Amazon ujawnia kampanię agentów AI wymierzoną w LiteLLM, Dify i platformy LLM w celu kradzieży kluczy API - Security Bez Tabu

Amazon ujawnia kampanię agentów AI wymierzoną w LiteLLM, Dify i platformy LLM w celu kradzieży kluczy API

Cybersecurity news

Wprowadzenie do problemu / definicja

Automatyzacja ofensywnych działań z użyciem agentów AI staje się jednym z najważniejszych trendów we współczesnym cyberbezpieczeństwie. Najnowsze ustalenia pokazują, że napastnicy wykorzystują wieloagentowe frameworki oparte na dużych modelach językowych do masowego wyszukiwania błędnie skonfigurowanych aplikacji AI, przejmowania zapisanych w nich sekretów oraz dalszego skalowania operacji.

Na celowniku znalazły się zwłaszcza platformy pośredniczące między użytkownikami a dostawcami modeli, takie jak LiteLLM, Dify, One API, Langflow, RAGFlow, Open WebUI czy LobeChat. Z perspektywy atakującego są to cele o wysokiej wartości, ponieważ jedna kompromitacja może zapewnić dostęp do wielu kluczy API, danych uwierzytelniających i usług chmurowych.

W skrócie

Badacze opisali kampanię, w której agenci AI skanowali publicznie dostępne aplikacje i panele administracyjne, aby identyfikować słabe punkty oraz kraść klucze dostawców modeli. Zebrane artefakty wskazują, że operatorzy wykorzystywali serwery-pułapki do interakcji z agentami i przechwytywali historię ich działań, w tym instrukcje, workflow oraz raportowane wyniki.

  • celem były aplikacje AI i bramki LLM wystawione do internetu,
  • agenci wyszukiwali domyślne poświadczenia, błędne konfiguracje i ścieżki debugowe,
  • atak obejmował także odczyt sekretów z kodu klienta, plików środowiskowych i źródeł publicznych,
  • w części przypadków wykorzystywano SSRF do prób pobierania metadanych chmurowych,
  • skradzione klucze mogły służyć do nadużywania usług AI oraz dalszej penetracji środowisk.

Kontekst / historia

Opisana aktywność wpisuje się w szerszy trend uprzemysłowienia ataków wspieranych przez AI. Zamiast ręcznej eksploatacji lub pojedynczych skryptów, napastnicy wdrażają architektury agentowe, w których jeden komponent planuje działania, a kolejne wykonują zadania rozpoznania, walidacji sekretów i eskalacji dostępu.

Takie podejście znacząco zwiększa tempo operacji oraz zdolność do równoległego badania wielu celów. Szczególnie atrakcyjne są aplikacje agregujące dostęp do wielu modeli i usług, ponieważ przechowują klucze API różnych dostawców, oferują interfejsy administracyjne oraz integrują się z infrastrukturą chmurową i pipeline’ami deweloperskimi.

Dodatkowego znaczenia sprawie nadają obserwacje dotyczące podobnych narzędzi wykorzystywanych do wyszukiwania sekretów, nadużywania tokenów CI/CD oraz prób utrwalania dostępu w środowiskach chmurowych. Sugeruje to, że nie chodzi o pojedynczy incydent, lecz o rozwijający się ekosystem ofensywnych narzędzi opartych na AI.

Analiza techniczna

Z przechwyconych zapisów wynika, że operator definiował cel i zadanie, a agent planujący dzielił je na mniejsze kroki wykonywane przez agentów roboczych. Model językowy analizował wyniki narzędzi bezpieczeństwa i wskazywał kolejne działania, co w praktyce tworzyło półautonomiczny system pentesterski używany po stronie atakującego.

W kampanii wykorzystywano zarówno aktywne skanowanie usług, jak i pasywne pozyskiwanie sekretów z publicznie dostępnych zasobów. Oznacza to połączenie klasycznych błędów bezpieczeństwa z nową skalą automatyzacji i konsekwencji działania.

  • identyfikacja publicznie dostępnych aplikacji AI i bramek LLM,
  • próby logowania z użyciem domyślnych danych administracyjnych,
  • przejmowanie nieukończonych instalacji i błędnie wystawionych paneli konfiguracyjnych,
  • wykorzystywanie braków autoryzacji i obejścia uwierzytelnienia,
  • odczyt sekretów z plików środowiskowych, skryptów wdrożeniowych, kodu JavaScript i source map,
  • wykorzystywanie SSRF do prób dostępu do usług metadanych chmurowych,
  • walidacja skradzionych kluczy API i dodawanie ich do wspólnej puli do dalszych operacji.

Wśród wskazanych wektorów pojawiły się między innymi domyślny klucz główny LiteLLM, obejście uwierzytelniania w rodzinie One API z użyciem nagłówka isCliRequest, a także znane problemy bezpieczeństwa w Langflow i RAGFlow. W przypadku Langflow chodzi o lukę umożliwiającą zdalne wykonanie kodu bez uwierzytelnienia w starszych wersjach, natomiast w RAGFlow opisano SSTI pozwalające zalogowanemu użytkownikowi wykonywać polecenia systemowe, co przy otwartej rejestracji znacząco obniża próg wejścia dla atakującego.

Agenci przeszukiwali również repozytoria kodu, pakiety npm i PyPI, obrazy kontenerowe, notatniki, przestrzenie hostujące modele, archiwa zdarzeń, serwisy paste i kanały komunikacyjne w poszukiwaniu wycieków kluczy. To pokazuje, że atak nie ograniczał się do skanowania hostów, lecz obejmował szerszy proces huntingu sekretów.

Konsekwencje / ryzyko

Najbardziej bezpośrednim skutkiem takich działań jest kradzież kluczy API do usług AI, co może prowadzić do kosztownych nadużyć finansowych. Atakujący są w stanie uruchamiać modele na cudzy rachunek, a przy tym wykorzystywać zdobyte dane do dalszych ataków.

W środowiskach firmowych ryzyko jest znacznie szersze, ponieważ aplikacje AI często przechowują nie tylko klucze do inferencji, ale także dane dostępowe do chmury, baz danych, narzędzi CI/CD, magazynów sekretów i usług integracyjnych. Kompromitacja jednej platformy może więc uruchomić efekt domina.

  • wzrost kosztów wykorzystania modeli i zasobów chmurowych,
  • utrata poufności danych przetwarzanych przez aplikacje AI,
  • przejęcie kont usługowych i tożsamości aplikacyjnych,
  • ruch boczny do innych segmentów środowiska,
  • utrwalenie dostępu przez modyfikację skryptów, workflow lub konfiguracji,
  • wykorzystanie skradzionych zasobów do ataków na partnerów i klientów.

Szczególnie niebezpieczne są scenariusze, w których platforma AI pełni rolę centralnego agregatora wielu dostawców i zespołów. W takim modelu pojedyncza kompromitacja oznacza wysoką koncentrację ryzyka i duży promień rażenia dla całej organizacji.

Rekomendacje

Organizacje korzystające z aplikacji AI, bramek LLM i platform orkiestracji modeli powinny traktować je jak pełnoprawne systemy produkcyjne o podwyższonym ryzyku. Priorytetem jest ograniczenie ekspozycji sekretów, wymuszenie silnej autoryzacji oraz stałe monitorowanie anomalii.

  • natychmiast zmienić domyślne poświadczenia administracyjne i sprawdzić, czy żadne wdrożenie nie pozostało w stanie nieukończonej konfiguracji,
  • zaktualizować podatne komponenty i zweryfikować wersje używanych platform,
  • wymusić uwierzytelnienie na wszystkich panelach administracyjnych, endpointach zarządzania i interfejsach inferencyjnych,
  • przeprowadzić audyt sekretów w repozytoriach, plikach konfiguracyjnych, obrazach kontenerowych i pipeline’ach CI/CD,
  • rotować wszystkie klucze API i tokeny, które mogły zostać ujawnione,
  • wdrożyć ograniczenia IP, daty wygaśnięcia oraz minimalne uprawnienia dla tokenów i kont usługowych,
  • monitorować nietypowe wykorzystanie modeli AI, nagłe wzrosty kosztów i anomalie liczby wywołań,
  • analizować logi pod kątem prób SSRF, użycia debug routes oraz podejrzanych skryptów roboczych,
  • objąć aplikacje AI standardowym procesem hardeningu, segmentacji sieci, testów bezpieczeństwa i zarządzania podatnościami.

Dobrą praktyką jest także rozdzielenie kluczy według aplikacji, środowiska i właściciela biznesowego. Ogranicza to skutki incydentu oraz utrudnia atakującym rozszerzenie dostępu na kolejne systemy.

Podsumowanie

Kampania opisana przez badaczy pokazuje, że agentowe narzędzia AI stają się akceleratorem znanych technik ataku, szczególnie w ekosystemie aplikacji przechowujących wiele kluczy API i integracji chmurowych. Głównym celem napastników nie są wyłącznie same modele, lecz przede wszystkim sekrety umożliwiające monetyzację, ruch boczny i dalszą kompromitację środowiska.

Dla obrońców najważniejszy wniosek jest prosty: platformy AI muszą być chronione tak samo rygorystycznie jak krytyczne systemy produkcyjne. W epoce agentów AI nawet podstawowe zaniedbania konfiguracyjne mogą zostać wykryte i wykorzystane znacznie szybciej niż dotychczas.

Źródła