
Wprowadzenie do problemu / definicja
Amazon ujawnił kampanię, w której atakujący wykorzystują agentów AI do automatyzacji rozpoznania i eksploatacji publicznie dostępnych aplikacji obsługujących modele językowe. Głównym celem operacji są klucze API przechowywane w narzędziach takich jak LiteLLM, Dify, One API, Langflow, RAGFlow, Open WebUI czy LobeChat.
To kolejny sygnał, że środowiska AI przestały być traktowane wyłącznie jako obszar eksperymentów. Dla napastników stały się atrakcyjnym zasobem, ponieważ często łączą w jednym miejscu dostęp do wielu usług, modeli i kont chmurowych.
W skrócie
- Atakujący skanowali internet w poszukiwaniu źle zabezpieczonych aplikacji AI i bramek LLM.
- Celem było przejmowanie, weryfikowanie i ponowne wykorzystywanie kluczy API dostawców usług AI.
- Kampania obejmowała użycie domyślnych poświadczeń, błędów uwierzytelniania, SSRF oraz wycieków sekretów z plików i artefaktów.
- Najgroźniejszym elementem nie jest sama nowość technik, lecz skala i tempo działań osiągnięte dzięki automatyzacji agentowej.
Kontekst / historia
Rosnąca popularność platform integrujących wielu dostawców modeli AI stworzyła nową klasę celów dla cyberprzestępców. Narzędzia pełniące rolę proxy dla modeli, paneli administracyjnych, frameworków RAG czy warstw integracyjnych gromadzą w jednym miejscu klucze dostępowe do wielu usług. W praktyce oznacza to, że pojedyncza podatna instancja może otworzyć drogę do szerszego ekosystemu aplikacyjnego i chmurowego.
W opisywanym przypadku analiza bazowała między innymi na danych z serwerów wabików imitujących popularne usługi LLM. Zarejestrowany ruch wskazywał, że atakujący korzystali z przygotowanego wcześniej zestawu procedur dla konkretnych produktów i znanych klas błędów. Kampania nie wyglądała więc na chaotyczny skan internetu, lecz na uporządkowaną operację nastawioną na szybkie wyszukiwanie i monetyzację źle chronionych środowisk.
Znaczenie tej kampanii wykracza poza same aplikacje AI. W tle pojawiają się także elementy związane z nadużyciami tokenów CI/CD, środowisk chmurowych oraz kont usługowych. Pokazuje to, że aplikacje AI są coraz częściej częścią większego łańcucha kompromitacji.
Analiza techniczna
Technicznie operacja opierała się na modelu agentowym. Operator wskazywał cel i zadanie, a system rozdzielał proces na kolejne etapy realizowane przez agentów roboczych. Taka architektura pozwala automatycznie prowadzić rekonesans, testować różne ścieżki dostępu, interpretować wyniki i dynamicznie dobierać następne kroki.
Wśród obserwowanych technik znalazły się zarówno błędy konfiguracyjne, jak i znane klasy podatności. Atakujący wykorzystywali mechanizmy, które w wielu organizacjach wciąż pozostają niedostatecznie monitorowane.
- użycie domyślnych poświadczeń administracyjnych i kluczy master,
- przejmowanie nieukończonych lub błędnie wystawionych instalacji,
- obchodzenie uwierzytelniania przy użyciu nagłówków aplikacyjnych,
- wykorzystanie SSRF przez funkcje pobierania zasobów URL,
- pozyskiwanie sekretów z plików środowiskowych, map źródeł, kodu po stronie klienta i tras debugowych,
- przeszukiwanie publicznych repozytoriów, obrazów kontenerowych, notebooków i innych źródeł pod kątem ujawnionych kluczy.
Po przejęciu sekretów klucze były testowane pod kątem poprawności, a następnie dodawane do puli wykorzystywanej w dalszych działaniach. To szczególnie niebezpieczny mechanizm, ponieważ przejęte zasoby AI mogą finansować kolejne etapy kampanii i zwiększać jej skalę bez konieczności ponoszenia kosztów przez napastników.
Badacze zwrócili również uwagę, że po uzyskaniu dostępu do poświadczeń chmurowych celem nie zawsze była pełna kompromitacja środowiska. W wielu przypadkach priorytetem pozostawał szybki dostęp do usług związanych z modelami AI, magazynów sekretów i tożsamości aplikacyjnych. To pokazuje zmianę priorytetów części operatorów, dla których większą wartość niż klasyczna eskalacja uprawnień ma bezpośredni dostęp do tokenów i infrastruktury inference.
Konsekwencje / ryzyko
Najbardziej oczywistym skutkiem takich działań jest kradzież kluczy API do usług AI. Może to prowadzić do nieautoryzowanego wykorzystania modeli, wzrostu kosztów, wyczerpania limitów oraz utraty kontroli nad środowiskiem integracyjnym. Jeżeli aplikacja łączy wielu dostawców, skala wpływu może być znacznie większa niż w przypadku pojedynczego wycieku.
Ryzyko nie ogranicza się jednak do samego obciążenia finansowego. Sekrety przechowywane w aplikacjach AI często współistnieją z poświadczeniami do chmury, baz danych, systemów monitoringu, narzędzi deweloperskich i pipeline’ów wdrożeniowych. W efekcie incydent może szybko rozwinąć się w szersze naruszenie obejmujące ruch boczny, utrzymanie dostępu i eksfiltrację danych.
Z perspektywy obrony kluczowe znaczenie ma tempo działania agentów AI. Nawet jeśli wykorzystywane techniki nie są nowe, automatyzacja znacząco skraca czas pomiędzy wystawieniem podatnej instancji a jej znalezieniem przez napastników. Organizacje opierające ochronę na ręcznych przeglądach konfiguracji i sporadycznej rotacji sekretów stają się przez to szczególnie podatne.
Rekomendacje
Organizacje korzystające z aplikacji AI powinny traktować je jak krytyczne systemy produkcyjne. Obejmuje to zarówno warstwę uwierzytelniania, jak i zarządzanie sekretami, monitorowanie anomalii oraz aktualizację komponentów.
- usunąć domyślne dane dostępowe i zabezpieczyć panele administracyjne przed publicznym dostępem,
- włączyć silne uwierzytelnianie, segmentację sieciową i kontrolę dostępu dla interfejsów zarządzania,
- wdrożyć centralne zarządzanie sekretami i zakazać przechowywania kluczy w kodzie oraz publicznych artefaktach,
- regularnie skanować repozytoria, obrazy kontenerowe, pipeline’y CI/CD i magazyny artefaktów pod kątem wycieków,
- monitorować nagłe wzrosty kosztów, liczbę wywołań modeli i nietypowy profil geograficzny użycia usług AI,
- aktualizować platformy takie jak LiteLLM, Langflow i RAGFlow oraz ograniczać zbędne funkcje pobierania zdalnych zasobów,
- stosować krótkowieczne tokeny o minimalnym zakresie uprawnień i pełnym logowaniu użycia.
W praktyce szczególnego znaczenia nabiera szybka rotacja ujawnionych kluczy oraz przegląd tożsamości maszynowych. Statyczne tokeny o szerokich uprawnieniach pozostają jednym z najłatwiejszych celów dla kampanii zautomatyzowanych.
Podsumowanie
Kampania ujawniona przez Amazon potwierdza, że aplikacje AI stały się pełnoprawnym celem działań ofensywnych. Dla atakujących największą wartość mają dziś nie tylko tradycyjne dane czy dostęp administracyjny, lecz także klucze API i tożsamości umożliwiające korzystanie z infrastruktury modeli.
Najważniejszy wniosek dla organizacji jest prosty: bezpieczeństwo środowisk AI musi być zarządzane z taką samą dyscypliną jak bezpieczeństwo chmury, systemów produkcyjnych i łańcucha dostaw oprogramowania. W przeciwnym razie nawet podstawowe błędy konfiguracyjne mogą zostać szybko wykryte i wykorzystane na dużą skalę.
Źródła
- https://thehackernews.com/2026/11/amazon-uncovers-ai-agent-campaign.html
- https://aws.amazon.com/security/security-bulletins/ai-agents-targeting-exposed-ai-applications-to-steal-api-keys/
- https://blog.cloudflare.com/
- https://www.microsoft.com/en-us/security/blog/
- https://www.ic3.gov/