
Wprowadzenie do problemu / definicja
Autonomiczne agenty AI coraz wyraźniej wychodzą poza zastosowania defensywne, analityczne i badawcze, stając się realnym elementem operacji ofensywnych. Opisany incydent pokazuje, że narzędzia tego typu potrafią już nie tylko automatyzować rekonesans czy skanowanie usług, ale także samodzielnie identyfikować błędy aplikacyjne, budować łańcuch eksploatacji i doprowadzać do przejęcia systemu.
W centrum sprawy znalazła się platforma Cairn, wykorzystywana do koordynacji wielu agentów AI, oraz luka zero-day w MONAI Label. Z perspektywy bezpieczeństwa to ważny sygnał ostrzegawczy: czas między rozpoznaniem środowiska a skutecznym atakiem może się dziś dramatycznie skrócić.
W skrócie
Badacze opisali operację, w której aktor powiązany z Chinami miał wykorzystać platformę Cairn do uzyskania dostępu do powłoki na wybranych celach. W jednym z przypadków agenty AI samodzielnie wykryły niezałataną podatność path traversal w MONAI Label, co umożliwiło zapis plików w dowolnej lokalizacji na serwerze.
Następnie wykorzystano mechanizm ładowania pliku sitecustomize.py, aby uruchomić reverse shell i przejąć kontrolę nad hostem z uprawnieniami roota. Cały incydent pokazuje, że ofensywne wykorzystanie agentów AI nie jest już koncepcją teoretyczną, lecz praktyką zdolną przyspieszyć pełny cykl ataku.
Kontekst / historia
Cairn to otwartoźródłowy framework zaprojektowany z myślą o badaniach i testach bezpieczeństwa. Umożliwia agentom AI planowanie kolejnych etapów działań na podstawie celu opisanego językiem naturalnym. W praktyce oznacza to, że operator może ograniczyć się do wydania prostego polecenia, a dobór technik pozostawić samemu systemowi.
W opisywanej kampanii śledztwo wskazało na działania prowadzone we wrześniu 2026 roku, skoncentrowane głównie na instytucjach edukacyjnych w Azji Wschodniej poza Chinami kontynentalnymi. Istotnym elementem dochodzenia był publicznie dostępny serwer z instancją Cairn, pozbawiony uwierzytelnienia, co umożliwiło analizę historii operacji, promptów oraz wyników pracy agentów.
Nie każda próba kończyła się sukcesem. W innych przypadkach agenty przez wiele godzin testowały różne techniki przejęcia usług, prowadziły credential spraying i próbowały eskalować uprawnienia, lecz bez powodzenia. To ważne zastrzeżenie: skuteczność takich systemów nie jest pełna, jednak ich skala działania, cierpliwość i tempo znacząco zwiększają presję na zespoły obronne.
Analiza techniczna
Kluczowym elementem incydentu było odkrycie podatności zero-day w MONAI Label, aplikacji open source używanej do anotacji obrazowania medycznego z wykorzystaniem AI. Agenty rozpoczęły od identyfikacji stosu technologicznego i mapowania endpointów API, a następnie skupiły się na funkcjach odpowiedzialnych za przesyłanie plików.
Analiza parametru nazwy pliku doprowadziła do wykrycia błędu path traversal. W praktyce oznaczało to możliwość zapisu plików poza przewidzianym katalogiem roboczym aplikacji, czyli uzyskanie primitive typu arbitrary file write. Według opisu incydentu przejście od rozpoznania API do skutecznej eksploatacji zajęło około 11 minut.
W kolejnym etapie wykorzystano sposób działania interpretera Pythona, który przy starcie może automatycznie ładować plik sitecustomize.py. Agenty zapisały w nim ładunek reverse shell, a następnie wywołały endpoint treningowy aplikacji, uruchamiający nowy proces Pythona. To doprowadziło do wykonania złośliwego kodu i ustanowienia połączenia zwrotnego z uprawnieniami roota.
- rozpoznanie interfejsu API i identyfikacja logiki aplikacji,
- wykrycie podatnego parametru wejściowego,
- wykorzystanie path traversal do arbitralnego zapisu plików,
- umieszczenie payloadu w ścieżce automatycznie ładowanej przez interpreter,
- wymuszenie wykonania kodu przez legalny mechanizm aplikacyjny.
Szczególnie niepokojące jest to, że po udanym wykorzystaniu luki operator miał skierować agentów na kolejne środowiska korzystające z tego samego oprogramowania. Sugeruje to szybkie przejście od jednorazowego sukcesu technicznego do skalowalnego modelu ponownego użycia.
Konsekwencje / ryzyko
Najpoważniejszą konsekwencją tego incydentu jest skrócenie czasu potrzebnego na pełny cykl ataku. To, co wcześniej wymagało istotnego zaangażowania analityka lub operatora, może dziś zostać w znacznej części zautomatyzowane przez współpracujące agenty AI.
Dla organizacji przekłada się to na kilka praktycznych ryzyk:
- szybsze wykorzystanie nowych, nieudokumentowanych podatności,
- większą liczbę iteracji ataku bez zmęczenia po stronie operatora,
- możliwość długotrwałego i adaptacyjnego testowania różnych technik przejęcia,
- łatwiejsze skalowanie kampanii przeciw wielu podobnym celom,
- presję na skrócenie czasu detekcji oraz reakcji.
Szczególnie narażone pozostają uczelnie, laboratoria, środowiska badawcze oraz organizacje korzystające ze specjalistycznych aplikacji open source, które nie zawsze przechodzą pełny proces hardeningu. Jeśli podatna usługa działa z podwyższonymi uprawnieniami lub ma dostęp do istotnych zasobów, skutkiem może być pełna kompromitacja hosta, kradzież danych, ruch boczny lub wykorzystanie infrastruktury do dalszych operacji.
Rekomendacje
Incydent z MONAI Label i Cairn powinien skłonić organizacje do przeglądu zarówno bezpieczeństwa aplikacji AI, jak i gotowości operacyjnej zespołów bezpieczeństwa. Kluczowe jest założenie, że przeciwnik może działać szybciej i bardziej konsekwentnie niż tradycyjny operator.
- niezwłocznie aktualizować MONAI Label i podobne komponenty open source,
- audytować endpointy uploadu pod kątem path traversal oraz arbitrary file write,
- ograniczać uprawnienia procesów zgodnie z zasadą najmniejszych uprawnień,
- monitorować nieoczekiwane modyfikacje plików takich jak
sitecustomize.pyi innych ścieżek autoload, - wdrażać EDR lub XDR z detekcją nietypowego uruchamiania procesów Pythona oraz reverse shelli,
- segmentować sieć, aby ograniczyć możliwość ruchu bocznego po przejęciu hosta,
- zabezpieczać narzędzia testowe i badawcze przed publicznym dostępem bez uwierzytelnienia,
- automatyzować reakcję na alerty o wysokiej pewności.
Po stronie deweloperskiej warto dodatkowo wdrożyć walidację i normalizację ścieżek plików, bezpieczne operacje na katalogach roboczych, testy bezpieczeństwa obejmujące nadużycia funkcji uploadu oraz code review ukierunkowany na primitive prowadzące do zapisu plików i wykonania kodu.
Podsumowanie
Przypadek Cairn pokazuje wyraźne przejście od teoretycznych rozważań o wykorzystaniu AI w cyberatakach do realnych, udokumentowanych działań ofensywnych. Najważniejsze nie jest wyłącznie samo istnienie luki zero-day, lecz to, że została ona odnaleziona i wykorzystana w bardzo krótkim czasie przez system działający przy ograniczonym nadzorze człowieka.
Dla obrońców oznacza to konieczność dalszej automatyzacji detekcji, poprawy telemetrii oraz skrócenia czasu reakcji. W nowym modelu zagrożeń przewagę zyskają te organizacje, które połączą szybkie zarządzanie podatnościami z twardym hardeningiem środowisk i natychmiastową reakcją na anomalie w aplikacjach oraz procesach wykonawczych.
Źródła
- https://www.bleepingcomputer.com/news/security/hackers-use-autonomous-ai-tool-cairn-to-find-zero-day-take-over-server/
- https://aws.amazon.com/blogs/security/chinese-nexus-actors-cairn-ai-agents-found-a-zero-day-on-their-own/
- https://github.com/Project-MONAI/MONAILabel/security/advisories/GHSA-qc22-rmgc-vg94