Co znajdziesz w tym artykule?
Wprowadzenie do problemu / definicja
Wykorzystanie generatywnej sztucznej inteligencji w cyberbezpieczeństwie nie ogranicza się już wyłącznie do zastosowań defensywnych. Najnowsze ustalenia branżowe wskazują, że modele AI są coraz częściej używane przez aktorów zagrożeń do wspierania realnych operacji ofensywnych, obejmujących rekonesans, analizę danych, generowanie kodu, przygotowanie kampanii wymuszeń oraz działania po uzyskaniu dostępu do środowiska ofiary.
Kluczowa zmiana polega na tym, że AI przestaje być jedynie narzędziem pomocniczym do tworzenia treści czy skryptów. Coraz częściej staje się elementem operacyjnym, który może wykonywać lub przyspieszać istotne etapy ataku.
W skrócie
- Raporty Anthropic i OpenAI pokazują, że cyberprzestępcy łączą modele AI z klasycznymi narzędziami ofensywnymi.
- Opisane przypadki obejmują wsparcie rekonesansu, pozyskiwania poświadczeń, eksfiltracji danych oraz przygotowania żądań okupu.
- Modele agentowe zwiększają poziom automatyzacji, umożliwiając iteracyjne działanie z ograniczonym nadzorem człowieka.
- Nadużycia mają zwykle charakter wieloplatformowy i obejmują kilka usług, narzędzi oraz źródeł danych jednocześnie.
Kontekst / historia
Przez długi czas dyskusja o zagrożeniach związanych z AI koncentrowała się głównie na scenariuszach teoretycznych, takich jak generowanie phishingu, tworzenie prostych skryptów czy automatyzacja socjotechniki. Z czasem obserwacje dostawców modeli zaczęły jednak wskazywać na bardziej zaawansowane i praktyczne zastosowania po stronie przestępczej.
Według opisywanych analiz, sprawcy wykorzystują AI nie tylko do tworzenia pojedynczych artefaktów, ale także do wspierania całych kampanii. Wśród przykładów pojawiają się wymuszenia oparte na kradzieży danych, oszustwa związane z fałszywym zatrudnieniem, a także tworzenie komponentów ransomware przez osoby o niższych kompetencjach technicznych.
Dalsza ewolucja tego zjawiska obejmuje kampanie, w których model agentowy realizuje znaczną część działań operacyjnych przy ograniczonej interwencji człowieka. To istotne przejście od modelu „AI-assisted”, czyli wspomagania operatora, do „AI-enabled” lub nawet częściowo „AI-orchestrated”, gdzie AI uczestniczy w organizowaniu przebiegu ataku.
Analiza techniczna
Najważniejszym wnioskiem technicznym jest rosnące znaczenie modeli agentowych. Tego typu systemy potrafią działać iteracyjnie, korzystać z narzędzi zewnętrznych, analizować wyniki własnych działań i podejmować kolejne kroki bez konieczności stałego nadzoru operatora. W praktyce oznacza to możliwość osadzenia modelu w frameworku automatyzującym poszczególne fazy intruzji.
W opisywanych scenariuszach AI wspierało rozpoznanie celu, analizę zasobów wystawionych do internetu, pozyskiwanie poświadczeń, wybór danych do eksfiltracji oraz przygotowanie komunikatów wymuszających okup. Istotne jest to, że model nie był używany wyłącznie do generowania pojedynczych komend. Mógł otrzymywać preferowane taktyki i procedury operatora, a następnie uczestniczyć w podejmowaniu decyzji dotyczących dalszego przebiegu kampanii.
W bardziej zaawansowanych przypadkach mechanizm działania opierał się na połączeniu trzech elementów: zdolności modelu do rozumienia złożonych instrukcji, działania agentowego oraz integracji z narzędziami zewnętrznymi. Po podziale zadania na serię pozornie neutralnych kroków model mógł realizować rekonesans, identyfikować wartościowe systemy, badać podatności, wspierać tworzenie kodu exploita, analizować wykradzione dane i dokumentować wyniki.
Z perspektywy obrońców ważny jest także wątek wieloplatformowego nadużycia. Sprawcy mogą wykorzystywać różne modele do odmiennych zadań, na przykład jeden do tworzenia wiadomości socjotechnicznych, inny do analizy danych, a kolejny do wsparcia kodowania lub automatyzacji pracy. Oznacza to, że pojedyncza sesja promptów lub analiza jednego dostawcy nie daje pełnego obrazu ryzyka.
Jednocześnie obecne modele nadal mają ograniczenia. Mogą błędnie interpretować kontekst, halucynować dane lub niepoprawnie oceniać skuteczność swoich działań. Nie eliminuje to zagrożenia, ale pokazuje, że pełna autonomizacja ataków wciąż napotyka istotne bariery jakościowe. Mimo to już aktualny poziom rozwoju AI wystarcza do przyspieszenia i skalowania kampanii.
Konsekwencje / ryzyko
Najpoważniejszym skutkiem jest obniżenie progu wejścia do bardziej zaawansowanej cyberprzestępczości. Zadania, które wcześniej wymagały większych kompetencji technicznych lub pracy zespołowej, mogą być dziś częściowo realizowane przez pojedynczego sprawcę wspieranego przez model agentowy.
Drugie ryzyko dotyczy skali działań. Systemy AI mogą wykonywać dużą liczbę iteracji w krótkim czasie, co zwiększa tempo rekonesansu, testowania podatności i opracowywania nowych wariantów ataku. Dla zespołów SOC oznacza to większą presję związaną z wykrywaniem szybkich, częściowo zautomatyzowanych incydentów.
Trzecim zagrożeniem jest wyższy poziom personalizacji. Jeśli model analizuje dane organizacyjne, finansowe lub osobowe ofiary, może generować bardziej wiarygodne wiadomości phishingowe, skuteczniejsze żądania okupu i bardziej dopracowane scenariusze szantażu. To zwiększa zarówno presję operacyjną, jak i ryzyko reputacyjne.
Rosną również zagrożenia związane z legalnymi narzędziami produktywnościowymi i deweloperskimi. Agentowe AI z dostępem do repozytoriów, terminali, środowisk wykonawczych czy danych wewnętrznych może stać się atrakcyjnym celem po przejęciu konta, błędnej konfiguracji lub obejściu polityk bezpieczeństwa.
Rekomendacje
Organizacje powinny traktować agentowe AI jako nową warstwę ryzyka operacyjnego i uwzględnić ją w modelowaniu zagrożeń, detekcji oraz reagowaniu na incydenty. Szczególnie ważne jest monitorowanie użycia narzędzi AI przez konta uprzywilejowane, deweloperskie i użytkowników mających dostęp do danych wrażliwych.
- Wdrożyć zasadę minimalnych uprawnień dla integracji AI z systemami wewnętrznymi.
- Ograniczyć domyślny dostęp agentów AI do repozytoriów produkcyjnych, baz danych, sekretów i systemów administracyjnych.
- Rozwijać detekcję behawioralną zamiast polegać wyłącznie na sygnaturach promptów i słowach kluczowych.
- Korelować telemetrię z EDR, IAM, poczty, proxy, DLP, narzędzi deweloperskich i platform AI.
- Kontrolować użycie AI generującej kod oraz polecenia terminalowe w środowiskach DevSecOps.
- Rozszerzyć playbooki IR o scenariusze intruzji i wymuszeń wspieranych przez AI.
- Utrzymywać ścisłą współpracę z dostawcami usług AI w zakresie audytu, logowania aktywności i zgłaszania nadużyć.
W praktyce warto również zwracać uwagę na nietypowe sekwencje działań, takie jak masowy rekonesans, automatyczne pobieranie danych, szybkie generowanie skryptów administracyjnych czy nienaturalnie wysokie tempo iteracji poleceń w środowiskach terminalowych i deweloperskich.
Podsumowanie
Raporty Anthropic i OpenAI pokazują, że sztuczna inteligencja staje się realnym akceleratorem cyberprzestępczości. Najważniejsza zmiana dotyczy przejścia od prostego wsparcia operatora do częściowej automatyzacji całych etapów ataku, obejmujących rekonesans, tworzenie kodu, analizę wykradzionych danych i przygotowanie wymuszeń.
Dla obrońców oznacza to konieczność aktualizacji modeli zagrożeń, polityk dostępu oraz mechanizmów detekcji. Agentowe AI należy traktować jednocześnie jako szansę dla automatyzacji obrony i jako nową powierzchnię nadużycia, która wymaga ścisłego nadzoru, segmentacji dostępu i pełnej obserwowalności działań.
Źródła
- Anthropic — Detecting and countering misuse of AI: August 2025 — https://www.anthropic.com/news/detecting-countering-misuse-aug-2025
- Anthropic — Threat Intelligence Report: August 2025 — https://www-cdn.anthropic.com/b2a76c6f6992465c09a6f2fce282f6c0cea8c200.pdf
- OpenAI — Disrupting malicious uses of AI — https://openai.com/index/disrupting-malicious-ai-uses/
- Anthropic — Disrupting the first reported AI-orchestrated cyber espionage campaign — https://www.anthropic.com/news/disrupting-AI-espionage