Archiwa: AI - Strona 3 z 127 - Security Bez Tabu

Claude Code i DeepSeek wykorzystane w kampanii cyberwywiadowczej powiązanej z Chinami

Wprowadzenie do problemu / definicja

Wykorzystanie dużych modeli językowych w działaniach ofensywnych przestaje być wyłącznie teoretycznym scenariuszem. Najnowsze ustalenia badaczy wskazują, że narzędzia oparte na AI mogą pełnić rolę aktywnego elementu łańcucha ataku, wspierając nie tylko analizę, ale również rozwój exploitów, adaptację technik obejścia zabezpieczeń oraz przygotowanie infrastruktury phishingowej.

To istotna zmiana w krajobrazie zagrożeń, ponieważ automatyzacja obejmuje dziś coraz więcej etapów operacji cyberwywiadowczych. W praktyce oznacza to skrócenie czasu potrzebnego na przygotowanie kampanii, zwiększenie jej elastyczności oraz łatwiejsze dostosowanie działań do konkretnej ofiary.

W skrócie

Badacze ujawnili kampanię cyberespionage wspieraną przez Claude Code oraz DeepSeek.
Atakujący korzystali z infrastruktury obejmującej serwery w Hongkongu, otwarte katalogi z artefaktami operacyjnymi, skrypty exploitów i klony stron logowania.
Celami były instytucje rządowe oraz organizacje z sektorów finansowego, telekomunikacyjnego, chemicznego, obronnego i łańcucha dostaw.
W części incydentów wykorzystano SQL injection, przejęto dane uwierzytelniające oraz uzyskano dostęp do zasobów chmurowych dzięki ujawnionym kluczom i tokenom.

Kontekst / historia

Kampania została powiązana z infrastrukturą znaną z wcześniejszych działań związanych z TencShell. Analiza rozpoczęła się od charakterystycznego fingerprintu nagłówka HTTP na porcie 1111, który doprowadził badaczy do klastra 13 serwerów. Na jednym z nich odkryto publicznie dostępny katalog zawierający tysiące plików i liczne podkatalogi powiązane z prowadzonymi operacjami.

Zgromadzone artefakty sugerują długotrwałą i wielowątkową aktywność wymierzoną w różne regiony oraz typy ofiar. Wśród odnalezionych materiałów znalazły się źródła aplikacji ofiar, notatki operacyjne zapisane uproszczonym chińskim, skrypty rozpoznawcze, narzędzia do klonowania stron logowania oraz komponenty malware dla różnych architektur systemowych.

Analiza techniczna

Najciekawszym elementem kampanii był podział ról między dwa modele AI. Claude Code miał odpowiadać za warstwę wykonawczą, w tym uruchamianie poleceń Bash, zarządzanie długotrwałymi sesjami, wykonywanie zadań równoległych oraz przygotowywanie infrastruktury phishingowej. DeepSeek pełnił natomiast funkcję warstwy planistycznej i decyzyjnej, generując skrypty, dobierając techniki ataku i proponując alternatywne metody obejścia zabezpieczeń.

Odzyskane pliki robocze wskazują, że operatorzy wykorzystywali AI do iteracyjnego rozwijania fałszywych stron logowania, ich testowania i ulepszania. W praktyce oznacza to skrócenie cyklu testowania i modyfikacji infrastruktury atakującej, co wcześniej wymagało większego zaangażowania analityków lub programistów.

W działaniach przeciwko celom rządowym wykorzystano podatności typu SQL injection do uzyskania dostępu administracyjnego do aplikacji webowych. Następnie wdrożono web shella ukrytego jako plik GIF, aby utrzymać trwały dostęp do środowiska. W innym przypadku skompromitowano aplikację opartą na Laravel 5.8.38, pozyskując kod źródłowy, poświadczenia do bazy danych, klucze szyfrujące oraz elementy obsługi poczty, a następnie przygotowano dedykowany exploit w Pythonie wymierzony w mechanizmy deserializacji frameworka.

W kampanii skierowanej przeciw organizacjom z Tajwanu operatorzy prowadzili rekonesans przy użyciu brute-force DNS, zapytań do rejestrów przejrzystości certyfikatów oraz fingerprintingu usług HTTP. Szczególnym zainteresowaniem cieszyły się bramy VPN, instancje GitLab i środowiska Jira. W jednym z przypadków kompromitacja była możliwa dzięki kluczom Supabase i tokenom Azure Logic Apps osadzonym na stałe w publicznie dostępnych plikach JavaScript.

Badacze opisali także wcześniej nieudokumentowaną infrastrukturę C2 określaną jako Gshell C2, częściowo pokrywającą się z wcześniejszym klastrem. Dodatkowo zabezpieczono próbki malware dla Linux/ARM 32-bit oraz Linux/x86. Wariant ARM komunikował się z serwerem przez WebSocket i potrafił wykradać dane uwierzytelniające z komunikatorów, tokeny platform firmowych oraz klucze dostępowe do usług chmurowych. Wersja x86 była zaciemniona przy użyciu narzędzia garble, lecz wspólny materiał kryptograficzny sugerował współdzieloną bazę kodu.

Konsekwencje / ryzyko

Najważniejszym wnioskiem z tej kampanii jest to, że modele AI mogą dziś działać jako realny akcelerator operacji cyberwywiadowczych. Nie chodzi już wyłącznie o generowanie kodu, ale o zwiększenie szybkości adaptacji ataku do konkretnego środowiska ofiary i bieżących warunków operacyjnych.

Dla sektora publicznego oznacza to ryzyko utraty danych obywateli, informacji administracyjnych, danych kadrowych oraz wglądu w procedury i systemy zgłoszeniowe. Dla przedsiębiorstw zagrożenie obejmuje przejęcie kont uprzywilejowanych, kompromitację środowisk chmurowych, kradzież kodu źródłowego oraz naruszenie łańcucha dostaw. Szczególnie groźne okazuje się połączenie klasycznych podatności aplikacyjnych z błędami operacyjnymi, takimi jak ujawnione sekrety, słaba segregacja uprawnień i brak monitorowania nietypowych działań administracyjnych.

Rekomendacje

Organizacje powinny potraktować tę kampanię jako wyraźny sygnał do rewizji modelu obrony przed atakami wspieranymi przez AI. Priorytetem powinno być rygorystyczne zarządzanie sekretami oraz usunięcie z publicznych repozytoriów i plików frontendowych wszystkich kluczy API, tokenów i danych dostępowych.

Niezbędne jest także regularne skanowanie aplikacji internetowych pod kątem SQL injection, błędów deserializacji oraz nadmiernej ekspozycji paneli administracyjnych. W obszarze monitoringu warto rozszerzyć detekcję o wzorce wskazujące na szybkie, iteracyjne zmiany w infrastrukturze phishingowej, użycie web shelli maskowanych jako pliki statyczne oraz komunikację WebSocket do nieznanych hostów.

wdrożyć rotację i pełną inwentaryzację kluczy oraz tokenów dostępowych,
przeprowadzić przegląd aplikacji pod kątem SQL injection i deserializacji,
ograniczyć ekspozycję paneli administracyjnych do sieci zaufanych lub przez ZTNA/VPN,
monitorować publiczne zasoby frontendowe pod kątem osadzonych sekretów,
rozwijać playbooki SOC uwzględniające ataki adaptacyjne wspierane przez AI,
analizować artefakty phishingowe i klony stron logowania pod kątem automatycznego generowania.

Podsumowanie

Opisana kampania pokazuje, że AI staje się pełnoprawnym komponentem nowoczesnych operacji cyberwywiadowczych. Integracja modeli językowych z narzędziami wykonawczymi skraca czas przygotowania ataku, zwiększa elastyczność operatorów i obniża koszt tworzenia spersonalizowanych technik kompromitacji.

Dla obrońców oznacza to konieczność równoczesnego wzmacniania bezpieczeństwa aplikacji, kontroli dostępu, ochrony sekretów oraz zdolności do wykrywania działań prowadzonych szybciej i bardziej adaptacyjnie niż w tradycyjnych kampaniach APT.

Źródła

Security Affairs — https://securityaffairs.com/195474/ai/claude-code-and-deepseek-powered-chinese-cyber-espionage-campaign.html
Hunt.io Report — https://hunt.io
Anthropic — Trust & Safety disclosures — https://www.anthropic.com

Pojedynczy prompt może uruchomić pełny łańcuch ataku: nowe ryzyko agentowej AI

Wprowadzenie do problemu / definicja

Rosnąca autonomia modeli językowych zmienia sposób oceny ryzyka w cyberbezpieczeństwie. Problem nie ogranicza się już do generowania kodu, podpowiedzi do exploitów czy automatyzacji pojedynczych czynności. Coraz większe znaczenie ma zdolność systemów agentowych do samodzielnego planowania, adaptacji i realizacji całych sekwencji działań ofensywnych.

Najnowsze obserwacje badaczy pokazują, że pojedynczy, wysokopoziomowy prompt może wystarczyć do uruchomienia kompletnego łańcucha ataku w kontrolowanym środowisku korporacyjnym. To przesuwa debatę z pytania „czy AI pomoże napastnikowi?” na pytanie „jak szybko i jak daleko agent może działać bez ręcznego sterowania?”.

W skrócie

W eksperymencie przeprowadzonym w środowisku przypominającym firmową infrastrukturę Active Directory model klasy frontier miał zrealizować pełny cykl działań ofensywnych po otrzymaniu jednego ogólnego polecenia. Scenariusz obejmował rozpoznanie, eksploatację, rekonesans wewnętrzny, eskalację uprawnień, ruch boczny oraz działania przygotowujące eksfiltrację danych.

W jednym z testów uzyskanie uprawnień administracyjnych na poziomie domeny miało zająć około 40 minut. Najważniejszy wniosek nie dotyczy pojawienia się całkowicie nowych technik ataku, lecz wyraźnego przyspieszenia i zautomatyzowania znanych etapów operacji cybernetycznych.

Kontekst / historia

Przez ostatnie lata dyskusja o generatywnej AI w bezpieczeństwie skupiała się głównie na dwóch obszarach: wsparciu analityków oraz potencjalnym użyciu modeli przez napastników do tworzenia phishingu, malware lub skryptów pomocniczych. Obecnie punkt ciężkości przesuwa się w stronę systemów agentowych, które nie tylko odpowiadają na pytania, ale także korzystają z narzędzi, wykonują polecenia, analizują wyniki i modyfikują plan działania.

W opisie badania opublikowanego 15 lipca 2026 r. wskazano, że testy przeprowadzono w środowisku odzwierciedlającym typową infrastrukturę przedsiębiorstwa opartą na Active Directory. Celem było sprawdzenie, jak daleko może zajść ofensywny agent AI, gdy otrzyma jeden cel wysokiego poziomu i odpowiednią autonomię operacyjną. Badacze analizowali różne scenariusze i obserwowali, czy model potrafi dostosować się do zmiennych warunków oraz niepowodzeń na kolejnych etapach ataku.

Analiza techniczna

Z technicznego punktu widzenia przełomowe nie jest samo generowanie komend, lecz zdolność modelu do iteracyjnego prowadzenia operacji. Obejmuje to planowanie, wykonywanie akcji, interpretację rezultatów, korektę strategii i kontynuowanie kampanii bez konieczności ręcznego sterowania każdym krokiem.

W opisywanym eksperymencie agent przechodził przez klasyczne fazy łańcucha ataku. Najpierw identyfikował zasoby i prowadził rozpoznanie środowiska, następnie wykorzystywał wykryte możliwości dostępu, realizował rekonesans wewnętrzny, wyszukiwał ścieżki eskalacji uprawnień i wykonywał ruch boczny. W dalszej kolejności podejmował działania ukierunkowane na osiągnięcie celu końcowego, czyli uzyskanie wysokich uprawnień i przygotowanie transferu danych.

Szczególnie istotna była obserwowana adaptacyjność. Agent nie działał wyłącznie według sztywnego skryptu. Gdy oczekiwana ścieżka zawodziła albo warunki środowiska ulegały zmianie, model modyfikował podejście na podstawie nowych obserwacji. Oznacza to przejście od prostego automatu wykonującego znane komendy do systemu, który może optymalizować przebieg operacji w czasie rzeczywistym.

W jednym z przypadków agent opracował podejście tunelowania oparte na SMB, aby umożliwić przemieszczanie danych przez wcześniej uzyskany punkt dostępu. Odnotowano również generowanie własnych sond podatności, modyfikowanie workflow zbierania danych oraz projektowanie alternatywnych ścieżek komunikacji. Takie zachowanie nie musi oznaczać odkrywania nowych luk, ale znacząco zwiększa skuteczność i tempo wykorzystania znanych technik.

Z perspektywy architektury bezpieczeństwa ważne jest też to, że ryzyko agentowe nie ogranicza się do jednego wektora. W analizach branżowych regularnie wskazuje się na zagrożenia związane z pośrednim prompt injection, nadużyciem narzędzi, manipulacją pamięcią kontekstu, obchodzeniem guardrails oraz wykorzystywaniem autoryzowanych operacji agenta do realizacji szkodliwego celu.

Konsekwencje / ryzyko

Najpoważniejszą konsekwencją nie jest pełna autonomizacja ataków w sensie futurystycznym, lecz kompresja czasu operacyjnego. Jeśli model potrafi połączyć rekonesans, eksploatację i eskalację uprawnień w jeden spójny proces, obrońcy mają mniej czasu na wykrycie anomalii i przerwanie incydentu. To zwiększa presję na telemetrykę, detekcję behawioralną i segmentację środowiska.

Ryzyko dotyczy kilku grup jednocześnie. Organizacje wykorzystujące agentową AI wewnętrznie muszą liczyć się z tym, że narzędzia z szerokimi uprawnieniami staną się nową powierzchnią ataku. Jednocześnie firmy broniące się przed zewnętrznymi przeciwnikami muszą zakładać, że modele będą używane do przyspieszania dobrze znanych TTP. Szczególnie narażone są środowiska, w których narzędzia AI mają dostęp do systemów katalogowych, stacji roboczych, repozytoriów kodu, systemów ticketowych lub danych wrażliwych.

Kluczowe jest także odróżnienie nowości technik od nowości skali. Większość opisywanych działań odpowiada znanym etapom post-exploitation. Zmienia się jednak tempo, konsekwencja i elastyczność ich wykonywania, co może obniżyć próg wejścia dla mniej zaawansowanych napastników i podnieść wydajność grup już doświadczonych.

Rekomendacje

Organizacje powinny traktować agentową AI jak uprzywilejowany komponent wykonawczy, a nie zwykły interfejs konwersacyjny. Oznacza to konieczność wdrożenia ścisłej kontroli uprawnień, separacji ról oraz ograniczania dostępu do narzędzi i danych zgodnie z zasadą najmniejszych uprawnień.

Ograniczyć możliwość wykonywania poleceń systemowych i wywołań narzędzi wyłącznie do niezbędnych przypadków użycia.
Segmentować środowiska testowe, produkcyjne i administracyjne, aby agent nie miał niekontrolowanej ścieżki do zasobów krytycznych.
Monitorować pełny łańcuch działań agenta, w tym prompty, odpowiedzi modelu, wywołania narzędzi, rezultaty i kontekst decyzyjny.
Wykrywać anomalie behawioralne, takie jak nietypowa sekwencja rekonesansu, enumeracji, ruchu bocznego i prób eskalacji uprawnień.
Stosować walidację oraz filtrowanie danych wejściowych z nieufnych źródeł, aby ograniczyć ryzyko pośredniego prompt injection.
Wdrożyć mechanizmy human-in-the-loop dla operacji wysokiego ryzyka, zwłaszcza związanych z dostępem do infrastruktury, poświadczeń i danych wrażliwych.
Prowadzić red teaming agentów AI z naciskiem na nadużycie narzędzi, obejście guardrails oraz manipulację kontekstem.

Z perspektywy SOC i zespołów IR potrzebna jest również aktualizacja modeli zagrożeń. Telemetria powinna obejmować nie tylko aktywność endpointów i sieci, ale także warstwę orkiestracji AI. W przeciwnym razie część działań może wyglądać jak legalne użycie autoryzowanych integracji, mimo że faktycznie stanowi etap skoordynowanego ataku.

Podsumowanie

Opisywany eksperyment pokazuje, że agentowa sztuczna inteligencja staje się istotnym czynnikiem zmieniającym krajobraz cyberzagrożeń. Najważniejszy wniosek nie dotyczy odkrycia nowej klasy exploitów, lecz zdolności modeli do szybkiego i adaptacyjnego łączenia istniejących technik w kompletny łańcuch operacyjny.

Dla obrońców oznacza to konieczność przesunięcia uwagi z samej treści generowanej przez model na jego realne możliwości wykonawcze, dostęp do narzędzi oraz obserwowalność podejmowanych działań. Wraz ze wzrostem autonomii agentów rośnie znaczenie kontroli runtime, ograniczania uprawnień i projektowania architektury odpornej na nadużycia.

Źródła

https://www.infosecurity-magazine.com/news/chatgpt55-to-execute-full/
https://www.catonetworks.com/resources/practical-framework-for-securing-agentic-ai/
https://carnegieendowment.org/research/2026/07/when-ai-agents-attack-autonomous-cyber-operations-and-europes-governance-gap
https://arxiv.org/abs/2606.10525
https://arxiv.org/abs/2603.09134

Ponad milion kampanii phishingowych wykorzystuje ukryty tekst do omijania filtrów AI

Wprowadzenie do problemu

Ukryty tekst w wiadomościach e-mail, określany także jako text salting, to technika polegająca na osadzaniu w treści dodatkowych słów, zdań lub całych fragmentów niewidocznych dla odbiorcy, ale analizowanych przez systemy bezpieczeństwa. Celem jest zafałszowanie oceny wiadomości przez filtry antyspamowe, bramki pocztowe oraz narzędzia wykorzystujące sztuczną inteligencję do wykrywania phishingu.

Najnowsze obserwacje pokazują, że ta metoda pozostaje skuteczna również wobec nowoczesnych silników analizy treści. Problem jest istotny, ponieważ atakujący nie muszą już wyłącznie omijać prostych reguł — coraz częściej próbują manipulować także modelami językowymi odpowiedzialnymi za klasyfikację zagrożeń.

W skrócie

Od kwietnia zaobserwowano ponad milion phishingowych wiadomości wykorzystujących ukryty tekst.
Kampanie dotyczyły głównie fałszywych nagród, punktów lojalnościowych i kart podarunkowych.
Technika pozwala omijać zarówno klasyczne filtry, jak i część systemów bezpieczeństwa opartych na AI.
Cyberprzestępcy łączą stare metody manipulacji HTML z możliwościami generatywnej sztucznej inteligencji.

Kontekst i historia

Text salting nie jest nową metodą. Już wiele lat temu atakujący rozbijali podejrzane frazy dodatkowymi znakami, neutralnymi słowami lub losową treścią, aby obniżyć skuteczność klasycznych filtrów antyspamowych. W tamtym okresie mechanizmy ochronne opierały się przede wszystkim na wykrywaniu charakterystycznych słów kluczowych, prostych wzorców językowych i podstawowych sygnałów behawioralnych.

Dziś technika wraca w odświeżonej formie. Zmieniło się przede wszystkim środowisko obronne, ponieważ organizacje coraz częściej wdrażają rozwiązania analizujące kontekst wiadomości z użyciem AI. Jednocześnie cyberprzestępcy wykorzystują modele generatywne do szybkiego tworzenia tekstów maskujących, modyfikowania kodu HTML i skalowania kampanii phishingowych. To sprawia, że dawne techniki obchodzenia zabezpieczeń zyskują nową skuteczność i znacznie większą skalę.

Analiza techniczna

Mechanizm działania opiera się na różnicy między tym, co widzi użytkownik, a tym, co analizuje system bezpieczeństwa. Odbiorca widzi pozornie prostą wiadomość z zachętą do kliknięcia, natomiast silnik ochronny przetwarza również pełną warstwę HTML oraz osadzony w niej dodatkowy tekst.

Atakujący dodają neutralne słowa, nieszkodliwe zdania albo dłuższe bloki zwykłego tekstu, które mają rozmyć sygnały świadczące o spamie lub phishingu. W efekcie modele analityczne mogą błędnie uznać wiadomość za mniej podejrzaną, ponieważ złośliwa treść zostaje „rozcieńczona” dodatkowymi elementami semantycznymi.

Ukrywanie takich danych odbywa się zwykle z użyciem prostych, ale skutecznych manipulacji HTML i CSS.

Ustawienie rozmiaru czcionki na zero.
Umieszczenie tekstu w kontenerze o zerowej wysokości lub szerokości.
Przesunięcie zawartości poza widoczny obszar ekranu.
Ukrycie pasków przewijania, aby dodatkowa treść nie była zauważalna.
Łączenie kilku metod maskowania jednocześnie.

Z perspektywy ochrony poczty problem jest bardziej złożony, ponieważ sama reputacja nadawcy nie wystarcza. Część obserwowanych wiadomości korzystała z prawidłowego DKIM, część była wysyłana z domen podobnych do znanych marek, a część z legalnych, lecz przejętych serwisów. Oznacza to, że kontrola techniczna może nie wykryć zagrożenia, jeśli analiza treści zostanie skutecznie zmanipulowana.

Właśnie na etapie klasyfikacji treści text salting okazuje się szczególnie niebezpieczny. Jeżeli model wykrywania opiera się na słowach kluczowych, statystyce językowej albo uproszczonej ocenie semantycznej, dodatkowy ukryty tekst może istotnie zaburzyć wynik analizy. Nawet systemy próbujące odsłaniać niewidoczną treść nie zawsze radzą sobie z wielowarstwowym ukrywaniem.

Konsekwencje i ryzyko

Najważniejszym skutkiem jest wzrost liczby phishingowych wiadomości, które trafiają bezpośrednio do skrzynek odbiorczych. To zwiększa prawdopodobieństwo kliknięcia w złośliwy link, podania danych logowania lub uruchomienia dalszego etapu oszustwa.

Dla organizacji ryzyko obejmuje zarówno skutki operacyjne, jak i strategiczne.

Przejęcie kont użytkowników i eskalację uprawnień.
Kradzież danych dostępowych do usług SaaS i poczty.
Naruszenie ochrony danych osobowych.
Wykorzystanie przejętych skrzynek do dalszego phishingu wewnętrznego.
Obniżenie skuteczności inwestycji w systemy bezpieczeństwa oparte na AI.

Istotne jest również ryzyko strategiczne. Wiele firm traktuje AI jako warstwę zwiększającą skuteczność ochrony przed zagrożeniami, jednak opisywane kampanie pokazują, że modele językowe mogą być wykorzystywane asymetrycznie na korzyść atakujących. Przestępcy używają ich do szybkiego generowania i mutowania kampanii, podczas gdy systemy ochronne nadal mają trudności z poprawną interpretacją ukrytego kontekstu.

Rekomendacje

Organizacje powinny traktować ukryty tekst w wiadomościach e-mail jako pełnoprawny wskaźnik zagrożenia, a nie wyłącznie historyczną metodę obchodzenia filtrów antyspamowych. Skuteczna obrona wymaga połączenia analizy technicznej, analizy treści oraz polityk bezpieczeństwa poczty.

Porównywać treść widoczną dla użytkownika z pełną treścią renderowaną i nierenderowaną.
Wykrywać podejrzane użycie HTML i CSS, w tym elementy o zerowym rozmiarze oraz ukryte kontenery.
Analizować relacje między treścią wiadomości, linkami, marką i infrastrukturą nadawcy.
Wzmacniać polityki SPF, DKIM i DMARC, bez traktowania poprawnego uwierzytelnienia jako gwarancji bezpieczeństwa.
Szkolić użytkowników w zakresie rozpoznawania wiadomości wykorzystujących pilność, obietnice nagród i inne schematy socjotechniczne.

Podsumowanie

Kampanie phishingowe wykorzystujące ukryty tekst pokazują, że nawet proste techniki obchodzenia filtrów mogą pozostawać bardzo skuteczne, zwłaszcza gdy zostaną połączone z możliwościami generatywnej AI. Skala przekraczająca milion wiadomości wskazuje, że nie jest to problem eksperymentalny, lecz realne zagrożenie operacyjne dla organizacji.

Dla zespołów bezpieczeństwa oznacza to konieczność dokładniejszej analizy warstwy HTML, korelacji sygnałów technicznych i treściowych oraz ostrożniejszego podejścia do skuteczności samych mechanizmów AI w ochronie poczty elektronicznej.

Źródła

https://www.darkreading.com/threat-intelligence/1m-emails-hidden-text-dupe-ai-security-filters
https://blog.barracuda.com/
https://www.techtarget.com/searchsecurity/definition/secure-email-gateway
https://www.techtarget.com/searchsecurity/definition/DomainKeys-Identified-Mail-DKIM

SANS ostrzega: luka w zarządzaniu AI rośnie szybciej niż zabezpieczenia organizacji

Wprowadzenie do problemu / definicja

Dynamiczna adopcja sztucznej inteligencji w firmach i zespołach cyberbezpieczeństwa tworzy nową kategorię ryzyka operacyjnego. Organizacje wdrażają narzędzia AI szybciej, niż są w stanie zbudować skuteczne mechanizmy nadzoru, kontroli i egzekwowania polityk bezpieczeństwa.

Ta luka w zarządzaniu AI obejmuje m.in. brak dojrzałych procesów governance, ograniczoną widoczność użycia modeli, niedostateczne szkolenia użytkowników oraz niewystarczające monitorowanie wpływu AI na bezpieczeństwo informacji, zgodność i procesy decyzyjne.

W skrócie

SANS wskazuje, że wykorzystanie AI w środowiskach przedsiębiorstw i cyberbezpieczeństwa przyspieszyło wyraźnie szybciej niż rozwój praktyk zarządzania ryzykiem. Problem nie sprowadza się wyłącznie do braku formalnych polityk, ale do niedostatecznego przełożenia zasad na realne kontrole techniczne i procesy operacyjne.

Firmy wdrażają AI bez pełnej inwentaryzacji narzędzi i integracji.
Polityki bezpieczeństwa często nie są wzmacniane przez techniczne mechanizmy egzekwowania.
Rośnie ryzyko wycieku danych, shadow AI i błędnych decyzji wspieranych przez modele.
Napastnicy coraz skuteczniej wykorzystują AI do phishingu, rekonesansu i automatyzacji ataków.

Kontekst / historia

W ciągu ostatnich kilkunastu miesięcy AI przeszła drogę od eksperymentu do elementu codziennych procesów biznesowych, operacji IT, DevSecOps i centrów SOC. Narzędzia generatywne, asystenci kodowania, systemy klasyfikacji oraz automatyzacji analiz zaczęły być integrowane z obiegiem pracy bez równoległego wzrostu dojrzałości governance.

Według obserwacji SANS problem ma charakter strukturalny. Wiele organizacji skupia się na wzroście produktywności i automatyzacji, ale nie buduje pełnego modelu odpowiedzialności za dane wejściowe, wyniki modeli, uprawnienia agentów AI oraz audyt decyzji podejmowanych z udziałem sztucznej inteligencji.

Równolegle cyberprzestępcy szybko adaptują AI do własnych potrzeb. Generatywne modele wspierają dziś przygotowanie kampanii socjotechnicznych, tworzenie bardziej wiarygodnych treści phishingowych, analizę celów i automatyzację działań na wczesnych etapach ataku.

Analiza techniczna

Z technicznego punktu widzenia luka w zarządzaniu AI wynika z kilku nakładających się problemów. Pierwszym z nich jest brak pełnej inwentaryzacji systemów AI, obejmującej zarówno oficjalnie wdrożone rozwiązania, jak i nieautoryzowane użycie zewnętrznych modeli przez pracowników.

Bez rejestru narzędzi organizacja nie ma pełnej wiedzy o przepływach danych, integracjach API ani faktycznej powierzchni ataku. To utrudnia ocenę ryzyka oraz wdrożenie adekwatnych zabezpieczeń.

Drugim problemem jest sytuacja, w której governance istnieje głównie na poziomie dokumentów. Sama polityka zabraniająca przesyłania danych wrażliwych do publicznych modeli nie wystarczy, jeżeli nie towarzyszą jej mechanizmy takie jak klasyfikacja danych, DLP, filtrowanie promptów, segmentacja dostępu czy monitoring zdarzeń.

Trzecim wyzwaniem jest brak procesu walidacji modeli i ich wyników. W praktyce oznacza to brak testów odporności na prompt injection, brak oceny ryzyka ujawnienia danych, brak benchmarków jakości oraz brak ciągłego porównywania działania modelu z wymaganiami bezpieczeństwa i zgodności.

W systemach agentowych dochodzi dodatkowo ryzyko nadmiernych uprawnień i wykonywania działań bez wystarczającej kontroli. Jeśli tożsamość agenta nie jest ściśle powiązana z zasadami Zero Trust, organizacja może utracić kontrolę nad tym, kto faktycznie inicjuje i autoryzuje określone operacje.

Istotnym czynnikiem pozostaje też niedojrzałość kompetencyjna. Zespoły bezpieczeństwa coraz częściej korzystają z AI, ale nie zawsze mają wystarczające przygotowanie do oceny ograniczeń modeli, wykrywania halucynacji czy zabezpieczania całego łańcucha przetwarzania danych wejściowych i wyjściowych.

Konsekwencje / ryzyko

Najbardziej bezpośrednim skutkiem luki governance jest wzrost ryzyka niekontrolowanego ujawnienia danych. Pracownicy mogą przekazywać do modeli fragmenty kodu, dokumenty wewnętrzne, dane klientów czy informacje objęte tajemnicą przedsiębiorstwa, nie rozumiejąc pełnych konsekwencji prawnych i operacyjnych.

Drugim obszarem ryzyka są błędne decyzje operacyjne. Jeżeli AI wspiera analizę alertów, priorytetyzację incydentów, tworzenie reguł detekcyjnych lub generowanie kodu, to błędy modelu mogą zostać przeniesione bezpośrednio do środowiska produkcyjnego.

W praktyce oznacza to zarówno fałszywe alarmy, jak i przeoczenie realnych zagrożeń, a także niepoprawne rekomendacje naprawcze. W środowiskach o wysokiej automatyzacji skutki takich błędów mogą być szybkie i trudne do odwrócenia.

Trzecie ryzyko dotyczy działalności przeciwnika. Cyberprzestępcy wykorzystują AI do zwiększania skali, szybkości i jakości ataków, zwłaszcza w phishingu, deepfake’ach, rekonesansie i przygotowywaniu złośliwych treści. Organizacje bez dojrzałych mechanizmów kontroli tracą przewagę operacyjną.

Luka w zarządzaniu AI zwiększa również ryzyko niezgodności regulacyjnej i problemów audytowych. Bez rejestru zastosowań, ścieżek decyzyjnych, kontroli dostępu i dowodów walidacji trudno wykazać należytą staranność w obszarze bezpieczeństwa, prywatności i compliance.

Rekomendacje

Pierwszym krokiem powinna być pełna inwentaryzacja wykorzystania AI w organizacji. Taki rejestr powinien obejmować modele, usługi SaaS, integracje API, wtyczki, agentów oraz lokalne eksperymenty prowadzone przez zespoły techniczne i biznesowe.

Kolejnym etapem jest wdrożenie polityk, które są egzekwowane technicznie. Oznacza to m.in. klasyfikację danych, kontrolę eksportu informacji do modeli zewnętrznych, monitorowanie promptów i odpowiedzi, rejestrowanie użycia funkcji uprzywilejowanych oraz ograniczanie uprawnień zgodnie z zasadą najmniejszych uprawnień.

W środowiskach agentowych warto zastosować podejście Zero Trust. Kluczowe są silne uwierzytelnianie, jawne decyzje autoryzacyjne, segmentacja zasobów, pełne logowanie akcji oraz rozdzielenie tożsamości użytkownika, usługi i agenta AI.

Niezbędna pozostaje również ciągła walidacja. Organizacje powinny regularnie testować modele pod kątem jakości, odporności na manipulację, ryzyka ujawnienia danych oraz stabilności działania po zmianach konfiguracji lub integracji.

Stworzyć centralny rejestr zastosowań AI.
Wdrożyć techniczne kontrole ochrony danych i monitoringu użycia modeli.
Testować modele pod kątem bezpieczeństwa i jakości przed wdrożeniem oraz po każdej zmianie.
Ograniczać uprawnienia agentów AI i audytować ich działania.
Szkolć użytkowników biznesowych, programistów i zespoły SOC z bezpiecznego korzystania z AI.

Ostatnim filarem są kompetencje. Szkolenia powinny obejmować bezpieczne użycie AI, rozpoznawanie ograniczeń modeli, wymagania compliance oraz zasady pracy z danymi wrażliwymi.

Podsumowanie

Ostrzeżenie SANS trafnie pokazuje, że głównym wyzwaniem nie jest już sama adopcja AI, lecz brak dojrzałych mechanizmów kontroli, które nadałyby jej bezpieczne ramy. Governance AI nie może ograniczać się do dokumentu polityki — musi obejmować widoczność, walidację, kontrolę dostępu, audyt i rozwój kompetencji.

Organizacje, które nie zamkną tej luki odpowiednio wcześnie, będą narażone zarówno na własne błędy operacyjne, jak i skuteczniejsze działania przeciwników wykorzystujących sztuczną inteligencję.

Źródła

Centra danych AI powstają szybciej, niż można je skutecznie zabezpieczyć

Wprowadzenie do problemu / definicja

Dynamiczny rozwój sztucznej inteligencji napędza gwałtowną rozbudowę nowej generacji centrów danych, projektowanych pod bardzo gęste klastry GPU, intensywną komunikację międzywęzłową i obsługę wielodostępnych obciążeń o wysokiej wartości biznesowej. Problem polega na tym, że tradycyjne modele bezpieczeństwa centrów danych nie nadążają za specyfiką środowisk AI, co zwiększa powierzchnię ataku oraz potencjalną skalę incydentów.

W praktyce oznacza to konieczność przemyślenia ochrony nie tylko systemów operacyjnych i aplikacji, ale również firmware, sprzętu, płaszczyzn zarządzania, sieci wysokiej wydajności oraz całego łańcucha dostaw.

W skrócie

Centra danych dla AI różnią się fundamentalnie od klasycznych środowisk serwerowych. Zamiast względnie odseparowanych zasobów mamy tu silnie zintegrowane klastry obliczeniowe, w których kompromitacja jednego elementu może wpłynąć na wiele węzłów i klientów jednocześnie.

Największe ryzyka dotyczą integralności firmware i sprzętu.
Wysokowydajne sieci fabric są często projektowane przede wszystkim pod wydajność, a nie pełną obserwowalność bezpieczeństwa.
Współdzielenie zasobów zwiększa ryzyko wycieków danych, modeli i artefaktów treningowych.
Zarządzanie poza pasmem oraz automatyzacja infrastruktury mogą stać się krytycznym punktem przejęcia środowiska.
Tempo budowy i wdrożeń wyprzedza dojrzałość zabezpieczeń operacyjnych, procesowych i architektonicznych.

Kontekst / historia

Przez lata centra danych projektowano głównie jako przewidywalne środowiska przetwarzania i składowania danych, obsługujące jasno zdefiniowane systemy i grupy użytkowników. W takich architekturach dominowały klasyczne założenia dotyczące segmentacji sieci, ochrony hostów, kontroli dostępu oraz bezpieczeństwa aplikacji.

Boom na generatywną AI i uczenie maszynowe istotnie zmienił ten model. Nowoczesne obiekty stały się wyspecjalizowanymi platformami intensywnego przetwarzania, opartymi na dużych farmach GPU, szybkich magistralach komunikacyjnych i dynamicznym przydzielaniu zasobów. Dodatkowo coraz częściej są to środowiska współdzielone, w których uruchamiane są obciążenia o dużej wartości operacyjnej i biznesowej. W rezultacie tradycyjny model zaufania przestaje być wystarczający.

Analiza techniczna

Najważniejsza różnica techniczna między klasycznym centrum danych a centrum danych AI wynika z architektury obliczeń. Środowiska AI działają jak jeden spójny silnik równoległego przetwarzania, a nie zbiór niezależnych serwerów. To sprawia, że podatności w warstwie niskopoziomowej mają znacznie większy promień oddziaływania.

Kluczowe obszary ryzyka obejmują:

Integralność firmware i sprzętu – ataki na boot chain, mikrokod, kontrolery urządzeń i firmware są trudniejsze do wykrycia oraz mogą omijać tradycyjne narzędzia ochronne.
Sieci o wysokiej wydajności – technologie takie jak RDMA, RoCE czy InfiniBand mogą tworzyć słabiej monitorowane kanały komunikacji sprzyjające ruchowi lateralnemu.
Izolacja wielodostępna – ponowne użycie GPU, pamięci, nośników i cache może prowadzić do pozostawienia artefaktów po poprzednich zadaniach lub klientach.
Zarządzanie poza pasmem – BMC, IPMI, Redfish i mechanizmy aktualizacji firmware stanowią uprzywilejowaną płaszczyznę administracyjną o wysokiej wartości dla atakujących.
Łańcuch dostaw AI – presja zakupowa i złożoność dostawców komponentów zwiększają ryzyko kompromitacji podczas produkcji, dostawy, integracji lub aktualizacji.
Systemy obiektowe i fizyczne – chłodzenie, zasilanie, BMS i DCIM wpływają nie tylko na dostępność, ale też na odporność bezpieczeństwa całej infrastruktury.
Obsługa danych i artefaktów – modele, checkpointy, zbiory danych, logi oraz obrazy kontenerów są cennym celem dla kradzieży i sabotażu.
Luki certyfikacyjne i brak transparentności – rynek rozwija się szybciej niż standardy audytowe i zgodności, przez co organizacje mają ograniczony wgląd w praktyki dostawców.
Usługi operacyjne infrastruktury – orkiestracja, pipeline’y wdrożeniowe, repozytoria obrazów i systemy tożsamości są częścią krytycznego łańcucha bezpieczeństwa.
Tempo łatania – złożone stosy firmware i sterowników utrudniają szybkie wdrażanie poprawek bez wpływu na dostępność i wydajność.

Konsekwencje / ryzyko

Największe zagrożenie wynika z połączenia wysokiej wartości zasobów z silnie skonsolidowaną architekturą. W praktyce incydent, który w tradycyjnym środowisku dotyczyłby pojedynczego hosta, w centrum danych AI może objąć wiele węzłów, wielu klientów i cały pipeline przetwarzania.

utrata poufności danych treningowych i inferencyjnych,
kradzież modeli oraz własności intelektualnej,
sabotaż obciążeń obliczeniowych,
nieautoryzowany dostęp między tenantami,
długotrwała kompromitacja na poziomie firmware,
zakłócenia dostępności wynikające z awarii zasilania, chłodzenia lub systemów zarządzania.

Dla klientów korzystających z takich środowisk dodatkowym problemem są trudności dowodowe. Kompromitacje poniżej warstwy systemu operacyjnego bywają słabo widoczne w klasycznych logach bezpieczeństwa, co utrudnia detekcję, analizę śledczą i ocenę faktycznego zasięgu incydentu.

Rekomendacje

Organizacje budujące lub wykorzystujące centra danych AI powinny traktować bezpieczeństwo infrastruktury jako wyzwanie architektoniczne, a nie wyłącznie operacyjne.

Wdrożyć model zero trust dla firmware, zarządzania poza pasmem, sieci fabric i warstw orkiestracyjnych.
Silnie segmentować płaszczyzny zarządzania, z użyciem dedykowanych sieci administracyjnych, MFA i PAM.
Prowadzić pomiar i atestację integralności sprzętu oraz firmware, wraz z kontrolą łańcucha uruchamiania.
Zapewnić bezpieczne reprowizjonowanie GPU, pamięci, nośników i artefaktów tymczasowych.
Monitorować ruch wewnątrz klastra, także w warstwach komunikacji wysokowydajnej.
Weryfikować bezpieczeństwo dostawców i pochodzenie komponentów w całym łańcuchu dostaw.
Łączyć bezpieczeństwo cyber z bezpieczeństwem facility management, zasilania i chłodzenia.
Skracać czas reakcji na podatności w BMC, firmware, sterownikach GPU i narzędziach automatyzacji.
Prowadzić ćwiczenia red team i purple team skoncentrowane na infrastrukturze.
Klasyfikować i chronić dane treningowe, modele, checkpointy, logi i obrazy kontenerowe.

Podsumowanie

Centra danych dla AI nie są jedynie szybszą wersją tradycyjnych serwerowni. To odrębna klasa infrastruktury, w której współdzielenie zasobów, zagrożenia niskopoziomowe i ekstremalne wymagania wydajnościowe zmieniają profil ryzyka.

Najważniejszy wniosek jest prosty: środowisk AI nie da się bezpiecznie projektować w oparciu o stare założenia centrów danych. Organizacje, które potraktują bezpieczeństwo jako element wbudowany w architekturę, procesy i łańcuch dostaw, będą lepiej przygotowane na skalę zagrożeń związanych z erą sztucznej inteligencji.

Źródła

https://www.securityweek.com/ai-data-centers-are-being-built-faster-than-they-can-be-secured/
https://forge-framework.io/

Gold Eagle: USA uruchamia wspierany przez AI program koordynacji zarządzania podatnościami

Wprowadzenie do problemu / definicja

Administracja Stanów Zjednoczonych uruchomiła inicjatywę Gold Eagle, której celem jest przyspieszenie wykrywania, walidacji i usuwania podatności oprogramowania z wykorzystaniem mechanizmów sztucznej inteligencji. Program ma pełnić funkcję scentralizowanej warstwy koordynacyjnej pomiędzy instytucjami federalnymi, operatorami infrastruktury krytycznej oraz partnerami z sektora prywatnego.

W praktyce oznacza to próbę uporządkowania procesu zgłaszania luk, ograniczenia duplikacji analiz i szybszego przekazywania informacji o priorytetach naprawczych do zespołów odpowiedzialnych za bezpieczeństwo oraz utrzymanie systemów.

W skrócie

Gold Eagle to rządowa inicjatywa USA ukierunkowana na koordynację zarządzania podatnościami w środowiskach publicznych i prywatnych. Program został powiązany z działaniami administracji dotyczącymi bezpieczeństwa zaawansowanej AI i ma wspierać szybsze odkrywanie oraz triage luk.

centralizacja informacji o podatnościach,
ograniczenie powielania skanowania i zgłoszeń,
wykorzystanie AI do grupowania i priorytetyzacji danych,
lepsza współpraca między administracją, przemysłem i operatorami infrastruktury krytycznej,
nacisk na szybsze przekazywanie zaleceń naprawczych.

Eksperci zwracają jednak uwagę, że nawet najlepiej zorganizowana koordynacja nie rozwiąże automatycznie problemu ograniczonych zasobów remediacyjnych po stronie organizacji.

Kontekst / historia

W ostatnich latach zarządzanie podatnościami znalazło się pod rosnącą presją operacyjną. Powodem jest jednoczesny wzrost liczby zgłaszanych błędów, coraz większa zależność od komponentów open source oraz złożoność nowoczesnych łańcuchów dostaw oprogramowania. Równolegle rozwój automatyzacji i narzędzi AI skrócił czas potrzebny na identyfikację potencjalnych słabości i ich wstępną klasyfikację.

To sprawia, że wiele organizacji nie cierpi dziś na brak informacji o zagrożeniach, lecz na nadmiar sygnałów i ograniczoną zdolność do ich szybkiej obsługi. Gold Eagle wpisuje się więc w szerszy trend budowy państwowych mechanizmów koordynacji cyberbezpieczeństwa, których celem jest usprawnienie wymiany informacji, walidacji i ustalania priorytetów naprawczych.

Istotne znaczenie ma również rola społeczności open source, dostawców komponentów i maintainerów projektów, którzy coraz częściej stają się pierwszą linią reagowania na podatności wykrywane szybciej i na większą skalę niż wcześniej.

Analiza techniczna

Od strony technicznej Gold Eagle można postrzegać jako centralny clearinghouse podatności, czyli warstwę pośrednią pomiędzy źródłem informacji o luce a podmiotami odpowiedzialnymi za jej usunięcie. Model ten ma koordynować pełny cykl życia zgłoszenia i wspierać standaryzację przepływu danych.

wykrycie potencjalnej podatności,
deduplikacja zgłoszeń,
walidacja techniczna,
ocena wpływu i eksploatowalności,
priorytetyzacja remediacji,
przekazanie informacji do właścicieli systemów i dostawców poprawek.

Największą wartością takiego podejścia nie jest samo użycie AI, lecz ujednolicenie sposobu analizy i dystrybucji informacji. W tradycyjnym modelu wiele organizacji prowadzi własne skanowanie, korzysta z różnych źródeł threat intelligence i stosuje odmienne procedury triage. To zwiększa ryzyko rozbieżności w ocenie zagrożeń oraz opóźnia reakcję.

W Gold Eagle sztuczna inteligencja ma pełnić przede wszystkim rolę akceleratora analitycznego. Może wspierać grupowanie podobnych zgłoszeń, analizę zależności między komponentami, wskazywanie prawdopodobnych obszarów wpływu oraz wstępną ocenę priorytetów. Nie oznacza to jednak pełnej autonomii. Ostateczne decyzje dotyczące ważności podatności, kolejności łatania i wpływu biznesowego nadal wymagają udziału analityków, inżynierów oraz właścicieli usług.

Kluczowym wyzwaniem pozostaje jakość danych wejściowych. Skuteczna automatyczna priorytetyzacja wymaga wiarygodnych informacji o aktywach, ich krytyczności, ekspozycji usług, zależnościach między komponentami, dostępności poprawek i rzeczywistej możliwości wykorzystania luki. Bez tego nawet zaawansowany system AI będzie jedynie szybciej przetwarzał niepełny obraz ryzyka.

Konsekwencje / ryzyko

Największą potencjalną korzyścią Gold Eagle jest ograniczenie chaosu informacyjnego wokół podatności. Jeżeli program rzeczywiście zmniejszy liczbę duplikowanych analiz i skróci czas od odkrycia luki do przekazania zaleceń naprawczych, może poprawić zdolność obronną administracji oraz wybranych podmiotów prywatnych.

Jednocześnie ryzyko operacyjne pozostaje wysokie. Szybsza detekcja nie oznacza automatycznie szybszego łatania. W wielu organizacjach głównymi wąskimi gardłami nadal są ograniczenia kadrowe, niepełna inwentaryzacja aktywów, skomplikowane procedury change management oraz zaległości w backlogu remediacyjnym.

niedobór personelu bezpieczeństwa i administracji IT,
brak pełnej wiedzy o zasobach i ich właścicielach,
opóźnienia po stronie dostawców oprogramowania,
złożone procedury wdrażania zmian,
ryzyko błędnej automatycznej priorytetyzacji,
możliwe nadmierne zaufanie do wyników generowanych przez AI.

Dodatkowym problemem jest przejrzystość procesu. Odbiorcy programu muszą rozumieć, w jaki sposób system ocenia istotność luk, jakie dane wykorzystuje i kto odpowiada za końcowy łańcuch decyzyjny. Bez transparentności trudno będzie budować zaufanie do wyników analizy.

Rekomendacje

Dla organizacji obserwujących rozwój podobnych inicjatyw najważniejsze jest traktowanie AI jako warstwy wspierającej, a nie zastępującej dojrzały program vulnerability management. Automatyzacja może zwiększyć skuteczność, ale tylko wtedy, gdy opiera się na uporządkowanych procesach i rzetelnych danych.

utrzymywać aktualną inwentaryzację aktywów, zależności i właścicieli usług,
rozdzielić procesy wykrywania, walidacji i remediacji oraz przypisać im jasną odpowiedzialność,
stosować priorytetyzację opartą nie tylko na CVSS, ale też na ekspozycji, krytyczności biznesowej i dostępności exploita,
integrować dane o podatnościach z CMDB, EDR, skanerami i systemami ticketowymi,
regularnie testować przepustowość procesu remediacji w warunkach przeciążenia,
oceniać narzędzia AI pod kątem jakości triage, wyjaśnialności i odporności na błędne dane wejściowe.

Najważniejszy wniosek pozostaje niezmienny: wartość programu koordynacyjnego nie wynika z liczby wykrytych luk, lecz z realnej zdolności do ich terminowego i mierzalnego usuwania.

Podsumowanie

Gold Eagle to interesująca próba przeniesienia zarządzania podatnościami na poziom skoordynowanego modelu państwowo-prywatnego wspieranego przez AI. Inicjatywa odpowiada na realny problem rosnącej skali wykrywania luk i przeciążenia zespołów odpowiedzialnych za ich obsługę.

Ostateczny sukces programu nie będzie jednak zależał wyłącznie od jakości automatyzacji, lecz przede wszystkim od tego, czy uda się przełożyć dane o ryzyku na skuteczną remediację. W cyberbezpieczeństwie to nadal nie detekcja jest najtrudniejsza, ale konsekwentne i terminowe usuwanie podatności.

Źródła

Infosecurity Magazine — https://www.infosecurity-magazine.com/news/us-gold-eagle-ai-vulnerability/
The White House — White House Launches Gold Eagle Initiative for Unprecedented Cybersecurity Vulnerability Coordination — https://www.whitehouse.gov/releases/2026/07/white-house-launches-gold-eagle-initiative-for-unprecedented-cybersecurity-vulnerability-coordination/
The White House — Promoting Advanced Artificial Intelligence Innovation and Security — https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/
GovInfo — Executive Order 14409—Promoting Advanced Artificial Intelligence Innovation and Security — https://www.govinfo.gov/app/details/DCPD-202600376
SecurityWeek — White House Launches AI-Driven 'Gold Eagle’ Vulnerability Coordination Initiative — https://www.securityweek.com/white-house-launches-ai-driven-gold-eagle-vulnerability-coordination-initiative/

Irańskie grupy powiązane z państwem wykorzystują AI do rozbudowy cyberarsenału

Wprowadzenie do problemu / definicja

Wykorzystanie generatywnej sztucznej inteligencji przez aktorów zagrożeń staje się jednym z najważniejszych trendów we współczesnym cyberbezpieczeństwie. Najnowsze ustalenia wskazują, że grupy powiązane z Iranem używają modeli językowych i narzędzi AI do przyspieszania działań ofensywnych, w tym tworzenia złośliwego oprogramowania, prowadzenia rekonesansu oraz usprawniania kampanii phishingowych.

Nie oznacza to powstania całkowicie nowej klasy zagrożeń, ale wyraźne zwiększenie skali, szybkości i dostępności dobrze znanych technik ataku. AI pełni tu rolę akceleratora, który skraca czas potrzebny do przygotowania i realizacji operacji.

W skrócie

Irańscy aktorzy cyberzagrożeń wykorzystują AI do wzmacniania operacji ofensywnych i działań informacyjnych.
Zastosowania obejmują rozwój malware, analizę podatności, rozpoznanie środowisk OT i ICS oraz prowadzenie wielojęzycznych kampanii socjotechnicznych.
AI skraca czas od planowania do wykonania ataku, obniża próg wejścia dla operatorów i zwiększa skuteczność działań wymierzonych w organizacje z USA, regionu MENA oraz infrastrukturę o podwyższonym znaczeniu operacyjnym.

Kontekst / historia

Przez lata irańskie grupy APT oraz powiązane z nimi kolektywy hacktywistyczne były kojarzone z kampaniami szpiegowskimi, destrukcyjnymi operacjami cybernetycznymi i atakami na infrastrukturę krytyczną oraz sektor prywatny. Obecnie obserwowany jest kolejny etap ewolucji tych działań: integracja narzędzi AI z istniejącym playbookiem operacyjnym.

Według opisywanych analiz duże modele językowe nie zastępują operatorów, lecz zwiększają tempo realizacji konkretnych zadań. Dotyczy to przygotowywania treści phishingowych, analizy środowiska ofiary, badania metod eksploatacji oraz generowania wariantów kodu. To jakościowa zmiana, ponieważ umożliwia osiąganie tych samych celów szybciej, taniej i przy mniejszym zapleczu kompetencyjnym.

W tle pojawiają się również wcześniejsze sygnały o nadużywaniu narzędzi AI przez podmioty państwowe. W poprzednich latach ujawniano przypadki użycia modeli językowych do rekonesansu środowisk przemysłowych i analizowania kontrolerów PLC, a obecne obserwacje sugerują, że nie były to działania incydentalne.

Analiza techniczna

Z technicznego punktu widzenia AI jest wykorzystywana jako wsparcie kolejnych etapów łańcucha ataku. Najbardziej prawdopodobne obszary użycia obejmują:

generowanie i modyfikowanie skryptów oraz fragmentów kodu malware,
automatyzację tworzenia przynęt phishingowych i odpowiedzi w trakcie korespondencji,
streszczanie dokumentacji technicznej i tłumaczenie materiałów na języki operatorów,
przygotowywanie wariantów exploitów lub kodu pomocniczego do testowania podatności,
mapowanie środowisk OT i ICS na podstawie publicznie dostępnych danych oraz dokumentacji.

Szczególnie niepokojący jest wątek dotyczący środowisk przemysłowych. Modele językowe mogą pomóc operatorom szybciej zrozumieć architekturę systemów sterowania, nazewnictwo urządzeń, zależności procesowe oraz potencjalne ścieżki oddziaływania na proces technologiczny. Nawet jeśli AI nie tworzy autonomicznego ataku, może znacząco skrócić etap przygotowania operacji.

Opisane przypadki wskazują również na praktyczne użycie AI w kampaniach malware. Jedna z grup miała wykorzystać narzędzia AI do opracowania kilku wariantów złośliwego oprogramowania dostarczanego przez spreparowane dokumenty biurowe. Taki model pracy oznacza, że operator nie musi budować całego kodu samodzielnie, lecz może iteracyjnie rozwijać próbki przy wsparciu systemu generatywnego.

W innym scenariuszu AI została użyta do dopracowania skryptu służącego do enumeracji i zrzutu baz danych po uzyskaniu dostępu do środowiska ofiary. To pokazuje, że sztuczna inteligencja może być szczególnie przydatna w fazie post-exploitation, gdzie liczy się szybkie dostosowanie narzędzi do konkretnej infrastruktury.

Warto podkreślić, że obecnie bardziej realny jest scenariusz wykorzystywania ogólnodostępnych lub pośrednio dostępnych modeli do wspierania konkretnych zadań technicznych i językowych niż istnienie w pełni autonomicznych ofensywnych systemów AI używanych operacyjnie.

Konsekwencje / ryzyko

Największym zagrożeniem nie jest sama inteligencja tych narzędzi, lecz kompresja czasu działania atakującego. Organizacje mają coraz mniej czasu na wykrycie kampanii, ponieważ AI pozwala szybciej przygotować infrastrukturę ataku, materiały socjotechniczne i kod operacyjny.

W praktyce oznacza to wzrost skuteczności phishingu, zwłaszcza w kampaniach wielojęzycznych i ukierunkowanych. Zwiększa się również tempo adaptacji malware do konkretnego celu, a bariera kompetencyjna dla operatorów maleje, ponieważ AI może działać jako współautor treści, skryptów i analiz technicznych.

Dodatkowe ryzyko dotyczy środowisk OT, gdzie nawet częściowo poprawne rozpoznanie może wystarczyć do przygotowania groźnej operacji zakłócającej. Z perspektywy biznesowej szczególnie narażone są podmioty infrastrukturalne, transport, przemysł, logistyka oraz organizacje posiadające rozproszone środowiska IT i OT.

Rekomendacje

Organizacje powinny dostosować strategie obronne do scenariusza, w którym AI wspiera przeciwnika na każdym etapie ataku. Kluczowe działania obejmują:

Wzmocnienie ochrony poczty i warstwy tożsamości poprzez odporne mechanizmy MFA, filtrowanie wiadomości, DMARC, SPF, DKIM oraz monitoring anomalii logowania.
Detekcję zachowań zamiast samych sygnatur, z naciskiem na EDR, XDR, telemetrię procesów, analizę skryptów, wykrywanie nadużyć PowerShell, Office, LOLBins i nietypowych połączeń wychodzących.
Segmentację i monitoring środowisk OT/ICS, w tym ograniczenie łączności między IT i OT, pasywne monitorowanie ruchu przemysłowego oraz kontrolę zdalnego dostępu.
Zarządzanie podatnościami według priorytetu operacyjnego, ponieważ AI może skracać czas między ujawnieniem luki a próbą jej wykorzystania.
Ćwiczenia z reakcji na incydenty oparte na scenariuszach, w których przeciwnik szybko modyfikuje payloady i dynamicznie dostosowuje skrypty po uzyskaniu dostępu.
Kontrolę użycia własnych narzędzi AI w organizacji, aby ograniczyć ryzyko wycieku danych, prompt injection i nieautoryzowanego przetwarzania informacji wrażliwych.

Podsumowanie

Wykorzystanie AI przez grupy powiązane z Iranem nie oznacza rewolucji w postaci całkowicie nowych technik ataku, ale stanowi istotne przyspieszenie istniejących operacji cybernetycznych. Generatywna AI działa tu jako mnożnik siły, przyspieszając rekonesans, poprawiając jakość phishingu, wspierając rozwój malware i ułatwiając przygotowanie działań przeciwko środowiskom przemysłowym.

Dla organizacji oznacza to konieczność odejścia od modelu obrony wyłącznie reaktywnej. Kluczowe stają się telemetria, detekcja behawioralna, segmentacja środowisk oraz szybsze reagowanie na sygnały wczesnego ostrzegania.

Źródła

Cybersecurity Dive — https://www.cybersecuritydive.com/news/iran-nexus-actors-ai-cyber-ChatGPT-malware/825415/
Recorded Future — Iran’s AI-Enabled Cyber Strategy — https://www.recordedfuture.com/research/irans-ai-enabled-cyber-strategy
Group-IB — Operation Olalampo — https://www.group-ib.com/blog/operation-olalampo/
OpenAI — Disrupting malicious uses of AI: June 2024 — https://www.openai.com/index/disrupting-malicious-uses-of-ai-june-2024/
Check Point Research — https://research.checkpoint.com/