Wprowadzenie do problemu / definicja
Rosnąca dostępność zaawansowanych modeli sztucznej inteligencji zmienia krajobraz cyberzagrożeń. Narzędzia AI, które miały wspierać automatyzację, analizę i produktywność, są coraz częściej wykorzystywane przez cyberprzestępców do przyspieszania rekonesansu, omijania zabezpieczeń i identyfikowania nowych ścieżek wejścia do środowisk korporacyjnych.
Problem nie dotyczy już wyłącznie generowania wiadomości phishingowych czy prostych skryptów. Coraz częściej chodzi o praktyczne zastosowanie modeli do wspierania działań ofensywnych, w tym analizy powierzchni ataku, przygotowywania exploitów oraz utrzymywania dostępu po naruszeniu bezpieczeństwa.
W skrócie
- Cyberprzestępcy używają zarówno komercyjnych modeli AI, jak i modeli open-weight do opracowywania nowych technik ataku.
- Modele z mniejszym nadzorem ułatwiają obchodzenie mechanizmów bezpieczeństwa i eksperymentowanie z treściami ofensywnymi.
- Atakujący coraz częściej koncentrują się na tokenach, plikach cookie i identyfikatorach sesji zamiast na tradycyjnej kradzieży haseł.
- AI skraca czas potrzebny na rekonesans, rozwój narzędzi i skalowanie kampanii przeciwko organizacjom.
Kontekst / historia
Wraz z dojrzewaniem rynku generatywnej AI coraz wyraźniej widać, że ta sama technologia może służyć zarówno obrońcom, jak i napastnikom. Dostawcy komercyjnych modeli stopniowo wdrażali zabezpieczenia ograniczające generowanie szkodliwych treści, jednak równolegle rozwijał się ekosystem modeli bardziej otwartych, które dają większą swobodę działania i mniejszą kontrolę ze strony operatora.
To zjawisko wpisuje się w szerszy wyścig zbrojeń w cyberbezpieczeństwie. Organizacje wdrażają AI do wykrywania incydentów i automatyzacji analiz, podczas gdy grupy przestępcze wykorzystują te same możliwości do szybszego testowania hipotez, adaptacji technik oraz skracania czasu od wejścia do eskalacji działań w środowisku ofiary.
Analiza techniczna
Z technicznego punktu widzenia AI działa jak akcelerator operacji ofensywnych. Modele mogą wspierać identyfikację błędów konfiguracyjnych, analizę dokumentacji, generowanie wariantów kodu, a także dostosowywanie działań do specyfiki konkretnej infrastruktury. Dzięki temu atakujący są w stanie szybciej znaleźć alternatywne ścieżki wejścia tam, gdzie klasyczne zabezpieczenia ograniczają bezpośredni dostęp.
Istotne znaczenie ma także możliwość obchodzenia wbudowanych ograniczeń bezpieczeństwa. Modele open-weight mogą być uruchamiane lokalnie lub w mniej kontrolowanych środowiskach, co zwiększa prywatność operacyjną i pozwala eksperymentować bez ryzyka szybkiego wykrycia przez dostawcę usługi.
Szczególnie ważna jest zmiana priorytetów atakujących z poświadczeń statycznych na artefakty sesyjne. Zamiast skupiać się wyłącznie na hasłach, napastnicy coraz częściej przechwytują tokeny dostępu, cookies i identyfikatory sesji. Taki dostęp może umożliwić przejęcie aktywnej sesji użytkownika lub usługi zaufanej w organizacji, a tym samym obejście części mechanizmów ochronnych opartych na haśle lub MFA.
Dodatkowo użycie legalnych narzędzi administracyjnych utrudnia detekcję. Ruch generowany przez intruza może przypominać standardowe działania operacyjne administratora, co wydłuża czas wykrycia i zwiększa szansę na utrzymanie dostępu oraz ruch boczny w sieci.
Konsekwencje / ryzyko
Dla organizacji oznacza to wzrost ryzyka na kilku poziomach. Po pierwsze, maleje bariera wejścia dla mniej zaawansowanych aktorów, ponieważ AI może uzupełniać luki kompetencyjne. Po drugie, doświadczeni napastnicy zyskują narzędzie do szybszego skalowania kampanii oraz testowania większej liczby wariantów ataku. Po trzecie, przesunięcie nacisku na sesje i tokeny osłabia skuteczność strategii obronnych skoncentrowanych głównie na ochronie haseł.
Szczególnie narażone są środowiska chmurowe, hybrydowe i SaaS, w których zarządzanie tożsamością, sesją i uprawnieniami jest złożone. Nadużycie legalnych narzędzi, mechanizmów federacyjnych i dostępów tymczasowych może prowadzić do długotrwałej obecności atakującego bez jednoznacznych wskaźników kompromitacji.
Rekomendacje
Organizacje powinny przyjąć założenie, że przeciwnik już korzysta z AI jako narzędzia operacyjnego. W praktyce oznacza to konieczność dostosowania strategii obronnej do nowych metod działania.
- Rozszerzyć ochronę tożsamości o monitoring tokenów, sesji i anomalii związanych z ich użyciem.
- Wzmocnić telemetrykę w obszarze endpointów, chmury i usług SaaS, ze szczególnym uwzględnieniem logów IAM i aktywności administracyjnej.
- Stosować zasadę najmniejszych uprawnień oraz ograniczać czas życia tokenów, kluczy i poświadczeń tymczasowych.
- Przygotować procedury reagowania na kradzież tokenów, przejęcie sesji oraz nadużycie legalnych narzędzi systemowych.
- Wdrożyć polityki kontroli użycia AI w organizacji, obejmujące integracje, dostęp do danych oraz ocenę ryzyka modeli lokalnych i zewnętrznych.
Podsumowanie
Wykorzystanie AI przez cyberprzestępców wchodzi w nową fazę. Sztuczna inteligencja przestaje być jedynie wsparciem dla prostych kampanii i staje się narzędziem przyspieszającym odkrywanie nowych wektorów ataku, rozwój exploitów oraz obchodzenie klasycznych zabezpieczeń.
Dla zespołów SOC, IAM i cloud security oznacza to konieczność przesunięcia uwagi z samej ochrony haseł na pełną ochronę sesji, uprawnień i łańcucha zaufania. W przeciwnym razie organizacje mogą nie nadążyć za tempem, w jakim napastnicy adaptują AI do działań ofensywnych.
Źródła
- Cybersecurity Dive — https://www.cybersecuritydive.com/news/google-cloudaccenture/827689/
- Google Threat Intelligence Group — https://cloud.google.com/blog/topics/threat-intelligence
- Accenture Security — https://www.accenture.com/us-en/services/security-index