Wprowadzenie do problemu / definicja
Rosnąca popularność narzędzi opartych na sztucznej inteligencji stworzyła nową, atrakcyjną powierzchnię ataku dla cyberprzestępców. Coraz częściej obserwowane są kampanie, w których atakujący podszywają się pod rozpoznawalne produkty AI, aby nakłonić pracowników do pobrania spreparowanego oprogramowania, uruchomienia złośliwych poleceń lub podania danych logowania.
Tego typu operacje łączą cechy phishingu, dostarczania malware oraz przejmowania sesji przeglądarkowych. Ich skuteczność wynika przede wszystkim z zaufania użytkowników do znanych marek oraz z faktu, że narzędzia AI stały się elementem codziennej pracy w wielu organizacjach.
W skrócie
W analizowanym okresie od kwietnia do października 2026 roku odnotowano 1 258 publicznych przypadków związanych z kampaniami typu „fake AI”. Wśród zidentyfikowanych geograficznie celów 16% stanowiły organizacje ze Stanów Zjednoczonych.
Przestępcy podszywali się pod popularne usługi, takie jak ChatGPT, Claude, Gemini czy GitHub Copilot. Ofiary trafiały na fałszywe strony logowania lub pobierania, a następnie wykonywały działania uruchamiające łańcuch infekcji, często z użyciem legalnych narzędzi systemowych Windows.
- podszywanie się pod znane usługi AI,
- fałszywe strony pobierania i logowania,
- wykorzystanie PowerShell i mshta.exe,
- kradzież danych, sesji i dostępu do kont firmowych.
Kontekst / historia
Wykorzystywanie popularnych marek jako przynęty nie jest nowym zjawiskiem w cyberprzestępczości. W przeszłości atakujący regularnie podszywali się pod aktualizacje systemów, przeglądarki, komunikatory czy pakiety biurowe. Obecna fala nadużyć związanych z AI wpisuje się w ten sam model działania, ale korzysta z wyjątkowo silnego zainteresowania nowymi technologiami.
W 2026 roku narzędzia AI są szeroko wykorzystywane w firmach do zwiększania produktywności, tworzenia kodu, analizy danych i automatyzacji procesów. To sprawia, że komunikaty o instalatorze, aktualizacji, dostępie premium czy integracji z systemem operacyjnym wyglądają dla pracowników wiarygodnie. Kampanie pojawiają się w sponsorowanych wynikach wyszukiwania, na stronach imitujących oficjalne witryny oraz w różnych usługach hostingowych.
Analiza techniczna
Techniczny mechanizm tych kampanii opiera się na przeniesieniu części odpowiedzialności za uruchomienie ataku na użytkownika. Zamiast klasycznego automatycznego exploita ofiara otrzymuje instrukcję, by samodzielnie wkleić i uruchomić określone polecenie, rzekomo potrzebne do instalacji aplikacji AI.
W jednym z opisanych scenariuszy użytkownik trafiał na stronę przypominającą oficjalny portal pobierania. Po kliknięciu przycisku przeznaczonego dla systemu Windows do schowka kopiowane było polecenie, a witryna wyświetlała instrukcję uruchomienia go w PowerShell. W praktyce polecenie uruchamiało mshta.exe, który pobierał złośliwy plik HTA i inicjował dalszy, zakodowany łańcuch wykonania oparty na PowerShell.
Z punktu widzenia obrony taki model jest szczególnie niebezpieczny, ponieważ ogranicza klasyczne wskaźniki kompromitacji widoczne na początku incydentu i utrudnia analizę statyczną. Złośliwy ładunek często ujawnia się dopiero po kilku etapach wykonania, a całość bazuje na interakcji użytkownika.
- wykorzystanie legalnych narzędzi systemowych typu LOLBins,
- uruchamianie poleceń PowerShell o pozornie administracyjnym charakterze,
- pobieranie zewnętrznych komponentów przez mshta.exe,
- wielostopniowe wykonanie utrudniające szybką analizę.
W kampaniach zauważalne były również powtarzalne wzorce behawioralne, takie jak podejrzane komendy PowerShell, użycie mshta.exe, pobieranie zakodowanych instrukcji oraz działania zmierzające do utrwalenia infekcji lub przejęcia sesji przeglądarki. Mimo zmian domen, hostingu i nazw wykorzystywanych marek, trzon technik operacyjnych pozostawał podobny.
Konsekwencje / ryzyko
Najpoważniejszym skutkiem takich incydentów jest kompromitacja stacji roboczej lub konta użytkownika w sposób, który może wyglądać jak zwykła aktywność biznesowa. To utrudnia wykrycie ataku na wczesnym etapie i zwiększa ryzyko rozprzestrzenienia się incydentu w środowisku firmowym.
- infekcja infostealerem,
- kradzież ciasteczek i tokenów sesyjnych,
- przejęcie kont w usługach firmowych,
- ruch boczny w infrastrukturze,
- utrata danych i eskalacja do poważnego naruszenia bezpieczeństwa.
Dla zespołów SOC oraz dostawców usług MSSP zagrożenie oznacza również wzrost obciążenia operacyjnego. Poszczególne kampanie mogą się różnić marką AI, domeną czy sposobem dostarczenia, ale ich logika działania pozostaje zbliżona. W praktyce prowadzi to do powtarzalnych dochodzeń, większej liczby eskalacji i wydłużenia czasu reakcji.
Ryzyko jest szczególnie wysokie w organizacjach, które dopuszczają szerokie wykorzystanie narzędzi AI bez formalnej polityki wdrożeniowej, bez kontroli źródeł oprogramowania oraz bez odpowiedniej telemetrii z punktów końcowych.
Rekomendacje
Organizacje powinny traktować fałszywe kampanie AI jako pełnoprawny wektor początkowego dostępu. Odpowiedź obronna musi obejmować zarówno polityki bezpieczeństwa, jak i mechanizmy techniczne oraz działania edukacyjne.
- Wdrożenie polityki korzystania z AI – pracownicy powinni wiedzieć, z jakich narzędzi mogą korzystać i skąd wolno je pobierać.
- Ograniczenie ryzykownych narzędzi systemowych – warto blokować lub monitorować użycie mshta.exe, powershell.exe oraz innych LOLBins, zwłaszcza przy nietypowych parametrach.
- Wzmocnienie detekcji behawioralnej – skuteczniejsze od prostych IOC będzie wykrywanie sekwencji zdarzeń obejmujących przeglądarkę, PowerShell, HTA i podejrzane pobrania.
- Ochrona sesji i tożsamości – należy rozwijać MFA, monitorowanie anomalii logowania, wykrywanie ponownego użycia tokenów i kontrolę czasu życia sesji.
- Sandboxing i analiza interaktywna – podejrzane instalatory, skrypty i strony pobierania powinny być badane w środowiskach izolowanych.
- Aktualizacja huntingu i threat intelligence – ustalenia z incydentów powinny być zamieniane na trwałe hipotezy i reguły wykrywania.
- Szkolenia awareness – programy edukacyjne muszą uwzględniać fałszywe strony AI, sponsorowane wyniki wyszukiwania i instrukcje kopiowania poleceń do terminala.
Podsumowanie
Kampanie „fake AI” pokazują, że cyberprzestępcy bardzo szybko adaptują bieżące trendy technologiczne do sprawdzonych metod ataku. Wykorzystanie rozpoznawalnych marek AI, legalnych narzędzi systemowych oraz działań inicjowanych przez użytkownika zwiększa skuteczność infekcji i utrudnia wykrywanie.
Z perspektywy obrony kluczowe znaczenie mają kontrola źródeł oprogramowania, monitoring zachowań procesów, analiza wieloetapowych łańcuchów wykonania oraz ochrona sesji i tożsamości. Firmy, które wcześniej uwzględnią ten scenariusz w procesach bezpieczeństwa, będą lepiej przygotowane na rosnącą falę nadużyć wykorzystujących temat sztucznej inteligencji.