Wprowadzenie do problemu / definicja
OpenAI poinformowało o usunięciu klastra kont ChatGPT, które miały wspierać skoordynowaną operację wpływu powiązaną z rosyjską aktywnością informacyjną. Incydent pokazuje, że generatywna sztuczna inteligencja nie jest wykorzystywana wyłącznie do tworzenia deepfake’ów czy fałszywych grafik, ale również jako praktyczne narzędzie do wzmacniania narracji propagandowych, automatyzacji komunikacji i budowania pozorów wiarygodności.
W tego typu kampaniach AI pełni rolę akceleratora działań informacyjnych. Umożliwia szybkie przygotowywanie treści, dopasowywanie przekazu do różnych odbiorców i zwiększanie skali publikacji bez konieczności angażowania dużych zespołów operacyjnych.
W skrócie
Z ustaleń wynika, że operatorzy wykorzystywali prompty w języku rosyjskim do generowania treści publikowanych głównie po angielsku w mediach społecznościowych i komunikatorach. Celem kampanii było promowanie organizacji przedstawianej jako think tank pod nazwą International Burke Institute, rzekomo działającej w Izraelu.
Operacja opierała się na publikacji materiałów stylizowanych na analizy eksperckie, tworzeniu profili podszywających się pod analityków oraz promowaniu tzw. indeksu suwerenności, który przedstawiał Rosję w korzystnym świetle. ChatGPT nie stanowił całej infrastruktury dezinformacyjnej, lecz wspierał jej warstwę promocyjną i komunikacyjną.
Kontekst / historia
Operacje wpływu w cyberprzestrzeni od lat bazują na fałszywych personach, kontrolowanych kanałach dystrybucji oraz treściach podszywających się pod niezależne analizy. Nowością jest rosnące znaczenie narzędzi generatywnych, które obniżają koszt takich działań i skracają czas potrzebny do przygotowania materiałów.
W opisywanym przypadku centralnym elementem kampanii była marka International Burke Institute. Witryna i towarzyszące jej profile miały sprawiać wrażenie profesjonalnego zaplecza analitycznego publikującego raporty geopolityczne oraz wskaźniki oceny państw. Tego rodzaju konstrukcja wpisuje się w znany schemat operacji informacyjnej: najpierw buduje się pozór instytucjonalnej legitymizacji, a następnie kieruje do niego ruch z kanałów społecznościowych.
Dodatkowym problemem było to, że część treści miała być kopiowana lub błędnie przypisywana innym autorom. To klasyczna technika wzmacniania sztucznego autorytetu poprzez wykorzystanie formy eksperckiej bez rzeczywistej transparentności źródeł i metodologii.
Analiza techniczna
Technicznie kampania stanowi przykład połączenia ogólnodostępnego modelu AI z klasyczną infrastrukturą dezinformacyjną. Operatorzy mieli korzystać z ChatGPT do generowania komentarzy i wpisów publikowanych na platformach takich jak X, Facebook, LinkedIn, Telegram czy Substack.
Szczególnie istotne było używanie poleceń zawierających wytyczne dotyczące ukrywania rosyjskiego pochodzenia autorów, zwłaszcza na poziomie językowym. Oznacza to, że model służył nie tylko do pisania tekstów, ale również do redukcji sygnałów, które mogłyby zdradzać rzeczywiste źródło kampanii.
Według dostępnych informacji wykorzystywano również sieci VPN do obchodzenia ograniczeń dostępu. Z perspektywy cyberbezpieczeństwa to ważna obserwacja, ponieważ pokazuje, że nadużycia AI są wspierane przez dobrze znane techniki maskowania infrastruktury. Model nie zastępuje więc tradycyjnego zaplecza operacyjnego, lecz zwiększa jego skuteczność.
Centralnym artefaktem narracyjnym był tzw. Burke Index, określany także jako indeks suwerenności. Tego typu wskaźniki, rankingi i wykresy budują pozór obiektywizmu, nawet gdy metodologia jest niejasna albo selektywna. W praktyce kampania wykorzystywała mechanizm wytwarzania sztucznego autorytetu poprzez połączenie liczb, oprawy eksperckiej i wielokanałowej promocji.
OpenAI miało również wskazać aktywność związaną z niemieckojęzycznym kanałem Telegram oraz tworzeniem logotypów dla kanałów kierowanych do odbiorców w różnych państwach, w tym w Niemczech, USA, Polsce, Francji i Turcji. Taki model sugeruje segmentację informacyjną, w której jedna infrastruktura może zasilać wiele rynków językowych przy relatywnie niskim koszcie operacyjnym.
Konsekwencje / ryzyko
Najważniejszy wniosek z tego przypadku jest taki, że nawet kampanie o ograniczonym zasięgu mogą mieć znaczenie strategiczne. Nie każda operacja wpływu musi natychmiast osiągnąć efekt wiralowy. Często chodzi o zbudowanie zasobów, które można uruchomić w kluczowym momencie, na przykład podczas wyborów, kryzysu politycznego lub eskalacji międzynarodowej.
Ryzyko obejmuje kilka poziomów. Fałszywy think tank może zostać uznany za wiarygodne źródło analiz, treści mogą zostać podchwycone przez realnych użytkowników i mniejsze media, a wykorzystanie AI utrudnia ocenę rzeczywistej skali operacji. Niewielki zespół jest dziś w stanie produkować i lokalizować treści z wydajnością, która wcześniej wymagała znacznie większych zasobów.
Zagrożenie dotyczy również erozji zaufania do treści eksperckich. Jeśli spreparowane instytuty, raporty i indeksy zaczynają funkcjonować w ekosystemie informacyjnym, rośnie koszt weryfikacji autorstwa, afiliacji i metodologii. To szczególnie niebezpieczne dla OSINT, monitoringu mediów, analizy ryzyka oraz środowisk decyzyjnych opierających się na szybkim przetwarzaniu informacji.
Rekomendacje
Organizacje monitorujące dezinformację powinny rozszerzyć procedury detekcji o analizę wzorców charakterystycznych dla wspomaganego przez AI content laundering. Kluczowe staje się wykrywanie spójnych tematycznie publikacji pojawiających się równolegle na wielu platformach oraz identyfikacja profesjonalnie wyglądających, ale słabo umocowanych marek analitycznych.
- Korelować publikacje z metadanymi infrastrukturalnymi, takimi jak historia domen, rejestracja serwisów i aktywność powiązanych kont.
- Weryfikować, czy profile eksperckie mają wiarygodny ślad cyfrowy poza jedną stroną internetową lub jednym kanałem społecznościowym.
- Badać oryginalność artykułów, komentarzy i raportów przedstawianych jako niezależne analizy.
- Monitorować rankingi, indeksy i raporty o niejasnej metodologii, które mogą pełnić funkcję nośników wpływu.
- Uwzględniać VPN, tłumaczenia maszynowe, powtarzalne struktury językowe i stylometrię w analizie atrybucyjnej.
Dla redakcji, analityków i odbiorców profesjonalnych kluczowa jest zasada ograniczonego zaufania wobec nowych marek eksperckich. Sam wygląd witryny, obecność logotypu, publikacje po angielsku czy aktywność w mediach społecznościowych nie są dowodem autentyczności. Sprawdzenia wymagają autorzy, afiliacje, historia domeny, cytowania oraz sposób budowy prezentowanych wskaźników.
Dostawcy modeli AI powinni z kolei rozwijać mechanizmy wykrywania nadużyć nie tylko na poziomie pojedynczych promptów, ale także wzorców użycia obejmujących powiązane konta, obchodzenie geoblokad i koordynację działań między wieloma profilami.
Podsumowanie
Usunięcie rosyjskich kont ChatGPT wspierających tajną operację wpływu pokazuje, że generatywna AI staje się realnym wzmacniaczem kampanii dezinformacyjnych. Jej największa wartość dla operatorów nie polega wyłącznie na jakości pojedynczych wpisów, lecz na możliwości szybkiego budowania pozornie wiarygodnego ekosystemu treści, który może zostać uruchomiony w szerszej operacji politycznej lub informacyjnej.
Dla sektora cyberbezpieczeństwa to kolejny sygnał, że analiza zagrożeń musi obejmować nie tylko infrastrukturę techniczną, ale również warstwę narracyjną, źródła autorytetu i mechanizmy sztucznego wzmacniania przekazu. Granica między klasyczną dezinformacją a nadużyciem narzędzi AI staje się coraz mniej wyraźna.
Źródła
- Security Affairs: https://securityaffairs.com/197878/intelligence/openai-banned-russian-chatgpt-accounts-backing-covert-influence-operation.html
- OpenAI – raport dotyczący zakłócania tajnych operacji wpływu: https://openai.com/