OpenAI blokuje sieć oszustw z Poipet wykorzystującą ChatGPT do wielowektorowych kampanii fraudowych

Co znajdziesz w tym artykule?

1 Wprowadzenie do problemu / definicja
2 W skrócie
3 Kontekst / historia
4 Analiza techniczna
5 Konsekwencje / ryzyko
6 Rekomendacje
7 Podsumowanie
8 Źródła

Wprowadzenie do problemu / definicja

Wykorzystanie generatywnej sztucznej inteligencji przez cyberprzestępców przestaje być ciekawostką, a staje się stałym elementem nowoczesnych operacji oszustw. Najnowszy ujawniony przypadek dotyczy sieci powiązanej z Poipet w Kambodży, która wykorzystywała ChatGPT do wspierania kampanii inwestycyjnych, romansowych, hazardowych oraz scenariuszy podszywania się pod organy ścigania.

Sprawa pokazuje, że modele językowe nie muszą bezpośrednio przełamywać zabezpieczeń technicznych, aby realnie zwiększać skuteczność ataku. W praktyce wzmacniają one socjotechnikę, przyspieszają tworzenie treści i pozwalają przestępcom prowadzić działania na większą skalę.

W skrócie

OpenAI poinformowało o zablokowaniu skoordynowanej sieci kont powiązanych z operacją scamową działającą najprawdopodobniej z rejonu Poipet.
Grupa używała ChatGPT do generowania fałszywych person, tłumaczenia wiadomości, tworzenia komunikacji z ofiarami i materiałów wspierających oszustwa.
Kampania łączyła kilka typów fraudów równolegle, w tym fałszywe inwestycje, oszustwa romansowe, fikcyjne bonusy hazardowe oraz podszywanie się pod służby.
Część ujawnionych działań wskazywała również na możliwe powiązania z pracą przymusową i handlem ludźmi.

Kontekst / historia

Poipet od lat pojawia się w raportach dotyczących zorganizowanej cyberprzestępczości i centrów oszustw działających w Azji Południowo-Wschodniej. Tego typu struktury często funkcjonują jak rozbudowane zaplecze call center, gdzie klasyczne wyłudzenia finansowe łączą się z intensywną socjotechniką i presją operacyjną wobec pracowników.

W analizowanym przypadku istotne jest to, że nie chodziło o pojedynczy schemat oszustwa, ale o model wielousługowy. Jedna organizacja prowadziła równolegle różne kampanie, testowała odmienne narracje i wykorzystywała AI jako narzędzie zwiększające tempo działania oraz jakość komunikacji.

Śledztwo miało zostać zainicjowane na podstawie sygnałów przekazanych przez partnerów branżowych. Następnie przeanalizowano aktywność kont, co doprowadziło do ich usunięcia i przekazania informacji odpowiednim podmiotom. Incydent wpisuje się w szerszy trend, w którym AI nie zastępuje operatora oszustwa, ale znacząco obniża koszt tworzenia wiarygodnych treści.

Analiza techniczna

Z technicznego punktu widzenia ChatGPT pełnił funkcję warstwy automatyzacji i akceleracji działań socjotechnicznych. Narzędzie było wykorzystywane do budowania fałszywych tożsamości, generowania spójnych historii oraz dopasowywania komunikacji do języka, kraju i profilu ofiary.

Operatorzy tworzyli z pomocą AI profile randkowe, fikcyjnych doradców inwestycyjnych oraz persony podszywające się pod funkcjonariuszy lub przedstawicieli instytucji. Tego rodzaju zastosowanie zwiększało wiarygodność pierwszego kontaktu i ułatwiało prowadzenie długich rozmów z ofiarami.

Model wspierał również obsługę konwersacji na komunikatorach i w mediach społecznościowych. Obejmowało to przygotowywanie wiadomości otwierających, podtrzymywanie relacji, tłumaczenia oraz generowanie przekonujących odpowiedzi w trakcie rozbudowanych rozmów, co ma szczególne znaczenie w oszustwach romansowych i inwestycyjnych.

Istotnym elementem były też artefakty wspierające oszustwo. Według ujawnionych informacji AI pomagała tworzyć obrazy sfałszowanych dokumentów, zawiadomień prawnych, potwierdzeń zakupu aktywów oraz interfejsów platform inwestycyjnych i hazardowych. Materiały te wzmacniały narrację przestępców i miały obniżać czujność ofiary.

Co ważne, wykorzystanie AI nie ograniczało się do kontaktu z celem ataku. Narzędzie wspierało także zaplecze administracyjne operacji, w tym tłumaczenia wewnętrzne, ogłoszenia organizacyjne oraz dokumentację dotyczącą zadłużenia pracowników, kar, pożyczek, statusu wizowego i procesów rekrutacyjnych. To pokazuje, że generatywna AI może usprawniać również przestępczy back office.

Schemat działania odpowiadał klasycznemu modelowi trzyetapowemu:

nawiązanie kontaktu przez komunikatory lub media społecznościowe,
budowanie zaufania poprzez relację emocjonalną, obietnicę zysku lub presję prawną,
finalne wyłudzenie środków w postaci depozytu, opłaty aktywacyjnej, fikcyjnej grzywny lub dopłaty do rzekomej wygranej.

Konsekwencje / ryzyko

Najważniejszym wnioskiem z incydentu jest to, że generatywna AI istotnie zwiększa efektywność oszustw nawet bez prowadzenia zaawansowanych ataków technicznych. Zagrożenie rośnie jednocześnie w kilku wymiarach: skali, jakości komunikacji i elastyczności operacyjnej.

Jeden operator może szybciej obsługiwać większą liczbę rozmów, w większej liczbie języków i z wyższym poziomem spójności. AI poprawia styl, gramatykę i ton wypowiedzi, przez co wiadomości stają się bardziej profesjonalne i trudniejsze do odróżnienia od legalnej komunikacji.

Ryzyko nie dotyczy wyłącznie użytkowników indywidualnych. Fałszywe persony mogą być skutecznie wykorzystywane także przeciw pracownikom firm, partnerom biznesowym, działom finansowym i zespołom compliance. Szczególnie niebezpieczne okazuje się połączenie AI z wizualnymi materiałami wspierającymi oszustwo, takimi jak fałszywe dokumenty czy spreparowane potwierdzenia transakcji.

Dodatkowy ciężar tej sprawy wynika z możliwych związków z przestępczością zorganizowaną, handlem ludźmi i pracą przymusową. Oznacza to, że przeciwdziałanie takim operacjom wymaga nie tylko działań platform cyfrowych, ale również współpracy międzynarodowej, prawnej i wywiadowczej.

Rekomendacje

Organizacje powinny potraktować ten przypadek jako sygnał do aktualizacji modeli zagrożeń związanych z fraudem wspieranym przez AI. Obrona wymaga podejścia wielowarstwowego.

Wzmocnienie weryfikacji tożsamości przy operacjach finansowych, zmianach danych rozliczeniowych i pilnych żądaniach płatniczych.
Potwierdzanie krytycznych dyspozycji poza podstawowym kanałem komunikacji, najlepiej przez wcześniej znany numer lub formalny kanał firmowy.
Rozbudowa mechanizmów wykrywania socjotechniki w poczcie, komunikatorach, mediach społecznościowych i aplikacjach mobilnych.
Aktualizacja szkoleń użytkowników tak, aby uwzględniały fakt, że poprawny język i profesjonalny ton nie są już oznaką autentyczności.
Monitorowanie wskaźników kompromitacji związanych z fałszywymi inwestycjami, oszustwami romansowymi i podszywaniem się pod instytucje państwowe.
Uwzględnienie w procedurach KYC, AML i antyfraudowych możliwości generowania syntetycznych dokumentów i zmanipulowanych załączników.
Zacieśnienie współpracy między platformami cyfrowymi, dostawcami AI i organami ścigania w zakresie wymiany sygnałów o nadużyciach.

Podsumowanie

Operacja powiązana z Poipet potwierdza, że generatywna AI stała się praktycznym narzędziem wzmacniającym cyberoszustwa na poziomie komunikacji, tworzenia treści i organizacji zaplecza operacyjnego. Przestępcy nie ograniczają się już do jednego modelu wyłudzenia, lecz łączą oszustwa inwestycyjne, romantyczne, hazardowe i impersonacyjne w jedną elastyczną kampanię.

Dla obrońców oznacza to konieczność szerszego spojrzenia na cały łańcuch fraudu: od pozyskania kontaktu, przez manipulację emocjonalną, aż po finalną monetyzację. Skuteczna odpowiedź będzie wymagała jednoczesnej edukacji użytkowników, silniejszych procedur weryfikacyjnych, lepszego wykrywania nadużyć i ścisłej współpracy między sektorem prywatnym a instytucjami publicznymi.