Co znajdziesz w tym artykule?
Wprowadzenie do problemu / definicja
Rozwój generatywnej sztucznej inteligencji coraz częściej wykracza poza klasyczne zastosowania związane z analizą tekstu, automatyzacją kodu czy wsparciem operacji SOC. Najnowsze wyniki badań sugerują, że zaawansowane modele AI mogą samodzielnie prowadzić również prace z obszaru kryptanalizy i projektowania ataków na schematy kryptograficzne. To istotna zmiana, ponieważ kryptografia była dotąd traktowana jako dziedzina wymagająca głębokiej specjalizacji matematycznej, wieloletniego doświadczenia i długiego procesu weryfikacji.
W skrócie
Anthropic poinformował o dwóch wynikach badawczych uzyskanych przez model Claude Mythos Preview działający w dużej mierze autonomicznie. Pierwszy dotyczy ulepszonego ataku na HAWK, czyli postkwantowy schemat podpisu cyfrowego analizowany w procesie standaryzacji NIST. Drugi obejmuje znaczące przyspieszenie ataku na zredukowaną liczbę rund algorytmu AES.
Według opisu badań żaden z tych rezultatów nie oznacza złamania współcześnie używanych systemów produkcyjnych, ale oba pokazują, że AI potrafi generować oryginalne wyniki kryptograficzne, których wcześniejsze przeglądy ekspertów nie wykryły.
Kontekst / historia
W ostatnich latach modele językowe zaczęły odgrywać rosnącą rolę w cyberbezpieczeństwie. Początkowo były wykorzystywane głównie do automatyzacji analizy kodu, wyszukiwania podatności implementacyjnych oraz wspomagania red teamingu. Następnym krokiem stało się badanie, czy AI potrafi wychodzić poza błędy programistyczne i identyfikować słabości w samych konstrukcjach kryptograficznych.
Szczególne znaczenie ma tu przypadek HAWK. Jest to jedna z propozycji postkwantowych podpisów cyfrowych analizowanych w procesie standaryzacji prowadzonym przez NIST, który trwa od wielu lat i ma kluczowe znaczenie dla przyszłej odporności systemów na komputery kwantowe. Każde nowe odkrycie osłabiające bezpieczeństwo takiego schematu może wpłynąć na jego praktyczną przydatność, parametry bezpieczeństwa oraz szanse na dalsze wykorzystanie.
W tle znajduje się także szerszy trend: AI znajduje coraz więcej błędów szybciej, niż zespoły badawcze i obronne są w stanie je zweryfikować. W obszarze kryptografii problem ten może być jeszcze bardziej dotkliwy, ponieważ proces potwierdzania poprawności wyników wymaga nie tylko testów, ale też rygorystycznej analizy matematycznej.
Analiza techniczna
Najważniejszy rezultat dotyczy HAWK. Model miał zidentyfikować wcześniej niewykorzystaną symetrię w strukturze matematycznej schematu, opisywaną jako nietrywialny automorfizm. W praktyce umożliwiło to szybszy atak enumeracyjny i znaczące obniżenie kosztu obliczeniowego potrzebnego do przeprowadzenia analizy. Dla wariantu HAWK-256 oczekiwany koszt ataku miał spaść z poziomu 2^64 do 2^38 operacji, co oznacza bardzo istotne obniżenie efektywnego marginesu bezpieczeństwa.
Według opisu procesu badawczego model działał w środowisku agentowym, z ograniczoną interwencją człowieka. Obejmowało to przegląd literatury, formułowanie hipotez, eksperymenty obliczeniowe oraz budowę pełnego pipeline’u walidacyjnego. Interesującym elementem była praca wielu agentów nad tym samym problemem, co sugeruje, że architektury wieloagentowe mogą zwiększać odporność procesu badawczego na przedwczesne porzucanie obiecujących tropów.
Drugi rezultat dotyczy zredukowanej wersji AES. Model miał opracować technikę określaną jako Möbius Bridge, która usprawnia atak typu meet-in-the-middle na 7-rundowy wariant AES poprzez eliminację jednej z koniecznych zgadywanych wartości i zrównoważenie kosztów dodatkowymi optymalizacjami. Z perspektywy praktycznej najważniejsze jest to, że badanie nie dotyczy pełnego AES-128 używanego operacyjnie.
Opisano również dodatkowe wyniki dla innych algorytmów, w tym LEA, Serpent-128, Salsa20, Poseidon i SHA-1. Choć nie wszystkie mają taki sam ciężar praktyczny, razem tworzą obraz systemu AI zdolnego do prowadzenia szerokiego programu badawczego w kryptografii stosowanej.
Konsekwencje / ryzyko
Najważniejsze ryzyko nie polega obecnie na natychmiastowym złamaniu powszechnie używanych mechanizmów ochrony danych, lecz na skróceniu czasu potrzebnego do odkrywania słabości kryptograficznych. To może istotnie zmienić równowagę między badaczami, dostawcami technologii i zespołami defensywnymi.
W praktyce oznacza to kilka zagrożeń:
- kandydaci do standaryzacji postkwantowej mogą wymagać częstszej i bardziej zautomatyzowanej reevaluacji,
- organizacje wdrażające nowe prymitywy kryptograficzne muszą zakładać, że okres spokojnej analizy po publikacji może się skrócić,
- przewaga czasowa ofensywnych zastosowań AI może rosnąć tam, gdzie proces walidacji po stronie obrońców pozostanie w dużej mierze manualny.
Pojawia się też ryzyko operacyjne związane z przeciążeniem ekspertów. Jeśli model potrafi w ciągu dni generować hipotezy badawcze i szkice ataków, a ludzie potrzebują tygodni lub miesięcy na ich potwierdzenie, to wąskim gardłem staje się nie samo odkrywanie podatności, lecz ich matematyczna i inżynierska weryfikacja.
Rekomendacje
Organizacje odpowiedzialne za bezpieczeństwo kryptograficzne powinny traktować AI jako nowy czynnik przyspieszający cykl odkrywania słabości. W praktyce warto:
- regularnie monitorować wyniki badań dotyczących algorytmów postkwantowych oraz aktualizacje procesów standaryzacyjnych,
- unikać przedwczesnego, masowego wdrażania nowych schematów kryptograficznych bez planu migracji i ponownej oceny ryzyka,
- rozszerzyć procesy crypto agility, tak aby wymiana algorytmów, parametrów i bibliotek była możliwa bez kosztownej przebudowy systemów,
- włączać zautomatyzowane narzędzia wspierane przez AI do przeglądu implementacji, ale nie zastępować nimi niezależnej walidacji eksperckiej,
- budować procedury szybkiej reakcji na nowe wyniki kryptanalizy, zwłaszcza dla rozwiązań znajdujących się w fazie oceny lub pilotażu,
- rozwijać pipeline’y replikacji wyników, testów matematycznych i formalnej weryfikacji, aby ograniczyć wąskie gardła związane z ręcznym sprawdzaniem twierdzeń modelu.
Dla zespołów bezpieczeństwa ważne jest również rozróżnienie między ryzykiem teoretycznym a produkcyjnym. Nie każdy postęp w kryptanalizie przekłada się od razu na zagrożenie dla systemów operacyjnych, ale każdy taki wynik może wpływać na decyzje architektoniczne, roadmapy migracji i polityki długoterminowej ochrony danych.
Podsumowanie
Przypadek Claude Mythos wskazuje, że AI zaczyna odgrywać realną rolę w zaawansowanych badaniach kryptograficznych, a nie tylko w analizie kodu i podatności implementacyjnych. Wyniki dotyczące HAWK i zredukowanego AES nie oznaczają kryzysu dla obecnie stosowanej kryptografii produkcyjnej, ale stanowią wyraźny sygnał ostrzegawczy dla środowiska bezpieczeństwa.
Najważniejsza zmiana dotyczy tempa: modele AI mogą szybciej generować nowe idee ataków, niż ludzie są w stanie je formalnie zweryfikować. To sprawia, że przyszłość cyberbezpieczeństwa będzie zależeć nie tylko od siły algorytmów, lecz także od zdolności organizacji do szybkiego potwierdzania, oceny i wdrażania zmian w odpowiedzi na odkrycia wspierane przez AI.
Źródła
- https://securityaffairs.com/196265/ai/claude-mythos-shows-ai-can-outpace-human-cryptography-research.html
- https://www.anthropic.com/
- https://csrc.nist.gov/Projects/post-quantum-cryptography