
Wprowadzenie do problemu / definicja
Wykorzystanie modeli AI do audytu bezpieczeństwa oprogramowania coraz częściej trafia do praktyki zespołów AppSec i DevSecOps. Najnowsze porównanie pokazuje jednak, że nawet zaawansowane systemy analizujące ten sam kod źródłowy mogą dojść do skrajnie różnych wniosków dotyczących potencjalnych podatności.
To ważny sygnał dla organizacji, które traktują modele językowe jako wsparcie w wykrywaniu luk. Skuteczność takiego podejścia zależy nie tylko od jakości samego modelu, ale także od procesu walidacji, deduplikacji ustaleń oraz łączenia wyników z wielu narzędzi.
W skrócie
Badanie przeprowadzone przez Echo wykazało, że trzy modele AI analizujące te same pakiety open source zgodziły się tylko w przypadku jednej potencjalnej podatności spośród 121 odrębnych problemów. To oznacza bardzo niski poziom zgodności pomiędzy systemami, które teoretycznie miały wykonywać podobne zadanie.
Łącznie zrealizowano dziewięć przebiegów analizy, które wygenerowały 446 wstępnych ustaleń. Po oczyszczeniu wyników liczba ta spadła do 152, a do zautomatyzowanej walidacji trafiło 55 zgłoszeń, z czego 42 przeszły testy potwierdzające.
- trzy modele analizowały ten sam zestaw kodu,
- zgodność wszystkich modeli dotyczyła tylko jednego przypadku,
- 100 ustaleń pochodziło wyłącznie z pojedynczego modelu,
- wystąpiły istotne różnice w czasie działania, koszcie i ocenie ryzyka.
Kontekst / historia
Rosnące zainteresowanie wykorzystaniem AI w cyberbezpieczeństwie wynika z możliwości szybkiego przeszukiwania dużych repozytoriów i wskazywania podejrzanych wzorców w kodzie. Modele językowe są dziś testowane zarówno po stronie obrony, jak i w badaniach nad automatyzacją wykrywania błędów w łańcuchu dostaw oprogramowania.
Jednocześnie od dłuższego czasu trwa dyskusja o tym, czy AI faktycznie jest gotowa do samodzielnego wykrywania podatności na poziomie wymaganym przez środowiska produkcyjne. Z jednej strony modele przyspieszają triage i pomagają zawęzić obszar analizy, z drugiej nadal produkują znaczną liczbę wyników wymagających ręcznej weryfikacji.
Opisywane porównanie wpisuje się właśnie w tę debatę. Pokazuje bowiem nie tylko problem fałszywych trafień, ale też znacznie głębszą kwestię: różne modele patrzą na ten sam kod przez odmienne heurystyki, przez co ich pokrycie podatności jest mocno niesymetryczne.
Analiza techniczna
W teście porównano trzy zaawansowane modele AI, które otrzymały do analizy ten sam zestaw komponentów open source: dwa repozytoria oparte na Maven oraz jeden pakiet npm. Wszystkie działały w ramach tej samej procedury badawczej i tego samego procesu walidacyjnego, co miało ograniczyć wpływ czynników zewnętrznych.
Najważniejszy wniosek dotyczył skali rozbieżności. Spośród 121 potencjalnych problemów tylko jeden został wskazany przez wszystkie trzy modele. Aż 100 ustaleń pochodziło wyłącznie z jednego systemu, co sugeruje, że każdy z modeli wykrywał inny fragment realnej powierzchni ryzyka.
Różnice były widoczne również na poziomie poszczególnych projektów. Jeden model uzyskał najwięcej pozytywnych walidacji łącznie, ale inny lepiej radził sobie z określonym pakietem Maven, a trzeci znajdował unikalne błędy w innym komponencie. Może to wskazywać na częściową specjalizację modeli względem języka, ekosystemu lub klas błędów.
Istotna okazała się także niespójność klasyfikacji krytyczności. Ten sam problem mógł zostać uznany przez jeden model za krytyczny, przez drugi za wysoki, a przez trzeci za zachowanie zgodne z dokumentacją. Dodatkowo automatyczna walidacja mogła przypisać mu jeszcze niższą istotność, co pokazuje, że rozbieżności nie kończą się na samym wykryciu podatności.
Na uwagę zasługują także parametry operacyjne. Jeden model zakończył analizę w około 24 minuty, podczas gdy dwa pozostałe potrzebowały blisko trzech godzin. W praktyce oznacza to dla organizacji konieczność równoważenia dokładności, czasu wykonania, kosztu tokenów oraz obciążenia zespołu odpowiedzialnego za walidację.
Konsekwencje / ryzyko
Największym zagrożeniem jest fałszywe poczucie kompletności. Jeśli organizacja opiera audyt bezpieczeństwa wyłącznie na jednym modelu AI, może po prostu nie zobaczyć błędów, które zostałyby wykryte przez inny system.
To szczególnie ważne w sytuacji, w której atakujący i obrońca korzystają z różnych narzędzi AI. Jeżeli przeciwnik potrafi znaleźć klasę podatności niewidoczną dla modelu używanego przez zespół bezpieczeństwa, luka może pozostać niezauważona aż do momentu rzeczywistego wykorzystania.
Drugie ryzyko dotyczy kosztu walidacji. Duża liczba wstępnych ustaleń oznacza konieczność deduplikacji, reprodukcji i priorytetyzacji. Bez dojrzałego procesu organizacja może utknąć w analizie szumu, zamiast skupić się na potwierdzonych i istotnych problemach.
Trzecim problemem jest błędna ocena wagi podatności. Zawyżenie lub zaniżenie krytyczności może prowadzić do złej alokacji zasobów, opóźnień w patchowaniu oraz nieadekwatnych decyzji dotyczących reakcji operacyjnej.
Rekomendacje
Firmy wykorzystujące AI do audytu bezpieczeństwa powinny traktować modele jako narzędzia wspierające, a nie samodzielne źródło prawdy. W przypadku kodu wysokiego ryzyka warto rozważyć podejście multi-model, które zwiększa szansę na szersze pokrycie potencjalnych błędów.
Niezbędna pozostaje również silna warstwa walidacyjna. Samo wykrycie potencjalnej luki nie powinno automatycznie uruchamiać eskalacji bez potwierdzenia reprodukowalności, wpływu na bezpieczeństwo oraz rzeczywistego znaczenia biznesowego.
- łączyć wyniki kilku modeli AI z klasycznymi skanerami SAST, DAST i SCA,
- wdrożyć deduplikację i automatyczne testy potwierdzające,
- mierzyć precision, recall, koszt walidacji i czas do potwierdzenia,
- stosować osobne polityki dla bibliotek krytycznych i szeroko używanych komponentów,
- regularnie benchmarkować modele na wewnętrznym kodzie referencyjnym,
- identyfikować klasy błędów, które dany model może systematycznie pomijać.
Podsumowanie
Wyniki badania pokazują, że trzy modele AI analizujące ten sam kod mogą wskazać niemal całkowicie różne zestawy podatności. Tak niski poziom zgodności podważa założenie, że pojedynczy model zapewni wystarczające pokrycie w procesie wykrywania luk.
Z perspektywy cyberbezpieczeństwa oznacza to potrzebę łączenia wielu metod detekcji, utrzymywania rygorystycznej walidacji oraz traktowania AI jako akceleratora pracy ekspertów, a nie substytutu dojrzałego procesu bezpieczeństwa.
Źródła
- Three AI Models Agree on Just One of 121 Potential Code Flaws – Infosecurity Magazine
- AI Cuts Vulnerability Discovery from Nine Months to 90 Hours – Infosecurity Magazine
- LLMs Fall Short in Vulnerability Discovery and Exploitation – Infosecurity Magazine
- Google Researchers Claim First Vulnerability Found Using AI – Infosecurity Magazine