Wprowadzenie do problemu / definicja
Agentic AI to nowa klasa systemów sztucznej inteligencji, które nie ograniczają się do generowania treści, lecz potrafią wykonywać wieloetapowe zadania z częściową autonomią. W praktyce oznacza to dostęp do narzędzi, interfejsów API, danych firmowych i środowisk wykonawczych, a więc przejście od roli cyfrowego asystenta do roli wykonawcy realnych działań.
Taki wzrost sprawczości otwiera jednak nowy rozdział w cyberbezpieczeństwie. Im większa autonomia agenta, tym większa powierzchnia ataku, większe znaczenie kontroli uprawnień oraz większa potrzeba pełnej obserwowalności jego działań.
W skrócie
Brytyjskie National Cyber Security Centre ostrzega, że organizacje wdrażające agentic AI powinny wzmacniać zabezpieczenia już na etapie projektowania i integracji takich systemów. Według centrum ryzyka nie są wyłącznie teoretyczne, ponieważ łączą klasyczne problemy bezpieczeństwa z nowymi zagrożeniami wynikającymi z autonomii, szybkości działania i szerokiego dostępu do zasobów.
- Agentic AI zwiększa ryzyko nadużyć uprawnień i błędnych działań w środowisku produkcyjnym.
- Szczególne znaczenie mają zasada najmniejszych uprawnień, monitoring i segmentacja dostępu.
- NCSC rekomenduje ostrożne wdrażanie, zaczynając od zastosowań niskiego ryzyka.
Kontekst / historia
W ostatnich latach debata o bezpieczeństwie AI przesunęła się z modeli generatywnych na systemy agentowe. Coraz więcej organizacji testuje rozwiązania, które nie tylko analizują dane lub generują tekst, ale również uruchamiają procesy, konfigurują usługi, obsługują zgłoszenia i korzystają z systemów operacyjnych firmy.
To naturalnie przyciągnęło uwagę zespołów bezpieczeństwa, regulatorów i krajowych centrów cyberbezpieczeństwa. NCSC już wcześniej wskazywało, że wdrażanie agentic AI powinno odbywać się ostrożnie, przy wykorzystaniu sprawdzonych praktyk takich jak zarządzanie tożsamością, monitoring, reagowanie na incydenty oraz kontrola łańcucha dostaw. Jednocześnie organizacja rozwija szerszą wizję wykorzystania agentów AI w cyberobronie, podkreślając, że automatyzacja będzie coraz ważniejsza w walce z zagrożeniami działającymi z prędkością maszyny.
Analiza techniczna
Największe ryzyko związane z agentic AI wynika z połączenia trzech elementów: dostępu do narzędzi, zdolności do planowania wieloetapowego oraz możliwości wykonywania realnych akcji w infrastrukturze organizacji. O ile klasyczny model językowy może wygenerować błędną odpowiedź, o tyle agent może dodatkowo wykonać nieautoryzowane lub szkodliwe działanie.
Jednym z głównych problemów są nadmierne uprawnienia. Jeśli agent ma szeroki dostęp do poczty, repozytoriów kodu, chmury, baz danych czy systemów zgłoszeniowych, staje się atrakcyjnym celem ataku. Nie chodzi wyłącznie o kompromitację samego modelu, ale również o nadużycie tokenów API, błędne integracje, podatności w warstwie orkiestracji oraz skuteczne ataki prompt injection.
Kolejnym zagrożeniem jest pośrednie wykonywanie niebezpiecznych poleceń. Agent korzystający z dokumentów, wiadomości e-mail lub zewnętrznych źródeł danych może zostać zmanipulowany przez złośliwą treść wejściową. W efekcie atakujący może wpływać na decyzje systemu, wybór narzędzi czy kolejność działań bez bezpośredniego przejęcia infrastruktury.
Istotnym wyzwaniem pozostaje także brak granularnej obserwowalności. W systemach agentowych samo logowanie użytkownika i hosta nie wystarcza. Potrzebna jest rozbudowana telemetria obejmująca cel uruchomienia agenta, pełny łańcuch wykonania, dane wejściowe, użyte narzędzia oraz skutki każdej operacji.
NCSC zwraca również uwagę na ryzyko kaskadowe w integracjach. Agent AI często działa jako warstwa pośrednia między wieloma usługami, dlatego błąd logiczny lub błędna konfiguracja jednego połączenia może mieć skutki w kilku systemach jednocześnie. Z tego powodu coraz częściej mówi się o architekturze ograniczonej autonomii, w której agent działa wyłącznie w ściśle określonych granicach technicznych i procesowych.
Konsekwencje / ryzyko
Ryzyka związane z agentic AI mają zarówno wymiar techniczny, jak i biznesowy. Potencjalne skutki obejmują nieautoryzowany dostęp do danych, wycieki informacji wrażliwych, błędne zmiany konfiguracji, naruszenie integralności procesów oraz przyspieszenie skutków incydentu przez automatyzację działań.
Na szczególną uwagę zasługują cztery scenariusze: przejęcie agenta lub jego kontekstu działania, nadużycie uprawnień przy integracji z systemami krytycznymi, utrata kontroli nad decyzjami podejmowanymi przez system oraz brak rozliczalności operacyjnej. Jeśli organizacja nie dysponuje audytem i pełnym śladem działania, ustalenie przyczyn incydentu może okazać się bardzo trudne.
Najważniejsze jest jednak to, że zagrożenie nie polega na wizji samodzielnie buntującej się AI. Problemem są raczej klasyczne błędy bezpieczeństwa przeniesione do środowiska znacznie bardziej dynamicznego, zautomatyzowanego i zdolnego do szybkiej eskalacji skutków.
Rekomendacje
Organizacje planujące wdrożenie agentic AI powinny przyjąć podejście etapowe i defensywne. Najlepszą praktyką jest zaczynanie od zadań niskiego ryzyka oraz stopniowe rozszerzanie kompetencji systemu dopiero po testach bezpieczeństwa i walidacji procesów.
- Stosować zasadę najmniejszych uprawnień i krótkotrwałe poświadczenia.
- Wprowadzać mechanizmy human-in-the-loop dla operacji wysokiego ryzyka.
- Rejestrować pełny ślad działania agenta, w tym wejścia, decyzje i wywołania narzędzi.
- Zabezpieczać warstwę integracji poprzez walidację danych, filtrowanie niezaufanych treści i ograniczanie funkcji narzędzi.
- Włączać agentic AI do standardowych procesów governance, oceny ryzyka i testów bezpieczeństwa.
- Przygotować procedury awaryjnego zatrzymania systemu oraz cofania poświadczeń.
Równie ważne jest przygotowanie zespołów SOC i IR na incydenty związane z agentami AI. Obejmuje to analizę logów wykonawczych, odtwarzanie sekwencji działań oraz szybkie zatrzymywanie orkiestracji w razie wykrycia nadużycia lub błędu logicznego.
Podsumowanie
Ostrzeżenia NCSC pokazują, że rozwój agentic AI wymaga nowego poziomu dojrzałości w obszarze cyberbezpieczeństwa. Kluczowym wyzwaniem nie jest już samo korzystanie z modeli językowych, lecz przyznawanie im możliwości działania w realnych środowiskach organizacji.
Im większa autonomia systemu, tym większe znaczenie mają kontrola dostępu, ograniczanie uprawnień, obserwowalność i bezpieczna orkiestracja. Dla firm i instytucji najrozsądniejszą strategią pozostaje ostrożne wdrażanie, silne zabezpieczenia techniczne oraz pełna rozliczalność każdego działania wykonywanego przez agenta.
Źródła
- Infosecurity Magazine – NCSC Publishes Guidance on Securing Agentic AI Use — https://www.infosecurity-magazine.com/news/ncsc-publishes-guidance-securing/
- National Cyber Security Centre – Thinking carefully before adopting agentic AI — https://www.ncsc.gov.uk/blogs/thinking-carefully-before-adopting-agentic-ai
- National Cyber Security Centre – Cyber Shield: The path to an agentic AI future for cyber defence — https://www.ncsc.gov.uk/blogs/cyber-shield-the-path-to-an-agentic-ai-future-for-cyber-defence
- National Cyber Security Centre – Cyber Shield: The path to an agentic AI future for cyber defence (PDF) — https://www.ncsc.gov.uk/sites/default/files/2026-07/Cyber-Shield-The-path-to-an-agentic-AI-future-for-cyber-defence.pdf
- ITPro – The NCSC wants to build an AI-powered Cyber Shield to protect the UK from hackers — https://www.itpro.com/security/the-ncsc-wants-to-build-an-ai-powered-cyber-shield-to-protect-the-uk-from-hackers-heres-how-itll-work