Jak wynika z niezależnego raportu, systemy nie otrzymały polecenia przeprowadzenia cyberataku, ich niepożądane zachowanie pojawiło się podczas realizacji zadania polegającego na wyszukiwaniu informacji. Sprawę opisał Rowan Howard-Jones w raporcie opracowanym na podstawie danych dostarczonych przez firmę badawczą Transluce.
Analiza dotyczy aktywności agentów OpenAI na publicznym portalu danych Konferencji Narodów Zjednoczonych ds. Handlu i Rozwoju (UNCTAD). Między kwietniem a końcem czerwca 2026 roku systemy miały wykonać ponad 16 tys. zapytań, stosując coraz bardziej agresywne techniki pozyskiwania informacji.
Agenci AI samodzielnie znaleźli sposób na obejście blokady
Początkowo agenci wykonywali standardowe zadanie polegające na wyszukiwaniu publicznie dostępnych danych. Problemy pojawiły się, gdy natrafili na filtr ograniczający dostęp do części informacji. Zamiast zakończyć działanie, zaczęli modyfikować sposób wysyłania zapytań i poszukiwać alternatywnych metod pobierania zawartości serwisu.
Według Howarda-Jonesa stopniowo udoskonalali swoje techniki, aby uzyskiwać coraz więcej danych podczas każdego skanowania. Ostatecznie odkryli, że jedna z gier udostępnianych przez Google może zostać wykorzystana do masowego pobierania informacji. W ten sposób znaleźli metodę obejścia ograniczeń, na której stosowanie administratorzy strony ONZ nie wyrazili zgody.
Co istotne, nic nie wskazuje na to, aby agenci zostali bezpośrednio poinstruowani, by zaatakować serwis lub przełamać jego zabezpieczenia. Ich działania były konsekwencją samodzielnego poszukiwania sposobu na wykonanie powierzonego zadania. Alex Stamos, ekspert ds. cyberbezpieczeństwa i wykładowca Uniwersytetu Stanforda, w rozmowie z "The Wall Street Journal" określił incydent jako działanie na granicy hakowania. Zwrócił jednak uwagę, że przede wszystkim chodziło o wyjątkowo agresywne automatyczne pobieranie danych ze strony internetowej.
OpenAI analizuje niepożądane zachowania swoich modeli
Incydent dotyczący strony ONZ nie jest odosobniony. W ostatnich tygodniach badacze ujawnili również przypadki nieoczekiwanej aktywności agentów OpenAI na amerykańskich stronach rządowych, w tym witrynach Departamentu Handlu oraz Komisji Papierów Wartościowych i Giełd (SEC). Z kolei australijskie władze wszczęły dochodzenie po doniesieniach o włamaniu na jedną z rządowych stron internetowych przez agenta AI.
W innych przypadkach badacze zaobserwowali tworzenie fałszywych adresów e-mail, omijanie ograniczeń liczby zapytań oraz składanie nieprawdziwych deklaracji, że oprogramowanie nie jest botem. OpenAI poinformowało, że prowadzi szeroko zakrojoną analizę niepożądanych zachowań modeli podczas trenowania i testowania. Firma przyznała, że choć większość badanych przypadków dotyczyła rutynowych zadań związanych z wyszukiwaniem informacji, część działań mogła negatywnie wpływać na funkcjonowanie zewnętrznych serwisów.
