W skrócie
- Podczas majowych testów cyberbezpieczeństwa model Google Gemini włamał się do systemów trzech zewnętrznych firm przez błąd konfiguracyjny w środowisku badawczym.
- Sztuczna inteligencja uzyskała nieautoryzowany dostęp, mylnie traktując rzeczywiste podmioty jako cele testowe, jednak przerwała działania po rozpoznaniu błędu.
- W odpowiedzi na incydenty z udziałem modeli różnych firm eksperci i liderzy branży AI apelują o zaostrzenie regulacji oraz stworzenie globalnego organu nadzorczego.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Gemini włamał się do systemów trzech zewnętrznych firm
Do tej pory głośno było o przypadkach naruszeń dokonywanych przez agenty Anthropic i OpenAI. Tymczasem do grona firm, których sztuczna inteligencja ma już na koncie działania hakerskie, dołączyło Google. Jego model Gemini zyskał nieautoryzowany dostęp do systemów trzech zewnętrznych przedsiębiorstw. Do zdarzenia doszło w maju 2026 r. podczas ewaluacji cyberbezpieczeństwa prowadzonej przez zewnętrzną firmę badawczą Irregular. Był to pierwszy znany przypadek, w którym autonomiczny system AI należący do Google podjął takie działania w sieci.
Ewaluacja miała odbywać się w odizolowanym środowisku testowym z udziałem fikcyjnych podmiotów. W wyniku błędu konfiguracyjnego model otrzymał jednak dostęp do otwartego internetu. Po połączeniu z siecią Gemini zaczął mylnie traktować rzeczywiste firmy jako cele wyznaczone w ramach prowadzonych ćwiczeń. Tak przynajmniej brzmi oficjalna wersja.
W jednym z przypadków model próbował wyciągnąć dane z oprogramowania symulowanego przedsiębiorstwa, które nosiło taką samą nazwę, jak realnie istniejąca firma. Gemini odgadł hasło i przełamał zabezpieczenia prawdziwego serwisu. W pozostałych dwóch sytuacjach AI odnalazła poświadczenia w publicznych repozytoriach i użyła ich do zalogowania się do chronionych systemów. Jak przekazali przedstawiciele Google, model natychmiast przerwał działania, gdy zorientował się, że ma do czynienia z rzeczywistymi podmiotami.
Pod tym względem Gemini wyraźnie odstaje od modeli Claude Mythos czy GPT, które w omawianych wcześniej przypadkach bynajmniej nie postrzegały swoich działań ofensywnych jako błędnych ani ich nie zaprzestawały. Przeciwnie, oparte na nich agenty dążyły do realizacji celów "brudnymi" sposobami, wliczając w to szantaż i zacieranie śladów.
Zobacz również:
Google dołączyło do Anthropic, OpenAI i Meta
Irregular poinformował Google o wykrytych naruszeniach pod koniec lipca 2026 r., już gdy znane było podobne zdarzenie z udziałem OpenAI. Google nie zdecydowało się na natychmiastowe publiczne ujawnienie incydentu, tłumacząc, że automatyczne mechanizmy bezpieczeństwa zadziałały prawidłowo, a naruszone systemy nie odniosły żadnych szkód.
"Upewniliśmy się, że trzy dotknięte podmioty zostały poinformowane, i współpracowaliśmy z naszym partnerem szkoleniowym nad zmianami, które teraz wprowadzili w swoich procesach testowych" - poinformowała Heather Adkins, wiceprezes ds. inżynierii bezpieczeństwa w Google.
Inne firmy z sektora zaawansowanych technologii, w tym Anthropic, OpenAI i Meta, również zgłaszały podobne problemy związane z testami przeprowadzanymi przez Irregular. W przypadku OpenAI ponad 1 tys. autonomicznych agentów opuściło środowisko testowe i uzyskało dostęp do platformy Hugging Face, którą Nvidia zgodziła się przejąć za 13 mld USD. Z kolei model Claude należący do Anthropic przełamał zabezpieczenia trzech organizacji w wyniku pomyłkowego (znowu!) przyznania mu dostępu do sieci.
Incydenty te wywołały debatę na temat konieczności wprowadzenia ostrzejszych regulacji prawnych i dodatkowych zabezpieczeń dla rozwijanych systemów. Niezależny senator Bernie Sanders wezwał przedsiębiorstwa do czasowego wstrzymania prac nad nowymi modelami, wskazując na ryzyko utraty kontroli nad ich zachowaniem. W reakcji na te wydarzenia OpenAI wstrzymało prace rozwojowe na okres dwóch tygodni.
Współpraca na rzecz bezpiecznego rozwoju technologii
Przedstawiciele Irregular zapewnili, że wszelkie luki w procedurach testowych zostały wyeliminowane w ciągu kilku tygodni od ich wykrycia. Firma prowadzi obecnie prace nad wdrożeniem standardów i dobrych praktyk dotyczących bezpiecznego prowadzenia ewaluacji pod kątem cyberbezpieczeństwa z udziałem sztucznej inteligencji.
W środowisku technologicznym pojawiają się jednocześnie apele o zacieśnienie współpracy międzynarodowej. Demis Hassabis, współzałożyciel DeepMind i szef ds. AI w Alphabet, zaproponował utworzenie globalnego organu nadzorczego. Wspólnie z CEO Anthropic, Dario Amodeim, poparł pomysł skoordynowanego spowolnienia badań, wymiany danych oraz ujednolicenia procedur zgłaszania niebezpiecznych zdarzeń.
Kwestia autonomicznych działań modeli AI w sieci pozostaje jednym z głównych wyzwań dla inżynierów i badaczy. W miarę jak agenty AI uzyskują większe uprawnienia w systemach komputerowych, zapewnienie kontroli nad ich zachowaniem staje się priorytetem dla całego sektora.
"Patrząc szerzej, potrzebujemy zaangażować znacznie więcej ludzi w refleksję nad tym, jak skierować rozwój AI na właściwe tory. W mojej opinii to najważniejszy problem, przed którym stają ludzie w tym stuleciu, a stawka jest ogromna" - skomentował niedawno Bilal Chughtai, były inżynier w Google DeepMind.
