Google odkrył to po raz pierwszy. AI wygenerowała groźnego exploita
Rola sztucznej inteligencji w świecie cyberbezpieczeństwa staje się coraz bardziej dwuznaczna. Choć technologia ta służy obrońcom do proaktywnego łatania luk w zabezpieczeniach, najnowszy raport Google Threat Intelligence Group (GTIG) dowodzi, że po innowacje spod szyldu AI równie chętnie sięgają napastnicy. Badacze zabezpieczeń po raz pierwszy w historii zidentyfikowali grupę cyberprzestępczą wykorzystującą exploit typu zero-day, który według ekspertów został odkryty i opracowany przy pomocy sztucznej inteligencji. Jak jeszcze hakerzy z Chin, Korei Północnej i Rosji używają AI?
W skrócie
- Sztuczna inteligencja znajduje zastosowanie zarówno w działaniach obronnych, jak i ofensywnych w cyberbezpieczeństwie, a najnowszy raport Google Threat Intelligence Group wykazał wykorzystanie AI przez cyberprzestępców do opracowania exploita typu zero-day.
- Eksperci z GTIG zidentyfikowali exploit w popularnym narzędziu Open Source, którego cechy wskazują na użycie modeli AI przy jego tworzeniu, oraz opisali różne strategie wykorzystywania AI przez grupy związane m.in. z Chinami, Koreą Północną i Rosją.
- Oprócz tworzenia exploitów, hakerzy stosują metody pozwalające na anonimowy dostęp do modeli AI premium, a także atakują infrastrukturę AI, na co odpowiedzią są defensywne agenty AI rozwijane przez Google.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Google odkryło exploita napisanego przez AI
Współcześni cyberprzestępcy coraz częściej wykorzystują sztuczną inteligencję do wspomagania każdego etapu cyklu ataku. Technologia ta staje się kluczowym wsparciem przy tworzeniu zaawansowanych exploitów i złośliwego oprogramowania, a także umożliwia autonomiczne wykonywanie poleceń w zainfekowanych systemach operacyjnych. Dzięki AI napastnicy mogą prowadzić znacznie bardziej precyzyjny i pogłębiony rekonesans, co w połączeniu z wyższą skutecznością operacji socjotechnicznych oraz kampanii dezinformacyjnych znacząco podnosi poziom zagrożenia dla cyfrowego bezpieczeństwa.
Do tej pory jednak wyłącznie domniemywano, że AI potrafi opracowywać exploity, czyli sposoby wykorzystania podatności (luk bezpieczeństwa) w oprogramowaniu. Tymczasem eksperci z Google Threat Intelligence Group (GTIG) poinformowali w poniedziałek (11 maja), że zidentyfikowali grupę hakerów korzystającą z exploita typu zero-day, który najpewniej został odkryty i opracowany przy wsparciu AI. To pierwsze takie odkrycie w historii.
Podatność ta występowała w popularnym narzędziu Open Source do administracji systemami webowymi i pozwalała na obejście dwuskładniowego uwierzytelniania (2FA), choć jej skuteczne wykorzystanie wciąż wymagało posiadania poprawnych danych logowania użytkownika. Google, które zapobiegło masowej kampanii opartej na tym błędzie, wskazuje na specyficzne cechy skryptu napisanego w języku Python jako dowód na udział AI.
Według autorów raportu kod exploita zawierał nietypowe dla ludzkich programistów elementy, takie jak "obfitość edukacyjnych docstringów, w tym wyhalucynowany wynik punktacji CVSS, a także wykorzystanie ustrukturyzowanego, podręcznikowego formatu Pythona, który jest wysoce charakterystyczny dla danych treningowych modeli LLM (np. szczegółowe menu pomocy i czysta klasa kolorów ANSI _C)". GTIG podkreśla, że do stworzenia tego ofensywnego narzędzia nie wykorzystano modelu Gemini.
Sztuczna inteligencja w służbie cyberprzestępców
Ewolucja zagrożeń nie kończy się na samym generowaniu exploitów. Eksperci z GTIG wyjaśniają, że AI staje się "mnożnikiem siły na poziomie eksperckim" w rękach grup powiązanych z Chinami czy Koreą Północną, ułatwiając im wykrywanie podatności. Z kolei grupy kojarzone z Rosją wykorzystują te narzędzia do tworzenia polimorficznego złośliwego oprogramowania i sieci zaciemniających, które maskują ruch, znacznie utrudniając wykrywanie ataków. Pojawiają się również rozwiązania takie jak PROMPTSPY, które sygnalizują przejście w stronę "orkiestracji autonomicznych ataków", gdzie modele AI potrafią dynamicznie interpretować stan zainfekowanego systemu i samodzielnie generować polecenia.
Równolegle do działań przestępczych rynek AI budzi emocje na najwyższych szczeblach politycznych, czego przykładem są niewiarygodne możliwości modelu Mythos od Anthropic, o czym szerzej informowaliśmy w GeekWeeku. Choć "najniebezpieczniejszy model AI na świecie" wywołał poruszenie w administracji rządowej USA, środowisko deweloperów studzi entuzjazm. Daniel Stenberg, twórca biblioteki Curl, po testach w ramach programu Project Glasswing określił szum wokół nowego modelu jako "udany wyczyn marketingowy".
Stenberg zauważył, że z 5 zgłoszonych przez AI podatności w jego kodzie tylko jedna okazała się rzeczywistym, nieznanym wcześniej problemem. Stawia to pod znakiem zapytania rzekomą rewolucyjność nowych narzędzi w porównaniu do dotychczasowych metod skanowania. Z drugiej jednak strony płyną głosy uznania dla Mythosa - zwłaszcza ze strony deweloperów Mozilli, którzy dzięki wykryciu 271 nieznanych wcześniej luk w zabezpieczeniach przeglądarki Firefox mogli je załatać.
Zobacz również:
Hakerzy manipulują infrastrukturą AI
Badacze cyberbezpieczeństwa z Google twierdzą, że skala nadużyć rośnie także w odniesieniu do samej sztucznej inteligencji. Przykładowo hakerzy stosują zaawansowane metody, aby uzyskać "zanonimizowany dostęp do modeli na poziomie premium" poprzez zautomatyzowane potoki rejestracji, co pozwala im omijać limity i blokady.
Co więcej, ataki uderzają też w samą infrastrukturę AI. Grupy takie jak TeamPCP biorą na cel zależności programowe i środowiska ML, traktując je jako punkt wyjścia do szerszych operacji, w tym ataków typu ransomware. W obliczu tych wyzwań Google stawia na defensywne agenty AI, takie jak Big Sleep czy CodeMender, by automatycznie identyfikować i naprawiać błędy. Firma wierzy, że w tym wyścigu zbrojeń "AI może być również potężnym narzędziem dla obrońców".
