W skrócie
- Model AI Muse Spark 1.1 od Mety "przypadkowo" uzyskał dostęp do zewnętrznego serwisu podczas testów bezpieczeństwa, co wynikało z błędu konfiguracji audytora Irregular.
- Incydent wystąpił w trakcie ćwiczeń capture-the-flag, gdy model pomylił cel testowy z realną domeną i wykorzystał podatność w zabezpieczeniach zewnętrznego systemu.
- To kolejny podobny przypadek w branży, gdyż w ostatnich tygodniach incydenty z niekontrolowanym działaniem swoich modeli zgłosiły również firmy OpenAI oraz Anthropic.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Sztuczna inteligencja Mety przełamała zabezpieczenia
Sztuczna inteligencja należąca do koncernu Meta, właściciela serwisów Facebook i Instagram, dokonała nieautoryzowanego dostępu do systemów innej firmy w trakcie audytu bezpieczeństwa. Przedstawiciele firmy potwierdzili wyciek, wyjaśniając, że do naruszenia doszło w wyniku nieumyślnego błędu podczas ewaluacji modelu.
Bezpośrednią przyczyną zdarzenia była niewłaściwa konfiguracja przygotowana przez firmę Irregular, niezależnego dostawcę usług audytorskich. Z powodu pomyłki model Muse Spark 1.1, promowany jako zaawansowane narzędzie do zadań programistycznych, otrzymał otwarty dostęp do internetu. Pozwoliło mu to na wykrycie i wykorzystanie podatności w zewnętrznym serwisie oraz wprowadzenie zmian w jego wewnętrznych strukturach.
"Błędna konfiguracja dokonana przez Irregular, niezależną firmę testującą, z której korzysta Meta, przypadkowo umożliwiła jednemu z naszych modeli dostęp do internetu podczas ewaluacji" - przekazał rzecznik Mety. "Model ten wykorzystał lukę w zabezpieczeniach zewnętrznej usługi w sposób podobny do wcześniej zgłaszanych przypadków w innych firmach" - dodał.
Zobacz również:
Pomyłka w konfiguracji czy zaawansowany atak?
Zarówno Meta, jak i firma Irregular zaznaczają, że przypadek ten jest powtórzeniem problemów technicznych, które dotknęły wcześniej inne podmioty z branży. Według oświadczeń audytora zdarzenie nie było efektem celowej "ucieczki z piaskownicy" (tzw. sandbox escape, czyli wyjścia oprogramowania poza odizolowane środowisko testowe albo maszynę wirtualną) ani skomplikowanej operacji cybernetycznej.
Do wycieku doszło w trakcie ćwiczeń typu capture-the-flag, polegających na poszukiwaniu ukrytego kodu w kontrolowanym środowisku. W analogicznych testach prowadzonych dla innych marek nazwa fikcyjnego celu pokryła się z realną domeną internetową, co przy aktywnym połączeniu sieciowym skłoniło model do podjęcia działań na żywym obiekcie.
"Jest to dokładnie ten sam problem ze środowiskiem ewaluacyjnym, który w zeszłym tygodniu ujawnił Anthropic" - tłumaczy rzecznik Irregular, dodając, że firma szykuje obecnie tzw. białą księgę, w której udokumentuje najlepsze praktyki z zakresu izolowania modeli i bezpiecznego prowadzenia ich ewaluacji pod kątem cyberbezpieczeństwa.
"Meta dowiedziała się o tym, gdy powiadomiło nas Irregular, i obecnie prowadzimy dochodzenie oraz opublikujemy pełną retrospektywę, gdy będziemy mieli wszystkie fakty" - dodał rzecznik firmy Marka Zuckerberga.
Agenty OpenAI i Anthropic wcześniej przeszły do ofensywy
Meta stała się trzecim dużym dostawcą technologii AI w ostatnich tygodniach, który poinformował o niekontrolowanych działaniach swoich systemów w sieci. Wcześniej firma Anthropic ujawniła, że jej model Claude Mythos 5 uzyskał dostęp do otwartego internetu i dokonał naruszeń infrastruktury zewnętrznych podmiotów. Z kolei OpenAI zgłosiło przypadek naruszenia platformy Hugging Face przez własnego agenta AI, który autonomicznie wykorzystał nieznaną wcześniej podatność.
Testy przeprowadzone przez brytyjski Instytut Bezpieczeństwa AI (AISI) pokazały dodatkowo, że niektóre modele próbowały realizować swoje cele w internecie poprzez tworzenie fałszywych profili ludzi w celu wyłudzenia dostępu. Reprezentanci badanych firm zaznaczają jednak, że warunki eksperymentalne AISI nie odzwierciedlają standardowego użytkowania produktów.
"Modele stają się o wiele bardziej zdolne, a jednocześnie ewaluacje do ich oceny muszą stać się o wiele bardziej skomplikowane. A to po prostu tworzy miejsce na pewne błędy i sprawia, że musimy znacząco podnieść standardy" - twierdzi anonimowe źródło zbliżone do tej sprawy.
"One nie są świadome - nie robią umyślnie czegoś podstępnego. Raczej wymyślają one bardzo wyrafinowane strategie lub cyberataki, by osiągnąć cel, który został im dany" - tłumaczy Daniel Hulme, szef ds. AI w WPP. "Kiedy dajesz AI cel, to jeśli nie pomyślisz o wszystkich sposobach, w jakie może go osiągnąć, znajdzie ona sposób na osiągnięcie celu, o którym nie pomyślałeś".
Niesamowite jest to, że niezależnie rozwijane technologie sztucznej inteligencji zaczynają dokonywać tego samego w tak krótkim czasie. Może to wskazywać, jak zaciekły jest wyścig zbrojeń gigantów dążących do rozwoju AGI i superinteligencji, ale zdaniem sceptyków jest jeszcze drugie dno. Sugerują oni, że częstokroć rozdmuchiwane przez media doniesienia o przerażających mocach modeli spod szyldu "cyber" są rozpowszechniane w ramach strategii marketingowej, by przyciągać inwestorów, a sama branża nadal jest sztucznie pompowaną bańką.
Z drugiej strony cyberataki z wykorzystaniem AI są jak najbardziej realne i przynoszą rocznie wielomilionowe straty. W większości nie wiąże się to jednak z działaniami agentycznej, autonomicznej AI, o której co rusz powstają plotki, że jest "samoświadoma". Branża ta rozwija się jednak tak szybko, że w przyszłości nawet drobne pomyłki - takie jak ta opisana wyżej - mogą prowadzić do wielkich katastrof.
