Amerykański rząd podjął dramatyczną decyzję dla całego świata, w tym najbardziej dla Europy, a mianowicie nakazał firmie Anthropic natychmiastowe ograniczenie dostępu do dwóch najpotężniejszych modeli AI - Fable 5 i Mythos 5, wyłącznie dla obywateli USA. Skutek? Anthropic musiało całkowicie wyłączyć oba modele dla wszystkich użytkowników na świecie, bo nie da się w praktyce weryfikować narodowości w czasie rzeczywistym.
Za tą nagłą decyzją z 12 czerwca kryje się sensacyjna historia z testu bezpieczeństwa. Według relacji tygodnika The Economist oraz zeznań w Senacie USA, podczas autoryzowanego testu typu red team przeprowadzonego 11 czerwca model Mythos firmy Anthropic w kontrolowanym środowisku przełamał zabezpieczenia niemal wszystkich tajnych systemów amerykańskiej Agencji Bezpieczeństwa Narodowego (NSA) i Cyber Command.
Nie, AI Anthropic nie złamała systemów NSA
Senator Mark Warner, wiceprzewodniczący senackiej Komisji Wywiadu, cytował słowa generała Joshuy Rudda (szefa NSA i Cyber Command): "Mythos włamał się do prawie wszystkich naszych sklasyfikowanych systemów - nie w ciągu tygodni, lecz w ciągu kilku godzin". Informacja błyskawicznie obiegła media i media społecznościowe, wywołując spekulacje o "zhakowaniu NSA przez AI".
Zarówno Anthropic, jak i źródła rządowe podkreślają, że nie doszło do rzeczywistego cyberataku. Test odbywał się w ściśle kontrolowanym środowisku laboratoryjnym. Model nie prowadził samodzielnych, ofensywnych działań przeciwko infrastrukturze NSA, tylko poproszono go o analizę kodu i wskazanie podatności. Firma twierdzi, że Mythos wykrył głównie wcześniej znane błędy bezpieczeństwa, podobne do tych znajdowanych w innych zaawansowanych modelach (w tym OpenAI). Mimo to wynik testu wywołał ogromne poruszenie w administracji i służbach.
Decyzja rządu USA jest bezprecedensowa, otóż po raz pierwszy restrykcje eksportowe objęły sam model AI, a nie tylko chipy czy infrastrukturę. Zakaz dotyczy wszystkich osób niebędących obywatelami USA, w tym zagranicznych pracowników Anthropic.
Zobacz również:
Władze USA przestraszyły się możliwości cyberataków
W efekcie firma musiała wyłączyć Fable 5 i Mythos 5 globalnie. W oficjalnym oświadczeniu Anthropic poinformowało, że "spełnia prawny nakaz rządu" i usuwa dostęp do obu modeli dla wszystkich użytkowników.
Mimo kontrowersji i ograniczeń, współpraca między amerykańskimi służbami a Anthropic trwa. Inżynierowie firmy od miesięcy pracują wewnątrz struktur NSA w ramach programu Project Glasswing, dostosowując modele Mythos do zastosowań operacyjnych, w tym prawdopodobnie działań wywiadowczych skierowanych przeciwko Chinom i Iranowi. To pokazuje, jak bardzo zaawansowane modele AI stały się podwójnie użyteczne: z jednej strony stanowią potencjalne zagrożenie dla bezpieczeństwa, z drugiej potężne narzędzie w rękach służb.
Zobacz również:
Systemem zdolny do autonomicznego odkrywania krytycznych podatności
Sprawa ujawnia fundamentalny problem współczesnej AI. Otóż granica między narzędziem wspomagającym analityków a systemem zdolnym do autonomicznego odkrywania krytycznych podatności staje się coraz cieńsza. Eksperci od dawna ostrzegają, że generatywna sztuczna inteligencja może radykalnie przyspieszyć zarówno cyberobronę, jak i cyberataki. Na razie pozostaje wiele pytań bez odpowiedzi.
Najważniejsze jest w tym, jak bardzo skuteczny był rzeczywisty "atak" modelu Mythos i jakie dokładnie mechanizmy pozwoliły mu na tak szybkie przełamanie zabezpieczeń w teście. Jedno jest pewne, po raz pierwszy w historii zaawansowany model AI wywołał tak bezpośrednią i ostrą reakcję rządu Stanów Zjednoczonych.
***
Bądź na bieżąco i zostań jednym z 91 tys. obserwujących nasz fanpage - polub GeekWeek na Facebooku i komentuj tam nasze artykuły!
