Kilka dni temu firma Anthropic chwaliła się premierą nowej generacji sztucznej inteligencji. Teraz musi wyłączyć swoje najbardziej zaawansowane modele, jak podała agencja Rutera. Powodem nie są jednak problemy techniczne, ale... decyzja władz Stanów Zjednoczonych, które powołały się na względy bezpieczeństwa narodowego. To jeden z najbardziej dobitnych przypadków ingerencji państwa w dostęp do nowoczesnych systemów AI.
Popularny twórca Claude znalazł się pod presją
Anthropic należy dziś do grona najważniejszych firm rozwijających sztuczną inteligencję. Jej modele Claude są obok rozwiązań OpenAI jednymi z najpopularniejszych narzędzi AI na rynku. W tym tygodniu przedsiębiorstwo zaprezentowało model Claude Fable 5 oraz nową klasę systemów określaną jako "Mythos".
Niedługo później firma otrzymała jednak polecenie od amerykańskich władz. Zgodnie z nim dostęp do modeli Fable 5 i Mythos 5 miał zostać zawieszony dla wszystkich obcokrajowców. Anthropic poinformował, że nie otrzymał szczegółowych wyjaśnień dotyczących zagrożenia, które stało za tą decyzją.
Według firmy administracja uznała, że istnieje sposób obejścia zabezpieczeń modelu. Chodzi o tzw. jailbreak, czyli metodę pozwalającą ominąć ograniczenia narzucone przez twórców systemu.
Spór o bezpieczeństwo sztucznej inteligencji
Przedstawiciele Anthropic nie ukrywają, że nie zgadzają się z oceną sytuacji. Firma twierdzi, że otrzymała jedynie ustne informacje o potencjalnym, bardzo ograniczonym problemie.
Nie zgadzamy się z tym, że wykrycie wąskiej potencjalnej metody obejścia zabezpieczeń powinno być powodem wycofania komercyjnego modelu używanego przez setki milionów ludzi.
Od lat amerykańskie ograniczenia eksportowe koncentrowały się głównie na układach scalonych i sprzęcie wykorzystywanym do trenowania modeli. Tym razem działania objęły bezpośrednio samą sztuczną inteligencję.
Może cię zainteresować:
Obawy o cyberataki i przyszłość branży
Eksperci od cyberbezpieczeństwa zwracają uwagę, że modele z klasy Mythos mogą znacząco przyspieszyć wykrywanie luk w oprogramowaniu. W niepowołanych rękach mogłoby to ułatwić przeprowadzanie zaawansowanych cyberataków, szczególnie na sektor bankowy i inne systemy korzystające ze skomplikowanej infrastruktury informatycznej.
Anthropic podkreśla jednak, że skutkiem decyzji jest konieczność natychmiastowego wyłączenia Fable 5 i Mythos 5 dla wszystkich klientów. Pozostałe modele firmy mają działać bez zmian. Spółka uważa również, że doszło do nieporozumienia i deklaruje pracę nad jak najszybszym przywróceniem dostępu. Zdaniem firmy zastosowanie podobnych zasad wobec całej branży mogłoby poważnie spowolnić rozwój najnowocześniejszych systemów sztucznej inteligencji.
QUIZ wiedzy o sztucznej inteligencji. Sprawdź, ile wiesz o AI
