Rząd Trumpa sprawdzi AI przed premierą. Microsoft i Google udostępnią modele
Google, Microsoft i xAI będą udostępniać rządowi USA modele sztucznej inteligencji przed ich wydaniem. Decyzja zapadła po debiucie potężnego modelu Anthropic Mythos, który wzbudził obawy o bezpieczeństwo narodowe. Centrum Standardów i Innowacji AI (CAISI) będzie testować produkty przed premierą, badając ryzyka hakerskie i militarne. To wyraźny zwrot w stronę regulacji sektora technologicznego, mający na celu identyfikację zagrożeń, zanim zaawansowane narzędzia trafią do powszechnego użytku.
W skrócie
- Google, Microsoft i xAI zobowiązały się udostępniać rządowi USA swoje modele sztucznej inteligencji przed oficjalną premierą, aby umożliwić testowanie pod kątem zagrożeń cyberbezpieczeństwa.
- Wprowadzenie tej praktyki jest odpowiedzią na pojawienie się modelu Anthropic Mythos, który wzbudził obawy dotyczące bezpieczeństwa narodowego.
- Rządowe instytucje testujące, takie jak CAISI, będą współpracować z firmami technologicznymi nad oceną narzędzi AI, a Microsoft i OpenAI zadeklarowały wsparcie w tworzeniu wspólnych procedur testowych i narzędzi.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu
Rząd USA będzie testował modele Google, Microsoft i xAI przed premierą
Narodowy Instytut Standardów i Technologii (NIST) ogłosił we wtorek (5 maja), że firmy Google, Microsoft oraz xAI zawarły porozumienie z rządem Stanów Zjednoczonych, na mocy którego będą udostępniać przedpremierowe wersje swoich modeli sztucznej inteligencji. Decyzja ta ma na celu ograniczenie zagrożeń dla bezpieczeństwa narodowego i jest odpowiedzią na rosnące zaniepokojenie urzędników administracji Trumpa możliwościami hakerskimi najnowszych produktów, w tym potężnego modelu Anthropic Mythos.
Współpraca amerykańskiego rządu z technologicznymi gigantami umożliwia Centrum Standardów i Innowacji AI (CAISI), działającemu w strukturach Departamentu Handlu, przeprowadzanie rygorystycznych testów i ocen modeli pod kątem ich wpływu na bezpieczeństwo publiczne jeszcze przed ich oficjalnym debiutem rynkowym.
"Niezależna, rygorystyczna nauka pomiarowa jest kluczowa dla zrozumienia czołowej AI i jej implikacji w obszarze bezpieczeństwa narodowego" - wyjaśnił w oświadczeniu dyrektor CAISI, Chris Fall. Odniósł się on do popularnego określenia "frontier AI", które oznacza duże modele czołowych producentów z branży big tech, które przesuwają granice możliwego w domenie sztucznej inteligencji. Centrum zrealizowało już ponad 40 ewaluacji, często pracując na wersjach modeli z usuniętymi zabezpieczeniami, aby skuteczniej badać potencjalne ryzyka.
Mythos od Anthropic wzbudził powszechny niepokój
Na zacieśnienie współpracy między sektorem prywatnym a publicznym wpłynęły zdumiewające działania potężnego modelu Anthropic Mythos, który szczegółowo omawialiśmy w Interii GeekWeek. Jego producent wyjawił, że ta nowa technologia znacznie przewyższa inne modele w zakresie cyberbezpieczeństwa zarówno defensywnego, jak i ofensywnego, co wywołało falę niepokoju wśród rządów, sektora bankowego i dostawców infrastruktury krytycznej.
Anthropic, który już wcześniej znalazł się na celowniku Donalda Trumpa, o czym informowaliśmy w GeekWeeku, zdecydował się ograniczyć dostęp do swojego najgroźniejszego modelu jedynie dla wąskiej grupy zaufanych organizacji, którym pomaga uszczelniać ochronę ich produktów na bezprecedensową skalę.
Sytuacja ta skłoniła Biały Dom do rozważenia formalnego procesu rewizji systemów AI. Stanowi to wyraźny zwrot w stronę ściślejszych regulacji (na które zresztą od lat nalegają firmy takie jak OpenAI i Microsoft) w porównaniu do wcześniejszego, mniej restrykcyjnego podejścia administracji państwowej.
Giganci big tech udostępnią rządowi swoje zasoby
Jako że organy państwowe nie dysponują takimi zasobami kadrowymi i mocą obliczeniową jak wielkie korporacje technologiczne, te będą w dalszym ciągu im pomagać. Microsoft zadeklarował, że wraz z rządowymi naukowcami będzie tworzyć wspólne zbiory danych i procedury testowe, aby badać nieoczekiwane zachowania modeli sztucznej inteligencji. Podobne kroki podjęło OpenAI, udostępniając swoje najbardziej zaawansowane narzędzia zweryfikowanym instytucjom rządowym w celu przeciwdziałania zagrożeniom generowanym przez AI.
"Żadna organizacja nie jest w stanie zaadresować tych wyzwań samodzielnie. Nasze partnerstwa z CAISI i AISI są kluczową częścią szerszych starań mających na celu budowanie instytucji, bazy badawczej i wspólnych metodologii potrzebnych do efektywnego testowania AI" - wyjaśniła Natasha Crampton, Chief Responsible AI Officer w Microsoft w oświadczeniu z 5 maja.
Obecne działania CAISI bazują na założeniach jeszcze z 2024 r., kiedy to instytut funkcjonował pod inną nazwą i skupiał się na dobrowolnych standardach bezpieczeństwa. Pentagon ogłosił jednocześnie oddzielne porozumienia z siedmioma firmami z branży AI w celu wdrożenia ich technologii w niejawnych sieciach Departamentu Obrony.
Co istotne, na liście tej zabrakło firmy Anthropic, która wciąż ma na pieńku z Pentagonem. Spór dotyczył zasad wykorzystania jej narzędzi przez wojsko. Podczas gdy Microsoft i OpenAI aktywnie komentują nowe zasady współpracy, Google odmówiło dalszych wyjaśnień, a xAI należąca do Elona Muska nie odpowiedziała na prośby o komentarz.
