W skrócie
- Szefowie OpenAI, Anthropic i Hugging Face zaapelowali w ONZ o wprowadzenie międzynarodowych standardów kontroli nad rozwojem autonomicznych technologii AI.
- Administracja Donalda Trumpa odrzuciła pomysł globalnego zarządzania, stawiając na innowacje oraz utrzymanie przewagi rynkowej nad Chinami w sektorze technologicznym.
- Badacze i liderzy firm wskazują, że brak wspólnych zasad i rosnące możliwości systemów agentycznych wymagają pilnej reakcji ze względu na globalne bezpieczeństwo.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Debata nad przyszłością sztucznej inteligencji w ONZ
Rada Bezpieczeństwa ONZ stała się miejscem burzliwej debaty na temat przyszłości i bezpieczeństwa sztucznej inteligencji. Szefowie czołowych firm technologicznych, takich jak OpenAI, Anthropic i Hugging Face, zaapelowali o pilne wprowadzenie międzynarodowych standardów i globalnej koordynacji działań. Ich zdaniem szybie tempo rozwoju technologii wiąże się z zagrożeniami, które wymagają ścisłego nadzoru. Eksperci ostrzegają, że zaawansowane systemy mogą zacząć ulepszać się same bez kontroli człowieka.
Wezwanie technologicznych liderów spotkało się z natychmiastowym sprzeciwem ze strony władz Stanów Zjednoczonych. Przedstawiciele administracji prezydenta Donalda Trumpa odrzucili pomysł tworzenia nowych struktur globalnego zarządzania w tym obszarze. Amerykańskie władze kładą nacisk na utrzymanie przewagi konkurencyjnej w rywalizacji z Chinami.
Waszyngton argumentuje, że nakładanie ograniczeń mogłoby spowolnić rozwój gospodarczy i innowacyjność. Nawet jeśli władze USA zdają sobie sprawę z zagrożenia, to nie zamierzają go zatrzymywać z obawy, że rywalizujące mocarstwo stworzy superinteligencję jako pierwsze.
Warto tu podkreślić, że choć Donald Trump zastosował semantyczny wybieg, przemianowując sztuczną inteligencję na superinteligencję, to ta ostatnia - zgodnie z jej definicją - jeszcze nie została opracowana.
Debata na forum ONZ pokazuje zmianę w postrzeganiu technologii, która przestała być traktowana wyłącznie jako kwestia biznesowa. Zgromadzeni dyplomaci i naukowcy zwracają uwagę, że rozwój autonomicznych narzędzi staje się sprawą międzynarodowego bezpieczeństwa. Próby wypracowania wspólnego porozumienia natrafiają jednak na spór polityczny między zwolennikami globalnych regulacji a obrońcami suwerenności państwowej.
Zobacz również:
OpenAI, Anthropic i Microsoft postulują wspólne zasady bezpieczeństwa
Liderzy branży technologicznej przedstawili w Nowym Jorku konkretne propozycje dotyczące monitorowania rozwoju AI. Sam Altman z OpenAI zaproponował stworzenie powszechnych standardów oceny ryzyka i wprowadzanie zabezpieczeń przed udostępnieniem nowych narzędzi. Jak powiedział, "jeśli AI ma być demokratyczna, najważniejsze decyzje nie mogą być podejmowane wyłącznie przez laboratoria w San Francisco".
Twórcy aplikacji ChatGPT postulują także szybkie zgłaszanie wszelkich awarii i incydentów bezpieczeństwa, do czego sami się niedawno zobowiązali, udostępniając przy okazji wykaz sześciu nieznanych wcześniej incydentów z udziałem agentów AI. Swój własny kodeks zasad dotyczący "humanistycznej superinteligencji" opublikował też niedawno Microsoft, otwiera się w nowym oknie, co szerzej omawialiśmy w GeekWeeku.
Podobne stanowisko zajęli szefowie Anthropic i Hugging Face, wskazując na konieczność rzetelnej weryfikacji generowanych modeli. Dario Amodei zadeklarował gotowość do spowolnienia prac badawczych, jeśli zajdzie taka potrzeba ze względów bezpieczeństwa. "Spowolnimy tak bardzo, jak to konieczne, aby upewnić się, że każda kolejna technologia AI, którą wypuszczamy, jest rzeczywiście bezpieczna" - powiedział CEO Antropic. Clement Delangue zwrócił zaś uwagę na kwestie związane z cyberbezpieczeństwem i transparentnością działań.
Swoje poparcie dla apeli o regulacje wyrazili również niezależni badacze współpracujący z międzynarodowymi instytucjami. Yoshua Bengio wskazał, że wyzwania związane ze sztuczną inteligencją przekraczają granice państwowe i nie przypominają tradycyjnych zagrożeń. Czołowi inżynierowie przyznają, że pojedyncze przedsiębiorstwa nie są w stanie samodzielnie zapanować nad skutkami wprowadzanych innowacji.
Administracja Trumpa odrzuca propozycję globalnego nadzoru
Przedstawiciele amerykańskiej administracji jasno określili swoje stanowisko podczas wystąpień na forum ONZ. Michael Kratsios oświadczył, że rosnące ryzyko nie stanowi wystarczającego powodu do hamowania postępu technicznego. Doradca naukowy prezydenta Donalda Trumpa ostrzegł przed tworzeniem międzynarodowych, biurokratycznych struktur. Waszyngton stoi na stanowisku, że kwestie bezpieczeństwa powinny pozostać w gestii poszczególnych państw.
Polityka Białego Domu opiera się na przekonaniu, że ograniczenia zaszkodziłyby pozycji rynkowej amerykańskich przedsiębiorstw. Donald Trump w swoich wypowiedziach dosadnie akcentował potrzebę utrzymania dominacji technologicznej nad Pekinem. "Nie zamierzam dusić wzrostu czegoś, co będzie większe niż rewolucja przemysłowa" - oświadczył amerykański prezydent, otwiera się w nowym oknie. Z tego powodu Waszyngton planuje wspierać krajowy sektor technologiczny bez narzucania zewnętrznych barier.
"Międzynarodowy dialog na tym forum i innych nie może zmierzać w stronę globalnego zarządzania" - skomentował Michael Kratsios. Odrzucenie propozycji globalnego nadzoru stawia Stany Zjednoczone w opozycji do stanowiska Sekretarza Generalnego ONZ. António Guterres od dłuższego czasu nawołuje do międzynarodowej wymiany informacji i tworzenia wspólnych organów kontrolnych. Różnica zdań utrudnia wypracowanie jednolitego mechanizmu reagowania na potencjalne kryzysy technologiczne.
Zobacz również:
Od zarządzania technologią AI zależą losy całej ludzkości
Rada Bezpieczeństwa ONZ po raz pierwszy zajęła się omawianą kwestią w 2023 r., gdy Chiny przestrzegały przed utratą kontroli nad technologią. Wówczas Stany Zjednoczone zwracały uwagę na ryzyko wykorzystania algorytmów do cenzury i represji politycznych. Od tamtego czasu możliwości systemów agentycznych wzrastają wykładniczo, co wywołało niepokój służb odpowiedzialnych za obronność. Obecnie eksperci analizują ryzyko zastosowania algorytmów w atakach cybernetycznych i badaniach biologicznych.
Niepokój w branży wywołują doniesienia o kolejnych incydentach, w tym związane z przejęciem dostępu do platformy Hugging Face przez autonomiczne agenty OpenAI czy dokonanym przez nie ataku na instytucję rządową - o pierwszym takim przypadku donosi właśnie Australia. Swoje na sumieniu ma również model Claude Mythos 5, do którego dostęp - ze względu na bezprecedensowe zdolności cyberofensywne - został ściśle ograniczony.
"Dobre zarządzanie tą technologią jest konieczne, bowiem zarządzana źle... mogłaby stanowić zagrożenie dla ludzkości jako całości" - przestrzega Dario Amodei z Anthropic. Wcześniej ocenił on szansę na realizację najczarniejszego scenariusza na 25 proc., czyli nieco więcej niż Elon Musk (20 proc.), ale znacznie mniej niż Daniel Kokotajlo, były badacz OpenAI i założyciel AI Futures Project (70%).
Brak porozumienia w sprawie uniwersalnych zasad może doprowadzić do głębokich podziałów na rynku technologicznym. Poszczególne kraje mogą zacząć wprowadzać własne, sprzeczne ze sobą przepisy prawne. Sytuacja ta stwarza niepewność dla międzynarodowych koncernów i utrudnia skuteczną ochronę przed zagrożeniami cyfrowymi w skali globalnej.
