W skrócie
- Bill Gates apeluje o wprowadzenie twardych regulacji dla sztucznej inteligencji, ostrzegając przed ryzykiem wykorzystania tej technologii przez przestępców.
- Prezydent, otwiera się w nowym oknie Donald Trump sprzeciwia się spowolnieniu prac nad AI, argumentując, że ograniczenia mogą pozwolić Chinom na uzyskanie technologicznej przewagi nad USA.
- Mimo odmiennych poglądów Donald Trump planuje kolację z szefem Anthropic, Dario Amodeim, aby omówić przyszłość i zagrożenia związane z rozwojem nowoczesnych systemów.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Współzałożyciel Microsoftu ostrzega. "Nigdy nie istniała tak potężna broń"
Bill Gates ostrzegł przed niekontrolowanym rozwojem współczesnych technologii. Podczas wystąpienia na antenie NBC News współzałożyciel Microsoftu powiedział, że AI w nieodpowiednich rękach może być "wystarczająco potężna, by wywołać zdarzenia, które doprowadzą do miliarda zgonów". Dodał, że "nigdy nie istniała tak potężna broń, jak połączenie działań ludzi o złych intencjach i wykorzystujących najnowsze narzędzia AI".
Największe ryzyko dotyczy wykorzystania zaawansowanych algorytmów do aktów bioterroryzmu czy oszustw finansowych na ogromną skalę. Zamiast skupiać się na scenariuszach z filmów science-fiction, należy przeciwdziałać realnym zagrożeniom tworzonym przez przestępców. Technologia staje się bowiem wzmacniaczem skrajnie niebezpiecznych ludzkich zachowań.
Równolegle w branży technologicznej dochodzi do przełomowych kroków dotyczących wstrzymania prac nad najbardziej zaawansowanym oprogramowaniem. OpenAI, otwiera się w nowym oknie zdecydowało się na czasowe wstrzymanie rozwoju nowych modeli po serii incydentów bezpieczeństwa. W tym samym czasie inne laboratoria, takie jak Anthropic, nawiązują współpracę z zewnętrznymi audytorami, aby kontrolować własne rozwiązania.
Debata nad przyszłością sztucznej inteligencji przenosi się z gabinetów inżynierów do świata polityki. Propozycje sprowadzają się do stworzenia międzynarodowych ram prawnych, które wymuszą na koncernach technologicznych stosowanie środków ochronnych. Dyskusja dotyczy również konkretnych mechanizmów kontroli, takich jak chociażby pomysł wprowadzenia wyłącznika bezpieczeństwa zaproponowany przez gubernatora Kalifornii.
Zobacz również:
Trudne negocjacje nowych międzynarodowych regulacji
Ustanowienie globalnych zasad kontroli branży AI będzie nie lada wyzwaniem. "Nakłonienie państw do regulowania sztucznej inteligencji będzie trudniejsze, niż negocjacje nuklearne w czasach zimnej wojny" - zaznaczył Bill Gates. Tłumaczył, że złożoność techniczna i powszechność dostępu do oprogramowania utrudniają weryfikację przestrzegania przepisów, a wyłączenie zasilania nie przyniesie efektu w przypadku rozproszonych systemów informatycznych.
Stany Zjednoczone powinny objąć rolę lidera w procesie budowania międzynarodowego porozumienia. Samoregulacja ze strony firm technologicznych okazała się niewystarczająca w obliczu skali możliwych zagrożeń. "Potrzebujesz organów ścigania i polityków, aby włączyli się do dyskusji o tym, jak wyglądają zabezpieczenia i monitoring" - dodał były CEO Microsoft.
Według współtwórcy systemu Windows niezbędne jest wprowadzenie twardych wymogów prawnych dla każdego dostawcy oprogramowania. Zwiększy to koszty operacyjne przedsiębiorstw, ale nie zatrzyma w drastyczny sposób samego postępu technologicznego. Brak jakichkolwiek ograniczeń należy uznać za działanie skrajnie nieodpowiedzialne.
Bill Gates chce przekonać prezydenta USA do zmiany podejścia
Bill Gates planuje podjąć osobiste starania, aby przekonać Donalda Trumpa do zmiany podejścia w sprawie państwowych regulacji. Uczynienie z Microsoftu światowej potęgi i ćwierć wieku zarządzania korporacją (lata 1975-2000 na stanowisku CEO), a także posiadane doświadczenie życiowe mają posłużyć jako mocny argument w rozmowach z upartym politykiem. Poprzednie próby wpłynięcia na decyzje administracji w innych sprawach nie przyniosły jednak oczekiwanych rezultatów.
"Mam nadzieję, że biorąc pod uwagę moją pracę życiową w tej dziedzinie, moje słowa o tym, jak to jest wyjątkowe i jak bardzo jestem zaniepokojony, dodadzą wartości temu, co [Trump] słyszy od innych ludzi" - wyznał miliarder.
Wizje katastroficzne bywają jednak krytykowane przez część badaczy i analityków. Scenariusze zakładające zagładę ludzkości czy stworzenie sztucznej plagi są czasem określane jako przesadzone i służące budowaniu rozgłosu. Juan Andrés Guerrero-Saade z SentinelOne wskazuje, że tego typu narracje wynikają z pychy pracowników laboratoriów. Pojawiły się nawet głosy, że jest to chińska propaganda mająca osłabić rywali zza oceanu.
Cieniem na wiarygodności miliardera kładą się kontrowersje z jego życia prywatnego. Kontakty z przestępcą Jeffreyem Epsteinem i romanse doprowadziły m.in. do jego rozwodu w 2021 r. Relacje te wpłynęły również na ochłodzenie wieloletnich znajomości z innymi wpływowymi postaciami świata biznesu, w tym z Warrenem Buffettem.
Trump umówiony na kolację z szefem Anthropic
Donald Trump potwierdził planowane spotkanie przy kolacji z szefem firmy Anthropic, Dario Amodeim. Prezydent Stanów Zjednoczonych stanowczo sprzeciwia się jednak spowolnieniu rozwoju nowych systemów, argumentując to koniecznością utrzymania przewagi nad zagraniczną konkurencją. Zwraca uwagę, że wprowadzanie dodatkowych obostrzeń prawnych stworzy szansę dla Chin na wyprzedzenie amerykańskiego sektora technologicznego.
"Mamy około półtora roku przewagi nad Chinami. Prowadzimy i budujemy miejsca o wartości biliardów dolarów. I dlaczego mielibyśmy z tego rezygnować?" - powiedział Trump w rozmowie ze stacją Fox News. Zarówno dyrektorzy, jak i deweloperzy z takich firm jak OpenAI, Google, otwiera się w nowym oknie DeepMind, Microsoft czy xAI przedstawili szereg powodów, a w niektórych przypadkach ich systemy wręcz wykazywały niepokojącą aktywność, jednak Doland Trump zdaje się to wszystko ignorować. "Nie martwię się tym" - skomentował doniesienia o incydentach z udziałem autonomicznych agentów.
Martwią się z kolei eksperci technologiczni, naukowcy, politycy i zwykli obywatele. Były badacz Anthropic, Jacob Coxon, ostrzegł przed ryzykiem całkowitego unicestwienia ludzkości do końca dekady, co skłoniło ustawodawców do intensyfikacji prac nad przepisami. Podobne szacunki przedstawił Evan Hubinger z tej samej firmy, oceniając prawdopodobieństwo wystąpienia takich zdarzeń na ponad 10 proc.
Do tych ostrzeżeń odniósł się Gates, zdecydowanie odrzucając twierdzenia, jakoby ryzyko było jedynie wymysłem. "To wcale nie jest mistyfikacja" - podsumował założyciel Microsoftu w rozmowie z NBC, sprzeciwiając się stanowisku prezydenta, który tym właśnie słowem (ang. hoax) określił niedawno ostrzeżenia branżowych ekspertów.
