Punktem wyjścia rozmowy był wpis Jacoba Coxona, byłego pracownika Anthropic, który kilka dni temu odszedł z firmy, ostrzegając, że branża AI "igra z naszym życiem". W szeroko komentowanym wpisie w mediach społecznościowych twierdził on, że rozwój systemów zdolnych do samodzielnego doskonalenia może w przyszłości doprowadzić do sytuacji, w której ludzie stracą nad nimi kontrolę.
Uwaga na kolejne generacje AI
Czy to faktycznie możliwe? Do sprawy w wywiadzie dla CNN odniósł się Dario Amodei, szef i współzałożyciel firmy stojącej za modelem Claude. I co ciekawe, zapytany przez Andersona Coopera o te ostrzeżenia, przyznał, że "zgadza się z Jacobem znacznie bardziej, niż się z nim nie zgadza". Jednocześnie nie przedstawiał jednak zagłady ludzkości jako nieuchronnego scenariusza, w jego ocenie obecne systemy nie stanowią takiego zagrożenia, bo nie są wystarczająco inteligentne.
Problemem jest jednak tempo, w jakim zwiększają się ich możliwości. Tym samym kolejne generacje mogą bardzo szybko wejść w obszar tzw. rekurencyjnego samodoskonalenia, w którym AI będzie wykorzystywać swoje możliwości do tworzenia jeszcze bardziej zaawansowanych systemów. W najbardziej niepokojącym scenariuszu, który przedstawia, w ciągu 6-12 miesięcy AI mogłaby uzyskać możliwości pozwalające jej kierować dużą liczbą autonomicznych agentów działających w internecie.
AI rozwija się szybciej, niż powstają zabezpieczenia
W tym miejscu warto też wspomnieć o eseju szefa Anthropic zatytułowanym "We Must Pace the Frontier", w którym zaapelował do całej branży o spowolnienie rozwoju najbardziej zaawansowanych modeli. Jego zdaniem w ostatnich miesiącach tempo postępu gwałtownie wzrosło, a dodatkowy rok lub dwa na rozwój metod bezpieczeństwa mogłyby - w jego ocenie - znacząco zmniejszyć ryzyko, zanim systemy osiągną znacznie wyższy poziom możliwości.
Amodei zaproponował m.in. większy udział niezależnych ewaluatorów w testowaniu modeli oraz współpracę firm i rządów przy tworzeniu standardów bezpieczeństwa, przekonując, że Anthropic zamierza wprowadzić takie rozwiązanie: "Firmy z tej branży mogą i powinny dobrowolnie współpracować, aby ustanawiać standardy".
I nie chodzi przy tym wyłącznie o hipotetyczną superinteligencję - w ostatnich dniach Anthropic informował o przypadkach wykorzystania Claude'a do cyberataków, inwigilacji oraz działań biologicznych, które mogły potencjalnie wspierać rozwój broni biologicznej. To pokazuje, że część zagrożeń związanych z AI nie należy już wyłącznie do odległej przyszłości.
Musk i Altman popierają
Apel Daria Amodei szybko spotkał się z reakcją innych liderów branży. Jego stanowisko poparli Elon Musk oraz Sam Altman, czyli osoby stojące za firmami znajdującymi się w samym centrum wyścigu o coraz bardziej zaawansowaną sztuczną inteligencję. Musk w serii krótkich wpisów przyznał, że "Dario ma rację", zaznaczając, że sam przed laty zwracał na tę kwestię uwagę:
Od dawna ostrzegam przed zagrożeniami związanymi ze sztuczną inteligencją
Sam Altman stwierdził zaś, że również uważa, iż rozwój najbardziej zaawansowanych systemów AI powinien być odpowiednio kontrolowany pod względem tempa. Jak ujawnił, kwestia ta była jednym z głównych tematów rozmów w OpenAI w ostatnich tygodniach. "Zgadzam się z Dario, że musimy odpowiednio kształtować tempo rozwoju frontu AI" - napisał, jednocześnie popierając jeden z najbardziej konkretnych postulatów o wprowadzenie niezależnych ewaluatorów, którzy mieliby dostęp do modeli na poziomie zbliżonym do pracowników firm i mogli sprawdzać ich bezpieczeństwo oraz sposób reagowania na potencjalne zagrożenia.
Zobowiązanie do zapewnienia niezależnym ewaluatorom dostępu na poziomie dostępu pracowników to świetny pomysł i zrobimy to samo. Wkrótce będziemy mieli więcej do przekazania
Poparcie Muska i Altmana pokazuje, że obawy dotyczące tempa rozwoju AI nie są już wyłącznie stanowiskiem jednej firmy. Co więcej, pojawiają się one w momencie, gdy możliwości systemów szybko rosną, a firmy jednocześnie informują o coraz bardziej zaawansowanych zastosowaniach AI. Anthropic niedawno ujawnił przypadki wykorzystania Claude'a do złośliwych działań, a OpenAI w lipcu informowało o bezprecedensowym incydencie, w którym jego system miał samodzielnie włamać się do innej firmy.
