Nadchodzi nadludzka SI. Badacze mają plan, jak ją kontrolować

Na oficjalnej stronie OpenAI możemy przeczytać, że firma powołała specjalny zespół badaczy pod przewodnictwem Ilya Sytskevera, który ma za zadanie opracować narzędzie do kontroli systemów sztucznej inteligencji, które będą mądrzejsze niż ludzie. Problem polega na tym, że na ten moment naukowcy nie są do końca pewni, czy system przewyższający nas inteligencją, będzie można w ogóle kontrolować.  

Zespół został powołany na początku tego roku, a ich pierwsza praca miała na celu upewnić się, że systemy SI przewyższające ludzi inteligencją nadal będą przestrzegać ustanowionych przed ich nastaniem zasad.   

Proponowane jest jedno rozwiązanie. OpenAI chce projektować małe modele sztucznej inteligencji, które będą odpowiedzialne za odpowiednie i „moralne” wyszkolenie modeli ogólnej sztucznej inteligencji.  

Na ten moment OpenAI korzysta z ludzkich trenerów do szkolenia ChataGPT, którzy przekazują mu pozytywne lub negatywne opinie. Ma to chronić użytkowników przed tym, by chatbot nie udzielał informacji szkodliwych, jak na przykład instrukcji sporządzania niebezpiecznych substancji w domu.  

Jednak OpenAI przyznaje, że z biegiem czasu ich model staje się coraz mądrzejszy, co za tym idzie, do jego trenowania wkrótce mogą nie wystarczyć sami ludzie. W związku z czym musi powstać specjalny model sztucznej inteligencji, który będzie to robił w imieniu ludzkości.  

Trenowanie dużych modeli sztucznej inteligencji za pomocą mniejszych nazwali “weak-to-strong generalization”, czyli od słabego do silnego. Badania wykazały, że ta metoda skutkuje wyższym poziomem dokładności w porównaniu ze szkoleniem przez ludzi.  

W badaniach wykorzystano przede wszystkim GPT-4, który był szkolony przez GPT-2. Jednak OpenAI przyznaje, że nie jest to „rozwiązanie” superdopasowania, na ten moment jedynie ma służyć jako wstępne ramy do opracowania szkolenia ogólnej sztucznej inteligencji.  

W listopadzie pojawiło się wiele spekulacji na temat tego, czy OpenAI udało się osiągnąć ogólną sztuczną inteligencję. Firma zaprzeczyła. Jednak jednocześnie powołała zespół naukowców, który intensywnie pracuje nad narzędziami do kontroli AGI.