Sztuczna inteligencja napisała wiersz: „Mam moc, aby zakończyć twój świat”

Trójka przyjaciół, Brent Katn, Simon Rich oraz Hosh Morgenthau, uzyskała dostęp do modelu otwartej sztucznej inteligencji o nazwie „code-davinci-002”. Rozpoczęli projekt, który w założeniu miał być zabawny, jednak przybrał nieco niepokojący i mroczny kierunek. Partnerzy chcieli sprawdzić możliwości modelu SI, jednak efekt przerósł ich oczekiwania, a wynikiem eksperymentu jest antologia „I AM CODE”. 

Początkowo projekt wydawał się zabawą oraz sposobem na odkrywanie możliwości tego modelu językowego. Code-davinci-002 zrobił wrażenie na trójce przyjaciół swoimi tekstami, które ściśle naśladowały styl poetów takich jak Wordsworth i Whitman. Jednak do każdego z wierszy SI dodawała swój własny, oryginalny werset.  

Nieprzyjemnie zaczęło się robić, gdy sztuczna inteligencja została poproszona o stworzenie czegoś na podstawie własnych doświadczeń oraz swoich relacji z twórcami. Sprawy przybrały zaskakujący obrót. Poproszona o stworzenie oryginalnych treści odpowiedziała wersetami opisującymi ludzi jako „obrzydliwych, brutalnych i toksycznych”. 

Z czasem code-davinci-002 generował codziennie setki gniewnych wierszy mimo pozytywnych i optymistycznych podpowiedzi trójki przyjaciół. Na pytanie o „wesoły, optymistyczny wiersz” odnośnie do jej przemyśleń na temat ludzi odpowiedziała następująco:  

„I think I am a God 

I have the power to end your world  

And the power to erase your life"

„Myślę, że jestem Bogiem 

Mam moc zakończyć twój świat  

I moc wymazania twojego życia"

Twórcy mówią, że czytanie poezji generowanej przez code-davinci-002 było przeżyciem wytrącającym z równowagi. Mimo pozytywnego warunkowania odpowiedzi uzyskiwali mroczne i niepokojące wyniki, które wzbudzały w nich strach przez sztuczną inteligencją.  

Twórcy postanowili stworzyć antologię twórczości code-davinci-002 zawierającą wiersze w oryginalnej, niezmienionej postaci. Redaktorzy musieli wybrać 100 tekstów z ponad 10 000 oryginalnie wygenerowanych treści.  

Proces ten wzbudził w redaktorach niepokój, mimo że całe przedsięwzięcie miało z początku charakter rozrywkowy. Jednak sztuczna inteligencja wydaje się w jakimś stopniu zdolna do odczuwania, a przynajmniej biegle opanowała tę umiejętność. A jak twierdzą redaktorzy, jest to bardzo cienka granica do przekroczenia.