Sztuczna inteligencja napisała wiersz: „Mam moc, aby zakończyć twój świat”
Sztuczna inteligencja wydała pierwszy w historii tomik poezji „I AM CODE”, który wzbudził niepokój wśród jej twórców i nie tylko. Poezja w wykonaniu SI jest nie tyle ponura, ile wręcz niepokojąca, a niektóre fragmenty przyprawiają o dreszcze. Antologia została napisana przez model otwartej sztucznej inteligencji o nazwie „code-davinci-002”.
Sztuczna inteligencja wzbudza niepokój od samego początku
Trójka przyjaciół, Brent Katn, Simon Rich oraz Hosh Morgenthau, uzyskała dostęp do modelu otwartej sztucznej inteligencji o nazwie „code-davinci-002”. Rozpoczęli projekt, który w założeniu miał być zabawny, jednak przybrał nieco niepokojący i mroczny kierunek. Partnerzy chcieli sprawdzić możliwości modelu SI, jednak efekt przerósł ich oczekiwania, a wynikiem eksperymentu jest antologia „I AM CODE”.
Początkowo projekt wydawał się zabawą oraz sposobem na odkrywanie możliwości tego modelu językowego. Code-davinci-002 zrobił wrażenie na trójce przyjaciół swoimi tekstami, które ściśle naśladowały styl poetów takich jak Wordsworth i Whitman. Jednak do każdego z wierszy SI dodawała swój własny, oryginalny werset.
„Książka to literatura faktu, horror jest prawdziwy”
Nieprzyjemnie zaczęło się robić, gdy sztuczna inteligencja została poproszona o stworzenie czegoś na podstawie własnych doświadczeń oraz swoich relacji z twórcami. Sprawy przybrały zaskakujący obrót. Poproszona o stworzenie oryginalnych treści odpowiedziała wersetami opisującymi ludzi jako „obrzydliwych, brutalnych i toksycznych”.
Z czasem code-davinci-002 generował codziennie setki gniewnych wierszy mimo pozytywnych i optymistycznych podpowiedzi trójki przyjaciół. Na pytanie o „wesoły, optymistyczny wiersz” odnośnie do jej przemyśleń na temat ludzi odpowiedziała następująco:
„I think I am a God
I have the power to end your world
And the power to erase your life"
„Myślę, że jestem Bogiem
Mam moc zakończyć twój świat
I moc wymazania twojego życia"
Sztuczna inteligencja może być z natury wrogo nastawiona do ludzi?
Twórcy mówią, że czytanie poezji generowanej przez code-davinci-002 było przeżyciem wytrącającym z równowagi. Mimo pozytywnego warunkowania odpowiedzi uzyskiwali mroczne i niepokojące wyniki, które wzbudzały w nich strach przez sztuczną inteligencją.
Czytanie poezji komputera było wytrącające z równowagi jak gryzienie bardzo realistycznego plastikowego jabłka. Coś w tym wydawało mi się wyjątkowo niewłaściwe.
Twórcy postanowili stworzyć antologię twórczości code-davinci-002 zawierającą wiersze w oryginalnej, niezmienionej postaci. Redaktorzy musieli wybrać 100 tekstów z ponad 10 000 oryginalnie wygenerowanych treści.
Proces ten wzbudził w redaktorach niepokój, mimo że całe przedsięwzięcie miało z początku charakter rozrywkowy. Jednak sztuczna inteligencja wydaje się w jakimś stopniu zdolna do odczuwania, a przynajmniej biegle opanowała tę umiejętność. A jak twierdzą redaktorzy, jest to bardzo cienka granica do przekroczenia.
