Będzie "wojna z maszynami”? Prof. Duch obawia się czegoś innego

"Nie boję się sztucznej inteligencji. Obawiam się dużych firm i polityków, którzy zaczną ją wykorzystywać!" - mówi w rozmowie z GeekWeek prof. dr hab. Włodzisław Duch z Wydziału Fizyki, Astronomii i Informatyki Stosowanej UMK w Toruniu.

GeekWeek: Panie profesorze, czy pojawienie się w naszej historii sztucznej inteligencji okaże się punktem zwrotnym w dziejach ludzkości?

Prof. dr hab. Włodzisław Duch: Myślę, że to już jest punkt zwrotny! Jeśli popatrzeć na to, w jakich obszarach mamy taką nadludzką inteligencję, to tych obszarów jest coraz więcej. Począwszy od tego, że dwadzieścia parę lat temu udało się wygrać z mistrzem świata w szachy, co było wtedy wyznacznikiem inteligencji. We wszystkich innych grach, które w tej chwili mamy, sztuczna inteligencja nas przegania.

Myśli pan, że będą dziedziny, które sztuczna inteligencja całkowicie zdominuje?

Już wiemy, że będzie lepiej sterować sprzętem wojskowym, a to przecież bardzo wiele zmienia. Wiele zawodów, na przykład zawody prawnicze, w których trzeba analizować mnóstwo dokumentów - dzięki sztucznej inteligencji udało się w znacznym stopniu ten proces uprościć, zautomatyzować. Krótko mówiąc: sztuczna inteligencja już wpłynęła na bardzo dużo elementów naszego życia.

Czy to oznacza, że jesteśmy skazani na sztuczną inteligencję?

Ludzie nie chcą się z tą sztuczną inteligencją pogodzić. W szczególności politycy, których można by decyzje oceniać dużo lepiej właśnie za pomocą sztucznej inteligencji, a nie tylko słuchając tego, co mają do powiedzenia.

Czyli politycy powinni się jej bać?

Oni tak! Każda decyzja, jak się ją podejmuje, na przykład ustawę czy uchwałę, to ma przecież określone skutki.  Na przykład zmieniają się przepisy prawne. I tu można dużo nakłamać. Jeśli jednak będziemy mogli przeanalizować przy pomocy sztucznej inteligencji dokumenty dotyczące sprzedaży różnych dużych spółek, to być może znajdziemy tam różne nieścisłości, prawda? W Polsce mamy duży bałagan legislacyjny.  Prawnicy na tym zarabiają, ale to się może skończyć, jeśli tylko uda nam się do analizy dokumentów prawnych użyć sztucznej inteligencji.

Czy w życiu takiego przeciętnego Kowalskiego sztuczna inteligencja także będzie oznaczać rewolucję?

Oczywiście. W tej chwili każdy z nas ma przy sobie telefon komórkowy i każdy siedzi w tych różnych sieciach społecznościowych. I wykorzystujemy technologię na wiele różnych sposobów choćby przez to, że mamy GPS w samochodzie. A to jest rewolucja! GPS spowodował, że ludzie przestali myśleć o tym, gdzie co jest, a orientacja w przestrzeni przez to zaczęła nam się bardzo mocno osłabiać. Wiemy, że GPS prowadzi nas często lepiej, niż sami byśmy to zrobili.

No tak, ale to jest tylko pomoc, rodzaj "wirtualnego asystenta"...

Za chwilę się okaże, że wszystkie programy typu "wirtualny asystent" czy "wirtualny tłumacz" okażą się niezbędne dla naszego życia. Proszę zobaczyć: jedziemy na wakacje i chcę z kim rozmawiać w innym języku. Co robię? Nasz rozmówca mówi po japońsku do telefonu, a telefon to samo tłumaczy i mówi ten sam tekst, tyle że po polsku. To wszystko jest w tej chwili do zrobienia.

Czyli świat zdominują gadżety wyposażone w sztuczną inteligencję?

Już za chwilę pojawią się okulary do rozszerzonej rzeczywistości. To oznacza, że gdzie nie spojrzę, to już będę wiedział, co tam jest. Tak samo jest z mapami Google’a. Jak gdzieś jadę, to przecież patrzę w mapę i ona mnie prowadzi, a tam także jest wprzęgnięta sztuczna inteligencja. Ona zmienia mnóstwo rzeczy w naszym świecie, z czego ludzie nawet nie zdają sobie sprawy.

Kiedy to wszystko się zaczęło?

Ludzie, którzy mają tyle lat co ja i pamiętają, jak świat wyglądał w latach 70-tych czy nawet wcześniej dobrze wiedzą, że już zmieniło się mnóstwo rzeczy. Wtedy po informacje i wiedzę chodziło się do biblioteki, gdzie kserowało się jakieś artykuły. Mam tego pełne szafy. A dziś? Niczego takiego nie potrzeba. Dziś wystarczy mieć GPT3 (skrót pochodzi od słów Generative Pre-trained Transformer 3 - przyp. red.) czyli zapytać sztuczną inteligencję i po chwili wiemy wszystko.

Widzi pan jakieś zagrożenia tego świata, który zmieniają inteligentne maszyny?

Widzę. Podam panu przykład! Mój kolega zapytał sztuczną inteligencję, co myśli na mój temat. Dostał podsumowanie mojej osoby, które jest absolutną konfabulacją. Wiele rzeczy ten program mi przypisał, których ja nie zrobiłem, a nie wspomniał o rzeczach, które zrobiłem...

Czyli nie wygląda to najlepiej... strach się bać.

Na razie to są jedynie strzępki informacji, ale proszę zwrócić uwagę, że to działa dokładnie tak, jak nasze umysły. Gdybym ja nie sprawdzał tego co piszę i mówię bez przerwy, choć wydaje mi się, że wiem i wszystko dobrze pamiętam? Wystarczy, że przestanę to robić, a wkrótce się okaże, że większość tego co piszę czy mówię to będzie konfabulacja. Tak po prostu już jest.

Sztuczna inteligencja ma wady podobne do tych, które my mamy?

Powiem inaczej: sztuczna inteligencja żyje w swoim świecie, w którym nachłonęła się różnych informacji i z tych informacji robi jakieś swoje komentarze. I dlatego tak to wychodzi, jak w przypadku oceny mojej osoby... Te programy jeszcze nie mają metod weryfikacji, aby sprawdzić, czy to co znalazła sztuczna inteligencja jest prawdziwe. Ale za chwilę to się zmieni. Każdy z nas wkrótce będzie miał takiego wirtualnego asystenta, który będzie nam mówił, jak żyć.

Przerażające...czy boi się pan tego?

To jest niebezpieczeństwo, bo my oddaliśmy już możliwość kierowania się naszym własnym rozsądkiem i wyobrażeniami o ruchu ulicznym zdając się na sztuczną inteligencję. A za chwilę oddamy prawie wszystko naszym telefonom!

Czy to oznacza, że grozi nam scenariusz jak z serii filmów "Terminator", czyli sztuczna inteligencja zyska samoświadomość i przejmie władzę nad światem?

Co do zyskania przez sztuczną inteligencję samoświadomości, to bym się tym na razie nie przejmował i raczej obecnie nie dostrzegam zagrożenia. Chociaż proszę zauważyć, jak się zachowują roboty - one są w pewien sposób "przytomne". Mówi się do takiego robota: idź do pokoju i przynieś to i to - on to lokalizuje i przynosi. Tak że ta "przytomność" wynikająca ze zdawania sobie sprawy z tego, jak świat wygląda, już jest.

Ale przecież nie można wykluczyć, że ten robot kiedyś zyska samoświadomość?

No cóż... to kiedyś na pewno nadejdzie. Zrobić z tego samoświadomość, która sprawi, że sztuczna inteligencja będzie się odwoływała do tego, co ma swoim wnętrzu? To już nie wydaje się takie trudne. Świadomość sztucznej inteligencji na pewno nadejdzie.

Czyli grozi nam apokalipsa jak z filmów o Terminatorze, gdzie ludzkość musiała rozpocząć wojnę z inteligentnymi maszynami?

Zadajmy sobie pytanie: czy samoświadomość ma powodować, że roboty będą chciały odziedziczyć po nas Ziemię? Podejrzewam, że nie będą takie głupie jak Putin, który myśli, że jak się ziemię zagarnie, to będzie fajnie, prawda? Ziemia robotom nie jest do niczego potrzebna. Im jest potrzebna energia, żeby podtrzymywać swoje procesy myślowe, ale to wszystko. Nie boję się tego, że roboty zawładną światem.

Czego w takim razie się pan obawia?

Tego, że niektóre firmy zaczną dzięki sztucznej inteligencji coraz sprawniej nami manipulować. Firmy, ale także rządy różnych krajów, które będą używać sztucznej inteligencji do inwigilacji, tych wszystkich Pegasusów i innych. Obawiam się dużych graczy, którzy będą mogli wykorzystać sztuczną inteligencję do niecnych celów. Niestety nie widzę niczego, co miałoby ich przed tym powstrzymać. Ale czuję niepokój z jeszcze jednego powodu.

Jakiego?

Chodzi o wojny. One kończyły się przeważnie dlatego, że zaczynały się protesty, gdyż w walce zginęło zbyt wiele osób. Ale za chwilę okaże się, że w wojnie uczestniczą głównie bezzałogowe drony i roboty wyposażone w moduły sztucznej inteligencji. Co wtedy? Może się okazać, że przed taką wojną nie będzie żadnych hamulców.

Dziękuję za rozmowę.