W skrócie
- Sam Altman ostrzega, że w zamian za obietnicę materialnego dobrobytu i wygody ludzkość może niepostrzeżenie oddać swoje podstawowe swobody obywatelskie oraz prywatność.
- Nadchodzące narzędzia AI mają stale monitorować aktywność użytkowników, rejestrując ich ekran, rozmowy i tworząc cyfrowy zapis całego życia osobistego.
- Liderzy technologiczni, w tym Elon Musk i przedstawiciele Palantir, otwarcie rozważają ryzyko anihilacji ludzkości przez AI, szacując je na poziomie od 20 do 70 procent.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Na temat sztucznej inteligencji powstaje mnóstwo opracowań, w których osoby z mniejszym lub większym rozeznaniem komentują rozwój tej technologii i jej możliwe implikacje. Choć oczywiście należy im się głos, to niektóre rozpowszechnione opinie bywają podawane w wątpliwość. Wiele osób nie dowierza, gdy słyszy o planach technologicznych gigantów związanych z kontrolą, inwigilacją, zanikiem ludzkiej autonomii, czy nawet możliwością wyginięcia naszego gatunku.
Dlatego aby zweryfikować, czy tego typu doniesienia mają oparcie w rzeczywistości, czy jedynie stanowią wymysły autorów szukających sensacji, sięgamy do samego źródła, czyli autentycznych wypowiedzi szefa najbardziej zaawansowanego laboratorium sztucznej inteligencji na świecie, a na koniec sprawdzimy jeszcze, co powiedzieli niektórzy jego rywale.
"Idealne państwo inwigilacyjne. Nie będzie żadnej prywatności"
Sam Altman, CEO OpenAI, przedstawia wizję rozwoju sztucznej inteligencji, która wywołuje silne emocje i prowokuje do dyskusji na temat przyszłości cywilizacji. W swoich wypowiedziach ostrzega on przed czarnymi scenariuszami, w których ludzkość płaci za materialny dostatek utratą osobistej niezależności. Jego słowa pokazują, że największym zagrożeniem dla społeczeństwa może okazać się nie bunt maszyn, lecz stopniowa rezygnacja z podstawowych swobód obywatelskich na rzecz komfortu.
Obawy szefa OpenAI koncentrują się wokół modelu świata, w którym zaawansowane technologie rozwiązują najbardziej palące problemy ludzkości, jednak odbierając przy tym jednostkom możliwość samostanowienia. Altman zwraca uwagę na ryzyko zaakceptowania powszechnej kontroli społecznej w zamian za gwarancję dostatku i bezpieczeństwa. Wskazuje, że taka transformacja nie nastąpi gwałtownie, lecz będzie wynikiem serii małych, pozornie niegroźnych ustępstw na rzecz bezpieczeństwa.
"Jest taki jeden rodzaj dystopii, którym jestem szczególnie zaniepokojony w perspektywie 10 lat - że przesadzimy z reakcją na kwestie bezpieczeństwa AI" - ostrzega Sam Altman. Opisuje on dalej mechanizm, w którym społeczeństwo otrzymuje obietnicę przełomów medycznych i materialnego dobrobytu, oddając w zamian swoją prywatność i wolność. Proces ten może przebiegać niepostrzeżenie, ponieważ każda decyzja o ograniczeniu autonomii będzie uzasadniana tymczasową koniecznością lub wyższym dobrem.
"Zobaczcie, wszyscy dostaniecie lek na raka. Będziecie mieli obfitość materialną, ale nie będziecie mieli wolności. Nie będziecie mieli sprawczości. To będzie idealne państwo inwigilacyjne. Nie będzie żadnej prywatności" - opisał potencjalne zagrożenie Sam Altman.
"Dostaniecie ogromny komfort, ale w świecie nie zostanie już dla was nic do naprawdę do zrobienia, nic, co naprawdę się liczy. Będziecie po prostu żyć na usługach AI dającej wam bogactwo materialne" - dodał.
Wiąże się to z zapowiedzią bezwarunkowego dochodu podstawowego wypracowywanego przez AI i roboty, który ma stanowić rekompensatę za utratę pracy przez większość ludzi. Elon Musk posuwa się jeszcze dalej, mówiąc o "bezwarunkowym wysokim dochodzie" oraz tym, że w perspektywie najbliższej dekady pieniądz jako taki straci na znaczeniu, otwiera się w nowym oknie, gdyż w gospodarce obfitości (ang. post-scarcity economy) maszyny będą wytwarzać tyle dóbr tak niskim kosztem, że wystarczy ich dla każdego - szerzej o tym pisaliśmy w GeekWeeku.
Wyzwanie polega jednak na tym, że poszczególne kroki prowadzące do takiego stanu rzeczy będą wydawać się racjonalne i bezpieczne w danym momencie. Brak wyraźnego punktu zwrotnego utrudni społeczeństwu dostrzeżenie momentu, w którym całkowicie utraci kontrolę nad własnym losem. "Naprawdę chciałbym tego uniknąć. I myślę, że łatwo jest akceptować tymczasowe kompromisy" - tłumaczy szef OpenAI.
Zobacz również:
"AI najprawdopodobniej doprowadzi do końca świata"
Jako rozwiązanie wyżej opisanego problemu szef OpenAI proponuje zasadę stałego zwiększania swobód obywatelskich i kontroli ludzi nad własnym czasem. Test ten ma służyć jako wskaźnik, czy rozwój technologiczny przebiega we właściwym kierunku. Jeśli poczucie sprawczości i jakość życia społeczeństwa rosną z każdym rokiem, ryzyko powstania absolutnego państwa inwigilacyjnego zostaje zminimalizowane.
"W pewnym sensie myślę, że jeśli z każdym rokiem ludzie będą mieli więcej wolności i sprawczości, aby spędzać więcej czasu na robieniu rzeczy, które chcą robić, i będą czuli, że jakość ich życia oraz jakość ich czasu rośnie z roku na rok, to prawdopodobnie nic nam nie będzie" - ocenia Sam Altman.
Wprowadzenie kryterium rosnącej autonomii ma zapobiec zbyt gwałtownym zmianom społecznym i uchronić przed poważnymi incydentami biologicznymi czy technologicznymi, zwłaszcza w kontekście niesubordynacji agentów AI, które mogą mieć do czynienia z bronią biologiczną, arsenałem nuklearnym czy robotami, stanowiąc dla człowieka zagrożenie egzystencjalne.
"W ten sposób unikniemy jakiejś szalonej koncentracji władzy czy zapaści gospodarczej. Koniecznie unikniemy wielkiego incydentu bezpieczeństwa. Unikniemy też zbyt dużej zmiany w jednym jednostkowym przedziale czasu" - argumentuje Sam Altman. Ustanowienie wolności jednostki jako nieprzekraczalnej granicy rozwija spójną strategię obronną przed negatywnymi skutkami rozwoju technologii, a skupienie się na trwałym zwiększaniu swobód ma zapobiec powolnej erozji praw obywatelskich.
Podejście lidera OpenAI wiąże się z dawno dostrzeżonym paradoksem branży technologicznej, w której twórcy kontynuują prace nad potężnymi narzędziami mimo świadomości zagrożeń. Postawa ta towarzyszyła Altmanowi jeszcze przed sukcesem komercyjnym jego obecnej firmy, gdy kierował inkubatorem startupów Y Combinator. "Myślę, że AI najprawdopodobniej doprowadzi do końca świata. Ale w międzyczasie powstaną świetne firmy stworzone w oparciu o zaawansowane uczenie maszynowe" - wyznał w czerwcu 2015 r. Sam Altman.
"Gigantyczne przejście od inteligencji biologicznej do cyfrowej"
Pewnym paradoksem jest to, że mimo tych ostrzeżeń OpenAI jednocześnie dostarcza technologię, która bardzo mocno ingeruje w nasze życie zarówno zawodowe, jak i prywatne. Oddelegowując jej zarówno myślenie, jak i planowanie i "orkiestrację" naszych działań, w rzeczywistości tracimy i prywatność, i decyzyjność.
To specyficzne dwójmyślenie Sama Altmana uwidacznia się za sprawą planowanych aktualizacji narzędzi takich jak ChatGPT, które obecnie ewoluują od tekstowych czatbotów do agentów bądź asystentów stale rejestrujących aktywność użytkowników. Zaawansowane modele będą analizować obraz z ekranu komputera, nagrywać rozmowy i tworzyć na bieżąco cyfrowy zapis całego życia osobistego i zawodowego człowieka. Reakcje internautów na te zapowiedzi pokazują głęboki podział między entuzjazmem wobec wygody a obawą o całkowitą utratę prywatności.
Sam Altman powiedział publicznie, że jesteśmy już "blisko świata, w którym potomek ChatGPT może oglądać twój ekran, oglądać każde spotkanie, nagrywać każde połączenie, wszystko tego typu, posiadać doskonały kontekst całego twojego życia, wszystkiego, co widzisz".
Nowa funkcjonalność może pojawić się na rynku w ciągu najbliższych miesięcy (najpewniej w pierwszej połowie 2027 r.), wraz z debiutem kolejnej generacji modeli językowych (najpewniej GPT-7). Oznacza to przejście od narzędzi jedynie reagujących na komendy do stale aktywnych programów działających w tle. Częściowo taki obraz został już zarysowany w materiałach promujących tegoroczny model GPT-6 Astra.
Proponowane rozwiązania wykraczają daleko poza rozbudowę pamięci czy powiększenie okna kontekstowego. Stanowią one fundamentalną zmianę w sposobie działania programów komputerowych. Niektórzy odbiorcy widzą w tym szansę na uzyskanie pomocnika zdolnego do samodzielnego działania w ich imieniu, podczas gdy inni przestrzegają przed wizją nieustannego nadzoru.
Sam Altman wcześniej przyznawał, że koncepcja stałego monitorowania wywołuje w nim skrajne emocje, będąc pomysłem zarazem ekscytującym i niepokojącym. Najwyraźniej jednak - podobnie jak jego koledzy z branży - odczuwa on historyczny imperatyw nakazujący mu rozwijanie działających w ten sposób narzędzi. Bo jeśli nie OpenAI, to zrobi to ktoś inny. Nawet gdy dana grupa ludzi, firma czy państwo uzna, że tworzenie superinteligencji jest niebezpieczne i należy je zatrzymać, nie może tego zrobić z obawy, że rywale zrobią to pierwsi. W rezultacie każdy czuje wewnętrzny i zewnętrzny przymus parcia naprzód.
"Mamy tu do czynienia z gigantycznym przejściem od inteligencji biologicznej do cyfrowej - od sytuacji, w której ludzie są, powiedzmy, dominującym gatunkiem na Ziemi czy we wszechświecie, do takiej, w której już nim nie są - i zależy nam na tym, by proces ten przebiegł pomyślnie" - brzmi autentyczna wypowiedź sama Altmana.
W tym ujęciu człowiek pełni rolę narzędzia lub nośnika, biologicznego etapu przejściowego, którego ewolucyjnym celem jest stworzenie sprawniejszego, cyfrowego podłoża dla inteligencji.
"Połączcie wasze kalendarze rodzinne i opiszcie zainteresowania dzieci"
Koncepcje wykorzystania sztucznej inteligencji w życiu codziennym obejmują również automatyzację życia prywatnego, w tym komunikacji rodzinnej. Jedną z propozycji przedstawionych przez szefa OpenAI było stworzenie spersonalizowanego podcastu opartego na wiedzy sztucznej inteligencji o naszych terminarzach i zainteresowaniach. Narzędzie miałoby wygłaszać poranny briefing na dany dzień.
"Fajne zastosowanie pracy z chatgpt, o którym usłyszałem zeszłej nocy: połączcie wasze kalendarze rodzinne i opiszcie zainteresowania dzieci. Co rano na drogę do szkoły niech stworzy podcast mówiący o meczu piłkarskim jednego dziecka tego popołudnia, nadchodzących urodzinach drugiego dziecka, wiadomościach etc." - napisał Sam Altman na platformie X, jakimś cudem chyba nie przewidując, z jakim odbiorem spotka się ten pomysł.
Czy jest to ten sam człowiek, który wcześniej ostrzegał o możliwości odebrania nam przez technologię sprawczości, prywatności i tego, co naprawdę się w życiu liczy? Czy to jeszcze OpenAI z misją stworzenia superinteligencji dla dobra ludzkości, czy już OdklejAI? A może od początku tak było?
Pomysł ten spotkał się z falą krytyki ze strony użytkowników, którzy wskazali, że wspólna podróż samochodem powinna być okazją do bezpośredniej rozmowy z dziećmi, a nie do słuchania wygenerowanych maszynowo podcastów. Internauci zaczęli pytać o granice, w jakich dążenie do wygody zaczyna zastępować autentyczne relacje międzyludzkie i unikalne momenty spędzane z najbliższymi.
Krytyka cyfrowego podcastu porannego ukazuje obawy społeczne związane z wkraczaniem algorytmów w najintymniejsze sfery życia. Pytanie o to, czy technologia ma wspierać relacje, czy też stopniowo je zastępować, pozostaje jednym z najważniejszych wyzwań w kontekście postępującej cyfryzacji.
Zobacz również:
Nie tylko Sam Altman. Co mówią jego koledzy po fachu?
Sam Altman nie jest jedynym bohaterem tego artykułu. Interesujących wypowiedzi liderów firm technologicznych, które rozwijają najbardziej zaawansowane modele i narzędzia AI, jest oczywiście dużo więcej. Na samej ich podstawie można by napisać sporą książkę, ale myślę, że warto wybrać na deser jedynie te, które zabrzmią ciekawie w kontekście powyższych wypowiedzi szefa OpenAI.
"Być może moglibyśmy zaoferować bardziej ludzką formę powstrzymywania przyszłych przestępców. Osoba, która złamała prawo, dostawałaby darmowego robota Optimus, który chodziłby za nią i udaremniał próby popełnienia przestępstwa. Ale poza tym możesz robić, co chcesz. On po prostu nie pozwala ci popełnić przestępstwa i to w zasadzie wszystko. Wydaje mi się, że nie trzeba by było wsadzać ludzi do więzień i tym podobnych miejsc" - powiedział Elon Musk, szef xAI. Ocenił on również prawdopodobieństwo, że spełnią się apokaliptyczne wizje i "zabójcze roboty dokonają anihilacji ludzkości" na "jakieś 20%".
Bill Gates stwierdził w wywiadzie dla NBC, że sztuczna inteligencja w nieodpowiednich rękach "niewątpliwie będzie wystarczająco potężna, aby wywołać zdarzenia, które doprowadzą do miliarda zgonów". Według współzałożyciela Microsoftu "nigdy nie istniała tak potężna broń, jak połączenie działań ludzi o złych intencjach i wykorzystujących najnowsze narzędzia AI".
"W Futures Project uważamy, że istnieje 70% szans na... cóż, śmierć wszystkich ludzi albo coś podobnie złego" - powiedział Daniel Kokotajlo, były badacz OpenAI i założyciel AI Futures Project. Dopytany, czy chodzi śmierć wszystkich ludzi, odpowiedział: "Zgadza się". Szef Anthropic, Dario Amodei, prawdopodobieństwo czarnego scenariusza szacuje na 25%.
"Obywatele będą zachowywać się jak najlepiej, ponieważ będziemy nieustannie nagrywać i raportować wszystko, co się dzieje" - powiedział współzałożyciel i prezes Oracle.
"Nasz produkt jest okazyjnie używany do zabijania ludzi" - powiedział Alex Karp, szef Palantir. Zapytany, czy chodzi o namierzanie przy pomocy dronów, czy o coś innego, odpowiedział: "namierzanie wszelkiego rodzaju". Powiedział on także: "Nie wiem, jak inaczej wytłumaczyć to Amerykanom. Że odbierzemy wam pracę, że zabierzemy... Że zniszczymy wasze możliwości zdobywania pieniędzy i władzy".
"Ludzie zmierzają do fabryki kleju niczym koń. To chyba sprawia, że mam ochotę zostać luddystą" - powiedział współzałożyciel firmy Palantir, Peter Thiel. W niedawnym wywiadzie podzielił się on także refleksją nad moralizatorstwem i znaczeniem słów evil i bad: "Jeśli jesteś zły, to przynajmniej jesteś kompetentny. A skoro jesteś zły, to nie znaczy, że jesteś do niczego. Więc może w sumie jesteś na swój sposób dobry, bo przynajmniej coś osiągasz" - powiedział, dodając "uważam, że lepiej być dobrym niż złym".
A wisienką na torcie niech będzie kolejna wypowiedź technokraty. Zapytany podczas wywiadu "wolałbyś, żeby ludzkość przetrwała, zgadza się?", po zawahaniu się odpowiedział "Ja... Ja nie wiem... Ja bym...". Ponaglany przez prowadzącego wywiad powiedział, że "z tym wiąże się tak wiele pytań", nadal wymigując się od prostej odpowiedzi tak lub nie. Prowadzący wywiad zapytał wprost: "czy ludzkość powinna przetrwać", na co Thiel wydał przeciągły dźwięk i w nieprzyciętej wersji nagrania dodał na końcu "Tak".
