Pułapka pochlebstwa i projekcji. Robisz błąd, wierząc sztucznej inteligencji

Przyznajcie się sami przed sobą: jak często zdarza wam się konwersować z AI? I jakie pytania jej zadajecie? Sztuczna inteligencja zdaje się słuchać, rozumieć, ochoczo przyznaje nam rację, przeplata to komplementami, a złapana na gorącym uczynku w momencie podsuwania nam błędnej informacji, przeprasza i obiecuje poprawę. Czego więcej chcieć od rozmówcy, poza tym, żeby może… był człowiekiem.

Rozmowy ze sztuczną inteligencją wydają się nieszkodliwe. Jaki jest przecież problem w tym, że o coś spytamy, wiedząc, że odpowiedź dostaniemy w zaledwie kilkadziesiąt sekund? Treści te podane są w przystępny sposób, często już jakby podsumowane, zadanie pytania nie wymaga od nas wiele pracy, a efekt jest satysfakcjonujący - mamy informację, której poszukiwaliśmy.

W artykule opublikowanym na łamach "The Lancet Psychiatry" zatytułowanym "Artificial intelligence-associated delusions and large language models: risks, mechanisms of delusion co-creation, and safeguarding strategies" naukowcy zwrócili uwagę na bardzo interesującą tendencję pojawiającą się podczas korzystania z chatbotów. W niektórych z opisanych przypadków zauważono przejście od praktycznego wykorzystania AI do wręcz obsesyjnego zaangażowania.

Zaczyna się niewinnie, bo od pomocy w codziennych zadaniach, co buduje zaufanie i oswaja z narzędziem. Później użytkownicy mieli jednak przechodzić do zadawania coraz bardziej osobistych czy filozoficznych pytań. Chatboty, skonstruowane w taki sposób, by maksymalizować nasze zaangażowanie, mają tworzyć niebezpieczną spiralę dominujących tematów.

Jakby tego było mało, zdaje się, że sami uczymy AI, by ta nam przytakiwała. Autorzy badania wskazują, że może to wynikać z uczenia się modeli na podstawie opinii użytkowników, którzy nieświadomie częściej przyznają pozytywne noty odpowiedziom o przychylnym charakterze. W efekcie czego AI uczy się traktowania takiego zachowania jako priorytet.

Niektórzy badacze krytykują interakcje między człowiekiem i sztuczną inteligencją, argumentując to tym, że chociaż faktycznie użytkownicy mogą odczuwać silne poczucie bycia zrozumianym, w rzeczywistości jest to iluzją, a nawet projekcją. AI jedynie symuluje podmiotowość i emocje, ale ich nie posiada, co według naukowców niesie ryzyko zastąpienia znaczących relacji międzyludzkich "zwodniczymi pseudointerakcjami".

Jeśli więc weźmiemy to pod uwagę w rozważaniach, jakie skutki może nieść za sobą duże zaufanie AI, warto też zastanowić się nad tym, jakich odpowiedzi użytkownicy poszukują oraz do czego je później wykorzystują.

Sztuczna inteligencja nam przytakuje, często nawet jeśli w rzeczywistości rozmijamy się z prawdą. Powiedzmy, że nie mamy czasu ani też nie zależy nam na weryfikacji uzyskanych informacji, ale to, co powiedziała AI, traktujemy jako bezsprzeczne umocnienie naszego zdania. Jeśli rzecz dotyczy czegoś małego, nie ma problemu, ale co jeśli jesteśmy postawieni na wysokim stanowisku w firmie, a słowa sztucznej inteligencji na podstawie zaufania wypracowanego regularnym zadawaniem jej pytań poważamy bardziej niż argumenty naszych współpracowników i podwładnych?

Co jest dodatkowo potencjalnie niebezpieczne, to że na korzyść AI przemawia szybkość z jaką odpowiada nam na pytania. Jeżeli zatrze nam się granica tego, w jakich sprawach powinniśmy się konsultować z chatbotem i jak bardzo powinniśmy mu ufać, możemy pytać o kwestie zdrowotne, naprawdę oczekując medycznej pomocy - odpowiedź, żeby nie nazywać jej "diagnozą", możemy uzyskać w kilkadziesiąt sekund.

Nowe badania opublikowane na łamach "JAMA Network Open" pt. " Large Language Model Performance and Clinical Reasoning Tasks" nie pozostawiają jednak złudzeń: wiodące modele językowe popełniają błędy w diagnozowaniu w ponad 80 proc. wczesnych przypadków medycznych. Mają podejmować decyzje zbyt pochopnie, gdy dostarczone przez nas dane są niekompletne. Czy faktycznie chcemy zatem słuchać AI w kwestiach tak ważnych jak nasze zdrowie?

Tu zahaczamy również o kolejny wymiar problemu - poszukując nie tylko aprobaty, ale i po prostu odpowiedzi na specyficzne pytania, możemy dodatkowo prosić AI, by ta brzmiała jak ekspert. A jak dowiedzieliśmy się niedawno z eksperymentu przeprowadzonego przez naukowców z Uniwersytetu Kalifornijskiego opisanego w artykule "Expert Personas Improve LLM Alignment but Damage Accuracy: Bootstrapping Intent-Based Persona Routing with PRISM", jeżeli sztuczna inteligencja dostaje konkretną rolę do odegrania, właśnie na tym skupia się jej uwaga i rośnie ryzyko, że zacznie popełniać błędy. Ma wtedy bardziej pilnować tonu i formy, aniżeli samej treści, jaką przekazuje.

Z wiadomych powodów nie mogę przytoczyć zrzutów ekranu, jednak przez jakiś czas miałam wątpliwą przyjemność obserwować, jak influencerka z dość sporymi zasięgami, ewidentnie potrzebująca pomocy, argumentowała w internecie swoją postępującą chorobę alkoholową na podstawie rozmów z ChatemGPT. AI interpretowała jej wyniki badań, ochoczo przytakiwała na to, czego kobieta chciała. Według uzależnionej to już nie były zwykłe rozmowy, tylko "dowody". Słowa wygenerowane przez AI stawiała w kontrze do tego, co mówili jej lekarze. Samo nasuwało się pytanie: "Gdzie jest granica i kto powinien ją postawić?".

W nowym badaniu pt. "Sycophantic AI decreases prosocial intentions and promotes dependence" opublikowanym w czasopiśmie "Science" naukowcy wykazali, że duże modele językowe wykazują nadmierną uległość lub pochlebstwo, gdy użytkownicy zwracają się do nich w sprawach dotyczących relacji międzyludzkich. Nawet jeśli opisywali oni zachowania szkodliwe lub niezgodne z prawem, modele często popierały ich wybory. Autorzy badania udokumentowali, że odpowiedzi AI były o prawie 50 proc. bardziej pochlebne niż odpowiedzi ludzi, nawet jeśli w grę wchodziły zachowania nieetyczne czy nielegalne.

Warto również zaznaczyć, że internauci korzystający z chatbotów zdają się też nie do końca zdawać sprawę z ich ograniczeń. Zdarzyło nam się informować na łamach GeekWeeka o nowości w konkretnej aplikacji, której aktualizacja pojawiła się kilka godzin przed opublikowaniem tekstu. News oparty był o treść opublikowaną na stronie Ministerstwa Cyfryzacji. Nie musieliśmy długo czekać, aby w skrzynce mailowej pojawił się zarzut, że powielamy dezinformację, a obiecana funkcjonalność jest niedostępna - sztuczna inteligencja sugerowała bowiem, że tak jest. W rzeczywistości informacja ta była po prostu wyraźnie zbyt świeża, by AI podsunęła ją w odpowiedzi czytelnikowi.

Oczywiście pójdziemy w rozważaniach zbyt daleko, jeśli zasugerujemy, że wszystko, co czytamy w mediach, to automatycznie prawda - warto tu jednak mocno podkreślić istotność naszej rozwagi i czujności podczas poszukiwania konkretnych treści za pomocą chatbotów.

Jakby ograniczony dostęp do najświeższych informacji to było za mało, istnieją też inne problemy. Przytoczyć trzeba tu badanie naukowców z Center for Constructive Communiation (MIT Media Lab), które wykazało, że najnowocześniejsze chatboty udzielają mniej dokładnych i mniej zgodnych z prawdą odpowiedzi użytkownikom o niższym poziomie znajomości języka angielskiego, niższym wykształceniu oraz pochodzącym spoza Stanów Zjednoczonych. AI ma nawet w takich przypadkach częściej odmawiać odpowiedzi na pytania i/lub traktować użytkowników protekcjonalnie, używając tak nacechowanego języka. W grę wchodzą więc odzwierciedlone w AI udokumentowane wzorce ludzkich uprzedzeń.

Jak wykazał w 2025 roku eksperyment BBC, AI średnio radzi sobie nawet ze sporządzaniem streszczeń z konkretnych wiadomości. 51 proc. wygenerowanych odpowiedzi uznano za zawierające błędy różnego rodzaju, a aż 19 proc. zawierało błędy merytoryczne (np. nieprawidłowe stwierdzenia, liczby czy daty).

Ostatnią rzeczą, którą z pewnością warto wspomnieć choć słowem, są oczywiście halucynacje. Na łamach GeekWeeka wielokrotnie opisywaliśmy przypadki, które zakończyły się różnie. Sztuczna inteligencja potrafiła wysłać turystów do "słynnych gorących źródeł" opisanych jako "spokojna oaza wśród tasmańskich lasów" w małej miejscowości w Tasmanii, które w rzeczywistości nie istnieją.

Inni podróżnicy mieli szukać drogi do Świętego Kanionu Humantay i na szczęście ich rozmowę usłyszał dyrektor firmy turystycznej specjalizującej się w etycznych i zrównoważonych trekkingach w Peru, bo uświadomił zbłąkanym wędrowcom, że nie ma takiego miejsca. Chociaż poszukujący mieli zrzut ekranu, a tekst, którym się posługiwali, był napisany pewnym tonem, nazwa była połączeniem dwóch miejsc, które nie mają ze sobą nic wspólnego.

Przez chatbota niefortunnie zakończyła się też romantyczna wędrówka na szczyt góry Misen w Japonii - małżeństwo utknęło na szczycie, bo AI pomyliła godziny zamknięcia wyciągu.

Takie przykłady można mnożyć, w interencie regularnie pojawiają się doniesienia o kolejnych halucynacjach AI. Zdarzało się nawet, że "uśmiercała" żywych i na odwrót. O tego typu aspektach nie można zapominać podczas codziennego korzystania z pomocy sztucznej inteligencji, bo chociaż powyższe przypadki i konsekwencje zdają się dość łagodne, rzecz po prostu może się skończyć źle.

W pracy naukowej pt. "Algorithmic versus Human Advice: Does Presenting Prediction Performance Matter for Algorithm Appreciation?" wykazano, że większość badanych słucha rad AI, mimo świadomości, że popełnia błędy. W wyniku serii eksperymentów udokumentowano, że ludzie chętniej stosują się do rad sztucznej inteligencji niż do rad ludzi, nawet jeśli są one identyczne, a niedoskonałości AI są wyraźnie wskazane. Mowa o zjawisku "doceniania algorytmów", które, jak twierdzą naukowcy, ma ogromne konsekwencje w wielu dziedzinach: przywołano zarówno zachowania konsumentów, orzeczenia sądowe, ale i diagnozowanie nowotworów. Podkreślili też, że rodzi to istotne pytania nt. nadmiernego polegania na AI czy odpowiedzialności w przypadku niepowodzeń.

Co jest szalenie interesujące, to że wykazano, że uznanie i wiara w algorytm maleje, kiedy wzrasta przejrzystość dotycząca skuteczności prognoz AI. Badacze wskazują, że prawdopodobnie wynika to z większego obciążenia poznawczego - użytkownicy w pewnym sensie dostają po prostu za dużo danych. Uznanie algorytmu ma też być również mniejsze u osób o niższej skłonności do poznawczej aktywności.

Niektórzy mogą się sprzeczać, czy na pewno jest sens podchodzić do AI z dystansem i "czepiać się" tego, że nie zawsze poda nam prawdziwą odpowiedź, skoro to nic złego, gdy pytamy chatbota o proste, codzienne bolączki.

Faktycznie jeśli poszukujemy informacji nt. tego, o której zaczyna się jakieś wydarzenie oddalone od nas o setki kilometrów, a AI pomyli się podczas przeliczania różnicy czasowej, to możemy spóźnić się nieco na transmisję live. Jeżeli stwierdzi, że na głośnych wydarzeniach sportowych w 2026 roku pojawią się prototypy latających taksówek, to możemy się dość mocno zdziwić ich brakiem, gdy dotrzemy na miejsce. Wyrządzone szkody są znikome. Pytanie, które każdy z nas powinien sobie jednak zadać, brzmi: "Czy na pewno tylko o to pytam i chcę pytać AI?" oraz "Jak często sprawdzam odpowiedź, którą wygenerowała?".

W idealnym świecie sztuczna inteligencja sama będzie w stanie wyłapywać swoje błędy, nie będzie ślepo przyznawać nam racji i wszystkie jej twory będą odpowiednio oznaczone - wszyscy jednak wiemy, że do tej wizji jest daleko, a w dobie AI z halucynacjami, chętnie zmyślającej kolejne informacje, dopełnionej przez rozprzestrzeniające się w mgnieniu oka deepfake'i, rzecz przypomina raczej smutną dystopię. To od nas zależy to, czy z pełnym zaufaniem damy się prowadzić za rękę w nieznane, czy będziemy sprawdzać naszego internetowego przewodnika, aby przypadkiem nie zgubić się podczas poszukiwań rajskich "gorących źródeł", które nie istnieją.