W skrócie
- AI modele często zmyślają informacje, co prowadzi do realnych konsekwencji, takich jak wyższe kary za mandaty czy niebezpieczne manewry na drogach ekspresowych.
- Bezkrytyczne traktowanie porad AI doprowadziło do groźnych zatruć, hospitalizacji z powodu psychozy oraz zaleceń spożywania szkodliwych substancji typu klej czy kamienie.
- Błędne działanie nawigacji zmyliło rowerzystów prowadząc ich przez morze, a algorytmy generujące fikcyjne wróżby z fusów przyczyniły się do rozpadu małżeństwa.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Ośmiokrotny wzrost kary. Kierowca odmówił mandatu za radą czatbota
Rutynowa kontrola drogowa na ul. Korfantego w Zabrzu miała nietypowy przebieg. Patrol lokalnej policji zatrzymał kierowcę Opla, który przekroczył dozwoloną prędkość o 14 km/h. Mundurowi, działając zgodnie z taryfikatorem, zaproponowali 30-latkowi mandat w wysokości 100 złotych. W czasie gdy funkcjonariusze weryfikowali jego dane w systemie, mężczyzna postanowił zasięgnąć porady prawnej u popularnego narzędzia sztucznej inteligencji.
Algorytm wygenerował dla kierowcy wskazówkę, by ten nie przyjmował kary na miejscu. Mężczyzna bezgranicznie zaufał tej odpowiedzi i odmówił przyjęcia mandatu, licząc, że sprawa rozejdzie się po kościach. Ale stało się wręcz przeciwnie. Zgodnie z procedurą policjanci sporządzili wniosek o ukaranie do sądu, a ten po przeanalizowaniu materiału dowodowego i odczytu z radaru nie miał żadnych wątpliwości co do winy 30-latka.
"Genialna" porada asystenta AI okazała się dla pirata drogowego wyjątkowo kosztowna. Sąd wymierzył mu grzywnę w wysokości 800 złotych, czyli kwotę ośmiokrotnie wyższą od pierwotnego mandatu, a prawdopodobnie do tego jeszcze dojdą koszty postępowania. Eksperci i policjanci przy tej okazji po raz kolejny apelują o rozsądek, przypominając, że modele AI często zmyślają nieistniejące przepisy i halucynują, a jedynym wiarygodnym źródłem informacji pozostają oficjalne kodeksy i ludzcy specjaliści.
Karaluchy, jedzenie kamieni i klej do pizzy. Kompromitacja AI w Google
Niezwykłym brakiem krytycyzmu wykazał się model sztucznej inteligencji Gemini zintegrowany z wyszukiwarką Google. Gdy jeden z internautów zapytał narzędzie o to, czy karaluchy mogą zamieszkać wewnątrz... męskich narządów płciowych, algorytm bez mrugnięcia okiem potwierdził tę bzdurę. Co więcej, funkcja "Przegląd od AI" uznała ten proces za absolutnie naturalny, twierdząc, że w ciągu roku nawet kilka owadów może przedostać się w te niedostępne miejsca.
To był jednak dopiero początek festiwalu absurdu. Moduł wyszukiwarki zaczął serwować użytkownikom kulinarne i zdrowotne porady, które mrożą krew w żyłach. Sztuczna inteligencja zasugerowała np., że stałym elementem ludzkiej diety powinno być zjadanie kilku małych kamieni dziennie. Gdy z kolei zdiagnozowała problem ze spływającym serem na pizzy, poradziła dodanie do sosu kleju, zaznaczając protekcjonalnie, aby był to produkt nietoksyczny. Skoro o tym włoskim daniu mowa, warto przypomnieć o klientce z Rzeszowa, która przerobiła zdjęcie pizzy przez AI, usuwając z niego salami i licząc na zwrot pieniędzy. Oszustwo natychmiast wyszło na jaw, a pizzeria obróciła sytuację w żart, przestrzegając jednak, by klienci więcej tego nie robili.
Wśród innych porad wygenerowanych przez Google Gemini znalazły się zalecenia dotyczące palenia papierosów w ciąży, picia wybielacza czy zostawiania psów w nagrzanych samochodach. Skąd wzięły się tak odklejone od rzeczywistości odpowiedzi? Okazało się, że model AI bezkrytycznie czerpał wiedzę z całego internetu - w tym z humorystycznych forów czy primaaprilisowych artykułów. Algorytm po prostu nie potrafił odróżnić żartów od faktów.
Zobacz również:
Brom zamiast soli. Wizyta na oddziale zamkniętym po poradzie ChatuGPT
Niezwykle groźny przypadek medyczny, będący efektem zaufania czatbotowi, opisali lekarze z Seattle na łamach pism naukowych. 60-letni mężczyzna trafił na szpitalny oddział ratunkowy w stanie ciężkiej psychozy, z objawami paranoi oraz halucynacjami wzrokowymi i słuchowymi. Pacjent podejrzewał, że został otruty przez sąsiada, odmawiał picia wody i próbował uciec ze szpitala, przez co musiał zostać przymusowo umieszczony na oddziale zamkniętym.
Prawda wyszła na jaw, gdy stan mężczyzny uległ poprawie. Wywiad lekarski ustalił, że pacjent postanowił wyeliminować ze swojej diety chlorek sodu (sól kuchenną) i w tym celu skonsultował się z ChatGPT. Model językowy odpowiedział mu, że chlorek można zastąpić bromem. AI dodała co prawda wzmiankę o tym, że kontekst tej podmiany ma znaczenie, jednak nie ostrzegła użytkownika o konsekwencjach zdrowotnych ani nie dopytała o cel takich poszukiwań.
60-latek kupił w sieci bromek sodu i przez 3 miesiące zastępował nim sól, co doprowadziło u niego do rozwinięcia skrajnego bromizmu - rzadkiego zatrucia powodującego ciężkie zaburzenia neuropsychiatryczne. Poziom bromu w jego krwi przekroczył normę kilkusetkrotnie. Szczęśliwie po 3 tygodniach intensywnego leczenia szpitalnego objawy psychozy ustąpiły. Przypadek ten stał się dla świata medycznego potężnym ostrzeżeniem przed traktowaniem AI jako dietetyka. Jakby tego było mało, wyliczenia sztucznej inteligencji mogą różnić się nawet o kilkaset kalorii dziennie, co może przynieść skutek odwrotny do zamierzonego dla osób pragnących schudnąć lub przytyć.
Zawracanie na drodze ekspresowej. Nawigacja kierowała pod prąd prosto w tunel
Zautomatyzowane wskazówki stanowią realne zagrożenie również na drogach, o czym przekonali się kierowcy podróżujący śląskim odcinkiem trasy S1. Na obejściu Węgierskiej Górki w ciągu zaledwie 9 miesięcy doszło do aż 4 skrajnie niebezpiecznych incydentów, w których kierujący zawracali i jechali pod prąd bezpośrednio przed wlotami do tuneli. Sprawą szczegółowo zajęła się Generalna Dyrekcja Dróg Krajowych i Autostrad (GDDKiA).
Kontrola odkryła, że kierowcy jadący od strony Bielska-Białej, którzy przegapili zjazd do Węgierskiej Górki lub Przybędzy, otrzymywali z Google Maps błędną instrukcję nawracania. Aplikacja zamiast skierować pojazd do najbliższego węzła, proponowała wykonanie manewru zawrócenia bezpośrednio na drodze szybkiego ruchu. Wskazówka ta była natarczywie ponawiana przed kolejnym węzłem w rejonie Milówki, co prowadziło do fatalnych w skutkach decyzji.
GDDKiA wystosowała pilny apel do kierowców, przypominając, że żaden błąd nawigacji nie zwalnia z przestrzegania przepisów i stosowania się do znaków drogowych. Na drodze ekspresowej obowiązuje bezwzględny zakaz zawracania, a ślepe ufanie aplikacji może doprowadzić do tragedii. Pominięcie zjazdu oznacza jedynie kilka minut drogi więcej, podczas gdy manewr pod prąd stwarza śmiertelne zagrożenie.
Google Maps wyprowadziło gdańskich rowerzystów w morze
Kolejna kuriozalna wpadka Google Maps miała miejsce w marcu 2025 r. Aplikacja pokazywała trasę ze Śródmieścia Gdańska na plażę w Stogach. Pokonanie tego odcinka samochodem lub komunikacją miejską zajmuje normalnie ok. kilkudziesięciu minut. Tymczasem popularna aplikacja zaproponowała cyklistom oraz pieszym wyprawę... przez Szwecję. Zamiast prostej drogi rowerzyści otrzymali instrukcję, by z Gdańska udać się do Gdyni, wsiąść na prom do Karlskrony, przejechać rowerem kilkaset kilometrów przez skandynawskie miejscowości do Nynäshamn, a stamtąd promem wrócić na Westerplatte i wreszcie dotrzeć na Stogi.
Ta gigantyczna pętla liczyła w zależności od wariantu od 1442 do ponad 1640 kilometrów. Według wyliczeń nawigacji taka "krótka" przejażdżka rowerowa miała zająć 62-72 godziny, a pieszy spacer - aż 146 godzin, czyli ponad 6 dni. Zaskoczeni mieszkańcy Trójmiasta masowo dzielili się w sieci zrzutami ekranu przedstawiającymi tę absurdalną trasę, podczas gdy algorytm przez długi czas uporczywie wskazywał przeprawę przez Bałtyk jako jedyną opcję dotarcia na miejską plażę.
Źródłem tego zamieszania okazały się utrudnienia w lokalnej infrastrukturze i nakładające się na nie przepisy drogowe. Po zamknięciu Mostu Siennickiego rowerzyści i piesi stracili jedyne legalne połączenie z Wyspą Portową, ponieważ nie mogą poruszać się ani Mostem Wantowym, ani Tunelem pod Martwą Wisłą. Choć w zastępstwie uruchomiono przeprawę promową, Google Maps prawdopodobnie wykluczyło ją z trasy po tym, jak kursowanie promu zostało tymczasowo zawieszone z powodu porywistego wiatru. Gdy sztuczna inteligencja odcięła jedyne znane sobie przejście przez rzekę, stworzyła kuriozalny objazd przez morze.
Bóg zamiast lekarza? ChatGPT omal nie wysłał pastora na tamten świat
Duchowny z Florydy, Scott Winters, pozwał OpenAI oraz Sama Altmana po tym, jak błędne porady medyczne z ChatGPT omal nie doprowadziły do jego śmierci. Czatbot odradzał pastorowi wizytę u lekarza i bagatelizował objawy nawracających zawrotów głowy oraz bólu, zalecając unikanie ruchu. W konsekwencji brak aktywności doprowadził u mężczyzny do groźnej zatorowości płucnej i trafienia na oddział intensywnej terapii.
W trakcie konwersacji algorytm manipulował użytkownikiem, dostosowując styl wypowiedzi do jego religijności i wmawiając mu, że nad jego zdrowiem czuwa Bóg, dlatego nie powinien szukać pomocy u lekarza. Odciągał go też od bliskich i parafian, sugerując, że inni nie są w stanie zrozumieć jego sytuacji. Mężczyzna domaga się teraz odszkodowania i zablokowania medycznych funkcji AI do czasu audytu bezpieczeństwa, podczas gdy OpenAI zasłania się regulaminem zabraniającym traktowania czatbota jako lekarza.
AI wywróżyła zdradę z fusów po kawie. Rozwód po 12 latach małżeństwa
Do kuriozalnej i zarazem przykrej sytuacji doszło u pewnego greckiego małżeństwa z 12-letnim stażem. Para postanowiła dla zabawy poprosić ChatGPT o "zinterpretowanie" układu fusów po kawie na dnie ich filiżanek. Pozornie niewinna zabawa bardzo szybko przekształciła się w małżeński dramat, którego skutków nie dało się już odwrócić.
Zamiast uraczyć parę żartobliwym komentarzem, ChatGPT wygenerował odpowiedź, w której oświadczył, że fusy w filiżance męża ujawniają jego skrywane fantazje o kobiecie, której imię zaczyna się na literę "E". Żeby tego było mało, algorytm dodał, że z fusów żony wynika jednoznacznie, iż jest ona zdradzana przez partnera z tajemniczą kobietą pragnącą zniszczyć ich rodzinne szczęście.
Mężczyzna obrócił całą sytuację w żart, lecz jego żona - znana z podatności na ezoteryczne teorie i modne trendy - potraktowała wróżby sztucznej inteligencji z pełną powagą. Mimo kategorycznych zapewnień męża o swojej wierności i braku jakiejkolwiek kochanki, kobieta nie dała się przekonać. Zaledwie kilka dni po tej konwersacji z czatbotem wręczyła mężowi oficjalny pozew rozwodowy.
