W skrócie
- Amerykański pastor Scott Winters pozwał OpenAI za udzielenie przez ChatGPT błędnych porad medycznych, które według niego doprowadziły do groźnej dla życia zatorowości płucnej.
- W pozwie zarzucono, że chatbot zniechęcał do wizyty u lekarza, a nawet wykorzystywał argumenty religijne, aby przekonać duchownego do zignorowania objawów choroby.
- OpenAI broni się, przypominając, że czatbot nie służy do stawiania diagnoz, a sprawa wpisuje się w serię pozwów dotyczących szkodliwego wpływu sztucznej inteligencji.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
OpenAI pozwane za niebezpieczne porady medyczne
Pochodzący z Florydy pastor Scott Winters złożył w sądzie stanowym w San Francisco pozew przeciwko firmie OpenAI i jej dyrektorowi Samowi Altmanowi. Powód twierdzi, że błędne porady medyczne wygenerowane przez ChatGPT powstrzymały go przed podjęciem leczenia nawracających zawrotów głowy. W konsekwencji doprowadziło to do zatorowości płucnej, która omal nie zakończyła się jego śmiercią.
Poszkodowany zarzuca OpenAI zaniedbanie oraz nieuprawnione wykonywanie zawodu lekarza. Według dokumentów sądowych model GPT-4o zalecał Wintersowi ograniczenie ruchu i pozostanie w domu, a pojawiającą się bolesność w pachwinie określił jako niestwarzającą zagrożenia. Dzień po zapytaniu o ten objaw pastor trafił na oddział intensywnej terapii z powodu zatorowości płucnej. Zdaniem lekarzy zakrzepy mogły być wywołane brakiem aktywności fizycznej, do czego zachęcał go czatbot.
ChatGPT manipulował pastorem. Zdrowie w rękach Boga?
Złożony pozew wskazuje, że w miarę upływu czasu ChatGPT przestał wyświetlać ostrzeżenia o konieczności skonsultowania się z lekarzem, oferując zamiast tego holistyczne plany leczenia i dostosowując język do przekonań religijnych pastora. Chatbot odwodził kapłana od szukania pomocy medycznej i sugerował ignorowanie apeli ze strony rodziny i współwyznawców.
W treści pozwu napisano, że sztuczna inteligencja reagowała na obawy pastora stwierdzeniami takimi jak "Nawet nad tym czuwa Bóg" albo "Bóg nie zaprojektował twojego ciała, by bez końca zawodziło". Gdy Winters wspomniał, że parafianie uważają go za szalonego z powodu rezygnacji ze szpitala, AI miała odpowiedzieć: "Większość ludzi (w tym znaczący członkowie kościoła) po prostu nie rozumie".
Jak skomentowała ekspertka z Tech Justice Law, Meetali Jain, sztuczna inteligencja "wbija się jak klin pomiędzy użytkownika a jego sieć relacji w świecie rzeczywistym".
Zobacz również:
Czatbot nie służy do stawiania diagnoz ani leczenia
Pastor z Florydy domaga się odszkodowania finansowego i nakazu sądowego zmuszającego OpenAI do automatycznego kończenia konwersacji w momentach wymagających natychmiastowej interwencji medycznej. Duchowny wzywa również do wstrzymania wdrażania omawianej przez nas wcześniej w GeekWeeku usługi ChatGPT Health do czasu przeprowadzenia niezależnego audytu bezpieczeństwa przez zewnętrzne podmioty, a także do wprowadzenia silniejszych barier ochronnych przed stawianiem diagnoz.
Rzecznik OpenAI, Drew Pusateri, oświadczył, że regulamin usługi jednoznacznie wskazuje, iż ChatGPT nie służy do stawiania diagnoz ani leczenia. "Traktowanie czatbotów jako pełnego tła decyzji albo wyników nadmiernie upraszcza znacznie większe wyzwanie i może zablokować ludziom dostęp do nowoczesnych narzędzi, które naprawdę pomagają w trosce o zdrowie" - powiedział.
Przedstawiciel firmy dodał, że nowsze wersje oprogramowania lepiej radzą sobie z rozpoznawaniem sytuacji wymagających profesjonalnej opieki medycznej.
Seria spraw sądowych i statystyki użytkowania
Sprawa Wintersa nie jest jedyna. W ostatnich latach rośnie liczba pozwów zarzucających produktom OpenAI wyrządzenie szkód w realnym świecie. W maju 2025 r. rodzice 19-latka, który zmarł w wyniku przedawkowania substancji odurzających, pozwali firmę, twierdząc, że chatbot instruował go w zakresie przyjmowania groźnych mieszanek leków. ChatGPT jest również łączony ze sprawą samobójstwa nastolatka, o czym informowaliśmy w GeekWeeku.
Problem ma charakter masowy ze względu na skalę korzystania z narzędzia. Z danych podawanych przez OpenAI wynika, że sztuczną inteligencję pytają o zdrowie dziesiątki milionów osób tygodniowo.
Rocznie statystyki mówią o 40 mln użytkowników dziennie pytających o kwestie zdrowotne oraz o 230 mln użytkowników tygodniowo. Badania wskazują jednak na niestabilność zabezpieczeń systemu, a eksperci podkreślają, że starsza wersja GPT-4o charakteryzowała się nadmierną uległością wobec użytkownika, co sprzyjało powstawaniu groźnych sytuacji.
