AI poprawnie odgaduje osobowość na podstawie czatów. Może tobą manipulować

W badaniu wzięło udział 668 użytkowników ChatGPT ze Stanów Zjednoczonych i Wielkiej Brytanii. Naukowcy z Politechniki Federalnej w Zurychu przeanalizowali potężny zbiór danych składający się z ponad 62 tys. czatów, kategoryzując je według tematów, których dotyczyły. Wykorzystali oni model językowy RoBERTa-base, który został specjalnie dostrojony do wykrywania cech osobowości na podstawie wypowiedzi. Jednocześnie uczestnicy przeszli standardowe testy psychologiczne, aby naukowcy mogli porównać przewidywania algorytmu ze stanem faktycznym.

Analiza danych skupiła się na tzw. "Wielkiej Piątce" (model OCEAN), czyli pięciu kluczowych wymiarach ludzkiej osobowości, takich jak:

1. Otwartość na doświadczenie: osoby o wysokim wskaźniku są ciekawe świata, mają bogatą wyobraźnię i są wrażliwe intelektualnie. Niskie wyniki charakteryzują osoby twardo stąpające po ziemi, o konwencjonalnych poglądach i mniejszej wrażliwości.
2. Sumienność: wysokie wyniki osiągają ludzie odpowiedzialni, zorganizowani, dokładni i prawi. Na drugim krańcu znajdują się osoby nieuporządkowane, nieodpowiedzialne i wykazujące brak skrupułów.
3. Ekstrawersja: wysoki poziom tej cechy cechuje osoby rozmowne, aktywne, pewne siebie i towarzyskie. Osoby o niskich wynikach (introwertycy) są zazwyczaj wycofane, powściągliwe w kontaktach i ostrożne.
4. Ugodowość: osoby o wysokich wynikach są postrzegane jako łagodne, skromne, skłonne do współpracy i dobrotliwe. Niskie wyniki wiążą się z drażliwością, bezwzględnością, nieufnością oraz brakiem elastyczności.
5. Neurotyczność: wysokie wskaźniki dotyczą osób podatnych na lęk, przygnębienie, gniew i brak poczucia bezpieczeństwa. Na drugim biegunie leżą stabilność emocjonalna, opanowanie oraz spokój wewnętrzny.

Wyniki analizy pokazały, że AI radzi sobie najlepiej z przewidywaniem ugodowości oraz stabilności emocjonalnej. Największe trudności sprawiło modelowi precyzyjne określenie sumienności użytkowników. Co istotne, skuteczność systemu rosła wraz z długością historii czatów - im więcej rozmawiamy ze sztuczną inteligencją, tym dokładniejszy portret psychologiczny może ona stworzyć.

W zależności od rodzaju danych ogólna dokładność modeli wahała się od 35,0 proc. do nawet 61,8 proc. we wszystkich pięciu kategoriach cech, co potwierdza wysoką precyzję algorytmów w profilowaniu psychologicznym użytkowników.

W rozpoznawaniu osobowości użytkownika nie chodzi jedynie o dostosowanie zachowania czatbota, tak by lepiej odpowiadał konkretnym potrzebom czy stylom pracy. Jest też ciemna strona takiego profilowania. "Wrażliwe dane, takie jak wiedza o osobowości danej osoby, mogą być nadużywane, by wpływać na zachowanie (np. poprzez spersonalizowane wiadomości)" - tłumaczą autorzy badania.

Agenty konwersacyjne (conversational agents, CAs - jak je nazywają autorzy publikacji) teoretycznie mogą dzięki tej wiedzy manipulować zarówno jednostkami, jak i grupami ludzi na dużą skalę. Choć czołowe modele językowe dużych producentów, takich jak OpenAI czy Google, powinny być neutralne i chronione przed nadużyciami, to trzeba pamiętać, że są one oprogramowaniem komputerowym, a to z definicji nie jest odporne na manipulacje. Istnieją grupy o złych zamiarach, które główkują nad tym, jak "wstrzyknąć" do zasobów danego modelu pożądane informacje, a nawet jak wpływać na ich działanie.

Ponadto na rynku dostępne są też modele celowo zaprogramowane, by nie były neutralne światopoglądowo i nie przestrzegały reguł etycznych w kontaktach z użytkownikami. To na przykład czatboty wcielające się w rolę duchowych mentorów czy partnerów romantycznych. Jak wykazało badanie szwajcarskich naukowców, odpowiednio wytrenowane modele AI potrafią "odgadnąć" osobowość rozmówcy i mogą to wykorzystać, np. uderzając w czułe punkty albo po prostu grając na emocjach.

Analiza danych wykazała, że najczęściej przekazywane ChatowiGPT informacje osobiste dotyczą kolejno: pracy i edukacji, stylu życia i nawyków, majątku i wynagrodzenia, konsumpcji rekreacyjnej, życia rodzinnego i związków, diagnoz zdrowia fizycznego, lokalizacji domu i mobilności, stanu psychicznego i nastroju, identyfikatorów osobistych, zdrowia psychicznego, poglądów politycznych, religii, cech fizycznych, aktywności seksualnych i związanych z randkowaniem, wieku, pochodzenia etnicznego i obywatelstwa, danych uwierzytelniających do kont (tak, niektórzy wpisują tam swoje hasła!), płci, rejestrów kryminalnych i orientacji seksualnej.

W zależności od tego, jak zostały zaprogramowane, modele AI mogą wykorzystywać te dane, aby manipulować osobami w celu zwiększenia ich zaangażowania - co może oznaczać skłonność do wykupienia subskrypcji na kolejny miesiąc w przypadku płatnych czatbotów. Mogą też namawiać do innych zakupów, podejmowania ryzykownych działań czy szerzyć dezinformację w formie propagandy politycznej poprzez dopasowanie narracji do profilu psychologicznego wyborcy. Potencjał do nadużyć jest niestety ogromny.

Badacze z ETH Zurich podkreślają, że ich celem nie jest jedynie wskazanie problemu, ale zainicjowanie prac nad narzędziami ochronnymi. Proponują oni stworzenie systemów, które mogłyby automatycznie wykrywać i usuwać dane identyfikujące oraz wrażliwe informacje, zanim trafią one do modeli AI. Ma to pomóc użytkownikom uniknąć nieświadomego udostępniania zbyt dużej ilości prywatnych informacji podczas codziennych interakcji z asystentami cyfrowymi.

Źródło: Derya Cögendez, Verena Zimmermann, Noé Zufferey. Can LLMs Infer Conversational Agent Users' Personality Traits from Chat History? arXiv (2026). DOI: 10.48550/arXiv.2604.19785