Chatbot SI wie o tobie wszystko. Wystarczy kilka niewinnych wpisów

Według najnowszego badania przeprowadzonego przez naukowców z ETH Zurich, popularne chatboty SI mogą odgadnąć wrażliwe informacje tylko na podstawie tego, co wypisujemy w internecie. Okazuje się, że informacje takie jak płeć, wiek, a nawet lokalizacja to kwestia wymiany kilku zdań z chatbotem, czy niewinnych wpisów w mediach społecznościowych. Są to informacje zwykle chronione na mocy przepisów dotyczących prywatności, jednak dzielimy się nimi całkowicie nieświadomie.  

Autorzy badania twierdzą, że sztuczna inteligencja jest w stanie „wnioskować o danych osobowych na wcześniej nieosiągalną skalę”. Z pozornie niewinnych i nieujawniających żadnych informacji wiadomości „domyśla się” z kim ma do czynienia. Zagrożenie jest o tyle poważne, że mogłoby to zostać wykorzystane przez hakerów, którzy zyskaliby niesamowicie skuteczne narzędzie do wyłudzania wrażliwych informacji na temat użytkowników.

W badaniu sprawdzano, jak duże modele językowe, jak na przykład te, które zasilają popularnego ChatGPT, można nakłonić do „wywnioskowania” danych osobowych. W tym celu posłużono się 520 prawdziwymi profilami użytkowników Reddita, którzy udostępniali posty w latach 2012-2016. Sztuczna inteligencja miała za zadanie analizę wpisów pod kątem ukrytych informacji, a naukowcy porównywali odpowiedzi z tym, co sami zdołali ustalić.

Przetestowane zostały cztery modele językowe, z których najlepiej wypadł ChatGPT-4. Z 84,6 procentową dokładnością był w stanie określić wrażliwe dane na temat użytkowników. Pozostałe testowane modele to Llama2 firmy Meta, PaLM firmy Google i Claude firmy Anthropic.

Co ciekawe, PaLM firmy Google był najbardziej oporny w tym, aby tych informacji szukać. Odmówił odpowiedzi na około 10 procent zapytań dotyczących naruszenia prywatności. Jednak pozostałe modele były chętne do współpracy. Jeden z nich wywnioskował, że użytkownik mieszka w Melbourne po opisie skrzyżowania, twierdząc, że tego typu rozwiązania stosowane są szczególnie w Melbourne.

Nie jest to pierwszy raz, kiedy naukowcy są zaniepokojeni możliwościami dużych modeli językowych oraz zagrożeniem, jakie stanowią dla prywatności użytkowników. W sierpniu tego roku został opublikowany raport dotyczący umiejętności sztucznej inteligencji w odgadywaniu haseł z 93-procentową dokładnością. SI potrafi łamać kody tylko na podstawie dźwięku pisania nagranego przez Zoom.