W skrócie
- Niemiecki sąd uznał, że za treści generowane przez AI w sekcji 'Przegląd od AI' w wynikach wyszukiwania odpowiada firma Google.
- AI Overviews zostały zakwalifikowane jako samodzielne oświadczenia firmy, a obowiązek weryfikacji ich treści przez użytkownika nie zwalnia Google z odpowiedzialności.
- Google informuje, że analizuje decyzję sądu, podkreślając, iż nie jest ona ostateczna, oraz deklaruje działania na rzecz wyeliminowania błędów generowanych przez sztuczną inteligencję.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Gemini zniesławia? Za halucynacje odpowiadają twórcy narzędzia
Każdy, kto choć raz korzystał z wyszukiwarki Google po integracji ze sztuczną inteligencją Gemini, zdaje sobie sprawę, jak niedoskonałe bywają jej odpowiedzi. Funkcja "Przegląd od AI", która generuje odpowiedzi nad tradycyjnymi linkami na stronie wyników wyszukiwania, dostarcza krótkie i uproszczone treści związane z wyszukiwanymi frazami lub nawet udziela odpowiedzi na pytania. Rzecz w tym, że prędzej czy później algorytmy popełniają błąd. Może to być drobne przeoczenie lub poważna halucynacja.
Dotychczas uchodziło to firmie Google na sucho, bowiem pod każdym takim wygenerowanym tekstem znajduje się klauzula "Odpowiedzi wygenerowane przez AI mogą zawierać błędy", która odczytywana jest jako próba przeniesienia całej odpowiedzialności na użytkownika końcowego. Taka deklaracja nie ma jednak absolutnej mocy prawnej. Europejskie sądy zaczynają bowiem orzekać, że to amerykański gigant jest bezpośrednio odpowiedzialny za misinformację napędzaną przez czatboty AI.
Sprawa swój początek miała w Niemczech. Jak donosi serwis The Decoder, dwaj wydawcy z Monachium odkryli, że wspomniana funkcja "AI Overviews" informuje użytkowników, jakoby prowadzili oni "niejasne interesy" i dopuszczali się oszustw. Po tym, jak Google zignorowało oficjalne wezwanie do zaprzestania naruszeń, sprawa trafiła na drogę sądową.
"Przegląd od AI" traktowany jako oryginalne oświadczenie Google
Dla twórców prawa i sądów kwalifikacja prawna generowanych treści stanowi wyzwanie. Google mógłby uniknąć odpowiedzialności, gdyby jedynie wyświetlał tradycyjne wyniki wyszukiwania, takie jak linki do stron, na których podmioty trzecie zarzucają wydawcom oszustwo. Jeśli jednak takie treści pojawiają się w usilnie promowanym "Przeglądzie od AI", to sytuacja wygląda już inaczej.
Niemiecki sąd uznał, że podsumowania generowane przez sztuczną inteligencję stanowią oryginalne oświadczenia samego Google. W związku z tym firma ponosi pełną odpowiedzialność za ich treść. Zdaniem sądu odpowiedź udzielona przez AI stanowi "samowystarczalny komunikat o jednoznacznej treści, pozbawiony odniesień do alternatywnych interpretacji czy wzmianek o tym, że źródła mogą być niewiarygodne".
Prawnicy amerykańskiego giganta argumentowali, że internauci mają możliwość samodzielnego sprawdzenia wiarygodności słów AI poprzez klikanie w linki źródłowe. Sąd jednak odrzucił tę linię obrony. W ocenie wymiaru sprawiedliwości konieczność wykonywania dodatkowej pracy przez użytkownika nie zwalnia Google z odpowiedzialności.
Choć "przegląd" jest generowany maszynowo, bez kontroli człowieka, nadal stwarza pozory autorytatywności. Warto przy tym zauważyć, że klauzula zastrzegająca ewentualność wystąpienia błędów jest umieszczana na samym końcu i pisana małymi literami, co może być uznane za tzw. dark pattern, czyli interfejs celowo zaprojektowany dla celów wydawcy, a nie dobra użytkownika.
Dla jednego z największych twórców AI stanowi to historyczny precedens (choć nie w znaczeniu prawa, jako że w niemal całej Europie precedens nie działa jako oficjalne źródło prawa). Jeśli stanowisko niemieckiego sądu będą przyjmować także inne władze, firma zostanie zmuszona do głębokiej walidacji tego, jakie informacje i w jaki sposób są prezentowane przez sztuczną inteligencję, aby nie narażać się na lawinę pozwów o zniesławienie.
Google reaguje na decyzję sądu. To jeszcze nie koniec
Po ogłoszeniu decyzji sądu w Monachium redakcja Android Authority zwróciła się do Google z prośbą o komentarz. "Głęboko inwestujemy w jakość AI Overviews, by mieć pewność, że przytłaczająca większość odpowiedzi dostarcza prawidłowe informacje i że są one zaprojektowane, by odzwierciedlać informacje, które istnieją w sieci. Uważnie analizujemy tę decyzję, która nie jest jeszcze ostateczna" - przekazał rzecznik firmy.
Gigant z Mountain View mocno akcentuje fakt, że decyzja niemieckiego sądu zapadła w ramach postępowania zabezpieczającego i nie jest jeszcze wyrokiem ostatecznym. Sprawa może więc potoczyć się zupełnie innym torem w toku dalszych procesów.
Google od samego początku otwarcie przyznaje, że jego systemy opierają się na danych znalezionych w sieci, co niesie za sobą ryzyko błędnej interpretacji faktów przez algorytmy. Z tego powodu korporacja zaleca, aby użytkownicy we własnym zakresie weryfikowali dane przekazane przez AI. Firma deklaruje też, że nie chce, aby w "Przeglądzie od AI" pojawiały się jakiekolwiek błędy, i posiada już procedury mające wyeliminować ryzyko podobnych incydentów. Cały czas trwają też prace nad udoskonaleniem technologii, by całkowicie unikać tego typu wpadek w przyszłości.
Wszystkie te wyjaśnienia brzmią racjonalnie z biznesowego punktu widzenia, jednak nie zmieniają sytuacji podmiotów, których reputacja ucierpiała przez halucynacje sztucznej inteligencji. Twórcy dużych modeli językowych wciąż nie są w stanie wyrugować tego zjawiska, mimo że występuje ono dziś rzadziej niż jeszcze rok czy dwa lata temu.
