Sztuczna inteligencja Google podała mu numer telefonu. Zadzwonił i się zdziwił
Korzystanie z nowoczesnych narzędzi opartych na AI to nie tylko wygoda, ale także... ryzyko trafienia na oszustwo. Przekonał się o tym pewien mężczyzna, któremu Google AI Overviews zasugerowało numer telefonu do obsługi klienta firmy wycieczkowej. Wkrótce okazało się, że to oszustwo, a mężczyzna odnotował, że na jego karcie brakuje pieniędzy.
W skrócie
- Alex Rivlin zadzwonił pod numer obsługi klienta firmy wycieczkowej, zasugerowany przez funkcję AI Overviews Google'a.
- Sztuczna inteligencja podała mu błędny numer. Mężczyzna padł ofiarą oszustwa, odnotował nieautoryzowane transakcje na swojej karcie.
- Google zapewnia, że pracuje nad rozwiązaniami. Użytkownicy narzędzi tego typu powinni jednak zachować ostrożność i samodzielnie weryfikować wyniki od AI.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu
Planowanie urlopu poszło nie do końca tak, jak powinno
Alex Rivlin, właściciel firmy zajmującej się nieruchomościami w Las Vegas, nie spodziewał się, że nadchodzące wakacje w Europie będą związane z jakimikolwiek nieprzyjemnościami. Nie chodzi tu jednak o fatalne jedzenie czy wybór nieodpowiednich hoteli. Sprawa dotyczy... sztucznej inteligencji. I poszukiwania numeru kontaktowego do obsługi klienta.
Alex Rivlin szukał numeru kontaktowego do firmy wycieczkowej Royal Caribbean i jak większość z nas w tych czasach skorzystał z wyszukiwania za pomocą Google. W ramach AI Overviews (Przeglądy od AI), funkcji wyszukiwarki Google, która wykorzystując sztuczną inteligencję, generuje automatyczne, zwięzłe podsumowania wyników wyszukiwania, mężczyzna otrzymał numer do konsultanta - i zadzwonił.
Sztuczna inteligencja podała numer i... Okazało się, że to oszustwo
Rozmowa Rivlina z przedstawicielem firmy obsługującej rejsy wycieczkowe była przekonująca - konsultant znał szczegóły dotyczące kosztów i innych danych potrzebnych do realizacji zlecenia, a nawet zaoferował zniżkę. Rivlin zapłacił 768 dolarów, po czym... zauważył kolejne, bardzo podejrzane transakcje na swojej karcie kredytowej.
Rzekomy przedstawiciel nie był bowiem wcale pracownikiem Royal Caribbean, a oszustem, którego numer zasugerować miało właśnie podsumowanie wygenerowane przez AI Overview Google'a, podaje Washington Post.
- Jestem dość zaawansowany technologicznie, a jednak dałem się nabrać - powiedział Rivlin cytowany przez Washington Post.
Firmy cały czas pracują nad ulepszaniem AI, ale trzeba się mieć na baczności
Jak to możliwe, że taka sytuacja miała miejsce? Specjaliści wyjaśniają, że fałszywe numery są masowo publikowane na forach, stronach z recenzjami i w innych witrynach. Algorytmy Google'a traktują te źródła jako wiarygodne, jeśli są często powtarzane, długo obecne w sieci i nie ma na ich temat zgłoszeń informujących o niebezpieczeństwie. AI Overviews czy ChatGPT i inne napędzane sztuczną inteligencją narzędzia tego typu mogą powielać te informacje, bazując na tych samych źródłach co wyszukiwarka. W dodatku eksperci ostrzegają, że oszuści wykorzystują stare techniki manipulacji, które teraz działają na nowe narzędzia AI. Według Washington Post Rivlin obwinia głównie oszustów i siebie za to, że dał się nabrać. Sprawa zakończyła się jednak dla niego pomyślnie, szybka interwencja w banku i zastrzeżenie karty pozwoliło odzyskać środki, a wakacje okazały się udane.
Washington Post podaje, że rzecznik Google przekazał w oświadczeniu, iż "funkcje AI Overviews i wyniki wyszukiwania w sieci skutecznie kierują ludzi do oficjalnych informacji o obsłudze klienta w przypadku typowych wyszukiwań". Rzecznik podał też, że firma podejmuje działania wobec fałszywych numerów i pracuje nad ulepszeniami AI. Warto jednak pamiętać, aby zawsze dodatkowo samodzielnie sprawdzać znajdowane w sieci numery telefonów i inne dane, a także zwracać uwagę na każde podejrzane działania podczas rozmowy z konsultantami przez telefon czy przez internet.
