Deepfake z prezydentem Nawrockim hula na YouTube. Poważny problem

Sztuczna inteligencja niesie ze sobą różne korzyści, ale wytwarza także nowe zagrożenia. Dostęp do wyspecjalizowanych narzędzi AI jest coraz powszechniejszy i sięgają po nie także oszuści. Narastającym zjawiskiem jest deepfake. Takich treści jest coraz więcej i krętacze wykorzystują wizerunki znanych osób, co ma pozwolić im osiągnąć założone cele.

Treści sponsorowane, które pojawiają się w serwisie YouTube, są rzekomo sprawdzane. Ma to pozwolić na weryfikację udostępnianych reklam, gdyż platforma nierzadko była wykorzystywana przez oszustów. W zasadzie do niedawna byłem pewny, że problem jest już dosyć marginalny. Zdanie na ten temat zmieniłem w momencie, gdy Google w przerwie jednego z oglądanych filmów wyświetliło mi deepfake z prezydentem Karolem Nawrockim.

Wspomniany film nie jest krótki, bo trwa kilka minut. Oszuści wykorzystali w nim wizerunek prezydenta Karola Nawrockiego, a dokładniej jego nagranie z przemówienia wygłoszonego w Sejmie Rzeczypospolitej Polskiej w sierpniu po jego zaprzysiężeniu.

Oszuści oczywiście zmanipulowali nagranie. Sięgnęli po narzędzia oparte na sztucznej inteligencji, gdzie podmieniono dźwięk (do złudzenia przypominający głos prezydenta Karola Nawrockiego). We wspomnianym filmie wizerunek głowy państwa został wykorzystany w oszustwie, którego celem jest kradzież pieniędzy ofiar poprzez dezinformację i manipulację. Jak to działa?

W nagraniu "prezydent Karol Nawrocki" mówi o nowej "platformie inwestycyjnej do generowania dochodu". Padają tam treści namawiającej ofiary do zainwestowania własnych oszczędności w "rządowy program". Oszuści obiecują oczywiście szybki zysk. Inwestycja 1050 złotych po tygodniu ma przynieść aż 30 tys. złotych. Oczywiście jest to oszustwo, ale krętacze "mówią" głosem prezydenta, że to bardzo opłacalne i nie ma czego się obawiać, a akcja wspierana jest przez rząd.

Trzeba przyznać, że całość brzmi dosyć przekonująco i oszuści przyłożyli się do wspomnianego deepfake'a. Wypowiadane przez prezydenta Nawrockiego słowa zazwyczaj zgrywają się z obrazem z filmu i tylko czasem można dostrzec, że coś tu jest nie tak. W momencie, gdy audio nie pokrywa się z ruchem ust. Trzeba to jednak dostrzec.

Z pewnością są osoby, które mogą się na to nabrać, a samo nagranie to dopiero początek pułapki zastawionej przez oszustów.

Pod wspomnianą reklamą umieszczono oczywiście odnośnik, który przekierowuje ofiary na stronę "programu inwestycyjnego". Jest to oczywiście bardzo groźna pułapka. W tym miejscu hakerzy chcą pozyskać dane ofiar oraz spróbują okraść je z pieniędzy. Zachęcają do przelania środków i obiecują szybki zwrot z dużą nawiązką.

Cóż… w rzeczywistości osoby, które dokonają wspomnianej "inwestycji", nigdy nie zobaczą nie tylko pomnożonych pieniędzy, ale także tych przelanych na konto oszustów. Oszczędności wyparują i nie będzie można ich odzyskać.

W tym miejscu należy pamiętać, aby wystrzegać się tego typu akcji oszustów. Wzbudzanie zaufania poprzez wykorzystanie wizerunku znanych osób i obietnica szybkiego zysku to dwa sposoby, których celem jest skuteczna kradzież pieniędzy należących do ofiar.

Tym razem oszuści wykorzystali wizerunek obecnego prezydenta Polski, ale sam schemat nie jest nowy. Na początku stycznia 2024 r. wspominałem wam o innej "reklamie" z rodzimej wersji YouTube'a, która nie była niczym innym, jak deepfake z ówczesną głową państwa Andrzejem Dudą.

Wtedy również mieliśmy do czynienia z oszustwem, gdzie krętacze zachęcali do inwestycji, obiecując zyski nawet na poziomie 4 tys. złotych dziennie. Brzmiało kusząco, ale w tym przypadku zainwestowane środki również były nie do odzyskania.

W przeszłości takich nagrań, które oszuści wykupywali w bloku reklamowym YouTube'a, było więcej. Pamiętam, gdy były to filmy deepfake z ówczesnym premierem rządu Mateuszem Morawieckim czy innymi osobami publicznymi. Problem nie jest nowy i istnieje od co najmniej kilku lat. Rodzi się jednak pytanie, jak to w ogóle możliwe, aby tego typu "reklamy" pojawiały się w serwisie, z którego filmy oglądają niemal wszyscy? Poniżej odpowiedź, którą dostałem z Biura Prasowego Google.

Nie zezwalamy na reklamy, które zawierają wprowadzające w błąd informacje o produkcie lub usłudze. Po przeanalizowaniu tej reklamy, zawiesiliśmy powiązane z nią konta reklamodawców za naruszenie naszych zasad reklamowych.

---

Tym razem się udało i po interwencji reklamę wycofano. Szkoda tylko, że nikt tego nie dostrzegł tam wcześniej.

Właściciele YouTube'a oczywiście zdają sobie sprawę z problemu i obiecują temu zaradzić. Kilka dni temu ogłoszono wdrożenie nowego narzędzia wykrywania deepfake'ów opartego na sztucznej inteligencji, co ma ukrócić oszustwa i sianie dezinformacji.

Nowe narzędzie ma uskutecznić walkę ze zjawiskiem deepfake poprzez skanowanie filmów i porównywanie wizerunków pojawiających się na nich osób. Funkcja dostępna jest w YouTube Studio i może być używana przez twórców. To jednak nie rozwiąże głównego problemu, którym są wspomniane fałszywe reklamy.

W rzeczywistości YouTube powinien dokładniej weryfikować filmy, które zgłaszane są w ramach platformy reklamowej. Jestem pewny, że gdyby nagranie z prezydentem Karolem Nawrockim obejrzał choć jeden prawdziwy człowiek, to taki film nie miałby szans na publikację, a tak "latał" po serwisie i nie wiadomo, czy oszuści już nie dopięli swego i być może udało im się okraść jakieś ofiary z pieniędzy do czasu, aż podjęto działania.

Mimo to firma podejmuje różne działania w walce z deepfake i innymi niepożądanymi zjawiskami, które tylko w 2024 r. skutkowały zawieszeniem kont ponad 700 tys. reklamodawców, którzy naruszyli zasady. Ponadto w br. doprowadziło to do spadku aż o 90 proc. zgłoszeń tego typu reklam.