Kształt źrenic zdradzi, czy mamy do czynienia z deepfake'iem
Naukowcy odkryli sposób, w jaki można zweryfikować, czy patrzymy na prawdziwą osobę, czy też wygenerowaną komputerowo. To może być użyteczny sposób na wykrywanie obrazów stworzonych techniką deepfake.
Naukowcy z Uniwersytetu Stanowego Nowego Jorku pod kierownictwem Huia Guo odkryli, że w kształcie źrenic jest zapisana prawda o tym, czy mamy do czynienia z prawdziwą osobą, czy obrazem wygenerowanym komputerowo. To może być nowy, użyteczny sposób wykrywania deepfake'ów.
Przybliżając oczy "fałszywych" twarzy stworzonych za pomocą uczenia maszynowego (generatywną sieć przeciwstawną, tzw. GAN), naukowcy zauważyli, że ich źrenice nie są tak naprawdę okrągłe. To bardzo dziwne, gdyż źrenice zdrowych osób mają niemal idealnie okrągły kształt. Widoczne artefakty w oczach twarzy wygenerowanych komputerowo mogą być tym, co pozwoli wykrywać obrazy typu deepfake.
Skoro sztuczna inteligencja potrafi tak dobrze odtworzyć kształt twarzy, dlaczego nie radzi sobie z anatomią ludzkich oczu? Aby zbadać, jak powszechne jest to zjawisko, naukowcy opracowali narzędzie do wykrywania konturów źrenic oczu na zdjęciach, a następnie sprawdzaniu, czy mają one eliptyczny kształt.
W eksperymencie przeprowadzonym na bazie danych 2000 obrazów (1000 prawdziwych twarzy i 1000 fałszywych), system niezawodnie rozróżnił obie grupy.
"Stwierdziliśmy, że w wysokiej jakości twarzach generowanych przez GAN powszechnie występują nieregularne kształty źrenic, które różnią się od prawdziwych ludzkich źrenic. Proponujemy nową metodę opartą na fizjologii, która może wykorzystać nieregularne kształty źrenic jako wskazówkę do wykrywania twarzy generowanych przez GAN, która jest prosta, a jednocześnie skuteczna" - czytamy w raporcie.
Według naukowców, technologia ta mogłaby pewnego dnia pomóc w przeciwdziałaniu wykorzystaniu realistycznie wyglądających fałszywek używanych do oszukiwania ludzi m.in. na platformach mediów społecznościowych.
