Sieci neuronowe w końcu nauczyły się identyfikować materiały DeepFake
Nie da się ukryć, że w ostatnich latach technologia ta narobiła dużego zamieszania, manipulując opinią publiczną za sprawą fałszywych nagrań lub zdjęć. Jednak w końcu udało się znaleźć skuteczne rozwiązanie do walki z nią.
Na to wygląda, bo właśnie udało się opracować eksperymentalną sieć neuronową, która jest w stanie sprawnie odróżniać oryginały od DeepFake’ów. Wszystko za sprawą naukowców z Uniwersytetu Kalifornijskiego, którzy rozpoczęli swoją pracę od ogromnego zbioru oryginalnych i zmanipulowanych zdjęć, stosownie oznaczonych, aby sztuczna inteligencja miała jakiś punkt zaczepienia. Na przerobionych zdjęciach wskazali piksele wokół granic obiektów dodanych cyfrowo, bo jak udało się wcześniej ustalić, te są nieco inne niż w przypadku elementów oryginalnie obecnych na ujęciach.
Oczywiście ludzkie oko nie jest w stanie wychwycić tej subtelnej zmiany, ale komputerowa analiza piksel po pikselu już tak. Tak opisane zdjęcia DeepFake zostały następnie udostępnione sieci neuronowej, korzystającej z algorytmów wzorowanych na pracy ludzkiego mózgu i zaprojektowanych do wychwytywania pewnych wzorów w analizowanej bazie danych. Na podstawie tych zdjęć sztuczna inteligencja nauczyła się identyfikować wymienione wcześniej granice, co udało się udowodnić poprzez pracę na zdjęciach, których wcześniej nie widziała.
Oczywiście jak na razie nie mówimy jeszcze o 100% skuteczności i jak twierdzą naukowcy, może ona w ogóle nie być możliwa, ale zapewniają, że ich rozwiązanie radzi sobie wyśmienicie w „większości przypadków”. Poza tym, skuteczność na obecnym poziomie jest wystarczająca, żeby wstępnie filtrować treści, które następnie są weryfikowane przez ludzi. Co więcej, obecnie sieć neuronowa pracuje jedynie na zdjęciach, ale naukowcy już planują podobne testy w przypadku nagrań wideo, gdzie będzie działać dokładnie tak samo, pracując na pojedynczych klatkach.
Jak twierdzą autorzy nowego rozwiązania: - Nie jest możliwe, żeby człowiek był w stanie przejrzeć wszystko, co jest obecnie w sieci, ale z drugiej strony niezawodnie nie zrobi tego również sama maszyna. To musi być połączenie obu tych czynników. Czy faktycznie nowe sieci neuronowe pomogą nam w walce z DeepFake’ami? Trudno przewidzieć, szczególnie że jak na razie nie ma jeszcze mowy o tym, by jakiś konkretny podmiot był zainteresowany ich szybkim wdrożeniem, ale nie da się ukryć, że DeepFake to duży problem współczesnej sieci i coś w końcu trzeba będzie z nim zrobić.
Źródło: GeekWeek.pl/ / Fot. news.ucr.edu
