Deepfakes i FakeApp - niebawem twarz każdego może trafić do filmu dla dorosłych
W sieci pojawia się coraz więcej filmików, w których twarz znanego aktora lub aktorki zastała nałożona na innego odtwórcę lub odtwórczynię. Niestety, ten trend bardzo szybko wydostał się spod kontroli i za kilka miesięcy może stać się groźnym narzędziem w rękach internetowych dręczycieli.
Jak działa opisywana technologia? Jej autorem jest użytkownik serwisu Reddit o pseudonimie "Deepfakes". Internauta wykorzystał darmowy programu TensorFlow, udostępniany przez Google deweloperom i osobom związanym z rozwojem sztucznej inteligencji. Za pomocą specjalnych algorytmów program analizuje strukturę twarzy i tworzy realistyczny model, który jest następnie łączony z korpusem postaci występującej w dowolnym materiale wideo. Jak to w sieci często bywa - FakeApp najpierw został "przetestowany" na filmach dla dorosłych.
Taylor Swift, Gal Gadot, Scarlett Johansson, czy Aubrey Plaza - to tylko niektóre ze znanych aktorek, które padły ofiarą nowego trendu. Ale z każdym tygodniem korzystanie z FakeApp staje się coraz prostsze, a to oznacza, że za kilka miesięcy bez problemu będzie można umieścić zdjęcie osoby prywatnej w filmie dla dorosłych, a potem rozesłać materiał wideo do jego znajomych.
Kolejną "zabawą" osób korzystających z FakeApp jest umieszczanie twarzy aktora Nicolasa Cage’a w filmach, w których nie grał. Warto w tym miejscu wytłumaczyć, że Cage jest popularnym elementem internetowych memów, zatem nic dziwnego, że społeczność internautów wybrała właśnie jego na kolejną "ofiarę".
Filmy z Cagem są jednak niegroźne, w przeciwieństwie do wspomnianego wykorzystania FakeApp i jemu podobnych przez osoby, które chcą zniszczyć życie kogoś nie będącego celebrytą. Trudno przewidzieć, w jaki sposób można zatrzymać cały trend, który zapoczątkował użytkownik Deepfake.
Oszustwo maszynowego uczenia
Podobne narzędzie, korzystające z sieci neuronowych i uczenia maszynowego, stworzyło również wizualizacje przemówień znanych polityków, w tym Baracka Obamy. Wystarczyła do tego analiza ponad 14 godzin przemówień i wywiadów byłego prezydenta USA. Potem, za sprawą specjalnej technologii wideo, połączyła wypowiedzi (audio) Obamy z jednym, konkretnym przemówieniem poprzedniego. Aby odpowiednio dopasować ścieżkę audio do ruchu ust, na dolną część twarzy naniesiono wcześniej zebrane fragmenty wypowiedzi prezydenta. Po procesie obróbki udało się - z drobnymi niedociągnięciami - zsynchronizować ścieżkę audio z ruchem ust.
Co z tego wynika? Zrealizowanie materiału wideo, który modyfikuje wypowiedzi polityków czy gwiazd już teraz praktycznie nie stanowi problemu. "Sfałszowane" wideo z Obamą prezentujemy poniżej:
Uczenie maszynowe (machine learning) to metoda samouczenia się maszyn w oparciu o analizę danych i odnajdywanie zawartych w nich wzorców. Dzięki algorytmom machine learning komputery mogą samodzielnie analizować dane oraz automatycznie tworzyć i dostosowywać modele w celu samodoskonalenia i nabywania nowej wiedzy, potrzebnej do rozwiązania zadanego problemu. Wszystko odbywa się w sposób zautomatyzowany, bez potrzeby wcześniejszego zaprogramowania przez człowieka.
