Meta idzie na wojnę z aplikacjami do generowania fałszywych zdjęć
Właściciel Facebooka i Instagrama rozpoczął ofensywę prawną przeciwko firmom, które reklamują w jego serwisach tzw. aplikacje nudify. To programy, wykorzystujące sztuczną inteligencję (AI), służące do generowania fałszywych zdjęć ludzi, oczywiście bez ich zgody. Meta pozwała firmę stojącą za aplikacjami CrushAI, domagając się całkowitego zakazu publikowania reklam tego typu na jej platformach.
Wraz z rozwojem generatywnej AI, zjawisko "nudify" narasta w niepokojącym tempie. Powstały tysiące aplikacji, które przy pomocy jednego kliknięcia, potrafią "rozebrać" sfotografowaną osobę. W wielu przypadkach ofiary dowiadują się o tym dopiero wtedy, gdy zmanipulowany obraz zaczyna krążyć w sieci. Według Alexa Mantzarlisa, autora bloga Faked Up, na Facebooku i Instagramie opublikowano już co najmniej 10 tysięcy reklam promujących tego typu aplikacje.
Fałszywa nagość w realnym świecie
Mimo działań Meta, CrushAI i podobne firmy wciąż znajdują sposoby, by omijać regulaminy, m.in. przez tworzenie nowych domen i zmienne reklamy, które ukrywają swoje prawdziwe przeznaczenie. W związku z tym firma Marka Zuckerberga postanowiła wytoczyć poważne prawne działa, bo jak przekonuje w swoim oświadczeniu, ochrona społeczności to podstawa.
To działanie prawne pokazuje, jak poważnie traktujemy tego rodzaju nadużycia i jak bardzo zależy nam na ochronie naszej społeczności
Dzieci w szczególnym niebezpieczeństwie
Zagrożenie dotyczy szczególnie najmłodszych użytkowników internetu. Organizacja charytatywna NSPCC (National Society for the Prevention of Cruelty to Children) ostrzega, że przestępcy zaczęli wykorzystywać aplikacje do tworzenia nielegalnych obrazów dzieci.
To narzędzia, które stają się bronią w rękach drapieżców. Skutki emocjonalne dla ofiar są ogromne. Dzieci czują się bezsilne, wykorzystane, jakby ktoś odebrał im kontrolę nad własnym wizerunkiem
Z tego powodu Rzecznik Praw Dziecka w Anglii zaapelował o całkowity zakaz tego typu aplikacji. Organizacje społeczne żądają od rządu pilnej legislacji i blokady zarówno tworzenia, jak i reklamowania takich narzędzi na terenie Wielkiej Brytanii, a docelowo całej Unii Europejskiej.
Meta zapewnia, że walka trwa na wielu frontach. Oprócz pozwu firma rozpoczęła współpracę z innymi firmami technologicznymi, dzieląc się listami podejrzanych adresów URL. Tylko od marca przekazano już ponad 3800 unikalnych linków do serwisów oferujących lub promujących aplikacji "do rozbierania".
Gigant opracował również nową technologię detekcji reklam, które choć nie zawierają jawnej nagości, służą promocji nielegalnych lub niemoralnych praktyk. To ważne, bo wielu twórców aplikacji coraz lepiej maskuje swoje treści, licząc na to, że zautomatyzowane systemy moderacji nie wykryją naruszeń.
***
Bądź na bieżąco i zostań jednym z 87 tys. obserwujących nasz fanpage - polub GeekWeek na Facebooku i komentuj tam nasze artykuły!
