W skrócie
- Instagram wprowadza obowiązkowy znacznik 'Profil wygenerowany przez AI' dla kont przedstawiających sztuczne postacie, aby ukrócić wprowadzanie użytkowników w błąd.
- Za brak odpowiedniego oznaczenia algorytmy drastycznie ograniczą zasięgi kont, wykluczając je z systemu rekomendacji serwisu. Twórcy mogą składać stosowne odwołania.
- Nowe przepisy nie dotyczą osób, które wykorzystują narzędzia sztucznej inteligencji jedynie jako wsparcie w codziennej pracy nad własnymi, autentycznymi treściami.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Instagram wymusi oznaczenie kont prowadzonych przez AI
Instagram podejmuje zdecydowany krok w stronę uregulowania obecności cyfrowych postaci na swojej platformie. Właściciele kont przedstawiających sztucznie wygenerowane awatary, które wyglądają i zachowują się jak prawdziwi ludzie, zostaną zmuszeni do wyraźnego zakomunikowania charakteru swojej działalności. Zmiana ta dotyczy przede wszystkim profili tworzonych przy użyciu zaawansowanych narzędzi generatywnej sztucznej inteligencji, które do tej pory mogły wprowadzać odbiorców w błąd.
Dotychczasowe oznaczenia opierały się na dobrowolności, co pozwalało wielu twórcom na ukrywanie faktu, że ich konta prowadzi algorytm. Teraz platforma będzie wyciągać konsekwencje wobec osób uchylających się od nowego obowiązku poprzez bezpośrednie sankcje w postaci ograniczenia widoczności. Treści z takich kont bez odpowiedniego oznaczenia przestaną trafiać do systemów rekomendacji i nowi odbiorcy nie będą mogli ich w ten sposób odkrywać.
Zmiany dotyczą również samej nazwy znacznika, który z dotychczasowego "AI Creator" ("Twórca AI") zmienia się w bardziej precyzyjny "AI-generated profile" ("Profil wygenerowany przez AI"). Ma to zapobiec myleniu autentycznych twórców zajmujących się tematyką sztucznej inteligencji z profilami, które w całości składają się z wygenerowanych postaci. Regulacje nie obejmują osób używających narzędzi AI jedynie jako wsparcia w codziennym procesie tworzenia własnych treści.
"Generatywna sztuczna inteligencja staje się coraz większą częścią tego, jak ludzie tworzą, a z sygnałów od użytkowników wynika, że nie lubią oni oglądać profili wyglądających jak ludzkie tylko po to, by później dowiedzieć się, że przedstawiana osoba została wygenerowana przez AI" - wyjaśnia Meta na blogu Instagrama.
Algorytm rozpozna sztucznie wygenerowane postacie
Dostosowanie się do nowych zasad wymaga aktywności ze strony osób zarządzających kontami. Użytkownicy, którzy wcześniej korzystali z poprzedniej wersji znacznika, otrzymają możliwość weryfikacji swojego statusu i dostosowania go do zaktualizowanych wytycznych. W przypadku braku reakcji platforma sama podejmie odpowiednie kroki w celu identyfikacji takich profili.
Sztucznie wygenerowane postacie, które nie przejdą weryfikacji i nie włączą odpowiedniej opcji w ustawieniach, zostaną natychmiast zauważone przez automatyczne systemy detekcji. Platforma wyśle wówczas powiadomienie informujące o nałożonych ograniczeniach w zakładce statusu konta. Dla podmiotów dotkniętych takimi restrykcjami przewidziano dwie drogi wyjścia z zaistniałej sytuacji.
Pierwszym sposobem na przywrócenie pełnej widoczności w serwisie jest ręczne włączenie etykiety "profilu wygenerowanego przez AI". Drugą ścieżkę stanowi złożenie odwołania od decyzji algorytmów. Mogą z tego skorzystać zwłaszcza osoby, których autentyczne konta zostały błędnie zaklasyfikowane przez system. Po pozytywnym rozpatrzeniu wniosku profil wraca do sekcji rekomendowanych.
Kim są wirtualni influencerzy?
Popularność wirtualnych postaci rośnie dynamicznie od momentu pojawienia się pionierskich projektów tego typu, takich jak wirtualna influencerka Lil Miquela, o której pisaliśmy w GeekWeeku. Wraz z rozwojem technologii generowania obrazu i wideo tworzenie realistycznych modeli stało się bardzo proste.
Na platformie pojawiła się ogromna liczba kont przedstawiających atrakcyjne kobiety, które imitują modelki i cyfrowe liderki opinii. Obecne jest też zjawisko deepfake, w którym wirtualne awatary podszywają się pod autentyczne postaci, np. celebrytów lub polityków.
Przedsięwzięcia tego typu stanowią niezwykle dochodowy biznes, pozwalający na czerpanie zysków z treści partnerskich czy sponsorowanych oraz promowania marek bez konieczności angażowania prawdziwych modeli. Odbiorcy często nie zdają sobie sprawy z fikcyjnego charakteru obserwowanych postaci. Prowadzi to do niezręcznych sytuacji w sekcjach komentarzy (np. niektórzy wyznają im miłość albo chcą zaprosić na randkę) i obniża ogólne zaufanie do treści publikowanych w sieci.
Użytkownicy mają dość fikcji w mediach społecznościowych
Nowe zasady na Instagramie to odpowiedź na rosnącą falę fikcyjnych treści niskiej jakości oraz próby wyłudzania uwagi użytkowników w mediach społecznościowych. Zwiększenie przejrzystości ma pomóc użytkownikom w odróżnianiu świata rzeczywistego od wytworów algorytmów. Jest to kolejny etap w procesie porządkowania przestrzeni cyfrowej, w której granica między prawdą a fałszem staje się coraz bardziej zatarta.
Na podobny krok zdecydowało się m.in. Spotify, które wymaga oznaczania utworów w znacznej mierze utworzonych z pomocą AI, co szerzej omawialiśmy w GeekWeeku. Serwis streamingowy także mierzy się z zalewem treści z generatorów.
"Ta zmiana jest częścią naszych ciągłych starań na rzecz poprawy przejrzystości i mamy nadzieję, że pomoże ludziom lepiej zrozumieć, kogo lub co widzą za zawartością na Instagramie" - podsumowuje zespół platformy.
