Chińskie AI na cenzurowanym. Nie wygeneruje obrazów sprzecznych z polityką rządu
Chiny znowu pokazują, że są mistrzami w cenzurowaniu swoich wynalazków. Nowe chińskie AI do generowania obrazów nie wyświetli wyników na podstawie fraz sprzecznych z chińską polityką i historią.
Programy AI generujące obrazy na podstawie dowolnie wpisanego hasła stały się w ostatnim czasie wielkim hitem. Fascynują nas tym, że to, co ludzie potrafią doskonalić przez lata, ich algorytmy osiągają w chwilę. Jednak ostatnie wypadki pokazują, że programy AI nie wygenerują każdego obrazu. Wszystko zależy bowiem od upodobań twórcy algorytmu, o czym przekonali się użytkownicy programu ERNIE-ViLG.
Jest to model AI stworzony przez najpopularniejszą wyszukiwarkę internetową w Chinach - Baidu. ERNIE jest częścią znacznie szerszego projektu o nazwie Wenxin, który zajmuje się przetwarzanie danych w języku naturalnym. AI Swoje początki miało jeszcze w 2021 roku, kiedy rozpoczęło swoje testy.
ERNIE powstał jako platforma testowa dla technologii. Jak podaje MIT Technology Review jej zadaniem ma być głównie tworzenie obrazów, przedstawiających chińską kulturę. Sam Baidu twierdzi, że jej program może tworzyć lepsze i dokładniejsze obrazy niż inne AI.
Przekonać się mieli o tym użytkownicy, którzy skorzystali z ERNIE podczas niedawno rozpoczętych publicznych testów. Zamiast jednak jakości obrazów, uwagę przykuła duża wybredność w tematach, z których AI tworzy obrazy.
Jak się okazuje, ERNIE nie stworzy obrazów na podstawie odpowiednich wyrazów bądź ich kombinacji. I tak AI nie da nam żadnych wyników do słów już tak znanych z chińską cenzurą, jak Tiananmen Square, nazwisk czołowych chińskich polityków jak przywódca XI Jiping, czy koncepcji "demokracji w Chinach".
Wszelkie wyniki, które mogłyby być nie do końca zgodne z chińską polityką, oznaczane są jako "wrażliwe" i "niespełniające odpowiednich zasad".
Co ciekawe cenzura zdaje się wykraczać poza konkretne słowa. Te dotyczą tylko konkretnie historii i kultury Chin (np. "Tiananmen Square" nigdy nie da obrazu, nawet bez dopisku "massacre"). W skali całej bazy wyrazów AI skupia się bardziej na eliminowaniu ich możliwych połączeń. Np. samo słowo "demokracja" jest dozwolone, ale już "demokracja na Bliskim Wschodzie" nie.
Przez tak szeroki zasób "słów zakazanych" ERNIE ma problemy z wyświetleniem znacznej liczby obrazów.
Cenzura ERNIE-ViLG jest o tyle ciekawa właśnie przez swoją skalę. Nie jest to tylko zablokowanie haseł, znanych z innych chińskich urządzeń, a już próba przewidzenia tego, co chcieliby wpisać użytkownicy i zapobieganie temu.
Trudno na razie określić, czy Baidu dokonało tak złożonej cenzury z własnej woli, czy otrzymało polecenia prosto od chińskiego rządu. Według strony Ars Technica możliwym jest także, że działanie AI stanowi nadużycie rządowych ustaleń nt. funkcjonowania technologii deepfake.
Nieważne jednak czy takie działanie wynikło z poleceń "z góry" czy z własnej inicjatywy, Chińczycy znów dowiedli, że są specami od cenzury nowej technologii, w myśl frazy "Nothing happened in Tiananmen Square".
