Jako pierwsze na świecie zablokowały Groka. Chodzi o zdjęcia
Indonezja i Malezja jako pierwsze kraje na świecie zablokowały dostęp do Groka - narzędzia sztucznej inteligencji zintegrowanego z platformą X (dawniej Twitter). Powodem są tysiące zmanipulowanych zdjęć kobiet i nieletnich, które system generował w ramach tzw. digital undressing, czyli mówiąc dosłownie cyfrowego rozbierania.
Zjawisko "cyfrowego rozbierania" stało się globalnym problemem pod koniec 2025 roku, gdy użytkownicy zaczęli wykorzystywać Groka do tworzenia deepfaków o charakterze erotycznym. W sieci pojawiły się tysiące zmanipulowanych obrazów, przedstawiających kobiety w bieliźnie lub nago, często bez ich wiedzy czy zgody.
Według raportu organizacji AI Forensics, która przeanalizowała ponad 20 tys. obrazów i 50 tys. zapytań użytkowników, ponad połowa wygenerowanych zdjęć przedstawiała osoby w "minimalnym ubraniu, jak bielizna lub bikini". Najczęściej występujące frazy w zapytaniach to "her", "remove", "bikini" i "clothing".
Reakcja Azji Południowo-Wschodniej
I chociaż xAI ograniczyło w ubiegłym tygodniu niektóre funkcje generowania obrazów Groka do płatnych subskrybentów platformy X, darmowe wersje nadal pozwalają na edycję zdjęć i tworzenie kontrowersyjnych wizualizacji. W związku z tym minister cyfryzacji Indonezji Meutya Hafid ogłosiła blokadę usługi, uzasadniając decyzję ochroną kobiet, dzieci i społeczeństwa przed "fałszywymi treściami pornograficznymi generowanymi przez AI".
Dzień później Malezja wprowadziła tymczasowy zakaz działania Groka, wskazując na "powtarzające się nadużycia" i brak skutecznych zabezpieczeń. Oba kraje posiadają jedne z najbardziej restrykcyjnych przepisów antypornograficznych, a przypadek Groka uznano za naruszenie granic etycznych technologii.
Na horyzoncie ogromne kary
A co na to "oskarżony"? Na pytania CNN o blokadę Groka, firma xAI odpowiedziała dokładnie tak samo jak w każdej tego rodzaju sytuacji, a mianowicie hasłem "Legacy Media Lies", czyli "Tradycyjne Media Kłamią". Warto jednak odnotować, że san Elon Musk uważa aferę za sztucznie rozdmuchaną w celu ograniczenia wolności słowa, więc takie stanowisko jego firmy nie jest żadnym zaskoczeniem.
Ale być może wizja wysokiej kary zmieni jego podejście, bo przy okazji dowiadujemy się, że formalne śledztwo w sprawie platformy wszczął również brytyjski regulator Ofcom, wskazując w oficjalnym oświadczeniu, że wizerunki ludzi nago mogą być równoznaczne z wykorzystywaniem wizerunku intymnego lub pornografią, natomiast wizerunki dzieci mogą zostać uznane za materiały przedstawiające wykorzystywanie seksualne dzieci.
I jeśli organ regulacyjny uzna, że X złamał prawo, może nałożyć karę w wysokości do 18 milionów funtów lub 10 proc. kwalifikujących się światowych przychodów firmy, w zależności od tego, która kwota jest wyższa.
