Uczniowie tworzą z pomocą AI nagie obrazy swoich kolegów

Jak informuje The Independent, powołując się na informacje Brytyjskiego Centrum Bezpiecznego Internetu (UKSIC), czyli organizacji zajmującej się walką o bezpieczne korzystanie z sieci i zapewniającej wsparcie osobom doświadczającym zagrożeń internetowych oraz specjalistom pracującym z dziećmi, uczniowie wykorzystują systemy sztucznej inteligencji do generowania nieprzyzwoitych zdjęć innych dzieci.

UKSIC podało, że kolejne szkoły zgłaszają, że dzieci próbowały tworzyć nieprzyzwoite zdjęcia swoich kolegów za pomocą internetowych generatorów obrazów AI. Przy okazji wyjaśnia, że tworzenie i udostępnianie takich obrazów, klasyfikowanych jako wykorzystywanie seksualne dzieci, może zostać uznane za przestępstwo.

Co więcej, zdaniem ekspertów nie można wykluczyć również, że takie wygenerowane przez sztuczną inteligencję obrazy zostaną wykorzystane do szantażowania dzieci, nie tylko przez rówieśników, co może mieć na nie drastycznie szkodliwy wpływ.

Zwłaszcza że, jak donosiło w październiku Internet Watch Foundation (IWF), generowane przez sztuczną inteligencję obrazy przedstawiające wykorzystywanie seksualne dzieci są obecnie tak realistyczne, że wiele z nich jest w stanie oszukać nawet przeszkolonych analityków.

Warto tu wyjaśnić, że niektóre systemy sztucznej inteligencji mają zabezpieczenia mające uniemożliwiać ich wykorzystywanie do generowania "obrazów dla dorosłych", ale czasem relatywnie łatwo można je ominąć, a inne nie mają ich w ogóle.

Tym samym UKSIC nalega, aby szkoły zadbały o to, by ich systemy filtrowania i monitorowania były w stanie skutecznie blokować nielegalne materiały na urządzeniach szkolnych, aby przeciwdziałać wzrostowi takiej aktywności. Nie da się jednak ukryć, że nie rozwiązuje to problemu, bo dzieci często mają do dyspozycji prywatne urządzenia.

Jak wyjaśnia cytowany wyżej dyrektor UKSIC, technologia generatywna ma ogromny potencjał, ale nie zawsze jest wykorzystywana zgodnie z przeznaczeniem i nie powinno być to większym zaskoczeniem. Szczególnie że młodzi ludzie nie zawsze są świadomi powagi tego, co robią, więc należy jak najszybciej rozpocząć proces wyjaśniania i edukacji.

Dodaje również, że chociaż liczba przypadków jest obecnie niewielka, to dopiero początek trendu i już widać tendencje zwyżkowe w zakresie zachowań noszących znamiona molestowania seksualnego i wykorzystywania seksualnego w Internecie w stosunku do lat sprzed generatywnego AI.