AI z Polski będzie walczyć z wykorzystywaniem seksualnym dzieci w internecie
Przygotowane przez polskich ekspertów oprogramowanie wykorzystujące sztuczną inteligencję będzie pomagać w szybszym i dokładniejszym analizowaniu treści internetowych, w tym materiałów przedstawiających seksualne wykorzystanie dzieci.
Internet to niebezpieczne miejsce
Chętnie korzystamy z niego, aby poszerzać swoją wiedzę, pozostawać w kontakcie z rodziną czy przyjaciółmi, zrobić zakupy, skorzystać z bankowości internetowej czy załatwić sprawy urzędowe - internet to nieodłączny element współczesnego życia, ale jednocześnie miejsce pełne zagrożeń i nielegalnych treści.
W tym niebezpieczeństw i materiałów o charakterze pedofilskim, które nie powinny się tam znaleźć, ale pomimo wysiłków licznych ochotników i organizacji, zapanowanie nad podobnymi zjawiskami jest ekstremalnie trudne. Jedną z nich jest Dyżurnet.pl, które od 15 lat zajmuje się reagowaniem na nielegalne i szkodliwe treści w internecie, w tym materiały przedstawiające seksualne wykorzystanie dzieci.
Jak wyjaśnia Martyna Różycka, kierownik zespołu, do którego trafiają zgłoszenia od użytkowników, instytucji czy innych zespołów reagowania, wszystkie potencjalnie szkodliwe treści są poddawane analizie. Sprawdza je pod kątem technicznym, np. gdzie znajduje się dana treść i klasyfikuje je pod względem legalności, tj. w jakim wieku jest ofiara i jaki jest stopień wykorzystania seksualnego.
To jest bardzo trudna praca, wyczerpująca, bo oglądanie wciąż materiałów przemocowych, może wpływać na psychikę, obniżenie samopoczucia
System APAKT będzie chronił użytkowników i moderatorów
To właśnie dlatego pojawił się pomysł opracowania systemu wykorzystującego AI, który odciąży analityków na co dzień stykających się z tymi trudnymi treściami, a do tego będzie działał szybko i niezawodnie, błyskawicznie reagując na wszystkie zgłoszenia.
W efekcie narodził się projekt badawczy APAKT, którego liderem jest Państwowy Instytut Badawczy NASK - o czym konkretnie tu mówimy? O algorytmie pozwalającym zdjąć część powtarzalnej pracy z ludzkiego eksperta, szczególnie tej najtrudniejszej dotyczącej szczegółowej analizy przypadków wykorzystywania seksualnego.
Jak wyjaśniają osoby zaangażowane w projekt, Dyżurnet.pl działał dotąd bez gromadzenia materiałów, dlatego pierwszym etapem programu będzie stworzenie bazy danych zdjęć czy nagrań (w założeniach projektu jest również analiza danych tekstowych), na podstawie której algorytm będzie trenowany, np. w zakresie wykrywania ludzkiej sylwetki czy trafnej oceny wieku, aby nauczył się rozpoznawać pewne cechy charakterystyczne.
Jest to oczywiście wyzwanie projektowe - jak przetłumaczyć na język algorytmów pewne reguły oceny zdjęć, które czasem bywają bardzo płynne. Jaki poziom seksualnego zachowania jest dopuszczalny, od którego momentu powinien zostać zaklasyfikowany jako treść nielegalna? Nie wszystko jest łatwe do zdefiniowania
Naukowcy robią jednak wszystko, żeby się udało, bo jak podkreślają "najważniejsza jest krzywda realnego dziecka, bo to, co analizują specjaliści, jest zapisem przestępstwa i tak powinno być traktowane". Przy okazji przypominają, że w polskim prawie zabronione jest posiadanie oraz dostęp do CSAM (treści przedstawiające seksualne wykorzystanie dzieci), nawet jeśli są to animacje, fotomontaże i sztucznie wytworzone materiały.
Polecamy na Antyweb | Tak Japonia chce pozyskiwać energię już w 2025 roku. Pomysł jak z filmu sci-fi!
