Badacze postanowili sprawdzić, jak działa system rekomendacji YouTube po wejściu w życie brytyjskiej ustawy Online Safety Act, która od lipca 2025 roku zobowiązuje platformy internetowe do skuteczniejszej ochrony osób poniżej 18. roku życia przed treściami zachęcającymi m.in. do samookaleczeń, samobójstw czy zaburzeń odżywiania.
Naukowcy udawali 13-latkę
Aby odtworzyć sposób korzystania z serwisu przez nastolatków, naukowcy stworzyli profil fikcyjnej 13-letniej użytkowniczki z Wielkiej Brytanii. Konto obejrzało kilka materiałów dotyczących diet i wyglądu ciała, a następnie przeanalizowano sto kolejnych filmów zaproponowanych przez algorytm "Up Next".
Wyniki pokazały, że "co dziesiąty rekomendowany materiał zawierał treści promujące niebezpieczne zachowania związane z odżywianiem". Wśród nich znalazły się filmy idealizujące skrajnie szczupłą sylwetkę, materiały zachęcające do drastycznego ograniczania kalorii oraz nagrania obiecujące utratę masy ciała za pomocą pseudonaukowych metod.
Jest lepiej, ale to za mało
Autorzy raportu podkreślają jednak, że sytuacja uległa poprawie. W analogicznym badaniu przeprowadzonym dwa lata wcześniej aż jedna czwarta rekomendowanych filmów zawierała podobne treści. Oznacza to, że nowe regulacje i działania platform przyniosły pewien efekt, choć nie wyeliminowały problemu. Podobne wyniki uzyskano również podczas testów przeprowadzonych na kontach nastolatków w Stanach Zjednoczonych i krajach Unii Europejskiej.
Eksperci zwracają uwagę, że nawet pojedyncza rekomendacja może mieć poważne konsekwencje dla młodych osób zmagających się z problemami psychicznymi lub zaburzeniami odżywiania. Ich zdaniem algorytm, który stopniowo podsuwa coraz bardziej ekstremalne materiały, może wzmacniać szkodliwe przekonania i utrudniać powrót do zdrowia.
Brakuje stosownych ostrzeżeń
Raport zwraca uwagę również na inny problem. YouTube wyświetla pod częścią filmów dotyczących zdrowia psychicznego specjalne panele kierujące użytkowników do profesjonalnej pomocy. W przypadku materiałów promujących zaburzenia odżywiania rekomendowanych przez algorytm takie ostrzeżenia jednak się nie pojawiały, mimo że były widoczne pod innymi filmami dotyczącymi diet czy wyglądu.
Google zapewnia, że usługa YouTube zakazuje publikowania materiałów zachęcających do zaburzeń odżywiania lub instruujących, jak je rozwijać, jednocześnie dopuszczając treści dotyczące procesu zdrowienia. Firma poinformowała, że wszystkie filmy wskazane w raporcie zostały usunięte za naruszenie zasad społeczności. Platforma podkreśla również, że współpracuje z ekspertami zajmującymi się zdrowiem psychicznym oraz rozwija narzędzia mające chronić nastoletnich użytkowników.
Zdaniem organizacji CCDH raport pokazuje, że przepisy dotyczące bezpieczeństwa w internecie przynoszą pierwsze efekty, jednak nie rozwiązują problemu całkowicie. Autorzy podkreślają, że w przypadku szczególnie wrażliwych użytkowników nawet jedna szkodliwa rekomendacja może wystarczyć, by uruchomić niebezpieczny mechanizm prowadzący do pogorszenia stanu zdrowia.
