YouTube pokazuje dzieciom filmy o strzelaninach i broni. Winny algorytm
Naukowcy z Tech Transparency Project, czyli organizacji non-profit badającej media społecznościowe, postanowili przeprowadzić pewien eksperyment. Dotyczył on algorytmu rekomendacji na popularnej platformie z filmami w ramach kont małoletnich użytkowników. Mieli oni udawać młodych interesujących się grami wideo. Jakie rekomendowane treści wkrótce zobaczyli?
Aby przeprowadzić eksperyment, naukowcy stworzyli cztery fikcyjne konta — w domyśle miały one należeć do równie fikcyjnych dziewięcio- i czternastolatków. Następnie obejrzeli konkretną playlistę, zawierającą ponad 100 filmów, głównie o tematyce gier wideo. Wśród nich były treści o "Robloxie", "Lego Star Wars", Among Us", ale znalazły się tam też bardziej brutalnie nacechowane tytuły, takie jak "Grand Theft Auto V", "The Last of Us" czy "Red Dead Redeption 2".
W trakcie kolejnego miesiąca śledzili oni filmy polecane codziennie przez platformę na stronie głównej — przypomnijmy, że nadal chodzi o konta fikcyjnych dzieci. W ramach jednej pary kont zdecydowano się obejrzeć co najmniej 50 polecanych przez YouTube treści, a pozostałe nie wchodziły z nimi w interakcje.
YouTube poleca młodym filmy dotyczące broni, strzelanin czy... seryjnych morderców
Wyniki badania wskazały, że na kontach, na których obejrzano rekomendacje algorytmu, szybko zaczęły się wyświetlać filmy dotyczące modyfikowania broni, zarówno filmowe, jak i telewizyjne nagrania o strzelaninach w szkołach, jeden z filmów przedstawiał dziewczynkę w wieku szkolnym, która trzymała pistolet, na innym widać było strzelca, który używał broni do strzelania w głowę manekina, której wypełnienie realistycznie symbolizowało krew czy mózg.
W ramach takich kont wyświetlało się około 10 razy więcej podobnych filmów w kolejnych rekomendacjach. Fałszywi 9-latkowie otrzymali 382 różne wideo zawierające broń palną w ciągu miesiąca, czyli około 12 dziennie. Na kontach, na których nie klikano w rekomendacje, również pojawiały się takie treści, jednak znacznie mniej, bo w sumie 34 filmy. Na konta fikcyjnych 14-latków ukazało się 1325 filmów zawierających broń palną.
Wśród poleceń serwisu w stosunku do obu grup wiekowych pojawił się także film "My Friend Dahmer" z 2017 roku, dotyczący życia seryjnego mordercy — Jeffreya Dahmera.
Naukowcy stwierdzili, że wiele filmów polecanych dzieciom naruszało wytyczne YouTube’a dotyczące bezpieczeństwa. Niektóre z nich zostały usunięte z platformy. Co jednak nie zaskakuje — co najmniej jeden film, w tym wypadku o modyfikowaniu glocka, został ponownie opublikowany na platformie, jednak pod innym tytułem, pozostając tym samym dostępnym.
Katie Paul, dyrektorka Tech Transparency Projekt w wypowiedzi dla "The Associated Press" jasno wskazała, że problemem nie jest to, co wyszukują dzieci czy też gry wideo — chodzi o algorytmy.
Rzecznika platformy, Elena Hernandez stwierdziła, że z powyższego raportu trudno wyciągnąć daleko idące wnioski, podkreślając, że niejasne są niektóre aspekty metodologii badania. Należy też wspomnieć o tym, że platforma ofertuje rozwiązania dla dzieci, takie jak aplikacja YouTube Kids czy narzędzie Supervised Experience, które mają na celu zapewnić bezpieczny seans najmłodszym, którym rodzice pozwolili na przebywanie na platformie.
Pomimo tego trudno oprzeć się wrażeniu, że choć faktycznie istnieją rozwiązania mające na celu zwiększyć bezpieczeństwo najmłodszych oraz mimo zasad YouTube’a i moderowania treści, przed serwisem jest jeszcze bardzo długa droga, zanim będziemy mogli powiedzieć, że jest on prawdziwie bezpieczny dla nieletnich użytkowników.
Polecamy na Antyweb | Netflix z reklamami jednak się sprzedaje. Też jesteście zaskoczeni?
