Google może nam zablokować konta, jeśli znajdzie niepokojące zdjęcia dzieci
Sztuczna inteligencja Google’a oznaczyła, a następnie zablokowała konta rodzica jako potencjalnie nadużywające regulamin z powodu zdjęć chorych dzieci.
Zaniepokojony stanem zdrowia swojego dziecka ojciec użył smartfona z systemem Android do sfotografowania zmian w pachwinie. Jak czytamy w "The New York Times", mężczyzna zauważył obrzęk w okolicy genitaliów małoletniego i na prośbę pielęgniarki wysłał zdjęcia problemu przez konsultację wideo. Na ich podstawie lekarka przepisała antybiotyki, które wyleczyły infekcję.
Tego typu aktywność wzbudziła podejrzenia sztucznej inteligencji firmy. Dwa dni po wykonaniu zdjęć, mężczyzna otrzymał informację, że jego konta zostały zablokowane z powodu "szkodliwych treści", które były poważnym naruszeniem polityki Google i mogą być nielegalne. Firma oflagowała zdjęcia jako materiały związane z wykorzystywaniem seksualnym dzieci (CSAM). Poza zablokowaniem kont złożono też raport do National Center for Missing and Exploited Children i rozpoczęto policyjne śledztwo, podkreślając jednocześnie, jak kłopotliwe jest odróżnienie potencjalnego nadużycia od niewinnego zdjęcia, kiedy dołącza ono do biblioteki cyfrowej użytkownika, niezależnie od tego, czy to na urządzeniu osobistym, czy w chmurze.
Google walczy z potencjalnymi nadużyciami
Google przekazało Timesowi, że skanuje osobiste zdjęcia użytkowników jedynie wtedy, kiedy ci podejmą działania "potwierdzające", które mogą obejmować tworzenie kopii zapasowej fotografii w Zdjęciach Google. W samym 2021 roku firma zgłosiła aż 621583 przypadków do NCMEC, a ci natomiast przekazali informacje o potencjalnych 4260 ofiarach organom ścigania. Na liście znajduje się syn mężczyzny.
Mark, bo tak miał na imię, stracił dostęp do swoich maili, kontaktów, zdjęć, a nawet numeru telefonu, ponieważ korzystał z usługi mobilnej Google Fi. Próbował odwołać się od decyzji technologicznego giganta, jednak ten odrzucił jego prośbę. Sprawę rozwiązał dopiero prowadzący sprawę śledczy z Departamentu Policji w San Francisco, uznając, że nie doszło do popełnienia przestępstwa.
Rzeczniczka Google’a, Christa Muldoon, tłumaczy, że firma używa kombinacji technologii dopasowywania hashtagów oraz sztucznej inteligencji, by zidentyfikować i usunąć z platform treści wpisujące się w CSAM. Przegląda je także zespół ekspertów ds. bezpieczeństwa dzieci, konsultując się z pediatrami, by rozpoznać przypadki, w których użytkownicy mogli szukać porad medycznych.
Niezaprzeczalnie trzymanie pieczy nad bezpieczeństwem dzieci jest bardzo istotne. Jak jednak można zauważyć, praktyka skanowania zdjęć użytkowników dość mocno narusza ich prywatność. Nie był to pierwszy tego typu przypadek, a Google nie jest również jedyną firmą, która prowadzi taką działalność. Jak się też okazuje, nie zawsze poczynione kroki są nad wyraz - już w 2012 roku np. doprowadziło to do aresztowania mężczyzny, który był przestępcą seksualnym, używającym Gmaila do przesyłania zdjęć młodej dziewczyny.
