Wpadka algorytmu Facebooka - pomylił czarnoskórych z naczelnymi
Facebook wprowadził nowy algorytm, który miał polecać następne nagrania po obejrzeniu wideo na platformie społecznościowej. SI źle oznaczyło jeden z filmów, czym mogło obrazić wielu użytkowników serwisu. Sztuczna inteligencja pomyliła czarnoskórych mężczyzn z naczelnymi. Facebook chwilowo wycofał algorytm i przeprasza za wpadkę.
Facebook jest platformą, na której nic nie wyświetla się przypadkowo. Posty, reklamy, propozycje polubień i znajomych- za to wszystko odpowiadają odpowiednie algorytmy, które mają zapewnić użytkownikowi jak najlepsze doznania związane z platformą.
Niedawno Facebook wprowadził nowe SI, które po każdym obejrzanym nagraniu miało proponować kolejne wideo. Kłopoty pojawiły się, gdy algorytm źle ocenił zawartość filmiku. Użytkownicy po obejrzeniu wideo z czarnoskórymi mężczyznami mogli zobaczyć komunikat, czy chcieliby w przyszłości widzieć więcej filmów o naczelnych. Człowiek niewątpliwie należy do tej grupy, lecz wydźwięk był jasny - SI pomyliło czarnoskórych mężczyzn z małpami.
“To był oczywiście błąd nie do zaakceptowania. Pomimo tego, że wprowadziliśmy wiele udoskonaleń, nasze SI nie jest perfekcyjne i nadal musimy je znacznie rozwinąć. Przepraszamy wszystkich, którzy mogli zobaczyć te obraźliwe rekomendacje". - przedstawiciel Facebooka napisał w wiadomości e-mail do The Verge. Ponadto dodał, że firma skupia się na zbadaniu przyczyn błędu, by taka sytuacja nie miała już miejsca w przyszłości.
Algorytmy sztucznej inteligencji nie radzą sobie z identyfikacją osób czarnoskórych. Przypadek Facebooka nie jest tutaj odosobniony. W 2015 roku SI Google oznaczało osoby czarnoskóre jako goryle.
