IBM porzuca prace nad systemem rozpoznawania twarzy. Powód? Obawa o rasizm
Firma poinformowała właśnie, że obawia się sytuacji, w której jej rozwiązania zostaną wykorzystane do rasowego profilowania i szpiegowania, dlatego też zdecydowała się je porzucić.
Nietrudno wyobrazić sobie zalety systemów rozpoznawania twarzy, więc wiele firm podjęło wysiłek stworzenia własnych, ale z drugiej strony niosą one ze sobą również duże ryzyko i wystarczy tu spojrzeć na ich stosowanie w krajach niedemokratycznych. A że obecnie sytuacja w Stanach Zjednoczonych jest bardzo napięta, głównie na tle rasowym, to wiele firm nie ma zamiaru ryzykować wizerunkowej porażki i wycofuje się ze swoich poprzednich pomysłów. Jedną z nich jest IBM, którego dyrektor generalny, Arvind Krishna, wystosował specjalny list do amerykańskich kongresmenów.
Dowiadujemy się z niego, że IBM porzucił swój biznes rozpoznawania twarzy ogólnego przeznaczenia i jednocześnie „stanowczo sprzeciwia się wykorzystaniu technologii do celów inwigilacyjnych, rasowego profilowania czy naruszania podstawowych ludzkich praw i wolności”. Zamiast tego Arvind Krishna wskazuje, że teraz przyszedł czas narodowego dialogu nie tylko na temat możliwości i regulacji dotyczących korzystania z systemów rozpoznawania twarzy, ale zasadności ich stosowania w ogóle. CEO IBM nie ukrywa wprawdzie, że AI było potężnym narzędziem w rękach organów ścigania, ale jego używanie powinno być poprzedzone testowaniem w kierunku uprzedzeń.
Arvind Krishna jednoznacznie opowiedział się też za technologiami zwiększającymi odpowiedzialność i transparentność, jak choćby kamery montowane przy mundurach policjantów. Warto tu podkreślić, że list IBM jest częścią szerszej inicjatywy, która ma na celu nakłonienie amerykańskiego kongresu do wprowadzenia zmian potrzebnych do ograniczenia brutalności policji i nierównego traktowania białych i czarnoskórych obywateli. Ta wynika z kolei z trwających właśnie w USA protestów, które wybuchły po śmierci czarnoskórego George’a Floyda, który zmarł na skutek uduszenia podczas interwencji białego policjanta.
Co więcej, dopiero co słyszeliśmy kolejne głosy sprzeciwu wobec systemu rozpoznawania twarzy od innego producenta, a mianowicie Clearview, które nie tylko budzi coraz większe wątpliwości, ale i pozwala sobie na igranie z bezpieczeństwem. Firma dopuściła do tego, że w sieci bez większej ochrony znalazły się jej assety, własność intelektualna (w tym kod źródłowy do aplikacji mobilnej) i ogromna liczba materiałów wideo z wizerunkami amerykańskich obywateli (70 tysięcy nagrań z kamery bezpieczeństwa na Manhattanie, na których można zobaczyć ludzi wchodzących i wychodzących z budynku mieszkalnego). Poza tym, udowodniono jej trenowanie AI na zdjęciach z różnych stron internetowych i korzystanie ze zdjęć profilowych w mediach społecznościowych, a branżowi specjaliści podkreślają też, że może ona dyskryminować mniejszości narodowe i kobiety, więc pytania o systemy rozpoznawania twarzy wydają się jak najbardziej zasadne i dobrze, że podobnie myślą również technologiczni giganci, którzy je tworzą, a przynajmniej część z nich.
Źródło: GeekWeek.pl/CNBC
