Błąd systemu AI do rozpoznawania twarzy. 50-latkę aresztowano
System rozpoznawania twarzy oparty na sztucznej inteligencji po raz kolejny doprowadził do niesłusznego aresztowania. Tym razem błąd dotyczył wskazania 50-letniej kobiety, którą oskarżono o oszustwo w banku. Sprawa ciągnęła się niemal pół roku.
Błędne rozpoznanie twarzy przez AI. Kobietę aresztowano
Systemy rozpoznawania twarzy oparte na sztucznej inteligencji to temat, który od dłuższego czasu wzbudza emocje. Z jednej strony to nowoczesne narzędzie do poprawy bezpieczeństwa - pozwala szybko identyfikować właściciela urządzenia, wspierać śledztwa kryminalne czy kontrolować dostęp w miejscach publicznych i firmach. Z drugiej jednak niedoskonałość i podatność na błędy systemu AI wywołuje obawy o prywatność, nadużycia oraz niesłuszne oskarżenia.
Choć algorytmy potrafią działać w czasie rzeczywistym i analizować miliony obrazów, w praktyce zdarzają się też nieprawidłowe typy i mylne identyfikacje. Mimo tych ograniczeń systemy te są coraz szerzej stosowane, a ich wyniki, choć imponujące pod względem szybkości i skali, wciąż budzą debatę nad tym, jak bezpiecznie i odpowiedzialnie korzystać z AI przede wszystkim w ściganiu przestępstw. Ostatni przykład podkreślający problematykę stosowania tego rozwiązania dotyczy 50-letniej kobiety, którą niesłusznie aresztowano.
Zarzuty przestępstwa z użyciem cudzych danych osobowych oraz kradzieży
Angela Lipps, 50‑letnia kobieta z Tennessee, została uwięziona po tym, jak system AI powiązał ją z oszustwem bankowym w Dakocie Północnej, donosi The Independent. Policja w Fargo (stan Dakota Północna) wykorzystała nagranie z monitoringu bankowego i oprogramowanie AI do rozpoznania twarzy, które wskazało, że osoba z obrazu to właśnie Angela Lipps. Na tej podstawie postawiono jej zarzuty przestępstwa z użyciem cudzych danych osobowych oraz kradzieży. Kobieta zarzekała się, że nigdy nie odwiedziła tego miejsca.
Lipps spędziła kilka miesięcy w więzieniu w Tennessee, czekając na ekstradycję do Dakoty Północnej. Jak podaje Tje Independent "była przetrzymywana bez możliwości kaucji, ponieważ uznano ją za potencjalną uciekinierkę". Nie wiadomo, czy Lipps miała wcześniej jakieś wyroki skazujące lub inne zarzuty, które mogłyby wpłynąć na uczynienie jej podejrzaną.
Wykorzystanie AI w sprawach. Kolejne błędne aresztowanie
Dopiero gdy doszło do rozprawy w sądzie w Dakocie Północnej, wzięto pod uwagę linię obrony. Przedstawiono dowody m.in. z wyciągów bankowych, że kobieta we wskazanym czasie przebywała w Tennessee, gdzie dokonywała zakupów. Sprawa została ostatecznie umorzona. Według doniesień inForum Lipps przez pobyt za kratkami nie płaciła rachunków i "straciła dom, samochód i psa", a pomoc otrzymała dopiero od lokalnych organizacji non-profit.
Sprawa Angeli Lipps roztacza czarną wizję przyszłości dotyczącą rozpowszechnienia wykorzystania AI w wymiarze sprawiedliwości. Działania w oparciu wyłącznie o systemy AI mogą niszczyć życie niewinnych osób, co pokazuje, jak cienka jest granica między technologią a nadużyciami w imię prawa.
