Rekognition, system inwigilacji Amazonu, uznał Kongresmenów za przestępców

Amerykańska Unia Wolności Obywatelskich postanowiła więc przetestować system rozpoznawania twarzy/obiektów Amazonu, aby sprawdzić, czy jest tak skuteczny, jak chwali się gigant (). Okazuje się, że to jedna wielka porażka.

Organizacja przeskanowała twarze wszystkich 535 członków Kongresu i porównała je z bazą systemu Rekognition, która liczy 25 tysięcy publicznych zdjęć z aresztowań. Co ciekawe, chociaż żaden z Kongresmenów nie znajdował się w oficjalnej bazie danych organów ścigania, to jednak system Amazonu aż 28 z nich określił mianem przestępców.

Ten fakt budzi poważne obawy o wykorzystanie systemu Rekognition przez policję. W końcu przez sztuczną inteligencję może nabawić się nieprzyjemności wielu obywateli, a w najgorszym przypadku mogą trafić na długie lata za kratki. Tym bardziej takie informacje przerażają, że w najróżniejszych częściach świata coraz chętniej wykorzystuje się systemy monitoringu miejskiego i rozpoznawania twarzy, a także bazy danych oraz algorytmy uczenia maszynowego do wykrywania i ścigania przestępców. Niedawno Amerykańska Unia Wolności Obywatelskich zdobyła informacje, że Rekognition jest już wykorzystywane na masową skalę przez policję np. w Orlando.

Rekognition, system inwigilacji Amazonu, uznał Kongresmenów za przestępców. Fot. Pexels.

ACLU napisała w swoim oświadczeniu: „Identyfikacja, bez względu na to, czy jest dokładna czy nie, może kosztować ludzi wolność, a nawet życie. Kongres musi poważnie potraktować te obawy i wprowadzić moratorium na wykorzystanie systemu rozpoznawania twarzy przez organy ścigania”.

Rzecznik prasowy firmy Amazon upatruje się błędów w słabej kalibracji systemu, bo ACLU skorzystała z wyników cechujących się sprawdzalnością na poziomie 80 procent. Według giganta to za mało i wyniki powinny cechować się sprawdzalnością na poziomie 95 procent, szczególnie, gdy w grę wchodzą sprawy związane z przestępcami i poważnymi konsekwencjami.

Źródło: GeekWeek.pl/ / Fot. Pexels/Amazon