Software pro rozpoznávání obličeje vede k vlně zatýkání nevinných lidí v USA

Speciální AI na rozpoznávání obličejů má být mimo jiné také součástí budoucích chytrých 15minutových měst. Již nyní zde máme tedy předzvěst toho, jak může kontrola populace s podobným nástrojem vypadat.

Zatýkání zcela nevinných lidí je ve Spojených státech je stále častější kvůli falešně pozitivním hlášením z rozpoznávání obličejů pomocí AI. Kontrolní mechanismy? Používají se jen zřídka.

Lidé se stále více spoléhají pouze na umělou inteligenci, aniž by si předem prověřili, zda podává správné informace nebo aniž by měli další důkazy.

Scéna vypadá jako z dystopického románu: Muž je v noci vyzvednut z postele a odveden v poutech – jen proto, že umělá inteligence nesprávně přiřadila jeho tvář. Ale to je přesně to, co se děje ve Spojených státech s alarmující četností.

Nedávné vyšetřování Washington Post odhalilo, že několik policejních oddělení po celé zemi už opakovaně zatklo lidi, jejichž jediným „přestupkem“ je, že je umělá inteligence nesprávně identifikovala jako pachatele.

Z 23 zkoumaných policejních oddělení zatýkalo 15 oddělení ve 12 státech pouze na základě zásahů AI – bez jakýchkoli dalších důkazů.

Obzvláště znepokojivé: některé zprávy prohlásily neověřené detekce AI za „100procentní shodu.“ Nejméně osm lidí však bylo prokazatelně neprávem zatčeno, dva případy nebyly dosud veřejně známé.

To je krok do velmi dystopické budoucnosti.

„Technologie podezřelého jednoznačně identifikovala,“ říká interní policejní zpráva – jak se později ukázalo, šlo o nebezpečný chybný úsudek.

Nesprávným zatčením mohla zabránit jednoduchá základní policejní práce, jako jsou kontroly alibi nebo porovnávání fyzických důkazů.

Louis Kelly, prokurátor z Kentucky, přesto hájil kroky svých policistů: „Naši policisté se spoléhají na své letité zkušenosti s identifikací podezřelých.“

Nezmiňuje se o tom, že v jeho kanceláři došlo k nejméně čtyřem zatčením pouze na základě zásahů AI.

Skutečný rozměr problému zůstává nejasný. Většina ze 75 agentur identifikovaných The Washington Post, které používají rozpoznávání obličeje, nemusí jeho použití dokumentovat ani zveřejňovat.

Velké policejní útvary jako Austin, Detroit a Miami nejsou výjimkou – také zatýkaly lidi pouze na základě informací podaných AI – a bez dalších důkazů.