Rozpoznávání tváří od Amazonu označilo 28 kongresmanů za zločince

Na stránkách SHW jsme si už několikrát ukázali, že systémy pro rozpoznávání zločinců ve videosekvencích nejsou zrovna přesné. Některé měly 92 % falešných pozitiv, některé dokonce 98 %. Nezisková organizace American Civil Liberties Union of Northern California (ACLU) tak zkusila Amazonem hodně protěžovaný systém Rekognition, který nabízí policejním složkám k rozpoznávání zločinů v bezpečnostních záznamech. ACLU tak vzala fotografie všech 535 amerických kongresmanů a postavila je proti veřejné databázi 25 tisíc snímků zločinců.

 

 

Výsledek mnohé z nich nepotěšil. Rovnou 28 kongresmanů bylo nesprávně označeno za odsouzené. To znamená, že ze studovaných nevinných lidí bylo více než 5 % označeno nesprávně. Kvůli tomuto výsledku tak ACLU apeluje na Kongres, aby policejním složkám nedovolil používat podobných aplikací včetně této, neboť fungují nedostatečně dobře. Software navíc považuje za poněkud rasistický, neboť se častěji mýlil u Afroameričanů či jiných s tmavší barvou pleti.

 

Dokonce to ani není poprvé, co se ACLU naváží do softwaru Rekognition. V minulosti už kritizovala Amazon za agresivní marketing a protlačování softwaru do policejních sborů ve Washington County, Oregonu a Orlandu na Floridě. Organizace pak už jen dodala, že celý test ji vyšel na $12,33.

 

Zdroj: theregister.co.uk, arstechnica.com