Amazons ansiktsigenkänning märker felaktigt 26 lagstiftare i Kalifornien som brottslingar



När myndigheter fortsätter att driva efter att ansiktsigenkänningssystem tas i bruk behöver du inte leta långt för att se varför det är dåliga nyheter. För att illustrera poängen genomförde ACLU ett test av Amazons rekognitionsprogramvara – ansiktsigenkänningsteknik som för närvarande används av amerikansk brottsbekämpning – där den felaktigt identifierade 26 lagstiftare i Kalifornien som matcher i en kriminell databas.

Vi kommer att pausa medan du chuckar till "politikerna är kriminella ”skämt som springer genom huvudet.

Det är andra gången ACLU kör denna typ av test. I det första, ett test som genomfördes förra året, var Rekognition vitt felaktigt och avskaffade felaktiga och rasistiska partier när de försökte matcha kongressmedlemmar.

Detaljerat idag körde det senaste ACLU-testet 120 bilder av lagstiftare i Kalifornien mot en databas med 25 000 mugshots. Amazons Rekognition-programvara producerade falska positiver cirka 20 procent av tiden.

Phil Ting, en församlingsmedlem i San Francisco, och en av de felaktiga matchningarna, använde resultaten för att trumma upp stöd för en proposition som skulle förbjuda användning av tekniken i polisens kamerakameror. "Vi ville köra detta som en demonstration om hur den här programvaran absolut inte är redo för prime time", sa Ting under en presskonferens. "Medan vi kan skratta om det som lagstiftare, är det ingen skrattande fråga för en person som försöker få ett jobb, om du är en person som försöker få ett hem."

En talesman på Amazon berättade TNW:

ACLU missbrukar återigen medvetet och missförstår Amazon Rekognition för att göra rubriker. Som vi har sagt många gånger tidigare, när det används med den rekommenderade 99% konfidensgränsen och som en del av ett människodrivet beslut, kan ansiktsigenkänningsteknik användas för en lång lista med fördelaktiga ändamål, från att hjälpa till med identifieringen av brottslingar som hjälper till att hitta saknade barn för att hämma människohandel. Vi fortsätter att förespråka för federal lagstiftning om ansiktsigenkänningsteknik för att säkerställa ansvarsfull användning, och vi har delat våra specifika förslag för detta både privat med beslutsfattare och på vår blogg.

ACLU-advokat Matt Cagle, som arbetade med UC Berkeley för att oberoende verifiera de resultat som argumenterades mot kritiken. I en kommentar till Gizmodo, Sade Cagle att ACLU inte använde en 99-procentig konfidensgräns eftersom den fastnade med standardinställningarna i Amazons programvara – vilket är en säkerhetsgrad på 80 procent.

Amazon vederlagde påståendet och pekade på ett blogginlägg där det noteras att Rekognition inte bör användas med mindre än 99 procent konfidensnivå. Naturligtvis leder detta bara till fler frågor. Specifikt, varför är inte 99 procent programvarans standardinställning?