Innovatie & Strategie

Artificial Intelligence
Politie

Gezichtsherkenning in politiezaak: 'De computer had het fout'

Vals positieven komen 10 tot 100 keer vaker voor bij Aziatische en andere minderheden.

© CC0 - Pixabay,  OpenClipart
25 juni 2020

Vals positieven komen 10 tot 100 keer vaker voor bij Aziatische en andere minderheden.

Een man uit de Amerikaanse staat Michigan werd in januari dit jaar onterecht beschuldigd en opgepakt, nadat een computersysteem hem als dader had aangewezen. Het systeem wees Robert Williams na een controle met data voor gezichtsherkenning aan als de schuldige van de diefstal van vijf horloges uit een retailzaak met een waarde van 3800 dollar. Op basis van de bewakingsbeelden werd het beeld gekoppeld aan de foto van zijn rijbewijs.

Een woordvoerder van het politiebureau in Detroit verklaart tegenover Ars Technica dat het computersysteem meer moeite heeft met beelden van gekleurde mensen. Verschillende testen uitgevoerd door de politie van Detroit hebben dit resultaat bevestigd. Een consequentie van de techniek van kunstmatige intelligentie waarbij de technologie bij meerdere resultaten uiteindelijk gokt welke uitkomst het beste matcht.

Het Nationale Instituut van Standaarden en Technologie, de NIST, in Amerika publiceerde eerder al een studie waaruit bleek dat gezichtsherkenning het vaakst klopt bij blanke mensen. Maar voor Aziatische en bijvoorbeeld zwarte mensen is het 10 tot 100 keer waarschijnlijker dat er een foute uitkomst wordt gegenereerd.

Williams werd op basis van de gezichtsherkenning toegevoegd aan een selectie van zes personen, die aan een beveiliger werd getoond. Williams werd als dader aangewezen. De beveiliger had echter ook alleen de beveiligingsbeelden gzien. Na een nacht in de cel en ondervraging de volgende dag werd duidelijk dat Williams de dader niet kon zijn. “Dan heeft de computer een fout gemaakt", reageerde de politie.

IBM stopt met gezichtsherkenning

Al eerder werd bekend dat IBM gezichtsherkenning niet meer als technologie aanbiedt. Op 8 juni schreef de CEO Arvind Krishna in een brief aan het Amerikaanse congres: "IBM is fel tegen en zal het gebruik van technologie, inclusief gezichtsherkenningstechnologie die door andere leveranciers wordt aangeboden, voor massasurveillance, raciale profilering, [of] schendingen van fundamentele mensenrechten en vrijheden afkeuren”.

Lees meer over Innovatie & Strategie OP AG Intelligence
3
Reacties
Daphne Keislair 25 juni 2020 15:23

Beste Harry,
Dank voor je oplettendheid. Het artikel is aangepast.
Groeten,
De redactie

Harry Oldinkhof 25 juni 2020 11:51

:-) Had beter kunnen zeggen AG gaat hard Computable achterna.

Harry Oldinkhof 25 juni 2020 11:48

Twee spelfouten en een taalfout. Computable holt hard achteruit.

Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.