AI-onderzoekers pleiten voor ban op algoritmen voor detectie criminele karakters

De Coalition for Critical Technology heeft een open brief opgesteld naar aanleiding van aankondigingen dat een van de grote wetenschappelijke uitgevers - Springer - op het punt staat een onderzoeksartikel te publiceren getiteld “A Deep Neural Network Model to Predict Criminality Using Image Processing” met als een van de auteurs de voormalig politiechef van New York Jonathan W. Korn, meldt The Verge.

De auteurs van het onderzoeksrapport claimen een systeem te hebben ontwikkeld dat op basis van gezichtsherkenning met 80 procent betrouwbaarheid en zonder rassenvoorkeur kan voorspellen of iemand geneigd is tot criminele activiteiten. 

De coalitie - die uit meer dan 1700 ondertekenaars bestaat - stelt dat dergelijk onderzoek wetenschappelijk rammelt en de vooroordelen tegen mensen met een donkere huidskleur vergroot. "Het hele begrip criminaliteit is racistisch gekleurd, dus hoe kun je op basis daarvan een systeem ontwerpen dat geen vooroordelen bevat. Dit onderzoek gaat er echter van uit dat de data met betrekking tot arrestaties en veroordelingen betrouwbare en neutrale indicatoren zijn voor onderliggende criminaliteit", stellen de ondertekenaars van de open brief.

Artikel is er een in een onwenselijke trend

De ondertekenaars stellen dat dit onderzoek er een is in een trend waarin data science en machine learning gebruikt worden op sociaal-gerelateerde data om het gedrag van mensen te voorspellen of te classificeren.

Springer heeft inmiddels tegenover MIT Technology Review het onderzoeksartikel niet te publiceren en de Harrisburg University of Science and Technology die het artikel indiende heeft het persbericht verwijderd waarin het onderzoek werd aangekondigd.