Innovatie & Strategie

Wetenschap
gezichtsherkenning

AI-onderzoekers pleiten voor ban op algoritmen voor detectie criminele karakters

Een non-biased systeem kun je niet bouwen op biased data.

© CCO / Pixabay teguhjatipras
25 juni 2020

Een non-biased systeem kun je niet bouwen op biased data.

Een grote groep wetenschappers, data scientists en sociologen vinden dat uitgevers moeten stoppen met het publiceren van onderzoek dat pretendeert met behulp van kunstmatige intelligentie crimineel gedrag af te kunnen leiden uit een combinatie van gezichtskenmerken en statistieken over criminaliteit.

De  Coalition for Critical Technology heeft een open brief opgesteld naar aanleiding van aankondigingen dat een van de grote wetenschappelijke uitgevers - Springer - op het punt staat een onderzoeksartikel te publiceren getiteld “A Deep Neural Network Model to Predict Criminality Using Image Processing” met als een van de auteurs de voormalig politiechef van New York Jonathan W. Korn, meldt The Verge.

De auteurs van het onderzoeksrapport claimen een systeem te hebben ontwikkeld dat op basis van gezichtsherkenning met 80 procent betrouwbaarheid en zonder rassenvoorkeur kan voorspellen of iemand geneigd is tot criminele activiteiten. 

De coalitie - die uit meer dan 1700 ondertekenaars bestaat - stelt dat dergelijk onderzoek wetenschappelijk rammelt en de vooroordelen tegen mensen met een donkere huidskleur vergroot. "Het hele begrip criminaliteit is racistisch gekleurd, dus hoe kun je op basis daarvan een systeem ontwerpen dat geen vooroordelen bevat. Dit onderzoek gaat er echter van uit dat de data met betrekking tot arrestaties en veroordelingen betrouwbare en neutrale indicatoren zijn voor onderliggende criminaliteit", stellen de ondertekenaars van de open brief.

Artikel is er een in een onwenselijke trend

De ondertekenaars stellen dat dit onderzoek er een is in een trend waarin data science en machine learning gebruikt worden op sociaal-gerelateerde data om het gedrag van mensen te voorspellen of te classificeren.

Springer heeft inmiddels tegenover MIT Technology Review het onderzoeksartikel niet te publiceren en de Harrisburg University of Science and Technology die het artikel indiende heeft het persbericht verwijderd waarin het onderzoek werd aangekondigd.

Lees meer over Innovatie & Strategie OP AG Intelligence
1
Reacties
Mr A.F. le Gras 25 juni 2020 17:06

Ik kan iedereen die gelooft in AI als middel om criminele personen op te sporen aanraden om het standaardwerk van Cesare Lombroso, getiteld "Criminal Woman, the Prostitute and the Normal Woman" te lezen. Lombroso was in 19e eeuw een gezaghebbend arts / criminoloog en maakte furore met zijn onderzoek gebaseerd op schedelmetingen. Zelfs Koningin Victoria liet de schedels van haar kinderen opmeten. Wie dit boek vandaag de dag leest kan niet anders dan vaststellen dat de Wetenschap het ook gruwelijk mis kan hebben. De conclusies van toen zijn niet alleen volstrekt lachwekkend, maar ook gevaarlijk. Ze vormden o.a. een valse "wetenschappelijke" basis voor de rassenwaanbeelden van de nazi's . Het vervangen van schedelmetingen door AI zal eindigen op dezelfde plek : de vuilnisbak. Maar er zal nog heel wat water door de Rijn vloeien voor ook deze idiotie gestopt is. Hulde in ieder geval voor de ondertekenaars van de open brief. Ik mag hopen dat ook IT'ers hun gezonde verstand blijven gebruiken.

Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.