Politie is gestopt met 'dubieus algoritme' dat geweldplegers zou voorspellen

Dit geeft de bewindsvrouw aan in haar antwoorden op Kamervragen van D66'er Hind Dekker-Abdulaziz. Zij heeft vragen ingediend naar aanleiding van de onthulling door FTM dat de politie een 'Minority Report-algoritme' gebruikt, om toekomstige misdaden te kunnen voorspellen. Minority Report is een dystopisch sciencefictionverhaal uit 1956, dat in 2002 bij het brede publiek bekend is geworden door de verfilming van Steven Spielberg.

Etnische achtergrond meegewogen

RTI-G moest kunnen voorspellen wie er in de toekomst geweld gaat plegen, maar er kleven enorme risico's aan dit algoritme, wist FTM te onthullen. Gedurende enkele jaren woog de etnische achtergrond namelijk mee in de voorspellingen. Volgens de politie gebeurt dat nu niet meer, maar door FTM aangehaalde experts stellen dat de statistische kwaliteit en ethische juistheid van het risicomodel nog steeds twijfelachtig zijn.

In haar antwoorden op de kritische Kamervragen stelt de minister van Justitie en Veiligheid dat "het doel was om te signaleren en te adviseren om aan de voorkant van het probleem te komen en geweld tegen te gaan". Zij benadrukt dat RTI-G nooit op zichzelf is gebruikt en dat output ervan altijd door politiemedewerkers is geduid; de zogeheten human in the loop.

Twijfelachtige effectiviteit

"Ik vind het belangrijk dat de menselijke tussenkomst bij het gebruik van algoritmes voldoende geborgd is in de organisatie, zodat risico’s zoals die in het artikel worden aangehaald gemitigeerd kunnen worden. Indien de effectiviteit van een algoritme twijfelachtig is zou dat algoritme niet gebruikt moeten worden."

Dat laatste blijkt inderdaad aan de orde te zijn, valt te lezen in de antwoorden van de VVD-bewindsvrouw. "De politie heeft de inzet van het algoritme RTI-G recent opnieuw tegen het licht gehouden. Omdat nut, noodzaak en kwaliteit hiervan onvoldoende te onderbouwen zijn, heeft de politie het gebruik van RTI-G gestopt."

Geen nader onderzoek

Op de overige vragen van Kamerlid Dekker-Abdulaziz over onder meer reflecteren, confirmation bias, onderzoek daarnaar en onafhankelijke toetsing herhaalt de minister een aantal keer haar antwoord dat gebruik van het algoritme is stopgezet. "De politie heeft bij mij aangegeven dat er geen onderzoek is gedaan naar in hoeverre er sprake zou kunnen zijn van confirmation bias in het RTI-G. Omdat het niet meer in gebruik is, zal er geen onderzoek meer plaatsvinden."