Reclassering vertrouwde op fout algoritme

De zorgen over de algoritmes die reclassering gebruikt, zijn niet nieuw. Al in 2020 waarschuwde juridisch onderzoeker Gijs van Dijck voor het etnisch profileren door de algoritmes. Het risicotaxatie-instrument OXREC maakt namelijk gebruik van de postcode en inkomensgegevens. “Postcodes onthullen bepaalde informatie. Ze kunnen bijvoorbeeld iets zeggen over iemands etnische achtergrond, omdat er wijken zijn waar veel mensen met een bepaalde achtergrond wonen”, zei Van Dijck zes jaar geleden.

44.000 keer per jaar

Het instrument OXREC is ontwikkeld door de Universiteit van Oxford. Reclassering gebruikt het bij het opstellen van adviezen over verdachten en veroordeelden aan het Openbaar Ministerie en rechters. In 2018 voerde reclassering het algoritme in, elk jaar werd het ongeveer 44.000 keer gebruikt.

De inspectie Justitie en Veiligheid (J&V) trof grote fouten aan in het programma. Zo blijkt dat de formules voor gevangenen en verdachten zijn omgewisseld. Ook zijn verkeerde getallen gebruikt. Dat betekent dat het risico op recidive door het algoritme over het algemeen te laag wordt ingeschat, met name bij mensen die drugs gebruiken of mensen met een ernstige psychische aandoening, zoals een psychose. De inspectie kwam tot de conclusie dat bij ongeveer een kwart van de adviezen van de reclassering de kans op recidive verkeerd is ingeschat. Ook voldoet de OXREC niet aan de privacywetgeving.

Gooi maar een muntje op

Opvallend is dat de organisatie veel vertrouwen stelde in het algoritme. Aan de medewerkers is kennelijk verteld dat hun eigen oordeel net zo betrouwbaar is als het ‘opgooien van een muntje’. Zo ontstaat het risico dat de uitkomsten uit OXREC klakkeloos in rapportages worden opgenomen, zonder te vertrouwen op hun eigen inschatting gebaseerd op ervaring en opleiding. Ook zag de inspectie dat de reclassering niet voldoende stuurt op gebruik en onderhoud van de algoritmes, waardoor de gebreken niet zijn opgemerkt.

De inspectie J&V bracht februari een verslag uit van het onderzoek. OXREC wordt uitgeschakeld, heeft de reclassering laten weten. In hoeverre reclasseringswerkers of rechters die verkeerde adviezen uit het algoritme hebben overgenomen, en of dat risico inhoudt voor de maatschappij, verdachten en veroordeelden, heeft de inspectie niet onderzocht.