SyRI-uitspraak raakt mogelijk ook andere systemen voor fraudedetectie
De uitspraak van de rechter die SyRI terug naar de tekentafel stuurt, heeft mogelijk gevolgen voor andere fraudedetectiesystemen. De overheid mag zijn hulpmiddel niet meer gebruiken, maar hoe zit het met andere systemen die dit soort data-analyses uitvoeren? Deskundigen waarschuwen voor de gevolgen voor andere bestaande systemen.
© CCO / Pixabay
CCO / Pixabay
Volgens hoogleraar en privacy- en cybersecurityexpert Lokke Moerel zijn vergelijkbare systemen nog risicovoller. “Ik heb geen bewijs gezien dat ze voor SyRI-projecten al zelflerende algoritmes toepassen die worden getraind op historische data van fraudeurs, om zo tot voorspellende profielen te komen. Maar er zijn wel data-analysebedrijven die dit voor overheidsinstellingen doen. De praktijk leert dat de uitkomsten dan eigenlijk altijd discriminerend zijn. Bij toepassing van dit soort algoritmes moeten nog meer waarborgen worden getroffen.”