Beheer

Juridische zaken
Privacy

SyRI-uitspraak raakt mogelijk ook andere systemen voor fraudedetectie

Wetsvoorstel op losse schroeven.

© CCO / Pixabay Michael Gaida
10 februari 2020

Wetsvoorstel op losse schroeven.

De uitspraak van de rechter die SyRI terug naar de tekentafel stuurt, heeft mogelijk gevolgen voor andere fraudedetectiesystemen. De overheid mag zijn hulpmiddel niet meer gebruiken, maar hoe zit het met andere systemen die dit soort data-analyses uitvoeren? Deskundigen waarschuwen voor de gevolgen voor andere bestaande systemen. 

Volgens hoogleraar en privacy- en cybersecurityexpert Lokke Moerel zijn vergelijkbare systemen nog risicovoller. “Ik heb geen bewijs gezien dat ze voor SyRI-projecten al zelflerende algoritmes toepassen die worden getraind op historische data van fraudeurs, om zo tot voorspellende profielen te komen. Maar er zijn wel data-analysebedrijven die dit voor overheidsinstellingen doen. De praktijk leert dat de uitkomsten dan eigenlijk altijd discriminerend zijn. Bij toepassing van dit soort algoritmes moeten nog meer waarborgen worden getroffen.”

Geen controle op doordenderende overheidstrein

Volgens IT- jurist Walter Holst zijn er al uitspraken gedaan door de Raad van State in milieuzaken, waarbij bestuurlijke besluitvorming op basis van niet uitlegbare algoritmes van tafel is gegaan. De trein is volgens hem 'gewoon doorgedenderd'. “Het kan best zijn dat er ook nog wat andere treintjes doordenderen, waarbij hetzelfde is geconstateerd. Maar de bereidheid om een politiek ingesteld proces stop te zetten, is er niet altijd. Daardoor gaan processen soms tegen beter weten in toch door.” Moerel is het eens met de rechtbank dat er een goede integrale toets uitgevoerd had moeten worden door een onafhankelijke derde. “De overheid bepaalt in feite zelf wanneer ze inzet van SyRI gerechtvaardigd acht. Dit is de slager die zijn eigen vlees keurt en dat kan zo niet”, aldus Moerel.

Ronald Huissen, journalist bij Platform voor Burgerrechten, één van de aanklagers van SyRI, maakt zich zorgen om de andere systemen die nog wel gebruikt worden. "In principe moeten systemen waarbij dezelfde bezwaren gelden als bij SyRI dan ook gestopt worden." Dat wordt volgens hem echter lang niet altijd gecontroleerd.

Totta Data Lab

Huissen verwijst in een artikel naar een bedrijf dat onder andere data-analyses maakt voor fraudedetectie, Totta Data Lab. Zij doen dit onder andere voor de gemeente Nissewaard. Het bedrijf werkt al een tijdje samen met onder andere de gemeente Nissewaard om fraude tegen te gaan. De resultaten bleken achter niet helemaal te kloppen. In 19 van de 25 gevallen bleek het na nader onderzoek niet om fraude te gaan. Wel heeft Totta Data Lab er voor gezorgd dat de slagingskans van 10 naar 24 procent is gegaan.

Totta Data Lab laat weten transparant te werk te gaan. Zij leveren voor hun klanten een technische documentatie. Hierin staat hoe het algoritme werkt. “Ons systeem verschilt wezenlijk van SyRi qua gebruik van gegevens.” Het bedrijf weet nog niet welke gevolgen de uitspraak van de rechter zal hebben. “We zijn dit nog aan het onderzoeken.”

Stap in de goede richting

Nu SyRI onwettig is verklaard door de rechter, staat volgens Moerel ook het wetsvoorstel Wet Gegevensverwerking door Samenwerkingsverbanden op losse schroeven. Het SyRI-systeem maakte samenwerkingsverbanden tussen publieke instellingen mogelijk, deze nieuwe wet zou faciliteren dat ook met private partijen wordt samengewerkt. Volgens Moerel zal dit wetsvoorstel waarschijnlijk niet zomaar doorgaan. “Hier spelen dezelfde issues. SyRI-achtige verwerkingen zijn in principe mogelijk, maar de wet moet dan eerst met meer waarborgen worden ingericht.”

De uitspraak van de rechter over SyRI is in ieder geval een stap in de goede richting volgens Merel Hendrickx van het Nationaal Juristen Comité voor Mensenrechten, die in samenwerking de zaak tegen SyRI is gestart. “Het is belangrijk voor het privéleven van de burger en consument in dit tijdperk met zoveel data. Er wordt de overheid letterlijk een halt toegeroepen. We vinden het een mooie overwinning voor mensenrechten.”  

Lees meer over
Lees meer over Beheer OP AG Intelligence
1
Reacties
Frank van Zanten 10 februari 2020 19:30

Met haar uitspraken gaat prof Lokke Moerel nogal kort door de bocht. "Ik heb geen bewijs gezien dat ze voor SyRI-projecten al zelflerende algoritmes toepassen die worden getraind op historische data van fraudeurs, om zo tot voorspellende profielen te komen." In de uitspraak ECLI:NL:RBDHA:2020:865 staat klip en klaar dat er helemaal geen gebruik gemaakt wordt van dit type algoritmes, het is gewoon een simpele beslisboom. Het richting zelflerende algoritmes framen is nog een beetje te begrijpen door actiegroepen die aandacht willen maar het is verstandiger als een hoogleraar zich houdt bij het vakgebied waar ze geacht wordt verstand van te hebben.

Dan de volgende uitspraak "Maar er zijn wel data-analysebedrijven die dit voor overheidsinstellingen doen. De praktijk leert dat de uitkomsten dan eigenlijk altijd discriminerend zijn". Ook dit is slechts suggestie. Er is geen enkel causaal verband tussen zelflerende algoritmes en wat hier met discriminatie wordt bedoeld, het ongelijk behandelen van personen. Dat er voorbeelden zijn van dit soort algoritmes waar dit voorkomt wil niet zeggen dat dit dan bijna altijd zo zal zijn. Dat er meer waarborgen moeten worden getroffen is terecht maar knoop dit niet vast aan onjuiste veronderstellingen en suggesties.

Interessant is verder dat de rechtbank m.b.t. SyRI eigenlijk maar twee constateringen heeft gedaan: Het is niet transparant omdat de overheid niet wil uitleggen hoe het werkt (met als argument fraudeurs niet in de kaart te spelen, niet omdat niet bekend is hoe het werkt) en omdat het onvoldoende inzichtelijk en controleerbaar is. Daarom wordt artikel 65 Wet SUWI en hoofdstuk 5a Besluit SUWI als strijdig met artikel 8 lid 2 EVRM gezien en zo onverbindend verklaart.

Van de 9 vorderingen in de rechtszaak zijn er 8 afgewezen en één deels toegekend. Het lijkt me goed om ook wat journalistieke aandacht te geven aan wat de rechter wel toelaatbaar vindt in dit verband en waarom.

Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.