Innovatie & Strategie

Juridische zaken
Geautomatiseerde besluitvorming

Post van ambtenaar 404040

Marlies van Eck promoveert op rechtsbescherming tegen geautomatiseerd genomen besluiten.

1 februari 2018

Marlies van Eck promoveert op rechtsbescherming tegen geautomatiseerd genomen besluiten.

Overheidsbesluiten over bijvoorbeeld toeslagen en belastingen worden vaak geautomatiseerd genomen. Marlies van Eck promoveert aan Tilburg University op deze praktijk en de rechtsbescherming van de burgers die ermee te maken krijgen.

De eigenaar van een voertuig dat in het kentekenregister staat maar niet in het verzekeringsregister krijgt een boete uit naam van ambtenaar ‘404040’ van de Rijksdienst voor het Wegverkeer; beroep is pas mogelijk nadat de boete betaald is. Of de auto's in onderdelen in de schuur liggen en zo ook niet officieel gesloopt kunnen worden om op die manier uit het kentekenregister te verdwijnen maakt niet uit – noch dat de gemeente vindt dat het 'bezit' van twee auto's betekent dat je geen uitkering krijgt. Een besluit ergens in de keten heeft zo veel gevolgen elders.

Iedereen is iemands kind

Marlies van Eck, juridisch adviseur van het CIO-office van de Belastingdienst, deed onderzoek naar de rechtsbescherming van de burger bij geautomatiseerde besluitvorming in de sociale zekerheid en in de belastingsector. In 98 procent van de gevallen gaat dat goed, maar als er problemen ontstaan loopt de burger snel vast met zijn bezwaar. "De voordelen van het automatiseren van besluitvorming zijn legio," aldus Van Eck. "Zowel voor de overheid als voor de mensen die snel hun uitkering krijgen of meteen weten hoeveel belasting ze moeten betalen. Maar er is weinig ruimte voor fouten en uitzonderingen, en als er iets misgaat krijgt vooral de burger de ellende op zijn bord."

Als algoritmes het besluitvormingsproces overnemen moet het resultaat nog steeds transparant, verifieerbaar en toetsbaar zijn. Van Eck: "De IT-ers die verantwoordelijk zijn voor de algoritmes realiseren zich niet altijd dat ze wetten aan het interpreteren zijn. Zo is het begrip 'kind' in de ene wet heel anders gedefinieerd dan in de andere. En waar het ingewikkeld wordt en automatiseren te tijdrovend zou worden, calculeren ze menselijke beoordelaars in die er later op managementniveau weer uitbezuinigd worden."

Taal die de rechter begrijpt

Zowel de uitgangspunten (bijvoorbeeld de beoordeling van arbeids(on)geschiktheid) als het proces (hoeveel gewicht is er toegekend aan een variabele, wat geeft de doorslag) moeten van te voren duidelijk zijn voor de burger die met de regels te maken krijgt. Dat betekent in elk geval dat algoritmes moeten worden vertaald in toegankelijke uitleg die het mogelijk maakt het programma te controleren. Van Eck beveelt ook aan dat iedereen die vastloopt in het systeem van computerbesluiten een gespecialiseerde ambtenaar toegewezen krijgt die gaat helpen het probleem op te lossen. En natuurlijk moet iedereen die met informatiesystemen werkt, zich ervan bewust blijven dat data niet een op een overeenkomen met de werkelijkheid.

Mr. Marlies van Eck promoveert op vrijdag 9 februari om 10:00 uur in de aula van Tilburg University. De titel van het proefschrift: Geautomatiseerde ketenbesluiten & rechtsbescherming. Een onderzoek naar de praktijk van geautomatiseerde ketenbesluiten over een financieel belang in relatie tot rechtsbescherming.

Lees meer over
Lees meer over Innovatie & Strategie OP AG Intelligence
4
Reacties
Atilla Vigh 02 februari 2018 18:33

Algoritmes zijn recepten om de modelmatige weergave van de werkelijkheid (een abstractie) te modelleren. Probleem is dat bij een te instrumentele benadering er zaken als in het artikel gebeuren en schieten we door naar AI achtige manieren om besluiten te nemen, dat we dat nog niet eens met mensen onderling kunnen. Zeker waar besluiten de persoonlijke levenssfeer zeer direct raken zou ik daar uiterste zorgvuldigheid in betrachten.

Willem Verwijs 02 februari 2018 16:33

"De IT-ers die verantwoordelijk zijn voor de algoritmes". Wanneer komt de dag dat we stoppen met verantwoordelijkheid afschuiven naar de IT'ers en de opdrachtgever zelf de verantwoordelijkheid neemt en zorgt voor een goede toetsing.

Kees 02 februari 2018 13:55

Goed dat dit wordt aangekaart. Met de "toenemende" kunstmatige intelligentie zal dit erger worden.
Overigens wordt vrijwilligerswerk in de ene wet ook heel anders gedefinieerd dan in de andere

Jan Willem van der Leest 02 februari 2018 12:54

Op 30 januari heeft de 2e kamer een motie aangenomen waarbij een deel van de geschetste problematiek welke door Marlies wordt geschetst aangepakt.
Onderzoeksjournalist Jesse Frederik van De Correspondent is in deze materie gedoken en kwam verbijsterende, zeer schrijnende situaties tegen als gevolg van geautomatiseerd overheidshandelen. Lees https://decorrespondent.nl/7860/dit-zei-ik-toen-ik-de-staatssecretaris-… als samenvatting van eerdere artikelen.

Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.