Management

Artificial Intelligence
Rotterdam

Weinig ethisch besef rond algoritmes in Rotterdam

Gemeente belooft beterschap

© Shutterstock,  mihaiulia
15 april 2021

Gemeente belooft beterschap

Het gebruik van algoritmes bij de gemeente Rotterdam kan leiden tot bevooroordeelde uitkomsten, zoals bij een algoritme gericht op de bestrijding van uitkeringsfraude. Dat meldt de Rekenkamer Rotterdam op basis van het rapport Gekleurde technologie.

Hoewel de gemeente Rotterdam aandacht heeft voor het ethisch gebruik van algoritmes, is dat nog geen wijdverbreid besef binnen de gemeente. Daardoor is de kans groot dat de ethische principes verwaarloosd worden, waarschuwt de Rekenkamer.

Rotterdam maakt gebruik van algoritmes ter ondersteuning van de besluitvorming. Voor het onderzoek keek de Rekenkamer naar het project analytics uitkeringsfraude. Hierbij selecteert een algoritme mogelijke onrechtmatige uitkeringen. Naar aanleiding van die selectie kunnen uitkeringsgerechtigden uitgenodigd worden voor een heronderzoek.

Keuzes niet navolgbaar

Volgens de Rekenkamer was de ethiek rondom de algoritmes die hier werden gebruikt, niet voldoende gewaarborgd in de organisatie. Zo was men zich niet goed bewust van de verschillende stakeholders, rollen en verantwoordelijkheden. Daardoor waren sommige verantwoordelijkheden verkeerd belegd, zoals de controle op oneerlijkheid. Daardoor wijzen ontwikkelaar en gebruiker naar elkaar. Ook waren de gemaakte keuzes niet navolgbaar en kan de burger vrijwel geen inzicht krijgen in de manier waarop het algoritme een rol speelt in de selectie voor een heronderzoek. Ook bestaat de kans dat het algoritme tot vooringenomen uitkomsten leidt, doordat bijvoorbeeld laaggeletterdheid werd meegewogen. Van richtlijnen voor de evaluatie van algoritmes en het bepalen van een ‘ondergrens’ voor de prestaties van een algoritme, bijvoorbeeld door het te vergelijken met de prestaties van ‘oudere’ methoden, was ook geen sprake.

De Rekenkamer heeft aan het college van burgemeester en wethouders zes aanbevelingen gedaan om de verantwoordelijkheid, transparantie en eerlijkheid van bestaande en toekomstige algoritmes te waarborgen. Aangeraden wordt onder meer de eindverantwoordelijkheid op één centraal punt te beleggen, de algoritmes binnen de gemeente te inventariseren, per algoritme de ethische risico’s te beoordelen en ontwikkelaars en gebruikers van algoritmes actief bewust te maken van mogelijke ethische risico’s. Het college heeft al deze aanbevelingen overgenomen.

Lees meer over Management OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.