Innovatie & Strategie

Artificial Intelligence
algoritme

Algoritmes Rijk ondermaats, concludeert Rekenkamer

6 van 9 onderzochte algoritmes Rijksoverheid voldoen niet aan basisvereisten.

18 mei 2022

6 van 9 onderzochte algoritmes Rijksoverheid voldoen niet aan basisvereisten.

De algoritmes die de overheid gebruikt voldoen lang niet altijd aan de basisvereisten, blijkt uit een onderzoek dat de Algemene Rekenkamer woensdag in het kader van Verantwoordingsdag heeft uitgebracht. Van de negen door de Rekenkamer getoetste algoritmes bleken er zes niet aan de meest essentiële eisen te voldoen.

Algoritmes zijn niet meer weg te denken uit het rijksbeleid. Met behulp van algoritmes worden per maand miljoenen handelingen verricht, problemen opgelost en voorspellingen gedaan. Ze kunnen helpen bij het opsporen van misbruik van sociale voorzieningen, bij afhandelen van pgb-aanvragen, bij controleren van identiteiten, bij het voorspellen van criminaliteit of bij het bepalen van rechtmatigheid voor coronasteun. Dit is echter niet zonder risico’s, zoals duidelijk is gebleken bij het toeslagenschandaal.

Bias en discriminatie

Een verantwoorde inzet van algoritmes door uitvoeringsorganisaties van de Rijksoverheid is mogelijk, stelt de Algemene Rekenkamer, maar in de praktijk niet altijd het geval. De Rekenkamer heeft bij 3 algoritmes vastgesteld dat deze voldoen aan alle basisvereisten. Bij 6 andere bestaan uiteenlopende risico’s: gebrekkige controle op prestaties of effecten, vooringenomenheid, datalek of ongeautoriseerde toegang.

Het zijn vooral de algoritmes die gebruikt worden door de politie, door het directoraat-generaal Migratie van het Ministerie van Justitie en Veiligheid, en door de Rijksdienst voor Identiteitsgegevens die niet voldoen aan de basisvereisten. De laatste twee besteden de ontwikkeling en het beheer ervan uit, maar er zijn geen afspraken wie waarvoor aanspreekbaar is. Dat heeft bijvoorbeeld tot gevolg dat de Rijksdienst voor Identiteitsgegevens niet zelf kan nagaan of het algoritme de kwaliteit van pasfoto’s juist vaststelt. Dit kan discriminatie in de hand werken.

Deze Rijksdienst voert ook geen effectbeoordeling uit op gegevensbescherming. Bij het door algoritmes aangedreven criminaliteitsanticipatiesysteem van de politie ontbreekt onder meer controle op mogelijke vooringenomenheid. Dit politiesysteem voorspelt waar het risico op incidenten hoog is.

Ongeautoriseerde toegang

Bij 6 van 9 onderzochte organisaties is niet duidelijk welke medewerkers toegang hebben tot de data en het gebruikte algoritme. Ongeautoriseerde toegang tot systemen kan tot beschadiging of verlies van data leiden, met soms grote gevolgen voor burgers of bedrijven. Staatssecretaris van digitalisering Alexandra Van Huffelen heeft laten weten met de uitvoeringsorganisaties aan de slag te gaan om de tekortkomingen aan te pakken. Zij wil de Tweede Kamer voor het zomerreces informeren over vervolgstappen.

Algoritme-overzichtsrapport van de Algemene Rekenkamer:

Rijksalgoritmes, Rekenkamer

Dit artikel verscheen oorspronkelijk op Binnenlands Bestuur.

2
Reacties
j.a. (jaap) Karman 19 mei 2022 18:16

@Ronald: Het woord algoritme lijkt snel te devalueren naar instructies van uitvoering door de kamer.

Met 3 van de 9 invoeringen die goed zijn is een hogere succes factor dan wat gangbaar is met ict projecten.
Je kunt de aandacht leggen op wat goed gaat en dat versterken of op wat er mis gaat en geen voortgang maken.
De titel van het artikel neemt de negatieve insteek. Dat is jammer

Ronald kunenborg 19 mei 2022 12:16

En nu nog graag een definitie van het woord "algoritme" volgens de rekenkamer, want daar doen ze uiterst vaag over, ondanks herhaaldelijk en direct vragen.

Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.