Gemeenten weten niet altijd wanneer algoritme wordt ingezet

Er zijn drie factoren die ervoor zorgen dat het ideaal van de lokale, autonome gemeente die rekening houdt met mensenrechten ‘geen dagelijkse realiteit is’, schrijft het CRM. Namelijk het gebruik van dezelfde softwarepakketten, de globalisering van technische toepassingen en een bestuurlijke factor: de ‘bestuurlijke spaghetti’.

Verantwoordelijk

Veel gemeenten gebruiken voor vergelijkbare taken softwarepakketten die door bedrijven zijn ontworpen. Dat leidt tot standaardisatie. Het betekent ook dat, hoewel het gemeentebestuur verantwoordelijk is, deze bedrijven de tekst van de wet interpreteren. "Het is daarmee lastig vast te stellen hoeveel lokaal beleid toe te voegen is aan deze software en hoe de mensenrechten geborgd zijn."

Wereldwijd gebruikte technologische toepassen zoals slimme camera’s lijken zeer aantrekkelijk vanwege de prijs-kwaliteitverhouding. "Maar er zijn apparaten en bijbehorende systemen op de markt die niet met de Europese waarden in het achterhoofd zijn ontworpen. Het is dan vaak ook niet mogelijk om dit als gemeente bijgestuurd te krijgen."

Spaghetti

En er zijn veel samenwerkingsverbanden (ruim 1300, bleek begin april) waardoor niet altijd helder is welk orgaan verantwoordelijk is. Ook dat kan slecht zijn voor de naleving van de mensenrechten. ‘Deze ‘bestuurlijke spaghetti’ maakt heldere besluiten over de inzet van technologie en het afleggen van verantwoording daarover, extra moeilijk.

De onderzoekers (van Hooghiemstra & De Vries, die een literatuurstudie verrichten en functionarissen van twaalf gemeenten interviewden) zagen binnen gemeenten twee scheidslijnen die goede samenwerking beperken: tussen beleid en uitvoering en tussen moderne datawerkers en ‘traditionele ict’. Traditionele ict’ers overzien welke processen geautomatiseerd zijn, maar zijn zich minder bewust van mensenrechtelijke risico’s. Bij moderne datawerkers is dat andersom. En ‘uiteindelijk zijn het de bestuurders (het college van burgemeester en wethouders) binnen een gemeente die moeten kunnen uitleggen welke beslissingen ze waarom nemen.’

Algoritmes niet zien

Het viel de onderzoekers ook op dat sommige gemeenten aangaven geen algoritmen te gebruiken. "Ambtenaren denken dan dat algoritmen altijd lerende algoritmen zijn en vergeten dat er ook simpele als-dan algoritmen in de softwarepakketten zitten die zij gebruiken." Ook zagen ambtenaren sommige processen niet als algoritmische processen, terwijl er waarschijnlijk wel algoritmes voor worden gebruikt, zoals online monitoring, regelingen rond belastingkwijtschelding en het berekenen van uitkeringen.

Het valt het CRM op dat gemeenten "zich door de toeslagenaffaire meer bewust zijn van risico’s die datagedreven werk met zich meebrengt op het gebied van discriminatie". Gemeenten 'worstelen' volgens het CRM met mensenrechten bij de inzet van algoritmen, maar ze zijn welwillend’. Ze willen praktische ondersteuning bij afwegingen, maar gebruiken de mogelijkheid om samen met marktpartijen meer te doen nog weinig.

Toegankelijkheid gemeentewebsites

Om het onderwerp gemeenten en gelijke behandeling te illustreren, zette het CRM op een rij (met behulp van de website van Logius) hoe het ervoor staat met de toegankelijkheid van de websites van de onderzochte gemeenten. "Hieruit kan worden opgemaakt dat er in ieder geval op dit terrein nog werk is te verrichten voor de meeste onderzochte gemeenten."

Almere	B – voldoet gedeeltelijk
Amsterdam	A – voldoet volledig
Apeldoorn	B – voldoet gedeeltelijk
Assen	B – voldoet gedeeltelijk
Den Haag	C – eerste maatregelen genomen
Eindhoven	A – voldoet volledig
Enschede	B – voldoet gedeeltelijk
Gemeenschappelijke regelingen De Bevelanden	D – voldoet niet
Groningen	B – voldoet gedeeltelijk
Leudal	B – voldoet gedeeltelijk
Súdwest Fryslân	B – voldoet gedeeltelijk
Utrecht	D – voldoet niet

Bron: College voor de Rechten van de Mens. Onderzoeksdatum 3 mei 2021

Volgens de onderzoekers kan de gezamenlijke inkoop van software ervoor zorgen dat gemeenten meer eisen kunnen stellen zo grip kunnen krijgen. Ze sporen ambtenaren aan om met ontwikkelaars om de tafel te gaan zitten en kijken hoe ze mensenrechten zeker kunnen stellen.

Dit artikel is ook gepubliceerd op Binnenlands Bestuur.