New York krijgt een algoritme manager

De persoon die deze rol gaat vervullen, wordt verantwoordelijk voor de toetsing van algoritmes aan ethische kaders. Dit houdt in dat  richtlijnen en best practices worden ontwikkeld om de geautomatiseerde beslissingssystemen (ADS) in de stad eerlijker en transparantere beslissingen te laten nemen.

De burgemeester kondigt de komst van de nieuwe positie aan na de publicatie van een rapport dat is opgesteld door de Automated Decision Systems Task Force, een stadspanel dat zo’n anderhalf jaar bezig was om het gebruik van geautomatiseerde beslissingssystemen in kaart te brengen. Deze tools gebruiken data, algoritmes en in sommige gevallen machine learning of andere kunstmatige intelligentie (AI) om te helpen bij de besluitvorming.

Speciale toezichthouder

Ook in Nederland is er een roep om richtlijnen en strenger toezicht op algoritmes. De Tweede Kamer nam in juni van dit jaar een motie aan die pleit voor een speciale toezichthouder en nieuwe richtlijnen ten aanzien van algoritmes. Uit onderzoek bij tientallen overheidsinstanties maakte de NOS op dat zij veel en steeds vaker gebruik maken van computerformules die gedrag voorspellen. Deskundigen en bijvoorbeeld ook de Raad van State waarschuwden vervolgens dat algoritmes burgers soms ten onrechte over één kam scheren en daarmee tekort kunnen doen.

Ook in Amsterdam worden algoritmes gecontroleerd, maar een officiële manager is er zeker nog niet. De gemeente Amsterdam toetste de kwaliteit van haar algoritmes met behulp van de Artificial Intelligence (AI)-auditmethode van accountantskantoor KPMG.