Innovatie & Strategie

Artificial Intelligence
algoritme

New York krijgt een algoritme manager

Nieuwe functionaris moet algoritme-richtlijnen opstellen, deze controleren en toetsen aan ethische kaders.

© Shutterstock
28 november 2019

Nieuwe functionaris moet algoritme-richtlijnen opstellen, deze controleren en toetsen aan ethische kaders.

In New York is een positie binnen het stadsbestuur gecreëerd om toe te zien op algoritmes. Burgemeester Bill de Blasio heeft daarvoor de functie Algorithms Management & Policy Officer in het leven geroepen.

De persoon die deze rol gaat vervullen, wordt verantwoordelijk voor de toetsing van algoritmes aan ethische kaders. Dit houdt in dat  richtlijnen en best practices worden ontwikkeld om de geautomatiseerde beslissingssystemen (ADS) in de stad eerlijker en transparantere beslissingen te laten nemen.

De burgemeester kondigt de komst van de nieuwe positie aan na de publicatie van een rapport dat is opgesteld door de Automated Decision Systems Task Force, een stadspanel dat zo’n anderhalf jaar bezig was om het gebruik van geautomatiseerde beslissingssystemen in kaart te brengen. Deze tools gebruiken data, algoritmes en in sommige gevallen machine learning of andere kunstmatige intelligentie (AI) om te helpen bij de besluitvorming.

Speciale toezichthouder

Ook in Nederland is er een roep om richtlijnen en strenger toezicht op algoritmes. De Tweede Kamer nam in juni van dit jaar een motie aan die pleit voor een speciale toezichthouder en nieuwe richtlijnen ten aanzien van algoritmes. Uit onderzoek bij tientallen overheidsinstanties maakte de NOS op dat zij veel en steeds vaker gebruik maken van computerformules die gedrag voorspellen. Deskundigen en bijvoorbeeld ook de Raad van State waarschuwden vervolgens dat algoritmes burgers soms ten onrechte over één kam scheren en daarmee tekort kunnen doen.

Ook in Amsterdam worden algoritmes gecontroleerd, maar een officiële manager is er zeker nog niet. De gemeente Amsterdam toetste de kwaliteit van haar algoritmes met behulp van de Artificial Intelligence (AI)-auditmethode van accountantskantoor KPMG.

Lees meer over
Lees meer over Innovatie & Strategie OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.