Management

Artificial Intelligence
uitlegbaarheid

Open over algoritmes

Intellectueel eigendom bij algoritmes belemmert transparantie.

© Shutterstock eamesBot
3 april 2023

Sinds kort heeft de overheid een algoritmeregister. Dat is een mooi en goed ­begin op weg naar transparant algoritmegebruik. Maar we staan echt nog aan het begin. Meer dan de helft van de 109 ­geregistreerde algoritmes is afkomstig van de G4-gemeenten, die al eerder waren begonnen met eigen algoritmeregisters. De 109 algoritmes in algoritmes.overheid.nl zijn een eerste stap.

Waarom hadden we ook alweer een algoritmeregister nodig? Algoritmes bevatten geautomatiseerde beslisregels, van eenvoudig tot complex. Die beslisregels ­bevatten criteria die bepalen of u ergens recht op heeft, iets moet doen of (terug-)betalen. Algoritmes zijn dus een soort digitale beslisbomen die voorgeprogrammeerd uw rechten en plichten vormgeven, dus ook uw mogelijkheden en kansen. Hier komen mensenrechten om de hoek kijken: we hebben er recht op te weten waarom de overheid op een bepaalde manier over ons beslist. Gebrek daaraan kan ons recht op een ­eerlijk proces schaden. En criteria die ­algoritmes toepassen mogen niet discriminerend zijn. Burgers kunnen zich niet verweren tegen discriminatie, als zij niet weten welk algoritme gebruikt is, of wat de uitkomst is. Discriminatierisico’s bij algoritmes moeten daarom serieus worden genomen. Soms zijn discriminerende criteria makkelijk te ontdekken in algoritmes. Vaker is dat heel ingewikkeld, omdat de discriminatie indirect werkt via neutraal ogende criteria (proxy’s). Deze kunnen onbedoeld nadelig uitpakken voor groepen mensen.

Een algoritmeregistratie alleen volstaat niet. Straks weten we welke algoritmes bij de overheid bestaan, maar nog niet of en wanneer ze op ons zijn toegepast.

Volgens de Algemene wet bestuursrecht (Awb) moeten besluiten van de overheid ‘draagkrachtig gemotiveerd’ worden.

Dat wil zeggen: de burger moet weten waarom en hoe het besluit tot stand is gekomen. Dat betekent dat de overheid nu al verplicht is algoritmegebruik te melden. Niet slechts in een register, maar bij iedere beslissing. Dat is noodzakelijk voor rechtsbescherming, waaronder bescherming tegen discriminatie.

Soms wordt gezegd dat openheid over algoritmes een mooi streven is, maar dat zij afgewogen moet worden tegen het belang van efficiënte en doelmatige besluitvorming. Er wordt geopperd dat intellectueel ­eigendom van private ­algoritmeontwikkelaars volledige open­baar­making in de weg staat. De doorontwikkeling van goede algoritmes zou zo belemmerd worden. Dat klinkt raar en dat is het ook. Het zou betekenen dat overheden de motivering van een besluit kunnen uitbesteden zonder daar controle over te houden. U krijgt uw gewenste vergunning niet, maar wij mogen niet vertellen waarom. Hier moeten we een heldere lijn trekken: algoritmeontwikkelaars werken voor de overheid op open­sourcebasis. Graag of niet.

Magazine AG Connect

Dit artikel is ook gepubliceerd in het magazine van AG Connect (nummer 2 - 2023). Wil je alle artikelen uit dit nummer lezen, bekijk dan de inhoudsopgave.

Reactie toevoegen
1
Reacties
J.a.Karman 20 april 2023 22:28

Algoritmes worden bijvoorbeeld in wetten vastgelegd.
Hoe wetgeving tot stand komt is helaas volkomen ondoorgrondelijk. Het is niet zinnig om wetten in een algoritme register op te nemen en het is onmogelijk om menselijke ideeenvorming als algoritme vast te leggen.

Het algoritmeregister zelf is een onmogelijk en uit zijn aard potentieel zeer gevaarlijk voor democratie en burger.