Provincie Noord-Holland maakt gebruikte algoritmes openbaar

De provincie gebruikt algoritmes zet naar eigen zeggen sterk in op data en datatechnologie. Zo wordt kunstmatige intelligentie ingezet bij de monitoring van biodiversiteit bij natuurvriendelijke oevers. Aan de hand daarvan worden maatregelen genomen om met diverse diersoorten om te gaan.

Maar doordat algoritmes vaak onzichtbaar zijn, kunnen ze ook een aantal ongewenste effecten hebben, schrijft de provincie in de datastrategie 2021-2023. "Zoals een gebrek aan transparantie in de besluitvorming. Inwoners hebben geen idee of zij wel of niet in aanmerking komen voor een vergunning bijvoorbeeld. Dat kan de rechtszekerheid en rechtsgelijkheid aantasten." Bovendien kan er sprake zijn van een black box: betrokken partijen kunnen niet controleren op basis waarvan tot een geautomatiseerd besluit wordt gekomen.

Algoritmeregister

Om te voorkomen dat inwoners en bedrijven verrast worden door de uitkomsten van geautomatiseerde besluitvorming, gaat de provincie een algoritmeregister opzetten. "Door transparant te zijn nemen wij onze verantwoordelijkheid tegenover inwoners en bedrijven. We willen dat zij weten welke algoritmen wij gebruiken en welke keuzes hierin zijn gemaakt." 

Voordat het algoritmeregister verschijnt, gaat de provincie eerst inventariseren welke algoritmes gebruikt worden en welke impactvol zijn. Die inventarisatie vindt plaats in 2021 en 2022. Daarna worden de algoritmes in het register opgenomen en wordt het register gepubliceerd. Ook gaat de provincie voorwaarden introduceren voor de verantwoorde inkoop van algoritmen en data.

Daarnaast komt er een opendataregister, waarin alle opendatasets in komen te staan die de provincie heeft. Ook wordt hierin beschreven waar die data voor gebruikt wordt. Al die data wordt in 2023 beschikbaar voor de inwoners van de provincie.