Innovatie & Strategie

Governance
Aleid Wolfsen

AP-voorzitter waarschuwt voor keerzijde algoritmen

'Geen genoegen nemen met computer says no'

Aleid Wolfsen © CC BY 2.0 - Flickr Sebastiaan ter Burg
10 maart 2020

'Geen genoegen nemen met computer says no'

Organisaties die persoonsgegevens verwerken moeten kritisch kijken naar voorstellen van collega's om algoritmes in te zetten. Die oproep doet Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens (AP). Wolfsen wijst er onder meer op dat klanten, burgers en patiënten zich altijd tegen een beslissing die negatief voor ze uitvalt moeten kunnen verzetten.

Wolfsen schrijft in zijn blog dat gegevensverwerkingen de maatschappij veel brengen. Hij verwijst onder meer naar machine learning. "Algoritmes sporen bijvoorbeeld slokdarmkanker al sneller op dan een dokter en zijn al in staat om ernstige complicaties bij geboortes te voorkomen. Ook fraude kan er efficiënter mee worden opgespoord. Zelfs gedrag voorspellen gaat steeds beter."

Maar er dreigt volgens Wolfsen ook gevaar. "Wie de glimmende medaille van de vooruitgang durft om te draaien, ziet het complete verhaal. Want ‘wat geweldig dat dit kan’ en ‘bloedlink wat hier gebeurt’ komen hier akelig dicht bij elkaar."

Focusgebied

Algoritmes is volgens Wolfsen één van de focusgebieden voor de AP de komende jaren, omdat deze steeds vaker mensen in een profiel plaatsen. "Bijvoorbeeld wel of geen hypotheek, wel of niet ergens klant of medewerker mogen worden of wel of geen korting op een verzekering. U begrijpt, wanneer u dit als organisatie niet volgens de beginselen van de AVG – rechtmatig, behoorlijk en transparant - doet, het risico bestaat dat u (onbewust) bijdraagt aan het uitsluiten en discrimineren van mensen."

Wolfsen roept op om "kritisch te kijken naar voorstellen van collega’s" om algoritmen in te zetten, bijvoorbeeld om bepaalde werkprocessen te versnellen. "Zorg dat u kunt verantwoorden dat de automatisch verwerkte gegevens echt rechtmatig en – als onderdeel daarvan - noodzakelijk zijn om uw doel te bereiken."
 

Lees meer over
Lees meer over Innovatie & Strategie OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.