Innovatie & Strategie

Procesmanagement
Hoe gevaarlijk zijn algoritmes?

Tegenlicht buigt zich over gevaar van algoritmen

Uitzending Tegenlicht stelt vragen bij de risico’s van wiskundige formules.

18 april 2018

Uitzending Tegenlicht stelt vragen bij de risico’s van wiskundige formules.

Algoritmes zijn tegenwoordig overal. Ze bepalen of je een baan krijgt, in aanmerking komt voor een hypotheek en wie er fraudeert met bijstandsuitkeringen. Algoritmes kunnen razendsnel beslissingen nemen op basis van een enorme hoeveelheid data. Daarmee zijn ze efficiënter dan mensen, maar zijn ze ook beter? Komende zondag besteedt Tegenlicht een hele uitzending aan deze vraag.

Steeds meer bedrijven, overheden en diensten gebruiken big data en slimme wiskundige formules om bureaucratische processen te automatiseren. Maar we moeten daarbij alert blijven, waarschuwt bijvoorbeeld Prins Constatijn, ambassadeur van StartUpDelta. “Wie gaan al deze algoritmes schrijven? Als dat alleen China of Amerika is...”. Hij pleit voor eigen Nederlandse algoritmes en organisaties om die technologie uit te baten. Niet alleen om zo economische kansen te creëren, maar ook om Nederlandse jurisdictie en het systeem van normen en waarden hier, aldus de prins.

Risico’s van algoritmes

D66-Kamerlid Rens Raemakers waarschuwde in Kamervragen afgelopen week ook voor de gevaren van ‘historische vooroordelen’, onjuiste data en gebrekkige inzichtelijkheid bij de bestrijding van bijstandsfraude. “Algoritmes kunnen heel positief zijn, maar ze kennen ook risico’s”, stelde hij. De uitzending van Tegenlicht laat zien dat er onder wiskundigen en programmeurs het besef begint te ontstaan dat algoritmes niet neutraal zijn en mogelijk fouten bevatten. Moeten we ons wel blind laten leiden door de beslissingen van een wiskundige formule?

VPRO Tegenlicht: Verslaafd aan het algoritme
Zondag 22 april, 21:05 uur op NPO 2

Lees meer over
Lees meer over Innovatie & Strategie OP AG Intelligence
4
Reacties
Peter 19 april 2018 10:43

Niet lokale algoritmes maar decentrale open source algoritmes moeten er meer komen. Zo kan je altijd de algoritmes controleren en weet je ook zeker dat er niet mee gerommeld kan worden.

van Zanten 18 april 2018 19:39

"Algoritmes kunnen razendsnel beslissingen nemen op basis van een enorme hoeveelheid data". Waar komt deze wijsheid vandaan? Algoritmes nemen geen beslissingen, die maken alleen verbanden, afwijkingen of patronen zichtbaar waarbij er doorgaans een score is op hoe betrouwbaar dit is.

"De uitzending van Tegenlicht laat zien dat er onder wiskundigen en programmeurs het besef begint te ontstaan dat algoritmes niet neutraal zijn en mogelijk fouten bevatten." Wat is neutraal? Er kan zowel bias zitten in de gehanteerde data als de wijze waarop bijvoorbeeld een model (met algoritmes) is getraind. Dat is niet nieuw, dit wisten we 25 jaar geleden ook al. Alleen gebruiken we nu zulke grote hoeveelheden data of complexe neurale netwerken dat andere methoden van controle en borging nodig zijn om uitkomsten te toetsen en waar nodig bij te sturen. Dat je wiskunde ook voor minder mooie dingen kunt gebruiken is een gegeven, dat ligt echter niet aan de wiskunde zelf.

Martin Stevense 18 april 2018 14:29

Algoritmes die afhankelijk zijn van cultuur kun je best bestempelen als 'lokale algoritmes'. Jochem heeft gelijk: duidelijkheid over de algoritmes per applicatie en/maar ook per land of cultuur is (veel) beter. Vaak worden Amerikaanse algoritmes vanwege de wetenschappelijke onderbouwing (experimenten in grote omvang) als valide gezien, waarna de hele wereld daarmee wordt vergeleken. Het onderkennen van cultuurgebondenheid is zinnig.

Jochem 18 april 2018 13:25

Wat zou er worden bedoeld met "eigen Nederlandse algoritmes"? Zitten algoritmes niet gewoon in applicaties, en ben je bij gebruik van bepaalde toepassingen eigenlijk ook (inderdaad, soms impliciet) akkoord gegaan met het karakter en de herkomst van die logica? Je kunt in een niet-Nederlandse toepassing niet zomaar Nederlandse algoritmes stoppen.

Met andere woorden: van WeChat, Facebook, Spotify, Instagram, Amazon en Twitter hoef je ook geen "Nederlandse" algoritmes te verwachten. Die implementeren een logica ter ondersteuning van hun bedrijfsmodel, hopelijk nog wel conformerend aan de wetgeving van de landen waar ze actief zijn.

Je kunt proberen Nederlandse toepassingen maken met "Nederlandse" logica (wat dat ook moge zijn). Maar als mensen in andere landen dezelfde keuzes maken of vergelijkbare nationalistische voorkeuren hebben, wordt de potentiële markt voor die applicaties wel behoorlijk beperkt. Het Nederlandse Hyves is bijvoorbeeld wegens dalend gebruik door de internationale concurrentie van Facebook in 2013 gestopt.

Kansrijker dan een roep om "eigen Nederlandse algoritmes" lijkt mij transparantie van dienstaanbieders over de kern van hun bedrijfsmodel, hoe zij omgaan met door hen verzamelde gegevens, en wat zij precies van individuen bijhouden (incl. een onafhankelijke controle daarop). Als dat beter en duidelijker bekend is, kunnen consumenten voor zichzelf wel de juiste beslissingen nemen.

Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.