Ethiek by design noodzakelijk maar niet genoeg

Waar was jij op 11 september 2001? Die vraag kan waarschijnlijk alleen worden beantwoord door jouzelf en een handjevol familie en vrienden. Word je gevraagd waar je vandaag was, dan kan het antwoord worden gegeven aan de hand van geautomatiseerde beeld- en geluidsherkenning van de inmiddels alom aanwezige camera’s, door de bedrijven die de locatiegegevens van je telefoon gebruiken of sporen achterlatende internet of things. Zo bleek het bijvoorbeeld niet meer mogelijk om digitaal ongezien van de Haarlemmerpoort naar de Muiderpoort in Amsterdam te fietsen. Wat je politieke voorkeur is, welke producten je interesse hebben, wie je vrienden zijn, hoe gezond je bent: allemaal bekend door de exponentiële groei van data en de – vaak zonder dat je het weet – (cross)analyses op groeps- en persoonsniveau. Steeds meer besluitvorming vindt plaats door algoritmen, gevoed door data inclusief aanwezige bias. Wat zullen de gevolgen van deze ontwikkelingen zijn? Mensen moeten erop kunnen vertrouwen dat goede afwegingen zijn gemaakt op basis van wetten, normen en waarden voordat ‘computer says no’. Wat betekent dat voor het ontwerp van technologie?