Development

Software-ontwikkeling
Wil je wat bias bij je bias?

Wil je wat bias bij je bias?

De wereld biasvrij maken, is nog niet zo gemakkelijk.

© CC0: pixabay.com EilsaRiva
5 juni 2019

Om mijn college-slides wat op te leuken zoek ik altijd plaatjes van kunstwerken; Seurat, Dalí, Jeroen Bosch, van alles komt langs. Deze week ging mijn college over ‘selection bias’ in de techniek in het algemeen en de IT in het bijzonder.

Vrouwelijke onderzoeksdeelnemers, daar kijken we niet altijd goed genoeg naar. Zo worden pas sinds 2010 (!) vrouwelijke crashtestdummies gebruikt. Eerder had niemand eraan gedacht dat vrouwen vaak korter en lichter zijn en dus andere verwondingen overhouden aan een ongeluk.

Ook in de IT doen we dat niet altijd zorgvuldig: uit recent onderzoek bleek dat maar 60% van de papers over user interfaces rapporteerde over het geslacht van deelnemers, en maar 13% over het ras. En wat je niet kunt zien, kan je ook niet helpen bij het begrijpen en verbeteren van software.

Eerder was er door niemand aan gedacht dat vrouwen vaak korter en lichter zijn

Door dit onderwerp ging ik eens over mijn eigen bias denken. Verdorie toch, had ik nou al die tijd alleen maar mannelijke kunstenaars in mijn slides staan? Dat is niet best! Waarom niet ook een paar mooie werken van vrouwen erbij om ook daar de bias te doorbreken. Snel even een Googletje op ‘famous artworks by women’ dan maar en iets leuks uitkiezen! Helaas was het zo makkelijk niet… Van de 23 gesuggereerde kunstwerken waren er 19 van mannen. Op de meeste van de suggesties stond dan wel een vrouw als hoofdonderwerp, maar ook de Nachtwacht was een van de werken en daar staat niet eens een vrouw op (alleen een jong meisje). Hoe kan dat nou? Ik wijdde er een tweet aan naar Google die ook nog netjes beantwoord werd:

“The short answer is meaning that's easy for a human to understand can sometimes be hard for a search engine. Maybe we interpret ‘by’ as ‘of’.”

Tja, ik snap als informaticus natuurlijk prima hoe een algoritme werkt. Mijn vraag was niet echt hoe het technisch komt – alhoewel dit ook niet echt een moeilijke opdracht is – maar meer hoe het kan dat dit niet eerder opgevallen of aangepast is.

Misschien zijn er te weinig mensen daar die zich er druk genoeg om maken om er iets aan te doen

Maar ja, maar 20% van de programmeurs bij Google is vrouw, dus misschien zijn er te weinig mensen daar die zich er druk genoeg om maken om er iets aan te doen. En zo is de cirkel weer rond, en heb ik er dankzij mijn zoekopdracht nog een mooie case bij voor mijn college.

Reactie toevoegen
1
Reacties
Bop 14 juni 2019 10:56

Baaijas?
Is dat soort vooroordeel?
Klinkt wel vet koel hoor.