Lessen van: Amazons seksistische recruitment-AI
Over AI leven veel misverstanden en ook zorgen, die deels terecht zijn. Bijvoorbeeld over ethiek en vooroordelen. Laatstgenoemde kunnen komen vanuit de mens, die als developer immers de algoritmes ontwikkelt waarmee AI’s opereren. Maar vooroordelen kunnen ook komen vanuit de data, waarmee AI’s leren. Zoals Amazons seksistische recruitment-AI, die stilletjes weer is geschrapt.
© Shutterstock
Shutterstock
Vooroordelen zijn in AI-context ook wel bekend als bias (in ICT-voertaal Engels) en vormen een flink probleem. Net zoals bij vooroordelen in menselijke context zijn ze vaak ongezien – of worden ze zelfs ontkend – door de ‘oordelende’ partij. Een vooroordeel is dan de norm, en andersdenkenden worden als klagers of zeurders gezien.