Innovatie & Strategie

Analytics
Amazon

Lessen van: Amazons seksistische recruitment-AI

Resultaten uit het verleden geven verkeerde AI-lessen.

© Shutterstock
19 april 2019

Over AI leven veel misverstanden en ook zorgen, die deels terecht zijn. Bijvoorbeeld over ethiek en vooroordelen. Laatstgenoemde kunnen komen vanuit de mens, die als developer immers de algoritmes ontwikkelt waarmee AI’s opereren. Maar vooroordelen kunnen ook komen vanuit de data, waarmee AI’s leren. Zoals Amazons seksistische recruitment-AI, die stilletjes weer is geschrapt.

Vooroordelen zijn in AI-context ook wel bekend als bias (in ICT-voertaal Engels) en vormen een flink probleem. Net zoals bij vooroordelen in menselijke context zijn ze vaak ongezien – of worden ze zelfs ontkend – door de ‘oordelende’ partij. Een vooroordeel is dan de norm, en andersdenkenden worden als klagers of zeurders gezien.

Inputweging

Bij kunstmatige intelligentie kan een vooroordeel er zo ongemerkt inzitten, of na enige tijd insluipen. Het gaat hierbij om algoritmes, maar ook om data. Welke criteria worden er gehanteerd voor hoe informatie wordt opgenomen en behandeld, en welke informatie? Mensen zijn in staat om zulke complexe processen haast automatisch uit te voeren: met bijvoorbeeld weging van informatiebronnen en correctheid of waarheidsgehalte.

Tenminste, mensen zijn hier meestal toe in staat. Zorgen over beïnvloedingscampagnes via social media ondermijnen het vertrouwen in dit menselijk vermogen. Voor computers valt er wel meer te twijfelen aan het vermogen. Ondanks het label 'smart' en het woord 'intelligence' in de afkorting AI kunnen computersystemen relatief dom zijn. Ze doen wat ze wordt opgedragen en garbage in = garbage out.

 
Lees het hele artikel
Je kunt dit artikel lezen nadat je bent ingelogd. Ben je nieuw bij AG Connect, registreer je dan gratis!

Registreren

  • Direct toegang tot AGConnect.nl
  • Dagelijks een AGConnect nieuwsbrief
  • 30 dagen onbeperkte toegang tot AGConnect.nl

Ben je abonnee, maar heb je nog geen account? Laat de klantenservice je terugbellen!