Voorkom falende AI door te trainen op fouten
Grip krijgen op hoe machine learning systemen hun beslissingen maken, is een belangrijk onderzoeksterrein. Het doel is van de black box die de machinelearningalgoritmen nu zijn, te komen tot een 'white box', zegt Jakub Zavrel, machinelearningspecialist en CEO van Textkernel, een bedrijf dat op basis van machine learning matches maakt tussen vraag en aanbod op de arbeidsmarkt.
© Shutterstock
Shutterstock
"AI is gereedschap voor mensen dat als ieder goed gereedschap ook effectief door mensen bedienbaar moet zijn. Recruiters die onze software gebruiken kunnen zo eenvoudig zien waarom een bepaalde persoon hoog in de match-resultaten eindigt met een vacature." Zavrel reageert op verzoek van AG Connect op het artikel 'Licht in black box van machine learning'. De vrees is dat het gebruik van blackbox-systemen makkelijk aanleiding geven tot het automatiseren van vooroordelen. "Door goede methodologie te gebruiken en nauwkeuriger voor dit soort variabelen te corrigeren kan ML juist 'minder bias' opleveren", zegt Zavrel.