Innovatie & Strategie

Artificial Intelligence
Explain

Zo legt een AI het wèl goed uit

Elk soort applicatie zijn eigen specifieke uitleg.

© Shutterstock eamesBot
2 januari 2023

De ondoorgrondelijkheid van beslissingen die AI neemt, zorgt voor veel weerstand bij gebruikers. Door de AI zo te ontwerpen dat hij zijn beslissingen kan uitleggen, kan dat probleem opgelost worden. Jasper van der Waa laat zien dat er per doel van de applicatie een specifieke uitleg ontworpen kan worden. 

Kunstmatige intelligentie (AI) helpt software te ontwikkelen die nieuwe inzichten geeft, advies kan geven in onze besluiten en processen en taken kan automatiseren. Het is echter niet altijd bekend hoe AI tot een beslissing komt. Met hedendaagse technieken is het eerder een uitzondering als iemand kan uitleggen hoe dergelijke software tot een uitkomst kwam. Zelfs de ontwikkelaars zijn hier steeds minder vaak toe in staat. Hierdoor gebeurt het helaas ook steeds vaker dat de AI niet goed functioneert

Het probleem is veelal dat mensen niet weten wat er mis is met de AI die ze gebruiken. De gebruikers hebben te weinig kennis over hoe de AI tot een besluit komt. Vaak weerhoudt dit gebruikers ervan de software ook daadwerkelijk in te zetten tijdens hun werk. Denk aan een arts die software naast zich neerlegt, simpelweg omdat hij of zij de software niet begrijpt. Dat terwijl die software mogelijk juist kan leiden tot effectievere medicatie en behandelingen. De noodzaak om een AI beter te begrijpen wordt sterker nu de maatschappij steeds vaker geconfronteerd wordt met wat er gebeurt als deze kennis ontbreekt.

‘Explainable AI’

Een oplossing is om AI te ontwikkelen die zichzelf kan uitleggen aan de mensen die ermee werken. Hierbij neemt het niet alleen een beslissing, maar kan het ook uitleggen waarom het deze beslissing maakt en niet een andere, hoeveel vertrouwen het zelf heeft in die beslissing en wat gedaan kan worden om het besluit te veranderen. Het idee is dat met dergelijke verklaringen een noodzakelijk begrip ontstaat waardoor gebruikers effectief en verantwoord met AI kunnen werken.

 
Lees het hele artikel
Je kunt dit artikel lezen nadat je bent ingelogd. Ben je nieuw bij AG Connect, registreer je dan gratis!

Registreren

  • Direct toegang tot AGConnect.nl
  • Dagelijks een AGConnect nieuwsbrief
  • 30 dagen onbeperkte toegang tot AGConnect.nl

Ben je abonnee, maar heb je nog geen account? Neem contact met ons op!