Innovatie & Strategie

Artificial Intelligence
Algortimsich denken

Explainable AI: het recht op een goede uitleg

Verantwoord toepassen van AI vereist goede uitleg van geautomatiseerde besluitvorming 

© Shutterstock
11 augustus 2020

Voor het vertrouwen van de mens in technologie, en specifiek artificial intelligence (AI), is het van het grootste belang dat een goede uitleg kan worden gegeven over hoe besluiten tot stand zijn gekomen. Een recent voorbeeld van de Belastingdienst laat zien dat het vertrouwen en daarmee ook de reputatie een enorme deuk krijgen als er geen of geen goede uitleg wordt gegeven. De context van een AI-toepassing is cruciaal voor een goede uitleg. Bij het ontwerp en de bouw van zo’n toepassing is het daarom zaak om daar vanaf het begin rekening mee te houden. Uiteindelijk moet AI de mens dienen en niet andersom.

De toeslagenaffaire bij de Belastingdienst heeft voor veel ophef gezorgd en doet dat nog steeds. De nieuwe staatssecretaris, Alexandra van Huffelen, moest recentelijk Kamervragen beantwoorden over de kwestie. Daaruit kwam een aantal interessante inzichten naar voren [1]. Gedupeerden pikken het niet langer en willen inzage in hun dossier. Maar het blijkt dat dit wel maanden tot een halfjaar kan duren, omdat het samenstellen van een dossier gemiddeld 400 uren kost. Daarnaast blijkt dat de informatiebehoeften van gedupeerden niet altijd aansluiten bij het ingediende verzoek 'inzage dossier'. De Belastingdienst gaat nu telefonisch contact opnemen met gedupeerden om te achterhalen aan welke informatie zij het meeste behoefte hebben. Kortom, mensen hebben behoefte aan uitleg van besluiten die hen raken. Die uitleg moet snel en gemakkelijk beschikbaar kunnen komen en moet specifiek gemaakt kunnen worden. Deze inzichten bevatten belangrijke lessen voor ontwerpers en bouwers van toepassingen op het gebied van AI. Deze toepassingen worden immers steeds complexer, waarbij het niet altijd meer duidelijk is hoe keuzes of besluiten tot stand zijn gekomen: de machine als black box. Het is van groot belang dat die uitleg wel aansluit bij de belevingswereld van de gebruiker, zoals een klant, aanvrager of patiënt. Gebeurt dat niet, dan stapelen affaires zoals bij de Belastingdienst zich op, zeker als in de nabije toekomst steeds meer besluiten op basis van AI tot stand komen.

 
Lees het hele artikel
Je kunt dit artikel lezen nadat je bent ingelogd. Ben je nieuw bij AG Connect, registreer je dan gratis!

Registreren

  • Direct toegang tot AGConnect.nl
  • Dagelijks een AGConnect nieuwsbrief
  • 30 dagen onbeperkte toegang tot AGConnect.nl

Ben je abonnee, maar heb je nog geen account? Laat de klantenservice je terugbellen!