Voor het vertrouwen van de mens in technologie, en specifiek artificial intelligence (AI), is het van het grootste belang dat een goede uitleg kan worden gegeven over hoe besluiten tot stand zijn gekomen. Een recent voorbeeld van de Belastingdienst laat zien dat het vertrouwen en daarmee ook de reputatie een enorme deuk krijgen als er geen of geen goede uitleg wordt gegeven. De context van een AI-toepassing is cruciaal voor een goede uitleg. Bij het ontwerp en de bouw van zo’n toepassing is het daarom zaak om daar vanaf het begin rekening mee te houden. Uiteindelijk moet AI de mens dienen en niet andersom.

De toeslagenaffaire bij de Belastingdienst heeft voor veel ophef gezorgd en doet dat nog steeds. De nieuwe staatssecretaris, Alexandra van Huffelen, moest recentelijk Kamervragen beantwoorden over de kwestie. Daaruit kwam een aantal interessante inzichten naar voren [1]. Gedupeerden pikken het niet langer en willen inzage in hun dossier. Maar het blijkt dat dit wel maanden tot een halfjaar kan duren, omdat het samenstellen van een dossier gemiddeld 400 uren kost. Daarnaast blijkt dat de informatiebehoeften van gedupeerden niet altijd aansluiten bij het ingediende verzoek 'inzage dossier'. De Belastingdienst gaat nu telefonisch contact opnemen met gedupeerden om te achterhalen aan welke informatie zij het meeste behoefte hebben. Kortom, mensen hebben behoefte aan uitleg van besluiten die hen raken. Die uitleg moet snel en gemakkelijk beschikbaar kunnen komen en moet specifiek gemaakt kunnen worden. Deze inzichten bevatten belangrijke lessen voor ontwerpers en bouwers van toepassingen op het gebied van AI. Deze toepassingen worden immers steeds complexer, waarbij het niet altijd meer duidelijk is hoe keuzes of besluiten tot stand zijn gekomen: de machine als black box. Het is van groot belang dat die uitleg wel aansluit bij de belevingswereld van de gebruiker, zoals een klant, aanvrager of patiënt. Gebeurt dat niet, dan stapelen affaires zoals bij de Belastingdienst zich op, zeker als in de nabije toekomst steeds meer besluiten op basis van AI tot stand komen.