Verantwoorde AI vraagt om meer dan een oplettende mens

Ik heb in mijn loopbaan de nodige hypes gezien, maar deze rondom AI voelt anders. Vooral door de schaal waarop we het toepassen. Tot nu toe is de aanname dat zolang een mens meekijkt, de inzet van AI verantwoord is. Maar de rol van controleur vraagt meer van de mens dan we erkennen. We bouwen een verantwoorde inzet van AI op een menselijke skill die juist afneemt zodra AI goed begint te werken: waakzaamheid.

Wolter Smit is CEO van TOPdesk. Meer van deze auteur

Close up photo lady manicuring — © Shutterstock

AI neemt het herhaalwerk op de werkvloer over. Maar terwijl we AI in rap tempo in processen verweven, komt er een nieuwe herhaalklus bij: het huiswerk van AI nakijken. Wie AI gebruikt weet dat het vaak goed gaat, maar soms spectaculair fout. Menselijke controle blijft essentieel. Maar daar zit precies het venijn. Hoe meer we met AI automatiseren, hoe groter de controlelast wordt.

Review fatigue

We zijn als mens niet eindeloos goed in controleren. Ook dat is herhaalwerk. De eerste keren zullen de meesten AI-output zorgvuldig bekijken. Maar hoe vaker AI het bij het juiste eind heeft, hoe sneller je uitkomsten overneemt. Het is het gevolg van menselijke patroonherkenning.

De logische reflex is om nog een AI op te tuigen die de uitkomsten van de eerste AI controleert. Maar wie houdt dat in de gaten? Nog even en we stapelen toezicht op toezicht. Daarom moeten we voor verantwoorde AI niet op nog meer menselijke waakzaamheid rekenen, maar het fundament onder het systeem versterken. Denk aan lane assist in een auto. Dit werkt, omdat veiligheid in het ontwerp zit en niet is gebaseerd op een aandachtige bestuurder.

Wat het systeem nodig heeft

Hetzelfde principe is voor AI nodig. Bouw vangrails om het systeem in plaats van te rekenen op meer menselijk toezicht. Dat vraagt om drie dingen: vooraf vastgestelde vertrouwensniveaus, traceerbaarheid en context. Het begint met de juiste mate van vertrouwen. Voor een tekstvertaling is 80 procent zekerheid genoeg, voor een handeling met financiële impact is 99 procent te weinig. Maak dat onderscheid, zodat AI weet wanneer een mens moet ingrijpen. Ook moet traceerbaar zijn wat AI doet en wie wat heeft besloten, om van fouten te leren. En tot slot context en kennis. AI is getraind op de wereld, niet op jouw organisatie. Dat printer X alleen via server Y werkt, staat nergens vastgelegd. Wie AI wil opschalen, moet die kennis borgen. Anders blijft AI hangen in het generieke. Dit is vaak een blinde vlek, terwijl het bepaalt of AI-uitkomsten betrouwbaar zijn.

Onder de motorkap

Niemand weet waar het AI-verhaal eindigt. Maar de vraag ligt op tafel: wie houdt het werk van AI straks in de gaten? Het antwoord zit in het fundament onder AI. Eén dat blijft werken zodra mensen minder opletten. Daar zit het succes.