Van AI-vertrouwen naar AI-eigenaarschap
AI neemt steeds vaker zelfstandig beslissingen. Dat biedt organisaties snelheid en efficiëntie, maar roept ook een fundamentele vraag op: wie is verantwoordelijk als het misgaat?
© 3rdtimeluckystudio
Veel managers vertrouwen AI inmiddels meer dan hun eigen collega’s. Uit onderzoek blijkt dat twee derde (67%) gelooft dat AI betere beslissingen neemt dan de meeste managers. Dat vertrouwen is niet vreemd, want AI is consistent, verwerkt meer data dan een mens ooit kan overzien en presteert beter op afgebakende taken. Maar vertrouwen in een uitkomst is iets anders dan begrip van een proces. Als je niet weet op basis van welke data of regels een besluit is genomen, kun je die niet uitleggen, laat staan verdedigen als het misgaat.
Wanneer niemand eigenaar is van een AI-beslissing, ontstaat een gebrek aan verantwoordelijkheid. Bijvoorbeeld wanneer een autonoom systeem een leveranciersbetaling goedkeurt die achteraf frauduleus blijkt. Wie is er dan verantwoordelijk? Binnen de meeste organisaties is dat nog onduidelijk. Daarom is het belangrijk dat governance vanaf het begin onderdeel uitmaakt van de implementatie.
In drie stappen van vertrouwen naar eigenaarschap
Stap 1: Definieer eigenaarschap
Eigenaarschap is niet hetzelfde als schuld. Schuld gaat over wie je achteraf aanwijst als het misgaat, maar eigenaarschap gaat over wie vooraf de verantwoordelijkheid neemt. De eigenaar is degene die de kaders stelt, meekijkt en ingrijpt wanneer dat nodig is. Het is degene die ervoor zorgt dat fouten worden opgemerkt en gecorrigeerd.
Eigenaarschap beleggen vraagt om bewuste keuzes. Je legt vast wie de kaders stelt waarbinnen AI beslissingen mag nemen, wie de doelstellingen goedkeurt en wie het eerste aanspreekpunt is wanneer een beslissing verkeerd uitpakt. Meestal legt de eigenaar van het proces zelf deze rollen vast, met ondersteuning van de CIO en risicomanagement.
Door deze rollen vooraf te definiëren, voorkom je dat niemand zich verantwoordelijk voelt zodra er iets misgaat. Een handig vertrekpunt hiervoor is dezelfde beslissingsbevoegdheden die je ook aan mensen toekent. Als een medewerker geen betalingen boven een bepaald bedrag mag goedkeuren zonder handtekening, geldt dat ook voor het systeem dat die taak overneemt.
Gerelateerde artikelen
Stap 2: Stel uitlegbaarheid als harde eis
De eigenaren uit stap 1 kunnen hun rol alleen waarmaken als ze begrijpen waarom AI een bepaalde beslissing heeft genomen. Je kunt pas verantwoordelijkheid dragen voor een beslissing wanneer je die kunt uitleggen en, indien nodig, corrigeren.
Uitlegbaarheid is alleen haalbaar als je het als eis stelt bij de implementatie, niet als wens achteraf. Zorg dat elk autonoom besluit traceerbaar is. Leg vast wat het systeem besluit, op basis van welke data, en met welk resultaat. Zo kun je autonome beslissingen terugdraaien of reconstrueren, het systeem verbeteren en grip houden op wat er in naam van jouw organisatie wordt besloten.
Dit vastleggen stelt je tevens in staat om verantwoording af te leggen. Verantwoordelijkheid dragen betekent niet alleen dat je zelf begrijpt waarom een beslissing is genomen, maar ook dat je dat kunt aantonen aan een klant, accountant of toezichthouder. Met wetgeving als de EU AI Act in aantocht wordt die aantoonbaarheid steeds vaker een harde eis. Daar bereid je je maar beter op voor.
Stap 3: Begin klein
Vertrouwen bouw je niet door direct grote, onomkeerbare beslissingen aan AI over te laten. Begin met processen waar een fout te overzien of te herstellen is, zoals interne planning, of routinematige goedkeuringen die volgens duidelijke vastgelegde richtlijnen verlopen. Zo leer je hoe een autonoom systeem beslist, waar de grenzen liggen en hoe je de escalatiepaden inricht. Die bepalen bij welk bedrag, risico of twijfelgeval het systeem een beslissing uit handen geeft, wie die dan overneemt en op basis van welke informatie diegene oordeelt.
Autonome beslissingen brengen verantwoordelijkheid mee. Het echte werk zit in je organisatie zo in te richten dat je die verantwoordelijkheid ook kan waarmaken. Dat betekent klein beginnen, uitlegbaarheid als standaard inbouwen en vooral eigenaarschap definiëren. En dit lost precies op wat managers wakker houdt: die verantwoordelijkheid zonder grip. Eigenaarschap geeft die grip terug.
Neem opnieuw die leveranciersbetaling die frauduleus blijkt. Een organisatie die deze stappen heeft gezet, weet wie verantwoordelijk is, weet hoe de beslissing tot stand kwam, en kan het corrigeren. Zou jij kunnen aanwijzen wie verantwoordelijk is als een autonoom systeem de verkeerde beslissing neemt?
Reacties
Om een reactie achter te laten is een account vereist.
Inloggen Word abonnee