Agentic AI faalt zonder ‘levende’ kennis van de organisatie

Agentic AI faalt niet vanwege gebrek aan denkvermogen, maar aan diep ingebedde context-informatie over de organisatie, stelt Srivastava in een opinie-artikel bij zakenblad Forbes. Zonder een structurele aanpak om institutionele kennis vast te leggen en bij te houden, blijft AI-autonomie oppervlakkig en kwetsbaar. Alleen met een ‘digital brain’ kan AI duurzame autonomie bieden in complexe ondernemingscontexten. Hij schetst dat er een tweedeling ontstaat tussen organisaties met een digital brain plus sterke modellen, en degenen met goede demo’s maar blijvende afhankelijkheid van menselijke begeleiding.

Organisaties veranderen voortdurend

In experimenten onder vertrouwde omstandigheden zijn de prestaties van agentic AI vaak indrukwekkend. Zelfs zo zeer dat Srivastava zegt er zelf nog steeds een wat ongemakkelijk gevoel bij te krijgen hoe goed ze autonoom te werk gaan. Aan het denkvermogen ligt het dus niet. Het probleem doet zich pas voor wanneer de agents in operationele workflows uitzonderingen tegenkomen of moeten kunnen terugvallen op impliciete kennis. Dat is bijvoorbeeld het geval omdat organisaties voortdurend veranderen en regelgeving wijzigt. Mensen zijn heel goed in het aanpassen op dergelijke situaties, omdat ze ingebed zijn in de cultuur en de collectieve kennis van de organisatie. AI-agents hebben die bagage niet, of in ieder geval nog niet. Het gevolg is dat het proces stopt, of ernstiger: de agent gaat hallucineren en fouten maken, waardoor de mens moet ingrijpen en de autonomie van het proces is verdwenen.

Wat nog ontbreekt is wat hij omschrijft als het digitale brein van de AI-agents, een levend systeem dat continu leert, zich aanpast aan veranderingen in het bedrijf en beslissingen neemt binnen governance-kaders. Srivastava ziet het als een belangrijke taak vanuit de top van ondernemingen om niet alleen de vraag te stellen ‘kan het model het?’, maar daaraan toe te voegen ‘kunnen we het vertrouwen, beheren en uitleggen?’ De volledige blog is te lezen bij Forbes.