Meeste techleiders kunnen AI-beslissingen niet uitleggen

Voor het onderzoek, dat voor het vijfde jaar op rij verschijnt, ondervroegen FICO en Corinium 1.004 bestuurders en senior managers op het gebied van technologie, risicomanagement en data. Ruim een derde van hen (37%) staat neutraal tegenover de vraag of ze AI-beslissingen kunnen verantwoorden, of heeft daar weinig tot geen vertrouwen in.

“De meeste organisaties kunnen vertellen wat hun AI-systemen hebben besloten en waar in het proces die beslissingen zijn genomen. Veel minder organisaties kunnen ook uitleggen wáárom die keuze is gemaakt”, zegt Scott Zoldi, Chief Analytics Officer bij FICO, in een toelichting op het rapport.

Klantbeslissingen

Dat gebrek aan uitlegbaarheid remt de inzet van AI. Volgens de respondenten wordt 72% van de beslissingen met klantimpact nog altijd zonder AI genomen: door mensen (33%), op basis van vaste regels (21%) of met standaardanalyses (17%). Opvallend, want 85% zegt dat AI de verwachtingen over het rendement waarmaakt of zelfs overtreft.

Als belangrijkste stap naar verantwoord AI-gebruik noemen respondenten vaste richtlijnen voor de ontwikkeling van AI-modellen (72%) en modellen waarvan de werking direct inzichtelijk is (68%). Ruim de helft gebruikt al tools om bias op te sporen (59%) of controleert de eigen modellen regelmatig (54%).

Versnipperde infrastructuur

Een ander knelpunt is de technische basis. Slechts 8% beschikt over één volledig operationeel, gedeeld platform voor AI; bij 71% is zo’n platform gedeeltelijk ingevoerd. Daarnaast noemen respondenten weerstand tegen verandering (61%) en een gebrek aan gedeeld begrip van AI (58%) als grootste obstakels om intern op één lijn te komen.

Voor de komende vijf jaar ziet 63% het achterblijven van de vaardigheden van medewerkers als een van de grootste uitdagingen. Verlies van controle over AI-systemen baart met 10% de minste zorgen.

Agentic AI blijft steken in pilots

Agentic AI is nog nauwelijks doorgedrongen in klantgerichte toepassingen: slechts 2% zet het op grote schaal in, terwijl 72% nog verkent of experimenteert. Beveiligingszorgen (40%) en problemen met data-integratie of datakwaliteit (38%) zijn de meest genoemde obstakels. Voor de komende anderhalf jaar verwachten tech-leiders meer rendement van domeinspecifieke taalmodellen (50%) en generatieve AI (49%) dan van AI-agents (28%).