Deloitte betaalt geld terug na AI‑blunders in overheidsrapport

Deloitte Australia betaalt een deel terug aan de federale overheid, nadat fouten zijn ontdekt in een rapport ter waarde van 440.000 Australische dollar (ongeveer 250.000 euro), dat meldt de Australische versie van The Guardian. De consultancy erkent dat bij de totstandkoming generatieve AI is ingezet en geeft aan dat het de laatste betaling van de overheid zal terugstorten. De hoogte hiervan wordt later bekend gemaakt.

Na publicatie van het rapport op 4 juli bleek dat het document meerdere onjuistheden bevatte, waaronder niet‑bestaande referenties en citaties. Met andere woorden: de consultants van Deloitte hadden niet de moeite genomen om de hallucinaties van de gebruikte AI te verwijderen of het rapport te controleren op dit soort fouten.

Een Australische senator zag deze fout als genoeg reden om met twee gestrekte benen Deloitte aan te vallen en sprak van een “human intelligence problem” bij de consultancy.

Universiteit van Sydney bracht de fouten aan het licht

De fouten kwamen aan het licht dankzij universitair docent Christopher Rudge (University of Sydney), die wijst op zogeheten de hallucinaties. Volgens Rudge zijn in de herziene versie meerdere nieuwe verwijzingen toegevoegd, wat erop kan wijzen dat Deloitte van de fouten wist en deze alsnog probeerde te verbergen. Het wijst er in ieder geval op dat eerdere 'feiten' niet op een concrete bron waren gebaseerd.

Deloitte schrijft in de update dat een “klein aantal” voetnoten en referenties is gecorrigeerd, maar dat de inhoudelijke bevindingen en aanbevelingen onveranderd zijn. In de appendix vermeldt de firma expliciet het gebruik van Azure OpenAI GPT‑4o, een generatieve AI‑toolketen die door DEWR is gelicenseerd en in diens Azure‑omgeving draait.

Deloitte pocht over kracht van AI

Hoewel de consultants dus maar tot op zekere hoogte hun foutief handelen erkennen en er ook deel van proberen af te schuiven, is het opmerkelijk om te zien dat juist Deloitte hierdoor in de kijker komt te staan. Het bureau zet zichzelf de laatste tijd juist in de schijnwerpers als een bedrijf dat enorm in de technologie investeert.

Afgelopen maandag kondigde Deloitte nog een samenwerking met AI-maker Anthropic aan. Het zou AI-chatbot Claude beschikbaar maken voor bijna een half miljoen werknemers en partners. Als onderdeel van deze samenwerking zou het ook AI-agents gaan maken die elk van de afdelingen van het bedrijf zouden kunnen vertegenwoordigen.