Google geeft inzicht in het verrassend lage energieverbruik van Gemini

Om maar gelijk met de deur in huis te vallen: Google stelt in het technische onderzoek dat een gemiddelde tekstprompt slechts 0,24 wattuur kost. Vergelijkbaar met ongeveer 9 seconden TV-kijken.

Opmerkelijk is dat Google niet alleen het energieverbruik van de AI-chip meet, maar de hele infrastructuur benodigd om tot een antwoord op deze 'gemiddelde prompt' te komen. Dat betekent dat alle ondersteunende hardware, reserveapparatuur en het energieverbruik van het datacenter zelf zijn meegenomen. 

Volgens de techgigant vraagt de AI-chip zelf slechts 58 procent van het totale energieverbruik voor zijn rekening, de rest gaat op aan zaken als geheugen, koeling en stroomomzetting. 

Impact op milieu

Google stopte niet bij het energieverbruik. Het besloot ook te meten wat de impact op het milieu is. Het kwam tot de conclusie dat een gemiddelde prompt 0,03 gram CO2 uitstoot en er 5 druppels water voor nodig waren.

Ook geeft het bedrijf trots weer dat het energieverbruik per prompt dalende is. In mei 2024 had Gemini nog 33 keer zoveel stroom nodig om een gemiddelde prompt te verwerken. Die enorme daling dankt Google aan flinke stappen in optimalisatie van modellen en software. 

De overduidelijke kanttekeningen

Bij een rapport als deze zijn er vanzelfsprekend genoeg kanttekeningen te plaatsen. Om te beginnen gebruikt Google hun inkoop van groene stroom voor de berekening van de uitstoot. Daardoor zijn de emissies van het bedrijf met ongeveer een derde lager dan het gemiddelde in de sector en is het dus niet te vergelijken met een 'gemiddelde prompt' die verwerkt wordt bij andere bedrijven.

Volgens experts zou het eerlijker zijn als Google naar de daadwerkelijke energiemix die hun datacenters gebruiken had gekeken en op basis daarvan de berekening had gedaan. Ook vermoeden experts dat Google niet het hele waterverbruik van deze datacenters mee heeft genomen in de berekeningen.

Een andere overduidelijke kanttekening is het gebrek aan verduidelijking wat nu eigenlijk die 'gemiddelde prompt' is. We weten dat het hier gaat om een pure tekstprompt en dat er geen video's of afbeeldingen mee gegenereerd worden. Maar hoe lang de prompt is en hoe eenvoudig de vraag is, blijft onduidelijk. Google laat hier alleen over weten dat het niet gaat om 'meerdere boeken aan informatie'. 

Daarnaast geeft het rapport inzicht in het energieverbruik voor deze vage prompt, maar geeft het geen inzicht in hoeveel van dit soort vragen Gemini per dag of per uur te verwerken krijgt. Ook toont het hier geen trend in. Het zou kunnen zijn dat AI-gebruik zo hard gegroeid is, dat er nu netto meer impact op het milieu is dan een jaar geleden. 

Ook blijft het Google die bepaalt wat er gedeeld wordt. Onderzoekers pleiten daarom voor een gestandaardiseerde AI-energiescore, vergelijkbaar met het energielabel voor huishoudelijke apparaten.