Industrie moffelt energieverbruik AI-hardware graag weg

Het gebruik van grote AI-modellen levert significante milieukosten op, constateren de opstellers van het AI100-rapport gepubliceerd door Stanford University. Veel van de mensen die werken in dit vakgebied zijn zich bewust van de voetafdruk die hun werk met zich meebrengt. Daartoe behoren niet de leveranciers van de apparatuur, signaleert ZDNet fijntjes.

De gisteren uitgekomen editie van de MLPerf-benchmark draait eigenlijk alleen om het vergelijken van de prestaties van de verschillende hardware bij de inzet op machinelearningtaken zoals beeldherkenning en natuurlijke taalverwerking. Ten opzichte van de vorige versie van de benchmark die in april uitkwam, nam het aantal inzendingen waar wel iets over het energieverbruik van het betreffende apparaat werd verteld, spectaculair af.

Verbruik minder vermeld

Van de in totaal 1800 inzendingen bevatten er nog slechts 350 inzage in de energieconsumptie, tegen 864 in de voorgaande versie van de benchmark. Energieverbruik en prestaties zijn typisch twee zijden van de weegschaal. Een verbetering van de een betekent doorgaans een verslechtering bij de ander. Het feit dat de leveranciers het vooral willen hebben over de toegenomen prestaties geeft aan dat hun aandacht voor het reduceren van het energieverbruik op zijn hoogst op de tweede plaats komt.

Het is overigens pas de tweede keer dat MLCommons de specificaties voor energieverbruik opneemt in de MLPerf-benchmark. Om data te verzamelen over het verbruik en de prestaties, zodat deze vermeld kunnen worden in de inzending, zijn testtijd en dus mankracht en geld nodig. Leveranciers maken dus keuzes waar ze hun beschikbare bronnen voor in willen zetten, zegt David Kanter operationeel directeur bij MLCommons tegen ZDNet.

Hard werken

Nvidia -dat 11% van zijn inzendingen liet vergezellen van data over energieverbruik- onderschrijft dat aspect als belangrijkste reden voor het weglaten van de verbruiksgegevens. Volgens senior product manager Dave Salvator moeten de technici rond de klok werken om de inzendingen op tijd af te krijgen. Dan krijgen prestatietests al gauw de voorkeur.