Meer aanbod van krachtige AI-chips komt in zicht, verlicht druk op hoge prijzen

De Gaudi 3-chip van Intel is een op genAI toegespitste accelerator. Deze taakgerichte processor brengt prestatieverbeteringen die niet alleen ten opzichte van de voorgaande Gaudi-generatie voordelen belooft. Fabrikant Intel trekt de vergelijking met de H100-chips van AI-hardwaregigant Nvidia. Daarbij presteert de Gaudi 3 in bepaalde AI-modellen wel 50% beter. Bijvoorbeeld qua snelheid voor het trainen van de Llama2 7B- and 13B-modellen van Meta en het GPT-3 175B-model van OpenAI. Intel benadrukt ook de efficiency, wat dus lagere energiekosten kan betekenen.

Haasje over spelen

Ondertussen heeft Nvidia al wel zijn volgende generatie onthuld, die in verschillende uitvoeringen uitkomen. De H200, de B200 en de dubbel uitgevoerde GB200 beloven hogere prestatieniveaus én lager energieverbruik. De H200 komt in het tweede kwartaal van dit jaar uit, net zoals Intels nieuwe Gaudi 3 die de fabrikant nu dus positioneert ten opzichte van de H100. Die chip van Nvidia draait onder het leeuwendeel van de AI-modellen en -toepassingen. Analisten schatten dat Nvidia nu 98% van de markt voor datacenter-GPU's (ofwel AI-chips) in handen heeft.

De komst van de Gaudi 3-chips is eerst voor computerfabrikanten, die dan hun systemen gaan aanbieden aan hun klanten. Onder de directe afnemers van Intel bevinden zich Dell, Hewlett Packard Enterprise, Lenovo en Supermicro. Algemene beschikbaarheid van Gaudi 3-accelerators volgt in het derde kwartaal en een losse PCI Express-insteekkaart komt naar verwachting in het vierde kwartaal van dit jaar.