OpenAI en Broadcom maken samen AI-chip Jalapeño

Door zelfs chips te maken, wordt OpenAI minder afhankelijk van de GPU’s van Nvidia. Ook concurrenten Google en Amazon hebben om vergelijkbare redenen geïnvesteerd in eigen chips. Ook kan OpenAi aanzienlijk besparen als het chips zelf kan produceren, in plaats van extern in te kopen. Die duurzame kostenstructuur zou het bedrijf ook goed uitkomen met het oog op de beursgang die wordt voorbereid, schrijft Venture Beat.

Snelste ontwikkelcyclus ooit

Jalapeño is ontworpen door OpenAI, technologiebedrijf Broadcom leverde de siliciumimplementatie en de netwerktechnologie. In negen maanden tijd doorliepen de bedrijven het hele ontwerpproces, volgens henzelf de snelste ontwikkelcyclus ooit voor een high-performance chip. Het zijn zogenaamde ASIC’s, chips die zijn gemaakt voor een specifieke taak, in dit geval voor het draaien van LLM’s. Volgens OpenAI laten vroege tests zien dat de nieuwe chips snel zijn, maar een gedetailleerd technisch rapport is er nog niet.

Goedkoper

Hock Tan, CEO van Broadcom, liet aan Bloomberg weten dat de chips ook een stuk goedkoper zijn dan gangbare AI-chips. Hij heeft het over een kostenbesparing van maar liefst 50%. Ook hier zijn nog geen onafhankelijke data over beschikbaar.

Microsoft grote afnemer

De prototypes van de Jalapeño zullen eind 2026 worden gemaakt. Tan (Broadcom) laat weten dat in 2027 kan worden opgeschaald tot productie op volle kracht. Microsoft wordt genoemd als belangrijkste afnemer van de chips voor haar datacentra.

Net als Amazon en Google

OpenAI volgt hetzelfde patroon als Amazon en Google. Amazon en Google zijn beide verder dan OpenAI, de Trainium-chips van Amazon zijn al enkele jaren in gebruik, Google werkt al jaren met zelfgemaakte TPU’s, Tensor Processing Units. Ook Microsoft maakt eigen AI-chips.