Gespecialiseerde AI-servers veel goedkoper en kleiner

Een huidige opstelling met 22 racks CPU-servers die 20 miljoen dollar kost, kan straks vervangen worden door 4 racks met de nieuwe A100-GPU-servers die dan slechts 3 miljoen dollar kost, rekent Paresh Kharya voor Hij is de product marketing directeur van Nvidia die gisteren figureerde in een persbijeenkomst waar Venturebeat verslag van doet.

Inmiddels hebben 12 computermakers aangekondigd de nieuwe GPU's te gaan verwerken in hun serveraanbod. Het gaat om Asus, Atos, Cisco, Dell, Fujitsu, Gigabyte, Hewlett Packard Enterprise, Inspur, Lenovo, One Stop Systems, Quanta/QCT en Supermicro. Voor het eind van de zomer komen zeker 30 van die servertypes al beschikbaar, volgens Kharya. Voor het eind van het jaar volgen er nog eens 20.

De A100 GPU van Nvidia werd in mei aangekondigd. De chip heeft 54 miljard transistoren. Een server met 8 A100 GPU's heeft een rekencapaciteit van 5 petaflops, ofwel in de ordegrootte van een half miljoen standaard pc-CPU's. De nieuwe Nvidia GPU is daarmee zo'n 20 keer krachtiger dan zijn voorganger de Volta.

Nieuwe Nvidia-supercomputer in de top 10

Nvidia gebruikte de nieuwe A100-chips zelf voor het bouwen van een nieuwe supercomputer, de Selene. Nvidia gebruikt daarin de nieuwe InfiniBand-interconnecttechnologie die het bedrijf heeft binnengehaald via een overname van Mellanox in 2019. Volgens Nvidia zelf behoort deze supercomputer met een AI-verwerkingskracht van 1 exaflops tot de top 10 krachtigste supercomputers ter wereld.

De Mellanox-InfiniBand-technologie leent zich bij uitstek voor het werk dat gedaan wordt door de computers die weersvoorspellingen genereren. Onder meer het Nederlandse KNMI maakt er gebruik van, zei Kharya.