Innovatie in gaming zorgt wéér voor versnelling datacentra

Deze week bracht goed nieuws voor zowel gamers als exploitanten van datacenters. Voor de gamers introduceerde Microsoft DirectStorage voor Windows, een API die de GPU's grafische data direct van de SSD laat ophalen. Onderzoekers van verschillende universiteiten, Nvidia en IBM presenteerden een ontwerp dat hetzelfde principe toepast voor een snelheidsimpuls bij GPU-verwerking in datacentra.

Thijs DoorenboschMeer van deze auteur

De aankondiging van Microsoft was gericht aan ontwikkelaars die bij het ontwikkelen van games veel levendiger omgevingen kunnen creëren met het aanroepen van DirectStorage, meldt Arstechnica. De crux zit in het omzeilen van de CPU, een tot nu toe noodzakelijke route die voor vertraging zorgt. Een voorwaarde voor het gebruik van DirectStorage is wel dat de SSD, waar de GPU de data vanaf haalt, van het Non-Volatile Memory Express (NVMe)-type is.

Microsoft onthulde het concept van DirectStorage al in 2020. In november dat jaar werd deze DirectX 12 Ultimate API geïntroduceerd in de Xbox Series X/S. In juni dit jaar kondigde Microsoft aan DirectStorage in Windows 11 te verwerken.

Concept voor het datacentrum

Big accelerator Memory (BaM) is een ontwikkeling die op hetzelfde principe berust als DirectStorage, maar dan gericht op toepassing in datacentra, met name voor de versnelling van neurale netwerken en andere massaal parallelle verwerking. Het idee werd gepubliceerd op arXiv.org door onderzoekers de University of Illinois Urbana-Champaign samen Nvidia, IBM, Buffalo University en Stanford University. Het artikel werd opgepikt door The Register. Een belangrijk verschil met DirectStorage van Microsoft is dat de onderzoekers van plan zijn het concept van BaM als open source ter beschikking te stellen.

Coördinatie vertraagt

Volgens de onderzoekers is de architectuur waarbij de CPU alle interactie met het geheugen coördineert, best geschikt voor de meer klassieke toepassingen waarbij een GPU wordt ingeschakeld. Maar de CPU-GPU synchronisatie en het extra I/O-verkeer dat daardoor ontstaat, creëert veel overhead. Deze architectuur is daardoor steeds minder geschikt voor de volgende generatie toepassingen zoals data-analytics, aanbevelingssystemen, graph neural networks die gebruik maken van gedetailleerde data-afhankelijke patronen voor toegang tot het geheugen. Net als bij DirectStorage is voor BaM ook NVMe SSD nodig. Daarbij werkt BaM ook nog met geheugen op de GPU die bestaat uit een via software beheerde cache en een GPU thread software library.

BaM voor het datacentrum is dus opnieuw geïnspireerd op een ontwikkeling gericht op het versnellen van gaming pc's. Ook het inzetten van grafische processoren (GPU's) voor andere taken dan het verwerken van grafische beeldinformatie kwam uit de gamingwereld.