Innovatie & Strategie

Artificial Intelligence
Samsung HBM Aquabolt

Samsung fuseert geheugen met snelle AI-verwerking

Nieuwe HBM-PIM-chip zou twee keer sneller en 70 procent zuiniger met energie zijn.

Samsung HBM Aquabolt © Samsung
17 februari 2021

Nieuwe HBM-PIM-chip zou twee keer sneller en 70 procent zuiniger met energie zijn.

Samsung heeft gisteren een nieuw type chip voor dataverwerking in het geheugen (in memory processing) gepresenteerd dat is geoptimaliseerd voor kunstmatige intelligentie. De chip zou taken twee keer zo snel kunnen uitvoeren, claimt het bedrijf.

De chip bouwt voort op het in-memoryconcept (PIM) dat Samsung al introduceerde met de HBM2 Aquabolt-chip in 2018. De verwerkingseenheden in het geheugen van de HBM-PIM, zijn nu geoptimaliseerd voor massaal parallelle verwerking. De nieuwe chip zou niet alleen de taken twee keer zo snel uitvoeren maar ook nog eens 70 procent zuiniger zijn wat betreft energieverbruik dan de HBM2 Aquabolt.

De nieuwe chip is nog niet volop in productie. Eerst volgen nu praktijktests door een aantal geselecteerde AI-onderzoekers. Maar deze 'validaties' zouden voor de zomer moeten zijn afgerond. De chip is bedoeld voor gebruik in grootschalige datacentra en high performance computing (HPC)-systemen.

Vermijd transport data

Het trainen en gebruiken van neurale netwerken - de basis van veel AI-applicaties - gaat gepaard met heel veel communicatie tussen geheugen en verwerking. Dat is een zeer energieslurpend onderdeel van het proces. Door de relatief simpele verwerking heel dicht op het geheugen te plaatsen kan dat energieverbruik worden teruggebracht en het proces bovendien sneller verlopen. Daarmee wordt wel afgeweken van de klassieke Von Neumann-architectuur met een strikte scheiding tussen verwerking (CPU), een controle-eenheid, werkgeheugen en opslag.

Hoewel de Von Neumann-architectuur zo'n 75 jaar de basis vormde voor alle computers, hebben steeds meer toepassingen baat bij een andere inrichting op de chip. De HBM-PIM is echter zo opgebouwd dat er geen verandering nodig is aan de hardware of software in de datacentra. De chip kan in bestaande systemen worden ingebouwd.

Samsung geeft deze week een toelichting op de aankondiging, tijdens de International Solid-State Circuits Conference (ISSCC2021

Lees meer over Innovatie & Strategie OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.