Beheer

Infrastructuur

Koelen met warm water

25 januari 2013

Ingenieurs wringen zich in allerlei bochten om de koeling van computers zo effectief mogelijk te maken. Er wordt gewerkt met een combinatie van diverse technieken zoals het zuiniger maken van de hardware, het verlagen van de thermische weerstand en het gebruik van geavanceerde koelmiddelen en warmtegeleiders.

De eerste sector waar dergelijke combinaties worden beproefd is die van de supercomputers; de ervaring leert dat de technieken die daar worden bedacht binnen een jaar of vijf ook in de mainstream terecht komen.

Op supergebied wordt de kar getrokken door IBM en Bull. IBM bouwde voor het Leibnitz Rechenzentrum (LRZ) het systeem met de naam SuperMUC.“Die hardware kunnen we koelen met warm water, om het zo maar te noemen. De koelvloeistof mag een temperatuur hebben van 45 graden Celsius. Dat is voor dagelijks gebruik, in het lab hebben we al een zogeheten technology demo gebouwd waar koelwater van 65 graden gebruikt kan worden om processors te koelen”, zegt Bruno Michel van IBM Research uit Zürich. In de praktijk zal de temperatuur van het koelmedium eerder in de buurt van de 30 graden liggen.

Bull gebruikt koeling met warme vloeistof in de Bullx-serie supercomputers, die commercieel op de markt worden gebracht. “Met een temperatuur van 35 graden kunnen we alle onderdelen van een systeem op de juiste werktemperatuur houden. Als vuistregel hanteren we dat een processor niet heter mag worden dan 50 graden, een SSD zich het lekkerst voelt als het niet warmer wordt dan 40 graden en een harde schijf houden we onder de 35 graden”, zegt Pascale Bernier-Bruna van de High Performance Computing (HPC) afdeling van Bull. Bij IBM wordt een hogere werktemperatuur aangehouden. “Wij laten de processors werken op maximaal 85 graden Celsius, de perifere chips mogen 70 graden heet worden”, aldus Michel.

Zo heet als in de Sahara

Het koelen van krachtige computers met lucht is tegenwoordig de meest gebruikte techniek, vanwege de eenvoudige toepasbaarheid. Er hoeft geen aparte waterleiding te worden aangelegd. Nadeel is wel, dat het op gang brengen en houden van een luchtstroom energie kost. Ook kan de temperatuur in de ‘warme gang’ hoog oplopen. De ‘hot aisle’ bij de Nederlandse nationale supercomputer Huygens staat bekend als ‘de Sahara’. Wie de hitte van bijna 40 graden in die gang meemaakt, weet waarom.

“Bij vloeistofkoeling komen dergelijke hoge temperaturen niet voor, de computerruimte heeft dan min of meer kamertemperatuur”, zegt Bernier-Bruna. IBM gebruikt water als koelmiddel, Bull heeft een vloeistof met speciale samenstelling. “Het is de bedoeling dat de vloeistof een zo groot mogelijke warmtecapaciteit heeft, zodat de hitte snel kan worden afgevoerd”, zegt Bernier-Bruna.

Die warmte moet dan ook wel makkelijk bij het koelmedium kunnen komen, anders heeft de hele installatie geen zin. Het gaat erom, dat de thermische weerstand tussen de hete onderdelen en het koelmedium zo laag mogelijk wordt. Bernier-Bruna: “Onze ingenieurs maken daarvoor gebruik van een koude plaat (cold plate), een schijf aluminium die direct contact maakt met de hete onderdelen. Het koelmiddel stroomt door kanalen in die cold plate. Waar nodig gebruiken we een speciale gel of een vetlaagje om het contact tussen onderdeel en plaat beter te maken. Banken met geheugenchips worden in een eigen koellichaam gemonteerd, dat daarna op de koude plaat wordt geschroefd.”

IBM maakt gebruik van gelaagde constructies met kanaaltjes ertussen waarin water kan stromen. Hoe warmer een bepaald onderdeel kan worden, des te meer kanaaltjes zijn er. “Wij zijn bij IBM eigenlijk weer terug bij onze roots, want de eerste mainframes in de jaren 60 waren ook voorzien van een waterkoeling. De effectiviteit van die koeling was wel een stuk minder dan wat we nu gebruiken, maar het principe is hetzelfde gebleven. We gebruiken een koelmedium dat veel beter in staat is warmte op te nemen en af te voeren dan lucht. Het systeem is hermetisch gesloten, het koelwater blijft altijd binnen de computer. Uiteraard controleren we dat van te voren, door het koelsysteem onder hoge druk te testen. Lekken worden zo uitgesloten”, zegt Michel.

Ideaal voor koudere klimaten

Vloeistofkoeling is ideaal geschikt voor gebruikers in een gematigd klimaat zoals Nederland. De temperatuur komt hier vrijwel nooit boven de 35 graden Celsius. Daardoor is het mogelijk om computers die uitgerust zijn met de nieuwe techniek te voorzien van een passieve koeling. Het is niet meer nodig om van geforceerde koeling gebruik te maken. De chillers zijn niet meer nodig en dat spaart een hoop elektriciteit uit. Dat kan duizenden euro’s op jaarbasis schelen.

Hoe lang duurt het nog?

In de computerwereld worden nieuwe ontwikkelingen bedacht in het topsegment, net zoals nieuwe autotechniek het eerst wordt toegepast bij Formule 1-racewagens. In beide sectoren duurt het vijf tot tien jaar voordat een techniek is ‘afgedaald’ naar de gewone gebruikers. “Met natuurlijk stimulerende factoren, want als het energieaanbod erg klein is, zullen besparende technieken eerder op de werkvloer worden geïmplementeerd”, aldus Michel.

PUE, EUE en andere maten

De Power Usage Efficiency (PUE) is eigenlijk een momentopname. Er wordt gemeten hoeveel watt er op een bepaald moment wordt geconsumeerd door de IT-apparatuur en hoeveel watt nodig is voor de aanvullende systemen. Via een eenvoudige formule wordt daaruit een enkele waarde berekend die dan als ‘de’ PUE wordt gepresenteerd.


Het is realistischer om die berekening te maken over een langere tijd, waarbij het aantal kilowattuur als basis voor de berekening wordt gebruikt. Dit is de Energy Usage Efficiency (EUE), die net als de PUE ook door een enkel getal wordt voorgesteld.

Er is geprobeerd om deze maten te verfijnen, bijvoorbeeld door de pPue, ofwel de partiële PUE. Dan wordt alleen gekeken naar de energieopname van een deel van een installatie. Dit gebeurt meestal wanneer slechts een deel van het datacentrum gevuld is met serverracks. Alle koelsystemen zijn er dan al wel, zodat de normale PUE op een erg hoge waarde zou uitkomen.

Forse besparingen mogelijk

Academisch rekencentrum SARA krijgt dit jaar een rekencentrum van de derde generatie, waar de nieuwe, inmiddels Cartesius gedoopte supercomputer van Bull komt te staan. De huidige supercomputer Huygens van IBM staat in een rekencentrum van de tweede generatie. “Met elke nieuwe generatie hebben we de PUE zien dalen, van 1,4 aan het begin via 1,3 nu tot 1,2 medio dit jaar”, zegt dr.ir. Anwar Osseyran, directeur van SARA.

De huidige supercomputer van SARA vraagt een vermogen van 600 à 700 kilowatt, in datacentra gaat het vaak om megawatts. Als een beheerder van een datacentrum zijn PUE ziet slinken van 1,3 naar 1,2 dat levert dat veel besparingen op.

 

Stel, dat de servers in een datacentrum een vermogen van 1,6 megawatt nodig hebben. Bij een PUE van 1,3 gaat er 480 kilowatt naar de aanvullende systemen. Daalt de PUE naar 1,2 dan slinkt het extra vermogen naar 320 kilowatt, een besparing van 160 kilowatt. Op jaarbasis komt dat neer op 2803 megawattuur.

Een consument betaalt gemiddeld 22 cent voor een kilowattuur, een industriële grootverbruiker heeft een lager tarief. Aangenomen dat het tarief op 10 cent per kWh ligt dan komt de besparing neer op ruim 140.000 euro per jaar. 

 
Lees het hele artikel
Je kunt dit artikel lezen nadat je bent ingelogd. Ben je nieuw bij AG Connect, registreer je dan gratis!

Registreren

  • Direct toegang tot AGConnect.nl
  • Dagelijks een AGConnect nieuwsbrief
  • 30 dagen onbeperkte toegang tot AGConnect.nl

Ben je abonnee, maar heb je nog geen account? Neem contact met ons op!