Kvapalinové chladenie zvyšuje výkon a efektivitu platformy Blackwell od Nvidie

 

Rýchly rast umelej inteligencie (AI), najmä v oblastiach, ako sú Generatívna AI (GenAI) a veľké jazykové modely (LLM), vyvolal bezprecedentný dopyt po výpočtovom výkone. Keďže modely AI sa stávajú zložitejšími a vyžadujú si viac údajov, hardvér potrebný na podporu týchto vylepšení čelí značným výzvam, najmä pokiaľ ide o odvod tepla. Tradičné spôsoby chladenia, ako je chladenie vzduchom, už nestačia na riadenie spotreby energie špičkového hardvéru AI, a práve tu prichádzajú do úvahy riešenia chladenia kvapalinou.

 

Technológia chladenia kvapalinou sa dostala do popredia ako vysoko efektívny spôsob riadenia tepelného výkonu dátových centier AI. Je to obzvlášť dôležité pre platformy, ako je architektúra Blackwell od Nvidie, kde si obrovský výpočtový výkon vyžaduje pokročilé chladiace systémy na zabezpečenie výkonu a dlhej životnosti.

 

Na miesteHotchip 2024konferencii Nvidia predstavila svoje inovatívne riešenie, integráciuteplovodné chladenie kvapalinou priamo na čiptechnológiu s architektúrou Blackwell, ktorá rieši rastúcu spotrebu energie a problémy s chladením. Tento vývoj predstavuje kľúčový pokrok v dizajne hardvéru AI, znižuje prevádzkové náklady a zvyšuje efektivitu vo veľkých aplikáciách AI.

 

▲ Výukový program Hot Chips: Chladenie kvapalinou zvyšuje výkon a účinnosť

 

Vzostup technológie chladenia kvapalinou

 

Technológia chladenia kvapalinou sa stáva kritickým komponentom v dizajne dátových centier AI kvôli rastúcim požiadavkám na výkon čipov AI. S rastom aplikácií AI sa očakáva drastický nárast spotreby energie v dátových centrách. Mnoho procesorov AI, vrátane Nvidia H100 a jeho novýchBlackwell architektúraspotrebujú kdekoľvek od 700 W do 1200 W energie. Táto obrovská spotreba energie sa znásobuje, keď klastre AI, pozostávajúce z tisícok GPU, fungujú jednotne.

 

napr.Tréningový klaster AI Elona Muska, najväčší na svete so 100,{1}} grafickými procesormi H100, je úplne chladený kvapalinou, aby pokryl dopyt po 31-megawattoch energie. Takéto príklady ukazujú, prečo je optimalizácia technológie chladenia rozhodujúca – nielen na zníženie prevádzkových nákladov, ale aj na zvýšenie celkového výkonu systémov AI. Keďže potreba umelej inteligencie s vyšším výkonom neustále rastie, kvapalinové chladenie bude zohrávať čoraz ústrednejšiu úlohu pri udržiavaní vysokovýkonných počítačových systémov.

 

 

Výhody kvapalinového chladenia v dátových centrách AI

Kvapalinové chladenie vyniká svojou schopnosťou priamo prenášať teplo od kritických komponentov, ako sú CPU a GPU, čím sa zlepšuje odvod tepla v porovnaní s tradičným vzduchovým chladením. InPriame chladenie kvapalinou (DLC)chladiaca kvapalina prichádza do priameho kontaktu s čipom, čím sa zvyšuje tepelná účinnosť a znižuje sa potreba objemných ventilátorov a klimatizačných systémov. Výsledkom je nižšia spotreba energie na chladenie, čím sa znižujú celkové prevádzkové náklady dátového centra.

 

ďalejPonorné chladenie kvapalinou, kde sú celé servery ponorené do dielektrickej kvapaliny, predstavuje ešte efektívnejšie riešenie chladenia. Táto metóda nielen zaisťuje, že všetky komponenty zostanú chladné, ale tiež minimalizuje mechanické opotrebenie, čím sa predlžuje životnosť hardvéru a výrazne sa znižuje hluk zo zariadenia pohybujúceho sa vzduchom.

 

 

Výzvy týkajúce sa spotreby energie v hardvéri AI

 

Ako sa systémy AI rozširujú, ich spotreba energie predstavuje čoraz väčšiu výzvu. Hardvér AI, ako naprGPU Nvidia H100aBlackwell architektúra, sú známe ako energeticky náročné, pričom požiadavky na výkon dosahujú až 1200 W na čip. Typický klaster AI obsahujúci napríklad 22000 GPU H100 môže vyžadovať až31 megawattov elektriny-ekvivalent spotreby energie v malom meste.

 

Tento obrovský dopyt po energii nielenže zvyšuje prevádzkové náklady dátových centier, ale prispieva aj k významným vplyvom na životné prostredie. Na riešenie týchto výziev sa dátové centrá musia zamerať na zníženie spotreby energie a zlepšenie účinnosti chladenia.

 

 

Architektúra Blackwell od Nvidie a chladenie teplou vodou priamo na čip

 

Na miesteKonferencia Hotchip 2024, Nvidia predstavila svoje riešenie pre integráciu kvapalinového chladenia s jeho architektúrou Blackwell s využitímteplovodná technológia chladenia Direct to Chip. Tento prístup využíva teplú vodu (na rozdiel od studenej vody) na absorbovanie a prenos tepla priamo z čipu. Použitím teplovodného chladenia môže Nvidia znížiť spotrebu chladiacej energie dátových centier až o 28 %.

 

Účinnosť tohto riešenia je dvojaká: nielenže znižuje celkovú spotrebu energie na chladenie, ale umožňuje aj spätné získavanie odpadového tepla, ktoré je možné opätovne využiť na iné využitie, napríklad na vykurovanie blízkych budov. Chladenie teplou vodou navyše predlžuje prevádzkovú životnosť serverov tým, že udržuje čipy v optimálnych teplotných rozsahoch, zabraňuje prehrievaniu a znižuje opotrebovanie.

 

▲Teplá voda priamo do roztoku na chladenie čipov

 

Táto technika chladenia je obzvlášť dôležitá, pretože aplikácie AI ako GenAI a LLM naďalej zvyšujú výpočtový výkon potrebný v dátových centrách. Schopnosť udržiavať optimálne teploty priamo ovplyvňuje výkon a škálovateľnosť pracovných záťaží AI, čím zaisťuje, že tieto systémy zvládnu náročné požiadavky, ktoré sú na ne kladené.

 

 

 

Ponorné chladenie kvapalinou: O krok ďalej

 

Okrem priameho chladenia kvapalinou,Ponorné chladenie kvapalinousa tiež presadzuje ako riešenie ďalšej úrovne pre rozsiahle systémy AI. Táto metóda ponorí celé servery do nevodivej dielektrickej kvapaliny, ktorá úplne absorbuje a odvádza teplo zo všetkých komponentov. Chladením celého systému týmto spôsobom ponúka Immersion Liquid Cooling nasledujúce výhody:

 

• Zvýšená účinnosť chladenia: Obklopením všetkých komponentov chladiacou kvapalinou táto metóda poskytuje rovnomerný a účinný odvod tepla.
• Nižšie náklady na údržbu: Bez pohyblivých častí, ako sú ventilátory, dochádza k menšiemu mechanickému opotrebovaniu, čo znižuje náklady na údržbu a predlžuje životnosť zariadenia.
• Vylepšená energetická účinnosť: Ponorné chladenie môže výrazne znížiť spotrebu energie, pretože eliminuje potrebu klimatizačných systémov a iných komponentov aktívneho chladenia.

 

▲Ponorný kvapalinový chladiaci systém

 

navyšePonorné chladenie kvapalinouje vysoko škálovateľný, vďaka čomu je ideálny pre dátové centrá, ktoré zvládajú pracovné zaťaženie AI, ktoré generuje značné množstvo tepla, ako napríklad tie, ktoré využívajú architektúru Blackwell od Nvidie. S čoraz rozšírenejšími väčšími modelmi AI sa ponorné chladenie môže stať vhodným riešením pre dátové centrá, ktoré chcú škálovať svoje operácie a zároveň minimalizovať náklady na energiu a vplyv na životné prostredie.

 

 

 

Investícia Silicon Valley do chladiacich technológií

 

Rastúci dopyt po efektívnejších riešeniach chladenia v dátových centrách AI upútal pozornosť firiem rizikového kapitálu, najmä vSilicon Valley. Tieto firmy aktívne investujú do startupov, ktoré sa špecializujúkvapalinové chladenietechnológie, uznávajúc, že ​​inovácie v tejto oblasti sú nevyhnutné pre budúcnosť hardvéru AI.

 

Rozvoj startupovpokročilé riešenia chladeniaposkytujú nielen okamžité výhody pre súčasnú generáciu systémov AI, ale tiež pokladajú základy pre ďalšiu vlnu hardvéru AI, ktorý si pravdepodobne vyžiada ešte sofistikovanejšie metódy chladenia. Tieto technológie musia riešiť požiadavky na vysoký výkon a tepelné problémy systémov AI, čo z nich robí atraktívnu investíciu pre tých, ktorí chcú posunúť hranice toho, čo je možné vo vysokovýkonnej výpočtovej technike.

 

▲Investičné trendy dátového centra AI

 

 

Záver

 

Ako sa hardvér AI neustále vyvíja, dopyt po inovatívnych chladiacich technológiách rastie. NvidiaBlackwell architektúraje v popredí tohto posunu, využívateplá voda Priamo na čipchladenie na zvýšenie účinnosti a zníženie prevádzkových nákladov.Chladenie kvapalinou, či už prostredníctvom metódy priameho kontaktu alebo ponorenia, sa ukazuje ako najefektívnejší spôsob riadenia masívnej spotreby energie a tepelného výkonu moderných systémov AI.

 

Firmy rizikového kapitálu si to všímajú a mnohé z nich investujú do startupov, ktoré môžu ponúknuť chladiace riešenia novej generácie. Keď sa dátové centrá AI stanú väčšími a komplexnejšími, význam efektívnych a škálovateľných chladiacich systémov bude len narastať, čím sa kvapalinové chladenie stane základným kameňom budúcej vysokovýkonnej počítačovej infraštruktúry.