Vzostup riešení kvapalného chladenia na serveroch AI: Analýza TrendForce

 

Ⅰ Úvod

 

Podľa najnovšieho prieskumu spoločnosti TrendForce sa očakáva prudký nárast miery penetrácie riešení na chladenie kvapalinou v dôsledku predpokladanej dodávky platformy NVIDIA Blackwell v štvrtom štvrťroku 2024. Predpokladá sa, že táto miera sa zvýši z približne 10 % v roku 2024 na viac ako 20 % v roku 2025. Rastúce globálne povedomie o faktoroch životného prostredia, sociálnych vecí a riadenia (ESG) spolu so zrýchlenou konštrukciou serverov AI poskytovateľmi cloudových služieb (CSP) dláždi cestu k výraznému posunu od tradičného chladenia vzduchom na pokročilé riešenia chladenia kvapalinou.

 

Kvapalinové chladenie ponúka oproti vzduchovému chladeniu niekoľko výhod, vrátane zlepšeného tepelného manažmentu, zníženej hladiny hluku a zvýšenej energetickej účinnosti. S rastúcim dopytom po schopnostiach AI, najmä v aplikáciách náročných na dáta, sa prechod na systémy kvapalného chladenia stáva čoraz dôležitejším pre udržanie optimálneho výkonu servera.

 

▲ Systém chladenia kvapalinou používaný v prostrediach serverov AI

 

 

Ⅱ Dominancia spoločnosti NVIDIA na trhu serverov AI

 

Na globálnom trhu serverov s umelou inteligenciou naďalej vládne NVIDIA, ktorá má od roku 2024 podiel na trhu takmer 90 % v segmente serverov GPU AI. AMD výrazne zaostáva s približne 8 % podielom na trhu. Táto dominancia je z veľkej časti spôsobená špičkovou technológiou NVIDIA a jej robustným ekosystémom, ktorý podporuje širokú škálu aplikácií v oblasti AI, strojového učenia a analýzy údajov.

 

TrendForce poznamenáva, že rozsah dodávok NVIDIA Blackwell v tomto roku je relatívne malý. Je to predovšetkým preto, že platforma prechádza finálnym testovaním a validačnými procesmi v rámci dodávateľského reťazca, ktoré si vyžadujú neustálu optimalizáciu v oblastiach, ako je vysokorýchlostný prenos dát a dizajn chladenia. Zvýšená spotreba energie platformy Blackwell, najmä v rackovom riešení GB200, si vyžaduje vyššiu účinnosť chladenia, čo ďalej urýchľuje prijatie riešení chladenia kvapalinou.

 

▲ Platforma NVIDIA Blackwell pre servery AI

 

Napriek výhodám kvapalinového chladenia súčasný serverový ekosystém stále vykazuje nízku mieru prijatia tejto technológie. Výrobcovia pôvodného dizajnu (ODM) musia prejsť krivkou učenia, aby mohli riešiť problémy súvisiace s únikmi a účinnosťou chladenia. Keďže sa očakáva, že podiel špičkových GPU na platforme Blackwell do roku 2025 presiahne 80 %, podnieti to konkurenciu medzi výrobcami napájacích zdrojov a chladiacim priemyslom na vznikajúcom trhu s AI kvapalinovým chladením, čo povedie k novému konkurenčnému prostrediu.

 

 

 

Ⅲ Zrýchlené nasadenie veľkými CSP

 

Hlavní poskytovatelia cloudových služieb, vrátane Google, AWS a Microsoft, v posledných rokoch rapídne zrýchlili nasadzovanie svojich serverov AI, pričom využívali najmä GPU NVIDIA a samostatne vyvinuté ASIC. Tepelný dizajnový výkon (TDP) skrine NVIDIA GB200 NVL72 je približne 140 kW, čo podčiarkuje naliehavú potrebu riešení chladenia kvapalinou na efektívne riadenie rozptylu tepla. Očakáva sa, že metódy chladenia kvapalina-vzduch (L2A) sa v tomto kontexte stanú hlavným prúdom.

 

▲ Nasadenie servera AI v dátových centrách

 

Zatiaľ čo GPU od NVIDIA dominujú, Google je tiež proaktívny pri skúmaní riešení chladenia kvapalinou pre svoje jednotky TPU (Tensor Processing Units). Záväzok spoločnosti Google voči tejto technológii ju stavia do pozície najpokrokovejšej americkej spoločnosti v oblasti zavádzania chladenia kvapalinou. BOYD a Cooler Master sú primárnymi dodávateľmi chladiacich platní Google, ktoré sú rozhodujúce pre udržanie optimálnych teplôt vo vysokovýkonných počítačových prostrediach.

 

V pevninskej Číne Alibaba agresívne rozširuje svoje dátové centrá kvapalinového chladenia, čím ďalej zdôrazňuje globálny posun smerom k tejto pokročilej technológii chladenia. Iní poskytovatelia cloudových služieb sa naďalej spoliehajú predovšetkým na riešenia vzduchového chladenia pre svoje samostatne vyvinuté AI ASIC, čo môže brániť výkonu v porovnaní so systémami chladenými kvapalinou.

 

 

Ⅳ Kľúčoví dodávatelia a označenie komponentov

 

Keďže prechod na chladenie kvapalinou naberá na obrátkach, poskytovatelia cloudových služieb určia kľúčových dodávateľov komponentov pre riešenia kvapalinového chladenia skrine GB200. V súčasnosti sú Qihong a Cooler Master poprednými dodávateľmi chladiacich platní, zatiaľ čo komponenty rozdeľovača pochádzajú od Cooler Master a Shuanghong. Jednotky na distribúciu chladiacej kvapaliny (CDU) poskytujú lídri v tomto odvetví, ako sú Vertiv a Delta.

 

Výrobcovia ako CPC, Parker Hannifin, Danfoss a Staubli sa vo veľkej miere podieľajú na obstarávaní dôležitých komponentov na prevenciu úniku, ako sú rýchle odpojenia (QD). Keď ďalší dodávatelia ako Jiazhe a Fushida vstupujú do fázy overovania, budú mať v prvej polovici roku 2025 príležitosť dodávať komponenty rýchleho odpojenia, čo pomôže zmierniť súčasnú nerovnováhu medzi ponukou a dopytom.

 

▲ Kľúčoví dodávatelia komponentov chladenia kvapalinou

 

 

Ⅴ Výhody kvapalinového chladenia

 

Zvýšená účinnosť chladenia

Kvapalinové chladiace systémy sú navrhnuté tak, aby odvádzali teplo efektívnejšie ako vzduchové chladiace systémy. To je obzvlášť dôležité v aplikáciách AI, kde procesory môžu generovať značné teplo kvôli vysokým výpočtovým nárokom. Využitím kvapaliny na absorpciu a prenos tepla z komponentov môžu servery pracovať pri nižších teplotách, čím sa znižuje riziko tepelného škrtenia a zlepšuje sa výkon.

 

Optimalizácia priestoru

Systémy kvapalného chladenia často zaberajú menej miesta ako tradičné riešenia vzduchového chladenia, čo umožňuje efektívnejší návrh dátového centra. Táto vlastnosť šetriaca priestor je výhodná najmä pre organizácie, ktoré chcú maximalizovať kapacitu svojho servera bez rozšírenia svojej fyzickej stopy.

 

Energetická účinnosť

S rastúcim zameraním na udržateľnosť a energetickú účinnosť môžu riešenia kvapalného chladenia pomôcť znížiť celkovú spotrebu energie dátových centier. Minimalizáciou závislosti od ventilátorov a klimatizačných jednotiek môže kvapalinové chladenie znížiť náklady na energiu a uhlíkovú stopu, čo je v súlade s cieľmi ESG, ktoré sa mnohé spoločnosti snažia dosiahnuť.

 

Zníženie hluku

Kvapalinové chladiace systémy fungujú tichšie ako tradičné vzduchom chladené systémy, čo vedie k príjemnejšiemu pracovnému prostrediu v dátových centrách. Toto zníženie hluku je dôležitým faktorom pre zariadenia umiestnené v blízkosti obývaných oblastí alebo v rámci kancelárskych budov.

 

 

Ⅵ Riešenie bežných výziev

 

Napriek výhodám prechod na kvapalinové chladenie prináša výzvy. Patria sem:

 

Počiatočné náklady

Počiatočné investície do kvapalinových chladiacich systémov môžu byť vyššie ako tradičné riešenia vzduchového chladenia. Organizácie musia tieto náklady porovnať s dlhodobými prínosmi a úsporami v oblasti energetickej účinnosti a údržby.

 

Obavy z úniku

Jednou z najvýznamnejších výziev spojených s kvapalinovým chladením je riziko netesností. Správny návrh, výber materiálov a protokoly údržby sú nevyhnutné na zmiernenie tohto rizika a zabezpečenie spoľahlivosti systému.

 

Zložitosť údržby

Kvapalinové chladiace systémy vyžadujú komplexnejšiu údržbu v porovnaní so vzduchom chladenými systémami. Organizácie musia vyškoliť svojich zamestnancov alebo zapojiť špecializovaných poskytovateľov služieb, aby zabezpečili, že riešenia kvapalinového chladenia zostanú efektívne a bez problémov.

 

 

Ⅶ Budúce trendy v chladení kvapalinou

 

Keďže dopyt po výpočtovej technike AI neustále rastie, očakáva sa, že niekoľko budúcich trendov bude formovať krajinu chladenia kvapalinou:

 

Prijatie hybridných riešení

Hybridné chladiace systémy, ktoré kombinujú technológie chladenia vzduchom aj kvapalinou, pravdepodobne získajú trakciu. Tieto systémy môžu poskytnúť flexibilitu a efektivitu, prispôsobujú sa rôznym pracovným zaťaženiam a prevádzkovým potrebám.

 

Pokročilé materiály

Vývoj pokročilých materiálov pre komponenty chladenia kvapalinou môže zvýšiť výkon a spoľahlivosť. Inovácie vo vede o materiáloch môžu viesť k ľahším, odolnejším a efektívnejším riešeniam chladenia.

 

Integrácia s AI a IoT

Integrácia technológií AI a internetu vecí do chladiacich systémov môže optimalizovať výkon tým, že umožňuje monitorovanie v reálnom čase a automatizované úpravy na základe podmienok prostredia a pracovného zaťaženia servera.

 

Zameranie na udržateľnosť

Keďže spoločnosti čoraz viac uprednostňujú udržateľnosť, čoraz viac budú prevládať riešenia kvapalného chladenia s použitím ekologických chladív a materiálov. Priemysel môže zaznamenať posun smerom k systémom s uzavretou slučkou, aby sa minimalizoval odpad a vplyv na životné prostredie.

 

▲ Budúce trendy v technológii chladenia kvapalinou

 

 

 

Ⅷ Záver

 

Prechod od riešení chladenia vzduchom na kvapalinové chladenie v serveroch AI predstavuje významný vývoj v tomto odvetví, ktorý je poháňaný pokrokom v technológii a zvyšujúcim sa dopytom po efektívnom tepelnom manažmente. Keďže spoločnosť NVIDIA je lídrom na trhu serverov AI a veľkí poskytovatelia cloudových služieb, ako je Google, aktívne skúmajú možnosti chladenia kvapalinou, situácia sa rýchlo mení.

 

Pochopením výhod a výziev kvapalinového chladenia, ako aj kľúčových hráčov zapojených do jeho implementácie, môžu organizácie lepšie využiť túto technológiu na zlepšenie výkonu, udržateľnosti a konkurencieschopnosti v prostredí AI. S postupujúcim odvetvím budú riešenia kvapalného chladenia zohrávať kľúčovú úlohu pri formovaní budúcnosti dátových centier, čím sa zabezpečí, že budú spĺňať požiadavky aplikácií umelej inteligencie novej generácie.