A növekvő kereslet a számítási teljesítmény forradalmát váltja ki, a folyadékhűtés erőteljesen ösztönzi az ipar növekedését!

Aug 24, 2024

Hagyjon üzenetet

 

2023 óta az OpenAI mesterséges intelligencia chatbot modellje, a ChatGPT széles körű elismerést kapott. Nagy mennyiségű képzési adatot használ az emberi nyelvi viselkedés szimulálására, szemantikai elemzéssel szöveget generálva, lehetővé téve a felhasználókkal való természetes és valósághű interakciót, ami gyakran megkülönböztethetetlen az emberi interakciótól.

 

Sok területen, például a versalkotásban és a forgatókönyvírásban, még az emberi képességeket is felülmúlja. A mesterséges intelligencia fejlesztése azonban rendkívül erős számítási teljesítményt igényel, ami a szerverek energiafogyasztásának növekedéséhez, az adatközpontok egységenkénti teljesítménysűrűségének növekedéséhez és az energiafogyasztás növekedéséhez vezet. A hagyományos léghűtéses technológia már nem tudja kielégíteni a hűtési igényeket, így a folyadékhűtés olyan szükségessé válik, amely kétségtelenül az ipar növekedését fogja eredményezni!

 

OpenAI's AI chatbot model, ChatGPT

▲ Az OpenAI AI chatbot modellje, a ChatGPT

 

 

Ⅰ A ChatGPT kirobbanó sikere: milyen számítási teljesítményre van szükség?

 

Az adatok, az algoritmusok és a számítási teljesítmény a mesterséges intelligencia három alapvető eleme, a számítási teljesítményt az AI „motorjának” vagy „motorjának” nevezik. Mind az adatok, mind az algoritmusok a számítási teljesítményre támaszkodnak. Az OpenAI becslései szerint 2012 óta a világ legjobb mesterséges intelligencia modelljeinek betanításához szükséges számítási teljesítmény hozzávetőlegesen 3-4 havonta megduplázódott, a legjobb oktatási modellekhez szükséges számítási teljesítmény éves növekedése pedig elérte a tízszeresét. A képzési szakaszban a ChatGPT összesen körülbelül 3640 PF-napot fogyasztott (ami azt jelenti, hogy 3640 napig 1 PetaFLOP/s hatékonysággal futott). Ez rávilágít arra, hogy az erős számítási teljesítmény a kulcsa az AI-generated content (AIGC) további alkalmazásának és népszerűsítésének a jövőben.

 

Vegyük például a ChatGPT-t: a GPT{0}}.5 modell támogatja, amely három iteráción ment keresztül (GPT-1, GPT-2, GPT-3), a paraméterek száma 117 millióról 175 milliárdra, a képzés előtti adatok mennyisége pedig 5 GB-ról 45 TB-ra nőtt (ami a Wikipédia teljes angol változatának 160-szorosának felel meg). Ez a hatalmas mennyiségű adat és számítás nagyobb számítási teljesítményt igényel a működéséhez. A Likeweb adatai szerint 2023 januárjában a ChatGPT-nek körülbelül 13 millió napi aktív felhasználója volt, akik átlagosan 1,000 szót tettek fel kérdéseket.

 

Ez összesen körülbelül 13 milliárd szót (17,33 milliárd tokent) generált. Feltételezve, hogy a feladatok egyenletesen oszlanak el 24 óra alatt, a szükséges A100-as GPU-k száma 17,33 milliárd * 2 * 300 milliárd / (20% * 24 óra * 3600 másodperc)=601.75 PetaFLOP/S. Tekintettel arra, hogy vannak forgalmi csúcsok, és feltételezve, hogy a csúcsforgalom a napi átlag ötszöröse, összesen 602 DGX A100 szerverre lenne szükség a jelenlegi forgalmi igények kielégítéséhez, ami rendkívül szigorú számítási teljesítményigényt jelent.

 

Ez azt mutatja, hogy a még jobb mesterségesintelligencia-modellek betanításához és az AI-modellek valódi alkalmazásához a különböző iparágakban hatékonyabb számítási teljesítményre és bőségesebb számítási erőforrásokra van szükség. A számítási teljesítmény az AI iparosodását korlátozó kritikus tényezővé vált, és minden bizonnyal új számítási teljesítmény-forradalmat indít el! A mesterséges intelligencia számítási teljesítményigényének gyors növekedésével a kapcsolódó CPU-k/GPU-k teljesítménye felgyorsul, ami erősebb és hatékonyabb hűtési megoldásokat tesz szükségessé a berendezések zökkenőmentes működéséhez.

 

 

Ⅱ A számítási teljesítmény széleskörű alkalmazásai

 

A digitális gazdaság korszakában a számítási teljesítmény nemcsak kulcsfontosságú termelékenységi tényező, hanem általánosan alkalmazott tényezővé is válik. A számítási teljesítmény-infrastruktúra kiépítésének előrehaladtával a számítási teljesítmény-alkalmazások új modelljei és üzleti formái rohamosan jelennek meg, mélyen integrálva a számítási teljesítményt több iparágba, például a gyártásba, a szállításba, az oktatásba, a repülőgépiparba, a pénzügyekbe és a médiába. Ugyanakkor a számítási teljesítmény ütemezése, kezelése és kereskedése az iparági kutatások fókuszpontjává válik. A számítási teljesítmény „erőforrásból” „tényezővé” fejlődik, és az emberek termelésének és életének lényeges részévé válik.

 

A különféle iparágak fejlődése robbanásszerűen megnőtt a számítási teljesítményigényben. A processzor teljesítményének maximalizálása érdekében nagyobb hűtési hatékonyságra van szükség, és a hagyományos léghűtéses technológia már nem tudja kielégíteni a növekvő számítási teljesítményigényeket. A folyadékhűtéses szerverek előnyeikkel együtt jelentős piaci részesedést szereznek, és erőteljesen ösztönzik az iparág fejlődését!

 

 

Ⅲ A folyadékhűtés iránti igény jelentős növekedése

 

2022-ben az Intel negyedik generációs szerverprocesszorainak egyetlen CPU fogyasztása meghaladta a 350 wattot, az NVIDIA egyetlen GPU chipjének fogyasztása pedig meghaladta a 700 wattot. Az AI-klaszterek számítási teljesítménysűrűsége általában elérte az 50 kW-ot szekrényenként, és a hagyományos léghűtéses technológia már nem képes megbirkózni vele! A processzor teljesítményének maximalizálásához magasabb hűtési hatékonyságra van szükség.

 

Mindeközben politikai szempontból a kínai "Eastern Data, Western Computing" projekt elindítása és a kettős szén-dioxid-kibocsátási cél arra késztette az ipart, hogy nagyobb figyelmet fordítson az energiatakarékosságra, a kibocsátáscsökkentésre és a magas színvonalú fejlesztésre. Szigorúbb műszaki követelményeket támasztanak az adatközpontok energiahasználati hatékonyságával (PUE) szemben, az újonnan épített nagy és szupernagy adatközpontok átlagos PUE-értéke országszerte 1,3 alá, országos szinten pedig 1,25 alá csökken. hub csomópontok.

 

A folyékony hűtés számos szempontból megfelel a piaci költséghatékonysági és szakpolitikai iránymutatási igényeknek, beleértve a gazdasági hatékonyságot és a hűtési teljesítményt, így rendkívül értékes és gazdaságilag előnyös. A CCID Consulting szerint Kína folyadékhűtéses IDC-piaca 2025-re várhatóan meghaladja a 120 milliárd jüant, növekedési üteme meghaladja a 30%-ot, a penetráció pedig jelenleg 20% ​​körüli. A folyadékhűtés iránti kereslet jelentősen nő, a piaci kilátások pedig biztatóak.

 

 

Ⅳ A folyadékhűtő szerver iparági lánc

 

1. A folyadékhűtő ipar körképe

A folyadékhűtéses szerveripar sokkal többet ölel fel, mint a folyadékhűtéses szerverek; az egész iparági lánc hosszú, széles részterületekkel és sok résztvevő szereplővel, így tőkeintenzív iparággá válik.A folyadékhűtéses technológia jelenleg rohamos fejlődési szakaszban van, és ha az érintett szereplők előnyt élveznek a finanszírozásban vagy az ügyfélszerzésben, akkor bizonyos belépési korlátokat építhetnek.

 

A különböző részterületeken működő vállalkozások alapvető előnyeik alapján fokozatosan beszivárognak a kapcsolódó területekre, saját ökoszisztémákat építve ki. Az infrastruktúráról az alkalmazásokra való felosztás szerint a folyadékhűtéses adatközponti ipar három nagy részterületre osztható: folyadékhűtési infrastruktúra, középipar és ipari alkalmazások.

 

A folyadékhűtéses infrastruktúra szektor biztosítja a folyadékhűtéses adatközpontok építéséhez szükséges alapvető berendezéseket és létesítményeket. Olyan részterületekre oszlik, mint folyadékhűtő szekrények, hűtőfolyadék, hűtőrendszerek, energiarendszerek, hálózati rendszerek és adatközponti infrastruktúra-menedzsment rendszerek. Ezek az alterületek elsősorban berendezéseket, szoftverrendszereket és hűtőközeget szállítanak a szerverek üzemeltetéséhez. Ezen kívül az infrastruktúra szektorba tartoznak az építőipari vállalkozók, a hálózatüzemeltetők és az áramszolgáltatók. A fent említett berendezések, létesítmények kiépítése és telepítése kivitelezők, az alaphálózati hozzáférést a hálózatüzemeltetők, a berendezések üzemeltetéséhez szükséges villamos energiát az áramszolgáltatók biztosítják. Ezek a területek viszonylag alapvető perifériás környezetet biztosítanak az adatközpontok számára.

 

A középső iparághoz tartoznak a szervergyártók, az adatközpontok tárhelyszolgáltatói és néhány új belépő. A szervergyártók kutatnak, terveznek és gyártanak folyadékhűtéses környezetre alkalmas szervereket, vagy közvetlenül gyártanak hideglemezes folyadékhűtésű szervereket. Az adatközpont-tárhelyszolgáltatók adatközpontokat építenek és üzemeltetnek, kihasználva saját előnyeiket az infrastrukturális szektor erőforrásainak integrálására, és szervertárhely-szolgáltatást kínálnak az alkalmazások felhasználóinak. Az adatközpontok rohamos fejlődésével új cégek lépnek be a folyadékhűtéses adatközpontok területére.

 

Az adatközpont-alkalmazások felhasználóit alapvetően három részterületre osztják: felhőalapú számítástechnika és számítási felhő teljesítmény, internet és blokklánc, valamint egyéb felhasználók. Ők az adatközpontok elsődleges felhasználói. A felhőalapú számítástechnika és a számítási felhő-szolgáltatók azáltal termelnek bevételt, hogy az ügyfeleknek rugalmas számítási teljesítmény-elosztást és ütemezést kínálnak virtualizáción keresztül. Egyes nagy internetes és blokklánc-cégek gyakran közvetlenül az adatközpontok üzemeltetőivel együttműködve építenek adatközpontokat, míg más felhasználók általában vagy közvetlenül üzemeltetnek vagy bérelnek szervert vagy számítási erőforrásokat az adatközpontok üzemeltetőitől.

 

2. A folyadékhűtő iparág áttekintése

A léghűtéshez képest a folyadékhűtés technológia nagy stabilitást és nagy hűtési hatékonyságot kínál. Átfogó alkalmazási szempontból a folyadékhűtés fokozatosan felfedi gazdasági előnyeit, ha a teljesítménysűrűség meghaladja a szekrényenkénti 15 kW-ot. szerint aUPS alkalmazásfolyóirat szerint a folyadékhűtéses szerverek CPU maghőmérséklete 20-30 fokkal alacsonyabb lehet, mint a léghűtéses rendszerek maximális hőmérséklete, ami jelentősen javítja a megbízhatóságot.

 

Az Intel fehér könyve,Green Data Center Innovációs gyakorlatok – Hideglemezes folyadékhűtőrendszer tervezési referencia, azt jelzi, hogy a léghűtéses adatközpontok általában képesek kezelni a 12 kW-ig terjedő teljesítményű szekrények hűtését. A 15 kW-ot meghaladó teljesítményű szekrények esetében a meglévő léghűtéses adatközpontok elérték légkonvekciós hűtési képességeik plafonját. Folyékony hűtési technológia, amely erősebb hűtési képességet biztosít, nagyobb teljesítménysűrűséget támogathat.

 

A léghűtéses megoldásokhoz képest az AIGC és az "Eastern Data, Western Computing" kezdeményezések által vezérelt folyadékhűtési tendencia elkerülhetetlenül az adatközponti hőmérséklet-szabályozási piac volumenének és árának növekedéséhez vezet. A folyadékhűtéses szerveripar három technológiai utat követ: hideglemezes, merítési és porlasztott hűtés.A Cold Plate Liquid Cooling olyan hűtési módszert jelent, ahol a hűtőfolyadék nem érintkezik közvetlenül a szerver hőtermelő komponenseivel.

 

 Cold Plate Cooling

▲ Hideglemez hűtés

 

Spray Liquid Cooling System

▲ Spray folyadékhűtő rendszer

 

Single-Phase Liquid lmmersion Cooling

▲ Egyfázisú folyadék merülő hűtés

 

 Two-Phase Cooling

▲ Kétfázisú hűtés

 

Ehelyett a fő hőtermelő alkatrészek egy hideg lemezhez vannak rögzítve, és a hűtőfolyadék a hűtőlemez belső folyékony hűtőrendszerében kering a hő eltávolítása érdekében. A hőcserélő képességek javítása érdekében a hőcserélő területet maximalizálni kell, ami megköveteli, hogy a hűtőlemez a lehető legszorosabban csatlakozzon a szerver hőtermelő alkatrészeinek felületéhez. A szabálytalan alakú hőtermelő alkatrészeket nehéz lehűteni ezzel a módszerrel. Hideglemezes hűtésre csak a viszonylag szabályos alakú forgácsok alkalmasak.

 

Ez jelentős problémát jelent a hideglemezes folyadékhűtési megoldásoknál: a szerver hőjének körülbelül 30%-a, amelyet más alkatrészek, például tároló, memória és tápegységek termelnek, még mindig hagyományos léghűtést igényel. Ez azt eredményezi, hogy két hűtőrendszert kell egyidejűleg használni a hideglemezes folyadékhűtési megoldásokban, ami növeli a költségeket és a rendszer tényleges PUE-ját. A jelenlegi hideglemezes megoldás viszonylag kiforrott, szilárd kereskedelmi alapokkal rendelkezik, és számos kereskedelmi alkalmazást látott már.

 

 cold plate liquid cooling solutions

▲ Hideglemezes folyadékhűtő oldatok

 

A merülő folyadékhűtés a szerverberendezés hűtőfolyadékba való teljes merítését jelenti, ahol a hűtés a hűtőfolyadék és a hőt termelő alkatrészek közötti közvetlen érintkezés révén valósul meg. Ennél a módszernél a szerver hőtermelő alkatrészei teljesen elmerülnek a hűtőfolyadékban, így megfelelő érintkezést tesz lehetővé a hűtőfolyadékkal, amely folyamatosan elviszi a keletkező hőt, ezáltal hűti a szervert. A merülő hűtés nagyobb hűtési hatékonyságot kínál, és több mint háromszorosára növelheti a szekrényenkénti teljesítménysűrűséget. Várhatóan 2025-re a piac több mint 40%-át fogja képviselni, és a teljes merülésű, folyadékhűtéses szerverek valószínűleg a jövő technológiai trendjévé válnak.

 

Immersion Liquid Cooling

▲ Merülő folyadékhűtés

 

A Spray Cooling Liquid Cooling System egy közvetlen érintkezésű folyadékhűtő technológia, amelyet arra terveztek, hogy a hűtőfolyadékot precízen permetezze a szerverek hőtermelő alkatrészeire. A hűtőfolyadékot közvetlenül a hőtermelő berendezésekre vagy a hozzájuk kapcsolódó szilárd hővezető anyagokra juttatják, akár gravitáció, akár rendszernyomás hatására. Ez a folyamat lehetővé teszi a hőcserét a szerver hűtése érdekében. A hőcsere során a szerveren belüli hűtőfolyadék szintet a hőtermelő alkatrészek vagy a hozzájuk kapcsolódó szilárd hővezető anyagok alatt tartják. A rendszer külső hőcserélő egységeket használ a hűtőfolyadék hűtésére és újrahasznosítására.

 

 

3. Folyadékhűtéses piac tájkép

Fejlett technológiaként a folyadékhűtés számos tudományágat és területet felölel, magas műszaki akadályokkal.

Jelenleg a folyadékhűtési technológia elterjedése a hazai és nemzetközi adatközpont-infrastruktúra-gyártók körében továbbra is viszonylag alacsony, és kevés vállalat ismeri ezt a technológiát.

 

Mindazonáltal több hazai és nemzetközi vállalat is elkezdett személyre szabott folyadékhűtési megoldásokat kínálni ügyfeleinek, és néhány technológiai vállalat fokozatosan építi és telepíti saját folyadékhűtésű adatközpontjait. Ennek ellenére továbbra is alacsony a folyadékhűtési technológia elterjedtsége az adatközpont-infrastruktúra-gyártók körében, és a piacon még nem bukkantak fel domináns vezetők, így a versenyhelyzet továbbra is bizonytalan.

 

A kínai piacon néhány vállalat a technológiai felhalmozás és a tapasztalatok sokéves tapasztalata révén jelentős technikai és piaci előnyöket mutatott fel, és várhatóan a jövőben a vezető vállalatok uralják majd a piacot, olyan versenyképes környezetet alkotva, ahol a főbb szereplők jelentős piaci részesedéssel rendelkeznek. .

 

4. Forgácsszintű folyadékhűtés

Fontos tendencia a folyadékhűtő berendezések és a maghőforrások, például a forgács közötti távolság csökkentése. A jövőben a hűtés várhatóan szobaszintről, szekrényszintről és szerverszintről chipszintre fog fejlődni, jobb chiphűtést érve el a hűtőelemek és a chip felülete közötti közvetlen érintkezés révén. A folyadékhűtők úgy oszlatják el a hőt, hogy nagy mennyiségű hőt távolítanak el a folyadékáramlás és a radiátor belső felülete közötti súrlódáson keresztül. A hagyományos léghűtési rendszerekhez képest a folyadékhűtés jelentősen javíthatja a hűtési hatékonyságot. Jelenleg a folyadékhűtés technológiája elsősorban közvetett és közvetlen típusokra oszlik.

 

A legújabb szerintKínai féléves folyadékhűtő szerverpiac (2022 második fele) nyomon követéseAz International Data Corporation (IDC) jelentése szerint a kínai folyadékhűtéses szerverek piaca 2022-ben elérte az 1,01 milliárd dollárt, ami 189,9%-os éves növekedést jelent. Az IDC előrejelzése szerint 2022 és 2027 között a kínai folyadékhűtéses szerverek piacának összetett éves növekedési üteme eléri az 56,6%-ot, a piac mérete pedig 2027-re várhatóan eléri a 9,5 milliárd dollárt, ami fényes jövőt jelez a folyadékhűtéses iparág számára!

 

 

The forecast for the liquid-cooled server market in China from 2023 to 2027

▲ A folyadékhűtéses szerverek piacának előrejelzése Kínában 2023 és 2027 között

 

 

 

A szálláslekérdezés elküldése