和碩前進SC24 端液冷GB200 NV72機櫃方案
和碩(4938)將於SC24美國運算大會中,展示支援大規模GenAI(生成式AI)運算的液冷機架式(Rack)高效運算伺服器產品暨散熱解決方案,因應即時大型語言模型(LLM)運算與先進散熱基礎設施的需求,同時呼應SC24今年的展覽主題「創造高效運算」。
和碩此回展出的系列產品,與晶片大廠夥伴包括AMD(超微)、Intel(英特爾)及NVIDIA(輝達),合作設計支援高效運算的伺服器與機架級方案,並透過發表多節點高密度運算效能設計的液冷(DLC,Direct-to-Chip)伺服器產品,推助資料中心邁向增進能源效率之路。
其中,支援大規模GenAI運算的機架(RA4401-72N1),採用NVIDIA GB200 NVL72高密度機架級GPU解決方案,並搭配Liquid-to-Air Sidecar或是Liquid-to-Liquid CDU之液冷散熱機櫃方案,為GenAI運算提供動力實現30倍的即時LLM推論速度,降低25倍的總擁有成本(TCO),同時減少25倍的能源消耗。
另在採用NVIDIA MGX架構的產品部分,和碩端出可配置包括NVIDIA GH200、NVIDIA H200 NVL、NVIDIA L40S等AI GPU平台之2U(AS201-1N0、AS205-2T1),及4U(AS400-2A1)型AI伺服器產品,因應AI應用上邊緣推論的需求。
尤NVIDIA H200 NVL為主流企業伺服器解鎖AI加速,大舉推進LLM推理速度最高可加速1.7倍,同時在高效能計算(HPC)應用方面則相較H100 NVL之效能,提高1.3倍。
考量資料中心持續追求提高運算密度與增加運算效能,和碩亦結合先進DLC冷卻散熱解決方案,搭載最新AMD EPYCTM 9005系列處理器,打造多節點高密度、並符合ORv3規範的OCP伺服器 產品(MS303-4A1)。
和碩同時也展出了多台氣冷式多節點伺服器(MS301-2T1、MS302-2T1),搭配 Intel Xeon 6 處理器 E-cores 和 P-cores系列,以應付資料中心之彈性擴充與節能省電的要求。
更多中時新聞網報導
7萬股民大崩潰!台灣「15億科技大廠」下市 這家也畢業了
27歲粉領族年薪70萬 買太多ETF「878、929該出掉嗎」 網友「問就是6208」 內行大筆一揮先砍這幾檔
身分證被盜用最嚴重下場?永慶房產專家分析「房產可能被騙走」