4608個H100驅動！ Nvidia首公開AI超級電腦Eos

NVIDIA首公開展示其最新的資料中心規模超級電腦 Eos，以加速的運算基礎架構和全面最佳化的軟體來實現 AI 突破。

Eos 在2023 年11月的Supercomputing 2023大會（SC23）上亮相，NVIDIA表示，Eos由576個 NVIDIA DGX H100系統、NVIDIA Quantum-2 InfiniBand網路和軟體構建而成，提供總共 18.4 exaflops 的 FP8 AI 效能。

此外，每個 DGX H100 系統均配備八個 NVIDIA H100 Tensor核心GPU，Eos 共有 4,608 個 H100 GPU，可以處理最大的AI工作負載，以訓練大型語言模型、推薦系統、量子模擬等。

NVIDIA表示，人們正利用生成式AI改變世界，從藥物探索到聊天機器人，再到自主機器。為實現這些突破，需要的不僅是AI專業知識和開發技能，以及隨時可用的專用AI引擎，並有助於提升他們構建大規模AI模型的能力。

Eos 的架構針對需要跨越大型加速運算節點叢集實現超低延遲和高吞吐量互連的AI工作負載進行了最佳化，使其成為尋求擴展AI功能企業的理想解決方案。

• Yahoo財經特派記者 吳珍儀：身處數位原生世代，曾任職網路新聞編譯，現階段主攻科技新聞，期許將複雜資訊以更年輕、貼近生活的樣貌呈現給讀者。