宜鼎量產推出CXL記憶體模組,主攻AI伺服器
【財訊快報/記者李純君報導】AI伺服器應用持續升溫,相關設備硬體規格需求也隨之提升,使得業界過往普遍採用的容量與頻寬標準,已無法完整滿足現今龐大AI運算所需的效能,為此工控類記憶體模組廠宜鼎國際(5289)(Innodisk)宣布,因應市場趨勢,推出「CXL記憶體模組」。宜鼎提到,CXL記憶體採用E3.S 2T規格,讓伺服器可直上AI運算所需的硬體規格。除了提升伺服器容量與頻寬外,更透過CXL的「共享記憶體資源」特性及PCIe介面,打破傳統記憶體通道的頻寬限制,讓伺服器效能可隨著AI發展與時俱進。
TrendForce研調預估,在大型雲端業者及品牌廠對AI伺服器的持續投資下,今年AI伺服器出貨量將上修至167萬台、產值占整體伺服器市場比重高達65%。同時,對伺服器效能至關重要的CPU亦迅速演進,然而儘管CPU的運算能力提升,卻受限於傳統記憶體通道對頻寬的限制,讓CPU無法完整獲得記憶體的運算資源,因而難以發揮最大硬體效能。此情形遍布在全球數以萬計的伺服器上,尤其對擁有大量伺服器的資料中心而言,影響更為顯著。
宜鼎為改善上述情形、並解決伺服器系統現存的三大瓶頸。包括:透過採用簡化的協議及高相容性的PCIe 5.0介面,改善「系統元件之間因協定不同導致的傳輸延遲」;透過CXL的記憶體池 (Memory pooling )技術,讓同一層架多台伺服器的CPU、加速器等運算元件共享記憶體資源,減少資源冗餘,解決「記憶體利用率低」的狀況。
此外,有別於目前主流DDR架構,CXL底層技術採用PCIe介面,使其可透過獨立通道,與伺服器內既有的DDR5記憶體並存,讓CPU在現有的DIMM以外,可再輕鬆從PCIe介面獲得CXL記憶體模組帶來的額外頻寬與容量,有效解決目前「CPU可用記憶體頻寬受限」的痛點,發揮加乘效益。
宜鼎CXL記憶體具備單條64GB的存取容量;若裝載4個CXL記憶體模組,即可為原本配備8條128GB記憶體的伺服器增加30%記憶體容量及40%頻寬,輕鬆將其擴充至AI運算所需的1.2TB以上容量。再者,宜鼎CXL記憶體支援CXL 2.0規範、採用Type 3傳輸協定,並透過PCIe Gen5 x8介面,提供高達32GB/s的傳輸頻寬。適用於加速AI與機器學習、大規模分析、圖形資料庫等應用。