《科技》伺服器出貨帶動 加速卡需求看增

【時報-台北電】隨著5G、AI、HPC、IoT等技術蓬勃發展,加上2020年新冠肺炎疫情爆發,促使消費者生活形態產生轉變,逐漸採取線上學習/會議/購物/看房、雲端儲存/遊戲/服務等模式,雲端服務、電信服務供應商為滿足大幅增加的雲端儲存與運算需求,持續擴大資本支出,擴建資料中心,加上廠商本身也要進行數位轉型,需購置並擴增機房,皆帶動伺服器出貨量持續增加。

根據TrendForce統計,2021年全球伺服器市場出貨量為1,360.7萬台,預期2022年將增加至1,430.9萬台,年成長達5.2%。

1.伺服器加裝加速卡 需求與日俱增

資料中心(Data Center)包括伺服器(Server)、儲存系統、網路設備如交換機、路由器和防火牆,以及組織與連接設備所需的機架和布線,其中以伺服器居於要角,而伺服器雖又以CPU為系統運算核心,但CPU執行程式是依指令序列逐條執行指令,在執行複雜的控制功能時表現出色,然面對圖形、影像與訊號等多元資料處理時,效能仍有其瓶頸也不一定能完全負荷。

再者,伺服器系統有持續擴充的需要,若定期升級其架構,能有助於改善相對效能、管理效率並提高整合度和可靠性,因此伺服器通常具備插卡式或插槽式設計,而以PCIe為介面的加速卡產品,由於具有加速運算處理、靈活彈性配置等特性,即成為伺服器重要配置,為整體系統提供更多附加價值。

目前加速卡主要核心晶片有GPU、FPGA、ASIC的架構,主要供應商為英特爾(Intel)、輝達(NVIDIA)、超微(AMD)、賽靈思(Xilinx;已被AMD收購),另外小型Fabless廠商Achronix亦有產品。伺服器GPU加速卡領域以NVIDIA為首、AMD次之;在FPGA領域則以Xilinx為首,而Intel與Achronix近期則較無針對既有產品做進一步更新,另外以ASIC晶片架構為主的加速卡,則因開發成本高昂,逐漸被FPGA取代。

廣告

2.各大廠 加速運算裝置發展

伺服器專用加速卡發展以來,已融合衍伸出各種加速運算裝置,例如智慧型網路卡(SmartNIC)、資料處理器(DPU)、儲存處理器(SPU)、運算型儲存裝置(CSD)、基礎架構處理器(IPU)等,類型繁多且應用取向不同,主要乃因各廠商整合各種功能或側重差異而有不同命名。

(一)NVIDIA

NVIDIA以GPU為加速卡基調,其Tensor Core是NVIDIA獨有技術,可實現混合精度運算,並可動態調整計算,在加速傳輸量同時維持精準度,從Volta、Turing、Ampere到2022年Hopper,Tensor Core已發展到第四代。

晶片使用台積電4nm也是先進製程的時勢所趨,與A100相比,H100的AI訓練速度提升6倍、AI推論速度提升30倍,且HPC表現也相當優異,這都要歸功於新增的Transformer Engine設計,擴大AI運算效能與能力,持續為NVIDIA守住在伺服器加速卡領導地位,目前包括AWS、Microsoft Azure、Google Cloud、Baidu AI Cloud、Oracle Cloud等雲端服務供應商已計畫採用,而以其積極程度來看,勢必也增加對台積電4nm的投片量。

從營收面來看,受益於GPU加速卡在資料中心的應用,NVIDIA於2022年第一季資料中心領域營收達35.9億美元,是2021年同期20億美元的1.8倍,營收占比達到45.4%,最重要的是2022年第一季資料中心領域營收超過先前一直最強勁的遊戲領域業務,顯見其營運爆發力十足;另一方面也代表GPU加速卡領導者NVIDIA對資料中心市場的重要性。

TrendForce表示,目前最新伺服器加速卡分別是NVIDIA H100、AMD Instinct MI210、AMD旗下Xilinx的Alveo U55C,都能以PCIe介面的I/O介面卡形式,部署到伺服器上,分別採用PCIe Gen5、Gen4、Gen4。而記憶體也分別配置「高頻寬記憶體」HBM2e、HBM2e、HBM2,靠進核心運算區域故數據傳輸路徑更短,從而減少延遲,而未來PCIe Gen5、HBM2e以上規格,將是伺服器加速卡重點發展方向。

TrendForce表示,FPGA加速卡會採用行之有年的製程技術,大致落在16~7nm;而GPU陣營較積極,已將晶片推往6nm乃至4nm發展,邁向先進製程的趨勢應將持續,也是業界伺服器/資料中心的首選。

(本文作者為TrendForce分析師曾冠瑋)(新聞來源 : 工商時報一TrendForce分析師曾冠瑋)