輝達發表新一代Blackwell GPU,鴻海具垂直整合及整櫃輸出技術將受惠

【財訊快報/記者劉居全報導】輝達(NVIDIA)在加州聖荷西舉行的GTC大會上,輝達執行長黃仁勳發表主題演講,宣布新一代人工智慧晶片Blackwell GPU以及名爲NIM的創新軟體將問世。法人表示,台廠中的鴻海(2317)及廣達(2382)等將會是主要受惠者;由於GB200是整套解決方案,主要優化的部分在於其強大性能和Rack的設計。而鴻海具備從零組件、模組、整機到資料中心的垂直整合能力,能配合客戶進行開發,整櫃輸出的技術力,可望成為鴻海集團在AI伺服器產業的重要優勢。鴻海董事長劉揚偉日前在法說會上曾表示,AI伺服器將是鴻海今年主要的成長動力之一;劉揚偉更強調,鴻海今年GPU模組預計將會有超過三位數的年增幅度、AI伺服器營收成長預計將超過四成,AI伺服器產品在整體伺服器營收占比也將達到四成以上。

NVIDIA此次在GTC大會上正式公開最新一代 GPU「Blackwell」,主要分作兩個型號,分別是B200以及由兩片B200與一顆 Grace CPU組合而成的GB200。

根據NVIDIA表示,由兩片B200組成的GB200在基於1750億組參數GPT-3模型的基準測試中,其性能是H100的7倍、訓練速度則提高了4倍。

由於GB200是整套的解決方案,主要優化的部分在於其強大性能和Rack的設計。而鴻海因具備從零組件、模組、整機到資料中心的垂直整合能力,能配合客戶進行開發,以及整櫃輸出的技術力,可望將成為鴻海集團在AI伺服器產業的重要優勢。

在算力方面,舊式AI伺服器(A100、H100、B100),是由8顆GPU組成一個板子,搭配CPU;而GB200在於其CPU是用NVIDIA自己的Grace GPU,且一個Tray可以搭配2顆CPU+4顆GPU,算力性能大幅提升;基板也不需要這麼多了,但產品在通訊速度與冷卻的要求更高。

至於Rack方面,舊式AI伺服器一組Rack裝滿可以裝2台伺服器;GB200可裝載18台1u的伺服器,價格更好。換句話說,舊式AI伺服器,高u數、少台數;新式AI伺服器,低u數、多台數,價值更高。

法人指出,在提升GPU效能的目標下,GPU間的串聯相當關鍵,所以高速交換機的功能將會凸顯,而鴻海是交換機的重要供應商。

至於液冷散熱技術,鴻海五年前就開始在做了,鴻海集團在這方面可提供的價值包括更佳的運算效能、機櫃整體空間設計上的優化、節能表現優於業界、散熱解決方案也可以降低客戶的營運成本及機台運作更安靜等。法人指出,未來能夠掌握垂直整合、且與客戶密切合作的廠商才能真正受惠;而鴻海具備整櫃輸出的技術能力,具有競爭優勢。