太貴了?傳輝達、微軟爭執是否該為B200買新機櫃

MoneyDJ新聞 2024-06-24 08:28:16 記者 郭妍希 報導

市場傳出,輝達(Nvidia Corp.)對於如何在伺服器機房安裝最新Blackwell架構「B200」繪圖處理器(GPU),跟AI大客戶微軟(Microsoft Corp.)有些爭執。

Tom`s Hardware 22日引述The Information報導,輝達一直在積極搶攻資料中心市占率,執行長輝仁勳(Jensen Huang、見圖)多次在簡報時提到,他已不再思考單一個別的GPU,而是把一整個NVL72伺服器機櫃視為一顆GPU。這顯然是為了爭取更多營收,並試圖影響客戶安裝B200 GPU的方式。

過去,客戶只要負責採購、打造合適的伺服器機櫃來安裝這些硬體。如今,輝達敦促客戶直接向該公司購買各式機櫃、甚至一整個人工智慧資料中心基礎架構「SuperPOD」。輝達宣稱這能提升GPU效能,考慮到連結各式GPU、伺服器、機櫃甚至是SuperPOD的介面,確實有其道理。然而,對打造大規模資料中心的客戶來說,這也代表了昂貴的帳單。

據傳,輝達副總裁Andrew Bell希望微軟能採購專為B200 GPU設計的伺服器機櫃,因為B200的構型(form factor)跟微軟資料中心使用中的機櫃有幾英寸差異。然而,微軟拒絕接受輝達建議,因為採買新機櫃,會讓微軟無法輕鬆交互使用輝達AI GPU及其他競爭產品,例如超微(AMD)的MI300X GPU。輝達最終讓步,允許微軟使用自家客製化伺服器機櫃來安裝B200 AI GPU。不過,這大概不會是兩家業者最後一次爭執。

廣告

值得注意的是,輝達的MGX模組化系統同時支援OCP (Open Compute Project,開放運算計畫)的開放式伺服器機櫃「Open Rack」(21吋),以及美國電子工業聯盟(EIA)制定的標準19吋機櫃。微軟似乎使用較先進、密度較佳的OCP機櫃,且該公司現有的基礎設施許多仍運作良好,現在就將之全部升級、成本勢必相當高昂。

輝達GB200要7萬美元?

分析師估計,輝達最新Blackwell架構GPU將比Hopper架構更昂貴,由兩顆B200 Blackwell GPU及一顆Grace CPU組成GB200超級晶片價格上看7萬美元。

美國知名財經網站霸榮(Barron`s)資深科技專欄作家Tae Kim 5月14日透過社交平台X指出,匯豐(HSBC)估計,GB200均價將介於60,000~70,000美元,入門款的B100均價則介於30,000~35,000美元之間。

基於輝達設計的伺服器昂貴許多。根據Tae Kim推文,匯豐估計,Nvidia GB200 NVL36伺服器機櫃(擁有18顆Grace CPU及36顆先進B200 GPU)均價或許將達180萬美元,而Nvidia GB200 NVL72伺服器機櫃(擁有36顆CPU、72顆GPU)均價可能在300萬美元左右。

(圖片來源:shutterstock)

*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。

延伸閱讀:

AMD高層:每一世代CPU都會使用台積電最新製程

馬斯克:戴爾、美超微將為xAI超級電腦供應機櫃

資料來源-MoneyDJ理財網