馬斯克傳將為xAI建超級電腦、採最多10萬顆H100

MoneyDJ新聞 2024-05-27 07:26:14 記者 郭妍希 報導

市場傳出,美國億萬企業家馬斯克(Elon Musk、見圖)透露,旗下人工智慧新創xAI計畫打造一座超級電腦、支援AI聊天機器人「Grok」的下一代版本。

路透社、Tom`s Hardware引述The Information 25日報導,馬斯克5月在對投資人進行的簡報中揭露,「Gigafactory of Compute」預計明(2025)年秋季結束前上線,xAI會跟甲骨文(Oracle)合作開發這款超級電腦。

馬斯克指出,最新超級電腦將使用最多100,000顆輝達(Nvidia Corp.)「H100」繪圖處理器(GPU),為現有最大GPU叢集的至少四倍大。

據報導,馬斯克稱他個人會負責讓這款超級電腦準時上線,因為該專案對開發大型語言模型(LLM)至關重要。

今(2024)年稍早,馬斯克曾說,訓練「Grok 2」模型需要約20,000顆H100 GPU,而「Grok 3」及之後世代的模型將需要100,000顆H100 GPU。

輝達財務長Colette Kress 5月22日曾在財報電話會議說,Facebook母公司Meta Platforms宣布推出最新大型語言模型(LLM)「Lama 3」,使用了24,000顆H100 GPU,是第一季度(2-4月)期間的最大亮點。她提到,大型雲端運算提供商約貢獻輝達資料中心44~46%左右的營收。

廣告

輝達執行長黃仁勳(Jensen Huang) 5月22日也在電話會議表示,「這一季Hopper的需求仍在加溫.....預測需求仍會有段時間超出供給。」

黃仁勳22日並在財報電話會議表示,今(2024)年Blackwell有望帶來非常多營收(a lot of Blackwell revenue this year)。Blackwell預定在輝達第二季度(5-7月)出貨、Q3擴產,客戶Q4底前即可在資料中心安裝這些最新晶片。

(圖片來源:shutterstock)

*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。

延伸閱讀:

誰是輝達神秘大客戶?瑞銀猜微軟貢獻近2成營收

馬斯克新創xAI完成新輪募資、估值上探240億美元

資料來源-MoneyDJ理財網