馬斯克:啟用10萬顆H100叢集、規模數月後倍增
MoneyDJ新聞 2024-09-04 10:42:56 記者 郭妍希 報導
知名創業家馬斯克(Elon Musk)宣布,集結100,000顆H100 GPU的「Colossus」訓練叢集已正式上線。
馬斯克3日透過社交平台X指出,xAI團隊的「Colossus」已在這個週末成功啟用,專案從開始到結束僅花122天。
馬斯克表示,Colossus是全世界最強大的AI訓練系統,規模還將在接下來幾個月內倍增至200,000顆(當中包括50,000顆H200)。感謝xAI團隊、輝達及我們許多夥伴/供應商的出色工作。
TweakTown報導,xAI的旗艦大型語言模型(LLM)「Grok 2」是以15,000顆AI GPU訓練的,如今加上Colossus的100,000顆AI GPU,次世代LLM的表現有望更加優秀。
馬斯克6月初曾表示,他打算採購300,000顆輝達(Nvidia Corp.)Blackwell架構「B200」AI繪圖處理器(GPU),以提升「Grok」AI聊天機器人的表現。
馬斯克4月8日在社交平台X接受挪威央行投資管理公司(Norges Bank Investment Management)執行長Nicolai Tangen訪問時曾表示,訓練Grok 2模型需要約20,000顆輝達H100 GPU,而Grok 3及以後的模型則會需要100,000顆H100。他當時還預測,全新AI模型的能力將在明(2025)年底前超越人類智慧,前提是電力供給及硬體能滿足這種日益強大科技的需求。
(圖片來源:shutterstock)
*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。
延伸閱讀:
資料來源-MoneyDJ理財網