輝達H100難取代 Naver應用英特爾CPU範圍有限?

MoneyDJ新聞 2023-11-07 08:20:19 記者 郭妍希 報導

南韓著名入口/搜尋引擎網站Naver上週宣布,旗下Naver Place店家與餐廳搜尋/推薦服務,決定將推論(inference)過程使用的AI伺服器晶片供應商,由輝達(Nvidia Corp.)轉換至英特爾(Intel Corp.),主要是受到供貨吃緊及漲價問題影響。對此,分析人士相信,此舉雖然可行、但應用範圍有限,賽局並未出現重大變化。

Seeking Alpha、Investing.com報導,Bernstein由Bokyung Suh帶領的分析師團隊6日發表研究報告指出,Naver以英特爾的Sapphire Rapids CPU及AI加速器取代輝達H100雖然可行,但卻非「理想」狀態,因為訓練大型語言模型(LLM)等AI任務的成本非常高昂。

Bernstein指出,截至目前為止,輝達H100依舊是全世界效能最佳的AI晶片,執行推論任務的效果比前代A100提升1.5~4.5倍,推論測試結果也優於Google、高通(Qualcomm)、英特爾旗下Habana Labs推出的AI加速器。

報告稱,把GPU改換成CPU並非理想選擇,因為AI任務的成本非常高,尤其是在LLM模型的訓練方面。即便H100售價昂貴許多,且面臨生產與供給窘境,但「訓練」(training)與「推論」的總成本依舊較低。

該證券相信,中長期而言,Naver恐怕無法以英特爾CPU代替GPU,為LLM模型進行訓練、微調。結論是,Naver、英特爾的合作案雖可行,但應用範圍相當窄,或許只能用於推論、或參數(parameter)必須調得夠低,肯定無法改變賽局(definitely not the game changer yet)。

廣告

報告並指出,Naver的生成式AI LLM模型參數約200B,但Naver Place LLM的參數僅佔整個模型不到5%,不是用來訓練或微調的。

輝達6日聞訊上漲1.66%、收457.51美元,創10月16日以來收盤新高;年初迄今飆漲213.06%。輝達預定11月21日美股盤後公布財報。

Barron`s 6日報導,FactSet統計顯示,分析師普遍預測輝達今(2023)年營收有望成長接近一倍至525億美元,每股盈餘則有望成長近三倍。FactSet預測,拜未來幾年雲端支出將有雙位數成長之賜,輝達未來5年每年的營收可望成長超過20%、於2028年達到將近1,500億美元,這會使每股盈餘的年成長率逼近30%。

(圖為輝達執行長黃仁勳,來源:官網)

*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。

延伸閱讀:

ChatGPT之父將打造"超智慧" H100供應明年改善

生成式AI不再是賠錢貨、微軟的Copilot賺錢了

資料來源-MoneyDJ理財網