AI 從「訓練⭢推論時代」 專家細評記憶體：存儲鏈價值將重估

AI新時代來臨？近日受記憶體缺貨影響，記憶體族群股一路飆升，南亞科、旺宏、創見等記憶體族群股價持續走強，對此，臉書粉專「萬鈞法人視野」（沈萬鈞）分享，近期Sandisk與鎧俠（Kioxia Holdings）的漲幅，比美光、海力士這些DRAM純度更高的公司還強，他認為AI正式從「訓練時代」跨進「推論時代」，「storage（儲存裝置）」未來的需求可能會更強。

沈萬鈞指出，過去兩年市場的焦點都在訓練，例如HBM要疊幾層、頻寬多高、算力誰最猛。訓練的世界是乾淨的、可排程的、可預測的，一次性把大型資料集掃過去就結束了，但推論完全不是這個邏輯；推論是由全球數十億人的行為隨機觸發，流量亂、I/O更亂，而且每一次互動都會loop、都會去讀模型、讀資料庫、讀KV、寫log；推論不是算力的比拼，而是IOPS的遊戲。

沈萬鈞表示，AI的瓶頸正在從「前台」的GPU，轉向「後台」的記憶體與儲存階層，即使給模型一顆最強的GPU，只要後面的「storage」撐不住，它還是會被餓死。

他說，更關鍵的是，生成式AI現在進入多模態與長情境的階段，不再只是一串文字，而是大量影片、圖像、3D場景、整個代碼庫；這些內容本質上，就是 token的指數級膨脹；訓練時代是線性成長，推論時代是指數爆炸，而這個爆炸，直接打在「storage」身上。

沈萬鈞指出，雲端業者除了之前的HDD繼續用之外，新建將開始改用大容量QLC SSD；原本被當成景氣循環股的NAND，突然變成新的結構性成長主軸；專為推論而生的晶片，不再執著HBM，而是改用GDDR7這種成本更合理、容量更大、頻寬又夠用的方案，整個產業的語言，正在從「比算力」變成「比 TCO」。

沈萬鈞說明，「推論時代」的記憶體，不再是單層結構，而是完整的階層化架構，最前面靠HBM撐頻寬，中間要靠新型態的高頻寬快閃記憶體（HBF）容納巨大模型，底層再用eSSD撐海量資料湖。這不是單一產品的景氣循環，而是一整套 architecture的重建，真正被重估的，是「整個存儲鏈」的價值。

沈萬鈞補充說明，這不只發生在資料中心。邊緣AI、AI PC、AI手機、AI眼鏡正在成為下一波裝置循環，它們需要更快的啟動碼、更穩的韌體、更高的隨機讀取能力，NOR Flash因為XiP的特性，再次被推上檯面，底層的變化其實比大家想得更深。

至於Sandisk 與鎧俠（Kioxia Holdings）的股價會領先，沈萬鈞分析，可能是因為市場解讀，AI的需求不只是「把DRAM推到極致」，而是讓整個記憶體與儲存階層，在推論時代的壓力下全面升級，真正會長期受惠的，是能解決「大量資料長期存放＋高IOPS實時調用」這個核心問題的廠商。

沈萬鈞坦言，他認為未來兩年的AI基礎設施，很難再用過去那種「誰的記憶體 ASP最快漲」的短線角度去理解，推論是長期、連續、黏著度高的需求，它會重新塑造NAND、NOR、SSD甚至新型態快閃記憶體的角色，訓練造就了上一波 AI全明星；推論，才是真正把「storage」推上舞台的那一波。

最後，沈萬鈞強調，這個時代的敘事，已經不是「HBM又缺了沒？」而是「推論的資料流量，將會把誰推向下一個成長曲線？」這一題，才正要開始，記憶體與「storage」的黃金週期看來還有許多故事。

（封面示意圖／翻攝Pexels）

更多東森財經新聞報導
鴻海攜手OpenAI 陸行之：可能會以股票換訂單
鴻海攜手OpenAI！ 明年啟動資料中心模組化拚出貨潮
鴻海前3季就賺1股本！ 劉揚偉再報喜：明年「非常看好」