AI推理新戰場 美巨擘砸重本
今年初DeepSeek爆紅後，AI晶片需求逐漸從AI模型訓練轉向AI推論，吸引更多業者開發AI推理模型，也令業界看好整體AI投資成長。最新研究預測亞馬遜、微軟及Meta等大型雲端平台營運商合計AI資本支出將在2032年前突破5,000億美元。
研究估計今年上述美國大廠對資料中心及晶片等AI資源一共投入3,710億美元資本支出，較去年增加44％。接下來美國大廠的AI資本支出將加速擴大，在2032年前達到5,250億美元。
業界人士普遍認為今年初DeepSeek爆紅之後，AI產業發展逐漸邁入下一個階段，也就是從大規模語言模型（LLM）轉向推理模型（Reasoning Model）。
回顧2022年底OpenAI推出ChatGPT後，科技大廠爭相發展大規模語言模型，促使主打AI模型訓練能力晶片需求爆量，輝達訂單接到手軟。但今年初爆紅的DeepSeek號稱旗下R1模型表現媲美ChatGPT，訓練成本卻比ChatGPT便宜許多，以致AI晶片需求逐漸從訓練晶片轉向推論晶片。
近日DeepSeek及OpenAI接連推出推理模型後，帶動更多AI軟體商機，也吸引更多業者投資。
推理模型與大規模語言模型的差異在於，推理模型回答問題時會包含「思考」或「推理」過程，比大規模語言模型更適合處理複雜任務，例如數學解題或邏輯推理。相較之下，大規模語言模型較擅長處理文章摘要、翻譯或知識性簡單問答。
業界預期未來科技業對AI模型訓練投入的資本支出成長將逐漸減速，反觀AI推論將成為生成式AI市場資本支出成長最快領域。
調查估計今年美國大廠AI預算當中仍有超過40％投入AI模型訓練，但該比重將在2032年前降至14％，屆時投入AI推論的預算比重將超過50％。
