《熱門族群》輝達×聯發科 打響AI晶片價格戰

【時報-台北電】AI技術公司DeepSeek發表最新大語言模型DeepSeek 3.0,為業界投下震撼彈,低成本的訓練模式,將AI模型競爭帶入價格殊死戰;AI晶片預估也將感受到錙銖必較的成本壓力。因應該趨勢,輝達開第一槍,攜手聯發科推出迷你型AI超級電腦Project DIGITS,擷發科技以打造經濟高效ASIC/SoC為目標,以最低規格晶片運行AI應用服務。

在多項基準測試中,DeepSeek 3.0展現強大的能力,此外,僅使用2,048張輝達H800顯卡,耗費278萬GPU小時,總成本僅為557萬美元;相較之下,Meta的Llama 3.1使用更先進的H100顯卡,訓練成本超過數億美元。

顯著的成本優勢使其服務價格更是具有吸引力,輸入每百萬Token之費用僅為人民幣0.1至1元,輸出費用為人民幣2元,相較GPT-4o的輸入5美元及輸出15美元,成本低至其10%、甚至1%。

擷發科技董事長楊健盟認為,在DeepSeek 3.0、輝達迷你型AI超級電腦推出後,將會加速市場往低功耗、高效能晶片發展;伴隨晶片製造、AI資料中心運行皆消耗相當多資源,未來相關業者將想方設法降低各環節能耗。

他透露,擷發科技能與眾多IC設計大廠如高通、聯發科合作,即是看上公司類CUDA之AI軟體設計服務,能夠在不改變晶片設計情況下,將原先僅能運行五個模型之AI晶片、增加至十個,意謂著同樣功耗下能有更高效能。

2024年甫有業者推出自主研發AI解決方案,採SSD、要價約百萬元,2025年輝達即攜手聯發科推出僅10萬元、能處裡更多參數的迷你版超級電腦,足見「低成本、高效能運行AI」蔚為趨勢。

楊健盟分析,Project DIGITS透過Grace Blackwell架構,運作Linux之NVIDIA DGX之作業系統,未來還可銜接NVIDIA DGX Cloud、加速雲與資料中心之基礎設施;軟體、硬體雙管齊下,將會是未來IC設計業者發展方向。

擷發也積極朝該方向進行努力,除ASIC委託設計服務外,亦提供AI賦能軟體平台,使客戶輕易搭上AI成長列車。楊健盟表示,登興櫃後研發量能更完備,2025年正式起飛、邁向高速成長。(新聞來源 : 工商時報一張珈睿/美國拉斯維加斯報導)