《科技》雲端→終端!高通:邊緣AI將掀生成式AI革命
【時報記者王逸芯台北報導】隨著生成式AI技術快速演進,高通資深行銷總監江昆霖今(25)日指出,邊緣AI(Edge AI)將成為推動AI普及的關鍵動能。他表示,新一代AI模型已展現出比過去大型模型更高的效率與表現,同時模型體積也加速縮小,讓AI運算正逐步由雲端延伸至終端裝置。
江昆霖強調,裝置上AI(On-Device AI)具備多項優勢,包括即時反應、資料隱私保護、安全性、高效能、穩定性與個人化體驗,未來將成為生成式AI應用落地的主要平台。根據Tirias Research研究指出,若僅將20%的生成式AI運算從雲端轉移至邊緣裝置,並結合小型與混合式模型處理,預估到2028年可為雲端基礎設施節省高達160億美元的總體擁有成本(TCO)。
他進一步表示,混合式AI(Hybrid AI)將是未來主流,透過高速連接技術,讓手機、PC、汽車與物聯網裝置與雲端協同運作,提供更高效、穩定且最佳化的AI體驗。
在裝置端AI發展方面,高通持續扮演領頭羊角色。江昆霖指出,高通推出的AI協調器(Qualcomm AI Orchestrator),能根據使用者的個人偏好、當下情境與應用內容,主動提供個人化且即時的AI服務,支援文字、語音、影像等多模態互動,打造更貼近使用者的智慧AI代理(Agentic AI)體驗。
針對開發者資源,高通也積極拓展AI生態系。江昆霖表示,高通近期已在Qualcomm AI Hub中導入支援台灣首個本土AI模型TAIDE(Trustworthy AI Dialogue Engine),讓開發者可直接下載並整合經過預先最佳化的上百種AI模型,大幅縮短開發時程,並實現裝置上AI的效益。
此外,Qualcomm AI Hub目前已支援繁體中文介面與文件,進一步降低開發門檻,鼓勵更多台灣開發者加入AI應用創新行列。江昆霖補充,目前Snapdragon X系列的AI運算核心(NPU)已與超過60家AI獨立軟體供應商合作,涵蓋超過140項實際AI應用場景,展現高通在裝置端AI生態的深厚實力。