高通、Meta雙雄聯手 拼2024年在智慧手機實現生成式AI應用

高通今（19）日宣布，正與Meta聯手致力於最佳化Meta的 Llama 2大型語言模型直接在裝置上的執行，不再只能依賴雲端服務運作，得以能夠在智慧型手機、PC、VR/AR頭戴式裝置和汽車等裝置上運行如Llama 2這類的生成式AI模型，將能讓開發人員節省雲端成本，同時為使用者提供保護隱私、更可靠且個人化的體驗。

因此，高通技術公司計劃實現基於Llama 2的裝置上AI部署，以支援打造令人期待的全新AI應用。這將讓客戶、合作夥伴和開發人員能建構如虛擬智慧助理、生產力應用程式、內容創造工具、娛樂等使用案例。這些搭載Snapdragon的全新裝置上AI體驗，可在沒有連網的地區、甚至是飛航模式中運行。

據悉，Meta和高通技術公司長期合作，共同推動技術創新，提供新一代的頂級裝置體驗。兩家公司目前攜手支援Llama生態系，範圍橫跨研究和產品工程工作，高通技術公司規劃將於2024年開始在搭載Snapdragon平台的裝置上支援基於Llama 2的AI部署。

開發人員自今日開始便可使用高通AI疊層針對裝置上AI進行應用最佳化，高通AI疊層是一套可在Snapdragon平台上更有效地處理AI的專用的工具，即使在輕薄小巧的裝置上也可支援裝置上AI。

高通技術公司資深副總裁暨技術、規劃和邊緣解決方案業務總經理Durga Malladi表示，透過將生成式AI導入裝置，將為各種規模的開發人員降低入門的門檻。為了將生成式AI有效地規模化擴展至主流市場，AI 需要同時能在雲端與如智慧型手機、筆記型電腦、汽車和物聯網裝置等邊緣裝置上運行。

延伸閱讀

【科技人帶路】車用晶片龍頭英飛凌讓「雷達」走入尋常百姓家 陳恬純：感測器是智慧應用起點

蘇姿丰「只喜歡贏的感覺」 帶領AMD從谷底翻身與黃仁勳爭霸

聯發科小金雞達發估10月底上市 董座謝清江：今年營運將逐季成長

• Yahoo財經特派記者 侯冠州：自進入新聞產業後便於科技領域鑽研，採訪足跡遍及台積電、鴻海、NVIDIA、Arm等外商與台企，期許能在瞬息萬變的科技產業中提供讀者真實、專業的新聞內容。