AI智慧裝置崛起，估每年經濟效益大增，高通AI Hub已提供逾75個AI模型

【財訊快報／記者李純君報導】AI大戰在邊緣運算市場正式開打，高通於巴塞隆納世界行動通訊大會（MWC Barcelona）發表最新的裝置上AI、智慧運算和各種無線連接產品與里程碑，並揭露，Qualcomm AI Hub已提供超過75個最佳化的AI模型。也預期，生成式AI預計將為各行各業帶來廣泛影響，每年可增加相當於2.6兆至4.4兆美元的經濟效益。AI的應用已然自雲端大舉往邊緣運算方式，高通提到，自家更在新一代PC、智慧型手機、軟體定義汽車、XR裝置、物聯網等領域實現了大規模的裝置上AI商業化，使智慧運算無處不在。也揭露，Qualcomm AI Hub為Snapdragon和高通平台提供超過75個最佳化的AI模型，為開發者縮短上市時間，並為他們的應用程式充分發揮裝置上AI的優勢。這些模型也可於Hugging Face和GitHub上取得。

高通在本次的MWC發表高通在人工智慧（AI）方面的最新進展。從全新Qualcomm AI Hub，到展示一系列支援AI的商用裝置。高通資深副總裁暨技術規劃與邊緣解決方案業務總經理Durga Malladi表示：「藉由用於智慧型手機的Snapdragon 8 Gen 3和用於PC 的Snapdragon X Elite，高通促成裝置上AI的大規模商業化。Qualcomm AI Hub為開發者提供完善的AI模型庫，可快速地將預先最佳化的AI模型整合到應用程式之中。」

高通總裁暨執行長Cristiano Amon表示：「生成式AI的未來是混合式的，藉由裝置上智慧與雲端攜手，以實現更佳的個人化、隱私性、可靠度和效率的應用。連接能力對於促使生成式AI在雲端、邊緣和裝置上規模化與擴展極為重要，而AI解決方案則使高通能夠提供新一代的連接能力，以支援這個生成式AI的時代。高通正使生態系能夠開發和商業化各種生成式AI使用案例、使用者體驗、和跨裝置類別的各種尖端產品，包括智慧型手機、新一代PC、XR裝置、汽車、機器人等。」

高通本次揭露的AI裝置成果，包括在Android手機上運行的大型多模態模型（LMM）上的一款具有超過70億個參數的LMM，可以接受包括文字和圖像的多種類型資料輸入，並且能與AI助理生成關於圖像的多輪對話——此為首次在Android智慧型手機上運行的應用。以及首次在Android智慧型手機上運用低秩調整（Low Rank Adaptation，LoRA）運行Stable Diffusion。 LoRA技術可在多種使用案例實現可擴充與客製化的裝置上生成式AI。

高通也揭露各種裝置實現生成式AI的成功案例，包括智慧型手機部分，展示一系列搭載Snapdragon 8 Gen 3行動平台的旗艦級商業化AI智慧型手機，包括榮耀Magic6 Pro、OPPO X7 Ultra，以及小米14 Pro。另外，還有在Windows PC上運行具有超過70億個參數的LMM裝置上展示，此模型可以接受文字和音訊輸入（例如：音樂、交通聲音等），然後生成有關此段音訊的多輪對話。以及高通5G固定無線存取Ultra Gen 3平台、高通基礎設施處理器、搭載Wi-Fi 7的Snapdragon汽車連網平台等。

PC端的新款Snapdragon X Elite及其所配備每秒45兆次的NPU是專為裝置上AI所打造，且生成式AI就能在7秒內創造出圖像，比x86的競爭對手快3倍。汽車端，運用AI軟硬體解決方案，透過Snapdragon數位底盤平台展示傳統和生成式AI能力。消費者IoT端，展示在Snapdragon平台運行的Humane 的AI Pin，讓使用者能夠將AI以對話式、無螢幕的全新型態隨身攜帶到任何地方。