《科技》安提、高通攜手推邊緣AI 打造高效本地設備解決方案

【時報記者葉時安台北報導】宜鼎(5289)集團子公司安提國際(Aetina)周五宣布,與高通技術公司(Qualcomm Technologies, Inc.)展開合作。高通技術公司推出革命性Qualcomm AI本地設備解決方案(Qualcomm AI On-Prem Appliance Solution)以及Qualcomm AI推理套件(Qualcomm AI Inference Suite),而此次合作即是結合高通技術公司尖端的推理加速卡與軟體套件,以及安提先進的邊緣運算系統,為企業以及工業組織提供前所未有的運算效能和立即可用的AI方案。

Qualcomm AI本地設備解決方案結合先進硬體與完整的AI推理軟體,打造高效能的本地化AI運算解決方案,可在企業環境中發揮卓越效能。這項全新整合方案將於2025年第一季透過全球通路夥伴正式上市。

安提的旗艦型產品MegaEdge AIP-FR68桌上型工作站通過整合Qualcomm Cloud AI系列加速卡,為邊緣運算樹立全新效能標竿。每個Cloud AI 100 Ultra加速卡在八位元整數(INT8)運算下,提供高達870 TOPS的AI運算效能,且功耗僅150瓦特,展現卓越的能源效率。單一桌上型工作站至多可配置兩張Cloud AI 100 Ultra加速卡。

此次合作亦為生成式AI帶來創新應用,特別是在具備檢索增強生成(RAG)技術的大型語言模型(LLMs)方面。使企業能夠在標準PC型態的工作站上快速開發、測試和客製化生成式AI模型,並可無縫擴展至私有或雲端數據中心。這項功能對於需要安全、高效能AI運算的產業尤其重要,如醫療保健、金融、零售和製造業等。同時,作為宜鼎集團子公司安提國際也透過此次策略合作,強化其作為集團AI創新驅動力的關鍵定位,並展現接軌國際大廠的技術實力。

安提國際副總經理洪英瑞強調此次合作的變革潛力,安提與高通技術公司的合作代表著邊緣AI部署的重大突破。透過桌上型系統設備實現複雜的運算環境,同時讓企業級AI應用更易於部署。此解決方案使企業能夠在本地端運行複雜的AI模型,在確保資料隱私的同時,維持卓越的互通性和雲端級效能。