《半導體》群聯升級aiDAPTIV+擴展邊緣AI應用 支援NVIDIA Jetson平台

【時報記者王逸芯台北報導】群聯(8299)宣布其邊緣AI訓練與推論解決方案aiDAPTIV+再度升級，提供更多擴充能力。aiDAPTIV+將整合進Maingear的ML系列筆電，這款AI筆電將成為全球首款支援LLMOps（大型語言模型運作業）的消費級筆電。使用者可以利用企業或個人資料來微調（Post-training/Fine-tuning）最多80億（8B）參數的大型語言模型（LLM），使預訓練（Pre-trained）模型依照邊緣應用場景和使用者需求進行客製化，實現AI的普及與落地。

這款搭載NVIDIA GPU的AI筆電將於本周在NVIDIA GTC 2025展示概念機，並開放登記購買。此外，群聯也將aiDAPTIV+擴展至支援NVIDIA Jetson平台的邊緣運算設備，強化在邊緣端的生成式AI推論與機器人應用。

隨著此次升級，aiDAPTIV+用戶將迎來全新的aiDAPTIVLink 3.0中介軟體（Middleware Software），提供更快的首次回應時間（Time to First Token, TTFT）和延長Token長度，進一步提升推論效能與準確性。此次擴展將開啟更多應用機會，無論是大學生或AI產業專業人士學習LLM訓練，還是研究人員透過PC深入解析資料，甚至是製造工程師利用邊緣運算設備自動化生產流程，都能受益於此次的功能升級。

隨著AI和邊緣運算應用場景的增多，市場對AI開發人才的需求持續上升。開發者需要親自操作LLM訓練解決方案，以建立未來AI應用所需的AI軟體或專屬邊緣AI模型；而政府機構、研究機構、醫療和工業等高度監管的產業，則需要邊緣且安全的AI設備進行私有資料的微調訓練。此外，市場對LLM推論速度與準確度的要求不斷提高，企業希望在可預測的成本下獲得最佳解決方案。aiDAPTIV+以經濟實惠的GPU記憶體擴充能力，讓用戶能在邊緣安全網路內微調訓練大語言模型（LLM），並透過直覺化的軟體介面與AI型互動，獲取所需的AI生成關鍵資訊。

Maingear執行長Wallace Santos表示，延續去年GTC展出aiDAPT+ AI訓練工作站的熱潮，我們與群聯深化合作，推出概念性AI筆電，讓強大的邊緣AI推論與裝置端模型訓練無處不在。這項技術突破將邊緣AI能力帶入輕便的行動平台，為企業、教育機構與學生提供經濟高效的AI開發工具，無需依賴傳統數據中心基礎設施。

群聯執行長潘健成表示，AI的發展已經來到關鍵時刻，企業、學術界與開發者都需要更靈活、高效的邊緣AI解決方案來擴大AI的落地應用。群聯的aiDAPTIV+不僅讓用戶在個人筆電或邊緣設備上進行AI模型的訓練與推論，還確保資料安全並降低成本，實現AI邊緣運算的便利性。今年，我們與Maingear攜手推出全球首款支援LLMOps的AI筆電，並強化aiDAPTIVLink 3.0的效能，讓LLM的回應速度更快、理解力更強。此外，群聯進一步擴展與NVIDIA Jetson平台的合作，將aiDAPTIV+引入邊緣運算與機器人應用，讓更多產業如製造、醫療、零售、智慧監控等領域，透過AI提升營運效率與決策精準度。