華碩台智雲首發繁中強化版大語言模型 累計「福爾摩沙大模型」服務逾70個大企業

華碩(2357)旗下台智雲於5月台灣AI超算年會上,基於開源大語言模型BLOOM推出「福爾摩沙大模型」(FFM-176B及FFM-7B);今(26)日宣布全球首發「繁體中文強化版FFM-Llama 2大語言模型」,包含70B、13B及7B全系列,支援Code Llama程式開發與Embedding增強語意搜尋模型,提供雲端、地端及AI PC等多樣態大語言模型及完整AFS(AI Foundry Service)服務,加速企業AI 2.0落地應用。

華碩打造台灣企業「GPT」 施崇棠:福爾摩沙大模型大幅強化本地知識力

台智雲總經理吳漢章。(圖/華碩提供)
華碩雲端暨台智雲總經理吳漢章表示,台智雲以開放模式提供大語言模型和工具平台,大幅降低企業進入門檻,實現普惠AI、發展以人為本的智慧科技。(圖/華碩提供)

華碩雲端暨台智雲總經理吳漢章表示,過去30年台灣ICT產業基於開放架構,一躍成為全球數位創新重要夥伴,在晶片、半導體、系統與資訊服務產業百花齊放。

他指出,台智雲以開放模式提供可信賴大語言模型,累積AI超算功能及完整AI工具平台,降低企業進入門檻,加速AI 2.0應用;期待能與合作夥伴延續台灣產業優勢,實現普惠AI、發展以人為本的智慧科技。

AI大聯盟成立 台智雲吳漢章:台灣應利用超級電腦技術發展LLM、算力即服務平台

台智雲FFM-Llama 2以最新大語言模型Meta Llama 2為基礎,藉由AIHPC超級電腦算力、高效平行運算環境與大語言模型切割技術,訓練大量台灣在地語料,大幅提升FFM-Llama 2繁體中文能力;全系列模型可進行微調、部署與推論,企業用戶亦能以自訂系統提示詞,讓AI模型思考更在地、更精準回應企業需求。

台智雲推出全球第一個繁中FFM-Llama 2大語言模型,保留原生Llama 2優異對話水準並用在地化中文精準表達。(圖/華碩提供)
台智雲推出全球第一個繁中FFM-Llama 2大語言模型,保留原生Llama 2優異對話水準並用在地化中文精準表達。(圖/華碩提供)

台智雲AFS推出全參數及高效率模型微調(Parameter-Efficient Fine-Tuning;PEFT)功能,在GPTQ 4-bit高性能壓縮技術優化下,提供經濟實惠的雲端或地端模型推論方案;「福爾摩沙大模型」發布至今,已服務超過70個大型企業,如電信業者台灣大哥大便將智能客服導入生成式AI應用,未來可望擴展至集團不同產業面以精進客服效率。

廣告

華碩表示,利用台智雲「AIHPC超級電腦服務」、「CCS(Container Compute Service)容器運算服務內建生成式AI映像檔」、「AFS(AI Foundry Service)企業級生成式 AI 解決方案」及「OneAI機器學習MLOps nocode AI平台」4大生成式AI算力平台,將可滿足產業對生成式AI可信賴、可掌控、資料安全及地端部署需求。

  • Yahoo財經特派記者 呂俊儀:資深財經媒體工作者,曾任採訪團隊主管,專訪過長榮集團創辦人張榮發、鴻海創辦人郭台銘,也歷經台積電創辦人張忠謀退休記者會等大事件,堅持產出最專業、富有洞見的新聞。