聯發科進軍生成式AI平台 繁中LLM超越GPT3.5

鉅亨網記者魏志豪 台北

IC 設計大廠聯發科 (2454-TW) 今 (9) 日舉辦論壇，正式推出生成式 AI 服務平台 MediaTek DaVinci，也稱「聯發科達哥」，同時旗下聯發創新基地釋出最新的繁體中文大型語言模型 MediaTek Research BreeXe (MR BreeXe)，參數模型高達 450 億個，能力超越 GPT3.5。

AI 暨數據工程處協理葉家順指出，MediaTek DaVinci 是個高整合度、高擴展性的開放式平台，可讓客戶自由選擇模型、串接資料來源等，甚至模型也可以進行客製化，目前已有超過 20 家高科技廠、超過 10 家消費品牌、6 家金融業、3 家電信業以及 5 家傳統產業加入達哥生態系。

聯發科說，MediaTek DaVinci 是基於生成式 AI 服務框架 (GAI Service Framework, GAISF) 下去開發的，原先是為集團內部打造具資料安全性、提高生產力的生成式 AI 工具，後續獲各部門廣泛使用，進一步提高生產力。

隨著 MediaTek DaVinci 發展越趨成熟，聯發科也將其發展成可供外部企業導入的生成式 AI 服務平台，且除了客戶外，也有系統整合、雲端服務、教育機構、新創公司、模型供應商等加入 MediaTek Davinci 生態系。

此外，聯發科旗下聯發創新基地也釋出最新繁體中文大語言模型「MR BreeXe」，其以 Mixtral 8x7B 模型為基礎開發，繼承 Mixtral 多專家模型特有的節省運算資源、提升速度優勢，再加上聯發創新基地的預訓練 (pre-training) 後，不但在繁體中文測試項目 (TMMLU+、MT Bench TW) 超越 GPT-3.5，並對台灣常見之地端應用特別進行優化，提升產業界使用生成式 AI 與檢索增強生成 (RAG) 的體驗。

廣告

聯發科也因與輝達 (NVDA-US) 關係緊密，MR BreeXe 也是首家台廠基於輝達的 Taipei -1 GPU 超級電腦 DGX GH200 上進行訓練的模型，透過 MediaTek Davinci，支援全地端與部分地端的佈設場景，並可依需求進行多樣本學習 (few-shot learning) 甚至微調 (fine-tuning) 的客製化。

葉家順表示，MediaTek DaVinci 解決許多企業在採用生成式 AI 的痛點，讓各行各業在確保資訊安全的環境下，可善用已有強大基礎的平台開發專屬的生成式 AI 應用。隨著更多企業與開發者加入 MediaTek Davinci 生態系，相信 MediaTek DaVinci 的能力將會持續爆發性成長，成為企業的得力助手。

聯發創新基地負責人許大山說，MediaTek Research BreeXe 繁體中文大型語言模型是聯發創新基地在大模型發展上最新的里程碑，提供優異語文理解能力和雲、地兩端的彈性，為現今繁體中文能力最強的語言模型， 加上與 MediaTek Davinci 的搭配，相信能更貼近在地需求，激發更多在地的生成式 AI 應用。

更多鉅亨報導
•聯發科繼星宸後另一轉投資ITH-KY送件申請上市
•聯發科第七屆「智在家鄉」 首度邀日月光、Arm、益華共襄盛舉

相關內容

  • 台指期 外資減碼空單

    台股4月30日以跳空小漲12.96點開出，受到傳產股拖累一度翻黑，不過，在台積電（2330）及聯發科（2454）的帶領下，攻上波段高點20,559點，台積電也在盤中重回800元，然權值股最後殺尾盤，台股終場下跌98.92點、收20,396.6點，台指期4月最後一個交易日下跌137點，收20,413點，期現貨正價差16.4點，電子期正價差縮至1.24點，金融期正價差縮至5.11點。

  • 台積尾盤遭狙擊台股量縮翻黑 三大法人買超32.66億

    台股今 (30) 日呈現高檔震盪，開盤一度翻黑，不過盤中再度翻紅，最高來到 20559.97 點，持續挑戰前高 20883 點，不過在權值股較無表現，且台積電與聯發科遭殺尾盤的情況下，終場下跌 98.92 點或 0.48%，以 20396.6 點作收，成交量縮至 3575.85 億元；三大法人

    5

  • 《半導體》天璣9300+倒數 聯發科重返千元

    【時報記者王逸芯台北報導】聯發科(2454)預計在5月7日在深圳舉辦天璣開發者大會MDDC 2024，屆時將發表新款旗艦行動平台「天璣9300+」。聯發科旗艦天璣系列在智慧型手機一片不景氣中，為聯發科營運提供重要支撐，聯發科今年看好旗艦晶片的營收將會有逾50%的成長。聯發科今(2)日開低走高，收復千元大關，午盤後漲幅逾2%，股價最高來到1020元。 聯發科天璣旗艦SoC(系統單晶片)在旗艦手機市場強勁的市佔率擴張，尤其是大陸智慧機市場，加上較高的旗艦手機晶片平均單價帶動，聯發科預計2024年手機營收成長可高於mid-teens%(14-16%)，其中，旗艦手機晶片營收可望成長超過50%。 法人分析指出，聯發科天璣9300晶片組非蘋陣營手機市場市佔率20%，主攻vivo、小米、OPPO中系機種為主。聯發科的天璣9300晶片組可支援，AI處理器APU 790，以提升生成式人工智慧性能。在聯發科的Neuro Pilot平台之上，APU 790可以處理高達130億個AI大語言模型所需要的不同參數的LLM(大型語言模型)。開發者可以迅速構建多模態生成式人工智慧應用，為用戶提供文本、圖形和音頻服務

    1

  • 《DJ在線》AI導入旗艦機趨勢升 聯發科/高通搶攻

    MoneyDJ新聞 2024-05-02 12:58:22 記者 萬惠雯 報導高通上季財報以及本季財測表現優於預期，並看好AI手機需求效應，尤其是中國高階智慧型手機市場需求見復甦，整體來看，未來AI導入手機的趨勢看好，消費者想買可以運作AI的智慧型手機，法人則預期，從今(2024)年開始，AI走入邊緣端將陸續啟動，2025-2026年進入量產，將成為高通、聯發科(2454)中長期的成長動能。 高通財報表現佳，反應了AI手機以及中國高階Android旗艦機需求向上的成長動能；針對AI手機，聯發科則認為，AI手機的應用還在早期階段，拉高滲透率的關鍵在於加速應用開發，以及更全面的生態系統。 若以中國高階旗艦機戰場來看，聯發科認為，目前全球排名前三的智慧型手機，皆是採用了天璣9300晶片，公司在旗艦手機市占率擴張，推動2024年旗艦手機晶片營收可望成長超過50%。 在產品面上，高通表示，Snapdragon 8 Gen3於中國銷售佳，主要即是搭載於高階Android智慧型手機，並預期2024下半年再推出Snapdragon 8s Gen3與Snapdragon 7+Gen3行動平台；聯發科則以

  • 《熱門族群》半導體檢測三雄 業績全面爆發

    【時報-台北電】AI、HPC（高效能運算）需求強勁，推動台積電除推進先進製程外，對先進封裝CoWoS採取擴大產能建置動作，市場法人看好，在先進製程及先進封裝需求不斷推升下，半導體新品需配搭前期檢測能量，將同步大幅提升，台系半導體檢測分析三強閎康、宜特及汎銓，今年營運表現可望全面續強。 閎康、宜特、汎銓今年第一季營收皆繳年增佳績。宜特首季營收年增近9％，突破10億元大關，創歷史新高，單季每股稅後純益1.8元，年增近4成，也創歷史同期新高。閎康、汎銓第一季營收也分別拿下5.63％、6.57％，營運表現亮眼。 業者表示，台積電去年3奈米僅一家客戶蘋果，但今年包括英特爾、超微、聯發科等大廠開始擴大下單3奈米家族，也因為客戶首度於新製程進行投片，半導體檢測分析將因而同步受惠。 由於目前正處於AI產業硬體建置高峰期，晶片設計複雜度提升，故障分析（FA）的需求將快速增加。閎康早已與晶圓代工大廠建立了緊密的合作關係，隨著客戶取得高速運算晶片大部分的市場份額，相關晶片的檢測需求也將增長。 市場法人也指出，閎康在營運上掌握AI、HPC相關動能，且該公司也是同業中最積極進行日本布局，隨著海外營運貢獻增加，看

  • 台積電/聯發科尾盤下殺 台股收跌98點

    MoneyDJ新聞 2024-04-30 15:53:27 記者 新聞中心 報導美股四大指數周一小幅上漲，台股今(30)日早盤開高，隨後在平盤附近狹幅震盪，盤面上各類股呈跌多漲少，較無明顯主流族群撐盤，終場前因台積電、聯發科於尾盤出現下壓力道，傳產及金融股也多數走弱，加權指數翻黑收在今日最低點20396.6點，下跌98.92點或0.48%，成交量縮減至3575.85億元。加權指數本(4)月上漲102.15點或0.5%，月K呈連三紅。 特斯拉、蘋果雙雙跳高激勵美國科技類股，但市場擔憂聯準會(Fed)可能發表鷹派言論，美國四大指數29日僅小幅走揚。亞洲股市方面，日股週二上漲，主要受到半導體相關股票漲勢的帶動，汽車等出口相關股票預期將受惠於日圓貶值也吸引買盤進駐，日經225指數收盤上漲1.24%；韓股週二同步收紅，KOSPI收盤上漲0.17%。 台股今日震盪收低，台積電早盤開高，盤中一度站上800元關卡、來到802元，不過尾盤急殺10元，收在790元，下跌0.63%，聯發科尾盤亦急殺、收在992元，下跌2.27%，加上鴻海也跌1.58%，拖累電子股走弱，瑞昱、聯詠、欣興跌幅超過1%，國巨、和

  • 【OTT平台經營術5】推薦片單問AI　friDay藉多元投資打造全娛樂生活

    去年中，friDay影音推出付費會員專屬的推薦片單功能「問AI」測試版，並於今年3月正式改版。此舉帶動全站付費用戶數增加近一成，但目前僅手機應用程式可使用，不支援網路版。

  • 《晨間解盤》費半垮 2方式操作

    【時報-台北電】隨著指數反彈接近前高，周二台股走勢轉趨震盪，權值股鴻海(2317)、聯發科(2454)於平盤下遊走，台積電(2330)更在尾盤急殺，盤面以散熱奇鋐(3017)、高力(8996)、IC設計矽力-KY(6415)、凌陽(2401)、汽車零組件定穎投控(3715)、華孚(6235)等各自表現為主，終場加權指數下跌98點，收在20396點。 美股最新收盤方面，Fed未提須再次升息利多，不敵AMD、美超微財報利空，美股在半導體類股領跌下大多收低，最新道瓊上漲0.23%，那指下跌0.33%，費半下跌3.54%。 美國3月CPI、PCE數據高於預期，通膨壓力再度高漲，元大投顧分析，除了觸發美債殖利率走升警鈴，全球股市更出現大幅動盪，所幸隨FedWatch顯示9月啟動降息且幅度為一碼的輪廓暫時定調，市場逐步消化延後降息衝擊，搭配微軟、谷歌亮眼財報適時激勵，帶動科技股跌深反彈，主要是雲端大廠資本支出不手軟，投資人重新聚焦AI應用與發展潛力；反觀台股雖然出現1,400點的回檔，但強勢防守於季線之上，背後意涵代表內資的動能充沛，當然還包括AI供應鏈硬實力，電子成交比重拉高順勢推升大盤收復月線

  • 被爆料很難共事　黃仁勳認了

    輝達（Nvidia）執行長黃仁勳搭上人工智慧（AI）熱潮，已經被稱作是AI教父，去年更以96%員工支持度，獲選全美最受歡迎執行長。最近他接受節目專訪，談及曾有與他一起共事的員工稱他「要求嚴格、追求完美

  • 《台北股市》聯發科、欣興前景佳 反攻先鋒

    【時報-台北電】台股近期在2萬點大關上方震盪，由非科技類股跳出來撐住多頭士氣，法人指出，電子股雖暫時休息，長遠來看仍是台股不可或缺要角，聯發科（2454）、欣興（3037）前景無虞，中信投顧同時給予正向投資評等，待電子股反攻時機到來，可望扮演先鋒大將。 欣興第一季營收264億元，淡季營運略優於去年第四季，顯見載板需求緩步復甦，然而受到廠房調整影響，毛利率降至16.2％、季減1.3個百分點。然由於匯率因素與大陸廠房搬遷補助款等業外收入挹注，欣興第一季每股稅後純益（EPS）1.6元，優於市場預期。 中信投顧指出，欣興2024年資本支出增加40％至242億元，其中52％用於PCB產線，PCB第二季受惠美系手機備貨、AI板材等需求，復甦訊號強勁，其餘支出主要用於光復廠設備，若全開可增加ABF載板約15％～18％產能，有望於下半年投產。AI伺服器方面，OAM仍為主要供應商，另外在輝達GB200 GPU通過認證，打破過往日廠Ibiden獨供局面，市占率可望升至20％。 整體而言，法人估計，欣興營運於上半年落底，搭配新廠開出，獲利將逐季提升，給予「買進」投資評等。 聯發科受惠於智慧機客戶庫存回補，T

  • 《美股》焦點股：巨頭業績最差是它；「AI妖股」中槍 輝哥倒地

    【時報編譯柯婉琇綜合外電報導】焦點股： ●受惠AI熱潮，晶片大廠高通（Qualcomm）營收獲利展望樂觀，為低迷不振的手機產業捎來喜訊，周三盤後股價上漲4.06%，收在170.77美元，扭轉在稍早前一般交易時段的收跌1.05%。高通公布第二財季（截至3月24日）營收年增1%，為93.9億美元，大致符合市場預估的93.5億美元。經調整後每股盈餘年增13%，為2.44美元，優於市場預估的2.33美元。包括智慧手機、汽車和物聯網晶片的QCT部門營收年增1%，負責專利授權的QTL部門營收年增2%，表現大致符合市場預期。高通預估第三財季營收介於88億～96億美元、經調整後每股盈餘介於2.15～2.35美元，其中值均優於市場預估的營收90.6億美元、經調整後每股盈餘2.18美元。 高通表示，本財年上半年度在中國的智慧手機晶片銷售額大幅成長40%，反映出公司的競爭優勢，並顯示需求出現復甦跡象。中國的Android手機市場已經復甦，當地消費者開始轉而購買具AI聊天機器人功能的手機，儘管價格較為昂貴。 ●人稱「AI妖股」、全球第三大伺服器廠美超微電腦（Super Micro Computer）上季營收表