終端AI時代來臨 NPU架構AI晶片崛起

工商時報 財經相對論

耐能智慧自2015年成立，迄今已經獲得了超過1.9億美元融資。創辦人劉峻誠說，當初耐能剛宣布要推出AI晶片時，大家都笑他，但如今耐能智慧的晶片，效能卻可以跟世界一級大廠平起平坐。耐能EDGE GPT解決方案產品憑藉其強大的算力、優異的性能表現、高效的功耗控制、便捷的部署以及可靠的訊息安全保障等特性，在學界與業界都樹立技術領先的市場標竿和典範。

長期以來在人工智慧、機器學習等前沿技術領域保持全球領先的史丹佛大學，今年也正式宣布採購耐能的EDGE GPT解決方案，進一步加強學校在先進科技領域的教研能力，並推動更個性化和智能化的教學模式，提高學習效率。

在商業應用方面，耐能智慧AI晶片有四大產品線，包含邊緣伺服器、車用、安控及AIoT，高通除了是耐能股東之外，也與其進行各式各樣合作，其中高通在其RB1、RB2機器人平台搭載耐能晶片，讓高通AI算力提升4倍，為智慧掃地機器人及無人機部署物體檢測等能力。

耐能邊緣伺服器晶片可以像樂高積木一樣，進行多顆堆疊，達到高算力、低功耗效果，適用於小型伺服器。另外耐能也聚焦車用，已經打入前／後裝車用一級國際大廠，例如後裝晶片應用打進日本豐田車廠、前裝也有德系車廠進行緊密合作。耐能在2023年收購台達集團晶睿通訊旗下子公司歐特斯，準備切入先進駕駛輔助系統（ADAS）及駕駛行為偵測系統（DMS）。

即便過去在半導體與IC設計上，與台灣存在很強競爭關係的韓國，耐能晶片也有辦法打入當地市場。例如跟Line同集團的韓國搜尋引擎Naver，以及全球第四大、韓國第一大安控產品領導廠商韓華集團等，都選擇採購使用耐能的晶片。

廣告

雖然GPU晶片目前在AI市場上占據主導地位，但AI應用的爆發式發展，也產生了巨大的能源消耗。未來電費將可能占據整體AI運營成本的40％。目前碳中和已是大勢所趨，除了更高的算力、更優異的性能，實惠的成本與節能勢必會成為客戶考慮的因素。

CPU其實是專為邏輯運算而生，電腦的主要的運算其實就是CPU在做；GPU一開始設計則是專為遊戲或圖像運算去設計的專用晶片；只有NPU才是真正專為AI而生的晶片，也因此它本身在性能、效率跟功耗上，相較於CPU與GPU在AI上使用會有大幅的綜合優勢。

劉峻誠打比方說，如果把未來百花齊放的AI應用比喻為城市裡的大街小巷，那麼CPU之於這座城市就像是坦克車，GPU則像是搬運貨物的大卡車，NPU則如同一般家用房車。雖然CPU與GPU各自有當初設計的目的與優點，但若說到要在城市裡面行駛與通行，那當然還是能夠在城市裡鑽來鑽去的小客車最省油、最好開，這就是NPU晶片在未來AI應用上的優勢。

想更進一步了解NPU晶片技術、終端裝置邊緣運算的發展現況，以及台灣半導體與IC設計過去的成功經驗在未來NPU AI時代有何優勢？耐能科技創辦人劉峻誠在本集【財經相對論】裡，深入淺出地帶您了解未來AI應用爆發時真正趨勢之所在，敬請至Youtube工商時報頻道收看。

更多中時新聞網報導
賴重申勞保不會倒！「真相是年金會砍到見骨」財務黑洞元凶竟是它
廣達、華碩、技嘉等6大廠Q1賺爛卻漲不動？謝金河揭AI鏈最大敗筆 小心Fed鮑爾倒打一把
公務員嘆「真的選錯了」 政黨輪替後淪箭靶 親揭悲慘現況

相關內容

  • 科技盛宴不缺席！投資AI只看股票還不夠，野村獨門絕活「債」出高招

    生成式 AI 即將從雲端下凡，將觸及到每個人的生活日常，從此將顛覆大眾對電腦、手機的使用習慣及想像。國際半導體產業協會 SEMI 指出，2024 年第一季全球半導體製造業在生成式 AI 需求激增下，帶動記憶體和邏輯晶片市場反彈，而台灣

  • 〈台股盤後〉電子權值股慘綠 重挫439點創2個月最大跌點收22813點

    〈台股盤後〉電子股臉綠 重挫 439 點收 22813 點摜破 5 日線

  • AI 出貨爆發…「海轉空」訂單湧現 空運掀漲價潮

    AI出貨爆發，空運掀漲價潮。航空業兩大業者華航、長榮航同步證實，海運愈來愈貴且沒有緩解跡象，加上電子業、電商遇到歐美節慶...

    24

  • 台股重摔400點「AI過熱了」？專家1原因喊免驚：不一定會大拉回

    台股在上周就漲了近千點，站上23406點的高點後，又連兩日出現下跌，今（24）日甚至一度出現近400點的跌幅，讓許多投資人「心慌慌」，擔心台股過熱，即將出現大幅回測的可能，對此，知名財經作家狄驤要投資人「免驚」，並指出即便過熱，台股也不一定會出現大幅回測，因為台股基本面跟著加權指數向上。

    24

  • AI 驅動未來商務：2024 AI TAIWAN 未來商務展，六大亮點搶先看

    AI 發展話題持續延燒，以 AI 技術為基礎推動許多數位轉型，如今，AI 不再是遙遠的想像科技，而是在各個商業場域，促進更多可能的催化劑。

  • 台股遇亂流！護國神山群集體回檔 大盤摜破23000點關卡

    商傳媒｜記者楊金銘／綜合報導輝達連兩日回檔，上週五(21日)美股四大指數僅道瓊終場守住紅盤，標普500跌幅0.16%，那斯達克收黑32點，費半挫低1.27%。輝達連續第2個交易日走跌，終場下挫3.22%、收在126.57美元。AI概念股同步拉回，博通、美光分別重摔4.38%、3.22%，跌幅分居費半30支成分股冠亞軍。美股「四巫日」主要指每年三月、六月、九月和十二月的第三個星期五，同時有四種金融衍生工具到期，包括股指期貨、股指期權、個股期貨和個股期權。綜合外媒報導，近幾個交易日出現一些「市場過度擴張」跡象，尚不清楚AI推動的漲勢是否已來到極限，即使是規模大到足以左右市場的輝達，也顯示出其上漲勢頭可能放緩的跡象。圖片來源：奇摩股市台積電、鴻海等電子權值股持續回檔，拖累台股週一(24日)開低走低，盤中大跌超過400點，不但失守23000點大關，更直接摜破22900點關卡，預估成交量約4800億元。圖片來源：奇摩股市台積電盤中最低至942元、股價大跌28元，摜破5日線支撐，鴻海下挫2%，聯發科同步崩逾4%；聯電、台達電、日月光投控走勢疲軟；大立光逆風走揚。圖片來源：奇摩股市AI概念股走勢分歧

  • 上看千萬美元！專家：AI將創造巨額財富 比特幣則是保護財富的首選資產

    比特幣 (BTC) 愛好者 Anthony Pompliano 最新預測，比特幣和 AI 的融合可能成為未來十年的巨大推動力，比特幣將成為保護 AI 創造財富的首選資產，Mic

  • 金融＋AI股扯後腿 台股盤中漲勢收斂23,000點得而復失

    金融股今（26）由國泰金（2882）、元大金（2885）等重量級權值股領，類股指數跳水跌逾1.2％，另AI高價股的緯穎（6669）、世芯-KY（3661）及創意（3443）等齊步翻臉下跌，台股從11點過後一路直線下殺，23,000點得而復失，且11點半過後連22,900點都跌破。

  • AI侵權爭議大

    新竹市長高虹安在網路貼了一張手捧芒果冰的照片，旋即被發現那碗冰的圖檔來自高雄某間冰果室，她趕緊說明乃由AI生成，並非刻意盜圖，但綠營緊咬不放，大加撻伐，不放過惡鬥的機會。

    1

  • 童子賢：台灣位於 AI 進步群的中心！但不要太過「飄飄然」

    AI狂潮起，對各行各業都造成衝擊！和碩董事長童子賢今日（6/26）表示，AI影響所及已從產業端延伸到生活、工作、學習層面。如今，台灣是AI重要的參與者之一，卻不是制定者跟決定者。他期盼希望在代工領域之外，台灣也能用AI創造附加價值。

    4

  • AI面試優點多 大量節省時間成本

    AI面試對一的般求職者來說，從與人的互動，變成面對冷冰冰的機器，彷彿像一台大型「測謊機」，如何因應日益普遍的AI面試，銀行給重點建議。