Intel Gaudi 3加速器Q3上市，供應鏈世芯、台積電、日月光、京元電受惠

財訊快報

【財訊快報／記者李純君報導】英特爾宣布AI新世代平台Intel Gaudi 3加速器，將於2024年第三季全面上市，值得注意的是，Intel‐Gaudi 3的供應鏈，在ASIC設計服務端是世芯，由台積電5奈米製程代工產出，並由台積電或與其外包場日月光/矽品進行CoWoS製程，並委由京元電完成終端測試（FT），也因此Intel Gaudi 3的上市，替其台系供應鏈帶入新業績。英特爾揭露，向OEM提供通用基板和開放加速器模型（Open accelerator module, OAM）的業界標準配置。包含戴爾科技、慧與科技（HPE）、聯想和美超微等知名OEM，都將採用Gaudi 3，英特爾Intel Gaudi 3加速器會在第二季起開始對OEM供貨，並於第三季全面上市，Intel Gaudi 3 PCIe附加卡預計於2024年第四季上市。

英特爾在其近日的Vision 2024大會上，宣布推出Intel Gaudi 3 AI加速器，與前代產品相比，Gaudi 3為BF16提供4倍AI運算能力、1.5倍記憶體頻寬以及2倍網路頻寬，可擴充大規模系統，將有助大型語言模型（LLM）和多模態模型的AI訓練和推理，大幅提升效能和生產力。Intel Gaudi 2 AI加速器是市場上通過MLPerf基準測試的LLM解決方案。

英特爾執行副總裁暨資料中心與AI解決方案總經理Justin Hotard表示：「AI市場瞬息萬變，但產品間仍存在巨大差距。不論是來自客戶還是更廣泛市場的回饋，皆反映對更多選擇的渴望。企業須權衡可用性、可擴充性、效能、成本和能源效率等因素。Intel Gaudi 3作為生成式AI的新選擇。」

金融、製造和醫療保健等關鍵領域的企業，目前正快速提升AI的普及化，並積極將生成式AI計畫從試驗階段轉為全面實施。為了因應轉型、推動創新並達成營收成長目標，企業需要開放、符合成本效益且更節能的解決方案和產品，以符合投資報酬率（ROI）和營運效率需求。此外，Gaudi 3高速PCIe附加卡是全新產品，適用於微調、推理和檢索增強生成（RAG）等工作。

Intel Gaudi 3加速器將為領先生成式AI模型的訓練和推理，帶來顯著的效能提升。與Nvidia H100相比，Gaudi 3加速器的平均效能預期將為，在Llama2 7B和13B參數以及GPT-3 175B參數模型的訓練時間加快50%。在Llama 7B和70B以及Falcon 180B參數模型上，推論吞吐量提升50%2，推論能源效率提升40%。在較長的輸入和輸出序列中，具有更大的推理效能優勢。與Nvidia H200相比，在Llama 7B和70B以及Falcon 180B參數模型的推理速度提升30%。

相關內容

  • general server採購急單到位，金居受益，營運重啟成長動能

    【財訊快報／記者李純君報導】雖然近期是AI伺服器平台的空窗期，但企業端與北美CSP業者，陸續開始重啟對general server的採購，此舉已經讓銅箔廠與銅箔基板廠急單到位，尤其業界傳出，本土銅箔廠金居(8358)，營運低點已過，將重拾成長力道，若加計AI伺服器的貢獻，今年整體獲利可望較去年大躍進。雖然市場上依舊在瘋AI伺服器，但受關注的B100預計今年第四季推出，至於GB200也是明年才會放量，因此整個伺服器市場，理論上，從今年第二季開始進入空窗期。但實際上並非如此，包括遠端伺服器控制BMC晶片供應商信驊(5274)，以及系統廠微軟，都提到，近期市場上已經開始重啟對general server的採購。而此舉對銅箔、一般伺服器銅箔基板廠、PCB廠來說，堪稱是意外急單到位。尤其業界傳出，將金居通吃上述PCIe 5.0平台的訂單，業績將開始自5月起走揚，單月將可重回6億元大關之上，而第二季與第三季雖然因電費調漲與夏季電費，影響不少獲利，但在急單加持、產品結構優化、旺季將至等利多加持下，營運底點已過，重拾成長動能。

  • 英特爾Q2財測遠遜預期，上週五股價重挫9.2%，近四年來單日最殺

    【財訊快報／陳孟朔】美國本土晶片巨擘--英特爾(Intel，美股代碼INTC)25日盤後公布財報報喜，但財測令人大失所望，股價26日盤中暴跌14.6%至30.64美元的日低，收盤跌幅雖有所收斂，但仍急挫3.23美元或9.2%，收在31.88美元，為近四年來單日最殺，成了道瓊成份股最大輸家，今年迄今累計跌幅擴大到36.56%。第一季期間，英特爾每股盈餘(EPS)為18美分，高於預期的13美分；營收127億元，不及預期為130億美元。負責製造業務的新部門「英特爾代工」(Intel Foundry)去年銷售額為189億美元，低於前一年的275億美元。今年第一季營收為44億美元，經營虧損約25億美元，大於上季和去年同期。英特爾與個人電腦相關的晶片銷售額為75億美元，平均預期74億美元。其數據中心和人工智慧部門營收30億美元，與華爾街預測一致。物聯網晶片貢獻近14億美元的銷售額，超過13億美元的平均預期。第一季毛利率為45.1%，公司預測第二季將達43.5%，最高紀錄曾超過60%。展望第二季，公司營收估130億美元，預期為136億美元；EPS為10美分，連市場預估24美分均值的一半都不到。英特爾

  • 因應先進封裝趨勢，力成上修今年資本支出五成

    【財訊快報／記者李純君報導】封測大廠力成(6239)提到，第二季在PC、手機、消費性需求逐季增溫的挹注下，第二季業績將較第一季成長中至高個位數百分比，此外，也提到，因應AI趨勢帶入的高階封測需求，調升今年資本支出五成，也補充，過去投入先進封測量產的機會與效益，有望在今年迎來機會。就大環境與產業趨勢，力成提到，半導體庫存調整接近尾聲，終端應用產品出貨恢復正成長，遂第二季營收將可季增中個位數百分比，甚至有機會高個位數。產品別方面，PC、手機、消費性產品需求逐漸增溫下，業績將較第一季成長，NAND的需求也會較第一季有雙位數成長，邏輯晶片端，因應智慧手機、AI、HPC與電動車等應用對覆晶封裝需求日甚，公司將持續擴產。此外，公司也提到，過去幾年投入先進封裝的技術發展，今年將有望迎來機會，如AI伺服器領域的電源模組產線今年第二季量產，下半年可逐步放量。力成並因應AI與HBM所帶入的先進封測趨勢，將大舉調升今年資本支出五成，原先為100億元，上修後為150億元。至於力成第一季成績單，營收183.29億元，季減3.7%、年增16.4%；毛利率17.5%，季減3個百分點，年增1.4個百分點；營益率11.

  • 台積電年度總業績 拚千億美元

    隨著全球雲端科技大廠加碼AI相關投資，順勢帶動AI相關晶片製造需求穩步成長，若AI動能不墜，將成為之後助攻台積電年度總營...

  • 世界先進新加坡設12吋廠將確定 ? 合資對象傳有台積電與新加坡官方

    【財訊快報／記者李純君報導】傳世界先進(5347)的新加坡十二吋設廠好事將近。世界先進公告，因應公司海外成長需要，對旗下持股百分百的新加坡子公司進行4200萬美元的現金增資。而業界認為，此舉可能意味著世界先進的新加坡設立十二吋廠一事即將確定，且該廠的合資對象，可能有台積電(2330)與新加坡政府官方。近半年來，關於世界先進海外設廠一事，為業界熱議的焦點，且新加坡也是台灣晶圓代工業者海外設廠的首選之一，如聯電(2303)更已經在新加坡設廠並於近期進行擴產，主要考量為地緣政治議題高漲下，歐美晶片設計業者、國際IDM，甚至中國大陸業者開始尋求中國大陸、台灣之外的新投片區域，加以新加坡員工素質與數量均為上選、稅率上有不錯的吸引力、行政效率又佳、相對日美歐洲等地總成本又略低等，綜合多方考量下，新加坡已為台灣半導體圈業者青睞的新設廠區域。而考量八吋晶圓代工設備難以取得，加上現下新設八吋廠並無成本效益，再者，電源管理晶片、影像感測器，或是其他的高壓類比晶片，或是車用晶片等均陸續自八吋推進到十二吋生產，甚至可替台積電進行成熟製程代工業務等，世界先進前進新加坡設立十二吋廠均為時下大環境趨勢所考量。此外，

    1

  • 《熱門族群》台積電、鴻海攻高 AI雙雄率台股續彈

    【時報-台北電】美科技巨擎財報帶動美股續彈。台積電(2330)今開高走高，再度進逼800元大關，以及鴻海(2317)回到前波高點160元。台股由台積電率領台系AI大型股反攻，集中市場盤中大漲逾360點，攻上月線之上，且持續上周以來的反彈態勢。 台積電ADR周五持續漲勢，收盤上漲1.26%。台積電今開盤漲8元至790元，台股同步開高飛越月線的20233點；台積電盤中漲勢擴大，最高漲12元至494元，穩住市場信心。 鴻海撘載下一世代GPU的伺服器將於第四季出貨，有望帶來強勁成長動能，股價回攻至161元，進逼前高。 美股具AI題材的微軟和Alphabet財報優於預期，美科技股走高，Nvidia續彈，大漲6.18%作收。 隨著Nvidia股價再度勁揚，廣達(2382)率AI續穩揚，惟目前股價尚受制月線267元反壓。廣達受惠輝達GB200晶片裝置代工訂單湧入，有助下半年伺服器營收表現。 AI概念股上周五持續上攻，AI伺服器、散熱、機殼皆有表現，指標股廣達、鴻海今早續攻，機殼大廠勤誠(8210)震盪走揚，散熱強勢股尼得科超眾(6230)震盪加劇。 散熱模組廠尼得科超眾近期因母公司Nidec拿下美超

  • 潛力股：大綜

    【財訊快報／記者陳浩寧報導】受惠於晶圓代工龍頭廠海外建廠效益，大綜(3147)去年獲利創下高點，今年為配合客戶需求，將在馬來西亞、日本設立據點，德國也已在報價階段，可望帶動未來高毛利的海外市場比重持續提升，另一個營運動能則來自AI伺服器，除AI伺服器的佈建外，也將做散熱設備與軟體的整合，協助客戶建置浸沒式水冷的伺服器機房，為營運再添新動能。大綜去年在晶圓代工龍頭廠的日本廠建置訂單挹注下，全年毛利率來到17.7%，創下歷史新高，而該客戶的美國二廠預計於2026年放量，因此公司也將於今年下半年至明年會增加工程師，此外，美國也配合另一家客戶出貨，看好未來美國市場的發展潛力，將成為公司成長的重要動能。至於在AI伺服器方面，自去年第三到第四季開始出貨，然受到GPU缺貨因素，去年出貨約7-8台，預估今年在GPU供需缺口縮小下，今年AI伺服器估出貨可成長至30台。據了解，一般伺服器單價約20-30萬元，而AI伺服器單價則落在數百至數千萬元，尤其今年下半年NVIDIA的GB200上市後，單價可望一舉拉升至200萬美元，挹注營收表現。

  • 《基金》AI商機 全球型科技基金不漏接

    【時報-台北電】AI盛世來臨，各科技公司紛紛競相投資搶攻市場大餅，法人表示，要跟上這波AI趨勢，只投資台股與美國遠遠無法涵蓋整個科技業，建議透過全球型科技基金布局，掌握全球AI新科技持續發展的無限商機。 景順全球科技基金經理人蕭若梅指出，生成式AI席捲全球，隨著算力到位，越來越多的應用激發更多的應用創意，像OpenAI推出Sora，可根據用戶的文字指令生成高畫質、生動的短影片；Samsung新手機S24提供即時線上語音翻譯的AI功能；電動車大廠特斯拉開始正式向用戶推送最新端到端的自動駕駛版本，透過把成上千萬的行車影片倒入AI模型中，更像人在開車。 美國就業市場仍然熱絡，使得分析師陸續開始延後對於Fed首次降息時間的預期，全球科技股仍然持續上揚。生成式AI新的應用持續推出，仍相對看好科技類股發展，部分類股短期漲幅已高，將密切掌握市場變化伺機調整配置。 統一全球新科技基金經理人郭智偉認為，近期股市震盪主要來自地緣政治衝突、美債殖利率上升使股市評價下修、半導體龍頭財報不如預期、獲利了結賣壓，但觀察類股表現，美股並未全面大跌，呈現類股輪動，部分資金轉向表現較落後族群。基本面改善趨勢不變，及美國

  • 台灣站在第4次工業革命浪頭上

    就台股歷年表現來看，1990年2月12日，台股盤中來到當時波段的高點1萬2,682點，之後台股每次碰到萬點，都慘遭崩盤，直到2020年7月才正式突破這個重要關卡，隨後台股勢如破竹地往1萬8,000點邁進。

  • 相繼收購以色列兩家新創公司，Nvidia上週五股價追高6.18%，週線飆逾15%

    【財訊快報／陳孟朔】AI晶片龍頭—Nvidia(美股代碼NVDA)在4月26日當週相繼收購兩家以色列公司--AI基礎設施架構和管理平臺的新創公司Run:ai和深度學習服務商Deci公司後，股價繼上日急彈29.55美元或3.71%後，26日再追高51.03美元或6.18%，收在877.35美元為4月12日以來最高。週線翻揚大漲15.14%為2023年5月26日當週飆漲24.59%以來單週最旺，扳回前一週急瀉13.59%的所有失土。Nvidia最近達成收購這兩家創企的交易，旨在降低開發或運行生成式AI模型的成本，說明客戶更有效地利用AI計算資源，進而提振NvidiaAI晶片的需求。

  • 路博邁投信稱，半導體、AI需求拉動台股邁向下一個上升循環

    【財訊快報／記者劉居全報導】今年以來，全球AI題材火熱，企業獲利維持在高度成長，再加上美國降息的可能，在多項的利多推動之下，全球科技股欣欣向榮，受此帶動，台股更創下歷史新高，一度飛越2萬點。但近期隨著中東局勢緊張，美國短期降息無望，以及財報季到臨，市場波動隨之加大，對於下半年科技類股投資展望，路博邁投信台灣研究團隊主管侯明孝指出，首先可以探討目前電子業處於周期的哪一個階段。目前，大部分的科技次產業不是接近谷底，就是剛從底部回升的初升段。這其實是一個非常好的現象，表示還沒有到科技循環週期的高峰，甚至未到中間高度。以整個科技產業來看，其實還有很大的增長的空間。侯明孝表示，其實，從去年第四季開始到今年第一季，已經看到各個不同的應用，比如消費性電子，到近期車用工業部份，都出現庫存調整完畢、甚至進行回補的現象。整體來說，半導體及科技業歷經近一年半的調整期後，AI伺服器的應用正推動產業重新進入上升週期；除了AI伺服器，PC、筆電與記憶體也可望在今年回到上升週期。值得一提的是，半導體產業已成全球戰略性物資，各國爭相加速半導體投資。而AI也成為軍備競賽之一環，過去資料庫的資本支出頂多可能成長5-10%