高階AI晶片推升HBM需求 研調估明年先進封裝產能將增3-4成

鉅亨網新聞中心

研調機構集邦 (TrendForce) 指出，大型雲端業者積極投入採購高階 AI 伺服器，以持續訓練及優化其 AI 分析模型，高階 AI 晶片將推升 2023-2024 年高頻寬記憶體 (HBM) 的需求，驅動明年先進封裝產能將成長 3-4 成。

集邦表示，今 (2023) 年由 ChatBOT 等生成式 AI 應用帶動 AI 伺服器成長熱潮，包含 Microsoft、Google、AWS 或其他中系業者如 Baidu、ByteDance 等陸續採購高階 AI 伺服器，以持續訓練及優化其 AI 分析模型。為提升整體 AI 伺服器的系統運算效能，以及記憶體傳輸頻寬等，NVIDIA、AMD、Intel 等高階 AI 晶片中大多選擇搭載 HBM。

目前 NVIDIA 的 A100 及 H100，各搭載達 80GB 的 HBM2e 及 HBM3，在其最新整合 CPU 及 GPU 的 Grace Hopper 晶片中，單顆晶片 HBM 搭載容量再提升 20%，達 96GB。

此外，AMD 的 MI300 也搭配 HBM3，其中，MI300A 容量與前一代相同為 128GB，更高階 MI300X 則達 192GB，提升了 50%。同時預期 Google 將於 2023 年下半年積極擴大與 Broadcom 合作開發 AISC AI 加速晶片 TPU 亦採搭載 HBM 記憶體，以擴建 AI 基礎設施。

集邦預估，2023 年市場上主要搭載 HBM 的 AI 加速晶片 (如 NVIDIA 的 H100 及 A100、AMD 的 MI200 及 MI300 及 Google 的 TPU 等），搭載 HBM 總容量將達 2.9 億 GB，成長率近 6 成，2024 年將持續成長 3 成以上。

廣告

另一方面，AI 及 HPC 等晶片對先進封裝技術的需求日益提升，其中，以 TSMC 的 CoWoS 為目前 AI 伺服器晶片主力採用者。CoWoS 封裝技術主要分為 CoW 和 oS 兩段。

CoW 主要整合各種 Logic IC 如 CPU、GPU、AISC 等，以及 HBM 記憶體等；oS 部分則將上述 CoW 以凸塊 (Solder Bump) 等接合，封裝在基板上，最後再整合到 PCBA，成為伺服器主機板的主要運算單元，與其他零組件如網路、儲存、電源供應單元 (PSU) 及其他 I/O 等組成完整的 AI 伺服器系統。

根據集邦觀察，在高階 AI 晶片及 HBM 強烈需求下，台積電 (2330-TW) 於 2023 年底 CoWoS 月產能有望達 12K，當中，NVIDIA 在 A100 及 H100 等相關 AI Server 需求帶動下，對 CoWoS 產能較年初需求量，估提升近 5 成。

加上 AMD、Google 等高階 AI 晶片需求成長下，將使下半年 CoWoS 產能較為緊迫，而此強勁需求將延續至 2024 年，預估若在相關設備齊備下，先進封裝產能將再成長 3-4 成。

值得注意的是，在 AI 較急促需求下，無論是 HBM 或 CoWoS 生產過程中，得後續觀察周邊配套措施，例如直通矽晶穿孔封裝技術 (TSV)、中介層電路板 (Interposer) 以及相關設備 (如濕製程設備) 等是否能到位，如前置時間 (Lead Time) 等考量。

而在 AI 強勁需求持續下，集邦預估，NVIDIA 針對 CoWoS 相關製程，亦不排除將評估其他類似先進封裝外援，例如 Amkor 或 Samsung 等，以因應可能供不應求的情形。

更多鉅亨報導

相關內容

  • 信義房屋女力來襲　房仲二寶媽入職首年年薪破百

    [FTNN新聞網]財經中心／綜合報導近年來企業除了落實ESG，為女性打造DEI（多元共融）職場環境，也成為吸引女性人才加入的重要政策。根據知名女性媒體今年發布...

    3

  • Rocket Software以22.75億美元完成收購OpenText的應用程式現代化和連接業務

    麻塞諸塞州沃爾瑟姆, May 01, 2024--(美國商業資訊)--現代化軟體領域的全球技術領導者Rocket Software是全球頂級規模企業現代化進程中的首選合作夥伴，而且地位不斷提升。 該公司完成了對OpenText（原Micro Focus旗下公司）應用程式現代化和連接（AMC）業務的收購，現在可為客戶提供涵蓋大型電腦和雲端的現代化軟體解決方案。 此交易的總收購價為22.75億美元（稅費及其他調整前），使公司收入增加60%以上，客戶群擴大到12,500多家企業，網路覆蓋全球750多個合作夥伴。此外，該公司還新增了770多位軟體工程師、市場進入專業人員及其他支援團隊成員，並且正在招募數百名Rocketeers來補充現有團隊。

  • 【看圖說股市】八大公股行庫是哪些？跟國安基金有什麼關係？對股市的影響為何？

    在股市走跳的股民一定對「八大公股/官股」不陌生，但你數得出這「八大」是哪8家行庫嗎？除了八大行庫，四金二銀又是什麼？他們在台股中扮演怎麼樣的角色？透過本文就能一次搞清楚！

    2

  • 不再派法人代表參選世界先進董事　台積電終於說出原因

    晶圓代工廠世界先進預計在6月14日召開股東常會，將改選9名董事，不過母公司、大股東台積電並未派任法人代表參選，先前的法人代表方略、曾繁城此次以自然人身份參選；台積電表示，將行使投票權支持適當的董事候選人。

    2

  • Anthropic在蘋果推出AI聊天機器人 力拚OpenAI的ChatGPT

    亞馬遜 (AMZN-US) 投資的生成式人工智慧 (AI) 新創公司 Anthropic 周三 (5/1) 在蘋果 App Store 推出首款聊天機器人應用程式「Claude」，雖然是號稱免費 AI 助手，但應用程式內有付費服務，目前只能在 i

  • 【房市觀點】嘉義、金門漲出新天價！投資客現蹤搶房「別跟房子談感情」

    前陣子跟房產媒體圈的朋友聊，她抱怨永和預售都9字頭了，自己就算是相關產業，也覺得貴到誇張。我半開玩笑回說：「你覺得貴，就買一戶；還覺得貴的話，就再買第二戶，保證當場覺得永和9字頭太委屈，根本房價凹陷區，它就應該每坪120萬起才合理。」這種心態，嘗過房價增值甜頭的投資客都知道～真香。

    4

  • 〈財報〉AMD上調AI晶片銷售展望 投資人不埋單 盤後重挫8%

    美國處理器大廠超微 (AMD-US) 上季營收小幅超出預期，但遊戲主機晶片需求疲軟。與此同時，該公司上調今年的人工智慧 (AI) 晶片銷售展望，仍未能給投資人留下深刻印象，拖累盤後股價挫逾 8%。

  • OPEX® Infinity®自動儲存和檢索系統榮獲著名的國際紅點產品設計獎

    紐澤西州穆爾斯敦, April 30, 2024--(美國商業資訊)--下一代自動化領域近50年的全球領導者OPEX® Corporation驕傲地宣布，其Infinity®自動儲存和檢索系統(AS/RS)榮獲著名的2024年紅點產品設計獎。一年一度的紅點獎設計競賽被認為是全球最知名、規模最大的設計競賽之一，得獎者由國際專家小組選出，他們的信條是：「搜尋好的設計和創新」。

  • FOMC：6月放慢QT，公債縮表上限砍至250億美元

    MoneyDJ新聞 2024-05-02 08:23:24 記者 郭妍希 報導聯邦公開市場委員會(FOMC)週三(5月1日)結束貨幣政策會議時宣布，將放慢縮減資產負債表(又稱量化緊縮貨幣政策、QT)的速度，以免對金融市場造成不必要的壓力。 路透社、CNBC等外電報導，聯準會(Fed)指出，自6月1日起，每個月讓公債到期後不再投入本金的金額上限，將從原本的600億美元大幅下修至250億美元，不動產貸款抵押證券(MBS)到期後不再投入本金的上限則維持350億美元不變。此外，額外支付的MBS本金將投入公債。 Fed放慢縮表雖在市場意料之中，但人們原本預測公債每個月到期後不再投入本金的上限僅將下修至300億美元，也不清楚Fed究竟要在本週抑或是6月的FOMC會議公布縮表放慢時程。 Fed主席鮑爾(Jerome Powell、見圖) 1日在會後記者會表示，最新上限大概會讓縮表速度放慢至每月400億美元。他的說法暗示，Fed實際上的縮表速度常常無法達標，尤其是在MBS方面。 鮑爾並強調，放慢縮表速度並不是要讓貨幣政策變寬鬆、或減少對經濟的限制性。他說，「這主要是確保縮表的過程能保持順暢，不會像上次

  • 不買太難受！陸客遊日狂掃奢侈品 勞力士也被搶斷貨

    日圓匯率近期創下34年來的新低，使得去日本旅遊成為一項經濟實惠的出國選擇，目前適逢中國「五一連假」，許多中國觀光客紛紛選擇到日本旅行，除了觀光外，同時看準了日圓匯率低也去掃貨，許多大牌奢侈品也被一掃而空。

  • 美FCC擬禁華為、中興通訊等中企參與無線設備認證流程

    美國官員周三 (1 日) 向路透表示，聯邦通訊委員會 (FCC) 正在採取行動，禁止華為、中興通訊和其他被認定有國家安全風險的外國公司對無線設備進行認證。