〈AWS雲端年會〉首推全新UltraServer Trainium2晶片數量大增3倍

鉅亨網記者魏志豪 美國拉斯維加斯

亞馬遜 (AMZN-US) 旗下 AWS 今 (2) 日舉行 2024 re:Invent，公用運算 (Utility Computing) 資深副總裁 Peter DeSantis 宣布推出全新「Trainium2 UltraServer」，共搭載 64 顆 Trainium2，相較先前最多僅能搭載 16 顆 Trainium2 大增 3 倍，整體 HBM 容量高達 6TB，並採用自家 NeuronLink 進行連接。

業界指出，Trainium2 由 AWS 與邁威爾 (Marvell)(MRVL-US) 合作設計，並委由台積電 (2330-TW)(TSM-US) 製造，採用 5 奈米與 CoWoS 先進封裝技術，後段封測夥伴則包括旺矽 (6223-TW)、京元電 (2449-TW) 等，且由於 Trainium2 需求強勁，業界也傳出，Marvell 上調其對台積電明年 CoWoS 的需求量，相關供應鏈可望同步受惠。

AWS 2024 re:Invent 今日照慣例由資深副總裁 Peter DeSantis 打頭陣舉行演講，此次重點圍繞在 Trainium2，一連推出 Trainium2 Server 以及 Trainium2 Ultra Server，並釋出最新連接技術 Fiber optical trunk cable 與 Firefly Optic Plug。

Peter DeSantis 指出，封裝體尺寸越來越大，目前已是晶片尺寸的 3 倍左右，Trainium2 將 2 顆運算晶片與 4 顆 HBM 透過中介層 (Interposer) 連結，並進行先進封裝，晶片與中介層間凸塊連結僅約 100 微米，比最小的鹽粒還細，且與前一代相比，穩壓器也從平行並列轉移至封裝體下方，可有效降低電壓。

AWS 也以 Trainium2 為基礎推出 Trainium2 UltraServer，以兩座機櫃、四個伺服器與 64 顆 Trainium2 組合而成，透過自家 NeuronLink 相互連接，每秒執行的浮點運算次數 (PFLOPS) 高達 83.2，HBM 容量達 6TB，HBM 頻寬達每秒 185TB，是自家推出最強的 AI 運算伺服器。

此外，由 AWS 投資的 Anthropic 共同創辦人 Tom Brown 也現身站台，同時宣布最新計畫 Project Rainier 將採用 AWS 最新的 Trn2，由數十萬顆 Trainium2 晶片所組成，可進一步強化 AI 運算功能。

Peter DeSantis展示Trainium2。(鉅亨網記者魏志豪攝)
Peter DeSantis 展示 Trainium2。(鉅亨網記者魏志豪攝)
Trainium2封裝剖面圖。(鉅亨網記者魏志豪攝)
Trainium2 封裝剖面圖。(鉅亨網記者魏志豪攝)

 

更多鉅亨報導
•緯穎選擇AWS Outposts 全球製造部署時間縮短90%

相關內容

  • 需求欠佳 AWS未部署超微AI晶片

    據外媒報導，亞馬遜雲端事業AWS基於需求疲弱的考量，並未在自家雲端部署超微的Instinct MI300X加速器。相反地，AWS計劃採用AI晶片龍頭輝達的Blackwell晶片來強化自家AI產品。

  • 需求弱 AWS未部署超微AI晶片

    據外媒報導，亞馬遜雲端事業AWS基於需求疲弱的考量，並未在自家雲端部署超微的Instinct MI300X加速器。相反地，AWS計劃採用AI晶片龍頭輝達的Blackwell晶片來強化自家AI產品。

  • 新新併已送件、AWS雲端年會、南韓戒嚴之亂 本周大事回顧

    金管會 3 日證實，已收到台新金與新光金合併案的送件申請；亞馬遜旗下 AWS 雲端年會登場，AWS 運算及網通業務副總裁 Dave Brown 指出，未來將採用台積電下一代製程；韓國總統尹錫悅周二突然宣布戒嚴，不過短短 6 小時即解嚴。

  • 《半導體》美系外資力挺AWS 3奈米專案 世芯-KY目標價直指3800

    【時報記者王逸芯台北報導】AWS(亞馬遜雲端服務)宣布推出3奈米Trainium3晶片，與世芯-KY(3661)的3奈米專案時程一致，帶動市場熱潮。美系外資在最新出具的報告指出，此次AWS的晶片發布將鞏固世芯-KY在3奈米市場的領先地位，因此維持世芯-KY目標價3800元，評等買進。 AWS近期宣布推出3奈米Trainium3晶片，將於2025年底上市。消息公布後，與世芯-KY的3奈米專案進度高度吻合，帶動世芯-KY股價上週上漲14%，遠超越加權指數的4%漲幅。美系外資表示，此次AWS的晶片發布進一步鞏固世芯-KY在3奈米市場的領先地位，未來營收成長可期。 美系外資表示，AWS計畫在2025年底推出3奈米Trainium3晶片，而世芯-KY的3奈米專案預計將於2025年初完成設計定案(tape-out)，並於同年下半年進入小規模量產，主要針對雲端服務供應商(CSP)客戶。市場調查顯示，台積電(2330)已計劃於2025年下半年為Annapurna Lab提供CoWoS-R封裝產能，而此項計畫極可能與世芯-KY的3奈米晶片生產相關。 美系外資表示，世芯-KY的3奈米專案營收原本預估為20

  • AWS AI訂單強強滾　外資估明年緯穎EPS 賺155元、目標價喊進3100元

    AI伺服器點火，緯創（3231）、緯穎（6669）今年營業同步再登上歷年巔峰。亞系外資表示，明年首季AWS AI客製化伺服器拉貨啟動，明年將以AWS AI伺服器和一般伺服器為最大動力，新客戶有望2026年加入，維持買進評等，預估明年每股獲利將有155.17元的水準，因此將目標價從2900元上調至3100元。

  • 國巨11月營收持穩百億元續創同期高 華新科繳雙增

    被動元件大廠國巨 (2327-TW) 今 (10) 日公告 11 月營收 100.2 億元，創同期新高，月減 4.3%、年增 7.2%；另一業者華新科 (2492-TW)11 月營收 28.69 億元，月增 3.5%、年增 2.2%，繳出雙成長。

  • 妖股華冠狂挨刀！連吞3根跌停「這3檔」也淪陷...通訊網路慘兮兮

    [FTNN新聞網]記者蕭廷芬／綜合報導台股今（10）日開低，加權指數跌44.99點，以23,228.26點開出，隨即震盪往上至23,329.01高點翻紅。權值三王走低，台積電（23...

  • 川普又放話！只要投資10億美金 即可享有「快速通關」

    美國候任總統川普（Donald Trump）10日公開喊話，他的政府將幫助任何在美國投資至少10億美元的個人或公司，即可獲得新政府的「快速通關」許可，藉此吸引更多外國企業投資，振興美國經濟，尤其加強能源、基礎設施、以其他國內投資。

  • 三陽退出車輛公會 公會發聲明了

    車輛公會今日（11）對於三陽（2206）退出公會一事發出聲明，盼會員能好好溝通。

    19

  • 搶著脫手？強勢「這檔」連4跌成交爆量　反觀「它」今噴漲5%…成交逾6萬張

    [FTNN新聞網]記者何亞軒／綜合報導台股今（11）日開低走低，終場收在22,903.63點，跌221.45點，跌幅0.96%。觀察今日個股成交量排名前五名，神達（3706）股價...

  • 2024台灣25大國際品牌揭曉 華碩續蟬聯榜首、聯發科成長最多

    「2024台灣最佳國際品牌價值」今日（10）公布榜單，與去年相比，今年前5名仍分別由華碩、趨勢科技、聯發科、旺旺集團、研華蟬聯，其中，華碩和趨勢科技品牌價值都達20億美元以上，為22.74億美元與22.04億美元，聯發科年成長則高達28%。