【科技人帶路】祭出新AI晶片迎擊NVIDIA!AMD執行長蘇姿丰:AI是AMD最大策略性成長機會
「AMD資料中心與人工智慧技術發表會」於台北時間14日凌晨一點正式登場,會中除了展示AMD全方位AI解決方案之外,更闡述AMD在資料中心、AI、自行調適以及高效能運算解決方案的成長策略。AMD董事長暨執行長蘇姿丰更是在會中強調:「如今,AMD在資料中心戰略上又邁出重要的一步。」
自ChatGPT問世後,AI短短幾個月便成為炙手可熱的搜尋關鍵字,也讓CPU、GPU、伺服器及資料中心等商機水漲船高;隨著AI已進入大眾的視野與生活,更多創新應用將應運而生,而處理器大廠AMD將憑藉哪些運算方案搶食AI大餅,並與聲勢浩大的NVIDIA一較高下?《Yahoo奇摩財經》刊出【科技人帶路】系列,透過科技人的視角,一起來探討科技產業的經營策略及細緻內涵。
第四代EPYC系列亮相強化資料中心處理效能
先前代號為「Bergamo」的第4代AMD EPYC 97X4處理器,可說是本次發表會的重頭戲之一,同時也是AMD在資料中心市場開疆拓土的一大利器。那麼,這款處理器究竟有何特點?
AMD指出,憑藉每插槽128個Zen 4c核心,AMD EPYC 97X4能提供最大的vCPU運算密度,可謂關鍵雲端工作負載增加3.7倍的吞吐量,且還能維持好的能源效率。
而核心數大幅增加對於資料中心企業而言有什麼好處?過往企業資料中心為了提升運算效力,在處理器核心數有限時,通常是採用增加伺服器數量的方式來強化算力;但這麼一來,不僅會衍生耗能、散熱等問題,也會產生空間不足的情況。
而隨著處理器核心數不斷增加,不僅意味著運算效能提升,能執行更多應用,對於企業而言,也可以有效節省伺服器數量,有利於資料中心空間運用,同時也簡化了伺服器的機台管理複雜度。
「相較於AMD現有EPYC處理器,搭載第4代EPYC處理器的產品最多能提升2.7倍的能源效率,並擴增伺服器空間,讓單一伺服器能容納多達3倍的容器,以最大規模運行各種雲端原生運算。」蘇姿丰表示。
Instinct MI300X加速器問世反攻NVIDA版圖
本場發表會另一個亮點,莫過於是人工智慧晶片Instinct MI300X加速器,此一晶片被市場認為是瞄準競爭對手NVIDIA旗下產品H100而來。
據AMD資料顯示,MI 300X採用新一代AMD CDNA 3加速器架構,支援高達192GB的HBM3記憶體,且整個晶片總計封裝了1,530 億個電晶體,並具有12個5奈米製程的小晶片。
「這是全球最先進的生成式AI加速器。」蘇姿丰於會中強調,並表示該加速器可以提供大型語言模型推導、生成式AI工作負載所需的運算力與記憶體效率。
憑藉大容量記憶體的優勢,僅需使用一個MI300X GPU加速器就能因應400億個以上參數的模型,讓業者得以處理Falcon-40B等大型語言模型。MI 300X 將從第3季開始向各大客戶送樣。
值得一提的是,MI 300X提供的HBM記憶體是NVIDIA H100的2.4倍,且HBM 頻寬是H100的1.6倍,這也意味著和H100相比,MI 300X可以運行更龐大的模型。
「隨著模型規模越來越大,就需要更多GPU運行最新的大型語言模型,而MI300X目的在於減少GPU數量,為企業降低總成本。」蘇姿丰這麼說。
不僅如此,AMD還推出 AMD Infinity 架構平台,將8個MI 300X加速器整合,打造極致的生成式AI推論與訓練環境。同時,AMD也發表AMD Instinct MI 300A,是針對高效能運算(HPC)與AI工作負載所開發的首款APU加速器,目前已開始向客戶送樣。
AMD強攻AI、資料中心商機
當然,除了上述所提的AMD EPYC 97X4處理器及MI 300X加速器外,發表會中AMD還推出各式雲端、資料中心及AI解決方案。像是用於資料中心加速器的 ROCm軟體生態系統、網路產品組合如AMD Pensando DPU、AMD超低延遲 NIC 和AMD自適應NIC等。
總之,本次發表會顯現了AMD不讓NVIDA專美於前,積極搶攻AI市場的決心。蘇姿丰透露,AI晶片的潛在市場,會從2023年的300億美元,成長至2027年的1500億美元。
蘇姿丰指出,AI是形塑下一世代運算的決定性技術,展望未來發展,蘇姿丰表示AMD將著重三大關鍵領域,包括高效能GPU組合、易於布建AI硬體的軟體平台,以及能深化與業界的合作,加速生態系發展的AI解決方案。
「AI是塑造新一代運算的決定性技術,也是AMD最大的策略性成長機會。」蘇姿丰這麼認為。
延伸閱讀
【科技人帶路】台塑、鴻海兩大集團撐腰 前瞻能源要扮演台灣鋰電池關鍵材料小尖兵
【科技人帶路】張忠謀一通電話「成就30年交情」!黃仁勳:沒有台積電,就沒有NVIDIA
【科技人帶路】受郭台銘器重!洪進揚從水泥王子「迎群創20周年」:新階段要超越面板
【科技人帶路】介紹
Yahoo奇摩股市自2022年6月起,每周三刊出【科技人帶路】系列,透過科技人的視角,一起來探討台灣科技產業的經營策略及細緻內涵。系列報導請點擊此連結。
Yahoo財經特派記者 侯冠州:自進入新聞產業後便於科技領域鑽研,採訪足跡遍及台積電、鴻海、NVIDIA、Arm等外商與台企,期許能在瞬息萬變的科技產業中提供讀者真實、專業的新聞內容。