亞馬遜升級自研AI晶片 搶先用輝達新一代超級晶片

亞馬遜(Amazon)旗下雲端部門Amazon Web Services(AWS)於本周舉辦 re:Invent年度大會,活動上宣布推出新一代自研晶片,並強調深化與輝達的合作,推出基於輝達晶片的新服務,與該公司共同研發超級電腦。

AWS的re:Invent年度大會於拉斯維加斯登場,AWS推出了自主研發的新型Graviton4晶片,其運算效能較前代Graviton3提高多達30%、內核增加50%、記憶體頻寬提升75%,進而能在亞馬遜彈性雲端運算(Amazon Elastic Compute Cloud,簡稱Amazon EC2)上提供最高性價比與能源利用效果,而應用Graviton4的電腦將在未來數個月內上市。

AWS推出的另一款新品為新一代AI晶片Trainium2,速度較前代Trainium1快4倍,將能在EC2 UltraCluster中部署多達10萬個晶片,讓用戶在短時間內訓練上兆參數的基礎模型(PM)和大型語言模型(LLM)。

除了自研晶片外,AWS也在年度大會上宣布,將擴大與輝達的策略合作,提供最先進的基礎設施、軟體及服務,協助客戶的生成式人工智慧(AI)創新。

AWS 將成為輝達Grace Hopper超級晶片升級版的第一個大客戶,此外,輝達和AWS將共同在AWS上託管輝達的雲端服務DGX Cloud,並且共同研發名為Ceiba 的項目,設計世界上速度最快的GPU驅動AI超級計算機。

廣告

除了晶片和雲端服務,AWS也於同日推出了AI聊天機器人「Q」的預覽版。Q為生成式AI技術支援的數位助手,可以根據企業客戶的業務提供協助,諸如搜尋資訊、擬定草案、編寫程式、審查業務指標等,且客戶可以根據公司的數據或個人資料對Q進行客製化。

Q作為針對工作場域設計的數位助手,將與微軟(Microsoft)的Copilot以及Google的Duet AI等工具較勁,在價格方面,Copilot和Duet AI的月費均為30美元,而Q的企業用戶則是每人每月20美元,針對開發人員和IT人員的附加功能版本則是25美元,有望挑戰微軟與Google的市場。

更多中時新聞網報導
台灣房地產只漲不跌?他預言可怕後果掀論戰
台AI伺服器供應鏈提前歡呼
基本面夠嗆!「16檔法人悄悄買」其中4檔金融將扮大黑馬