NVIDIA與Oracle攜手 加速AI及處理龐大資料

工商時報 張珈睿

NVIDIA與Oracle攜手加速AI及大規模資料處理，協助企業推動創新。隨著企業對人工智慧（AI）運算能力的需求日益增長，兩家公司共同推出全新解決方案，旨在提升AI訓練與推論效能，幫助企業加快資料處理並獲得更高的投資回報。

在Oracle CloudWorld大會上，Oracle宣布推出全球首個zettascale（10的21次方）運算規模的OCI Supercluster。該系統由NVIDIA Blackwell平台加速運行，支持超過10萬顆NVIDIA最新一代GPU，用於訓練和部署下一代AI模型。OCI Supercluster系統將於2024年上半年推出，並可擴展至131,072顆Blackwell GPU，峰值AI運算能力達到2.4zettaflops。該系統還支援NVIDIA ConnectX-7NIC和Quantum-2InfiniBand網路，適用於內部部署、公有雲和主權雲環境，為企業提供靈活部署選項。

Oracle還宣布推出NVIDIA GB200NVL72液冷裸機執行個體，支援生成式AI應用的訓練和推論。該執行個體利用Quantum-2InfiniBand，能夠在72顆GPU的NVLink網域內運行，實現上兆個參數模型的即時推論。OCI也將於今年提供NVIDIA HGX H200GPU平台，透過NVLink和NVLink Switch連接8 顆H200Tensor核心GPU，並在RoCEv2網路上擴展至65,536顆GPU，支持大規模即時推論和訓練工作負載。

此外，Oracle宣布推出針對中階AI工作負載及NVIDIA Omniverse視覺化應用的L40S GPU加速執行個體，進一步擴展企業在邊緣及雲端環境中的AI運算能力。Oracle的Roving Edge Device v2邊緣產品，現可支援最多三個NVIDIA L4Tensor核心GPU，幫助企業在遠端環境中運行AI應用。

多家企業已利用NVIDIA加速的OCI Supercluster推動AI創新。AI新創公司Reka就在此叢集上開發了多模態AI模型，用於開發能聽、說、讀、看的企業代理。Reka共同創辦人Dani Yogatama表示，該公司的多模態AI模型依賴於NVIDIA GPU加速基礎設施，能夠輕鬆處理大規模模型並高效擴展訓練工作負載。

NVIDIA與Oracle也展示了三項基於GPU的功能，展示如何加速生成式AI應用的開發，包括向量嵌入加速、向量圖索引加速以及推論微服務的應用，進一步提升企業資料處理效能。

透過這些創新，NVIDIA 與 Oracle 正協助全球企業和政府實現 AI 應用的突破，滿足資料主權需求並加強經濟韌性。

更多中時新聞網報導
65歲不再屆齡退休！8／2起上路 勞動部曝光3大好處 勞保養老金多領＞20％
友達＋群創市值全輸它！面板慘業這家靠強項翻身 成全球新霸主
7萬人快上車！這筆年金有繳才有補助「每人現省超過5千元」

相關內容

  • NVIDIA推出企業參考架構 助企業加速AI工廠建置新紀元

    全球在邁向加速運算的路上，企業如何大規模部署資料中心基礎設施成為關鍵課題。為解決這項挑戰，NVIDIA 31日正式推出企業參考架構（Enterprise Reference Architecture, Enterprise RA），提供企業在建置人工智慧（AI）工廠的藍圖，協助企業設計出高效能、具擴充性並且安全的資料中心。

  • AI晶片需求強勁 推動輝達、台積電市值10月飆升

    （中央社紐約4日綜合外電報導）隨著愈來愈多企業將人工智慧（AI）整合至日常營運，市場對輝達（NVIDIA）的超級運算AI晶片需求續增，推動輝達與供應商台積電市值在10月同步飆升。

  • 《讀者》雜誌11月號焦點 AI面試是什麼體驗

    本期介紹企業運用AI（人工智慧）如何篩選應試者的過程。隨著線上交互技術的普及，愈來愈多的企業為了提高招聘效率開始採用AI工具作為面試的一道關卡。有著特殊運行邏輯 的AI面試，給職場新人帶來了不小的考驗。對HR（人力資源）管理者來說，雖然分擔HR的巨量工作，但HR也擔心有一天被AI取代。

  • 《各報要聞》經部AI產業化目標 四項應用打頭陣

    【時報-台北電】AI是全球產業趨勢，經濟部對於產業AI應用也訂下「AI產業化」目標，預計2028年製造業應用AI普及率達50％，服務業及中小微企業導入AI應用8萬家。為達成目標，經濟部爭取免費資源，協助業者開發示範案例，包括智慧客服助理、企業文稿生成、行銷文案生成、互動影音生成等。 同時，為滿足產業需求的AI人才上，經濟部規劃，與國際大廠微軟、人工智慧學校合作，規劃產業AI導入指引及公版教材、開設初級、中級及高級課程。並規劃2025年推出iPAS AI能力鑑定，就叫「AI應用規劃師」。 經部表示，已爭取國際大廠免費提供AI超級電腦部分算力資源，加速建構台灣專屬的生成式AI核心技術，並協助業者開發生成式AI應用示範案例。 首先「智慧客服助理」方面，運用國科會TAIDE完成客服領域AI 模型發展，已於台水8月完成客服對話系統雛形，預計將於2025年第一季提供服務。相較於傳統的客服模型，正確率提升5％～10％。 「企業文稿生成」應用可讓文件撰寫者僅須透過描述需求，包括風格、色調及排版即生成專業文件。經濟部表示，目前已與政府單位、產業顧問、金控產業洽談合作，其中在金融保險領域，已於今年8月底完

  • 經部AI產業化目標 四項應用打頭陣

    AI是全球產業趨勢，經濟部對於產業AI應用也訂下「AI產業化」目標，預計2028年製造業應用AI普及率達50％，服務業及中小微企業導入AI應用8萬家。為達成目標，經濟部爭取免費資源，協助業者開發示範案例，包括智慧客服助理、企業文稿生成、行銷文案生成、互動影音生成等。

  • 打造有感城市 台中運用AI科技捍衛水環境

    【記者陳世長台中報導】台中市政府環保局藉由成立跨單位「死魚清除暨水質異常通報平台」、應用「AI人工智慧技術」、魚群死亡好發點設置水質感測器、重點排水路廣布水質感測器及特定河段架設生態哨兵魚監測站，積極...

  • 台灣AI產業鏈面臨地緣政治風險　吳宗憲：能源穩定有助發展

    CNEWS匯流新聞網記者徐德芬／台北報導 Chat GPT引發全球對生成式AI的關注，生成式AI道德、法律、社會與政策議題衍伸機會和挑戰，財團法人人工智慧法律國際研究基金會舉辦的「2024第七屆人工智慧與法律國際學術研討會盛大登場」，今年聚焦在美國出口管制法規對台灣AI產業的風險及應對策略。基金會董事長朱兆民表示，AI發展是未來趨勢，「人工智慧基本法」等法律...

    1

  • 美國科技巨擘AI資本支出大增 回報緩慢投資人擔憂

    （中央社舊金山31日綜合外電報導）包括微軟、Meta和亞馬遜在內的美國科技巨擘正加大對建設人工智慧（AI）資料中心的投資，以應對龐大需求，但投資人期待更快看到這數十億美元投資的回報。

  • 微軟預測第2季雲端業務成長放緩 盤後股價走弱

    （中央社紐約2024年10月30日綜合外電報導）微軟（Microsoft）預計第2季人工智慧（AI）支出增加，但雲端業務Azure成長將會放緩，顯示大幅投資AI跟不上其資料中心容量限制的步伐。路透社報導，微軟股價盤後交易下跌3.6%，回吐了稍早的漲幅。微軟第1季營收和獲利超出華爾街預期。臉書（Facebook）母公司Meta公布的季報也優於分析師預期，但警告AI相關基礎設施支出「顯著加速」之後，股價盤後交易下跌3.1%。微軟投資關係副總裁艾弗森（Brett Iversen）重申，微軟要到本會計年度下半年才能解決AI產能限制問題。分析平台Visible Alpha表示，微軟預計第2季Azure營收將成長31%至32%，低於分析師平均預期的32.25% 。Azure第1季（截至9月30日）營收成長33%，略高於預期。第1季AI為Azure的成長貢獻12個百分點，而前1季AI貢獻11個百分點。微軟已持續投入數以十億計美元興建其AI基礎設施，擴大其資料中心的覆蓋範圍。微軟表示，本季資本支出成長5.3%達200億美元，高於Visible Alpha預計的192.3億美元，上季資本支出為190億美

  • OpenAI揪博通拚晶片 台積製造

    OpenAI為了減輕AI支出壓力，日前傳出有意打造晶圓廠自行製造AI晶片的消息，但路透最新消息指出OpenAI基於成本與時間考量放棄自行製造，將和博通合作開發AI晶片，預計2026年由台積電製造。此外，OpenAI也將向超微採購晶片，分散晶片供貨來源。

  • 證交所 秀智慧創新成果

    隨著人工智慧（AI）風潮興起，AI與各產業深度融合，加速數位轉型和智慧創新服務的發展，臺灣證券交易所將於11月1日、2日參加「FinTech Taipei 2024台北金融科技展」，並於「金融機構展區」設置攤位，以數位科技互動形式，展現智慧創新與數位永續的成果。