NVIDIA 推出 DGX Cloud，讓每個企業都能通過網路瀏覽器即時取得人工智慧超級電腦的強大運算能力

市場快訊

本新聞稿由「NVIDIA」提供。

NVIDIA（輝達）宣布推出人工智慧超級運算服務 NVIDIA DGX Cloud™，企業透過這項服務可立即獲得為生成式人工智慧及其他突破性應用項目訓練先進模型所需的基礎設施和軟體。

DGX Cloud 提供專用的 NVIDIA DGX™ AI 超級運算叢集，並且搭配 NVIDIA AI 軟體。這項服務讓各個企業只要透過簡單的網路瀏覽器，就能使用自己的人工智慧超級電腦，如此一來便省去購置、部署和管理企業內部基礎設施的複雜性。

企業按月租用 DGX Cloud 運算叢集，這確保他們能夠快速輕鬆地調整開發大型多節點訓練工作負載的大小，無需等待通常需求龐大的加速運算資源。

NVIDIA 創辦人暨執行長黃仁勳表示：「我們現正處於人工智慧產業的 iPhone 時刻。新創公司爭相打造顛覆性的產品和商業模式，而現有公司則在尋求因應之道。DGX Cloud 讓客戶可以在全球規模的雲端環境裡，立即取得 NVIDIA 的人工智慧超級運算資源」。

NVIDIA 與各大雲端服務供應商合作託管 DGX Cloud 基礎設施，由 Oracle Cloud Infrastructure（OCI）開始。 Oracle Cloud Infrastructure 的 OCI RDMA Supercluster 提供一個專門打造的 RDMA 網路、裸機運算及高效能本地和塊儲存（block storage），可以擴大到擁有超過32,000個 GPU 的超級電腦叢集。

廣告

微軟 Azure 預計將在下一季開始託管 DGX Cloud，Google Cloud 及其他業者很快就將加入。

產業巨頭採用 NVIDIA DGX Cloud，加速邁向成功之路

全球生技公司龍頭之一的 Amgen（安進）、保險科技領導業者 CCC Intelligent Solutions（CCC）與數位業務平台服務提供商 ServiceNow 是首批使用 DGX Cloud 的人工智慧先驅。

Amgen 將 DGX Cloud 搭配 NVIDIA BioNeMo™ 大型語言模型軟體，以加快發現藥物的速度，其中包括NVIDIA AI Enterprise 軟體，而在 NVIDIA AI Enterprise 軟體中另有提供 NVIDIA RAPIDS™ 資料科學加速函式庫。

Amgen 數位創新研究加速中心生物製劑治療發現研究部門執行主任 Peter Grandsard 表示：「我們的研究人員借助 NVIDIA DGX Cloud 與 NVIDIA BioNeMo，就能夠專心投入進行更深層次的生物學研究，而不必浪費時間對付人工智慧基礎設施和設定機器學習工程。相對於其他平台，DGX Cloud 的強大運算和多節點能力，使得我們能夠利用 BioNeMo，將蛋白質 LLMs 的訓練速度提高三倍，利用 NVIDIA RAPIDS 將訓練後的分析速度提高100倍。」

財產與意外傷害保險經濟領導雲端平台 CCC 使用 DGX Cloud 來加快開發和訓練人工智慧模型的速度，以及擴大模型規模。這些模型用於支援該公司的創新汽車理賠解決方案，協助加速推動產業採行智慧自動化技術，且每天為數百萬名企業用戶及其消費者創造更美好的理賠體驗。

ServiceNow 使用 DGX Cloud 與公司內部的 NVIDIA DGX 超級電腦，進行兼具靈活度和擴充性的混合雲端人工智慧超級運算作業，協助該公司在大型語言模型、程式碼生成和休閒分析方面進行人工智慧研究。ServiceNow 還共同管理負責任的開放科學生成式人工智慧 BigCode 計畫，這項計畫使用 NVIDIA 的 Megatron-LM 框架進行訓練。

打開網路瀏覽器，就能取得 NVIDIA AI 超級運算及軟體資源

企業使用 NVIDIA Base Command™ 平台軟體來管理和監控 DGX Cloud 的訓練工作負載，這套軟體在 DGX Cloud 及企業內部的 NVIDIA DGX 超級電腦之間提供了流暢的使用體驗。客戶使用 Base Command 平台可以按照每項工作所需的正確數量和類型 DGX 基礎設施來搭配不同的工作負載量。

DGX Cloud 包括 NVIDIA AI 平台的軟體層 NVIDIA AI Enterprise，提供端到端的人工智慧框架和預先訓練好的模型，以加速推動資料科學管道與簡化生產式人工智慧的開發和部署作業。在今日發布的 NVIDIA AI Enterprise 3.1中提供了全新預先訓練好的模型、經最佳化調整的框架及加速的資料科學軟體庫，讓開發者有其他方法來啟動人工智慧項目。

DGX Cloud 的每個執行個體都有 8 個 NVIDIA H100 或 A100 80GB Tensor 核心 GPU，每個節點共有 640GB 的 GPU 記憶體。利用 NVIDIA Networking技術建構出的高效能、低延遲性結構，確保能夠在互連系統的叢集中調整工作負載的大小，使得多個執行個體能夠當成一個巨大的 GPU 來使用，滿足訓練先進人工智慧的效能要求。在 DGX Cloud 另採用高效能儲存裝置，為人工智慧超級運算提供了完整的解決方案。

DGX Cloud 在整個人工智慧的開發過程中有提供 NVIDIA 專家群的支援。客戶可以直接跟 NVIDIA 的工程師合作、將模型調整到最佳狀態，以及迅速解決各種產業使用案例裡開發方面的疑難雜症。

上市時程

DGX Cloud 執行個體的價格為每個執行個體每月 36,999 美元起。企業可以連絡其NPN 合作夥伴以瞭解更多詳情。

請觀看黃仁勳在 GTC 主題演講中對 NVIDIA DGX Cloud 的討論，另外也歡迎收聽 GTC 大會與 NVIDIA DGX Cloud 先驅用戶的小組討論。

 

聯絡商益

相關內容

  • 三大法人上週丟破80萬張00940非最多　「這檔」高股息ETF被倒破近百萬張

    [FTNN新聞網]記者洪宗荃／綜合報導台股上周五（19日）指數收在19,527.12點，整體來看上週（04/15～04/19）下跌1209.45點，跌幅5.83%。據證交所盤後公布籌碼動...

    1

  • 維多年度純益逾百億美元，商品貿易進入AI軍備競賽

    MoneyDJ新聞 2024-04-22 10:27:30 記者 賴宏昌 報導英國金融時報(FT)週日(4月21日)報導，維多(Vitol Group)執行長Russell Hardy本月在洛桑(Lausanne)所舉行的FT大宗商品全球峰會上表示，貿易公司尋求以兩種主要方式使用人工智慧(AI)：提高營運效率、透過擁有比競爭對手更多的分析能力來發展交易優勢。他說，從某種程度上來說、這是一場軍備競賽。 未上市企業維多(全球最大獨立石油貿易商)擁有約1,800名員工，2022年純益達到破紀錄的151億美元，2023年淨利潤約為130億美元、使其成為全球人均獲利最高的公司之一。 彭博社3月報導，根據奧緯諮詢公司(Oliver Wyman)的研究，大宗商品交易產業利潤創歷史次高、輕易超越2008-09年高點。 CNBC 4月20日報導，VanEck執行長Jan van Eck受訪時表示，基於全球經濟重返成長軌道，投資人應該考慮大宗商品。他特別指出，中國是經濟擴張的關鍵驅動因素、3月份當地製造業採購經理人指數(PMI)呈現正值。 Van Eck表示，銅價動能可視為需求的正面訊號，美國政府支出也有

  • 儘管通膨降溫 英3月零售銷售仍遜於預期

    MoneyDJ新聞 2024-04-22 07:04:04 記者 黃智勤 報導最新數據顯示，英國3月零售銷售額相較前月並無成長，遜於分析師預期，首季提振經濟的力度有限。 路透、MarketWatch等外媒報導，英國國家統計局(ONS)公布，今(2024)年3月份，英國零售銷售額與前月持平，遜於經濟學家預估的月增0.3%；前月經修正數據則為成長0.1%。食品和網購銷售降溫，抵銷了汽車燃油和非食品銷售的增幅。 PwC消費產業分析主管Lisa Hooker指出，今年首季對許多零售商而言都令人失望，儘管通膨降低，政府也調低國民保險費率，尚未明顯帶動支出提升。 不過，英國最大超市集團Tesco和零售服飾業者Next近期發表的消費景氣展望和獲利預估均出色，顯示部分零售商仍對景氣感到樂觀。 根據近期數據，英國3月通膨年增率降至3.2%，但略高於經濟學家預估的3.1%；剔除食品、能源、菸類和酒類的核心通膨年增4.2%，亦高於分析師預估的4.1%。 英國央行自2022年來一路將基準利率升至5.25%，成功讓通膨從2022年11月的高峰11.1%大幅降溫。然而，最新通膨降溫程度不如預期，且核心通膨仍在4%

  • OpenAI執行長大舉注資新創、盼找到便宜乾淨能源

    MoneyDJ新聞 2024-04-23 12:00:53 記者 郭妍希 報導市場謠傳，人工智慧新創商OpenAI執行長阿特曼(Sam Altman、見圖)決定投資乾淨能源新創商，主要聚焦AI資料中心的用電需求。 華爾街日報22日獨家報導，阿特曼與創投機構Andreessen Horowitz等投資者，集資了2,000萬美元挹注大型資料中心乾淨能源提供商Exowatt。 根據報導，全球有許多地區，太陽能、風力發電及電池技術不夠先進或便宜，無法為資料中心提供24小時不間斷的電力。光是一座全新資料中心使用的電力，就可供應給數十萬戶家庭。 Exowatt開發的模組跟貨櫃差不多大、內建太陽能聚光鏡，不需要在農場搭設太陽能面板陣列。這些聚光鏡可將太陽能轉換成熱能，再將熱能用來加熱便宜的基礎材料，模組每天可儲存能使用24小時的能量。 將能源以熱能儲存、可降低成本。Exowatt的模組會讓熱能通過一種引擎來發電；該公司將太陽能電池及低成本的熱光伏電池整合在一起，是其獨到之處。Exowatt希望在沒有補貼的情況下，將供電成本降至最低每千瓦小時1美分，這個價位遠低於德州等以能源豐富為傲的州所提供的便宜電

  • 台電總座王耀庭請辭獲慰留 續為台電負責

    近日停電事故頻傳, 各界產生台電"供電不穩的疑慮"，台電總經理王耀庭20日請辭以示負責，22日上午表示接受慰留，不只替第一現場的台電同仁承受龐大壓力，感到不捨，念出同仁寫給他的信件時，更一度難過哽咽。王耀庭也強調"厭惡台電被當政治工具"，更否認也有政治鬥爭！

    1

  • 桃園豪宅總價 再刷「億元」紀錄！

    【MyGoNews蕭又安/綜合報導】睽違8年，桃園市再度出現億元豪宅交易案。根據最新實價揭露，位於桃園藝文特區知名豪宅「中悅一品」2024年1月出現交易，高樓戶加四個車位229.67坪，總價1.2億元，車位一個以210萬元計，拆算單價為55.4萬元，刷新「中悅一品」的單價紀錄，也是實登上路以來桃園區的成屋豪宅王。

    2

  • 外資賣超129億調節高息ETF及電子股 轉進金融股避風港

    外資賣超 129 億元大砍電子股及高息 ETF 反手掃貨金融族群

  • 特斯拉大勢已去？ 謝金河：馬斯克求饒也找嘸藥方

    電動車龍頭特斯拉（Tesla）近期在美國、中國和整個歐洲降價，週一（22日）股價下跌3.4%，收在 142.05 美元，已是連續第7天下跌，且來到2023年1 月以來的最低水平，全年跌幅達43%，在標準普爾500指數成分股中跌幅第二。財信傳媒集團董事長謝金河今（23）日則提及，「Tesla恐大勢已去！」

    16

  • 新光人壽「龍e貸」保單借款 最低利率2.5%

    隨著 5 月的報稅季節接近，在萬物齊漲的時代，不少民眾面臨可支配資金減少的困擾。新光金控 (2888-TW) 子公司新光人壽為提供保戶彈性資金需求運用，推出「龍 e 貸」台幣保單借款專案

  • 路透：中國透過大廠AI伺服器取得輝達高階晶片

    MoneyDJ新聞 2024-04-23 13:05:48 記者 黃智勤 報導路透獨家報導，儘管美國政府去年對中國擴大祭出AI晶片封鎖令，多個中方研究機構仍透過美超微、戴爾、技嘉等業者在中國的經銷商取得內建於AI伺服器中的高階輝達晶片。 路透於審閱數百分招標文件後發現，自美國去年11月擴大AI晶片封鎖令、阻止輝達向中國客戶供應先進AI晶片以來，10家中國機構於去年11月20日至今年2月28日之間透過美超微(Super Micro Computer)、戴爾(Dell)和技嘉(2376)的經銷商取得內建於其伺服器產品中的高階輝達晶片。 報導指出，涉及此行為的11家經銷商為知名度不高的中國零售商，無法確認上述產品是否為美國緊縮晶片禁令前囤積的庫存。 據悉，藉此取得輝達高階晶片的買家包括中國科學院、山東大學人工智能研究院、西南大學、黑龍江省政府旗下的投資基金和國有航太研究中心等。 美國商務部對此表示，當局持續監控受限制晶片的動向、檢視最終用途，也會調查可信的違規指控，包括有心人士透過設立空殼公司採購產品等。 華府法律事務所Kirkland & Ellis合夥人Daniel Gerkin指出，因

  • 《DJ在線》融資公司是金融體系一環，重點在合理監管

    MoneyDJ新聞 2024-04-23 11:57:12 記者 羅毓嘉 報導近期中租-KY(5871)、裕融(9941)、以及和潤(6592)等融資租賃公司因BNPL(Buy Now Pay Later, 先買後付)等業務，可能導致消費金融市場秩序失調的議題上，意外成為立法委員質詢焦點。然而細數融資租賃業者在金融市場體系的角色，係作為提供信用紀錄較為缺乏的消費者、以及較難以取得銀行授信奧援的中小企業等仍需資金週轉的橋接任務，實有存在必要。 與其杯葛融資租賃公司是否藉由取得銀行較低利率、並以較高利率貸予終端消費者與中小企業，立法院應該做的，其實是正視《融資公司法》尚未正式立法，連監管都「無法」可用的現實，同時漠視這些上市櫃融資租賃公司已經營許久、且對台灣經濟成長有長足貢獻的事實，實在是很不公平。 細數台灣租賃三雄的各自強項，中租-KY鴨子划水多年佈局太陽能發電案場，目前早已是台灣最大案場的擁有者，提供近1.5GW裝置容量的綠電；和潤則提供國內汽車融資最大額度、並藉由旗下iRent和雲行動服務打開了台灣共享汽車市場的產業發展；裕融則在企業金融領域協助了許多中小企業的營運，這些都是實實在在