NVIDIA乙太網路技術加速全球最大AI超級電腦Colossus建設 助力xAI突破大型模型訓練

工商時報 張珈睿

NVIDIA 29日宣布，人工智慧研究公司xAI在美國田納西州孟菲斯市啟用全球最大AI超級電腦“Colossus”，其基礎架構由 NVIDIA Spectrum-X 乙太網路平台提供支持。此超級電腦搭載10萬個NVIDIA Hopper Tensor核心GPU，旨在支援xAI的Grok系列大型語言模型訓練，以及為X Premium用戶提供先進的AI聊天功能。為應對巨量運算需求，xAI正著手擴展Colossus的規模至20萬個GPU。

Colossus的建設速度令人矚目，僅用122天便完成配套設施及系統建設。從安裝首個機架到啟動模型訓練僅歷時19天，成為業界速度標竿。作為全球最大的AI超級電腦，Colossus在運行Grok模型時，展現卓越的網路效能。其三層網路結構中未出現任何流量碰撞、封包遺失或應用程式延遲。憑藉Spectrum-X的壅塞控制功能，Colossus實現高達95％的資料輸送效率，而標準乙太網路僅能提供60％的資料傳輸，且伴隨數千次流量碰撞。

NVIDIA網路事業部資深副總裁Gilad Shainer表示：「AI成為現今關鍵業務需求，須具備更高效能、增強安全性和擴充能力。NVIDIA Spectrum-X乙太網路平台為xAI等創新公司提供前所未有的計算效能，使他們能夠更快速地處理並部署AI解決方案，縮短AI產品上市時間。」

Spectrum-X 平台的核心為 Spectrum SN5600 乙太網路交換器，具備高達800Gb／s的連接埠速度，並內建Spectrum-4交換器ASIC。xAI 進一步選用 NVIDIA BlueField-3 SuperNIC，以取得更高效能和可靠性。此乙太網路技術採用先進的自適應性路由、壅塞控制和NVIDIA Direct Data Placement技術，提供低延遲、短尾延遲的高擴充性頻寬，是生成式AI雲端及多租戶環境的理想方案。

xAI創辦人Elon Musk在X平台讚揚Colossus的建設成就：「Colossus 是世界上最強大的訓練系統，感謝 xAI 團隊、NVIDIA 及眾多合作夥伴的卓越貢獻。」xAI發言人則表示：「這是全球最大、性能最佳的AI超級電腦，NVIDIA Hopper GPU與Spectrum-X技術助力我們實現更大規模的AI訓練速度與效率。」

NVIDIA Spectrum-X不僅提升Colossus的效能，亦展示乙太網路在AI運算領域中的無限潛力，為AI大規模運算帶來革命性突破。

更多中時新聞網報導
連續32年配177元 「值得一輩子擁有」 3檔只進不出 杜大師：可當傳家寶
AI七雄本益比30起跳、台積電太委屈 億元教授「3檔和神山一起長大」點名2檔正便宜
台廠衰爆遭疑「華為白手套」 世芯怒炸發聲明駁斥

相關內容

  • 《國際產業》挑戰OpenAI xAI估值攀至500億美元

    【時報-台北電】馬斯克旗下人工智慧（AI）新創公司xAI近日告知投資人，他們在最新一輪籌資共募得50億美元，令該公司估值攀升至500億美元，足足是春季時的兩倍多。xAI將利用這筆資金添購輝達晶片以強化實力，試圖與該領域霸主OpenAI一較高下。 知情人士透露，參與這次募資的投資人個個大有來頭，包括卡達主權基金卡達投資局（QIA）、創投公司Valor Equity Partners、紅杉資本與矽谷創投公司Andreessen Horowitz。這次籌資令xAI今年募資總額達到110億美元。 xAI今年春季才剛進行一輪募資，當時募集60億美元，令該公司估值達到240億美元。自川普贏得美國總統大選以來，投資人對於馬斯克旗下企業的興趣有增無減，包括特斯拉、xAI與SpaceX等。 特斯拉20日股價下跌1.15％至每股342.03美元，但大選日以來勁揚約35％。馬斯克選前斥資數億美元支持共和黨競選，選後也參與川普重返白宮的過渡工作，未來將領導「政府效率部」協助削減聯邦支出。 xAI去年7月才創立，該公司計劃將這次募得的部分資金用於購買10萬組輝達晶片，以訓練自家AI模型。 xAI估計，該公司每年

  • 挑戰OpenAI xAI估值攀至500億美元

    馬斯克旗下人工智慧（AI）新創公司xAI近日告知投資人，他們在最新一輪籌資共募得50億美元，令該公司估值攀升至500億美元，足足是春季時的兩倍多。xAI將利用這筆資金添購輝達晶片以強化實力，試圖與該領域霸主OpenAI一較高下。

  • 華碩 SC24秀全系列AI伺服器陣容

    品牌廠華碩（2357）近日於在美國舉辦的SC24超級運算大會中，端出含括新一代基礎設施解決方案、加速人工智慧發展的液冷技術，與搭載AMD／Intel和支援NVIDIA等不同處理器平台的全系列伺服器產品陣容，協助新創公司、研究機構、大型企業或政府機關等不同客戶，因應HPC高速運算及AI驅動之數位轉型需求並提升業務敏捷性。

  • 輝達財報與展望雖不到「極佳」，但足以拉抬供應鏈比價補漲

    NVIDIA 關鍵數據與展望彙整

  • CROSSBOT整合多模型 助產業升級

    隨著人工智慧（AI）技術的蓬勃發展，各產業積極尋求智慧化升級契機，以提高營運效率與競爭力。由睿思創新推出的CROSSBOT平台超前布局AI Agent技術整合與應用，成為企業AI轉型與智慧決策的關鍵推手。

  • 半導體廠多看好2025年景氣優於今年 AI動能強

    （中央社記者張建中新竹23日電）半導體產業今年止跌回升，半導體廠多數看好明年景氣可望優於今年，人工智慧（AI）應用需求強勁，仍是主要成長動能。

  • 輝達這類老AI不再受青睞？　外資：AI受益進入第二階段、新AI欽點2產業

    AI仍被認為是2025年科技主軸，輝達等一掛老AI標的雖題材不斷，但尋找新AI標的成為投資人關注重點。美系外資表示，市場焦點已經進入AI受益的第二階段—軟體股與AI代理（AI Agent），隨著軟體AI時刻到來，貨幣化預計將在2025年開始，2026年在企業採用加速將變得具有意義。

  • 輝達新AI模型變聲好神奇 小號吹出狗叫聲

    （中央社紐約25日綜合外電報導）全球人工智慧（AI）晶片霸主輝達（Nvidia）瞄準音樂、電影和電玩遊戲製作人，今天展示一款用於生成音樂和音頻的AI新模型，不僅可用於改造現有音頻，還能自行創造、生成新聲音。

  • 輝達展示新AI模型Fugatto 可生成和改造聲音

    全球人工智慧（AI）晶片霸主輝達（Nvidia）25日展示一種用於生成音樂和音頻的AI新模型，可改造並生成新奇的聲音，目標鎖定音樂、電影和電玩遊戲製作人。

    2

  • 全球正在進入人工智慧時代

    全球正在進入人工智慧(AI)時代，並不斷在開發過程中試圖拿捏其巨大潛力和潛在風險。拜登總統10月曾簽署行政命令，為美國的...

  • 【盤後焦點】MSCI調整生效尾盤爆量 台股23000點得而復失

    （中央社記者吳家豪台北2024年11月25日電）台股今天由電子股及AI族群發動攻勢，盤中漲逾200點突破月線及23100點；隨台積電等權值股壓回，加上MSCI調整尾盤爆出1329億元大量，終場指數收在22948.37點，上漲44.05點，成交值新台幣4689.02億元。電子類股指數終場下跌0.02%，金融類股指數漲0.77%；傳產族群營建類股指數上漲2.39%，鋼鐵類股漲1.25%；航運類股下跌1.87%。晶圓代工廠台積電(2330)開高走低，終場收1030元，下跌0.96%；聯發科(2454)收1280元，跌幅2.29%；鴻海(2317)收210.5元，上漲3.69%。輝達（NVIDIA）財報優於預期，人工智慧（AI）概念股延續漲勢，AI伺服器代工廠緯創(3231)勁揚5.06%、收124.5元，緯穎(6669)漲3.29%，仁寶(2324)、神達(3706)終場上揚超過2.8%。世界12強棒球賽台灣隊奪冠，奪金概念股表現強勢，經營棒壘球打擊場的大魯閣(1432)跳空漲停21.45元一價到底；旗下多名球員入選國家隊的職棒球團母企業統一(1216)、富邦金(2881)分別收漲2.23%

    1