Astera Labs推全球首款PCIe 6交換器 搶AI伺服器商機

鉅亨網記者魏志豪 台北

高速傳輸晶片業者 Astera Labs(ALAB-US) 今 (14) 日宣布，推出全新的 Fabric 交換器產品組合，當中也包括業界首款 PCIe 6 Switch 交換器，其專為雲端規模加速運算平台中的 AI 工作負載而打造。

Scorpio Smart Fabric Switch 產品組合針對 AI 資料流進行最佳化，可提供最高可預測的每瓦效能、高可靠性、輕鬆的雲規模部署、縮短上市時間並降低整體擁有成本。

Scorpio Smart Fabric Switch 產品組合擁有 P 系列與 X 系列兩大產品線，其中，Scorpio P-Series 用於連接 GPU 到 CPU/NIC/SSD，支援混合流量的頭節點連接，跨越多種多樣的 PCIe 主機和終端的混合流量頭節點連接，Scorpio X-Series 則用於後端 GPU 叢集，提供最高的後端 GPU 對 GPU 頻寬，並可進行特定平台的客製化。

Astera Labs 執行長 Jitendra Mohan 說，超大規模企業正在以前所未有的速度、規模和複雜性部署高度專業化的 AI 平台，Scorpio Smart Fabric Switch 產品組合為兩種特定的 AI 應用情境擴充 PCIe 連接，包括 Scorpio P-Series 以及後端擴充 GPU 叢集的 Scorpio X-Series。

Jitendra Mohan 指出，Scorpio 提供高效節能的 Fabric Switch 解決方案可預測性、安全、高效能的資料流，以及廣泛的機群管理功能，從而加快雲端規模的 AI 基礎架構部署，廣泛的機群管理功能，可加速雲端規模的 AI 基礎架構部署。

Moor Insights & Strategy 創辦人、執行長兼首席分析師 Patrick Moorhead 說，為訓練和推理工作負載開發系統的超大規模廠商和 AI 平台供應商傳統上使用最初為通用和儲存應用設計的 PCIe Switch 交換器，這些交換器可能非常複雜、功耗高，並且需要較長的系統開發週期，因此對 AI 平台來說具有挑戰性。

Astera Labs 透過推出 Scorpio Smart Fabric Switch 產品組合，可專注於滿足業界對效能更強、效率更高的 Fabric 解決方案的需求，該解決方案專為滿足雲端中人工智慧培訓和推理工作負載的特定要求而打造。

輝達 (NVDA-US)GPU 工程資深副總裁 Brian Kelleher 表示，AI 基礎架構需要在互連效能、效率和功能之間取得適當的平衡，以實現大規模 AI 工作負載的加速運算。新的專用 Scorpio fabric switch 交換器產品組合，這將有助於加快客戶的可擴展 AI 基礎設施部署，為各種 AI 和 HPC 工作負載提供支援。

更多鉅亨報導
•Astera Labs宣布在台建雲端級實驗室 五大ODM按讚

相關內容

  • Astera Labs 推出專為雲端規模人工智慧基礎架構打造的全新 Fabric Switch交換器產品組合

    美國加州聖克拉拉市, October 11, 2024--(美國商業資訊)--Astera Labs, Inc. (Nasdaq：ALAB) 面向人工智慧和雲端基礎設施的半導體為基礎的連接解決方案的全球領先廠商今天宣布推出全新的Fabric 交換器產品組合，其中包括業界首款 PCIe 6® Switch交換機，該交換機專為雲端規模加速運算平台中要求嚴苛的人工智慧工作負載而打造。Scorpio Smart Fabric Switch 產品組合針對人工智慧資料流進行了最佳化，可提供最高可預測的每瓦效能、高可靠性、輕鬆的雲規模部署、縮短上市時間並降低整體擁有成本。

  • 《國際產業》訓練AI模型花費大...OpenAI恐一路虧到2028年

    【時報-台北電】OpenAI靠ChatGPT進帳大把鈔票，但訓練AI模型的花費更驚人，害公司遲遲無法獲利，估計要一路虧損到2028年。 OpenAI最新財務文件指出，2029年OpenAI年營收可望達到1,000億美元，但在那之前年年虧損。文件指出2023至2028年OpenAI將累積440億美元虧損，2026年前年度虧損最高可達140億美元，之後才會逐漸縮小。 造成OpenAI虧損的主因無疑是AI模型訓練太燒錢。文件指出，2023至2028年OpenAI支出總額排除員工股票獎勵後高達2,000億美元，其中多達60％至80％的支出，將用來訓練與經營AI模型。2026年前，OpenAI每年為AI模型投入的成本，最高可達95億美元。 文件另指出，OpenAI營收有20％流入大股東微軟手中。微軟近日又與輝達及其他公司參與OpenAI最新一輪募資，一共對OpenAI注資66億美元，將OpenAI估值推向1,570億美元。 OpenAI對ChatGPT投入的龐大成本除了用於AI模型訓練之外，還要監控平台使用情形，以免惡意人士濫用生成式AI製造不實網路內容。尤其在美國總統大選剩下最後1個月的關鍵時

  • 訓練AI模型花費大...OpenAI恐一路虧到2028年

    OpenAI靠ChatGPT進帳大把鈔票，但訓練AI模型的花費更驚人，害公司遲遲無法獲利，估計要一路虧損到2028年。

  • 【觀點】日本政府帶頭瘋AI！連豬排便當都能拆解的「AI工作流」，為何吸引企業愛用？

    日本企業近期積極的導入AI服務、投資新創，展現在AI領域的強大企圖心，背後原動力是什麼？

  • 5件事都認同，代表你完全不了解Z世代員工

    一樣是年輕人，A的座位堆滿療癒系小公仔和扭蛋，B的座位卻乾淨得像是能隨時準備辭職走人。身為管理者的你，若經常對他們的行為舉止摸不著頭緒，別擔心，你並不孤單。讓我們一起透過5件事，幫助你更好理解Z世代員工的心理。 迷思1：Z世代一定更擁抱AI 錯！這群數位原住民對AI比千禧世代更加猶豫不決。 美國管理...

    4

  • 《熱門族群》智邦、英業達營收靚 股價上攻

    【時報-台北電】台積電9日震盪收漲，帶動台股小幅收高與AI概念股表現亮眼，其中智邦（2345）、英業達（2356）等營收創高股，股價強勢表態。智邦受惠於AI需求增長，高階資料中心交換器的需求進一步推升了營收表現，9月營收達100.5億元，月增6.7％、年增33.7％，首度突破百億元大關，創下歷史新高，推動其第三季營收創歷史新高，第三季累計營收達282億元，季增15.5％，奪下單季網通營收王的寶座。 法人表示，智邦第三季表現主要為受惠美系資料中心客戶持續升級AI功能，AI加速卡所用晶片也得到上游晶圓廠供給增加下，產品營收占比將上升；400G網路交換器需求依舊穩健，少量800G產品亦開始試產，美系品牌客戶在整併完後，亦往高階AI應用產品開發，多元自身產品組合。 英業達9月合併營收月增8.1％、年增18.3％，站上562.5億元的歷史單月新高，同時推升其第三季合併營收達1,638.1億元，同創單季新高。英業達9日股價反彈4.7％至44.2元，一舉突破月線與五日均線。 法人預期英業達2024年伺服器營收成長25％以上，AI比重有望升至近兩成，一般伺服器回穩且L10開始出貨。筆電部分，隨INTE

  • 不被取代！掌握生成式AI技能提升職能價值　報名創新未來學校秋季課程

    因應AI時代來臨，職場人士的職能價值將重新被審視。在未來將會是一個「懂得駕馭AI」的人能取得絕佳位置的時代。 為協助在職青年培養AI應用關鍵能力，「創新未來學校」於2024年秋季推出全新系列主題課程，課程內容以行銷企劃及產品企劃方向切入，以企劃策略邏輯能力結合當前最新生成式AI工具應用實務，期

  • 《產業》超微AI加速器衝刺 蘇姿丰：2028年規模上看5000億美元

    【時報-台北電】AI加速器市場規模(TAM)超出預期，AMD（超微）執行長蘇姿丰指出，至2028年市場規模將達5,000億美元，五年期間以60％之年複合成長率快速成長。AMD推出MI325X及MI350系列產品，其中，前者搭載256GB之HBM3e記憶體、支援最高6TB／s頻寬，成為市場領先的AI解決方案。 對AI加速器市場需求持續保持信心，蘇姿丰表示，整體市場規模將從2023年之450億美元成長至2028年5,000億美元。 AMD MI325X於第四季開始生產，相較競爭對手之H200，將高出1.8倍的容量和1.3倍的頻寬。並且在FP16和FP8運算中分別達到1.3倍與1.2倍的性能提升。此外，Instinct MI325X在Mistral 7B及Llama 3.1 70B等主流AI模型推理中的表現也遠超市場競爭對手。（新聞來源：工商即時 張珈睿）

  • 《基金》Q4布局半導體股 報酬率逾1成

    【時報-台北電】AI應用無所不在，大至電動車，小至智能手機，未來十年將走向無所不能，投信法人表示，每當新的科技應用崛起時，晶片需求會出現躍升性成長，帶動的將是約10年的半導體大週期，另外，半導體每個產品週期中也會伴隨著約三～四年小庫存週期，投資人若能掌握半導體應用週期與庫存週期的循環機會，將可獲得不錯的報酬。 依歷史經驗，第四季為布局半導體股的良機，據統計，近十年（2014～2023）第四季布局全球半導體指數平均報酬率逾１成，居所有類股之冠，建議優先布局結合美日台三強的半導體基金，掌握半導體全面商機。 台新美日台半導體基金經理人蘇聖峰指出，半導體產業揮別2023年的庫存調整期，進入2024年，在生成式AI和高效能運算（HPC）等應用推動，以及晶片在終端需求的復甦帶動下，加速先進製程和晶圓代工產能擴增，SEMI國際半導體產業協會估計，全球半導體產能繼2023年以5.5％成長至每月2,960萬片晶圓（wpm, wafers per month）之後，預計2024年將持續增速成長6.4％，突破3,000萬片大關。 蘇聖峰表示，除了生成式AI和高效能運算（HPC）等需求激增外，隨著產業鏈庫存逐

  • 智邦、英業達營收靚 股價上攻

    台積電9日震盪收漲，帶動台股小幅收高與AI概念股表現亮眼，其中智邦（2345）、英業達（2356）等營收創高股，股價強勢表態。智邦受惠於AI需求增長，高階資料中心交換器的需求進一步推升了營收表現，9月營收達100.5億元，月增6.7％、年增33.7％，首度突破百億元大關，創下歷史新高，推動其第三季營收創歷史新高，第三季累計營收達282億元，季增15.5％，奪下單季網通營收王的寶座。

  • 微軟、Google都押注的「AI代理」是什麼？最強利基點，能讓軟體業成為AI浪潮的新贏家？

    AI代理與AI助理不同，能夠自主執行任務、做出決策並與環境互動，儼然成為AI浪潮的新利基點。