大陸AI模型公司DeepSeek優化記憶體管理 減少記憶體容量

工商時報 李娟萍

大陸AI模型公司DeepSeek橫空出世，透過其創新架構及技術，做到優化記憶體管理，在AI應用上，高頻寬記憶體（HBM）在算力上的必要性，引起市場關注。

DeepSeek的模型，不僅在成本及效能上，具有優秀的運算成果，在儲存上，也採用創新的管理及優化記憶體使用方法，做到減少記憶體容量。

這些創新技術及管理方法，包括可以分批處理數據，將大數據分成小批次處理，減少單次記憶體的占用。

透過量化技術，如FP126或INT8， 減少模型的存儲需求。定期清除 DeepSeek的儲存，以釋放不再使用的資料，清理記憶體空間。

優化 DeepSeek 設定，如PyTorch或TensorFlow，可以調整 Deep Seek 的設定，例如調整快取大小或搜尋參數，優化記憶體使用。

DeepSeek也能監控記憶體使用，定期監控記憶體使用情況，以便及時發現和解決問題。

此外，也能根據實際需求，合理配置系統資源，以確保 Deep Seek 能夠正常運行。例如在多台機器上分布式運行任務，以分攤記憶體的儲存壓力。

業者指出，Deep Seek在提供高效搜尋服務的同時，透過管理和優化，可以有效地控制記憶體使用，確保系統的穩定性和效能，其作法讓人印象深刻。

更多中時新聞網報導
張忠謀自傳細讀後 前員工驚爆：英特爾衰敗秘辛
公公過世「大姑領光1700萬存款」 她照顧30年領不到1毛錢 律師3招保住身後財產
勞保年資差不多 只因1差異每月比別人多領3千元 達人揭「最肥領法」：要積極爭取

相關內容

  • 《產業》HBM4爭霸戰開打 美光領跑

    【時報-台北電】生成式AI持續爆發，推升高頻寬記憶體（HBM）需求急遽攀升。全球三大記憶體廠—美光、SK海力士與三星電子全面投入HBM4戰局，爭搶AI加速器記憶體主導權。其中，美光搶先宣布送樣，技術領先態勢明顯。 美光12日宣布，已將最新12層堆疊、容量達36GB的HBM4，送樣給多家全球客戶。該產品採用先進的1β DRAM製程，搭配2048位元寬高速介面，單堆疊傳輸速率突破2.0 TB／s，效能較前一代HBM3E提升超過60％，能源效率亦提升逾20％，預計2026年正式量產。 美光指出，HBM4具備記憶體內建自我測試（MBIST）功能，可大幅強化AI加速器的推論效能與反應速度，協助加速AI在醫療、金融、交通等領域的應用部署，為下一代AI平台提供無縫整合解決方案。 在競爭態勢方面，SK海力士仍穩居全球HBM市占率龍頭。其HBM4目前正處於驗證階段，預計2025年底完成樣品交付，並且於2026年初投入量產。SK海力士目前為輝達（NVIDIA）主要記憶體供應商，並且擴建M16封裝產線，以鞏固在HBM市場的主導地位。 三星電子亦不落人後，透過整合旗下晶圓代工與先進封裝（SAINT）技術，推動

  • HBM4爭霸戰開打 美光領跑

    生成式AI持續爆發，推升高頻寬記憶體（HBM）需求急遽攀升。全球三大記憶體廠—美光、SK海力士與三星電子全面投入HBM4戰局，爭搶AI加速器記憶體主導權。其中，美光搶先宣布送樣，技術領先態勢明顯。

  • 美光斥2,000億美元 擴大在美投資

    美光科技12日宣布將對美國擴大投資，計劃斥資約2,000億美元用於晶片製造和研發。

  • 美光HBM4正式送樣　挑戰海力士霸主地位

    [NOWnews今日新聞]美光12日宣布，旗下最新的12層堆疊36GB高頻寬記憶體（HBM4）已率先送樣給多家主要客戶，成為業界第一家公開送樣的廠商，展現搶下AI市場主導權的強烈企圖。這也讓原本在HB...

  • DRAM雙雄連日爆量！記憶體族群買氣夯不停 記憶體究竟是什麼？股價為何連翻漲？一文盤點概念股！

    記憶體族群點火！受惠川普關稅急單需求與國際大廠減產效應，近期記憶體概念股漲勢震盪，其中DRAM大廠南亞科（2408）近期爆量演出，常登上成交量榜Top 5。記憶體到底是什麼？最近記憶體在漲什麼？記憶體跟我們有什麼關係？本文將帶你一步步解析記憶體市場的運作、相關概念股，以及近期的市場動態，幫助你更清楚地評估記憶體產業的投資潛力與風險。

    2

  • 美光將在美投資2,000億美元 用於晶片製造與研發

    美光科技12日宣布將對美國擴大投資，計劃斥資約2,000億美元用於晶片製造和研發。

  • 研調預估:2025 全球 AI 伺服器出貨破百萬台：一文看懂 AI 伺服器是什麼

    DIGITIMES預估全球AI伺服器出貨總量將達逾181萬台，年增26.3％，其中搭載高頻寬記憶體（HBM）的高階AI伺服器出貨，則將有機會突破百萬台大關、年增四成以上。 DIGITIMES分析，以高階AI伺服器的採購對象而言，因商用圖形處理器（GPU）叢集（cluster）效能進展迅速，以及部分雲端用戶加快AI特殊應用積體電路（ASIC）採用步調，預期2025年北美大型雲端業者的採購比重將回升至7成。

  • 威剛5月營收衝上41.69億元 創15年來單月新高

    （中央社記者張建中新竹2025年6月9日電）記憶體模組廠威剛(3260)5月營收達新台幣41.69億元，創歷年同期新高，並創2010年4月以來單月營收新高。威剛表示，動態隨機存取記憶體（DRAM）和儲存型快閃記憶體（NAND Flash）報價同步揚升，是推升5月營收攀高的主要動力。威剛前5月營收179.86億元，較去年同期增加0.17%。威剛指出，記憶體價格漲勢可望延續至下半年，包括通路和品牌系統廠客戶都積極回補庫存，工廠產能將自第1季一路滿載至8月，第2季營運可望成長。威剛表示，上游製造商的產能規劃依然謹慎有序，DRAM與NAND Flash供給有限，同時AI相關應用需求暢旺、消費電子新產品也相繼推出，且各項應用搭載的記憶體容量增長，將推升記憶體價格和需求持續揚升。（編輯：張良知）

  • 《產業》AI伺服器2025出貨上看181萬台 高階估增達4成

    【時報記者林資傑台北報導】DIGITIMES預估，2025年全球AI伺服器出貨將達181萬台，其中搭載高頻寬記憶體（HBM）的高階AI伺服器出貨將突破百萬台大關、年增達4成，且採購對象將不再集中於北美四大雲端業者，預期甲骨文（Oracle）將是採購量成長最快者。 全球關稅戰方興未艾，對生成式AI投資回報過慢的質疑，以及美國持續擴大對中國大陸AI算力的技術、產品封鎖，皆未影響主要業者繼續大舉投入建置AI數據中心計畫，大型語言模型（LLM）效能與應用持續發展，仍吸引業者持續投資並採購AI伺服器。 觀察高階AI伺服器的採購對象，DIGITIMES表示，由於商用GPU叢集（cluster）效能進展迅速，以及部分雲端用戶加快AI特殊應用晶片（ASIC）採用步調，預期2025年北美大型雲端業者的採購比重將回升至7成。 而企業客戶2025年採購占比預期維持2成，主因關稅戰及景氣不明，對企業總體IT資本支出影響顯著。至於陸系雲端業者因受美國啟動H20禁運影響，2025年出貨比重恐降至低於1成。 DIGITIMES指出，2025年高階AI伺服器採購對象將不再集中於北美四大雲端業者，甲骨文（Oracle）

  • 中、韓廠加速布局次世代記憶體

    韓廠三星與陸廠長鑫存儲積極布局次世代記憶體。據業界消息，三星位於韓國華城的DRAM第17產線（Line 17）正推動製程轉換，預計從DDR4轉向14／16奈米等先進製程，配合高頻寬記憶體（HBM）與次世代DRAM量產。

  • 《產業》中、韓廠加速布局次世代記憶體

    【時報-台北電】韓廠三星與陸廠長鑫存儲積極布局次世代記憶體。據業界消息，三星位於韓國華城的DRAM第17產線（Line 17）正推動製程轉換，預計從DDR4轉向14／16奈米等先進製程，配合高頻寬記憶體（HBM）與次世代DRAM量產。 三星將以平澤P4廠為主軸，自2025年下半年起進行大規模設備擴充投資，以提升成本競爭力。 長鑫存儲也加快DDR4轉向DDR5的步調。由於政策壓力與市場趨勢，長鑫存儲目前已大幅降低DDR4比重，將主力轉向供應伺服器（Server）PC用的DDR5產品，並協助客戶進行HBM2產品開發。 業界人士指出，長鑫存儲PC客戶多以聯想為主，為因應中國大陸本土化需求，其他品牌也開始採用長鑫存儲的DDR5，海外版本則維持非中國大陸的供應鏈。 據悉，長鑫存儲2025年月產能將持續擴張至27至28萬片，雖原訂目標30萬片，但受限設備取得困難而未能達成。目前其產品組合中，約85％為LPDDR，15％為Server PC應用，未來後者比重仍有上修空間。 此外，近期因記憶體大廠減少DDR4的供應，致使DDR4需求回溫，南亞科重新評估產能配置，可能略為提高DDR4供應比例。 DRAM