NVIDIA 在美國時間八月二十六日正式宣布推出新一代高頻寬記憶體技術 NVHBM，這不是一次單純的規格升級，而是從底層架構把記憶體控制器從 XPU 運算晶片上「搬」到 HBM 基底晶片裡面。根據官方數據，NVHBM 對比標準 HBM4E，記憶體頻寬最高可提升 30%，HBM 功耗降低 15%，同時還能為 XPU 運算晶片釋放多達 25% 的面積。

這項技術的第一個合作夥伴也同時揭曉——Amazon 旗下的晶片設計公司 Annapurna Labs 將率先參與 NVHBM 的技術開發，並從下一代 Trainium4 晶片開始導入 NVLink Fusion 架構。Annapurna Labs 副總裁 Nafea Bshara 在聲明中表示，NVHBM 代表了一種提升高頻寬記憶體效能與效率的全新架構方式，他們期待透過這項合作為 AWS 未來的基礎設施設計帶來助益。

記憶體控制器搬家，XPU 多出 25% 的運算空間

傳統 HBM 架構把記憶體控制器直接放在 XPU 晶片上，這等於在珍貴的運算面積上劃出一塊給記憶體管理使用。隨著 AI 模型參數從數百億邁向兆級別，XPU 上的每一平方毫米都變得極度珍貴。NVHBM 的做法是把 NVIDIA 客製化記憶體控制器整合進 3D HBM 堆疊的基底晶片，讓 XPU 把力氣全部用在運算上，不必再分心處理記憶體控制。這個「搬家」動作，直接換來最高 25% 的可用面積釋放——對晶片設計來說，這不是小數目。

當然，頻寬提升 30%、功耗降低 15% 這些數字也很漂亮，但真正讓這項技術值得關注的，是它背後的路徑依賴。NVHBM 不是一個開放標準，而是 NVIDIA 把自家 GPU 的記憶體技術「下放」給 NVLink Fusion 客戶使用。換句話說，想要拿到這顆效能紅利，你就得留在 NVIDIA 的生態系裡面。

編輯觀點：從產業面來看，NVHBM 的出現其實把 AI 晶片戰爭帶進了一個新階段。過去大家比的是算力峰值，現在比的則是系統級的整合效率。NVIDIA 用 NVHBM 證明了一件事：他們不只是在賣 GPU，而是在定義一整套 AI 基礎設施的遊戲規則。Amazon 作為第一個合作夥伴，策略意圖也很明顯——與其跟 NVIDIA 在市場上硬碰硬，不如在技術底層先卡位，讓自家 Trainium 晶片直接繼承 NVIDIA 的生態系優勢。這場合作，某種程度上是「打不贏就加入他」的華麗升級版。

為什麼 Amazon 的 Annapurna Labs 搶著上車？

Amazon 旗下的 Annapurna Labs 向來低調，但這次主動站到鎂光燈前，背後有其策略考量。Annapurna 從 Trainium4 起將在新一代晶片中支援 NVLink Fusion，這意味著 Amazon 的客製化晶片將能與 NVIDIA GPU 在共通的機架級架構下協同運作。

對 AWS 的客戶來說，這個安排帶來的實際好處是：未來在 AWS 雲端上，Trainium 和 NVIDIA GPU 之間不再需要透過複雜的軟體層轉譯，硬體層級就已經打通。對 Annapurna 來說，NVHBM 的導入則是一次技術上的捷徑——他們不需要從零研發 HBM 的記憶體控制架構，直接採用 NVIDIA 已經驗證過的方案，省下大量開發時間和風險。

Annapurna Labs 副總裁 Nafea Bshara 的說法很含蓄，只說「期待為 AWS 未來的基礎設施設計帶來助益」。但說白了，這等於讓 Amazon 的晶片團隊拿到一張通往 NVIDIA 機架級平台的 VIP 門票。

AI 基礎設施的競爭，已經從晶片延伸到系統

NVIDIA 在這次宣布中反覆提到一個關鍵概念：AI 基礎設施的效能不再只取決於運算能力，而是取決於運算、記憶體、儲存、網路與軟體能否共同設計為一個統一的系統。這不是口號。當 AI 代理和兆級參數工作負載逐漸成為主流，單顆晶片的算力再強，只要記憶體跟不上、網路卡住、軟體沒優化，整個系統的實際吞吐量還是會被拖垮。

NVHBM 加上 NVLink Fusion 的組合，就是在回應這個趨勢。NVIDIA 正在把過去只在自家 GPU 上用的技術，變成一個「半客製化」的平台，讓超大規模雲端服務商和 AI 創新公司能在這個平台上打造自己的晶片，同時確保它們能和 NVIDIA 的生態系統無縫接軌。

從記憶體供應商的角度來看，NVIDIA 也在建立標準化的 NVHBM 實現方案，由多家記憶體廠商提供產品，讓 NVLink Fusion 客戶能更快把客製化 AI 晶片推向市場。這代表 HBM 市場的規格主導權，正在從記憶體廠商慢慢移向 NVIDIA 手中。

接下來會發生什麼？

NVIDIA 沒有公布 NVHBM 的具體量產時間表，但從 Amazon 的 Trainium4 已經確定導入 NVLink Fusion 來推算，實際產品問世的時間點應該落在未來一到兩年內。值得觀察的是，其他雲端大廠如 Google、Microsoft 是否會跟進採用 NVHBM，還是選擇走自己的技術路線。

另外一個懸念是：NVIDIA 把記憶體控制器整合進 HBM 堆疊的架構創新，是否會引發 HBM 供應鏈的重組？目前 HBM 市場由 SK Hynix 和 Samsung 主導，NVHBM 的驗證和量產節奏，將直接影響這些記憶體廠商的產品藍圖。

對一般讀者來說，NVHBM 這個名字可能有點遙遠。但你可以這樣理解：未來你在 AWS 上呼叫的 AI 服務、你用 ChatGPT 時背後推論的速度、甚至 AI 訓練成本的下降幅度，都會被這項技術間接影響。它不是消費性產品，但它會決定消費性 AI 產品能走多快、多遠。

如果你正在關注 AI 基礎設施的投資或技術選型，NVHBM 的發展路徑值得你花時間追蹤——因為它正在重新定義「效能」這兩個字的內涵。

本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。

常見問題 FAQ

NVHBM 和 HBM4E 有什麼不同？

NVHBM 把記憶體控制器從 XPU 晶片移到 HBM 基底晶片，而標準 HBM4E 仍將控制器放在 XPU 上。這個架構差異讓 NVHBM 能額外釋放最多 25% 的 XPU 運算面積，同時頻寬提升 30%、功耗降低 15%。

Amazon 為什麼成為 NVHBM 的第一個合作夥伴？

Amazon 旗下的 Annapurna Labs 從 Trainium4 起導入 NVLink Fusion，讓自家晶片能與 NVIDIA GPU 在共通機架級架構下協同運作。這等於用合作取代對抗，直接繼承 NVIDIA 生態系的技術紅利。

NVHBM 什麼時候會量產？

NVIDIA 尚未公布具體量產時間表，但從 Amazon Trainium4 已確定導入 NVLink Fusion 的規劃來看，實際產品預計在未來一到兩年內問世。

NVHBM 只支援 NVIDIA 的 GPU 嗎？

NVHBM 是為 NVLink Fusion 客戶提供的技術，目前主要用於合作夥伴的客製化 XPU 和 CPU。它不是開放給所有晶片設計者使用的公開標準，而是 NVIDIA 生態系內的專屬技術。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。