根據Hot Chips 2026大會上發佈的最新訊息，一家名為d-Matrix的美國新創公司，公開宣稱其最新AI推論晶片Raptor，在「頻寬密度」這項關鍵指標上，超越輝達（NVIDIA）尚未發表的次世代Rubin架構達20倍。這不是一個普通的規格領先——在AI算力軍備競賽中，頻寬密度直接決定了晶片能多快餵養越來越飢渴的大型語言模型。
頻寬密度超越20倍的關鍵：3D DRAM堆疊技術
d-Matrix在Hot Chips大會上詳細解釋了Raptor的設計核心。不同於當前高階AI晶片普遍採用高頻寬記憶體（HBM）作為解決方案，Raptor選擇了一條截然不同的路徑：3D DRAM。這是一種將邏輯晶片直接堆疊在最多四層記憶體上方的設計，概念上類似超微半導體（AMD）在處理器上應用的3D V-Cache技術，但d-Matrix將這個架構推向了更極致的規模。
這項設計解決了什麼問題？簡單來說，HBM雖然頻寬高，但周邊輸入輸出（I/O）的物理限制讓功耗居高不下。Raptor透過面對面接合（face-to-face bonding）技術，大幅縮短了電子訊號的傳輸距離，結果是：每傳輸1GB資料的功耗降低約13.5倍，同時達到接近SRAM（靜態隨機存取記憶體）等級的頻寬表現。這不是微幅改善，而是數量級的差異。
從產業面來看，d-Matrix的20倍宣稱背後有紮實的物理依據。3D DRAM的face-to-face bonding技術縮短了傳輸路徑，這不是行銷話術，是真實在I/O能耗上做到13.5倍的改善。但話說回來，頻寬密度只是眾多指標之一，軟體生態系、量產良率、客戶信任度這些層面，新創要追趕輝達還有很長的路。這顆晶片真正的考驗不在實驗室，而在資料中心機房的實際部署。
Raptor規格解密：32GB單卡、機櫃級叢集與tokens處理量
Raptor的單卡記憶體容量為32GB，這個數字恰好落在一個微妙的市場定位——介於小區塊SRAM與大型HBM之間。d-Matrix的規劃不僅止於單卡效能，他們打算將Raptor橫向擴展，建構機櫃級（rack-scale）叢集。根據d-Matrix的技術文件，一個完整的機櫃可配置高達72張Raptor卡，提供每秒拍位元（petabytes）等級的總記憶體頻寬。
更讓市場關注的是實際推論效能。d-Matrix宣稱Raptor在每位使用者每秒能處理約1,000個tokens——tokens是AI模型處理文字的最小單位。他們進一步展示了在GLM-5.2與Kimi K3等模型上的實測數據，分別達到2,121及785個tokens的表現。這組數據的意義在於：當AI應用從聊天機器人進化到即時語音互動、長文件摘要、甚至是多輪複雜推理時，tokens吞吐量直接決定了用戶體驗的流暢度。
輝達的防線：NVLink Fusion與異質運算戰略
面對新創公司的技術挑戰，輝達並非毫無防備。在Hot Chips大會上，輝達同步揭露了其最新的戰略布局——NVLink Fusion技術。這項策略的關鍵在於，輝達決定將自家的NVLink高速互連技術授權給第三方客製化XPU（eXtended Processing Unit）使用。換句話說，即使AI工廠不完全採用輝達的GPU，只要互連技術是輝達的，輝達依然能在AI基礎設施市場中扮演核心角色。
輝達的邏輯很清晰：未來的AI基礎設施將走向異質運算（heterogeneous compute）與標準化網路的混合模式。在這個願景中，GPU、CPU、NPU、甚至是d-Matrix這類專用推論晶片，都會共存於同一個系統內。而連接這些不同運算單元的「神經系統」，就是輝達想要掌握的NVLink生態系。這項布局同時對超微半導體的Infinity Fabric與英特爾（Intel）的Ultra Path Interconnect等競爭技術構成壓力。
台灣半導體產業的雙面刃
這場AI晶片大戰，台灣不可能置身事外。無論是d-Matrix的Raptor還是輝達的Rubin，這些先進晶片的設計與量產都離不開台灣的半導體供應鏈。台積電（TSMC）作為全球先進製程的領導者，幾乎是所有一線AI晶片公司的代工首選。d-Matrix的晶片若要規模化量產，台積電的先進封裝與3D DRAM整合技術將是關鍵夥伴。
對台灣而言，這既是機會也是挑戰。一方面，新創公司的崛起代表更多元的客戶基礎與訂單來源；另一方面，AI晶片的技術路線日益分歧——從HBM到3D DRAM、從GPU到專用推論晶片——台灣的半導體廠商必須在技術投資上做出精準判斷，才不會在下一世代技術轉折點上掉隊。這不僅是商業問題，更牽動台灣在全球AI供應鏈中的戰略地位。
數據背後的啟示
Hot Chips大會上的這場較量，呈現了幾個值得深思的趨勢。首先，AI推論市場正從「附屬應用」轉向「主戰場」。當訓練完成的模型需要落地服務時，推論階段的成本與效能直接決定了商業模式的可行性。d-Matrix的出現證明了這個市場已經大到足以支撐新創公司挑戰巨頭。
其次，頻寬密度取代純算力成為新的競爭焦點。當模型參數從數千億邁向數兆時，資料搬運的效率往往比計算速度更關鍵。Raptor的3D DRAM設計與輝達的NVLink Fusion策略，本質上都是在解決同一個問題：如何讓資料在最短時間內到達它該去的地方。
最後，台灣作為全球半導體製造重鎮，必須密切關注這場技術路線之爭。無論最終是Raptor的3D DRAM路線勝出，還是輝達的異質運算生態系持續主導，台灣的晶圓代工與先進封裝產能都將是決定這些技術能否規模化的關鍵變數。對台灣的決策者與產業領袖來說，此刻需要的不是選邊站，而是確保技術投資的廣度足以涵蓋未來各種可能的路徑。
下一步：你的思考起點
當一家新創公司能在關鍵指標上宣稱超越產業龍頭20倍，這不僅是技術新聞，更是一個警訊或機會的信號。對投資人而言，d-Matrix是否值得關注？對企業IT決策者來說，未來的AI硬體採購策略是否需要納入更多選擇？對半導體從業人員而言，3D DRAM這條技術路線是否值得投入學習？
在AI硬體變局中，最大的風險不是選錯技術，而是忽視技術路線的多樣性。建議你花30分鐘研究d-Matrix的技術白皮書，並對照輝達的官方回應，形成自己的判斷。這場競賽才剛剛開始，接下來的12到18個月將是關鍵觀察期。
本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。
常見問題 FAQ
d-Matrix的Raptor晶片何時能量產上市？
根據目前公開資訊，d-Matrix並未在Hot Chips 2026大會上公布具體的量產時程表。該公司表示Raptor已進入與潛在客戶的驗證階段，實際出貨時間仍取決於後續的量產準備進度。
Raptor的20倍頻寬密度領先是否代表輝達Rubin輸了？
不盡然。20倍的頻寬密度領先是基於特定指標的比較，輝達Rubin尚未發表，實際規格與整體效能仍未知。此外，AI晶片的競爭涵蓋軟體生態系、開發者支援、量產能力等多個層面，單一指標的領先不等於全面勝利。
3D DRAM技術與目前主流的HBM有何不同？
3D DRAM將邏輯晶片直接堆疊在記憶體上方，透過face-to-face bonding縮短傳輸距離，功耗更低且頻寬密度更高。HBM則是將多層DRAM透過矽穿孔（TSV）垂直連接，再與運算晶片水平相連，傳輸路徑較長，I/O能耗較高。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
