根據美光(Micron, MU)在Hot Chips 2026大會上發表的最新研究,AI算力每兩年成長3倍,但HBM頻寬每年擴展速度卻不到2倍——「記憶體牆」不僅沒有緩解,反而正在加速惡化。這家全球記憶體三大廠之一的重量級業者,罕見地在大會上坦言了一個業界心照不宣的殘酷現實:高階記憶體的供給問題,在短期內仍然無解。
這場在美國史丹佛大學舉行的Hot Chips年會,向來是全球半導體與處理器領域的頂級殿堂。美光這次的發言之所以引起震動,不只是因為他們點出了問題,而是因為他們用數據證明了——即使記憶體業者拼了命地推進HBM改朝換代的速度,依然跟不上AI晶片成長的腳步。說得更直白一點:你就算把HBM疊得再高、頻寬開得再大,散熱和物理極限的鐵板就擋在那裡。
記憶體牆:從80486時代就開始的噩夢,現在被AI徹底放大
所謂的「記憶體牆」,並不是AI時代才冒出來的新名詞。事實上,這個問題從35年前的intel 80486 DX2系列CPU就已經存在。當時處理器的速度已經開始超越外部記憶體的資料傳輸速率,解決方案是靠晶片內的倍頻技術和多層次快取來硬撐。
但AI的創新架構,把這個老問題推向了全新的層次。美光的研究明確指出,AI訓練和推論對記憶體頻寬的需求曲線,遠遠陡峭於過去任何一個運算世代。HBM雖然不斷改版、堆疊層數持續增加,但每往上一層,散熱難度就呈指數級上升——這不是製程技術能解決的問題,這是物理定律在跟你對賭。
編輯觀點
從產業面來看,美光這份研究其實點出了一個更深層的結構性矛盾:半導體業者習慣用「製程微縮」來解決效能問題,但記憶體偏偏卡在物理瓶頸上動彈不得。JEDEC放寬封裝高度限制,看似給了出路,實際上只是把散熱難題丟給系統廠去煩惱。我認為,接下來兩年內我們會看到更多「軟硬體協同設計」的解決方案浮上檯面——也就是說,AI模型架構必須主動配合記憶體頻寬來調整,而不是反過來要求記憶體永遠追得上算力。這不是投降,這是認清現實後的務實選擇。
美光在會上給出了一個關鍵數字:AI算力每兩年成長3倍,HBM頻寬每年擴展不到2倍。把這兩個數字放在一起看,你會發現差距不是慢慢擴大,而是像兩條岔開的射線——時間越久,裂縫越寬。
HBM產能搶破頭,DDR5價格跟著遭殃
高階HBM的供給無解,連帶效應已經開始擴散。美光在研究中特別點出:與HBM競爭消耗晶圓的(LP)DDR5,價格恐怕也將持續居高不下。這不是什麼複雜的經濟學——晶圓產能就那麼多,HBM把高利潤的產能吃掉了,剩下的產能分配給DDR5自然變少,供需失衡之下,價格很難有下修空間。
根據美光的研究邏輯,這個局面要出現轉機,只有一種可能:AI系統(包括軟體模型與硬體架構)對於token(符元)的處理,達到效能停止或成本停止下降的飽和點。白話文來說,就是AI模型不能再繼續「貪得無厭」地要求更多的記憶體頻寬,否則整個供應鏈會一起卡死。
但問題是,現在有哪一家AI大廠願意主動喊停?從OpenAI到Google到Meta,每一家都在拚更大規模的模型、更長的上下文長度、更即時的推論回應。這不是技術競賽而已,這背後是數千億美元的資本支出在推動——你說要停,股東先不答應。
美光在Hot Chips 2026的演說中明確指出:「AI算力每兩年成長3倍,超過HBM頻寬每年不到2倍的擴展速度,記憶體牆持續惡化。」這段話背後的潛台詞其實是——記憶體業者已經盡力了,接下來的責任在AI系統設計者身上。
物理極限:散熱問題不是靠製程就能解決的
很多人以為半導體的問題都可以靠「微縮」來解決,但在記憶體這條路上,事情沒那麼簡單。美光的研究觸及了一個很根本的物理限制:即便JEDEC已經放寬了HBM的封裝高度限制,讓堆疊層數可以繼續往上增加,但層數越多,散熱問題就越嚴重。這不是封裝技術能解決的,這是熱力學給的硬限制。
換句話說,記憶體頻寬想要繼續往上拉,光靠HBM堆疊是不夠的——你必須同時解決「怎麼把熱帶走」的問題。而這個問題,需要半導體業者、封裝廠、系統整合商三方坐下來一起想辦法,不是任何一家單打獨鬥就能突破的。
根據美光的研究結論:「除非AI的系統(軟體模型與硬體架構)對於token達到效能停止或是成本停止下降的飽和點,否則記憶體,特別是高階的記憶體用於AI訓練以及推論的HBM,在可見的未來仍然無解。」這段話我讀了三遍,每一遍都覺得後座力很強——因為它等於是在說,記憶體產業已經把能做的都做了,剩下的要看AI系統願不願意「節制」。
從35年前的80486到今天的HBM,記憶體牆從來沒有消失過,只是被一次又一次的技術創新往後推延。但美光這次的研究告訴我們:當AI的胃口大到一個程度,物理定律終究會讓你付帳單。
數據背後的啟示
美光這份研究的真正價值,不在於它揭露了問題,而在於它用數據證明了問題的規模。AI算力每兩年成長3倍,HBM頻寬每年擴展不到2倍——這兩個數字的交叉點,就是半導體產業接下來必須面對的硬天花板。
短期內,高階記憶體的供給無解是事實,但這不代表產業沒有出路。從投資角度來看,散熱解決方案、先進封裝、以及「記憶體優先」的AI晶片架構,會是接下來值得關注的幾個方向。而從系統設計的角度來看,軟硬體協同優化不再只是口號——AI模型必須開始「在意」記憶體頻寬這件事,否則再大的算力也餵不飽。
最後想問讀者一個問題:當記憶體成為AI發展的最大瓶頸,你認為接下來的突破會來自材料科學、封裝技術、還是軟體演算法的創新?歡迎在底下留言分享你的看法。
本文改寫整理自公開新聞來源,原始報導由自由時報發布。
常見問題 FAQ
什麼是記憶體牆?為什麼AI時代會讓它更嚴重?
記憶體牆是指處理器運算速度成長遠快於記憶體資料傳輸速度,導致系統效能被傳輸速率拖累的瓶頸現象。AI時代因為模型規模和訓練資料量爆炸性成長,對記憶體頻寬的需求遠超過去任何運算世代,加上AI算力每兩年成長3倍而HBM頻寬每年擴展不到2倍,讓記憶體牆加速惡化。
美光在Hot Chips 2026提出的解決方案是什麼?
美光並未提出具體的技術解決方案,而是透過研究指出問題的嚴重性。研究結論強調,除非AI系統對token的處理達到效能或成本停止下降的飽和點,否則HBM供給問題在可見未來仍然無解。這意味著解決方向必須從軟硬體協同設計著手,而非單純依賴記憶體技術升級。
HBM供給短缺會影響一般消費者的電腦記憶體價格嗎?
會的。因為HBM和一般PC使用的DDR5記憶體共用晶圓產能,當HBM吃掉大量高利潤產能時,DDR5的供給就會減少。美光研究已指出(LP)DDR5價格恐怕會持續居高不下,最終還是會反映在消費者的購買成本上。
記憶體牆問題有可能在短期內被突破嗎?
根據美光的研究結論,短期內無解。物理限制如散熱問題無法單靠製程微縮解決,需要半導體業者、封裝廠和系統整合商共同合作。最可能的路徑是AI模型架構主動配合記憶體頻寬進行調整,而不是一味要求記憶體追趕算力。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。
