關鍵數字：在Hot Chips大會上，OpenAI公開的代號「Jalapeño」自研AI晶片，用最直白的方式告訴世界——同樣跑三款主流模型，它的推理吞吐量比NVIDIA GB200 NVL72高出1.9倍，延遲最低降到對手的3.6分之一。這不是實驗室裡的理論值，是SemiAnalysis實測出來的。

📊 數據總覽

先看硬體規格。OpenAI以每個機櫃搭載128顆晶片的陣容部署Jalapeño，完整Pod則達到2,048顆晶片。單一機櫃的運算能力為1.7 exaFLOPS（4位元精度），配備27.5TB的HBM4記憶體，每顆封裝的記憶體頻寬高達15.4TBps。功耗方面，官方公布的額定功耗為700W，但在實際測試工作負載中，持續功耗維持在550W或更低——這意味著能效比帳面數字更好看。

OpenAI硬體產品負責人Richard Ho在大會上直接點出：「這是一款通用型、極具彈性的AI加速器。」為了證明這一點，他們用三款模型做驗證：自家的gpt-oss-120b、DeepSeek-R1和Kimi K2.5。結果顯示，這套架構不僅適用於內部模型，也同樣適用於其他開源或第三方模型。

根據半導體研究機構SemiAnalysis的InferenceX基準測試，Jalapeño系統在這三款模型上的表現如下：

• 峰值吞吐量：比競爭對手平台多出1.5倍至1.9倍的AI工作量
• 端到端延遲：低1.7倍至3.6倍
• 超低延遲情境：測試表現快上2.1倍至4.1倍

這組數據最有趣的地方在於——OpenAI是用「各種晶片公布的額定功耗」來標準化結果，而不是挑對自己最有利的測試條件。換句話說，這比較基準相對公平。

編輯觀點：Jalapeño的數據確實亮眼，但我更關注的是OpenAI在「自研晶片」這條路上的戰略思維。他們沒有因為自研晶片效能更好就急著擺脫NVIDIA，反而明確表示「不會放慢部署NVIDIA產品的腳步」。這才是真正懂半導體生態的人會做的事——自研晶片不是用來取代誰，是用來增加議價權和供給彈性。對一般企業來說，這個啟示很直接：與其想著完全自給自足，不如思考怎麼透過自研技術讓自己在供應鏈中站得更穩。當你有了替代方案，既有供應商的合作條件自然會更好談。

效能勝出，但OpenAI不打算停用NVIDIA

這裡有個弔詭但合理的矛盾。Jalapeño在推理效能上已經超越GB200 NVL72和GB300 NVL72機櫃系統，但Richard Ho的回應是：「這是我們整體運算資源策略的一部分，策略上涵蓋NVIDIA、Cerebras等非常非常出色的合作夥伴。」

背後的原因很現實。Ho進一步解釋：「我們有著相當龐大的運算需求，而我們不可能一次就全部滿足。」OpenAI的訓練和推理需求大到什麼程度？大到他們即便全力生產Jalapeño，短期內也無法填補缺口。2026年稍晚Jalapeño才會以有限數量部署在資料中心，2027年才會進一步廣泛部署——這個時間表本身就說明了產能瓶頸。

被問到是否會對外銷售時，Ho的回答更直接：「我們光是要有足夠的量都相當吃力。」這基本上排除了短期內對外供貨的可能性。

AI協助開發晶片，第二代已在路上

Jalapeño有一部分是在AI輔助下完成開發的——這是一個值得停下來思考的細節。Richard Ho指出：「我們運用AI，得以在晶片塞入更多的運算能力。」AI反過來加速了AI晶片的設計，形成一個自我強化的迴圈。

更重要的是，Jalapeño的第二代已進入深度開發階段，甚至第三代已在進行中。這代表OpenAI不是玩票性質做一顆晶片秀肌肉，而是把自研晶片當作長期基礎設施戰略的核心環節。從時間軸來看，當第二代、第三代陸續到位，運算成本的下降曲線可能會比外界預期的更陡。

數據告訴我們什麼？

從這組數據和OpenAI的布局，可以推導出幾個值得追蹤的趨勢：

第一，AI晶片競爭從「硬體規格」轉向「系統級效能」。Jalapeño的優勢不是單顆晶片算力多強，而是機櫃級、Pod級的整體系統表現。1.7 exaFLOPS和27.5TB HBM4這些數字，只有在整個系統協同工作時才有意義。

第二，推理效能將成為下一階段的主戰場。訓練晶片的故事已經講了兩年，但真正大規模應用的瓶頸在推理成本。Jalapeño在推理吞吐量和延遲上的數據，直接對應的就是「跑一次GPT要花多少錢」和「用戶等多久才得到回應」這兩個商業核心問題。

第三，2027年會是AI基礎設施格局的轉折點。當Jalapeño開始廣泛部署，加上第二代、第三代陸續到位，OpenAI在運算成本上的結構性優勢會逐漸浮現。對依賴API的開發者來說，這可能意味著更便宜的推論價格；對競爭對手來說，則代表門檻又抬高了一截。

最後一個值得思考的問題：當OpenAI同時具備頂尖的模型能力、自研晶片能力和超大規模資料中心，它還只是一家模型公司嗎？或者說，我們正在見證一家新型態半導體公司的誕生？

不管你站哪一邊，有一件事是確定的——Jalapeño只是開胃菜，主菜還在後頭。

本文改寫整理自公開新聞來源，原始報導由科技新報發布。

常見問題 FAQ

OpenAI自研晶片Jalapeño何時正式推出？

Jalapeño預計在2026年稍晚以有限數量部署在OpenAI資料中心，2027年進一步廣泛部署。

Jalapeño的推理效能真的超越NVIDIA GB200嗎？

根據SemiAnalysis的InferenceX基準測試，Jalapeño在峰值吞吐量上比NVIDIA GB200 NVL72高出1.5至1.9倍，端到端延遲低1.7至3.6倍，超低延遲情境更快上2.1至4.1倍。

OpenAI會對外銷售Jalapeño晶片嗎？

短期內不會。OpenAI硬體產品負責人Richard Ho表示，OpenAI自身的運算需求龐大，連自用產能都難以滿足，因此暫無對外銷售計畫。

Jalapeño是在AI輔助下開發的嗎？

是的，OpenAI表示部分開發過程運用AI輔助，得以在晶片中塞入更多運算能力，加速整體開發流程。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。