在 Hot Chips 大會上,OpenAI 公布首批自行研發的 Jalapeño 晶片基準測試資料,在部分推論指標上優於 NVIDIA 的 GB300 。
在 SemiAnalysis 的 InferenceX 基準測試中,Jalapeño 在每秒每位使用者 (per sec per user) 的 Token 生成表現上,優於多數 NVIDIA 頂尖 (state-of-the-art) 推論處理器。其中,在執行 DeepSeek R1 模型時,Jalapeño 取得 700 token/sec/user 的成績,在 Kimi-K2.5 及 GPT-OSS 也接近 1400 token/sec/user 。根據 SemiAnalysis 的數據,Jalapeño 在受測模型上的效能表現已可與 NVIDIA 晶片相提並論。
在吞吐效能方面,Jalapeño 展現了每瓦特 22 單位的 HBM 頻寬以及每瓦特 19.1 單位的 FLOPS 數據,雙雙超越 NVIDIA GB200 、 GB300 或更早期的產品。
SemiAnalysis 指出,Jalapeño 專為 AI 推論而非通用運算設計,因此無需盲目擴大 FLOPs,其熱設計功耗 (TDP) 僅 700W,現有表現已十分亮眼;且 Jalapeño 下一代 B0 版本已在測試中,預期效能還會再提升 25%(現有測試數據為 13.4 PFLOPs)。
不過,SemiAnalysis 也強調,將 Jalapeño 與 NVIDIA Blackwell 系列直接比對並不完全公平。首先,相關數據是 SemiAnalysis 根據 Jalapeño A0 開發原型整理而成,並未取得 OpenAI 完整數據;其次,Jalapeño 採用 HBM4,合理的比較對象應為同世代且即將出貨的 NVIDIA Vera Rubin,而 OpenAI 目前距離工程樣本產出仍需數月時間。
此外,本次測試的模型並非公開的尖端模型。 NVIDIA 與 AMD 先前已針對 DeepSeek V4 Pro 與 Kimi K3 提出使用 AgenX 的測試數據;由於模型規模愈大、測試新晶片的難度愈高,雖然 OpenAI 正在開發的大型模型規模龐大,但兩者在基準測試條件上仍存在差異。
研究機構認為,Jalapeño 這類客製化晶片在特定推論領域確實具備超越 Blackwell 的實力,SemiAnalysis 後續也將針對 OpenAI Jalapeño 與 NVIDIA Vera Rubin 進行深入比較。
OpenAI 表示,Jalapeño 能以更佳的單位能效驅動更多 AI 運算任務,並具備更快速的回應能力,可為客戶帶來更高效率、更低延遲與更低營運成本。 OpenAI 預計 Jalapeño 將於 2026 年底啟動極少量部署,並於 2027 年初逐步擴大部署至客戶端。
(綜合外電報導)
