OpenAI 自研晶片 Jalapeño 測試出爐 能效與推論表現與 NVIDIA GB300 互有高低

OpenAI於Hot Chips大會公布首款自研推論晶片Jalapeño基準測試數據,在InferenceX測試中展現出色的Token生成速度與每瓦能效,部分指標直逼NVIDIA GB300。

在 Hot Chips 大會上,OpenAI 公布首批自行研發的 Jalapeño 晶片基準測試資料,在部分推論指標上優於 NVIDIA 的 GB300 。

在 SemiAnalysis 的 InferenceX 基準測試中,Jalapeño 在每秒每位使用者 (per sec per user) 的 Token 生成表現上,優於多數 NVIDIA 頂尖 (state-of-the-art) 推論處理器。其中,在執行 DeepSeek R1 模型時,Jalapeño 取得 700 token/sec/user 的成績,在 Kimi-K2.5 及 GPT-OSS 也接近 1400 token/sec/user 。根據 SemiAnalysis 的數據,Jalapeño 在受測模型上的效能表現已可與 NVIDIA 晶片相提並論。

在吞吐效能方面,Jalapeño 展現了每瓦特 22 單位的 HBM 頻寬以及每瓦特 19.1 單位的 FLOPS 數據,雙雙超越 NVIDIA GB200 、 GB300 或更早期的產品。

SemiAnalysis 指出,Jalapeño 專為 AI 推論而非通用運算設計,因此無需盲目擴大 FLOPs,其熱設計功耗 (TDP) 僅 700W,現有表現已十分亮眼;且 Jalapeño 下一代 B0 版本已在測試中,預期效能還會再提升 25%(現有測試數據為 13.4 PFLOPs)。

不過,SemiAnalysis 也強調,將 Jalapeño 與 NVIDIA Blackwell 系列直接比對並不完全公平。首先,相關數據是 SemiAnalysis 根據 Jalapeño A0 開發原型整理而成,並未取得 OpenAI 完整數據;其次,Jalapeño 採用 HBM4,合理的比較對象應為同世代且即將出貨的 NVIDIA Vera Rubin,而 OpenAI 目前距離工程樣本產出仍需數月時間。

此外,本次測試的模型並非公開的尖端模型。 NVIDIA 與 AMD 先前已針對 DeepSeek V4 Pro 與 Kimi K3 提出使用 AgenX 的測試數據;由於模型規模愈大、測試新晶片的難度愈高,雖然 OpenAI 正在開發的大型模型規模龐大,但兩者在基準測試條件上仍存在差異。

研究機構認為,Jalapeño 這類客製化晶片在特定推論領域確實具備超越 Blackwell 的實力,SemiAnalysis 後續也將針對 OpenAI Jalapeño 與 NVIDIA Vera Rubin 進行深入比較。

OpenAI 表示,Jalapeño 能以更佳的單位能效驅動更多 AI 運算任務,並具備更快速的回應能力,可為客戶帶來更高效率、更低延遲與更低營運成本。 OpenAI 預計 Jalapeño 將於 2026 年底啟動極少量部署,並於 2027 年初逐步擴大部署至客戶端。

(綜合外電報導)

發表迴響

關於我們

自 1990 年創刊 UXmaster 雜誌,1991 年獲得美國 LAN Magazine 獨家授權中文版,2006 年獲得 CMP Network Computing 授權,2009 年合併 CMP Network Magazine 獨家授權中文版,2014 年轉型為《網路資訊》雜誌網站,為台灣中小企業協助技術領導者落實企業策略,了解網路規劃及應用,為企業網路應用、管理、 MIS 、 IT 人員必備之專業雜誌網站。


與我們聯絡

加入《網路資訊》雜誌社群

© Copyright 2025 本站版權所有,禁止任意轉載 網路資訊雜誌 / 心動傳媒股份有限公司 聯絡電話:+886 2 29432416

探索更多來自 網路資訊雜誌 的內容

立即訂閱即可持續閱讀,還能取得所有封存文章。

繼續閱讀

Secret Link