吳明宜OpenAI宣布與Broadcom合作開發的第一款自製AI推論晶片Jalapeno，並表示該晶片已運用自家AI模型協助設計。Jalapeno鎖定降低AI推論成本，預訓練仍仰賴NVIDIA GPU，反映OpenAI持續強化自有AI基礎設施與晶片布局。
OpenAI 周三宣布，由 Broadcom 設計與製造的第一款自製 AI 推論晶片「Jalapeno」，正式對外亮相。
雙方表示，Jalapeno 也運用 OpenAI 自有 AI 模型協助設計，並依照 OpenAI 自身的推論需求打造。目前晶片整體效能仍待完整測試，但 OpenAI 表示，早期測試結果顯示，其每瓦效能優於現有高階競爭產品。
OpenAI 與 Broadcom 於去年 10 月宣布展開合作。不過，市場早已傳出 OpenAI 積極發展自製 AI 晶片，以降低對 NVIDIA GPU 的依賴。包括 Google 與 Amazon 等 AI 業者，也已投入自製晶片，以支援機器學習工作負載。
OpenAI 總裁 Greg Brockman 表示，公司持續探索 AI 仍有待突破的領域，並希望打造更適合自身需求的加速運算方案，以支援相關研究與產品發展。
OpenAI 指出，Jalapeno 是一款專為 AI 推論設計的晶片，在執行即時程式撰寫模型時，可降低運算成本。不過，在模型預訓練等高度運算密集的工作負載上，目前仍須仰賴 NVIDIA 硬體。對 OpenAI 而言，若能有效降低推論成本，將有助於改善整體營運成本與財務表現。
OpenAI 近年持續擴展 AI 產品布局，包括代理式 AI 產品 Codex 、基礎模型及自建資料中心。進一步投入自製晶片開發，有望提升軟硬體整合能力，並打造更具效率的 AI 推論平台。
根據 TechCrunch 報導，Jalapeno 是 OpenAI 推動 AI 基礎設施自主化的重要一步，也反映大型 AI 業者持續強化自有運算平台的發展趨勢。
來源: Techcrunch