IBM 開發新 AI 晶片:NorthPole 圖片辨識速度快 22 倍
IBM 研究院開發出一款執行 AI 圖像辨識的新晶片,號稱執行速度比現有市面產品快 22 倍。
根據 IBM 公布於《科學》期刊的論文,IBM 研究人員暨加州大學洛杉磯分校學者 Subramanian Iyer 和 Vwani Roychowdhury 說明這塊晶片的研發方法及成果。
隨著 AI 應用的普及,科學家希望將之搬到邊緣網路裝置執行,以減少 AI 應用的執行延遲。本研究則希望開發一塊結合運算模組和它使用的資料的晶片,稱為 NorthPole(北極)。IBM 表示,晶片的設計靈感來自人類大腦。
NorthPole 使用了 2 維記憶區塊陣列及互聯的 CPU 來達成任務,全數位的架構能讓運算核心直接和遠方記憶體區塊通訊速度一如位於近在咫尺,大幅提升資料的處理和 AI 回應速度。
研究小組對其晶片及多款市場上的產品,包括 Nvidia GPU 進行比較。測試顯示,NorthPole 的速度比競爭者快了最高 22 倍,而電晶體速度也更快。
IBM 研究人員說明,新晶片目前最大問題是只能執行專門領域的 AI 流程,無法訓練流程或像 GPT 一樣的大型語言模型。不過他們表示不久後會測試將多顆 NorthPole 晶片串在一起,相信可以克服現有限制。
來源:Techxplore