Google 昨 (9) 日公佈第一個專用於 AI 執行任務 Arm-based CPU,以及更強大的新版 TPU AI 晶片。
Google 自製的 Arm-based CPU 名為 Axion,將用於 Google Cloud 上 AI 應用負載,今年內將提供給雲端客戶使用。
Google Cloud 副總裁 Mark Lohmeyer 指出,Axion 晶片目前已用在 Google 自家資料中心,像是 YouTube 廣告、 Google Earth Engine 及其他服務。他說,Axion 是在開放基礎打造,客戶可以很輕鬆將應用搬移到 Axion 上,無需改寫或重新架構塵用。
《路透社》報導,Google 計畫將 Axion 用來支援多項 Google Cloud 服務,像是 Google Compute Engine 、 Google Kubernetes Engine 、 Dataproc 、 Dataflow 、 Cloud Batch 等。此外,Axion Arm-based CPU 可望效能比通用型 Arm 晶片高 30%,比 Intel 現有處理器高 50% 。
Google 也更新了 TPU AI 晶片,名為 TPU v5p,欲挑戰 Nvidia GPU 。 Lohmeyer 指出,TPU v5p 是專為訓練最大且最複雜生成式 AI 模型而設計。一顆 TPU v5p pod 包含 8,960 顆晶片,是 TPU v4 pod 的二倍有餘。
Google 的 Arm-based CPU 之前幾個月,微軟也公佈了專為 Azure 雲端基礎架構設計的自製晶片。微軟已打造訓練大型語言模型用的 AI 晶片,以及雲端 AI 工作負載的 Arm-based CPU 。同樣地,Amazon 很早就推出採用自有 CPU 的 Arm-based 伺服器服務,最新一代為 Graviton 3 。
Google 對《華爾街日報》表示,其自製晶片只會用在自有雲端服務,不會直接銷售給客戶。 Google 打造晶片的理由,應該和 Amazon 及微軟一樣都是為了減低對 Nvidia 的依賴,並且更全權掌握軟硬體設計,提高 AI 應用執行效能。
來源:The Verge
