Arm 推動代理式 AI 運算延伸至邊緣與實體世界 同步更新行動、雲端與機器人生態系

Arm指出代理式AI帶動CPU與系統頻寬需求上升,運算負載也因成本、隱私與延遲考量,從雲端延伸至邊緣與實體AI應用。Arm同步更新資料中心Neoverse CSS N4與商用AGI CPU、行動平台CSS for Mobile 2,並推動Total Design生態系與機器人能力分級框架。

代理式 AI(Agentic AI) 帶動運算架構需求改變。隨著 AI 從單純模型推論走向可自主採取行動的工作流程,AI 代理開始更頻繁地呼叫工具、存取資料庫、進行多步驟推理,並協調其他代理執行任務,使 CPU 即時回應能力與資料傳輸頻寬的重要性上升。

在 token 成本、資料隱私與網路延遲等考量下,這類運算負載也逐步從雲端資料中心延伸到終端邊緣裝置,並進一步走向具備感知、決策與行動能力的實體 AI(Physical AI) 應用。

Arm 表示,將同步更新三大平台:資料中心的 Neoverse CSS N4 運算子系統與商用 Arm AGI CPU 、行動裝置的第二代行動裝置運算子系統 (CSS for Mobile 2),以及匯聚超過 80 家夥伴的 Arm 實體 AI 全面設計 (Arm Total Design for Physical AI) 生態系倡議與機器人能力分級框架 (Robotics Capability Framework) 。

Arm 同步更新 CSS for Mobile 2 、 Arm Total Design for Physical AI 與 Neoverse CSS N4,串聯邊緣、實體與雲端 AI 運算布局。(圖片來源:Arm 簡報/影片截圖)

代理式 AI 改變運算負載 推動 CPU 與系統頻寬需求

Arm 行銷長 Ami Badani 指出,相較於單純跑模型,代理式 AI 的背景工作包含工具呼叫、資料庫存取、資訊檢索、協調其他代理與任務管理,主要負載落在 CPU 。當代理長時間運作,網路、儲存與運算節點也會承受更高頻率的存取壓力。

針對市場關注 Arm 自有晶片與授權客戶的定位差異,Arm 雲端 AI 行銷副總裁 Eddie Ramirez 表示,Arm 同時提供運算子系統 (CSS) 與商用 Arm AGI CPU,讓客戶依需求選擇。部分雲端服務供應商為了快速擴展運算規模,傾向採用商用晶片;也有合作夥伴持續投入客製化系統單晶片 (SoC) 開發。 Arm 希望透過共通底層平台與軟體生態系,同時支援自研與商用兩條路線。

雲端基礎架構:Neoverse CSS N4 與 AGI CPU 提供多元晶片途徑

在雲端與資料中心領域,Arm 發表全新 Neoverse CSS N4 運算子系統,並稱其為迄今可配置彈性最高的運算子系統。 Neoverse CSS N4 每個 die 最多可搭載 128 個核心,支援 LPDDR6 記憶體與 PCIe Gen 7 連接介面。相較於前代 Neoverse CSS N3,運算效能最高可達 2 倍、每瓦效能提升至 1.25 倍,記憶體頻寬亦增加至 1.75 倍,主打以更高運算密度與高速 I/O,支援大規模資料傳輸與並行運算需求。

Neoverse CSS N4 每顆晶粒最高支援 128 核心;相較 CSS N3,插槽效能最高達 2 倍、每瓦效能 1.25 倍、記憶體頻寬 1.75 倍。(圖片來源:Arm 簡報/影片截圖)

Eddie Ramirez 補充,Neoverse CSS N4 採用 Neoverse N4 CPU,支援機密運算架構 (Confidential Compute Architecture v2) 與 FP8 等 AI 資料型別,並整合新一代 Coherent Mesh Interface 以提供更高的記憶體頻寬,同時支援用於小晶片 (Chiplet) 設計的 AMBA CHI 介面。晶圓製造方面,CSS N4 的設計節點涵蓋台積電 N3 與 N3P 製程,並支援 N2 製程,同時亦納入三星 SF2 與 SF2P 等先進製程節點。

Arm 也點名 OpenAI 、 Meta 、 Cloudflare 、 Oracle 、 SAP 、 Lenovo 、 Supermicro 與字節跳動旗下的火山引擎等企業,表示已展開以 Arm AGI CPU 為基礎的相關解決方案建構與部署。

邊緣行動平台:CSS for Mobile 2 整合神經圖像與 C2 CPU 叢集

在終端行動裝置方面,Arm 推出第二代行動裝置運算子系統 (CSS for Mobile 2),主打在智慧型手機功耗與散熱限制下,支援代理式 AI 與神經圖像等運算需求。

CSS for Mobile 2 首度導入搭載專用神經網路加速器的 Mali G2-Ultra NX GPU,將神經網路運算與傳統圖像處理整合於同一管線中,使神經圖像每瓦效能最高提升 4 倍,並支援神經超取樣 (Neural Super Sampling, NSS) 與神經超取樣及去雜訊 (Neural Super Sampling and Denoising, NSSD) 等技術;在既有遊戲內容的傳統渲染效能上,亦較前一代提升最高 14% 。

在 CPU 部分,平台配備 Arm C2 CPU 叢集,整合 C2-Ultra 與 C2-Pro 核心,並搭載第二代可擴充矩陣延伸指令集 (Scalable Matrix Extension 2, SME2) 。相較前代 C1-Ultra,C2-Ultra 的 AI 效能提升 1.7 倍,單執行緒效能提升 15%,同等效能下功耗最高降低 38%,執行小型語言模型 (SLM) 的速度亦提升 70% 。

Arm 邊緣 AI 產品管理副總裁 James McNiven 表示,C2 CPU 叢集依晶片設計夥伴需求,最高可配置 2 組 SME2 單元,推論算力約落於 5 至 7TOPS 區間;Mali G2-Ultra NX GPU 的神經網路加速器則聚焦卷積神經網路 (CNN) 與張量運算,基本配置為 6 組加速單元,算力通常介於 10 至 20TOPS 之間,並可隨核心數量與頻率配置提升至 50TOPS 以上,整體設計維持在 1 至 2 瓦的功耗預算內。製程支援上,Arm 內部參考設計以台積電 N2 為基準,並保留移植至其他晶圓代工廠與製程節點的彈性。

實體 AI 生態系:啟動 Total Design 計畫並倡議機器人能力分級

Arm 執行副總裁 Drew Henry 將實體 AI 定義為具備實體形態、能夠感知周遭環境、進行決策並在實體世界安全行動的智慧機器,應用涵蓋農業、採礦、製造、交通與物流等產業。根據 Arm 內部估算,實體 AI 在 2030 年代可望形成每年超過 2,000 億美元的運算市場機會。 Arm 也指出,相較於數位資訊領域,實體 AI 在工程設計上面臨更嚴苛的延遲與重量限制,要求感知到致動的即時反應與輕量化運算系統。

Arm 也宣布推出「Arm 實體 AI 全面設計 (Arm Total Design for Physical AI)」生態系倡議,匯聚超過 80 家橫跨軟體堆疊、 AI 模型、感測器、運算硬體與數位孿生領域的合作夥伴,包括 AWS 、 ECARX 、 Hugging Face 、恩智浦半導體 (NXP) 、西門子 (Siemens) 與 QNX 等企業。針對市場詢問 Hugging Face 近期變動對合作的影響,Arm 雲端 AI 產品解決方案副總裁 Dermot O’Driscoll 表示,Hugging Face 仍是重要的開發者平台,雙方合作持續推進,目前不預期合作關係產生變化。

Arm 首席架構師 Richard Grisenthwaite 也提出「機器人能力分級框架 (Robotics Capability Framework)」,借鑒汽車自駕 SAE 分級標準,嘗試建立描述機器人能力層級的共同語言,將實際應用場景與系統的延遲、功耗、確定性及安全需求相互連結。 Arm 雲端 AI 產品解決方案副總裁 Dermot O’Driscoll 表示,Arm 希望邀集全球機器人開發團隊與社群共同參與,透過開放協作逐步完善產業共通標準。

關於我們

自 1990 年創刊 UXmaster 雜誌,1991 年獲得美國 LAN Magazine 獨家授權中文版,2006 年獲得 CMP Network Computing 授權,2009 年合併 CMP Network Magazine 獨家授權中文版,2014 年轉型為《網路資訊》雜誌網站,為台灣中小企業協助技術領導者落實企業策略,了解網路規劃及應用,為企業網路應用、管理、 MIS 、 IT 人員必備之專業雜誌網站。


與我們聯絡

加入《網路資訊》雜誌社群

© Copyright 2025 本站版權所有,禁止任意轉載 網路資訊雜誌 / 心動傳媒股份有限公司 聯絡電話:+886 2 29432416

探索更多來自 網路資訊雜誌 的內容

立即訂閱即可持續閱讀,還能取得所有封存文章。

繼續閱讀

Secret Link