代理式 AI 推升推論與 CPU 需求 英特爾以 GPU D 系列與 Diamond Rapids 布局資料中心
Xeon 6+最多288個E-core,Diamond Rapids最多256個P-core

英特爾針對代理式AI推論需求推出Intel GPU D系列,採Xe3P架構、350瓦氣冷PCIe卡設計,最高支援480GB LPDDR5x;下一代Diamond Rapids則採Intel 18A-P製程,最多256個P-core,支援AVX10.2與PCIe Gen6等功能。英特爾並說明18A-P與Xeon互連架構規劃。

代理式 AI 正在改變資料中心的運算需求。英特爾推出專為大規模 AI 推論打造的 Intel GPU D 系列(代號 Crescent Island),以及運算核心採用 Intel 18A-P 製程的下一代 Intel Xeon 處理器(代號 Diamond Rapids),分別鎖定推論成本與代理式 AI 的協調運算。英特爾也說明 18A-P 製程的效益,以及 Xeon 處理器的核心數與互連架構規劃。

英特爾業務暨行銷事業群商用業務總監鄭智成說明代理式 AI 帶動的資料中心需求

開放權重模型與代理式 AI 帶動需求

英特爾業務暨行銷事業群商用業務總監鄭智成指出,AI 發展可分為生成式 AI 、代理式 AI 到實體 AI 三個階段。他表示,資料中心 CPU 在短短一年內便出現缺貨;「CPU 變成比較重要不代表 GPU 不重要」,模型訓練仍需要 GPU 算力,原有的 GPU 需求不會消失。

鄭智成引用 OpenRouter 統計指出,2026 年 7 月至 9 月,開放權重模型的採用量大幅提升。原因包括 token 成本越來越高、隱私考量,以及開放權重模型的能力持續進步,運算重心也隨之從訓練轉向推論。他表示,從 2025 年至 2026 年,企業使用的代理數量增加近三倍,每個代理發出的請求數量也大幅增加。

AI 工作負載同時對系統延遲、記憶體與傳輸量帶來壓力。鄭智成說明,英特爾的產品線從用戶端內建的 Arc 顯示晶片、 Panther Lake 內建的 Xe3 架構顯示核心,到資料中心的 GPU D 系列;需要更大規模與更低延遲的客戶,則可選擇以整櫃形式提供的 SambaNova SN50 方案。

GPU D 系列:氣冷 PCIe 卡執行大規模推論

Intel GPU D 系列採用 Xe3P 架構,配置 32 個 Xe3P 核心、 256 個 XMX 矩陣引擎與 16 層深度的脈動陣列 (systolic array),FP8 運算效能為 1311 TFLOPS,MXFP4 則達 2622 TFLOPS 。記憶體方面,GPU D 系列最高支援 480GB LPDDR5x,記憶體頻寬為 1.5TB/s,並具備 32MB L2 快取;每個 Xe 核心另有 512KB 的 L1 快取/共享區域記憶體。產品功耗為 350 瓦,採用氣冷 PCIe 卡設計,首款 SKU 為 D270 。

Intel GPU D 系列以 350 瓦氣冷 PCIe 卡提供最高 480GB LPDDR5x 記憶體

鄭智成說明,英特爾公版卡配置 160GB 記憶體,合作夥伴可依客戶需求設計最高 480GB 的 ODM 版本。由於功耗為 350 瓦,資料中心不一定要導入水冷散熱。英特爾也與開放運算計畫 (Open Compute Project, OCP) 推動開放轉接卡 (Open Adapter Card, OAC) 規格,促進機構、電氣與管理層面的互通性;GPU D 系列本身採標準 PCIe 外形,可整合至符合供電、散熱與空間條件的既有伺服器。

GPU D 系列針對大型語言模型、高工作負載與並行推論服務設計。單張 GPU 卡可支援多達 3,000 億個參數的模型,搭載八張 GPU 的系統可支援超過 1 兆個參數的模型,適用於多租戶 AI 服務、機器人與其他對延遲敏感的工作負載。英特爾的規劃涵蓋單卡、八卡伺服器到 80 卡機櫃,可對應 GPT-OSS-20B 到 Kimi K3 等不同規模的模型。

鄭智成表示,GPU D 系列推出時即具備 Day 0 支援;他平常展示時以 MXFP4 四位元浮點格式執行 20B 模型,品質相當不錯。企業可將開放權重模型用於代理、多模態影片問答、代理式程式撰寫,以及知識工作者的日常任務。

鄭智成指出,Xe3P 與 Xe3 雖然只差一個字母,效能差異卻相當大。 Xe3P 除支援既有的 INT4 等格式外,新增 FP8 、 FP4 與 Microscaling(MX) 格式,並強化矩陣運算能力,同時保留多數推論卡不具備的全速 FP64 運算,資料格式涵蓋 FP4 到 FP64 。

Xe3P 架構可用於 PC 、資料中心、邊緣與工作站。 GPU D 系列採用標準 PCIe 規格、氣冷設計與共通的 Xe 軟體基礎,客戶無須建置專用機櫃或特殊冷卻設施即可擴大推論規模;同一套模型也能在 Xe3 的 Panther Lake 與 GPU D 系列之間執行。

GPU D 系列目前已開始提供客戶樣品。針對 160GB 記憶體對中小企業負擔偏高的提問,鄭智成表示,160GB 是英特爾公版 D270 系列中最高階的 SKU,後續預計會有約三個 SKU,粗估可能推出 128GB 與 96GB 的記憶體版本。

Diamond Rapids:fan-out 互連與 256 核心

在 CPU 方面,英特爾將 Xeon 分為兩條路線:Xeon 6+最多提供 288 個 E-core,主打高密度核心的傳輸量與效率;下一代 Diamond Rapids 最多提供 256 個 P-core,主打單執行緒效能。鄭智成說明,英特爾在 2026 年 Computex 發表 Xeon 6+,2027 年將推出 256 核心的產品。

代理式 AI 推升推論與 CPU 需求 英特爾以 GPU D 系列與 Diamond Rapids 布局資料中心
Xeon 6+最多 288 個 E-core,Diamond Rapids 最多 256 個 P-core

Xeon 的核心互連架構從早期的 ring 、 mesh,歷經 tiled mesh 、 modular mesh,以及 Xeon 6+(Clearwater Forest) 的 3D mesh,演進到 Diamond Rapids 的 fan-out fabric 。 Diamond Rapids 由四個運算模組 (Compute Building Block, CBB) 組成,I/O 與記憶體則集中在中間的 Fabric Hub,結合可擴充的運算模組、統一記憶體互連架構與彈性 I/O 。

Diamond Rapids 以 fan-out fabric 連接四個運算模組,I/O 與記憶體集中在 Fabric Hub

規格方面,Diamond Rapids 的末級快取 (Last-level Cache, LLC) 合計最高 1.28GB,最多 256 個核心;記憶體通道由目前的 8 與 12 個增加為 16 個,支援 DDR5 8000MT/s 與 MRDIMM 12800MT/s,記憶體頻寬達 1.6TB/s 。 I/O 提供 128 條支援 PCIe Gen6 、 CXL 3.0 與 UPI 3 的通道,另有 8 條 PCIe Gen4 通道,I/O 雙向頻寬最高 2TB/s 。

Diamond Rapids 最多 256 個核心,支援 16 通道記憶體與 128 條 PCIe Gen6 通道

AI 與安全功能方面,Diamond Rapids 支援進階矩陣擴充 (Advanced Matrix Extensions, AMX) 與 AVX10.2 指令集,並強化 FP8 、 FP16 與 BF16 等 AI 運算能力。英特爾也加入進階效能擴充 (Advanced Performance Extensions, APX),以加速下一代 AI 應用;安全與加速功能則包括 TDX 、 TDX Connect 、 SGX 、 QAT 、 DSA 與 IAA 。

製程與封裝上,Diamond Rapids 的 2 個 Fabric Hub 晶片塊採用 Intel 3 製程,16 個核心小晶片採用 Intel 18A-P 製程,4 個基礎晶片塊採用 Intel 3-T 製程,並以 Foveros Direct 3D 混合鍵合與 UCIe-S 16G 基板銅互連串接。

18A-P 製程與後續規劃

英特爾的 Intel 18A 製程自 2025 年底開始量產,2026 年初推出第一款 18A 產品 Panther Lake,之後再推出 Panther Lake H 系列,Core 系列 3 同樣採用 18A 。下一步則是 18A-P,Diamond Rapids 的運算核心即採用這個製程。

鄭智成指出,與 18A 相比,18A-P 在相同效能下可節省 18% 的電力,在相同功耗下則可提升 9% 的效能;熱阻可降低 20% 至 40%,導孔 (via) 電阻降低 10% 至 30%,製程偏移角落 (skew corners) 收斂 33% 。 18A-P 也新增介於 ULVT 與 LVT 之間的第五種邏輯電晶體臨界電壓選項,並提供 PowerBoost 雙接點低電阻選項。

他表示,Diamond Rapids 將以 18A-P 製程、 256 核心與新架構提升效率,並加強 AI 支援、模組化設計與先進封裝,安全功能也會持續精進。

Intel 18A-P 相較 18A,相同效能下功耗降低 18%,相同功耗下效能提升 9%

顯示架構方面,英特爾的 Xe3P 路線圖也包含下一代 PC 產品。被問及相關規劃時,英特爾表示無法揭露代號,但下一代桌上型電腦與筆記型電腦版本的 IP 也會具備本機所需的媒體功能。

Leave a Reply

Your email address will not be published. Required fields are marked *

關於我們

自 1990 年創刊 UXmaster 雜誌,1991 年獲得美國 LAN Magazine 獨家授權中文版,2006 年獲得 CMP Network Computing 授權,2009 年合併 CMP Network Magazine 獨家授權中文版,2014 年轉型為《網路資訊》雜誌網站,為台灣中小企業協助技術領導者落實企業策略,了解網路規劃及應用,為企業網路應用、管理、 MIS 、 IT 人員必備之專業雜誌網站。


與我們聯絡

加入《網路資訊》雜誌社群

© Copyright 2025 本站版權所有,禁止任意轉載 網路資訊雜誌 / 心動傳媒股份有限公司 聯絡電話:+886 2 29432416

Secret Link