Google 技術長暨 AI 基礎建設資深副總裁 Amin Vahdat 接任現職後首度出訪亞洲,並以台灣作為首站。在 Semicon 2026 大師論壇主題演講之後,接受媒體群訪,深入剖析當前 AI 運算架構的演進趨勢與核心技術挑戰。
Amin Vahdat 指出,人類正邁入智慧時代 (Age of Intelligence),這是一場觸及社會核心的深層變革,推動全球 AI 算力需求以每年高達 10 倍的空前速度增長。面對供電、散熱與高複雜度網路等實體物理限制,運算架構已無法僅靠漸進式改良,而必須從晶片、機架、叢集到整個資料中心進行全方位的重新構思。

效能度量與架構哲學:資料中心就是電腦
本刊提問:針對最新 TPU 每瓦效能提升 2 倍的指標,該數據是否涵蓋 HBM 、互連網路、電力轉換與冷卻系統等整體資料中心範疇?若以交付每百萬 Token 的總能耗計算,實際效益為何?
答:這項 2 倍每瓦效能的提升,絕非單看晶片本身或單一基準測試的帳面數字,而是基於交付實際工作負載時,在整個資料中心層級所衡量的端到端成果。
在計算上,我們將多種不同工作負載的效能表現進行幾何平均計算,並依據未來這些工作負載的預測普及率進行加權。這項指標完整包含了 HBM 、晶片互連、供電轉換與冷卻系統在內的整體能耗,是資料中心在實際運作時真實達成的能源效率進展。
問:AI 演算法模型幾個月就迭代一次,但硬體研發週期往往需要數年,Google 如何推動全堆疊協同設計而不被時程拖累?
答:Google 擁有涵蓋底層基礎設施到上層應用的完整能力。我們將 DeepMind 前瞻 AI 研究、超過 10 億用戶規模的 14 項核心服務,以及全球頂級雲端運算基礎設施整合在同一體系內。
我們提出「資料中心就是電腦」的概念。這代表在設計資料中心建築時,就已經掌握 TPU 的運算型態;在設計機架與供電架構時,也是完全對準晶片的運算負載量身打造。若採用通用型設計,往往會因為尋求最大公約數而犧牲效率。透過端到端的軟硬體協同設計,我們能提前 2 至 3 年預測模型架構的演進方向,並據此開發相應的硬體架構;同時,硬體設計的可行性也能反過來指引模型研究方向,實現軟硬體雙向最佳化。
生態系協作:台灣在全堆疊設計中的核心角色
問:Google 在地團隊如何與台灣科技生態系緊密合作,共同打造次世代 AI 基礎設施?
答:台灣擁有卓越的半導體實力與高密度工程人才,在 AI 生態系中扮演遠超單一晶片製造的關鍵角色。從客製化晶片、 3D 先進封裝到系統整合,許多關鍵設計與製造環節都在台灣進行。
當晶片自台積電產線產出時,Google 在地工程團隊便展開 24/7 不間斷的測試與驗證工作,確保最前期的晶片能以最快速度交付給軟體開發團隊進行功能驗證。這種緊密且即時的工程協作,是推動全球系統快速上線的核心動力。
問:除了硬體代工與晶片製造,台灣供應鏈在未來的全堆疊架構中還能發揮哪些關鍵價值?
答:台灣供應鏈早已超越單純的製造角色,深度參與從頂層到底層的端到端設計。在未來的系統演進中,雙方在機架層級架構、可製造性設計 (Design for Manufacturing, DFM) 以及高可靠度設計上皆有深度的工程協作。
特別是在高功率電源傳輸系統、動態冷卻技術與自動化製造流程上,台灣供應鏈展現了卓越的工程能力,這些都將是支撐未來 AI 算力持續擴展的重要基礎。
次世代運算:AI 代理引發的晶片分工與能源挑戰
問:隨著 AI 代理 (AI Agent) 技術興起,客製化晶片是否會朝向更高度的專用化發展?
答:硬體專用化確實是必然趨勢。當特定運算領域的市場規模與需求達到一定門檻時,打造專用硬體能帶來顯著的效能與功耗優勢,並具備高度的投資回報率。例如兩年前我們評估訓練與推論已具備足夠龐大的各自需求,因而針對這兩種運算型態進行個別最佳化。
進入 AI 代理時代後,系統需要處理極高頻率且低延遲的資料調度與工作流程編排。當前的運算瓶頸往往在於加速晶片必須等待處理器完成特定任務,因此未來針對低延遲通訊與高頻調度設計的專用運算架構將具備重要發展潛力。
問:面對 AI 基礎設施龐大的電力需求與物理極限,未來的運算架構突破方向為何?
答:在硬體架構層面,除了液冷技術之外,核心突破在於極小化資料搬移。運算本身的能耗相對較低,但將資料搬移至運算單元的代價極高。未來的創新關鍵在於縮短資料與運算核心的物理距離,並透過即時感知晶片不同區塊的運算負載進行動態散熱調節。
在能源佈局方面,Google 持續朝向 24/7 無碳能源目標邁進,並持續在台進行地熱與再生能源的投資合作。此外,透過全球分散式資料中心的調度能力與架構容錯設計,能夠在維持服務可用性的同時,提供更高彈性的電力使用效率,推動負責任且可持續的 AI 基礎設施擴展。
