AWS推出EC2 P4d執行個體服務 以NVIDIA A100 GPU進行AI運算

Amazon Web Service (AWS)本周宣佈針對高效能及機器學習作業而設計以GPU為基礎的運算執行個體服務正式上線，此外也宣布多款強大的AI系統，支援資料中心及邊緣運算，包括號稱現今市面最強大的AI系統。

c

AWS資料中心暨雲端平台產品管理總監Paresh Kharya指出，現今企業用戶需要原有Volta AI架構3000倍的運算力來訓練最大的AI模型，但這些客戶對不同類型的AI應用，也需要能隨時調整的運算效能。

他說，由於資料中心軟、硬體形形色色，此類資料中心幾乎不可能最佳化到展現高效率。為此Nvidia設計了A100，這款新晶片不只能大幅提升效能，也將AI訓練及推論(inference)加速整合在單一架構中。它還能大幅擴充資料中心，包括向上擴充以支援AI訓練及資料分析，或是橫向擴充以執行AI推論。

A100 Ampere晶片是Nvidia製造最大的GPU，包含540億顆電晶體，它還內含第三代Tensor核心，並可加速稀疏矩陣(sparse matrix)運算，這特別有助於AI推論及訓練。每顆GPU都能切成多個執行個體以執行不同推論任務。此外，Nvidia的NVLink 互連技術也意謂可以用多顆A100 GPU做更大型AI 訓練作業。

市面最強大的AI系統

目前A100 GPU已經可出貨，Nvidia也展示內建該GPU的第三代整合式AI系統。這套系統包含8顆A100 GPU，共提供320 gigabytes記憶體，Nvidia宣稱是目前業界最強大的AI系統，可提供高達5 petaflops 運算效能，可將整個資料中心的效能集中到單一平台上。

拜A100的多執行個體功能，DGX A100平台也可以處理多個小型AI作業，切割成56個執行個體。

DGX A100平台 A100平台要價20萬美元，Nvidia指出第一家客戶是美國能源部的阿拉貢（Argonne）實驗室，它希望能用更強的AI和運算效能協助推動COVID-19的研究。另一家客戶則是甲骨文，後者將以這款GPU來驅動Oracle Cloud Infrastructure平台，以支援鑽油探勘和DNA定序等高效能運算任務。

Nvidia新的融合加速器產品EGX A100也搭載A100 GPU，後者將在今年稍晚上市，可用作邊緣感測器的資料串流的即時運算。此外還有信用卡大小的單晶片EGX Jetson Xavier NX微邊緣(micro-edge)伺服器，宣稱是最強大、但最小的微伺服器。

Nvidia同時宣佈BMW集團已經採用Nvidia Isaac機器人平台，將AI機器人導入汽車工廠中，計畫未來推向全球各地工廠。該平台也是以Ampere A100 GPU為底層，用於推動BMW工廠作業以加速車輛的客製化生產。

來源：Silicon Angle