AWS 公佈 AI 模型平台 Bedrock 與生成式 AI 工具 用戶可安心打造自己的 AI 模型

Amazon Web Services (AWS) 上周宣佈新 API 平台名為 Bedrock，它代管由最優秀的 AI 新創公司包括 AI21 Labs、Anthropic 和 Stability AI 開發的 AI 模型。此外 AWS 也公佈開發 AI 模型的執行個體及協同開發工具。

近日生成性 AI 欣欣向榮，各大實驗室競相開發能生成文字和圖片的強大 AI 模型。由新秀 OpenAI 及 Midjourney 開發的商業工具已贏得數千萬用戶喜愛，迫使科技巨擘們得急起直追。

相較於微軟和 Google 將生成性 AI 聊天機器人加入自有搜尋和生產力套件，Amazon 的策略較為中立，是在它雲端平台上提供最新模型。這對合作的新創業者而言是雙贏。開發人員會付費透過 API 使用其 AI 基礎模型來訓練自己專屬的 AI 模型及開發 AI 應用，再付費給 AWS 以便使用訓練 AI 模型所需的運算資源。

Amazon Bedrock 目前提供處理和生成文字的大型語言模型，包括 AI21 Labs 的 Jurassic-2、Anthropic 的 Claude、Stability AI 的文字轉圖片模型，包括 Stable Diffusion。AWS 也發表了自有基礎模型品牌 Titan，包括 2 個模型。

在 Bedrock 的 API 平台上，開發人員可以打造針對特定應用的生成性 AI 模型，並用自己標註過的範例來客製、微調模型。Amazon 還補充，這種過程不會使用客戶個資，所有資料都經過加密，也會在客戶的虛擬私有雲 (Virtual Private Cloud, VPC) 下發生，可確保資料隱私和安全。

Amazon 也介紹了自家特製 AI 晶片，AWS Trainium 及 Inferentia 2，可讓客戶在雲端執行個體中訓練和執行模型。新推出的 EC2 執行個體名為 Trn1 使用 Trainium 晶片，AWS 說，和過去的 EC2 執行個體相比，開發人員最多可以省下 50% 的訓練成本。

Trn1 執行個體經過最佳化，旨在將 AI 模型訓練分散到多台伺服器，並提供 1600 Gbps 的網路頻寬。客戶也可以選擇超級叢集，最多可充到 3 萬 Trainium 晶片，將運算量提高到超過 6 exaflops

最後，Amazon 也免費開放 AI 結對開發工具 CodeWhisper 給個人用戶。CodeWhisper 除了支援 Python、Java、JavaScript、TypeScript 和 C#外，現在也支援 10 種新開發語言，包括 Go、Kotlin、Rust、PHP、SQL 等。

AWS 宣稱，CodeWhisper 現在是為 AWS 服務包括 Amazon EC2、AWS Lambda、Amazon S3 等產生程式碼最精準、快速和安全的方法。

來源：The Register