AWS 在台亮相 AI 工具與服務 協助客戶自建 AI 模型與生成式 AI 工具

當 OpenAI 、 Google 、微軟、 Meta 推出各種生成式 AI (Generative AI) 工具時，AWS 以過去開發 Alexa 、 EC2 的經驗為基礎，推出自己的生成式 AI 工具與服務。

與 OpenAI 直接推出 ChatGPT 的模式不同，AWS 以自己訓練的 LLM（大型語言模型），稱之為 Amazon Titan 基礎模型 (Foundation Models)，搭配自家的 Amazon EC2 Trn1n 與 Inf2 執行個體，可快速訓練客戶自有的 AI 模型，建立自己的生成式 AI 工具。

AWS 宣布推出 AI 服務與執行個體

AWS 台灣暨香港專業架構師團隊總監楊仲豪表示，AWS 宣布推出的 Amazon Bedrock 託管服務，允許用戶透過 API 存取來自 AI21 Labs 、 Anthropic 、 Stability AI 和亞馬遜新推出的 Amazon Titan 基礎模型，「我們希望透過一個 Serverless 無伺服器的架構，讓客戶能夠將自己客製化的資料餵給模型來產生自有的內容。」

EC2 這邊也針對 AI 建模與推理的需求，推出專用的 Amazone EC2 Trn1n 與 Inf2 執行個體。楊仲豪表示：「Amazon 一直專注於成本最佳化，也發展出自家的 AI 晶片， 但對於大型語言模型來說，最大的瓶頸卻是交換資料的網路，最耗費成本也是在推理階段的工作，因此 AWS EC2 Inf2 執行個體的推出，效能價格比高出 EC2 Inf1 達 40%，可協助新創公司的 AI 模型產出資料時，大幅度節省成本。」

而另一個針對開發人員設計的 AI 程式助手－Amazon CodeWhisperer 也正式免費開放給個人使用者，平均可協助開發人員節省 57% 的開發時間，也能夠檢視原始碼中是否潛藏已知的安全漏洞。楊仲豪表示：「Amazon CodeWhisperer 已內建學習許多攻擊樣態，以及開放原始碼中的存放庫。當 CodeWhisperer 發現開發者的原始碼中有未盡完善之處，將會提出警告及修正建議。甚至若原始碼中有任何程式碼片段與現有的開放原始碼『高度相似』時，CodeWhisperer 也會提出警示，協助開發者避開版權爭議。」

AI 加速音樂創作

目前台灣的 AI 應用新創公司 KKLab 科科實驗，宣布利用 AWS 建置 LLM 應用，可產生文字創作與歌詞建議的 AI 助手：Lyricist.ai 靈魂寫手，以及 KKLab AI 音樂旋律生成技術，協助音樂人能快速進行商業歌曲的創作，甚至能夠將長達數天的創作過程縮短至數小時完成。

知名音樂製作人華風數位總經理陶逸群 Tower 表示，創作這件事情非常吃「靈感」與「老本」，靈感是天分，老本是過去對各種知識領域的瞭解程度。「但針對過去不熟悉的領域來進行創作，其實是滿困難的。但透過 KKLab 的 AI 工具，過去需要來回討論兩天時間才能定案的歌詞，現在可以縮短到三個小時，從 AI 產生的歌詞當中來挑選修改即可，讓創作者能精準的找到想要的東西。」

楊仲豪也談到生成式 AI 在土耳其大地震期間，協助當地的非營利組織，快速將打進求救中心的電話內容，快速轉成文字轉送給負責的單位，讓救助單位快速整合求救者的位置與需求等等，加快救助的速度。「而這些都是客戶使用自己的 AI 模型，加上 AWS 的 AWS Titan 基礎模型後，發展出各種客製化應用所帶來的效用。」