AWS在台亮相AI工具與服務 協助客戶自建AI模型與生成式AI工具

當OpenAI、Google、微軟、Meta推出各種生成式AI (Generative AI)工具時，AWS以過去開發Alexa、EC2的經驗為基礎，推出自己的生成式AI工具與服務。

與OpenAI直接推出ChatGPT的模式不同，AWS以自己訓練的LLM（大型語言模型），稱之為Amazon Titan基礎模型(Foundation Models)，搭配自家的Amazon EC2 Trn1n與Inf2執行個體，可快速訓練客戶自有的AI模型，建立自己的生成式AI工具。

AWS宣布推出AI服務與執行個體

AWS台灣暨香港專業架構師團隊總監楊仲豪表示，AWS宣布推出的Amazon Bedrock託管服務，允許用戶透過API存取來自AI21 Labs、Anthropic、Stability AI和亞馬遜新推出的Amazon Titan基礎模型，「我們希望透過一個Serverless無伺服器的架構，讓客戶能夠將自己客製化的資料餵給模型來產生自有的內容。」

EC2這邊也針對AI建模與推理的需求，推出專用的Amazone EC2 Trn1n與Inf2執行個體。楊仲豪表示：「Amazon一直專注於成本最佳化，也發展出自家的AI晶片， 但對於大型語言模型來說，最大的瓶頸卻是交換資料的網路，最耗費成本也是在推理階段的工作，因此AWS EC2 Inf2執行個體的推出，效能價格比高出EC2 Inf1達40%，可協助新創公司的AI模型產出資料時，大幅度節省成本。」

而另一個針對開發人員設計的AI程式助手－Amazon CodeWhisperer也正式免費開放給個人使用者，平均可協助開發人員節省57%的開發時間，也能夠檢視原始碼中是否潛藏已知的安全漏洞。楊仲豪表示：「Amazon CodeWhisperer已內建學習許多攻擊樣態，以及開放原始碼中的存放庫。當CodeWhisperer發現開發者的原始碼中有未盡完善之處，將會提出警告及修正建議。甚至若原始碼中有任何程式碼片段與現有的開放原始碼『高度相似』時，CodeWhisperer也會提出警示，協助開發者避開版權爭議。」

AI加速音樂創作

目前台灣的AI應用新創公司KKLab科科實驗，宣布利用AWS建置LLM應用，可產生文字創作與歌詞建議的AI助手：Lyricist.ai靈魂寫手，以及KKLab AI音樂旋律生成技術，協助音樂人能快速進行商業歌曲的創作，甚至能夠將長達數天的創作過程縮短至數小時完成。

知名音樂製作人華風數位總經理陶逸群Tower表示，創作這件事情非常吃「靈感」與「老本」，靈感是天分，老本是過去對各種知識領域的瞭解程度。「但針對過去不熟悉的領域來進行創作，其實是滿困難的。但透過KKLab的AI工具，過去需要來回討論兩天時間才能定案的歌詞，現在可以縮短到三個小時，從AI產生的歌詞當中來挑選修改即可，讓創作者能精準的找到想要的東西。」

楊仲豪也談到生成式AI在土耳其大地震期間，協助當地的非營利組織，快速將打進求救中心的電話內容，快速轉成文字轉送給負責的單位，讓救助單位快速整合求救者的位置與需求等等，加快救助的速度。「而這些都是客戶使用自己的AI模型，加上AWS的AWS Titan基礎模型後，發展出各種客製化應用所帶來的效用。」