受到市場競爭愈來愈激烈的影響,OpenAI 競爭者 Anthropic 本周發表最新對話模型 Claude 2.1 版,每 token 收費降價,對想把對話式 AI 導入到營運環境的企業是一大好消息。
Claude 2.1 版提供許多攸關企業營運的功能,包括業界最領先的 200K token 的 context window 、降低模型幻覺、新增系統提示。 Anthropic 並且宣佈 Claude 2.1 降價。
降低錯誤資訊是大型 AI 的追求
新版模型 Context window 達 20K token,超越 OpenAI GPT-4 的 12.8K 。 Anthropic 表示,新模型比起前一代可降低錯誤資訊的機率,旨在避免給錯答案及承認不確定性,寧願表達遲疑,也不給不正確的答案。業者表示,新版給錯答案的機率比前代減少 30%,且錯誤為沒事實根據的說法背書的情形也大幅降低。
Claude 2.1 另一特點是使用了新工具,並可整合 API 。這個新功能讓新模型可用外部資源,像是計算機、資料庫甚至網頁搜尋,以便更有效回應查詢。它也能整合到使用者技術堆疊中,實現多種強大應用。
Claude 2.1 還加入系統提示,允許使用者其設定要求的特定情境,可確保模型更結構化也更一致。此外,Claude 2.1 也調降價格,為輸入提示每百萬 token 8 美元,輸出提示每百萬 token 24 美元,以便讓更多企業得以一睹生成式 AI 的威力。
至於 Anthropic 為何降價,原因除了 OpenAI 、 Amazon 、 Google 等皆推出生成 AI 模型,另一衝擊來自開原碼 AI 模型。
OthersideAI CEO 暨共同創辦人 Matt Shumer 指出,原因在於更多業者加入市場,除了 DeepMind 對封閉式 LLM 業者如 OpenAI 及 Anthropic 造成降價壓力外,他相信開原碼模型如 Mistral 及 Poro 加速高階 AI 加速普及,也讓企業有更多選擇而不致被綁死在單一平台上。
而且利用開原碼的模型,企業也得以客製化 AI 應用,以更符合應用情境及獨特的使用需求,這使得成本比起一般性的封閉 API 大幅降低。 Shumer 說,如果你的成本能降低 10 倍、 20 倍,何樂而不為?而且能全權掌握 AI 堆疊,對尋求競爭優勢的企業來說可是一大亮點。
由上述可知,開原碼模型對封閉式 AI 業者形成的壓力不言可喻。不過,雖然降價有助於維持他們在價格敏感,及精於技術的企業心目中的吸引力,但像 Anthropic 這類封閉式 AI 業者必須在價格平易性及企業獲利之間保持微妙平衡。
來源: Venturebeat 、 InfoQ
