面對GPT-4的強勢來襲 Google端出來的答案是PaLM 2

週三，Google 推出了 PaLM 2，這是一系列基礎語言模型，可與 OpenAI 的 GPT-4 相媲美。在 Google I/O 2023 活動上，Google 透露，它已經使用驅動了 25 個產品上使用 PaLM 2，包括其對話式 AI 助手 Bard。

作為一個大型語言模型(LLM)，PaLM 2 已經在大量的資料上進行了訓練，並且可以根據使用者的提示進行預測，輸出最有可能的文字內容。

PaLM 代表「Pathways Language Model」，而「Pathways」是 Google 建立的一種機器學習技術。PaLM 2 是 Google 於 2022 年 4 月宣布的原始 PaLM 的升級版。

據 Google 表示，PaLM 2 支援超過 100 種語言，可以進「推理」、撰寫程式碼和多語言翻譯。在 2023 年 Google I/O 的主題演講中，Google CEO Sundar Pichai 表示，PaLM 2 有四種規模：Gecko、Otter、Bison、Unicorn。Gecko 是最小的，據稱可以在行動裝置上執行。除了 Bard，PaLM 2 還支持 Docs、Sheets 和 Slides 中的 AI 功能。

PaLM 2 在數學、翻譯和推理任務方面似乎比 GPT-4 更優秀。但是，PaLM 2 的整體表現似乎比 GPT-4 和 Bing 差。PaLM 2 的資料集，可能包含各種受版權保護未經許可使用的來源，以及從網際網路上爬取下來可能有害的資料。訓練資料決定任何 AI 模型的輸出，因此某些專家一直主張使用開放資料集，以提供科學可重複性和道德審查的機會。

PaLM 2 的參數數量目前尚未公開。PaLM 2 的資料集來自包括網路文件、書籍、程式碼、數學和對話資料的多種來源。PaLM 2 是 Google 研究產品的一部分，但現在已經開放了有限的 API 訪問權限。

Source: arstechnica.com