編輯部高通技術公司和 Meta 正攜手致力於最佳化 Meta 的 Llama 2 大型語言模型，可直接在行動裝置上執行，不再只能依賴雲端服務運作。能夠在智慧型手機、 PC 、 VR/AR 頭戴式裝置和汽車等裝置上執行如 Llama 2 這類的生成式 AI 模型，將能讓開發人員節省雲端成本，同時為使用者提供保護隱私、更可靠且個人化的體驗。
因此，高通技術公司計劃實現基於 Llama 2 的裝置上 AI 部署，以支援打造令人期待的全新 AI 應用。這將讓客戶、合作夥伴和開發人員能建構如虛擬智慧助理、生產力應用程式、內容創造工具、娛樂等使用案例。這些搭載 Snapdragon 的全新裝置上 AI 體驗，可在沒有連網的地區、甚至是飛航模式中運行。
高通技術公司資深副總裁暨技術、規劃和邊緣解決方案業務總經理 Durga Malladi 表示：「我們讚賞 Meta 在 AI 技術上採取開放和負責的策略。高通技術公司致力於推動創新，透過將生成式 AI 導入裝置，將為各種規模的開發人員降低入門的門檻。為了將生成式 AI 有效地規模化擴展至主流市場，AI 需要同時能在雲端與如智慧型手機、筆記型電腦、汽車和物聯網裝置等邊緣裝置上運行。」
Meta 和高通技術公司長期合作，共同推動技術創新，提供新一代的頂級裝置體驗。兩家公司目前攜手支援 Llama 生態系，範圍橫跨研究和產品工程工作。藉由裝置上 AI 的領先地位，高通技術公司在支援 Llama 生態系方面獨具優勢。該公司在邊緣裝置具有無可比擬的布局——全球數十億的智慧型手機、汽車、 XR 頭戴式裝置和眼鏡、 PC 、物聯網等裝置，皆搭載高通領先業界的 AI 硬體和軟體解決方案——為生成式 AI 帶來規模化擴展的機會。
高通技術公司規劃將於 2024 年開始在搭載 Snapdragon 平台的裝置上支援基於 Llama 2 的 AI 部署。開發人員自今日開始便可使用高通 AI 疊層針對裝置上 AI 進行應用最佳化。高通 AI 疊層是一套可在 Snapdragon 平台上更有效地處理 AI 的專用的工具，即使在輕薄小巧的裝置上也可支援裝置上 AI 。