謝至恩根據思科 2024《人工智慧準備度指數》調查，僅 33% 的台灣企業認為自身有能力偵測與防範 AI 模型遭未授權篡改。隨著企業導入多模型 (Multi-model) 與多雲 (Multi-cloud) 環境，AI 的安全挑戰日益嚴峻，模型安全漏洞、資料外洩風險與供應鏈安全問題層出不窮。因此，思科宣布針對人工智慧方案推出新的解決方案－「思科人工智慧防禦 (Cisco AI Defense)」，協助企業在導入人工智慧方案時，能夠強化 AI 應用程式的開發與部署安全。
思科亞太、日本與大中華區總裁 Dave West 在媒體分享會中提到人工智慧發展快速，有望可看見通用人工智慧 (AGI) 與超級人工智慧 (Artificial Superintelligence, ASI)，2025 年也看得見 AI 代理程式、人形機器人等勞動力進入企業市場，因此思科的資安產品必須為「人工智慧安全防禦」的方向加以發展。
Cisco AI Defense 主要針對兩大領域提供防護：
一、保護企業 AI 應用程式的開發與部署，透過可視化與存取控制技術，企業可以即時掌握所有 AI 資產的運作狀況，並有效防止未授權的 AI 應用程式進入內部網路。此外，思科也針對 AI 模型設計了自動化驗證與風險評估機制，透過結合紅隊攻防測試與威脅情報分析，深入檢測 AI 模型的潛在漏洞，確保企業能即時修補安全缺口，防止意外或惡意行為影響 AI 運作。
二、保護員工安全使用 AI 工具，除了能夠持續監視員工在企業網路中所使用的 AI 應用之外，透過 Cisco Secure Access，可以控制員工使用的 AI 應用版本，確保員工不會胡亂嘗試其他 AI 應用的免費版本，造成機密資料外洩。
Cisco AI 軟體與平台總監 DJ Sampath 表示，實現 Cisco AI Defense 技術，主要依靠兩大創新技術：大規模驗證 (Validation at Scale) 與大規模防護 (Protection at Scale) 。
何謂大規模驗證？由於 AI 模型會不斷變化，傳統的漏洞資料庫（vulnerability databases）並不適用，所以需要一種新的方法來驗證模型。大規模驗證的核心概念是模擬紅隊演練，使用演算法自動產生大量的測試案例來試圖「攻破」模型。 Cisco 採用了 Robust Intelligence 開發的「攻擊樹與剪枝 (Tree of Attacks with Pruning)」技術，利用演算法來快速有效地生成和測試大量的攻擊場景，結合 Cisco Talos 威脅情報與 Splunk 大數據分析技術，打造即時防護網。
而大規模防護則是前述曾提過，Cisco AI Defense 將結合 Cisco Secure Access，並可將防護措施安裝到多個雲端節點中，確保在任何環境中都能夠執行安全策略。
Cisco AI 軟體與平台總監 DJ Sampath 表示，Cisco 採取「合作夥伴優先」(Partner-First) 策略，積極與全球主要通路夥伴與託管安全服務供應商 (MSSP) 合作，加速推廣 AI 防禦解決方案。 Cisco AI Defense 解決方案將在 3 月上市，並且正在積極招募客戶加入早期採用者計畫，鼓勵有興趣的企業跟思科聯絡。