AI 攻擊升級三大威脅 TrendAI 警示企業注意治理盲區

趨勢科技推新資安品牌,警告人工智慧遭濫用成攻擊利器,深偽、嵌入式惡軟與提示詞注入威脅企業,推閘道與掃描等防護。

「在 AI 時代的競爭關鍵,不在於誰擁有最完整的資安工具,而在於誰能最快理解風險、做出決策。」趨勢科技台灣暨香港區總經理洪偉淦表示,當企業積極擁抱 AI 浪潮的同時,駭客也正以 AI 為武器重塑攻擊模式,傳統以工具與規則為核心的資安架構,已不足以應對新世代的威脅。

趨勢科技日前推出全新企業資安品牌 TrendAI,原有的 Trend Micro 品牌仍會持續存在。 TrendAI 則是專屬於企業事業群的全新識別,象徵未來資安防護的對象與底層架構都將圍繞 AI 重新設計。「我們在去年做這個決定,因為未來要保護的東西,是基於 AI 為底層來進行保護。」洪偉淦指出,這項調整不只是品牌識別,更代表趨勢科技全力擁抱 AI 的決心。

TrendAI 旗下調查也呼應市場觀察。 74% 的台灣受訪企業決策者坦言,過去曾在高層要求或市場競爭壓力下,被迫核准可能帶來資安風險的 AI 方案;但僅有 49%IT 決策者與 42% 業務決策者認為內部團隊能辨識惡意或異常的 AI 行為,顯示台灣企業正面臨「盲目導入 AI」的高度風險。

左起為趨勢科技台灣暨香港區總經理洪偉淦、 TrendAI 威脅研究總監 Ryan Flores

內容生成武器化 駭客 10 美元複製整條詐騙鏈

TrendAI 威脅研究總監 Ryan Flores 分享了三大正在升級中的 AI 威脅。他指出,AI 讓網路犯罪走向低成本、低門檻且可大規模複製的新模式,攻擊者不需親手撰寫程式碼,便能透過大型語言模型 (Large Language Model, LLM) 與 AI 代理,將整條詐騙攻擊鏈自動化。

根據 TrendAI 觀察,攻擊者可以不到 10 美元的成本,自動生成大量看似可信的文字、影像與敘事內容,進一步用於釣魚詐騙、變臉詐騙 (Business Email Compromise, BEC),甚至影響特定事件的輿論走向。 Ryan Flores 以亞馬遜平台上充斥的 AI 生成假評論,以及國際輿論場上針對特定立場批量產製的假新聞為例,說明大型語言模型已成為假資訊與假消息宣傳活動的關鍵工具。

北韓駭客以深偽應徵 身分偽造挑戰企業信任機制

第二類威脅是身分偽造的進化。 Ryan Flores 指出,深偽 (Deepfake) 技術的成本快速下降、品質持續提升,已使企業招募與信任機制面臨嚴峻挑戰。

TrendAI 追蹤到一起北韓駭客組織的滲透行動:攻擊者利用竊取而來的 LinkedIn 、 GitHub 等公開資料,搭配大型語言模型與深偽技術,偽裝成遠距 IT 工作者應聘,並在視訊面試中以深偽影像即時應對,甚至透過 ChatGPT 補足北韓人不熟悉的西方文化問答,以避免身分曝光。一旦受聘成功,攻擊者便進行橫向移動、蒐集機敏資訊,部分案例中還會植入竊密軟體並發動勒索攻擊。

更值得警覺的是,駭客甚至會自行設立「假公司」,以反向釣魚手法發布假職缺、面試真實求職者,並誘騙其下載含有虛擬桌面與資訊竊取程式的「應徵套件」,進一步竊取個資、劫持真實帳號,作為下一波「假求職、真攻擊」的完美掩護。「現在的深偽技術的品質雖然糟糕,」Ryan Flores 強調,「它只會持續變得更好,而且成本越來越低。」

LameHug 惡意軟體內嵌 LLM Prompt Injection 成新跳板

第三類威脅來自 AI 原生攻擊工具與 AI 系統本身遭到濫用。 Ryan Flores 點名俄羅斯駭客組織 APT28(又名 FancyBear)近期針對烏克蘭使用的惡意軟體 LameHug,其特殊之處在於將大型語言模型直接嵌入程式內部,由 LLM 協助執行檔案蒐集與資料外洩任務。 LameHug 表面上偽裝成 AI 圖像生成應用,實則在背景搜刮 PDF 、 Word 與文字檔案,再透過模型運算動態產生外洩流程。這樣的設計讓單一惡意軟體能跨越 Windows 、 Mac 與 Linux 多重作業系統的限制,使威脅迅速擴散。

Ryan Flores 進一步指出,現行 MITRE ATT&CK 框架中已有相當高比例的戰術技術可由 AI 輔助自動化執行,從目標偵察、漏洞分析到橫向移動,AI 都能擔任攻擊者的副駕駛角色。

另一個更隱蔽的風險,則是企業內部 AI 系統遭到提示詞注入 (Prompt Injection) 攻擊。 Ryan Flores 以客服場景為例,當企業以 AI 協助處理客服信件時,攻擊者只需寄出一封內含隱藏指令的電子郵件,AI 系統在讀取信件時若無法精準分辨常規文字與惡意指令的邊界,便可能被誘導偏離原本任務、解鎖內部資料庫,甚至進一步攻擊企業核心系統。「沒有執行任何檔案,只輸入了指示,但若過濾條件過於寬鬆,就會發生這樣的情況。」Ryan Flores 指出,這是一類全新型態的威脅,企業必須重新思考如何保護 AI 應用系統。

AI Gateway 與 Model Scanner 不額外消耗客戶 Token

針對防禦端,洪偉淦補充說明,TrendAI 已推出 AI Gateway 方案,定位類似 Proxy,所有送往大型語言模型的提示詞都會經過該層檢查,攔截惡意指令;反向也能在敏感資訊或個資外流時提供阻擋與提示。除此之外,TrendAI 亦提供 Model Scanner,針對模型本身進行弱點掃描,協助企業掌握模型內建風險。

對於市場關注的 Token 成本問題,洪偉淦明確表示,AI Gateway 不會額外消耗客戶端的 Token,企業無須擔心因部署資安防護而多付一筆模型費用,並可依需求選擇地端 (On-premise) 或雲端 (Online) 版本。

AESIR 平台主動挖洞 已通報 NVIDIA 共 8 個 CVE

TrendAI 也持續以 AI 強化研究端能量。 Ryan Flores 介紹自家「AI Centric Vulnerability Research」平台 AESIR,能協助研究團隊探索漏洞,並評估其可利用性與潛在影響力。 AESIR 上線後,已在現有軟體中找出超過 60 個漏洞,並基於該平台向 NVIDIA 通報 8 個 CVE,研究範圍亦涵蓋 Tencent 以及多項 MCP 相關漏洞,協助業界補強 AI 生態系的安全性。

Ryan Flores 也提到,TrendAI 與 Anthropic 展開合作,針對大型語言模型進行安全測試與責任揭露;同時與美國網路安全與基礎設施安全局 (CISA) 、國際刑警組織 (Interpol) 等政府與執法單位協作,希望透過產業、政府、 AI 企業多方協力,建立更安全的 AI 生態系。

6 成台灣企業憂資安跟不上 AI 治理框架成競爭關鍵

雖然 AI 威脅持續升級,但企業擁抱 AI 的腳步並未放緩。 TrendAI 2026 global AI study 顯示,63%IT 決策者與 60% 業務決策者擔憂 AI 發展過於迅速、資安難以跟上;51%IT 決策者與 59% 業務決策者已著手起草 AI 治理框架。企業安全採用 AI 的最大障礙,則集中在內部資安與資料專業能力有限(70%IT 決策者、 49% 業務決策者)、現行缺乏清楚的法規與合規標準(55%IT 決策者、 37% 業務決策者),以及內部文化對改變的抵抗(38%IT 決策者、 40% 業務決策者)。

Ryan Flores 呼籲,面對 AI 時代的威脅,企業應建立完善的安全機制與治理框架,並導入智慧的資安事件管理 (Security Information and Event Management, SIEM) 方案,將碎片化資料轉化為一致語言,加速跨系統判斷與決策效率。

發表迴響

關於我們

自 1990 年創刊 UXmaster 雜誌,1991 年獲得美國 LAN Magazine 獨家授權中文版,2006 年獲得 CMP Network Computing 授權,2009 年合併 CMP Network Magazine 獨家授權中文版,2014 年轉型為《網路資訊》雜誌網站,為台灣中小企業協助技術領導者落實企業策略,了解網路規劃及應用,為企業網路應用、管理、 MIS 、 IT 人員必備之專業雜誌網站。


與我們聯絡

加入《網路資訊》雜誌社群

© Copyright 2025 本站版權所有,禁止任意轉載 網路資訊雜誌 / 心動傳媒股份有限公司 聯絡電話:+886 2 29432416

探索更多來自 網路資訊雜誌 的內容

立即訂閱即可持續閱讀,還能取得所有封存文章。

Continue reading

Secret Link