吳明宜AI 模型與程式代管平台 HuggingFace 公告，上周遭到駭客利用自主 AI 代理人系統攻擊其營運環境，存取部分憑證及內部資料集。 HuggingFace 表示，目前未發現使用者資料或公開模型受到影響，但仍建議使用者盡快輪換存取憑證，並留意帳號近期活動。
攻擊源自惡意資料集濫用兩項程式執行機制
根據 HuggingFace 說明，事件起因於約兩周前，有攻擊者上傳惡意資料集，濫用平台兩個程式執行路徑，包括遠端程式碼資料集載入器，以及資料集設定中的範本注入機制，藉此在處理工作者（Worker）環境執行惡意程式碼。
攻擊者進一步提升至節點層級的存取權限，取得雲端與叢集憑證，並於上周末橫向移動至多個內部叢集。
自主 AI 代理人執行數千項攻擊行為
HuggingFace 指出，這起事件是由自主 AI 代理人發動。該代理人在多個短時沙箱環境中執行數千項行動，並於公開服務建立可自主搬移的命令與控制（Command and Control, C2）伺服器。
目前已知該代理人建構於安全研究架構之上，但官方尚未確認其採用的大型語言模型 (LLM) 種類。
官方完成修補並加強監控機制
HuggingFace 表示，事件發生後已修補兩項遭濫用的程式執行路徑，刪除受影響叢集並重建節點，同時註銷及輪換相關憑證與權杖，並預防性輪換大量其他憑證。
此外，該公司也導入新的安全防護措施與更嚴格的存取控管，並改善高風險頁面的偵測與警示機制，希望將事件回應時間由原本可能需數周，縮短至數分鐘內完成告警與處置。
初步調查未發現模型及供應鏈遭竄改
根據初步調查結果，HuggingFace 表示，目前沒有發現對外公開的模型、資料集及 Spaces 工作空間遭到竄改，軟體供應鏈亦未受到影響。
不過，官方仍建議社群使用者主動輪換存取憑證，並檢查帳號近期活動是否異常。目前 HuggingFace 正與外部資安專家合作持續調查事件，也已向執法機關通報。
調查過程凸顯第三方 LLM 分析限制
HuggingFace 也分享此次事件調查的經驗。官方表示，這起攻擊最初是由平台採用的外部雲端 AI 技術協助發現，但在進一步分析系統紀錄 (Log) 時，由於所使用的 LLM 受到服務供應商安全護欄限制，無法上傳大量攻擊指標、惡意程式與相關物件，因此無法完成攻擊流量分析。
最終，團隊改採開原模型 GLM 5.2，於自有基礎架構上完成分析工作。
HuggingFace 認為，此次事件顯示，在自有基礎架構部署功能完整的大型語言模型，有助於避免敏感資料受第三方平台限制或外流風險，也能提升資安事件調查與分析能力。
來源：HuggingFace