吳明宜Group-IB發現，超過22萬筆含OpenAI ChatGPT用戶憑證的電腦log在暗網上售，反映AI安全挑戰增加。
ChatGPT 成為公司生產力不可或缺的一環，新加坡安全廠商 Group-IB 近日發現，包含 OpenAI ChatGPT 用戶憑證的 22.5 萬筆電腦 log 被人放上暗網論壇兜售。
這些資訊是 LummaC2 、 Raccoon 、 RadLine 等竊密程式取得 2023 年 1 月到 10 月間的用戶裝置資料。 GroupIB 發佈的最新網路犯罪趨勢統計，去年 6 到 10 月，具有 ChatGPT 存取資訊的主機，有 13 萬台被感染，這個數字比去年前面 5 個月增加 36%，竊密程式感染的主機大增帶動 ChatGPT 憑證外洩數量升高。
研究人員指出，AI 過去駭客們主要目標在以用戶憑證滲透企業網路和系統，但現在他們也看上從用戶裝置取得公開 AI 系統的憑證。他們可能利用 LLM 的腦力激盪潛力設計新的商業騙局、更具說服力的詐騙和釣魚攻擊，並提升行動效果，也可能加速偵察行動、駭客工具執行，或是撥打機器詐騙電話，藉此他們想取得裝置上具有員工和公司系統通訊紀錄的 log，以搜尋更機密的商業資訊、公司內部基礎架構、人員身份驗證資料，或是關於應用程式原始碼資訊。
不只是本項研究，微軟和 OpenAI 也分別指出，來自俄羅斯、北韓、伊朗及中國的國家駭客正在實驗以 AI 及 LLM 輔助發動更進階的攻擊行動。
這項研究也呼應 IBM X -Force 實驗室的說法，隨著遠距辦公及行動化成為主流，竊密程式的興起，配合有效帳號憑證濫用來駭入企業網路，也加重了加管理員的身份和存取管理的工作負擔。