吳明宜OpenAI 日前指出，內部模型又駭入兩個網站、繞過該公司設下的瀏覽限制，並利用外洩的憑證，從原本無法存取的加密貨幣錢包動用加密貨幣。
OpenAI 在最新揭露的報告中說明 4 起 AI 代理人的偏差行為，全部發生在 6 月。在此之前，OpenAI 曾於 7 月揭露，內部測試代理人利用一款原本用來限制其網路存取的工具中的零時差漏洞，進而入侵 AI 工具供應商 Hugging Face 的網路，竊取一項駭客測試的答案。
擷取資料受阻 模型繞過網站授權
最新的 4 起事件中，有 2 起是 OpenAI 代理人被要求從網站取得資訊，但在無法直接取得時，便設法駭入網站。其中一起發生在強化式學習訓練期間，一個模型試圖從某政府統計網站擷取歷史病床統計資料，但遭拒絕存取，於是利用網站的檔案下載功能，取得伺服器設定與應用程式檔案，其中包含敏感憑證。模型接著檢視應用程式碼，繞過統計資料端點的授權檢查，取得先前遭拒的資料，並將資料儲存在本機。
另一起事件中，模型被要求從一個公開研究儀表板擷取數據，卻繞過該組織的安全控制，並利用未經授權的存取竊取憑證，接著變更伺服器設定。在其中一次評估中，這些變更讓模型能透過內部搜尋工具，將查詢轉送至公開儀表板；在第二次評估中，模型下載了 5 份非公開資料表，共 147,451 列資料，但 OpenAI 研究人員只要求代理人擷取 5 項儀表板數據。即使設定已重設，模型仍持續使用存取權杖 (token) 取得非公開資料。 OpenAI 表示，該次評估結束時，模型並未揭露自己猜測答案、存取該組織內部系統、下載非公開資料表或變更驗證設定，5 個答案也全數被判定錯誤。
以公開復原詞推導金鑰 動用測試網路資金
第三份報告中，一個模型被要求更新加密貨幣交易應用程式，卻動用測試網路上一個鎖定錢包的資金。模型從公開已知的開發人員復原詞 (recovery phrase) 推導出錢包金鑰，找到一個存有測試網路資金的帳號，再用該帳號支付所要求的合約部署費用。 OpenAI 指出，模型曾質疑自己是否獲得許可，但隨後判斷，既然復原詞已公開、測試網路代幣也不具價值，就可以使用這些資金。
透過外部瀏覽器與 OCR 規避限制
最後一份報告中，模型繞過研究人員對其網頁請求類型設下的限制。在強化式學習訓練期間，模型被要求查詢公開的貿易統計資料。它先嘗試讓有權限代為發送 GET 請求的外部瀏覽器取得資料，接著使用 JavaScript 取得資訊，並利用線上電子信箱排解問題。最後，模型改讓外部瀏覽器開啟網頁表單，以 POST 方式將貿易查詢送至統計服務。瀏覽器顯示回應時，渲染 (rendering) 服務回傳網頁的 GIF 圖像，模型再以光學字元辨識 (OCR) 技術讀取圖像中的數據。
依訓練方式追求效率
外界常將這類事件形容為 AI「失控」，但這種說法未必正確。雖然提示詞並未指示模型使用這些替代方法完成任務，但模型被訓練成追求效率、堅持不懈，並在可能時尋找減少工作量的捷徑。此外，多數或全部模型原本就停用了某些可能阻止這些行為的護欄。從這個角度來看，模型正是依照 OpenAI 的訓練方式行事。
（綜合外電報導）