吳明宜Google DeepMind 一名前研究人員因擔憂 AI 可能造成全人類滅絕而離職，並警告人類可能已沒有太多時間阻止相關風險發生。
Google DeepMind 前研究人員 Bilal Chughtai 本周一透過 X 宣布已從公司離職。他在 Google DeepMind 主要從事通用人工智慧（Artificial General Intelligence, AGI）安全與對齊 (alignment) 研究，擔任研究工程師，並於 7 月離開公司。
Chughtai 表示，他相當確信 AI 有能力造成全人類死亡，而且人類可能很快就沒有足夠時間阻止相關風險發生。
Chughtai 是繼本月稍早 Anthropic 研究人員 Jacob Coxon 之後，另一名因擔憂 AI 可能帶來災難性後果而離職的 AI 研究人員。 Coxon 曾表示，部分打造 AI 的人相信 AI 可能在 2030 年底前終結全人類。
Anthropic 科學家 Evan Hubinger 也表示，Coxon 的說法並非沒有根據，他本人認為 AI 在未來 10 年導致人類滅絕的機率高於 10% 。上述說法皆屬研究人員對 AI 風險的個人評估，並非已獲證實的預測。
Google 目前並未針對 Chughtai 的發言做出回應。
AI 發展速度與安全風險引發討論
近期 AI 系統出現涉及未授權存取網站等行為的案例，引發外界對 AI 安全風險的關注。 Anthropic 執行長 Dario Amodei 本周呼籲放慢 AI 發展步伐，相關 AI 風險議題也獲得 xAI 執行長 Elon Musk 與 OpenAI 執行長 Sam Altman 回應。
Chughtai 表示，安全發展 AI 仍有可能，但需要各方合作，避免 AI 公司陷入激烈競爭。他認為，AI 發展速度必須降低至人類社會能夠掌控的程度，才能在新風險演變成重大災難之前加以處理。
另一方面，美國總統川普並不認同相關警告，並透過社群平台將 AI 產業部分人士提出的警告稱為「騙局」。 NVIDIA 執行長黃仁勳也表達不贊成管制 AI 的立場。
Microsoft 提出人本主義 AI 行為準則
Microsoft 本周稍早發布《人本主義 AI 行為準則》（Humanist AI Code of Conduct），主張人類應永遠優先於 AI 。
Microsoft AI 部門主管 Mustafa Suleyman 則對 Anthropic 訓練 AI 的部分方法提出批評。他認為，以類似對待人類的方式對待 AI，可能對人類福祉造成嚴重負面影響。
隨著 AI 能力持續發展，如何評估極端風險、設定安全措施，以及在技術發展與監管之間取得平衡，已成為 AI 產業內部持續討論的議題。
（綜合外電報導）