吳明宜馬斯克 (Elon Musk) 、蘋果共同創辦人等多位科技界重量人士、電腦科學家本周發出公開信，對 AI 風險表達隱憂，呼籲 AI 龍頭研發單位暫停開發比 GPT-4 進階的 AI 系統至少 6 個月，並建立 AI 規範及治理框架。
這份公開信是由非營利機構 Future of Life 研究院發出，集結馬斯克、蘋果共同創辦人 Steve Wozniak 、 Stability AI 公司執行長 Emad Mostaque，以及《Sapiens》作者 Yuval Noah Harari 等人簽署，呼籲立即停止訓練至少 6 個月，且需包含知名 AI 關鍵人物、暫停行動也需公開、透明可驗證。
這份公開信提及，近月來各 AI 實驗室競爭發展及部署 AI 已到失控地步，具備幾近人類智能的 AI 可能對社會和人類文明帶來重大風險，像是假訊息、取代人類工作、超越人類甚至控制人類文明。
不久前 OpenAI 正式公佈火紅的 ChatGPT 的底層大型語言模型 GPT-4 。 OpenAI 表示，新版 GPT-4 可處理更複雜的任務，產生更精妙的文字，錯誤也更少。
此外，公開信呼籲，暫停期間，AI 界應和專家共同發展安全規範，以開發精確、安全、可解釋、一致化及可信任的 AI 系統，且經過外部專家嚴格稽核。公開信同時要求，AI 介應與立法機關合作加速建立 AI 治理系統，系統包括成立專門主管機關、開發 AI 監管及追蹤工具、稽核與認證系統、識別 AI 合成內容及追蹤模型外洩的浮水印技術，並投入支持 AI 安全研究、建立 AI 傷害究責、處理 AI 政經破壞的負責單位。
馬斯克曾是 OpenAI 的共同創辦人，2018 年因特斯拉因投入發展 AI 機器人，為利益迴避而退出 OpenAI 。他多次警告，快速發展而未經測試的 AI 可能傷害人類社會。
OpenAI 並未回應這份公開信，但該公司承認有必要確保比人類更聰明的 AI 系統要為人管理、為人類福祉服務，有必要在訓練未來系統之前經過獨立審核，並且限制運算資源用於訓練新模型。
來源：CNET