OpenAI 執行長暨創辦人 Sam Altman 上周證實,該公司目前並沒在訓練 GPT-4 的下一代模型 GPT-5 。
Altman 上周參加麻省理工學院一場活動中,在被問題兩周前一群業界大佬聯署的公開信時做出回應。該公開信以 AI 對人類社會帶來負面影響,要求 OpenAI 等實驗室暫緩開發比 GPT-4 更先進的 AI 系統,包括特斯拉 CEO 馬斯克(Elon Musk)、蘋果共同創辦人 Steve Wozinak 等人都加入聯署。當時許多科技業者對所謂的 AI 威脅(是已存在或想像的),以及產業要如何「暫停」研發都有不同意見。另外,深度學習的重量級科學家吳恩達 (Andrew Ng) 及 Yann LeCun 相信,延後 AI 研究的知識和科學進程來防止它的潛在危害,只是因噎廢食,是新一代的愚民政策,無法讓科技更安全、更好,反而更危險。
Altman 表示,這公開信並未說明該暫停哪些技術,並且表示,OpenAI 之前說正在開發的 GPT-5,已經沒在開發,也會持續好一陣子。
但他說,OpenAI 暫停不研發 GPT-5 並不表示該公司不會擴張 GPT-4 的能力,他特別表示,這有其安全意義,他們在現有 GPT-4 基礎強化,以解決有必要解決的安全問題,也是公開信沒有觸及的部份。
不過 Altman 的保證並不能提供什麼安全保證。 OpenAI 現在沒有開發 GPT-5,但並未說明 GPT 停下哪些部份,因為 GPT-4 原本能做什麼、做不到什麼,外界根本無從所知。而且如 Altman 所說,它的能力仍在增強。其他實驗室也未停下腳步,也會改善 GPT-4 。 OpenAI 可能不久後推出推出更強大的 GPT4.5,這會使 Altman 的宣稱並不能真正讓我們相信,AI 能減緩朝向更危險或更強大的境界發展的速度。
來源:The Verge
