DeepLearning 創辦人與 Meta 首席 AI 科學家公開反對暫停 AI 開發 直言 AI 利多於弊

人工智慧 (AI) 兩名研究先驅上周對馬斯克等人呼籲暫停開發進階 AI 系統訴求，表達反對意見。

DeepLearning.AI 創辦人吳恩達 (Andrew Ng)、Meta 首席 AI 科學家 Yann LeCun 上周在一場名為《論停止開發 AI 6 個月為何不是好主意？》的線上討論中，公開反對由馬斯克、蘋果共同創辦人 Steve Wozinak、DeepLearning 研究人員呼籲暫停 AI 界開發比 OpenAI GPT-4 更進階的 AI 系統至少 6 個月，以聯合政府及立法機構制訂管理規範，以免 AI 模型開發競賽產生人類無法理解、控制，甚至被取代的 AI 系統。

LeCun 及吳恩達認為，如果政府真的制訂並實施規範，反而真正引發傷害。

他們說，限制發展 AI 研究的理由之一，是擔心 AI 會取代或毁滅人類。但 Yann 指出，應該很少人相信這類想像，或是認為這種威脅無法避免。其他擔憂，像是取代人類工作、散播假消息、充滿種族仇恨的言論比較合理，他也同意需要管控。但他認為，未來 AI 系統設計方式應該已和現在自我回歸 (autogressive) 的大型語言模型如 ChatGPT 和 GPT-4，或其他較古早系統如 Galactica 或 Bard 等大不相同，因此未來新 AI 系統應該會更容易控制。

他們認為，暫停開發或部署 AI 模型，是不切實際的想法。兩位學者同意，一定程度的規範有其必要，但不應犠牲研究和創新。LeCun 指出，他完全同意今天的 AI 的確有偏見、公平性、權力集中的風險，但不能否認 AI 也帶來很多好處，生成性 AI 在教學或醫學、或互動式教練等可以有許多令人興奮的應用。如果產品有問題，他完全支持讓人類有效規範產品，但為此延後知識和科學進程只是因噎廢食，是新一代的愚民政策，無法讓科技更安全、更好。

此外，他認為，限制比 GPT-4 進階的 AI 也不合理。今天我們覺得 GPT-4 很厲害，產生精妙的文字創作，或幫使用者做重點摘要、寫小說等，因此以 GPT-4 為基礎開發的 AI 系統才能有更大效益，幫助更多人。

來源：VentureBeat