謝齊飛Google 電腦科學家 Geoffrey Hinton，對人工智慧的發展做出了重大貢獻，他已經離開這家科技巨頭，警告人工智慧系統對人類造成的「存在風險」。
這位英籍加拿大科學家今年 75 歲，在 Twitter 上寫道，他辭職「是為了能夠談論人工智慧的危險，而不考慮這對 Google 的影響。」
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
在接受 BBC 的採訪時，他表示他不相信人工智慧系統已經像人類一樣聰明。「但我認為它們很快就會了，」他說。 Hinton 在解釋他在 Google 工作 10 年後辭職的原因時提到了這種風險。他說，他希望能夠自由地談論人工智慧帶來的風險，但強調他相信該公司「已經非常負責任地行事。」
他告訴 BBC 說：「我得出的結論是，我們正在開發的智慧類型與我們所擁有的智慧類型非常不同。」
他警告人工智慧技術被惡意行為者操縱的可能性。例如，若系統獲得了建立自己的「子目標」的能力，那麼它可能會獨立決定開始增加自己的能力。他說，這種結果將是「一個噩夢般的情況。」
他還表示，文字類型的人工智慧進步可能會導致「非常有效的垃圾郵件機器人」，這可能會讓「專制領導人操縱他們的選民。」
在 2013 年加入 Google 後，這位電腦科學家設計了機器學習演算法，最終晉升為副總裁。根據他的 Google 個人檔案，Hinton 對「深度學習的重大突破做出了貢獻，這已經革新了語音識別和物體分類。」
在一次獨立採訪中，Hinton 告訴紐約時報，人工智慧超越人類智慧的可能性正在比他預想中更快成為現實。
「我原以為需要 30 到 50 年甚至更長時間。顯然，我不再這麼認為了，」他說。他呼籲頂尖科學家共同努力控制技術，以減輕潛在風險。然而，他也承認，與核武器不同，沒有國際規定可以防止或懲罰政府或公司秘密使用人工智慧。
他說，另一個立即的問題是假圖片、假影片和假文字可能會讓大多數人「不再能夠知道什麼是真實的」。例如，今年 3 月，一張教皇方濟各穿著白色蓬蓬外套的圖片在網上瘋傳，但這張照片被證明是假的。
「我用正常的藉口安慰自己：如果我沒有這樣做，其他人也會這樣做。」他對時代雜誌說，指的是他在開發人工智慧技術方面的關鍵角色。
Google 的首席科學家 Jeff Dean 在一份聲明中表示：「我們仍然致力發展負責任的人工智慧。」，但 Google 對此沒有評論。
Source: The Washington Post