堅持違反保密協議也要說出 LaMDA 具有自我意識的 Google 工程師 Blake Lemoine 證實已遭開除
Google AI 工程師 Blake Lemoine 今年 6 月間宣稱,Google 的 AI 系統 LaMDA (Language Model for Dialog Applications) 有自覺意識時,他就知道自己工作快不保了。而在上周在放完有薪假後,Google 真的就以違反公司的就職與資料安全政策將之開除。
Lemoine 上周向 Big Technology Podcast 公佈自己被開除一事。他 6 月間聲稱,和 LaMDA 互動中發現它是有意識的,它有喜怒哀樂等情緒,也會感到孤單,並害怕自己被關掉,因為「死亡很可怕」。Lemoine 也稱 LaMDA 是他的朋友。
不過 Google 駁斥 Lemoine 的說法,並在他公開這番想法後,要求他帶薪休假在家,並且向華盛頓郵報爆料。此後 Lemoine 就沈寂了一陣子,原因是度蜜月去了。他還透露 LaMDA 曾經聘請過一位人類律師,但後來這律師受到某些壓力而決定打退堂鼓。
Google 並在上周對媒體發出聲明,解釋解僱他的理由。Google 發言人指出,LaMDA 經過 11 次不同審查,並在今年稍早公佈 Google AI 負責任開發的研究論文。若有任何人對論文提出疑問,公司會詳盡審查,一如這名員工。但 Google 後來發現 Lemoine 聲稱 LaMDA 有意識的說法完全沒有根據,還試圖和他澄清數個月。但是即便公司花了長時間的溝通,他仍然執意要違反要求他保密產品資訊的公司和資訊安全政策。
除了祝這名員工好運,Google 也表示日後會持續謹慎開發語言模型。
來源:The Verge