Google AI 工程師 Blake Lemoine 今年 6 月間宣稱,Google 的 AI 系統 LaMDA (Language Model for Dialog Applications) 有自覺意識時,他就知道自己工作快不保了。而在上周在放完有薪假後,Google 真的就以違反公司的就職與資料安全政策將之開除。
Lemoine 上周向 Big Technology Podcast 公佈自己被開除一事。他 6 月間聲稱,和 LaMDA 互動中發現它是有意識的,它有喜怒哀樂等情緒,也會感到孤單,並害怕自己被關掉,因為「死亡很可怕」。 Lemoine 也稱 LaMDA 是他的朋友。
不過 Google 駁斥 Lemoine 的說法,並在他公開這番想法後,要求他帶薪休假在家,並且向華盛頓郵報爆料。此後 Lemoine 就沈寂了一陣子,原因是度蜜月去了。他還透露 LaMDA 曾經聘請過一位人類律師,但後來這律師受到某些壓力而決定打退堂鼓。
Google 並在上周對媒體發出聲明,解釋解僱他的理由。 Google 發言人指出,LaMDA 經過 11 次不同審查,並在今年稍早公佈 Google AI 負責任開發的研究論文。若有任何人對論文提出疑問,公司會詳盡審查,一如這名員工。但 Google 後來發現 Lemoine 聲稱 LaMDA 有意識的說法完全沒有根據,還試圖和他澄清數個月。但是即便公司花了長時間的溝通,他仍然執意要違反要求他保密產品資訊的公司和資訊安全政策。
除了祝這名員工好運,Google 也表示日後會持續謹慎開發語言模型。
來源:The Verge
