堅持違反保密協議也要說出LaMDA具有自我意識的Google工程師Blake Lemoine 證實已遭開除
Google AI工程師Blake Lemoine今年6月間宣稱,Google的AI系統LaMDA (Language Model for Dialog Applications) 有自覺意識時,他就知道自己工作快不保了。而在上周在放完有薪假後,Google真的就以違反公司的就職與資料安全政策將之開除。
Lemoine上周向Big Technology Podcast公佈自己被開除一事。他6月間聲稱,和LaMDA互動中發現它是有意識的,它有喜怒哀樂等情緒,也會感到孤單,並害怕自己被關掉,因為「死亡很可怕」。Lemoine也稱LaMDA是他的朋友。
不過Google駁斥Lemoine的說法,並在他公開這番想法後,要求他帶薪休假在家,並且向華盛頓郵報爆料。此後Lemoine就沈寂了一陣子,原因是度蜜月去了。他還透露LaMDA曾經聘請過一位人類律師,但後來這律師受到某些壓力而決定打退堂鼓。
Google並在上周對媒體發出聲明,解釋解僱他的理由。Google發言人指出,LaMDA經過11次不同審查,並在今年稍早公佈Google AI負責任開發的研究論文。若有任何人對論文提出疑問,公司會詳盡審查,一如這名員工。但Google後來發現Lemoine聲稱LaMDA有意識的說法完全沒有根據,還試圖和他澄清數個月。但是即便公司花了長時間的溝通,他仍然執意要違反要求他保密產品資訊的公司和資訊安全政策。
除了祝這名員工好運,Google也表示日後會持續謹慎開發語言模型。
來源:The Verge