ACLU報告:不受限制的人工智慧將成為濫權者幫兇

影片分析還會對社會產生寒蟬效應。如果人們覺得他們一舉一動被人監視,行為就會改變,此外,也可能造成小事化大,使警方對少數或弱勢族群更不利。

現在企業和政府機關已經普遍運用監控攝影機,但美國民權自由聯盟 (American Civil Liberties Union, ACLU) 周四公佈《機器人監控的時代到來》 (The Dawn of Robot Surveillance) 報告指出,科技的進展將使此類科技全面進化到新的境界。

其中尤以人工智慧將大幅提升監控的威力,使攝影機主人得以辨識出「不尋常」的行為和動作,像是親吻、擁抱,輕鬆找出足以令人臉紅的影片,猜測出影中人的年紀,甚至其性格。

ACLU資深政策分析師暨報告作者Jay Stanley說:「我們的世界即將佈滿AI警衛,他們位於這些攝影機鏡頭後,有意識地監控我們、對我們做出決策、緊著我們的一言一行。」

AI能完成人類做不完或做不到的工作

根據各種報告,全美已經安裝了上千萬台監視攝影機。雖然這種東西存在幾十年了,但以前攝影機不會無時無刻監控你,然後拍攝的影片也不會被拿去分門別類紀錄下來。連習於枯燥文件的美國司法部法官也曾說過,這類影片「枯燥無聊令人想睡」,看個20分鐘後就會分心。

但是近年出現稱為影片分析(video analytics)的科技,能提升讀取影像效率,使每一秒鐘的影像都能分析。ACLU報告指出,從影片片段不間斷分析的能力,可讓自駕車得以理解其周遭環境、讓零售商店能追蹤產品存貨或銷售狀況,讓醫護人員能完善監護病患。這類科技還能用來監控大量人口的行為與日常行動。

但ACLU指出,AI技術也可能有不好的用途。像是政客可能想要他的政敵公開接吻的影片,也公佈影片中所有人物身份。或是保險公司透過影片知道客戶跑步的速度藉此設定費率。此外,警長可以根據影片中爛醉如泥走在街上的人的走路姿勢、講話語調或其他特徵過濾出可能的黑名單。

專長在電腦視覺及機器學習的哥倫比亞大學資訊系教授Carl Vondrick指出,影片分析的好處及安全疑慮其實是一體的兩面。

分析師估計影片分析的市場產值高達每年30億美金,未來幾年內還會大幅增長。受惠廠商包括名不見經傳的小公司,或是家喻戶曉的大公司如亞馬遜、思科、Honeywell、IBM及微軟等。

最近IBM在一場零售業會議上展示它的影片分析軟體可用來計算顧客人流,即時估算顧客年齡及忠誠度。這套軟體根據顧客排隊的長度、辨識出穿過人群的高階經理人,並標出在店門外流連的人們。

亞馬遜2016年推出的Rekognition服務據說能辨識和追蹤人、認出明星名人、偵測物體和讀取文字(該公司還企圖要把這套技術賣給警方來抓壞人,近日還引發爭議)。而Google原本也和五角大厦有個名為Project Maven的合作專案,可以AI理解影像及照片,據稱能增加無人機攻擊的準確性),不過員工抗議後,Google已經不再續約。

影片分析有何能耐?

ACLU報告指出,影片分析廠商號稱有多種能力,包括偵測物品遺失或掉落、分析人的方向、步伐或運動速度、甚至當有個人進、出某個空間,另一個衝進去又是什麼企圖。另一些廠商說他們的服務可提供人口學資訊(年齡、性別、種族等)或辨認衣服等物體。

廠商也會訓練軟體來辨識人的各種行為,像是使用電話、握手、擊打東西、喝啤酒以及向某個東西走進或離開它(Amazon宣稱它的Rekognition已經可以辨識人吹熄蠟燭和滅火的動作)。

ACLU報告指出,訓練軟體來辨識「異常現象」頗值得討論,因為某個人可能行為特殊、和別人不同而被糾出來,另一個是情感辨識,雖然廠商宣稱可以從臉部肌肉來察覺人的情緒,但人類的情感表達是否舉世皆然,或用臉部肌肉就能判斷還都還沒定論。

未來技術愈成熟後,使用者就可用關鍵字,像是「紅色車子」或「戴著連帽T的男人」搜尋影片片段。

ACLU警告,這種技術會有很危險的後果。首先,訓練演算法的資料集本身即是有偏頗的。臉部辨識最為人所知的缺點就是它原始訓練資料嚴重偏向白人和男性。目前影片分析大多以YouTube此類公開影像來訓練,但上傳者及影片內容就明顯有偏頗情形,這用在女性及少數族群的辨識就可能產生問題。

此外影片分析還會對社會產生寒蟬效應。如果人們覺得他們一舉一動被人監視,行為就會改變,此外,也可能造成小事化大,使警方對少數或弱勢族群更不利。

AI千萬不能成為濫權者的武器

而更大的問題是濫用。ACLU警告,擁有這些系統的人將掌握更大權力,要是沒有適當規範,可能變成權力者的打手。

為防範科技的暗黑後果,ACLU建議必須從公、私部門來管理影像監控的使用。首先,政府在未經立法單位許可、未告知大眾及未經過公民權影響評估前,絕不可部署影片分析。大眾有權知道這些系統錄製及分析什麼資訊、有權存取這些分析,並且有權可挑戰或修正不正確的地方。

而且影片分析也不得大量蒐集可辨識身份的資訊或尋找「可疑」行為。被蒐集的資料應小心保存、處理,資訊處理決策應透明化,且不能侵犯蒐集對象的法律權益。

企業也應遵守同樣的規範,使用影片分析應當透明化。管理法規也應符合憲法,包括保護隱私和言論自由權利的精神。

雖然ALCU影片分析的報告憂心忡忡提出了警訊,不過AI技術演變會多快卻人人看法不同。一個學者Vondrick說了個AI界流傳的笑話:當你問一群AI研究人員「我們什麼時候會邁入AI?」答案永遠是「大概30年後吧。」

Source: NYTIMES

關於我們

自1990年創刊UXmaster雜誌,1991年獲得美國LAN Magazine獨家授權中文版,2006年獲得CMP Network Computing授權,2009年合併CMP Network Magazine獨家授權中文版,2014年轉型為《網路資訊》雜誌網站,為台灣中小企業協助技術領導者落實企業策略,了解網路規劃及應用,為企業網路應用、管理、MIS、IT人員必備之專業雜誌網站。


與我們聯絡

加入《網路資訊》雜誌社群

© Copyright 2017 本站版權所有,禁止任意轉載 網路資訊雜誌 / 心動傳媒股份有限公司 聯絡電話:+886 2 29432416