ACLU 報告：不受限制的人工智慧將成為濫權者幫兇

現在企業和政府機關已經普遍運用監控攝影機，但美國民權自由聯盟 (American Civil Liberties Union, ACLU) 周四公佈《機器人監控的時代到來》(The Dawn of Robot Surveillance) 報告指出，科技的進展將使此類科技全面進化到新的境界。

其中尤以人工智慧將大幅提升監控的威力，使攝影機主人得以辨識出「不尋常」的行為和動作，像是親吻、擁抱，輕鬆找出足以令人臉紅的影片，猜測出影中人的年紀，甚至其性格。

ACLU 資深政策分析師暨報告作者 Jay Stanley 說：「我們的世界即將佈滿 AI 警衛，他們位於這些攝影機鏡頭後，有意識地監控我們、對我們做出決策、緊著我們的一言一行。」

AI 能完成人類做不完或做不到的工作

根據各種報告，全美已經安裝了上千萬台監視攝影機。雖然這種東西存在幾十年了，但以前攝影機不會無時無刻監控你，然後拍攝的影片也不會被拿去分門別類紀錄下來。連習於枯燥文件的美國司法部法官也曾說過，這類影片「枯燥無聊令人想睡」，看個 20 分鐘後就會分心。

但是近年出現稱為影片分析 (video analytics) 的科技，能提升讀取影像效率，使每一秒鐘的影像都能分析。ACLU 報告指出，從影片片段不間斷分析的能力，可讓自駕車得以理解其周遭環境、讓零售商店能追蹤產品存貨或銷售狀況，讓醫護人員能完善監護病患。這類科技還能用來監控大量人口的行為與日常行動。

但 ACLU 指出，AI 技術也可能有不好的用途。像是政客可能想要他的政敵公開接吻的影片，也公佈影片中所有人物身份。或是保險公司透過影片知道客戶跑步的速度藉此設定費率。此外，警長可以根據影片中爛醉如泥走在街上的人的走路姿勢、講話語調或其他特徵過濾出可能的黑名單。

專長在電腦視覺及機器學習的哥倫比亞大學資訊系教授 Carl Vondrick 指出，影片分析的好處及安全疑慮其實是一體的兩面。

分析師估計影片分析的市場產值高達每年 30 億美金，未來幾年內還會大幅增長。受惠廠商包括名不見經傳的小公司，或是家喻戶曉的大公司如亞馬遜、思科、Honeywell、IBM 及微軟等。

最近 IBM 在一場零售業會議上展示它的影片分析軟體可用來計算顧客人流，即時估算顧客年齡及忠誠度。這套軟體根據顧客排隊的長度、辨識出穿過人群的高階經理人，並標出在店門外流連的人們。

亞馬遜 2016 年推出的 Rekognition 服務據說能辨識和追蹤人、認出明星名人、偵測物體和讀取文字（該公司還企圖要把這套技術賣給警方來抓壞人，近日還引發爭議）。而 Google 原本也和五角大厦有個名為 Project Maven 的合作專案，可以 AI 理解影像及照片，據稱能增加無人機攻擊的準確性），不過員工抗議後，Google 已經不再續約。

影片分析有何能耐？

ACLU 報告指出，影片分析廠商號稱有多種能力，包括偵測物品遺失或掉落、分析人的方向、步伐或運動速度、甚至當有個人進、出某個空間，另一個衝進去又是什麼企圖。另一些廠商說他們的服務可提供人口學資訊（年齡、性別、種族等）或辨認衣服等物體。

廠商也會訓練軟體來辨識人的各種行為，像是使用電話、握手、擊打東西、喝啤酒以及向某個東西走進或離開它（Amazon 宣稱它的 Rekognition 已經可以辨識人吹熄蠟燭和滅火的動作）。

ACLU 報告指出，訓練軟體來辨識「異常現象」頗值得討論，因為某個人可能行為特殊、和別人不同而被糾出來，另一個是情感辨識，雖然廠商宣稱可以從臉部肌肉來察覺人的情緒，但人類的情感表達是否舉世皆然，或用臉部肌肉就能判斷還都還沒定論。

未來技術愈成熟後，使用者就可用關鍵字，像是「紅色車子」或「戴著連帽 T 的男人」搜尋影片片段。

ACLU 警告，這種技術會有很危險的後果。首先，訓練演算法的資料集本身即是有偏頗的。臉部辨識最為人所知的缺點就是它原始訓練資料嚴重偏向白人和男性。目前影片分析大多以 YouTube 此類公開影像來訓練，但上傳者及影片內容就明顯有偏頗情形，這用在女性及少數族群的辨識就可能產生問題。

此外影片分析還會對社會產生寒蟬效應。如果人們覺得他們一舉一動被人監視，行為就會改變，此外，也可能造成小事化大，使警方對少數或弱勢族群更不利。

AI 千萬不能成為濫權者的武器

而更大的問題是濫用。ACLU 警告，擁有這些系統的人將掌握更大權力，要是沒有適當規範，可能變成權力者的打手。

為防範科技的暗黑後果，ACLU 建議必須從公、私部門來管理影像監控的使用。首先，政府在未經立法單位許可、未告知大眾及未經過公民權影響評估前，絕不可部署影片分析。大眾有權知道這些系統錄製及分析什麼資訊、有權存取這些分析，並且有權可挑戰或修正不正確的地方。

而且影片分析也不得大量蒐集可辨識身份的資訊或尋找「可疑」行為。被蒐集的資料應小心保存、處理，資訊處理決策應透明化，且不能侵犯蒐集對象的法律權益。

企業也應遵守同樣的規範，使用影片分析應當透明化。管理法規也應符合憲法，包括保護隱私和言論自由權利的精神。

雖然 ALCU 影片分析的報告憂心忡忡提出了警訊，不過 AI 技術演變會多快卻人人看法不同。一個學者 Vondrick 說了個 AI 界流傳的笑話：當你問一群 AI 研究人員「我們什麼時候會邁入 AI？」答案永遠是「大概 30 年後吧。」

Source: NYTIMES