中國明年開始禁止散佈 AI 或 VR 技術製作的假新聞及 Deepfake 影片

中國宣佈一項線上影音內容的新政策《數據安全管理辦法》，將禁止出版及散佈以人工智慧（AI）和虛擬實境（VR）等新科技製作的假新聞及造假影片。

中國資訊與網路主管機關中央網絡安全和信息化委員會辦公室（簡稱網信辦）上周在官網上公佈，任何利用 AI 或 VR 製作的內容必須有明顯標示，違者將被視為違法行為。新法於上周公告影音內容供應商，預定明年 1 月 1 日上路。

網信辦特別指出 Deepfake 技術引發的問題。Deepfake 影片利用 AI 來製作以假亂真的影片，讓觀眾誤以為某人真的說了某些話，目的在移花接木、栽贓嫁禍，也被視為假新聞的重要傳播形式。

網信辦指出，Deepfake 技術可能「危害國家安全、動搖社會穩定、破壞社會秩序及侵犯他人合法權利和利益。」

中國人大今年 4 月也表示考慮立法禁止 Deepfake 技術。

今年 9 月中國業者陌陌推出一款名為 Zao 的變臉 App 造成數百萬下載熱潮。它利用 Deepfake 技術，可將一般人頭像接上知名電影或運動競賽等影片，讓普通人一圓電影或成為明星的夢想。但是 Zao 隨即引發隱私爭議，因為其隱私條款說明一旦繼續使用即表示用戶允許蒐集、使用、儲存用戶訊息，而用戶以 Zao 製作的影片也可被該公司使用、編輯及分享其他公司，被批侵犯用戶隱私。陌陌隨即出面道歉，但表示該 App 並未蒐集用戶的生物辨識資訊。

中國主要影片平台包括騰訊、阿里巴巴集團的優酷、愛奇藝，短片平台則有快搜和字節跳動（ByteDance）持有的抖音。中國最受歡迎的音訊分享 App 包括喜瑪拉雅及蜻蜓 FM 等。

來源：Reuters