中國禁止以人工智慧與虛擬實境技術製造假新聞 - 新聞

中國政府公布一項規範網路影音的新規定，禁止網路影音提供者與使用者，利用人工智慧(AI)與虛擬實境技術(virtual reality technology)製造「假新聞」。

法新社報導，中國國家互聯網信息辦公室(Cyberspace Administration of China, CAC)29日公布「網路音視頻資訊服務管理規定」，內容規範線上影音新聞與音頻服務的提供者與使用者，都不可利用例如深度學習(deep learning)與虛擬實境技術，製作、發佈與傳播「假新聞」。

假新聞一般指的是對任何事物，以錯誤或仿諷(Parody)方式，甚至是刻意曲解事實，對外發佈和傳播。

這份新的「網路音視頻資訊服務管理規定」將於2020年1月1日起生效。

中國國家互聯網信息辦公室表示，未遵守規定內容將被視為犯罪行為，但是這份規定裡並未訂定相關罰則。

此外，報導並指這份規定要求使用人工智慧與虛擬實境技術的影音視頻提供者，必須清楚標識內容，提醒用戶。

法新社報導，這項規定特別強調AI換臉技術(deepfake)的危險性，指這種偽造的影音畫面看起來像是真的，但是描述的內容卻是從未發生過的事件或是某人的演說。

這項規定並指AI換臉技術會「破壞社會穩定與侵犯他人合法權益，製造社會風險，並對國家安全與社會穩定帶來負面影響」。

根據美國方面的調查研究，從2016年美國大選以來，對於在網路上廣泛製造假訊息的AI換臉技術，引起各界的極度關切。

中國全國人大在今年初，也曾考慮禁止AI換臉技術，將其列為非法行為。

此外，中國9月出現的一款全新AI換臉應用程式ZAO，引發各界廣泛討論，擔憂可能對用戶隱私與肖像權的擔憂。