用Podcast訂閱本節目 
Rti 中央廣播電臺 
由人工智慧(Artificial Intelligence, AI)衍生的深度偽造(Deepfake)技術，已讓「眼見為憑」有待商榷，也逐漸成為全球面臨的重大資安、國安問題，考驗著各國政府應對的能力。
有圖未必有真象
隨著人工智慧技術越來越強大、機械學習能力不斷突破，「深度學習」(Deep Learning)加上「偽造」(Fake)，造就了「深度偽造」。
聊天機器人散佈謊言、換臉應用程式製作色情影片、複製聲音進行詐騙等事件層出不窮，去控制一些已經成為錯誤資訊超級傳播者的深度偽造，刻不容緩。
事實上，人工智慧正在重新定義「眼見為憑」這句諺語，因為它可憑空創造大量圖像，發出一些人從未說過的話。這些深度偽造已經侵蝕了網路信任。
中國最近通過廣泛的規則來監管深度偽造，但大多數國家似乎還在努力跟上快速發展的偽造技術，因為擔心監管可能會阻礙創新或被濫用來限制言論自由。
臉書(Facebook)母公司Meta去年曾刪除關於烏克蘭總統澤倫斯基(Volodymyr Zelensky)的深偽影片。片中他敦促公民放下武器並向俄羅斯投降。
烏克蘭總統澤倫斯基(Volodymyr Zelensky) (資料照/烏克蘭總統府官網)
深度造假普及 始於換臉技術
由於製造人工智慧合成的文本、音訊和影片沒有任何障礙，因此在身份盜竊、金融詐騙和損害聲譽方面被濫用的可能性，已引發全球警報。
美國政治風險諮詢公司「歐亞集團」(Eurasia Group)指出，人工智慧工具是「大規模破壞武器」(weapons of mass disruption)。
「歐亞集團」在一份報告中警告，「人工智慧技術的進步將侵蝕社會信任，賦予煽動者和威權主義者權力，並擾亂企業和市場」，「深度偽造、臉部辨識和語音合成軟體的進步，將使得對一個人的肖像控制權，成為過去的遺物」。
在知名演員艾瑪．華森(Emma Watson)出現在一個深度偽造音頻，朗讀納粹德國領袖希特勒自傳「我的奮鬥」(Mein Kampf)後，英國人工智慧公司「Eleven Labs」承認，其音訊工具已遭人濫用於「惡意目的」。
深偽濫用 資訊末日恐到來
深度偽造已愈來愈可能導致歐洲執法機構「歐洲刑警組織」(Europol)所說的「資訊末日」(information apocalypse；Infocalypse)，許多人無法區分事實和虛構。
歐洲刑警組織指出，「專家擔心這可能會導致公民不再擁有共同的現實，或者可能造成社會混淆，無法確定哪些資訊來源是可靠的」。
中國政府已經警告深度偽造會對「國家安全和社會穩定構成威脅」並實施新規定，要求提供深度偽造服務的企業獲取用戶的真實身份。他們還要求對深度偽造的內容進行適當的標記，以避免「任何混淆」。
在美國，國會推動成立一個特別工作小組來監管深度偽造。但數位權利活動人士警告，立法過度可能會扼殺創新或傷及合法內容。
至於歐洲聯盟則就擬議的「人工智慧法案」(AI Act)展開激烈討論。
這項歐盟希望在今年通過的法律，將要求使用者披露深度偽造。但許多人擔心，如果該立法不涵蓋創意或諷刺內容，可能會成為一個毫無效力的工具。
資訊生態系統變得不可信
美國雪城大學(Syracuse University)教授戴維斯(Jason Davis)指出，「如何恢復數位信任，是現在真正的問題」。
他說，「檢測工具正在創建，而且來得相對較快。但深偽技術的發展速度可能更快。就像網路安全一樣，我們永遠無法解決這個問題，只能希望跟上」。
許多人已開始努力理解諸如聊天機器人ChatGPT等新技術。由美國人工智慧研發公司OpenAI創建的ChatGPT，能夠就幾乎任何主題，生成令人信服的文本。
媒體監管機構「新聞守門人」(NewsGuard)指出，這是「下一個偉大的錯誤資訊超級傳播者」，「該工具正在壞人手中武器化」。
AI專家示警，深度偽造技術日趨成熟、普及。只要有心和有一台可上網的電腦，隨時隨地都能「弄假成真」。
「深度造假： 比真實還真的AI合成技術，如何奪走人類的判斷力，釀成資訊末日危機？」(Deep Fakes and the Infocalypse: What You Urgently Need To Know)這本書的作者希克(Nina Schick)指出，「深度偽造不只能換掉人的外表，更在無形中改造人的大腦！人人都可能成為詐騙、抹黑、攻擊的受害者，而加害者還能將罪行統統推給AI」。
但希克也指出，深度偽造並不可怕，「可怕的是毫無準備」。為了更有效對抗資訊末日，了解現況就是第一步。
