close
臺灣之音立刻下載官方APP
開啟
:::

用「AI虛擬主播」謾罵蔡總統?專家打臉中國技術差一截

  • 時間:2024-01-12 15:28
  • 新聞引據:採訪
  • 撰稿編輯:程寬厚
用「AI虛擬主播」謾罵蔡總統?專家打臉中國技術差一截
用「AI虛擬主播」謾罵蔡總統?中國遭專家打臉技術差一截(路透社/達志影像)

台灣大選前夕,媒體報導,台灣國安官員披露中國國安部首度利用大量生成的「AI虛擬主播」對總統蔡英文展開大規模的抹黑謾罵攻擊。不過,這些影片看在專家眼中,卻是製作相當粗糙,主播的臉和脖子間出現了明顯色差,讓人懷疑根本透過深偽技術,換臉製作出來的,而非用AI生成,一看就很假,技術明顯差人一截。專家更打臉說,中共這種自曝其短的做法,恰好印證美國對中國AI晶片的制裁,確實出現了效果。

國安單位透露 中共首度利用AI虛擬主播攻擊蔡總統

就在台灣大選前夕,國安單位對外披露了中國國安部首度利用大量生成的AI虛擬主播對蔡總統進行攻擊謾罵,一月初的短短3天之內,就產製了數百則相關視頻,在各種網路社交平台上全面散佈,企圖藉由打擊蔡總統,進而對民進黨總統候選人賴清德的選情造成附帶傷害。

視頻中的主播不分男女,甚至還有外籍人士,透過普通話及廣東話等多種口音,傳播蔡總統沉迷於權力欲望等不堪言論。而經過調查,視頻的文本是源自「蔡英文秘史」電子書,再利用「剪映」軟體,生成出虛擬主播影片,製作及傳播速度之快,堪稱是一種新型態的網路攻擊模式,目的就是要在短時間內,透過大量傳播,造成網路聲量變化,誤導網路社交平臺演算法,自動推播給更多民眾。

AI技術差人一截  中共藐視台灣人民智商

對此,國防安全研究院中共政軍與作戰概念研究所助理研究員王綉雯在研究相關影片後就認為,光是蔡英文秘史的電子書的文本內容,其撰寫的品質就奇差無比,而視頻主要又放在微信及抖音平臺上,因此想透過這樣的醜化,影響台灣民眾,簡直是藐視台灣人民的智商。

她說:『它的中文的文句不怎麼通順,而且它這撰寫品質很差,我個人覺得他們連戰後,中共在特別醜化蔣介石的京陵春夢內容水準都擠不上,感覺上是一代不如一代,我是說中文的內容,然後另外一方面我覺得他的這個秘史的這個電子檔,也許對中國大陸的民眾有宣傳效果,因為他都放在微信或TikTok上面,但是對台灣民眾的效果我覺得有限,因為這樣子的醜化,實在太藐視台灣人民的智商。』

疑似深偽換臉非AI技術 顯示美制裁中國晶片有成

此外,對於技術部分,王綉雯更是覺得不可思議,尤其從主播的臉和脖子出現明顯色差來看,她推測整個視頻應該不是AI生成,反而比較像是深偽換臉製作出來,但整個技術簡直差了民間公司一大截。王綉雯說,如果這真的是中國國安單位發動的,那不僅是自曝其短,更顯示了美國對中國AI晶片的制裁,真的出現了效果。

她說:『如果真的是中國的這個國安部門發動了這些攻擊的話,那他們軍方或者是他們國安部門的這個大模型的功力還差一截,那我們這樣來推論的話,就可以證明美國對中國的AI晶片的制裁果然是有效的,所以中國的軍方部門大模型製作出來的這種生成式內容品質,就跟他們的新聞一樣是假的,就是人家一看就知道是假的。』

面對新型態網路攻擊 專家建議研發反向還原防衛技術
儘管如此,王綉雯也坦承,這確實是一種新型態的網路攻擊,因此包括數發部等單位應該要儘早研發出一套防衛工具,除了在源頭把關,發現流量異常時,就馬上能聯繫平台直接刪除這些影片外,更能研發出可以反向還原這些攻擊的技術。

她說:『我們其實可以開發出那種他有換臉或是什麼,然後我們也可以一槍把他,就是用AI 一下就把他打回原形的那種技術,所以才會有那種什麼大叔變成美女 ,然後結果人家還原之後,發現那個是一個醜大叔那種狀況。』

中共巨集式影像攻擊 恐造成台灣民眾反洗腦效果

對於未來兩岸的網戰可能會愈來愈白熱化,王綉雯顯得樂觀。她認為,像中共這樣的集權社會,恐怕很難理解民主社會對同一件事會有各種不同的反應和想法,並不是透過巨集式的影像攻擊,就能達到它想要的目的,甚至可能出現「反洗腦」的結果,讓台灣民眾未來面對中共類似的AI網路資訊攻擊時,變得更聰明,這就是人和機器不一樣的地方。

相關留言

本分類最新更多