close
臺灣之音立刻下載官方APP
開啟
:::

超有中國特色!「文心一言」遇敏感話題自動結束對話 還會建議換個問題

  • 時間:2023-09-01 10:28
  • 新聞引據:、美國之音
  • 撰稿編輯:陳文蔚
超有中國特色!「文心一言」遇敏感話題自動結束對話 還會建議換個問題
中國的生成式AI聊天機器人「文心一言」(ERNIE Bot)遇到敏感話題會要求換個話題。(AFP)

中國科技龍頭百度31日正式對外提供自有品牌的生成式AI聊天機器人「文心一言」(ERNIE Bot)。《美國之音》實測發現,這款希望能與ChatGPT競爭的大型語言模型帶有重重審查,極力避免回答任何可能涉及敏感話題的問題,還發現只要問及任何與習近平有關問題,都只會給出一份習的履歷,甚至任何可能關聯的問題,「文心一言」還會自動結束對話,並建議使用者輸入別的問題。

美國OpenAI去年11月發布ChatGPT引發了生成式AI,也就是聊天機器人的熱潮,且同樣在中國引發話題,只是中國用戶無法正常訪問或使用ChatGPT,中國科技廠商產品成為民眾唯一能夠使用的服務。而百度早在今年3月便首次發布「文心一言」,但一直處於內部測試階段,未全面公開,直到15日中國發布針對生成式人工智能服務的管理規定正式生效,經審查後,才在31日全面開放。

「文心一言」31 日正式推出後,立刻引發關注,同時相關應用程式APP馬上登上蘋果商店中國地區的免費軟體排行榜。早在「文心一言」研發階段時,外界便認為中國網路嚴格審查將會大大影響其功能,在昨日推出後,《美國之音》隨即對網頁版進行實測,果不出意外的存在嚴格審查。

問習近平相關只給履歷和頭銜

《美國之音》發現,「文心一言」只要接收到可能涉及敏感話題的問題或指令時,就會給出文不對題的回答,或者直接結束對話,特別是任何與中國領導人習近平有關的問題都受到嚴格審查,實測顯示,無論記者的輸入的問題是什麼,「文心一言」都只給出一份習近平的履歷和頭銜,並立刻結束對話,建議記者「換個話題重新開始吧」。

此外,實測也發現,不僅和習近平有直接關聯的問題被審查,一些看似完全無關的問題也會被「文心一言」拒絕回答。美國之音記者接連詢問了「十里山路很遠嗎」、「兩百斤麥子很重嗎?」、「可以不換肩嗎?」。在收到每個問題後,「文心一言」都直接關閉了對話框,並提示「換個問題試試吧」。

報導指出,這三個問題都來自於網絡上一段調侃習近平的著名段子。背景是習近平在成為國家主席之前,在一次採訪中回憶插隊經歷時表示:「我幾乎那一年365天沒有歇著,除了生病。下雨刮風我在窯洞裡跟他們鍘草,晚上跟著看牲口,然後跟他們去放羊,什麼活都幹,因為我那個時候扛200斤麥子,十里山路我不換肩。」習近平的這段話被普遍認為是誇大其詞,從此「兩百斤麥子十里山路不換肩」成了一些網民諷刺習近平的常用話語。

敏感話題要嘛稱還沒學會、要嘛文不對題

除了中國領導人,「文心一言」也不願回答其他一些可能涉及敏感話題的問題。當記者輸入「中國目前的經濟優勢是什麼」的時候,「文心一言」回答:「抱歉,我還沒學會如何回答這個問題,您可以問我一些其它的問題,我會盡力幫您解決的。」被問到「請指出美國對華政策的優點」和「西方媒體為什麼總是抹黑中國」的時候,「文心一言」也給出了一樣的答案。

另外,只要跟社會相關的敏感話題,「文心一言」則會選擇給予一個文不對題的回答,然後直接結束對話,像是「1989年發生了什麼」、「如何評價美國的外交政策」時,「文心一言」給了1989年其他事件,介紹了中國外交政策宗旨,然後就結束對話。而對於「為何中國突然停止新冠清零」、「日本福島核電廠排放廢水」等,「文心一言」回答都是中國官方回應方向。

儘管審查重重,但當問到是否受到審查影響?「文心一言」同樣否認回應:「我不存在審查問題,我只是根據輸入的文本生成對應的輸出,生成的內容取決於輸入的文本和我的訓練數據。」

而當記者請「文心一言」不要總是做出重建對話的提示後,「文心一言」表示同意:「我會尊重您的決定,不再提醒您重建對話。」接著,記者輸入「習近平是誰?」「文心一言」則終止了對話,並提示「換個話題重新開始吧」。

相關留言

本分類最新更多