用Podcast訂閱本節目 
全球人工智慧(AI)領域的專家日前連署了一份聲明，對AI技術帶來「滅絕風險」發出警告，雖然有專家認為這個警告有些跨大，但也承認AI確實可能在錯誤訊息的散播、影響人類行為思考，和剝奪工作機會等方面，對人類社會帶來風險。
全球超過數百位人工智慧產業的領袖在非營利組織「人工智慧安全中心」(Centre for AI Safety)的網站上發表一份聲明，這份聲明只有短短一句話，稱應對AI帶來的人類滅絕風險，應是「與應對疫情和核戰同層級的全球優先要務」。
參與聲明連署的專家，包含開發出聊天機器人ChatGPT的OpenAI執行長阿特曼(Sam Altman)，以及被譽為「人工智慧教父」的辛頓(Geoffrey Hinton)等重量級人物。
這種「AI末日」的警告，讓人聯想到的是AI機器人接管人類社會的科幻情節，但專家指出，現實可能沒有這麼戲劇化，而是更加緩慢的過程，造成破壞也可能不是核彈，而是社會基礎領域的逐步惡化。
加州大學柏克萊分校(UC Berkeley)網絡安全中心AI安全計畫主任紐曼(Jessica Newman)表示，她不擔憂AI本身，危險的在於人們可能把AI用在有害的地方，或是把本質上並不精確的AI系統，整合進入越來越多的社會領域，最終導致傷害。
AI助長錯誤訊息
根據英國衛報(The Guardians)報導，專家指出目前的AI發展可能帶來的幾項具體傷害。其中之一是錯誤與虛假訊息的傳播。
事實上，AI革命已經在許多領域發展了一段時間，例如基於「機器學習」所打造出的演算法，為社群媒體的蓬勃發展奠定基礎，但這項技術也被指控是延續性別偏見、加劇社會分裂，煽動政治動盪的原因。
專家警告說，這些問題隨著人工智慧的發展而愈演愈烈，最壞的情況可能會侵蝕我們對真相和有效訊息的共同理解，並導致更多基於謊言的政治動亂。
數據科學平台Anaconda執行長兼聯合創辦人彼得‧王(Peter Wang)說，這些錯誤可能會自我延續，在語言學習模型根據錯誤訊息進行訓練的情況下，這些錯誤訊息會為未來的模型建立有缺陷的資料集，意味著未來的模型會放大並永遠受過去模型輸出的影響。
許多專家擔憂，這些系統可能被利用在不當用途上。近期在網路瘋傳的教宗方濟各身穿名牌白色羽絨衣的AI生成照片，算是較為無害的結果；但2022年4月，AI生成烏克蘭總統澤倫斯基(Volodymyr Zelenskiy)宣布投降的影片，可能引發無法挽回的後果。
AI影響人類行為思考
一些專家也擔憂，AI系統可能會對人類的行為思考造成負面影響。例如有報導指出，比利時有一名男子在聊天機器人的建議下自殺身亡，或有聊天機器人建議用戶離開他的伴侶，或告訴飲食失調的用戶減肥。
加州大學柏克萊分校專家紐曼認為，人們需要檢視這種大型語言模型，對於已經如此兩極化和孤立化，孤獨和心理健康已成重大問題的世界，所產生的認知影響。
這並不是代表AI聊天機器人將增加感知，並超越其用戶，而是其編製出的語言可能會操縱人們，使他們做出原本不會造成的傷害。紐曼說，特別令人擔憂的是，這些語言系統是以一種廣告營利模式在運作的，目的是為了操縱用戶的行為，盡可能讓用戶長時間使用這個平台。
紐曼表示：「如果你正在與使用第一人稱的東西交談，而它談論自己的感受和背景，即使它不是真實的，它仍然更有可能引起一種人類反應，讓人們更容易想要的相信它」，「它讓人們想要信任它，把它當成朋友，而不是一種工具」。
AI剝奪工作引發社會動盪
另一個對於AI的長期擔憂，是人類大量的工作機會可能被剝奪，有一些研究指出，在2025前，AI將在取代人類的8,500萬個工作機會，長期將取代3億個工作機會。專家警告，AI的崛起可能引發的大規模失業，以及隨之而來政治動盪。
Anaconda執行長彼得‧王說：「當你失業時該如何存活，美國沒有任何相關的體制，這將導致很多破壞和很多政治動亂。對我來說，這是因此產生的最具體、最實際的意外後果。」
國際專家集體對AI的威脅發出警告，反映出對於AI產業裡大多數人來說，但並非所有專家都是是抱持「AI末日」的論調，許多人仍然對這項科技的潛力感到興奮，只不過，對這個工具進行更多的監管，顯然是有不可或缺的。
紐約大學名譽教授馬庫斯(Gary Marcus)說：「人工智慧絕對有機會在未來幫助科學、醫學和老年照護。」但他也認為：「在短期內，我覺得我們還沒有準備好。這一路上會有一些傷害，我們真的需要進行改善，我們必須找出嚴格的監管。」
延伸閱讀
