AI語言模型出包中研院將建生成式AI風險研究小組 - 新聞

中研院研究員日前開發的中文語言AI模型日前被網友測試後發現自稱中國籍、由中國復旦大學開發等，今天(12日)在立法院教育委員會也成為質詢焦點。中研院院長廖俊智強調，中研院將成立「生成式AI風險研究小組」，避免類似事件再度發生。

中央研究院詞庫小組(CKIP)日前釋出可以商用的繁中大型語言模型「CKIP-Llama-2-7b」，目標之一是讓meta開發的 Llama 2 大型語言模型具備更好的繁體中文處理能力，不過，網友實測卻發現此AI自稱中國籍、由中國復旦大學開發、甚至國家領導人是習近平等，引發爭議。

中研院院長廖俊智12日在立法院教育委員會答詢時強調，這項小型研究僅用了大約新台幣30萬元的經費，研究人員是想求快、將明清人物的生平進行自動化分析，所以把資料丟進去；這不是台版ChatGPT，跟國科會正在發展的可信任AI對話引擎(TAIDE)也無關。

廖俊智指出，此事件也讓他們學到教訓，更深知繁體中文的語言詞彙是非常重要的，是刻不容緩、需要大量投入的，但面對生成式AI的幻覺，大家仍然在適應、學習中，後續中研院將成立「生成式AI風險研究小組」，深入了解AI對社會的衝擊，提供研究人員相關指引，避免類似事件再度發生。他說：『(原音)我們會成立生成式AI風險研究小組，因為生成式AI對社會會有什麼衝擊，現在還不知道。』

中央研究院資訊科技創新研究中心研究員、同時也TAIDE計畫負責人李育杰也指出，未來TAIDE在資料階段就會過濾一些不當的言辭，防止不當行為的結果產生，技術上是可以做到的。

此外，針對中研院生醫所日前有一名副研究員在院內輕生，多位立委也質疑院內的關懷機制，廖俊智表示，已新成立院內工作坊，請各所中心主管來參加、學習如何辨識同仁情緒波動、自殺傾向等。

自殺警語：珍惜生命，自殺不能解決問題，生命一定可以找到出路；若需諮商或相關協助可撥生命線專線「1995」、張老師服務專線「1980」或衛福部安心專線「1925」。