用Podcast訂閱本節目 
頂尖人工智慧研究人員在今天(24日)公開的一封信中表示，人工智慧(AI)公司和各國政府應將至少三分之一的研發資金用於確保系統的安全和道德使用。
這封信件是在倫敦即將舉行的人工智慧安全高峰會(AI Safety Summit)前一周發出，信件中羅列政府和企業針對人工智慧風險應採取的措施。
這封信由3名圖靈獎(Turing Award)得主、1名諾貝爾獎(Nobel Award)得主和10多名頂級人工智慧學者簽署，信中表示：「政府也應該要求企業，對其前沿人工智慧系統造成、可以合理預見和預防的損害承擔法律責任。」
目前，還沒有針對人工智慧安全的廣泛法規，歐盟的第一套人工智慧法案也尚未完成立法，因為歐盟議員尚未就幾項問題達成一致。
被稱為三大人工智慧教父之一的班吉歐(Yoshua Bengio)說，「最近最先進的人工智慧模式太強大了，也太重要了，不能讓它們在沒有民主監督的情況下發展。」。
他說，「這(對人工智慧安全投資)需要快速進行，因為人工智慧發展的速度遠遠快於所採取的預防措施。」
這封信的簽名者包括AI研究先驅辛頓(Geoffrey Hinton)、2000年圖靈獎得主姚期智(Andrew Yao)和2002年諾貝爾經濟學獎得主康納曼(Daniel Kahneman)等學者。
自從舊金山AI研發公司OpenAI的生成式人工智慧模型推出以來，頂尖學者和馬斯克(Elon Musk)等知名科技公司執行長針對人工智慧的風險發出警告，包括呼籲暫停開發強大的人工智慧系統6個月。
