法新社13日報導,美國聯邦貿易委員會(FTC)正在對人工智慧(AI)開發商OpenAI進行調查,以確定其受歡迎的聊天機器人ChatGPT,是否因產生錯誤訊息而傷害消費者,以及其技術是否被用來不當的處理用戶個資。
微軟(Microsoft)公司所支持的OpenAI,在一份20頁的問卷調查中被通知了此項調查,該公司被要求描述用戶被錯誤詆毀的一些事件,並分享公司為了確保這種情況不再發生,所做的任何努力。
華盛頓郵報(Washington Post)率先報導了這項由美國監管單位發起的調查。
OpenAI去年11月推出ChatGPT震撼了全世界,因為ChatGPT展現了「大型語言模型」(Large Language Model)的能力,這是一種被稱為生成式AI的人工智慧形式,可以在短短幾秒鐘內生成類似於人類的內容。
在人們對這個技術感到驚嘆之際,有報導指出,這些模型也可能產出令人反感、錯誤或奇怪的內容,有時會被稱為「幻覺(hallucinations)」。
FTC主席麗娜汗(Lina Khan)12日在國會委員會聽證會上談話時,雖然沒有提到這項調查,但她告訴國會議員,她的機構關切ChatGPT可能的誹謗性產出。
麗娜汗說:「我們聽說了一些情況,包括人們的敏感資訊會被顯示出來,以回應其他人的詢問。」
麗娜汗補充指出:「我們聽說有關誹謗、中傷言論,以及完全不實的東西正在出現。這正是我們擔心的欺詐和欺騙的類型。」
根據這份問券,FTC的調查主要聚焦在這個部份會如何傷害到用戶,但也將探究OpenAI如何利用私人數據,來建立其領先世界的模型。
OpenAI的GPT-4,是ChatGPT本身與許多其他公司方案的基礎技術。這些公司付費給OpenAI,讓他們的用戶能夠使用其模型。
OpenAI執行長奧特曼(Sam Altman)在一則推文中表示,他很遺憾調查相關消息被洩露給了媒體,這會「無法建立信任」。
奧特曼補充說:OpenAI「當然」會與FTC合作,「這對我們來說非常重要,我們的技術是安全且有利於消費者,我們有信心我們有遵守法律。」
FTC的調查不一定會有後續行動,如果監管機構對公司的回覆感到滿意,就可以結案。 如果FTC認為有非法或不安全的行為,將會要求採取補救措施,並可能提起訴訟。 OpenAI和FTC沒有回應法新社的置評要求。