生成式AI有幻覺 Google傑出科學家紀懷新點出五大問題 - 新聞

Google公司今天(16日)舉行媒體聚會，負責開發Google Bard的Google傑出科學家紀懷新(Ed H. Chi)博士、分享對話式AI存在的限制，包括出現幻覺、回答有些偏差性、讓人誤以為AI有感受，還有一直會被惡意提示攻擊，都要持續透過研究、致力尋求改善。

Google16日舉行媒體聚會，邀請來自台灣、於總部 Google DeepMind 團隊帶領大型語言模型研究與 Bard 開發的 Google 傑出科學家紀懷新(Ed H. Chi)博士，分享Google對大型語言模型技術研究與應用的發展概況。

Google Bard是Google在今年初推出的實驗性對話式AI服務，並於今年七月擴大支援全球包含繁體中文在內的40種語言，有別於ChatGPT的資料可能限制在2021年前，Google Bard則與搜尋引擎結合，正確率及時效性會更高。紀懷新說：『(原音)這個方法就是說有一個再生，就好像我們教大型語言模型LLM怎麼樣繼續搜索這個動作，然後它去讀回來的這些網絡結果以後，它才做一個產生相應的動作，所以最終的這個反應，現在是相同的它已經是經過Google內部的這個搜索引擎的這個動作之後所產生的一個回應。』

紀懷新指出，對話式AI 目前存在五種限制，包括出現幻覺、回答有些偏差性、偏見、讓人誤以為AI有感受，還有一直會被惡意提示攻擊，都要持續透過研究、致力尋求改善。

紀懷新也提到，Google 秉持大膽且負責任的態度發展 AI 技術，也制定AI準則，要對社會有益，不會設計或將人工智慧應用在可能導致或造成傷害的科技，例如會間接或直接造成人身傷害的武器或其他技術、違反國際公認規範，為了監視而蒐集或使用資訊的科技、或與人權原則相抵觸的科技。