谷歌AI搜索為何會教人在披薩上涂膠水

今年5月15日剛剛上線的谷歌AI Overview功能，旨在通過人工智能技術，在搜索結果頂部提供AI生成的答案，以增強搜索引擎的用戶體驗。但該功能上線后卻出現了一系列錯誤和不當建議，引發網絡熱議。比如，有網友在谷歌搜索中查詢“芝士和披薩粘不到一塊”的解決辦法時，AI給出的建議是在醬料中加入1/8杯的無毒膠水以增加粘性。另一位用戶詢問“兔子是否曾在NBA打過球”，AI說“是”，因為搞混了將球員的名字與“兔子”這一詞匯。

針對AI Overviews出現的胡扯，谷歌隨后回應表示會繼續改進相關算法進行修正，但這些AI Overview功能產生的“幻覺”是大語言模型的固有缺陷，目前尚無解決方案。

清華大學交叉信息研究院助理教授于洋分析認為，谷歌AI Overview出現“胡扯”，實際上恰恰體現了人工智能本身學會了語言結構、語法等，但并未學會因果關系（即邏輯依據）。

觀安信息聯合創始人兼CTO胡紹勇同樣指出，當前大模型技術主要依靠海量的數據訓練進行。由于人類向AI的提問較為多樣且發散，AI會提供基于統計概率相近的答案，而非準確的答案。在這種情況下，AI給出的答復雖然看似合理，卻可能與事實不符。因此，做好數據清洗是避免誤導信息傳播的重要環節。

（據澎湃新聞6.4）