想象一下：在某一個(gè)晚上你打算放松一下自制披薩，你把餡餅準(zhǔn)備好放進(jìn)烤箱烤好后興奮地開始吃。但是你發(fā)現(xiàn)遇到了一個(gè)問題——奶酪一直掉下來。沮喪的你向谷歌尋求解決方案。

“加些膠水，”谷歌告訴你，“將大約1/8杯Elmer膠水與醬汁混合。無毒膠水會(huì)起作用?！?/p>

當(dāng)然不要那樣做。，雖然這是谷歌新的AI Overviews功能告訴你的方法。最近，谷歌搜索新增了一個(gè)叫做“AI Overview”的功能，它可以在搜索結(jié)果的最頂部直接展示一個(gè)簡(jiǎn)短的答案。有網(wǎng)友發(fā)現(xiàn)，披薩膠問題的答案似乎是基于一個(gè)用戶在十多年前的Reddit帖子中的評(píng)論，他們顯然是在開玩笑。

有時(shí)候AI Overview功能呈現(xiàn)的錯(cuò)誤信息，會(huì)誤導(dǎo)用戶以為是權(quán)威醫(yī)療專家或科學(xué)家的觀點(diǎn)。谷歌發(fā)言人Meghann Farnsworth表示，絕大多數(shù)AI Overview提供的信息質(zhì)量都很高，并且會(huì)提供更多網(wǎng)頁鏈接供用戶深入了解。我們注意到很多示例都是不常見的查詢，也有一些是被篡改的或者他們無法復(fù)現(xiàn)的例子。這個(gè)功能在推出前已經(jīng)進(jìn)行了大量測(cè)試，并且公司會(huì)在必要時(shí)快速采取行動(dòng)來確保內(nèi)容的準(zhǔn)確性。

例如，當(dāng)用戶詢問“我每天應(yīng)該吃多少石頭”時(shí)，該工具錯(cuò)誤地引用加州大學(xué)伯克利分校地質(zhì)學(xué)家的話稱：“人們每天至少應(yīng)該吃一塊小石頭”，并繼續(xù)列出吃石頭的好處，比如巖石是人體維生素和礦物質(zhì)的重要來源，吃石頭對(duì)消化健康有好處。

不僅僅是谷歌；像OpenAI、Meta和Perplexity這樣的公司都在與人工智能的幻覺和錯(cuò)誤作斗爭(zhēng)。然而，谷歌是第一個(gè)大規(guī)模部署這項(xiàng)技術(shù)的公司，失敗的例子不斷出現(xiàn)。