Google正在努力消除其AI搜索結(jié)果中的錯誤和可能危險的回答。然而,新的"AI概述"功能有時會把社交媒體和諷刺網(wǎng)站上的玩笑和諷刺內(nèi)容錯誤地當(dāng)作事實來呈現(xiàn)。Google最近發(fā)布的人工智能搜索結(jié)果引起了廣泛關(guān)注,但原因并非如預(yù)期那樣正面。作為新推出的“Gemini Era”戰(zhàn)略的一部分,這家科技巨頭在上周宣布了一系列新型人工智能工具。隨之而來的是其標志性的網(wǎng)絡(luò)搜索服務(wù)的顯著變化,現(xiàn)在搜索結(jié)果中的問題答案以自然語言的形式直接展示在網(wǎng)站鏈接之上。盡管Google的這次更新讓搜索技術(shù)更加先進,能夠應(yīng)對更加復(fù)雜的用戶提問,但它也引發(fā)了一些擔(dān)憂。比如,AI在處理搜索結(jié)果時,有時會將錯誤的或者具有誤導(dǎo)性的信息呈現(xiàn)給用戶,這在涉及敏感話題如優(yōu)生學(xué)時尤其成問題。優(yōu)生學(xué)曾被錯誤地用于歷史上的一些不人道政策,因此其信息的準確性和敏感度尤為重要。此外,AI在識別一些具體事物,比如區(qū)分有毒和無毒的蘑菇時,也存在準確度不足的問題。這提醒我們,在使用AI搜索工具時,對于健康和安全相關(guān)的查詢,需要格外小心,并盡可能尋求專業(yè)的確認。Google AI在提供"AI概述"答案時,有時會引用來自Reddit等社交媒體的內(nèi)容,而這些內(nèi)容可能原本是出于幽默或諷刺的目的。這導(dǎo)致了一些明顯錯誤或荒謬的回答被提供給用戶。例如,有用戶報告稱,當(dāng)他們詢問如何應(yīng)對抑郁時,Google AI居然建議"跳下金門大橋"。還有的回答荒謬地確認了一種反重力能力,即人可以在空中停留,只要他們不向下看。這些例子表明,盡管AI在提供搜索結(jié)果方面取得了進步,但在準確性和可靠性方面仍存在不足,需要進一步改進。Google與Reddit的合作初衷是為了讓用戶能夠更便捷地找到并參與他們感興趣的社區(qū)和討論。然而,這項合作也暴露出了一些風(fēng)險,尤其是在AI處理來自Reddit的內(nèi)容時。由于AI可能沒有足夠的能力去辨別信息的真?zhèn)位虮尘?它可能會不加甄別地采納并引用Reddit上的信息。這種不加選擇的信息采納可能導(dǎo)致一些誤導(dǎo)性甚至荒謬的建議出現(xiàn)在搜索結(jié)果中。比如,AI曾經(jīng)給出了一個不當(dāng)?shù)慕ㄗh,即孩子們每天至少應(yīng)該吃一塊小石頭,并且還錯誤地標注了這一建議來源于加州大學(xué)伯克利分校的地質(zhì)學(xué)家。這個例子說明了AI在處理網(wǎng)絡(luò)信息時可能會忽略信息的可信度和適宜性,從而產(chǎn)生誤導(dǎo)。Google雖然已經(jīng)對一些明顯荒謬的回答進行了刪除或更正,但AI生成模型有時會產(chǎn)生不準確或虛構(gòu)的答案,這種現(xiàn)象被稱為"幻覺"。這些"幻覺"可以被視為不真實的陳述,因為AI在創(chuàng)造一些并非事實的內(nèi)容。同時,Google AI曾錯誤地推薦使用膠水以防止奶酪從比薩上滑落,這一建議源自Reddit上一個十年前的評論。OpenAI的ChatGPT模型曾發(fā)生編造事實的情況,包括錯誤地指控法學(xué)教授Jonathan Turley性侵,這一指控基于他未曾參與的一次旅行。這一事件反映了AI在處理信息時可能過于自信,未能準確區(qū)分互聯(lián)網(wǎng)上內(nèi)容的真?zhèn)?。此?人工智能的過度自信可能導(dǎo)致它不加選擇地接受互聯(lián)網(wǎng)上的所有信息為真實,這種信任可能導(dǎo)致錯誤的判斷,比如,在反壟斷法的背景下錯誤地對公司作出有罪的裁定,并錯誤地將責(zé)任歸咎于谷歌的前高管。當(dāng)用戶在Google上搜索與流行文化相關(guān)的問題時,AI搜索建議的功能有時會帶來一些幽默或令人困惑的結(jié)果。這可能是因為AI在處理流行文化內(nèi)容時,會遇到理解上的挑戰(zhàn),尤其是當(dāng)這些內(nèi)容包含幽默、諷刺或特定社會背景時。同時,AI可能難以準確把握這些內(nèi)容的真正意圖,導(dǎo)致提供的建議或答案可能與用戶的預(yù)期不符,引發(fā)一些意想不到的反應(yīng)。此外,Google AI對于兒童攝入石頭這一問題提供了更新后的建議,提出可能的原因包括孩子的好奇心、感官處理上的難題或是飲食上的障礙。這一點再次表明,在利用AI提供的信息時,特別是當(dāng)這些信息關(guān)乎健康和安全的建議,我們必須要格外謹慎,并且一定要尋求專業(yè)的意見和幫助。結(jié)語:Google AI的搜索建議功能雖然在技術(shù)上取得了顯著進展,但其準確性和可靠性方面的不足仍可能導(dǎo)致嚴重后果。從Reddit等社交媒體平臺上不加選擇地采納信息,到對優(yōu)生學(xué)等敏感話題的誤導(dǎo)性信息,再到法律領(lǐng)域內(nèi)的不當(dāng)自我定罪,這些事件都凸顯了AI在信息篩選和判斷上的重大缺陷。此外,AI模型編造事實或產(chǎn)生"幻覺"的問題,也表明其在處理復(fù)雜問題時的局限性。因此,我們必須對AI提供的信息保持警惕,尋求專業(yè)意見,并呼吁開發(fā)者和研究者持續(xù)改進AI技術(shù),以確保其為人類帶來更多益處而非風(fēng)險。#GoogleAI #準確性 #AI模型 #可靠性