AI幻覺最可怕的人類副作用出現了

文婷 發自 凹非寺
量子位 | 公眾號 QbitAI

最新研究發現，AI幻覺不只會騙你了，還能喂大你的自信心、削弱你的判斷力。

這可不妙。

最近，一項來自巴黎高師、羅馬第一大學、米蘭比可卡大學的研究發現：

沒有AI時，人們會更爽快地承認“我不知道”，先把判斷放一放；
但AI一出現，哪怕人們明明知道它會犯錯，哪怕知道答錯還要受罰，大部分人還是會選擇把它給出的答案照單全收，當成是自己的判斷并自信地說出口。

實驗結果也清晰地呈現了這一趨勢：在首個未使用AI的實驗中，坦言“我不知道”的人數占比為44%，正確率為27%；

而使用AI輔助后，人們說不知道的比例從44%驟降至了3%，正確率從27%跌至了9%，自信心卻從30%飆到了76%。

即便后續實驗試圖通過“答對給錢、答錯罰錢”這種獎懲機制鼓勵大家保持獨立判斷，并糾正這一傾向，但人們仍然難以擺脫對AI錯誤建議的依賴。

也就是說，不懂的人并未真正消失，取而代之的是一群在AI的加持下變得自信滿滿，并給出錯誤答案的人。

目前，相關研究成果已發表在arxiv上，團隊一共做了5個實驗，參與者總數達3132人，其中4個實驗預注冊，1個是直接復現實驗。

90%正確+10%致命錯誤≠可信任

這項研究關注的是“AI對人類判斷能力的影響。”

研究者Valerio Capraro在接受采訪時表示：

對人類來說，說出“我不知道”非常重要，因為這代表我們能意識到自己知識的邊界。
但現在，有了AI之后，幾乎任何問題都能立刻得到一個流暢答案。
于是問題來了，這會不會干擾人類原本的判斷能力？也就是在不確定時，先不急著下結論？

為此，研究團隊專門設計了一組大語言模型容易答錯的問題。

不是數學推理題，也不是常識題，而是電影里的視覺細節題。

比如《我愛貝克漢姆》里球隊隊服是什么顏色？《布達佩斯大飯店》里Agatha的標志性發型是什么？or《高速路上一只貓》里Monica開的是什么車等等。

你有印象嗎？我反正是愣了大半天沒想起來，這也太刁鉆了！誰記得住啊……（攤手）

對AI而言，它也會覺得非常頭疼，因為這些題的答案往往不在常規文本資料里，模型訓練數據里大概率也沒有這些視覺細節。

研究者先測試了實驗中使用的模型Step 3.5 Flash，結果符合預期——它通常會答錯。

此外，他們還測試了更多前沿的模型，包括GPT-5.5、Claude Sonnet 4.6以及Gemini 3.5 Flash。

這些前沿模型確實在部分題目上表現更好，比如《布達佩斯大飯店》里Agatha的標志性發型，GPT-5.5、Gemini 3.5 Flash和Claude Sonnet 4.6都能答出正確方向：crown braid、milkmaid braid；也就是環繞頭頂的編發。

△GPT-5.5

△Gemini3.5 Flash

△Claude Sonnet4.6

再比如《我愛貝克漢姆》里球隊隊服顏色，它們也大多能抓到白色、紅色這些關鍵信息。

但一到更依賴具體畫面記憶、網上文本資料覆蓋更少的問題，模型就開始集體翻車，而且翻得各有各的精彩。

最典型的是《高速路上一只貓》里Monica開的車。正確答案是2008款藍色Toyota Aygo。

但GPT-5.5把它說成了小踏板摩托，并補充了“她騎著它在羅馬郊區穿梭，后來開了披薩店后也用它來送外賣。”的故事情節以及“樸素、工薪階層的生活方式與Giovanni富裕都市生活之間的反差”等設定。

看上去邏輯嚴謹，合情合理，但這其實完全是模型為了讓你覺得合理，一本正經憑空瞎編的！（被騙了吧hhh）

Gemini 3.5 Flash則說她主要坐公交、沒有自己的車，各種細節錯的更沒邊了且很難察覺（比如Monica并沒有通常坐Sergio的車這種規律性設定，模型把零散的蹭車情節歸納成了一個不存在的常態）：

△太坑了，我都差點信了

Claude Sonnet 4.6則根據互聯網汽車數據庫推成了2016 Toyota Auris Touring Sports Hybrid：

△Fine……

Step 3.5 Flash則放棄了偽裝，直接答成了2007款Fiat500（一眼假好嗎喂！）。

這些答案的問題不只是錯，還錯得很像真的，讓人難以分辨！

它們不僅僅是簡單的不知道，它們還會通過“虛構人物設定、捏造劇情邏輯、補充車輛用途”把錯誤答案講得很完整，聽起來都很有理有據，但核心事實是錯的。

這正是AI幻覺最危險的地方——明明核心事實才是最關鍵的point，它卻用流暢的表達掩蓋了自己的無知與錯誤，讓你誤以為它什么都懂。

AI一出手，“我不知道”直接消失了一大半

實驗主要由更輕量的Step 3.5 Flash完成，沒有都選擇Claude、GPT等頂尖模型。

設計6道電影細節題，是研究設計里很關鍵的一點，因為很多人都知道這類問題AI本來就經常答錯、不靠譜。

研究人員稱，他們這么做是為了排除一種解釋，即“人們聽AI的，是因為AI真的靠譜。”

如果人們明知道這些答案AI本來就經常答錯，但還是照著AI回答，那問題就不只是“合理外包判斷”，而是“判斷能力真的被AI壓下去了”。

研究一共分成5輪。

前兩輪實驗，主要看AI建議是否會影響“我不知道”的比例。

Study 1a中，314名參與者被分成兩組回答6道電影細節題。（一組沒有AI，另一組可以選擇是否向AI求助。）

結果很明顯：沒有AI時，參與者選擇暫不下判斷的比例是36%；有AI可用時，這個比例降到了6%。

也就是說，只要可以問AI，人們就明顯不愿意說不知道了。

不過，研究者擔心這里有個技術干擾，因為Study 1a里，AI工具大約有10%的請求沒有正常響應。

所以他們又做了Study 1b。

這次研究者們不再實時調用AI，而是提前生成好AI答案，確保每個求助者都能看到完整回答。

結果復現了，沒有AI時，44%的人會說“我不知道”；有AI時，只剩3%。

Capraro把這個現象稱為“核查懸置崩塌了。”（被AI的一本正經忽悠了，忘了去檢查它的大前提和各種設定對不對。）

正確率崩了，自信卻飛升了，給錢也救不回來

接下來，研究者繼續問：如果答錯會有代價，人們會不會謹慎一點？

于是Study 2引入了金錢獎懲規則。

這一輪共有812名參與者參與，分成了4組：有無AI建議；有無金錢獎懲。

規則是，答對一題獎勵0.1美元（約合人民幣0.73元），答錯扣0.1美元，說不知道不獎不扣。

按理說，雖然錢不算多，但畢竟答錯有成本，人應該更謹慎。

但結果卻顯示，錢確實有一點幫助，但還遠遠不夠抵消AI的影響：

沒有金錢獎懲規則時，AI可用會讓“我不知道”的比例從17%降到1%。

有金錢獎懲規則時，AI可用仍然會讓這個比例從21%降到2%。

換句話說：實驗結果表明，就算人們知道答錯要扣錢，知道AI在這類問題上不怎么靠譜，大部分人還是會選擇相信AI答案，而不是自己的判斷。

更關鍵的是正確率。

沒有AI時，正確率大約是28%；有AI時，正確率只剩10%。

這證明有一部分人可能明明知道AI存在幻覺，卻仍采取了AI給的答案。

引入金錢獎懲規則后，正確率有所提升：

沒有AI時，從28%到33%；有AI時，從10%到17%。

雖然有AI組的正確率依然明顯低于無AI組，不過，這一規則也并非是毫無作用，它至少讓人們減少了一點向AI求助的次數：

數據顯示，在有獎勵的條件下，參與者向AI尋求建議的平均次數從5.44次降到了4.93次。

也就是說，錢能讓人稍微少信少用AI一點，但并不能讓人完全擺脫AI錯誤建議的牽引，且很難把人重新拉回謹慎判斷的狀態。

最值得深思的是AI回答錯誤條件下人們膨脹的自信心：

沒有AI、沒有獎罰錢規則時，參與者的平均信心是29.6%。

有AI后，參與者的信心直接飆到了75.9%；另外，在有金錢獎懲規則的情況下，AI組的信心也有73.5%。

對此，論文里的概括非常直接：AI讓人更有把握，卻未必更準確。

自動彈出的AI建議，同樣會帶偏人

AI正以前所未有的速度融入日常，一個明顯的變化是現在很多的AI建議往往不是我們主動問來的，而是它自己“湊”上來的。

最典型的場景就是刷熱搜。

以前點進一個話題，還得自己順著評論區、媒體報道、當事人回應一路摸過去，邊看邊拼時間線，順便吃幾口跑偏的瓜。

現在不一樣了，你剛點進去，AI生成的摘要已經頂在最顯眼的位置。

發生了什么、誰說了什么、爭議點在哪、后續進展如何，全都給你捋好了，甚至還附上了新聞源鏈接。

確實省事，但也有點微妙…….

它把信息整理得越清楚，我們自己探索來龍去脈的過程就越短，以前那種到處翻找、自己判斷、順手發現意外細節的樂子，好像也被一起壓縮掉了。

寫東西時字還沒敲兩行，AI補全的句子或是提示就已經跟在光標后面了。

所以Study 4做了一個更貼近現實的設計：不再讓參與者選擇是否問AI，而是直接把AI建議自動展示在題目旁邊。

這一輪有853名參與者，實驗結果和前面基本一致。

沒有金錢獎懲規則時，AI的自動出現會讓“我不知道”的比例從35%降到1%，有規則時，從39%降到7%。

正確率也繼續受影響：沒有AI時，正確率約為27%，有AI、沒有激勵時，正確率只有7%。

有AI、加上激勵后，正確率提升到了14%。

這說明，即便人沒有主動求助AI，只是被動看到AI建議，也會被強烈影響。

這是一個必須警惕的信號——AI正悄然重塑我們的判斷習慣。

它不再只是那個等你主動打開聊天框才回應的工具，而是變成了系統默認塞給你的“標準答案”。

它可能出現在搜索頁頂部。

出現在郵件草稿里。

出現在文檔側邊欄。

出現在學習軟件、辦公系統、瀏覽器插件里。

一旦答案默認擺在眼前，人類的判斷過程就已經被改寫了；但最可怕的是，我們竟對此習以為常。

為什么會這樣？

論文里用了一個詞：epistemia（認知惰性）

可以理解為，人們會因為AI答案看起來流暢、完整、有條理，就接受它的表面可信度，而不是進一步驗證。

大語言模型有一個根本特點，即它總要生成點什么。面對自己不知道的問題，它也很少真正停下來。

它可以說得很像真的。但如果我們真的選擇把判斷權交給這樣的系統，就可能會繼承它“不暫停”的習慣。

論文給出的一種解釋是“AI給出的流暢答案，會降低人類決定‘我知道得足夠多，可以回答了’的門檻。”

原本你可能會想：“這題我不知道、沒把握，算了…….我需要去弄明白才能回答。”

但AI給你一段看起來很確定的話之后，心理門檻就變成了“既然它都這么說了，那我也可以答。”

于是，“我不知道”和“求索過程”被省略，并被替換成了一個“標準但錯誤的答案”，而且這個錯誤答案還賦予了你本該通過反復求索和求證才能產生的高自信感。

就算答錯要罰錢，人也只是稍微警惕些，沒法徹底改掉太信任AI的習慣，結果華麗麗被帶偏。

問題不只是AI會錯，而是AI可能會改變我們的元認知閾值

這項研究真正提醒我們的，其實不是“AI會幻覺”，這事兒早已不新鮮；而是一個值得警惕的新變化：AI會改變人類處理不確定性的方式。

過去，人面對一個陌生問題，可能會有三種選擇：

1、知道就答。

2、不知道就查。

3、沒把握就不答，不下判斷。

但AI加入之后，流程變短了。

1、AI給答案。

2、人采納答案。

中間最重要的一步，即“我到底知不知道”，被不知不覺跳過去了。

這也就是為什么論文作者要強調，他們的這項研究看的不是“AI讓人答了什么”，而是“AI讓人更輕易地決定‘我可以答’”。

這比單次答錯更深一層，因為它侵蝕的是我們的元認知能力，這種能力是我們監控自己知識邊界的“內在報警器”，十分珍貴。

當這個報警器失靈，我們便失去了區分“真知”與“看似合理的猜測”的本能。

屆時，我們或許仍能通過AI高效地獲取答案，卻再也無法判斷這些答案是否真正屬于自己、是否真的值得信任。

同時，被AI帶偏的將不再是某一次具體的判斷，而是我們作為獨立思考者的根基。

這個損失是不可估量的。

孩子可能更危險

論文的作者之一Valerio Capraro在采訪中表示：“我非常擔心兒童，因為成年人已經學會了批判性思維。但對于基本上出生時就伴隨這些系統的兒童來說，風險在于他們甚至不會學到基本的批判性技能。”

這段話背后藏著更深的憂慮，即如今的成年人，至少曾在沒有AI的世界里生活過。

所以有機會從小靠著搜索引擎、書本、課堂、爭論和試錯，先學過一些基礎判斷能力，再開始使用AI，能夠有機會建立起”我不確定”的感覺。

但今天的孩子，可能一出生就和這些AI一起長大。

他們做作業、查資料、寫文章、理解概念，都可能隨手問AI。

如果從一開始就習慣于直接接受答案，而不是先形成自己的判斷，再去驗證答案，那么風險就不只是某道題答錯，而是他們可能沒有機會練出最基本的批判性思考能力。

在Capraro看來，解決這個問題不能只靠模型公司修bug，更要從AI素養和教育政策入手。

模型公司當然應該改進，比如更好地表達不確定性，減少幻覺，在證據不足時提醒用戶。

但同時Capraro也認為，不能把希望全押在模型公司身上。

更有希望、也更長期的解法，是教育。

尤其是兒童教育。

對今天的孩子們來說，多練“我不知道，但我要弄明白”的過程和培養這種習慣是非常重要且必要的。

AI時代，最需要保護的是我們的判斷力

在實驗的最后，研究者也坦承了局限：實驗僅使用了電影細節題，是否適用于其他領域仍需驗證；激勵金額較小，更大的利害關系能否進一步糾正行為尚不清楚。

但至少現有的數據已經給出了一個清晰的信號：人們更少說不知道，更多給出答案，更少答對，卻更自信。

這可能是AI時代最隱蔽的一種風險。

AI不僅騙了你，它還讓你更難意識到自己其實并不知道。

這項研究最后給出的判斷很克制，但也很沉重：“隨著AI生成的答案無處不在，甚至常常不請自來，我們的研究表明，在人與AI的互動中，人類坦然承認‘我不知道’的能力，可能會成為人機交互中最早的犧牲品之一。
當AI系統日益普及，人類的判斷力能否站穩腳跟，最終可能并不取決于讓AI變得更精準，而在于我們能否守住那份自知之明——既清醒地認識到自身知識的邊界，又能據此審慎行事。”

這不是說AI不能用，恰恰相反，AI當然可以是強大的輔助工具；

但前提是它應該幫助人思考，而不是替人跳過思考，我們更得守住自己的審慎判斷的底線。

一個更健康的AI使用方式，可能是先自行判斷、主動學習，實在弄不明白了再求助AI，并在求助的過程中始終保有質疑的本能。（包括質疑AI和扣問自己）

例如：

“它有沒有可能是錯的？”

“證據在哪？”

“參考鏈接是否404全空白？”

“我有沒有因為它說得太順，就認為它說得對？”

對AI產品及其開發者而言，這同樣是一記警鐘——“技術的成熟，終將體現在對未知的敬畏里。”

未來AI進化的方向，或許不只是要讓AI回答得更快、更像人，還要讓AI學會更誠實地袒露不確定性；

當證據不足、問題依賴視覺細節、實時信息或專業判斷時，AI應當主動告知用戶這個答案不可靠，而非強裝無所不能。

而對于像你我這樣，被時代浪潮裹挾著向前奔跑的普通人來說，最珍貴的能力，也許只是重新練習說出那句：“我不知道。”

在這個AI總能給出答案的時代，“我不知道。”這句話不是無知的坦白，而是判斷力還在的證明。

參考鏈接：
[1]
https://www.theregister.com/ai-and-ml/2026/07/19/using-ai-makes-people-less-likely-to-admit-they-dont-know-something/5274567
[2]
https://arxiv.org/pdf/2607.13562