陳根：AI看病，真的靠譜嗎?

文/陳根

用AI問(wèn)診，為什么可能把小病問(wèn)成大禍？

2026年，生成式AI已廣泛進(jìn)入醫(yī)療領(lǐng)域：患者用它初步問(wèn)診、醫(yī)生用它輔助診斷、研究者用它檢索文獻(xiàn)。然而，一個(gè)致命隱患正在悄然放大——AI幻覺(jué)。它讓AI在醫(yī)學(xué)場(chǎng)景中一本正經(jīng)地編造癥狀解釋、診斷結(jié)論、治療方案，甚至偽造不存在的臨床研究和藥物說(shuō)明。

上個(gè)月，全國(guó)首例AI幻覺(jué)引發(fā)的醫(yī)療相關(guān)侵權(quán)糾紛案宣判，標(biāo)志著AI幻覺(jué)已從技術(shù)缺陷升級(jí)為現(xiàn)實(shí)的醫(yī)療風(fēng)險(xiǎn)和社會(huì)問(wèn)題。

AI問(wèn)診的“幻覺(jué)”本質(zhì)：統(tǒng)計(jì)概率，而非醫(yī)學(xué)理解

大語(yǔ)言模型的核心機(jī)制是下一詞預(yù)測(cè)。它通過(guò)海量文本學(xué)習(xí)詞語(yǔ)之間的統(tǒng)計(jì)關(guān)聯(lián)，而不是真正理解醫(yī)學(xué)知識(shí)、病理機(jī)制和個(gè)體差異。

例如，當(dāng)患者描述“反復(fù)頭痛、夜間盜汗”，AI可能會(huì)根據(jù)訓(xùn)練數(shù)據(jù)中的高頻關(guān)聯(lián)，流暢地輸出“可能為淋巴瘤早期表現(xiàn)，建議立即化療”，而完全忽略患者實(shí)際年齡、家族史和其他關(guān)鍵體征。

換言之，AI不是在“診斷”，而是在拼湊最可能的詞語(yǔ)序列。在醫(yī)學(xué)這種高度專業(yè)、個(gè)體化、容錯(cuò)率極低的領(lǐng)域，這種機(jī)制會(huì)帶來(lái)嚴(yán)重后果。

· 事實(shí)性幻覺(jué)：編造不存在的檢查指標(biāo)、藥物相互作用或臨床指南。

· 邏輯性幻覺(jué)：給出看似合理、實(shí)則自相矛盾的建議（如同時(shí)推薦相互沖突的治療方案）。

研究顯示，即使是當(dāng)前最先進(jìn)的醫(yī)療大模型，在復(fù)雜問(wèn)診場(chǎng)景下的幻覺(jué)率仍可達(dá)到15%-35%，遠(yuǎn)高于普通對(duì)話場(chǎng)景。而目前，中文大模型語(yǔ)境下的醫(yī)療大模型，其幻覺(jué)問(wèn)題不可忽視。

真實(shí)風(fēng)險(xiǎn)：AI問(wèn)診可能誤導(dǎo)生命

醫(yī)學(xué)不同于其他領(lǐng)域，一句幻覺(jué)就可能導(dǎo)致：

· 延誤真正疾病的診斷（如把早期癌癥當(dāng)成“壓力性頭痛”）

· 錯(cuò)誤用藥（推薦存在嚴(yán)重禁忌癥的藥物）

· 患者過(guò)度焦慮或盲目自信（把良性問(wèn)題夸大成絕癥，或把嚴(yán)重問(wèn)題輕描淡寫）

更危險(xiǎn)的是，許多患者把AI當(dāng)作“免費(fèi)第二意見(jiàn)”，尤其是夜間急癥或基層醫(yī)療資源不足時(shí)，直接依賴AI生成的內(nèi)容做決策。而AI幻覺(jué)往往以極度專業(yè)、自信的語(yǔ)氣呈現(xiàn)，讓人難以辨別真?zhèn)巍?/p>

當(dāng)前技術(shù)緩解手段與局限

行業(yè)正在積極應(yīng)對(duì)——

· 檢索增強(qiáng)生成（RAG）：讓AI先檢索權(quán)威醫(yī)學(xué)數(shù)據(jù)庫(kù)（如PubMed、UpToDate、中國(guó)知網(wǎng)指南），再生成回答，顯著降低幻覺(jué)。

· 多智能體辯論：多個(gè)AI相互質(zhì)疑驗(yàn)證。

· 臨床驗(yàn)證層：增加事實(shí)核查和不確定性聲明機(jī)制。

但這些方法仍無(wú)法完全消除風(fēng)險(xiǎn)。醫(yī)學(xué)知識(shí)更新極快、醫(yī)學(xué)論文本身存在造假、臨床指南存在利益導(dǎo)向、個(gè)體差異極大、訓(xùn)練數(shù)據(jù)存在偏差等問(wèn)題，使得AI在疾病診斷、罕見(jiàn)病、復(fù)雜共病、新發(fā)疾病上的表現(xiàn)依然不穩(wěn)定。

AI可以輔助，但絕不能替代

AI幻覺(jué)在醫(yī)學(xué)領(lǐng)域的持續(xù)存在，深刻提醒我們：當(dāng)前AI仍是“統(tǒng)計(jì)智能”，而非真正的醫(yī)學(xué)智能。它擅長(zhǎng)模式匹配，卻缺乏真正的臨床判斷力、倫理意識(shí)和對(duì)生命的敬畏。

在AI越來(lái)越普及的時(shí)代，我們需要更高的醫(yī)學(xué)素養(yǎng)和AI素養(yǎng)——既要充分利用AI提升效率，更要清醒地認(rèn)識(shí)到它的邊界。

真正的醫(yī)療安全，永遠(yuǎn)建立在專業(yè)醫(yī)生、嚴(yán)謹(jǐn)證據(jù)和人文關(guān)懷之上。