字節(jié)某員工：媳婦是醫(yī)生。她說：當(dāng)病人學(xué)會(huì)了AI看病，欲哭無淚

一位字節(jié)員工的醫(yī)生媳婦跟他吐槽：當(dāng)病人學(xué)會(huì)了AI看病，我解釋起來有種欲哭無淚的感受......。而作為研發(fā)大模型的老公，一時(shí)不知道該怎么安慰她了。

關(guān)于現(xiàn)在很多病人學(xué)會(huì)用AI看病，我記著曾經(jīng)看過一位知名三甲醫(yī)生是這樣的一種看法。他在視頻中表示：醫(yī)生有時(shí)候也會(huì)用AI提升工作效率，但是跟病人最大的不同是，他們是帶著批判的眼光，AI給出的回答不能它說什么就是什么，肯定是根據(jù)自身的醫(yī)學(xué)知識去篩選有用的、正確的。曾經(jīng)他用AI搜索關(guān)于一個(gè)醫(yī)學(xué)論題的知識文獻(xiàn)，發(fā)現(xiàn)系統(tǒng)給他胡謅了一篇文獻(xiàn)知識。他后面經(jīng)過閱讀發(fā)現(xiàn)，AI把兩篇觀點(diǎn)類似的文獻(xiàn)混為一談，給出了完全錯(cuò)誤的答案。這些在沒有專業(yè)醫(yī)學(xué)知識的患者那里是根本發(fā)現(xiàn)不了的。

他在工作實(shí)踐中發(fā)現(xiàn)：參考AI看一些簡單的小毛病準(zhǔn)確率挺高的，然而越是疑難雜癥，越容易“胡說”。AI普及的時(shí)代，可以用來做一些醫(yī)學(xué)科普挺不錯(cuò)的，但是把AI當(dāng)成看病神器那就本末倒置了。

大喇叭對此深有感受，我用AI一般是在某些突發(fā)情況下查詢某個(gè)自己不了解的知識使用，但是在使用過程中，發(fā)現(xiàn)有時(shí)候真的會(huì)出錯(cuò)。就比如一道初中數(shù)學(xué)題，我用了兩、三個(gè)主流AI平臺(tái)，發(fā)現(xiàn)有的是計(jì)算錯(cuò)誤，也有思路錯(cuò)誤的。思路錯(cuò)誤我還要跟它不停地掰扯糾正思路，但AI還挺固執(zhí)的，堅(jiān)持認(rèn)為自己是對的。所以，對于某些專業(yè)領(lǐng)域來說，還是以行業(yè)權(quán)威為準(zhǔn)，去醫(yī)院的話肯定是以醫(yī)生說的為準(zhǔn)。即便你認(rèn)為醫(yī)生不對，所做的應(yīng)該是多看幾家，而不是一直盲目聽從AI。

AI為什么會(huì)出錯(cuò)，特別是它會(huì)一本正經(jīng)的胡說八道，行業(yè)內(nèi)叫做出現(xiàn)“幻覺”。其實(shí)，這些從技術(shù)的角度看，除了模型理解、推理能力弱，更大的原因是數(shù)據(jù)訓(xùn)練方面出現(xiàn)問題。

1、訓(xùn)練數(shù)據(jù)有缺陷。大模型可能把互聯(lián)網(wǎng)上的一些錯(cuò)誤信息納入訓(xùn)練數(shù)據(jù)庫中，導(dǎo)致用戶在詢問時(shí)出現(xiàn)錯(cuò)誤的回答。曾經(jīng)有研究發(fā)現(xiàn)，大模型在數(shù)據(jù)訓(xùn)練過程中，僅僅有 0.01% 的錯(cuò)誤文本時(shí)，錯(cuò)誤輸出的概率會(huì)提升至 11.2%。

2、知識覆蓋不全。特別是一些冷門、小眾的領(lǐng)域，由于專業(yè)數(shù)據(jù)、實(shí)時(shí)事件在訓(xùn)練數(shù)據(jù)庫的出現(xiàn)次數(shù)較少，就好比你對某項(xiàng)領(lǐng)域內(nèi)容了解不對，在回答這個(gè)領(lǐng)域的問題時(shí)，很大概率會(huì)出現(xiàn)錯(cuò)誤。

3、引用的信息時(shí)間有限制。AI在訓(xùn)練數(shù)據(jù)的時(shí)候存在知識截止時(shí)間，所以不知道截止日后發(fā)生的事情也是經(jīng)常發(fā)生。所以，現(xiàn)在很多模型需要聯(lián)網(wǎng)回答，提升準(zhǔn)確度。

用簡單，通俗且易懂的話來回答。那就是，任何大模型（AI）的核心是通過統(tǒng)計(jì)概率生成文本的，它并不真正理解語義，學(xué)的是"說話的模式"而不是"事實(shí)"。當(dāng)遇到訓(xùn)練數(shù)據(jù)不足或者數(shù)據(jù)庫中沒有的問題時(shí)，它會(huì)按最相似的模式"腦補(bǔ)"拼湊出一個(gè)看起來通順合理，實(shí)則漏洞百出的回答。就像我們學(xué)習(xí)英語，記憶了很多單詞但不知道語法，最終寫出來的句子，看似沒問題，但已經(jīng)錯(cuò)誤很多。

這也是主流大模型在發(fā)布新版本的時(shí)候，降低整體幻覺率也是一項(xiàng)很重要的指標(biāo)。