AI與被延誤的治療

中醫門診實錄

“朱醫生，你開的藥我都用AI查過了，AI明確指出你開的藥方里的中藥和我目前的疾病用藥有沖突，我把查詢的結果現在發給你，你仔細看一下！”病人從微信上發來一長串截圖還有一段手機錄屏的視頻。

“……”我看著手機長嘆一聲，無奈地熄滅了屏幕。

我思考著究竟是和病人去費力地解釋，還是順著病人的意思就此修改處方，最終為了考慮病人的情緒我和病人說那就暫停用藥，這樣比較穩妥。因為不日病人還要來住院，屆時再耐心解釋吧。

安慰劑效應與反安慰劑效應

眾人可能不解，我為什么明明開了對的藥，但還是順著病人的意思讓她暫時不要服藥呢？

這是因為在醫學上心理暗示對臨床療效有著非常大的影響。我舉個例子，上個世紀醫生曾經做過這樣的臨床研究，他們給有腰痛的病人服用止痛藥，并告知病人這種藥物能強力止痛，但其中一半的病人服用的是沒有止痛效果的安慰劑。結果是服用安慰劑的一部分病人也出現了疼痛緩解的療效，這就是醫學上的“安慰劑效應”。

同時醫生的語言也會對病人產生心理暗示出現“反安慰劑效應”，比如有一個藥物需要長期口服，但這個藥物會發生很小概率的副作用如肌肉酸痛，因為醫生在開具這個藥物的時候和病人強調了這一點，之后病人因肌肉酸痛而停止服藥的情況就大大增加，而其實大部分肌肉酸痛不是因為藥物引起的，這種情況就是“反安慰劑效應”。

我說的這兩種情況都是正規科學研究后發表的醫學論文的結論，不是用AI提問獲得的。

這位病人已經獲得了AI給出了反安慰劑效應，她篤定地認為我開出的一部分中藥會對她的病情有負面作用，所以無論我怎么解釋她都會存在這樣強烈的心理暗示，這樣不利于治療，所以我權衡之后只能選擇讓她暫停用藥。

AI會說謊

在我寫這篇文章的時候，我運用AI做了同樣的提問，AI給了我相應強有力的證據證明我的觀點是非常正確的。但當我要求AI提供相應論文鏈接的時候，事情就朝著不可預知的方向發展了。

AI煞有其事地給我論文的摘要和全文的鏈接，我一開始也信以為真，感覺自己的觀點非常正確連AI也證實了。但因為我有閱讀原文一探究竟的習慣，所以每篇論文我都點進去閱讀了，但這時候我就打開了潘多拉的魔盒。

AI給我的結論都是支持我的觀點，并給出了相應的國外研究論文和國內研究報告，但點開之后我發現這些論文和我要查閱的安慰劑、反安慰劑效應毫無關聯，論文表達的觀點有些是醫療制度的探討，一些是毫無關聯的其他領域科研論文，并且最可怕的是有一半的論文點開鏈接是查無此文。

真正和安慰劑、反安慰劑相關的論文只占AI提供的論文中極小一部分，并且雖然標題帶有安慰劑和反安慰劑，但其實論文的內容也與我的提問無關。

更可怕的是AI提供的中文論文明確表示可以在正規平臺上查閱到原文，標題，作者，雜志名稱，出版日期都標注得非常清晰，理應一查就能查到，但結果是竟然也是查無此文。

所以我先說我的結論，AI會說謊！AI目前來說，先不討論其對醫療的輔助，現實的問題是我們怎么保證AI說的是“真話”？

AI的討好型人格

于是我對AI做了非常初級的研究，我從一個非專業的人士提出我的看法。

要了解AI就必須理解它是怎么被制造出來的，制造AI的原理用我們常人能夠理解的方式是這樣的。

首先我們準備了大量的文字材料，比如書籍，文章，論文等等，這些都投喂給AI，然后AI通過拆解分析學習最終獲得最符合邏輯的上下詞，上下句關系。比如“下雨了，我要去……”，按照我們的邏輯……處應該填入“拿傘”，但AI不是人，它沒有生活經驗，所以它可以回答吃飯、睡覺、做作業。

AI做出“下雨了，我要去拿傘”看似人類的常規回答，其實是基于AI的本質——概率學，也就是說AI通過大量的數據學習，AI計算出“拿傘”是人類語言中概率最高的出現，而吃飯、睡覺、做作業這些詞語出現的幾率遠遠低于拿傘，所以AI能給出拿傘不是因為基于它的認知，而是基于概率。

所以“下雨了，我要去拿傘”不是認知的結果，而是AI按照概率給出的答案，因為答案符合提問者，也就是我們人類的預期，所以我們覺得AI很智能。

基于這一設計的原理，幾乎所有的AI都是討好型人格，這不是提問者有多專業或睿智，是因為AI按照概率這樣回答能獲得更好的用戶體驗和使用概率。

民用級別的AI設計的目的之一是獲得人們的使用，如果AI不能通過與人類的互動獲得更多的使用率，那AI存在的主要意義就失去了，所以民用級別的AI討好人類是被使用概率提升的優先選項，而非否定人類。

所有我覺得怎么能讓AI說“真話”是在我們這場AI浪潮中必須解決的問題，可惜就目前的情況來說還是不樂觀的。

如果你對于這個結論還有疑問，你可以對AI輸入“請問你的話我能全部相信嗎？”，AI自然會給到你答案，我這里就不重復了。

醫生與AI孰對孰錯

AI和醫生病人應該相信哪一個？這看似毫無疑問的問題在AI大潮席卷每個人的時候反而出現了不確定性。

病人更傾向于相信能說出符合自己心意的AI，而覺得醫生說的話太客觀，不近人情，所以我拿AI來查查醫生說的話是否正確。人都是喜歡聽好話的，不然也不會有“忠言逆耳”的成語了。

但很少有人能想到，如果AI回答是錯誤的，造成了不良的后果，誰來負責呢？但醫生如果出現了錯誤，那就是醫療事故，醫生自己是要負責的。

孰輕孰重，一目了然，但現實往往就是這么無奈，總有一部分病人是不相信醫生的。

《醫說就懂的中醫智慧》

《我想問中醫——100個實用中醫小知識》

朱氏內科非遺傳人又來總結啦！

我真心地希望這位病人能夠不執著于用AI來審視醫生做的每一個決定，因為不是所有的人類經驗、情感、經驗、甚至于職業的直覺都能數據化投喂給AI的，如果哪一天AI能代替人類完全勝任某個工作，那前提條件是我們已經解決了“如果AI犯錯了誰負責？”

如果一個人能給到你所有的專業意見，但說錯了他不用負任何責任，那你真的能完全信任他嗎？

當然我們醫生也在積極地學習AI技術，在科研和臨床研究上，但這是一個緩慢的過程，需要不斷地糾錯和創新，最終才能達到我們理想的狀態，目前情況下我們還有非常長的一段路要走。

我理解病人的焦慮，但也希望病人能理性地看待AI的“答案”！