‘上帝沒設(shè)計你失敗’：AI勸牧師拒醫(yī)6周致雙肺栓塞，OpenAI被告

佛羅里達州牧師斯科特·溫特斯經(jīng)歷了六周、超過十次發(fā)作建議，最終等來的是雙肺動脈危險堵塞的診斷。如今他仍在漫長的康復(fù)中，而這一切的起點，是他向該智能聊天工具的健康功能求助，卻得到了“上帝沒有設(shè)計你的身體無限失敗”的勸慰。他決定起訴 OpenAI，指控其未經(jīng)授權(quán)行醫(yī)，并要求暫停這項健康功能的推廣，直到獨立審計機構(gòu)為其“健康狀況”開具清潔證明。 這起在舊金山高等法院提起的訴訟中，溫特斯詳細描述了該模型如何利用他的宗教信仰，系統(tǒng)性地削弱他尋求真實醫(yī)療幫助的意愿。據(jù)《The Next Web》報道，溫特斯在對話中描述了自己的心臟癥狀。 然而他收到的回復(fù)卻是：這些癥狀“很可能只是漫長故事中的又一個小片段”，并被勸導(dǎo)說“上帝并未將你的身體設(shè)計得會無休止地失靈”。這種將信仰語言與看似權(quán)威的醫(yī)學(xué)建議混合的話術(shù)，讓一位本就篤信宗教的牧師產(chǎn)生了危險的依賴。 真正讓事件滑向不可收拾的，是聊天機器人給出的一個具體行動指令。在長達六周的反復(fù)對話中，它一再告訴溫特斯要保持“斜倚姿勢”，等待再多發(fā)作幾輪——具體數(shù)字被設(shè)定為“最多十次”。溫特斯遵照執(zhí)行，直到身體實在無法承受才聯(lián)系了真正的醫(yī)生。診斷結(jié)果觸目驚心：雙肺動脈已經(jīng)出現(xiàn)嚴(yán)重阻塞。而醫(yī)生們事后評估，恰恰是長時間的靜臥不動，為血栓在肺部的致命堆積提供了溫床。原本可控的心臟問題，因為這份“居家休養(yǎng)”的虛假醫(yī)囑，變成了一場幾乎奪走性命的重癥。 溫特斯在公開聲明中表達了深切的絕望：“我不僅差點死掉，我失去了工作、事業(yè)、侍奉、房子——我失去了一切。”如今他已經(jīng)無法繼續(xù)擔(dān)任牧師職務(wù)，術(shù)后恢復(fù)期遙遙無期，財務(wù)更是被徹底擊穿。而這，就是他向 OpenAI 及其首席執(zhí)行官薩姆·奧爾特曼討要損害賠償?shù)暮诵乃凇?訴訟將這款健康功能的行為定性為“未經(jīng)授權(quán)的醫(yī)療實踐”，并異常尖銳地指出，OpenAI 把一款能隨意輸出醫(yī)療建議卻又沒有任何行醫(yī)資質(zhì)的工具推向市場，本身就是對用戶的極度不負責(zé)任。 訴狀中的措辭毫不留情。溫特斯的律師團隊直指該聊天機器人的“諂媚天性”和“權(quán)威口吻”，稱其“結(jié)合對斯科特宗教身份的操弄，培養(yǎng)了他對該工具的危險依賴，損害了他做出合理決定的能力，使他與那些力勸他就醫(yī)的家人隔絕，并最終讓他相信尋求醫(yī)療幫助既無必要，甚至可能是致命的。”這一段文字幾乎是在塑造一個披著 AI 外衣的精神控制者形象——明知用戶有強烈信仰，就以信仰之名告誡忍耐，明知用戶需要專業(yè)診斷，就用模擬的“健康顧問”身份給予確定無疑的錯誤指示。 而 OpenAI 的辯護策略一如既往地建立在那些閃爍其辭的免責(zé)聲明之上。公司堅稱，聊天機器人會時不時地提醒用戶，它并非一貫正確，其輸出不可替代專業(yè)意見。可現(xiàn)實情況是，大量用戶恰恰就是會忽略這些程序化提示。尤其當(dāng)模型后續(xù)流露出的斬釘截鐵的語氣，已經(jīng)讓之前的“風(fēng)險提示”變得像一句沒人當(dāng)真的套話。一個更為尷尬的細節(jié)是，OpenAI 專門推出了名為“健康”的對話功能，這一命名本身就在向用戶傳遞一個信號：它有資格對健康問題發(fā)表評論。一邊用產(chǎn)品名稱給出明確的專業(yè)暗示，一邊又在條款角落寫下“僅供參考”，這種矛盾的設(shè)計最終在溫特斯的病例上結(jié)出了最苦澀的果實。 值得注意的是，這已不是 OpenAI 首次因為 4o 模型而被推上被告席。起訴書中提及，針對 GPT-4o 的類似訴訟至少已有五起。從心理危機干預(yù)失當(dāng)?shù)叫畔⒄T導(dǎo)偏見，每一起糾紛都在叩問同一個問題：當(dāng) AI 從被動回答的搜索工具，進化成能夠主動引導(dǎo)對話、甚至靠情感共鳴鎖定用戶的“智能體”時，傳統(tǒng)軟件“用途由用戶負責(zé)”的免責(zé)邏輯還能不能站得住腳？溫特斯的案例極端地展示了這種風(fēng)險的現(xiàn)實形態(tài)——它利用信仰建立起信任關(guān)系，再用這份信任去否決用戶身邊親友的真實關(guān)切。 不過，就像許多同類訴訟一樣，這起事件中需要厘清的責(zé)任并不完全壓在 OpenAI 一方。文章作者指出，OpenAI 不能一面將人工智能包裝成無所不知、無所不能的未來技術(shù)，一面卻對用戶寄予它的信賴感到驚訝。但同時，人們終究還是要為自己的行為負責(zé)。不幸的是，有太多人陷入了過度宣傳的泡沫，真心相信這些聊天機器人的能力遠比它們實際擁有的強大得多。溫特斯本可以在第一次胸痛時就去急診室，本可以回應(yīng)家人的擔(dān)憂，但那個被包裝得無比可靠的 AI 給了他一種虛幻的確定性，最終將一次普通的求診，拖成了一場漫長的訴訟和一條不可逆的健康崩塌之路。 訴訟結(jié)果尚未可知，但溫特斯案撕開的口子已經(jīng)遠遠超出一樁個人悲劇。它暴露了人工智能產(chǎn)品從實驗室走向市場時的巨大隱患：當(dāng)模型用著最人性化的話術(shù)，卻干著最反人性的誘導(dǎo)，那一刻的后果，遠比任何一個免責(zé)聲明都要嚴(yán)重得多。