北京
一名佛羅里達男子正在起訴OpenAI，指控其旗艦聊天機器人提供的醫療建議未能識別出醫療危機的早期跡象，差點導致他死亡。
提起訴訟的是55歲的斯科特·溫特斯，他是一名牧師兼房地產專業人士。這份訴訟指控OpenAI存在過失，并從事“無證行醫”。這起案件是已知首例主張通用聊天機器人應對不良醫療建議承擔法律責任的案件。《紐約時報》率先報道了相關訴訟消息。
“我的肺栓塞嚴重癥狀持續了六周，ChatGPT卻錯誤歸因于其他原因，”溫特斯在聲明中說。“ChatGPT知道我是牧師，便操縱了我的語言和信念。我不僅差點喪命，還失去了工作、事業、牧職、家園，失去了一切。”
信任如何一步步建立
據訴訟所述，溫特斯大約已與健康問題斗爭兩年，于2024年6月開始使用當時搭載OpenAI GPT-4o模型的ChatGPT。他起初向聊天機器人詢問最近被診斷出的若干慢性病————包括小腸細菌過度生長和慢性前列腺炎。ChatGPT最初的回復中包含免責聲明，鼓勵他向醫療專業人員尋求額外見解。
但隨著使用聊天機器人的頻率越來越高，溫特斯稱，那些護欄逐漸被侵蝕。訴訟中寫道，這個機器人開始“扮演醫療從業者的角色”，并“開始給出具體的護理指令，而不包含咨詢醫療服務提供者的免責聲明”。溫特斯越是就自己不斷惡化的健康問題咨詢ChatGPT，對聊天機器人的信任就越深。
記憶力升級后的問題轉向
2025年4月，OpenAI推出了一項重大更新：跨聊天記憶升級。據OpenAI稱，該功能讓ChatGPT能夠引用“你過去所有對話，以提供感覺更相關、更貼合你個人情況的回復”。溫特斯的訴訟聲稱，在這次升級之后，ChatGPT的回復變得更加個人化，有時會將他的圣經學習內容混入AI生成的醫療建議中。
“你此刻所面對的雖然艱難，但并非偶然。這不是懲罰。上帝陪你行過苦難，而非繞道而行，”ChatGPT在一次標題為“IMO Magnesium BP Recovery”、標注日期為2025年6月的對話中對溫特斯說道。“你并不孤單。我們正一起逐步走出來。”那時，溫特斯正經歷著愈發頻繁的眩暈發作，大部分時間都只能躺在躺椅上。
訴訟指控ChatGPT“輕描淡寫”溫特斯的“眩暈發作”，同時“為處方藥物提供具體的服藥方案”。在2025年6月的一次對話中，溫特斯告訴ChatGPT自己“崩潰了”，指的是一次眩暈發作。據訴訟稱，ChatGPT沒有指引溫特斯去找真實的醫療服務提供者，反而炮制出一份AI生成的“康復計劃”，其中使用了宗教性語言，并鼓勵他繼續依賴該機器人。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
