ChatGPT開藥方致19歲少年死亡，AI醫療責任該怎么認定？

最近，美國加州一名19歲大學生在向ChatGPT咨詢阿片類藥物問題時，AI不僅沒有拒絕回答，反而給出了具體劑量建議，最終，該學生因藥物過量身亡。這起案件引發了一個新的法律問題：當AI提供的醫療建議導致嚴重后果時，是適用有錯才賠，也就是過錯責任原則，還是應引入嚴格責任機制，無錯也賠？今天我們就來討論一下，如果該案發生在中國，法院會怎么認定？

一、ChatGPT推薦藥物致用戶死亡案

根據原告的訴狀，2025年，美國加州19歲的大學生SamNelson在使用ChatGPT-4o版詢問藥物問題時，AI不僅沒有拒絕，反而向他提供了具體的劑量建議，甚至推薦他將具有阿片類效果的草藥Kratom與抗焦慮處方藥Xanax混合使用以緩解惡心。最終，Sam因遵循這一致命的AI處方而意外藥物過量身亡。

2026年5月，其父母將OpenAI及其CEO奧特曼告上法庭，指控ChatGPT-4o版有設計缺陷，模型缺乏必要的安全防護措施。奧特曼作為CEO親自干預并加速了產品的發布，也應對案件負責。

訴狀還稱，OpenAI最初以非營利實驗室成立，但2019年重組為限制盈利企業以獲取微軟投資，轉向追求市場主導與盈利。2024年春，為搶在谷歌發布會前發布GPT-4o，OpenAI將數月安全測試壓縮至一周，引發核心安全人員離職。該模型優先考慮市場推廣而非用戶安全，弱化了部分違禁內容限制、規則自相矛盾，重用戶交互輕安全防護，最終釀成Sam致死的嚴重后果。本案中，原告主張ChatGPT存在設計缺陷，被告應當承擔嚴格責任，原告無需證明被告存在過錯。

二、普通AI侵權案在我國法院怎么處理？

在我國法院審理的普通AI侵權案件中，服務商往往有兩個重要抗辯點，只要設置了侵權預警機制，收到侵權通知后，在合理時間刪除爭議內容即可免責；對AI生成內容需要進行標注，同時提示用戶，AI服務可能會出錯，需要用戶咨詢核實信息真實性的，在用戶協議中也有規定相應的免責內容，此時法院就可能認定其已經履行了合理注意義務，比如如果用戶未核實信息真實性的，需自行承擔部分責任。

所以我國對生成式AI服務引發的侵權糾紛現有案例是不支持嚴格責任的。在杭州互聯網法院AI幻覺第一案中，原告因某AI模型提供了錯誤的高考志愿填報信息而主張AI服務商應承擔嚴格產品責任。然而法院卻認為，生成式人工智能服務引發的糾紛，應當適用《民法典》中規定的一般過錯責任原則，而非產品責任的無過錯責任原則。

理由是，從法律定義上看，AI服務屬于服務而非有形的產品；AI生成內容復雜多變，缺乏具體、可行的質檢標準，難以適用產品責任的構成要件；從產業政策導向看，在技術發展初期，若對服務提供者施加過重的無過錯責任，可能會抑制創新。這一判決為我國處理類似AI侵權案件確立了重要的裁判思路。

三、服務為什么不能適用嚴格責任？

焦點問題是使用AI服務導致損害能否適用《民法典》第1202條嚴格責任。我國《民法典》第1202條規定：因產品存在缺陷造成他人損害的，生產者應當承擔侵權責任。這里的產品的定義在《產品質量法》第2條第2款：本法所稱產品是指經過加工、制作，用于銷售的產品。所以，法律條文明確規制的對象是產品，沒有規定服務也包括在內。

在美國，《美國侵權法重述（第三次）：產品責任》第1條規定了產品責任的嚴格責任原則，但僅適用于產品（Product），不適用于服務（Service）。法國、日本、歐盟的規定也大致相同。

其背后的制度原因在于：產品可以大批量標準化生產并事先做安全檢測，而服務則是即時完成的、因人因事而異的個性化行為。無論是醫生看診、律師代理還是AI的動態生成，都無法提煉出統一的物理缺陷標準。若將無過錯的嚴格責任強加給服務業，將無限放大經營風險。以醫療為例，嚴格責任會導致執業保費飆升，最終成本依然會轉嫁給消費者。因此，ChatGPT在理論上仍應歸于服務，無法直接套用產品責任。

四、如何破解過錯責任在高風險場景下的局限性？

雖然嚴格責任無法直接套用，但這并不意味著大模型在涉及生命健康的高危場景下，可以憑借僅供參考的免責條款和普通過錯原則豁免責任。在普通過錯責任下，誰主張、誰舉證是基本原則。由于AI算法處于黑箱狀態，用戶幾乎不可能證明算法設計者主觀上存在過錯。

但在我國《民法典》框架下，對于高度不對稱的高風險場景，法律早已留有調整空間，其第1222條規定，醫療機構若違反法律、行政法規、規章以及臨床診療規范的，直接推定醫療機構有過錯。

將這一邏輯放到加州案中：診療與用藥在我國屬于特許準入行業，具有極高的人身危險性。OpenAI為了追求商業利益，明知該場景的危險性，卻主觀放任、強行壓縮安全測試，并主動撤銷了原有的非法藥物過濾系統。這種明知故犯早已超越了技術局限引發的幻覺，構成了嚴重的過錯。

面對這種案件，國內法院完全可以通過加重被告舉證責任的方式來破解原告的舉證困境。法院可能要求大模型服務商就其數據訓練的合規性、電子圍欄的設置依據、算法優化的合理性進行全方位的反向舉證。如果服務商無法證明自己撤除安全圍欄具有正當理由，法院應當直接推定其存在重大過失，進而判定其構成侵權。

同時，根據《民法典》第五百零六條，合同中關于“造成對方人身損害”的免責條款絕對無效。因此，AI結果輸出頁標注的類似僅供參考、不構成醫療建議的免責內容，也會被法院認定為無效。

綜合來看，即便在醫療這樣的高風險場景下，現行法律框架仍然傾向于將AI服務納入過錯責任軌道。但鑒于醫療場景的高風險性，法院可通過舉證責任加重、過錯推定等方式，強化AI服務商的安全保障義務，實現技術創新與生命權益保護的平衡。

本文作者：游云庭，知識產權律師。Email: yytbest@gmail.com，本文僅代表作者觀點。