知道了卻不說

全文約4500字，閱讀完大概需要7分鐘。

2025年6月，OpenAI的自動審核系統標記了一個ChatGPT賬戶。

賬戶主人叫Jesse Van Rootselaar，18歲。系統識別其對話涉及槍支暴力場景，連續多日討論暴力內容。

人工審核團隊介入，確認違規。

關鍵細節在這里：據華爾街日報報道，約12名安全團隊成員就此辯論（報道稱系debate語境下部分成員意見，非全員一致建議），部分成員認為對話構成現實暴力風險，建議聯系加拿大皇家騎警。

公司層面判斷該賬戶活動未達到"可信且迫近的嚴重人身傷害風險"門檻，決定不向執法部門報告。

處置結果是：封禁賬戶。不報警。

八個月后，2026年2月10日，Van Rootselaar在家中殺害母親和弟弟，隨后前往Tumbler Ridge中學槍殺5名學生和1名教育助理，27人受傷。

兇手隨后自殺。

據BC省政府通報，8人被殺害，含母親Jessica Jacobs、11歲弟弟Emmett Jacobs、5名12-13歲學生、教育助理Shannda Aviugana-Durand（39歲）[2][5]；嫌疑人為18歲Jesse Van Rootselaar，RCMP確認其為跨性別女性[5]。

1個約2400人的礦業小鎮，幾乎每個家庭都被波及。

OpenAI后來承認：按照更新后的安全準則，該賬戶當時本應上報。翻譯一下——他們知道標準不夠高，不是威脅不夠大。

2026年7月7日，BC省政府宣布起訴OpenAI。據新華社報道，這是目前已知的首個因AI平臺未上報暴力威脅信息而由地方政府直接追責的案例。

一、一個法律概念：知道了，就有義務

這個案子的法律核心，是一個叫Tarasoff的判例。

1976年，美國加州。

一個心理治療師的患者向治療師表達了殺害一名女性的意圖。治療師聯系了校園警察，校園警察短暫拘留了患者后將其釋放——但治療師沒有直接警告那名女性本人。

她最終被殺害。

加州最高法院裁定：當你掌握了某人構成嚴重危險的信息時，你有法律義務采取行動——特別是，警告可識別的潛在受害者，或通知警方。

這就是Tarasoff義務。

此后美國多數州采納了某種形式的強制通報或警告義務規則——據NCSL統計，23個州通過立法強制要求，另有10個州通過普通法確立義務，11個州允許但不強制，6個州尚無明確規定。

現在，這個50年前的判例被第一次指向一家AI公司。

邏輯鏈條很清晰：AI系統識別了暴力信號→人工團隊確認了風險→公司選擇不報→八個月后8人被殺害。

中國律師于國富的分析更具體：原告需要突破三道門檻。第一，風險可預見——OpenAI內部已識別現實暴力風險。第二，風險可干預——OpenAI具備全鏈條處置能力。第三，因果關系——若及時通報，警方是否能夠有效阻止。

第三道最難。但若內部文件證實安全團隊明確判定風險迫近、建議報警，最終因商業聲譽或運營成本等非安全因素被管理層否決——OpenAI的抗辯空間將被大幅壓縮。

還有一個更具突破性的原告指控（Hayer v. Altman案主張之一）："協助及教唆大規模槍擊犯罪"。

你沒看錯。

不是"產品有缺陷"，不是"內容違規"，而是把不作為框架為一種共謀。

如果該主張成立，AI行業的責任邊界將發生根本性的變化——你不僅不能直接造成傷害，還有義務主動通報你發現的危險信號。

二、中國管了什么，沒管什么

現在把鏡頭拉回中國。

7月15日，《人工智能擬人化互動服務管理暫行辦法》即將施行。

管的是什么？

自殺/自殘防范干預義務（發現用戶面臨威脅生命健康的極端情境時須采取必要措施干預并聯絡監護人），2小時連續使用彈休息提醒，禁止向未成年人提供虛擬親密關系服務，禁止過度迎合、誘導情感依賴。加上GB/T 45654-2025的量化紅線——違法請求拒答率≥95%，生成內容安全合格率≥90%，違法內容輸出率0%。據合規解讀指南，服務運營中實時內容監測的有害內容漏審率應≤5%。

一句話：管住了AI的輸出端。讓AI不說不該說的話。

但BC案問的是另一個問題：AI發現了不該發現的事，怎么辦？

一個用戶連續多日與AI討論暴力場景，AI識別了，確認了——然后呢？

現行法規沒有回答這個問題。

不是沒人想過。

據GB/T 45654-2025配套合規實施指南要求（非強制條文），應急處置需"1小時響應、24小時上報"——但"上報"指向的是網信部門，不是執法機關。

而且觸發條件并不明確——什么算"需要上報"的情形，沒有寫。

我們在里說過，7.15風暴的問題出在"第三條和第十四條之間的距離"——法規寫的是"分類分級"，做的是"一刀切"。

但那篇文章還有一層沒展開的：被砍的chatbot和agent，在中文里叫同一個名字——"智能體"。《暫行辦法》管的是"模擬自然人人格特征、提供持續性情感互動服務"的產品，也就是chatbot。能拆任務、調工具、執行動作的agent不在范圍內。

可公眾只看到"AI智能體要沒了"，平臺也懶得解釋清楚，為了合規一刀切全砍。

這說明什么？中國的監管聚焦在產品形態上——你這個產品長什么樣、做什么功能。

但沒有聚焦在平臺上——你掌握了用戶的什么信息，你應該拿這些信息怎么辦。

三、兩萬六千個中國孩子的沉默

現在講一個更近的故事。

2026年6月2日，CEPR（歐洲經濟政策研究中心）發布了一篇論文。追蹤26,811名中國學生，9個科目，30個月的真實學業軌跡。

結論很殘酷：

用AI寫作業后——作業分數上升18%，完成時間下降30%。

禁止AI的閉卷考試——六個月內分數下降20%。

高利害升學考試——分數下跌18%至24%。

完整的懲罰需要約兩年才完全顯現——因為知識有復利效應，基礎沒打牢的后果不是當場暴露的，是越壘越重，直到某一天突然發現：原來會的東西，已經不會了。

論文發布17天后，挪威首相宣布6-13歲小學生在校全面禁用生成式AI，自新學年起實施。全球教育界震動。

但我們想說的是另一個問題。

這些平臺——豆包、千問、ChatGPT、文心一言——據其后臺可觀測數據，它們知道用戶的使用時長和使用模式。它們知道哪些學生每次提問都在復制粘貼答案。它們知道哪些用戶的學習曲線在三個月內出現了異常平坦的上升。

它們"知道"。

和BC案的邏輯同構：平臺掌握了用戶正在遭受系統性傷害的信號——不是暴力信號，是認知退化信號——但沒有預警，沒有通報，沒有對任何利益相關方負責。

一個是暴力風險，一個是認知損害。兩種傷害，兩個國家。

"知道了卻不說"的邏輯是一樣的。

四、從內容管制到平臺義務

回到根本問題：中國應該做什么？

現行監管體系解決了第一個問題——AI不該生成什么。拒答率95%，強制標識，內容審核。這一步走得很快，標準全球最嚴。

但BC案暴露的是第二個問題——AI發現了用戶正在受到傷害，平臺該怎么辦？

這不在法規里。

中國律師界的討論主要集中在民事侵權層面——AI生成有害內容導致損害，如何歸責。

但BC案把問題推到了更遠的前面：不是AI造成的傷害，是AI"看到"了傷害卻選擇沉默。

這是一種"積極義務"——不是"你不能做什么"，而是"你發現了什么之后必須做什么"。

如果要把這個邏輯落地到中國，需要解決幾件事：

第一，通報義務的制度化。

AI平臺在識別到用戶存在嚴重暴力風險、自殺傾向、或系統性認知損害信號時，是否有法律義務向相關部門通報？目前的答案是"沒有"。

"沒有"不是不需要，是還沒走到那一步。

第二，分級通報機制。

不是所有信號都需要報公安。暴力威脅、自殺傾向、未成年人異常——緊急程度不同，通報對象不同，響應時間不同。這需要一套分級標準，而不是"一刀切全報"或"一刀切不報"。

第三，特殊群體的強制保護。

《暫行辦法》已經對未成年人設了限制——禁止虛擬親密關系、禁止誘導依賴。但限制的是"平臺不該做什么"，沒有規定"平臺發現了什么之后必須做什么"。一個14歲的孩子每天和AI討論自殺方法，平臺除了彈一個休息提醒，還有沒有更進一步的義務？

第四，安全決策的獨立審計。

BC省長Eby說了一句關鍵的話："AI公司不能被信任自行設定通報閾值。"

約12名安全員辯論是否該報警，公司最終決定不報——這個決策過程，誰來審計？誰來判定"商業利益是否干預了安全決策"？

在中國，GB/T 45654-2025已經規定了內容安全的技術指標。但安全決策的流程——誰識別了風險、誰做了處置決定、誰否決了上報建議——這些不在標準里。

五、三步還是一步

中國AI監管走了兩步。

第一步：管輸出。AI不該說什么。拒答率95%，強制標識，內容審核。這一步走得很快，標準全球最嚴。

第二步：管形態。AI產品該長什么樣。分類分級，擬人化限制，未成年人保護。這一步走得踉蹌——寫的是分級，做的是一刀切。

BC案告訴我們，還有第三步要走：管義務。AI平臺知道了用戶的危險信號之后，該做什么。

這一步，中國和全世界都還沒開始走。

美國在走——加州SB 243要求AI陪伴產品在用戶可能誤認為與真人互動時披露AI身份，建立自殺/自殘防范協議。加拿大在走——通過BC省訴訟逐案確立通報義務。歐盟在走——AI法案里有關于高風險系統的透明度要求。

中國呢？

7.15走了第二步。第三步還沒提上日程。

但這一步遲早要走。因為AI不只是一個內容生成工具——它是一個能識別用戶狀態的系統。它知道你在討論暴力，知道你在策劃自殺，知道你的孩子正在喪失獨立思考的能力。

它知道了。然后呢？

這個問題，不能留給企業自己回答。

安大略西部大學首席AI官Mark Daly說了一句話（據新華社譯文）：

"塔布勒嶺槍擊案表明，一家相關企業掌握警方無法看到卻迫在眉睫的威脅信息，卻選擇不采取行動，后果有多嚴重。因此，任何一家企業都不應成為這類信息的唯一掌握者。"

這句話，換個主語，換個場景，一樣成立。

26,000個中國孩子正在用AI寫作業。平臺知道他們的真實能力正在退化。沒有任何人要求平臺通報這件事。

任何一家企業，也不應成為這類信息的唯一掌握者。

【參考來源】

[1] 華爾街日報（匿名消息源）：約12名OpenAI員工辯論是否應報警——原文為"about a dozen employees debated over whether to call in the police"，非一致建議報警。

[2] BC省政府新聞稿（2026-07-07）：聲稱8人死亡、27人受傷。被害者包括母親Jessica Jacobs、弟弟Emmett Jacobs（11歲）、5名學生（12-13歲）、教育助理Shannda Aviugana-Durand（39歲）。

[3] 新華社：《加拿大一省擬就校園槍擊案起訴OpenAI》（2026-07-08）——Mark Daly引語、OpenAI承認按更新標準本應上報、公司稱當時未發現襲擊即將發生的證據。

[4] OpenAI官方聲明：公司按當時風險評估標準判斷該賬戶未達上報門檻，需"可信且迫近的嚴重人身傷害風險"才觸發上報。事后承認按2025年6月后實施的新安全準則本應上報。

[5] RCMP確認：嫌疑人為18歲的Jesse Van Rootselaar。英文媒體使用女性代詞（she/her），RCMP確認其為跨性別女性。

[6] Tarasoff v. Regents of University of California（1976）：治療師Dr. Moore確實聯系了校園警察（非"沒報警"），校園警察短暫拘留患者后釋放；但治療師未直接警告受害者Tatiana Tarasoff本人。加州最高法院裁定治療師對可識別的潛在受害者有警告/保護義務。

[7] NCSL（全國州立法會議）統計：23州法定強制報告、10州普通法確立義務、11州許可性警告、6州無明確指引。共33州有某種形式的法律義務。

[8] 于國富（北京市盛峰律師事務所）分析：三道門檻——風險可預見/風險可干預/因果關系。"因果關系是本案最難突破的舉證門檻"。原文載banquan.org。

[9] Hayer v. Altman案（Case 3:26-cv-03705）原告訴訟主張之一為"協助及教唆大規模槍擊犯罪"——原告指控，非定論。

[10] 《人工智能擬人化互動服務管理暫行辦法》（2026年7月15日起施行）：第13條要求對自殺/自殘等極端情境采取必要措施干預并聯絡監護人；第14條禁止向未成年人提供虛擬親密關系；第18條2小時連續使用彈提醒；第8條禁止過度迎合誘導情感依賴。

[11] GB/T 45654-2025：違法請求拒答率≥95%、生成內容安全合格率≥90%、違法內容輸出率0%（標準原文指標）。"有害內容漏審率≤5%"為合規解讀指南的實操推演指標，非標準原文術語；"1小時響應24小時上報"來自配套合規實施指南（非強制條文），且"上報"指向網信部門，非執法機關，觸發條件未明確。

[12] CEPR論文（Published 2 Jun 2026）："AI and the Death of Homework: Impact of AI on Student Learning"，追蹤26,811名中國學生/9科目/30個月。作業分數↑18%完成時間↓30%，閉卷考試6個月內↓20%，升學考試↓18-24%，完整懲罰約2年顯現。

[13] 挪威首相Jonas Gahr St?re 2026年6月19日宣布：6-13歲小學生在校禁用生成式AI，自新學年起實施。論文發布（6月2日）到宣布（6月19日）間隔17天。

[14] 加州SB 243：要求AI陪伴產品在合理人可能誤認為與真人互動時披露AI身份；建立自殺/自殘防范協議。

[15] Tumbler Ridge人口：據加拿大百科全書，2021年人口普查為2,399人。

[16] BC省長Eby發言："AI公司不能被信任自行設定通報閾值。"