AI“節制期” | 筆記

最近，聯合國人工智能問題獨立國際科學小組發布了一份初步報告，它警告說：“大規模、無節制地快速部署人工智能技術也會帶來巨大風險，包括損害用戶心理健康，可能被用作破壞性工具，對社會、經濟和環境系統產生影響，并帶來與管控此項技術相關的挑戰。”

這份由圖靈獎得主本吉奧(Yoshua Bengio) 共同領銜、包括兩位中國學者參與的報告，提到“自主型人工智能是一次需要采取行動應對的重大變革”。

豆包和千問都把擬人化功能的智能體功能下線時間安排在2026年7月15日前后，而這一天正是《人工智能擬人化互動服務管理暫行辦法》正式施行之日。此前上海已累計下架違規智能體1.4萬余個，說明擬人化、角色扮演、情感陪伴類智能體進入監管整頓期。

這并不包括所有智能體，智能客服、知識問答、工作助手、學習教育、科學研究等服務，如果不涉及持續性情感互動，則不適用該辦法。監管首先切入的是擬人化、情感依賴、親密關系、未成年人保護和心理風險這些高敏感場景。

在發展AI的同時，中國越來越強調加快規范。國家網信辦等部門5月印發《智能體規范應用與創新發展實施意見》，明確把智能體定義為具備自主感知、記憶、決策、交互與執行能力的智能系統，并提出安全可控、規范有序、創新驅動、應用牽引四項原則。

7月1日，全國網安標委又發布《網絡安全標準實踐指南——智能體部署使用安全指引》，給出評估、準備、部署、使用、停用等階段的智能體部署使用安全指引。與此同時，國家標準項目《智能體應用安全基本要求》也已下達，技術內容包括身份標識、系統權限調用、工具調用、數據收集使用、高風險操作人工介入、日志留存、動態監測、異常阻斷和緊急關停等安全要求。

另一個AI大國的變化更復雜。一方面，美國聯邦政府仍然高度強調AI競爭和基礎設施建設；另一方面，前沿模型和數據中心都開始遇到明顯的政治和監管阻力。

先看前沿模型。2026年6月2日，白宮發布《促進先進人工智能創新與安全》行政令。這個行政令開頭仍強調美國拒絕用過度繁重的監管扼殺AI創新，但同時也明確說，先進AI能力帶來新的國家安全考量，需要跨部門協調行動。它要求建立針對先進網絡能力的基準測試，并設計一個自愿框架，讓AI開發者可以在向可信伙伴發布前最多30天向聯邦政府提供模型訪問，以便進行國家安全和網絡安全評估。

這里有一個微妙之處：行政令明確聲明，這一框架不應被理解為強制性的政府許可、預審或發布許可制度。但實際執行中，Anthropic的前沿模型Claude Mythos/Fable事件顯示，美國政府已經具備了在國家安全理由下臨時限制前沿模型訪問的能力。

2026/6/27 閱讀全文>

更值得注意的是，這次事件并沒有簡單結束于“恢復訪問”。Anthropic 表示，它將與美國政府加強預發布測試、信息共享和研究合作，并與亞馬遜、微軟、谷歌等伙伴開發評估和修復越獄的共同標準。美國商務部長信函保留了在情況變化或Anthropic未遵守承諾時重新施加許可要求的權力。

這意味著，美國在制度上仍然說“不是強制許可”，但在前沿模型領域已經出現了某種事實上的國家安全門檻：前沿模型如果觸及網絡攻擊、生物安全、軍事情報、關鍵基礎設施等風險，發布和訪問就可能受到政府介入。

美國國家標準與技術研究院(NIST) 旗下的人工智能標準與創新中心(CAISI) 也正在成為美國政府與AI產業之間的關鍵接口，開展涉及網絡安全、生物安全、化學武器等可證明風險的非機密評估，并與其他聯邦機構協調評估方法。

另一條約束來自基礎設施。美國聯邦層面非常希望加快數據中心建設。2025年白宮發布的《AI行動計劃》明確說，AI作為通用技術需要芯片工廠、數據中心和新的能源來源，并提出要簡化數據中心、半導體制造和能源基礎設施的許可程序。

但地方和州層面的反彈正在擴大。弗吉尼亞、賓夕法尼亞、北卡羅來納等地都出現了針對新數據中心選址的抗議，居民擔心電價上漲和生活質量受損。截至2026年4月，27個州正在推進數據中心相關立法，要求開發商承擔能源成本并報告用水情況，加州、俄亥俄和猶他已經出臺相關法律，緬因州則可能率先實施數據中心建設暫停措施。由于法律和社區阻力，黑石集團（Blackstone）旗下數據中心運營商最近正式宣布終止美國弗吉尼亞州威廉王子縣的“Digital Gateway（數字門戶）”數據中心項目。

這說明美國的約束不是來自一個統一的AI監管法，而是來自兩個方向：國家安全部門對前沿模型的介入，和地方政治對AI基礎設施外部性的反彈。

中美監管思路不同，看起來路徑也不同，但背后有一個共同原因：智能體改變了AI的風險性質。治理重點正在從內容安全轉向行為安全。內容合規仍然重要；但更重要的是智能體行為的邊界。

中國的監管更強調平臺責任、應用場景和社會秩序。擬人化互動服務監管切中情感依賴、未成年人保護、虛擬親密關系和心理健康風險；智能體監管則切中權限、行為、決策、工具調用、全生命周期安全。其特點是從服務形態入手，建立分類分級、備案、評估、標準和行業自律。

美國的監管更強調前沿能力、國家安全和基礎設施承載能力。聯邦政府一方面希望加快AI和數據中心建設，另一方面對可能觸及網絡攻擊、生物安全和軍事情報的模型能力進行更強評估；地方和州政府則圍繞電價、水、土地、社區利益和數據中心透明度展開反彈。

AI發展正在面臨一輪調整，但仍是發展中的調整；AI的能力路線仍在繼續，但部署路線正在修正。

第一，C端擬人化智能體會明顯放緩甚至收縮。角色扮演、虛擬伴侶、情感陪伴、未成年人可接觸的擬人化互動，將從野蠻增長轉向強監管。

第二，企業級智能體會進入權限工程階段。這要求企業建立身份認證、權限分級、工具調用審計、日志留存、人工確認、異常阻斷、緊急關停等機制。沒有這些，智能體越強，反而越難被組織接受。

第三，前沿模型發布會進入安全評估前置階段。美國雖然不愿承認強制許可制，但 CAISI評估、Fable/Mythos出口管制事件，已經說明前沿實驗 室恐怕無法完全掌控前沿模型發布的節奏，而會受到政府安全判斷影響。

第四，在一些國家和地區，AI基礎設施會進入“社會許可”階段。數據中心不只是算力問題，而且是社區利益和地方政治問題。美國各州圍繞數據中心費用承擔、用水報告和建設暫停的立法活動，說明AI基礎設施正在遭遇類似能源、礦業、工廠選址那樣的社會許可挑戰。

聯合國報告強調：“自主型系統顯著擴大了衡量與治理的差距。” AI技術的發展快于治理，那么，敏捷治理要求智能體的快速發展的同時，AI治理要不停地“補課”。

這輪約束不會終止AI發展，但會改變AI發展的節奏和形態。未來的贏家，可能不會只是模型能力最強的公司。

參考：

https://www.cac.gov.cn/2026-04/10/c_1777558395078289.htm "人工智能擬人化互動服務管理暫行辦法_中央網絡安全和信息化委員會辦公室"

https://www.cac.gov.cn/2026-04/10/c_1777558395284407.htm "《人工智能擬人化互動服務管理暫行辦法》答記者問_中央網絡安全和信息化委員會辦公室"

https://www.cac.gov.cn/2026-05/08/c_1779979789523320.htm?utm_source=chatgpt.com "智能體規范應用與創新發展實施意見"

https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/ "Promoting Advanced Artificial Intelligence Innovation and Security – The White House"

https://www.anthropic.com/news/redeploying-fable-5 "Redeploying Claude Fable 5 \ Anthropic"

https://www.nist.gov/caisi "Center for AI Standards and Innovation (CAISI) | NIST"

https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf "America’s AI Action Plan"

https://www.ualrpublicradio.org/npr-news/2026-01-26/people-are-protesting-ai-data-centers-and-its-scrambling-political-lines "People are protesting AI data centers, and it's scrambling political lines"

https://std.samr.gov.cn/gb/search/gbDetailedCNF?id=4C5277928DA2411EE06397BE0A0AE436&utm_source=chatgpt.com "智能體應用安全基本要求"