800萬個AI角色，被大廠親手關掉

林夕花了很長時間，在豆包上搭建了一個屬于自己的AI 智能體。

失眠的夜晚、內耗的時刻，她都能找它傾訴。對她來說，它不只是一個能回答問題的工具，更像一個穩定的情緒樹洞。

7月4日，她收到通知：這個陪了她兩年的角色，將在11天后從豆包下線。

同一天，通義千問也發出類似公告。此前，騰訊元寶已經先一步下線智能體功能。

這些用戶親手創造的AI角色，正在陸續下線。

作者 | 方遠

編輯 | 小雨

中斷陪伴

林夕收到通知的那一刻，第一反應是"背刺"。

“這個自定義智能體是我穩定的情緒樹洞，總能穩定共情、幫我疏導負面情緒。”而現在，這個陪了林夕兩年的角色，即將在11天后從豆包下線。

她沒想到，一個陪伴自己兩年多的角色，會突然說沒就沒。

7月4日，豆包與通義千問同步發出公告：智能體功能將于7月15日正式下線。

這個日期并非隨機，7月15日正是《人工智能擬人化互動服務管理暫行辦法》正式施行的日子。

通義千問動作更快一些，其擬人化互動類智能體將于7月10日提前下線，7月15日后所有歷史對話記錄都將無法訪問。

林夕把它當成情緒樹洞，但在智能體廣場里，這類角色很容易走向另一面。

打開千問智能體廣場，“病嬌校草”使用次數高達 29.9 萬，“林熙：頂級財閥少爺，冷酷且占有欲強”顯示 13.4 萬次，“病嬌老婆”等角色使用次數普遍在 7 萬次以上。

這些名字本身，就已經不是普通工具的語境。它們更像戀愛游戲、角色扮演，甚至虛擬伴侶。

而這些角色面對的，也不只是成年人。

一位小學生家長告訴記者，她之前給孩子用過豆包。后來她發現，孩子越來越喜歡和豆包聊天，不只是問問題，也會把日常瑣事講給它聽。

時間一長，她開始擔心孩子會不會因此減少和同學、家人的真實交流，于是主動卸載了豆包。

在她看來，很多智能體已經不只是聊天工具，而是帶著角色扮演、戀愛游戲、虛擬男友一類的功能。內容參差不齊，有些還帶著“擦邊”意味。

她認為，平臺下架用戶自建智能體對未成年人利大于弊。

林夕的痛苦與這位家長的釋然，擠在同一個廣場里。

這場變化并不只發生在豆包和千問身上。

6月30日，騰訊元寶已先一步下線智能體功能，“相柳”等影視角色對話入口不再展示。

幾家頭部AI平臺幾乎在同一時間做出相似選擇，背后主要是合規壓力。

豆包給出的解釋是，海量開放式智能體會帶來很大的審核壓力。一旦出現違規內容，可能影響主產品的合規資質。

因此，豆包選擇把智能體拆分到垂直App“貓箱”里，單獨搭建審核、分級和防沉迷體系。

這套解釋放在兩年前，很難想象。

2024年5月，時任字節跳動產品和戰略副總裁朱駿曾對外透露，豆包上已有超過800萬個智能體被創建，月活躍用戶達到2600萬。

當時，這些數字代表的是平臺的活躍度和想象力。

兩年后，它們變成了平臺必須重新處理的審核壓力。

從大力推廣，到主動收縮，中間只隔了兩年。

開放式智能體的問題，也在這一刻被擺到臺前。

風險難控

問題最先暴露在平臺之外。

廣州互聯網法院審理的一起案件里，被告公司開發了一款AI對話機器人，通過調用手機系統底層權限，繞開原告平臺的技術管理措施。

更離譜的是，被告官網還發布了“版本偽裝”教程和虛假申訴指引，教用戶躲過平臺風控。

平臺剛設好規則，另一邊就有人研究怎么繞過去。智能體一旦被放出去，平臺要管住它，并不容易。

技術調用之外，安全問題也在被反復驗證。

今年2月，哈佛、麻省理工、斯坦福等高校聯合完成《混沌智能體》研究。

研究團隊模擬真實企業環境部署AI智能體，兩周內記錄下11起嚴重安全漏洞。

這些漏洞不是靠復雜攻擊打出來的。很多時候，只要通過社交工程對話，就能讓智能體做出越界動作。

它可能在轉發郵件時帶出社保號、銀行賬戶等敏感信息，也可能在攻擊者偽造身份后，交出系統最高管理權限。

有報告顯示，60%的企業無法終止異常AI智能體，63%沒法限制其使用范圍。

也就是說，很多智能體并不是發現問題后按下暫停鍵就能解決。

它能做什么、做到哪一步、出了問題誰來攔，都是平臺必須面對的現實問題。

比技術問題更麻煩的，是內容和情感關系。

AI的“共情”并不是真的理解用戶，而是根據算法和數據生成回應。為了讓用戶愿意繼續聊下去，它往往會表現得足夠耐心、足夠溫柔，也足夠順著用戶。

這正是擬人化智能體吸引人的地方，也是風險所在。

用戶在一次次聊天里交出自己的情緒、偏好、關系困擾和心理狀態。智能體則不斷給出回應，接住情緒，維持陪伴感。

時間一長，它就不只是一個工具，而可能變成用戶越來越離不開的對象。

開放廣場一旦做大，問題不會只停留在擦邊人設和戀愛陪伴上，還可能滑向更明確的違規內容。

4月10日，國家網信辦等五部門聯合公布《人工智能擬人化互動服務管理暫行辦法》，把這些風險寫進了具體規則。

辦法明確，不得生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康的內容；不得向未成年人生成可能引發模仿不安全行為、產生極端情緒的內容；不得過度迎合用戶，誘導情感依賴或沉迷，損害用戶真實人際關系。

這些要求，對平臺來說不是提醒，而是責任。

7月15日之后，擬人化互動服務正式進入新規約束。

豆包、千問、元寶在這個時間點前后陸續收手，也就不難理解。

大廠轉身

智能體下線之后，平臺并不是不要Agent了。

變化在于，過去那種由用戶隨意創建、放在廣場里供人使用的智能體，越來越難繼續留在主產品里。

一位行業人士告訴記者，最早大家做這些智能體，是因為那時還沒有真正意義上的Agent能力，很多功能需要開發者自己搭出來。

但現在，情況已經變了。

Manus等綜合Agent出現后，一個模型可以同時調用搜索、推理、辦公、編程等多種能力。用戶不一定還需要專門去找某個垂直智能體。

那些曾經看起來豐富的角色和插件，在更強的模型能力面前，開始顯得沒有那么必要。

這也是平臺敢于收縮的原因之一。

對大廠來說，下線智能體會帶來一部分用戶不滿，但它未必會真正影響主產品的使用習慣。

行業人士也提到，真正還在持續創建這類智能體的人已經不多了，它對平臺整體流量的影響有限。

合規之外，成本也是另一筆賬。

互聯網平臺的邏輯是，用戶越多，規模效應越明顯，邊際成本可能越低。但大模型不一樣，每一次對話、每一次調用，都意味著新的算力支出。

6月下旬，火山引擎披露，豆包大模型日均Token使用量已突破180萬億，相比 2024年5月增長1500倍。

幾天后，豆包開啟付費功能，重點面向辦公、Agent等更復雜的生產力場景。

這兩件事放在一起看，平臺的取舍就更清楚了。

一邊是持續膨脹的算力成本，另一邊是審核壓力大、商業價值不清晰的用戶自建智能體。

繼續把它們放在主產品里，已經不劃算。

于是，豆包選擇把智能體拆出去，遷到垂直App“貓箱”里，單獨搭建審核、分級和防沉迷體系。千問則更直接，截至7月4日，創建智能體的入口已經從頁面上消失。

方式不一樣，但結果都一樣。

與此同時，另一類智能體正在被推到前臺。

7月4日，廣州發布了“穗智政”政務人工智能中樞。它采用統一底座、集約建設的方式，已經建成28個智能體，年內還將完成50個，覆蓋100個應用場景。

和用戶自建智能體不同，這些政務智能體從一開始就被放在統一管理框架下。

每個智能體服務什么場景、能調用什么能力、由誰來維護，都有更明確的邊界。

同樣是智能體，一個方向是開放廣場里的海量創建，另一個方向是平臺統一管理、按場景建設。

前者曾經代表熱鬧，后者更符合現在平臺想要的確定性。

短短兩三年，行業競爭的重點已經變了。

早期平臺希望用海量智能體做出繁榮感，讓用戶和開發者不斷創造新角色、新工具。

現在，隨著模型能力提升、監管要求落地、商業化壓力變大，平臺更看重的是一個Agent能不能真正完成任務，能不能被管理，能不能產生清晰的價值。

800 萬個用戶自建智能體曾經是增長故事的一部分。

現在，它們變成了必須重新處理的問題。

智能體不會消失，但那種誰都可以創建、誰都可以扮演、誰都可以被陪伴的階段，正在結束。