北京
編輯/嘉嘉
2025年11月8日，在世界互聯網大會烏鎮峰會上，360數字安全集團正式發布《大模型安全白皮書》（以下簡稱“白皮書”）。該白皮書首次系統性闡釋大模型運行時的五大關鍵風險，建設性地提出“外筑‘以模治模’動態屏障，內固‘平臺原生’安全底座”的核心理念，并源于實戰，提供了可落地的安全解決方案，為大模型應用拉起了全鏈路安全防線，助力推動人工智能行業向“安全、向善、可信、可控”方向穩健發展。
（來源：360）
【1】五大風險：大模型安全呈多維復雜態勢，挑戰成指數級
隨著大模型技術加速滲透政務、金融、能源、醫療等重點行業，一個不容忽視的現實是——AI越智能，安全風險越致命。
白皮書以2025年國內外多起典型大模型安全事件為切入點，系統性歸納了威脅大模型安全的五大關鍵風險：
首先是基礎設施安全風險，包括設備控制、供應鏈漏洞、拒絕服務攻擊以及算力資源濫用等問題；其次是內容安全風險，涉及不符合核心價值觀、虛假或違規內容、大模型幻覺，以及提示注入攻擊等；第三類是數據與知識庫安全風險，數據泄露、越權訪問、隱私濫用和知識產權問題日益突出；第四是智能體安全風險，隨著智能體自主性增強，插件調用、算力調度、數據流轉等環節的安全邊界更加模糊；最后是用戶端安全風險，包括權限控制、API調用監控、惡意腳本執行以及MCP執行安全等。
這些風險相互交織，形成傳統安全方案難以應對的復雜威脅矩陣，嚴重威脅個人權益、企業發展乃至國家安全。
（來源：360）
【2】拉起防線：“外掛式安全 + 平臺原生安全”雙軌安全體系
面對上述復雜挑戰，白皮書基于實戰經驗，給出了“外掛式安全 + 平臺原生安全”雙軌治理策略 ——前者像 AI 的 “外部保鏢”，靈活應對實時風險；后者像 AI 的“內置鎧甲”，從根源筑牢安全基礎，兩者配合形成全鏈路防護網。
外掛式安全側重模型外部防護，通過“以模治模”實現對算力主機、軟件生態、輸入輸出內容及模型幻覺的主動監測與防御。
該方式具備
（來源：360）
兩大優勢：一是適配性強、部署成本低，可作為通用組件快速接入不同企業環境，避免重復開發；二是響應迅速，具備獨立監測與攔截機制，可在毫秒級別識別并阻斷實時威脅，如異常算力消耗或惡意內容。
平臺原生安全則聚焦大模型數據、知識庫、智能體及客戶端等環節，將安全能力嵌入核心組件，強化配套組件安全與全流程合規管控。
360提供的企業級知識庫、智能體構建與運營平臺、智能體客戶端等產品，均基于這一理念開發，將安全深度植入平臺底層，全面滿足國家與行業合規要求，為智能體應用提供全鏈路保障。
簡言之，外掛式安全如同“建成后加裝的防盜系統”，平臺原生安全則如“建造時內置的防火結構”，二者協同，從外至內構筑大模型的安全防線。通過這一體系，360實現了主動發現、動態演進的安全檢測能力，有效應對復雜多變的大模型安全威脅。
【3】縱深防御：7大能力守好大模型安全門
（來源：360）
基于 “外防風險、內固架構”的大模型安全核心理念，360給出一份覆蓋大模型安全全鏈路解決方案。該方案通過七大核心產品能力，共同組成“外掛式”與“平臺原生”相結合的縱深防御體系。
其中，“外掛式”安全能力不侵入大模型原生架構，通過外部工具實現靈活、快速的動態防護。該體系下的四大產品——大模型衛士算力主機安全系統、檢測系統、防護系統、幻覺檢測與緩解系統——共同構建了外部屏障，重點應對大模型基礎設施風險，如算力劫持、供應鏈投毒，以及大模型內容風險，如提示詞注入、模型幻覺與違規內容，實現了從算力層到內容層的實時監測與主動防御。
“平臺原生安全” 則如同為大模型應用注入了“安全基因”，將防護能力深度內嵌于其核心組件之中。這一理念具體體現在三大平臺產品上：企業級知識庫從根本上守護數據與知識安全；智能體構建和運營平臺確保智能體行為全程可控；智能體客戶端則筑牢用戶端入口的安全防線。三者協同，從底層架構解決了數據泄露、智能體行為失控及終端濫用等內生性安全挑戰，為AI應用的穩定可靠運行奠定了內生性基礎。
據悉，目前，360已將這一能力落地政務、金融、制造等各行業，真正讓大模型安全從“理論變成“能落地、能管用”的實戰方案。
未來，還將聯合產學研各界，共同推動安全標準建設與技術共享，攜手共建安全、可信的AI生態。讓AI世界更安全、更美好。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
