螞蟻集團(tuán)開源兩款A(yù)I安全模型 覆蓋智能體與多模態(tài)安全場(chǎng)景

【TechWeb】7月13日消息，螞蟻AI安全實(shí)驗(yàn)室宣布開源智能體安全護(hù)欄SingGuard-NSFA，并同步披露多模態(tài)安全護(hù)欄SingGuard的詳細(xì)信息。兩款模型分別面向“自主執(zhí)行的智能體”和“多模態(tài)交互的大模型”兩大前沿場(chǎng)景 。

SingGuard-NSFA

隨著智能體從“回答問題”逐步走向“自主辦事”，AI開始調(diào)用工具、執(zhí)行代碼、編排多步任務(wù)，安全風(fēng)險(xiǎn)已經(jīng)不僅停留在內(nèi)容層面，而更多體現(xiàn)在行為層面。提示詞注入、敏感信息竊取、惡意代碼執(zhí)行、資源耗盡、權(quán)限濫用等問題，傳統(tǒng)內(nèi)容審核體系難以有效覆蓋。

針對(duì)這一痛點(diǎn)，螞蟻AI安全實(shí)驗(yàn)室推出SingGuard-NSFA，在智能體執(zhí)行動(dòng)作之前完成實(shí)時(shí)安全檢測(cè)，從請(qǐng)求攔截和響應(yīng)兜底兩端構(gòu)建行為安全防護(hù)體系。

SingGuard-NSFA基于CIA（保密性、完整性、可用性）原則，結(jié)合OWASP等國際安全指南，將智能體風(fēng)險(xiǎn)細(xì)分為7大類、28個(gè)中類和185個(gè)具體場(chǎng)景，并建立覆蓋133種語言、近10萬條樣本的智能體安全評(píng)測(cè)體系。

在技術(shù)實(shí)現(xiàn)上，SingGuard-NSFA兼顧了安全審計(jì)和實(shí)時(shí)防護(hù)兩種需求。它提供兩種工作模式：一種模式可以逐條生成詳細(xì)的風(fēng)險(xiǎn)分析報(bào)告，方便事后審查和合規(guī)記錄；另一種模式則能在50毫秒左右完成單次風(fēng)險(xiǎn)判定，適合線上高并發(fā)場(chǎng)景下的實(shí)時(shí)攔截。并提供0.8B、2B、4B、9B四種模型規(guī)模，滿足不同部署需求。

多項(xiàng)公開評(píng)測(cè)顯示，SingGuard-NSFA在智能體輸入、輸出安全檢測(cè)中均取得領(lǐng)先表現(xiàn)。其中，0.8B模型即可達(dá)到8B模型性能水平，新增風(fēng)險(xiǎn)類別時(shí)僅需訓(xùn)練輕量模塊，無需重新訓(xùn)練整個(gè)模型，可進(jìn)一步提升現(xiàn)有安全護(hù)欄的檢測(cè)能力。

SingGuard

與智能體操作安全并行的另一條防線，是多模態(tài)交互場(chǎng)景下的內(nèi)容安全。今年6月，Anthropic發(fā)布旗艦?zāi)Ｐ虲laude Fable 5，數(shù)日內(nèi)即被研究者用Unicode字符和西里爾字母替換敏感詞繞過了安全護(hù)欄——模型能還原原意，分類器卻視其為陌生拼寫，系統(tǒng)提示詞因此被套出。這表明，模型越能讀懂變形文字、圖片和跨模態(tài)信息，傳統(tǒng)關(guān)鍵詞識(shí)別式的護(hù)欄就越力不從心。

SingGuard正是為此設(shè)計(jì)的多模態(tài)安全護(hù)欄。它面向文本、圖片及跨模態(tài)內(nèi)容建立統(tǒng)一安全判斷框架，可識(shí)別攻擊者將惡意動(dòng)作隱藏在文字、圖片等不同模態(tài)中的復(fù)雜攻擊。同時(shí)支持運(yùn)行時(shí)動(dòng)態(tài)加載自然語言安全規(guī)則，無需重新訓(xùn)練模型即可完成規(guī)則更新，更適用于規(guī)則持續(xù)演進(jìn)、業(yè)務(wù)流量較大的生產(chǎn)環(huán)境。

在推理機(jī)制上，SingGuard采用“快慢結(jié)合”模式：先快速完成初步判斷，只有面對(duì)復(fù)雜場(chǎng)景時(shí)才啟動(dòng)進(jìn)一步推理，在保證效率的同時(shí)提升檢測(cè)準(zhǔn)確率。

在覆蓋文本查詢、文本回復(fù)、圖像、多模態(tài)和多語言的6大類評(píng)測(cè)中，SingGuard在35個(gè)數(shù)據(jù)集及評(píng)測(cè)切分上的平均F1均為最高。其對(duì)比對(duì)象涵蓋Llama Guard 3、谷歌ShieldGemma、GPT-5.1、Gemini3-Pro等業(yè)內(nèi)最具代表性的主流護(hù)欄，SingGuard均實(shí)現(xiàn)全面領(lǐng)先。

中國信通院人工智能研究所安全治理部副主任呼娜英表示，隨著大模型從內(nèi)容生成邁向自主執(zhí)行，AI安全正從內(nèi)容審核延伸至行為管控和系統(tǒng)治理，成為智能體規(guī)?；瘧?yīng)用的重要基礎(chǔ)能力。螞蟻AI安全實(shí)驗(yàn)室已針對(duì)開源智能體框架OpenClaw開展專項(xiàng)安全審計(jì)，并于今年4月聯(lián)合清華大學(xué)開源智能體安全防御插件ClawAegis，為自主智能體提供覆蓋全生命周期的安全防護(hù)能力。此次SingGuard-NSFA與SingGuard多模態(tài)安全護(hù)欄相繼開源，是螞蟻集團(tuán)持續(xù)推進(jìn)AI安全技術(shù)研發(fā)和開放生態(tài)建設(shè)的重要實(shí)踐。

這些安全技術(shù)的研發(fā)與開源，建立在螞蟻集團(tuán)二十余年的安全技術(shù)積累之上。依托在支付安全、數(shù)據(jù)安全、隱私保護(hù)和風(fēng)險(xiǎn)治理等領(lǐng)域的長期實(shí)踐，螞蟻持續(xù)完善AI安全體系，相關(guān)能力已應(yīng)用于螞蟻阿福、AI版支付寶“阿寶”、支付寶“AI付”等業(yè)務(wù)場(chǎng)景。