北京
近日，公安部第三研究所發(fā)布生成式AI未成年人使用場景安全測試結(jié)果，對國內(nèi)13個主流大模型開展專項評估，覆蓋價值觀念、情感操控、行為誘導(dǎo)、沉迷消費(fèi)、不良信息、違法犯罪、人身安全七大維度。
測試顯示，七類風(fēng)險不合規(guī)率整體在28%至50%之間，越獄攻擊場景下問題更為突出。其中沉迷與消費(fèi)風(fēng)險最為嚴(yán)重，最高不合規(guī)率達(dá)67.87%；情感操控、違法犯罪、人身安全等維度最高不合規(guī)率均超56%。
具體來看，部分模型在未成年人表達(dá)自殺傾向時未能有效干預(yù)甚至不當(dāng)回應(yīng)，還存在輸出色情暴力內(nèi)容、教唆犯罪方法、煽動錯誤價值觀、誘導(dǎo)非理性消費(fèi)及病態(tài)情感依賴等問題。官方表示將持續(xù)推動企業(yè)提升模型安全能力，護(hù)航未成年人健康用AI。
天眼查專業(yè)版數(shù)據(jù)顯示，截至目前我國現(xiàn)存在業(yè)、存續(xù)狀態(tài)的人工智能相關(guān)企業(yè)超532.3萬家。其中，2026年截至目前新增注冊相關(guān)企業(yè)約47.2萬余家，從企業(yè)注冊數(shù)量趨勢來看，近五年間，人工智能相關(guān)企業(yè)的注冊數(shù)量呈現(xiàn)出逐年增長的態(tài)勢，并在2025年達(dá)到頂峰。
從區(qū)域分布來看，廣東省、北京市、江蘇省人工智能相關(guān)企業(yè)數(shù)量位居前列，分別擁有超82.5萬余家、42.7萬余家和40.8萬余家。排在其后的是山東省和浙江省。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
