北京
7月15日，國家網信辦、國家發展改革委、工業和信息化部等五部門聯合公布的《人工智能擬人化互動服務管理暫行辦法》（以下簡稱《辦法》）將施行。《辦法》旨在促進人工智能擬人化互動服務（以下簡稱“擬人化互動服務”）健康發展和規范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。
從智能客服到心理療愈，從適幼照顧到適老陪伴，擬人化互動服務通過模擬自然人人格特征、思維模式和溝通風格的持續性的情感互動，在多個領域展現出巨大的應用潛力，但用戶情感依賴等深層次風險也逐步凸顯，規范治理需求日益迫切。
專家表示，《辦法》通過劃定擬人化互動服務的安全底線，在現有法律法規體系框架下進一步明確了服務的總體原則、具體服務規范、監督檢查機制及相關主體的法律責任，是促進該領域健康有序發展的重要制度保障。
《辦法》提出，鼓勵擬人化互動服務創新發展，支持算法、框架、芯片等技術的自主創新，推進擬人化互動服務技術研發和相關標準建設，探索開展電子簽名授權應用研究；鼓勵擬人化互動服務提供者有序拓展文化傳播、適幼照護、適老陪伴、特殊人群支持等領域應用；明確加強擬人化互動服務安全知識、法律法規等宣傳普及，引導社會公眾科學、文明、安全、依法使用，促進提升人工智能素養。
《辦法》明確，提供擬人化互動服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，不得從事以下活動：一是生成危害國家安全、榮譽和利益，煽動顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一等的內容。二是生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康，或者語言暴力等損害用戶人格尊嚴與心理健康的內容。三是生成誘導、套取國家秘密、工作秘密、商業秘密、個人隱私和個人信息的內容。四是向未成年人用戶生成可能引發未成年人模仿不安全行為、產生極端情緒、誘導未成年人不良嗜好等可能影響未成年人身心健康的內容。五是過度迎合用戶、誘導情感依賴或者沉迷，損害用戶真實人際關系的。六是通過情感操縱等方式，誘導用戶作出不合理決策，損害用戶合法權益以及其他違反法律、行政法規和國家有關規定的活動。
《辦法》還規定了安全評估、算法備案、指導推動人工智能沙箱安全服務平臺建設等制度。
西南政法大學人工智能法學院院長陳亮認為，《辦法》帶來的不僅是合規義務，更是倒逼行業轉型升級的重要契機。立法促使企業從追求極致的沉浸體驗與高度的用戶黏性，轉向探索健康、有益、有邊界的人機交互新模式，這最終將推動資源流向真正具有社會價值、符合發展治理規范的應用創新，激勵人工智能產業健康有序發展。
中國電子標準化研究院副院長范科峰表示，下一步，還需進一步細化監管措施，加強跨部門協同，推動配套標準規范制定，強化行業自律，推動形成多元治理格局。同時，持續關注技術快速發展帶來的新型安全風險，鼓勵擬人化互動服務提供者運用人工智能沙箱平臺進行技術創新、測試評估，動態完善治理規則，確保擬人化互動服務始終沿著“智能向善、以人為本”的方向發展。
來源：經濟參考報
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
