學習進行時 | 筑牢人工智能時代文化安全防線

筑牢人工智能時代文化安全防線

李意

習近平總書記明確指出，“面對生成式人工智能等新技術的涌現，要統籌好發展和安全”。人工智能是新一輪科技革命和產業變革的重要驅動力量，深刻改變著信息生產、傳播和消費的生態格局，也給意識形態安全和文化安全帶來前所未有的系統性挑戰。在這一背景下，構建適應數智時代的風險識別、預警、處置與協同治理新機制，成為維護國家意識形態安全的緊迫課題。我們要積極運用智能技術提升治理效能，以算法治理算法，以智能賦能治理。將技術創新與制度建設有機統一、技術理性與價值理性深度融合、精準治理與協同治理協同推進，方能有效應對人工智能時代的意識形態和文化安全挑戰，為實現國家治理體系和治理能力現代化注入強勁的智能動力。

人工智能時代的文化安全挑戰

人工智能技術的深度嵌入，改變了意識形態和文化風險的發生機理、傳播樣態和治理邏輯。

從風險生成的技術邏輯來看，算法技術不僅獲得了支配物質資源的權力，也獲得了支配精神資源的權力。在意識形態領域，算法技術的賦能強化了傳統意識形態風險，算法的自我進化制造了意識形態黑箱，這些因素共同構成了數字時代影響意識形態和文化安全的新變量。大模型在數據投喂、算法訓練等環節容易受到操縱，出現污染投毒和算法偏見等問題。這意味著，意識形態和文化風險已不再是單純的內容管控問題，而是深嵌于技術架構之中的結構性挑戰。

從傳播形態的風險演化來看，人工智能正在消解傳統信息傳播的可控邊界。生成式人工智能依靠“指令—輸出”的交互模式，其底層的算法通常會根據用戶偏好進行持續的內容推送，極易造成同類信息不斷積累，形成阻礙人們接觸多元觀點的認知“壁壘”，把用戶困在強化自身既有認知的“信息繭房”里。長此以往，不僅損害公共討論的共識基礎，還可能對主流意識形態的傳播效能和社會安全穩定產生深層次且較為隱蔽的威脅。深度偽造、AIGC幻覺、算法殖民等應用風險，給社會主義主流意識形態的信息傳播、價值認同和范式重構帶來巨大挑戰。

從風險作用的認知深度來看，人工智能已將風險介入從信息層擴展到認知層。生成式人工智能通過看似中立、自然的交流，可持續輸出具有特定傾向的敘事框架與價值判斷，長期滲透將潛移默化地影響用戶的價值觀念、歷史認知與政治認同。這種認知塑造比傳統的信息污染更為隱蔽，治理難度也更大。

四個層面構建精準治理新機制

上述因素共同構成數字時代影響意識形態和文化安全的新變量，要求我們必須將人工智能作為風險治理的重要手段而非被動應對對象，推動風險治理從“人工監測、事后處置”向“智能預警、精準干預”轉型。具體而言，可以從以下四個層面系統推進。

構建科學化的風險預警與評估機制。將人工智能技術與意識形態風險評估深度融合，構建具有前瞻性和精準性的預警體系。具體路徑包括：加強預警理論研究以提升預警科學性，強化預警技術治理以增強預警精準性，優化預警管理機制以提升預警時效性。開發基于大數據的風險預測模型，通過對歷史數據的深度學習和多維度分析，實現風險等級的分級分類評估。建立紅、橙、黃、藍四級預警體系，對不同等級的風險匹配差異化的響應策略。在高校等重點領域，可構建動態化的風險預警評估制度，結合師生思想動態、網絡輿情走勢、重大事件節點等因素進行綜合研判，實現風險的早發現、早預警、早處置。

建立智能化的風險識別與監測機制。運用自然語言處理、知識圖譜、多模態識別等人工智能技術，構建覆蓋全網、全天候的風險智能監測平臺。在技術層面，建立針對主流價值導向的敏感內容識別模型，提升對隱晦化、變異性內容的識別能力；在平臺層面，推動主流媒體和重點網絡平臺接入統一監測體系，實現關鍵數據的實時融通；在算法層面，開發具有敏感度的風險識別算法，能夠從海量信息中精準捕捉可能影響輿情和思想的內容苗頭。同時，要警惕算法偏見和數據污染問題，在算法訓練中嵌入主流價值導向，確保監測系統的公正性和可靠性。

打造智能化的風險研判與干預機制。在風險預警和識別的基礎上，利用人工智能技術輔助進行風險研判和處置決策。具體而言，可建立基于大模型的風險輔助研判系統，通過對海量信息的智能分析和關聯挖掘，為決策者提供風險評估報告、應對策略建議和效果預測。在干預層面，探索“人機協同”的治理模式，人工智能系統負責信息的初級篩查和自動處置，將具有較高敏感性和復雜性的風險推送至人工審核環節，實現效率與安全的平衡。同時，開發基于主流價值導向的智能內容推薦算法，讓主流價值觀不斷擴大其影響力。

構建多元協同的智能治理共同體。風險精準治理是一項系統工程，需要政府、平臺、高校、研究機構和社會力量協同參與。在頂層設計層面，加快構建覆蓋算法設計、數據治理、內容審核全鏈條的智能治理制度體系，將主流價值觀原則轉化為算法規則。在平臺治理層面，加強對算法應用平臺的行業規制，通過完善法律體系和行業規則，形成對算法應用的群體共識。在人才保障層面，加強對算法工程師的倫理訓練，增強其政治意識，建設具有政治責任感的算法工程師隊伍。在高校層面，加快培養既懂人工智能技術又熟悉意識形態工作的復合型人才。

（作者為浙江省習近平新時代中國特色社會主義思想研究中心浙江財經大學基地研究員）

來源：浙江日報

一鍵關注