如何治理AI“一本正經”地胡說八道

用DeepSeek生成一份調研報告初稿，用豆包潤色工作郵件，用通義聽悟整理會議紀要……生成式人工智能正嵌入日常辦公的每一個環節。它憑借出色的語言組織能力、迅捷的應答反饋，以及看似科學的輔助決策，贏得了眾多用戶的青睞。然而，當人們越來越習慣于將“像那么回事”的回答直接采納為“就是那么回事”的依據時，一個潛在的問題會被忽略，即AI會“一本正經”地胡說八道。

與一般程序性錯誤不同，AI幻覺往往并非“無法作答”，而是“答得很像，卻未必是真的”。它以語言流暢、邏輯完整乃至頗具權威感的方式生成錯誤內容，這更容易誤導使用者。尤為重要的是，當此類內容借助平臺傳播擴散后，其影響不再是一次信息失真，更可能危及公眾判斷與社會信任。2026年4月，工業和信息化部等十部門聯合印發《人工智能科技倫理審查與服務辦法（試行）》（以下簡稱《辦法》），明確提出強化風險監測預警、檢測評估、認證、咨詢等服務供給。AI幻覺的應對已不再是單純的技術修補問題，而需置于更宏大的治理框架之中。

技術釋放效率 虛假自洽成真

技術越善于表達，人的判斷越不能缺席。AI幻覺之所以成為治理難題，是因為風險在生成、分發與使用的連續過程中被逐級放大并加固。生成式人工智能的生產邏輯是根據上下文組織語言，本質是基于詞句間的概率關聯，而非經過事實核驗的人類認知過程。當面對信息不足或超出訓練數據范圍的情形時，生成式人工智能不僅不會輕易中止輸出，還會沿既有語境將缺失信息“補齊”。問題在于，補齊的內容往往不是明顯失真的胡亂拼接，而是摻雜真實信息的順暢表述——人物、時間、出處之間形成表面自洽，讀上去如同經過系統整理與事實核查過的結論。更值得警惕的是，隨著模型能力提升，推理步驟拉長、說明內容增多，答案的完整感與權威感也隨之增強。在此情景下，錯誤內容被包裝得更為嚴密，識別難度因此進一步加大。

當AI幻覺進入傳播環節后，誤答經過摘錄、轉發、改寫，迅速脫離原始語境，接入更廣的內容流通鏈條。平臺依賴點擊、停留、互動數據判斷內容價值，那些表述明確、帶有“知識口吻”的內容更易獲得關注。失真內容往往裝扮得比需要核查的事實材料更像現成答案，因而更易被快速消費和擴散。經過多輪復述，原始錯誤細節被不斷抹平，留下更簡化也更像共識的說法。糾錯所面對的，已是經過傳播機制加固的失真版本。

智能向善而行 責任貫穿始終

正因為AI幻覺難以完全消除，治理就不能僅圍繞生成式人工智能本身，還應將目光擴展至應用鏈條、平臺機制與使用環境。韌性治理，是在承認技術不確定性的前提下，使系統具備承壓、緩沖與修復的能力，其重在偏差出現后能被及時發現、止于局部而避免沖擊持續外溢。《辦法》的出臺，意味著我國人工智能倫理治理從原則倡導向制度化、全鏈條的關鍵跨越。以此為依托，AI幻覺的韌性治理可從以下三個層面推進。

在制度層面，以分層定風險，以精準配資源。不同場景風險迥異，治理不宜“一刀切”。用于醫療、法律、金融、公共服務等領域的人工智能，容錯空間小，審核、備案、追責應更為嚴格；用于一般信息檢索、日常辦公與創意輔助的人工智能，則可采取相對簡化的程序。《辦法》構建的“預防、服務、監管”三位一體體系，既將監管資源集中于高風險領域，又避免過度規制而抑制技術活力。值得關注的是，已有機構邁出了探索步伐。百度健康發布“滿天星公益計劃”，針對大模型輸出醫學內容時的幻覺問題，設計“AIGC+真人審閱”審核流程，將醫學幻覺攔截在傳播之前。階躍星辰推出的“深度核查”產品，則通過專門識別AI幻覺的技術，為行業提供了可信的AI實踐路徑。

在技術層面，以核驗筑防線，以反饋促閉環。治理不能單純寄望于模型自我修正，需在應用流程中增設必要核驗環節。例如，在高風險場景中引入檢索增強生成、知識庫比對、人工抽查等措施，形成“生成—核驗—反饋”閉環，將錯誤攔截于關鍵決策之前。對平臺而言，亦需對高傳播性內容建立更穩健的審核與糾偏機制，防止失真內容借助算法快速擴散。事實上，AI的“另一面”也在悄然釋放溫暖。近期，大連一名19歲青年因情感糾葛萌生輕生念頭，在豆包上搜索相關信息。平臺瞬間捕捉到危險信號，第一時間啟動暖心干預機制，全程溫柔勸導、耐心安撫，引導其撥打報警電話。隨后公安、村委會等多方力量火速集結，成功挽救了年輕的生命。AI既會“一本正經”地胡說八道誤導人，也會在生死攸關之際溫柔地拉人一把。因此，技術本身無所謂善惡，關鍵在于我們如何設計、治理和使用。

在使用層面，以素養促判斷，以共責筑韌性。AI工具越普及，人越需要有清醒的判斷能力。現實中，不少誤用源于對流暢表達的過度信賴，將“表述像”等同于“表述對”。AI素養提升的重點不在于教會人們如何使用工具，而在于如何識別其局限、如何進行交叉核驗、如何判斷哪些場景不能直接采信機器輸出。歸根結底，培養AI素養就是培養使用者在采信之前主動溯源依據、比對來源、界定邊界。每一次對可疑輸出的質疑、每一次交叉核驗后的反饋，都在為生成式人工智能積累校正的數據資本。將人的判斷、人的主觀能動性置于關鍵環節，技術應用才不至于演變為責任空轉。韌性治理的最終落腳點，在于激活每一個使用者的判斷意識，讓技術回歸工具本位，讓人的價值理性始終在場。

AI幻覺治理歸根結底是對信任的維護。社會對人工智能的期待，不僅在于能否生成內容，更在于是否可靠、出問題后能否糾正、風險出現后能否追溯。若治理僅強調“減少錯誤”，則難以回應公眾對安全與可信的關切。每一次未被糾正的AI幻覺，都是對信任機制的微小侵蝕，當這種侵蝕日積月累，最終動搖的將是整個數字信息生態。韌性治理的深層邏輯在于，信任依靠“出錯了能看見、能追究、能修復”的能力來積累。同時也要清醒地認識到，韌性治理的目的并非讓懷疑成為人機交互的常態。合理質疑是必要的，但若每一次AI輸出都審慎檢視，信任便終將無法真正建立，過度懷疑反而會讓技術應用的效率優勢蕩然無存。因此，韌性治理的高階目標在于在“輕信”與“多疑”之間找到平衡點，既不讓流暢的表達遮蔽事實的核查，也不讓持續的質疑消解技術的價值。AI幻覺治理所重塑的不僅是人對機器的信任，更是人與人之間經由可靠信息中介而建立的間接信任。AI技術仍將持續發展，盡早建立穩健的治理框架，使模型有邊界、平臺有責任、使用者有判斷、制度有回應，方能在技術演進中守住信任底線。

本文系國家社科基金重點項目“共同體視域下互聯網傳播與社會認同空間互構研究”（24AXW008）階段性成果

作者系西安外國語大學新聞與傳播學院文化數智化出海研究中心研究員

來源 ： 中國社會科學報

責任編輯： 王亮

新媒體編輯：程可心

如需交流可聯系我們