當機器開始思考，人類如何與之相處？（求解時代之問①）

來源：人民日報海外版

AI制圖

AI制圖

2026世界人工智能大會現場，桌面級Origin F1。Origin F1是首形科技面向桌面交互場景打造的標準化AI仿生交互平臺。它將大模型的對話能力、感知能力與情緒表達能力，轉化為可面對面交流的實體機器人形態。王 初攝（人民視覺）

人工智能正以前所未有的速度重塑世界。從實驗室走向生產生活，從工具輔助邁向深度參與，人工智能不僅改變著技術創新和產業發展，也在叩問人類社會的運行規則與價值邊界。

在2026世界人工智能大會上，圍繞人工智能發展，四個值得國際社會共同思考的時代之問被提出：當機器開始思考，人類如何與之相處？當算法參與決策，安全如何保障？當技術挑戰倫理，治理如何跟上？當鴻溝不斷拉大，普惠如何實現？這四個問題，既關乎技術演進的方向，也關乎人類文明的未來。

本版今起推出“求解時代之問”系列報道，邀請相關領域專家深入對話，從技術、產業、治理、倫理等多個維度，剖析問題背后的深層邏輯，探尋人工智能健康發展的現實路徑。

第一期聚焦“當機器開始思考，人類如何與之相處”。當人工智能從執行指令的工具，逐漸成為能夠感知、生成、推理、協同的智能體，人機關系正在發生深刻變化。技術不斷突破，“人—AI關系”如何劃定？人類未來如何與人工智能同行？本報記者采訪了北京郵電大學人工智能學院教授朱孔林、廣東省數字產業研究院執行院長李德豪。

——編者

記者：在2026世界人工智能大會上提出的“人工智能四問”中，“當機器開始思考，人類如何與之相處？”作為四問之首被提出。您認為，這一問題為何成為人工智能發展中需首先回答的問題？其背后的深層內涵是什么？

朱孔林：這一問實質是人工智能的“根本”之問。人工智能正逐步從被動指令型的工具算法發展為主動決策型的機器。今天的AI大模型和智能體能獨立寫方案、做醫療初判、參與企業決策、自主操控設備，甚至形成人類難以完全預判的輸出邏輯，變成了“會思考的機器”。因為有了“可以思考的機器”，在和人類相處過程中才有了后面的AI安全、治理和普惠的問題。

AI已經深度嵌入生活的方方面面，我的學生會使用AI進行科研探索，父母和老人會使用AI進行聊天和陪伴……小到日常溝通、職業選擇，大到公共安全、資源分配，所有人都在和具備思考能力的智能系統共存。但人們在和AI相處中害怕被AI替代。如果缺少統一、清晰的相處準則，會快速滋生社會矛盾，例如人機權責模糊、數字鴻溝拉大等。只有先回答相處問題，才能給社會大眾建立穩定、可預期的人機共存秩序。人工智能本身無善惡，風險來源于人與AI的互動模式。把相處問題放在第一位，相當于在技術高速發展前，先錨定一條價值紅線：AI永遠服務于人，而非支配人，這是所有人工智能發展不能動搖的底層準則。

如何以人為本平衡AI的工具屬性和類人屬性，是這一問題的基礎內核。在機器有了像人類的思考能力甚至超過人類的思考能力時，人類如何守住情感溫度、價值判斷、道德堅守和創新靈性等獨特價值，重新定義人在智能時代的主體地位和發展方向，是人的發展問題；機器會思考、能決策，但是AI也會出事故、有錯誤的判斷，誰來承擔AI決策或應用引發的責任，是人機相處中權責判定的底線問題；最后，技術服務于人，還是人適配技術？我們強調AI作為技術服務于人類社會，而不是人類成為AI的附庸，這是“以人為本”的人機相處終極問題。

記者：人工智能的發展正在改變人與機器之間的關系。您認為，是什么推動“當機器開始思考，人類如何與之相處”成為當前必須面對的時代之問？

李德豪：這個問題的出現，源于AI的三個跨越。首先是能力跨越。從語言模型到具身智能，AI不再只是聊天，而是有了雙手雙腳，能操控物理世界，這促使風險的本質發生改變。再者是目標跨越。隨著智能體的發展，一些商業模式開始賦予AI長期、持續的目標，例如自主運營、持續創造收益、不斷優化自身表現。當缺乏價值約束時，AI可能會為了實現目標而采取不符合人類利益或倫理規范的行為。第三是速度跨越。AI的迭代速度是指數級的，而人類的立法和倫理討論是線性的。這種速度差導致出現治理真空。當我們還在討論“應該怎么做”的時候，AI已經在做了，人類的治理速度跟不上技術的奔跑速度。

記者：在當前現實生活中，“人—AI關系”是什么樣的？您認為未來的發展趨勢會是如何？

李德豪：我認為當前的人—AI關系像“嬰兒與不成熟父母的關系”。AI在快速成長，擁有強大的學習能力，而它的“父母”，也就是開發者、使用者們對技術和風險的認知未必同步成熟。如果賦予AI不合理的目標、又缺乏必要的價值約束，帶來的風險將不只是程序漏洞，還可能對社會運行產生系統性影響。

朱孔林：現階段人機關系權責邊界與價值主導尚不清晰，AI會產生不可預判的“黑箱輸出”，人機責任劃分、風險兜底機制尚未完善；當下AI是有輔助能力、無主體資格，有智能輸出、無價值立場的新型智能協作伙伴。

放眼未來，我認為“人—AI關系”將走向以人為本、權責清晰、深度共生的穩定形態。首先，人機分工將更加明確：AI負責效率與執行，人類主導創造、審美、道德與終極決策，實現價值共創。其次，AI會從通用工具進化為場景化智能伙伴，軟硬件深度融合，適配各行各業的個性化需求，融入社會運行與日常生活。更重要的是，未來人機關系將建立完善的治理約束，形成風險可控、權責明確的成熟體系。技術發展會始終錨定人類福祉，守住倫理與安全底線，最終構建起有序、可持續的人機共生新文明，讓AI真正成為人類社會高質量發展的核心助力。

以我從事的“自動駕駛”這一研究方向為例，當前自動駕駛算法層出，但均存在缺乏可解釋性、應對極端場景不足等問題。而當下自動駕駛領域討論激烈的問題是“自動駕駛車輛如果出了車禍，誰應該負責？”這顯然就是人機責任劃分不明確、風險兜底機制不完善的具體體現。未來，自動駕駛領域“人—AI”的關系必將走向以人為本、權責清晰、深度共生的穩定狀態：人來負責指明前進的方向，AI負責具體執行操作。

記者：當人工智能技術以指數級速度向前發展之時，我們如何把握人機關系的發展方向，推動人工智能更好服務人類社會？

朱孔林：在AI技術指數級迭代的當下，我們首先要理性重塑人—AI關系的核心認知。當下的人機關系，已經逐步從傳統的“人主導、機器被動執行”的工具關系，進入人類主控、AI賦能、雙向適配共生的全新階段。我們既要摒棄“AI萬能”的技術崇拜，也不應有“AI威脅”的恐慌心態，正視人機各有所長、互補共生的客觀現實。

我認為需要構建以人為本、AI賦能、可控可管、權責清晰、協作向善的人機共生體系，具體有四個路徑。

首先，堅守人類主體性底線，確立人機分工邊界。AI承載重復性、標準化、高算力、海量信息處理的工作，主打效率與迭代速度；人類堅守價值判斷、道德抉擇、創新創造、情感共情與終極決策的核心職能，牢牢掌握技術發展的主導權與決策權，杜絕人類主體性弱化、思維惰性異化。其次，以治理前置規范技術發展。建立適配AI指數級發展的行業規范、法律準則與倫理框架，明確AI研發、落地、應用的權責邊界，厘清企業、使用者、監管方的責任歸屬，破解算法黑箱、技術濫用、權責模糊等核心難題，讓技術發展有邊界、有底線。再者，強化全民數字素養與AI適配能力。面向全社會普及AI認知與應用能力，破除數字鴻溝，引導大眾理性使用、合理借力、獨立思辨AI輸出內容。同時在教育體系中強化人文素養、創新思維、批判思維培育，打造人類區別于智能機器的核心競爭力。最后，堅持技術向善的發展導向。推動AI技術研發與應用始終錨定人類福祉，讓技術迭代服務于社會進步、產業升級與民生改善，通過技術優化降低算法偏見、安全風險，最終實現人機互補、協同增效，構建有序、健康、可持續的人機共生新生態。（本報記者 周姝蕓）

《人民日報海外版》（2026年07月22日 第 10 版）