對話王國豫：全球AI治理，中國不斷給出答案

【“科協十一大”精神學習進行時】

近日，國家科學技術獎勵大會、兩院院士大會、中國科協第十一次全國代表大會在北京隆重召開。習近平總書記出席并發表重要講話，對加強科技倫理和安全治理作出重要指示。

7月17日至20日，2026世界人工智能大會在上海舉辦，大會聚焦人工智能向善普惠發展，圍繞AI全球治理、倫理風險與可持續發展等議題匯聚共識、探尋路徑。

值此契機，中國科協之聲訪談王國豫教授，圍繞AI全球治理、科技倫理建設、學風育人、國際合作等議題展開深度解讀。

人物簡介

王國豫 復旦大學哲學學院教授，中國科協—復旦大學科技倫理與人類未來研究院院長，復旦大學全球人工智能創新治理中心國際戰略專家委員會副主席。兼任全國應用倫理專業學位研究生教育指導委員會主任委員，國家科技倫理委員會醫學倫理分委員會委員，以及上海市人工智能倫理與治理專家委員會委員。是《AI Ethics:A Cross-Cultural Dialogue》、《科技倫理研究》等書的主編。長期深耕技術哲學、科技倫理、生命醫學倫理與人工智能倫理交叉研究，堅持理論研究對接技術治理現實需求，倡導將倫理規范嵌入人工智能全生命周期治理體系。

倫理嵌入AI全過程

中國科協之聲：本次世界人工智能大會期間，舉辦了題為“人工智能全球治理與可持續發展：挑戰與應對”的分論壇，聚焦AI全球治理與可持續發展，結合習近平主席關于健全科技倫理治理體系的重要講話和“科協十一大”相關會議精神，您作為中國科協—復旦大學科技倫理與人類未來研究院院長，本次參會最想傳遞怎樣的核心觀點？

王國豫：習近平主席在2026世界人工智能大會上的主旨講話中指出，當前世界百年變局加速演進，新一輪科技革命和產業變革加速突破。AI既蘊含巨大機遇，也面臨治理挑戰。“人類不得不直面時代之問：當機器開始思考，人類如何與之相處？當算法參與決策，安全如何保障？當技術挑戰倫理，治理如何跟上？當鴻溝不斷拉大，普惠如何實現？”習近平主席提出的這些“時代之問”，為人工智能倫理治理提供了根本遵循和行動指南。

中國科協與復旦大學在2022年11月布局的科技倫理與人類未來研究院，可以說是生逢其時。對于科技倫理研究者來說，這既是機遇也是挑戰。當前，AI正從單一工具變成嵌入生產生活和社會治理的基礎設施，倫理不能只停留在外部原則指引和事后糾偏。我最想傳遞的觀點是：要讓倫理成為人工智能的“基因編碼”，貫穿研發、部署、應用和評估全生命周期；既要有外部的制度規范，也要有內在的價值培育，實現外在規約與內在自覺的“雙向奔赴”。

王國豫教授（右）在論壇現場發布“一鑒”倫理審查智能體

“一鑒”倫理審查智能體系統2.0由中國科協—復旦大學科技倫理與人類未來研究院、復旦大學可信具身智能研究院牽頭，聯合哲學學院、生命科學學院、附屬中山醫院等協同研發

中國科協之聲：智能化時代技術創新與社會責任矛盾愈發凸顯，要大力弘揚科學家精神。從科技倫理研究者和科協智庫專家視角，您認為新時代科技工作者應當如何平衡技術突破與公共責任，把向善理念融入科研全過程？

王國豫：技術創新與公共責任并不矛盾，真正好的技術本來就應當造福人民、增進人類福祉。科技倫理不是創新的“剎車”，而是判斷創新方向和質量的重要尺度。科技工作者應在選題時追問“為誰創新、解決什么問題”，在研發中識別利益相關者和潛在風險，在應用后持續監測影響、公開溝通并及時糾偏。尤其面對高風險技術，要保持謙遜和審慎，把安全、公平、尊嚴和可持續性寫入設計指標、項目評審和成果評價。只有把向善理念貫穿科研全過程，技術突破才更有生命力。

論壇現場，各國青年科技工作者齊聚一堂，圍繞議題交流探討

倫理審查不能走過場

中國科協之聲：您此前提出科技倫理要嵌入技術全生命周期，當前大模型、智能醫療等AI應用風險持續凸顯。對照總書記對科技工作者堅守倫理底線的要求，結合您依托科協平臺開展的科技倫理普及工作，我們該如何破解“重技術、輕倫理”難題，建立可落地、不走形式的AI倫理審查閉環？

王國豫：習近平主席在大會主旨講話中提到：“要高度重視人工智能引發的各類內生和衍生風險，推動構建法律法規、技術監測、風險預警、應急響應體系，筑牢安全底線，防范濫用惡用，確保人工智能始終處于人類控制之下。”

破解“重技術、輕倫理”，要把問題分層拆解，從源頭解決。立項前應開展風險分級和倫理影響評估，明確高風險場景和不可為事項；研發中把審查嵌入數據采集、算法設計、模型訓練、部署運行和持續監測，做到全過程留痕、可追溯；應用后建立動態評估、問題糾偏、責任追究和復盤改進機制，不能“一審了之”。此外，我們也可以利用人工智能助力我們的人工智能倫理審查。比如，我們團隊和復旦大學可信具身智能研究院合作開發的“一鑒”倫理審查大模型，就實現了讓人工智能賦能科技倫理審查。未來我們還計劃利用科協和復旦大學搭起的科技倫理研究院平臺，持續開展科技倫理教育和宣傳，把抽象規范轉化為案例、清單和培訓，提升設計者、開發者、使用者的倫理素養，真正讓倫理進入技術流程。

中國科協之聲：您同時兼任國家科技倫理委員會醫學倫理分委員會委員，AI在醫療、公共治理領域落地極易產生算法偏見、數據隱私等風險。結合科協推動科技向善的工作導向，面向企業研發人員、基層科技工作者，應當明確哪些不可逾越的AI倫理底線？

王國豫：研發人員和基層科技工作者承擔的不僅是技術任務，也承擔社會責任。不可逾越的底線，首先是不得危害人的生命安全、基本尊嚴和自主權；不得以算法偏見造成歧視，或利用AI實施操控、欺騙和不當監控；不得非法、過度收集和濫用個人數據；在醫療、公共治理等高風險領域，不得讓AI替代人的最終判斷和責任。凡是涉及生命健康、公共安全乃至人類共同命運的應用，都必須堅持知情同意、最小必要、人工監督、可解釋、可申訴和可追責。技術能力越強，越要守住“不能做什么”的邊界。

倫理，從課堂教育到生態建設

中國科協之聲：AI行業迭代快、競爭激烈，學術浮躁、概念炒作等問題突出。“科協十一大”著重強調涵養優良科研學風、強化學術規范建設，您認為科技倫理教育應當如何發力，從根源上引導青年科技工作者摒棄功利心態、堅守求真底線？

王國豫：這些問題確實存在，AI提高效率的同時，也可能放大學術浮躁和不端行為。科技倫理教育首先要引導學生做一個誠實守信、求真務實的人。要分類實施教育教學：對本科生、研究生，應盡早將科技倫理和科研誠信教育納入培養體系，用真實案例訓練和提高學生的道德敏感性和價值判斷力；對科技工作者，要開展持續培訓，系統學習國家科技倫理和科研誠信的規范要求；要通過制度保障和激勵措施強化倫理教育。更重要的是要改革評價導向，少一些唯論文、唯熱點，多關注真問題、長期價值和社會貢獻。當然，解決學術風氣問題不能只靠科技倫理課堂教育，還需要在全社會營造尊崇科學精神和科研倫理的科學文化，加強思想教育。只有全社會共同發力，才能真正培養出具有卓越創新能力又堅守倫理底線的科技人才。

中國科協之聲：您深耕科技倫理、AI治理數十年，早年深耕德國技術哲學，如今牽頭中國科協與復旦大學共建科技倫理研究院。能否分享您選擇科技倫理研究的初心，又是怎樣的契機讓您深度參與科協科技倫理智庫建設、服務全國科技工作者？

王國豫：我早年研究德國技術哲學，越來越認識到，技術從來不是孤立、價值中立的工具，它會重塑人的生活方式、社會關系乃至文明走向。選擇科技倫理，是因為我始終相信，學術研究最終應當為人民服務、為人類服務；無論在中國還是歐洲，人類面臨的風險和命運在根本上是相通的。后來參與國家和地方科技倫理、人工智能治理工作，使我有機會把理論研究轉化為政策建議、倫理教育和公共服務，更直接地服務廣大科技工作者。這既是機遇，也是責任。

AI治理要全球攜手

論壇現場，各國專家學者開展深度交流，共話AI全球治理與科技倫理建設

中國科協之聲：當前全球AI治理規則分歧明顯、國際科研交流存在壁壘，我國倡導構建開放包容的全球AI治理體系。依托科協國際學術交流平臺，我們如何在堅持自主創新前提下，推動中外科技倫理良性對話，向世界分享中國AI治理與科技倫理實踐經驗？

王國豫：不同國家有著不同文化背景，在制定AI治理規則的問題上存在分歧是正常的。正是因為這樣我們才需要開放包容的治理體系，需要對話合作。2024年，我們在復旦大學舉辦了“人工智能倫理的跨文化對話”國際會議，最近，作為這次會議的成果之一，《AI Ethics:A Cross-Cultural Dialogue》這本書已經由Springer出版社正式出版。大學不僅是教育和科研的重鎮，也是國際對話的平臺。復旦大學在這方面有很多優勢。近幾年來，我們的國際交往頻繁，既有國外學者來我們這里交流，我們自己也經常走出去學習交流。就在不久前，我還帶著我們研究院的同事和學生一起去了慕尼黑大學，參加在那里舉辦的“關系倫理與人工智能”的學術研討會。我們和國外學者平等對話，傳播了我們的理念和實踐經驗，也學習到人家的思想和做法。增進了了解，結下了友誼。我認為這些都是特別重要的舉措。以學術話語對沖政治分歧，以專業議題搭建對話橋梁，以知識共享換取國際認同。我認為這些都是在落實“包容并蓄”“文明互鑒”的精神。

王國豫教授和團隊部分師生，與應邀參加WAIC論壇的德國卡爾斯魯厄大學教授、德國議會技術評估局主任Armin Grunwald，在中國科協—復旦大學科技倫理與人類未來研究院的合影

中國科協之聲：在您多年科研經歷中，有哪些重要研究或政策參與經歷，重塑了您對AI全球治理、科技倫理建設的認知？

王國豫：從技術哲學研究，到參與醫學倫理和人工智能治理相關工作，再到牽頭建設科技倫理研究平臺，這些經歷讓我越來越清楚：AI倫理不能只停留在原則宣示，也不能簡單交給模型自我對齊，而要進入技術—社會系統，形成制度、技術、場景和人的倫理自覺共同作用的治理體系。科技倫理、生命倫理的研究誕生于二戰以后，隨著前沿科技的迅猛發展特別是人工智能的爆發，今天已成為關乎人類前途命運的重要研究領域。我個人從早期參加納米技術倫理的研究，到聚焦生命倫理特別是精準醫療倫理和人工智能倫理的理論和政策研究，我的基本認知是，科學研究應該關注真問題、回答“時代之問”。我為自己的研究和教學工作能夠對這一學科的建設、對國家和社會發揮一點作用而感到欣慰。

在上海科學智能研究院，王國豫教授和復旦大學陳志敏副校長一起，與WHO健康倫理與治理部主任Andreas Reis就醫療人工智能的倫理治理，開展國際合作等方面的事宜進行交流

中國科協之聲：立足2026年AI發展新階段，結合科協未來科技倫理建設工作方向，您對完善全球AI治理體系、發展我國科技倫理學科有哪些展望？同時想對廣大青年AI科技工作者說些什么？

王國豫：目前人工智能治理面臨的一個根本問題是技術發展與倫理治理的不對稱。人工智能技術能力越來越強，但我們在治理上還缺少相應的倫理概念和理論框架。必須深入開展人工智能倫理治理的理論基礎的研究。科技倫理不是哲學倫理學的二級甚至三級學科，未來科技倫理建設需要整合多學科、跨學科的力量，打通哲學倫理學和技術學科、理論研究與政策、實踐之間的壁壘。還要積極探索用AI輔助倫理審查，讓AI既成為治理對象，也成為治理工具。對青年科技工作者，我想說：不要被熱點和速度牽著走，要研究真問題、尊重事實、敬畏風險、關心人的脆弱性和長遠福祉。把倫理責任變成專業能力，把個人理想融入國家和人類需要，在求真、向善的道路上持續奮斗。