北京
今年出臺的《人工智能科技倫理審查與服務辦法（試行）》，啟動了人工智能科技倫理審查與服務先導計劃，以試點實踐推動制度落地。本項先導計劃實施周期為2026年6月1日至11月30日，試點期間各地城市將結合實際出臺因地制宜的落地細則與實施方案。該試行辦法由多方聯(lián)合制定，中國科協(xié)亦是重要發(fā)起單位之一。
回望發(fā)展歷程，我國AI倫理建設穩(wěn)步推進：2017年《新一代人工智能發(fā)展規(guī)劃》首次將倫理規(guī)范納入國家戰(zhàn)略；2022年《關于加強科技倫理治理的意見》搭建起科技倫理治理整體制度框架；直至本次專項辦法落地，AI倫理正式完成從原則倡導、頂層設計到細分領域精細化管理的轉變，漸入“深水區(qū)”。
本輪試點落地后，各地將陸續(xù)出臺細化規(guī)則，后續(xù)成效值得持續(xù)關注。站在這一節(jié)點，各界更應理性研判，讓倫理監(jiān)管守住底線、不誤創(chuàng)新。守住“安全閥”，避開“減速帶”。
AI倫理審查，寬窄要適度。制度初衷雖好，但必須找準定位。好的做法是抓大放小：盯緊那些真正可能出大問題的高風險應用，守住法律和倫理的“紅線”；而對絕大多數(shù)普通研發(fā)活動，則保持必要克制。尤其要警惕把倫理審查泛化為“研發(fā)審批”的傾向。人工智能的技術路線、參數(shù)選擇、模型架構等事項，應當由市場和技術圈自己去探索迭代，而非一概納入行政化審查。倫理審查旨在“卡紅線”，不宜變成“批作業(yè)”。倫理審查應該當球場上的“守門員”，而不是“教練員”——任務是守住底線、不讓球進網(wǎng)，而非替每個球員決定怎么跑位、怎么傳球。守的是創(chuàng)新的下限（即倫理邊界），而不該去設創(chuàng)新的上限。
AI倫理審查，先后要有序。要讓倫理“住進”研發(fā)車間甚至AI系統(tǒng)，讓懂倫理、懂法律、懂社會的專家不再只是企業(yè)倫理委員會名單上掛名的顧問，而成為研發(fā)團隊的常駐成員，參與從立項、數(shù)據(jù)準備到模型訓練、測試、評估、上線的全流程，可以把這種全程參與作為倫理審查的加分項。高校在培養(yǎng)AI人才時，也不妨多開設計算機與哲學、法學、社會學交叉的課程。讓治理從源頭介入，這才是真正管用的抓手。
AI倫理審查，標準要清晰。讓AI的能力和行為，跟人類認可的價值觀、倫理準則對得上、不跑偏——這是AI安全與倫理的核心議題。難點在于，怎么把這個聽起來挺玄的概念，變成工程師能真正上手操作的標準。比如：給大模型的價值對齊立一套評測基準；把“請人專門來挑刺找漏洞”（紅隊測試）、給模型寫一份明確的“行為說明書”（模型規(guī)范）都列為審查的規(guī)定動作；再搭一個行業(yè)共享的評測平臺，讓中小企業(yè)不必自己花大價錢從頭搭建測試能力。有了這把尺子，倫理審查才能從“看材料”變成“看結果”，從拍腦袋變成看數(shù)據(jù)。
AI倫理審查，要從虛向實，不做“一錘子買賣”。培育一個涵蓋影響評估、審計、認證和負責任AI解決方案的“倫理即服務”專業(yè)市場。美國國家標準與技術研究院?發(fā)布的一份AI風險管理框架，雖然只是自愿性標準，卻催生了第三方咨詢、審計、評估、保險等服務生態(tài)；學術界與產業(yè)界也在探索把“基于倫理的審計”作為可操作的治理機制。我們可以鼓勵第三方機構提供算法審計、偏見檢測、價值對齊評估、紅隊測試等專業(yè)服務，讓倫理合規(guī)不再只是令企業(yè)頭疼的成本，而能長成一個像樣的行業(yè)。同時，把這些治理工具盡量做成現(xiàn)成、可直接調用的產品——就像給手機裝App一樣方便。只有當倫理工具足夠好用、便宜，中小企業(yè)才用得起，也才愿意用。
期待這次先導計劃，能用一個個“小切口”，蹚出這些大問題的解法，讓給AI立的規(guī)矩，最終既是發(fā)展的“護欄”，也是發(fā)展的“加速器”。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
