【學(xué)習(xí)園地】五問+兩圖，讀懂《人工智能科技倫理審查與服務(wù)辦法（試行）》

《人工智能科技倫理審查與服務(wù)辦法（試行）》解讀

近日，工業(yè)和信息化部等十部門聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡稱《辦法》）。為更好理解和實施《辦法》，現(xiàn)就有關(guān)內(nèi)容解讀如下。

一、《辦法》出臺的背景是什么？

黨和國家高度重視科技倫理工作，2022年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強科技倫理治理的意見》，對科技倫理治理作出頂層設(shè)計和系統(tǒng)部署；2023年9月，科技部等十部門聯(lián)合印發(fā)《科技倫理審查辦法（試行）》，對科技倫理審查主體、審查程序作出具體規(guī)定；2024年7月，黨的二十屆三中全會再次強調(diào)“加強科技倫理治理”。人工智能技術(shù)快速發(fā)展，深度賦能千行百業(yè)，由此帶來的算法歧視、深度偽造等倫理風(fēng)險也愈加凸顯。人工智能科技倫理治理是人工智能治理的重要組成部分，主要包括增進人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護等內(nèi)涵。加強人工智能科技倫理治理，是堅守科技向善、筑牢科技安全底線、保障產(chǎn)業(yè)高質(zhì)量發(fā)展的必然要求。在此背景下，出臺《辦法》，既是對科技倫理治理要求的具體落地，也是推動人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展、促進負責(zé)任創(chuàng)新的現(xiàn)實需要。

二、《辦法》與現(xiàn)有人工智能治理政策法規(guī)如何銜接？

《辦法》與現(xiàn)有人工智能治理相關(guān)政策法規(guī)實現(xiàn)有效協(xié)同。

《辦法》與《科技倫理審查辦法（試行）》緊密銜接?！犊萍紓惱韺彶檗k法（試行）》是覆蓋各領(lǐng)域科技倫理審查的綜合性、通用性規(guī)定，明確了審查基本程序、審查內(nèi)容與標準等統(tǒng)一要求，為《辦法》提供了基礎(chǔ)遵循?！掇k法》在遵循通用規(guī)定的前提下，立足人工智能技術(shù)特征與倫理原則，在適用范圍、申請材料、審查重點、簡易程序適用等方面作了針對性完善與細化，更貼合人工智能科技倫理審查實際需要。

《辦法》第二十六條規(guī)定，人工智能科技活動在深度合成、算法推薦、生成式人工智能服務(wù)管理等方面實行登記、備案、行政審批等監(jiān)管措施且將符合科技倫理要求作為審批條件、監(jiān)管內(nèi)容的，可不再開展專家復(fù)核，有效減輕企業(yè)合規(guī)負擔(dān)。

同時，《辦法》第三十二條規(guī)定，明確違反本辦法規(guī)定的，將依照《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》《中華人民共和國科學(xué)技術(shù)進步法》等法律法規(guī)和相關(guān)規(guī)定進行調(diào)查處理并給予相應(yīng)處罰。

三、《辦法》中規(guī)定的人工智能科技倫理審查流程主要包括哪些環(huán)節(jié)？審查重點關(guān)注哪些方面？

《辦法》規(guī)定的人工智能科技倫理審查程序主要包括：

申請：人工智能科技活動負責(zé)人向本單位人工智能科技倫理委員會（以下簡稱委員會）或人工智能科技倫理審查與服務(wù)中心（以下簡稱服務(wù)中心）提交申請材料；

受理：委員會或服務(wù)中心應(yīng)根據(jù)申請材料決定是否受理申請，確定適用的審查程序，并通知申請人；

開展審查：委員會或服務(wù)中心采用一般、簡易或應(yīng)急程序，開展科技倫理審查；

專家復(fù)核：納入“需要開展科技倫理專家復(fù)核的人工智能科技活動清單”（以下簡稱復(fù)核清單）管理的科技活動，通過委員會或服務(wù)中心的初步審查后，由單位申請專家復(fù)核，所在地方或相關(guān)主管部門組織開展專家復(fù)核；

作出審查決定：委員會或服務(wù)中心開展審查后作出批準，修改后再審或不予批準等決定，納入復(fù)核清單的科技活動，根據(jù)專家復(fù)核意見作出科技倫理審查決定；

審查申訴：申請人對審查決定有異議的，可向委員會或服務(wù)中心提出申訴；

跟蹤審查：委員會或服務(wù)中心對審查批準的人工智能科技活動開展跟蹤審查，跟蹤審查間隔一般不超過12個月，納入復(fù)核清單的活動，跟蹤審查間隔一般不超過6個月。

委員會或服務(wù)中心重點圍繞人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護等方面開展倫理審查。同時，還需要關(guān)注參與科技活動的科技人員資質(zhì)等是否符合相關(guān)要求，擬開展的科技活動是否具有科學(xué)價值和社會價值，科技活動的風(fēng)險受益是否合理，倫理風(fēng)險控制方案及應(yīng)急預(yù)案是否科學(xué)恰當(dāng)、具有可操作性等。

四、哪些人工智能科技活動需要開展專家復(fù)核，具體如何開展？

《辦法》第三節(jié)及附件規(guī)定，需要開展專家復(fù)核的人工智能科技活動主要包括以下三類：

一是對人類主觀行為、心理情緒和生命健康等具有較強影響的人機融合系統(tǒng)的研發(fā)；

二是具有輿論社會動員能力和社會意識引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)；

三是面向存在安全、人身健康風(fēng)險等場景的具有高度自主能力的自動化決策系統(tǒng)的研發(fā)。

開展專家復(fù)核的人工智能科技活動，需先通過本單位人工智能科技倫理委員會或委托的服務(wù)中心完成初步審查；再由本單位申請專家復(fù)核。其中，中央企業(yè)、中央和國家機關(guān)直屬單位直接報請相關(guān)主管部門，其他單位報請地方。地方或相關(guān)主管部門按規(guī)定成立復(fù)核專家組，對初步審查意見的合規(guī)性、合理性開展復(fù)核，并在收到復(fù)核申請后30日內(nèi)反饋復(fù)核意見。委員會或服務(wù)中心依據(jù)復(fù)核意見作出最終審查決定，同時對納入復(fù)核清單的活動加強跟蹤審查，跟蹤審查間隔一般不超過6個月。若倫理風(fēng)險發(fā)生重大變化，應(yīng)重新開展審查并申請專家復(fù)核。

五、辦法在人工智能科技倫理服務(wù)與促進方面提出了哪些具體舉措？

《辦法》專門設(shè)立第二章“服務(wù)與促進”，圍繞標準建設(shè)、促進服務(wù)、鼓勵創(chuàng)新、宣傳教育、人才培養(yǎng)五個方面制定務(wù)實舉措，精準破解當(dāng)前人工智能企業(yè)倫理治理中存在的技術(shù)手段不足、標準規(guī)范不完善、治理工具匱乏等問題。

一是鼓勵高等學(xué)校、科研機構(gòu)、醫(yī)療衛(wèi)生機構(gòu)、企業(yè)和科技類社會團體等參與人工智能科技倫理標準制定，凝聚行業(yè)共識，完善標準體系。

二是推進人工智能科技倫理服務(wù)體系建設(shè)，強化風(fēng)險監(jiān)測預(yù)警、檢測評估、認證、咨詢等服務(wù)供給，加大對中小微企業(yè)人工智能科技倫理審查的支持和服務(wù)力度，降低企業(yè)合規(guī)成本。

三是支持人工智能科技倫理審查技術(shù)創(chuàng)新，鼓勵企業(yè)運用技術(shù)手段防范倫理風(fēng)險。

四是加強人工智能科技倫理宣傳教育，提升公眾倫理意識和素養(yǎng)。

五是推動職業(yè)體系和課程體系建設(shè)，采取多種方式培養(yǎng)人工智能科技倫理人才。

來源：工信微報