何以規(guī)制“AI魔改”亂象？

本文為《中國(guó)審判》雜志原創(chuàng)稿件

文 | 李亞楠

近年來(lái)，隨著生成式人工智能（以下統(tǒng)稱“AI”）技術(shù)快速普及，大量賬號(hào)利用AI剪輯、AI配音等工具，對(duì)影視作品進(jìn)行顛覆性篡改，形成“AI魔改”流量產(chǎn)業(yè)鏈。此類內(nèi)容常常以惡搞、獵奇、低俗化博人眼球，嚴(yán)重歪曲了原作精神，侵害了作者著作權(quán)與人身權(quán)益，甚至誤導(dǎo)了青少年對(duì)歷史的認(rèn)知。

為整治“AI魔改”亂象，近日，央視新聞報(bào)道了部分重點(diǎn)網(wǎng)絡(luò)視聽(tīng)平臺(tái)5月的處置情況：共清理違規(guī)視頻8000余條、處置違規(guī)賬號(hào)20余個(gè)。“AI魔改”亂象為何頻發(fā)？如何守好技術(shù)向善的大門(mén)，營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)環(huán)境呢？

起底“AI魔改”亂象

用手機(jī)打開(kāi)社交媒體平臺(tái)，各種各樣由AI生成的視頻撲面而來(lái)。在這些作品中，有令人欣喜乃至感動(dòng)的創(chuàng)意視頻，但也不乏只為博取眼球的低俗視頻，如華佗用電鋸為關(guān)羽“刮骨療毒”，唐僧師徒被改頭換面成為“黑幫大哥”……這些所謂的“再創(chuàng)作”嚴(yán)重背離原作品的價(jià)值觀和人物設(shè)定，流露出低俗、暴力等不良傾向。

“目前的AI大模型工具使用起來(lái)非常方便，這是‘AI魔改’視頻泛濫的原因之一。”北京理工大學(xué)法學(xué)院副教授楊華權(quán)說(shuō)：“隨著AI工具的出現(xiàn)，二次創(chuàng)作的門(mén)檻大幅降低，幾乎人人都能利用AI工具進(jìn)行二次創(chuàng)作。”一位自媒體博主介紹：“從影視作品中獲取原始畫(huà)面素材，再使用具備‘圖生視頻’功能的AI工具，對(duì)靜態(tài)畫(huà)面輸入特定文字指令，就可以生成一段動(dòng)感十足的短片。”

筆者在網(wǎng)上進(jìn)行搜索發(fā)現(xiàn)，各種付費(fèi)或免費(fèi)的視頻生成工具唾手可得。“從創(chuàng)意到成片只需一步”“AI助力創(chuàng)意視頻輕松生成”“零門(mén)檻也能做爆款視頻”等宣傳語(yǔ)讓人眼花繚亂。AI工具能夠輕易幫助人們把腦海中的創(chuàng)意一一呈現(xiàn)。而在這些“AI魔改”視頻中，絕大部分都是剝離原有場(chǎng)景的隨意拼貼。

“‘AI魔改’的重點(diǎn)在于制造強(qiáng)烈的反差感與新奇感，極致的反差是內(nèi)容在網(wǎng)絡(luò)平臺(tái)獲取瞬時(shí)關(guān)注的有效手段。”一位自媒體博主在介紹漲粉經(jīng)驗(yàn)時(shí)說(shuō)。更有業(yè)內(nèi)人士揭示了“AI魔改”視頻得以廣泛傳播的運(yùn)行機(jī)制：這些新奇、反常甚至令人不適的橋段，往往第一時(shí)間就能吸引大量觀眾，從而通過(guò)觸發(fā)算法的推薦機(jī)制獲得流量。一些制作者以此為捷徑，將AI創(chuàng)作重心放在制造反差及追求感官刺激上。

創(chuàng)新與侵權(quán)的邊界

利用AI工具對(duì)經(jīng)典影視形象進(jìn)行二次創(chuàng)作，屬于演繹作品的范疇。根據(jù)《中華人民共和國(guó)著作權(quán)法》（以下簡(jiǎn)稱《著作權(quán)法》）的規(guī)定，對(duì)作品的演繹應(yīng)當(dāng)獲得原作品著作權(quán)人的授權(quán)。中國(guó)政法大學(xué)副教授朱巍介紹：“這種授權(quán)既可以是創(chuàng)作者直接從原作品著作權(quán)人處取得的授權(quán)，也可以是平臺(tái)方事先合法合規(guī)取得的授權(quán)。例如，平臺(tái)方可能建有資源庫(kù)，這個(gè)庫(kù)里的視頻材料已經(jīng)獲得授權(quán)，可供平臺(tái)用戶二次創(chuàng)作使用。對(duì)于未經(jīng)授權(quán)的二次創(chuàng)作，創(chuàng)作者和平臺(tái)都有可能構(gòu)成侵權(quán)。”

2025年，杭州互聯(lián)網(wǎng)法院對(duì)全國(guó)首例生成式人工智能平臺(tái)侵害信息網(wǎng)絡(luò)傳播權(quán)案作出判決，首次明確了平臺(tái)在用戶利用AI生成侵權(quán)內(nèi)容時(shí)的責(zé)任邊界。在該案中，原告是奧特曼系列形象的知識(shí)產(chǎn)權(quán)權(quán)利人，被告運(yùn)營(yíng)的平臺(tái)提供Checkpoint基礎(chǔ)模型和LoRA模型。相關(guān)模型支持用戶上傳圖片進(jìn)行訓(xùn)練并生成與奧特曼形象實(shí)質(zhì)性相似的圖片。原告認(rèn)為，被告的行為侵犯了其信息網(wǎng)絡(luò)傳播權(quán)，并構(gòu)成不正當(dāng)競(jìng)爭(zhēng)。被告則辯稱其平臺(tái)行為屬于免責(zé)范圍。杭州互聯(lián)網(wǎng)法院認(rèn)定，被告浙江杭州某智能科技公司構(gòu)成幫助侵權(quán)，判決其停止侵權(quán)并賠償經(jīng)濟(jì)損失及合理費(fèi)用3萬(wàn)元。其后，二審法院維持原判。

“利用AI對(duì)經(jīng)典影視形象進(jìn)行‘魔改’，如果只是放在自己的電腦里面，不對(duì)外傳播，那是他自己的事情，不會(huì)影響到權(quán)利人的權(quán)利，不涉及侵權(quán)。但如果放到網(wǎng)上傳播，性質(zhì)就不一樣了，一般會(huì)涉及侵權(quán)問(wèn)題。”楊華權(quán)說(shuō)。

北京互聯(lián)網(wǎng)法院法官朱閣表示：“司法實(shí)踐體現(xiàn)出目前人們的侵權(quán)風(fēng)險(xiǎn)意識(shí)普遍不足。不少人認(rèn)為網(wǎng)上的東西可以免費(fèi)用、免費(fèi)改、免費(fèi)玩，這種意識(shí)其實(shí)本身就是不對(duì)的。著作權(quán)的基本原則就是要獲得許可，才可以使用、傳播。”

值得注意的是，《著作權(quán)法》第二十四條也對(duì)著作權(quán)進(jìn)行了限制，即對(duì)于符合合理使用的情形，不需要獲得原著作權(quán)人的授權(quán)，也無(wú)須支付一定報(bào)酬。因此，許多侵權(quán)人經(jīng)常辯稱自己的行為屬于合理使用。事實(shí)上，合理使用必須滿足以下三個(gè)條件：屬于法定列舉的特定情形、不得不合理地?fù)p害著作權(quán)人的合法權(quán)益、不影響該作品的正常使用。不影響該作品的正常使用通常是指，權(quán)利作品不會(huì)因?yàn)樵V爭(zhēng)作品的引用而產(chǎn)生替代效應(yīng)，即不會(huì)導(dǎo)致受眾用訴爭(zhēng)作品替代對(duì)原權(quán)利作品的選擇。

楊華權(quán)介紹：“雖然有觀點(diǎn)主張擴(kuò)大《著作權(quán)法》第二十四條適用的具體情形，但使用別人的作品進(jìn)行‘二創(chuàng)’，哪怕形成了新的獨(dú)創(chuàng)性表達(dá)，如果不符合第二個(gè)條件和第三個(gè)條件，仍很難認(rèn)定為‘合理使用’，存在侵犯著作權(quán)的風(fēng)險(xiǎn)。”

朱閣表示：“合理使用僅限于法律規(guī)定的特殊情形，有嚴(yán)格的條件限制，在司法實(shí)務(wù)中，大多數(shù)情形都不能構(gòu)成合理使用。為避免侵權(quán)，建議‘二創(chuàng)’作者盡最大的努力去取得作者的許可后再使用。”

“即便‘二創(chuàng)’作者獲得了授權(quán)，其創(chuàng)作也未必合法合規(guī)。視頻如果存在歪曲原作的情形，可能涉及侵害保護(hù)作品完整權(quán)。如果視頻對(duì)表演者進(jìn)行丑化或惡搞，也是對(duì)表演者權(quán)利的損害。”朱巍表示，“如果利用‘AI魔改’的方式播放廣告，還會(huì)涉及《中華人民共和國(guó)廣告法》中代言規(guī)則的相關(guān)問(wèn)題。如果視頻的內(nèi)容存在《中華人民共和國(guó)網(wǎng)絡(luò)安全法》第十三條第二款、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第六條和第七條所規(guī)定的情形，也屬于違法行為”。

凈網(wǎng)還需合力共治

除了侵權(quán)問(wèn)題，“AI魔改”也令家長(zhǎng)們憂心忡忡——擔(dān)心尚未接觸過(guò)原著的孩子會(huì)將這些改編內(nèi)容當(dāng)作經(jīng)典原貌。更令人擔(dān)憂的是，“AI魔改”背后扭曲的流量思維和無(wú)底線的逐利傾向，可能會(huì)侵蝕未成年人對(duì)文化的敬畏、道德的堅(jiān)守與責(zé)任的認(rèn)知。

為整治“AI魔改”亂象，國(guó)家廣播電視總局自2026年1月1日起，在全國(guó)范圍內(nèi)開(kāi)展一個(gè)月的專項(xiàng)治理，重點(diǎn)清理以下三類視頻：一是嚴(yán)重違背原作精神內(nèi)核和角色形象、顛覆基本認(rèn)知、解構(gòu)普遍共識(shí)的視頻；二是內(nèi)容渲染血腥暴力、獵奇低俗，宣揚(yáng)錯(cuò)誤價(jià)值觀，違背公序良俗的視頻；三是存在對(duì)中華文化挪用、篡改的突出問(wèn)題，導(dǎo)致對(duì)真實(shí)歷史時(shí)空、中華文明標(biāo)識(shí)產(chǎn)生明顯錯(cuò)位認(rèn)知，沖擊文化認(rèn)同的視頻。此外，專項(xiàng)治理同步清理將未成年人所熟知、所喜愛(ài)的動(dòng)畫(huà)形象進(jìn)行改編生成的各類邪典動(dòng)畫(huà)。此次專項(xiàng)治理要求網(wǎng)絡(luò)視聽(tīng)平臺(tái)落實(shí)主體責(zé)任，強(qiáng)化內(nèi)容審核把關(guān)，堅(jiān)決清理違規(guī)內(nèi)容，處置亂象突出的賬號(hào)，為青少年健康成長(zhǎng)營(yíng)造良好網(wǎng)絡(luò)空間。

據(jù)了解，自2026年2月1日起，“AI魔改”視頻治理工作通過(guò)常態(tài)化、制度化長(zhǎng)效機(jī)制持續(xù)開(kāi)展。國(guó)家廣播電視總局將督導(dǎo)各主要網(wǎng)絡(luò)視聽(tīng)平臺(tái)進(jìn)一步深化落實(shí)主體責(zé)任，完善工作流程，強(qiáng)化審核能力，加強(qiáng)日常排查，堅(jiān)決清理違規(guī)視頻，營(yíng)造風(fēng)清氣正的廣電視聽(tīng)文藝創(chuàng)作環(huán)境。國(guó)家廣播電視總局負(fù)責(zé)人介紹，此次專項(xiàng)治理并非對(duì)經(jīng)典影視AI二次創(chuàng)作的一概否定，而是瞄準(zhǔn)其中的“毒瘤”精準(zhǔn)打擊，為優(yōu)質(zhì)作品創(chuàng)造更多空間。

2026年4月，中央網(wǎng)信辦在全國(guó)范圍內(nèi)部署開(kāi)展為期4個(gè)月的“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)，分兩個(gè)階段推進(jìn)。第一階段強(qiáng)化AI技術(shù)源頭治理，重點(diǎn)整治生成合成內(nèi)容標(biāo)識(shí)落實(shí)不到位等問(wèn)題；第二階段重點(diǎn)整治7類突出問(wèn)題。對(duì)于歪曲解構(gòu)優(yōu)秀傳統(tǒng)文化、歷史人物或歷史典故，濫用AI技術(shù)“魔改”古典名著或經(jīng)典影視作品，植入低俗暴力內(nèi)容，惡搞古典名著精神內(nèi)涵、顛覆重要人物人設(shè)，以及批量生成發(fā)布邏輯混亂、價(jià)值空洞，或帶有錯(cuò)誤價(jià)值觀、扭曲文化認(rèn)知等不良傾向的“數(shù)字泔水”類內(nèi)容等，將予以重點(diǎn)治理。中央網(wǎng)信辦舉報(bào)中心自6月起，開(kāi)設(shè)“涉AI應(yīng)用亂象舉報(bào)專區(qū)”，專項(xiàng)受理公眾舉報(bào)。

2026年5月22日，國(guó)家版權(quán)局牽頭，聯(lián)合工業(yè)和信息化部、公安部、國(guó)家互聯(lián)網(wǎng)信息辦公室，共同啟動(dòng)打擊網(wǎng)絡(luò)侵權(quán)盜版“劍網(wǎng)2026”專項(xiàng)行動(dòng)。該行動(dòng)于6月至11月開(kāi)展，首次將人工智能領(lǐng)域版權(quán)整治列為重點(diǎn)，明確要求重點(diǎn)查處利用AI等新技術(shù)工具非法復(fù)制、改編、傳播作品，未經(jīng)授權(quán)對(duì)作品實(shí)施“魔改”等侵權(quán)違法行為。公安機(jī)關(guān)的介入意味著，對(duì)歪曲英雄模范、嚴(yán)重侵害青少年歷史認(rèn)知且情節(jié)嚴(yán)重的行為，將依法追究刑事責(zé)任，形成強(qiáng)力法律震懾。

在行政監(jiān)管持續(xù)發(fā)力的同時(shí)，網(wǎng)絡(luò)視聽(tīng)平臺(tái)也在積極履行主體責(zé)任。目前，各網(wǎng)絡(luò)視聽(tīng)平臺(tái)嘗試通過(guò)主動(dòng)識(shí)別違規(guī)要素?cái)r截違規(guī)視頻，還為平臺(tái)用戶設(shè)置了舉報(bào)功能。許多平臺(tái)逐步推出未成年人模式，明確規(guī)定不得向未成年人用戶推送不適宜的內(nèi)容。網(wǎng)絡(luò)視聽(tīng)平臺(tái)通過(guò)建立具體可操作的審核機(jī)制，優(yōu)化推薦算法，從流量分發(fā)源頭減少違規(guī)魔改內(nèi)容曝光。一些有條件的影視劇制作方設(shè)置了預(yù)警監(jiān)測(cè)機(jī)制，即一經(jīng)發(fā)現(xiàn)有出格的“魔改”行為并將對(duì)原作品造成損失時(shí)，制作方將向行為人發(fā)出警告函，或提起行政投訴、民事訴訟等。

近年來(lái)，我國(guó)已先后出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定，對(duì)生成內(nèi)容合規(guī)、訓(xùn)練數(shù)據(jù)的來(lái)源合法、AI服務(wù)提供者的標(biāo)識(shí)及處置義務(wù)提出了具體要求，為AI創(chuàng)作劃定了明確紅線。凈化網(wǎng)絡(luò)空間，只有各方形成合力，在相關(guān)法律規(guī)范的指引下持續(xù)發(fā)力，才能守住一方清朗的精神家園。

本期封面及目錄

<< 滑動(dòng)查看下一張圖片 >>

《中國(guó)審判》雜志2026年第12期

中國(guó)審判新聞半月刊·總第394期

編輯/孫敏