廣西
今年4月，廣西玉林市容縣公安局網安大隊工作人員，在網上發現了一條利用AI技術生成的冒用人民警察公職人員形象，為某娛樂場所做廣告的短視頻。
容縣公安局網絡安全保衛大隊大隊長 戴智斌：這條視頻我們第一眼就發現它有AI的特征，比如人物的神態、口型，都跟日常采訪不一樣。我們經過溯源，迅速將發布者黃某傳喚到容縣公安局執法辦案中心。
經查，黃某在容縣經營一家娛樂場所，他利用AI技術制作了這條虛假采訪視頻，并將其發布至某社交平臺及本地生活群組引流。
容縣公安局網絡安全保衛大隊大隊長 戴智斌：人民警察制式服裝、警務形象是法定專屬標識，黃某的行為違反了《中華人民共和國治安管理處罰法》《中華人民共和國人民警察法》《中華人民共和國網絡安全法》屬于利用網絡編造、傳播虛假信息，擾亂社會公共秩序，造成不良影響。
目前，屬地公安機關已對黃某作出行政處罰。警方提示，網絡空間不是法外之地，切勿為博取流量觸碰法律紅線。
AI生成虛假視頻
擾亂公共秩序行政拘留七日
像這樣利用AI工具生成虛假視頻的情況并非個例。近日，上海市公安局軌交分局民警在工作中發現，有人發布視頻稱上海地鐵頭頂墻皮掉落，經核查該視頻也是AI生成。
6月13日，上海市公安局軌交分局民警發現，一條名為“上海地鐵突發驚魂一幕！頭頂墻皮轟然掉落，早高峰誰還敢安心走？”的視頻在網上大量傳播。
視頻中稱，該事件發生于6月12日。后經核實，6月12日早高峰，上海地鐵18號線江浦路地鐵站的確曾有少量墻皮脫落，但這條視頻中的驚悚畫面，明顯與事實嚴重不符。公安機關迅速查到該視頻的發布者——居住在湖北黃石的孫某。
上海市公安局軌交分局治安支隊副支隊長 陸志豪：違法行為人為博取流量、吸引粉絲，遂將相關的新聞喂到AI后進行視頻生成，最終生成一個夸大視頻，在自己的微信視頻號中予以發布，最終造成惡劣影響。
最終，公安機關認為，孫某利用AI工具生成虛假視頻，通過互聯網散布，誤導公眾認知，實施了故意虛構事實，擾亂公共秩序的違法行為。根據《中華人民共和國治安管理處罰法》相關規定，今年6月15日，上海市公安局軌交分局給予孫某行政拘留七日的行政處罰。
趕緊關注我們的官方賬號吧~
清朗網絡空間，我們共同守護！
掃碼進入舉報不良信息頁面
來源丨央視新聞、公安部網安局
編輯｜李文彬
柳州市互聯網信息辦公室出品
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
