深夜,14歲的杰克(化名)盯著手機(jī)屏幕,渾身冰冷。一條來(lái)自陌生賬號(hào)的Instagram私信里,赫然附著一張他的裸體照片——準(zhǔn)確地說(shuō),是他的臉被完美拼接在一具裸露身體上的照片。對(duì)方只撂下一句話:“打錢(qián),否則我把這些發(fā)給你所有同學(xué)。”
那張臉,正是從杰克所在學(xué)校的官網(wǎng)上截取的。那是一張他參加校園科學(xué)展時(shí)拍下的正面照,笑容燦爛,胸前還別著姓名牌。
![]()
杰克的母親克萊爾發(fā)現(xiàn)兒子情緒崩潰后,才得知這一切。她迅速報(bào)警,并決定向媒體公開(kāi)發(fā)聲。這位英國(guó)母親的警告震驚了無(wú)數(shù)家長(zhǎng):孩子們什么都沒(méi)做錯(cuò),甚至沒(méi)有拍過(guò)任何私密照片,但犯罪分子只需動(dòng)動(dòng)手指,就能把學(xué)校官網(wǎng)變成色情勒索的“彈藥庫(kù)”。
這并非孤例,而是一股正在全球蔓延的暗黑浪潮。當(dāng)生成式人工智能以月為單位迭代進(jìn)化,青少年面臨的已不再是傳統(tǒng)的網(wǎng)絡(luò)陷阱,而是一種不需要受害者“犯錯(cuò)”就可以將其拖入深淵的精準(zhǔn)打擊。
01
一場(chǎng)來(lái)自數(shù)字世界的襲擊
英國(guó)一位母親Courtney McCarty在社交媒體上向46,400名粉絲發(fā)出緊急警告時(shí),她的話語(yǔ)中透著驚懼與悔恨:“我在媽媽博主時(shí)代成為了一名在線母親,我分享了我的孩子,分享了他們的童年,對(duì)此我深感遺憾。”她告訴父母?jìng)儯?guó)學(xué)校正在被敲詐——有人從學(xué)校網(wǎng)站和社交賬戶上截取孩子的照片,用AI制作成虐待內(nèi)容,反過(guò)來(lái)勒索學(xué)校,“我甚至不是在開(kāi)玩笑。”
![]()
McCarty的警告并非危言聳聽(tīng)。她提醒家長(zhǎng)們,這種情況已導(dǎo)致年輕人因羞愧和痛苦而自殺。她敦促父母立即與孩子溝通,既討論如何避免成為受害者,也警惕孩子可能因同伴影響參與其中,“原本只是一時(shí)覺(jué)得好笑的事,可能徹底改變他們整個(gè)人生的結(jié)局。”
這并非單一事件。英國(guó)的AI圖像勒索攻擊,正以令人震驚的速度蔓延。
02
學(xué)校成了“素材庫(kù)”
在北英格蘭一所女子中學(xué),犯罪分子從學(xué)校網(wǎng)站上“爬取”了30名女生的照片,利用AI將其轉(zhuǎn)化為兒童性虐待材料,然后向校方發(fā)出25萬(wàn)英鎊的比特幣贖金要求。前全國(guó)警察局長(zhǎng)委員會(huì)兒童保護(hù)負(fù)責(zé)人Simon Bailey表示,這是學(xué)校目前面臨的風(fēng)險(xiǎn),“我同無(wú)數(shù)校長(zhǎng)談過(guò)這類案件,他們都清楚這意味著什么。”
另一所英國(guó)中學(xué)更收到了150張AI合成的兒童性虐待影像。網(wǎng)絡(luò)觀察基金會(huì)迅速介入,將這些影像轉(zhuǎn)換為數(shù)字指紋并分享給各大科技平臺(tái)以阻止傳播。基金會(huì)表示,這并非孤立案件,“只是時(shí)間問(wèn)題”就會(huì)有更多學(xué)校成為攻擊目標(biāo)。
![]()
這些事件的駭人之處在于,犯罪分子所用的素材并非偷拍——它們就掛在學(xué)校的官方網(wǎng)站上,原本只是為了展示校園生活的正常照片。IWF指出,罪犯之所以瞄準(zhǔn)學(xué)校照片,正是因?yàn)樗鼈円撰@取且信息量豐富。
03
學(xué)校成了“素材庫(kù)”
在北英格蘭一所女子中學(xué),犯罪分子從學(xué)校網(wǎng)站上“爬取”了30名女生的照片,利用AI將其轉(zhuǎn)化為兒童性虐待材料,然后向校方發(fā)出25萬(wàn)英鎊的比特幣贖金要求。前全國(guó)警察局長(zhǎng)委員會(huì)兒童保護(hù)負(fù)責(zé)人Simon Bailey表示,這是學(xué)校目前面臨的風(fēng)險(xiǎn),“我同無(wú)數(shù)校長(zhǎng)談過(guò)這類案件,他們都清楚這意味著什么。”
另一所英國(guó)中學(xué)更收到了150張AI合成的兒童性虐待影像。網(wǎng)絡(luò)觀察基金會(huì)迅速介入,將這些影像轉(zhuǎn)換為數(shù)字指紋并分享給各大科技平臺(tái)以阻止傳播。基金會(huì)表示,這并非孤立案件,“只是時(shí)間問(wèn)題”就會(huì)有更多學(xué)校成為攻擊目標(biāo)。
![]()
這些事件的駭人之處在于,犯罪分子所用的素材并非偷拍——它們就掛在學(xué)校的官方網(wǎng)站上,原本只是為了展示校園生活的正常照片。IWF指出,罪犯之所以瞄準(zhǔn)學(xué)校照片,正是因?yàn)樗鼈円撰@取且信息量豐富。
04
法律的跛腳與平臺(tái)的盲區(qū)
面對(duì)技術(shù)引發(fā)的海嘯,法律和平臺(tái)的防御堤壩顯得千瘡百孔。
在英國(guó),盡管里程碑式的《在線安全法》試圖對(duì)科技平臺(tái)施加保護(hù)兒童的強(qiáng)制義務(wù),但在AI生成內(nèi)容這一灰色地帶,執(zhí)行仍嚴(yán)重滯后。合成裸照是否屬于兒童性虐待材料?
如果受害者沒(méi)有真實(shí)裸露,法律對(duì)“圖像”的定義能否囊括虛構(gòu)的像素?這些問(wèn)題在司法實(shí)踐中尚未形成清晰共識(shí)。犯罪者正是利用這種模糊空間,將運(yùn)營(yíng)節(jié)點(diǎn)設(shè)置在監(jiān)管薄弱的國(guó)家,實(shí)現(xiàn)跨境逃避。
![]()
而學(xué)校的隱私意識(shí)同樣嚴(yán)重缺位。克萊爾在案發(fā)后質(zhì)問(wèn)學(xué)校時(shí),校方表現(xiàn)出極大的震驚與無(wú)辜。長(zhǎng)久以來(lái),許多學(xué)校為了宣傳透明度和親民形象,在拍攝學(xué)生照片時(shí)僅使用一份寬泛的年度知情同意書(shū),家長(zhǎng)往往并未意識(shí)到“肖像使用授權(quán)”可能意味著孩子的高清生物特征被永久曝露在互聯(lián)網(wǎng)上,成為無(wú)法刪除的數(shù)字痕跡。
平臺(tái)方雖然聲稱引入了AI檢測(cè)機(jī)制,但深度偽造技術(shù)正以對(duì)抗生成網(wǎng)絡(luò)的方式極速進(jìn)化。一張逼真的虛假照片完全可以在幾小時(shí)內(nèi)的傳播窗口期內(nèi)逃過(guò)審查,直到被分享得鋪天蓋地。而且,平臺(tái)對(duì)“未經(jīng)同意發(fā)布私密合成圖像”的投訴處理流程,往往慢得令人窒息,受害者的創(chuàng)傷在等待中不斷被撕裂。
05
這不是英國(guó)的獨(dú)有問(wèn)題
此類攻擊正在美國(guó)校園持續(xù)蔓延。
路易斯安那州一所中學(xué)被曝多名男生使用AI工具將同校女生的面部拼接到虛假不雅照片上并傳播。當(dāng)受害女學(xué)生反抗施暴者時(shí),校方選擇將她開(kāi)除而未處分加害男生,引發(fā)輿論譴責(zé)。全美至少已有半數(shù)的州通過(guò)了針對(duì)生成式AI制作虛假影像的立法,部分法律明確將模擬兒童性虐待內(nèi)容納入規(guī)制范圍。
教師同樣無(wú)法幸免。德克薩斯州一名學(xué)生將教師的面部拼接至不雅影像上,并以索要更多色情內(nèi)容為由索錢(qián)。
在澳大利亞,青少年被視為敲詐受害者典型案例。南澳大利亞警方明確警告,犯罪分子通過(guò)“深度偽造”將受害者的臉拼接到另一具身體上,再以威脅公開(kāi)影像為由索要錢(qián)財(cái)。
事情,顯然才剛剛開(kāi)始……
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.