北京
在遭遇強烈抗議后，Meta迅速撤回了其Instagram最新AI更新中最具爭議的部分。用戶將不再能夠輕易創(chuàng)建其他Instagram用戶的深度偽造內(nèi)容。
Meta于上周五在其公告博客的更新中寫道："我們聽到了反饋，認(rèn)為這項功能未能達(dá)到預(yù)期效果，因此該功能已不再可用。"
上周，Meta為了證明其在生成式AI領(lǐng)域數(shù)十億美元投入的價值，將最新的AI圖像模型引入了Instagram平臺。該更新新增了一項功能，允許用戶"標(biāo)記"任何公開的Instagram賬號，并將這些真實用戶納入生成的照片級逼真AI圖像中——這實質(zhì)上就是在創(chuàng)建深度偽造內(nèi)容。
Meta當(dāng)時提供了兩種退出選項，但許多用戶對系統(tǒng)默認(rèn)將所有人設(shè)置為"同意參與"的做法感到憤慨。代表演員群體、長期致力于保護(hù)藝術(shù)家肖像權(quán)不受AI公司侵害的工會SAG-AFTRA發(fā)表聲明稱："非自愿數(shù)字復(fù)制品的危險已廣為人知，一項助長此類行為的功能是極不明智的。我們對該功能的下線表示贊賞，這是負(fù)責(zé)任的舉措。"
隨著AI圖像和視頻模型的持續(xù)演進(jìn)，僅憑肉眼辨別內(nèi)容真假變得愈發(fā)困難。不可見水印技術(shù)和更醒目的AI內(nèi)容標(biāo)注，是科技公司正在探索的兩種幫助用戶區(qū)分AI內(nèi)容的方法。然而，在大量AI生成內(nèi)容泛濫的環(huán)境下，辨別真?zhèn)我廊皇且淮箅y題。而Instagram上仍在運行的圖像創(chuàng)建與編輯AI工具，或許只會讓這一問題進(jìn)一步惡化。
Q&A
Q1：Meta為什么撤回Instagram的深度偽造功能？
A：Meta在推出允許用戶用AI生成他人逼真圖像的功能后，遭到了大量用戶和機構(gòu)的強烈反對。主要爭議在于，該功能默認(rèn)將所有用戶設(shè)置為"同意參與"，而非讓用戶主動選擇加入。演員工會SAG-AFTRA等機構(gòu)批評這一做法助長了非自愿數(shù)字復(fù)制行為，Meta隨后宣布下線該功能。
Q2：SAG-AFTRA對Meta的深度偽造功能持什么態(tài)度？
A：SAG-AFTRA明確反對該功能，并發(fā)表聲明指出，非自愿數(shù)字復(fù)制品的危險已廣為人知，鼓勵此類行為的功能是極不明智的。該工會長期致力于保護(hù)藝術(shù)家的肖像權(quán)不受AI公司侵害，并對Meta最終下線該功能表示贊賞，認(rèn)為這是負(fù)責(zé)任的做法。
Q3：目前有哪些方法可以幫助用戶識別AI生成的內(nèi)容？
A：目前科技公司主要采用兩種方式幫助用戶辨別AI內(nèi)容：一是嵌入不可見的數(shù)字水印，二是為AI生成內(nèi)容添加更醒目的標(biāo)注說明。然而，隨著AI圖像和視頻模型的快速發(fā)展，僅憑肉眼辨別真假內(nèi)容愈發(fā)困難，在AI生成內(nèi)容大量涌現(xiàn)的環(huán)境下，這些措施的效果依然有限。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
