AI太可怕，央視曝光，視頻通話也能造假了，我們還能相信什么

央視前兩天報(bào)了一條消息，看完我愣了好一會(huì)兒。

新一代AI換臉技術(shù)，只需要一張照片，就能在實(shí)時(shí)視頻通話中完成換臉。延遲是毫秒級(jí)的。表情跟得上，嘴型對得上，頭動(dòng)、眨眼、皺眉，全都自然到你盯著看都不一定能發(fā)現(xiàn)問題。

一張照片。實(shí)時(shí)的。毫秒級(jí)。

我反復(fù)確認(rèn)了三遍，不是預(yù)先錄好的視頻，不是后期處理的素材，是正在進(jìn)行的視頻通話里，對面那個(gè)人的臉，可以是任何人的臉

這事兒的恐怖程度，很多人可能還沒反應(yīng)過來。

這不是科幻片的橋段

兩三年前DeepFake剛出來的時(shí)候，大家的反應(yīng)更多是獵奇。換臉視頻糊得一塌糊涂，光線一變臉就扭曲，嘴巴和聲音永遠(yuǎn)差那么零點(diǎn)幾秒。那時(shí)候大家覺得，哦，挺好玩的，但一眼就能看出來是假的。

后來AI語音合成跟上了。去年有不少案例，騙子用AI克隆家人的聲音打電話，說急事要轉(zhuǎn)賬，有人真的被騙走了幾十萬上百萬。那時(shí)候大家開始慌了，但還留著一個(gè)底線的安全感。

• 沒事，打個(gè)視頻確認(rèn)一下就行了。視頻總不能造假吧？

現(xiàn)在這條底線也沒了。

你想想這個(gè)場景。你媽給你打視頻電話，畫面里就是她的臉，她的表情，她說話的節(jié)奏，她跟你聊了兩分鐘家常，然后說最近身體不太好，需要一筆錢做檢查。你會(huì)懷疑嗎？

大概率不會(huì)。

因?yàn)槲覀儙浊陙斫⒌男湃误w系，最底層的一條就是「眼見為實(shí)」。聲音可以模仿，文字可以偽造，但一個(gè)活生生的人出現(xiàn)在你面前，臉對臉地跟你說話，這是人類認(rèn)知系統(tǒng)里最后的錨點(diǎn)。

現(xiàn)在這個(gè)錨點(diǎn)被拔掉了。

造假這件事，一直在升級(jí)

回頭看，這條路走得其實(shí)挺清晰的。

九十年代Photoshop普及，修個(gè)照片就能上報(bào)紙頭條，鬧出過不少假新聞。后來大家學(xué)聰明了，開始看EXIF信息、查像素邊緣，各種鑒偽工具跟上來了。

再后來是音頻。錄音剪輯、變聲器、AI語音合成，一步步迭代。每次造假技術(shù)升級(jí)，檢測手段就追著跑，追上了，消停一陣子，然后新的造假方式又冒出來。

這是一個(gè)螺旋。造假，防偽，再造假，再防偽。

但這次不太一樣。

之前每次升級(jí)，至少有一個(gè)「退路」。照片假了看視頻，音頻假了打視頻。每次都還有一個(gè)更高維度的驗(yàn)證方式兜底。

實(shí)時(shí)視頻換臉把這個(gè)退路堵死了。你往哪退？總不能說，以后確認(rèn)身份得線下見面，還得捏一下對方的臉看看是不是硅膠面具吧。

說到硅膠面具……算了不展開了，再說就成恐怖片了。

誰在開心，誰在倒霉

有意思的是，圍繞這個(gè)技術(shù)，不同人的利益完全不一樣。

造假者是最直接的受益方。詐騙門檻斷崖式下降，以前搞一個(gè)換臉視頻要專業(yè)設(shè)備、要算力、要時(shí)間，現(xiàn)在一張照片加一個(gè)工具就夠了。勒索、造謠、偽造證據(jù)、生成不雅內(nèi)容，每一條都是真金白銀的灰色產(chǎn)業(yè)。

平臺(tái)方的處境很微妙。一方面它們在技術(shù)競賽里推動(dòng)著這些能力的進(jìn)步，另一方面又不得不承擔(dān)內(nèi)容審核的壓力。這里面的矛盾，大家都心知肚明，我就不多說了。

普通人是最慘的。隱私風(fēng)險(xiǎn)加大了，財(cái)產(chǎn)風(fēng)險(xiǎn)加大了，但最要命的是一個(gè)隱性成本的飆升——信任成本

以后每接一個(gè)視頻電話，你腦子里可能都要先閃過一個(gè)念頭，這人是真的嗎？

跟朋友、跟家人、跟同事，每一次視頻溝通都多了一層懷疑。這種懷疑不需要真的遇到騙子才產(chǎn)生，光是「知道這個(gè)技術(shù)存在」就夠了。

這才是最大的傷害。

法律和技術(shù)檢測呢？

坦率講，跟不上。

現(xiàn)在的監(jiān)管框架還在處理上一代的問題。AI生成內(nèi)容的標(biāo)注、深度偽造的法律認(rèn)定、受害者的舉證責(zé)任……每一項(xiàng)都還在討論階段。而技術(shù)這邊，毫秒級(jí)換臉意味著實(shí)時(shí)檢測的難度是指數(shù)級(jí)上升的，你總不能讓每個(gè)視頻通話都先過一遍AI鑒偽系統(tǒng)吧。就算能，延遲和隱私問題又是新的坑。

有人可能會(huì)說，以前每次技術(shù)升級(jí)，最后不都追上了嗎？

沒錯(cuò)。但追上的那段空窗期里，倒霉的都是普通人。

而且這次的空窗期可能格外長，因?yàn)樯墒紸I的進(jìn)化速度，和之前任何一代造假技術(shù)都不在一個(gè)量級(jí)上。PS迭代是按年算的，DeepFake迭代是按月算的，現(xiàn)在這些實(shí)時(shí)換臉模型的迭代，按周算都不夸張。

檢測技術(shù)跑得再快，它的邏輯是「找破綻」。但當(dāng)破綻越來越少、越來越細(xì)微，找破綻這件事本身就在逼近極限。

真正讓人不安的，不是技術(shù)

我一直在想，為什么這條新聞讓我的不適感比以往任何一次AI進(jìn)步的新聞都強(qiáng)。

不是因?yàn)樗茯_錢。騙錢的手段一直都有，電信詐騙也不是新鮮事。

是因?yàn)樗鼊?dòng)搖的東西太根本了。

人和人之間的信任，是一層一層搭起來的。文字信任、聲音信任、面對面的信任。每一層都對應(yīng)著一種確認(rèn)「對方是真人」的方式。現(xiàn)在這些層一層層被擊穿，我們在認(rèn)知上就會(huì)進(jìn)入一種很難受的狀態(tài)。

心理學(xué)上有個(gè)說法叫「基本信任感」，是人格發(fā)展最早期形成的東西。嬰兒通過和養(yǎng)育者的互動(dòng)建立起「世界大體上是安全的、可預(yù)測的」這個(gè)基本假設(shè)。所有后續(xù)的社會(huì)關(guān)系都建立在這個(gè)假設(shè)之上。

• 當(dāng)眼見不再為實(shí)，這個(gè)假設(shè)就裂了一條縫。

你不需要真的被騙過，光是「你看到的任何人臉都可能不是本人」這個(gè)認(rèn)知，就足以改變你和整個(gè)世界打交道的方式。

更警惕。更懷疑。更疲憊。

這種狀態(tài)有個(gè)很難聽的名字，叫泛化的不信任。原本只需要對陌生來電保持警惕，現(xiàn)在連熟人視頻都要打問號(hào)。信任的默認(rèn)值從「先相信」變成了「先懷疑」。

一個(gè)社會(huì)的信任默認(rèn)值一旦翻轉(zhuǎn)，所有的交易成本、溝通成本、情感成本都會(huì)飆升。這筆賬沒人算得過來。

我沒有解決方案

寫到這里我得老實(shí)說，我不知道怎么辦。

有人說靠技術(shù)反制，搞數(shù)字水印、搞活體檢測、搞區(qū)塊鏈身份認(rèn)證。這些方向都對，但哪個(gè)都不是短期能鋪開的。有人說靠法律嚴(yán)懲，判例確實(shí)在出，但立法永遠(yuǎn)是事后的。有人說靠教育，讓大家提高防范意識(shí)。這話沒錯(cuò)，但你讓一個(gè)六十多歲的老人去判斷視頻通話里的子女是不是AI生成的，這現(xiàn)實(shí)嗎？

我能想到的最誠實(shí)的建議，可能就是跟家人約一個(gè)暗號(hào)。一個(gè)只有你們知道的詞，或者一個(gè)奇怪的問題，視頻通話里先確認(rèn)一下。

很土。但可能有用。

AI越真，世界越假。

當(dāng)連視頻通話都不能信了，我們丟掉的不是某一項(xiàng)技術(shù)的可靠性，是人和人之間那層薄薄的、脆弱的、本來就不太經(jīng)得起折騰的信任。

昨天刷到一條評論，有個(gè)人說，“以后我媽給我打視頻，我得先讓她轉(zhuǎn)三個(gè)圈我才信是她。”

底下一堆哈哈哈。

但笑完之后，沒人接話了。