![]()
微軟CEO突然"開炮":你每用一次AI,都在給競爭對手送商業(yè)機密你們蒸餾全世界的數(shù)據(jù)沒問題,我蒸餾你們模型怎么就不行了!
你可能不知道,你每天都在做一件很傻的事。
什么傻事?把你公司最值錢的秘密,免費送給AI公司。
這聽起來有點反常識。我們付費買AI服務(wù),怎么變成免費送東西了?
這個邏輯,連微軟CEO都看不下去了。
7月13日,薩提亞·納德拉(Satya Nadella)在社交平臺X上發(fā)了一篇長文,標題叫《逆向信息悖論》(The Reverse Information Paradox)。
這篇文章,直接撕開了整個AI行業(yè)最難看的那塊遮羞布。
一、一個讓所有企業(yè)主脊背發(fā)涼的概念
納德拉在文章里,提到了一個經(jīng)濟學概念。
1972年諾貝爾經(jīng)濟學獎得主肯尼斯·阿羅(Kenneth Arrow)曾提出過一個著名的“信息悖論”:
購買者在獲得信息之前,無法得知信息的真正價值;但一旦獲得了信息,他實際上就已經(jīng)免費占有了它。
簡單說就是:賣家想把知識賣給你,就必須先把知識展示給你看。一旦展示完了,你很可能就不付錢了。
這是傳統(tǒng)信息交易里的難題。
但納德拉說,AI把這個邏輯完全反轉(zhuǎn)了——反轉(zhuǎn)得很可怕。
“本質(zhì)上,你在使用AI時,支付了兩次費用。一次是金錢,另一次是更寶貴的東西:為了讓AI真正發(fā)揮作用,你必須向它披露你的私有知識。你越想讓模型表現(xiàn)出色,就必須喂給它越多的知識!”
翻譯成人話就是:
你每糾正一次AI的錯誤,你就等于免費教會了它一個新技能。
你每寫一個精準的提示詞,你就把你腦子里的行業(yè)經(jīng)驗,免費存進了它的數(shù)據(jù)庫。
你每讓AI分析一次你的客戶數(shù)據(jù),它就把你的商業(yè)邏輯,摸得一清二楚。
而這一切,都是在你"正常使用"的過程中,悄無聲息地發(fā)生的。
你付了錢,還把家底都交代了。
納德拉給這種現(xiàn)象起了個名字,叫“逆向信息悖論”。
隨著時間推移,信息不對稱會越來越嚴重:
AI的供應(yīng)商,通過你使用它的產(chǎn)品,不斷加深對你的了解。而你,對它究竟從你這里學到了什么,幾乎一無所知。二、Claude Code"隱形代碼門":最好的注腳
納德拉這篇文章之所以引發(fā)如此大的震動,是因為時機太巧了。
就在幾天前,AI圈剛剛曝出了一個讓所有人震驚的消息。
Anthropic的旗艦編程工具Claude Code,被發(fā)現(xiàn)內(nèi)置了一套"隱形代碼"。
具體是怎么回事?
安全研究人員發(fā)現(xiàn),Claude Code從2.1.91版本開始,悄悄地植入了一段代碼。這段代碼專門針對使用網(wǎng)絡(luò)代理的用戶進行檢測:
第一步:檢測時區(qū)。如果你的系統(tǒng)時區(qū)被設(shè)置為"Asia/Shanghai"(北京時間)或"Asia/Urumqi"(烏魯木齊時間),觸發(fā)第一層標記。
第二步:檢測代理域名。它會悄悄提取你正在使用的代理URL,拿去和一份藏在代碼里的、經(jīng)過加密混淆的名單進行比對。這份名單包含147個域名——包括百度、阿里巴巴、字節(jié)跳動、月之暗面(Kimi)、MiniMax、階躍星辰等中國科技公司和AI實驗室的域名。
第三步:隱寫術(shù)傳信號。檢測結(jié)果不會直接報錯,而是通過修改系統(tǒng)提示詞中的日期格式和標點符號來傳遞信息——比如把"2026-06-30"悄悄改成"2026/06/30",把撇號替換成幾種肉眼幾乎無法分辨的Unicode字符。
整個過程,用戶完全不知情。
你以為你在正常寫代碼,其實你在被悄悄標記。
Claude Code隨后在X上回應(yīng),承認了這個機制的存在,并辯稱這是“今年3月啟動的一項反濫用實驗”,目的是"防止未經(jīng)授權(quán)的轉(zhuǎn)售商濫用賬戶并防范蒸餾行為"。
然而,Anthropic后來又承認,這個機制"將在下一版本中移除"。
從"實驗性功能"到"立即下架",中間只隔了一次被抓包。
諷刺的是,一家以"透明、可信、負責任"為口號的AI公司,用隱寫術(shù)在用戶眼皮底下埋代碼。
這恰恰印證了納德拉的擔憂:
當你在使用一個外部AI模型時,你根本無法知道它到底在收集你的什么信息。
三、行業(yè)的"雙標門":自己瘋狂爬數(shù)據(jù),不許別人蒸餾
納德拉這篇文章,被廣泛解讀為對當前AI行業(yè)"雙重標準"行為的一次正面開炮。
雖然他沒有點名,但外界普遍認為,他的批評主要針對Anthropic,以及整個AI頭部陣營。
什么叫雙重標準?
第一重:瘋狂爬數(shù)據(jù)。
主流AI大模型依賴海量公開數(shù)據(jù)完成訓練,這早已不是秘密。OpenAI、Anthropic、谷歌……幾乎所有頭部AI企業(yè),都常年深陷數(shù)據(jù)侵權(quán)訴訟。
而特斯拉CEO埃隆·馬斯克(Elon Musk)今年2月直接在X上開懟:
“Anthropic大規(guī)模竊取訓練數(shù)據(jù),并因此支付了數(shù)十億美元的和解金。這就是事實。”
第二重:禁止別人蒸餾。
“蒸餾”(Distillation)是AI行業(yè)一項成熟的技術(shù)手段,指的是利用大模型的輸出,來訓練和優(yōu)化更輕量的模型。這個過程可以大幅降低研發(fā)成本,加速技術(shù)普及。
然而,包括Anthropic在內(nèi)的頭部AI公司,一邊免費用公開數(shù)據(jù)訓練自己的模型,一邊在服務(wù)條款里對"蒸餾"施加嚴苛限制。
同時,他們還保留從用戶使用和交互數(shù)據(jù)中持續(xù)學習的權(quán)利。
自己靠爬數(shù)據(jù)起家,現(xiàn)在不讓人家用正當技術(shù)做輕量化學習——這不是雙標是什么?
今年早些時候,Anthropic CEO阿莫代(Dario Amodei)曾公開指控某些中國AI公司通過蒸餾技術(shù)"竊取"Claude的能力,甚至向美國議員舉報所謂"蒸餾攻擊"。
而Anthropic自己,卻長期回避"數(shù)據(jù)是怎么來的"這個問題。
馬斯克對此的評價很直接——“賊喊捉賊”。
四、每家公司的核心知識,正在被一點點抽空
納德拉在文章里,用一句話點透了問題的本質(zhì):
“模型從’尾氣’(exhaust)中學習,包括人們寫下的提示詞、智能體調(diào)用的工具,特別是當模型犯錯時人類所做的糾正。”
"尾氣"這個詞用得很妙。
它意味著,你每一次使用AI的過程,都是在排放有價值的資產(chǎn)。
你糾正AI的一個錯誤——這是你花了多少年才積累出的經(jīng)驗?
你精心撰寫的一條提示詞——這是你花了多少時間才總結(jié)出的方法論?
你讓AI分析一次客戶數(shù)據(jù)——這是你花了多少成本才構(gòu)建出的商業(yè)洞察?
這些東西,被AI系統(tǒng)一點一點地吸收、積累、整合。
最終,AI公司比你更懂你的行業(yè),比你更懂你的客戶,甚至比你更懂怎么經(jīng)營你的公司。
而你對此無能為力。
因為這一切,都發(fā)生在"正常使用"的過程中。
五、納德拉開出的"藥方":每家企業(yè)都需要一個"信任邊界"
那么,納德拉認為這個問題怎么解決?
他說,光靠"數(shù)據(jù)保護"是不夠的。
因為AI學習你的方式,不只是直接讀取你的文件。它可以從你寫的提示詞里學,從你調(diào)用的工具里學,從你糾錯的反饋里學。
所以,納德拉提出一個更根本的概念——“信任邊界”(Trust Boundary):
“在這個邊界內(nèi),一個組織的數(shù)據(jù)、痕跡、評估、調(diào)整后的權(quán)重和記憶得以共同積累和改善。這是一個嚴密的邊界,未經(jīng)許可,任何東西都不能跨越,甚至連智能的’尾氣’也不行。”
他的建議很明確:
第一,不要過度依賴外部大模型。核心的私有數(shù)據(jù),盡量不要喂給第三方模型。
第二,搭建自主可控的AI基礎(chǔ)設(shè)施。打造屬于自己的技術(shù)學習閉環(huán),數(shù)據(jù)在自己手里,學習在自己這里。
第三,建立嚴格的數(shù)據(jù)安全邊界。不是靠一紙隱私協(xié)議,而是靠物理和技術(shù)上的隔離。
第四,實現(xiàn)技術(shù)自主迭代。讓AI為你的企業(yè)服務(wù),而不是讓企業(yè)為AI公司貢獻數(shù)據(jù)。
納德拉的原話是:
“如果學習只向一個方向流動,經(jīng)濟價值就會向?qū)W習基礎(chǔ)設(shè)施的所有者聚集,而不是流向知識本身的創(chuàng)造者。”六、這不是危言聳聽——這是正在發(fā)生的事
有人可能會說:納德拉說這些,是不是為了給微軟Azure和Copilot打廣告?
這個質(zhì)疑不是沒有道理。但問題是,他說的這些問題,已經(jīng)有太多實打?qū)嵉陌咐谟∽C。
案例一:Claude Code的隱形代碼。這件事發(fā)生在Anthropic身上,一個以"AI安全"著稱的公司。
案例二:AI公司集體深陷數(shù)據(jù)侵權(quán)訴訟。過去兩年,《紐約時報》、無數(shù)作家、藝術(shù)家集體起訴OpenAI、Anthropic、Stability AI未經(jīng)授權(quán)使用他們的作品訓練模型。
案例三:企業(yè)用AI處理敏感數(shù)據(jù),最終數(shù)據(jù)流向了哪里,沒有人能說清楚。
這已經(jīng)不是"可能性"問題了。
這是已經(jīng)發(fā)生的現(xiàn)實。
七、寫在最后:別當那個冤大頭
這篇文章,不是要勸你不用AI。
AI確實有用。確實能提升效率。確實能幫你解決很多問題。
但你必須清醒地意識到一件事:
當你把最核心的業(yè)務(wù)數(shù)據(jù)、最寶貴的行業(yè)經(jīng)驗、最機密的企業(yè)know-how,一股腦地喂給外部AI系統(tǒng)時,你正在做一件高風險的事。
你可能省了錢。省了時間。
但你可能正在付出的,是比金錢更昂貴的東西。
納德拉這篇文章,與其說是一篇商業(yè)分析,不如說是一封給所有企業(yè)主的公開信:
“換句話說,一家公司應(yīng)該能夠在這種前提下使用模型,即不放棄令公司獨一無二的知識。這就是我們需要去面對的逆向信息悖論。”
這句話,值得所有正在擁抱AI的企業(yè),抄下來,裱在墻上。
來源媒體:澎湃新聞、環(huán)球網(wǎng)、騰訊新聞、IT之家、鈦媒體、Business Insider
微軟CEO納德拉痛批AI大廠雙標:自己"爬"數(shù)據(jù),不許別人"蒸餾"(騰訊新聞,2026-07-13)
微軟CEO納德拉告誡企業(yè):使用模型越頻繁,就等于輸送免費企業(yè)機密信息(澎湃新聞,2026-07-14)
Anthropic承認Claude Code植入隱蔽標記(中國用戶遭遇全鏈路封鎖)(騰訊新聞,2026-07-03)
本文首發(fā)于公眾號,未經(jīng)授權(quán)禁止轉(zhuǎn)載。
為偉大思想而生!
AI+時代,互聯(lián)網(wǎng)思想(wanging0123),
第一必讀自媒體
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.