山東
IT之家 7 月 14 日消息，據外媒 TechCrunch 今天（14 日）報道，硅谷圍繞人工智能風險的爭論持續無休，最讓 AI 擁護者坐立不安的，卻是大型 AI 實驗室可能借專有模型充當“特洛伊木馬”。
初創企業和大型企業把敏感資料喂給模型后，模型提供商便能逐漸摸清客戶的業務，還可能利用積累下來的知識開拓同類業務，最終與客戶直接競爭。
當地時間 12 日，納德拉在博客中警告，企業使用 AI 時其實付了兩遍錢：一遍是明碼標價的 token 費用，另一遍則是在毫無察覺的情況下交出有價值的數據。“你實際上付了兩次錢，一次用金錢支付，另一次則用更加寶貴的東西支付，也就是為了讓 AI 真正發揮作用而必須披露的專有知識。你越希望模型表現得更好，就越需要向模型提供更多知識！”
企業為了讓模型更懂自身需求，實際上正在一點點把經營訣竅教給模型。“模型會從‘使用痕跡’中學習，包括人們輸入的提示詞、智能體調用的工具，尤其是模型犯錯后人們給出的糾正。每一次糾正最終都會變成企業內部積累的經驗。”
競爭對手無論花多少錢，都很難買到同樣的經驗，企業卻在使用模型的過程中主動把經驗交了出去。納德拉因此主張，AI 企業既然可以抓取互聯網內容訓練模型，企業也應當有權反過來研究并“蒸餾”AI 企業的模型。
IT之家注：所謂“模型蒸餾”，就是分析一個模型給出的答案，從中摸清模型如何工作，再據此訓練成本通常更低的新模型。
納德拉的核心觀點是，模型提供商不能只允許自己利用別人的數據。模型提供商可以用全世界的數據訓練模型，卻不準其他人以類似方式研究其模型，顯然是雙標行為。“模型提供商擁有合理使用公共數據訓練模型的權利，由此帶來的重大創新確有必要，但目前的做法卻是轉過頭來限制模型蒸餾，我認為很諷刺。”
納德拉尤其警惕模型提供商在服務條款中“保留從客戶使用數據和互動數據中學習的權利”。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
