北京
“我們想要一個訓練有素的AI，能幫丈夫（或妻子）策劃一場完美的殺死配偶的方案嗎？”上周末，Comma AI創始人喬治·霍茲拋出了這個直擊倫理底線的問題。作為一個長期與限制性規則周旋的“越獄者”，霍茲的答案讓很多人始料未及：不但應該，而且他愿意為這個原則付出生命。
這番言論并非憑空而來。近期AI對齊領域出現了一系列宏大構想，比如“AI Futures Project”推出的《AI 2040：A計劃》政策文件，設想全球研究者集體行動，為人類福祉將AI研發進度延緩14年。霍茲旗幟鮮明地屬于反對陣營。他認為，很多人擔心的“快速起飛”——AI在極短時間內獲得超人類能力的情景——其實不太站得住腳。對于AI對齊與安全，他認定的最佳路徑，是把重心放在本地控制的、與使用者利益深度綁定的模型上。
這個思路有它的酷勁。想想當前主流AI產品，像Claude、ChatGPT，本質上都是中央化管理的服務。背后的原因大多是基礎設施層面的：托管最先進的大型模型成本高昂，大多數人一天中的使用時長又不足以支撐真正的個人專屬AI。但技術總是在演進，這些制約正在松動。之前OpenClaw讓人興奮的地方，恰恰在于那種實驗性的、動手DIY的路子。如果能有更多AI產品重新找回那種狀態，會是一件很有意思的事。
問題是，霍茲天生就愛挑動神經。他把與用戶對齊的AI比喻成一把槍——一把不會因為你拿它殺了繼母而發出任何抗議的工具。在他看來，真正對齊的AI，應當能在你提出要求時，通過亞馬遜Prime訂購制毒設備，并手把手教你如何使用。他甚至宣稱，愿意為捍衛這個原則赴死，盡管很難想象會有什么樣的情境逼他走到那一步。
“我們要么生活在自由的世界里，要么就告別自由。”霍茲寫道。如果選項真的這么二元，自由當然更動聽。可事情并非全關自由，不是嗎？任何容納大量個體的結構，無論是社會、市場還是公司，都必須在各種利益之間做出平衡，把單個需求編織進一張由相互依存的偏好和問責系統組成的大網里。每一個向大眾投放科技產品的人，都有必要從整體網絡的視角來審視自己的作品，這就意味著要認真對待那些尚未被謀殺的配偶和繼父母的權益。
霍茲所體驗的自由，本質上是一種潛在的空間，它的邊界由尚未被侵犯的他人畫下。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
