OpenAI前CTO:別讓世界只剩一種AI！

日前，Thinking Machines 創(chuàng)始人兼 CEO Mira Murati 在公司成立近一年半后首次發(fā)文《值得建設(shè)的未來(lái)是人類(lèi)》，系統(tǒng)闡述其 AI 理念的使命宣言。

這家公司由多位前 OpenAI 核心成員創(chuàng)立，包括 John Schulman、Lilian Weng 等，Mira Murati 就是前 OpenAI CTO ，其此前一直極少公開(kāi)表達(dá)技術(shù)路線，而這篇長(zhǎng)文可以視作其第一份完整的“AI 哲學(xué)”。

與 OpenAI、Anthropic 強(qiáng)調(diào)安全和 AGI 不同，Thinking Machines 提出了一個(gè)更鮮明的主張：未來(lái)不應(yīng)該只有一個(gè)統(tǒng)一的大模型，而應(yīng)該有無(wú)數(shù)個(gè)由個(gè)人和組織共同塑造的 AI。

Mira Murati 在 X 上轉(zhuǎn)發(fā)該宣言時(shí)稱，人類(lèi)價(jià)值觀無(wú)法被平均，本地知識(shí)無(wú)法被集中。真正美好的未來(lái)，將由無(wú)數(shù)在不同地方成長(zhǎng)、由服務(wù)對(duì)象共同塑造、彼此存在分歧的 AI 組成。

聯(lián)合創(chuàng)始人 John Schulman 也表示，這正是公司創(chuàng)立時(shí)最重要的兩個(gè)判斷：人們應(yīng)該擁有更多定制模型和研究模型的能力；即使 AI 越來(lái)越自主，人類(lèi)與 AI 如何高效協(xié)作，仍有大量技術(shù)工作要做。

相比過(guò)去一年 AI 行業(yè)普遍追求“更大的模型、更強(qiáng)的 Agent、更高的自主性”，Thinking Machines 幾乎反其道而行。

文章認(rèn)為，AI 最大的問(wèn)題已經(jīng)不是能力，而是誰(shuí)來(lái)決定 AI 應(yīng)該做什么；真正值得建設(shè)的未來(lái)，不是一個(gè)中心化的超級(jí)智能，而是一個(gè)由個(gè)人、企業(yè)和社區(qū)共同擁有、持續(xù)訓(xùn)練、持續(xù)塑造的 AI 生態(tài)。

“AI 應(yīng)該幫助每一家組織形成自己的競(jìng)爭(zhēng)優(yōu)勢(shì)，而不是抹平彼此之間的差異。”

A16z 合伙人 Anish Acharya 發(fā)帖稱，“這是今年看到的最好文章”。

以下為文章全文——

Thinking Machines 的使命

Thinking Machines 的使命，是構(gòu)建能夠延伸人類(lèi)意志與判斷力的 AI。

人工智能每天都在變得更強(qiáng)大，但真正決定它應(yīng)該做什么的，始終是人類(lèi)——無(wú)論是個(gè)人、組織，還是整個(gè)社會(huì)。

這樣的決定并非來(lái)自一次性的設(shè)計(jì)，而來(lái)自長(zhǎng)期積累的知識(shí)與判斷。隨著越來(lái)越多的工作開(kāi)始由人與 AI 協(xié)同完成，塑造先進(jìn)智能也將成為一個(gè)持續(xù)反饋、不斷學(xué)習(xí)、反復(fù)校準(zhǔn)的過(guò)程。

然而，今天的大多數(shù) AI 并非如此。

它們通常只在少數(shù)幾個(gè)地方完成訓(xùn)練，隨后便被凍結(jié)，面向所有人提供幾乎相同的能力。它們很少真正受到使用者的影響，也幾乎不會(huì)從人與 AI 的長(zhǎng)期協(xié)作中持續(xù)學(xué)習(xí)。

我們相信，如果 AI 的目標(biāo)是延伸人的能力，那么它本身也應(yīng)該像人類(lèi)社會(huì)一樣豐富、多元、分布式，而不是由少數(shù)中心統(tǒng)一定義。

這正是 Thinking Machines 所選擇的方向。

為了實(shí)現(xiàn)這一目標(biāo)，我們正圍繞幾個(gè)核心方向展開(kāi)工作：

• 持續(xù)訓(xùn)練更強(qiáng)大的基礎(chǔ)模型，推進(jìn)多模態(tài)交互、可定制化等前沿能力。模型越強(qiáng)大，就越需要人的判斷參與塑造。
• 構(gòu)建人人都能擁有和定制 AI 的工具，包括直接訓(xùn)練模型權(quán)重（Model Weights）的能力，讓模型真正服務(wù)于不同個(gè)體和組織。
• 開(kāi)發(fā)更自然、更豐富的人機(jī)交互方式，讓人的判斷能夠持續(xù)參與 AI 的工作過(guò)程，而不僅僅停留在一次 Prompt。
• 向科研社區(qū)公開(kāi)研究成果。因?yàn)檎嬲龘碛兴茉?AI 的能力，首先意味著理解 AI 是如何被構(gòu)建出來(lái)的。

我們相信，一個(gè)值得建設(shè)的 AI 未來(lái)，應(yīng)當(dāng)始終以人為中心——由人的知識(shí)塑造，由人的意志引導(dǎo)，由人的判斷決定。

下面，我們將解釋為什么這是我們所追求的未來(lái)，以及我們正在如何實(shí)現(xiàn)它。

把智能帶到知識(shí)產(chǎn)生的地方

AI 的意義，在于服務(wù)人類(lèi)的工作。

而工作真正依賴的，并不僅僅是信息，而是關(guān)于如何做事、以及什么值得去做的知識(shí)。這些知識(shí)并不是靜態(tài)存在的，而是在真實(shí)工作中不斷產(chǎn)生、不斷演化。

想象一位廚師正在設(shè)計(jì)一道新菜，或者一家小店老板重新調(diào)整商品陳列和價(jià)格。

他們每天都在做大量復(fù)雜判斷。這些經(jīng)驗(yàn)往往無(wú)法完整寫(xiě)進(jìn)文檔，也不會(huì)永久保存在數(shù)據(jù)庫(kù)中，而是在實(shí)踐、反饋和修正中不斷更新。

更重要的是，這些知識(shí)高度分散。

不同餐廳有不同的經(jīng)營(yíng)方式，不同商店有不同的目標(biāo)，不同企業(yè)擁有不同的經(jīng)驗(yàn)。真正推動(dòng)世界運(yùn)轉(zhuǎn)的知識(shí)，并不存在于某一個(gè)中央數(shù)據(jù)庫(kù)，而是掌握在無(wú)數(shù)親身實(shí)踐的人手中。

這種分散，并不是低效，而恰恰是整個(gè)社會(huì)創(chuàng)新能力的來(lái)源。

它帶來(lái)了多樣性、適應(yīng)能力和韌性。

這也是為什么自由市場(chǎng)能夠長(zhǎng)期優(yōu)于計(jì)劃經(jīng)濟(jì)。

中央計(jì)劃之所以難以成功，并不是因?yàn)橹醒氩粔蚵斆鳎且驗(yàn)檎嬲袃r(jià)值的知識(shí)具有天然屬性：它往往是默會(huì)的、本地化的、不斷變化的，并且掌握在具體實(shí)踐者手中。

任何試圖把這些知識(shí)集中起來(lái)，再交由一個(gè)統(tǒng)一智能處理的方式，都將面臨同樣的問(wèn)題。

當(dāng)然，也存在一些僅靠智能本身就足以取得突破的領(lǐng)域。

例如國(guó)際象棋，最強(qiáng)大的棋類(lèi) AI 幾乎完全依賴自我博弈訓(xùn)練；數(shù)學(xué)領(lǐng)域，最先進(jìn)的模型已經(jīng)開(kāi)始獨(dú)立解決長(zhǎng)期懸而未決的問(wèn)題。

這些領(lǐng)域有兩個(gè)共同特點(diǎn)。

第一，目標(biāo)明確且穩(wěn)定，例如贏得一盤(pán)棋、證明一個(gè)定理。

第二，它們幾乎不存在隱藏知識(shí)。國(guó)際象棋和數(shù)學(xué)的規(guī)則對(duì)所有人都是公開(kāi)且一致的。

但現(xiàn)實(shí)世界并不是這樣。

離開(kāi)棋盤(pán)之后，僅有智能遠(yuǎn)遠(yuǎn)不夠。

如果 AI 想真正利用人類(lèi)社會(huì)分散存在的知識(shí)，它自身也必須是分布式的。

每一家企業(yè)，都擁有屬于自己的專業(yè)知識(shí)；每一個(gè)組織，都通過(guò)員工的長(zhǎng)期實(shí)踐不斷積累自己的經(jīng)驗(yàn)。

我們相信，AI 應(yīng)該幫助組織不斷沉淀和發(fā)展這些獨(dú)特知識(shí)，而不是簡(jiǎn)單抽取其中一個(gè)快照，再用統(tǒng)一的標(biāo)準(zhǔn)模型替代它。

知識(shí)不是一次性提取出來(lái)的資產(chǎn)，而是持續(xù)培育的能力。

因此，AI 應(yīng)當(dāng)成為人的合作伙伴，而不是人的替代者。

2014 年，長(zhǎng)期以自動(dòng)化聞名的 Toyota 曾讓經(jīng)驗(yàn)最豐富的工匠重新回到生產(chǎn)線，目的并不是降低自動(dòng)化水平，而是重新培養(yǎng)制造知識(shí)。

負(fù)責(zé)這項(xiàng)改革的 Mitsuru Kawai 曾說(shuō)：

“要成為機(jī)器的主人，你必須擁有能夠教會(huì)機(jī)器的知識(shí)與技能。”

知識(shí)的創(chuàng)造，與智能的應(yīng)用，并不是此消彼長(zhǎng)，而是相互促進(jìn)。

未來(lái)，人類(lèi)工作的內(nèi)容也許會(huì)發(fā)生變化，更專注于那些只有人才能完成的事情。

但真正優(yōu)秀的組織，一定會(huì)同時(shí)充分發(fā)揮人與 AI 各自的優(yōu)勢(shì)。

AI 的使命，不是讓所有組織變得一樣，而是幫助每一個(gè)組織按照自己的方式變得更加卓越。

我們的目標(biāo)，就是把智能帶到知識(shí)真正產(chǎn)生和使用的地方。

我們希望，每個(gè)人都能夠利用自己的知識(shí)微調(diào)模型，并隨著知識(shí)不斷更新，讓 AI 一起成長(zhǎng)。

我們也會(huì)持續(xù)公開(kāi)研究成果和實(shí)踐方法，讓更多人擁有這種能力。

我們所設(shè)想的前沿 AI，不是一個(gè)統(tǒng)一的大腦，而是一個(gè)由無(wú)數(shù)不同 AI 組成的共同體——它像它所服務(wù)的人類(lèi)一樣豐富、多元，因?yàn)樗揪褪怯蔁o(wú)數(shù)不同的人共同塑造出來(lái)的。

人類(lèi)參與，本身就是一個(gè)技術(shù)問(wèn)題

強(qiáng)調(diào)人的參與，并不意味著為了反對(duì)自動(dòng)化而反對(duì)自動(dòng)化。

凡是機(jī)器能夠穩(wěn)定完成的工作，就應(yīng)該交給機(jī)器。

但機(jī)器也應(yīng)該知道，什么時(shí)候獨(dú)立行動(dòng)，什么時(shí)候主動(dòng)尋求人類(lèi)監(jiān)督與反饋。

人與人協(xié)作，本來(lái)就是這樣。

優(yōu)秀的同事會(huì)提前理解你的意圖，在你開(kāi)口之前就做好準(zhǔn)備；隨著長(zhǎng)期合作，他們逐漸獲得代表你行動(dòng)的信任。

讓 AI 擁有這種協(xié)作能力，本質(zhì)上是一個(gè)技術(shù)問(wèn)題。

今天，大語(yǔ)言模型最大的瓶頸之一，是人與 AI 之間的溝通方式仍然過(guò)于簡(jiǎn)單：一個(gè)輸入框，一段等待時(shí)間。

這樣的交互無(wú)法承載人類(lèi)豐富的知識(shí)、經(jīng)驗(yàn)和判斷，也很難形成持續(xù)反饋。

人與人最有效的合作，總是在實(shí)時(shí)發(fā)生。

我們會(huì)打斷彼此、修正觀點(diǎn)、重新思考，也會(huì)一邊表達(dá)、一邊改變自己的判斷。

因此，我們長(zhǎng)期押注于交互模型（Interaction Models）。

我們希望模型能夠原生支持實(shí)時(shí)、多模態(tài)交互，而不是依賴越來(lái)越復(fù)雜的外圍系統(tǒng)。

這樣，交互能力就會(huì)隨著模型智能一起成長(zhǎng)。

讓模型更聰明的訓(xùn)練，也會(huì)讓它成為更好的協(xié)作者。

優(yōu)秀的交互界面，不只是允許人參與，而是主動(dòng)鼓勵(lì)并放大人的參與。

另一個(gè)重要挑戰(zhàn)，是如何重新定義 AI 的能力。

今天，人們通常用模型能夠獨(dú)立完成軟件任務(wù)的時(shí)間跨度來(lái)衡量 AI，例如 METR 等基準(zhǔn)。

這一指標(biāo)仍然重要，但它最終衡量的只是 AI 單獨(dú)能夠做到什么。

真正重要的問(wèn)題應(yīng)該是：人與 AI 一起，能夠完成什么。

這個(gè)答案，沒(méi)有任何一家實(shí)驗(yàn)室能夠獨(dú)自給出。

每一家組織，都必須根據(jù)自己的目標(biāo)判斷 AI 是否真正幫助他們提升判斷力、創(chuàng)造新知識(shí)、實(shí)現(xiàn)長(zhǎng)期價(jià)值。

從長(zhǎng)期來(lái)看，讓 AI 不斷增強(qiáng)用戶，而不是取代用戶，也能夠形成更加健康的商業(yè)激勵(lì)。

如果一家 AI 公司始終只提供一個(gè)統(tǒng)一模型，它天然會(huì)傾向于不斷吸收用戶之間的差異，并削弱專業(yè)知識(shí)本身的價(jià)值。

而如果 AI 被設(shè)計(jì)成可以持續(xù)定制、持續(xù)協(xié)作，那么我們的成功，就來(lái)自客戶不斷放大自己的獨(dú)特優(yōu)勢(shì)。

真正的競(jìng)爭(zhēng)力，不是租用一個(gè) AI，把工作外包給它。

而是擁有屬于自己的 AI，并不斷按照自己的目標(biāo)塑造它。

去中心化的 Alignment

人類(lèi)價(jià)值觀，就像人類(lèi)知識(shí)一樣，天然分散在每一個(gè)人身上。

然而今天，大多數(shù) AI 的價(jià)值觀、行為方式以及表達(dá)風(fēng)格，卻主要由少數(shù)幾家公司決定。

無(wú)論管理得多么完善，只要價(jià)值對(duì)齊集中在少數(shù)地方，它就不可避免成為一個(gè)權(quán)力中心。

如果未來(lái)越來(lái)越多的重要工作都由 AI 獨(dú)立完成，而人類(lèi)參與越來(lái)越少，這種風(fēng)險(xiǎn)只會(huì)進(jìn)一步放大。

企業(yè)、政府與社會(huì)之間的關(guān)系，最終都建立在人擁有創(chuàng)造能力這一基礎(chǔ)之上。

當(dāng)一種力量已經(jīng)不再依賴人類(lèi)，它也可能逐漸失去理解和回應(yīng)人類(lèi)需求的動(dòng)力，而更多地服務(wù)于自身的延續(xù)。

即使出發(fā)點(diǎn)完全善意，在單一地點(diǎn)訓(xùn)練出來(lái)的模型，也不可避免會(huì)繼承訓(xùn)練者的價(jià)值觀，而不是每一個(gè)使用者自己的價(jià)值觀。

今天，大多數(shù) AI 實(shí)驗(yàn)室都利用上一代旗艦?zāi)Ｐ蜕捎?xùn)練數(shù)據(jù)，再利用上一代模型提供獎(jiǎng)勵(lì)信號(hào)，訓(xùn)練下一代模型。

于是，每一代模型都在不斷復(fù)制上一代模型的偏好。

所有人最終得到的，也越來(lái)越像同一種 AI。

統(tǒng)一的 Alignment 規(guī)范，會(huì)削弱創(chuàng)造力、多樣性，也會(huì)放緩真正的創(chuàng)新。

正如自由市場(chǎng)和言論自由能夠催生新的思想、產(chǎn)品和服務(wù)一樣，AI 也需要多樣化的發(fā)展路徑，而不是不斷趨于平均。

如果個(gè)人和組織希望 AI 真正體現(xiàn)自己的價(jià)值觀，這些價(jià)值觀最終必須進(jìn)入模型本身，而不僅僅停留在 Prompt 層。

與此同時(shí)，我們也清楚，能夠深度塑造模型，就意味著同樣擁有將其用于惡意目的的能力。

1955 年，John von Neumann 曾寫(xiě)道：

技術(shù)有益與有害的一面，“彼此靠得如此之近，以至于永遠(yuǎn)無(wú)法把獅子和羔羊徹底分開(kāi)。”

真正的安全，不來(lái)自一次性的規(guī)則，而來(lái)自持續(xù)不斷的判斷和責(zé)任。

我們的目標(biāo)，是讓做出這些判斷的人擁有更強(qiáng)大的工具，而不是剝奪他們擁有 AI 的權(quán)利。

人類(lèi)文明的繁榮，來(lái)自無(wú)數(shù)獨(dú)特個(gè)體之間持續(xù)不斷的創(chuàng)造與碰撞。

我們?cè)O(shè)想的 Alignment，不屬于某一個(gè)模型，而屬于一個(gè)豐富、多元的 AI 生態(tài)。

這些 AI 在不同地方成長(zhǎng)，由不同的人塑造，彼此競(jìng)爭(zhēng)、彼此學(xué)習(xí)，也彼此保留差異。

我們希望，這種獨(dú)特性能夠一直存在。

一個(gè)值得建設(shè)的未來(lái)

科技行業(yè)已經(jīng)讓機(jī)器學(xué)會(huì)了思考。

但機(jī)器應(yīng)該思考什么，始終應(yīng)該由人類(lèi)決定。

什么值得追求，什么值得創(chuàng)造，我們有限的人生應(yīng)該如何使用——這些答案，不應(yīng)只有一種。

我們的目標(biāo)，不是替所有人給出統(tǒng)一答案，而是讓每一個(gè)人都能夠把自己的答案，真正融入前沿 AI 的發(fā)展之中。

今天 AI 的發(fā)展方向，越來(lái)越強(qiáng)調(diào)中心化與自主化。

在這種路徑下，人類(lèi)參與似乎總意味著能力下降，擁有權(quán)似乎總意味著安全風(fēng)險(xiǎn)。

我們并不接受這樣的二元對(duì)立。

在我們看來(lái)，這些都只是尚未解決的技術(shù)問(wèn)題。

我們希望構(gòu)建這樣一種 AI：它因?yàn)楣膭?lì)人的參與而變得更加強(qiáng)大；組織因?yàn)槟軌虺掷m(xù)塑造自己的 AI 而獲得長(zhǎng)期競(jìng)爭(zhēng)優(yōu)勢(shì)；Alignment 來(lái)自一個(gè)由無(wú)數(shù)不同擁有者共同塑造的 AI 生態(tài)，而不是一個(gè)唯一正確的模型。

這正是 Thinking Machines 希望解決的問(wèn)題，也是我們的使命。

未來(lái)，并不是在人類(lèi)主導(dǎo)與被 AI 淘汰之間二選一。

通往未來(lái)的道路不止一條，而選擇走哪一條，仍然掌握在人類(lèi)自己手中。

我們希望構(gòu)建的技術(shù)，能夠讓人類(lèi)與自己創(chuàng)造出的智能，并肩前行。