與OpenAI前科學家聊：GPT-5、創新與AI的欺騙性

商業漫談

Jane's interview

“你會為 OpenAI 的改變感到遺憾嗎？”

“我有一點遺憾。

AI 領域的過去，比現在有趣得多。”

文 | 衛詩婕

嘉賓 |Kenneth Stanley 、 Joel Lehman

（前 OpenAI 、現 Lila 科學家，《為什么偉大不能被計劃》作者）

在經歷了漫長的等待和難產后，8月8號，GPT-5 終于發布了。

還是有不少國內的媒體將它稱作「史上最強的基礎模型」，但實際上，外網關于GPT-5 的質疑聲卻很洶涌——發布會的內容中，出現了偽科普和演示烏龍， GPT-5 的性能進展在一些人看來，遠未及預期。

在這個節點，我對話了OpenAI 的兩位前科學家：Kenneth Stanley 和 Joel Lehman；他們曾親歷前 ChatGPT 時代的 OpenAI ，也是《為什么偉大不能被計劃》一書的作者。（播客早在9月就已發布，文字版和視頻版剛剛登陸，見諒）

2023 年，這本書曾在中國科技圈掀起閱讀的潮流。那正是 ChatGPT 席卷全球，掀開大模型浪潮的一年。然而，Ken 和Joel 卻選擇了離開 OpenAI 。早在 2015 年，他們就拋出了獨特的觀點——創新需要摒棄對目標的追求感、并追求新奇性，所有偉大的創新都是不期而遇的。

當時，這個論點并沒有被太多人認知和接受，直到2022年底 ChatGPT 出現，這一論點被強有力地驗證了，因為，ChatGPT 本身就是一個意料之外的項目。

三年過去，Ken 和Joel 仍在持續推動「無目標創新」的理念，兩位AI科學家也始終保持著對AI圈的關注。在這期訪談中，我們聊到了 OpenAI 的發展史、其本身就是創新曲線的一體兩面。當 GPT-5 出現，Ken 和 Joel 卻在一片失望聲中表示，這也許恰恰意味著，關于 AI 的研究將再次變得有趣——要知道，過去幾年，盡管全世界都在矚目與追逐大模型的進展，但在他們看來，和從前相比，學術界正在變得無聊。

這是兩位關于創新的布道者。這期的內容圍繞AI，卻又不止于 AI 。

以下是訪談節選，為了提高可讀性，進行了一定文本優化。

（?原版訪談的播客版和視頻版，可前往小宇宙、B站等平臺搜索同名賬號《衛詩婕 商業漫談Jane's talk》）

由于訪談全文較長（共 12142 字），可先參考目錄：

Part 1 ：當不告訴機器人目標在哪時，它能最快地走出迷宮

• OpenAI 最初進行的很多探索都與語言模型毫無關系。

• 發現偉大事物的最佳方式是不去刻意尋找它。

• 多樣性本身，可能才是成功的原因。而新奇性（Novelty），是獲取多樣性的一種方式。

• 如果人們會為這件事落淚，那它肯定很重要。這會是一場重要的社會對話。

Part 2 ：回憶 OpenAI 早期：那時的 Sam 是一個好領導

• OpenAI 有很多聰明的人，也在開展非常有趣的項目，所以會有一些創新并不奇怪。

• 足夠新穎，就值得去冒這個風險。

• 在那段時間里，我覺得 Sam Altman 是個好領導。

Part 3 ：談 OpenAI 宮斗與 AI 競速賽：AI 這個領域的過去，比當下，要有趣得多

• 這項技術本身其實相對簡單——我指的是訓練語言模型并在越來越多的GPU上使用更大的數據集，其他人也開始紛紛效仿。競爭就加劇了。

• 確實發生了一些變化，因為當你挖到金子時，你往往會專注起來。

• 我想我有點遺憾。這個領域的過去比現在更具趣味性。

Part 4 ：談 GPT-5 與可持續創新：無聊了很久，AI 領域會再次令人興奮

• GPT 3 到GPT 4的飛躍，要比從 GPT 4 到 GPT 5 的飛躍更深刻。

• 巨頭已被喚醒，谷歌已經重新站穩了腳跟。

• 當下這些模型的訓練方式與人類理解事物的方式相比，有些奇怪。

• 我不認為 Transformer 是故事的終點。

Part 5 ：2023-2025：AI 競速賽中，目標的欺騙性

• 目前我們不會看到真正偉大的科學革命。

• AI 能在奧賽中獲得金牌，但這可能具有極強的欺騙性。

• 僅靠互聯網數據，無法實現超級智能。

• Coding 很令人驚喜，但它帶來巨大的加速和另一種減速。

• 想提醒中國的是，在某些領域，特別是顛覆性創新領域，規劃實際上可能是有害的。

Part 6 ：「開放性」的價值實踐，和人生哲學

• 人們關心我們寫的東西，這真的很神奇。

• 我很懷念很久以前玩 Pick Breeder 的時候。

• 只要追逐好奇心，好事就會發生。

Jane's interview

01

不告訴機器人目標在哪，

它能更快地走出迷宮

衛詩婕：《偉大》這本書的中文版誕生是在 2023 年，彼時 OpenAI 已經舉世聞名——這本書的宣傳點之一是，你們二位作者是 OpenAI 的核心科學家，但事實是，你們早在 2015 年就寫下這本書。當 ChatGPT 出現時，你們是否意識到，本書中關于「如何孕育創新」的主張，被有力地驗證了——因為 ChatGPT 原本就是一個意料之外的項目？

Kenneth ：是的，沒有人意識到 ChatGPT 會有這么大的影響力，這和我們在書中所述的「巧合」是一致的。

Joel：不僅 ChatGPT 的成功出人意料，所有通向它的小的墊腳石（Stepping stones）也出人意料，比如 ChatGPT 所基于的 Transformer 神經網絡架構，它來自谷歌的研究。而且，OpenAI 最初進行的很多探索都與語言模型毫無關系。他們有一些研究，比如制造能玩魔方和玩電子游戲的機械手，這都非常酷且令人興奮。

衛詩婕：這本書深刻地探討了創新土壤的構成。一切的故事要從 2008 年開始，我知道這本書最初的靈感來源于 Kenneth 在一系列實驗中的意外發現（比如讓機器人學會行走、讓機器人走出迷宮），對嗎？

Kenneth：實際上，我認為在機器人之前，還可以追溯到圖像培育器（Pick Breeder），它是我們為了構建「開放式系統」而進行的一項實驗。

「開放式系統」是指那些，能夠長期持續創新、做出決策和發現的系統。人類文明就是一個開放式系統。

為了構建一個「開放式系統」，我們設計了 Pick Breeder 這個實驗：人們會登陸一個網站，看到一堆圖像，點擊其中一個，這個圖像就會產生“后代”。就像人生小孩一樣，“后代”會與“父母”稍有不同。你所做的就是，讓圖像一代一代地“繁衍”。

而促使我們撰寫這本書的動力，是因為我們發現了一個特別的觀察結果：發現偉大事物的最佳方式是不去刻意尋找它。

例如，如果你想要找一只鳥，你總是會失敗，只有在你不刻意尋找時它才會出現。如果你只想著蝴蝶，你就不會培育出和蝴蝶有關的圖片。

這個結果令人震驚。它似乎與我所相信和被教導的一切都相矛盾。我有著計算機科學和工程學背景，我所接受的教育是，實現某件事的方法是將其設定為目標，然后有目的地朝著它前進。但「Pick Breeder」的實驗結果卻恰恰相反，實現顯著成就的最佳方式是不去刻意追求它。

我對這個觀察結果著了迷。它太奇怪了，以至于我開始覺得它可能有更深遠的影響。我開始意識到，多樣性本身，可能才是成功的原因。而新奇性（ Novelty ），是獲取多樣性的一種方式。

Joel 就是在這時參與進來。我還記得第一次見面，他走進我的辦公室，我把這些想法一股腦全倒給他。我說，也許你可以做一個專門搜索新奇事物的算法。他接受了這一切，也真的創造出了這個新奇搜索算法。這就是機器人開始登場的地方——我們用機器人結合這套新奇搜索算法做了一系列實驗，比如如何讓機器人最快走出迷宮，答案是，當你不告訴它目標在哪里時，它能更快地走出迷宮。我就不一一細說了，那太長了。

但 Joel 和我意識到，這件事的社會影響比算法本身更大——它可能對如何運行人類系統，有著重大啟發，因為過去，幾乎所有人類系統總是朝著目標設定的。

衛詩婕：為什么你認為，必須要寫成一本書？

Kenneth : 有一次我參加一個 AI 會議，一名羅德島設計學院（Rhode Island School of Design）的學生邀請我說，你應該來我們學校做一場演講。這是一群藝術家聽眾，超出了 AI 學術圈，我有點興奮。

但這超出了我的預期。當我告訴他們，創新并不一定要先明確目標，那些學生們非常激動，其中一些人幾乎要哭了。因為他們說，我從來沒能向父母或老師解釋清楚我的選擇，因為他們總會問，你怎么賺錢？ 你人生的目標是什么？你為什么要做這些毫無意義的事情？這是我第一次覺得自己能夠清晰地闡述，為什么我決定以那樣的方式度過一生，因為我在追尋有趣之路。

這讓我更加明確了一個想法：如果我們能寫出來，這可能會是一本很棒的書。如果人們會為這件事落淚，那它肯定很重要。這會是一場重要的社會對話。

Jane's interview

02

回憶 OpenAI 早期：

那時的 Sam 是個好領導

衛詩婕：完成這本書后，你們幾乎同時先后加入了 Uber AI 實驗室（2016-2019）和 OpenAI（2020 - 2022），為什么選擇這兩家公司？如何辨別一家創業公司是否有創新力？

Joel ：這很難先驗地知道。但我想，一家有意思的初創公司通常是由有意思的人組成的，而有意思的人通常有有意思的想法。

Kenneth ：我和 Joel 加入這兩家公司，有點像那本書里寫的，都不是被計劃的，只是機緣巧合。但2020 年，我就覺得 OpenAI 是一家好公司。OpenAI 有很多聰明的人，也在開展非常有趣的項目，所以會有一些創新并不奇怪。

至于如何識別有吸引力的初創公司，這取決于你是誰，一名投資者，和一名員工，評判標準是不同的。作為員工，我會看它是否符合我的興趣？

而作為投資者，我的看法會稍有不同，我不會那么在意每一件事都必須成功。我應該把賭注押在那些足夠創新、足夠有趣的事情上——如果這件事成功了，那將會是巨大的成功，因為它與其他正在進行的事情截然不同。

足夠新穎，就值得去冒這個風險。

衛詩婕：那時的 OpenAI 有哪些有趣的探索？

Kenneth：哦，2020年的OpenAI，我看到了早期的 GPT 模型，現在這已經是舊聞了，但在當時，技術進步得非常快，非常有趣，甚至令人震驚。現在，未來已經到來。

Joel ：那時真的很有趣，那里的確有很多聰明人。就像 Ken 說的那樣，你能比其他人提前接觸到一些新興技術。那種體驗超凡脫俗。

衛詩婕：（在 OpenAI ）你們最尊敬和喜愛誰？

Joel ：這是個有趣的問題。我非常敬重 Ken 。我們共同領導團隊嘛。不過，要說個人喜好，我真的很喜歡 Jan Leike。他是那里的安全負責人，而且是個好人，我很喜歡和他聊天。不過，你知道的，在 OpenAI 有很多有趣的人，所以真的很難選……

Kenneth：這是個好難的問題。當然，我會選 Joel ，但是……我在那里尊重很多人。我尊重那里的大多數領導。我真的沒有一個確定的答案可以給出。

衛詩婕：Sam 曾公開表示過對《偉大》這本書的推崇，但隨著 OpenAI 的宮斗事件，Sam Altman 的公眾形象也變得模糊和充滿爭議。我聽到一種觀點，認為 Ilya 是真神，而 Sam 是偽神。你們作為 OpenAI 曾經的一員，怎么看 Sam 對 OpenAI 的領導？他是個什么樣的人？

Kenneth ：在 2020 年到 2022 年期間，我在 OpenAI 工作，這都是在那些爭議事件之前。但在那段時間里，我覺得 Sam Altman 是個好領導。他務實、謹慎、善于溝通。他會仔細權衡問題。當時我沒看到有什么可批評的地方。

對于 OpenAI 發生的爭斗，我和大家一樣感到驚訝。我沒想到會這樣。聽到這件事真是個巨大的沖擊。你知道，Sam 似乎牢牢掌控著局面，我沒想到會有人試圖罷免他。所以我和大家一樣一頭霧水，直到今天我也不清楚到底發生了什么。

Joel ：是啊，這就像是一連串非同尋常的事件。這一切的發生有點瘋狂。你知道的，涉及大量金錢和權力，人們都在努力做自己認為最好的事情，卻有著不同的觀點。

Jane's interview

03

AI 這個領域，

過去比當下，要有趣得多

衛詩婕：隨著 2022 年底 GPT-3.5 發布——當「開放性探索」的成果被看見后，全球人工智能行業就開啟了激烈競賽。你們當時在 OpenAI，是否感受到氛圍的變化？你們在內部是如何感知的？

Joel：我想我可以說，隨著時間的推移，有了明顯的變化。當你有一款影響力如此巨大的產品，你就會開始轉變，從單純的探索轉向更深入地追求某些東西。你能感覺到齒輪開始向更多的利用模式轉動。

隨著時間的推移，整體的關注度在不斷上升，而這項技術本身其實相對簡單——我指的是訓練語言模型并在越來越多的GPU上使用更大的數據集，其他人也開始紛紛效仿。競爭就加劇了。

Kenneth：我想我會同意喬爾的觀點，（OpenAI 內部）確實發生了一些變化，因為當你挖到金子時，你往往會專注起來，最具戲劇性的變化可能發生在我們離開之后，因為真正有感染力的 GPT 極大地改變了公司。

衛詩婕：具體的現象是什么？

Kenneth：公司的應用商業板塊發展得很快。一開始它只是一個研究實驗室，突然變成了一個強大的商業部門。所以公司內部的性質發生了變化。當然，他們還在繼續做研究，但突然公司變得非常以商業為導向。

衛詩婕：2023 年的 OpenAI 面對著十字路口，左手邊，是它來時的基因，作為一家非營利機構去繼續探索前沿科技；右手邊，是追逐成為下一個科技巨頭；外界對于這家公司有怎樣的誤解嗎？

Kenneth：2023年是在我們離開之后。所以我也只能猜測當時的情況。但我猜測他們不會用那么極端的措辭來看待這件事。我想，他們兩者都想做，既想繼續做一個偉大的研究實驗室，也想利用商業機會。那里的每個人都知道研究很重要。我想 Sam 也知道研究很重要。

但顯然，擺在他們面前的巨大商業機會是不可能忽視的。毫無疑問，這將對公司的文化產生一些影響。

衛詩婕：你們是否為 OpenAI 氛圍的改變，感到惋惜？

Kenneth：我并不感到遺憾。我認為我們正在目睹的變化是整個行業的變化。這不僅僅是 OpenAI 的問題。我的意思是，真正發生巨大變化的是AI。因為我從事AI領域已經很長時間了。從前的 AI 只是一個小型學科，今天它具有巨大的社會影響。當某件幾乎像小游戲一樣的東西突然變成世界上最重要的事情時，需要時間來處理和吸收，這是一個非常復雜和艱難的過渡。

衛詩婕：那 Joel 呢？

Joel：我覺得我有點遺憾，并不是對新革命之前的研究有懷舊之情，而是從前有更多樣化的事物，還有很多有趣、瘋狂的研究。但是現在語言模型的論文實在太多了。我有種感覺，語言模型相關的東西在社會中傳播得太快了。它超級有趣和令人興奮。而且我一直在使用這些工具。但是這個領域的過去比現在更具趣味性。

盡管規模化（Scaling）也是一門重要的科學。但不知為何，對我來說，僅僅是讓規模發生效應的技術，在智力上的吸引力要小一些，即便這樣做會帶來驚人的結果。

衛詩婕：你們個人更希望 OpenAI 成為一家偉大的商業公司，還是一家偉大的研究機構？

Joel ：我認為 OpenAI 的遺產肯定是作為一家偉大的研究機構，盡管目前它更多是以商業巨頭而聞名。我想我一直期望它有點像研究機構，我加入的時候沒料到它會成為一個商業巨頭。

Kenneth：對我來說也是如此，它變成這么龐大的商業組織，還挺讓人意外的。2020 年的時候，它更像是一個研究機構，但在某些方面，這和我們的書是相符的——你在 2019 年看它的時候，根本不知道它的商業計劃是什么。沒有真正明確的計劃才是取得所有成功的原因。OpenAI 只是機會主義地順勢而為。有意思的是，結果大獲成功。

Jane's interview

04

談 GPT-5與可持續創新：

無聊了很久，AI 領域再次令人興奮

衛詩婕：此前 GPT-5 經歷了難產，前幾天 GPT-5 剛剛發布，有人認為 OpenAI 開始了擠牙膏式的創新。你們怎么看？

Kenneth：嗯，讓我想想。我認為目前 AI 存在一個普遍問題，即過去幾年一直遵循的僅依靠擴展和數據的路徑（Scaling Law），是否真的是通向 AGI 的道路？有趣的是，我們看到了 Scaling Law 放緩的跡象。似乎人們在這個問題上存在分歧。

我認為，擴展路徑本身并不能一路通向所謂的圣杯，它并非是智能中唯一重要的因素。如果僅僅沿著這條路徑走下去，新模型并不總是會帶來革命性的成果，這也不令人意外。

但實際上，作為一個研究人員，我恰恰認為現在是一個非常有趣的時期。進展有所放緩，就有空間讓更多有趣的想法進來，開展新的工作。從研究角度來說，AI 這個領域可能會再次變得令人興奮。

Joel ：我覺得可以毫不夸張地說，從 GPT 3 到 GPT 4的飛躍，要比從 GPT 4 到 GPT 5 的飛躍更深刻。為什么會這樣？我覺得沿著 Scaling Law 的這條路徑，有點后勁不足了。再說一次，這更多只是我個人的想法。

我懷疑情況就是如此。當下，這些模型的訓練方式與人類理解事物的方式相比，有些奇怪，而且它們可能只是未來發展的墊腳石。我不認為 Transformer 是這個故事的終點。所以我很期待有不同的東西出現。

衛詩婕：OpenAI 的故事是否告訴我們：一旦「開放性探索」成功了，成果被看見，就容易引來強競爭，亦或是出現各種誘惑，來破壞這種創新氛圍——這是否很難避免？

Kenneth：是的，我認為這是一種難以避免的危險。縱觀歷史，我們會看到創新者做出了革命性的事情，成為頂尖人物，但后來卻被某個不知名的新創新者所顛覆，這樣的故事在不斷發生。

確實存在這樣一種現象：巨大的成功可能會讓你開始趨于保守。這是一個深層次的問題，因為不僅僅是某人失去了創新的意愿，還在于，你曾經走過的創新之路不會有第二次成功。

你在取得驚人發現的道路上，遵循了某些原則和啟發式方法而獲得了成功，你認為你可以再次這樣做，但實際上，下一次創新總會有不同的故事。過去有效的模式，不再是未來有效的模式，我認為所有創新者都會落入這個陷阱。

Joel ：這就是為什么，有些創新者每隔大概 10 年左右就會重塑自己。要對抗自己的本性、直覺、好奇心，這真的很難。

衛詩婕：你們如何看待 Google ？它既是一家偉大的商業公司，同時也是 AI 研究的發源地。

Joel ：是的，提到谷歌就提到了一個非常有趣的地方，他們發明了 Transformer 架構，而正是這個架構真正引發了語言模型革命。作為一家大公司，在部署這項技術時，他們可能確實更加謹慎一些。這也未必是件壞事。我記得，谷歌之前就有類似聊天的模型。

衛詩婕：Google 最早發現了大模型的方向，卻錯過了 GPT 。并流失了大量 AI 人才。

Joel ：是的，不過，一旦這個巨頭被喚醒，我認為現在他們基本上已經和 Anthropic 以及 OpenAI 勢均力敵了，他們在某些方面可能已經迎頭趕上了。但確實，作為一家更大的公司，它可能更加官僚化，以及因為被自身的成功所吞噬，而會出現的種種情況。這就是一個不斷重演的故事。但他們仍在繼續進行出色的研究。

Kenneth：OpenAI 是一場意外的顛覆。很明顯，看著源自谷歌的東西以這種方式發展，對谷歌來說是個痛苦的故事。但這就是創新的永恒故事，它一次又一次地上演。就像柯達被數碼攝影顛覆后，也沒能重新站穩腳跟。這類故事在科技領域一直都在上演。不過，我認為谷歌，就像 Joel 說的，在一定程度上已經重新站穩了腳跟，所以現在它頗具競爭力。而且 DeepMind 肯定取得了一些相當大的成就，甚至在語言模型之外，比如 AlphaFold 等方面。但他們確實錯過了一個時機。我敢肯定，他們對此感到遺憾。

衛詩婕：在成熟企業中，如何避免目標管理扼殺創新？

Kenneth：這是一個大問題，也是對谷歌這樣的公司非常重要的問題。為了創新，有時你必須放棄一些目標。我認為，隨著公司的成熟、占據主導地位并取得巨大成功，這些大公司更有可能以目標為導向。像谷歌是 OKR 和 KPI（即 OKR 目標和關鍵結果）的推廣者之一，這些方法在整個行業都有應用。這有點像一個強化循環。目標讓我們取得了成功。于是我們設定更多的目標。在那種環境下，實際上很難說我們要廢除官僚主義，去掉目標，讓一些人去做有趣的事情。大公司在這方面很掙扎。

大公司會說，我們像谷歌那樣建立一個研究實驗室，比如谷歌大腦之類的。每個人都應該很高興。但實際上發生的情況是，人們清楚，最終還是會根據公司的 OKR 來進行評估。他們能看到，同事得到晉升是因為他做了有助于谷歌盈利的事情。看到這種情況時，你會想，他們嘴上說關心這個，但得到獎勵的卻是那些真正推動目標實現的人。所以我也會對這種信號做出回應，因為我也想今年拿到獎金，也想漲工資。

這就是為什么初創企業往往具有顛覆性優勢，因為如果在大公司內部設立一個創新實驗室，不在實驗室的人就會變得嫉妒和憤怒。實驗室里的人不必幫助推進目標，他們可以做任何他們覺得有趣的事情。那么其他人就會說，“為什么那些人可以這樣做呢？ 他們拿著這么多錢，像孩子在操場上一樣無所事事”。這對大公司來說存在文化風險。整個矛盾之處在于，從創新的角度來看，做一些無用之事實際上是最好的做法。

所以我認為大公司面臨的挑戰是巨大的，需要、真正的勇氣去面對。你告訴我今年必須完成 X 目標，否則我就不給你加薪。這樣我會感到安全。反而你告訴我可以隨心所欲地做事，這讓我感覺不安全。這就是我們這本書的意義所在，我認為它是為了賦予人們這種勇氣。

我希望這些公司的領導層能讀一讀這本書，不是因為這會幫助喬爾和我賺錢，對我們來說那只是微不足道的一筆錢。而是因為它可以改變公司文化，這可以賦予他們力量，讓他們做出這些非常艱難的決策，比如當有人創建一個創新實驗室時。真正保護它并讓它發揮應有的作用，人們需要這種勇敢的變革。

衛詩婕：我確信很多中國創業者已經讀過《偉大》這本書了。但一段有關 OpenAI 的歷史是：成立于 2015 年的 OpenAI ，在早期，曾鼓勵學者們主動探索各類前沿方向，這聽起來是符合你們的主張的——自由探索而非規劃；但兩年后，數億美金即將燒完。這背后一個關鍵問題是：「開放性探索」真的可持續嗎？那可能意味著更多的資源投入，誰應該來為這種「開放性探索」買單呢？

Joel：在某些特定的環境下，開放和探索是可持續的。大學，有基礎研究，基礎研究通常由公眾資助。長遠來看，公眾的收獲會大于投入。這種投資是有回報的，而且回報相當可觀。但當你試圖在企業環境中進行開放和探索時，情況就變得更加棘手了，因為企業有一個必須遵循的時間框架，在這個框架內，你會面臨優化利潤的壓力。在最壞的情況下，如果你賺不到足夠的錢，公司可能就會倒閉。所以我認為，只有那些根基穩固的公司才真正有自由去盡可能廣泛地進行探索。但即使是考慮一些更有限的探索方式，也仍然是有用的。

Kenneth：我認為只要公司健康，開放式探索絕對是可持續的。所以我認為成功不應成為開放式探索的阻礙。就像那些人們勉強能吃飽飯的社會是不會有創新的。創新只在你有能力承擔風險的情況下才會開始發生，因為這并不意味著你會死亡。挺違反直覺的是，很多人認為成功會破壞做這件事的能力。但恰恰，因為你成功了，你才能夠繼續在創新上投入。再補充一點，小公司也可以進行開放式創新，這絕對是有可能的。

衛詩婕：2017 年的 OpenAI 在資金即將燒完的背景下，最終選擇將所有資源和人力聚焦于大語言模型，這才孕育出后來的 ChatGPT 。——這是否與“偉大無法計劃”沖突？在發散和收斂之間，如何掌握微妙的平衡？

Joel：這很有趣。

Kenneth：我們 2020 年到達 OpenAI 時，他們所做的不僅僅是語言模型。所以我不認為他們完全專注于語言模型，但我相信你說的可能是已經做出了一些決策。也許有人認為在這方面加大投入是一條前進的道路。我對此并不知情。但這是有可能的，且與書中的觀點并不矛盾，因為我們的書并不反對信念。

我們并不是說你永遠不能做決策。就像如果你強烈感覺某條道路很有趣，我們的書會支持你走下去。只是我們想說的是，你不應該僅僅因為認為它會通向某個目標，某個遙遠的目標，就選擇走那條路。

如果 OpenAI 在 2017 年決定投資語言模型，他們絕對沒有意識到或預料到 ChatGPT 會在大約六年后或七年后被創造出來。所以，2017年 這一決策的目標可能更多是一種信念，即這是一項有趣的技術，顯然，事后看來，這是一個很棒的信念。我的意思是，GPT 1 之類的，它當時就是垃圾。它在任何方面都不是一個好產品。

但它很有趣。非常有趣。而當時有勇氣在這方面投入更多的人是非常聰明的人。

Joel ：有一種有趣的現象，你可能會通過收斂來展現出發散性。OpenAI 就是這樣一個例子，從早期開始貫穿始終的信念就是，擴大神經網絡規模會產生有趣的結果。作為一家公司，我們在這個假設上達成了共識，而其他人并沒有真正達到同樣的信念程度。

真正有高度信念的東西，它會有回報。研究將繼續進行，在整個系統中建造更多的墊腳石，希望能繼續朝著這個方向發展。

Jane's interview

05

AI 競速賽中，

目標的欺騙性

衛詩婕：你們怎么看持續至今的關于人工智能的競速賽？你們提出了“目標的欺騙性”，這在今天的 AI 競速賽中是否有體現？

Kenneth：這肯定在競賽中有所體現。你總能看到這些基準測試的報告，比如一些數學測試和編程測試，比如我們看到 AI 實際上能夠在數學奧林匹克競賽中取得成功并獲得金牌。從基準（benchmark）的角度來看，這是一項了不起的成就。

但這正是我們的書所警示的：這樣做可能對創新有害且具有欺騙性。某種意義上，我們可能會看到這些測試的分數提高了，但最初我們認為的智力水平實際上并沒有提高。如果 AI 達到了博士水平，為什么它沒有發明出很多新的數學成果呢？

可能正在發生的事情是，我們正走在一條具有欺騙性的道路上。有意思的是，這似乎并沒有引起更多的擔憂。人們會說，哦，它會來的。現在，每次新模型發布時，這些得分都會立即公布，該模型在基準測試中的表現會比其他所有模型更好。如果你仔細想想，就會覺得可疑。實際上，我們是在迎合基準測試，而不是追求另一個東西，即智能。

執著于某些特定的目標，會讓我們失去大局觀。失去大局觀就是一種自欺欺人。

Joel ：是的，我完全同意肯的觀點。基準測試可能具有誤導性。如果回顧一下 AI 的歷史，我們以前經歷過這樣的周期，大約 20、30 年前，神經網絡曾令人興奮，然后在我認為是《感知機》這本書出版后，它們就不行了。然后它們經歷了寒冬、盛夏，等等。

衛詩婕：潮起潮落。

Joel：對，起起落落。我們不認為這就是故事的終局，如果 AGI 近在咫尺，我不知道我們是否做好了準備，但不管怎樣，我可能還是會一頭扎進去。不過我確實認為這里存在很大的欺騙風險。

衛詩婕：從創新氛圍來看，今天硅谷或全世界的創業公司里，哪家公司最像當年的 OpenAI ？

Kenneth：當年是什么時候？你是指 OpenAI 成立的時候嗎？

衛詩婕：2020 或 2022 之前的 OpenAI 吧。

Kenneth：這是個好大的誘惑，我很想引用我們自己公司的例子。這沒問題吧？啟動一個新的開放式實體團隊的感覺，讓我想起了創立 OpenAI 時我們啟動開放式實體團隊的情景。

衛詩婕：那你能更多地介紹一下 Lila 這家公司嗎？

Kenneth：好的，我和 Joel 最近都加入的 Lila 科學公司，正試圖創造所謂的科學超級智能。它采用了超級智能這個概念，這也是很多公司都在談論的話題。但 Lila 特別將其目標指向科學，即科學本身的進步。

這些假設中有幾個獨特的方面：其中一個是，目前我們不會真正看到偉大的科學革命，而這正是許多公司都在談論的——當我們實現超級智能時，真正巨大的好處將是會有新的藥物、新的能源、新的材料，所有這些科學革命都將因為超級智能而到來。但 Lila 認為，僅靠互聯網數據是無法實現這一點的。你必須與現實世界進行實際互動，才能檢驗假設、獲取更多信息，因此，當我們匯聚了各種不同的科學專業知識，最終也會產生一種與其他前沿實驗室（在探索的）不一樣的智能。

從另一個角度看，科學是你能接觸到的最具開放性的事物之一。它就像是一棵永無止境的發現之樹。

Kenneth：Lila 的規模有點類似于我們加入 OpenAI 時的規模。這是一個緊湊、敏捷且靈活的環境，適合嘗試新事物。而且每個人都對接下來要做的事情感到興奮。那種感覺是，下一個重大事件將在這里發生。Joel ，在某種程度上，我當時對 OpenAI 也有這種感覺。

衛詩婕：沒有其他來自硅谷的公司從你腦海中閃過嘛？

Kenneth：我并不是要刻意回避提及其他公司。毫無疑問，硅谷正在涌現創新成果。但我們面臨的問題是，下一個重大突破在顯現之前總是無形的。我很難有十足的把握去確定它，開放是一個巨大的現象。如果我知道，我會告訴你的。

衛詩婕：你們怎么看 2025 年 AI 的發展？發展得很快、令人興奮嗎？

Joel ：它似乎仍然在快速發展。編碼模型（Coding）讓我感到很驚喜，今年似乎是人們開始使用 AI 編寫代碼的一年，這真的很了不起。它們并不完美，也有一些粗糙的地方。但在我看來，這似乎是一個核心的實際發展。

Kenneth：但 Coding 帶來另一件事，就是你突然要調試一些你不理解發生了什么的東西，因為你沒有編寫代碼。而且這比過去調試要花費更多的時間。所以我們同時面臨著這種巨大的加速和另一種減速。大家相信隨著這些的改進，bug 會隨著時間的推移而減少。所以加速會越來越快。但它正處于一個有趣、微妙的轉折點，看看它從這里走向何方很有意思。

衛詩婕：你們有留意到 Deepseek 的創新嗎？

Joel：嗯，我想很難忽視它，至少在某種意義上，它給人帶來了巨大的沖擊，股市也因此受到了影響，這是一項超級成就。顯然，這是在不斷演變的競爭動態中的又一步，你知道，哪些國家的哪些團隊和哪些人正在創造世界上最好的模型。而且，我認為中國一直在努力追趕美國在這方面的步伐。

衛詩婕：我還留意到因為 Deepseek 的出現，硅谷對中國 AI 創業公司的態度都改變了。

Kenneth：確認一下，你說的變化是指什么變化？

衛詩婕：硅谷現在會更注意中國 AI 創業公司。

Kenneth：哦，沒錯，我絕對是這么認為的，它肯定吸引了所有人的關注。自那一刻起，很多事情都發生了變化。

衛詩婕：當下中美科技競爭呈現比較緊張的態勢，你們怎么看兩國科技的發展，中美會走上不同的道路嗎？

Kenneth：這已經導致了緊張的局勢。我認為未來會發生什么非常難以預測。我們看到國際上的發展態勢，有些事件似乎在推動各國走向分裂，但隨后又有其他事件，令人驚訝的是，各國又走到了一起。所以很難說這一切最終會如何收場。

衛詩婕：你們有一個重要的觀點「社會對『目標管理』的迷信可能阻礙突破性創新」。從歷史上看，中國是一個特別擅長制定計劃的國家，我們也從這種規劃性中獲得了成果。你們怎么看中國科技未來的發展？有什么想要提醒中國的嗎？

Kenneth：嗯，答案有點明顯。你知道的，如果中國真的……喜歡規劃。而我們的書叫《偉大為何不可計劃》。那么可以提醒中國，我們的書可能作為一種很有趣的觀點，是對潛在的傳統成就觀的一種反駁。我知道中國有很多規劃。我不想過度簡化，因為中國人對中國一定比我了解得多得多。就像喬和我都承認的那樣，我們并不反對所有的規劃，但在某些領域，特別是顛覆性創新領域，規劃實際上可能是有害的。中國的未來是一個創新的問題。你們要努力找到適合自己的正確事情去做，中國得為自己進行創新。

Joel ：我聽一些朋友說過，中國教育面臨著諸多挑戰，有大量的考試。在美國，我們也有考試文化，也許這提醒我們，這些考試所反映的內容可能并非我們真正關心的。如何分配頂尖教育機構的名額，這始終是個難題。我想，希望在于，應該有更人性化的方式來發現有潛力的人，而且人們參加的考試可能并不能真正反映他們的潛力，而更多反映的是他們專注于考試的能力。所以我希望，這一信息不僅適用于中國，也適用于美國，我們應該減少讓孩子們經歷不必要的考試。

Jane's interview

06

「開放性」的

價值實踐，和人生哲學

衛詩婕：我看見 Ken 身后那幅中國書法了。你知道這三個字是什么意思嘛？

Kenneth ：是的，我想它的意思是開放性。

衛詩婕：沒錯，這是誰送給你的？是一份禮物嗎？

Kenneth：確實是某個人送我的禮物。他們委托中國藝術家制作了這幅書法，然后郵寄給了我。它在某種程度上代表了我的研究領域。所以我把它掛在墻上，覺得非常不錯。

衛詩婕：很漂亮，而且它與我們今天的采訪有關。

Kenneth ：是的，沒錯。很有趣。

衛詩婕：隨著《偉大》一書被全世界關注，你們的生活發生什么改變了嗎？ Kenneth 離開 OpenAI 時，似乎有些沮喪和迷茫？離開后的三年里，你的沮喪好些了嗎？

Kenneth：這是一段有趣的評論。如果當時我看起來沮喪又迷茫，那確實是真的。

實際上，在某種程度上，我當時真的很擔心 AI 本身的影響。因為我開始意識到，所有這些我以前沒有意識到的新的全球影響。所以我有幾年時間來思考這個問題。確實，經過幾年的思考，我至少在理解正在發生的事情方面感覺更自在一些了。這讓我感覺良好。

是的。我會說這本書對我的生活產生了很大的影響。它給了我機會去結識很多人，你知道的，因為我從前只是一名 AI 研究員。但因為這本書，我有機會與如此多樣化的人交談，了解到許多不同職業和生活方式的不同事情。甚至有一次，有位祖母打電話到我的辦公室，問我是否可以見見她的孫子，讓他不那么固執。她說她是在廣播里聽到我的。諸如此類的事情對我來說非常有意義。就像我現在和你交談，如果沒有這本書，這種情況也不會發生。

Joel：我在反思的一件事是，當你從事基礎研究工作并撰寫論文時，很難將論文與對人們的任何具體積極影響聯系起來。但當一個人以非常具體的方式感謝你寫的東西，說真的很感激它觸動了他們，甚至可能改變了他們的生活，我想這可能是最大的收獲之一。是的，人們關心我們寫的東西，這真的很神奇。

衛詩婕：你們在書中還給普通人建議——建議人們能更好地追逐自己的好奇心，收獲屬于自己的完美人生。能不能分享一下，當下你們如何安排自己的工作和生活？

Kenneth：去追求好奇心。在我自己的工作和生活中，我有點相信，因為這些事情對我來說有趣，我就會把它們做好，然后好事就會發生。但我不確定會是什么好事。所以這和這本書的觀點相當契合。寫了這本書讓我對這種方法更有信心了。

Joel ：我的回答非常相似。不知怎的，我在工作之外的追求總會以某種意想不到的方式融入我的研究中，并且試圖，在自己的生活中找到通向意外寶藏的墊腳石。是的。

衛詩婕：現在回望，哪些是你們人生路上的墊腳石？

Joel：我小時候，我爸爸拿到了一本雜志，叫《3 to 1 contact 》，是美國的一本雜志，在雜志的后面，有一些基礎程序，還有一些你可以輸入的程序。就是那本雜志讓我對計算機產生了興趣。還有好多這樣的墊腳石。

Kenneth：我必須承認，在我決定招募喬爾的某個時刻，這顯然給我帶來了大量我根本無法預測的后果，包括現在坐在這里接受這次采訪。

衛詩婕：這很溫暖。書中有一句我最喜歡的話：「當你放棄對目標的執念，反而可能撞見改變世界的寶藏。」所以，你們是否曾經「撞見了改變世界的寶藏」，請分享一個與此有關的回憶？

Kenneth ：我其實很懷念很久以前玩 Pick Breeder 的時候，我在沒有刻意為之的情況下做了一件非常有趣的事情。而現在，有成千上萬的、不同國家的人受到了“偉大為何無法被規劃”這一理念的影響，這簡直太瘋狂了。

Joel：在我的人生中，有很多次，某件事，它徹底顛覆了我的整個人生，以一種我從未預料到的方式。我想，在我們每個人的生活中，可能都有這樣的時刻。

本期播客和視頻播客可分別前往播客平臺（如小宇宙）、視頻平臺（如b站、小紅書）收聽和觀看～

互動問題

歡迎留言交流你對當下AI技術發展的看法，

感謝

加入《商業漫談Jane's talk》聽友讀者群