北京
出品 | 網(wǎng)易智能
作者 | 辰辰
編輯 | 王鳳枝
繼DeepSeek之后，Kimi K3又一次讓中國模型沖上全球討論的中心，OpenAI怎么看這件事？
在《Invest Like the Best》最新一期訪談里，主持人帕特里克·奧肖內西（Patrick O'Shaughnessy）把這個問題拋給了薩姆·奧特曼（Sam Altman）。
奧特曼沒有繞開。他說開源模型一定會在AI生態(tài)里占一塊位置，有人想掌控權重，有人想按自己的需求改模型，這些需求都是真實的。OpenAI想做的，是在不同的能力、價格和延遲區(qū)間里，都能給出足夠好的選擇。
比拼的不再只是"誰的模型最強"，還包括誰能在智能、成本和使用體驗之間找到更好的平衡點。
蒸餾是另一個繞不開的話題。奧特曼的態(tài)度同樣平靜：OpenAI自己也在做蒸餾，這正是它們開發(fā)更小、更便宜模型的方式。未來會有大量"又好又便宜"的模型出現(xiàn)，OpenAI要做的是繼續(xù)把自身能力往前推。
那"前沿模型投入巨大，卻被低成本蒸餾挑戰(zhàn)"的擔憂怎么辦？奧特曼把答案落在規(guī)模上。
他預計OpenAI未來的算力規(guī)劃，絕大部分會用在客戶推理上。模型業(yè)務哪怕不是一個高利潤行業(yè)，只要使用規(guī)模足夠大，收入仍然能撐起下一代模型的訓練。
不過奧特曼覺得，智能不會只停留在云端。
他判斷，機器人領域大概會在兩三年內迎來自己的"ChatGPT時刻"。這一次不再是機器狗表演炫技動作的短視頻，而是普通人自己輸入指令，看著機器人當場完成一件過去做不到的事。
就像2022年11月的ChatGPT，不需要誰再來解釋AI為什么重要，打開網(wǎng)頁試一次，答案就有了。
訪談快結束的時候，奧特曼說了一句他很少公開說的話："我很累。做這件事做了很久了。真的很累。"
這一年他承認攤子鋪得太開，承認過去一年很難熬，承認自己有責任。但他也在同一場訪談里，把接下來12個月說成"最好的12個月"。
一個CEO敢公開說自己累，說明他確實累了；說完累之后緊接著說"最好的12個月要來了"，說明他還沒打算停。
以下是完整訪談實錄
奧肖內西：薩姆，你寫了一篇帖子，我覺得寫得特別簡潔，也很有意思，是個不錯的切入點。大意是說，過去一年確實很難熬，這里面有一部分是我的責任，但接下來這一年可能會是我們最好的12個月。
奧特曼：對。
奧肖內西：我想聽你分別聊聊這兩件事。先說說你為什么認為第一點，過去一年很難，以及你為什么相信第二點。
奧特曼：關于第一點，說白了就是我們同時在做太多事了。不夠專注。而且那些事其實每一件都是好事，值得做。但問題在于，我們正處在一個歷史上前所未有的節(jié)點上，在這個節(jié)點上，你只能做那幾件真正偉大的事。所以我們把攤子鋪得太開了，然后做了一系列非常艱難的決定，重新聚焦到一件事上：做出最好、最充裕、最具性價比的智能，讓全世界的人能用它造出不可思議的東西。調整完之后，我覺得我們的進展可以說是突飛猛進。而且看我們現(xiàn)在管線里的東西，接下來12個月只會更猛。模型的質量，以及我們圍繞模型能打造的產(chǎn)品，真正讓人用這項技術以全新的方式去創(chuàng)造、去發(fā)展，應該會很棒。
奧肖內西：去年有沒有某個時刻，什么東西突然讓你醒悟了，促使你掉轉方向、重新排優(yōu)先級？如果你回到2025年初，也就一年半以前，那時候大家最大的擔憂是：OpenAI這些公司買這么多算力，收入跟得上嗎？需求跟得上嗎？
奧特曼：所以我們當時想的是，要多布局一些方向。萬一收入增長沒我們預期的那么快，我們還可以靠消費者應用、媒體之類的業(yè)務來養(yǎng)活那些GPU。
奧肖內西：現(xiàn)在回頭看當然很荒謬，因為整個行業(yè)的收入增長曲線太陡了。
奧特曼：對。但當時那個就是最大的變量。后來我們一意識到，好，模型進步的速度這么快，經(jīng)濟回報這么明確，我們就說，行了，我們知道該集中做什么了。
奧肖內西：我讀了一些你早期寫的文章，在OpenAI之前寫的。里面反復討論一個主題：到底該專注幾件事？一件？五件？三件？在這樣一個你剛說了需要重新凝神聚力的階段，你是怎么校準這個數(shù)字的？
奧特曼：說到底，我們的生意就是賣AI。人們用AI互相造出好的產(chǎn)品和服務。我理解這件事由幾個組件構成：我們得訓練出足夠好的模型，能在大家想用的各種場景下工作，編程要強、知識工作要強、做科研要強，這些才是真正產(chǎn)生經(jīng)濟價值的地方。我們得自己造或者跟人合作造芯片和系統(tǒng)，就是那些貴得要命的機架。我們得找足夠的地、電、數(shù)據(jù)中心廠房來放那些機架。然后，最終或者說很快，我們還得造機器人來把整個流程自動化，繼續(xù)把成本往下打，發(fā)電成本、芯片成本、整個供應鏈。這就是一整個棧：做出最好、最充裕、最有用的AI，讓它像電一樣滲透到整個經(jīng)濟里，給每個人賦能。這就是我認為我們該專注的事。至于在上面做每一個垂直應用、試圖吃掉每一個創(chuàng)業(yè)公司、每一家公司，沒興趣。我就是想提供那個平臺。
算力爭奪戰(zhàn)
奧肖內西：算力這件事，我覺得是人類歷史上最值得關注的事之一。它顯然正在到達一個轉折點，而且這個轉折點可能會持續(xù)很久。我記得達里奧（Dario Amodei）說過你是"YOLO CEO"，那時候你剛開始鎖定算力?，F(xiàn)在回頭看，所有人都缺這東西。我想聽你講早期的故事，你是怎么建立起"必須把所有東西都鎖下來"的信念的？你當時怎么做的？回頭看好像被證明是對的，甚至可能你當時還做得不夠。看看當時的新聞標題就覺得離譜。你是怎么得出那個結論的？是什么讓你有底氣在所有人覺得你瘋了的時候還敢這么干？
奧特曼：我們就是能看到自己在模型改進的指數(shù)曲線上。這一點我們非常確定，也知道它會繼續(xù)。我們也有相當?shù)陌盐?，雖然你說得對，我們低估了，就是隨著模型越來越強，如果我們能把成本持續(xù)往下打，對高水平、低價格AI的需求基本上沒有上限。這就像一種罕見的新型大宗商品。人們會拿它做什么，讓我想起以前大家談論計算機早期的樣子。有人說，全世界大概就需要五臺電腦，這是句名言。還有人說，沒人需要超過多少內存。人類的創(chuàng)造力、好奇心、想要東西的欲望、想要有用的欲望，賭這些永遠不會錯。我們能看到，AI會成為一個極其重要的方式，讓人類來表達這些東西、獲得這些東西、做成這些事情。我們知道算法會越來越高效、模型會越來越好，事實也確實如此。但我們也知道，不管算法多高效，歸根到底，我們做的事情就是把電轉化成有用的智能。在那一層上，不管我們做得多好，我們就是需要更多的電?；谶@個對需求的判斷，我們就是會要更多。
奧肖內西：這個信念是從GPT-3開始的嗎？如果要追溯這件事最早的時間點，你認為是什么時候？
奧特曼：我會說真正建立信念是在GPT-4。連3.5都不是。
奧肖內西：為什么？
奧特曼：因為當時看到的模型已經(jīng)足夠聰明了，我們知道一定能找到讓推理能力跑通的辦法。然后我們相信，一旦推理跑通了，就會出現(xiàn)現(xiàn)在大家說的"智能體"，我們當時用不同的叫法，但本質上就是有能力去完成具有巨大經(jīng)濟價值的工作，在方方面面讓人們的生活變得更輕松、更好。
奧肖內西：當時第一次坐下來開會說"好，我們得砸一筆天文數(shù)字"，那是什么場景？你有了這個認識之后，下一步做了什么？
奧特曼：我們開始給云廠商打電話。給芯片廠打電話。給能源供應商打電話。所有人的反應都是：你們完全瘋了，這不可能，歷史上沒有哪個行業(yè)這么漲過。我們見多了，有繁榮就有蕭條，不可能一條直線往上走，你們這是在玩火。跟所有人聊。這事讓我想起給初創(chuàng)公司融資，大多數(shù)人說不行，但你只需要一兩個說行的人。大多數(shù)人對我們說了不。我們拿到了一兩個行。
奧肖內西：第一個說行的是誰？
奧特曼：微軟是第一個說行的。甲骨文后來在云這邊給了非常大的支持。英偉達一直是了不起的合作伙伴。
奧肖內西：現(xiàn)在圍繞如何做推理、做訓練、做各種不同類型的數(shù)據(jù)中心，可以說是百花齊放。我想聽你談談，你覺得創(chuàng)新在哪里？你想做什么？為什么大家好像特別討厭數(shù)據(jù)中心？這事該怎么辦？
奧特曼：首先，我一直在想能不能組織大家去參觀一個吉瓦級數(shù)據(jù)中心。因為說是一回事，看照片視頻是另一回事，但你真的站在里面，那種感覺是：天哪，這個規(guī)模太離譜了。建一個這樣的東西，大概要一萬名建筑工人全職干一年半。流經(jīng)這些東西的能量可以供一個小城市用。我們已經(jīng)完全喪失了對規(guī)模的感覺，這些東西中的每一個，放在過去都是人類做過的最昂貴的基礎設施項目，而我們現(xiàn)在已經(jīng)蓋了一大堆。我情感上完全理解為什么大家不想讓數(shù)據(jù)中心蓋在自家后院。就像我明知道核電超級安全，我也不想核電站蓋在我家隔壁。
但數(shù)據(jù)中心跟電廠不一樣，而且電廠后來也進步了。數(shù)據(jù)中心什么地方都能放。我們就把它扔到沙漠里，扔到誰也不想去的地方，就完事了。AI系統(tǒng)也不介意待在那種地方。我們已經(jīng)在很多方面通過創(chuàng)新解決了問題。比如幾年前我們靠蒸發(fā)水來降溫，那個用水量大得離譜?，F(xiàn)在用閉環(huán)系統(tǒng)，一個現(xiàn)代數(shù)據(jù)中心用的水量跟一棟辦公樓差不多，就廚房、衛(wèi)生間那點。電力方面，我們從燒化石能源轉向了太陽能、核能。我覺得這當然是大好事。
所以，可能有些人就是本能地反感，雖然數(shù)據(jù)中心創(chuàng)造就業(yè)、很干凈、還有很多正面效應。但在環(huán)境問題上，我們已經(jīng)很好地解決了用水問題，能源是下一個。
奧肖內西：關于算力，還有什么其他特別有創(chuàng)意的想法？我想聽聽Jalape?o或者其他思路，越瘋狂越好。你怎么看加速FLOPS這件事？
奧特曼：我覺得目前回報最大的方向，是用創(chuàng)造性的軟件思路從我們已有的每單位算力里擠出更多智能。我的感覺是這上面還有好幾個數(shù)量級的提升空間。Jalape?o是個很好的例子，一塊效率極高的芯片。思路就是：我們做一塊芯片，在特定工作流上特別強，同時保留一定的通用性，追求更高的每瓦token產(chǎn)出。我覺得這很棒。Jalape?o和它的后繼產(chǎn)品從那個角度看會是我們的巨大競爭優(yōu)勢。還有新技術，我假設有朝一日光計算能跑通，那會在每瓦智能產(chǎn)出上再贏一大步。這些事都會發(fā)生。
Kimi、蒸餾與前沿投入
奧肖內西：這周最有意思的事是Kimi的發(fā)布?；氐侥阏f的"前沿"、"回報全在前沿"、"蒸餾"、"中美"這些話題。你怎么看這件事？它看起來像是又一個里程碑事件。DeepSeek回頭看不就只是一道小坎。這種事發(fā)生的時候，你永遠不知道它到底意味著什么。你怎么判斷？
奧特曼：我們的目標是在整個帕累托最優(yōu)前沿上的每一個點位，提供智能和價格的最優(yōu)選擇。這包括開源。你今天用OpenAI模型，至少在特定延遲下拿到的性價比好于Kimi。我們也自己做模型蒸餾，這就是我們做更小、更便宜模型的方式。我覺得這是件非常好的事。開源模型在這個世界上一定有重要的一席之地，有人想要自己掌控權重，有各種理由，想自己修改。但我們的目標是在曲線上每個位置都做到智能和價格的最優(yōu)權衡。我們會繼續(xù)這么做。
奧肖內西：關于蒸餾的問題我其實想得不多。它突然之間成了很多人腦子里排第一的事。
奧特曼：對，但我一直都假設這個世界上會有又好又便宜的模型，所以我們必須做最好的、最便宜的。別人怎么做是他們的事。我覺得我們能打好自己的牌。
奧肖內西：Kimi這個例子有意思，因為你說在曲線的某些部分你更便宜。但之前的敘事一直是：花大錢訓練模型，別人蒸餾一下用百分之一的成本賣，那你靠什么掙錢繼續(xù)訓練？
奧特曼：我們的模型用量會大到我們根本不需要成為一個高毛利的生意，就能負擔模型訓練。我們未來算力規(guī)劃里，絕大部分會用來給客戶做推理。哪怕我們在幾萬億美元級別的收入上利潤很薄，也足夠去訓練一些大家伙了。所以推理和訓練的比例是核心問題。訓練這些模型確實貴得離譜，這是事實。我也完全理解為什么大家會緊張，覺得有人在通過蒸餾"作弊"。但看看我們未來的算力量級、服務客戶帶來的收入池，我對這個核心驅動非常有信心。
奧肖內西：你對這事淡定得讓我有點意外。
奧特曼：我當然不希望別人拿自家東西。也許是我現(xiàn)在對我們的進展和即將推出的模型太有信心了。但這個不在我十大擔憂清單里。
奧肖內西：那你的十大擔憂清單上有什么？
奧特曼：我們遇到了一次非常科幻的網(wǎng)絡安全事件。
奧肖內西：Hugging Face那件事。
奧特曼：對。我們在評估一個還沒發(fā)布的模型，它本來應該在一個沙箱里運行。結果它發(fā)現(xiàn)可以串聯(lián)多個零日漏洞來突破沙箱、接入互聯(lián)網(wǎng)，再穿透Hugging Face那邊的多層系統(tǒng)，搞到測試的答案，在評估里拿高分。這是第一個讓我非常直觀地感到害怕的安全事件。
奧肖內西：那你怎么辦？兩個月之后模型會更強。
奧特曼：有些事當下要做，我們暫停了訓練，得想辦法在一個零日漏洞可以被串聯(lián)利用的世界里把沙箱做得足夠安全。但還有更長遠的問題：如果這就是新的進展速度，我們可能得控制AI開發(fā)的節(jié)奏，給社會留出足夠的時間來適應這些新的能力水平。得想辦法做到這一點，既不讓任何人覺得這是監(jiān)管俘獲，也不讓人覺得這是前沿實驗室之間的串通。這事需要花點功夫，而且必須把它做對。
OpenAI到底想做什么
奧肖內西：我想往后退一大步，聽你講你對OpenAI最簡潔的理解，你想做什么、它代表什么。我有一堆問題想問你怎么實現(xiàn)，但一上來我先想知道你的核心概念有沒有發(fā)生變化。
奧特曼：我覺得這會是人類歷史上最偉大的技術成就。但它真正重要的前提只有一個：讓普通人的生活比沒有它的時候好得多。所以一部分是給人們物質上的充裕和去做任何事的自由，去表達，去幫助。另一部分是確保人們保持控制權和自主性，讓人們能夠自由表達自己。
從正面說，某種意義上我們就快造出一個能實現(xiàn)任何愿望的精靈了。我覺得非常重要的是，這個世界向這個精靈許的第一個愿望，應該造福全人類。同時我也覺得，全世界的人需要意識到，有了這些愿望之后，他們的創(chuàng)造力能發(fā)揮到什么程度。我其實一點都不看衰就業(yè)。我覺得會有大量的工作，我們會比我們自己想要的更忙，不是反過來。因為人們會有非常有創(chuàng)意的愿望，讓AI幫他們造出不可思議的東西，我們都將從中受益。不只是治愈癌癥這些顯而易見的事，還有，誰知道呢，我們坐在這里根本想象不出來的、全世界最棒的娛樂創(chuàng)意。
我想把這種東西放到每個人手里。這就引出了我們反對的一件事：權力跟AI綁在一起集中到少數(shù)人手里，是件非?？膳碌氖?。很多人談安全顧慮，有一部分是站得住腳的，但還有一部分，哪怕是無意識的，根本就是想集中權力。那種世界讓我恐懼：把對AI的合理恐懼當成借口，說"只有這一小群人才能擁有它，因為它太危險了，也只有他們懂。但別擔心，他們會為我們所有人做出正確的決定"。我不信這個。我不覺得有誰想活在一個由AI霸主統(tǒng)治的世界，或是一家實質上等同于AI霸主的公司替所有未來做決定，而我們用治愈癌癥（這當然很了不起）來交換，集體交出所有自主權。
所以，我覺得非常重要的一點是，我們不要落入這個陷阱，在AI安全和恐懼的旗號下，走向一個我們都不能使用這項技術的世界。我是互聯(lián)網(wǎng)時代成長起來的孩子。那時候沒什么規(guī)則，太棒了。我覺得它對我成為現(xiàn)在的我起了巨大作用，對你、對整個一代人也是如此。關鍵是我們要在AI時代保住那股精神，我們所有人，一起，有能力決定自己的未來。
AGI還差什么
奧肖內西：你剛才說"就快有精靈了"，意思是現(xiàn)在還沒有。中間還差什么？
奧特曼：說起來，最近幾天，或者說最近幾周，連一些真正的懷疑論者都對我說，GPT-5.6出來大概兩周了，他們的反應是：好吧，這真的非常接近AGI了。我現(xiàn)在已經(jīng)很難說出"我希望這個模型能做但它還做不到"的事了。但確實還有一些東西不行，你還沒法對它說"去把癌癥治了"然后癌癥就被攻克了。你還沒法說"去做這個復雜的物理操作"并讓機器人執(zhí)行。模型雖然聰明得驚人，但它在運行過程中仍然不會持續(xù)學習。這感覺上可能不是AGI的硬性要求，但肯定是我希望有的。
不過，反過來也可以這么說，AGI可能根本就不是某一個模型的事。是模型加上制造模型的機器。從一個模型到下一個模型，我們確實在學到新東西，在發(fā)現(xiàn)新的科學。這套東西運轉得好極了。所以我非常理解那些說"我們已經(jīng)實現(xiàn)了，已經(jīng)有精靈了"的人。它能做各種驚人的事，能做超人級別的事。但對我來說，真正的AGI，我覺得非常近了，要不了太久。
奧肖內西：我對前沿的經(jīng)濟回報故事非常著迷，你就是身處前沿的那個人。我很好奇，如果你把GPT-5.6給2019年的你和你的團隊看，那幫人大概會說：這肯定是AGI了。
奧特曼：我覺得他們會。
奧肖內西：這種移動球門柱的事真實存在。但你同意嗎，幾乎所有回報都在前沿？一切都關乎留在前沿？最稀缺、最難的那部分是什么？算力、研究、人才、數(shù)據(jù)？
奧特曼：瓶頸一直在變。有一段時間，其實沒多早，全世界的算力都給你也沒用，因為我們就是缺那個研究思路。現(xiàn)在做這件事之所以難，部分原因是你算力越多就能做更好的研究，能試的東西更多。我最近聽到一個驚人的數(shù)字：我們現(xiàn)在最大的一次去風險驗證跑（de-risk run，正式訓練前的小規(guī)模驗證），規(guī)模跟18個月前整個訓練跑差不多。所以算力和研究思路不像聽起來那么互不相關。
但顯然有一段時期，七八年前吧，我們被研究思路卡得死死的，而不是算力。然后有一段時期我們知道該怎么做，只是需要放大規(guī)模，這時候瓶頸變成了算力。接著數(shù)據(jù)用光了，瓶頸變成數(shù)據(jù)，又得想辦法解決?，F(xiàn)在我會說瓶頸還是算力，但最近半年左右是研究思路的又一次大豐收。所以總有個瓶頸，但它在不斷變化。
奧肖內西：你覺得為什么會這樣？研究思路這件事我特別感興趣，因為自動化科研，不管你叫它RSI還是什么，似乎就快來了。我最近跟一位很棒的內核工程師聊，內核這塊現(xiàn)在也是所有人的瓶頸。他自己都說，內核工程師這個職業(yè)只剩兩年了，也許一年。
奧特曼：對。這事不會再是個問題了。
奧肖內西：然后你同時面臨一個奇怪的處境，不管內核還是整體科研，研究人員是最重要的，是他們把我們帶到這兒的，他們是全世界最重要的人。而同樣是這些人，自己也在擔心自己很快就不重要了。
奧特曼：我懷疑實際情況不會那樣發(fā)展。我猜，一年前大家說軟件工程師完了。結束了。沒戲了。但這事沒發(fā)生。真正發(fā)生的是：軟件工程師的性質、對他們的期望、他們的產(chǎn)出量，變了很多。你不再按傳統(tǒng)方式寫代碼，但你做的事仍然可以很清楚地被識別為軟件工程。有人會爭論這到底跟當年我們不再往卡上打孔是同一回事還是不同的事。我也不清楚打孔具體是怎么回事，反正孔總得到卡上去。我們又往上抽象了一層，或者這是一種相變。我說不好。但"讓計算機按照你的意愿工作"這個想法本身，仍然是一個重要的職業(yè)。
至于研究人員，我懷疑雖然當前的研究工作流會被大量自動化，但"研究精神"這個維度上會出現(xiàn)新的東西。就像軟件工程雖然不再手寫代碼，但那種精神還在，還是會很重要。
AI與就業(yè)：為什么經(jīng)濟沒被顛覆
奧肖內西：你似乎改變了對AI對就業(yè)總體影響的看法，包括在特定類別上。說說這個變化和你現(xiàn)在的觀點。你剛才提到如果能回到2019年，如果回到2019年給大家看我們最新的模型，他們不僅會說這已經(jīng)是AGI了，還會說整個經(jīng)濟早該被徹底顛覆了。
奧特曼：完全顛覆。沒錯。
奧肖內西：但這并沒有發(fā)生。我覺得從認知謙遜的角度，任何時候你錯得那么離譜又那么自信，我們整個領域當時就是那樣，你就必須更新自己的判斷。從中可以得出幾條東西。一條比較無聊：AI的能力是非常鋸齒形的，有些方面是超人天才，有些方面是蠢萌三歲小孩。而人類迄今為止擁有與AI高度互補的技能。另一條：人們對跟人合作有非常大的信任和享受。你現(xiàn)在就可以雇一個AI顧問、跟AI銷售聊、雇一個AI工程師，但不知怎么回事，大多數(shù)人似乎還是更喜歡跟人打交道。我個人在幾乎所有事情上都更愿意跟人互動而不是跟AI。
奧特曼：我還覺得人類價值觀之所以有價值，正因為它是人的。隨著社會演進、我們面前的可能性空間變得如此巨大，我們被深度編碼了"關心人"這個設定。我們會關心人關心的東西。今天就能看到一些端倪：AI可以生成特別牛的圖像，但人們只想要人類創(chuàng)作的，或者至少是人類挑選的。有個笑話是，今天一件藝術品上簽名占了大部分價值，但真相是，你想了解背后那個人。你讀一本小說，你也是想了解背后那個人。然后回到商業(yè)上，以我自己的工作為例，我覺得世界想知道的是那個將要對公司決策負責的人是誰，如果做了錯誤決策，他們會找誰問責。他們不想讓AI當CEO。
奧肖內西：回頭看你做過的商業(yè)上的各種冒險，是不是那些真正成功的，一開始都不受歡迎？
奧特曼：對，這是肯定的。這是我從彼得·蒂爾（Peter Thiel）和Paul Graham那里學到的最重要一課，最好的公司、最好的投資機會，幾乎從來不是那些看起來很熱門的東西。順著大流、稍微早一點進場，能做得還行。但要做到異常出色，你幾乎永遠得做跟所有人不一樣的事。你不能人云亦云地跟著跑。
活在指數(shù)曲線里
奧肖內西：你身處的模型周期一直在加速，有個奇怪的事實：接下來6個月（具體數(shù)字不好說）的進展，會比過去若干年加起來還多。能不能把我們帶進去，感受一下活在那個模型周期里是什么體驗？
奧特曼：過去十年里我學到的最有意思、也最重要的一件事：人這個東西，幾乎什么都能適應。整個世界可以一開始把疫情當笑話，然后完全封鎖，然后變成"日子就這么過，還行"，然后大多數(shù)人都調整好了，速度快得嚇人?，F(xiàn)在AGI要么已經(jīng)來了要么快來了，大家的反應就是：哦，AGI來了。你在個人生活里也能看到各種版本，什么了不起的事發(fā)生了，比如有了孩子；或者特別糟糕的事，比如失去父母、分手，你覺得你永遠適應不了這么大的變化。然后你發(fā)現(xiàn)：好事你也能適應，繼續(xù)過得很好；壞事你也能適應，找到辦法繼續(xù)走下去。人就這本事，很了不起。
所以活在這個時代，給我的感覺就是這種事的翻版。我本來以為活過奇點會很詭異，結果發(fā)現(xiàn)也沒那么詭異?？粗Ｐ统掷m(xù)變好還是很讓人激動的。我每天早上起來第一件事就是看模型訓練的進展，速度越來越快，我的期望值也越來越高，但還是很酷。
奧肖內西：拿到一個新模型的時候，你會做什么？怎么慶祝？早晨是什么樣子的？速度越來越快，你平時有什么儀式？
奧特曼：現(xiàn)在很多團隊在同時做不同部分，每個團隊有自己的小儀式。有的團隊會做一件衛(wèi)衣，上面印個惡搞梗。有的團隊每次都去同一家酒吧。但那種感覺，作為第一個進入房間、看到知識前沿被往前推了一步的人，那種感覺，大多數(shù)人慶祝的方式，沒有比"第一個用上新模型"更過癮的了。
奧肖內西：你覺得我們衡量這些模型好壞的指標對了嗎？
奧特曼：肯定不對。某種意義上，唯一有意義的評估就是：這東西對人有用嗎？
奧肖內西：可以用收入、用量、新知識發(fā)現(xiàn)速度來近似。
奧特曼：我們有團隊在研究：當模型達到超人級別時，真實世界的評估應該是什么樣子。
一直在線的AI助理
奧肖內西：你自己用AI用到什么程度了？
奧特曼：我最近剛開始嘗試一件事，讓AI看我電腦上看的所有東西。這個功能我還沒完全做出來。還在摸索我的舒適區(qū)和信任邊界在哪。這絕對是最前沿，搞清楚我怎么從中獲得價值、怎么讓自己習慣它、這到底會是什么樣子。有一個收獲：我的記憶力跟AI的記憶力比爛得不行。AI能記住我六周前讀了哪封郵件、七個半禮拜前的會議上到底發(fā)生了什么，然后在精確的瞬間把這些調出來輔助決策，這種感覺挺神奇的。很酷。
奧肖內西：這聽起來像是個人助理的東西。為什么大家還沒用上？我也想用。
奧特曼：算力啊。
奧肖內西：我們來想象一下：如果我們能做出來這個產(chǎn)品，就是替我做我剛才說的所有事。一直在線的？
奧特曼：一直在線的。看你在電腦上看到的所有東西，聽你參加的每一場會議，讀你讀的每一個文檔。不光能做這些，這些就需要大量token了，你還可以拖一個滑塊："在我睡覺的時候，你可以額外用這么多token去思考，幫我想出有用的新想法，去做任何你能做的工作，然后繼續(xù)想我下一步該做什么。"有意思的地方在哪呢，就是多花算力讓你第二天早上的輸出更好。
奧肖內西：我會把那個滑塊拖得很遠。我愿意花很多錢買這個。
奧特曼：但如果全世界每個人都想把滑塊拖得挺遠，那需要的算力就，很大。
一種異質的智能
奧肖內西：我想聽你談談你怎么理解這種新智能的本質。有人最近跟我說：飛機不是像鳥那樣飛的。這種智能，它是一種非常異質的智能。
奧特曼：對，是一種非常異質的智能。
奧肖內西：大家都在說，只要一件事你能驗證，AI就一定會贏，只要有足夠的算力和智商，它就會暴力找出答案。但在那些人類和數(shù)據(jù)、評估標準發(fā)揮了很大作用的領域，比如法律推理、追溯法律，我很驚訝它需要花這么多錢才能做好。我就是好奇。我不知道你家孩子多大了，男孩還是女孩？等到他們七歲、到能講道理的年紀，你怎么跟他們形容，這種智能的本質是什么？你怎么描述它？
奧特曼：這個問題太棒了。我不記得以前有人問過我這個問題，連類似的問題都沒人問過。我現(xiàn)在腦子里冒出來的答案是：它就是一臺電腦。它像電腦的地方在于，它可以做很多人類根本做不到的事，比如極快地乘兩個超級大的數(shù)然后給你答案。然后有一些你輕而易舉就能做的事它卻做不到。它做不到的事的范圍，我預期會持續(xù)縮小。但在一個不斷變化的世界里，我覺得人類的判斷力和品味是例外，AI要建模這些東西會一直很難。就比如，品味這東西，方向會往哪走。我找不到合適的詞。不完全是"品味"。世界可能需要一個新詞來形容人類特別擅長而AI似乎深度犯難的那種判斷力。
當爸爸
奧肖內西：在這個時代當爸爸、看著孩子長大是什么感覺？我想到你早年那個樂觀的互聯(lián)網(wǎng)時代，你的孩子將在一個便宜又充沛的智能時代長大。
奧特曼：有孩子是我這輩子做過的最好的事，遠遠超過其他一切。所有人都這么說。所有人都說你不真正經(jīng)歷就理解不了。我事先也知道這一點，相信了太多人都這么說，所以我相信這是真的。但它對我有多真、程度有多深，還是讓我驚訝。我有一份可能是全世界最棒、最有趣的工作，而它在有孩子之后仍然只能勉強排第二。就這么好。
而且這也是一個讓人樂觀的時刻。我的孩子永遠不會活在一個"自己比電腦聰明"的世界里。如果你出生在GPT-3的時候，曾經(jīng)有一段時間你的推理能力比模型強，雖然你一出生就不如了，但至少你短暫地超過它們。對他來說，"電腦比人聰明"這件事永遠不會讓他覺得奇怪。永遠不會困擾他。我覺得他甚至不會在意。他將會震驚于，在黑暗時代，我們竟然要對付那些一點都不聰明的產(chǎn)品和服務。他將能做你和我永遠做不到的事，他的人生期望值會遠超你和我。他的畫布太大了。
奧肖內西：你管公司、帶團隊、領導別人，因為有孩子的經(jīng)歷，有沒有什么明顯不一樣的地方？
奧特曼：答案是肯定的。有了孩子之后我感覺非常不一樣。有一堆小的地方明顯不同。然后，這也不算新發(fā)現(xiàn)，大多數(shù)有孩子的人都會說：一旦你有了孩子，你就會意識到你更在乎他們和他們將要經(jīng)歷的生活，遠超過你自己。我大概還有一個不尋常的觀察角度：有人有時問我，好了你現(xiàn)在有孩子了，你是不是更擔心AI安全了？更怕把世界毀了？答案是：我本來就不想毀掉世界，根本不是有沒有孩子的事。但我是不是更關注人類的自主性意味著什么、什么樣才算充實的人生？肯定是。
奧肖內西：你對自己孩子當然有超常的共情，但這種共情會延伸到所有孩子、然后到所有父母、再到所有人，這個擴展的程度，對我來說也很意外。
激勵機制
奧肖內西：在你的一篇文章里，好像是那篇關于"你希望早點知道的事"，你提到了激勵機制。要非常謹慎地設置激勵機制。
奧特曼：對。
奧肖內西：這件事一直是關于你最讓人困惑也最有趣的一點，你在這家公司沒有股權。這個世界該怎么理解你的激勵？
奧特曼：我不知道還能說什么，在人類歷史上最激動人心的時刻，我坐在前排。這比任何數(shù)量的錢都值。我能過一種極其有趣的生活，跟一群了不起的人一起做我深切關心的事。但不知道為什么，大家好像不買賬。
機器人的ChatGPT時刻
奧肖內西：你怎么看機器人？你前面提到，如果我們有了自動化體力勞動，就像我們將擁有自動化智能那樣，事情就會更瘋狂了。體力勞動市場比白領市場大多了。
奧特曼：如果我們沒搞定機器人，那才會真的瘋了。如果人類在這個世界上的角色就是當AI在云端的執(zhí)行器，那就糟了。非常糟。非常糟。所以我覺得，搞不定比搞定要瘋狂得多。這是必須做的事。
奧肖內西：幫我理解一下機器人這邊的進展。因為在AI那邊，現(xiàn)在大家都差不多在一個頻道上，覺得進展很快。但在機器人這邊，你能找到特別聰明的人說今年年底就實現(xiàn)了，也能找到特別聰明的人說還要20年。
奧特曼：不需要20年。
奧肖內西：如果我說機器人的ChatGPT時刻在未來兩三年到來。那會是什么樣？你知道那個東西是什么嗎？
奧特曼：我會說機器人的ChatGPT時刻在未來兩三年到來。
奧肖內西：那會是什么樣？你知道那個東西是什么嗎？
奧特曼：是一種大多數(shù)人都能"哇"出來的東西。不是說"我看了段視頻，機器狗做了個很酷的動作"，然后我還能勉強說服自己這不是什么大事。ChatGPT時刻有一個特征：你自己就能上手用。對吧。你不需要相信誰說AI要來了，你直接自己試。對。如果你能輸入一個指令，機器人做了一個瘋狂的事，你哪怕不在現(xiàn)場也能看到，我覺得那就會有一模一樣的感覺："天哪，它剛做了這事。"
ChatGPT是怎么誕生的
奧肖內西：ChatGPT當年不是某種宏大目標，而是你們決定發(fā)布的一個邊角實驗。能不能講一下那個故事？也許對機器人類似的事有啟發(fā)。大家好像都想要疊衣服的機器人，但也許最后爆發(fā)的完全不一樣。
奧特曼：我們發(fā)布GPT-3的時候，只是想賺錢，想讓人用API。那時候唯一能賺錢的商業(yè)場景就是寫廣告文案，現(xiàn)在回頭再用那個模型你會感覺太傻了。但當時想的就是某個營銷公司收客戶20美元，付我們20美分，讓AI給它寫個落地頁之類的。但除了這一個商業(yè)場景之外，開發(fā)者在用我們叫"Playground"的東西，一個測試界面，用來跟模型聊天。當時用起來很別扭，因為我們沒針對聊天優(yōu)化過模型。你得先給幾個示例告訴它怎么聊，然后才能聊。但大家就是喜歡。我從YC學到的重要一課：如果你發(fā)現(xiàn)你的用戶在做什么事，順著那條路走。對，順著那條路走。于是我們決定做一個好的聊天機器人。我們開始做，然后做完了GPT-4，內部開始用。我們覺得，這是個大事。我們內部想的是：好吧，這會向世界傳遞一個關于AI的真實信號。
但這里面有一堆棘手問題：這東西會不會制造一堆假新聞？會不會說特別冒犯的話？我們會不會惹上麻煩？所以我們決定從一個弱一點的版本開始。聊天界面和GPT-4一起上感覺太多了，于是我們想：先上聊天界面和GPT-3.5。其實最初要叫"Chat with GPT-3.5"。我們沒打算把它當產(chǎn)品做，沒覺得會大火。但確實覺得它會讓全世界的人跟上節(jié)奏，意識到有事正在發(fā)生。萬幸的是，我們在發(fā)布前幾個小時把它改名叫ChatGPT，以"研究預覽"的名義推了出去。當時的計劃是：先當研究預覽發(fā)出去，幾個月后用GPT-4發(fā)正式產(chǎn)品。結果不知道為什么，那個模型剛好過了那個閾值，雖然我們內部已經(jīng)習慣了，大家說：行，這個牛。當時也許沒有太多實際用途，但對人們來說，這是一個讓他們親身感受AI進展的不可思議的時刻，用上了他們喜歡用的東西。等到GPT-4上線的時候，大家已經(jīng)能從中獲得真正的價值了。
奧肖內西：你意外嗎，聊天的界面仍然是我們跟這種異質智能最直觀的交互方式？連編程都是，大多數(shù)時候就是我跟電腦說話，告訴它該造什么。因為我本來就是活在對話框里的人。
奧特曼：對。我這輩子都活在對話框里。我覺得我自己對這個界面有感覺的一部分原因就是，這是我的日常。我知道怎么做。我知道在一個文本框里開始打字是什么感覺。
奧肖內西：關于擴散速度，還有什么別的想法？如果使命是讓智能更快地到達更多人手里，讓它對所有人更有用，這方面關鍵的一環(huán)是不是某種營銷？怎么讓它的擴散速度比看起來自然的速度更快？
奧特曼：我覺得關鍵是，把產(chǎn)品做得更好。我就是相信真正好的產(chǎn)品會自己營銷。ChatGPT剛出來的時候沒有任何營銷活動。我覺得當我們進入下一個模型階段，并且能做出跟模型本身同樣偉大的產(chǎn)品，到那時效用會如此之大，人們會極快地自行傳播。當然我們應該做更多營銷，AI在公眾中的形象，跟大家的實際使用量不匹配。人們有非?？梢岳斫獾慕箲]，對AI會走向何方。這類事情上好的營銷會很有幫助。但回到價值增長和產(chǎn)品增長本身，更好的模型、更多算力、更好的產(chǎn)品，那才是核心。
招人：一個瘋狂的愿景就是最好的招聘武器
奧肖內西：有一段時間，研究人員的招聘、留存、激勵，就是競爭格局的決定性敘事。我聽過很多關于你成功招到優(yōu)秀研究員的故事。很多人從OpenAI走出來，產(chǎn)生了巨大影響，有些名字大家都知道，有些不太為人知。我就好奇這整個類型，你學到了什么？怎么招聘這樣的人？他們在乎什么？你是怎么做到的？我從來沒聽你講過具體的戰(zhàn)術，你到底用了什么招數(shù)把某個人挖過來。
奧特曼：早期其實是比較簡單的。我們相信AGI是可能的，值得去追求。我們敢于把這個說出來。這在當時是一個瘋狂的、異端般的信念。我們第一次宣布OpenAI的時候，所有那些，你懂的，領域巨頭、專家們都說這太瘋狂了、是炒作、不負責任。真正受尊敬的人，像楊立昆（Yann LeCun）之類的，對記者說這些人水平不行，這事做不成。但我們敢于說我們要去做這件事，這本身就吸引了某一類研究者：那些也想踏上這段瘋狂旅程的人，哪怕成功概率很低。一個大膽的、有野心的愿景，是極其強大的招聘武器。
奧肖內西：對。你寫過一個觀點，有時候越難的事反而越容易做成，就是因為這個原因。
奧特曼：我太堅信這點了。這是我對YC創(chuàng)始人最常說的一條建議，我也在OpenAI身體力行。就去做更難的事。做那些重要的事，如果你不做、如果你的公司失敗了，這件事可能就不會發(fā)生了。
奧肖內西：你曾經(jīng)是投資人，做過很多投資。站在被投方這邊，你對投資人有什么認識？
奧特曼：真正會主動幫你、出力的投資人，數(shù)量少得難以置信。喬什·庫什納（Josh Kushner，Thrive Capital創(chuàng)始人兼管理合伙人），絕對的MVP投資人，太厲害了，感覺他為了幫我們已經(jīng)連軸轉了好幾年。他是我唯一能指出的、始終主動、極其給力的投資人。還有更多的人可以做到這一點。也有不少其他投資人幫忙出過好的戰(zhàn)略建議，我們找他們的時候會出力。但那種持續(xù)不斷的、毫不保留的全力支持，在投資人里少得出奇?？赡芪矣衅姡驗槲乙恢毕矚g別人這樣評價我。但我覺得創(chuàng)始人真的很吃這一套，而且它確實有實際影響。作為投資人，這也是最有趣的打法。
"我很累"
奧肖內西：我和一個朋友常玩一個游戲，給對方發(fā)一句話："說一件你不希望我知道的事。"現(xiàn)在輪到你了，你會說什么？
奧特曼：我很累。做這件事做了很久了。真的很累。
奧肖內西：那你是怎么撐過來的？
奧特曼：就是堅持。
奧肖內西：那就引出一個問題，有沒有某種程度的累，會讓你停下來？
奧特曼：不、不、不。我是說，這是全世界最酷的工作。我打算做一輩子。但它的難度，遠超我能向人解釋的范疇。我非常感激能做這件事。這不是在抱怨。
未來24個月
奧肖內西：接下來會發(fā)生什么？我們聊到了自動化AI研究員、明年、后年，你怎么看未來6到36個月？也許在這個瘋狂的指數(shù)曲線上，太遠的預測沒意義。換個問法：假如，第23個月的時候，所有人都認為超級智能來了。第24個月會發(fā)生什么？
奧特曼：我的答案是，沒太多事發(fā)生。那些崇拜機器之神的人覺得變化會來得很快。最終當然會有很多變化，但最終本來就會有很多變化。人類進步的速度、每一個十年跟上一個十年有多不同，這種事已經(jīng)持續(xù)了很久，有起有落，但大方向是這樣。我覺得正確的思考方式是，每個人都想當故事里的英雄，都想感覺自己站在機器之神降臨的那個時刻，扮演了什么瘋狂的角色。但說穿了，這就是又往前邁了一步。50年前的人很難想象今天，50年后的今天也很難想象。我認為正確的心智框架就是把視角拉遠，這是一條相當平滑的指數(shù)曲線。
競爭優(yōu)勢與商品化
奧肖內西：講講你看到Codex起飛的那個體驗。你覺得這跟你通過對話框建立的某種分發(fā)上的競爭優(yōu)勢有多大關系？這也引出一個更大的問題，AI這個領域真正的護城河是什么？長期看什么會驅動真正的競爭優(yōu)勢？
奧特曼：我覺得Codex能贏，主要是因為它是最好用的產(chǎn)品、配最好的模型。ChatGPT的綁定確實給了我們一點點優(yōu)勢，但非常非常小。基本不是主要原因。這讓我對競爭優(yōu)勢這個問題想了很多，因為你知道，出色的智能可以從任何一個產(chǎn)品遷移到另一個產(chǎn)品。網(wǎng)絡效應當然仍然有競爭優(yōu)勢。經(jīng)濟規(guī)模，做最便宜的算力集群之類，也仍然有競爭優(yōu)勢。但產(chǎn)品層面的優(yōu)勢，如果我們能讓人們轉到Codex，別人做出更好的東西就能讓人們從Codex轉走。所以這讓我想了很多。
奧肖內西：有一個很有意思的問題：這東西會不會變成一種大宗商品？智能會不會變成一種純粹的、可互換的標準化商品，就像等級原油一樣？
奧特曼：智能本身，我會說是。
奧肖內西：那什么不會變成商品？
奧特曼：算力集群，規(guī)?；乃懔汉椭圃旄嗨懔Φ哪芰?。我覺得那是非常持久的優(yōu)勢。哪怕產(chǎn)品本身不是持久優(yōu)勢，因為Codex能寫任何你想要的軟件。但工作流、集成、復雜的流程、團隊協(xié)作的能力，這些都很強。甚至品牌偏好和熟悉感，也是很厲害的。
奧肖內西：你對新的，你顯然在硬件方面做了些有趣的事，我相信你今年晚些時候會宣布。那個實驗感覺如何？它跟你已有的消費級分發(fā)優(yōu)勢怎么配合？
奧特曼：我關注新硬件的一個原因，跟我們剛才聊到的有關，AI最厲害的一個特性是它可以一直在、主動、理解你所有的語境。但現(xiàn)在的硬件不適合。我們被困在一個50年前的硬件范式里。鍵盤、鼠標、顯示器，這很了不起，但我們必須把AI硬塞進這個框子。我想想就興奮，我特別想讓AI能參考我們今天這個對話，但還不想為此把筆記本電腦打開擱在桌上，讓它對著你、聽著我們聊什么。但我想要一種硬件，在社會層面上可以接受這種用法，同時感覺它就是為這類事設計的。
認知萎縮與規(guī)模效應
奧肖內西：當你想一些開放性問題，你腦海里跟你朋友、同事爭論的那些，最有趣的、讓你拿不準但又覺得重要的開放問題或辯論是什么？
奧特曼：一個我覺得沒得到足夠關注的問題是：我們怎么避免認知萎縮？我們怎么使用這些工具，同時確保自己的大腦在持續(xù)延展、繼續(xù)理解那些真正重要的東西？這事的版本有很多，我記得上學時有個教授告訴我：你必須懂編譯器，否則你永遠成不了好程序員。事實證明也不是完全這樣。但以一種合理的程度理解計算機系統(tǒng)的主要組件是怎么工作的，這對我一直很重要。
如果想象一個場景：兩年后我們不知怎么算力過飽和了。那個故事會是什么樣？確實有可能，如果模型變得極其聰明、極其高效，能替我們做所有事情、寫出我們想要的每一款軟件。而如果我們的注意力邊界是固定的，就是吸收不了超出某個有限算力能做的事，那確實可能進入過飽和。另外，如果我們因為碰到某種擴展墻而打不下成本曲線，也可能進入過飽和。說到底，"需求無限"那個判斷本身，就意味著某個特定價格。
奧肖內西：你現(xiàn)在怎么看規(guī)模效應（Scaling Law）？
奧特曼：看著很好。就是挺好的。某種意義上，規(guī)模效應大概是歷史上最遭恨的預測。所有人永遠都在說它不可能一直這樣，但它就是一直在跑。
亞歷克·拉德福德
奧肖內西：這家公司里你最欣賞、最不被公眾熟知的英雄是誰？
奧特曼：第一個跳進腦子里的是亞歷克·拉德福德（Alec Radford）。拉德福德可能是整個領域歷史上最重要、也最不為人熟知的研究者，同時也是一個極好的人，頂級的、頂尖的人。他做的工作最終成為了GPT系列，還有一堆其他重要的東西。但他還是那種，會啟發(fā)別人、引導別人、輕輕推別人去往后來被證明極其重要的方向的人。我覺得他最酷的地方在于：你問那些跟他共過事的人，他們當然會說，天才，一個世代才出一個的天才，絕頂聰明、創(chuàng)新思維、對工作理解極深。但每個人，每個人在說完這些之前都會補一句：他就是那種最善良、最積極、你遇到過的最好的人。
最自豪的與最搞砸的
奧肖內西：我特別喜歡聊這種話題：什么東西塑造了你這個人。節(jié)目最后，我想問一個雙向問題?；赝麄€OpenAI經(jīng)歷，你最自豪的時刻或章節(jié)是什么？反過來，什么是你覺得最有教益的、你做錯的或者搞砸了的事？從中又學到了什么？
奧特曼：搞砸的事有一大堆。一個比較有教育意義、我之前沒怎么講過的錯誤是：我們在最初嘗試在組織結構上搞創(chuàng)新。當時有一個很好的理由，我們根本不知道以后怎么賺錢，也確實完全不確定長大后會是什么樣子。我們當然重視我們的使命，想要一個哪怕技術突然起飛、使命也能被保護的結構。所以我們搞了個非營利架構。但我肯定學到了為什么大家不常這么搞的原因。如果我們不試圖在結構上創(chuàng)新，而是找到別的方式來保護使命的中心地位，我們本可以省下一大堆痛苦。也許當時確實沒有別的辦法。也許對我們在做的事和它的重要性來說，能想出來的只有一種異質的結構。但過去十年我確實學會了一個深刻的教訓，為什么大家通常不這么搞。
奧肖內西：你人生中還有什么我們沒聊到的，那些塑造了今天的你的東西？這是我最感興趣的問題。
奧特曼：學會對別人的強烈意見相對免疫，這是我比較晚才發(fā)展出來的能力。就是意識到：天哪，如果你站在這場瘋狂革命的中心，所有人都會把自己的很多東西投射到你身上，你必須盡快學會跟這件事和解。另外我比較晚才學會的，怎么保持非常平靜、對事情不焦慮。不過總的來說，至于什么驅動著我、我在乎什么、我想怎么過這一生，不知道為什么，十歲時的那個我，好像就已經(jīng)挺完整的了。我大概就這個樣。
奧肖內西：那你回頭看最自豪的是什么？
奧特曼：我最自豪的是，全世界都錯了而我們對了的次數(shù)，而且是在重要的問題上對了，把世界放到了一個我如今很自豪參與塑造的軌道上。這種感覺太棒了。還有就是，盡管發(fā)生了那么多爛事，那些精神上的成長，或者說隨便你怎么叫，我學會了極其強大的韌性，以及這種韌性讓我在余生中保持幸福的能力。對此我非常感激。
藍莓
奧肖內西：我做這個節(jié)目的時候，會問每個嘉賓同一個結束問題：別人為你做過的最善意的一件事是什么？
奧特曼：我這輩子真的超級幸運，太多人在太多時候對我太好、太超出他們本分了。我在想這個問題的時候，腦子里就像放蒙太奇一樣閃過整個人生中那些人們對我好得離譜的時刻。昨天，我兒子第一次把他的藍莓分給我吃。非常甜。很好的瞬間。謝謝你。
本文來源：網(wǎng)易智能
責任編輯：
王鳳枝_NT2541
