北京
出品 | 網(wǎng)易智能
作者 | 辰辰
編輯 | 王鳳枝
對于AI， 7月23日，馬斯克在特斯拉得州超級工廠對話《經(jīng)濟學(xué)人》旗下節(jié)目The Insider。近90分鐘的談話里，他談到了AI、機器人、中美AI競爭、安全風(fēng)險以及未來工作形態(tài)。 以下是其中六個最值得關(guān)注的判斷。 一、AI五年內(nèi)可能超過人類智慧總和 馬斯克認(rèn)為，十年內(nèi)AI能力將遠超全人類智慧總和，甚至可能五年左右就達到這一水平。在他設(shè)想中，最可能的結(jié)果是一個"物質(zhì)極大豐富"的時代：AI和機器人提供大量商品與服務(wù)，人類進入一個全新的經(jīng)濟階段。 二、2036年，錢可能"不重要了" 面對"未來公司如何賺錢"的問題，馬斯克給出了更激進的回答："到2036年，錢就不重要了。" 他的邏輯是，經(jīng)濟本質(zhì)是商品和服務(wù)的生產(chǎn)。當(dāng)AI提供數(shù)字智能、人形機器人提供物理執(zhí)行能力后，生產(chǎn)能力可能超過人類需求。 三、AI可能毀滅人類，但趨勢無法阻擋 馬斯克仍認(rèn)為AI存在10%到20%的風(fēng)險概率。但他的判斷發(fā)生變化：風(fēng)險是真實的，可阻止AI發(fā)展的可能性并不存在。 他回顧自己創(chuàng)辦OpenAI的經(jīng)歷時說，原本是為了制衡谷歌，結(jié)果卻推動了AI進一步發(fā)展。 四、AI安全需要競爭對手互相檢查 馬斯克提出一個簡單方案：領(lǐng)先AI公司應(yīng)該定期溝通，并在發(fā)布重大模型前給競爭對手短暫測試時間。 他的理由是，政府未必?fù)碛凶銐蚣夹g(shù)能力判斷風(fēng)險，而競爭對手往往最了解前沿模型的問題。 五、中國AI正在快速追趕 談到中國AI，馬斯克認(rèn)為中國企業(yè)正在用更高的算力效率縮小差距。 他特別提到Kimi K3，認(rèn)為其展現(xiàn)出很高的芯片利用效率；同時他判斷，未來AI競爭的關(guān)鍵瓶頸將是電力、芯片和散熱。 六、未來工作可能像"在花園里種菜" 面對AI取代工作的擔(dān)憂，馬斯克認(rèn)為：AI最終可能比人類完成大多數(shù)工作更好。但人類仍會選擇做一些事情，就像有人選擇自己種菜，不是因為需要，而是因為享受過程。 他的解決方案是"全民高收入"（Universal High Income）。 整場訪談里，馬斯克反復(fù)在兩個極端之間切換：一邊是AI帶來的超級富足時代；另一邊是10% 到20% 的毀滅風(fēng)險。 他的選擇是：既承認(rèn)風(fēng)險，也繼續(xù)推動這場技術(shù)浪潮。 以下是整理后的訪談內(nèi)容： 《經(jīng)濟學(xué)人》對話埃隆·馬斯克 記者：埃隆，非常感謝你來到《The Insider》。感謝你邀請我們來到特斯拉超級工廠。嗯，真的很難在介紹你的時候不用最高級之類的形容詞。就是說，我覺得你現(xiàn)在為未來所做的貢獻，可能比任何在世的人都要多。 馬斯克：我這人就是閑不下來，一直在鼓搗東西。 記者：你確實一直在造東西。 馬斯克：天生愛造東西吧，就是喜歡做點什么出來。 記者：你確實如此，但你造的是…… 馬斯克：反正就是到處跑，到處建。 記者：你忙著建很多東西。你開創(chuàng)了電動汽車，你徹底改變了太空旅行，你現(xiàn)在還有一個尖端的AI模型，還有人形機器人。我們能不能先請你在更高的層面把這些都串起來？告訴我，如果一切順利的話，比如說10年后，這個世界會是什么樣子？ 馬斯克：10年后，那就是說2036年。 記者：對，希望到時候我們都還在。 馬斯克：希望如此，是的。嗯，應(yīng)該吧，大概率我們都還在。嗯，很難想象未來沒有大量的AI。10年之內(nèi)，AI的能力會遠遠超過全人類智慧的總和，并且是遠遠超過。其實我覺得，5年左右可能就到那一步了。 記者：5年？ 馬斯克：我猜大概5年左右。到那時候，AI在任何事情上都會比人強，除了"當(dāng)人"這件事本身。 記者：從更實際的角度來看…… 馬斯克：最可能的結(jié)果是一個物質(zhì)極度豐富的時代，嗯，任何人想要什么就能得到什么。這聽起來可能很離譜，但你看，我們現(xiàn)在是2026年。等2036年我們再回過頭來看。當(dāng)然，有些事可能會讓這一切偏離軌道，但假設(shè)一切如常，我覺得我們正在進入一個物質(zhì)極其豐富的時代。所以這大概算是一個樂觀、對未來充滿期待的信息吧。 記者：好，關(guān)于"豐富"我們一會兒再聊，但先問一個非常實際的問題：你的這些公司要怎么賺錢？因為從SpaceX的IPO招股書來看，好像絕大部分收入都會來自AI，來自Grok。不是像SpaceX現(xiàn)在這樣運東西上太空。10年后你的公司到底在做什么？ 馬斯克：嗯，你可以把經(jīng)濟想象成數(shù)字智能和物理智能的結(jié)合。現(xiàn)在發(fā)展非常快的是數(shù)字智能，顯然AI幾乎每周都有新的突破，能做到以前做不到的驚人事情。但它仍然局限于數(shù)字領(lǐng)域。它沒有執(zhí)行器。你需要執(zhí)行器，以人形機器人的形式出現(xiàn)。嗯，簡單說就是你既需要人形機器人，也需要大量的機器人。然后你就可以從僅在數(shù)字層面體現(xiàn)的智能，過渡到真正去塑造原子。你說經(jīng)濟是什么？經(jīng)濟就是商品生產(chǎn)和服務(wù)提供。如果你有了大量的機器人，加上強大的數(shù)字智能，你就擁有了一個近乎無限的經(jīng)濟。所以未來真的會和過去截然不同。我覺得沒有任何類比或比喻能夠說明我們將要經(jīng)歷的這場變革的規(guī)模。 記者：我明白這一點，我也在試圖理解那個世界會是什么樣子，但從某些方面來說你…… 馬斯克：那會是一個令人難以想象的未來。 記者：對，但也有一些風(fēng)險。我們一會兒會談到。但先說說你怎么賺錢，因為說到底人們買你的股票，是期望你能賺錢。 馬斯克：我再給你一個預(yù)測：到2036年，錢就不重要了。 記者：買你股票的人恐怕不會同意"2036年錢不重要"這種說法。 馬斯克：你要錢干嘛？無非是買東西、買服務(wù)。食物、房子、出行、娛樂，你要錢就是為了這些。可要是那時候機器人和AI造出來的東西多到?jīng)]人消費得完，你還要錢干什么？ 記者：但你在制造這些機器人啊。 馬斯克：我猜那時候確實還需要錢，當(dāng)然。 記者：你是在賣這些機器人嗎？你是在賣人形機器人，還是用你控制的那些人形機器人來生產(chǎn)商品和服務(wù)？ 馬斯克：我造出來的東西，白給你，你偷著樂吧。我要認(rèn)為我能控制一個比我聰明得多的超級AI，那可能是一種虛榮心在作祟。我覺得我們可以做、也應(yīng)該做的，是確保AI有良好的價值觀，讓它關(guān)心人類，希望我們幸福繁榮。我覺得這很可能是可以實現(xiàn)的。我的生物神經(jīng)網(wǎng)絡(luò)告訴我，AI安全最重要的一點，就是讓它極度追求真理和好奇心。如果做到這一點，我覺得它會促進人類的繁榮。 記者：好，讓我們展開談?wù)劇Ｄ愦_定10年后人類就不再掌權(quán)了嗎？ 馬斯克：不太可能。你想啊，如果AI和人之間的智力差距，比人和黑猩猩之間還大得多，那你很難想象黑猩猩能說了算，對吧？ 記者：這個說法讓我很受觸動。 馬斯克：我們說白了就是進化版的黑猩猩。沒多久之前，我們還在叢林里蕩藤蔓、啃香蕉呢。而且順便說一句，我們現(xiàn)在還在吃香蕉。 記者：確實，我們還……哦，是的。 記者：而且有時候也蕩藤蔓。 馬斯克：是啊，我們偶爾也還蕩兩下藤蔓。挺好玩的，有點懷舊那意思。你也該多蕩蕩藤蔓，我敢打賭，比大家想的有意思多了。 記者：我同意。 馬斯克：[笑聲] 記者：我完全同意蕩藤蔓這事。我喜歡蕩藤蔓。但聽你說這些我真的很有感觸，因為我聽過你這些年說的很多話。10年前，你在一個播客上，我記得是跟尼爾·德格拉斯·泰森，你說最讓你恐懼的是AI的快速遞歸自我改進。 馬斯克：是的。 記者：你那句話我印象特別深。你說人類最好的結(jié)局，也就是被當(dāng)成拉布拉多寵物養(yǎng)著。 馬斯克：嗯…… 記者：可你現(xiàn)在看起來…… 馬斯克：拉布拉多其實活得挺爽的啊，我養(yǎng)過我知道。 記者：2023年，你呼吁放緩AI發(fā)展，因為你對它感到擔(dān)憂。 馬斯克：嗯，我是簽了名的，你知道，是500個人之一。我只是其中一個簽名的人而已。 記者：但我記得即便去年，你還在TechCrunch的播客上說，有10% 到20% 的概率會出現(xiàn)殺手機器人毀滅人類。 記者：所以你當(dāng)時聽起來很擔(dān)心。現(xiàn)在你好像對此很放松了。你的想法變了嗎？ 馬斯克：我還是認(rèn)為AI和機器人有風(fēng)險，這個概率不是零。但我想通了一件事：往好處看吧。我看不出有什么辦法能真的擋住AI和機器人這股勢頭。有時候我甚至覺得，就算真有個"停止鍵"，我們可能也不該按，因為最可能的結(jié)局，是所有人都過上極其豐饒的日子。 記者：我其實也是這么想的。我注意到你現(xiàn)在似乎已經(jīng)認(rèn)定這都是不可避免的了。那就抱最好的希望，坐上這趟車吧。 馬斯克：是啊。就是說，差不多是這樣，享受這個過程吧。這大概就是我現(xiàn)在的態(tài)度。因為說實話，AI和機器人領(lǐng)域的進步似乎就是勢不可擋的…… 記者：但你…… 馬斯克：你看，就算我想阻止，我也阻止不了。嗯。 馬斯克：你還覺得殺手機器人有10% 到20% 的概率終結(jié)人類嗎？用他們的話說，這個"滅世概率"可不低啊。反正長遠看，我們都得死。按標(biāo)準(zhǔn)物理模型，宇宙的結(jié)局就是一鍋越來越冷、越來越稀的灰湯，這就是所謂的"熱寂"。要是熱寂真是我們這個世界的終點，那過程才是重點，因為結(jié)局本身太可怕了。 記者：[笑聲]是啊，好吧，但那是很久很久以后的事了。 馬斯克：非常非常久。非常非常非常非常…… 記者：如果10年內(nèi)有10% 到20% 的概率毀滅人類，那換成你自己的火箭，你會上嗎？就是說，你明知道這火箭有10% 到20% 的概率會炸，把你送走？ 馬斯克：會啊。可問題是，如果你根本攔不住呢？ 記者：好吧。 馬斯克：能做的，只有盡量把壞結(jié)局的概率往下壓。但你想阻止智能的發(fā)展，很長一段時間里我是不碰AI這個領(lǐng)域的。后來我創(chuàng)辦OpenAI，本質(zhì)上就是為了制衡谷歌，因為當(dāng)時AI這塊基本被谷歌壟斷了。再后來，Anthropic又從OpenAI分出去了。要說我這一通操作產(chǎn)生了什么效果，其實是把AI往前推了一把。我本來不是為了加速AI發(fā)展，但創(chuàng)建OpenAI、然后Anthropic從中分拆出來、而現(xiàn)在Anthropic是AI領(lǐng)域的領(lǐng)導(dǎo)者，這些行動實際上引發(fā)的連鎖效應(yīng)加速了AI，這并非我本意。所以就感覺，不管哪條路，最終都是加速AI發(fā)展。然后我就想，好吧，所以，你可以對此感到沮喪，也可以選擇加入其中。 記者：反正你是徹底入局了。 馬斯克：我是說…… 記者：你是入局了，但…… 馬斯克：打不過就加入嘛，就這個道理。 記者：嗯，你顯然做到了，而且非常成功。但關(guān)于降低風(fēng)險呢？好幾個模型公司的領(lǐng)導(dǎo)者一直在推動各種方式來嘗試降低風(fēng)險。嗯，就在上周，德米斯·哈薩比斯（Demis Hassabis）提出了一個公私合營監(jiān)管機構(gòu)的建議。我記得你說這是個不錯的討論起點。你覺得你們是不是應(yīng)該更積極地去建立某種機制來控制風(fēng)險，還是你覺得那也不可能？ 馬斯克：德米斯那篇文章發(fā)出來之前，我跟他聊了好幾個小時。我給他的建議是：眼下最容易做起來的事，就是幾家頭部AI公司每隔幾周開個電話會，聊聊安全和安保上的問題。另外，在發(fā)布一個突破性的新前沿模型之前，就是那種明顯比現(xiàn)有模型強出一大截的，應(yīng)該先給其他幾家競爭公司一段時間，讓他們測測這個模型有沒有什么危險。并且能夠建議暫停發(fā)布，以解決一些安全問題。我覺得這是可以快速實現(xiàn)的最簡單直接的事情。而且這個機制可以隨時間演變成更多東西。但我覺得這會是個明智之舉。 記者：那為什么你們還沒這么做呢？你們也就五個人左右，對吧？名字大家都知道了，達里奧（Anthropic CEO）、德米斯（DeepMind CEO）、薩姆（OpenAI CEO）。我知道你們互相不太喜歡對方。是啊，但你們也不全是……你們也在競爭，對吧？你們都想當(dāng)?shù)谝弧?/p> 馬斯克：這正是我覺得應(yīng)該讓競爭對手互相盯著的原因。政府里的人技術(shù)上沒那么深，也不在AI前沿一線，很難判斷一個模型該不該放出來。可競爭對手不一樣。給他們一周時間看看新模型，問題他們大概率能發(fā)現(xiàn)，而且他們本來就有動力盯著對手，不然自己吃虧。 記者：你們之間有沒有足夠的信任來做這件事？你們互相不太喜歡對方。薩姆·奧特曼（Sam Altman）不會覺得你是要偷他的點子嗎？ 馬斯克：嗯，我說的就是一周，說實話，我覺得短到一周就足夠了，做私下測試用。這不是要把AI交出去，只是測試一下。 記者：你提出過這個建議嗎？ 馬斯克：是的，通過API或者其他方式測試一下。我覺得這可能是件好事。嗯。 記者：你提出過嗎？你出面組織一下應(yīng)該沒問題吧？ 馬斯克：我對德米斯提過。我想我也會跟達里奧談一下這個。當(dāng)然，還有一些非常厲害的中國AI公司，其中幾家做得非常出色。新的Kimi模型…… 馬斯克：Kimi K3，對，上周剛出的那個，它差不多和Fable一樣好了吧？就是說，我覺得客觀來說Fable仍然顯然是最聰明的模型。任何實事求是的人都會這么說。但Kimi模型正在非常接近Fable的水平。嗯，現(xiàn)在，Anthropic有Mythos，F(xiàn)able就是從它派生出來的。我覺得他們在2月份就已經(jīng)準(zhǔn)備好了。所以他們現(xiàn)在肯定有，我不確定他們叫它什么，Mythos 2或者Fable 6之類的，比2月份時候又強了很多。他們現(xiàn)在肯定已經(jīng)有更強版本。我覺得他們隨時都可以發(fā)布。 記者：在我們聊發(fā)布之前，你怎么看中國的模型？你擔(dān)不擔(dān)心中國追上來甚至反超？ 馬斯克：考慮到中國的AI公司在算力相對有限的情況下已經(jīng)做得這么好，似乎如果他們有大量算力，很有可能會成為領(lǐng)先者。而到了某個時候，他們很可能就會擁有大量算力。 記者：所以，推而論之，他們會成為領(lǐng)先者。 馬斯克：在某個時候他們很有可能會成為領(lǐng)先者。你可以把AI的制約因素看成是電力和AI芯片。而對于物理AI來說，就是機器人。中國也有一些非常好的機器人公司。實際上，他們有那種機器人體育比賽。我不知道你看沒看過。 記者：我見過。上次我在北京的時候看到了那些機器人。 馬斯克：然后他們還有那種像拳擊比賽或者格斗比賽一樣的機器人對戰(zhàn)，還挺有娛樂性的。我看到一個視頻，有個機器人頭都被打掉了，還在繼續(xù)打。看起來挺搞笑的，但我覺得這些機器人大戰(zhàn)以后真的會很好看。 記者：但等一下…… 馬斯克：所以中國在機器人方面很強，在數(shù)字AI方面也很強，而且如果你看電力產(chǎn)量，AI本質(zhì)上是受制約的那個因素，不管是芯片還是電力，來決定的。中國的電力產(chǎn)量遠遠超過美國。事實上，中國的電力已經(jīng)超過美國、歐洲和印度的總和。嗯，而且我的估計是，中國的電力產(chǎn)量會達到美國的四倍，這大致與人口比例相當(dāng)。 記者：美國政府在這方面應(yīng)該做些什么？顯然美國政府一直想通過出口管制等措施壓制。你覺得他們應(yīng)該禁用Kimi K3嗎，比如說？ 馬斯克：嗯，美國政府不能……他們可以通過某種法律來禁止美國公司使用中國的模型，但他們阻止不了世界其他地方使用。所以這不是美國政府能夠管到中國或世界其他地方的事。嗯。 記者：你覺得他們應(yīng)該阻止美國公司使用嗎？現(xiàn)在不是正在討論這件事嗎？ 馬斯克：我覺得那樣做沒什么用。那并不能阻止中國在AI領(lǐng)域領(lǐng)先。真的，說到數(shù)字智能，歸根結(jié)底取決于你有多少AI算力？你有多少芯片，又有多少電力？你有多少電力供應(yīng)？現(xiàn)在制約因素，我認(rèn)為其實更多是電力和散熱，而不是AI芯片本身，因為嗯，AI芯片的功耗非常高。嗯，我們后面會談到用水的問題，但其實AI的用水量微不足道，幾乎可以忽略不計。但電力需求確實非常高。 記者：所以你才會考慮軌道數(shù)據(jù)中心吧，我猜。這就是…… 馬斯克：是的，在中國（口誤），任何AI芯片無法開機運行的瓶頸就是電力供應(yīng)和散熱。還有電力設(shè)備等等。AI芯片的制造速度已經(jīng)超過了新電力上線的速度。 記者：在中國？ 馬斯克：呃，在中國以外。 記者：中國以外，明白了。對。 馬斯克：嗯，而且你知道，美國禁止向中國出口最新的AI芯片，所以某種意義上中國處于芯片短缺的狀態(tài)。所以…… 記者：他們在使用現(xiàn)有芯片方面效率越來越高了。但Kimi K3最引人注目的一點，就是他們用芯片的效率有多高…… 馬斯克：而且中國在解決光刻問題方面，我覺得比大多數(shù)人意識到的要更接近成功，這意味著他們將能夠大規(guī)模制造AI芯片。所以我認(rèn)為，從發(fā)展的角度來講，這不僅僅是個中國的話題。但目前制約因素是，中國以外的制約因素是電力。在中國，制約因素是芯片。一旦我們通過太空AI數(shù)據(jù)中心解決了電力制約，那么制約因素又會回到芯片。 記者：這讓我覺得，如果你想要建立某種整體性的安全約束機制，中國和美國需要合作。如果你想嘗試……我的意思是，你之前提到過，就是那五家公司…… 馬斯克：嗯，我認(rèn)為可能也應(yīng)該把那些在做前沿AI模型的中國公司包括進來。 記者：那你覺得政府需要參與進來嗎？ 馬斯克：我的建議是，如果AI領(lǐng)域的一些頭部公司認(rèn)為某個新模型非常危險，那么他們應(yīng)該通知政府。而且如果某個新模型被認(rèn)為相當(dāng)危險，而生產(chǎn)該模型的公司沒有采取措施應(yīng)對危險，那么他們應(yīng)該提醒政府采取行動來限制該模型的發(fā)布。嗯，實際上，只有中美兩國政府具備采取行動的能力。 記者：但我覺得人們會擔(dān)心，依賴一群模型構(gòu)建者來決定是否這樣做可靠嗎？我是說，你看看美國政府對Mythos的處理方式，他們之所以介入，是因為擔(dān)心網(wǎng)絡(luò)安全風(fēng)險。他們利用出口管制的威脅來介入，阻止了這個模型的廣泛發(fā)布。我很難想象政府會不愿意保留這種權(quán)力，最終由他們來決定一個模型是否發(fā)布。 馬斯克：我認(rèn)為他們應(yīng)該保留這種權(quán)力，但并不是政府里的某個人自己發(fā)現(xiàn)了Mythos存在可怕的網(wǎng)絡(luò)安全風(fēng)險。是亞馬遜。亞馬遜指出了這一點，然后亞馬遜給白宮打了電話。 記者：所以，你設(shè)想的系統(tǒng)是模型開發(fā)者之間互相審核對方的工作。如果有什么讓他們擔(dān)心的事情，就告訴政府。然后政府會考慮…… 馬斯克：如果有什么令人擔(dān)憂的事情，而那家公司又沒有采取任何措施來應(yīng)對這個風(fēng)險，那才是政府介入采取行動的時機，這其實就是Mythos事件中剛剛發(fā)生的情況。 記者：我覺得這樣做挺好的。我覺得馬上就該這么做，真的。對。 馬斯克：是啊，大家都這么跟我說。我們必須得在未來6個月內(nèi)建立起某種機制，因為模型進步的速度太快了。 馬斯克：對，6個月已經(jīng)算很長了。 記者：所以你覺得應(yīng)該更短？我是說，AI突破性的公告太多了，有時候一天有好幾個。上周有多少個來著？ 馬斯克：很多。 記者：我都跟不上了，你知道的。 馬斯克：是，確實很多。 記者：所以，不管你指的是德米斯還是他的提案還是其他人的，基本上你得把大家召集起來，現(xiàn)在就建立起這套機制，聽起來你是在跟我說這個。 馬斯克：對，我建議我們至少搞個非正式的、嗯，每周或每兩周一次的電話溝通，并且給競爭對手一到兩周的提前訪問期。嗯，這就是我覺得激勵機制能起作用的原因，因為如果，你知道，競爭公司之間我覺得會很敏銳地判斷出某樣?xùn)|西是否存在安全風(fēng)險，而且他們不會羞于指出競爭對手的模型應(yīng)該推遲發(fā)布。 記者：是這樣。 馬斯克：我覺得這種結(jié)構(gòu)確實可以運作得挺好。而且這就有點像是美國電影協(xié)會的運作方式，你知道，那是一個行業(yè)組織，來決定電影如何定級，比如是否適合低齡兒童觀看等等。嗯，這套機制似乎運作得挺好的。所以呢，你只需要在某個公司做了極其危險的事情又拒絕采取措施降低風(fēng)險時，才請政府介入。 記者：你覺得這個問題……這個問題比較棘手，但你們這些人之間并不怎么喜歡對方，也不太信任對方。你們在社交媒體上互相嘲諷就沒停過。那么你覺得你能和你不喜歡的人做這件事嗎？這些領(lǐng)導(dǎo)者之間似乎充滿了個人恩怨。 馬斯克：是啊，我對奧特曼沒什么好感。你想啊，你辦了一個非營利組織，說好了是要做開源AI、屬于全世界的，結(jié)果不知怎么就變成了一家市值8000億美元、閉源的營利公司。換你你也會想："等一下，這跟我當(dāng)初捐錢的初衷完全相反啊。"我的問題就在這兒。我覺得這是合情合理的。然后達里奧，我覺得他對奧特曼也沒什么好感，因為他覺得……事實上，Anthropic團隊之所以離開OpenAI，就是因為他們不信任奧特曼。否則的話，Anthropic根本不會存在，他們還會留在那里。我覺得達里奧是個非常有原則的人，他對很多事情都很在意，嗯，很在乎世界的未來。而且我在Anthropic遇到的所有人到目前為止，就是說，沒有一個人能觸發(fā)我的惡意揣測，你知道，他們看起來都像是出于善意的。西方有句老話，叫"通往地獄的路是由善意鋪成的"。我倒覺得反過來才對，通往地獄的路，主要是惡意鋪的，中間夾著幾塊善意的墊腳石。所以我們不能掉以輕心。但話說回來，真要坐下來談，我們也會談。為了世界，個人恩怨放一邊，就這個意思。 記者：嗯，這對我們其他人來說，聽到這個太好了。 記者：我可以……我們能談?wù)勅藗儞?dān)心的另一個風(fēng)險嗎？特別是，我覺得普通美國人特別擔(dān)心，因為AI已經(jīng)變得非常不得人心。75% 的人對此感到焦慮。而且我覺得他們擔(dān)心的是自己的工作。你看看達里奧說過一句很有名的話，什么幾年之內(nèi)50% 的初級白領(lǐng)工作崗位會消失。而你正在造人形機器人。 馬斯克：是的，但你看他還說了什么。我是說，達里奧在Mythos這件事上確實是給自己挖了坑，因為他一方面說Mythos超級可怕、令人恐懼，另一方面又說我們準(zhǔn)備發(fā)布它。然后大家的反應(yīng)就是，你到底什么意思啊？你知道的。所以我覺得他，嗯，以后大概會用詞更謹(jǐn)慎一些。 記者：但你怎么看…… 馬斯克：因為很明顯，如果你把所有人都嚇壞了，然后又說，"哦，我們要發(fā)布這個可怕的東西。"人們當(dāng)然會對此感到恐慌，你等于明確告訴他們要害怕，然后你發(fā)布了這個可怕的東西，他們自然就會害怕。這是人之常情。 記者：所以我當(dāng)然不想讓你嚇到大家，但我確實認(rèn)為關(guān)于AI會以多快速度、多大程度取代人類工作這個問題，有一場非常重要的討論。因為正如你所說，如果在十年之內(nèi)，人工智能的智能總量超過了任何一個人…… 記者：而且我覺得你在人形機器人這方面，至少在美國國內(nèi)是領(lǐng)先所有人的，這也將會涉及很多工廠的工作。所以，你的看法……你更接近達里奧的觀點嗎，就你對工作崗位而言…… 馬斯克：這一路肯定不會太平。因為AI在任何工作上都能比人做得更好。尤其是那些坐在電腦前、拿著手機干的活，這一天很快就會到。AI可以做到所有這些。嗯，我們很快就能做到所有這些。我是說，在軟件工程方面，我們現(xiàn)在的情況已經(jīng)是AI在編寫代碼上比至少90% 的人做得更好。或者說比90% 的專業(yè)軟件工程師寫代碼更好。而且這真的在走向一個程度，它將比99% 的人更好，然后會達到?jīng)]人能跟得上的地步。它會達到我所說的Stockfish級別。就是Stockfish。 記者：Stockfish。 馬斯克：Stockfish是那個國際象棋程序。我的意思是，Stockfish下棋強到什么程度？世界冠軍卡爾森（Magnus Carlsen）上去它隨便虐，一臺小破電腦就能跑。我懷疑你手機上裝一個Stockfish，都能干翻卡爾森，它在象棋上就是這么變態(tài)。AI寫代碼，最終會達到這個水平。 記者：軟件之外呢？更遠…… 馬斯克：而且這適用于所有領(lǐng)域。 記者：所有領(lǐng)域…… 馬斯克：所有所有領(lǐng)域。 記者：所有領(lǐng)域。但對于那些體力勞動、裝配線上的工作呢，你還需要人形機器人的能力，而目前還做不到，對吧？ 馬斯克：嗯，對。所以我才說數(shù)字AI，然后是物理形態(tài)的AI，也就是機器人，機器人或多或少是一個末端執(zhí)行器。它會有一定程度的本地智能，但由一個大型AI模型來管理。我說過很多次了，我認(rèn)為工作將是可選的。所以我不是說……讓我這樣來比喻，也許一個形象比喻就是園藝。就像你并不需要自己種菜。你知道，你不需要在你的花園里種蔬菜。你可以去商店買，那里的蔬菜會很完美；或者你也可以自己在花園里種，它們實際上會看起來沒那么完美，番茄不會像商店里那么飽滿多汁，它們會有一種手工感。但是你知道，如果你去朋友家，他們用自己花園里的蔬菜做了晚餐，這會是一個很好的細(xì)節(jié)。 記者：所以你的意思是…… 記者：這就是未來的工作會變成的樣子。 記者：我明白。我是說，在那個世界里我會很慘，因為我根本沒法過那樣的生活，但我懂你的意思。人們?nèi)匀幌矚g互相下棋，即使每臺電腦都比人強。但我們來想想這個問題的更深層面，因為聽起來你描述的這個世界，在十年之內(nèi)幾乎每一份工作都可以被智能做得更好。而且…… 記者：你看到這種智能帶來了巨大的回報，給你們這樣的人。你是世界首富。那些丟掉工作的人、被取代的人，他們也許會去種菜，但他們怎么生活？而且聽起來你是在…… 馬斯克：全民高收入。 記者：但你怎么走到那一步？我們來談?wù)勥@個問題的更深層面，因為現(xiàn)在，大多數(shù)人對此非常非常焦慮，非常反對。我覺得有一種風(fēng)險是，我們更可能在走向一場革命，而不是走向你描繪的輕松通往天堂的道路。 馬斯克：我的意思就是，這條路會很顛簸。我并不是說一切都會一帆風(fēng)順。嗯，有很多工作曾經(jīng)存在，但因為計算機的出現(xiàn)而不復(fù)存在了。我的意思是，"計算機"這個詞曾經(jīng)指的是做計算的人。那曾是一個人的職業(yè)描述。你可以在網(wǎng)上看到照片，一整棟摩天大樓里全是人在做計算，來幫你算銀行余額的利息。在計算機出現(xiàn)之前，很久以來都是這樣做事的。而且剛開始的時候，計算機也非常昂貴和難用。所以這里的不同之處在于變化的速度急劇加速了。但即便如此，當(dāng)時有些人確實很不開心，因為計算銀行利息的工作不再需要了。但現(xiàn)在，我覺得你很難找到還想干那種工作的人。所以我認(rèn)為我有推薦，比如說科幻小說，人們?nèi)绻肓私馕磥頃鞘裁礃幼涌梢宰x哪些書。我讀到過的對AI未來最好的構(gòu)想是伊恩·班克斯（Iain Banks）的書，就是《文明》系列。 記者：我正在讀《異象》（《文明》系列第五部）。多虧了你，我剛開始讀這些書。但我其實并不覺得那個未來有多么吸引人，因為我不覺得在那個未來里人類有自主權(quán)。 馬斯克：他們是有自主權(quán)的。 記者：跟那些超級智能體比起來非常有限。 馬斯克：完全沒得比。 記者：但是，你知道，班克斯是秉持完全不同的理念。 馬斯克：我不確定，我不確定我會完全同意這個說法。 記者：我們暫且同意這可能就是我們最終的結(jié)局。我擔(dān)心的是這條路怎么走，我猜兩個問題。首先，是不是必須要從你們這樣的人那里進行大規(guī)模的財富再分配，給那些丟掉工作的人？你需要交更多稅嗎？是不是對資本征收更高的稅，以便為某種全民收入提供資金？要不然，人們靠什么生活？ 馬斯克：我覺得財政部直接給人們發(fā)支票就好了。哦，對。 記者：但是收入從哪來呢？我是說，我多少有點經(jīng)濟學(xué)背景，如果你只是發(fā)支票，就會引發(fā)通貨膨脹。 馬斯克：這……我們很多時候試圖去思考的東西，在過去是相關(guān)的，但在未來就不再相關(guān)了。就是說，通貨膨脹無非就是貨幣與商品和服務(wù)之比。如果商品和服務(wù)的產(chǎn)出大幅增加，比如增加1000%，你完全可以在數(shù)據(jù)庫里印錢，其實不是印錢，是在數(shù)據(jù)庫里創(chuàng)造錢。只要貨幣的創(chuàng)造速度低于商品和服務(wù)增長的速度，你實際上會得到通縮。所以我做一個預(yù)測：通縮才是問題，而不是通脹。因為隨著商品和服務(wù)產(chǎn)出的增加，如果產(chǎn)出增速快于貨幣供應(yīng)增速，就會出現(xiàn)通縮。 記者：我其實完全愿意相信這一點。你很可能是對的。是的，絕對，你很可能是對的。但我覺得我真正糾結(jié)的是，我們?nèi)绾螐漠?dāng)前這個兩極分化、憤怒、恐懼的社會狀態(tài)，走向你描述的那個天堂。 馬斯克：這既令人興奮又令人恐懼。 記者：但如果你處于那種情況……對，沒錯。 馬斯克：老實說，如果你在任意一天問我，事實上，就算在一天之內(nèi)，我對于AI的情緒也從興奮跳到恐懼。我想說清楚，我不是那種，你知道，抱著某種萬物皆美好的盲目樂觀派，覺得一切都會很棒，毫無風(fēng)險。我要說的是，確實存在一些風(fēng)險。嗯…… 記者：我想我們在這個問題上是一致的。我覺得我是想更務(wù)實一些，著眼于一些具體的小事，思考現(xiàn)在能做些什么來限制這些風(fēng)險。你剛才非常有說服力地闡述了你們這些模型制作者之間可以做什么。那政府應(yīng)該做什么？ 馬斯克：可能比較好的做法是，我們之間進行協(xié)調(diào)，指出在彼此模型中發(fā)現(xiàn)的問題，嗯，以降低下行風(fēng)險。 記者：或者說，政府應(yīng)該……你是不是應(yīng)該交更多稅來資助更多的轉(zhuǎn)移支付項目？ 馬斯克：首先，我確實交了很多稅。所以，嗯嗯，事實上，我創(chuàng)下了人類歷史上交稅最多的記錄。 記者：這也是因為你是世界首富。 馬斯克：嗯，在此之前就已經(jīng)是這樣了。 馬斯克：所以，我的猜測是，我未來會繳納數(shù)萬億美元的稅。我對此沒什么意見。嗯，對。嗯，反正就是這樣。但是，我認(rèn)為在未來，錢已經(jīng)無關(guān)緊要了。我覺得稅收也會變得某種程度上無關(guān)緊要。 記者：那讓人們感覺到他們在增長成果中有一份呢？ 馬斯克：當(dāng)然。 記者：把SpaceX和特斯拉的股份分給大家。你覺得這是……現(xiàn)在有很多這方面的討論…… 馬斯克：嗯，我把SpaceX上市的原因之一，就是讓公眾可以參與進來，他們可以擁有SpaceX的一部分。嗯，而作為一家私有公司，我們在上市之前能擁有的股東數(shù)量是非常有限的。所以，作為一家上市公司，我們可以擁有數(shù)百萬股東。作為一家私有公司，我們只能有幾千個股東。 記者：你覺得應(yīng)該有股票分配機制嗎，就像阿拉斯加財富基金那樣？你能想象一個世界……有些人在談?wù)撎乩势召~戶是這種機制的一種載體……你的一部分股權(quán)分給普通美國人。 馬斯克：對。嗯，在我交的那些稅里，我意思是，我……你知道，對于我的股票期權(quán)，我在聯(lián)邦層面交40% 的所得稅。然后因為我在加州大概待30% 的時間，我又交大概大約三分之一的加州州稅，我知道大概在15% 左右。所以，我大概交45% 的稅。讓大家知道一下，你知道，我不確定是不是……大概一半吧。嗯，然后我去世的時候，又有大約45%，大概一半會被征稅。所以，到頭來，我大概會剩下我擁有的東西的四分之一。但我覺得另外一點是，這讓我在某段時間內(nèi)可以掌控公司的方向。這差不多就是我能得到的東西，直到我猜AI變得如此聰明，以至于它掌管了一切。到了那個時候，控制公司就沒什么意義了。 記者：嗯，我們來談?wù)勥@個，因為我覺得人們擔(dān)心的另一個問題是我們的前進方向……我稍微夸張一點說……人們覺得世界的發(fā)展方向是由極少數(shù)權(quán)力極大的人塑造的。而你正好在那個名單的最頂端。 馬斯克：但這跟過去有什么不同呢？ 記者：跟你說的一樣。我覺得[笑]一直都是這樣的。 馬斯克：什么時候不是這樣呢？ 記者：從來如此。但正如你非常生動地描述的，這是一種極其迅猛的變化。那么，我們先從你對公司的控制權(quán)說起，這一點你現(xiàn)在毫無疑問是牢牢掌握的。上市之后，你基本上擁有全部投票權(quán)的80%。據(jù)我理解[清嗓子]，你只能通過由你自己控制的股份投票才能被罷免。所以，如果我說錯了請糾正我，但我覺得…… 馬斯克：對。嗯，順便說一下，有好幾家公司都屬于這種情況。那些AI公司，比如谷歌就是這種類型。Alphabet就是由拉里和謝爾蓋控制的。 記者：但我覺得你的情況更極端。那種無法…… 馬斯克：同樣的控制級別。他們對那家公司擁有投票控制權(quán)。馬克·扎克伯格（Mark Zuckerberg）控制著Meta。嗯，而且你知道，馬克在AI方面非常努力，我覺得他很可能也會擁有領(lǐng)先的AI能力，我記得他上周剛發(fā)布了一個。嗯，所以我覺得他會是，你知道的，Meta會成為AI公司之一。 記者：但一個人對一家公司擁有這么大的控制權(quán)，這合理嗎？ 馬斯克：嗯，我真的只是需要確保自己能夠?qū)Ｗ⒂陂L期。我說的長期是指5到10年。作為一家上市公司，挑戰(zhàn)之一就是每個季度都必須交出亮眼業(yè)績的那種壓力。而且還不能真正去投資那些可能要5到10年才會見效的事情。在SpaceX這件事上，我需要、我想要把人類意識延伸到地球之外，在月球、火星以及太陽系的其他地方建立一個不斷發(fā)展的文明。我覺得這最終會有非常高的投資回報，但短期內(nèi)我們會把所有這些錢花在月球基地或火星基地上，然后人們就會說，你知道的，我就會面臨各種壓力，比如"你這個季度沒達到盈利預(yù)期，因為你在火星上花了太多錢。"我就說，"是的。順便說一句，這都在S1招股說明書里寫著呢，白紙黑字，明確列出來了，這是我們要做的事情。"嗯，所以他們還是會因此不高興，你知道吧？他們就會說，"你說你的毛利率會是多少，但實際上稍微差了一點，現(xiàn)在我們要懲罰你，做空的人也會蜂擁而至。"在公開市場上你會面臨巨大的壓力。 記者：確實壓力很大。 馬斯克：對，所以我只是需要一種方式，就是說，可以說："各位，聽著，我們要專注于5到10年甚至更長時間跨度的投資。這會壓低我們的短期盈利。但長期來看，我的意思是，如果你用長遠的眼光看問題，而且有很多投資者確實是有長遠眼光的。事實上，我特別喜歡散戶投資者。我發(fā)現(xiàn)我們的散戶投資者總體而言非常有洞察力，眼光非常長遠。但是，這其中有部分原因在于，投資組合經(jīng)理的激勵機制決定了他們的行為，他們的薪酬、他們能不能升職，都取決于他們投資組合的表現(xiàn)。而他們只有幾年時間來做這些決策。然后他們會根據(jù)這些決策被評估，評估周期有時只有一年甚至更短。所以，既然他們面臨著馬上出回報的壓力，他們就會把這種壓力轉(zhuǎn)嫁到公司身上。所以，一旦你理解了激勵機制，行為自然就說得通了。" 記者：那關(guān)鍵人物風(fēng)險呢？我是說，萬一……當(dāng)然你還好好的……但萬一你明天被那輛傳說中的公交車撞了呢？你知道，你對這些公司擁有完全的控制權(quán)。你有沒有計劃，如果沒有你，這些公司該如何繼續(xù)發(fā)展？ 馬斯克：我覺得它們實際上會發(fā)展得很好，能持續(xù)好幾年。你知道，SpaceX有清晰的路線圖，或者我該說是太空圖。而特斯拉也有路線圖，字面意義上的。所以，我覺得，如果你看看史蒂夫·喬布斯（Steve Jobs）之后的蘋果，你知道，喬布斯有戰(zhàn)略愿景和一系列產(chǎn)品構(gòu)想，而蘋果做得非常好。但是，當(dāng)你沒有一個像喬布斯那樣的創(chuàng)意天才時，你不會……蘋果缺失的是那種令人難以置信的突破性產(chǎn)品。 馬斯克：他們做出來的手機確實很棒，電腦也很好，嗯，但蘋果再也沒有拿出那種喬布斯級別的突破性產(chǎn)品。 記者：所以，以此類推，這就是你給你所有公司帶來的東西。你提到了火星，你知道，大多數(shù)人認(rèn)為你是那個想在火星上建立殖民地、讓我們成為多行星文明的人。 馬斯克：說了這么久了。 記者：你確實說了很久了。但現(xiàn)在你似乎更關(guān)注AI以及AI未來十年會做什么。而且你聽起來對用月球做基地、從那里發(fā)射軌道AI衛(wèi)星更加興奮。你的注意力是不是從火星轉(zhuǎn)移了？還是說你對殖民火星的興趣一如既往？ 馬斯克：我感興趣的是一系列能夠最大限度地把意識延續(xù)到未來的行動。讓意識的未來光錐盡可能大，你知道的，就是那種……有一個激動人心的未來，我們成為星際文明，遨游在星辰之間，那些非反烏托邦科幻作品里描繪的偉大圖景有一天會變成現(xiàn)實。我想要的差不多就是《星際迷航》那種，你知道的，《星球大戰(zhàn)》那樣的未來。順便說一下，《星球大戰(zhàn)》是我在電影院看的第一部電影。 記者：真的？ 馬斯克：它可能對我產(chǎn)生了深遠的影響吧。嗯，我記得我……說實話，那部電影震撼了我。那時候我大概六歲，我當(dāng)時就想，"這是我這輩子見過的最棒的東西。" 記者：你的人生是不是一直在努力讓它變成現(xiàn)實？ 馬斯克：是的，我是說，我年輕時沒想到會是這樣，但我的生活確實有些超現(xiàn)實的感覺。我簡直不敢相信這些事情真的在發(fā)生，你知道的。 記者：我覺得這個世界本來就還有點兒超現(xiàn)實。 馬斯克：可以用模擬理論來解釋。 馬斯克：就是那種感覺，嗯，我做的這些事情太不可思議了，嗯，讓人很難相信它們是真實的。我是說，我們有星艦，這是有史以來最大、最強大的飛行器。而且我們計劃每小時發(fā)射不止一次。 記者：我知道，我讀到了。而且你知道，人們可以爭論這多快能實現(xiàn)，但我覺得根據(jù)你的過往記錄，我們應(yīng)該假定它在某個時間點一定會實現(xiàn)。 馬斯克：它會實現(xiàn)的。 記者：我只是挺感慨的，當(dāng)我……我和你一樣被這個世界震撼到了，而且我還是從一個更加外行的角度來看。但對我來說，AI的整個演進過程和這些模型的能力本身就足夠令人震撼了。 馬斯克：事情的發(fā)展基本跟我想的一樣。 記者：是嗎？ 馬斯克：哦，這倒挺有意思的。而且不只是我，很多人都預(yù)測到了。比如雷·庫茲韋爾（Raymond Kurzweil），他的預(yù)測一直出奇地準(zhǔn)確。 記者：沒錯，奇點臨近。 …… 馬斯克：我非常擅長預(yù)測未來。我不完美，但作為一個人類，我的預(yù)測準(zhǔn)確率非常高。不過這確實有點卡珊德拉效應(yīng)，人們不相信我預(yù)言的終將應(yīng)驗。也許時間上不像我想的那么精確，但它一定會應(yīng)驗。我覺得你會看到，我所說的很少有不準(zhǔn)的，實際上是非常準(zhǔn)的，終將應(yīng)驗。除非方向發(fā)生某種轉(zhuǎn)變。 記者：回顧我們這場對話，前半段你談的是AI，后半段談的是人類社會……你對自己哪一部分的判斷更有信心？換句話說，AI這種數(shù)字超級智能就是所謂的奇點，像個黑洞一樣，因為你不知道過了那個點會發(fā)生什么，它會把一切都吸進去。所以從宏觀大勢來看，我認(rèn)為AI和機器人將在不到十年的時間內(nèi)徹底主導(dǎo)一切。 馬斯克：這大概會讓我們剛才討論的有些東西變得不那么重要，也不那么相關(guān)了。 馬斯克：AI機器人會來得更快……AI機器人奇點在十年后。 記者：嗯，希望這些仁慈的全能AI能阻止壞事發(fā)生。 馬斯克：它們大概會的。 記者：埃隆，我雖然不認(rèn)同你說的每一件事，但跟你聊天總是非常令人著迷的。真的非常感謝你。 馬斯克：嗯，不客氣。我至少不無聊。
本文來源：網(wǎng)易智能
責(zé)任編輯：
王鳳枝_NT2541
野生運營
