OpenAI再失一名元老！敢跟馬斯克拍桌子，Anthropic創(chuàng)始人給他送獎(jiǎng)杯

智東西
編譯 陳佳
編輯 云鵬

智東西7月8日消息，今日，OpenAI元老之一、首席未來(lái)學(xué)家約書亞·阿希亞姆（Joshua Achiam）在社交平臺(tái)X上發(fā)布告別長(zhǎng)文，結(jié)束其在OpenAI近9年的任職，最后工作日為本月24日。

▲約書亞·阿希亞姆在社交媒體平臺(tái)發(fā)文宣布離職（圖源：X）

阿希亞姆的履歷幾乎貫穿OpenAI從非營(yíng)利研究實(shí)驗(yàn)室到商業(yè)巨頭的全過(guò)程。他2017年以25歲實(shí)習(xí)生的身份加入OpenAI，當(dāng)時(shí)“計(jì)算機(jī)還不會(huì)說(shuō)話，也不會(huì)思考”。此后他長(zhǎng)期擔(dān)任AI安全方向的研究科學(xué)家，2024年9月25日升任使命對(duì)齊（Mission Alignment）負(fù)責(zé)人，今年2月11日剛轉(zhuǎn)任新設(shè)立的首席未來(lái)學(xué)家一職，這個(gè)頭銜他只用了不到五個(gè)月。

▲約書亞·阿希亞姆的工作經(jīng)歷（圖源：領(lǐng)英）

對(duì)于首席未來(lái)學(xué)家的職責(zé)，OpenAI在官方通訊中給出的描述是：研究AI和AGI將如何重塑社會(huì)，并輸出幫助各類機(jī)構(gòu)提前準(zhǔn)備的分析。阿希亞姆在今年2月底的一場(chǎng)公開對(duì)話中稱，這是一個(gè)“新穎且實(shí)驗(yàn)性的角色”。

這次離職發(fā)生在OpenAI上市進(jìn)程和組織重組交織的窗口期。OpenAI 6月8日已向美國(guó)證券交易委員會(huì)秘密提交S-1草案，但尚未決定上市時(shí)間。

與此同時(shí)，前白宮AI顧問(wèn)迪恩·鮑爾（Dean Ball）已加入OpenAI，負(fù)責(zé)Strategic Futures團(tuán)隊(duì)，他將與阿基姆有一段短暫的工作交接期。任職期間，鮑爾也將對(duì)接公司研究員與政策負(fù)責(zé)人協(xié)同開展工作。

阿希亞姆兩個(gè)月前剛在馬斯克起訴奧特曼的官司里替OpenAI出庭作證，法庭上展示了一座刻著“蠢驢”的金色驢形獎(jiǎng)杯——那是2018年他當(dāng)面警告馬斯克“搶跑AGI會(huì)犧牲安全”、被馬斯克罵“蠢驢”后，同事送他作為留念的。

▲約書亞·阿希亞姆的“蠢驢”金色獎(jiǎng)杯（圖源：X）

一、從實(shí)習(xí)生到首席未來(lái)學(xué)家，OpenAI安全團(tuán)隊(duì)多次重組

阿希亞姆2017年以實(shí)習(xí)生身份加入OpenAI，此后成長(zhǎng)為專攻AI安全方向的研究員。

▲約書亞·阿希亞姆（圖源：Getty Images）

2022年ChatGPT上線后，OpenAI從一間小型研究實(shí)驗(yàn)室迅速擴(kuò)張為大型科技企業(yè)，該公司安全、產(chǎn)品與研究團(tuán)隊(duì)歷經(jīng)多次架構(gòu)調(diào)整。

過(guò)去一年，OpenAI著力打通AI研究團(tuán)隊(duì)與政策團(tuán)隊(duì)的協(xié)作壁壘，提前為技術(shù)發(fā)展路徑制定配套規(guī)范與行業(yè)標(biāo)準(zhǔn)。隨著兩大部門合作加深，博阿茲·巴拉克（Boaz Barak）、諾姆·布朗（Noam Brown）、阿德里安·埃科費(fèi)（Adrien Ecoffet）等多名公司研究員均稱，自身參與政策相關(guān)工作的程度顯著提升。

OpenAI安全組織近年多次調(diào)整。OpenAI 2023年7月宣布成立超級(jí)對(duì)齊（Superalignment）團(tuán)隊(duì)，由伊利亞·蘇茨克維（Ilya Sutskever）和簡(jiǎn)·萊克（Jan Leike）共同領(lǐng)導(dǎo)，目標(biāo)是在四年內(nèi)解決超級(jí)智能對(duì)齊的核心技術(shù)挑戰(zhàn)。不到一年后，該團(tuán)隊(duì)解散。簡(jiǎn)·萊克（Jan Leike）已于2024年跳槽至Anthropic。

2024年9月，時(shí)任CTO米拉·穆拉蒂（Mira Murati）宣布離職，OpenAI宣布成立由阿基姆牽頭的 “使命對(duì)齊團(tuán)隊(duì)”，專職推動(dòng)公司“確保AGI造福全人類”的既定使命。今年2月該團(tuán)隊(duì)解散，OpenAI同步宣布阿希亞姆調(diào)任首席未來(lái)學(xué)家。直至今日，阿希亞姆宣布離職。

OpenAI尚未公布繼任人選。阿希亞姆的崗位銜接公司AI安全團(tuán)隊(duì)與政策團(tuán)隊(duì)，主要負(fù)責(zé)研究AI發(fā)展帶來(lái)的潛在風(fēng)險(xiǎn)與正向價(jià)值。他曾協(xié)同OpenAI全球事務(wù)負(fù)責(zé)人克里斯·萊漢（Chris Lehane）等公司高管，推動(dòng)出臺(tái)契合OpenAI核心宗旨的政府監(jiān)管規(guī)則，即確保通用AI造福全人類。

隨著OpenAI籌備上市，該公司已有多名深耕AI安全領(lǐng)域的高管相繼離職，阿希亞姆是最新一位。

2024年，政策研究負(fù)責(zé)人邁爾斯·布倫戴奇（Miles Brundage）、AI模型風(fēng)險(xiǎn)能力研究負(fù)責(zé)人史蒂文·阿德勒（Steven Adler）雙雙離開OpenAI，二人共同創(chuàng)辦非營(yíng)利機(jī)構(gòu)，呼吁各大AI實(shí)驗(yàn)室嚴(yán)格落實(shí)高標(biāo)準(zhǔn)安全規(guī)范。

負(fù)責(zé)研究ChatGPT應(yīng)對(duì)存在心理、情緒困擾用戶交互方案的安德里亞·瓦隆（Andrea Vallone），則在2025年末離職，加入萊克在Anthropic的團(tuán)隊(duì)。

二、2018年當(dāng)面質(zhì)疑馬斯克遭怒斥，“蠢驢”獎(jiǎng)杯今年5月現(xiàn)身法庭

阿希亞姆此前最出圈的時(shí)刻發(fā)生在法庭上。今年5月，他作為OpenAI一方證人在馬斯克訴奧爾特曼案中出庭作證。在證人環(huán)節(jié)的最后一天，OpenAI律師向法官展示了一座金色驢形獎(jiǎng)杯，上面刻著“永遠(yuǎn)做那頭為安全而戰(zhàn)的蠢驢”（Never stop being a jackass for safety），這座獎(jiǎng)杯正屬于阿希亞姆。

獎(jiǎng)杯背后是一段2018年的往事。阿希亞姆作證稱，馬斯克2018年宣布離開OpenAI、要自行加速研發(fā)AGI時(shí)，他曾當(dāng)面警告追求速度可能損害安全，馬斯克當(dāng)場(chǎng)斥其為“蠢驢”（jackass）。

此后包括現(xiàn)任Anthropic聯(lián)合創(chuàng)始人兼CEO、當(dāng)時(shí)的OpenAI員工達(dá)里奧·阿莫迪（Dario Amodei）在內(nèi)的同事送給他這座獎(jiǎng)杯，以紀(jì)念這句“罵名”。

在OpenAI內(nèi)部，阿希亞姆是公認(rèn)堅(jiān)定捍衛(wèi)安全核心宗旨的核心人物，但他時(shí)常公開批評(píng)整個(gè)AI安全行業(yè)社群，也因此引發(fā)不少爭(zhēng)議。

據(jù)《連線》拿到的阿希亞姆發(fā)給OpenAI全體員工的內(nèi)部郵件，他在文中寫道：“如今全球都知曉通用人工智能的發(fā)展前景，即便走出前沿實(shí)驗(yàn)室，我也依然能夠踐行這份初心使命。我堅(jiān)信人類終將迎來(lái)和平、前所未有的繁榮，社會(huì)與科學(xué)領(lǐng)域都將誕生難以想象的全新可能。無(wú)論我下一步選擇何種方向，都會(huì)和大家一道，推動(dòng)這一愿景落地成真。”

三、阿奇亞姆稱他要畢業(yè)了，7月24日為最后一天

以下是對(duì)阿希亞姆離職發(fā)文的全文編譯：

不久前，我在OpenAI的Slack上和大家分享了這段話：

珍愛(ài)的朋友、同事、各位員工伙伴們！我這個(gè)月要畢業(yè)了。

我離開沒(méi)有某個(gè)具體原因，也不是因?yàn)楝F(xiàn)在這個(gè)節(jié)點(diǎn)有什么具體理由。但這是我已經(jīng)想了一段時(shí)間的事，現(xiàn)在感覺(jué)時(shí)機(jī)合適。世界已經(jīng)知道這個(gè)秘密了，我覺(jué)得可以在前沿實(shí)驗(yàn)室的墻外繼續(xù)為使命工作。

我2017年以一名25歲實(shí)習(xí)生的身份加入OpenAI。那時(shí)，計(jì)算機(jī)還不能說(shuō)話，也不能思考。現(xiàn)在我34歲了，有了家庭和一個(gè)兩歲的兒子，計(jì)算機(jī)已經(jīng)能夠解決前沿科學(xué)問(wèn)題。這十年里，像是發(fā)生了幾個(gè)世紀(jì)的變化。

人類的未來(lái)取決于我們共同圍繞AGI和超級(jí)智能作出的選擇。一切都押在這里。但更重要的是，一切也都有可能。我們很快就能夠向人類最遠(yuǎn)大的目標(biāo)發(fā)起嘗試。

我相信，我們可以抵達(dá)這樣一個(gè)世界：滿足每個(gè)人的基本需求不只是一個(gè)已經(jīng)解決的問(wèn)題，人們甚至?xí)驗(yàn)樵?jīng)把標(biāo)準(zhǔn)設(shè)得這么低而感到冒犯。我相信，我們可以抵達(dá)一個(gè)和平、高度繁榮，并擁有難以想象的社會(huì)和科學(xué)可能性的世界。無(wú)論我接下來(lái)做什么，我都會(huì)繼續(xù)和你們一起努力，讓這個(gè)愿景成為現(xiàn)實(shí)。

如果你回到九年前，告訴我后來(lái)發(fā)生的一切，我會(huì)驚訝于聽到這么多好消息。謝謝你們讓這一切如此特別。謝謝你們讓我有幸與你們并肩工作。

要逐一聯(lián)系每個(gè)人并表達(dá)感謝，是一項(xiàng)艱巨任務(wù)，因?yàn)槊麊螌?shí)在太長(zhǎng)。好在我還有幾周時(shí)間可以完成這件事。我的最后一天將是24日。

為了安全AGI。

結(jié)語(yǔ)：安全議題走出實(shí)驗(yàn)室，OpenAI仍要回答使命與商業(yè)化問(wèn)題

阿希亞姆離職后，OpenAI安全與政策交叉崗位的責(zé)任將如何分配，還沒(méi)有公開答案。迪恩·鮑爾加入Strategic Futures團(tuán)隊(duì)，說(shuō)明OpenAI仍在補(bǔ)強(qiáng)前沿AI政策和治理能力，但這類崗位的重點(diǎn)已不只在模型訓(xùn)練和評(píng)測(cè)，也包括監(jiān)管溝通、上市披露、公共利益和內(nèi)部治理。

OpenAI已經(jīng)向SEC秘密提交S-1草案，意味著未來(lái)公開招股文件中，模型安全、用戶風(fēng)險(xiǎn)、監(jiān)管不確定性和公司結(jié)構(gòu)都可能成為外界審視重點(diǎn)。對(duì)OpenAI來(lái)說(shuō)，安全使命不再只是研究團(tuán)隊(duì)內(nèi)部的技術(shù)命題，也會(huì)變成資本市場(chǎng)、政策機(jī)構(gòu)和公眾共同追問(wèn)的問(wèn)題。

來(lái)源：《連線》