誰來管住“奧特曼”們？

前段時間，教皇利奧十四世發(fā)布了他的首份通諭《Magnifica Humanitas》（壯麗的人性），談AI時代的人類尊嚴。站在他身旁的是Anthropic聯(lián)合創(chuàng)始人克里斯·奧拉（Chris Olah）。奧拉說了一句硅谷很少有人愿意公開承認的話：光靠實驗室自己管AI安全，是不夠的。

當機器越來越像人，我們是否反而在失去判斷力、責任感，以及對權力說不的勇氣？中歐國際工商學院組織行為學副教授麥珂認為，這個問題兩年半前在硅谷的OpenAI就已上演過一次，公司董事會和創(chuàng)始人山姆·奧特曼（Sam Altman）之間的戲劇性故事成為一個警示。對此，眼下最緊迫的事，是把問責機制建起來。

01

權威與籌碼

2023年11月的一個星期二傍晚，數(shù)百名OpenAI員工打開筆記本電腦，在一封聯(lián)名信上簽下了自己的名字。內容很簡單：如果山姆·奧特曼不能復職，他們將集體離開。

不到48小時前，董事會剛剛解雇了他，理由是認為他不夠坦誠。這個措辭經(jīng)過了仔細斟酌，卻同樣刻意保留了模糊地帶，沒有任何解釋。

但到了下周一，奧特曼回來了。投票罷免他的董事會成員悉數(shù)離場。

那四天表面上是一場公司內部的權力劇，但也難得地讓外界看到：在這些正在改變我們生活的公司里，權力到底是怎么運轉的。

奧特曼是否值得信任？這個問題本身可能就問錯了。在任何組織里，信任都不是非黑即白的，它靠的是不斷的協(xié)商和妥協(xié)。一個機構怎么描述自己是一回事，壓力之下怎么做決定是另一回事。

這件事暴露的不只是一個人的品格問題，而是對一套治理模式的壓力測試。這套模式設計之初，根本沒有考慮過它后來要承受的壓力。

OpenAI以非營利機構的形式創(chuàng)立，使命是確保通用人工智能造福全人類。這個結構背后是一種真切的擔憂：這項技術的影響太過深遠，不能完全交給市場。

非營利董事會本應守住這一使命，抵擋住商業(yè)上的沖動，替長遠利益說話。當董事會對奧特曼采取行動時，至少在理論上，它做的正是它該做的事。

然而它失敗了。不是因為判斷有誤，而是因為奧特曼周圍早已長出了一張更強大的網(wǎng)。投資人、員工、合作伙伴，這些隨著OpenAI的商業(yè)成功聚攏起來的人，手里的實際權力遠超董事會。

董事會握有權威，奧特曼握有籌碼。

這種事不只發(fā)生在硅谷，但硅谷的版本最為激烈。

02

沉默的代價

圍繞單一愿景、單一領導者建立起來的組織，問責的邊界往往會變模糊。員工不只是在為公司工作，他們在為一個理念工作。而這個理念會隨著時間推移，跟那個把它講得最動人的人越來越分不開。

當理念和領導者分不開的時候，質疑領導者就變成了質疑理念本身，導致人們退步。在組織行為學里，這種變化有個名字，叫“心理安全感的崩塌”。

它不是某個戲劇性的時刻，沒有人會宣布從今天起不準提反對意見。它是一點一點發(fā)生的：一個在會議上想問卻沒問出口的問題，一個提過一次就再沒人跟進的顧慮，一種慢慢成形的默契，讓大家意識到某些話題最好別碰。

越是崇尚速度的地方，這種崩塌就來得越快，也越安靜。

而且，越是把心理安全掛在嘴邊的組織，越容易出這個問題。大家都在說開放，開放變成了一種自我標榜，但真正容得下不同聲音的土壤已經(jīng)在流失。

這樣下去，代價是什么？往往要等很多年才知道。異見被壓下去之后，壞處不會馬上顯現(xiàn)，而是慢慢滲出來的。等到看得見的時候，通常已經(jīng)積累了很久。

對一家做消費軟件的公司來說，這已經(jīng)很嚴重了。但如果這家公司的研究人員自己都說，他們的工作可能改變人類文明呢？那就是另一種量級了。

這是整個OpenAI事件中最容易被遺忘的部分。董事會政變、員工聯(lián)名、CEO復辟，這些戲劇性的情節(jié)太搶眼了，以至于背后的治理問題反而被蓋過去了。

問題不只是某一位CEO有沒有說實話，更大的問題是：董事會、監(jiān)管機構、行業(yè)規(guī)范、市場激勵，這些我們一直依賴的制度，管得住今天這類公司嗎？它們跑得太快、長得太大，早就超出了這些制度當初設計時的想象。

這個故事有一個皆大歡喜的版本。奧特曼在大多數(shù)人眼中確實才華出眾，是一個創(chuàng)造者，一個說服者，腦子里能裝下復雜的愿景，又能講得清清楚楚。OpenAI做出的技術，不管你怎么看它的影響，確實令人矚目。

但能力跟問責不是一回事。

回頭看那些開創(chuàng)性行業(yè)的歷史，從來不缺這樣的領導者：才華出眾，早該被質疑了，卻一直被信任著。不是因為他們是壞人，而是因為他們身邊的那套體系，本來就不是用來給正在出成果的人找麻煩的。

OpenAI的董事會試著提了一次難題，結果把自己搭進去了。

但接下來會發(fā)生什么，可能才是更值得關注的。當一個組織已經(jīng)大到自己管不住自己的時候，該怎么辦？沒有哪家公司或哪個監(jiān)管機構能單獨回答這個問題。

它逼我們去想一個更根本的問題：那些最有本事建造未來的人，是不是就該由他們來決定未來長什么樣。

03

道德邊界在哪里

這個問題不只關乎OpenAI的奧特曼，它關乎我們每一個人。

我早期的研究發(fā)現(xiàn)，有創(chuàng)造力的人在腦洞大開之后，往往也更容易在道德上犯糊涂。原因在于，這些人更擅長給自己的行為找到說得通的理由。

他們不是在撒謊，他們是在重新定義問題；不是在違規(guī)，而是在突破邊界。

后續(xù)研究還發(fā)現(xiàn)，當領導者一邊鼓勵員工大膽創(chuàng)新，一邊又施加很高的績效壓力時，員工反而更容易用新穎的方式鉆道德的空子。

雪城大學的Lynne Vincent教授和西北大學的Maryam Kouchaki教授的研究也指向了類似方向：當員工覺得自己是團隊里的創(chuàng)意擔當，而且這種能力很稀缺時，就容易覺得自己跟別人不一樣，心理上的優(yōu)越感一上來，道德的門檻就降下去了。

這些發(fā)現(xiàn)指向同一件事：從事創(chuàng)造性工作的人，很容易在不知不覺中走偏。一旦覺得自己在為人類創(chuàng)造未來，覺得自己做的事沒有人可以替代，覺得規(guī)則是為普通人設計的，道德滑坡就變得更隱蔽，也更危險。

OpenAI，以及很多走在技術最前面的公司，大概正處在這樣的處境里。使命感越強，特權感就越容易找到借口。創(chuàng)新的空間越大，道德的邊界就越容易在日常決策中悄悄后退。

這也是為什么規(guī)范AI和建立問責機制這么難。它跟給創(chuàng)新者充分自由這件事，天然就是矛盾的。我們既需要那些愿意打破規(guī)則的人去推動技術的邊界，又得有一套機制確保他們不會在這個過程中，順手打破我們共同依賴的道德底線。

那能不能把道德判斷交給AI本身來處理呢？

2026年2月發(fā)表在《美國國家科學院院刊》上的一項研究，給了一個不太樂觀的答案。研究發(fā)現(xiàn)，ChatGPT這類大語言模型在做道德判斷時，對不同文化明顯不公平：它們普遍更看重西方人群關心的道德議題，同時低估非西方文化的道德觀，尤其是中東和撒哈拉以南非洲地區(qū)。

研究團隊拿AI的道德判斷跟48個國家、超過9萬名真實受訪者的調查數(shù)據(jù)做了對比，發(fā)現(xiàn)這種偏差在GPT-3.5、GPT-4、LLaMA、Gemini等多個主流模型中都存在，哪怕用當?shù)卣Z言提問也一樣。

根源很可能在于訓練數(shù)據(jù)嚴重偏向西方來源，模型碰到非西方文化時只能用西方的視角去填空，跟人類的刻板印象沒什么兩樣。

換句話說，AI并沒有超越人類的偏見，它只是把這些偏見放大了，傳播得更快、覆蓋得更廣、看起來也更權威。

當我們指望AI來幫我們做道德判斷，不管是審核內容、提供政策建議還是輔助企業(yè)的倫理決策，我們其實是在用一面變形的鏡子審視自己，卻以為看到的是真實。

04

問責是最緊迫的基礎設施

各大公司部署AI的速度越來越快。招聘、績效考核、客戶服務、醫(yī)療診斷、法律裁判，幾乎所有跟人有關的決策里，都已經(jīng)有了AI。但AI鋪得有多快，問責機制就落得有多遠。我們手里有的大多是一些原則宣言、自愿承諾，以及出了事之后再補救的監(jiān)管。這遠遠不夠。

OpenAI的案例已經(jīng)擺在那里：當真正的權力不在董事會手里，傳統(tǒng)的公司治理就是擺設。AI團隊里得有人能提出難題而不用擔心被邊緣化，這不是喊幾句文化口號就能解決的，得落到制度上去。治理結構也得跟上權力的實際走向。

在AI時代，到底誰有資格、也有能力對這些組織真正問責，值得重新想一想。

道德判斷同樣不能外包給算法。AI可以幫著做決策，但替代不了判斷，尤其是碰到不同文化和價值體系的時候。把道德判斷交給一個本身就帶著文化偏見的系統(tǒng)，不是在提高效率，而是在轉移責任，而且是那種很難追查的轉移。

我們談論AI的方式也得變。現(xiàn)在主流的說法要么把AI捧成解放人類的救星，要么把它當成末日來臨的信號，這兩種說法都幫不了我們做出具體的、每天都要面對的道德選擇。

我們需要更誠實的表達，承認技術真實的價值，也承認它真實的風險。

說回梵蒂岡的那一天。當最頂尖的工程師開始從古老的人文典籍里找答案，這本身就說明了一件事：不管算法怎么進化，最終決定我們是誰、要去往哪里的，還是人。是那些在會議室里敢提異見的人，在董事會里堅持問責的人，在一切都在加速時愿意停下來想一想到底對不對的人。

這個故事說的不是某一個CEO，而是我們所有人。

教授簡介

麥珂（MAI, Ke Michael）現(xiàn)任中歐國際工商學院（CEIBS）組織行為學副教授。其研究聚焦于商業(yè)倫理、技術變革與組織內部員工和團隊創(chuàng)造力三者的交匯地帶，以及新技術帶來的組織范式，組織結構和文化的變革。學術成果發(fā)表于《自然·人類行為 NHB》《自然·心理健康 NMH》《管理學會期刊 AMJ》《應用心理學期刊 JAP》《組織行為與人類決策過程 OBHDP》《人事心理學 PPsych》《管理研究期刊 JMS》及《哈佛商業(yè)評論 HBR》等頂級國際權威期刊與媒體。

【參考資料】

Company Announcement (2026.5.5) Anthropic co-founder Chris Olah's remarks on Pope Leo XIV's encyclical "Magnifica humanitas."

Mai, K. M., Ellis, A. P., & Welsh, D. T. (2015). The gray side of creativity: Exploring the role of activation in the link between creative personality and unethical behavior. Journal of Experimental Social Psychology, 60, 76-85.

Mai, K. M., Welsh, D. T., Wang, F., Bush, J., & Jiang, K. (2022). Supporting Creativity or Creative Unethicality? Empowering Leadership and the Role of Performance Pressure. Journal of Business Ethics, 179(1), 111-131.

Vincent, L. C., & Kouchaki, M. (2016). Creative, rare, entitled, and dishonest: How commonality of creativity in one's group decreases an individual's entitlement and dishonesty. Academy of Management Journal, 59(4), 1451-1473.

Zewail, A., Figueroa, A., Graham, J., & Atari, M. (2026). Moral stereotyping in large language models. Proceedings of the National Academy of Sciences, 123(10), e2519941123.

封面和文中圖片由剪映AI生成。

原文發(fā)布于FT中文網(wǎng)，本文略作編輯。

編輯| 李鈺婷

責編| 岳頂軍

關注中歐官方視頻號

點擊咨詢中歐課程