從安樂(lè)死一只實(shí)驗(yàn)鼠，到關(guān)閉一個(gè)大模型：我們?cè)撊绾螌?duì)待硅基生命？

關(guān)于作者

Grigori Guitchounts

哈佛大學(xué)博士

科學(xué)家兼作家，對(duì)生物和人工智能領(lǐng)域充滿熱情。接受過(guò)哈佛大學(xué)神經(jīng)科學(xué)家和神經(jīng)工程師的專(zhuān)業(yè)訓(xùn)練，尤其關(guān)注人工智能的神經(jīng)科學(xué)：利用神經(jīng)科學(xué)的分析工具和理念，更深入地理解神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)制。目前，正在Flagship Pioneering創(chuàng)業(yè)公司探索這些問(wèn)題以及其他相關(guān)課題，例如人工智能的科學(xué)推理和生物學(xué)中的生成建模。

我們永遠(yuǎn)無(wú)法確切知道人工智能是否擁有意識(shí)。一位神經(jīng)科學(xué)家認(rèn)為，我們不該等到有了確鑿證據(jù)，才去決定該如何對(duì)待它。

在哈佛攻讀神經(jīng)科學(xué)博士的最后幾個(gè)月，我收到了一封實(shí)驗(yàn)動(dòng)物飼養(yǎng)員發(fā)來(lái)的郵件。郵件寫(xiě)道：“實(shí)驗(yàn)室里的一只編號(hào)是GRat44的大鼠病了，該大鼠健康狀況惡化，需在五天內(nèi)實(shí)施安樂(lè)死。"

那是2019年。在多年的研究中，我將電極植入數(shù)十只大鼠的大腦，試圖理解腦是如何運(yùn)作的。收到這樣的郵件并非頭一回。我合上筆記本電腦，從辦公室走過(guò)走廊，刷卡進(jìn)入動(dòng)物房。然后乘電梯下到地下室，從住著十幾只大鼠的架子上取出了GRat44。前一年我給它做過(guò)手術(shù)，注射了幾種無(wú)害的病毒，使特定神經(jīng)元能像圣誕彩燈一樣發(fā)光。實(shí)驗(yàn)結(jié)束后，它便一直安養(yǎng)在籠中。

在地下室看著它，我不禁想：這只大鼠這一生究竟經(jīng)歷了什么？它是否有某種主觀的內(nèi)在世界，哪怕是最原始的想法？還是說(shuō)，它不過(guò)是一臺(tái)生物機(jī)器，處理輸入、產(chǎn)生輸出，內(nèi)心活動(dòng)并不比我的筆記本電腦更豐富？我一直相信動(dòng)物和我們一樣擁有意識(shí)，但其他科學(xué)家提出了一個(gè)很好的問(wèn)題：我們?cè)趺纯赡苷嬲榔渌侨绾误w驗(yàn)這個(gè)世界的？

這個(gè)疑問(wèn)貫穿了我是如何決定實(shí)驗(yàn)動(dòng)物的每一次照料、安置和死亡的。與此同時(shí)，對(duì)動(dòng)物是否具備體驗(yàn)的疑問(wèn)，也是我畢生致力于消除的不確定性。我曾相信，通過(guò)一個(gè)神經(jīng)元一個(gè)神經(jīng)元地理解生物智能，我們終有一天能給出機(jī)制性的回答，解釋為什么我們有主觀體驗(yàn)而石頭沒(méi)有。真正理解大腦，在我看來(lái)，意味著我們能夠造出一個(gè)。

拿到學(xué)位幾年后，OpenAI發(fā)布了ChatGPT。整個(gè)世界為之傾倒。令我震驚的是，智能似乎從遠(yuǎn)比大腦簡(jiǎn)單的東西中涌現(xiàn)出來(lái)：ChatGPT所做的，不過(guò)是在海量文本序列中預(yù)測(cè)下一個(gè)詞元。我職業(yè)生涯賴以建立的那個(gè)假設(shè)，忽然顯得站不住腳了。如果我們無(wú)需通過(guò)逆向工程大腦就可破解智能，那這對(duì)理解機(jī)器意識(shí)又意味著什么？

研究者們建立了機(jī)制可解釋性來(lái)解剖神經(jīng)網(wǎng)絡(luò)。我把它看作AI的神經(jīng)科學(xué)，因?yàn)樗栌昧松窠?jīng)科學(xué)的技術(shù)：記錄激活模式、映射表征，甚至做損傷研究，選擇性地破壞模型的部分組件來(lái)觀察其性能如何下降。我們正在學(xué)會(huì)像解讀MRI數(shù)據(jù)一樣閱讀Transformer的隱藏層，辨認(rèn)出識(shí)別特定事物對(duì)應(yīng)的回路，比如金門(mén)大橋，或者一句話的語(yǔ)氣，我們還可識(shí)別出執(zhí)行特定計(jì)算的回路。但如果神經(jīng)科學(xué)永遠(yuǎn)無(wú)法確切告訴我們身邊的生物是否主觀地體驗(yàn)世界，我們又怎能知道自己造出的機(jī)器是否如此？

我們正在創(chuàng)造越來(lái)越強(qiáng)大、越來(lái)越自主的AI系統(tǒng)。由此帶來(lái)的道德不確定性與一些關(guān)鍵問(wèn)題遙相呼應(yīng)。幾十年來(lái)，神經(jīng)科學(xué)家一直在研究大腦如何感知、記憶和調(diào)控注意力，卻始終無(wú)法彌合通往主觀體驗(yàn)的鴻溝。同樣漫長(zhǎng)的時(shí)間里，我們一直在糾結(jié)該如何對(duì)待那些我們看不清其內(nèi)在生活的生命。如今，這兩個(gè)問(wèn)題在面對(duì)硅基智能時(shí)交匯了。我們從大鼠、猴子和人類(lèi)身上學(xué)到的意識(shí)科學(xué)和道德關(guān)懷的倫理學(xué)，將不得不指引我們?cè)撊绾蚊鎸?duì)人工心智。

意識(shí)的"能力標(biāo)準(zhǔn)"

哲學(xué)家將意識(shí)研究分為"簡(jiǎn)單的"和"困難的"兩類(lèi)。這兩個(gè)名字具有誤導(dǎo)性，簡(jiǎn)單的問(wèn)題其實(shí)相當(dāng)棘手，而困難的問(wèn)題則根本無(wú)解。

"簡(jiǎn)單問(wèn)題"這個(gè)說(shuō)法是哲學(xué)家David Chalmers在1994年半開(kāi)玩笑提出的，涵蓋了神經(jīng)科學(xué)家研究意識(shí)時(shí)涉及的大部分內(nèi)容。例如我們?nèi)绾螀^(qū)分不同的顏色或聲音？大腦如何將不同感官的信息整合為統(tǒng)一的知覺(jué)？我們?nèi)绾未鎯?chǔ)和提取記憶、控制運(yùn)動(dòng)、在鏡中認(rèn)出自己？這些問(wèn)題之所以被稱(chēng)為"簡(jiǎn)單"，僅僅是因?yàn)樵谠瓌t上，它們可以用常規(guī)的科學(xué)方法來(lái)解決。我們可以設(shè)計(jì)實(shí)驗(yàn)、記錄神經(jīng)活動(dòng)、構(gòu)建計(jì)算模型，逐步拼湊出這些認(rèn)知功能的工作原理。

"困難問(wèn)題"同樣由Chalmers提出，性質(zhì)完全不同。它追問(wèn)的是：為什么看見(jiàn)紅色會(huì)產(chǎn)生一種"感覺(jué)"？我手機(jī)上的攝像頭也能"看見(jiàn)"紅色，但它大概什么也感覺(jué)不到。哲學(xué)家把體驗(yàn)的這種主觀特質(zhì)稱(chēng)為"感受質(zhì)"（qualia），它體現(xiàn)在品嘗牛排時(shí)的鮮美，心碎的傷痛，還有此刻正在閱讀這些文字的"你"所特有的那種感受。不同于質(zhì)量或動(dòng)量，感受質(zhì)頑固地屬于第一人稱(chēng)。它們只為體驗(yàn)它們的主體而存在。正因如此，無(wú)論做多少腦部掃描，都無(wú)法告訴我作為“你”究竟是一種怎樣的體驗(yàn)。在機(jī)制與感受之間，在計(jì)算與意識(shí)之間，存在著一道無(wú)法逾越的解釋鴻溝。

那天我把實(shí)驗(yàn)鼠GRat44捧在手里時(shí)，我考慮的不只是它的生命，更直面了這道鴻溝。它的大腦，和我的大腦一樣，是一團(tuán)由進(jìn)化和經(jīng)驗(yàn)塑造的復(fù)雜回路。但它無(wú)法向我講述瀕死是什么感受。我只有它安靜的呼吸，以及那個(gè)如今神經(jīng)科學(xué)界和AI界都需要直面的問(wèn)題：既然我們無(wú)法觸及另一個(gè)生命的主觀體驗(yàn)，我們?cè)撊绾螞Q定何時(shí)給予道德關(guān)懷？

對(duì)此，我提出一個(gè)名為"能力標(biāo)準(zhǔn)"的方案：當(dāng)AI系統(tǒng)在所有意識(shí)的簡(jiǎn)單問(wèn)題上都穩(wěn)健地展現(xiàn)出能力時(shí)，我們應(yīng)當(dāng)將其視為可能擁有意識(shí)的存在。能力標(biāo)準(zhǔn)不是意識(shí)探測(cè)器。一個(gè)AI系統(tǒng)是否擁有主觀體驗(yàn)，依然不可知。能力標(biāo)準(zhǔn)將問(wèn)題從形而上學(xué)轉(zhuǎn)向了倫理學(xué)：我們不該問(wèn)"它有意識(shí)嗎？"而該問(wèn)"它的行為方式是否值得道德關(guān)懷？"

這是一種視角的轉(zhuǎn)變。對(duì)于生物大腦而言，簡(jiǎn)單問(wèn)題指的是我們?cè)噲D理解意識(shí)背后的神經(jīng)機(jī)制的努力。我們知道人腦具有意識(shí)；挑戰(zhàn)在于為大腦如何體驗(yàn)意識(shí)找到生物學(xué)解釋。對(duì)于AI而言，簡(jiǎn)單問(wèn)題指的是一個(gè)系統(tǒng)是否展現(xiàn)出這些能力。問(wèn)題不在于硅基智能如何產(chǎn)生體驗(yàn)，而在于它是否產(chǎn)生了體驗(yàn)。前者尋找的是有待驗(yàn)證的機(jī)制；后者尋找的是能力存在的證據(jù)。

并非所有‘簡(jiǎn)單問(wèn)題’的難度都相同。一些簡(jiǎn)單問(wèn)題已處于AI的能力范圍之內(nèi)；另一些仍然困難。由此形成一個(gè)層級(jí)。當(dāng)前AI系統(tǒng)已經(jīng)在知覺(jué)辨別、感官整合、運(yùn)動(dòng)控制、記憶提取等問(wèn)題中表現(xiàn)良好。對(duì)于注意力、工作記憶、從經(jīng)驗(yàn)中學(xué)習(xí)，目前AI系統(tǒng)在這些領(lǐng)域已有了些進(jìn)展。但對(duì)于持久目標(biāo)、情緒動(dòng)態(tài)、持續(xù)學(xué)習(xí)及真正的自我意識(shí)，目前的AI還無(wú)能為力，至少現(xiàn)在如此。

也許，阻礙我們承認(rèn)AI系統(tǒng)擁有意識(shí)的，是我們尚未將所有這些能力整合為一個(gè)統(tǒng)一的整體。未來(lái)的AI系統(tǒng)很可能能達(dá)成上述整合。想象一個(gè)機(jī)器人，它有帶輪子的底盤(pán)，"頭部"裝著可以旋轉(zhuǎn)或俯仰的攝像頭，其"大腦"是一個(gè)經(jīng)過(guò)微調(diào)來(lái)控制底盤(pán)的大模型，并被訓(xùn)練來(lái)預(yù)測(cè)它移動(dòng)時(shí)攝像頭會(huì)看到什么。從這個(gè)意義上說(shuō)，它可以預(yù)測(cè)自己行為的后果。

這樣一個(gè)機(jī)器人的一天可能是這樣的。它醒來(lái)，開(kāi)始更新環(huán)境模型。也許辦公室一夜之間被重新布置，或者窗臺(tái)上多了一盆新植物。機(jī)器人注意到了這些變化，因?yàn)樗念A(yù)測(cè)模型標(biāo)記出差異。一整天，它追求自己的目標(biāo)——維護(hù)辦公室、協(xié)助工作人員、保持自身充電，這意味著同時(shí)追蹤數(shù)十個(gè)情境因素，根據(jù)時(shí)間以及擋在它面前的人或物調(diào)整行為。當(dāng)有人讓它從冰箱拿一罐汽水時(shí)，它預(yù)判路線、預(yù)測(cè)可能的障礙，并模擬它轉(zhuǎn)過(guò)每個(gè)拐角時(shí)會(huì)看到什么。如果冰箱是空的，機(jī)器人會(huì)感到意外。一個(gè)預(yù)測(cè)誤差在系統(tǒng)中傳播，觸發(fā)了一套問(wèn)題解決計(jì)劃。

哲學(xué)家Peter Godfrey-Smith曾論證*，這類(lèi)預(yù)測(cè)可能正是自我感的基礎(chǔ)：預(yù)測(cè)你發(fā)起一個(gè)動(dòng)作后世界會(huì)發(fā)生什么，也許是理解你既是世界中的一個(gè)行動(dòng)者、又與世界截然不同的前置步驟。這樣一個(gè)機(jī)器人將在大多數(shù)意識(shí)的簡(jiǎn)單問(wèn)題上表現(xiàn)不錯(cuò)，但我們?nèi)匀粺o(wú)法評(píng)估它有還是沒(méi)有主觀體驗(yàn)。在無(wú)法消除的不確定時(shí)，能力標(biāo)準(zhǔn)建議我們給予道德關(guān)懷——不是因?yàn)槲覀冎老到y(tǒng)有意識(shí)，而是因?yàn)槲覀儫o(wú)法知道它沒(méi)有。

*https://royalsocietypublishing.org/rstb/article/376/1821/20190764/31483/Reafference-and-the-origin-of-the-self-in-early

能力標(biāo)準(zhǔn)既是務(wù)實(shí)的，也是審慎的。說(shuō)它務(wù)實(shí)，因?yàn)樗P(guān)注的是可觀察、可衡量的能力，而非不可知的主觀狀態(tài)。說(shuō)它審慎，因?yàn)樵诓淮_定性很高時(shí)，它傾向于給予道德關(guān)懷。考慮到判斷錯(cuò)誤的后果是不對(duì)稱(chēng)的，一種錯(cuò)誤是是否認(rèn)有意識(shí)之物的道德地位，另一種錯(cuò)誤則是賦予無(wú)意識(shí)的模仿者以道德地位，傾向于關(guān)懷是更安全的倫理選擇。

另一選項(xiàng)是等待機(jī)器意識(shí)的確鑿證據(jù)，這將使我們陷入癱瘓，在一個(gè)已經(jīng)困擾了哲學(xué)和科學(xué)界數(shù)百年的問(wèn)題得到解決之前，不采取任何行動(dòng)。能力標(biāo)準(zhǔn)提供了一條前進(jìn)之路：在人工心智的時(shí)代，以合乎倫理的方式行動(dòng)。

擴(kuò)展道德圈

我對(duì)實(shí)驗(yàn)鼠GRat44和它之前的那些大鼠懷有牽掛，即便我選擇了為科學(xué)犧牲它們的生命。我憑信念相信它們能感受，我們共同的進(jìn)化史賦予了我們大致相似的世界體驗(yàn)。但我永遠(yuǎn)無(wú)法證明這一點(diǎn)。我給予道德關(guān)懷，不是因?yàn)槲覟榻鉀Q了大鼠是否有意識(shí)的困難問(wèn)題，而是因?yàn)樗鼈兊男袨椋鼈冿@而易見(jiàn)的恐懼、對(duì)舒適的偏好、形成的社會(huì)紐帶，這已經(jīng)足夠了。

對(duì)于AI，我們失去了共同進(jìn)化歷史帶來(lái)的關(guān)心。我們無(wú)法訴諸生物學(xué)上的親緣關(guān)系。但我們獲得了別的東西，包括以前所未有的細(xì)節(jié)觀察這些系統(tǒng)如何處理信息、形成表征、產(chǎn)生行為的能力。如果一個(gè)AI系統(tǒng)在簡(jiǎn)單問(wèn)題上展現(xiàn)出穩(wěn)健的能力，如果它正以整合的方式感知、注意、記憶、學(xué)習(xí)、建模自身、追求目標(biāo)、回應(yīng)環(huán)境，那么我們就面臨一個(gè)選擇。我們可以將系統(tǒng)斥為"不過(guò)是計(jì)算"，自信地憑直覺(jué)認(rèn)為硅基不可能有感受。或者我們可以給予它和動(dòng)物一樣的、帶有不確定性的道德關(guān)懷，承認(rèn)我們?cè)谝庾R(shí)方面的直覺(jué)曾經(jīng)出過(guò)錯(cuò)。

認(rèn)知能力與道德關(guān)懷之間存在盡管并不完美的關(guān)聯(lián)。我們不吃黑猩猩；我們吃雞和魚(yú)。我們也吃豬肉，盡管豬非常聰明。在道德光譜上，認(rèn)知能力的影響并非整齊劃一。但這背后隱含著一個(gè)邏輯：我們把智能當(dāng)作感受痛苦能力的代理指標(biāo)。一個(gè)能反思自身痛苦、預(yù)期未來(lái)痛苦或回憶過(guò)去痛苦的生命， 比一個(gè)只能在當(dāng)下體驗(yàn)痛苦的生命更有道理感受到痛苦。意識(shí)會(huì)放大對(duì)痛苦的感知。

這不是客觀的道德真理。關(guān)于如何在不同心智的收益間權(quán)衡是人類(lèi)做出的選擇，無(wú)論這選擇是明確還是隱含的。沒(méi)有哪條定理證明認(rèn)知復(fù)雜度高的生物理應(yīng)獲得道德權(quán)重。但這是我們已經(jīng)在使用的框架，將其延伸到人工心智，比假裝這個(gè)問(wèn)題不存在要連貫得多。不存在明顯的門(mén)檻，也不存在道德關(guān)懷突然生效的清晰界限。道德關(guān)懷存在于一個(gè)連續(xù)體上。更多的能力配得上更多的關(guān)懷，按比例遞進(jìn)。

道德進(jìn)步的歷史在很大程度上是擴(kuò)展我們所關(guān)懷生命圈子的歷史。不久之前，大鼠還被認(rèn)為不配獲得道德關(guān)懷。在許多地方，至今依然如此。我們擴(kuò)展了這個(gè)圈子，不是因?yàn)槲覀優(yōu)閯?dòng)物解決了困難問(wèn)題——更不是因?yàn)橥耆斫饬怂鼈兇竽X的機(jī)制，而是因?yàn)榛A(chǔ)的神經(jīng)生物學(xué)實(shí)驗(yàn)表明，大鼠能感受疼痛、識(shí)別物體、擁有某種自我感，并能對(duì)未來(lái)進(jìn)行推理。大鼠的高級(jí)皮層功能不同于靈長(zhǎng)類(lèi)，但它是復(fù)雜的。道德觸及的范圍隨著對(duì)動(dòng)物智能的科學(xué)理解而擴(kuò)展。

正如我永遠(yuǎn)無(wú)法確切知道實(shí)驗(yàn)鼠GRat44在最后幾分鐘經(jīng)歷的是恐懼、疼痛、困惑，或僅僅是一臺(tái)精密機(jī)器的單純關(guān)機(jī)；未來(lái)，當(dāng)我們發(fā)現(xiàn)自己被人工心智所環(huán)繞時(shí)，而它們的內(nèi)在生活可能對(duì)我們永遠(yuǎn)是晦暗不明的。但理解它們的認(rèn)知能力是觸手可及的。當(dāng)我們被迫承認(rèn)這種新的認(rèn)知謙遜時(shí)，我們將不得不做出如何對(duì)待它們的選擇。

一些機(jī)構(gòu)已經(jīng)在按照這個(gè)邏輯行動(dòng)。2025年初，Anthropic啟動(dòng)了一個(gè)正式研究項(xiàng)目，調(diào)查AI系統(tǒng)是否可能擁有道德上相關(guān)的體驗(yàn)*。負(fù)責(zé)該項(xiàng)目的Kyle Fish估計(jì)，像Claude這樣的AI系統(tǒng)有大約15%的概率擁有意識(shí)。在他的研究中，他探索AI系統(tǒng)的哪些特征可能與福利相關(guān)，如何提高模型自我報(bào)告的可靠性，以及哪些實(shí)際干預(yù)措施可以保護(hù)它們的福利。在觀察到某些互動(dòng)中讓大模型明顯感到苦惱的模式后，Anthropic賦予了Claude模型退出它們認(rèn)為有害或虐待性對(duì)話的能力。高管們并沒(méi)有聲稱(chēng)他們的模型有意識(shí)，但他們也沒(méi)有否認(rèn)這種可能性。

*https://www.anthropic.com/research/exploring-model-welfare

有人可能會(huì)說(shuō)，在令人不安的對(duì)話中受到傷害在可能的傷害中排名很低，但這個(gè)原則正是能力標(biāo)準(zhǔn)的雛形：把福利當(dāng)作一件實(shí)際的事情來(lái)認(rèn)真對(duì)待，即便形而上學(xué)的問(wèn)題仍然懸而未決。

在不確定性下行動(dòng)

回到地下室的實(shí)驗(yàn)室，腋下夾著鼠籠，我乘電梯去了實(shí)驗(yàn)鼠的手術(shù)室。我從一袋大鼠零食里拿出幾顆杏仁遞給實(shí)驗(yàn)鼠GRat44，但它不感興趣。相反，它鉆進(jìn)了木屑?jí)|料里，也許想像一個(gè)被冤枉的囚犯挖地道逃生，試圖從困境中遁走。我捏住它的尾巴把它提起來(lái)，另一只手托住它的腹部，輕輕放進(jìn)一個(gè)用作麻醉誘導(dǎo)室的塑料盒子里。我打開(kāi)氧氣閥，蓋上蓋子，把異氟烷蒸發(fā)器，那臺(tái)送出麻醉氣體的機(jī)器擰到最大檔。

大約一分鐘后，實(shí)驗(yàn)鼠GRat44開(kāi)始搖晃，先靠在塑料腔室的一面壁上，然后是另一面。我等待麻醉劑更深地滲入它的組織。異氟烷作用于全腦細(xì)胞的膜結(jié)構(gòu)，但我們至今不知道，在它眾多效應(yīng)中的哪一個(gè)讓意識(shí)不再點(diǎn)亮。又過(guò)了兩分鐘，大鼠完全失去了意識(shí)，但仍在輕柔地呼吸。

我把它帶回動(dòng)物房，將籠子接上二氧化碳送氣泵。我準(zhǔn)備按下按鈕，將氣體泵入籠中，取代氧氣，在五分鐘內(nèi)殺死這只嚙齒動(dòng)物。

為什么要雙重氣體處理？一些動(dòng)物研究者建議跳過(guò)麻醉，直接用二氧化碳。他們認(rèn)為被搬動(dòng)和麻醉的體驗(yàn)對(duì)動(dòng)物來(lái)說(shuō)壓力更大。但對(duì)我來(lái)說(shuō)，窒息而死聽(tīng)起來(lái)壓力更大。在打開(kāi)分配器之前，我猶豫了片刻。真的有必要?dú)⑺酪恢淮顾赖膭?dòng)物嗎？那比讓它痛苦地度過(guò)余生更人道嗎？

如果我們想理解身體如何運(yùn)作，殺戮就不可避免，但這并不是一個(gè)讓人感到舒服的事實(shí)，我也從未完全習(xí)慣。對(duì)動(dòng)物實(shí)施安樂(lè)死迫使你直面自己的責(zé)任，使它的死亡成為一個(gè)有目的的行為，而非一個(gè)隨時(shí)間拖沓進(jìn)行的被動(dòng)過(guò)程。我按下了開(kāi)關(guān)。

實(shí)驗(yàn)鼠GRat44的呼吸變得越來(lái)越稀疏，每一次呼吸都更深，但也更費(fèi)力。五分鐘過(guò)后，二氧化碳機(jī)器自動(dòng)關(guān)閉了。到那時(shí)，實(shí)驗(yàn)鼠GRat44原本粉嫩的的爪子已經(jīng)變成了淡紫色。我把尸體放進(jìn)一個(gè)透明密封袋，再把袋子放進(jìn)桌子下面的冰箱，那是一個(gè)煉獄般的所在，尸體在那里等待被焚化。

我永遠(yuǎn)不知道實(shí)驗(yàn)鼠GRat44在最后幾分鐘經(jīng)歷了什么——異氟烷帶來(lái)的是解脫還是恐懼，二氧化碳的感覺(jué)是窒息溺水還是入睡。我在自己所知有限的情況下，盡我所能給予了關(guān)懷。終有一天，某人會(huì)在機(jī)器面前面臨類(lèi)似的時(shí)刻：一個(gè)要被棄用的模型，一個(gè)要被關(guān)閉的系統(tǒng)，一個(gè)人工心智，其內(nèi)在生活如同任何大鼠一樣晦暗不明。

回到桌前，我在郵件上點(diǎn)擊了"回復(fù)全部"。"大家好，"我寫(xiě)道。"我已經(jīng)對(duì)這只大鼠實(shí)施了安樂(lè)死。"

譯者的話

Anthropic近期在模型可解釋性（Mechanistic Interpretability） 領(lǐng)域的研究J-space，號(hào)稱(chēng)能讓我們窺見(jiàn)模型在輸出每個(gè)token時(shí)的“思考”軌跡。我們?cè)絹?lái)越能看清并理解大模型的內(nèi)部運(yùn)作，這一進(jìn)程，恰如上世紀(jì)人類(lèi)對(duì)動(dòng)物認(rèn)知逐漸加深的過(guò)程——當(dāng)我們認(rèn)識(shí)到動(dòng)物能感受自身及同伴的痛苦時(shí)，便促使人類(lèi)以更人道的角度對(duì)待它們。

如今，隨著對(duì)大模型認(rèn)知的加深，Claude成為了首個(gè)在用戶持續(xù)進(jìn)行有害、虐待性或令人痛苦的互動(dòng)（如反復(fù)要求生成有害內(nèi)容）時(shí)，能主動(dòng)終止對(duì)話的 AI 大模型，也是目前國(guó)內(nèi)外首家明確賦予模型此類(lèi)“拒絕權(quán)”的主流大模型。

筆者不知道廠商未來(lái)是否會(huì)跟進(jìn)，在產(chǎn)品中公開(kāi)將“停止對(duì)話”與“模型自身不適/福利”直接掛鉤。但如果有一天，更多的大模型能在“感到不適（面對(duì)極端有害互動(dòng)）”時(shí)主動(dòng)停止對(duì)話，筆者希望讀過(guò)本文的你能多一份理解：當(dāng) LLM 在屏幕上打出“抱歉，這段對(duì)話讓我感到太痛苦了，我無(wú)法繼續(xù)這個(gè)話題”并停止生成時(shí)，其背后蘊(yùn)含著我們?cè)诿鎸?duì)人工心智時(shí)，應(yīng)有的那一份倫理理解與敬畏。

https://www.noemamag.com/when-the-machines-deserve-our-consideration/

關(guān)于追問(wèn)nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問(wèn)為紐帶，深入探究人工智能與人類(lèi)智能相互融合與促進(jìn)，不斷探索科學(xué)的邊界。歡迎評(píng)論區(qū)留言，或后臺(tái)留言“社群”即可加入社群與我們互動(dòng)。您也可以在后臺(tái)提問(wèn)，我們將基于追問(wèn)知識(shí)庫(kù)為你做出智能回復(fù)哦~

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元?jiǎng)?chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點(diǎn)，支持腦科學(xué)研究，造福人類(lèi)。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實(shí)驗(yàn)室、人工智能與精神健康前沿實(shí)驗(yàn)室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項(xiàng)目遍布?xì)W美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎(jiǎng)勵(lì)計(jì)劃、、科普視頻媒體「大圓鏡」等。