思考的本質(zhì)是掙扎：在AI時代，重估“寫作之苦”的價值

如果努力把一個想法說清楚，本身就是我們理解它的過程之一，那么，那些替我們繞過這一過程的工具，或許也會削弱一種真正的科學(xué)發(fā)現(xiàn)最需要的思考能力。

幾周前，我參加了一場學(xué)院會議，討論研究生使用人工智能的相關(guān)政策。過去三年里，我們不斷起草指南、修改指南，又眼看著這些指南很快過時。到這次會議上，盡管大家都知道，從技術(shù)上說幾乎不可能真正執(zhí)行一項禁令，我們?nèi)栽谟懻撘粋€問題：是否應(yīng)該禁止研究生在學(xué)位論文開題報告和畢業(yè)論文中使用AI。

一位同事提到，麻省理工學(xué)院媒體實驗室有一項研究曾引發(fā)廣泛關(guān)注[1]。研究發(fā)現(xiàn)，使用ChatGPT寫作的人，大腦神經(jīng)連接有所減弱。研究者把這種現(xiàn)象稱為“認(rèn)知債務(wù)”。這項研究確實存在明顯局限，但它讓一種自ChatGPT問世以來不斷累積的擔(dān)憂變得更加清晰：如果寫作本身就是一種思考，如果一個人正是在努力把想法說清楚的過程中，才逐漸理解這個想法，那么，那些替我們繞過這一過程的工具，或許也會削弱真正的科學(xué)發(fā)現(xiàn)最依賴的那種思考能力。

關(guān)于 AI 與科學(xué)寫作，我已經(jīng)思考了一段時間，卻發(fā)現(xiàn)自己處在兩種都無法完全接受的立場之間。一方面，無論稱之為“認(rèn)知債務(wù)”、技能退化，還是用其他方式來概括這個問題，這種擔(dān)憂在我看來確實有其合理性。另一方面，反對者認(rèn)為這些擔(dān)憂被夸大了，這種說法也并非沒有道理。而我越是試圖尋找能夠一錘定音的證據(jù)，就越覺得這樣的證據(jù)并不存在。至少，對于真正從事科學(xué)研究的人群來說，目前還沒有這樣的證據(jù)。

認(rèn)真寫過東西的人都知道，寫作在思考過程中有多重要。你可能正在寫基金申請或研究計劃里的“研究目標(biāo)”部分。這個想法在腦子里原本很清楚，可一旦真正寫下來，就是怎么都不順。原先在腦中顯得很穩(wěn)固的邏輯，一落到紙面上就開始站不住。你調(diào)整了一下結(jié)構(gòu)，結(jié)果又發(fā)現(xiàn)別的地方出了問題。這樣掙扎了一個小時之后，你才意識到，問題并不只是“怎么說”，而是“到底有沒有想清楚”。這個問題，是直到寫作逼著你直面它時，你才真正看見的。

認(rèn)為“寫作就是思考”的人并不少。在這里，我們不妨把他們稱為“認(rèn)知傳統(tǒng)主義者”。作家弗蘭納里·奧康納（Flannery O’Connor）曾有一句廣為流傳的話：“我寫作，是因為只有讀到自己寫下的話，我才知道自己在想什么。”理查德·費曼（Richard Feynman）談到自己的筆記本時，也說過類似的話：“它們不是我思考過程的記錄。它們就是我的思考過程。”

要說支持這種看法的研究證據(jù)，首先是已經(jīng)積累了數(shù)十年的“以寫促學(xué)”研究。針對學(xué)生群體的研究表明，寫作本身會帶來可以測量的學(xué)習(xí)收益，而且這種收益超過了單純學(xué)習(xí)同一材料所能產(chǎn)生的效果[2]。其中一種理論解釋借鑒了認(rèn)知的聯(lián)結(jié)主義模型，認(rèn)為寫作者對一個問題的理解常常是隱性的，并不能直接從記憶中提取出來；只有通過組織文字、形成文本，這種理解才會變得可以被寫作者自己把握[3]。寫作會迫使模糊的直覺變成明確的判斷；一旦這些判斷被固定在紙面上，寫作者就可以根據(jù)自己的目標(biāo)去檢查它們，推理中的漏洞也會隨之顯現(xiàn)出來。

這一機(jī)制提示我們，寫作并不只是在正式教育場景中才有學(xué)習(xí)價值，它本身就是一種學(xué)習(xí)工具。與此同時，來自航空、醫(yī)學(xué)等領(lǐng)域的有力證據(jù)也表明，自動化輔助會加速技能退化，即便專家也不例外[4]。以我對這些證據(jù)的理解，依賴AI寫作很可能會妨礙年輕科學(xué)家培養(yǎng)寫作能力，也會讓資深科學(xué)家的既有寫作能力逐漸萎縮。

真正的問題在于：不借助AI的寫作一旦減少，對科學(xué)而言到底有沒有那么重要？在這個問題上，所謂“AI辯護(hù)者”也并非沒有論據(jù)。他們的第一個理由是，寫作未必像傳統(tǒng)主義者所說的那樣不可替代。寫作帶來的認(rèn)知收益，也許并不來自寫作本身，而是來自“外化”：也就是迫使頭腦中的想法轉(zhuǎn)化為某種外在形式，使它們能夠被審視、被質(zhì)疑、被修改。如果真正起作用的是這一機(jī)制，那么，對話或許也能發(fā)揮和獨自寫作類似的作用。你和同事討論自己的想法，在組會上為自己的研究方案辯護(hù)，向另一個領(lǐng)域的合作者解釋自己的項目，這些場景同樣會讓模糊的直覺經(jīng)受檢驗，讓推理中的漏洞顯現(xiàn)出來，也讓你發(fā)現(xiàn)自己到底在想什么。

心理學(xué)家丹尼爾·卡尼曼（Daniel Kahneman）和阿莫斯·特沃斯基（Amos Tversky）就曾經(jīng)常一起長時間散步，在交談中激發(fā)出許多想法，最終促成了后來獲得諾貝爾獎?wù)J可的行為經(jīng)濟(jì)學(xué)研究[5]。倘若關(guān)鍵真的是“外化”，那么也有人可能會說，只要AI系統(tǒng)足夠合適，與 AI 對話同樣可以保留這種認(rèn)知收益。你仍然在表達(dá)，仍然在把隱性的推理變成明確的說法。媒介變了，但機(jī)制也許還在。這也意味著，對科學(xué)而言，足夠多有價值的思考或許可以發(fā)生在寫作之外。因此，把寫作交給AI分擔(dān)，未必會像“認(rèn)知傳統(tǒng)主義者”所擔(dān)心的那樣影響巨大。

認(rèn)真寫過東西的人都知道，

寫作在思考過程中有多重要。

AI辯護(hù)者也有數(shù)據(jù)支持，至少有某一類數(shù)據(jù)支持。上個月發(fā)表在《科學(xué)》上的一項研究發(fā)現(xiàn)，開始使用大語言模型的研究人員，論文產(chǎn)出數(shù)量增加了三分之一到二分之一，其中非英語母語研究者的增幅最大[6]。這并不是無關(guān)緊要的小事。非英語母語者在科研寫作和發(fā)表中面臨的障礙是真實存在的，也已有大量研究記錄[7-8]。如果AI能夠降低這些障礙，那么它確實會給科學(xué)中的公平性帶來實實在在的好處。不過，這些數(shù)據(jù)最多只能說明，AI可能改善了科學(xué)進(jìn)展在職業(yè)評價指標(biāo)上的公平性，比如誰能產(chǎn)出更多論文；但它們并不能說明，背后的科學(xué)質(zhì)量也隨之提高了。事實上，許多科學(xué)家已經(jīng)發(fā)出警告，AI可能只是加快了論文生產(chǎn)，卻并沒有觸及那些真正拖慢科學(xué)進(jìn)步的瓶頸[9]。

現(xiàn)在，認(rèn)知傳統(tǒng)主義者這邊，有專家主張和教育研究；AI辯護(hù)者那邊，有生產(chǎn)力數(shù)據(jù)和公平論證。但雙方都缺少一類最關(guān)鍵的證據(jù)：當(dāng)實際從事科研工作的科學(xué)家，不是學(xué)生，也不是從事常規(guī)任務(wù)的白領(lǐng)，而是真正做科學(xué)研究的人，把科學(xué)寫作中的認(rèn)知勞動交給AI時，到底會發(fā)生什么[10]？他們對自己研究的理解會不會變淺？他們的研究脈絡(luò)會不會變得不那么連貫？他們會不會逐漸失去發(fā)現(xiàn)自己推理漏洞的能力？這樣的研究大概永遠(yuǎn)都不會出現(xiàn)，因為它們幾乎不可能被嚴(yán)謹(jǐn)?shù)亻_展。你不可能隨機(jī)分配足夠多已經(jīng)站穩(wěn)腳跟的科學(xué)家，讓一組人“自己寫基金申請”，另一組人“把基金申請交給AI”，然后再追蹤他們十年的職業(yè)發(fā)展。

于是，我們似乎只剩下一條建議：要“負(fù)責(zé)任地使用AI”。讓AI接手那些無謂的費力過程，但保留真正有價值的認(rèn)知勞動。表面上看，這是一種很合理的立場；我自己也曾采取過這種立場。你或許可以把當(dāng)時的我稱為一個“AI實用主義者”。但這種實用主義立場其實預(yù)設(shè)了某種特定的元認(rèn)知能力：寫作者能否在困難發(fā)生的當(dāng)下判斷出來，眼前這種卡頓究竟是有助于思考，還是只是在制造挫敗？

我曾經(jīng)對此抱有希望，但后來逐漸得出一個結(jié)論：寫作者恐怕并不能做出這樣的判斷，至少不能穩(wěn)定地做到。關(guān)于元認(rèn)知的研究表明，我們對自身學(xué)習(xí)狀態(tài)的直覺不僅不可靠，甚至?xí)催^來誤導(dǎo)我們。教育研究者用“有益困難（desirable difficulties）”這個概念，來描述那些過程更費勁、卻能帶來更好學(xué)習(xí)效果的條件；與之相對的是，有些條件讓人感覺自己學(xué)到了東西，但實際上并不會產(chǎn)生相應(yīng)的學(xué)習(xí)效果。

問題在于，人們并不能可靠地區(qū)分這兩者。事實上，人們通常更偏愛那些“感覺上像是在學(xué)習(xí)”的條件。學(xué)生會覺得，聽一場打磨得很精致的講座，比主動參與活動學(xué)到的東西更多，盡管研究顯示情況恰恰相反[11-12]。接受訓(xùn)練去識別畫家風(fēng)格的參與者，在把不同畫家的作品混合起來辨認(rèn)的交錯練習(xí)中表現(xiàn)明顯更好，但仍有78%的人認(rèn)為，按畫家分別集中練習(xí)的分塊練習(xí)效果一樣好，甚至更好[13]。還有一項經(jīng)典研究發(fā)現(xiàn)，接受分散式培訓(xùn)的郵政工作人員表現(xiàn)更好，但他們的滿意度反而低于那些把培訓(xùn)集中在少數(shù)幾次長課中完成的人[14]。我們不僅會把“感覺自己在學(xué)習(xí)”誤認(rèn)為真正的學(xué)習(xí)，也會把費力的跡象誤認(rèn)為沒有學(xué)到東西的信號。

讓我們回到前面那個怎么也寫不順的研究目標(biāo)頁。當(dāng)它遲遲寫不出來時，這種卡住可能只是說明你累了；也可能說明你知道自己想說什么，只是一時找不到合適的表達(dá)；還有一種可能是，你其實并不知道自己到底想說什么，也就是說，你的推理中還有一個尚未直面的漏洞。在最后這種情況下，有價值的認(rèn)知勞動正在發(fā)生。可是，這三種情形在當(dāng)下的感受幾乎一模一樣：挫敗、費力，還有那個怎么都寫不對的句子。

人類本來就不喜歡挫敗和費力。更糟的是，費力的感覺往往并不像是在學(xué)習(xí)，也不像是在加深理解。正因為如此，我才越來越覺得，想靠元認(rèn)知監(jiān)控來解決這個問題，幾乎是不可能的：你可以在事后根據(jù)是否產(chǎn)生了新的洞見，判斷一段費力過程是否有價值；但你很難在事前做出這種判斷。而事前判斷，恰恰發(fā)生在你決定要不要伸手去用AI的那個時刻。

一位經(jīng)驗豐富的科學(xué)家或許會反駁說，專業(yè)經(jīng)驗會帶來某種特殊的元認(rèn)知能力。但我并不同意。問題不在于我們對所在領(lǐng)域不夠熟悉，而在于元認(rèn)知本身的性質(zhì)。你是神經(jīng)科學(xué)專家，并不意味著你也擅長察覺自己的認(rèn)知狀態(tài)。我已經(jīng)從事專業(yè)寫作15年，卻仍然一次次被自己的感覺誤導(dǎo)。到這個階段，問題并不是AI寫得太差。它談不上出色，我也不會把自己真正重視的工作交給它，但在很多場景里，它寫得已經(jīng)足夠可用，而且速度足夠快。正因為如此，當(dāng)我真的使用它時，我就會不再注意自己跳過了什么。一段文字出現(xiàn)了，看起來還過得去，于是我就繼續(xù)往下走。直到后來，有時是很久以后，我才意識到，自己其實從來沒有真正把那個想法想透。文字是完成了，思考卻沒有完成。

任何試圖保留那些有助于思考的困難的工具，在市場上恐怕都會輸給那些直接消除困難的工具。

一個看似直接的解決辦法，是重新設(shè)計這些工具。最近，我接觸到一個叫作“認(rèn)知強(qiáng)制策略”的概念。這個概念最早出現(xiàn)在20年前的醫(yī)學(xué)決策領(lǐng)域[15]。當(dāng)時，一位急診醫(yī)生提出，臨床醫(yī)生可以有意識地使用一些元認(rèn)知干預(yù)，來打斷可能導(dǎo)致診斷錯誤的認(rèn)知偏差。2021年，哈佛大學(xué)的研究者把這一框架用于AI輔助決策，測試了一些重新引入“摩擦”的界面設(shè)計[16]。其中一種設(shè)計要求用戶先給出自己的答案，然后才能看到AI的建議；另一種設(shè)計則是在顯示推薦結(jié)果之前設(shè)置一段等待時間。

這些設(shè)計確實減少了人們對AI的過度依賴。但它們并不是通過幫助用戶判斷哪些困難有助于思考來發(fā)揮作用，而是通過創(chuàng)造一種通常更有幫助的使用條件。換句話說，即使用戶自己并不能準(zhǔn)確判斷哪種困難值得保留，這些條件本身也能起到保護(hù)作用。問題在于，人們并不喜歡它們。人們喜歡的工具，未必最能幫助他們思考；真正能保護(hù)思考的設(shè)計，往往讓人覺得不舒服。因此，任何試圖保留有助于思考的困難的工具，在市場上恐怕都會輸給那些直接消除困難的工具。

那么，面對這樣一個問題，我們還能怎么辦？它很難被人準(zhǔn)確察覺，也很難通過研究徹底證明，更不會由市場自動解決。但科學(xué)仍然有一件有力的工具：共同體規(guī)范。科學(xué)不是孤立個體各自完成的事業(yè)，而是在實驗室、院系、學(xué)術(shù)共同體中展開的實踐。一個人很難長期抵抗便利，但一個共同體可以共同規(guī)定什么值得保留、什么不該輕易交出去。我認(rèn)為，至少可以先從三件事做起：

第一，保護(hù)科研訓(xùn)練期。即便我們還不知道哪些困難最有價值，也有理由先做一個保守判斷：在科研訓(xùn)練早期，更多困難可能都值得被保留下來。第一次寫基金申請、第一篇論文、資格考試，這些環(huán)節(jié)都應(yīng)該受到保護(hù)。原因不是AI輔助一定有害，而是如果我們判斷錯了，代價太高。

第二，給AI工具內(nèi)置“摩擦”。不要指望每個人都能靠意志力抵抗便利。更現(xiàn)實的做法，是為科學(xué)家設(shè)計更合適的AI工具，讓它們在關(guān)鍵節(jié)點迫使使用者先停一停、先自己想一想。與此同時，也需要建立相應(yīng)的規(guī)范和激勵，讓人們愿意使用這類不那么“順滑”、但更能保護(hù)思考的工具。

第三，讓關(guān)于 AI 的討論變得正常。現(xiàn)在，圍繞 AI 使用存在兩邊的壓力：使用 AI 的人可能覺得羞恥，拒絕使用 AI 的人也可能遭到評判。真正需要的，不是互相貼標(biāo)簽，而是在實驗室和院系里更坦誠地討論：哪些認(rèn)知勞動已經(jīng)交給了 AI，哪些仍然值得我們親自保留。只有這樣，科學(xué)共同體才可能更快形成一種集體性的、更成熟的判斷。

那場學(xué)院會議上，我們最后還是投了票。我們決定禁止研究生在學(xué)位論文開題報告和畢業(yè)論文中使用 AI，盡管大家都知道，這條規(guī)定基本無法真正執(zhí)行。重點并不是監(jiān)督和查處，而是傳遞一種信號：我們的研究生項目相信，這類認(rèn)知勞動是有價值的。在學(xué)生開始把它交給 AI 之前，我們希望他們至少親自完成一次。即使規(guī)則本身并不強(qiáng)硬，文化規(guī)范依然可以很有力量。這不是解決方案，而是一場下注。這是一場帶著謙遜的下注，因為我們知道自己仍有很多未知；也是一場嚴(yán)肅的下注，因為我們知道有些東西一旦失去，代價可能很高。

譯者后記：這篇文章說出了我在學(xué)術(shù)寫作中反復(fù)遇到的困惑：與AI協(xié)作，究竟是在提高表達(dá)效率，還是在悄悄縮短訓(xùn)練思考的過程？學(xué)術(shù)寫作并不只是把已有想法寫出來，它常常是在卡頓、猶豫和反復(fù)推翻中，逼迫我們發(fā)現(xiàn)概念的含混、論證的缺口和判斷的邊界。AI最危險的地方，或許不在于它替我們寫得不好，而在于它寫得足夠順，讓我們誤以為自己已經(jīng)想清楚。使用AI之前，也許最該追問的是：我正在節(jié)省時間，還是正在跳過理解。

https://www.thetransmitter.org/from-bench-to-bot/betting-blind-on-ai-and-the-scientific-mind/

1. https://www.media.mit.edu/publications/your-brain-on-chatgpt/

2. https://doi.org/10.3102/0034654320914744

3. https://doi.org/10.1080/00461520.2018.1505515

4. https://doi.org/10.1186/s41235-024-00572-8

5. https://www.newyorker.com/books/page-turner/the-two-friends-who-changed-how-we-think-about-how-we-think

6. https://doi.org/10.1126/science.adw3000

7. https://doi.org/10.1016/j.jeap.2020.100895

8. https://doi.org/10.1371/journal.pbio.3002184

9. https://www.normaltech.ai/p/could-ai-slow-science

10. https://doi.org/10.1145/3706598.3713778

11. https://doi.org/10.3758/s13423-013-0442-z

12. https://doi.org/10.1073/pnas.1821936116

13. https://doi.org/10.1111/j.1467-9280.2008.02127.x

14. https://gwern.net/doc/psychology/spaced-repetition/1978-baddeley.pdf

15. https://doi.org/10.1067/mem.2003.22

16. https://doi.org/10.1145/3449287

關(guān)于追問nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問為紐帶，深入探究人工智能與人類智能相互融合與促進(jìn)，不斷探索科學(xué)的邊界。歡迎評論區(qū)留言，或后臺留言“社群”即可加入社群與我們互動。您也可以在后臺提問，我們將基于追問知識庫為你做出智能回復(fù)哦~

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創(chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點，支持腦科學(xué)研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項目遍布?xì)W美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎勵計劃、、科普視頻媒體「大圓鏡」等。