<blockquote id="g5mpq"><rt id="g5mpq"></rt></blockquote>

    1. <pre id="g5mpq"></pre>
      <i id="g5mpq"><legend id="g5mpq"></legend></i>
      浪漫女家教主演:黛比地区:台湾 ,日本jiZz,爸爸的种子在线观看,特别的酒店2免费,哇嘎在线,荒野渔夫高清免费观看,新有菜在线免费观看,哇嘎美国
      網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

      萬字追問:為什么大模型離人腦仍然很遠(yuǎn)?意識不是規(guī)模化出來的

      0
      分享至


      大語言模型越能言善辯,關(guān)于它們是否已經(jīng)擁有意識的討論就越熱。神經(jīng)科學(xué)家揚(yáng)·阿魯(Jaan Aru)的判斷卻近乎相反:“如果你是一個(gè)神經(jīng)科學(xué)家,那么這些系統(tǒng)具有意識的先驗(yàn)概率,基本上接近于零。”

      但阿魯并不認(rèn)為,機(jī)器原則上永遠(yuǎn)不可能擁有意識。他反對的,是另一種更常見的想象:只要人工系統(tǒng)不斷擴(kuò)大規(guī)模、增加參數(shù)、補(bǔ)上若干類似大腦的功能,意識總有一天就會自然出現(xiàn)。在他看來,這種推斷混淆了智能與意識,也把大腦過度簡化成了一張神經(jīng)網(wǎng)絡(luò)。

      真正可能與意識有關(guān)的,并不是同一種計(jì)算被做得越來越大,而是發(fā)生在分子、細(xì)胞、樹突、神經(jīng)環(huán)路和行為之間的跨尺度過程。


      對談嘉賓

      Jaan Aru

      愛沙尼亞塔爾圖大學(xué)副教授

      他試圖把底層那些細(xì)密而具體的生物學(xué)細(xì)節(jié),與更高層次的認(rèn)知功能聯(lián)系起來。

      他希望理解這些現(xiàn)象在腦中的基礎(chǔ),并嘗試把問題解決過程中那些較為日常的頓悟,與神秘體驗(yàn)和迷幻體驗(yàn)中更深刻的領(lǐng)悟聯(lián)系起來思考。


      主持人

      Paul Middlebrooks

      卡內(nèi)基梅隆大學(xué)的特聘助理研究員

      卡內(nèi)基梅隆大學(xué)的特聘助理研究員,同時(shí)是播客“Brain Inspired”的主持人。他主要研究運(yùn)動皮層和基底神經(jīng)節(jié)神經(jīng)群體活動如何在自由行為的小鼠中支持自然行為,致力于揭示神經(jīng)活動與復(fù)雜行為之間的關(guān)系。


      智能越來越強(qiáng),不等于意識越來越近

      保羅:你寫過很多關(guān)于意識的文章,也研究過人工智能。現(xiàn)在有一種很流行的討論是:人工系統(tǒng)會有意識嗎?它們可能有意識嗎?

      你之前的很多文章都在比較生物系統(tǒng)和人工系統(tǒng),試圖找出它們的異同,以此來判斷我們到底該不該相信AI會有意識。而且看你的表達(dá),每當(dāng)有人說“人工意識”或者“AI已經(jīng)有意識”的時(shí)候,你好像都會特別不爽。為啥這么反感呢?

      揚(yáng):我先給一個(gè)簡短的回答。很多人,甚至很多非常聰明的人,都會說:我們現(xiàn)在知道得還遠(yuǎn)遠(yuǎn)不夠。比較中間的立場會認(rèn)為,它們也許有意識,也許沒有,我們在這個(gè)問題上應(yīng)該保留一定的開放性。但如果你是一個(gè)神經(jīng)科學(xué)家,那么這些系統(tǒng)具有意識的先驗(yàn)概率,基本上就是零。什么都沒有,就是零。每當(dāng)我聽到那樣的說法時(shí),就會感到一種很強(qiáng)的沮喪。

      保羅:其實(shí)我也同意你的直覺。但當(dāng)你真正開始深挖那些細(xì)節(jié)的時(shí)候,懷疑的種子就種下了。甚至在你自己的論文里,你也會寫:“當(dāng)然,它現(xiàn)在顯然沒有意識;但也許未來有一天,如果我們加上這個(gè)、實(shí)現(xiàn)那個(gè),情況可能就不一樣了。” 那AI圈的人就會說:“好啊,那我們就把這些功能都寫進(jìn)代碼里,砰!它就有意識了。”

      可這條路的盡頭到底在哪?這簡直是個(gè)無限套娃。所以我也不知道到底劃在哪條線上,我們才能心滿意足地說:“啊,它有意識了。” 我和你一樣,直覺上覺得先驗(yàn)概率是零,但我又覺得這樣顯得我像個(gè)糟糕的科學(xué)家,因?yàn)檫@終究是我的偏見和先驗(yàn)立場。

      揚(yáng):它當(dāng)然也不是真正意義上的零。但我總是說,既然其他所有人都在往錯(cuò)誤的方向夸大——覺得“哎呀這東西可能有意識”,那我就干脆往另一個(gè)極端去拉扯一下。順著你的話說,我們在論文里也提過,這里面有所謂的“容易問題”(easy problems)。比如,我們認(rèn)為大腦中某種特定的架構(gòu)是產(chǎn)生意識所必需的,像丘腦啊、樹突啊。當(dāng)我們思考這些問題時(shí),腦子里確實(shí)會冒出一個(gè)明確的答案:這些其實(shí)都是“容易問題”,因?yàn)槟阃耆梢栽诖a里把這些結(jié)構(gòu)實(shí)現(xiàn)出來,然后指著它說:“看,有意識了!”

      所以從2022年開始,我一直在追問:有沒有更好的回答?有沒有一個(gè)更復(fù)雜、也更站得住腳的回答?我想,到現(xiàn)在為止,我們至少已經(jīng)有兩篇文章,把這個(gè)想法說得更清楚了一些。一篇是2023年發(fā)表在Trends in Neurosciences上的論文,另一篇是2025年底剛發(fā)表在Neuroscience and Biobehavioral Reviews上的文章。最簡短地說,我們在這些文章里想表達(dá)的是:意識可以是一種計(jì)算,但那是一種極其復(fù)雜的計(jì)算,而且只發(fā)生在生物組織之中。它和大語言模型里正在發(fā)生的一切,相距實(shí)在太遠(yuǎn)了。所以,大語言模型具有意識的先驗(yàn)概率,仍然接近于零。

      Aru, Jaan, Matthew E. Larkum, and James M. Shine. "The feasibility of artificial consciousness through the lens of neuroscience." Trends in neurosciences 46.12 (2023): 1008-1017.

      Milinkovic, Borjan, and Jaan Aru. "On biological and artificial consciousness: A case for biological computationalism." Neuroscience & Biobehavioral Reviews (2025): 106524.

      保羅:你剛提到的那篇25年底的長文,真的深入到了許多非常細(xì)的層面,比如計(jì)算機(jī)究竟是怎樣運(yùn)作的、軟件和硬件是如何區(qū)分的、存儲又是怎樣被單獨(dú)劃分出來的,等等。那篇文章其實(shí)是在很具體地說明,為什么生物系統(tǒng)中那種跨尺度整合的計(jì)算,更應(yīng)該被認(rèn)真看待。而這也帶來了更高程度的復(fù)雜性。

      如果我換一種說法來概括你剛才的意思,那就是:生物系統(tǒng)中的復(fù)雜性比現(xiàn)在的AI高出太多太多了,兩者根本不在一個(gè)量級,所以“AI有沒有意識”這個(gè)問題一開始就不成立。核心就在于“復(fù)雜性”嗎?還是我漏掉了什么?


      我們研究放電,

      可能只是因?yàn)樗钤缒軌虮粶y量

      揚(yáng):“復(fù)雜性”這個(gè)詞,聽上去其實(shí)有點(diǎn)把問題說輕了。但我想,這至少已經(jīng)是重要的第一步。因?yàn)樵谝庾R研究領(lǐng)域里,確實(shí)有很多非常聰明的人,來自認(rèn)知科學(xué)、認(rèn)知神經(jīng)科學(xué)和心理學(xué),可他們對大腦的理解,往往還停留在一個(gè)相當(dāng)基礎(chǔ)的層面。在他們眼里,大腦好像沒啥特別的,無非就是神經(jīng)元和突觸嘛。但你作為神經(jīng)科學(xué)家肯定知道,這只是對大腦極其粗糙的抽象。事實(shí)上,我們研究得越深,就越發(fā)現(xiàn)那些底層的死磕細(xì)節(jié)至關(guān)重要。

      所以第一步就是先承認(rèn):沒錯(cuò),如果你只在“網(wǎng)絡(luò)層面”做抽象,大腦看起來確實(shí)和AI系統(tǒng)挺像的。如果意識僅僅是由網(wǎng)絡(luò)層面決定的,那AI也許有戲。但大腦的復(fù)雜程度遠(yuǎn)超于此。你想想,在人工神經(jīng)網(wǎng)絡(luò)里,一個(gè)“單元”(unit)算什么?不過就是一行代碼,極其簡單的一段代碼。但如果我打開你的頭蓋骨,從你腦子里挑出幾個(gè)神經(jīng)元放在培養(yǎng)皿里,它們可是活生生的,不僅能存活,還在持續(xù)運(yùn)作。如果你往細(xì)胞內(nèi)部看,那里每秒鐘都在發(fā)生著數(shù)以十億計(jì)的生化反應(yīng)。

      也就是說,僅僅在單個(gè)單元這一層面,大腦就存在著人工神經(jīng)網(wǎng)絡(luò)根本無法捕捉的巨大復(fù)雜性。所以有些人說“人工神經(jīng)網(wǎng)絡(luò)已經(jīng)快逼近人腦或鼠腦的復(fù)雜性了”,這簡直太天真了,只能說明他們根本不懂大腦。這說的還只是“復(fù)雜性”這一面。而我們在那兩篇論文里提出、并且在我和Borjan Milinkovic那篇文章里講得更充分的一點(diǎn)是:問題不僅僅在于復(fù)雜,更在于大腦里存在著多個(gè)彼此很不相同的加工尺度。網(wǎng)絡(luò)層面,只不過是其中的一個(gè)切面。

      大腦真正迷人的地方在于,一個(gè)極其微小的事件,比如某個(gè)分子層面的變化,可能一路跨越不同尺度,進(jìn)入網(wǎng)絡(luò)層面,甚至影響行為;而行為反過來又會改變分子層面的狀態(tài)。真正讓我感興趣的復(fù)雜性,恰恰就發(fā)生在這些不同尺度彼此交匯、相互作用的地方。

      我在那兩篇文章里一直想強(qiáng)調(diào)的是:作為科學(xué)家,我們其實(shí)并不理解那些跨越不同尺度發(fā)生的計(jì)算,也并不真正理解這些尺度之間的相互作用。如果我們能把這些弄明白,也許就會離理解意識更近一步。真正的復(fù)雜性就在這里。它不是把同一種東西不斷堆上去,越來越多、越來越多。在AI領(lǐng)域,人們常說的是“把規(guī)模做大”。但問題不在于規(guī)模變大,而在于這種復(fù)雜性本身。

      保羅:也就是說,他們其實(shí)只是在同一個(gè)尺度上不斷把系統(tǒng)做大,對吧?

      揚(yáng):如果你放大的只是網(wǎng)絡(luò)層面,那確實(shí)是這樣。但問題就在于,大腦并不只有網(wǎng)絡(luò)這一層。當(dāng)然,你可以討論網(wǎng)絡(luò)層面到底有多重要;但就我對大腦的研究和思考來說,我們其實(shí)越來越清楚地看到:研究得越深入,就越不得不去理解細(xì)胞層面的效應(yīng)。

      拿記憶,或者工作記憶來說,就是一個(gè)很好的例子。很長一段時(shí)間里,人們都以為,它依賴的是神經(jīng)元持續(xù)不斷的放電活動。但在過去十年、十五年里,我們開始意識到,記憶其實(shí)也可以是“靜默”的,根本不需要放電。這還只是個(gè)例子。如果你把目光放到更廣闊的記憶研究領(lǐng)域,情況也是一樣的。以前大家總覺得,哦,記憶無非就是某種放電模式嘛。可現(xiàn)在,當(dāng)我們聊到“記憶痕跡”(engram)時(shí),關(guān)注的早就不僅是放電模式了,更核心的問題是:底層到底發(fā)生了哪些分子級別的改變?我覺得,意識研究最終也會走到這一步。

      保羅:對我來說,跨尺度的理解幾乎是這個(gè)領(lǐng)域最理想的目標(biāo)之一。很多只在某一個(gè)尺度上工作的人會說:“哎呀,反正我們連這一層都還沒徹底搞明白呢。”所以最安全的做法就是茍?jiān)谧约旱氖孢m區(qū)里,說:“我們得先把這一層研究透了,再去聊什么跨尺度結(jié)合、整合或者互動吧。”這種挫敗感,很大程度上也是因?yàn)槲覀兪掷锔緵]有現(xiàn)成的概念工具或數(shù)學(xué)工具。

      真正能用來研究跨尺度問題的工具,其實(shí)并不多。這是一個(gè)極其困難的問題。我和你一樣,都覺得真正關(guān)鍵的部分恰恰就在這里,因?yàn)樗械膹?fù)雜性正是在這里發(fā)生的。而這也正是最難的一點(diǎn)。說到底,如果我們連單一尺度上的問題都還沒理解清楚,又怎么可能去理解不同尺度之間的相互作用呢?

      揚(yáng):但這恰恰就是我心目中的科學(xué)啊!你不能總挑軟柿子捏,你得去啃那些最硬的骨頭。當(dāng)然啦,我完全理解那些有一整套穩(wěn)妥研究計(jì)劃的人。他們順風(fēng)順?biāo)刂粭l路子,一篇接一篇地在《自然-神經(jīng)科學(xué)》上發(fā)頂刊。我尊重這種做法。但就像我一開始說的,我自己的想法不太一樣。人這一輩子其實(shí)很短的——不是咒你啊,我是說所有人。你真正能干成點(diǎn)事的機(jī)會,其實(shí)就那么幾次。

      所以從我科研生涯剛起步那會兒,我就在想,我要不斷調(diào)整方向,去做那些我覺得足夠復(fù)雜、但又確實(shí)能推進(jìn)一點(diǎn)點(diǎn)的事情。我也真心希望,能有更多科學(xué)家像我們這樣看待這個(gè)問題:沒錯(cuò),它確實(shí)很難;沒錯(cuò),我們?nèi)惫ぞ撸粵]錯(cuò),我們還需要全新的數(shù)學(xué)方法。但也正因?yàn)槿绱耍抛屓藷嵫序v啊!這也正是為什么我們現(xiàn)在、立刻、馬上就得去做這件事。


      真正的復(fù)雜性發(fā)生在尺度之間

      保羅:你剛才那段話里,有很多點(diǎn)都可以繼續(xù)往下說。咱們先順著“尺度”這個(gè)話題往下走一步。按你剛才的說法,好,沒問題。我們可以去研究細(xì)胞層面是怎么和神經(jīng)元群體層面互動的,也可以看看群體活動是怎么反過來限制細(xì)胞活動的。但這說到底,也只是在兩個(gè)尺度之間打轉(zhuǎn)。

      很多人會覺得,一旦你跨到“心理”這個(gè)層面,姑且也把它叫作一個(gè)層面、一個(gè)尺度吧,至少在心理學(xué)語言里常常會這么說,由于涌現(xiàn)之類的問題,那里似乎就會出現(xiàn)一道邊界,而你永遠(yuǎn)無法真正跨越心理與物理之間的鴻溝。

      你剛才聊的那些,本質(zhì)上全都是物理過程(電場、動作電位、細(xì)胞信號傳導(dǎo)等)。在你看來,從物理到心理的這道分水嶺,也能被平滑地整合進(jìn)你的“跨尺度”框架里嗎?還是說,它確實(shí)應(yīng)該像很多人主張的那樣,屬于一個(gè)截然不同的層級?

      揚(yáng):先澄清一下哈,估計(jì)我的一些合作者已經(jīng)在心里罵我了,怪我怎么沒早點(diǎn)把這話說清楚。從某種意義上講,我們甚至?xí)叩酶鼧O端一點(diǎn),直接說:大腦里根本就不存在什么涇渭分明的“層次”。

      把大腦劃分成一個(gè)個(gè)層次,純粹是我們?yōu)榱烁憷碚撚矞惓鰜淼摹?/strong>事實(shí)上,如果你自己就是一個(gè)神經(jīng)元,你接收到的信號本質(zhì)上就是各種分子。你哪知道這玩意兒到底是個(gè)“網(wǎng)絡(luò)級”的信號,還是神經(jīng)遞質(zhì),還是別的什么鬼東西?所以某種程度上,大腦里這些所謂的層次,其實(shí)比大家想象的要糾纏得深得多。

      當(dāng)然了,如果是為了具體操作,比如你說“我們在這個(gè)尺度上做個(gè)測量”,那用“尺度”來思考是完全OK的。但從大腦真實(shí)的運(yùn)作來看,一切都是高度流動的,有時(shí)候你甚至?xí)X得,你根本沒辦法把這些尺度硬生生切開。

      保羅:對,但我們總得切開它們,不然都沒法給咱們研究的東西起名字了。在你和博爾揚(yáng)最近的那篇論文里,我記得你們常用的一種表述是:“不存在某個(gè)享有特權(quán)的尺度,仿佛計(jì)算只發(fā)生在那兒。”但你剛才說的好像又往前邁了一步,你的意思是“根本就沒有層次”。因?yàn)楦鱾€(gè)尺度早就融為一體了,所以我們必須把它看作一個(gè)流動的、跨尺度的整體過程。這么總結(jié)對嗎?

      揚(yáng):對。再說一遍,大家做研究的時(shí)候說“我研究的是這個(gè)尺度”,這沒毛病。但如果回到真實(shí)發(fā)生的神經(jīng)加工過程,只要你仔細(xì)想想一個(gè)神經(jīng)元到底在干嘛、在感受什么,你就會發(fā)現(xiàn),這些尺度真的沒那么涇渭分明。真實(shí)情況其實(shí)要有意思得多。你面對的既有分子層面的東西,也有來自其他神經(jīng)元的電場影響。

      理論上講,電場似乎應(yīng)該比飛過來的分子高出一個(gè)層級吧?但對那個(gè)具體的神經(jīng)元來說,真的有這種高低之分嗎?總之,真實(shí)情況絕對要好玩得多。我覺得這里的核心洞察是:如果你能意識到,“尺度”也許只是我們?yōu)榱朔奖阊芯扛愠鰜淼某橄蟾拍睿谡鎸?shí)的大腦里根本沒那么界限分明,那你的思考視野一下子就被打開了。

      保羅:在我現(xiàn)在的研究里,我經(jīng)常會有種……怎么說呢,挺別扭的感覺。其實(shí)我很喜歡我做的事,也覺得挺好玩的。我每天都在分析神經(jīng)元群體的放電計(jì)數(shù)。但很多時(shí)候我會突然覺得,天吶,我是不是也像那個(gè)笑話里一樣,只是在“路燈底下找鑰匙”?

      我們所有人都在干這事兒:盯著動作電位,數(shù)它們放了多少次電,分析它們之間的統(tǒng)計(jì)學(xué)規(guī)律。這真的是一個(gè)極其狹窄、極其局部的視角,可整個(gè)神經(jīng)科學(xué)界就這么在這個(gè)假設(shè)上狂奔了許多許多年。“哦,放電了!這就是我們該看的東西。”我完全同意你說的,真正重要的是去觀察跨尺度的互動。神經(jīng)元放電也許根本不是核心,它只是一個(gè)很小的切面,但我們卻把所有的資源都砸在了這里。我這可能更像是在發(fā)牢騷,不太像是在提問了。

      揚(yáng):不,你說得很對。如果有人對這種現(xiàn)狀感到奇怪,不妨想想:我們把“放電”作為研究核心,到底有多大程度僅僅是因?yàn)闅v史遺留問題?僅僅是因?yàn)榍拜厒兦『冒l(fā)明了測量放電的方法,于是它就成了一把現(xiàn)成的科學(xué)錘子。假設(shè)在一個(gè)平行宇宙里,人類最先掌握的不是測量放電,而是能干凈利落地測量鈣離子活動。那我們今天關(guān)于大腦如何運(yùn)作的整套理論,絕對會是另一副模樣。

      保羅:這就好比你去研究一片熱帶雨林,剛好有個(gè)人站在林子里拍手,而你唯一能聽見的就是這拍手聲。于是你一拍大腿:“啊!我只要搞懂了這個(gè)拍手聲,就能理解整片雨林了!”這聽起來多少有點(diǎn)荒謬。

      揚(yáng):太對了!完全就是這樣。這個(gè)比喻好。現(xiàn)實(shí)中發(fā)生的事情差不多就是如此。再說一遍,研究放電本身沒問題,但也許我們不該把全部精力都押在上面。我們至少得承認(rèn):我們一直在研究放電,僅僅是因?yàn)闅v史慣性,這并不意味著放電就是智能或意識的核心“硬通貨”。

      保羅:我剛才之所以會岔到那個(gè)話題上,其實(shí)是因?yàn)檫@里有一個(gè)區(qū)別:一種說法是,并不存在某個(gè)享有特殊地位的尺度;而按你的說法,更進(jìn)一步,似乎是根本不存在那種清晰劃開的層次。或者換句話說,正因?yàn)椴煌叨戎g存在復(fù)雜的相互作用,它們之間本來就沒有明確邊界。我也不知道還能怎么更準(zhǔn)確地表述這個(gè)意思。再往前一點(diǎn),我其實(shí)還問過你另一個(gè)問題,像細(xì)胞、神經(jīng)元群體、亞細(xì)胞過程這些實(shí)現(xiàn)層面的細(xì)節(jié),和我們所說的心理現(xiàn)象、心智現(xiàn)象之間,到底是什么關(guān)系?在你看來,它們也都屬于同一條連續(xù)譜上的不同部分嗎?

      如果我們的心理世界是從這種跨尺度加工中涌現(xiàn)出來的,或者至少與之緊密相關(guān),不管你愿意怎么表述,那你覺得這里真的有一道清楚的分界嗎?還是說,它其實(shí)也只是這一連續(xù)過程中的一部分?

      揚(yáng):這是個(gè)非常好的問題。我有一位很聰明的同事也吐槽過我:“你看,你當(dāng)然可以說萬物都是糾纏在一起的,但‘意識’本身,難道不是和大腦里的其他過程分得清清楚楚嗎?”我得承認(rèn),這個(gè)反問一針見血。至少就目前的表象而言,從我們的直觀感受來看,我確實(shí)沒法硬說意識和其他物理過程是完美交織在一起的。對于這個(gè)難題,我現(xiàn)在還沒有一個(gè)拿得出手的答案。

      保羅:那如果咱們現(xiàn)在已經(jīng)灌了三杯啤酒,我非要把你逼到墻角問一句:你覺得是大腦“產(chǎn)生”了意識,還是說意識本身就是某種更基礎(chǔ)的存在?你會怎么回答?當(dāng)然,我也知道,這并不是僅有的兩種選項(xiàng)。

      揚(yáng):這又繞回我一開始說的了,我一直挺引以為傲的一點(diǎn)就是,我心態(tài)很開放,隨時(shí)愿意改變想法。在很長一段時(shí)間里,尤其是我早年的時(shí)候,我會毫不猶豫地說:是大腦產(chǎn)生了意識。

      保羅:我們剛學(xué)神經(jīng)科學(xué)的時(shí)候,聽到的基本就是這一套。

      揚(yáng):對。不過現(xiàn)在,我會承認(rèn)像托諾尼(Tononi)、科赫(Koch)這些人說的確實(shí)有道理——意識也許真的是某類過程的一種基本屬性。不過,他們后面延伸出來的那些論證,我可能就不敢茍同了。如果意識真的是一種基本屬性,那我更傾向于認(rèn)為,它是一個(gè)“不同尺度相互作用的系統(tǒng)”所具備的基本屬性。

      保羅:還有一點(diǎn)我想再回過頭來說。你剛才提到,人工系統(tǒng)本質(zhì)上只是用數(shù)字方式實(shí)現(xiàn)了“網(wǎng)絡(luò)層”。我舉雙手贊同。但AI最讓人細(xì)思極恐的一點(diǎn)是:在剝離了所有生物學(xué)細(xì)節(jié)——不僅是單細(xì)胞層面的細(xì)節(jié),還包括群體動態(tài)、跨尺度、跨層級的復(fù)雜互動之后,它們在執(zhí)行某些功能時(shí),居然還能表現(xiàn)得如此“智能”。

      我不知道你怎么看,你覺得“智能”和“意識”是完全正交(互不相干)的兩個(gè)維度,還是說它們之間有某種聯(lián)系?我目前的直覺是,它們是完全正交的。不管怎么說,AI在缺乏這么多生物學(xué)實(shí)現(xiàn)細(xì)節(jié)的情況下,居然還能完成這么多功能,這本身就夠嚇人的了。就這一點(diǎn)而言,你是怎么理解智能和意識之間關(guān)系的?

      揚(yáng):首先,這些系統(tǒng)居然能解決這么多任務(wù),確實(shí)已經(jīng)非常驚人了。但有一點(diǎn)我們必須時(shí)刻牢記——這也是我經(jīng)常拿來敲打我學(xué)生的——這些AI系統(tǒng)消耗的能量,可能比咱們這顆三四十歲的人類大腦高出幾百萬倍都不止啊。考慮到這一點(diǎn),是的,目前我非常支持阿尼爾·塞思(Anil Seth)一直在傳達(dá)的觀點(diǎn):就像你說的,它們可以是正交的。我們不確定它們是不是絕對意義上的100%正交,也許多少有點(diǎn)聯(lián)系,但意識和智能,絕對不是同一回事。如果有人覺得,“哦,這些系統(tǒng)越來越聰明了,所以總有一天它們會自動涌現(xiàn)出意識”,那問題就大了。不,它們不會的。

      保羅:這實(shí)在太天真了。

      揚(yáng):對。我剛才也稍微提到過,現(xiàn)在的問題是,這幫人里有不少拿著天價(jià)高薪,被大家奉為大神。可他們壓根兒就沒花時(shí)間去搞明白大腦到底有多復(fù)雜。正因?yàn)椴欢麄兩踔炼家庾R不到自己的想法有多天真。這真的很可悲。我經(jīng)常覺得,在現(xiàn)在這種大環(huán)境下,神經(jīng)科學(xué)的聲音根本沒人聽。大家一聊起意識,全憑自己的腦洞瞎猜。這也是研究意識最讓人心累的地方。所以我有時(shí)候會刻意跟這個(gè)圈子保持點(diǎn)距離,因?yàn)槊總€(gè)人都在往里塞私貨,而我現(xiàn)在只想安安靜靜做點(diǎn)實(shí)打?qū)嵉目茖W(xué)。

      保羅:這點(diǎn)挺有意思的。我剛開始做這檔播客的時(shí)候,見誰都問意識問題。結(jié)果大概有75% 的嘉賓會說:“哎呀,我手頭的活兒都干不完呢。意識這玩意兒水太深了,我現(xiàn)在研究的課題既有趣又重要,所以對意識我真沒啥可說的。”說實(shí)話,我挺尊重這種態(tài)度的。神經(jīng)科學(xué)家老是抱怨計(jì)算機(jī)圈和AI圈不聽我們的。但我的感覺是,人家現(xiàn)在可能壓根兒就不覺得需要我們。

      揚(yáng):對,他們并不需要。不過最近又刮起了一陣新風(fēng)氣,大家開始大談特談“AI福利”、“AI意識”,搞得像個(gè)重大議題似的。但我有時(shí)候覺得,這種討論其實(shí)并不真誠。它本質(zhì)上就是個(gè)蹭熱點(diǎn)的話題,你聊這個(gè)就能被大廠請去演講,就能拿高薪。但從科學(xué)嚴(yán)謹(jǐn)性的角度來說,這么言之鑿鑿地談?wù)撨@些,其實(shí)是不負(fù)責(zé)任的。

      當(dāng)然,反過來說,如果一個(gè)人并沒有神經(jīng)科學(xué)背景,也不了解這些知識,那他也許并不是在故意胡說。對他來說,那種判斷也許仍然是“真誠”的,因?yàn)樗⒉皇菓{空捏造,而是在他自己的那套知識框架里,這些系統(tǒng)看起來的確像是可能有意識的。但這樣一來,責(zé)任就落到了我們這些神經(jīng)科學(xué)家身上。我們得努力把一個(gè)更清楚的信息傳達(dá)出去,那就是,大腦本身要復(fù)雜得多,也有趣得多。

      保羅:但與此同時(shí),神經(jīng)科學(xué)家固然有很多可以貢獻(xiàn)的東西,也同樣應(yīng)該保持謙遜,因?yàn)樾闹侵两褚廊皇莻€(gè)謎。

      揚(yáng):這正是關(guān)鍵所在。每個(gè)人都該保持謙遜。如果我聽起來不像一個(gè)謙遜的人,那我先說聲抱歉。但就這個(gè)問題而言,我已經(jīng)研究了22年,我內(nèi)心是非常敬畏的。

      保羅:是的。只要有人說“我已經(jīng)明確知道這個(gè)問題的答案了”,我就會立刻警覺起來。

      揚(yáng):對。其實(shí)大腦中的很多問題都是這樣。我們不知道的東西,實(shí)在太多了。我也總是這樣跟年輕科學(xué)家說:先保持謙遜。努力去弄明白一些事情,但不要輕易相信那些說自己“真的知道答案”的人,因?yàn)樵诖竽X這個(gè)領(lǐng)域里,太多東西都還是謎。也不是所有東西都如此,至少那些真正有意思的問題,大多仍然如此。而這恰恰是件好事。對年輕科學(xué)家來說如此,對我和你來說,其實(shí)也一樣。

      保羅:你一直很著迷于跨尺度地研究大腦和心智。你之前也提過,你的熱情所在就是把那些極其底層的細(xì)節(jié)——比如亞細(xì)胞過程、樹突等等——和高階的認(rèn)知能力、認(rèn)知功能連接起來。咱們剛才也聊到,這簡直是這個(gè)領(lǐng)域的終極夢想,雖然我們現(xiàn)在連趁手的工具都沒有,但也正因如此才刺激。你之前和Matthew Larkum一起研究過樹突整合理論。馬修就是那種極其看重底層死磕細(xì)節(jié)的人。我想問問,在這些研究里,你覺得待在哪個(gè)區(qū)域最讓你感到如魚得水、最讓你興奮?不過這問題可能有點(diǎn)蠢,因?yàn)槟阏嬲d奮的恰恰是“搭橋”這個(gè)過程。你接著說吧

      揚(yáng):我想,這其實(shí)已經(jīng)是答案了。我的工作地帶,恰好就在認(rèn)知科學(xué)、神經(jīng)科學(xué)和人工智能的交匯處。在這三個(gè)領(lǐng)域里,每一個(gè)都有大把比我聰明得多的人。但他們中的絕大多數(shù),壓根兒就不會去想怎么把這些尺度連起來。從來不想,也不關(guān)心。但我就是那種特別喜歡“搭橋”的人。我喜歡把這些看似不搭界的東西拼到一起。有時(shí)候同行會吐槽我:“這太扯了,你想得也太遠(yuǎn)了吧,咱們不該搞這些虛的。”

      但到目前為止,我也很幸運(yùn),遇到過一些編輯和審稿人,他們會說:“這想法是有點(diǎn)瘋狂,但如果它能推動科學(xué)往前走,那這種‘搭橋’的嘗試就是值得的。”我覺得,我也希望大家能感受到,對我來說,這才是神經(jīng)科學(xué)和理解大腦的終極目標(biāo)——去打通這些壁壘。也許現(xiàn)在做這事兒還有點(diǎn)早,但總得有人邁出第一步吧。至少對我來說,這是最好玩的事。

      保羅:比如在AI領(lǐng)域,現(xiàn)在幾乎已經(jīng)形成了一整套“指出AI做不到什么”的固定套路。無論你身處哪個(gè)研究領(lǐng)域,要挑出問題其實(shí)都不難。說到底,拆解和批評,總是比真正建設(shè)要容易。但到了某個(gè)時(shí)候,我們還是得真正動手去解決這些問題。對你來說,指出AI缺了什么、解釋為什么整合這些東西很重要,這是一碼事;但真正動手去解決問題,又是另一碼事。你是怎么在這兩者之間找平衡的?

      揚(yáng):某種意義上,我覺得自己那種“提出個(gè)好點(diǎn)子,然后就沒人管了”的概念性論文寫得有點(diǎn)太多了。大家都在忙自己的事,根本沒人去跟進(jìn)。所以這次能和Borjan Milinkovic合作,我真的特別開心。Borjan是個(gè)非常硬核的人,他不僅想搞概念,還想把這套東西在數(shù)學(xué)上形式化,甚至試著把它跑出來。我太喜歡這種合作了,因?yàn)槔鲜峭A粼凇拔矣袀€(gè)點(diǎn)子”這一步,真的會讓我抓狂。

      因?yàn)閷ξ襾碚f,這里面有一個(gè)核心訴求:在意識科學(xué)領(lǐng)域,我們需要一種“像整合信息理論(IIT),但又不是IIT”的新理論。我們需要那種在數(shù)學(xué)基礎(chǔ)和形式化上能和IIT抗衡,但切入視角完全不同的理論。現(xiàn)在的情況是,只要你對意識和數(shù)學(xué)感興趣,你基本上只能去搞IIT,因?yàn)槟鞘悄壳拔ㄒ荒茏屇阃茖?dǎo)數(shù)學(xué)公式的地方。那是鎮(zhèn)上唯一的一家賭場。這對科學(xué)來說是個(gè)大問題。

      我們需要發(fā)展出另一種理論,或者很多別的理論,也能像整合信息理論那樣,讓人真正去研究這些數(shù)學(xué)性質(zhì)。因?yàn)槲曳浅O嘈牛茖W(xué)需要的是思想上的多樣性。到最后,整合信息理論也許真的是對的,但如果我們手里只有它這一套,我們反而到不了真正的答案。我們需要別的理論。這件事極其困難,因?yàn)檎闲畔⒗碚撘呀?jīng)領(lǐng)先起跑了二十多年,甚至可能還不止。但除此之外,沒有別的路可走。

      保羅:我同意。我剛才其實(shí)應(yīng)該修正一下自己的說法,我把事情簡單粗暴地分成了“指出問題”和“解決問題”兩半。但實(shí)際上,真正讓我興奮、讓我最開心的,是去界定“問題空間”(problem space)到底是什么。很少有人愿意在這上面花時(shí)間,而你恰恰就在做這個(gè)。你不是在單純地挑毛病,你是在追問:“到底什么才是正確的問題?”愿意認(rèn)真思考這一點(diǎn)的人,其實(shí)并不多。

      揚(yáng):對,首先要問的就是:這個(gè)問題到底還可以從哪些角度進(jìn)入,或者像你說的那樣,它的問題空間究竟是什么。因?yàn)檫@種情況其實(shí)在我們的生活中經(jīng)常發(fā)生。這也和“頓悟”有關(guān)。很多時(shí)候,我們會被困在一種解法里,甚至根本看不到其實(shí)還有別的可能。這時(shí)候,我們就需要另一個(gè)科學(xué)家,或者另一個(gè)人,來提醒一句:其實(shí)你也可以換個(gè)角度看。而這句話,也許就會一下子打開第三種可能、第四種可能。至少在我看來,科學(xué)本來就應(yīng)該這樣運(yùn)作。頓悟是這樣發(fā)生的,我們解決問題的過程也是這樣。


      載體不是裝算法的盒子,

      它參與構(gòu)成算法

      保羅:順著這個(gè)思路,界定問題空間本身就是最大的挑戰(zhàn)之一。比如,我們很多神經(jīng)科學(xué)家都會默認(rèn)接受一個(gè)前提:大腦是在做計(jì)算的,它是在執(zhí)行某種算法的。如果我隨便拉個(gè)同事說:“嘿,我其實(shí)不覺得大腦在執(zhí)行算法。”他們估計(jì)理都不想理我,因?yàn)榇蠹以缇捅贿@套框架焊死了。大腦做計(jì)算、神經(jīng)元群體通過算法實(shí)現(xiàn)計(jì)算——比如馬爾(Marr)的那套層次分析法——這種假設(shè)已經(jīng)根深蒂固到讓人根本無法跳出盒子思考了。

      揚(yáng):這確實(shí)是個(gè)問題。當(dāng)我沿著這條思路去想意識,去想“意識是不是一種計(jì)算”時(shí),我逐漸意識到,有一點(diǎn)始終必須分清,那就是:計(jì)算本身也有很多不同類型。可大多數(shù)人在談這些問題時(shí),想法往往還是相當(dāng)樸素的。他們會覺得,數(shù)字計(jì)算和神經(jīng)計(jì)算本質(zhì)上就是一回事。尤其一旦把討論收縮到放電之類的問題上,這種誤解就更容易出現(xiàn),仿佛兩者完全等同。但你也可以換一種方式來想,這也是我們一直在強(qiáng)調(diào)的。生物組織當(dāng)然也在進(jìn)行某種計(jì)算,只不過這種計(jì)算和數(shù)字計(jì)算非常不同,因?yàn)槟銦o法把它干凈利落地從它的物質(zhì)載體中分離出來。

      因?yàn)橹辽僭谙喈?dāng)大程度上,載體本身就是算法的一部分。如果載體本身在很大程度上就構(gòu)成了算法,那你就不可能把它完整拆出來,再干凈地移植到機(jī)器上,或者做成別的什么東西。所以我覺得,只要我們談到“計(jì)算”,一個(gè)特別有用的區(qū)分就是,先問清楚你說的到底是那種樸素意義上的計(jì)算,還是這種發(fā)生在生物組織中的計(jì)算。我想,現(xiàn)在也越來越多的人開始這樣想了。

      保羅:你能不能再多解釋一點(diǎn)“載體就是算法”這句話?我其實(shí)是認(rèn)同這個(gè)說法的,只是我自己也不太確定,到底該怎么把它說清楚。

      揚(yáng):說實(shí)話,我也不太知道該怎么把這件事說清楚。不過,也許可以借一個(gè)我們都很熟悉的例子來想,比如基因和DNA復(fù)制。當(dāng)然,你完全可以把它寫成一種字母到字母的替換規(guī)則。但這并不意味著,你光靠那套字母規(guī)則就能造出一個(gè)細(xì)胞。因?yàn)樵谏锝M織里,在真實(shí)的細(xì)胞中,這種堿基配對和復(fù)制的“算法”本身,也深深依賴于這些成分是怎樣被組織起來的,整個(gè)系統(tǒng)又是怎樣被構(gòu)造出來的。

      我可能解釋得還不夠好,但關(guān)鍵就在于:算法的一部分,其實(shí)已經(jīng)包含在載體之中了。而一旦把這個(gè)思路放到大腦里,去想神經(jīng)計(jì)算,我們大概也能很容易找到類似的例子。

      保羅:我通常會把算法想成某種柏拉圖式的理想形式,或者說,一種數(shù)學(xué)結(jié)構(gòu)。總之,它似乎是和具體載體分開的。但按你剛才的說法,一旦你真的要把它實(shí)現(xiàn)到某個(gè)載體里,這個(gè)載體本身幾乎就必然會成為處理過程的一部分。如果還要把它叫作“算法”的話,那載體本身也得算進(jìn)這個(gè)算法里。

      揚(yáng):你可以這樣理解,其實(shí)也有別的學(xué)者表達(dá)過類似的想法。比如說,如果你面對的是一個(gè)大腦,那么它本身的構(gòu)造、其中分子的組織方式、它如何放電、它如何產(chǎn)生電場,這一切都會限制你究竟可能擁有哪些類型的算法。說到底,它最終會和某些算法變得無法分開。因?yàn)檫@些算法已經(jīng)被大腦這種系統(tǒng)所能做到的事情深深塑造了。這個(gè)系統(tǒng)本來能調(diào)用的資源、機(jī)制和約束,就是有限的。

      這也是為什么我一直覺得,你沒法把算法和它的實(shí)現(xiàn)方式干凈地剝離開來。當(dāng)然,馬爾當(dāng)年提出那套框架時(shí),確實(shí)非常了不起。但到了某個(gè)時(shí)候,我們這些做科學(xué)的人也得繼續(xù)往前走,并承認(rèn):這是一套非常精彩的想法,在很多場景里都成立,但在另一些場景里,它并不成立。我們不該總是想當(dāng)然地認(rèn)為,算法可以和大腦真正正在做的事情清楚地分開。

      保羅:你剛才提到了一個(gè)對我來說很關(guān)鍵的詞,也是我最近一直在反復(fù)琢磨的詞,那就是“約束”。它和生物過程的組織方式密切相關(guān),而我現(xiàn)在越來越意識到,這個(gè)概念非常重要。比如拿發(fā)動機(jī)來說,如果你把活塞工作所依賴的那些邊界拿掉,把原本用來壓縮空氣、推動運(yùn)轉(zhuǎn)的結(jié)構(gòu)去掉,壓力就建立不起來,系統(tǒng)也就無法做功。抱歉,我剛才對活塞原理的解釋可能很不高明,但意思是,約束在這里是絕對必要的。我剛才舉的是一個(gè)機(jī)械系統(tǒng)的比喻,但類似的事情其實(shí)在各個(gè)尺度、每時(shí)每刻都在發(fā)生,不管是在細(xì)胞里,在大腦里,還是在這些潮濕的生物系統(tǒng)中。

      我現(xiàn)在越來越覺得,在這些復(fù)雜而有組織的系統(tǒng)里,真正對系統(tǒng)產(chǎn)生巨大因果作用的,恰恰是各種約束條件,而不是我們通常想象的那種像臺球碰撞一樣的直接因果鏈條。系統(tǒng)里當(dāng)然有某種能量在流動,但真正決定這股能量如何流經(jīng)整個(gè)系統(tǒng)的,主要還是那些約束。我不知道你怎么看這個(gè)問題。我知道你也會引用一些理論生物學(xué)里關(guān)于生物組織的研究。我剛才這番話可能還不太算一個(gè)真正的問題,不過我大概想問的是:你會怎么理解這件事?

      揚(yáng):我覺得你這樣講其實(shí)挺好的。你這么聰明,干嘛非得只負(fù)責(zé)提問呢?說不定咱們該反客為主,現(xiàn)在輪到我來采訪你了。

      保羅:別,這正是我最害怕的事。我經(jīng)常會擔(dān)心,自己一說就說太多,講著講著最后反而忘了自己到底想問什么。然后腦子里就一片空白。

      揚(yáng):我想,你做這檔播客,其實(shí)也是在替自己把很多問題一點(diǎn)點(diǎn)想明白。這不只是提問,也是一個(gè)不斷發(fā)現(xiàn)“啊,原來這又繞回了我一直在想的那個(gè)問題:約束真的非常重要”的過程。的確,我們完全可以這樣理解:實(shí)現(xiàn)方式會如此強(qiáng)烈地約束算法,以至于到最后,兩者幾乎已經(jīng)分不開了。

      保羅:對,我其實(shí)就是在想這個(gè)。我只是想確認(rèn)一下,你是不是也是這么理解的。因?yàn)槟阋惶岬健凹s束”這個(gè)詞,我腦子里立刻冒出來的就是:一旦你把某種“算法”放進(jìn)生物載體里,那里幾乎處處都是約束。也許也正是在這個(gè)意義上,我才開始理解“載體就是算法”這句話。我剛才其實(shí)就是在試著把這幾件事串起來,也就是約束、組織形式,以及“載體就是算法”這個(gè)說法之間的關(guān)系。問題的一部分在于,我們其實(shí)還沒有足夠合適的詞匯和概念框架,來真正把這些事情說清楚。

      揚(yáng):對,不只是詞匯和概念,還包括數(shù)學(xué)工具,甚至一整套方法。也正因?yàn)槿绱耍覀儾鸥鼞?yīng)該去把這些東西發(fā)展出來。當(dāng)然,這很難,連為這種研究申請經(jīng)費(fèi)都很難。但說到底,這恰恰就是科學(xué),而這也正是當(dāng)下最缺的東西,所以我們必須去做。

      保羅:不過,話說回來,一想到“智能和意識都存在于大腦皮層里”,難道你不會覺得心里挺踏實(shí)的嗎?你總覺得這至少是個(gè)可靠的立足點(diǎn)吧?

      揚(yáng):哦,這可就是典型的“皮層沙文主義”了,妥妥的皮層沙文主義。

      保羅:哦,原來這就叫這個(gè)嗎?好吧,我還真沒意識到。

      揚(yáng):這就是皮層沙文主義。這可得說你一句。


      被低估的丘腦,

      可能才是理解意識的關(guān)鍵樞紐

      保羅:所以你的意思是,丘腦其實(shí)在這里起著關(guān)鍵作用,是嗎?在你看來,那些可能對意識很重要、也關(guān)系到我們?nèi)绾卫斫獯竽X產(chǎn)生智能和心智現(xiàn)象的關(guān)鍵因素之一,就是丘腦與皮層之間的環(huán)路,而且還不只是丘腦本身,也包括其他一些皮層下結(jié)構(gòu)。你能不能具體講講,為什么丘腦—皮層環(huán)路這么重要?以及,為什么它們長期以來似乎并沒有得到應(yīng)有的重視?

      揚(yáng):對,某種意義上確實(shí)如此。不過也不能說它們完全被忽視了。比如說,魯?shù)婪颉ぢ约{斯(Rodolfo Llinás)就做過非常出色的工作,而且很早就提出,丘腦—皮層系統(tǒng)可能正是理解意識的關(guān)鍵。

      托諾尼(Tononi)也很早就注意到了這一點(diǎn)。整合信息理論最早期的幾篇論文,討論的就是丘腦—皮層系統(tǒng),以及它為什么會不同于小腦。所以其實(shí),大家并不是完全不知道這件事。而現(xiàn)在,尤其是在馬修·拉庫姆實(shí)驗(yàn)室那些研究的基礎(chǔ)上,我們想把這條思路再往前推進(jìn)一點(diǎn),更具體地解釋,丘腦—皮層環(huán)路到底關(guān)鍵在什么地方。

      馬修大概也在你的節(jié)目里講過,他們實(shí)驗(yàn)室的鈴木基高(Mototaka Suzuki)發(fā)現(xiàn),在這些樹突上,實(shí)際上存在著一種類似“開關(guān)”的機(jī)制,可以讓樹突彼此解耦。而由于第五層那些大型神經(jīng)元同時(shí)是丘腦—皮層環(huán)路和皮層—皮層環(huán)路中的關(guān)鍵組成部分,一旦你在樹突層面實(shí)現(xiàn)這種解耦,實(shí)際上被解耦的就不只是局部,而是整個(gè)丘腦—皮層系統(tǒng)。

      鈴木基高有了這個(gè)開關(guān),想要“開啟”或“關(guān)閉”意識,或者對整個(gè)大腦的加工過程進(jìn)行極其微操的調(diào)控,就變得非常容易了。順著這個(gè)思路想,你就會發(fā)現(xiàn)丘腦的位置特別有意思:它既是整個(gè)環(huán)路的一部分,同時(shí)又是個(gè)“控制臺”。因?yàn)殁從竞婉R修的研究表明,正是來自丘腦的其他信號連接,在控制著這種樹突的整合。我這么解釋,聽起來會不會有點(diǎn)怪?

      保羅:是有點(diǎn)怪,但也很酷。(笑)

      揚(yáng):既然你知道丘腦在調(diào)控這種互動,你就會意識到,哇,丘腦在大腦里的地位真的太特殊了。它接收所有皮層下結(jié)構(gòu)的信息,也接收所有皮層的信息。而且,它還能實(shí)質(zhì)性地改變皮層里正在發(fā)生的事情。這時(shí)候你就會恍然大悟:真正坐在“駕駛座”上的,其實(shí)未必是大腦皮層。某種程度上,丘腦完全有能力掌控皮層里發(fā)生的一切。當(dāng)我們開始意識到這一點(diǎn)時(shí),再看解剖學(xué)結(jié)構(gòu)就覺得理所當(dāng)然了:皮層的每一個(gè)區(qū)域都會直接向丘腦發(fā)送信號,而丘腦也能反過來控制皮層的每一個(gè)區(qū)域。

      于是我們就開始問:為什么我們總要把大腦想成一個(gè)“很深”的系統(tǒng)?換個(gè)角度看,尤其是從丘腦的角度來看,大腦其實(shí)是相當(dāng)“淺”的,因?yàn)樵谇鹉X那里,整個(gè)皮層幾乎就像一整張鋪展開來的薄片,橫跨整個(gè)大腦。也正因?yàn)槿绱耍覀兒髞韺懥四瞧撐摹洞竽X到底有多“深”?》(How Deep Is the Brain?)。不過我當(dāng)時(shí)其實(shí)一直在試圖說服我的合作者,標(biāo)題應(yīng)該改成《你的大腦到底有多“深”?》(How Deep Is Your Brain?),因?yàn)樗脤?yīng)接招合唱團(tuán)(Take That)的一首老歌。

      保羅:等等,是哪首歌?

      揚(yáng):我就不唱了,那首歌是接招合唱團(tuán)(Take That)的《你的愛有多深》(How Deep Is Your Love)。你沒聽過也沒關(guān)系,我其實(shí)也不該暴露我知道這首歌的。估計(jì)聽眾里也沒幾個(gè)人知道,不過它確實(shí)是首經(jīng)典。

      保羅:而且從傳播角度看,這個(gè)標(biāo)題也更好,因?yàn)槿藗円豢吹骄蜁耄叮恰拔业拇竽X”。好,所以你剛才其實(shí)是在說那篇論文,也順帶解釋了一些細(xì)節(jié),說明為什么你們會把它稱作“淺腦假說”。我知道,事后回頭看,你可能會覺得這個(gè)叫法未必最理想。它的大致意思是這樣,核心在于丘腦。

      在大腦皮層里,存在著許多所謂的“皮層柱”。它們在不同區(qū)域之間當(dāng)然會有差異,但彼此又足夠相似,所以我們可以把它們看成一種重復(fù)出現(xiàn)的加工單元。而這些皮層柱,又由不同層次構(gòu)成。其中在第五層,你會看到一些很大的錐體神經(jīng)元。之所以叫“錐體”,是因?yàn)樗鼈兒艽螅螤钣窒皴F體。這些神經(jīng)元會向下投射到皮層下區(qū)域,也會投射到脊髓。它們構(gòu)成了皮層柱最主要的輸出通路。

      同時(shí),它們還帶有一種叫作“頂樹突”的結(jié)構(gòu),會向上延伸到皮層較淺的層次,而那些位置會接收到多種反饋信號,其中就包括來自丘腦—皮層環(huán)路的反饋,也包括來自其他皮層柱和某些皮層下區(qū)域的反饋。這些神經(jīng)元還會向下投射到丘腦,而丘腦隨后又會把信號返回皮層,這樣就形成了一個(gè)環(huán)路。也就是說,這些神經(jīng)元實(shí)際上同時(shí)接收著來自不同輸入源、不同情境的信息。這只是對其中基礎(chǔ)生物學(xué)結(jié)構(gòu)的一個(gè)非常簡略的說明。而“淺腦”這個(gè)說法真正想表達(dá)的是......你在笑。是不是我剛才哪里講漏了,或者講得不對?

      揚(yáng):我只是在想,你這個(gè)解釋真的比我剛才講得更簡單嗎?

      保羅:當(dāng)然沒有。這種事一講起來,就會立刻發(fā)現(xiàn),糟了,自己已經(jīng)陷進(jìn)細(xì)節(jié)里了。不過總之,關(guān)鍵在于這些會向外投射的大型神經(jīng)元。“淺腦”這個(gè)說法真正想表達(dá)的是,整個(gè)皮層里其實(shí)遍布著這種重復(fù)出現(xiàn)的結(jié)構(gòu),也就是皮層柱。你可以把它理解成某種統(tǒng)一的“層”。當(dāng)然,我們平時(shí)更習(xí)慣把大腦想成一個(gè)層級結(jié)構(gòu)。哪怕只是在皮層內(nèi)部,我們也會從較早期的感覺加工,一路往后推到越來越抽象的加工,再到前額葉,仿佛那里的一切都變得高度抽象起來。所以我們通常會把大腦想成一種非常“深”的架構(gòu),就像深度神經(jīng)網(wǎng)絡(luò)那樣。從這個(gè)意義上說,它當(dāng)然是“深”的。

      但你的觀點(diǎn)是,我們也可以換個(gè)視角,把整個(gè)皮層看作扁平的“一層”,它們?nèi)纪渡涞酵粋€(gè)區(qū)域——丘腦。而丘腦就像是一個(gè)控制臺,它能決定一個(gè)皮層柱是繼續(xù)保持環(huán)路,還是切斷連接。從這個(gè)意義上說,大腦就是“淺”的。你看,我這個(gè)高屋建瓴的總結(jié)怎么樣?

      揚(yáng):很好,這就是最核心的意思。我想,這個(gè)標(biāo)題真正的問題在于,我們把它叫作“淺腦假說”。但從某種意義上說,它根本不是什么“假說”,因?yàn)檫@本來就是解剖事實(shí)。這里并不存在什么猜測。它之所以如此,并不是一種推斷,而就是解剖結(jié)構(gòu)本身如此。不管是在初級視皮層V1,還是在前額葉皮層,每一個(gè)皮層柱都會直接向高階丘腦發(fā)送輸入。事情本來就是這樣,很直接。當(dāng)然,你還是可以繼續(xù)討論,“淺”這個(gè)詞到底是不是最合適。但從某種意義上說,這正是我們在那篇論文里想表達(dá)的:這不是什么猜想,也不只是某種理論而已。這就是事實(shí)。

      保羅:我倒是挺喜歡“你的大腦是淺的”這種說法,有點(diǎn)像尼克·查特(Nick Chater)那本《心智是平的》(The Mind Is Flat)。

      揚(yáng):對,尼克·查特。

      保羅:對,說到底也還是更利于傳播而已。

      揚(yáng):我的意思是,你總不能把那個(gè)“小人”直接塞進(jìn)丘腦里,對吧?

      保羅:對,當(dāng)然不能。

      揚(yáng):更準(zhǔn)確的說法應(yīng)該是,大腦當(dāng)然是一個(gè)復(fù)雜的動力學(xué)系統(tǒng),但丘腦有點(diǎn)像一個(gè)中央控制樞紐。在那里,信息可以被分配、轉(zhuǎn)送,也可以更集中地受到某種調(diào)控。至少在這個(gè)動力學(xué)系統(tǒng)里,丘腦是一個(gè)特別適合承擔(dān)這類功能的位置。

      因?yàn)榫拖裎覄偛耪f的,不只是皮層會向丘腦發(fā)送輸入,幾乎所有皮層下區(qū)域也都會把信息送到這里。某種意義上,很多信息最后都會以這樣那樣的方式匯聚到丘腦。

      所以,丘腦也許可以被看作一個(gè)非常有意思的中心角色。這也是為什么我愿意把它想成某種“指揮者”。當(dāng)然,這里的“指揮者”并不是說丘腦里真有一個(gè)發(fā)號施令的小人,而是說,在這個(gè)動力學(xué)系統(tǒng)中,丘腦確實(shí)像一個(gè)可以統(tǒng)籌協(xié)調(diào)的地方,某種程度上,它讓大腦里的不同部分能夠彼此對上節(jié)奏、保持一致。

      保羅:如果要把你這個(gè)看法和傳統(tǒng)的丘腦觀做一個(gè)對照,那么無論你剛才用什么詞來描述丘腦的作用,有一點(diǎn)都很明確:丘腦并不只是大腦里的一個(gè)“中繼站”。但在神經(jīng)科學(xué)的很大一部分傳統(tǒng)中,人們長期以來確實(shí)就是這么理解它的。當(dāng)然,很多神經(jīng)通路的確要經(jīng)過丘腦,才能把信息送往大腦的下一個(gè)區(qū)域,所以人們才會覺得,它不過是在做信息中轉(zhuǎn)而已。可實(shí)際上,它扮演的是一個(gè)積極得多、主動得多的角色。而我們現(xiàn)在要做的,正是進(jìn)一步弄清楚,這種角色究竟是什么。

      揚(yáng):對,正是這樣。接下來我們也會盡量去做相關(guān)實(shí)驗(yàn)。我的朋友鈴木基高就在做這方面的實(shí)驗(yàn),另外還有不少人也在做非常出色的工作。我們認(rèn)為,關(guān)于丘腦如何在皮層中承擔(dān)信息分配與調(diào)控作用,還有很多東西有待弄清。而且,再說一次,我們真的應(yīng)該少一點(diǎn)這種“皮層沙文主義”,不要總把皮層想成那個(gè)什么都包辦的“主角”。更準(zhǔn)確地說,皮層也許只是一個(gè)非常方便的計(jì)算空間,而真正調(diào)動、利用它的,還有別的參與者。


      機(jī)器意識并非原則上不可能

      保羅:你現(xiàn)在怎么看“人工意識”這件事的前景?難道只要把丘腦—皮層環(huán)路實(shí)現(xiàn)出來,我們就算走到了那一步嗎?還是說,我們必須先弄清楚這種大規(guī)模的跨尺度整合,才談得上接近人工意識?你現(xiàn)在如何理解實(shí)現(xiàn)人工意識的可能性?如果這件事確實(shí)有可能,那又該從什么方向入手?從我們現(xiàn)在所在的位置出發(fā),第一步應(yīng)該是什么?

      揚(yáng):我得承認(rèn)一件事。等我真正開始理解大語言模型和當(dāng)代AI系統(tǒng)之后,我很快就意識到,我們原先那種想法其實(shí)是守不住的。也就是說,我們不能再長期堅(jiān)持那種看法,仿佛只要有樹突整合、只要有丘腦—皮層整合,就足以解釋意識。因?yàn)檫@類東西,從原則上說,是可以用數(shù)字方式實(shí)現(xiàn)出來的,至少可以做到某種近似。

      所以,正如我前面已經(jīng)稍微提到的,大概從2022年初開始,我馬上就開始去想另一個(gè)問題:我們真正缺掉的、更根本的東西到底是什么?也正是這個(gè)追問,后來帶出了這一系列研究和想法。也就是說,關(guān)鍵恐怕不只是樹突,不只是丘腦—皮層環(huán)路,而是不同尺度之間的相互作用,以及發(fā)生在這些尺度之間的過程,本身可能就和意識密切相關(guān)。

      再說一遍,這里面當(dāng)然仍然有不少推測成分。但我覺得,我們至少已經(jīng)邁出了第一步,把我們在概念層面上的理解先描述出來了。現(xiàn)在,就像我前面說的,也已經(jīng)有一些很出色的年輕研究者在試著看,能不能把這套想法進(jìn)一步做得更形式化一些。

      歸根結(jié)底,我會說,已經(jīng)沒有必要再去死守那種想法了,也就是仿佛意識的關(guān)鍵一定就是樹突整合和丘腦—皮層環(huán)路。意識為什么、又是如何從大腦中產(chǎn)生出來,背后很可能還有更深層的原因。而我們真正該做的,是把那個(gè)更深層的原因找出來、弄明白。

      有些人聽到這里,可能會想:“揚(yáng),你這又有點(diǎn)瘋了吧。你不是2020年才提出那個(gè)樹突整合理論嗎?怎么現(xiàn)在又轉(zhuǎn)到別處去了?這到底算什么?”但我一直都會說,對我而言,樹突整合理論最核心的意義首先在于,我們必須發(fā)展出真正嚴(yán)肅的神經(jīng)生物學(xué)理論。我們已經(jīng)有太多認(rèn)知層面的理論,也有太多計(jì)算層面的理論了。我們真正缺的,是一套扎實(shí)的神經(jīng)生物學(xué)理論。

      第二點(diǎn)是,對我來說,它從來都不是,也從來不該被當(dāng)成某種最終定論。它更像是給年輕一代的一個(gè)啟發(fā),告訴大家,我們沒有必要被那些舊有的意識理論困住。我們可以真正回到大腦本身去看。我們完全可以提出更復(fù)雜、也更貼近大腦實(shí)際情況的理論。樹突整合理論就是這樣的一種嘗試。我希望它至少算是一個(gè)不錯(cuò)的例子,說明這件事可以怎么做。但與此同時(shí),我們也必須繼續(xù)往前走。我們得走向下一步、再下一步,繼續(xù)往前推進(jìn)。

      保羅:我這里并不是在問你個(gè)人的目標(biāo)到底是什么。就我自己而言,我有一種很基本的直覺,那就是,人工系統(tǒng)沒有意識,而且我覺得它們也不可能有意識。但與此同時(shí),AI領(lǐng)域又總會出現(xiàn)我剛才提到的那種邏輯:好,這個(gè)人工系統(tǒng)現(xiàn)在沒有這個(gè)特征,那我們就把它加進(jìn)算法里;加進(jìn)去以后,它不就有了嗎?而這種推法,理論上是可以無窮無盡地一路加下去的。

      一端是生物自然主義那種更強(qiáng)硬的立場。我覺得阿尼爾·塞思(Anil Seth)也許更接近這個(gè)位置。按這種看法,生物載體本身具有某種原則上不可替代的根本屬性,正是這種屬性從根本上排除了人工系統(tǒng)擁有意識的可能性。當(dāng)然,我對這個(gè)立場的理解也可能有些細(xì)微偏差,甚至可能完全理解錯(cuò)了。不過在我看來,生物自然主義大致就是這個(gè)意思。而另一端,則可以說是功能計(jì)算主義。按這種觀點(diǎn),只要你把計(jì)算過程復(fù)制出來,意識就會隨之而來,幾乎像是“免費(fèi)附贈”的一樣。

      所以我一開始真正想問的其實(shí)是:目標(biāo)到底應(yīng)該放在哪里?我們的目標(biāo),是不是要證明,機(jī)器和意識之間存在一道原則上無法跨越的界線;還是說,我們真正要做的,是找出生物系統(tǒng)和機(jī)器系統(tǒng)之間到底差了什么,再一步步把這些差距補(bǔ)上,最終造出真正有意識的合成系統(tǒng)?也許這不一定是你個(gè)人的目標(biāo),但至少從你剛才的表述來看,這整套思路背后的目標(biāo)到底是什么?它所依托的基本立場,又究竟是什么?

      揚(yáng):這個(gè)目標(biāo)其實(shí)很簡單。現(xiàn)在一邊是這種樸素的功能計(jì)算主義,另一邊是生物自然主義。我們想說明的是,這兩者之間其實(shí)存在一條中間道路,而且在我看來,這恰恰是最可信、也最合理的一條路。這條中間道路的意思是:不同于那種樸素的計(jì)算主義,我們認(rèn)為,大腦中的計(jì)算極其復(fù)雜。我們之所以還不理解它,是因?yàn)槲覀冞€不清楚,載體究竟是如何具體地約束這些計(jì)算的。但即便如此,它依然是計(jì)算,只不過是一種復(fù)雜得多的計(jì)算。

      也正因?yàn)槿绱耍镒匀恢髁x也并不成立。因?yàn)閺母旧险f,在某個(gè)時(shí)候,人類確實(shí)有可能造出具有意識的機(jī)器。但那種機(jī)器不會是今天這種大語言模型,因?yàn)榇笳Z言模型做的一切,本質(zhì)上都只是數(shù)字計(jì)算。它們并沒有像大腦那樣,被那種深層的約束所塑造。它必須在某種意義上更像大腦。從這個(gè)意義上說,它需要是某種神經(jīng)形態(tài)式的系統(tǒng)。但又不能只是那種很表層的“神經(jīng)形態(tài)模仿”,而很可能必須把大腦中若干關(guān)鍵過程都認(rèn)真考慮進(jìn)去。

      簡言之,我們真正想表達(dá)的是:思考意識問題時(shí),確實(shí)存在這樣一條中間道路,而且這是一條相當(dāng)合理的路徑。我這樣說清楚了嗎?這個(gè)意思明白嗎?

      保羅:明白了。不過我想再把它說得更精確一點(diǎn),也請你再展開一層。也就是說,從原則上講,并沒有什么理由規(guī)定,一個(gè)人工合成出來的機(jī)器不可能擁有意識。事實(shí)上,就像“忒修斯之船”那個(gè)思想實(shí)驗(yàn)一樣,你完全可以把一個(gè)細(xì)胞里的每個(gè)分子都逐步替換掉。只要它們在功能組織、動力學(xué)組織和實(shí)際運(yùn)作方式上都保持一致,那么理論上,你甚至可以一路替換掉整個(gè)大腦,最終得到一個(gè)有意識的機(jī)器,或者說,一個(gè)由機(jī)器部件構(gòu)成的意識系統(tǒng)。

      從這個(gè)意義上說,你甚至未必還會把它單純看作“機(jī)器”,因?yàn)殛P(guān)鍵根本不在材料本身,而在于那種組織方式,以及跨尺度的整合。而這件事,無論是在理解上還是在實(shí)現(xiàn)上,都離我們還非常非常遙遠(yuǎn)。你的立場大致就是這樣吧:它并不是原則上不可能,只是我們離那一步還遠(yuǎn)得很。我的理解對嗎?

      揚(yáng):對。我們不可能靠大語言模型走到那一步。它們當(dāng)然很了不起,也確實(shí)能完成很多有趣而且看起來很智能的任務(wù),但我們不可能沿著這條路抵達(dá)意識。

      保羅:那你會希望真的在機(jī)器里造出意識嗎?

      揚(yáng):我只能說,就目前來看,這件事離現(xiàn)實(shí)還太遠(yuǎn)了,遠(yuǎn)到我其實(shí)還沒有認(rèn)真想過這個(gè)問題。我知道,阿尼爾·塞思(Anil Seth)會進(jìn)一步追問一句:這甚至真的是我們想要實(shí)現(xiàn)的東西嗎?如果你現(xiàn)在非要我回答,我大概得先認(rèn)真想一陣子,或者干脆打個(gè)電話問問朋友。

      保羅:對,我也是。簡短地說,就是這樣。

      揚(yáng):我之所以還沒有認(rèn)真思考這個(gè)問題,是因?yàn)槲掖_實(shí)覺得,就當(dāng)下而言,這件事離我們還太遙遠(yuǎn),遠(yuǎn)到我們暫時(shí)還不必為它擔(dān)心。

      保羅:對,至少現(xiàn)在還談不上需要擔(dān)心。對我來說,最核心、也多少有點(diǎn)自私的目標(biāo),其實(shí)只是想把這件事弄明白。我想,如果我們真的理解了它,從原則上說,也許就有可能把它實(shí)現(xiàn)出來。當(dāng)然,也可能不是這樣。也可能到頭來,我們還是沒法真正把它做出來。也許,只要我能在這些跨尺度的組織原則上獲得某種足夠深入的理解,就已經(jīng)能滿足我的好奇心了,而不一定非得進(jìn)一步把它“造出來”,至少不一定要達(dá)到費(fèi)曼所說的那種程度。就像費(fèi)曼那句很有名的話:不能親手造出來的東西,我就還談不上真正理解它。

      揚(yáng):對。你剛才提到的一點(diǎn),其實(shí)也非常重要。還是像我前面一直在努力說明的那樣,大腦中的很多細(xì)節(jié)都很關(guān)鍵,因?yàn)榇竽X里的那些計(jì)算,只能在這種特定類型的載體上發(fā)生。這意味著,如果你真的想做出一種合成意識,那么至少在某些方面,最后做出來的東西可能會非常接近大腦本身。

      當(dāng)然,這未必意味著你要在大腦的每一個(gè)方面都照搬它。但很可能會有某些部分,你最終不得不做得幾乎和大腦一模一樣,甚至在物理實(shí)現(xiàn)上都要盡可能貼近大腦原本的樣子。只是到今天為止,我們還不知道究竟是哪些部分。說到底,我們對此幾乎還一無所知。但也正因?yàn)槿绱耍覀儾鸥枰パ芯克枰Π阉宄?/p>


      意識科學(xué)需要的不是更多口頭理論

      保羅:說到這里,我感覺關(guān)于意識的理論,現(xiàn)在大概已經(jīng)多到兩千四百三十七種了,差不多就是這個(gè)量級。那這些理論,你會不會干脆都不看了?還是說,其中多少總有一些,會讓你覺得更值得認(rèn)真對待?

      揚(yáng):這方面我確實(shí)下過很多功夫。就像我前面說的,我已經(jīng)在這個(gè)領(lǐng)域里做了22年。我大概讀過幾百種意識理論。但到了某個(gè)階段,我越來越覺得,問題在于,要提出一套純粹停留在言語層面的意識理論,或者一種認(rèn)知層面的意識理論,其實(shí)并不難。提出某種說法并不難。可到了后來,尤其是2018年之后我在馬修·拉庫姆實(shí)驗(yàn)室工作時(shí),我越來越覺得,真正說得通的做法,只有一條,那就是用神經(jīng)生物學(xué)來認(rèn)真約束我們對意識的思考。

      而且直到今天,真正愿意這樣做的人,其實(shí)也并不多。我覺得部分原因也在于,我們的大腦本來就會偷懶。面對這么多關(guān)于大腦的復(fù)雜事實(shí)時(shí),人們更容易說一句:“這些細(xì)節(jié)大概沒那么重要,反正說到底,它就是一種計(jì)算。”當(dāng)然,就像我前面說過的,這也是科學(xué)體制本身的問題之一。只要你已經(jīng)摸清了一套能穩(wěn)定發(fā)論文、出成果的路徑,那你基本上就沒有動力再往更深處走,也沒有必要主動去打開那個(gè)潘多拉盒子。

      所以,我這一大段有點(diǎn)情緒化的回答,真正想說的其實(shí)很簡單:我們已經(jīng)有很多意識理論了,但真正扎實(shí)、真正好的神經(jīng)生物學(xué)理論,其實(shí)并沒有那么多。所以,即便我也同意,現(xiàn)在的意識理論已經(jīng)多得有些過頭了,我還是會鼓勵(lì)年輕研究者繼續(xù)去提出新的、真正立足于神經(jīng)生物學(xué)的意識理論。

      保羅:我想,我自己之所以也會有些猶豫,某種程度上也和你剛才說的“大腦會偷懶”有關(guān)。比方說,我們一方面在討論所謂“特權(quán)層次”,另一方面又說,其實(shí)并不存在一個(gè)真正享有特殊地位的層次。可即便如此,你還是得在任何一個(gè)時(shí)刻去考慮,某個(gè)具體層次上到底正在發(fā)生什么。與此同時(shí),你還得把其他層次與它之間的關(guān)系也一起放在腦子里。再進(jìn)一步說,如果你真的想做研究,那你總得先在某一個(gè)層次上測量某些東西。可一旦進(jìn)入實(shí)操,你的注意力就不可避免地會落到那個(gè)層次上,而你幾乎不可能同時(shí)把其他所有層次也都一起顧到。

      所以,確實(shí)會有一種很真實(shí)的猶豫。一方面,你很難始終維持那種把所有部分及其相互作用都同時(shí)裝在腦子里的“全景視角”。但另一方面,我也會猶豫,要不要一頭扎進(jìn)某一個(gè)具體層次,因?yàn)槟菢右粊恚憔偷勉@得非常深。你明知道,自己最后會一路碰到各種具體問題,也會把大量時(shí)間都耗在那個(gè)小小的層次上,可你真正感興趣的,明明是跨層次之間究竟怎樣聯(lián)系起來的那整件事。

      揚(yáng):對,我覺得問題恰恰就在這里。在科學(xué)研究中,我們本來就應(yīng)該鼓勵(lì)這樣的工作,也就是鼓勵(lì)人們?nèi)ヅ瞿切┱嬲龔?fù)雜的問題。而某種程度上說,這也是當(dāng)下科學(xué)體制本身的問題。過去這些年,我們在這方面做得并不好。比如我總會說,如果你真的想弄清楚意識是什么,那我們就應(yīng)該把資源投給那些做實(shí)驗(yàn)的年輕人,尤其是做基礎(chǔ)神經(jīng)科學(xué)實(shí)驗(yàn)的年輕人。可現(xiàn)實(shí)往往正相反,很多經(jīng)費(fèi)最后都流向了那些圍繞經(jīng)典理論展開的大項(xiàng)目。我覺得這是不對的。之所以會這么說,是因?yàn)槲易约壕驮隈R修·拉庫姆的實(shí)驗(yàn)室里親身經(jīng)歷過這樣的事情。

      我第一次見到鈴木基高時(shí),他對我說:“好,我想給你看點(diǎn)東西。”然后他給我看了一組當(dāng)時(shí)還沒有發(fā)表的數(shù)據(jù),內(nèi)容正是關(guān)于那種“解耦”現(xiàn)象。也許很多人會說,這和意識沒什么直接關(guān)系,或者它未必是那個(gè)“大答案”的一部分。可問題在于,這是一塊我們原本根本沒有的基礎(chǔ)證據(jù);如果鈴木基高不去做這項(xiàng)研究,我們就不會有它,也根本不會知道這件事。

      現(xiàn)在你可以想象一下,如果不只是鈴木基高一個(gè)人,而是有10個(gè)、20個(gè)實(shí)驗(yàn)室都在做這類研究,會發(fā)生什么。當(dāng)然,其中有些工作最后也許不會產(chǎn)出什么真正新的東西。但與此同時(shí),我們也會獲得一些此前根本想不到的發(fā)現(xiàn),一些原本完全裝不進(jìn)我們既有思維框架里的新線索。到那時(shí),我們就可能以一種全新的方式來思考意識。所以在我看來,如果我們真想推進(jìn)意識問題,就不能滿足于手里已經(jīng)有的這些東西。我們應(yīng)該去做這些新的實(shí)驗(yàn),去嘗試最新的神經(jīng)科學(xué)技術(shù),也應(yīng)該真正把資源投入到這些工作里。

      保羅:你剛才說的是基礎(chǔ)神經(jīng)生物學(xué)研究,對吧?而這恰恰就是我剛才擔(dān)心的地方:一旦你真的進(jìn)入基礎(chǔ)神經(jīng)科學(xué)、基礎(chǔ)神經(jīng)生物學(xué)的研究,就很容易把整體圖景丟掉,整個(gè)人都陷進(jìn)細(xì)節(jié)里。所以,既能抓住大問題,又能深入這些底層細(xì)節(jié)的人,其實(shí)并不多。像你,像馬修·拉庫姆這樣的人,才真正能把這兩件事同時(shí)做起來。

      揚(yáng):這個(gè)例子其實(shí)就很能說明問題。因?yàn)槲蚁耄蛘哒f我希望,自己多少也在其中起到了一點(diǎn)作用,讓鈴木基高的研究被意識科學(xué)領(lǐng)域更多人看到。當(dāng)然,他們后來寫出了一篇非常好的論文,也發(fā)表在了《細(xì)胞》(Cell)這樣非常頂尖的期刊上。但認(rèn)知科學(xué)或認(rèn)知神經(jīng)科學(xué)這一邊的大多數(shù)人,通常根本不會去讀那篇文章,因?yàn)樗懻摰倪€有麻醉之類的內(nèi)容,看上去離他們關(guān)心的問題有點(diǎn)遠(yuǎn)。而我當(dāng)時(shí)的反應(yīng)是:好,我一看到這項(xiàng)研究,立刻就意識到了。

      保羅:我之前還真不知道。也就是說,是你把這條線索帶到意識研究這邊來的?

      揚(yáng):也不能這么說。因?yàn)榻Y(jié)果本來就是他們做出來的,是鈴木基高先把那些結(jié)果拿給我看的。事實(shí)上,我當(dāng)時(shí)去馬修的實(shí)驗(yàn)室,本來是想研究預(yù)測編碼。可就在那個(gè)瞬間,我心里一下子冒出來一句:糟了。但當(dāng)時(shí)大概就是那種感覺。就像是,哦,好吧,意識問題又回來了。行,我們又重新走到一塊兒來了。后來我基本上就是對馬修和鈴木基高說:你們得把這篇文章寫出來。再后來,它就發(fā)展成了那個(gè)樹突整合理論。

      保羅:噢。

      揚(yáng):我在這里面,大概只是起了一點(diǎn)很小的作用。

      保羅:這可一點(diǎn)都不算小。

      揚(yáng):但我覺得,這件事真正說明的是,一個(gè)實(shí)驗(yàn)室里必須有像鈴木基高這樣的人,能把那些驚人、精確而復(fù)雜的實(shí)驗(yàn)真正做出來。而在最理想的情況下,你還需要另一類人,像我這種,順便還和他們留著差不多發(fā)型的人,能夠意識到:哦,這項(xiàng)研究對另一群人其實(shí)也非常重要,我們完全可以一起把它寫出來,而且這會讓很多人都覺得興奮。換句話說,你需要的是一種合適的人才組合。而馬修當(dāng)時(shí)的實(shí)驗(yàn)室里,確實(shí)就有這樣一群人。

      保羅:這太好了。不過我之前還真不知道有這一層。說真的,那可一點(diǎn)都不算什么“小作用”。你自己說得很輕,可那其實(shí)是相當(dāng)關(guān)鍵的一環(huán)。這種能把不同層次、不同領(lǐng)域連接起來的人,其實(shí)并不常見,對吧?我覺得,真正能把某一層面上發(fā)生的事情和其他層面的概念連起來的人,反而是少數(shù),是例外。確實(shí)如此。

      揚(yáng):除了會說這些,我大概也就只擅長這一件事了。

      保羅:這本身就已經(jīng)很重要了。有時(shí)候我也會覺得,那可能也是我唯一拿得出手的本事。我甚至都不確定,自己到底算不算擅長這件事。我做神經(jīng)生理并不算特別出色,說實(shí)話,我做很多事都談不上多厲害,只不過有些事情稍微好一點(diǎn)而已。而這恰恰也是我最欣賞別人的地方之一。說到這里,揚(yáng),我是真的很欣賞你。

      揚(yáng):謝謝你,保羅。我也有同樣的感覺,我也很欣賞你。

      保羅:(笑)謝謝。

      揚(yáng):當(dāng)然,也不只是因?yàn)槟愕陌l(fā)型。我欣賞你的地方,還有很多。

      保羅:我今天還特地把頭發(fā)重新修了修,就是想讓自己看起來更像我面前這位偶像一點(diǎn)。而要把這些不同的想法真正連接起來,本身其實(shí)非常需要創(chuàng)造力。

      對談鏈接見:

      https://www.thetransmitter.org/brain-inspired/modern-ai-is-simply-no-match-for-the-complexity-likely-required-for-harboring-consciousness-says-jaan-aru/









      關(guān)于追問nextquestion

      天橋腦科學(xué)研究院旗下科學(xué)媒體,旨在以科學(xué)追問為紐帶,深入探究人工智能與人類智能相互融合與促進(jìn),不斷探索科學(xué)的邊界。歡迎評論區(qū)留言,或后臺留言“社群”即可加入社群與我們互動。您也可以在后臺提問,我們將基于追問知識庫為你做出智能回復(fù)哦~

      關(guān)于天橋腦科學(xué)研究院

      天橋腦科學(xué)研究院(Tianqiao and Chrissy Chen Institute)是由陳天橋、雒芊芊夫婦出資10億美元創(chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一,圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點(diǎn),支持腦科學(xué)研究,造福人類。

      Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實(shí)驗(yàn)室、人工智能與精神健康前沿實(shí)驗(yàn)室;與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

      Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng),項(xiàng)目遍布?xì)W美、亞洲和大洋洲,包括、、、科研型臨床醫(yī)生獎勵(lì)計(jì)劃、、科普視頻媒體「大圓鏡」等。

      特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

      Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

      相關(guān)推薦
      熱點(diǎn)推薦
      僅80萬!朱芳雨簽下場均18+11護(hù)筐神塔,不再撿破爛

      僅80萬!朱芳雨簽下場均18+11護(hù)筐神塔,不再撿破爛

      隱于山海
      2026-07-19 10:15:51
      發(fā)現(xiàn)沒?西班牙怕的這3點(diǎn),都是阿根廷所擅長的,決賽有看頭了!

      發(fā)現(xiàn)沒?西班牙怕的這3點(diǎn),都是阿根廷所擅長的,決賽有看頭了!

      神牛
      2026-07-19 21:02:08
      印媒喊話政府,抄中國作業(yè),莫迪已許下承諾,明年絕不給中方添亂

      印媒喊話政府,抄中國作業(yè),莫迪已許下承諾,明年絕不給中方添亂

      聚焦最新動態(tài)
      2026-07-20 00:15:06
      57歲美國女子赴韓整形,術(shù)后驟減20歲:看著像37!

      57歲美國女子赴韓整形,術(shù)后驟減20歲:看著像37!

      娛圈觀察員
      2026-07-19 00:01:35
      云南一知名景區(qū)突發(fā)山洪!有房屋倒塌!本輪強(qiáng)降雨要下到……

      云南一知名景區(qū)突發(fā)山洪!有房屋倒塌!本輪強(qiáng)降雨要下到……

      昆明信息港
      2026-07-19 22:22:42
      7月1日落地、2027年8月1日清退,無人配送車這次真被按住了命門

      7月1日落地、2027年8月1日清退,無人配送車這次真被按住了命門

      劉哥談體育
      2026-07-18 05:06:26
      票房從18.24億跌到1.05億,我感慨:這塊金字招牌算是砸了

      票房從18.24億跌到1.05億,我感慨:這塊金字招牌算是砸了

      阿廢冷眼觀察所
      2026-07-18 12:14:04
      中國足球歐洲留洋集體爆發(fā):18歲小將法甲一線隊(duì)熱身賽破門!

      中國足球歐洲留洋集體爆發(fā):18歲小將法甲一線隊(duì)熱身賽破門!

      邱澤云
      2026-07-19 20:12:27
      基恩痛批查洛巴世界杯首秀:上場兩分鐘就丟球,切爾西球員都這樣

      基恩痛批查洛巴世界杯首秀:上場兩分鐘就丟球,切爾西球員都這樣

      星耀國際足壇
      2026-07-19 20:14:48
      瓶中造出微型宇宙,博士生:“我們不再需要等待小行星就能了解生命起源線索”

      瓶中造出微型宇宙,博士生:“我們不再需要等待小行星就能了解生命起源線索”

      萬物皆可科普啊
      2026-07-19 23:01:36
      F1車手漢密爾頓首次曬與金·卡戴珊全家福,配文“抱緊你愛的人”

      F1車手漢密爾頓首次曬與金·卡戴珊全家福,配文“抱緊你愛的人”

      影視情報(bào)室
      2026-07-19 01:48:34
      蘋果突然官宣:7月17日,官翻機(jī)開售

      蘋果突然官宣:7月17日,官翻機(jī)開售

      3C毒物
      2026-07-18 03:15:56
      世界杯決戰(zhàn)一觸即發(fā) 德約科維奇喊話梅西:你能承受住壓力嗎?

      世界杯決戰(zhàn)一觸即發(fā) 德約科維奇喊話梅西:你能承受住壓力嗎?

      寒律
      2026-07-19 10:09:55
      聯(lián)手杰森·斯坦森狂攬7億,他新片未映又爆了:續(xù)集已定檔2028

      聯(lián)手杰森·斯坦森狂攬7億,他新片未映又爆了:續(xù)集已定檔2028

      影視情報(bào)室
      2026-07-19 01:10:50
      太陽報(bào):若薩利巴重傷,阿森納考慮免簽斯通斯

      太陽報(bào):若薩利巴重傷,阿森納考慮免簽斯通斯

      懂球帝
      2026-07-19 23:22:23
      星爺你終于看到了!舉國撐腰,官媒集體站臺,這次全國都為你覺醒

      星爺你終于看到了!舉國撐腰,官媒集體站臺,這次全國都為你覺醒

      草莓解說體育
      2026-07-19 21:55:16
      王平河:外甥坑了判官舅舅(6/11)

      王平河:外甥坑了判官舅舅(6/11)

      金昔
      2026-07-19 20:34:14
      同樣說西語,阿根廷和西班牙口音差多遠(yuǎn)?

      同樣說西語,阿根廷和西班牙口音差多遠(yuǎn)?

      懂球帝
      2026-07-19 15:07:22
      纖細(xì)身形 + 瑜伽褲穿搭文案|瘦小女生穿出別致線條美感

      纖細(xì)身形 + 瑜伽褲穿搭文案|瘦小女生穿出別致線條美感

      只要高興就好
      2026-06-03 11:46:20
      爭議巨大!豐田RAV4首席工程師稱考慮恢復(fù)實(shí)體按鍵

      爭議巨大!豐田RAV4首席工程師稱考慮恢復(fù)實(shí)體按鍵

      CNMO科技
      2026-07-18 11:16:03
      2026-07-20 01:24:49
      追問Nextquestion incentive-icons
      追問Nextquestion
      科研就是不斷探索問題的邊界
      816文章數(shù) 41關(guān)注度
      往期回顧 全部

      科技要聞

      Kimi K3單項(xiàng)登頂 整體落后前沿模型2-3個(gè)月

      頭條要聞

      外媒:特朗普"越來越沮喪"了 伊朗可能會以牙還牙

      頭條要聞

      外媒:特朗普"越來越沮喪"了 伊朗可能會以牙還牙

      體育要聞

      世界杯決賽,從“澡盆德比”500年前講起

      娛樂要聞

      王侃因病逝世 兩年前與父親牛犇同臺

      財(cái)經(jīng)要聞

      任澤平VIP會員自稱爆倉巨虧千萬

      汽車要聞

      把中國超跑賣到英國,比亞迪正在被世界看見

      態(tài)度原創(chuàng)

      藝術(shù)
      親子
      時(shí)尚
      教育
      軍事航空

      藝術(shù)要聞

      千萬別盯著看超過三秒!西班牙老頑童用水彩"騙"過所有人的眼睛,美到犯規(guī)!

      親子要聞

      和嫂子們買蘑菇玩水真熱鬧,100元買這點(diǎn)貴不貴?你吃過嗎?

      除了機(jī)車包,Balenciaga的服裝才是真正頂流

      教育要聞

      2026年高考“超級爆冷”:985大學(xué)僅549分,211跌到413分,全國罕見!

      軍事要聞

      兩名美軍被伊朗炸死 特朗普:令人難過

      無障礙瀏覽 進(jìn)入關(guān)懷版 主站蜘蛛池模板: 木下檀檩子电影免费观看| 画江湖之天罡在线观看| 《双女任务》在线观看 | 3D新金瓶玥菲无删减完整版| 牙医郝板栗完整版电视剧在线观看 | 灭火宝贝2斯托雅| 捉妖记bt| 按摩院的特色待遇在线观看 | 逐玉未删减| 白镖联盟全集免费播放| 子弹慢镜头| 当蜜桃成熟全集高清| 白峰美羽AV电影| 高清留存的爱未删减| 电视剧便衣支队| 父女乱之小芳的快乐生活| 在异世界开迷宫无修| 人猿泰山意大利1995版| 整容室第七季| 韩剧《家庭教师》免费观看全集| tobu4第一次| 雷政富减刑出狱 与朋友海南聚会| 拜托机长| 孙杨事件暴力抗检| 爱我几何在线免费观看| 熊出没免费全集观看| 管野静香重口味| 2对1:三人一次体检电视剧| 一站到底2018| 白宫陷落2惊天危机| 神印王座高清| 高清《最强大脑 第十三季》| 环江| 五亿探长雷洛传电影| 抓紧我放弃我电视剧| 法国空乘2016未删减版 | 六月的日记| 电影《私人女性监狱》HD在线观看,高清完整版美国伦理片,伦理_OK电影天堂 | 公公的浮生之手中字电影完整版 | 斗罗大陆160集在线观看完整版| 《渔夫的荒野史记》剧情解析视频| 丁宝桢40集电视剧免费下载| 大祠堂在线观看| 娃娃脸9西班牙版| 兴风作浪3电影| 爱的二八定律电视剧免费观看完整版 | 非常人贩| 驯服调教上司女社长| 搞笑漫画日和中文| 韩剧想结婚的女人| 白峰美羽电影在线| 萝莉的时间| 我们的当打之年| 钢铿锵锵锵锵锵锵锵锵电视剧| 《两性奥秘》在线观看| 终结者1qvod| 夫妻俩一起按摩精油推拿电影| 一起去看流星雨大结局| 韩剧安娜电视剧全集免费观看| 《入室暴行3》在线观看免费高清| 婆婆来了26| 安徽民间小调| 《总统夫人》星克莱尔1997年满天星在线免费观看 | 壮志凌云满天星在线| 庆余年2免费日韩剧观看50集| 爱我就别想太多在线观看免费全集| xl司令真人版全集无删减在线观看| 台风刮来生蚝?居民捡200斤| 变形记20140623| 《暴躁少女免费观看全集高清》电影免费在线观看完整版 - 光棍影院 | 红高粱大结局| 不安2人在线观看免费版| 牙医姐妹完整版在线观看 | 《过多的爱与谋杀》| 满天星版超女麦乐迪高清| 孙杨复出首秀| 自宅警备员| 韩国电影温泉酒店的特殊待遇 | 零号特工在线观看| 色戒电影未测减除版| 粉红女郎百度影音| 以法之名电视剧全集免费观看| 卖百科全书的女人电影在线观看 | 修行电影| 奇遇 电影| 火炬手小品| 男女一起愁愁愁免费观看全集高清完整版动漫 | 邪恶游戏| 你好星期六策驰影院 | 高清心碎高中 第三季| 一帘幽梦大结局| 电影轮换2免费版| 北下关小学| 活着韩国免费观看| 隐形帽子电影完整版在线观看| 永不磨灭的番号搜狐| 誓言今生 下载| 出轨同学会1| 朝9晚5| 火影忍者剧场版全集| 《荣誉之战》满天星版在线观看 | 饶河县| 夺命网红2| 听风者 在线观看| 正阳门下电视剧36集全免费| 电影《刘三姐》完整版| 美英空袭也门:夜空升起巨大火球| 右玉在线| 韩国《色诱女教师》| 高清《鬼父上卷》1| 麦乐迪和爸爸的电影| 漂亮的科室医生3| 小夫妻时代演员表| 三年高清观看免费大全一| 氪金玩家动漫免费观看全集| 安徽泗县地图| 恶女教师| 古惑仔之庙街12少| 特朗普与哈里斯首辩倒计时| 《激战丛林》| 鞭与阴兽手机在线观看 | 《荣誉守则》凯登免费观看 | 妻子的背叛1完整版视频| 《高压监狱2在》完整版法国免费看| 无敌少侠 第四季未删减| 时光正好连续剧| 《我们的秘密》插曲| 怪奇物语第三季免费观看完整版| 好妈妈33电视剧86| 继拇的上午HD| 血咒圣痕| 火影忍者剧场版全集| 《需要爸爸播种子》HD免费在线播放 - 全集电影 - 金鸿影视 | 乡村爱情交响曲| 俺爹是卧底 电视剧| 电影《需要爸爸播种美国》演员里的| 周年纪念日全集观看| 舍我其谁电视剧免费观看| 《需要爸爸播种》全集演员表| 卢靖姗回应顺产36小时言论| 九龙城寨之围城完整版免费看| 《品味人生》坎贝奇链接| 菲梦少女第二季免费| 裸zhao| 抚顺县| 法国版《侏儒》| 蒋万安与洪秀柱的关系| 邵氏电影武打片| 欧式少女16集全观看战狼6国产少女 | 美景之屋6普通话版| 东方红的简谱| 瑜伽冥想音乐| 17蜜桃| 《妓院里的中国姑娘》BD高清高清在线 | 晚娘下部| 法国空姐2019观看完整免费高清原声满天星 | 《麦乐迪女超人》完整版| 哪吒3免费高清在线观看| 雾蓝色的雨后晴天| 友田真希中文字幕| 44毛网| 上甘岭 电视剧| 问题少女电影| 姐妹牙医1986| 六指琴魔在线观看完整版免费| 好好的时光 电视剧 在线观看| 泰山hr人猿泰山| 刺青在线观看| 烈火青春19| 周弘版《村姑》免费看| 三十而立电视剧| 老公上班的日子剧情介绍| 玉莆田满清十大| 四哥少妇按摩记视频| 钻石王老五的艰难爱情 电视剧| 终极斗士2| 年轻的的小保 5| 《扫黑风暴》电视剧| 奥巴马就职演说| 维修工人的艳遇视频| 大宋提刑官第2部| 短剧《炽热吸引》免费观看| 初体验5电视剧| 第22条婚规全集在线观看 | 流金岁月2020| 时间静止器 在线观看| 永平县| 马克斯·维斯塔潘:新征途电视剧| 《陆贞传奇》电视剧| 小辣椒3完整版免费资源| 恶搞之家拍脏片八季是哪一集| 男子姐姐值夜班离奇失踪多年| 《隐形的帽子》完整版| 法国贩毒网| 舍我其谁电视剧免费观看| 《奇迹梦之队》| 金瓶梅爰的供养电影| 四十不惑电影| 篮球公园电影| 免费观看美女和帅哥的电视剧| 天使的诱惑国语| 四个妇女精油按摩记| 新三国演义| 罗百吉的老婆| 二十一世纪性格爱情指南日本| 相反的你和我未删减| 上锁的房间电视剧免费观看完整版 | 网友吃席发现每人面前都是盒饭 | 九九电视剧全集| 我要爸爸的种子第一季免费观看 | 绅士和小姐| 日本小妞| 千金与仆人电影完整免费观看 | 防城港市| 沼泽猎手11| 咱们结婚吧49| 说不出来的爱| 女佐罗在线看| 不是不想嫁剧情介绍| 欢乐喜剧人 第三季| 《天降之物》阿部夏树免费观看| 妈妈说带套可以给我先说| 马与人电影在线观看免费播放| 坎贝奇《品味人生》哪里能看| 天堂之吻电影版在线看| 飞虎全集| 美容院的待遇服务在线观看| 葡萄姐姐| 侄女的开发日记第三季在线观看 | 还珠格格之风儿阵阵吹全集| 星游记动画片全集| 韩国隐身蓝色帽子 电影| 3d肉蒲团女演员| 西游降魔篇 影音| 年轻的小瘦子 5| 年轻漂亮的保姆.6| 废柴嫡女:逆天修仙飒爆了全集免费 | 维修工人的艳遇播放| 台湾mm减肥法| 风尘女画家| 兔子先生在线观看高清完整版免费 | 电视剧幸福的眼泪| 《美容院:特殊待遇》在线观看 | 千年之狐| 扎鲁特旗| 《女销售员的秘密》2| 高清《奇迹》克劳| 黑名单第二季20集| 战狼6欧美版免费观看完整版国语在| 唯爱侦查| 宁安如梦热播| 《新上任的秘书》演员表| 人民万岁电影| xl司令第一季免费全集在线观看| 越狱全集| 郑钦文第三轮比赛直播时间| 《拳击手2满天星版》 | 小卖部开悬崖上| 日本电影西游父亲播种子| 爱超越国界中文版| 电锯惊魂7高清| 美式忌讳5--8| 恶作剧之吻 电影| 刘德华2012跨年演唱会| 万州区| 与部长出差中文电影| 西游记插曲大全| 诺言电视剧| 杜拉拉升职记电影版| 重庆公共农村频道| 《夫妇联欢-回不去的夜晚》| 一夜新娘第三季高清免费观看| 撒娇女人最好命| 《驯服小峓子》中字板在线观看 | 花花公子电子杂志| 正在播放: 解决学生的性爱烦恼不穿内衣裤的美波老师硬硬教学 _美波汐里 - 91n | 小敏家电视剧全集在线播放| 黄土高天| 无与伦比的美丽电视剧在线观看| 华人城小说| 需要爸爸种子在线观看| 142分钟颐和园未删除版本| 全面追缉令| 叶子楣古装电影全集| 女超人满天星电影免费观看| 战狼10国语免费观看影视| 进错豪门嫁对郎短剧全集免费观看| 交换年长的麦子哪里能看| 了不起的挑战第五期| 苹果在线观看| 余罪第一季免费观看全集| 罗丽星克莱尔总统夫人免费观看 | 新员工2| 超级乐8点| 《刺激的瑜伽教练3》| 牧神记第39集在线观看视频| 渔夫的荒野史记在线播放| 死亡地带第一季| 叶子楣《极乐宝鉴》电影免费观看| 电影精舞门| 《替夫还债妻子| 良医第一季在线观看免费完整版| 放在里面边顶边吃饭| 东北警察故事 2| 寻秦记高清| 法国女超人电影完整版免费观看| 死不张扬的离奇命案| 春光灿烂猪八戒第二部| 阳春市| 法国空姐2019满天星法版:星辉照耀中文 | 花开半夏未删减版| 韩国电影双人调情按摩| 普通文艺2b| 锦月如歌电视剧免费观看| 号手就位免费观看手机看| 一场飞行的美味| 蜜桃成时| 来自星星得你| 《私人航空》在线看免费| 1984美国忌讳第一集黑人| 村花瓢儿白的个人主页| 名侦探柯南全集高清| 束博游戏| 判处勇者刑未删减| 妖神记在线观看全集免费播放| 法国空乘法版免费看| 女战狼6妈妈最美片段| 我的观影报告剧情介绍| 黑暗荣耀第二季| 替夫还债中文电影版在线观看| 美景之屋6版本| 《窃欲无罪》电影| 爱情雨好看吗| 八戒八戒8观看全集免费| 离婚再嫁薄情前夫后悔了短剧| 好姐妹高清在线韩国电影观看| 天空之手| 日本新金银悔1—5普通话| 心术全集在线看| 陈子豪的个人空间| 《遇见王沥川》免费观看| 渔夫荒野史1988版在线观看免费 | 《法国空乘2016》观看| 《庆余年2》第86集| 狂暴飞车百度影音| 满天星《瓜达卢佩的玫瑰》电影免费| 5哈第一季| 女超人麦乐迪星辰影院| 一路西行高清国语完整版| 朋友的新妈妈| 麻豆小凤新婚在线观看| 老牛天天晚上夜噜噜噜| 插曲30全集免费观看| 洪湖英雄传电视剧| 腾飞担保公司| 赤板栗牙医姐妹1986在线观看| 威尼斯三部曲之3| 《爱我几何》在线播放| 愚公移山电视剧| 和台湾这次打得起来吗| 入间同学入魔了第一季| 《两位少妇按摩》| 高清《艳色》台湾无删减| 梨泰院class电视剧在线观看| 洪湖市| 哇嘎国语高清在线观看视频| 钱作怪国语高清| 蓝精灵在线观看| 一愁愁愁电视在线观看免费| 坎贝奇的《品味人生》免费完整版 | 成龙历险记第四季| 新有菜电影| 香火电视剧| 赘婿在线观看完整版| 泰山电影完整版播放| 木下檀檀子电影免费观看2024年上映时| 女官女相:权倾朝野短剧全集| 入室暴行3被蹂躏| 守护者们电视剧免费观看| 《手》在线观看电视剧免费| 鸡鸭恋电影完整版| 站着再来一次26集全集免费播放 | 黑白配在线播放免费观看| 相逢是首歌 俞静| 一拳超人在线观看| 樱桃电视剧全集百度影音| 插曲的痛免费观看完整| 普法栏目剧婚变| 岳母的幸福生活百度影音| 中文字Dl幕岳 和女胥aa| 我的抗战之猎豹突击| 日韩吃奶摸下AA片免费观看| 战狼6欧美版免费观看完整版国语| 商务旅行戴绿色帽子电影| 电视剧我的左手右手| 丁建华朗诵| 初体验5免费观看全部电视剧| 公之浮手中字2| 贝兹旅馆| 韩剧她的私生活| 炸天小姐在线观看免费版高清| xl司令第一季动漫在线观看免 | 双人按摩调情术免费观看完整版| 《甜蜜惩罚~我是看守专用宠物》| 人海孤鸿在线观看完整版| 我本女王| 罗丽·星克莱尔电影在线观看| 顺流逆流国语| 中国vs澳大利亚录像| 情迷女记者| 法国护士长全集免费看| 新红楼梦主题曲| 塞外奇侠传| 姨母的绣感中字4| 意大利语95版泰山在线播放| 女超人第一季| 金蝉脱壳| 电影极寒之城在线高清观看| 金银悔5一10普的最新版本更新内容| 天剑绝刀之独孤九剑电影完整版| 农民伯伯和乡下妹妹电视剧| 特工的特别任务| zh.jizz| 鬼吹灯之黄皮子坟在线观看| 《斗罗大陆》.免费观看| 巾帼枭雄义海豪情| 电影《姐妹牙医》在线观看| 家教高级课程| 上帝之城| 大洋芋和小米渣云南方言版全集| 《放学了》凯登·克罗斯| 地心引力豆瓣| 刷子李课件| 86警花不雅照| 与讨厌的部长一起去出差旅在线观看 | 宫雪花武则天| 黑白森林国语| 需要爸爸种子免费观看电视剧意大利 | 韩剧火鸟下载| 凯登·克罗斯《蓝色的梦》| 商丘新闻| 全职高手9高清樱花动漫免费观看| 异世刀剑笑| 《美丽妻子替夫还债》剧免费观看韩| 食物链4大尺度原声版| 人质免费观看完整版| 大耳朵图图3部全集| 平昌县| 森奈奈子领衔主演| 电视剧用心过日子| 派遣女王| 哪里逃1VLH| 旺达卢佩的玫瑰| 《敢死队2》| 征服人妻第1-52集资源请求| 九品芝麻官| 漂亮的妈妈7字开头| 电车之狼R通关攻略| 致命弯道5完整版在线观看视频| 高清暗夜情报员 第三季未删减| 369你懂的电影| 漂亮女朋友BD中文| 小日子在线观看全集免费高清版| 北原多香子无打码在线观看| 满清十大刑酷 快播| 女巫学院满天星| 蓄谋爱意| 教室那一间| 掌心电视剧免费观看完整版| 欧美精品久久凉森玲梦| 《坏修女》免费观看高清电影 | 女神异闻录在线观看| 上海冠领律师事务所地址| 售楼小姐的秘密 在线观看| 鬼马校园| 月之眼计划| 跑男最新一季| 灭火宝贝2美版罗丽莎的启蒙 | 旋风管家第四季| 马某某事件是谁| 朴海镇李泰兰| 麦乐迪《女超人》| 阴阳镇怪谈百度云| 犯罪心理第十八季| 天上人间高清| 美国1985G点原版| 妻子丰胸按摩电影在线观看| 电视剧华丽一族| 《误杀3》大结局| 《苹果》| melody在线播放高清观看女超人 | 工腾拉拉| 惊变一百天| 浪漫偶像第三季| 女兵排电视剧全集| 渔家三个姑娘1| 《有翡》全集在线观看| 逆袭之爱上情敌电视剧在线观看| 修仙小师妹全集免费| 巨乳按摩电影| 《花间提壶方大厨第二季》电视剧| 《医生特殊的治疗》免费看| 轻狂3免费观看| 强风吹拂| 飞机上的性K8服务| 刀郎新歌翩翩| 银魂265| 需要爸爸播种在线观看免费高清完整泰剧 | 非礼勿视2| 我是刑警免费| 我需要爸爸电影免费观看| 高清《幽灵狙击手》电影| amg动漫| 屋塔房王世子快播| 谍战剧《梅花红桃》开机| 吴绮珊新剧《香醇秀感》在线播放| 乱世冤家| 漂亮的保姆韩国电影观看免费版| 三分野电视剧西瓜免费观看全集| 森奈奈子在线| 露营后营露宿第一季未增减野营| 浪漫满屋泰国版12| 高清《黑道家族》| 亿未豪客传奇| 美国女儿借爸爸种菜是哪一集 | 后宫如懿传第二部| 返老还童的电影| 莉亚戈蒂满天星免费观看全部剧情 | 乌云之上电视剧全集剧情| 龚玥菲新金甁梅电影| 女律师替夫还债电影| 星际迷航3超越星辰迅雷下载| 婚姻攻略全集免费观看| 他母亲的房子| 我和我的父辈 在线完整版| 《急诊护士》法国版电影在线播放完| 美版《老男孩》完整版| 情欲世界| 高压监狱2免费播放完整版| 蓝兰岛漂流记h| 扒灰漂亮儿媳妇| 变种女狼3归来| 《花子vs倔强的驱魔师》1-4集动漫在线| 雨夜剧场| 李玲:高价药很多人享受不到| 双肥临门| 铁石心肠2019在线观看| 《爸爸种子2》在线| 默杀电影在线看高清中国版| 《花非花》电视剧| 开心超人联盟之奇幻谜瑞岛2021| 女儿国3电影在线看| 杨敏思版1-5集电视剧免费看| 如此美好| 抓紧我放弃我电视剧| 秦时明月全集免费观看| 钢铿锵锵锵锵在线观看| 惊变电影未删减版免费观看| 欧阳德怪侠全集| 埃洛伊塞| 怀玉格格| 呕吐娃娃屠宰场免费观看| 旋风少女| 租借女友动漫| 与外婆同行| 女做爰猛烈叫床99视频| 《束缚游戏》免费观看视剧人| 明日战记电影免费观看完整版| 师生畸恋下载| 末班车后动漫| 公之浮之手中有字9| 熊出没之重启未来免费观看完整版 | 现在的是哪一个多闻! ?未删减| 美国式家庭的忌讳1-7| 日本在线最色| 高清先哄后爱| 一路向西2在线观看| 冰封(重生之门)| 秋瓷炫《生死决断》| 晚安为我而我的妹妹 | 李菁飙车| 需要爸爸种子在线| 娘家的故事第3部| 俄语电影| 印度剧继承者| 电视剧叛逆者在线观看| 女版捉鬼敢死队满天星| 浮生六记南康| 一波拉病毒2| 湖南下了特大暴雪| 五哈第三季| 斗罗大陆177| 三十而已免费观看全集| 女版战狼6免费观看999战狼6| 调教女律师| 昆仑神宫在线观看2022| 千王之王谢贤版| 玉蒲团之愉情宝鉴在线观看| 我的性肉欲继拇| 女律师替夫还债电影在哪看| 忍者之路剧场版| 免费观看90分钟高清电视| 《消失的痕迹》电视剧| 女和尚满天星第三季| 瓜达卢佩玫瑰在线| 我的妻子没有感情| 失笑电视剧沈月在线观看| 绝地逃生| 第8号当铺全集| 遥控器控制女老板的电影 | 聊斋艳谭第3集| 妈妈你真棒插曲免费看| 女军医免费完整版| 2对1:三人一次性体检在线观看中文字 | 嘉科米妮| 哇嘎电影观看免费网站| 维修工的艳遇韩国电影在线看 | 两个人电影日本完整版| 海之声免费观看完整| 五号特工组前传| 归路连续剧| 《不当交易》完整版在线观看| 勇敢的市民 电影免费观看| 水润女人全集免费高清资源| 末代福晋| 那山那人那狗电影| 咱们结婚吧在线观看| 谍战剧《梅花红桃》开机| 高压监狱2法版1小时43分| 亲吻姐姐百度影音| 洪流 电视剧| 大胸女友在线| 爱玛夫人第一季完整视频| 品味人生在线观看免费高清电视剧坎| 跑男十一季泰国免费观看| 皇太子的初恋国语版全集| 特种部队2 全面反击国语版| 解冻韩国电影| 诱人的小峓子BD中文电影| https://www.yalan365.com/shiwutv/rindafid.html | 因为爱情有情天结局| 童年歌曲原唱播放| 电视剧我是传奇在线观看| 死亡山地| 黑白配高清国语免费观看教程| 不正当军事行为| 雄狮少年电影| 怪医文三块高清全集| 你好李焕英高清免费| 《售楼小姐》| 湿润的继拇HD中文泡泡| 风犬少年的天空百度云| 男生操男生动漫| 乱世安娜| 魔物娘医生| 斯巴达女版在线播放| 美乐加油全集| 食客国语| 向着新中国前进| 精灵幻想| 修理工的艳遇在线观看| 出差被讨厌的部长侵犯| 救世主电影免费观看在线| 《误杀3》大结局| 三客电影| 幸福耙耳朵| 巜性刑房3捆绑凌虐bd| 运河边的人们电视剧免费观看| 扑通扑通| 女机器人下载| 晚娘 电影完整版百度影音| 1986《牙医姐妹》| 《康体水疗》1978完整版在线观看 | 草原牧歌原唱| 妈妈的职业5完整版结局在线看谁演的| 蜜桃成语时李时珍正版免费观看| 小公主苏菲亚第二季免费观看| 高清一级方程式:疾速争胜 第八季| 快乐男声2013| tobu4美国免费| 美姊妹医生在线观看完整版电影| 完美搭档演员表| 单身的人上天堂| 我在万界收废品| 顾客付82.9店家到手36.31| 黑白配国语免费观看高清| 向往的生活第七季综艺| 大青龙汤倪海厦配方| 爸爸去哪儿第四季| 奔跑吧兄弟第五季免费完整版观看| 特殊的保险推销员2中国| 已婚妇女的下午电影中文| 一刀不剪| 家庭教师视频下载| 薛平贵与王宝钏电视剧全集下载| 高清《我的个神啊》| 私人助理2法国版电影在线观看| 念亲恩电视剧全集| 送我上青云免费| 百度战曲| 诺曼底大风暴| 激战酒店1-80集电视剧免费播放下载| 女员工的付出中字1230| 小雪要撑破了黑人好大| 白看电视| 我的时代你的时代免费观看完整版| 唇亡齿寒电影| 保罗雪莉美国2| 急诊护士完整版在线观看| 闪婚顶流爱豆:是我老公短剧全集 | 衡阳县| 黑白配免费视频在线观看| 文轩宋亚轩自己扩张| 在线观看爱情睡醒了| 妻子6免费的电视剧完整版| 巨蟒大战食人鳄| XL司令第一季全集免费完整版 | 《兄妹》电影完整版| 大漠枪神电视剧全集| 唐朝豪放女电视剧完整版| 涩涩屋| 隐形帽| 丁禹兮长乐曲电视剧免费观看| 长江七号电影免费完整版在线观看 | 牙医姐妹在线观看 赤子板栗| 梦幻妖子全集| 《一路繁花2》全集| 密室大逃脱第七季大神版| 把妻子借给朋友泻火1 5| 电影巜瓜达卢佩的玫瑰| 飞翔女孩满天星免费观看| 国王的演讲下载| 我们一起追过的女孩| 纯真时代| 肥肉合集| 韩剧《空调维修工》剧情介绍新任女| 公的浮之手中字电影| 经常请吃饭的姐姐| 电视剧永不回头| 名侦探柯南国语版tv| 剃刀边缘48集在线观看| 法航空乘11| 《无憾》坎贝奇在线听| 我叫金三顺国语全集| 青草青在线| 天空电影在线观看免费完整版| 利箭行动| 牛鞭擦女人| 红苹果短剧免费观看全集| 陈晓被曝婚姻破裂后首次现身| 坏蛋联盟1| 法国电影空姐第四部| 俘虏之锁动漫在线观看| 极品女士第三季| 黑道大佬第2季免费观看| 天赐之女电影完整版在线观看免费| <办公室蓝色隐身帽子>电影 | 四海钓鱼全集| 南京人身份证上为啥没省名 | 智取威虎山在线观看| 夏目友人帐 第一季| 电锯惊魂7高清版| 九歌电影高清版免费观看在线| 刻晴大战史莱姆无删减版| 水管维修工韩国免费在线| 三十而已| 王的女人下载mp4| 摸金爵之卧龙诡阵电影| 神医小娇妻短剧全集| 《风流女管家》法国版演员阵容| 当着丈夫的面被耍在线播放| 生死狙击在线观看免费观看完整版| 外卖曝光电影| 八星报喜下载| 逃学威龙1粤语版完整版在线观看| 《加勒比海盗1》(女版)| 法国空姐4法版| 急诊科医生在线观看全集免费高清| 美式禁忌1——7| 黑衣人1高清| 奈奈和熏的sm日记| 罗马帝国3(女版)| 金银瓶1-5国语普通话2| 新的哥哥2在线观看| 《重启》| 林妙可歌唱祖国| 天空战记国语| 华为eyewear智能眼镜| 麦乐迪在线观看完整免费高清原声满天星百| 电影《千金奴》免费观看全集高清 | 九条的大罪未删减| 天海翼女教师在线播放| 我和继拇做爰A片| 爱情公寓第3| 电影《虐心》完整版| 叛逆者在线观看完整版电影| 枪火国语| 沁源县| 丫头5下载| 男女愁愁电影免费观看| 瓢虫贝贝| 年少轻狂| 白化农场| 死亡山地| 法国满天星电影在线观看完整免费高清原声 | 无颜之月完整版免费全集| 儿童歌曲快乐的节日| 聊斋2三姐妹免费播放| 英雄免费| 奇领6080奇领影院奇领yy6080蓝天斗罗大陆杨戬寒门枭士 | 以为宋小宝去举重了| 女朋友高清在线观看免费韩国| 扫黑风暴免费看| 高压监狱1分56分免费播放| 在姨母家的客厅完整版| 黄造时曹查理隔世情电影| 一家人不说两家话全集| 自制ipad| 翁虹《玉尺经》徐锦江| 美式2| 年轻的女教师3| 女忍者忍法帖2| 出手短剧| 需要爸爸播种电影在线观看| 电影《觉醒年代》免费观看| 人肉叉烧包1黄秋生| 《东北剿匪记》电视剧| 男媒婆全集在线观看| 水卜樱第一季剧情图解大全| 免费热门总裁短剧| 快乐小神仙| 恩娇韩剧电影完整版免费观看| 女囚七人第一集| 和青春有关的日子| 女子护卫队1973满天星高清版| overflow第一季在线观看| 照镜辞在线观看免费完整版| 慈禧电影| 庇护之地全集观看| 世界乒联再次用错国旗| 快乐星球老顽童爷爷| 八戒网剧8免费国语| 隐形帽| 易经讲解| 小野纱里奈| 斗罗大陆173集免费| 他是谁电影免费观看完整版高清| 全员加速| 美发特别待遇2| 漂亮的妈妈5中字开头7个字| 篮网逆转雄鹿赢下天王山|