<blockquote id="g5mpq"><rt id="g5mpq"></rt></blockquote>

    1. <pre id="g5mpq"></pre>
      <i id="g5mpq"><legend id="g5mpq"></legend></i>
      浪漫女家教主演:黛比地区:台湾 ,日本jiZz,爸爸的种子在线观看,特别的酒店2免费,哇嘎在线,荒野渔夫高清免费观看,新有菜在线免费观看,哇嘎美国
      網易首頁 > 網易號 > 正文 申請入駐

      劉盟赟專訪劉禾:機器人一定要像人嗎?丨天涯·新刊

      0
      分享至

      天有際,思無涯。

      點擊封面,即可下單本期《天涯》

      “人工智能”與“文本末世”討論小輯

      編者按

      生成式人工智能的浪潮,已對文學創作和文學批評帶來了巨大沖擊?!短煅摹?025年第6期“作家立場”欄目的“人工智能”與“文本末世”討論小輯帶來了最新的思考,學者劉禾借其二十年前的《弗洛伊德機器人:數字時代的哲學批判》一書中文版出版之機,在與劉盟赟的對談中對人文和科學如何碰撞、技術與心靈該如何對接等話題,進行了深入思考;李音則在省思,“文本末世”是怎么造成的?在當下,創作與批評何為?

      今天,《天涯》公眾號首先推送這一小輯中劉禾和劉盟赟的對話全文《為什么啊,機器一定要成為機器“人”?——一位人文學者的哲學思辨》。

      為什么啊,機器一定要成為機器“人”?

      ——一位人文學者的哲學思辨

      劉禾劉盟赟

      采訪者按

      今年八月,
      2025世界機器人大會在北京召開。緊接著的九月,標榜前沿科技探索的“外灘大會”在上海舉行。AI技術的全面應用和市場化似已成為大勢所趨,加之這幾年ChatGPT、DeepSeek等大語言模型的廣泛開發與應用,科技領域的變化和發展真是讓人看花了眼,也讓資本興奮地找到了新的續命血槽。

      同在八月,一本名為《弗洛伊德機器人:數字時代的哲學批判》(
      The Freudian Robot: Digital Media and the Future of the Unconscious)的著作悄然迎來了它的首個中譯本。作者劉禾,是美國哥倫比亞大學的終身人文講席教授,是世界知名的理論家,這本她近二十年前寫作的書,如同一個讖語,為奉科技、進步為圭臬的當下開出了一味提神醒腦的冷靜劑。人文學者如何直面科技的發展,并展開自己的思辨?人文與科學的碰撞在何處發生,又糾纏得多深?面對普遍唱衰文科的環境,文科的冷板凳還能坐得定嗎?它與理工科的楚河漢界果真如此涇渭分明嗎?

      本次訪談,我們帶著如此眾多的大哉問開始,就像山魯佐德在《一千零一夜》開頭吊人胃口的前情提要,由此進入,看作者劉禾為我們編織出一部技術與人類心靈怎樣相愛相殺的另類敘事。


      2025世界機器人大會在北京召開

      赟:二〇二五年八月在北京舉行了首屆世界機器人大會。其中有一個非常引人關注的現象是會場里有五十多家企業能夠自主生產出整機人形(也叫具身)機器人,且價格并不像想象的那么貴。這意味著人形機器人進入普通的日常生活已成為可能。

      隨之產生的一個疑問也發人深思:如果智能機器已經可以非常便利地幫助人類完成諸如掃地、分揀,甚至手術等工作,為什么人類還希望生產出具有人形的機器人呢?就像兩百多年前的《弗蘭肯斯坦》,人類對人形機器人的迷思似乎早已有之。

      劉禾:我們只要讀一些古代記載就會了解,人類對所謂“機器人”的幻想差不多有兩千多年的歷史?!陡ヌm肯斯坦》是十九世紀初期的恐怖故事,一會兒我們再來談這個故事的恐怖效應。

      但在更早以前,比如古代中國的《列子·湯問》里就講過一個關于機關木人的故事,我在《弗洛伊德機器人》一書里也提到它。這個故事和現在所謂人形機器人的想象還真的有很多共同點,也有人把列子的這個故事看作古代中國的科幻小說。這個故事是從哪里來的呢?季羨林先生曾經做過一些研究,他認為和早期的佛經翻譯有關。東晉時期翻譯的《佛說五王經》里面講到一個機器人,這個機器人會做所有現在的機器人能做的事情,還能迷惑國王。而在列子的故事里,偃師獻機關木人給國王,它能歌善舞,什么都會,還會做今天的機器人不會做的事,比如機器人向王后拋媚眼兒,結果幾乎招來殺身之禍。

      古代有不少關于機關木人的想象,我覺得這倒是沒有什么奇怪的。但問題是現在做的機器人模型,有一些就像你說的,掃地機用不著是人形機器人,對不對?那么這種對機器人的興趣到底從哪里來?為什么不讓機器就是機器?為什么機器非要變成人?我在《弗洛伊德機器人》這本書里把這種現象稱為弗氏人偶,指的是我們當代人想象人機融合的方式。

      劉盟赟為什么不讓機器就是機器,為什么機器要變成人?其實您在論述人工智能和機器人科學的奠基人馬文·明斯基那一章時也曾提到這樣的疑問:科幻止于何處,虛擬現實始于哪里?為何要選擇人形機器人?而書中明斯基的回答是:這和我們追求生命不朽的夢想有關。這讓我想到電影理論家安德烈·巴贊在論述電影是什么時提到的“木乃伊情節”。你們都將人類對新技術的探索,引入到了人類心理與無意識的層面。而您的人機融合——弗氏人偶,要走得更遠。

      可否請您談談您是如何“發現”弗氏人偶,并產生了對它的研究興趣?

      劉禾:其實機器人有各種各樣的。早在人工智能出現之前,就有一種機器人叫自動機(automaton)。這種自動機是十七、十八世紀歐洲人特別熱衷發明的。如果你到歐洲去旅游,你會看到有些鐘樓里會有機器玩偶突然跑出來,不但能準確報時,還會做各種動作。當時的耶穌會傳教士到中國來,給中國皇帝獻過這一類的自動機。雖然那些自動機會做各種各樣的事情,但每一種自動機只會做一件事。如果你去故宮,運氣好的話就有可能碰到明清時代傳教士獻上來的自動機,其中就有專門會寫字的自動機??墒牵詣訖C的原理跟現在我們所說的機器人(robot)完全不一樣,它類似鐘表的運作,依靠的是機械原理。到了二十世紀,機器人則靠的是圖靈建立的數學基礎,是符號處理機。圖靈當年想象的計算機,必須是萬能機。它不能只做一件事,而要做很多事。你只要把它編碼,計算機就能做各種各樣的事情,這個叫有限狀態機器,它是一個數學概念。我們現在所看到的機器人,以及人們生產的能做各種各樣事情的機器人,就是在這個基礎上設計和發展的。

      不過,我在做歷史研究的時候發現,當年做控制論的科學家,他們一方面提供了很多現在的人工智能所依賴的技術和數學理論,比方說反饋回路、各種各樣的感知系統;另一方面,我注意到他們對符號和機器之間的關系極其感興趣,不光是數字符號,還有文字符號。尤其是美國的控制論科學家——他們也是一些發明計算機的奠基人物??刂普摽茖W家最感興趣的是人機共生的結構,特別是通信網絡結構。他們也對動物特別感興趣,比方說海豚,他們會好奇海豚是怎樣相互發送、接收信息的。因此他們研究的重點會落腳在網絡系統和基于這個系統的某種自動化結構。這一點被精神分析學家也是哲學家的拉康敏銳地捕捉到,他認為這個結構狀態,很像語言。因為語言也具有某種自動性——人生下來要學習語言,語言是后天習得的,就像現在的人工智能,你要給它輸入足夠的信息,比方說從語料庫給它喂大量的信息,它才能夠習得語言,人也一樣。

      但是無論是控制論專家還是拉康,他們問的問題并不是機器何時獲得意識,而是機器的通訊自動性,跟人的語言以及各種符號使用的自動性之間有什么共生性?正是這種共生性,構成了我所說的弗洛伊德機器人。其實我在書里給它下了一個定義:任何網絡化存在,只要體現了人機擬像的反饋回路,又不能擺脫控制論無意識的,都是弗氏人偶。從這個定義出發,現在已經制作的,以及人們企圖制作的各種各樣的人形機器人,都可以說是弗氏人偶。

      劉禾聊機器如何獲得意識

      劉盟赟:這里面有兩個關鍵詞——“控制論”和“無意識”。如何來理解這兩個概念和它們的關系?

      劉禾:我所說的控制論,它研究的重點是人和機器之間的某種共生性。英文叫machine and animal,人被算在動物里邊??刂普撗芯康臒o意識,是把機器和動物的通訊行為作為某種自動行為來研究的。所有的交流行為,包括我們的語言也是一種自動的行為。

      而機器做得最好的就是自動化。其實在1950年代,約翰·麥卡錫就是發明“人工智能”這個詞的那個人,他在發明新名詞之前,一直都著眼于計算機的自動系統,但為了從美國政府那里弄錢,他在1956年杜撰了Artificial Intelligence即“人工智能”(AI)這個說法。

      劉盟赟:故作高深和高級。

      劉禾:我們先不說這個命名的動機,早在此之前,這一類機器就是某種自動系統,而“自動”則是機器最善于做的。自動也意味著機器可以不厭其煩地重復一些行為,而重復卻是人最不耐煩做的。弗洛伊德把這個叫作強制性重復(Repetition Compulsion)。拉康也特別強調這點。特別有意思的地方是,人的無意識也有強制性重復的特點,這也是精神分析研究的一個對象。

      這就回到我所說的控制論無意識,人工智能的實驗出現前后,人們就開始問:機器最終能不能實現人的認知水平,取得和人一樣的認知?

      劉盟赟機器能不能獲得意識?

      劉禾:我在書里對這個問題有過分析。我認為,這個問題本身就存在著很大的問題。它把意識作為衡量智能的唯一標尺,預設了一個原子化的、以自我意識為中心的人作為參照系,理所當然地把人想象成是有理性的,有自我意識的,能做決斷的主體。很多做神經網絡研究的人,總想打開人的大腦去尋找人的意識的來源。但是,哲學家維特根斯坦早就說過,如果你想打開人的大腦去觀察一個人在想什么,那你永遠也找不到。為什么?因為他思考的對象在大腦外面。

      因此,這里長期有一個哲學上的誤判:人是有意識的、理性的,能做決策的一種動物。如果從精神分析,特別是從弗洛伊德的研究出發來解釋這種誤判,我們不妨說,它完全忽略了無意識在人類行為中所起的作用。那些做人工智能的科學家,他們其實就是在做無意識機器,但他們不承認自己在做什么??刂普摽茖W家們也并未意識到,他們研究的自動性,與精神分析理論家弗洛伊德和拉康研究的人的無意識行為的強制性重復之間有哪些驚人的相似。

      我們通常說習慣成自然,這個自然就是習慣的重復。比方說,你走路通常是無意識的,不會去想先邁左腿還是先邁右腿,除非你的腿出了問題,骨折或者摔傷了。那么這揭示的是什么呢?——驅動人類行為的主要動力,不是來自意識,而來自無意識。那么為什么人工智能的工程師,以及宣揚人工智能的人卻看不到這一點呢?因為他們的視野很窄,尤其是他們對人的理解出問題了。所以我在書中也強調,很多關于機器智能的問題不是技術問題,而是哲學問題。因為你首先沒有想清楚人是怎么回事,你就要做機器人,這是很危險的。其實機器的重復性,機器的無意識正是它的力量所在??茖W家們想造人形機器人,認為最后要實現的就是要機器達到人的意識,獲得人的智力,這本身就有很多思維上的漏洞。總之,我認為有關人工智能的討論必須上升到哲學的層面,才能把有些關鍵核心問題想清楚。

      劉盟赟:您的這段論述,我相信會顛覆很多讀者對當前人工智能的理解。特別是大家在這幾年似乎已經習慣了把AI與大數據、算法、模型放在一起來談。而這些數理性的詞,無疑指向它們背后追求理性和科學的標的。從大的歷史時段考察,這個話語底層還是西方啟蒙時代追求進步的邏輯幽靈。而您在這本書中把精神分析理論的無意識概念和控制論相結合,從哲學批判的角度重新看待人工智能的發生、發展,把讀者從這一認識的偏見中撈出來,給了讀者一個完全不同的理論視野。

      沿著這個無意識概念的思路,您在書中還提到機器人的恐惑癥??只螅╱ncanny),在國內也有翻譯成怪誕的。就像訪談開頭提到的,恐怖、恐惑、怪誕的感覺,在西方有關機器人敘事中似乎是其來有自的。人類機器人的向往和由此來生產的恐懼是一個一體兩面、相反相成的概念。我既要制造一個弗蘭肯斯坦,但當它真的出現了,我又因恐懼立馬遺棄它。大約在二十世紀的前四十年,有非常多機器人敘事的文學作品和電影。包括在《弗洛伊德機器人》里也談到了二十世紀初弗洛伊德對霍夫曼的小說《沙人》所做的文本分析。

      我們本來不是希望機器模仿人嗎?希望造出一個代表人類不朽永恒存在嗎?為什么當它真的被造出來時,人又會產生如此巨大的恐惑感?

      劉禾:我先講講機器模仿人。比方說聊天軟件,你在跟它對話的時候,你覺得它就好像是一個人,但這不是真的人,因為你在跟聊天機器人對談的時候,會不自覺地把它想象成一個跟你自己一樣的人,這其實是你投射的幻覺。如果聊天機器人是在模擬人,那你必須問,它是一種什么模擬?它在模擬什么?

      自從ChatGPT出來,現在又有了DeepSeek,于是圍繞人工智能的呼聲很高。我們先不說從哲學上看聊天程序模擬的是不是真實的人話,僅僅從人工智能自己發展的歷史來看,我們接受的那套AI歷史發展脈絡都是錯誤的——它并非朝著一個更好、更快、更理性的方向發展,一個十足的進步敘事。其實,最早的聊天機器人跟理性一點關系都沒有。


      世界上首個聊天機器人伊莉莎(Eliza)

      第一個聊天程序是麻省理工學院的計算機科學家約瑟夫·維森鮑姆做的伊莉莎(Eliza)。這是他在1960年代中期做的(從1964年到1966年),不過通常人們會說是1966年發布的。因為1966年在美國的大眾媒體上,有很多的報道說,維森鮑姆創造了一個聊天機器人,多么像人。但事實是什么呢?維森鮑姆做的第一個聊天軟件,是模擬心理話聊治療,針對的是精神分裂癥和神經出了問題的病人。他當時設計了一個很簡單的程序,這個程序模擬醫生怎么跟病人說話。用戶和機器說:我今天感覺不好。機器就說:你感覺不好,是嗎?等等。維森鮑姆做的這個軟件在當時很轟動,大家說機器從此會說人話了。但他本人極力否認,他說他的計算機程序根本不會說話,也不會理解,所謂的理解,純粹是人的幻覺。那些跟伊莉莎互動的人,把自己的幻想、期待和愿望,投射到機器上去了。那么,為什么用戶會相信這一切呢?因為機器生成的文本是語言,而語言本身就有模糊性、歧義性,這樣就給人提供了廣闊的詮釋空間。我們很多人相信算命先生說的話,這是同一個道理。

      劉盟赟:也像求簽或者算塔羅牌。

      劉禾:對,是同樣的道理。我們把自己的愿望,我們心里暗藏的答案,投射到這個讖語上,就以為得到了一個答案,其實這個答案是從我們內心的投射出去的。因此從這個角度來看,ChatGPT的能力是更高效的,更全面地放大了人類的自戀。這里有一個自戀結構,只是我們意識不到,這一點也是精神分析理論家拉康最感興趣的現象。兩個戀人打電話,你一言我一語,在拉康看來經常都是胡言亂語的,因為你聽見的只是你自己早已知道的東西。而隨著技術的發展,比如電話、電腦、網絡,這些媒介往往放大了我們的自戀,讓我們對別人越來越不感興趣。

      劉盟這就特別像愛情。我對一個人的愛可能就是我想象的那個愛人的樣子,他并不是我真的去認識的這個人。因為如果你真的破除愛的光環,再看這個人,你發現他跟我想的不一樣。實際上就是你一直在想象,你把你的自我投射放到了戀人的身上。這和剛剛說的伊莉莎是一樣的,它是一個自我的幻覺。

      劉禾:對,你這個理解完全準確。對精神分析理論家來說,他們在一個多世紀以前,就開始做各種各樣的實驗。他們也用機器來測無意識,因為這個無意識是看不見的,你不能說打開神經網絡,就能看見它了,因為它是后天習得的。那怎么辦呢?精神分析家當年想出各種各樣的方法去測驗無意識。如今有了聊天程序,機器所呈現的正是無意識,很多行為都是無意識。你在跟機器的互動無形中已經暴露了你的無意識。此時,如果你旁邊坐一位精神分析師的話,他就可能告訴你,你的無意識究竟是怎么回事,包括剛剛我們討論中提到的恐惑。我在書里有一章談到這個問題。最早弗洛伊德提出這個概念的時候,是叫Das Unheimliche,英文翻譯成The Uncanny,一個很奇怪的翻譯。中文有人翻譯成“恐怖”,我翻譯成“恐惑”。為什么呢?這里有個理論基礎,恐惑,即恐怖加迷惑。因為你分不清真假,分不清你看到的這一只手到底是活手還是死手。當恐惑感升起的時候,就是你不能判斷真假的時候。

      劉盟赟:一種突然浮現的不確定狀態,而且是一種從心理層面浮現的狀態。就像“惑”的“心”字底暗示的那樣。

      劉禾:是的,恐惑這個理論,最早是弗洛伊德提出來的。我為什么又把它提出來呢?是因為二十世紀七十年代,有一位日本的機器人工程師森政弘,他在制造人形機器人時碰到了一些困難。他的實驗室里做的胳膊和手特別逼真,比如膚色,皮下的靜脈血管,都可以做得和人的一模一樣。但是當你握住這只手時,這手卻是冰涼的。因此,視覺上覺得它是一只手,一個“真人”的手,但觸感上卻意識到它是死的,由此恐惑感油然而生。于是森政弘就跑去讀弗洛伊德,而他讀的那一篇關于恐惑的論述,也是我這本書里其中一章論述到的。據此,森政弘就提出,人們在設計機器人的時候,應該制定一個工業標準,來測量人類的恐惑感。他做了一系列的實驗,最后拿了一個標準,這就是所謂的恐惑谷(The Uncanny Valley)。


      小鵬機器人引發恐惑感

      特別有意思的是,與此同時,好萊塢也在做有關數字演員的實驗,1990年代以來,他們推出過一些電影,觀眾感覺數字演員好像是真的演員,但其實不是。這些演員的眼睛有時候瞳孔像是僵化的,像活人又像死人。好萊塢也是在那時開始討論森政弘的恐惑谷理論,他們也開始圍繞這個標準,制定他們的所謂媒體上展示數字演員的尺度。其實很多人都知道這個恐惑谷理論,但是他們不知道是從哪里來的。

      我在《弗洛伊德機器人》里開辟了一章專門討論它,就是想讓大家深入了解這個問題。因為它非常有趣,充滿了科技與文學之間的糾纏,弗洛伊德在論述恐惑谷的時候,依賴的是一篇文學作品:德國作家霍夫曼的小說《沙人》。這篇小說發表的時間好像是1816年。這也是《弗蘭肯斯坦》寫作的同一年。瑪麗·雪萊是《弗蘭肯斯坦》的作者,當時她大概十八歲,很年輕。她跟詩人雪萊(后來成了她丈夫),以及詩人拜倫,當時跑到瑞士日內瓦度假。有一天晚上天氣特別陰冷,他們不能出去,就和朋友在一起讀德國的鬼故事,他們讀了各種各樣的恐怖故事,讀著讀著就有人提議,不如咱們來比賽一人寫一篇?!陡ヌm肯斯坦》就是這樣寫成的。因此我們現在說它是科幻小說的開山之作,但在當時它就是一篇鬼故事。不過值得思考的是,為什么科幻小說的開端會跟恐怖小說、鬼故事纏繞在一起?

      劉盟赟如果從文學的角度看,科幻文學也許是從某種哥特文學鬼故事里脫變而來的,鬼與“機器人”興許也是某種文化形態的變種。二十世紀著名的科幻小說家阿西莫夫,他用“弗蘭肯斯坦情結”來命名這種人類對機器人的親近與恐怖。到了美國的科幻電影時代,進一步把阿西莫夫的弗蘭肯斯坦情結變成了弗蘭肯斯坦綜合征。剛剛您提到1990年代好萊塢的數字演員實驗,也讓我想到從二十世紀初以來一系列的美國科幻電影,包括我們熟悉的《機械戰警》《銀翼殺手》《機械姬》,機器人敘事蔚為大觀。而這個敘事的核心母題一直擺脫不掉我要生產你,希望你來服務我、陪伴我,同時我又擔心你控制我、奴役我,甚至殺了我。最后誰是機器、誰是人,變得曖昧不明,傻傻分不清楚。書中您有一個很精彩的觀察,你發現雖然弗洛伊德對《沙人》進行了精彩的文本分析,但是他并沒有發現主人公其實也是機器人。

      劉禾:對,弗洛伊德沒看出這個敘事人,故事里邊的主人公納坦奈爾也是個機器人,也就是說,納坦奈爾和奧林匹婭都是機器人,《沙人》里面有兩個機器人,弗洛伊德只看到一個。

      劉盟赟說到恐惑,我還想到您在書里提到了一個終極機器:一只手臂,它可以自己打開箱子伸出手來,然后關了箱子再縮回去。記得書中說,當時還沒寫出《2001太空漫游》的阿瑟·克拉克,第一次去香農的實驗室看到這個機器時毛骨悚然。


      電影《2001太空漫游》海報

      劉禾:對,他說起雞皮疙瘩。庫布里克的這個電影大家應該都看過。電影劇本是亞瑟·查理斯·克拉克寫的。這個克拉克是一個很特別的英國人。1950年代,他很好奇美國的通信技術,包括機器人的技術是怎么開發的。他就跑到麻省理工學院,其中有一個實驗室正在制作機器人的模型,這就是后來電影里的哈爾9000的原型。麻省理工學院實驗室的機器人模型,被他寫到電影里面去了。在我們訪談的開頭,你提到的一點很有意思:這個哈爾9000,本來是要服務于人的,它怎么謀殺起人來?這就把主奴關系顛倒過來了。這其實是在美國的科幻小說里面經常出現的問題。這個問題我覺得特別值得玩味。

      另外,我在書里面還提到這個克拉克跑到貝爾實驗室去,看到了香農的終極機器。香農是誰呢?他就是發明通訊的數學理論的那位二十世紀特別重要的數學家。其實他和圖靈是齊名的,也是麻省理工學院的教授。二戰期間他去了貝爾實驗室,在那里做各種各樣的開發,尤其是通信技術的開發。這里有一件事,克拉克不但去了麻省理工學院看他們的機器人在做什么,他還跑到貝爾實驗室跟那里的科學家聊天。他說,有一天走進香農的辦公室,看見桌子上放了一個像雪茄煙那么大的盒子,上面有個按鈕,然后他過去一摁,盒蓋就開了,伸出一只手把那個按鈕又再一按,盒子關上,那手自己回去,重新把自己關在盒子里了。當時,香農做的這個反饋機給了他極大的震撼。

      劉盟赟:脊骨發涼。

      劉禾:毛骨悚然??死撕芷婀?,香農怎么制造出一個什么都不做,只會把自己關掉的機器?我覺得這里有一個深刻的隱喻,香農他自己把這個叫終極機器(The Ultimate Machine)。后來我做了一下調查,發現這個機器的想法來自馬文·明斯基。明斯基是美國人工智能的鼻祖之一,也是麻省理工學院人工智能實驗室的前驅。他當年跟香農合作,那個時候他好像還是個博士生。是馬文·明斯基跟香農提出造這么一個玩意兒,然后香農就做了幾個送給朋友,其中一個就讓克拉克在他辦公室看見了——一個只會把自己關掉的機器。這個玩具我還收藏了幾個。后來,人們對這種機器產生各種各樣的想象,我在書里加入了一張插圖,是一個歐洲人做的類似的機器。他用了很大的一個箱子,上面有個電鈕,你一摁電鈕,箱子蓋就掀起,一只手從里邊伸出來,自己再把那個按鈕一摁,然后縮回去。它也是一個只會把自己關掉的機器,這都屬于特別恐惑的想象。所以,我說這些科學家不是僅僅對理性感興趣,他們對人的無意識和死亡驅動也感興趣。

      劉盟赟在您剛剛的談話中,已經引出了另一個非常重要的人物——香農。您在這本書一開始就提出了一個大哉問:數字化革命是如何發生和發展的?我們想象的答案應該是個完全理工科的,但在這本書里您把答案落腳到文字的書寫上。而一旦提到文字的書寫我們又不禁會從文學、文字上去理解,答案再次出乎意料,您將論述關聯到了香農和他的數學理論。這是這本書不可以單純被歸在科技或者人文任何一邊的原因。

      說回來,書中香農的出場伴隨著“機識英文”這個概念,以及英文的第27個字母的發明。我們現在在鍵盤上看到的最大的一個按鍵——回車鍵,也叫空格鍵,就是香農發明的第27個字母。想請您為我們做一個介紹。

      劉禾:香農在二十世紀是幾乎和圖靈同樣重要的一位科學家,他當然是做通信理論的,做通信理論的時候需要解決各種各樣的問題,那么他就去研究摩爾斯碼,就是十九世紀發明的摩爾斯電報碼。

      劉盟赟:我們經常在國內的諜戰戲里面會看到。

      劉禾:對,你就會聽見噠-噠-噠,都是一些長短的信號。摩爾斯碼的優勢是什么呢?它一長一短特別簡單,用各種各樣的方式你都可以發,只要符合一長一短的條件你就能發信號。比方說,你可以用一短一長(“·”和“—”)來發字母A,你也可以通過不同的一長一短組合成各種各樣的信息。但是就在大家習以為常的摩爾斯電報里,有一個別人從沒留意的東西,那就是空格。香農在重新研究摩爾斯碼的數學結構時,發現了這個“空格”。你在發“噠”的時候,前后會有一個長空格或者短空格,你要沒有空格的話,就沒法區分長和短。也就是說你必須要有“空”才會有“噠”。后來他對這個發現做了很多分析,他說這個“空格”出現的頻率,跟短信號出現的頻率和長信號出現的頻率之間存在一個數學結構。于是,他把這個思想運用到英文的26個字母里,在此之前沒有人質疑過英文字母表為什么是26個字母。

      劉盟赟:就好像是個天經地義的事兒。

      劉禾:對。二十世紀四十年代,也是二戰期間,香農做軍事解密技術的時候,他發現加密電話或者電報需要空格,尤其是拼音字母,它的拼寫需要空格。他說當我們在傳輸信息的時候,可以把這個空格作為一個字母來傳輸。意思是空格不等于沒有字母,空格等于一個字母。他把這個字母叫第27個字母,這樣他就可以進行數學運算了。要是回頭去看香農那本重要的《通信的數學理論》和他當年寫的文章,你就會注意到他提出的機識英語的概念,顧名思義,就是機器能識別的英語,要是沒有空格的話,機器什么符號都不能識別。

      特別妙的是,香農把這個發現變成了數學理論,之后沒有任何通信技術能離開他的數學理論,因此它是普世性的。而這一點跟圖靈想象的計算機一樣,所有的通信技術、計算機技術全都根植于數學家們對符號的認識。我寫這本書,其中有幾句話是寫給人文學科的——當香農這樣的數字家給英文添加了一個字母的時候,我們人文領域的學者卻都渾然不知,沒有一個人認識到這件事情的重要性。除了詹姆斯·喬伊斯,很多人說他的《芬尼根的守靈夜》是天書,讀不懂。的確讀不懂,但是數學家香農就讀懂了。香農發明了這個“空格”字母以后,他開始分析英文的詞、句子、字母和字母之間序列的搭配。由空格來計算這些搭配的語句有哪些規律。你給出一個字母,比方是t,那么最有可能出現的下一個字母是什么呢,你來預見一下(現在他們做人工智能老做這個,其實都是從香農開始的)。下面的字母很有可能是h,比如單詞“the”,那么H頻率是比較高的。相比之下,t后邊跟字母d的頻率就比較低,因為英文詞的拼寫幾乎沒有td這樣的組合。香農就這么計算下去,同時把空格加上一起計算,計算信息組合的排列概率,也就是所謂詞的組合、句子的組合,然后發現組合成的句子經常是胡言亂語。但有時候,居然也有意義出現。香農的這些實驗說明,語言的意義呈現是有某種概率的,而在多數情況下我們只考慮意義,排除無意義在語言中的功能。書中我專門用了一章來寫有意義和無意義究竟是怎么一回事。

      為什么我說詹姆斯·喬伊斯是少數幾個認識到這個真理的作家呢?比如他在《芬尼根的守靈夜》的第一頁里寫了一個很長的字母串,是由一百個字母串在一起的生造詞,中間沒空格,你在哪本字典里也找不著,根本就沒有這個英文詞。那么喬伊斯在做什么?香農就對這點特別感興趣,他真的把喬伊斯的小說拿來計算,算出原來是空格的問題,還有字母和字母組合的頻率的問題。什么字母跟什么字母最有可能組合,那么,意義最有可能在什么情況下出現?香農不是對語言本身感興趣,而是對計算頻率和通信信息感興趣。但由此出發,他發現了語言本身的無意識結構。當我們在書寫的時候,我們不會意識到我們在被無意識結構驅動。但事實是語言在驅動我們,不是我們在驅動語言,這也是拉康的洞見。當年拉康一直在讀控制論研究者的論文,他說這太有意思了,對精神分析理論有很大啟發。然后他就說我們的無意識其實是像語言一樣的結構起來的。我認為,拉康讀過香農的理論。總之,我這本書是把這些學者,無論是做哲學的、做精神分析的,還是做科技的,把他們最重要的貢獻聯系起來思考。重新思考人們所創造的書寫符號是什么關系。

      劉盟把空格變成第27個字母這件事,就是把拼音文字從表音系統轉變成了表意系統,這是書中非常重要的一個核心概念,也是數字化革命何以發生的重大原因。

      香農之所以對喬伊斯感興趣,是因為他以數學邏輯推演拼音文字的組合概率這件事,喬伊斯的文學文本給他提供了現成的實驗場。而如果用香農的數理組合邏輯去看《芬尼根的守靈夜》,是不是可以說這本書本身就是不可譯之書,因為任何其他的語言,特別是中文,都會脫離喬伊斯拼音文字系統排列組合的實驗本義。

      另外一個很有意思的點,在《芬尼根的守靈夜》里也出現了一個“空格”,即iSpace,您在書中翻譯成“紙創口”。這個喬伊斯的生造詞大意是在紙面上給文字書寫打空格。您認為這是現代技術的表意先兆,也提前預告了iPhone、iTunes、iVision的消息。更重要的是在香農這樣的科學家發現拼音文字的表意系統之前許多年,文學家就已經實踐這樣的想法了。這給當下人文學科帶來很大的反思意義。

      我在讀您這本學術著作時,有時會想到您的《劍橋的陌生人》。那種猶如偵探般按圖索驥找到歷史的蛛絲馬跡一點點撥云見日的感覺。雖然這是一本嚴肅而有門檻的學術專著,但讀起來依然會引人入勝。比如剛剛提到書中拉康和在他讀愛倫·坡《竊信案》的研討班。這種敘述方式是您在學術寫作中的一種自覺實踐嗎?


      愛倫·坡

      劉禾:我覺得你的觀察真是非常獨特。我在寫這本書的時候,尤其發現拉康自己說,他讀愛倫·坡的《竊信案》是受到了某位控制論科學家的啟發,但沒有說出名字。我就想知道,那位科學家是誰?結果,讓我失望的是,無論是寫拉康傳的人,還是研究拉康的專家,他們都不知道。我曾去信請教過他們,他們也都答復不知道。那我就想,既然你們不知道,那我就自己來做研究吧。這個研究過程很有意思,后來我想不如把研究過程也寫進書里。因此就有了你所注意到的一種敘事的流動性。

      拉康的那句話什么意思?他說的某位科學家是誰呢?沿著這個問題研究和書寫,我的敘事獲得了某種意外的文學性,就有點懸疑感。精神分析是怎么跟數學發生關系的?于是,我發現拉康的背后還站著法國數學家喬治·吉爾博,這么一下子,好像突然被我打開了一張地圖,讓我們重新去認識戰后精神分析學、控制論和法國文學理論的關系,而這對我重新認識數字技術以及它在美國和歐洲之間的傳播又提供了新的啟發。

      的確,拉康的那一章,跟我的《劍橋的陌生人》之間是有一些呼應的。這本書是2010年出版的,《劍橋的陌生人》則要晚一點,所以應該是《劍橋的陌生人》的寫作,受到了我的《弗洛伊德的機器人》的影響。

      劉盟赟:《劍橋的陌生人》是2013年出版的。

      劉禾:對,晚幾年。前后寫作了五年,其實,我是從2005年就開始寫《弗洛伊德機器人》,到今年剛好是二十年了。你發現書中有文學性,除了敘述外,文學的內容在書里邊的確是很突出的。剛才我們提到了喬伊斯的《芬尼根的守靈夜》,弗洛伊德讀霍夫曼的《沙人》,這些都是非常關鍵的文學文本,法國的控制論第一人、數學家吉爾博,他特別重視《竊信案》這篇小說。這些科學家都是從文學入手。還有書中關于博弈論創始人馮·諾依曼和摩根斯坦的論述,特別是當我仔細閱讀他們的《博弈論與經濟行為》(Theory of Games and Economic Behavior)時(這本書讀的人特別少,但引述的人特別多),我吃驚地發現,他們在寫作中,依賴了福爾摩斯偵探案。此外,還有創造控制論的維納,他不但也寫過小說,而且對文學批評也感興趣。

      劉盟赟:包括您說書中提到的馬爾可夫。

      劉禾:現在無論誰做人工智能或者大語言模型,全都離不開馬爾可夫鏈。這位十九世紀俄國數學家,他是怎么發現了馬爾可夫鏈的呢?答案是:他是在分析普希金那首著名的長詩《葉甫蓋尼·奧涅金》時發現的,那是關于元音和輔音之間組合的數學結構。這是一個重大的貢獻。香農受到了馬爾可夫鏈的深刻影響,直到今天,人工智能領域依然離不開馬爾可夫鏈。《弗洛伊德機器人》這本書,很多地方都強調了文學和數學關系,但并不是為了說文學對數學理論做出了什么了不起的貢獻。而是想表明,我們不要任意的拆開它們之間有機的聯系,這樣才能幫助我們理解數學想要解決什么問題,文學又在關心什么問題。理科和文科之間被任意地切割,對兩邊都有沒有好處。在數學和文學之間我們共享的就是文字符號,而文字符號里邊發生重大改變的時候,尤其是英語的書寫符號,從表音到表意這個過程,它是怎么發生的,這本書里都有詳細的論述,這些內容對文科和理科具有同樣的價值和反思的意義。

      劉盟赟:通過這本書,我有一個很深的感覺,就是人文學科依然重要,而且隨著新技術的出現,會有更多的想象力與新可能,文科并不會衰落。這和時下全世界都在唱衰、削減文科的舉動似乎相矛盾。您是怎么看待這個問題的?

      劉禾現在不僅是中國,在歐洲,在美國都有這種傾向,大家覺得人文學科碰到了危機。但是我記得三十年前,我在很多會上就已經聽說人文學科碰到了危機。三十年前,當生命科學成為學術主流的時候,就有人提出,學術資源應該主要用到生命科學里去。二十年前,又有人說人文學科碰到危機了,因為新的技術和新的學科被催生出來,等等。我覺得這些都是煙霧彈。你可以說,人工智能給教育本身提出了挑戰,大學教育本身就受到了沖擊。

      劉盟赟:不是人文學科受到沖擊。

      劉禾:不單單是文科。像計算機科學系,他們的有些課程恐怕要被取消了,因為AI可以代替,替人編程之類的,因此不光人文學科要調整。關鍵在于,每一次的技術革新,尤其是新技術的出現,都會把一些古老的問題重新提出來。有藝術家問我,AI可以畫畫,那AI畫出來的還算不算藝術?我說,我們能不能改變一種方式來思考這個問題?當AI可以做藝術的時候,藝術是什么?當AI可寫作的時候,寫作是什么?最根本的挑戰是,當AI可以取代很多教學功能的時候,尤其是在大學的層面,大學教育是什么?所以說,每一次的技術革新都是我們重新思考的機會。因為它讓我們看到了我們思想的局限,這不僅僅是文科的問題。

      就目前來說,如果大學的管理人員覺得資源可以往人工智能傾斜,那是因為中美之間競爭的巨大壓力,這是另外一個問題。如果僅僅從學科的角度來看,你可以砍掉的東西很多。而且大學的校方都很清楚,文科的投入極少,比起科學研究,文科的投入不多,獲得卻很高。如果只算成本,科學家開一個實驗室,要雇多少人,要買多少儀器,這個成本相當于雇傭幾十個人文學者。假如你僅僅是從成本和產出的關系來講,那么把人文學科砍掉根本不劃算。

      劉盟赟最后我還是想回到您的這本書,希望您為讀者“敲一下黑板”。書中您提到數字化革命地發生與發展,是和拼音文字從表音系統轉向表意系統密切相關的。作為象形文字、漢字文化圈的讀者,該如何理解表音與表意這組概念呢?

      劉禾:如果大家對什么叫表意系統有疑問,我就簡單說一下。因為表音系統和表意系統的區別是比較復雜的。數字是一個完全的表意系統,比如阿拉伯數字123456,中文讀音和英文讀音是根本不同的,讀音屬于不同的語言系統,但數字符號跟讀音沒有直接的聯系。在不同語言系統里,它可以有不同的讀法,這有點像漢字。廣東人念漢字是這么念,北京人是那么念。所以漢語系統經常被人理解成一個表意系統,這是有原因的,因為漢字的書寫系統跟語音及語言系統之間似乎沒有必然的聯系,不過漢字的書寫系統是不完全的表意系統。

      讀《弗洛伊德機器人》這本書,千萬不要把它讀成科學史,因為我不是在做知識考古。比方說,我沒有試圖回答機器人是怎么出現的。重要的是這本書對數字時代的哲學批判。你在讀的時候恐怕需要一點耐心。當你找到定義時,也許你還是不明白它是什么意思,那么你就再繼續讀下去,然后你就會發現一些有比定義更有意思的細節,我是希望讀者能在細節和細節的關系中找到一張完全不同的關于二十世紀數字媒介出現的思想地圖。

      劉盟赟:謝謝劉禾老師。

      作者簡介

      劉禾,美國哥倫比亞大學教授,現居美國紐約。主要著作有《弗洛伊德機器人》《跨語際實踐》《劍橋的陌生人》等。

      劉盟赟,編輯,現居上海。

      訂閱2026年《天涯》

      即可一鍵下單

      01

      2025年,《天涯》品牌欄目“作家立場”“民間語文”策劃推出“我們為何再談生態”小輯、“鄉村的可能”談論小輯、“中國古典時代”二人談、“年代信札”小輯、抗戰老兵口述等內容,記錄時代,關注社會議題,思考未來。

      訂閱2026年《天涯》,一冊在手,繼續在記錄和思考中,保持道義感、人民性、創造力。

      2025年《天涯》在“小說”“散文”等欄目持續創新,不僅匯聚名家新作,還積極挖掘文學新人,以“自然來稿里的文學新人”小輯、新人“回頭看”小輯、新人工作間2025、青年小說家專輯、“人間·父親”散文小輯、“散文新銳榜”2025等策劃,推出眾多新人新作。

      訂閱2026《天涯》,繼續和我們一起見證文學新人的亮相。

      02

      03

      2025年,《天涯》入選中國期刊協會“2025BIBF精品期刊展”和首屆中國期刊封面設計精品展;在中宣部組織的文藝評論報刊欄目評選中,本刊“作家立場”欄目入選;在2025年開展的2024年度海南省優秀期刊工作者及優秀論著評選中,《天涯》被評為海南省優秀期刊,《天涯》主編林森被評為優秀主編。《天涯》刊發的多篇作品被《新華文摘》《小說選刊》《小說月報》《中篇小說選刊》等轉載,多篇作品入選各種榜單、獎項。

      訂閱2026《天涯》,我們邀請您一起繼續見證《天涯》的成長。

      《天涯》今年計劃給讀者準備

      近幾年我們最豐厚的精神食糧大餐

      只要訂閱2026年全年6期《天涯》

      就送《天涯》系列文創

      《天涯》筆記本


      此為舊款,新款敬請期待

      《天涯》帆布包


      款式隨機

      《天涯》明信片


      一套四張

      訂閱《天涯》

      還有更多福利

      已經訂閱2026年《天涯》的讀者

      即可自動獲得抽獎機會

      我們將為讀者送上多重驚喜好禮

      以下好禮將隨機送給被幸運砸中的讀者

      先到先得,送完為止

      好禮一

      韓少功親簽新書




      好禮

      林森主編書法作品


      好禮三

      《天涯》改版30周年神秘豪華大禮

      即將公布,敬請期待


      特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

      Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

      天涯雜志 incentive-icons
      天涯雜志
      世相人心,立此存照。
      1169文章數 3506關注度
      往期回顧 全部

      專題推薦

      烏蒙深處 清涼畢節

      無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 农场主三姐妹2保罗| 高清《人世间》| 朴亚珍《隐身帽子》短剧免费观看| 韩剧要帅气的生活| 养生馆男在线观看完整版电影 | 斗罗大陆免费完整观看197| 女巫学院满天星| 我家有喜的全部歌曲| 石头烤鱿鱼| 《急诊护士》无删减播放| 战争电影免费高清在线观看| 郝板理子电影免费观看| 重新爱上你泰剧在线观看| 小品 相亲2| 女儿国满天星| 金石良缘| 夏目彩春57部在线电影| 宋小宝2012春晚小品| 莫妮卡贝鲁奇《地爆天星》电影无删 | 王多余打扑克视频| 《善良朋友的妻子》hd| 小草青青电视剧免费的| 坎贝奇《无憾》在线观看| 秘密花园免费观看全集完整版高清| 莫言 丰乳肥臀 下载| 隐身的蓝色帽子免费完整版电影| 私人女性监狱美国版什么时候上映 | 快乐星球第六部| 战狼10女版国语高清无广告 | 媳妇的美好时代演员表| 电影《姐妹牙医》完整版电影| 丧尸出笼血脉| 植物人老公短剧全集| 密桃仙子| 花开花谢阴晴圆缺| 《部长来我家》在线观看 | 刚结婚陪部长出差电影| 紧扣的星星动漫| 他为什么依然单身电视剧| 鸭寮街的金蛋主题曲| 短剧蛇园全集免费播放| 韩国男按摩师吸乳房电影| 失忆的劳拉电影| 阴阳尼姑2免费看| 马达加斯加3插曲| 复仇者联盟4票价| 部长来家里喝酒在线观看免费| 云岭茉莉白是什么茶| 《准儿媳》完整版| 李德印42式太极剑| 太阳阶梯| 聊斋三 电视剧| 梁小菊的春天| 粉色大白菜法国原版| 年轻的母亲2免费版的完整版| 北越暴行电影正版观看 | 中字HD丈夫的下属中字| 咖喱辣椒粤语| 韩国伦理部长来我家| 《玩火》在线电影免费观看| 女销售的秘密2免费观看| 迷你世界全皮肤破解版下载 | 《洛丽塔少女》高清在线观看| 电视剧铁血尖刀| 我要变坏3| 异世界四重奏| 战狼6免费播放观看完整版| 恋夜秀手机视频uc| 女超人麦迪娜电影在线| 文豪野犬第六季在线观看| 哈利波特3普通话| 孙卓被拐案2名人贩子获刑| 冷血人狼完整版| 爱我几何 完整| 高楞青年| 《售楼小姐3》免费观看| 女婿回家120集免费观看电视剧| 十七岁高清完整版| 二毛驴传奇 电视剧全集免费观看| 光辉岁月无吉他伴奏| 战狼9欧式少女版资源| 美洲杯决赛| 被社长戏虐的妻子| 渣男退散短剧全集| 高清马洛谋杀俱乐部 第三季| 甜蜜再恋第二部全集| 全境封锁电影完整| 莱州市| 流浪汉电影| 嫂子的诱惑| 凡人修仙传动画40集| 保罗一家1-4美国版高清中字| 功夫熊猫四| 高清《偶像练习生》| 隔壁的女邻居5| 璀璨人生65集| 杨紫埃菲尔铁塔下跳舞| 周恩来免费| 世界末日是哪一天| 疯狂女孩1982意大利出版| 金价狂飙 8斤黄金变现174万| 楚门的世界免费观看完整版| 洗衣机修理工艳遇电影| 《催眠软件》动漫第一季| 百万日元的女人们| 谈情说案电视剧| 电影黄金大劫案| 赛伦电影成人版无删减| 安徽庐剧| 秋瓷炫《生死决断》在线播放| 绝品邪医的桃花劫短剧免费观看| 姐姐真漂亮5韩剧免费观看全集 | 牛鞭擦进女人下身在线观看| 猎金·游戏未删减| 法国《监狱伦理3》| 汉武大帝 电视剧| 离山野人之谜| 小伙被嘲买不起泡面一怒包圆| 李贵富接受审查| 茂名市| 我的漂亮女房东完整版BD| 社长秘书电影| 龙马精神免费高清观看完整版| 村姑2国语免费观看| 王保长歪传高清| 中国香港vs朝鲜| 《奇怪的美容院2| 你微笑时很美全集| jizz日本在线| 小娘惹全集电视剧免费| 月光宝盒在线观看全集| 金三角风云电视剧| 我的丑娘续集| 《私人女性监狱》HD| 天魔异种| 松岛枫恶女教师| 女子输血感染艾滋10年后才发现| 《玉女心经2》国语| 妖精的尾巴160| 功夫熊猫第一季| 赖汉的幸福指数 电视剧| 王牌特工2:黄金圈| 哆啦a梦:大雄的宇宙英雄记| 苹果4刷机教程| 女版战狼6免费观看全片影院| 狙击手拉苏尔电影免费观看完整版 | 电影战狼6免收费观看高清| 电车魔女| 女海盗电影在线观看完整版| 《肌肤下的秘密》| 垦利地震| 狙击电视剧免费观看完整| 麦乐迪家庭矛盾3| 门第31集在线观看| 渔夫荒野全集| 家庭教师视频下载| 洪真英电影在线观看免费| 派派完整版| 危情英雄| 高清《黑暗面》| 瞧这一家子在线观看| 天启 二战| 海贼王499| 战狼六电影在线观看正版免费播放| 一生一世谢霆锋高圆圆| 商务旅行戴绿色的帽子| 目之所及| 《饥饿的女儿》| 房奴电视剧全集免费观看| 欲望之火| 迅雷哥手版电影| 亲爱的妈妈BD高清在线观看| 天注定 预告片| 海扁王2迅雷下载| 凯登·克劳斯《暗夜猎手》| 需要爸爸播种子2全集免费看| 《豪勇女蛟龙》西部通缉令| 昨夜长风二十集免费观看| 95se| 世上只有妈妈好免费观看第一集| 美姐妹很努力在线观看| 感官吸引力4| 奇妙发型屋2免费完整版| 院人全年无休计划免费观看| 少年派2电视剧免费观看中文版 | 麻将电影| 读百科全书的女人看在线完整| 《猎罪图鉴》第二部| 《性的暴行》无删减版电影| 分手达人| 执法女先锋2| 白宫陷落2惊天危机| 白毛女选段| 酒店1-80集全集免费,高清 | 美国总统就职典礼直播| 勇敢传说电影| 《且试天下》免费观看全集 | 李嘉诚次子出席重要论坛| 猎狼人电视剧| 琉璃免费观看电视剧西瓜| 罗丽星克莱尔成人版HD版| 异形:夺命舰 电影| 意大利电影需要爸爸的种子| 车水马龙电影免费版| 浪漫医生金实福| 雷军向华为宣战| 夫君是敌国战神:和亲公主全集免费| 疯狂的麦克斯4下载| 十六岁1974美国原版| 蒋玲玲版《渔夫的荒野史记》剧在线| 新兵正传2| 3对1电影| 爱你命中注定泰剧免费观看泰剧网| 怪盗女谍之天海翼未删减版| 幽游白书在线玩| 《屠宰森林》在线观看| 寂寞空庭春欲晚 电视剧| 宋晓波爱在日出前| 喜宴电影| 山顶的屠房| 大香港电视剧国语30集大结局| 举起手来第二部| 男女一起愁愁电视剧免费播放在线观看 | 月夜闪灵| 昆仑神宫电视剧16集在线观看 | 未来罪行| 金瓶梅2电影在线观看| 蜂鸟电视剧| 识骨寻踪第十一季| 缅甸北部的视频在哪里可以看| 退钱哥希望大家记住落后就要挨打| 电视剧da师完整版免费播放| 野花电影手机免费观看| 黑店狂想曲| 插曲的痛在线观看免费播放电影| 文豪野犬第五季在线观看| 《善良的大胸女学生| 电视剧武则天全集| 列车醉汉第一季免费观看完整版高清| 天地粮人电视剧| COATWEST| 十九岁韩国免费观看动漫 | 电视剧《雪狼》完整版| 金银悔5普通话国语版免费| 赌圣3无名小子国语| 忍不住的继拇HD中字5| 七龙珠z剧场版| 咱家爷们儿电视剧在线观看| 猎心者全集| 我有个兄弟叫顺溜| 《拯救地球》| 八尺夫人意大利免费观看| 月光洒向离人巷| 莉娜安德森AⅤ无删减版| 蔡明悼念世间再无“马大姐夫”| 《我的漂亮老师2》在线观看 | 零上十八度软床| 《小巷人家》电视剧| 乃万单手脱上衣| 激情都市| 我为卿狂百度影音| 要爸爸播种| 爱我几何电视剧全集| 三年成全在线观看| 《秘密囚禁》完整版| 美容特殊治疗6| 外星人对女忍者| 二阶堂梦作品在线观看 | 君扬兄茶杯头| 凯·帕克《迷宫》| 北辙南辕电视剧在线观看| 二阶堂完整版在线观看| 蔡琴如梦令| 特殊精油按摩3| 《灭火宝贝| 《入室暴行3被蹂躏电影理论| 屠宰森林| 美容院特殊待遇免费观看| 爱如潮涌电视剧| 俺去也在线播放| 海贼战队豪快者剧场版| 白雪公主h版在线| 东陵大盗| 就差钱带字幕的| 完美广播| 斗罗大陆207集在线观看| 牙医姐妹电影在线看完整版高清| 高清《外出》无删减床戏片段| 律师堕落日本| 黑道大佬第2季免费观看| 村上沙兽皇电影免费观看高清版下载| 韩国美女跳舞| 白峰美羽免费电影| 百花奖总导演致歉| 《女员工的付出》中文| 在暴雪时分大结局点映礼| 花子vs驱魔无删减版立即播放 | 老阿姨在线观看免费版电视剧| 猎人电视剧| 万古齐天全集免费观看| 男子姐姐值夜班离奇失踪多年| 《丰胸沙龙治疗3》HD无字高清完整版| 玛丽和乔治英剧在线观看| R片| 老公我要电影免费观看| 在线播放JUFD-621偷窥湿按摩-巨大的乳房导师在失禁和羞耻中扭动-RikoMizusawa | 拉布雷亚第一季全集高清在线观看| 半是蜜糖| 苍狼之特战突击电视剧| 情侠追风剑| 欲女反乱军下载| 铁扇公主肚子疼| 美国爸爸要播放的电影| 聊斋艳谭之婴宁电影完整版| 酒店1-75集免费观看| 向天再借五百年简谱| 激战丛林电影免费完整版观看 | 蒋丽萍故乡情| 哈利波特5百度影音| 湘西诡案| 还珠格格| 欢乐家长群2电视剧免费播放完整版| 余秋雨经典语录| 《孝庄秘史》在线观看| 第四片甲骨电视剧全集在线观看| 冰河剧集小妈| 电视剧危情杜鹃| 谭晶朱军| 囧妈电影完整版免费| 禁忌5中字完整版| 风风风观看未删减版| 丰乳按摩电影免费观看| 茜拉 洋葱| 隐形帽子电影免费| 毛驴县令之棒子老虎鸡| 超兽武装仁者无敌全集| 恒大vs柏太阳神| 沧元图第2季免费观看| 小猪佩奇的动画片| 保罗2在线观看| 《田耕纪》电视剧| 酒店1至5集免费| 《蛟龙行动》在线观看高清电影| 妈妈爱上儿子| 哦我的鬼神大人 电视剧| 漂亮的瘦子| 美国丽人qvod| 特殊交易在线观看| 杠上开花 电影| 大王别慌张免费观看全集| 三d肉蒲完整版| 一个人的武林在线观看完整版| 屈强退魔师在线观看| 千山万水mv| 动漫《花嫁高柳家》在线观看 | 观看徐锦江《陆判官》| 晨曦中的女孩| 男女生一起愁愁视频在线观看| 苹果范冰冰无删减| 法国空乘4免费完整版在线播放| 古天乐穿越电视剧| 疯狂历史补习社粤语| 黎明之前 高清| 仙逆104| 伸冤人1免费观看高清版| 文轩3800汤臣一品探花| 好姑娘2在线播放免费观看电视剧下载| 武警小哥GRY2022| 一个妈妈的9中字头强华驿演员表 女战狼10免费高清资源 | 法国粉红萝卜| 宫锁沉香电影下载| 《义子侵犯》完整版电影| 《请求救援》| 战狼六欧式少女版资源| 米高积逊| 不能说的夏天电影| 泰剧心影国语版| 高清相反的你和我未删减| 京香监狱电影免费观看| 木府风云38| 伊波拉病毒2国语在线观看完整版| 僧侣之夜在线观看影片| 小阳人前期症状| 艾跃进三个不解之谜| 方言版唐伯虎点秋香| 高清《周年纪念日》电影 | 保姆的特殊服务在线观看| 女人花 电视剧| 妻子8全集完整版在线播放| 新还珠格格53集| 平罗县| 回复术士全集免费观看完整版高清| 中国大案侦破实录| 高清左撇子女孩未删减| 北上广不相信眼泪免费观看全集| 法国电影《瓜达卢佩玫瑰》在线观看| 一站到底清华北大| 《需要爸爸播种籽2》| 命中不注定免费观看| 爱我几何在线播放完整版| 儿女英雄| 一起看流星雨第二部全集| 哈哈哈哈哈第三季免费观看| 被砍死柯基的女主人发声| 塔尔萨之王免费观看西瓜| 大城小事电视剧免费观看全集| 今瓶梅| 宴遇长安| 修理工的欲望| 敢问路在何方 刀郎| 猫和老鼠在线观看| 流星花园泰剧免费观看 | 超人大变身全集| 僵尸世界大战高清| 天国的阶梯国语中文版| 熊出没之过年2部| 电影《需要爸爸播种》演员表介绍| 年轻的母亲在线观看视频| 罗丽星克莱尔的经典电影 | 八尺夫人免费观看全集完整版意大利| 女人的战争之肝脏的交易中字| 失忆后认错老公| 高清《天意》电视剧在线播放| 导弹旅长电视剧| 凯登克里斯版《壮志凌云》| 囧的呼唤| 瓜达卢佩的玫瑰在线观看免费版,中文 | 夜闯寡妇村| 丁俊晖一年收入| 庆余年第二季全集免费观看| 兄弟的老婆8免费观看电视剧下载hezewan | 《高级女特工满天星》电影免费观看| 免费的小猪佩奇全集观看| 京城绯闻电视剧| 急情从林| 黄雀电视剧免费观看| 野战排国语| 美国伦理雪莉3| 高清菜肉馄饨未删减| 热情邻居| 八戒八戒电影在线观看播放| 昆山事件| 乔连连穿越 小说| 太平年免费观看完整版| 阿庆讲故事| 棒棒tv| 城里城外| 需要妈妈的种子| 埋在体内吃饭h| 韩剧想你| 女员工的付出中字5| 汉武大帝分集剧情| 电影慰安妇电影完整版| 张蔷的全部歌曲| 天下父母心| 《激战丛林》在线观看免费| 满清十大酷刑完整片| 好想去你的世界爱你电影| 激战丛林3女兵免费观看高清 | 成一家言| 第八个嫌疑人| 娃娃脸9姑娘9| 高清《女仆小姐的贪吃日常》电视剧 | 监狱风云之传教士| 酒店服务生第一季第一集在线观看| 天涯浴血 电视剧| 战狼10欧式| 《第一次亲密接触》韩剧| 花与蛇全集| 小雪要撑破了黑人好大| 甜蜜惩罚2我是看守专用宠物| 联合早报电影高清完整版需要爸爸播种子 | 爱上同学妈妈| 年轻的母亲4韩剧免费中文版| 台湾古装《原始部落》酋长的女儿叫| 电机小子3部全集播放| 安庆市| 度华年电视剧免费观看全集在线播放 | 韩国漂亮妈妈| 《卿卿我心》叶玉卿免费观看| 恶作剧之吻百度影音| 善良朋友的妻子| 性生活电影| 那年我们一起追过的女孩| 初恋时间1-6| 高清他和她的谎| 《女超人Melody满天星》在线观看| 好男人影视在线观看西瓜| 三年中国在线观看免费观看高清电视| 神秘感染电影| 女超人法国版在线观看| 先帝天马玉花| 雷锋电影下载| 庆余年2电视剧免费观看第一季| 朋友的母亲9有限中字| 朱塞佩 托纳多雷| 成毅王权富贵全集观看| 特殊的酒店客房中字2| 此时此刻在线观看| 国风按摩院 在线 | 白雪公主与猎人百度影音| 孟姜女哭长城电视剧全集免费| 感官世界 在线| 东方卫视电视剧品质盛典| 王多鱼打朴克| 大林寺桃花古诗| 亚洲电影性生活| 小精灵动画片| xl司令第一季无马赛克全集在线观看完整版免费动漫 | 维纳斯是罗马神话中的| 《猎手》免费观看| 周深成跨年最忙的人| 春光灿烂周三强| 美女在线观看完整免费高清原声满天星 | 独步逍遥在线观看| 独具匠心的意思| 花与蛇牙医免费版全集| 红高粱高清下载| 女子版捉鬼敢死队满天星| 徐若瑄终极猎杀| 军事不当行为法版免费观看| 你是我的独家意外| 猛兽侠下载| 超人气校园| 眼镜蛇特种部队| 年轻的销售员8| 银河奥特曼3| 爸爸种子的秘密免费观看电视剧| 欧美战狼8影免费完整版下载| 战狼6欧美版免费观看完整版国语下载 | 法国电影《军事不当行为》在线观看| 北妹皇后| 《风向GO 第二季》| 李碧华鬼魅系列:迷离夜| 武动乾坤 电视剧| 壮志凌云成人版在线观看| 斗罗大陆117集| 小娘惹2020新版| 法医王妃全集免费| 济南电视台少儿频道| 异星灾变第二季| 高清《满意度》电影完整版| 小小蜜桃6免费播放全集电视剧| 画心师免费观看全集20| 社长的妻子为了还债安抚下属的| 农场保卫战完整版免费观看| 雪中悍刀行第二部大牛影库| 小鱼吃大鱼电影| 中国春节 bbc 记录片| 《大兵的寝室》电影完整版在线观看| 电影植物学家的女儿| 美丽的小蜜桃5| 百武装战记| 生死时速2| 打蛇电影完整版免费观看国语| 3d肉蒲团之极乐宝| 《酒店激情1-5集在线观看| 我在精神病院学斩神动漫| 漂亮的瘦子4| 新版燕子李三电视剧| 日本电影《牙医姐妹》完整版高清| 第一点血2| 妹妹电影| 野花日本免费高清7| 黑蔷薇夫人| 战狼4欧美版免费观看完整版| 护士贝蒂| 法国空乘5完整版免费播放| 雪迷宫40集电视连续剧| 恋空在线观看| 南开大学通报3名教师被举报| 《疯狂动物城2》中文版| 坎贝奇在线观看完整| 苏炳添说对不起大家| 武功县| 九号秘事之黑帷背后电视剧| 弹钢琴的盲童| 公浮之手2023| 秘密人质| 镇远县| 坚持翁立友| 情深深雨蒙蒙35| 在线观看我的性感老师| 乐游原电视剧40集全免费观看| 一起愁愁愁免费观看完整版电视| 五十道阴影| 真探电影版免费播放完整版| 电影水电工的艳遇国语在线观看| 名侦探柯南普通话版免费观看 | 毕打自己人粤语全集| 笑嗷喜剧人| 胡乱的深见君电视剧| 罗丽星克莱尔总统夫人免费观看| 契约婚姻| 白峰601电影免费播放2023年上映时间表 | 萧红电影高清免费观看| 出轨的女人 qvod| 电视剧珠光宝气| 女员工的待遇电影| 电影《塔蒂亚娜2》在线 | 现在我们相爱吗| 战狼6高清在线下载资源 | 我妻子的新妈妈双字ID| 赌神1电影| 两个人高清电影在线观看| 漂亮的瘦子电影| 爱情公寓25集| 三狼奇案| 疯狂女孩1982意大利出版| 原来我早就无敌了| 坎贝奇影片在线观看| 电影心灵奇旅| 末路天堂| 恋情望你察觉动漫在线观看第一集| 古惑仔之义| 红红好生活| 新唐伯虎点秋香2| 美味快递员的特殊待遇在线观看| 王保长歪传高清| 《旷野之物》朴智炫演在线观看| 亲爱的热爱的| 《镜的第三乐章》| 斗鱼静宝宝| 怀集县| 爱的涟漪电视剧| 游戏王gx动漫在线观看| 《越南俘虏营》在线观看| 生化危机5惩罚电影| 聊斋志异三| 秋风经过王菲| 《四少妇按摩完整版》| 北京夜店2女神本色| 组织部长玩公安局长| 电影部长出差的日子| 五十度飞| 阿桑葬礼| 春晚最美女观众| 王的女人下载mp4| 措美县| 男生女生一起愁愁愁电视剧观在现观看| 战栗的乐谱下载| 你微笑时很美免费全集| 私人航空电影免费观看| 新红男绿女全集| 诺亚方舟:创世之旅| 《overflower》第1季免费观看全集动漫 | 大开眼界剧情深度解析| 逆流而上的你免费观看完整版| 和平区| 萧亚轩mv| 湖北经视直播在线观看| 鹿鼎记胡歌版| 除却巫山电影无删减版| 李安 逝去的爱| 乡村首富:小农民的传奇短剧全集| 秘密搜查官陷落JULIA| 隔壁的女孩3在线观看| 督错了洞| 台剧《浪漫女家教》在线看全集 | 日本版红楼梦| 男生女生一愁愁愁电影在线观看| 女女女hd| 丰满年轻岳每3| 酒店激战1-5集免费播放人生第一次| 极速救援电影| 正阳门下电视剧全集36| 苹果电影完整版在| 坎贝奇在线观看完整| 局内人2| 日本一本到道免费| 莫妮卡版《爱我几何》哪里能看 | 吻到停不下来| 卖房子的韩国电影| 我是特种兵之火凤凰结局| 古剑奇谭免费全集观看| bf-597 丈夫不在的四天 中文字幕| 《我的漂亮老师2》在线观看| 西出玉门40集全免费播放| 女儿的朋友5线观高清有翻译| 与老公上司偷情免费看| 法国空乘5全集观看| 斗牛犬电影| 美国1985小辣椒3正版| 明日边缘2:生死轮回电影完整版| 维奥莱特| 麦乐迪女超人》 | 妻子的背叛电影免费版| 机械姬迅雷下载| 花房姑娘三免费观看高清电视剧| 热血街区极恶王x| 新济公活佛下部| 激情五月天小说| 哒哒哒在线观看播放免费| 巧虎动画片| 汝南县| 玻钻之争国语版全集优酷| 有你真好天堂飘雪| 我的自由年代7| 瓜达卢佩的玫瑰无删减| 沧元图55| 沉香如屑电视剧40集全免费观看| 西班牙掌中之物第一季在线观看| 《街头顽童》| 魔境仙踪快播| 爱丫爱丫电视剧免费高清| 犯罪高手| 进击的巨人大结局| 私人教练1982年美国帕克| 火线警告第三季| 六姊妹电视连续剧全集| 残骸电影免费观看完整版| 妻子八| 8866小游戏| 大明风华在线观看免费完整版| 迷人的保姆2在线看| 空调维修工人的艳遇在线观看全集| 《大梦归离》在线观看| 名侦探柯南普通话免费观看| 爆操老妈第46集完整版| 胡歌版射雕| 妙贼警探第四季| 人民的名义20集| 火影忍者h动漫| 小草青青 电视剧| 牛魔王和铁扇公主| 樱花庄的宠物女孩| 赤子板牙医现在观看| 扫毒风暴免费观看全集电视剧| 万古仙穹动漫第二季| 伴换5| 别墅轮换在线观看免费完整版电视剧| 黑雾 电视剧| 总会再相见全集观看| 刚结婚陪部长出差的日剧叫什么| 睫毛膏2成人片| 《风流夫人》免费高清在线观看| 农情蜜意| 亲爱的你电视剧免费观看完整版| 南开区| 吴健农民伯伯2| 不一样的男子| 空中世界二战| 大学生按摩推油3| 古畑任三郎国语| 武朝迷案| 动感之星小玲| 司马南讲座| 贝雷帽钩织教程视频| 导弹旅长电视剧| 木下檀檩子免费观看高清版| 猎战狂徒电影| 高清《纵情欲海》1无删减| 云巅之上电视剧| 杨玉环的三港版1996| 电影冷山在线看高清免费播放| 外国人那东西太大进不去| 我和僵尸有个约会粤语 | CHIUTSE中老年女HD| 继拇再也忍不住了HD| 别打扰我读书电视剧结局免费观看| 啄木鸟壮志凌云| 满天星女超人在线观看| 王心凌第一次爱的人全场大合唱| 黄飞鸿之壮志凌云| 韩国免费爱情电影大全| 漂亮的瘦子2025| 麦乐迪版女超人完整版在线观看| 永不磨灭的番号搜狐| 《妻子的背叛》全集观看| 《最佳离婚攻略》| 空蝉之森原版完整版网盘| 快乐向前冲2013年度总决赛| 斗罗大陆全集免费观看完整版动漫 | 日本和讨厌的部长出差系列| 中毒韩国电影完整版资源| 莺长的女儿未删减版| 婆媳是怎样炼成的| 日本金银1—6| 高清《封神:妲己》| 烟火人家电视剧简介| 十二猴子| 蜜桃17| 透视安吉拉怀特免费看| 向往的生活第七季在线观看| 落跑甜心徐垒| 刘海戏金蟾电视剧| 可疑的美容院韩剧| 91制片厂 - 看她社区| 白峰美羽在线看| 漂亮的保姆第四集在线观看中文| 玉女心经2阴阳和合人物介绍| 阴阳师在线观看完整版免费 | 本乡爱主演电影大全| 麦乐迪爸爸不让她出门是哪一部| 电影爱情呼叫转移2| 歧路兄弟全集免费观看完整版| 卧底达子| 冬日恋歌在线观看| 壮志凌云2啄木鸟满天星法版| 韩国电影遥控器控制老板| 少年包青天3免费观看完整版超清 猪猪侠太阳之子排名 | 明星大侦探6| 深情眼全集免费完整版| 烈火情人 百度影音| 《需要爸爸种子》| 插曲的痛第9集免费资源| 养鬼吃人7| 美景之屋6HD在线播放| 决战黎明全集| 长月烬明电视剧在线观看完整版| 小凤新婚| 台剧浪漫女家教免费观看| 日本电影厨房激情2| 总理和我| 《僵尸叔叔》国语版免费观看| 名侦探柯南714| 今夜天使降临电视剧| 《女销售员:满天星》电影简介 | 妻子8免费完整高清电| 下北泽之虎胆龙威| 薰衣草免费高清在线观看大全| 海绵宝宝全集| 了凡四训电视剧完整版免费观看| 哪里逃1VLH| 3d柔铺团| 空蝉之森| 女子疑高楼撒10多万现金后跳楼 | 我哥我嫂电视剧全集50集大结局| 完美音调| 肉蒲团高清在线观看| 白峰关羽《妻子的心酸》| 最棒的情人沼,不关乎工作与家庭| 凯·帕克的经典1984第6| 高清咒术回战 第三季未删减| 小王日记毛不易| 新乌龙院之笑闹江湖| 一代女皇武则天免费播放电视剧| 魔镜号街头中文字幕免费完整版 | 欢乐家长群在线观看| 与外婆同行| 下一个台风| 迪迦奥特曼4| 《维修工人的艳遇》中字 | 冷血人狼1994无删减完整版粤语| 妖精的尾巴160| 老电影生死牌| 一起愁愁电视剧40集在线观看| 爱我几何无删减版在线观看| 相亲相爱一家人| 高压监狱免费| 我的奴隶|