![]()
新智元報(bào)道
![]()
80年前,阿根廷作家博爾赫斯寫過(guò)一個(gè)寓言,叫《博聞強(qiáng)記的富內(nèi)斯》。博爾赫斯筆下的富內(nèi)斯,擁有過(guò)目不忘、堪稱完美的記憶,卻無(wú)法思考,因?yàn)樗伎家蕾囉谶z忘和抽象。
正如神經(jīng)科學(xué)家Oliver Sacks在《意識(shí)的河流》中所言,創(chuàng)造要求遺忘:當(dāng)我們回看舊筆記本,塵封多年的想法反而能重獲新生,從新的視角被重新關(guān)照。這正是富內(nèi)斯所不具備的能力。
![]()
而「意識(shí)的河流」這個(gè)詞來(lái)源于美國(guó)心理學(xué)奠基人William James的《心理學(xué)原理》。 他將記憶拆分為兩個(gè)環(huán)節(jié):
保持(Retention):經(jīng)驗(yàn)在神經(jīng)中留下痕跡;
回憶(Recall):從當(dāng)前線索出發(fā),沿聯(lián)結(jié)網(wǎng)絡(luò)重返過(guò)去情境。
James的核心洞見(jiàn)是:回憶并非按地址讀取文件,而是情境性的重構(gòu)。
由此,記憶呈現(xiàn)兩副面孔——對(duì)內(nèi),它是有損壓縮:大腦將經(jīng)驗(yàn)蒸餾為要點(diǎn)與圖式,犧牲細(xì)節(jié)以換取遷移能力;對(duì)外,它是可傳遞的媒介:壓縮后的經(jīng)驗(yàn)經(jīng)由講述、書寫、傳授,使后人無(wú)需重蹈覆轍,便可站上前人肩膀。
壓縮,與傳遞。這兩件聽(tīng)上去樸素的事,恰恰是今天最強(qiáng)的AI所沒(méi)有的。
Context≠記憶≠RAG!
AI最大短板:記憶
今天的大模型,是一種前所未有、卻也殘缺的天才。它擁有的兩種「記憶」,都不是我們真正說(shuō)的那種記憶。
一種是燒進(jìn)模型權(quán)重里的知識(shí),它讀過(guò)的大半個(gè)互聯(lián)網(wǎng),凝固成了先天常識(shí),像一部無(wú)比淵博卻再也不會(huì)更新的百科全書。另一種是當(dāng)下這輪對(duì)話的上下文,它能記住你這幾千字,可窗口一關(guān),一切歸零,像一塊每次開(kāi)機(jī)都被擦干凈的白板。
它有淵博的語(yǔ)義,有短暫的當(dāng)下,卻唯獨(dú)缺了中間那一層:一段活著的、不斷累積的、屬于「你和它」的過(guò)去。用認(rèn)知科學(xué)的話說(shuō),它有語(yǔ)義記憶,沒(méi)有情景記憶;有工作記憶,沒(méi)有長(zhǎng)時(shí)記憶。它每一次醒來(lái),都是一次干凈的失憶。
有人會(huì)說(shuō),這幾年一直在給AI「外掛記憶」。確實(shí),主流做法是把知識(shí)存進(jìn)一個(gè)外部庫(kù),用時(shí)再檢索回來(lái),向量檢索、RAG,本質(zhì)都是讓模型臨時(shí)「查一次資料」。后來(lái)上下文窗口越做越長(zhǎng),有人干脆把大段歷史整個(gè)塞進(jìn)去。
但檢索,并不等于記憶。上下文越長(zhǎng),模型反而越容易在其中迷路:位置偏差、多跳失敗、無(wú)關(guān)信息的干擾,都是頑疾。
更要命的是,它出錯(cuò)的方式和人恰好相反。設(shè)想你問(wèn)它:「上個(gè)月我參加過(guò)幾場(chǎng)跟藝術(shù)有關(guān)的活動(dòng)?」一個(gè)靠相似度檢索的系統(tǒng),一看到「藝術(shù)」兩個(gè)字就興奮起來(lái),把你聊過(guò)的「班克斯的街頭藝術(shù)」「那場(chǎng)關(guān)于希臘藝術(shù)的討論」一股腦撈回來(lái)。
可這些是你聊過(guò)的話題,不是你參加過(guò)的活動(dòng);而真正該找到的四場(chǎng)活動(dòng),它漏了兩場(chǎng)。它擅長(zhǎng)找「字面上像的」,卻答不出「事理上對(duì)的」。
![]()
這就是今天AI記憶的真正短板。問(wèn)題從來(lái)不是它記得不夠多,而是它不會(huì)回憶。
中國(guó)00后團(tuán)隊(duì)
把人類回憶的本能做成工程
要把這件事修好,得先回到那個(gè)更根本的問(wèn)題:一個(gè)「會(huì)回憶」的系統(tǒng),到底該長(zhǎng)什么樣?這方面,進(jìn)化已經(jīng)調(diào)試了幾億年。
認(rèn)知神經(jīng)科學(xué)有一個(gè)影響深遠(yuǎn)的框架,叫互補(bǔ)學(xué)習(xí)系統(tǒng)。大腦用兩套互補(bǔ)的記憶在工作:以海馬體為核心的快系統(tǒng),能把一次性的具體經(jīng)歷迅速抓住,這就是情景記憶;以大腦皮層為核心的慢系統(tǒng),把成千上萬(wàn)次經(jīng)歷里反復(fù)出現(xiàn)的規(guī)律慢慢沉淀成概念與常識(shí),這就是語(yǔ)義記憶。兩套缺一不可。
![]()
大腦的巧妙在于讓它們接力:海馬先把新經(jīng)歷暫存,再在休息與睡眠里一遍遍「回放」給皮層,讓皮層緩慢地把其中穩(wěn)定的部分吸收進(jìn)去。這個(gè)過(guò)程叫鞏固,而鞏固在做的事,說(shuō)白了就是壓縮。
那「回憶」本身呢?海馬里的CA3區(qū)域是一張高度互聯(lián)的回路,行為很像物理學(xué)家霍普菲爾德在1982年提出的聯(lián)想記憶網(wǎng)絡(luò)。
這種網(wǎng)絡(luò)有個(gè)迷人的特性:一段記憶不是存在某個(gè)地址里等你去「讀取」,而是作為整張網(wǎng)絡(luò)的一個(gè)穩(wěn)定狀態(tài)被存下來(lái);當(dāng)你遞給它一條殘缺的、帶噪聲的線索,整張網(wǎng)絡(luò)會(huì)自動(dòng)朝最接近的穩(wěn)定狀態(tài)收斂過(guò)去,把完整的模式重建出來(lái)。
一張全息底片,哪怕只剩一角,也能重建出整幅圖像。人的回憶,就是這樣一種「從線索重建整體」的過(guò)程。
就在最近,一支叫Shadoweave(織影)的中國(guó)團(tuán)隊(duì)發(fā)布了一篇技術(shù)報(bào)告,把上面這套「人腦的記憶本能」,一板一眼地做成了工程。
![]()
團(tuán)隊(duì)集結(jié)了來(lái)自CMU、SJTU-SAI、哈佛、清華、UC Berkeley、上海AI Lab等世界頂尖院校或機(jī)構(gòu)的年輕學(xué)者,其中00后博士生占比達(dá)70%,平均年齡只有24歲,但累計(jì)發(fā)表論文56篇,頂會(huì)31篇,覆蓋ICML、ECCV、ICLR、NeurIPS等頂級(jí)會(huì)議。
這是一支跨學(xué)科的復(fù)合型、國(guó)際化、多元化團(tuán)隊(duì):有人師從計(jì)算認(rèn)知記憶奠基人,為AI注入人類記憶的理論靈魂;有人深耕世界模型與推理優(yōu)化,把長(zhǎng)序列記憶從算力黑洞變成可落地的工程現(xiàn)實(shí);有人曾主導(dǎo)微軟小冰核心算法開(kāi)發(fā)、ToDesk、QwenC多模態(tài)推理Agent等千萬(wàn)級(jí)用戶產(chǎn)品,把前沿論文變成真實(shí)世界的生產(chǎn)力。
他們既能在黑板上推導(dǎo)記憶的數(shù)學(xué)本質(zhì),也能在服務(wù)器集群里壓榨每一毫秒的推理延遲;既懂大腦如何遺忘、如何重構(gòu),也懂如何讓AI學(xué)會(huì)「該忘什么、該記什么」。當(dāng)全球大模型還在拼參數(shù)、拼數(shù)據(jù)時(shí),他們讓AI像人一樣記憶,像人一樣思考。
他們的系統(tǒng)叫HMS,Holographic Memory System,全息記憶系統(tǒng)。名字里那個(gè)「全息」指的是什么,此刻你已經(jīng)知道了。
HMS的第一個(gè)關(guān)鍵判斷,與William James不謀而合:把留存(retention)與回憶(recall)徹底分開(kāi)。留存,對(duì)應(yīng)大腦的鞏固,經(jīng)歷被結(jié)構(gòu)化地沉淀進(jìn)一個(gè)穩(wěn)定的記憶庫(kù),而一旦沉淀每次回憶時(shí)不再被隨手改寫。回憶,則被重新定義成一件主動(dòng)的事:面對(duì)每一個(gè)具體的問(wèn)題,現(xiàn)場(chǎng)重建回答它所需的證據(jù)。
第一步,先想清楚要找什么,再動(dòng)手找。面對(duì)「上個(gè)月參加過(guò)幾場(chǎng)藝術(shù)活動(dòng)」,HMS不急著搜,而是先把問(wèn)題拆開(kāi):涉及哪個(gè)時(shí)間段?牽扯哪些人、哪些事物?它甚至?xí)劝选干蟼€(gè)月」換算成一個(gè)確切的日期區(qū)間。這正是James說(shuō)的「先想清楚我要找的是什么類型的信息」。
第二步,按需換鑰匙,找完了還要回頭自查。HMS備了六把不同的「鑰匙」,按時(shí)間追、按人物串、按上下文補(bǔ)、按最新值查、按矛盾點(diǎn)抓、按關(guān)系跳,而不是什么問(wèn)題都拿同一套相似度搜索去套。更要緊的是,它找完會(huì)回頭驗(yàn)一遍:計(jì)劃里要填的每一格證據(jù)都填上了嗎?不夠,就在檢索側(cè)繼續(xù)補(bǔ)。
第三步,把證據(jù)理成清單再交卷。去重、按時(shí)間排好、標(biāo)注來(lái)源,最后遞到模型面前的是一張能直接數(shù)數(shù)、比大小、看先后的事實(shí)表。
![]()
一句話總結(jié):老辦法是讓模型在一大堆搜索結(jié)果里湊答案,HMS則先像人一樣,把回憶這件事有規(guī)劃、有驗(yàn)證、有條理地做完,再請(qǐng)模型下筆。
雙榜SOTA登頂
這套設(shè)計(jì)到底管不管用?HMS用兩個(gè)業(yè)界公認(rèn)的長(zhǎng)時(shí)記憶基準(zhǔn)給出了回答。
而這組數(shù)字真正的分量,首先在它的測(cè)法:所有被拿來(lái)比較的系統(tǒng),全部基于各自的官方開(kāi)源倉(cāng)庫(kù)復(fù)現(xiàn),并且統(tǒng)一用同一個(gè)模型GPT-5-mini來(lái)完成記憶抽取、答案生成和對(duì)錯(cuò)判定。不存在「我用Claude-opus跑分、你用小模型跑分」的注水空間。
LongMemEval基準(zhǔn)(多會(huì)話交互記憶測(cè)試):HMS-self-evolve以92.8%的總體準(zhǔn)確率登頂,此前最強(qiáng)的Hindsight是88.8%。在最難的「時(shí)序推理」子項(xiàng)上,HMS達(dá)到94.7%,Hindsight是88.7%,拉開(kāi)了整整6個(gè)百分點(diǎn)。在「多會(huì)話聚合」上,HMS以87.2%領(lǐng)先Hindsight的81.2%。在考驗(yàn)用戶偏好記憶的題目上,HMS達(dá)到96.7%,大幅領(lǐng)先Hindsight的86.7%、OpenAI收購(gòu)的Mastra的53.3%。
![]()
LoCoMo基準(zhǔn)(長(zhǎng)對(duì)話復(fù)雜推理測(cè)試):HMS-self-evolve以93.5%再度登頂;在多跳推理上達(dá)到91.5%,開(kāi)放域推理達(dá)到95.5%。被OpenAI收購(gòu)的Mastra在該榜上的表現(xiàn)也遠(yuǎn)不及HMS。
![]()
兩個(gè)榜同時(shí)登頂,還只是表面。更能說(shuō)明問(wèn)題的是它贏在哪里。HMS強(qiáng)的地方,恰好是相似度檢索最弱、而人類回憶最擅長(zhǎng)的地方:把散落在不同時(shí)間、不同情境里的線索,重新接成一條完整的證據(jù)鏈。準(zhǔn)確率、Token消耗、響應(yīng)速度,三項(xiàng)核心指標(biāo)全面領(lǐng)先。
越用越強(qiáng):自進(jìn)化的飛輪
HMS還有一個(gè)容易被忽略但極其關(guān)鍵的應(yīng)用:自進(jìn)化。
HMS-base(不帶自進(jìn)化控制器)的準(zhǔn)確率是92.4%,加上自進(jìn)化控制器后達(dá)到92.8%。差距看起來(lái)不大,但這0.4%的提升來(lái)自六個(gè)精細(xì)的自進(jìn)化模塊,包括計(jì)數(shù)去重、相對(duì)日期錨定、精確日期回填、數(shù)值差異校準(zhǔn)、當(dāng)前與歷史狀態(tài)仲裁、雙層來(lái)源錨定。
![]()
翻譯成大白話:用戶使用周期越長(zhǎng),系統(tǒng)會(huì)自動(dòng)學(xué)會(huì)諸如「計(jì)劃中的事件不該當(dāng)成已完成的來(lái)計(jì)數(shù)」「問(wèn)上周六的事要先把上周六解析成具體日期」這類細(xì)微但關(guān)鍵的判斷。
準(zhǔn)確率在持續(xù)提升,Token消耗在持續(xù)下降,這是一個(gè)越用越強(qiáng)的技術(shù)飛輪。而這個(gè)飛輪本身,正是記憶最先能服務(wù)的對(duì)象:讓記憶系統(tǒng)自身越來(lái)越聰明。
AI的下一個(gè)「CUDA時(shí)刻」
到這里,我們其實(shí)只談了記憶的第一副面孔:對(duì)內(nèi)的壓縮與重建。但開(kāi)頭還埋著第二副面孔:對(duì)外的傳遞。Shadoweave真正的野心,在這一面。
再說(shuō)一遍那個(gè)事實(shí):人類文明能夠累積,不是因?yàn)槊總€(gè)人都更聰明,而是因?yàn)橛洃浛梢员粔嚎s、被重新整理,然后跨越個(gè)體與世代傳下去。前人把踩過(guò)的坑寫成書,后人讀幾個(gè)小時(shí),就繼承了別人幾十年的教訓(xùn)。語(yǔ)言、文字、書籍、互聯(lián)網(wǎng),人類每一次躍遷本質(zhì)上都是記憶的外化,以及智能傳遞方式的一次升級(jí)。
今天的AI,恰恰卡在這一環(huán)。每一個(gè)模型、每一個(gè)Agent、每一臺(tái)機(jī)器人,都在自己的小世界里從零攢記憶,無(wú)法繼承。編程助手學(xué)會(huì)的東西,客服Agent一無(wú)所知;這臺(tái)機(jī)器人辛苦積累的經(jīng)驗(yàn),換一臺(tái)就得從頭再來(lái)。這就像一個(gè)沒(méi)有文字的部落:每個(gè)人都得親歷一切,誰(shuí)也無(wú)法真正站在別人的肩上。
為什么記憶注定會(huì)獨(dú)立成層?讓硅基存儲(chǔ)成為碳基記憶和技能的載體。
計(jì)算機(jī)的體系結(jié)構(gòu)是一面鏡子。大模型本質(zhì)上是一個(gè)「認(rèn)知節(jié)點(diǎn)」,負(fù)責(zé)計(jì)算與推理;而記憶是一個(gè)與之正交的問(wèn)題,關(guān)乎信息怎么組織、怎么檢索、怎么遺忘、怎么整合。就像處理器和存儲(chǔ)層級(jí),從計(jì)算機(jī)誕生第一天起就是分立的兩套體系。沒(méi)有人會(huì)因?yàn)镃PU廠商強(qiáng)大,就斷言存儲(chǔ)沒(méi)有獨(dú)立價(jià)值;恰恰相反,由緩存、內(nèi)存、硬盤組成的存儲(chǔ)層級(jí),自成一個(gè)萬(wàn)億級(jí)產(chǎn)業(yè),還定義了整個(gè)系統(tǒng)效率的上限。
AI正在重演這個(gè)結(jié)構(gòu):今天的大模型、明天的新形態(tài)、走向物理世界的具身智能,都是不同形態(tài)的認(rèn)知節(jié)點(diǎn),而它們無(wú)一例外,都需要同一樣?xùn)|西:一個(gè)能持久化、能跨會(huì)話、能隨使用而進(jìn)化的記憶層。
![]()
而一旦記憶能以一種中立、標(biāo)準(zhǔn)的形式,在不同模型、不同Agent、不同設(shè)備之間被共享和繼承,它就不升格成一層公共的基礎(chǔ)設(shè)施。一家模型廠商可以做綁定自家產(chǎn)品的淺層記憶,卻做不出跨廠商的通用層,因?yàn)橥ㄓ脤拥膬r(jià)值恰恰在于中立,而沒(méi)有誰(shuí)愿意把自己的記憶托付在競(jìng)爭(zhēng)對(duì)手的地基上。
歷史上這樣的時(shí)刻并不陌生:1980年代真正的贏家不是某一臺(tái)PC,而是讓所有PC通用的操作系統(tǒng);1990年代不是某一個(gè)瀏覽器,而是讓所有機(jī)器互聯(lián)的TCP/IP;2010年代不是某一塊芯片,而是讓所有算力能被調(diào)用的CUDA。
這正是Shadoweave給自己的定位:不做「又一個(gè)記憶存儲(chǔ)方案」,而做AI時(shí)代的記憶協(xié)議——Memory Controller。
從協(xié)議到產(chǎn)品:兩只腳已經(jīng)著地
這層協(xié)議已經(jīng)長(zhǎng)出兩只腳。
面向每一個(gè)普通人,團(tuán)隊(duì)正在做一個(gè)叫Memory Bank的產(chǎn)品,你的第一個(gè)「?jìng)€(gè)人記憶賬戶」。
過(guò)去二十多年,你把數(shù)據(jù)、隱私和流量讓渡出去,換回免費(fèi)的互聯(lián)網(wǎng)內(nèi)容和服務(wù)。這筆交易的另一面,就是此刻你的照片在iCloud,會(huì)議記錄在飛書,聊天消息在微信,偏好散落在十幾個(gè)APP里。數(shù)據(jù)由你產(chǎn)生,資產(chǎn)卻記在平臺(tái)名下。所以你的AI助手想了解你?它可能連你上周開(kāi)了幾個(gè)會(huì)都記不全。
AI時(shí)代,這筆交易要重新談了。你和各類智能體的每一次交互,都滾動(dòng)一次只屬于你的數(shù)據(jù)飛輪,而這些記憶第一次可以被傳輸、被交易、被驗(yàn)證。從平臺(tái)的燃料,交互數(shù)據(jù)變成個(gè)人的資產(chǎn)。根本的變化只有一個(gè):數(shù)據(jù)的擁有者易主了。
Memory Bank要做的,是把這些散落各處的碎片,沉淀成一份可召回、可授權(quán)、可審計(jì)的個(gè)人記憶層。每一條記憶的來(lái)源、時(shí)間、可信度你都看得見(jiàn),也隨時(shí)可以隱藏、刪除、凍結(jié)。
你手里還握著總開(kāi)關(guān):可以隨時(shí)關(guān)掉記憶采集,可以選純本地模式讓數(shù)據(jù)不出設(shè)備,也可以聯(lián)網(wǎng)。核心原則只有一條:記憶到底屬于誰(shuí),從來(lái)不該只是一句漂亮話,而是所有權(quán)易主之后,寫進(jìn)產(chǎn)品結(jié)構(gòu)里的默認(rèn)值。
面向開(kāi)發(fā)者與企業(yè),HMS已經(jīng)完成SDK封裝,可以直接交給基座模型廠商、Agent廠商和具身機(jī)器人廠商做集成測(cè)試。GitHub倉(cāng)庫(kù)已經(jīng)開(kāi)放,技術(shù)報(bào)告中全部的復(fù)現(xiàn)數(shù)據(jù)與測(cè)試流程均可溯源。
地址:https://github.com/Shadow-Weave/HMS
HMS的五個(gè)動(dòng)詞「read/write/handoff/rollback/verify」定義了這個(gè)協(xié)議的基本接口。
未來(lái),HMS將持久記憶融入感知、推理、控制與具身行動(dòng)。任何新的Agent、模型、機(jī)器人,只要接入HMS,就能立刻繼承過(guò)去的知識(shí)和行為規(guī)律,而不必從頭再學(xué)。
![]()
記憶的終點(diǎn),是文明演化
我們回到富內(nèi)斯。記憶必須會(huì)遺忘,所以能提煉;必須靠重建,所以能理解;必須可傳遞,所以能累積。
記憶的終點(diǎn)不是存住,而是傳承。和貨幣一樣,鎖進(jìn)保險(xiǎn)柜的錢只是紙,流通起來(lái)才是財(cái)富——數(shù)據(jù)只有交換,才有價(jià)值。
就在幾天前,強(qiáng)化學(xué)習(xí)之父Sutton官宣創(chuàng)業(yè);幾個(gè)月前,他的學(xué)生、AlphaGo之父Silver做了同樣的事。師徒倆押的是同一句話:智能,從經(jīng)驗(yàn)里長(zhǎng)出來(lái)。
但很少有人追問(wèn)上一環(huán):經(jīng)驗(yàn),從哪里長(zhǎng)出來(lái)?富內(nèi)斯給過(guò)反面答案:記住一切的人,提煉不出任何經(jīng)驗(yàn)。經(jīng)驗(yàn),是記憶經(jīng)過(guò)高效抽象與表征之后的結(jié)晶。如果說(shuō)記憶是礦石,經(jīng)驗(yàn)是金屬,那HMS就是中間那座冶煉廠。
至此,鏈條第一次完整:記憶沉淀為經(jīng)驗(yàn),經(jīng)驗(yàn)長(zhǎng)出智能,智能被傳遞、被擴(kuò)散,匯成文明的演化。數(shù)據(jù)的價(jià)值,在每一次交換與繼承中被點(diǎn)燃。
終局是什么?一萬(wàn)個(gè)人讀同一本《幾何原本》,一萬(wàn)個(gè)大腦長(zhǎng)出同一套幾何直覺(jué)。當(dāng)無(wú)數(shù)模型、Agent、機(jī)器人接入同一個(gè)記憶層,一個(gè)個(gè)體踩過(guò)的坑,就是整個(gè)群體的本能:個(gè)體怎樣從記憶長(zhǎng)出智能,群體就怎樣長(zhǎng)出更大的智能,像一棵樹(shù),每根枝椏都按整棵樹(shù)的方式生長(zhǎng)。
模型決定AI第一次見(jiàn)面有多驚艷,記憶決定這份聰明能否被結(jié)轉(zhuǎn)、被繼承、被千萬(wàn)個(gè)同類共享。
聰明會(huì)貶值,經(jīng)驗(yàn)會(huì)復(fù)利。一個(gè)智能體的記憶叫經(jīng)驗(yàn),一億個(gè)智能體的共享記憶,叫文明。第一個(gè)把「會(huì)傳遞」寫進(jìn)協(xié)議底層的人,Shadoweave已經(jīng)在路上。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.