機(jī)器人要自我進(jìn)化，先得看見人類如何犯錯(cuò)

為什么機(jī)器人學(xué)習(xí)人的動(dòng)作這么難？答案其實(shí)藏在操作失誤后的學(xué)習(xí)中。

以倒水為例。水快倒?jié)M的時(shí)候，人會(huì)本能把手腕壓低，如果沒控制住壓多的話，就會(huì)讓上升的水面晃起來，甚至濺出水。發(fā)現(xiàn)情況后，人就會(huì)謹(jǐn)慎：視線盯住杯口，手腕角度放緩，把倒水速度降下來。再倒第二杯時(shí)，人會(huì)根據(jù)剛剛的失誤調(diào)整了動(dòng)作。

這個(gè)變化很小。放在視頻里，可能只是幾幀動(dòng)作差異；放在力反饋手套里，也許只是手部姿態(tài)和受力波動(dòng)。但人已經(jīng)完成了一次學(xué)習(xí)——因?yàn)橐淮五e(cuò)誤，改變了下一次操作。

具身智能里真正難的Self-Evolution（自我進(jìn)化），常常就藏在這種細(xì)節(jié)反饋中。

它不是在既定軌跡上重復(fù)執(zhí)行，而是在真實(shí)世界中，系統(tǒng)試一次，錯(cuò)一點(diǎn)，意識(shí)到不對(duì)，再把下一次做得更好。相比模型在文本里自己生成題目、自己打分、自己改答案，或者機(jī)器人在仿真里重復(fù)刷軌跡，真實(shí)操作里的自我進(jìn)化更細(xì)碎，也更難被完整記錄。

這些細(xì)節(jié)數(shù)據(jù)，是被大量具身數(shù)據(jù)忽略的中間層，也是一家叫臉譜心智的初創(chuàng)公司的切入點(diǎn)。

錯(cuò)誤發(fā)生之后，人到底如何更新自己的操作策略？

Self-Evolution到了真實(shí)世界

第一關(guān)就是“知道自己錯(cuò)了”

現(xiàn)在談Self-Evolution，很多討論還停留在模型內(nèi)部：模型生成答案，評(píng)估器給反饋，再讓模型修正；模型生成代碼，跑測(cè)試，報(bào)錯(cuò)，再改；模型生成任務(wù)，篩掉壞樣本，再繼續(xù)訓(xùn)練。

這套邏輯在數(shù)字世界更容易成立。因?yàn)殄e(cuò)誤通常有明確形式：測(cè)試沒過、答案不一致、工具調(diào)用失敗、評(píng)分低于閾值。

但在物理世界，就并不是那么簡(jiǎn)單了。真實(shí)世界里的錯(cuò)誤沒有統(tǒng)一的紅色報(bào)錯(cuò)，更多的錯(cuò)誤表現(xiàn)為杯子傾斜過了一點(diǎn)、物體快從指尖滑掉、手臂軌跡偏了幾厘米、夾取點(diǎn)沒有對(duì)準(zhǔn)，或者力道再大一點(diǎn)就會(huì)壓壞物體。

這些錯(cuò)誤往往發(fā)生在“徹底失敗”之前。

人之所以能及時(shí)調(diào)整，是因?yàn)槿瞬粫?huì)等結(jié)果壞掉后才學(xué)習(xí)。很多時(shí)候，眼睛已經(jīng)捕捉到偏差，注意力開始轉(zhuǎn)移，手上的力度和角度也跟著變了。

這是人類真實(shí)操作里的自我進(jìn)化：失敗復(fù)盤之外，還有大量毫秒級(jí)反饋里的邊做邊改。

現(xiàn)有數(shù)據(jù)大多只拍到了“動(dòng)作”

沒拍到“學(xué)會(huì)”

過去具身智能補(bǔ)數(shù)據(jù)，最常見的辦法是采視頻、軌跡、手套、力反饋。這些數(shù)據(jù)當(dāng)然有用：視頻能告訴模型人當(dāng)時(shí)看到了什么，軌跡能告訴模型手怎么移動(dòng)，力反饋能告訴模型接觸發(fā)生在哪里，手套能告訴模型手指彎曲和抓握狀態(tài)如何變化。

但問題在于，這些信號(hào)更擅長(zhǎng)記錄外部結(jié)果，不擅長(zhǎng)記錄內(nèi)部更新。

比如一個(gè)人第一次倒水灑了，第二次沒灑。視頻可以看到第二次更穩(wěn)了，手套可以看到手腕控制變了，力反饋可以看到動(dòng)作幅度變小了。但模型很難僅憑這些外部信號(hào)判斷：這次變化是隨機(jī)動(dòng)作差異，還是因?yàn)樯弦淮嗡疄⒘艘院螅艘呀?jīng)更新了策略？

更難知道的是，人是什么時(shí)候發(fā)現(xiàn)“不對(duì)勁”的，注意力為什么突然轉(zhuǎn)向杯口，手部動(dòng)作為什么提前放緩，下一次為什么會(huì)主動(dòng)避開同一個(gè)風(fēng)險(xiǎn)點(diǎn)。

現(xiàn)有數(shù)據(jù)經(jīng)常能記錄“人改了動(dòng)作”，但不一定能記錄“人為什么開始改”。Self-Evolution最關(guān)鍵的，恰恰是后者。

從世界模型

到人類試錯(cuò)數(shù)據(jù)

臉譜心智 由兩位95后博士陸弘遠(yuǎn)和韋怡然創(chuàng)立。他們?cè)缙趶亩藗?cè)全模態(tài)模型切入，隨后將重心轉(zhuǎn)向更底層的世界模型研究。

在模型側(cè)，他們最近提出了LoopWM（ Looped World Models） 。按照論文中的說法，LoopWM試圖把loop引入世界模型架構(gòu)層面，通過參數(shù)共享的transformer block，對(duì)latent state進(jìn)行迭代式refinement，讓模型在隱藏狀態(tài)中多輪滾動(dòng)、修正，逼近更穩(wěn)定的狀態(tài)理解。

論文鏈接：https://arxiv.org/abs/2606.18208

這自然帶出另一個(gè)問題：如果模型架構(gòu)可以通過反復(fù)修正來提升對(duì)世界的理解，那么數(shù)據(jù)側(cè)也需要一種更適合“自我修正”的訓(xùn)練材料。

今天大多數(shù)ego-centric、human-centric數(shù)據(jù)，仍然主要記錄人看到了什么、手做了什么、任務(wù)有沒有完成。這些數(shù)據(jù)，能覆蓋大量真實(shí)場(chǎng)景，也能提供豐富的人類操作樣本，但對(duì)于“動(dòng)作為什么會(huì)改變”這件事，記錄得還不夠完整。

一次操作從畫面到結(jié)果之間，還包括目標(biāo)鎖定、動(dòng)作準(zhǔn)備、意圖形成、肌肉執(zhí)行、錯(cuò)誤感知和實(shí)時(shí)修正。如果這些過程沒有被記錄下來，模型學(xué)到的就更接近動(dòng)作結(jié)果或行為軌跡；如果這些過程能被同步采集、對(duì)齊并結(jié)構(gòu)化，模型才有機(jī)會(huì)學(xué)習(xí)動(dòng)作背后的自我更新機(jī)制。

于是，問題從模型架構(gòu)走向數(shù)據(jù)范式：在現(xiàn)有第一視角視頻和人類操作數(shù)據(jù)之外，能不能進(jìn)一步采到“錯(cuò)誤如何改變下一次動(dòng)作”的過程數(shù)據(jù)？

臉譜心智給出的答案，就是Ego-NeuroLoop。

Ego-NeuroLoop：

把人類的試錯(cuò)過程，變成可訓(xùn)練數(shù)據(jù)

Ego-NeuroLoop可以拆成三個(gè)關(guān)鍵詞：Ego是第一視角，記錄人站在任務(wù)現(xiàn)場(chǎng)到底看到了什么、關(guān)注了什么、如何理解環(huán)境；Neuro是神經(jīng)與生理反饋，記錄錯(cuò)誤識(shí)別、動(dòng)作準(zhǔn)備、狀態(tài)切換、注意力變化這些更靠近內(nèi)部策略更新的信號(hào)；Loop則是閉環(huán)，關(guān)注一次嘗試如何影響下一次嘗試。

Ego-NeuroLoop真正關(guān)心的并非“這一杯水有沒有倒好”這個(gè)結(jié)果，而是更細(xì)的過程——第一次為什么灑了，灑出來的瞬間人有沒有察覺，視線隨后看向哪里，手部肌肉控制發(fā)生了什么變化，第二次倒水之前人的動(dòng)作策略是否已經(jīng)改變。

這類數(shù)據(jù)記錄的是“人如何在錯(cuò)誤中更新自己”。它即學(xué)習(xí)成功動(dòng)作，也學(xué)習(xí)人類如何從不完美動(dòng)作里提取下一次做得更好的動(dòng)作。

腦電信號(hào)的價(jià)值：

給“意識(shí)到錯(cuò)誤”打上時(shí)間戳

這里最容易被低估的一層，是EEG等神經(jīng)層信號(hào)。因?yàn)樵诤芏鄶?shù)據(jù)采集方案里，腦電不如視頻直觀，也不如力反饋手套那樣容易解釋。但如果目標(biāo)是讓機(jī)器人學(xué)會(huì)Self-Evolution，腦電的價(jià)值會(huì)變得非常明確：人在什么時(shí)候發(fā)現(xiàn)動(dòng)作偏了、需要調(diào)整了。

人腦在遭遇錯(cuò)誤、沖突或偏差時(shí)，大腦會(huì)出現(xiàn)相對(duì)錯(cuò)誤的腦電反應(yīng)。它不能被簡(jiǎn)單理解成“讀心”，也不能直接解讀人的完整意圖解析，卻能提供一個(gè)純視頻很難提供的信息：這個(gè)人是否在某個(gè)時(shí)刻檢測(cè)到了不對(duì)勁。

這一點(diǎn)很關(guān)鍵，因?yàn)橥獠縿?dòng)作發(fā)生變化，往往已經(jīng)是后面的結(jié)果。更早的鏈條可能是腦中先出現(xiàn)錯(cuò)誤監(jiān)控信號(hào)，隨后注意力轉(zhuǎn)向風(fēng)險(xiǎn)點(diǎn)，再隨后肌肉發(fā)力模式改變，最后才體現(xiàn)在外部動(dòng)作。

如果只采視頻，模型看到的是最后一步；如果加入gaze、sEMG、EEG等同步信號(hào)，模型才有機(jī)會(huì)看到整個(gè)過程：人是在檢測(cè)到錯(cuò)誤之后，把下一次操作重新組織了一遍。

NeuroMatrix：

為Ego-NeuroLoop設(shè)計(jì)的采集矩陣

為了采到這種數(shù)據(jù)，臉譜心智做了采集裝置NeuroMatrix。它是一套圍繞Ego-NeuroLoop數(shù)據(jù)范式設(shè)計(jì)的采集矩陣，目標(biāo)是在同一時(shí)間軸上記錄第一視角、視線、肌肉執(zhí)行和神經(jīng)反饋。

不同信號(hào)負(fù)責(zé)不同問題：第一視角視頻回答當(dāng)時(shí)世界是什么樣，gaze回答人真正盯住了哪里，sEMG回答肌肉如何準(zhǔn)備和執(zhí)行動(dòng)作，EEG等神經(jīng)層信號(hào)回答錯(cuò)誤、沖突、狀態(tài)切換是否已經(jīng)被檢測(cè)到。只有把這些信號(hào)對(duì)齊,放到同一條時(shí)間軸上，才可能還原一次真實(shí)的操作更新。

以倒水為例，視頻看到水面開始晃動(dòng)，EEG捕捉到錯(cuò)誤或沖突相關(guān)反饋，gaze顯示視線轉(zhuǎn)向杯口和水面，sEMG顯示手腕和手指的控制模式改變。下一次倒水時(shí)，視線提前落到風(fēng)險(xiǎn)點(diǎn)，動(dòng)作也變慢、變穩(wěn)。此時(shí)，數(shù)據(jù)樣本就不再停留在“人倒水”，而是進(jìn)一步記錄“人如何因?yàn)樯弦淮嗡疄⒘耍淖兿乱淮蔚顾薄?/p>

NeuroMatrix的成本邏輯，也不是簡(jiǎn)單把傳感器堆到最便宜。更合理的路徑，是先用高精度版本采集一批足夠干凈、足夠完整的EEG、sEMG、gaze和第一視角數(shù)據(jù)，建立人類動(dòng)作意圖、錯(cuò)誤反饋、肌肉執(zhí)行和視覺目標(biāo)之間的高質(zhì)量對(duì)應(yīng)關(guān)系。再用低成本版本采同類任務(wù)，把高精度信號(hào)和低精度信號(hào)進(jìn)行配對(duì)訓(xùn)練，讓模型學(xué)會(huì)從低成本、低信噪比的數(shù)據(jù)里還原關(guān)鍵閉環(huán)語義。

這樣一來，硬件設(shè)計(jì)就可以圍繞“最有信息量的位置”收縮。比如，在高精度采集階段找到與手臂、手指動(dòng)作高度相關(guān)的腦電通道、頭皮電極位置和肌肉區(qū)域之后，低成本設(shè)備就不需要完整復(fù)刻實(shí)驗(yàn)室級(jí)配置，而可以減少電極數(shù)量、壓縮傳感器點(diǎn)位、降低佩戴復(fù)雜度，把采集裝置做成更輕、更便宜、更容易部署的形態(tài)。

機(jī)器人Self-Evolution需要大量真實(shí)場(chǎng)景下的試錯(cuò)過程，而非少數(shù)昂貴樣本。倒水、開門、插線、擰蓋、切菜、拿杯子、整理桌面，每個(gè)動(dòng)作里都有大量微小偏差，也都有大量策略更新。只有采集系統(tǒng)足夠輕、足夠便宜、足夠可部署，這些日常操作中的微小進(jìn)化才可能變成可用數(shù)據(jù)。

NeuroBooster：

把低精度信號(hào)補(bǔ)成可用閉環(huán)數(shù)據(jù)

多模態(tài)信號(hào)采上來，只是第一步。

真實(shí)世界里的低成本采集，天然會(huì)帶來噪聲：EEG可能受到電極接觸、頭動(dòng)偽跡和眨眼影響，sEMG可能受到佩戴位置偏移、肌肉串?dāng)_和動(dòng)作噪聲影響，gaze數(shù)據(jù)可能漂移或短時(shí)丟失，視覺數(shù)據(jù)也可能出現(xiàn)遮擋、模糊和視角變化。

這也是NeuroBooster要解決的問題。

如果說VLM把圖像和文本映射到統(tǒng)一表征空間里，讓模型理解“一張圖對(duì)應(yīng)什么語義”，那么NeuroBooster要做的，就是把視覺、視線、EEG、sEMG映射到統(tǒng)一閉環(huán)表征空間里，讓模型理解一個(gè)動(dòng)作如何從目標(biāo)、意圖、執(zhí)行到反饋修正一步步生成。

更關(guān)鍵的是，NeuroBooster承擔(dān)了“高精度到低精度”的轉(zhuǎn)換任務(wù)。高精度采集版本相當(dāng)于老師，提供更完整、更清晰的人類閉環(huán)信號(hào)；低成本采集版本相當(dāng)于學(xué)生，記錄更粗糙、更嘈雜、但更容易規(guī)?；臄?shù)據(jù)。通過高低精度版本的配對(duì)訓(xùn)練，NeuroBooster可以學(xué)習(xí)兩類信號(hào)之間的對(duì)應(yīng)關(guān)系，把低成本設(shè)備采到的弱信號(hào)、缺失信號(hào)和不同步信號(hào)，補(bǔ)成更穩(wěn)定的Ego-NeuroLoop表征。

這一步的價(jià)值在于利用多模態(tài)之間的互補(bǔ)關(guān)系做增強(qiáng)重建：當(dāng)EEG信號(hào)較弱時(shí)，sEMG和gaze可以補(bǔ)充動(dòng)作執(zhí)行與目標(biāo)信息；當(dāng)sEMG存在噪聲時(shí)，視覺和EEG可以提供動(dòng)作階段和意圖線索；當(dāng)gaze漂移時(shí)，world camera和動(dòng)作狀態(tài)可以幫助恢復(fù)目標(biāo)上下文；當(dāng)某一路信號(hào)短時(shí)缺失時(shí)，其他模態(tài)也能提供時(shí)間線索，幫助模型維持閉環(huán)結(jié)構(gòu)。

最終，模型看到的是一條經(jīng)過同步、對(duì)齊、配對(duì)映射、信號(hào)增強(qiáng)和結(jié)構(gòu)化處理的閉環(huán)時(shí)間軸：環(huán)境里有什么，目標(biāo)在哪里，錯(cuò)誤何時(shí)被檢測(cè)到，注意力如何變化，肌肉如何響應(yīng)，動(dòng)作如何修正，下一次嘗試為什么會(huì)不同。

這才是Ego-NeuroLoop真正想提供給具身智能模型的東西。

從行為模仿，到錯(cuò)誤驅(qū)動(dòng)學(xué)習(xí)

具身智能當(dāng)然需要成功示范。但只看成功示范，模型看到的是結(jié)果最順的一面。它不知道人類在學(xué)會(huì)這個(gè)動(dòng)作之前經(jīng)歷了哪些微小偏差，也不知道哪些風(fēng)險(xiǎn)點(diǎn)需要提前注意，更不知道失敗苗頭出現(xiàn)時(shí)應(yīng)該如何調(diào)整。

真實(shí)世界里，成功動(dòng)作往往是被大量小錯(cuò)誤“雕刻”出來的：第一次沒夾住，第二次手指收緊；第一次杯子碰到桌沿，第二次路徑繞開；第一次水灑出來，第二次倒得更慢；第一次插頭沒對(duì)準(zhǔn)，第二次先調(diào)整角度。這些變化不一定能形成一個(gè)明顯的失敗標(biāo)簽，但學(xué)習(xí)恰恰發(fā)生在這里。

所以Ego-NeuroLoop想采的數(shù)據(jù)，是從 demonstrations（演示） 進(jìn)一步走向corrections（修正）；是從“人類完成任務(wù)的樣子”，走向“人類變得更會(huì)完成任務(wù)的過程”。這會(huì)把數(shù)據(jù)重點(diǎn)從action（動(dòng)作） 拉向correction（修正），從單次軌跡拉向多次嘗試之間的差異，從成功結(jié)果拉向錯(cuò)誤反饋后的策略更新。

模型要學(xué)的

是“下一次怎么不同”

到這里，Ego-NeuroLoop、NeuroMatrix、NeuroBooster和LoopWM就可以自然連起來：NeuroMatrix 負(fù)責(zé)把人類真實(shí)操作中的試錯(cuò)過程采下來，NeuroBooster負(fù)責(zé)把多模態(tài)原始信號(hào)整理成可訓(xùn)練數(shù)據(jù)，Ego-NeuroLoop定義了這種數(shù)據(jù)到底要表達(dá)什么，而LoopWM則嘗試讓 世界模型學(xué)會(huì)“錯(cuò)誤之后，人是如何調(diào)整下一次動(dòng)作的”。

放到具身場(chǎng)景里，訓(xùn)練目標(biāo)也會(huì)隨之變化。過去更常見的問題是：給定當(dāng)前畫面，預(yù)測(cè)人手下一步會(huì)去哪里。現(xiàn)在更值得追問的是：給定上一次偏差和錯(cuò)誤反饋，下一次操作會(huì)發(fā)生什么變化。

最終目標(biāo)是讓機(jī)器人學(xué)會(huì)像人類一樣：第一遍不夠好，第二遍就該不一樣。

最后

具身智能的Self-Evolution，不會(huì)只靠更多成功視頻解決。

因?yàn)檎鎸?shí)世界里的進(jìn)步，常常來自一次很小的錯(cuò)誤以及錯(cuò)誤之后的調(diào)整。水灑了一點(diǎn)、手滑了一下、夾空了一次、碰偏了一點(diǎn)、力度大了一點(diǎn)，這些瞬間看起來不起眼，但會(huì)改變?nèi)说南乱淮蝿?dòng)作。

過去的數(shù)據(jù)采集，更多記錄了動(dòng)作本身。臉譜心智想補(bǔ)上的，是動(dòng)作改變背后的那條鏈路：錯(cuò)誤如何被檢測(cè)到，注意力如何被重新分配，肌肉控制如何被修正，下一次嘗試如何因此變得不同。

Ego-NeuroLoop對(duì)應(yīng)的采集和建模體系圍繞人類閉環(huán)操作展開；NeuroMatrix先用高精度采集建立信號(hào)地圖，再把硬件收縮到低成本、可規(guī)?；姹?；NeuroBooster則通過高低精度配對(duì)訓(xùn)練，把低成本設(shè)備采到的粗糙信號(hào)補(bǔ)成可用的閉環(huán)表征。

最終，這些數(shù)據(jù)可以進(jìn)入LoopWM這樣的世界模型，幫助模型學(xué)習(xí)真實(shí)世界中的錯(cuò)誤反饋和策略更新。

它們最終指向一個(gè)更關(guān)鍵的問題：

機(jī)器人如果真的要自我進(jìn)化，就必須先看懂人類是怎樣在錯(cuò)誤之后變得更好的。