執行縫隙：你以為車已經鎖了，攻擊者卻正等你離開

本文來自微信公眾號： HavenlonLabs ，作者：HavenlonLabs

很多年前，一些停車場里出現過一種并不復雜的盜竊方式。

車主把車停好，下車，關門，按下遙控鑰匙上的鎖車鍵，然后轉身離開。

整個過程和平時沒有任何區別。

沒有人撬車門，沒有人復制鑰匙，也沒有人破解汽車內部復雜的電子系統。小偷只需要躲在附近，在車主按下遙控鑰匙時，用無線信號干擾設備阻斷那條短暫的鎖車指令。

車主按了。

但車沒有收到。

在車主心里，鎖車這件事已經結束了；在現實里，車門卻仍然沒有上鎖。

等車主走遠以后，小偷不需要暴力破壞，只需要像正常開門一樣，拉開車門。

這個故事真正值得注意的地方，不是無線電干擾技術有多高明。

恰恰相反，它之所以危險，是因為它太簡單了。

攻擊者沒有正面擊敗車鎖，也沒有獲得車主的鑰匙。他只是利用了一個每個人都習以為常的認知：

我已經按下鎖車鍵，所以車一定鎖好了。

真正被攻擊的，不只是車鎖，而是車主相信“鎖車已經完成”的那一刻。

從按下按鈕，到車門真正鎖住，中間原來不是同一件事。

過去，我們只是很少意識到它們之間存在距離。

而攻擊者看見了這段距離。

這段距離，就是執行縫隙。

按下按鈕，不等于結果已經發生

我們很容易把“按下鎖車鍵”和“車輛已經鎖住”理解成同一件事。

這是因為在絕大多數正常情況下，兩件事幾乎同時發生。

手指按下按鈕，遙控器發出信號，車輛收到命令，門鎖執行動作，車燈閃爍，車輛進入鎖定狀態。

整條鏈路通常只需要不到一秒。

它快到人根本感覺不到中間還有步驟。

時間久了，大腦就會自動省略這條鏈路，把最前面的動作和最后面的結果直接連接起來：

按按鈕，就是鎖車。

但從事實來看，按下按鈕只證明了一件事：車主發出了鎖車意圖。

它并不能自動證明信號已經成功發出，車輛已經收到，控制系統已經執行，所有車門也都進入了真正的鎖止狀態。

這些原本是不同的事情。

只是在正常環境里，它們長期穩定地一起發生，于是我們逐漸忘記了它們的區別。

攻擊者所做的，不過是把這幾件原本緊密相連的事情重新拆開。

車主完成了動作，車輛卻沒有完成結果。

人的認知已經往前走了，現實卻停在原地。

執行縫隙，往往就藏在那些“平時總是同時發生”的事情之間。

如果一個按鈕按下一萬次，都能得到正確結果，人就會自然相信第一萬零一次也一樣。

這種信任本身并不愚蠢。

現代生活本來就建立在大量默認可靠之上。我們不可能每次開燈以后都檢查電流，不可能每次刷卡以后都研究銀行系統，也不可能每次按下電梯按鈕，都先驗證控制器是否正確收到了信號。

問題不在于人愿意信任系統。

問題在于，當這種信任可以被主動利用時，原本微不足道的距離就會變成攻擊入口。

小偷利用的不是鎖，而是“完成感”

鎖車干擾之所以經典，是因為攻擊者沒有必要讓車主看見失敗。

如果車主按下鎖車鍵后，汽車明顯毫無反應，他很可能會重新操作，甚至走回去檢查。

最有利于攻擊者的狀態，并不是讓整個過程徹底失敗，而是讓車主仍然保留一種“事情已經辦完”的感覺。

這是執行縫隙最危險的部分。

一個明顯失敗的系統，反而容易引起警覺。

按鈕失靈了，系統報錯了，門沒有關上，付款被拒絕了，人通常會停下來處理。

真正危險的是，前面的動作足夠正常，正常到人已經離開現場，而最后的結果卻沒有發生。

車主并不是不知道鎖車的重要性。

他也不是忘記了鎖車。

他認真執行了自己認為正確的動作。

只是攻擊者知道，人在按下按鈕以后，會把注意力從車轉移到下一件事情上。

鎖車動作結束，心理上的任務也隨之結束。

這時候，攻擊者獲得的不僅是一扇沒有鎖上的車門，更是一段不會被立刻發現的時間。

攻擊者真正需要的，不是讓系統完全失效，而是讓失敗看起來像成功。

這也是為什么很多有經驗的司機，在鎖車以后會順手拉一下車門。

這個動作看起來有點多余。

既然已經按過遙控鑰匙，為什么還要再拉一下？

因為他確認的不是自己有沒有按，而是車門有沒有真的鎖住。

按按鈕，是檢查自己的動作。

拉車門，是檢查現實的狀態。

兩者之間只差一秒鐘，卻代表了兩種完全不同的安全觀。

一種相信：我已經做了，所以事情應該完成了。

另一種相信：只有現實結果出現，事情才算真正完成。

執行縫隙，不只是“執行失敗”

如果只是把執行縫隙理解為“命令沒有成功”，這個概念就太普通了。

任何機器都會失靈，任何系統都會報錯，任何人也都可能操作失敗。

執行縫隙真正特殊的地方在于，它常常發生在一個看起來已經完成的流程里。

車主確實按了鎖車鍵。

遙控鑰匙也可能確實工作了。

車輛本身沒有損壞。

整個系統甚至沒有留下一個明顯的錯誤提示。

然而，最終目標仍然沒有實現。

所以，執行縫隙并不是簡單的“沒有執行”。

它更接近這樣一種狀態：

人已經完成了自己能看見的動作，系統也給出了足以讓人繼續往下走的信號，但現實并沒有進入人真正期待的狀態。

這道縫有時來自信號被干擾，有時來自對象被替換，有時來自執行條件已經改變，也可能來自系統只驗證了過程，卻沒有驗證最終狀態。

但它們有一個共同點：

意圖、動作和結果，在某個位置失去了連接。

系統可以證明按鈕被按下，卻未必能證明現實已經改變。

鎖車干擾事件里，車主想要的是一種結果：車輛處于安全鎖定狀態。

而系統能夠直接觀察和記錄的，往往只是一些中間動作：信號是否發送、控制器是否響應、車燈是否閃爍。

中間動作通常可以代表結果，但不能永遠代替結果。

這就像一張快遞單只能證明包裹進入過流程，不能單獨證明包裹已經安全到達；一條轉賬請求只能證明操作已經提交，不能單獨證明錢最終到了正確賬戶；一條審批記錄只能證明有人點擊過同意，不能自動證明最后執行的內容與審批時看到的內容完全一致。

我們習慣把這些過程證據當成結果證據，是因為多數時候它們確實一致。

但攻擊者最關心的，恰恰是如何讓兩者不再一致。

為什么這道縫平時幾乎看不見

執行縫隙有一個很特別的性質：在沒有事故的時候，它幾乎像不存在一樣。

一輛車每天正常鎖車，車主不會去思考遙控器、無線信號、車載接收器和門鎖機構之間的關系。

他只會形成一個非常簡單的生活經驗：

按一下，車就鎖了。

系統越穩定，這種經驗越牢固。

而經驗越牢固，人越不會在每次操作以后重新驗證結果。

這正是現代自動化給人帶來的便利。

如果每一個動作都必須人工從頭檢查到尾，自動化就失去了意義。我們依賴系統，就是希望它把復雜過程壓縮成一個簡單按鈕。

按下按鈕以后，剩下的事交給機器。

但便利背后總有一個隱含前提：

機器執行的事情，和人以為機器執行的事情，是同一件事。

當這個前提成立時，按鈕代表效率。

當這個前提被攻擊者打破時，按鈕就可能代表錯覺。

自動化最大的便利，是把復雜過程藏起來；自動化最大的風險，也來自復雜過程被藏起來。

車主看不見無線信號有沒有到達。

他也看不見每一扇門鎖的機械狀態。

他只能依靠幾個被設計出來的反饋：燈光、聲音、后視鏡折疊，或者手機應用上的一個鎖形圖標。

這些反饋是系統為人制造的“可理解界面”。

它們非常重要，卻也可能造成一個問題：

人最后相信的不是車輛狀態，而是界面狀態。

當界面顯示“已鎖車”，人的任務就結束了。

至于現實中的車門是否真的鎖止，反而變成了系統內部一個不再被關注的問題。

這就是執行縫隙為什么會長期被忽略。

它藏在界面背后，藏在流程深處，也藏在人已經習慣不再確認的地方。

壞人總是比普通人更關心縫隙

普通人使用系統，是為了完成目標。

攻擊者研究系統，是為了尋找目標、動作與結果之間不一致的地方。

車主關心的是怎樣鎖車。

小偷關心的是：怎樣讓車主認為自己鎖了車，而實際上沒有鎖。

這兩種思維完全不同。

一個在順著流程使用系統，另一個在逆著流程尋找斷點。

因此，很多真正有效的攻擊，并不是直接破壞最堅固的部分。

它們繞開堅固的門鎖，繞開復雜的密碼，繞開正面的權限對抗，轉而尋找那些默認被信任、卻沒有被最終驗證的環節。

遙控鎖干擾就是如此。

攻擊者不需要證明自己比汽車廠商更懂門鎖。

他只需要知道，車主通常不會在按下按鈕以后，再走回去拉一次車門。

安全系統守的是門，攻擊者尋找的卻是人什么時候不再回頭。

從這個角度看，執行縫隙不僅是一種技術現象，也是一種行為現象。

它存在于系統沒有驗證的地方，也存在于人停止驗證的時刻。

攻擊者最喜歡的狀態，是人和系統都認為對方已經完成了自己的責任。

人認為：我已經發出命令。

系統認為：我已經處理請求。

流程認為：操作已經結束。

但沒有任何一方真正負責確認，現實結果是否與最初意圖一致。

這時候，整條鏈路看起來人人盡責，卻仍然可能留下一個無人負責的空白。

現代企業里，也有無數個“鎖車按鈕”

企業的信息系統里，到處都是類似的按鈕。

提交、批準、發布、執行、刪除、轉賬、部署、同步、授權。

每一個按鈕都代表著人希望現實發生某種變化。

點擊“發布”，希望新內容真的出現在正確的位置。

點擊“轉賬”，希望資金真的到達正確賬戶。

點擊“部署”，希望正確版本進入正確環境。

點擊“批準”，希望被批準的具體內容按照當時的條件被執行。

長期以來，企業安全主要關心兩個問題：

誰有權按這個按鈕？

這個按鈕有沒有被未經授權的人按下？

這當然重要。

但鎖車干擾提醒了我們，合法的人按下合法按鈕，并不能自動保證合法結果。

車主擁有自己的車鑰匙。

他有完整的鎖車權限。

他也確實親手發出了命令。

整個過程不存在越權。

可車依然沒有鎖上。

因此，執行安全還必須多問一個問題：

按鈕按下以后，最終發生的事情，是否真的是按鈕按下時那個人想要發生的事情？

這就是從權限安全走向執行安全的關鍵一步。

權限只能證明誰可以發出命令，不能證明命令最終以正確方式進入現實。

在傳統系統里，人們常常把“授權完成”視為安全鏈條的終點。

但實際上，授權只是允許執行開始。

從授權到真正執行，中間還可能經過參數生成、對象選擇、環境變化、系統調用、接口轉換和設備響應。

每一次轉換，都有可能產生偏移。

每一個沒有被重新綁定和驗證的環節，都可能成為新的“無線干擾”。

AI Agent讓執行縫隙變得更值得警惕

當人工智能只負責回答問題時，執行縫隙造成的影響相對有限。

模型回答錯了，人可以不采用。

建議不合理，也可以停留在屏幕上。

但AI Agent正在獲得越來越多的執行能力。

它可以發送郵件、修改代碼、調用接口、操作云資源、調整賬戶權限，甚至管理資金和現實設備。

這相當于我們不再只是讓AI告訴我們怎樣鎖車，而是把遙控鑰匙交給了它。

更重要的是，AI Agent的行動鏈路遠比普通遙控鑰匙復雜。

一個看似簡單的目標，可能先被模型解釋，再被拆成多個任務，然后調用不同工具，生成參數，經過審批，最后由外部系統執行。

人的一句話，需要穿過很長的鏈路，才能最終變成現實。

鏈路越長，轉換越多，執行縫隙就越值得警惕。

攻擊者也不一定需要直接攻擊模型本身。

他可以污染模型讀取的信息，誘導它選擇錯誤工具，改變執行對象，在審批摘要里隱藏關鍵差異，或者讓最終調用的參數偏離最初意圖。

整個過程中，AI可能始終表現得很正常。

它正確讀取了信息，合理完成了推理，順利調用了工具，系統也返回了成功。

就像車主確實按下了鎖車鍵。

真正的問題發生在最后：

現實是否真的進入了被允許的狀態？

AI不會創造執行縫隙，但它會把原本短暫的一道縫，拉成長而復雜的執行鏈。

人鎖一輛車，可能只涉及一次操作。

AI Agent一分鐘內卻可能執行成百上千次任務。

一個人鎖車失敗，風險集中在一輛車。

一個自動化系統如果在對象、范圍或條件上出現偏移，可能同時影響大量賬戶、設備和業務系統。

過去，執行縫隙常常只帶來零散損失。

在AI時代，它第一次可能被規模化、連續化和自動化利用。

這也是為什么僅僅提高模型正確率，并不能解決全部問題。

一個模型即使在絕大多數時候都判斷正確，只要關鍵操作缺少最后的結果綁定與邊界控制，極少數偏差也可能迅速進入現實。

真正重要的，不只是AI有沒有正確理解任務，而是無論前面發生了什么，最后那扇門到底有沒有鎖上。

“拉一下車門”代表什么

鎖車以后拉一下車門，是一個很笨的動作。

它沒有人工智能，沒有復雜算法，也沒有漂亮界面。

它甚至會犧牲一點效率。

但它驗證了整條鎖車鏈路最重要的結果。

車主不需要知道信號在哪個環節被干擾，也不需要分析遙控器和車輛之間發生了什么。

他只需要確認一件事：

門還能不能被打開。

這是一種非常樸素，卻非常有效的安全思想。

不試圖保證前面的每個環節永遠正確，而是在后果真正發生之前，對最終狀態做一次獨立確認。

在企業系統里，這種“拉一下車門”的機制，可以表現為很多形式。

高風險轉賬在執行前重新核對真實收款對象。

云資源刪除前確認對象是否屬于關鍵資產。

代碼部署前確認版本、環境和影響范圍。

AI Agent提交操作以后，由獨立控制層判斷最終動作是否越過不可接受的邊界。

它們的共同點不是讓系統變得更聰明，而是不把“命令已經發出”當成“結果已經安全”。

真正可靠的最后一道防線，往往不負責理解全部過程，只負責確認最重要的結果。

很多人會擔心，這種機制會降低效率。

確實會。

就像每次鎖車以后再拉一下門，比按完按鈕直接離開多花一秒鐘。

但安全從來不是沒有成本的。

關鍵問題不是能否做到零成本，而是這一秒鐘的確認，是否值得換取后面不可逆損失的降低。

對于低風險、可恢復的操作，系統可以追求順暢。

對于高風險、不可逆的執行，適當的阻力不是缺陷，而是保護。

系統越聰明，越不能省掉最后一步

人們很容易認為，隨著系統越來越智能，執行縫隙會自然縮小。

模型理解能力更強，自動化更成熟，設備反饋更完整，整個鏈路似乎理應越來越可靠。

但事實可能恰好相反。

系統越聰明，人越容易把更多判斷和執行交出去。

系統越順暢，人越容易減少回頭確認。

自動化越穩定，人越容易相信按鈕背后的復雜過程永遠不會出錯。

這與鎖車完全一樣。

如果遙控鎖經常失效，人們反而會養成拉門檢查的習慣。

正是因為它通常太可靠，人們才會在極少數被干擾的時刻毫無防備。

可靠性會建立信任，而過度信任又會放大極少數失敗的后果。

AI Agent未來真正的風險，不一定來自它天天犯錯。

更可能來自它絕大多數時候都表現得太好，以至于人們逐漸取消檢查、擴大權限，并默認它的動作等于結果。

等攻擊者終于找到那道縫時，系統已經擁有了足夠大的執行范圍。

所以，系統越智能，越需要明確區分三件事：

人想做什么。

系統做了什么。

現實最后發生了什么。

這三件事大多數時候應該一致。

但安全設計不能只建立在“大多數時候”之上。

它必須考慮，當它們不一致時，是否還有機會停下來。

回到那個停車場。

車主按下遙控鑰匙，轉身離開。

在他的認知里，任務已經結束。

但對于安全而言，真正的問題才剛剛開始：

信號有沒有到達？

車輛有沒有執行？

所有車門有沒有鎖住？

現實狀態是否和車主意圖一致？

攻擊者正是在這些沒有被繼續追問的問題里，找到了機會。

執行縫隙并不是一個遙遠的技術概念。

它就是我們每天都在經歷、卻很少認真區分的一件事：

我們完成了一個代表結果的動作，于是便相信結果已經發生。

大多數時候，這種信任讓生活更方便。

少數時候，它也會成為別人利用我們的入口。

AI時代，企業需要重新學習那個老司機早就知道的生活常識。

鎖車以后，不要只相信自己按過按鈕。

還要確認門真的鎖住了。

發出命令以后，不要只確認流程已經完成。

還要確認現實發生的事情，仍然是當初真正想要、真正批準，也真正能夠承受的事情。

執行縫隙，就是“我以為已經完成”與“現實真正完成”之間，能夠被攻擊者利用的那段距離。

而安全真正要守住的，也從來不是按鈕。

是按鈕背后的現實。

本內容由作者授權發布，觀點僅代表作者本人，不代表虎嗅立場。如對本稿件有異議或投訴，請聯系 tougao@huxiu.com。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4877245.html?f=wyxwapp