人工智能支付風險的識別與治理

文/中國農業發展銀行總行風險管理部處長畢超

人工智能正在重塑支付服務的入口、流程和風險結構。過去支付風險主要圍繞賬戶盜用、商戶欺詐、資金清算和信息泄露展開；進入大模型和智能體時代后，AI 可能參與商品發現、交易撮合、身份核驗、風控判斷、支付授權乃至售后爭議處理，支付風險也隨之從“資金是否安全”擴展到“意圖是否被正確理解、授權是否清晰、推薦是否公正、模型是否可靠、通道是否中立”。我國人工智能治理、金融機構 AI 應用、算法推薦、生成式人工智能、非銀行支付機構監管和個人信息保護等制度，已為 AI 支付治理提供基礎。面向智能體支付發展，本文提出構建以明確授權、可解釋推薦、可信身份、數據最小化、模型審計、通道中立和責任可追溯為核心的治理框架。

AI正在把支付從“交易環節”推向“智能決策環節”

過去談支付安全，重點通常是“錢有沒有被盜”“密碼有沒有泄露”“交易有沒有被篡改”“商戶有沒有違規”。這些問題仍然重要，但人工智能進入支付場景后，風險結構正在發生變化。

在傳統移動支付中，用戶通常先搜索商品或服務，再比較價格、評價和商戶，最后點擊支付按鈕。支付機構主要負責賬戶識別、身份核驗、交易風控、清算結算和爭議處理。即便平臺排序存在商業化因素，消費者通常仍能看到搜索結果、廣告標識、商戶頁面和價格信息。

但在 AI 支付或智能體支付場景中，用戶可能只說一句：“幫我買一箱適合老人喝的牛奶”“幫我訂一間明晚附近性價比高的酒店”“幫我繳納本月家庭賬單”。AI 不只是回答問題，而是可能理解需求、篩選商品、調用平臺接口、生成訂單、發起支付，甚至在用戶預授權范圍內完成交易。此時，支付不再只是最后一公里的資金劃轉，而是被嵌入 AI 的任務規劃和交易決策之中。

這帶來更深層的問題：如果 AI 誤解用戶意圖，誰負責？如果 AI 推薦了平臺關聯商品，卻沒有提示利益關系，是否影響消費者知情權和選擇權？如果 AI 換臉、擬聲、偽造身份誘導用戶轉賬，支付機構如何識別？如果模型被提示詞攻擊或惡意頁面誘導，產生錯誤支付指令，風險由誰承擔？如果少數大型 AI 入口掌握海量交易導流能力，是否會形成新的數字通道控制力？

中央層面已經明確要求推動人工智能健康有序發展，突出應用導向，同時加強人工智能安全治理。金融監管部門也已針對銀行保險機構人工智能開發應用提出全生命周期管理要求。與此同時，算法推薦、生成式人工智能、非銀行支付機構監管、個人信息保護、數據安全等規則，共同構成 AI 支付治理的制度背景。對金融機構和支付平臺而言，人工智能支付不是簡單的技術升級，而是支付秩序、消費者保護和金融安全治理的新課題。

AI支付不只是“AI幫你付款

從國內公開報道和監管關注看，當前所謂 AI 支付問題并不都表現為成熟的“智能體自動支付”。更常見的是若干相鄰風險正在向支付環節匯聚，比如刷臉支付和人臉識別風險、AI 換臉和擬聲詐騙、算法推薦和平臺導流偏置、自動扣費與授權不清、數據過度采集、模型誤判與責任不明等。這些問題共同構成 AI 支付治理的現實基礎。

（一）人臉識別與刷臉支付風險

刷臉支付曾被視為提升支付便利性的重要創新。它減少了用戶輸入密碼、掃描二維碼或攜帶實體卡的步驟，在商超、餐飲、自助終端等場景中具有一定應用價值。但人臉識別屬于高度敏感的生物識別技術，一旦被盜用、復制或濫用，風險不同于普通密碼。密碼泄露可以修改，人臉信息一旦泄露，幾乎無法“重新換一張臉”。

公開資料顯示，圍繞刷臉支付和人臉識別支付的風險主要包括三類。第一，用戶對人臉信息采集目的、保存期限、使用范圍了解不足。第二，部分場景可能存在默認刷臉、替代方式不足或授權不充分問題。第三，AI 換臉、照片視頻偽造、深度合成等技術提高了身份冒用的可能性，對活體檢測、行為風控和異常交易識別提出更高要求。

這說明，AI 支付安全不能只看“識別準確率”。即使識別技術本身較先進，只要授權場景不清、活體檢測不足、異常行為識別不到位、交易確認機制薄弱，仍可能產生風險。人臉識別不是萬能鑰匙，更不能成為替代用戶真實意愿的單一通行證。

（二）AI換臉、擬聲和深度偽造詐騙

近年來，AI 換臉、擬聲詐騙成為社會關注的突出問題。不法分子可以通過公開視頻、社交媒體素材、語音片段等生成較為逼真的視頻或語音，冒充親友、領導、客服或金融機構人員，誘導受害人轉賬、借款或提供驗證碼。多地公安機關和主流媒體已發布相關風險提示。

這類風險與支付高度相關。支付系統過去主要識別賬戶、設備、密碼、驗證碼和交易行為；但深度偽造攻擊利用的是人的信任機制。受害人看到“熟人”的臉、聽到“熟人”的聲音，就可能放松警惕，自主發起轉賬。從形式上看，這筆支付可能是本人操作；從實質上看，卻可能是被 AI 偽造信息誘導。

因此，AI 支付治理不能只強調技術認證，也要重視交易語境和異常行為。例如，涉及大額轉賬、陌生賬戶、臨時借款、緊急付款、異地登錄等場景時，支付平臺應加強風險提示和二次核驗。對“視頻通話確認身份”等傳統經驗，也要進行公眾教育：在 AI 換臉時代，視頻和聲音不再天然等于真實身份。

（三）算法推薦偏置與平臺自我優待

AI 支付還有一類更隱蔽的風險，即 AI 入口的排序和推薦可能影響消費者選擇。假設用戶在某大型平臺的 AI 應用中說：“幫我買一箱性價比高的牛奶?！比绻?AI 優先推薦平臺自營商品、關聯公司商品、廣告出價更高商品或傭金更高商品，卻以“最適合你”的客觀語氣呈現，消費者可能誤以為這是中立建議。

這不同于普通廣告。普通廣告通常有頁面標識，消費者也知道自己在瀏覽商業內容。但 AI 以助手身份出現，語氣更像個人顧問。如果它把商業排序包裝成客觀推薦，就可能削弱消費者知情權和比較選擇權。更重要的是，當 AI 具備下單和支付能力時，推薦偏置會直接轉化為交易轉化。誰被 AI 看見，誰就獲得交易機會；誰被 AI 忽略，可能連展示機會都沒有。

這涉及 AI 支付入口的“通道中立”問題。AI 入口不完全等同于電信網絡或支付清算網絡等公共性基礎設施，但當它連接用戶意圖、商品服務和支付賬戶，并對交易導流產生決定性影響時，就具有某種功能性通道屬性。監管不必把所有 AI 應用都納入公共事業監管，但對于掌握大規模用戶、控制支付入口、兼營自營商品和廣告業務的平臺級 AI 入口，應提出更高的透明度、公平性和利益沖突披露要求。

（四）自動扣費、委托支付和授權不清

在許多支付糾紛中，用戶并不是完全沒有授權，而是不清楚授權的范圍、期限、金額和取消方式。比如會員自動續費、默認勾選、免密支付、小額免密、代扣協議、聚合支付跳轉等場景，常常涉及“用戶曾經同意過，但并未充分理解后續影響”的問題。

AI 支付會放大這一問題。智能體天然適合連續執行任務，例如自動比價、自動訂票、自動續費、自動繳費、自動采購。若授權設計不清，用戶可能在一次對話中授予過寬權限，使 AI 在后續場景中持續觸發支付。傳統支付中的“單筆確認”逐漸變成“規則化委托”，但規則如果不可見、不可控、不可撤銷，就會損害用戶權益。

因此，AI 支付授權必須從“勾選同意”升級為“可理解、可分級、可撤回、可審計”的授權體系。用戶不僅要知道 AI 可以做什么，也要知道 AI 不能做什么、何時必須再次確認、如何暫停、如何查詢歷史決策依據。

（五）數據安全與個人信息保護風險

AI 支付需要大量上下文。為了替用戶選擇商品、判斷價格、完成支付、生成報銷憑證，AI 可能接觸身份信息、銀行卡信息、消費偏好、位置軌跡、聯系人、發票抬頭、單位信息、健康信息甚至家庭關系。這些信息一旦被集中收集、跨場景使用或用于模型訓練，風險遠高于普通支付數據。

尤其是在金融、醫療、教育、養老等敏感場景，AI 支付服務很可能通過“便利性”獲得大量個人信息。如果平臺沒有堅持最小必要原則，沒有明確區分交易所需數據、推薦所需數據和模型訓練數據，就可能形成隱私過度采集、畫像濫用和數據安全隱患。

（六）模型風險、外部依賴和系統性風險

AI 支付依賴模型、算力、云服務、數據接口和第三方插件。若大量金融機構和支付平臺使用少數基礎模型、少數云服務或少數智能體平臺，可能產生集中度和外部依賴風險。一旦模型出現系統性錯誤、服務中斷、被攻擊或規則更新異常，影響可能迅速擴散。

此外，AI 模型具有概率性，可能出現幻覺、誤判、上下文遺忘、工具調用錯誤和提示詞攻擊。對內容生成而言，這些錯誤可能只是回答不準確；對支付而言，則可能直接造成資金損失。因此，支付場景不能把模型輸出直接等同于支付指令，更不能讓模型在缺乏邊界約束的情況下直接觸發資金劃轉。

概括來看，AI 支付相關風險大體可以歸為三類：一是以刷臉支付、人臉識別為代表的身份核驗風險；二是以 AI 換臉、擬聲詐騙為代表的深度偽造風險；三是以算法推薦、自動扣費、默認授權為代表的消費者權益風險。雖然這些案例不一定都發生在完整的“智能體自動支付”場景中，但它們共同提示：當 AI 與支付結合，風險往往不是單點技術故障，而是技術、場景、授權、平臺規則和用戶認知共同作用的結果。

AI支付風險治理已經具備政策制度基礎

近年來，我國人工智能治理和金融科技監管不斷完善，為 AI 支付風險治理提供了較為清晰的制度方向和政策框架。

一是中央層面對人工智能治理提出更高要求。中央政治局圍繞人工智能發展和監管開展集體學習，強調推動人工智能健康有序發展，堅持自立自強、突出應用導向，同時加強人工智能發展和安全治理。這為金融領域 AI 應用劃定了基本方向：既要鼓勵創新應用，也要守住安全底線、倫理底線和風險底線。

二是金融監管部門已對銀行保險機構人工智能應用提出安全開發要求。相關指導意見強調統籌發展和安全，加強人工智能全生命周期管理，覆蓋治理架構、數據安全、模型管理、系統安全、外包管理、消費者權益保護、風險監測和應急處置等方面。對 AI 支付而言，這意味著金融機構不能只把 AI 看作提升效率的工具，而要把模型、數據、場景、接口、外包、審計和責任納入統一治理框架。

三是算法推薦管理規則為 AI 入口治理提供制度支撐?！痘ヂ摼W信息服務算法推薦管理規定》強調算法推薦服務應保障用戶知情權、選擇權，不得利用算法實施不合理差別待遇等行為。雖然該規定并非專門針對支付，但對 AI 支付入口的推薦排序、廣告標識、用戶選擇和算法透明具有重要參照意義。

四是生成式人工智能服務管理規則為大模型應用提供邊界。《生成式人工智能服務管理暫行辦法》對生成式 AI 的數據來源、內容安全、個人信息保護、服務規范和安全評估等提出要求。AI 支付若依賴大模型提供意圖理解、商品推薦、交易解釋和客服處理，就應當遵守這些基礎要求，避免模型輸出誤導用戶或侵害個人信息權益。

五是非銀行支付機構監管制度強化支付業務底線?！斗倾y行支付機構監督管理條例》明確非銀行支付機構應依法經營、保護用戶合法權益、保障支付業務安全。AI 支付無論前端交互多么智能，底層仍屬于支付業務或支付相關服務，必須遵守實名制、備付金、反洗錢、消費者保護、交易安全和風險處置等基本要求。

六是個人信息保護、數據安全和網絡安全規則構成底層約束。AI 支付涉及身份信息、生物識別信息、交易數據、消費畫像和行為偏好，必須堅持合法、正當、必要和誠信原則，落實最小必要、目的限定、單獨同意、敏感個人信息保護和數據安全管理等要求。

AI支付風險識別框架和治理路徑

識別風險是風險治理的前提。面向智能體支付，針對前述的典型風險領域，建議從六個維度加快建立風險識別框架，形成覆蓋AI 支付全鏈條的風險“雷達”。

第一，識別主體風險。要明確交易鏈條中的人、AI 智能體、商戶、平臺、銀行、支付機構、模型服務商和第三方插件分別是誰。特別是 AI 智能體不能是匿名黑箱，應有可識別身份、權限范圍和行為日志。

第二，識別意圖風險。AI 是否準確理解用戶目標？是否把模糊需求轉化為過度明確的支付指令？是否遺漏用戶限制條件？是否把平臺商業目標混入用戶真實需求？意圖風險是 AI 支付區別于傳統支付的重要風險。

第三，識別授權風險。用戶授權是否明確、分級、限額、限時、可撤回？是否存在默認勾選、捆綁授權、長期授權、模糊授權？是否在高風險交易中觸發二次確認？授權風險決定 AI 能否合法、合理地代表用戶行動。

第四，識別模型風險。模型是否經過支付場景評估？是否可能產生幻覺、誤判、歧視性推薦或錯誤工具調用？是否容易受到提示詞注入、惡意網頁、偽造接口和對抗樣本攻擊？模型風險必須通過測試、監控、審計和人工兜底機制控制。

第五，識別數據風險。AI 支付是否過度采集個人信息？是否將交易數據用于無關畫像或模型訓練？是否對敏感個人信息采取單獨同意、加密存儲、訪問控制和最小化處理？數據風險既關系用戶隱私，也關系金融安全。

第六，識別平臺與市場風險。AI 入口是否自我優待？是否優先導流關聯商戶？是否壓低競爭者曝光？是否把廣告結果偽裝成客觀推薦？是否形成新的平臺鎖定和市場壁壘？這一維度關系消費者選擇權和公平競爭。

在識別前述六個維度風險的基礎上，應進一步構建“可控、可信、可審計”的 AI 支付體系，為相關風險前瞻性應對提供清晰的治理路徑。

第一，建立分級授權機制。AI 支付不應只有“允許/拒絕”兩種狀態，而應分為信息輔助、訂單輔助、受限代付、高級委托等層級。信息輔助階段，AI 只能提供建議；訂單輔助階段，AI 可生成訂單但必須用戶確認；受限代付階段，AI 只能在白名單、限額、限時和低風險場景內自動支付；高級委托階段，應配套更強風控、實時監控、審計日志和異常熔斷。

第二，堅持關鍵支付節點強確認。對大額交易、跨境交易、陌生收款方、非常用商戶、金融產品購買、醫療教育等敏感場景，應設置強確認機制。確認內容應包括交易對象、金額、費用、授權依據、推薦理由、風險提示和撤銷方式，而不是簡單彈出“是否同意”。

第三，建設智能體身份與行為日志。未來 AI 智能體參與支付，應像機構、商戶和賬戶一樣具備可識別身份。系統應記錄智能體發起請求的時間、授權來源、調用工具、推薦依據、用戶確認、風控結果和最終執行情況。日志應滿足爭議處理、監管檢查和責任追溯需要。

第四，強化模型全生命周期治理。金融機構和支付平臺應對 AI 支付模型開展上線前評估、場景適配測試、紅隊測試、偏差評估、持續監控和定期復核。對外部模型和第三方插件，應建立準入、評估、合同約束、監測和退出機制，避免把核心支付決策完全外包給不可控系統。

第五，落實數據最小化和敏感信息保護。AI 支付應區分“完成交易所需的數據”“提升推薦效果的數據”和“用于模型訓練的數據”。不同目的應分別授權，不得以使用支付服務為由強制用戶同意無關數據處理。對人臉、聲紋、賬戶、位置、健康、家庭關系等敏感信息，應采取更高保護標準。

第六，治理 AI 入口的通道中立問題。平臺級 AI 支付入口可以有商業模式，但不能讓商業利益隱身。對于自營商品、關聯商戶、廣告商品、傭金更高商品和商業合作結果，應進行清晰標識。AI 推薦支付對象時，應盡量提供多個可比較選項，并說明價格、質量、配送、售后、商戶信用和商業合作因素。對具有較強市場影響力的平臺，應建立算法審計和非歧視導流規則，防止利用 AI 入口排擠競爭者。

第七，完善消費者保護和賠付機制。AI 支付糾紛中，普通用戶往往難以舉證模型如何決策、平臺如何排序、接口如何調用。因此，應建立有利于消費者的查詢、凍結、申訴、舉證和賠付機制。對因平臺模型缺陷、風險提示不足、授權設計不合理、深度偽造識別失敗造成的損失，應明確平臺和金融機構責任。

第八，推動監管沙盒和行業標準。AI 支付仍處于發展早期，宜先在低風險、小額、可撤銷、可監控場景中試點，逐步形成行業標準。標準重點應包括智能體身份標識、授權表達、日志格式、風險提示、算法審計、數據安全、第三方接口、爭議處理和應急處置。

對監管、金融機構和支付平臺的建議

對監管部門而言，應在現有支付監管、算法治理、數據安全和消費者保護規則基礎上，進一步關注智能體支付的特殊性。監管重點可從支付機構合規，擴展到 AI 入口治理、智能體身份、模型外包、算法推薦、深度偽造防范和跨機構責任劃分。

對銀行而言，AI 支付不是單一支付產品，而是賬戶、身份、風控、合規和客戶服務的綜合升級。銀行應把 AI 支付納入數字金融和消費者保護框架，重點建設可信賬戶體系、智能風控體系和可解釋授權體系。對于企業客戶，還可以探索 AI 采購支付、差旅報銷、供應鏈結算等場景，但必須強化審批流、預算控制和審計留痕。

對支付機構而言，應避免把 AI 支付簡單包裝為“更快支付”或“無感支付”。真正的競爭力在于可信授權、交易安全、商戶治理、爭議處理和跨場景風控。支付機構應主動與模型服務商、電商平臺、終端廠商建立風險聯防機制，形成從意圖識別到資金結算的全鏈條防控。

對大型平臺而言，應高度重視 AI 入口的公平性。平臺既做 AI 助手，又做電商、廣告、支付和自營商品時，必須處理好“裁判員”和“運動員”的關系。自營、關聯、廣告和傭金因素應充分披露，不能以算法黑箱掩蓋商業導流。

總之，AI 支付治理的核心是構建信任秩序。人工智能支付不是簡單地讓 AI 替人付款，而是讓 AI 介入“理解需求—形成選擇—組織交易—觸發支付—處理爭議”的全過程。它帶來的效率提升值得期待，但風險也不應低估。未來，支付安全的含義將從“賬戶和資金安全”擴展為“意圖真實、授權明確、推薦公正、模型可靠、數據合規、通道中立、責任可追”。誰掌握 AI 支付入口，誰就可能掌握消費者意圖、商戶流量和支付轉化；因此，AI 支付治理必須同時關注金融安全、消費者權益和公平競爭。

在中央加強人工智能治理和金融監管部門強化銀行保險業人工智能安全開發應用的背景下，金融機構和支付平臺應盡快從“功能上線”思維轉向“治理先行”思維。只有把 AI 的自主性納入明確授權、可解釋推薦、可信身份、可審計日志、非歧視導流和消費者保護框架之中，人工智能支付才能真正成為數字金融高質量發展的助力，而不是新的風險源。

來源丨經作者授權轉發

編輯 | 丁開艷

審核丨秦婷

責編 | 蘭銀帆

Review of Past Articles -

01

02