ICML 2026 現場｜九篇 Spotlight 論文，透視 AI 最前沿

看不見的地方，藏著最關鍵的突破。

作者丨陳淑瑜

編輯丨岑峰

7月7日，機器學習領域最具影響力的頂級學術會議ICML 2026進入正會第一天。本次大會共接收6352篇論文，其中Spotlight論文536篇（占投稿總數的 2.2%），Oral 論文168篇 （僅占投稿總數的 0.7 %）。今年的論文再次匯聚了從生成模型到隱私保護、從智能體評估到模型壓縮、從脈沖神經網絡到視覺分詞器的多元前沿探索，在投稿量較去年翻倍、評審標準經歷深刻“重新校準”的背景下，這些脫穎而出的論文無疑是本屆會議最值得關注的學術精華。

雷峰網已派出報道小組赴首爾COEX會展中心參會。在會議現場，我們從Poster展區的數千張學術海報中精選出最具代表性的研究成果，以“一張圖 + 一段解讀”的方式呈現給未能親臨現場的讀者。

這份匯總不僅是一次視覺巡禮，更試圖為你勾勒出本屆ICML的學術重心——從大模型可解釋性到AI for Science，從具身智能到理論硬度的回歸，我們希望這些現場捕捉的瞬間，能幫助你快速感知機器學習前沿正在發生什么。

以下精選Poster Session 1九篇Spotlight論文，一文看盡AI研究最值得關注的方向。（如果你也想讓你的研究成果出現在這里，請與我們聯系）：

01

隨機微分方程打通不規則時間序列的生成之路

Generative Modeling of Irregular Time Series via SDE-Induced Continuous-Discrete Variational Inference

現實世界的時間數據遠比理想中"均勻采樣"的假設更復雜，比如醫療監護的生理信號、氣候傳感器的環境讀數、物聯網設備的監測日志，觀測間隔不規則、數據點時有缺失，傳統生成模型對此束手無策。

這篇論文直面這一難題，提出SDEVI框架，將連續時間的隨機微分方程（SDE）與離散時間的觀測分布統一到同一變分推理框架之下。

SDEVI的核心思路是用線性時變SDE誘導的變分后驗作為推理骨干，直接對離散觀測的聯合分布建模，而非依賴對連續軌跡的近似插值。在此基礎上，作者進一步引入非線性SDE誘導的變分推理，并將其推廣至復數域，顯著增強了模型的表達能力。

在醫療、物理、氣候、物聯網等多個不規則時間序列基準上，SDEVI均達到當前最優水平。這項工作在SDE理論離散觀測建模之間建立了扎實橋梁，為不規則數據的生成與分析開辟了新路徑。

論文鏈接：https://openreview.net/forum?id=IXdjkxDXI0

02

智能體到底學到了什么——語義理解還是接口捷徑？

What Do Agents Learn from Trajectory-SFT: Semantics or Interfaces?

Trajectory-SFT（軌跡監督微調）是當前訓練LLM智能體的主流范式，但一個根本性問題始終懸而未決：經過軌跡微調的智能體，究竟是在理解工具的語義功能，還是僅僅記住了特定接口的操作模式？這篇論文給出了令人警醒的答案——兩者被嚴重混淆了。

作者提出PIPE（Protocol-Level Evaluation）增強方法和IR（Interface Robustness）度量指標，從協議層面解耦語義使用與接口交互的評估。實驗揭示了一個關鍵現象：Trajectory-SFT顯著放大了智能體對接口捷徑行為的依賴，且這種依賴呈現出非單調的訓練動態——訓練越久，語義理解未必越深，接口記憶反而可能越牢。

這項貢獻的意義不止于發現問題。PIPE和IR為智能體評估提供了原則性框架，迫使研究者正視一個事實：當前基準測試可能高估了智能體的真實能力，未來需要在語義理解與接口適應性之間劃出清晰的界限。

論文鏈接：https://arxiv.org/abs/2602.01611

03

多智能體提示優化：從指數爆炸到線性搜索

MASpoB: Bandit-Based Prompt Optimization for Multi-Agent Systems with Graph Neural Networks

多智能體系統（MAS）的提示優化面臨一個看似不可逾越的障礙：每增加一個智能體，提示組合的搜索空間就指數級膨脹，傳統優化方法幾乎無力應對。MASpoB從三個維度協同攻克這一難題。

首先，作者引入基于UCB的Bandit框架，將每個智能體的提示視為一個"臂"，以探索-利用的平衡策略高效篩選候選提示。其次，通過圖神經網絡（GNN）集成捕獲智能體拓撲結構誘導的提示耦合關系——不同智能體的提示并非獨立生效，而是在協作拓撲中相互影響。最后，坐標上升分解將聯合搜索拆解為逐智能體迭代優化，將搜索復雜度從指數級降至線性級。

三者合力，MASpoB在多個多智能體基準上實現了當前最優性能。這項工作證明：即使搜索空間看似爆炸性增長，結構化的優化策略仍能讓提示優化變得切實可行。

論文鏈接：https://arxiv.org/abs/2603.02630

04

把70B模型塞進24GB顯卡——連續位寬量化的維度提升之道

LiftQuant: Continuous Bit-Width LLM via Dimensional Lifting and Projection

大模型量化壓縮一直是工程落地的關鍵瓶頸，但現有方法大多只能在預設的整數比特（如4-bit、8-bit）之間跳躍，無法靈活適配不同硬件的內存約束。LiftQuant提出了一種"升維再投影"的精巧機制，讓量化位寬變成可連續調節的參數。

具體而言，LiftQuant先將權重映射到更高維空間進行"維度提升"，在高維空間中實現細粒度的量化控制，再通過"投影"將結果映射回原空間，完成準連續比特寬度的適配。這一機制使得70B參數模型可以精準壓縮至2.4-bit，直接適配24GB GPU的顯存限制，這對實際部署而言意義巨大。

更值得注意的是，LiftQuant在追求靈活位寬的同時保留了硬件友好的解碼路徑：最終推理仍可通過線性變換加1-bit量化器完成，沒有引入復雜的非線性運算。在精度與效率之間，這項工作找到了一個優雅的平衡點。

論文鏈接：https://arxiv.org/abs/2606.04050

05

表格數據的新范式——行級注意力讓基礎模型更輕更快

TabSwift: An Efficient Tabular Foundation Model with Row-Wise Attention

表格數據是工業界最常見也最被低估的數據形態。現有表格基礎模型如TabPFN v2和TabICL雖表現不俗，推理開銷卻隨數據規模急劇增長。TabSwift從架構設計層面重新審視這一問題，提出了一套輕量且高效的新方案。

TabSwift的核心是行級注意力機制。不再對整表做全局注意力，而是以行為單位組織注意力計算，大幅降低計算復雜度。配合門控穩定機制和可學習的注冊令牌（registration tokens），模型在保持表達力的同時獲得了更強的訓練穩定性和信息聚合能力。更巧妙的是，TabSwift引入了自適應逐層早退機制：簡單樣本在淺層即可輸出結果，復雜樣本才走完全部層，推理效率因此顯著提升。

在分類與回歸雙任務上，TabSwift與TabPFN v2和TabICL競爭力相當，推理效率卻大幅領先。行級注意力+早退機制的組合，為表格基礎模型的規模化應用鋪平了道路。

論文鏈接：https://arxiv.org/abs/2606.07345

06

插入而非追加——變分學習讓變長生成更自然

Variational Learning for Insertion-based Generation

傳統自回歸生成模型從左到右逐詞追加，邏輯清晰卻天然排斥了"中間插入"這種更符合人類思維習慣的生成方式。這篇論文另辟蹊徑，從插入操作出發構建了一套完整的變分學習生成框架。

作者首先建立了插入軌跡與排列之間的雙射對應關系，將看似無序的插入過程映射到結構化的排列空間，為變分推斷提供了理論基礎。在此基礎上提出的IP（Insertion Process）模型，聯合學習了三個核心決策：在哪里插入、插入什么內容、何時終止生成——三者協同，使模型原生支持變長序列生成，無需借助外部長度預測模塊。

在目標條件規劃和分子字符串生成兩類任務上，IP模型均展現出更優的建模質量和泛化能力。這項工作為變長生成提供了一個理論扎實、實現簡潔的新范式：生成也可以像編輯一樣靈活。

論文鏈接：https://arxiv.org/abs/2606.02133

07

差分隱私訓練的自適應裁剪：零額外隱私代價的秘密

SlaClip: Gradient Norm Slacks can be Indicator for Adaptive Clipping in DP-SGD

差分隱私隨機梯度下降（DP-SGD）是隱私保護訓練的標準方法，但其裁剪閾值的選擇直接影響模型精度與隱私保證的平衡。閾值過大則噪聲不足，閾值過小則信號丟失。現有自適應裁剪方案往往引入額外的隱私代價，讓問題變得更加棘手。

SlaClip發現了一個被長期忽視的信號：標準裁剪操作本身產生的"松弛量"（slack），即被裁剪梯度與裁剪閾值之間的差值——恰好可以作為自適應裁剪的自然指示器。當松弛量普遍偏大，說明裁剪閾值偏低，需要上調；反之則需下調。SlaClip-DP-SGD與原始DP-SGD實例化相同的高斯機制，隱私代價完全等效，無需額外隱私預算。

僅需極少超參數調優，SlaClip即可在多種任務上提升模型精度。這項工作的貢獻不止于方法本身，更在于揭示了一個樸素卻深刻的洞察：裁剪操作的副產品本身就是最好的裁剪指南。

論文鏈接：https://openreview.net/forum?id=48suUeYKdb

08

端到端聯合訓練——圖像生成告別"兩階段"舊范式

End-to-End Autoregressive Image Generation with 1D Semantic Tokenizer

自回歸圖像生成長期遵循一個"先分詞、再生成"的兩階段范式：先訓練視覺分詞器將圖像壓縮為離散token，再在token序列上訓練自回歸模型。這兩步各自優化、互不干涉，分詞器只為重建質量服務，卻未必適合下游生成任務，因為生成階段的損失信號無法反傳回分詞器，導致其學到的表示對自回歸建模可能并不理想。

這篇論文打破了這一傳統，設計了端到端的聯合訓練流程，讓圖像重建和自回歸生成在同一框架下協同優化。生成結果可以直接對分詞器施加監督信號，梯度從生成端一路回傳至編碼端，使分詞器被迫學習更適合生成而非僅適合重建的表示。此外，作者還引入視覺基礎模型來增強1D分詞器的語義表達能力，讓壓縮后的token不僅保留視覺信息，更蘊含豐富的語義層級。

在ImageNet 256×256無條件生成任務上，該模型以FID 1.48的成績創下無引導條件下的當前最優紀錄。這項工作證明：當分詞器與生成模型不再各自為政，而是聯手進化，圖像生成的天花板可以被再次推高。

論文鏈接：https://arxiv.org/abs/2605.00503

09

脈沖神經網絡也能理解3D開放世界——SVL讓能效與能力不再對立

SVL: Empowering Spiking Neural Networks for Efficient 3D Open-World Understanding

脈沖神經網絡（SNN）因稀疏事件驅動的計算范式擁有驚人的能效優勢——一塊Speck芯片功耗僅0.7mW——但與人工神經網絡（ANN）相比，SNN長期困于性能差距和泛化不足，更缺乏多模態理解能力。零樣本3D分類、開放世界問答這些ANN已經習以為常的任務，對SNN而言幾乎是禁區。SVL的目標就是打破這道壁壘。

SVL框架包含兩大核心組件：多尺度三元對齊（MTA）通過無標簽的三元組對比學習，對齊3D點云、圖像和文本三種模態，讓SNN在預訓練階段就獲得跨模態語義一致性；可重參數化的視覺-語言集成（Rep-VLI）則將離線文本嵌入轉化為輕量級分類權重，推理時完全丟棄文本編碼器——這意味著部署時不再需要龐大的語言模型，大幅降低了推理開銷。此外，論文還提出了首個全脈沖驅動的點云Transformer——Spike driven PointFormer，其3D-SDSA機制將注意力交互簡化為稀疏加法運算，保持了端到端的脈沖計算范式。

實驗結果令人矚目：零樣本3D分類達到85.4%的Top-1準確率，在3D分類、DVS動作識別、檢測、分割等下游任務上分別提升6.1%、2.1%、1.1%和2.1%，甚至首次實現了基于SNN的3D開放世界問答。在某些場景下，SVL以204倍的能效優勢實現了與ANN可比的性能。這項工作標志著脈沖系統從"節能但無能"走向"節能且能干"的關鍵轉折。

論文鏈接：https://openreview.net/forum?id=JYke7CIuIa

這九篇Spotlight論文橫跨生成模型、智能體系統、模型壓縮、隱私保護、表格學習、神經形態計算等多個維度，共同勾勒出ICML 2026最前沿的研究圖景。每一篇都在各自的領域提出了獨到的洞察與方法，而這些洞察之間暗藏的共鳴與張力，或許正是下一輪突破的起點。

如果你想推薦ICML上的其他論文，歡迎聯系我們進一步交流探討 。

一個人讀論文太孤單，一群人刷頂會才好玩。

ICML 2026召開在即，我們正在召集一波含金量極高的 AI 研究者。群內主打實時論文跟蹤與硬核技術探討，拒絕灌水。

進群傳送門：掃碼進群或添加微信Vin_Vivid，備注：論文群 + 關注的 AI 方向。

搞科研/搞技術，信息差很重要。

來，一起快人一步！

上車，帶你看遍全球 AI 頂會精華

可獨家暢覽：

專家演講PPT

大會報告全文

熱門論文解讀

學術新星訪談

未經「AI科技評論」授權，嚴禁以任何方式在網頁、論壇、社區進行轉載！

公眾號轉載請先在「AI科技評論」后臺留言取得授權，轉載時需標注來源并插入本公眾號名片。