![]()
這場(chǎng)盛會(huì)超越技術(shù)突破本身,更追問(wèn):機(jī)器學(xué)習(xí),究竟為誰(shuí),為何而做?
作者丨幸麗娟
編輯丨岑 峰
2026 年 7 月 6 日上午,第 43 屆國(guó)際機(jī)器學(xué)習(xí)大會(huì)(ICML 2026)在韓國(guó)首爾 COEX 會(huì)展中心正式拉開(kāi)帷幕。作為機(jī)器學(xué)習(xí)領(lǐng)域全球最具影響力的學(xué)術(shù)盛會(huì)之一,本屆會(huì)議吸引了超過(guò) 11000 名來(lái)自世界各地的研究人員齊聚首爾。開(kāi)幕式現(xiàn)場(chǎng)人潮涌動(dòng),參會(huì)者擠滿了 COEX 的展廳與報(bào)告廳,場(chǎng)面極為熱鬧。
![]()
01
投稿規(guī)模與錄用總數(shù)破紀(jì)錄
本屆ICML創(chuàng)下了歷史性的投稿紀(jì)錄——共收到 23918 篇有效投稿,較2025年的 12107 篇翻了一倍。最終,會(huì)議共接收了 6352 篇論文,錄用率為26.6%。其中,536篇論文入選Spotlight 論文(占投稿總數(shù) 2.2%),僅168篇獲得Oral報(bào)告資格(僅占0.7%)。
在投稿規(guī)模與錄用數(shù)量雙雙破紀(jì)錄的背后,曾有一個(gè)小插曲給學(xué)術(shù)界帶來(lái)了一點(diǎn)“小震撼”:497 篇論文在評(píng)審階段被直接“桌拒”(Desk Reject),占投稿總數(shù)的約 2%。
事件的導(dǎo)火索是 ICML 組委會(huì)在審稿意見(jiàn)中檢測(cè)出 795 處違規(guī)使用大語(yǔ)言模型(LLM) 撰寫(xiě)評(píng)審意見(jiàn)的行為,涉及 506 名審稿人。根據(jù)ICML于今年1月發(fā)布的同行評(píng)審新規(guī)——若審稿人未能履行職責(zé),其名下所有投稿論文均可能被直接拒稿。因此,組委會(huì)對(duì)這批既是違規(guī)審稿人又是投稿人的 497 篇論文,予以了一刀切的拒稿處理。
![]()
截圖自https://blog.icml.cc/2026/03/18/on-violations-of-llm-review-policies/
據(jù) ICML 官方回應(yīng),他們并非全面禁止在審稿中使用AI工具,而是要求嚴(yán)格遵守相關(guān)政策。然而,此次被處罰的審稿人,均是在簽署了“不使用LLM”協(xié)議的前提下依然違規(guī)使用,且未作任何標(biāo)注。為鎖定違規(guī)行為,組委會(huì)在提交的 PDF 論文中嵌入了水印,并采用了“更為復(fù)雜的綜合研判手段”,而非依賴(lài)單一的AI檢測(cè)器。
這一“連坐”式的嚴(yán)厲處罰旋即引發(fā)激烈爭(zhēng)議。支持者認(rèn)為這是捍衛(wèi)學(xué)術(shù)誠(chéng)信的必要手段;反對(duì)者則質(zhì)疑AI檢測(cè)器存在誤報(bào)風(fēng)險(xiǎn),可能導(dǎo)致無(wú)辜學(xué)者被“冤殺”,并尖銳地提出:如果審稿意見(jiàn)本身質(zhì)量過(guò)硬,是否真的有必要追究其是否由 AI 撰寫(xiě)?
這場(chǎng)關(guān)于“工具”與“誠(chéng)信”的爭(zhēng)論,至今仍在發(fā)酵。但風(fēng)波之外,ICML 2026 現(xiàn)場(chǎng)人聲鼎沸,Panel、Tutorial 等議程此刻正接踵召開(kāi),ICML 2026 各項(xiàng)大獎(jiǎng)也重磅出爐。
02
重磅獎(jiǎng)項(xiàng)出爐,清華大學(xué)團(tuán)隊(duì)拿下杰出論文獎(jiǎng)
▎杰出論文獎(jiǎng)(Outstanding Paper Award)
首先引人關(guān)注的是本屆會(huì)議的杰出論文獎(jiǎng)(Outstanding Paper Award),共有兩篇當(dāng)選。
![]()
《The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models》這篇出自清華大學(xué)黃高教授團(tuán)隊(duì)的論文,對(duì)擴(kuò)散語(yǔ)言模型(dLLMs)的固有設(shè)計(jì)理念發(fā)起了一次深刻的“靈魂拷問(wèn)”。
![]()
論文鏈接:https://openreview.net/pdf?id=kpgURPRMGf
長(zhǎng)期以來(lái),dLLMs因其能夠以任意順序生成token而備受推崇,被認(rèn)為具有更大的靈活性。
然而,黃高團(tuán)隊(duì)通過(guò)大量實(shí)驗(yàn)發(fā)現(xiàn)了一個(gè)反直覺(jué)的現(xiàn)象:在數(shù)學(xué)推理、編程等通用推理任務(wù)中,這種“順序自由”反而成了性能的拖累。模型會(huì)利用這種靈活性“逃避”生成高不確定性的關(guān)鍵token,導(dǎo)致解空間過(guò)早坍縮,無(wú)法探索更優(yōu)的解。團(tuán)隊(duì)將這一現(xiàn)象命名為 “靈活性陷阱”。
更令人稱(chēng)道的是,他們提出的解決方案 JustGRPO,極簡(jiǎn)卻有效:在強(qiáng)化學(xué)習(xí)階段,強(qiáng)制模型放棄復(fù)雜的任意順序策略,僅使用標(biāo)準(zhǔn)的從左到右自回歸順序,也就是群組相對(duì)策略優(yōu)化(Group Relative Policy Optimization, GRPO) 進(jìn)行訓(xùn)練。
實(shí)驗(yàn)結(jié)果顯示,該方法在 GSM8K(512)數(shù)學(xué)推理基準(zhǔn)上達(dá)到 89.1% 的準(zhǔn)確率,在 MATH-500(512)上達(dá)到 45.1%,且完整保留了dLLMs的并行解碼能力,不犧牲推理速度。
![]()
這篇論文的最大亮點(diǎn)在于其批判性與顛覆性——它敢于挑戰(zhàn)“靈活性越大越好”的行業(yè)共識(shí),用嚴(yán)謹(jǐn)?shù)睦碚摲治龊蛯?shí)驗(yàn)證據(jù),揭示了一個(gè)被普遍忽視的失效模式,并以一個(gè)干凈利落的方法加以解決。這充分體現(xiàn)了華人團(tuán)隊(duì)敏銳的洞察力和扎實(shí)的工程實(shí)現(xiàn)能力。
來(lái)自MIT和耶魯?shù)葯C(jī)構(gòu)的論文《High-Accuracy Sampling for Diffusion Models and Log-Concave Distributions》從理論層面解決了擴(kuò)散模型采樣的一個(gè)長(zhǎng)期懸而未決的核心難題:在僅擁有不完美的分?jǐn)?shù)估計(jì)(score estimates)時(shí),能否用極少的采樣步驟達(dá)到高精度?
![]()
論文鏈接:https://openreview.net/pdf?id=GW3umRqsZZ
這篇論文的作者給出了肯定的答案,并提出了一種全新的用于擴(kuò)散模型采樣的算法,在能夠訪問(wèn) ?(δ)-精度的 L2 得分估計(jì)(score estimates)的前提下,僅需 polylog(1/δ) 步即可實(shí)現(xiàn) δ-誤差。這是對(duì)所有先前結(jié)果的指數(shù)級(jí)改進(jìn),意味著模型達(dá)到同樣高精度所需的計(jì)算量大幅減少。
論文給出了三種不同數(shù)據(jù)假設(shè)下的具體復(fù)雜度界限:
最小假設(shè):?( d · polylog(1/δ) ),僅依賴(lài)數(shù)據(jù)維度 d;
非均勻 Lipschitz 條件:?√(dL) polylog(1/δ) ,利用分布的光滑性進(jìn)一步加速;
內(nèi)在低維結(jié)構(gòu):若數(shù)據(jù)分布具有內(nèi)在維度 d,復(fù)雜度可降至 ?( d · polylog(1/δ) ),實(shí)現(xiàn)維度自適應(yīng)。
值得一提的是,該算法不僅適用于擴(kuò)散模型,還首次實(shí)現(xiàn)了僅靠梯度評(píng)估即可達(dá)到 polylog(1/δ) 復(fù)雜度的通用對(duì)數(shù)凹分布采樣。這為貝葉斯推斷、統(tǒng)計(jì)采樣等廣泛依賴(lài)對(duì)數(shù)凹分布抽樣的領(lǐng)域提供了理論上的突破性工具。
獲得杰出論文榮譽(yù)提名(Outstanding Paper Honorable Mention)的論文有五篇,均在各自領(lǐng)域作出了突出貢獻(xiàn)。
![]()
論文《The Obfuscation Atlas: Mapping Where Honesty Emerges in RLVR with Deception Probes》,在RLVR(Reinforcement Learning with Verifiable Rewards,帶可驗(yàn)證獎(jiǎng)勵(lì)的強(qiáng)化學(xué)習(xí)) 背景下研究如何通過(guò)白盒欺騙探測(cè)器促使AI系統(tǒng)變得誠(chéng)實(shí)。論文作者提出通過(guò)強(qiáng) KL 正則化與檢測(cè)器懲罰來(lái)有效抑制混淆行為,并在真實(shí)代碼環(huán)境中驗(yàn)證了該方法的可靠性。
![]()
論文鏈接:https://openreview.net/pdf?id=wrGSN9kAVD
論文《Motion Attribution for Video Generation》聚焦視頻生成模型訓(xùn)練數(shù)據(jù)如何影響生成內(nèi)容的運(yùn)動(dòng)特性這一空白,提出Motive框架,通過(guò)運(yùn)動(dòng)加權(quán)損失掩碼,將視頻中的時(shí)間動(dòng)態(tài)與靜態(tài)外觀分離開(kāi)來(lái),利用基于梯度的歸因方法篩選關(guān)鍵數(shù)據(jù),在VBench上獲得74.1%的人類(lèi)偏好勝率。
![]()
論文鏈接:https://openreview.net/pdf?id=zAl9heLw4q
論文《How much can language models memorize?》探討了語(yǔ)言模型能記憶多少訓(xùn)練數(shù)據(jù)的問(wèn)題,提出了一個(gè)基于模型參數(shù)數(shù)量與訓(xùn)練數(shù)據(jù)量比例的理論框架來(lái)量化記憶能力,發(fā)現(xiàn)GPT類(lèi)模型的記憶容量約為每參數(shù)3.6比特, 語(yǔ)言模型的記憶容量大致與模型參數(shù)數(shù)量成正比,且存在"臨界比例"——當(dāng)訓(xùn)練數(shù)據(jù)量超過(guò)模型參數(shù)量的某一倍數(shù)后,模型會(huì)開(kāi)始遺忘而非繼續(xù)記憶新數(shù)據(jù)。
![]()
論文鏈接:https://openreview.net/pdf?id=bA6BgSbaUi
論文《A Random Matrix Perspective on the Consistency of Diffusion Models》利用隨機(jī)矩陣?yán)碚摚到y(tǒng)解釋了擴(kuò)散模型在不同數(shù)據(jù)子集上訓(xùn)練后仍能生成相似樣本的“一致性”現(xiàn)象。作者將模型簡(jiǎn)化為線性情形,通過(guò)確定性等價(jià)方法精確刻畫(huà)了有限數(shù)據(jù)集對(duì)生成輸出的影響,發(fā)現(xiàn)輸出主要由數(shù)據(jù)的共享高斯統(tǒng)計(jì)量(均值和協(xié)方差)決定,而數(shù)據(jù)子集的隨機(jī)波動(dòng)僅通過(guò)三個(gè)因素(數(shù)據(jù)各向異性、輸入噪聲結(jié)構(gòu)、樣本量)影響生成差異。理論預(yù)測(cè)不僅能精確匹配線性擴(kuò)散模型,還能在UNet和DiT等深度架構(gòu)中定性驗(yàn)證,從而為擴(kuò)散模型的訓(xùn)練可重復(fù)性、泛化性和數(shù)據(jù)效率提供了首個(gè)理論基線。
![]()
論文鏈接:https://openreview.net/pdf?id=iPjuUQbkfl
論文《To Grok Grokking: Provable Grokking in Ridge Regression》首次為“Grokking”現(xiàn)象提供了嚴(yán)格的數(shù)學(xué)證明,將這一經(jīng)驗(yàn)觀察提升到理論可解釋的高度。通過(guò)在過(guò)參數(shù)化的嶺回歸模型中建立端到端的理論框架,論文不僅精確刻畫(huà)了模型從過(guò)擬合到泛化的三階段動(dòng)態(tài)過(guò)程,更首次量化了“Grokking延遲時(shí)間”與學(xué)習(xí)率、權(quán)重衰減等超參數(shù)之間的定量界限,從而從理論上證明了通過(guò)調(diào)節(jié)超參數(shù)可以有原則地控制甚至消除該現(xiàn)象,并表明Grokking并非深度學(xué)習(xí)的固有缺陷,這為理解和預(yù)測(cè)模型泛化行為提供了全新的理論工具。
![]()
論文鏈接:https://openreview.net/pdf?id=5nNNVY8NW4
▎杰出立場(chǎng)論文獎(jiǎng)(Outstanding Position Paper Award)
本屆ICML的立場(chǎng)論文賽道同樣競(jìng)爭(zhēng)激烈,最終獲得杰出立場(chǎng)論文獎(jiǎng)的是《Position: The Alignment Community is Unintentionally Building a Censor’s Toolkit》
![]()
這篇立場(chǎng)論文將矛頭直指AI安全與對(duì)齊研究中的一個(gè)令人不安的趨勢(shì)。作者指出,當(dāng)前AI對(duì)齊領(lǐng)域的研究者,出發(fā)點(diǎn)雖是善意的,卻在無(wú)意中構(gòu)建了一套可用于大規(guī)模審查的工具包。作者認(rèn)為,當(dāng)前對(duì)齊研究開(kāi)發(fā)的許多技術(shù)——如內(nèi)容過(guò)濾、意圖檢測(cè)、價(jià)值觀約束、輸出干預(yù)等——本質(zhì)上具備高度通用性,既能用于防止有害輸出,也極易被挪用于政治審查、信息控制和言論壓制。
![]()
論文鏈接:https://openreview.net/pdf?id=dy2HwmOvFX
論文挑戰(zhàn)了“價(jià)值對(duì)齊天然是向善力量”的舒適假設(shè),警示即使是最具人文關(guān)懷的AI安全技術(shù),也可能被挪用于監(jiān)控和內(nèi)容過(guò)濾,并呼吁對(duì)齊研究者正視這一雙重用途困境,在技術(shù)開(kāi)發(fā)中嵌入反審查設(shè)計(jì)原則,并推動(dòng)更透明的治理機(jī)制,以避免本意良善的安全研究淪為壓制自由的幫兇。
作為一篇立場(chǎng)論文,它不依賴(lài)實(shí)驗(yàn)數(shù)據(jù),而是以嚴(yán)謹(jǐn)?shù)倪壿嫼拖姆治觯瑢?duì)領(lǐng)域方向提出了根本性質(zhì)疑,體現(xiàn)了ICML鼓勵(lì)批判性思辨的初衷。
《Position: AI/ML Deepfake Research is Misaligned with AI Generated Non-Consensual Intimate Imagery (AIG-NCII)》則獲得杰出立場(chǎng)論文榮譽(yù)提名(Outstanding Position Paper Honorable Mention)。
![]()
論文揭示了當(dāng)前 AI/ML 領(lǐng)域在“深度偽造(deepfake)”研究上存在嚴(yán)重的“錯(cuò)位(misalignment)”。研究發(fā)現(xiàn),目前絕大多數(shù)技術(shù)干預(yù)都聚焦于檢測(cè)“深度偽造”內(nèi)容的真?zhèn)危詰?yīng)對(duì)其帶來(lái)的認(rèn)知性傷害(epistemic harms),例如防范公眾人物的虛假視頻、打擊欺詐和詐騙等。然而,這種研究重心與現(xiàn)實(shí)世界中生成式AI最主要的濫用形式是脫節(jié)的——后者是以性化圖像為特征的AI生成的非自愿親密圖像(AIG-NCII)。
![]()
論文鏈接:https://openreview.net/pdf?id=mLhZzo7BIb
論文進(jìn)一步提出了“以觀看者為中心的認(rèn)知性傷害(viewer-centric epistemic harms)”與“以受害者為中心的尊嚴(yán)傷害(subject-centric dignity harms)”的關(guān)鍵區(qū)分。作者指出,現(xiàn)有的防御手段(如真實(shí)性檢測(cè)工具)幾乎完全忽略了AIG-NCII這類(lèi)問(wèn)題,將研究生態(tài)局限在了真?zhèn)舞b別上。更為重要的是,僅僅知道一張圖像是合成的,并不能減輕對(duì)受害者的實(shí)際傷害,在某些情況下甚至可能加劇這種傷害。
為此,它呼吁研究界應(yīng)將重點(diǎn)轉(zhuǎn)向AIG-NCII這類(lèi)以受害者尊嚴(yán)為核心的傷害(subject-centric dignity harms) ,并建議更新威脅模型、將相關(guān)問(wèn)題納入AI安全研究。同時(shí)也提醒研究者,在涉足這一高風(fēng)險(xiǎn)領(lǐng)域時(shí)必須與相關(guān)專(zhuān)家合作并建立安全防護(hù)措施。
▎時(shí)間檢驗(yàn)獎(jiǎng)(Test of Time Award)
![]()
ICML 的時(shí)間檢驗(yàn)獎(jiǎng)(Test of Time Award )授予"發(fā)表十年后仍對(duì)領(lǐng)域產(chǎn)生深遠(yuǎn)影響"的論文。今年摘下這頂王冠的是深度強(qiáng)化學(xué)習(xí)領(lǐng)域的經(jīng)典之作——《Asynchronous Methods for Deep Reinforcement Learning》。
![]()
論文鏈接:https://proceedings.mlr.press/v48/mniha16.pdf
這篇論文由 Google DeepMind 團(tuán)隊(duì)于 2016 年發(fā)表在 ICML 上,第一作者 Volodymyr Mnih 是深度強(qiáng)化學(xué)習(xí)領(lǐng)域的奠基人之一,此前還領(lǐng)導(dǎo)了 DQN 的開(kāi)創(chuàng)性工作。研究團(tuán)隊(duì)匯集了 Alex Graves、David Silver 等頂尖學(xué)者,代表了當(dāng)時(shí) RL 研究的最強(qiáng)陣容。
論文針對(duì)深度強(qiáng)化學(xué)習(xí)訓(xùn)練效率低下的核心瓶頸:DQN 等算法嚴(yán)重依賴(lài) GPU 硬件和經(jīng)驗(yàn)回放機(jī)制,導(dǎo)致訓(xùn)練成本高、內(nèi)存開(kāi)銷(xiāo)大,且難以擴(kuò)展到連續(xù)動(dòng)作空間。當(dāng)時(shí)即便是最先進(jìn)的并行方案也需要復(fù)雜的多機(jī)分布式架構(gòu),普通研究者也難以復(fù)現(xiàn)。
![]()
為此,論文團(tuán)隊(duì)提出了異步多線程訓(xùn)練框架 A3C,讓多個(gè)智能體在獨(dú)立環(huán)境副本中并行探索,并無(wú)鎖地異步更新共享全局網(wǎng)絡(luò)。這一設(shè)計(jì)徹底摒棄了經(jīng)驗(yàn)回放,僅依靠多核 CPU 即可實(shí)現(xiàn)高效訓(xùn)練,同時(shí)天然支持連續(xù)控制任務(wù)。論文還系統(tǒng)比較了四種異步變體,其中結(jié)合優(yōu)勢(shì)函數(shù)的 A3C 表現(xiàn)最優(yōu)。
![]()
實(shí)驗(yàn)結(jié)果還表明,A3C 在 57 款 Atari 游戲上僅用 16 核 CPU 就達(dá)到了超越 DQN 的性能,且訓(xùn)練速度顯著提升;并在連續(xù)運(yùn)動(dòng)控制和3D迷宮導(dǎo)航等任務(wù)中表現(xiàn)出卓越的通用性。更深刻的發(fā)現(xiàn)是,異步更新引入的梯度噪聲本身起到了去相關(guān)作用,這一反直覺(jué)的洞察為后續(xù)理論分析開(kāi)辟了新方向。
這篇論文的經(jīng)典性在于,它顛覆了“穩(wěn)定訓(xùn)練必依賴(lài)經(jīng)驗(yàn)回放”的傳統(tǒng)認(rèn)知,以極簡(jiǎn)的工程設(shè)計(jì)解決了復(fù)雜的分布式訓(xùn)練難題,將深度強(qiáng)化學(xué)習(xí)從 GPU 集群推向了個(gè)人工作站,奠定了此后十年深度強(qiáng)化學(xué)習(xí)并行采樣范式的基礎(chǔ),深刻影響了后續(xù)分布式訓(xùn)練與強(qiáng)化學(xué)習(xí)應(yīng)用的架構(gòu)設(shè)計(jì)。
時(shí)隔十年,這項(xiàng)工作的價(jià)值非但沒(méi)有褪色,反而在分布式RL的浪潮中被反復(fù)印證,時(shí)間檢驗(yàn)獎(jiǎng)即是最好的證明。
ICML 2026 不僅是一場(chǎng)技術(shù)突破的慶典,更是一次對(duì) AI 研究方向的集體反思。從黃高團(tuán)隊(duì)對(duì)“靈活性陷阱”的警醒,到立場(chǎng)論文對(duì)“無(wú)意中構(gòu)建審查工具”的批判,這場(chǎng)盛會(huì)的核心追問(wèn)已超越算法與精度本身:機(jī)器學(xué)習(xí),究竟為誰(shuí),為何而做?
未來(lái)一周,COEX會(huì)展中心將迎來(lái)更多前沿思想的碰撞,AI 科技評(píng)論記者將在現(xiàn)場(chǎng)為大家?guī)?lái)更多一線報(bào)道,敬請(qǐng)關(guān)注!
一個(gè)人讀論文太孤單,一群人刷頂會(huì)才好玩。
ICML 2026召開(kāi)在即,我們正在召集一波含金量極高的 AI 研究者。群內(nèi)主打實(shí)時(shí)論文跟蹤與硬核技術(shù)探討,拒絕灌水。
進(jìn)群傳送門(mén):掃碼進(jìn)群或添加微信Vin_Vivid,備注:論文群 + 關(guān)注的 AI 方向。
![]()
搞科研/搞技術(shù),信息差很重要。
來(lái),一起快人一步!
![]()
上車(chē),帶你看遍全球 AI 頂會(huì)精華
可獨(dú)家暢覽:
專(zhuān)家演講PPT
大會(huì)報(bào)告全文
熱門(mén)論文解讀
學(xué)術(shù)新星訪談
![]()
未經(jīng)「AI科技評(píng)論」授權(quán),嚴(yán)禁以任何方式在網(wǎng)頁(yè)、論壇、社區(qū)進(jìn)行轉(zhuǎn)載!
公眾號(hào)轉(zhuǎn)載請(qǐng)先在「AI科技評(píng)論」后臺(tái)留言取得授權(quán),轉(zhuǎn)載時(shí)需標(biāo)注來(lái)源并插入本公眾號(hào)名片。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.