十年 ICML，十次思想浪潮，當AI開始問「為誰而算」｜ICML2026

追問的十年。

作者丨吳思夢

編輯丨岑 峰

2016年6月，紐約。David Silver站到了ICML的講臺上，用66頁幻燈片，從Q-Learning一路推到AlphaGo。他傳遞出一種信念：把深度網絡嫁接到強化學習上，通用智能的涌現就只是算力和工程問題。彼時距AlphaGo在首爾4∶1擊敗李世石僅三個月。

十年后的2025年7月，溫哥華。Anca Dragan——Google DeepMind Gemini后訓練的聯合負責人，在現場播放了一段視頻：一個機器人機械臂舉起杯子，太高了。一只手伸進畫面把它壓下來。手松開。機器人又舉上去了。“不是機器人笨，”她說，“是獎勵函數在逼它做它認為‘正確’的事。只是我們定義的‘正確’和人類想的‘正確’，根本不在一個頻道上。”

從Silver到Dragan，作為機器學習領域歷史最悠久的頂級會議，ICML歷經十年變遷，每年的重磅演講都像是一粒時間膠囊。它們記錄的不僅是算法的迭代，更是整個學科對“什么才是真正的問題”的思想倒帶。AI科技評論對10年演講精華進行打撈，發現一條清晰的行業軌跡：AI從盲目相信算法能擺平一切，走向了對“解決”本身的自我質疑；從把目標函數當成從天而降的既定真理，到終于撞向了最核心的現實——誰在寫規則、為了誰的利益、又付出了誰的代價。

技術高舉十年后，行業兜兜轉轉，最終回到了問題的起點：人本身。

以下，是這十年的十個聲音。

01

2016·紐約——David Silver：

深度強化學習的黎明

2016年6月19日，ICML在紐約召開。三個月前，AlphaGo剛在首爾以4:1擊敗李世石。這場比賽在亞洲的收視人數超過2.8億。David Silver——AlphaGo的首席架構師，在ICML上講“Deep Reinforcement Learning”時，整個會場人滿為患，Silver在ICML講臺上展示的，是這臺機器背后的全部數學。

視頻鏈接：

https://videolectures.net/videos/rldm2015_silver_reinforcement_learning

David Silver的演講本質上是一張路線圖。從Q-Learning到Policy Gradient，從Actor-Critic到Experience Replay，再到AlphaGo的蒙特卡洛樹搜索與深度價值網絡的融合。66頁幻燈片干凈利落，核心邏輯像數學定理一樣清晰：深度網絡負責“看”，強化學習負責“決策”，合在一起就是一個通用問題求解器。

他傳遞的核心觀點是，如果獎勵函數定義得足夠好，強化學習就能在任何任務上超越人類。他在講臺上展示了AlphaGo的技術架構，他認為，智能的本質是最大化累積獎勵。棋盤上的“贏”是無需質疑的目標，物理世界中的一切問題，諸如自動駕駛、機器人控制、蛋白質折疊等都可以被歸約為同一形式。

今天回看，當年AlphaGo聚光燈下的勝利也讓公眾和資本產生了一種錯覺：既然AI能在圍棋中擊敗人類，那么解決一切也只是算力和工程問題。

02

2017·悉尼——Sylvain Gelly & David Silver：一個精準兌現的十年賭約

2017年的ICML Test of Time Award頒給了Gelly、Silver等人在2007年發表的一篇論文。這篇論文做了一件事：把在線知識（MCTS的樹搜索）和離線知識（從經驗中學習的價值函數）融合進圍棋AI——這正是AlphaGo的底層邏輯。

視頻鏈接：https://youtu.be/Bm7zah_LrmE?si=-AGa7qCGW5niOY2H

Gelly在悉尼展示了一張表格：從2007年到2017年，計算機圍棋的Elo等級分從1800漲到了4500。一條光滑的上升曲線。他講了一個私人故事：十年前他和同事打賭——十年內，計算機圍棋能打敗人類職業棋手。對方不信。2016年AlphaGo擊敗李世石，提前一年兌現。

Gelly還講了一個他自己驗證的悖論：更強的策略網絡反而讓Rollout表現更差，因為好策略把搜索剪窄了——局部做得越好，全局越容易錯過。這條隱喻，即將在后續的年份里被反復應驗。

但站在今天看2017年，最意味深長的不是臺上的賭約。ICML開幕前兩個月，一篇題為“Attention is All You Need”的論文掛上了arXiv。論文提出了一個在后來影響深遠的觀點路徑——Transformer。那年NIPS、ICML和ICLR加起來有超過3000篇論文，“Attention is All You Need”只是其中之一，甚至不算最受關注的那篇。當時幾乎沒有人意識到它意味著什么。而在同一年7月，中國國務院印發了《新一代人工智能發展規劃》，AlphaGo的余燼未消，但人工智能的宏觀圖景已經開始靠近。

03

2018·斯德哥爾摩——Dawn Song：

深度學習是一座沙堡

2018年的ICML是在一股寒流中召開的。四個月前，劍橋分析獲取8700萬Facebook用戶數據的丑聞曝光。

Dawn Song在斯德哥爾摩的講臺上沒有談劍橋分析，她談的是更基礎、也更令人不安的東西：深度學習系統在結構上是脆弱的。

視頻鏈接：

https://slideslive.com/38922550/invited-talk-ai-security-challenges-lessongs-future-directions?ref=search-presentations

她展示了一張熊貓圖片——加上精心構造的噪聲后，被模型識別為“長臂猿”。以及如何用查詢API的方式偷走一個商業化圖像分類模型：不需要侵入服務器，不需要偷代碼，只需要發送足夠多的請求并觀察輸出。也展示了訓練階段植入后門的可能性：給路牌貼幾張特制的貼紙，自動駕駛汽車會把停車標志誤讀為限速標志。也就是說，你花了十年搭建的、在ImageNet上超越人類準確率的模型，根本上經不起一次有針對性的攻擊。

Dawn Song認為，這個領域在能力上的進步和在對脆弱性認知上的滯后之間，存在一個不斷擴大的剪刀差。你越急著把模型部署到現實世界，如自動駕駛、人臉識別、醫療診斷——這個剪刀差就越危險。從2025年往回看，Song的演講是一個預言。她沒有預見到對抗攻擊會演變成Prompt Injection，沒有預見到模型竊取會變成用DeepSeek蒸餾OpenAI的模型。她預見的是更深層的東西：這個領域所建立的一切都是基于脆弱的地基。

04

2019·長灘——Alison Gopnik：

那個說“大模型不是智能”的心理學家

2019年的AI界被一件事圍繞：OpenAI發布GPT-2后宣布“太危險，不能全部公開”。支持者說是負責任的克制，反對者說是危險的安全化表演。同一個月，有人員研究發現，亞馬遜面部識別對深色皮膚女性的錯誤率比淺色皮膚男性高31%。Deepfake開始泛濫。此時ICML的講臺上，站著一個“局外人”。

Alison Gopnik，伯克利的發展心理學家，職業生涯中主要研究兒童怎么學習。她跟深度學習唯一的交集是她丈夫——Alvy Ray Smith，計算機圖形學先驅，Pixar的聯合創始人之一。

ICML為什么要請她做Keynote？或許可以嗅到一種可能，這個領域開始覺察到，并逐漸懷疑自己建造的“智能”根本不像智能，但不知道不像在哪里。 于是不得不坐下來，去聽一位研究“嬰兒是如何理解世界”的學者，給他們上一堂關于真正智能的啟蒙課。

視頻鏈接：https://www.youtube.com/watch?v=53sQCXi5HPw

Gopnik的演講標題是《What Four-year-olds Can Do and AI Can’t (Yet) 》。她說，大語言模型不是“智能體”（agent），是“文化技術”（cultural technology）。像寫作、印刷術、圖書館一樣，是一種讓個體獲取其他人類積累的知識的工具。“你問‘GPT比我知道得更多嗎’——這個問題本身就是錯的。圖書館比我知道得更多嗎？圖書館不是一個人。”

然后她調出了更鋒利的對比。兒童做的是“真相發現”（truth-seeking）。兩歲小孩會自己設計因果實驗：挖沙子觀察怎么塌、把水倒在不同杯子里、反復扔勺子確認重力不是隨機事件。“ChatGPT不是產生幻覺，它只是不在乎真假。它的目標函數里沒有這個維度。”這句話在2019年聽起來像哲學評論。

2023年，當ChatGPT捏造法庭判例導致律師被處罰，當它給一位澳大利亞市長憑空編造了一樁賄賂罪，Gopnik在2019年看穿的觀點突然變得擲地有聲。

05

2020·線上——Brenna Argall：

當算法進入人的身體，誰在適應誰

2020年7月，ICML本該在維也納召開，最終變成了一個Zoom會議，會議有10800人次觀看，來自75個國家。COVID讓“遠程”“輔助”“自動化”變成了幾億人的共同體驗。Brenna Argall的Keynote主題是《Human and Machine Learning for Assistive Autonomy》（輔助自主的人類和機器學習）。

Argall是西北大學Assistive & Restorative Technology Lab的負責人。她的實驗室名字本身就是聲明：技術是來輔助和恢復人的能力的，不是來替代的。但她的問題不是“如何造更好的輪椅”，而是：當機器和人共享控制權時，誰在適應誰？

視頻鏈接：https://slideslive.com/38930518/human-and-machine-learning-for-assistive-autonomy

傳統輔助技術的邏輯是“機器決策，人接受”——自動化程度越高，人需要做的事越少。Argall把這個邏輯翻轉過來：真正的輔助自主，不是讓機器替人做更多決定，而是讓人保持對自己身體和行動的掌控權。她展示了實驗室開發的各種共享控制策略：在某些場景下，機器提供物理支持但人保持決策權；在另一些場景下，機器主動預判人的意圖但保留被推翻的通道。她甚至用量化方法測量了不同自動化水平下用戶的“感知控制感”（perceived control），把權力分配變成了一個可優化的變量。

她的核心論點涉及到分配正義問題：“每一個自動化決策，都意味著收回人的一部分能動性。輔助自主的核心不是技術問題——是權力如何在人和機器之間分配的問題。”2020年，當全世界被迫依賴遠程技術和自動化系統時，Argall的追問有著遠超輪椅和輔助機器人的穿透力：你正在設計的自動化系統，是在增強人的能力，還是在悄悄剝奪人的選擇？

06

2021·線上——Daphne Koller：

AI制藥的數據貧困

2021年，mRNA疫苗正在拯救生命，AlphaFold 2解決了困擾生物學半個世紀的蛋白質結構預測問題。整個AI領域的目光轉向AI for Science。Daphne Koller——斯坦福傳奇教授、Coursera聯合創始人、AI制藥公司insitro的CEO，把鏡頭從分子結構轉向了整個制藥業的基礎設施。她演講的主題是《Transforming Drug Discovery using Digital Biology 》（利用數字生物學變革新藥研發）。

視頻鏈接：https://slideslive.com/38959976/transforming-drug-discovery-using-digital-biology?ref=search-presentations

傳統藥物開發：平均10年、26億美元、90%失敗率。Koller的目標是從靶點發現到臨床試驗預測做全鏈路數字化再造。但她的演講花了大量時間講一個出人意料的問題：不是算法有多難，是數據有多難。

“ImageNet已經做到百萬級精確標注，”她說，“制藥業最關鍵的細胞表型數據還停留在手工顯微鏡觀察。”幾十年的濕實驗數據，格式互不兼容，元數據缺失，“有些還在紙質實驗記錄本上。”她展示了insitro的解決方案：用自動化濕實驗室生成大規模、標準化、帶有完整元數據的細胞數據，再在上面訓練機器學習模型。她認為，機器學習的工具箱已經足夠好了，但制藥業的數據基礎設施還停留在前數字化時代。這意味著，在AI for Science最激動人心的戰場上，最急迫的瓶頸不是模型架構創新，而是數據的標準化和生產化。

當整個行業都在追逐更大的模型和更多的算力時，她提醒所有走在科技前沿的人：在真正復雜的領域，那些事關生命的領域，數據貧困仍然是比算法瓶頸更根本的約束。

07

2022·巴爾的摩——Regina Barzilay：

我們是否在解決正確的問題

2022年7月，ICML在巴爾的摩恢復線下——兩年虛擬會議后的第一次實體集結。Regina Barzilay站到講臺上。她是MIT CSAIL的教授，2017年從乳腺癌中幸存后把自己的研究轉向了AI+醫療。

視頻鏈接：https://icml.cc/virtual/2022/invited-talk/18429

她演講的主題是《Solving the Right Problems: Making ML Models Relevant to Healthcare and the Life Sciences》（解決正確的問題：讓機器學習模型與醫療和生命科學相關）。她回顧了自己1997年參加第一個NLP會議時的場景——全場兩三百人，“大部分在做基于規則的系統”。二十年后，神經方法橫掃一切。但她問了一個不在議程上的問題：這二十年里，多少論文解決的是最終被證明不相關的問題？

她的例子來自醫療：大量機器學習論文優化醫院再入院率預測，這是一個被Medicare公開追蹤、數據干凈漂亮的指標。但在臨床現實中，再入院率和醫療質量的相關性遠比想象的低。一堆論文在優化一個和真實世界“相關”但遠不等于真實世界的代理變量。“我們非常擅長在別人定義的問題上跑分。定義正確的問題，才是最難的部分。”

這場演講的日期是2022年7月。四個月后，ChatGPT發布。Barzilay在臺上問“我們是否在解決正確的問題”，她指的是醫療AI中的評價指標錯位。但在不久的未來，這個問題即將變成對整個領域的提問。

08

2023·檀香山——Marzyeh Ghassemi：

健康標簽里的結構性暴力

2023年7月，ICML在檀香山。這一年中，ChatGPT發布六個月后GPT-4已經上線。

Marzyeh Ghassemi——多倫多大學和MIT教授，Healthy ML Lab負責人，她的Keynote和所有這些宏大敘事保持了距離，演講主題是《Taking the Pulse Of Ethical ML in Health 》（測量醫療中倫理機器學習的脈搏）。她放了一張胸部X光片。

視頻鏈接：https://icml.cc/virtual/2023/invited-talk/21544

她的實驗室用700萬張胸部X光片訓練了一個模型，要判斷病人是否“健康到可以回家”。準確率很高，State-of-the-art。然后她問：能部署嗎？答案是不能。因為在訓練數據里，“健康”這個標簽的分布是不均等的。有色人種患者更少被標記為“無異常”——不是因為他們客觀上更不健康，而是因為他們來急診室的時候通常已經病得更重。

這是幾十年的結構性不平等在數據中的投影。如果模型被部署，它會系統性地把更多數族裔患者留在急診室——而醫生們甚至不會意識到這件事在發生，因為模型在驗證集上表現得“很好”。

值得注意的是，同一次會議上，OpenAI的John Schulman正在講“RLHF中的代理目標”。一個講大模型對齊，一個講醫療模型不對齊。后者更不性感，但卻關乎現實的生命倫理。Ghassemi的演講揭示了一個殘酷的事實：在某些場景下，你連用來訓練“正確”標簽的數據都是錯的。不是模型本身的問題，是數據里的歷史已經替你做了道德選擇。

09

2024·維也納——Soumith Chintala：

開源不是慈善，是戰略

2024年，ICML終于回到維也納，距原定在此召開的2020年已過去四年。Soumith Chintala——PyTorch的締造者、Meta的VP，登臺了。

視頻鏈接：https://icml.cc/virtual/2024/invited-talk/35249

他的演講開場就拆了一個流行的敘事：開源不是在做好事。“讓你的互補品大眾化”（Commoditize your complement）他引用了這句著名的商業格言。如果開源對你的競爭對手的傷害遠大于對你的傷害，那就開源它。這不是道德，是利益計算。

他用六個角色畫出了開源爭議中的利益格局：學者缺算力卻不滿閉源廠商的訪問限制；大公司怕擔責又想蹭開源創新；AGI創業公司急著在錢燒完前做突破；垂直AI創業者不在乎開源反正領域窄；Reddit黑客想以崇高之名行破壞之實；普通人只想安靜用產品。每一方都在跑自己的多目標優化函數。

他的關鍵判斷是關于AGI時間線的：“如果你覺得AGI兩年內就會來，你對開放的態度自然會不一樣。”關于“智能何時到來”的假設，本身就是一個被忽視的意識形態變量，它直接決定了你關于“該做什么”的全部立場。Soumith的結論是“我毫無歉意地站在開放一邊”，理由不是道德優越感，而是他相信AGI還很遠，開放能加速一切。在充斥著崇高話語和末日修辭的AI討論里，有人承認自己的選擇源于一個可以被質疑的假設——這本身就構成了一種誠實。

10

2025·溫哥華——Anca Dragan：

獎勵函數究竟是誰寫的

Anca Dragan的演講標題是《What to optimize for – from robot arms to frontier AI 》（該優化什么——從機器人手臂到前沿AI）。她沒有給出一個答案。她給出的是一套分類法，將過去十年所有被忽視的追問收束為一個框架。

視頻鏈接：https://icml.cc/virtual/2025/invited-talk/39874

她把AI在目標上的失敗歸為三類。

第一類：人類反饋中的系統性偏差——標注者會無意識地偏好某種表達方式、某種政治立場，模型學會的不是“好”而是“標注者認為好”。Gopnik在2019年說“它不在乎真假”，但如果標注者也不知道什么是真的，你拿什么來訓練“在乎”？

第二類：覆蓋缺口——模型在訓練中沒有見過的場景，它的行為不可預測。Dawn Song在2018年展示的對抗樣本，本質上就是覆蓋缺口的武器化利用。你的“獎勵函數”還是你的嗎？

第三類：LLM評判者的脆弱性——當你用一個模型去評判另一個模型的輸出時，你引入了一個新的、同樣不透明的優化目標。Soumith在維也納說“沒有好用的評測指標”，正是這個問題的另一種表述。

Dragan把這些失敗放在貝葉斯逆向強化學習的框架下做了一個統一的闡釋。但她演講的真正力量不在技術細節，而在于她把過去十年ICML講臺上每一個孤立的追問——Silver對能力的信念、Gopnik對“智能”定義的質疑、Argall對權力分配的追問、Ghassemi對數據正義的揭露等等連成了一個完整的圖景。

她用一個不斷把杯子舉過頭頂的機器人機械臂，給出了結論：優化的目標不是給定的，它需要被發現、被協商、被持續修正。而最大的危險不是還沒找到正確答案，而是在現階段以為自己已經找到了。

11

結語

十年前，ICML的會場里回蕩著同一個野心：“我們還能讓算法做到什么？”

十年后，這個問題被錯綜復雜的現實撞擊，變成了更沉重的拷問：“我們究竟該讓機器做什么？為誰而做？由誰來定義規則？”

更準確地說，“以什么為代價，由誰來承擔后果？”

這十年的Keynote串在一起，構成了一條隱秘的思想史線索：從技術樂觀主義到安全覺醒，從“模型能做什么”到“模型該做什么”，從把人類當作一個可以被建模的噪聲源到把人類當作必須被納入循環的道德主體。智能從來不是一個技術概念，它是一個關于“什么值得做”的、根本上是人的問題。

文章開頭那部視頻里、那個不斷把杯子舉過頭頂的機器人，其實就是過去十年AI行業的絕佳隱喻。算法在它自己完美的數學邏輯里運轉得毫無瑕疵，卻在真實的人類世界里顯得如此執拗和笨拙。

在全行業真正弄清楚“人類的正確”到底是什么之前，那只機械臂，或許會在時間維度中，將杯子反復舉起。

一個人讀論文太孤單，一群人刷頂會才好玩。

ICML 2026召開在即，我們正在召集一波含金量極高的 AI 研究者。群內主打實時論文跟蹤與硬核技術探討，拒絕灌水。

進群傳送門：掃碼進群或添加微信Vin_Vivid，備注：論文群 + 關注的 AI 方向。

搞科研/搞技術，信息差很重要。

來，一起快人一步！

上車，帶你看遍全球 AI 頂會精華

可獨家暢覽：

專家演講PPT

大會報告全文

熱門論文解讀

學術新星訪談

未經「AI科技評論」授權，嚴禁以任何方式在網頁、論壇、社區進行轉載！

公眾號轉載請先在「AI科技評論」后臺留言取得授權，轉載時需標注來源并插入本公眾號名片。