![]()
換更大的模型就等于更聰明?
【導(dǎo)讀】換更大的模型就等于更聰明?這可能是Claude Code用戶最深的誤會。很多人為此一路換到最貴的Fable,近日,Anthropic,親手澄清了這個誤區(qū)。
你有沒有過這種時刻:Claude Code寫代碼寫砸了,第一反應(yīng),就是趕緊換個更強的模型。
但這一招,很多時候并不管用,甚至是在白花錢。
近日,Anthropic官方發(fā)了一篇長文專門來講這件事。
![]()
Anthropic官方長文
起因是太多人把Claude Code里的兩個選項搞混了:
一個是模型選擇(Model),一個是努力度(Effort)。
![]()
Anthropic官方長文
過去,大家對這兩個選項的理解都很簡單:換更大的模型,AI就更聰明;把Effort調(diào)高,無非是讓AI多想一會兒。
而就在今年3月,這個誤會還惹出了一場不小的混亂。
當(dāng)時,不少開發(fā)者發(fā)現(xiàn),手里的Claude Code突然「變笨」了。該讀的文件不讀,該跑的測試不跑,任務(wù)干到一半就撂挑子,反過來問你要更多信息。
于是,GitHub上罵聲一片。
最狠的一刀來自AMD的AI負(fù)責(zé)人Stella Laurenzo。
她在GitHub上翻出6852個會話的日志,實測Claude的思考量比2月之前掉了67%,撂下一句:
Claude已經(jīng)沒法被信任,去干復(fù)雜的工程活了。
![]()
Claude已經(jīng)沒法被信任
起初,大家還以為是自己的提示詞沒寫好,或者哪里配置錯了。折騰半天才恍然大悟:問題根本不在自己身上,是Anthropic悄悄改了一個設(shè)置。
3月4日,為了壓低延遲,他們把Claude Code里的Effort選項,默認(rèn)檔位從high降到了medium。
官方更新日志里也寫了,可大多數(shù)人并沒注意到,他們只是感覺到,手里的模型無緣無故好像變蠢了。
扛了一個月,Anthropic才在4月7日把默認(rèn)檔位調(diào)回去,還給所有訂閱用戶重置了一次用量額度。
而多數(shù)人這時才知道,這個開關(guān)一直就在自己手邊,它在暗中決定著:AI到底肯不肯為你滿血干活。
Model換的是腦子,Effort換的是態(tài)度
Anthropic官方的拆解,可以簡單總結(jié)為這樣一句話:
Model換的是腦子,Effort換的是態(tài)度。
先說Model,它換的是腦子。
每個模型背后是一套「凍結(jié)的權(quán)重」,它的能力和知識,在訓(xùn)練結(jié)束那一刻就被焊死了:只讀、不可改。
這意味著,你推理時喂進(jìn)去的提示詞、CLAUDE.md、貼進(jìn)上下文的代碼,全都改變不了它的這套權(quán)重:你可以引導(dǎo)它,卻沒法「訓(xùn)練」它。
換模型,本質(zhì)就是換一整套權(quán)重來接你的活,所以它解決的是「會不會」的問題。
一個在模型訓(xùn)練時還不存在的庫,你把文檔整篇喂給它,它能現(xiàn)學(xué)現(xiàn)用,可那只對這一次請求管用,模型本身一個字都沒記住,轉(zhuǎn)頭就忘。
它偶爾會一本正經(jīng)地調(diào)用一個根本不存在的API,也是同一個道理。那并非查漏了,是權(quán)重照著訓(xùn)練里的老套路,硬拼出一串東西。
再往底層看一眼,就更清楚了。你寫的const x = await fetch,在模型眼里先被切成一個個token,每個換成詞表里的一個數(shù)字。
![]()
圖源:Anthropic官方博文
你寫的一行代碼,被切成token后各自對應(yīng)詞表里的一個整數(shù):const是1078,await是2597,詞表約10萬個。模型拿到的從來不是文字,是這串?dāng)?shù)字。
模型不是一口氣吐出整段答案的。它一次只預(yù)測一個token,接上去,再把整串重新算一遍,預(yù)測下一個。一段兩百個token的回復(fù),就是兩百次完整的運算。
你等的時間、你燒的錢,大頭全在這個循環(huán)里。
再說Effort,更換的是「態(tài)度」。
很多人以為高Effort就是「多想幾秒」,錯了。
它管的是Claude在這次任務(wù)上到底投入多少工作量:讀幾個文件、跑不跑測試、要不要額外驗證、要不要把一個多步驟任務(wù)一路推到底再回來找你。
說白了:低Effort的Claude,傾向于快速回復(fù),然后反過來問你要更多上下文,能不動手就不動手;高Effort的Claude,傾向于自己去翻信息、多調(diào)幾次工具、一口氣把長任務(wù)鏈跑完。
Effort在Claude Code里分成好幾檔,別把它當(dāng)成一條死板的token預(yù)算線。
它是個行為信號,告訴Claude這活得干到多徹底、多有把握才算完,文本回復(fù)、工具調(diào)用、擴(kuò)展思考,全在它的管轄范圍里。
官方還放了一張示意圖:同一條prompt,高Effort能比低Effort多吐大約7倍的token。多出來的那些,全花在讀文件、跑驗證、反復(fù)確認(rèn)上了。
![]()
圖源:Anthropic官方博文
同一條prompt,高Effort路徑生成的token約為低Effort的7倍,多出的全花在讀文件、跑驗證、反復(fù)確認(rèn)上。
這里藏著一個反直覺的結(jié)論:小模型開高Effort,完全可能干翻大模型開低Effort。
不會,還是不夠努力
知道了分工,真正有用的,是官方給的那套判斷框架。
![]()
圖源:Anthropic官方博文
官方判斷框架:Claude做錯了,先問它是不夠聰明還是不夠努力,再決定換模型還是加Effort。
Claude干砸了,先別急著動模型選項。
第一步永遠(yuǎn)是回頭查上下文:prompt說清楚了嗎?該給的工具給了嗎?CLAUDE.md配對了嗎?大多數(shù)所謂「AI變笨」,根子都在這兒,不在模型選項上。
上下文確實沒問題、它還是錯,就問自己一句:它是不會,還是不夠努力?
「不夠努力」,很好判斷:該讀的文件跳過了、測試沒跑、重構(gòu)干到一半跑回來問你:它缺的不是腦子,是投入。
這是Effort的事,可以往上調(diào)一檔。
如果「不會」,則是另一種情形:你上下文給足了,它也明顯盡力了,可還是錯,換個說法再試一遍還是錯。
這時候任你怎么加Effort都白搭,這是模型的事:就要換更強的。
官方還打了個特別好懂的比方。
Sonnet,是個有一整個下午的全能選手。
它會把你的代碼從頭讀到尾,跑一遍、再驗一遍,最后是真把你這攤活兒吃透了。
Opus,是只給你五分鐘的專家。它帶來的是你代碼庫里壓根沒有的經(jīng)驗,見過的坑、該繞的雷,全是解過一堆同類問題攢下的直覺。可五分鐘就那么點時間,只夠它掃一眼,不能掃遍所有文件。
Fable,是所有人都卡住了才請得動的專科。哪怕只給五分鐘,它也能一眼揪出別人誰都沒看出的那處毛病。
當(dāng)然,這位專家每個token也最貴,得留給真正沒人能接的硬骨頭。
所以才有那個反常識的結(jié)論:
一個Sonnet開高Effort,在不少活兒上真能干過Opus開低Effort。小模型配上充足上下文和高投入,能扛下的事比你想象的要多得多。
![]()
圖源:Anthropic官方博文
長任務(wù)、多步驟活上,F(xiàn)able拉開最大差距,官方測試?yán)镉行┤蝿?wù)Opus和Sonnet開到任何Effort都夠不著。
卷完模型排行榜,給AI派活成了硬手藝
這篇官方解讀,表面上是教你調(diào)參,背后是一個重要的轉(zhuǎn)向:
AI編程的競爭,正在從「誰的模型更強」,轉(zhuǎn)向「誰更會調(diào)度智能體」。
過去很簡單,人挑一個最強的模型,剩下的全交給它。
現(xiàn)在不一樣了。你得像個項目經(jīng)理那樣,給不同的模型派不同的角色、定不同的投入檔位:
簡單的改動交給Sonnet掛低檔,秒回還省錢;大型重構(gòu)上強模型加高檔;要長時間自己跑的智能體任務(wù),強模型配足Effort。
這些操作,不僅能把活干得更好,省下來的,都是真金白銀的token賬單。
Claude Code的Effort菜單里多出的那檔ultracode,就是把這套「調(diào)度」做進(jìn)了產(chǎn)品。
選中它,Claude拿到的是xhigh的火力,外加一項授權(quán):遇到實質(zhì)性的活兒,自己掂量要不要拉起一支智能體隊伍,把任務(wù)拆下去并行干。
回頭看3月那場「變笨」風(fēng)波。
它能驚動整個社區(qū),恰恰因為大多數(shù)人還停在「換模型」的老思路里,對手邊這個更要命的Effort選項渾然不覺。
只看模型排行的時代正在過去,調(diào)度模型,正在成為核心手藝。
誰先學(xué)會給AI派活,誰就能搶先一步,用上那個真正肯為你賣力的Claude。否則,你手里再貴的模型,也只是一個更貴的搜索框。
這樣,你燒的每一分token,才算真花在了刀刃上。
參考資料:
https://claude.com/blog/claude-model-and-effort-level-in-claude-code
https://x.com/ClaudeDevs/status/2074900291062034618?s=20
https://platform.claude.com/docs/en/managed-agents/multi-agent
編輯:元宇
本文來自微信公眾號“新智元”,作者:ASI啟示錄,36氪經(jīng)授權(quán)發(fā)布。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.