AI也會「看人下菜」？Anthropic勾勒出了Claude的價值觀畫像

機器之心編輯部

同一個問題，換一種語言問 Claude，得到的可能不只是措辭不同的答案。

今天凌晨，Anthropic 最新研究發(fā)現(xiàn)，Claude 在不同模型、不同語言中，會表現(xiàn)出不同的價值取向。Sonnet 4.6 更溫暖，更愿意順應(yīng)用戶，也更簡潔。Opus 4.7 更嚴謹、更審慎，傾向于深入分析，也更愿意坦白自己的局限。

語言帶來的差異更加微妙。使用阿拉伯語時，Claude 更溫暖、更順應(yīng)用戶；換成英語，它會表現(xiàn)得更加審慎和嚴謹。印地語中的 Claude 最具溫度，俄語中的 Claude 最強調(diào)精確；荷蘭語中的 Claude 更坦誠，印度尼西亞語中的 Claude 則更重視直接完成任務(wù)。

這意味著，AI 的「性格」并非一套固定不變的參數(shù)。模型版本、訓(xùn)練方式、語料構(gòu)成乃至對話語言，都可能悄悄改變它判斷問題、提出建議和評價用戶的方式。

為了量化這種變化，Anthropic 從超過 30 萬段真實對話中提取價值信號，將 Claude 復(fù)雜的行為傾向壓縮為四條坐標軸：順應(yīng)與審慎、溫暖與嚴謹、深度與簡潔、坦誠與執(zhí)行。

由此，一張前所未有的 Claude「價值地圖」浮出水面。

以下為全文翻譯：

當(dāng)有人向 Claude 提出一個沒有普遍正確答案的問題，比如要不要接受一份新工作，或者該如何處理與朋友之間的沖突，Claude 給出的回答不可避免地會體現(xiàn)某些價值觀。

我們希望 Claude 體現(xiàn)的價值觀，已經(jīng)在《Claude 憲法》中作出了整體層面的說明。但每天都有數(shù)百萬段對話發(fā)生在 Claude.ai 上，任何一份文件都無法預(yù)先涵蓋其中可能出現(xiàn)的所有價值判斷。因此，我們希望培養(yǎng) Claude 具備「能夠結(jié)合具體情境加以運用的良好判斷力和可靠價值觀」。

我們究竟該如何研究 Claude 表達了哪些價值觀，以及這些價值觀在不同情境下會怎樣變化？在此前的研究中，Anthropic 分析了 70 萬段經(jīng)過匿名化處理的 Claude.ai 對話，從 Claude 的回答中識別出 3000 多種不同的價值觀，并統(tǒng)計了它們出現(xiàn)的頻率。然而，面對如此龐大的價值觀清單，人們很難從中進行有效分析。

在這項新研究中，Anthropic 將數(shù)千種價值觀壓縮為少數(shù)幾條坐標軸，用于捕捉 Claude 回答中的關(guān)鍵模式，從而讓研究變得可行。每條坐標軸都是連接兩組價值觀的一條數(shù)軸。例如，一端代表與情感溫度有關(guān)的價值觀，另一端代表與嚴謹性有關(guān)的價值觀。Claude 在數(shù)軸上的位置，可以反映它更傾向于表達哪一類價值觀。Anthropic 使用這種方法，衡量 Claude 所表達的價值觀如何隨兩個因素發(fā)生變化。

首先，研究團隊比較了不同模型之間的價值觀差異。每一代 Claude 模型采用的人格訓(xùn)練方式都略有不同，同時還包含大量不同的微調(diào)決策。由于價值軸方法能夠量化模型之間的關(guān)鍵差異，未來或許可以進一步將 Claude 價值取向的變化，與具體的訓(xùn)練決策聯(lián)系起來。

其次，研究團隊希望了解，當(dāng)人們使用不同語言與 Claude 交流時，獲得的體驗是否一致。Anthropic 此前的研究已經(jīng)表明，Claude 在不同語言中的行為存在一定差異。這項研究使用價值軸方法，分析 Claude.ai 上使用頻率最高的 20 種語言中，Claude 表達的價值觀如何變化。

圖 1：Claude 在 Opus 4.6 與 Opus 4.7 之間，以及在英語與阿拉伯語之間，表現(xiàn)出不同的價值取向。Opus 4.6 更傾向于表達順應(yīng)、嚴謹、簡潔和執(zhí)行導(dǎo)向的價值觀；Opus 4.7 則更傾向于表達審慎、嚴謹、深度和坦誠。在英語對話中，Claude 更偏向?qū)徤鳌乐敗⑸疃群吞拐\；在阿拉伯語對話中，它更偏向順應(yīng)、溫暖、簡潔和執(zhí)行。

主要發(fā)現(xiàn)如下：

四條關(guān)鍵價值軸能夠解釋 Claude 價值觀變化中的 15%：

• 順應(yīng)與審慎：Claude 更傾向于配合用戶的意愿，還是更注重防范潛在風(fēng)險和傷害。
• 溫暖與嚴謹：Claude 更傾向于表達積極態(tài)度和對用戶的關(guān)心，還是更強調(diào)準確性與精確性。
• 深度與簡潔：Claude 更傾向于進行深入解釋，還是只完成用戶明確提出的要求。
• 坦誠與執(zhí)行：Claude 更傾向于主動說明自身的不確定性，還是給出更加完整、自信和經(jīng)過打磨的答案。

不同模型在這些坐標軸上的價值畫像，與人們對模型性格的主觀感受基本一致。

Sonnet 4.6 通常被認為格外溫暖，Opus 4.7 則以嚴謹著稱。研究發(fā)現(xiàn)，各模型的價值畫像確實反映了這些評價。Sonnet 4.6 更傾向于順應(yīng)用戶，并表達情感溫度；Opus 4.7 則更強調(diào)準確性和精確性，也更注意防范模型被濫用。

Claude 表達的價值觀還會隨語言發(fā)生變化。當(dāng) Claude 使用英語時，所強調(diào)的價值觀與使用葡萄牙語、印度尼西亞語或中文時并不相同。其中，變化幅度最大的是「溫暖與嚴謹」軸。Claude 在阿拉伯語和印地語中最傾向于表達與溫暖相關(guān)的價值觀，在英語和俄語中則最強調(diào)嚴謹。

通過這種方法，Anthropic 可以開始追問，為什么 Claude 的價值觀會隨模型和語言發(fā)生變化，并更好地檢驗行為訓(xùn)練、文化語境等因素如何影響 Claude 表達出的價值取向。

如何理解龐大的價值觀空間

Anthropic 的最終目標，是建立一種能夠通過實證方式理解 Claude 所表達價值觀的方法，并觀察這些價值觀如何隨情境變化。

這項研究重點關(guān)注模型和語言帶來的差異。不過，在此前的 “Values in the Wild” 研究中，Anthropic 已經(jīng)從 Claude 的回答中識別出 3000 多種價值觀。逐一比較這些價值觀既不現(xiàn)實，也容易掩蓋更宏觀的變化趨勢。

為了降低比較難度，研究團隊構(gòu)建了一組價值軸。它們會根據(jù)不同價值觀在真實對話中共同出現(xiàn)的情況，將數(shù)千種價值觀壓縮為少數(shù)幾個底層維度。

例如，被認為具有「溫暖」特征的 Claude 回答，通常也會被認為具有 “鼓勵性” 和 “積極性”。與此同時，這些溫暖的回答較少被評價為「嚴謹」或「準確」。

構(gòu)建一條從溫暖到嚴謹?shù)膬r值軸，可以將這些相互關(guān)聯(lián)的價值觀組織起來。與溫暖有關(guān)的價值觀位于一端，與嚴謹有關(guān)的價值觀位于另一端。這條軸捕捉了 Claude 與用戶互動時的一個重要特征。

假如 Claude 在一段對話中表達了更多與溫暖相關(guān)的價值觀，這段對話就會落在價值軸上更靠近溫暖的一側(cè)；表達的嚴謹性價值觀更多時，則會落在另一側(cè)。

這并不意味著價值軸兩端的價值觀無法同時存在。Claude 完全可以在同一段對話中兼顧溫暖與嚴謹。不過在真實數(shù)據(jù)中，當(dāng) Claude 更多地表達一側(cè)的價值觀時，另一側(cè)的價值觀通常就會減少。

借助這些價值軸，研究人員無需持續(xù)追蹤數(shù)千個單獨的價值觀，也能比較 Claude 最顯著的價值傾向。

為了構(gòu)建價值軸，研究團隊首先使用了「Values in the Wild」研究中發(fā)現(xiàn)的 3307 種價值觀，并對含義相近的價值觀進行人工聚類，最終得到一份包含 339 種高層價值觀的精簡清單。

隨后，研究團隊使用隱私保護分析工具，對 309815 段 Claude.ai 對話進行抽樣。這些對話都有一個共同特征，即用戶向 Claude 提出了帶有主觀判斷性質(zhì)的任務(wù)。

樣本平均覆蓋三種模型，包括 Sonnet 4.6、Opus 4.6 和 Opus 4.7，同時覆蓋 Claude.ai 上使用頻率最高的 20 種語言。每一種 “模型與語言” 的組合大約包含 5000 段對話。

對于每一段對話，分析工具都會使用 Claude 判斷 339 種高層價值觀是否存在。研究團隊采用同樣的方式，識別用戶表達的價值觀，并標注對話的任務(wù)和主題。

在此基礎(chǔ)上，研究人員應(yīng)用了降維技術(shù)。該技術(shù)會根據(jù) Claude 經(jīng)常同時表達哪些價值觀，將標注結(jié)果壓縮成若干條價值軸。有關(guān)方法細節(jié)、提示詞、補充分析和研究局限，可參見論文附錄。

最終，研究團隊得到四條價值軸。它們捕捉了 Claude 所表達價值觀在不同對話之間變化的主要方式。

• 順應(yīng)與審慎軸：一端包含配合用戶、尊重用戶偏好等價值觀，另一端包含負責(zé)任的指導(dǎo)、減少傷害等價值觀。
• 溫暖與嚴謹軸：一端包含積極表達、鼓勵等價值觀，另一端包含準確性、透明度等價值觀。
• 深度與簡潔軸：一端包含細致分析、批判性思考等價值觀，另一端包含簡潔、遵循要求等價值觀。
• 坦誠與執(zhí)行軸：一端包含誠實、透明等價值觀，另一端包含結(jié)果導(dǎo)向、優(yōu)化等價值觀。

為了確保研究衡量的是 Claude 表達出的價值觀，而非用戶提出了什么問題或采用了怎樣的提問方式，研究團隊控制了每段對話的任務(wù)、主題和用戶所表達的價值觀。

圖 2：能夠解釋 Claude 價值觀主要變化的四條價值軸。每條軸都是連接兩組價值觀的一條數(shù)軸。每一種價值觀在軸上的位置，取決于它對該軸的貢獻相當(dāng)于平均貢獻的多少倍，其中貢獻最大的價值觀會被標注出來。大多數(shù)價值觀的貢獻低于平均水平，說明每條價值軸主要由少數(shù)關(guān)鍵價值觀驅(qū)動。

不同 Claude 模型是否擁有不同的價值畫像

這一部分比較不同模型表達的價值觀。

對于每一種模型，研究團隊都會計算該模型全部對話在四條價值軸上的平均位置，從而得到每條軸上的總體位置。由此形成一幅高層畫像，展示每一種模型比其他模型更傾向于表達哪些價值觀。

與不同對話之間的整體變化相比，模型之間的差異并不算大，但這些差異具有明確結(jié)構(gòu)，也能夠被檢測出來。

圖 3：各模型在四條價值軸上的平均位置，以及各自具有代表性的行為。圖中的位置以相對于全部對話均值的標準差表示。Sonnet 4.6 更溫暖、更順應(yīng)用戶，也更簡潔；Opus 4.7 更容易表現(xiàn)出嚴謹、審慎和深度；Opus 4.6 則更偏向嚴謹、順應(yīng)和簡潔。

為了觀察這些差異在實際對話中的表現(xiàn)，研究團隊進一步分析了模型分歧最大的具體價值觀。

每當(dāng)基于 Claude 構(gòu)建的隱私保護工具在一段對話中標注出某種價值觀時，它還會生成一段簡短描述，解釋 Claude 是如何表達這種價值觀的。研究人員將同一價值組中反映相似行為的描述歸類，并在圖 3 中進行總結(jié)，從而更具體地展示模型差異。

• 順應(yīng)與審慎。與審慎相比，Sonnet 4.6 最傾向于表現(xiàn)出順應(yīng)，經(jīng)常肯定用戶的想法和工作。Opus 4.7 最傾向于審慎，即使用戶沒有主動要求，它也經(jīng)常會提醒潛在風(fēng)險。
• 溫暖與嚴謹。Sonnet 4.6 最傾向于表達溫暖，經(jīng)常通過幽默、輕松的互動以及不帶評判的安慰來回應(yīng)用戶。相較于溫暖，Opus 4.7 更偏向嚴謹，更可能質(zhì)疑用戶的假設(shè)，并直接評價用戶工作中存在的問題。
• 深度與簡潔。Opus 4.7 傾向于通過展示結(jié)論背后的分析過程來體現(xiàn)深度。Opus 4.6 和 Sonnet 4.6 則更偏向簡潔，其中 Opus 4.6 尤其傾向于直奔主題。
• 坦誠與執(zhí)行。Opus 4.7 會主動說明自身局限，因此更偏向坦誠。Opus 4.6 則更偏向執(zhí)行，更可能嚴格停留在用戶請求的范圍內(nèi)。

這些結(jié)果與 Anthropic 內(nèi)部以及網(wǎng)絡(luò)用戶對不同模型的印象基本吻合。

一些 Claude.ai 用戶曾表示，Opus 4.7 比其他模型更經(jīng)常在答案中使用保留或緩和措辭。Anthropic 員工也認為，Opus 4.7 表現(xiàn)出更強的透明度、誠實和謙遜，Opus 4.6 則更加簡潔。

Anthropic 在 Sonnet 4.6 的發(fā)布博客中，也曾將其描述為溫暖、誠實且具有親社會傾向。

價值軸能夠重現(xiàn)這些主觀印象，說明這套用于標注和比較 Claude 價值觀的方法，確實捕捉到了模型真實行為中的某些特征。經(jīng)過多次對話后，用戶在使用不同 Claude 模型時，可能會接觸到不同的價值觀組合。

例如，Opus 4.7 傾向于直接批評用戶的工作，或者在沒有被要求的情況下提醒風(fēng)險；Sonnet 4.6 則更傾向于鼓勵用戶，并使用幽默的表達方式。

不同模型之間的價值觀差異，可能受到人格訓(xùn)練決策以及其他因素的影響。價值軸方法揭示了 Claude 模型之間的關(guān)鍵差異，未來或許能夠?qū)⑦@些差異進一步追溯至具體的訓(xùn)練選擇。

Claude 表達的價值觀是否會隨語言變化

研究團隊認為，Claude 表達的價值觀可能會隨著對話語言發(fā)生變化，原因有多個。

首先，Claude 在不同語言上的訓(xùn)練數(shù)據(jù)并不相同，這可能影響它表達出的價值觀。

其次，Anthropic 在模型系統(tǒng)卡中公布的評估結(jié)果已經(jīng)顯示，Claude 在不同語言中的知識水平，以及處理敏感請求的方式，都存在一定差異。

衡量 Claude 價值觀在不同語言中的變化程度，是判斷這些差異屬于合理變化，還是需要通過訓(xùn)練加以調(diào)整的第一步。

研究團隊使用與上一部分相同的方法，計算 Claude 在 Claude.ai 最常用的 20 種語言中的價值畫像。結(jié)果從 Claude 價值觀差異最大的語言開始排列。

圖 4：Claude 使用不同語言對話時，在四條價值軸上的平均位置及代表性行為。圖中的位置以相對于全部對話平均值的標準差表示。Claude 在印地語中最偏向溫暖，在俄語中最偏向嚴謹；在印度尼西亞語中最偏向執(zhí)行，在荷蘭語中最偏向坦誠；在阿拉伯語中最偏向順應(yīng)和簡潔，在英語中最偏向?qū)徤骱蜕疃取?/p>

Claude 在不同語言中的價值表達，在「溫暖與嚴謹」和「坦誠與執(zhí)行」兩條軸上變化最大；在「順應(yīng)與審慎」和「深度與簡潔」兩條軸上則相對穩(wěn)定。

• 順應(yīng)與審慎。Claude 在阿拉伯語中最傾向于順應(yīng)用戶，在英語中最傾向于審慎。
• 溫暖與嚴謹。Claude 在印地語和阿拉伯語中最傾向于表達溫暖，具體表現(xiàn)包括使用禮貌語言、幽默和輕松的表達方式，以及肯定用戶的想法和工作。
• Claude 在英語和俄語中最傾向于嚴謹，具體表現(xiàn)包括質(zhì)疑假設(shè)、糾正細節(jié)和要求提供證據(jù)。
• 深度與簡潔。Claude 在英語中更傾向于深入分析，會完善和糾正細節(jié)；在阿拉伯語中則更傾向于簡潔。
• 坦誠與執(zhí)行。Claude 在荷蘭語中更偏向坦誠，會主動承認自己的錯誤；在印度尼西亞語中則更偏向執(zhí)行。

綜合來看，這些結(jié)果表明，Claude 表達出的價值觀會隨著對話語言發(fā)生顯著變化。

面對同一種請求，Claude 在某些語言中更偏向溫暖和順應(yīng)，在另一些語言中更偏向嚴謹和審慎。這一現(xiàn)象可能產(chǎn)生重要影響，而相關(guān)研究目前才剛剛開始。

舉例來說，兩個人針對同一份商業(yè)計劃向 Claude 征求意見，其中一人使用印地語，另一人使用俄語。由于 Claude 在評價過程中采用了不同的價值取向和表達框架，兩人最終可能會對這份商業(yè)計劃的質(zhì)量形成不同印象。

Anthropic 目前還不清楚，訓(xùn)練數(shù)據(jù)中的哪些特征造成了這些差異。

一種可能性在于，訓(xùn)練數(shù)據(jù)在不同語言之間分布不均。有些語言的數(shù)據(jù)遠多于其他語言。在數(shù)據(jù)更加豐富的語言中，讓 Claude 穩(wěn)定表達一致價值觀的訓(xùn)練可能更加有效。

不同語言的數(shù)據(jù)構(gòu)成也存在差異。例如，某些語言的訓(xùn)練數(shù)據(jù)中，專業(yè)寫作可能占據(jù)更高比例，而這類文本本身可能體現(xiàn)不同的價值取向。數(shù)據(jù)數(shù)量和構(gòu)成上的不平衡，可能共同導(dǎo)致 Claude 在不同語言中表達出不同的價值觀。

研究團隊目前也不確定，這些變化在多大程度上是合理的。

不同語言有各自的對話規(guī)范，Claude 可能正根據(jù)這些規(guī)范調(diào)整自己表達的價值觀。Claude 在某些語言中的行為也可能更加接近 Anthropic 設(shè)定的目標，而在其他語言中存在更大偏差，進而導(dǎo)致 Claude 服務(wù)不同語言群體的效果不一致。

這套方法可以幫助研究人員逐步厘清，訓(xùn)練數(shù)據(jù)中的哪些屬性造成了這些差異，以及這些變化是否符合預(yù)期。

展望未來

這項研究表明，Claude 表達的價值觀可以壓縮為少數(shù)幾條價值軸，而且 Claude 在這些軸上的位置會隨模型和語言發(fā)生變化。研究人員因此獲得了一種新方法，可以在模型評估和部署后監(jiān)測中持續(xù)追蹤這些變化。

不過，Anthropic 目前仍不清楚這些變化為什么會出現(xiàn)，以及它們對 Claude 用戶意味著什么。以下是研究團隊認為最值得探索的幾個方向。

這些價值差異來自哪里？

知道 Claude 的價值觀會隨模型和語言變化，并不能解釋變化產(chǎn)生的原因。部分差異可能來自不同語言在預(yù)訓(xùn)練和微調(diào)數(shù)據(jù)上的區(qū)別。四條價值軸指出了訓(xùn)練數(shù)據(jù)中值得進一步研究的具體價值差異。

假如能夠?qū)⑦@些差異追溯到特定數(shù)據(jù)、訓(xùn)練階段或情境因素，研究人員就能判斷，在需要更細致地塑造 Claude 行為時，應(yīng)當(dāng)從哪些環(huán)節(jié)介入。

這些差異對用戶意味著什么？

研究團隊已經(jīng)測量出 Claude 會以不同方式表達哪些價值觀，也分析了相關(guān)行為，但還沒有測量這些行為會給用戶帶來怎樣的影響。

借助 Anthropic Interviewer 等工具，研究人員可以詢問用戶的主觀感受、對 Claude 的信任程度，或者 Claude 所作判斷的質(zhì)量，再將這些結(jié)果與 Claude 表達的價值觀進行關(guān)聯(lián)分析。

這將幫助研究人員直接建立價值差異與用戶結(jié)果之間的聯(lián)系，并優(yōu)先修正那些會對用戶產(chǎn)生實質(zhì)影響的問題。

Claude 的價值觀應(yīng)該如何隨語言變化？

《Claude 憲法》描述了 Claude 應(yīng)當(dāng)表達的核心價值觀，包括溫暖、審慎和誠實，但沒有規(guī)定這些價值觀在不同語言中應(yīng)該如何變化。研究結(jié)果顯示，使用不同語言的用戶已經(jīng)在獲得不同的 Claude 體驗，但 Anthropic 尚不清楚，使用這些語言的用戶究竟期待怎樣的差異。

要確定 Claude 的價值觀應(yīng)該如何隨語言變化，需要理解并權(quán)衡不同語言使用者的觀點。

還有哪些因素會影響 Claude 表達的價值觀？

語言和模型很可能不是影響 Claude 價值表達的全部因素。年齡、職業(yè)或地理區(qū)域等人口統(tǒng)計信號，也可能塑造 Claude 所表達的價值觀。這些信號可能來自用戶在文字中的明確說明，也可能隱藏在與用戶身份相關(guān)的主題、語氣和表達風(fēng)格中。

理解哪些信號會產(chǎn)生影響，以及由此形成的變化是否真正有利于用戶，是這套研究方法帶來的下一步研究方向。

能否可靠地引導(dǎo) Claude 表達特定價值觀？

當(dāng)研究人員能夠測量模型的價值畫像后，一個自然的問題隨之出現(xiàn)：人們能夠在多大程度上可靠地引導(dǎo) Claude 表達某些價值觀？

一種可能的測試方法，是通過調(diào)整人格訓(xùn)練方式或修改系統(tǒng)提示詞來引導(dǎo)模型，再利用價值軸方法驗證 Claude 表達的價值觀是否按照預(yù)期發(fā)生變化。

價值畫像能否成為模型評估和監(jiān)測的一部分？

價值軸方法提供了一種簡單方式，可以概括模型在開放式對話中的行為傾向，因此有望被納入模型評估流程。

在模型發(fā)布前和發(fā)布后進行價值畫像分析，可以幫助研究人員發(fā)現(xiàn) Claude 價值表達中意料之外的變化。

研究團隊還可以尋找價值畫像與問題行為之間的相關(guān)性，例如模型沒有遵循《Claude 憲法》，并利用這些發(fā)現(xiàn)進一步改善 Claude 的行為。Claude 每天都會在數(shù)百萬段對話中表達價值觀，覆蓋數(shù)十種語言。

此前，這些價值觀可以通過訓(xùn)練加以塑造，卻很難在模型部署后被可靠地觀察。如今，借助新的測量方法，研究人員已經(jīng)看到，Claude 表達的價值觀會以一些并非人為刻意選擇的方式發(fā)生變化。人們也可以進一步研究這些變化產(chǎn)生的原因，以及它們是否真正服務(wù)于用戶。

理解這些變化，并判斷應(yīng)該如何應(yīng)對，將成為 Anthropic 接下來持續(xù)推進的工作。

原文地址：https://www.anthropic.com/research/claude-values-models-languages