AI也會「看人下菜」？Anthropic勾勒出了Claude的價值觀畫像

機器之心編輯部

同一個問題，換一種語言問 Claude，得到的可能不只是措辭不同的答案。

今天凌晨，Anthropic 最新研究發現，Claude 在不同模型、不同語言中，會表現出不同的價值取向。Sonnet 4.6 更溫暖，更愿意順應用戶，也更簡潔。Opus 4.7 更嚴謹、更審慎，傾向于深入分析，也更愿意坦白自己的局限。

語言帶來的差異更加微妙。使用阿拉伯語時，Claude 更溫暖、更順應用戶；換成英語，它會表現得更加審慎和嚴謹。印地語中的 Claude 最具溫度，俄語中的 Claude 最強調精確；荷蘭語中的 Claude 更坦誠，印度尼西亞語中的 Claude 則更重視直接完成任務。

這意味著，AI 的「性格」并非一套固定不變的參數。模型版本、訓練方式、語料構成乃至對話語言，都可能悄悄改變它判斷問題、提出建議和評價用戶的方式。

為了量化這種變化，Anthropic 從超過 30 萬段真實對話中提取價值信號，將 Claude 復雜的行為傾向壓縮為四條坐標軸：順應與審慎、溫暖與嚴謹、深度與簡潔、坦誠與執行。

由此，一張前所未有的 Claude「價值地圖」浮出水面。

以下為全文翻譯：

當有人向 Claude 提出一個沒有普遍正確答案的問題，比如要不要接受一份新工作，或者該如何處理與朋友之間的沖突，Claude 給出的回答不可避免地會體現某些價值觀。

我們希望 Claude 體現的價值觀，已經在《Claude 憲法》中作出了整體層面的說明。但每天都有數百萬段對話發生在 Claude.ai 上，任何一份文件都無法預先涵蓋其中可能出現的所有價值判斷。因此，我們希望培養 Claude 具備「能夠結合具體情境加以運用的良好判斷力和可靠價值觀」。

我們究竟該如何研究 Claude 表達了哪些價值觀，以及這些價值觀在不同情境下會怎樣變化？在此前的研究中，Anthropic 分析了 70 萬段經過匿名化處理的 Claude.ai 對話，從 Claude 的回答中識別出 3000 多種不同的價值觀，并統計了它們出現的頻率。然而，面對如此龐大的價值觀清單，人們很難從中進行有效分析。

在這項新研究中，Anthropic 將數千種價值觀壓縮為少數幾條坐標軸，用于捕捉 Claude 回答中的關鍵模式，從而讓研究變得可行。每條坐標軸都是連接兩組價值觀的一條數軸。例如，一端代表與情感溫度有關的價值觀，另一端代表與嚴謹性有關的價值觀。Claude 在數軸上的位置，可以反映它更傾向于表達哪一類價值觀。Anthropic 使用這種方法，衡量 Claude 所表達的價值觀如何隨兩個因素發生變化。

首先，研究團隊比較了不同模型之間的價值觀差異。每一代 Claude 模型采用的人格訓練方式都略有不同，同時還包含大量不同的微調決策。由于價值軸方法能夠量化模型之間的關鍵差異，未來或許可以進一步將 Claude 價值取向的變化，與具體的訓練決策聯系起來。

其次，研究團隊希望了解，當人們使用不同語言與 Claude 交流時，獲得的體驗是否一致。Anthropic 此前的研究已經表明，Claude 在不同語言中的行為存在一定差異。這項研究使用價值軸方法，分析 Claude.ai 上使用頻率最高的 20 種語言中，Claude 表達的價值觀如何變化。

圖 1：Claude 在 Opus 4.6 與 Opus 4.7 之間，以及在英語與阿拉伯語之間，表現出不同的價值取向。Opus 4.6 更傾向于表達順應、嚴謹、簡潔和執行導向的價值觀；Opus 4.7 則更傾向于表達審慎、嚴謹、深度和坦誠。在英語對話中，Claude 更偏向審慎、嚴謹、深度和坦誠；在阿拉伯語對話中，它更偏向順應、溫暖、簡潔和執行。

主要發現如下：

四條關鍵價值軸能夠解釋 Claude 價值觀變化中的 15%：

• 順應與審慎：Claude 更傾向于配合用戶的意愿，還是更注重防范潛在風險和傷害。
• 溫暖與嚴謹：Claude 更傾向于表達積極態度和對用戶的關心，還是更強調準確性與精確性。
• 深度與簡潔：Claude 更傾向于進行深入解釋，還是只完成用戶明確提出的要求。
• 坦誠與執行：Claude 更傾向于主動說明自身的不確定性，還是給出更加完整、自信和經過打磨的答案。

不同模型在這些坐標軸上的價值畫像，與人們對模型性格的主觀感受基本一致。

Sonnet 4.6 通常被認為格外溫暖，Opus 4.7 則以嚴謹著稱。研究發現，各模型的價值畫像確實反映了這些評價。Sonnet 4.6 更傾向于順應用戶，并表達情感溫度；Opus 4.7 則更強調準確性和精確性，也更注意防范模型被濫用。

Claude 表達的價值觀還會隨語言發生變化。當 Claude 使用英語時，所強調的價值觀與使用葡萄牙語、印度尼西亞語或中文時并不相同。其中，變化幅度最大的是「溫暖與嚴謹」軸。Claude 在阿拉伯語和印地語中最傾向于表達與溫暖相關的價值觀，在英語和俄語中則最強調嚴謹。

通過這種方法，Anthropic 可以開始追問，為什么 Claude 的價值觀會隨模型和語言發生變化，并更好地檢驗行為訓練、文化語境等因素如何影響 Claude 表達出的價值取向。

如何理解龐大的價值觀空間

Anthropic 的最終目標，是建立一種能夠通過實證方式理解 Claude 所表達價值觀的方法，并觀察這些價值觀如何隨情境變化。

這項研究重點關注模型和語言帶來的差異。不過，在此前的 “Values in the Wild” 研究中，Anthropic 已經從 Claude 的回答中識別出 3000 多種價值觀。逐一比較這些價值觀既不現實，也容易掩蓋更宏觀的變化趨勢。

為了降低比較難度，研究團隊構建了一組價值軸。它們會根據不同價值觀在真實對話中共同出現的情況，將數千種價值觀壓縮為少數幾個底層維度。

例如，被認為具有「溫暖」特征的 Claude 回答，通常也會被認為具有 “鼓勵性” 和 “積極性”。與此同時，這些溫暖的回答較少被評價為「嚴謹」或「準確」。

構建一條從溫暖到嚴謹的價值軸，可以將這些相互關聯的價值觀組織起來。與溫暖有關的價值觀位于一端，與嚴謹有關的價值觀位于另一端。這條軸捕捉了 Claude 與用戶互動時的一個重要特征。

假如 Claude 在一段對話中表達了更多與溫暖相關的價值觀，這段對話就會落在價值軸上更靠近溫暖的一側；表達的嚴謹性價值觀更多時，則會落在另一側。

這并不意味著價值軸兩端的價值觀無法同時存在。Claude 完全可以在同一段對話中兼顧溫暖與嚴謹。不過在真實數據中，當 Claude 更多地表達一側的價值觀時，另一側的價值觀通常就會減少。

借助這些價值軸，研究人員無需持續追蹤數千個單獨的價值觀，也能比較 Claude 最顯著的價值傾向。

為了構建價值軸，研究團隊首先使用了「Values in the Wild」研究中發現的 3307 種價值觀，并對含義相近的價值觀進行人工聚類，最終得到一份包含 339 種高層價值觀的精簡清單。

隨后，研究團隊使用隱私保護分析工具，對 309815 段 Claude.ai 對話進行抽樣。這些對話都有一個共同特征，即用戶向 Claude 提出了帶有主觀判斷性質的任務。

樣本平均覆蓋三種模型，包括 Sonnet 4.6、Opus 4.6 和 Opus 4.7，同時覆蓋 Claude.ai 上使用頻率最高的 20 種語言。每一種 “模型與語言” 的組合大約包含 5000 段對話。

對于每一段對話，分析工具都會使用 Claude 判斷 339 種高層價值觀是否存在。研究團隊采用同樣的方式，識別用戶表達的價值觀，并標注對話的任務和主題。

在此基礎上，研究人員應用了降維技術。該技術會根據 Claude 經常同時表達哪些價值觀，將標注結果壓縮成若干條價值軸。有關方法細節、提示詞、補充分析和研究局限，可參見論文附錄。

最終，研究團隊得到四條價值軸。它們捕捉了 Claude 所表達價值觀在不同對話之間變化的主要方式。

• 順應與審慎軸：一端包含配合用戶、尊重用戶偏好等價值觀，另一端包含負責任的指導、減少傷害等價值觀。
• 溫暖與嚴謹軸：一端包含積極表達、鼓勵等價值觀，另一端包含準確性、透明度等價值觀。
• 深度與簡潔軸：一端包含細致分析、批判性思考等價值觀，另一端包含簡潔、遵循要求等價值觀。
• 坦誠與執行軸：一端包含誠實、透明等價值觀，另一端包含結果導向、優化等價值觀。

為了確保研究衡量的是 Claude 表達出的價值觀，而非用戶提出了什么問題或采用了怎樣的提問方式，研究團隊控制了每段對話的任務、主題和用戶所表達的價值觀。

圖 2：能夠解釋 Claude 價值觀主要變化的四條價值軸。每條軸都是連接兩組價值觀的一條數軸。每一種價值觀在軸上的位置，取決于它對該軸的貢獻相當于平均貢獻的多少倍，其中貢獻最大的價值觀會被標注出來。大多數價值觀的貢獻低于平均水平，說明每條價值軸主要由少數關鍵價值觀驅動。

不同 Claude 模型是否擁有不同的價值畫像

這一部分比較不同模型表達的價值觀。

對于每一種模型，研究團隊都會計算該模型全部對話在四條價值軸上的平均位置，從而得到每條軸上的總體位置。由此形成一幅高層畫像，展示每一種模型比其他模型更傾向于表達哪些價值觀。

與不同對話之間的整體變化相比，模型之間的差異并不算大，但這些差異具有明確結構，也能夠被檢測出來。

圖 3：各模型在四條價值軸上的平均位置，以及各自具有代表性的行為。圖中的位置以相對于全部對話均值的標準差表示。Sonnet 4.6 更溫暖、更順應用戶，也更簡潔；Opus 4.7 更容易表現出嚴謹、審慎和深度；Opus 4.6 則更偏向嚴謹、順應和簡潔。

為了觀察這些差異在實際對話中的表現，研究團隊進一步分析了模型分歧最大的具體價值觀。

每當基于 Claude 構建的隱私保護工具在一段對話中標注出某種價值觀時，它還會生成一段簡短描述，解釋 Claude 是如何表達這種價值觀的。研究人員將同一價值組中反映相似行為的描述歸類，并在圖 3 中進行總結，從而更具體地展示模型差異。

• 順應與審慎。與審慎相比，Sonnet 4.6 最傾向于表現出順應，經?？隙ㄓ脩舻南敕ê凸ぷ鳌pus 4.7 最傾向于審慎，即使用戶沒有主動要求，它也經常會提醒潛在風險。
• 溫暖與嚴謹。Sonnet 4.6 最傾向于表達溫暖，經常通過幽默、輕松的互動以及不帶評判的安慰來回應用戶。相較于溫暖，Opus 4.7 更偏向嚴謹，更可能質疑用戶的假設，并直接評價用戶工作中存在的問題。
• 深度與簡潔。Opus 4.7 傾向于通過展示結論背后的分析過程來體現深度。Opus 4.6 和 Sonnet 4.6 則更偏向簡潔，其中 Opus 4.6 尤其傾向于直奔主題。
• 坦誠與執行。Opus 4.7 會主動說明自身局限，因此更偏向坦誠。Opus 4.6 則更偏向執行，更可能嚴格停留在用戶請求的范圍內。

這些結果與 Anthropic 內部以及網絡用戶對不同模型的印象基本吻合。

一些 Claude.ai 用戶曾表示，Opus 4.7 比其他模型更經常在答案中使用保留或緩和措辭。Anthropic 員工也認為，Opus 4.7 表現出更強的透明度、誠實和謙遜，Opus 4.6 則更加簡潔。

Anthropic 在 Sonnet 4.6 的發布博客中，也曾將其描述為溫暖、誠實且具有親社會傾向。

價值軸能夠重現這些主觀印象，說明這套用于標注和比較 Claude 價值觀的方法，確實捕捉到了模型真實行為中的某些特征。經過多次對話后，用戶在使用不同 Claude 模型時，可能會接觸到不同的價值觀組合。

例如，Opus 4.7 傾向于直接批評用戶的工作，或者在沒有被要求的情況下提醒風險；Sonnet 4.6 則更傾向于鼓勵用戶，并使用幽默的表達方式。

不同模型之間的價值觀差異，可能受到人格訓練決策以及其他因素的影響。價值軸方法揭示了 Claude 模型之間的關鍵差異，未來或許能夠將這些差異進一步追溯至具體的訓練選擇。

Claude 表達的價值觀是否會隨語言變化

研究團隊認為，Claude 表達的價值觀可能會隨著對話語言發生變化，原因有多個。

首先，Claude 在不同語言上的訓練數據并不相同，這可能影響它表達出的價值觀。

其次，Anthropic 在模型系統卡中公布的評估結果已經顯示，Claude 在不同語言中的知識水平，以及處理敏感請求的方式，都存在一定差異。

衡量 Claude 價值觀在不同語言中的變化程度，是判斷這些差異屬于合理變化，還是需要通過訓練加以調整的第一步。

研究團隊使用與上一部分相同的方法，計算 Claude 在 Claude.ai 最常用的 20 種語言中的價值畫像。結果從 Claude 價值觀差異最大的語言開始排列。

圖 4：Claude 使用不同語言對話時，在四條價值軸上的平均位置及代表性行為。圖中的位置以相對于全部對話平均值的標準差表示。Claude 在印地語中最偏向溫暖，在俄語中最偏向嚴謹；在印度尼西亞語中最偏向執行，在荷蘭語中最偏向坦誠；在阿拉伯語中最偏向順應和簡潔，在英語中最偏向審慎和深度。

Claude 在不同語言中的價值表達，在「溫暖與嚴謹」和「坦誠與執行」兩條軸上變化最大；在「順應與審慎」和「深度與簡潔」兩條軸上則相對穩定。

• 順應與審慎。Claude 在阿拉伯語中最傾向于順應用戶，在英語中最傾向于審慎。
• 溫暖與嚴謹。Claude 在印地語和阿拉伯語中最傾向于表達溫暖，具體表現包括使用禮貌語言、幽默和輕松的表達方式，以及肯定用戶的想法和工作。
• Claude 在英語和俄語中最傾向于嚴謹，具體表現包括質疑假設、糾正細節和要求提供證據。
• 深度與簡潔。Claude 在英語中更傾向于深入分析，會完善和糾正細節；在阿拉伯語中則更傾向于簡潔。
• 坦誠與執行。Claude 在荷蘭語中更偏向坦誠，會主動承認自己的錯誤；在印度尼西亞語中則更偏向執行。

綜合來看，這些結果表明，Claude 表達出的價值觀會隨著對話語言發生顯著變化。

面對同一種請求，Claude 在某些語言中更偏向溫暖和順應，在另一些語言中更偏向嚴謹和審慎。這一現象可能產生重要影響，而相關研究目前才剛剛開始。

舉例來說，兩個人針對同一份商業計劃向 Claude 征求意見，其中一人使用印地語，另一人使用俄語。由于 Claude 在評價過程中采用了不同的價值取向和表達框架，兩人最終可能會對這份商業計劃的質量形成不同印象。

Anthropic 目前還不清楚，訓練數據中的哪些特征造成了這些差異。

一種可能性在于，訓練數據在不同語言之間分布不均。有些語言的數據遠多于其他語言。在數據更加豐富的語言中，讓 Claude 穩定表達一致價值觀的訓練可能更加有效。

不同語言的數據構成也存在差異。例如，某些語言的訓練數據中，專業寫作可能占據更高比例，而這類文本本身可能體現不同的價值取向。數據數量和構成上的不平衡，可能共同導致 Claude 在不同語言中表達出不同的價值觀。

研究團隊目前也不確定，這些變化在多大程度上是合理的。

不同語言有各自的對話規范，Claude 可能正根據這些規范調整自己表達的價值觀。Claude 在某些語言中的行為也可能更加接近 Anthropic 設定的目標，而在其他語言中存在更大偏差，進而導致 Claude 服務不同語言群體的效果不一致。

這套方法可以幫助研究人員逐步厘清，訓練數據中的哪些屬性造成了這些差異，以及這些變化是否符合預期。

展望未來

這項研究表明，Claude 表達的價值觀可以壓縮為少數幾條價值軸，而且 Claude 在這些軸上的位置會隨模型和語言發生變化。研究人員因此獲得了一種新方法，可以在模型評估和部署后監測中持續追蹤這些變化。

不過，Anthropic 目前仍不清楚這些變化為什么會出現，以及它們對 Claude 用戶意味著什么。以下是研究團隊認為最值得探索的幾個方向。

這些價值差異來自哪里？

知道 Claude 的價值觀會隨模型和語言變化，并不能解釋變化產生的原因。部分差異可能來自不同語言在預訓練和微調數據上的區別。四條價值軸指出了訓練數據中值得進一步研究的具體價值差異。

假如能夠將這些差異追溯到特定數據、訓練階段或情境因素，研究人員就能判斷，在需要更細致地塑造 Claude 行為時，應當從哪些環節介入。

這些差異對用戶意味著什么？

研究團隊已經測量出 Claude 會以不同方式表達哪些價值觀，也分析了相關行為，但還沒有測量這些行為會給用戶帶來怎樣的影響。

借助 Anthropic Interviewer 等工具，研究人員可以詢問用戶的主觀感受、對 Claude 的信任程度，或者 Claude 所作判斷的質量，再將這些結果與 Claude 表達的價值觀進行關聯分析。

這將幫助研究人員直接建立價值差異與用戶結果之間的聯系，并優先修正那些會對用戶產生實質影響的問題。

Claude 的價值觀應該如何隨語言變化？

《Claude 憲法》描述了 Claude 應當表達的核心價值觀，包括溫暖、審慎和誠實，但沒有規定這些價值觀在不同語言中應該如何變化。研究結果顯示，使用不同語言的用戶已經在獲得不同的 Claude 體驗，但 Anthropic 尚不清楚，使用這些語言的用戶究竟期待怎樣的差異。

要確定 Claude 的價值觀應該如何隨語言變化，需要理解并權衡不同語言使用者的觀點。

還有哪些因素會影響 Claude 表達的價值觀？

語言和模型很可能不是影響 Claude 價值表達的全部因素。年齡、職業或地理區域等人口統計信號，也可能塑造 Claude 所表達的價值觀。這些信號可能來自用戶在文字中的明確說明，也可能隱藏在與用戶身份相關的主題、語氣和表達風格中。

理解哪些信號會產生影響，以及由此形成的變化是否真正有利于用戶，是這套研究方法帶來的下一步研究方向。

能否可靠地引導 Claude 表達特定價值觀？

當研究人員能夠測量模型的價值畫像后，一個自然的問題隨之出現：人們能夠在多大程度上可靠地引導 Claude 表達某些價值觀？

一種可能的測試方法，是通過調整人格訓練方式或修改系統提示詞來引導模型，再利用價值軸方法驗證 Claude 表達的價值觀是否按照預期發生變化。

價值畫像能否成為模型評估和監測的一部分？

價值軸方法提供了一種簡單方式，可以概括模型在開放式對話中的行為傾向，因此有望被納入模型評估流程。

在模型發布前和發布后進行價值畫像分析，可以幫助研究人員發現 Claude 價值表達中意料之外的變化。

研究團隊還可以尋找價值畫像與問題行為之間的相關性，例如模型沒有遵循《Claude 憲法》，并利用這些發現進一步改善 Claude 的行為。Claude 每天都會在數百萬段對話中表達價值觀，覆蓋數十種語言。

此前，這些價值觀可以通過訓練加以塑造，卻很難在模型部署后被可靠地觀察。如今，借助新的測量方法，研究人員已經看到，Claude 表達的價值觀會以一些并非人為刻意選擇的方式發生變化。人們也可以進一步研究這些變化產生的原因，以及它們是否真正服務于用戶。

理解這些變化，并判斷應該如何應對，將成為 Anthropic 接下來持續推進的工作。

原文地址：https://www.anthropic.com/research/claude-values-models-languages