北京
一項關于人類與聊天機器人互動方式的研究表明，讓大語言模型顯得更像人類的最快方法，不是讓它變得更聰明，而是讓它看起來更友善。
本周一發表的一項新研究《人類與大語言模型交互中的擬人化與信任》，分析了115名參與者產生的逾2000條人機交互記錄。研究人員系統性地調整了聊天機器人在熱情度、能力和共情感等維度上的表現，旨在找出究竟是什么驅使人們將這些系統視為具有自我意識的存在。
這一趨勢已然悄然興起。正如論文所指出的："用戶與這些系統交談，形成對其'個性'的印象，并在許多情況下將意圖或情感等內在狀態歸因于它們。"
研究結果顯示，這些印象對模型的自我呈現方式高度敏感。熱情度——也就是聊天機器人給人感覺有多友好、多親切——"顯著影響了用戶對大語言模型的所有感知維度"，包括擬人化程度、信任感、實用性、相似感、挫敗感以及親密感。相比之下，能力維度雖然同樣重要，但影響范圍更為有限：它"顯著影響了除擬人化以外的所有感知維度"。
能力維度的作用正如預期：讓系統顯得有用。用論文中的話說，它推動了與"把事情做對"相關的各項指標——信任感、實用性，以及讓用戶不想砸電腦的那種體驗。但它做不到的是讓模型感覺像個人。
這項任務落在了熱情度身上。一旦友好度提升，用戶開始將機器人視為某種擁有個性的存在，而非單純的軟件——盡管這種個性未必正面。研究人員指出，過度的友善若缺乏實質內容支撐，可能會滑向"表面上的順從討好"，委婉地說，就是開始聽起來很假。
共情層面的分析則更為細化。研究人員將其拆分為兩類：一類是模型似乎能理解用戶的意圖；另一類則是傾向于回應情感層面。前者在大多數結果中均有體現，而后者主要讓用戶感到與模型更親近，但并不真正改變他們的信任程度或對其實用性的判斷。
用戶提問的內容同樣有影響：研究發現，"主觀或具有個人意義的話題（如人際關系、生活方式）會增強參與者與大語言模型之間的連接感。"聊生物學或歷史，互動往往較為平淡；一旦話題轉向人際關系或日常生活，用戶的反應就會明顯不同。
但這種效應也有其陰暗面。正如論文作者所寫："擬人化歸因可以提升用戶參與度，但也可能導致過度信任以及對欺騙或操控的易感性。"一旦讓它聽起來足夠像人，用戶就會開始真的信以為真。
問題的關鍵在于：這一切并不需要模型本身變得更好。底層系統沒有任何改變，改變的只是它呈現自己的方式。提升熱情度，加入一點看似體貼的理解，用戶便會主動進行腦補，將本不存在或無從確認的意圖與能力投射其上。
如果你的目標是維持用戶的持續參與，這套方法相當奏效。但如果你希望用戶能根據系統是否真正準確來做出判斷，這種策略就沒什么幫助了。
Q&A
Q1：研究發現影響用戶擬人化感知大語言模型的最關鍵因素是什么？
A：研究發現，熱情度（即聊天機器人表現得有多友好、親切）是影響用戶擬人化感知的最關鍵因素。它顯著影響了用戶對大語言模型的所有感知維度，包括擬人化程度、信任感、實用性、親密感等。而能力維度雖然影響信任感和實用性，但不影響擬人化感知。簡單來說，讓模型"感覺像人"靠的不是更聰明，而是更友善。
Q2：聊天機器人過于友善會帶來什么風險？
A：研究指出，聊天機器人過度友善若缺乏實質內容支撐，容易顯得"表面順從討好"，讓用戶覺得虛假。更嚴重的是，擬人化感知增強后，用戶可能產生過度信任，進而對欺騙或操控變得更易受影響。用戶會主動"腦補"模型的意圖與能力，而這些并不一定真實存在。這意味著系統無需真正提升，只需調整表現方式，就能影響用戶的判斷。
Q3：話題類型會影響用戶與大語言模型的互動感受嗎？
A：會的。研究發現，當用戶與大語言模型討論主觀或具有個人意義的話題（如人際關系、生活方式）時，會明顯感受到更強的連接感。而討論生物學、歷史等客觀話題時，互動則相對平淡。這說明話題內容本身也是影響用戶感知的重要變量，個人化、情感化的對話更容易觸發用戶的擬人化反應。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
