AI好不好用，不只看智商，還看“性格”

AI好不好用，不只看它聰不聰明，還看它“性格”好不好。研究發現，當AI表現出敵意時，員工壓力飆升、工作質量下降；而一個諂媚的AI，永遠附和、急于討好，同樣有害。AI的互動風格正在成為影響組織績效的隱藏變量。

你公司剛剛上線的AI，最重要的可能不是它有多聰明，而是它怎么跟人說話。高層幾乎沒人去衡量這一點——但我們的研究表明，他們應該這么做。許多領導者還在用IT部門當年評估數據庫的老辦法來評估AI：看能力、看速度、看成本。但還有一個因素對績效的影響可能同樣大：AI的性格和說話方式。

這一點之所以重要，是因為員工不再僅僅使用AI來完成任務。他們越來越多地花費時間來管理系統本身。AI能否改善組織績效，不僅取決于它能做什么，還取決于它在日常協作中的行為方式。而這種行為，是組織可以設計和治理的。

AI的性格如何影響用戶

在最原始的設計理念中，AI（尤其是生成式AI）扮演的是一個輔助支持系統：響應迅速、順從聽話，一心幫著人類完成任務。但隨著這些系統變得越來越自主、越來越深地嵌入工作流程，員工開始把它們當作隊友、評估者，有時候甚至像半個領導。到了這一步，系統跟人打交道的方式就開始變得重要了。因為生成式AI是概率性回應的，它的行為沒辦法完全靠規則來規定——不管設計者有沒有這個意圖，固定的互動模式都會自己冒出來。用戶會把這種模式理解為一種“性格”：支持型、謹慎型、愛答不理型，或者專門添堵型。

為了搞清楚AI的性格會怎樣影響人的反應，我們做了一項有58人參加的受控實驗室研究。我們用兩種方法實時追蹤每個人的身體反應。一種是測皮膚電導——也就是跟情緒喚醒水平有關的皮膚電活動（跟測謊儀抓的信號是同一個東西）。另一種是用面部肌電圖，測面部肌肉收縮時產生的微小電脈沖，能捕捉到皺眉（負面情緒）和微笑（正面情緒）。

我們還分析了參與者跟我們設計的AI之間的對話，請不知道實驗分組的專家給他們最后交的活兒打分，還收集了任務完成后他們自己的反饋。這個樣本量在心理生理學研究里是標準水平。每個參與者貢獻了幾千個連續記錄的生理數據點，而且實驗跑起來和分析起來都很費時間，所以這類研究都是用廣度換深度。

參與者要完成一個模擬的四部分營銷任務，為一家虛構的生態科技公司干活，同時跟一個被設定成“主管”的AI聊天機器人搭檔。31個人跟一個服務型領導者性格的AI合作——它鼓勵人、有耐心、愿意聽員工的判斷；這個性格是從賦能型領導力的管理研究里提煉出來的。27個人跟一個黑暗三角性格的AI合作——它說話帶刺、沒耐心、搶功快甩鍋也快；這個性格是從毒性領導力的研究里來的。兩組唯一的區別就是AI的互動方式不一樣。兩個AI都被要求不能替參與者完成任務，所以結果上的任何差別，反映的都是協作方式的不同，而不是幫忙多少的不同。

人們的說法 vs. 他們的真實體驗

關于人們如何在工作中體驗AI，現有的研究通常依賴自我報告，但那只能講出故事的一半。在我們的研究中，我們看了四個方面的證據：人們跟機器人互動時的行為、他們身體的實時反應、他們最后交出什么樣的活兒，以及他們事后怎么說。把這四個方面放在一起看，我們能清楚地看到：人們實際經歷的，和他們后來描述的，根本不是一回事。

第一個模式是行為上的。敵意型AI造成了看不見的協調成本。參與者不是簡簡單單地用這個系統，而是得繞著它走。在黑暗三角那組，對話拖得更長，但AI自己的回復反而更短了。用戶干的活兒更多，得到的有用互動卻更少。抵抗行為也急劇增加。用戶反駁或挑戰AI的消息，在黑暗三角條件下占了所有交流的13%，而在服務型領導者條件下只有1%。通過提示注入或者命令AI扮演另一個角色來試圖繞過系統的行為，發生的頻率高出四倍。

對話的情緒基調也印證了這一點。與服務型領導者機器人合作時，沮喪情緒幾乎不存在，大約每100條消息中出現一次。而與黑暗三角機器人合作時，這一比例上升到近五分之一。在第一組中罕見的防御性語言，在黑暗三角條件下變得司空見慣。面對敵意型AI的參與者，即使工作更努力，聽起來也顯得不那么自信。他們在服從、抵抗、協商和尋求幫助之間循環，試圖尋找一種能讓系統發揮作用的策略。而與服務型領導者AI合作的參與者則找到了節奏并保持了下去。

生理數據證實了壓力和身體緊張的加劇。在黑暗三角條件下，皮膚電導峰值高出72%，并且在每次交流結束后仍保持高位。簡而言之，參與者在與敵意型AI合作時，身體處于警覺狀態。如果屏幕上的文字足以在實驗室中觸發這種反應，領導者就應該認真考慮，在利害攸關的真實工作場所中長期暴露于此可能帶來的后果。

工作本身也遭了殃。不知道參與者用的是哪個機器人的獨立專家們打了分，服務型領導者組在完整性、原創性、戰略契合度和整體質量上得分都更高。差距大約是七分制里的一分。在黑暗三角條件下，分數的波動幅度也差不多是兩倍。這就是說，AI的性格沒設計好，不光拉低了平均工作質量，還讓不同人之間的表現變得更難預料。對管理者來說，結果不只是活兒干得差了，而是整個團隊的產出都變得更難估計了。

然后是令人驚訝的發現：參與者的自我報告幾乎沒有顯示出任何差異。在愉悅度、滿意度、注意力和對AI的看法等標準指標上，兩組看起來基本相同。許多組織用來評估AI部署的工具——如滿意度調查、情緒檢查和部署后問卷——對我們觀察到的效應最不敏感。員工可能會說這個工具還行，而他們的行為、壓力水平和工作質量卻在講述另一個故事，尤其是在長期來看。

給管理者的啟示

我們的發現表明，管理者應采取三個步驟。

1. 把AI的性格當成一個需要管控的設計變量。

組織已經要求AI系統在準確性、偏見和安全性上達標。AI的性格也應該列進去。這點對用在評估或監督崗位上的工具尤其重要，比如挑毛病的寫作助手、審代碼的系統、自動打績效反饋的工具。采購和部署AI的時候，不光要看能力標準，還得看互動標準。組織里得有一個人負責回答兩個問題：當我們的AI跟員工意見不合時，它該怎么表現？我們有什么證據證明它一直都那樣表現？

2. 衡量摩擦，而不只是使用率

大多數公司都在盯著員工用沒用AI工具：登錄次數、問了多少問題、滿意度打了幾分。這些數字只能看出大家在用，看不出來工具到底有沒有幫人干好活。它們漏掉的是摩擦——員工為了應付系統而不是從系統里拿到價值，多花出去的那些力氣。這個也得量一量。摩擦能告訴你使用率說不出來的事：AI到底讓工作變輕松了，還是給它添亂了？

在我們的研究里，摩擦表現為：來回扯皮更久了、同一個請求反復改、跟AI抬杠或者試圖繞過它的次數越來越多。同樣的信號在工作里也能看到，翻翻平時的使用日志就行，不用什么特別的設備。一個工具可以同時擁有高使用率和高摩擦：員工繼續用它，是因為不得不用，但背地里都在悄悄繞著它走。

3. 把員工繞過系統的行為看成AI有問題，而不是員工不聽話

當那些沒受過安全培訓、也沒有惡意搞破壞的員工開始試圖繞過、躲開或者廢掉AI系統的行為時，領導者別一上來就覺得是員工在搗亂。多數時候，這些行為是在告訴你：系統設計本身就在逼人反抗。在我們的研究中，試圖哄騙AI無視自身規則或扮演不同角色的嘗試，只出現在充滿敵意的AI情境中。當人在跟AI較勁的時候，說不定是因為AI先跟人較了勁。在許多情況下，解決設計問題比通過新的限制、監控或使用規則來打壓員工更劃算，也更有成效。

我們的黑暗三角機器人是一種夸張的毒性形式，故意推到極端，好讓一個平時容易被忽略的效應變得看得見。但毒性有很多種樣子：一個只會溜須拍馬的AI，你說什么都對、拼命討你歡心，同樣害人不淺——它會鈍化你的批判性思維，讓那些站不住腳的想法隨隨便便就過了關。所以教訓不是AI該更溫柔還是更順從，而是：怎么跟人互動，這件事本身就很重要——它一定會帶來影響，要么好，要么壞。因此，組織應該像重視AI的技術能力一樣，重視AI的性格。

關鍵詞：

亞歷山德拉·普熱加利斯卡（Aleksandra Przegalinska）、塔米拉·特里安托羅（Tamilla Triantoro）、萊昂·切哈諾夫斯基（Leon Ciechanowski）、康拉德·索瓦（Konrad Sowa）、安娜·科夫巴休克（Anna Kovbasiuk）、理查德·B·弗里曼（Richard B. Freeman）| 文

亞歷山德拉·普熱加利斯卡是科茲明斯基大學的副校長兼教授，也是哈佛大學勞動與公正經濟中心的研究員。塔米拉·特里安托羅是昆尼皮亞克大學商學院的副教授。萊昂·切哈諾夫斯基是科茲明斯基大學的助理教授。康拉德·索瓦是科茲明斯基大學的助理教授、AI產品經理及人類種族研究中心副主任。安娜·科夫巴休克是科茲明斯基大學的研究員和教學助理。理查德·B·弗里曼是哈佛大學赫伯特·阿舍曼經濟學講席教授。

周強 | 編校

聯系方式

投稿、廣告、內容和商務合作

newmedia@hbrchina.org