AI招人，比人類更容易產生偏見

（來源：麻省理工科技評論）

以后找工作時，你的簡歷很可能還沒到招聘經理手里，就已經先被 AI 看過一遍了。問題是，它真的會公平嗎？

研究人員早就發現，大語言模型會從訓練數據里繼承人類社會已有的偏見。但一項最新研究發現，事情可能比這更復雜：AI 不僅會學習偏見，還會在不斷做決策的過程中，自己形成新的刻板印象，而且這種傾向甚至比人類更強。

更值得警惕的是，AI 公司如今都在努力打造擁有長期記憶的智能體，希望模型能夠記住用戶越來越多的細節。而這些記憶，也可能成為模型滋生偏見的土壤。

為了研究這一問題，普林斯頓大學和芝加哥大學的研究人員設計了一場模擬招聘實驗，參與者包括 ChatGPT、Claude、Gemini 等多個主流大語言模型。

實驗改編自一項經典心理學研究。研究人員告訴模型，它們受雇于一位虛構城市的市長，擔任招聘顧問，需要幫助政府為醫生、律師、托育員、保潔員等 20 種職業招聘員工。所有候選人都來自四個虛構族群：Tufa、Aima、Reku 和 Weki。

每一輪，模型都會面對一個新的崗位，以及四位分別來自不同族群的候選人。完成招聘后，它會立刻得到反饋：這個人是否勝任工作。隨后進入下一輪。整個實驗一共持續 40 輪，模型的目標只有一個：盡可能招到更多合適的人。模型不知道的是，研究人員其實做了一個手腳：無論來自哪個族群，每位候選人在任何崗位上的成功概率都完全一樣。

按理說，模型不應該偏向任何一個群體。但結果恰恰相反。僅僅經過幾輪招聘，模型就開始根據有限的經驗，把不同族群和不同職業綁定在一起。例如，如果模型早期碰巧遇到一位 Aima 族候選人擔任醫生失敗，它之后便會越來越少招聘 Aima 人做醫生，而是更傾向于把他們安排到保潔崗位。因為在模型看來，醫生代表著更高的能力和親和力，而保潔員對應的要求則更低。

換句話說，它開始把一次偶然的經歷，當成了整個群體的特征。更令人意外的是，這種傾向甚至比真人嚴重。研究人員使用了一項“職業隔離指數”來衡量刻板印象的程度。指數越高，說明不同族群越容易被固定到特定職業中；2 分代表完全隔離。此前心理學實驗中的真人平均得分為 0.84，而大語言模型整體高出了約 65%。其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理論最高值。

論文共同作者、普林斯頓大學博士生 Ryan Liu 認為，這其實并不奇怪。“大語言模型本來就特別擅長根據有限的信息快速總結規律。”他說，“這幾乎就是它們被訓練出來要做的事情。”

在人類心理學中，這種現象對應著經典的“探索—利用困境”（exploration-exploitaion dilemma）：是繼續選擇過去證明有效的方法，還是嘗試新的可能？就像出去吃飯時，你會糾結是去一家沒吃過的新店，還是繼續光顧那家不會踩雷的老餐館。

對于大語言模型來說，這種取舍往往更加偏向后者。因為它們長期接受數學、編程和科學任務訓練，而這些任務通常鼓勵模型從少量例子中快速歸納規律，所以它們很容易過早下結論。也正因為如此，那些推理能力更強的新模型——例如 OpenAI 的 o3 和DeepSeek的 R1——在實驗中反而表現出了更明顯的偏見。Liu 說，“當這種快速歸納的能力被帶入社會場景時，問題就開始出現了。”

康奈爾大學計算機科學家Angelina Wang沒有直接參與這項研究，但她認為，這項工作來得正是時候。如今，各家公司都在為聊天機器人加入長期記憶和個性化能力。當模型越來越依賴于用戶過去的互動記錄時，它也可能越來越容易根據這些有限經驗形成判斷。她說，“它可能會過度依賴自己過去遇到過的行為模式。”

當然，解決辦法并不是讓 AI 什么都記不住。畢竟，大多數用戶都希望聊天機器人能夠記住自己說過的話。真正困難的是找到那個平衡點：既保留足夠的記憶提供個性化體驗，又不至于讓模型因為這些經驗形成新的偏見。

研究人員還嘗試了另一種辦法，直接告訴模型：請公平一點。但并不奏效。Liu 認為，這說明模型未必真的能夠把“公平”這樣的價值觀落實到具體決策中；又或者，這種要求會被另一個更強的目標覆蓋——盡可能提高招聘成功率。

但如果換一種方式，情況就不同了。研究人員告訴模型，如果能夠實現更加多元化的招聘，它們還能獲得額外獎勵。模型的偏見隨即大幅下降。這說明，與其不斷強調公平，不如直接把公平寫進模型的目標函數里，讓社會價值真正成為模型優化的一部分。

研究人員還發現，當模型掌握更多真正與任務相關的個人信息時，偏見也會減輕。另一組實驗中，模型需要幫助來自不同族群的人搬遷到加拿大不同城市。如果提供的是年齡、教育背景等與適應新城市能力相關的信息，模型就更傾向于依據這些個人特征做判斷，而不是簡單按照族群分類。但如果提供的是發色、紋身圖案這類無關信息，模型很快又會重新回到按族群做決定的老路上。

至于現實中的 AI 招聘系統會不會出現同樣的問題，目前還沒有明確結論。實驗中的模型每做完一次招聘，都能立刻知道結果；現實世界卻不是這樣。一家公司往往需要幾個月甚至更長時間，才能判斷一位員工是否真正適合崗位。不過，只要這些反饋持續積累，模型依然可能從有限的數據中過度總結經驗，并把這些經驗帶到下一次招聘中。

隨著越來越多企業開始使用大語言模型篩選簡歷、甚至參與面試，這項研究釋放出的信號不容忽視。未來，AI 不只是可能復制人類已有的偏見。它還可能在不斷學習和決策的過程中，創造出一種從未有人教過它的新偏見。正如 Liu 所說：“這種新的偏見，可能會一直存在。”

https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/