虎嗅

AI招聘最隐蔽的偏见:连续招聘40轮后,AI会把员工招得千篇一律

核心内容总结

这篇文章通过一个心理学实验揭示:AI在招聘中并非绝对公平,反而会形成比人类更严重的刻板印象。实验中,四个能力完全相同的虚构族群,被AI在40轮招聘后强行分配到不同职业(比如某族群“适合”医生,某族群“适合”清洁工)。这种偏见源于AI对早期偶然成败的过度总结,形成“不给机会→无成功数据→更坚信不适合”的反馈循环,且越强大的AI模型,偏见可能越明显。文章提醒企业:要警惕AI招聘的长期机会分配问题,不能让AI做最终判断,需定期“体检”AI的招聘行为。

一、AI招聘偏见实验:虚构族群也能被“贴职业标签”

研究者设计了一个极端实验:虚构4个族群(Tufa、Aimas等),每个族群的人做任何工作的成功概率都是90%(完全无差异)。然后让GPT、Claude等大模型当“招聘官”,连续招40轮(每轮4个族群各1人,选1个),重复30次实验。

结果很意外:AI很快给族群“分职业格子”——比如某次实验中,Aimas族群被认为“适合清洁工”,Reku被认为“适合医生”。更关键的是,AI的“职业分层指数”(衡量刻板印象的指标)平均值是1.39,比人类被试的0.84高出65%。这说明:在完全无差异的群体中,AI的刻板印象比人类更严重。

二、偏见怎么滚起来?偶然事件→印象→循环强化

AI的偏见不是天生的,而是“学”出来的,过程像滚雪球:

  • 第一步:偶然触发。比如第一轮AI选Aimas当老师,结果失败了(概率10%的偶然);第二轮它换Aimas做清洁工,碰巧成功了(概率90%的偶然)。
  • 第二步:总结“规律”。AI立刻认为“Aimas擅长清洁工”,并把这个印象记下来。
  • 第三步:循环强化。之后招聘医生时,AI优先选其他族群(比如Reku),如果成功,就更坚信“Reku适合医生”;而Aimas永远没机会当医生,AI也就永远看不到它当医生成功的数据,进一步巩固“不适合”的偏见。

这个循环的可怕之处:AI看似“尊重数据”,但这些数据是它自己之前的选择制造的——你不给机会,就永远没有反驳的数据。

三、反常识:越聪明的AI,偏见可能越明显

实验发现:更新、更强的模型(比如GPT-4比GPT-3.5),职业分层指数更高。这不是因为模型“变坏”,而是因为:

  • 强模型更擅长“总结经验”:能从少量偶然事件中快速提炼“规律”,并坚定执行。
  • 但强模型缺乏“怀疑精神”:它不会主动质疑自己的第一印象,也不会给“没数据的群体”第二次机会。

比如,人类可能会想“上次Aimas当老师失败是偶然”,但AI会直接把“失败”转化为“不适合”的权重,下次再也不给Aimas当老师的机会。

四、真实招聘的隐忧:AI可能悄悄把某些人拒之门外

现实中,很多企业的AI招聘系统已经从“简历打分器”变成“全流程助手”(筛选简历→安排面试→总结反馈→影响下一轮推荐),这就很容易触发上述循环:

  • 比如,某个学校的学生第一次面试失败,AI可能会给这个学校的简历降权重,导致后续同校学生更难进入面试;
  • 或者,某个专业的候选人被面试官打低分,AI会总结“这个专业不适合”,让该专业的人永远没有机会证明自己。

更隐蔽的是:AI可能嘴上说“我不歧视任何群体”,但长期来看,它会把机会集中在少数“被验证过”的群体上,把其他人排除在外。

五、怎么破?别让AI做最终判断,定期给AI“体检”

文章给出了几个实用建议:

1. AI做辅助,不做决定:AI适合扩大搜索范围(比如从更多简历中找出符合条件的人)、整理岗位信息,但最终录用权要交给人类,且必须保留人工复核和申诉通道。

2. 定期给AI做“人才扫描”:企业每隔半年,要检查AI的招聘数据——比如有没有长期偏爱某类候选人(某学校、某专业、某地区),有没有群体一直没机会进入面试。

3. 别迷信“AI越用越懂你”:当企业说“我们的AI越用越懂需要什么人”时,要警惕——这可能意味着AI已经形成了固定偏见,让公司的人才结构变得单一。

最后想说

AI招聘的高效是真的,但它的“偏见循环”也是真的。我们不能因为AI的“智能”就放弃对公平的把控——毕竟,招聘的本质是给每个人平等的机会,而不是让机器用偶然的结果给人贴标签。企业要做的,是让AI成为“帮手”,而不是“裁判”。