招聘系统的问题,比林凡 58 分更深。
评估继续进行后,项目组发现系统很爱给人贴标签。学历不只是学历,是“学习能力代理指标”;年龄不只是年龄,是“适应速度风险”;地域不只是地域,是“流动稳定性”;职业空窗不只是空窗,是“抗压与连续性存疑”。
每个词都很体面。
体面到让人很难一眼看出它在歧视。
张磊看着报告,说:“它把偏见穿上了西装。”
林凡说:“还打了领带。”
小吴的样本被系统标记为“非重点院校,基础能力需验证”。小吴看到后,表情很难看:“它怎么知道我基础能力不行?”
马骏安慰:“它不知道,它猜的。”
小吴说:“那更难受。被了解后否定,至少说明它看过我;被猜着否定,像我连解释机会都没有。”
阿宁转岗样本被标记为“职业路径不连续”。她说:“我从设计转视觉风控,明明是因为岗位变化,怎么到它这里变成我不稳定?”
何苗说:“系统喜欢直线。现实里很多人是被时代拐弯的。”
最刺眼的是地域标签。某些地区候选人在“稳定性”和“信用风险”上平均分偏低。供应商解释,这是根据历史离职率、薪资水平和履约数据形成的统计关联。
苏晓问:“统计关联能不能用于个人判断?”
供应商说:“只是参考。”
“如果参考导致排序靠后,靠后导致看不见,看不见导致没有面试机会,那它就不是参考,是筛选。”苏晓语气很平,“你们不能把群体统计压力压到个人身上。”
会议室里没人说话。
林凡想起金融风控。贷款系统里,地域、职业、年龄也常常是变量。招聘和金融看似不同,本质都在问一个问题:系统根据过去的数据,推测你未来值不值得信任。
可人不是一组平均值。
一个来自低分地区的人,可能很可靠;一个年龄偏大的候选人,可能学习很快;一个学历普通的人,可能靠真实项目练出判断;一个职业空窗的人,可能只是照顾家人、养病、被裁员,或者像张磊一样正在从坑里爬出来。
张磊看到“职业波动风险”那项,忍不住说:“我申请把我的人生从训练数据里移除,避免污染模型。”
周舟说:“你的波动很有教育意义。”
“这是夸吗?”
“看你怎么理解。”
林凡和苏晓一起整理了一份偏见评估清单。清单要求:敏感标签不得直接用于淘汰;半敏感标签需要做影响测试;模型报告必须区分事实和推断;候选人有权补充解释;招聘方必须定期检查不同群体的通过率;对被低分但岗位核心能力匹配的人进行人工复核。
项目经理看完,头疼:“这套下来,客户会觉得麻烦。”
林凡说:“歧视本来就是因为图省事。”
苏晓补:“精准不等于公平。很多不公平也很精准。”
这句话让林凡愣了一下。
他把它记下来。
客户最终接受了一部分修改,因为监管风向已经不允许他们完全无视。系统界面新增了“推断标签”提示,明确标注哪些是事实,哪些是模型推断;年龄和地域不再显示给一线面试官,只保留必要合规字段;低分候选人抽检比例提高。
不完美。
但比原来好。
小吴问林凡:“这些修改真的有用吗?”
林凡说:“有一点。”
“一点够吗?”
“不够。”林凡说,“但没有这一点,就更不够。”
晚上,云启未来白板写:
标签越体面,越要问它压住了谁。
何苗写:
职业路径不直,不代表人走错了。
张磊写:
我的人生波动,不得作为硬淘汰依据。
苏晓发来:
群体统计不能替个人判决。
林凡写:
精准如果没有申诉,就是精准地不公平。
林桂兰看到白板,问:“那我这种退休阿姨会被打什么标签?”
张磊说:“社区高活跃风险观察员。”
林桂兰满意地点头:“听着挺厉害。”
林凡笑了。
笑完,他看向那句“精准地不公平”。
工作被机器追着跑那阵子的风,已经不只是吹岗位了。
它开始吹到每个人的标签上。
偏见评估报告提交后,客户 hR 私下找林凡聊天。
“你们说得都对。”她说,“但人工招聘也有偏见。面试官也看学历、年龄、地域,甚至看长相和说话口音。AI 至少把规则摆出来了。”
林凡承认:“是。AI 不是凭空制造偏见,它把偏见规模化、稳定化,还让它看起来更客观。”
hR 叹气:“那我们是不是不用 AI 更好?”
“不是。”林凡说,“用,但要知道它在继承谁的眼光。以前一个面试官偏见,伤一批人;现在一个模型偏见,可能伤几万人。工具越大,纠偏越不能靠良心。”
hR 沉默很久,说:“我会把抽检比例再往上提一点。”
这不是胜利,只是一点松动。
林凡越来越明白,很多改变不是靠一场漂亮辩论赢来的,而是靠一次次把“这不对”说到别人愿意多改一行配置。
张磊把偏见报告转给维权群,群里有人说自己三十六岁投简历全是已读不回,有人说二本学历像写在脸上的水印,还有人说离开一线城市后,系统推荐的岗位自动降了一个档次。
张磊看完,半天没贫。
他在群里发:
以前我们以为是没人看见我们,后来发现,有些系统看见了,但只看见标签。
这句话被很多人复制。
标签不是新东西,但 AI 让标签跑得更快,也更难追上去解释。