报告结论出来时,办公室安静了很久。
模型没有直接使用“贫困”“低收入”“阶层”这些词。它只是用了居住地消费水平、线上流水稳定性、设备更换频率、账户余额波动、社交电商交易比例、合同完整度、发票记录等看似中性的特征。
可这些特征叠在一起,效果很清楚:
越穷的人,越像风险。
不是因为他们一定会违约,而是因为他们的生活更不稳定、更难被系统记录、更少拥有标准证明、更常使用非正式渠道。模型把这些现实困境,当成了未来风险的证据。
张磊看完报告,说:“这不就是穷人因为穷,被判更可能穷下去?”
苏晓点头:“是阶层固化的技术版本。”
信衡内部会议开得很压抑。老板皱着眉说:“但从商业角度,我们确实要控制风险。”
苏晓说:“控制风险不等于拒绝所有看起来麻烦的人。”
“可平台不是慈善机构。”
“也不是只服务数据好看的人。”苏晓说,“如果小微金融只借给已经足够稳定的人,那它解决的就不是小微问题。”
林凡把案例放出来。修车摊老板因为孩子学费导致余额波动,被降分;早餐铺因为现金交易多,被判流水不足;社区团购摊主因为社交平台交易比例高,被判收入不稳定;一个做家政的小团队,因为没有正式劳动合同,被判经营结构不清。
老板说:“这些个案很让人同情,但模型看的是整体。”
林凡说:“整体就是由这些个案组成的。”
会议室又安静。
供应商代表解释,模型只是根据历史数据学习风险模式。历史上,低收入群体确实更容易出现还款波动。模型没有偏见,只是反映数据。
老周听到这里,终于开口:“数据不是天上掉下来的。历史里穷人更容易逾期,可能因为他们不守信,也可能因为他们更容易失业、生病、被拖欠工资、缺少缓冲。你把结果喂给模型,不告诉它原因,它当然学会嫌弃结果。”
供应商代表脸色不太好。
苏晓补:“如果模型只学习谁过去更容易失败,而不区分为什么失败,它就会把社会问题变成个人风险。”
这句话像一把刀,切开了会议室里所有“中性特征”的包装。
最终方案很艰难。信衡不可能完全放开风险,也不能无视报告。苏晓提出建立“弱数据可信补充机制”:对无逾期、经营年限较长、现金流波动但有可解释原因的用户,进入人工复核;允许非标准经营证明;模型拒绝理由必须区分“数据缺失”和“高风险证据”;不得将低收入代理特征单独作为拒绝主因。
老板问:“这会增加多少成本?”
林凡说:“比错杀客户低。”
苏晓说:“也比以后监管问责低。”
老板看了她一眼,终于点头:“先试点。”
会后,张磊问林凡:“这算赢了吗?”
林凡说:“算开了个口。”
“口多大?”
“比没有大。”
张磊叹气:“你们现在都喜欢这种现实主义胜利。”
何苗说:“因为现实不提供爽文结算。”
晚上,白板写:
算法把穷人判得更穷,不是因为它恨穷人,是因为它学会了世界怎么对待穷人。
何苗写:
中性特征组合起来,也会长出偏见。
张磊写:
穷不是违约证据。
林凡写:
如果模型只看结果,不问原因,它会把社会伤口算成个人缺陷。
苏晓发来:
最后一句保留。
林凡回:
授权?
苏晓:
这句是你的。
林凡看着屏幕,笑了一下。
有些话终于开始像他自己的。
试点方案上线后,第一批被重新复核的用户里,有七个人通过了补充材料审核。数字不大,却很具体。修车摊老板拿到了一笔小额周转,早餐铺补了租金记录,社区团购摊主提供了供应商收据。
张磊问:“七个人值得折腾这么久吗?”
苏晓说:“对报表来说不多。对那七个人来说,是七次。”
何苗点头:“人不是按总量感受公平的。”
林凡把这句话写进报告附注。
老板嫌附注太文学,林凡改成:建议关注个体层面申诉成效。
张磊评价:“人话穿西装又来了。”
试点一周后,那七个人里有一个修车摊老板特意给信衡客服打电话,说自己以前觉得贷款平台都是“看不起小摊的”,这次有人让他补材料,他虽然跑了两趟,但至少知道自己为什么被拒、又为什么能过。
陈茜把这段反馈转给林凡。
林凡看完,觉得这比通过率曲线更让人踏实。不是因为系统突然公平了,而是因为一个人终于不再只面对一个黑箱结果。
公平有时候不是一次性给答案。
是让人有机会把自己说完。
张磊听完这个案例,沉默了一会儿,说:“我以前最怕系统拒绝我,现在发现更怕它拒绝我还不告诉我为什么。”
何苗说:“因为不知道为什么,就没法改,也没法反驳。”
林凡点头。
黑箱最伤人的地方,不只是关门。
是让门外的人怀疑,是不是自己连敲门的姿势都错了。
苏晓把这句话改成报告语言:
需降低用户对拒绝结果的不可解释性负担。
张磊看完说:“人话又穿西装,还打领带了。”
林凡说:“但能进报告。”
这就是他们现在常做的事:把疼的话翻译成能被会议接受的话,再尽量不让疼意完全消失。
别翻没了。
切记。