苏晓发现风控误伤,是在一份周报里。
周报标题很漂亮:《AI 风控上线后审批效率提升与风险控制成效》。里面有一堆让老板看了会微笑的数字:审批时长缩短 63%,高风险拦截率提升 28%,人工审核成本下降 41%,坏账预警准确率提升。
信衡老板在会上说:“这说明我们的智能化方向非常正确。”
苏晓没有笑。
她盯着一行小字:小微商户贷款通过率整体下降 7%,其中个体工商户下降 13%。
“这个拆一下。”她说。
数据团队说:“样本还不大,可能是模型更谨慎。”
苏晓说:“谨慎对谁谨慎?”
林凡接到她的消息时,正在帮张磊改“具体度评分”。苏晓发来一张表,表里按行业、地域、经营年限、店铺规模、线上流水比例拆分了贷款通过率。异常很快显出来:没有完整线上流水的小店、夫妻店、老社区商户,被模型拒绝的比例明显上升。
这些商户不是坏人。
他们只是数据少。
一家修鞋店,经营十五年,没有线上流水,现金交易多,被系统判为收入不稳定;一家早餐铺,老板娘用女儿的收款码收钱,账户主体不一致,被判为经营真实性存疑;一家老裁缝店,店面租约是口头续签,系统缺少材料,直接降分。
苏晓把这些案例念出来,会议室越来越安静。
信衡老板说:“但从模型角度看,这些确实风险高。”
苏晓说:“从数据角度看风险高,不等于从现实角度看一定高。模型看不见的,不该自动算成没有。”
林凡补:“数据缺失不等于信用缺失。”
这句话让苏晓看了他一眼。
她点头:“对。尤其对线下小店。”
风控模型喜欢可量化的东西:流水、征信、合同、平台交易、扫码记录、税票。它不喜欢那些靠邻里口碑、现金交易、熟客赊账、十几年经营习惯撑起来的小生意。可城市里大量普通人的生活,正是由这些不够数字化的小店托着。
模型上线后,坏账风险降了,但也把一部分“数字痕迹少”的人挡在门外。
张磊听完,皱眉:“这不就是谁更像系统喜欢的人,谁更容易被借钱?”
何苗说:“是。数字化程度变成信用的一部分。”
苏晓要求抽样人工回访。她和林凡一起去看了几家店。早餐铺老板娘听说贷款被拒,没有生气,先是茫然:“我每天早上四点起床,卖了八年包子。你说我经营不真实,那我这八年是在梦游吗?”
林凡站在蒸汽里,突然觉得那份风控报告很冷。
老裁缝店的师傅更直接:“我不会搞那些线上流水,我就会改裤脚。现在不会用手机,连借钱都不配了?”
苏晓没有急着解释。她认真记录材料,问经营年限、熟客比例、租金、进货、家庭情况。她问得很细,但不居高临下。
回去后,她提出增加“线下经营补充证明”通道:社区证明、租金记录、供应商收据、邻里评价、人工回访,都可以作为模型数据不足时的补充材料。对数据缺失但长期经营的小商户,不得直接自动拒绝。
信衡老板担心成本:“这样人工又上来了。”
苏晓说:“你要的是风控,不是把不会数字化的人赶出去。”
林凡说:“否则坏账率好看了,客户也少了。”
这句话老板听进去了。
苏晓后来给林凡发消息:
模型误伤最麻烦的地方,是它常常让报表变好看。
林凡回:
因为被误伤的人不在成功率里。
苏晓:
也不在庆功会里。
晚上,云启未来白板写:
数据少,不等于人不可信。
何苗写:
模型看不见的生活,不该被判成风险。
张磊写:
不会扫码的包子铺,也可能比互联网项目靠谱。
林凡写:
风控如果只相信数字,就会先拒绝那些还活在现实里的人。
苏晓看到照片,回:
最后一句太长,但意思对。
林凡回:
白板不收版面费。
苏晓发了一个句号。
林凡看着那个句号,觉得她可能是在笑,也可能是在忍住不吐槽。
误伤通道试运行后,第一批通过人工补充材料重新获批的商户里,就有那家早餐铺。老板娘拿到贷款额度,没说什么宏大感谢,只在微信里发了一张照片:新蒸笼到了,笼屉摞得很高,白汽往上冒。
苏晓把照片转给林凡:“这比老板的表扬有用。”
林凡回:“因为这是钱最后变成了什么。”
苏晓:“对。风控报告里看不到蒸笼。”
林凡盯着“蒸笼”两个字,忽然想起公司那些柱状图。数据当然重要,可数据如果永远不回到具体的人和物,就会让人误以为世界只是表格里的升降。
他在笔记本补了一句:
模型说通过率,生活说蒸笼到了。
第二天,苏晓把“蒸笼案例”放进内部培训,但没有写店名。她只写:一个被模型拒绝的小店,人工复核后获得贷款,购买新设备,经营继续。
有同事问:“这种案例会不会太个别?”
苏晓说:“误伤落到人身上,从来都是个别。但制度如果不管个别,就会批量制造个别。”
林凡听到这句,觉得她又该上白板。
这次他没问授权,直接写了。
苏晓看到后,只回了两个字:
下次。
林凡判断,这算默许的一种低温版本。
他在旁边补了个括号:
白板引用需谨慎。
尤其引用苏晓。
要留余地。