苏晓第一次出现在林凡面前,不是在咖啡馆,也不是在发布会,更不是那种适合偶像剧慢镜头的雨天路口。
她出现在青橙数科的线上会议里,头像是一张很普通的证件照,背景是金融平台的会议室,开口第一句就把项目经理问沉默了。
“你们的模型回滚预案在哪里?”
项目经理原本准备介绍合作愿景,ppt 第一页还停在“金融科技可信风控共建方案”。他笑容僵住:“苏经理,我们这边先讲整体架构。”
苏晓说:“整体架构我看过。架构图画得很漂亮,箭头也很有方向感。我现在问的是,如果模型上线后误伤正常用户,你们怎么回滚?”
林凡坐在会议室角落,差点没忍住笑。
不是嘲笑,是一种久违的舒适。终于有人在第一页 ppt 就问刹车。
苏晓是“信衡金融”的风控项目负责人。信衡金融是本地一家做小微贷款和消费分期的平台,最近要上线 AI 风控系统,用来判断用户信用风险、审批额度和还款预警。青橙数科负责落地实施,底层部分能力来自星穹,业务规则由信衡提供。
金融项目和社区项目完全不同。社区推荐错了,可能让老人多听一场养生课;金融风控错了,可能让一个人借不到钱,也可能让一个不该借的人背上债。钱这种东西,最擅长把技术问题变成人生问题。
苏晓的语气不快,但每个问题都很具体。
“训练数据里,逾期标签怎么定义?”
“历史坏账是否包含疫情期间特殊样本?”
“地域、年龄、职业这些变量有没有做偏见评估?”
“模型拒绝用户时,给不给申诉通道?”
“人工复核团队能看到模型理由,还是只能看到分数?”
项目经理越听越虚,频频看林凡。
林凡接过话:“我们建议高风险拒绝不直接自动生效,至少进入人工抽检。模型理由会保留,但需要做可解释摘要,不能只给一个分数。”
苏晓看向屏幕里的他:“可解释摘要谁生成?”
“系统生成,人工审核。”
“审核人有没有权限推翻?”
“应该有。”
苏晓挑眉:“应该?”
林凡立刻改口:“需要写进流程。”
苏晓点头:“写进去之前,不算有。”
会议室里安静了一下。
老周坐在旁边,低声说:“这姑娘不错。”
林凡小声回:“她比你还会堵人。”
老周:“我这是欣赏。”
苏晓没有为难他们。相反,她非常清楚自己要什么。她不反对 AI,甚至很懂 AI 的价值。信衡过去靠人工审核和简单规则,坏账率上升,审核速度慢,小微商户经常因为资料不完整被拖很久。AI 风控如果做好,确实能救平台,也能让一部分原本被粗暴拒绝的人获得机会。
但她不允许项目用“智能”两个字遮住风险。
会议结束前,苏晓说:“我相信模型能帮我们发现人看不到的风险。但模型也会继承人过去的偏见。我们这次上线,目标不是让机器替人决定谁值得信任,而是让人知道自己为什么信任或不信任。”
林凡把这句话记下来。
张磊听说苏晓后,第一反应:“女版老周?”
林凡说:“不一样。老周像维修手册,苏晓像审计报告。”
何苗说:“听起来都不适合约会。”
张磊立刻看向周舟:“你别误会,我觉得审计报告也有魅力。”
周舟说:“你先把失业清单第五条写了:不在情绪不稳时胡乱评价女性。”
张磊闭嘴。
项目启动后,苏晓经常和林凡对接。她发来的表格密密麻麻,字段、样本、阈值、例外、申诉、灰名单、人工复核,每一项都有备注。林凡第一次见到有人把风险写得这么不浪漫,却这么有力量。
有一次,项目经理抱怨:“苏经理太细了,一个字段能问三轮。”
林凡说:“金融字段后面是钱。”
老周补:“钱后面是人。”
苏晓正式进入主线的那天,林凡在笔记本里写:
有些人不是来让故事变甜的。
是来让系统变难糊弄的。
晚上,云启未来白板写:
金融风控不是给人打分,是决定一个人能不能被系统相信。
何苗写:
专业的人最迷人的地方,是不被漂亮话带跑。
张磊写:
会问回滚预案的人,值得尊重。
林凡最后写:
流程里没写的权力,等于没有。
第二天,苏晓发来一条消息:
昨天会议纪要里,“应该有人工推翻权限”那句,请改成“必须有”。
林凡看着屏幕笑了一下。
他回:
已改。
苏晓:
谢谢。少一个“应该”,少很多锅。
林凡觉得,老周应该会喜欢她。
老周确实喜欢。
第二天复盘时,他看完苏晓标注的十七条风险备注,难得没有挑刺,只说:“她这人知道系统是怎么害人的。”
林凡说:“你这夸法像刑侦剧。”
老周说:“懂风险的人,看世界都像案发现场。”
苏晓后来补发了一份“上线前不可妥协清单”。第一条是拒绝自动化最终拒贷,第二条是保留人工推翻权限,第三条是所有模型评分必须能追溯到特征组,第四条是用户申诉不得由原模型二次自动驳回。
林凡看到第四条时,停了很久。
他以前见过太多“申诉入口”只是摆设。用户被机器误判,再向机器申诉,最后收到机器生成的“经核实无误”。那种流程像一扇画在墙上的门,看着有出口,撞上去才知道是墙。
他给苏晓回:
第四条很重要。
苏晓回:
被系统伤过一次的人,不该被同一个系统伤第二次。
林凡把这句抄进笔记本。