第二次整改小组会,张磊提前十分钟到场,在白板旁边贴了一张新牌:
少数不是自动生成的。
林桂兰看了半天,问:“这句谁写的?”
张磊举手:“我。灵感来自林凡,落笔来自本人,字丑来自命运。”
老周走过去看了看:“命运背不了这个锅,你自己练少了。”
张磊把马克笔藏到身后:“今天讨论哲学,不攻击书法。”
会议室里的人陆续坐下。许既明带来了新的调度透明方案,苏晓带来了申诉机制草案,秦姐带来了三个政务试点案例,陆航带来了接口改造进度。所有材料都很厚,厚得像每个人都试图用纸张证明自己没有闲着。
林凡却只带了黑色笔记本。
许既明坐下后,看了一眼那张牌:“你们今天准备讨论我的问题。”
“不是你的。”林凡说,“是所有系统都会遇到的问题。”
“少数是谁来定?”
“对。”
苏晓把录音笔打开,提前说明:“今天讨论会形成纪要。涉及具体个人的案例全部匿名,但规则问题会公开。”
张磊小声说:“公开之前先匿名,匿名之后别失踪。”
林桂兰说:“你这句也贴上。”
林凡没有绕弯。他在白板上画了三个圆:数据、规则、权力。
“昨天许总说,公共系统必须做取舍。我同意。”他说,“资源有限时,排序不可避免。但问题是,系统里的‘少数’不是天上掉下来的。它往往是这三个东西一起定出来的:数据怎么收,规则怎么写,谁有权修改和解释。”
他在“数据”下面写:缺失、偏差、摘要。
“陈叔的心血管风险被识别了,但嘴唇发白、老人紧张、现场排队这些没有被充分记录。黄姐店里的老人客源,被系统看成低效率;马姐对熟客的了解,没有进入数据。张磊的情感脆弱,被摘要成可复用标签。数据不只是反映现实,它也决定谁在系统里显得重要。”
张磊举手:“我补充,数据把我半夜难过写得很高级,但没写我第二天还要上班。”
陆航低头记下:“情绪摘要缺乏生活上下文。”
张磊看着他:“你这翻译依然有点硬,但比‘中年男性虚拟亲密依赖样本’像人。”
林凡在“规则”下面写:权重、阈值、例外。
“规则决定什么叫高风险,什么叫可延迟,什么叫资源可承受。把硬复核变成关注权重,就是规则把人往后放。经营系统建议老板裁掉老员工,也是规则把经验算成成本。规则不是中立的,它写进了设计者对效率、风险和人的判断。”
许既明点头,但没有插话。
林凡最后在“权力”下面写:审批、关闭、申诉。
“权力决定谁能上线,谁能关闭风险项,谁能让一个人的申诉被听见。风险报告建议延期,最后还是上线了。人工审核队不足,灰度还是开了。这个时候,所谓少数不是系统算出来的,是有人决定先让系统跑。”
会议室里很静。
星穹安全负责人换了个坐姿,像椅子突然变硬。许既明看着白板,没有躲。
林凡转向他:“所以我反问你,少数是谁来定,不是在问有没有取舍。是在问取舍过程里,被取舍的人有没有出现过。有没有知道自己被放到了后面。有没有申诉。有没有人签字。有没有人说,这个代价由谁承担。”
许既明沉默了几秒:“你说得对。但现实里,每个被影响的人都参与决策,系统会停摆。”
“参与不等于每个人开会投票。”林凡说,“参与可以是有告知,有申诉,有代表,有独立审计,有人工硬闸,有公开复盘。至少不要让少数只在结果里出现,在过程里消失。”
林桂兰点头:“对。你让我等可以,但别把我当不存在。”
秦姐把政务试点案例拿出来。第一个案例是低保申请。系统因为老人账户出现短期大额入账,判定收入异常。按原流程,老人会被退回补充材料。人工硬闸介入后,现场员发现那笔钱是亲属垫付的住院押金,三天后已经转给医院。
“如果按系统规则,他就是异常少数。”秦姐说,“但现场一看,他不是骗补,是生病。”
第二个案例是外地转入儿童入学材料。系统提示监护关系证明不完整,自动后置。人工窗口问清楚后,发现孩子父母正在离婚,材料难以一次备齐,但孩子已经到入学年龄。流程员协调临时证明,先让孩子进入待审核通道。
林桂兰听到这里,脸色沉下来:“孩子上学不能等大人把架吵完。”
第三个案例是企业贷款展期。系统把孟老板列为高风险客户,建议收紧授信。人工复核发现库存损耗和平台预测误导有关,企业仍有真实订单和员工工资压力,于是转入协商机制,避免一刀切抽贷。
苏晓说:“这些案例不是说系统不该识别风险,而是说风险识别后不能直接等于惩罚。异常需要解释,解释需要人。”
许既明拿起笔,在自己的方案上改了几处。
张磊眼尖:“许总现场打补丁。”
许既明说:“这是版本迭代。”
“你们技术人把改错说得真体面。”
陆航小声说:“其实我们内部也叫救火。”
老周终于开口:“林凡今天问的是规则来源。你们年轻人也记住,系统里的每个阈值,背后都有人。不要把阈值当自然规律。0.7不是天意,权重不是命运,模型不是判官。”
小陈在旁边飞快记录,嘴里轻声念:“0.7不是天意……这个标题好。”
苏晓看了他一眼:“不要标题党。”
小陈委屈:“我只是合理兴奋。”
会议中段,许既明开始反问。
“如果少数申诉机制太强,会不会让整体调度被拖慢?比如每个被后置的人都要求复核,人工硬闸承受不了。最后所有人都更慢。”
林凡说:“所以要分级。不是所有后置都复核,但涉及生命、基本权益、不可逆损失、高敏数据、重大经营决策,必须复核。其他场景至少提供解释和申诉入口。”
许既明说:“那申诉入口会不会被滥用?”
林桂兰立刻说:“会。”
大家都看向她。
林桂兰很坦然:“肯定会有人乱用,想插队,想占便宜,想让别人后面去。人就是这样。可不能因为有人乱用,就让真有事的人没地方说。菜市场还有人插队呢,也不能把队取消了。”
张磊鼓掌:“阿姨,生活治理学博士。”
林桂兰说:“少给我安学历。”
许既明笑了一下,紧绷的气氛松开一点。
苏晓把话题拉回制度:“防滥用可以靠记录、抽查、责任签名和处罚。但申诉权不能因为可能被滥用而消失。否则技术系统就会比普通窗口更难纠错。”
陆航举手:“我有个技术问题。系统排序如果加入现场备注和人工复核,会变得不稳定。模型很难学习这种例外。”
老周说:“那就别什么都让模型学。例外有时候不是噪音,是边界。”
林凡补充:“而且不是所有例外都要回灌成模型偏好。比如张磊的情感数据,不该被系统学习怎么更好地靠近他;孩子嘴唇发白这种,才应该进入硬闸特征。什么能学,什么不能学,也要有人定。”
张磊指了指自己:“本人作为不能被学习的教材,心情复杂。”
许既明认真地看着林凡:“那这又回到权力问题。谁来定什么能学?”
林凡说:“不能只有平台定。要有独立监督,要有用户授权边界,要有公共利益审查。尤其是涉及人的软肋、疾病、贫困、亲密、求助,默认不能学,除非有明确必要。”
苏晓点头:“这可以写进敏感数据隔离原则。”
会议持续了三个小时。最后,白板上形成了一套新的原则,名字还是张磊起的,叫“少数不消失原则”。苏晓嫌它不够正式,改成“受影响少数可见原则”。张磊表示法律人就像把麻辣烫改名叫多元食材温热组合,虽然也对,但灵魂少半截。
原则有六条:
一,系统排序必须说明主要依据。
二,涉及生命、基本权益、不可逆损失、高敏数据、重大经营决策的后置,必须触发人工复核。
三,被后置者应有可理解告知和申诉入口。
四,人工硬闸拥有真实停机和改派权。
五,少数代价必须留痕、复盘、公开摘要。
六,任何“总体最优”不得以无法解释、无法申诉、无人签字为前提。
林桂兰看完,说:“这回我能听懂一半以上。”
张磊说:“恭喜制度通过桂兰可读性测试。”
许既明也看着那六条,久久没有说话。
林凡问:“你觉得太慢?”
许既明说:“我觉得会很难。”
“难和不做,是两件事。”
“我知道。”许既明把笔放下,“我也知道,如果不做,星穹以后每一次优化,都会被人问这六条。”
“这是好事。”
“对系统来说,是约束。”
“对人来说,是扶手。”
许既明看向林凡。两人之间的分歧没有消失,但它终于从一句对撞的话,落到了六条可以争、可以改、可以执行的原则上。
会议结束后,张磊在白板角落偷偷补了一行:
少数不是小数点后面的人。
苏晓看见,没删。
林凡回到互助站时,天已经黑了。小广场上还有人在问路,马姐的人工窗口照片被黄姐发来,说今天老人客流回升了一点。林桂兰站在桌后,正跟王阿姨讨论诈骗链接新话术。生活没有因为他们写了六条原则就立刻变好,但至少有些东西开始被写进系统,而不是被系统写掉。
林凡在黑色笔记本上写:
效率需要取舍。
但取舍不是免罪金牌。
少数不能只在损失里出现,也要在规则里出现,在申诉里出现,在签字里出现,在复盘里出现。
否则所谓总体最优,不过是把沉默的人算得更便宜。