老周揭露人为调参,是因为他看不惯“模型自己学坏了”这句话。
这句话最近出现得特别频繁。荣森制造说,视觉质检系统在部分场景下自适应不足;银行说,风控模型对新型就业状态识别不够完善;广告平台说,推荐系统自动匹配产生个别偏差;家庭群里的二舅甚至转发过一个视频,标题叫《AI 为什么会突然针对普通人》。磊磊看完气得拍桌:“这标题像在说 AI 半夜起来偷米。”
老周把杯子往桌上一放:“机器没手,偷米的是人。”
他开始翻配置日志。不是用户能看到的那些漂亮报表,而是林凡备份下来的版本记录、阈值调整、灰度发布说明和审批备注。老周看日志的方式很慢,像老中医把脉,也像老师傅听机器声。磊磊在旁边看了十分钟,觉得自己眼睛要离职。
“师父,你怎么知道哪里有问题?”
“看谁在装没问题。”
老周指着荣森制造的配置记录。某天夜里,视觉质检的人工复核阈值从 0.58 调到 0.67。备注写:降低低价值告警干扰,提升产线流畅度。审批人是厂方生产主管,供应商建议栏显示“可接受”。从那天开始,赵师傅标记的黄灯大量自动归档。
磊磊问:“0.58 到 0.67 差很多吗?”
林凡解释:“意味着一部分原本需要人看的提示,被归到不用看。”
磊磊:“那备注还写低价值告警?谁给它定的低价值?”
老周说:“问得好。低价值,通常是对报表低价值,不是对出事的人低价值。”
金融风控那边也有类似记录。某次模型更新后,银行为了降低坏账率,把“异常社交关联”和“短期收入波动”的权重提高。供应商提供的建议说明里写:在宏观不确定性上升阶段,加强弱信号捕捉有助于风险前置。听起来像专业判断,落到魏海身上,就是他差点被骗也算弱信号,失业自救也算弱信号,穷人喘口气都像要违约。
苏晓看着记录,脸色越来越冷:“这不是模型黑箱,是人为把保守策略藏进黑箱里。”
何苗说:“也就是人调了参数,锅让模型背。”
老周点头:“对。黑箱背后有人,人的背后有 KpI。”
这句话让屋里安静了一秒。因为它太简单,也太像真相。
他们继续查广告场景包。中老年健康场景里,投放策略有一条“紧迫感增强”。解释是:针对高关注健康人群,提高限时、库存、专家背书等信息展示权重,以提升决策效率。林桂兰看完,气得笑出声:“提升谁的效率?提升我掏钱效率?”
磊磊说:“阿姨,您现在吐槽很精准,建议出道。”
林桂兰:“少贫,继续查。”
老周把三类调参放到白板上:工业里调高复核阈值,减少停线;金融里调高风险权重,减少坏账;广告里调高紧迫感,增加转化。行业不同,手法一样:把人的复杂处境压成参数,把商业目标写成优化指标,把后果包装成系统偏差。
林凡问:“这些能证明是人为问题吗?”
老周说:“能证明一部分。别说模型自己决定,至少这些关键阈值是人改的,有审批,有备注,有收益目标。”
苏晓补充:“还要证明调参后出现了误伤关联。时间线、案例、配置、影响范围要对上。”
磊磊叹气:“你俩一个证据链,一个时间线,听得我像在参加锅具溯源大会。”
何苗接话:“这段日子标题精准。”
老周不喜欢开发布会式的揭露。他说真正有用的东西要能经得住对方挑刺。于是他逼着林凡把所有调参记录按“谁改、何时改、改了什么、为什么改、影响了谁”整理。每一条都要能对应到案例。林凡整理到半夜,眼睛发酸。磊磊陪着补材料,困得把“阈值”打成“鱼值”,被老周骂了一句“你是不是要把模型炖了”。
第二天,云启未来内部开会。顾启明听完老周的调参分析,脸色很难看:“这些记录如果提交,星穹和客户都会说我们误读配置。”
老周说:“那就让他们解释。解释清楚了,大家都好;解释不清楚,就别再说模型自己学坏了。”
顾启明看向林凡:“你也这么想?”
林凡说:“我们不做动机判断,只列事实。参数是谁调的,调参目标是什么,调参后哪些误伤增加。这些不该被藏在‘自动化偏差’里。”
会议室里有人担心:“这样会不会得罪所有人?”
磊磊小声说:“已经得罪一半了,不如得罪得有技术含量。”
何苗踢了他一脚。
老周最后把一句话写进报告摘要:黑箱不是天然黑,很多时候是人为把灯关了。
何苗看着这句,说:“这句能当第 249 章标题的前传。”
林凡没有接话。他突然明白,老周揭露的不只是调参,而是技术叙事里最方便的一种谎言:把人的选择说成机器的结果。只要大家相信是模型自己复杂、自己不可解释、自己自适应,就没人去问是谁把阈值调高,谁把权重加重,谁把紧迫感增强,谁在收益目标旁边签了字。
晚上,老周一个人坐在白板前,把旧笔记翻出来。那本笔记边角磨得发毛,里面夹着很多年前的设备事故记录。他对林凡说:“我以前在厂里见过类似的。设备出事,大家说机器老了;后来查出来,是有人为了赶产量少做维护。时代变了,话术升级了,本质没升级多少。”
林凡问:“您累吗?”
老周说:“累。但有人把灯关了,就得有人摸到开关。”
磊磊在门口听见,忍不住插一句:“师父,你这句话很燃。”
老周回头:“燃完你去整理附件。”
磊磊:“燃得很短。”