第二天上午，城市大脑试点专项会开在市政中心三楼小会议室。
小会议室这个名字很有欺骗性。它一点也不小，桌子长得像能直接举行国际谈判，水杯统一摆成这条线，话筒红灯亮起来的时候，人说话会自动变得像新闻发布会。磊磊坐在靠墙的位置，刚拿起笔，就被桌牌震住了。
他的桌牌写着：晓衡风险咨询协作人员。
磊磊看了半天，低声问何苗：“协作人员是不是听起来比打杂高级？”
何苗没抬头：“看你怎么协作。你要是等会儿又把话题带到外卖上，就叫会场餐饮气氛破坏人员。”
磊磊把笔放端正，坐姿立刻像被人工智能重新训练过。
会议主题很正式：城市大脑试点风险责任边界讨论。这个标题听起来比“谁背锅”体面很多，但大家心里都知道，今天真正要谈的就是这个。系统一旦联动，责任会变得像热锅上的冰块，看得见，摸不着，一开会就蒸发。
林凡把昨天夜里整理好的材料分发下去。第一页没有写复杂模型结构，只写了一个普通案例：独居老人磊阿姨被异常关怀系统标记，五个部门陆续响应，最后发现她只是去女儿家住了两天。材料后面列着每个系统的说明。
水务系统：仅提供用水异常参考。
门禁系统：仅提供出入记录参考。
医疗系统：仅提供复诊状态参考。
社区系统：仅根据综合提示生成关怀工单。
政务服务系统：仅根据服务标签推送便民信息。
磊磊看到一排“仅”，忍不住小声说：“这个字是不是系统界的护身符？”
老周把老花镜往下压：“护身符还讲究心诚，这个讲究甩得快。”
林凡没有急着展示结论。他让参会人员先看材料，又把每个系统的责任说明投到屏幕上。几位技术供应方代表表情都很稳，有人翻页，有人喝水，有人低头看手机，像一群成年人正在集体假装这个问题昨天才第一次出现。
星穹的人也来了。许既明坐在桌子另一侧，深灰西装，袖扣很低调，发言前先听，听的时候也很像在发言。他旁边的技术负责人姓钟，头发梳得一丝不乱，说话更是一丝不乱。
钟负责人说：“从平台角度看，城市大脑提供的是辅助决策能力。每个业务部门仍然保留最终处置权。算法不直接做行政决定，这一点在技术协议里写得很清楚。”
这话没错，甚至正确得像一块崭新的玻璃。
林凡问：“那如果所有业务部门都按照辅助建议走，最后结果错了，谁来解释？”
钟负责人微微一笑：“具体处置由业务部门负责。平台负责能力输出和技术保障。”
社区代表那边有个街道干部姓刘，听到这句坐直了：“但我们收到的是系统综合工单。工单等级、响应时限、建议话术都已经生成了。平台说只是建议，群众投诉的时候不会投诉建议，他会投诉我们为什么上门、为什么打电话、为什么把他列入重点关怀。”
钟负责人说：“所以业务部门需要建立复核流程。”
刘干部苦笑：“我们一个网格员管三百多户。复核流程写得很美，到了现场就是小王骑电动车从东头跑到西头，跑完还要填表。系统一分钟生成十个工单，人腿没有这个并发量。”
磊磊在本子上写：人腿并发量，建议列入技术指标。
顾启明看见他的本子，表情复杂，像想骂又觉得有点用。
林凡翻到第二页，上面是小商户误标案例。早餐铺被恶意举报，记录撤销不完整，几个部门各自提高关注级别。没有哪个部门正式处罚它，但它连续三次被推迟审批，一次被临时检查，两次错过活动摊位申请。老板在材料里的原话是：我没犯事，可日子像被系统轻轻踩了一脚，脚不重，但一直不拿开。
林桂兰看到这句话，叹了口气：“这老板会说。”
一位审批部门代表皱眉：“这个案例里，审批延迟有多种原因，不一定能归因到风险标签。”
苏晓坐在林凡旁边，翻开自己的文件：“所以我们要求可追溯。不是为了把责任硬扣给某个部门，而是要知道风险标签在哪些节点被读取过，是否影响排序、是否触发复核、是否改变办理时限。否则每个环节都说‘不一定’，最后群众只能一定倒霉。”
会议室里有人低头，有人交换眼神。
“黑箱”这个词，以前常被拿来形容技术模型。输入进去，输出出来，中间看不懂，所以叫黑箱。可林凡越来越觉得，真正让人无力的黑箱，不一定藏在代码里。它也藏在流程图里，藏在部门边界里，藏在“按规定办理”的话术里，藏在一个又一个看起来合理的职责说明里。
一个盒子看不懂，还可以要求打开。
一个借口看起来太合理，反而很难拆。
许既明终于开口。他说：“我同意需要更强的追溯机制。但也要避免把技术平台变成无限责任主体。如果每个业务后果都回推给底层能力，供应方会无法创新。”
这句话说得很漂亮。创新两个字一出来，空气都显得高端了一点。
磊磊低头写：创新，成年人版“我不是故意的”。
何苗用胳膊肘轻轻碰了他一下，让他别笑出声。
林凡看向许既明：“没人要求平台承担无限责任。我们要求的是可解释、可暂停、可纠错、可追责。你们可以不对每个业务结果负责，但必须对自己的输出边界负责。比如一个标签被设计成低置信度，却在下游被当成强信号使用，平台有没有提醒？一个接口被多个部门依赖，临时调整会影响公共服务，平台有没有提前告知？一个模型输出被频繁人工推翻，平台有没有监测偏差？”
许既明没有马上回答。
钟负责人接话：“这些可以通过接口协议和使用规范解决。”
老周突然说：“规范谁看？”
钟负责人顿了一下：“业务部门会看。”
老周问：“一线人员看吗？”
“会培训。”
“培训完记得住吗？”
钟负责人表情终于有点绷不住：“周老师，任何制度都需要执行。”
老周点头：“对，所以别把执行想得像下载补丁一样。人不是装一下就更新成功。”
磊磊差点鼓掌，忍住了，只在桌子底下给老周比了个大拇指。
林桂兰举手发言。她今天穿了一件暗红色外套，头发梳得很利索，手里拿着一张皱了边的纸。那是她昨晚在社区群里问来的问题，字有些大，有些歪，但每一条都具体。
“我不懂你们技术怎么分工。”她说，“我就问几件事。第一，系统找我上门，我能不能问为什么？第二，理由错了，我找谁改？第三，我不会线上提交，能不能去社区交纸？第四，我被错标了，别的部门还会不会看见旧东西？第五，你们说只是参考，那工作人员能不能因为参考就少给我办事？”
她念完以后，把纸放到桌上。
会议室里一时间没人说话。
这五个问题没有任何术语，没有“模型治理”，没有“数据闭环”，没有“责任矩阵”，但它们比所有大词都难糊弄。因为它们不是站在系统角度问“怎么运行”，而是站在人角度问“我怎么办”。
苏晓轻轻点头，把这五条抄进会议纪要：“这就是公众可理解责任链。”
一位市里负责人看向林凡：“你们建议怎么写进试点方案？”
林凡把准备好的第三页投出来。标题很短：黑箱治理，不止开盒。
下面是四个要求：
每一次高影响系统联动，必须生成责任链记录。
每一个风险标签，必须注明来源、置信度、用途限制、撤销方式和有效期限。
每一个“仅供参考”，必须对应“被谁参考、如何参考、是否可拒绝参考”。
每一个影响居民权益的自动建议，必须提供人工复核入口和离线申诉入口。
磊磊看着屏幕，小声说：“这哪是治理黑箱，这是给黑箱办身份证。”
何苗说：“还要年检。”
老周补刀：“违法乱纪吊销。”
会议室终于笑了一下。笑声不大，但让前面那堆沉甸甸的话稍微落了地。林凡喜欢这种笑，不是为了冲淡问题，而是让人有力气继续把问题说清楚。
许既明看完那四条，手指在桌面轻轻点了两下：“技术上可行，但成本不低。”
顾启明说：“错了以后再补，成本更高。”
刘干部也点头：“我们基层最怕模糊。模糊的时候，上面说按系统，群众骂我们，平台说看协议，最后就剩网格员站在门口解释。解释得好叫服务，解释不好叫矛盾升级。”
磊磊在本子上写：基层，黑箱最终出气口。
写完他自己愣了一下。以前他写这种句子，大多为了好笑。现在也好笑，但笑完总觉得扎。系统越大，普通工作人员越容易变成“最后一公里背锅侠”。他们不是没有责任，可也不该用一辆电动车、一支笔和一张笑脸，去消化所有上游设计留下的坑。
会议开到中午，方案终于出现了几处实质性修改。责任链记录被加入试点一期必备功能，高影响标签设置最长有效期，居民申诉不再只挂在 App 里，社区服务中心必须保留纸质提交渠道。最关键的是，“仅供参考”四个字后面，新增了一段说明：凡进入业务排序、资源分配、服务限制、风险关注等环节的系统建议，均须记录实际使用方式，不得以参考名义规避责任。
磊磊看到这段，低声说：“仅供参考终于成年了，开始承担民事责任。”
林桂兰问：“啥意思？”
“意思就是，”磊磊想了想，“以后它不能光嘴上说说，得留下字据。”
林桂兰满意了：“那行。人说话都要算数，机器凭什么撒完娇就跑。”
下午散会时，许既明在走廊里叫住林凡。
走廊尽头有一台自动贩卖机，里面的饮料排列得整整齐齐，每一瓶都像被算法安排好了人生。许既明买了一瓶无糖茶，递给林凡。林凡没接。
许既明笑了笑：“不用这么紧张，一瓶茶不算利益输送。”
林凡说：“我怕回去写日志麻烦。”
许既明把茶收回来，自己拧开：“你现在越来越像周老师。”
“这算夸奖。”
“当然。”许既明喝了一口茶，“但你也要知道，城市级系统不可能每一步都等人确认。效率和责任之间，总要有取舍。”
林凡看着他：“取舍可以。问题是谁来取，替谁舍。”
许既明没有立刻笑。他望向会议室方向，里面还有工作人员在收拾桌牌。“你把黑箱说成借口，很有传播性。”
“不是为了传播。”
“但它会传播。”许既明说，“传播以后，很多人会把复杂问题简单化。供应方会被妖魔化，试点会变慢，大家会害怕承担责任。”
林凡说：“害怕承担责任，不是因为我说了什么，是因为他们以前太习惯把责任藏起来。”
许既明轻轻叹了口气：“你这人，越来越不好谈。”
林凡也笑了一下：“我以前好谈，是因为没看清楚。”
两个人站在走廊里，谁都没有再往下说。自动贩卖机发出细微的电流声，屏幕上滚动播放着“智能推荐，懂你所需”。林凡看着那行字，忽然觉得它和城市大脑的宣传语很像。懂你所需，前提是它真的懂；如果不懂，至少要允许人说：你弄错了。
晚上回到云启未来，白板上还留着昨天那句话：一处误判，多处响应；每处都说自己只是参考。
林凡在下面加了一句：
黑箱不是盒子，是借口；治理黑箱，不止开盒，还要拆借口。
磊磊看完，摸着下巴说：“这句可以当今天收工金句。”
顾启明从门口路过：“别什么都当金句，先把报告写完。”
林桂兰正好拎着保温桶进来，听见报告两个字，立刻说：“写报告可以，别写得像机器翻译机器。谁看不懂，我就让谁来社区群里解释。”
磊磊肃然起敬：“阿姨，你这是公众可理解性压力测试。”
林桂兰把保温桶往桌上一放：“别整洋词。就是人话考试。”
林凡看着会议室里的人。老周在翻日志，苏晓在线上改清单，何苗把术语拆成普通话，小陈工程师重新标注接口风险，顾启明一边嫌麻烦一边催进度，磊磊负责把严肃问题翻译成大家笑完还能记住的话，林桂兰则像一根结实的绳子，把所有讨论拽回普通人的生活里。
他忽然觉得，所谓治理黑箱，也许不是找到一个万能答案。
而是不断把那些躲在盒子里、流程里、协议里、漂亮话里的借口，一个一个拖到灯下，让它们不能再假装自己只是技术问题。