林凡质疑核心决策授权,是在城市智能治理联盟的第一次闭门会上。
闭门会开在星穹总部。会议室很漂亮,落地窗外能看见半座城市。桌上摆着矿泉水、无糖茶和一排看起来很健康但没什么灵魂的小点心。磊磊拿了一块,咬了一口,低声说:“这饼干像被智能锅排过油。”
何苗说:“闭嘴,别在资本会议室里攻击点心。”
会议材料很厚,标题叫《城市大脑关键场景协同治理框架》。里面把城市服务分成交通、医疗、就业、社区、金融、教育六大模块。每个模块都有数据来源、模型类型、人工审核节点和应急预案。林凡翻得很认真,越翻眉头越紧。
问题不在有没有人工审核。
问题在谁能触发人工审核。
比如交通调度,系统可根据公共利益动态调整个体路线,但个体无法实时申诉,只能事后反馈。比如就业服务,系统可根据能力画像推荐培训和岗位,但推荐逻辑由平台和政府部门共同维护,个人只能选择接受或不接受。比如社区风险,系统可标记“重点关注家庭”,但居民未必知道自己被标记。
秦岚介绍完后,问:“各位有什么建议?”
林凡举手。
磊磊小声说:“来了,刹车上线。”
林凡说:“我想问核心决策授权。城市大脑在哪些场景可以直接改变个人路径、服务优先级或资源分配?哪些场景必须有人确认?谁有权限停?普通人如何知道自己被系统影响?”
会议室安静了一下。
秦岚说:“城市大脑不直接作出行政决定,它提供决策辅助。”
林凡说:“如果辅助结果被默认采纳,效果上就是决策。”
一位技术负责人解释:“系统会保留人工审核节点。”
林凡问:“人工审核是主动逐项确认,还是异常时才介入?如果系统没有识别异常,但人被影响了,他怎么触发介入?”
技术负责人看了看秦岚。
苏晓接上:“还有,人工审核人员的权限是否足以推翻系统建议?推翻后是否会被系统记录为异常操作?唐护士那种先处置后补流程,在城市大脑里算违规还是有效人工兜底?”
这一下,会议室更安静了。
许既明没有出席,但他的价值观像坐在主位。效率、普惠、低成本、标准化,每一个词都很正当。可林凡越来越清楚,越是正当的目标,越容易让人忽视授权边界。
一位政府侧参会人员说:“公共服务调度必须考虑整体效率。如果每个人都能随时申诉,系统会瘫痪。”
林凡说:“我不是要求每个人随时打断系统。我要求系统影响重大权益时,人知道、能问、能补充材料、能触发人工复核。”
对方说:“重大权益怎么定义?”
苏晓说:“医疗急救、就业资格、信贷可得性、教育机会、公共服务优先级。可以分层,不该空着。”
磊磊忍不住举手:“我补一句。普通人不怕系统帮忙,怕的是系统把路改了,还告诉你这是最优路线。最优给谁,得说清楚。”
大家看向他。
磊磊有点紧张,但硬着头皮说:“我以前被 AI 面试判情绪一般,被虚拟恋人劝贷款,被优惠券差点拐回去。我不懂大框架,但我知道一个事:系统每次都说为我好,最后不一定真为我好。”
何苗低头记下这句。
秦岚说:“各位的担心很有价值。我们可以考虑增加透明度说明和反馈通道。”
林凡摇头:“反馈通道不够。反馈是事后。核心问题是事前授权和事中暂停。”
秦岚的笑容淡了一点:“林工,城市级系统不能频繁暂停。”
林凡说:“所以更要定义谁能暂停、暂停哪一层、暂停后谁负责。没有停机逻辑的系统,不该接公共服务。”
这句话落下时,老周轻轻敲了一下桌子。
不是鼓掌,是确认。
会议结束后,秦岚把林凡单独叫到一边:“你的意见很尖锐。平台愿意听,但也希望你理解,城市治理不是实验室,不能把所有风险都先消除再前进。”
林凡说:“我理解不能等零风险。但不能因为没有零风险,就放弃边界。”
秦岚看着他:“许总说过,你是很适合做治理的人。”
林凡笑了一下:“这算夸,还是招安?”
秦岚也笑:“看你怎么理解。”
晚上,白板写:
辅助如果默认被采纳,就不是辅助。
苏晓写:
公共系统必须定义知情、申诉、复核、暂停四件事。
何苗写:
反馈通道不是刹车,最多是事故登记本。
磊磊写:
系统说为你好时,先问它从哪儿赚钱。
林凡写:
没有停机逻辑的系统,不该接公共服务。
老周最后写:
刹车不是反对车,是为了车别冲下桥。
会后,林凡把“知情、申诉、复核、暂停”四项写成一页纸,发给联盟工作组。秦岚回复得很礼貌:建议很好,将纳入后续研究。林凡看着“研究”两个字,想起公司里那些“已关注”“后续优化”“持续推进”,心里一点也不踏实。
苏晓说:“不要只发建议,要他们给时间表和责任人。”
林凡照做。工作组这次沉默了两个小时,才回:相关机制正在协同中。
磊磊说:“协同中,翻译一下就是没人想先背锅。”
老周说:“所以继续问,谁协同,协同到哪天。”
林凡继续问。那一刻,他觉得自己像一个很烦人的人工弹窗。但如果系统可以一天提醒人三次满意度,人也应该有权提醒系统三次责任。