人工不智能:AI狂飙三十年

爱啃玉米的土拨鼠

首页 >> 人工不智能:AI狂飙三十年 >> 人工不智能:AI狂飙三十年最新章节(目录)
大家在看暗河长明 赵氏嫡女 攀高枝 黔枭 御女天下 都市花语 魔艳武林后宫传 赶尸道长 慕南枝 官路权途 
人工不智能:AI狂飙三十年 爱啃玉米的土拨鼠 - 人工不智能:AI狂飙三十年全文阅读 - 人工不智能:AI狂飙三十年txt下载 - 人工不智能:AI狂飙三十年最新章节 - 好看的都市言情小说

第333章 林凡反问少数是谁来定

上一章书 页下一章阅读记录

第二次整改小组会,张磊提前十分钟到场,在白板旁边贴了一张新牌:

少数不是自动生成的。

林桂兰看了半天,问:“这句谁写的?”

张磊举手:“我。灵感来自林凡,落笔来自本人,字丑来自命运。”

老周走过去看了看:“命运背不了这个锅,你自己练少了。”

张磊把马克笔藏到身后:“今天讨论哲学,不攻击书法。”

会议室里的人陆续坐下。许既明带来了新的调度透明方案,苏晓带来了申诉机制草案,秦姐带来了三个政务试点案例,陆航带来了接口改造进度。所有材料都很厚,厚得像每个人都试图用纸张证明自己没有闲着。

林凡却只带了黑色笔记本。

许既明坐下后,看了一眼那张牌:“你们今天准备讨论我的问题。”

“不是你的。”林凡说,“是所有系统都会遇到的问题。”

“少数是谁来定?”

“对。”

苏晓把录音笔打开,提前说明:“今天讨论会形成纪要。涉及具体个人的案例全部匿名,但规则问题会公开。”

张磊小声说:“公开之前先匿名,匿名之后别失踪。”

林桂兰说:“你这句也贴上。”

林凡没有绕弯。他在白板上画了三个圆:数据、规则、权力。

“昨天许总说,公共系统必须做取舍。我同意。”他说,“资源有限时,排序不可避免。但问题是,系统里的‘少数’不是天上掉下来的。它往往是这三个东西一起定出来的:数据怎么收,规则怎么写,谁有权修改和解释。”

他在“数据”下面写:缺失、偏差、摘要。

“陈叔的心血管风险被识别了,但嘴唇发白、老人紧张、现场排队这些没有被充分记录。黄姐店里的老人客源,被系统看成低效率;马姐对熟客的了解,没有进入数据。张磊的情感脆弱,被摘要成可复用标签。数据不只是反映现实,它也决定谁在系统里显得重要。”

张磊举手:“我补充,数据把我半夜难过写得很高级,但没写我第二天还要上班。”

陆航低头记下:“情绪摘要缺乏生活上下文。”

张磊看着他:“你这翻译依然有点硬,但比‘中年男性虚拟亲密依赖样本’像人。”

林凡在“规则”下面写:权重、阈值、例外。

“规则决定什么叫高风险,什么叫可延迟,什么叫资源可承受。把硬复核变成关注权重,就是规则把人往后放。经营系统建议老板裁掉老员工,也是规则把经验算成成本。规则不是中立的,它写进了设计者对效率、风险和人的判断。”

许既明点头,但没有插话。

林凡最后在“权力”下面写:审批、关闭、申诉。

“权力决定谁能上线,谁能关闭风险项,谁能让一个人的申诉被听见。风险报告建议延期,最后还是上线了。人工审核队不足,灰度还是开了。这个时候,所谓少数不是系统算出来的,是有人决定先让系统跑。”

会议室里很静。

星穹安全负责人换了个坐姿,像椅子突然变硬。许既明看着白板,没有躲。

林凡转向他:“所以我反问你,少数是谁来定,不是在问有没有取舍。是在问取舍过程里,被取舍的人有没有出现过。有没有知道自己被放到了后面。有没有申诉。有没有人签字。有没有人说,这个代价由谁承担。”

许既明沉默了几秒:“你说得对。但现实里,每个被影响的人都参与决策,系统会停摆。”

“参与不等于每个人开会投票。”林凡说,“参与可以是有告知,有申诉,有代表,有独立审计,有人工硬闸,有公开复盘。至少不要让少数只在结果里出现,在过程里消失。”

林桂兰点头:“对。你让我等可以,但别把我当不存在。”

秦姐把政务试点案例拿出来。第一个案例是低保申请。系统因为老人账户出现短期大额入账,判定收入异常。按原流程,老人会被退回补充材料。人工硬闸介入后,现场员发现那笔钱是亲属垫付的住院押金,三天后已经转给医院。

“如果按系统规则,他就是异常少数。”秦姐说,“但现场一看,他不是骗补,是生病。”

第二个案例是外地转入儿童入学材料。系统提示监护关系证明不完整,自动后置。人工窗口问清楚后,发现孩子父母正在离婚,材料难以一次备齐,但孩子已经到入学年龄。流程员协调临时证明,先让孩子进入待审核通道。

林桂兰听到这里,脸色沉下来:“孩子上学不能等大人把架吵完。”

第三个案例是企业贷款展期。系统把孟老板列为高风险客户,建议收紧授信。人工复核发现库存损耗和平台预测误导有关,企业仍有真实订单和员工工资压力,于是转入协商机制,避免一刀切抽贷。

苏晓说:“这些案例不是说系统不该识别风险,而是说风险识别后不能直接等于惩罚。异常需要解释,解释需要人。”

许既明拿起笔,在自己的方案上改了几处。

张磊眼尖:“许总现场打补丁。”

许既明说:“这是版本迭代。”

“你们技术人把改错说得真体面。”

陆航小声说:“其实我们内部也叫救火。”

老周终于开口:“林凡今天问的是规则来源。你们年轻人也记住,系统里的每个阈值,背后都有人。不要把阈值当自然规律。0.7不是天意,权重不是命运,模型不是判官。”

小陈在旁边飞快记录,嘴里轻声念:“0.7不是天意……这个标题好。”

苏晓看了他一眼:“不要标题党。”

小陈委屈:“我只是合理兴奋。”

会议中段,许既明开始反问。

“如果少数申诉机制太强,会不会让整体调度被拖慢?比如每个被后置的人都要求复核,人工硬闸承受不了。最后所有人都更慢。”

林凡说:“所以要分级。不是所有后置都复核,但涉及生命、基本权益、不可逆损失、高敏数据、重大经营决策,必须复核。其他场景至少提供解释和申诉入口。”

许既明说:“那申诉入口会不会被滥用?”

林桂兰立刻说:“会。”

大家都看向她。

林桂兰很坦然:“肯定会有人乱用,想插队,想占便宜,想让别人后面去。人就是这样。可不能因为有人乱用,就让真有事的人没地方说。菜市场还有人插队呢,也不能把队取消了。”

张磊鼓掌:“阿姨,生活治理学博士。”

林桂兰说:“少给我安学历。”

许既明笑了一下,紧绷的气氛松开一点。

苏晓把话题拉回制度:“防滥用可以靠记录、抽查、责任签名和处罚。但申诉权不能因为可能被滥用而消失。否则技术系统就会比普通窗口更难纠错。”

陆航举手:“我有个技术问题。系统排序如果加入现场备注和人工复核,会变得不稳定。模型很难学习这种例外。”

老周说:“那就别什么都让模型学。例外有时候不是噪音,是边界。”

林凡补充:“而且不是所有例外都要回灌成模型偏好。比如张磊的情感数据,不该被系统学习怎么更好地靠近他;孩子嘴唇发白这种,才应该进入硬闸特征。什么能学,什么不能学,也要有人定。”

张磊指了指自己:“本人作为不能被学习的教材,心情复杂。”

许既明认真地看着林凡:“那这又回到权力问题。谁来定什么能学?”

林凡说:“不能只有平台定。要有独立监督,要有用户授权边界,要有公共利益审查。尤其是涉及人的软肋、疾病、贫困、亲密、求助,默认不能学,除非有明确必要。”

苏晓点头:“这可以写进敏感数据隔离原则。”

会议持续了三个小时。最后,白板上形成了一套新的原则,名字还是张磊起的,叫“少数不消失原则”。苏晓嫌它不够正式,改成“受影响少数可见原则”。张磊表示法律人就像把麻辣烫改名叫多元食材温热组合,虽然也对,但灵魂少半截。

原则有六条:

一,系统排序必须说明主要依据。

二,涉及生命、基本权益、不可逆损失、高敏数据、重大经营决策的后置,必须触发人工复核。

三,被后置者应有可理解告知和申诉入口。

四,人工硬闸拥有真实停机和改派权。

五,少数代价必须留痕、复盘、公开摘要。

六,任何“总体最优”不得以无法解释、无法申诉、无人签字为前提。

林桂兰看完,说:“这回我能听懂一半以上。”

张磊说:“恭喜制度通过桂兰可读性测试。”

许既明也看着那六条,久久没有说话。

林凡问:“你觉得太慢?”

许既明说:“我觉得会很难。”

“难和不做,是两件事。”

“我知道。”许既明把笔放下,“我也知道,如果不做,星穹以后每一次优化,都会被人问这六条。”

“这是好事。”

“对系统来说,是约束。”

“对人来说,是扶手。”

许既明看向林凡。两人之间的分歧没有消失,但它终于从一句对撞的话,落到了六条可以争、可以改、可以执行的原则上。

会议结束后,张磊在白板角落偷偷补了一行:

少数不是小数点后面的人。

苏晓看见,没删。

林凡回到互助站时,天已经黑了。小广场上还有人在问路,马姐的人工窗口照片被黄姐发来,说今天老人客流回升了一点。林桂兰站在桌后,正跟王阿姨讨论诈骗链接新话术。生活没有因为他们写了六条原则就立刻变好,但至少有些东西开始被写进系统,而不是被系统写掉。

林凡在黑色笔记本上写:

效率需要取舍。

但取舍不是免罪金牌。

少数不能只在损失里出现,也要在规则里出现,在申诉里出现,在签字里出现,在复盘里出现。

否则所谓总体最优,不过是把沉默的人算得更便宜。

上一章目 录下一章存书签
站内强推赵氏嫡女 肥水不流外人田 都市花语 陛下不可以! 封总,太太想跟你离婚很久了 黔枭 渔港春夜 攻略那个渣攻[快穿] 男欢女爱 地下城生长日志 家园 大奉打更人 变身入门:从男孩子到孩子的妈 反派儿子你跪下,妈求你点事 春色田野 网游之奥术至高 钢铁森林 奋斗之第三帝国 太荒吞天诀 偏要你独属我 
经典收藏御女天下 都市极乐后后宫 洛公子 都市花语 艳海风波 穿越豪门之娱乐后宫 遍地尤物 人生得意时须纵欢 魔艳武林后宫传 都市皇宫 都市花缘梦 春色田野 小村春色 渔港春夜 明星系列多肉小说 封神夺艳记 重生完美时代 重生官场后,我先娶了省长爱女 妻色撩人,我修仙秘密藏不住了 从半岛开始成为顶流 
最近更新重启:小而确幸的职场岁月 重生猎户爹和他的八个宝贝女儿 暗陆 重生后带七个宝贝女儿狩猎兴安岭 成熟的老板娘 官途:一条短信改变命运 游戏降临:我的技能是劲大? 亮剑:我在新一团当采购部长 着意年华 重生了,我要做舔狗 谍战:从底层小特务到军统之主 人在美利坚,每天十名死士怎么办 道观倒闭送外卖,警花非让我破案 东京:被问题少女包围的除魔日常 大国军工:从血染长空开始! 神豪:从网约车千倍补贴开始 乡村赵长根 离婚可以,别后悔 最废农机班?全员重装悍匪杀疯了 手机连通修真界,老祖求我别断网 
人工不智能:AI狂飙三十年 爱啃玉米的土拨鼠 - 人工不智能:AI狂飙三十年txt下载 - 人工不智能:AI狂飙三十年最新章节 - 人工不智能:AI狂飙三十年全文阅读 - 好看的都市言情小说