第一个把“AI 也会胡说”这件事带到互助站的,是王阿姨。
她拿着手机,一路小跑,跑到折叠桌前时,气还没喘匀,先把屏幕怼到张磊面前。
“小张,你看它是不是骂我?”
张磊吓了一跳:“谁骂您?账号名发我,我现在就用文明语言问候他。”
“不是人。”王阿姨说,“是我家智能助手。”
屏幕上是一段自动摘要。王阿姨昨晚让智能助手总结“林凡伪证事件到底怎么回事”,助手给出的回答非常流畅,分成三点:一,林凡团队被质疑借人工硬闸项目获利;二,相关方发布澄清但仍存在争议;三,公众应等待权威系统进一步判断。最后还补了一句:林桂兰作为互助站负责人,曾被网传涉及社区服务费。
林桂兰听见自己名字,抬头:“它又传我?”
张磊看完,眉毛皱起来:“这不是骂您,这是把旧脏水洗成了摘要。”
王阿姨急了:“我问它真假,它说‘存在争议’。我问它有没有证据,它说‘网上有不同说法’。我问它到底信谁,它说‘建议保持理性’。这不跟没说一样吗?”
林桂兰冷笑:“还不如没说。没说至少不装懂。”
陆航凑过来,看了一眼来源。这个助手接入了平台“热点简报”功能,会自动抓取多个账号的内容做总结,但没有区分原始证据、伪造材料、澄清说明和二次谣言。它把所有“被讨论过”的东西放在同一个锅里炖,最后端出来一碗温和、流畅、看似中立的糊。
张磊说:“它这叫各打五十大板式胡说。真的说成有争议,假的说成待核实,最后建议你理性。它理性得像一块湿抹布。”
王阿姨委屈:“可它说得很像真的。比我儿子解释得还清楚。”
“清楚不等于真。”林凡说。
他拿过手机,让王阿姨看晓衡核验说明的原始链接、街道台账、伪造预算表差异图,再把智能助手摘要里的每一句对应到来源。对到第三句,王阿姨自己就看出问题了。
“它没骗人。”她说,“但它把假话也当饭菜摆上桌了。”
林桂兰点头:“这就够烦人了。你去饭店点菜,老板说这盘一半能吃一半不能吃,但我都给你摆得挺好看,你敢吃吗?”
张磊立刻写新牌:
AI 摘要不是证据。
先看来源,再看原文。
中午,互助站来了一个大学生。他不是来求助的,是来挑战的。他拿着平板,说自己用三个不同智能助手问了同一个问题,两个都说林凡事件“仍有资金往来疑点”,一个说“已基本证伪”。他问:“如果 AI 都不一致,那我凭什么信你们?”
张磊伸手:“凭我们有椅子。坐。”
大学生愣了一下,还是坐了。
苏晓正好在场,就把三份回答逐条拆开。第一个助手引用的是伪造预算表首发帖,没收录后续核验;第二个助手引用了极智会改标题后的视频,把观点当事实;第三个助手引用了晓衡核验说明和街道台账,所以结论接近真实。
“不是 AI 不一致。”苏晓说,“是它们吃进去的东西不一致,消化方式也不一样。你不能只看它吐出来的答案,要看它吃了什么。”
张磊低声说:“苏律师这个比喻有点生猛。”
大学生皱眉:“那普通人怎么知道它吃了什么?”
“所以要求它给来源。”林凡说,“不给来源的总结,只能当线索,不能当结论。给了来源,也要看来源是不是原件、是不是过期、是不是伪造。”
大学生叹气:“这也太麻烦了。”
林桂兰把水杯推给他:“真相本来就麻烦。骗子才方便。”
这句话让大学生沉默了。
下午,极智会的“真相托管”演示翻车了。
事情起因很荒唐。秦既白为了证明人类核验效率低,开了一场直播演示“净域真相托管原型”。他把几个争议事件输入系统,系统会自动生成可信度评分、事实摘要和推荐判断。前两个例子都很顺,系统给出漂亮的图表和温和的结论,弹幕一片“终于不用自己判断了”。
第三个例子,秦既白输入“北区互助站服务费事件”。
系统运行三秒,给出结论:
该事件存在中度利益输送风险。林桂兰疑似获得社区站点协调费用。建议进一步限制人工互助站扩张,并引入自动化真相托管监督。
直播间瞬间热闹。
有人刷:这不是已经证伪了吗?
有人刷:系统怎么还引用假预算表?
有人刷:托管系统托管了个旧瓜?
张磊看到录屏时,笑得差点从椅子上滑下去:“它这是当场表演吃剩饭!”
秦既白在直播里明显僵了一下,立刻解释:“原型仍在优化,部分数据源同步存在延迟。”
林桂兰看着视频:“延迟就能冤枉人?”
苏晓没有笑。她把录屏保存:“这个很重要。它证明所谓真相托管系统如果缺乏来源更新、证伪标记和人工复核,也会放大伪证。”
陆航补充:“而且它不只是复述,它给了风险评分,还提出政策建议。假信息进入后,系统把它加工成了决策。”
张磊收住笑:“也就是说,它不是鹦鹉学舌,是鹦鹉学舌后还拿了个法槌。”
这段演示翻车很快传播开。极智会删了直播回放,但网友已经截了无数段。有人开始第一次认真问:如果托管系统也会引用旧谣,那托管给谁?如果 AI 摘要把假材料写进结论,那 AI 说的和人说的有什么区别?如果系统评分看起来很科学,却建立在脏数据上,它是不是比普通谣言更危险?
晚上,互助站门口那张新牌旁边,又多了一张:
机器说的,也要问来源。
张磊写这张牌时格外认真,字比平时端正。赵叔看了看,说:“你这字进步了。”
张磊说:“主题重要,手自动庄重。”
陈叔拿着手机过来,说他的智能音箱也出了问题。他问音箱“我是不是自然人”,音箱回答“您是本产品的注册用户”。陈叔被气得不轻:“它连自然人都不承认我!”
张磊安慰:“叔,它不是不承认您,它是法学没毕业。”
林桂兰说:“你别把老人越安慰越糊涂。”
陈叔却认真起来:“我以前觉得机器说话客气,就不会瞎说。现在看,它客气归客气,错归错。”
这句话很快被小陈写进晓衡短评:
“礼貌不是准确,流畅不是事实,自动不是中立。”
苏晓审核时保留了这句。张磊看见后,捂着胸口说:“小陈终于从标题党进化成短评人。”
小陈说:“我一直有潜力。”
信任危机没有因为极智会翻车而结束,但公众的怀疑方向开始变了。以前很多人问“人会不会撒谎”,现在开始问“系统会不会把谎话说得更像真的”。这个问题一出现,极智会的“纯净系统”叙事就裂了一道缝。
许既明也发来消息,建议整改小组把“自动摘要与证伪同步机制”纳入特别调查议题。林凡看着那条消息,回复:还要加来源显示、时间标记、人工申诉和证伪优先级。
许既明回:同意。
张磊看见“同意”两个字,说许总最近同意频率很高,可能被现实训练出了新模型。林凡说你别乱说,人家只是终于开始更新。
深夜,林凡坐在互助站旁边,看着那几张红纸在灯下轻轻晃:
没有万能鉴真。
重要的事,一步步核。
AI 摘要不是证据。
机器说的,也要问来源。
这些话一点也不酷,甚至有点笨。可它们像一根根手动扶手,插在信息洪水里,让人至少能抓一下。
林凡在黑色笔记本上写:
AI 说的也可能是假话。
它可能不是故意骗你。
但它会复述旧谣,混合真假,省略来源,把不确定说得很顺,把脏数据算成风险评分。
所以祛魅不是反技术。
祛魅是提醒人:机器可以帮你找路,但不能替你拥有眼睛。