监管小组进驻青橙数科那天,公司前台把绿植都擦了一遍。
这件事让林凡很困惑。监管查的是 AI 系统、数据授权、日志保全和高风险场景,不是绿萝叶片反光度。但老板坚持说,细节体现态度。于是前台小姑娘一边擦叶子,一边小声吐槽:“我们公司态度主要集中在植物表面。”
上午九点半,三个人来到公司。带队的是市场监管部门的赵科长,旁边有网信办工作人员和一个技术专家。三人穿得都很普通,没有电视剧里那种压迫感,但他们一坐下,会议室的空气就自动开启了低温模式。
老板先做汇报,ppt 第一页写着“积极拥抱监管,构建可信 AI 生态”。林凡看到“生态”两个字,条件反射地想找出口。
赵科长听完开场,语气平稳:“我们这次来,不是看口号。主要核查三类问题:社区推荐事故整改情况,AI 合成内容风险响应流程,高风险项目上线审核机制。”
老板笑容一僵:“好的,我们完全配合。”
林凡、老周和法务小陈被叫去说明。林凡把事故日志保全流程、推荐规则整改、用户投诉处理和审核清单一项项展示出来。赵科长问得很细:日志保存多久?谁能访问?用户能不能申诉?商家复核是否有人工记录?健康类推荐是否还按点击率排序?
项目经理在旁边听得汗都快出来了。
技术专家看到“风险权重”时,问:“这个权重怎么来的?”
林凡说:“第一版是规则为主,基于场景组合:老年用户、健康服务、免费礼品、疗效暗示、倒计时促销等。后续会根据投诉和人工复核结果调整,但调整必须留版本记录。”
专家点头:“不要把所有东西都神秘化成模型自动学习。高风险场景,清楚的规则比漂亮的黑箱更有用。”
老周听到这句,难得露出一点“这人能处”的表情。
赵科长翻到心理陪伴项目审核记录,问:“这项目为什么暂缓?”
老板刚想解释商业节奏,林凡先说:“因为原方案缺少真人危机介入,宣传语过度承诺陪伴,聊天数据保存和训练用途不清晰。”
赵科长问:“谁提出暂缓?”
会议室里好几双眼睛看向林凡。
林凡举手:“我和老周、法务一起。”
赵科长看了他一眼:“压力大吗?”
林凡没想到她会这么问,愣了一下:“有点。”
“正常。”赵科长说,“所以审核机制不能只靠个人硬顶。你们要把否决条件写进制度,谁触发、谁复核、谁签字、谁整改,都要清楚。”
老周低声对林凡说:“听见没,外部版本的何苗。”
林凡差点笑出声。
核查持续了三个小时。监管小组肯定了部分整改,也指出不少问题:用户画像查看入口太深;部分授权提示仍然使用默认勾选;商家风险评级缺少定期复查;AI 生成内容标识不够显眼;投诉入口在移动端不易找到。
老板一边点头,一边把“立即整改”写得很用力。
会议结束前,赵科长说:“你们做的是技术服务,但服务落到人身上,就不是纯技术。不要等出了事再说用户没看清、商家不规范、算法自动生成。责任链要提前设计。”
这句话像一颗钉子,钉在会议室桌面上。
监管小组离开后,公司群里立刻热闹起来。有人说终于来了,有人担心以后项目更慢,有人问是不是要加班整改。老板发全员消息:公司将全面升级可信 AI 合规体系。
张磊看到截图,评论:“可信 AI 合规体系,听起来像老板终于给老周的话买了个包装。”
老周说:“包装不重要,里面别空。”
整改任务很快落下来。林凡负责用户画像透明度和高风险推荐申诉入口。陈茜负责投诉流程改版。马骏负责日志访问权限。项目经理负责协调客户,整个人像被监管小组抽走了周末。
林凡改移动端页面时,发现“为什么推荐给我”入口原来藏在三层菜单里,名字还叫“个性化体验说明”。他把入口改到推荐卡片旁边,文字改成“为什么看到这个”。客户一开始嫌影响页面美观。
林凡说:“被精准推荐的人,有权知道自己为什么被精准。”
客户说:“用户不一定看。”
“不看是他的选择,没有是我们的选择。”
这话后来被老周写进了整改纪要。
小区群也听说监管来了公司。林桂兰很骄傲,仿佛监管小组是她派去的:“你们看,我儿子他们公司现在正规了。”
刘大爷问:“那以前不正规?”
林桂兰立刻回:“以前是发展中。”
林凡看着截图,觉得母亲的公关水平也在进步。
晚上,云启未来白板写:
监管不是来灭火,是逼大家提前装水管。
何苗写:
合规不能只靠好人顶住,要靠制度留下来。
张磊写:
老板最怕的不是规则,是规则有检查日期。
林凡写:
用户不一定看见入口,但入口必须存在。
老周看完,补了一句:
责任链提前设计,锅才不会自由落体。
这句话被张磊圈起来,说适合做公司文化墙。
林凡说:“老板不会同意。”
老周说:“所以更适合。”
整改那几天,公司里最忙的不是技术部,而是所有曾经喜欢把“后续优化”写进周报的人。
监管小组走后,“后续”突然有了日期,“优化”突然有了负责人。以前可以在文档里飘半年的词,现在被赵科长一张整改清单按到地上,要求写清完成时间、验证方式和责任人。
张磊来公司楼下等林凡吃饭,看见项目经理顶着黑眼圈出来,吓了一跳:“你们公司这是被监管还是被吸走阳气?”
项目经理有气无力:“别提。以前我以为合规是法务的事,现在发现合规是所有人的加班。”
林凡说:“这话不严谨。准确说,是以前大家省掉的流程,现在集中回来要债。”
项目经理看了他一眼:“你最近说话越来越像老周,听着就让人想改需求。”
老周从后面路过:“那说明还有救。”
几个人一起去吃面。项目经理吃到一半,忽然说:“其实监管来也不是坏事。以前我跟客户提风险,他们嫌我找麻烦。现在我说整改要求,客户至少会听完。”
林凡点头:“外部压力有时候能救内部理性。”
项目经理叹气:“就是理性来得太集中,周末没了。”
张磊安慰他:“周末不是消失,只是被流程优化到了未来。”
项目经理看着他:“你们云启未来能不能少生产这种扎心句?”
张磊说:“不能,我们是小型现实加工厂。”