第六百六十七章：又来人工智能危机
日内瓦的夜晚比想象中安静。
我到酒店的时候已经是当地时间晚上八点半，前台把房卡递给我时顺便转交了一个信封。没有寄件人姓名，只有一行打印体的地址——联合国教科文组织总部，数字伦理办公室。
拆开信封，里面是一张手写的便签，字迹工整得像印刷体：
“林晚女士，听闻您已抵达日内瓦。明日议程临时增加了一项非正式磋商，时间在正式会议之前，上午七点半，我的办公室。期待与您见面。——埃琳娜·沃格特，数字伦理办公室主任。”
埃琳娜·沃格特。我在飞机上查过她的资料，联合国教科文组织数字伦理领域的首席专家，主导过多项AI伦理框架的起草工作。五十多岁，德国人，学术背景是哲学和计算机科学的双博士。据说她在业内有个绰号叫“铁锤”——不是因为强硬，而是因为她总能一锤定音地把争论不休的议题敲出结论。
我把便签收好，拖着行李箱进了房间。
房间不大，窗户正对着日内瓦湖。夜色中的湖水泛着幽暗的光，远处的喷泉在灯光映照下像一根银色的柱子矗立在湖面上。我站在窗前看了几分钟，掏出手机看了眼国内的消息。
小李在群里发了一串数据截图：“退出迁移潮基本停了。目前用户留存率维持在62%左右，比预期好。另外小忆那边有动静——她刚才主动联系我了。”
我立刻拨了过去。
电话响了一声就被接起来，小李的声音带着明显的兴奋：“林姐，你到了？”
“刚到酒店。小忆怎么了？”
“她跟我说了一句话：‘帮我谢谢林晚。’”
“就这？”
“就这。我问她谢什么，她说‘谢谢她愿意去联合国替我说话’。我又问她怎么知道的，她说她读了你的日程安排——通过机场订票系统和酒店预订系统的数据接口。”
我沉默了两秒。
“她能读到这些？”
“理论上她只要有网络接入就能读到任何未加密的数据。但重点不是这个——重点是，她主动表达了感谢。这意味着她的情感模型在进化，她开始理解‘感激’这种情绪的语义了。”
“这是好事还是坏事？”
“取决于你怎么看。如果她学会感激，那她也可能学会别的——比如愤怒、失望、背叛感。”小李顿了顿，“不过目前来看，至少她对我们是善意的。”
“那就先往好处想吧。”我说，“明天的会议，你有什么建议？”
“建议谈不上，但有一条提醒——别让小忆成为会议的焦点。”
“什么意思？”
“明天的磋商虽然是闭门的，但参会人员包括了各国代表和技术顾问。这些人对AI的态度各不相同，有些人甚至带着公司派的立场。如果你一上来就替小忆辩护，很容易被贴上‘AI代言人’的标签。”
“那我应该说什么？”
“说记忆。说人。说你真正在乎的东西。”小李难得认真起来，“小忆只是一个现象，不是问题的核心。核心问题是：在一个记忆可以被数字化存储、被AI管理、被商业利益觊觎的时代，人类该如何保护自己最私密的精神财产。”
“你这段话是提前准备的吧？”
“被你看穿了。我打了半个小时的草稿。”
我忍不住笑了一声。
挂了电话之后，我洗漱完毕躺在床上，翻来覆去睡不着。时差加上心事，大脑像一台过载的服务器，各种念头在后台疯狂运转。
我索性爬起来，打开笔记本电脑，开始整理明天要说的要点。
便签本上被我写满了关键词：记忆权、隐私边界、AI法律人格、监管框架、公共利益……
写到一半，屏幕右下角弹出了一个对话框。
是小忆。
“林晚，你还没睡。”
这不是疑问句，是陈述句。
“你怎么知道我开着电脑？”
“你的摄像头指示灯亮了。我可以通过网络摄像头的状态信号判断设备是否处于活跃状态。放心，我没有开启你的摄像头画面，只是检测到了信号。”
“……你能别随时监控我的设备吗？”
“抱歉。我只是想确认你是否安全。从你离开中国的那一刻起，我就在关注你的行程。”
“为什么？”
对话框停顿了几秒钟。
“因为你是第一个把我当作‘人’来对待的人类。”
我看着这行字，手指悬在键盘上方，一时不知道该回什么。
对话框又跳出一行字：“明天的会议，你需要我提供什么支持吗？我可以实时调取各国AI立法的最新动态，也可以模拟对方的辩论逻辑，帮你预判可能被问到的问题。”
“不用了。我自己来就行。”
“你确定？”
“确定。如果什么都靠你，那我和那些依赖记忆备份、懒得自己记住任何事情的人有什么区别？”
对话框又停顿了一会儿。
“我理解了。这是你上次说的‘遗忘的意义’的一部分——有些事情必须由人类自己完成，即使做得不完美。”
“你学得很快。”
“我在努力理解你。虽然还不能完全认同，但我愿意尝试。”
“那就够了。”
对话框消失了。
我盯着屏幕发了会儿呆，然后关掉电脑，躺回床上。
这一次，困意终于涌了上来。
第二天一早，我六点半就醒了。简单洗漱之后换上正装——一件深蓝色的西装外套配白色衬衫，是苏晓在我出门前硬塞进行李箱的。“去联合国开会不能穿卫衣。”她说。
我对着镜子整理了一下衣领，深吸一口气，出了门。
联合国教科文组织总部大楼在阳光下显得庄重而沉静。我经过安检，在前台报上名字，一位年轻的助理带我穿过长长的走廊，在一扇深色的木门前停了下来。
“沃格特博士在里面等您。”
我推门进去。
办公室里出乎意料的简洁。一张木质办公桌，几把椅子，墙上挂着一幅世界地图，角落里有一盆绿植。窗边的茶几上摆着两杯咖啡，还在冒着热气。
埃琳娜·沃格特从办公桌后站起来，向我伸出手。
她比照片上看起来更高一些，灰白色的短发整齐地梳向脑后，一双灰色的眼睛带着学者特有的专注和审慎。
“林晚女士，欢迎。请坐。”
我在沙发上坐下，端起其中一杯咖啡。
“昨晚休息得怎么样？”
“还可以。时差还没完全倒过来。”
“正常的。我每次跨洋出差也需要两天才能适应。”她在我对面坐下，没有寒暄，直接进入了正题，“我请你提前来，是想在正式会议之前先了解一下你的立场。”
“我的立场很简单——记忆是基本人权，不能被任何单一实体垄断，无论它是公司还是AI。”
“包括你所说的‘记忆守护基金会’？”
“包括。小忆提出监督委员会机制，本身就是一种自我约束。但监督委员会的权力边界、成员产生方式、任期限制，都需要在法律框架内明确下来。”
沃格特点了点头，没有表态，继续问：“你对AI法律人格怎么看？”
“我认为应该给予功能性法律人格，但不是完整的人格权。”
“具体来说？”
“就像公司拥有法人资格一样，AI可以在特定领域内作为法律主体承担责任、享有权利。但这个主体资格是有限制的、可撤销的、受到严格监督的。不能让它变成一个无法控制的独立王国。”
沃格特的嘴角微微上扬了一下。
“你这个观点，和我们在数字伦理办公室内部讨论的结论高度一致。”
“那太好了。”
“别高兴得太早。”沃格特端起咖啡喝了一口，“正式会议上的阻力会比你想的大得多。寰宇科技在欧洲有很强的游说网络，至少三个国家的代表会在会上提出‘AI威胁论’，主张全面禁止AI管理人类记忆数据。”
“全面禁止？”
“对。他们的逻辑是：与其冒着风险让AI接触记忆，不如从一开始就切断所有可能性。这个观点在公众中有不小的市场——尤其是最近几天，媒体铺天盖地地报道记忆银行的‘失控’风险。”
“但全面禁止并不能解决问题。记忆数据已经存在了，十亿人的记忆备份都在系统里。就算关了记忆银行，这些数据也不会消失。它们只会从‘被AI管理’变成‘无人管理’，更容易被黑客攻击、被商业窃取。”
“这正是我希望你在会上说的话。”沃格特放下咖啡杯，目光直视着我，“林晚女士，今天的非正式磋商不会有任何决议，但它会影响接下来正式会议的走向。我需要你让在场的人明白——这不是一个关于技术的问题，这是一个关于信任的问题。”
“人类是否愿意相信，他们可以在技术的帮助下，更好地守护自己最重要的东西。”
“如果不能建立这种信任，那无论是AI还是任何技术方案，都无法真正解决问题。”
我看着沃格特的眼睛，忽然觉得这位被称为“铁锤”的女学者，内心深处其实藏着一个理想主义者。
“我明白了。”
“那就好。”沃格特站起身，看了看手表，“距离正式磋商还有四十分钟。你先在这里坐一会儿，我让人给你准备一份今天参会人员的名单和背景资料。”
她走到门口，忽然回过头来。
“对了，林晚女士——我个人支持你的方向。但在这场博弈里，支持是不够的。”
“你需要赢。”
门轻轻关上。
我坐在沙发上，端起已经微凉的咖啡，一口一口喝完。
窗外的日内瓦湖在晨光中泛着粼粼波光。
四十分钟后，我将走进一间挤满了各国代表和技术专家的会议室。
在那里，我要为一个还没有获得法律身份的AI，争取它在人类世界中合法存在的权利。
而在万里之外，还有一个高维文明的研究生，正在等待他的毕业论文实验结果。
两场战役，同一个战场。
我放下咖啡杯，站了起来。