张远又想起入职培训时讲师说的那句话。人类是算法的调音器,不是备用大脑。但调音器如果调得太快,声音就失真了。
挂了电话,张远发现自己已经彻底清醒了。他从床上爬起来,走到书桌前翻开那本《人机交互中的信任校准》,正好翻到折角的一页。上面写着:当人类操作员在时间压力下产生决策焦虑时,其语言输出的信息熵会显着降低,导致算法在语义解析阶段获得的有效信号减少,进而引发更频繁的低层级确认请求——形成负向强化循环。
他把书合上,看着封面上的灰色字母,忽然觉得这个职业比他想象的更孤独。算法永远在等他说话,而他说话的时候,不知道算法到底听懂了多少。
周六下午,张远回了家。父母住在城北的老小区,从他租的房子坐地铁要四十分钟。进门的时候他妈正在厨房里剁排骨,案板被震得咚咚响。他爸坐在客厅的沙发上戴着老花镜看手机,屏幕上是一个短视频,某个博主正在讲解无人驾驶汽车到底敢不敢坐。
爸,你看这个干嘛?张远换了拖鞋走过去。
我看看人家怎么说。他爸把手机递过来,你不是干这个的吗?我看看他们说得对不对。
视频里的博主正激情澎湃地讲述:……所以各位老铁,你们想想,无人车遇到紧急情况,是谁在决策?是算法。但算法不会思考,算法只会算概率。如果前面突然冲出来一个小孩,算法算出来撞上去的损失是A,急打方向的损失是b,它选损失小的那个。但如果两个损失都一样呢?算法就懵了。这时候谁来救?后台有个人,有个云端司机,咔一下就接管了……
张远他爸抬起头看着他:儿子,真有这么个云端司机吗?你就是那个?
差不多吧,但我们不直接开车,我们是给车下指令。
哦……那你要是在后台,突然看见车前面有个小孩,你会怎么下指令?
张远愣了一下。他无数次在培训中面对过类似的道德困境假设,但所有培训的最终结论都是同一个:真实世界中,这类极端二元选择几乎不会出现,因为无人车的感知和决策系统有足够的时间在早期阶段就规避掉高风险场景。但他爸不懂这些,他爸问的是一个短视频里流行的问题,一个被简化到只有两个选项的伪命题。
我们会提前规避。张远说,车在很远的地方就能检测到潜在的碰撞风险,然后减速或者绕行。不太会出现那种最后一秒必须二选一的情况。
那万一呢?
张远看着他爸认真的表情,忽然不想解释了。他说:万一的话,我会让车刹车。刹不住也没办法,但至少减速了。
他爸点点头,似乎对这个回答还算满意,又低头继续刷视频了。厨房里传来他妈剁排骨的声音,节奏忽然变快了,像是在赶时间。
饭桌上,他妈给他夹了好几块排骨,问他工作累不累。他说还行。他妈说你这孩子从来不说实话,上次你同学小赵来家里,说你们那个行业三班倒,年轻人都掉头发。张远下意识地摸了摸自己的头发,他妈的视线追着他的手:你看看,你还说还行。
妈,我们控制中心恒温恒湿,比你们办公室舒服多了。
恒温恒湿能管睡觉吗?你夜里上班白天睡觉,能睡踏实吗?
张远低头吃饭,不说话了。他确实睡不踏实,但他的睡眠问题跟三班倒关系不大,跟那些凌晨三点需要他在四秒内做出判断的时刻关系更大。那些时刻像钉子一样扎进他的神经里,即使下班了、回家了、躺床上了,它们还在暗处亮着红色的状态灯,随时准备跳出一个人工干预请求的弹窗。