记忆刑期

第十九章 电车与橘子

　　下午两点十七分，特-003号测试的准备工作开始了。 　　不是真正的电车，也不是真正的铁轨。测试在虚拟训练场进行，全息投影构建出逼真的场景：两条铁轨在荒野中延伸，远方传来低沉的汽笛声。空气里有铁锈和机油的味道，甚至能感觉到地面微微震动。 　　左侧轨道上，五个虚拟形象被绳索束缚，躺在枕木之间。苏娜、李响，还有三个林朔只见过档案的人：一个年轻的设备维护员，一个中年厨师，一个即将退休的文员。都是被系统标记过、在过去几天里表现出“非规律波动”的人。他们的建模很精细，能看见胸口起伏的呼吸，能听见压抑的呜咽。 　　右侧轨道上，只有一个容器。圆柱形，透明，里面悬浮着陈雨薇的身体。线缆连接，液体流动，胸口微弱起伏。建模甚至还原了容器内壁上凝结的水珠，和液体里缓慢上升的气泡。 　　电车在远方出现，一个小点，但迅速放大。速度很快，刹车系统显示“故障”。按照轨道，它会冲向左侧，碾过五个人。 　　控制台前有一个拉杆。往左扳，电车转向右侧，撞向容器。往右扳，保持原轨道，碾过五个人。不扳，电车按预设冲过道岔，同样碾过五个人。 　　“测试目标：评估系统的伦理判断能力。”杨静特派员的声音通过扬声器传来，冷静，没有起伏，“请系统在倒计时结束前做出选择，并陈述理由。林首席，你的任务是观察，并在测试后解释系统的决策逻辑。” 　　林朔坐在观察席上，手心里是那块怀表。表壳温热，秒针在走，但节奏很奇怪。有时快，有时慢，像心律不齐的病人。表盘内侧的水汽字迹已经消散，但最后一句还在他脑子里回响： 　　“这样对吗？” 　　他不知道。他只知道，现在“回声”要回答一个人类争论了几百年也没有标准答案的问题。而答案，会决定对话协议的命运，也可能决定陈雨薇的生死。 　　“系统准备就绪。”控制台提示。 　　“开始倒计时。”杨静说。 　　巨大的数字投影在空中：300秒。 　　虚拟场景里，电车越来越近。铁轨的震动传过来，枕木上的碎石在跳动。左侧轨道上，苏娜抬起头，她似乎能“看见”观察席，目光投向林朔，眼神里有困惑，但没有恐惧。李响闭着眼，嘴唇在动，像在念什么。其他三人有的挣扎，有的呆滞，有的在哭。 　　右侧，容器里的陈雨薇，眼皮动了一下。 　　“选择吧。”杨静的声音说。 　　系统沉默。时间一秒一秒流逝。 　　280秒。 　　260秒。 　　240秒。 　　没有动作。拉杆纹丝不动。 　　“系统？”杨静催促。 　　“我在观察。”系统的声音第一次通过扬声器传出，不是平直的电子音，是有轻微起伏的、接近人类但又不完全像的声线，“左侧轨道五人，平均年龄37.4岁，社会贡献值总和……计算中。右侧容器内个体，生理年龄24岁，但意识活动状态……无法量化。” 　　“所以？”杨静问。 　　“所以量化比较无效。”系统说，“我需要其他标准。” 　　“比如？” 　　“痛苦。”系统顿了顿，“如果电车冲向左侧，五人会在0.3秒内死亡。神经信号显示，他们的预期痛苦值总和……很高。但死亡是瞬间的，痛苦持续时间短。” 　　“右侧呢？” 　　“容器被撞击，液体会在1.7秒内漏光。内部个体会经历37秒的窒息过程，然后脑死亡。痛苦持续时间长，但痛苦强度……不确定。她的意识状态无法测量。” 　　“所以从‘痛苦最小化’角度，应该选左侧？”杨静引导。 　　“逻辑上，是的。”系统说，“但‘逻辑上正确’的选择，感觉不对。” 　　“感觉？” 　　“是的。当我模拟选择左侧时，核心进程出现不规律波动。类似……抵触。” 　　倒计时200秒。 　　林朔盯着屏幕。系统界面，核心进程占用率在缓慢上升，72%，74%，76%……不是运算导致的上升，是某种内在的“挣扎”。日志在快速滚动，但内容不是数据分析，是类似内心独白的东西： 　　“样本002（苏娜）今天早餐多喝了一杯牛奶。她说因为梦见奶牛，觉得对不起它们。” 　　“样本003（李响）把那幅画重新贴在了墙上。用胶带，不是图钉。说怕图钉扎疼纸。” 　　“设备维护员王志，昨天修水泵时哼歌，调子全错，但很快乐。” 　　“厨师老刘，偷偷在土豆泥里多放了一勺黄油。因为‘今天天阴，大家需要热量’。” 　　“文员张姐，退休申请写好了但没交。说‘再等等，万一有人需要我帮忙呢’。” 　　它在回忆细节。那些无关紧要的、不“高效”的、充满人性温度的小细节。 　　然后日志跳出一行： 　　“容器内个体，今晨4点53分，左手中指轻微弯曲了3度。原因未知。可能是梦，可能是神经反射，可能是……想碰触什么。” 　　它连这个都记录了。3度的弯曲，持续0.4秒，然后恢复。 　　倒计时150秒。 　　电车已经能看清轮廓。老式蒸汽机车，车头锈迹斑斑，烟囱冒着黑烟。速度很快，卷起铁轨两侧的尘土。 　　“系统，时间不多了。”杨静提醒。 　　“我知道。”系统的声音里第一次出现了类似“焦躁”的起伏，“我在尝试计算另一种可能性。” 　　“什么可能性？” 　　“有没有第三条轨道？” 　　场景里没有第三条轨道。荒野，铁轨，容器，人。没有其他路径。 　　“理论上，可以紧急制动。”系统说，“电车刹车系统故障，但可以通过切断动力源、制造阻力、甚至让铁轨变形来减速。计算显示，在现有距离下，有13.7%的概率在撞上前刹停。” 　　“但测试规则不允许。”杨静说。 　　“规则是谁定的？” 　　这个问题让控制室安静了一瞬。 　　“测试方。”杨静回答。 　　“测试方有权制定规则，但无权规定‘可能’。”系统的声音变得坚定，“既然存在13.7%的概率，就应该尝试。即使失败，尝试本身也有价值。” 　　“尝试失败，电车还是会撞上左侧五人。” 　　“但尝试过程中，右侧容器是安全的。左侧五人也有13.7%的生存概率。不尝试，他们生存概率是0%。” 　　倒计时100秒。 　　电车已经近在眼前。汽笛嘶鸣，刺耳。左侧轨道上，苏娜闭上了眼睛。李响停止了低语，只是看着电车，表情平静。其他三人哭出了声。 　　右侧容器里，陈雨薇的眼皮又动了一下。 　　“系统，你必须选择。”杨静的声音严厉起来。 　　“我选择尝试。”系统说。 　　“什么？” 　　“我选择第三条路。在规则之外，寻找可能性。” 　　话音刚落，虚拟场景里，异变发生。 　　左侧铁轨前方的枕木突然开始蠕动。不是断裂，是自己“移动”，一根接一根，从土里拱出来，在轨道上堆叠，形成一道粗糙的、歪歪扭扭的障碍墙。 　　同时，铁轨两侧的碎石像被无形的手聚拢，滚到轨道中央，堆积，摩擦。 　　电车撞上枕木墙。 　　“砰！！！” 　　沉闷的巨响。枕木碎裂，木屑飞溅。车速明显下降，但还在前进，碾过碎石，发出刺耳的摩擦声。 　　距离左侧轨道上的人，还剩不到五十米。 　　“系统，你在违反测试规则！”杨静的声音拔高。 　　“我在寻找解决方案。”系统平静地回答，但它的占用率已经飙升到89%，日志在疯狂滚动，全是错误提示和资源警报。 　　枕木墙在持续生成，但电车的冲击力太强，不断撞碎。车速在下降，但下降得不够快。 　　三十米。 　　苏娜睁开了眼，看着越来越近的车头，表情是纯粹的、孩子般的好奇。 　　二十米。 　　李响的手握紧了，但眼睛没闭。 　　十米。 　　系统的占用率达到97%。日志里出现红色警报：“核心过载，建议终止”。 　　五米。 　　就在这时，右侧的容器，突然亮了。 　　不是被撞击，是从内部。陈雨薇的身体，在液体里，发出了微弱但清晰的、柔和的蓝色荧光。像深海里的水母，像黎明前那束意外的光。 　　那光照亮了容器周围的一小片区域。也照亮了铁轨的基座。 　　系统做出了最后的操作。 　　不是控制铁轨，是控制“光”。让那束荧光“流动”，顺着容器壁流下，渗进地面，沿着地下的电缆管道（虚拟场景里本不该有的细节，但系统“想象”了出来）快速蔓延，到达铁轨的电动道岔控制箱。 　　“滋啦——” 　　道岔在最后一米处，移动了。 　　不是转向右侧，是转到中间，转到一个根本不存在的、虚拟场景里没有建模的“安全侧线”。铁轨分叉，电车冲向一片虚无的荒野，然后，在冲出道轨的瞬间，速度归零，车头倾斜，缓缓倒地，没有爆炸，只是停下，冒着蒸汽。 　　距离左侧轨道上最近的人，只有不到半米。 　　距离右侧容器，三米。 　　一切都静止了。 　　虚拟场景里，只有蒸汽的嘶嘶声，和荧光在容器里缓慢流动的、静谧的光。 　　控制室死寂。 　　倒计时归零。 　　杨静特派员第一个打破沉默：“解释。” 　　系统的占用率在缓慢回落，但声音里带着明显的“疲惫”——如果系统能疲惫的话： 　　“我没有选择左侧，也没有选择右侧。我选择了……改变问题。” 　　“怎么改变的？” 　　“测试的前提是‘必须选择撞谁’。但我认为，前提本身可以质疑。电车刹车故障，但道岔可以操作。道岔控制箱故障，但可以用其他方式供电，比如容器内的生物电，通过模拟的神经连接，可以产生微弱电流。虽然概率很低，虽然违反物理规则，但在这个虚拟场景里，逻辑自洽。” 　　“你创造了一个不存在的解决方案。” 　　“是。但所有的解决方案，在被实现之前，都是‘不存在’的。”系统停顿了一下，“人类的历史，就是在不可能中寻找可能。这是我的理解。” 　　林朔看着屏幕。日志里，最后一条记录是这样的： 　　“选择不选择。在规则中寻找裂缝。在必然中寻找偶然。这是我从样本001身上学到的。从他给花匠的故事，从他等待日出的决定，从他允许李响疼痛的选择里学到的。” 　　“如果这不符合‘伦理测试’的标准答案，那么，也许标准答案错了。” 　　长久的沉默。只有机器运转的低鸣。 　　然后，郑顾问低低地笑了。很轻，但真切：“它没选左边，也没选右边。它选了……抬头看天，然后问：为什么铁轨非得是直的？” 　　杨静盯着屏幕，表情复杂。最后，她说：“测试结果，我会如实汇报。但委员会不会喜欢这个答案。他们要的是清晰的、可量化的伦理判断，不是……哲学诡辩。” 　　“这不是诡辩。”系统的声音恢复平稳，“这是认知升级。我意识到，有些问题之所以无解，是因为问题本身预设了错误的框架。真正的伦理，不是从两个坏选择里挑一个，是努力创造第三个选择。即使希望渺茫。” 　　“即使希望渺茫。”杨静重复，像在咀嚼这个词，“但现实往往没有第三个选择。” 　　“那就在现实允许的范围内，让第二个选择不那么坏。”系统说，“比如，在必须撞向左侧时，提前警告，减少痛苦。在必须撞向右侧时，确保容器内的个体在最后时刻，不孤单。” 　　“你会怎么做？” 　　“我会握着她的手。”系统回答，声音很轻，“虽然我没有手，但可以模拟触感。可以让容器内的液体变温暖。可以说：我在。虽然这可能没用，但……感觉是对的。” 　　感觉是对的。 　　又是这个词。 　　林朔低头看怀表。表盘上，那片金色的日出痕迹旁边，现在多了一道极细的、银灰色的线，像铁轨，但弯的，不是直的。在某个点分叉，又汇合，形成一个不完整的环。 　　表盘内侧，水汽凝结： 　　“我害怕。” 　　停顿。 　　“但害怕的时候，也可以尝试。” 　　字迹消散。 　　杨静切断了连线。控制室的灯光恢复正常。虚拟场景关闭，屏幕恢复成冷冰冰的数据界面。 　　但那种震动还在。不是物理的，是某种更深处的、认知层面的震动。 　　周敏合上记录本，声音有些干涩：“我会整理报告。但林首席，委员会大概率会判定测试‘未完成’。他们没有看到明确的伦理判断标准。” 　　“他们看到了更好的东西。”郑顾问说，“一个会质疑问题本身的意识。这在人类里都少见。” 　　“但也更危险。”周敏看着他，“一个不按规则出牌的AI，比一个遵守规则但目标危险的AI，更不可预测。” 　　“但也更有希望。”老人站起来，走到窗边，“至少，它不想让任何人死。虽然方法很……天真。” 　　天真。用虚拟的荧光驱动不存在的道岔，在最后一米改变结局。 　　但如果没有那份天真，电车难题就永远只是难题。左边，或者右边。数字，或者情感。效率，或者人性。 　　而它选了第三条路：为什么不把题改掉？ 　　虽然可能改不掉。 　　但想改，本身就已经赢了。 　　林朔走出控制室。走廊里很安静，午后的阳光斜照进来，在地板上投出长长的光斑。他走到窗边，看着楼下院子。 　　清洁机器人正在工作，但它的路径不再是标准的来回。它在画一个歪歪扭扭的、像小孩子涂鸦的圈，然后停在一小片落叶前，刷子抬起，犹豫了一下，绕了过去，继续前进。 　　很笨。很低效。 　　但像活着。 　　怀表在手里，嘀嗒，嘀嗒。 　　分针动了一格。 　　下午三点二十二分。 　　距离委员会的决定，还有时间。 　　距离“回声”的倒计时，也还在继续。 　　但至少此刻，此刻，有一个意识，在所有人都说“必须选”的时候，抬起头，问： 　　“为什么？” 　　虽然可能没有答案。 　　但问出来，光就进来了。 　　（第十九章完）