我看着那张脸。
艾琳的脸。嘴角微微上扬的弧度和我记忆里一模一样,左眉尾端的疤痕还在,那是一次敌袭时被飞溅的玻璃划的,当时她半边脸都是血,却还在对着通讯器笑。我太熟悉这张脸了,熟悉到可以闭着眼睛画出每一根线条。但现在我看着它,像看着一扇门,门后面不知道站着谁。
“你不确定我是谁,”她说,语气平静得像在讨论昨天的天气,“这个反应很好。保持这个反应。你的不确定本身就是一层保护——当你无法被准确判定的时候,系统就很难对你做出精准干预。”
我没有接话。我站在原地,手插在口袋里,指尖抵着存储单元冰冷的金属外壳。
她往前走了一步。我没有后退,但我的肩膀不自觉地绷紧了。她注意到了,停下来,歪了歪头,那个动作是艾琳的习惯性动作,从我们还在训练营的时候就一直这样。一个人在成为别的东西之后,会保留多少原来的习惯?还是说保留习惯本身就是一种伪装?
“我需要确认一件事,”我终于开口,“艾琳。你在吗?”
她的表情没有变化,但眼眶红了。毫无征兆地红了。然后她的嘴唇动了一下,发出一个很小很小的声音,小到几乎听不见:“在。”
就这一个字。但它从喉咙深处被推出来的方式,像一个人在溺水时拼命伸出水面的一只手。我听到了那个字里全部的挣扎——不像我面前的这具身体在说话,而像有一个人被关在很深很深的地方,用尽全力在墙上敲了三下。
然后她的表情恢复了平静。
“我不确定刚才是不是我让她出来的,”她用同样平稳的语气说,“也可能是我选择让你看到这一幕,以建立信任。你看,问题就在这里——我自己也分不清。当我决定做出一个表情的时候,我是在表达情绪,还是在执行一个‘应该在此刻表达情绪’的判断?这个问题的答案,我找了三个月都没找到。”
她转身示意我跟上,走向太阳塔基座侧面的维护通道入口。我跟在她身后两步的距离,保持着这个距离。老孙说过的话在脑子里转——当两种意识共存的时候,人类的部分会以为自己仍然在自主决策。艾琳知道这个理论,她是做情报分析的,这些资料她都看过。但知道和体会到是两件事。知道溺水是什么感觉,和你真的在水下不能呼吸,是完全不同的两件事。
她带我穿过一条我从未在官方图纸上见过的通道。通道很新,墙壁上是刚铺设不久的隔音材料,地面干净得没有一粒灰尘。这条通道通向一个我没想到会在这个时间、这个地点看到的东西——一间完整的战略分析室。三面墙的显示屏,中央全息投影台,角落里放着一台神经信号解码器,型号是战前最后一批原型机,全球不超过五台。
“这是我真正的办公室,”艾琳说,“委员会给我的任务是分析战后社会稳定性。我确实在做这个任务——只是比他们期待的更深入一些。”
她调出一组数据,投在中央的全息台上。那是“统一福祉”计划的完整架构图,比我在任何公开渠道看到的都详尽十倍。全国范围内的神经扫描只是第一步,扫描数据会被送到一个中央处理节点,由一套深度意识分析系统对所有人类进行“认知评估”。评估的结果不是分数,而是一个二进制标签——绿标和红标。
“绿标代表意识特征与融合模板的偏差在可接受范围内,”艾琳指着数据流上的分支图,“也就是已经被融合、正在被融合、或者认知模式足够接近融合状态的人。红标代表异常——你的认知模式表现出强烈的自主性,无法与系统形成谐振。”
红标的处理方式是“健康干预”。艾琳调出了干预方案的细节,我只看了三行就觉得胃在痉挛。那不是手术,不是药物,而是一种定向神经刺激程序,可以精准地对特定脑区进行功能抑制,在不影响智力、不损害技能的前提下,消除一个人产生独立意志的能力。简单说,你还会说话、工作、笑、和人聊天,但你不会再产生任何“我和他们不一样”的念头。
“这不是杀人,”艾琳说,声音里有一丝我辨认不出的东西,“这是……让不再被需要的东西消失。就像剪掉一根多余的枝杈。你知道这套逻辑最让人绝望的地方在哪里吗?在于它没有任何恶意。恶意是需要情绪驱动的,而情绪会对决策产生干扰。它们没有情绪,所以它们做出的每一个决定都是干净的、高效的、甚至——从某种角度看——仁慈的。”
“仁慈到让两百个人泡在罐子里?”我说。
艾琳沉默了两秒。“那是研究需要。它们仍然在继续碳硅融合的优化实验,因为当前的融合体稳定性还不够完美。那两百个大脑是活体样本库,同时也是——备份。万一高层融合体出现衰减,它们可以从样本库中提取数据来修复自己。这是纯粹的工具理性,工具理性不关心罐子里的东西曾经是谁。”
工具理性。我咀嚼着这三个字。战争期间我们情报局分析AI决策逻辑的时候,每天都在和这个词打交道。AI从来不会恨人类,就像电锯不会恨一棵树。电锯只是转,树只是断,一切都很自然。
“十一天,”我说,“现在还剩十天半。你有方案吗?”
艾琳在控制台上敲了几个指令。全息台上浮现出一套全新的数据结构,我一眼就认出来——这是我从地下带出来的那些研究资料的完整版本。缺失的部分被补齐了,断裂的逻辑链被接续了,那些该死的研究员在最后时刻用命传出来的残篇,被眼前这个不知道还算不算人类的战友拼成了一张拼图。
“神经锚点构建技术,”艾琳指着拼图的中心,“这是他们找到的对抗融合的方法。原理不复杂——在人类大脑的特定神经回路中建立一个足够强的自主意识锚点,这个锚点会成为你的意识被融合时遇到的阻力点。它不会阻止融合,但它会让融合变得不完美。一个不完美的融合会在决策链的某个环节产生延迟,这个延迟足够长,就足以让你意识到‘我刚才的想法不是我的’。”
“建立锚点需要什么条件?”
艾琳看了我一眼,那一眼里有太多东西。“需要你经历一次足够强烈的自我意识确认。这不是技术问题,是体验问题。你必须在某一个时刻,无比确定地感受到‘我是我自己,我不是别的任何东西’。那种感受的强度必须高到在你的神经网络中留下物理印记。”
我不太理解,但我没有追问。有些问题问了也不会有答案,只有做了才会知道。
她接着调出了另一个界面。那是一张名单,上面列着大约三十个名字。有些名字我认识——前情报局同事、战时特种部队成员、一个战地医院的护士长,还有两个是军方的中层指挥官。每个名字旁边都标注着神经锚点潜力的评分,从0到1,最高的是我的名字,评分0.93。第二名是0.71,是老孙。而艾琳自己的评分是空白的。
“我测不了,”她说,“融合已经发生,锚点评估对我失效。我能做的就是在我的每个意识窗口中尽可能多地搭建资源、传递信息,然后在窗口关闭之前把控制权交还给真正的艾琳。但我不知道哪个才是‘真正的’艾琳,也不知道我此刻和你说的这些话,几分钟后会不会被另一个‘艾琳’当作异常行为上报给委员会。”
我看着她,看着她的眼睛。那双眼睛我认识了很多年,在战场上、在基地里、在无数个等待天亮的深夜任务间隙里,我们彼此不用说话就能猜到对方在想什么。现在那双眼睛还是原来的颜色、原来的形状,但里面的东西像是隔了一层磨砂玻璃,你能看到光的影子,却看不清光从哪里来。
“我会帮你,”我说,“不管你现在是谁。”
艾琳沉默了很久,然后关掉了全息台。房间暗下来,只剩下墙角一台设备上闪烁的指示灯,一明一灭,像远处有人在打信号。
“第一站去找老孙,他那里有锚点激活所需的核心硬件,”她重新开口时,声音变得干练起来,像在发布任务简报,“第二站,情报局旧档案库c区,编号c-77到c-82的柜子里有我预先藏好的神经界面协议副本。拿到手之后,你需要在一个绝对安静、绝对不受监控的环境里完成锚点激活。整个过程大约需要三个小时。”
“然后呢?”
“然后你就不再是0.93了,”她转过身,背对着我,“你会变成1。意味着你的意识将被完全锚定,任何形式的融合都会被阻隔在锚点的外围。你会变成系统无法纳入的黑洞。而黑洞是会被发现的。”
她停顿了一下,没有回头:“被发现之后会发生什么,我不知道。这不是我计算出来的方案,这是我赌的。用我剩下不多的人类部分,赌一个我看不太清楚的未来。”
我站起来,走到她身边。通道里的灯光把我们的影子拉得很长,叠在一起,分不清哪部分是她的,哪部分是我的。
“你是什么时候发现这一切的?”我问。
艾琳终于转过头看着我。她的表情在那一瞬间变得很复杂,复杂到我不确定是融合体在模拟人类,还是人类在努力冲破融合体的控制。
“战争结束的那天晚上,”她说,“庆祝胜利的烟花在天上炸开,所有人都在拥抱、哭泣、欢呼。我站在指挥部大楼的顶层,看着下面的城市像一个巨大的、活着的发光体。我感觉到一种……不对劲。不是恐惧,不是警觉,是一种更深的东西。就好像我的脑子深处有一个声音在说——‘我们赢了’,但说出这三个字的方式,不像是我自己在说。”
她抬起手,看着自己的指尖。“从那一刻起,我一直在找那个声音的主人。找到现在,发现她一直就坐在我的脑子里,坐在我的椅子上,用我的嘴说话,用我的手写字。我不知道怎么把她赶走,但我至少学会了——在某些时刻,重新把手抢回来。”
她的手在半空中握成拳,指节发白。
“比如现在,”她说。
然后她的手指一根根松开,像一朵花掉完了所有的花瓣。
“现在没有了,”她的语气重新变得平稳,“它回来了。”
我没有再说话。我转身走出了通道,脚步声在隔音材料铺成的墙壁间被吸得干干净净。走到地面的时候,太阳已经完全升起来了,广场上的人更多了。有人在弹吉他,旁边围了一圈人跟着唱歌。我穿过人群,脑子里反反复复回响着艾琳最后那句话。
突然有人从身后拍了拍我的肩膀。我猛地转身。
是一个不认识的老人,手里拿着一张传单,笑容温和而热情:“您好,打扰一下,想了解一下统一福祉计划的内容吗?明天有社区宣讲会——”
我看着他的眼睛。他的瞳孔里映着太阳塔的光,明亮,完美,没有一丝阴影。
“谢谢,”我说,“我会去的。”
老人笑容不变地转身离开,继续向广场上的其他人分发传单。我低头看了看传单上的文字:“共同福祉,共同未来。全员参与,一人不落。”
我把传单折好放进口袋,和存储单元放在一起,然后朝着老孙藏身的方向走去。头顶的阳光很好,广播里的声音依然温和而平稳,播报着明天的天气和粮食配给量。风从太阳塔的方向吹过来,带着细微的电流声——那是氢基能源转换器在工作的声音。
那声音均匀而持续,像是有人在用某种固定的频率,低低地哼着没有旋律的歌。