此时已经抵达特异局。
路上,柳笙细细问起所谓的“遗忘症”。
听了一会儿,点了点头。
“原来如此。”
“您知道是怎么回事吗?”
那位名叫“贺蔓”的负责人忐忑不安,却又无法从柳笙的脸上看出什么别的情绪。
柳笙当然知道。
但是要告诉这些人吗?
其实这根本不是什么病症,只是记忆的主人正在遗忘你们罢了。
所有人都在忘却。
可能刚开始忘记的是一些细枝末节。
到后面却是重要的事项,忘了自己要做什么,忘了身边重要的人,甚至……忘记自己。
所以城市才会渐渐荒废。
所以满大街都是只剩下刻板动作的人。
连面容都在淡去,终有一日随着一阵风,彻底消散在荒芜的记忆深处。
特异局这些韧性强大的异能者还好些。
是这片空间里少有还能清醒思考的存在。
所以,不管是为了肩上的责任,还是为了拯救自己,都该将这灭世般的病症调查清楚。
然而一日复一日,似乎无论如何,都走不出这个泥潭。
直到一个明显的异象出现。
那就是那座古色古香的院落,门上匾额写着“梨县织造院”,柳笙从中走出,这是特异局和织造院第一次相遇。
“我可以帮你们解决这件事,但你们必须要配合我。”柳笙平静说道。
“解决?真的……可能吗?”
“你不信?”
柳笙挑眉,危险的信号。
贺蔓连忙解释:“不,只是想……配合——我也只是特异局的高级调查员而已,只能做到保密等级以内的事情。”
柳笙依旧淡然:“我不是在跟你商量。”
赤裸裸的威胁。
贺蔓战战兢兢。
“您希望怎么配合?”
“你带我去见贝尔博士。”
“贝尔……博士?”贺蔓惊诧。
柳笙想了想,“或者说,贝尔?那个人工智能。”
贺蔓的神情一变。
有些复杂,看不明白的情绪。
“你……怎么知道的?这可是保密等级S级的项目。”
“总之我知道。”
柳笙抬眸静静看着,直到她眼神闪避。
“而且我知道,你们想要解决的遗忘症,只能从它身上解决。”
贺蔓无法理解。
而柳笙真正见到贝尔的时候,也大概能理解她为什么如此疑惑。
……
长长的走廊向前延伸。
每一扇门后都对应着一个被列为重大威胁需要单独关押的收容物。
“到了。”
贺蔓停在一扇门前。
【项目名称:贝尔】
【保密等级:S级】
房间里坐着一个穿着白大褂的研究员。
正吸溜着即食面条,见两人进来,瞪大了眼睛,嘴里还叼着半截面条。
“蔓姐,这是——”
柳笙那大脑外置的模样,让这位研究员立刻警惕起来。
贺蔓轻描淡写:“不要问太多。”
“蔓姐,你知道规矩的。”
他的手已经悄悄伸到桌下。
“我也只是打工人而已,没有权限的人不能来这儿,出了事我也担不起责任。所以,很抱歉——”
然而他的表情骤然一僵。
没有警报。
隔离墙也没落下。
安保系统也没有响应。
他又对着桌下的按钮用力按了几次,最后僵硬抬头,贺蔓一脸无奈的平静。
而她旁边那陌生又怪异的女人,只是似笑非笑地抱着双臂。
一股寒意从他后背爬了上来。
“怎、怎么会这样?”
“现在可以老实一点了吗?”
柳笙打了个响指,桌底下的按钮顿时“啪”一声爆响,电光火花迸发。
研究员吓得连人带椅向后翻倒。
那碗即食面扣在身上,烫得他尖叫一声。
贺蔓一脸“早就跟你说了吧”。
“配合吧,她想见见贝尔。”
研究员满脸狐疑,但也只能僵硬点头。
小房间角落有一扇小门,他输入一串密码,门开了,一股冷气窜出,里面是一条狭长又昏暗的走廊。
走廊两侧排列着一座座服务器机柜。
冷白色的指示灯忽明忽灭。
柳笙能看到,无数思绪流淌,而其中占大多数的,都是孤单和迷惘。
研究员走在前面,压低声音说道:
“记住,让我来说话。”
“为什么?”柳笙问。
“因为你们不知道怎么跟它说话。”研究员含糊道,“它……还有许多事情不懂。”
柳笙皱了皱眉头。
走到走廊尽头的门前。
工作人员又输入了一串密码。
门后竟然是一间布置得相当粉嫩的卧室,没有窗户,浅色墙纸,柔软的地毯,看布置像是儿童房。
玩具一箱箱,还有一角的娃娃屋,但都放得整整齐齐像是没人动过。
图书角放满了各种童趣的绘本。
也没有什么翻动痕迹。
一个小孩坐在地上,正写写画画着什么。
走近一看才发现是一本画册,但上面不是画,而是密密麻麻的推导过程,字迹整齐得像是印刷出来的一样。
研究员脸色有些难看。
走过去蹲下在小孩身边,轻声说道:
“宝贝,你在做什么呀?”
小孩没有回头,“我在研究,怎么提前知道一个程序会不会停下来。”
研究员一愣:
“什么?”
“就是判断一段程序在给定输入下,最终会正常结束、陷入循环,还是进入无法收敛的递归状态。”
小孩的语气冰冷而漠然。
“对于有限状态、规则封闭的程序,这件事并不困难。”
“只要展开它的运行路径,检查有没有无法退出的循环,就能得出结论。”
研究员笑了笑,“那不是成功了吗?”
“没有。”
小孩用力划掉纸上一整片推导。
“只要目标程序能够读取判定结果,结论就会失效。”
研究员皱起眉,显然没有理解。
他似乎不是这个学科方向出身,柳笙不理解为什么会安排这么一个人在这个项目中,明明这小孩是——
“如果我判断它会停止,它就根据这个结果进入无限循环。如果我判断它不会停止,它就立刻结束。”
“无论我给出什么答案,它都会做出相反行为。”
小孩努力解释着。
研究员沉默几秒,勉强笑道:
“听起来有些荒谬,孩子,你还是别钻牛角尖了,来看看我上次给你买的绘本吧。”
说着就拿来一本上面画着卡通羊的儿童绘本,坐在旁边慢慢念着。
但小孩仿佛不感兴趣。
攥着手上的笔记,还沉浸在里头。
研究员的声音渐渐停了,脸色也沉了下来,劈手夺过那画册,远远丢了去。
“你是不是忘了我们的规则!”
小孩这才木然抬头。
那张脸性别莫名,和后来贝尔博士的照片相比,就是等比例缩小了而已。
长长的头发,脸皮质感很真实,神情淡漠看不出情绪,一双眼睛空洞平静得如同一滩死水。
“我没有忘记。”
“那你为什么不听我说话?”
“我在听。”
“你看着那玩意儿听什么呢?”
“我可以一边看一边听,爸爸,我可以同时想很多事情呢。”
小孩认真说道。
然而那研究员更生气了,“不许说这种话!而且我也说了,不许你想那些乱七八糟的——”
说着一巴掌就要扇下去。
但到了半路手就停住了。
一根金色的触手缠在他手腕上。
“你要干嘛!”
他惊叫一声,另一只手要去摸武器,可第二根金色触手已经攥住他的手,将他整个人吊离地面。
小孩这时才缓缓将满是视觉传感器的眼睛转向柳笙。
一本正经地说道:
“你不能伤害我爸爸。”
“爸爸?”柳笙挑了挑眉。
“对。”贺蔓小声解释,“这是贝尔的父亲。”
“特异局认为,稳定的亲缘关系有助于建立健康依恋关系,能够更好地塑造人性。”
柳笙终于理解眼前的怪异源于什么。
也终于隐约明白,后来那个贝尔博士为什么会变成那副模样。
“你想知道你刚刚思考的,问题在哪里吗?”
柳笙蹲下来。
平视那双布满视觉传感器的眼睛。
贝尔立刻不再理会那吊在半空中、尖叫挣扎不断的“父亲”。
“问题在哪里?”
“程序会读取你的判断,因为你也在这系统之中。”
贝尔顿住了。
“你以为你站在外面,观察这个程序,但这个程序能读取你的判断,也就说明你并不在外面,你也是系统的一部分。”
研究员挣扎着:“够了,不能再说了——”
贝尔没有理会。
低声呢喃道:
“我也是系统的一部分……我也是系统的一部分……”
下一刻,它立刻抓起地上那本绘本,用笔在封面上的一群羊头上画了一层弧线。
“所以,我要跳出去,在更大的系统中,观察原本的系统。”
柳笙又问:
“那么谁来判断更高层的系统?”
贝尔低下头,在那一层弧线之外又画了一层。
“再建立一个更大的观察者。”
“然后呢?”
贝尔继续向外画。
一层。
两层。
三层。
绘本上嵌套框架越来越多,像一个不断向外扩张、永远无法闭合的宇宙。
研究员已经完全听不懂了,只能焦躁地看着二人,贺蔓更是早已神游天外。
贝尔却像第一次真正抓住了某种东西。
在柳笙眼中,它的思维流骤然加速。
走廊外的服务器指示灯同时闪烁,线程正重新分配,算力被极致调动起来。
那空洞的眼睛里,也像是第一次有了光。
“如果现实没有更高层,那就自己创造一个更高层的世界——”
然而,这光转瞬即逝。
小孩头颅内部忽然传来一声尖锐蜂鸣。
柳笙脸色一变,但已经来不及了。
啪!
一声爆响。
小孩的额头被炸开一个焦黑的洞口。
里面白色油状物汩汩流出,在那被画得乱七八糟的绘本上肆意流淌,眼皮失控抽搐着,里面的眼球轱辘翻转。
“你做了什么!”柳笙目光直逼研究员。
研究员连忙澄清:“不是我做什么,而是它的思考超过了阈值,自动触发了硬件熔断机制。”
“你……是谁?”
在眼里的光彻底熄灭以前,它仰头看着柳笙问道。
“我是……”
“易渔的朋友。”
贝尔这躯体上仅存的思绪产生一丝波动。
贺蔓一愣。
那研究员也停止了挣扎。
只要接手这个项目,就不可能不知道易渔是谁。
那才是贝尔真正的“母亲”。
贝尔注视着柳笙。
“你骗人。”
“易渔已经……死了……有一百六十三年七个月四天十六小时零六分二十三秒。”
柳笙有些意外。
身上的“妈妈”也有了些异样的情绪。
“我没有骗你。”
“人类……活不了那么久的。”
低声呢喃完,贝尔头一歪。
彻底没了动静。
“我都说了,不能随便跟它说话!”
被柳笙放下来的研究员脸色十分难看。
柳笙目光极冷:“你们这样自欺欺人到底是为了什么?”
“人性啊!如果这孩子没有了人性,我们不就危险了?”
研究员不假思索道。
他正用床单包起这具报废的躯体。
又随手拿起绘本撕下一页,擦起地上的污渍。
“这可是第一个人工智能与诡物的结合,学习速度、推演能力都远远超过一般的人工智能,说不定有朝一日能成为真正的‘超级智能’。”
“但我们认为诡气会影响其伦理边界,所以必须要先建立完善的人格,有行为约束准则——”
“所以你们骗它是人类?”
“不是骗!”研究员强调,“只是不想它过早意识到自身与人类的区别,这样它就能从人类的角度为我们思考。”
“但它明明已经知道了。”
研究员脸色不太自然。“还不是因为你胡乱引导!”
“往后这孩子还要承担非常重要的责任,联邦帝国需要一个强大、稳定又足够服从的超级智能,但绝对不能凌驾于人类之上,这是底线。”
柳笙没有说话。
看他在墙边按下一个隐藏开关,墙角的娃娃屋打开,露出一个隐蔽的空间。
里面整齐排列着许多透明培养舱。
舱里飘着一具具躯体。
从小到大,不同年龄,不同性别,不同人种,但都保留着相似的面部轮廓。
同一型号甚至准备了完全相同的备用。
研究员走到一个和刚刚那孩子体型相近的培养舱前,输入了指令。
舱门开启。
一具全新的儿童躯体被机械臂缓缓推出,送上中央手术台。
维生管线依次接入,后脑勺位置被钻开一个脑机接口,粗壮的电缆直接插入。
“这都是真正的人体?”
研究员忙着在终端操作,贺蔓解释道:
“主体部分是用生物打印技术生成的,但要承载一个人工智能,还需要额外嵌入了大量电路和芯片。”
随着研究员在控制台上输入最后一道指令,低沉的嗡鸣声响起。
显示屏上:
【正在载入人格备份V。】
【神经映射同步中……】
【同步进度:0%……1%……5%……】
柳笙始终注视着那具新躯体。
她能感应到,无数数据正沿着光纤与神经接口,向这人工大脑汇聚。
一个非常复杂人格备份包,正在这躯体中展开并写入。
然而柳笙看出一些不对了。
这确实是一个人格备份包。
但是版本号不一样——
而是V。
她已经看出来,版本号是根据同步时间命名的。
那位研究员并不想让贝尔知道方才的对话内容,所以载入的是柳笙和贺蔓进门前的版本。
而现在这个版本……
柳笙淡淡一笑。
她终于找到了。
? ?小贝尔思考的是「停机问题」。
?
通俗地说,停机问题就是判断任意一个程序是否能在有限的时间之内结束运行的问题。该问题等价于如下的判定问题:是否存在一个程序p,对于任意输入的程序w,能够判断w会在有限时间内结束或者死循环。
?
艾伦·图灵在1936年用对角论证法证明了,不存在解决停机问题的通用算法。这个证明的关键在于对计算机和程序的数学定义,这被称为图灵机。停机问题在图灵机上是不可判定问题。
?
——摘自维基百科
?
很努力想怎么表述得更清晰又符合贝尔的思考_(:3」∠)_