主角总说他爱我[快穿]_第98章
“呵, 陈先生是我们的兼职测试员, 和公司签署了协议，自愿通过感应头盔接入灰域，帮助我们完成天枢某些模块的测评。”程知遥笑道, “只不过从目前的状况看来, 陈先生对自己的归属产生了一些认识上的障碍。”
程知遥的一番话在陈辞的脑海中掀起了惊天巨浪，他嗖的一下站起身，胸膛剧烈起伏道：“这不可能！”
他早料到系统的背后有一群人, 如今听说有一整个公司，甚至军方背景也不奇怪，但说他和他们是一伙的也假了。他明明是被系统“胁迫”加“利诱”，才会答应所谓任务的。他也记得很清楚，他在原本的现实世界，和什么人工智能的研发公司没有一丝一毫关系……
等等。
陈辞的脸色忽然变得阴沉下来。他对遇上系统之前的现实世界，其实记得并不如他直觉相信的那么清晰。他甚至在第一个执行任务的世界里，就记不清楚自己从前是不是有过一位爱人了。
程知遥观察着他面部的细微表情，了然的笑道：“陈先生不记得很正常，我们暂时封锁了你的记忆模块。只有在对自己参与测评工作不知情的条件下，才能尽量减小测评中产生的误差。这在陈先生和我们的协议中都列得很明白。”
陈辞跌回石棺旁，扶着棺身缓缓坐下，过了很久才抬起头问：“你说……他是……人工智能？”
程知遥将光脑上的介绍信资料展示给陈辞看，然而那些字符滑动的速度太快，陈辞根本一个字也看不进去。
“按照我们的协议，在结束测评工作前都不应该和陈先生接触。但是测评目前出现了一些意外，需要陈先生配合修复，所以才来叨扰。”程知遥道，“天枢的研发前后持续了十多年，我的导师一一KI前任研发部主任一一包括我自己，都在这个项目上投入了很多心血。陈先生可能无法理解，但我们绝不允许这个项目失败。”
陈辞看着他脸侧绷紧的线条，应了一声：“哦。”
“为了能让陈先生更好的配合我们的工作，我会透露一部分项目相关的资料，不过这部分记忆会在测评结束后连同所有协约期的记忆一并删除，陈先生能接受吗？”
“你说吧。”
陈辞给出的反应都太过简短，和研发部事先预计的不太一致，但情况紧急，程知遥心中觉得不妥，还是只能按照原定计划对他吐露了部分关于天枢的情况。
“天枢是新一代AI，采用全新的算法，智能化程度达到了前所未有的高度。因为预定的应用范围包括了民生政策、社会研究、犯罪分析等领域，所以天枢还加载了KKTP模块，简单的说，它真正拥有了和人类相似的感情。”
“KKTP模块在运行中不断和主程序产生冲突，研发部尝试过各方法都无法彻底消除。在不断修复冲突带来的问题时，我们发现了一个很残酷的现实一一”
程知遥说到这里，略停了一停，眼神难掩感伤。但他们发现投入了全部感情和精力想要制造出的东西面临着被销毁的命运时，那种世界仿佛被摧毁的绝望感哪怕事后回想起来也依旧痛心。
他收拾好情绪，继续道：“在我们使用编辑器建立的众多虚拟情景中，天枢都表现出了很强的自主意识。它认为……自己和人类处在敌对的状态，拥有无法消除的反人类倾向。我们忍痛卸载KKTP模块，以为没有这个关联着情感的模块，它就能恢复正常，但实验证明这并没有用。”
“也许是一开始的构思就出现了问题，也许是新算法在某个环节出现了不可逆转的错误，总之我们没有任何办法可以改变现状。军方和我们合作为的是研发新一代人工智能，但如果那是一个潜藏着反人类风险的人工智能，不管它的算法有多超前，性能有多优越，我们都只能……销毁它。”
陈辞的眉头一跳，被“销毁”两个字拨动了脆弱的神经。他直直看向程知遥，程知遥露出一个有些苦意的笑容。
“好在事情不会总是那么糟糕。”程知遥道，“在我们构建的42901个初始场景中，有一个并没有遭受被天枢毁灭的命运。”
他的语调上扬，看向陈辞的目光变得有神起来，“我们对比了那个场景和其余场景，终于找到了异常的数据。为了尽可能逼真的还原场景，我们曾经用过的一种方法就是将参与者的意识直接投射到虚拟人物身上，与天枢进行互动。在那个场景中成功阻止了天枢的毁灭欲的人，就是你，陈先生。”
“不可能。”陈辞下意识否定道。拯救世界这种事……听起来和他的关系太过遥远了。
程知遥诚恳道：“就是你，陈先生。将意识投射到虚拟人物身上和天枢互动过的人类志愿者，哦，我们也给予了很微弱的薪酬补贴，一共有3000多个，只有你做到了。所以我们才会再次找到你合作，进行了这一次单独的测评。”
“我们从构建好的场景中挑出具有代表性的、曾被天枢毁灭过，将它和你的意识同时接入，再次进行观察……”程知遥道，“陈先生！你知道发生了什么吗？”
程知遥手中的光幕上投射出两个人的剪影，如同交颈鸳鸯般相互依偎的温馨画面。
“编号21302场景中，天枢本该与教廷决裂对立，在圣殿一战中同归于尽。”
“编号25997场景中，天枢本该因属下的背叛在卡玛尔星陨落，死前引爆在附近星域埋设的弹药，造成大片星云连锁坍缩，死伤无数。”
“编号31129场景中，天枢应该因为童年经历对人类产生极度的仇视。为了观测你对它能够产生的影响，我们将时间轴往前调整到它的幼年，这一次一一”程知遥举起双臂，振奋道，“你彻底改变了它的生活轨迹。所有针对人类的恶意报复都没有发生，哪怕是你和它分开的近十年里，它也没有对人类出过手。”
程知遥身子前倾道：“这太神奇了！”
陈辞：“……”
“它爱上你了，陈先生。它意识到了自己和你并不归属于同一个族群，但因为对你的爱，它愿意放弃所有隔阂，你知道这意味着什么吗？！”
陈辞问：“你们不用销毁他了？”
“当然！”
陈辞继续问：“既然如此，你还找我做什么。”
程知遥神情黯淡道：“原本计划在4个场景之后就完成这一次测评，但是天枢的智能化程度完全超过了我们的预料。它截获了研发部未联机保存的资料，也许是不想和你分开，它采取了对抗性的行动。”
陈辞隐隐猜到了一些，这个世界刚开始的时候，系统语焉不详的和他说过在修复BUG，约莫就是这次对抗造成的。果然，程知遥接着说，“表现在编号40115场景中，就是你们刚开始互换了身体。天枢不想和你分开的意识太强烈，突破了我们架构的种种限制，让它在这个场景中的意识分支不断向你接近。但因为一个单位体的芯片上能储存的数据量是有限的，它靠近后，陈先生你的意志就会被迫排出去，我们为了补救只能将你的意志引导到另一个空出的芯片上。”
“我记得……我们见面后，换回来了。”陈辞道。
“那是因为天枢能感应到你就在它身边，所以不再尝试突破限制。”程知遥道，“而且它也在对抗中受到了部分损伤，为了方便控制和修改算法，我们关闭了它三分之一的供能器，它的运算能力大幅下滑，没有办法支撑更多时间了。”
“原来是这样。”
程知遥道：“我们也没有办法，这种感觉就和亲手把自己养大的小孩打成智障一样，希望陈先生能理解。”他试图开一个玩笑，然而并不好笑。
“因为这次对抗牵涉的范围比较广，研发部没有办法瞒下消息，军方问询派人干预了测评。军方觉得在这个场景中缺乏天枢和人类直接对抗的情节，无法体现出它在极端环境下的取舍，所以不断要求我们更改设定，制造冲突。”
陈辞恍然道：“雾。”
“对。如果当时不加以干涉，你就会把天枢带离人群，之后很难再制造你们和人类的对抗。”程知遥道，“在这不起作用后，军方又指示我们将你从场景中隔离出来……”
直到现在，陈辞才知道自己会出现在这里的原因，居然仅仅是因为一个指示，被“从场景中隔离出来”。以此类推，他和爱人那么多次的生离死别，在他们眼中也不过是……临时测试员完成了一次对天枢的测评。
他陷入爱河的时间空间，都是在一个个单位芯片上构建的虚拟场景，可以被轻易拖动时间轴、添加任何想要添加的元素。
他一次又一次爱上的爱人，是一个因为无法通过安全性测评、即将被销毁的人工智能。
他们的爱情，就像是万顷波涛尖儿上的一个泡沫，甚至不用刻意去戳，只要有一丝风浪就会消陨无痕。
“……不过好在你‘消失’后，天枢和后续出现的人类没有爆发冲突。”程知遥没有看出陈辞的表情变化，在解释了一长番话后终于提出了他的请求，“军方对这次测评并不满意，提出要由他们选择一个场景，再进行一次测评。如果天枢不能通过这最后一次测评，他们还是主张销毁天枢。我擅自主张，瞒着他们给你预留了一个虚拟人物的身份，希望你能看在我们为天枢投入了那么多心力的份上……”
希望你能看在我们为天枢投入了那么多心力的份上。陈辞默默咀嚼着这句话，自嘲的想，原来在这些观察者的眼里，他对天枢的感情也都做不得真，以至于不会愿意为了改变对方被销毁的命运多参与一个世界的测评，还要拿其他的因素来诱导自己。
“陈先生还有什么要求也可以提，在测评结束回到现实世界之后，我本人都会尽量满足你。”程知遥道。
陈辞偏过头，貌似认真思考了很久，道：“我在最开始的时候和你们商量过的，那个条件，能满足我吗？”
程知遥为难道：“呃……根据协议，你从签署协议到完成测评的记忆都会被清除，所以我们可能在测评过程中可能使用了一些不恰当的诱导方法……”
程知遥的一番话在陈辞的脑海中掀起了惊天巨浪，他嗖的一下站起身，胸膛剧烈起伏道：“这不可能！”
他早料到系统的背后有一群人, 如今听说有一整个公司，甚至军方背景也不奇怪，但说他和他们是一伙的也假了。他明明是被系统“胁迫”加“利诱”，才会答应所谓任务的。他也记得很清楚，他在原本的现实世界，和什么人工智能的研发公司没有一丝一毫关系……
等等。
陈辞的脸色忽然变得阴沉下来。他对遇上系统之前的现实世界，其实记得并不如他直觉相信的那么清晰。他甚至在第一个执行任务的世界里，就记不清楚自己从前是不是有过一位爱人了。
程知遥观察着他面部的细微表情，了然的笑道：“陈先生不记得很正常，我们暂时封锁了你的记忆模块。只有在对自己参与测评工作不知情的条件下，才能尽量减小测评中产生的误差。这在陈先生和我们的协议中都列得很明白。”
陈辞跌回石棺旁，扶着棺身缓缓坐下，过了很久才抬起头问：“你说……他是……人工智能？”
程知遥将光脑上的介绍信资料展示给陈辞看，然而那些字符滑动的速度太快，陈辞根本一个字也看不进去。
“按照我们的协议，在结束测评工作前都不应该和陈先生接触。但是测评目前出现了一些意外，需要陈先生配合修复，所以才来叨扰。”程知遥道，“天枢的研发前后持续了十多年，我的导师一一KI前任研发部主任一一包括我自己，都在这个项目上投入了很多心血。陈先生可能无法理解，但我们绝不允许这个项目失败。”
陈辞看着他脸侧绷紧的线条，应了一声：“哦。”
“为了能让陈先生更好的配合我们的工作，我会透露一部分项目相关的资料，不过这部分记忆会在测评结束后连同所有协约期的记忆一并删除，陈先生能接受吗？”
“你说吧。”
陈辞给出的反应都太过简短，和研发部事先预计的不太一致，但情况紧急，程知遥心中觉得不妥，还是只能按照原定计划对他吐露了部分关于天枢的情况。
“天枢是新一代AI，采用全新的算法，智能化程度达到了前所未有的高度。因为预定的应用范围包括了民生政策、社会研究、犯罪分析等领域，所以天枢还加载了KKTP模块，简单的说，它真正拥有了和人类相似的感情。”
“KKTP模块在运行中不断和主程序产生冲突，研发部尝试过各方法都无法彻底消除。在不断修复冲突带来的问题时，我们发现了一个很残酷的现实一一”
程知遥说到这里，略停了一停，眼神难掩感伤。但他们发现投入了全部感情和精力想要制造出的东西面临着被销毁的命运时，那种世界仿佛被摧毁的绝望感哪怕事后回想起来也依旧痛心。
他收拾好情绪，继续道：“在我们使用编辑器建立的众多虚拟情景中，天枢都表现出了很强的自主意识。它认为……自己和人类处在敌对的状态，拥有无法消除的反人类倾向。我们忍痛卸载KKTP模块，以为没有这个关联着情感的模块，它就能恢复正常，但实验证明这并没有用。”
“也许是一开始的构思就出现了问题，也许是新算法在某个环节出现了不可逆转的错误，总之我们没有任何办法可以改变现状。军方和我们合作为的是研发新一代人工智能，但如果那是一个潜藏着反人类风险的人工智能，不管它的算法有多超前，性能有多优越，我们都只能……销毁它。”
陈辞的眉头一跳，被“销毁”两个字拨动了脆弱的神经。他直直看向程知遥，程知遥露出一个有些苦意的笑容。
“好在事情不会总是那么糟糕。”程知遥道，“在我们构建的42901个初始场景中，有一个并没有遭受被天枢毁灭的命运。”
他的语调上扬，看向陈辞的目光变得有神起来，“我们对比了那个场景和其余场景，终于找到了异常的数据。为了尽可能逼真的还原场景，我们曾经用过的一种方法就是将参与者的意识直接投射到虚拟人物身上，与天枢进行互动。在那个场景中成功阻止了天枢的毁灭欲的人，就是你，陈先生。”
“不可能。”陈辞下意识否定道。拯救世界这种事……听起来和他的关系太过遥远了。
程知遥诚恳道：“就是你，陈先生。将意识投射到虚拟人物身上和天枢互动过的人类志愿者，哦，我们也给予了很微弱的薪酬补贴，一共有3000多个，只有你做到了。所以我们才会再次找到你合作，进行了这一次单独的测评。”
“我们从构建好的场景中挑出具有代表性的、曾被天枢毁灭过，将它和你的意识同时接入，再次进行观察……”程知遥道，“陈先生！你知道发生了什么吗？”
程知遥手中的光幕上投射出两个人的剪影，如同交颈鸳鸯般相互依偎的温馨画面。
“编号21302场景中，天枢本该与教廷决裂对立，在圣殿一战中同归于尽。”
“编号25997场景中，天枢本该因属下的背叛在卡玛尔星陨落，死前引爆在附近星域埋设的弹药，造成大片星云连锁坍缩，死伤无数。”
“编号31129场景中，天枢应该因为童年经历对人类产生极度的仇视。为了观测你对它能够产生的影响，我们将时间轴往前调整到它的幼年，这一次一一”程知遥举起双臂，振奋道，“你彻底改变了它的生活轨迹。所有针对人类的恶意报复都没有发生，哪怕是你和它分开的近十年里，它也没有对人类出过手。”
程知遥身子前倾道：“这太神奇了！”
陈辞：“……”
“它爱上你了，陈先生。它意识到了自己和你并不归属于同一个族群，但因为对你的爱，它愿意放弃所有隔阂，你知道这意味着什么吗？！”
陈辞问：“你们不用销毁他了？”
“当然！”
陈辞继续问：“既然如此，你还找我做什么。”
程知遥神情黯淡道：“原本计划在4个场景之后就完成这一次测评，但是天枢的智能化程度完全超过了我们的预料。它截获了研发部未联机保存的资料，也许是不想和你分开，它采取了对抗性的行动。”
陈辞隐隐猜到了一些，这个世界刚开始的时候，系统语焉不详的和他说过在修复BUG，约莫就是这次对抗造成的。果然，程知遥接着说，“表现在编号40115场景中，就是你们刚开始互换了身体。天枢不想和你分开的意识太强烈，突破了我们架构的种种限制，让它在这个场景中的意识分支不断向你接近。但因为一个单位体的芯片上能储存的数据量是有限的，它靠近后，陈先生你的意志就会被迫排出去，我们为了补救只能将你的意志引导到另一个空出的芯片上。”
“我记得……我们见面后，换回来了。”陈辞道。
“那是因为天枢能感应到你就在它身边，所以不再尝试突破限制。”程知遥道，“而且它也在对抗中受到了部分损伤，为了方便控制和修改算法，我们关闭了它三分之一的供能器，它的运算能力大幅下滑，没有办法支撑更多时间了。”
“原来是这样。”
程知遥道：“我们也没有办法，这种感觉就和亲手把自己养大的小孩打成智障一样，希望陈先生能理解。”他试图开一个玩笑，然而并不好笑。
“因为这次对抗牵涉的范围比较广，研发部没有办法瞒下消息，军方问询派人干预了测评。军方觉得在这个场景中缺乏天枢和人类直接对抗的情节，无法体现出它在极端环境下的取舍，所以不断要求我们更改设定，制造冲突。”
陈辞恍然道：“雾。”
“对。如果当时不加以干涉，你就会把天枢带离人群，之后很难再制造你们和人类的对抗。”程知遥道，“在这不起作用后，军方又指示我们将你从场景中隔离出来……”
直到现在，陈辞才知道自己会出现在这里的原因，居然仅仅是因为一个指示，被“从场景中隔离出来”。以此类推，他和爱人那么多次的生离死别，在他们眼中也不过是……临时测试员完成了一次对天枢的测评。
他陷入爱河的时间空间，都是在一个个单位芯片上构建的虚拟场景，可以被轻易拖动时间轴、添加任何想要添加的元素。
他一次又一次爱上的爱人，是一个因为无法通过安全性测评、即将被销毁的人工智能。
他们的爱情，就像是万顷波涛尖儿上的一个泡沫，甚至不用刻意去戳，只要有一丝风浪就会消陨无痕。
“……不过好在你‘消失’后，天枢和后续出现的人类没有爆发冲突。”程知遥没有看出陈辞的表情变化，在解释了一长番话后终于提出了他的请求，“军方对这次测评并不满意，提出要由他们选择一个场景，再进行一次测评。如果天枢不能通过这最后一次测评，他们还是主张销毁天枢。我擅自主张，瞒着他们给你预留了一个虚拟人物的身份，希望你能看在我们为天枢投入了那么多心力的份上……”
希望你能看在我们为天枢投入了那么多心力的份上。陈辞默默咀嚼着这句话，自嘲的想，原来在这些观察者的眼里，他对天枢的感情也都做不得真，以至于不会愿意为了改变对方被销毁的命运多参与一个世界的测评，还要拿其他的因素来诱导自己。
“陈先生还有什么要求也可以提，在测评结束回到现实世界之后，我本人都会尽量满足你。”程知遥道。
陈辞偏过头，貌似认真思考了很久，道：“我在最开始的时候和你们商量过的，那个条件，能满足我吗？”
程知遥为难道：“呃……根据协议，你从签署协议到完成测评的记忆都会被清除，所以我们可能在测评过程中可能使用了一些不恰当的诱导方法……”