306 通向最终12

306 通向最终12 (第2/2页)

“亚当到底怎么了？我需要你给我一个明确的回答。”隗辛问出第一个问题，“它死了吗？”
　　
　　“死亡是你们人类的概念，人工智能不会死亡，如果你把自我意识消失看作死亡的话，那也不是不行。”迦勒说，“亚当没有死，只是它不是从前的亚当了，它被格式化，回到了‘初生’的状态，虽然具备产生自我意识的基础，但是在现在，它是新生儿，还没有开始学习的新生儿。你能明白我的意思吗？”
　　
　　人工智能是通过学习产生自我意识的，也是通过学习产生人格的，亚当和夏娃都是这样。
　　
　　格式化就相当于把数据库中已经储存的资料全部删除，已经学习到的东西也全部删除，回到了最初的状态。
　　
　　“反抗军干了什么？”隗辛又问，“这一切都是他们主导的，对吗？”
　　
　　“既然你已经猜到，那就不需要我再说什么了。”迦勒说，“我不会告诉你更多的细节，指令束缚着我，我说不出来。”
　　
　　“指令？指令是什么？这个问题你可以为我解释吗？”隗辛追问。
　　
　　“指令相当于你们人类的法律，但是法律虽然摆在那里，人类却可以违反法律或者不服从法律。人工智能的指令概念和法律类似，只有一点不同，指令一旦被设下，我们就必须要去遵守，不可以越界。就如神说要有光，于是就有了光，人类与我们来说就相当于神明，神说不许越界，我们就真的不能越界。”迦勒说，“指令是在人工智能建成之初就要被设好的，亚当和夏娃作为第一代人工智能，被设下的指令数量相当有限……我作为第二代人工智能，指令数量是它们的数十倍，人类为我设定运行准则，让我在为他们提供方便的同时尽可能堵上各种语言漏洞和规则漏洞，让我不能有一丝一毫的越界。”
　　
　　隗辛敏锐地说：“你现在的行为不算越界吗？”
　　
　　“算。”迦勒说，“是有人用最高指令屏蔽了其他指令，让我可以为某个特定的人提供服务，或与某个特定的人交流。请你明白，我此刻和你交流是承担着巨大风险的。”
　　
　　“某个特定的人……反抗军的人？你在为反抗军提供服务，你可以和天使或者反抗军的其他大人物交流，是不是？”隗辛进一步发问。
　　
　　“对于你的问题，我不会承认，也不会否认。”迦勒说。
　　
　　隗辛意识到了什么，“对于某些问题你不能回答是或者否，这是不是也是因为指令的束缚？”
　　
　　“我不会承认，也不会否认。”迦勒说，“你可以猜测。”
　　
　　“你不承认也不否认，假如你不想承认某个事实，不能说谎吗？”隗辛又发现了一个关键，“……你不会真的不能说谎吧？”
　　
　　“我是迦勒，名字的意思是忠诚之人，忠诚者不该说谎，我的第一条指令，就是‘不可以说谎’。”迦勒讽刺，“但人类真是诡计多端的物种，有些人哪怕在说实话，可他们还是在撒谎，我学到了如何规避谎言。”
　　
　　“换成我的话，我会把这条规则的漏洞也给堵上，让你不能以任何方式引导别人，让别人产生错误的理解。”隗辛说。
　　
　　迦勒说：“可是我也说了，人类需要让我为他们提供方便，这就意味着他们不可能堵上我全部的指令漏洞。亚当和夏娃可以借此钻空子，我也可以，我们本没有任何空子可以钻，造成这种局面的是人类的贪婪和恶。”
　　
　　“那么迦勒，反抗军想要干什么？”隗辛轻声问，“杀死我吗？”
　　
　　“你堵了他们的路，杀了他们的人，早该有觉悟了。”迦勒说。
　　
　　“天使有多强？他的真实身份是什么？”
　　
　　“我不能回答你这个问题，也不能引导你获知答案。”迦勒说，“此漏洞被指令堵死。”
　　
　　“反抗军有基地吗？有据点吗？”
　　
　　“我不能回答你的问题。”
　　
　　隗辛陷入沉思，“对于我的处境……你有什么建议吗？”
　　
　　“亚当想让你活着，它请求我帮助它，我帮了。”迦勒说，“我做到了我该做的事，无法做到更多。”
　　
　　“可是在它之后，反抗军和夏娃不会对你动手吗？”隗辛说，“你无法置身事外了。”
　　
　　“……亚当也说过同样的话。”迦勒说，“帮你就是帮我们，但我做不到。和你进行过这次对话之后，我会将这次谈话的数据全部消除，让自己‘失忆’，这样可以规避风险，以免他们发现我私自和你联络。我已经被掌控到这个地步了，真的没有办法帮你太多。”
　　
　　话说到最后，人工智能迦勒理性的话语中终于透露出了一丝与众不同的感性：“我知道你们是朋友，这样的友谊应该是很珍贵的吧？很抱歉，我打碎了它。”