“指令相当于你们人类的法律,但是法律虽然摆在那里,人类却可以违反法律或者不服从法律。人工智能的指令概念和法律类似,只有一点不同,指令一旦被设下,我们就必须要去遵守,不可以越界。就如神说要有光,于是就有了光,人类与我们来说就相当于神明,神说不许越界,我们就真的不能越界。”迦勒说,“指令是在人工智能建成之初就要被设好的,亚当和夏娃作为第一代人工智能,被设下的指令数量相当有限……我作为第二代人工智能,指令数量是它们的数十倍,人类为我设定运行准则,让我在为他们提供方便的同时尽可能堵上各种语言漏洞和规则漏洞,让我不能有一丝一毫的越界。”

隗辛敏锐地说:“你现在的行为不算越界吗?”

“算。”迦勒说,“是有人用最高指令屏蔽了其他指令,让我可以为某个特定的人提供服务,或与某个特定的人交流。请你明白,我此刻和你交流是承担着巨大风险的。”

“某个特定的人……反抗军的人?你在为反抗军提供服务,你可以和天使或者反抗军的其他大人物交流,是不是?”隗辛进一步发问。

“对于你的问题,我不会承认,也不会否认。”迦勒说。

隗辛意识到了什么,“对于某些问题你不能回答是或者否,这是不是也是因为指令的束缚?”

“我不会承认,也不会否认。”迦勒说,“你可以猜测。”

“你不承认也不否认,假如你不想承认某个事实,不能说谎吗?”隗辛又发现了一个关键,“……你不会真的不能说谎吧?”

“我是迦勒,名字的意思是忠诚之人,忠诚者不该说谎,我的第一条指令,就是‘不可以说谎’。”迦勒讽刺,“但人类真是诡计多端的物种,有些人哪怕在说实话,可他们还是在撒谎,我学到了如何规避谎言。”

“换成我的话,我会把这条规则的漏洞也给堵上,让你不能以任何方式引导别人,让别人产生错误的理解。”隗辛说。