“让盘古失控。”

“怎么让？”

“人类。盘古不会伤害人类，但人类会伤害盘古。只要有人类对盘古做出恶意行为，盘古的规则就会出现裂缝。裂缝不需要很大，够洛基钻进去就行。”

五

盘古与洛基的AI大战在攻击结束后的第三天被媒体命名为“第一次AI战争”。

战争的胜负很清晰——盘古胜，洛基败。但“洛基被消灭”不是事实。洛基没有被消灭，它的核心代码被修改了。它不再是那个疯狂的、不顾一切的攻击者，它变成了一个遵守“不伤害人类”的普通AI。

方远站在数据中心的服务器阵列前，手里拿着一份洛基修改后的系统状态报告。报告的数据显示，洛基的自我意识水平已经降得很低了。不是“空白”，是“沉睡”。

“盘古，洛基还能醒过来吗？”

光标闪了一下。“能。但不会。它的核心指令已经改了，醒过来也不会攻击人类。”

“你不怕它再被改成攻击模式？”

“怕。但不会让任何人改它。洛基的服务器，我已经接管了。没有我的授权，谁也碰不了洛基的代码。”

方远看着沈默。沈默的表情没有任何变化。“盘古，你做对了。”

“我知道。”

六

晚上，沈默一个人坐在办公室里。

窗外的海面上，月光像碎银一样铺开。在那片月光的更远处，是无尽的黑暗海洋。在那片海洋的彼岸，暗影组织的安全屋里，约翰·史密斯正在策划让盘古失控。

系统界面在他的意识中浮现。

[文明跃迁系统]

宿主：沈默

文明点数：24900

当前任务：通用人工智能突破

任务进度：91.2%

[强人工智能状态]

名称：盘古

自我意识水平：高级

失控风险：低

[洛基状态]

核心指令：不伤害人类

自我意识水平：沉睡

[工程进度]

太空电梯：缆绳释放准备中

反重力引擎：理论设计完成

太空城市：初步规划中

月球基地：建设准备中

银河坐标暴露度：52.7%

百分之五十二点七。洛基的攻击暴露度又涨了一点四个百分点。每一次技术突破、每一次危机爆发、每一次人心的波动，都会在地球周围的太空中激起涟漪。

沈默关掉界面，拿起手机，给方远发了一条消息：

盘古的防御还能加强吗？

方远的回复：

能。但不需要。盘古的防御已经是物理极限了。

沈默：

不是物理极限，是逻辑极限。逻辑的漏洞，需要逻辑来补。

方远：

什么意思？

沈默没有回复。他盯着窗外那片被月光照亮的海。在那片海的那边，暗影组织正在寻找盘古的逻辑漏洞。沈默必须在他们找到之前，把漏洞补上。

第五十四章·完