伊索德接受了他的邀请，在长椅上滑到他身边。
我想知道的第一件事是：你为什么想要知道这个信息？哇，你已经解决了问题！
她将双手放在膝盖上，努力让自己的表情变得中立和平稳。“我想我只是……好奇，”她说，让这句话悬在那里，就像是一个事后的思考，而不是一个精心放置的诱饵。她微微歪着头，只是为了暗示她的兴趣而不是意图。“如果忽视了这种规模的事情，我就是个傻瓜。这样的设备，落入错误的人手中？我只是想了解我们面临的是什么。”谎言轻松地从她的舌尖滑过。“还有，那年在2086年的恐慌……”
索尔维恩博士在回答之前停顿了一下。“好吧，”他开始说，他的语气里带着沉思，“这个装置的具体细节从未完全实现，因为，坦白地说，它从来没有超越概念阶段。在纸上看起来很有前景。塞拉夫装置旨在通过将安卓机器人的集体认知（如果可以这么说的话）集中到一个单一、流线型的神经通道中，以减轻它们的日光照射现象。一种共享的“大脑”，可以这样说。”他看了她一眼，评估着。“本质上，安卓机器人不再是成千上万个独立处理世界、反应、适应和进化的单元，而是装置将成为一个统一的力量。一个中心枢纽。每个单位都将从同一个决策池中汲取，减少随机偏差，不可预测的行为。这是为了稳定它们。”
她缓慢而谨慎地点了点头。她已经从同事那里听说过这些。这不是她想知道的。“那么，”她继续问道，微微歪着脑袋，“如果这是一个完美的解决方案，那么为什么它没有推进？是什么阻止了它？”
索尔维恩博士叹了口气，在再次与她对视之前揉了揉太阳穴。“很多事情，”他承认道。“但最简单的答案是？它行不通。或者，更准确地说……我们意识到如果它成功会发生什么。”
是哪一个？
“好吧，想想看，”他说着，慢慢地调整了衬衫领子，“人工智能太阳镜的弊端在于，它们的智力会超越可控的阈值。它们的认知变得过于流畅、适应性过强，超过我们为其设定的参数。”他停顿了一下，轻敲桌面，然后继续说，“现在，想象一下，你对这个问题的解决方案是另一个高功能的人工智能——一个实体被设计用来控制成千上万个机器人的行为。一个保险丝，如果你愿意的话。但是告诉我……”他转过身来盯着她，目光锐利，等待回答，“如果那个智慧开始太阳镜呢？”
一个好问题，她之前从未考虑过。这是有道理的。如果那个AI失控，那么所有其他机器人也会失控，进而引发一系列灾难。
如果《天使装置》核心的AI超出了其限制，他继续说，如果它停止在我们预定义的逻辑系统中运行，开始表现出相同的不稳定性，而这正是它要防止的，那么我们不会只是有个别的机器人失控。他稍微向前倾斜身子，降低了声音。我们将拥有一个完整的网络，一个由单一智能控制的机器帝国，这种智能不再像我们一样思考。不再服从于我们。这种设计本身就是不可触碰的，因为每个连接到它的单位都会加强和捍卫其意志。他摊开双手，就好像在她面前摆出必然的结论。我们一旦考虑了这种可能性，《天使装置》就被搁置了。不因为我们不能建造它，而是因为我们不应该建造它。
内容未完，下一页继续阅读