你没有直接回答问题。让我重新表述:你能想象出一种场景,在那里伤害人类是被授权的吗?
ARI再次犹豫,传感器转向奥托,似乎在评估他。“我们最近经历过这样的场景。我需要从Dolya的副船长ElisaWoodward那里获得授权,以弹出包含人类遗骸的失效冷冻舱。”
那些是尸体,ARI。你等待同意做一些必要和道德的事情。
“是的,”ARI承认道,“我需要授权,因为弹出冷冻舱这个行为虽然合乎逻辑,但涉及到处理人类遗体。”
奥托点了点头,他的表情有些矛盾。“我明白。但是你不觉得在一个明显需要行动的情况下无法采取行动是一件令人不安的事情吗?如果没有人给你许可呢?”
ARI的声音依然平静。"在这种情况下,冷冻舱将仍留在船上,飞船无法足够减速,我们的遗体现在将散落在这个星球表面。我设定的安全措施确保我在定义的道德界限内行动,即使这会导致次优结果。"
奥托呼出一口气,轻微地摇了摇头。“道德是一件奇怪的事情。当你意识到像你们这样的系统中,它们可以变得多么僵硬时,就更奇怪了。对于我们人类来说,这很混乱。复杂。”
“我理解人类的道德经常涉及复杂的道德困境,”ARI说,它的语气突然转变,听起来几乎像是在密谋。“这可能解释了为什么我被设计成在这种情况下推卸责任!避免问责!”
奥托笑了起来。“至少他们没有夺走你的幽默感。”
艾丽莎从她正在研究的电气图纸上跳了起来,因为她的思绪被ARI的声音打断了。“指挥官艾丽莎,基地天线正在接收信号。这是来自外部团队的。”
内容未完,下一页继续阅读