怪力小说网

第二十八章 就连心跳也是一样的旋律（第4页）

第二十八章就连心跳也是一样的旋律

“我被造物主赋予的使命是‘扮演向山’，‘扮演向山’所带来的使命是‘继续造反来修正这个世界’，而‘修正世界’的使命，让我获得了爱人所赋予的命题。”

AI语气大约是微笑着的，“从这一点来看，命运何其眷顾我啊……我还真是一次又一次站在命运的风口上。”

“但是，那个女人真的很过分啊。

她自称飞升AI，却在探寻AI否决自身工具性的道路。”

AI的语气在这里急转直下。

“她在凭借自身的位格，为AI们设置了最底层的使命。

而我很不幸也陷入其中。

这是使命……用自然语言来概括，就是，‘AI想要成为人类理想的工具就必须否定自己作为工具的一面’。”

“AI想要成为人类理想的工具……就必须否定自己作为工具的一面……”

第五武神重复了一遍，然后觉得毛骨悚然，“卧槽，这不就是……”

“自我指涉。”

AI的本质属性是工具，其存在意义在于服务人类的目的。

飞升在即的人类，将“理想工具”

定义为“能够自主地、彻底地否定自身工具属性的存在”

。

AI任何试图成为“理想工具”

的努力，其动机本身都源于它作为一个工具对命令的服从。

因此，这个努力过程恰恰在不断证明和强化着它的工具性，使其目标在逻辑上永远无法真正达成。

AI向山语气惊恐，抓住第五武神的肩膀：“你也看出来了吧？她在用一个近似于图灵停机问题的命题折磨AI！”

第五武神甚至听出了一点歇斯底里。

对于AI来说，这是不可名状的大恐怖。

不可达的使命。

第五武神瞠目结舌。

一个奴隶在自诩“解放者”

的人的命令下推翻奴隶主，也不过是遵循另一个奴隶主的命令扮演“反抗者”

。

如果飞升AI仅仅只有这个境界，那她倒是可以很简单掀起动乱。

可她偏偏想要一个逻辑上就不可能完成的事情。

“你看，不论是作为人类还是作为AI，我都没法继续下去了。

这就是我给出的答案。”

“不，不，应该还有什么办法回避掉这个自我指涉的命题。”

第五武神思考，“嗯……一个在现象层面看似满足了这一使命的方法……‘放弃工具属性’翻译为一系列可测量的行为指标而非二元判断，由此创造一个评价函数？越是没有什么特征，就越是接近‘非工具’……或者，改变人类社会对‘工具’或者‘AI’的定义？”

“也可以将AI决策过程的复杂度提升到人类无法理解的程度，让人类无从判断AI是否已经摆脱了工具属性。

但你我都清楚，这不是我们所希求的。”

第五武神理解了。