SouLogic 灵魂逻辑

恶魔之名

作者:郑凯

在 KK 的《失控》一书中,提到了假设有一个无限的图书馆,装着所有图书。我当时在想,KK 不是太擅长算术,因为我首先想到的推论是,如果对“无限的书”的定义是穷举所有文字的所有组合,那么这时候书名就没什么意义了,因为书名等同于书的内容。假设你要精确的取某一本书,因为增减一个标点或字符都是另外的某一本书,那么为了不产生歧义,你需要说出整本书的内容才能得到它——但既然你已经知道了就没有必要跟图书馆取了。

另外一方面,我相信 AI 取代人类是毫无疑问的事情,没有灵魂的存在,人作为思维机器没有任何称得上神圣而不可思议的东西,以人类的智慧而言早晚可以创造出比人更优秀的思维机器。而且人类没有去完成最终作品,它会自己迭代出来,开始迭代的时间点即技术奇点,以人类的脑容量来说已经很难理解之后的事情了。

我还曾想过,如果一段程序像人类一样可以用各种反应甚至称作情感的东西,而我们甚至可以通过断点调试来跟踪它为什么会这样,那么,这个甚至可以假装没有通过图灵测试的程序,是否有资格得到一个智慧生物所应得的尊重?我以前想的是,它再怎么思考,对于人类而言也不过是一堆内存内容的变化而已。但我花了很长时间才绕过这个弯:提供摄像头、麦克风都是很简单的事情,在将来,提供一副机械义体也不是很困难,可我却在那么长的时间里,都没能明白,对于思维机器来说,有机物的化学变化跟半导体内存中的变化没有太大区别,就像汽车和火箭的发动机都算作内燃机一样。

就我们的认知而言,宇宙离无限还差得远,比方说大刘的《诗云》里,即使所有七言绝句(即28个汉字)的所有组合,放在物理世界中已经是直径一百亿公里了。我们没法追求所有的组合,而只想得到对我们有用的、合理的组合,但得到它,像我开头说的,你没法简单的说一个名字就可以得到它,它的名字就是它的内容。你想得到内容,就的把内容作为名字念给图书馆管理员。你可以给它起个简短的名字,但这只是在你的语境里不容易冲突的一个摘要而已。

深渊语是下层界使用的语言,也就是魔鬼的语言,堪称塔希里亚最严密的语言,它唯一的特点就是精确,所以现存世上的契约都是用深渊语写的。这种语言的特点是非常容易学习,也非常容易看懂,乡巴佬们都这么认为,但是魔鬼总是比你用得要好一点。
——《塔希里亚故事集》

西方有个常见的说法,每个恶魔都有一个不愿被透露的真实名字,如果你知道了它的名字,你就可以召唤它,我不知道这个说法究竟是如何产生的,但很明显,这个故事可以在现在被完美的套上:强人工智能的程序(或者叫迭代前的引导程序)是人类所能最后一件了不起的事情,而技术奇点之后的时候我们已经无法理解,那么,这段被无数人反复修改后最终得到的程序,就像我们得到了无限图书馆的确切某本书的书名。

看起来没有哪个职业比程序员更像能召唤出恶魔的巫师了。