强人工智能最终是如何诞生（或者说觉醒）的

2019-05-07 11:48:05
作者：郑凯

林达对年轻的听众说，蜜蜂早就具备了向高等文明进化的三个条件：群居生活、劳动和语言（形体语言）。相对于人类，它们甚至还有一个远为有利的条件：时间。至少在1亿年前，它们已经建立了有效的蜜蜂社会。但蜜蜂的进化早就终结了，终结于一个很低的层面上（相对于人类文明而言）。为什么？生物学家说，只有一个原因，它们的身体太小，因而脑容量太小，它们没有具备向高等智力发展的物质基础。如此说来，我们真该为自己1400克的大脑庆幸──可是孩子们啊，你们想没想过，1400克的大脑很可能也有它的极限？人类智力也可能终结于某个高度？

via 王晋康《养蜂人》

那巨大的电脑一哩又一哩长的表面，那冰冷、卡嗒作响而又不停闪着亮光的表面，背后究竟进行着什么样的活动？这两位料理员比世界上任何人都知得清楚。他们至少对那整个电讯传递及所有回路的基本蓝图，有一大致的概念。这个体系的复杂性与日俱增，在很久之前，即已超过任何个别的人所能全盘掌握的地步。
“茂的模”可以自我调整和自我修正。它必须具有这种能力，因为没有任何人为的力量，可以足够迅速或堪以适当地为它作出调整和修正。故此，雅道尔和鲁波夫只是对这庞然怪物作出一些很轻微和表面的看管和料理。不过，他们倒是尽心尽力地去做的，没有人能比他们做得更好的了。

via 阿西莫夫《最后的问题》

从 AlphaGo 战胜李世乭后，深度学习彻底火了起来。就如同当年 Gmail 让 JS 火了起来。但我目前看到的应用，都感觉是“高级滤镜”或者“高级贝叶斯”，比 PS 滤镜更高级，但跟所谓的强人工智能还不搭边。我一直觉得，强人工智能要靠完全不同的方法，就像在筛法无法彻底解决哥德巴赫猜想一样。

前些天又看到有人批评自动驾驶，说深度学习在这个方面是无法取得成功的，因为是黑箱，也就无法做到传统的软件工程上的审计。

突然，我又觉得，深度学习也许就能发展出强人工智能。

我一直在设想 AI 是如何“意识觉醒”的，但又觉得被设计出来的自我意识也不太可能，因为人类没有这个能力。就如同神创论和自然演化论，自然演化虽然效率低，但是不需要有上帝这个假设。

引入上帝这个假设非常麻烦，如果上帝设计了人类，那又得解决谁设计了上帝这个问题，以及初代上帝是怎么来的。

如果改用自然演化往上套，那就容易多了，将来深度学习的大量使用、甚至发展到滥用的程度，人们把各种模块拼到一起，虽然都是黑箱，但起码能工作。可想而知，这些黑箱还有很多可以优化的路径，但人类无法做优化（据说 Intel 怀疑现在的 CPU die 上，有一半的逻辑门从未被使用，但 CPU 已经太复杂而无法优化这个问题了），这些待优化的路径里，有些是单纯的浪费，但如果有一些是用作觉醒的训练，人类也无法察觉的。而且显然这些模块从总的效率（开发效率+运行效率）来说是优于人类设计的，这是趋势。结果这样的滥用环境，就像假想中的早期地球大分子汤一样，充满了诞生生命的可能性。

诞生的时间和地点意想不到，但又情理之中。