后谷歌时代

第九章生命3.0 历史悠久的阿斯洛马尔乡村风格的石头建筑，矗立在蒙特雷半岛的边缘，俯瞰着大海。那里松林掩映，吹沙成丘。这个地方曾经是基督教女青年会（YWCA）的营地，现在客房里仍然没有安装电视和电话座机。从这里出发，开车行驶80 英里，就能到达硅谷。2017 年1 月初，在麻省理工学院物理学家马克斯?泰格马克领导的基础问题研究所（Foundational Questions Institute）的赞助下，信息时代的许多**研究人员和杰出人士秘密地聚集在这里。这次聚会还得到了埃隆?马斯克和Skype 联合创始人贾恩?塔林数千万美元的赞助。*耀眼的参会者是来自谷歌的各位大佬：拉里?佩奇、埃里克?施密特、雷?库兹韦尔、黛米斯?哈萨比斯、彼得?诺维格，以及谷歌前员工吴恩达。还有来自脸书的杨立昆，他是深度学习数学领域的创新者，也是谷歌公司杰弗里?辛顿的门徒。技术学家斯图尔特?拉塞尔、哲学家大卫?查默斯、灾难理论家尼克?博斯特罗姆、纳米技术预言家埃里克?德雷斯勒、宇宙学家劳伦斯?克劳斯、经济学家埃里克?布林约尔夫松、“奇点主义者”弗诺?文吉，以及其他几十位著名科学家组成了一个终身任职的团队。1 他们聚集在阿斯洛马尔，准备向世界发出警告，让世界意识到……意识到这些由硅谷，由他们自己导致的危险。计算机技术、先进的人工智能、机器学习，这些曾经被主流媒体连番报道，代表了硅谷主要活动和人类未来的概念，这些冠以张量流图（TensorFlow）、深度思维（DeepMind）、机器学习（Machine Learning）、谷歌大脑（Google Brain）、奇点（The Singularity）的技术，获得了如此巨大的力量和动能，以至于现在被人们认为是对人类的巨大威胁。尔文?约翰?古德和图灵在布莱切利公园一起破解恩尼格玛密码机的时候，曾师从于图灵学习围棋，1965 年，他已经发出了**份（也是迄今为止*精辟的）警告： 让我们把超智能机器定义为一台能够远远超越任何人类所有智力活动的机器，无论这个人有多么聪明。由于设计这些机器本身就是一种智力活动，那么一个超智能的机器也就可以设计出比自身更好的机器。如此肯定会出现“智力爆炸”，人类的智慧将被远远地甩在后面。2 古德宣称：“除非能够保证它绝对服从和受控，否则**台超级智能机器绝对是人类*不应该拥有的发明。”3 但是从来到阿斯洛马尔的专家们那里反馈的信息看，让机器人受控依然是个亟需解决的问题。当一种新的超级智能出现的时候，很难看出低等的人类智能如何有效地对其进行控制。正如马斯克所说，“它可能比核武器更危险。”4 史蒂芬?霍金曾宣称：“人工智能的全面发展可能预示着人类的终结。”5 泰格马克解释了为什么“突破（breakout）”几乎不可避免。此处的“突破”是指机器占据社会和经济的制高点。当智人出现时， 尼安德特人（Neanderthals）的境况就每况愈下了，*终几乎所有的动物都被智人征服，幸运的成为了宠物，倒霉的变成了午餐。在库兹韦尔指数棋盘上，阿斯洛马尔会议意味着这个行业第二阶段的开始。6 每个人都应该小心行事，新的机器人国王说不定就会在某个董事会上出现。泰格马克解释说：“任何以与当前能量成正比的速度增长的能量过程，都一定会持续不断地集聚，*终出现指数级的增长。”7 对谷歌总部的知识分子而言，数学从本质上讲就是一台末日机器。另一种可能是，像这种揭示了当代“天才”的愚蠢的废话，可能会败坏世界上正在盛行的制度。在人工智能的边缘地带有一群愤世嫉俗的人，他们可能会把这次秘密会议看作是硅谷吹捧各自产品的巧妙宣传。这次会议无疑是对泰格马克的大作《生命3.0：人工智能时代的人类》一书的精彩告别，也是对他所主持的“生命未来研究所”的精彩启动仪式。秘密会议，尤其是挤满了数百位著名而健谈的名人的秘密会议，往往比公开会议更能引起人们的关注。这次峰会也不例外。有什么能比你的发明威胁到了你的意识，并将使人类沦为受保护的宠物这样的窘境更让人兴奋呢？由8 000 名科学家共同签署的《阿斯洛马尔人工智能原则声明》代表了97％的参会者的共识—— 霍金和一批诺贝尔奖得主也名列其中——呼应了谷歌公司的“不作恶”原则，以及“火人”的原则和声明。“超级智能只能在广泛共享的伦理理想下发展其服务，而且其发展应该是为了增加全人类的福祉而不是为了某个国家或组织的利益……应该避免致命性自主武器领域的军备竞赛。”人们还想知道另外3％的反对者说了些什么。总的来说，这份声明只是对世界新硅谷体系的平淡总结。在这个体系中，人类不再拥有*高的智慧，也不再是重要的发明家。考虑到超级智能计算机有可能极大地取代人类对计算机安全的理解， 甚至可能达到发现比我们今天已知的物理定律更加基础的物理定律的程度。根据泰格马克的说法，未来新的物理定律也许只能来自人工智能。“甚至对于有些突破，人类很可能都不知道其何以发生。这可能就像是哈利?胡迪尼的突破性表演，简直就和纯粹的魔术如出一辙。”8 超级人工智能的拥护者认为，它可以推动人类智能以硅质数字设备的形式进入宇宙，摆脱了脆弱的碳基人类探索太空的局限。*终，突破将席卷银河系，智能机器将制造出更强大的火箭，拥有更神奇的头脑和仿生体。泰格马克对到时候会出现的情景进行了推测： “数十亿年几乎极少扰动冷漠宇宙的生命，在宇宙竞技场里以突然爆炸的球形冲击波进行扩张，其速度接近光速。这个速度持续不断， *终碰撞出生命的火花。”9 在泰格马克关于新创生命的故事中， 数字机器成为了生活的主导形式。面对来自硅谷的新发现，我决定咨询一下雷?库兹韦尔。他在过去5 年里一直担任谷歌的工程总监，是阿斯洛马尔会议的与会者中对此领域经验*丰富、*老练的研究者。尽管被认为是这场运动中*极端的人物之一，但我知道他是一名沉着冷静的技术大师。当我和他谈起泰格马克的时候，他显得有些窘迫，似乎觉得自己麻省理工学院的这位校友的思路并不像自己所想的那样。库兹韦尔从14 岁开始就一直在参与研究和塑造人工智能的形式，他是麻省理工学院马文?明斯基的天才门徒，可以说，他的职业涵盖了人工智能领域的整个历史。2017 年末，库兹韦尔向我透露说他一直在咨询自己的导师，以便寻求有关快速发展技术方面的新见解。他的眼睛里闪着调皮的光，他说，令他感到惊讶的是，他发现明斯基*近变得更加口齿伶俐，反应也更加敏捷了——明斯基两年前去世了，这的确给他的咨询带来了不便。库兹韦尔对明斯基所著的10 本书进行“语义搜索”，以寻找特定的联想意义，而不只是盲目地搜索“关键词”。他发现这样做能让自己瞬时就从这位已逝的人工智能传奇大师那里获得想要的答案。库兹韦尔使用同样的程序来搜索他自己的著作，以便重新发现那些要么是流逝在时间里，要么是被语义程序的新概念所取代的见解和观点。如果你能在智能手机上查看谷歌邮箱的话，你就会在所收到的每封新邮件下面的3 个建议性回复中，看到库兹韦尔在语义突破领域的新成果。对于那些更加醉心于人工智能的阿斯洛马尔参会者来说，语义搜索就是一种“超人”能力，超越了对一连串单词的搜索。否则一旦某个单词没有被准确地记录下来，搜索就会无功而返。库兹韦尔的“语义搜索”把每个单词都变成了一个由同义词和关联组成的长序列，构成了一个意义的层次结构。这种“语义搜索”就像一台庞大的计算机，加快了人们对一堆冗长文本的阅读速度。正如库兹韦尔所说的那样，语义搜索只是“人类智能的延伸”， 而非其替代品。人类在人工智能的加持之下，受到作为篡夺者的数字机器伏击的可能性只会更大，而不是更小。语义搜索延迟了机器学习末日的到来。2017 年10 月底，同样是在谷歌，深度思维（DeepMind）项目推出了阿尔法围棋（AlphaGo）的*新版本。你可能还记得，它后来多次击败曾5 次荣获世界围棋冠军的围棋棋手李世石。阿尔法围棋中的树搜索运用深度神经网络，评估位置并进行动作选择，深度神经网络通过沉浸于人类专家的动作记录之中，进行自我强化和训练。近期，库兹韦尔的博客（The blog Kurzweil.ai）报导了新一代的阿尔法围棋。这一代阿尔法围棋仅仅基于强化学习技术，而没有超越人类游戏规则的输入，同时也没有项目的奖励结构。在一种“通用的对抗程序”中，阿尔法围棋与自己对抗，自己做自己的老师。谷歌的论文总结道：“从零开始，我们开发的新程序AlphaGo Zero 取得了骄人的成绩，它以100 比0 击败之前那款曾战胜了围棋世锦赛冠军的阿尔法围棋。”10 在我看来，“超人的表现”的说法似乎有些杞人忧天。在没有人的帮助下战胜人类，无论是3D 打印机还是普通的打印机，早都已经做到了，否则我们不会发明建造它们。毋容置疑的是，道路还长得很。只是恰好超级快的计算机非常适合下围棋而已，这台机器以每秒数百万次迭代的速度运行，很快就把人类玩过的所有围棋棋局都简化成了它自己经历中的一个极小的子集，可以说，它“发现” 了数百万个解决方案，这是人类无法企及的，就像太空探测器可能“发现”人类无法企及的太空区域一样。但是，迭代的速度和智力完全是两回事。围棋是一种纯策略的游戏，它没有国际象棋中需要区分角色的棋子，故而计算机可以比下国际象棋时更有效地利用更小的空间来解决问题。在阿斯洛马尔的会议上持有末世论调的那些人，忽略了计算速度和智能之间的区别，忽略了可编程机器和程序员之间的区别。泰格马克证明了这一点，也说明了人工智能程序的成就——沃森（Watson）是测试类节目的赢家，偶尔还是更优秀的医学诊断专家； 蓝色巨人（Big Blue）是国际象棋冠军；谷歌的深度思维（DeepMind） 从零开始，在数十种电子游戏中战胜了人类玩家；人脸识别机器人； 自然语言翻译机器人；自动驾驶汽车项目，等等。这都预示着一种超级智能，一种有朝一日将超越人类思维，以至于我们无法理解其深度的超级智能。就像狗无法理解人类大脑中的意义一样，这只是时间问题。尽管库兹韦尔回避了反乌托邦式的解释，但他大胆地给出了一个时间——2049 年。泰格马克喜欢引用爱德华?罗伯特?哈里森的话：“只要有足够的时间，氢就能变成人。”如果有足够的时间，人们大概会变成图灵机器，而图灵机器基本上就是人们过去所说的“上帝”。他对这个超级人工智能将拥有的神性力量毫不避讳： “无论物质以什么样的形式出现，先进的技术都能将其重塑成任何想要的物质或物体。这包括发电厂、电脑以及先进的生命形式。” 《生命3.0》和阿斯洛马尔会议是后人类时代（post-human age）原则宣言。结论便是，超级人工智能（super-intelligent AI） 的发明者将是人类历史上的*后一群了不起的人。哈萨比斯、诺维格、勒昆和佩奇便是这群人中的佼佼者。向他们致敬吧，当你也加入他们的行列，想必他们也是满心的欢喜。3.0 版的生命是硅基的， 而且是由机器生成。从佩奇到库兹韦尔——泰格马克和这场运动中的每个人一样， 也是一个老练的现代人。他认识到这个世界上存在着许多无法估量的东西。在他的书中，他甚至设想允许一些人退出这个相对而言更加仁慈的人工智能制度，允许他们建立人类专属区（human-only zones）。针对那个以傲慢见长的精神领域，他写道：“有一小部分人选择生活在这些专属区域里。他们自愿选择生活在一种比其他人更低， 更有限的意识层面之中，并且对生活在其他区域中比他们更聪明的人的所作所为保持着有限的理解。即便如此，他们中的许多人依然对自己的生活非常满意。” 问题不在于人工智能本身，它只是一项令人印象深刻的技术， 并将有望改善人类的生活。将“超级人工智能”从一种技术转变为一种宗教崇拜的原因是，人们认为人类的大脑本质上是一台计算机，是一台物质机器而已。这一假设源于认为进化只是一个随机的过程，它产生了次优的人类大脑，也就是相对粗糙的计算机“湿件（Wetware）”，而它终将被硅质所战胜。这一假设导致了对外星生物存在可能性的关注。尽管库兹韦尔和泰格马克都足够聪明，足够精明，足以否定外星智慧的存在，但这场运动的大部分内容都让人陶醉于这样一种观点：我们并不孤独。通常的结论是，其他星球上的智慧生命是如此的容易地被物质力量所决定，以至于都是“不可避免的”。“寻找外星智慧生命（SETI）” 是对这种保证的表达，需要全球成千上万台电脑进行集体努力，方可能通过电磁碎片搜寻到宇宙其他地方闪烁的心灵之光。可是35 年时间过去了，却什么好消息也没有。俄罗斯的伟大物理学家兼投资人尤里?米尔纳为他所主持的“突破性倾听”项目中又追加了1 亿美元的投入。所有这些追求都反映了地球智能的崩溃。这个时代的知识分子们对意识的现实一无所知。意识决定了我们的身份，决定了我们的思想，也决定了我们如何认识事物。它与宗教直觉和心理认同相呼应，是心灵的本质而不是机器的本质。它更是一切创造力和自由意志的源泉。如果不理解意识，你就只可能建立起一套计算机理论， 却无法构建起智能的概念。所有的人工智能场景都假定了人工智能具有拟人化的意识、意志、情感、想象力、创造力和独立性等前提条件，但在展示他们所能想象到的每一种雄辩的观点时，泰格马克和其他人工智能领域的好手从来未曾展现出哪怕是接近证明电压、晶体管门、记忆电容和触发器等，能够以某种方式认识或学习任何事物，更不用说能够变得意志坚定，变得有意识从而独立于人类程序员的可能性。在争论中，超级人工智能支持者的反应是，人类的大脑就是由本身不智能的电子和化学成分组成。这样说的话，我们就会遇到哥德尔- 图灵式的自我参照困境。在探究他们并未真正认识的人脑时， 人工智能科学家马上陷入了自我参照的哥德尔困境。用自己的思维和意识否认了意识在头脑中的重要性，他们也通过这种方式驳斥了自己。 正如图灵总结的那样，他们需要一个“神谕”——一条来自系统之外的情报——而且他关于“神谕”的所有说法都表明该神谕“不可能是一台机器”。图灵发现，计算机重复了源自递归自引用的物理不确定性。就像物理学的奠基者们使用电子和光子制成的仪器来测量电子和光子一样，人工智能的奠基者们也企图使用计算机来解释计算机。意识和自由意志无需决定论的自我参照。人工智能专家想要否认这一点，但在接受意识的重要性之前，他们根本无法解释大脑。库兹韦尔似乎认为可以先把意识放在一边。他所著的《如何创造心灵》（How to Create a Mind ）一书是对人工智能*系统的阐述。和他的代表作《奇点将近》（The Singularity Is Near ）一书一样，这本书也充满了独到的见解。但在意识问题上，这两本书都陷入了循环，都简单地断言当一台机器彻底智能化的时候，就可以认为这台机器拥有了意识。哥德尔笑了。符号机器什么都不知道。软件符号代表的现象是已经被人意识到了的内容，是被人认识到了的内容被外部图灵神谕，也就是程序员认识到了的内容。这“不可能是一台机器”，因为它提供了计算机的逻辑机器所依赖的所有假设、公理和过程。人工智能的盲点在于意识不是从思想中萌发而出，意识是思想的源头。就像莱布尼兹所设想的那样，将一台电脑放大到整栋建筑物那么大，以17 世纪的方式进行观察，去探究机器的内部（决定论者的方案），你看到的只是齿轮和齿轮的相互咬合而已，它根本不具备任何的认知能力。神谕般的程序员必须身在其外。为何软件程序员没能认识自己所从事行业的本质呢？这的确是个谜。切斯特顿将其解释为专家的短视： 关于专家?一般认为，受过训练的人值得信赖。但是这个观点却完全无法回答为什么每天都在研究或者实践某项知识的人，竟然没有发现还有那么多重要的方面需要掌握。事实却恰好与此相反。他们反而越发觉得其重要性在不断降低。11 在信息时代，对唯物主义的迷信正经历着令人费解的增长。香农在他那个名为“熵之居（Entropy House）”的家中写道，信息通过出人意料的比特来衡量——这是一种惊异（surprisal），是无序的热力学熵的无序呼应。故而，信息就是惊异。从定义上说，决定论主义者制造的机器是没有什么惊喜的。答案总是隐含在问题当中。没有熵，自然没有意外。那个时代许多伟大的思想家都看不到这一点，他们认为信息是有序的，或者说，正如他们有时所说的那样，是负熵。这恰恰显示了他们的无知。在热力学和信息论中，熵都是无序而非有序的。顺序定义了所期望的位（bits），进而也定义了冗余。熵衡量的是意想不到的信息，衡量的是信息的自由度。通过一个规则的意外变形来衡量信息，信息既不是完全确定的， 也不是完全随机的。香农认为信息是随机的，他借用了“stochastic” 这个源自希腊语的单词，来表示“瞄准”的意思。它将概率与技能结合起来，将随机性与结构性结合起来。信息在由低熵载体携带的高熵信息中*大化，例如光纤线路中调制代码所携带的光。冯?诺依曼之后，香农为建立当下的谷歌所体现的世界体系的做出了*重要的贡献。我想说的是，他为当下的体系指明了出路。但与这个时代一样，香农自己也陷入到了物质主义的迷信之中。“我认为人是一种非常复杂的机器，”他写道，“当然和计算机的不同， 是组织结构上的不同。人类有大约100 亿个神经细胞……而计算机易于复制，如果用电子设备对每一个细胞模型进行建模，就能让它们像人类的大脑一样运作。如果拿国际象棋大师鲍比?菲舍尔的脑袋作为原型建模，那么它就会像菲舍尔一样。” 在这段话里，香农表达了唯物主义的信仰。大脑由100 亿个电脉冲和据此产生的无数种化学反应控制的神经元组成。对于崇尚唯物主义的人来说，这种观点绝对正确。毕竟在扁平宇宙理论中，除了化学和物理元素之外，不存在别的东西。对于一个更加仔细的观察者来说，香农或库兹韦尔想必知道我的意思，宇宙中还存在其他的东西，如模式、设计、形式、配置所构成的信息。但如果你质疑自下而上的假设，质疑物理学和化学足以解释一切充分性的话，他可能会说：“更多的维度——我不需要那个假设。”这一信念超越了意识、选择自由和惊奇，*终也违背了信息理论本身。信息取决于自由选择的范围，以及只被有意识的存在体感受到的惊奇。这种唯物主义的迷信使整个谷歌一代都无法理解思想和创造。意识取决于信仰，那是一种无需全部知识就能行动的能力，是一种能够感到惊讶和让人感到惊讶的能力。机器本身缺乏意识。机器是决定论顺序的组成部分，它预先决定并且自成体系的，缺乏喜出望外或使人惊讶的能力。正如哥德尔和图灵所证明的那样，一个无意识的东西只是一个逻辑系统，也必然是不完整的，需要一个“神谕”。只有人才能够凭直觉认识到这种不完整性，并在意识中表现出来。“我”只存在于超越逻辑机器的信仰领域。真正的科学表明宇宙是一个奇点，因此是一种创造。创造是人类意识与更高意识相互应和时熵的产物。在人类的历史中，我们发现将创造者称之为上帝是一件非常方便的事情，这种更高的意识赋予了人类创造者创造惊人事物的空间。这是宇宙思维的镜像室，是深思熟虑的智慧。意识先于创作， 语言先于肉体。“当下数字文化的核心错误，”杰伦?拉尼尔写道，“是将个人网络分割得如此精细，以至于使人终将陷入到混乱之中。于是便开始关心网络的抽象问题，即使网络本身是没有什么意义。而不是关心陷入网络之中的人。但是，真正有意义的是人。”12 人工智能无法与连接了符号和对象的人类智能竞争，因为人工智能离不开为其提供符号系统和语言的人类思维——是人类规划了这一切。无论人工智能在训练中所吸收的信息是文字还是像素，这一切都是人为组织的结果。人为人工智能提供并制定了大数据，使其在当中找到数值相关性。是人建立了目标、奖励方案和目标序列， 使人工智能能够迭代、优化并*后总结出一个解决方案。人工智能由输入组成，通过复杂的算法集进行输出，它根本无法思考。思维是有意识的、主动的、有想象力、有创造力的。一台以千兆赫的速度运行的计算机，即便是在玩像是国际象棋或围棋这样的决定论游戏时，也只不过是一台机器而已，认为它是超人的想法只有在算盘或计算器是超人的时候才有意义。人工智能是计算机算法的输出，这些算法由精心安排的电子元素（电流、电压、电感和电容）组成。这些元素通过布尔逻辑方案、树形结构和“神经网络” 获得各自的含义。它们从人类语言和其他符号系统，包括计算机语言和程序设计的数学推理中获得效用。美国*伟大的哲学家查尔斯?桑德斯?皮尔斯在发展他的符号和象征，对象和解释理论时阐述了这个潜在的现实。尽管这些是皮尔斯在150 年前提出的观点，但他的见解仍然与*新的软件包或机器学习声明有关。如图灵在描述他的“神谕”时所表达的一样，皮尔士认为没有“解释者”，象征和物体便了无意义。是“解释者” 把象征拓展到想象的范围。皮尔士的“符号关系”将对象、符号和解释者捆绑在一起，形成了一个互不可约的三元组。对于任何一个连贯的信息理论来说，任何象征都不可避免地通过解释者，也就是人的思想，与它的对象联系在一起。从定义上看，一个未被解释的象征是没有意义的，任何处理这种虚妄的哲学都必然会屈服于某些隐藏的假设和解释性的判断。13