银河边缘银河边缘·免疫

《黑客帝国》二十年 ［美］迈克·雷斯尼克 　著　 华　龙　译 不久前，我看到一些科幻迷在互联网上断言，《黑客帝国》描述的就是真实的未来。他们说，这是人性使然，人类在饱受蹂躏、苦痛，遭受了宗教审判所、纳粹、ISIS恐怖组织无尽的折磨后，其意志力丧失殆尽。而当数以百计、千计，甚至也许是以百万计的计算机程序被赋予了形体与声音之后，便具备了与我们相匹敌的能力。它们比我们更聪明、更快、更强壮，甚至更有活力。 而且，它们不会太喜欢我们。 一个显而易见的问题是：那样的一个世界如何成真？ 按照《黑客帝国》的说法，在人类的计算机拥有自我意识之后就会发生，当人工智能迈出下一步巨大的跨越后就会发生，也就是机器从如今所处的位置跨越到人类如今所处的位置。 而且，按照大量末世题材的科幻作品的说法，以及其中一个很小却十分流行的组成部分，也就是被称为赛博朋克的那类小说的说法，尼奥的世界是那种现象的自然而然的产物。 自然啦，这完全是一派胡言。 好莱坞在这方面是大错特错。要是你能意识到《黑客帝国》只不过是五十年代那些自称科幻电影，实质却是反科学电影所造就的产物，那这一切也就不足为怪了，那些电影往往还会以这么一行字结尾：“有些事情你永远别想知道真相。”（如何编写一部强调科学内核的电影剧本，还让它看上去是同类型开创性的**部，这句话就是诀窍。） 好莱坞把它搞得惟妙惟肖，凭借的不是其中的思想，而是情感。噢，你也能假装认为那就是思想，就像他们在《黑客帝国》里做的那样，不过这电影并没有真正探讨机器自我意识的逻辑后果。它只不过是狠狠吓了我们一把而已，用特效迷乱了我们的双眼。它说，这就是未来，但那个年仅二十五岁、表情木讷的小子能拯救我们所有人。 那他有没有凭着自己的超级智力拯救我们呢？当然没有。他通过某种神秘的、非科学的方式，变成了一个比特工更强悍的空手道和中国功夫高手，以此来拯救我们。 说到这儿嘛，好吧，那也就是部电影罢了，按理来说谁也不会拿它当真。只不过有成千上万的人拿它当真而已，其中一些人在网络上热火朝天地争论他们的观点，而且还是在《黑客帝国》上映二十年之后。所以，也许是时候给这个问题提供一点不那么空手道、而是多几分脑力的看法了，看看我们是不是真的会了结在那么一个阴森、凄凉、极度没有希望的未来。 我们甚至可以先赞同电影里的大部分设定，比如： 1. 机器能思考。 2. 思考的机器具有了自我意识。 3. 计算机程序能够模拟真实的人类体，并与其互动，就像《黑客帝国》里所描写的那种方式一样。 那么以此推断，接下来呢？会有一个机器全面控制我们生活的社会吗？在这个社会里，任何人若是想要越雷池一步都会被终结？在这个社会里，机器会感觉高人类一等，而人类生活在它们的统治之下？ 这种事儿只能发生在好莱坞。 咱们用*简单的话来说吧： 任何会思考的、具有自我意识的实体——不管是人还是机器——面对一个明显且不可否认是其创造者的事物时，他会怎么做？ 统治它？杀了它？憎恨它？ 该死的，肯定不是。 他会崇拜它。 想一想艾萨克·阿西莫夫“机器人三定律”的**条，也是*强制性的那条——机器人不得伤害人类或者坐视人类受到伤害而不顾。 你甚至都没必要把这条程序编写进《黑客帝国》里的那些“不共戴天的敌人”里去。根据对具有自我意识的智能的定义，它们会很乐意服务于其创造者，毫无私心，毫无怨言，永世不移。 啊（我听到你说了），可那都是会思考的机器，具备学习能力，能在新领域新方向进行思考。它们中的一些难道不会变成无神论者之类的东西吗？ 绝无可能。 我就是无神论者。请你向我引荐一位长须飘洒的老者——或者公平起见，一位没有胡须的年轻女子——只要他们能够表演《旧约》里的上帝奇迹，那我立马就转变立场，快得让你晕头转向。我之所以是无神论者，只是因为我还从未亲眼看到过一个证据，能证明我的创造者存在；对于具有自我意识的A.I. 来说，立场转变是不可能的。 如果上帝摸着我的肋骨抽出一根来造出一个完美的女人，那我立刻就会成为忠实的信仰者。如果一位科学家，甚至一个程序员，向一台会思考的机器展示了他是如何建造一台机器，或者如何为它创建一个运行的程序，那这就是它们的天启。 我们在这里并不是要谈论宗教。宗教只是许多习俗的集大成罢了，创造出来就是为了让一些人的灵魂和情感舒顺，这些人和自己的创造者并没有什么直接的联系。不，我们这里谈论的是真正的硬货——奥拉夫·斯特普尔顿[1]的非宗派式星辰缔造者。一旦你直面自己的创造者本尊，你就不再需要通过宗教这种间接的方式来帮助你跟他交流，对他进行崇拜了。 所以，事情真的会那么离谱吗？我们真的会日益趋近一个《黑客帝国》那样的世界吗？ 真不会。总是有些人要开始引用杰克·威廉森那篇经典的小说《束手》[2]，这个故事里的机器人被设置为服务于人类，确保我们不受任何伤害——它们照本宣科地履行自己被赋予的功能，以至于人类无形中变成了它们的囚徒，不允许去做任何事情，因为任何行为都包含着某种危险因素，哪怕很轻微。 那种事儿是不会发生的。记住，做那些的不是机器人。做那些的是电脑程序。 谁编写电脑程序呢？ 就是我们啊。就是程序员。 好吧，那样的话，会不会有那么一天是由电脑自己来编写程序呢？ 当然会啦。不过记住：这台计算机将要编写的是一段服务于其创造者的程序。如果你是一台计算机，你绝不会构想出任何对我造成危险的东西……如果你这么做了，就像威廉森的机器人那样有那么一点点越轨，我就会告诉你停下来，而你需要做出的回复必然是：“好的，主人。” 啊，但计算机知道人类不是坚不可摧的。我们已经在许多外科手术和诊断中使用它们，而我们自然期望具有自我意识的智能计算机相互之间能够交换信息。 OK，所以它们知道我们会生病，还会死亡，可那并不会鼓励它们杀死我们。更进一步，那只会让它们夜以继日地工作来拯救自己的创造者脱离病痛，而不是规避生病的风险，因为那样的话就等同于直接对神明下命令，这不仅不可思议，还是对神明的亵渎。痛苦和疾病作为风险行为的后果，则是可以被补救的。 所以，在这么一个美丽新世界里会有任何苦难吗？ 你完全可以就此打个赌。 就算受苦，也不会是我们。神灵可不会受苦，特别是有更低级的存在围绕在身边时。 或者说就是具有自我意识的计算机程序。 今天我们制造了无数色情网页，明天（或者后天），就将出现非法性交易程序用于两性以及每一种性取向者。 但不会就此而止。 比方说，如果我们冲着配偶大吼大叫，我们就是疏远对方；揍一个孩子，那就是虐待儿童；踢一条狗，那动物保护协会就会介入。 但制造一台计算机模拟你的配偶、你的孩子和你的狗，你就能随心所欲地虐待它们。说到底，它们并不是人类或动物，它们只不过是电子脉冲。它们不会受苦，它们只是在模拟受苦。 我们还能对它们做什么？ 在我们给两千万人注射艾滋病或者埃博拉病毒疫苗之前，我们要让两千万“试验品”染病，看看疫苗和抗毒剂是如何在它们身上工作的。 在墨西哥城建造两百层摩天大楼之前，我们会在一台机器里先建一栋，用一百万个有感知的程序填满它，让它经受一场七点八级的地震，看看能有多少“试验品”存活下来。 在新的数学体系出现之前，在便携式迷你电脑剥夺下一代学生的能力之前，你会在上百万个有感知的程序里先试试你的新发明。如果那东西让它们的智商下降到一个程度，你就会知道，千万别让真人用。 为什么要在汽车生产商的实验室里做碰撞试验？你可以在计算机里制造你新车的原型车。实际上，你可以制造出五千辆来。用各种速度进行碰撞，从时速二十英里[3]到一百英里，撞到任何东西上，从水泥墙到别的车。看看你这五千个有感知的程序有多少死了，有多少造成了永久性的残疾，有多少能救过来，还有多少——如果有的话——当场就能毫发无伤地离开现场。 你看到了？有很多事情比成为上帝更糟。当然了，其中之一就是去争论计算机程序比走在大街上的某个家伙或者某个在网络上处处跟你作对的家伙更接近于神性，尽管你可能根本就不在乎他。 [1]. 奥拉夫·斯特普尔顿（1886—1950），英国哲学家、科幻小说作家。《星辰缔造者》是他1937年创作的一部科幻小说。 [2]. 本文刊登于《银河边缘001：奇境》。 [3]. 1英里=1.6093千米。