算法的力量 人类如何共同生存?

导论（选摘） 未来总是困扰着我们。它永远在等待，远离我们的视线，或潜伏在角落里，又或飘浮在前方的高处。它总是难以名状，让我们永远无法感到确定。通常来说，它总是会让我们完全措手不及。 如今，许多人都能觉察到，一个大动荡的时期正在逼近。世界变化的速度似乎远远超出我们的把握。我们经常尝试去尽量解释那些在几年前还无法想象的政治事件，有时甚至找不到恰当的词语去描述它们。然而，我们心里都明白，这仅仅是个开始。 本书的前提是科学和技术的不懈进步将改变人类共同生活的方式，从而给政治带来同等程度的深远且骇人的影响。无论从智识上、哲学上还是道德上，人类都还没有为迎接自己正在创造的世界做好准备。在接下来的几十年中，几百年甚至几千年来为我们所用的传统思维方式将会遭到质疑，将会涌现出新的争论、运动和意识形态。一些我们曾深刻秉持的设想将会被修正，或者均遭弃用。我们需要一起重新想象自由和平等、拥有权力或财产意味着什么，甚至作为一种政治制度的民主意味着什么。未来的政治将与过去的政治大不相同。 20世纪被一个中心议题所主宰：我们的集体生活应在多大程度上取决于国家，应把什么留给市场和公民社会来决定? 对如今即将走向政治成熟的这代人来说，这个议题将会变成：我们的生活应在多大程度上受功能强大的数字系统的指引和控制，或者说是在哪方面被指引和控制？这就是本书的核心问题所在。 预计在未来的几十年中，我们将开发出能力惊人的计算机系统，即便不能取得像人类一样的“智能”，它们的某些能力也将在诸多功能上挑战甚至超越人类。不久之后，这些系统将不再类似于计算机，而将被嵌入现实世界，藏身于从未被我们看作“技术”的结构和客体之中。越来越多的关于人类的信息——我们做什么事、去哪里、想什么、说什么、感受如何——会作为数据被捕捉和记录，然后被分类、存储并进行数据处理。长期来看，人类与机器、线上与线下、虚拟与真实等方面的区别，都会逐渐消失。 这个转变将大有利于文明的发展。我们的生活将因新式的娱乐、工作、旅行、购物、学习、创造、自我表达、相互联系、认识陌生人、合作行动、保持健康和寻求意义的方法而得到丰富。从长远来看，我们增强大脑和体魄的能力将超越我们的认知，把自己从人类生理的限制中解放出来。 然而，与此同时，一些技术将获得比人类更强大的力量，其中有些能够迫使我们以某种特定的方式行动，举个简单的例子，自动驾驶汽车会直接拒绝超速驾驶；还有一些技术因从我们身上收集来的信息而变得强大。仅仅是意识到我们正在被监视这件事，就足以使我们更不可能去做那些被认为是羞耻、有罪或是错误的事情。而且，其他技术还会过滤我们眼中的世界，为我们所能感知的东西划定范围，形塑我们的思维方式，影响我们如何感知，从而决定我们如何行动。 掌握这些技术的人将加强对其余人的控制。他们变得强大，意味着他们拥有一种稳定而广泛的能力让我们去做一些具有特定意义的事情，而本来我们可能不会去做这些事。他们还会变本加厉地限制我们的自由，决定我们可以做什么、不可以做什么。他们将决定民主的未来，决定它变得繁荣或是衰败。他们的算法将决定关于社会公正的关键问题，分配社会物品，并将人们分类塞进不同地位和荣誉的阶层之中。 以上的结果是，政治当局（通常是国家），将拥有比以往更多的控制手段，大型科技公司也将达到庞大的规模，足以使现代社会其他任何经济实体都相形见绌。为应对这些新挑战，我们需要从根本上升级政治观念。伟大的英国哲学家约翰·穆勒（John Stuart Mill）在他1873年的自传中写道：“在人类的思维方式发生根本性变化之前，人类的一切巨大进步都不可能发生。” 现在是下一个重大变化发生的时候了。 下一个重大变化 我们生活在一个政治动荡的年代。每天读到的新闻多是关于血腥内战、大批人群流离失所、族群民族主义、宗派暴力、宗教极端主义、气候变化、经济动荡、全球化失序和日益严重的不平等问题，或是一大堆其他令人沮丧的挑战，让人提都懒得提。世界状况欠佳，让人们的公共对话显得如此不合时宜。政治精英遭到广泛的不信任和鄙夷。即使以通常被看作不愉快情形的标准来衡量，英语世界*近发生的两项大规模民主实践——2016年的美国总统大选和英国脱欧公投，都可以算是敌意满满，意见相左的派系之间竞争的目的不仅是要打败其对手，还想彻底摧毁对方。这两场民主实践的获胜者均是承诺打烂旧秩序的一方，但他们都没能让事情完结，也没做到让民众满意，反而如奥巴马（Barack Obama）在其任期末尾所指出的那样：“一切都是真的，一切又都不是真的。”对普通公民（来自任何政治联盟）来说，从假话中择出真话、从谣言中看到现实、从噪音中提取征兆都变得更加困难了，很多人已经放弃了此类努力。对大多数人来说，与其费太多脑子思考未来，还不如先蹲下身子，躲过眼前的风暴再说。 这将是一个错误。 如果关于技术未来的主流预测正在接近目标，那么即将到来的转变对人类的重要程度至少堪比工业革命、农业革命，甚至是语言的发明。我们当下重视的那些问题跟它比起来简直就是小巫见大巫。回想一下技术已经在人类生活上产生的效果——工作、交流方式、治病、健身、学习和社交——我们忽然意识到，以人类历史的时间尺度来衡量，数字时代只能算过了几秒钟；从三百万年前使用简单工具开始，人类在旧石器时代度过了其存在时间的99.5%。这段时期随着一万两千年前*后一个冰期的结束而结束。在这段漫长的、晦暗不明的时期，人类几无任何文化上的改变。“人类从生到死所经历的是同样的世界。”如果你认为*早的人类文明始于约五千年前，那么现代计算机与我们相伴的时间只有七十年，而我们拥有互联网的时间则仅有三十年，智能手机只陪伴了我们十年光景。时间的流逝是线性的，而数字技术上的许多进展却呈指数状同时出现，其变化速率每一年都在加快。 我们没有来自未来的证据，所以预测它的尝试本质上充满了风险和困难。我佩服那些试图以一种严谨的方式去预测未来的人，且在相当程度上借鉴了他们的工作成果并运用到本书中来。但老实说，我们*好也能认识到，此类预测经常严重偏离目标。他们对未来的预期往往从未实现，相反，其他干脆未被预见的进展却涌现出来，让我们大吃一惊。话虽如此，但我仍坚信，基于对当下科学技术和政治潮流的认知，还是有可能对未来何如进行合理、明智的猜测。若人类干脆放弃预测未来，也许才是*大的风险。 让我们先来讲个故事，故事发生于维多利亚时代的政治家威廉·格拉斯通（William Gladstone）和富有开拓精神的科学家迈克尔·法拉第（Michael Faraday）的一次相遇。法拉第试图向格拉斯通解释他在电力方面的开创性工作，但格拉斯通对此似乎并不为所动，他问道： “但是这有什么用？”到后来，他越听越沮丧，反复问：“这到底有什么用呢？” 这边厢，法拉第终于也忍无可忍了，他回答格拉斯通：“有什么用？先生，您可能很快就要对它征税了。” 许多如法拉**般的发明家发现，很难向别人解释清楚其工作的社会意义和实践意义何在。而像格拉斯通一样的普通人，经常对我们还未能理解的技术不屑一顾。乍一看，很难看出发明创造的政治意义，它们看起来甚至跟政治毫无关系。当面对一个新的插件或是应用程序时，我们一般都不会去考虑它对政治制度产生的意义。相反，我们想知道的是：它能做什么？使用它要花多少钱？我在哪儿能下载到它？这种想法并不奇怪。总体上说，当面对技术时，我们总会把自己当成一个消费者。但我们现在需要改变这种过于狭隘的观点了。我们必须把通常用来审视和怀疑有权势的政治家的眼光，投射在新技术的力量上。技术并不仅仅是在消费者的意义上影响着我们，其影响更体现在公民层面。在21世纪，数字技术就是政治本身。 这本书在一定程度上是为想要更多了解新技术的“格拉斯通们”写的，也是为想要看清其工作之政治意义的“法拉第们”写的。 当然，它主要是写给希望更清楚地看懂未来的普通公民的——即便他们并没有肩负着像格拉斯通和法拉第那样的责任。