测算与判断:人工智能的终极未来

无论是深度学习，还是第二波人工智能中的其他技术，抑或是第三波人工智能中已经提出的科技，都不会带来真正的智能。按照目前的设想，未来的智能系统将拥有强大的测算（reckoning）能力，但相比人类经过千万年磨砺出的智能，算力所体现的智能与之完全不在同一个档次。达到人类档次的智能需要从内在表征“超脱出来”，委身于世界整体，拥抱世界那无法言说的丰富性。一个系统，无论是人还是机器，只有当其能够带着决绝的担当、切身的利害和坚定的决心去面对世间的事物，才可以真正地指称一个对象，进而具有分析本体关系、辨别真伪、对情境做出恰当反应、真正肩负起责任的能力。难道人工智能注定会失败吗？当然不是。自动测算系统将彻底改变人类的生存方式。但是，为了理解自动测算系统的能力、责任、作用和道德，为了理解人机组合应该承担的职责，我们需要理解智能是什么，人工智能完成了什么，以及完成相应的工作究竟需要何种能力？有了精心绘制的地图，我们才能明智地规划世界的走向，毕竟这是我们要共同栖居其中的世界。本书致力于这样的地图绘制工作，且基于以下信念：计算机和人工智能的崛起具有划时代的重要意义，它们可能与科学革命一样对世界产生重大影响，而这一巨变将深刻改变我们对世界、对自己和对我们自身（以及我们的人工智能）在现实世界中所处位置的理解。由计算机和人工智能催化产生的重构包罗万象，我们需要从根本上，以全新的本体论和认知框架来与之相匹配，只有这样才能回答诸如我们是谁、要成为谁、代表了什么、如何生活等终极问题。着眼于此类问题，本书首先介绍了一系列思想工具，来评估当前人工智能的发展，特别是已经引起兴奋、困扰和辩论的深度学习与第二波人工智能的*新进展。本书不会评估与当前人工智能发展相关的特定项目，也不会推荐增量式的改进。与之相反，我将采取总体战略并追求两大目标。**，解答智能本身的概念问题，以期了解人类拥有什么类型的智能，人工智能的目标是什么，迄今为止人工智能已经完成了什么，在可预见的未来可以预期什么，以及当前构建或想象的系统能够担当什么样的任务？第二，引入一种对世界本质的更好的理解，我认为，直面世界的本质是所有形式的智能*终都要解决的问题。其中，第二个目标给本书以浓郁的本体论色彩。我认为：**波人工智能失败的*深层原因是它所依托的本体论世界观站不住脚。我们对第二波人工智能*重要的洞见是，它为我们开启了另一种本体论视角；世界的本质意味着，要想构建任何称得上是“通用人工智能”（AGI）的东西，需要实现远超**波或第二波人工智能所想象的发展。a未来人工智能必须包括坚决地、参与式地与世界打交道的各种能力。我认为，健全的人类智慧必须具有一种冷静（dispass-ionate） b且深思熟虑的思维能力，基于有道德的承诺和负责任的行为，且适合具体的情形。我称这种能力为“判断”。虽然并非所有人的认知行为和意识行为都符合上述理念，但我认为判断能力是人类思维必然追求的终极目标。c我相信，此类判断能力不仅是我们努力灌输给孩子们的一种能力，也是我们要求成年人有责任、有担当的一种原则。判断能力是人类思维的一种表现形式，是超越个体存在的。它是经过数千年的积累且在不同文化d中形成的资源，并成为理性思考和审慎行动的基础。判断能力无须头头是道，无须理性昭然，无须独立于人的创造力、同情心和慷慨等特质——这些正是（形式）逻辑经常被指责为过于极端的地方。准确来讲，我所说的判断能力，是指一种可靠、公正e、忠于真理、忠于现实世界的思维方式。我按照将判断能力作为一般智能的*终目标的观点，对人工智能的历史进行了考察，**波人工智能起源于豪格兰德所称的“老派人工智能”（Good Old Fashioned AI，简称GOFAI）f，当下，我们正在经历的是第二波人工智能，具有代表性的包括深度学习等方法。我的目的既不是鼓励也不是批判，而是理解。理解我们所构建的各种技术的基础是什么，在每个阶段对应什么样的智力概念，到目前为止已经取得了哪些突破，在未来可以期待什么，当代的人工智能系统将达到判断能力的哪些方面，以及哪些方面尚未触及？还有我们当前所面临的极为重要的问题之一：阐明判断能力的含义，看是否可以借由人工智能的降临来启发我们提升对“人之为人”的自我要求。为达到理解的目的，我们会在本书中将这些问题提出来。我用“测算”一词来表示计算机和人工智能系统已经表现出的卓越效用和算力。虽然我们有许多理由支持计算机技术继续向前发展，并*终在许多方面超越人类，但是计算机的算力缺乏道德保证、深刻的语境意识和对本体论敏感性的判断能力。我认为，测算能力和判断能力截然不同，二者之间的差异凸显了智能种类g精细地图的重要性，该地图可以解释为什么测算系统在一些方面无所不能，而在另一些方面存在特别明显的缺陷。关于本书，有四点需要读者注意。**，本书并非将人类与机器进行比较。毋庸置疑，在不久的将来我们可以构建出具有真正判断能力的合成计算系统，或者与之类似的系统。在将来，我们也有可能创造出能够发展自己文明，或者逐步参与我们文明的合成智能物，并且该合成智能物经过日积月累，也会进化出近似人类的判断能力。届时，我们对合成智能物判断能力的了解将远远低于对自己判断能力的了解。我并不否认这一天到来的可能性。当然，我也不能仅凭此点就断言我们当前的半机械人或其他人机合成物的判断能力将因此受到挑战。我有两点断言：一是我们目前设计构建的系统远未达到这一水平；二是无论是历史上的还是当前的人工智能研究方法，以及即将出现的各种研究方法，都尚未考虑构建或发展判断能力将会面临的诸多问题。然而，在我看来，试图通过区分基于DNA的造物和硅基造物来得出将来我们不可能构建出具有真正判断能力的合成计算系统的结论根本是大错特错的，因为其中充满了沙文主义、情绪化甚至极为肤浅的致命错误。我们应该划定各种智能类型的范围，从而公平、公正地评估人工智能、人类和非人类动物。第二，本书将会逐渐论证，我所捍卫的判断能力是一种总体性的、系统性的能力或承诺，涉及整个系统对世界的整体指涉。我不认为它是个体能力的孤立属性，也不认为它可能来自任何特定的结构特征，包括当前设计中缺失的任何结构特征。读者不应期望在本书中找到具体的结构特征建议或技术修复建议。我所探讨的问题不仅层次更深，而且比任何方法都更有分量。第三，我充分意识到，自己要为之辩护的判断能力不符合任何介于“理性思维”和“情绪”或“情感”之间的概念。相反，我的目标之一是改变人们对理性的主流理解，并在某种程度上将所谓的理性划分为不同的类型。同时，从更全面的意义上表明，我们所渴望的任何一种理性，必然包含一些与情感有关的承诺和行动。这些举措源于一个更大的前提：如果我们要赋予人工智能应有的重要性，就不能想当然地认为久负盛名的理性观念会一成不变。第四，本书绝不是休伯特·德雷福斯的《计算机不能做什么：人工智能的极限》之类著作的升级版。恰恰相反，我的目标之一是开发概念资源，以期理解计算机能做什么。事实上，整个讨论过程都很积极。我不主张停止对人工智能的开发，也不主张禁止人工智能系统在道德攸关的场合发挥作用。当飞机将要着陆时，我很高兴飞机是由复杂的计算机系统控制的，而不是由飞行员在迷雾中寻找机场。至少在上述情景中，我毫不担心人工智能系统是否会变得比人类更强大，或者人工智能系统是否会发展出自我意识。相反地，我认为我们需要尽快学会如何与自己设计的合成智能物进行有效协同。不过，确实有两件事让我感到恐惧：一是在本来需要判断能力的情况下，我们会依赖测算系统；二是由于对测算能力的盲目认可，我们将从测算的视角来看待人类心理活动。近期发生的一些事让我对此表示担心。我认为人们应该回应社会的呼吁，我也希望本书能让大家对以下呼吁引起重视：要学会如何使用人工智能系统并让它承担自己擅长的测算任务，而非承担其能力之外的其他任务；要加强而不是削弱我们对判断、冷静、道德和世界的担当。