算法同事:人工智能时代的领导学

导读： 我坐在一张圆桌旁，听主持人介绍与会者。大厅里摆满了这样的圆桌，与会者身着得体的西装和礼服围桌而坐。在向邻座自我介绍之后，我坐了下来，环顾四周，好让自己熟悉这个环境。 那是一个星期四的晚上七点，作为一个前几年才拿到博士学位的年轻学者，我正身处一场盛大的商业活动中。同事邀请我参加该活动时，我还犹豫是否要参加，因为不知道这跟我的研究有何关系，也担 心我跟这些企业高管是否有共同语言。同事费了一番口舌，终于将我说服，于是我就坐在了这里。为了充分利用这次机会，我开始和邻座攀谈。 邻座是一位雄心勃勃的年轻人，感觉无所不知。他刚被提拔到领导层，深谙成功之道，显然，他是那种知道自己在做什么的人。他急切地想跟别人讲述自己的成就，并且坚信只有突破极限，才能得到自己想要的东西。于是，我饶有兴致地听他说话。听了一会儿后，我提出了一个同桌的人肯定觉得非常幼稚的问题。我问他，如果人人都在不断挑战极限，这样的商业社会还能维持下去吗？难道不会出现问题吗？会不会破坏甚至摧毁已经建立起来的系统？ 正如我所料，他听了我的问题后非常惊讶，一瞬间不知道该如何回答我的问题。但他很快冷静了下来，直截了当地说：“你说的这些情况永远不会发生。”他相信，如果我们的行为对企业或者社会构成威胁，科技一定能解决这个问题。在他看来，科技能让我们突破人类极限，帮助我们应对任何挑战。 听了他的回答之后，我又问了他另一个问题：你如此信任科技的超能力，是否会导致你过度依赖科技？从长远来看，你自己不就变成多余的了吗？他难以置信地看着我，然后笑着说不必担心，因为绝对不可能出现这种问题。然后，他将脸转向了另一边，我知道我们的交谈结束了。 作为一位年轻学者，同时身为人类，那场谈话给我留下了深刻印象，在我的脑海中萦绕多年，但*后还是逐渐被遗忘了。直到几年前，我开始研究科技发展下的存在主义问题，这段经历才重新浮现在脑海中。而且这一次，我还有了另外两个问题。 宴席上的那位朋友似乎没有意识到他的行为会产生问题，而这些问题只有在科技取得长足发展的情况下才能得到解决，这是为什么？第二，他坚信技术可以解决一切问题，以让他稳坐现在的位子，这种自信从何而来？ 这两个问题都很重要，但*让我感兴趣的是，竟然有人这么信任技术创新。我不禁好奇，当技术能显著影响我们的生活时，等待我们的将是一个怎样的未来。那是一种什么样的技术？会给我们带来什么 样的影响？ 你可能已经意识到，在我们这个时代就有这么一项技术，它正以强大的冲力撞击着我们所有人的大门，即将在人类社会中占据一席之地。我说的是什么？没错，正是人工智能。 今天的人工智能简直太酷了！这个领域的点滴进步都让众人交口称赞，认为那是了不起的成就。人工智能的影响也随着这些成就日益显著，不容忽视。的确，人工智能向我们传递了一个信号：世界即将 发生根本性的改变。 从某种意义上说，人工智能的快速发展和广泛应用，让我们窥探到一个将以完全不同的方式运作的未来社会。随着人工智能的出现，我们可以看到，这样的未来就在前方，我们必须马上行动起来。人工智 能是一种极具颠覆性的技术创新，如果你现在还不改变工作方式并接纳、利用它，那么你很可能就没有未来。 尽管这听起来危言耸听，但我们确实要认真对待未来。根据摩尔定律——计算机处理器的性能每两年会翻一番，这也意味着我们将在未来十年见证生活方式和工作方式的巨大变革。就像我遇到那位雄心 勃勃的高管时一样，这一切让我对那个技术驱动的未来十分好奇。我认为，人工智能就像一台时间机器，帮助我们有可能看到未来，但此刻它还有待完善。这是一个有趣的想法。 为什么这么说呢？ 如果把人工智能看作一种能让我们窥视未来的时间机器，我们就应该用它造福人类，谨慎地对待人工智能的设计、开发和应用。因为当未来来临时，我们或许不会遗忘过去，但过去终将一去不复返。 在今天这个时代，我们还可以左右技术。为什么这么说？为了回答这个问题，我想用网飞（Netflix）上我非常喜欢的一部连续剧——《穿越时间线》（Timeless）来说明。这部连续剧讲述了一队人的冒险经历，他们想阻止一个叫“里滕豪斯”的神秘组织利用时间机器改变历史。 这部连续剧**集讲述的故事就与本书讨论的问题相类似。在剧中，主角之一的历史学教授露西·雷斯顿认识了时间机器的发明者康纳·梅森。梅森告诉普雷斯顿和她的同伴，有人控制了一个叫作“救生船”的时间机器，并且回到了过去。他的语气十分笃定，确信“历史将被改变”。当时在座的每个人都知道事关重大，并且他们意识到这将给世界、社会以及他们自己的生活带来不可知的后果。 露西·普雷斯顿激动地质问康纳·梅森为什么如此愚蠢，要发明这么危险的东西，并疑惑为什么新技术的出现会给人类造成如此严重的伤害（即改变他们自己的历史）。梅森的回答简单明了：他没想到会发生这样的事。其实，重大的技术革新不都是这样吗？我们被无数的机遇蒙蔽，分秒必争，只关注技术可以做什么，却看不到技术的肆意革新给人类带来的伤害。人工智能也是这样吗？如果社会变得智能化和自动化，那么我们能否充分认识到它对人类的影响？为了开发一种能在方方面面超越真实人类智能的类人智能，我们是不是过于投入了？这么做是不是没有充分考虑到人工智能的发展与应用所带来的风险？ 和所有的重大变革一样，这一场变革也是利弊皆有。不久前，我参加了一场关于智慧社会发展前景的辩论。 起初，辩论的重点在于人工智能将节约成本并提高效率，气氛非常融洽。但是后来，当有观众提问我们是否应该更严格地评估人工智能对人类的作用，而不是*大限度地发挥技术本身的能力时，一位发言者高声回应说，人工智能一定要解决人类的问题（如气候变化、人口规模、粮食短缺等），但我们不应该因为预见了它对人类的影响，而放慢其发展速度。可想而知，这使得辩论突然变得异常激烈，现场迅速出现了两个阵营。一方认为，重点是通过逐底竞争，尽快实现人工智能的能力*大化（从而削弱它对人类造成的长期后果）；另一方则认为，人工智能在追求技术应用*大化的同时，必须承担社会责任。 孰对孰错？在我看来，这两种观点都有道理。一方面，我们确实希望拥有*好的技术，并*大限度地提高其效用；另一方面，我们也想确保正在开发的技术可以服务于人类生活，而不是对人类生活构成 威胁。 那么，我们该如何摆脱这个困境？ 在本书中，我会深入探讨这个问题，讨论其对团队、机构和企业运营方式的影响，以及我们必须做出的选择。我认为，要解决算法a的开发及其日常使用的问题，我们必须就技术开发本身的目的达成一 致。人工智能为人类服务的目的是什么？这个目的又将如何影响其发展？我们只有搞清楚这些问题，才有可能避免一直以来我所担忧的两个后果变成现实。 **，人工智能技术的迅速发展，可能导致人的特性逐渐消失，使人性化的社会不复存在，我们都不愿冒这样的风险。就像康纳·梅森的时间机器能改变人类历史一样，如果我们盲目地发展人工智能，不考虑其给人类带来的后果，未来我们可能也会面临同样的风险。 第二，我们不断挑战技术进步的极限，目的是提高自身能力，从而构建更加人性化的社会（至少不能降低人性化程度）。从这个角度来说，发展人工智能不是为了解决我们所制造的烂摊子，它只是创造机会来改善人类的生存环境。按照我年轻时遇到的那位高管的观点，技术的发展是为了解决我们制造的麻烦，那么原本以*大限度提高效率、减少失误为唯一目的的人工智能，将无法提高人的能力，反而会降低人本身存在的意义。 综合这两种可能的结果，我意识到，我们投入如此巨大的成本来发展人工智能技术，但目的不应该是建立一个去人性化的社会，有效地消除错误和失败。因为，这样将导致人类失去自己在世界上的位置，取而代之的是另一种没有人类缺陷的智能。这样一来，我们的企业和社会*终将靠技术来运转，届时我们将如何在社会上立足呢？ 人类一方面渴望不断进步，另一方面又本能地需要公平与合作，因此，我将在本书中拆解两者之间的复杂关系，尝试解决前面提到的一系列问题。人类天生会对未知的领域充满好奇心，但风险也随之而 来——到某个阶段，我们正在研发的技术可能会失控，*后我们不得不屈服于技术。 这会成为现实吗？人类会从属于全能机器吗？一些迹象表明，这的确有可能。我们以曾经夺得围棋世界冠军的韩国棋手李世石为例。围棋是一项相当复杂的游戏，很长时间以来，人们都认为机器不可能 会下围棋。2016年，计算机程序“阿尔法围棋”（AlphaGO）以4∶1 的战绩打败了李世石，彻底颠覆了人们以往的认知。这场失利让李世 石对自己（人类）的能力产生了巨大的怀疑，导致他决意于2019年退役。连世界冠军都承认了失败，我们为什么不能设想一个由机器经营企业的未来呢？ 为了回答这个问题，我要先讲一个前提：在一个人性化的社会中，我们所需要的领导力并非来自更先进的技术，相反，高明的领导者需要洞悉人性，深刻理解人的独特能力，即人可以设计出能得到合理应用（而不是单纯智能）的先进技术。 下面，就让我带你踏上旅程，看看今天人工智能在人类企业中到底做了什么；一个为每项任务开发算法的新时代能给我们带来什么；人工智能对未来企业的发展有什么影响；人类应对这种彻底转变的* 好办法是什么。 时光机器已经准备就绪，但这一次的目的，是让我们进一步认识如何发展技术以造福人类。