颠覆性思维(企业如何引领未来)

人工智能终有可能失控？ 很多人工智能专家都已经证实了“超级智能”的存在，我们现在其实还完全处在这项技术的初始阶段。一些人甚至还思考，在未来进一步的进化中，我们继续用“技术”这个词来描述它是否还恰当。其中就有集数学家、哲学家和人工智能专家于一身的尼克·波斯特洛姆（Nick Bostrom），他是牛津大学教授，并且是所谓的“超人类主义运动协会”的联合创始人，他把人工智能的发展划分为两个阶段，即“人类级别的机器智能”和“超人类级别的机器智能”。 按照尼克·波斯特洛姆的估计，我们目前仍处于发展的**阶段，并且暂时会一直处于这个阶段，也就是说，尽管在专业领域内有着长足的进步，但是人工智能仍未达到超越人类智力的级别。也许某一天，第二阶段就会突然出现，也许是在30年后，也许是在40年、50年或者60年之后。然后，我们或者我们的下一代就能体验到这种超越人类想象力的新的智能。 人们不能把尼克·波斯特洛姆设想的两个阶段分裂开来理解，就像很多东西都是在人工智能领域（仍然还是）由人类创造而来的。人们有理由怀疑，这种建立在计算基础上的推测是否会对社会真正有贡献。比如，巴西神经科学家米格尔·尼科莱利斯（Miguel A.Nicolelis）就说过：“这种认为数字机器人强大到终有一天会超越人类能力的想法就是胡扯。”米格尔·尼科莱利斯属于研发脑机接口的**科学家之一，他同他的一些同事都认为，我们的大脑并不是以某种算法在工作的，人类的意识是不可预测的“数十亿细胞非线性相互作用下的”结果，或者可以说，每个人的经历都是故事，而不是任何算法。 但是，至少目前人们是可以理解这位牛津大学教授的论证方式的。尼克·波斯特洛姆首先对这种发展寄予了很大的希望，他认为，如果有一天，只要这种超人类级别的机器产生，那么，就有可能出现真正的“智能大爆炸”。未来机器的“超级智能”就有可能为复杂的人类问题创造全新的解决策略，而这些策略，是我们现在甚至连想都不敢想的。然而，也正是因为这种新形式的智能能够发挥出我们以往想象不到的能力，所以也同样存在着极大的危险，因为它们可能会导致难以预料的事件发生。谁又能够在今天提前看到，这些难以预料之事*终会走向何方？人们是否不必进一步扩大人工智能体系的研究范围？另一方面，人们又该如何扩展人工智能的社会维度？这些人工智能公司是否不必学习人类的价值观？这样究竟可行吗？如果可行，又以怎样的方式？ 对于这些问题，博斯特罗姆直到今天都没有找到令他满意的答案。但是他认为，我们所有人，特别是人工智能团队中的研究人员，更应该坚定地致力于解决这些问题。如果不这样的话，他很担忧，人工智能的发展总有一天会失去控制，而真正变成一场爆炸式的灾难：“在智能的爆炸面前，我们人类就像一群天真的抱着炸弹玩耍的小孩。” 对于这一问题，波斯特洛姆在他的著作《超级智能》开头用一种充满诗意的语言讲述了一篇未完待续的麻雀寓言，把他的思想披上了故事的外衣。这个故事，与我们的日常思维方式也有关系。这个故事，我更喜欢用自己的语言大胆想象，并将它同另外的故事进行鲜明的对比。 记者莎拉与机器人艾玛的对决 还有一个令人印象深刻的故事，它与《金融时报》（Financial Times）年轻的女记者莎拉·欧康纳（Sarah OConnor）有关。2016年春天，她决定以自身作为试验者，挑战人工智能和机器人。她与一款写作软件进行了比赛，该软件是由加利福尼亚的一家隐形初创公司（即一家不愿意泄漏身份的初创公司）开发制作的。莎拉把她的故事命名为：“我的战争——我比机器人艾玛（Emma）写作更优秀的证明。”莎拉和艾玛的比赛于当天9点30分开始，比赛内容为在规定好的时间内写一篇关于英国实时就业数据的简短报道。果然跟大家预想的一样，这个名叫艾玛的机器，写作速度更快，只用了12分钟，而莎拉则花费了35分钟才写完，但仅凭时间长短，说明不了本质问题。更重要的问题在于，结果如何？两者写作质量的差别有多大？大多数读者能否立刻识别出这些区别？ 在这里，我暂时不告诉大家结果，每个人都可以有自己的判断，这里将两者文章的一部分文字摘录如下： A：工资增长——英国就业市场复苏中缺失的一环——依然低迷。总平均收入增长率从2.1%跌至18%，尽管这在一定程度上是受了不稳定的奖金收入的影响，那么，常规工资增长率——剔除这部分不稳定因素——则稳定保持在2.2%，而这大致只是经济衰退前收入增长率的一半。 B：过去几个季度，英国经济所面临的关键挑战，在某种程度上已经在于廉价劳动力的大量涌入而导致的工资增长低迷，这也给生产率测定带来了阴影。以一个工作单位为基础来看，工人们需要更努力地工作。当然从广义上讲，英国经济还将继续保持上升趋势，虽然还没有恢复到经济衰退前的状态，但比那所谓黄金年份的情况无疑要更好一些。 看完这两段文字，您认为哪一段是出自莎拉之手，而哪一段又是机器所写的呢？回答这个问题，对您来说容易吗？正确答案就是，A是莎拉所写，B是艾玛的作品。如果您对此感到十分吃惊，那么我还想再补充一句，此时世界上的艾玛还正处于其发展的初始阶段，也就是说，人工智能才刚刚从它们的幼儿园毕业，当然，也有人说，它们现在也还是在幼儿园学习阶段。