包邮人工智能时代与人类价值

本书特色

1.【国际政治泰斗亨利·基辛格*后一部作品，联手谷歌前CEO、董事长埃里克·施密特，微软前首席研究和战略官克雷格·蒙迪，对人类提出的良言与忠告】
三位来自政界与科技行业的作者高屋建瓴，以前所未有的深度和广度，从关系人类社会核心的发现、大脑、现实、政治、安全、繁荣、科学、战略这八个方面出发，将人工智能置于人类文明的广阔背景中，探讨人工智能之于人类命运的机遇和风险，以思想的高度和知识的密度，预测人类未来图景，看清未来技术发展、社会变革、政治格局、世界秩序等关键问题的走向。
2.【直指人工智能时代如何捍卫人类价值这一关键命题】
基辛格、施密特和微软前首席研究和战略官克雷格·蒙迪审视了人工智能带来的关乎人类生存的*为紧迫的问题——人工智能时代如何捍卫人类价值？“如果被迫与机器妥协，我们的底线是什么？在判断如何跟上AI步伐时，人类需要更清楚地断言我们与机器的区别。如果不能就我们是谁达成一致，人类就有可能完全把定义我们价值、因此证明我们存在的生存任务交给机器。”
3.【绘制人工智能时代人类与智能机器共存的路线图】
作者认为，寻找技术措施，在每个人工智能系统中植入内在的保障措施，是全球科学界的当务之急。一旦各国政府和国际组织围绕共识达成一致，就必须为人工智能监测、执法和危机应对制定新的政治结构，而这还存在两个“对齐问题”需要解决：人类价值观和意图与人工智能行动在技术层面的对齐，人与人之间在外交层面的对齐。必须积极解决这两个问题，而不是坐以待毙。
4.【人工智能行业引领者、科学家、企业家、学者一致推荐】
OpenAI联合创始人、CEO 萨姆·奥尔特曼
微软创始人、前CEO 比尔·盖茨
微软人工智能CEO、DeepMind联合创始人穆斯塔法?苏莱曼
微软CEO 萨提亚·纳德拉
中国工程院院士、清华大学智能产业研究院(AIR)院长 张亚勤

1.【国际政治泰斗亨利·基辛格*后一部作品，联手谷歌前CEO、董事长埃里克·施密特，微软前首席研究和战略官克雷格·蒙迪，对人类提出的良言与忠告】
三位来自政界与科技行业的作者高屋建瓴，以前所未有的深度和广度，从关系人类社会核心的发现、大脑、现实、政治、安全、繁荣、科学、战略这八个方面出发，将人工智能置于人类文明的广阔背景中，探讨人工智能之于人类命运的机遇和风险，以思想的高度和知识的密度，预测人类未来图景，看清未来技术发展、社会变革、政治格局、世界秩序等关键问题的走向。
2.【直指人工智能时代如何捍卫人类价值这一关键命题】
基辛格、施密特和微软前首席研究和战略官克雷格·蒙迪审视了人工智能带来的关乎人类生存的*为紧迫的问题——人工智能时代如何捍卫人类价值？“如果被迫与机器妥协，我们的底线是什么？在判断如何跟上AI步伐时，人类需要更清楚地断言我们与机器的区别。如果不能就我们是谁达成一致，人类就有可能完全把定义我们价值、因此证明我们存在的生存任务交给机器。”
3.【绘制人工智能时代人类与智能机器共存的路线图】
作者认为，寻找技术措施，在每个人工智能系统中植入内在的保障措施，是全球科学界的当务之急。一旦各国政府和国际组织围绕共识达成一致，就必须为人工智能监测、执法和危机应对制定新的政治结构，而这还存在两个“对齐问题”需要解决：人类价值观和意图与人工智能行动在技术层面的对齐，人与人之间在外交层面的对齐。必须积极解决这两个问题，而不是坐以待毙。
4.【人工智能行业引领者、科学家、企业家、学者一致推荐】
OpenAI联合创始人、CEO 萨姆·奥尔特曼
微软创始人、前CEO 比尔·盖茨
微软人工智能CEO、DeepMind联合创始人穆斯塔法?苏莱曼
微软CEO 萨提亚·纳德拉
中国工程院院士、清华大学智能产业研究院(AIR)院长 张亚勤
清华大学苏世民书院院长、 人工智能国际治理研究院院长 薛澜
清华大学文科资深教授、经济管理学院教授、院长（2006-2018） 钱颖一
上海交通大学讲席教授科学史与科学文化研究院首任院长 江晓原
南方科技大学教授 马兆远
英国历史学家 尼尔·弗格森
著名传记作家 沃尔特·艾萨克森
美国前财政部长 拉里·萨默斯
哈佛大学肯尼迪政府学院教授 格雷厄姆·艾利森
哈佛大学肯尼迪学院及商学院公共领导力实践教授阿瑟· C. 布鲁克斯
联袂推荐！

内容简介

2022年以来，人工智能技术已经取得了划时代的飞速发展。ChatGPT以及GPT-4发布，DeepMind的AlphaFold一举解决困扰科学界几十年的蛋白质折叠问题，自动驾驶技术的重大突破，进一步拓展了人工智能的应用场景以及能力，也使人类也更加重视AI伦理和相关法规的制定，2024年的诺贝尔奖更是体现出了不容忽视的“人工智能含量”。在这一过程中，人类对人工智能也有了更为全面和深入的理解。 在本书中，基辛格、施密特和微软前首席研究和战略官克雷格·蒙迪以前所未有的深度和广度，审视了人工智能领域的*新进展，直面人工智能带来的关乎人类生存的*为紧迫的问题：“如果被迫与机器妥协，我们的底线是什么？在判断如何跟上AI步伐时，人类需要更清楚地断言我们与机器的区别。如果不能就我们是谁达成一致，人类就有可能完全把定义我们价值、因此证明我们存在的生存任务交给机器。” 三位作者以高度战略性的眼光，从关系人类社会核心的发现、大脑、现实、政治、安全、繁荣、科学、战略这八个方面出发，探索人工智能将给人类带来的挑战，人类可能的应对方式，以及可行的应对思路，为人工智能时代如何捍卫人类价值提供了解决方案。

相关资料

引言
—
几年前，人工智能在公众的讨论中只占不起眼的一角。此后人工智能日新月异，今天已占据了世界各地新闻媒体的头版，也是世界各地科学、商业、新闻、公共服务、教育和政界领袖思考的一个问题。
在我们看来，公众也好，这一领域内的众多专家也好，仍然没有认识到人工智能新时代的重要内涵。花样翻新的人工智能和人类应对它们的方式有可能从根本上改变人类与现实和真理的关系，改变对知识的探索方式和人类自身的演变，改变开展外交的方式和国际体系。以上方面是今后几十年至关重要的问题，各领域的领头人应当给予*高级别的关注。
人工智能的*新能力给人留下了深刻印象。然而随着它的能力加速提升，将来回首看它今天的*新能力，会给人小儿科的感觉。迄今为止，我们从未想象过的种种能力即将渗入人
类日常生活的方方面面。未来的体系将推动人工智能巨大的、总体而言利大于弊的进步，创造财富的同时也改善人类健康。
然而，伴随新能力而来的是技术上的风险和给人类带来的风险。有些风险是已知的，有些是未知的。当今的种种技术已经被以发明人不曾预料的方式投入使用。这一趋势有可能会
继续下去。人类科学家探索的每一种富有成果的研究方法——今后不会只有一种——有可能产生未曾预料的新能力分支。对这些新分支，人类也许看得懂，也许看不懂。它们对人类也许有益，也许无益。
人工智能仿佛压缩了人类的时间尺度。未来的物体貌远实近。一个例子就是可以自己诠释目标的机器正呼之欲出。如果人类还有可能跟上这些风险的步伐，必须在可想象的*短时间内采取行动，应对风险。认识到今后的任务事关重大，刻不容缓，我们在这里仅指出这一任务诸多方面中的几个。随着人机伙伴关系无处不在，人类必须决定这些关系的合理性质。我们可以从安全和效率逻辑，从对历史的研读，以及从神明的启示中获取答案。将来个人、国家、文化和宗教信仰都需要确立人工智能在真理问题上发言权大小的边界（如果有任何边界的话）。以上各方需要决定是否允许人工智能成为人类与现实的中介。在这个问题上各方需要二选一：要么继续保留人类进取心的传统作用（同时有可能把发现新知识的领导权出让给人工智能），要么摒弃受生物学束缚的人类思维，改为在知识前沿与人工智能结成一种潜在的重构伙伴关系。是人类选择自己的目标，然后驾驭人工智能去实现这些目标，还是人类让人工智能帮助选择其中的部分目标？当务之急是人类必须给人的尊严下一个现代的、可持续的定义，从而为未来岁月的决策提供哲学方向。
我们认为，人工智能的出现是一个关乎人类生存的问题。如我们在本书稍后所述，以非人速度运作的未来人工智能的能力将使传统规则失去用武之地。我们需要一种全新的管控方

引言
—
几年前，人工智能在公众的讨论中只占不起眼的一角。此后人工智能日新月异，今天已占据了世界各地新闻媒体的头版，也是世界各地科学、商业、新闻、公共服务、教育和政界领袖思考的一个问题。
在我们看来，公众也好，这一领域内的众多专家也好，仍然没有认识到人工智能新时代的重要内涵。花样翻新的人工智能和人类应对它们的方式有可能从根本上改变人类与现实和真理的关系，改变对知识的探索方式和人类自身的演变，改变开展外交的方式和国际体系。以上方面是今后几十年至关重要的问题，各领域的领头人应当给予*高级别的关注。
人工智能的*新能力给人留下了深刻印象。然而随着它的能力加速提升，将来回首看它今天的*新能力，会给人小儿科的感觉。迄今为止，我们从未想象过的种种能力即将渗入人
类日常生活的方方面面。未来的体系将推动人工智能巨大的、总体而言利大于弊的进步，创造财富的同时也改善人类健康。
然而，伴随新能力而来的是技术上的风险和给人类带来的风险。有些风险是已知的，有些是未知的。当今的种种技术已经被以发明人不曾预料的方式投入使用。这一趋势有可能会
继续下去。人类科学家探索的每一种富有成果的研究方法——今后不会只有一种——有可能产生未曾预料的新能力分支。对这些新分支，人类也许看得懂，也许看不懂。它们对人类也许有益，也许无益。
人工智能仿佛压缩了人类的时间尺度。未来的物体貌远实近。一个例子就是可以自己诠释目标的机器正呼之欲出。如果人类还有可能跟上这些风险的步伐，必须在可想象的*短时间内采取行动，应对风险。认识到今后的任务事关重大，刻不容缓，我们在这里仅指出这一任务诸多方面中的几个。随着人机伙伴关系无处不在，人类必须决定这些关系的合理性质。我们可以从安全和效率逻辑，从对历史的研读，以及从神明的启示中获取答案。将来个人、国家、文化和宗教信仰都需要确立人工智能在真理问题上发言权大小的边界（如果有任何边界的话）。以上各方需要决定是否允许人工智能成为人类与现实的中介。在这个问题上各方需要二选一：要么继续保留人类进取心的传统作用（同时有可能把发现新知识的领导权出让给人工智能），要么摒弃受生物学束缚的人类思维，改为在知识前沿与人工智能结成一种潜在的重构伙伴关系。是人类选择自己的目标，然后驾驭人工智能去实现这些目标，还是人类让人工智能帮助选择其中的部分目标？当务之急是人类必须给人的尊严下一个现代的、可持续的定义，从而为未来岁月的决策提供哲学方向。
我们认为，人工智能的出现是一个关乎人类生存的问题。如我们在本书稍后所述，以非人速度运作的未来人工智能的能力将使传统规则失去用武之地。我们需要一种全新的管控方
式。对全球科学界而言，当务之急是找到可以在每一个人工智能系统中加入内在安全保障的技术手段。各国和国际组织一旦达成共识，就必须为监督、执行和应对危机建立新的政治结构。这需要解决两个而不是一个“对齐问题”：一个是人类价值观和意图与人工智能行动在技术层面的对齐，另一个是人与人之间在外交层面的对齐。
本书作者之一亨利·基辛格博士在后一个难题上指导了其他两位合著者。曾任微软和谷歌公司高管的两位合著者在前一个难题上辅导了基辛格博士。克雷格·蒙迪是微软公司负责联络华盛顿及世界各国政府的首席技术政策联络官，同时主管微软的研发工作。此前不久，他曾向 OpenAI 公司高层提供过咨询服务。埃里克·施密特则掌舵谷歌公司长达 10 年。
我们共同面对的问题迫在眉睫。人类社会乃至人类物种迫切需要积极主动地解决这些问题，而不是坐等危机发生。人类安全固然是成功应对人工智能对策中一个不可或缺的部分，但它不能解答人工智能提出的所有问题，因为在人工智能时代，人类自身会变。问题是我们人类是否并在何种程度上选择在这一变化方式上继续坚定维护自己的权威。

**部分开端
**章发现
探索发现可能是人类*激动人心的能力。在好奇心的驱使之下，在意外收获带来的愉悦之中，我们以发现填补了我们认知的真空，并将我们提出的问题转化为答案。探索可以说是我们人类的自我定义中不可或缺的一部分。因此，尽管前路有危险横亘，有崎岖挫折，我们仍然坚持不懈地沿着这条道路上下求索。
纵观历史，人类的探索，尤其是对自然环境的探索，向来是一个在严峻风险面前展现巨大勇气的叙事。人类探险队所面临的往往是生死较量。16 世纪早期，麦哲伦开启的环球航行历时三年，其间暴力、饥饿和死亡可谓如影随形。麦哲伦的航行是首次成功的环球航行。在这一过程中，他打破了公海上的持久航行纪录，证明了地球的形状，并且在欧洲殖民主义背景下为国际范围内的社会和经济交流开辟了全新道路。
麦哲伦麾下的大多数船员都认识到，他们的前路危机四伏。虽然当时人们不再普遍认为地球是平的，但“地球是圆的”这一事实尚未得到证实，麦哲伦的许多船员可能害怕他们的船会驶出世界的边缘。
麦哲伦和他的船员们都知道，如果“地球是圆的”这一假设有任何偏差，他们都将为此付出沉重代价。事实上，他们确实犯了错，也付出了代价：他们低估了旅程的长度，低估了维持生命所需的食物数量，还低估了大规模中毒的危险，以及船只受损或无法航行的风险。*初启航时的船队有 5 艘船，共载有大约 270 名船员，但到*后只有一艘船载着 18 名失魂落魄的幸存者返回了西班牙的港口。而且这些幸存者中没有船长，后者在航行途中被土著人杀死。在麦哲伦所处时代之后的 400 年里，世界的每一个角落都被绘制成地图——唯独南极洲除外，那是一片如同外星球般荒凉的土地。英裔爱尔兰探险家欧内斯特 · 沙克尔顿比他之前的任何人都更接近位于那片土地上的南极点——所谓的“世界之底”。1909 年，沙克尔顿及其部下带着一支毫无经验的船员队伍，在没有政府支持、只有一些私人贷款和个人捐款的情况下，创造了*长的南极探险旅程纪录，并为后来的探险家们铺平了道路。
尽管沙克尔顿无法宣称自己是**个到达南极点的人，但他还是赢得了后人的尊敬，因为他将人类价值置于探索的野心之上。探险开始后的一年时间里，探险队成员每天都被绑在
雪橇上，残酷地轮班工作 10 小时，每天只能前进区区几英里。虽然他们有足够的食物到达南极点，但剩余的食物却不足以支撑他们返回船上。
就在彼时彼地，在距离胜利已不到 97 英里（约 156 千米）的地方，沙克尔顿没有让他的部下冒生命危险继续前进，而是决定折返。他在日记中写道：“我们已经尽力了。”在撤退途中，沙克尔顿还将自己每天仅有的一块饼干配给让给了生病的船员弗兰克 · 怀尔德，后者在日记中写道：“再多的钱都买不到那块饼干，我永远不会忘记那次队长做出的牺牲。”
沙克尔顿并没有因为这次失败而气馁，后来他又进行了多次南极探险。几十年来，坊间流传着一个故事（后来被揭穿），说他在伦敦《泰晤士报》上刊登了如下广告：招人：危险旅程。工资微薄、刺骨严寒、长达数月的完全黑暗、危险不断、不确定能否安全返回。如果成功，将获得荣誉和认可。
这则广告可能是杜撰的，但它所体现的牺牲精神却是如假包换。这就是距今仅一个世纪前的探险所需要面对的现实：我们能拓展多少人类边疆，得看有多少勇敢之人愿意为如此渺茫的成功而孤注一掷。
也许是体认到了这些危险，一些国家的政府开始认为有必要对此类探索发现活动加以赞助和奖励，而这些活动也日益成为国家间国际竞赛的一部分。例如，麦哲伦的航行就取决于政治力量的支持。由于无法从葡萄牙国王——他自己的君主——那里获得财政支持，麦哲伦改换门庭，转而在西班牙王室的赞助下开展航行。他死后，船员们选择了西班牙人胡安 · 塞巴斯蒂安 · 埃尔卡诺担任指挥官。在返航途中，埃尔卡诺因几乎没有食物和补给而陷入绝望，他试图在位于西非海岸的葡萄牙殖民地佛得角群岛停留，并派出 13 名船员上岸与殖民总督谈判，但他们的请求遭到了羞辱性的拒绝。
虽然因被拒绝而沮丧不已，但埃尔卡诺也因此更坚定了自己的决心，要用行动证明葡萄牙的愚蠢和西班牙的成就。他下令起锚，继续返航（不过他把先遣使团的成员留在了这片不
友好的土地上）。*终，埃尔卡诺完成了这次旅程，实现了麦哲伦的理想，他致信西班牙国王，即当时的神圣罗马帝国皇帝，也是世界上*强大的君主：陛下比任何人都清楚，我们*应该珍视和把握的重点是，我们已经发现了整个世界是球形的且绕着它航进了一圈。
我们扬帆向西而去，却从东方归来。*终，这些无所畏惧的人和他们的政治支持者将探索计划进一步推向了地球之外。我们不仅要研究行星——这项工作已持续了数千年——还要亲自踏上这些行星的表面。
第二次世界大战之后，受美国和苏联之间地缘政治冷战的推动，两国间的“太空竞赛”促使这两个超级大国争相将人类送往他们从未涉足之地。这些宇航员自身当然可被视为先驱，但莫斯科和华盛顿进行的太空冒险都绝非源于个人主义的生命和财富赌博。相反，每一次冒险都是一次协调一致的外交和军事任务，推动其实施的是大量的投入，比如资金、时间，还有试错余地。在过去的 70 年里，600 多名宇航员冲破重重阻碍，穿越苍穹，遨游太空，其中一些人还走得更远，他们不仅绕月飞行，还在月球上行走。所以，美苏争霸一方面将我们带到了核毁灭的边缘，另一方面又让我们踏足天上的星辰。
在“地理大发现”时代（麦哲伦、瓦斯科·达·伽马、阿梅里戈·韦斯普奇等人活跃的早期现代时期）之前的一个多世纪，中国人在航海方面呈现的雄心无论在探索范围还是规模上都是无与伦比的。中国明朝伟大的航海家郑和率领的“宝船舰队”由数十艘，有时甚至数百艘当时*先进的船只组成，载着数以万计的水手、士兵、外交官和商人。对比之下，西方国家政府为探险家们提供的那点资源和支持可谓相形见绌。
这位中国航海家的每一次冒险都耗时两年左右。他麾下的船只*初航行于中国东南沿海附近的太平洋水域，后又向西航行到孟加拉湾、印度洋、阿拉伯海、红海，*后到达东非的斯瓦希里海岸。从 1405 年到 1433 年，他的探险活动历时近30 年。郑和下西洋的缘起和动机更接近于现代美苏两国的太空计划，而不是他所处时代的西方同类计划。与其说郑和下西洋是对未知领域的冒险突进，不如说是一场对大明王朝治国有方、物产丰盈的成果展示。但问题也在于此。即使是在一个资源充足的国家，那些对确保一次探险成功必不可少的事物，从长远来看也会败坏探险事业的根基。政治会改变，优先事项会转变，人的耐心也很容易被消磨殆尽。“宝船”所需的开支如此之大，以至于明朝朝廷内部的一些大臣开始反对皇帝为这些任务提供资金的举措。政治挫折和自然灾害令局势愈加动荡不安。*后，明朝决定将其*好的船只连同郑和下西洋的诸多记录加以销毁或刻意雪藏，以免再次出现此类宏图大业，吸引和诱惑国家领导人为此劳民伤财。这些船只逐渐腐烂朽坏，400 年来再也没有出现过可与其比肩者。
类似地，在美国赢得太空竞赛之后，由于再没有竞争对手来激励该国努力奋进，华盛顿对太空探索的支持从此萎靡不振，美国国家航空航天局（NASA）的预算也遭削减。在之后 50年的时间里，美国的载人航天能力江河日下。美国从地球上唯一有能力让人类登陆月球的国家，沦落到只能将人类送入近地轨道，直到*后彻底丧失了将任何人送入轨道的能力。到头来还是依靠私人探险家的努力，美国航天的声誉才有所挽回，在太空探索技术公司（SpaceX）的带领下，西方探索宇宙的雄心得以重振。如今，该公司的成就已经达到我们难以想象的高度，它不再将距我们*近的天体视为临时目的地，而是欲在其上建立永久的家园。一个世纪前，沙克尔顿帮助建立了人类在地球*南端的存在据点。而今天，沙克尔顿环形山——一个为纪念他而命名的洼地，位于月球的南极，而非南极洲——则是人类计划中的下一个前哨基地选址。
备选支持者的存在对探索的持续进行至关重要。在麦哲伦时代的欧洲，如果一位君主不支持，探险家可以从另一位君主那里筹集资金。到了 20 世纪，欧内斯特 · 沙克尔顿渴望为当时已日渐衰落的大英帝国夺取南极点，然而 1914 年爆发的**次世界大战令该国无暇他顾。沙克尔顿因此无法从英国王室筹集到必要的资金，于是他转而求助于私人捐助者。私人营利性公司的兴起——这使得投资和风险均得以汇聚——带来了更多的可能性。对此，人们不禁要问，如果郑和及其继任者有这样的选择，他们会成就何等伟业呢？
走进人工智能
在西方历史上*漫长的时期里，对现实的探索主要集中在地理实体——我们的星球和离我们*近的毗邻天体——层面之上。而随着人类逐渐主宰我们所处的自然环境——陆地、海
洋和天空——人类永不停歇的探索本能迟早会将其探索范围从周边的空间扩展到内心的思想领域。然而，今天我们在本书中所涉足的并非物质探索的前沿，而是智力探索的前沿。
人工智能的发展开创了一个新的发现时代。当人工智能被整合到实体系统中时，机器人传感器会承担起早先由人类承担的角色，从而使人类在进行探索时免于遭受身体危险，并因此令热衷于此的开发者和投资者的队伍成倍壮大。人工智能不会感到恐惧，因此它不会因现实的浩瀚广阔而心生敬畏。人工智能也不会感到羞耻，因此它可以毫不犹豫地承受失败，但人工智能可以迅速重新调整，通过不断即兴式创新和尝试，它可以适应高失败率，却不会让上述那些开发者和投资者感到受挫。
如今，人工智能领域的探索几乎完全是由私营公司和企业家主导的项目，国家则成为辅助支持者。不过，即使没有政府的锦上添花，人工智能的发展和扩张也可能会继续受到各种 资金来源的推动。诚然，在当今尚属早期的发展阶段，这种 探索可能仍然需要大量的人力资本和社会支持；但在未来，人 工智能的持续探索对于部署该技术的社会而言，可能将不再 是一项财政和政治负担。这并非某种不可预见的发展，也不似那些早期探索时代的情形——所有这些早期探索都在尚未 充分发挥其潜力之前便告终结——我们可以期待对人工智能的探索和利用之势将持续下去。
然而，尽管人工智能在一定程度上摆脱了早期探索活动面临 的桎梏，但它也无法全然随心所欲——尤其是当它的影响变 得愈加明显时。民主社会对风险的容忍度，以及国际博弈面 临的不确定未来，将继续成为影响人工智能领域的重要未知 因素。也许这将引发一场人工智能竞赛；也许这将导致一场 悲剧，程度堪比明朝政府大规模摧毁郑和的“宝船舰队”；也许各国可以沿着某条中间路线获得进展。

作者简介

哈佛大学博士、前教授，美国前国务卿，著名外交家、国际问题专家。主要著作有《论中国》《世界秩序》《论领导力》《人工智能时代与人类未来》等。 谷歌前CEO、执行董事长，Alphabet公司（谷歌母公司）前执行董事长。在他的协助下，谷歌成长为科技行业的全球领航者。 微软前首席研究和战略官，主要负责公司的技术战略和长期投资，并主导了微软在医疗、机器人、超级电脑、长期研究上的发展方向。他目前还在继续为微软提供量子计算和网络安全方面的咨询。