超级智能-路线图.危险性与应对策略

天算论
序言
**章　人工智能：昨日成就与今日现状
　增长模式和宏大历史
　大预期
　希望与绝望并存
　技术发展水平
　对未来机器智能的看法
第二章　通往超级智能之路
　人工智能
　全脑仿真（whole brain emulation）
　生物认知
　人脑—计算机交互界面
　网络和组织
　总结
第三章　超级智能的形式
　高速超级智能
　集体超级智能
　素质超级智能
　直接和间接范围
　数字智能的优势来源
第四章　智能大爆发的动力学
　智能爆发的时间和速度
　反抗度
　*优化力与爆发
第五章　决定性战略优势
　领先者会取得决定性战略优势吗？
　成功的项目会有多大？
　从决定性战略优势到单一体
第六章　超级认知能力
　功能与超级能力
　人工智能夺权的场景
　对自然和智能体的影响力
第七章　超级智能的意愿
　智能与动机的关系
　工具性趋同
第八章　结局注定是厄运吗？
　存在性灾难是智能大爆发的默认后果吗？
　背叛转折
　恶性失败模式
第九章　控制问题
　两个代理问题
　能力控制方法
　动机选择方法
第十章　神谕，精灵，主权，工具
　神谕
　精灵和主权
　工具性人工智能
　比较
第十一章　多极情景
　马与人
　算术经济下的生活
　后过渡时代下单一体的形成
第十二章　获取价值观
　价值观加载问题
　进化性选择
　强化学习
　联合累积的价值观
　动机性支架
　价值观学习
　仿真调节
　体制设计
　总结
第十三章　确定选择标准
　间接规范方法的必要性
　一致推断意愿
　道德模式
　按照我的意思做
　设计选择清单
第十四章　战略图景
　科学技术战略
　路径与促成因素
　合作
第十五章　关键时刻
　哲学面临*后期限
　应该做些什么？
　人性中*优秀的部分
致谢