人工智能安全

目录

第1章人工智能技术发展概述
11人工智能的研究方向及起源
111人工智能的研究方向
112人工智能起源
12人工智能发展的三次高峰
121人工智能**次高峰
122人工智能第二次高峰
123人工智能第三次高峰
13人工智能的三个学术流派
131符号主义
132连接主义
133行为主义
134关于三个学术流派的评论
14人工智能第三次发展高峰的技术推手
141深度学习的贡献
142软件框架成为人工智能应用的推手
143解决不同软硬件的适配
144算力大幅提升的贡献
145大数据的贡献
146移动互联网与传感器的贡献
15人工智能带来的巨大冲击
151人工智能对经济的冲击
152人工智能对社会的冲击
153人工智能对人类思维的冲击
154人工智能对教育与就业的影响
155人工智能对隐私的冲击
16本章小结
参考文献
第2章世界各国人工智能发展战略规划
21美国人工智能发展战略
211美国人工智能发展职能机构
212美国人工智能发展战略
213美国制订人工智能发展计划
214美国人工智能监管政策
22欧盟及英国人工智能发展战略
221欧盟及英国的人工智能战略
222欧盟人工智能发展计划
223欧盟及英国的人工智能伦理原则
224欧盟及英国人工智能立法及监管
23其他一些国家人工智能发展战略
231日本人工智能发展战略
232俄罗斯人工智能发展战略规划
233韩国、新加坡、加拿大、印度等国的人工智能战略
24我国人工智能发展战略
241我国人工智能发展的总体要求
242我国人工智能发展的主要任务
243我国人工智能产业发展的资源配置
244我国人工智能发展的保障措施
245我国人工智能发展的组织保障
246我国人工智能人才培养政策
25国内外人工智能标准研究
251国际人工智能标准研究
252中国人工智能标准研究
26本章小结
参考文献
第3章人工智能安全概述
31人工智能与安全的辩证关系
32人工智能安全架构与分类
321人工智能安全体系架构
322人工智能助力安全
323人工智能内生安全
324人工智能衍生安全
33人工智能安全所处位置及外部关联
331人工智能安全性、可靠性和可控性的关系
332人工智能安全与法律、政策和标准的关系
333人工智能安全与伦理之间的关系
334人工智能安全评测与防控
34本章小结
参考文献
第4章人工智能助力安全
41人工智能助力安全概述
42人工智能助力防御
421物理智能安防监控
422军用机器人
423智能入侵检测
424恶意代码检测与分类
425基于知识图谱的威胁猎杀
426用户实体行为分析
427垃圾邮件检测
43人工智能助力攻击
431自动化网络攻击
432助力于网络攻击，提升网络攻击效率
433助力于有害信息的传播
434助力于虚假信息内容的制作
435智能恶意代码
436神经网络后门
437对抗机器学习
438智能工具被用于恶意攻击
439助力自主武器研发
44本章安全小结
参考文献
第5章人工智能的内生安全
51数据安全
511数据集质量影响人工智能内生安全
512数据投毒可人为地导致人工智能算法出错
513对抗样本成为人工智能内生安全的新关注点
52框架安全
53算法安全
531算法的可解释性
532对抗样本体现出人工智能算法缺乏可解释性
54模型安全
541模型存储和管理的安全
542开源模型被攻击
55运行安全
551客观原因导致的运行安全问题
552主观原因导致的运行安全问题
56本章小结
参考文献
第6章人工智能衍生安全问题
61人工智能系统失误而引发的安全事故
611自动驾驶汽车失效
612智能机器人失效
613智能音箱失效
614人工智能系统“失控”
615会话人工智能的偏激言论
616医疗人工智能的危险治疗意见
62人工智能武器研发可能引发国际军备竞赛
621各国人工智能武器化发展情况
622人工智能武器军备竞赛带来的风险
63人们对人工智能技术失控的担忧
64人工智能行为体失控三要素
641人工智能行为体具有行为能力以及破坏力
642人工智能行为体具有不可解释的决策能力
643人工智能行为体具有进化能力，可进化成自主系统
65预防人工智能技术失控的举措
651人机协作国际规范
652阿西洛马人工智能原则
653自我终结机制防范系统性失控风险
66本章小结
参考文献
第7章人工智能行为体
71人工智能行为体的定义
72人工智能行为体类型1——传统型
721工业机器人
722专用服务机器人
723家用型机器人
73人工智能行为体类型2——自动驾驶的交通工具
731自动驾驶简介
732自动驾驶汽车
733人工智能无人机
734无人驾驶船舶
74人工智能行为体类型3——人工智能武器
741人工智能武器简介
742“杀人蜂” 武器
743炮塔型AI战斗机器人
744人形战斗机器人
75人工智能行为体类型4——类人机器人
751Jules机器人
752Bina48机器人
753Sophia机器人
76人工智能行为体的特性
761人工智能行为体的移动特性
762人工智能行为体的决策特性
763人工智能行为体的自主特性
77本章小结
参考文献
第8章人工智能行为体保险箍
81体系架构
82基本功能
821远程控制组件
822能源控制组件
823宿主交互组件
824数据记录组件
83安全机制
831设备安全
832数据安全
833运行安全
84安全围栏
841工作过程
842移动范围限制
843速度与距离监控
844输出功率与力约束
845安全策略
85增强功能
851内置传感器
852人的识别
853“黑AIA”识别
86防控中心
861态势感知
862指挥控制
863应急处置
864专家研判
87生态环境
871准入制度
872标准规范
873生态基础
88本章小结
参考文献
第9章人工智能行为体的安全评估与检测
91人工智能行为体的安全管理概述
911从术语的角度感受个人助理机器人的安全要素
912个人助理机器人的风险评估要求
913个人助理机器人的安全要求
914个人助理机器人的功能安全
92人工智能行为体安全评估和检测的目标
921动能安全：对AIA动能的评估
922决策安全：对决策系统安全的评估
923自主安全：对AIA自主能力失控风险的评估
93人工智能行为体安全评估的方法与指标
931动能安全评估
932决策安全评估
933自主安全评估
934安全评估过程
94人工智能行为体检测能力与检测方法
941针对AIA动能的检测方法
942针对AIA决策机制的检测方法
943针对AIA自主能力的检测方法
95人工智能行为体的检测流程
951针对AIA动能的检测流程
952针对AIA决策机制的检测流程
953针对AIA自主能力的检测流程
96本章小结
参考文献
第10章人工智能安全伦理准则
101人工智能技术引发的伦理问题
1011人权问题
1012伦理地位问题
1013责任伦理问题
1014风险问题
102人工智能技术发展的伦理准则
1021各国政府及社团组织关于人工智能技术发展的伦理准则
1022国际组织关于人工智能技术发展的伦理准则
1023企业和高等院校关于人工智能技术发展的伦理准则
103人工智能行为体的伦理决策
1031人工智能行为体的伦理决策能力
1032人工智能行为体的伦理决策设计
1033人工智能行为体的伦理决策考量
104人工智能行为体的责任归咎
1041责任主体
1042责任分配
1043无人驾驶汽车的责任追究
105小结
参考文献
第11章人工智能前沿技术
111学术前沿
1111强化学习
1112迁移学习
1113联邦学习
1114分布式机器学习
1115表示学习
1116元学习
1117可解释的人工智能
1118对抗训练
1119人工智能芯片
11110技术前沿安全挑战
112应用前沿
1121计算机视觉
1122自然语言处理
1123智能语音
1124智能驾驶
1125拟人和仿生
1126智能攻防
1127应用前沿安全挑战
113交叉领域
1131人工智能与互联网
1132人工智能和工业40
1133人工智能和医学生物
1134人工智能和军事
1135人工智能和商业模式
1136人工智能和人文社会
1137交叉领域安全挑战
114本章小结
参考文献
第12章人工智能安全的未来展望
121人工智能内生安全的未来展望
1211数据是否会制约人工智能内生安全
1212对抗样本是否会出现在实际应用场景中
1213是否存在安全的智能模型
1214人工智能执行过程是否安全
122人工智能衍生安全的未来展望
1