人工智能:是什么?为什么?怎么做?

第1章人工智能3
1.1Artificial3
1.2图灵测试4
1.3人类智能7
1.4一次会议8
1.5两场棋局9
1.5.1Deep Blue与卡斯帕罗夫11
1.5.2AlphaGo与李世石11
1.6三门学派12
1.6.1无可奈何花落去——符号主义13
1.6.2似曾相识燕归来——连接主义14
1.6.3小园香径独徘徊——行为主义15
1.7五个阶段17
1.7.1记忆和计算18
1.7.2感知和认知18
1.7.3分析和推理20
1.7.4发明和创造20
1.7.5具有意识的机器20
1.8Singularity22 第2章编码25
2.1冯·诺依曼体系结构25
2.2数字的编码31
2.2.1数字系统31
2.2.2整数的编码32
2.2.3实数的编码32
2.3文字的编码34
2.4图像的编码35〖1〗〖2〗人工智能： 是什么？为什么？怎么做？〖1〗目录2.5声音的编码38
2.6视频的编码39
2.7数据的组织40
2.8More Is Different41
2.9怎么做42
2.9.1二—十进制转换42
2.9.2十六进制43
2.9.3补码44
2.9.4浮点数编码44
2.9.5数字的编码45
2.9.6图像的编码45
2.9.7声音的编码46 第3章数学47
3.1高等数学48
3.1.1导数48
3.1.2Sigmoid()函数49
3.1.3梯度下降算法50
3.2概率论54
3.2.1合取谬误54
3.2.2星期二男孩54
3.2.3蒙特卡罗算法56
3.2.4三门问题56
3.2.5信息论58
3.3线性代数64
3.3.1向量65
3.3.2矩阵66
3.3.3维数67
3.3.4距离70
3.3.5奇异值分解74
3.4Concrete Mathematics76
3.5怎么做78
3.5.1绘制曲线和曲面图78
3.5.2梯度下降算法79
3.5.3蒙特卡罗算法82
3.5.4奇异值分解83第二部分经典人工智能
第4章算法87
4.1算法概述88
4.2笨AI与聪明AI89
4.3算法复杂度91
4.3.1大O表示法91
4.3.2常见复杂度93
4.4如何描述问题97
4.4.1树97
4.4.2用树描述问题98
4.4.3递归100
4.4.4图101
4.4.5用图描述问题103
4.5无指导信息搜索106
4.5.1深度优先搜索106
4.5.2宽度优先搜索109
4.5.3搜索评价110
4.6有指导信息搜索111
4.6.1迪杰斯特拉算法111
4.6.2启发式112
4.6.3A搜索算法113
4.7路径无关搜索115
4.7.1*优化搜索115
4.7.2约束满足问题116
4.7.3对抗搜索118
4.8遗传算法118
4.9推荐算法123
4.10Alchemy and Artificial Intelligence125
4.11怎么做126
4.11.1算法入门126
4.11.2递归算法127
4.11.3无指导信息搜索127
4.11.4有指导信息搜索128
4.11.5路径无关搜索133
4.11.6遗传算法134
4.11.7推荐算法138 第5章博弈140
5.1棋类游戏框架140
5.2对抗搜索142
5.2.1博弈树142
5.2.2静态估值143
5.2.3minimax算法144
5.2.4negamax算法147
5.2.5alphabeta剪枝147
5.3其他棋类游戏148
5.3.1人机博弈小史148
5.3.2棋类软件设计技巧149
5.3.3AlphaGo简介150
5.4Game Theory151
5.5怎么做153
5.5.1棋类游戏框架153
5.5.2negamax算法155
5.5.3alphabeta剪枝算法156 第6章知识169
6.1逻辑169
6.1.1命题逻辑170
6.1.2一阶逻辑173
6.1.3高阶逻辑175
6.1.4逻辑推理175
6.1.5逻辑编程177
6.2专家系统179
6.2.1专家系统概述179
6.2.2专家系统构建180
6.2.3典型专家系统186
6.3知识图谱191
6.3.1概述191
6.3.2知识从哪里来192
6.3.3知识如何表示198
6.3.4知识如何推理204
6.3.5知识如何存储208
6.3.6知识如何应用212
6.4Wir müssen wissen，Wir werden wissen216
6.4.1希尔伯特216
6.4.2哥德尔217
6.5怎么做220
6.5.1逻辑编程220
6.5.2专家系统222
6.5.3知识图谱223
6.5.4哥德尔数224 第7章行为227
7.1机器人227
7.1.1SHRDLU227
7.1.2SHAKEY229
7.1.3机器人与计算机230
7.2新范式231
7.3基于行为的人工智能233
7.3.1SPA体系结构233
7.3.2包容式体系结构233
7.3.3更多体系结构235
7.3.4设计自己的体系结构237
7.4智能体概述238
7.4.1只有行为不够238
7.4.2智能体238
7.4.3多智能体241
7.5Birds and Frogs246
7.6怎么做248
7.6.1智能体博弈248
7.6.2Boids模拟249
第三部分机器学习技术
第8章机器学习（一）253
8.1机器学习概述253
8.1.1学习范式253
8.1.2机器学习过程254
8.1.3机器学习分类255
8.2*简单的机器学习——线性回归256
8.2.1线性回归256
8.2.2误差函数259
8.3多元回归分析261
8.4岭回归和LASSO回归263
8.5过拟合与欠拟合264
8.6训练集、测试集和验证集265
8.6.1训练集与测试集265
8.6.2验证集与交叉验证266
8.7有监督和无监督学习267
8.8回归结果评估267
8.9Why268
8.9.1因果性268
8.9.2相关性不等于因果性269
8.9.3统计数据会说谎269
8.9.4如何计算因果？271
8.10怎么做276
8.10.1动物体重寿命分析276
8.10.2回归分析277
附注279 第9章机器学习（二）280
9.1分类280
9.1.1从回归到分类280
9.1.2分类结果评估281
9.2既无逻辑又不回归——逻辑回归285
9.2.1逻辑回归思想285
9.2.2交叉熵损失函数286
9.2.3梯度下降求解287
9.3一堆IFELSE——决策树288
9.3.1决策树思想288
9.3.2划分选择290
9.3.3决策树的剪枝295
9.3.4连续型数据的处理298
9.4曾经的王者——SVM300
9.4.1SVM概述300
9.4.2支持向量与*优划分301
9.4.3核函数与高维映射302
9.5学习的本质——贝叶斯304
9.5.1贝叶斯思想304
9.5.2朴素贝叶斯306
9.5.3朴素贝叶斯的应用308
9.6懒惰学习的代表——kNN309
9.7臭皮匠变诸葛亮——集成学习310
9.7.1集成思想310
9.7.2Boosting家族311
9.7.3Bagging家族315
9.8Occams razor316
9.9怎么做317
9.9.1分类结果评估317
9.9.2鸢尾花数据分析318
9.9.3不难，也不简单324
附注324 第10章机器学习（三）326
10.1聚类326
10.1.1聚类其实是聚簇326
10.1.2简单实用的聚类： kmeans327
10.1.3聚类结果评估333
10.2降维335
10.2.1维数诅咒335
10.2.2PCA降维336
10.3Complexity340
10.3.1蝴蝶效应340
10.3.2复杂性度量341
10.4怎么做343
10.4.1聚类343
10.4.2降维347
附注348
第四部分神经网络与深度学习
第11章神经网络351
11.1概述351
11.2神经元353
11.2.1激活函数353
11.2.2单个神经元354
11.3构建神经网络355
11.3.1把神经元连接起来355
11.3.2反向传播357
11.3.3梯度下降359
11.4初见Mnist360
11.5改进神经网络361
11.5.1换一个激活函数361
11.5.2再探反向传播364
11.5.3增加bias366
11.6神经网络存在的问题368
11.7Connection370
11.7.1从图到网络370
11.7.2六度分割372
11.7.3幂率分布373
11.8怎么做374
11.8.1前馈计算374
11.8.2Mnist374
11.8.3新的损失函数和激活函数379
11.8.4带bias的神经网络381
11.8.5识别自己的手写体383
11.8.6随机网络、无标度网络383 第12章深度学习385
12.1准备知识386
12.1.1二见Mnist386
12.1.2更多激活函数389
12.1.3更多优化算法393
12.2卷积神经网络401
12.2.1再见Mnist401
12.2.2生物的视觉系统402
12.2.3卷积神经网络404
12.3长短期记忆网络408
12.3.1序列数据408
12.3.2循环神经网络411
12.3.3长短期记忆网络412
12.3.4结构分析415
12.3.5生物的记忆系统416
12.4强化学习418
12.4.1杀鸡用牛刀418
12.4.2庖丁解牛422
12.4.3深度强化学习425
12.4.4生物的学习系统426
12.5生成对抗网络427
12.5.1生成式模型427
12.5.2神经网络的博弈428
12.5.3ArtificialMnist428
12.5.4结构分析431
12.6大模型433
12.6.1从名字说起433
12.6.2预训练433
12.6.3Transformer435
12.7Intelligence445
12.7.1智能在哪里446
12.7.2PeakEnd447 参考文献449 中外文人名对照450 后记——书名也内卷456
第0篇什么是人工智能1
0.1人工智能的诞生1
0.2人工智能的4个发展时代4
0.2.1初期时代4
0.2.2知识时代6
0.2.3特征时代8
0.2.4数据时代11
0.3什么是人工智能16
0.4图灵测试与中文屋子问题19
0.4.1图灵测试19
0.4.2中文屋子问题21
0.5第三代人工智能23
0.6总结27 第1篇神经网络是如何实现的29
1.1从数字识别谈起30
1.2神经元与神经网络35
1.3神经网络是如何训练的39
1.4卷积神经网络48
1.5梯度消失问题59
1.6过拟合问题69
1.7词向量74
1.7.1词的向量表示74
1.7.2神经网络语言模型76
1.7.3word2vec模型82
1.7.4词向量应用举例85
1.8循环神经网络88
1.9长短期记忆网络96
1.10深度学习框架104
1.11总结104〖1〗〖2〗艾博士： 深入浅出人工智能〖1〗目录第2篇计算机是如何学会下棋的106
2.1能穷举吗？107
2.2极小极大模型110
2.3αβ剪枝算法112
2.4蒙特卡洛树搜索115
2.5AlphaGo是如何下棋的124
2.6围棋中的深度强化学习方法132
2.6.1基于策略梯度的强化学习134
2.6.2基于价值评估的强化学习135
2.6.3基于演员评价方法的强化学习137
2.7AlphaGo Zero是如何自学成才的140
2.8总结147 第3篇计算机是如何找到*优路径的149
3.1路径搜索问题150
3.2宽度优先搜索算法152
3.3迪杰斯特拉算法155
3.4启发式搜索157
3.4.1A算法157
3.4.2A算法164
3.4.3定义h函数的一般原则165
3.4.4h函数的评价168
3.4.5A算法存在的不足170
3.4.6单调的h函数172
3.4.7改进的A算法175
3.5深度优先搜索算法181
3.6迭代加深式搜索算法185
3.6.1迭代加深式宽度优先搜索算法186
3.6.2迭代加深式A算法188
3.7动态规划与Viterbi算法189
3.8拼音输入法问题191
3.9总结197 第4篇如何用随机算法求解组合优化问题200
4.1组合优化问题201
4.2局部搜索算法203
4.3局部搜索算法存在的问题211
4.4退火过程及分析216
4.4.1退火现象216
4.4.2退火过程分析217
4.5模拟退火算法224
4.6模拟退火算法的参数选择229
4.6.1起始温度t0的选取230
4.6.2温度的下降方法232
4.6.3每一温度下的停止准则234
4.6.4算法的终止原则235
4.7模拟退火算法应用举例238
4.8遗传算法243
4.9遗传算法应用举例253
4.10遗传算法的实现问题258
4.10.1编码问题258
4.10.2二进制编码的交叉操作规则262
4.10.3整数编码的交叉操作规则264
4.10.4变异规则268
4.10.5适应函数270
4.10.6遗传算法的停止准则274
4.11用遗传算法求解旅行商问题276
4.12性能评价问题277
4.13模拟退火算法与遗传算法的对比279
4.14总结281 第5篇统计机器学习方法是如何实现分类与聚类的283
5.1统计学习方法284
5.2朴素贝叶斯方法289
5.3决策树297
5.3.1决策树算法——ID3算法299
5.3.2决策树算法——C4.5算法313
5.3.3过拟合问题与剪枝320
5.3.4随机森林算法327
5.4k近邻方法330
5.5支持向量机333
5.5.1什么是支持向量机333
5.5.2线性可分支持向量机339
5.5.3线性支持向量机352
5.5.4非线性支持向量机356
5.5.5核函数与核方法359
5.5.6支持向量机用于多分类问题364
5.6k均值聚类算法371
5.7层次聚类算法379
5.8DBSCAN聚类算法381
5.9验证与测试问题384
5.10特征抽取问题387
5.11总结392 第6篇专家系统是如何实现的395
6.1什么是专家系统396
6.2推理方法399
6.3一个简单的专家系统403
6.4非确定性推理409
6.4.1事实的表示410
6.4.2规则的表示410
6.4.3逻辑运算411
6.4.4规则运算413
6.4.5规则合成415
6.4.6置信度方法的理论根据420
6.5黑板模型423
6.6知识的结构化表示425
6.6.1语义网络425
6.6.2框架429
6.7专家系统工具433
6.8专家系统的应用436
6.9专家系统的局限性437
6.10总结438 附录ABP算法440
A.1求导数的链式法则440
A.2符号约定441
A.3对于输出层的神经元442
A.4对于隐含层的神经元444
A.5BP算法——随机梯度下降版446 附录B序列*小*优化（SMO）算法448
B.1SMO算法的基本思想448
B.2SMO算法的详细计算过程454
第1章深度学习环境搭建1
1.1深度学习典型应用1
1.1.1计算机视觉1
1.1.2自然语言处理3
1.1.3强化学习3
1.2Anaconda使用简介4
1.2.1Anaconda的特点4
1.2.2Anaconda的下载及安装4
1.2.3Python库的导入与添加5
1.2.4conda命令简介7
1.3TensorFlow使用简介7
1.3.1TensorFlow的特点8
1.3.2CPU版TensorFlow环境搭建与调用8
1.3.3GPU版TensorFlow环境搭建与调用9
1.4Jupyter Notebook使用简介15
1.4.1安装Jupyter Notebook15
1.4.2运行Jupyter Notebook15 第2章基本流程——数据处理与模型加载17
2.1使用特征列队结构化数据进行分类: 预测心脏病17
2.1.1背景原理17
2.1.2安装操作18
2.1.3代码解析19
2.1.4训练测试23
2.2回归方法: 预测燃油效率24
2.2.1背景原理24
2.2.2安装操作24
2.2.3代码解析24
2.2.4训练测试29
2.3过拟合与欠拟合: 不同模型选择对结果的影响33
2.3.1背景原理33
2.3.2安装操作34
2.3.3代码解析34
2.3.4训练测试39
2.4保存与加载预训练模型42
2.4.1背景原理42
2.4.2安装操作42
2.4.3代码解析43
2.4.4训练测试47
〖1〗〖2〗艾博士： 深入浅出人工智能〖1〗目录
第3章图像处理: 增广与分类49
3.1数据增广之图像变换实战49
3.1.1背景原理49
3.1.2安装操作49
3.1.3代码解析50
3.1.4训练测试56
3.2在CIFAR10上应用VGGNet实现图像分类60
3.2.1背景原理60
3.2.2安装操作60
3.2.3代码解析61
3.2.4训练测试62
3.3图像识别之猫狗分类63
3.3.1背景原理63
3.3.2安装操作63
3.3.3代码解析64
3.3.4训练测试65 第4章图像增强识别实战67
4.1应用高阶神经网络提高图像分辨率67
4.1.1背景原理67
4.1.2安装操作67
4.1.3代码解析68
4.1.4训练测试70
4.2长短期记忆机器人识别色彩72
4.2.1背景原理72
4.2.2安装操作72
4.2.3代码解析73
4.2.4训练测试75
4.3使用注意力机制给图像取标题75
4.3.1背景原理75
4.3.2安装操作76
4.3.3代码解析76
4.3.4训练测试82 第5章两阶段目标检测实战86
5.1基于RPN实现目标检测86
5.1.1背景原理86
5.1.2安装操作87
5.1.3代码解析88
5.1.4训练测试92
5.2应用MTCNN实现人脸目标检测92
5.2.1背景原理92
5.2.2安装操作93
5.2.3代码解析93
5.2.4训练测试95 第6章单阶段目标检测97
6.1应用单阶段完成目标检测之YOLOv497
6.1.1背景原理97
6.1.2安装操作98
6.1.3代码解析98
6.1.4训练测试101
6.2应用锚定框完成目标检测之SSD102
6.2.1背景原理102
6.2.2安装操作103
6.2.3代码解析103
6.2.4训练测试111
6.3基于视频流目标检测之DarkFlow114
6.3.1背景原理115
6.3.2安装操作115
6.3.3代码解析116
6.3.4训练测试118
6.4基于ResNet实现目标检测121
6.4.1背景原理122
6.4.2安装操作122
6.4.3代码解析124
6.4.4训练测试128 第7章实战文本识别和图像生成129
7.1应用卷积神经网络识别手写体文本129
7.1.1背景原理129
7.1.2安装操作130
7.1.3代码解析131
7.1.4训练测试132
7.2应用自动编码器识别手写体文本133
7.2.1背景原理133
7.2.2安装操作133
7.2.3代码解析134
7.2.4训练测试136
7.3应用变分自动编码器重建服饰136
7.3.1背景原理136
7.3.2安装操作137
7.3.3代码解析137
7.3.4训练测试140 第8章词汇与音乐的星空——机器创作141
8.1创作钢琴曲之Music Transformer141
8.1.1背景原理141
8.1.2安装操作142
8.1.3代码解析144
8.1.4训练测试147
8.2应用循环神经网络创作歌词147
8.2.1背景原理147
8.2.2安装操作148
8.2.3代码解析148
8.2.4训练测试153
8.3应用门控循环单元创作歌词154
8.3.1背景原理154
8.3.2安装操作156
8.3.3代码解析156
8.3.4训练测试158
8.4应用长短期记忆创作歌词159
8.4.1背景原理159
8.4.2安装操作161
8.4.3代码解析161
8.4.4训练测试162
8.5应用文本生成器创作古诗163
8.5.1背景原理164
8.5.2安装操作164
8.5.3代码解析165
8.5.4训练测试168 第9章情感分类、翻译、对话172
9.1使用双向循环神经网络对电影评论情感分类172
9.1.1背景原理172
9.1.2安装操作173
9.1.3代码解析173
9.1.4训练测试175
9.2应用词嵌入计算文本相关性175
9.2.1背景原理176
9.2.2安装操作176
9.2.3代码解析176
9.2.4训练测试184
9.3中英翻译机器人185
9.3.1背景原理185
9.3.2安装操作186
9.3.3代码解析186
9.3.4训练测试192
9.4基于Seq2Seq中文聊天机器人实战192
9.4.1背景原理192
9.4.2安装操作193
9.4.3代码解析193
9.4.4训练测试197 第10章GAN及其变体的创作199
10.1GAN的原理与实战199
10.1.1背景原理199
10.1.2安装操作199
10.1.3代码解析201
10.1.4训练测试206
10.2应用生成对抗网络Pix2Pix模仿欧式建筑风格207
10.2.1背景原理207
10.2.2安装操作207
10.2.3代码解析208
10.2.4训练测试212
10.3应用循环对抗网络CycleGAN完成相似动物转换212
10.3.1背景原理212
10.3.2安装操作213
10.3.3代码解析213
10.3.4训练测试216
10.4WGANGP人脸生成实战217
10.4.1背景原理217
10.4.2安装操作218
10.4.3代码解析219
10.4.4训练测试225 第11章强化学习与迁移学习226
11.1强化学习之玩转Flappy Bird226
11.1.1背景原理226
11.1.2安装操作227
11.1.3代码解析227
11.1.4训练测试232
11.2使用TensorFlow Hub实现迁移学习预测影评分类232
11.2.1背景原理232
11.2.2安装操作233
11.2.3代码解析233
11.2.4训练测试236
11.3使用预训练的卷积神经网络绘制油画236
11.3.1背景原理236
11.3.2安装操作237
11.3.3代码解析237
11.3.4训练测试244 结语248 参考文献250