应用数据分析:原理与应用

译者序
前言
致谢
关于作者
贡献者名单
缩略语
第1章 马尔可夫链及其应用1
1.1简介1
1.2定义1
1.2.1状态空间2
1.2.2轨迹2
1.3使用马尔可夫链的预测5
1.3.1初始状态5
1.3.2长期概率6
1.4马尔可夫链的应用8
第2章隐马尔可夫建模10
2.1隐马尔可夫建模表示法10
2.2释放概率11
2.3隐马尔可夫模型12
2.3.1建立HMM12
2.3.2图形形式的HMM13
2.4HMM中的三大问题16
2.4.1表示法16
2.4.2问题1的解决方案：似然估计16
2.5状态转移表19
2.5.1输入符号表20
2.5.2输出符号表20
2.6问题3的解决方案：找到*佳HMM20
2.7练习21
第3章卡尔曼滤波器入门23
3.1简介23
3.2标量形式23
3.3矩阵形式26
3.3.1状态变量的模型27
3.3.2状态的高斯表示29
3.4状态矩阵32
3.4.1对象在单个方向上移动的
状态矩阵32
3.4.2二维运动对象的状态矩阵35
3.4.3在三维空间中移动的对象36
3.5带有噪声的卡尔曼滤波器模型38
参考文献38
第4章卡尔曼滤波器II39
4.1简介39
4.2卡尔曼滤波器中的处理步骤39
4.2.1协方差矩阵39
4.2.2协方差矩阵的计算方法41
4.2.3卡尔曼滤波器中的迭代45
第5章遗传算法50
5.1简介50
5.2遗传算法的步骤50
5.3遗传算法的相关术语51
5.4适应度函数52
5.5选择54
5.5.1轮盘赌54
5.5.2交叉54
5.6*大化单个变量的函数56
5.7连续遗传算法58
5.7.1地形图的*低海拔58
5.7.2遗传算法在传感器温度记录中的应用60
参考文献61
第6章计算图的微积分62
6.1简介62
6.2复合表达式63
6.3计算偏导数63
6.4积分计算66
6.4.1梯形法则66
6.4.2辛普森法则67
6.5多径复合导数67
第7章支持向量机69
7.1简介69
7.2支持向量机的数学基础70
7.2.1超平面简介70
7.2.2平行超平面71
7.2.3两平行平面之间的距离72
7.3支持向量机问题73
7.3.1问题定义73
7.3.2线性可分情况73
7.4*佳超平面的定位（素数问题）75
7.4.1确定边界75
7.4.2点xi与分离超平面的距离76
7.4.3求解*佳超平面问题77
7.5拉格朗日优化函数78
7.5.1单约束优化78
7.5.2多约束优化79
7.5.3Karush-Kuhn-Tucker条件81
7.6SVM优化问题81
7.6.1原始SVM优化问题81
7.6.2对偶优化问题82
7.7线性SVM数据84
7.7.1松弛变量85
7.7.2使用核的非线性数据分类86
参考文献90
第8章人工神经网络91
8.1简介91
8.2神经元91
第9章神经网络训练101
9.1简介101
9.2神经网络架构101
9.3反向传播模型101
9.4带有计算图的反向传播示例104
9.5反向传播104
9.6神经网络实用训练106
9.6.1前向传播106
9.6.2反向传播108
9.7权重方法的初始化111
9.7.1Xavier初始化111
9.7.2批处理标准化112
9.8结论112
参考文献113
第10章循环神经网络114
10.1简介114
10.2实例114
10.3原理116
第11章卷积神经网络124
11.1简介124
11.2卷积矩阵124
11.3卷积核125
11.4卷积神经网络术语129
11.4.1概念和超参数129
11.4.2CNN处理阶段131
11.4.3池化层133
11.4.4全连接层134
11.5CNN设计原则134
11.6结论135
参考文献135
第12章主成分分析136
12.1简介136
12.2定义136
12.3主成分计算141
12.3.1使用向量投影的PCA141
12.3.2使用协方差矩阵进行PCA计算142
12.3.3使用奇异值分解的PCA144
12.3.4PCA的应用145
参考文献146
第13章矩母函数147
13.1随机变量的矩147
13.1.1随机变量的中心矩147
13.1.2矩特性148
13.2一元矩母函数149
13.3矩母函数的级数表示150
13.3.1概率质量函数的性质151
13.3.2概率分布函数f（x）的性质151
13.4离散随机变量的矩母函数151
13.4.1伯努利随机变量151
13.4.2二项随机变量152
13.4.3几何随机变量153
13.4.4泊松随机变量153
13.5连续随机变量的矩母函数154
13.5.1指数分布154
13.5.2正态分布154
13.5.3伽马分布155
13.6矩母函数的性质156
13.7多元矩母函数156
13.8矩母函数的应用157
第14章特征函数158
14.1简介158
14.2离散单随机变量的特征函数159
14.2.1泊松随机变量的特征函数159
14.2.2二项随机变量的特征函数159
14.2.3连续随机变量的特征函数159
第15章概率生成函数161
15.1简介161
15.2离散概率生成函数161
15.2.1概率生成函数的性质162
15.2.2伯努利随机变量的概率生成函数163
15.2.3二项随机变量的概率生成函数163
15.2.4泊松随机变量的概率生成函数163
15.2.5几何随机变量的概率生成函数164
15.2.6负二项随机变量的概率生成函数165
15.3概率生成函数在数据分析中的应用167
15.3.1离散事件应用167
15.3.2传染病建模168
参考文献170
第16章基于人工神经网络的数字身份管理系统171
16.1简介171
16.2数字身份度量171
16.3身份解析172
16.4生物识别系统架构173
16.4.1指纹识别174
16.4.2人脸识别174
16.5信息融合175
16.6人工神经网络176
16.7多模式数字身份管理系统实现177
16.7.1终端、指纹扫描仪和摄像头177
16.7.2指纹和人脸识别SDK178
16.7.3数据库178
16.7.4验证：连接到主机并选择验证178
16.8结论179
参考文献179
第17章物联网数据分类的概率神经网络分类器182
17.1简介182
17.2概率神经网络182
17.3广义回归神经网络184
17.4向量量化GRNN185
17.5试验工作188
17.6结论与未来工作189
参考文献189
第18章分层概率有限状态机的MML学习与推断191
18.1简介191
18.2有限状态机和PFSM192
18.2.1有限状态机的数学定义192
18.2.2状态图中的FSM表示192
18.3PFSM的MML编码和推断195
18.3.1建模PFSM195
18.3.2使用MML推断PFSM198
18.4分层概率有限状态机203
18.4.1定义HPFSM204
18.4.2HPFSM假设H的MML断言代码205
18.4.3HPFSM转移的编码206
18.5试验207
18.5.1人工数据集试验207
18.5.2ADL数据集试验211
18.6小结214
参考文献215
练习解答217