包邮机器学习基础教程

**章 绪论 1 1.1 机器学习发展简史与概况 2 1.2 机器学习的研究与应用现状 5 1.3 机器学习的相关问题 9 1.4 机器学习的发展前景 12 第二章 机器学习的数学基础 14 2.1 线性代数与矩阵分析基础 14 2.1.1 线性空间基础 14 2.1.2 范数 16 2.1.3 矩阵运算及其分解 18 2.2 概率与统计基础 21 2.2.1 概率分布 22 2.2.2 数字特征 31 2.2.3 估计理论基础 35 2.2.4 贝叶斯理论基础 39 2.3 优化理论基础 41 2.3.1 无约束*优化 41 2.3.2 带有约束条件的*优化 42 复习思考题 43 第三章 机器学习基本知识 44 3.1 机器学习的建模问题 44 3.1.1 线性拟合(回归)及建模问题 44 3.1.2 非线性拟合(回归)及建模问题 50 3.2 机器学习模式概述 54 3.2.1 有监督学习模式 55 3.2.2 无监督学习模式 60 复习思考题 66 第四章 神经网络学习算法 67 4.1 神经网络概述 67 4.2 典型前馈型神经网络 73 4.2.1 前馈型(BP)神经网络基本运行模式 76 4.2.2 前馈型(BP)神经网络的相关问题 80 4.3 典型反馈型神经网络 83 4.3.1 反馈型神经网络基本运行模式 83 4.3.2 反馈型神经网络的相关问题 87 4.4 其他典型神经网络 91 4.4.1 径向基神经网络 91 4.4.2 自组织竞争神经网络 96 4.4.3 小脑模型神经网络 102 4.4.4 卷积神经网络 105 复习思考题 109 第五章 分类与聚类学习算法 110 5.1 分类学习算法 110 5.1.1 线性分类算法 111 5.1.2 非线性分类算法 120 5.1.3 核方法与支持向量机 128 5.2 聚类学习算法 134 5.2.1 K均值聚类算法 135 5.2.2 其他聚类算法 138 复习思考题 139 第六章 数据维度归约方法 140 6.1 单类数据降维 140 6.1.1 主成分分析 140 6.1.2 因子分析 148 6.1.3 相关分析 157 6.2 非线性降维算法简介 161 6.2.1 等距映射 162 6.2.2 拉普拉斯特征映射 163 6.2.3 局部线性嵌入 166 6.3 多类数据特征选择与提取 167 复习思考题 170 第七章 图方法 171 7.1 贝叶斯网络 171 7.1.1 贝叶斯网络理论 171 7.1.2 贝叶斯网络推理 173 7.2 决策树理论 176 7.2.1 定义与结构 176 7.2.2 特征选择准则 177 7.2.3 “过拟合”问题 179 7.2.4 连续值处理 180 7.2.5 决策树生成 180 7.2.6 算法实例 181 7.3 马尔可夫网络 189 复习思考题 191 第八章 其他典型机器学习方法概述 192 8.1 隐含马尔可夫模型 192 8.2 蒙特卡洛方法 196 8.3 组合多学习器 201 8.4 近似推断 206 8.5 增强学习方法 210 8.6 深度学习方法概述 214 8.7 深度学习方法应用举例 221 复习思考题 229 参考文献 230