包邮机器学习及工业大数据解析应用

目录前言**篇 概论篇第1章 绪论 31.1 机器学习简介 31.2 机器学习与人工智能 31.3 机器学习的主要研究领域 41.4 机器学习的发展历史与发展趋势 51.4.1 机器学习的发展历史 51.4.2 机器学习的发展趋势 71.5 机器学习系统的基本结构 81.5.1 数据 81.5.2 模型 91.5.3 损失函数 111.5.4 训练 131.6 模型评估与模型选择 141.6.1 训练误差与测试误差 141.6.2 过拟合与模型选择 141.7 正则化与交叉验证 151.7.1 正则化 151.7.2 交叉验证 161.8 泛化能力 171.8.1 泛化误差 171.8.2 泛化误差上界 181.9 机器学习的基本术语 181.9.1 假设空间 181.9.2 变形空间 191.9.3 归纳偏置 201.10 机器学习的分类 20iv 机器学习及工业大数据解析应用1.10.1 有监督学习 211.10.2 无监督学习 221.10.3 半监督学习 231.10.4 深度学习 251.11 工业大数据解析统计学基础 251.11.1 期望、方差、协方差 251.11.2 一元高斯分布 261.11.3 多元高斯分布 27继续阅读 27参考文献 27第2章 概念学习和一般到特殊序 292.1 概念学习的定义 292.2 概念学习的术语 292.3 归纳学习假设 332.4 假设的一般到特殊序 342.5 寻找极大特殊假设 342.5.1 候选消除算法的表示 352.5.2 列表后消除算法 362.5.3 变形空间的简洁表示 372.5.4 候选消除学习算法 382.6 归纳偏置 382.6.1 有偏的假设空间 392.6.2 无偏学习器 392.6.3 无偏学习的无用性 39继续阅读 40参考文献 40第二篇 有监督学习篇第3章 感知机 433.1 感知机学习模型 433.2 感知机学习策略 443.2.1 数据集的线性可分性 443.2.2 学习策略 443.3 感知机学习算法 453.3.1 感知机学习算法的一般形式 453.3.2 感知机学习算法的收敛性 46继续阅读 47参考文献 47第4章 k 近邻算法及模型 494.1 k 近邻算法 494.2 k 近邻模型 504.2.1 模型 504.2.2 距离度量 504.2.3 k 值的选择 514.2.4 分类决策规则 524.3 k 近邻算法的实现 524.3.1 构造kd树 534.3.2 搜索kd树 54继续阅读 55参考文献 55第5章 决策树 565.1 决策树模型与学习 565.1.1 决策树模型 565.1.2 决策树与if-then规则 565.1.3 决策树与条件概率分布 575.1.4 决策树学习 575.2 决策树方法的产生及算法过程 585.2.1 ID3算法 585.2.2 CART算法 595.2.3 C4.5算法 615.3 决策树常见问题 615.3.1 熵、信息增益和特征选择问题 615.3.2 决策树学习过拟合问题 645.3.3 交叉验证与树的修剪问题 655.3.4 *佳划分的度量问题 665.3.5 处理缺失属性值问题 675.3.6 处理连续属性值问题 685.3.7 叶节点判定问题 685.3.8 待测样本分类问题 68继续阅读 69参考文献 69第6章 集成学习 706.1 个体与集成 706.2 Bagging算法 706.2.1 Bagging算法工作机制 716.2.2 Bagging算法简介 716.2.3 Bagging算法的自主采样 726.2.4 Bagging算法的结合策略 726.2.5 偏差与方差分析 736.2.6 随机森林算法 746.3 Boosting算法 746.3.1 Boosting算法工作机制 746.3.2 Boosting算法的两个核心问题 756.3.3 AdaBoost算法 756.3.4 提升树算法 776.3.5 梯度提升决策树算法 796.4 Stacking算法 796.5 集成学习的结合策略 806.5.1 平均法 806.5.2 学习法 81继续阅读 82参考文献 82第7章 回归分析 837.1 回归分析的概念与特点 837.2 回归模型的选择 847.3 常用的回归模型 857.3.1 线性回归 857.3.2 逻辑回归 867.3.3 多项式回归 887.3.4 逐步回归 897.3.5 岭回归与Lasso 回归 917.3.6 主元回归 937.3.7 偏*小二乘回归 947.3.8 弹性回归 96继续阅读 96参考文献 97第8章 支持向量机 988.1 间隔与支持向量 988.2 线性可分支持向量机与硬间隔*大化 998.2.1 函数间隔和几何间隔 998.2.2 间隔*大化 1008.2.3 对偶问题求解 1008.3 线性支持向量机与软间隔*大化 1018.3.1 软间隔的对偶算法 1018.3.2 Hinge损失函数 1038.4 非线性支持向量机与核函数 1048.4.1 核技巧 1048.4.2 正定核 1048.4.3 核非线性支持向量机 1058.5 序列*小优化算法 1058.5.1 两个变量二次规划的求解方法 1058.5.2 SMO算法步骤 106继续阅读 107参考文献 108第9章 隐马尔可夫模型 1099.1 马尔可夫模型 1099.2 隐马尔可夫模型的要素和假设 1109.2.1 要素 1109.2.2 假设 1119.3 隐马尔可夫模型的基本问题 1119.4 三个基本问题的求解算法 1149.4.1 前向算法 1149.4.2 后向算法 1159.4.3 Viterbi算法 116继续阅读 117参考文献 117第10章 条件随机场 11810.1 概率无向图模型 11810.1.1 概率无向图模型的定义 11810.1.2 概率无向图模型的因子分解 11910.2 条件随机场的定义与形式 12010.2.1 条件随机场的定义 12010.2.2 条件随机场的参数化形式 12210.2.3 条件随机场的简化形式 12210.2.4 条件随机场的矩阵形式 12310.3 条件随机场的概率计算问题 12410.3.1 前向-后向算法 12410.3.2 概率计算 12510.3.3 期望计算 12510.4 条件随机场的学习算法 12610.4.1 改进的迭代尺度法 12610.4.2 拟牛顿法 129继续阅读 130参考文献 130第三篇 无监督学习篇第11章 贝叶斯学习 13311.1 贝叶斯理论 13311.1.1 先验概率和后验概率 13311.1.2 贝叶斯公式 13311.1.3 极大后验假设 13411.1.4 极大似然假设 13411.2 贝叶斯公式和概念学习 13511.2.1 Brute-Force 贝叶斯概念学习算法 13511.2.2 特定情况下的极大后验假设 13511.2.3 极大后验假设和一致学习器 13611.2.4 极大似然和*小误差平方假设 13711.2.5 用于预测概率的极大似然假设 13711.2.6 *小描述长度准则 13811.2.7 贝叶斯*优分类器 13811.2.8 吉布斯算法 13911.3 朴素贝叶斯 13911.3.1 朴素贝叶斯的基本框架 13911.3.2 朴素贝叶斯分类器 14011.3.3 朴素贝叶斯模型 14111.3.4 平滑技术 14211.4 贝叶斯网络 14311.4.1 贝叶斯网络的定义及性质 14311.4.2 贝叶斯网络的结构形式 14311.4.3 贝叶斯网络的判定条件 14311.4.4 贝叶斯网络的构建及学习 144继续阅读 145参考文献 145第12章 聚类分析 14612.1 聚类与分类 14612.2 聚类分析的过程及要求 14612.3 聚类分析的度量 14712.3.1 外部指标 14812.3.2 内部指标 14912.3.3 选择相似性度量的原则 15112.4 基于划分的聚类 15312.4.1 K-means算法 15312.4.2 K-medoids算法 15412.4.3 K-prototype算法 15512.5 基于层次的聚类 15712.5.1 聚合聚类与分裂聚类算法 15712.5.2 平衡迭代削减聚类算法 15812.5.3 使用代表点的聚类算法 16112.6 基于密度的聚类 16212.6.1 DBSCAN算法 16212.6.2 WS-DBSCAN算法 16412.6.3 MDCA算法 16412.7 基于模型的聚类 16512.7.1 基于SOM神经网络的聚类算法 16512.7.2 基于概率模型的聚类算法 166继续阅读 167参考文献 167第13章 降维与度量学习 16813.1 降维方法概述 16813.2 线性降维方法 168x 机器学习及工业大数据解析应用13.2.1 子集选择法 16813.2.2 主成分分析法 16913.2.3 慢特征分析法 17113.2.4 判别分析法 17413.2.5 典型相关分析法 17713.2.6 奇异值分解法 17913.2.7 因子分析法 18013.3 非线性降维方法 18113.3.1 流形学习简介 18113.3.2 保留局部特征 18113.3.3 保留全局特征 18713.4 度量学习 19213.4.1 度量的定义 19213.4.2 KL 散度 192继续阅读 193参考文献 193第14章 概率潜在语义分