机器学习算法(MATLAB版)

章 机器学习概论 1.1 机器学习的基本定义 1.2 机器学习的基本术语 1.3 机器学习算法的分类 1.3.1 监督学习与无监督学习 1.3.2 分类问题与回归问题 1.3.3 生成模型与判别模型 1.3.4 强化学习 1.4 机器学习模型的评价指标 1.4.1 模型的泛化能力 1.4.2 模型的评估方法 1.4.3 精度与召回率 1.4.4 ROC曲线与AUC 1.5 机器学习模型的选择 1.5.1 正则化技术 1.5.2 偏差-方差分解 1.6 机器学习应用的基本流程 1.7 机器学习的用途及发展简史 第2章 数学基础知识 2.1 矩阵与微分 2.1.1 矩阵的基本运算 2.1.2 矩阵对标量的导数 2.1.3 矩阵变量函数的导数 2.1.4 向量函数的导数 2.1.5 矩阵和向量的微分 2.1.6 特征值分解和奇异值分解 2.2 *优化方法 2.2.1 无约束优化方法 2.2.2 约束优化与KKT条件 2.2.3 二次规划 2.2.4 半定规划 2.3 概率与统计 2.3.1 随机变量与概率 2.3.2 条件概率与独立性 2.3.3 期望、马尔可夫不等式和矩生成函数 2.3.4 方差与切比雪夫不等式 2.3.5 样本均值与样本方差 2.3.6 极大似然估计 2.3.7 熵与KL散度 第3章 线性模型与逻辑斯谛回归 3.1 线性模型的基本形式 3.1.1 线性回归模型的理论基础 3.1.2 线性回归模型的MATLAB实现 3.2 逻辑斯谛回归模型 3.2.1 逻辑斯谛回归的基本原理 3.2.2 逻辑斯谛回归的MATLAB实现 3.3 线性判别分析 3.3.1 线性判别分析的基本原理 3.3.2 线性判别分析的MATLAB实现 第4章 支持向量机 4.1 支持向量机的算法原理 4.1.1 线性可分问题 4.1.2 线性不可分问题 4.2 核映射（核函数）支持向量机 4.3 SMO算法原理及推导 4.3.1 子问题的求解 4.3.2 优化变量的选择 4.4 支持向量回归模型 4.5 支持向量机的MATLAB实现 第5章 人工神经网络 5.1 前馈神经网络简介 5.1.1 M-P神经元 5.1.2 感知器模型 5.1.3 多层前馈网络 5.2 误差逆传播算法 5.2.1 一个单隐层网络实例 5.2.2 误差逆传播（BP）算法 5.3 神经网络的数学性质与实现细节 5.3.1 神经网络的数学性质 5.3.2 全局*小与局部极小 5.3.3 面临的问题与实现细节 5.4 神经网络的MATLAB实现 第6章 决策树算法 6.1 决策树算法的基本原理 6.1.1 树模型决策过程 6.1.2 决策树算法的基本框架 6.1.3 决策树的剪枝 6.2 基本决策树算法的改进 6.2.1 信息增益与ID3决策树 6.2.2 增益率与C4.5决策树 6.2.3 基尼指数与CART决策树 6.3 连续值处理与属性缺失 6.3.1 连续值的处理 6.3.2 属性缺失问题 6.4 决策树算法的MATLAB实现 第7章 贝叶斯算法 7.1 贝叶斯算法的原理 7.1.1 贝叶斯决策 7.1.2 朴素贝叶斯算法 7.1.3 正态贝叶斯算法 7.2 贝叶斯算法的改进 7.2.1 半朴素贝叶斯算法 7.2.2 TAN贝叶斯算法 7.2.3 贝叶斯网与朴素贝叶斯树 7.2.4 加权朴素贝叶斯算法 7.3 贝叶斯算法的MATLAB实现 第8章 k近邻算法 8.1 k近邻算法的原理 8.1.1 k近邻算法的流程 8.1.2 k近邻的距离函数 8.2 k近邻改进算法简介 8.3 k近邻算法的MATLAB实现 第9章 数据降维算法 9.1 主成分分析法 9.1.1 主成分分析的基本原理 9.1.2 核主成分分析算法 9.1.3 PCA算法的MATLAB实现 9.1.4 快速PCA算法及其实现 9.2 流形学习算法 9.2.1 局部线性嵌入及其MATLAB实现 9.2.2 等距映射与MDS算法及其实现 0章 聚类算法 10.1 聚类的基本理论 10.1.1 问题定义 10.1.2 距离计算 10.1.3 性能指标 10.2 k均值算法 10.2.1 k均值算法基本原理 10.2.2 k均值算法的MATLAB实现 10.3 k中心点算法 10.3.1 k中心点算法基本原理 10.3.2 k中心点算法的MATLAB实现 10.4 密度聚类算法 10.4.1 DBSCAN算法的基本原理 10.4.2 DBSCAN算法的MATLAB实现 10.5 层次聚类算法 10.5.1 AGNES算法的基本原理 10.5.2 AGNES算法的MATLAB实现 1章 高斯混合模型与EM算法 11.1 高斯混合模型 11.2 EM算法的理论推导 11.3 EM算法的应用 11.4 GMM的MATLAB实现 11.4.1 高斯混合模型的生成 11.4.2 GM模型的参数拟合 11.4.3 高斯混合聚类实例 11.5 高斯混合聚类的改进方法 11.5.1 拟合初始值的设定问题 11.5.2 聚类簇数k值的选择问题 11.5.3 高斯混合聚类的正则化 2章 集成学习算法 12.1 集成学习概述 12.1.1 集成学习的基本概念 1