机器学习教程(微课视频版)

部分基础知识和基本方法 第1章机器学习概述 微课视频 185分钟 1.1什么是机器学习 1.2机器学习的类型 1.2.1基本分类 1.2.2监督学习及其功能分类 1.3构建机器学习系统的基本问题 1.3.1机器学习的基本元素 1.3.2机器学习的一些基本概念 1.4从简单示例理解机器学习 1.4.1一个简单的回归示例 1.4.2一个简单的分类示例 1.5深度学习简介 1.6本章小结 习题 第2章统计与优化基础 微课视频 168分钟 2.1概率论基础 2.1.1离散随机变量 2.1.2连续随机变量 2.1.3随机变量的统一表示 2.1.4随机变量的基本特征 2.1.5随机特征的蒙特卡洛逼近 2.2概率实例 2.2.1离散随机变量示例 2.2.2高斯分布 2.2.3指数族 2.2.4混合高斯过程 2.2.5马尔可夫过程 2.3似然估计 2.4贝叶斯估计 2.5贝叶斯决策 2.5.1机器学习中的决策 2.5.2分类的决策 2.5.3回归的决策 2.6随机变量的熵特征 2.6.1熵的定义和基本性质 2.6.2KL散度 2.7非参数方法 2.8优化技术概述 2.9本章小结 习题 第3章基本回归算法 微课视频 85分钟 3.1线性回归 3.1.1基本线性回归 3.1.2线性回归的递推学习 3.1.3多输出线性回归 3.2正则化线性回归 3.3线性基函数回归 3.4本章小结 习题 第4章基本分类算法 微课视频 86分钟
4.1基本分类问题 4.2线性判别函数模型 4.2.1Fisher线性判别分析 *4.2.2感知机 4.3逻辑回归 4.3.1二分类问题的逻辑回归 4.3.2多分类问题的逻辑回归 4.4朴素贝叶斯方法 4.5高斯生成模型分类器 4.5.1相同协方差矩阵情况的二分类 4.5.2不同协方差矩阵情况的二分类 4.5.3多分类情况 4.6本章小结 习题 第5章机器学习的性能与评估 5.1模型的训练、验证与测试 5.2机器学习模型的性能评估 5.3机器学习模型的误差分解 5.4机器学习模型的泛化性能 5.4.1假设空间有限时的泛化误差界 *5.4.2假设空间无限时的泛化误差界 5.5本章小结 习题 第二部分经典算法 第6章支持向量机与核函数方法 微课视频 90分钟 6.1线性可分的支持向量机 6.1.1不等式约束的优化 6.1.2线性可分情况SVM的原理 6.1.3线性可分情况SVM的优化解 6.2线性不可分情况的SVM 6.2.1线性不可分情况SVM的优化解 6.2.2合页损失函数 6.3非线性支持向量机 6.3.1SVM分类算法小结 6.3.2核函数方法 6.4SVM用于多分类问题 *6.5支持向量回归 6.6本章小结 习题 第7章决策树算法 微课视频 75分钟 7.1基本决策树算法 7.1.1决策树的基本结构 7.1.2信息增益和ID3算法 7.1.3信息增益率和C4.5算法 7.2CART算法 7.2.1分类树 7.2.2回归树 7.3决策树的一些实际问题 7.3.1连续数值变量 7.3.2正则化和剪枝技术 7.3.3缺失属性的训练样本问题 7.4本章小结 习题 第8章集成学习算法 微课视频 60分钟 8.1Bagging和随机森林 8.1.1自助采样和Bagging算法 8.1.2随机森林算法 8.2提升和AdaBoost算法 8.3提升树算法 8.3.1加法模型和提升树 8.3.2梯度提升树 8.4本章小结 习题 第三部分进阶方法 第9章神经网络与深度学习之一： 基础 微课视频 90分钟 9.1神经网络的基本结构 9.1.1神经元结构 9.1.2多层神经网络解决异或问题 9.1.3多层感知机 9.1.4神经网络的逼近定理 9.2神经网络的目标函数和优化 9.2.1神经网络的目标函数 9.2.2神经网络的优化 9.3误差反向传播算法 9.3.1反向传播算法的推导 9.3.2反向传播算法的向量形式 9.4神经网络学习中的一些问题 9.4.1初始化 9.4.2正则化 9.4.3几类等价正则化技术 9.5本章小结 习题 第10章神经网络与深度学习之二： 结构与优化 微课视频 180分钟 10.1卷积神经网络 10.1.1基本CNN的结构 *10.1.2卷积的一些扩展结构 *10.1.3CNN示例介绍 10.2循环神经网络 10.2.1基本RNN 10.2.2RNN的计算流程 *10.2.3RNN的扩展BP算法 10.2.4深度RNN *10.2.5长短期记忆模型 *10.2.6门控循环单元 10.3深度学习中的优化算法 10.3.1小批量SGD算法 10.3.2动量SGD算法 10.3.3自适应学习率算法 10.4深度学习训练的正则化技术 10.4.1Dropout技术 10.4.2批归一化 10.5本章小结 习题 第11章无监督学习算法 微课视频 85分钟 11.1聚类算法 11.1.1K均值聚类算法 11.1.2其他度量和聚类算法 11.2EM算法 11.2.1独立同分布情况 *11.2.2通过KL散度对EM算法的解释 11.3EM算法求解高斯混合模型参数 11.3.1GMM参数估计 11.3.2GMM的软聚类 11.4主分量分析 11.4.1主分量分析原理 11.4.2广义Hebb算法 11.5本章小结 习题 第12章强化学习 微课视频 160分钟 12.1强化学习的基本问题 12.2马尔可夫决策过程 12.2.1MDP的定义 12.2.2贝尔曼方程 12.2.3策略 12.2.4强化学习的类型 12.2.5探索与利用 12.3动态规划 12.3.1策略迭代方法 12.3.2值函数迭代方法 12.4强化学习的蒙特卡洛方法 12.4.1MC部分策略评估 12.4.2MC策略改进 12.5强化学习的时序差分方法 12.5.1基本时序差分学习和Sarsa算法 12.5.2Q学习 12.5.3DP、MC和TD算法的简单比较 12.6强化学习的值函数逼近 12.6.1基本线性值函数逼近 12.6.2深度Q网络 12.7策略梯度方法 12.7.1MC策略梯度算法Reinforce 12.7.2行动器评判器方法 *12.8多臂赌博机 12.9本章小结 习题 参考文献 附录A课程的实践型作业实例 A.1第1次实践作业 A.2第2次实践作业 A.3第3次实践作业 附录B函数对向量和矩阵的求导 视 频 名 称时长/分钟位置 ML01导论1651.1节节首
ML02导论2601.3节节首
ML03导论3601.4节节首
ML04统计基础1702.1节节首
ML05统计基础2402.5节节首
ML06统计基础3582.6节节首
ML07回归学习853.1节节首
ML08分类学习1504.1节节首
ML09分类学习2364.4节节首
ML10核与SVM906.1节节首
ML11决策树757.1节节首
ML12集成学习608.1节节首
ML13神经网络909.1节节首
ML14深度学习18010.1节节首
ML15深度学习24410.2节节首
ML16深度学习35610.3节节首
ML17无监督学习16511.1节节首
ML18无监督学习22011.4节节首
ML19强化学习19012.1节节首
ML20强化学习27012.3节节首