包邮机器学习

第1章机器学习概述微课视频146分钟1.1什么是机器学习1.2机器学习的分类1.2.1基本分类1.2.2监督学习及其功能分类1.3构建机器学习系统1.3.1机器学习的基本元素1.3.2机器学习的基本概念1.4通过简单示例理解机器学习1.4.1一个简单的回归示例1.4.2一个简单的分类示例1.5深度学习本章小结第1章机器学习概述 微课视频146分钟 1.1什么是机器学习 1.2机器学习的分类 1.2.1基本分类 1.2.2监督学习及其功能分类 1.3构建机器学习系统 1.3.1机器学习的基本元素 1.3.2机器学习的基本概念 1.4通过简单示例理解机器学习 1.4.1一个简单的回归示例 1.4.2一个简单的分类示例 1.5深度学习 本章小结 本章习题 第2章统计与优化基础 微课视频129分钟 2.1概率基础 2.1.1离散随机变量 2.1.2连续随机变量 2.1.3随机变量的基本特征 2.1.4随机特征的蒙特卡洛逼近 2.2概率实例 2.2.1离散随机变量示例 2.2.2高斯分布 2.2.3指数族 2.2.4高斯混合过程 2.2.5马尔可夫过程 2.3*大似然估计 2.4贝叶斯估计——*大后验估计 2.5随机变量的熵特征 2.5.1熵的定义和基本性质 2.5.2KL散度、互信息和负熵 2.6非参数方法 2.7优化技术 2.7.1基本优化算法 2.7.2拉格朗日方法 本章小结 本章习题 第3章贝叶斯决策 微课视频39分钟 3.1机器学习中的决策 3.2分类的决策 3.2.1加权错误率准则 3.2.2拒绝判决 3.3回归的决策 3.4高斯情况下的分类决策 3.4.1相同协方差矩阵情况的二分类 3.4.2不同协方差矩阵情况的二分类 3.4.3多分类情况 3.5KNN方法 *3.6概率图模型 3.6.1贝叶斯网络 3.6.2无向图模型 3.6.3图模型的学习与推断 本章小结 本章习题 第4章基本回归和分类算法 微课视频158分钟 4.1线性回归 4.1.1基本线性回归 4.1.2线性回归的递推学习 4.1.3正则化线性回归 4.1.4多输出线性回归 *4.2稀疏线性回归Lasso 4.2.1Lasso的循环坐标下降算法 4.2.2Lasso的LAR算法 4.3线性基函数回归 4.4基本分类问题 4.5线性判别函数模型 4.5.1Fisher线性判别分析 *4.5.2感知机 4.6逻辑回归 4.6.1二分类问题的逻辑回归 4.6.2多分类问题的逻辑回归 4.7朴素贝叶斯方法 本章小结 本章习题 第5章机器学习流程、评价和性能界 微课视频90分钟 5．1机器学习流程 5．1．1机器学习基本流程 5．1．2数据清洗和数据预处理 5．1．3模型的训练、验证与测试 5．1．4特征工程 5．1．5样本不平衡 5．2机器学习模型的性能评估 5．3机器学习模型的误差分解 5．4机器学习模型的泛化性能 5．4．1假设空间有限时的泛化误差界 *5．4．2假设空间无限时的泛化误差界 本章小结 本章习题 第6章支持向量机与核函数方法 微课视频91分钟 6.1线性支持向量机 6.1.1不等式约束的优化 6.1.2线性可分情况的SVM 6.1.3不可分情况的SVM 6.1.4合页损失函数 6.1.5SVM用于多分类问题 6.2非线性支持向量机 6.2.1SVM分类算法小结 *6.2.2SMO算法 6.3支持向量回归 *6.4核函数方法 本章小结 本章习题 第7章决策树 微课视频75分钟 7.1基本决策树算法 7.1.1决策树的基本结构 7.1.2信息增益和ID3算法 7.1.3信息增益率和C4.5算法 7.2CART算法 7.2.1分类树 7.2.2回归树 7.3决策树的一些实际问题 7.3.1连续数值变量 7.3.2正则化和剪枝技术 7.3.3缺失属性的训练样本问题 本章小结 本章习题 第8章集成学习 微课视频63分钟 8.1Bagging和随机森林 8.1.1自助采样和Bagging算法 8.1.2随机森林算法 8.2提升和AdaBoost算法 8.2.1AdaBoost算法介绍 *8.2.2AdaBoost算法分析 8.3提升树算法 8.3.1加法模型和提升树 8.3.2梯度提升树 本章小结 本章习题 第9章神经网络与深度学习之一： 基础 微课视频94分钟 9.1神经网络的基本结构 9.1.1神经元结构 9.1.2多层神经网络解决异或问题 9.1.3多层感知机 9.1.4神经网络的逼近定理 9.2神经网络的目标函数和优化 9.2.1神经网络的目标函数 9.2.2神经网络的优化 9.3误差反向传播算法 9.3.1反向传播算法的推导 9.3.2反向传播算法的向量形式 9.3.3反向传播算法的扩展 9.4神经网络学习中的一些问题 9.4.1初始化 9.4.2正则化 9.4.3几类等价正则化技术 本章小结 本章习题 第10章神经网络与深度学习之二： 结构 微课视频123分钟 10.1卷积神经网络 10.1.1卷积运算及其物理意义 10.1.2基本CNN的结构 10.1.3CNN的参数学习 *10.1.4卷积的一些扩展结构 *10.1.5CNN示例介绍 10.2循环神经网络 10.2.1基本RNN 10.2.2RNN的计算和训练 *10.2.3长短期记忆模型 *10.2.4门控循环单元 本章小结 本章习题 第11章神经网络与深度学习之三： 扩展 微课视频174分钟 11.1深度学习中的优化算法 11.1.1小批量SGD算法 11.1.2动量SGD算法 11.1.3自适应学习率算法 11.2深度学习训练的正则化技术 11.2.1Dropout技术 11.2.2批归一化 *11.2.3层归一化 *11.3对抗训练 *11.4自编码器 11.4.1自编码器的基本结构 11.4.2自编码器的一些扩展 *11.5注意力机制和Transformer 11.5.1注意力机制 11.5.2序列到序列模型 11.5.3Transformer *11．6预训练技术和模型实例 11．6．1GPT模型 11．6．2BERT模型 本章小结 本章习题 第12章聚类和EM算法 微课视频65分钟 12.1聚类算法 12.1.1K均值聚类算法 12.1.2DBSCAN聚类算法 12.1.3其他度量和聚类算法 12.2EM算法 12.2.1EM算法的隐变量形式 12.2.2独立同分布情况 *12.2.3EM算法扩展到MAP估计 *12.2.4通过KL散度对EM算法的解释 12.3基于EM算法的高斯混合模型参数估计 12.3.1GMM参数估计 12.3.2GMM的软聚类 本章小结 本章习题 第13章降维和连续隐变量学习 微课视频20分钟 13.1主分量分析 13.1.1主分量分析原理 13.1.2广义Hebb算法 *13.2样本向量的白化和正交化 13.2.1样本向量的白化 13.2.2向量集的正交化 *13.3独立分量分析 13.3.1独立分量分析的原理和目标函数 13.3.2不动点算法FastICA 13.3.3自然梯度算法 13.3.4仿真实验举例 本章小结 本章习题 第14章强化学习之一： 经典方法 微课视频178分钟 14.1强化学习的基本问题 14.2马尔可夫决策过程 14.2.1MDP的定义 14.2.2贝尔曼方程 14.2.3*优策略 14.2.4强化学习的类型 14.2.5探索与利用 14.3动态规划 14.3.1策略迭代方法 14.3.2值函数迭代方法 14.4强化学习的蒙特卡洛方法 14.4.1MC部分策略评估 14.4.2MC策略改进 14.4.3在轨策略和离轨策略 14.5强化学习的时序差分方法 14.5.1基本时序差分学习和Sarsa算法 14.5.2离轨策略和Q学习 14.5.3DP、MC和TD算法的简单比较 *14.5.4多步时序差分学习和资格迹算法 *14.6多臂赌博机 本章小结 本章习题 第15章强化学习之二： 深度强化学习 15.1强化学习的值函数逼近 15.1.1基本线性值函数逼近 *15.1.2线性值函数逼近的*小二乘策略迭代算法 15.1.3深度Q网络 15.2策略梯度方法 15.2.1MC策略梯度算法Reinforce 15.2.2行动器评判器方法 *15.3连续动作确定性策略梯度方法 15.3.1DPG算法 15.3.2DDPG算法 15.3.3连续动作DRL的一些进展概述 *15．4深度强化学习的应用实例 15．4．1AlphaGo 15．4．2Suphx 15．4．3DRL在无人机自主导航中的应用 本章小结 本章习题 第16章深度生成模型 微课视频203分钟 16．1深度生成模型概述 16．2生成对抗网络 16．2．1基本的生成对抗网络 *16．2．2改进生成对抗网络的目标函数 *16．2．3改进生成对抗网络的结构 16．3变分自编码器 16．3．1变分自编码器原理 16．3．2变分自编码器训练算法 16．4深度扩散模型 16．4．1前向和反向过程 16．4．2扩散模型的目标函数 16．4．3扩散模型训练算法和实现实例 *16．4．4扩散模型与评分网络的关系和其他扩展 *16．5归一流模型 本章小结 本章习题 附录A课程的实践型作业实例 A.1第1次实践作业 A.2第2次实践作业 A.3第3次实践作业 附录B函数对向量和矩阵的求导 附录C术语表 参考文献 视频目录 视 频 名 称时长/min位置 第1集导论1651.1节 第2集导论2311.3节 第3集导论3501.4节 第4集统计基础1712.1节 第5集统计基础2582.5节 第6集决策论393.1节 第7集回归学习714.1节 第8集分类学习1514.4节 第9集分类学习2364.7节 第10集流程和评估905.1节 第11集核与SVM916.1节 第12集决策树757.1节 第13集集成学习638.1节 第14集神经网络949.1节 第15集深度学习17810.1节 第16集深度学习24510.2节 第17集深度学习33711.1节 第18集深度学习46811.4节 第19集深度学习56911.5.2节 第20集无监督学习16512.1节 第21集无监督学习22013.1节 第22集强化学习19514.1节 第23集强化学习28314.3节 第24集深度生成模型15316.1节 第25集深度生成模型24816.3节 第26集深度生成模型310216.4节