速通机器学习

第1章　数据的量化和特征提取 1
1.1　机器学习概述 1
1.2　特征提取 2
1.3　向量距离计算 6
第2章　线性回归 12
2.1　线性回归的基本概念 13
2.2　损失函数和梯度下降法 14
2.3　训练集和测试集 19
2.4　多项式回归 21
2.5　线性回归的高级技巧 23
2.5.1　特征敏感性研究 23
2.5.2　损失函数的选择 24
第3章　逻辑回归 27
3.1　逻辑回归的基本原理 28
3.2　交叉熵和KL距离 32
3.2.1　KL距离 32
3.2.2　梯度下降法 34
3.2.3　上采样和下采样 36
3.3　线性不可分及其解决方案 38
3.4　L1正则和L2正则 39
3.5　分类模型的评价标准 43
3.6　逻辑回归的特征提升技巧 47
3.6.1　特征归一化 47
3.6.2　特征分段 49
3.7　深入理解损失函数和逻辑函数 51
第4章　因子分解模型 55
4.1　基本原理和特征交叉 55
4.1.1　基本原理 55
4.1.2　特征交叉简化 58
4.1.3　参数学习 59
4.2　因子分解模型和矩阵分解 61
第5章　经典分类模型 63
5.1　支持向量机 63
5.1.1　支持向量机的基本原理 63
5.1.2　支持向量机和逻辑回归的比较 68
5.2　核方法 70
5.2.1　核函数 70
5.2.2　核函数在支持向量机中的应用 72
5.3　朴素贝叶斯 73
5.3.1　朴素贝叶斯原理 73
5.3.2　朴素贝叶斯的参数估计 76
5.4　维数灾难 78
5.5　奥卡姆剃刀定律的应用 82
5.6　经验风险、期望风险和结构风险 83
第6章　无监督学习 85
6.1　K-Means聚类 86
6.1.1　K-Means算法的基本原理 86
6.1.2　改进型K-Means算法 88
6.1.3　K-Means算法和逻辑回归的结合应用 91
6.2　主题模型 92
6.2.1　LDA模型的原理 93
6.2.2　LDA模型的训练 95
第7章　集成学习 100
7.1　决策树 100
7.2　随机森林 105
7.3　GBDT 108
第8章　深度神经网络 113
8.1　BP神经网络的基本原理 113
8.2　多分类与Softmax函数 118
8.3　梯度下降法和链式法则 120
8.4　度量学习 125
第9章　神经网络调优 130
9.1　激活函数选型 131
9.2　权重初始化 135
9.3　改进型梯度下降法 137
9.3.1　随机梯度下降法 138
9.3.2　鞍点问题 141
9.3.3　梯度下降法的优化 142
9.4　过拟合解决方案 145
9.4.1　正则化 145
9.4.2　Dropout 146
9.4.3　提前终止 147
9.4.4　批标准化和层标准化 148
9.4.5　Shortcut 151
9.4.6　标签平滑 151
9.4.7　人工制造数据 152
第10章　自然语言处理 154
10.1　自然语言处理模型 154
10.2　one-hot编码和embedding技术 156
10.3　哈夫曼树和负采样 161
10.3.1　哈夫曼树 161
10.3.2　负采样 163
10.4　Word2vec的应用 165
10.5　fastText模型的原理及应用 166
第11章　卷积神经网络 169
11.1　卷积层和池化层 169
11.2　卷积神经网络在图像处理中的应用 177
11.3　卷积神经网络中的批标准化 179
11.4　TextCNN的原理及应用 180
第12章　深入卷积层 185
12.1　1 × 1卷积 185
12.2　小尺寸卷积 186
12.3　宽度卷积和Inception 187
12.4　Depthwise卷积和Pointwise卷积 189
12.5　特征通道加权卷积 193
第13章　循环神经网络和LSTM模型 196
13.1　循环神经网络模型详解 196
13.1.1　循环神经网络的基本原理 196
13.1.2　循环神经网络存在的一些问题 199
13.2　LSTM模型详解 202
13.3　LSTM模型的改进和应用 206
13.4　CTC算法 208
第14章　Attention模型和Transformer模型 210
14.1　Attention模型详解 210
14.1.1　注意力机制的基本原理 210
14.1.2　Attention模型概述 212
14.1.3　Attention模型的改进形式 214
14.1.4　Self-Attention模型 215
14.1.5　Multi-Head Attention模型 217
14.2　Transformer模型原理 219
14.3　BERT模型及应用 221