机器学习算法竞赛实战

目　　录
第 1 章　初见竞赛 1
1．1　竞赛平台 2
1．1．1　Kaggle 2
1．1．2　天池 6
1．1．3　DF 7
1．1．4　DC 7
1．1．5　Kesci 7
1．1．6　JDATA 8
1．1．7　企业网站 8
1．2　竞赛流程 8
1．2．1　问题建模 8
1．2．2　数据探索 9
1．2．3　特征工程 9
1．2．4　模型训练 9
1．2．5　模型融合 10
1．3　竞赛类型 10
1．3．1　数据类型 10
1．3．2　任务类型 11
1．3．3　应用场景 11
1．4　思考练习 11
第 2 章　问题建模 12
2．1　赛题理解 12
2．1．1　业务背景 12
2．1．2　数据理解　 14
2．1．3　评价指标 14
2．2　样本选择 20
2．2．1　主要原因 20
2．2．2　准确方法 22
2．2．3　应用场景 23
2．3　线下评估策略 24
2．3．1　强时序性问题 24
2．3．2　弱时序性问题 24
2．4　实战案例 25
2．4．1　赛题理解 26
2．4．2　线下验证 27
2．5　思考练习 28
第3 章　数据探索 29
3．1　数据初探 29
3．1．1　分析思路 29
3．1．2　分析方法 30
3．1．3　明确目的 30
3．2　变量分析 32
3．2．1　单变量分析 33
3．2．2　多变量分析 37
3．3　模型分析 39
3．3．1　学习曲线 39
3．3．2　特征重要性分析 40
3．3．3　误差分析 41
3．4　思考练习 42
第4 章　特征工程 43
4．1　数据预处理 43
4．1．1　缺失值处理 44
4．1．2　异常值处理 45
4．1．3　优化内存 46
4．2　特征变换 47
4．2．1　连续变量无量纲化 47
4．2．2　连续变量数据变换 48
4．2．3　类别特征转换 50
4．2．4　不规则特征变换 50
4．3　特征提取 51
4．3．1　类别相关的统计特征 51
4．3．2　数值相关的统计特征 53
4．3．3　时间特征 53
4．3．4　多值特征 54
4．3．5　小结 55
4．4　特征选择 55
4．4．1　特征关联性分析 55
4．4．2　特征重要性分析 57
4．4．3　封装方法 57
4．4．4　小结 58
4．5　实战案例 59
4．5．1　数据预处理　 59
4．5．2　特征提取 60
4．5．3　特征选择 61
4．6　练习 62
第5 章　模型选择 63
5．1　线性模型 63
5．1．1　Lasso 回归 63
5．1．2　Ridge 回归 64
5．2　树模型 64
5．2．1　随机森林 65
5．2．2　梯度提升树 66
5．2．3　XGBoost 67
5．2．4　LightGBM 68
5．2．5　CatBoost 69
5．2．6　模型深入对比 70
5．3　神经网络 73
5．3．1　多层感知机 74
5．3．2　卷积神经网络 75
5．3．3　循环神经网络 77
5．4　实战案例 79
5．5　练习 80
第6 章　模型融合 81
6．1　构建多样性 81
6．1．1　特征多样性 81
6．1．2　样本多样性 82
6．1．3　模型多样性 82
6．2　训练过程融合 83
6．2．1　Bagging 83
6．2．2　Boosting 83
6．3　训练结果融合 84
6．3．1　加权法 84
6．3．2　Stacking 融合 86
6．3．3　Blending 融合 87
6．4　实战案例 88
6．5　练习 90
第7 章　用户画像 91
7．1　什么是用户画像 92
7．2　标签系统 92
7．2．1　标签分类方式 92
7．2．2　多渠道获取标签 93
7．2．3　标签体系框架 94
7．3　用户画像数据特征 95
7．3．1　常见的数据形式 95
7．3．2　文本挖掘算法 97
7．3．3　神奇的嵌入表示 98
7．3．4　相似度计算方法 101
7．4　用户画像的应用　 103
7．4．1　用户分析　 103
7．4．2　精准营销 104
7．4．3　风控领域 105
7．5　思考练习 106
第8 章　实战案例：Elo Merchant Category Recommendation（Kaggle） 107
8．1　赛题理解 107
8．1．1　赛题背景 107
8．1．2　赛题数据 108
8．1．3　赛题任务 108
8．1．4　评价指标 109
8．1．5　赛题FAQ 109
8．2　探索性分析 109
8．2．1　字段类别含义 110
8．2．2　字段取值状况 111
8．2．3　数据分布差异 112
8．2．4　表格关联关系 115
8．2．5　数据预处理 115
8．3　特征工程 116
8．3．1　通用特征 116
8．3．2　业务特征 117
8．3．3　文本特征 118
8．3．4　特征选择 119
8．4　模型训练 119
8．4．1　随机森林 119
8．4．2　LightGBM 121
8．4．3　XGBoost 124
8．5　模型融合 127
8．5．1　加权融合 127
8．5．2　Stacking 融合 127
8．6　高效提分 128
8．6．1　特征优化 128
8．6．2　融合技巧 130
8．7　赛题总结 134
8．7．1　更多方案 134
8．7．2　知识点梳理 135
8．7．3　延伸学习 135
第9 章　时间序列分析 138
9．1　介绍时间序列分析 138
9．1．1　简单定义 138
9．1．2　常见问题 139
9．1．3　交叉验证 140
9．1．4　基本规则方法 141
9．2　时间序列模式 142
9．2．1　趋势性 142
9．2．2　周期性 143
9．2．3　相关性 144
9．2．4　随机性 144
9．3　特征提取方式 144
9．3．1 历史平移 145
9．3．2　窗口统计 145
9．3．3　序列熵特征 145
9．3．4　其他特征 146
9．4　模型的多样性 146
9．4．1　传统的时序模型 147
9．4．2　树模型 147
9．4．3　深度学习模型 148
9．5　练习 150
第 10 章　实战案例：全球城市计算AI挑战赛 151
10．1　赛题理解 151
10．1．1　背景介绍 152
10．1．2　赛题数据 152
10．1．3　评价指标 153
10．1．4　赛题FAQ 153
10．1．5　baseline 方案 153
10．2　探索性数据分析 157
10．2．1　数据初探 157
10．2．2　模式分析 159
10．3　特征工程 162
10．3．1　数据预处理 162
10．3．2　强相关性特征 163
10．3．3　趋势性特征 165
10．3．4　站点相关特征 165
10．3．5　特征强化 166
10．4　模型选择 166
10．4．1　LightGBM 模型 167
10．4．2　时序模型 168
10．5　强化学习 170
10．5．1　时序stacking 170
10．5．2　Top 方案解析 171
10．5．3　相关赛题推荐　 172
第 11 章　实战案例-Corporación Favorita Grocery Sales Forecasting 174
11．1　赛题理解 174
11．1．1　背景介绍 174
11．1．2　赛题数据 175
11．1．3　评价指标 175
11．1．4　赛题FAQ 176
11．1．5　baseline 方案 176
11．2　探索性数据分析 181
11．2．1 数据初探 181
11．2．2　单变量分析 184
11．2．3　多变量分析 188
11．3　特征工程 190
11．3．1　历史平移特征 191
11．3．2　窗口统计特征 192
11．3．3　构造粒度多样性 193
11．3．4　高效特征选择 194
11．4　模型选择 195
11．4．1　LightGBM 模型 196
11．4．2　LSTM 模型 196
11．4．3　Wavenet 模型 198
11．4．4　模型融合 199
11．5　赛题总结 200
11．5．1　更多方案 200
11．5．2　知识点梳理 201
11．5．2　延伸学习 202
第 12 章　计算广告 204
12．1　什么是计算广告 204
12．1．1　主要问题 205
12．1．2　计算广告系统架构 205
12．2　广告类型 207
12．2．1　合约广告 207
12．2．2　竞价广告 207
12．2．3　程序化交易广告 208
12．3　广告召回 208
12．3．1　广告召回模块 208
12．3．2　DSSM 语义召回 210
12．4　广告排序 211
12．4．1　点击率预估 211
12．4．2　特征处理 212
12．4．3　常见模型 214
12．5　广告竞价 219
12．6　小结 221
12．7　思考练习 221
第 13 章　实战案例：2018 腾讯广告算法大赛——相似人群拓展 222
13．1　赛题理解 222
13．1．1　赛题背景 223
13．1．2　赛题数据 224
13．1．3　赛题任务 226
13．1．4　评价指标 226
13．1．5　赛题FAQ 227
13．2　探索性数据分析 227
13．2．1　竞赛的公开数据集 227
13．2．2　训练集与测试集 227
13．2．3　广告属性 229
13．2．4　用户信息 229
13．2．5　数据集特征拼接 230
13．2．6　基本建模思路 232
13．3　特征工程 232
13．3．1　经典特征 232
13．3．2　业务特征 234
13．3．3　文本特征 235
13．3．4　特征降维 237
13．3．5　特征存储 238
13．4　模型训练 238
13．4．1　LightGBM 238
13．4．2　CatBoost　 238
13．4．3　XGBoost 239
13．5　模型融合 239
13．5．1　加权融合 239
13．5．2　Stacking 融合 239
13．6　赛题总结 240
13．6．1　更多方案 240
13．6．2　知识点梳理 241
13．6．3　延伸学习 241
第 14 章　实战案例-TalkingData AdTracking Fraud DetectionChallenge 243
14．1　赛题理解 243
14．1．1　背景介绍 243
14．1．2　赛题数据 244
14．1．3　评价指标 244
14．1．4　赛题FAQ 244
14．1．5　baseline 方案 245
14．2　探索性数据分析 247
14．2．1 数据初探 247
14．2．2　单变量分析 249
14．2．3　多变量分析 254
14．2．4　数据分布 255
14．3　特征工程 256
14．3．1　统计特征 256
14．3．2　时间差特征 257
14．3．3　排序特征 258
14．3．4　目标编码特征 258
14．4　模型选择 259
14．4．1　LR 模型 259
14．4．2　CatBoost 模型 259
14．4．3　LightGBM 模型 260
14．4．4　DeepFM 模型 261
14．5　赛题总结 264
14．5．1　更多方案 264
14．5．2　知识点梳理 265
14．5．3　延伸学习 266
第 15 章　自然语言处理 268
15．1　自然语言处理的发展历程 268
15．2　自然语言处理的常见场景 269
15．2．1　分类、回归任务 269
15．2．2　信息检索、文本匹配等任务 269
15．2．3　序列对序列、序列标注 269
15．2．4　机器阅读 270
15．3　自然语言处理的常见技术 270
15．3．1　基于词袋模型、TF-IDF．的特征提取 270
15．3．2　N-Gram 模型 271
15．3．3　词嵌入模型 271
15．3．5　上下文相关预训练模型 272
15．3．6　常用的深度学习模型结构 274
15．4　练习 276
第 16 章　实战案例：Quora QuestionPairs 277
16．1　赛题理解 277
16．1．1　赛题背景 277
16．1．2　赛题数据 278
16．1．3　赛题任务 278
16．1．4　评价指标 278
16．1．5　赛题FAQ 278
16．2　探索性数据分析 279
16．2．1　字段类别含义 279
16．2．2　数据集基本量 279
16．2．3　文本的分布 280
16．2．4　词的数量与词云分析 282
16．2．5　基于传统手段的文本数据预处理 284
16．2．6　基于深度学习模型的文本数据预处理 284
16．3　特征工程 285
16．3．1　通用文本特征 285
16．3．2　相似度特征 287
16．3．3　词向量的进一步应用——独有词匹配 290
16．3．4　词向量的进一步应用——词与词的两两匹配 290
16．3．5　其他相似度计算方式 291
16．4　机器学习模型和模型的训练 291
16．4．1　TextCNN 模型 291
16．4．2　TextLSTM 模型 292
16．4．3　TextLSTM with Attention 模型 293
16．4．4　Self-Attention 层 295
16．4．5　Transformer 和BERT 类模型 296
16．4．6　基于 representation 和基于 interaction 的深度学习模型的差异 298
16．4．7　一种特殊的基于 interaction 的深度学习模型 303
16．4．8　深度学习文本数据的翻译增强 303
16．4．9　深度学习文本数据的预处理 304
16．4．10　BERT 模型的训练 306
16．5　模型融合 310
16．6　赛题总结 310
16．6．1　更多方案 310
16．6．2　知识点梳理 310
16．6．3　延伸学习 311