深度学习方法解析与实战应用

**篇 基础入门篇 第0章 人工智能概述 3 0.1 人工智能的定义与学派 3 0.1.1 人工智能定义 3 0.1.2 人工智能学派 5 0.2 人工智能简史 6 0.2.1 早期的人工智能 7 0.2.2 人工智能的波浪式前进 8 0.3 人工智能的关键支撑技术 10 0.3.1 算法——深度神经网络 11 0.3.2 数据——多源异构大数据 11 0.3.3 算力——高性能计算芯片 12 0.4 人工智能的应用与面临的挑战 13 0.4.1 人工智能应用领域 13 0.4.2 人工智能前沿 16 0.4.3 发展趋势与面临的挑战 19 0.5 国家战略与政策下的人工智能 21 0.5.1 国内政策及战略规划 21 0.5.2 国外战略与政策 23 0.6 习题 23 参考资源 24 第1章 理论基础 25 1.1 数学基础 25 1.1.1 线性代数与矩阵论 25 1.1.2 概率论与统计学 27 1.1.3 博弈论 28 1.1.4 *优化理论 28 1.2 算法基础 29 1.2.1 算法概论 30 1.2.2 数据结构 30 1.3 机器学习基础 31 1.3.1 机器学习概述 31 1.3.2 监督学习 35 1.3.3 无监督学习 35 1.3.4 强化学习 36 1.3.5 联邦学习 37 1.4 大数据基础 38 1.4.1 数据挖掘 38 1.4.2 Hadoop开源生态框架体系 39 1.5 温故知新 40 1.6 习题 41 参考资源 43 第2章 工具基础 44 2.1 编程基础 44 2.1.1 编程理论 44 2.1.2 Python基础 46 2.2 开源框架基础 53 2.2.1 Pytorch 54 2.2.2 TensorFlow框架 55 2.2.3 PaddlePaddle框架 56 2.2.4 其他框架 57 2.3 硬件基础 59 2.3.1 CPU基础 60 2.3.2 GPU基础 62 2.3.3 树莓派 62 2.4 操作系统基础 63 2.4.1 Linux简介 63 2.4.2 国产Linux操作系统 65 2.5 温故知新 66 2.6 习题 67 参考资源 68 第3章 神经网络基础 69 3.1 神经网络概述 69 3.2 神经元模型与感知机模型 70 3.2.1 MP神经元 70 3.2.2 感知机 72 3.3 多隐层前馈神经网络 73 3.3.1 网络结构 73 3.3.2 激活函数 75 3.3.3 网络训练 77 3.4 神经网络的优化方法 80 3.4.1 梯度下降法 80 3.4.2 随机梯度下降 81 3.4.3 小批量梯度下降 81 3.4.4 动量梯度下降 82 3.4.5 RMSProp 82 3.4.6 ADAM 83 3.5 神经网络的优化策略 83 3.5.1 参数初始化 83 3.5.2 正则化 85 3.5.3 Dropout 86 3.5.4 数据增强 87 3.5.5 预训练 87 3.6 深度神经网络概述 87 3.6.1 深度学习的优势 89 3.6.2 适用领域 90 3.7 温故知新 92 3.8 习题 92 参考资源 94 第二篇 方法解析篇 第4章 卷积神经网络方法解析 97 4.1 卷积神经网络概述 97 4.1.1 生物机理 98 4.1.2 拓扑结构 99 4.1.3 网络特点 100 4.2 关键方法 102 4.2.1 卷积 103 4.2.2 池化 111 4.2.3 全连接 111 4.3 常见的卷积神经网络 112 4.3.1 LeNet 112 4.3.2 AlexNet 112 4.3.3 VGGNet 114 4.3.4 GoogLeNet 114 4.3.5 ResNet 115 4.3.6 DenseNet 116 4.4 改进方向与应用领域 116 4.4.1 改进方向 116 4.4.2 应用领域 117 4.5 温故知新 118 4.6 习题 118 参考资源 119 第5章 生成式对抗网络方法解析 120 5.1 生成模型概述 120 5.2 网络模型 121 5.3 重要方法 122 5.3.1 数学原理 122 5.3.2 训练机制 125 5.3.3 训练技巧 125 5.3.4 评价指标 127 5.4 GAN的改进模型 129 5.4.1 CGAN 130 5.4.2 DCGAN 131 5.4.3 WGAN 132 5.4.4 LSGAN 133 5.4.5 PGGAN 134 5.4.6 ACGAN 136 5.4.7 BigGAN 137 5.5 改进方向与应用领域 139 5.5.1 改进方向 139 5.5.2 应用领域 140 5.5.3 研究进展 143 5.6 温故知新 144 5.7 习题 144 参考资源 145 第6章 循环神经网络方法解析 146 6.1 循环神经网络概述 146 6.2 自然语言处理 148 6.2.1 语言模型 148 6.2.2 词向量 149 6.3 循环神经网络 151 6.3.1 生物机理 151 6.3.2 网络结构 151 6.3.3 网络训练 153 6.4 循环神经网络改进 154 6.4.1 LSTM 154 6.4.2 其他改进模型 156 6.5 研究进展与应用领域 158 6.5.1 研究进展 158 6.5.2 应用领域 159 6.6 温故知新 161 6.7 习题 162 参考资源 163 第7章 深度强化学习方法解析 165 7.1 强化学习概述 165 7.2 强化学习基础 166 7.2.1 定义及相关概念 166 7.2.2 马尔可夫决策过程 169 7.3 经典强化学习 170 7.3.1 强化学习分类 170 7.3.2 Qlearning算法 172 7.3.3 存在挑战 173 7.4 深度强化学习 174 7.4.1 DQN算法 174 7.4.2 深度强化学习的改进算法 177 7.4.3 小结 179 7.5 重要应用 180 7.6 研究进展 181 7.7 温故知新 182 7.8 习题 183 参考资源 184 第三篇 实战应用篇 第8章 基于卷积神经网络的2D人体姿态估计实战 187 8.1 人体姿态估计概述 187 8.2 人体姿态估计技术回顾 188 8.2.1 单人姿态估计 189 8.2.2 多人姿态估计 191 8.3 编程实战 192 8.3.1 实验环境 192 8.3.2 数据准备 194 8.3.3 模型构建 194 8.3.4 运行测试 200 8.4 温故知新 200 参考资源 201 第9章 利用深度强化学习玩游戏实战 202 9.1 实战背景 202 9.1.1 深度强化学习在游戏领域的应用 202 9.1.2 Gym介绍 203 9.2 深度强化学习技术回顾 204 9.3 编程实战 206 9.3.1 基于Pytorch的游戏实战 207 9.3.2 基于策略梯度进行TensorFlow实战 211 9.4 温故知新 215 参考资源 216 第10章 面向边缘智能的人群数量计算实战 217 10.1 实战背景 217 10.1.1 人群数量计算 217 10.1.2 边缘智能 219 10.2 目标检测技术回顾 220 10.2.1 目标检测 220 10.2.2 人脸检测 222 10.2.3 面向边缘智能的人群数量计算系统整体流程设计 223 10.3 编程实战 225 10.3.1 基于YOLO V3的目标检测 225 10.3.2 基于CenterFace的人脸检测 229 10.4 温故知新 232 参考资源 233 第11章 边缘计算场景下智能垃圾分类实战 234 11.1 实战背景 234 11.1.1 垃圾分类 234 11.1.2 边缘计算发展 235 11.2 相关技术梳理 237 11.2.1 智能语音识别 237 11.2.2 垃圾图像分类 238 11.2.3 基于边缘计算的智能垃圾分类系统整体流程 240 11.3 编程实战 242 11.3.1 智能语音识别 242 11.3.2 垃圾图像分类 245 11.4 温故知新 247 参考资源 249 第12章 基于生成式对抗网络的图像“魔术” 250 12.1 实战背景 250 12.1.1 GAN在图像翻译中的应用 250 12.1.2 GAN在图像生成中的应用 251 12.2 生成式对抗网络技术回顾 253 12.3 编程实战 256 12.3.1 基于TensorFlow的CycleGAN 257 12.3.2 基于Pytorch的DCGAN 267 12.4 温故知新 272 参考资源 273 附录1 Linux指令 274 附录2 BP算法推导 278 参考文献 282