博文视点AI系列TENSORFLOW进阶指南:基础.算法与应用

第1章 人工智能与深度学习 1

1.1 人工智能与机器学习 1

1.2 无处不在的深度学习 6

1.3 如何入门深度学习 7

1.4 主流深度学习框架介绍 13

第2章 搭建TensorFlow环境 15

2.1 基于pip安装 15

2.1.1 基于Windows环境安装TensorFlow 15

2.1.2 基于Linux环境安装TensorFlow 22

2.2 基于Java安装TensorFlow 24

2.3 安装TensorFlow的常用依赖模块 27

2.4 Hello TensorFlow 30

2.4.1 MNIST数据集 30

2.4.2 编写训练程序 32

2.5 小结 35

第3章 TensorFlow基础 36

3.1 TensorFlow的系统架构 36

3.1.1 Client 37

3.1.2 Distributed Master 38

3.1.3 Worker Service 39

3.1.4 Kernel Implements 39

3.2 TensorFlow的数据结构——张量 39

3.2.1 什么是张量 39

3.2.2 张量的阶 40

3.2.3 张量的形状 40

3.2.4 数据类型 41

3.3 TensorFlow的计算模型——图 42

3.3.1 计算图基础 42

3.3.2 计算图的组成 43

3.3.3 计算图的使用 45

3.3.4 小结 48

3.4 TensorFlow中的会话——Session 48

第4章 TensorFlow中常用的激活函数与神经网络 50

4.1 激活函数的概念 50

4.2 常用的激活函数 51

4.2.1 Sigmoid函数 51

4.2.2 Tanh函数 53

4.2.3 ReLU函数 55

4.2.4 Softplus函数 57

4.2.5 Softmax函数 58

4.2.6 小结 59

4.3 损失函数的概念 60

4.4 损失函数的分类 63

4.5 常用的损失函数 65

4.5.1 0-1损失函数 65

4.5.2 Log损失函数 66

4.5.3 Hinge损失函数 69

4.5.4 指数损失 70

4.5.5 感知机损失 70

4.5.6 平方（均方）损失函数 71

4.5.7 绝对值损失函数 71

4.5.8 自定义损失函数 71

4.6 正则项 72

4.6.1 L0范数和L1范数 72

4.6.2 L2范数 73

4.6.3 核范数 74

4.7 规则化参数 76

4.8 易混淆的概念 76

4.9 神经网络的优化方法 77

4.9.1 梯度下降算法 77

4.9.2 随机梯度下降算法 79

4.9.3 其他的优化算法 80

4.9.4 小结 84

4.10 生成式对抗网络（GAN） 84

4.10.1 CGAN 96

4.10.2 DCGAN 97

4.10.3 WGAN 98

4.10.4 LSGAN 99

4.10.5 BEGAN 100

第5章 卷积神经网络 102

5.1 神经网络简介 102

5.1.1 神经元与神经网络 102

5.1.2 感知器（单层神经网络）与多层感知器 104

5.2 图像识别问题 108

5.3 常用的图像库介绍 111

5.4 卷积神经网络简介 114

5.4.1 CNN的基本原理与卷积核 115

5.4.2 池化 116

5.4.3 再探ReLU 118

5.5 CNN模型 119

5.5.1 LeNet-5模型 119

5.5.2 AlexNet模型 123

5.5.3 Inception模型 130

5.6 用CNN实现MNIST训练 147

第6章 循环神经网络 152

6.1 初识循环神经网络 152

6.1.1 前馈神经网络 153

6.1.2 神经网络中的时序信息 159

6.2 详解循环神经网络 160

6.3 RNN的变种——双向RNN 163

6.4 One-Hot Encoding 166

6.5 词向量和word2vec 167

6.5.1 CBOW模型 168

6.5.2 Skip-Gram模型 169

6.6 梯度消失问题和梯度爆炸问题 170

6.6.1 梯度下降 171

6.6.2 解决梯度消失和梯度爆炸问题的方法 173

6.7 RNN的变种——LSTM 180

6.8 写诗机器人 190

第7章 TensorFlow的可视化 197

7.1 TensorBoard简介 197

7.2 生成和使用TensorBoard 201

7.3 TensorBoard的面板展示 209

7.4 小结 224

第8章 TensorFlow中的数据操作 225

8.1 制作TFRecords数据集 225

8.2 Dataset API介绍 231

8.3 TensorFlow中的队列 234

第9章 支持向量机（SVM） 241

9.1 什么是支持向量机 241

9.2 计算*优超平面 243

9.3 TensorFlow实现线性SVM 244

9.4 非线性SVM介绍 248

9.5 使用TensorFlow实现非线性SVM分类器 251

第10章 TensorFlow结合Flask发布MNIST模型 259

10.1 Flask框架介绍 259

10.2 训练MNIST模型 260

10.3 小结 276

第11章 TensorFlow模型的发布与部署 277

11.1 TensorFlow Serving的前导知识 277

11.2 TensorFlow Serving 模型打包 281

11.3 TensorFlow Serving模型的部署和调用 285

第12章 TensorFlow Lite牛刀小试 286

12.1 什么是TensorFlow Lite 286

12.2 如何使用TensorFlow Lite模型 288

12.3 TensorFlow Lite与Android结合实现图像识别 291

第13章 TensorFlow GPU 297

13.1 什么是GPU 297

13.2 GPU的选择 298

13.3 搭建TensorFlow GPU 300

13.3.1 在Windows上搭建TensorFlow GPU 300

13.3.2 在Linux上搭建TensorFlow GPU 308

13.4 使用TensorFlow GPU进行训练 312

第14章 TensorFlow与目标检测 318

14.1 传统目标检测方法 318

14.2 RCNN介绍 320

14.3 Fast-RCNN 322

14.4 Faster-RCNN 326

14.5 YOLO 329

附录A TensorFlow历代版本更新内容 355

A.1 TensorFlow 1.3版本更新内容 355

A.2 TensorFlow 1.4版本更新内容 356

A.3 TensorFlow 1.5版本更新内容 357

A.4 TensorFlow 1.6版本更新内容 357

A.5 TensorFlow 1.7版本更新内容 358

A.6 TensorFlow 1.8版本更新内容 358

A.7 TensorFlow 1.9版本更新内容 359