深度学校及实践

目录 第1章人工智能简介 1.1什么是人工智能 1.2AlphaGo的原理简介 1.2.1MCTS算法 1.2.2AlphaGo的基本原理 1.3什么是深度学习 1.4深度学习的方法 1.5TensorFlow是什么 1.5.1TensorFlow的特点 1.5.2TensorFlow的使用公司和使用对象 1.5.3为什么Google要开源这个神器 1.6其他深度学习框架 1.7小结 1.8习题 第2章TensorFlow环境搭建 2.1安装环境介绍 2.1.1CUDA简介 2.1.2cuDNN简介 2.1.3查看GPU信息 2.2安装TensorFlow 2.2.1下载TensorFlow 2.2.2基于pip的安装 2.2.3基于Java的安装 2.2.4从源代码安装 2.3其他模块 2.3.1numpy模块 2.3.2matplotlib模块 2.3.3jupyter模块 2.3.4scikitimage模块 2.3.5librosa模块 2.3.6nltk模块 2.3.7keras模块 2.3.8tflearn模块 2.4文本编辑器 2.4.1Geany 2.4.2Sublime Text 2.4.3IDLE 2.4.4PyCharm 2.5TensorFlow测试样本 2.6小结 2.7习题 第3章TensorFlow可视化 3.1PlayGround 3.1.1数据 3.1.2特征 3.1.3隐藏层 3.1.4输出 3.2TensorBoard 3.3TensorBoard代码 3.4小结 3.5习题 第4章TensorFlow基础知识 4.1张量 4.1.1张量的属性 4.1.2张量的创建 4.1.3TensorFlow的交互式运行 4.2数据流图 4.3操作 4.4会话 4.5变量 4.5.1初始化 4.5.2形变 4.5.3数据类型与维度 4.5.4其他操作 4.5.5共享变量 4.6矩阵的创建与操作 4.7模型的保存与读取 4.7.1保存模型 4.7.2载入模型 4.7.3从磁盘读取信息 4.8批标准化 4.9使用GPU 4.9.1指定GPU设备 4.9.2指定GPU的显存占用 4.10神经元函数 4.10.1激活函数 4.10.2卷积函数 4.10.3分类函数 4.11优化方法 4.12队列与线程 4.12.1队列 4.12.2队列管理器 4.12.3线程和协调器 4.13读取数据源 4.13.1placeholder填充数据 4.13.2文件读入数据 4.13.3预先读入内存方式 4.14创建分类器 4.15小结 4.16习题 第5章TensorFlow聚类分析 5.1无监督学习 5.2聚类的概念 5.3k均值聚类算法 5.3.1k均值聚类算法迭代判据 5.3.2k均值聚类算法的机制 5.3.3k均值聚类算法的优缺点 5.3.4k均值聚类算法的实现 5.4k*近邻算法 5.4.1实例分析 5.4.2k*近邻算法概述 5.4.3模型和三要素 5.4.4kNN算法的不足 5.5k均值聚类算法的典型应用 5.5.1实例： 对人工数据集使用k均值聚类算法 5.5.2实例： 对人工数据集使用k*近邻算法 5.5.3实例： 对图像识别使用k*近邻算法 5.6小结 5.7习题 第6章TensorFlow回归分析 6.1求逆矩阵 6.2矩阵分解 6.3实例： TensorFlow实现线性回归算法 6.4选择损失函数 6.4.1*小化损失函数 6.4.2实例： TensorFlow实现线性回归损失函数 6.5TensorFlow的其他回归算法 6.5.1戴明回归算法 6.5.2岭回归与lasso回归算法 6.5.3弹性网络回归算法 6.6逻辑回归分析 6.6.1逻辑回归 6.6.2损失函数 6.6.3实例： TensorFlow实现逻辑回归算法 6.7小结 6.8习题 第7章TensorFlow支持向量机 7.1支持向量机简介 7.1.1几何间隔和函数间隔 7.1.2*大化间隔 7.1.3软间隔 7.1.4SMO算法 7.1.5核函数 7.1.6实例： TensorFlow实现支持向量机 7.2非线性支持向量机 7.2.1风险*小化 7.2.2VC维 7.2.3结构风险*小化 7.2.4松弛变量 7.2.5实例： TensorFlow实现非线性支持向量机 7.3实例： TensorFlow实现多类支持向量机 7.4小结 7.5习题 第8章深度神经网络基础知识 8.1神经元 8.1.1神经元的结构 8.1.2神经元的功能 8.2简单神经网络 8.3深度神经网络 8.4梯度下降 8.4.1批量梯度下降法 8.4.2随机梯度下降法 8.4.3小批量梯度下降法 8.4.4实例： 梯度下降法 8.5前向传播 8.5.1前向传播算法数学原理 8.5.2DNN的前向传播算法 8.6后向传播 8.6.1求导链式法则 8.6.2后向传播算法思路 8.6.3后向传播算法的计算过程 8.6.4实例： 实现一个简单的二值分类算法 8.7优化函数 8.7.1随机梯度下降优化法 8.7.2动量优化法 8.7.3Adagrad优化法 8.7.4Adadelta优化法 8.7.5Adam优化法 8.8实例： TensorFlow实现简单深度神经网络 8.9小结 8.10习题 第9章TensorFlow实现卷积神经网络 9.1卷积神经网络的概述 9.1.1什么是卷积神经网络 9.1.2为什么要用卷积神经网络 9.1.3卷积神经网络的结构 9.1.4实例： 简单卷积神经网络的实现 9.2卷积神经网络的函数 9.3AlexNet 9.4TensorFlow实现ResNet 9.4.1ResNet的基本原理 9.4.2实例： TensorFlow实现ResNet 9.5TesnorFlow卷积神经网络的典型应用 9.6反卷积神经网络 9.6.1反卷积原理 9.6.2反卷积操作 9.6.3实例： TensorFlow实现反卷积 9.6.4反池化原理 9.6.5实例： TensorFlow实现反池化 9.6.6偏导计算 9.6.7梯度停止 9.7深度学习的训练技巧 9.7.1优化卷积核技术 9.7.2多通道卷积技术 9.8小结 9.9习题 第10章TensorFlow实现循环神经网络 10.1循环神经网络的概述 10.1.1循环神经网络的结构 10.1.2实例： 简单循环神经网络的实现 10.2长短时记忆网络 10.2.1LSTM的网络结构 10.2.2LSTM的前向计算 10.2.3实例： LSTM的实现 10.3自然语言建模 10.4实例： BiRNN实现语音识别 10.4.1语音识别背景 10.4.2获取并整理样本 10.4.3训练模型 10.5Seq2Seq任务 10.5.1Seq2Seq任务介绍 10.5.2EncoderDecoder框架 10.5.3实例： TensorFlow实现Seq2Seq翻译 10.5.4实例： 比特币市场的分析与预测 10.6小结 10.7习题 第11章TensorFlow实现深度神经网络 11.1深度神经网络的起源 11.2模型介绍 11.2.1AlexNet模型 11.2.2VGG模型 11.2.3GoogleNet模型 11.2.4残差网络 11.2.5InceptionResNetv2结构 11.2.6其他的深度神经网络结构 11.3实例： VGG艺术风格转移 11.4生成式对抗网络 11.4.1GAN的理论知识 11.4.2生成式模型的应用 11.4.3discriminator和generator损失计算 11.4.4基于深度卷积的GAN 11.4.5指定类别生成模拟样本的GAN 11.5实例： 构建InfoGAN生成MNIST模拟数据 11.6小结 11.7习题 参考文献