仓颉TENSORBOOST学习之旅——人工智能与深度学习实战

教学课件（PPT）
本书源码 第1章初探深度学习 1．1人工智能的基本概念 1.2神经网络的3次浪潮 1.2．1第1次浪潮： 感知机的诞生和应用 1.2．2第2次浪潮： 神经网络的大发展 1.2．3第3次浪潮： 深度学习 1.3深度学习框架 1.3．1主流深度学习框架的对比 1.3．2昇思(MindSpore) 1.4本章小结 1.5习题 第2章仓颉语言快速入门 2.1仓颉语言的开发环境搭建 2.1．1安装和配置仓颉语言编译器 2.1．2第1个仓颉程序 2.2仓颉语言的基本语法 2.2．1变量和数据类型 2.2．2字符和字符串 2.2．3操作符和表达式 2.2．4条件结构和循环结构 2.2．5函数的定义和调用 2.3类和结构体 2.3．1类与对象 2.3．2继承和多态 2.3．3接口 2.3．4结构体及其构造函数 2.4泛型和集合类型 2.4．1泛型类型 2.4．2泛型函数 2.4．3集合类型 2.5包管理工具 2.5．1包 2.5．2模块 2.5．3库 2.6本章小结 2.7习题 第3章自制多层感知机 3.1准备工作： 实现矩阵运算和读取MNIST数据集 3.1．1矩阵和矩阵运算 3.1．2MNIST数据集 3.2自制多层感知机的实现 3.2．1多层感知机的构建 3.2．2多层感知机的训练 3.2．3多层感知机的核心： 反向传播算法 3.2．4随机梯度下降和超参数的设置 3.2．5让代码运行起来 3.3本章小结 3.4习题 第4章自动微分 4.1自动微分的原理和实现 4.1．1微分类型 4.1．2自动微分的原理 4.1．3自动微分的实现 4.2仓颉的可微编程 4.2．1初探可微编程 4.2．2可微类型 4.2．3可微函数 4.2．4伴随函数 4.2．5高阶微分 4.3本章小结 4.4习题 第5章仓颉TensorBoost的环境搭建 5.1准备工作 5.2搭建MindSpore编译环境 5.2．1显卡驱动与CUDA的安装 5.2．2编译工具的安装 5.2．3编译依赖的安装 5.3编译并安装MindSpore 5.4仓颉TensorBoost的环境配置 5.4．1仓颉TensorBoost的安装 5.4．2检查仓颉TensorBoost是否安装成功 5.5环境配置中的常见问题 5.5．1更新Python版本后终端无法正常打开 5.5．2编译MindSpore时出现OpenMPI编译错误 5.5．3eigen包下载失败 5.5．4通过SSH和Samba服务在Windows环境中开发仓颉TensorBoost
程序 5.6本章小结 5.7习题 第6章张量的基本用法 6.1张量 6.1．1张量的定义 6.1．2张量和数组的转换 6.1．3张量的属性 6.1．4张量的复制 6.2张量的基本运算 6.2．1加、减、乘、除、取余 6.2．2无穷与非数 6.2．3矩阵运算 6.2．4张量的维度交换和矩阵转置 6.3张量是可微类型 6.3．1动态图和静态图 6.3．2张量的自动微分 6.4张量元组与参数 6.4．1张量元组 6.4．2参数 6.5本章小结 6.6习题 第7章构建神经网络 7.1单层感知机实现线性回归 7.1．1MindRecord数据集的读取 7.1．2定义感知机 7.1．3计算代价函数并反向传播求解梯度 7.1．4应用随机梯度下降优化器更新感知机参数 7.1．5训练感知机 7.2多层感知机实现数字识别 7.2．1MNIST数据集的读取 7.2．2定义多层感知机 7.2．3计算代价函数并反向传播求解梯度 7.2．4创建随机梯度下降优化器更新网络参数 7.2．5训练多层感知机 7.3神经网络的持久化 7.3．1运行环境管理和静态图的保存 7.3．2张量的持久化 7.3．3神经网络模型的持久化 7.4本章小结 7.5习题 第8章张量的高级用法 8.1数学运算算子 8.1．1基础数学运算算子 8.1．2统计运算 8.1．3稀疏算法 8.1．4逻辑运算 8.1．5张量的内存设置 8.2张量比较 8.2．1维度内的比较 8.2．2元素级的比较 8.2．3广播机制 8.3张量的维度操作 8.3．1基本维度变换 8.3．2张量的切片和取值 8.3．3张量的合并与分割 8.3．4反转元素 8.4本章小结 8.5习题 第9章深度神经网络 9.1选择合适的损失函数 9.1．1L1、L2范数损失函数 9.1．2熵和交叉熵 9.1．3交叉熵损失函数 9.1．4Softmax激活函数 9.2选择合适的激活函数 9.2．1梯度消失和梯度爆炸 9.2．2Sigmoid及其衍生激活函数 9.2．3线性整流函数(ReLU) 9.2．4常用的激活函数 9.3选择合适的优化器 9.3．1动量梯度下降 9.3．2自适应学习率 9.3．3Adam算法 9.4正则化与过拟合问题 9.4．1过拟合和欠拟合 9.4．2L1和L2正则化 9.4．3DropOut 9.5改进深度神经网络 9.5．1采样器、训练数据集和验证数据集的加载 9.5．2改进激活函数和损失函数 9.5．3改进优化器 9.6本章小结 9.7习题 第10章卷积神经网络 10.1卷积神经网络与图像识别 10.1．1卷积和图像卷积 10.1．2初识卷积神经网络 10.2LeNet神经网络 10.2．1LeNet5神经网络结构 10.2．2手写数字识别的实现 10.3VGG神经网络 10.3．1CIFAR10数据集 10.3．2批标准化 10.3．3VGG16神经网络结构 10.3．4图片分类的实现 10.4本章小结 10.5习题 第11章循环神经网络 11.1循环神经网络基本原理 11.1．1初识循环神经网络 11.1．2长短期记忆网络 11.2用LSTM解决序列问题 11.2．1堆叠LSTM 11.2．2序列数据的表示方法 11.2．3预测航班载客量的实现 11.3本章小结 11.4习题 附录A张量的操作符重载