人工神经网络理论及应用

**篇 人工神经网络基础篇 第1章 生物神经网络理论基础 3 1.1 生物神经元的结构和功能 3 1.2 神经系统的电活动 4 1.3 人脑的信息存储 6 1.4 人脑与电脑 8 习题 10 参考文献 11 第2章 人工神经网络概述 12 2.1 人工神经网络发展历程 12 2.2 人工神经网络特点 18 2.3 人工神经网络应用 19 习题 23 参考文献 24 第3章 人工神经网络数理基础 25 3.1 神经元模型 25 3.2 导数 29 3.3 微分 30 3.3.1 定义 30 3.3.2 定理与性质 30 3.4 积分 30 3.4.1 定义 30 3.4.2 定积分定理与性质 31 3.5 梯度 31 3.6 行列式 32 3.7 矩阵 32 3.7.1 概念 32 3.7.2 矩阵的运算 33 3.7.3 矩阵运算性质 33 3.8 向量 34 3.8.1 定义 34 3.8.2 向量的运算和向量内积的准则 34 3.8.3 线性表示与线性相关 34 3.9 特征值与特征向量 34 3.10 随机事件与概率 35 3.11 范数 36 3.11.1 定义 36 3.11.2 向量的范数 36 3.11.3 矩阵的范数 36 习题 37 参考文献 37 第二篇 人工神经网络理论篇 第4章 感知器 41 4.1 概述 41 4.2 感知器的结构和原理 42 4.2.1 感知器的结构 42 4.2.2 感知器的原理 42 4.2.3 感知器的学习策略 44 4.3 单层感知器 44 4.3.1 单层感知器模型 44 4.3.2 单层感知器的功能 46 4.3.3 单层感知器的学习算法 47 4.3.4 单层感知器的局限性 49 4.4 多层感知器 50 4.4.1 多层感知器的结构和特点 50 4.4.2 多层感知器的功能 51 4.4.3 多层感知器的学习算法 53 4.5 应用案例 54 习题 58 参考文献 59 第5章 BP神经网络 60 5.1 概述 60 5.2 BP神经网络结构 61 5.3 BP神经网络算法 62 5.3.1 算法原理 62 5.3.2 反向传播实例 66 5.4 BP算法的不足与改进 68 5.4.1 BP算法的不足 68 5.4.2 BP算法的改进 70 5.5 应用案例 72 习题 78 参考文献 79 第6章 RBF神经网络 80 6.1 概述 80 6.2 RBF神经网络结构和原理 81 6.3 RBF神经网络算法 82 6.4 RBF神经网络的相关问题 84 6.5 应用案例 85 习题 87 参考文献 88 第7章 ADALINE神经网络 89 7.1 概述 89 7.2 ADALINE结构和原理 89 7.2.1 单层ADALINE模型 89 7.2.2 算法原理 90 7.2.3 多层ADALINE模型 92 7.3 应用案例 94 习题 98 参考文献 98 第8章 Hopfield神经网络 99 8.1 概述 99 8.2 离散Hopfield神经网络 99 8.2.1 网络结构 99 8.2.2 工作方式 100 8.2.3 网络的稳定性 101 8.2.4 网络算法 102 8.3 连续Hopfield神经网络 104 8.3.1 网络结构 104 8.3.2 网络的稳定性 106 8.4 应用案例 106 习题 112 参考文献 112 第9章 深度卷积神经网络 113 9.1 概述 113 9.2 深度卷积神经网络的结构和原理 113 9.2.1 深度卷积神经网络的结构 113 9.2.2 深度卷积神经网络的原理 115 9.3 几种基本的深度卷积神经网络 116 9.3.1 AlexNet 116 9.3.2 VGGNet 117 9.3.3 ResNet 118 9.4 应用案例 119 9.4.1 几种深度学习应用框架 119 9.4.2 基于AlexNet的图像识别 120 习题 123 参考文献 123 第10章 生成式对抗网络 124 10.1 概述 124 10.2 生成式对抗网络的结构 125 10.3 生成式对抗网络算法 126 10.4 改进的生成式对抗网络 128 10.5 应用案例 130 习题 133 参考文献 133 第11章 Elman神经网络 134 11.1 概述 134 11.2 Elman神经网络结构和原理 134 11.3 Elman 神经网络的学习算法 136 11.4 Elman 神经网络稳定性分析 137 11.5 应用案例 139 习题 143 参考文献 143 第12章 AdaBoost神经网络 144 12.1 概述 144 12.2 AdaBoost网络结构和算法 144 12.3 AdaBoost算法中的影响因素 147 12.3.1 AdaBoost算法的训练误差分析 147 12.3.2 AdaBoost分类问题中的损失函数 148 12.3.3 AdaBoost算法的正则化 149 12.4 应用案例 150 习题 155 参考文献 156 第13章 SOFM神经网络 157 13.1 概述 157 13.2 SOFM神经网络的结构 157 13.3 SOFM神经网络的原理和学习算法 158 13.3.1 SOFM神经网络的原理 158 13.3.2 SOFM神经网络的学习算法 160 13.4 应用案例 161 习题 166 参考文献 166 第三篇 人工神经网络实践及应用篇 第14章 基于Simulink的人工神经网络建模 169 14.1 概述 169 14.2 Simulink启动和神经网络模块库 169 14.2.1 Simulink的启动 169 14.2.2 Simulink神经网络模块库 171 14.3 模型的设置和操作 175 14.3.1 模块的操作 175 14.3.2 信号线的操作 176 14.3.3 仿真参数的设置 176 14.3.4 常用模块的设置 177 14.4 单神经元建模 180 14.5 函数逼近的Simulink仿真模型 183 14.5.1 参数未改变的模型及仿真 183 14.5.2 改变参数的模型及仿真 185 14.6 应用案例 189 习题 193 参考文献 193 第15章 基于GUI的人工神经网络设计 194 15.1 概述 194 15.2 软件架构设计 194 15.3 创建工程 195 15.3.1 FIG文件编辑器 197 15.3.2 M文件编辑器 198 15.4 主页面设计 199 15.5 交互式参数设置 202 15.6 软件主要功能设计 204 15.6.1 检测识别 205 15.6.2 处理建议 214 15.7 辅助功能 217 15.8 帮助文件制作 219 习题 221 参考文献 222 附录A GUI对象的常用属性 223 附录B 特殊字符格式说明 226 附录C 软件代码 227