神经网络与机器学习

第0章 导言 1 0.1 什么是神经网络 1 0.2 人类大脑 4 0.3 神经元模型 6 0.4 视为有向图的神经网络 9 0.5 反馈 11 0.6 网络结构 12 0.7 知识表示 15 0.8 学习过程 21 0.9 学习任务 23 0.10 结语 28 注释和参考文献 28 第1章 Rosenblatt感知器 29 1.1 引言 29 1.2 感知器 29 1.3 感知器收敛定理 30 1.4 高斯环境下感知器与贝叶斯分类器的关系 34 1.5 计算机实验：模式分类 38 1.6 批量感知器算法 40 1.7 小结和讨论 41 注释和参考文献 42 习题 42 第2章 回归建模 43 2.1 引言 43 2.2 线性回归模型：初步考虑 43 2.3 参数向量的*大后验估计 45 2.4 正则化*小二乘估计与MAP估计的关系 48 2.5 计算机实验：模式分类 49 2.6 *小描述长度原理 50 2.7 有限样本量考虑 52 2.8 工具变量法 54 2.9 小结和讨论 56 注释和参考文献 56 习题 56 计算机实验 57 第3章 *小均方算法 58 3.1 引言 58 3.2 LMS算法的滤波结构 58 3.3 无约束优化：回顾 60 3.4 维纳滤波器 64 3.5 *小均方算法 65 3.6 描述LMS算法和维纳滤波器偏差的马尔可夫模型 67 3.7 朗之万方程：布朗运动的特点 67 3.8 库什纳直接平均法 68 3.9 小学习率参数的统计LMS学习理论 69 3.10 计算机实验I：线性预测 71 3.11 计算机实验II：模式分类 72 3.12 LMS算法的优缺点 73 3.13 学习率退火计划 74 3.14 小结和讨论 75 注释和参考文献 76 习题 76 第4章 多层感知器 79 4.1 引言 79 4.2 一些预备知识 80 4.3 批量学习与在线学习 81 4.4 反向传播算法 83 4.5 异或问题 91 4.6 提升反向传播算法性能的启发式算法 92 4.7 计算机实验：模式分类 96 4.8 反向传播和微分 96 4.9 黑塞矩阵及其在在线学习中的作用 99 4.10 学习率的*优退火和自适应控制 101 4.1