Python贝叶斯深度学习

第1章 深度学习时代的贝叶斯推理 1
1.1 技术要求 2
1.2 深度学习时代的奇迹 2
1.3 了解深度学习的局限性 4
1.3.1 深度学习系统中的偏见 4
1.3.2 过高置信预测导致危险 5
1.3.3 变化趋势 6
1.4 核心主题 7
1.5 设置工作环境 8
1.6 小结 9
第2章 贝叶斯推理基础 11
2.1 重温贝叶斯建模知识 11
2.2 通过采样进行贝叶斯推理 14
2.2.1 近似分布 14
2.2.2 利用贝叶斯线性回归实现概率推理 17
2.3 探讨高斯过程 20
2.3.1 用核定义先验信念 22
2.3.2 高斯过程的局限性 27
2.4 小结 28
2.5 延伸阅读 28
第3章 深度学习基础 29
3.1 技术要求 29
3.2 多层感知器 29
3.3 回顾神经网络架构 32
3.3.1 探索卷积神经网络 32
3.3.2 探索循环神经网络 35
3.3.3 注意力机制 37
3.4 理解典型神经网络存在的问题 38
3.4.1 未经校准和过高置信的预测 39
3.4.2 预测分布外数据 41
3.4.3 置信度高的分布外预测示例 44
3.4.4 易受对抗性操纵的影响 48
3.5 小结 52
3.6 延伸阅读 52
第4章 贝叶斯深度学习介绍 55
4.1 技术要求 56
4.2 理想的贝叶斯神经网络 56
4.3 贝叶斯深度学习基本原理 58
4.3.1 高斯假设 58
4.3.2 不确定性的来源 60
4.3.3 超越极大似然：似然的重要性 63
4.4 贝叶斯深度学习工具 66
4.5 小结 69
4.6 延伸阅读 69
第5章 贝叶斯深度学习原理方法 71
5.1 技术要求 71
5.2 解释符号 72
5.3 深度学习中熟悉的概率概念 72
5.4 通过反向传播进行贝叶斯推理 75
5.5 使用TensorFlow实现贝叶斯反向传播 78
5.6 使用概率反向传播扩展贝叶斯深度学习 82
5.7 实现概率反向传播 85
5.8 小结 94
5.9 延伸阅读 95
第6章 使用标准工具箱进行贝叶斯深度学习 97
6.1 技术要求 98
6.2 通过舍弃引入近似贝叶斯推理 98
6.2.1 利用舍弃进行近似贝叶斯推理 99
6.2.2 实现MC舍弃 100
6.3 使用集成学习进行模型不确定性估计 101
6.3.1 集成学习介绍 101
6.3.2 引入深度集成学习 101
6.3.3 实现深度集成学习 103
6.3.4 深度集成学习的实际局限性 106
6.4 探索用贝叶斯*后一层方法增强神经网络 106
6.4.1 贝叶斯推理的*后一层方法 107
6.4.2 *后一层MC舍弃 113
6.4.3 *后一层方法小结 115
6.5 小结 115
第7章 贝叶斯深度学习的实际考虑因素 117
7.1 技术要求 117
7.2 平衡不确定性质量和计算考虑因素 118
7.2.1 设置实验 118
7.2.2 分析模型性能 121
7.2.3 贝叶斯深度学习模型的计算考虑因素 124
7.2.4 选择正确的模型 126
7.3 贝叶斯深度学习和不确定性来源 127
7.4 小结 143
7.5 延伸阅读 143
第8章 贝叶斯深度学习应用 145
8.1 技术要求 145
8.2 检测分布外数据 145
8.2.1 探讨分布外检测问题 146
8.2.2 系统评估分布外检测性能 150
8.2.3 无需重新训练的简单分布外检测 151
8.3 应对数据集漂移的鲁棒方法 153
8.3.1 测量模型对数据集漂移的响应 153
8.3.2 用贝叶斯方法揭示数据集漂移 154
8.4 通过不确定性选择数据来保持模型的新鲜度 169
8.5 利用不确定性估计进行更智能的强化学习 179
8.6 对对抗性输入的敏感性 197
8.7 小结 201
8.8 延伸阅读 201
第9章 贝叶斯深度学习的发展趋势 203
9.1 贝叶斯深度学习的当前趋势 203
9.2 如何应用贝叶斯深度学习方法解决现实世界中的问题 206
9.3 贝叶斯深度学习的*新方法 207
9.3.1 结合MC舍弃和深度集成学习 207
9.3.2 通过促进多样性改进深度集成学习 208
9.3.3 超大网络中的不确定性 209
9.4 贝叶斯深度学习的替代方案 211
9.4.1 可扩展的高斯过程 211
9.4.2 深度高斯过程 213
9.5 贝叶斯深度学习的下一步工作 213
9.6 延伸阅读 214