PYTHON深度元学习算法

第1章元学习简介1
1.1元学习1
1.2元学习的类型2
1.2.1学习度量空间2
1.2.2学习初始化3
1.2.3学习优化器3
1.3嵌套梯度下降法实现元学习4
1.4少样本学习的优化模型6
1.5小结9
1.6思考题9
参考文献9第2章深度学习11
2.1深度学习的概念11
2.2深度神经网络概述12
2.2.1人工神经网络12
2.2.2深度神经网络15
2.3卷积神经网络概述17
2.3.1卷积神经网络17
2.3.2卷积神经网络的结构17
2.3.3卷积神经网络的训练24
2.3.4VGG——卷积神经网络的代表性网络25
2.4循环神经网络28
2.4.1循环神经网络概念28
2.4.2长短期记忆（LSTM）网络30
2.5生成对抗网络32
2.5.1生成器33
2.5.2判别器34
2.5.3训练过程35
2.5.4小结36
2.6Transformer及扩散模型37
2.6.1编码组件38
2.6.2解码组件39
2.6.3扩散模型40
2.7小结42
2.8思考题43
参考文献43第3章孪生网络45
3.1孪生网络简介45
3.2孪生网络的架构47
3.3孪生网络的衍生48
3.3.1伪孪生网络49
3.3.2三胞胎连体网络49
3.3.3三胞胎伪孪生网络50
3.4孪生网络的发展及应用51
3.5案例： 利用孪生网络进行图像识别52
3.6小结59
3.7思考题59
参考文献60第4章原型网络及其变体61
4.1原型网络61
4.1.1原型网络的基本算法63
4.1.2用于分类的原型网络结构64
4.2高斯原型网络67
4.3半原型网络69
4.4小结71
4.5思考题72
参考文献72第5章关系网络与匹配网络73
5.1关系网络73
5.1.1单样本学习中的关系网络74
5.1.2少样本学习中的关系网络77
5.1.3零样本学习中的关系网络78
5.2匹配网络85
5.3小结86
5.4思考题87
参考文献87第6章记忆增强神经网络88
6.1神经图灵机（NTM）89
6.1.1NTM中的读、写机制90
6.1.2寻址机制92
6.2基于NTM的复制任务94
6.2.1NTM模型的初始化94
6.2.2定义读写操作97
6.2.3定义寻址机制98
6.2.4定义复制任务100
6.2.5定义训练函数102
6.2.6实现重复复制105
6.3记忆增强神经网络（MANN）111
6.3.1MANN的读操作111
6.3.2MANN的写操作113
6.3.3MANN的应用114
6.4小结116
6.5思考题116
参考文献117第7章模型无关元学习及其变种118
7.1MAML118
7.1.1MAML算法121
7.1.2监督学习中的MAML123
7.1.3从头构建MAML125
7.1.4强化学习中的MAML142
7.2ADML144
7.2.1FGSM144
7.2.2ADML的流程145
7.2.3从头构建ADML146
7.3CAML151
7.4小结152
7.5思考题153
参考文献153第8章MetaSGD和Reptile154
8.1MetaSGD简介154
8.1.1MetaSGD用于监督学习155
8.1.2MetaSGD用于强化学习160
8.2Reptile简介163
8.2.1Reptile的基本算法164
8.2.2Reptile用于正弦曲线回归166
8.3小结168
8.4思考题169
参考文献170第9章新进展与未来方向171
9.1元模仿学习171
9.2任务无关元学习174
9.2.1熵*大化/熵约简175
9.2.2不平等*小化177
9.3无监督元学习181
9.4样本抽样自适应元学习183
9.5任务难度自适应元学习186
9.6小结189
9.7思考题190
参考文献190