数据分析的结构化表征学习

第 1 章 绪论 1
1．1 表征学习的概念 1
1．2 结构化表征学习基础 2
1．2．1 结构化表征学习的基础理论和方法 2
1．2．2 结构化表征学习的应用 7
参考文献 8
第 2 章 块对角低秩表征学习 11
2．1 低秩表征学习方法 12
2．2 块对角低秩表征学习的方法设计 13
2．3 块对角低秩表征学习的优化算法 15
2．4 识别算法的设计 18
2．5 块对角低秩表征学习的算法分析 19
2．5．1 收敛性分析 19
2．5．2 计算时间复杂度 20
2．5．3 新样本预测检验 20
2．6 与现有低秩表征学习方法的关系 22
2．6．1 与非负低秩表征稀疏方法的关系 22
2．6．2 与结构化稀疏低秩表征方法的关系 23
2．6．3 与监督正则化鲁棒子空间方法的关系 24
2．7 实验验证 24
2．7．1 实验设置 24
2．7．2 在人脸识别任务中的实验结果 25
2．7．3 在字符识别任务中的实验结果 28
2．7．4 在场景识别任务中的实验结果 30
2．7．5 优势分析 30
2．7．6 算法收敛性实验验证 32
2．7．7 算法参数敏感性经验分析 32
2．8 本章小结 33
参考文献 34
第3 章 判别性弹性网正则化回归表征学习 38
3．1 *小二乘回归方法 39
3．2 基于弹性网正则化的回归表征学习模型 40
3．2．1 一种普适的弹性网正则化回归表征学习框架 40
3．2．2 判别性弹性网正则化回归表征学习模型 42
3．2．3 判别性弹性网正则化回归表征学习的快速模型 43
3．3 模型优化求解和算法分类模型 44
3．3．1 模型的优化求解 44
3．3．2 判别性回归表征空间的构造和算法分类模型 47
3．4 算法分析 48
3．4．1 与经典回归模型的关系 48
3．4．2 时间复杂度和收敛性分析 48
3．5 实验验证 50
3．5．1 对比方法与实验设置 50
3．5．2 在人脸识别任务中的实验结果 51
3．5．3 在物体识别任务中的实验结果 55
3．5．4 在场景识别任务中的实验结果 55
3．5．5 与传统的回归表征学习模型进行对比分析 56
3．5．6 优化算法的收敛条件和参数敏感性经验分析 57
3．5．7 算法效率分析 59
3．6 本章小结 60
参考文献 61
第4 章 边缘结构化表征学习 64
4．1 判别性*小二乘回归方法 65
4．2 边缘结构化表征学习模型 66
4．2．1 损失函数 66
4．2．2 算法复杂度正则项 67
4．2．3 自适应流形结构学习 68
4．3 边缘结构化表征学习算法的优化策略 70
4．3．1 求解优化变量W、A 和B 70
4．3．2 求解优化变量R 71
4．3．3 求解优化变量P 72
4．4 半监督学习模型的扩展 74
4．5 边缘结构化表征学习的算法分析 74
4．5．1 优化算法收敛性的理论分析 74
4．5．2 计算复杂度 75
4．6 实验验证 75
4．6．1 实验设置 76
4．6．2 在物体识别任务中的实验结果 77
4．6．3 在人脸识别任务中的实验结果 79
4．6．4 在纹理识别任务中的实验结果 81
4．6．5 在场景识别任务中的实验结果 82
4．6．6 识别性能对比分析 83
4．6．7 算法参数敏感性经验分析 85
4．6．8 算法收敛性实验验证 87
4．6．9 效率对比分析 88
4．7 本章小结 89
参考文献 89
第5 章 基于联合学习的二值多视图表征学习 93
5．1 二值多视图表征学习框架 95
5．1．1 二值多视图聚类模型 95
5．1．2 高效的可扩展多视图图像聚类分析模型 96
5．2 高效的可扩展多视图图像聚类算法 99
5．3 高效的可扩展多视图图像聚类算法分析 102
5．3．1 收敛性分析 102
5．3．2 复杂度分析 103
5．4 实验验证 103
5．4．1 数据集和评估标准 103
5．4．2 中等规模多视图数据实验验证 104
5．4．3 大规模多视图数据实验验证 107
5．4．4 经验性分析 108
5．4．5 可视化分析 113
5．5 本章小结 115
参考文献 116
第6 章 基于灵活局部结构扩散的广义不完整多视图聚类 120
6．1 多视图聚类方法 122
6．1．1 部分多视图聚类 122
6．1．2 多个不完整视图聚类 123
6．2 基于灵活局部结构扩散的广义不完整多视图聚类模型 123
6．2．1 单视图个体表征学习 124
6．2．2 多视图一致性表征学习 125
6．2．3 自适应加权多视图学习 126
6．2．4 GIMC_FLSD 的总体目标函数 126
6．3 GIMC_FLSD 的优化算法 127
6．4 GIMC_FLSD 的理论分析 129
6．4．1 计算复杂度 129
6．4．2 收敛性分析 130
6．4．3 与其他方法的联系 130
6．5 实验验证 131
6．5．1 实验配置 131
6．5．2 实验结果和分析 133
6．5．3 时间复杂度分析 137
6．5．4 参数灵敏度分析 139
6．5．5 收敛性分析 142
6．6 本章小结 143
参考文献 143
第7 章 可扩展的监督非对称哈希学习 148
7．1 哈希学习方法 149
7．2 可扩展的监督非对称哈希学习模型 151
7．2．1 问题定义 151
7．2．2 方法解析 152
7．3 可扩展的监督非对称哈希表征学习的优化算法 154
7．3．1 交替优化方法 154
7．3．2 收敛性分析 158
7．3．3 算法的样本外扩展问题 158
7．4 实验验证 159
7．4．1 实验数据 159
7．4．2 实验设置 160
7．4．3 在CIFAR-10 图像检索数据集上的实验结果 161
7．4．4 在Caltech-256 目标检索数据集上的实验结果 165
7．4．5 在SUN-397 场景检索数据集上的实验结果 167
7．4．6 在ImageNet 大规模数据集上的实验结果 169
7．4．7 在NUS-WIDE 多实例数据集上的实验结果 171
7．4．8 实验分析和讨论 173
7．5 本章小结 175
参考文献 175
第8 章 深度语义协同哈希学习 181
8．1 哈希学习方法 182
8．2 深度语义协同哈希学习模型 184
8．2．1 问题定义 184
8．2．2 特征嵌入网络 185
8．2．3 类别编码网络 186
8．2．4 构建语义不变结构 186
8．2．5 协同学习 187
8．3 深度语义协同哈希学习的优化算法设计 187
8．3．1 训练策略分析 187
8．3．2 样本扩展问题 188
8．4 实验验证 188
8．4．1 实验设置 189
8．4．2 评估标准 189
8．4．3 在NUS-WIDE 数据集上的实验结果 189
8．4．4 在MIRFlickr 数据集上的实验结果 193
8．4．5 在CIFAR-10 数据集上的实验结果 196
8．4．6 子模块分析 198
8．4．7 参数敏感性分析和可视化结果 199
8．5 本章小结 200
参考文献 201
第9 章 判别性费希尔嵌入字典学习 205
9．1 相关工作 207
9．1．1 符号定义 207
9．1．2 画像定义 207
9．1．3 FDDL 算法 208
9．2 判别性费希尔嵌入字典学习算法 209
9．2．1 判别性费希尔原子嵌入模型 209
9．2．2 判别性费希尔系数嵌入模型 210
9．2．3 DFEDL 算法的目标函数 211
9．3 判别性费希尔嵌入字典学习的优化算法 211
9．4 算法对比与分析 213
9．4．1 DFEDL 算法与FDDL 算法的关系 214
9．4．2 时间复杂度分析 215
9．4．3 收敛性分析 215
9．5 实验验证 216
9．5．1 实验配置 216
9．5．2 数据集描述 217
9．5．3 在深度特征数据集上的实验结果 218
9．5．4 在手工数据集上的实验结果 219
9．5．5 实验结果分析 221
9．5．6 参数敏感性分析 222
9．5．7 实验收敛性分析 223
9．5．8 不同原子数的影响 223
9．5．9 与深度学习模型的对比 224
9．6 本章小结 226
参考文献 227
附录 234
附录A 引理9-1 及其证明过程 234
附录B 引理9-2 及其证明过程 236
附录C 定理9-1 及其证明过程 237