高维统计学

本书赞誉
译者序
致谢

第1章　简介1
　1.1　经典理论和高维理论1
　1.2　高维会产生什么问题2
　　1.2.1　线性判别分析2
　　1.2.2　协方差估计4
　　1.2.3　非参数回归6
　1.3　高维中什么能帮助我们8
　　1.3.1　向量的稀疏性8
　　1.3.2　协方差矩阵中的结构10
　　1.3.3　回归形式的结构11
　1.4　什么是非渐近的观点12
　1.5　全书概述13
　　1.5.1　各章内容13
　　1.5.2　阅读背景要求14
　　1.5.3　教学建议和流程图15
　1.6　参考文献和背景16
第2章　基本尾部概率界和集中不等式18
　2.1　经典的界18
　　2.1.1　从马尔可夫不等式到Chernoff界18
　　2.1.2　次高斯随机变量和Hoeffding界19
　　2.1.3　次指数随机变量和Bernstein界22
　　2.1.4　一些单边结果26
　2.2　基于鞅的方法28
　　2.2.1　背景28
　　2.2.2　鞅差序列的集中度界30
　2.3　高斯随机变量的Lipschitz函数35
　2.4　附录A：次高斯随机变量的等价性39
　2.5　附录B：次指数随机变量的等价性42
　2.6　参考文献和背景43
　2.7　习题44
第3章　测度集中度51
　3.1　基于熵技巧的集中度51
　　3.1.1　熵及其相关性质51
　　3.1.2　Herbst方法及其延伸52
　　3.1.3　可分凸函数和熵方法54
　　3.1.4　张量化和可分凸函数56
　3.2　集中度的几何观点58
　　3.2.1　集中度函数59
　　3.2.2　与Lipschitz函数的联系60
　　3.2.3　从几何到集中度63
　3.3　Wasserstein距离和信息不等式66
　　3.3.1　Wasserstein距离66
　　3.3.2　传输成本和集中不等式67
　　3.3.3　传输成本的张量化70
　　3.3.4　马尔可夫链的传输成本不等式71
　　3.3.5　非对称耦合成本72
　3.4　经验过程的尾部概率界75
　　3.4.1　一个泛函Hoeffding不等式75
　　3.4.2　一个泛函Bernstein不等式77
　3.5　参考文献和背景79
　3.6　习题80
第4章　一致大数定律85
　4.1　动机85
　　4.1.1　累积分布函数的一致收敛85
　　4.1.2　更一般函数类的一致定律87
　4.2　基于Rademacher复杂度的一致定律90
　4.3　Rademacher复杂度的上界94
　　4.3.1　多项式识别的函数类94
　　4.3.2　Vapnik-Chervonenkis维数96
　　4.3.3　VC维数的控制99
　4.4　参考文献和背景100
　4.5　习题101
第5章　度量熵及其用途104
　5.1　覆盖和填装104
　5.2　高斯复杂度和Rademacher复杂度113
　5.3　度量熵和次高斯过程115
　　5.3.1　一步离散化的上确界116
　　5.3.2　离散化界的例子117
　　5.3.3　链方法和Dudley熵积分119
　5.4　一些高斯比较不等式123
　　5.4.1　一般的比较不等式结果123
　　5.4.2　Slepian和Sudakov-Fernique不等式125
　　5.4.3　高斯收缩不等式126
　5.5　Sudakov下界127
　5.6　链方法和Orlicz过程128
　5.7　参考文献和背景131
　5.8　习题132
第6章　随机矩阵和协方差估计136
　6.1　预备知识136
　　6.1.1　符号和基本结果136
　　6.1.2　协方差矩阵估计问题137
　6.2　Wishart矩阵及其性质138
　6.3　次高斯总体的协方差矩阵141
　6.4　一般矩阵的界144
　　6.4.1　矩阵分析背景知识144
　　6.4.2　矩阵的尾部条件145
　　6.4.3　矩阵Chernoff方法和独立分解147
　　6.4.4　随机矩阵的上尾部概率界149
　　6.4.5　协方差矩阵的结果153
　6.5　带结构的协方差矩阵的界154
　　6.5.1　未知稀疏与截断155
　　6.5.2　渐近稀疏157
　6.6　附录：定理6.1的证明159
　6.7　参考文献和背景161
　6.8　习题162
第7章　高维情形下的稀疏线性模型167
　7.1　问题及应用167
　　7.1.1　不同的稀疏模型167
　　7.1.2　稀疏线性模型的应用168
　7.2　无噪情形下的还原171
　　7.2.1　1松弛172
　　7.2.2　精确还原和限制零空间172
　　7.2.3　限制零空间的充分条件174
　7.3　有噪情形下的估计178
　　7.3.1　受限特征值条件178
　　7.3.2　严格稀疏模型下的2误差界180
　　7.3.3　随机设计矩阵的受限零空间和特征值183
　7.4　预测误差的界186
　7.5　变量或子集选择188
　　7.5.1　Lasso的变量选择相合性188
　　7.5.2　定理7.21的证明191
　7.6　附录:定理7.16的证明193
　7.7　参考文献和背景195
　7.8　习题197
第8章　高维下的主成分分析204
　8.1　主成分和降维204
　　8.1.1　PCA的解释和应用205
　　8.1.2　特征值和特征空间的扰动208
　8.2　一般特征向量的界209
　　8.2.1　一个一