成.人贝叶斯的博弈 数学、思维与人工智能

目录



第 1章 初始之旅 1

学生问难 1

走上贝叶斯主义的道路 2

统一的知识哲学 4

科学方法的替代 6

客观性的迷梦 8

本书的目标 11



第 2章 贝叶斯定理 14

小孩谜题 14

蒙蒂 霍尔问题 15

萨莉 克拉克的审判 17

被判非法的贝叶斯主义 18

贝叶斯定理 19

贝叶斯公式的组成部分 21

贝叶斯主义对化验结果的解读 22

贝叶斯主义对萨莉 克拉克的辩护 24

小孩谜题终于解决了！ 25

几句鼓励的话 26



第3章 从逻辑上来说…… 28

两种思考模式 28

逻辑的规则 30

Q的背面都是蓝色的吗？ 32

量词与谓词 33

重新解释亚里士多德三段论 34

公理化方法 35

柏拉图主义者对阵直觉主义者 36

贝叶斯逻辑※ 37

超越真与假 39

矛盾理论走向共存 41



第4章 必须（正确地）泛化！ 43

苏格兰的黑色绵羊 43

认识论简史 44

行星研究简史 45

科学与波普尔背道而驰？ 46

频率主义※ 47

反对p值的统计学家 50

p值操控 51

统计学课本讲了什么 52

智慧方程 53

渐进学习 55

再谈爱因斯坦 56



第5章 荣耀归于偏见 58

琳达问题 58

用偏见解释琳达问题※ 59

偏见是必要的 61

xkcd的太阳 62

用偏见解释xkcd 63

用偏见为萨莉 克拉克辩护 64

用偏见对抗伪科学 65

偏见拯救科学 66

贝叶斯主义者对万物均有偏见 68

错误的偏见 71

偏见与道德 74



第6章 贝叶斯主义的“先知” 76

一段起伏跌宕的历史 76

概率论的起源 77

神秘的托马斯 贝叶斯 78

拉普拉斯，贝叶斯主义之父 79

拉普拉斯接续法则 81

贝叶斯主义的寒冬 84

贝叶斯主义拯救盟军 85

频率主义海洋中的贝叶斯孤岛 88

被实干者拯救的贝叶斯主义 89

贝叶斯主义的胜利 91

贝叶斯无处不在 92



第7章 所罗门诺夫妖 93

非人类，也非机器 93

算法基础 94

“模式”是什么？ 96

所罗门诺夫复杂度 97

算法与概率的联姻 100

所罗门诺夫的偏见※ 102

贝叶斯主义造就所罗门诺夫妖※ 103

所罗门诺夫完备性 104

所罗门诺夫归纳法的不可计算性 105

所罗门诺夫不完备性 107

对实用的追求 108



第8章 保守秘密 110

保密 110

今天的密码学 111

用贝叶斯主义破译密码 113

随机调查问卷 114

随机调查的私密性 116

差分隐私的定义※ 117

拉普拉斯型机制 119

组合健壮性 120

隐私损失的可加性 121

在实践中可行不通！ 122

同态加密 123



第9章 博弈已成定局 125

“心计” 125

平分还是独占 127

贝叶斯式游说 128

谢林点 131

混合均衡 132

贝叶斯博弈 134

贝叶斯机制设计※ 135

迈尔森的拍卖 137

贝叶斯主义的社会影响 138



第 10章 达尔文遇上贝叶斯 140

幸存者偏差 140

加利福尼亚的五彩蜥蜴 141

洛特卡-沃尔泰拉动力学※ 142

遗传算法 144

构筑自己的意见？ 145

单个科学家并不可靠 146

诉诸权威 148

科学共识 150

“标题党” 151

市场的预测能力 152

金融泡沫 155



第 11章 指数超乎直觉 157

那些大得过分的数 157

计算的“玻璃天花板” 159

指数爆炸 160

印度-阿拉伯数字的魔法 163

本福特定律 164

对数尺度 166

对数 167

贝叶斯公式抢到了哥德尔奖 168

贝叶斯主义者的度假方法 170

技术奇点 172



第 12章 挥动奥卡姆的剃刀 174

上星期四…… 174

足球里没有命中注定 176

过度诠释的灾难 177

追寻简单性的复杂旅程 180

世事并非一贯简单 181

交叉验证 183

蒂布斯兰尼正则化 185

稳健优化 186

用贝叶斯方法解决过度拟合※ 187

只有贝叶斯推断才是可容许的※ 188

奥卡姆剃刀来自贝叶斯主义！ 189



第 13章 真相在撒谎 191

公立医院还是私人诊所？ 191

相关并非因果 193

寻找混杂因素 195

回归平均 197

斯坦悖论 198

内生分层的失效 199

进行随机化吧！ 201

苏格兰黑色绵羊的回归 203

猫是什么？ 204

诗性自然主义 206



第 14章 又快又（足够）好 208

素数的奥秘 208

素数定理 210

τ的近似 211

渐近展开 212

实用主义的限制 213

图灵的机器学习 213

实用贝叶斯主义 216

次线性算法 218

思考的多种模式 220

迈进后严谨阶段！ 221

贝叶斯的近似 222



第 15章 不走运导致的错误 224

FiveThirtyEight与2016年美国总统大选 224

量子力学是概率性的吗？ 225

混沌理论 228

无法预测的确定性自动机 229

热力学 230

香农熵 231

香农的*优压缩 233

香农冗余度 234

KL散度 235

沃瑟斯坦度量 236

生成式对抗网络 237



第 16章 记忆缺陷 241

数据的价值 241

数据泛滥 242

厕所问题 243

信息洪流的高速处理 244

卡尔曼滤波器 246

面对大数据的人类大脑 247

擦除记忆创伤 248

虚假回忆 250

用贝叶斯帮助记忆 252

短期记忆与长期记忆 253

递归神经网络 254

应该学什么，应该教什么？ 256



第 17章 睡梦是你的顾问 258

想法从何而来？ 258

人工智能的创新艺术 259

隐含狄利克雷分布 260

向LDA施以援手的中餐馆 262

蒙特卡罗模拟 263

随机梯度下降法 265

伪随机数 266

重要性抽样 267

重要性抽样能助LDA一臂之力 267

伊辛模型※ 269

玻尔兹曼机 270

MCMC与谷歌的PageRank 272

梅特罗波利斯－黑廷斯抽样 273

吉布斯抽样 274

MCMC与认知偏差 276

对比散度与梦 278



第 18章 抽象方法超出常理的有效性 280

深度学习，真的行！ 280

特征学习 282

单词的向量表示 283

指数式的表达能力※ 285

复杂性的涌现 286

柯尔莫哥洛夫精致度※ 287

精致度就是所罗门诺夫的MAP估计！※ 288

本内特的逻辑深度 290

数学的深度 292

数学的简洁性 293

数学的模块性 294



第 19章 贝叶斯大脑 297

大脑不可思议 297

山峰还是山谷？ 299

视错觉 300

运动的感知 301

贝叶斯抽样 302

归纳问题 304

学习如何学习 305

抽象的恩赐 306

婴儿都是天才 308

语言 308

学习计数 310

心智理论 311

先天还是后天？ 312



第 20章 一切都是虚构 314

柏拉图的洞穴 314

反实在主义 315

生命是否存在？ 316

货币是否存在？ 317

目的论，科学中的一条死路？ 320

关于现实，图灵－丘奇论题有何说法？ 324

（工具主义的）非实在论有用吗？ 325

大脑之外的世界是否存在？ 327

猫存在于二进制代码中吗？ 327

所罗门诺夫妖的非实在论 329



第 21章 信念的起源 330

发散级数的奇闻 330

但那是错的，不是吗？ 332

军官学生 333

我的亚洲之旅 335

都是因为魔鬼获得了权力？ 336

故事比数字更有效果 337

心理作用 339

意识形态的达尔文式演化 340

心理作用有用 342

视频网站的魔法 344

旅途仍在继续 344



第 22章 超越贝叶斯主义 346

贝叶斯不考虑道德哲学 346

自然（选择得到的）道德 347

无意识的道德 349

胡萝卜加大棒 352

大多数人的道德？ 353

道德义务论 355

知识是合理的目的吗？ 357

效用主义 359

贝叶斯结果论者 361

结语 363



致谢 365

人名对照表 366

注释和推荐阅读 373