现代CPU性能分析与优化

译者序

前言

致谢

作者简介

第1章导读1

1.1 为什么需要性能调优2

1.2 谁需要做性能调优5

1.3 什么是性能分析7

1.4 本书的主要内容8

1.5 本书不包含什么内容9

1.6 本章总结10

**部分 现代CPU性能分析

第2章 性能测量12

2.1 现代系统中的噪声13

2.2 生产环境中的性能测量15

2.3 自动检测性能退化问题16

2.4 手动性能测试18

2.5 软件计时器和硬件计时器22

2.6 微基准测试24

2.7 本章总结25

第3章 CPU微架构27

3.1 指令集架构27

3.2 流水线28

3.3 利用指令级并行30

3.3.1 乱序执行30

3.3.2 超标量引擎和超长指令字31

3.3.3 投机执行33

3.4 利用线程级并行34

3.5 存储器层次35

3.5.1 高速缓存层次35

3.5.2 主存39

3.6 虚拟内存39

3.7 单指令多数据多处理器40

3.8 现代CPU设计42

3.8.1 CPU前端42

3.8.2 CPU后端44

3.9 性能监控单元44

第4章 性能分析中的术语和指标47

4.1 退休指令与执行指令47

4.2 CPU利用率48

4.3 CPI和IPC48

4.4 微操作49

4.5 流水线槽位51

4.6 核时钟周期和参考时钟周期51

4.7 缓存未命中52

4.8 分支预测错误53

第5章 性能分析方法55

5.1 代码插桩56

5.2 跟踪58

5.3 负载表征59

5.3.1 统计性能事件59

5.3.2 手动收集性能计数60

5.3.3 事件多路复用和缩放62

5.4 采样63

5.4.1 用户模式采样和基于硬件

事件的采样64

5.4.2 寻找热点64

5.4.3 采集调用栈66

5.4.4 火焰图69

5.5 屋顶线性能模型69

5.6 静态性能分析73

5.7 编译器优化报告75

5.8 本章总结78

第6章 性能分析相关的CPU特性80

6.1 自顶向下微架构分析技术81

6.1.1 Intel VTune Prof iler中的

TMA84

6.1.2 Linux perf中的TMA85

6.1.3 **步：确定瓶颈86

6.1.4 第二步：定位具体的代码

位置88

6.1.5 第三步：解决问题90

6.1.6 小结91

6.2 *后分支记录92

6.2.1 采集LBR栈94

6.2.2 获取调用图95

6.2.3 识别热点分支96

6.2.4 分析分支预测错误率97

6.2.5 机器码的准确计时98

6.2.6 评估分支输出的概率100

6.2.7 其他应用场景101

6.3 基于处理器事件的采样101

6.3.1 精准事件102

6.3.2 降低采样开销103

6.3.3 分析内存访问104

6.4 Intel处理器跟踪技术105

6.4.1 工作流105

6.4.2 时间报文106

6.4.3 采集和解析跟踪文件107

6.4.4 用法108

6.4.5 磁盘空间和解析时间109

6.5 本章总结110

第二部分 基于源代码的

CPU调优

第7章 CPU前端优化117

7.1　机器码布局118

7.2　基本块118

7.3　基本块布局119

7.4　基本块对齐121

7.5　函数拆分123

7.6　函数分组125

7.7　基于剖析文件的编译优化126

7.8　对ITLB的优化128

7.9　本章总结128

第8章 CPU后端优化130

8.1　内存绑定130

8.1.1　缓存友好的数据结构131

8.1.2　显式内存预取136

8.1.3　针对DTLB优化138

8.2　核心绑定141

8.2.1　函数内联141

8.2.2　循环优化143

8.2.3　向量化149

8.3　本章总结158

第9章 优化错误投机160

9.1　用查表替换分支161

9.2　用断言替换分支162

9.3　本章总结164

第10章 其他调优165

10.1　编译时计算165

10.2　编译器内建函数166

10.3　缓存预热167

10.4　减少慢速浮点运算168

10.5　系统调优169

第11章 优化多线程应用程序171

11.1　性能扩展和开销171

11.2　并行效率指标174

11.2.1　有效CPU利用率174

11.2.2　线程数量174

11.2.3　等待时间175

11.2.4　自旋时间175

11.3　使用Intel VTune Profiler进行

分析175

11.3.1　寻找耗时锁175

11.3.2　平台视图178

11.4　使用Linux perf进行分析178

11.5　使用Coz进行分析181

11.6　使用eBPF和GAPP进行分析181

11.7　检测一致性问题182

11.7.1　缓存一致性协议182

11.7.2　真共享184

11.7.3　伪共享184

11.8　本章总结186

附录A 减少测量噪声188

附录B LLVM向量化程序193

跋198

术语200

参考文献20