ClickHouse性能之巅:从架构设计解读性能之谜

赞誉
序1
序2
自序
前言
**部分　架构篇
第1章　数据仓库的核心技术　3
1.1　OLAP和OLTP的本质区别　4
1.1.1　数据三范式　4
1.1.2　规范化的意义　6
1.1.3　规范化的局限　7
1.1.4　数仓建模的本质　7
1.1.5　OLAP和OLTP的底层数据模型　8
1.1.6　维度建模　8
1.2　典型大数据数仓技术及其核心思路　10
1.2.1　Hive　10
1.2.2　HBase　11
1.2.3　Kylin　12
1.2.4　其他数仓　13
1.3　传统数仓的缺陷　13
1.3.1　效率低　13
1.3.2　延迟高　14
1.3.3　成本高　14
1.4　ClickHouse查询性能的优势　15
1.4.1　向量化引擎　15
1.4.2　高效的数据压缩　16
1.4.3　高效的I/O优化　17
1.5　本章小结　18
第2章　ClickHouse简介　19
2.1　ClickHouse的4个标签　19
2.1.1　性能强大　19
2.1.2　单机处理能力强　20
2.1.3　成本低　21
2.1.4　不支持事务　21
2.2　ClickHouse的3个适用场景　22
2.2.1　BI报表的交互式分析　22
2.2.2　互联网日志分析　22
2.2.3　广告营销　23
2.3　本章小结　24
第3章　ClickHouse架构概览　25
3.1　ClickHouse架构简介　26
3.2　ClickHouse的核心抽象　27
3.2.1　列和字段　27
3.2.2　数据类型　28
3.2.3　块　32
3.2.4　表　33
3.3　ClickHouse的运作过程　35
3.3.1　数据插入过程　35
3.3.2　数据查询过程　35
3.3.3　数据更新和数据删除过程　36
3.4　本章小结　37
第4章　MergeTree存储引擎架构　39
4.1　MergeTree存储引擎的三大特点　40
4.2　MergeTree的数据组织　41
4.2.1　块　41
4.2.2　数据堆放方式　41
4.3　MergeTree的文件组织　43
4.3.1　数据文件、元数据文件、索引文件和其他文件　45
4.3.2　分区　47
4.3.3　数据库和表　48
4.4　索引　49
4.4.1　主键索引　49
4.4.2　标记　49
4.5　与事务数据库存储引擎的对比　50
4.6　存储引擎如何影响查询速度　52
4.6.1　预排序　52
4.6.2　列存　52
4.6.3　压缩　53
4.7　MergeTree存储引擎的工作过程　53
4.7.1　数据库、数据表的创建过程　54
4.7.2　数据插入过程　54
4.7.3　分区合并和删除过程　54
4.7.4　数据读取过程　56
4.8　本章小结　59
第5章　ClickHouse计算引擎架构　61
5.1　ClickHouse计算引擎的架构简介与设计思想　61
5.1.1　整体架构　62
5.1.2　SQL解析器　62
5.1.3　解释器　63
5.1.4　执行器　63
5.1.5　设计思想　64
5.2　火山模型　65
5.2.1　火山模型概述　65
5.2.2　火山模型的原理　66
5.2.3　火山模型的优点与缺点　67
5.3　向量化引擎　67
5.3.1　向量化引擎的实现方式　68
5.3.2　ClickHouse中的向量化算子　69
5.3.3　向量化引擎的前提　70
5.4　计算引擎如何影响查询速度　72
5.4.1　ClickHouse查询速度快的前提　72
5.4.2　ClickHouse查询速度快的本质　74
5.5　本章小结　74
第6章　ClickHouse与其他数仓架构的对比　75
6.1　ClickHouse与Hive的对比　75
6.1.1　Hive的数据文件　76
6.1.2　Hive的存储系统　82
6.1.3　Hive计算引擎与ClickHouse计算引擎的差异　84
6.1.4　ClickHouse比Hive查询速度快的原因　85
6.2　ClickHouse与HBase的对比　86
6.2.1　HBase的数据模型　86
6.2.2　HBase的存储系统与ClickHouse的异同　87
6.2.3　HBase的适用场景及ClickHouse不适合的原因　87
6.3　ClickHouse与Kylin的对比　88
6.3.1　Kylin的架构　88
6.3.2　Kylin解决性能问题的思路　88
6.3.3　Kylin方案的缺陷　89
6.3.4　ClickHouse的方案　89
6.4　本章小结　91
第7章　深度思考：决定外在能力的因素　93
7.1　从架构层面分析ClickHouse　93
7.1.1　ClickHouse速度快的前提　93
7.1.2　对ClickHouse的一些误解　94
7.2　结构决定功能　95
7.2.1　方法论　96
7.2.2　意义　97
7.2.3　不要过度设计　98
7.3　从ClickHouse的设计来理解　99
7.3.1　结构决定能力的上限　99
7.3.2　结构决定应用层算法　99
7.4　本章小结　100
第二部分　实战篇
第8章　ClickHouse使用技巧　105
8.1　数据导入、导出技巧　105
8.1.1　外部文件导入、导出技巧　105
8.1.2　灵活使用集成表引擎导入、导出数据　109
8.2　建表技巧　117
8.2.1　表引擎选择技巧　118
8.2.2　分区键选择技巧　120
8.2.3　数据结构选择技巧　120
8.2.4　分区技巧　121
8.3　高级技巧　121
8.3.1　物化视图　121
8.3.2　投影　122
8.3.3　位图　122
8.3.4　变更数据捕获　123
8.4　常见报错及处理方法　123
8.5　本章小结　124
第9章　ClickHouse实现用户画像系统　125
9.1　用户画像概述　125
9.1.1　用户画像系统介绍　125
9.1.2　用户画像系统的需求描述　127
9.1.3　用户画像系统的需求分析　127
9.1.4　用户画像系统的架构　128
9.2　用户画像系统的关键技术实现　129
9.2.1　技术选型　129
9.2.2　分析阶段　130
9.2.3　运营阶段　136
9.3　基于ClickHouse的用户画像系统的优点　137
9.4　本章小结　139
第10章　ClickHouse的存算分离架构　141
10.1　存算分离架构背景　141
10.1.1　相关概述　141
10.1.2　存算分离的典型架构　142
10.1.3　存算分离的意义　143
10.1.4　存算分离的局限　145
10.2　ClickHouse中的存算分离　147
10.2.1　实现方式　147
10.2.2　注意事项　150
10.3　存算分离架构给ClickHouse带来的优势　151
10.4　本章小结　152
第11章　ClickHouse的分布式架构　153
11.1　架构特点及对比　153
11.1.1　ClickHouse分布式架构的优点　154
11.1.2　ClickHouse分布式架构的缺点　155
11.1.3　ClickHouse与Hadoop的分布式架构对比　156
11.2　基本概念　156
11.2.1　集群　157
11.2.2　副本　158
11.2.3　分片　159
11.3　ClickHouse的复制表引擎　160
11.3.1　创建复制表　160
11.3.2　复制表复制　161
11.3.3　复制表查询　161
11.4　ClickHouse分布式表引擎　162
11.4.1　创建分布式表　162
11.4.2　分布式表查询原理　163
11.4.3　分布式表的数据写入方案　165
11.4.4　分布式表中副本的处理方式　165
11.5　本章小结　166
第12章　ClickHouse性能优化　167
12.1　性能优化的原则　167
12.2　数据结构优化　168
12.3　内存优化　171
12.4　磁盘优化　171
12.5　网络优化　173
12.6　CPU优化　173
12.7　查询优化　174
12.8　数据迁移优化　176
12.9　本章小结　177