大数据基础编程.实验和案例教程(第2版)

第1章大数据技术概述/1

1.1大数据时代/1

1.2大数据关键技术/2

1.3大数据软件/3

1.3.1Hadoop/4

1.3.2Spark/5

1.3.3NoSQL数据库/5

1.4内容安排/6

1.5在线资源/8

1.6本章小结/10

第2章Linux系统的安装和使用/11

2.1Linux系统简介/11

2.2Linux系统安装/11

2.2.1下载安装文件/12

2.2.2Linux系统的安装方式/12

2.2.3安装Linux虚拟机/13

2.2.4生成Linux虚拟机镜像文件/35

2.3Linux系统及相关软件的基本使用方法/36

2.3.1Shell/36

2.3.2root用户/37

2.3.3创建普通用户/37

2.3.4sudo命令/38

2.3.5常用的Linux系统命令/38

2.3.6文件解压缩/39

2.3.7常用的目录/39

2.3.8目录的权限/40

2.3.9更新APT/40

2.3.10切换中英文输入法/42

2.3.11vim编辑器的使用方法/42

2.3.12在Windows系统中使用SSH方式登录Linux系统/43

2.3.13在Linux系统中安装Eclipse/46

2.3.14其他使用技巧/47

2.4关于本书内容的一些约定/47

2.5本章小结/48

第3章Hadoop的安装和使用/49

3.1Hadoop简介/49

3.2安装Hadoop前的准备工作/49

3.2.1创建hadoop用户/50

3.2.2更新APT/50

3.2.3安装SSH/50

3.2.4安装Java环境/51

3.3安装Hadoop/52

3.3.1下载安装文件/53

3.3.2单机模式配置/53

3.3.3伪分布式模式配置/54

3.3.4分布式模式配置/61

3.4本章小结/70

第4章HDFS操作方法和基础编程/71

4.1HDFS操作常用的Shell命令/71

4.1.1查看命令的用法/71

4.1.2HDFS操作/73

4.2利用HDFS的Web管理界面/75

4.3HDFS编程实践/75

4.3.1在Eclipse中创建项目/75

4.3.2为项目添加需要用到的JAR包/76

4.3.3编写Java应用程序/79

4.3.4编译运行程序/82

4.3.5应用程序的部署/83

4.4本章小结/86

第5章HBase的安装和基础编程/88

5.1安装HBase/88

5.1.1下载安装文件/88

5.1.2配置环境变量/89

5.1.3添加用户权限/89

5.1.4查看HBase版本信息/89

5.2HBase的配置/90

5.2.1单机模式配置/90

5.2.2伪分布式模式配置/92

5.3HBase常用的Shell命令/94

5.3.1在HBase中创建表/94

5.3.2添加数据/94

5.3.3查看数据/95

5.3.4删除数据/96

5.3.5删除表/97

5.3.6查询历史数据/97

5.3.7退出HBase数据库/97

5.4HBase编程实践/98

5.4.1在Eclipse中创建项目/98

5.4.2为项目添加需要用到的JAR包/100

5.4.3编写Java应用程序/102

5.4.4编译运行程序/105

5.5本章小结/106

第6章典型NoSQL数据库的安装和使用/108

6.1Redis的安装和使用/108

6.1.1Redis简介/108

6.1.2安装Redis/108

6.1.3Redis实例演示/110

6.2MongoDB的安装和使用/111

6.2.1MongDB简介/111

6.2.2安装MongoDB/112

6.2.3使用Shell命令操作MongoDB/113

6.2.4Java API编程实例/118

6.3本章小结/122

第7章MapReduce基础编程/123

7.1词频统计任务要求/123

7.2MapReduce程序编写方法/124

7.2.1编写Map处理逻辑/124

7.2.2编写Reduce处理逻辑/124

7.2.3编写main方法/125

7.2.4完整的词频统计程序/126

7.3编译打包程序/127

7.3.1使用命令行编译打包词频统计程序/128

7.3.2使用Eclipse编译打包词频统计程序/128

7.4运行程序/136

7.5本章小结/139

第8章数据仓库Hive的安装和使用/140

8.1Hive的安装/140

8.1.1下载安装文件/140

8.1.2配置环境变量/141

8.1.3修改配置文件/141

8.1.4安装并配置MySQL/142

8.2Hive的数据类型/144

8.3Hive基本操作/145

8.3.1创建数据库、表、视图/145

8.3.2删除数据库、表、视图/146

8.3.3修改数据库、表、视图/147

8.3.4查看数据库、表、视图/148

8.3.5描述数据库、表、视图/148

8.3.6向表中装载数据/149

8.3.7查询表中数据/149

8.3.8向表中插入数据或从表中导出数据/149

8.4Hive应用实例: WordCount/150

8.5Hive编程的优势/151

8.6本章小结/151

第9章Spark的安装和基础编程/152

9.1基础环境/152

9.2安装Spark/152

9.2.1下载安装文件/152

9.2.2配置相关文件/153

9.3使用 Spark Shell编写代码/154

9.3.1启动Spark Shell/154

9.3.2读取文件/155

9.3.3编写词频统计程序/156

9.4编写Spark独立应用程序/157

9.4.1用Scala语言编写Spark独立应用程序/157

9.4.2用Java语言编写Spark独立应用程序/161

9.5本章小结/164

第10章Flink的安装和基础编程/165

10.1安装Flink/165

10.2编程实现WordCount程序/167

10.2.1安装Maven/167

10.2.2编写代码/167

10.2.3使用Maven打包Java程序/171

10.2.4通过flink run命令运行程序/172

10.3本章小结/172

第11章典型可视化工具的使用方法/173

11.1D3可视化库的使用方法/173

11.1.1D3可视化库的安装/173

11.1.2基本操作/174

11.2使用ECharts制作图表/182

11.2.1ECharts简介/182

11.2.2ECharts图表制作方法/182

11.3本章小结/185

第12章数据采集工具的安装和使用/186

12.1Kafka/186

12.1.1Kafka相关概念/186

12.1.2安装Kafka/186

12.1.3一个实例/187

12.2实例: 编写Spark程序使用Kafka数据源/188

12.2.1Kafka准备工作/188

12.2.2Spark准备工作/190

12.2.3编写Spark程序使用Kafka数据源/191

12.3本章小结/197

第13章大数据课程综合实验案例/198

13.1案例简介/198

13.1.1案例目的/198

13.1.2适用对象/198

13.1.3时间安排/198

13.1.4预备知识/198

13.1.5硬件要求/199

13.1.6软件工具/199

13.1.7数据集/199

13.1.8案例任务/199

13.2实验环境搭建/200

13.3实验步骤概述/200

13.4本地数据集上传到数据仓库Hive/201

13.4.1实验数据集的下载/201

13.4.2数据集的预处理/203

13.4.3导入数据库/206

13.5Hive数据分析/209

13.5.1简单查询分析/209

13.5.2查询条数统计分析/211

13.5.3关键字条件查询分析/213

13.5.4根据用户行为分析/214

13.5.5用户实时查询分析/215

13.6Hive、MySQL、HBase数据互导/216

13.6.1Hive预操作/216

13.6.2使用Java API将数据从Hive导入MySQL/217

13.6.3使用HBase Java API把数据从本地导入HBase中/222

13.7使用R进行数据可视化分析/229

13.7.1安装R/229

13.7.2安装依赖库/230

13.7.3可视化分析/232

13.8本章小结/236

第14章实验/237

14.1实验一： 熟悉常用的Linux操作和Hadoop操作/237

14.1.1实验目的/237

14.1.2实验平台/237

14.1.3实验步骤/237

14.1.4实验报告/239

14.2实验二: 熟悉常用的HDFS操作/239

14.2.1实验目的/239

14.2.2实验平台/239

14.2.3实验步骤/240

14.2.4实验报告/240

14.3实验三: 熟悉常用的HBase操作/241

14.3.1实验目的/241

14.3.2实验平台/241

14.3.3实验步骤/241

14.3.4实验报告/242

14.4实验四: NoSQL和关系数据库的操作比较/243

14.4.1实验目的/243

14.4.2实验平台/243

14.4.3实验步骤/243

14.4.4实验报告/246

14.5实验五: MapReduce初级编程实践/247

14.5.1实验目的/247

14.5.2实验平台/247

14.5.3实验步骤/247

14.5.4实验报告/249

14.6实验六: 熟悉Hive的基本操作/250

14.6.1实验目的/250

14.6.2实验平台/250

14.6.3数据集/250

14.6.4实验步骤/250

14.6.5实验报告/251

14.7实验七: Spark初级编程实践/252

14.7.1实验目的/252

14.7.2实验平台/252

14.7.3实验步骤/252

14.7.4实验报告/254

14.8实验八: Flink初级编程实践/254

14.8.1实验目的/254

14.8.2实验平台/254

14.8.3实验步骤/254

14.8.4实验报告/255

附录A实验参考答案/256

A.1“实验一: 熟悉常用的Linux操作和Hadoop操作”实验步骤/256

A.2“实验二: 熟悉常用的HDFS操作”实验步骤/261

A.3“实验三: 熟悉常用的HBase操作”实验步骤/280

A.4“实验四: NoSQL和关系数据库的操作比较”实验步骤/289

A.5“实验五: MapReduce初级编程实践”实验步骤/306

A.6“实验六: 熟悉Hive的基本操作”实验步骤/315

A.7“实验七: Spark初级编程实践”实验步骤/319

A.8“实验八: Flink初级编程实践”实验步骤/325

附录BLinux系统中的MySQL安装及常用操作/343

B.1安装MySQL/343

B.2MySQL常用操作/346

参考文献/350