大数据技能竞赛知识点解析与实践

实验环境配置说明
第1章Linux操作系统
1.1主机名配置
1.1.1设置主机名
1.1.2Hosts映射
1.2防火墙配置与管理
1.2.1防火墙操作命令
1.2.2配置防火墙规则
1.3时间同步
1.3.1同步网络时间
1.3.2同步服务器时间
1.4定时任务管理
1.5SSH远程访问
1.5.1SSH协议
1.5.2SSH连接工具
1.6软件包管理
1.6.1软件配置
1.6.2下载安装软件
思考与练习
第2章数据库技术
2.1MySQL数据库
2.1.1MySQL的安装
2.1.2数据库操作管理
2.1.3数据表操作管理
2.1.4数据操作管理
2.1.5视图
2.1.6权限管理
2.1.7备份与还原
2.1.8SQL优化
2.2非关系型数据库NoSQL
2.2.1HBase列式数据库
2.2.2Redis数据库
2.2.3MongoDB文件数据库
思考与练习
第3章大数据平台技术
3.1Hadoop分布式大数据框架
3.1.1搭建Hadoop伪分布式集群
3.1.2搭建Hadoop完全分布式集群
3.1.3命令行方式管理HDFS
3.1.4使用开发工具连接Hadoop
集群
3.1.5Java API操作HDFS
3.1.6分布式计算框架之MapReduce
3.1.7编写MapReduce方法
3.1.8配置Hadoop集群高可用
（HA）
3.2Hive数据仓库
3.2.1本地模式安装Hive数据仓库
3.2.2Hive数据仓库的常见属性
3.2.3Hive DDL操作
3.2.4Hive DML操作
3.2.5Hive中的数据查询
3.2.6Hive中的窗口函数
3.2.7案例：国内主要城市房屋出租
情况统计分析
3.3HBase数据库
3.3.1搭建HBase伪分布式集群
3.3.2HBase的Shell操作
3.3.3HBase的Java API操作
3.3.4使用HBase的过滤器
3.3.5HBase与MapReduce的集成
3.3.6HBase与Hive的集成
3.3.7HBase与Sqoop的集成
3.4Spark技术框架
3.4.1集群安装部署
3.4.2Spark Shell
3.4.3Spark SQL
3.4.4Spark Streaming
3.4.5Spark MLlib
3.4.6Structured Streaming实时计算
3.5大数据平台运维与管理
3.5.1故障排查
3.5.2性能调优
3.6大数据框架应用
3.6.1协调框架：ZooKeeper
3.6.2数据收集：Flume
3.6.3数据传输：Sqoop
3.6.4任务调度工具：Azkaban
思考与练习
第4章数据采集与分析
目录4.1报表数据处理
4.1.1数据预处理
4.1.2数据分析
4.2网络信息获取技术
4.2.1HTTP基本原理
4.2.2网页组成
4.2.3网络请求
4.2.4正则表达式
4.2.5XPath解析
4.2.6Beautiful Soup
4.2.7数据存储
4.3数据统计分析
4.3.1描述性分析
4.3.2探索性分析
4.3.3缺失值分析
4.3.4方差分析
4.3.5T检验
4.3.6卡方检验
思考与练习
第5章数据挖掘与数据可视化
5.1数据挖掘
5.1.1线性回归
5.1.2逻辑回归
5.1.3支持向量机
5.1.4朴素贝叶斯
5.1.5决策树
5.1.6时间序列分析
5.1.7关联分析
5.1.8K-Means聚类
5.1.9主成分分析
5.2数据可视化
5.2.1报表可视化
5.2.2Matplotlib可视化
5.2.3Seaborn可视化
5.2.4ECharts实现数据可视化
5.2.5D3实现数据可视化
5.2.6FineBI实现数据可视化
5.2.7Tableau实现数据可视化
5.3业务分析报告撰写
5.3.1明确背景与目的
5.3.2寻找合适数据
5.3.3数据分析与图表
5.3.4报告结论与建议
5.3.5逻辑结构清晰
思考与练习