大数据应用技术与实践（微课版）-图书-人邮教育社区

内容摘要

本书讲解了一个大数据综合项目——电影市场的预测。本书根据大数据技术在实际工作中的应用过程分为10个工作任务，分别从初识Hadoop、搭建Hadoop集群、数据上传、配置Hadoop高可用、数据清洗、使用MapReduce统计电影上映情况与排序、数据建仓、数据分析、数据迁移和数据可视化方面，对大数据技术的应用过程进行说明与操作演示。
本书附有配套资源，包括源代码、教学涉及、教学课件等资源。
本书可作为高等院校本、专科大数据相关专业的教材，书中的具体项目，有助于读者综合运用大数据知识及各种工具软件，实现大数据项目整体过程的操作。

工作任务1
初识Hadoop 1
任务概述 1
学习目标 1
任务1.1 了解大数据 1
【知识链接】 1
1.1.1 什么是大数据 1
1.1.2 大数据的特征 2
1.1.3 研究大数据的意义 3
任务1.2 了解大数据的应用场景 4
【知识链接】 4
1.2.1 医疗行业的应用 4
1.2.2 金融行业的应用 5
1.2.3 零售行业的应用 5
任务1.3 了解Hadoop 6
【知识链接】 6
1.3.1 Hadoop的发展历程 6
1.3.2 Hadoop的优势 7
1.3.3 Hadoop的生态体系 8
1.3.4 Hadoop的版本 10
任务小结 12
课后习题 12
相关阅读—“第七次全国人口普查”中的
大数据技术应用 13

工作任务2
搭建Hadoop集群 14
任务概述 14
学习目标 14
预备知识—集群和虚拟机 14
任务2.1 安装虚拟机 16
【任务描述】 16
【知识链接】 16
2.1.1 VMware软件 16
2.1.2 Linux操作系统 16
2.1.3 Hadoop集群 17
【任务实施】 17
任务2.2 克隆虚拟机 23
【任务描述】 23
【知识链接】 23
2.2.1 克隆和备份的区别 23
2.2.2 VMware的克隆类型 24
【任务实施】 24
任务2.3 网络配置 25
【任务描述】 25
【知识链接】 26
【任务实施】 26
任务2.4 SSH服务配置 29
【任务描述】 29
【知识链接】 29
【任务实施】 29
任务2.5 Hadoop集群搭建 32
【任务描述】 32
【知识链接】 32
【任务实施】 32
任务小结 37
课后习题 38
相关阅读—名副其实的“网络大国” 39
工作任务3
数据上传 40
任务概述 40
学习目标 40
预备知识—HDFS概述 40
任务3.1 使用Shell命令将电影数据上传
到Hadoop 42
【任务描述】 42
【知识链接】 42
3.1.1 HDFS架构组成 42
3.1.2 HDFS的Shell操作 43
【任务实施】 45
任务3.2 使用Java API上传电影数据 46
【任务描述】 46
【知识链接】 46
3.2.1 HDFS写数据流程 46
3.2.2 HDFS读数据流程 47
3.2.3 NameNode和Secondary
NameNode工作机制 47
3.2.4 DataNode工作机制 49
【任务实施】 49
任务小结 51
课后习题 51
相关阅读—根服务器 52

工作任务4
配置Hadoop高可用 53
任务概述 53
学习目标 53
预备知识—服务器的可用性和高可用性 53
任务4.1 配置ZooKeeper集群 54
【任务描述】 54
【知识链接】 54
4.1.1 Hadoop中的单点故障 54
4.1.2 ZooKeeper组件 54
【任务实施】 55
任务4.2 配置HDFS-HA集群 57
【任务描述】 57
【知识链接】 57
【任务实施】 58
任务4.3 配置HDFS-HA集群自动故障
转移 61
【任务描述】 61
【知识链接】 61
4.3.1 自动故障转移机制概述 61
4.3.2 ZKFC 62
【任务实施】 63
任务小结 64
课后习题 65
相关阅读—航天装备的高可用 65

工作任务5
数据清洗 66
任务概述 66
学习目标 66
预备知识—数据清洗概述 66
任务5.1 清洗电影数据 67
【任务描述】 67
【知识链接】 67
5.1.1 MapReduce组件 67
5.1.2 MapReduce编程思想 68
5.1.3 Hadoop序列化 70
【任务实施】 71
任务5.2 数据分区 78
【任务描述】 78
【知识链接】 78
5.2.1 切片与MapTask并行度决定
机制 78
5.2.2 MapReduce工作流程 79
【任务实施】 81
任务小结 82
课后习题 82
相关阅读—深度学习开源平台飞桨 83

工作任务6
使用MapReduce统计电影上映情况与排序 84
任务概述 84
学习目标 84
预备知识—数据统计概述 84
任务6.1 统计每部电影上映的次数 85
【任务描述】 85
【任务实施】 85
任务6.2 统计每部电影的上映天数和平均
票房 88
【任务描述】 88
【任务实施】 88
任务6.3 按平均票房降序排列 90
【任务描述】 90
【任务实施】 91
任务小结 94
课后习题 94
相关阅读—许宝騄，中国统计学家的
先驱 94

工作任务7
数据建仓 96
任务概述 96
学习目标 96
预备知识—数据库与数据仓库 96
任务7.1 安装与配置Hive 97
【任务描述】 97
【知识链接】 97
7.1.1 Hive概述 97
7.1.2 Hive和数据库比较 98
7.1.3 Hive架构原理 99
【任务实施】 101
任务7.2 将元数据迁移到MySQL 101
【任务描述】 101
【任务实施】 102
任务7.3 使用Hive进行数据建仓 104
【任务描述】 104
【知识链接】 104
7.3.1 HQL的数据类型 104
7.3.2 HQL的数据定义语言 106
7.3.3 HQL的数据操作语言 109
【任务实施】 110
任务小结 111
课后习题 111
相关阅读—数据库泄露 111

工作任务8
数据分析 112
任务概述 112
学习目标 112
预备知识—数据分析概述 112
任务8.1 查询某年全年电影数据 113
【任务描述】 113
【知识链接】 113
8.1.1 Hive数据导出 113
8.1.2 Hive查询 113
【任务实施】 120
任务8.2 统计周平均票房 121
【任务描述】 121
【知识链接】 121
【任务实施】 121
任务8.3 统计北京和上海某年一季度票房
收入 122
【任务描述】 122
【任务实施】 122
任务小结 127
课后习题 127
相关阅读—诚信意识 127

工作任务9
数据迁移 128
任务概述 128
学习目标 128
预备知识—数据迁移概述 128
任务9.1 安装和配置Sqoop 129
【任务描述】 129
【知识链接】 129
【任务实施】 130
任务9.2 迁移清洗后的电影数据 131
【任务描述】 131
【知识链接】 131
9.2.1 导入数据 131
9.2.2 导出数据 133
【任务实施】 133
任务9.3 迁移日平均票房数据 134
【任务描述】 134
【任务实施】 134
任务9.4 迁移周平均票房数据 135
【任务描述】 135
【任务实施】 135
任务9.5 迁移北京和上海某年一季度票房
数据 136
【任务描述】 136
【任务实施】 136
任务小结 137
课后习题 137
相关阅读—删库事件 138

工作任务10
数据可视化 139
任务概述 139
学习目标 139
预备知识—数据可视化概述 139
任务10.1 使用Spring Boot搭建Web
系统 140
【任务描述】 140
【任务实施】 140
任务10.2 显示全部电影数据 143
【任务描述】 143
【任务实施】 144
任务10.3 使用柱状图显示电影的日平均
票房 146
【任务描述】 146
【任务实施】 146
任务10.4 使用饼图显示电影的周平均
票房 150
【任务描述】 150
【任务实施】 150
任务10.5 使用折线图显示北京和上海
某年一季度电影票房走势 153
【任务描述】 153
【任务实施】 153
任务小结 157
课后习题 157
相关阅读—中华人民共和国2022年国民
经济和社会发展统计公报 158