收藏

Hadoop 系统入门+核心精讲

新手入门大数据要学的第一门课

Hadoop 系统入门+核心精讲

难度 中级 时长 24小时30分钟 学习人数 1980 综合评分 9.98

Hadoop 系统入门+核心精讲

  • 第1章 大数据概述 试看 12 节 | 58分钟

    本章将从故事说起,让大家明白大数据是与我们的生活息息相关的,并不是遥不可及的,还会介绍大数据的特性,以及大数据对我们带来的技术变革,大数据处理过程中涉及到的技术以及大数据典型应用。

    收起列表

    • 视频: 1-1 课程导学 (14:27) 试看
    • 图文: 1-2 ***学前必读***(助你平稳踩坑,畅学无忧,课程学习与解决问题指南)
    • 视频: 1-3 课程目录 (01:52)
    • 视频: 1-4 从一个案例说起 (03:54)
    • 视频: 1-5 什么是大数据以及大数据的4V特征 (08:30) 试看
    • 视频: 1-6 大数据带来的技术变革 (05:37)
    • 视频: 1-7 大数据现存的模式 (02:29)
    • 视频: 1-8 大数据的技术概念 (08:47)
    • 视频: 1-9 大数据带来的挑战 (04:18)
    • 视频: 1-10 如何对大数据进行存储和分析 (03:54)
    • 视频: 1-11 大数据典型应用 (03:14)
    • 作业: 1-12 【讨论题】谈谈你对大数据就业岗位的认知
  • 第2章 初识Hadoop 10 节 | 63分钟

    本章节将带领大家认识Hadoop以及Hadoop生态系统、Hadoop的发展史、Hadoop的优势、Hadoop的三个核心组件、Hadoop发行版的选择,为后续深入讲解Hadoop打下坚实的基础。

    收起列表

    • 视频: 2-1 课程目录 (02:48)
    • 视频: 2-2 Hadoop概述 (14:21)
    • 视频: 2-3 Hadoop核心组件之HDFS概述 (07:07)
    • 视频: 2-4 Hadoop核心组件之MapReduce (05:02)
    • 视频: 2-5 Hadoop核心组件之YARN (02:44)
    • 视频: 2-6 Hadoop优势 (03:03)
    • 视频: 2-7 Hadoop发展史 (06:06)
    • 视频: 2-8 Hadoop生态圈 (06:32)
    • 视频: 2-9 Hadoop发行版选型 (07:39)
    • 视频: 2-10 OOTB环境的使用 (06:43)
  • 第3章 分布式文件系统HDFS 42 节 | 286分钟

    本章将从Hadoop的设计目标、架构及文件系统命令空间出发,快速搭建单节点伪分布式HDFS的实验环境,通过讲解使用hdfs shell以及Java API的方式操作HDFS文件系统,详细分析HDFS文件的读写流程,并通过HDFS API来实现词频统计案例,使得大家对Hadoop分布式文件系统HDFS有深刻的认识以及实战。 ...

    收起列表

    • 视频: 3-1 HDFS概述 (08:45)
    • 视频: 3-2 HDFS设计目标 (10:17)
    • 视频: 3-3 HDFS架构详解 (15:36)
    • 视频: 3-4 文件系统NameSpace详解 (03:14)
    • 视频: 3-5 HDFS副本机制 (04:33)
    • 视频: 3-6 本课程使用的Linux环境介绍 (14:13)
    • 视频: 3-7 Hadoop部署前置介绍 (10:26)
    • 视频: 3-8 JDK1.8部署详解 (06:32)
    • 视频: 3-9 ssh无密码登陆部署详解 (07:42)
    • 视频: 3-10 Hadoop安装目录详解及hadoop-env配置 (09:23)
    • 视频: 3-11 HDFS格式化以及启动详解 (11:48)
    • 视频: 3-12 HDFS常见文件之防火墙干扰 (03:53)
    • 视频: 3-13 Hadoop停止集群以及如何单个进程启动 (03:48)
    • 视频: 3-14 Hadoop命令行操作详解 (14:47)
    • 视频: 3-15 深度剖析Hadoop文件的存储机制 (07:56)
    • 视频: 3-16 HDFS API编程之开发环境搭建 (10:00)
    • 视频: 3-17 HDFS API编程之第一个应用程序的开发 (08:57)
    • 视频: 3-18 HDFS API编程之jUnit封装 (05:41)
    • 视频: 3-19 HDFS API编程之查看HDFS文件内容 (02:04)
    • 视频: 3-20 HDFS API编程之创建文件并写入内容 (02:19)
    • 视频: 3-21 HDFS API编程之副本系数深度剖析 (05:25)
    • 视频: 3-22 HDFS API编程之重命名 (02:01)
    • 视频: 3-23 HDFS API编程之copyFromLocalFile (01:59)
    • 视频: 3-24 HDFS API编程之带进度的上传大文件 (05:26)
    • 视频: 3-25 HDFS API编程之下载文件 (01:44)
    • 视频: 3-26 HDFS API编程之列出文件夹下的所有内容 (04:58)
    • 视频: 3-27 HDFS API编程之递归列出文件夹下的所有文件 (04:03)
    • 视频: 3-28 HDFS API编程之查看文件块信息 (04:29)
    • 视频: 3-29 HDFS API编程之删除文件 (01:59)
    • 视频: 3-30 HDFS项目实战之需求分析 (03:38)
    • 视频: 3-31 HDFS项目实战之代码框架编写 (13:17)
    • 视频: 3-32 HDFS项目实战之自定义上下文 (03:58)
    • 视频: 3-33 HDFS项目实战之自定义处理类实现 (04:19)
    • 视频: 3-34 HDFS项目实战之功能实现 (02:59)
    • 视频: 3-35 HDFS项目实战之使用自定义配置文件重构代码 (10:26)
    • 视频: 3-36 HDFS项目实战之使用反射创建自定义Mapper对象 (04:43)
    • 视频: 3-37 HDFS项目实战之可插拔的业务逻辑处理 (02:06)
    • 视频: 3-38 HDFS Replica Placement Policy (10:07)
    • 视频: 3-39 HDFS写数据流程图解 (10:39)
    • 视频: 3-40 HDFS读数据流程图解 (05:09)
    • 视频: 3-41 HDFS Checkpoint详解 (14:36)
    • 视频: 3-42 HDFS SaveMode (05:17)
  • 第4章 分布式计算框架MapReduce 试看 17 节 | 128分钟

    本章将从架构、编程模型等角度带大家认识Hadoop的分布式计算框架MapReduce,掌握MapReduce各个核心组件编程,并通过两个案例让大家深入掌握MapReduce编程的方方面面。

    收起列表

    • 视频: 4-1 课程目录 (02:28)
    • 视频: 4-2 MapReduce概述 (05:27)
    • 视频: 4-3 MapReduce编程模型详解 (09:52)
    • 视频: 4-4 MapReduce编程模型核心概念详解 (08:14)
    • 视频: 4-5 词频统计之自定义Mapper实现 (12:13)
    • 视频: 4-6 词频统计之自定义Reducer实现 (07:37)
    • 视频: 4-7 词频统计之自定义Driver类实现 (17:15)
    • 视频: 4-8 词频统计之本地方式运行 (02:29)
    • 视频: 4-9 词频统计之通过Debug方式进一步了解偏移量以及重构代码 (06:43)
    • 视频: 4-10 词频统计升级之Combiner操作 (12:55) 试看
    • 视频: 4-11 流量统计实战之需求 (06:48)
    • 视频: 4-12 流量统计实战之自定义复杂数据类型 (04:22)
    • 视频: 4-13 流量统计实战之自定义Mapper类 (04:22)
    • 视频: 4-14 流量统计实战之自定义Reducer实现 (02:24)
    • 视频: 4-15 流量统计实战之Driver开发 (06:56)
    • 视频: 4-16 流量统计实战之代码重构及NullWritable的使用 (01:48)
    • 视频: 4-17 流量统计实战升级之自定义Partitioner (15:08)
  • 第5章 资源调度框架YARN 8 节 | 61分钟

    本章将从YARN的产生背景、YARN的架构及执行流程的角度带大家认知Hadoop的资源调度框架YARN,快速搭建单节点伪分布式YARN的实验环境并掌握如何提交MapReduce作业提交到YARN上运行。

    收起列表

    • 视频: 5-1 课程目录 (02:28)
    • 视频: 5-2 YARN产生背景 (08:07)
    • 视频: 5-3 YARN概述 (06:43)
    • 视频: 5-4 YARN架构详解 (09:29)
    • 视频: 5-5 YARN执行流程 (04:50)
    • 视频: 5-6 YARN环境部署 (08:33)
    • 视频: 5-7 提交example案例到YARN上运行 (09:33)
    • 视频: 5-8 提交流量统计案例到YARN上运行 (10:27)
  • 第6章 电商项目实战Hadoop实现 21 节 | 127分钟

    本章将通过电商用户行为日志分析的项目实战,来将前面几个章节讲解的知识点串联起来,综合使用Hadoop的技术进行离线统计分析。

    收起列表

    • 视频: 6-1 课程目录 (02:29)
    • 视频: 6-2 用户行为日志概述 (10:58)
    • 视频: 6-3 为什么要记录用户行为日志 (02:17)
    • 视频: 6-4 日志内容介绍 (05:42)
    • 视频: 6-5 用户行为日志分析的意义所在 (04:53)
    • 视频: 6-6 电商常用术语 (03:58)
    • 视频: 6-7 项目需求描述 (02:02)
    • 视频: 6-8 数据处理流程及技术架构 (07:11)
    • 视频: 6-9 浏览量统计功能实现 (11:25)
    • 视频: 6-10 省份浏览量统计之IP库解析 (05:11)
    • 视频: 6-11 省份浏览量统计之日志解析 (08:38)
    • 视频: 6-12 省份浏览量统计之功能实现 (11:44)
    • 视频: 6-13 页面浏览量统计之页面编号获取 (06:12)
    • 视频: 6-14 页面浏览量统计之功能实现 (04:40)
    • 视频: 6-15 数据处理过程中ETL的重要性 (04:20)
    • 视频: 6-16 原始日志ETL操作 (09:22)
    • 视频: 6-17 浏览量统计功能升级 (01:17)
    • 视频: 6-18 省份浏览量统计功能升级 (03:51)
    • 视频: 6-19 页面浏览量统计功能升级思路 (00:29)
    • 视频: 6-20 打包到服务器上运行 (10:02)
    • 视频: 6-21 项目扩展 (09:33)
  • 第7章 数据仓库Hive 19 节 | 103分钟

    本章将从Hive的产生背景、体系架构、Hive部署、DDL以及DML来掌握Hive使用的方方面面。

    收起列表

    • 视频: 7-1 课程目录 (02:58)
    • 视频: 7-2 Hive产生背景 (05:01)
    • 视频: 7-3 Hive是什么 (05:51)
    • 视频: 7-4 为什么要使用Hive (03:53)
    • 视频: 7-5 Hive在Hadoop生态圈中的位置 (01:43)
    • 视频: 7-6 Hive体系架构 (07:05)
    • 视频: 7-7 Hive部署架构 (07:30)
    • 视频: 7-8 Hive与RDBMS的区别 (02:42)
    • 视频: 7-9 Hive部署 (08:08)
    • 视频: 7-10 Hive快速入门 (06:58)
    • 视频: 7-11 Hive DDL之数据库操作 (12:37)
    • 视频: 7-12 Hive DDL之表操作 (09:25)
    • 视频: 7-13 Hive DML之加载和导出数据 (09:15)
    • 视频: 7-14 Hive QL基本统计 (03:08)
    • 视频: 7-15 Hive QL之聚合函数 (02:25)
    • 视频: 7-16 Hive QL之分组函数 (06:07)
    • 视频: 7-17 Hive QL之join的使用 (03:39)
    • 视频: 7-18 Hive QL执行计划 (03:47)
    • 作业: 7-19 【讨论题】Hive高可用架构的思考
  • 第8章 电商项目实战Hive实现 7 节 | 39分钟

    本章将使用Hive对电商用户行为日志分析进行重新实现,让大家对MapReduce编程和Hive实现的方式进行对比,体会Hive在生产上使用的便捷性。

    收起列表

    • 视频: 8-1 课程目录 (01:40)
    • 视频: 8-2 外部表在Hive中的使用 (07:19)
    • 视频: 8-3 track_info分区表的创建 (03:36)
    • 视频: 8-4 将ETL的数据加载到Hive表 (11:03)
    • 视频: 8-5 使用Hive完成统计分析功能 (09:55)
    • 视频: 8-6 Hive实现项目的方便性体现 (04:51)
    • 作业: 8-7 【讨论题】大数据处理过程中关于血缘关系的思考
  • 第9章 Hadoop分布式集群搭建 8 节 | 38分钟

    本章将带领大家搭建一个三个节点的分布式Hadoop集群环境,让大家对于Hadoop集群的安装有更深入的认识,并将项目实战案例运行在分布式集群环境中。

    收起列表

    • 视频: 9-1 课程目录 (01:35)
    • 视频: 9-2 Hadoop集群规划 (04:39)
    • 视频: 9-3 前置条件安装 (04:12)
    • 视频: 9-4 JDK安装 (04:20)
    • 视频: 9-5 Hadoop集群部署 (14:56)
    • 视频: 9-6 提交作业到Hadoop集群上运行 (02:30)
    • 视频: 9-7 课程总结 (05:29)
    • 作业: 9-8 【讨论题】关于Hadoop高可用架构的思考
  • 第10章 (彩蛋番外篇)Join在MapReduce中的实现 5 节 | 54分钟

    本章将从SQL中的join入手,详细剖析如何在MapReduce中实现JOIN,这是面试中经常被考察到的点,考察你的MapReduce功底以及优化策略。

    收起列表

    • 视频: 10-1 Join概述 (08:07)
    • 视频: 10-2 ReduceJoin流程分析 (08:15)
    • 视频: 10-3 ReduceJoin功能实现 (19:32)
    • 视频: 10-4 MapJoin实现原理 (04:44)
    • 视频: 10-5 MapJoin功能实现 (12:49)
  • 第11章 (讨论群内直播内容分享)Hadoop小问题剖析 6 节 | 46分钟

    本次分享中,主要针对剖析小文件的产生、对集群带来的影响以及解决方案相关内容进行了讲解。

    收起列表

    • 视频: 11-1 小文件问题 (04:13)
    • 视频: 11-2 什么是小文件 (04:16)
    • 视频: 11-3 小文件怎么产生的 (07:19)
    • 视频: 11-4 小文件解决方案(上) (11:19)
    • 视频: 11-5 小文件解决方案(下) (11:01)
    • 视频: 11-6 Hadoop真的凉了吗 (07:30)
  • 第12章 (讨论群内直播内容分享)Hadoop的特性在生产上的使用 3 节 | 44分钟

    本次分享主题主要剖析在生产上常用的Hadoop特性,如:小文件、集群间数据拷贝、回收站等。

    收起列表

    • 视频: 12-1 文件归档及透明访问 (13:45)
    • 视频: 12-2 distcp及scp (14:59)
    • 视频: 12-3 回收站 (14:20)
  • 第13章 (彩蛋番外篇)Hadoop3.x新特性及实操 17 节 | 115分钟

    本章中,将带领大家学习里程碑版本hadoop 3.x中带来了哪些新特性;掌握云主机的选型以及如何基于云主机进行Hadoop3.x的部署及使用;同时将升级本课程内容到Hadoop3.2.1。

    收起列表

    • 视频: 13-1 课程目录 (04:46)
    • 视频: 13-2 如何从官网获取Hadoop3.x新特性 (03:02)
    • 视频: 13-3 Hadoop3.x新特性之JDK8 (02:14)
    • 视频: 13-4 Hadoop3.x新特性之EC技术详解 (21:25)
    • 视频: 13-5 Hadoop3.x新特性之其他 (13:38)
    • 视频: 13-6 云服务器及大数据相关产品了解_1 (04:35)
    • 视频: 13-7 如何快速选型并开通云主机 (13:26)
    • 视频: 13-8 云主机配置修改 (05:21)
    • 视频: 13-9 JDK部署 (04:27)
    • 视频: 13-10 HDFS部署 (10:47)
    • 视频: 13-11 免密码登陆配置 (03:45)
    • 视频: 13-12 YARN部署及使用 (07:11)
    • 视频: 13-13 Hadoop3.x端口问题分析 (06:04)
    • 视频: 13-14 将项目升级运行到Hadoop3.x之上 (07:54)
    • 视频: 13-15 云服务器停止及销毁 (03:19)
    • 视频: 13-16 本章小结 (02:48)
    • 作业: 13-17 【讨论题】谈谈你对Hadoop框架过时的看法
  • 第14章 (彩蛋番外篇)压缩在大数据中的使用 14 节 | 59分钟

    本章中,将向大家介绍,压缩能为我们带来哪些好处,压缩格式以及压缩场景,压缩和解压缩编程实战,Hadoop结合压缩的使用。

    收起列表

    • 视频: 14-1 课程目录 (03:06)
    • 视频: 14-2 为什么要使用压缩 (05:20)
    • 视频: 14-3 压缩的使用场景 (05:58)
    • 视频: 14-4 压缩使用的注意事项- (05:02)
    • 视频: 14-5 常见压缩格式- (01:56)
    • 视频: 14-6 Codec详解 (05:42)
    • 视频: 14-7 压缩编程实战 (11:16)
    • 视频: 14-8 解压缩编程实战 (03:44)
    • 视频: 14-9 压缩和解压缩在Hadoop源码中的体现 (03:08)
    • 视频: 14-10 Hadoop整合压缩使用之代码设置 (07:16)
    • 视频: 14-11 Hadoop整合压缩使用之配置文件设置 (03:00)
    • 视频: 14-12 作业 (01:25)
    • 视频: 14-13 本章小结 (02:02)
    • 作业: 14-14 【讨论题】关于压缩的思考
  • 第15章 (彩蛋番外篇)Hive必考的SQL功能及窗口函数 25 节 | 130分钟

    在离线业务的各种业务指标分析时,行列互转、累积问题及窗口函数是在工作以及面试时必须要掌握的技能。在本章节的课程中,将通过知识点和案例带大家一起来掌握这项必备的技能。

    收起列表

    • 视频: 15-1 课程目录 (01:44)
    • 视频: 15-2 行转列功能需求分析 (04:46)
    • 视频: 15-3 行转列数据准备 (01:35)
    • 视频: 15-4 行转列功能实现 (07:27)
    • 视频: 15-5 列转行功能需求分析 (02:39)
    • 视频: 15-6 列转行功能实现 (05:16)
    • 视频: 15-7 累计问题之需求分析 (11:16)
    • 视频: 15-8 累计问题之第一部分功能实现 (03:52)
    • 视频: 15-9 累计问题之第二和第三个部分功能实现 (09:35)
    • 视频: 15-10 累计问题之SQL调优 (06:42)
    • 视频: 15-11 累计问题之窗口函数实现 (09:03)
    • 视频: 15-12 引出窗口函数 (05:28)
    • 视频: 15-13 窗口函数之求和及窗口如何划分 (13:14)
    • 视频: 15-14 窗口函数之LEAD&LAG (06:34)
    • 视频: 15-15 窗口函数之FIRST_VALUE&LAST_VALUE (02:19)
    • 视频: 15-16 窗口函数之NTILE (04:15)
    • 视频: 15-17 窗口函数之ROW_NUMBER&RANK&DENSE_RANK (05:39)
    • 视频: 15-18 窗口函数之CUME_DIST&PERCENT_RANK (07:51)
    • 视频: 15-19 窗口函数实战之准备工作 (03:04)
    • 视频: 15-20 窗口函数实战之功能二实现 (03:03)
    • 视频: 15-21 窗口函数实战之功能一实现 (07:42)
    • 视频: 15-22 窗口函数实战之功能三实现 (01:16)
    • 视频: 15-23 窗口函数实战之功能四实现 (01:33)
    • 视频: 15-24 窗口函数实战之功能五实现 (01:37)
    • 视频: 15-25 窗口函数实战之作业 (01:41)
  • 第16章 (彩蛋番外篇)Hive核心调优 10 节 | 71分钟

    生产上业务对应的Hive作业如何能高效的运行,这是作为一枚合格的大数据工程师的技能。本章节中,将带领大家一起针对Hive方方面面的调优进行探讨和学习。

    收起列表

    • 视频: 16-1 课程目录 (03:44)
    • 视频: 16-2 Hive调优概述 (08:17)
    • 视频: 16-3 调优之本地模式 (07:59)
    • 视频: 16-4 调优之初识执行计划 (11:57)
    • 视频: 16-5 调优之如何使用执行计划进行案例分析 (08:29)
    • 视频: 16-6 调优之JVM重用 (05:16)
    • 视频: 16-7 调优之并行执行 (06:48)
    • 视频: 16-8 调优之抓取策略 (04:45)
    • 视频: 16-9 调优之严格模式 (05:09)
    • 视频: 16-10 调优总结 (07:59)
本课程已完结

试看

全部试看小节



讲师

Michael_PK 全栈工程师

八年互联网公司一线研发经验,担任大数据架构师。 主要从事基于Spark/Flink为核心打造的大数据公有云、私有云数据平台产品的研发。 改造过Hadoop、Spark等框架的源码为云平台提供更高的执行性能。 集群规模过万,有丰富的大数据项目实战经验以及授课经验(授课数千小时,深受学员好评)。

讲师其他课程

课程预览

检测到您还没有关注慕课网服务号,无法接收课程更新通知。请扫描二维码即可绑定
重新观看
意见反馈 帮助中心 APP下载
官方微信

学习咨询

选课、学习遇到问题?

扫码添加指导老师 1V1 帮助你!

添加后老师会第一时间解决你的问题