首页 实战 Python3实战Spark大数据分析及调度
收藏

Python3实战Spark大数据分析及调度

Python3玩转Spark开发,Azkana让作业井然有序

Python3实战Spark大数据分析及调度

难度 中级 时长 15小时 学习人数 1046 综合评分 9.99

本课程使用python3实战讲解了Spark核心功能组件,并结合调度爆款框架Azkaban,来对作业进行调度,最后以天气数据分析做为实战项目,让你学会对大数据进行处理与分析,让Python开发人员也能对Spark应用程序进行开发及调优。

Michael_PK
讲师

资深大数据架构师

课程预览

检测到您还没有关注慕课网服务号,无法接收课程更新通知。请扫描二维码即可绑定
重新观看

Python3迎战Spark核心组件

不会Scala ? 让Python带你开发Spark应用程序

核心RDD

RDD是什么及特性
RDD创建方式
SparkContext&SparkConf详解
使用IDE开发pyspark应用程序
提交spark应用程序到服务器上运行

RDD编程详解

RDD中常用Transformation算子使用
RDD中常用Action算子使用
处理词频统计迭代&访问量TopN
处理平均数&实现二次排序
面试题:Python Spark实现聚合功能

进阶

Spark核心概念&运行架构
Spark UI& Spark Shuffle详解
Spark和Hadoop重要概念区分
Spark中缓存的作用及选择
Spark窄依赖和宽依赖
Spark Lineage

Spark SQL

Spark SQL的架构
DataFrame&Dataset
使用Python API对DataFrame进行编程
Spark SQL常见的认识错误及纠正

Spark调优

序列化
内存管理
数据结构
广播变量
数据本地性

Spark Streaming

Spark Streaming概述
常用实时流处理框架
Spark Streaming执行原理、核心概念
使用PySpark API对Spark Streaming编程

Azkaban任务调度 让Spark作业运行井然有序

从基础、实战到进阶,完美的Azkaban学习之路
常见的调度框架介绍
Azkaban概述
Azkaban架构
Azkaban运行模式 
Azkaban源码下载及编译
单机版部署及配置文件详解
实操案例快速入门
Dependency作业
HDFS作业
MapReduce作业
Hive作业
Spark作业
定时作业
告警邮件发送
Azkaban权限管理
Two Server Mode环境部署及案例使用
Azkaban Plugin及Ajax API的使用
Azkaban短信告警及定制化改造思路

PySpark+Azkaban 实战气象数据业务分析项目

使用爆款框架,掌握大数据处理与分析
构建大数据平台

企业级大数据应用
企业级大数据分析平台
企业级数据开发流程
大数据分析系统处理流程

项目实战

根据数据量评估集群规划
企业常规需求分析
实战项目功能实现

上线

项目部署到YARN上运行

学习主流新技术,做一个与时俱进的工程师

大数据领域,Apache Spark是最受瞩目的开源项目之一,在国内外众多公司中广泛使用

不会Java、Scala语言的Python开发人员也能够使用Spark进行数据处理分析

不仅讲Azkaban,还讲Azkaban存在的弊端以及改进思路

结合项目实战,详解大数据分析平台的技术选型、以及集群资源的综合评估

学员专享增值服务

问答专区

关于课程的问题都可在问答区随时提问,讲

师会进行集中答疑

源码开放

课程案例代码完全开放给你,你可以根据

所学知识,自行修改、优化

适合人群

了解Python语言的想使用Spark进行数据处理分析的人员
了解Hadoop,想快速提升Spark技能的小伙伴
想转行投身大数据行业的小伙伴

技术储备要求

熟悉常用Linux命令的使用
掌握Python同时有数据库SQL基础

环境参数

  • Spark 版本 2.3.0
  • Python版本 3.6.5
  • Azkaban 3.x
  • Hadoop版本 CDH(5.7)
  • JDK 1.8以上
  • ES 6.3.0
  • Kibana 6.3.0

万事俱备 只等你来

  • maomaoking

    好评

    pk老师的课程都买了,一整套学习下来,发现项目实战按照老师的操作基本可以实现,我是想,如果在工作中,我拿到一个任务,我能否有思路呢?课程很好,希望能多推出更多更牛逼的项目实战课程!学习了spark_sql日志分析和spark_String以及Storm之后听这个课程会变得很简单。正在总结这几门课程,准备秋招哦!!!!

  • MindHacks

    好评

    老师的课程含金量不错,干货不少,而且授人以渔的讲授方法论,挺好的。买了全套课程支持一下老师。也希望我这个Java工程师转大数据工程师可以顺利。

  • 老司莱斯

    好评

    老师讲课通俗易懂,提纲挈领过官方文档这步很良心,感觉这是对于系统学习 spark 最重要的学习方法。为老师打 call 接下来会考虑购买老师的其它课程。希望给我们这些“老顾客”设置一些优惠。

查看全部234条用户评价
提问
数据加载中...
意见反馈 帮助中心 APP下载
官方微信

学习咨询

选课、学习遇到问题?

扫码添加指导老师 1V1 帮助你!

添加后老师会第一时间解决你的问题