[2019大数据视频教程]小白3天速成调度框架oozie(源码+视频+笔记)

接单狂魔
• 阅读 179

[2019大数据视频教程]小白3天速成调度框架oozie(源码+视频+笔记)
1、什么是Oozie

Apache Oozie是工作流调度用在Hadoop中。它是一个运行相关的作业工作流系统。这里,用户被允许创建向非循环图工作流程,其可以在并列 Hadoop 并顺序地运行。

它由两部分组成:

工作流引擎:一个工作流引擎的职责是存储和运行工作流程,由 Hadoop 作业组成:MapReduce, Pig, Hive.

协调器引擎:它运行基于预定义的时间表和数据的可用性工作流程作业。

Oozie可扩展性和可管理及时执行成千上万的工作流程(每个由几十个作业)的Hadoop集群。

Oozie 也非常灵活。人们可以很容易启动,停止,暂停和重新运行作业。Oozie 可以很容易地重新运行失败的工作流。可以很容易重做因宕机或故障错过或失败的作业。甚至有可能跳过一个特定故障节点。

2、Oozie三大功能模块

[2019大数据视频教程]小白3天速成调度框架oozie(源码+视频+笔记)

3、为什么要使用 Oozie ?

使用Oozie的主要目的是为了管理不同类型的作业在Hadoop系统中处理。

作业之间的依赖关系是由用户向无环图的形式指定。Oozie 的消费信息以及在工作流中指定负责其执行的顺序正确。这样,用户同时管理保存整个工作流程。此外 Oozie 有指定执行特定工作频率规定。

4、Oozie的特点

(1)Oozie 客户端 API 以及命令行界面可以用来启动,控制和监视Java应用程序作业

(2)使用其Web服务的API可以从任何位置控制作业

(3)Oozie有规定执行这些计划定期来运行作业

(4)Oozie 有规定作业完成后可发送电子邮件通知

5、课程简介

(1)本课程主要内容:你将学习到,Oozie的原理、安装配置、使用Oozie实现调度Shell脚本、逻辑调度多个Shell脚本、直接调度MapReduce任务以及定时逻辑调度多个任务。

(2)学习完本课程可以掌握:调度概念、调度流程、项目调度工作和CDH中oozie的使用等。

(3)本课程视频适合人群:所有了解或者系统学习过hadoop生态圈相关组件的人群。若对大数据没有相关了解,能听懂概念,很多操作不能关联。

(4)本课程视频所涉及软件版本:

centos 6.5

maven 3.3.9

pig 0.17

apach oozie 5.1.0

CDH 5.13.2

cdh-5.13.2-oozie-4.3.0

6、本期课程目录

01 oozie介绍

02 oozie的架构

03 oozie的编译准备

04 oozie的源码编译

05 oozie的server端安装

06 oozie的server测试

07 client端安装

08 oozie的常用命令

09 oozie的shell案例

10 oozie的map-reduce案例

11 oozie的fork和join

12 oozie的定时任务

7、免费资源获取方式:

免费领取方法一:

关注vx公众号“好程序员”,回复DT4,即可获取《2019最新小白速成调度框架oozie》学习视频+源码+笔记!想要资源的小伙伴,赶快领取!

点赞
收藏
评论区
推荐文章
blmius blmius
3年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
待兔 待兔
1年前
手写Java HashMap源码
HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22
Wesley13 Wesley13
3年前
PPDB:今晚老齐直播
【今晚老齐直播】今晚(本周三晚)20:0021:00小白开始“用”飞桨(https://www.oschina.net/action/visit/ad?id1185)由PPDE(飞桨(https://www.oschina.net/action/visit/ad?id1185)开发者专家计划)成员老齐,为深度学习小白指点迷津。
Jacquelyn38 Jacquelyn38
4年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
Wesley13 Wesley13
3年前
java activiti5 在线web流程设计器整合视频教程 SSM和独立部署
本视频为activiti工作流的web流程设计器整合视频教程整合Acitiviti在线流程设计器(ActivitiModeler5.21.0官方流程设计器)本视频共讲了两种整合方式1\.流程设计器和其它工作流项目分开部署的方式2\.流程设计器和SSM框架项目整合在一起的方式视频大小1.13GB~
Wesley13 Wesley13
3年前
activiti工作流的web流程设计器整合视频教程 SSM和独立部署
本视频为activiti工作流的web流程设计器整合视频教程整合Acitiviti在线流程设计器(ActivitiModeler5.21.0官方流程设计器)本视频共讲了两种整合方式1\.流程设计器和其它工作流项目分开部署的方式2\.流程设计器和SSM框架项目整合在一起的方式视频大小1.13GB~
Wesley13 Wesley13
3年前
activiti web流程设计器 工作流的 整合视频教程 SSM和独立部署
本视频为activiti工作流的web流程设计器整合视频教程整合Acitiviti在线流程设计器(ActivitiModeler5.21.0官方流程设计器)本视频共讲了两种整合方式1\.流程设计器和其它工作流项目分开部署的方式2\.流程设计器和SSM框架项目整合在一起的方式视频大小1.13GB~
Wesley13 Wesley13
3年前
Java工作流引擎
1.关键字工作流开发框架权限设计、用户组、岗位、集团模式应用.java工作流程引擎,.net工作流引擎,工作流开发框架1.相关的表结构\相关组织\表结构。SELECTNo,Name,ParentNoFROMport\_dept;  部门。SELECTNo,Name,Adminer,AdminerNam
Python进阶者 Python进阶者
1年前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这
美凌格栋栋酱 美凌格栋栋酱
5个月前
Oracle 分组与拼接字符串同时使用
SELECTT.,ROWNUMIDFROM(SELECTT.EMPLID,T.NAME,T.BU,T.REALDEPART,T.FORMATDATE,SUM(T.S0)S0,MAX(UPDATETIME)CREATETIME,LISTAGG(TOCHAR(
接单狂魔
接单狂魔
Lv1
绿杨烟外晓寒轻,红杏枝头春意闹。
文章
3
粉丝
0
获赞
0