千家信息网

azkaban的使用教程

发表于:2026-10-31 作者:千家信息网编辑
千家信息网最后更新 2026年10月31日,这篇文章主要介绍"azkaban的使用教程",在日常操作中,相信很多人在azkaban的使用教程问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答"azkaban的使用教程"
千家信息网最后更新 2026年10月31日azkaban的使用教程

这篇文章主要介绍"azkaban的使用教程",在日常操作中,相信很多人在azkaban的使用教程问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答"azkaban的使用教程"的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

登录

https://localhost:8443
注意是https,采用的是jetty ssl链接。输入账号密码azkaban/azkanban(如果你之前没有更改的话)

首页有四个菜单

  • projects:最重要的部分,创建一个工程,所有flows将在工程中运行。

  • scheduling:显示定时任务

  • executing:显示当前运行的任务

  • history:显示历史运行任务

主要介绍projects部分
首先创建一个工程,填写名称和描述,比如o2olog。

type=commandcommand=echo "data 2 hive"

一个简单的job就创建好了,解释下,type的command,告诉azkaban用unix原生命令去运行,比如原生命令或者shell脚本,当然也有其他类型,后面说。

一个工程不可能只有一个job,我们现在创建多个依赖job,这也是采用azkaban的首要目的。

flows创建

我们说过多个jobs和它们的依赖组成flow。怎么创建依赖,只要指定dependencies参数就行了。比如导入hive前,需要进行数据清洗,数据清洗前需要上传,上传之前需要从ftp获取日志。
定义5个job:

  1. o2o_2_hive.job:将清洗完的数据入hive库

  2. o2o_clean_data.job:调用mr清洗hdfs数据

  3. o2o_up_2_hdfs.job:将文件上传至hdfs

  4. o2o_get_file_ftp1.job:从ftp1获取日志

  5. o2o_get_file_fip2.job:从ftp2获取日志

依赖关系:
3依赖4和5,2依赖3,1依赖2,4和5没有依赖关系。

o2o_2_hive.job

type=command# 执行sh脚本,建议这样做,后期只需维护脚本就行了,azkaban定义工作流程command=sh /job/o2o_2_hive.shdependencies=o2o_clean_data

o2o_clean_data.job

type=command# 执行sh脚本,建议这样做,后期只需维护脚本就行了,azkaban定义工作流程command=sh /job/o2o_clean_data.shdependencies=o2o_up_2_hdfs

o2o_up_2_hdfs.job

type=command#需要配置好hadoop命令,建议编写到shell中,可以后期维护command=hadoop fs -put /data/*#多个依赖用逗号隔开dependencies=o2o_get_file_ftp1,o2o_get_file_ftp2

o2o_get_file_ftp1.job

type=commandcommand=wget "ftp://file1" -O /data/file1

o2o_get_file_ftp2.job

type=commandcommand=wget "ftp:file2" -O /data/file2

可以运行unix命令,也可以运行python脚本(强烈推荐)。将上述job打成zip包。
ps:为了测试流程,我将上述command都改为echo +相应命令

上传:

点击o2o_2_hive进入流程,azkaban流程名称以最后一个没有依赖的job定义的。

右上方是配置执行当前流程或者执行定时流程。

Flow view:流程视图。可以禁用,启用某些job
Notification:定义任务成功或者失败是否发送邮件
Failure Options:定义一个job失败,剩下的job怎么执行
Concurrent:并行任务执行设置
Flow Parametters:参数设置。

1.执行一次
设置好上述参数,点击execute。

绿色代表成功,蓝色是运行,红色是失败。可以查看job运行时间,依赖和日志,点击details可以查看各个job运行情况。

我们可以点击Detail查看详细输出,以及报错。

2.定时执行

其他job配置选项

  • 可以定义job依赖另一个flow,配置

type=flowflow.name=fisrt_flow
  • 可以设置每个job中子命令

type=commandcommand=echo "hello"command.1=echo "world"
  • 可以配置job失败重启次数,及间隔时间,比如,上述ftp获取日志,我可以配置重试12次,每隔5分钟一次。

type=commandcommand=wget "ftp://file1" -O /data/file1retries=12#单位毫秒retry.backoff=300000

到此,关于"azkaban的使用教程"的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注网站,小编会继续努力为大家带来更多实用的文章!

运行 流程 命令 脚本 配置 任务 日志 教程 工程 数据 学习 清洗 参数 多个 建议 成功 只需 名称 工作流程 时间 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 互联网科技 广东万易互联网科技有限公司惠州分公司 金融科技 互联网金融 西安互联网科技 互联网科技公司官网 壹账通互联网科技 亿人帮互联网科技 互联网科技咨询 中正互联网科技招聘 江苏南京365互联网科技 重庆互联网医院沙龙医盟信息科技 青岛科技大学互联网大赛研究生 知域互联网科技有限公司大骗子 科技类公司包括互联网吗 互联网科技公司营业执照怎么办理 深圳无忧互联网科技 西安有哪些互联网高科技企业 三亚科技创新互联网基地 盐城市攀科互联网科技有限公司 河南商务圈互联网科技有限公司 互联网科技公司发展 智慧科技互联网 互联网科技小额贷款 广州善班互联网科技 互联网科技革命什么开始 互联网科技扶贫时间 东莞新华互联网科技学校 互联网与数字科技关系 互联网高科技行业有哪些企业 科技发展第三阶段互联网时代
0