`
sunxboy
  • 浏览: 2877930 次
  • 性别: Icon_minigender_1
  • 来自: 武汉
社区版块
存档分类
最新评论

azkaban plugin在cdh cloudera环境下的配置之 jobtype插件

 
阅读更多

复制编译后的jobtype到exec服务的插件下,

cp dist/jobtype/packages/azkaban-jobtype-${git.tag}.tar.gz
/home/app/azkaban/azkaban-exec-server/plugins/jobtypes
cd /home/app/azkaban/azkaban-exec-server/plugins/jobtypes
tar -zxvf azkaban-jobtype-${git.tag}.tar.gz
解压之后将azkaban-jobtype-${git.tag}目录下的内容移动到/home/app/azkaban/azkaban-exec-server/plugins/jobtypes目录,然后rm -rf azkaban-jobtype-${git.tag}

2.在/home/app/azkaban/azkaban-exec-server/conf/azkaban.properties配置文件里增加一行语句:

azkaban.jobtype.plugin.dir=plugins/jobtypes

3.vim plugins/jobtypes/common.properties

## everything that the user job can know
##配置hadoop、hive、spark home
hadoop.home=/home/app/hadoop-2.7.2
hive.home=/home/app/hive-2.1.1
#pig.home=
spark.home=/home/app/spark2.1

azkaban.should.proxy=false

4.vim plugins/jobtypes/commonprivate.properties

## hadoop security manager setting common to all hadoop jobs
hadoop.security.manager.class=azkaban.security.HadoopSecurityManager_H_2_0

## hadoop security related settings

# proxy.keytab.location=
# proxy.user=

# azkaban.should.proxy=true
 azkaban.should.proxy=false
# obtain.binary.token=true
 obtain.binary.token=false
# obtain.namenode.token=true
# obtain.jobtracker.token=true

# global classpath items for all jobs. e.g. hadoop-core jar, hadoop conf
#jobtype.global.classpath=${hadoop.home}/*,${hadoop.home}/conf
# global jvm args for all jobs. e.g. java.io.temp.dir, java.library.path
#jobtype.global.jvm.args=

# hadoop
#hadoop.home=/home/app/hadoop-2.7.2
#pig.home=
hadoop.home=/home/app/hadoop-2.7.2
hive.home=/home/app/hive-2.1.1
#hive.home=
spark.home=/home/app/spark2.1
hadoop.classpath=${hadoop.home}/etc/hadoop,${hadoop.home}/share/hadoop/common/*,${hadoop.home}/share/hadoop/common/lib/*,${hadoop.home}/share/hadoop/hdfs/*,${hadoop.home}/share/hadoop/hdfs/lib/*,${hadoop.home}/share/hadoop/yarn/*,${hadoop.home}/share/hadoop/yarn/lib/*,${hadoop.home}/share/hadoop/mapreduce/*,${hadoop.home}/share/hadoop/mapreduce/lib/*
jobtype.global.classpath=${hadoop.home}/etc/hadoop,${hadoop.home}/share/hadoop/common/*,${hadoop.home}/share/hadoop/common/lib/*,${hadoop.home}/share/hadoop/hdfs/*,${hadoop.home}/share/hadoop/hdfs/lib/*,${hadoop.home}/share/hadoop/yarn/*,${hadoop.home}/share/hadoop/yarn/lib/*,${hadoop.home}/share/hadoop/mapreduce/*,${hadoop.home}/share/hadoop/mapreduce/lib/*
# configs for jobtype security settings
execute.as.user=tru

5.复制一份azkaban-jobtype-${git.tag}.jar到azkaban-exec-server/extlib目录下

6.由于使用 azkaban.security.HadoopSecurityManager_H_2_0, 故将plugins/jobtypes/下的 hadoopsecurity.jar 替换成 azkban-hadoopsecuritymanageryarn-3.0.0.jar

分享到:
评论

相关推荐

    Azkaban - 定时任务系统的配置与运行详解

    Azkaban 的配置文件位于 `/opt/module/azkaban/conf` 目录下,其中包括 `azkaban.properties`、`executor.properties` 和 `web.properties` 等文件。 在 `azkaban.properties` 文件中,需要配置数据库连接信息: ``...

    azkaban开发环境配置

    ### Azkaban开发环境配置详解 #### 一、基础环境搭建 ##### JDK & Eclipse 配置 为了确保Azkaban开发环境能够顺利运行,首先需要完成JDK与Eclipse的基本配置。 1. **JDK环境配置** - **JDK保存地址** - 安装...

    Azkaban任务调度安装配置和使用

    4. **获取安装包**:编译完成后,可以在指定目录下找到azkaban-exec-server和azkaban-web-server的安装包。 综上所述,Azkaban作为一个高效、灵活的工作流调度系统,在大数据处理领域具有广泛的应用前景。通过本文...

    azkaban2.5.0安装插件

    4. **配置Azkaban**:编辑`azkaban-executor-server-2.5.0`和`azkaban-web-server-2.5.0`目录下的配置文件,如`conf/azkaban.properties`,设置数据库连接信息、服务器端口等参数。 5. **启动服务**:分别启动...

    azkaban配置邮件内容log链接

    azkaban配置邮件内容log链接,可以配置azkaban邮件发送内容中的url链接配置:点击直接指向azkaban web服务器,解决localhost问题

    调度系统-----azkaban任务环境配置使用说明.txt

    描述真实大数据集群下,azkaban调度得运维实践步骤。 特别是azkaban重启后得一些坑,例如executor在mysql中得元数据记录处理。启动步骤。

    CDH搭建hadoop环境文档指南

    Hadoop是用Java编写的,并在分布式环境下提供数据存储和处理的能力。 #### 搭建Hadoop环境所需硬件要求 - **节点数**:至少需要3个节点以保证服务的高可用性,建议使用独立的物理服务器,避免使用虚拟机。 - **内存...

    azkaban-web-server-亲测可用

    1. **环境配置**:确保Java环境已安装,Azkaban依赖Java运行。同时,需要配置好Hadoop(如果需要与Hadoop集群交互的话)和其他依赖的环境变量。 2. **下载与解压**:从官方仓库或镜像站点下载azkaban-web-server-...

    vagrant plugin install vagrant-triggers

    The Vagrantfile requires the plugin vagrant-triggers. To install the plugin run: $ vagrant plugin install vagrant-triggers 安装Docker的管理程序 Deis 在 vagrant,需要安装vagrant-triggers,由于网络...

    azkaban-3.84.4,修改邮箱端口号465 编译版本

    在这样的背景下,我们需要理解SMTP的工作原理以及如何在Azkaban中配置它。SMTP服务器使用端口25进行通信,但某些网络环境,特别是云服务提供商,出于安全考虑可能会阻止此端口的出站连接。阿里云就是其中之一,它...

    Azkaban4.0.zip

    在Azkaban4.0.zip中,我们可以预见到这个压缩包包含了完整的Azkaban4.0源码、构建脚本、配置文件、可执行文件以及可能的示例工作流。这个"最新官方源码编译后的安装包文件"意味着用户可以直接下载并进行安装,无需...

    Azkaban调度工具,里面包含Azkaban安装包及依赖包

    在解压后,用户通常需要按照官方文档的指引配置环境变量,连接数据库,并启动Azkaban服务器。 使用Azkaban,IT专业人员可以构建高效的数据处理流程,提升工作效率,同时减少人为错误。对于大数据团队来说,掌握...

    azkaban-3.84.4改mysql驱动为8.x版本

    在实际生产环境中,确保备份现有配置和数据,以免因升级出现问题。 5. **配置更改**: 升级驱动可能需要对Azkaban的配置文件进行一些调整,特别是如果你的数据库连接设置在`conf/azkaban.properties`或其他相关配置...

    azkaban 最新的编译包

    `azkaban-hadoop-security-plugin-0.1.0-SNAPSHOT.tar.gz`是这个插件的编译版本,对于那些需要在安全环境中运行Azkaban的用户来说非常关键。 5. **Azkaban-DB**: Azkaban数据库用于存储工作流定义、执行历史等...

    azkaban4.0编译包

    2. **解压服务器组件**:将`azkaban-exec-server-0.1.0-SNAPSHOT.tar.gz`和`azkaban-web-server-0.1.0-SNAPSHOT.tar.gz`解压到合适的目录,并配置相应的环境变量,如JAVA_HOME和AZKABAN_HOME。 3. **配置Azkaban**...

    azkaban2.5 配置 jar包完整版

    3. **配置Azkaban.properties**:这是Azkaban的主要配置文件,需要根据实际环境配置数据库连接、服务器端口、邮件服务器等信息。 4. **配置log4j.properties**:用于控制日志输出的级别和格式。 5. **启动Azkaban**...

    azkaban 编译与部署

    - 克隆完成后,会在当前目录下生成名为`azkaban`的文件夹。 2. **源码编译**: - 进入`azkaban`目录:`cd azkaban`。 - 执行编译命令:`./gradlew DistTar`。这一步会生成一系列用于部署的文件。 #### 三、...

    azkaban安装配置_azkaban安装配置_

    Azkaban是一款开源的工作流执行引擎,主要用于大数据处理工作流的调度。它的设计目标是简化批处理作业的调度,提供了一种直观的方式...希望本文提供的信息能帮助你成功安装和配置Azkaban,开始你的大数据作业调度之旅。

    Azkaban-3.73.1-windows.zip

    在Windows环境下部署Azkaban时,你需要按照以下步骤进行: 1. 首先,解压这三个zip文件。 2. 安装并配置数据库,根据azkaban-db-0.1.0-SNAPSHOT.zip中的文档创建Azkaban所需的数据库和表。 3. 配置Azkaban Web...

    azkaban-plugins:Azkaban的插件

    2. **执行器插件**:定制作业执行器,以适应不同的运行环境或处理特殊任务,如分布式执行或资源限制。 3. **日志收集插件**:扩展日志收集和分析能力,例如集成ELK(Elasticsearch, Logstash, Kibana)堆栈进行实时...

Global site tag (gtag.js) - Google Analytics