`

Azkaban安装

 
阅读更多
一.下载
https://github.com/azkaban/azkaban
git clone https://github.com/azkaban/azkaban.git
或wget azkaban.version url


二.编译
o build Azkaban packages from source, run:

./gradlew distTar
The above command builds all Azkaban packages and packages them into GZipped Tar archives. To build Zip archives, run:

./gradlew distZip
If not building for the first time, it's good to clean first:

./gradlew clean


三.安装配置
cd /opt
tar zxvf azkaban-exec-server-3.1.0.tar.gz
tar zxvf azkaban-web-server-3.1.0.tar.gz
tar zxvf azkaban-sql-3.1.0.tar.gz

mysql> use azkaban;

mysql> source /opt/azkaban-sql-3.1.0/create-all-sql-3.1.0.sql


keytool -keystore keystore -alias jetty -genkey -keyalg RSA

1.webserver,
conf/azkaban.properties关注点,配置路径用绝对路径, keystore密码

# Azkaban Personalization Settings
azkaban.name=Test
azkaban.label=My Local Azkaban
azkaban.color=#FF3601
azkaban.default.servlet.path=/index
web.resource.dir=/opt/azkaban/azkaban-web-server-0.1.0-SNAPSHOT/web/
default.timezone.id=Asia/Shanghai

# Azkaban UserManager class
user.manager.class=azkaban.user.XmlUserManager
user.manager.xml.file=conf/azkaban-users.xml

# Loader for projects
executor.global.properties=conf/global.properties
azkaban.project.dir=projects

database.type=mysql
mysql.port=3306
mysql.host=172.18.203.131
mysql.database=azkaban
mysql.user=root
mysql.password=rootROOT1.
mysql.numconnections=100

# Velocity dev mode
velocity.dev.mode=false

# Azkaban Jetty server properties.
jetty.maxThreads=25
jetty.ssl.port=8443
# jetty.use.ssl=false
jetty.port=8081
jetty.keystore=keystore
jetty.password=password(记得改成keystore中密码)
jetty.keypassword=keypassword(记得改成keystore中密码)
jetty.truststore=keystore
jetty.trustpassword=password(记得改成keystore中密码)
jetty.excludeCipherSuites=SSL_RSA_WITH_DES_CBC_SHA,SSL_DHE_RSA_WITH_DES_CBC_SHA,SSL_DHE_DSS_WITH_DES_CBC_SHA,SSL_RSA_EXPORT_WITH_RC4_40_MD5,SSL_RSA_EXPORT_WITH_DES40_CBC_SHA,SSL_DHE_RSA_EXPORT_WITH_DES40_CBC_SHA,SSL_DHE_RSA_WITH_3DES_EDE_CBC_SHA,SSL_DHE_DSS_WITH_3DES_EDE_CBC_SHA,TLS_DHE_RSA_WITH_AES_256_CBC_SHA256,TLS_DHE_DSS_WITH_AES_256_CBC_SHA256,TLS_DHE_RSA_WITH_AES_256_CBC_SHA,TLS_DHE_DSS_WITH_AES_256_CBC_SHA,TLS_DHE_RSA_WITH_AES_128_CBC_SHA256,TLS_DHE_DSS_WITH_AES_128_CBC_SHA256,TLS_DHE_RSA_WITH_AES_128_CBC_SHA,TLS_DHE_DSS_WITH_AES_128_CBC_SHA

# Azkaban Executor settings
executor.port=12321

# mail settings
mail.sender=
mail.host=
job.failure.email=
job.success.email=

lockdown.create.projects=false

cache.directory=cache

# JMX stats
jetty.connector.stats=true
executor.connector.stats=true


conf 目录,修改 azkaban-users.xml

<azkaban-users>
<user username="azkaban" password="azkaban" roles="admin" groups="azkaban" />
<user username="metrics" password="metrics" roles="metrics"/>
<user username="admin" password="admin" roles="admin,metrics" />
<role name="admin" permissions="ADMIN" />
<role name="metrics" permissions="METRICS"/>
</azkaban-users>


conf 目录,修改 log4j.properties

log4j.rootLogger=INFO,C
log4j.appender.C=org.apache.log4j.ConsoleAppender
log4j.appender.C.Target=System.err
log4j.appender.C.layout=org.apache.log4j.PatternLayout
log4j.appender.C.layout.ConversionPattern=%d{yyyy-MM-dd HH:mm:ss} %-5p %c{1}:%L - %m%n



2.excutor server

# Azkaban
default.timezone.id=Asia/Shanghai

# Azkaban JobTypes Plugins
azkaban.jobtype.plugin.dir=/opt/azkaban/azkaban-exec-server-0.1.0-SNAPSHOTplugins/jobtypes

# Loader for projects
executor.global.properties=conf/global.properties
azkaban.project.dir=projects

database.type=mysql
mysql.port=3306
mysql.host=172.18.203.131
mysql.database=azkaban
mysql.user=root
mysql.password=rootROOT1.
mysql.numconnections=100

# Azkaban Executor settings
executor.maxThreads=50
executor.port=12321
executor.flow.threads=30

# JMX stats
jetty.connector.stats=true
executor.connector.stats=true

# uncomment to enable inmemory stats for azkaban
#executor.metric.reports=true
#executor.metric.milisecinterval.default=60000




3.修改 /plugins/jobtypes、commonprivate.properties避免很多报错
# set execute-as-user
execute.as.user=false
memCheck.enabled=false
azkaban.native.lib=false


四.任务创建:

cat > /opt/azkaban/azkaban-exec-server-0.1.0-SNAPSHOT/projects/foo.job
type=command
command=echo "Hello World"


  cat > /opt/azkaban-exec-server-0.1.0-SNAPSHOT/projects/bar.job
type=command
dependencies=foo
command=echo "bar"

五.任务压缩打包, 登录上传,配置定时任务
https://172.18.203.131:8443   azkaban azkaban


分享到:
评论

相关推荐

    Azkaban安装部署使用详细篇

    ### Azkaban 3.39.0 版本安装部署及使用详解 #### 一、Azkaban介绍 Azkaban是一款强大的开源任务调度工具,主要用于管理一系列依赖的批量处理作业,尤其适用于Hadoop环境下的大数据处理流程。Azkaban提供了一个...

    大数据教程-Azkaban安装实录.pdf

    ### 大数据教程-Azkaban安装实录详细知识点 #### 一、Azkaban概述 Azkaban是由LinkedIn公司开发的一个简单的、易于使用的、功能强大的批处理工作流调度器。它用于调度和管理大量Hadoop作业。Azkaban旨在维护作业...

    Azkaban安装与使用

    Azkaban安装与使用

    调度工具 - azkaban安装配置,使用手册.zip

    以下是对Azkaban安装配置和使用方法的详细说明: **一、Azkaban概述** Azkaban的核心功能包括: 1. **作业调度**:基于时间或者前一个作业的完成情况触发作业执行。 2. **依赖管理**:作业间可以设置依赖关系,确保...

    azkaban安装配置_azkaban安装配置_

    本文将深入讲解Azkaban的安装与配置过程,以及如何使用它来管理你的大数据任务。 **一、Azkaban简介** Azkaban由LinkedIn开发,它支持单个作业的执行,同时也可以处理有依赖关系的作业链。通过定义作业间的依赖关系...

    Azkaban-3.73.1-windows.zip

    2. 安装并配置数据库,根据azkaban-db-0.1.0-SNAPSHOT.zip中的文档创建Azkaban所需的数据库和表。 3. 配置Azkaban Web服务器和执行器服务器,修改各自配置文件(如conf/azkaban.properties)以指向正确的数据库连接...

    电商数仓项目(五) Azkaban 安装、配置和使用 编译后的文件

    **安装 Azkaban** 1. **下载源码**:首先,你需要从 Azkaban 的官方网站或 GitHub 仓库下载最新版本的源代码。 2. **编译源码**:解压下载的源码包后,使用 Maven 进行编译。在源码目录下运行 `mvn clean package`...

    azkaban 编译与部署

    #### 三、Azkaban安装与部署 1. **编译好的包复制到服务器**: - 将编译好的Azkaban包复制到目标服务器上,通常会放在`/home/hadoop/azkaban`这样的路径下。 2. **数据库初始化**: - 创建Azkaban使用的数据库:...

    azkaban的简介与使用介绍

    该PPT主要对AZKABAN的各部分组件及akzaban的架构个各个组件的功能及他们的用途做了简单的介绍

    Azkaban-3.84.4 安装包(可供免费下载学习)

    内容概要:Azkaban安装包包括以下内容:1. Azkaban的Java源代码和构建文件。2. 数据库的SQL脚本,用于创建和初始化Azkaban所需的数据库表。3. 配置文件,用于配置Azkaban的各种参数和属性。4. 启动脚本,用于启动和...

    azkaban安装操作

    azkaban的编译,到安装。安装每个环节的细节和需要注意事项!

    自己寫整理的一些文檔,關於azkaban,kylin,fastdfs,tableau

    【Azkaban安装使用教程】 Azkaban是一款开源的工作流执行服务器,主要用于管理和调度大数据处理任务。它提供了Web界面,用户可以通过这个界面提交作业、创建依赖关系和管理工作流程。以下是一些关于Azkaban安装和...

    大数据技术之Azkaban3.X视频教程

    Azkaban安装部署;Azkaban复杂工作流的配置部署,工作流配置文件的编写规则;Azkaban工作流失败重试机制及定时调度;Azkaban邮件报警;Azkaban电话报警等。 本套教程为老版教程的全新升级,基于Azkaban版本3.x讲解...

    Azkaban3.13安装版

    1. **安装过程**:由于描述中提到“下载即可安装”,这意味着Azkaban3.13的安装应该相当直接。通常,这包括解压下载的`azkaban-3.13.0`压缩包,配置相关的环境变量,如`AZKABAN_HOME`,然后启动Azkaban服务器和Web...

    Azkaban4.0.zip

    6. **文档**:可能包含README文件或其他形式的文档,解释如何安装、配置和使用Azkaban4.0。 安装Azkaban4.0的过程通常包括以下几个步骤: 1. **环境准备**:确保系统满足Azkaban的运行要求,例如Java环境的安装。 ...

    azkaban2.5.0安装插件

    6. **验证安装**:通过Web浏览器访问Web Server的地址,如果能看到Azkaban的登录界面,表示安装成功。 Azkaban支持多种数据处理工具的集成,例如Hadoop MapReduce、Hive、Pig等,通过工作流定义文件(`.job`)来...

    Azkaban操作指南.zip

    二、Azkaban安装与配置 1. 环境准备:确保系统已经安装了Java运行环境(JRE)和Apache Maven。 2. 下载源码:从Azkaban的GitHub仓库获取最新版本的源代码。 3. 构建项目:使用Maven构建Azkaban项目,生成可执行的War...

Global site tag (gtag.js) - Google Analytics