`
fighting_2013
  • 浏览: 15492 次
  • 性别: Icon_minigender_1
社区版块
存档分类
最新评论

Oozie运行Hadoop

阅读更多
1.解压oozie目录下的oozie-client-3.3.2.tar.gz、oozie-examples.tar.gz、oozie-sharelib-3.3.2.tar.gz
2.拷贝examples目录到HDFS上面
hadoop fs –copyFromLocal examples /user/hadoop/
3.修改oozie目录下examples/apps/map-reduce/job.properties
主要是修改NameNode和JobTracker的值
nameNode=hdfs://centos.master:9000
jobTracker=centos.master:9001
4.执行相关命令
bin/oozie job -oozie http://centos.master:11000/oozie -config ../examples/apps/map-reduce/job.properties -run

可以修改/etc/profile
export OOZIE_URL=http://centos.master:11000/oozie
以后执行就不必在带上
-oozie http://centos.master:11000/oozie

分享到:
评论

相关推荐

    win10下搭建Hadoop环境(jdk+mysql+hadoop+scala+hive+spark) 3.docx

    在Windows 10环境下搭建Hadoop生态系统,包括JDK、MySQL、Hadoop、Scala、Hive和Spark等组件,是一项繁琐但重要的任务,这将为你提供一个基础的大数据处理平台。下面将详细介绍每个组件的安装与配置过程。 **1. JDK...

    Apache Hadoop---Oozie.docx

    Apache Hadoop 中,Oozie 是一个至关重要的组件,它是一个开源的工作流调度引擎,专门设计用于管理和协调在Hadoop生态系统中的各种作业。Oozie 由Cloudera公司贡献给Apache社区,它是一个基于工作流引擎的系统,能够...

    oozie-4.3.0

    此版本可能引入了新的特性,优化了性能,增强了与 Hadoop 其他组件的兼容性,以及解决了已知的问题,以提供更稳定的运行环境。 3. **Hadoop 集成:** Oozie 与 Hadoop 紧密集成,支持 HDFS (Hadoop 分布式文件系统) ...

    oozie配置文件

    例如,`oozie.service.JPAService.jdbc.url`用于指定Oozie数据库的URL,`oozie.service.HadoopAccessorService.hadoop.configurations.*.configuration`用于配置Oozie访问不同Hadoop版本的安全设置。 2. **oozie-...

    Hadoop+Spark+Hive+HBase+Oozie+Kafka+Flume+Flink+ES+Redash等详细安装部署

    HBase是一个分布式的、面向列的开源数据库,运行在Hadoop之上,适合存储半结构化数据。安装HBase时,需要考虑集群的Zookeeper配置,因为Zookeeper用于协调HBase的各个组件。 Oozie是Hadoop的工作流调度器,用于管理...

    Hue-oozie运行spark

    Hue是Cloudera开发的一个开源Web用户界面,主要用于与Hadoop...但使用时需要注意一些常见的配置和错误问题,以及对Hadoop生态系统的基本了解,这样才能确保Spark作业能够顺利运行,并在出现错误时快速定位问题所在。

    Apache Oozie_ The Workflow Scheduler for Hadoop

    用户需要确保Oozie服务器正常运行,并且与Hadoop集群正确集成。理解Oozie的基本概念,如工作流、数据管道和动作,对于使用Oozie来管理和执行Hadoop作业至关重要。 Oozie工作流调度器支持多种复杂数据处理任务。用户...

    oozie oozie

    在Hadoop生态系统中,Oozie是一个工作流调度系统,用于管理Hadoop作业。它允许用户定义、调度和协调各种Hadoop相关任务,如MapReduce、Pig、Hive、Sqoop等。当遇到“Table ‘oozie.VALIDATE_CONN’ doesn’t exist”...

    oozie-5.0.0.tar.gz

    使用`oozie-5.0.0.tar.gz`压缩包,用户可以获取到完整的Oozie 5.0.0安装包,包括所有必要的文件和配置,以便在自己的Hadoop集群上部署和运行。解压后,按照官方文档的指导进行安装、配置和测试,即可开始享受Oozie...

    oozie介绍及使用详解

    Oozie是Apache Hadoop项目中的一个工作流调度系统,用于管理Hadoop生态系统中的批处理作业。它支持Hadoop MapReduce、Pig、Hive、Sqoop等多种工具的任务调度,同时也可扩展到其他自定义Java或Shell作业。Oozie与...

    ext-2.2.zip oozie

    在部署和配置Oozie的过程中,`ext-2.2.zip`文件起着至关重要的作用,因为它包含了Oozie运行所需的前端资源和JavaScript库,这些资源对于Oozie Web Console的正常运行是必不可少的。 Oozie的工作流引擎设计为可扩展...

    Apache Ooize Workflow Scheduler for Hadoop

    Apache Oozie是一个专为管理Hadoop作业而设计的工作流调度系统。本书为读者提供了一个实践性的指南,通过两个经验丰富的Hadoop实践者的亲身传授,深入讲解了这个功能强大且灵活的平台。读者在搭建Oozie服务器后,将...

    oozie-4.3.1.tar.gz

    Apache Oozie 是一个用于管理Hadoop作业的工作流调度系统,它能够协调Hadoop生态系统中的各种任务,如MapReduce、Pig、Hive、Sqoop等。本文将深入探讨Oozie 4.3.1版本的源码,解析其核心功能,并提供编译安装的详细...

    Oozie - The Workflow Scheduler for Hadoop

    Apache Oozie是一款专为管理Hadoop作业而设计的工作流调度系统。作为Hadoop生态系统的重要组件,Oozie允许用户创建包含多个任务的复杂数据处理工作流,并按预设的计划执行。本文将详细阐释Oozie的基本概念、安装配置...

    oozie-branch-4.1.zip

    《Apache Oozie 4.1 源码解析与Hadoop集成详解》 Apache Oozie 是一个工作流调度系统,用于管理 Hadoop 生态系统中的作业执行。它允许用户定义、调度和协调各种类型的任务,如 MapReduce、Pig、Hive、Spark 等,...

    大数据技术之Oozie.doc

    首先解压Oozie的安装包,然后在Oozie的根目录下解压对应的Hadoop库文件,这一步是为了使Oozie与Hadoop版本兼容。接着,配置Oozie的配置文件`oozie-site.xml`,包括Oozie服务器的地址、数据库连接信息以及其他相关...

    Oozie ext-2.2.zip

    Apache Oozie是一个工作流调度系统,用于管理和协调Hadoop生态系统中的作业,如MapReduce、Pig、Hive、Sqoop等。在Hadoop环境中,Oozie扮演着至关重要的角色,它使得用户可以定义复杂的作业流程,并通过一个统一的...

    oozie的控制台用ext依赖

    在IT行业中,Oozie是Apache Hadoop生态系统中的一个工作流调度系统,它用于管理和调度Hadoop相关的任务。Hue则是一个用户界面套件,旨在提供对Hadoop生态系统的友好操作界面,包括对Oozie的工作流进行可视化操作。当...

Global site tag (gtag.js) - Google Analytics