`
duming115
  • 浏览: 114390 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Hadoop cloudera CDH3B4

阅读更多
1. 问题: hadoop的客户端运行hadoop命令,但是没有在指定的日志文件中输出,指定的日志文件也不存在目录下.
  解决: hadoop的日志输出由conf/log4j.properties控制,log4j.properties文件中指定hadoop.log.dir=. ,运行hadoop时,会由conf/hadoop-env.sh中指定的export HADOOP_LOG_DIR 指定到特定目录下输出,默认为hadoop的logs目录.
  如果log4j.logger的级别很高,不生成输出的日志信息,那么日志文件也就不会生成(resin的logs/access.log也是),加入log4j.logger.org.apache.hadoop=DEBUG,DRFA 使hadoop 的log级别调高就可以了.

2011.04.22
1. 运行hive过程中出现 org.apache.hadoop.fs.permission.FsPermission$2.<init>
错误,通过查看hive log原因是2011-04-22 10:41:49,244 INFO  mapreduce.JobSubmissionFiles (JobSubmissionFiles.java:getStagingDir(120)) - Permissions on staging directory hdfs://hadoop-m:9000/disk3/CDH3B4/hadoop/tmp/mapred/staging/hadoop/.staging are incorrect: rwxrwxrwx. Fixing permissions to correct value rwx------
把权限修改正确后,运行正常.
分享到:
评论

相关推荐

    Cloudera CDH集群运维手册

    Cloudera CDH(Cloudera Distribution Including Apache Hadoop)是Cloudera公司提供的一款开源大数据平台,它包含了Hadoop生态系统中的多个组件,如HDFS、MapReduce、YARN、Hive、HBase等,为企业级大数据处理提供...

    hadoop-0.20.2-CDH3B4.tar.gz下载

    首先,"hadoop-0.20.2-CDH3B4.tar.gz"是一个针对CDH3(Cloudera Distribution Including Apache Hadoop)3B4版本的Hadoop发行版。CDH是由Cloudera公司提供的一个企业级Hadoop发行版,包含了多个Apache项目,如Hadoop...

    hadoop-cdh4-0.3.zip

    【标题】"hadoop-cdh4-0.3.zip" 提供的是针对Presto优化的CDH4 Hadoop发行版,这个版本是专为Presto大数据查询引擎设计的,旨在提高其在CDH4(Cloudera Distribution Including Apache Hadoop)环境中的性能和兼容性...

    Cloudera CDH搭建

    Cloudera CDH搭建是企业级Hadoop发行版的安装过程,Cloudera CDH即Cloudera的Distribution包括Hadoop。CDH集成了多个Hadoop生态系统组件,包括但不限于HDFS、MapReduce、HBase、Hive、Oozie、Sqoop、ZooKeeper以及...

    cloudera hadoop cdh4.3版本安装

    在本文中,我们将深入探讨如何在CentOS 6.2环境下安装Cloudera's Hadoop Distribution (CDH) 4.3版本。CDH是Cloudera公司提供的一款开源大数据处理平台,它集成了Hadoop生态系统中的多个组件,如Hadoop、Zookeeper和...

    hadoop之cdh

    ### Hadoop之CDH:基于Cloudera的HA部署指南 #### 关于本指南 本文档旨在提供关于如何在Cloudera Distribution Including Hadoop (CDH)上配置高可用性的详细指南。CDH是由Cloudera公司提供的一个企业级Hadoop发行...

    cloudera CDH4 installation guide 4.0(pdf)

    CDH4(Cloudera's Distribution Including Apache Hadoop)是Cloudera公司提供的一款基于Apache Hadoop的发行版,它集成了众多大数据处理组件,如HDFS、MapReduce、Hive、Pig、HBase等,为企业级大数据分析提供了...

    Ubuntu 14.04 LTS下通过Cloudera CDH 5.4.8搭建Hadoop集群.pdf

    3. **添加Repository**:配置Cloudera Manager以使用CDH 5.4.8的仓库。 4. **部署Hadoop组件**:通过Cloudera Manager界面部署Hadoop相关组件,如HDFS、YARN等。 5. **配置Hadoop集群**:根据实际需求配置Hadoop集群...

    hadoop-cdh3u6 eclipse插件

    hadoop-cdh3u6 eclipse插件,本人亲测,在eclipse3.7和4.4下都可以使用

    hadoop-cdh-4.5.0 eclipse plugin hadoop eclipse 插件

    hadoop-cdh-4.5.0 eclipse plugin hadoop eclipse 插件 hadoop-eclipse-plugin-2.0.0-cdh4.5.0.jar

    cloudera CDH v5.16.2完整安装包,包含cm和parcel

    cloudera CDH v5.16.2完整安装包,包含cm和parcel

    Cloudera CDH 安装和配置文档

    为了便于系统管理员和Hadoop用户安装和管理Cloudera CDH,文档详细介绍了从机器规划到各组件的安装与配置过程。接下来,我将详细阐述这些知识点。 ### 第1章 系统概述 #### 1.1 机器规划 机器规划是实施Hadoop集群...

    hadoop-2.6.0-cdh5.7.0版本.zip

    这里的“hadoop-2.6.0-cdh5.7.0版本”指的是Cloudera的Hadoop发行版,CDH(Cloudera Distribution Including Apache Hadoop)5.7.0中的Hadoop组件为2.6.0版本。这个版本包含了Hadoop生态系统中的多个关键组件,如...

    cloudera CDH4 quick start guide 4.0(pdf)

    Cloudera CDH4 快速入门指南是为那些希望快速上手并熟悉Cloudera Distribution Including Apache Hadoop (CDH4)的用户而设计的。此文档提供了安装、配置以及运行CDH4的基本步骤,特别适用于那些初次接触Hadoop生态...

    sqoop-1.2.0-CDH3B4.tar.gz下载

    Sqoop-1.2.0-CDH3B4是Cloudera Distribution Including Apache Hadoop(CDH)的一个版本,CDH是由Cloudera提供的Hadoop发行版,包含了对Hadoop生态系统组件的优化和集成。 标题"sqoop-1.2.0-CDH3B4.tar.gz下载"表明...

    Cloudera CDH大数据平台搭建参考手册

    CDH是Apache Hadoop和相关项目的最完整,经过测试的流行发行版。 CDH提供了Hadoop的核心元素 - 可扩展的存储和分布式计算 - 以及基于Web的用户界面和重要的企业功能。 CDH是Apache许可的开放源码,是唯一提供统一...

    sqoop-1.2.0-CDH3B4.tar.gz

    这个压缩包文件 "sqoop-1.2.0-CDH3B4.tar.gz" 提供的是 Sqoop 的特定版本,即 1.2.0 版本,它是针对 Cloudera Distribution Including Hadoop (CDH) 3B4 的定制版本。CDH 是 Cloudera 公司提供的一个全面、经过测试...

    CLOUDERA-Manager_中文手册(全 高清)+ CDH安装手册.pdf

    Cloudera Manager是一款基于大数据管理平台,用于管理Hadoop集群和CDH(Cloudera Distribution of Hadoop)集群。该手册详细介绍了Cloudera Manager的产品介绍、基本功能、监控功能等内容。 产品介绍 Cloudera ...

    hadoop-cdh4.6配置文件

    在IT领域,Hadoop是大数据处理的核心框架,而CDH(Cloudera Distribution Including Apache Hadoop)是由Cloudera公司提供的一个开源Hadoop发行版。CDH4.6.0是CDH系列的一个版本,它包含了对Hadoop、HBase、Hive和...

    hadoop cdh5安装

    3. **选择JDK**:CDH5需要Oracle JDK或OpenJDK来运行,根据提示选择合适的JDK版本。 4. **开始安装**:一旦选择完毕,安装程序将开始部署所需的软件包和服务。 5. **配置与安装**:安装过程中可能需要你配置Java...

Global site tag (gtag.js) - Google Analytics