`

hadoop 遇到一个任务失败的错误

阅读更多

10/10/25 16:45:39 INFO mapred.JobClient:  map 92% reduce 30%

10/10/25 16:45:44 INFO mapred.JobClient: Task Id : attempt_201010251638_0003_m_000013_1, Status : FAILED

java.io.IOException: Cannot open filename /user/eryk/input/conf

 

额,发现是一个命令打的有问题

错误的命令:

eryk@eryk-1520:~/tmp/hadoop$ bin/hadoop fs -put conf/ input

包含的内容:

eryk@eryk-1520:~/tmp/hadoop$ bin/hadoop fs -lsr

drwxr-xr-x   - eryk supergroup          0 2010-10-25 16:49 /user/eryk/input

-rw-r--r--   1 eryk supergroup       3936 2010-10-25 16:48 /user/eryk/input/capacity-scheduler.xml

drwxr-xr-x   - eryk supergroup          0 2010-10-25 16:49 /user/eryk/input/conf

-rw-r--r--   1 eryk supergroup       3936 2010-10-25 16:49 /user/eryk/input/conf/capacity-scheduler.xml

-rw-r--r--   1 eryk supergroup        535 2010-10-25 16:49 /user/eryk/input/conf/configuration.xsl

-rw-r--r--   1 eryk supergroup        388 2010-10-25 16:49 /user/eryk/input/conf/core-site.xml

-rw-r--r--   1 eryk supergroup       2360 2010-10-25 16:49 /user/eryk/input/conf/hadoop-env.sh

-rw-r--r--   1 eryk supergroup       1245 2010-10-25 16:49 /user/eryk/input/conf/hadoop-metrics.properties

-rw-r--r--   1 eryk supergroup       4190 2010-10-25 16:49 /user/eryk/input/conf/hadoop-policy.xml

-rw-r--r--   1 eryk supergroup        258 2010-10-25 16:49 /user/eryk/input/conf/hdfs-site.xml

-rw-r--r--   1 eryk supergroup       2815 2010-10-25 16:49 /user/eryk/input/conf/log4j.properties

-rw-r--r--   1 eryk supergroup        274 2010-10-25 16:49 /user/eryk/input/conf/mapred-site.xml

-rw-r--r--   1 eryk supergroup         10 2010-10-25 16:49 /user/eryk/input/conf/masters

-rw-r--r--   1 eryk supergroup         10 2010-10-25 16:49 /user/eryk/input/conf/slaves

-rw-r--r--   1 eryk supergroup       1243 2010-10-25 16:49 /user/eryk/input/conf/ssl-client.xml.example

-rw-r--r--   1 eryk supergroup       1195 2010-10-25 16:49 /user/eryk/input/conf/ssl-server.xml.example

-rw-r--r--   1 eryk supergroup        535 2010-10-25 16:48 /user/eryk/input/configuration.xsl

-rw-r--r--   1 eryk supergroup        388 2010-10-25 16:48 /user/eryk/input/core-site.xml

-rw-r--r--   1 eryk supergroup       2360 2010-10-25 16:48 /user/eryk/input/hadoop-env.sh

-rw-r--r--   1 eryk supergroup       1245 2010-10-25 16:48 /user/eryk/input/hadoop-metrics.properties

-rw-r--r--   1 eryk supergroup       4190 2010-10-25 16:48 /user/eryk/input/hadoop-policy.xml

-rw-r--r--   1 eryk supergroup        258 2010-10-25 16:48 /user/eryk/input/hdfs-site.xml

-rw-r--r--   1 eryk supergroup       2815 2010-10-25 16:48 /user/eryk/input/log4j.properties

-rw-r--r--   1 eryk supergroup        274 2010-10-25 16:48 /user/eryk/input/mapred-site.xml

-rw-r--r--   1 eryk supergroup         10 2010-10-25 16:48 /user/eryk/input/masters

-rw-r--r--   1 eryk supergroup         10 2010-10-25 16:48 /user/eryk/input/slaves

-rw-r--r--   1 eryk supergroup       1243 2010-10-25 16:48 /user/eryk/input/ssl-client.xml.example

-rw-r--r--   1 eryk supergroup       1195 2010-10-25 16:48 /user/eryk/input/ssl-server.xml.example


发现里面的内容重复了一遍

 

修改后的命令:

eryk@eryk-1520:~/tmp/hadoop$ bin/hadoop fs -put conf input

只是去掉了conf后面的"/" 

里面的内容:

eryk@eryk-1520:~/tmp/hadoop$ bin/hadoop fs -lsr

drwxr-xr-x   - eryk supergroup          0 2010-10-25 16:49 /user/eryk/input

-rw-r--r--   1 eryk supergroup       3936 2010-10-25 16:49 /user/eryk/input/capacity-scheduler.xml

-rw-r--r--   1 eryk supergroup        535 2010-10-25 16:49 /user/eryk/input/configuration.xsl

-rw-r--r--   1 eryk supergroup        388 2010-10-25 16:49 /user/eryk/input/core-site.xml

-rw-r--r--   1 eryk supergroup       2360 2010-10-25 16:49 /user/eryk/input/hadoop-env.sh

-rw-r--r--   1 eryk supergroup       1245 2010-10-25 16:49 /user/eryk/input/hadoop-metrics.properties

-rw-r--r--   1 eryk supergroup       4190 2010-10-25 16:49 /user/eryk/input/hadoop-policy.xml

-rw-r--r--   1 eryk supergroup        258 2010-10-25 16:49 /user/eryk/input/hdfs-site.xml

-rw-r--r--   1 eryk supergroup       2815 2010-10-25 16:49 /user/eryk/input/log4j.properties

-rw-r--r--   1 eryk supergroup        274 2010-10-25 16:49 /user/eryk/input/mapred-site.xml

-rw-r--r--   1 eryk supergroup         10 2010-10-25 16:49 /user/eryk/input/masters

-rw-r--r--   1 eryk supergroup         10 2010-10-25 16:49 /user/eryk/input/slaves

-rw-r--r--   1 eryk supergroup       1243 2010-10-25 16:49 /user/eryk/input/ssl-client.xml.example

-rw-r--r--   1 eryk supergroup       1195 2010-10-25 16:49 /user/eryk/input/ssl-server.xml.example


分享到:
评论

相关推荐

    hadoop2.6.0版本hadoop.dll和winutils.exe

    Hadoop是大数据处理领域的重要工具,它是一个开源的分布式计算框架,由Apache软件基金会开发。在标题中提到的“hadoop2.6.0版本hadoop.dll和winutils.exe”是针对Windows环境下运行Hadoop的一些关键组件。 1. **...

    hadoop2.x集群搭建.txt(hdfs和yarn貌似正常,但mapreduce 提交job执行失败,请看我的另一个资源,另一个搭建是成功的)

    通过上述步骤,我们可以成功搭建起一个Hadoop 2.x集群,并解决了一些常见的问题,如MapReduce提交Job执行失败等。在整个过程中,关键是要仔细检查每一个配置细节,并确保集群各个组件之间能够协同工作。希望本篇文章...

    基于Hive的hadoop集群日志的分析及错误排解

    1. **日志数据提取**:在 Eclipse 中创建一个 MapReduce 工程(HiveHadoopMysqlPro),用于处理日志分析任务。在开始之前,确保将 Hive 的库目录(lib)下的所有 JAR 包复制到 Hadoop 的 lib 目录下,以便 MapReduce...

    hadoop2.7.3+mahout0.9问题集

    Hadoop是一个开源的分布式计算框架,而Mahout是基于Hadoop的数据挖掘库,专注于机器学习算法。这两者的结合在大数据分析和预测模型构建中具有广泛的应用。 在“hadoop2.7.3+mahout0.9问题集”中,我们可能遇到的...

    在Windows上安装Hadoop教程

    本教程将详细解释这个过程,并着重解决一个常见的问题——Cygwin SSHD服务启动失败。 首先,我们需要理解Hadoop是什么。Hadoop是一个开源框架,用于处理和存储大量数据,它采用了分布式计算模型,使得数据可以在多...

    hadoop2.6,window7 64bit,hadoop.dll、winutils.exe等文件

    在IT行业中,Hadoop是一个广泛使用的开源框架,主要用于大数据处理和分布式存储。本文将深入探讨在Windows 7 64位环境下配置Hadoop 2.6时涉及的关键组件,包括hadoop.dll、winutils.exe以及相关库文件。 首先,...

    (完整版)hadoop常见笔试题答案.docx

    Hadoop 是一个开源的分布式计算框架,主要用于处理和存储海量数据。这个文档包含了Hadoop相关的常见笔试题答案,涵盖了Hadoop的基本概念、架构组件、配置文件以及操作命令等多个方面。 1. Hadoop的核心组成部分是...

    winutils.exe_hadoop-2.7.1

    Hadoop作为一个分布式计算框架,广泛应用于大数据处理领域。在Windows环境中,Winutils.exe和hadoop.dll是Hadoop的重要组成部分,它们为Hadoop在Windows上的运行提供了必要的支持。本文将详细探讨Hadoop 2.7.1版本中...

    hadoop启动日志

    通过配置`mapred-site.xml`和`core-site.xml`中的参数,可以将所有节点的日志聚合到一个或几个特定的地方,例如,存储在NameNode或一个独立的日志服务器上。 日志聚合的主要配置项有: 1. `mapreduce.job.log4j-...

    Hadoop源码编译需要工具

    在编译和运行Hadoop的过程中,可能会遇到各种问题,比如依赖冲突、环境不匹配等,需要根据错误信息进行调试和解决。对于初学者来说,理解这些工具的工作原理和Hadoop的架构是非常有益的,有助于深入学习和掌握大数据...

    hadoop-2.8.5所需jar

    在Windows环境下,Eclipse作为常用的Java开发IDE,如果缺少了这些特定的JAR依赖,那么尝试运行含有Hadoop相关代码的Java程序时,会遇到编译或运行错误。 描述中提到的“在Windows下eclipse运行java程序,报错原因是...

    hadoop文档, hdfs mapreduce,环境搭建,例子介绍等

    在搭建和使用Hadoop的过程中,可能会遇到各种问题,例如配置错误、网络连接失败等。对于这些问题,可以通过查阅官方文档、社区论坛或邮件列表寻求帮助。同时,了解Hadoop的日志文件也是解决问题的关键之一。 #### ...

    Windows下hadoop替换的bin文件夹

    Hadoop的bin目录是其安装目录下的一个子目录,通常位于`<HADOOP_HOME>\bin`。这里包含了用于操作Hadoop集群的一系列命令行工具,如`hadoop`, `hdfs`, `yarn`, `mapred`等。这些脚本通常是bash shell脚本,对于...

    CDH搭建hadoop流程.doc

    在搭建Hadoop集群的过程中,使用CDH(Cloudera Distribution Including Apache Hadoop)是一个常见的选择,因为CDH提供了预编译的开源大数据组件,包括Hadoop、YARN等,简化了集群部署和管理。以下是对CDH搭建Hadoop...

    Win7中使用Eclipse连接虚拟机中的Linux中的Hadoop2.5.0经验总结

    在本文提到的情况下,可能需要一个修改过的`NativeIO.java`类,按照文档说明进行操作。 5. **注意事项** 在测试和调试过程中,确保Windows和Linux之间的网络通信畅通,SSH连接正常。同时,保持JDK版本与Hadoop...

    Spark编译与部署(中)--Hadoop编译安装

    SVN(Subversion)是一个版本控制系统,用于管理Hadoop源代码。可以通过Yum命令轻松安装: ```bash # yum install svn ``` ###### 1.1.3 以Root用户使用Yum安装Autoconf、Automake、Libtool、CMake 这些工具主要...

    Hadoop实战入门

    Hadoop是一个由Apache软件基金会支持的开源框架,它允许用户存储和处理大量数据。它的设计宗旨是通过简化的编程模型在计算机集群上分布式处理大数据集。Hadoop可以在普通硬件上提供高可靠性、可伸缩性和强大的计算...

Global site tag (gtag.js) - Google Analytics