- 浏览: 583331 次
- 性别:
- 来自: 北京
文章分类
最新评论
-
maleking:
太感谢了。新手搭建hadoop集群环境,dat ...
启动hadoop后没有datanodes的问题 -
system_mush:
NoClassDefFoundError: com/google/common/collect/Maps -
di1984HIT:
呵呵,我学习一下。
Katta源码分析 -
di1984HIT:
呵呵, 不管怎么说,挺好的。
zookeeper3.3学习笔记2:配置参数介绍 -
zoezhang:
谢谢了,可以解决
maven2报cannot be cast to javax.servlet.Filter错误解决
10/10/25 16:45:39 INFO mapred.JobClient: map 92% reduce 30%
10/10/25 16:45:44 INFO mapred.JobClient: Task Id : attempt_201010251638_0003_m_000013_1, Status : FAILED
java.io.IOException: Cannot open filename /user/eryk/input/conf
额,发现是一个命令打的有问题
错误的命令:
eryk@eryk-1520:~/tmp/hadoop$ bin/hadoop fs -put conf/ input
包含的内容:
eryk@eryk-1520:~/tmp/hadoop$ bin/hadoop fs -lsr
drwxr-xr-x - eryk supergroup 0 2010-10-25 16:49 /user/eryk/input
-rw-r--r-- 1 eryk supergroup 3936 2010-10-25 16:48 /user/eryk/input/capacity-scheduler.xml
drwxr-xr-x - eryk supergroup 0 2010-10-25 16:49 /user/eryk/input/conf
-rw-r--r-- 1 eryk supergroup 3936 2010-10-25 16:49 /user/eryk/input/conf/capacity-scheduler.xml
-rw-r--r-- 1 eryk supergroup 535 2010-10-25 16:49 /user/eryk/input/conf/configuration.xsl
-rw-r--r-- 1 eryk supergroup 388 2010-10-25 16:49 /user/eryk/input/conf/core-site.xml
-rw-r--r-- 1 eryk supergroup 2360 2010-10-25 16:49 /user/eryk/input/conf/hadoop-env.sh
-rw-r--r-- 1 eryk supergroup 1245 2010-10-25 16:49 /user/eryk/input/conf/hadoop-metrics.properties
-rw-r--r-- 1 eryk supergroup 4190 2010-10-25 16:49 /user/eryk/input/conf/hadoop-policy.xml
-rw-r--r-- 1 eryk supergroup 258 2010-10-25 16:49 /user/eryk/input/conf/hdfs-site.xml
-rw-r--r-- 1 eryk supergroup 2815 2010-10-25 16:49 /user/eryk/input/conf/log4j.properties
-rw-r--r-- 1 eryk supergroup 274 2010-10-25 16:49 /user/eryk/input/conf/mapred-site.xml
-rw-r--r-- 1 eryk supergroup 10 2010-10-25 16:49 /user/eryk/input/conf/masters
-rw-r--r-- 1 eryk supergroup 10 2010-10-25 16:49 /user/eryk/input/conf/slaves
-rw-r--r-- 1 eryk supergroup 1243 2010-10-25 16:49 /user/eryk/input/conf/ssl-client.xml.example
-rw-r--r-- 1 eryk supergroup 1195 2010-10-25 16:49 /user/eryk/input/conf/ssl-server.xml.example
-rw-r--r-- 1 eryk supergroup 535 2010-10-25 16:48 /user/eryk/input/configuration.xsl
-rw-r--r-- 1 eryk supergroup 388 2010-10-25 16:48 /user/eryk/input/core-site.xml
-rw-r--r-- 1 eryk supergroup 2360 2010-10-25 16:48 /user/eryk/input/hadoop-env.sh
-rw-r--r-- 1 eryk supergroup 1245 2010-10-25 16:48 /user/eryk/input/hadoop-metrics.properties
-rw-r--r-- 1 eryk supergroup 4190 2010-10-25 16:48 /user/eryk/input/hadoop-policy.xml
-rw-r--r-- 1 eryk supergroup 258 2010-10-25 16:48 /user/eryk/input/hdfs-site.xml
-rw-r--r-- 1 eryk supergroup 2815 2010-10-25 16:48 /user/eryk/input/log4j.properties
-rw-r--r-- 1 eryk supergroup 274 2010-10-25 16:48 /user/eryk/input/mapred-site.xml
-rw-r--r-- 1 eryk supergroup 10 2010-10-25 16:48 /user/eryk/input/masters
-rw-r--r-- 1 eryk supergroup 10 2010-10-25 16:48 /user/eryk/input/slaves
-rw-r--r-- 1 eryk supergroup 1243 2010-10-25 16:48 /user/eryk/input/ssl-client.xml.example
-rw-r--r-- 1 eryk supergroup 1195 2010-10-25 16:48 /user/eryk/input/ssl-server.xml.example
修改后的命令:
eryk@eryk-1520:~/tmp/hadoop$ bin/hadoop fs -put conf input
只是去掉了conf后面的"/"
里面的内容:
eryk@eryk-1520:~/tmp/hadoop$ bin/hadoop fs -lsr
drwxr-xr-x - eryk supergroup 0 2010-10-25 16:49 /user/eryk/input
-rw-r--r-- 1 eryk supergroup 3936 2010-10-25 16:49 /user/eryk/input/capacity-scheduler.xml
-rw-r--r-- 1 eryk supergroup 535 2010-10-25 16:49 /user/eryk/input/configuration.xsl
-rw-r--r-- 1 eryk supergroup 388 2010-10-25 16:49 /user/eryk/input/core-site.xml
-rw-r--r-- 1 eryk supergroup 2360 2010-10-25 16:49 /user/eryk/input/hadoop-env.sh
-rw-r--r-- 1 eryk supergroup 1245 2010-10-25 16:49 /user/eryk/input/hadoop-metrics.properties
-rw-r--r-- 1 eryk supergroup 4190 2010-10-25 16:49 /user/eryk/input/hadoop-policy.xml
-rw-r--r-- 1 eryk supergroup 258 2010-10-25 16:49 /user/eryk/input/hdfs-site.xml
-rw-r--r-- 1 eryk supergroup 2815 2010-10-25 16:49 /user/eryk/input/log4j.properties
-rw-r--r-- 1 eryk supergroup 274 2010-10-25 16:49 /user/eryk/input/mapred-site.xml
-rw-r--r-- 1 eryk supergroup 10 2010-10-25 16:49 /user/eryk/input/masters
-rw-r--r-- 1 eryk supergroup 10 2010-10-25 16:49 /user/eryk/input/slaves
-rw-r--r-- 1 eryk supergroup 1243 2010-10-25 16:49 /user/eryk/input/ssl-client.xml.example
-rw-r--r-- 1 eryk supergroup 1195 2010-10-25 16:49 /user/eryk/input/ssl-server.xml.example
发表评论
-
apache hadoop 2
2012-06-14 00:54 1166apache hadoop 2.x 是在1.x版本上做了重 ... -
hadoop乱码
2011-12-12 14:36 2034文件存入hadoop出现乱码,尤其是在windows下的c ... -
Partitioner, SortComparator and GroupingComparator in Hadoop
2011-12-12 14:15 1318hadoop 0.20.2 api里面,作业被重新定义 ... -
HDFS Federation设计动机与基本原理
2011-12-06 10:50 1288HDFS Federation是Hadoop最新发布版本H ... -
Apache Hadoop 0.23 MapReduce 2.0 (MRv2 or YARN) 介绍
2011-12-05 15:27 2704MapReduce 在hadoop 0.23版本中经历了一次大 ... -
Apache Hadoop 0.23 HDFS Federation介绍
2011-12-04 23:31 2856HDFS Federation 为了 ... -
读hadoop0.23源码(1):Job
2011-11-23 10:47 1217每次配置job的时候,最后一步总是 System.ex ... -
MapReduce名词解释
2011-11-08 10:23 1487在网上收集了一些mapreduce中常用的一些名词的解释, ... -
hadoop问题汇总
2011-11-02 09:39 11051.系统时钟。zookeeper会根据系统时钟判断两台机器多久 ... -
进程间通信IPC、LPC、RPC
2011-09-06 11:20 982进程间通信(IPC,I ... -
hadoop的一个恶心错误
2011-09-02 10:17 915今早机器被网管重启了,启动hadoop发现节点都启动不了 s ... -
Hadoop的配置类 Configuration
2011-08-04 14:11 1967Hadoop的配置类是由资源指定 ... -
hadoop错误:"failed to report status for 600 seconds"
2011-07-19 14:39 2691<property> <name ... -
hadoop/mapred 优化方法
2011-07-14 08:30 1162从三个方面着手优化 : 1. hadoop配置 2. ... -
Hadoop传递参数的方法总结
2011-07-07 14:39 3207写MapReduce程序通常要传递各种各样的参数,选择合 ... -
hadoop hdfs的一些用法
2011-07-04 09:25 1460Example 3-1. Displaying files f ... -
Changes of Hadoop 0.20笔记
2011-07-01 13:21 1108最近学习hadoop 0.20.1,网上找到一篇文章《Wh ... -
hadoop0.18.3 到 0.20.2
2011-07-01 13:10 1803以前用的是0.18.3,现在改用0.20.2,結果发现ma ... -
自定义hadoop map/reduce输入文件切割InputFormat
2011-07-01 11:17 2479hadoop会 ... -
Hadoop开发常用的InputFormat和OutputFormat
2011-07-01 11:02 1518Hadoop中的Map Reduce框架依赖InputFo ...
相关推荐
Hadoop是大数据处理领域的重要工具,它是一个开源的分布式计算框架,由Apache软件基金会开发。在标题中提到的“hadoop2.6.0版本hadoop.dll和winutils.exe”是针对Windows环境下运行Hadoop的一些关键组件。 1. **...
通过上述步骤,我们可以成功搭建起一个Hadoop 2.x集群,并解决了一些常见的问题,如MapReduce提交Job执行失败等。在整个过程中,关键是要仔细检查每一个配置细节,并确保集群各个组件之间能够协同工作。希望本篇文章...
1. **日志数据提取**:在 Eclipse 中创建一个 MapReduce 工程(HiveHadoopMysqlPro),用于处理日志分析任务。在开始之前,确保将 Hive 的库目录(lib)下的所有 JAR 包复制到 Hadoop 的 lib 目录下,以便 MapReduce...
Hadoop是一个开源的分布式计算框架,而Mahout是基于Hadoop的数据挖掘库,专注于机器学习算法。这两者的结合在大数据分析和预测模型构建中具有广泛的应用。 在“hadoop2.7.3+mahout0.9问题集”中,我们可能遇到的...
本教程将详细解释这个过程,并着重解决一个常见的问题——Cygwin SSHD服务启动失败。 首先,我们需要理解Hadoop是什么。Hadoop是一个开源框架,用于处理和存储大量数据,它采用了分布式计算模型,使得数据可以在多...
在IT行业中,Hadoop是一个广泛使用的开源框架,主要用于大数据处理和分布式存储。本文将深入探讨在Windows 7 64位环境下配置Hadoop 2.6时涉及的关键组件,包括hadoop.dll、winutils.exe以及相关库文件。 首先,...
Hadoop 是一个开源的分布式计算框架,主要用于处理和存储海量数据。这个文档包含了Hadoop相关的常见笔试题答案,涵盖了Hadoop的基本概念、架构组件、配置文件以及操作命令等多个方面。 1. Hadoop的核心组成部分是...
Hadoop作为一个分布式计算框架,广泛应用于大数据处理领域。在Windows环境中,Winutils.exe和hadoop.dll是Hadoop的重要组成部分,它们为Hadoop在Windows上的运行提供了必要的支持。本文将详细探讨Hadoop 2.7.1版本中...
通过配置`mapred-site.xml`和`core-site.xml`中的参数,可以将所有节点的日志聚合到一个或几个特定的地方,例如,存储在NameNode或一个独立的日志服务器上。 日志聚合的主要配置项有: 1. `mapreduce.job.log4j-...
在编译和运行Hadoop的过程中,可能会遇到各种问题,比如依赖冲突、环境不匹配等,需要根据错误信息进行调试和解决。对于初学者来说,理解这些工具的工作原理和Hadoop的架构是非常有益的,有助于深入学习和掌握大数据...
在Windows环境下,Eclipse作为常用的Java开发IDE,如果缺少了这些特定的JAR依赖,那么尝试运行含有Hadoop相关代码的Java程序时,会遇到编译或运行错误。 描述中提到的“在Windows下eclipse运行java程序,报错原因是...
在搭建和使用Hadoop的过程中,可能会遇到各种问题,例如配置错误、网络连接失败等。对于这些问题,可以通过查阅官方文档、社区论坛或邮件列表寻求帮助。同时,了解Hadoop的日志文件也是解决问题的关键之一。 #### ...
Hadoop的bin目录是其安装目录下的一个子目录,通常位于`<HADOOP_HOME>\bin`。这里包含了用于操作Hadoop集群的一系列命令行工具,如`hadoop`, `hdfs`, `yarn`, `mapred`等。这些脚本通常是bash shell脚本,对于...
在搭建Hadoop集群的过程中,使用CDH(Cloudera Distribution Including Apache Hadoop)是一个常见的选择,因为CDH提供了预编译的开源大数据组件,包括Hadoop、YARN等,简化了集群部署和管理。以下是对CDH搭建Hadoop...
在本文提到的情况下,可能需要一个修改过的`NativeIO.java`类,按照文档说明进行操作。 5. **注意事项** 在测试和调试过程中,确保Windows和Linux之间的网络通信畅通,SSH连接正常。同时,保持JDK版本与Hadoop...
SVN(Subversion)是一个版本控制系统,用于管理Hadoop源代码。可以通过Yum命令轻松安装: ```bash # yum install svn ``` ###### 1.1.3 以Root用户使用Yum安装Autoconf、Automake、Libtool、CMake 这些工具主要...
Hadoop是一个由Apache软件基金会支持的开源框架,它允许用户存储和处理大量数据。它的设计宗旨是通过简化的编程模型在计算机集群上分布式处理大数据集。Hadoop可以在普通硬件上提供高可靠性、可伸缩性和强大的计算...