0 0

hadoop中hdfs-site.xml配置的问题0

我在hdfs-site.xml中是这样配置的:
<configuration>
        <property>
            <name>dfs.name.dir</name>
            <value>/home/hadoop/tamp</value>
        </property>
        <property>
            <name>dfs.data.dir</name>
            <value>/home/hadoop/tamp</value>
        </property>
        <property>
            <name>dfs.replication</name>
            <value>1</value>
        </property>
</configuration>


配置后进行format,结果一直报:(namenode无法启动)
2014-05-29 17:47:16,055 ERROR org.apache.hadoop.hdfs.server.namenode.FSNamesystem: FSNamesystem initialization failed.
java.io.IOException: NameNode is not formatted.
at org.apache.hadoop.hdfs.server.namenode.FSImage.recoverTransitionRead(FSImage.java:330)
at org.apache.hadoop.hdfs.server.namenode.FSDirectory.loadFSImage(FSDirectory.java:100)
at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.initialize(FSNamesystem.java:411)
at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.<init>(FSNamesystem.java:379)
at org.apache.hadoop.hdfs.server.namenode.NameNode.initialize(NameNode.java:284)
at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:536)
at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:1410)
at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:1419)
2014-05-29 17:47:16,055 ERROR org.apache.hadoop.hdfs.server.namenode.NameNode: java.io.IOException: NameNode is not formatted.
at org.apache.hadoop.hdfs.server.namenode.FSImage.recoverTransitionRead(FSImage.java:330)
at org.apache.hadoop.hdfs.server.namenode.FSDirectory.loadFSImage(FSDirectory.java:100)
at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.initialize(FSNamesystem.java:411)
at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.<init>(FSNamesystem.java:379)
at org.apache.hadoop.hdfs.server.namenode.NameNode.initialize(NameNode.java:284)
at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:536)
at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:1410)
at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:1419)

2014-05-29 17:47:16,056 INFO org.apache.hadoop.hdfs.server.namenode.NameNode: SHUTDOWN_MSG:



但是我配置成:(namenode可以启动)
<configuration>
        <property>
            <name>dfs.replication</name>
            <value>1</value>
        </property>
</configuration>
然后format后就不会报错。

希望砖家告诉原因~
2014年5月30日 09:10

2个答案 按时间排序 按投票排序

0 0

有可能是 dfs.name.dir 和 dfs.data.dir的 目录一样导致的,设置不同目录试试。

2014年5月30日 18:48
0 0

是不是你配置的HDFS路径以及format过了, 把你配置的HDFS路径删了再format试试

2014年5月30日 09:44

相关推荐

    hdfs-site.xml配置文件详解

    hdfs-site.xml文件是Hadoop分布式文件系统(HDFS)的核心配置文件之一,它定义了HDFS的很多关键行为和属性。了解hdfs-site.xml的配置项对于调优Hadoop集群,满足特定需求是非常有帮助的。下面对hdfs-site.xml中的...

    hadoop 2.9.0 hdfs-default.xml 属性集

    Hadoop是Apache基金会开发的一个开源分布式存储和计算框架,...总的来说,理解和配置好hdfs-site.xml中的属性集是高效运行Hadoop HDFS集群的基石,不仅关系到数据存储的安全性,也直接影响着大数据处理任务的执行效率。

    HadoopHA高可用集群配置 hdfs-site.xml

    本文将重点介绍Hadoop HA高可用集群配置中的关键参数及其作用,特别是`hdfs-site.xml`文件中与HA相关的配置项。 #### 二、Hadoop HA概述 Hadoop HA(High Availability)是指通过在集群中部署多个NameNode实例来...

    Hadoop分布式配置文件hdfs-site.xml

    Hadoop分布式配置文件hdfs-site.xml,用于在搭建Hadoop分布式集群时,设置集群规划所用,集群中虚拟机都需要修改该配置文件,除此之外,还需要修改其他配置文件,包括core-site.xml、mapred-site.xml和yarn-site.xml...

    hadoop-3.1.4.tar.zip

    例如,你需要在`hdfs-site.xml`中指定NameNode和DataNode的地址,在`mapred-site.xml`中设置MapReduce作业的运行方式(本地模式、伪分布式模式或完全分布式模式),并在`yarn-site.xml`中配置YARN的相关参数。...

    hadoop-3.1.3.tar.gz

    在Hadoop的配置目录($HADOOP_HOME/etc/hadoop)下,有两个主要的配置文件:core-site.xml和hdfs-site.xml。核心配置core-site.xml主要设置临时目录和HDFS的访问方式,例如: ```xml &lt;name&gt;fs.defaultFS ...

    hadoop-2.7.1.tar.gz.zip

    在安装和配置Hadoop时,你需要修改conf目录下的配置文件,如core-site.xml(定义HDFS的基本属性)、hdfs-site.xml(设置HDFS的参数)、mapred-site.xml(设置MapReduce参数)和yarn-site.xml(配置YARN)。...

    hadoop 2.9.0 mapred-default.xml 属性集

    Hadoop 2.9.0版本中的mapred-default.xml文件包含了MapReduce作业的配置属性,这些属性定义了MapReduce作业执行过程中的各种行为和参数。下面我们来详细介绍mapred-site.xml文件中的一些关键属性。 1. mapreduce....

    sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.zip

    Sqoop 是一个开源工具,主要用于在关系型数据库(如 MySQL、Oracle 等)与 Hadoop 的 HDFS(Hadoop Distributed File System)之间进行数据迁移。这个压缩包 "sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.zip" 包含了 ...

    hadoop-2.7.3.tar.gz 下载 hadoop tar 包下载

    在Hadoop的配置中,需要修改`core-site.xml`来定义HDFS的默认FS(文件系统),`hdfs-site.xml`来设置HDFS的相关参数,如副本数量和数据节点位置,以及`mapred-site.xml`来配置MapReduce的相关参数。此外,还需要确保...

    hdfs-site.xml

    hadoop3.x配置文件

    hadoop-3.1.4.tar.gz已经配置拿来即用

    3. 配置Hadoop的配置文件,如`core-site.xml`(配置HDFS的基本属性)、`hdfs-site.xml`(配置HDFS的参数)、`yarn-site.xml`(配置YARN的参数)以及`mapred-site.xml`(配置MapReduce的参数)。 4. 初始化NameNode,...

    hadoop-3.1.4.tar.gz

    4. 配置Hadoop的配置文件,如`core-site.xml`, `hdfs-site.xml`, `yarn-site.xml`, 和 `mapred-site.xml`。这些文件位于`etc/hadoop`目录下,你需要根据你的集群规模和需求来设定参数,例如副本数量、HDFS的名称节点...

    hadoop-2.6.5.tar.gz

    安装Hadoop时,需要配置环境变量、Hadoop配置文件(如core-site.xml、hdfs-site.xml、mapred-site.xml、yarn-site.xml),以及集群的节点设置。同时,为了运行Hadoop,你需要一个Java运行环境(JRE)。 4. **集群...

    hadoop-2.6.1-windows.zip

    在core-site.xml中,你需要定义Hadoop的默认文件系统,通常是本地文件系统,配置如下: ```xml &lt;name&gt;fs.defaultFS &lt;value&gt;file:/// ``` 接着,配置HDFS(Hadoop Distributed File System)的相关参数。在...

    sqoop-1.4.2.bin__hadoop-2.0.0-alpha.tar

    同时,需要根据实际的 Hadoop 集群配置文件(如 core-site.xml 和 hdfs-site.xml)来配置 Sqoop 的连接信息。 4. **基本操作**:使用 Sqoop,用户可以通过简单的命令行接口执行以下操作: - `import`:将数据库表...

    hadoop-3.2.4.tar.gz

    安装和运行Hadoop 3.2.4时,你需要解压此压缩包,配置`conf`目录下的配置文件,如`core-site.xml`、`hdfs-site.xml`和`yarn-site.xml`,然后根据官方文档的指导启动和管理Hadoop服务。为了测试Hadoop集群,你可以...

    hadoop插件apache-hadoop-3.1.0-winutils-master.zip

    4. **配置文件**:修改`conf/core-site.xml`和`conf/hdfs-site.xml`配置文件,定义HDFS的相关参数,如默认的文件系统、NameNode地址等。 5. **启动Hadoop服务**:通过`sbin`目录下的脚本启动Hadoop的各个服务,如`...

    hadoop-2.7.1.tar.gz

    - 对于YARN,需要在`etc/hadoop/yarn-site.xml`中配置资源管理器和应用历史服务器的相关参数。 4. **MapReduce编程模型**: - Map阶段:数据被分割成小块,由Map函数处理,生成键值对。 - Shuffle和Sort阶段:...

    Hadoop分布式配置文件mapred-site.xml

    Hadoop分布式配置文件mapred-site.xml,用于在搭建Hadoop分布式集群时,设置集群规划所用,集群中虚拟机都需要修改该配置文件,除此之外,还需要修改其他配置文件,包括core-site.xml、hdfs-site.xml和yarn-site.xml...

Global site tag (gtag.js) - Google Analytics