-
hadoop2.x集群部署一种一个datanode无法启动10
2015-01-16 09:08:54,145 FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Exception in secureMain
java.net.UnknownHostException: node1: node1
at java.net.InetAddress.getLocalHost(InetAddress.java:1473)
at org.apache.hadoop.security.SecurityUtil.getLocalHostName(SecurityUtil.java:187)
at org.apache.hadoop.security.SecurityUtil.login(SecurityUtil.java:207)
at org.apache.hadoop.hdfs.server.datanode.DataNode.instantiateDataNode(DataNode.java:2153)
at org.apache.hadoop.hdfs.server.datanode.DataNode.createDataNode(DataNode.java:2202)
at org.apache.hadoop.hdfs.server.datanode.DataNode.secureMain(DataNode.java:2378)
at org.apache.hadoop.hdfs.server.datanode.DataNode.main(DataNode.java:2402)
Caused by: java.net.UnknownHostException: node1
at java.net.Inet4AddressImpl.lookupAllHostAddr(Native Method)
at java.net.InetAddress$1.lookupAllHostAddr(InetAddress.java:901)
at java.net.InetAddress.getAddressesFromNameService(InetAddress.java:1293)
at java.net.InetAddress.getLocalHost(InetAddress.java:1469)
... 6 more
2015-01-16 09:08:54,152 INFO org.apache.hadoop.util.ExitUtil: Exiting with status 1
2015-01-16 09:08:54,164 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: SHUTDOWN_MSG:
/************************************************************
SHUTDOWN_MSG: Shutting down DataNode at java.net.UnknownHostException: node1: node1
************************************************************/
环境ubuntu,hadoop2.6,jdk7
部署三台虚拟机一台namenode,两台datanode;/etc/hostname 都已经配置分布为master,node1,node2
/etc/hosts配置为:
27.0.0.1 localhost
127.0.1.1 ubuntu.localdomain ubuntu
# The following lines are desirable for IPv6 capable hosts
::1 ip6-localhost ip6-loopback
fe00::0 ip6-localnet
ff00::0 ip6-mcastprefix
ff02::1 ip6-allnodes
ff02::2 ip6-allrouters
192.168.184.129 master
192.168.184.130 node1
192.168.184.131 node2
hadoop/etc/hadoo/slaves配置为:
node1
node2
core-site.xml配置为:
<configuration>
<property> <name>fs.defaultFS</name>
<value>hdfs://master:9000/</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/home/yangwq/hadoop-2.6.0/temp</value>
<description>A base for other temporary directories.</description>
</property>
</configuration>
hdfs-site.xml配置为:
<configuration>
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/home/yangwq/hadoop-2.6.0/dfs/name</value>
<final>true</final>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/home/yangwq/hadoop-2.6.0/dfs/data</value>
</property>
</configuration>
mapred-site.xml配置为:
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
<final>true</final>
</property>
</configuration>
yarn-site.xml配置为:
<configuration>
<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
<!-- resourcemanager hostname或ip地址-->
<property>
<name>yarn.resourcemanager.hostname</name>
<value>master</value>
</property>
</configuration>
在启动的时候node1节点的datanode一直无法启动,同时通过ssh登录各节点都是正常。2015年1月16日 18:09
目前还没有答案
相关推荐
在获取Hadoop 3.x的安装包方面,你提到的“hadoop3.x盘地址及官方其他版本下载地址.rar”文件包含了一个百度网盘链接和提取码,这使得用户可以直接下载预编译的Linux版本。官方下载地址通常可以在Apache Hadoop的...
CentOS7 Hadoop 2.7.X 安装部署 本文档将指导您如何在 CentOS 7 上安装和部署 Hadoop 2.7.X。Hadoop 是一个开源的大数据处理框架,由 Apache 开发,旨在提供高效、可靠、可扩展的数据处理能力。 准备软件包 在...
2. 文件权限和路径问题可能导致Hadoop服务无法正常启动,需仔细检查配置文件。 3. 确保所有服务进程(如DataNode、NameNode、TaskTracker等)都已启动并保持运行状态。 通过以上步骤,你可以在Windows环境中搭建并...
Hadoop 2.x 版本是该系列中的一个重要版本,它引入了许多重要的改进和新特性,包括但不限于 YARN(Yet Another Resource Negotiator)资源管理器的引入以及对HDFS(Hadoop Distributed File System)高可用性的支持...
《董西成主讲Hadoop 2.X大数据平台V3 全套pdf》是一份全面讲解Hadoop 2.x版本大数据平台的教程资料,由知名讲师董西成主讲。这套教程涵盖了Hadoop生态系统中的核心组件,包括HDFS、YARN、MapReduce2、HBase、...
ZooKeeper 是一种分布式协调服务,它在 Hadoop 2.x 中用于协调 NameNode 之间的切换以及 ResourceManager 的高可用性配置。在 hadoop05 上配置 ZooKeeper 集群。 ### 四、启动集群 完成所有配置后,就可以启动 ...
Hadoop是一种能够存储和处理大量数据的分布式计算框架,而HBase则是在Hadoop之上构建的一个分布式列式存储系统。本文将详细介绍如何在三台虚拟机上安装配置Hadoop-0.20.205.0和HBase-0.90.5,包括单机模式和集群模式...
Hadoop是Apache软件基金会开发的一个开源分布式计算框架,它允许在廉价硬件上处理大量数据,是大数据处理领域的重要...通过下载并部署hadoop-2.7.3.tar.gz,用户可以搭建自己的Hadoop集群,从而应对大数据时代的挑战。
- **定义**: Apache Hadoop 是一个开源框架,它允许开发者通过简单的编程模型来处理大量的数据集,并且能够在集群服务器上进行分布式处理。 - **特点**: - **可扩展性**: 设计上可以从单个服务器扩展到成千上万台...
3. Federation:NameNode Federation允许在一个Hadoop集群中部署多个NameNode实例,每个实例管理一部分命名空间,解决了单点瓶颈问题,提升了系统的扩展性。 4. Erasure Coding:2.7.2版本开始引入Erasure Coding,...
在大数据处理领域,Hadoop是不可或缺的核心组件,它是一个开源框架,主要用来处理和存储海量数据。本资源提供的是预配置好的Hadoop 3.1.4版本,它是一个高效、可靠的分布式系统基础架构,旨在解决大数据分析的问题。...
完全分布式模式则是在多台机器上部署Hadoop集群。 6. **Hadoop命令行工具**:如`hadoop fs`用于与HDFS交互,`hadoop jar`用于提交MapReduce作业,`hadoop dfsadmin`用于管理HDFS,`hadoop dfs -put`和`-get`用于...
1.1 小故事版本的解释:想象一下,你有一个巨大的图书馆,书太多,一个人无法管理。于是,你找来许多助手,每人都负责一部分书籍的存储和检索。助手之间通过网络通信协调工作,即使某人出问题,其他人也能接手他的...
6. 启动Hadoop集群,包括DataNode、NameNode、Zookeeper等服务。 **三、HA集群验证** 验证Hadoop HA集群的正确性有三种常见方法: 1. **Web界面验证**:通过NameNode的HTTP地址访问HDFS Web UI,确认两个NameNode...
Hadoop是Apache软件基金会开发的一个开源分布式计算框架,它允许在廉价硬件上处理大量数据,是大数据处理领域的重要工具。这个压缩包文件“hadoop-2.10.1.tar.gz”包含了手动编译后的Hadoop 2.10.1版本,这意味着...
2. **单点故障问题**:在Hadoop 1.x版本中,NameNode是整个HDFS的元数据管理节点,如果NameNode宕机,整个HDFS将无法访问,这是一个明显的单点故障问题。 3. **Secondary NameNode**:1.0.1版本中,Secondary ...
综上所述,这些配置文件构成了一个完整的Hadoop 2.x集群的配置体系,它们决定了Hadoop的运行方式、性能表现和资源利用率。正确配置这些文件对于搭建和管理高效、稳定的Hadoop集群至关重要。在实际操作中,需要根据...
Hadoop是Apache软件基金会开发的一个开源分布式计算框架,主要用于处理和存储海量数据。这个hadoop-3.1.3.tar.gz文件是一个包含了Hadoop 3.1.3版本的源码压缩包,对于理解Hadoop的工作原理、进行二次开发或者定制化...
这个压缩文件包含了运行Hadoop所需的所有组件和配置文件,用户可以将其解压后在64位Linux系统上部署和使用Hadoop集群。 Hadoop的主要组件包括: 1. HDFS(Hadoop Distributed File System):这是一个分布式文件...