`
sjsky
  • 浏览: 918040 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论

Hadoop分布式时远程Datanode无法启动的解决

阅读更多
   blog迁移至 :http://www.micmiu.com

问题的基本现象:
在测试Hadoop的分布式环境搭建时,在namenode启动时信息如下:
引用
[michael@shnap hadoop]$ bin/start-all.sh
starting namenode, logging to /home/michael/hadoop/bin/../logs/hadoop-michael-namenode-shnap.out
192.168.8.148: starting datanode, logging to /home/michael/hadoop/bin/../logs/hadoop-michael-datanode-michael-VirtualBox.out
192.168.8.150: starting secondarynamenode, logging to /home/michael/hadoop/bin/../logs/hadoop-michael-secondarynamenode-shnap.out
starting jobtracker, logging to /home/michael/hadoop/bin/../logs/hadoop-michael-jobtracker-shnap.out
192.168.8.148: starting tasktracker, logging to /home/michael/hadoop/bin/../logs/hadoop-michael-tasktracker-michael-VirtualBox.out
[michael@shnap hadoop]$ jps
30045 JobTracker
29973 SecondaryNameNode
29813 NameNode
30136 Jps

从上述信息可见namenode中的进程信息正常

在datanode查看的信息如下:
引用
michael@michael-VirtualBox:~/hadoop$ jps
15934 TaskTracker
15978 Jps

从上述信息可见datanode中的进程就不正常了,明显少了DataNode

解决办法如下:
先检查conf/masters 和conf/slaves文件,确保配置没错。
然后把所有节点的hadoop.tmp.dir指定的文件夹下的内容全部删掉

重新在master设备上执行启动程序:
$ bin/hadoop namenode -format
$ bin/start-all.sh 



再在datanode查看的信息就正常了如下:
引用

michael@michael-VirtualBox:~/hadoop$ jps
16467 Jps
16289 DataNode
16429 TaskTracker




转载请注明来自:Michael's blog @ http://sjsky.iteye.com

----------------------------- 分 ------------------------------ 隔 ------------------------------ 线 ------------------------------

分享到:
评论
2 楼 nǎ一站 2012-02-15  
刚启动的时候还能看到DataNode,一会再看就只剩下Jps了,这个怎么解决啊?
1 楼 fxj 2011-09-18  
不错,碰到同样问题,这样解决了!

相关推荐

    大数据之hadoop分布式集群初次启动 (2).pdf

    Hadoop 分布式集群初次启动 Hadoop 分布式集群初次启动是大数据处理中的重要步骤,本文将指导用户如何在虚拟机中搭建 Hadoop 分布式集群,并对其进行初次启动。 1. SSH 免密登录 在 Hadoop 分布式集群中,各个...

    Hadoop分布式文件系统架构

    Hadoop分布式文件系统(HDFS)是一种专门为运行在通用硬件上的分布式文件系统而设计的解决方案。与其他分布式文件系统相比,HDFS在设计之初就考虑到了大规模数据集的应用场景。它具有高度容错性,能够部署在成本较低的...

    Hadoop分布式文件系统:架构和设计要点.pdf

    Hadoop分布式文件系统(HDFS)的设计初衷是为了解决大规模数据处理的问题,特别是针对那些需要处理TB甚至PB级别数据的应用程序。为了实现这一目标,HDFS在设计时考虑到了以下几点: 1. **硬件故障的常态化**:由于...

    Hadoop分布式文件系统的模型分析

    ### Hadoop分布式文件系统的模型分析 #### 一、引言 Hadoop分布式文件系统(Hadoop Distributed File System, HDFS)是一种高度可靠且具有极高可扩展性的分布式文件系统,能够支持大规模的数据存储需求[1]。HDFS的...

    Hadoop 分布式部署配置及基准性能测试

    总结来说,Hadoop分布式部署涉及硬件配置、软件安装、环境变量设置、配置文件调整和服务启动等多个环节。通过DFSIO和Tersort基准测试,我们可以量化地评估集群的读写速度和排序性能,为后续的大数据处理提供可靠的...

    Hadoop完全分布式环境搭建

    ### Hadoop完全分布式环境搭建详解 #### 一、前言 在大数据处理领域,Hadoop是一种广泛使用的开源框架,主要用于存储和处理大规模数据集。它包括HDFS(Hadoop Distributed File System)和MapReduce等核心组件。...

    centos7下配置hadoop分布式环境完整版

    在CentOS 7环境下配置Hadoop分布式环境是一项涉及操作系统配置、网络设置、密钥管理等多个方面的技术任务。以下是根据提供的文件内容所整理的详细知识点: ### CentOS 7系统配置 #### 1. 修改主机名 - **CentOS 7...

    hadoop完全分布式搭建.docx

    Hadoop 完全分布式搭建指南 Hadoop 完全分布式搭建是指在多台服务器上安装和配置 Hadoop 组件,以实现大规模数据处理和存储的需求。以下是 Hadoop 完全分布式搭建的详细指南: 一、实验环境准备 在开始 Hadoop ...

    Linux下Hadoop的分布式配置和使用.doc

    以上是Linux环境下Hadoop分布式配置和使用的详细流程,理解并掌握这些步骤对于构建和管理高效稳定的Hadoop集群至关重要。在实际操作中,还需要关注日志监控、性能优化和故障排查等方面,确保Hadoop集群的稳定运行。

    Windows7下eclipse调试Fedora虚拟机的hadoop+hbase伪分布式

    总结来说,这个过程涉及了虚拟化技术、分布式系统、Hadoop和HBase的安装配置、远程调试等多个环节,每个环节都需要细心操作,确保所有配置正确无误,才能实现Windows7下通过Eclipse对Fedora虚拟机中Hadoop+hBase伪...

    hadoop远程访问资料

    1. **Hadoop分布式文件系统(HDFS)**:Hadoop的核心组件之一,它将大文件分割成块,分布存储在多台机器(DataNodes)上,通过NameNode进行统一管理和调度。 2. **NameNode**:Hadoop集群中的主节点,负责维护文件...

    hadoop伪分布式搭建.docx

    - **概述**:为了方便使用,可以设置 Hadoop 服务在系统启动时自动启动。具体实现方式取决于所使用的 Linux 发行版。 #### 十、服务器关闭 - **概述**:在必要时才关闭服务器,以保持系统的稳定性和数据安全性。...

    ubuntu-14.04.1+hadoop2.4完全分布式搭建要点

    标题“Ubuntu 14.04.1 + Hadoop 2.4 完全分布式搭建要点”涉及到的是在Ubuntu 14.04.1操作系统上安装和配置Hadoop 2.4版本的过程,这是一个大数据...对于初学者,这是一个深入了解Hadoop分布式计算框架的绝佳实践项目。

    Hadoop2.x版本完全分布式安装与部署

    由于篇幅限制,无法涵盖Hadoop安装过程中可能遇到的所有问题和细节,但上述知识点涵盖了一个基础的、完整的Hadoop 2.x版本完全分布式安装与部署流程。对于初学者而言,跟随这个流程一步步操作,可以较为顺利地搭建起...

    搭建Hadoop HA分布式集群.pdf

    - 启动Hadoop相关服务,如NameNode、DataNode等,并确认集群正常运行。 ### 具体操作细节: #### 1. Linux主机配置 在Linux系统中,使用`hostname`命令查看和修改主机名,使用`ifconfig`命令查看和设置静态IP地址...

Global site tag (gtag.js) - Google Analytics