`

hadoop 动态添加节点datanode及tasktracker

阅读更多

个人技术博客:http://demi-panda.com

 

有的时候, datanode或者tasktracker crash,或者需要向集群中增加新的机器时又不能重启集群。下面方法也许对你有用。
1.把新机器的增加到conf/slaves文件中(datanode或者tasktracker crash则可跳过)
2.在新机器上进入hadoop安装目录
  $bin/hadoop-daemon.sh start datanode
  $bin/hadoop-daemon.sh start tasktracker
3.在namenode上
  $bin/hadoop balancer

分享到:
评论
2 楼 denger 2012-04-10  
nlslzf 写道
2.在新机器上进入hadoop安装目录
  $bin/hadoop-daemon.sh start datanode
  $bin/hadoop-daemon.sh start tasktracker
这一步不需要,直接在namenode上接着执行start-all

对。。start-all的时候会对没启node的进行启动,已经启动的就会跳过。
1 楼 nlslzf 2011-02-25  
2.在新机器上进入hadoop安装目录
  $bin/hadoop-daemon.sh start datanode
  $bin/hadoop-daemon.sh start tasktracker
这一步不需要,直接在namenode上接着执行start-all

相关推荐

    hadoop-管理

    然后在新节点上执行 `cd path/to/hadoop` 进入 Hadoop 目录,接着运行 `bin/hadoop-daemon.sh start datanode` 和 `bin/hadoop-daemon.sh start tasktracker` 启动 DataNode 和 TaskTracker。最后,在 master 节点上...

    Hadoop集群中动态增加和减少机器

    - 使用`$bin/hadoop-daemon.sh start datanode`命令在新节点上启动DataNode服务。 - 使用`$bin/hadoop-daemon.sh start tasktracker`命令启动TaskTracker服务。 - 这些命令通常位于Hadoop安装目录下的`bin`目录内...

    hadoop集群部署

    master 节点用于运行 namenode、secondary namenode 和 jobtracker 任务,而 slave 节点用于运行 datanode 和 tasktracker 任务。可以通过复制和粘贴虚拟机节点来轻松地创建多个虚拟机节点。 hosts 文件配置 hosts...

    hadoop学习手册

    NameNode节点负责将一个文件分成若干文件块,并记录了HDFS文件系统中的文件块放了在哪些DataNode中(一个数据块被冗余地放到1个或多个DataNode节点...,一个集群中只有一个NameNode节点(Hadoop2.X中情况有所不同)...

    细细品味Hadoop_Hadoop集群(第5期)_Hadoop安装配置

    每个Slave节点上运行DataNode和TaskTracker,处理数据存储和任务执行。理想情况下,还应有一个备用的Master节点以确保高可用性,但在这个案例中,备用节点将在后续阶段添加。 【网络配置】 为了正确配置Hadoop集群...

    Impala维护操作手册.docx

    - 升级或降级:将有问题的节点更新至与集群其他节点相同的版本,或反过来,确保所有节点的Hadoop组件版本一致。 - 重新初始化:在确认版本无误后,可能需要清理旧的pid文件并重新初始化Datanode服务。 - 验证服务...

    hadoop大数据培训Hadoop安装配置每一小步都写得.doc

    6. 启动Hadoop服务:依次启动DataNode、NameNode、TaskTracker和JobTracker等服务,确保所有节点正常运行。 7. 验证安装:通过上传文件到HDFS并运行简单的MapReduce作业来检查集群是否正确配置和运行。 在完成以上...

    多节点Hadoop配置.doc

    - **conf/slaves**(主节点):列出所有的从节点,即DataNode和TaskTracker。 - **conf/*-site.xml**(所有机器):配置Hadoop的核心、HDFS和MapReduce站点文件,包括namenode和datanode的地址,以及其他的系统...

    Hadoop集群搭建(全)

    Salve节点包括DataNode和TaskTracker,负责存储和处理数据,执行任务和返回结果。 环境说明: * 集群中包括 4 个节点:1 个 Master,3 个 Salve,节点之间局域网连接,可以相互ping 通。 * 节点 IP 地址分布: + ...

    安装部署Hadoop集群.pdf

    3. 在Slave节点上配置Hadoop,主要是设定Datanode和TaskTracker的角色。 **3 验证配置** 1. 格式化HDFS,初始化文件系统。 2. 启动Hadoop服务,包括DataNode、NameNode、ResourceManager、NodeManager等。 3. 使用`...

    大数据与云计算培训学习资料 Hadoop集群 细细品味Hadoop_第5期_Hadoop安装配置 共44页.pdf

    - **Slave节点**:Slave节点包括DataNode和TaskTracker。DataNode是HDFS的从节点,存储实际的数据块,并向NameNode报告其状态。TaskTracker是MapReduce的从节点,根据JobTracker的指令执行Map任务和Reduce任务,并...

    hadoop分布计算安装.pptx

    Hadoop分布式集群是由多个节点组成的,每个节点可以是NameNode、DataNode或TaskTracker。集群中的节点通过网络连接,可以相互通信和协作。 5. Hadoop安装和配置 Hadoop安装需要配置NameNode和DataNode的IP地址和...

    hadoop相关技术原理

    Hadoop 集群包含三种主要节点类型:NameNode、DataNode 和 TaskTracker。NameNode 负责元数据管理,DataNode 存储实际数据,TaskTracker 执行 MapReduce 任务。NameNode 与 DataNode 之间通过心跳机制保持通信,...

    hadoop winutils hadoop.dll等依赖包

    最后,启动Hadoop服务,包括DataNode和TaskTracker,可以通过运行`start-dfs.cmd`和`start-yarn.cmd`脚本。然后,你可以通过Web界面或命令行工具检查Hadoop集群的状态,执行MapReduce任务。 总的来说,要在Windows...

    hadoop详解

    Hadoop集群主要包括三个核心组成部分:客户端(Client)、主节点(NameNode & JobTracker)和从节点(DataNode & TaskTracker)。 - **客户端(Client)**:客户端不包含主节点或从节点的功能,而是用于提交作业、查询作业...

    centos安装配置hadoop超详细过程.docx

    Slave节点则包含DataNode和TaskTracker服务: 1. **DataNode**:负责管理存储的数据块,根据客户端或NameNode的指令进行数据块的创建、删除等操作。 2. **TaskTracker**:根据JobTracker的指令执行具体的Map或...

    Eclipse中编译运行Hadoop-0.20.1源码

    为了启动Hadoop集群,你需要先在Hadoop-0.20.1目录下执行`bin/hadoop namenode -format`来格式化NameNode,然后运行`bin/start-all.sh`启动所有Hadoop进程,包括DataNode、TaskTracker和JobTracker等。 一旦Hadoop...

    hadoop分布式部署教程

    在本例中,`hadoop1`作为`Namenode`和`JobTracker`,而`hadoop2`和`hadoop3`则分别作为`Datanode`和`TaskTracker`。 #### 五、目录结构设计 - **账户统一**:确保所有节点上都有一个相同的用户名的账户,如`hadoop...

    Linix下Hadoop的伪分布式配置

    在伪分布式模式下,这两个文件都只包含`localhost`,因为所有角色(Namenode、DataNode和TaskTracker)都在同一个节点上运行。 最后,执行`bin/hadoop namenode -format`命令来格式化NameNode,这会创建必要的数据...

    Hadoop集群架构搭建分析

    环境搭建是指在搭建 Hadoop 集群环境的过程中需要进行的步骤,包括配置 NameNode、DataNode、JobTracker、TaskTracker、HMaster、HRegionServer、SecondaryNameNode、HQuorumPeer 等组件。 配置 NameNode 需要设置 ...

Global site tag (gtag.js) - Google Analytics