`
ssydxa219
  • 浏览: 626276 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
文章分类
社区版块
存档分类
最新评论

zookeeper-hadoop-hbase-start-script

 
阅读更多

yum install gcc* uuid-devel libuid-devel libtool
yum install -y git
wget http://download.zeromq.org/zeromq-2.1.7.tar.gz
./configure
make
make install
git clone https://github.com/nathanmarz/jzmq.git
./autogen.sh
./configure
make
make install
wget http://mirrors.cnnic.cn/apache/storm/apache-storm-0.9.4/apache-storm-0.9.4.tar.gz

ln -sf storm
------------------------------------------------------------------------
STORM_HOME=$BASE_HOME/storm
PATH=$PATH:$STORM_HOME/bin

export STORM_HOME
......
Step1 :
ssh zjenterprise01
cd  /myhome/
./runzk.sh "/myhome/usr/zookeeper/bin/zkServer.sh stop"
./runzk.sh "/myhome/usr/zookeeper/bin/zkServer.sh start"
./runzk.sh "/myhome/usr/zookeeper/bin/zkServer.sh status"
./runzk.sh "/myhome/usr/hadoop/sbin/hadoop-daemon.sh stop journalnode"
./runzk.sh "/myhome/usr/hadoop/sbin/hadoop-daemon.sh start journalnode"
exit
Step2:
..hdfs namenode -format
..hdfs zkfc -formatZK
hadoop-daemon.sh start namenode
start-dfs.sh
ssh zjenterprise02
hdfs namenode -bootstrapStandby
hadoop-daemon.sh start namenode
ssh zjenterprise03
cd /myhome/
./runyarn.sh "/myhome/usr/hadoop/sbin/stop-yarn.sh"
./runyarn.sh "/myhome/usr/hadoop/sbin/start-yarn.sh"
./runresourcemanager.sh "/myhome/usr/hadoop/sbin/yarn-daemon.sh stop resourcemanager"
./runresourcemanager.sh "/myhome/usr/hadoop/sbin/yarn-daemon.sh start resourcemanager"
exit
./runnamenode.sh "/myhome/usr/hadoop/sbin/hadoop-daemon.sh start namenode"

 

Step1 :
在各个JournalNode节点上,输入以下命令启动journalnode服务:
sbin/hadoop-daemon.sh start journalnode

Step2:
在[nn1]上,对其进行格式化,并启动:
bin/hdfs namenode -format
sbin/hadoop-daemon.sh start namenode

Step3:ssh zjenterprise02
在[nn2]上,同步nn1的元数据信息:
bin/hdfs namenode -bootstrapStandby

Step4:
启动[nn2]:
sbin/hadoop-daemon.sh start namenode

经过以上四步操作,nn1和nn2均处理standby状态
Step5:
将[nn1]切换为Active
bin/hdfs haadmin -transitionToActive nn1

Step6:
在[nn1]上,启动所有datanode
sbin/hadoop-daemons.sh start datanode

关闭Hadoop集群:
在[nn1]上,输入以下命令
sbin/stop-dfs.sh

 -------------------------------------------------------------------------------------------------

#!/bin/sh

#base_root=/myhome/usr
#scync all time
ssh zjenterprise01 'ntpdate time.nist.gov'
ssh zjenterprise02 'ntpdate time.nist.gov'
ssh zjenterprise03 'ntpdate time.nist.gov'
ssh zjenterprise04 'ntpdate time.nist.gov'
ssh zjenterprise05 'ntpdate time.nist.gov'
ssh zjenterprise06 'ntpdate time.nist.gov'
ssh zjenterprise07 'ntpdate time.nist.gov'
#start zookeeper daemons
sh zjenterprise05 '/myhome/usr/zookeeper/bin/zkServer.sh start'
ssh zjenterprise06 '/myhome/usr/zookeeper/bin/zkServer.sh start'
ssh zjenterprise07 '/myhome/usr/zookeeper/bin/zkServer.sh start'
ssh zjenterprise05 '/myhome/usr/zookeeper/bin/zkServer.sh status'
ssh zjenterprise06 '/myhome/usr/zookeeper/bin/zkServer.sh status'
ssh zjenterprise07 '/myhome/usr/zookeeper/bin/zkServer.sh status'

#start all journalnode
ssh zjenterprise05 '/myhome/usr/hadoop/sbin/hadoop-daemon.sh start journalnode'
ssh zjenterprise06 '/myhome/usr/hadoop/sbin/hadoop-daemon.sh start journalnode'
ssh zjenterprise07 '/myhome/usr/hadoop/sbin/hadoop-daemon.sh start journalnode'

#start namenode daemos
ssh zjenterprise01 '/myhome/usr/hadoop/sbin/hadoop-daemon.sh start namenode'
ssh zjenterprise02 '/myhome/usr/hadoop/sbin/hadoop-daemon.sh start namenode'
ssh zjenterprise01 '/myhome/usr/hadoop/sbin/hadoop-daemon.sh start zkfc'
ssh zjenterprise02 '/myhome/usr/hadoop/sbin/hadoop-daemon.sh start zkfc'

#yarn MapReduce daemons
ssh zjenterprise03 '/myhome/usr/hadoop/sbin/start-yarn.sh'

#start resourcemanager daemons
ssh zjenterprise04 '/myhome/usr/hadoop/sbin/yarn-daemon.sh start resourcemanager'
#start datanodes
ssh zjenterprise05 '/myhome/usr/hadoop/sbin/hadoop-daemon.sh start datanode'
ssh zjenterprise06 '/myhome/usr/hadoop/sbin/hadoop-daemon.sh start datanode'
ssh zjenterprise07 '/myhome/usr/hadoop/sbin/hadoop-daemon.sh start datanode'

#format another namenode
#ssh zjenterprise02 '/myhome/usr/hadoop/bin/hdfs namenode -bootstrapStandby'

#trigger zjenterprssh zjenterprise01 '/myhome/usr/hadoop/sbin/hadoop-daemon.sh start namenode'ise01 active
ssh zjenterprise01 '/myhome/usr/hadoop/bin/hdfs haadmin -transitionToActive --forcemanual  zjenterprise01'
ssh zjenterprise02 '/myhome/usr/hadoop/bin/hdfs haadmin -transitionToActive --forcemanual  zjenterprise01'
ssh zjenterprise02 '/myhome/usr/hadoop/bin/hdfs haadmin -getServiceState zjenterprise01'
ssh zjenterprise02 '/myhome/usr/hadoop/bin/hdfs haadmin -getServiceState zjenterprise02'

#start base daemons
ssh zjenterprise01 '/myhome/usr/hbase/bin/start-hbase.sh'
#ssh zjenterprise02 '/myhome/usr/hbase/bin/start-hbase.sh'

分享到:
评论

相关推荐

    hadoop+hbase+zookeeper集群配置流程及文件

    6. 启动Hadoop:通过`start-dfs.sh`和`start-yarn.sh`启动HDFS和YARN服务。 接下来是HBase,一个基于Hadoop的分布式数据库,适用于半结构化数据的存储。HBase2.1.0提供了更好的性能和稳定性。配置HBase集群需要: ...

    zookeeper-3.4.5-cdh5.15.1.tar.gz

    例如,HBase依赖Zookeeper进行主节点选举,Hadoop YARN则利用Zookeeper进行资源管理协调。因此,确保Zookeeper的稳定运行对整个大数据平台至关重要。 总的来说,理解并掌握Zookeeper的安装、配置和集群部署是大数据...

    最新版linux apache-zookeeper-3.7.0-bin.tar.gz

    - Hadoop、HBase、Kafka等大数据框架都依赖Zookeeper来实现分布式协调。 - 在微服务架构中,Zookeeper可用于服务发现和服务注册。 10. **故障排查与恢复**: - 当Zookeeper出现异常时,可以通过日志分析原因,如...

    apache-zookeeper-3.5.8-bin.tar.gz

    Zookeeper广泛应用于分布式环境中,如Hadoop、HBase、Kafka、Storm等,它提供了命名服务、配置管理、分布式锁、集群管理等多种功能,是构建高可用分布式系统的关键组件。通过理解并熟练掌握Zookeeper的使用,开发者...

    CentOS-6.4 64位系统下hadoop-2.2.0+hbase-0.96+zookeeper-3.4.5 分布式安装配置

    在本文中,我们将深入探讨如何在CentOS-6.4 64位操作系统上配置一个基于Hadoop 2.2.0、HBase 0.96和Zookeeper 3.4.5的分布式环境。这个过程涉及到多个步骤,包括系统设置、软件安装、配置以及服务启动。 首先,为了...

    zookeeper-3.4.5-cdh5.5.0.tar.gz

    在CDH 5.5.0中,Zookeeper是Hadoop生态系统的基石,它为HBase、HDFS、YARN等组件提供了关键的协调服务。例如,HDFS的NameNode依赖Zookeeper来维护元数据的主备状态,YARN的ResourceManager通过Zookeeper来选举和跟踪...

    zookeeper版本为zookeeper-3.4.10.tar.gz

    例如,在Hadoop、Kafka、HBase等大数据框架中,Zookeeper作为关键组件,提供元数据管理、服务发现和一致性维护等功能。 在使用Zookeeper时,需要注意监控Zookeeper的服务状态,定期备份数据,以及定期升级以获取...

    zookeeper-3.4.10.tar.gz.zip

    例如,它可以用于Hadoop集群的NameNode的高可用,HBase的RegionServer分配,以及Dubbo的服务发现等。 安装Zookeeper 3.4.10步骤大致如下: 1. 解压`zookeeper-3.4.10.tar.gz`到指定目录,如`/opt/software`。 2. ...

    apache-zookeeper-3.5.8.tar.gz-Delete

    - 初始化数据目录,运行`bin/zkServer.sh start-foreground`启动ZooKeeper服务。 6. **Zookeeper在Hadoop和HBase中的应用:** - Hadoop中,Zookeeper用于NameNode的高可用,JobTracker的选举,以及HDFS的元数据...

    apache-zookeeper-3.5.9-bin.rar

    Apache ZooKeeper是一个...在实际应用中,Zookeeper常用于Hadoop、Kafka、HBase等大数据组件的协调工作,确保整个分布式系统的稳定运行。学习和掌握Zookeeper的安装与配置,对于理解和维护大规模分布式系统至关重要。

    apache-zookeeper-3.6.0-bin.tar.gz

    Zookeeper在大数据生态系统中扮演着重要角色,例如在Hadoop、HBase等项目中作为关键的组件存在。 标题中的"apache-zookeeper-3.6.0-bin.tar.gz"是Apache ZooKeeper 3.6.0版本的Linux二进制包,采用tar.gz格式压缩,...

    Hadoop+Zookeeper+HBase部署指南

    - **启动Hadoop集群**:通过`start-dfs.sh`和`start-yarn.sh`脚本启动HDFS和YARN服务。 #### 五、Zookeeper配置安装 - **配置Zookeeper环境变量**:在`/etc/profile`中添加Zookeeper路径。 - **配置Zookeeper数据...

    zookeeper-3.4.5-cdh5.7.6.tar.gz

    启动和停止Zookeeper服务可以通过`service zookeeper start`和`service zookeeper stop`命令进行。客户端可以通过Java API、命令行工具(zkCli.sh)或者各种语言的客户端库与Zookeeper交互。 六、Zookeeper与CDH的...

    hbase-0.96.2-hadoop2-bin.tar.gz

    - **启动HBase**:启动ZooKeeper服务,然后使用`start-hbase.sh`启动HBase。 - **检查运行状态**:通过`jps`命令检查HMaster和HRegionServer是否已启动。 7. **使用HBase Shell**:HBase自带了一个交互式的Shell...

    hadoop-2.7.3+zookeeper-3.4.8+hadoop-2.7.3分布式环境搭建整理(王三旗亲试成功安装)

    本文档将指导您如何搭建 Hadoop 分布式环境,包括安装和配置 Hadoop、ZooKeeper 和 HBase。同时,本文档还将介绍相关的网络配置和 Linux 系统安装。 一、准备环境 1.1 安装 Linux 系统 为搭建 Hadoop 分布式环境...

    hbase-2.2.4-bin-for-hadoop3.tar.gz

    4. 启动HBase:完成配置后,启动HBase的Master和RegionServer进程,可以使用`start-hbase.sh`命令。 5. 测试运行:通过HBase Shell或者应用程序进行简单的CRUD操作,验证HBase是否正常运行。 需要注意的是,Hadoop...

    HBase的安装与配置

    /root/hbase-0.98.12.1-hadoop2/bin/./start-hbase.sh ``` #### 步骤八:访问HBase管理页面 通过浏览器访问HBase的管理页面,查看集群状态和服务信息。 - 主节点管理页面:`http://Node11:60010` - 备用节点...

    zookeeper-3.5.3-beta.tar.gz压缩包

    Zookeeper在大数据生态系统中扮演着重要角色,它被广泛应用于Hadoop、HBase、Kafka等众多分布式系统中,作为数据共享、服务发现、配置管理等核心功能的基石。 这个"zookeeper-3.5.3-beta.tar.gz"压缩包包含了...

    zookeeper-3.4.13.tar.gz.zip

    它提供了诸如命名服务、配置管理、集群同步、分布式锁等核心功能,广泛应用于大数据领域的Hadoop、HBase、Kafka等项目。 二、Zookeeper 3.4.13版本特性 Zookeeper 3.4.13是一个稳定版本,相较于早期版本,它修复了...

Global site tag (gtag.js) - Google Analytics