Hbase完全分布式安装配置手册

HBase – Hadoop Database，是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统，利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。

　　HBase是Google Bigtable的开源实现，类似Google Bigtable利用GFS作为其文件存储系统，HBase利用Hadoop HDFS作为其文件存储系统；Google运行MapReduce来处理Bigtable中的海量数据，HBase同样利用Hadoop MapReduce来处理HBase中的海量数据；Google Bigtable利用 Chubby作为协同服务，HBase利用Zookeeper作为对应。

  

 

　　上图描述了Hadoop EcoSystem中的各层系统，其中HBase位于结构化存储层，Hadoop HDFS为HBase提供了高可靠性的底层存储支持，Hadoop MapReduce为HBase提供了高性能的计算能力，Zookeeper为HBase提供了稳定服务和failover机制。 　　此外，Pig和Hive还为HBase提供了高层语言支持，使得在HBase上进行数据统计处理变的非常简单。 Sqoop则为HBase提供了方便的RDBMS数据导入功能，使得传统数据库数据向HBase中迁移变的非常方便。

下面介绍一下HBase完全分布式安装的步骤:

1.使用Hadoop 0.20.2+ZooKeeper 3.3.3+HBase 0.90.3,

Hadoop的安装见:http://blog.chinaunix.net/space.php?uid=93477&do=blog&id=315983

ZooKeeper的安装见:http://blog.chinaunix.net/space.php?uid=93477&do=blog&id=403146

2.下载HBase 0.90.3,解压至/home/grid/hbase

3.先检测zookeeper是否安装正确

HBase需要zookeeper,所以在配置HBase前务必确定zookeeper可以正常运行.

HBase有两种方式使用zookeeper服务,第一种是使用已经存在的独立zookeeper服务,另外一种是由HBase自己管理zookeeper服务,这里我们让HBase来管理zookeeper,可以少打一些命令:)

4.配置hbase/conf/hbase-site.xml

增加如下行:

hbase.zookeeper.quorum指定所有zookeeper的节点

hbase.zookeeper.property.dataDir指定zookeeper的数据目录

hbase.rootdir指定hdfs的路径

hbase.cluster.distributed为true表示完全分布式部署

5.修改hbase/conf/hbase-evn.sh

export JAVA_HOME=/usr/local/jdk1.6.0_25  #JAVA的目录
export HBASE_CLASSPATH=/home/grid/hadoop/conf #Hadoop配置所在目录
export HBASE_OPTS="-ea -XX:+UseConcMarkSweepGC -XX:+CMSIncrementalMode"
export HBASE_MANAGES_ZK=true #HBase是否管理zookeeper

6.将zookeeper的配置文件zoo.cfg复制到HBASE_CLASSPATH指定的目录

7.复制hadoop/conf/hdfs-site.xml到hbase/conf目录

8.把所有节点加入hbase/conf/regionservers,每行一个主机名

9.所有主机名都要做好反向解析,否则启动HBase会报错

10.检测一下HBase是否能够启动zookeeper

hbase$bin/hbase-daemon.sh start zookeeper

hbase#bin/hbase-daemon.sh stop zookeeper

11.把hbase目录同步到所有的节点服务器

12.启动时,先启动Hadoop,然后是HBase,关闭时,先停止HBase,再停止Hadoop

13.启动Hadoop

hadoop$bin/start-all.sh

   启动HBase

hbase$bin/start-hbase.sh

14.启动以后可能会遇到问题,具体的问题日志里都会有写,本文最后有一些常见的问题的解决办法

15.打开页面http://hadoop1.ahau.edu.cn:60010/master.jsp

查看hbase的状态,此时会有一个提醒框

分布式系统有个这么个提示,不是很蛋疼,所以一定要解决掉

16.按照wiki的提示,在hadoop/conf/hdfs-site.xml和hbase/conf/hdfs-site.xml里增加dfs.support.append的支持

<property>
<name>dfs.support.append</name>
<value>true</value>
</property>

17.无果,仍旧有上面的提示,开始漫长的google

18.HBase的官网上有写,hbase不支持官方的0.20.2的dfs.support.append,需要自己编译分支hadoop

19.编译安装可以参考 北飞孤雁 大神的博客

http://blog.csdn.net/lansine2005/article/details/6595294

    或者 

http://www.michael-noll.com/blog/2011/04/14/building-an-hadoop-0-20-x-version-for-hbase-0-90-2/

第二个地址是英文的

20.编译需要git和ant,ant的版本最好在1.8.0以上,我用1.7.6时报错

21.编译出来的jar包,需要替换原来hadoop里的包,也就是说要把原来的包删掉,否则hadoop还是会启动老的jar包

22.把新编译出来的jar包同步到所有节点

23.再次启动hadoop和hbase,那个红色的提示消失了

常见问题汇总:

1.使用官方的hadoop0.20.2时,启动hbase报错:

FATAL master.HMaster: Unhandled exception. Starting shutdown.org.apache.hadoop.ipc.RPC$VersionMismatch: Protocol org.apache.hadoop.hdfs.protocol.ClientProtocol version mismatch. (client = 42, server = 41)

原因是hbase/lib里的包与hadoop的不一致,把hadoop目录里的hadoop-0.20.2-core.jar复制到hbase的lib里就可以解决

2.启动hbase,报:

no valid quorum servers found in zoo.cfg

zoo.cfg一定要复制到hadoop/conf目录下,否则就会报这个错

3.hbase报错

Could not find my address

有两种情况会导致这个错误,1主要是因为没有做反向解析,2是因为没有复制zoo.cfg,导致hbase读不到zookeeper的配置