`
peigang
  • 浏览: 172132 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

hbase安装

 
阅读更多

 

准备:

1、JDK安装调试完毕

2、hadoop安装调试完毕。

3、下载hbase,地址:http://www.apache.org/dyn/closer.cgi/hbase/ ;本次安装使用版本hbase-0.94.0-security(未确认是否要打补丁)

4、 ulimit 和 nproc: Base是数据库,会在同一时间使用很多的文件句柄。大多数linux系统使用的默认值1024是不能满足的,会导致FAQ: Why do I see "java.io.IOException...(Too manyopen files)" in my logs?异常。

所以你需要修改你的最大文件句柄限制。可以设置到10k. 你还需要修改 hbase 用户的 nproc,如果过低会造成 OutOfMemoryError异常。

 设置ulimit:
  如果你使用的是Ubuntu,你可以这样设置:
在文件 /etc/security/limits.conf 添加一行,如:
hadoop - nofile 32768
可以把 hadoop 替换成你运行Hbase和Hadoop的用户。如果你用两个用户,你就需要配两个。还有配nproc hard 和 softlimits. 如:

 

hadoop soft/hard nproc 32000

 在 /etc/pam.d/common-session 加上这一行:

 

session required pam_limits.so

 否则在 /etc/security/limits.conf上的配置不会生效.
还有注销再登录,这些配置才能生效!

 5、修改Hadoop HDFS Datanode同时处理文件的上限:dfs.datanode.max.xcievers
一个 Hadoop HDFS Datanode 有一个同时处理文件的上限. 这个参数叫 xcievers (Hadoop的作者把这个单词拼错了). 在你加载之前,先确认下你有没有配置这个文件conf/hdfs-site.xml里面的xceivers参数,至少要有4096:

 

<property>
       <name>dfs.datanode.max.xcievers</name>
        <value>4096</value>
</property>

 对于HDFS修改配置要记得重启.

如果没有这一项配置,你可能会遇到奇怪的失败。你会在Datanode的日志中看到xcievers exceeded,但是运行起来会报 missing blocks错误。例如: 02/12/1220:10:31 INFO hdfs.DFSClient: Could not obtain blockblk_XXXXXXXXXXXXXXXXXXXXXX_YYYYYYYY from any node: java.io.IOException: No livenodes contain current block. Will get new block locations from namenode andretry...

 

安装:

1、解压 hbase-0.94.0-security.tar.gz文件;

2、将hbase-0.94.0-security拷贝到linux安装目录下;

3、拷贝hbase-0.94.0-security/src/main/resources/hbase-default.xml中的内容到hbase-0.94.0-security/conf/hbase-site.xml中。

4、 修改 hbase-site.xml:

设置hbase.rootdir的值为:  hdfs://namenode:90000/hbase;

设置hbase.master的值为:namenode:60010

设置hbase.master.port 的值为:60000

设置hbase.zookeeper.quorum的值为 ( zookeeper 集群数量配置必须为奇数) :datanode1,datanode2,datanode3

5、修改:hbase-env.sh:

设置环境变量:JAVA_HOME=/home/yousuo/jdk1.7.0_03

6、在Master节点修改regionservers,列出所有slave机器,一行一个机器名:

datanode1
datanode2
datanode3

7、打包部署文件到集群所有机器上,路径保持一致。(可以使用rsync同步)

 

运行hbase 

1、 修改/etc/profile文件,在文件末尾加上环境变量:

export HBASE_HOME=/home/yousuo/hbase
export PATH=$PATH:$HBASE_HOME/bin

 

在各客户端执行source /etc/profile

 

2、在hbase/bin 目录下执行 chmod +x * 添加执行权限,然后执行  start-hbase.sh 启动hbase服务。

3、执行命令hbase shell登录成功显示如下:

 

HBase Shell; enter 'help<RETURN>' for list of supported commands.
Type "exit<RETURN>" to leave the HBase Shell
Version 0.94.0, r1332822, Tue May  1 21:03:16 UTC 2012

  4、在控制台输入list成功则显示如下:

 

TABLE                                                                           
SLF4J: Class path contains multiple SLF4J bindings.
SLF4J: Found binding in [jar:file:/home/yousuo/hbase/lib/slf4j-log4j12-1.5.8.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: Found binding in [jar:file:/home/yousuo/hadoop/lib/slf4j-log4j12-1.4.3.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation.
0 row(s) in 1.0830 seconds

hbase(main):002:0> 

 

 

 本文参考了以下文档:http://www.yankay.com/wp-content/hbase/book.html

 

 

1
3
分享到:
评论

相关推荐

    大数据技术基础实验报告-HBase安装配置和应用实践.doc

    【大数据技术基础实验报告-HBase安装配置和应用实践】 这篇实验报告主要涵盖了HBase的安装、配置以及基本应用,这是大数据技术中一个重要的组件,它是一个分布式的、面向列的数据库,尤其适合处理大规模的数据。 1...

    基于集群的HBase安装和配置

    ### 基于集群的HBase安装和配置 #### Zookeeper简介 Zookeeper作为Hadoop生态中的关键组件,主要用于提供高可用性和分布式协调服务。它能够有效地管理Hadoop集群中的各种资源和服务,例如Hadoop NameNode管理和...

    分布式数据库HBase安装配置与实践.doc

    【分布式数据库HBase安装配置与实践】 HBase是一款基于Google Bigtable理念设计的开源NoSQL数据库,它构建在Hadoop之上,适用于处理大规模数据。在本文档中,我们将详细介绍如何在Linux环境中安装、配置和实践HBase...

    Hadoop&Hbase安装完美教程

    本教程“Hadoop&Hbase安装完美教程”旨在指导用户详细地安装和配置这两个工具,确保用户能够顺利地进行大数据操作。首先,让我们深入了解Hadoop的安装过程: 1. **环境准备**:Hadoop需要Java运行环境,因此第一步...

    大数据实验Hbase安装部署和使用javaapi调用.pdf

    【大数据实验Hbase安装部署和使用javaapi调用】 在这个实验中,我们将深入理解HBase在Hadoop生态系统中的角色,并掌握如何在Ubuntu 19.04操作系统上安装、配置和使用HBase,同时利用Java API进行编程。实验中使用的...

    hbase安装与配置.docx

    在Linux环境下,构建基于Hadoop集群的Zookeeper和Hbase安装及配置是一项关键任务,因为这两个组件在大数据处理中扮演着重要角色。Hadoop生态系统中的HBase是一个分布式数据库,它建立在Hadoop集群的HDFS(Hadoop ...

    zookeeper及hbase安装

    ### Zookeeper及HBase安装配置详解 #### 一、Zookeeper安装配置 **目标环境**: - 三台服务器:192.168.15.5(master)、192.168.15.6(slave1)、192.168.15.7(slave2) **步骤一:主机名映射** - 在每台服务器...

    hbase安装与使用

    ### HBase 安装与使用知识点详解 #### 概述 HBase 是一款构建于 Hadoop 之上的分布式、可扩展的大规模数据存储系统。它提供了类似 Google BigTable 的功能特性,非常适合处理海量数据和高并发读写需求的应用场景。...

    hbase安装,节点添加,移除,常见问题解决

    本文将深入探讨如何进行HBase的安装、节点的添加与移除,以及如何解决常见的问题。 首先,Hadoop是HBase的基础,因此在安装HBase之前,必须先确保Hadoop环境已经正确配置并稳定运行。对于`hadoop-2.5.2-hbase-...

    Hbase 安装与基本使用

    本文将深入探讨HBase的安装过程以及基本使用方法,旨在帮助初学者快速上手。 **一、HBase简介** HBase是Google Bigtable的开源实现,它在Hadoop文件系统(HDFS)之上构建,提供了高度可扩展性和实时读写能力。HBase...

    Hadoop和Hbase安装使用教程

    ### Hadoop和Hbase安装使用教程 #### 一、准备工作 在正式开始Hadoop和HBase的安装之前,我们需要做一些准备工作。这些准备包括了安装必要的软件环境,例如虚拟机环境和SSH客户端,以及对虚拟机的基本配置。 ####...

    指导手册06:HBase安装部署 hbase配置文件

    指导手册06:HBase安装部署 hbase配置文件

    CDH-Hbase的安装1

    通过以上步骤,我们可以确认HBase安装成功,并且可以进行基本的数据操作。随着需求的增长,可以进一步配置HBase的高级特性,例如设置复制、分区策略、优化查询性能等。在生产环境中,还需要关注HBase的监控和维护,...

    Zookeeper和Hbase安装总结手册.

    Zookeeper和Hbase安装总结手册.

    hbase安装和使用

    一、HBase安装 1. **系统需求**:HBase通常运行在Linux环境下,因此首先确保你的服务器或开发环境是Linux。同时,需要安装Java Development Kit (JDK) 8或更高版本,因为HBase依赖Java运行。 2. **下载HBase**:...

    Hbase安装部署步骤截图

    根据提供的文件信息,以下是对HBase安装部署过程的详细知识点解析: ### HBase安装部署步骤 #### 一、上传并解压HBase安装包 - **上传安装包**:首先需要将HBase的安装包上传至每台服务器,并在服务器上进行解压...

    hadoop和hbase安装操作手册

    ### Hadoop和HBase安装操作手册 #### 一、引言 随着大数据技术的发展,Hadoop和HBase作为处理大规模数据的关键技术框架,受到了越来越多的关注。本文档旨在为初次接触这些技术的学习者提供一份详尽的操作指南,...

    hbase安装和基本介绍

    ### HBase 安装与基本介绍 #### 一、HBase 概述 HBase 是一个分布式的、面向列的开源数据库,它旨在为结构化数据提供高效存储和检索服务。HBase 的设计灵感来源于 Google 的 Bigtable 论文,并且它作为 Apache ...

    HBase安装配置与部署运行

    《HBase安装配置与部署运行》 文档控制 本文档主要针对HBase初学者,旨在详细介绍如何进行HBase的安装、配置以及后续的部署运行。包括基本的数据操作,如建表、删表、统计(DML操作)以及数据的创建、更新、删除和...

    05-Hbase安装部署及优化.pdf

    Hbase安装部署及优化知识点详细解析: 一、Hbase概述 Hbase是建立在Apache HDFS上的NoSQL分布式数据库系统。它具备高可靠性、高性能、列存储、可伸缩、实时读写等特点。Hbase支持海量数据的存储和处理,并且能够...

Global site tag (gtag.js) - Google Analytics