`

Hypertable on hadoop 安装

 
阅读更多

 

软件:

 

hadoop-0.20.2-cdh-u3

hypertable-0.9.5.6

ruby-1.8.7

CentOS-6.2

 

 

yum -y install gcc

yum -y install gcc-c++

yum install make

 

安装 BerkeleyDB4.6+

==================================

tar zxvf db-5.3.21.gz 

cd db-5.3.21

cd build_unix/

../dist/configure --prefix=/usr/local/berkeleydb --enable-cxx

make

make install

 

安装 Boost1.34.1+

=================================== 

tar zxvf boost_1_49_0.tar.gz

cd boost_1_49_0

cd tools/build/v2/

./bootstrap.sh 

./b2 install --prefix=/usr/local

 

安装 log4cpp 1.0+

==================================

yum install expat-devel)

==================================

yum install readline-devel)

==================================

 

安装 Hypertable-0.9.5.6

==================================

yum install perl-Bit-Vector

yum install perl-IO-Zlib

yum install perl-IO-Socket-INET6

yum install perl-IO-Socket-SSL

yum install perl-IO-String.noarch

yum install perl-libwww-perl-5.833-2.el6.noarch

 

rpm -ivh hypertable-0.9.5.6-linux-x86_64.rpm

 

安装 ruby-1.8.7

===================================

yum install ruby ruby-devel

 

tar zxvf rubygems-1.3.5.tgz

cd rubygems-1.3.5

ruby setup.rb 

gem update

gem install capistrano

 

安装hadoop(Hypertable自带的hadoop jar是cloudera CHD3-u3的)

===================================

具体安装参见相关文档

在hadoop上创建hypertable文件夹

bin/hadoop fs -mkdir /hypertable

bin/hadoop fs -chmod 777 /hypertable

 

Hypertable 安装配置

===================================

将/opt/hypertable/0.9.5.6/conf/Capfile.cluster文件拷贝到工作目录下(例如当前用户的home目录),重命名为Capfile,修改里面内容

set :source_machine,     "dlxa111"

set :install_dir,        "/opt/hypertable" 

set :hypertable_version, "0.9.5.6"

set :default_pkg,        "/root/hypertable-0.9.5.6-linux-x86_64.rpm"

set :default_dfs,        "hadoop"

set :default_config,     "/root/hypertable.cfg"   ##hypertable 配置文件路径

 

role :source, "dlxa111"

role :master, "dlxa111"

role :hyperspace, "dlxa112", "dlxa113", "dlxa114"

role :slave,  "dlxa115", "dlxa116", "dlxa117", "dlxa118"

role :localhost, "dlxa111"

role :thriftbroker

role :spare

 

安装命令

===================================

cap install_package   ##向各台机器分发安装

cap dist              ##查看各台机器的安装

 

cap shell             ##创建目录

cap> mkdir /etc/opt/hypertable /var/opt/hypertable

cap> chown smp:smp /etc/opt/hypertable /var/opt/hypertable

cap> quit

 

cap fhsize

 

创建hypertable配置文件(hypertable.cfg)

=====================================

 

#

# hypertable.cfg

#

 

# HDFS Broker

HdfsBroker.fs.default.name=hdfs://dlxa111:9000

 

# Ceph Broker

CephBroker.MonAddr=dlxa111:6789

 

# Local Broker

DfsBroker.Local.Root=fs/local

 

# DFS Broker - for clients

DfsBroker.Port=38030

 

# Hyperspace

Hyperspace.Replica.Host=dlxa113

Hyperspace.Replica.Host=dlxa115

Hyperspace.Replica.Host=dlxa117

Hyperspace.Replica.Host=dlxa118

Hyperspace.Replica.Port=38040

Hyperspace.Replica.Dir=hyperspace

 

# Hypertable.Master

Hypertable.Master.Port=38050

 

# Hypertable.RangeServer

Hypertable.RangeServer.Port=38060

 

Hyperspace.KeepAlive.Interval=30000

Hyperspace.Lease.Interval=1000000

Hyperspace.GracePeriod=200000

 

# ThriftBroker

ThriftBroker.Port=38080

 

将配置文件分发到各个机器的hypertable上

cap push_config

cap set_current        ##创建一个软连接

 

查看各台机器时间是否一致,如果不一致,请使用NTP做时间同步,NTP的安装参见相关文档

===============================================================================

cap shell

cap> date

 

安装web监控界面

=================================

gem install sinatra rack thin json titleize

yum install rrdtool

 

启动集群

=================================

cap start

 

 

停止集群

=================================

cap stop

 

查看集群

=================================

http://dlxa111:38090/

 

 

 

分享到:
评论

相关推荐

    Hypertable与hadoop介绍

    ### Hypertable与Hadoop简介 #### 一、Hypertable概述 Hypertable是一种高度可扩展的分布式数据库管理系统,专为处理大规模结构化数据而设计。它基于Google Bigtable论文中的设计理念构建,旨在提供高效的数据存储...

    HyperTable安装部署文档

    ### HyperTable安装部署知识点 #### 一、HyperTable简介 HyperTable是一款开源的分布式数据库系统,它基于Google的Bigtable论文实现,适用于大规模数据管理和处理。HyperTable支持高并发读写操作,具备良好的扩展性...

    Hadoop入门中文手册

    目的是帮助你快速完成单机上的Hadoop安装与使用以便你对Hadoop分布式文件系统(HDFS)和Map-Reduce框架有所体会,比如在HDFS上运行示例程序或简单作业等,同样也介绍了Hive,HBase详细安装应用! 目前国内应用和研究...

    Hadoop在雅虎的应用

    - **Hypertable:**基于HDFS的键值存储系统。 - **Voldemort:**高性能键值存储系统。 - **Azkaban:**批处理作业流程管理系统。 - **Sqoop:**用于在Hadoop和关系型数据库之间传输数据的工具。 - **Flume:**高效、...

    hypertable 源代码

    《深入剖析Hypertable:分布式数据存储系统的源代码解析》 Hypertable是一款开源的、高性能的分布式数据存储系统,专为处理大规模数据集而设计。在V0.9.5.6版本中,它展示了其强大的扩展性和可靠性。本文将通过对源...

    HyperTable 0.9.7.8 源码

    **HyperTable 0.9.7.8 源码详解** HyperTable 是一款高度可扩展的、分布式的大数据存储系统,它源自于谷歌在2006年发表的《Bigtable:一个结构化数据的分布式存储系统》论文。这款开源项目主要由C++语言编写,旨在...

    hadoop在百度

    Hadoop是一个由Apache软件基金会开发的开源框架,它允许使用简单的编程模型来存储和处理大数据。百度作为中国最大的互联网公司之一,利用Hadoop技术构建了其大数据处理平台。本课件主要介绍百度在Hadoop上的应用、所...

    baidu_hadoop

    本知识点将详细介绍百度所使用的Hadoop与Hypertable系统的最新工作进展,以及它们的运行情况和未来计划。 首先,了解百度的Hadoop系统运行情况,该系统运行在一个大约有500台机器的集群上,存储总量大约为6PB,计算...

    hypertable示例程序

    标题“hypertable示例程序”表明我们要探讨的是一个与Hypertable相关的示例程序,这通常意味着我们将看到如何在实践中使用这个分布式数据库系统。 描述中提到“hypertable是基于bigtable的数据库”,揭示了...

    hadoop基础知识

    开源生态以Hadoop为主,包括HDFS、MapReduce、Hbase、Hive等一系列工具,以及Hypertable、NoSQL数据库等。商用生态则涉及一体机数据库、数据仓库、数据集市等,如IBM PureData、Oracle Exadata、Tableau等。 Hadoop...

    Hypertable Architecture

    Hypertable is a massively scalable database modeled after Google's Bigtable database. Bigtable is part of a group of scalable computing technologies developed by Google which is depicted in the ...

    分布式海量数据管理系统Hypertable底层存储结构分析.pdf

    【分布式海量数据管理系统Hypertable底层存储结构分析】 分布式数据管理系统Hypertable是由Zvents公司开发的一款专为处理大规模结构化数据而设计的开源软件。它利用分布式架构来处理海量的数据,确保高可用性和扩展...

    hypertable 源码

    《深入剖析Hypertable:开源分布式数据存储系统的源码解析》 Hypertable,一个基于Bigtable设计理念的开源分布式数据存储系统,以其高效、可扩展和稳定性的特点,在大数据处理领域备受瞩目。本文将深入探讨V0.9.5.6...

    hypertable-0.9.5.6源码

    Hypertable 是一个正在进行中的开源项目,以google的bigtable论文为基础指导,使用c++语言实现。目的是为了解决大并发,大数据量的数据库需求。目前 只支持最基本的查询功能,对于事物,关联查询等都不支持。对单条...

    Hypertable简介(一个C++的Bigtable开源实现)

    随着互联网技术的发展,尤其是云计算平台的出现,分布式应用程序需要处理大量...HDFS、KFS等,在此基础上,Hypertable实现了分布式结构化的数据组织,Hypertable可以对海量的结构化的数据(PB级)提供面向表形式的组织方

    hypertable-0.9.8.9-src.tar.gz

    Hypertable 是一个正在进行中的开源项目,以google的bigtable论文为基础指导,使用c++语言实现。目的是为了解决大并发,大数据量的数据库需求。目前 只支持最基本的查询功能,对于事物,关联查询等都不支持。对单条...

    hypertable-0.9.6.5.jar

    0.9.6.5版本的hypertable.jar,0.9.6.5版本的hypertable.jar。

    分布式海量数据管理系统Hypertable 底层存储结构分析

    ### 分布式海量数据管理系统Hypertable底层存储结构分析 #### 1. 引言 Hypertable是一款由Zvents公司开发的大规模结构化数据分布式存储系统,旨在高效地存储与管理海量网络数据。它借鉴了Google Bigtable的设计...

Global site tag (gtag.js) - Google Analytics