本月博客排行
-
第1名
lerf -
第2名
bosschen -
第3名
paulwong - fantaxy025025
- johnsmith9th
- xiangjie88
- zysnba
年度博客排行
-
第1名
青否云后端云 -
第2名
宏天软件 -
第3名
gashero - wy_19921005
- vipbooks
- e_e
- gengyun12
- benladeng5225
- wallimn
- javashop
- ranbuijj
- fantaxy025025
- jickcai
- zw7534313
- qepwqnp
- 解宜然
- ssydxa219
- zysnba
- sam123456gz
- sichunli_030
- tanling8334
- arpenker
- gaojingsong
- xpenxpen
- kaizi1992
- wiseboyloves
- jh108020
- ganxueyun
- xyuma
- xiangjie88
- wangchen.ily
- Jameslyy
- luxurioust
- mengjichen
- lemonhandsome
- jbosscn
- zxq_2017
- nychen2000
- lzyfn123
- wjianwei666
- forestqqqq
- ajinn
- siemens800
- zhanjia
- Xeden
- hanbaohong
- java-007
- 喧嚣求静
- mwhgJava
- kingwell.leng
最新文章列表
hbase split log源码分析
split log过程
在hbase hmaster启动的时候,将hlog移动到split log文件夹下,并处理split log
(在RS加入到dead serverlist的时候,ServerShutdownHandler也会调用 splitlog方法,代码贴在最后)
Master负责分发split log任务到zk上
master处理split log ...
hbase数据库操作
http://blog.csdn.net/scutshuxue/article/details/6988348
http://jiajun.iteye.com/blog/899632
hbase shell
list
scan "table1"
count 'table1'
get 'table1','行名'
quorum.QuorumCnxManager: Cannot open channel to 2 at election address
在进行hbase分布式安装时出现了如下信息:
quorum.QuorumCnxManager: Cannot open channel to 2 at election address slave2/1.2.3.4:3888
本能的认为安装出现了差错,但是使用命令
bin/hbase shell
能正常登录且访问地址
http://28.18.19.4:60010/master.jsp
正常,这时 ...
hbase put源码分析
这里写下HRegionServer在做put操作的源码:
HRegionServer
public MultiResponse multi(final RpcController rpcc, final MultiRequest request)
throws ServiceException {
....
try {
region ...
Hadoop数据迁移:使用importtsv两步载入数据
importtsv工作: 该工具是HBase提供的一个将HDFS数据转化为HBase数据库数据的一个工具。 其实现过程是,先将HDFS文件转复制并转化为HFile文件,然后将HFile移动并加载成为HBase的数据文件。
两步数据导入: 它是指利用importtsv工具将HDFS数据直接转换为HBase表数据。 该过程分为两步完成,第一步是将HDFS上的数据复制并转化为HFile文件,第二步是将 ...
HBase 查看HFile内容
HBase 查看HFile内容
hbase 查看HFile hbase的数据文件最终存放的是HFile文件,即对MFile存储格式的封装修改,存储的为二进制格式内容,目前hbase提供的hbase org.apache.hadoop.hbase.io.hfile.HFile 工具类可以查看HFile文件内容,对排查region的分布情况有很大用途,以下为查询步骤:
定位HFile ...
HBase 多master 安装配置
HBase 多master
hbase master 多master
hbase HA hbase的hmaster不保存数据,而是起到region分裂,regionserver宕机后region的重新分配和有关表的DML操作,在hmaster宕机后只要不进行上述三种情况的操作,几乎不用考虑hmaster,先将多hmaster配置详细如下:
首先搭建单节点hmaster集群 ...
hbse在shell下的基本命令
命令:disable 'tableName' --disable表。注:修改表结构时,必须要先disable表。命令:enable 'tableName' --使表可用命令:drop 'tableName' --删除表HBase基本命令下面我们再看看看HBase的一些基本操作命令,我列出了几个常用的HBase Shell命令,如下:名称命令表达式创建表 create '表名称', '列名称1', ...
hadoop和hbase lzo压缩
配置hadoop lzo
一、下载、解压并编译lzo包
1 [wyp@master ~]$ wget http://www.oberhumer.com/opensource/lzo/download/lzo-2.06.tar.gz
2 [wyp@master ~]$ tar -zxvf lzo-2.06.tar.gz
3 ...
HBase Maven Dependency
HBase传递性依赖实在太多,还包含了很多Tomcat和Jetty的依赖容易出现问题,现在发一份记录一下
<dependency>
<groupId>org.apache.hbase</groupId>
<artifactId>hbase-common</artifactId>
<versio ...
hbase blockcache BucketCache源码分析
hbase get/scan的时候
StoreFileScanner next方法
使用HfileReaderV2的内部静态类ScannerV2(HFileScanner) next方法
使用HFileReaderV2 readBlock方法:
1.封装为blockcachekey
2.从blockcache中获取bloc ...
Hbase安装指南(原创)
1.搭建基础环境
环境说明
1.1JDK1.6.26
1.2安装hadoop 2.4.0
1.3修改系统hostname:
1)vi /etc/sysconfig/network
HOSTNAME=redhat6-xxx
2) hostname redhat6-xxx
2.添加hbase用户
使用root用户完成以下操作 ...
hbase 定时进行compact CompactionChecker类
CompactionChecker类 定时判断是否进行compact,
定时判断间隔hbase.server.compactchecker.interval.multiplier默认1000
@Override
protected void chore() {
for (HRegion r : this.instance.onlineRegions.values ...
hbase定时memflush PeriodicMemstoreFlusher
PeriodicMemstoreFlusher类 定时判断是否触发memflush,
判断间隔hbase.server.thread.wakefrequency 默认10S
@Override
protected void chore() {
for (HRegion r : this.server. ...
hadoop hive hbase 入门学习 (三)
////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////
hadoop 自学系列
hadoop hive hbase 入门学习 (一 ...
Hive Hbase integration (整合) 出现zk始终连接 localhost:2181
前提是 hive客户端和zk没在一台机器,hive只是作为客户端使用,没有和hadoop集群在一起。
hive 和 hbase 整合(integration) 的时候,在创建hive关联Hbase表的时候出现如下 zk始终连接localhost:2181,
建表语句如下:
--------------------------------------------------------- ...
HBase 系统架构
HBase 系统架构图
组成部件说明 Client: 使用HBase RPC机制与HMaster和HRegionServer进行通信 Client与HMaster进行通信进行管理类操作 Client与HRegionServer进行数据读写类操作 Zookeeper: Zookeeper Quorum存储-ROOT-表地址、HMaster地址 HRegion ...
最近博客热门TAG
Oracle(49876) MySQL(37268) SQL Server(17623) Access(9329) DB2(4271) Redis(3181) Sybase(2414) 数据挖掘(2098) MongoDB(2014) SQLite(1817) PostgreSQL(1635) HBase(1492) NoSQL(1000) HSQLDB(620) Informix(581) Derby(578) Cassandra(375) PowerBuilder(333) CouchDB(113) TokyoCabinet(87)