本月博客排行
-
第1名
龙儿筝 -
第2名
lerf -
第3名
fantaxy025025 - johnsmith9th
- xiangjie88
- zysnba
年度博客排行
-
第1名
青否云后端云 -
第2名
宏天软件 -
第3名
gashero - wy_19921005
- vipbooks
- benladeng5225
- e_e
- wallimn
- javashop
- ranbuijj
- fantaxy025025
- jickcai
- gengyun12
- zw7534313
- qepwqnp
- 解宜然
- ssydxa219
- zysnba
- sam123456gz
- sichunli_030
- tanling8334
- arpenker
- gaojingsong
- kaizi1992
- xpenxpen
- jh108020
- wiseboyloves
- ganxueyun
- 龙儿筝
- xyuma
- xiangjie88
- wangchen.ily
- Jameslyy
- luxurioust
- mengjichen
- lemonhandsome
- jbosscn
- zxq_2017
- lzyfn123
- nychen2000
- forestqqqq
- wjianwei666
- ajinn
- zhanjia
- siemens800
- Xeden
- hanbaohong
- java-007
- 喧嚣求静
- mwhgJava
最新文章列表
HBase利用bulk load批量导入数据
OneCoder只是一个初学者,记录的只是自己的一个过程。不足之处还望指导。
看网上说导入大量数据,用bulk load的方式效率比较高。bulk load可以将固定格式的数据文件转换为HFile文件导入,当然也可以直接导入HFile文件。所以OneCoder最开始考虑的生成HFile文件供HBase导入,不过由于手太新,一直没有搞定。参考了很多网上的代码也没跑通。暂时搁浅。
后来OneCo ...
在HBase中应用MemStore-Local Allocation Buffers解决Full GC问题
译者注:上个月写了一遍博文,介绍一种高效的Java缓存实现http://maoyidao.iteye.com/blog/1559420。其本质是模仿Memcached的Slab,通过分配连续定长的byte[] ...
hive与hbase的十大区别与联系
共同点:1.hbase与hive都是架构在hadoop之上的。都是用hadoop作为底层存储区别:2.Hive是建立在Hadoop之上为了减少MapReduce jobs编写工作的批处理系统,HBase是为了支持弥补Hadoop对实时操作的缺陷的项目 。3.想象你在操作RMDB数据库,如果是全表扫描,就用Hive+Hadoop,如果是索引访问,就用HBase+Hadoop 。4.Hive query ...
linux eclipse编译hbase源码
编译hbase0.94源码
1.svn下载源码
2.mvn package -Dmaven.test.skip.exec=true编译源码
3.导入eclipse,可以用插件,但是我用mvn eclipse:eclipse生成eclipse文件,导入eclipse
碰到一些错误
问题一:
Unbound classpath variable: 'M2_REPO
解 ...
hbase 编译
hbase编译报错:
编译中出现一个错误:找不到autoreconf (视机器环境而定),定位到文件中位置:
<target name="create-native-configure"> <exec executable="autorec ...
hbase compact源码分析
工作的地方不让上网,回家补个笔记,好惨好惨
主要的步骤都在HRegion下的Store compact方法中
Store.compact(final List<StoreFile> filesToCompact,
final boolean majorCompaction, final long maxId) ...
impala常用命令
修改shell编码:export LANG='zh_CN.utf8'
进入shell: impala-shell
罗列所有数据库:show databases;
罗列所有表: show tables;
518 hadoop fs -put /home/scb/hxs.txt /wenzhou/table/hxs/
519 hadoop fs -put /home/scb/hxs.t ...
hbase性能调试 转
本文主要介绍软件层面的性能调优。故,在此之前,请检查硬件状况。硬盘推荐SSD,一般SATA即可。网络千兆以上。可以安装Ganglia等工具,检查各节点的各硬件的运作状态:CPU,Memo,网络等等。
一、调整参数
入门级的调优可以从调整参数开始。投入小,回报快。
1. Write Buffer Size
快速配置
Java代码
HTable htable ...
hbase bulkloader实例入门
一、使用mr生成对应hbase table的hfile
maper中写入库逻辑,reduce是用hbase自带的,outputformat用的是hfileoutputformat
Configuration conf = new Configuration();
Job jobAft ...
Mongodb VS Hbase
1.Mongodb bson文档型数据库,整个数据都存在磁盘中,hbase是列式数据库,集群部署时每个familycolumn保存在单独的hdfs文件中。
2.Mongodb 主键是“_id”,主键 ...
【C#】通过Thrift操作HBase系列
题外话:C# 调用 Java 的几种方法
1.将Java端的接口通过WebService方式发布,C#可以方便的调用
2.先使用C++ 通过 JNI 调用 Java,C# 调用C++的接口
3.使用开源的库直接使用C#调用Java ,详细信息请点击
4.使用IKVM实现C#调用Java,参考:http://www.ikvm.net/
之所以说这些,是因为自己这边客户端要调用HB ...
hadoop mapreduce 测试 mock htable
例一:
public class MergePcProfileMapper extends Mapper<LongWritable, Text, Text, Text> {
protected void map(LongWritable key, Text value, Context context)
throws IOException, InterruptedEx ...
最近博客热门TAG
Oracle(49876) MySQL(37268) SQL Server(17623) Access(9329) DB2(4271) Redis(3181) Sybase(2414) 数据挖掘(2098) MongoDB(2014) SQLite(1817) PostgreSQL(1635) HBase(1492) NoSQL(1000) HSQLDB(620) Informix(581) Derby(578) Cassandra(375) PowerBuilder(333) CouchDB(113) TokyoCabinet(87)