最新文章列表

解决使用 HBase Bulk Loading 工具出现超过32个hfile的问题,针对一个region的family

导入指标时遇到 importtsv.bulk.output 目录输出的hfile文件个数超过32个时,需要分为多步操作, 第一步: 先把超过的文件个数(bulk.output的目录下的hfile文件个数保持在32之内)移到别的目录下。 第二步: 执行 hbase org.apache.hadoop.hbase.mapreduce.LoadIncrementalHFiles output word ...
wtjmgj 评论(0) 有3452人浏览 2017-06-27 09:04

LoadIncrementalHFiles是copy而不是move的疑惑

转载请标明出处:http://blackwing.iteye.com/blog/1991901 之前在另一篇文章里实现的自定义job生成HFile并使用LoadIncrementalHFiles  入库HBase :http://blackwing.iteye.com/blog/1991380 但发现入库时,非常的慢,而且几次都失败了,明明官方教材说这个操作是move的: The complet ...
BlackWing 评论(0) 有4151人浏览 2013-12-19 10:57

Hbase bulkload源代码阅读笔记

1.LoadIncrementalHFiles.doBulkLoad(Path hfofDir, HTable table) 首先用discoverLoadQueue方法扫描出hfofDir下有哪些fhile文件,再循环调用tryLoad方法把每个文件load进去,这是一个串行的过程。       Deque<LoadQueueItem> queue = null;       qu ...
uestzengting 评论(0) 有6040人浏览 2011-12-06 00:21

最近博客热门TAG

Java(141747) C(73651) C++(68608) SQL(64571) C#(59609) XML(59133) HTML(59043) JavaScript(54918) .net(54785) Web(54513) 工作(54116) Linux(50906) Oracle(49876) 应用服务器(43288) Spring(40812) 编程(39454) Windows(39381) JSP(37542) MySQL(37268) 数据结构(36423)

博客人气排行榜

    博客电子书下载排行

      >>浏览更多下载

      相关资讯

      相关讨论

      Global site tag (gtag.js) - Google Analytics