`
dacoolbaby
  • 浏览: 1267405 次
  • 性别: Icon_minigender_1
  • 来自: 广州
社区版块
存档分类
最新评论

HBase存储概念的一些理解

阅读更多

首先,HBase是分布式NoSQL数据库。

构建在Hadoop平台上的一个应用。

 

与Hadoop类似,属于Master-slave架构。

其中,存在一个运行的HMaster,和若干个HMaster备用,通过Zookeeper协调进行HA。

HMaster主要是处理Table的增删改查,HRegion的负载均衡,Region Split 和 新Region的重新分配。

存在一个或多个HRegion 的slave架构,用于实际数据的存储。

           [HMaster]

            /          \

[HRegion]....[HRegion]

 

HRegion Server是一个存储数据的服务。

对于一张表而言,一张表被拆开成多块,每一块就是一个Region。

每个Region会保存一个表里面某段连续的数据。

 

通过RDBMS的基本存储架构来思考。

      数据库的Block  --> 就是Region

      操作系统的Block-->就是HDFS BLOCK

 

HRegion Server中的Region由多个HStore组成。

每个HStore对应Table中的一个Column Family 。

所以经常一起使用的数据就要放到Column Family里面去。

 

数据写入到Region的时候,先会写入到内存中的MemStore对象里。

然后当MemStore到大一定大小的时候,就会Flush到HStore里面。

 

为了保证一致性,HBase有一个HLog对象,会在写入MemStore之前,先记录操作。

HLog其物理上是一个Hadoop Sequence File。

 

当HStore 文件不断变大到一定阀值的时候,就会进行Split Region的请求,由HMaster进行重新分配。

 

 

 

分享到:
评论

相关推荐

    hbase存储csv数据的代码实现

    首先,我们需要理解HBase的基本概念。HBase是构建在Hadoop之上的NoSQL数据库,它以行键、列族、列和时间戳的形式存储数据,提供实时读写操作。HBase的数据模型非常适合处理大规模稀疏数据集。 在将CSV数据导入HBase...

    hbase基本概念和hbase shell常用命令用法

    **HBase基本概念** HBase,全称是Apache HBase,是一个分布式的、面向列的开源数据库,它是基于Google的Bigtable模型构建的,运行在Hadoop之上。HBase提供了高度可扩展性和实时读写能力,特别适合处理海量数据。 1...

    \"HBase_介绍和HBase云存储\"分享总结

    在“HBase云存储.ppt”和“HBase_介绍.pptx”中,你将找到更详细的PPT演示,包含丰富的图表和案例分析,帮助你深入理解HBase的实际应用和云存储解决方案。 最后,关于“源码”这一标签,我们可以期待这部分内容会...

    HBase 实战

    HBase是一个开源的非关系型分布式数据库(NoSQL),它是Apache Software Foundation下的Hadoop项目的一部分,主要基于Google的Bigtable:一...这些内容对于想要深入理解和应用HBase的读者来说,是不可多得的参考资料。

    HBase官方文档中文版-HBase手册中文版

    3. Hive集成:通过Hive的HBase存储过程进行数据查询。 4. Flume、Kafka集成:用于日志收集和实时流处理。 这份“HBase官方文档中文版”详细阐述了HBase的核心概念、架构、操作以及最佳实践,对于HBase的学习者和...

    HBase分布式存储系统的安装与简单操作指南

    首先阐述了HBase的基本概念及其优势特点,接着详述了HBase的安装步骤,包括操作系统的要求、Java与Hadoop的前置条件以及环境变量配置方法等。最后给出了一些简单的操作命令,例如启动Shell、创建和管理表、插入和...

    HBase学习利器:HBase实战

    《HBase in Action》是一本由Nick Dimiduk和Amandeep Khurana撰写的关于HBase实践的书籍,该书旨在帮助读者深入理解HBase的工作原理及其实战应用。 **章节概述**: - **第一部分:HBase基础** - **第1章:介绍...

    HBase 实战经验分享.pdf

    KeyValue则构成了HBase存储的基本单元,包含了RowKey、Column Family、Qualifier和Value四部分,其中RowKey是数据检索的关键。 HBase的读写流程高效而复杂。写入时,数据首先被缓存在内存中的MemStore,待积累到一...

    HBase实现批量存取

    首先,我们需要了解HBase的基本概念。HBase是建立在Hadoop文件系统(HDFS)之上的,以行键、列族、列和时间戳为索引的表结构数据库。这种设计使得HBase能快速处理PB级别的数据,同时支持随机读写。在Eclipse中运行...

    hbase-2.4.17-bin 安装包

    HBase是Apache Hadoop生态系统中的一个分布式、版本化、列族式存储系统,设计用于处理大规模数据集。这个“hbase-2.4.17-bin”...通过理解并掌握上述概念、安装步骤及操作方法,用户可以有效地利用HBase处理海量数据。

    Hbase 组件 、架构

    HBase中的Region可以理解为关系型数据库中的“分区”,每个Region负责存储表中一部分数据的请求处理。最初,每个表只有一个Region,随着数据的增加,Region会不断增大,当增大到一个阈值时,Region会被等分成两个新...

    hbase社区2018精选资料

    HBase社区2018精选资料的知识点涵盖了HBase生态系统的多个方面,包括HBase的基本概念、架构、组件、应用案例、技术实践、性能优化策略、新特性、平台实践以及社区动态等。HBase是一个高性能的开源NoSQL数据库,属于...

    HBase数据库设计.doc

    总的来说,HBase是一种面向大数据的列式存储系统,适用于需要实时查询和大规模扩展的场景,但其设计和使用需要对分布式存储有深入理解。在设计HBase数据库时,应充分考虑数据模型、行键策略以及集群的扩展性需求。

    HBase配置文件与HBase doc文档

    例如,`hbase.rootdir`定义了HBase的数据存储位置(通常在HDFS上),`hbase.cluster.distributed`设置是否为分布式模式,`hbase.zookeeper.quorum`指定了Zookeeper集群的地址等。 2. **hbase-env.sh**:这个脚本...

    HBase企业应用开发实战 PDF电子书 带书签目录

    通过对HBase的理解和掌握,开发者可以在企业级应用中更好地利用这一强大的数据存储技术。虽然提供的文档中并没有具体的书籍内容,但从以上分析可以看出,这本书对于希望深入了解HBase并在实际项目中运用它的技术人员...

    hbase的hbase-1.2.0-cdh5.14.2.tar.gz资源包

    理解并掌握HBase的核心概念、安装配置、数据模型以及性能优化策略,对于开发和运维大数据系统至关重要。通过`hbase-1.2.0-cdh5.14.2.tar.gz`这个资源包,你可以开始在CDH 5.14.2环境中探索和使用HBase。

    HBase学习笔记(个人整理)

    快速入门HBase,需要理解其核心概念,如表、行键、列簇和时间戳,以及如何利用其特性进行数据建模和查询。同时,掌握HBase的安装、配置和基本操作,如创建表、插入数据、查询数据等,是学习HBase的基础。 【HBase与...

    HBase不睡觉书.pdf HBase不睡觉书

    HBase的核心概念包括表、行、列族和时间戳。表是数据的基本组织单位,由行和列族组成;行是由键值对构成,每个键值对都有一个唯一的时间戳,这允许保存同一数据的多个版本。列族是预定义的一组列,数据的存储和检索...

    HBase文档.doc

    【HBase简介】 HBase,全称为Hadoop Base,是一个基于Google BigTable设计思想的开源分布式数据库,主要用于处理大规模结构化数据...通过理解其核心概念和架构,我们可以更好地利用HBase解决大数据存储和查询的挑战。

Global site tag (gtag.js) - Google Analytics