- 浏览: 250361 次
- 性别:
文章分类
最新评论
第一章 HBase介绍
HBase是一种数据库:Hadoop数据库。它经常被描述为一种稀疏的、分布式的、持久化的、多维有序的映射,它基于行键(row key)、列键(column key)和时间戳(timestamp)建立索引。
HBase基于BigTable
联机事务处理(OLTP)尽快的返回响应结果
联机分析处理(OLAP)
抓取增量数据:
1.抓取监控指标:OpenTSDB
2.抓取用户交互数据:Facebook和StumbleUpon
3.遥测技术 Mozilia和Trend Micro
第二章 入门
HBase是一种专门为 半结构话数据(semistructured)和水平可扩展性(horizontal scalability)
设计的数据库。它表数据存储在表里。在表里,数据按照一个四维坐标系来组织:
行键、列簇、列限定符、时间版本
HBase是无模式数据库,只需要提前定义列簇。它也是无类型数据库,把所有数据不加解释滴按照字节数组存储。有5个基本命令来访问HBase中的数据:
Get、Put、Delete、Scan、Increment
基于非行键查询HBase的唯一办法是通过带过滤器的扫描
HBase不是一个ACID兼容数据库
HBase不是一个ACID兼容数据库。但是HBase提供一些保证,当你的应用系统访问HBase系统时,你可以用其来使你的应用系统的行为更加合理。这些保证具体如下:
1.操作是低级原子不可分的。换句话说,给定行上的Put()要门整理成功要么整体回到
操作开始前的状态,永远不会部分行写入而凌一航部分没有。这个要素和操作执行
的列簇的数量五官
2.行间操作不是原子性的。不能保证所有操作整体成功或者失败,所有单行操作如上一点
所述是原子性的
3.checkAnd* 和 increment* 操作是原子不可分的
4.对于给定的多个写操作,总是以每个写操作为整体彼此独立的。这是低一点的延伸。
5.对于给定行的任何Get()操作,返回系统当时所保存的完整行
6.全表扫描不是对某个时间点表的快照扫描。如果扫描已经开始,但是在运行R行被扫描
器对象读出之前,行R被改变了,那么扫描器独处行R更新后的版本,但是扫描器读出
的数据是一直的,得到行R更新后的完整行
数据模型从逻辑上可以分为键值存储或者有序映射的映射。物理数据模型是基于列簇的列式数据库,单个记录以键值形式存储。
Atomicity 原子性
Consistency 一致性
Isolation 隔离性
Durability 持久性
一个列簇对应一个MemStore,也对应一个BlockCache,对应多个HFile,HFile是基于列簇的
行键。列簇,列限定符,时间版本 用java对象表示为:
Map<RowKey,Map<ColumnFamily,Map<ColumnQualifier,Map<Version,Date>>>>
行键是HBase中唯一的全局索引坐标,因为查询经常通过行键扫描实现。复合行键是支持这种扫描的常见做法。
行键值经常希望是均衡分部的。诸如MD5或SHA1等散列算法通常用来实现这种均衡分部
第三章 分布式的HBase、HDFS和MapReduce
Hadoop分布式文件系统作为HBase的存储层,支持可用性(availability)和可靠性(reliability)
联机事务处理(OLTP) 和 联机分析处理(OLAP)
在线系统看中的是得到一点数据所需要的时间
离线系统看中的是每秒处理单位数量
许多计算问题本来很适合并行化处理。只是因为一些偶然的原因,它们不得不用串行化方式处理。这
些原因可能是编程语言设计、存储引擎实现方式、函数库API等。挑战一下你的算法设计能力,看看
这样的情况有哪些。不是所有问题都容易并行处理
MapReduce概览
MapReduce的一些限制如下:
1.所有计算都分解为map或者reduce任务来实现
2.每个任务处理全部输入数据中的一部分
3.主要根据输入数据和输出数据定义任务
4.任务依赖于自己的输入数据,不需要与其他任务通讯
HBase是一种数据库:Hadoop数据库。它经常被描述为一种稀疏的、分布式的、持久化的、多维有序的映射,它基于行键(row key)、列键(column key)和时间戳(timestamp)建立索引。
HBase基于BigTable
联机事务处理(OLTP)尽快的返回响应结果
联机分析处理(OLAP)
抓取增量数据:
1.抓取监控指标:OpenTSDB
2.抓取用户交互数据:Facebook和StumbleUpon
3.遥测技术 Mozilia和Trend Micro
第二章 入门
HBase是一种专门为 半结构话数据(semistructured)和水平可扩展性(horizontal scalability)
设计的数据库。它表数据存储在表里。在表里,数据按照一个四维坐标系来组织:
行键、列簇、列限定符、时间版本
HBase是无模式数据库,只需要提前定义列簇。它也是无类型数据库,把所有数据不加解释滴按照字节数组存储。有5个基本命令来访问HBase中的数据:
Get、Put、Delete、Scan、Increment
基于非行键查询HBase的唯一办法是通过带过滤器的扫描
HBase不是一个ACID兼容数据库
HBase不是一个ACID兼容数据库。但是HBase提供一些保证,当你的应用系统访问HBase系统时,你可以用其来使你的应用系统的行为更加合理。这些保证具体如下:
1.操作是低级原子不可分的。换句话说,给定行上的Put()要门整理成功要么整体回到
操作开始前的状态,永远不会部分行写入而凌一航部分没有。这个要素和操作执行
的列簇的数量五官
2.行间操作不是原子性的。不能保证所有操作整体成功或者失败,所有单行操作如上一点
所述是原子性的
3.checkAnd* 和 increment* 操作是原子不可分的
4.对于给定的多个写操作,总是以每个写操作为整体彼此独立的。这是低一点的延伸。
5.对于给定行的任何Get()操作,返回系统当时所保存的完整行
6.全表扫描不是对某个时间点表的快照扫描。如果扫描已经开始,但是在运行R行被扫描
器对象读出之前,行R被改变了,那么扫描器独处行R更新后的版本,但是扫描器读出
的数据是一直的,得到行R更新后的完整行
数据模型从逻辑上可以分为键值存储或者有序映射的映射。物理数据模型是基于列簇的列式数据库,单个记录以键值形式存储。
Atomicity 原子性
Consistency 一致性
Isolation 隔离性
Durability 持久性
一个列簇对应一个MemStore,也对应一个BlockCache,对应多个HFile,HFile是基于列簇的
行键。列簇,列限定符,时间版本 用java对象表示为:
Map<RowKey,Map<ColumnFamily,Map<ColumnQualifier,Map<Version,Date>>>>
行键是HBase中唯一的全局索引坐标,因为查询经常通过行键扫描实现。复合行键是支持这种扫描的常见做法。
行键值经常希望是均衡分部的。诸如MD5或SHA1等散列算法通常用来实现这种均衡分部
第三章 分布式的HBase、HDFS和MapReduce
Hadoop分布式文件系统作为HBase的存储层,支持可用性(availability)和可靠性(reliability)
联机事务处理(OLTP) 和 联机分析处理(OLAP)
在线系统看中的是得到一点数据所需要的时间
离线系统看中的是每秒处理单位数量
许多计算问题本来很适合并行化处理。只是因为一些偶然的原因,它们不得不用串行化方式处理。这
些原因可能是编程语言设计、存储引擎实现方式、函数库API等。挑战一下你的算法设计能力,看看
这样的情况有哪些。不是所有问题都容易并行处理
MapReduce概览
MapReduce的一些限制如下:
1.所有计算都分解为map或者reduce任务来实现
2.每个任务处理全部输入数据中的一部分
3.主要根据输入数据和输出数据定义任务
4.任务依赖于自己的输入数据,不需要与其他任务通讯
发表评论
-
Hadoop技术内幕 深入解析MapReduce架构设计与实现原理
2017-05-03 15:14 853Hadoop的一些重大改进 1.append,HD ... -
MySql Innodb存储引擎--表
2017-04-27 11:26 413表,页,段,记录 页的格式分析 ... -
MySql Innodb存储引擎--备份和优化
2017-04-24 17:07 797备份的目的 做灾难恢复:对损坏的数据进行恢复和还原 ... -
MySql Innodb存储引擎--锁和事务
2017-04-21 17:20 909lock和latch的比较 ... -
MySql Innodb存储引擎--文件和索引
2017-03-27 18:03 408MySql架构图 M ... -
MySql Innodb存储引擎--架构和引擎介绍
2017-03-23 10:40 656Mysql架构图 1 Con ... -
计算机程序的构造和解释
2017-02-15 18:02 542创建一个有理数 (define (ma ... -
破坏之王
2016-03-30 21:44 347不同阶段DDos攻击事件的特点 时期 ... -
UNIX网络编程 广播
2015-12-09 13:29 0........ -
UNIX网络编程 密钥管理套接字
2015-12-09 13:28 580... -
UNIX网络编程 路由套接字
2015-12-09 13:27 604.. -
UNIX网络编程 ioctl操作
2015-12-09 13:25 777.............. -
UNIX网络编程 非阻塞式I/O
2015-12-09 13:25 629....... -
UNIX网络编程 高级IO函数
2015-12-02 15:13 604套接字超时 在设计套接字的IO操作上设置超时的方法 ... -
UNIX网络编程 守护进程和inetd超级服务器
2015-11-24 20:37 542守护进程(daemon)是在后台运行且不与任何控制终 ... -
UNIX网络编程 名字与地址转换
2015-11-24 20:12 568...... ........ -
UNIX网络编程 基本UDP套接字编程
2015-11-24 20:05 1049..... ......... -
UNIX网络编程 套接字选项
2015-11-17 12:38 1423影响套接字选项的函数 getsockop 和 se ... -
UNIX网络编程 I/O复用 select和poll函数
2015-11-17 12:14 468................ -
UNIX网络编程 TCP客户/服务器程序示例
2015-11-17 12:13 474...............
相关推荐
《HBase实战》是一本基于经验提炼而成的指南,它教给读者如何运用HBase设计、搭建及运行大数据应用系统。全书共分为4个部分。前两个部分分别介绍了分布式系统和大规模数据处理的发展历史,讲解HBase的基本原理模式...
**HBase实战** HBase,全称为Apache HBase,是一款高度可扩展的开源数据库,它构建于Hadoop分布式文件系统(HDFS)之上,专为处理海量数据而设计。HBase是NoSQL数据库的一种,主要面向列式存储,提供实时读写能力,...
HBase实战(中文扫描版)
HBase实战_Cn.pdf 完整版
HBase实战
hbase实战,hadoop的数据库管理软件
Hbase实战中文版,适合于想了解面向列数据库和海量数据存储的读者
HBase实战.pdf 个人收集电子书,仅用学习使用,不可用于商业用途,如有版权问题,请联系删除!
hbase实战中文版pdf,清晰度较高, 带目录方便阅读~~~~~~
Hbase实战中文版 《HBase实战》是一本基于经验提炼而成的指南,它教给读者如何运用HBase设计、搭建及运行大数据应用系统。全书共分为4个部分。前两个部分分别介绍了分布式系统和大规模数据处理的发展历史,讲解...
《HBase实战》是一本基于经验提炼而成的指南,它教给读者如何运用HBase设计、搭建及运行大数据应用系统。全书共分为4个部分。前两个部分分别介绍了分布式系统和大规模数据处理的发展历史,讲解HBase的基本原理模式...
《HBase资源合集》包含了四本重量级的书籍,分别是《HBase企业应用开发实战》、《HBase权威指南》、《HBase实战》以及《HBase应用架构》。这些书籍深入浅出地探讨了HBase在大数据环境中的应用与开发,是学习和掌握...
hbase实战,这是一本具体操作hbase很不错的书
本文将深入解析HBase的基础概念、需求调研、RowKey设计以及实战案例,帮助读者更好地理解和运用HBase。 首先,我们来看HBase的基础概念。HBase是一种基于Google Bigtable理念设计的开源分布式数据库,它构建于...