`
liuxinglanyue
  • 浏览: 556983 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

HBase的性能优化和相关测试

阅读更多

HBase的写效率还是很高的,但其随机读取效率并不高

可以采取一些优化措施来提高其性能,如:

1. 启用lzo压缩,见这里

2. 增大hbase.regionserver.handler.count数为100

3. 增大hfile.block.cache.size为0.4,提高cache大小

4. 增大hbase.hstore.blockingStoreFiles为15

5. 启用BloomFilter,在HBase0,89中可以设置

6.Put时可以设置setAutoFlush为false,到一定数目后再flushCommits

 

在14个Region Server的集群上,新建立一个lzo压缩表

测试的Put和Get的性能如下:

1. Put数据:

单线程灌入1.4亿数据,共花费50分钟,每秒能达到4万个,这个性能确实很好了,不过插入的value比较小,只有不到几十个字节

多线程put,没有测试,因为单线程的效率已经相当高了

2. Get数据:

在没有任何Block Cache,而且是Random Read的情况:

单线程平均每秒只能到250个左右

6个线程平均每秒能达到1100个左右

16个线程平均每秒能达到2500个左右

有BlockCache(曾经get过对应的row,而且还在cache中)的情况:

单线程平均每秒能到3600个左右

6个线程平均每秒能达到1.2万个左右

16个线程平均每秒能达到2.5万个左右

转:http://www.tech126.com/hbase-performance-tuning/

分享到:
评论

相关推荐

    HBase的性能优化

    以下是HBase性能优化的相关知识点: 启用LZO压缩 HBase提供了多种压缩算法来提高数据存储效率。其中,LZO压缩算法是最常用的压缩算法之一。启用LZO压缩可以将数据压缩到原来的一半大小,从而提高存储效率和查询...

    hbase性能测试.docx

    总的来说,这份HBase性能报告显示了在特定条件下HBase的读写性能,以及MapReduce框架如何处理这些操作。通过对这些指标的分析,我们可以评估HBase在处理大量数据时的性能瓶颈,例如I/O速度、内存使用效率、MapReduce...

    HBase最佳实践-读性能优化策略

    然而,在生产环境中,HBase的读写性能优化是一个比较复杂的问题,尤其对于读延迟的优化更是需要精心设计和调优。下面我们将根据标题和描述中提到的关于HBase读性能优化策略进行详细的知识点阐述。 首先,FullGC异常...

    HBase性能深度分析

    ### HBase性能深度分析 HBase,作为BigTable的一个开源实现,因其卓越的分布式数据库特性在大数据处理领域占据了重要地位。然而,随着HBase在各行业的广泛应用,用户对其性能表现的关注日益增强,尤其是实时数据...

    Hadoop 集群(第 12 期副刊)-HBase性能优化.pdf

    ### Hadoop集群(第12期副刊)-HBase性能优化 #### 一、从配置角度优化HBase性能 **1.1 修改Linux配置** Linux系统默认的最大可打开文件数通常设定为1024个,这对于大多数应用场景来说可能足够,但在高并发环境下...

    hbase+phoenix 本机测试文档

    例如,在“hbase+phoenix测试文档及查询速度说明.docx”文件中,可能会详细记录这些测试步骤和结果,包括查询语句的编写、查询时间的对比以及性能优化的建议。 总结来说,HBase与Phoenix的结合,使得我们在处理...

    hbase源码包和测试用例

    通过深入研究HBase的源码和编写测试用例,我们可以更好地理解和优化这个系统,从而在大数据应用中发挥出其最大潜力。无论你是数据工程师、开发人员还是系统管理员,掌握HBase都能为你的职业生涯增添亮点。

    大数据与云计算培训学习资料 Hadoop集群 细细品味Hadoop_第12期副刊_HBase性能优化_V1.0 共26页.pdf

    【大数据与云计算培训学习资料 Hadoop集群 细细品味Hadoop_第12期副刊_HBase性能优化_V1.0 共26页.pdf】 本文档主要关注Hadoop集群中的HBase性能优化,提供了从配置角度进行优化的建议。HBase是一个分布式列式存储...

    Phoenix_on_HBase性能测试报告.pdf

    在本报告中,我们对 Phoenix on HBase 的性能进行了测试,以探索其在数据查询和写入方面的特性和限制。 测试环境 * 软件版本:phoenix-4.8.0-HBase-1.1,HBase-1.1.6 * 硬件环境:四台配置相同的 PC 机,其中一台...

    Hbase性能测试详细设计文档及用例.pdf

    总的来说,HBase性能测试和调优是一个涉及多方面、多层次的过程,包括表设计、数据管理策略、Row Key设计以及HTable参数配置等。理解并灵活运用这些知识,能够有效地提升HBase在大规模数据处理中的性能表现。

    hbase性能调优手册

    本文主要介绍HBase性能调优的几种常用方法,重点在于理解性能优化背后的核心概念及其应用。 ### Rowkey设计 Rowkey是HBase中每行数据的唯一标识,它的设计对于性能有着至关重要的影响。一个良好的Rowkey设计应当...

    hadoop hbase性能报告(英文)

    ### Hadoop HBase性能报告分析 #### 引言与研究目标 本项目旨在评估Hadoop与HBase在实际集群环境中的性能表现。具体目标包括: 1. 在节点组成的集群上安装并配置Hadoop与HBase。 2. 研究Hadoop与HBase API,并...

    HBASE性能调优方法1

    综上所述,HBase性能调优涉及多个层面,需要综合考虑业务需求、数据特性和系统资源,通过调整配置、优化数据操作方式和利用内置机制,来达到最佳性能。在实践中,还需要根据具体情况进行测试和监控,不断调整优化...

    windows10 搭建最新的 hadoop 3.1.3 和 hbase 2.2.2 测试环境 配置文件

    在Windows 10环境下搭建Hadoop 3.1.3和HBase 2.2.2测试环境是一项技术性较强的任务,涉及到多个组件的安装、配置以及相互间的协同工作。以下将详细介绍如何进行这一过程,以及相关的配置文件作用。 首先,我们需要...

    hbase+ycsb工具

    总之,`hbase+ycsb工具`的组合是评估和优化HBase性能的重要手段。通过YCSB,我们可以深入了解HBase在实际工作负载下的性能表现,从而更好地设计和调整系统,满足大规模数据处理的需求。在实际应用中,理解并掌握这两...

    YCSB之HBase压力测试.pdf

    总体来说,使用YCSB对HBase进行压力测试能够帮助用户深入理解数据库在各种负载下的表现,从而优化数据库配置、改进数据库设计,最终达到提升数据库性能的目的。掌握YCSB的安装、配置、测试场景选择和参数设置,对于...

    Hbase设置Snappy压缩测试

    标题中的“Hbase设置Snappy压缩测试”表明我们要探讨的是如何在HBase中配置Snappy压缩,这是一种常见的数据压缩技术,常用于提升大数据存储和处理的效率。Snappy以其较高的解压速度和较低的压缩率著称,尤其适用于...

    hbase专题测试文件

    博客链接指向了CSDN平台的一篇文章,详细介绍了HBase的相关知识和实战操作,这可能是对HBase进行性能测试、功能验证或者应用场景探索的一个实例。 【知识点详解】 1. **HBase简介**: HBase是一款开源的、基于...

Global site tag (gtag.js) - Google Analytics