`
josephgao
  • 浏览: 15208 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

hbase 开启lzo后的性能测试

阅读更多
插入性能比:

   lzotest表采用lzo压缩格式,nolzo无压缩, 分别启动20个线程,每个线程一条一条插入1w条数据

   lzo耗时 54273ms, nolzo耗时53146



scan性能比:

   逐条scan两张表, 20w条数据

   lzo耗时 6509ms, nolzo耗时7593ms



压缩比:

   60w条数据压缩前nolzo 205m

   修改压缩格式为lzo后 数据为111m,压缩比为54.146%



综上所述,插入上开启lzo稍差但对比不明显,scan时lzo性能略有优势,压缩比还算比较可观
分享到:
评论

相关推荐

    hbase安装lzo压缩包的编译文件master

    6. **测试与验证**:启动HBase集群,创建表并插入数据,然后检查是否正确使用了LZO压缩。你可以通过HBase的监控界面或命令行工具查看RegionServer的状态,确认数据是否被正确压缩。 7. **注意Master节点的角色**:...

    HBase开启审计日志

    ### HBase开启审计日志详解 #### 一、概述 HBase是一款分布式列式存储系统,基于Google的Bigtable论文实现。它具有高可靠性、高性能、面向列、可伸缩的特点,非常适合处理海量数据。在大数据领域,HBase被广泛用于...

    某大数据公司内部Hbase性能测试详细设计文档及用例

    "HBase性能测试详细设计文档及用例" 本文档旨在详细介绍HBase性能测试的设计文档和实践经验,涵盖了HBase性能测试需要注意的一些参数设置和测试用例。下面是从该文档中提炼的相关知识点: 1.1 Pre-Creating ...

    hbase性能测试.docx

    在对HBase进行性能测试时,我们关注的关键指标包括数据读写速度、系统资源消耗以及MapReduce框架的运行效率。以下是对文档中提到的几个重要性能指标的详细解读: 1. **顺序写入(Sequential Write)**: - **FILE:...

    hbase+phoenix 本机测试文档

    例如,在“hbase+phoenix测试文档及查询速度说明.docx”文件中,可能会详细记录这些测试步骤和结果,包括查询语句的编写、查询时间的对比以及性能优化的建议。 总结来说,HBase与Phoenix的结合,使得我们在处理...

    HBase性能深度分析

    本文将深入探讨HBase的性能测试细节,重点剖析数据插入性能,并通过实证分析揭示其背后的机制与优化策略。 #### 数据插入性能测试设计 在评估HBase的实时数据插入性能时,测试场景设计至关重要。以随机值的Rowkey...

    HBase的性能优化

    例如,在某个Region Server集群上,新建立一个LZO压缩表,测试Put和Get的性能,可以达到每秒4万个的写入性能,并且Get操作可以达到每秒2500个左右。 HBase性能优化是非常重要的,需要根据实际情况调整各种参数和...

    YCSB HBase Group 7-1 性能测试步骤

    YCSB HBase Group 7-1 测试步骤

    Hbase性能测试详细设计文档及用例q

    默认情况下,在创建HBase表的时候会自动创建一个region分区,当导入数据的时候,所有的HBase客户端都向这一个region写数据,直到这个region足够大了才进行切分。 一种可以加快批量写入速度的方法是通过预先创建一些...

    hbase源码包和测试用例

    对HBase进行测试是保证其稳定性和性能的关键步骤。测试用例应覆盖各种操作,如创建表、插入数据、扫描、更新和删除等。同时,要关注分布式环境下的并发控制、故障恢复和性能基准测试。 6. **开发与应用** HBase...

    hbase-1.2.2-Java测试最小依赖包(经过严格测试)

    这意味着在下载并使用这个包后,开发者可以快速地搭建一个能正常运行HBase Java API的环境,进行数据存取操作,而无需担心因依赖问题引发的错误。 HBase的核心功能包括: 1. **分布式存储**:HBase将数据分布式...

    HBase写性能优化策略

    然而,随着数据量和访问量的增加,如何对HBase的写性能进行优化成为一个重要的议题。本文旨在提供一系列优化策略,以提高HBase的写入效率和数据写入的稳定性。 首先,要理解HBase写入数据的基本流程:数据首先顺序...

    Phoenix_on_HBase性能测试报告.pdf

    Phoenix on HBase 性能测试报告 Phoenix on HBase 是一个基于 HBase 的高性能数据处理引擎,它可以提供快速的数据查询和写入性能。在本报告中,我们对 Phoenix on HBase 的性能进行了测试,以探索其在数据查询和...

    Hbase性能测试详细设计文档及用例.pdf

    《HBase性能测试详解》 HBase,作为一款分布式、基于列族的NoSQL数据库,其性能优化至关重要。本文将深入探讨HBase的性能测试及其关键调优参数,旨在提升系统的稳定性和处理能力。 首先,表的设计是影响性能的关键...

    PhoenixonHBase性能测试报告.pdf

    Phoenix on HBase性能测试报告 本测试报告旨在评估Phoenix on HBase的性能,包括数据写入和查询性能。测试环境使用四台PC机,搭建HBase集群,Phoenix版本为4.8.0-HBase-1.1,HBase版本为1.1.6。测试工具使用...

    藏经阁-HBase in Practise- 性能、监控和问题排查.pdf

    "HBase 在实践中的性能、监控和问题排查" HBase 是一个基于分布式的、面向列的开源数据库,广泛应用于大数据存储和处理中。为了充分发挥 HBase 的性能,需要深入了解其性能优化、监控和问题排查机制。本文将从实践...

    性能测试工具所引用的hbase依赖包

    本hbase的jar依赖包主要是基于hbase-1.0.0-cdh5.6.1版本,之所以用cdh版,是因为测试脚本引用的是这个版本的类和方法。 本依赖包在Loadrunner12和Jmeter3.1下测试通过,是从网上收集的基础包组成,能够满足测试所有...

    YCSB之HBase压力测试.pdf

    在云服务和大数据的背景下,性能测试对于评估数据库性能表现显得尤为重要。YCSB(Yahoo!Cloud Serving Benchmark)是一个用于NoSQL数据库性能测试的工具,它能够模拟真实世界的工作负载,以测试云数据库的读写性能...

    Hbase设置Snappy压缩测试

    标题中的“Hbase设置Snappy压缩测试”表明我们要探讨的是如何在HBase中配置Snappy压缩,这是一种常见的数据压缩技术,常用于提升大数据存储和处理的效率。Snappy以其较高的解压速度和较低的压缩率著称,尤其适用于...

Global site tag (gtag.js) - Google Analytics