`
lc_koven
  • 浏览: 352564 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

监控hbase集群

阅读更多
对于稳定维护hbase,全面掌握分布式系统中的每一台主机状况,以及检测系统可能或正在出现的瓶颈,强大的监控是必须的。

比如:

  region数、block住的内存大小、请求数、命中率、flush/split/compact次数和时间、读写响应时间分布、storefile数目、jvm状况、

本文介绍将hbase监控加入ganglia中

hbase本身集成了jmx进行数据采集,这也是沿用hadoop的机制。

配置还是比较简单的,参考http://hbase.apache.org/metrics.html,要点:

  • 拷贝hbase/conf/hadoop-metrics.properties到你定义的配置文件夹
  • 选择其中的hbase.class/rpc.class/jvm.class修改为org.apache.hadoop.metrics.ganglia.GangliaContext31
  • hbase.servers=GMETADHOST_IP:8649,其中这里的GMETADHOST_IP为gmond.conf中的mcast_join值
  • 重启hbase,会看到在ganglia监控画面中增加了很多图表


 当然,如果愿意,顺便打开hadoop的这个功能也挺不错的。


 hbase增加的监控信息非常全面,远远超过hadoop所增加的监控信息。如果还想自定义,请参照http://hadoop.apache.org/common/docs/current/api/org/apache/hadoop/metrics/package-summary.html来添加自己想看到的信息






  • 大小: 174.7 KB
  • 大小: 185 KB
分享到:
评论
3 楼 boylook 2013-09-02  
请问你们是如何从ganglia里dump数据出来的
2 楼 lc_koven 2011-11-28  
wangjinpeng 写道
图表看起来就是直观呀~

图表多了还是不方便,因此我们现在写了个程序把这些图的数据取出来,汇总成几张重要的图表展示出来。ganglia仅用于收集数据。
1 楼 wangjinpeng 2011-11-25  
图表看起来就是直观呀~

相关推荐

    监控HBase集群

    "监控HBase集群" HBase是一个分布式的NoSQL数据库,监控HBase集群对于确保系统的高可用性和性能非常重要。在这里,我们将讨论如何使用Java代码来实现HBase集群的监控。 监控HBase集群的重要性: 在生产系统中,...

    hbase监控文件.zip

    本文将详细探讨如何使用Zabbix这一强大的开源监控工具来监控Hbase集群,以及如何利用“hbase监控文件.zip”中的资源进行部署。 HBase是一个基于Apache Hadoop的非关系型分布式数据库(NoSQL),它设计用于处理海量...

    hbase集群搭建(自整)

    最后,你可以访问Web UI(默认端口60010)来监控HBase集群的状态,通过shell创建表并观察Web界面的变化。 总之,搭建HBase集群涉及到多个步骤,包括配置文件的修改、数据目录的准备、服务的启动和停止以及节点间的...

    hbase安装,节点添加,移除,常见问题解决

    为了更好地管理和监控HBase集群,推荐使用HBase自带的Web UI或者第三方工具如Ambari、Cloudera Manager等。同时,定期进行健康检查,监控日志,以及对集群性能进行调优都是运维过程中的重要环节。 总之,HBase的...

    基于集群的HBase安装和配置

    ### 基于集群的HBase安装和配置 #### Zookeeper简介 Zookeeper作为Hadoop生态中的关键组件,主要用于...通过上述步骤,可以成功地在已有Hadoop集群的基础上搭建起HBase集群,实现大数据环境下的高效数据存储与管理。

    藏经阁-HBase 在中国电信的实战.pdf

    中国电信使用 Ganglia 和 Zabbix 等工具来监控 HBase 集群的性能和状态,并使用这些工具来优化 HBase 的性能和稳定性。 HBase 在中国电信的应用 HBase 在中国电信的应用包括数据存储、数据处理、实时计算和分析等...

    hbase-2.4.17-bin 安装包

    1. 使用HBase自带的JMX监控工具或第三方监控工具(如Ambari、Grafana)监控HBase集群的性能指标。 2. 定期进行健康检查,排查可能存在的问题,如Region不均、内存溢出等。 3. 对HBase进行定期备份,以防数据丢失。...

    分布式存储系统:HBase:HBase集群运维与监控.docx

    分布式存储系统:HBase:HBase集群运维与监控.docx

    Hbase1.x可视化客户端工具

    这些工具通常包括但不限于创建、修改和删除表,查看和编辑行键、列族、时间戳等元数据,执行扫描操作以及实时监控HBase集群的状态。它们还可能具备导入导出数据、执行SQL-like查询、性能调优分析等功能,极大地提升...

    java-hbase开发包

    8. **监控和管理工具**:开发包通常还包括用于监控HBase集群状态和管理表的工具,如`HBaseAdmin`接口可以用来创建、删除、修改表等。 **使用步骤:** 1. 添加依赖:将对应的jar文件添加到项目的类路径中,或者在...

    【免费下载】HBase分布式数据库实验

    通过Web UI,用户可以直观地监控HBase集群的状态、表信息和数据分布等,这对于系统管理和故障排查非常有用。 5. **HBase数据管理**: 实验内容包含了表的创建、删除、修改以及数据的插入、查询和更新,这些都是...

    Hbase和Hadoop JMX监控实战

    在监控HBase时,我们可以通过JMX获取HMaster、RegionServer等组件的状态,包括 Region分布、内存使用情况、StoreFile数量、请求数量等。例如,可以使用JMX客户端工具如jconsole或jmxterm来连接到运行中的HBase集群,...

    hbase2.2安装文件

    6. **监控与管理**:通过HBase的Web UI(默认端口16010)监控HBase集群的状态,包括Region分布、Master状态、RegionServer状态等。 7. **安全配置**:在生产环境中,可能需要配置HBase以支持安全性,如Kerberos认证...

    HBase不睡觉书.pdf HBase不睡觉书

    此外,书中可能还会介绍HBase的分布式架构、数据模型、RegionServer、Zookeeper的作用,以及如何管理和监控HBase集群。读者还能从中了解到如何解决HBase在实际应用中可能遇到的问题,如数据倾斜、性能瓶颈等。 总之...

    2013中国大数据技术大会PPT——360超大规模HBASE集群的改进

    360的HBase集群承担着搜索、安全和监控等多项业务,是超大规模的分布式NoSQL数据库。在那个时期,HBase的版本是0.89-fb。360的HBase集群中存储了大量数据,包含20万亿条记录,分布在超过3000台机器上,集群中包含67...

    新零售大数据平台-运维监控平台的开发

    3. HBase: 作为分布式的 NoSQL 数据库,需要监控 HBase 集群的运行状态、Region 分布、读写性能等。 4. ZooKeeper: 作为分布式协调服务,需要监控 ZooKeeper 集群的运行状态、连接情况和数据一致性。 5. Kettle: ...

    hbase-0.98.6-cdh5.3.6.zip

    12. **监控与管理**:CDH 5.3.6提供了Web UI界面,用户可以直观地监控HBase集群的状态,查看Region分布、表信息等。 这个压缩包"**hbase-0.98.6-cdh5.3.6**"可能包含HBase的配置文件、JAR包、示例代码、文档等资源...

    搭建HBase完全分布式数据库

    6. ZooKeeper:作为协调服务,负责管理ROOT表和META表,这些表存储了HBase中表的元数据信息,同时它还负责监控HBase集群中的节点状态,以及故障转移时HMaster的选举。 三、HBase数据库模型: HBase的数据模型设计为...

    Hbase-GUI-1.2.3.zip

    - 监控HBase集群的状态,如Region Server状态、表空间使用情况等 - 性能优化和故障排查 7. **HBase 1.2.3改进**:此版本可能包括性能优化,例如减少Region Server之间的数据迁移时间,提升读写性能;增强稳定性和...

Global site tag (gtag.js) - Google Analytics