`
redisliu
  • 浏览: 5540 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

HBase bug:重启机群后不能正常工作

阅读更多
现象:
hbase机群重启后不能正常工作,通过web接口访问时,500 Exception的样子。hbase hbck显示很多region没有被服务。

重现过程:
某些情况下下,比如系统压力比较大,或者master意外kill掉了,master会被快速重启。
这个时候region server是正常的,region server会通过zookeeper感知这个事件,并将master切换到新的服务进程上。
但是region server没有做其他的清理工作,这会导致regionserver依然对hbase的journal log(/hbase/.logs/<FQHN>)文件保持写入权限。
而master启动后第一件事就是重放journal,而且很诡异的他选择用append方式打开已有的journal log,这个是hdfs不允许的,于是master不停的尝试append,有不停的失败重试。
于是系统陷入死锁,master在等待重放rs,而rs在等待master发送load region的指令。

深层次的原因还在看代码。jira上还没搜索到相关的bug。这两天集中搞定这个问题。
分享到:
评论

相关推荐

    HBase基本操作 Java代码

    HBase基本操作 增删改查 java代码 要使用须导入对应的jar包

    Hbase权威指南(HBase: The Definitive Guide)

    ### HBase权威指南知识点概述 #### 一、引言与背景 ...该书不仅详细解释了HBase的工作原理和关键特性,还提供了大量的实际应用场景案例,对于希望利用HBase解决大数据问题的读者来说具有极高的参考价值。

    HBase专场:HBase在时序数据库中的应用(悠你).pdf

    这有助于提高存储效率和查询速度,同时也能有效地解决HBase热点问题。 HiTSDB的核心技术包括: 1. 倒排索引:用于快速检索时序数据,提高查询性能。 2. 高压缩比:由于时序数据存在大量的重复和规律性,可以使用高...

    HBase专场:AliHBase的SQL实践与改进(天穆 ).pdf

    然而,HBase的原生设计并不直接支持这些操作,尤其是面对写入热点问题时,单个Region Server可能会承受过大的压力。 为了解决写热点问题,阿里HBase团队采取了两种策略。一是通过哈希散列(Hash散列)的方式,将...

    大数据安全-kerberos技术-hbase安装包,hbase版本:hbase-2.2.6-bin.tar.gz

    5. **启动和测试**:启动HBase集群,并进行身份验证测试,确保所有组件都能正常工作。 在实际操作过程中,我们还需要考虑其他的网络安全策略,比如SSL/TLS加密,以增强网络传输的安全性。此外,对于监控和审计也应...

    Hbase SYSTEM.STATS磁盘爆满 处理方法.docx

    在IT行业中,尤其是在大数据存储和处理领域,HBase和Phoenix是非常重要的组件。HBase是一个分布式的、面向列的NoSQL...同时,理解HBase和Phoenix的工作原理以及它们如何交互,对于优化系统的性能和稳定性至关重要。

    HBase学习利器:HBase实战

    ### HBase学习利器:HBase实战 #### 一、HBase简介与背景 HBase是Apache Hadoop...通过本书的学习,读者不仅可以掌握HBase的基本操作,还能学会如何设计高效的HBase应用程序,从而更好地应对大规模数据处理的挑战。

    HBase设计:用与不用的智慧

    然而,与关系型数据库相比,HBase不支持SQL查询语言,也不提供全局事务的保证。 在设计层面,HBase的理念与关系型数据库有所不同。它侧重于聚合(AGGREGATE)的设计理念,即把经常一起查询的数据放在一起,而不是...

    hbase-common-1.4.3-API文档-中文版.zip

    Maven坐标:org.apache.hbase:hbase-common:1.4.3; 标签:apache、common、hbase、jar包、java、API文档、中文版; 使用方法:解压翻译后的API文档,用浏览器打开“index.html”文件,即可纵览文档内容。 人性化...

    HBase专场:亿方云hbase实践(客户-王成军).pdf

    文档主要围绕亿方云科技在使用HBase数据库中的实践经验展开,由亿方云科技CTO王成军进行分享。HBase作为NoSQL数据库的一种,特别适合于处理大量非结构化数据,因此,在处理亿级文件和高并发场景中,HBase扮演了重要...

    HBase专场:阿里云HBase产品体系架构及特性解析(封神).pdf

    HBase是Apache开源的NoSQL数据库,构建在Hadoop之上,提供高可靠性、高性能、可伸缩、高实时性的大数据存储和处理能力。HBase在大数据生态中扮演着重要角色,尤其适用于处理非结构化或半结构化的稀疏数据,能够在...

    HBase专场:HBase在大搜车金融业务中的应用实践(客户-申玉宝).pdf

    - 独立的渲染线程和数据请求线程:确保大屏在首次加载后仍能流畅地进行数据更新和展示。 - 使用WebSocket技术:减少HTTP请求建立的开销,降低延时,提升数据更新速度。 #### 2. GPS风控实践 大搜车通过GPS设备监控...

    HBase入门:命名空间、建表、增删改查

    在深入探讨HBase之前,先理解一下什么是HBase。HBase是Apache Hadoop生态系统中的一个分布式、面向列的NoSQL数据库。它提供了实时读写访问,适用于大规模数据存储,尤其适合处理半结构化或非结构化的数据。HBase构建...

    hbase-annotations-1.1.2-API文档-中文版.zip

    Maven坐标:org.apache.hbase:hbase-annotations:1.1.2; 标签:apache、annotations、hbase、jar包、java、API文档、中文版; 使用方法:解压翻译后的API文档,用浏览器打开“index.html”文件,即可纵览文档内容。...

    大数据Hbase 的学习笔记

    自己在大数据培训班学习整理的笔记,比较详细,适合新手学习,我感觉还是挺有帮助的,希望可以帮助到你

    HBase:The Definition Guide,HBase权威指南完全版

    总的来说,《HBase:The Definition Guide》是一本全面且实用的指南,无论你是初学者还是有经验的开发者,都能从中受益匪浅。通过深入学习,你可以掌握HBase的核心概念和技术,为处理大规模数据挑战做好准备。

Global site tag (gtag.js) - Google Analytics