现象:
hbase机群重启后不能正常工作,通过web接口访问时,500 Exception的样子。hbase hbck显示很多region没有被服务。
重现过程:
某些情况下下,比如系统压力比较大,或者master意外kill掉了,master会被快速重启。
这个时候region server是正常的,region server会通过zookeeper感知这个事件,并将master切换到新的服务进程上。
但是region server没有做其他的清理工作,这会导致regionserver依然对hbase的journal log(/hbase/.logs/<FQHN>)文件保持写入权限。
而master启动后第一件事就是重放journal,而且很诡异的他选择用append方式打开已有的journal log,这个是hdfs不允许的,于是master不停的尝试append,有不停的失败重试。
于是系统陷入死锁,master在等待重放rs,而rs在等待master发送load region的指令。
深层次的原因还在看代码。jira上还没搜索到相关的bug。这两天集中搞定这个问题。
分享到:
相关推荐
HBase基本操作 增删改查 java代码 要使用须导入对应的jar包
### HBase权威指南知识点概述 #### 一、引言与背景 ...该书不仅详细解释了HBase的工作原理和关键特性,还提供了大量的实际应用场景案例,对于希望利用HBase解决大数据问题的读者来说具有极高的参考价值。
这有助于提高存储效率和查询速度,同时也能有效地解决HBase热点问题。 HiTSDB的核心技术包括: 1. 倒排索引:用于快速检索时序数据,提高查询性能。 2. 高压缩比:由于时序数据存在大量的重复和规律性,可以使用高...
然而,HBase的原生设计并不直接支持这些操作,尤其是面对写入热点问题时,单个Region Server可能会承受过大的压力。 为了解决写热点问题,阿里HBase团队采取了两种策略。一是通过哈希散列(Hash散列)的方式,将...
5. **启动和测试**:启动HBase集群,并进行身份验证测试,确保所有组件都能正常工作。 在实际操作过程中,我们还需要考虑其他的网络安全策略,比如SSL/TLS加密,以增强网络传输的安全性。此外,对于监控和审计也应...
在IT行业中,尤其是在大数据存储和处理领域,HBase和Phoenix是非常重要的组件。HBase是一个分布式的、面向列的NoSQL...同时,理解HBase和Phoenix的工作原理以及它们如何交互,对于优化系统的性能和稳定性至关重要。
### HBase学习利器:HBase实战 #### 一、HBase简介与背景 HBase是Apache Hadoop...通过本书的学习,读者不仅可以掌握HBase的基本操作,还能学会如何设计高效的HBase应用程序,从而更好地应对大规模数据处理的挑战。
然而,与关系型数据库相比,HBase不支持SQL查询语言,也不提供全局事务的保证。 在设计层面,HBase的理念与关系型数据库有所不同。它侧重于聚合(AGGREGATE)的设计理念,即把经常一起查询的数据放在一起,而不是...
Maven坐标:org.apache.hbase:hbase-common:1.4.3; 标签:apache、common、hbase、jar包、java、API文档、中文版; 使用方法:解压翻译后的API文档,用浏览器打开“index.html”文件,即可纵览文档内容。 人性化...
文档主要围绕亿方云科技在使用HBase数据库中的实践经验展开,由亿方云科技CTO王成军进行分享。HBase作为NoSQL数据库的一种,特别适合于处理大量非结构化数据,因此,在处理亿级文件和高并发场景中,HBase扮演了重要...
HBase是Apache开源的NoSQL数据库,构建在Hadoop之上,提供高可靠性、高性能、可伸缩、高实时性的大数据存储和处理能力。HBase在大数据生态中扮演着重要角色,尤其适用于处理非结构化或半结构化的稀疏数据,能够在...
- 独立的渲染线程和数据请求线程:确保大屏在首次加载后仍能流畅地进行数据更新和展示。 - 使用WebSocket技术:减少HTTP请求建立的开销,降低延时,提升数据更新速度。 #### 2. GPS风控实践 大搜车通过GPS设备监控...
在深入探讨HBase之前,先理解一下什么是HBase。HBase是Apache Hadoop生态系统中的一个分布式、面向列的NoSQL数据库。它提供了实时读写访问,适用于大规模数据存储,尤其适合处理半结构化或非结构化的数据。HBase构建...
Maven坐标:org.apache.hbase:hbase-annotations:1.1.2; 标签:apache、annotations、hbase、jar包、java、API文档、中文版; 使用方法:解压翻译后的API文档,用浏览器打开“index.html”文件,即可纵览文档内容。...
自己在大数据培训班学习整理的笔记,比较详细,适合新手学习,我感觉还是挺有帮助的,希望可以帮助到你
总的来说,《HBase:The Definition Guide》是一本全面且实用的指南,无论你是初学者还是有经验的开发者,都能从中受益匪浅。通过深入学习,你可以掌握HBase的核心概念和技术,为处理大规模数据挑战做好准备。