`
san_yun
  • 浏览: 2663602 次
  • 来自: 杭州
文章分类
社区版块
存档分类
最新评论

hbase查询超时导致的错误

 
阅读更多

今天上线跑一个hbase程序出现如下错误:

org.apache.hadoop.hbase.regionserver.LeaseException: org.apache.hadoop.hbase.regionserver.LeaseException: lease '5008606692699215376' does not exist

 

问题解决

HBase 客户端调用建立在由Socket+反射组成的Hadoop RPC调用的基础上;

客户端主要接口是HTable和HBaseAdmin,均是建立在HConnection接口实现类HConnectionImplementation上,

HConnectionImplementation维持到HMaster,HRegionServer,Zookeeper各个服务端进程的连接;

这里主要的连接是到HMaster,HRegionServer的连接:这里是建立在上面的RPC基础上的

简单起见 优化 改小这些默认参数:

hbase.client.retries.number=3     默认10

hbase.client.pause=100     默认 1000

hbase.rpc.timeout=6000   默认60000

hbase.client.operation.timeout=6000  默认Integer.MAX_VALUE

 

 

  • 大小: 230.2 KB
分享到:
评论

相关推荐

    hadoop ,hbase,zookeeper错误日志及相关应对措施

    * zookeeper连接超时可能会导致错误 * hbase与hadoop集成需要检查版本是否匹配 * zookeeper与hbase集成需要检查连接参数是否正确 * 使用netstat -an命令可以查看端口占用情况 结论 hadoop、hbase和zookeeper是大...

    hbase常见错误整理3年运维经验整理

    ### HBase常见错误及解决方案:3年运维经验总结 #### 一、配置第三方依赖包HADOOP_CLASSPATH和HBase问题 **问题描述** 在本地开发HBase程序时,虽然本地编译能够通过(因为在IDE中已经导入了必要的jar包),但在...

    [原创]HbaseClient

    3. 异常处理:合理处理可能出现的网络延迟、RegionServer故障等问题,避免因错误处理不当导致的应用异常。 4. 分布式环境下的并发控制:在多客户端并发访问时,需考虑行级锁或行版本控制来防止数据冲突。 总结来说...

    hbase优化总结

    Linux 系统最大可打开文件数的默认参数值是 1024,如果不进行修改,在并发量上来的时候会出现“Too Many Open Files”的错误,导致整个 HBase 不可运行。可以通过修改 ulimit 命令来临时或持久地修改最大文件数。...

    互联网金融行业HBase实践与创新_徐春明@腾讯.pdf

    此外,数据迁移至历史数据库时,由于历史库的性能限制和较低的数据安全性,容易导致迁移失败和业务影响。 在这种背景下,HBase作为一种列式存储的分布式数据库,因其高性能、高可用性和强大的扩展性,成为了互联网...

    hadoop hbase性能报告(英文)

    最初的问题是由于配置错误导致的Java类未找到异常,这反映了配置过程的重要性。更关键的是,性能评估测试总是因数据文件系统(DFS)损坏而失败,这可能是一个已知的HBase或底层DFS实现的bug,但未进行深入研究。 ##...

    Hbase官方文档

    - 使用`hbase shell`进行简单的命令行操作,如创建表、插入数据、查询数据等。 #### 二、配置 **2.1 Java配置** - 确保系统安装了最新版本的Java,并设置好JAVA_HOME环境变量。 - 调整JVM参数,如-Xmx、-Xms等,...

    Hadoop 集群(第 12 期副刊)-HBase性能优化.pdf

    Linux系统默认的最大可打开文件数通常设定为1024个,这对于大多数应用场景来说可能足够,但在高并发环境下可能会出现“TooManyOpenFiles”的错误,导致HBase无法正常运行。为了避免此类问题,可以通过以下几种方式...

    大数据与云计算培训学习资料 Hadoop集群 细细品味Hadoop_第12期副刊_HBase性能优化_V1.0 共26页.pdf

    默认的1024可能会导致"Too Many Open Files"错误,影响HBase的正常运行。可以通过`ulimit -n`命令临时更改限制,或永久性修改`/etc/security/limits.conf`和`/proc/sys/fs/file-max`的配置。 1.2 修改JVM配置 在`...

    华南理工大学分布式第4章作业

    原始程序的两个进程(Example2SenderReceiver和Example2ReceiverSender)如果调换执行顺序,可能会导致阻塞和数据丢失。这是因为UDP的非连接性使得消息发送和接收可能异步发生,如果没有协调好,可能会造成数据包的...

    大数据处理

    - **HBase**:针对随机访问效率偏低、节点故障时超时时间较长等问题,百度采取了多项措施,如优化HBase API、增强与HDFS之间的稳定性等。 ### 总结 通过对大规模数据存储、分析和索引技术的深入探讨,可以看出每种...

    code-katta:卡塔代码

    线程池可以控制并发数量,避免过多线程导致的资源浪费,同时能更好地处理请求队列和超时策略。 4. **回调机制**:在异步操作中,回调函数用于在操作完成后执行特定的逻辑。code-katta可能使用了回调来处理HBase操作...

    微博.构建可扩展的微博架构_TimYang_QCon_Beijing_2010.pdf

    当超出这个范围时,会导致延迟增加、数据库读取超时和前端超时等问题。 - **异步设计**:为解决上述问题,微博系统采用了异步处理策略,不立即同步处理请求,而是将消息放入消息队列(Message Queue)。这样可以...

    ES和HADOOP使用问题和需求

    对于中文检索,如果没有特别配置中文分词器,ES默认使用`StandardAnalyzer`进行分词,这可能导致中文文本被错误地分割为单个汉字。例如,“张家口”将被拆分为“张”、“家”、“口”。为了改善中文检索效果,推荐...

    52_如何设计高可用系统架构?限流?熔断?降级?什么鬼!.zip

    当调用服务的失败率达到预设阈值时,系统会切换到熔断状态,停止调用,快速返回错误响应,而不是等待长时间超时。Hystrix是实现熔断策略的一个常见工具,它提供了熔断器模式的实现。 接下来是“降级”。降级是在...

    网络蜘蛛spider crawl

    - 网络请求可能出现各种异常,如超时、重定向、404错误等,需捕获并适当处理。 - 使用日志记录抓取过程,便于调试和问题排查。 9. **数据存储**: - 抓取的数据可以存储在数据库、文件系统或分布式存储系统中。...

    黑马程序员-tomcat集群部署文档资料

    集群的主要目标是提高系统的可用性和可扩展性,通过负载均衡分散请求到多台服务器,避免单一节点故障导致的服务中断。在集群中,各个节点之间可以共享数据和服务,共同处理任务,提升整体性能。 【集群环境介绍】 ...

    CAP理论1

    - 如BigTable、Hypertable、HBase等列式存储系统,以及MongoDB、Terrastore、Redis、Scylla等NoSQL数据库,它们更倾向于满足分区容错性和可用性,但牺牲了一定的一致性。 总之,CAP理论帮助我们理解在设计分布式...

Global site tag (gtag.js) - Google Analytics