资讯频道 → 研发管理
阅读更多

3顶
1踩

研发管理

转载新闻 解Bug之路-Druid的Bug

2017-05-16 10:58 by 副主编 jihong10102006 评论(1) 有7711人浏览
Bug Druid
笔者很热衷于解决Bug,同时比较擅长(网络/协议)部分，所以经常被唤去解决一些网络IO方面的Bug。现在就挑一个案例出来，写出分析思路，以飨读者，希望读者在以后的工作中能够少踩点坑。

前言

此Bug是Druid低版本的Bug,此Bug至少在1.0.12版本就已经修复。

Druid的Bug现场

在紧张的新项目开发的日子里,突然收到线上某系统的大量报警,对应系统的人员发现此系统在某一台机器上dump了大量的error日志。日志基本都是: 
Druid:  GetConnectionTimeoutException

此系统所有用到数据库的地方都抛出此异常。于是祭出重启大法，重启过后，一切Okay。然后对应的系统人员开始排查这个问题，一直没有结果。
过了两天，又收到此类型的error日志报警，而且这一次是有两台系统同时爆出此种错误。紧急重启后，将此问题紧急报到我们这边处理。鉴于本人有丰富的IO处理经验，当然落到了本人头上。

Bug复盘

此系统是通过Druid连接后面的数据库分库分表Proxy,再由此Proxy连接后面的数据库。示意图如下所示:

缩小Bug范围

获取连接超时(GetConnectionTimeoutException)此错误的出现，只有两种可能:

1.业务系统本身Druid获取连接失败。   
2.作为中间件的Sharding Proxy获取连接失败。

在这个Bug里面很明显是Druid创建连接失败，原因如下:

1.此系统有10多台机器，仅仅有两台出现此种故障。   
2.这两台重启后一切正常。

如果说这两台是由于同机房问题出现统一的网络连接异常，那么并不能解释重启后正常这一现象。

Druid问题定位

于是开始分析为何获取连接超时,第一步当然是开始寻找源码中日志抛出异常点。上源码: 
DruidConnectionHolder holder;
.......
try {
    if (maxWait > 0) {
       holder = pollLast(nanos);
    }
    else {
       holder = takeLast();
    }
    ......
}finally {
    lock.unlock();
}
if(holder == null){
   ......
    if (this.createError != null) {
        throw new GetConnectionTimeoutException(errorMessage, createError);
    } else {
        throw new GetConnectionTimeoutException(errorMessage);
    }   
}

可见，这边获取到的DruidConnectionHolder为null,则抛出异常。

Druid获取连接的过程

在分析这个问题之前，先得看下Druid是如何创建连接的,下面是本人阅读Druid源码后画的示意图:

可见druid创建连接都是通过一个专门的线程来进行的，此图省略了大量的源码细节。

为何Holde为null?

继续上源码 
private DruidConnectionHolder pollLast(long nanos) throws InterruptedException, SQLException {
    for (;;) {
        if (poolingCount == 0) {
            emptySignal(); // send signal to CreateThread create connection

            if (estimate <= 0) {
                waitNanosLocal.set(nanos - estimate);
                return null;
            }
            ...
            try {
                long startEstimate = estimate;
                estimate = notEmpty.awaitNanos(estimate); 
                ......
            } finally {
              ......
            }
            ......
            if (poolingCount == 0) {
                if (estimate > 0) {
                    continue;
                }
                waitNanosLocal.set(nanos - estimate);
                return null;
            }
        }
        decrementPoolingCount();
        DruidConnectionHolder last = connections[poolingCount];
        connections[poolingCount] = null;
        return last;
    }
}

可见，如果触发条件，estimate<=0,则返回null。
上述源码的过程示意图如下:

继续追踪

由此可见，在获取连接的时候一直超时，不停的爆GetConnectionTimeoutException异常，明显是由于创建连接线程出了问题。那到底除了什么问题呢？由于Druid的代码比较多，很难定位问题点，于是还从日志入手。

进一步挖掘日志

错误信息量最大的是最初出现错误的时间点，这是笔者多年排查错误的经验总结。由于正好有两台出错，比较其错误的共同点也能对解决问题大有裨益。
大量create connection error

当笔者和同事追查错误的源头的时候，在有大量的create connection error,奇怪的是，到了一个时间点之后，就只剩GetConnectionTimeoutException异常了。
继续分析，在出现create connection error的时候，还是有部分业务请求能够执行的。即获取到了连接。
翻了翻源码，create connection error是在创建连接线程打印的，如果这个异常没有继续打印，而同时连接也获取不到，就在很大程度上表明:

创建连接根本就是被销毁了！

错误分界点

于是开始寻找什么时候create connection error开始销毁。于是通过笔者和同事在无数的错误日志中用肉眼发现了一个不寻常的日志隐蔽在大量的错误日志间: 

Druid:create holder error


在这个错误出现之后，就再也没有了create connection error,翻了翻另一台机器的日志，页是同样的现象！

源码寻找Bug

隐隐就感觉这个日志是问题错误的关键，打出这个日志的源码为: 
创建连接线程
@Override
public void run() {
            runInternal();
}

private void runInternal() {

    for (; ; ) {
        ......
        try{
            holder = new DruidConnectionHolder(DruidDataSource.this,connection);
        }catch(SQLException ex){
            LOG.error("create connection holder error",ex);
            // 这句break就是罪魁祸首
            // 至少在1.0.12修复
            break;
        }
        ......
    }
}

这边竟然在for(;;)这个死循环中break了！！！，那么这个线程也在break后跳出了死循环从而结束了，也就是说创建连接线程被销毁了！！!如下图所示:

为何create holder error?

继续搜寻日志,发现create holder error之前，会有获取事务隔离级别的报错。那么结合源码，错误的发生如下图:

即在Druid的创建连接线程创建连接成功之后，还需要拿去数据库的holdability,isolation(隔离级别)等MetaData,在获取MetaData失败的时候，则会抛出异常，导致创建连接线程Break。
但是如果在handshake的时候就失败，那么由于Druid处理了这种异常，打印create connection error,并继续创建连接。
于是就有了在create holder error之前大量create connection error，在这之后没有了的现象。

完结了么？

Druid的Bug是弄清楚了，但是为何连接如此不稳定，有大量的创建连接异常，甚至于Druid前脚创建连接成功，后脚发送命令就失败呢？

Sharding Proxy的Bug

于是此问题又萦绕在笔者心头，在又一番不下于上述过程的努力之后，发现一个月之前上线的新版本的Sharding Proxy的内存泄露Bug导致频繁GC(并定位内存泄露点),导致了上述现象，如下图所示:

由于每次内存泄露过小，同时Sharding Proxy设置的内存过大。所以上线后过了一个月才有频繁的GC现象。之前上线后，大家观察了一周，发现没有任何异常，就不再关注。与此类似，如果DB负载过高的话，笔者推测也会触发Druid的Bug。

最后处理

笔者去翻Druid最新源码，发现此问题已经修复，紧急联系各业务线升级Druid,同时让Sharding Proxy负责人修改了最新代码并上线。
终于这次的连环Bug算是填完了。

总结

追查Bug，日志和源码是最重要的两个部分。最源头的日志信息量最大，同时要对任何不同寻常的现象都加以分析并推测，最后结合源码，才能最终找出Bug。
  • 大小: 76.6 KB
  • 大小: 237.7 KB
  • 大小: 144.8 KB
  • 大小: 42.9 KB
  • 大小: 57 KB
  • 大小: 139 KB
3
顶
1
踩
评论 共 1 条 请登录后发表评论
1 楼 西蜀石兰 2017-05-17 15:40
涨见识了哈，可能用不到这个插件，但拓展了解决bug的思路和方法

发表评论

您还没有登录,请您登录后再发表评论

相关推荐

  • 解Bug之路-串包Bug

    解Bug之路-串包Bug 笔者很热衷于解决Bug,同时比较擅长(网络/协议)部分，所以经常被唤去解决一些网络IO方面的Bug。现在就挑一个案例出来，写出分析思路，以飨读者，希望读者在以后的工作中能够少踩点坑。 串包Bug...

  • 解Bug之路-主从切换”未成功”?

    解Bug之路-主从切换”未成功”?前言数据库主从切换是个非常有意思的话题。能够稳定的处理主从切换是保证业务连续性的必要条件。今天笔者就来讲讲主从切换过程中一个小小的问题。故障场景最近线上进...

  • 【转】解Bug之路-串包Bug

    笔者很热衷于解决Bug,同时比较擅长(网络/协议)部分，所以经常被唤去解决一些网络IO方面的Bug。现在就挑一个案例出来，写出分析思路，以飨读者，希望读者在以后的工作中能够少踩点坑。 串包Bug现场 前置故障Redis超时...

  • druid keepAlive bug踩坑

    druid 1.2.5及以下版本 连接保活bug踩坑

  • Druid核心源码解析--DruidDataSource

    } // bug fixed for dead lock, for issue #2980 DruidDriver.getInstance(); /**控制创建移除连接的锁，并且通过条件去控制一个连接的生成消费**/ // public DruidAbstractDataSource(boolean lockFair){ // lock ...

  • 解Bug之路-主从切换“未成功“?

    这让对应应用的开发百思不得其解，于是求助了笔者一探究竟。 怎么发现的 应用开发收到Cat监控告警，发现这个应用(A)中的请求在好几台机器中一直稳定失败。联想到昨晚刚做过数据库主从切换演练，于是上机器netstat -...

  • SpringBoot-Druid

    拦截器和过滤器用到了servlet,所以要注册servlet 拦截器主要拦截以/druid/开头的 最后使用localhost://8080/就可以访问监控平台。

  • druid源码解读--druid连接池init方法源码解读

    Druid连接池init方法源码解读 今日主要针对druid连接池中的Data Source核心代码中的初始化方法进行源码解读和学习。尤其针对init方法中的createAndStartCreatorThread/createAndStartDestroyThread线程进行详细的...

  • druid开发步骤（部分配置bug解决）

    1.新建Maven web_app项目，名为xxx_druid，在pom.xml中引入druid-1.2.8和mysql-connector-8.0.28以及相关依赖。 pom.xml相关依赖： &lt;dependencies&gt; &lt;dependency&gt; &lt;groupId&gt;com.alibaba&lt;...

  • druid 连接不上mysql_druid-mysql-mybatis-connection - druid 获取不到连接

    org.springframework.transaction.CannotCreateTransactionException: Could not open JDBC Connection for ... nested exception is com.alibaba.druid.pool.GetConnectionTimeoutException: wait millis ...

  • springboot下使用druid-spring-boot-starter

    Druid声称是Java语言中最好的数据库连接池。spring boot start自动装配组件，简化组件使用，所以Druid也推出了druid-spring-boot-starter。 1.pom.xmlyi

  • 多数据源切换-Druid

    * @bug [nothing] * @see [nothing] * @备注: */ public class LoadDataSource extends AbstractHibernateDao { protected final Log logger = LogFactory.getLog(getClass()); private BaseExtendDao ...

  • 记录压测时阿里druid获取数据源连接阻塞的bug

    查找到druid mysqlUtis类后发现。出现阻塞原因在于版本不匹配，低版本的driud加载的是com.mysql.jdbc.MySQLConnection，而8.0版本的mysql-connector用的是com.mysql.cj.jdbc.ConnectionImpl。升级druid到1.2以上版本...

  • java+sql server项目之科帮网计算机配件报价系统源代码.zip

    sql server+java项目之科帮网计算机配件报价系统源代码

  • 【java毕业设计】智慧社区老人健康监测门户.zip

    有java环境就可以运行起来 ,zip里包含源码+论文+PPT, 系统设计与功能： 文档详细描述了系统的后台管理功能，包括系统管理模块、新闻资讯管理模块、公告管理模块、社区影院管理模块、会员上传下载管理模块以及留言管理模块。 系统管理模块：允许管理员重新设置密码，记录登录日志，确保系统安全。 新闻资讯管理模块：实现新闻资讯的添加、删除、修改，确保主页新闻部分始终显示最新的文章。 公告管理模块：类似于新闻资讯管理，但专注于主页公告的后台管理。 社区影院管理模块：管理所有视频的添加、删除、修改，包括影片名、导演、主演、片长等信息。 会员上传下载管理模块：审核与删除会员上传的文件。 留言管理模块：回复与删除所有留言，确保系统内的留言得到及时处理。 环境说明： 开发语言：Java 框架：ssm，mybatis JDK版本：JDK1.8 数据库：mysql 5.7及以上 数据库工具：Navicat11及以上 开发软件：eclipse/idea Maven包：Maven3.3及以上

  • 【java毕业设计】智慧社区心理咨询平台（源代码+论文+PPT模板）.zip

    zip里包含源码+论文+PPT,有java环境就可以运行起来 ,功能说明： 文档开篇阐述了随着计算机技术、通信技术和网络技术的快速发展，智慧社区门户网站的建设成为了可能，并被视为21世纪信息产业的主要发展方向之一 强调了网络信息管理技术、数字化处理技术和数字式信息资源建设在国际竞争中的重要性。 指出了智慧社区门户网站系统的编程语言为Java，数据库为MYSQL，并实现了新闻资讯、社区共享、在线影院等功能。 系统设计与功能： 文档详细描述了系统的后台管理功能，包括系统管理模块、新闻资讯管理模块、公告管理模块、社区影院管理模块、会员上传下载管理模块以及留言管理模块。 系统管理模块：允许管理员重新设置密码，记录登录日志，确保系统安全。 新闻资讯管理模块：实现新闻资讯的添加、删除、修改，确保主页新闻部分始终显示最新的文章。 公告管理模块：类似于新闻资讯管理，但专注于主页公告的后台管理。 社区影院管理模块：管理所有视频的添加、删除、修改，包括影片名、导演、主演、片长等信息。 会员上传下载管理模块：审核与删除会员上传的文件。 留言管理模块：回复与删除所有留言，确保系统内的留言得到及时处理。

  • 计算机系统基础实验LinkLab实验及解答：深入理解ELF文件与链接过程

    内容概要：本文档详细介绍了LinkLab实验的五个阶段，涵盖了ELF文件的组成、符号表的理解、代码节与重定位位置的修改等内容。每个阶段都有具体的实验要求和步骤，帮助学生理解链接的基本概念和链接过程中涉及的各项技术细节。 适合人群：计算机科学专业的本科生，特别是正在修读《计算机系统基础》课程的学生。 使用场景及目标：① 通过实际操作加深对链接过程和ELF文件的理解；② 掌握使用readelf、objdump和hexedit等工具的技巧；③ 实现特定输出以验证实验结果。 阅读建议：实验过程中的每个阶段都有明确的目标和提示，学生应按照步骤逐步操作，并结合反汇编代码和二进制编辑工具进行实践。在完成每个阶段的实验后，应及时记录实验结果和遇到的问题，以便于总结和反思。

  • 基于关键词的历时百度搜索指数自动采集资料齐全+详细文档+高分项目+源码.zip

    【资源说明】 基于关键词的历时百度搜索指数自动采集资料齐全+详细文档+高分项目+源码.zip 【备注】 1、该项目是个人高分项目源码，已获导师指导认可通过，答辩评审分达到95分 2、该资源内项目代码都经过测试运行成功，功能ok的情况下才上传的，请放心下载使用！ 3、本项目适合计算机相关专业(人工智能、通信工程、自动化、电子信息、物联网等)的在校学生、老师或者企业员工下载使用，也可作为毕业设计、课程设计、作业、项目初期立项演示等，当然也适合小白学习进阶。 4、如果基础还行，可以在此代码基础上进行修改，以实现其他功能，也可直接用于毕设、课设、作业等。 欢迎下载，沟通交流，互相学习，共同进步！

  • 用C语言写出一个简单的圣诞树，让你的朋友们体验一下程序员的浪漫，点开即令哦！

    第一次发文的小白，解释的不好，各位大佬勿怪哦

Global site tag (gtag.js) - Google Analytics