`
无尘道长
  • 浏览: 160717 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

线程池引起的jvm内存过大问题

    博客分类:
  • java
阅读更多

     之前的一个hbase表结构和rowkey规划不合理,我重新设计了一个新的hbase表,需要把旧表的数据写入到新表中,采用的方案是一个region一个region的倒数据,这样旧表的读是scan顺序读,新表的写是随机写,整体速度相对较快。

    读采用单线程,写采用线程池(Executors.newFixedThreadPool()),改进scan查询速度的caching配置设置为500,写线程池设置为100,在循环scan结果集时,每条数据的写新表的操作均会作为一个线程任务提交给线程池,由于没有充分的评估scan(产生数据)和写(消费数据)的速度,导致查询数据的速度比写的速度快,每次scan查询的数据均不能完全处理掉,因此导致线程池的队列不断的累积任务,在半小时内就导致消耗jvm内存到达16G(每个写操作均会持有scan出的数据,因此比较耗内存),发现问题后修改线程池大小为300,caching设置为200,并在每次scan查询时休眠100ms,这时基本上每次查询出的数据均会完全写入hbase,平均处理数据的速度由全速的10万条/s,降为8.8万/s,速度略有下降,但是不会因为任务堆积而导致jvm暴涨,最终出现OOM。

    一般的业务场景可能提交任务到线程池的量或者任务占用的内存不会太大,而且线程池与队列并没有字面上的直接联系,因此程序猿很容易忽略队列最常见的生产和消费问题,导致程序在运行一段时间后就会出现莫名的OOM。

  

   关于线程池ThreadPoolExecutor中队列的JDK解释:

   

   所有 BlockingQueue 都可用于传输和保持提交的任务。可以使用此队列与池大小进行交互:

  • 如果运行的线程少于 corePoolSize,则 Executor 始终首选添加新的线程,而不进行排队。
  • 如果运行的线程等于或多于 corePoolSize,则 Executor 始终首选将请求加入队列,而不添加新的线程。
  • 如果无法将请求加入队列,则创建新的线程,除非创建此线程超出 maximumPoolSize,在这种情况下,任务将被拒绝。
排队有三种通用策略:
  1. 直接提交。工作队列的默认选项是 SynchronousQueue,它将任务直接提交给线程而不保持它们。在此,如果不存在可用于立即运行任务的线程,则试图把任务加入队列将失败,因此会构造一个新的线程。此策略可以避免在处理可能具有内部依赖性的请求集时出现锁。直接提交通常要求无界 maximumPoolSizes 以避免拒绝新提交的任务。当命令以超过队列所能处理的平均数连续到达时,此策略允许无界线程具有增长的可能性。
  2. 无界队列。使用无界队列(例如,不具有预定义容量的 LinkedBlockingQueue)将导致在所有 corePoolSize 线程都忙时新任务在队列中等待。这样,创建的线程就不会超过 corePoolSize。(因此,maximumPoolSize 的值也就无效了。)当每个任务完全独立于其他任务,即任务执行互不影响时,适合于使用无界队列;例如,在 Web 页服务器中。这种排队可用于处理瞬态突发请求,当命令以超过队列所能处理的平均数连续到达时,此策略允许无界线程具有增长的可能性。
  3. 有界队列。当使用有限的 maximumPoolSizes 时,有界队列(如 ArrayBlockingQueue)有助于防止资源耗尽,但是可能较难调整和控制。队列大小和最大池大小可能需要相互折衷:使用大型队列和小型池可以最大限度地降低 CPU 使用率、操作系统资源和上下文切换开销,但是可能导致人工降低吞吐量。如果任务频繁阻塞(例如,如果它们是 I/O 边界),则系统可能为超过您许可的更多线程安排时间。使用小型队列通常要求较大的池大小,CPU 使用率较高,但是可能遇到不可接受的调度开销,这样也会降低吞吐量。

    通过Executors的newFixedThreadPool()方法实现如下:

   public static ExecutorService newFixedThreadPool(int nThreads) {

        return new ThreadPoolExecutor(nThreads, nThreads,

                                      0L, TimeUnit.MILLISECONDS,

                                      new LinkedBlockingQueue<Runnable>());

    }

   可见采用的是无界队列,在使用该方法创建的线程池时需要注意队列的堆积问题,我的解决办法是:

 

 //MAX_THREAD_SIZE:线程池大小

  if ( pool.getQueue().size()  > MAX_THREAD_SIZE*3 ) {

     LOG.error("暂停提交任务到线程池,堆积:" +pool.getQueue().size());

     while(true) {

         if ( pool.getQueue().size()  < MAX_THREAD_SIZE ) {

             break;

         }

     Thread.sleep(5);

   }

   LOG.error("终止暂停,堆积:" +pool.getQueue().size());

 }

 pool.execute(new PutTask(puts, lastRow));

 

对JDK的ThreadPoolExecutor类的源码解读如下1.6版的源码,1.7的版本实现略有不同)

 

 

//执行任务,如果线程数>=核心池大小则把任务放入队列,如果放入失败则查询线程数是否已经>=max池大小,如果没有则创建新的线程,如果线程数<核心池大小,则直接创建新的线程,线程启动后执行完一个任务可能并不会直接消亡,会有若干场景,具体逻辑请参看后面的run()getTask() workerCanExit()三个方法

public void execute(Runnable command) {

        if (command == null)

            throw new NullPointerException();

        if (poolSize >= corePoolSize || !addIfUnderCorePoolSize(command)) {

//如果workQueueSynchronousQueue,则如果没有线程在等待从queue中获取任务,则会放置失败,返回false,因为SynchronousQueue队列是不缓存数据的,因此对于SynchronousQueue队列的线程池,如果maxPoolSize很大,则基本上有多少个任务就会产生多少个线程,好处是可以立即处理业务,坏处是cpujvm内存均会有较大的消耗,创建过多的线程极有可能导致OOM

            if (runState == RUNNING && workQueue.offer(command)) {

                if (runState != RUNNING || poolSize == 0)

                    ensureQueuedTaskHandled(command);

            }

            else if (!addIfUnderMaximumPoolSize(command))

                reject(command); // is shutdown or saturated

        }

}

 

//执行完一个任务后,线程会尝试从任务队列中获取新的任务,如果获取不到则该线程终止,可见ThreadPoolExecutor线程池维护一定量的线程存活的方法是让线程一直有事可做,可参看后续的getTask()方法

public void run() {

            try {

                Runnable task = firstTask;

                firstTask = null;

                while (task != null || (task = getTask()) != null) {

                    runTask(task);

                    task = null;

                }

            } finally {

                workerDone(this);

            }

        }

 

//这是一个可永远进行的循环,退出条件如下(需结合后续的workerCanExit()方法):

//1、线程池已经STOP或者TERMINATED,该线程消亡

//2、线程池处于SHUTDOWN状态,如果任务队列有任务则返回任务,线程继续存活;

//3、如果线程数>coreSize或者allowCoreThreadTimeOut==true,这时如果在超时前可以从队列中获取到任务则返回,线程继续存活;

//4、如果不满足以上3个条件,则调用队列的take()阻塞方法,直到有队列中有任务,该处可以确保线程池中一直有<=corePoolSize的线程存在,当然如果allowCoreThreadTimeOut==true则不会采用队列的阻塞方法;

//5、执行完以上4个逻辑后,如果线程没有获取到任务,则会调用workerCanExit()方法检查该线程是否符合退出条件:请参看workerCanExit()方法

Runnable getTask() {

        for (;;) {

            try {

                int state = runState;

                if (state > SHUTDOWN)

                    return null;

                Runnable r;

                if (state == SHUTDOWN)  // Help drain queue

                    r = workQueue.poll();

                else if (poolSize > corePoolSize || allowCoreThreadTimeOut)

                    r = workQueue.poll(keepAliveTime, TimeUnit.NANOSECONDS);

                else

                    r = workQueue.take();

                if (r != null)

                    return r;

                if (workerCanExit()) {

                    if (runState >= SHUTDOWN) // Wake up others

                        interruptIdleWorkers();

                    return null;

                }

                // Else retry

            } catch (InterruptedException ie) {

                // On interruption, re-check runState

            }

        }

    }

 

//线程数多于corePoolSize或者allowCoreThreadTimeOut==true时,如果没有从队列中获取到任务(可能会等待到timeout)则会执行以下逻辑,判断是否需要退出该线程,符合退出的条件如下:

//1、线程池是STOP或者TERMINATED状态

//2任务队列为空

//3allowCoreThreadTimeOut==true并且线程数>corePoolSize

private boolean workerCanExit() {

        final ReentrantLock mainLock = this.mainLock;

        mainLock.lock();

        boolean canExit;

        try {

            canExit = runState >= STOP ||

                workQueue.isEmpty() ||

                (allowCoreThreadTimeOut &&

                 poolSize > Math.max(1, corePoolSize));

        } finally {

            mainLock.unlock();

        }

        return canExit;

    }

 

  

分享到:
评论
1 楼 flychao88 2014-05-06  
AbstractQueuedSynchronizer 核心就是用的这个,可以根据这个扩展来实现自己需要的

相关推荐

    2、导致JVM内存泄露的ThreadLocal详解

    ### 导致JVM内存泄露的ThreadLocal详解 #### 一、为什么要有ThreadLocal 在多线程编程中,为了避免线程间的数据竞争和保证线程安全性,常常需要使用同步机制如`synchronized`来控制线程对共享资源的访问。然而,...

    实战JAVA虚拟机 JVM故障诊断与性能优化.rar

    通常由递归过深或方法调用链过长引起,可以通过调整栈大小(-Xss)或优化代码结构来解决。 3. 方法区溢出:主要涉及类信息、常量池等内容。过度加载类或大型字符串静态变量可能导致此问题,优化类加载策略和减少不必...

    JVM调优测试-jvmDemo.zip

    1. **JVM内存模型**:JVM内存分为堆内存(Heap)、方法区(Method Area)、虚拟机栈(JVM Stack)、本地方法栈(Native Method Stack)和程序计数器(PC Register)。了解这些区域的功能和交互是调优的基础。 2. **...

    jboss内存溢出优化

    实施优化后,持续监控系统性能是必要的步骤,可以使用如JVisualVM、VisualGC等工具来监测JVM内存使用情况,分析垃圾回收频率、堆内存使用率、线程状态等关键指标,从而判断优化效果并进一步调优。 ### 结论 JBoss...

    JVM优化经验总结Java开发Java经验技巧共15页.p

    优化JVM可以减少程序的启动时间,提高响应速度,减少内存消耗,以及避免因垃圾回收引起的暂停时间过长等问题。 以下是一些可能涵盖在文档中的JVM优化关键知识点: 1. **内存管理**:包括堆内存(新生代、老年代、...

    Tomcat内存优化

    JVM内存主要分为以下几个部分: 1. **堆内存**:用于存储对象实例、数组等数据。堆内存又可以细分为年轻代和老年代。 - **年轻代**:主要包含Eden区和两个Survivor区(S0/S1),新创建的对象首先在Eden区分配空间,...

    tomcat内存溢出总结

    不当的内存配置不仅可能导致应用性能下降,严重时甚至会引起服务不可用的问题。本文将针对常见的几种内存溢出问题进行分析,并提供相应的解决策略。 #### 一、Java堆内存溢出(OutOfMemoryError: Java heap space)...

    OutOfMemoryError-8种典型案例分享.rar

    合理控制并发线程数,或者使用线程池来复用线程,可以有效防止这个问题。 总结来说,理解和处理`OutOfMemoryError`需要对Java内存模型有深入理解,以及对JVM参数的熟练掌握。通过对代码的优化,调整JVM配置,以及...

    Java问题定位技术.pdf

    本书《Java问题定位技术.pdf》深入探讨了Java程序中的问题定位技术,包括但不限于内存泄漏定位、线程堆栈分析、多线程和并发编程问题处理、性能瓶颈分析、Java虚拟机(JVM)参数调优等。书中介绍了如何识别和解决...

    loadrunner结果分析(内存、GC、was、sql等以及对应工具下载)借鉴.pdf

    过大的堆可能导致 GC 时间长,过小则可能引起频繁 GC。需要通过试验和监控数据来优化设置,确保系统运行效率。 3. **WebSphere Application Server (WAS) 调优**: - **Web 容器**:根据 CPU 数量、系统需求(响应...

    loadrunner分析内存泄露

    通过获取内存对象的静态映像,发现内存中占据空间最大的几种对象的平均年龄相对较大,并且随时间增长,这些对象占用的空间以及平均年龄都在不断增加。这表明存在一些长生命周期的对象在不断地累积,可能是内存泄露的...

    Java问题定位技术(

    综上所述,Java问题定位技术是一项涉及JVM深入知识、多线程编程技巧、高并发实现方法、性能瓶颈分析能力以及内存泄漏处理的综合性技能。掌握这些知识点,能够有效解决Java应用程序在开发和运行过程中遇到的性能问题...

    如何解决java.lang.StackOverflowError

    因此,文件"通过Xss来调整,但调整的太大可能又会引起 OOM.txt"提醒我们,调整栈大小需要权衡。 除了调整`-Xss`,还有其他解决策略: 1. **优化代码**:检查是否有无限递归或者深度过大的递归调用。在必要时,可以...

    记一次tomcat进程cpu占用过高的问题排查记录

    4. **JVM内存和GC监控**:`jstat -gc`命令用于查看JVM的内存使用和垃圾回收情况,如果发现内存异常或GC频繁,可能是内存泄漏或配置不当引起的问题。 5. **网络连接排查**:当内存和线程问题被排除后,应考虑网络...

    tomcat输出输出着就不输出了,什么原因?解决方法是

    如果线程池配置不当,比如最大线程数限制过小,当达到上限时,新的请求将无法处理,可能导致看似程序停止输出的现象。检查`server.xml`中的`Executor`元素配置。 4. **Spring生命周期管理**:你提到将方法托管给...

    websphere优化

    - **内存溢出**:分析内存快照,找出内存泄漏或大对象,优化代码或调整JVM内存分配。 - **高CPU使用率**:定位占用CPU的进程或线程,优化代码或调整线程池设置。 - **连接超时**:排查网络问题,优化数据库连接...

    分析tomcat占用cpu高的原因

    4. **调整配置**:优化Tomcat和JVM的配置,如增大堆内存、选择合适的垃圾收集器、调整线程池大小等。 5. **硬件升级**:如果以上方法都无法解决问题,可能需要考虑提升服务器的硬件配置,如增加CPU核心数、提高CPU...

    java性能调优

    - **CPU使用率过高**: 高CPU使用率可能是由过度的线程竞争或无效的循环引起的。使用线程分析工具可以识别出造成高CPU负载的根源。 - **I/O阻塞**: I/O操作往往是程序性能的瓶颈之一。使用非阻塞I/O模型或异步I/O可以...

    改善websphere性能

    本文将详细探讨几个关键的性能调优策略,包括 Web 服务器、JVM、线程池和数据源连接池的配置。 首先,针对 WebSphere 中的 HTTP 服务器,有三个主要参数值得关注: 1. **KeepAlive** 参数:默认设置为 ON,这意味...

Global site tag (gtag.js) - Google Analytics