JVM之优化（概述）

JVM之优化（概述）

 

       现代JVM是一个具有灵活适应各种应用能力的软件，尽管很多应用能够在JVM的默认配置下运行良好，但是有些应用还是需要优化JVM配置以达到其性能要求。由于各种各样的应用能够运行在现在JVM上面，所以大量的JVM选项可以配置来提升应用的性能。不幸的是，对一个应用而言优化得很好的JVM配置，对应另外的应用不一定适合。所以，真正理解怎样优化JVM配置是非常有必要的。

 

       在优化JVM之前，你需要先知道怎样测试应用性能、性能需求、测试的基础工具以及用来收集数据的垃圾回收器的命令行选项。

 

 

 

优化的指标

 

• 可用性
• 易管理性
• 吞吐量
• 延迟和响应时间
• 内存占用
• 启动时间

 

 

可用性

 

      可用性是衡量应用处于可用状态的指标。可用性需求表明了当应用的某些组件损坏或者遇到错误的时候，整个应用或应用的其他部分处于可用状态。增强可用性，会降低易管理性。

 

• 系统中某块业务出问题，不能影响整个系统的使用
• 服务器down掉了，导致系统无法使用

可用性需求例子：“当系统某一部分出现错误的时候，不要让整个应用程序崩溃”。

 

解决方法：一般用分布式系统解决这个问题，情况1将一个系统部署在多个JVM上，情况2将一个系统拆分成多个业务，分别部署在多个JVM上。

 

 

 

易管理性

 

      易管理性是衡量系统的运行和监控的成本以及配置应用的成本。易管理性的需求表明了这个应用被管理的容易程度。通常来讲，用更少的JVM去运行应用，那么需要付出更小的成本去维护和监控应用。而且更少的JVM应用配置也更加简单，但是这个是建立牺牲应用的可用性上面的。

 

易管理性需求例子：“由于有限的资源，应用只能部署到尽量少的JVM上面。”

 

 

 

吞吐量

 

      吞吐量是衡量系统在单位时间里面完成的工作数量。吞吐量需求通常忽略延迟或者响应时间。通常情况下，提升吞吐量需要以系统响应变慢和更多内存消耗作为代价。

 

吞吐量的例子：“这个应用需要每秒完成2500个事务。”

 

 

 

延迟和响应时间

 

      延迟或者响应时间是衡量应用从接收到一个任务到完成这个任务消耗的时间。一个延迟或者响应时间的需求需要忽略吞吐量。通常来讲，提升应用的响 应时间需要以更低吞吐量或提高应用的内容消耗。

 

延迟或者响应时间的例子："这个应用会在60毫秒内，执行完成交易操作。"

 

 

 

内存占用

 

      内存占用是衡量应用消耗的内存，这个内存占用是指应用在运行在某一个吞吐量、延迟以及可用性和易管理性指标下的内存消耗，内存占用是通常描述为应用运行的时候Java堆的大小或者总共需要消耗内存。通常情况下，通过增加Java堆的大小以增加应用内存占用可以提升吞吐量或者减少延迟，或者两者兼具。当应用可用的内存减少的时候，吞吐量和延迟通常会受到损失。在给定内存的情况下，应用占用的内存可以限制应用的实例数（这个会影响可用性）。

 

内存占用的例子：“这个应用会单独运行在一个8G的系统上面或者多出3个应用实例运行在一个24G的应用系统上面。”

 

 

 

启动时间

 

      启动时间是衡量应用初始化的时间（如：eclipse的启动时间）。在Java应用中，大家可能对JVM优化应用的热点需要的时间感兴趣。Java应用初始化需要消耗的时间依赖于很多因素包括单不仅限于需要装载的类的数量、需要初始化的对象数量、并且这些对象怎么初始化，以及HotSpot虚拟器运行环境的选择（client or server，eclipse使用的HotSpot Client，Jboss会使用HotSpot Server,两者在初始化时间上和运行过程中对热点的优化不一样）。

 

      抛开需要加载的类的数量、需要初始化的对象的数量以及对象如何初始化，使用HotSpot client运行环境会获得更快的启动速度，由于他没有做足够的优化，这些优化可以提供更高吞吐量和更低的延迟。相反，HotSpot Server运行环境需要更长的启动时间，由于它需要更好多的获得应用关于Java代码的信息，并且对生成的机器码进行了很高优化。

 

启动时间需求的例子：“这个应用会再15秒内完成初始化。”

 

 

 

优化步骤

 

     
 

 

1. 给应用的系统需求定优先级

 

系统第一步的工作就是确定需求，然后给各项指标定优先级，确定了优先级后就要有所舍弃，因为在提升某项指标，经常是以降低某项指标为代价。

 

比如说，为了最少的消耗内存，往往需要以延迟或者响应时间作为代价。或者，你想要提升应用的易管理性，你需要降低应用的的可用性的级别，由于可用性的提升是建立在多个JVM上的，多个JVM可用降低一个JVM出错造成整个应用的无法使用的风险。由于有很多的取舍需要做，理解真正性能需求就变得极其重要了，理解需求才能够正确的使用方法。

 

 

2. 选择JVM模型

 

选择部署在多个JVM（分布式系统）上还是单个JVM上，因为这个涉及到可用性、易管理性这个两个指标。

 

 

3. 选择JVM的Runtime

 

HotSpot虚拟器提供了聚焦在更快的启动速度和更小的内存占用的32位的client虚拟器，以及在32位和64位系统中有更高的吞吐量server虚拟器。系统对吞吐量、响应时间以及启动时间的需求决定了对JVM Runtime的选择。

 

 

4. 选择垃圾回收器

 

为了满足系统对内存占用、延迟以及吞吐量的需求，我们按照首先内存占用，其次延迟时间，最后吞吐量的顺序来进行优化。

 

 

5. 优化

 

优化是在不停地测试和调整配置中循环的，需要数次循环以达到性能的需求，另外，也有可能优化了一个点的时候，但是需要回到前面几个步骤重新进行检查。比如，假如你在几次优化垃圾回收器之后，对应用的延迟还是不满意，这个时候就有必要调整JVM的部署模型。另外一种可能是，应用程序有修改或者需要重新设定应用程序的性能需求。

 

 

 

对系统需求进行优先级排序

 

      优化操作的第一步就是对系统层面的需求进行优先级排序。做这个需要把主要的应用负责人叫到一起来商定优先级的排序，并且最终达成一致。这个讨论需要在应用的架构和设计阶段完成，由于这个讨论可以提供非常明确的结论，比如说：什么系统需求是最重要的。

 

      对于应用的负责人来说，系统需求的优先级决定了优化操作。最重要的系统需求促使形成一些基本决定。比如说：可用性比易管理性重要，那么JVM部署模型就会采用部署多个JVM。相反如果易管理性比可用性重要，那么就更加倾向于选择单个JVM的部署模型。