HotSpot的JIT编译器遇到简单无限循环时

RednaxelaFX

浏览: 3063137 次
性别:
来自: 海外

最近访客更多访客>>

fangang

kknd97

peakmeng

wszt

博主相关

博客

微博

相册

留言

关于我

文章分类

社区版块

存档分类

博客分类：

Virtual Machine

Windows Ubuntu XP JDK SUN

对下面这种带有简单无限循环的Java程序，

// java -XX:+PrintCompilation -XX:+PrintAssembly TestC2InfiniteLoop

public class TestC2InfiniteLoop {
    public static void foo() {
        while (true) { int i = 1; }
    }
    
    public static void main(String[] args) {
        foo();
    }
}

HotSpot的JIT编译器会：

1、client模式：执行命令：

java -XX:+PrintCompilation -XX:+PrintAssembly TestC2InfiniteLoop

C1会编译代码，会将循环内无用的代码都消除掉，但不会把循环本身消除：

  1%      TestC2InfiniteLoop::foo @ 0 (5 bytes)
Decoding compiled method 0x00bc6748:
Code:
[Disassembling for mach=&apos;i386&apos;]
[Entry Point]
[Verified Entry Point]
  ;;  block B2 [0, 0]

  0x00bc6810: mov    %eax,-0x4000(%esp)
  0x00bc6817: push   %ebp
  0x00bc6818: mov    %esp,%ebp
  0x00bc681a: sub    $0x18,%esp         ;*iconst_1
                                        ; - TestC2InfiniteLoop::foo@0 (line 5)
  ;;  block B3 [0, 0]

  0x00bc681d: nop    
  0x00bc681e: nop    
  0x00bc681f: nop                       ; OopMap{off=16}
                                        ;*goto
                                        ; - TestC2InfiniteLoop::foo@2 (line 5)
  ;;  block B0 [0, 2]

  0x00bc6820: test   %eax,0x970100      ;   {poll}
  ;;   26 branch [AL] [B0] 
  0x00bc6826: jmp    0x00bc6820         ;*goto
                                        ; - TestC2InfiniteLoop::foo@2 (line 5)
  ;;  block B1 [0, 0]

  0x00bc6828: mov    %eax,-0x4000(%esp)
  0x00bc682f: push   %ebp
  0x00bc6830: mov    %esp,%ebp
  0x00bc6832: sub    $0x18,%esp
  0x00bc6835: mov    %ecx,(%esp)
  0x00bc6838: call   0x082ea120         ;   {runtime_call}
  ;;   20 branch [AL] [B0] 
  0x00bc683d: jmp    0x00bc6820
  0x00bc683f: nop    
  0x00bc6840: nop    
  0x00bc6841: hlt    
  0x00bc6842: hlt    
  0x00bc6843: hlt    
  0x00bc6844: hlt    
  0x00bc6845: hlt    
  0x00bc6846: hlt    
  0x00bc6847: hlt    
  0x00bc6848: hlt    
  0x00bc6849: hlt    
  0x00bc684a: hlt    
  0x00bc684b: hlt    
  0x00bc684c: hlt    
  0x00bc684d: hlt    
  0x00bc684e: hlt    
  0x00bc684f: hlt    
[Exception Handler]
[Stub Code]
  0x00bc6850: mov    $0xdead,%ebx       ;   {no_reloc}
  0x00bc6855: mov    $0xdead,%ecx
  0x00bc685a: mov    $0xdead,%edx
  0x00bc685f: mov    $0xdead,%esi
  0x00bc6864: mov    $0xdead,%edi
  0x00bc6869: jmp    0x00bc1d60         ;   {runtime_call}
  0x00bc686e: push   $0xbc686e          ;   {section_word}
  0x00bc6873: jmp    0x00b7ba40         ;   {runtime_call}

上面位于0x00bc6820和0x00bc6826的两条指令就是无限循环的残余物：

  0x00bc6820: test   %eax,0x970100      ;   {poll}
  ;;   26 branch [AL] [B0] 
  0x00bc6826: jmp    0x00bc6820         ;*goto
                                        ; - TestC2InfiniteLoop::foo@2 (line 5)

原本在循环内的代码（int i = 1;）已经消失了，剩下的是在回边处对safepoint的轮询（test），以及循环末尾的无条件跳转（jmp）。
从编译记录看，int i = 1;对应的代码是在寄存器分配过程中被削除的。

2、server模式：执行命令：

java -server -XX:+PrintCompilation -XX:+PrintAssembly TestC2InfiniteLoop

C2会拒绝编译这种代码，并打出日志：

1%      TestC2InfiniteLoop::foo @ 0 (5 bytes)
1   COMPILE SKIPPED: trivial infinite loop (not retryable)

然后foo()中的无限循环就一直在解释器中执行下去了。

在hotspot/src/share/vm/opto/compile.cpp中，bool Compile::final_graph_reshaping()的代码前面有这样的注释：

// (4) Detect infinite loops; blobs of code reachable from above but not
//     below.  Several of the Code_Gen algorithms fail on such code shapes,
//     so we simply bail out.  Happens a lot in ZKM.jar, but also happens
//     from time to time in other codes (such as -Xcomp finalizer loops, etc).
//     Detection is by looking for IfNodes where only 1 projection is
//     reachable from below or CatchNodes missing some targets.
// ...

bool Compile::final_graph_reshaping() {
  // an infinite loop may have been eliminated by the optimizer,
  // in which case the graph will be empty.
  if (root()->req() == 1) {
    record_method_not_compilable("trivial infinite loop");
    return true;
  }
  // ...
}

======================================================================

上面的实验中，如果把foo中的无限循环在源码上就变为空循环的话：

public static void foo() {
    while (true) ;
}

则无论是在client还是server模式都不会触发对该方法的JIT编译，一直在解释器中去执行那个循环。
查看javac编译生成的字节码，可以确认该循环在字节码中是存在的：

public static void foo();
  Signature: ()V
  Code:
   Stack=0, Locals=0, Args_size=0
   0:   goto    0
  LineNumberTable:
   line 5: 0

  StackMapTable: number_of_entries = 1
   frame_type = 0 /* same */

foo()方法中唯一的一条字节码指令就是goto 0了。有趣的是因为foo()带有无限循环，所以编译出来的字节码里连return都没有。

HotSpot解释器触发JIT编译，是通过两个计数器来进行的：方法调用计数器与回边计数器，当这两个计数器的和超过了方法调用或循环次数的预设阈值就触发对某个方法的JIT编译；这两个计数器在每个方法里都有自己的一份。其中，方法调用计数器自然是用来记录某个方法被调用的次数的，而回变计数器则用于记录某方法中所有循环执行的次数（以方法而不是单个循环为粒度）。一个空的无限循环在字节码中的表现是一条goto字节码指令，参数是字节码的相对偏移量，并且该偏移量为0（意味着它指向该goto指令自身）。解释器中有这样的代码：

  0x0097e781: test   %edx,%edx
  0x0097e783: jns    0x0097e7a7

此时EDX持有相对偏移量，下面的JNS指令会在EDX为非负值的时候执行跳转——正好跳过了计数器自增的代码；这样就只有真正“向后跳”的goto才会使回边计数器自增。也就是说空的无限循环不会引起回边计数器的累加，默认配置下也就不会触发HotSpot进行JIT编译。

======================================================================

* 本文的测试环境是32位Windows XP SP3，E8400，Sun JDK 1.6.0 update 18

分享到：

实例构造器是不是静态方法？ | 简单替换URL中查询字符串的参数值的代码

2010-04-14 20:05
浏览 5937
评论(7)
分类:编程语言
查看更多

7 楼 RednaxelaFX 2014-12-18

RednaxelaFX 写道

cskarry 写道

今天遇到一个问题不得其解，借这个帖子咨询下撒加：
一、目标方法

public void run0() {
                        while (!ready) {
                                number++;
                                System.out.println("OK");
                        }
                        System.out.println(ready);
                }

...

您用了-Xcomp，而且多半在第一次调用Thread1.run0()之前PrintStream类还没有加载。所以第一次编译得到的就是在while循环内和循环后各有一个uncommon_trap()的调用。于是就没有循环了，无论循环与否都跳回解释器去跑。跑到足够热了就触发了第二次编译。

您可以试试在main()里先调用一次System.out.println("get ready");之类的，确保在跑Thread1.run0()之前已经加载PrintStream类，然后再看看结果。

顺带一提，请参考我的另外一篇blog：http://rednaxelafx.iteye.com/blog/1038324

6 楼 RednaxelaFX 2014-12-18

cskarry 写道

今天遇到一个问题不得其解，借这个帖子咨询下撒加：
一、目标方法

public void run0() {
                        while (!ready) {
                                number++;
                                System.out.println("OK");
                        }
                        System.out.println(ready);
                }

...

5 楼 cskarry 2014-12-17

今天遇到一个问题不得其解，借这个帖子咨询下撒加：
一、目标方法

public void run0() {
                        while (!ready) {
                                number++;
                                System.out.println("OK");
                        }
                        System.out.println(ready);
                }

二、环境

java -XX:+UnlockDiagnosticVMOptions -XX:+PrintAssembly -Xcomp -XX:CompileCommand=dontinline,*Thread1.run0 -XX:CompileCommand=compileonly,*Thread1.run0 Thread1 > T1.log

java version "1.7.0_67"
Java(TM) SE Runtime Environment (build 1.7.0_67-b01)
Java HotSpot(TM) 64-Bit Server VM (build 24.65-b04, mixed mode)

三、结果
Line19:

[Verified Entry Point]
  0x00000001104c1220: mov    %eax,-0x14000(%rsp)
  0x00000001104c1227: push   %rbp
  0x00000001104c1228: sub    $0x10,%rsp         ;*synchronization entry
                                                ; - Thread1::run0@-1 (line 8)
  0x00000001104c122c: movzbl 0x10(%rsi),%r10d
  0x00000001104c1231: test   %r10d,%r10d
  0x00000001104c1234: je     0x00000001104c1249  ;*ifne
                                                ; - Thread1::run0@4 (line 8)
  0x00000001104c1236: mov    %rsi,%rbp
  0x00000001104c1239: mov    $0x1e,%esi
  0x00000001104c123e: nop
  0x00000001104c123f: callq  0x0000000110497f20  ; OopMap{rbp=Oop off=68}
                                                ;*getstatic out
                                                ; - Thread1::run0@28 (line 12)
                                                ;   {runtime_call}
  0x00000001104c1244: callq  0x000000010fe1bb72  ;*getstatic out
                                                ; - Thread1::run0@28 (line 12)
                                                ;   {runtime_call}
  0x00000001104c1249: incl   0xc(%rsi)          ;*synchronization entry
                                                ; - Thread1::run0@-1 (line 8)
  0x00000001104c124c: mov    %rsi,%rbp
  0x00000001104c124f: mov    $0x1e,%esi
  0x00000001104c1254: data32 xchg %ax,%ax
  0x00000001104c1257: callq  0x0000000110497f20  ; OopMap{rbp=Oop off=92}
                                                ;*getstatic out
                                                ; - Thread1::run0@17 (line 10)
                                                ;   {runtime_call}
  0x00000001104c125c: callq  0x000000010fe1bb72  ;*getstatic out
                                                ; - Thread1::run0@17 (line 10)
                                                ;   {runtime_call}

Line11356:

Decoding compiled method 0x00000001104bf3d0:
Code:
[Entry Point]
[Verified Entry Point]
[Constants]
  # {method} 'run0' '()V' in 'Thread1'
  0x00000001104bf540: callq  0x000000010fe1bb72  ;   {runtime_call}
  0x00000001104bf545: data32 data32 nopw 0x0(%rax,%rax,1)
  0x00000001104bf550: mov    %eax,-0x14000(%rsp)
  0x00000001104bf557: push   %rbp
  0x00000001104bf558: sub    $0x10,%rsp
  0x00000001104bf55c: mov    (%rsi),%rbp
  0x00000001104bf55f: mov    %rsi,%rdi
  0x00000001104bf562: movabs $0x10fe75a70,%r10
  0x00000001104bf56c: callq  *%r10
  0x00000001104bf56f: mov    0x8(%rbp),%r11d    ; implicit exception: dispatches to 0x00000001104bf601
  0x00000001104bf573: cmp    $0xef610642,%r11d  ;   {oop('Thread1')}
  0x00000001104bf57a: jne    0x00000001104bf5dc
  0x00000001104bf57c: jmp    0x00000001104bf594
  0x00000001104bf57e: xchg   %ax,%ax            ;*aload_0
                                                ; - Thread1::run0@0 (line 8)
  0x00000001104bf580: lea    (%r12,%r10,8),%rsi  ;*getstatic out
                                                ; - Thread1::run0@17 (line 10)
  0x00000001104bf584: movabs $0x7d5654668,%rdx  ;   {oop("OK")}
  0x00000001104bf58e: nop
..................

四、问题
1、看Hotspot log 感觉该方法被执行1200+次会被二次编译了，不知道是什么原因？
2、第一次编译后的代码竟然没有jmp，看不出循环怎么实现的？

4 楼 RednaxelaFX 2010-04-16

yznxing 写道

额，，你这该不会是我上次问了下，while true
之后的研究吧！~~~

看不懂。。。
悲剧了~~~

嗯，是上次你问了之后我看了下……不过也没啥用就是了。反正结论就是HotSpot不会消掉简单无限循环。

3 楼 yznxing 2010-04-16

额，，你这该不会是我上次问了下，while true
之后的研究吧！~~~

看不懂。。。
悲剧了~~~

2 楼 RednaxelaFX 2010-04-15

lvgang 写道

好文，很有深度，就是看不太懂，呵呵。有个问题向博主请教，从上面打印出来的汇编代码来看，貌似是 gnu as，windows 上也能用 gnu as？

是的，这个是由GNU binutils里的as提供反汇编功能。
Sun HotSpot需要一个反汇编插件才可以使用-XX:+PrintAssembly参数来打印JIT编译生成的代码。该插件有一组通用接口，本来是可以用任意反汇编器套个适配器就行。官方提供了一个现成的版本（hsdis）是基于gas的，我懒于是就直接用它了。在Windows上直接build我还没成功过，用MinGW和Cygwin都试过不行。我用的版本是在Ubuntu上cross-compile出来的，根据插件作者提供的cross-compile指引来做没有遇到问题。
编译出来的hsdis-i386.dll放到JDK安装目录中jre/bin/server和jre/bin/client中即可。

1 楼 lvgang 2010-04-15

好文，很有深度，就是看不太懂，呵呵。有个问题向博主请教，从上面打印出来的汇编代码来看，貌似是 gnu as，windows 上也能用 gnu as？

发表评论

您还没有登录,请您登录后再发表评论

最近访客更多访客>>

博主相关

文章分类

社区版块

存档分类

最新评论