Linux下hugetlbpage使用详解

就Linux应用程序而言，使用的都是虚拟地址，当应用程序读写一个指定的虚拟地址时，内存管理单元会自动进行虚拟地址到物理地址的转换。一个虚拟 地址可以映射到多个物理地址，但当前映射到哪一个物理地址取决于当前的页表（Page Table，一个虚拟地址到物理地址的映射转换表）内容，页表存储在主存储器中，查询速度相对比较慢。为了提高地址转换性能，大多数体系架构都提供一个快 速查找缓冲TLB（Translation Lookaside Buffer），TLB读写速度非常快，比如在X86体系架构上，TLB和普通的CPU CACHE并没有本质区别，只不过TLB专职用于缓存页表数据，而普通的CPU CACHE缓存实际的代码指令或数据。TLB缓冲了最近使用过的页表项，在进行虚拟地址到物理地址的转换时先查这个TLB缓冲，只有当查找TLB缓冲失败 （TLB miss）后才再去查普通页表（好像有的架构是同时进行查找？）。当然，根据局部性原理，大多数情况下应该都是查找TLB缓冲命中（TLB hit）的，所以性能得以大大提升。这整个具体的页表查找与地址转换过程不是文本描述的重点，但我们需知道如下几点：
1，TLB缓冲能大大提升虚拟地址到物理地址的转换速度。
2，TLB缓冲大小有限，只能缓存一定量的页表项目（Entry）。
3，如果一个页越大，那么一个页表项目就能表示越多的地址空间，整个TLB缓冲命中的几率就越大。
在Linux平台上，页大小普遍为4K，但根据硬件架构的不同，Linux内核也支持更大的内存页，也就是本文要介绍的HugeTLB特性。

要使用HugeTLB特性，当然需要首先打开内核的相关编译选项：

1 2 3 4 5 6 7 8 9 10 11

[root@localhost ~]# uname -a Linux localhost.localdomain 2.6.38.8 #4 SMP Mon Oct 31 20:49:48 CST 2011 x86_64 x86_64 x86_64 GNU/Linux [root@localhost ~]# cat /usr/src/linux-`uname -r`/.config | grep HUGETLB CONFIG_HUGETLBFS=y CONFIG_HUGETLB_PAGE=y [root@localhost ~]# free -m              total       used       free     shared    buffers     cached Mem:          2007       1920         87          0          1         10 -/+ buffers/cache:       1908         99 Swap:         2015         33       1982 [root@localhost ~]#

查看HugePages信息：

1 2 3 4 5 6 7

[root@localhost ~]# cat /proc/meminfo | grep Huge HugePages_Total:       0 HugePages_Free:        0 HugePages_Rsvd:        0 HugePages_Surp:        0 Hugepagesize:       2048 kB [root@localhost ~]#

其中：
HugePages_Total：系统当前总共拥有的HugePages数目。
HugePages_Free：系统当前总共拥有的空闲HugePages数目。
HugePages_Rsvd：系统当前总共保留的HugePages数目，更具体点就是指程序已经向系统申请，但是由于程序还没有实质的HugePages读写操作，因此系统尚未实际分配给程序的HugePages数目。
HugePages_Surp：指超过系统设定的常驻HugePages数目的数目。
Hugepagesize：每一页HugePages的大小。
虽然尝试对上面这几个字段解释了一通，但HugePages_Rsvd和HugePages_Surp貌似仍然不够清楚，下面我们以实例数据来看，不过在此之前需要讲解另外几个内核参数：

1 2 3 4 5 6 7

[root@localhost ~]# cat /proc/sys/vm/nr_hugepages 0 [root@localhost ~]# cat /proc/sys/vm/nr_hugepages_mempolicy 0 [root@localhost ~]# cat /proc/sys/vm/nr_overcommit_hugepages 0 [root@localhost ~]#

其中：/proc/sys/vm/nr_hugepages，就是用于设定系统拥有的常驻HugePages数目的/proc接口，可读可写，比如修改常驻HugePages数目为10：

1 2 3 4 5 6 7 8

[root@localhost ~]# echo 10 > /proc/sys/vm/nr_hugepages [root@localhost ~]# cat /proc/meminfo | grep Huge HugePages_Total:      10 HugePages_Free:       10 HugePages_Rsvd:        0 HugePages_Surp:        0 Hugepagesize:       2048 kB [root@localhost ~]#

这个值当然并不是echo多少就是多少，它根据系统当前的可用内存来计算，比如如下，2G内存当然不可能会有1000000个HugePages，系统根据当前可用物理内存计算出可以组成的HugePages数目为899：

1 2 3 4 5 6 7 8

[root@localhost ~]# echo 1000000 > /proc/sys/vm/nr_hugepages [root@localhost ~]# cat /proc/meminfo | grep Huge HugePages_Total:     899 HugePages_Free:      899 HugePages_Rsvd:        0 HugePages_Surp:        0 Hugepagesize:       2048 kB [root@localhost ~]#

接口/proc/sys/vm/nr_hugepages_mempolicy和/proc/sys/vm/nr_hugepages的功用类似， 但是它只出现在NUMA系统上，用于更精细的HugePages申请分配。比如，对于一个具有2个NUMA节点的系统，申请100个HugePages页 面（先清0，以便重新生成HugePages页面）：

1 2 3 4 5 6 7 8 9 10

[root@localhost ~]# echo 0 > /proc/sys/vm/nr_hugepages [root@localhost ~]# echo 100 > /proc/sys/vm/nr_hugepages [root@localhost ~]# cat /sys/devices/system/node/node*/meminfo | fgrep Huge Node 0 HugePages_Total:    50 Node 0 HugePages_Free:     50 Node 0 HugePages_Surp:      0 Node 1 HugePages_Total:    50 Node 1 HugePages_Free:     50 Node 1 HugePages_Surp:      0 [root@localhost ~]#

/proc/sys/vm/nr_hugepages接口会按照当前修改nr_hugepages的进程的NUMA策略进行HugePages分 配，当然，默认情况下就是系统当前所有在线NUMA节点平均分配这些HugePages，除非那个NUMA节点本身没有足够的可用连续内存来生成 HugePages，那么此时HugePages将由另外一个NUMA节点生成。
通过/proc/sys/vm/nr_hugepages_mempolicy接口，可以指定HugePages页面具体由哪个NUMA节点生成：

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34

[root@localhost ~]# echo 0 > /proc/sys/vm/nr_hugepages [root@localhost ~]# numactl -m 0 echo 40 >/proc/sys/vm/nr_hugepages_mempolicy [root@localhost ~]# cat /sys/devices/system/node/node*/meminfo | fgrep Huge Node 0 HugePages_Total:    40 Node 0 HugePages_Free:     40 Node 0 HugePages_Surp:      0 Node 1 HugePages_Total:     0 Node 1 HugePages_Free:      0 Node 1 HugePages_Surp:      0 [root@localhost ~]# numactl -m 1 echo 60 >/proc/sys/vm/nr_hugepages_mempolicy [root@localhost ~]# cat /sys/devices/system/node/node*/meminfo | fgrep Huge Node 0 HugePages_Total:    40 Node 0 HugePages_Free:     40 Node 0 HugePages_Surp:      0 Node 1 HugePages_Total:    20 Node 1 HugePages_Free:     20 Node 1 HugePages_Surp:      0 [root@localhost ~]# echo 80 >/proc/sys/vm/nr_hugepages_mempolicy [root@localhost ~]# cat /sys/devices/system/node/node*/meminfo | fgrep Huge Node 0 HugePages_Total:    50 Node 0 HugePages_Free:     50 Node 0 HugePages_Surp:      0 Node 1 HugePages_Total:    30 Node 1 HugePages_Free:     30 Node 1 HugePages_Surp:      0 [root@localhost ~]# numactl -m 1 echo 100 >/proc/sys/vm/nr_hugepages [root@localhost ~]# cat /sys/devices/system/node/node*/meminfo | fgrep Huge Node 0 HugePages_Total:    60 Node 0 HugePages_Free:     60 Node 0 HugePages_Surp:      0 Node 1 HugePages_Total:    40 Node 1 HugePages_Free:     40 Node 1 HugePages_Surp:      0 [root@localhost ~]#

上面先清0，以便系统重新生成HugePages页面，前40个HugePages页面全部在NUMA节点0上生成，而后20个（即 60-40）HugePages页面全部在NUMA节点1上生成，再接下来的20个（即80-60）HugePages页面平均由NUMA节点0和1上生 成，即此时虽然使用的nr_hugepages_mempolicy接口，但由于没有指定NUMA策略，所以默认就是平均分配，最后即便是指定了NUMA 策略，但由于使用的是nr_hugepages接口，所以仍然是平均分配。上面是增加HugePages页面的情况，减少的话也是类似：

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25

[root@localhost ~]# numactl -m 1 echo 80 >/proc/sys/vm/nr_hugepages [root@localhost ~]# cat /sys/devices/system/node/node*/meminfo | fgrep Huge Node 0 HugePages_Total:    50 Node 0 HugePages_Free:     50 Node 0 HugePages_Surp:      0 Node 1 HugePages_Total:    30 Node 1 HugePages_Free:     30 Node 1 HugePages_Surp:      0 [root@localhost ~]# numactl -m 1 echo 60 >/proc/sys/vm/nr_hugepages_mempolicy [root@localhost ~]# cat /sys/devices/system/node/node*/meminfo | fgrep Huge Node 0 HugePages_Total:    50 Node 0 HugePages_Free:     50 Node 0 HugePages_Surp:      0 Node 1 HugePages_Total:    10 Node 1 HugePages_Free:     10 Node 1 HugePages_Surp:      0 [root@localhost ~]# numactl -m 0 echo 35 >/proc/sys/vm/nr_hugepages_mempolicy [root@localhost ~]# cat /sys/devices/system/node/node*/meminfo | fgrep Huge Node 0 HugePages_Total:    25 Node 0 HugePages_Free:     25 Node 0 HugePages_Surp:      0 Node 1 HugePages_Total:    10 Node 1 HugePages_Free:     10 Node 1 HugePages_Surp:      0 [root@localhost ~]#

第一个是平均减少，各自减少10个，第二个是仅由NUMA节点1减少20个，第三个是仅由NUMA节点0减少25个。当然，系统也提供有直接查看/设置某个NUMA节点上HugePages页面分配的接口：

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16

[root@localhost ~]# grep ^ /sys/devices/system/node/node*/hugepages/*/* /sys/devices/system/node/node0/hugepages/hugepages-2048kB/free_hugepages:25 /sys/devices/system/node/node0/hugepages/hugepages-2048kB/nr_hugepages:25 /sys/devices/system/node/node0/hugepages/hugepages-2048kB/surplus_hugepages:0 /sys/devices/system/node/node1/hugepages/hugepages-2048kB/free_hugepages:10 /sys/devices/system/node/node1/hugepages/hugepages-2048kB/nr_hugepages:10 /sys/devices/system/node/node1/hugepages/hugepages-2048kB/surplus_hugepages:0 [root@localhost ~]# echo 36 > /sys/devices/system/node/node0/hugepages/hugepages-2048kB/nr_hugepages [root@localhost ~]# cat /sys/devices/system/node/node*/meminfo | fgrep Huge Node 0 HugePages_Total:    36 Node 0 HugePages_Free:     36 Node 0 HugePages_Surp:      0 Node 1 HugePages_Total:    10 Node 1 HugePages_Free:     10 Node 1 HugePages_Surp:      0 [root@localhost ~]#

关于NUMA节点HugePages页面分配以及numactl命令还有更多细节，请参考hugetlbpage.txt以及man手册。
另一个/proc接口：/proc/sys/vm/nr_overcommit_hugepages，表示程序申请HugePages可超过常驻HugePages数目的最大数目。一个使用HugePages的应用程序如下：

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64

/**  * FileName: eg1.c  */ #include <stdio.h> #include <sys/ipc.h> #include <sys/shm.h> #include <stdlib.h>   #define MB_1 (1024*1024) #define MB_8 (8*MB_1)   char  *a; int shmid;   void init_hugepage_seg() {   shmid = shmget(1, MB_8, SHM_HUGETLB          | IPC_CREAT | SHM_R          | SHM_W);   if ( shmid < 0 ) {     perror("shmget error!");     exit(1);   }   printf("init_hugepage_seg shmid: 0x%x.\n", shmid);   a = shmat(shmid, 0, 0);   if (a == (char *)-1) {     perror("Shared memory attach failure!\n");     shmctl(shmid, IPC_RMID, NULL);     exit(2);   } }   void wr_to_array() {   int i;   for( i=0 ; i<MB_8 ; i++) {     a[i] = 'A';   } }   void rd_from_array() {   int i, count = 0;   for( i=0 ; i<MB_8 ; i++)     if (a[i] == 'A') count++;   if (count==i)     printf("HugeTLB read success.\n");   else     printf("HugeTLB read failed.\n"); }   int main(int argc, char *argv[]) {   init_hugepage_seg();   printf("Hugepage memory segment initialized!\n");   printf("Press any key to write/read memory!\n");   getchar();   wr_to_array();   rd_from_array();   printf("Press any key to free hugepage and exit!\n");   getchar();   shmctl(shmid, IPC_RMID, NULL);   return 0; }

编译它为执行程序eg1，eg1使用8M内存，即需要4页HugePages，设定常驻HugePages数为3，可超出常驻HugePages使用数为0，此时执行eg1会提示内存分配失败：

1 2 3 4 5 6 7 8 9 10 11 12

[root@localhost huge]# gcc -o eg1 eg1.c [root@localhost huge]# echo 3 > /proc/sys/vm/nr_hugepages [root@localhost huge]# echo 0 > /proc/sys/vm/nr_overcommit_hugepages [root@localhost huge]# cat /proc/meminfo | grep Huge HugePages_Total:       3 HugePages_Free:        3 HugePages_Rsvd:        0 HugePages_Surp:        0 Hugepagesize:       2048 kB [root@localhost huge]# ./eg1 shmget error!: Cannot allocate memory [root@localhost huge]#

如果设定常驻HugePages数大于等于4，eg1当然可以执行成功，但也可以设定nr_overcommit_hugepages大于等于1同 样也可以让eg1成功执行，即只要nr_hugepages + nr_overcommit_hugepages大于等于4，此处eg1就可成功执行：

1 2 3 4 5 6 7 8 9 10 11

[root@localhost huge]# echo 3 > /proc/sys/vm/nr_hugepages [root@localhost huge]# echo 1 > /proc/sys/vm/nr_overcommit_hugepages [root@localhost huge]# ./eg1 init_hugepage_seg shmid: 0x90000. Hugepage memory segment initialized! Press any key to write/read memory!   HugeTLB read success. Press any key to free hugepage and exit!   [root@localhost huge]#

回过头来看HugePages_Total、HugePages_Free、HugePages_Rsvd、HugePages_Surp这四个字段：
HugePages_Total大多数情况下等于/proc/sys/vm/nr_hugepages（后面用nr_hugepages表示）的值，但当 /proc/sys/vm/nr_overcommit_hugepages（后面用nr_overcommit_hugepages表示）大于0 时，HugePages_Total会超过nr_hugepages，但肯定小于等于nr_hugepages + nr_overcommit_hugepages，即：nr_hugepages <= HugePages_Total <= nr_hugepages + nr_overcommit_hugepages。
HugePages_Free、HugePages_Rsvd、HugePages_Surp来看实例，先做一些设置：

1 2 3 4 5 6 7 8 9

[root@localhost ~]# echo 3 > /proc/sys/vm/nr_hugepages [root@localhost ~]# echo 2 > /proc/sys/vm/nr_overcommit_hugepages [root@localhost ~]# cat /proc/meminfo | grep Huge HugePages_Total:       3 HugePages_Free:        3 HugePages_Rsvd:        0 HugePages_Surp:        0 Hugepagesize:       2048 kB [root@localhost ~]#

然后，另开一个shell终端执行eg1程序：

1 2 3 4

[root@localhost huge]# ./eg1 init_hugepage_seg shmid: 0xa0000. Hugepage memory segment initialized! Press any key to write/read memory!

就让eg1程序停在这，此时eg1程序已经执行了init_hugepage_seg();，即已经向系统申请4页HugePages，但还没有进 行实质内存读写操作wr_to_array();/rd_from_array();，回到之前的shell终端看HugePage信息：

1 2 3 4 5 6 7

[root@localhost ~]# cat /proc/meminfo | grep Huge HugePages_Total:       4 HugePages_Free:        4 HugePages_Rsvd:        4 HugePages_Surp:        1 Hugepagesize:       2048 kB [root@localhost ~]#

此时HugePages_Total值为4，为eg1程序申请的HugePages数；HugePages_Free为4，表示系统尚未把这4页 HugePages分配给eg1程序，所以它们都处于free状态，值得注意的是，虽然它们处于free状态，但已经不能再分配作为他用，要测试的话只需 把前面eg1.c文件拷贝为eg2.c，并修改其中shmget函数的key值为2，然后gcc编译为eg2，在当前这个状态下再执行eg2则会提 示：“shmget error!: Cannot allocate memory”；HugePages_Rsvd也为4，表示程序eg1已经向系统提出申请但尚未获得实际分配的HugePages 数；HugePages_Surp为1，表示超过系统设定的常驻HugePages数目的数目，即是：HugePages_Total（当前是4） - nr_hugepages（当前是3）。
回到执行eg1程序的shell终端，按一下键盘让eg1程序进行实际读写操作后再回到之前的shell终端看HugePage信息：

1 2 3 4 5 6 7

[root@localhost huge]# ./eg1 init_hugepage_seg shmid: 0xa8000. Hugepage memory segment initialized! Press any key to write/read memory!   HugeTLB read success. Press any key to free hugepage and exit!

此时eg1程序已经进行了实际读写操作，但是尚未释放HugePages内存：

1 2 3 4 5 6 7

[root@localhost ~]# cat /proc/meminfo | grep Huge HugePages_Total:       4 HugePages_Free:        0 HugePages_Rsvd:        0 HugePages_Surp:        1 Hugepagesize:       2048 kB [root@localhost ~]#

所以看到的HugePages_Total等于4，HugePages_Free等于0，表示4页HugePages都被eg1程序使用 中；HugePages_Rsvd等于0自然是表示eg1程序已经获得了HugePages内存分配。HugePages_Surp为1，表示当前超过系 统设定的常驻HugePages数目的数目还是1。
eg1程序退出后自然数据又都恢复成初始状态了，注意此时HugePages_Surp归为0了，表示那些非常驻HugePages被实时的释放回系统 了，另外，如果在它们还没有释放回系统此前修改了常驻HugePages数目，那么这些HugePages_Surp的HugePages会优先被选择成 为常驻HugePages：

1 2 3 4 5 6 7 8 9

[root@localhost huge]# ./eg1 init_hugepage_seg shmid: 0xa8000. Hugepage memory segment initialized! Press any key to write/read memory!   HugeTLB read success. Press any key to free hugepage and exit!   [root@localhost huge]#

1 2 3 4 5 6 7

[root@localhost ~]# cat /proc/meminfo | grep Huge HugePages_Total:       3 HugePages_Free:        3 HugePages_Rsvd:        0 HugePages_Surp:        0 Hugepagesize:       2048 kB [root@localhost ~]#

一般情况下，几个不等式为：
nr_hugepages <= HugePages_Total <= nr_hugepages + nr_overcommit_hugepages
HugePages_Free <= HugePages_Total
HugePages_Rsvd <= HugePages_Free
HugePages_Surp = HugePages_Total - nr_hugepages <= nr_overcommit_hugepages
那么特殊情况下，比如当前nr_hugepages为100，使用中的HugePages数目也为100，如果此时修改nr_hugepages为80， 那么即便当前nr_overcommit_hugepages为0，这多出的使用中的20个HugePages也会被计算在HugePages_Surp 中，同时此时也不再能够申请HugePages内存了，直到满足上面几个不等式为止。

被用作HugePages的内存页是不会被系统交换出去（swapped out）的，并且由于HugePages需要更大的连续物理内存，所以在系统启动时更容易获得更多的HugePages内存，并且还能尽量保证这些 HugePages内存页连续，通过通过添加对应的boot kernel参数来实现这点：

1 2 3

[root@localhost ~]# cat /proc/cmdline ro root=/dev/mapper/VolGroup-lv_root rd_LVM_LV=VolGroup/lv_root rd_LVM_LV=VolGroup/lv_swap rd_NO_LUKS rd_NO_MD rd_NO_DM LANG=en_US.UTF-8 SYSFONT=latarcyrheb-sun16 KEYBOARDTYPE=pc KEYTABLE=us crashkernel=auto rhgb quiet hugepages=10 hugepagesz=2M default_hugepagesz=4M [root@localhost ~]#

如上面当前内核boot命令行参数设定HugePages内存页10个（hugepages=10），默认HugePages内存页大小为4M，但 Linux X86-64不支持，所以看到的Hugepagesize仍然只是2M（2048 kB）。/proc/sys/vm/nr_hugepages接口改变的是默认HugePages内存页大小的数目，如果系统支持多种大小的 HugePages，改变它们各自的数目需要/sys接口：

1 2 3

[root@localhost ~]# ls /sys/kernel/mm/hugepages -F hugepages-2048kB/ [root@localhost ~]#

我的系统只有一种大小的HugePages，所以只有一个hugepages-2048kB/目录，如果有多种大小的HugePages，那么自然 就会有多个hugepages-${size}kB/这样的目录。每一个目录下存在同样命名的一些文件，其中有三个可读写，通过这几个可读写的接口便可做 相应的修改设置，其它只读：

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26

[root@localhost ~]# cat /proc/sys/vm/nr_hugepages 10 [root@localhost ~]# cat /proc/sys/vm/nr_overcommit_hugepages 0 [root@localhost ~]# cat /proc/meminfo | grep Huge HugePages_Total:      10 HugePages_Free:       10 HugePages_Rsvd:        0 HugePages_Surp:        0 Hugepagesize:       2048 kB [root@localhost ~]# grep ^ /sys/kernel/mm/hugepages/hugepages-2048kB/* /sys/kernel/mm/hugepages/hugepages-2048kB/free_hugepages:10 /sys/kernel/mm/hugepages/hugepages-2048kB/nr_hugepages:10 /sys/kernel/mm/hugepages/hugepages-2048kB/nr_hugepages_mempolicy:10 /sys/kernel/mm/hugepages/hugepages-2048kB/nr_overcommit_hugepages:0 /sys/kernel/mm/hugepages/hugepages-2048kB/resv_hugepages:0 /sys/kernel/mm/hugepages/hugepages-2048kB/surplus_hugepages:0 [root@localhost ~]# ls -l /sys/kernel/mm/hugepages/hugepages-2048kB/ total 0 -r--r--r--. 1 root root 4096 Jan 25 06:31 free_hugepages -rw-r--r--. 1 root root 4096 Jan 25 06:31 nr_hugepages -rw-r--r--. 1 root root 4096 Jan 25 06:31 nr_hugepages_mempolicy -rw-r--r--. 1 root root 4096 Jan 25 06:31 nr_overcommit_hugepages -r--r--r--. 1 root root 4096 Jan 25 06:31 resv_hugepages -r--r--r--. 1 root root 4096 Jan 25 06:31 surplus_hugepages [root@localhost ~]#