- 浏览: 1318349 次
- 性别:
- 来自: 广州
文章分类
- 全部博客 (351)
- Java General (37)
- .net General (2)
- Linux Toy (55)
- Oracle (81)
- Mysql (11)
- Programer Career (12)
- Oh, my living ! (2)
- Shell Script (8)
- Web Service (0)
- Linux Server (22)
- Php/Python/Perl (3P) (2)
- Javascript General (5)
- Saleforce Apex Dev (2)
- Web General (5)
- Xen & VM tech. (17)
- PSP (13)
- OpenSolaris (34)
- php (1)
- RAI/flex/action script (16)
- asterisk/CTI (7)
- 交互设计 (6)
- English (3)
- Lucene (1)
最新评论
-
GuolinLee:
markmark
JVM调优总结 -Xms -Xmx -Xmn -Xss -
di1984HIT:
写的太好啊。
JVM调优总结 -Xms -Xmx -Xmn -Xss -
javajdbc:
javajdbc 写道
JVM调优总结 -Xms -Xmx -Xmn -Xss -
javajdbc:
...
JVM调优总结 -Xms -Xmx -Xmn -Xss -
alvin198761:
非常感谢,国外的被封杀了,你这里还有一份
How to Convert An Image-Based Guest To An LVM-Based Guest
http://www.ibm.com/developerworks/cn/linux/l-cn-ulimit/
通过 ulimit 改善系统性能 |
级别: 初级 孙 翎, 软件工程师, IBM 2009 年 11 月 26 日 本文介绍了 ulimit 内键指令的主要功能以及用于改善系统性能的 ulimit 使用方法。通过这篇文章,读者不仅可以了解 ulimit 所起的作用,并且可以学会如何更好地通过 ulimit 限制资源的使用来改善系统性能。<!--START RESERVED FOR FUTURE USE INCLUDE FILES--><!-- include java script once we verify teams wants to use this and it will work on dbcs and cyrillic characters --><!--END RESERVED FOR FUTURE USE INCLUDE FILES--> 系统性能一直是一个受关注的话题,如何通过最简单的设置来实现最有效的性能调优,如何在有限资源的条件下保证程序的运作,ulimit 是我们在处理这些问题时,经常使用的一种简单手段。ulimit 是一种 linux 系统的内键功能,它具有一套参数集,用于为由它生成的 shell 进程及其子进程的资源使用设置限制。本文将在后面的章节中详细说明 ulimit 的功能,使用以及它的影响,并以具体的例子来详细地阐述它在限制资源使用方面的影响。
假设有这样一种情况,当一台 Linux 主机上同时登陆了 10 个人,在系统资源无限制的情况下,这 10 个用户同时打开了 500 个文档,而假设每个文档的大小有 10M,这时系统的内存资源就会受到巨大的挑战。 而实际应用的环境要比这种假设复杂的多,例如在一个嵌入式开发环境中,各方面的资源都是非常紧缺的,对于开启文件描述符的数量,分配堆栈的大小,CPU 时间,虚拟内存大小,等等,都有非常严格的要求。资源的合理限制和分配,不仅仅是保证系统可用性的必要条件,也与系统上软件运行的性能有着密不可分的联系。这时,ulimit 可以起到很大的作用,它是一种简单并且有效的实现资源限制的方式。 ulimit 用于限制 shell 启动进程所占用的资源,支持以下各种类型的限制:所创建的内核文件的大小、进程数据块的大小、Shell 进程创建文件的大小、内存锁住的大小、常驻内存集的大小、打开文件描述符的数量、分配堆栈的最大大小、CPU 时间、单个用户的最大线程数、Shell 进程所能使用的最大虚拟内存。同时,它支持硬资源和软资源的限制。 作为临时限制,ulimit 可以作用于通过使用其命令登录的 shell 会话,在会话终止时便结束限制,并不影响于其他 shell 会话。而对于长期的固定限制,ulimit 命令语句又可以被添加到由登录 shell 读取的文件中,作用于特定的 shell 用户。 图 1. ulimit 的使用 在下面的章节中,将详细介绍如何使用 ulimit 做相应的资源限制。 ulimit 通过一些参数选项来管理不同种类的系统资源。在本节,我们将讲解这些参数的使用。 ulimit 命令的格式为:ulimit [options] [limit] 具体的 options 含义以及简单示例可以参考以下表格。 表 1. ulimit 参数说明
我们可以通过以下几种方式来使用 ulimit:
ulimit 作为对资源使用限制的一种工作,是有其作用范围的。那么,它限制的对象是单个用户,单个进程,还是整个系统呢?事实上,ulimit 限制的是当前 shell 进程以及其派生的子进程。举例来说,如果用户同时运行了两个 shell 终端进程,只在其中一个环境中执行了 ulimit – s 100,则该 shell 进程里创建文件的大小收到相应的限制,而同时另一个 shell 终端包括其上运行的子程序都不会受其影响: Shell 进程 1
Shell 进程 2
那么,是否有针对某个具体用户的资源加以限制的方法呢?答案是有的,方法是通过修改系统的 /etc/security/limits 配置文件。该文件不仅能限制指定用户的资源使用,还能限制指定组的资源使用。该文件的每一行都是对限定的一个描述,格式如下:
domain 表示用户或者组的名字,还可以使用 * 作为通配符。Type 可以有两个值,soft 和 hard。Item 则表示需要限定的资源,可以有很多候选值,如 stack,cpu,nofile 等等,分别表示最大的堆栈大小,占用的 cpu 时间,以及打开的文件数。通过添加对应的一行描述,则可以产生相应的限制。例如:
该行配置语句限定了任意用户所能创建的最大文件数是 100。 现在已经可以对进程和用户分别做资源限制了,看似已经足够了,其实不然。很多应用需要对整个系统的资源使用做一个总的限制,这时候我们需要修改 /proc 下的配置文件。/proc 目录下包含了很多系统当前状态的参数,例如 /proc/sys/kernel/pid_max,/proc/sys/net/ipv4/ip_local_port_range 等等,从文件的名字大致可以猜出所限制的资源种类。由于该目录下涉及的文件众多,在此不一一介绍。有兴趣的读者可打开其中的相关文件查阅说明。
ulimit 提供了在 shell 进程中限制系统资源的功能。本章列举了一些使用 ulimit 对用户进程进行限制的例子,详述了这些限制行为以及对应的影响,以此来说明 ulimit 如何对系统资源进行限制,从而达到调节系统性能的功能。 在这一小节里向读者展示如何使用 – d,– m 和 – v 选项来对 shell 所使用的内存进行限制。 首先我们来看一下不设置 ulimit 限制时调用 ls 命令的情况: 图 2. 未设置 ulimit 时 ls 命令使用情况 大家可以看到此时的 ls 命令运行正常。下面设置 ulimit:
这里再温习一下前面章节里介绍过的这三个选项的含义: -d:设置数据段的最大值。单位:KB。 -m:设置可以使用的常驻内存的最大值。单位:KB。 -v:设置虚拟内存的最大值。单位:KB。 通过上面的 ulimit 设置我们已经把当前 shell 所能使用的最大内存限制在 1000KB 以下。接下来我们看看这时运行 ls 命令会得到什么样的结果:
从上面的结果可以看到,此时 ls 运行失败。根据系统给出的错误信息我们可以看出是由于调用 libc 库时内存分配失败而导致的 ls 出错。那么我们来看一下这个 libc 库文件到底有多大: 图 3. 查看 libc 文件大小 从上面的信息可以看出,这个 libc 库文件的大小是 1.5MB。而我们用 ulimit 所设置的内存使用上限是 1000KB,小于 1.5MB,这也就充分证明了 ulimit 所起到的限制 shell 内存使用的功能。 接下来向读者展示如何使用 -f 选项来对 shell 所能创建的文件大小进行限制。 首先我们来看一下,没有设置 ulimit -f 时的情况: 图 4. 查看文件 现有一个文件 testFile 大小为 323669 bytes,现在使用 cat 命令来创建一个 testFile 的 copy: 图 5. 未设置 ulimit 时创建复本 从上面的输出可以看出,我们成功的创建了 testFile 的拷贝 newFile。 下面我们设置 ulimt – f 100:
-f 选项的含义是:用来设置 shell 可以创建的文件的最大值。单位是 blocks。 现在我们再来执行一次相同的拷贝命令看看会是什么结果: 图 6. 设置 ulimit 时创建复本 这次创建 testFile 的拷贝失败了,系统给出的出错信息时文件大小超出了限制。在 Linux 系统下一个 block 的默认大小是 512 bytes。所以上面的 ulimit 的含义就是限制 shell 所能创建的文件最大值为 512 x 100 = 51200 bytes,小于 323669 bytes,所以创建文件失败,符合我们的期望。这个例子说明了如何使用 ulimit 来控制 shell 所能创建的最大文件。 考虑一个现实中的实际需求。对于一个 C/S 模型中的 server 程序来说,它会为多个 client 程序请求创建多个 socket 端口给与响应。如果恰好有大量的 client 同时向 server 发出请求,那么此时 server 就会需要创建大量的 socket 连接。但在一个系统当中,往往需要限制单个 server 程序所能使用的最大 socket 数,以供其他的 server 程序所使用。那么我们如何来做到这一点呢?答案是我们可以通过 ulimit 来实现!细心的读者可能会发现,通过前面章节的介绍似乎没有限制 socket 使用的 ulimit 选项。是的,ulimit 并没有哪个选项直接说是用来限制 socket 的数量的。但是,我们有 -n 这个选项,它是用于限制一个进程所能打开的文件描述符的最大值。在 Linux 下一切资源皆文件,普通文件是文件,磁盘打印机是文件,socket 当然也是文件。在 Linux 下创建一个新的 socket 连接,实际上就是创建一个新的文件描述符。如下图所示(查看某个进程当前打开的文件描述符信息): 图 7. 查看进程打开文件描述符 因此,我们可以通过使用 ulimit – n 来限制程序所能打开的最大文件描述符数量,从而达到限制 socket 创建的数量。 使用 ulimit 限制 shell 多线程程序堆栈的大小(增加可用线程数量) 在最后一个例子中,向大家介绍如何使用 -s(单位 KB)来对线程的堆栈大小进行限制,从而减少整个多线程程序的内存使用,增加可用线程的数量。这个例子取自于一个真实的案例。我们所遇到的问题是系统对我们的多线程程序有如下的限制: ulimit -v 200000 根据本文前面的介绍,这意味着我们的程序最多只能使用不到 200MB 的虚拟内存。由于我们的程序是一个多线程程序,程序在运行时会根据需要创建新的线程,这势必会增加总的内存需求量。一开始我们对堆栈大小的限制是 1024 (本例子中使用 1232 来说明):
当我们的程序启动后,通过 pmap 来查看其内存使用情况,可以看到多个占用 1232KB 的数据段,这些就是程序所创建的线程所使用的堆栈: 图 8. 程序线程所使用的堆栈 每当一个新的线程被创建时都需要新分配一段大小为 1232KB 的内存空间,而我们总的虚拟内存限制是 200MB,所以如果我们需要创建更多的线程,那么一个可以改进的方法就是减少每个线程的固定堆栈大小,这可以通过 ulimit – s 来实现:
我们将堆栈大小设置为 512KB,这时再通过 pmap 查看一下我们的设置是否起作用: 图 9. 设置 ulimit 后堆栈大小 从上面的信息可以看出,我们已经成功的将线程的堆栈大小改为 512KB 了,这样在总内存使用限制不变的情况下,我们可以通过本小节介绍的方法来增加可以创建的线程数,从而达到改善程序的多线程性能。
综上所述,linux 系统中的 ulimit 指令,对资源限制和系统性能优化提供了一条便捷的途径。从用户的 shell 启动脚本,应用程序启动脚本,以及直接在控制台,都可以通过该指令限制系统资源的使用,包括所创建的内核文件的大小、进程数据块的大小、Shell 进程创建文件的大小、内存锁住的大小、常驻内存集的大小、打开文件描述符的数量、分配堆栈的最大大小、CPU 时间、单个用户的最大线程数、Shell 进程所能使用的最大虚拟内存,等等方面。本文中的示例非常直观的说明了 ulimit 的使用及其产生的效果,显而易见,ulimit 对我们在 Linux 平台的应用和开发工作是非常实用的。 |
发表评论
-
Cygwin 中 xwin 的启动参数
2010-11-20 14:21 2745不知为何现在装的cygwin xwin没有startxwin ... -
三种数据库,取随机记录的方法
2010-09-16 12:23 1243mysql:select * from tablename o ... -
用 grep 恢复误删的文本文件
2010-08-26 14:34 2010作为长期的电脑使用者,肯定会有误删文件的经历,在 Mac ... -
使用TELNET手工操作 SMTP/POP 收发邮件
2010-08-09 21:44 2477说明:手工录入的用蓝色字体表示,#后的为注释,不可录入。= ... -
关于 port forward 的一个实例
2010-07-07 09:25 1583tomcat 服务于 8080端口,但不想在前面加 apach ... -
ubuntu 半虚拟化domU的安装方法
2010-06-05 21:12 2510ubuntu还没有通过http://方法安装,不像redh ... -
mount 硬盘镜像的一般问题。
2010-06-01 12:33 25851. 要搞清楚文件是 是由整个分区来的,还是整个硬盘来的 ... -
lvm 的一些笔记
2010-03-22 22:50 2892今天,不得不面对lvm了,毕竞是公司用的. ... -
mencoder来提取电影mp3文件
2009-12-16 21:45 2064假如在欣赏电影过程中出现了一段美妙的插曲(特别是印度电影,一般 ... -
netcat usage sample
2009-11-28 18:33 1286This page documents various t ... -
dd 建立一个没有内容的大文件
2009-11-22 09:36 1987dd if=/dev/zero of=sparse-file ... -
Mounting a filesystem located on a partition of an image of a disk
2009-10-24 17:52 1644Mou ... -
将光盘镜像CentOS-5.3-i386-bin-DVD.iso设置成为yum源
2009-09-28 07:43 3738#mkdir /centos5.3.dvd (随便起个文件夹名 ... -
拷贝指定的文件出来但保持目录结构
2009-09-18 08:39 3074抽取当前目录以下的所有logo1.* 或 logo2.* 到 ... -
定制 bt4 frefinal live cd ( ubuntu)
2009-08-21 10:01 2608Customising the BackTrack 4 Pre ... -
linux 下查看 iso 文件信息
2009-08-21 09:55 2280root@feng-desktop:/media/sda5/i ... -
copy file over ssh with tar
2009-08-15 08:57 1450tar is usually used for achiv ... -
copy file using cpio
2009-08-11 17:38 1469http://bradthemad.org/tech/note ... -
copy file using tar
2009-08-11 17:22 1192We assume /source/dir is a file ... -
VLC webcam 准实时视频
2008-10-28 23:19 2426#!/bin/bash file=/root/video_$( ...
相关推荐
3. **文件系统性能**:了解`df`和`du`命令,用于检查磁盘空间使用情况。`fsync`和`sync`在数据持久化中的作用也是优化的重点,尤其是对于大数据和数据库应用。 4. **内存管理**:`free`命令显示内存使用情况,而`...
- Linux参数调优,比如调整内核参数(如`ulimit`,`swappiness`),优化系统级资源分配,提升服务器整体性能。 **总结** 性能调优是一个系统性的工程,涵盖硬件、操作系统、中间件、数据库等多个层次。通过对各个...
通过调整内核参数,可以进一步优化系统性能。例如,在Redhat系统中,可以在/etc/sysctl.conf文件中配置内核参数。这些参数包括但不限于: - file-max:系统可以打开的最大文件数。 - ip-sysctl:与IP层相关的各种...
通过调整优先级(nice值和renice命令)和调度策略(实时和抢占式内核),可以改善关键任务的执行效率。 3. **内存调优**:理解Linux的虚拟内存机制,包括交换空间、缓存和缓冲区的管理,以及如何使用`swappiness`...
#### 操作系统性能优化:突破系统限制 操作系统层面的优化同样不可忽视。默认情况下,Windows系统允许的最大文件句柄数为2000,Linux为1024。在高并发场景下,这可能成为瓶颈。通过编辑`/etc/profile`文件,添加`...
在AIX系统中进行优化和维护是确保系统性能、稳定性和安全性的重要环节。以下将根据"AIX优化及维护案例"的主题,详细介绍相关的知识点。 一、AIX系统性能优化 1. **内存管理优化**:AIX采用虚拟内存系统,通过调整...
本篇将详细解释优化中的几个关键参数及其作用,以帮助改善网络性能、文件处理能力和内存管理。 1. **路由转发功能**:通过`sysctl -w net.ipv4.ip_forward=1`开启IP路由转发,允许系统作为路由器,转发数据包到其他...
它通过改进传统的内存分配策略,如减少内存碎片和提高多线程环境下的并发性能,从而改善整体系统性能。jemalloc-4.2.1.tar.bz2 文件包含了jemalloc的源代码,安装时需要先解压并编译。 mysql-5.6.34.tar.gz 是MySQL...
在Linux上优化MySQL运行环境是提升数据库性能的关键步骤,这对于深入了解MySQL操作至关重要。本文将详细介绍如何在Linux系统中进行...通过深入理解这些概念和实践,你可以更好地管理和提升MySQL在Linux环境下的性能。
- **调整系统参数**:通过对Linux内核参数的调整,可以有效改善网络性能和资源管理。例如,通过设置`net.ipv4.tcp_max_tw_buckets`来减少TIME_WAIT状态的socket占用,避免过多的TIME_WAIT状态导致资源浪费。 ```...
这通常通过编辑 `/etc/profile` 或 `/etc/csh.login` 文件来实现,设置 `ulimit -p` 和 `ulimit -n` 参数来限制进程数和文件句柄数。同时还需要在 `/etc/security/limits.conf` 文件中添加 Oracle 用户的软硬限制。 ...
- **检查并增加文件描述符限制**:首先,登录到受影响的节点,通过`ulimit -a`命令查看当前的限制。如果发现`open files`数值较小,可以通过编辑 `/etc/security/limits.conf` 文件,为特定用户(如`hadoop`或`ocdc...
# 增加这个值可以改善系统性能.通过比较Connections和Threads_created状态的变量,可以看到这个变量的作用。(–>表示要调整的值) # 根据物理内存设置规则如下: # 1G —> 8 # 2G —> 16 # 3G —> 32 # 大于3G —> 64...