`

关于Nginx的一些优化(突破十万并发)

阅读更多
nginx指令中的优化(配置文件)

worker_processes 8;


nginx进程数,建议按照cpu数目来指定,一般为它的倍数。
worker_cpu_affinity 00000001 00000010 00000100 00001000 00010000 00100000 01000000 10000000;


为每个进程分配cpu,上例中将8个进程分配到8个cpu,当然可以写多个,或者将一个进程分配到多个cpu。

worker_rlimit_nofile 102400;


这个指令是指当一个nginx进程打开的最多文件描述符数目,理论值应该是最多打开文件数(ulimit -n)与nginx进程数相除,但是nginx分配请求并不是那么均匀,所以最好与ulimit -n的值保持一致。

use epoll;


使用epoll的I/O模型,这个不用说了吧。

worker_connections 102400;


每个进程允许的最多连接数,理论上每台nginx服务器的最大连接数为worker_processes*worker_connections。

keepalive_timeout 60;


keepalive超时时间。

client_header_buffer_size 4k;


客户端请求头部的缓冲区大小,这个可以根据你的系统分页大小来设置,一般一个请求的头部大小不会超过1k,不过由于一般系统分页都要大于1k,所以这里设置为分页大小。分页大小可以用命令getconf PAGESIZE取得。

open_file_cache max=102400 inactive=20s;


这个将为打开文件指定缓存,默认是没有启用的,max指定缓存数量,建议和打开文件数一致,inactive是指经过多长时间文件没被请求后删除缓存。

open_file_cache_valid 30s;


这个是指多长时间检查一次缓存的有效信息。

open_file_cache_min_uses 1;


open_file_cache指令中的inactive参数时间内文件的最少使用次数,如果超过这个数字,文件描述符一直是在缓存中打开的,如上例,如果有一个文件在inactive时间内一次没被使用,它将被移除。

内核参数的优化

net.ipv4.tcp_max_tw_buckets = 6000


timewait的数量,默认是180000。

net.ipv4.ip_local_port_range = 1024    65000


允许系统打开的端口范围。
net.ipv4.tcp_tw_recycle = 1

启用timewait快速回收。

net.ipv4.tcp_tw_reuse = 1


开启重用。允许将TIME-WAIT sockets重新用于新的TCP连接。
net.ipv4.tcp_syncookies = 1


开启SYN Cookies,当出现SYN等待队列溢出时,启用cookies来处理。

net.core.somaxconn = 262144


web应用中listen函数的backlog默认会给我们内核参数的net.core.somaxconn限制到128,而nginx定义的NGX_LISTEN_BACKLOG默认为511,所以有必要调整这个值。

net.core.netdev_max_backlog = 262144


每个网络接口接收数据包的速率比内核处理这些包的速率快时,允许送到队列的数据包的最大数目。

net.ipv4.tcp_max_orphans = 262144


系统中最多有多少个TCP套接字不被关联到任何一个用户文件句柄上。如果超过这个数字,孤儿连接将即刻被复位并打印出警告信息。这个限制仅仅是为了防止简单的DoS攻击,不能过分依靠它或者人为地减小这个值,更应该增加这个值(如果增加了内存之后)。

net.ipv4.tcp_max_syn_backlog = 262144


记录的那些尚未收到客户端确认信息的连接请求的最大值。对于有128M内存的系统而言,缺省值是1024,小内存的系统则是128。

net.ipv4.tcp_timestamps = 0


时间戳可以避免序列号的卷绕。一个1Gbps的链路肯定会遇到以前用过的序列号。时间戳能够让内核接受这种“异常”的数据包。这里需要将其关掉。

net.ipv4.tcp_synack_retries = 1


为了打开对端的连接,内核需要发送一个SYN并附带一个回应前面一个SYN的ACK。也就是所谓三次握手中的第二次握手。这个设置决定了内核放弃连接之前发送SYN+ACK包的数量。
net.ipv4.tcp_syn_retries = 1


在内核放弃建立连接之前发送SYN包的数量。

net.ipv4.tcp_fin_timeout = 1


如果套接字由本端要求关闭,这个参数决定了它保持在FIN-WAIT-2状态的时间。对端可以出错并永远不关闭连接,甚至意外当机。缺省值是60秒。2.2 内核的通常值是180秒,你可以按这个设置,但要记住的是,即使你的机器是一个轻载的WEB服务器,也有因为大量的死套接字而内存溢出的风险,FIN- WAIT-2的危险性比FIN-WAIT-1要小,因为它最多只能吃掉1.5K内存,但是它们的生存期长些。

net.ipv4.tcp_keepalive_time = 30


当keepalive起用的时候,TCP发送keepalive消息的频度。缺省是2小时。

一个完整的内核优化配置

net.ipv4.ip_forward = 0
net.ipv4.conf.default.rp_filter = 1
net.ipv4.conf.default.accept_source_route = 0
kernel.sysrq = 0
kernel.core_uses_pid = 1
net.ipv4.tcp_syncookies = 1
kernel.msgmnb = 65536
kernel.msgmax = 65536
kernel.shmmax = 68719476736
kernel.shmall = 4294967296
net.ipv4.tcp_max_tw_buckets = 6000
net.ipv4.tcp_sack = 1
net.ipv4.tcp_window_scaling = 1
net.ipv4.tcp_rmem = 4096        87380   4194304
net.ipv4.tcp_wmem = 4096        16384   4194304
net.core.wmem_default = 8388608
net.core.rmem_default = 8388608
net.core.rmem_max = 16777216
net.core.wmem_max = 16777216
net.core.netdev_max_backlog = 262144
net.core.somaxconn = 262144
net.ipv4.tcp_max_orphans = 3276800
net.ipv4.tcp_max_syn_backlog = 262144
net.ipv4.tcp_timestamps = 0
net.ipv4.tcp_synack_retries = 1
net.ipv4.tcp_syn_retries = 1
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_mem = 94500000 915000000 927000000
net.ipv4.tcp_fin_timeout = 1
net.ipv4.tcp_keepalive_time = 30
net.ipv4.ip_local_port_range = 1024    65000


一个简单的nginx优化配置文件

user  www www;
worker_processes 8;
worker_cpu_affinity 00000001 00000010 00000100 00001000 00010000 00100000 01000000;
error_log  /www/log/nginx_error.log  crit;
pid        /usr/local/nginx/nginx.pid;
worker_rlimit_nofile 204800;

events
{
  use epoll;
  worker_connections 204800;
}

http
{
  include       mime.types;
  default_type  application/octet-stream;

  charset  utf-8;

  server_names_hash_bucket_size 128;
  client_header_buffer_size 2k;
  large_client_header_buffers 4 4k;
  client_max_body_size 8m;

  sendfile on;
  tcp_nopush     on;

  keepalive_timeout 60;

  fastcgi_cache_path /usr/local/nginx/fastcgi_cache levels=1:2
                keys_zone=TEST:10m
                inactive=5m;
  fastcgi_connect_timeout 300;
  fastcgi_send_timeout 300;
  fastcgi_read_timeout 300;
  fastcgi_buffer_size 16k;
  fastcgi_buffers 16 16k;
  fastcgi_busy_buffers_size 16k;
  fastcgi_temp_file_write_size 16k;
  fastcgi_cache TEST;
  fastcgi_cache_valid 200 302 1h;
  fastcgi_cache_valid 301 1d;
  fastcgi_cache_valid any 1m;
  fastcgi_cache_min_uses 1;
  fastcgi_cache_use_stale error timeout invalid_header http_500;
  
  open_file_cache max=204800 inactive=20s;
  open_file_cache_min_uses 1;
  open_file_cache_valid 30s;
  


  tcp_nodelay on;
  
  gzip on;
  gzip_min_length  1k;
  gzip_buffers     4 16k;
  gzip_http_version 1.0;
  gzip_comp_level 2;
  gzip_types       text/plain application/x-javascript text/css application/xml;
  gzip_vary on;


  server
  {
    listen       8080;
    server_name  ad.test.com;
    index index.php index.htm;
    root  /www/html/;

    location /status
    {
        stub_status on;
    }

    location ~ .*\.(php|php5)?$
    {
        fastcgi_pass 127.0.0.1:9000;
        fastcgi_index index.php;
        include fcgi.conf;
    }

    location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|js|css)$
    {
      expires      30d;
    }

    log_format  access  '$remote_addr - $remote_user [$time_local] "$request" '
              '$status $body_bytes_sent "$http_referer" '
              '"$http_user_agent" $http_x_forwarded_for';
    access_log  /www/log/access.log  access;
      }
}


关于FastCGI的几个指令

fastcgi_cache_path /usr/local/nginx/fastcgi_cache levels=1:2 keys_zone=TEST:10m inactive=5m;


这个指令为FastCGI缓存指定一个路径,目录结构等级,关键字区域存储时间和非活动删除时间。

fastcgi_connect_timeout 300;


指定连接到后端FastCGI的超时时间。

fastcgi_send_timeout 300;


向FastCGI传送请求的超时时间,这个值是指已经完成两次握手后向FastCGI传送请求的超时时间。

fastcgi_read_timeout 300;


接收FastCGI应答的超时时间,这个值是指已经完成两次握手后接收FastCGI应答的超时时间。

fastcgi_buffer_size 16k;


指定读取FastCGI应答第一部分需要用多大的缓冲区,这里可以设置为fastcgi_buffers指令指定的缓冲区大小,上面的指令指定它将使用1个16k的缓冲区去读取应答的第一部分,即应答头,其实这个应答头一般情况下都很小(不会超过1k),但是你如果在fastcgi_buffers指令中指定了缓冲区的大小,那么它也会分配一个fastcgi_buffers指定的缓冲区大小去缓存。

fastcgi_buffers 16 16k;


指定本地需要用多少和多大的缓冲区来缓冲FastCGI的应答,如上所示,如果一个php脚本所产生的页面大小为256k,则会为其分配16个16k的缓冲区来缓存,如果大于256k,增大于256k的部分会缓存到fastcgi_temp指定的路径中,当然这对服务器负载来说是不明智的方案,因为内存中处理数据速度要快于硬盘,通常这个值的设置应该选择一个你的站点中的php脚本所产生的页面大小的中间值,比如你的站点大部分脚本所产生的页面大小为256k就可以把这个值设置为16 16k,或者4 64k 或者64 4k,但很显然,后两种并不是好的设置方法,因为如果产生的页面只有32k,如果用4 64k它会分配1个64k的缓冲区去缓存,而如果使用64 4k它会分配8个4k的缓冲区去缓存,而如果使用16 16k则它会分配2个16k去缓存页面,这样看起来似乎更加合理。

fastcgi_busy_buffers_size 32k;


这个指令我也不知道是做什么用,只知道默认值是fastcgi_buffers的两倍。

fastcgi_temp_file_write_size 32k;


在写入fastcgi_temp_path时将用多大的数据块,默认值是fastcgi_buffers的两倍。
fastcgi_cache TEST


开启FastCGI缓存并且为其制定一个名称。个人感觉开启缓存非常有用,可以有效降低CPU负载,并且防止502错误。但是这个缓存会引起很多问题,因为它缓存的是动态页面。具体使用还需根据自己的需求。

fastcgi_cache_valid 200 302 1h;
fastcgi_cache_valid 301 1d;
fastcgi_cache_valid any 1m;


为指定的应答代码指定缓存时间,如上例中将200,302应答缓存一小时,301应答缓存1天,其他为1分钟。

fastcgi_cache_min_uses 1;


缓存在fastcgi_cache_path指令inactive参数值时间内的最少使用次数,如上例,如果在5分钟内某文件1次也没有被使用,那么这个文件将被移除。

fastcgi_cache_use_stale error timeout invalid_header http_500;


不知道这个参数的作用,猜想应该是让nginx知道哪些类型的缓存是没用的。以上为nginx中FastCGI相关参数,另外,FastCGI自身也有一些配置需要进行优化,如果你使用php-fpm来管理FastCGI,可以修改配置文件中的以下值:

<value name="max_children">60</value>


同时处理的并发请求数,即它将开启最多60个子线程来处理并发连接。

<value name="rlimit_files">102400</value>


最多打开文件数。

<value name="max_requests">204800</value>


每个进程在重置之前能够执行的最多请求数。

几张测试结果

静态页面为我在squid配置4W并发那篇文章中提到的测试文件,下图为同时在6台机器运行webbench -c 30000 -t 600 http://ad.test.com:8080/index.html命令后的测试结果:



使用netstat过滤后的连接数:



php页面在status中的结果(php页面为调用phpinfo):



php页面在netstat过滤后的连接数:




未使用FastCGI缓存之前的服务器负载:



此时打开php页面已经有些困难,需要进行多次刷新才能打开。上图中cpu0负载偏低是因为测试时将网卡中断请求全部分配到cpu0上,并且在nginx中开启7个进程分别制定到cpu1-7。
使用FastCGI缓存之后:



此时可以很轻松的打开php页面。

这个测试并没有连接到任何数据库,所以并没有什么参考价值,不过不知道上述测试是否已经到达极限,根据内存和cpu的使用情况来看似乎没有,但是已经没有多余的机子来让我运行webbench了。

摘抄自网络:
http://www.howtocn.org/nginx:%E9%85%8D%E7%BD%AE%E4%B8%80%E4%B8%AA%E9%AB%98%E6%80%A7%E8%83%BD%E7%9A%84nginx_fastcgi%E6%9C%8D%E5%8A%A1%E5%99%A8
  • 大小: 15.6 KB
  • 大小: 13.9 KB
  • 大小: 65.6 KB
  • 大小: 75.4 KB
  • 大小: 14.6 KB
  • 大小: 11 KB
分享到:
评论

相关推荐

    nginx优化 突破十万并发

    在探讨如何通过Nginx优化来突破十万并发之前,我们需要先了解Nginx的基本概念以及它的工作原理。Nginx是一个高性能的HTTP和反向代理服务器,也是一个IMAP/POP3/SMTP服务器。相比于Apache,Nginx使用了异步非阻塞的...

    nginx优化 突破十万并发1

    【Nginx优化 突破十万并发】 Nginx是一款高性能的HTTP和反向代理服务器,常用于网站高并发场景。要实现突破十万并发,关键在于合理配置Nginx的参数以及优化底层操作系统。以下是一些核心的Nginx优化策略: 1. **...

    nginx优化.pdf

    ### Nginx优化知识点 #### 一、Nginx配置文件优化 在Nginx配置文件中,有多个参数可以直接影响其性能表现,特别是在高并发场景下。下面将详细介绍几个关键参数及其设置策略: 1. **`worker_processes`**:表示...

    nginx所有参数详解 - 性能优化,突破五万并发.zip

    "nginx - 性能优化,突破十万并发 - 361324767的日志 - 网易博客.url"这个链接可能是作者分享的关于如何进一步优化Nginx,达到十万并发的实战经验或技术文章,可以作为深入学习的参考资料。 总结来说,Nginx的性能...

    Nginx优化配置和内核优化 实现突破十万并发

    nginx指令中的优化(配置文件) 代码如下:worker_processes 8;  nginx进程数,建议按照cpu数目来指定,一般为它的倍数。 代码如下:worker_cpu_affinity 00000001 00000010 00000100 00001000 00010000 00100000 ...

    高并发下的Nginx优化方案

    我已经谈过一些关于Nginx的常见问题,其中有一些是关于如何优化Nginx,很多Nginx新用户是从Apache迁移过来的,因些他们过去常常调整配置和执行魔术操作来确保服务器高效运行。  我有一些坏消息要告诉你,你不能像...

    nginx优化--pdf说明文档

    **Nginx优化——突破十万并发的内核参数优化** Nginx,作为一个高性能的HTTP和反向代理服务器,广泛应用于各类网站和应用程序的负载均衡和静态内容处理。当面临高并发访问时,Nginx的性能优化显得尤为重要。本文将...

    nginx优化.docx

    通过以上Nginx配置和内核参数的优化,可以有效地提高Nginx的并发处理能力,使其在面对高流量负载时仍能保持高效运行,从而突破十万并发的限制。不过,需要注意的是,任何优化都应该根据实际服务器的硬件配置和应用...

    nginx 1.13.6.1 for windows

    - **Tweak-Optimize tcpip parameters for nginx connections.reg**:这是一个注册表脚本,用于调整 Windows 系统的 TCP/IP 参数,以适应 Nginx 高并发的连接需求,如增加最大连接数、优化网络缓冲区大小等。...

    51CTO下载-淘宝网Nginx定制与开发实战

    面对如此庞大的数据量和每秒数百GB的网络流量,以及数十亿的日PV,淘宝网的技术团队自2009年开始探索并使用Nginx,以解决高并发、高性能的需求。 #### 技术演进 - **初期探索**:2009年,淘宝网开始尝试使用Nginx...

    taobao_nginx_应用与开发实战.

    此外,Nginx还被用于处理大用户群的消息推送,采用Comet服务架构,单台服务器可支持高达60万的连接数,运行数据表明,平均每个服务器可以维持30万连接的长轮询集群。 淘宝网还利用Nginx实施了灰度发布策略,通过...

    为高负载网络优化Nginx和Node.js的方法

    预设的配置已经可以获得很高的并发,不过,要是大家想在廉价硬件上做到每秒数千以上的请求,还是有一些工作要做的。 这篇文章假定读者们使用NginX的HttpProxyModule来为上游的node.js服务器充当反向代理。我们将介绍...

    ab压力测试的安装、使用、破2万并发测试

    【AB压力测试详解】 ...总之,AB是一个强大的Web服务器压力测试工具,通过熟练掌握其安装、使用和参数设置,能够有效地评估服务器的性能瓶颈和并发处理能力,为优化服务器配置和提升服务质量提供重要参考。

    轻松筹众筹平台架构演进历程.pdf

    但随着用户量的快速增长,到了2015年9月,用户数突破100万,原有的架构逐渐暴露出性能瓶颈。 为了解决这些问题,轻松筹在1.0到2.0的升级过程中引入了Go语言。Go语言以其高效的性能、并发处理能力和简洁的语法成为了...

    在线考试系统的设计与实现--软件工程毕业论文.docx

    为了优化网络性能,论文引入了轻量级的nginx反向代理服务器。相较于传统的Apache服务器,nginx以其高性能、高并发处理能力和对大数据的良好处理能力脱颖而出,成为近年来O2O(线上到线下)服务领域的首选。反向代理...

    分布式 大型网站架构 高性能mysql

    最后,"创造突破性产品——从产品策略到项目定案的创新"这本书虽然不直接涉及技术细节,但它可能提供了关于如何从产品构思到实施的全面视角,这对于决定采用哪种技术架构或数据库策略至关重要。 总的来说,这些书籍...

    负载均衡方案

    - **高性能考量**:针对第三方系统接口调用等可能出现的高并发问题,需要进行性能优化。可以考虑采用异步处理机制、限流策略等技术手段,确保系统的稳定运行。 #### 三、总结 通过以上四个递进的业务场景分析,...

    A029简洁蓝色简历1

    首先,他熟悉LNMP(Linux、Nginx、MySQL、PHP)开发环境,这是构建高效Web应用程序的常用组合。...他的自我评价中强调了基础扎实、热爱突破、技术钻研、创新合作和有效沟通,这些都是优秀工程师不可或缺的品质。

Global site tag (gtag.js) - Google Analytics