qileilove

blog已经转移至github,大家请访问 http://qaseven.github.io/

优化Linux下的内核TCP参数以提高系统性能

 内核的优化跟服务器的优化一样,应本着稳定安全的原则。下面以64位的Centos5.5下的Squid服务器为例来说明,待客户端与服务器端建立TCP/IP连接后就会关闭SOCKET,服务器端连接的端口状态也就变为TIME_WAIT了。那是不是所有执行主动关闭的SOCKET都会进入TIME_WAIT状态呢?有没有什么情况使主动关闭的SOCKET直接进入CLOSED状态呢?答案是主动关闭的一方在发送最后一个ACK后就会进入TIME_WAIT状态,并停留2MSL(Max Segment LifeTime)时间,这个是TCP/IP必不可少的,也就是“解决”不了的。

  TCP/IP的设计者如此设计,主要原因有两个:

  防止上一次连接中的包迷路后重新出现,影响新的连接(经过2MSL时间后,上一次连接中所有重复的包都会消失)。

  为了可靠地关闭TCP连接。主动关闭方发送的最后一个ACK(FIN)有可能会丢失,如果丢失,被动方会重新发FIN,这时如果主动方处于CLOSED状态,就会响应RST而不是ACK。所以主动方要处于TIME_WAIT状态,而不能是CLOSED状态。另外,TIME_WAIT并不会占用很大的资源,除非受到攻击。

  在Squid服务器中可输入查看当前连接统计数的命令,如下所示:

  • netstat -n| awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'  
  • LAST_ACK 14  
  • SYN_RECV 348  
  • ESTABLISHED 70  
  • FIN_WAIT1 229  
  • FIN_WAIT2 30  
  • CLOSING 33  
  • TIME_WAIT 18122
  •   CLOSED:无连接是活动的或正在进行中的。

      LISTEN:服务器在等待进入呼叫。

      SYN_RECV:一个连接请求已经到达,等待确认。

      SYN_SENT:应用已经开始,打开一个连接。

      ESTABLISHED:正常数据传输状态。

      FIN_WAIT1:应用说它已经完成。

      FIN_WAIT2:另一边已同意释放。

      CLOSING:两边同时尝试关闭。

      TIME_WAIT:另一边已初始化一个释放。

      LAST_ACK:等待所有分组死掉。

      也就是说,这条命令可以把当前系统的网络连接状态分类汇总。

      在Linux下高并发的Squid服务器中,TCP TIME_WAIT套接字数量经常可达两三万,服务器很容易就会被拖死。不过,我们可以通过修改Linux内核参数来减少Squid服务器的TIME_WAIT套接字数量,命令如下所示:

    vim /etc/sysctl.conf

      然后,增加以下参数:

  • net.ipv4.tcp_fin_timeout = 30 
  • net.ipv4.tcp_keepalive_time = 1200 
  • net.ipv4.tcp_syncookies = 1 
  • net.ipv4.tcp_tw_reuse = 1 
  • net.ipv4.tcp_tw_recycle = 1 
  • net.ipv4.ip_local_port_range = 1024 65000  
  • net.ipv4.tcp_max_syn_backlog = 8192 
  • net.ipv4.tcp_max_tw_buckets = 5000



  • 其中:

      net.ipv4.tcp_syncookies=1表示开启SYN Cookies。当出现SYN等待队列溢出时,启用cookie来处理,可防范少量的SYN攻击。默认为0,表示关闭。

      net.ipv4.tcp_tw_reuse=1表示开启重用。允许将TIME-WAIT套接字重新用于新的TCP连接。默认为0,表示关闭。

      net.ipv4.tcp_tw_recycle=1表示开启TCP连接中TIME-WAIT套接字的快速回收。默认为0,表示关闭。

      net.ipv4.tcp_fin_timeout=30表示如果套接字由本端要求关闭,这个参数决定了它保持在FIN-WAIT-2状态的时间。

      net.ipv4.tcp_keepalive_time=1200表示当keepalive启用时,TCP发送keepalive消息的频度。默认是2小时,这里改为20分钟。

      net.ipv4.ip_local_port_range=1024 65000表示向外连接的端口范围。默认值很小:32768~61000,改为1024~65000。

      net.ipv4.tcp_max_syn_backlog=8192表示SYN队列的长度,默认为1024,加大队列长度为8192,可以容纳更多等待连接的网络连接数。

      net.ipv4.tcp_max_tw_buckets=5000表示系统同时保持TIME_WAIT套接字的最大数量,如果超过这个数字,TIME_WAIT套接字将立刻被清除并打印警告信息。默认为180000,改为5000。对于Apache、Nginx等服务器,前面介绍的几个参数已经可以很好地减少TIME_WAIT套接字数量,但是对于Squid来说,效果却不大。有了此参数就可以控制TIME_WAIT套接字的最大数量,避免Squid服务器被大量的TIME_WAIT套接字拖死。

      执行以下命令使内核配置立即生效:

    /sbin/sysctl -p

      如果是用于Apache或Nginx等的Web服务器,或Nginx的反向代理,则只需要更改以下几项即可:

  • net.ipv4.tcp_syncookies=1 
  • net.ipv4.tcp_tw_reuse=1 
  • net.ipv4.tcp_tw_recycle = 1 
  • net.ipv4.ip_local_port_range = 1024 65000
  •   执行以下命令使内核配置立即生效: /sbin/sysctl -p如果是邮件服务器,则建议内核方案如下:

  • net.ipv4.tcp_fin_timeout = 30 
  • net.ipv4.tcp_keepalive_time = 300 
  • net.ipv4.tcp_tw_reuse = 1 
  • net.ipv4.tcp_tw_recycle = 1 
  • net.ipv4.ip_local_port_range = 5000 65000  
  • kernel.shmmax = 134217728
  •   执行以下命令使内核配置立即生效: /sbin/sysctl -p当然这些都只是最基本的更改,大家还可以根据自己的需求来更改内核的设置,同样也要本着稳定的原则,如果服务器不稳定的话,一切工作和努力都会白费。如果以上优化仍无法满足你的要求,有可能你需要定制你的服务器内核或升级服务器硬件。至于服务的配置优化,超出了本章的内容,大家可根据自己的需求有针对性地进行更改。

    posted on 2011-12-08 14:30 顺其自然EVO 阅读(974) 评论(0)  编辑  收藏


    只有注册用户登录后才能发表评论。


    网站导航:
     
    <2011年12月>
    27282930123
    45678910
    11121314151617
    18192021222324
    25262728293031
    1234567

    导航

    统计

    常用链接

    留言簿(54)

    随笔分类

    随笔档案

    文章分类

    文章档案

    搜索

    最新评论

    阅读排行榜

    评论排行榜