`

HttpClient 与 Close_Wait

阅读更多

服务器A需要通过HttpClient去连接另一个系统B提供的服务,运行一段时间后抛出以下异常:

java.net.SocketException: Connection reset by peer: socket write error close_wait

 

在服务器B上运行netstat命令,发现大量连接处于CLOSE_WAIT 状态。

问题分析:

简单来说CLOSE_WAIT数目过大是由于被动关闭连接处理不当导致的。

我说一个场景,服务器A会去请求服务器B上面的apache获取文件资源,正常情况下,如果请求成功,那么在抓取完资源后服务器A会主动发出关闭连接的请求,这个时候就是主动关闭连接,连接状态我们可以看到是TIME_WAIT。如果一旦发生异常呢?假设请求的资源服务器B上并不存在,那么这个时候就会由服务器B发出关闭连接的请求,服务器A就是被动的关闭了连接,如果服务器A被动关闭连接之后自己并没有释放连接,那就会造成CLOSE_WAIT的状态了。

 

所以很明显,问题还是处在程序里头。

 

原始代码块:

  1. try  
  2.         {  
  3.             client = HttpConnectionManager.getHttpClient();  
  4.             HttpGet get = new HttpGet();  
  5.             get.setURI(new URI(urlPath));  
  6.             HttpResponse response = client.execute(get);  
  7.             if (response.getStatusLine ().getStatusCode () != 200) {  
  8.                 return null;  
  9.             }  
  10.             HttpEntity entity =response.getEntity();  
  11.               
  12.             if( entity != null ){  
  13.                 in = entity.getContent();  
  14.                 .....  
  15.             }  
  16.             return sb.toString ();  
  17.               
  18.         }  
  19.         catch (Exception e)  
  20.         {  
  21.             e.printStackTrace ();  
  22.             return null;  
  23.         }  
  24.         finally  
  25.         {  
  26.             if (isr != null){  
  27.                 try  
  28.                 {  
  29.                     isr.close ();  
  30.                 }  
  31.                 catch (IOException e)  
  32.                 {  
  33.                     e.printStackTrace ();  
  34.                 }  
  35.             }  
  36.             if (in != null){  
  37.                 try  
  38.                 {  
  39.                     <span style="color:#ff0000;">in.close ();</span>  
  40.                 }  
  41.                 catch (IOException e)  
  42.                 {  
  43.                     e.printStackTrace ();  
  44.                 }  
  45.             }  
  46.         } 

HttpClient使用我们常用的InputStream.close()来确认连接关闭,分析上面的代码,一旦出现非200的连接,这个连接将永远僵死在连接池里头,因为inputStream得不到初始化,永远不会调用close()方法了。

 

通过代码稍微修改,更严谨的处理异常情况就可以解决问题了:

  1. public static String readNet (String urlPath)  
  2.     {  
  3.         StringBuffer sb = new StringBuffer ();  
  4.         HttpClient client = null;  
  5.         InputStream in = null;  
  6.         InputStreamReader isr = null;  
  7.         HttpGet get = new HttpGet();  
  8.         try  
  9.         {  
  10.             client = HttpConnectionManager.getHttpClient();  
  11.             get.setURI(new URI(urlPath));  
  12.             HttpResponse response = client.execute(get);  
  13.             if (response.getStatusLine ().getStatusCode () != 200) {  
  14.                 get.abort();  
  15.                 return null;  
  16.             }  
  17.             HttpEntity entity =response.getEntity();  
  18.               
  19.             if( entity != null ){  
  20.                 in = entity.getContent();  
  21.                 ......  
  22.             }  
  23.             return sb.toString ();  
  24.               
  25.         }  
  26.         catch (Exception e)  
  27.         {  
  28.             get.abort();  
  29.             e.printStackTrace ();  
  30.             return null;  
  31.         }  
  32.         finally  
  33.         {  
  34.             if (isr != null){  
  35.                 try  
  36.                 {  
  37.                     isr.close ();  
  38.                 }  
  39.                 catch (IOException e)  
  40.                 {  
  41.                     e.printStackTrace ();  
  42.                 }  
  43.             }  
  44.             if (in != null){  
  45.                 try  
  46.                 {  
  47.                     in.close ();  
  48.                 }  
  49.                 catch (IOException e)  
  50.                 {  
  51.                     e.printStackTrace ();  
  52.                 }  
  53.             }  
  54.         }  
  55.     }  

 

 

 

显示调用HttpGet的abort,这样就会直接中止这次连接,我们在遇到异常的时候应该显示调用,因为谁能保证异常是在InputStream in赋值之后才抛出的呢。

 

 

more:

首先我们知道,如果我们的服务器程序处于CLOSE_WAIT状态的话,说明套接字是被动关闭的!
因为如果是CLIENT端主动断掉当前连接的话,那么双方关闭这个TCP连接共需要四个packet:

Client -> FIN  -> Server
Client <- ACK  <- Server
这时候Client端处于FIN_WAIT_2状态;而Server 程序处于CLOSE_WAIT状态。
Client <- FIN  <- Server
这时Server 发送FIN给Client,Server 就置为LAST_ACK状态。
Client -> ACK  -> Server
Client回应了ACK,那么Server 的套接字才会真正置为CLOSED状态。

Server 程序处于CLOSE_WAIT状态,而不是LAST_ACK状态,说明还没有发FIN给Client,那么可能是在关闭连接之前还有许多数据要发送或者其他事要做,导致没有发这个FIN packet。
通常来说,一个CLOSE_WAIT会维持至少2个小时的时间(这个时间外网服务器通常会做调整,要不然太危险了)。如果有个流氓特地写了个程序,给你造成一堆的CLOSE_WAIT,消耗
你的资源,那么通常是等不到释放那一刻,系统就已经解决崩溃了。
只能通过修改一下TCP/IP的参数,来缩短这个时间:修改tcp_keepalive_*系列参数有助于解决这个问题。

但是实际上,还是主要是因为我们的程序代码有问题,

 

more:

最近做httpclient做转发服务,发现服务器上总是有很多close_wait状态的连接,而且这些连接都不会关闭,最后导致服务器没法建立新的网络连接,从而停止响应。 
        后来在网上搜索了一下,发现解决的方法也很简单,如果想重用连接,那就使用连接管理器,从连接管理器里获取连接,然后定时的用连接管理器来释放空闲连接。httpclient自带了SimpleHttpConnectionManager,提供了

Java代码  收藏代码
  1. closeIdleConnections(long idleTimeout)   

这样的方法。 
        如果不需要重用链接,则直接在httpmethod创建时,设置一个http头信息就可以了 

Java代码  收藏代码
  1. httpmethod.setRequestHeader("Connection""close");  


这样就不会有恼人的close_wait了。

 

more:

http://blog.sina.com.cn/s/blog_4c2edbc70100o713.html

分享到:
评论

相关推荐

    HTTPClient_delphi_delphi7_ssl_

    标题"HTTPClient_delphi_delphi7_ssl_"暗示了这是一个针对Delphi 7开发的HTTP客户端库,专门用于处理带有SSL支持的HTTP请求。HTTPClient库可能包含了一系列类和组件,使得开发者可以方便地发送GET、POST等HTTP请求,...

    HttpClient_canalvwb_qthttpserver_levell6x_use_httpclient_

    在"HttpClient_canalvwb_qthttpserver_levell6x_use_httpclient_"这个标题中,我们可以推断这是一个关于如何在QT服务器(QTHttpServer)上使用HttpClient进行通信的示例。"canalvwb"可能是项目或团队名,而"levell6x...

    PB_Json_httpclient_crypto_ftp_20210125.rar

    标题 "PB_Json_httpclient_crypto_ftp_20210125.rar" 暗示了这个压缩包包含了与编程相关的组件和教程,主要涉及以下知识点: 1. **PB (PowerBuilder)**:PowerBuilder 是一种面向对象的集成开发环境(IDE),主要...

    HttpClient.zip_HTTP_c++ httpclass_c++ httpclient类_http client c+

    1. **初始化与配置**:HttpClient类可能有一个构造函数,允许开发者设置基本的HTTP客户端参数,如主机地址、端口号、超时时间等。 2. **请求方法**:HttpClient应支持常见的HTTP请求方法,如GET、POST、PUT、DELETE...

    Android-Httpclient_Get_Post

    这个名为"Android-Httpclient_Get_Post"的资源可能是一个示例项目或教程,展示了如何在Android应用中使用`HttpClient`进行网络数据的获取与提交。 首先,`HttpClient`是Apache的一个组件,它提供了对HTTP协议的全面...

    使用_HttpClient_和_HtmlParser_实现简易爬虫

    HttpClient 和 HtmlParser 是两个在Java开发中用于网络通信和网页解析的重要开源库。HttpClient 主要负责处理HTTP协议的网络请求,如GET和POST,而...通过它们,开发者可以轻松地与Web服务器交互,获取并处理网页数据。

    httpclient_cache_4.5.0.jar.7z

    2. **初始化HttpClient**:创建一个`BasicHttpParams`实例,设置缓存大小和缓存目录,然后将其传递给`DefaultHttpClient`构造函数。例如: ```java HttpParams params = new BasicHttpParams(); ...

    java爬虫所需的httpclient.rar_java HTTPCLIENT包

    在Java编程中,HttpClient常被用于网页爬虫的开发,因为它提供了对网络通信的低级别控制,使我们能够灵活地处理各种网络任务。 在使用Java HttpClient进行网页抓取时,首先需要理解以下关键概念和组件: 1. **...

    9-HTTP_Client.rar_9-HTTP_Client_C http_STM32 HTTPClient_client_h

    STM3210X HTTP_Client

    i-server-common.rar_android_androidsslso_httpclient_jetty_mina

    Apache HttpClient是一个功能强大的库,允许开发者进行复杂的HTTP操作,如自定义请求头、重试策略等。它在许多老旧的Android项目中被广泛使用,但在新版本的Android SDK中已被弃用,推荐使用更现代的库如OkHttp。 3...

    httpclient-closewait-samples:一个简单的示例,说明如何使用Apache HttpCommons Client避免在客户端进行CLOSE_WAIT连接

    因此,您将使那些CLOSE_WAIT连接处于挂起状态并声称已关闭。 要说明此行为,请查看此存储库中的示例。 简而言之,我们正在做的是: 在整个生命周期中创建一个连接管理器和一个HttpClient连接 创建15个线程以执行...

    HttpClient4_Tutorial_API_Doc_En+Cn.rar

    《HttpClient4教程与API文档详解》 HttpClient是Apache软件基金会的一个开源项目,主要提供了一组与HTTP协议交互的客户端编程工具类,广泛应用于各种网络应用的开发中。HttpClient4.0.3是HttpClient的一个重要版本...

    BonusFaresClient_java_httpclient_Sold!_toplza_API_

    【标题】"BonusFaresClient_java_httpclient_Sold!_toplza_API_" 指的是一款基于Java编写的客户端应用程序,其主要功能是搜索Transaero航空公司的里程兑换机票。"Sold!"可能表示该应用专注于处理已售出的或者用里程...

    Client-https-server.rar_httpclient服务器_https_https client_https c

    对于HTTPS,HttpClient提供了配置SSL上下文(SSLContext)的能力,以便与HTTPS服务器进行安全通信。 以下是一个简单的示例,展示了如何使用Apache HttpClient向HTTPS服务器发送GET请求: ```java import org....

    HttpServer.zip_http servlet server_httpclient_http服务器_java https

    2. 请求与响应处理:HttpClient允许开发者精细控制请求头、请求体、超时等设置,响应则包含状态码、响应头和响应体,可以进行相应的解析和处理。 三、HTTPS安全通信 HTTPS是HTTP协议的安全版本,通过SSL/TLS协议...

    HttpClient由浅到深-打打磨rpc利器.pptx

    TCP 连接关闭过程中,TIME_WAIT 和 CLOSE_WAIT 状态至关重要: - **TIME_WAIT**:客户端在发送完最后一个 ACK 后进入此状态,等待2MSL(最大分段生存时间),以确保服务器收到确认并释放连接。这能防止旧数据包...

    HttpClient实例_001_初步实现项目01的servlet,与项目02的servlet,之间数据访问

    `httpClient_001`和`httpClient_002`可能是这个教程的两个部分,分别涵盖HttpClient的初步使用和更复杂的用法。 总之,HttpClient是Java中强大的HTTP客户端工具,能够帮助开发者轻松地实现HTTP请求,适用于各种网络...

    httpclient4_中文版帮助文档.

    HttpClient 适用于开发需要与 Web 服务、网络设备以及依赖 HTTP 协议进行通信的系统。 【HttpClient 的设计目标】 HttpClient 的设计目的是为了高效、稳定地执行 HTTP 请求,并且易于扩展。它基于 HttpCore 库,...

    httpclient_4.5.3.jar_httpclient_4.5.3.jar_

    HttpClient是Apache Jakarta Common下的子项目,用来提供高效的、最新的、功能丰富的支持...HttpClient已经应用在很多的项目中,比如Apache Jakarta上很著名的另外两个开源项目Cactus和HTMLUnit都使用了HttpClient。

Global site tag (gtag.js) - Google Analytics