设置User-Agent，防止自己的爬虫被拦截

以前看车东的blog，说到流氓爬虫，伪装自己。今天抓取自己学校的物理学院的网址，竟然发现

返回的

java.io.IOException: Server returned HTTP response code: 500 for URL: http://physics.whu.edu.cn/show.asp?id=278

java.io.IOException: Server returned HTTP response code: 403 for URL

但是自己却可以用浏览器访问，发现可能是服务器对我们这种java程序屏蔽了。

因为服务器的安全设置不接受Java程序作为客户端访问，解决方案是设置客户端的User Agent

 url = new URL("http://physics.whu.edu.cn/show.asp?id=278");
            HttpURLConnection connection = (HttpURLConnection) url.
                openConnection();
            connection.setRequestProperty("User-Agent", "Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)");

这样就可以访问了。

评论

1 楼 tianye 2009-07-23  

方法不错，帮助我不小啊