- 浏览: 916529 次
- 性别:
- 来自: 北京
文章分类
- 全部博客 (498)
- J2EE (52)
- 数据库 (17)
- java基础 (43)
- web技术 (19)
- 程序设计 (6)
- 操作系统 (18)
- IT资讯 (7)
- 我的IT生活 (12)
- 学习笔记 (9)
- Jquery (25)
- JavaScript (18)
- spring (40)
- Hibernate (12)
- Struts (10)
- YUI (2)
- Extjs (22)
- .net (0)
- Eclipse (10)
- 社会主义 (2)
- 服务器 (9)
- CSS (8)
- 网络安全 (16)
- 版本控制 (9)
- PHP (2)
- Oracle (42)
- SQL server (1)
- Mysql (11)
- 项目管理 (3)
- 开发工具使用 (10)
- SQL语句 (7)
- Perl (0)
- Shell (6)
- 漏洞 (4)
- ibatis (5)
- hacker (2)
- SQL注入 (6)
- Hacker工具 (2)
- 入侵和渗透 (7)
- 插件/组件 (2)
- 最爱开源 (5)
- 常用软件 (2)
- DOS (1)
- HTML (2)
- Android (9)
- CMS (1)
- portal (8)
- Linux (7)
- OSGI (1)
- Mina (5)
- maven (2)
- hadoop (7)
- twitter storm (2)
- sap hana (0)
- OAuth (0)
- RESTful (1)
- Nginx (4)
- flex (1)
- Dubbo (1)
- redis (1)
- springMVC (1)
- node.js (1)
- solr (2)
- Flume (1)
- MongoDB (2)
- ElasticSearch (1)
最新评论
-
M_drm:
请问要怎么设置浏览器才不报没权限呢?
用JS在页面调用本地可执行文件的方法(ACTIVEX) -
Alexniver:
官方文档。When importing data into I ...
mysql导入数据过慢 解决方法 -
camelwoo:
我记得 Criteria 可以做连接查询与子查询,也可以做分页 ...
Hibernate总结篇二 -
zhenglongfei:
楼主如果SubKeyName 这个节点不存在,怎么办??怎么用 ...
Java操作注册表 -
yxx676229549:
用log4j 2 了
logback
最近在学习搜索方面的东西,需要了解网络爬虫方面的知识,虽然有很多开源的强大的爬虫,但本着学习的态度,自己写了一个简单的网络爬虫,以便了解其中原理。
首先介绍每个类的功能:
DownloadPage.java的功能是下载此超链接的页面源代码.
FunctionUtils.java 的功能是提供不同的静态方法,包括:页面链接正则表达式匹配,获取URL链接的元素,判断是否创建文件,获取页面的Url并将其转换为规范的Url,截取网页网页源文件的目标内容。
HrefOfPage.java 的功能是获取页面源代码的超链接。
UrlDataHanding.java 的功能是整合各个给类,实现url到获取数据到数据处理类。
UrlQueue.java 的未访问Url队列。
VisitedUrlQueue.java 已访问过的URL队列。
下面介绍一下每个类的源代码:
DownloadPage.java 此类要用到HttpClient组件。
FunctionUtils.java 此类的方法均为static方法
HrefOfPage.java 此类为获取页面的超链接
UrlDataHanding.java 此类主要是从未访问队列中获取url,下载页面,分析url,保存已访问url等操作,实现Runnable接口
UrlQueue.java 此类主要是用来存放未访问的URL队列
VisitedUrlQueue.java 主要是保存已访问过的URL,使用HashSet来保存,主要是考虑到每个访问过的URL是不同。HashSet刚好符合这个要求
说明一下:由于我抓取的是针对oschina的,所以里面的url正则表达式不适合其他网站,需要自己修改一下。你也可以写成xml来配置。
小弟技术有限,有些地方确实写得不好,希望各位大牛不吝指教。
原文链接:http://www.cnblogs.com/HZhoog/archive/2012/05/08/2490374.html
首先介绍每个类的功能:
DownloadPage.java的功能是下载此超链接的页面源代码.
FunctionUtils.java 的功能是提供不同的静态方法,包括:页面链接正则表达式匹配,获取URL链接的元素,判断是否创建文件,获取页面的Url并将其转换为规范的Url,截取网页网页源文件的目标内容。
HrefOfPage.java 的功能是获取页面源代码的超链接。
UrlDataHanding.java 的功能是整合各个给类,实现url到获取数据到数据处理类。
UrlQueue.java 的未访问Url队列。
VisitedUrlQueue.java 已访问过的URL队列。
下面介绍一下每个类的源代码:
DownloadPage.java 此类要用到HttpClient组件。
package com.sreach.spider; import java.io.IOException; import org.apache.http.HttpEntity; import org.apache.http.HttpResponse; import org.apache.http.client.ClientProtocolException; import org.apache.http.client.HttpClient; import org.apache.http.client.methods.HttpGet; import org.apache.http.impl.client.DefaultHttpClient; import org.apache.http.util.EntityUtils; public class DownloadPage { /** * 根据URL抓取网页内容 * * @param url * @return */ public static String getContentFormUrl(String url) { /* 实例化一个HttpClient客户端 */ HttpClient client = new DefaultHttpClient(); HttpGet getHttp = new HttpGet(url); String content = null; HttpResponse response; try { /*获得信息载体*/ response = client.execute(getHttp); HttpEntity entity = response.getEntity(); VisitedUrlQueue.addElem(url); if (entity != null) { /* 转化为文本信息 */ content = EntityUtils.toString(entity); /* 判断是否符合下载网页源代码到本地的条件 */ if (FunctionUtils.isCreateFile(url) && FunctionUtils.isHasGoalContent(content) != -1) { FunctionUtils.createFile(FunctionUtils .getGoalContent(content), url); } } } catch (ClientProtocolException e) { e.printStackTrace(); } catch (IOException e) { e.printStackTrace(); } finally { client.getConnectionManager().shutdown(); } return content; } }
FunctionUtils.java 此类的方法均为static方法
package com.sreach.spider; import java.io.BufferedWriter; import java.io.File; import java.io.FileOutputStream; import java.io.IOException; import java.io.OutputStreamWriter; import java.util.regex.Matcher; import java.util.regex.Pattern; public class FunctionUtils { /** * 匹配超链接的正则表达式 */ private static String pat = "http://www\\.oschina\\.net/code/explore/.*/\\w+\\.[a-zA-Z]+"; private static Pattern pattern = Pattern.compile(pat); private static BufferedWriter writer = null; /** * 爬虫搜索深度 */ public static int depth = 0; /** * 以"/"来分割URL,获得超链接的元素 * * @param url * @return */ public static String[] divUrl(String url) { return url.split("/"); } /** * 判断是否创建文件 * * @param url * @return */ public static boolean isCreateFile(String url) { Matcher matcher = pattern.matcher(url); return matcher.matches(); } /** * 创建对应文件 * * @param content * @param urlPath */ public static void createFile(String content, String urlPath) { /* 分割url */ String[] elems = divUrl(urlPath); StringBuffer path = new StringBuffer(); File file = null; for (int i = 1; i < elems.length; i++) { if (i != elems.length - 1) { path.append(elems[i]); path.append(File.separator); file = new File("D:" + File.separator + path.toString()); } if (i == elems.length - 1) { Pattern pattern = Pattern.compile("\\w+\\.[a-zA-Z]+"); Matcher matcher = pattern.matcher(elems[i]); if ((matcher.matches())) { if (!file.exists()) { file.mkdirs(); } String[] fileName = elems[i].split("\\."); file = new File("D:" + File.separator + path.toString() + File.separator + fileName[0] + ".txt"); try { file.createNewFile(); writer = new BufferedWriter(new OutputStreamWriter( new FileOutputStream(file))); writer.write(content); writer.flush(); writer.close(); System.out.println("创建文件成功"); } catch (IOException e) { e.printStackTrace(); } } } } } /** * 获取页面的超链接并将其转换为正式的A标签 * * @param href * @return */ public static String getHrefOfInOut(String href) { /* 内外部链接最终转化为完整的链接格式 */ String resultHref = null; /* 判断是否为外部链接 */ if (href.startsWith("http://")) { resultHref = href; } else { /* 如果是内部链接,则补充完整的链接地址,其他的格式忽略不处理,如:a href="#" */ if (href.startsWith("/")) { resultHref = "http://www.oschina.net" + href; } } return resultHref; } /** * 截取网页网页源文件的目标内容 * * @param content * @return */ public static String getGoalContent(String content) { int sign = content.indexOf("<pre class=\""); String signContent = content.substring(sign); int start = signContent.indexOf(">"); int end = signContent.indexOf("</pre>"); return signContent.substring(start + 1, end); } /** * 检查网页源文件中是否有目标文件 * * @param content * @return */ public static int isHasGoalContent(String content) { return content.indexOf("<pre class=\""); } }
HrefOfPage.java 此类为获取页面的超链接
package com.sreach.spider; public class HrefOfPage { /** * 获得页面源代码中超链接 */ public static void getHrefOfContent(String content) { System.out.println("开始"); String[] contents = content.split("<a href=\""); for (int i = 1; i < contents.length; i++) { int endHref = contents[i].indexOf("\""); String aHref = FunctionUtils.getHrefOfInOut(contents[i].substring( , endHref)); if (aHref != null) { String href = FunctionUtils.getHrefOfInOut(aHref); if (!UrlQueue.isContains(href) && href.indexOf("/code/explore") != -1 && !VisitedUrlQueue.isContains(href)) { UrlQueue.addElem(href); } } } System.out.println(UrlQueue.size() + "--抓取到的连接数"); System.out.println(VisitedUrlQueue.size() + "--已处理的页面数"); } }
UrlDataHanding.java 此类主要是从未访问队列中获取url,下载页面,分析url,保存已访问url等操作,实现Runnable接口
package com.sreach.spider; public class UrlDataHanding implements Runnable { /** * 下载对应页面并分析出页面对应的URL放在未访问队列中。 * @param url */ public void dataHanding(String url) { HrefOfPage.getHrefOfContent(DownloadPage.getContentFormUrl(url)); } public void run() { while(!UrlQueue.isEmpty()) { dataHanding(UrlQueue.outElem()); } } }
UrlQueue.java 此类主要是用来存放未访问的URL队列
package com.sreach.spider; import java.util.LinkedList; public class UrlQueue { /**超链接队列*/ public static LinkedList<String> urlQueue = new LinkedList<String>(); /**队列中对应最多的超链接数量*/ public static final int MAX_SIZE = 10000; public synchronized static void addElem(String url) { urlQueue.add(url); } public synchronized static String outElem() { return urlQueue.removeFirst(); } public synchronized static boolean isEmpty() { return urlQueue.isEmpty(); } public static int size() { return urlQueue.size(); } public static boolean isContains(String url) { return urlQueue.contains(url); } }
VisitedUrlQueue.java 主要是保存已访问过的URL,使用HashSet来保存,主要是考虑到每个访问过的URL是不同。HashSet刚好符合这个要求
package com.sreach.spider; import java.util.HashSet; /** * 已访问url队列 * @author HHZ * */ public class VisitedUrlQueue { public static HashSet<String> visitedUrlQueue = new HashSet<String>(); public synchronized static void addElem(String url) { visitedUrlQueue.add(url); } public synchronized static boolean isContains(String url) { return visitedUrlQueue.contains(url); } public synchronized static int size() { return visitedUrlQueue.size(); } } Test.java 此类为测试类 View Code import java.sql.SQLException; import com.sreach.spider.UrlDataHanding; import com.sreach.spider.UrlQueue; public class Test { public static void main(String[] args) throws SQLException { String url = "http://www.oschina.net/code/explore/achartengine/client/AndroidManifest.xml"; String url1 = "http://www.oschina.net/code/explore"; String url2 = "http://www.oschina.net/code/explore/achartengine"; String url3 = "http://www.oschina.net/code/explore/achartengine/client"; UrlQueue.addElem(url); UrlQueue.addElem(url1); UrlQueue.addElem(url2); UrlQueue.addElem(url3); UrlDataHanding[] url_Handings = new UrlDataHanding[10]; for(int i = 0 ; i < 10 ; i++) { url_Handings[i] = new UrlDataHanding(); new Thread(url_Handings[i]).start(); } } }
说明一下:由于我抓取的是针对oschina的,所以里面的url正则表达式不适合其他网站,需要自己修改一下。你也可以写成xml来配置。
小弟技术有限,有些地方确实写得不好,希望各位大牛不吝指教。
原文链接:http://www.cnblogs.com/HZhoog/archive/2012/05/08/2490374.html
发表评论
-
List对象排序通用方法
2014-07-29 09:21 1030在数据库中查出来的列 ... -
EJBCA环境搭建
2014-04-03 17:31 1086EJBCA开发者 http://wiki.ejbca.org/ ... -
Java & Eclipse 相关内容杂记及技巧
2013-11-26 22:42 10521、Eclipse 的启动画面 A、加启动参数。如: ... -
一套貌似很牛B的Nutch相关框架视频教程
2013-10-24 09:16 1105国内首套免费的《Nutch相关框架视频教程》(1-20) ht ... -
memcached实现多个tomcat 共享一个session(转)
2013-04-23 09:49 889http://dqm926.iteye.com/blog/18 ... -
logback
2013-01-23 09:40 1284http://yuri-liuyu.iteye.com/blo ... -
位运算
2012-11-21 17:50 954程序中的所有数在计算 ... -
HashMap的2中遍历方式比较
2012-11-20 11:47 1008http://smallnetvisitor.iteye.co ... -
SVN如何强制在提交时要求添加注释说明(windows平台)
2012-11-06 18:00 3620在项目库的hooks目录下,添加一个pre-commit.ba ... -
Java虚拟机读写其他进程的数据
2012-08-22 13:07 1139Java虚拟机读写其他进程的数据 http://axiang ... -
java计算校验和:对“消息头+会话头+事务头+操作信息”按32位异或,对异或结果取反后的值为校验和。
2012-08-14 17:41 3540java计算校验和:对“消 ... -
java中对Byte字符数组定长截取的方法
2012-08-14 16:33 2107今天在在处理从网络上接收到的字符串,因为是从后台C语言过来的一 ... -
CAS单点登录配置笔记
2012-08-14 16:31 1092转:http://blog.csdn.net/lifvc/ar ... -
hadoop安装与配置
2012-08-10 11:46 1349一、安装准备 1、下载hadoop 0.21.0,地址:ht ... -
集中各种好网站
2012-08-09 16:41 9701.开源中国---在线工具: http://www.oscto ... -
人脸检测算法库 jViolajones 使用示例代码
2012-08-09 16:32 1689jViolajones是人脸检测算法Viola-Jones的一 ... -
JQuery上传插件Uploadify详解及其中文按钮解决方案
2012-08-08 18:02 0官网: http://www.uploadify.com/do ... -
用java流方式判断文件类型
2012-08-08 17:57 0全文转载:http://rainsilence.iteye.c ... -
java网络编程之TCP/IP ——SocketServer与Socket
2012-08-08 10:20 2266java网络编程主要包含4部分: (注意设置超时时间) 1. ... -
使用EhCache和Spring AOP实现计算结果缓存
2012-08-07 10:47 1062原文:http://kim-miao.iteye.com/bl ...
相关推荐
Java简单网络爬虫是一种利用编程技术自动从互联网上抓取信息的程序。在这个项目中,我们专注于使用Java语言来创建一个基本的网络爬虫,它能够访问智联招聘网站,并提取出职位名称、公司名称、工作地点以及薪资等关键...
"JAVA基于网络爬虫的搜索引擎设计与实现" 本文档主要讨论了基于Java的网络爬虫搜索引擎的设计和实现。以下是从该文档中提炼出的相关知识点: 一、搜索引擎概述 * 搜索引擎是指通过网络爬虫或蜘蛛来收集、处理和...
【简易Java网络爬虫】是一种基于Java编程语言实现的简单网络数据抓取工具,主要用于从趣配音的web页面上获取信息。在这个项目中,我们将会探讨如何构建一个基础的网络爬虫,涉及到的关键技术包括HTTP请求、HTML解析...
网络爬虫代码java实现 网络爬虫代码java实现 网络爬虫代码java实现
以下是一个简单的Java网络爬虫的步骤: 1. **导入必要的库**:首先,确保在项目中引入了`Jsoup`库,可以通过Maven或Gradle添加依赖。 2. **发送HTTP请求**:使用`HttpURLConnection`或`HttpClient`发送GET请求到...
### Java网络爬虫简单实现知识点解析 #### 一、概览 本文档旨在解析一份关于“Java网络爬虫简单实现”的文档,该文档通过几个关键类的介绍来讲解如何使用Java语言开发一个基本的网络爬虫。网络爬虫是一种自动化的...
总的来说,这个项目提供了从网络爬虫的基本原理到实际编码的全面实践,涵盖网络请求、HTML解析、数据存储等多个方面,对于学习和理解Java网络爬虫技术具有很高的参考价值。通过研究这个项目,开发者可以深入理解网络...
通过实现一个Java网络爬虫,你可以将以上知识点融合运用,不仅加深对Java的理解,还能掌握网络数据获取和处理的能力。文件列表中的“暑假任务—爬虫系统”可能是实际项目案例,通过阅读和学习,可以进一步巩固和提升...
结合上述知识点,一个简单的Java网络爬虫可以实现网页的异步下载和解析,有效地利用系统资源,提高抓取效率。理解`Future`和异步编程对于开发高并发、高性能的网络爬虫至关重要。而关于搜索引擎原理,它涉及到信息...
这篇毕业设计的标题是“基于Java的主题网络爬虫设计与实现”,它涵盖了数据库设计、程序开发以及论文撰写等多个方面。 首先,我们来看数据库部分。`article.sql`可能包含了项目的数据库结构,这通常会包括表的设计...
### 基于Java的多线程网络爬虫设计与实现 #### 概述 本文档探讨了在Java环境下设计与实现多线程网络爬虫的技术细节与实践方法。网络爬虫(Web Crawler),是一种自动抓取互联网上网页信息的程序或自动化脚本,其...
### Java网络爬虫简单实现详解 #### 一、概述 本文档将详细介绍一个基于Java的简单网络爬虫项目。该爬虫旨在通过一系列模块化的类来实现网页内容的抓取与处理,适用于初学者理解网络爬虫的基本原理及其实现方式。 ...
用Java实现抓取网页,支持下载网页和网页上面的图片内容,修改不同的源地址可以下载不同地址的网页
Java网络爬虫实现过程中的关键知识点包括: 1. 网络编程基础:了解如何使用Java进行网络通信,包括套接字编程,这对于爬虫访问网络资源至关重要。 2. HTTP协议:掌握HTTP协议的工作原理,包括请求与响应的过程,...
该院吗详细的写出lJava网络爬虫蜘蛛源码,可以很好的帮助你实现爬虫,对了解爬虫的整个过程和实现爬虫非常有用
综上所述,Java手写网络爬虫涉及了Java网络编程、HTML解析、数据提取、异常处理和多线程等技术。通过学习和实践,不仅能提升编程技能,还能更好地理解互联网数据的获取与处理过程。在实际应用中,还可以结合数据库...
在"webSpider"这个项目中,可能包含了完整的Java网络爬虫源代码,你可以直接导入工程进行学习和运行。通过阅读和理解代码,你将更深入地了解网络爬虫的工作原理和实现细节。同时,不断实践和优化,你将能够构建更...
网络爬虫是互联网数据挖掘的重要工具,而Java作为一种强大且广泛应用的编程语言,常常被用于构建高效的爬虫系统。在本项目中,我们将探讨如何利用Java实现一个简单的搜索引擎,主要涉及的技术点包括网络请求、HTML...
本资料包“2组JAVA网络爬虫算法”提供了两个不同策略的爬虫实现,旨在提高数据抓取的速度和效率。 一、基础原理 网络爬虫主要通过HTTP/HTTPS协议与服务器交互,模拟用户请求网页,然后解析HTML或其他格式的网页内容...
在本示例中,"java网络爬虫demo" 是一个使用IntelliJ IDEA 14.0.3开发的项目,它展示了如何利用Java来构建一个简单的网络爬虫。下面将详细讨论网络爬虫的基本概念、Java网络爬虫的实现原理以及可能涉及的技术点。 1...