`
zpball
  • 浏览: 916529 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Java简单的网络爬虫实现

    博客分类:
  • J2EE
阅读更多
最近在学习搜索方面的东西,需要了解网络爬虫方面的知识,虽然有很多开源的强大的爬虫,但本着学习的态度,自己写了一个简单的网络爬虫,以便了解其中原理。

首先介绍每个类的功能:

DownloadPage.java的功能是下载此超链接的页面源代码.

FunctionUtils.java 的功能是提供不同的静态方法,包括:页面链接正则表达式匹配,获取URL链接的元素,判断是否创建文件,获取页面的Url并将其转换为规范的Url,截取网页网页源文件的目标内容。

HrefOfPage.java 的功能是获取页面源代码的超链接。

UrlDataHanding.java 的功能是整合各个给类,实现url到获取数据到数据处理类。

UrlQueue.java 的未访问Url队列。

VisitedUrlQueue.java 已访问过的URL队列。

下面介绍一下每个类的源代码:

DownloadPage.java 此类要用到HttpClient组件。
 
 package com.sreach.spider;  
   
 import java.io.IOException;  
 import org.apache.http.HttpEntity;  
 import org.apache.http.HttpResponse;  
 import org.apache.http.client.ClientProtocolException;  
 import org.apache.http.client.HttpClient;  
 import org.apache.http.client.methods.HttpGet;  
 import org.apache.http.impl.client.DefaultHttpClient;  
 import org.apache.http.util.EntityUtils;  
   
 public class DownloadPage  
 {  
   
     /**  
      * 根据URL抓取网页内容  
      *   
      * @param url  
      * @return  
      */ 
     public static String getContentFormUrl(String url)  
     {  
         /* 实例化一个HttpClient客户端 */ 
         HttpClient client = new DefaultHttpClient();  
         HttpGet getHttp = new HttpGet(url);  
   
         String content = null;  
   
         HttpResponse response;  
         try 
         {  
             /*获得信息载体*/ 
             response = client.execute(getHttp);  
             HttpEntity entity = response.getEntity();  
   
             VisitedUrlQueue.addElem(url);  
   
             if (entity != null)  
             {  
                 /* 转化为文本信息 */ 
                 content = EntityUtils.toString(entity);  
   
                 /* 判断是否符合下载网页源代码到本地的条件 */ 
                 if (FunctionUtils.isCreateFile(url)  
                         && FunctionUtils.isHasGoalContent(content) != -1)  
                 {  
                     FunctionUtils.createFile(FunctionUtils  
                             .getGoalContent(content), url);  
                 }  
             }  
   
         } catch (ClientProtocolException e)  
         {  
             e.printStackTrace();  
         } catch (IOException e)  
         {  
             e.printStackTrace();  
         } finally 
         {  
             client.getConnectionManager().shutdown();  
         }  
           
         return content;  
     }  
   
 } 

FunctionUtils.java 此类的方法均为static方法

  
 
package com.sreach.spider;  
 
import java.io.BufferedWriter;  
import java.io.File;  
import java.io.FileOutputStream;  
import java.io.IOException;  
import java.io.OutputStreamWriter;  
import java.util.regex.Matcher;  
import java.util.regex.Pattern;  
 
public class FunctionUtils  
{  
 
    /**  
     * 匹配超链接的正则表达式  
     */ 
    private static String pat = "http://www\\.oschina\\.net/code/explore/.*/\\w+\\.[a-zA-Z]+";  
    private static Pattern pattern = Pattern.compile(pat);  
 
    private static BufferedWriter writer = null;  
 
    /**  
     * 爬虫搜索深度  
     */ 
    public static int depth = 0;  
 
    /**  
     * 以"/"来分割URL,获得超链接的元素  
     *   
     * @param url  
     * @return  
     */ 
    public static String[] divUrl(String url)  
    {  
        return url.split("/");  
    }  
 
    /**  
     * 判断是否创建文件  
     *   
     * @param url  
     * @return  
     */ 
    public static boolean isCreateFile(String url)  
    {  
        Matcher matcher = pattern.matcher(url);  
 
        return matcher.matches();  
    }  
 
    /**  
     * 创建对应文件  
     *   
     * @param content  
     * @param urlPath  
     */ 
    public static void createFile(String content, String urlPath)  
    {  
        /* 分割url */ 
        String[] elems = divUrl(urlPath);  
        StringBuffer path = new StringBuffer();  
 
        File file = null;  
        for (int i = 1; i < elems.length; i++)  
        {  
            if (i != elems.length - 1)  
            {  
 
                path.append(elems[i]);  
                path.append(File.separator);  
                file = new File("D:" + File.separator + path.toString());  
 
            }  
 
            if (i == elems.length - 1)  
            {  
                Pattern pattern = Pattern.compile("\\w+\\.[a-zA-Z]+");  
                Matcher matcher = pattern.matcher(elems[i]);  
                if ((matcher.matches()))  
                {  
                    if (!file.exists())  
                    {  
                        file.mkdirs();  
                    }  
                    String[] fileName = elems[i].split("\\.");  
                    file = new File("D:" + File.separator + path.toString()  
                            + File.separator + fileName[0] + ".txt");  
                    try 
                    {  
                        file.createNewFile();  
                        writer = new BufferedWriter(new OutputStreamWriter(  
                                new FileOutputStream(file)));  
                        writer.write(content);  
                        writer.flush();  
                        writer.close();  
                        System.out.println("创建文件成功");  
                    } catch (IOException e)  
                    {  
                        e.printStackTrace();  
                    }  
 
                }  
            }  
 
        }  
    }  
 
    /**  
     * 获取页面的超链接并将其转换为正式的A标签  
     *   
     * @param href  
     * @return  
     */ 
    public static String getHrefOfInOut(String href)  
    {  
        /* 内外部链接最终转化为完整的链接格式 */ 
        String resultHref = null;  
 
        /* 判断是否为外部链接 */ 
        if (href.startsWith("http://"))  
        {  
            resultHref = href;  
        } else 
        {  
            /* 如果是内部链接,则补充完整的链接地址,其他的格式忽略不处理,如:a href="#" */ 
            if (href.startsWith("/"))  
            {  
                resultHref = "http://www.oschina.net" + href;  
            }  
        }  
 
        return resultHref;  
    }  
 
    /**  
     * 截取网页网页源文件的目标内容  
     *   
     * @param content  
     * @return  
     */ 
    public static String getGoalContent(String content)  
    {  
        int sign = content.indexOf("<pre class=\"");  
        String signContent = content.substring(sign);  
 
        int start = signContent.indexOf(">");  
        int end = signContent.indexOf("</pre>");  
 
        return signContent.substring(start + 1, end);  
    }  
 
    /**  
     * 检查网页源文件中是否有目标文件  
     *   
     * @param content  
     * @return  
     */ 
    public static int isHasGoalContent(String content)  
    {  
        return content.indexOf("<pre class=\"");  
    }  
 
} 


HrefOfPage.java 此类为获取页面的超链接

  

package com.sreach.spider;  
 
public class HrefOfPage  
{  
    /**  
     * 获得页面源代码中超链接  
     */ 
    public static void getHrefOfContent(String content)  
    {  
        System.out.println("开始");  
        String[] contents = content.split("<a href=\"");  
        for (int i = 1; i < contents.length; i++)  
        {  
            int endHref = contents[i].indexOf("\"");  
 
            String aHref = FunctionUtils.getHrefOfInOut(contents[i].substring(  
, endHref));  
 
            if (aHref != null)  
            {  
                String href = FunctionUtils.getHrefOfInOut(aHref);  
 
                if (!UrlQueue.isContains(href)  
                        && href.indexOf("/code/explore") != -1 
                        && !VisitedUrlQueue.isContains(href))  
                {  
                    UrlQueue.addElem(href);  
                }  
            }  
        }  
 
        System.out.println(UrlQueue.size() + "--抓取到的连接数");  
        System.out.println(VisitedUrlQueue.size() + "--已处理的页面数");  
 
    }  
 
} 

UrlDataHanding.java 此类主要是从未访问队列中获取url,下载页面,分析url,保存已访问url等操作,实现Runnable接口

  

package com.sreach.spider;  
 
public class UrlDataHanding implements Runnable  
{  
    /**  
     * 下载对应页面并分析出页面对应的URL放在未访问队列中。  
     * @param url  
     */ 
    public void dataHanding(String url)  
    {  
            HrefOfPage.getHrefOfContent(DownloadPage.getContentFormUrl(url));  
    }  
          
    public void run()  
    {  
        while(!UrlQueue.isEmpty())  
        {  
           dataHanding(UrlQueue.outElem());  
        }  
    }  
} 

UrlQueue.java 此类主要是用来存放未访问的URL队列


package com.sreach.spider;  
 
import java.util.LinkedList;  
 
public class UrlQueue  
{  
    /**超链接队列*/ 
    public static LinkedList<String> urlQueue = new LinkedList<String>();  
      
    /**队列中对应最多的超链接数量*/ 
    public static final int MAX_SIZE = 10000;  
      
    public synchronized static void addElem(String url)  
    {  
        urlQueue.add(url);  
    }  
      
    public synchronized static String outElem()  
    {  
        return urlQueue.removeFirst();  
    }  
      
    public synchronized static boolean isEmpty()  
    {  
        return urlQueue.isEmpty();  
    }  
      
    public  static int size()  
    {  
        return urlQueue.size();  
    }  
      
    public  static boolean isContains(String url)  
    {  
        return urlQueue.contains(url);  
    }  
 
} 

VisitedUrlQueue.java 主要是保存已访问过的URL,使用HashSet来保存,主要是考虑到每个访问过的URL是不同。HashSet刚好符合这个要求



package com.sreach.spider;  
 
import java.util.HashSet;  
 
/**  
 * 已访问url队列  
 * @author HHZ  
 *  
 */ 
public class VisitedUrlQueue  
{  
    public static HashSet<String> visitedUrlQueue = new HashSet<String>();  
 
    public synchronized static void addElem(String url)  
    {  
        visitedUrlQueue.add(url);  
    }  
 
    public synchronized static boolean isContains(String url)  
    {  
        return visitedUrlQueue.contains(url);  
    }  
 
    public synchronized static int size()  
    {  
        return visitedUrlQueue.size();  
    }  
} 
Test.java 此类为测试类

View Code   
 
import java.sql.SQLException;  
 
import com.sreach.spider.UrlDataHanding;  
import com.sreach.spider.UrlQueue;  
 
public class Test  
{  
  public static void main(String[] args) throws SQLException  
  {  
      String url = "http://www.oschina.net/code/explore/achartengine/client/AndroidManifest.xml";  
      String url1 = "http://www.oschina.net/code/explore";  
      String url2 = "http://www.oschina.net/code/explore/achartengine";  
      String url3 = "http://www.oschina.net/code/explore/achartengine/client";  
        
        
      UrlQueue.addElem(url);  
      UrlQueue.addElem(url1);  
      UrlQueue.addElem(url2);  
      UrlQueue.addElem(url3);  
        
      UrlDataHanding[] url_Handings = new UrlDataHanding[10];  
        
          for(int i = 0 ; i < 10 ; i++)  
          {  
              url_Handings[i] = new UrlDataHanding();  
              new Thread(url_Handings[i]).start();  
          }  
 
  }  
} 

说明一下:由于我抓取的是针对oschina的,所以里面的url正则表达式不适合其他网站,需要自己修改一下。你也可以写成xml来配置。

小弟技术有限,有些地方确实写得不好,希望各位大牛不吝指教。

原文链接:http://www.cnblogs.com/HZhoog/archive/2012/05/08/2490374.html
分享到:
评论

相关推荐

    java简单网络爬虫

    Java简单网络爬虫是一种利用编程技术自动从互联网上抓取信息的程序。在这个项目中,我们专注于使用Java语言来创建一个基本的网络爬虫,它能够访问智联招聘网站,并提取出职位名称、公司名称、工作地点以及薪资等关键...

    JAVA基于网络爬虫的搜索引擎设计与实现.pdf

    "JAVA基于网络爬虫的搜索引擎设计与实现" 本文档主要讨论了基于Java的网络爬虫搜索引擎的设计和实现。以下是从该文档中提炼出的相关知识点: 一、搜索引擎概述 * 搜索引擎是指通过网络爬虫或蜘蛛来收集、处理和...

    简易Java网络爬虫

    【简易Java网络爬虫】是一种基于Java编程语言实现的简单网络数据抓取工具,主要用于从趣配音的web页面上获取信息。在这个项目中,我们将会探讨如何构建一个基础的网络爬虫,涉及到的关键技术包括HTTP请求、HTML解析...

    网络爬虫代码java实现

    网络爬虫代码java实现 网络爬虫代码java实现 网络爬虫代码java实现

    java网络爬虫实现简单Demo

    以下是一个简单的Java网络爬虫的步骤: 1. **导入必要的库**:首先,确保在项目中引入了`Jsoup`库,可以通过Maven或Gradle添加依赖。 2. **发送HTTP请求**:使用`HttpURLConnection`或`HttpClient`发送GET请求到...

    Java网络爬虫简单实现.pdf

    ### Java网络爬虫简单实现知识点解析 #### 一、概览 本文档旨在解析一份关于“Java网络爬虫简单实现”的文档,该文档通过几个关键类的介绍来讲解如何使用Java语言开发一个基本的网络爬虫。网络爬虫是一种自动化的...

    基于JAVA的网络爬虫程序源代码

    总的来说,这个项目提供了从网络爬虫的基本原理到实际编码的全面实践,涵盖网络请求、HTML解析、数据存储等多个方面,对于学习和理解Java网络爬虫技术具有很高的参考价值。通过研究这个项目,开发者可以深入理解网络...

    基于java实现网络爬虫

    通过实现一个Java网络爬虫,你可以将以上知识点融合运用,不仅加深对Java的理解,还能掌握网络数据获取和处理的能力。文件列表中的“暑假任务—爬虫系统”可能是实际项目案例,通过阅读和学习,可以进一步巩固和提升...

    用Java实现网络爬虫(或互联网蜘蛛)

    结合上述知识点,一个简单的Java网络爬虫可以实现网页的异步下载和解析,有效地利用系统资源,提高抓取效率。理解`Future`和异步编程对于开发高并发、高性能的网络爬虫至关重要。而关于搜索引擎原理,它涉及到信息...

    基于Java的主题网络爬虫设计与实现

    这篇毕业设计的标题是“基于Java的主题网络爬虫设计与实现”,它涵盖了数据库设计、程序开发以及论文撰写等多个方面。 首先,我们来看数据库部分。`article.sql`可能包含了项目的数据库结构,这通常会包括表的设计...

    基于Java的多线程网络爬虫设计与实现.txt

    ### 基于Java的多线程网络爬虫设计与实现 #### 概述 本文档探讨了在Java环境下设计与实现多线程网络爬虫的技术细节与实践方法。网络爬虫(Web Crawler),是一种自动抓取互联网上网页信息的程序或自动化脚本,其...

    Java网络爬虫简单实现

    ### Java网络爬虫简单实现详解 #### 一、概述 本文档将详细介绍一个基于Java的简单网络爬虫项目。该爬虫旨在通过一系列模块化的类来实现网页内容的抓取与处理,适用于初学者理解网络爬虫的基本原理及其实现方式。 ...

    Java实现简单网络爬虫算法

    用Java实现抓取网页,支持下载网页和网页上面的图片内容,修改不同的源地址可以下载不同地址的网页

    Java网络爬虫的实现

    Java网络爬虫实现过程中的关键知识点包括: 1. 网络编程基础:了解如何使用Java进行网络通信,包括套接字编程,这对于爬虫访问网络资源至关重要。 2. HTTP协议:掌握HTTP协议的工作原理,包括请求与响应的过程,...

    Java网络爬虫蜘蛛源码

    该院吗详细的写出lJava网络爬虫蜘蛛源码,可以很好的帮助你实现爬虫,对了解爬虫的整个过程和实现爬虫非常有用

    java手写网络爬虫

    综上所述,Java手写网络爬虫涉及了Java网络编程、HTML解析、数据提取、异常处理和多线程等技术。通过学习和实践,不仅能提升编程技能,还能更好地理解互联网数据的获取与处理过程。在实际应用中,还可以结合数据库...

    网络爬虫网络爬虫

    在"webSpider"这个项目中,可能包含了完整的Java网络爬虫源代码,你可以直接导入工程进行学习和运行。通过阅读和理解代码,你将更深入地了解网络爬虫的工作原理和实现细节。同时,不断实践和优化,你将能够构建更...

    网络爬虫java实现搜索引擎

    网络爬虫是互联网数据挖掘的重要工具,而Java作为一种强大且广泛应用的编程语言,常常被用于构建高效的爬虫系统。在本项目中,我们将探讨如何利用Java实现一个简单的搜索引擎,主要涉及的技术点包括网络请求、HTML...

    2组JAVA网络爬虫算法

    本资料包“2组JAVA网络爬虫算法”提供了两个不同策略的爬虫实现,旨在提高数据抓取的速度和效率。 一、基础原理 网络爬虫主要通过HTTP/HTTPS协议与服务器交互,模拟用户请求网页,然后解析HTML或其他格式的网页内容...

    java网络爬虫demo

    在本示例中,"java网络爬虫demo" 是一个使用IntelliJ IDEA 14.0.3开发的项目,它展示了如何利用Java来构建一个简单的网络爬虫。下面将详细讨论网络爬虫的基本概念、Java网络爬虫的实现原理以及可能涉及的技术点。 1...

Global site tag (gtag.js) - Google Analytics