`

前嗅教程:在同一个网站中从另一页面采集数据

阅读更多

第一步:新建任务

①点击左上角“加号”新建任务,如图1:

【图1】

②在弹窗里填写采集地址,任务名称,如图2:

【图2】

③点击下一步,选择进行数据抽取还是链接抽取,本次采集企业最新动态链接列表,所以点击抽取链接,选择链接列表,如图3:

【图3】

④完成之后,在模板抽取配置下生成两个模板,默认模板:01和链接列表:02。模板1中的“链接列表”链接抽取已与模板2关联,如图4。如果配置的时候发现关联有问题,可以自己进行更改。

【图4】

第二步:使用定位过滤,得到列表链接

①按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

②点击确认选区,如图5:

【图5】

③点击采集预览,确认链接抽取是否正确,如图6:

【图6】

第三步:在模板2添加示例地址,并添加链接抽取

①将模板1过滤得到的任意一条链接,作为模板2的示例地址。如:http://blog.11467.com/b427516.htm,如图7:

【图7】

②新建链接抽取。直接点击模板2,点击上面“新建链接抽取”按钮,得到链接抽取,如图8。

【图8】

关联模板

在软件中模板的关联关系,与网页中链接跳转的关系相同。

根据网页跳转规律,模板1中的“链接列表”链接抽取已与模板2关联。如果配置的时候发现关联有问题,可以自己进行更改。

 

第四步:使用定位过滤,得到列表链接

①按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

②点击确认选区,如图9:

【图9】

③右击模板预览,查看链接抽取结果,如图10所示:

【图10】

④确认链接抽取是否正确,如图11:

【图11】

第五步:新建模板3添加示例地址,并添加链接抽取

①新建模板3,将模板2过滤得到的链接,作为模板3的示例地址。如:http://93358999.b2b.11467.com,如图12:

【图12】

②新建链接抽取。直接点击模板3,点击上面“新建链接抽取”按钮,得到链接抽取,如图13。

【图13】

③关联链接列表的“新建链接抽取”。

根据网页跳转规律,将模板2链接列表的“新建链接抽取”关联模板3。如果配置的时候发现关联有问题,可以自己进行更改,如图14:

【图14】

第六步:使用定位过滤,得到导航列表的链接

①按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

②点击确认选区,如图15:

【图15】

③右击模板预览,查看链接抽取结果,如图16所示:

【图16】

④确认链接抽取是否正确,如图17:

【图17】

⑤使用标题过滤,得到“联系我们”的链接,如图18所示:

【图18】

第七步:新建模板4添加示例地址,并添加链接抽取

①新建模板4,将模板3过滤得到的“联系我们”链接,作为模板4的示例地址。如:http://tianjin0311065.11467.com/contact.asp,如图19:

【图19】

②新建数据抽取。直接点击模板3,点击上面“新建数据抽取”按钮,得到数据抽取,如图20。

【图20】

③关联模板3的“新建链接抽取”。

根据网页跳转规律,将模板3的“新建链接抽取”关联模板4。如果配置的时候发现关联有问题,可以自己进行更改,如图21:

【图21】

第八步:创建/选择表单

在ForeSpider爬虫中,表单是可以复用的,所以可以在数据表单出直接选择之前建过的表单,也可以通过表单ID来进行查找并关联数据表单。此处使用的是方法三。

方法一:通过下拉菜单或表单ID选择已有表单

方法二:点击创建表单进入快速建表页面,新建表单,如图22所示。

【图22】

方法三:点击“采集配置”-“数据建表”,点击采“采集表单”,如图23:

【图23】

第九步:配置表单

根据所需内容,配置表单字段(即表头),此处配置了包括网页主键、联系人、电话、地址以及公司介绍五个字段。其中,公司介绍字段intro_text的取值在同一网站的不同页面,需要用到脚本取值,配置类型时需要选择高级取值>模板取值,表单如图24:

【图24】

第十步:字段取值

①关联表单,如图25所示:

【图25】

②取值方法:按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

person、tel、addr字段,如图26:

【图26】

③intro_text字段需要进行模板取值。

 

第十一步:创建新的模板,添加示例地址

①表单intro_text字段来自公司介绍,如图27所示。

【图27】

图中红框部分为取值内容,如图28所示:

【图28】

②新建模板,添加“公司介绍”链接为示例地址,如图29所示:

【图29】

③直接点击模板5,点击上面“新建数据抽取”按钮,得到数据抽取,如图30:


【图30】

第十二步:创建/选择表单

点击“采集配置”-“数据建表”,点击采“采集表单”后面的,如图31:

【图31】

第十三步:配置表单

根据所需内容,配置表单字段(即表头),此处配置了“公司介绍”字段intro_text表单如图32:

【图32】

第十四步:关联表单,完成“公司介绍”字段抽取

①点击模板5,关联表单,如图33所示:


【图33】

②使用字段定位取值方法。

按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域,确认选区,如图34所示。

【图34】

③右击模板预览,如图35所示:


【图35】

④模板预览结果,如图36所示:


【图36】

第十五步:模板取值关联

①点击模板4,点击intro_text字段,在红框中填入“href=[5]”,并按住Ctrl+鼠标左键,进行区域选择,如图37所示。

“[ ]”中填写模板ID。

【图37】

②点击模板4,右击模板预览,如图38所示:

【图38】

③预览结果如图39所示:

【图39】

第十六步:采集预览

①点击右上角采集预览,如图40:

【图40】

②双击任意一条链接,看看是否可以得到和网页对应的规整的数据,如图41、42、43所示。

【图41】

【图42】

【图43】

分享到:
评论

相关推荐

    forespider数据采集软件

    总的来说,前嗅forespider数据采集软件是面向广大非程序员群体的一款实用工具,它降低了数据采集的技术门槛,使得更多人能够参与到大数据的挖掘与分析中来。通过熟练运用这款软件,用户可以高效地获取网络上的信息...

    数据采集教程

    数据采集是信息技术领域中的一个重要环节,它涉及到从各种源头获取数据并进行处理,以便进一步分析、存储或应用。本教程将向你展示如何利用虚拟仪器进行数据采集,从而有效地管理和理解存储的数据。 虚拟仪器...

    用Excel采集网站数据

    在IT行业中,数据采集是一项重要的任务,特别是在大数据分析和研究中。Excel作为一款广泛使用的电子表格工具,除了基本的数据处理功能外,还可以通过VBA(Visual Basic for Applications)进行自动化和高级操作,...

    数据采集PPT 关于数据采集的

    数据采集是信息技术领域中的一个重要环节,它涉及到从各种源头获取数据并将其转化为可分析和处理的形式。本PPT文件集中探讨了数据采集在计算机接口应用中的实践与理论知识。通过学习这一主题,我们可以深入理解数据...

    一个基于AD1674的数据采集系统

    本篇文章将围绕“一个基于AD1674的数据采集系统”这一主题展开,深入探讨该系统的构成原理、关键技术以及应用领域。 #### 二、AD1674概述 AD1674是美国模拟器件公司(Analog Devices Inc.)生产的一款高性能模数...

    labview数据采集之触发采集.docx

    1. **构建数据存储矩阵**:在采集信号之前,首先创建一个数据矩阵用于存储采集到的数据。这可以通过使用LabVIEW中的“数组”和“矩阵”控件来实现。 2. **设置RemainingAhead参数**:RemainingAhead参数定义了每次...

    LabVIEW数据采集中文教程

    在IT行业的广阔领域中,LabVIEW作为一种图形化编程语言,为数据采集、测量与控制提供了强大的工具。《LabVIEW数据采集中文教程》这一资源,无疑是想要深入掌握LabVIEW技术的工程师、科研人员以及学生的福音。本文将...

    公共数据采集规范.pdf

    "公共数据采集规范.pdf" 本文档旨在对公共数据采集规范进行总体性介绍和解释。...本规范对公共数据采集的各个方面进行了详细的规定和解释,为公共机构、企事业单位、社会组织等提供了一个有价值的参考依据。

    采集数据程序_采集数据_C#数据采集_数据采集c++_

    数据采集是IT领域中至关重要的一个环节,它涉及到从各种来源获取信息并将其转化为可分析的数据。在这个过程中,编程语言的选择对于实现高效、精准的数据采集至关重要。标题中的"采集数据程序_采集数据_C#数据采集_...

    LabVIEW数据采集教程

    本教程旨在指导读者使用LabVIEW实现数据采集,涵盖了从设备初始化到任务创建、数据采集、波形图绘制等方面的内容。 一、设备初始化 在开始数据采集前,需要初始化设备。可以使用Mesurement&Automention Explorer来...

    LabView 数据采集_weather465_labview_数据采集labview_labview数据采集_数据采集_

    在本案例中,“LabView 数据采集_weather465_labview_数据采集labview_labview数据采集_数据采集_”的标题暗示我们关注的焦点是使用LabView进行数据采集,特别是与气象相关的数据。 数据采集是LabView的一个核心...

    Fly_ZED_SimpleGrab:从两个pointgray相机以及一个zed相机同时采集数据并调整参数。.zip

    Fly_ZED_SimpleGrab:从两个pointgray相机以及一个zed相机同时采集数据并调整参数。 Fly_ZED_SimpleGrab:从两个pointgray相机以及一个zed相机同时采集数据并调整参数。 Fly_ZED_SimpleGrab:从两个pointgray相机...

    网站访问数据采集

    在这个项目中,我们使用Java语言来完成这一任务,结合Servlet技术实现后台数据的查询和处理,旨在创建一个类似网站统计的应用,能够记录和分析网站的PV(页面浏览量)和UV(独立访客数)等核心指标。 首先,让我们...

    数据采集软件P8.rar

    P8与这两款软件的兼容性确保了用户可以在一个统一的平台上进行数据分析,减少了在不同系统间切换的困扰。 P8的数据采集软件可能包含以下特性: 1. 实时同步:能够实时从用友U8和金蝶等财务软件中获取最新的财务...

    一种基于Qt数据采集程序的设计与实现.pdf

    基于Qt数据采集程序的设计与实现 Qt是一个功能强大且广泛应用的跨... Qt提供了一个功能强大且灵活的框架,能够满足嵌入式系统中的数据采集需求。因此,基于Qt的数据采集程序将在嵌入式系统中发挥着越来越重要的作用。

    ECMS采集实例教程

    在"ECMS采集实例教程"中,我们将以一个简单的网页采集为例,逐步了解这一过程: 1. **设定采集目标**:首先,你需要确定要采集的网页,这可以通过提供URL来实现。选择一个具有代表性的、结构清晰的网页,便于初学者...

    网络矿工采集任务配置演练图文教程

    《网络矿工采集任务配置演练图文教程》是一个深入解析网络数据采集过程的教育资源,主要针对“网络矿工教程”这一主题。在这个教程中,我们将详细探讨如何高效地配置和执行网络矿工(Web Scraper)任务,以获取...

    C# 数据采集系统 智能采集 数据分析 整套源码

    总的来说,"C# 数据采集系统 智能采集 数据分析 整套源码"是一个综合性的项目,涵盖了从网络数据采集、智能策略、数据处理、数据库操作到系统架构等多个方面的知识。通过深入理解并实践这套源码,开发者可以提升在...

    疯子页面采集器教程

    在本教程中,我们将深入探讨这款采集器的功能、使用方法以及如何利用它进行网页数据的自动化采集。 1. **基本概念** - **网页采集**:是指从互联网上获取特定网页或一系列网页中的数据,通常是为了分析、存储或...

    Python程序设计:数据采集技术.pptx

    数据采集和爬虫基础 房屋信息抓取;知识点:常用的数据采集技术 ;数据采集技术;数据采集技术;要用大数据对关系数据库上的数据进行分析处理,很多时候都必须要将数据从关系数据库导入到大数据平台上。;应用程序日志一...

Global site tag (gtag.js) - Google Analytics