浏览 30781 次
|
锁定老帖子 主题：Heritrix使用的初步总结
该帖已经被评为良好帖
|
|
|---|---|
| 作者 | 正文 |
|
发表时间：2007-05-29
一、框架介绍
公司最近项目要用到全文检索，检索对象是一些网站的网页内容，要使用到网络爬虫工具。
目前技术选型对象主要有两个：Heritrix 和 Nutch。二者均为Java开源框架，Heritrix 是 SourceForge上的开源产品，Nutch为Apache的一个子项目，它们都称作网络爬虫/蜘蛛（ Web Crawler），它们实现的原理基本一致：深度遍历网站的资源，将这些资源抓取到本地，使用的方法都是分析网站每一个有效的URI，并提交Http请求，从而获得相应结果，生成本地文件及相应的日志信息等。
下面是二者的介绍，摘自网络：
二、关于Heritrix使用的初步总结
目前对Heritrix做了初步选型测试，有了一些总结：
1.关于安装：
目前的版本号为1.12.1，官网地址为 http://crawler.archive.org/。常规安装，即解压到相关目录，之后配置系统环境变量"HERITRIX_HOME"到该解压目录（Java环境已经配置好）。
2.安装的后续工作：
将 %HERITRIX_HOME%\heritrix-1.12.1.jar 解压到临时目录，拷贝其中的profiles目录到 %HERITRIX_HOME%\conf\目录下，用来解决Heritrix 关于的Profile默认配置的一个Bug。
3.配置管理帐户：
拷贝 %HERITRIX_HOME%\conf\jmxremote.password.template 到 %HERITRIX_HOME%\下，并且重命名为"jmxremote.password"。之后编辑该文件内容关于密码的部分：
monitorRole @PASSWORD@ monitorRole admin
controlRole @PASSWORD@ ==> controlRole admin 修改完毕之后，保存该文件。并且需要将该文件的属性改为“只读”。然后有很重要的一步：在该文件jmxremote.password的属性窗口中查看“安全”标签，该标签下的第一项“组或用户名称”下要确认该文件的所有权应该只隶属于你当前的系统用户，而不应该是某一个用户组（例如Administrators），这应该是Heritrix安全机制的一个Bug。否则运行Heritrix的时候会报权限错误，需要你修改jmxremote.password文件的属性为“只读”，但是其实已经做了该项改动。
4.运行Heritrix：
CMD定位到 %HERITRIX_HOME%\bin，执行 "heritrix --admin=admin:admin" 命令，即可启动 heritrix，有一点需要注意，heritrix默认使用8080端口，要保证系统端口没有冲突。之后便可以访问 http://127.0.0.1:8080 使用 heritrix 提供的WUI，即Web管理端。并且使用"admin/admin"登录。
该管理端提供了Heritrix默认提供的所有配置功能，并且可以创建一个Job并且执行该Job抓取网站。
5.一个简单的Job:
Heritrix提供的配置功能非常丰富，但是也很复杂，刚开始的时候很难正确的创建并且执行一个Job去抓取网站，自己阅读了大部分的Heritrix用户文档和多次尝试之后，总结了一个简单的创建执行Job的用例，该用例为抓取www.baidu.com下的网页，但子域（如 news.baidu.com）不抓取，步骤如下，可供参考：
按照如上步骤应该可以正确的执行一次网站的抓取任务，抓取页面会存放在你的工作目录下的mirror文件夹内。关于Job的创建和执行过程中的各种设置可以在用户手册中查到，都有详细的说明。
声明：ITeye文章版权属于作者，受法律保护。没有作者书面许可不得转载。
推荐链接
|
| 返回顶楼 | |
|
发表时间：2007-07-21
这段时间也在看Heritrix
有时间一起交流,交流 |
| 返回顶楼 | |
|
发表时间：2007-07-23
最近也是因为工作的原因学习Heritrix，试着Lucene+Heritrix 来开发一个全站搜索的功能， Heritrix的功能强大 但是配置起来却有点麻烦， 而且因为硬件的原因 遇到很大麻烦 希望以后的开发过程中 有机会交流
|
| 返回顶楼 | |
|
发表时间：2007-07-23
Heritrix其实并没有我想像中那么强大和好用，提供的功能没有nutch多，有点整站下载的味道（从这个方面来说和网络快车提供的整站下载又有什么区别呢？）。既没有索引又没有解析，甚至对于重复爬取URL都处理不是很好。所以用Heritrix的人可要注意了。
最好用之前跟Nutch仔仔细细对比一遍之后再做决定。 |
| 返回顶楼 | |
|
发表时间：2007-10-23
正在学习怎么把抓取的内容跟lucene结合使用
|
| 返回顶楼 | |
|
发表时间：2007-11-16
选择"Modules"右边的"Submodules
这个Submodules能不能讲解的详细些啊，现在用1.12.1版本 |
| 返回顶楼 | |
|
发表时间：2007-11-23
很奇怪运行起来之后，Modules下各种预设置没有修改项出来。
|
| 返回顶楼 | |
