IWorkloadStorable接口:
Spider的主要工作之一就是处理访问过的和将要访问的站点的列表,称为作业。IWorkloadStorable接口定义的对象就可以存入和取出作业中的网页.
最主要的两个方法:
public String assignWorkload();//取出作业里的网页
public void addWorkload(String url);//向作业里存入网页;
除此以外,还有其他的一些方法和成员变量:
1. package com.heaton.bot;
2.
3. /**
4. * This interface defines a class that can
5. * be used to store a spider's workload(作业).
6. * The Bot package currently supports two
7. * different workload stores:
8. *
9. * SpiderInternalWorkload - Stores the
10. * contents of the workload in memory.
11. *
12. * SpiderSQLWorkload - Stores the contents
13. * of the workload in an SQL database.
14. */
15. public interface IWorkloadStorable {
16.
17. /**
18. * A workload entry has a status of running
19. * if the spider worker is opening or downloading
20. * that page. This state usually goes to COMPLETE
21. * or ERROR.
22. */
23. public static final char RUNNING = 'R';
24.
25. /**
26. * Processing of this URL resulted in an
27. * error.
28. */
29. public static final char ERROR = 'E';
30.
31. /**
32. * This URL is waiting for a spider
33. * worker to take it on.
34. */
35. public static final char WAITING = 'W';
36.
37. /**
38. * This page is complete and should not
39. * be redownloaded.
40. */
41. public static final char COMPLETE = 'C';
42.
43. /**
44. * The status is unknown.
45. */
46. public static final char UNKNOWN = 'U';
47.
48. /**
49. * Call this method to request a URL
50. * to process. This method will return
51. * a WAITING URL and mark it as RUNNING.
52. *
53. * @return The URL that was assigned(指定,分配).
54. * 相当于getworkload()。
55. */
56. public String assignWorkload();
57.
58. /**
59. * Add a new URL to the workload, and
60. * assign it a status of WAITING.
61. *
62. * @param url The URL to be added.
63. */
64. public void addWorkload(String url);
65.
66. /**
67. * Called to mark this URL as either
68. * COMPLETE or ERROR.
69. *
70. * @param url The URL to complete.
71. * @param error true - assign this workload a status of ERROR.
72. * false - assign this workload a status of COMPLETE.
73. */
74. public void completeWorkload(String url,boolean error);
75.
76. /**
77. * Get the status of a URL.
78. *
79. * @param url Returns either RUNNING, ERROR
80. * WAITING, or COMPLETE. If the URL
81. * does not exist in the database,
82. * the value of UNKNOWN is returned.
83. * @return Returns either RUNNING,ERROR,
84. * WAITING,COMPLETE or UNKNOWN.
85. */
86. public char getURLStatus(String url);
87.
88. /**
89. * Clear the contents of the workload store.
90. */
91. public void clear();
92. }
93.
其他几个方法不是常用到,倒是那几个状态变量可以留作理清思路之用。
That‘s OK!
分享到:
相关推荐
java网络蜘蛛源码发展套件 ...IWorkloadStorable Link Log Recognize RecognizeCountry RecognizeLink Spider SpiderInternalWorkload SpiderSQLWorkload SpiderWorker URLUtility
项目中常见的问题,记录一下解决方案
avnet(安富利)网站详情页数据样例
该数据集涵盖了2005至2012年间全国各地区二级专业承包建筑业企业的利润总额。这些数据不仅包括了原始数据,还提供了线性插值和ARIMA填补的版本,以便于研究者能够根据不同的需求选择合适的数据形式进行分析。数据集中包含了行政区划代码、地区名称、是否属于长江经济带、经纬度信息、年份以及利润总额等关键指标。这些指标为评估企业的经营效益和盈利水平提供了重要依据,同时也反映了建筑业在不同地区的发展态势。数据来源为国家统计局,确保了数据的权威性和准确性。通过这些数据,研究者可以深入分析建筑业的经济贡献及其在宏观经济中的作用,为政策制定和行业规划提供数据支持。
本文档主要讲述的是CentOS6.4 X64安装Oracle11g;在CentOS安装oracle11g比安装oracle10g简单很多,oracle可以不设置比如OS内核参数、防火墙、环境变量等,所以实施时推荐安装oracle11g。感兴趣的朋友可以过来看看
发动机零部件质量信息反馈及处理表.docx
全国省市县土地利用类型面板数据2009-2021年是一项详尽的数据集,它基于土地利用方式和地域差异,对土地资源单元进行细致划分,反映了土地的用途、性质和分布规律。该数据集涵盖了全国各省、地级市、县的土地利用类型,包括耕地、园地、林地、交通运输用地、水域及沙地等多种土地类型。时间范围上,省级和地级市的土地利用类型面板数据覆盖2009至2021年;县级土地利用类型面板数据则从2019年开始至2021年。数据指标丰富,包括行政单位、年份以及各类土地利用的具体分类,如水田、水浇地、旱地、果园、茶园等,以及城镇村及工矿用地、交通运输用地、水域及水利设施用地等。这些数据为政府决策、规划编制以及土地资源管理提供了坚实的数据基础,有助于全面了解土地资源的利用状况,并为未来的规划和管理提供支持。
项目中常见的问题,记录一下解决方案
好课分享——前端跳槽突围课:React18底层源码深入剖析(完结21章)
1111java后端1111Controller
嵌入式系统开发-STM32单片机-电子春联-代码设计
潜在失效模式及后果分析(FMEA)应用流程.docx
内容概要:本文详细介绍了如何使用Python和Matplotlib库创建一个动态的3D圣诞树动画。通过代码示例,展示了几何形状的创建方法,如圣诞树的形状、装饰品和星星的位置计算,以及如何通过动画更新函数实现闪烁效果。 适合人群:具有一定Python编程基础的开发者,尤其是对Matplotlib库和数据可视化感兴趣的读者。 使用场景及目标:① 学习Matplotlib库的基本用法,包括3D绘图和动画制作;② 掌握几何形状的数学建模方法,如圆锥和球体;③ 实践动画效果的实现技巧,提升编程技能。 阅读建议:本教程以具体代码示例为主,理论与实践相结合。建议读者在阅读过程中亲自编写和运行代码,逐步理解每一步骤的实现细节。
开发一个带有 PCIe Endpoint 设备的驱动程序并实现热插拔功能
【项目资源】:包含前端、后端、移动开发、操作系统、人工智能、物联网、信息化管理、数据库、硬件开发、大数据、课程资源、音视频、网站开发等各种技术项目的源码。包括STM32、ESP8266、PHP、QT、Linux、iOS、C++、Java、python、web、C#、EDA、proteus、RTOS等项目的源码。【项目质量】:所有源码都经过严格测试,可以直接运行。功能在确认正常工作后才上传。【适用人群】:适用于希望学习不同技术领域的小白或进阶学习者。可作为毕设项目、课程设计、大作业、工程实训或初期项目立项。【附加价值】:项目具有较高的学习借鉴价值,也可直接拿来修改复刻。对于有一定基础或热衷于研究的人来说,可以在这些基础代码上进行修改和扩展,实现其他功能。【沟通交流】:有任何使用上的问题,欢迎随时与博主沟通,博主会及时解答。鼓励下载和使用,并欢迎大家互相学习,共同进步。
消防气压给水设备和稳压泵安装 分项工程质量验收记录表.docx
Cytoscape-3-10-0-windows-64bit.exe
【项目资源】:包含前端、后端、移动开发、操作系统、人工智能、物联网、信息化管理、数据库、硬件开发、大数据、课程资源、音视频、网站开发等各种技术项目的源码。包括STM32、ESP8266、PHP、QT、Linux、iOS、C++、Java、python、web、C#、EDA、proteus、RTOS等项目的源码。【项目质量】:所有源码都经过严格测试,可以直接运行。功能在确认正常工作后才上传。【适用人群】:适用于希望学习不同技术领域的小白或进阶学习者。可作为毕设项目、课程设计、大作业、工程实训或初期项目立项。【附加价值】:项目具有较高的学习借鉴价值,也可直接拿来修改复刻。对于有一定基础或热衷于研究的人来说,可以在这些基础代码上进行修改和扩展,实现其他功能。【沟通交流】:有任何使用上的问题,欢迎随时与博主沟通,博主会及时解答。鼓励下载和使用,并欢迎大家互相学习,共同进步。
【项目资源】:包含前端、后端、移动开发、操作系统、人工智能、物联网、信息化管理、数据库、硬件开发、大数据、课程资源、音视频、网站开发等各种技术项目的源码。包括STM32、ESP8266、PHP、QT、Linux、iOS、C++、Java、python、web、C#、EDA、proteus、RTOS等项目的源码。【项目质量】:所有源码都经过严格测试,可以直接运行。功能在确认正常工作后才上传。【适用人群】:适用于希望学习不同技术领域的小白或进阶学习者。可作为毕设项目、课程设计、大作业、工程实训或初期项目立项。【附加价值】:项目具有较高的学习借鉴价值,也可直接拿来修改复刻。对于有一定基础或热衷于研究的人来说,可以在这些基础代码上进行修改和扩展,实现其他功能。【沟通交流】:有任何使用上的问题,欢迎随时与博主沟通,博主会及时解答。鼓励下载和使用,并欢迎大家互相学习,共同进步。
文件太大放服务器下载,请务必先到资源详情查看然后下载 样本图参考:blog.csdn.net/2403_88102872/article/details/143977852 数据集格式:Pascal VOC格式+YOLO格式(不包含分割路径的txt文件,仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数):1167 标注数量(xml文件个数):1167 标注数量(txt文件个数):1167 标注类别数:8 标注类别名称:["ddan_boc_tt","ddan_ct","ddan_ct_tua","ddan_ct_vatla","ddan_tran_tt","ddan_tt_mon","ddan_tt_tua","ddan_tt_vatla"]