CN103559083B - 网页爬取任务调度方法与任务调度器 - Google Patents

Abstract

本发明提供了一种网页爬取任务调度方法与任务调度器，其中，网页爬取任务调度方法包括：确定各个数据中心的网络爬虫的当前任务积压状态；若当前数据中心的任务积压状态为少量任务积压，则调整当前数据中心中的网络爬虫的抓取进程数量，并继续向当前数据中心调度后续网页爬取任务；若当前数据中心的任务积压状态为大量任务积压、且存在任务积压状态为少量任务积压或无积压的其它数据中心，则将调度给当前数据中心的后续网页爬取任务调度给任务积压状态为少量任务积压的其它数据中心；若所有数据中心的任务积压状态均为大量任务积压，则延迟设定时间后再进行后续网页爬取任务调度。通过本发明，提高了蜘蛛抓取效率。

Description

网页爬取任务调度方法与任务调度器

技术领域

本发明涉及计算机技术领域，特别是涉及一种网络蜘蛛的网页爬取任务调度方法与任务调度器。

背景技术

网络蜘蛛也称Web蜘蛛，是指通过网络请求，访问互联网上的各个站点，来获取一些有价值信息的应用。网络蜘蛛通过网页的链接地址来寻找网页，从网站某一个页面（通常是首页）开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。

当需要访问的站点或网页数量较多时，单个机器或单个数据中心中蜘蛛的获取信息的能力将非常有限。这个时候就会需要使用到多个机器或多个数据中心的蜘蛛，来对大量的站点及网页进行抓取。现有使用多个机器或多个数据中心的蜘蛛时，蜘蛛任务的分配大多是将各个站点或各个需要抓取的页面任务，平均地进行分配。

然而，对于任意一个站点来说，各数据中心的网络蜘蛛访问该站点的速度是不一样的，这种平均分配策略有可能造成将抓取任务分配给访问速度慢的数据中心，而访问速度快的数据中心则可能处于空闲状态，造成蜘蛛抓取效率不高。此外，各数据中心在一天内各个时间段的网络情况也不一样，如果某个数据中心的网络情况不佳，则分配给那个数据中心的任务则会持续积压，这样不仅会造成程序稳定性的问题，还会导致一些重要站点的抓取出现较长时间的延迟，同样使得蜘蛛抓取效率不高。

发明内容

鉴于上述现有的网页爬取中，蜘蛛抓取效率不高的问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的网页爬取任务调度方法与任务调度器。

依据本发明的一个方面，提供了一种网页爬取任务调度方法，包括：

确定各个数据中心的网络爬虫的当前任务积压状态；

若当前数据中心的所述任务积压状态为少量任务积压，则调整所述当前数据中心中的网络爬虫的抓取进程数量，并继续向所述当前数据中心调度后续网页爬取任务；

若当前数据中心的所述任务积压状态为大量任务积压、且存在所述任务积压状态为少量任务积压或无积压的其它数据中心，则将调度给所述当前数据中心的后续网页爬取任务调度给所述任务积压状态为少量任务积压的其它数据中心；

若所有数据中心的所述任务积压状态均为大量任务积压，则延迟设定时间后再进行后续网页爬取任务调度。

可选地，所述确定各个数据中心的网络爬虫的当前任务积压状态的步骤包括：

获取所述各个数据中心的当前网页爬取任务数和当前网页爬取工作进程数；

根据所述当前网页爬取任务数和当前网页爬取工作进程数，确定所述各个数据中心的当前任务积压比例；

当所述当前任务积压比例大于或等于第一设定阈值，且小于第二设定阈值时，则所述数据中心的当前任务积压状态为少量任务积压；

当所述当前任务积压比例大于或等于所述第二设定阈值时，则所述数据中心的当前任务积压状态为大量任务积压。

可选地，所述若当前数据中心的所述任务积压状态为少量任务积压，则调整所述当前数据中心中的网络爬虫的抓取进程数量的步骤包括：

根据所述任务积压状态为少量任务积压的当前数据中心的所述当前任务积压比例，判断在下一次网页爬取任务调度前，所述少量任务积压的当前数据中心完成当前所有网页爬取任务的执行的机率；

若所述机率不为100%，则判断当前数据中心的所述当前网页爬取工作进程数是否小于设定的最大进程数；若小于，则在所述最大进程数允许的范围内增加第一设定数量的网页爬取工作进程；若不小于，则不进行网页爬取工作进程数调整；

若所述机率为100%，则判断当前数据中心的所述当前网页爬取工作进程数是否大于设定的最小进程数、且减少第二设定数量的网页爬取工作进程后仍能在下一次网页爬取任务调度前，将当前数据中心的当前所有网页爬取任务执行完；若是，则在所述最小进程数允许的范围内减少所述第二设定数量的网页爬取工作进程；若否，则不进行网页爬取工作进程数调整。

可选地，在所述若所有数据中心的所述任务积压状态均为大量任务积压，则延迟设定时间后再进行后续网页爬取任务调度的步骤之后，还包括：

记录所述延迟的次数；

若所述延迟的次数大于第三设定阈值，则仍向所述任务积压状态为大量任务积压的数据中心调度后续网页爬取任务。

可选地，在所述确定各个数据中心的网络爬虫的当前任务积压状态的步骤之前，还包括：

获取所述各个数据中心的网络爬虫的网页爬取权限；

根据所述各个数据中心的网络爬虫的网页爬取权限，获取各个数据中心组成的所有数据中心的网络爬虫的网页爬取权限；

根据所述各个数据中心的网络爬虫的网页爬取权限，和所述所有数据中心的网络爬虫的网页爬取权限，按照设定规则为所述各个数据中心分配网页爬取任务。

可选地，所述获取所述各个数据中心的网络爬虫的网页爬取权限的步骤包括：对于每个数据中心，获取当前数据中心的网络爬虫在设定时间段内，抓取各个网页的页面数量；对于每个所述网页，将当前数据中心的所述网络爬虫在所述设定时间段内，抓取的当前网页的页面数量，与当前数据中心的所述网络爬虫的数量的积，作为当前数据中心的所述网络爬虫对当前网页的网页爬取权限；

所述根据所述各个数据中心的网络爬虫的网页爬取权限，获取各个数据中心组成的所有数据中心的网络爬虫的网页爬取权限的步骤包括：对于每个所述网页，将各个数据中心的所述网络爬虫对当前网页的网页爬取权限的和，作为所有数据中心的网络爬虫对当前网页的网页爬取权限。

可选地，所述根据所述各个数据中心的网络爬虫的网页爬取权限，和所述所有数据中心的网络爬虫的网页爬取权限，按照设定规则为所述各个数据中心分配网页爬取任务的步骤包括：

对于每个所述网页，按照各个数据中心对当前网页的网页爬取权限与所有数据中心对当前网页的网页爬取权限的百分比，向各个数据中心分配抓取当前网页的网页爬取任务。

根据本发明的另一方面，提供了一种任务调度器，包括：

状态确定模块，用于确定各个数据中心的网络爬虫的当前任务积压状态；

第一积压调度模块，用于若当前数据中心的所述任务积压状态为少量任务积压，则调整所述当前数据中心中的网络爬虫的抓取进程数量，并继续向所述当前数据中心调度后续网页爬取任务；

第二积压调度模块，用于若当前数据中心的所述任务积压状态为大量任务积压、且存在所述任务积压状态为少量任务积压或无积压的其它数据中心时，则将调度给所述当前数据中心的后续网页爬取任务调度给所述任务积压状态为少量任务积压的其它数据中心；

第三调度模块，用于若所有数据中心的所述任务积压状态均为大量任务积压，则延迟设定时间后再进行后续网页爬取任务调度。

可选地，所述状态确定模块包括：

获取模块，用于获取所述各个数据中心的当前网页爬取任务数和当前网页爬取工作进程数；

确定模块，用于根据所述当前网页爬取任务数和当前网页爬取工作进程数，确定所述各个数据中心的当前任务积压比例；当所述当前任务积压比例大于或等于第一设定阈值，且小于第二设定阈值时，则所述数据中心的当前任务积压状态为少量任务积压；当所述当前任务积压比例大于或等于所述第二设定阈值时，则所述数据中心的当前任务积压状态为大量任务积压。

可选地，所述任务调度器还包括：分配模块，用于在所述状态确定模块确定各个数据中心的网络爬虫的当前任务积压状态之前，获取所述各个数据中心的网络爬虫的网页爬取权限；根据所述各个数据中心的网络爬虫的网页爬取权限，获取各个数据中心组成的所有数据中心的网络爬虫的网页爬取权限；根据所述各个数据中心的网络爬虫的网页爬取权限，和所述所有数据中心的网络爬虫的网页爬取权限，按照设定规则为所述各个数据中心分配网页爬取任务。

本发明中，在调度网页爬取任务时，首先确定各个数据中心的网络爬虫的当前任务积压状态，进而根据各个数据中心不同的任务积压状态进行相适应地任务调度。如果某数据中心无任务积压，则直接进行网页爬取任务调度；如果某数据中心有少量任务积压，将自行加大抓取强度；如果某数据中心出现大量任务积压时，会选择任务积压少的数据中心实施调度；如果各个数据中心均有大量积压任务，则将需要分配的任务延迟一定的时间，防止出现更严重的积压。通过本发明，使得网页爬取任务调度更为有效、合理，避免了程序不稳定和抓取出现较长时间的延迟的现象，提高了蜘蛛抓取效率。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1是根据本发明实施例一的一种网页爬取任务调度方法的步骤流程图；

图2是根据本发明实施例二的一种网页爬取任务调度方法的步骤流程图；

图3是根据本发明实施例三的一种网页爬取任务调度方法的步骤流程图；

图4是图3所示实施例中的网页爬取任务分配的具体流程图；

图5是图3所示实施例中的网页爬取任务调度的具体流程图；

图6是根据本发明实施例四的一种任务调度器的结构框图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

实施例一

参照图1，示出了根据本发明实施例一的网页爬取任务调度方法的步骤流程图。

本实施例的网页爬取任务调度方法包括以下步骤：

步骤S102：确定各个数据中心的网络爬虫的当前任务积压状态。

每个数据中心中设置有一至多台用于执行网页爬取任务的服务器，每台服务器上设置有多个网络爬虫程序，通常一个数据中心的多台服务器主要针对一个电信运营商运营的网站进行网页爬取，但在某些情况下，如该数据中心空闲而其它数据中心任务量较大时，也可以爬取其它电信运营商运营的网站的网页。

当前任务积压状态反映了各个数据中心的当前网页爬取任务执行情况，各个数据中心的当前任务积压状态根据任务积压情况可以分为无积压、少量积压和大量积压。具体的积压判定可以由本领域技术人员根据实际情况适当设置，如根据任务积压时间和/或任务积压数量等等。本实施例中，以数据中心为单位，确定各个数据中心的网络爬虫的当前任务积压状态。

步骤S104：若当前数据中心的任务积压状态为无积压，则直接继续向当前数据中心调度后续网页爬取任务。

步骤S106：若当前数据中心的任务积压状态为少量任务积压，则调整当前数据中心中的网络爬虫的抓取进程数量，并继续向当前数据中心调度后续网页爬取任务。

步骤S108：若当前数据中心的任务积压状态为大量任务积压、且存在任务积压状态为少量任务积压或无积压的其它数据中心，则将调度给当前数据中心的后续网页爬取任务调度给任务积压状态为少量任务积压的其它数据中心。

一般来说，会先选择与当前数据中心执行相同的电信运营商的网页爬取任务的其它数据中心，在没有这样的数据中心的情况下，再选择执行不同的电信运营商的网页爬取任务的数据中心。

步骤S110：若所有数据中心的任务积压状态均为大量任务积压，则延迟设定时间后再进行后续网页爬取任务调度。

通过本实施例，在调度网页爬取任务时，首先确定各个数据中心的网络爬虫的当前任务积压状态，进而根据各个数据中心不同的任务积压状态进行相适应地任务调度。如果某数据中心无任务积压，则直接进行网页爬取任务调度；如果某数据中心有少量任务积压，将自行加大抓取强度；如果某数据中心出现大量任务积压时，会选择任务积压少的数据中心实施调度；如果各个数据中心均有大量积压任务，则将需要分配的任务延迟一定的时间，如原分配时间的1.5倍，防止出现更严重的积压。通过本实施例，使得网页爬取任务调度更为有效、合理，避免了程序不稳定和抓取出现较长时间的延迟的现象，提高了蜘蛛抓取效率。

实施例二

参照图2，示出了根据本发明实施例二的网页爬取任务调度方法的步骤流程图。

本实施例中，以对网页爬取任务进行调度的任务调度器为执行主体，该任务调度器可以设置于某个数据中心中，也可以设置在独立的调度中心，用于对网络爬虫的网页爬取任务进行分配和调度。

本实施例的网页爬取任务调度方法包括以下步骤：

步骤S202：任务调度器获取各个数据中心的网络爬虫的网页爬取权限。

其中，网页爬取权限用于表示网络爬虫的爬网能力，如在设定时间内对某个或某些网站网页的爬取能力。

本实施例中，获取各个数据中心的网络爬虫的网页爬取权限的优选方式是，对于每个数据中心，获取当前数据中心的网络爬虫在设定时间段内，抓取各个网页的页面数量；对于每个所述网页，将当前数据中心的网络爬虫在设定时间段内，抓取的当前网页的页面数量，与当前数据中心的网络爬虫的数量的积，作为当前数据中心的网络爬虫对当前网页的网页爬取权限。通过该种获取方式，能够全面、客观地反映出数据中心的网络爬虫的网页爬取能力。

步骤S204：任务调度器根据各个数据中心的网络爬虫的网页爬取权限，获取各个数据中心组成的所有数据中心的网络爬虫的网页爬取权限。

优选地，在采用上述获取各个数据中心的网络爬虫的网页爬取权限的优选方式的基础上，对于每个所述网页，可以将各个数据中心的网络爬虫对当前网页的网页爬取权限的和，作为所有数据中心的网络爬虫对当前网页的网页爬取权限。

步骤S206：任务调度器根据各个数据中心的网络爬虫的网页爬取权限，和所有数据中心的网络爬虫的网页爬取权限，按照设定规则为各个数据中心分配网页爬取任务。

在获取了各个数据中心的网络爬虫的网页爬取权限后，可以采用任意适当的方式为各个数据中心分配网页爬取任务。一种优选的方式为，对于每个所述网页，按照各个数据中心对当前网页的网页爬取权限与所有数据中心对当前网页的网页爬取权限的百分比，向各个数据中心分配抓取当前网页的网页爬取任务。其中，百分比可以由本领域技术人员根据实际情况适当设置，本发明对此不作限制。

通过本发明上述的实施例，实现了各个数据中心网页爬取任务的合理分配。

需要说明的是，在实际应用中，网页爬取任务分配方式不限于上述步骤S202-S206的方式，也可以采用其它网页爬取任务分配方案，仅采用下述网页爬取任务调度方案，以实现对网页爬取任务的有效调度。而将本实施例的上述网页爬取任务分配方案和下述网页爬取任务调度方案相结合，使得网页爬取任务分配和调度均达到高效和合理的效果；并且，将本实施例的网页爬取任务分配结合到网页爬取任务调度方案中，进一步提高了网页爬取任务调度和执行效率，避免了网页爬取任务积压。

步骤S208：任务调度器确定各个数据中心的网络爬虫的当前任务积压状态。

其中，任务积压状态包括：无积压、少量任务积压和大量任务积压。

优选地，一种确定各个数据中心的网络爬虫的当前任务积压状态的方式包括：获取各个数据中心的当前网页爬取任务数和当前网页爬取工作进程数；根据当前网页爬取任务数和当前网页爬取工作进程数，确定各个数据中心的当前任务积压比例；当当前任务积压比例小于第一设定阈值时，则数据中心的当前任务积压状态为无积压；当当前任务积压比例大于或等于第一设定阈值，且小于第二设定阈值时，则数据中心的当前任务积压状态为少量任务积压；当当前任务积压比例大于或等于第二设定阈值时，则数据中心的当前任务积压状态为大量任务积压。其中，第一设定阈值小于第二设定阈值。通过当前网页爬取任务数和当前网页爬取工作进程数，可以更为准确地确定当前任务积压状态。

步骤S210：若当前数据中心的任务积压状态为无积压，则任务调度器直接继续向当前数据中心调度后续网页爬取任务。

步骤S212：若当前数据中心的所述任务积压状态为少量任务积压，则任务调度器调整当前数据中心中的网络爬虫的抓取进程数量，并继续向当前数据中心调度后续网页爬取任务。

其中，调整当前数据中心中的网络爬虫的抓取进程数量的步骤包括：

根据任务积压状态为少量任务积压的当前数据中心的当前任务积压比例，判断在下一次网页爬取任务调度前，少量任务积压的当前数据中心是否能将本数据中心的当前所有网页爬取任务执行完，也即，判断在下一次网页爬取任务调度前，少量任务积压的当前数据中心完成当前所有网页爬取任务的执行的机率；

若不能（机率不为100%），则判断当前数据中心的当前网页爬取工作进程数是否小于设定的最大进程数；若小于，则在最大进程数允许的范围内增加第一设定数量的网页爬取工作进程；若不小于，则不进行网页爬取工作进程数调整；

若能（机率为100%），则判断当前数据中心的当前网页爬取工作进程数是否大于设定的最小进程数、且减少第二设定数量的网页爬取工作进程后仍能在下一次网页爬取任务调度前，将当前数据中心的当前所有网页爬取任务执行完；若是，则在最小进程数允许的范围内减少第二设定数量的网页爬取工作进程；若否，则不进行网页爬取工作进程数调整。

其中，第一设定数量和第二设定数量均由本领域技术人员根据实际情况适当设置，本发明对此不作限制。

在最大进程数允许的范围内增加第一设定数量的网页爬取工作进程，可以有效保证网页爬取任务的完成，避免任务积压；在最小进程数允许的范围内减少第二设定数量的网页爬取工作进程，在保证网页爬取任务完成的基础上，减少系统消耗。

步骤S214：若当前数据中心的任务积压状态为大量任务积压、且存在任务积压状态为少量任务积压或无积压的其它数据中心，则任务调度器将调度给当前数据中心的后续网页爬取任务调度给任务积压状态为少量任务积压的其它数据中心。

步骤S216：若所有数据中心的任务积压状态均为大量任务积压，则任务调度器延迟设定时间后再进行后续网页爬取任务调度。

延迟设定时间后再进行后续网页爬取任务调度，可以避免更加严重的任务积压。具体的延迟设定时间可以由本领域技术人员根据实际情况适当设置，如延迟为原时间的1.5倍等，本发明对此不作限制。

步骤S218：任务调度器记录延迟的次数；若延迟的次数大于第三设定阈值，则任务调度器仍向任务积压状态为大量任务积压的数据中心调度后续网页爬取任务。

当延迟的次数大于第三设定阈值时，任务调度器仍然向任务积压状态为大量任务积压的数据中心调度后续网页爬取任务，避免了网页爬取任务无法得到调度的现象。

通过本实施例，使得网页爬取任务调度更为有效、合理，避免了程序不稳定和抓取出现较长时间的延迟的现象，提高了蜘蛛抓取效率。

实施例三

参照图3，示出了根据本发明实施例三的网页爬取任务调度方法的步骤流程图。

本实施例中，网页爬取任务调度主要包括两部分：第一部分，本发明实施例的网络测速的爬虫任务分配方法；第二部分，蜘蛛任务的动态分配及抓取强度调整方法。由此，本实施例的网页爬取任务调度方法包括以下步骤：

步骤S302：任务调度器基于网络测速进行网页爬取任务分配。

本发明实施例基于网络测速的爬虫任务分配方法包括：控制每个数据中心（也可以称为机房）定期对网络爬虫监控的所有站点进行网络测速，并将测速的结果发送至网络爬虫的任务调度器。任务调度器将在设定时间如每天凌晨，根据各个站点收集的测速结果，调整该站点分配给这些数据中心的任务比例。

本发明实施例中的网页爬取任务分配的具体流程如图4所示，该流程包括：

步骤S3022：记录抓取网页耗时。

例如，所有网络爬虫程序（也称为蜘蛛程序），在访问网站A时，都会将所访问的网站名A及访问时间记录下来。同样，在访问其它网站时，也会进行上述记录。

步骤S3024：收集各数据中心对各网站的抓取耗时数据。

仍以网站A为例，任务调度器会在设定时间如每天的凌晨，将所有数据中心记录下来的数据进行处理，得出每个数据中心的网络爬虫程序，在一段时间内（如1s），所能够抓取网站A的页面数量。记为：ability_i，其中i表示数据中心序号。

步骤S3026：计算各数据中心对各网站的网页爬取权限（即网站的抓取能力）。

仍以网站A为例，将数据中心中的网络爬虫程序数量记为work_i，则该数据中心的抓取网站A的网页爬取权限为work_i×ability_i，其中，work_i中的i与ability_i中的i含义相同，均表示数据中心序号。所有数据中心的对网站A来说，总的网页爬取权限记为work_1*ability_1+work_2*ability_2+……+work_n*ability_n。

步骤S3028：根据网页爬取权限，重新分配网站任务在各数据中心的比例。

仍以网站A为例，网站A的任务分配给数据中心i的比例为，数据中心i抓取网站A的网页爬取权限占所有数据中心抓取网站A网页爬取权限的百分比。

根据上述网页爬取任务分配的流程，假设所有数据中心都是空闲状态，即无积压，任务调度器会将网站A依据计算所得的分配比例，将任务分配给各个数据中心，那么所有数据中心对于网站A的抓取几乎同时完成。这样就不会存在某些数据中心中有任务积压，而另一部分数据中心却一直空闲的情况，从而不浪费时间和资源。

步骤S304：任务调度器对网页爬取任务进行动态分配及抓取强度调整。

本实施例中任务调度器对网页爬取任务的动态分配及抓取强度调整包括：在每次实施任务调度时，任务调度器会对各数据中心当前的抓取强度及积压的任务数量进行实时统计，并根据统计结果，针对以下情况进行相应的处理：

如果某数据中心出现少量的任务积压时，该数据中心将自行加大抓取强度，即：启动更多抓取进程，启动的进程数设置一个上限；

如果某数据中心出现大量的任务积压时，爬虫调度器会将后续任务分配给任务积压少的数据中心；

如果所有数据中心均有大量的任务积压时，任务调度器会将后续的任务延迟一段时间再进行调度，以防止出现更严重的积压。

本发明实施例的网页爬取任务调度的具体流程如图5所示，该流程包括：

步骤S3042：网页爬取任务开始调度。

步骤S3044：检测某个数据中心的任务数及工作进程数，判断积压状况。

假设某数据中心的任务数为task_num，工作进程数为work_num，则该数据中心的积压比例overhead=task_num/work_num。将判断无积压的阈值记为low_threshold，大量积压的阈值记为high_threshold。当overhead<low_threshold时，认为该数据中心无任务积压；当low_threshold<=overhead<high_threshold时，认为该数据中心少量任务积压；当overhead>=high_threshold时，认为该数据中心大量积压。

上述积压阈值的设定，可以在开启网络爬虫进程时，根据设定的最少进程数和最多进程数计算得到。low_threshold的值为，这些任务在进行下一次调度之前，能够在最少进程工作的情况下，将其处理完成的task_num/work_num比。high_threshold的值为，这些任务在进行下一次调度之前，能够在最多进程工作的情况下，将其处理完成的task_num/work_num比。

步骤S3046：判断某个数据中心的任务积压状态是否为大量任务积压，若是，则执行步骤S3048；若否，则执行步骤3054。

步骤S3048：判断是否各个数据中心均为大量任务积压，若是，则执行步骤S3050；若否，则执行步骤S3052。

步骤S3050：将分配给该数据中心的网页爬取任务延迟之后，重新放回至调度队列，等待再次调度，执行步骤S3060。

将网页爬取任务延迟之后，重新放回调度队列的处理，是当发现所有数据中心都有大量积压任务时，这个时候如果再投递任务，只会使积压状况更为严重。这时，任务调度器将修改这些任务的下一次调度时间，将它们下一次的调度时间调整为原来的0.5—1.5倍之间。然后，将这些任务放回调度队列。

此外，为了防止一些任务一直在延迟，永远得不到调度。本实施例的任务调度器将记录这些任务延迟了的次数。当延迟次数大于一定的阈值时，则不论集群是否有大量积压，依然将任务分配出去。

步骤S3052：将分配给该数据中心的网页爬取任务分配至未积压的数据中心，包括无积压的数据中心和少量任务积压的数据中心，执行步骤S3060。

步骤S3054：将分配给该数据中心的网页爬取任务直接分配给该数据中心，执行步骤S3056。

步骤S3056：判断该数据中心的任务积压状态是否为无积压，若是，则执行步骤S3060；若否，则执行步骤S3058。

步骤S3058：调整该数据中心的网页爬取工作进程数，执行步骤S3060。

其中，调整网页爬取工作进程数的过程包括：各个数据中心的网络爬虫进程在每处理完k（由本领域技术人员根据实际情况适当设定）次任务后，就获取一下本数据中心的task_num和work_num，然后判断是否能在下一次调度时，将所有网页爬取任务处理完成。

若不能，则判断当前机器的网页爬取工作进程数量是否小于设定的最大进程数。若小于设定的最大进程数，则启动一个新的进程；若大于设定的最大进程数，则不做任何操作。

若能，则判断work_num减一能否完成网页爬取任务，并且，当前机器的网页爬取工作进程数量是否大于最小进程数。若是，则减少一个工作进程；若不是，则不做任何操作。

通过上述处理，就能够在网页爬取任务量大的时候，增加工作进程，提升服务器同时并行处理的任务数量；在网页爬取任务量少的时候，减少工作进程，降低机器压力，使机器的状态稳定。

步骤S3060：调度完成。

通过本实施例，能够根据各个数据中心的网络爬虫进程抓取不同网站的能力，自动调整该网站抓取任务分配到各数据中心的任务比例。同时，当某些数据中心的任务出现挤压时，能够动态调整任务的分配，有效抑制任务队列的进一步拥堵。并且，能在数据中心任务空闲时，减少网络爬虫的工作进程，降低机器负载，使得程序运行更加稳定。

实施例四

参照图6，示出了根据本发明实施例四的一种任务调度器的结构框图。

本实施例的任务调度器，包括：状态确定模块402，用于确定各个数据中心的网络爬虫的当前任务积压状态；第一调度模块404，用于若当前数据中心的任务积压状态为少量任务积压，则调整当前数据中心中的网络爬虫的抓取进程数量，并继续向当前数据中心调度后续网页爬取任务；第二调度模块406，用于若当前数据中心的任务积压状态为大量任务积压、且存在任务积压状态为少量任务积压或无积压的其它数据中心时，则将调度给当前数据中心的后续网页爬取任务调度给任务积压状态为少量任务积压的其它数据中心；第三调度模块408，用于若所有数据中心的任务积压状态均为大量任务积压，则延迟设定时间后再进行后续网页爬取任务调度。此外，本实施例的任务调度器还可以包括：第四调度模块410，用于若当前数据中心的任务积压状态为无积压，则直接继续向当前数据中心调度后续网页爬取任务。

优选地，状态确定模块402包括：获取模块4022，用于获取各个数据中心的当前网页爬取任务数和当前网页爬取工作进程数；确定模块4024，用于根据当前网页爬取任务数和当前网页爬取工作进程数，确定各个数据中心的当前任务积压比例；当当前任务积压比例小于第一设定阈值时，则数据中心的当前任务积压状态为无积压；当当前任务积压比例大于或等于第一设定阈值，且小于第二设定阈值时，则数据中心的当前任务积压状态为少量任务积压；当当前任务积压比例大于或等于第二设定阈值时，则数据中心的当前任务积压状态为大量任务积压。

优选地，第一调度模块404在当前数据中心的任务积压状态为少量任务积压，调整当前数据中心中的网络爬虫的抓取进程数量时：根据任务积压状态为少量任务积压的当前数据中心的当前任务积压比例，判断在下一次网页爬取任务调度前，少量任务积压的当前数据中心完成当前所有网页爬取任务的执行的机率；若机率不为100%，则判断当前数据中心的当前网页爬取工作进程数是否小于设定的最大进程数；若小于，则在最大进程数允许的范围内增加第一设定数量的网页爬取工作进程；若不小于，则不进行网页爬取工作进程数调整；若机率为100%，则判断当前数据中心的当前网页爬取工作进程数是否大于设定的最小进程数、且减少第二设定数量的网页爬取工作进程后仍能在下一次网页爬取任务调度前，将当前数据中心的当前所有网页爬取任务执行完；若是，则在最小进程数允许的范围内减少所述第二设定数量的网页爬取工作进程；若否，则不进行网页爬取工作进程数调整。

优选地，本实施例的任务调度器还包括：第五调度模块412，用于在第三调度模块408在所有数据中心的任务积压状态均为大量任务积压，则延迟设定时间后再进行后续网页爬取任务调度之后，记录延迟的次数；若延迟的次数大于第三设定阈值，则仍向任务积压状态为大量任务积压的数据中心调度后续网页爬取任务。

优选地，本实施例的任务调度器还包括：分配模块414，用于在状态确定模块402确定各个数据中心的网络爬虫的当前任务积压状态之前，获取各个数据中心的网络爬虫的网页爬取权限；根据各个数据中心的网络爬虫的网页爬取权限，获取各个数据中心组成的所有数据中心的网络爬虫的网页爬取权限；根据各个数据中心的网络爬虫的网页爬取权限，和所有数据中心的网络爬虫的网页爬取权限，按照设定规则为各个数据中心分配网页爬取任务。

优选地，分配模块414在获取各个数据中心的网络爬虫的网页爬取权限时：对于每个数据中心，获取当前数据中心的网络爬虫在设定时间段内，抓取各个网页的页面数量；对于每个网页，将当前数据中心的网络爬虫在设定时间段内，抓取的当前网页的页面数量，与当前数据中心的网络爬虫的数量的积，作为当前数据中心的网络爬虫对当前网页的网页爬取权限。

优选地，分配模块414在根据各个数据中心的网络爬虫的网页爬取权限，获取各个数据中心组成的所有数据中心的网络爬虫的网页爬取权限时：对于每个网页，将各个数据中心的网络爬虫对当前网页的网页爬取权限的和，作为所有数据中心的网络爬虫对当前网页的网页爬取权限。

优选地，分配模块414在根据各个数据中心的网络爬虫的网页爬取权限，和所有数据中心的网络爬虫的网页爬取权限，按照设定规则为各个数据中心分配网页爬取任务时：对于每个网页，按照各个数据中心对当前网页的网页爬取权限与所有数据中心对当前网页的网页爬取权限的百分比，向各个数据中心分配抓取当前网页的网页爬取任务。

本实施例的任务调度器用于实现前述多个方法实施例中相应的网页爬取任务处理方法，并具有相应的方法实施例的有益效果，在此不再赘述。

本发明针对传统平均分配网页爬取任务机制的不足，进行了网页爬取任务改进，包括：（1）任务调度器将根据各个数据中心访问各站点的速度快慢，调整该站点在某数据中心的任务分配比例；（2）任务调度器会对各数据中心网络爬虫的抓取强度及未处理的任务数量进行统计，如果某数据中心有少量任务积压，将自行加大抓取强度；如果某数据中心出现大量任务积压时，会选择任务积压少的数据中心实施分配；如果各数据中心均有大量积压任务，则将需要分配的任务延迟一定的时间，防止出现更严重的积压。

通过本发明实施例，能够根据各个数据中心的网络爬虫进程抓取不同网站的能力，自动调整该网站抓取任务分配到各数据中心的任务比例。同时，当某些数据中心的任务出现挤压时，能够动态调整任务的分配，有效抑制任务队列的进一步拥堵。并且，能在数据中心任务空闲时，减少网络爬虫的工作进程，降低机器负载，使得程序运行更加稳定。

在此提供的网页爬取任务处理方案不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造具有本发明方案的系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书（包括伴随的权利要求、摘要和附图）中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书（包括伴随的权利要求、摘要和附图）中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器（DSP）来实现根据本发明实施例的网页爬取任务处理方案中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序（例如，计算机程序和计算机程序产品）。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (10)

1.一种网页爬取任务调度方法，包括：

确定各个数据中心的网络爬虫的当前任务积压状态；

若当前数据中心的所述任务积压状态为少量任务积压，则调整所述当前数据中心中的网络爬虫的抓取进程数量，并继续向所述当前数据中心调度后续网页爬取任务；

若当前数据中心的所述任务积压状态为大量任务积压、且存在所述任务积压状态为少量任务积压或无积压的其它数据中心，则将调度给所述当前数据中心的后续网页爬取任务调度给所述任务积压状态为少量任务积压的其它数据中心；

若所有数据中心的所述任务积压状态均为大量任务积压，则延迟设定时间后再进行后续网页爬取任务调度；

若当前数据中心的任务积压状态为无积压，则直接继续向当前数据中心调度后续网页爬取任务；

所述方法，还包括：记录抓取网页耗时；

收集各数据中心对各网站的抓取耗时数据；

计算各数据中心对各网站的网页爬取权限；

根据网页爬取权限，重新分配任务在各数据中心的比例。

2.根据权利要求1所述的方法，其中，所述确定各个数据中心的网络爬虫的当前任务积压状态的步骤包括：

获取所述各个数据中心的当前网页爬取任务数和当前网页爬取工作进程数；

根据所述当前网页爬取任务数和当前网页爬取工作进程数，确定所述各个数据中心的当前任务积压比例；

当所述当前任务积压比例大于或等于第一设定阈值，且小于第二设定阈值时，则所述数据中心的当前任务积压状态为少量任务积压；

当所述当前任务积压比例大于或等于所述第二设定阈值时，则所述数据中心的当前任务积压状态为大量任务积压。

3.根据权利要求2所述的方法，其中，所述若当前数据中心的所述任务积压状态为少量任务积压，则调整所述当前数据中心中的网络爬虫的抓取进程数量的步骤包括：

根据所述任务积压状态为少量任务积压的当前数据中心的所述当前任务积压比例，判断在下一次网页爬取任务调度前，所述少量任务积压的当前数据中心完成当前所有网页爬取任务的执行的机率；

若所述机率不为100％，则判断当前数据中心的所述当前网页爬取工作进程数是否小于设定的最大进程数；若小于，则在所述最大进程数允许的范围内增加第一设定数量的网页爬取工作进程；若不小于，则不进行网页爬取工作进程数调整；

若所述机率为100％，则判断当前数据中心的所述当前网页爬取工作进程数是否大于设定的最小进程数、且减少第二设定数量的网页爬取工作进程后仍能在下一次网页爬取任务调度前，将当前数据中心的当前所有网页爬取任务执行完；若是，则在所述最小进程数允许的范围内减少所述第二设定数量的网页爬取工作进程；若否，则不进行网页爬取工作进程数调整。

4.根据权利要求1所述的方法，其中，在所述若所有数据中心的所述任务积压状态均为大量任务积压，则延迟设定时间后再进行后续网页爬取任务调度的步骤之后，还包括：

记录所述延迟的次数；

若所述延迟的次数大于第三设定阈值，则仍向所述任务积压状态为大量任务积压的数据中心调度后续网页爬取任务。

5.根据权利要求1所述的方法，其中，在所述确定各个数据中心的网络爬虫的当前任务积压状态的步骤之前，还包括：

获取所述各个数据中心的网络爬虫的网页爬取权限；

根据所述各个数据中心的网络爬虫的网页爬取权限，获取各个数据中心组成的所有数据中心的网络爬虫的网页爬取权限；

根据所述各个数据中心的网络爬虫的网页爬取权限，和所述所有数据中心的网络爬虫的网页爬取权限，按照设定规则为所述各个数据中心分配网页爬取任务。

6.根据权利要求5所述的方法，其中，

所述获取所述各个数据中心的网络爬虫的网页爬取权限的步骤包括：对于每个数据中心，获取当前数据中心的网络爬虫在设定时间段内，抓取各个网页的页面数量；对于每个所述网页，将当前数据中心的所述网络爬虫在所述设定时间段内，抓取的当前网页的页面数量，与当前数据中心的所述网络爬虫的数量的积，作为当前数据中心的所述网络爬虫对当前网页的网页爬取权限；

所述根据所述各个数据中心的网络爬虫的网页爬取权限，获取各个数据中心组成的所有数据中心的网络爬虫的网页爬取权限的步骤包括：对于每个所述网页，将各个数据中心的所述网络爬虫对当前网页的网页爬取权限的和，作为所有数据中心的网络爬虫对当前网页的网页爬取权限。

7.根据权利要求6所述的方法，其中，所述根据所述各个数据中心的网络爬虫的网页爬取权限，和所述所有数据中心的网络爬虫的网页爬取权限，按照设定规则为所述各个数据中心分配网页爬取任务的步骤包括：

对于每个所述网页，按照各个数据中心对当前网页的网页爬取权限与所有数据中心对当前网页的网页爬取权限的百分比，向各个数据中心分配抓取当前网页的网页爬取任务。

8.一种任务调度器，包括：

状态确定模块，用于记录抓取网页耗时；收集各数据中心对各网站的抓取耗时数据；计算各数据中心对各网站的网页爬取权限；根据网页爬取权限，重新分配任务在各数据中心的比例，确定各个数据中心的网络爬虫的当前任务积压状态；

第一积压调度模块，用于若当前数据中心的所述任务积压状态为少量任务积压，则调整所述当前数据中心中的网络爬虫的抓取进程数量，并继续向所述当前数据中心调度后续网页爬取任务；

第二积压调度模块，用于若当前数据中心的所述任务积压状态为大量任务积压、且存在所述任务积压状态为少量任务积压或无积压的其它数据中心时，则将调度给所述当前数据中心的后续网页爬取任务调度给所述任务积压状态为少量任务积压的其它数据中心；

第三调度模块，用于若所有数据中心的所述任务积压状态均为大量任务积压，则延迟设定时间后再进行后续网页爬取任务调度；

第四调度模块，用于若当前数据中心的任务积压状态为无积压，则直接继续向当前数据中心调度后续网页爬取任务。

9.根据权利要求8所述的任务调度器，其中，所述状态确定模块包括：

获取模块，用于获取所述各个数据中心的当前网页爬取任务数和当前网页爬取工作进程数；

确定模块，用于根据所述当前网页爬取任务数和当前网页爬取工作进程数，确定所述各个数据中心的当前任务积压比例；当所述当前任务积压比例大于或等于第一设定阈值，且小于第二设定阈值时，则所述数据中心的当前任务积压状态为少量任务积压；当所述当前任务积压比例大于或等于所述第二设定阈值时，则所述数据中心的当前任务积压状态为大量任务积压。

10.根据权利要求8所述的任务调度器，其中，所述任务调度器还包括：

分配模块，用于在所述状态确定模块确定各个数据中心的网络爬虫的当前任务积压状态之前，获取所述各个数据中心的网络爬虫的网页爬取权限；根据所述各个数据中心的网络爬虫的网页爬取权限，获取各个数据中心组成的所有数据中心的网络爬虫的网页爬取权限；根据所述各个数据中心的网络爬虫的网页爬取权限，和所述所有数据中心的网络爬虫的网页爬取权限，按照设定规则为所述各个数据中心分配网页爬取任务。