CN108829508B - 任务处理方法和装置 - Google Patents

Abstract

本发明公开了一种任务处理方法和装置。该方法包括：将待处理的任务进行拆分，得到多个拆分任务，其中，待处理的任务在运行时占用的CPU超过预设阈值；将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果；接收多个目标虚拟机发送的运行结果。通过本发明，达到了提高大数据分析时的速度的效果。

Description

任务处理方法和装置

技术领域

本发明涉及计算机领域，具体而言，涉及一种任务处理方法和装置。

背景技术

随着日常业务中收集到的用户行为数据爆炸式增长，在单机上完成复杂的计算任务已变的难以实现，所需的时间也难以接受，需要解决大量数据的计算任务，快速响应业务需求，相关技术中，都是在单台机器上完成计算的，计算过程会经常出现异常，例如，过程缓慢等待时间久，一旦出现错误则其他计算都无法继续。

针对相关技术中在单台机器上进行大数据分析时速度慢的问题，目前尚未提出有效的解决方案。

发明内容

本发明的主要目的在于提供一种任务处理方法和装置，以解决单台机器上进行大数据分析时速度慢的问题。

为了实现上述目的，根据本发明的一个方面，提供了一种任务处理方法，该方法包括：将待处理的任务进行拆分，得到多个拆分任务，其中，所述待处理的任务在运行时占用的CPU超过预设阈值；将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果；接收多个目标虚拟机发送的运行结果。

进一步地，将待处理的任务进行拆分，得到多个拆分任务包括：将待处理的任务按照逻辑进行拆分，得到多个拆分任务。

进一步地，将待处理的任务进行拆分，得到多个拆分任务包括：通过任务调度服务器根据任务内容和任务数量以及所述目标虚拟机的数量进行分布式配置，得到配置结果；根据所述配置结果对所述待处理的任务进行拆分，得到多个拆分任务；根据所述配置结果将多个拆分任务分别发送到对应的所述目标虚拟机中。

进一步地，所述运行结果包括运行成功或运行失败，在接收多个目标虚拟机发送的运行结果之后，所述方法还包括：在所述运行结果为失败的情况下，通过所述任务调度服务器对运行失败的任务进行重新配置。

进一步地，在将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果之前或之后，所述方法还包括：所述任务调度服务器与所述目标虚拟机保持心跳连接。

进一步地，在将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果之后，所述方法还包括：将所述运行结果保存到缓存数据库中。

为了实现上述目的，根据本发明的另一方面，还提供了一种任务处理装置，该装置包括：拆分单元，用于将待处理的任务进行拆分，得到多个拆分任务，其中，所述待处理的任务在运行时占用的CPU超过预设阈值；配置单元，用于将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果；接收单元，用于接收多个目标虚拟机发送的运行结果。

进一步地，所述拆分单元用于：将待处理的任务按照逻辑进行拆分，得到多个拆分任务。

为了实现上述目的，根据本发明的另一方面，还提供了一种存储介质，包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行本发明所述的任务处理方法。

为了实现上述目的，根据本发明的另一方面，还提供了一种处理器，用于运行程序，其中，所述程序运行时执行本发明所述的任务处理方法。

本发明通过将待处理的任务进行拆分，得到多个拆分任务，其中，待处理的任务在运行时占用的CPU超过预设阈值；将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果；接收多个目标虚拟机发送的运行结果，解决了在单台机器上进行大数据分析时速度慢的问题，进而达到了提高大数据分析时的速度的效果。

附图说明

构成本申请的一部分的附图用来提供对本发明的进一步理解，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是根据本发明实施例的任务处理方法的流程图；

图2是根据本发明实施例的任务处理的整体示意图；

图3是根据本发明实施例的任务处理的单个单元的示意图；以及

图4是根据本发明实施例的任务处理装置的示意图。

具体实施方式

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。

需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

为了便于描述，以下对本申请实施例涉及的几个术语进行说明：

分布式配置：

程序配置存储在云端，缓存在所有分布式部署的服务主机上。主配置可以根据需要随时变更，云端实时(极低延迟)地向订阅服务推送配置内容。订阅服务可以在下一次读取配置时获取到变更内容。

消息服务：

消息服务提供稳定和可靠的消息传递，可以作为任务分发传递通道。同时消息服务自带服务发现和负载均衡。消息服务的重试和完成后响应的能力也为分析任务的高可用和进度监控提供了实现。

分布式缓存：

分布式缓存相较于数据库和硬盘具有更快速的读写能力，考虑到计算数据在计算过程中会被多次读取，且计算产生的结果也需要重复快速的读取，因此利用Redis等缓存服务能极大的提高分析性能，减少使用成本。

本发明实施例提供了一种任务处理方法。

图1是根据本发明实施例的任务处理方法的流程图，如图1所示，该方法包括以下步骤：

步骤S102：将待处理的任务进行拆分，得到多个拆分任务，其中，待处理的任务在运行时占用的CPU超过预设阈值。

步骤S104：将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果。

步骤S106：接收多个目标虚拟机发送的运行结果。

该实施例采用将待处理的任务进行拆分，得到多个拆分任务，其中，待处理的任务在运行时占用的CPU超过预设阈值；将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果；接收多个目标虚拟机发送的运行结果，解决了在单台机器上进行大数据分析时速度慢的问题，进而达到了提高大数据分析时的速度的效果。

在本发明实施例中，待处理的任务可以是多个，多个待处理的任务可以拆分，每个拆分后的拆分任务可以独立运行，将每个可独立运行的拆分任务发送到不同的虚拟机上运行可以独立运行，减少多个任务的排队等待时间，因而可以解决在单台机器上进行大数据分析时速度慢的问题，进而达到了提高大数据分析时的速度的效果。

可选地，将待处理的任务进行拆分，得到多个拆分任务可以是：将待处理的任务按照逻辑进行拆分，得到多个拆分任务。在对待处理的任务进行拆分时，可以通过逻辑进行拆分，这样可以最大程度的减少拆分对任务的执行带来的影响，例如，A任务是依托于B任务的执行结果来运行的，这种情况下，A任务和B任务就不适合拆分到两个虚拟机中运行，而是需要在一个虚拟机中运行。

可选地，将待处理的任务进行拆分，得到多个拆分任务包括：通过任务调度服务器根据任务内容和任务数量以及目标虚拟机的数量进行分布式配置，得到配置结果；根据配置结果对待处理的任务进行拆分，得到多个拆分任务；根据配置结果将多个拆分任务分别发送到对应的目标虚拟机中。

在拆分时需要通过任务调度服务器根据具体的任务内容、数量和目标虚拟机的数量来进行配置，目标虚拟机数量越多则可以将任务分成多个拆分任务，每个拆分任务可以放到各自的目标虚拟机上运行，可以根据每个任务的运行所占的CPU的大小等因素来确定每个虚拟机上运行的任务。通过这样的协调分配可以最大程度节省任务运行时间，也可以减少拆分对任务运行的影响。

可选地，运行结果包括运行成功或运行失败，在接收多个目标虚拟机发送的运行结果之后，在运行结果为失败的情况下，通过任务调度服务器对运行失败的任务进行重新配置。

任务运行之后会得到运行结果，运行结果可以是运行成功和运行失败，如果运行成功，则运行结果还可以包括运行成功的结果数值等信息，如果某个目标虚拟机上运行的结果显示某个任务运行失败，则可以通过任务调度服务器对失败的任务重新配置，例如，可以放到其他虚拟机上运行，以使运行过程更加智能，提高任务处理效率。

可选地，在将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果之前或之后，任务调度服务器与目标虚拟机保持心跳连接。

在任务配置过程中，目标虚拟机与任务调度服务器可以始终保持心跳连接，以在需要发送任务时提高反应速度。

可选地，在将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果之后，将运行结果保存到缓存数据库中。

在多个目标虚拟机运行多个拆分任务并得到结果后，可以将结果保存到缓存数据库中，以便被其他服务及时获取到任务运行结果。

本发明实施例的技术方案为了解决大量数据的计算任务，快速响应业务需求，需要使用集群和分布式思路进行数据分析。图2是根据本发明实施例的任务处理的整体示意图，如图2所示，该任务处理方法包括以下过程：

由于分析数据量巨大，无法在单台机器上段时间完成，因此会将任务按照逻辑拆分，每个任务会指派给一台虚拟机(目标虚拟机)完成；任务内容，数量等通过分布式配置服务器配置，每次调度任务时，都可以读取到最新的配置，完成不同的任务；分析所使用的数据由单独的服务提供，从整个计算任务中解耦出来，因此数据在符合规定的情况下，是灵活可变的，单个任务会在任务开始时获取数据。

这种情况下，可以考虑平均分配的负载均衡手段，因此直接使用消息服务做服务发现和负载均衡，此种情况，任务的排队在每台机器上完成。

数据提供者可以是多种多样的，也即，数据来源不限，通过统一接口将数据输入即可有任务调度服务器进行任务调度，将不同的任务分配到不同的执行单元(目标虚拟机)中，运行结果可以保存到缓存服务(缓存数据库)中，以备其他服务调取结果。

需要说明的是，本发明实施例中，在进行任务分发时，是通过任务调度服务实现的，分布式配置服务器将待运行的任务保存到任务调度服务器中，任务调度服务器通过消息服务对任务进行分发处理，消息服务将任务发送到对应的执行单元，执行单元运行后将结果保存到缓存服务中等待被调用，整个任务传递分发过程中是通过消息系统的可靠性消息异步传递任务和接收任务完成的反馈，无需同步调用等待执行结果。因而可以实现更加高效的任务运行。

图3是根据本发明实施例的任务处理的单个单元的示意图，如图3所示任务调度服务器与每个执行单元保持心跳连接，任务调度向执行单元进行任务分配，执行单元将运行结果(成功或失败)反馈到任务调度服务器中，任务调度服务器在心跳丢失或者收到失败反馈后，对任务进行重新配置。

本发明实施例的技术方案优化了任务执行的过程，可以更加灵活的修改任务配置，方便的进行扩容和缩容，充分利用集群所有机器的性能和时间，目前该方案可以运用于『超级巴士商圈自动分类和规划』的实际工作中。

本发明实施例的技术方案主要解决了日常技术开发中具有以下特点的数据分析任务：

A.分析任务需求大量的CPU运算；

B.计算任务可以分拆成多个更小的任务执行；

C.数据来源分散可变，且需要灵活变动；

D.任务数量多且灵活变动，每个任务的计算量级差异可能很大。

需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

本发明实施例提供了一种任务处理装置，该装置可以用于执行本发明实施例的任务处理方法。

图4是根据本发明实施例的任务处理装置的示意图，如图4所示，该装置包括：

拆分单元10，用于将待处理的任务进行拆分，得到多个拆分任务，其中，所述待处理的任务在运行时占用的CPU超过预设阈值；

配置单元20，用于将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果；

接收单元30，用于接收多个目标虚拟机发送的运行结果。

该实施例采用拆分单元10，用于将待处理的任务进行拆分，得到多个拆分任务，其中，所述待处理的任务在运行时占用的CPU超过预设阈值；配置单元20，用于将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果；接收单元30，用于接收多个目标虚拟机发送的运行结果，从而解决了在单台机器上进行大数据分析时速度慢的问题，进而达到了提高大数据分析时的速度的效果。

所述任务处理装置包括处理器和存储器，上述拆分单元、配置单元、接收单元等均作为程序单元存储在存储器中，由处理器执行存储在存储器中的上述程序单元来实现相应的功能。

处理器中包含内核，由内核去存储器中调取相应的程序单元。内核可以设置一个或以上，通过调整内核参数来提高大数据分析时的速度。

存储器可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)，存储器包括至少一个存储芯片。

本发明实施例提供了一种存储介质，其上存储有程序，该程序被处理器执行时实现所述任务处理方法。

本发明实施例提供了一种处理器，所述处理器用于运行程序，其中，所述程序运行时执行所述任务处理方法。

本发明实施例提供了一种设备，设备包括处理器、存储器及存储在存储器上并可在处理器上运行的程序，处理器执行程序时实现以下步骤：将待处理的任务进行拆分，得到多个拆分任务，其中，待处理的任务在运行时占用的CPU超过预设阈值；将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果；接收多个目标虚拟机发送的运行结果。本文中的设备可以是服务器、PC、PAD、手机等。

本申请还提供了一种计算机程序产品，当在数据处理设备上执行时，适于执行初始化有如下方法步骤的程序：将待处理的任务进行拆分，得到多个拆分任务，其中，待处理的任务在运行时占用的CPU超过预设阈值；将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果；接收多个目标虚拟机发送的运行结果。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

存储器可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。存储器是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

以上仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (5)

1.一种任务处理方法，其特征在于，包括：

将待处理的任务进行拆分，得到多个拆分任务，其中，所述待处理的任务在运行时占用的CPU超过预设阈值；

将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果；

接收多个目标虚拟机发送的运行结果,

将待处理的任务进行拆分，得到多个拆分任务包括：

通过任务调度服务器根据任务内容和任务数量以及所述目标虚拟机的数量进行分布式配置，得到配置结果；

根据所述配置结果对所述待处理的任务进行拆分，得到多个拆分任务；

根据所述配置结果将多个拆分任务分别发送到对应的所述目标虚拟机中，

将待处理的任务进行拆分，得到多个拆分任务包括：

将待处理的任务按照逻辑进行拆分，得到多个拆分任务，

所述运行结果包括运行成功或运行失败，在接收多个目标虚拟机发送的运行结果之后，所述方法还包括：

在所述运行结果为失败的情况下，通过所述任务调度服务器对运行失败的任务进行重新配置。

2.根据权利要求1所述的方法，其特征在于，在将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果之前或之后，所述方法还包括：

所述任务调度服务器与所述目标虚拟机保持心跳连接。

3.根据权利要求1所述的方法，其特征在于，在将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果之后，所述方法还包括：

将所述运行结果保存到缓存数据库中。

4.一种任务处理装置，其特征在于，包括：

拆分单元，用于将待处理的任务进行拆分，得到多个拆分任务，其中，所述待处理的任务在运行时占用的CPU超过预设阈值；

配置单元，用于将多个拆分任务发送到分布式配置到多个目标虚拟机运行，得到运行结果；

接收单元，用于接收多个目标虚拟机发送的运行结果,

其中,将待处理的任务进行拆分，得到多个拆分任务包括：

通过任务调度服务器根据任务内容和任务数量以及所述目标虚拟机的数量进行分布式配置，得到配置结果；

根据所述配置结果对所述待处理的任务进行拆分，得到多个拆分任务；

根据所述配置结果将多个拆分任务分别发送到对应的所述目标虚拟机中，所述拆分单元用于：

将待处理的任务按照逻辑进行拆分，得到多个拆分任务，

所述运行结果包括运行成功或运行失败，在接收多个目标虚拟机发送的运行结果之后，在所述运行结果为失败的情况下，通过所述任务调度服务器对运行失败的任务进行重新配置。

5.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行权利要求1至3中任意一项所述的任务处理方法。

Images