CN104407848A - 一种数据处理方法及装置 - Google Patents
一种数据处理方法及装置 Download PDFInfo
- Publication number
- CN104407848A CN104407848A CN201410594800.0A CN201410594800A CN104407848A CN 104407848 A CN104407848 A CN 104407848A CN 201410594800 A CN201410594800 A CN 201410594800A CN 104407848 A CN104407848 A CN 104407848A
- Authority
- CN
- China
- Prior art keywords
- task
- processing tasks
- attribute information
- dependence
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例公开了一种数据处理方法及装置,其中所述数据处理方法包括:以第一时间间隔周期获取数据加工任务信息表中任务状态为待处理的第一目标加工任务的任务属性信息;根据所述任务属性信息中的任务程序标识调用对应的任务处理程序;根据所述任务处理程序的反馈信息将所述第一目标加工任务的任务属性信息中的任务状态更新为处理成功;根据所述任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息;将所述依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。本发明实施例可以有效地提升数据处理的智能性和便捷性。
Description
技术领域
本发明涉及互联网技术领域,尤其涉及一种数据处理方法及装置。
背景技术
随着计算机技术的发展,数据处理系统的任务也相应变得复杂。对于大规模的数据处理系统,特别针对金融领域内的数据处理,通常需要对众多数据源系统传送来的数据进行加工处理;这些源数据的更新和变动都很频繁,而且针对所述源数据进行的加工任务之间通常有复杂的依赖关系。
现有技术中,面对海量的源数据,数据处理系统通常仅按照源数据文件的到达顺序随机进行加工处理,如果加工任务之间存在依赖关系,所述数据处理系统只能通过控制源数据的到达顺序从而达到先后对源数据进行加工的目的,这种做法降低了数据处理的智能性和便捷性。
发明内容
本发明实施例提供一种数据处理方法及装置,能够灵活控制数据的加工顺序,从而有效地提升数据处理的智能性和便捷性。
本发明实施例第一方面提供了一种数据处理方法,所述方法包括:
以第一时间间隔周期获取数据加工任务信息表中任务状态为待处理的第一目标加工任务的任务属性信息;
根据所述第一目标加工任务的任务属性信息中的任务程序标识调用对应的任务处理程序;
接收所述任务处理程序的反馈信息,并根据所述反馈信息将所述第一目标加工任务的任务属性信息中的任务状态更新为处理成功;
根据所述第一目标加工任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息;
将所述依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
在本发明实施例第一方面的第一种可能的实现方式中,所述方法还包括:
以第二时间间隔周期获取所述数据加工任务信息表中任务状态为等待的第二目标加工任务的任务属性信息;
根据所述第二目标加工任务的任务属性信息中的任务标识在所述加工任务依赖关系信息表中获取所述第二目标加工任务的所有任务依赖关系信息;
判断所述第二目标加工任务的所有任务依赖关系信息中的依赖任务状态是否均为处理成功,所述依赖任务状态用以标识所述第二目标加工任务的依赖任务的任务状态;
若是,则将所述第二目标加工任务的任务属性信息中的任务状态更新为待处理。
在本发明实施例第一方面的第二种可能的实现方式中,所述以第一时间间隔周期获取数据加工任务信息表中任务状态为待处理的第一目标加工任务的任务属性信息包括:
以第一时间间隔周期获取所述数据加工任务信息表中任务状态为待处理的所有加工任务的任务属性信息;
判断所述任务状态为待处理的所有加工任务是否大于一个;
若是,则按照所述任务状态为待处理的所有加工任务的任务属性信息中的优先级进行排序;
确定优先级最高的加工任务为所述第一目标加工任务。
结合本发明实施例第一方面的第一种可能的实现方式,在本发明实施例第一方面的第三种可能的实现方式中,所述第二目标加工任务的依赖任务为装载任务或加工任务,所述装载任务用以将目标数据文件导入相应的数据库,所述加工任务用以对已导入相应的数据库中的所述目标数据文件进行处理。
结合本发明实施例第一方面的第三种可能的实现方式,在本发明实施例第一方面的第四种可能的实现方式中,所述方法还包括:
以第三时间间隔周期获取数据装载任务信息表中任务状态为待处理的目标装载任务的任务属性信息;
获取所述目标装载任务的任务属性信息中的数据文件标识和数据库标识;
将所述数据文件标识所对应的数据文件导入所述数据库标识所对应的数据库,并将所述目标装载任务的任务属性信息中的任务状态更新为处理成功;
根据所述目标装载任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息;
将所述依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
相应的,本发明实施例第二方面提供了一种数据处理装置,所述数据处理装置包括:
获取模块,用于以第一时间间隔周期获取数据加工任务信息表中任务状态为待处理的第一目标加工任务的任务属性信息;
调用模块,用于根据所述第一目标加工任务的任务属性信息中的任务程序标识调用对应的任务处理程序;
接收模块,用于接收所述任务处理程序的反馈信息;
更新模块,用于根据所述反馈信息将所述第一目标加工任务的任务属性信息中的任务状态更新为处理成功;
所述获取模块,还用于根据所述第一目标加工任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息;
所述更新模块,还用于将所述依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
在本发明实施例第二方面的第一种可能的实现方式中,
所述获取模块,还用于以第二时间间隔周期获取所述数据加工任务信息表中任务状态为等待的第二目标加工任务的任务属性信息;
所述获取模块,还用于根据所述第二目标加工任务的任务属性信息中的任务标识在所述加工任务依赖关系信息表中获取所述第二目标加工任务的所有任务依赖关系信息;
所述数据处理装置还包括:
判断模块,用于判断所述第二目标加工任务的所有任务依赖关系信息中的依赖任务状态是否均为处理成功,所述依赖任务状态用以标识所述第二目标加工任务的依赖任务的任务状态;
所述更新模块,还用于当所述判断模块的判断结果为是时,将所述第二目标加工任务的任务属性信息中的任务状态更新为待处理。
在本发明实施例第二方面的第二种可能的实现方式中,所述获取模块包括:
获取单元,用于以第一时间间隔周期获取所述数据加工任务信息表中任务状态为待处理的所有加工任务的任务属性信息;
判断单元,用于判断所述任务状态为待处理的所有加工任务是否大于一个;
排序单元,用于当所述判断单元的判断结果为是时,按照所述任务状态为待处理的所有加工任务的任务属性信息中的优先级进行排序;
确定单元,用于确定优先级最高的加工任务为所述第一目标加工任务。
结合本发明实施例第二方面的第一种可能的实现方式,在本发明实施例第二方面的第三种可能的实现方式中,所述第二目标加工任务的依赖任务为装载任务或加工任务,所述装载任务用以将目标数据文件导入相应的数据库,所述加工任务用以对已导入相应的数据库中的所述目标数据文件进行处理。
结合本发明实施例第二方面的第三种可能的实现方式,在本发明实施例第二方面的第四种可能的实现方式中,
所述获取模块,还用于以第三时间间隔周期获取数据装载任务信息表中任务状态为待处理的目标装载任务的任务属性信息;
所述获取模块,还用于获取所述目标装载任务的任务属性信息中的数据文件标识和数据库标识;
所述数据处理装置还包括:
装载模块,用于将所述数据文件标识所对应的数据文件导入所述数据库标识所对应的数据库;
所述更新模块,还用于将所述目标装载任务的任务属性信息中的任务状态更新为处理成功;
所述获取模块,还用于根据所述目标装载任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息;
所述更新模块,还用于将所述依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
本发明实施例通过查询数据加工任务信息表中加工任务的任务属性信息,可以针对性地对依赖任务已完成,待处理的第一目标加工任务进行处理;当所述第一目标加工任务处理完成后,所述数据处理装置不仅对其任务属性信息中的任务状态进行更新,而且对依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息中的依赖任务状态进行更新。相比现有技术只能通过控制加工任务的到达顺序来对存在依赖关系的加工任务进行处理,本发明能够灵活控制存在依赖关系的多个加工任务的处理顺序,有效地提升了数据处理的智能性和便捷性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例中的一种数据处理方法的流程示意图;
图2是本发明实施例中的另一种数据处理方法的流程示意图;
图3是本发明实施例中的一种数据处理装置的结构示意图;
图4是本发明实施例中获取模块的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例中提及的加工任务可以是对任何领域的数据进行加工的任务,例如:金融领域、制造领域等。数据处理方法可以在数据处理装置上实现,所述数据处理装置可以运行在计算机或者计算机系统中。
图1是本发明实施例中的一种数据处理方法的流程示意图,如图1所示,该数据处理方法可以包括以下步骤:
S101,以第一时间间隔周期获取数据加工任务信息表中任务状态为待处理的第一目标加工任务的任务属性信息。
具体的,所述数据加工任务信息表用以存放加工任务的任务属性信息,其中,所述加工任务通过调用相应任务程序以对数据处理装置接收到的数据文件进行处理;所述任务属性信息可以包括但不仅限于所述加工任务的任务标识、任务状态、任务程序标识和任务的优先级。由于所述数据处理装置接收到的数据文件可以有多个,对这些数据文件的加工处理通常需要由多个加工任务完成,这些加工任务之间存在依赖关系;所述加工任务可以有至少一个依赖任务,当所述至少一个依赖任务完成后,才能执行所述加工任务,所述加工任务还可以是其他加工任务的依赖任务;可选的,所述至少一个依赖任务可以包括装载任务和/或加工任务,所述装载任务用以将目标数据文件导入相应的数据库,所述加工任务用以对已导入相应的数据库中的所述目标数据文件进行处理。所述加工任务的任务状态可以包括但不仅限于待处理、处理中、处理成功和等待状态,所述待处理状态是指所述加工任务的依赖任务已经完成,可以对所述加工任务进行处理;所述数据处理装置以第一时间间隔周期获取数据加工任务信息表中任务状态为待处理的第一目标加工任务的任务属性信息,即可进行S102;,所述第一时间间隔周期的时长被预先配置在所述数据处理装置中。
可选的,在图1所示的方法中,步骤S101可以包括:
11)、以第一时间间隔周期获取所述数据加工任务信息表中任务状态为待处理的所有加工任务的任务属性信息;
12)、判断所述任务状态为待处理的所有加工任务是否大于一个;
13)、若是,则按照所述任务状态为待处理的所有加工任务的任务属性信息中的优先级进行排序;
可选的,所述优先级用整数表示,其值越小所代表的优先级越高。
14)、确定优先级最高的加工任务为所述第一目标加工任务。
S102,根据所述第一目标加工任务的任务属性信息中的任务程序标识调用对应的任务处理程序。
具体实现中,所述第一目标加工任务的处理可以通过调用预先编制的所述任务处理程序来实现,所述任务处理程序对相应的数据文件进行处理。数据处理装置可以查询所述第一目标加工任务的任务属性信息中的任务程序标识,并通过所述任务程序标识调用对应的任务处理程序,即对所述第一目标加工任务进行处理。
S103,接收所述任务处理程序的反馈信息,并根据所述反馈信息将所述第一目标加工任务的任务属性信息中的任务状态更新为处理成功。
具体实现中,所述任务处理程序对相应的数据文件处理成功后,可以向数据处理装置发送反馈信息,所述数据处理装置根据所述反馈信息将所述第一目标加工任务的任务属性信息中的任务状态更新为处理成功,以表明所述第一目标加工任务已完成处理。可选的,所述数据处理装置接收所述任务处理程序的反馈信息后,可以先判断所述反馈信息是否为成功反馈信息;若是,则将所述第一目标加工任务的任务属性信息中的任务状态更新为处理成功;若否,则将所述第一目标加工任务的任务属性信息中的任务状态更新为处理失败。
S104,根据所述第一目标加工任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息。
具体实现中,数据处理装置可以处理多个加工任务,所述第一目标加工任务可以是所述多个加工任务中其他加工任务的依赖任务,即所述加工任务之间存在依赖关系;所述加工任务依赖关系信息表用以存放所述加工任务的任务依赖关系信息,所述任务依赖关系信息可以包括但不仅限于任务标识、依赖任务标识、依赖任务状态。所述数据处理装置可以根据所述第一目标加工任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息。例如所述数据处理装置获取该表中依赖任务标识与所述第一目标加工任务的任务标识相同的所有行,即获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息。可选的,所述数据处理装置可以先在所述加工任务依赖关系信息表中查询是否有依赖任务标识与所述第一目标加工任务的任务标识相同的加工任务的任务依赖关系信息,若有,则获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息。
S105,将所述依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
具体实现中,当所述第一目标加工任务处理成功时,数据处理装置可以将依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
本实施例中,数据处理装置通过查询数据加工任务信息表中加工任务的任务属性信息,可以针对性地对依赖任务已完成,待处理的第一目标加工任务进行处理;当所述第一目标加工任务处理完成后,所述数据处理装置不仅对其任务属性信息中的任务状态进行更新,而且对依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息中的依赖任务状态进行更新,从而灵活控制存在依赖关系的多个加工任务的处理顺序,有效地提升了数据处理的智能性和便捷性。
图2是本发明实施例中的另一种数据处理方法的流程示意图,如图2所示,该数据处理方法可以包括以下步骤:
S201,以第二时间间隔周期获取数据加工任务信息表中任务状态为等待的第二目标加工任务的任务属性信息。
具体的,所述等待状态是指加工任务的依赖任务尚未完成,数据处理装置无法对所述加工任务进行处理,所述数据处理装置可以以第二时间间隔周期获取数据加工任务信息表中任务状态为等待的第二目标加工任务的任务属性信息,所述第二时间间隔周期可以与所述第一时间间隔的时长相同,也可以不同。
S202,根据所述第二目标加工任务的任务属性信息中的任务标识在所述加工任务依赖关系信息表中获取所述第二目标加工任务的所有任务依赖关系信息。
具体实现中,所述加工任务依赖关系信息表的行信息为加工任务的任务依赖关系信息,所述加工任务可以有多个依赖任务,即所述加工任务在所述加工任务依赖关系信息表中有多行信息,每行的行信息用以存放所述加工任务与一个依赖任务的依赖关系的相关信息。所述数据处理装置可以根据所述第二目标加工任务的任务属性信息中的任务标识在所述加工任务依赖关系信息表中获取所述第二目标加工任务的所有任务依赖关系信息。例如所述数据处理装置获取所述加工任务依赖关系信息表中任务标识与所述第二目标加工任务的任务标识相同的所有行,即获取所述第二目标加工任务的所有任务依赖关系信息。
S203,判断所述第二目标加工任务的所有任务依赖关系信息中的依赖任务状态均为处理成功。
具体的,所述依赖任务状态用以标识所述第二目标加工任务的依赖任务的任务状态,所述数据处理装置可以判断所述第二目标加工任务的所有任务依赖关系信息中的依赖任务状态是否均为处理成功,若是,则所述第二目标加工任务的所有依赖任务均已处理成功,即可执行步骤S204。
S204,将所述第二目标加工任务的任务属性信息中的任务状态更新为待处理。
具体实现中,当所述第二目标加工任务的所有依赖任务均处理成功时,所述数据处理装置可以将所述第二目标加工任务的任务属性信息中的任务状态更新为待处理。
在可选实施例中,所述第二目标加工任务的依赖任务为装载任务或加工任务,所述装载任务用以将目标数据文件导入相应的数据库,所述加工任务用以对已导入相应的数据库中的所述目标数据文件进行处理。
进而在可选实施例中,在图2所示的方法中,所述方法还可以包括:
21)、以第三时间间隔周期获取数据装载任务信息表中任务状态为待处理的目标装载任务的任务属性信息。
具体的,所述数据装载任务信息表用以存放装载任务的任务属性信息,所述任务属性信息可以包括但不仅限于所述装载任务的任务标识、任务状态、数据文件标识和数据库标识。所述装载任务用以将目标数据文件导入相应的数据库,所述装载任务的任务状态可以包括但不仅限于待处理和处理成功状态,所述待处理状态是指数据处理装置已接收到所述目标数据文件,可以对所述装载任务进行处理;所述数据处理装置以第三时间间隔周期获取数据装载任务信息表中任务状态为待处理的目标装载任务的任务属性信息,即可进行步骤22);所述第三时间间隔周期可以与所述第二时间间隔的时长相同,也可以不同。
22)、获取所述目标装载任务的任务属性信息中的数据文件标识和数据库标识。
具体的,所述数据文件标识可以包括数据文件的路径信息,所述数据库标识可以包括所述数据文件入库的表名。
23)、将所述数据文件标识所对应的数据文件导入所述数据库标识所对应的数据库,并将所述目标装载任务的任务属性信息中的任务状态更新为处理成功。
具体实现中,所述数据处理装置可以根据所述数据文件标识将其所对应的数据文件导入到所述数据库标识所对应的数据库中,即所述目标装载任务处理成功,所述数据处理装置可以将所述目标装载任务的任务属性信息中的任务状态更新为处理成功。
24)、根据所述目标装载任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息。
具体实现中,数据处理装置可以处理多个装载任务和加工任务,所述目标装载任务可以是所述多个加工任务的依赖任务。可选的,所述目标装载任务也可以是所述多个装载任务的依赖任务。所述数据处理装置可以根据所述目标装载任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息。例如所述数据处理装置获取该表中依赖任务标识与所述目标装载任务的任务标识相同的所有行,即获取依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息。
25)、将所述依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
具体实现中,当所述目标装载任务处理成功时,数据处理装置可以将依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
本实施例中,若数据处理装置查询处于等待状态的第二目标加工任务的依赖任务的完成状态均为已完成,则将所述第二目标加工任务的任务状态更新为待处理,实现了并发地对加工任务之间的依赖关系进行有效地控制,提升了数据处理的智能性。
下面为本发明装置实施例,本发明装置实施例用于执行本发明方法实施例一和实施例二实现的方法,为了便于说明,仅示出了与本发明实施例相关的部分,具体技术细节未揭示的,请参照本发明实施例一和实施例二。
图3是本发明实施例中的一种数据处理装置的结构示意图,如图3所示,本发明实施例中的数据处理装置可以包括:
获取模块301,用于以第一时间间隔周期获取数据加工任务信息表中任务状态为待处理的第一目标加工任务的任务属性信息。
具体的,所述数据加工任务信息表用以存放加工任务的任务属性信息,其中,所述加工任务通过调用相应任务程序以对数据处理装置接收到的数据文件进行处理;所述任务属性信息可以包括但不仅限于所述加工任务的任务标识、任务状态、任务程序标识和任务的优先级。由于所述数据处理装置接收到的数据文件可以有多个,对这些数据文件的加工处理通常需要由多个加工任务完成,这些加工任务之间存在依赖关系;所述加工任务可以有至少一个依赖任务,当所述至少一个依赖任务完成后,才能执行所述加工任务,所述加工任务还可以是其他加工任务的依赖任务;可选的,所述至少一个依赖任务可以包括装载任务和/或加工任务,所述装载任务用以将目标数据文件导入相应的数据库,所述加工任务用以对已导入相应的数据库中的所述目标数据文件进行处理。所述加工任务的任务状态可以包括但不仅限于待处理、处理中、处理成功和等待状态,所述待处理状态是指所述加工任务的依赖任务已经完成,可以对所述加工任务进行处理;所述获取模块301可以以第一时间间隔周期获取数据加工任务信息表中任务状态为待处理的第一目标加工任务的任务属性信息,即可触发调用模块302,所述第一时间间隔周期的时长被预先配置在所述数据处理装置中。
在可选实施例中,如图4所示,所述获取模块301可以包括:
获取单元3101,用于以第一时间间隔周期获取所述数据加工任务信息表中任务状态为待处理的所有加工任务的任务属性信息;
判断单元3102,用于判断所述任务状态为待处理的所有加工任务是否大于一个;
排序单元3103,用于当所述判断单元的判断结果为是时,按照所述任务状态为待处理的所有加工任务的任务属性信息中的优先级进行排序;
可选的,所述优先级用整数表示,其值越小所代表的优先级越高。
确定单元3104,用于确定优先级最高的加工任务为所述第一目标加工任务。
调用模块302,用于根据所述第一目标加工任务的任务属性信息中的任务程序标识调用对应的任务处理程序。
具体实现中,所述第一目标加工任务的处理可以通过调用预先编制的所述任务处理程序来实现,所述任务处理程序对相应的数据文件进行处理。所述调用模块302可以查询所述第一目标加工任务的任务属性信息中的任务程序标识,并通过所述任务程序标识调用对应的任务处理程序,即对所述第一目标加工任务进行处理。
接收模块303,用于接收所述任务处理程序的反馈信息;
更新模块304,用于根据所述反馈信息将所述第一目标加工任务的任务属性信息中的任务状态更新为处理成功;
具体实现中,所述任务处理程序对相应的数据文件处理成功后,可以向所述接收模块303发送反馈信息,所述更新模块304根据所述反馈信息将所述第一目标加工任务的任务属性信息中的任务状态更新为处理成功,以表明所述第一目标加工任务已完成处理。可选的,所述接收模块303接收所述任务处理程序的反馈信息后,可以先判断所述反馈信息是否为成功反馈信息;若是,则触发所述更新模块304将所述第一目标加工任务的任务属性信息中的任务状态更新为处理成功;若否,则触发所述更新模块304将所述第一目标加工任务的任务属性信息中的任务状态更新为处理失败。
所述获取模块301,还用于根据所述第一目标加工任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息;
具体实现中,数据处理装置可以处理多个加工任务,所述第一目标加工任务可以是所述多个加工任务中其他加工任务的依赖任务,即所述加工任务之间存在依赖关系;所述加工任务依赖关系信息表用以存放所述加工任务的任务依赖关系信息,所述任务依赖关系信息可以包括但不仅限于任务标识、依赖任务标识、依赖任务状态。所述获取模块301可以根据所述第一目标加工任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息。例如所述获取模块301获取该表中依赖任务标识与所述第一目标加工任务的任务标识相同的所有行,即获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息。可选的,所述获取模块301可以先在所述加工任务依赖关系信息表中查询是否有依赖任务标识与所述第一目标加工任务的任务标识相同的加工任务的任务依赖关系信息,若有,则获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息。
所述更新模块304,还用于将所述依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
具体实现中,当所述第一目标加工任务处理成功时,所述更新模块304可以将依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
作为一种可选的实施方式,所述获取模块301,还用于以第二时间间隔周期获取所述数据加工任务信息表中任务状态为等待的第二目标加工任务的任务属性信息。
具体的,所述等待状态是指加工任务的依赖任务尚未完成,数据处理装置无法对所述加工任务进行处理,所述获取模块301可以以第二时间间隔周期获取数据加工任务信息表中任务状态为等待的第二目标加工任务的任务属性信息,所述第二时间间隔周期可以与所述第一时间间隔的时长相同,也可以不同。
所述获取模块301,还用于根据所述第二目标加工任务的任务属性信息中的任务标识在所述加工任务依赖关系信息表中获取所述第二目标加工任务的所有任务依赖关系信息。
具体实现中,所述加工任务依赖关系信息表的行信息为加工任务的任务依赖关系信息,所述加工任务可以有多个依赖任务,即所述加工任务在所述加工任务依赖关系信息表中有多行信息,每行的行信息用以存放所述加工任务与一个依赖任务的依赖关系的相关信息。所述获取模块301可以根据所述第二目标加工任务的任务属性信息中的任务标识在所述加工任务依赖关系信息表中获取所述第二目标加工任务的所有任务依赖关系信息。例如所述获取模块301获取所述加工任务依赖关系信息表中任务标识与所述第二目标加工任务的任务标识相同的所有行,即获取所述第二目标加工任务的所有任务依赖关系信息。
相应的,所述数据处理装置还可以包括:
判断模块305,用于判断所述第二目标加工任务的所有任务依赖关系信息中的依赖任务状态均为处理成功。
具体的,所述依赖任务状态用以标识所述第二目标加工任务的依赖任务的任务状态,所述判断模块305可以判断所述第二目标加工任务的所有任务依赖关系信息中的依赖任务状态是否均为处理成功,若是,则所述第二目标加工任务的所有依赖任务均已处理成功,即可触发更新模块304。
所述更新模块304,还用于当所述判断模块的判断结果为是时,将所述第二目标加工任务的任务属性信息中的任务状态更新为待处理。
具体实现中,当所述第二目标加工任务的所有依赖任务均处理成功时,所述更新模块304可以将所述第二目标加工任务的任务属性信息中的任务状态更新为待处理。
在可选实施例中,所述第二目标加工任务的依赖任务为装载任务或加工任务,所述装载任务用以将目标数据文件导入相应的数据库,所述加工任务用以对已导入相应的数据库中的所述目标数据文件进行处理。
进而在可选实施例中,所述获取模块301,还用于以第三时间间隔周期获取数据装载任务信息表中任务状态为待处理的目标装载任务的任务属性信息。
具体的,所述数据装载任务信息表用以存放装载任务的任务属性信息,所述任务属性信息可以包括但不仅限于所述装载任务的任务标识、任务状态、数据文件标识和数据库标识。所述装载任务用以将目标数据文件导入相应的数据库,所述装载任务的任务状态可以包括但不仅限于待处理和处理成功状态,所述待处理状态是指数据处理装置已接收到所述目标数据文件,可以对所述装载任务进行处理;所述获取模块301以第三时间间隔周期获取数据装载任务信息表中任务状态为待处理的目标装载任务的任务属性信息,即可触发装载模块306;所述第三时间间隔周期可以与所述第二时间间隔的时长相同,也可以不同。
相应的,所述获取模块301,还用于获取所述目标装载任务的任务属性信息中的数据文件标识和数据库标识。
具体的,所述数据文件标识可以包括数据文件的路径信息,所述数据库标识可以包括所述数据文件入库的表名。
装载模块306,用于将所述数据文件标识所对应的数据文件导入所述数据库标识所对应的数据库。
所述更新模块304,还用于将所述目标装载任务的任务属性信息中的任务状态更新为处理成功。
具体实现中,所述装载模块306可以根据所述数据文件标识将其所对应的数据文件导入到所述数据库标识所对应的数据库中,即所述目标装载任务处理成功,所述更新模块304可以将所述目标装载任务的任务属性信息中的任务状态更新为处理成功。
所述获取模块301,还用于根据所述目标装载任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息。
具体实现中,数据处理装置可以处理多个装载任务和加工任务,所述目标装载任务可以是所述多个加工任务的依赖任务。可选的,所述目标装载任务也可以是所述多个装载任务的依赖任务。所述获取模块301可以根据所述目标装载任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息。例如所述数据处理装置获取该表中依赖任务标识与所述目标装载任务的任务标识相同的所有行,即获取依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息。
所述更新模块304,还用于将所述依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
具体实现中,当所述目标装载任务处理成功时,所述更新模块304可以将依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(Random Access Memory,RAM)等。
以上所揭露的仅为本发明较佳实施例而已,当然不能以此来限定本发明之权利范围,因此依本发明权利要求所作的等同变化,仍属本发明所涵盖的范围。
Claims (10)
1.一种数据处理方法,其特征在于,所述方法包括:
以第一时间间隔周期获取数据加工任务信息表中任务状态为待处理的第一目标加工任务的任务属性信息;
根据所述第一目标加工任务的任务属性信息中的任务程序标识调用对应的任务处理程序;
接收所述任务处理程序的反馈信息,并根据所述反馈信息将所述第一目标加工任务的任务属性信息中的任务状态更新为处理成功;
根据所述第一目标加工任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息;
将所述依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
2.如权利要求1所述的数据处理方法,其特征在于,所述方法还包括:
以第二时间间隔周期获取所述数据加工任务信息表中任务状态为等待的第二目标加工任务的任务属性信息;
根据所述第二目标加工任务的任务属性信息中的任务标识在所述加工任务依赖关系信息表中获取所述第二目标加工任务的所有任务依赖关系信息;
判断所述第二目标加工任务的所有任务依赖关系信息中的依赖任务状态是否均为处理成功,所述依赖任务状态用以标识所述第二目标加工任务的依赖任务的任务状态;
若是,则将所述第二目标加工任务的任务属性信息中的任务状态更新为待处理。
3.如权利要求1所述的数据处理方法,其特征在于,所述以第一时间间隔周期获取数据加工任务信息表中任务状态为待处理的第一目标加工任务的任务属性信息包括:
以第一时间间隔周期获取所述数据加工任务信息表中任务状态为待处理的所有加工任务的任务属性信息;
判断所述任务状态为待处理的所有加工任务是否大于一个;
若是,则按照所述任务状态为待处理的所有加工任务的任务属性信息中的优先级进行排序;
确定优先级最高的加工任务为所述第一目标加工任务。
4.如权利要求2所述的数据处理方法,其特征在于,所述第二目标加工任务的依赖任务为装载任务或加工任务,所述装载任务用以将目标数据文件导入相应的数据库,所述加工任务用以对已导入相应的数据库中的所述目标数据文件进行处理。
5.如权利要求4所述的数据处理方法,其特征在于,所述方法还包括:
以第三时间间隔周期获取数据装载任务信息表中任务状态为待处理的目标装载任务的任务属性信息;
获取所述目标装载任务的任务属性信息中的数据文件标识和数据库标识;
将所述数据文件标识所对应的数据文件导入所述数据库标识所对应的数据库,并将所述目标装载任务的任务属性信息中的任务状态更新为处理成功;
根据所述目标装载任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息;
将所述依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
6.一种数据处理装置,其特征在于,所述数据处理装置包括:
获取模块,用于以第一时间间隔周期获取数据加工任务信息表中任务状态为待处理的第一目标加工任务的任务属性信息;
调用模块,用于根据所述第一目标加工任务的任务属性信息中的任务程序标识调用对应的任务处理程序;
接收模块,用于接收所述任务处理程序的反馈信息;
更新模块,用于根据所述反馈信息将所述第一目标加工任务的任务属性信息中的任务状态更新为处理成功;
所述获取模块,还用于根据所述第一目标加工任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息;
所述更新模块,还用于将所述依赖任务为所述第一目标加工任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
7.如权利要求6所述的数据处理装置,其特征在于,
所述获取模块,还用于以第二时间间隔周期获取所述数据加工任务信息表中任务状态为等待的第二目标加工任务的任务属性信息;
所述获取模块,还用于根据所述第二目标加工任务的任务属性信息中的任务标识在所述加工任务依赖关系信息表中获取所述第二目标加工任务的所有任务依赖关系信息;
所述数据处理装置还包括:
判断模块,用于判断所述第二目标加工任务的所有任务依赖关系信息中的依赖任务状态是否均为处理成功,所述依赖任务状态用以标识所述第二目标加工任务的依赖任务的任务状态;
所述更新模块,还用于当所述判断模块的判断结果为是时,将所述第二目标加工任务的任务属性信息中的任务状态更新为待处理。
8.如权利要求6所述的数据处理装置,其特征在于,所述获取模块包括:
获取单元,用于以第一时间间隔周期获取所述数据加工任务信息表中任务状态为待处理的所有加工任务的任务属性信息;
判断单元,用于判断所述任务状态为待处理的所有加工任务是否大于一个;
排序单元,用于当所述判断单元的判断结果为是时,按照所述任务状态为待处理的所有加工任务的任务属性信息中的优先级进行排序;
确定单元,用于确定优先级最高的加工任务为所述第一目标加工任务。
9.如权利要求7所述的数据处理装置,其特征在于,所述第二目标加工任务的依赖任务为装载任务或加工任务,所述装载任务用以将目标数据文件导入相应的数据库,所述加工任务用以对已导入相应的数据库中的所述目标数据文件进行处理。
10.如权利要求9所述的数据处理装置,其特征在于,
所述获取模块,还用于以第三时间间隔周期获取数据装载任务信息表中任务状态为待处理的目标装载任务的任务属性信息;
所述获取模块,还用于查询所述目标装载任务的任务属性信息中的数据文件标识和数据库标识;
所述数据处理装置还包括:
装载模块,用于将所述数据文件标识所对应的数据文件导入所述数据库标识所对应的数据库;
所述更新模块,还用于将所述目标装载任务的任务属性信息中的任务状态更新为处理成功;
所述获取模块,还用于根据所述目标装载任务的任务属性信息中的任务标识在加工任务依赖关系信息表中获取依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息;
所述更新模块,还用于将所述依赖任务为所述目标装载任务的所有加工任务的任务依赖关系信息中的依赖任务状态更新为处理成功。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410594800.0A CN104407848B (zh) | 2014-10-29 | 2014-10-29 | 一种数据处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410594800.0A CN104407848B (zh) | 2014-10-29 | 2014-10-29 | 一种数据处理方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104407848A true CN104407848A (zh) | 2015-03-11 |
CN104407848B CN104407848B (zh) | 2018-11-06 |
Family
ID=52645481
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410594800.0A Active CN104407848B (zh) | 2014-10-29 | 2014-10-29 | 一种数据处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104407848B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106648839A (zh) * | 2015-10-30 | 2017-05-10 | 北京国双科技有限公司 | 数据处理的方法和装置 |
CN109508228A (zh) * | 2017-09-15 | 2019-03-22 | 深圳竹云科技有限公司 | 一种数据处理方法、任务执行设备及任务生成设备 |
CN110807048A (zh) * | 2019-10-30 | 2020-02-18 | 泰康保险集团股份有限公司 | 自动任务处理方法及装置、计算机存储介质、电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100333109A1 (en) * | 2009-06-30 | 2010-12-30 | Sap Ag | System and method for ordering tasks with complex interrelationships |
CN102467532A (zh) * | 2010-11-12 | 2012-05-23 | 中国移动通信集团山东有限公司 | 一种任务处理方法以及任务处理装置 |
CN102591712A (zh) * | 2011-12-30 | 2012-07-18 | 大连理工大学 | 一种云计算中依赖任务的解耦并行调度方法 |
CN103064745A (zh) * | 2013-01-09 | 2013-04-24 | 苏州亿倍信息技术有限公司 | 一种任务分配处理的方法及系统 |
CN103677753A (zh) * | 2012-09-20 | 2014-03-26 | 艾默生零售解决方案公司 | 多任务控制方法、设备以及工业控制系统 |
-
2014
- 2014-10-29 CN CN201410594800.0A patent/CN104407848B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100333109A1 (en) * | 2009-06-30 | 2010-12-30 | Sap Ag | System and method for ordering tasks with complex interrelationships |
CN102467532A (zh) * | 2010-11-12 | 2012-05-23 | 中国移动通信集团山东有限公司 | 一种任务处理方法以及任务处理装置 |
CN102591712A (zh) * | 2011-12-30 | 2012-07-18 | 大连理工大学 | 一种云计算中依赖任务的解耦并行调度方法 |
CN103677753A (zh) * | 2012-09-20 | 2014-03-26 | 艾默生零售解决方案公司 | 多任务控制方法、设备以及工业控制系统 |
CN103064745A (zh) * | 2013-01-09 | 2013-04-24 | 苏州亿倍信息技术有限公司 | 一种任务分配处理的方法及系统 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106648839A (zh) * | 2015-10-30 | 2017-05-10 | 北京国双科技有限公司 | 数据处理的方法和装置 |
CN106648839B (zh) * | 2015-10-30 | 2020-06-05 | 北京国双科技有限公司 | 数据处理的方法和装置 |
CN109508228A (zh) * | 2017-09-15 | 2019-03-22 | 深圳竹云科技有限公司 | 一种数据处理方法、任务执行设备及任务生成设备 |
CN110807048A (zh) * | 2019-10-30 | 2020-02-18 | 泰康保险集团股份有限公司 | 自动任务处理方法及装置、计算机存储介质、电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN104407848B (zh) | 2018-11-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11325780B2 (en) | Method and device for sorting cargo | |
CN108074177B (zh) | 数据对账方法、系统和计算机可读存储介质 | |
CN107608695B (zh) | 硬盘固件升级方法、装置及服务器 | |
CN104834688A (zh) | 一种二级索引建立方法和装置 | |
CN104134109A (zh) | 集成版本管理的工程组态方法及系统 | |
CN104657387A (zh) | 一种数据查询方法及装置 | |
CN103577474A (zh) | 一种数据库的更新方法及系统 | |
CN104462477A (zh) | 基于时间戳的数据同步的方法、装置及系统 | |
CN104407848A (zh) | 一种数据处理方法及装置 | |
US10685324B2 (en) | Method and system for optimizing storage and retrieval of a stock keeping unit (SKU) | |
CN113283917A (zh) | 工程原材料的质量追溯方法及装置 | |
CN106648839B (zh) | 数据处理的方法和装置 | |
CN116126501A (zh) | 任务分配方法、装置、智能设备和存储介质 | |
CN112486536A (zh) | 一种基于容器的应用程序升级方法及设备、介质 | |
CN110532559B (zh) | 规则的处理方法及装置 | |
CN110865828A (zh) | 数据升级方法、装置、设备及计算机可读存储介质 | |
CN101702209A (zh) | 一种物料的领料方法和装置 | |
CN104484640A (zh) | 二维码识读端对当前二维码的识读次数进行管理的方法 | |
CN104598382A (zh) | 一种测试控制方法和装置 | |
CN105610645A (zh) | 车辆管理系统及其控制方法、装置 | |
CN103150365A (zh) | 银行后台系统模糊搜索的方法及设备 | |
CN105320523A (zh) | 一种数据处理方法和装置 | |
CN113742426B (zh) | 一种数据同步方法、装置、设备、服务器及存储介质 | |
CN116167935A (zh) | 二维码的修复方法、装置、设备及介质 | |
CN106598721B (zh) | 媒资数据流转方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |