CN114968950A - 任务的处理方法、装置、电子设备和介质 - Google Patents

Abstract

本公开提供了一种任务的处理方法、装置、电子设备和介质，涉及计算机领域，具体涉及云计算、云数据计算和云数据库技术，可应用在智能云场景下。具体实现方案为：获取待处理任务包含的至少两个原始任务节点，并确定原始任务节点关联的外部访问文件；从外部访问文件中确定目标访问文件，并根据目标访问文件生成辅助任务节点；其中，目标访问文件关联有至少两个原始任务节点；根据辅助任务节点和原始任务节点，对待处理任务进行处理；其中，辅助任务节点用于将目标访问文件进行本地缓存。本公开实现了减少任务处理过程中访问外部文件带来的网络流量的效果。

Description

任务的处理方法、装置、电子设备和介质

技术领域

本公开涉及计算机领域，具体涉及云计算、云数据计算和云数据库技术，可应用在智能云场景下。特别涉及一种任务的处理方法、装置、电子设备和介质。

背景技术

为了解决计算集群多次从存储集群访问文件，带来巨大网络流量的问题，各大厂商都提供了文件缓存服务。文件缓存服务部署在计算集群里，用于缓存存储集群的访问文件，以便计算集群对访问文件进行本地复用。

目前文件缓存服务的缓存方式，大多是仅缓存计算集群经常使用的访问文件。

发明内容

本公开提供了一种用于减少计算集群访问外部文件带来的网络流量的方法、装置、电子设备和介质。

根据本公开的一方面，提供了一种任务的处理方法，包括：

获取待处理任务包含的至少两个原始任务节点，并确定所述原始任务节点关联的外部访问文件；

从所述外部访问文件中确定目标访问文件，并根据所述目标访问文件生成辅助任务节点；其中，所述目标访问文件关联有至少两个原始任务节点；

根据所述辅助任务节点和所述原始任务节点，对所述待处理任务进行处理；其中，所述辅助任务节点用于将所述目标访问文件进行本地缓存。

根据本公开的另一方面，提供了一种任务的处理装置，包括：

文件确定模块，用于获取待处理任务包含的至少两个原始任务节点，并确定所述原始任务节点关联的外部访问文件；

节点生成模块，用于从所述外部访问文件中确定目标访问文件，并根据所述目标访问文件生成辅助任务节点；其中，所述目标访问文件关联有至少两个原始任务节点；

任务处理模块，用于根据所述辅助任务节点和所述原始任务节点，对所述待处理任务进行处理；其中，所述辅助任务节点用于将所述目标访问文件进行本地缓存。

根据本公开的另一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与至少一个处理器通信连接的存储器；其中，

存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行本公开中任一项的方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行本公开中任一项的方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行本公开中任一项的方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开实施例公开的一些任务的处理方法的流程图；

图2是根据本公开实施例公开的另一些任务的处理方法的流程图；

图3是根据本公开实施例公开的一些任务节点处理的流程示意图；

图4是根据本公开实施例公开的一些任务的处理装置的结构示意图；

图5是用来实现本公开实施例公开的任务的处理方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

当集群中存储的数据量不断增大时，需要扩充集群节点，由于计算和存储的耦合，存储和计算是同时扩展的。然而在真实的业务场景里，不同时段对存储和计算的需求不是相当的，对它们的需求是弹性变化的，绑定两者进行拓展的收缩，会造成资源的浪费，不满足云计算中的弹性性质。如当计算资源紧张的时候，需要单独扩充计算资源，而当没有计算任务时，可以减少计算资源。

为了解决上述的问题，出现了存储和计算分离的架构，即将集群分为存储集群和计算集群，且存储集群和计算集群之间通信连接。存储计算分离架构可以让大数据集群充分利用资源，可弹性拓展，更灵活，更符合云计算的特性。

然而，由于计算集群在处理计算任务时，会频繁的在存储集群的文件中读取数据或写入数据，当计算集群中计算任务较多时，无疑会产生巨大的网络流量，导致网络带宽不够使用，影响任务处理的效率。

为了解决计算集群多次从存储集群访问文件，带来巨大网络流量的问题，各大厂商都提供了文件缓存服务。文件缓存服务部署在计算集群里，可以利用计算集群的内存或者磁盘，组成一套高速存储服务，用于缓存存储集群的访问文件，以便计算集群对访问文件进行本地复用。

当计算集群需要读取存储集群的文件时，不是直接读取存储集群，而是读取文件缓存服务。如果文件缓存服务发现此文件已经缓存，则直接把文件返回给计算集群，而不需要计算集群再从存储集群中进行读取。当计算集群需要写入存储集群的文件时，是通过文件缓存服务将数据进行本地缓存，数据缓存完成后再把数据同步到存储集群，而不需要计算集群频繁向存储集群的文件中写入数据。

由于计算集群可用于数据存储的空间较小，因此目前的文件缓存服务大多仅将计算集群近期访问频率较高的文件进行本地缓存。然而，目前的文件缓存服务不会针对各待处理任务进行单独分析，确定需要缓存的文件，这就导致当待处理任务所需访问的文件与已缓存文件差异较大时，计算集群依然需要频繁访问存储集群中的文件，导致产生较大的网络流量。

图1是根据本公开实施例公开的一些任务的处理方法的流程图，本实施例可以适用于计算集群对待处理任务进行处理的情况。本实施例方法可以由本公开实施例公开的任务的处理装置来执行，装置可采用软件和/或硬件实现，并可集成在任意的具有计算能力的电子设备上。

如图1所示，本实施例公开的任务的处理方法可以包括：

S101、获取待处理任务包含的至少两个原始任务节点，并确定原始任务节点关联的外部访问文件。

其中，待处理任务表示在计算集群中需要进行处理的任务，待处理任务包括但不限于SQL(Structured Query Language,结构化查询语言)任务。待处理任务由至少两个原始任务节点构成，各原始任务节点对应一段任务处理语句，从而通过执行各原始任务节点的任务处理语句来对待处理任务进行处理。当执行任一原始任务节点的任务处理语句时，涉及到访问存储集群中至少一个外部访问文件，例如读取存储集群中的外部访问文件，或者写入存储集群中的外部访问文件等，则将该至少一个外部访问文件作为该原始任务节点关联的外部访问文件。

在一种实施方式中，计算集群对待处理任务进行解析，确定待处理任务包含的至少两个原始任务节点。并提取各原始任务节点对应的任务处理语句，其中，任务处理语句表示可执行的代码程序，例如“insert overwrite table ods.A select xxx from ods.P_Agroup by xxx.”即表示一种任务处理语句。对任务处理语句进行信息提取，进而根据信息提取结果确定任务处理语句中包含的外部访问文件，作为原始任务节点关联的外部访问文件。

通过获取待处理任务包含的至少两个原始任务节点，并确定原始任务节点关联的外部访问文件，实现了确定待处理任务关联的所有外部放文件的效果，为后续从外部访问文件中确定目标访问文件，奠定了数据基础。

S102、从外部访问文件中确定目标访问文件，并根据目标访问文件生成辅助任务节点；其中，目标访问文件关联有至少两个原始任务节点。

在一种实施方式中，计算集群确定各外部访问文件关联的原始任务节点的节点数量，并根据节点数量对外部访问文件进行筛选，将关联有至少两个原始任务节点的外部访问文件作为目标访问文件。

示例性的，假设各外部访问文件关联的原始任务节点如下表所示，可以看出，外部访问文件“ods.P_BC”关联有原始任务节点B和原始任务节点C，共两个原始任务节点，“ods.A”关联有原始任务节点A、原始任务节点B、原始任务节点C和原始任务节点D，共四个原始任务节点，则将“ods.P_BC”和“ods.A”作为目标访问文件。

外部访问文件	关联的原始任务节点
		ods.P_A	A
ods.P_BC	B，C
		ods.P_D	D
ods.A	A，B，C，D
		ods.B	B
ods.C	C
		ods.D	D

由于目标访问文件关联有至少两个原始任务节点，则表示有至少两个原始任务节点在执行任务处理语句时，需要从存储集群中读取或写入目标访问文件，为了减少计算集群与存储集群之间进行访问带来的网络流量，计算集群根据目标访问文件在待处理任务中生成辅助任务节点，使得在执行辅助任务节点的辅助任务处理语句时，计算集群能够将目标访问文件在计算集群本地端进行缓存，供后续处理时在计算集群本地端对目标访问文件进行复用。

值得说明的是，对于仅关联有一个原始任务节点的外部访问文件，由于仅有一个原始任务节点需要从存储集群中读取或写入该外部访问文件，因此无需在本地缓存用于后续复用，避免缓存数据量过大的问题。

通过从外部访问文件中确定目标访问文件，并根据目标访问文件生成辅助任务节点，其中，所述目标访问文件关联有至少两个原始任务节点，为后续通过辅助任务节点将目标访问文件进行本地缓存，奠定了数据基础。

S103、根据辅助任务节点和原始任务节点，对待处理任务进行处理；其中，辅助任务节点用于将目标访问文件进行本地缓存。

在一种实施方式中，计算集群在对待处理任务进行处理的过程中，首先执行辅助任务节点的辅助任务处理语句，从而将目标访问文件缓存到计算集群本地端的缓存文件中。

其次，对与目标访问文件关联的第一原始任务节点的任务处理语句进行修改，包括如下步骤：将任务处理语句中目标访问文件的文件标识，替换为缓存文件的文件标识。

最终，执行第一原始任务节点的任务处理语句，以及除第一原始任务节点外的第二原始任务节点的任务处理语句，以完成对待处理任务的处理过程。

本公开通过获取待处理任务包含的至少两个原始任务节点，并确定原始任务节点关联的外部访问文件，从外部访问文件中确定目标访问文件，并根据目标访问文件生成辅助任务节点；其中，目标访问文件关联有至少两个原始任务节点，进而根据辅助任务节点和原始任务节点，对待处理任务进行处理；其中，辅助任务节点用于将目标访问文件进行本地缓存，由于辅助任务节点将目标访问文件进行了本地缓存，从而使得与目标访问文件关联的原始任务节点，可以在本地端对目标访问文件进行复用访问，无需每次再从存储集群中对目标访问文件进行访问，减少任务处理过程中访问外部文件带来的网络流量。

图2是根据本公开实施例公开的另一些任务的处理方法的流程图，基于上述技术方案进一步优化与扩展，并可以与上述各个可选实施方式进行结合。

如图2所示，本实施例公开的任务的处理方法可以包括：

S201、获取待处理任务包含的至少两个原始任务节点。

S202、对原始任务节点的任务处理语句进行解析，确定任务处理语句包含的文件标识。

在一种实施方式中，采用语句结构解析工具对任务处理语句进行解析，确定任务处理语句中包含的文件标识，例如当任务处理语句为SQL语句时，则采用SQL结构解析器对SQL语句进行解析。

示例性的，假设任务处理语句为“insert overwrite table ods.A select xxxfrom ods.P_A group by xxx.”，则对该任务处理语句进行解析，其包括读取文件标识“ods.P_A”和写入文件标识“ods.A”，共两个文件标识。

示例性的，假设任务处理语句为“Insert overwrite table ods.B select xxxfrom ods.A join ods.P_BC on xxx”，则对该任务处理语句进行解析，其包括读取文件标识“ods.A”、“ods.P_BC”和写入文件标识“ods.B”，共三个文件标识。

S203、根据文件标识确定原始任务节点关联的外部访问文件。

在一种实施方式中，根据任务处理语句包含的文件标识，以及外部访问文件与文件标识之间的关联关系，确定任务处理语句包含的文件标识关联的外部访问文件，作为与原始任务节点关联的外部访问文件。

示例性的，根据原始任务节点对目标访问文件执行访问的访问类型，对目标访问文件进行分类统计，包括外部读取文件和外部写入文件。如下表所示，原始任务节点A关联外部读取文件“ods.P_A”和外部写入文件“ods.A”；原始任务节点B关联外部读取文件“ods.A”、“ods.P_BC”和外部写入文件“ods.B”；原始任务节点C关联外部读取文件“ods.A”、“ods.P_BC”和外部写入文件“ods.C”；原始任务节点D关联外部读取文件“ods.A”、“ods.P_D”和外部写入文件“ods.D”。

原始任务节点	外部读取文件	外部写入文件
			A	ods.P_A	ods.A
B	ods.A,ods.P_BC	ods.B
			C	ods.A,ods.P_BC	ods.C
D	ods.A,ods.P_D	ods.D

通过对原始任务节点的任务处理语句进行解析，确定任务处理语句包含的文件标识，并根据文件标识确定原始任务节点关联的外部访问文件，从而通过解析文件标识的方式确定各原始任务节点所关联的外部访问文件，提高了确定外部访问文件的效率和准确性。

S204、从外部访问文件中确定目标访问文件，并将与目标访问文件关联的至少两个原始任务节点作为候选任务节点。

在一种实施方式中，将关联有至少两个原始任务节点的外部访问文件作为目标访问文件。并且根据外部访问文件与原始任务节点之间的关联关系，将与目标访问文件关联的至少两个原始任务节点作为候选任务节点。

示例性的，继续以上表为例，外部访问文件“ods.A”为原始任务节点A的外部写入文件，为原始任务节点B、原始任务节点C和原始任务节点D的外部读取文件，即外部访问文件“ods.A”关联有四个原始任务节点，将其作为目标访问文件，且将原始任务节点A、原始任务节点B、原始任务节点C和原始任务节点D作为候选任务节点。

S205、根据原始任务节点之间的依赖关系，从候选任务节点中确定目标任务节点。

其中，若某个原始任务节点的执行依赖于另一个原始任务节点的执行结果，则认为上述两个原始任务节点之间具有依赖关系。例如，原始任务节点B、原始任务节点C和原始任务节点D的执行依赖于原始任务节点A，则表示原始任务节点A、原始任务节点B、原始任务节点C和原始任务节点D具有依赖关系。

在一种实施方式中，根据原始任务节点之间的依赖关系，确定各原始任务节点的执行优先级，并根据执行优先级从候选任务节点中确定目标任务节点。

可选的，S205包括：

根据依赖关系确定各候选任务节点的执行优先级，并将执行优先级最高的候选任务节点作为目标任务节点。

示例性的，假设候选任务节点B依赖于候选任务节点A，候选任务节点C依赖于候选任务节点B，则候选任务节点A的执行优先级最高、候选任务节点B的执行优先级其次，候选任务节点C的执行优先级最低，进而将候选任务节点A作为目标任务节点。

通过根据依赖关系确定各候选任务节点的执行优先级，并将执行优先级最高的候选任务节点作为目标任务节点，为后续基于目标任务节点生成辅助任务节点，奠定了数据基础。

S206、根据目标任务节点对目标访问文件执行访问的访问类型，生成辅助任务节点；其中，访问类型包括读取类型和写入类型。

在一种实施方式中，在访问类型为读取类型的情况下，则在目标任务节点的上一执行优先级中，新建辅助任务节点用于对目标访问文件进行本地缓存。在访问类型为写入类型的情况下，则对目标任务节点的任务处理语句进行修改，从而将目标任务节点作为辅助任务节点，用于对目标访问文件进行本地缓存。

通过将与目标访问文件关联的至少两个原始任务节点作为候选任务节点，并根据原始任务节点之间的依赖关系，从候选任务节点中确定目标任务节点，进而根据目标任务节点对目标访问文件执行访问的访问类型，生成辅助任务节点；其中，访问类型包括读取类型和写入类型，实现了根据访问类型适应性的生成辅助任务节点的效果，保证无论为何种访问类型，辅助任务节点均能顺利完成对目标访问文件的本地缓存操作。

可选的，S206包括：

在访问类型为读取类型的情况下，创建新的任务节点作为辅助任务节点；其中，辅助任务节点的执行优先级高于目标任务节点；辅助任务节点的辅助任务处理语句，用于将目标访问文件缓存于本地端的缓存文件中。

在一种实施方式中，若访问类型为读取类型，则表示在执行目标任务节点的任务处理语句时，需要读取目标访问文件的数据。因此，创建新的任务节点作为辅助任务节点，且设置辅助任务节点的执行优先级高于目标任务节点，用于将存储集群中的目标访问文件，同步到计算集群本地端预先生成的缓存文件中。

通过在访问类型为读取类型的情况下，创建新的任务节点作为辅助任务节点，首先，通过建立辅助任务节点，可以实现对目标访问文件进行本地缓存的效果，保证后续可以对目标访问文件进行本地复用；并且由于辅助任务节点的执行优先级高于目标任务节点，从而保证执行优先级最高的目标任务节点执行时，能够顺利从本地端读取目标访问文件，保证目标任务节点的正常执行。

可选的，S206包括：

在访问类型为写入类型的情况下，确定本地端中缓存文件的缓存文件标识，以及目标访问文件的目标文件标识；在目标任务节点的任务处理语句中，将目标文件标识替换为缓存文件标识，生成辅助任务处理语句；根据辅助任务处理语句，将目标任务节点作为辅助任务节点。

在一种实施方式中，若访问类型为写入类型，则获取目标任务节点的任务处理语句，并将任务处理语句中目标访问文件的目标文件标识，替换为计算集群本地端预先建立的缓存文件的缓存文件标识，生成辅助任务处理语句，进而将对应辅助任务处理语句的目标任务节点，作为辅助任务节点。

示例性的，假设访问类型为写入类型，计算集群本地端预先建立的缓存文件的缓存文件标识为“fuse_cache.ods_db_A_1”，目标任务节点A的任务处理语句为“insertoverwrite table ods.A select xxx from ods.P_A group by xxx.”，其中，目标访问文件的目标文件标识为“ods.A”，则将“ods.A”替换为“fuse_cache.ods_db_A_1”，生成辅助任务处理语句“insert overwrite table fuse_cache.ods_db_A_1select xxx from ods.P_A group by xx”。进而将对应辅助任务处理语句的目标任务节点A，作为辅助任务节点。

通过在访问类型为写入类型的情况下，在目标任务节点的任务处理语句中，将目标文件标识替换为缓存文件标识，生成辅助任务处理语句，根据辅助任务处理语句，将目标任务节点作为辅助任务节点，从而将修改任务处理语句后的目标任务节点直接作为辅助任务节点，使得执行优先级最高的目标任务节点在执行时，能够直接将数据写入到本地端的缓存文件中，供后续直接在缓存文件中进行读取或写入，无需再从存储集群中对目标访问文件进行读取或写入，减少了产生的网络流量。

S207、根据辅助任务节点和原始任务节点，对待处理任务进行处理。

可选的，S207包括：

确定缓存文件的缓存文件标识，以及目标访问文件的目标文件标识；在候选任务节点的任务处理语句中，将目标文件标识替换为缓存文件标识，生成候选任务节点的更新任务处理语句；执行辅助任务处理语句、更新任务处理语句、和除候选任务节点外的其他原始任务节点的任务处理语句，以便对待处理任务进行处理。

在一种实施方式中，获取与目标访问文件关联的候选任务节点的任务处理语句，并将任务处理语句中目标访问文件的目标文件标识，替换为缓存文件的缓存文件标识，生成更新任务处理语句。根据待处理任务中各任务节点的依赖关系，分别执行辅助任务节点的辅助任务处理语句、候选任务节点的更新任务处理语句、以及其他原始任务节点的任务处理语句，以完成对待处理任务的处理。

通过执行辅助任务节点的辅助任务处理语句，实现了将目标访问文件进行本地缓存的效果；通过执行候选任务节点的更新任务处理语句，使得候选任务节点能够直接在计算集群本地端读取或写入目标访问文件，无需从存储集群中读取或写入目标访问文件，减少了产生的网络流量；通过执行除候选任务节点外的其他原始任务节点的任务处理语句，保证不关联有目标访问文件的原始任务节点能够依旧进行执行，保证待处理任务处理结果的准确性。

在上述实施例的基础上，可选的，S207之后还包括：

根据依赖关系确定各候选任务节点的执行优先级，并将执行优先级最低的候选任务节点作为终止任务节点；创建新的任务节点作为清除任务节点；其中，清除任务节点的执行优先级低于终止任务节点；终止任务节点用于清除缓存文件。

示例性的，假设候选任务节点B依赖于候选任务节点A，候选任务节点C依赖于候选任务节点B，则候选任务节点A的执行优先级最高、候选任务节点B的执行优先级其次，候选任务节点C的执行优先级最低，进而将候选任务节点C作为终止任务节点。在候选任务节点C的下一执行优先级中创建新的任务节点作为清除任务节点，用于清除缓存文件。

通过根据依赖关系确定各候选任务节点的执行优先级，并将执行优先级最低的候选任务节点作为终止任务节点，创建新的任务节点作为清除任务节点；其中，清除任务节点的执行优先级低于终止任务节点；终止任务节点用于清除缓存文件，实现了通过设置清除任务节点来清除计算集群本地端的缓存文件，减少计算集群本地端的存储压力；并且，由于清除任务节点的执行优先级低于终止任务节点，保证仅在所有候选任务节点访问完缓存文件中的目标访问文件后，再对缓存文件进行清除，保证了待处理任务的正常处理。

在上述实施例的基础上，为了进一步对本公开涉及的方案进行解释说明，本公开实施例还提供了任务的处理方法在一种具体场景下的处理流程。

假设待处理任务包含原始任务节点A、原始任务节点B、原始任务节点C和原始任务节点D。分别对应的任务处理语句为“insert overwrite table ods.A select xxx fromods.P_A group by xxx.”、“Insert overwrite table ods.Bselect xxx from ods.Ajoin ods.P_BC on xxx”、“insert overwrite table ods.Cselect xxx from ods.A joinods.P_BC on xxx”和“insert overwrite table ods.Dselect xxx from ods.A joinods.P_D on xxx”。原始任务节点B、原始任务节点C和原始任务节点D依赖于原始任务节点A。

1)确定关联的外部访问文件。

原始任务节点A关联有外部访问文件“ods.P_A”和“ods.A”。原始任务节点B关联有外部访问文件“ods.A”、“ods.P_BC”和“ods.B”。原始任务节点C关联有外部访问文件“ods.A”、“ods.P_BC”和“ods.C”。原始任务节点D关联有外部访问文件“ods.A”、“ods.P_D”和“ods.D”。

2)从外部访问文件中确定目标访问文件。

外部访问文件“ods.P_A”关联有原始任务节点A。外部访问文件“ods.P_BC”关联有原始任务节点B和原始任务节点C。外部访问文件“ods.P_D”关联有原始任务节点D。外部访问文件“ods.A”关联有原始任务节点A、原始任务节点B、原始任务节点C和原始任务节点D。外部访问文件“ods.B”关联有原始任务节点B。外部访问文件“ods.C”关联有原始任务节点C。外部访问文件“ods.D”关联有原始任务节点D。

则将外部访问文件“ods.P_BC”和“ods.A”作为目标访问文件。

3)将原始任务节点B和原始任务节点C作为目标访问文件“ods.P_BC”的候选任务节点。将原始任务节点A、原始任务节点B、原始任务节点C和原始任务节点D作为目标访问文件“ods.A”的候选任务节点。

4)由于原始任务节点B和原始任务节点C为同一执行优先级，则将原始任务节点B和原始任务节点C，均作为目标访问文件“ods.P_BC”的目标任务节点。并且，由于原始任务节点A的执行优先级最高，则将原始任务节点A作为目标访问文件“ods.A”的目标任务节点。

5)原始任务节点B和原始任务节点C对目标访问文件“ods.P_BC”执行读取操作，因此新建辅助任务节点E，用于从存储集群中同步目标访问文件“ods.P_BC”到计算集群的本地端。并且，辅助任务节点E与原始任务节点A具有相同的执行优先级。

原始任务节点A对目标访问文件“ods.A”执行写入操作，假设计算集群本地端预先建立的缓存文件的缓存文件标识为“fuse_cache.ods_db_A_1”，则将任务处理语句中“ods.A”替换为“fuse_cache.ods_db_A_1”，生成辅助任务处理语句“insert overwritetable fuse_cache.ods_db_A_1select xxx from ods.P_A group by xx”。进而将对应辅助任务处理语句的原始任务节点A，作为辅助任务节点。

6)原始任务节点B、原始任务节点C和原始任务节点D为目标访问文件“ods.A”的候选任务节点，原始任务节点B和原始任务节点C为目标访问文件“ods.P_BC”的候选任务节点。假设目标访问文件“ods.A”对应缓存文件的缓存标识为“fuse_cache.ods_db_A_1”，目标访问文件“ods.P_BC”对应缓存文件的缓存标识为“fuse_cache.ods_db_P_BC_1”。

则原始任务节点B的更新任务处理语句为“insert overwrite table ods.Bselect xxx from fuse_cache.ods_db_A_1join fuse_cache.ods_db_P_BC_1on xxx”。原始任务节点C的更新任务处理语句为“insert overwrite table ods.C select xxx fromfuse_cache.ods_db_A_1join fuse_cache.ods_db_P_BC_1on xxx”。原始任务节点D的更新任务处理语句为“insert overwrite table ods.D select xxx from fuse_cache.ods_db_A_1join ods.P_D on xxx”。

7)在对待处理任务进行处理的过程中，先执行原始任务节点A和辅助任务节点E的辅助任务处理语句。再执行原始任务节点B、原始任务节点C和原始任务节点D的更新任务处理语句。(本处不存在除候选任务节点外的其他原始任务节点)。

8)原始任务节点B和原始任务节点C为目标访问文件“ods.P_BC”的终止任务节点。原始任务节点B、原始任务节点C和原始任务节点D为目标访问文件“ods.A”的终止任务节点。则在原始任务节点B和原始任务节点C的下一执行优先级中设置清除任务节点G，用于清除缓存文件“fuse_cache.ods_db_P_BC_1”，在原始任务节点B、原始任务节点C和原始任务节点D的下一执行优先级中设置清除任务节点H，用于清除缓存文件“fuse_cache.ods_db_A_1”。

9)完成对待处理任务的处理过程。

上述处理流程中涉及具体的执行方式可参考本公开实施例中方法的描述，此处不再赘述。

针对上述处理流程，本公开实施例还提供了相应的附图展示，图3是根据本公开实施例公开的一些任务节点处理的流程示意图，其中，图3a为待处理任务优化前的任务节点处理流程；图3b为待处理任务经过上述处理流程后，优化后的任务节点处理流程。

图4是根据本公开实施例公开的一些任务的处理装置的结构示意图，可以适用于计算集群对待处理任务进行处理的情况。本实施例装置可采用软件和/或硬件实现，并可集成在任意的具有计算能力的电子设备上。

如图4所示，本实施例公开的任务的处理装置40可以包括文件确定模块41、节点生成模块42和任务处理模块43，其中：

文件确定模块41，用于获取待处理任务包含的至少两个原始任务节点，并确定所述原始任务节点关联的外部访问文件；

节点生成模块42，用于从所述外部访问文件中确定目标访问文件，并根据所述目标访问文件生成辅助任务节点；其中，所述目标访问文件关联有至少两个原始任务节点；

任务处理模块43，用于根据所述辅助任务节点和所述原始任务节点，对所述待处理任务进行处理；其中，所述辅助任务节点用于将所述目标访问文件进行本地缓存。

可选的，文件确定模块41，具体用于：

对所述原始任务节点的任务处理语句进行解析，确定所述任务处理语句包含的文件标识；

根据所述文件标识确定所述原始任务节点关联的外部访问文件。

可选的，所述节点生成模块42，具体用于：

将与所述目标访问文件关联的至少两个原始任务节点作为候选任务节点；

根据原始任务节点之间的依赖关系，从所述候选任务节点中确定目标任务节点；

根据所述目标任务节点对所述目标访问文件执行访问的访问类型，生成辅助任务节点；其中，所述访问类型包括读取类型和写入类型。

可选的，所述节点生成模块42，具体还用于：

根据所述依赖关系确定各所述候选任务节点的执行优先级，并将执行优先级最高的候选任务节点作为所述目标任务节点。

可选的，所述节点生成模块42，具体还用于：

在所述访问类型为读取类型的情况下，创建新的任务节点作为所述辅助任务节点；其中，所述辅助任务节点的执行优先级高于所述目标任务节点；所述辅助任务节点的辅助任务处理语句，用于将所述目标访问文件缓存于本地端的缓存文件中。

可选的，所述节点生成模块42，具体还用于：

在所述访问类型为写入类型的情况下，确定本地端中缓存文件的缓存文件标识，以及所述目标访问文件的目标文件标识；

在所述目标任务节点的任务处理语句中，将所述目标文件标识替换为所述缓存文件标识，生成辅助任务处理语句；

根据所述辅助任务处理语句，将所述目标任务节点作为所述辅助任务节点。

可选的，任务处理模块43，具体用于：

确定所述缓存文件的缓存文件标识，以及所述目标访问文件的目标文件标识；

在所述候选任务节点的任务处理语句中，将所述目标文件标识替换为所述缓存文件标识，生成所述候选任务节点的更新任务处理语句；

执行所述辅助任务处理语句、所述更新任务处理语句、和除所述候选任务节点外的其他原始任务节点的任务处理语句，以便对所述待处理任务进行处理。

可选的，所属装置还包括缓存清除模块，具体用于：

根据所述依赖关系确定各所述候选任务节点的执行优先级，并将执行优先级最低的候选任务节点作为终止任务节点；

创建新的任务节点作为清除任务节点；其中，所述清除任务节点的执行优先级低于所述终止任务节点；所述终止任务节点用于清除所述缓存文件。

本公开实施例所公开的任务的处理装置40可执行本公开实施例所公开的任务的处理方法，具备执行方法相应的功能模块和有益效果。本实施例中未详尽描述的内容可以参考本公开方法实施例中的描述。

本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图5示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图5所示，设备500包括计算单元501，其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序，来执行各种适当的动作和处理。在RAM 503中，还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。

设备500中的多个部件连接至I/O接口505，包括：输入单元506，例如键盘、鼠标等；输出单元507，例如各种类型的显示器、扬声器等；存储单元508，例如磁盘、光盘等；以及通信单元509，例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理，例如任务的处理方法。例如，在一些实施例中，任务的处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元508。在一些实施例中，计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时，可以执行上文描述的任务的处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元501可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行任务的处理方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (19)

1.一种任务的处理方法，包括：

获取待处理任务包含的至少两个原始任务节点，并确定所述原始任务节点关联的外部访问文件；

从所述外部访问文件中确定目标访问文件，并根据所述目标访问文件生成辅助任务节点；其中，所述目标访问文件关联有至少两个原始任务节点；

根据所述辅助任务节点和所述原始任务节点，对所述待处理任务进行处理；其中，所述辅助任务节点用于将所述目标访问文件进行本地缓存。

2.根据权利要求1所述的方法，其中，所述确定所述原始任务节点关联的外部访问文件，包括：

对所述原始任务节点的任务处理语句进行解析，确定所述任务处理语句包含的文件标识；

根据所述文件标识确定所述原始任务节点关联的外部访问文件。

3.根据权利要求1所述的方法，其中，所述根据所述目标访问文件生成辅助任务节点，包括：

将与所述目标访问文件关联的至少两个原始任务节点作为候选任务节点；

根据原始任务节点之间的依赖关系，从所述候选任务节点中确定目标任务节点；

根据所述目标任务节点对所述目标访问文件执行访问的访问类型，生成辅助任务节点；其中，所述访问类型包括读取类型和写入类型。

4.根据权利要求3所述的方法，其中，所述根据原始任务节点之间的依赖关系，从所述候选任务节点中确定目标任务节点，包括：

根据所述依赖关系确定各所述候选任务节点的执行优先级，并将执行优先级最高的候选任务节点作为所述目标任务节点。

5.根据权利要求3所述的方法，其中，所述根据所述目标任务节点对所述目标访问文件执行访问的访问类型，生成辅助任务节点，包括：

在所述访问类型为读取类型的情况下，创建新的任务节点作为所述辅助任务节点；其中，所述辅助任务节点的执行优先级高于所述目标任务节点；所述辅助任务节点的辅助任务处理语句，用于将所述目标访问文件缓存于本地端的缓存文件中。

6.根据权利要求3所述的方法，其中，所述根据所述目标任务节点对所述目标访问文件执行访问的访问类型，生成辅助任务节点，包括：

在所述访问类型为写入类型的情况下，确定本地端中缓存文件的缓存文件标识，以及所述目标访问文件的目标文件标识；

在所述目标任务节点的任务处理语句中，将所述目标文件标识替换为所述缓存文件标识，生成辅助任务处理语句；

根据所述辅助任务处理语句，将所述目标任务节点作为所述辅助任务节点。

7.根据权利要求5或6所述的方法，其中，所述根据所述辅助任务节点和所述原始任务节点，对所述待处理任务进行处理，包括：

确定所述缓存文件的缓存文件标识，以及所述目标访问文件的目标文件标识；

在所述候选任务节点的任务处理语句中，将所述目标文件标识替换为所述缓存文件标识，生成所述候选任务节点的更新任务处理语句；

执行所述辅助任务处理语句、所述更新任务处理语句、和除所述候选任务节点外的其他原始任务节点的任务处理语句，以便对所述待处理任务进行处理。

8.根据权利要求5或6所述的方法，所述根据所述辅助任务节点和所述原始任务节点，对所述待处理任务进行处理之后，还包括：

根据所述依赖关系确定各所述候选任务节点的执行优先级，并将执行优先级最低的候选任务节点作为终止任务节点；

创建新的任务节点作为清除任务节点；其中，所述清除任务节点的执行优先级低于所述终止任务节点；所述终止任务节点用于清除所述缓存文件。

9.一种任务的处理装置，包括：

文件确定模块，用于获取待处理任务包含的至少两个原始任务节点，并确定所述原始任务节点关联的外部访问文件；

节点生成模块，用于从所述外部访问文件中确定目标访问文件，并根据所述目标访问文件生成辅助任务节点；其中，所述目标访问文件关联有至少两个原始任务节点；

任务处理模块，用于根据所述辅助任务节点和所述原始任务节点，对所述待处理任务进行处理；其中，所述辅助任务节点用于将所述目标访问文件进行本地缓存。

10.根据权利要求9所述的装置，其中，所述文件确定模块，具体用于：

对所述原始任务节点的任务处理语句进行解析，确定所述任务处理语句包含的文件标识；

根据所述文件标识确定所述原始任务节点关联的外部访问文件。

11.根据权利要求9所述的装置，其中，所述节点生成模块，具体用于：

将与所述目标访问文件关联的至少两个原始任务节点作为候选任务节点；

根据原始任务节点之间的依赖关系，从所述候选任务节点中确定目标任务节点；

根据所述目标任务节点对所述目标访问文件执行访问的访问类型，生成辅助任务节点；其中，所述访问类型包括读取类型和写入类型。

12.根据权利要求10所述的装置，其中，所述节点生成模块，具体还用于：

根据所述依赖关系确定各所述候选任务节点的执行优先级，并将执行优先级最高的候选任务节点作为所述目标任务节点。

13.根据权利要求11所述的装置，其中，所述节点生成模块，具体还用于：

在所述访问类型为读取类型的情况下，创建新的任务节点作为所述辅助任务节点；其中，所述辅助任务节点的执行优先级高于所述目标任务节点；所述辅助任务节点的辅助任务处理语句，用于将所述目标访问文件缓存于本地端的缓存文件中。

14.根据权利要求11所述的装置，其中，所述节点生成模块，具体还用于：

在所述访问类型为写入类型的情况下，确定本地端中缓存文件的缓存文件标识，以及所述目标访问文件的目标文件标识；

在所述目标任务节点的任务处理语句中，将所述目标文件标识替换为所述缓存文件标识，生成辅助任务处理语句；

根据所述辅助任务处理语句，将所述目标任务节点作为所述辅助任务节点。

15.根据权利要求13或14所述的装置，其中，所述任务处理模块，具体用于：

确定所述缓存文件的缓存文件标识，以及所述目标访问文件的目标文件标识；

在所述候选任务节点的任务处理语句中，将所述目标文件标识替换为所述缓存文件标识，生成所述候选任务节点的更新任务处理语句；

执行所述辅助任务处理语句、所述更新任务处理语句、和除所述候选任务节点外的其他原始任务节点的任务处理语句，以便对所述待处理任务进行处理。

16.根据权利要求13或14所述的装置，所属装置还包括缓存清除模块，具体用于：

根据所述依赖关系确定各所述候选任务节点的执行优先级，并将执行优先级最低的候选任务节点作为终止任务节点；

创建新的任务节点作为清除任务节点；其中，所述清除任务节点的执行优先级低于所述终止任务节点；所述终止任务节点用于清除所述缓存文件。

17.一种电子设备，包括：

至少一个处理器；以及

与至少一个处理器通信连接的存储器；其中，

存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行权利要求1-8中任一项的方法。

18.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行根据权利要求1-8中任一项的方法。

19.一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现根据权利要求1-8中任一项的方法。

Images