CN115480746A - 数据处理任务的执行文件生成方法、装置、设备及介质 - Google Patents
数据处理任务的执行文件生成方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN115480746A CN115480746A CN202211156758.5A CN202211156758A CN115480746A CN 115480746 A CN115480746 A CN 115480746A CN 202211156758 A CN202211156758 A CN 202211156758A CN 115480746 A CN115480746 A CN 115480746A
- Authority
- CN
- China
- Prior art keywords
- data
- target
- node
- information
- file
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/30—Creation or generation of source code
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/40—Transformation of program code
- G06F8/41—Compilation
- G06F8/44—Encoding
- G06F8/447—Target code generation
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Stored Programmes (AREA)
Abstract
本发明实施例公开了一种数据处理任务的执行文件生成方法、装置、设备及介质。该方法响应于用户通过预设界面对目标数据处理任务配置数据流图,获取包含数据流图中各节点信息以及连接关系信息的节点信息文件,进而基于节点信息文件生成用于执行该目标数据处理任务的目标执行文件,以实现基于用户在界面上配置的数据流图生成相应的执行文件,进而实现了基于节点配置的任务执行文件的生成,解决了现有技术中多工程师协同开发所造成的周期长、成本高的技术问题,并且,用户在界面上配置数据流图即可实现数据处理任务的开发,不局限于具备代码开发能力的用户,解决了数据处理具备局限性的问题。
Description
技术领域
本发明涉及云计算技术领域,尤其涉及一种数据处理任务的执行文件生成方法、装置、设备及介质。
背景技术
随着现代科技的飞速发展,大数据、人工智能等技术与实体产业深度融合,数字化经济成为时代发展的新趋势,这也使得对数据的理解和使用有着更高的要求。
在现有的方法中,一般由业务提出数据处理需求,由数据开发工程师完成相应的开发工作,再由业务验证结果并反馈,整个过程的迭代周期较长,同时需要大量的沟通成本。
在实现本发明的过程中,发明人发现现有技术中至少存在以下技术问题:现有技术需要多个工程师协同进行数据处理任务的代码开发,开发周期长、沟通成本大,并且,由于很多具备数据处理需求的用户不具备代码开发能力,使得数据处理具备局限性。
发明内容
本发明实施例提供了一种数据处理任务的执行文件生成方法、装置、设备及介质,以解决现有技术中多工程师协同开发数据处理任务的代码所造成的周期长、成本高的技术问题,以及解决了数据处理具备局限性的问题。
根据本发明实施例的一方面,提供了一种数据处理任务的执行文件生成方法,包括:
响应于用户在预设界面上针对目标数据处理任务配置数据流图,获取与所述数据流图对应的节点信息文件,其中,所述节点信息文件包括所述数据流图中的数据节点信息、算子节点信息和各节点之间的连接关系信息;
基于所述节点信息文件,生成与所述目标数据处理任务对应的目标执行文件,其中,所述目标执行文件用于在运行时执行所述目标数据处理任务。
根据本发明实施例的另一方面,提供了一种数据处理任务的执行文件生成装置,包括:
节点文件获取模块,用于响应于用户在预设界面上针对目标数据处理任务配置数据流图,获取与所述数据流图对应的节点信息文件,其中,所述节点信息文件包括所述数据流图中的数据节点信息、算子节点信息和各节点之间的连接关系信息;
执行文件生成模块,用于基于所述节点信息文件,生成与所述目标数据处理任务对应的目标执行文件,其中,所述目标执行文件用于在运行时执行所述目标数据处理任务。
根据本发明实施例的另一方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的数据处理任务的执行文件生成方法。
根据本发明实施例的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的数据处理任务的执行文件生成方法。
上述发明中的一个实施例具有如下优点或有益效果:
在用户通过预设界面对目标数据处理任务配置数据流图时,获取包含数据流图中各节点信息以及连接关系信息的节点信息文件,进而基于节点信息文件生成用于执行该目标数据处理任务的目标执行文件,以实现基于用户在界面上配置的数据流图生成相应的执行文件,进而实现了基于用户节点配置的任务执行文件的生成,无需人为开发,解决了现有技术中多工程师协同开发所造成的周期长、成本高的技术问题,并且,用户在界面上配置数据流图即可实现数据处理任务的开发,不局限于具备代码开发能力的用户,解决了数据处理具备局限性的问题。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1A为本发明一个实施例提供的一种数据处理任务的执行文件生成方法的流程示意图;
图1B为本发明一个实施例提供的一种数据流图的示意图;
图2A为本发明一个实施例提供的另一种数据处理任务的执行文件生成方法的流程示意图;
图2B为本发明一个实施例提供的一种数据流图的示意图;
图3A为本发明一个实施例提供的另一种数据处理任务的执行文件生成方法的流程示意图;
图3B为本发明一个实施例提供的一种数据处理过程示意图;
图4A为本发明一个实施例提供的一种数据处理任务的执行文件生成装置的结构示意图;
图4B为本发明一个实施例提供的一种数据处理任务的执行文件生成系统的处理流程图;
图5为本发明一个实施例提供的一种电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“预设”、“目标”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
图1A为本发明一个实施例提供的一种数据处理任务的执行文件生成方法的流程示意图,本发明实施例可适用于根据用户在预设界面上配置的数据流图,生成与数据流图对应的目标数据处理任务的目标执行文件,如可适用于生成样本构建任务、特征构建任务、数据清洗任务、数据报表生成任务或数据统计任务等任务的目标执行文件,以通过运行目标执行文件执行数据处理任务,该方法可以由数据处理任务的执行文件生成装置来执行,该数据处理任务的执行文件生成装置可以采用硬件和/或软件的形式实现,该数据处理任务的执行文件生成装置可配置于计算机、智能手机或智能平板等电子设备中。如图1A所示,该方法包括:
S110、响应于用户在预设界面上针对目标数据处理任务配置数据流图,获取与数据流图对应的节点信息文件,其中,节点信息文件包括数据流图中的数据节点信息、算子节点信息和各节点之间的连接关系信息。
其中,预设界面可以是用于展示配置信息以使用户配置数据流图的界面。示例性的,预设界面可以展示预设节点列表,其中,预设节点列表包括至少一个预设节点,预设节点可以是预设的数据类型的节点或预设的算子类型的节点。
数据类型的节点可以是为用户提供的可选择的数据源或可生成的目标源。算子类型的节点可以是为用户提供的可选择的运算算子。示例性的,算子类型的节点可以是聚合节点、汇总节点、分组计算节点、窗口计算节点、卷积运算节点或过滤节点等。
具体的,用户可以通过选择预设界面上的预设节点,并配置选择的各节点之间的连线,在预设界面上构建目标数据处理任务对应的数据流图。目标数据处理任务可以是预先规划的用于处理数据的任务,如,通过处理数据构建样本的任务、对数据进行清洗的任务、通过数据构建特征的任务、数据的模型训练任务或数据报表统计任务等
其中,数据流图可以描述各节点之间的流向关系;如,数据流图可以是有向无环图,或,流水线图(pipeline)。
在本发明实施例中,数据流图中可以包括至少一个数据节点、至少一个算子节点以及各节点之间的连接线。其中,数据节点可以包括数据源节点和目标源节点,数据源节点对应可选择的源数据,目标源节点对应可生成的目标数据。各节点之间的连接线可以是数据源节点与算子节点之间的连接线,也可以是算子节点与算子节点之间的连接线,还可以是算子节点与目标源节点之间的连接线。
示例性的,参见图1B,展示了本发明实施例提供的一种数据流图的示意图。其中,数据源节点1、数据源节点2与算子节点1连接,数据源节点、算子节点1与算子节点2连接,算子节点2与算子节点3连接,算子节点3与目标源节点1连接。
进一步的,针对用户在预设界面上配置的数据流图,可以获取数据流图对应的节点信息文件。具体的,节点信息文件包括数据流图中的数据节点的信息、算子节点的信息以及各节点之间的连接关系信息。
在一种具体的实施方式中,响应于用户在预设界面上针对目标数据处理任务配置数据流图,获取与数据流图对应的节点信息文件,包括如下步骤:于预设界面上展示预设节点列表,其中,预设节点列表包括至少一个数据类型的节点以及至少一个算子类型的节点;获取用户在预设界面上基于预设节点列表构建的数据流图,基于数据流图确定各数据节点、各算子节点、各算子节点的处理依赖参数以及各节点之间的连接线;基于各数据节点确定数据节点信息,基于各算子节点以及各算子节点的处理依赖参数确定算子节点信息,并基于各节点之间的连接线确定连接关系信息;基于数据节点信息、算子节点信息以及连接关系信息构建节点信息文件。
其中,前端的预设界面上展示的预设节点列表的数量可以是多个,也可以是一个。可以将各种类型的节点均置于同一预设节点列表中,以在预设界面上展示唯一的预设节点列表;或者,基于节点的类型,将各节点于该类型对应的预设节点列表中展示,以在预设界面上展示各类型的预设节点列表;或者,还可以进一步针对数据类型的节点,基于节点对应的数据所属数据库的框架(如MySQL、redis、hive、hbase等),将各节点于该数据库框架对应的预设节点列表中展示。
进一步的,用户可以基于预设节点列表,在预设界面上配置数据流图。可以在检测到用户触发确认控件时,获取预设界面中的预设区域内的流图作为用户构建的数据流图。
其中,用户可以先从预设节点列表中选择各数据节点或各算子节点,如,可以通过勾选的方式或将节点拖拽到预设区域内的方式,选择各数据节点或各算子节点;进而构建选择的各数据节点之间的连接线、各算子节点之间的连接线、或数据节点与算子节点之间的连接线,完成数据流图的配置。示例性的,可以是依次选取数据源节点、算子节点以及目标源节点,在选择各节点后构建节点之间的连接线。
当然,数据流图中的算子节点可以是用户从预设的各算子类型的节点中选择的,也可以是用户基于预设算子构建模板实时创建的。即,可以于预设界面上展示算子构建控件,若检测到用户触发算子构建控件,则展示预设算子构建模板,并根据用户针对预设算子构建模板的算子配置信息,确定算子节点。
在获取到数据流图后,可以确定数据流图中的各数据节点、各算子节点、各算子节点的处理依赖参数以及各节点之间的连接线。其中,处理依赖参数可以是算子节点的运算依赖参数,如过滤条件、计算结果的小数位数等。处理依赖参数可以是预先设置的默认参数,也可以是由用户在选择算子节点时一并配置的参数。
进一步的,可以根据确定的各数据节点得到数据节点信息,根据确定的各算子节点、各处理依赖参数得到算子节点信息,根据确定的连接线得到连接关系信息,进而根据上述信息构建节点信息文件。
通过在预设界面上展示预设节点列表,并获取用户基于预设节点列表构建的数据流图,根据数据流图确定数据节点信息、算子节点信息以及连接关系信息,进而得到节点信息文件,实现了基于用户针对预设节点列表的配置的节点信息文件生成,用户仅需根据展示的预设节点列表进行配置即可实现数据处理任务,降低了实现数据处理任务的难度,并且,提高了数据处理任务的实现效率。
S120、基于节点信息文件,生成与目标数据处理任务对应的目标执行文件,其中,目标执行文件用于在运行时执行目标数据处理任务。
具体的,后端可以根据数据流图中的数据节点信息、算子节点信息和各节点之间的连接关系信息,生成用于执行目标数据处理任务的目标执行文件,即,得到用于执行目标数据处理任务的源码文件(可执行脚本)。
在一种具体的实施方式中,基于节点信息文件,生成与目标数据处理任务对应的目标执行文件,包括:针对节点信息文件中的数据节点信息,确定数据节点信息对应的节点属性信息,节点属性信息用于描述与数据节点信息关联的数据的属性;针对节点信息文件中的算子节点信息,确定算子节点信息对应的逻辑表达式;基于节点属性信息、逻辑表达式以及连接关系信息,生成与目标数据处理任务对应的目标执行文件。
具体的,在获取到节点信息文件后,解析节点信息文件中信息。对于数据节点信息,可以根据数据节点信息中的数据标识确定与数据节点信息对应的数据,进而根据预先存储的各数据的属性确定数据节点信息对应的节点属性信息。如,节点属性信息可以是数据的字段范围、数据类型以及数据查询条件中的至少一种。对于算子节点信息,可以将其翻译为对应的逻辑表达式。进一步的,根据节点属性信息、逻辑表达式以及连接关系信息生成目标执行文件。
示例性的,可以根据逻辑表达式以及连接关系信息,确定逻辑表达式对应的输入信息和输出信息,根据输入信息、输出信息以及逻辑表达式生成运算表达式,进而根据运算表达式和节点属性信息,生成目标执行文件。需要说明的是,结合数据节点对应的节点属性信息生成目标执行文件的好处在于:可以使得目标数据处理任务根据数据的属性进行数据处理,或者,生成符合节点属性信息的数据。
在该实施方式中,通过确定数据节点信息中的节点属性信息,以及算子节点信息对应的逻辑表达式,以根据节点属性信息、逻辑表达式以及连接关系信息,得到目标执行文件,实现了数据处理任务的执行文件的生成,无需用户进行数据处理任务的代码开发。
本发明实施例的技术方案,在用户通过预设界面对目标数据处理任务配置数据流图时,获取包含数据流图中各节点信息以及连接关系信息的节点信息文件,进而基于节点信息文件生成用于执行该目标数据处理任务的目标执行文件,以实现基于用户在界面上配置的数据流图生成相应的执行文件,进而实现了基于节点配置的任务执行文件的生成,无需人为开发,解决了现有技术中多工程师协同开发所造成的周期长、成本高的技术问题,并且,用户在界面上配置数据流图即可实现数据处理任务的开发,降低了数据处理任务的开发难度,不局限于具备代码开发能力的用户,解决了数据处理具备局限性的问题。
图2A为本发明一个实施例提供的另一种数据处理任务的执行文件生成方法的流程示意图,本发明实施例在上述实施例的基础上,对生成目标数据处理任务对应的目标执行文件之后的过程进行了补充说明。如图2A所示,该方法包括:
S210、响应于用户在预设界面上针对目标数据处理任务配置数据流图,获取与数据流图对应的节点信息文件,其中,节点信息文件包括数据流图中的数据节点信息、算子节点信息和各节点之间的连接关系信息。
S220、基于节点信息文件,生成与目标数据处理任务对应的目标执行文件,其中,目标执行文件用于在运行时执行目标数据处理任务。
S230、运行目标执行文件,以基于获取的源数据得到与源数据对应的目标数据,其中,源数据为目标数据处理任务的待处理数据。
具体的,在运行目标执行文件后,目标执行文件可以获取待处理数据,即源数据,并对获取的源数据进行数据处理,得到与源数据对应的目标数据。
S240、基于目标数据确定目标执行文件的执行结果,于预设界面上显示执行结果,其中,执行结果包括执行成功或执行失败。
具体的,可以根据目标数据确定目标执行文件的执行结果。示例性的,若目标数据的数据格式错误、目标数据中存在错误数据、目标数据部分缺失或目标数据为空白数据(即未产生目标数据),则可以确定目标执行文件的执行结果为执行失败。
进一步的,可以将执行结果反馈至预设界面,以便于用户根据展示的执行结果确定是否需要重新配置数据流图。其中,执行结果可以在预设界面的设定位置处显示。
为了便于用户定位问题,在一种具体的实施方式中,在于预设界面上显示执行结果之后,本发明实施例提供的方法还包括:若执行结果为执行失败,则响应于用户基于执行结果在数据流图上确定的待测试子流图,获取与待测试子流图对应的待测试节点文件,其中,待测试节点文件包括待测试子流图中的数据节点信息、算子节点信息以及各节点之间的连接关系信息;基于待测试节点文件,生成与待测试子流图对应的待测试子任务的子任务执行文件,其中,子任务执行文件用于在运行时执行待测试子任务;根据子任务执行文件的运行结果确定待测试子任务的测试结果,于预设界面上显示测试结果。
其中,若执行结果为执行失败,可以在数据流图的各算子节点的对应位置处展示选择控件,若用户触发该选择控件,则可以根据数据流图中与该算子节点关联的节点以及连接线确定待测试子流图,如,待测试子流图可以包括用户触发的算子节点、数据流图中与该算子节点直接连接的各上游节点、以及该算子节点与上游节点之间的连接线。
示例性的,参见图2B,展示了本发明实施例提供的一种数据流图的示意图,其中,在数据流图的各算子节点的相邻位置处展示了对应的选择控件。若用户触发算子节点1,则可以将数据源节点1、数据源节点2、算子节点1、数据源节点1与算子节点1之间的连接线、数据源节点2与算子节点1之间的连接线,确定为待测试子流图。当然,用户可以同时触发多个算子节点对应的选择控件。
进一步的,针对待测试子流图,获取包括待测试子流图中的数据节点信息、算子节点信息以及各节点之间的连接关系信息的待测试节点文件,进而根据待测试节点文件生成用于执行待测试子流图对应的待测试子任务的子任务执行文件,并运行子任务执行文件,得到待测试子任务的测试结果。其中,测试结果可以为执行成功或执行失败,例如,若运行子任务执行文件后未产生数据、产生的数据错误或产生的数据缺失,则可以确定待测试子任务执行失败。
进一步的,可以将待测试子任务对应的测试结果显示在预设界面上,以使用户基于测试结果确定是否需要重新配置该待测试子任务的流图,或者,是否需要继续测试其它待测试子流图。
通过用户在数据流图中选取的待测试子流图,生成与待测试子流图对应的待测试子任务的子任务执行文件,以对待测试子任务进行测试,便于对目标数据处理任务进行问题定位。如果待测试子任务执行结果为执行成功,则可以继续对数据流图中下游的子流图或其它的子流图进行排查,避免了由于数据流图中节点较多难以定位问题环节。
并且,用户可以通过该方式,在目标执行文件运行失败时,从数据流图中的上游的子流图开始测试,实现问题的逐步排查;或者,从数据流图中的包含复杂运算的子流图开始排查,以优先确认复杂运算过程是否正确。
考虑到数据流图的执行是有向无环图的执行逻辑,即数据是由前向后传递的,位于下游的算子节点必须依赖于上游的算子节点的运算都处理完才有输入数据,为了提高待测试子流图对应的待测试子任务的测试效率,可以采用模拟数据进行测试,避免了由于依赖上游产生的数据,每次都需要从头执行所导致的资源以及时间开销较大。
在一种具体的实施方式中,根据子任务执行文件的运行结果确定待测试子任务的测试结果,包括:运行子任务执行文件,以基于获取的模拟输入数据得到运行结果,其中,运行结果包括与模拟输入数据对应的模拟输出数据;基于模拟输出数据确定待测试子任务的测试结果。
其中,模拟输入数据可以是模拟产生的待测试子任务的待处理数据。具体的,模拟输入数据可以通过随机采样的方式得到。子任务执行文件在运行后,可以执行待测试子任务,以对模拟输入数据进行处理,得到模拟输出数据。
进一步的,可以根据模拟输出数据确定待测试子任务的测试结果。示例性的,若模拟输出数据中存在错误数据、模拟输出数据为缺失数据或者模拟输出数据为空白数据,则可以确定待测试子任务的测试结果为执行失败。
采用模拟输入数据对待测试子任务进行测试的好处在于:采用模拟输入数据可以单独验证各待测试子任务,避免再次执行已验证过的上游的待测试子任务,可以提高对各个待测试子任务的测试效率,进而显著提升对目标数据处理任务中的各子任务的测试能力。
当然,除了上述执行失败的情形,目标执行文件的执行结果还包括执行成功的情形。若目标执行文件的执行结果为执行成功,则可以将目标执行文件发送至其它调度系统,以将目标数据处理任务部署在调度系统,由调度系统执行目标数据处理任务。
在一种具体的实施方式中,本发明实施例提供的方法还包括:若执行结果为执行成功,则将目标执行文件发送至调度系统,以使调度系统基于目标执行文件执行目标数据处理任务。
其中,调度系统可以是执行目标数据处理任务的系统,如airflow、azkaban、Oozie等。调度系统可以是用户在预设界面上选择的,即响应于用户在预设界面上触发的预设系统,确定调度系统;或者,调度系统还可以根据用户的当前端口以及预先设置的端口与调度系统之间的对应关系确定。
具体的,后端可以在生成目标执行文件,并运行目标执行文件后得到目标执行文件的执行结果为执行成功时,将目标执行文件发送至调度系统,以在调度系统上部署该目标执行文件对应的目标数据处理任务。
通过该方式,可以基于用户配置的数据流图,一并实现数据处理任务的执行文件生成以及数据处理任务的部署,即通过配置数据流图即可实现任务开发以及任务部署,为用户实现数据处理提供极大便利。
在一种具体的实施方式中,将目标执行文件发送至调度系统,包括:确定目标数据处理任务对应的调度配置信息,其中,调度配置信息包括任务调度周期、任务调度资源以及监控配置信息中的至少一种;将目标数据处理任务以及调度配置信息发送至调度系统,以使调度系统基于调度配置信息执行目标数据处理任务。
具体的,确定目标数据处理任务对应的调度配置信息,可以是:于预设界面展示用于配置调度信息的控件,响应于用户对该控件的操作,得到目标数据处理任务对应的调度配置信息;或者,根据目标数据处理任务对应的执行时长、待处理的数据量或预计产生数据量,确定目标数据处理任务对应的调度配置信息。
其中,任务调度周期可以是调度系统执行一次目标数据处理任务的周期。如,若目标数据处理任务为循环执行的,则任务调度周期可以是相邻的两次执行时间之间的时间间隔;或者,执行各次目标数据处理任务的开始时间。任务调度资源可以是调度系统为执行目标数据处理任务所分配的资源,如内存或图形处理器等。监控配置信息可以包括是否监控目标数据处理任务执行过程中产生的日志信息、是否监控目标数据处理任务执行过程中的异常信息以及是否在检测到异常时发送报警信号中的至少一项。
示例性的,除任务调度周期、任务调度资源以及监控配置信息等调度配置信息之外,调度配置信息还可以包括目标数据处理任务的任务依赖关系、报警规则、负载均衡控制以及质量监控等信息,本发明实施例对此不进行限定。
通过确定目标数据处理任务对应的调度配置信息,将目标数据处理任务以及调度配置信息发送至调度系统,使得调度系统根据调度配置信息执行目标数据处理任务,实现了数据处理任务开发后的调度部署,支持用户将业务需求的数据处理任务部署至调度系统。
本发明实施例的技术方案,在根据预设界面上针对目标数据处理任务配置的数据流图,生成目标数据处理任务对应的目标执行文件之后,还可以通过运行目标执行文件,得到目标执行文件的执行结果,并将执行结果反馈至预设界面上显示,以使用户基于该执行结果判断是否需要修改数据流图或是否可以直接部署该目标数据处理任务,便于数据处理任务的逻辑修改和调度部署。
图3A为本发明一个实施例提供的另一种数据处理任务的执行文件生成方法的流程示意图,本发明实施例在上述各实施方式的基础上,对运行目标执行文件的过程进行了示例性说明。如图3A所示,该方法包括:
S310、响应于用户在预设界面上针对目标数据处理任务配置数据流图,获取与数据流图对应的节点信息文件,其中,节点信息文件包括数据流图中的数据节点信息、算子节点信息和各节点之间的连接关系信息。
S320、基于节点信息文件,生成与目标数据处理任务对应的目标执行文件,其中,目标执行文件用于在运行时执行目标数据处理任务。
S330、运行目标执行文件,以基于目标执行文件中的数据源节点信息,获取与目标数据处理任务对应的源数据,其中,数据源节点信息包含源数据的来源信息;基于目标执行文件中的源数据转化信息,将源数据转化为预设数据格式的输入处理数据,并基于输入处理数据、目标执行文件中的算子节点信息以及目标执行文件中的连接关系信息,生成目标数据。
具体的,由于目标执行文件是基于节点信息文件生成的,因此,目标执行文件中可以包括数据源节点信息、算子节点信息、目标源节点信息以及连接关系信息。在本发明实施例中,目标执行文件还包括源数据转化信息,其中,源数据转化信息可以是用于转化源数据的数据格式的语句。
其中,数据源节点信息中的源数据的来源信息可以包括源数据的路径信息或源数据所在数据表的表名,源数据的来源信息还可以包括源数据所属数据库的框架类型、源数据在数据库中的存储位置或源数据的格式等。在运行目标执行文件后,可以基于源数据的来源信息从源数据所在的数据库中读取源数据。
进一步的,根据源数据转化信息,将源数据转化为预设数据格式,得到输入处理数据。其中,预设数据格式可以是预先设置的用于统一源数据的格式,如数据帧格式(dataframe)。进而目标执行文件可以根据算子节点信息以及连接关系信息,对输入处理数据进行数据处理,得到目标数据。
需要说明的是,基于目标执行文件中的源数据转化信息,对源数据进行格式转化的好处在于:可以支持对各种框架的数据库中的数据进行处理,即兼容各种框架的数据。比如业务系统日志数据存储在MySQL或者hbase的数据库中,识别系统需要的加工数据存储在hive数据库中,通过将源数据转化为预设数据格式,可以实现对各种框架的数据库的数据处理。
在一种具体的实施方式中,在生成目标数据之后,还包括:基于目标执行文件中的目标源节点信息,确定与目标数据对应的目标存储位置以及目标存储格式,其中,目标源节点信息包含目标数据的存放信息;将目标数据转化为目标存储格式的待存储数据,并将待存储数据写入至目标存储位置。
其中,目标源节点信息可以包括目标存储位置以及目标存储格式;或者,目标源节点信息可以包括目标数据对应的目标数据库,根据目标数据库确定目标存储位置以及目标存储格式。
具体的,在运行目标执行文件后,目标执行文件生成目标数据,并可以进一步将目标数据转化为目标存储格式的待存储数据,将待存储数据写入至目标存储位置。
在上述实施方式中,将目标数据转化为目标存储格式的待存储数据的好处在于:通过目标数据处理任务生成的目标数据最终是为了服务于业务需求,业务需求可以是进一步对数据加工,或直接进行使用,因此,可以通过对目标数据进行格式转化,实现将数据存储至不同业务需求对应的数据库框架,以适应于各种业务需求。
示例性的,参见图3B,图3B展示了本发明实施例提供的一种数据处理过程示意图。其中,在运行目标执行文件后,目标执行文件可以与源数据所在的数据库进行建立连接,并读取源数据;进一步的,目标执行文件将源数据转化为预设数据格式的输入处理数据,并通过对输入处理数据进行处理,得到目标数据;进一步的,目标执行文件将目标数据转化为与目标数据对应的目标数据库的目标存储格式,并将其写入至目标数据库。
S340、基于目标数据确定目标执行文件的执行结果,于预设界面上显示执行结果,其中,执行结果包括执行成功或执行失败。
本发明实施例的技术方案,通过运行目标执行文件,以基于目标执行文件中的来源信息获取源数据,并基于目标执行文件中的源数据转化信息将源数据转化为预设数据格式,进而得到目标数据,实现了对目标数据处理任务处理的源数据的格式转化,支持对各种框架的数据库中的数据进行处理,满足多种业务需求,并且,无需针对每一种框架的数据库进行额外开发。
图4A为本发明一个实施例提供的一种数据处理任务的执行文件生成装置的结构示意图。如图4A所示,该装置包括节点文件获取模块410以及执行文件生成模块420。
节点文件获取模块410,用于响应于用户在预设界面上针对目标数据处理任务配置数据流图,获取与所述数据流图对应的节点信息文件,其中,所述节点信息文件包括所述数据流图中的数据节点信息、算子节点信息和各节点之间的连接关系信息;
执行文件生成模块420,用于基于所述节点信息文件,生成与所述目标数据处理任务对应的目标执行文件,其中,所述目标执行文件用于在运行时执行所述目标数据处理任务。
本发明实施例的技术方案,节点文件获取模块在用户通过预设界面对目标数据处理任务配置数据流图时,获取包含数据流图中各节点信息以及连接关系信息的节点信息文件,进而执行文件生成模块基于节点信息文件生成用于执行该目标数据处理任务的目标执行文件,以实现基于用户在界面上配置的数据流图生成相应的执行文件,进而实现了基于用户节点配置的任务执行文件的生成,无需人为开发,解决了现有技术中多工程师协同开发所造成的周期长、成本高的技术问题,并且,用户在界面上配置数据流图即可实现数据处理任务的开发,不局限于具备代码开发能力的用户,解决了数据处理具备局限性的问题。
在上述实施例的基础上,所述执行文件生成模块420,具体用于:
针对所述节点信息文件中的数据节点信息,确定所述数据节点信息对应的节点属性信息,所述节点属性信息用于描述与所述数据节点信息关联的数据的属性;针对所述节点信息文件中的算子节点信息,确定所述算子节点信息对应的逻辑表达式;基于所述节点属性信息、所述逻辑表达式以及所述连接关系信息,生成与所述目标数据处理任务对应的目标执行文件。
在上述实施例的基础上,所述装置还包括执行结果确定模块,所述执行结果确定模块包括文件执行单元和结果返回单元,所述文件执行单元,用于运行所述目标执行文件,以基于获取的源数据得到与所述源数据对应的目标数据,其中,所述源数据为所述目标数据处理任务的待处理数据;所述结果返回单元,用于基于所述目标数据确定所述目标执行文件的执行结果,于所述预设界面上显示所述执行结果,其中,所述执行结果包括执行成功或执行失败。
在上述实施例的基础上,所述装置还包括子任务测试模块,所述子任务测试模块,用于若所述执行结果为执行失败,则响应于用户基于所述执行结果在所述数据流图上确定的待测试子流图,获取与所述待测试子流图对应的待测试节点文件,其中,所述待测试节点文件包括所述待测试子流图中的数据节点信息、算子节点信息以及各节点之间的连接关系信息;基于所述待测试节点文件,生成与所述待测试子流图对应的待测试子任务的子任务执行文件,其中,所述子任务执行文件用于在运行时执行所述待测试子任务;根据所述子任务执行文件的运行结果确定所述待测试子任务的测试结果,于所述预设界面上显示所述测试结果。
在上述实施例的基础上,所述子任务测试模块,还用于运行所述子任务执行文件,以基于获取的模拟输入数据得到运行结果,其中,所述运行结果包括与所述模拟输入数据对应的模拟输出数据;基于所述模拟输出数据确定所述待测试子任务的测试结果。
在上述实施例的基础上,所述装置还包括任务部署模块,所述任务部署模块,用于若所述执行结果为执行成功,则将所述目标执行文件发送至调度系统,以使所述调度系统基于所述目标执行文件执行所述目标数据处理任务。
在上述实施例的基础上,所述任务部署模块,还用于确定所述目标数据处理任务对应的调度配置信息,其中,所述调度配置信息包括任务调度周期、任务调度资源以及监控配置信息中的至少一种;将所述目标数据处理任务以及所述调度配置信息发送至所述调度系统,以使所述调度系统基于所述调度配置信息执行所述目标数据处理任务。
在上述实施例的基础上,所述文件执行单元,具体用于运行所述目标执行文件,以基于所述目标执行文件中的数据源节点信息,获取与所述目标数据处理任务对应的源数据,其中,所述数据源节点信息包含所述源数据的来源信息;基于所述目标执行文件中的源数据转化信息,将所述源数据转化为预设数据格式的输入处理数据,并基于所述输入处理数据、所述目标执行文件中的算子节点信息以及所述目标执行文件中的连接关系信息,生成所述目标数据。
在上述实施例的基础上,所述文件执行单元,还用于基于所述目标执行文件中的目标源节点信息,确定与所述目标数据对应的目标存储位置以及目标存储格式,其中,所述目标源节点信息包含所述目标数据的存放信息;将所述目标数据转化为所述目标存储格式的待存储数据,并将所述待存储数据写入至所述目标存储位置。
在上述实施例的基础上,所述节点文件获取模块410包括列表展示单元、流图确定单元、信息确定单元以及信息文件确定单元;其中:
所述列表展示单元,用于于所述预设界面上展示预设节点列表,其中,所述预设节点列表包括至少一个数据类型的节点以及至少一个算子类型的节点;
所述流图确定单元,用于获取用户在所述预设界面上基于所述预设节点列表构建的数据流图,基于所述数据流图确定各数据节点、各算子节点、各所述算子节点的处理依赖参数以及各节点之间的连接线;
所述信息确定单元,用于基于各所述数据节点确定所述数据节点信息,基于各所述算子节点以及各所述算子节点的处理依赖参数确定所述算子节点信息,并基于所述各节点之间的连接线确定所述连接关系信息;
所述信息文件确定单元,用于基于所述数据节点信息、所述算子节点信息以及所述连接关系信息构建所述节点信息文件。
本发明实施例所提供的数据处理任务的执行文件生成装置可执行本发明任意实施例所提供的数据处理任务的执行文件生成方法,具备执行方法相应的功能模块和有益效果。
本发明实施例还提供一种数据处理任务的执行文件生成系统,该系统包括前端和后端,前端提供预设界面。参见图4B,图4B展示了本发明实施例提供的一种数据处理任务的执行文件生成系统的处理流程图。首先,后端可以预先校验用户是否具备权限,若具备权限,则建立与各数据库之间的连接,或者,建立与用户权限相对应的各数据库之间的连接。在连接完成后,用户可以在前端配置数据流图。
其中,前端的预设界面上可以展示预设节点列表,以使用户根据业务需求进行数据配置和算子配置,即分别选择数据源节点、算子节点以及目标源节点;并搭建各节点之间的连接,得到数据流图,将数据流图对应的节点信息文件发送至后端。
进一步的,后端可以对节点信息文件进行解析,生成目标执行文件,根据目标执行文件输出目标数据,根据目标数据确定执行结果并将执行结果反馈至前端。
进一步的,若反馈至前端的执行结果为执行成功,则后端可以进行任务部署。若反馈至前端的执行结果为执行失败,则用户可以在前端展示的预设界面上选择待测试子流图,并反馈待测试子流图的节点信息文件至后端。后端根据待测试子流图的节点信息文件生成子任务执行文件,并获取模拟输入数据,执行该子任务执行文件,得到待测试子流图的执行结果。若待测试子流图的执行结果为执行失败,则用户可以在前端修改待测试子流图的配置,以更新待测试子流图,并返回至后端更新后的待测试子流图的节点信息文件。
该系统在前端的预设界面上提供用户可选择的节点列表,支持多种框架的数据源的选择,包括hive、MySQL、Hbase、ES等,对于数据运算支持多个公共的算子,同时支持用户新增自定义功能,前端提供用于配置数据流图的预设界面,用户可以拖动数据源节点进行输入的配置,拖动算子节点并与数据源节点连接,并配置算子的处理依赖参数,完成所有算子节点的配置后,最终确定进行数据存储的目标源节点,构成数据流图。后端解析数据流图对应的节点信息文件中的信息,生成目标执行文件,并支持进行对数据流图中的各个子流图的测试。
通过该系统,用户仅需在前端的预设界面上配置数据流图即可,降低使用者的门槛和开发成本,简化了排查复杂数据流任务的流程,通过模拟输入数据的方式支持更快速的子流图测试,可支持各种技术功底的用户完成业务需求的开发。
图5为本发明一个实施例提供的一种电子设备的结构示意图。电子设备10旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图5所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如数据处理任务的执行文件生成方法。
在一些实施例中,数据处理任务的执行文件生成方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的数据处理任务的执行文件生成方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据处理任务的执行文件生成方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明实施例的数据处理任务的执行文件生成方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
本发明实施例还提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行一种数据处理任务的执行文件生成方法,该方法包括:
响应于用户在预设界面上针对目标数据处理任务配置数据流图,获取与所述数据流图对应的节点信息文件,其中,所述节点信息文件包括所述数据流图中的数据节点信息、算子节点信息和各节点之间的连接关系信息;
基于所述节点信息文件,生成与所述目标数据处理任务对应的目标执行文件,其中,所述目标执行文件用于在运行时执行所述目标数据处理任务。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (13)
1.一种数据处理任务的执行文件生成方法,其特征在于,包括:
响应于用户在预设界面上针对目标数据处理任务配置数据流图,获取与所述数据流图对应的节点信息文件,其中,所述节点信息文件包括所述数据流图中的数据节点信息、算子节点信息和各节点之间的连接关系信息;
基于所述节点信息文件,生成与所述目标数据处理任务对应的目标执行文件,其中,所述目标执行文件用于在运行时执行所述目标数据处理任务。
2.根据权利要求1所述的方法,其特征在于,所述基于所述节点信息文件,生成与所述目标数据处理任务对应的目标执行文件,包括:
针对所述节点信息文件中的数据节点信息,确定所述数据节点信息对应的节点属性信息,所述节点属性信息用于描述与所述数据节点信息关联的数据的属性;
针对所述节点信息文件中的算子节点信息,确定所述算子节点信息对应的逻辑表达式;
基于所述节点属性信息、所述逻辑表达式以及所述连接关系信息,生成与所述目标数据处理任务对应的目标执行文件。
3.根据权利要求1所述的方法,其特征在于,在所述生成与所述目标数据处理任务对应的目标执行文件之后,所述方法还包括:
运行所述目标执行文件,以基于获取的源数据得到与所述源数据对应的目标数据,其中,所述源数据为所述目标数据处理任务的待处理数据;
基于所述目标数据确定所述目标执行文件的执行结果,于所述预设界面上显示所述执行结果,其中,所述执行结果包括执行成功或执行失败。
4.根据权利要求3所述的方法,其特征在于,在所述于所述预设界面上显示所述执行结果之后,所述方法还包括:
若所述执行结果为执行失败,则响应于用户基于所述执行结果在所述数据流图上确定的待测试子流图,获取与所述待测试子流图对应的待测试节点文件,其中,所述待测试节点文件包括所述待测试子流图中的数据节点信息、算子节点信息以及各节点之间的连接关系信息;
基于所述待测试节点文件,生成与所述待测试子流图对应的待测试子任务的子任务执行文件,其中,所述子任务执行文件用于在运行时执行所述待测试子任务;
根据所述子任务执行文件的运行结果确定所述待测试子任务的测试结果,于所述预设界面上显示所述测试结果。
5.根据权利要求4所述的方法,其特征在于,所述根据所述子任务执行文件的运行结果确定所述待测试子任务的测试结果,包括:
运行所述子任务执行文件,以基于获取的模拟输入数据得到运行结果,其中,所述运行结果包括与所述模拟输入数据对应的模拟输出数据;
基于所述模拟输出数据确定所述待测试子任务的测试结果。
6.根据权利要求3所述的方法,其特征在于,所述方法还包括:
若所述执行结果为执行成功,则将所述目标执行文件发送至调度系统,以使所述调度系统基于所述目标执行文件执行所述目标数据处理任务。
7.根据权利要求6所述的方法,其特征在于,所述将所述目标执行文件发送至调度系统,包括:
确定所述目标数据处理任务对应的调度配置信息,其中,所述调度配置信息包括任务调度周期、任务调度资源以及监控配置信息中的至少一种;
将所述目标数据处理任务以及所述调度配置信息发送至所述调度系统,以使所述调度系统基于所述调度配置信息执行所述目标数据处理任务。
8.根据权利要求3所述的方法,其特征在于,所述运行所述目标执行文件,以基于获取的源数据得到与所述源数据对应的目标数据,包括:
运行所述目标执行文件,以基于所述目标执行文件中的数据源节点信息,获取与所述目标数据处理任务对应的源数据,其中,所述数据源节点信息包含所述源数据的来源信息;基于所述目标执行文件中的源数据转化信息,将所述源数据转化为预设数据格式的输入处理数据,并基于所述输入处理数据、所述目标执行文件中的算子节点信息以及所述目标执行文件中的连接关系信息,生成所述目标数据。
9.根据权利要求8所述的方法,其特征在于,在所述生成所述目标数据之后,还包括:
基于所述目标执行文件中的目标源节点信息,确定与所述目标数据对应的目标存储位置以及目标存储格式,其中,所述目标源节点信息包含所述目标数据的存放信息;
将所述目标数据转化为所述目标存储格式的待存储数据,并将所述待存储数据写入至所述目标存储位置。
10.根据权利要求1-9中任一所述的方法,其特征在于,所述响应于用户在预设界面上针对目标数据处理任务配置数据流图,获取与所述数据流图对应的节点信息文件,包括:
于所述预设界面上展示预设节点列表,其中,所述预设节点列表包括至少一个数据类型的节点以及至少一个算子类型的节点;
获取用户在所述预设界面上基于所述预设节点列表构建的数据流图,基于所述数据流图确定各数据节点、各算子节点、各所述算子节点的处理依赖参数以及各节点之间的连接线;
基于各所述数据节点确定所述数据节点信息,基于各所述算子节点以及各所述算子节点的处理依赖参数确定所述算子节点信息,并基于所述各节点之间的连接线确定所述连接关系信息;
基于所述数据节点信息、所述算子节点信息以及所述连接关系信息构建所述节点信息文件。
11.一种数据处理任务的执行文件生成装置,其特征在于,包括:
节点文件获取模块,用于响应于用户在预设界面上针对目标数据处理任务配置数据流图,获取与所述数据流图对应的节点信息文件,其中,所述节点信息文件包括所述数据流图中的数据节点信息、算子节点信息和各节点之间的连接关系信息;
执行文件生成模块,用于基于所述节点信息文件,生成与所述目标数据处理任务对应的目标执行文件,其中,所述目标执行文件用于在运行时执行所述目标数据处理任务。
12.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-10中任一项所述的数据处理任务的执行文件生成方法。
13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-10中任一项所述的数据处理任务的执行文件生成方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211156758.5A CN115480746A (zh) | 2022-09-21 | 2022-09-21 | 数据处理任务的执行文件生成方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211156758.5A CN115480746A (zh) | 2022-09-21 | 2022-09-21 | 数据处理任务的执行文件生成方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115480746A true CN115480746A (zh) | 2022-12-16 |
Family
ID=84424230
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211156758.5A Pending CN115480746A (zh) | 2022-09-21 | 2022-09-21 | 数据处理任务的执行文件生成方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115480746A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116382877A (zh) * | 2023-05-25 | 2023-07-04 | 之江实验室 | 一种任务的执行方法、装置、存储介质及电子设备 |
CN117033027A (zh) * | 2023-08-18 | 2023-11-10 | 百度(中国)有限公司 | 数据处理方法、装置、电子设备、介质 |
-
2022
- 2022-09-21 CN CN202211156758.5A patent/CN115480746A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116382877A (zh) * | 2023-05-25 | 2023-07-04 | 之江实验室 | 一种任务的执行方法、装置、存储介质及电子设备 |
CN116382877B (zh) * | 2023-05-25 | 2023-09-05 | 之江实验室 | 一种任务的执行方法、装置、存储介质及电子设备 |
CN117033027A (zh) * | 2023-08-18 | 2023-11-10 | 百度(中国)有限公司 | 数据处理方法、装置、电子设备、介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115480746A (zh) | 数据处理任务的执行文件生成方法、装置、设备及介质 | |
US8584079B2 (en) | Quality on submit process | |
Saravanan et al. | Comparative Analysis of Software Life Cycle Models | |
EP3886367A1 (en) | Automating 5g slices using real-time analytics | |
CN111666217B (zh) | 用于测试代码的方法和装置 | |
CN109977012B (zh) | 系统的联调测试方法、装置、设备及计算机可读存储介质 | |
CN112199355B (zh) | 数据迁移方法、装置、电子设备及存储介质 | |
CN114186697B (zh) | 基于深度学习框架生成和应用深度学习模型的方法及装置 | |
CN112631919A (zh) | 一种对比测试方法、装置、计算机设备及存储介质 | |
CN113778486A (zh) | 一种代码流水线的容器化处理方法、装置、介质及设备 | |
CN111769979A (zh) | 一种云资源编排方法、系统、终端及存储介质 | |
CN111104181A (zh) | 一种可视化编辑任务流程的网页数据填报系统 | |
CN114579469A (zh) | 全链路接口测试方法、装置、电子设备及存储介质 | |
CN114389969A (zh) | 客户端的测试方法、装置、电子设备和存储介质 | |
CN114756211B (zh) | 模型训练方法、装置、电子设备和存储介质 | |
CN115017047A (zh) | 基于b/s架构的测试方法、系统、设备及介质 | |
CN115599438A (zh) | 应用程序的发布包的构建方法、装置、设备及介质 | |
CN114579120A (zh) | 一种应用代码处理方法、装置、电子设备及存储介质 | |
CN111694686B (zh) | 一种异常服务的处理方法、装置、电子设备及存储介质 | |
CN113691403A (zh) | 拓扑节点配置方法、相关装置及计算机程序产品 | |
CN111831317A (zh) | 服务间依赖关系的获取方法、装置、电子设备和存储介质 | |
CN114143235A (zh) | Nfv自动测试方法、装置、设备及存储介质 | |
CN111488283B (zh) | 任务生成方法、装置、电子设备及存储介质 | |
CN117493203A (zh) | 一种服务器软件测试方法、装置、设备及存储介质 | |
CN117196275A (zh) | 一种基于低代码的自定义财务处理流程配置方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |