CN109522355B - 数据处理过程的控制方法、装置、介质及电子设备 - Google Patents

Abstract

本发明实施例提供了一种数据处理过程的控制方法、装置、介质及电子设备，该方法包括：获取配置信息，以根据所述配置信息创建实例，其中，每类所述配置信息对应于一种数据处理过程；按照预设的工作流执行所述工作流对应的实例，其中，所述预设的工作流包括：所述实例的多个环节的执行顺序信息和不同环节之间的执行规则信息；获取每个所述实例的监控配置信息；在每个所述实例的执行过程中，根据每个所述实例的监控配置信息实时监控所述执行过程。本发明实施例提供的技术方案实现了数据处理过程的自动化，实现对每种数据处理过程的监控的目的，有利于数据处理结果的准确性，同时有利于数据处理过程的稳定性。

Description

数据处理过程的控制方法、装置、介质及电子设备

技术领域

本发明涉及数据处理技术领域，具体而言，涉及一种数据处理过程的控制方法、装置、介质及电子设备。

背景技术

随着大数据时代的来临，根据数据处理获得数据分析结果越来越多的运用在商业、经济以及医学等领域。以医学领域为例，医疗行业积累的数据对于临床诊断、科研研究发挥越来越大的作用。但是数据处理过程中，由于不同数据源的差异化(如：厂商、存储方式、格式、系统等)，需对于数据进行数据抽取、格式转化、归类、整理等多环节处理，进而才能实现医疗行业数据打通、整合，从而最大效应发挥数据价值。

现有的数据处理过场中各个环节一般均依赖人工的确认或调整等。现有技术中的数据处理效率有待提高。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本发明实施例的目的在于提供一种数据处理过程的控制方法、装置、介质及电子设备，进而至少在一定程度上克服了现有技术中的数据处理效率有待提高的问题。

本发明的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本发明的实践而习得。

根据本发明实施例的第一方面，提供了一种数据处理过程的控制方法包括：获取配置信息，以根据所述配置信息创建实例，其中，每类所述配置信息对应于一种数据处理过程，所述实例用于执行所述数据处理过程；按照预设的工作流执行所述工作流对应的实例，其中，所述预设的工作流包括：所述实例的多个环节的执行顺序信息和不同环节之间的执行规则信息；获取每个所述实例的监控配置信息；在每个所述实例的执行过程中，根据每个所述实例的监控配置信息实时监控所述执行过程。

在本发明的一种实施例中，获取配置信息，以根据所述配置信息创建实例，包括：根据所述实例对应的配置信息获取所述实例的预设基准版本；基于所述预设基准版本，根据待处理数据任务获取待定参数；以所述待定参数替换所述基准版本中的对应参数，确定用于处理所述待处理数据任务的实例。其中，配置信息包括：自动化调度参照的基准版信息，实例创建替换参数时的特殊化自定义参数，以及实例创建周期等。

在本发明的一种实施例中，根据所述配置信息创建所述实例，包括：每隔预设时间段，根据所述配置信息创建多个所述实例。

在本发明的一种实施例中，每个所述实例包括多个环节，按照预设的工作流执行所述工作流对应的实例，包括：针对每个所述实例，根据所述执行顺序信息和执行规则信息，执行每个所述环节。

在本发明的一种实施例中，所述监控配置信息包括所述实例的多个环节的监控指标，在每个所述实例的执行过程中，根据每个所述实例的监控配置信息实时监控所述执行过程，包括：针对每个所述实例，判断所述实例当前执行环节是否为所述实例的最终环节；若当前执行环节不是所述实例的最终环节，则检测到所述当前执行环节执行结束时，根据所述当前结束环节对应的监控指标检查，检查所述实例是否满足；若所述实例满足所述环节对应的监控指标，则执行下一环节；若所述实例不满足所述环节对应的监控指标，则重新执行当前环节。

在本发明的一种实施例中，所述监控配置信息包括所述实例的多个环节的监控指标，在每个所述实例的执行过程中，根据每个所述实例的监控配置信息实时监控所述执行过程，包括：针对每个所述实例，判断所述实例当前执行环节是否完成；若所述实例当前执行环节完成，则所述当前执行环节的状态为成功；若所述实例当前执行环节未完成，则所述当前执行环节的状态失败。

在本发明的一种实施例中，按照预设的工作流执行所述工作流对应的实例，包括：根据所述实例的需求，执行扩展性功能脚本。其中，扩展性功能脚本包括：用于环节执行前的数据输入合规性检查等功能脚本，例如检查是否满足执行条件等，以及，用于执行完成的数据生产结果检查等功能脚本，例如检查生产数据是否正确等。

在本发明的一种实施例中，在每个所述实例的执行过程中，还包括：针对每个所述实例，获取每个环节的执行状态信息；根据所述执行顺序信息和执行规则信息，向用户展示每个环节的执行状态信息。

根据本发明实施例的第二方面，提供了一种数据处理过程的控制装置，包括：获取模块，所述获取模块用于获取配置信息，以根据所述配置信息创建实例，其中，所述配置信息对应于一种数据处理过程；执行模块，所述执行模块用于按照预设的工作流执行所述工作流对应的实例，其中，所述预设的工作流包括：所述实例的多个环节的执行顺序信息和不同环节之间的执行规则信息；所述获取模块还用于，获取每个所述实例的监控配置信息；监控模块，所述监控模块用于在每个所述实例的执行过程中，根据每个所述实例的监控配置信息实时监控所述执行过程。

根据本发明实施例的第三方面，提供了一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现如上述实施例第一方面中所述的数据处理过程的控制方法。

根据本发明实施例的第四方面，提供一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述实施例第一方面所述的数据处理过程的控制方法。

本发明实施例提供的技术方案可以包括以下有益效果：一方面，通过配置信息创建每种数据处理过程对应的多个实例，进而每个实例用于执行上述数据处理过程，并且根据每个实例对应的预设的工作流控制实例的执行，从而实现了数据处理过程的自动化，解放数据生产工程师的重复性工作。另一方面，通过构建每个实例对应的监控配置信息，在每个实例的执行过程中，实现对每种数据处理过程的监控的目的，从而，有利于数据处理结果的准确性，同时有利于数据处理过程的稳定性。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1示出了根据本发明的一个实施例的数据处理过程的控制方法的流程示意图；

图2示出了根据本发明的另一个实施例的数据处理过程的控制方法的流程示意图；

图3示出了根据本发明的再一个实施例的数据处理过程的控制方法的流程示意图；

图4示出了根据本发明的又一个实施例的数据处理过程的控制方法的流程示意图；

图5示出了根据本发明的实施例的实施例的数据处理过程的控制装置的结构示意图；

图6示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本发明将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本发明的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本发明的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

随着科学技术的发展，数据处理方法也变得多种多样，而每种数据处理方法又包括多种处理过程。本发明实施例中所述的每个实例对应于一种数据过程。例如：数据抽取转换加载(Extract-Transform-Load，简称：ETL)过程，一般用来描述将数据从来源端经过抽取(extract)、交互转换(transform)、加载(load)至目的端的过程。

现有技术中，数据处理过程中大部分环节都需要人工干预，导致数据后处理效率较低。同时，由于人为失误搞错流程顺序或遗漏某环节则会造成数据错误或导致返工等，均不利于数据处理的执行效率和数据处理结果(例如：生产标准化数据等)的准确性。鉴于此，本发明提出一种数据处理过程的控制方法、装置、介质及电子设备。

图1示出了根据本发明的一个实施例的数据处理过程的控制方法的流程示意图，参考图1，该方法包括：

步骤S101，获取配置信息，以根据所述配置信息创建实例，其中，每类所述实例对应于一种数据处理过程；

步骤S102，按照预设的工作流执行所述工作流对应的实例，其中，所述预设的工作流包括：所述实例的多个环节的执行顺序信息和不同环节之间的执行规则信息；

步骤S103，获取每个所述实例的监控配置信息；

步骤S104，在每个所述实例的执行过程中，根据每个所述实例的监控配置信息实时监控所述执行过程。

其中，步骤S102和步骤S103的执行顺序不分先后。可以执行步骤S101后依次执行步骤S102、步骤S103和步骤S104，也可以执行步骤S101后执行步骤S103、步骤S102和步骤S104。

在图1所示实施例的技术方案中，一方面，通过配置信息创建每种数据处理过程对应的多个实例，进而每个实例用于执行上述数据处理过程，并且根据每个实例对应的预设的工作流控制实例的执行，从而实现了数据处理过程的自动化，解放数据生产工程师的重复性工作。另一方面，通过构建每个实例对应的监控配置信息，在每个实例的执行过程中，实现对每种数据处理过程的监控的目的，从而，有利于数据处理结果的准确性，同时有利于数据处理过程的稳定性。

图2示出了根据本发明的另一个实施例的数据处理过程的控制方法的流程示意图，参考图2，该方法包括步骤S201-步骤S206。

其中，步骤S201-步骤S203是图1中步骤S101的一种具体的实现方式。

示例性的，在步骤S201中，根据所述实例对应的配置信息获取所述实例的预设基准版本。配置信息包括：自动化调度参照的模板化参数基准版本信息，实例创建替换参数时的特殊化自定义参数，以及实例创建周期等。首先，实例根据对应配置信息获取模板化存储基准版本和数据处理过程。数据处理过程不同则对应不同的基准版本。然后，通过模板化存储基准版本的代码信息实现预先配置实例的基准版本。

在步骤S202中，基于所述预设基准版本，根据待处理数据任务获取待定参数。待处理数据任务为通过实例对应的数据处理过程进行处理的数据。在同一种数据处理过程的基准版本中，针对不同的待处理数据任务，设置了不同的参数，即待定参数。

在示例性的实施例中，实例A对应的数据处理过程为ETL，其对应的基准版本F(a，b，c，x，y)，其中，(a，b，c)为基准版本F的固定参数，(x，y)为基准版本F的待定参数。则，针对于待处理数据任务M1，待定参数为(x1，y1)，针对于待处理数据任务M2，待定参数为(x2，y2)。

因此，对于不同的待处理数据任务，需首先确定所述待定参数。然后，执行步骤S203。

在步骤S203中，以所述待定参数替换所述基准版本中的对应参数，确定用于处理所述待处理数据任务的实例。

在示例性的实施例中，每隔预设时间段(例如每24小时)，根据多类配置信息创建第i类配置信息对应的N_i个实例，多个实例并行自动化执行可以增快实例执行的效率，有利于处理效率的提高。其中，i为配置信息的类数，取正整数；N_i取正整数，用户可以根据实际情况确定具体N_i值。

示例性的，步骤S204-步骤S206的执行过程同步骤S102-步骤S104，在此不再赘述。

在图2所示实施例的技术方案中，针对于每一实例，根据其对应的数据处理过程确定基准版本，基准版本形成了构建实例的基本框架，通过基准版本确定固定参数和自动化设置待定参数来确保多次实例的数据处理过程一致，保证数据处理的稳定性及准确性。同时，通过在基准版本中设定待定参数，有针对性的将不同的待处理数据任务进行的标注，有利于数据处理结果的准确性。

图3示出了根据本发明的再一个实施例的数据处理过程的控制方法的流程示意图，参考图3，该方法包括步骤S301-步骤S308。

在示例性的实施例中，步骤S301的具体实现方式可以与步骤S201-步骤S203相同，在此不再赘述。

其中，步骤S302和步骤S303的执行顺序不分先后。

示例性的，在步骤S302中，每个所述实例包括多个环节，例如，ETL包括数据提取、数据交互转换以及数据加载等环节。本发明实施例定义生产流程的基准版本，进而确定预设的工作流，包括：所述多个环节的执行顺序信息和不同环节之间的执行规则信息。例如分支环节、嵌套环节以及合并环节等。则步骤S102、步骤S204：按照预设的工作流执行所述工作流对应的实例，的具体实现方式包括：针对每个所述实例，根据所述执行顺序信息和执行规则信息，执行每个所述环节。

示例性的，在步骤S303中，获取每个所述实例的监控配置信息。所述监控配置信息包括所述实例的多个环节的监控指标。例如：ETL对应的实例的监控配置信息，包括提取环节的监控信息、交互转换环节对应的监控信息以及加载环节对应的监控信息等。则步骤S104、步骤S206：在每个所述实例的执行过程中，根据每个所述实例的监控配置信息实时监控所述执行过程，的具体实现方式包括步骤S304-步骤S308。

在步骤S304中，针对每个所述实例，判断所述实例当前执行环节是否为所述实例的最终环节。若当前执行环节是所述实例的最终环节，则执行步骤S305，所述实例结束。若当前执行环节不是所述实例的最终环节，则执行步骤S306-步骤S308，具体的：

步骤S306：检测到所述当前执行环节执行结束时，根据所述当前结束环节对应的监控指标检查，检查所述实例是否满足。若所述实例满足所述环节对应的监控指标，则执行步骤S307：执行所述预设的工作流中的下一环节。若所述实例不满足所述环节对应的监控指标，则执行步骤S308：重新执行当前环节。

在示例性的实施例中，若检测到所述当前执行环节没有执行结束时则持续执行检测，直至检测到所述当前执行环节执行结束，执行步骤S306。

在示例性的实施例中，每隔预设时间段检测一次当前环节是否执行结束。并判断所述实例当前执行环节是否完成，若所述实例当前执行环节完成，则所述当前执行环节的状态为成功；若所述实例当前执行环节未完成，则所述当前执行环节的状态失败。其中，上述当前执行环节的状态可显示至前端界面，以便于监控人员的实时监控每个实例的各个环节执行状态。

在示例性的实施例中，当实例满足所述环节对应的监控指标时，产生达标标识。执行下一环节之前，判断存在上一环节的达标标识，才可以执行下一环节，从而确保执行下一环节之前的环节均执行达标，有利于数据处理的稳定性。

在示例性的实施例中，重新执行当前环节，可以减少因系统、网络、集群环境异常造成的数据生产错误，从而提高生产稳定性。

在示例性的实施例中，本发明实施例提供的方法还包括：根据所述实例的需求，执行扩展性功能脚本，以实现扩展性性功能。此步骤可应用在每个所述实例的执行过程中的任意环节中。扩展性功能脚本包括：用于环节执行前的数据输入合规性检查等功能脚本，例如检查是否满足执行条件等，以及，用于执行完成的数据生产结果检查等功能脚本，例如检查生产数据是否正确等。还有，逻辑性校验数据合理性、某环节执行失败后通知其他接口等。

在示例性的实施例中，针对每个实例，定义运行周期。进而在监控所述实例执行时间，当实例的执行时间超过所述运行周期z倍时，人工检查实例执行过程，进一步提高数据处理过程的稳定性，保证数据处理结果。其中，z为正整数，用户根据实际情况确定。

在图3所示实施例的技术方案中，针对于每一实例，根据多环节间的执行顺序分环节执行与监控，只有当监控到当前环节满足此环节对应的监控指标后，才执行下一环节，保证了已执行环节均满足数据处理要求。当监控到当前环节没有满足此环节对应的监控指标时，重新执行当前环节，从而避免了当执行过程中出现问题需从头开始执行的问题。同时，本发明实施例技术方案汇总定时检测流程中环节状态，进而自动触发后续环节来实现，有利于构建实例的效率，从而有利于数据处理过程的效率进一步提高。

图4示出了根据本发明的又一个实施例的数据处理过程的控制方法的流程示意图，参考图4，该方法包括步骤S401-步骤S406。

在示例性的实施例中，步骤S401步骤S204的具体实现方式同前述实施例，在此不再赘述。

在示例性的实施例中，执行步骤S405，在每个所述实例的执行过程中，还针对每个所述实例，获取每个环节的执行状态信息；和步骤S406：根据所述执行顺序信息和执行规则信息，向用户展示每个环节的执行状态信息。

示例性的，前端界面读取实例中的工作流，图形化数据生产流程，根据当前执行环节，历史执行环节，将整个流程划分为已执行、执行中、待执行三部分，并以不同样式、颜色加以区分，以便于用户查看。其中，所述工作流，包括执行顺序信息和执行规则信息等，通过XML语言描述的。

在图4所示实施例的技术方案中，用户可以通过点击进入对应环节，查看对应任务信息(状态、执行时间、日志等)、终止以及重跑对应任务。从而实现可视化监控和运维，提高了数据处理过程的便利性。避免了现有技术中各个业务使用方、项目管理人员对于数据生产没有地方监控，需要线下和工程师沟通了解数据处理进度造成的沟通成本高等问题。

本发明实施例将数据处理过程，例如：ETL等，的工作抽象为工作流，并且预先定义控制生产流程的标准化。通过人工生产数据的加工逻辑、代码，系统自动替换相关参数，模拟人工进行各环节操作，实现自动化生产。自动调度保证执行效率。各个生产环节程序执行的状态实时获取，数据质量根据质检指标自动判断。达到全部自动化。可视化平台将整个生产流程展现为流程图模式。相关人员可以直观查看数据生产状态。并且可以人工干预(中断、重试、暂停等)。极大简化了运维成本。

以下介绍本发明的装置实施例，可以用于执行本发明上述的数据处理过程的控制方法。

图5示出了根据本发明的实施例的实施例的数据处理过程的控制装置的结构示意图，参考图5，本实施例提供的数据处理过程的控制装500，包括：获取模块501、执行模块502和监控模块503。

其中，所述获取模块501用于获取配置信息，以根据所述配置信息创建实例，其中，每类所述配置信息对应于一种数据处理过程；所述执行模块502用于按照预设的工作流执行所述工作流对应的实例，其中，所述预设的工作流包括：所述实例的多个环节的执行顺序信息和不同环节之间的执行规则信息；所述获取模块501还用于，获取每个所述实例的监控配置信息；所述监控模块503用于在每个所述实例的执行过程中，根据每个所述实例的监控配置信息实时监控所述执行过程。

在示例性的实施例中，获取模块501，包括：第一获取单元、第二获取单元和确定单元。

其中，第一获取单元用于根据所述实例对应的配置信息获取所述实例的预设基准版本；第二获取单元用于基于所述预设基准版本，根据待处理数据任务获取待定参数；确定单元用于以所述待定参数替换所述基准版本中的对应参数，确定用于处理所述待处理数据任务的实例。

在示例性的实施例中，获取模块501具体用于每隔预设时间段，根据所述配置信息创建多个所述实例。

在示例性的实施例中，每个所述实例包括多个环节，所述预设的工作流包括：所述多个环节的执行顺序信息和不同环节之间的执行规则信息，执行单元502具体用于：针对每个所述实例，根据所述执行顺序信息和执行规则信息，执行每个所述环节。

在示例性的实施例中，所述监控配置信息包括所述实例的多个环节的监控指标，监控模块503，包括：第一判断单元、第二判断单元和执行单元。

其中，第一判断单元用于针对每个所述实例，判断所述实例当前执行环节是否为所述实例的最终环节；若当前执行环节不是所述实例的最终环节，则第二判断单元用于检测到所述当前执行环节执行结束时，根据所述当前结束环节对应的监控指标检查，检查所述实例是否满足；若所述实例满足所述环节对应的监控指标，则执行单元用于执行下一环节。

在示例性的实施例中，若用于所述实例不满足所述环节对应的监控指标，则执行单元还用于重新执行当前环节。

在示例性的实施例中，若当前执行环节是所述实例的最终环节，则执行单元还用于：根据所述实例的需求，执行扩展性功能脚本。

在示例性的实施例中，在每个所述实例的执行过程中，数据处理过程的控制装置500，还包括：展示模块。

展示模块用于：针对每个所述实例，获取每个环节的执行状态信息；根据所述执行顺序信息和执行规则信息，向用户展示每个环节的执行状态信息。

由于本发明的示例实施例的数据处理过程的控制装置的各个功能模块与上述数据处理过程的控制方法的示例实施例的步骤对应，因此对于本发明装置实施例中未披露的细节，请参照本发明上述的数据处理过程的控制方法的实施例。

下面参考图6，其示出了适于用来实现本发明实施例的电子设备的计算机系统600的结构示意图。图6示出的电子设备的计算机系统600仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有系统操作所需的各种程序和数据。CPU501、ROM 502以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。

特别地，根据本发明的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)501执行时，执行本申请的系统中限定的上述功能。

需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如上述实施例中所述的数据处理过程的控制方法。

例如，所述的电子设备可以实现如图1中所示的：步骤S101，获取配置信息，以根据所述配置信息创建实例，其中，每类所述配置信息对应于一种数据处理过程；步骤S102，按照预设的工作流执行所述工作流对应的实例，其中，所述预设的工作流包括：所述实例的多个环节的执行顺序信息和不同环节之间的执行规则信息；步骤S103，获取每个所述实例的监控配置信息；步骤S104，在每个所述实例的执行过程中，根据每个所述实例的监控配置信息实时监控所述执行过程。

又如，所述的电子设备可以实现如图1所示的各个步骤。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本发明的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (9)

1.一种数据处理过程的控制方法，其特征在于，包括：

获取配置信息，以根据所述配置信息创建实例，其中，每类所述配置信息对应于一种数据处理过程，所述配置信息包括：自动化调度参照的模板化参数基准版本信息，实例创建替换参数时的特殊化自定义参数，以及实例创建周期；

按照预设的工作流执行所述工作流对应的实例，其中，所述预设的工作流包括：所述实例的多个环节的执行顺序信息和不同环节之间的执行规则信息；

获取每个所述实例的监控配置信息，所述监控配置信息包括所述实例的多个环节的监控指标；

在每个所述实例的执行过程中，根据每个所述实例的多个环节的监控指标实时监控所述实例的各个环节的执行顺序以及不同环节之间的执行；

针对每个所述实例，判断所述实例的当前执行环节是否完成；

若所述实例的当前执行环节完成，则所述当前执行环节的状态为成功；若所述实例的当前执行环节未完成，则所述当前执行环节的状态失败；所述当前执行环节的状态显示至前端界面；

其中，在每个所述实例的执行过程中，根据每个所述实例的多个环节的监控指标实时监控所述实例的各个环节的执行顺序以及不同环节之间的执行，包括：

针对每个所述实例，判断所述实例的当前执行环节是否为所述实例的最终环节；

若当前执行环节不是所述实例的最终环节，则检测到所述当前执行环节执行结束时，根据当前执行环节对应的监控指标检查，检查所述实例是否满足；

当所述实例满足所述当前执行环节对应的监控指标时，产生达标标识，并执行下一环节；当所述实例不满足所述当前执行环节对应的监控指标时，则重新执行所述当前执行环节；

当监控所述实例的执行时间超过所述实例的运行周期z倍时，人工检查所述实例的执行过程；z为大于2的正整数。

2.根据权利要求1所述的方法，其特征在于，获取配置信息，以根据所述配置信息创建实例，包括：

根据所述实例对应的配置信息获取所述实例的预设基准版本；

基于所述预设基准版本，根据待处理数据任务获取待定参数；

以所述待定参数替换所述基准版本中的对应参数，确定用于处理所述待处理数据任务的实例。

3.根据权利要求1或2所述的方法，其特征在于，根据所述配置信息创建所述实例，包括：

每隔预设时间段，根据所述配置信息创建多个所述实例。

4.根据权利要求3所述的方法，其特征在于，每个所述实例包括多个环节，

按照预设的工作流执行所述工作流对应的实例，包括：

针对每个所述实例，根据所述执行顺序信息和执行规则信息，执行每个所述环节。

5.根据权利要求4所述的方法，其特征在于，按照预设的工作流执行所述工作流对应的实例，包括：

根据所述实例的需求，执行扩展性功能脚本。

6.根据权利要求4所述的方法，其特征在于，在每个所述实例的执行过程中，还包括：

针对每个所述实例，获取每个环节的执行状态信息；

根据所述执行顺序信息和执行规则信息，向用户展示每个环节的执行状态信息。

7.一种数据处理过程的控制装置，其特征在于，包括：

获取模块，所述获取模块用于获取配置信息，以根据所述配置信息创建实例，其中，每类所述配置信息对应于一种数据处理过程；

执行模块，所述执行模块用于按照预设的工作流执行所述工作流对应的实例，其中，所述预设的工作流包括：所述实例的多个环节的执行顺序信息和不同环节之间的执行规则信息，所述配置信息包括：自动化调度参照的模板化参数基准版本信息，实例创建替换参数时的特殊化自定义参数，以及实例创建周期；

所述获取模块还用于，获取每个所述实例的监控配置信息，所述监控配置信息包括所述实例的多个环节的监控指标；

监控模块，所述监控模块用于在每个所述实例的执行过程中，根据每个所述实例的多个环节的监控指标监控配置信息实时监控所述实例的各个环节的执行顺序以及不同环节之间的执行；针对每个所述实例，判断所述实例的当前执行环节是否完成；若所述实例的当前执行环节完成，则所述当前执行环节的状态为成功；若所述实例的当前执行环节未完成，则所述当前执行环节的状态失败；所述当前执行环节的状态显示至前端界面；

其中，在每个所述实例的执行过程中，根据每个所述实例的多个环节的监控指标实时监控所述实例的各个环节的执行顺序以及不同环节之间的执行，包括：

针对每个所述实例，判断所述实例的当前执行环节是否为所述实例的最终环节；

若当前执行环节不是所述实例的最终环节，则检测到所述当前执行环节执行结束时，根据当前执行环节对应的监控指标检查，检查所述实例是否满足；

当所述实例满足所述当前执行环节对应的监控指标时，产生达标标识，并执行下一环节；当所述实例不满足所述当前执行环节对应的监控指标时，则重新执行所述当前执行环节；

当监控所述实例的执行时间超过所述实例的运行周期z倍时，人工检查所述实例的执行过程；z为大于2的正整数。

8.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1至6中任一项所述的数据处理过程的控制方法。

9.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如权利要求1至6中任一项所述的数据处理过程的控制方法。

Images