CN118152036A - 调度模板处理方法、装置、计算机设备和存储介质 - Google Patents
调度模板处理方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN118152036A CN118152036A CN202410344385.7A CN202410344385A CN118152036A CN 118152036 A CN118152036 A CN 118152036A CN 202410344385 A CN202410344385 A CN 202410344385A CN 118152036 A CN118152036 A CN 118152036A
- Authority
- CN
- China
- Prior art keywords
- scheduling
- template
- preset
- target
- templates
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title abstract description 20
- 238000000034 method Methods 0.000 claims abstract description 32
- 238000012545 processing Methods 0.000 claims abstract description 30
- 238000004590 computer program Methods 0.000 claims abstract description 26
- 238000012937 correction Methods 0.000 claims abstract description 15
- 238000012795 verification Methods 0.000 claims description 39
- 238000013524 data verification Methods 0.000 claims description 28
- 230000001419 dependent effect Effects 0.000 claims description 12
- 230000010354 integration Effects 0.000 claims description 10
- 238000012216 screening Methods 0.000 claims description 9
- 230000001502 supplementing effect Effects 0.000 claims description 5
- 239000013589 supplement Substances 0.000 claims description 2
- 230000007613 environmental effect Effects 0.000 claims 2
- 238000012423 maintenance Methods 0.000 description 16
- 238000007726 management method Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 238000013507 mapping Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 238000013468 resource allocation Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 2
- 229910052799 carbon Inorganic materials 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical compound [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 229910021389 graphene Inorganic materials 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/445—Program loading or initiating
- G06F9/44589—Program code verification, e.g. Java bytecode verification, proof-carrying code
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请涉及大数据技术领域,提供一种调度模板处理方法、装置、计算机设备、存储介质和计算机程序产品。所述方法包括:根据预设的数据校验规则,对多个业务系统的调度模板进行校验,得到校验结果,在校验结果表征存在不满足预设的数据校验规则的调度模板的情况下,推送模板修正消息,获取多个目标调度模板,多个目标调度模板包括修正后的调度模板,提取各目标调度模板中的模板内容,将提取出的模板内容整合至预设的统一调度模板,得到目标统一调度模板。采用本方法能够减少调度系统在执行批量作业出现问题的可能性,提高批量作业的执行效率。
Description
技术领域
本申请涉及大数据技术领域,特别是涉及一种调度模板处理方法、装置、计算机设备、存储介质和计算机程序产品。
背景技术
在现代数据中心中,批量作业调度系统广泛应用于大规模的数据处理、分析和计算任务,通过合理调度作业的执行顺序和资源分配,实现高效的数据处理和计算。
目前,常用的调度工具通常具备支持多租户、高可用、高性能、统一调度等特点。例如,核心系统的整批作业,通常涉及十几个子系统,以及几万个作业。
然而,由于系统之间难以进行数据校验,作业模板中的潜在问题只能在执行整批作业时才能被发现,如此,可能导致整批作业无法正常运行,影响作业调度效率。
由此可见,需要提供一种能够提高批量作业的执行效率的方案。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提高批量作业的执行效率的调度模板处理方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
第一方面,本申请提供了一种调度模板处理方法。所述方法包括:
根据预设的数据校验规则,对多个业务系统的调度模板进行校验,得到校验结果;
在校验结果表征存在不满足预设的数据校验规则的调度模板的情况下,推送模板修正消息;
获取多个目标调度模板,多个目标调度模板包括修正后的调度模板;
提取各目标调度模板中的模板内容,将提取出的模板内容整合至预设的统一调度模板,得到目标统一调度模板。
在其中一个实施例中,根据预设的数据校验规则,对多个业务系统的调度模板进行校验包括以下方式中的至少一种:
第一种,校验各调度模板中的调度定义信息是否存在重复;
第二种,校验各调度模板中的输入条件是否有对应的输出条件;
第三种,校验各调度模板是否存在有循环依赖的条件。
在其中一个实施例中,将提取出的模板内容整合至预设的统一调度模板,包括:
根据预设的调度配置参数和预设的需求规则,修改模板内容中的字段,得到目标模板内容;
将目标模板内容整合至预设的统一调度模板。
在其中一个实施例中,根据预设的调度配置参数和预设的需求规则,修改模板内容中的字段,包括:
将提取的模板内容分别写入至不同的临时文件;
根据预设的调度配置参数中的字段配置参数,替换模板内容中的待替换的字段;
根据预设的需求规则,对模板内容中的字段进行筛选和补充。
在其中一个实施例中,预设的调度配置参数包括环境配置参数,根据预设的调度配置参数和预设的需求规则,修改模板内容中的字段包括:
获取调度系统的调度环境参数;
从环境配置数据中筛选出与调度环境参数相匹配的目标环境配置数据;
根据目标环境配置数据,修改模板内容中的字段。
在其中一个实施例中,得到校验结果之后,方法还包括:
将校验结果记录至预设的日志文件。
第二方面,本申请还提供了一种调度模板处理装置。所述装置包括:
数据校验模块,用于根据预设的数据校验规则,对多个业务系统的调度模板进行校验,得到校验结果;
数据推送模块,用于在校验结果表征存在不满足预设的数据校验规则的目标调度模板的情况下,推送模板修正消息,模板修正消息用于指示修正目标调度模板;
数据接收模块,用于获取多个目标调度模板,多个目标调度模板包括修正后的调度模板;
数据整合模块,用于提取各目标调度模板中的模板内容,将提取出的模板内容整合至预设的统一调度模板,得到目标统一调度模板。
第三方面,本申请还提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一调度模板处理方法实施例中的步骤。
第四方面,本申请还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一调度模板处理方法实施例中的步骤。
第五方面,本申请还提供了一种计算机程序产品。所述计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述任一调度模板处理方法实施例中的步骤。
上述调度模板处理方法、装置、计算机设备、存储介质和计算机程序产品,通过预设的数据校验规则,对接收到的多个业务系统对应的调度模板进行校验,在检测到不符合预设的数据校验规则的调度模板的情况下,通过推送模板修正消息,能够使得运维人员对调度模板进行检查、并修正模板中的问题,接着,获取修正后的目标调度模板之后,通过将多个业务系统的目标调度模板中的模板内容提取出来,并整合至预设的统一调度模板,实现了调度模板格式和结构的统一,便于后续的统一管理和维护。上述方案,由于在调度模板导入调度系统之前,便对调度模板进行了校验,能够及时发现问题,提高了调度模板的正确性,减少调度系统在执行批量作业出现问题的可能,提高了批量作业的执行效率,并且,通过将多个业务系统的调度模板合并至一个统一的调度模板,能够减少管理和维护的工作量,实现统一监控和管理,降低错误发生的概率,并且,还快速适应不同的环境和需求。
附图说明
图1为一个实施例中调度模板处理方法的应用环境图;
图2为一个实施例中调度模板处理方法的流程示意图;
图3为另一个实施例中调度模板处理方法的流程示意图;
图4为一个实施例中修改模板内容步骤的流程示意图;
图5为另一个实施例中修改模板内容步骤的流程示意图;
图6为一个实施例中调度模板处理方法的流程示意图;
图7为一个实施例中调度模板处理装置的结构框图;
图8为另一个实施例中调度模板处理装置的结构框图;
图9为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
需要说明的是,本申请所涉及的数据(包括但不限于用于分析的数据如调度模板、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据,且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准。并且,对数据的获取、存储、处理、传输等均符合法律法规的相关规定。在本申请的实施例中,可能提及某些软件、组件、模型等业界已有方案,应当认为它们是示范性的,其目的仅仅是为了说明本申请技术方案实施中的可行性,但并不意味着申请人已经或者必然用到了该方案。
本申请实施例提供的调度模板处理方法,可以应用于如图1所示的应用环境中。其中,终端102通过网络与服务器104进行通信。数据存储系统可以存储服务器104需要处理的数据。数据存储系统可以集成在服务器104上,也可以放在云上或其他网络服务器上。具体地,可以是运维人员通过终端102将导出的多个业务系统的调度模板提交给服务器104,并发送模板处理消息至服务器104,服务器104响应该模板处理消息,根据预设的数据校验规则,对多个业务系统的调度模板进行校验,得到校验结果,在校验结果表征存在不满足预设的数据校验规则的调度模板的情况下,推送模板修正消息至终端102,此时,运维人员会对存在问题的调度模板进行修正,并重新提交待处理的调度模板至服务器104,其中调度模板包括修正后的调度模板,然后,提取各目标调度模板中的模板内容,将提取出的模板内容整合至预设的统一调度模板,得到目标统一调度模板。
其中,终端102可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑、物联网设备和便携式可穿戴设备,物联网设备可为智能音箱、智能电视、智能空调、智能车载设备等。便携式可穿戴设备可为智能手表、智能手环、头戴设备等。服务器104可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
在一个实施例中,如图2所示,提供了一种调度模板处理方法,以该方法应用于图1中的服务器104为例进行说明,包括以下步骤:
S200,根据预设的数据校验规则,对多个业务系统的调度模板进行校验,得到校验结果。
调度模板是指用于规定业务系统中任务或作业执行时间、频率、顺序等调度规则的模板。调度模板包括任务名称、执行时间、执行频率、依赖关系、执行参数、执行条件以及执行结果等。
本实施例中,业务系统的调度模板包括多个子业务系统(以下简称系统)的作业模板和作业流模板。其中,作业模板和作业流模板都是Excel格式。作业模板通常用于定义单个作业的执行规则和参数,包括作业的名称、执行时间、调度定义、执行频率、作业调度依赖信息、参数设置等。作业流模板包括作业流调度定义、作业流依赖信息以及参数设置等,用于定义多个作业之间的执行顺序和依赖关系,形成一个完整的作业流程。作业流模板包括包含了多个作业模板的组合,规定了它们之间的执行顺序和条件,确保整个作业流程能够按照预期顺利执行。本实施例中,数据校验规则包括但不限于重复内容校验规则、完整性校验规则、唯一性校验规则、合规性校验规则以及其他维度的校验规则。
具体实施时,可以是运维人员在服务器内预先设置有多个数据校验规则,从多个业务系统中导出作业模板和作业流模板,然后,将各系统的作业模板和作业流模板提交至服务器,并发送模板处理消息至服务器,服务器响应该消息,根据预设的数据校验规则,对各系统的作业模板和作业流模板进行逐一校验,校验调度模板中是否存在问题。具体可包括但不限于格式校验,完整性校验、合法性校验、唯一性校验以及范围校验等。其中,格式校验即检查调度模板的格式是否符合预设的规则,包括数据格式、字段长度、数据类型等方面的校验。完整性校验即验证调度模板中是否包含所有必需的信息,确保没有遗漏关键数据或字段。合法性校验即验证调度模板中的数据是否合法有效,符合业务规定和法律法规要求。唯一性校验即校验调度模板中的关键信息是否是唯一的,避免重复或冲突的数据。通过对作业模板和作业流模板进行上述多维度的校验之后,记录校验结果。具体地,校验结果包括但不限于校验状态、校验时间、校验统计信息和错误信息等。
S400,在校验结果表征存在不满足预设的数据校验规则的调度模板的情况下,推送模板修正消息。
若在模板校验过程中,检测出不满足预设的数据校验规则的数据时,服务器则记录该相关异常信息至校验结果中。在校验结束之后,若通过校验结果发现各系统的作业模板和作业流模板中,存在有不满足预设的数据校验规则的作业模板和/或作业流模板,则通过预设的消息推送通道推送模板修正消息,可以是通过系统消息、短信或电子邮件等方式推送模板修正消息,以通知运维人员及时修正存在问题的模板。可以理解的是,在其他实施例中,也可以是在检测到不满足预设的数据校验规则的数据时,立即推送模板修正消息,以便运维人员更在更短的时间内修正模板。
S600,获取多个目标调度模板,多个目标调度模板包括修正后的调度模板。
承接上一步骤,在服务器推送模板修正消息后,运维人员对存在异常的模板进行修正,完成模板的修正后,则再次重新提交修正后的各个系统的调度模板(即目标调度模板,包括作业模板和作业流模板)至服务器,服务器获取目标调度模板。
S800,提取各目标调度模板中的模板内容,将提取出的模板内容整合至预设的统一调度模板,得到目标统一调度模板。
统一调度模板是指在调度系统中执行的统一的调度模板。本实施例中,统一调度模板包括统一作业模板和统一作业流模板。模板内容包括作业模板中内容以及作业流模板中的内容,具体包括但不限于作业流调度定义、作业调度定义、作业调度依赖信息以及作业流调度依赖信息等。
具体实施时,服务器在获取重新提交的各个系统的作业模板和作业流模板之后,可以是分别提取出各个系统的作业模板中的模板内容,将提取出的模板内容按照统一作业模板的格式整合至一个新的统一作业模板中,得到目标统一作业模板。分别提取出的各个系统的作业流模板中的模板内容,将提取出的模板内容按照统一作业流模板的格式整合至一个新的统一作业流模板中,得到目标统一作业流模板。
上述调度模板处理方法中,通过预设的数据校验规则,对接收到的多个业务系统对应的调度模板进行校验,在检测到不符合预设的数据校验规则的调度模板的情况下,通过推送模板修正消息,能够使得运维人员对调度模板进行检查、并修正模板中的问题,接着,获取修正后的目标调度模板之后,通过将多个业务系统的目标调度模板中的模板内容提取出来,并整合至预设的统一调度模板,实现了调度模板格式和结构的统一,便于后续的统一管理和维护。上述方案,由于在调度模板导入调度系统之前,便对调度模板进行了校验,能够及时发现问题,提高了调度模板的正确性,减少调度系统在执行批量作业出现问题的可能,提高了执行效率,并且,通过将多个业务系统的调度模板合并至一个统一的调度模板,能够减少管理和维护的工作量,实现统一监控和管理,降低错误发生的概率,并且,还能快速适应不同的环境和需求。
在其中一个实施例中,S200包括以下方式中的至少一种:
第一种,校验各调度模板中的调度定义信息是否存在重复。
第二种,校验各调度模板中的输入条件是否有对应的输出条件。
第三种,校验各调度模板是否存在有循环依赖的条件。
本实施例中,调度定义信息包括作业调度定义信息和作业流调度定义信息。其中,作业调度定义信息是指对单个作业的执行顺序和资源分配进行管理的信息,具体包括但不限于作业标识、作业提交时间、作业执行时间、作业优先级以及作业描述等信息。作业流调度定义信息是对作业流中的多个作业的执行顺序和资源分配进行管理的信息,具体包括但不限于作业流标识、作业流中的作业列表、作业依赖关系以及作业流优先级等数据。
如上述实施例所述,作业模板和作业流模板都是Excel格式。具体实施时,对调度模板进行校验可以包括:检查是否有重复内容、检查所有的输入条件是否有对应的输出条件、以及检查是否存在循环依赖的条件,以及其他完整性校验、唯一性校验以及合法性校验等过程中的至少一种。
具体地,关于检查是否有重复内容可以是:读取“作业流调度定义”和“作业调度定义”的sheet页的内容,将“作业流名”写入作业流清单,将“作业流名+作业名”写入作业清单,在写入清单的过程中,比对作业流清单和作业清单,检测是否存在重复的内容,即检查清单里是否有对应值,若有,则说明存在重复内容,此时,记录重复内容,并标注哪个sheet页的第几行内容重复。若没有,则表明不存在重复内容,则将当前值写入对应的清单。例如,“作业流调度定义”sheet页的第二列是“作业流名称”,类似于数据库表的主键,是不能重复的;“作业调度定义”sheet页的第二列是“作业流名称”,第三列是“作业名称”,“作业流名称”和“作业名称”类似于数据库表的联合主键,“作业流名称”+“作业名称”拼接起来不能重复的。
关于检查输入条件是否都有对应的输出条件可以是:读取“作业流调度依赖定义”和“作业调度依赖信息”的sheet页时,将其中的输入条件放入映射文件中,条件名为key,“作业流名”或“作业流名+作业名”是value,如有重复的输入条件,则将对应的“作业流名”或“作业流名+作业名”记录在value中;将读取出的输出条件放入另一个映射文件中,其格式与输入条件的格式一致。然后,校验输入条件映射文件中的所有key值,在输出条件的映射文件中是否存在对应的值,若没有,则记录没有输出的输入条件、以及对应的作业流和作业。
标准的调度模板,所有的输入条件都有对应的输出条件,而且不会出现A依赖B,B依赖C,而C又依赖A的这种循环依赖的问题。因此,关于校验各调度模板是否存在有循环依赖的条件可以是:循环检查所有的作业清单和作业流清单,将输入条件在conditionEndList清单中的作业和作业流写入清单jobEndList中,将作业和作业流对应的输出条件写入到一个新的清单conditionEndList中。然后,对于每个作业和作业流,进行循环检查,判断输入条件是否在conditionEndList清单中,过滤出没有对应输入条件的作业和作业流,本实施例中,循环总次数为100次。如果在100次循环后,仍然存在作业流或作业未被包含在conditionEndList清单中的情况,那么,这些作业流和作业的名称以及相关的输入条件和输出条件将被记录。具体地,可以是将不在conditionEndList里的“作业流名”和“作业流名+作业名”、以及对应的输入条件和输出条件记录至校验结果中。通过检测循环依赖,可以减少系统死锁或无限循环的问题,减少系统资源浪费的可能性,提高作业的执行效率。
本实施例中,通过对调度模板进行上述校验,可以及时发现潜在的问题,保障作业调度的正常运行和数据处理的正确性。
如图3所示,在其中一个实施例中,S800,包括:
S820,提取各目标调度模板中的模板内容,根据预设的调度配置参数和预设的需求规则,修改模板内容中的字段,得到目标模板内容。
S840,将目标模板内容整合至预设的统一调度模板,得到目标统一调度模板。
调度配置参数包括但不限于作业配置参数、作业依赖配置参数、执行参数以及执行环境配置参数等。需求规则包括指定作业的调度方式和策略、定义数据处理的方式和规则以及定义作业执行后的结果处理规则等。
具体实施时,由于各个系统的作业模板和作业流模板之间可能存在差异,并且,与调度系统的运行环境可能存在差异,因此,为了保证匹配作业能够在调度系统中正常被执行,需要在提取出模板内容之后,对模板内容中的内容进行相应的修改,以得到满足预设的统一调度模板的要求的目标模板内容。具体地,可以包括调整作业执行所需的参数、如更新作业的输入路径、输出路径以及其他执行参数,确保作业在统一调度环境中正确执行,还可以包括根据统一调度模板的策略,更新作业的调度策略,例如调整作业的并发执行数、重试策略、失败处理策略等,以符合统一调度模板的要求。还可以包括根据统一调度模板的执行环境要求,更新作业的执行环境设置,确保作业能够在统一调度环境中正常运行。在完成模板内容的修改后,得到满足统一调度模板的目标模板内容之后,随后,只需将目标模板内容对应填充至预设的统一调度模板中即可。
本实施例中,通过对模板内容的进行修改,使得提取出的模板内容符合预设的统一调度模板的要求,从而使得批量作业能够在调度系统中正常执行并顺利完成任务。
如图4所示,在其中一个实施例中,S820包括:
S822,提取各目标调度模板中的模板内容,将提取的模板内容分别写入至不同的临时文件。
S824,根据预设的调度配置参数中的字段配置参数,替换模板内容中的待替换的字段。
S826,根据预设的需求规则,对模板内容中的字段进行筛选和补充,得到目标模板内容。
本实施例中,临时文件可以是文本格式文件如csv文件中。具体地,可以是将作业流模板和作业模板中不同sheet页里的信息写入到不同的csv文件中,其中sheet页名字和csv的名字一致,比如作业流调度定义sheet和作业流调度依赖定义sheet在同一个excel文件中,读取这个excel文件的内容时,会将这两个sheet页的内容,除去表头,以行为单位,每列数据用逗号隔开,将sheet页中的内容写入到对应名称的csv文件中;这个excel文件完成后,继续将下一个excel中的sheet页内容写到同名的csv文件中。具体地,作业流调度定义sheet页内容写入“作业流调度定义.csv”、将作业调度定义sheet页内容写入“作业调度定义.csv”、作业流调度依赖定义sheet页内容写入“作业流调度依赖定义.csv”,以及将作业流调度依赖定义sheet页内容写入“作业调度依赖信息.csv”中。
然后,根据预设的调度配置参数中的字段配置参数,替换对应栏位的字段的值。具体地,替换是根据具体列进行替换的,例如,配置文件中配了“项目名称”如“ProjectA”,那么在替换过程中,所有包含“ProjectA”的作业名称都会被替换为“ProjectA”,以实现对作业名称和作业依赖关系信息中特定值的批量替换,从而将作业调度系统中的相关信息统一到一个特定的项目名称下。
除了字段替换之后,还包括根据预设的需求规则,对提取出的作业模板和作业流模板中的特殊字段进行筛选和补充的操作。例如,对于“年终预批”作业流,其计划开始时间被直接设置为“00:00,00:00”。根据作业流的命名规则,对于年终预批作业流,修改其翻牌模式,以指定了作业流的调度方式、执行策略或其他相关设置。涉及“年终预批”的作业会做特殊处理,在其字段后面会加一些特定内容,因此,该栏位字段在写入的时候会有特殊判断,根据判断结果将多个数组的值拼装写入。可以理解的是,在其他实施例中,还可以包括其他方式的字段修改,在此不做限定。
本实施例中,通过将提取的模板内容分别写入不同的临时文件,有助于模块化处理,使得每个临时文件可以独立处理,根据预设的调度配置参数中的字段配置参数,对模板内容中的待替换字段进行替换,实现了定制化替换功能。如此,可以灵活地根据配置参数替换不同的字段内容,适应不同情况的需求。根据预设的需求规则,对模板内容中的字段进行筛选和补充,能够使得生成的目标模板内容符合特定的需求标准,提高了生成内容的准确性和完整性。
如图5所示,在其中一个实施例中,预设的调度配置参数包括环境配置参数,S824之后,还包括:S825,获取调度系统的调度环境参数,从环境配置数据中筛选出与调度环境参数相匹配的目标环境配置数据,根据目标环境配置数据,修改模板内容中的字段。
调度环境参数是指调度系统执行作业时所运行的环境相关的配置参数,包括但不限于环境变量、服务器地址、文件存储路径、日志级别以及其他定制化参数等。环境配置数据包括关键字段在不同环境下对应的字段值。
示例性地,一些关键字段如“域名”、“租户名”、“项目名”、“调度节点组名”、“执行用户名”、“时区”等字段,在不同的环境中通常会有不同的值。比如,在开发环境、测试环境和生产环境,它们可能有不同的域名、租户名、项目名等信息。因此,可在调度配置文件中预先配置好相关环境配置数据,环境配置数据包括关键字段在不同环境下的对应的值或字段名,如此,便能根据不同的环境,生成针对该环境的调度模板。
在实际应用中,需要根据统一调度模板的执行环境要求,更新作业的执行环境设置参数,以确保作业能够在统一调度环境中正常运行。具体实施时,可以是先获取调度系统的调度环境参数,如环境变量、配置文件内容、主机名、IP( Internet Protocol,互联网协议) 地址等信息来确定当前的运行环境,在确定调度系统的环境之后,可从环境配置数据中筛选出与调度环境参数相匹配的目标环境配置数据,然后,根据目标环境配置数据中关键字段的值或字段名,对应修改模板内容中的对应的字段的值或字段名。例如,若调度系统当前处于测试环境,则从环境配置数据筛选出,测试环境下“域名”、“租户名”对应的值,然后,将模板内容中的“域名”、“租户名”的值,替换为筛选出的“域名”、“租户名”对应的值,以使得目标统一调度模板符合调度系统的要求,能够正常导入调度系统,便于后续批量作业的调度。
本实施例中,通过根据调度系统的调度环境参数,更新模板内容中的字段,能够使得批量作业能在调度环境中正常运行,并且,当调度模板有变更的时候,或者有新的测试环境需要执行批处理时,可以基于各业务系统的调度模板生成对应调度环境下可执行的调度模板。
如图6所示,在其中一个实施例中,S200之后,方法还包括:S300,将校验结果记录至预设的日志文件。
具体实施时,在根据预设的数据校验规则,对多个业务系统的调度模板进行多维度的校验,得到校验结果之后,可以将校验结果记录至预设的日志文件中。也可以是在检测出作业模板和作业流模板中存在不满足预设的数据校验规则的数据时,则记录该相关异常信息至日志文件中。
本实施例中,将校验结果记录至日志文件中,可以详细记录作业模板和作业流模板中存在的不满足数据校验规则的数据,帮助分析和了解问题的根本原因有,助于问题追踪和排查。当出现异常时,可以查看日志文件以了解问题发生的具体情况,有助于快速定位和解决问题。进一步地,还可以提高系统的可靠性、稳定性和可维护性,帮助运维人员更好地管理系统并及时解决问题,从而提升系统的整体运行效率和质量。
为了对本申请提供的调度模板处理方法做出更为清楚的说明,下面结合附图6和一个具体实施例进行说明,该具体实施例包括以下步骤:
S200,根据预设的数据校验规则,对多个业务系统的调度模板进行校验,得到校验结果。
具体实施时,对调度模板进行校验可以包括:检查是否有重复内容、检查所有的输入条件是否有对应的输出条件、以及检查是否存在循环依赖的条件,以及其他完整性校验、唯一性校验以及合法性校验等过程中的至少一种。
S300,将校验结果记录至预设的日志文件。
S400,在校验结果表征存在不满足预设的数据校验规则的调度模板的情况下,推送模板修正消息。
S600,获取多个目标调度模板,多个目标调度模板包括修正后的调度模板。
S822,提取各目标调度模板中的模板内容,将提取的模板内容分别写入至不同的临时文件。
S824,根据预设的调度配置参数中的字段配置参数,替换模板内容中的待替换的字段。
S825,获取调度系统的调度环境参数,从环境配置数据中筛选出与调度环境参数相匹配的目标环境配置数据,根据目标环境配置数据,修改模板内容中的字段
S826,根据预设的需求规则,对模板内容中的字段进行筛选和补充,得到目标模板内容。
S840,将目标模板内容整合至预设的统一调度模板,得到目标统一调度模板。
应该理解的是,虽然如上所述的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上所述的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的调度模板处理方法的调度模板处理装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个调度模板处理装置实施例中的具体限定可以参见上文中对于调度模板处理方法的限定,在此不再赘述。
在一个实施例中,如图7所示,提供了一种调度模板处理装置700,包括数据校验模块710、数据推送模块720、数据接收模块730和数据整合模块740,其中:
数据校验模块710,用于根据预设的数据校验规则,对多个业务系统的调度模板进行校验,得到校验结果。
数据推送模块720,用于在校验结果表征存在不满足预设的数据校验规则的目标调度模板的情况下,推送模板修正消息,模板修正消息用于指示修正目标调度模板。
数据接收模块730,用于获取多个目标调度模板,多个目标调度模板包括修正后的调度模板。
数据整合模块740,用于提取各目标调度模板中的模板内容,将提取出的模板内容整合至预设的统一调度模板,得到目标统一调度模板。
上述调度模板处理装置,通过预设的数据校验规则,对接收到的多个业务系统对应的调度模板进行校验,在检测到不符合预设的数据校验规则的调度模板的情况下,通过推送模板修正消息,能够使得运维人员对调度模板进行检查、并修正模板中的问题,接着,获取修正后的目标调度模板之后,通过将多个业务系统的目标调度模板中的模板内容提取出来,并整合至预设的统一调度模板,实现了调度模板格式和结构的统一,便于后续的统一管理和维护。上述方案,由于在调度模板导入调度系统之前,便对调度模板进行了校验,能够及时发现问题,提高了调度模板的正确性,减少调度系统在执行批量作业出现问题的可能,提高了执行效率,并且,通过将多个业务系统的调度模板合并至一个统一的调度模板,能够减少管理和维护的工作量,实现统一监控和管理,降低错误发生的概率,并且,还快速适应不同的环境和需求。
在其中一个实施中,数据校验模块710,还用于执行以下操作中的至少一种:
第一种,校验各调度模板中的调度定义信息是否存在重复;
第二种,校验各调度模板中的输入条件是否有对应的输出条件;
第三种,校验各调度模板是否存在有循环依赖的条件。
在其中一个实施中,数据整合模块740,还用于根据预设的调度配置参数和预设的需求规则,修改模板内容中的字段,得到目标模板内容,将目标模板内容整合至预设的统一调度模板。
在其中一个实施中,数据整合模块740,还用于将提取的模板内容分别写入至不同的临时文件,根据预设的调度配置参数中的字段配置参数,替换模板内容中的待替换的字段,根据预设的需求规则,对模板内容中的字段进行筛选和补充,得到目标模板内容。
在其中一个实施中,数据整合模块740,还用于获取调度系统的调度环境参数,从环境配置数据中筛选出与调度环境参数相匹配的目标环境配置数据,根据目标环境配置数据,更新模板内容中的字段。
如图8所示,在其中一个实施中,装置还包括日志记录模块712,用于将校验结果记录至预设的日志文件。
上述调度模板处理装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图9所示。该计算机设备包括处理器、存储器、输入/输出接口(Input/Output,简称I/O)和通信接口。其中,处理器、存储器和输入/输出接口通过系统总线连接,通信接口通过输入/输出接口连接到系统总线。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质和内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储预设的统一调度模板、数据校验规则、以及多个业务系统的调度模板等数据。该计算机设备的输入/输出接口用于处理器与外部设备之间交换信息。该计算机设备的通信接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种调度模板处理方法。
本领域技术人员可以理解,图9中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现上述任一调度模板处理方法实施例中的步骤。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述任一调度模板处理方法实施例中的步骤。
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述任一调度模板处理方法实施例中的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(Ferroelectric Random Access Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。
Claims (15)
1.一种调度模板处理方法,其特征在于,所述方法包括:
根据预设的数据校验规则,对多个业务系统的调度模板进行校验,得到校验结果;
在所述校验结果表征存在不满足所述预设的数据校验规则的调度模板的情况下,推送模板修正消息;
获取多个目标调度模板,所述多个目标调度模板包括修正后的所述调度模板;
提取各所述目标调度模板中的模板内容,将提取出的模板内容整合至预设的统一调度模板,得到目标统一调度模板。
2.根据权利要求1所述的方法,其特征在于,所述根据预设的数据校验规则,对多个业务系统的调度模板进行校验包括以下方式中的至少一种:
第一种,校验各调度模板中的调度定义信息是否存在重复;
第二种,校验各调度模板中的输入条件是否有对应的输出条件;
第三种,校验各调度模板是否存在有循环依赖的条件。
3.根据权利要求1所述的方法,其特征在于,所述将提取出的模板内容整合至预设的统一调度模板,包括:
根据预设的调度配置参数和预设的需求规则,修改所述模板内容中的字段,得到目标模板内容;
将所述目标模板内容整合至预设的统一调度模板。
4.根据权利要求3所述的方法,其特征在于,所述根据预设的调度配置参数和预设的需求规则,修改所述模板内容中的字段,包括:
将提取的模板内容分别写入至不同的临时文件;
根据所述预设的调度配置参数中的字段配置参数,替换所述模板内容中的待替换的字段;
根据预设的需求规则,对所述模板内容中的字段进行筛选和补充。
5.根据权利要求4所述的方法,其特征在于,所述预设的调度配置参数包括环境配置参数;所述根据预设的调度配置参数和预设的需求规则,修改所述模板内容中的字段,包括:
获取调度系统的调度环境参数;
从所述环境配置数据中筛选出与所述调度环境参数相匹配的目标环境配置数据;
根据所述目标环境配置数据,更新所述模板内容中的字段。
6.根据权利要求1至5任意一项所述的方法,其特征在于,所述得到校验结果之后,所述方法还包括:
将所述校验结果记录至预设的日志文件。
7.一种调度模板处理装置,其特征在于,所述装置包括:
数据校验模块,用于根据预设的数据校验规则,对多个业务系统的调度模板进行校验,得到校验结果;
数据推送模块,用于在所述校验结果表征存在不满足预设的数据校验规则的目标调度模板的情况下,推送模板修正消息;
数据接收模块,用于获取多个目标调度模板,所述多个目标调度模板包括修正后的所述调度模板;
数据整合模块,用于提取各所述目标调度模板中的模板内容,将提取出的模板内容整合至预设的统一调度模板,得到目标统一调度模板。
8.根据权利要求7所述的装置,其特征在于,所述数据校验模块,还用于执行以下操作中的至少一种:
第一种,校验各调度模板中的调度定义信息是否存在重复;
第二种,校验各调度模板中的输入条件是否有对应的输出条件;
第三种,校验各调度模板是否存在有循环依赖的条件。
9.根据权利要求7所述的装置,其特征在于,所述数据整合模块,用于根据预设的调度配置参数和预设的需求规则,修改所述模板内容中的字段,得到目标模板内容,将所述目标模板内容整合至预设的统一调度模板。
10.根据权利要求9所述的装置,其特征在于,所述数据整合模块,还用于将提取的模板内容分别写入至不同的临时文件,根据所述预设的调度配置参数中的字段配置参数,替换所述模板内容中的待替换的字段,根据预设的需求规则,对所述模板内容中的字段进行筛选和补充,得到目标模板内容。
11.根据权利要求9所述的装置,其特征在于,所述预设的调度配置参数包括环境配置参数;
所述数据整合模块,还用于获取调度系统的调度环境参数,从所述环境配置数据中筛选出与所述调度环境参数相匹配的目标环境配置数据,根据所述目标环境配置数据,更新所述模板内容中的字段。
12.根据权利要求7至11任意一项所述的装置,其特征在于,所述装置还包括日志记录模块,用于将所述校验结果记录至预设的日志文件。
13.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的方法的步骤。
14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
15.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410344385.7A CN118152036A (zh) | 2024-03-25 | 2024-03-25 | 调度模板处理方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410344385.7A CN118152036A (zh) | 2024-03-25 | 2024-03-25 | 调度模板处理方法、装置、计算机设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118152036A true CN118152036A (zh) | 2024-06-07 |
Family
ID=91298464
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410344385.7A Pending CN118152036A (zh) | 2024-03-25 | 2024-03-25 | 调度模板处理方法、装置、计算机设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN118152036A (zh) |
-
2024
- 2024-03-25 CN CN202410344385.7A patent/CN118152036A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10353878B1 (en) | Method and system for cloning enterprise content management systems | |
US20100211539A1 (en) | System and method for building a data warehouse | |
US11544669B2 (en) | Computing framework for compliance report generation | |
CN115114146B (zh) | 接口测试方法、装置、设备及存储介质 | |
CN113467782B (zh) | 一种确定业务流程的方法、装置及设备 | |
CN111857981A (zh) | 一种数据处理方法以及装置 | |
CN117851484A (zh) | 基于规则引擎的数据处理方法、装置、计算机设备 | |
CN112631763A (zh) | 一种主机程序的程序变更方法及装置 | |
CN116561003A (zh) | 测试数据生成方法、装置、计算机设备和存储介质 | |
CN118152036A (zh) | 调度模板处理方法、装置、计算机设备和存储介质 | |
CN116185774A (zh) | 日志监控安装方法、装置、计算机设备和存储介质 | |
US10509659B1 (en) | Input processing logic to produce outputs for downstream systems using configurations | |
CN112051987B (zh) | 业务数据处理方法、装置及设备、程序生成方法及装置 | |
CN114416805B (zh) | 数据核对方法、装置、计算机设备和存储介质 | |
US20230325587A1 (en) | Table column operations for spreadsheets | |
CN113052463B (zh) | 工作流核验方法、装置、计算机设备及存储介质 | |
CN117076546B (zh) | 数据处理方法、终端设备及计算机可读存储介质 | |
CN115629958A (zh) | 一种针对不同业务接口的通用字段级自动校验方法和装置 | |
CN118468843A (zh) | 文档生成方法、装置、设备、存储介质和程序产品 | |
CN117971649A (zh) | 数据处理方法、装置、计算机设备和存储介质 | |
CN116362230A (zh) | 参数校验方法、装置、计算机设备可存储介质 | |
CN115827478A (zh) | 代码检视方法、装置、计算机设备和存储介质 | |
CN117785674A (zh) | 接口用例生成方法、装置、计算机设备和存储介质 | |
CN116451965A (zh) | 业务请求的处理方法、装置、计算机设备及存储介质 | |
CN117743306A (zh) | 数据迁移方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |