CN116149825A - 任务处理方法、装置、介质及电子设备 - Google Patents
任务处理方法、装置、介质及电子设备 Download PDFInfo
- Publication number
- CN116149825A CN116149825A CN202310201730.7A CN202310201730A CN116149825A CN 116149825 A CN116149825 A CN 116149825A CN 202310201730 A CN202310201730 A CN 202310201730A CN 116149825 A CN116149825 A CN 116149825A
- Authority
- CN
- China
- Prior art keywords
- difference adjustment
- task
- target
- date
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本公开涉及一种任务处理方法、装置、介质及电子设备,方法包括:获取在预设周期内创建的调差任务,其中,各调差任务用于指示对第一目标数据源中满足筛选条件的数据进行第一指定操作,筛选条件包括指定历史日期集合,指定历史日期集合包括至少一个历史日期;针对各调差任务,根据该调差任务创建与该调差任务对应的筛选条件中的指定历史日期集合中的每个历史日期的目标调差任务,每个历史日期的目标调差任务用于指示对第一目标数据源中属于该历史日期的数据进行第一指定操作;并行执行所有历史日期对应的目标调差任务,解除了处理后一天的调差任务需要依赖前一天的调差任务的处理结果所引发的循环依赖的问题,提高了调差任务的处理效率。
Description
技术领域
本公开涉及电子信息技术领域,具体地,涉及一种任务处理方法、装置、介质及电子设备。
背景技术
数据仓库通常用于存储数据,便于后期对存储的数据的统计分析,但由于因某些特殊情况导致存储的数据存在有误的情况,因此需要对有误的数据执行调差操作,调差操作可以理解为对数据进行修改的操作。
通常基于用户提交的申诉表单对相关数据进行调差操作,而在相关技术中,后一天的申诉表单对应的调差操作需要依赖前一天的申诉表单的调差结果,从而导致在需要执行连续多天产生的批量化的申诉表单时,存在循环依赖导致的处理效率低的问题。
发明内容
提供该发明内容部分以便以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
第一方面,本公开提供一种任务处理方法,包括:
获取在预设周期内创建的调差任务,其中,各所述调差任务用于指示对第一目标数据源中满足筛选条件的数据进行第一指定操作,所述筛选条件包括指定历史日期集合,所述指定历史日期集合包括至少一个历史日期;
针对各所述调差任务,根据该调差任务创建与该调差任务对应的筛选条件中的指定历史日期集合中的每个历史日期的目标调差任务,每个所述历史日期的目标调差任务用于指示对所述第一目标数据源中属于该历史日期的数据进行所述第一指定操作;
并行执行所有所述历史日期对应的目标调差任务。
第二方面,本公开提供一种任务处理装置,包括:
获取模块,用于获取在预设周期内创建的调差任务,其中,各所述调差任务用于指示对第一目标数据源中满足筛选条件的数据进行第一指定操作,所述筛选条件包括指定历史日期集合,所述指定历史日期集合包括至少一个历史日期;
第一创建模块,用于针对各所述调差任务,根据该调差任务创建与该调差任务对应的筛选条件中的指定历史日期集合中的每个历史日期的目标调差任务,每个所述历史日期的目标调差任务用于指示对所述第一目标数据源中属于该历史日期的数据进行所述第一指定操作;
任务执行模块,用于并行执行所有所述历史日期对应的目标调差任务。
第三方面,本公开提供一种计算机可读介质,其上存储有计算机程序,该程序被处理装置执行时实现第一方面所述方法的步骤。
第四方面,本公开提供一种电子设备,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现第一方面所述方法的步骤。
通过上述技术方案,针对预设周期内创建的批量化的每个调差任务,创建与该调差任务的指定历史日期集合中各历史日期分别对应的目标调差任务,即将指定历史日期集合的调差任务所涉及的第一指定操作应用到指定历史日期集合中每个历史日期所对应的数据上,由于各历史日期的数据相互独立,进而能够并行执行所有历史日期对应的目标调差任务,解除了处理后一天的调差任务需要依赖前一天的调差任务的处理结果所引发的循环依赖的问题,提高了调差任务的处理效率。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。在附图中:
图1是根据一示例性实施例示出的一种电子设备的架构图。
图2是根据一示例性实施例示出的一种任务处理方法的流程图。
图3是根据一示例性实施例示出的一种创建的调差任务的示意图。
图4是根据一示例性实施例示出的一种创建目标调差任务的示意图。
图5是根据一示例性实施例示出的一种任务处理装置的框图。
图6是根据一示例性实施例示出的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
可以理解的是,在使用本公开各实施例公开的技术方案之前,均应当依据相关法律法规通过恰当的方式对本公开所涉及个人信息的类型、使用范围、使用场景等告知用户并获得用户的授权。
例如,在响应于接收到用户的主动请求时,向用户发送提示信息,以明确地提示用户,其请求执行的操作将需要获取和使用到用户的个人信息。从而,使得用户可以根据提示信息来自主地选择是否向执行本公开技术方案的操作的电子设备、应用程序、服务器或存储介质等软件或硬件提供个人信息。
作为一种可选的但非限定性的实现方式,响应于接收到用户的主动请求,向用户发送提示信息的方式例如可以是弹窗的方式,弹窗中可以以文字的方式呈现提示信息。此外,弹窗中还可以承载供用户选择“同意”或者“不同意”向电子设备提供个人信息的选择控件。
可以理解的是,上述通知和获取用户授权过程仅是示意性的,不对本公开的实现方式构成限定,其它满足相关法律法规的方式也可应用于本公开的实现方式中。
同时,可以理解的是,本技术方案所涉及的数据(包括但不限于数据本身、数据的获取或使用)应当遵循相应法律法规及相关规定的要求。
例如在数据仓库中存储存在关联的两个对象之间的数据时,由于关联的对象中表征某一对象的标识可能发生变化,若未及时将该对象新的标识挂接到另一对象时,则会导致数据出错。而在相关技术中,通常基于用户提交的申诉表单对相关数据进行调差操作,而在相关技术中,后一天的申诉表单对应的调差操作需要依赖前一天的申诉表单的调差结果,从而导致在需要执行连续多天产生的批量化的申诉表单时,存在循环依赖导致的处理效率低的问题。
有鉴于此,本公开实施例提供了一种任务处理方法、装置、介质及电子设备,提高任务处理效率。
以下结合附图对本公开进行解释说明。
图1是根据一示例性实施例示出的一种电子设备的架构图。参照图1,电子设备包括接入层、编译层、调度层、计算层、存储层以及配置平台。其中,接入层读取调差信息,根据调差信息创建与调差信息对应的调差任务;编译层对调差任务进行编译,得到面向数据源操作且仅针对每一历史日期的目标调差任务;调度层用于按照一定的规则对每一历史日期的目标调差任务进行调度;计算层用于并行执行所有历史日期对应的目标调差任务,对相应的数据进行指定操作;存储层包括配置平台的存储依赖MySQL、调差任务的存储依赖MySQL以及用于维护Hive和ClickHouse,Hive和ClickHouse可以分别理解为数据源中数据的存储位置;配置平台用于提供业务配置、数据源配置和调差配置,业务配置可以包括业务线配置,数据源配置可以包括数据表配置、维度配置和指标配置,调差配置可以包括调差类型配置、调差任务模板实例配置以及优先级配置。图2是根据一示例性实施例示出的一种任务处理方法的流程图,该任务处理方法运用于电子设备中,参照图2,该任务处理方法包括以下步骤:
步骤201,获取在预设周期内创建的调差任务,其中,各调差任务用于指示对第一目标数据源中满足筛选条件的数据进行第一指定操作,筛选条件包括指定历史日期集合,指定历史日期集合包括至少一个历史日期。
其中,预设周期至少包括两天。示例地,预设周期可以是两天,也可以是五天,本实施例对此不作限定。
其中,不同的调差任务唯一对应一第一目标数据源以及第一指定操作。调差任务唯一对应一第一目标数据源和第一指定操作可以降低整体电子设备的架构的理解难度,即降低开发难度。
值得说明的是,调差任务的第一指定操作与调差任务的目标调差类型相关,一种目标调差类型唯一对应一种第一指定操作。示例地,第一指定操作可以是插入数据操作、修改维度操作、拆分数据操作、维度挂接操作或扩展新类型操作。其中,修改维度操作进一步可以包括修改维度值操作、增加维度操作、删除维度操作等等。另外,关于目标调差类型的解释说明可以参照下述相关实施例,本实施例在此不作赘述。
其中,筛选条件用于选择需要执行第一指定操作的数据。示例地,在筛选条件包括指定历史日期集合时,则需要执行第一指定操作的数据是属于指定历史日期集合中的历史日期对应的数据。进一步地,筛选条件还可以包括目标字段,需要执行第一指定操作的数据是属于指定历史日期集合中的历史日期且与目标字段对应的数据。
参照图3,在图3中,日期1、日期2和日期3分别创建了调差任务,日期1创建了调差任务1、调差任务2和调差任务3,日期2创建了调差任务4、调差任务5和调差任务6,日期3创建了调差任务7、调差任务8和调差任务9。以调差任务1为例,其表征对第一目标数据源中属于历史日期1的数据执行第一指定操作;再以调差任务9为例,其表征分别对第一目标数据源中属于历史日期1、历史日期2和历史日期3的数据执行第一指定操作。
其中,调差任务可以通过DSL(Data Structure Language,数据结构语言)进行表征,目标调差任务也可以通过DSL进行描述,从而使得计算层在执行目标调差任务时只关注DSL描述的数据模型,无需关注目标调差任务对应的业务逻辑。
步骤202,针对各调差任务,根据该调差任务创建与该调差任务对应的筛选条件中的指定历史日期集合中的每个历史日期的目标调差任务,每个历史日期的目标调差任务用于指示对第一目标数据源中属于该历史日期的数据进行第一指定操作。
值得说明的是,针对每个调差任务,可以根据调差任务对调差任务进行数据拍平,从而创建得到与指定历史日期集合中每个历史日期分别对应的目标调差任务。
承接上述图3所示的示例,参照图4,对日期1、日期2和日期3分别创建的调差任务进行数据拍平操作,从而分别得到历史日期1对应的目标调差任务、历史日期2对应的目标调差任务以及历史日期3对应的目标调差任务。即,历史日期1对应的目标调差任务包括调差任务1、调差任务2、调差任务3、第一子调差任务5、第一子调差任务6和第一子调差任务9;历史日期2对应的目标调差任务包括调差任务4、第二子调差任务5、第二子调差任务6、第一子调差任务8和第二子调差任务9;历史日期3对应的目标调差任务包括调差任务7、第二子调差任务8以及第三子调差任务9。其中,第一子调差任务5和第一子调差任务5是通过调差任务5进行数据拍平得到的,第一子调差任务5用于指示针对第一目标数据源中的历史日期1的数据进行第一指定操作,第二子调差任务5用于指示针对第一目标数据源中的历史日期2的数据进行第一指定操作。类似地,其他子调差任务类似,均是对对应调差任务进行拍平得到的,相关解释说明可以参照关于对调差任务5数据拍平的解释说明。
步骤203,并行执行所有历史日期对应的目标调差任务。
承接图4所示的示例,并行执行历史日期1对应的目标调差任务、历史日期2对应的目标调差任务以及历史日期3对应的目标调差任务。
值得说明的是,针对不同日期创建的调差任务而言,不同日期的调差任务需要调差的有误数据可能存在交差的情况,即不同调差任务中指定历史日期集合中的历史日期存在交差的情况。例如,第一天创建的调差任务和第二天创建的调差任务的筛选条件中指定历史日期和第一指定操作可能存在部分相同或全部相同的情况,因此,在现有技术中需要先处理第一天创建的调差任务,再处理第二天创建的调差任务,即后一天的任务处理依赖前一天的任务处理结果,而当预设周期较长时,这种循环依赖的问题更为严重,从而导致处理效率低。
而通过上述方式,针对预设周期内创建的批量化的每个调差任务,创建与该调差任务的指定历史日期集合中各历史日期分别对应的目标调差任务,即将指定历史日期集合的调差任务所涉及的第一指定操作应用到指定历史日期集合中每个历史日期所对应的数据上,由于各历史日期的数据相互独立,进而能够并行执行所有历史日期对应的目标调差任务,解除了处理后一天的调差任务需要依赖前一天的调差任务的处理结果所引发的循环依赖的问题,提高了调差任务的处理效率。
在一些实施例中,所述方法还包括:响应获取到调差信息,根据调差信息创建与调差信息对应的调差任务,其中,调差信息包括调差场景、筛选条件和目标调差类型,调差场景用于确定第一目标数据源,筛选条件用于确定第一目标数据源中属于指定历史日期集合中的历史日期的数据,目标调差类型用于确定第一指定操作。
其中,调差信息可以是基于用户的操作确定的。示例地,电子设备可以通过可视化界面,用户可以基于可视化界面选择调差场景和目标调差类型。进一步地,基于用户选择的调差场景和目标调差类型,电子设备进一步为用户提供与调差场景对应且和目标调差类型对应的表单,在该表单中,提供用户包括筛选条件的配置,从而得到相应地调差信息。
示例地,在目标调差任务的目标调差类型对应的第一指定操作是修改维度操作时,筛选条件还可以包括需要修改的目标字段,调差信息还可以包括与需要修改的目标字段对应的目标数据,该目标数据可以从表单中获取。对应的,历史日期的目标调差任务用于指示将第一目标数据源中属于该历史日期且与目标字段对应的数据修改为目标数据。
值得说明的是,同一表单,可以提供不同筛选条件的配置,从而基于表单中的一条数据、调差场景和目标调差类型对应可以生成一个调差任务。
示例地,参见下表1:
表1
在上表1中,表1示例的是针对目标调差类型为修改维度操作对应的调差类型且调差场景为调整第一对象标识关联的第二对象标识的一种表单,从而依据该调差场景可以确定第一目标数据源可以是维护第一对象标识和第二对象标识关联关系的维度表;第一对象标识、开始日期和结束日期可以是筛选条件,开始日期和结束日期用于确定指定历史日期集合;第二对象标识是目标字段;201和202是与目标字段对应的目标数据。
在表1中,涉及两条数据,从而可以生成两个调差任务,一个调差任务是用于指示将第一目标数据源中与第一对象标识为101关联的且历史日期是5.1至5.31的第二对象标识字段对应的值修改为201,另一个调差任务用于指示将第一目标数据源中与第一对象标识为102关联的且历史日期是5.1至5.31的第二对象标识字段对应的值修改为202。
示例地,示例地,参见下表2:
表2
在上表2中,表2示例的是针对目标调差类型为插入数据操作对应的调差类型且调差场景为调整第一对象标识的属性的表单,从而依据该调差场景可以确定第一目标数据源可以是维护第一对象标识属性的维度表;第一对象标识、开始日期和结束日期可以是筛选条件,开始日期和结束日期用于确定指定历史日期集合;属性A是待插入的字段;11和12是与插入的字段对应的目标数据。
在表2中,涉及两条数据,从而可以生成两个调差任务,一个调差任务是用于指示在第一目标数据源中与第一对象标识为101关联且历史日期是5.1至5.4的数据中插入属性A以及与属性A对应的目标数据11,另一个调差任务用于指示在第一目标数据源中与第一对象标识为102关联且历史日期是5.1至5.4的数据中插入属性A以及与属性A对应的目标数据12。
通过上述方式,接收用户选择的调差信息,从而创建出对应的调差任务,实现对数据源中数据的更改。
在一些实施例中,上述的响应获取到调差信息,根据调差信息创建与调差信息对应的调差任务的步骤可以通过以下方式实施:响应获取到调差信息,确定与目标调差类型所对应的目标调差任务模板实例;根据调差场景、筛选条件和目标调差任务模板实例,创建与调差信息对应的调差任务。
值得说明的是,目标调差类型可以是插入数据类型、修改维度类型、拆分数据类型、挂接维度类型和扩展新类型中的任意一者。与目标调差类型唯一对应一第一指定操作。值得说明的是,这里的示例的目标调差类型与上式示例的第一指定操作一一对应。
其中,目标调差任务模板实例可以理解为一种用DSL描述的代码文件。一种目标调差类型对应一种目标调差任务模板实例,即一种用DSL描述的代码文件,该代码文件中可以包括不同目标调差类型需要的数据源、更新的字段等信息。
其中,可以基于调差场景、筛选条件对目标调差任务模板实例中的相应字段进行实例化处理,从而得到调差任务。
示例地,以目标调差任务模板实例包括以下字段为例:
Filter:[
{
fieldName:advertiser_id,
operator:in,
target:,//从调差信息中获取
}
]
针对上述target字段而言,承接表1的示例,从表1得到的信息对上述示例的目标调差任务模板实例进行实例化处理,得到:
Filter:[
{
fieldName:advertiser_id,
operator:in,
target:101,//从调差信息中获取
}
]
其中,上述响应获取到调差信息,确定与目标调差类型所对应的目标调差任务模板实例的步骤可以通过以下方式实施:响应获取到调差信息,获取预设的调差类型与调差任务模板实例的关联关系;根据关联关系,确定与目标调差类型对应的目标调差任务模板实例。
值得说明的是,预设的调差类型可以包括插入数据类型、修改维度类型、拆分数据类型、挂接维度类型和扩展新类型等等。
通过上述方式,提前预设不同调差类型对应的调差任务模板实例,再基于用户条件的调差信息中的目标调差类型获取对应的目标调差任务模板实例,进而依据调差信息对目标调差任务模板实例进行实例化,从而得到相应的调差任务。此外,在新增调差类型时,可以通过配置平台直接配置相应地调差任务模板实例,降低了开发难度。
在一些实施例中,所述方法还可以包括:在执行历史日期对应的目标调差任务后,生成并执行与目标调差任务相关联的衍生任务。
值得说明的是,在执行某些目标调差任务后,其相关的某些数据也需要被修改。例如,在关于对详细地址的修改中,由于详细地址中通过包括多个具有高低级别的地址单位,不同级别的地址单位组成详细地址。而用户提交的仅仅是关于级别较低的地址单位的修改,而级别较高的地址单位可能也需要进行修改。因此,在修改级别较低的地址单位的的任务作为目标调差任务的情况下,可以将修改级别较高的地址单位的任务作为该目标调差任务的衍生任务。
其中,衍生任务也可以通过DSL进行描述,衍生任务用于指示对第二目标数据源中的数据进行第二指定操作,该数据用于表征需要被修改的数据,该第二目标数据源、该数据和该第二指定操作可以通过目标调差任务确定。关于该第二目标数据源、该数据和该第二指定操作的解释说明可以参照上述对第一目标数据源、第一指定操作等的说明,本实施例在此不作赘述。
通过上述方式,通过生成并执行与目标调差任务相关联的衍生任务,从而实现与目标调差任务相关的数据的自动化修改。
在一些实施例中,通过以下方式执行每个历史日期对应的目标调差任务:对历史日期对应的目标调差任务按照优先级规则进行排序,得到排序结果;依次处理排序结果中的目标调差任务。
值得说明的是,对于同一历史日期而言,其对应的目标调差任务可以是多个、不同目标调差任务可能针对同一数据、属于同个目标调差类型的目标调差任务之间存在冲突等情况,在这些情况下,若目标调差任务的执行顺序不同导致最终的结果不同,因此,可以对任务执行的优先级进行配置,从而得到预期的结果。
在一些实施例中,电子设备可以响应第一配置操作,生成优先级规则,优先级规则用于指示不同属性之间的优先级顺序。
其中,电子设备可以提供可视化配置界面,供用户对优先级规则进行配置。
值得说明的是,属性是与目标调差任务相关的属性。例如,属性可以是调差类型、创建调差信息的时间、创建调差信息的日期、提交调差信息的时间、提交调差信息的日期、审批调差信息的时间、审批调差信息的日期、调差信息审批通过的时间和调差信息审批通过的日期等等。
值得说明的是,创建调差信息的时间和日期分别是用于描述用户基于可视化界面对调差场景、目标调差类型、表单等调差信息进行编辑的时间和日期;提交调差信息的时间和日期分别是用于描述用户对编辑好的调差信息进行提交的时间和日期;审批调差信息的时间和日期分别是用于描述审批人员对提交的调差信息进行审批的时间和日期;调差信息审批通过的时间和日期分别是用于描述审批人员对提交的调差信息审批通过的时间和日期。其中,编辑好的调差信息在提交后会到达审批阶段进行审批,审批通过后则可以开始调差任务的创建。承接上述示例,以调差类型包括插入数据类型和拆分数据类型为例。优先级规则中各属性的优先级顺序依次可以是插入数据类型和拆分数据类型,因此,根据该优先级规则,可以将插入数据类型的目标调差任务排列在拆分数据类型的目标调差任务之前,以便于优先处理插入数据类型的目标调差任务。
通过上述方式,可以对优先级规则进行配置,从而灵活支持不同业务的优先级需求,进而得到不同的处理结果。
在一些实施例中,第一目标数据源包括多个业务线的数据,方法还可以包括:响应针对业务线的第二配置操作,生成针对业务线的数据访问管理规则;其中,第二配置操作用于指示在执行目标调差任务时是否允许对业务线的数据进行指定操作,且在第二配置操作指示不允许对业务线的数据进行指定操作的情况下,在执行目标调差任务的过程中不对业务线的数据进行访问和指定操作,指定操作包括第一指定操作。
值得说明的是,某些业务线的数据不需要进行数据的调差,因此,可以对是否能够对业务线的数据执行指定操作进行配置。
这样,在执行目标调差任务的过程中,依据业务线的数据访问管理规则,可以确定电子设备是否能对业务线的数据进行访问和指定操作,从而实现对不同业务线的数据是否允许调差的配置的支持;此外,在不支持访问和指定操作的情况下,能够减少数据访问带来的资源消耗。
在一些实施例中,电子设备还可以支持针对数据源的配置,可以包括数据表配置、维度配置、指标配置等等。其中,这里的配置可以参照相关技术,本实施例在此不作赘述。
图5是根据一示例性实施例示出的一种任务处理装置的框图。参照图5,该装置500包括:
获取模块501,用于获取在预设周期内创建的调差任务,其中,各所述调差任务用于指示对第一目标数据源中满足筛选条件的数据进行第一指定操作,所述筛选条件包括指定历史日期集合,所述指定历史日期集合包括至少一个历史日期;
第一创建模块502,用于针对各所述调差任务,根据该调差任务创建与该调差任务对应的筛选条件中的指定历史日期集合中的每个历史日期的目标调差任务,每个所述历史日期的目标调差任务用于指示对所述第一目标数据源中属于该历史日期的数据进行所述第一指定操作;
任务执行模块503,用于并行执行所有所述历史日期对应的目标调差任务。
在一些实施例中,所述装置500还包括:
第一响应模块,用于响应获取到调差信息,根据所述调差信息创建与所述调差信息对应的调差任务,其中,所述调差信息包括调差场景、筛选条件和目标调差类型,所述调差场景用于确定第一目标数据源,所述筛选条件用于确定第一目标数据源中属于指定历史日期集合中的历史日期的数据,所述目标调差类型用于确定第一指定操作。
在一些实施例中,所述第一响应模块包括:
第一响应子模块,用于响应获取到调差信息,确定与所述目标调差类型所对应的目标调差任务模板实例;
第一创建子模块,用于根据所述调差场景、所述筛选条件和所述目标调差任务模板实例,创建与所述调差信息对应的调差任务。
在一些实施例中,所述调差任务唯一对应一第一目标数据源。
在一些实施例中,所述第一响应子模块具体用于响应获取到调差信息,获取预设的调差类型与调差任务模板实例的关联关系;根据所述关联关系,确定与所述目标调差类型对应的目标调差任务模板实例。
在一些实施例中,所述装置500还包括:
生成模块,用于在执行所述历史日期对应的目标调差任务后,生成并执行与所述目标调差任务相关联的衍生任务。
在一些实施例中,通过以下方式执行每个所述历史日期对应的目标调差任务:
对所述历史日期对应的目标调差任务按照优先级规则进行排序,得到排序结果;
依次处理所述排序结果中的目标调差任务。
在一些实施例中,所述装置500还包括:
第二响应模块,用于响应第一配置操作,生成优先级规则,其中,所述优先级规则用于指示不同属性之间的优先级顺序。
在一些实施例中,所述第一目标数据源包括多个业务线的数据,所述装置500还包括:
第三响应模块,用于响应针对所述业务线的第二配置操作,生成针对所述业务线的数据访问管理规则;
其中,所述第二配置操作用于指示在执行所述目标调差任务时是否允许对所述业务线的数据进行指定操作,且在所述第二配置操作指示不允许对所述业务线的数据进行指定操作的情况下,在执行所述目标调差任务的过程中不对所述业务线的数据进行访问和指定操作,所述指定操作包括第一指定操作。
其中,关于上述装置中各模块的具体实施方式可以参照上述相关实施例,本实施例在此不作赘述。
下面参考图6,其示出了适于用来实现本公开实施例的电子设备600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,电子设备可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取在预设周期内创建的调差任务,其中,各所述调差任务用于指示对第一目标数据源中满足筛选条件的数据进行第一指定操作,所述筛选条件包括指定历史日期集合,所述指定历史日期集合包括至少一个历史日期;针对各所述调差任务,根据该调差任务创建与该调差任务对应的筛选条件中的指定历史日期集合中的每个历史日期的目标调差任务,每个所述历史日期的目标调差任务用于指示对所述第一目标数据源中属于该历史日期的数据进行所述第一指定操作;并行执行所有所述历史日期对应的目标调差任务。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块的名称在某种情况下并不构成对该模块本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
Claims (12)
1.一种任务处理方法,其特征在于,包括:
获取在预设周期内创建的调差任务,其中,各所述调差任务用于指示对第一目标数据源中满足筛选条件的数据进行第一指定操作,所述筛选条件包括指定历史日期集合,所述指定历史日期集合包括至少一个历史日期;
针对各所述调差任务,根据该调差任务创建与该调差任务对应的筛选条件中的指定历史日期集合中的每个历史日期的目标调差任务,每个所述历史日期的目标调差任务用于指示对所述第一目标数据源中属于该历史日期的数据进行所述第一指定操作;
并行执行所有所述历史日期对应的目标调差任务。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
响应获取到调差信息,根据所述调差信息创建与所述调差信息对应的调差任务,其中,所述调差信息包括调差场景、筛选条件和目标调差类型,所述调差场景用于确定第一目标数据源,所述筛选条件用于确定第一目标数据源中属于指定历史日期集合中的历史日期的数据,所述目标调差类型用于确定第一指定操作。
3.根据权利要求2所述的方法,其特征在于,所述响应获取到调差信息,根据所述调差信息创建与所述调差信息对应的调差任务,包括:
响应获取到调差信息,确定与所述目标调差类型所对应的目标调差任务模板实例;
根据所述调差场景、所述筛选条件和所述目标调差任务模板实例,创建与所述调差信息对应的调差任务。
4.根据权利要求2所述的方法,其特征在于,所述调差任务唯一对应一第一目标数据源。
5.根据权利要求3所述的方法,其特征在于,所述响应获取到调差信息,确定与所述目标调差类型所对应的目标调差任务模板实例,包括:
响应获取到调差信息,获取预设的调差类型与调差任务模板实例的关联关系;
根据所述关联关系,确定与所述目标调差类型对应的目标调差任务模板实例。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在执行所述历史日期对应的目标调差任务后,生成并执行与所述目标调差任务相关联的衍生任务。
7.根据权利要求1所述的方法,其特征在于,通过以下方式执行每个所述历史日期对应的目标调差任务:
对所述历史日期对应的目标调差任务按照优先级规则进行排序,得到排序结果;
依次处理所述排序结果中的目标调差任务。
8.根据权利要求7所述的方法,其特征在于,所述方法还包括:
响应第一配置操作,生成优先级规则,其中,所述优先级规则用于指示不同属性之间的优先级顺序。
9.根据权利要求1所述的方法,其特征在于,所述第一目标数据源包括多个业务线的数据,所述方法还包括:
响应针对所述业务线的第二配置操作,生成针对所述业务线的数据访问管理规则;
其中,所述第二配置操作用于指示在执行所述目标调差任务时是否允许对所述业务线的数据进行指定操作,且在所述第二配置操作指示不允许对所述业务线的数据进行指定操作的情况下,在执行所述目标调差任务的过程中不对所述业务线的数据进行访问和指定操作,所述指定操作包括第一指定操作。
10.一种任务处理装置,其特征在于,包括:
获取模块,用于获取在预设周期内创建的调差任务,其中,各所述调差任务用于指示对第一目标数据源中满足筛选条件的数据进行第一指定操作,所述筛选条件包括指定历史日期集合,所述指定历史日期集合包括至少一个历史日期;
第一创建模块,用于针对各所述调差任务,根据该调差任务创建与该调差任务对应的筛选条件中的指定历史日期集合中的每个历史日期的目标调差任务,每个所述历史日期的目标调差任务用于指示对所述第一目标数据源中属于该历史日期的数据进行所述第一指定操作;
任务执行模块,用于并行执行所有所述历史日期对应的目标调差任务。
11.一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理装置执行时实现权利要求1-9中任一项所述方法的步骤。
12.一种电子设备,其特征在于,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现权利要求1-9中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310201730.7A CN116149825A (zh) | 2023-03-01 | 2023-03-01 | 任务处理方法、装置、介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310201730.7A CN116149825A (zh) | 2023-03-01 | 2023-03-01 | 任务处理方法、装置、介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116149825A true CN116149825A (zh) | 2023-05-23 |
Family
ID=86361807
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310201730.7A Pending CN116149825A (zh) | 2023-03-01 | 2023-03-01 | 任务处理方法、装置、介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116149825A (zh) |
-
2023
- 2023-03-01 CN CN202310201730.7A patent/CN116149825A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111581291A (zh) | 数据处理方法、装置、电子设备及可读介质 | |
CN110851139B (zh) | 用于检查代码的方法、装置和电子设备 | |
CN110960855B (zh) | 一种通信协议代码更新方法、装置、电子设备及存储介质 | |
CN112395253B (zh) | 索引文件生成方法、终端设备、电子设备及介质 | |
CN111861225A (zh) | 一种任务分配方法、装置、电子设备及存储介质 | |
CN111625291B (zh) | 数据处理模型自动迭代方法、装置及电子设备 | |
CN111460432B (zh) | 在线文档权限控制方法、装置、设备及计算机可读介质 | |
CN112884376A (zh) | 工单处理方法、装置、电子设备及计算机可读存储介质 | |
CN116308171A (zh) | 信息处理方法、装置、电子设备和存储介质 | |
CN116149825A (zh) | 任务处理方法、装置、介质及电子设备 | |
CN114328700A (zh) | 医疗数据etl任务中的数据核查方法及装置 | |
CN111625326B (zh) | 任务管线执行方法、装置及电子设备 | |
CN114611483A (zh) | 核电dcs控制逻辑图和功能图关联自动升版的方法及装置 | |
CN111240657A (zh) | 用于生成sdk的方法、装置和电子设备 | |
CN111767351A (zh) | 确定搬运机器人停车点的方法和装置 | |
CN111897827B (zh) | 用于数据仓库的数据更新方法、系统及电子设备 | |
CN118094680A (zh) | 内容生成方法、装置、介质、电子设备及程序产品 | |
CN117687923A (zh) | 测试用例管理方法、装置、可读介质及电子设备 | |
CN116414359A (zh) | 卡片布局方法、装置、介质及电子设备 | |
CN116880898A (zh) | 文档处理方法、装置、可读介质及电子设备 | |
CN116881285A (zh) | 数据库的数据处理方法、装置、介质及电子设备 | |
CN117689431A (zh) | 基于平行结转的成本核算方法、系统、设备及储存介质 | |
CN116628045A (zh) | 任务更新方法、装置、介质及电子设备 | |
CN117493217A (zh) | 测试用例生成方法、装置、可读介质及电子设备 | |
CN118092733A (zh) | 数据处理方法、装置、电子设备、存储介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |