CN111858542A - 数据处理方法、装置、设备及计算机可读存储介质 - Google Patents
数据处理方法、装置、设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN111858542A CN111858542A CN202010575445.8A CN202010575445A CN111858542A CN 111858542 A CN111858542 A CN 111858542A CN 202010575445 A CN202010575445 A CN 202010575445A CN 111858542 A CN111858542 A CN 111858542A
- Authority
- CN
- China
- Prior art keywords
- target
- data
- service data
- service
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 31
- 238000012545 processing Methods 0.000 claims abstract description 37
- 238000004590 computer program Methods 0.000 claims description 14
- 238000000034 method Methods 0.000 abstract description 16
- 238000005516 engineering process Methods 0.000 abstract description 4
- 238000004364 calculation method Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 238000013507 mapping Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请涉及数据处理和区块链技术,提供一种数据处理方法、装置、设备及计算机可读存储介质,该方法包括:获取目标业务规则和业务数据的采集时间段,其中,所述目标业务规则为待跑批的业务规则;根据所述目标业务规则的属性信息和所述采集时间段,确定目标业务数据集,所述目标业务数据集包括在业务环节结束时所采集得到的业务数据;确定处理所述目标业务数据集中的全部业务数据所需的总计算资源,并获取每个服务器的剩余计算资源;根据所述总计算资源和每个服务器的剩余计算资源,调用多个服务器基于所述目标业务规则跑批所述目标业务数据集中的业务数据,得到所述目标业务规则的数据预演结果。本申请能够提高数据预演的效率。
Description
技术领域
本申请涉及数据处理的技术领域,尤其涉及一种数据处理方法、装置、设备及计算机可读存储介质。
背景技术
目前,为了优化业务规则,需要对业务规则进行数据预演,即使用规则引擎基于优化后的业务规则对历史数据进行跑批,以模拟优化后的业务规则部署后能够产生的业务效果,传统的跑批方案通常是单台服务器根据业务需求调用Oracle数据库内的所有相关的历史数据进行业务规则跑批,然而需要预演的数据是非常庞大的,因此需要耗费较长的预演时间,数据预演的效率较低,无法快速的得到业务规则的跑批结果。因此,如何提高数据预演的效率是目前亟待解决的问题。
发明内容
本申请的主要目的在于提供一种数据处理方法、装置、设备及计算机可读存储介质,旨在提高数据预演的准确性和效率。
第一方面,本申请提供一种数据处理方法,包括:
获取目标业务规则和业务数据的采集时间段,其中,所述目标业务规则为待跑批的业务规则;
根据所述目标业务规则和所述采集时间段,确定目标业务数据集,所述目标业务数据集包括在业务环节结束时所采集的业务数据;
确定处理所述目标业务数据集中的全部业务数据所需的总计算资源,并获取每个服务器的剩余计算资源;
根据所述总计算资源和每个服务器的剩余计算资源,调用多个服务器基于所述目标业务规则同时跑批所述目标业务数据集中的业务数据,得到所述目标业务规则的数据预演结果。
第二方面,本申请还提供一种数据处理装置,所述数据处理装置包括:
获取模块,用于获取目标业务规则和业务数据的采集时间段,其中,所述目标业务规则为待跑批的业务规则;
确定模块,用于根据所述目标业务规则和所述采集时间段,确定目标业务数据集,所述目标业务数据集包括在业务环节结束时所采集的业务数据;
所述确定模块,还用于确定处理所述目标业务数据集中的全部业务数据所需的总计算资源,并获取每个服务器的剩余计算资源;
调用模块,用于根据所述总计算资源和每个服务器的剩余计算资源,调用多个服务器基于所述目标业务规则同时跑批所述目标业务数据集中的业务数据,得到所述目标业务规则的数据预演结果。
第三方面,本申请还提供一种计算机设备,所述计算机设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的计算机程序,其中所述计算机程序被所述处理器执行时,实现如上述的数据处理方法的步骤。
第四方面,本申请还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其中所述计算机程序被处理器执行时,实现如上述的数据处理方法的步骤。
本申请提供一种数据处理方法、装置、设备及计算机可读存储介质,本申请通过获取目标业务规则和业务数据的采集时间段,并根据该目标业务规则的属性信息和该采集时间点确定目标业务数据集,然后确定处理所述目标业务数据集中的全部业务数据所需的总计算资源,并获取每个服务器的剩余计算资源,并根据该总计算资源和每个服务器的剩余计算资源,调用多个服务器基于该目标业务规则同时跑批目标业务数据集中的业务数据,由于目标业务数据集中的业务数据是在业务环节结束时所采集得到的,可以避免业务环节的业务数据存在修改与覆盖的问题,同时通过目标业务数据集进行资源调度,使得多个服务器基于目标业务规则同时跑批目标业务数据集中的业务数据,可以减少跑批时间,极大的提高数据预演和效率。
附图说明
为了更清楚地说明本申请实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种数据处理方法的流程示意图;
图2为图1中的数据处理方法的子步骤流程示意图;
图3为本申请实施例提供的一种数据处理装置的示意性框图;
图4为图3中的数据处理装置的子模块的示意性框图;
图5为本申请实施例提供的一种计算机设备的结构示意框图。
本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
附图中所示的流程图仅是示例说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解、组合或部分合并,因此实际执行的顺序有可能根据实际情况改变。
本申请实施例提供一种数据处理方法、装置、计算机设备及计算机可读存储介质。其中,该数据处理方法可应用于终端设备中,该终端设备可以手机、平板电脑、笔记本电脑、台式电脑、个人数字助理和穿戴式设备等电子设备,该数据处理方法也可应用于服务器中,该服务器可以为单台的服务器,也可以为由多台服务器组成的服务器集群。
下面结合附图,对本申请的一些实施例作详细说明。在不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。
请参照图1,图1为本申请的实施例提供的一种数据处理方法的流程示意图。如图1所示,该数据处理方法包括步骤S101至步骤S103。
步骤S101、获取目标业务规则和业务数据的采集时间段,其中,所述目标业务规则为待跑批的业务规则。
其中,业务规则为按照业务逻辑编写的业务代码,用于在业务系统运行,以实现对应的业务效果,业务数据库中存储有大量的业务数据和业务数据的采集时间,在业务系统运行的过程中,当检测到业务环节结束时,立即采集该业务环节对应的业务数据,并获取该业务数据的采集时间,然后将采集到的业务数据以及业务数据的采集时间存储在数据库,便于后续获取。
在一些实施例中,获取目标业务规则和业务数据的采集时间段的方式具体为:显示数据预演配置页面;获取用户基于所述数据预演配置页面配置的目标业务规则和业务数据的采集时间段。其中,该数据预演配置页面包括规则上传图标和时间段选择控件;当检测到用户对该规则上传控件的触发操作时,显示规则上传弹窗,并获取用户在该规则上传弹窗中上传的目标业务规则;当检测到用户对该时间段选择控件的触发操作时,显示时间段选择弹窗,并获取用户在该时间段选择弹窗中选择的采集时间段;当检测到用户对该数据预演配置页面中的数据预演执行控件的触发操作时,获取用户选择的目标业务规则和业务数据的采集时间段,使得终端设备或者服务器可以调用多个服务器基于该目标业务规则跑批业务数据。通过显示数据预演配置页面,方便用户配置需要进行数据预演的业务规则以及业务数据的采集时间段。
在一些实施例中,当检测到用户对该时间段选择弹窗中的起始时间控件的触发操作时,显示起始时间选择页面,并获取用户在该起始时间选择页面选择的起始时间;当检测到用户对该时间段选择弹窗中的结束时间控件的触发操作时,显示结束时间选择页面,并获取用户在该结束时间选择页面选择的结束时间;根据该起始时间和该结束时间,确定采集时间段。例如,起始时间为2019年6月1日,结束时间为2019年9月31日,则采集时间段为2019年6月1日至2019年9月31日。
在一些实施例中,该数据预演配置页面还包括数据预演的执行方式选择控件,用户通过该执行方式选择控件可以调整数据预演的执行方式是实时执行,还是定时执行,若用户选择的数据预演的执行方式是实时执行,则当检测到用户对该数据预演配置页面中的数据预演执行控件的触发操作时,获取用户选择的目标业务规则和业务数据的采集时间段,使得终端设备或者服务器可以调用多个服务器基于该目标业务规则跑批业务数据;若用户选择的数据预演的执行方式是实时执行,则当检测到用户对该数据预演配置页面中的数据预演执行控件的触发操作时,基于用户选择的业务规则和业务数据的采集时间段生成数据预演任务,并将该数据预演任务写入数据预演任务队列。
在一些实施例中,获取目标业务规则和业务数据的采集时间段的方式具体还可以为:定时从数据预演任务队列中获取一个数据预演任务,并获取该数据预演任务对应的目标业务规则和业务数据的采集时间段。其中,数据预演任务队列中存储有至少一个数据预演任务,该数据预演任务和该数据预演任务对应的目标业务规则和业务数据的采集时间段是由用户配置的,在每完成一个数据预演任务后,继续从数据预演任务队列中获取一个数据预演任务,获取该数据预演任务对应的目标业务规则和业务数据的采集时间段。
步骤S102、根据所述目标业务规则的属性信息和所述采集时间段,确定目标业务数据集。
其中,目标业务数据集包括在业务环节结束时所采集得到的业务数据,该属性信息包括目标业务规则的业务类型和业务环节标识符,该业务环节标识符用于表示业务环节,该业务类型用于描述业务规则所需的业务数据涉及到的业务的类型,该业务环节标识符可以包括数字、大写字母和小写字母中的至少一项,业务类型包括承保业务、报案业务、查勘业务和理赔业务等。
在一些实施例中,从业务数据库中获取包含业务类型的全部业务数据,得到第一候选业务数据集;从第一候选业务数据集中获取与所述业务环节标识符对应的业务数据,得到第二候选业务数据集;从第二候选业务数据集中获取采集时间位于采集时间段内的业务数据,得到目标业务数据集。
步骤S103、确定处理所述目标业务数据集中的全部业务数据所需的总计算资源,并获取每个服务器的剩余计算资源。
在获取到目标业务规则和目标业务数据集之后,确定处理该目标业务数据集中的全部业务数据所需的总计算资源,并获取每个服务器的剩余计算资源。通过确定总计算资源和每个服务器的剩余计算资源,便于后续根据该总计算资源和每个服务器的剩余计算资源,调用多个服务器基于目标业务规则同时跑批目标业务数据集中的业务数据。
在一些实施例中,统计该目标业务数据集的总数据量,并获取预存的数据量与计算资源之间的映射关系表;查询该映射关系表,获取该目标业务数据集的总数据量对应的计算资源,并将该目标业务数据集的总数据量对应的计算资源作为处理目标业务数据集中的全部业务数据所需的总计算资源。其中,数据量与计算资源之间的映射关系表可基于实际情况进行设置,本申请对此不做具体限定。
在一些实施例中,获取处理单个业务数据所需的计算资源,并统计目标业务数据集中的业务数据的总个数;确定总个数与处理单个业务数据所需的计算资源的乘积,得到处理目标业务数据集中的全部业务数据所需的总计算资源;获取每个服务器的剩余计算资源。其中,计算资源包括CPU资源、内存资源、硬盘资源和网络资源。
步骤S104、根据所述总计算资源和每个服务器的剩余计算资源,调用多个服务器基于所述目标业务规则同时跑批所述目标业务数据集中的业务数据,得到所述目标业务规则的数据预演结果。
在确定处理目标业务数据集中的全部业务数据所需的总计算资源后,确定该总计算资源是否大于或等于预设阈值,若总计算资源大于或等于预设阈值,则根据总计算资源和每个服务器的剩余计算资源,调用多个服务器基于目标业务规则同时跑批目标业务数据集中的业务数据,得到目标业务规则的数据预演结果;若总计算资源小于预设阈值,则调用单台服务器基于该目标业务规则跑批目标业务数据集中的业务数据,得到目标业务规则的数据预演结果。其中,预设阈值可以基于单台服务器的计算资源进行设置,本申请对此不做具体限定。在待跑批的业务数据所需的计算资源较多时,通过多个服务器基于业务规则同时跑批业务数据,可以提高数据预演效率,而在待跑批的业务数据较少时,通过单台服务器基于业务规则跑批业务数据,可以在保证数据预演效率的同时,减少功耗。
在一些实施例中,将数据预演结果上传至区块链进行存储。其中,本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。通过将数据预演结果上传至区块链进行存储,可以保证数据预演结果的安全性。
在一些实施例中,如图2所示,步骤S104包括:子步骤S1041至子步骤S1043。
子步骤S1041,根据所述总计算资源和每个服务器的剩余计算资源,确定多个目标服务器。
其中,每个所述目标服务器的剩余计算资源之和大于所述总计算资源。
在一实施例中,根据每个服务器的剩余计算资源,确定候选服务器集,其中,该候选服务器集中的每个候选服务器的剩余计算资源大于或等于预设计算资源;根据每个候选服务器的剩余计算资源,对每个候选服务器进行排序,得到候选服务器队列;从候选服务器队列中选择候选服务器作为目标服务器,直到选择得到的多个目标服务器的剩余计算资源之和大于总计算资源,每个候选服务器仅选择一次。其中,预设计算资源可以基于实际情况进行设置,本申请对此不做具体限定。通过去除剩余计算资源较少的服务器,而从剩余计算资源较多的服务器中选择目标服务器,可以提高数据预演的效率。
其中,剩余计算资源越多的候选服务器在候选服务器队列中的排序越靠前,而剩余计算资源越少的候选服务器在候选服务器队列中的排序越靠后,或者剩余计算资源越多的候选服务器在候选服务器队列中的排序越靠后,而剩余计算资源越少的候选服务器在候选服务器队列中的排序越靠前。
子步骤S1042、将所述目标业务数据集中的业务数据分配给每个所述目标服务器,得到每个目标服务器的待跑批的业务数据子集。
在一实施例中,确定目标服务器的数量,并确定目标业务数据集中的业务数据的总数量;根据目标服务器的数量和总数量,确定每个目标服务器的待跑批的业务数据数量,其中,每个目标服务器的待跑批的业务数据数量之和等于该总数量;按照每个目标服务器的待跑批的业务数据数量,将目标业务数据集中的业务数据分配给每个目标服务器。通过目标服务器的数量和总数量可以快速的确定每个目标服务器的待跑批的业务数据数量。
在一些实施例中,根据目标服务器的数量和总数量,确定每个目标服务器的待跑批的业务数据数量的方式具体为:根据目标服务器的数量和总数量,确定平均业务数据数量;根据每个目标服务器的剩余计算资源,确定每个目标服务器能够处理的业务数据的数量;若每个目标服务器能够处理的业务数据的数量均大于或等于该平均业务数据数量,则将该平均业务数据数量作为每个目标服务器的待跑批的业务数据数量。通过平均的将目标业务数据集中的业务数据分配给每个目标服务器,可以提高数据预演的效率。
在一些实施例中,若存在至少一个目标服务器能够处理的业务数据的数量小于该平均业务数据数量,则根据每个目标服务器能够处理的业务数据的数量和该总数量,确定每个目标服务器的待跑批的业务数据数量,使得每个目标服务器的待跑批的业务数据数量之和等于该总数量。
子步骤S1043、调用每个所述目标服务器基于所述目标业务规则同时跑批各自对应的所述业务数据子集中的业务数据,得到所述目标业务规则的数据预演结果。
在一些实施例中,确定目标业务数据集中的业务数据的总数量;根据每个目标服务器的剩余计算资源和总数量,确定每个目标服务器的待跑批的业务数据数量,其中,每个目标服务器的待跑批的业务数据数量之和等于总数量;按照每个目标服务器的待跑批的业务数据数量,将目标业务数据集中的业务数据分配给每个目标服务器。
在一些实施例中,根据每个目标服务器的剩余计算资源和总数量,确定每个目标服务器的待跑批的业务数据数量的方式具体为:获取处理单个业务数据所需的计算资源;根据每个目标服务器的剩余计算资源和处理单个业务数据所需的计算资源,确定每个目标服务器能够跑批的业务数据的最大数量;根据总数量和每个目标服务器能够跑批的业务数据的最大数量,确定每个目标服务器的待跑批的业务数据数量。通过每个目标服务器能够跑批的业务数据的最大数量和总数量,可以较为均衡的将目标业务数据集中的业务数据分配给每个目标服务器,能够提高数据预演效率。
具体地,随机的选择一个目标服务器,并将选择的目标服务器能够跑批的业务数据的最大数量作为该目标服务器的待跑批的业务数据数量,然后确定待分配的业务数据的数量,并再次随机的选择一个目标服务器,且将选择的目标服务器能够跑批的业务数据的最大数量作为该目标服务器的待跑批的业务数据数量,当仅剩一个目标服务器未选择时,将剩余的待分配的业务数据的数量作为最后一个目标服务器的待跑批的业务数据数量。
例如,总数量为100,目标服务器分别为服务器A、服务器B和服务器C,且服务器A、服务器B和服务器C能够跑批的业务数据的最大数量分别为45、40和30,则服务器A、服务器B和服务器C的待跑批的业务数据数量分别为45、40和15,或者服务器A、服务器B和服务器C的待跑批的业务数据数量分别为30、40和30。
上述实施例提供的数据处理方法,通过获取目标业务规则和业务数据的采集时间段,并根据该目标业务规则的属性信息和该采集时间点确定目标业务数据集,然后确定处理所述目标业务数据集中的全部业务数据所需的总计算资源,并获取每个服务器的剩余计算资源,并根据该总计算资源和每个服务器的剩余计算资源,调用多个服务器基于该目标业务规则同时跑批目标业务数据集中的业务数据,由于目标业务数据集中的业务数据是在业务环节结束时所采集得到的,可以避免业务环节的业务数据存在修改与覆盖的问题,同时通过目标业务数据集进行资源调度,使得多个服务器基于目标业务规则同时跑批目标业务数据集中的业务数据,可以减少跑批时间,极大的提高数据预演和效率。
请参照图3,图3为本申请实施例提供的一种数据处理装置的示意性框图。
如图3所示,该数据处理装置200包括:获取模块201、确定模块202和调用模块203,其中:
所述获取模块201,用于获取目标业务规则和业务数据的采集时间段,其中,所述目标业务规则为待跑批的业务规则;
所述确定模块202,用于根据所述目标业务规则的属性信息和所述采集时间段,确定目标业务数据集,所述目标业务数据集包括在业务环节结束时所采集的业务数据;
所述确定模块202,还用于确定处理所述目标业务数据集中的全部业务数据所需的总计算资源,并获取每个服务器的剩余计算资源;
所述调用模块203,用于根据所述总计算资源和每个服务器的剩余计算资源,调用多个服务器基于所述目标业务规则同时跑批所述目标业务数据集中的业务数据,得到所述目标业务规则的数据预演结果。
在一些实施例中,所述确定模块202,还用于:
从业务数据库中获取包含所述业务类型的全部业务数据,得到第一候选业务数据集;
从所述第一候选业务数据集中获取与所述业务环节标识符对应的业务数据,得到第二候选业务数据集;
从所述第二候选业务数据集中获取采集时间位于所述采集时间段内的业务数据,得到目标业务数据集。
在一些实施例中,如图4所示,所述调用模块203包括:
确定子模块2031,用于根据所述总计算资源和每个服务器的剩余计算资源,确定多个目标服务器,其中,每个所述目标服务器的剩余计算资源之和大于所述总计算资源;
分配子模块2032,用于将所述目标业务数据集中的业务数据分配给每个所述目标服务器,得到每个目标服务器的待跑批的业务数据子集;
调用子模块2033,用于调用每个所述目标服务器基于所述目标业务规则同时跑批各自对应的所述业务数据子集中的业务数据,得到所述目标业务规则的数据预演结果。
在一些实施例中,所述分配子模块2032,还用于:
确定所述目标服务器的数量,并确定所述目标业务数据集中的业务数据的总数量;
根据所述目标服务器的数量和所述总数量,确定每个所述目标服务器的待跑批的业务数据数量,其中,每个所述目标服务器的待跑批的业务数据数量之和等于所述总数量;
按照每个所述目标服务器的待跑批的业务数据数量,将所述目标业务数据集中的业务数据分配给每个所述目标服务器。
在一些实施例中,所述分配子模块2032,还用于:
确定所述目标服务器的数量,并确定所述目标业务数据集中的业务数据的总数量;
根据所述目标服务器的数量和所述总数量,确定每个所述目标服务器的待跑批的业务数据数量,其中,每个所述目标服务器的待跑批的业务数据数量之和等于所述总数量;
按照每个所述目标服务器的待跑批的业务数据数量,将所述目标业务数据集中的业务数据分配给每个所述目标服务器。
在一些实施例中,所述分配子模块2032,还用于:
确定所述目标业务数据集中的业务数据的总数量;
根据每个所述目标服务器的剩余计算资源和所述总数量,确定每个所述目标服务器的待跑批的业务数据数量,其中,每个所述目标服务器的待跑批的业务数据数量之和等于所述总数量;
按照每个所述目标服务器的待跑批的业务数据数量,将所述目标业务数据集中的业务数据分配给每个所述目标服务器。
在一些实施例中,所述确定子模块2031,还用于:
获取处理单个业务数据所需的计算资源;
根据每个所述目标服务器的剩余计算资源和处理单个业务数据所需的计算资源,确定每个所述目标服务器能够跑批的业务数据的最大数量;
根据所述总数量和每个所述目标服务器能够跑批的业务数据的最大数量,确定每个所述目标服务器的待跑批的业务数据数量。
在一些实施例中,所述数据处理装置200还包括:
显示装置,用于显示数据预演配置页面;
所述获取模块201,还用于获取用户基于所述数据预演配置页面配置的目标业务规则和业务数据的采集时间段。
需要说明的是,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的装置和各模块及单元的具体工作过程,可以参考前述数据处理方法实施例中的对应过程,在此不再赘述。
上述实施例提供的装置可以实现为一种计算机程序的形式,该计算机程序可以在如图5所示的计算机设备上运行。
请参阅图5,图5为本申请实施例提供的一种计算机设备的结构示意性框图。该计算机设备可以为服务器或终端。
如图5所示,该计算机设备包括通过系统总线连接的处理器、存储器和网络接口,其中,存储器可以包括非易失性存储介质和内存储器。
非易失性存储介质可存储操作系统和计算机程序。该计算机程序包括程序指令,该程序指令被执行时,可使得处理器执行任意一种数据处理方法。
处理器用于提供计算和控制能力,支撑整个计算机设备的运行。
内存储器为非易失性存储介质中的计算机程序的运行提供环境,该计算机程序被处理器执行时,可使得处理器执行任意一种数据处理方法。
该网络接口用于进行网络通信,如发送分配的任务等。本领域技术人员可以理解,图5中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
应当理解的是,处理器可以是中央处理单元(Central Processing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
其中,在一个实施例中,所述处理器用于运行存储在存储器中的计算机程序,以实现如下步骤:
获取目标业务规则和业务数据的采集时间段,其中,所述目标业务规则为待跑批的业务规则;
根据所述目标业务规则的属性信息和所述采集时间段,确定目标业务数据集,所述目标业务数据集包括在业务环节结束时所采集得到的业务数据;
确定处理所述目标业务数据集中的全部业务数据所需的总计算资源,并获取每个服务器的剩余计算资源;
根据所述总计算资源和每个服务器的剩余计算资源,调用多个服务器基于所述目标业务规则同时跑批所述目标业务数据集中的业务数据,得到所述目标业务规则的数据预演结果。
在一个实施例中,所述属性信息包括业务类型和业务环节标识符;所述处理器在实现根据所述目标业务规则的属性信息和所述采集时间段,确定目标业务数据集时,用于实现:
从业务数据库中获取包含所述业务类型的全部业务数据,得到第一候选业务数据集;
从所述第一候选业务数据集中获取与所述业务环节标识符对应的业务数据,得到第二候选业务数据集;
从所述第二候选业务数据集中获取采集时间位于所述采集时间段内的业务数据,得到目标业务数据集。
在一个实施例中,所述处理器在实现根据所述总计算资源和每个服务器的剩余计算资源,调用多个服务器基于所述目标业务规则同时跑批所述目标业务数据集中的业务数据,得到所述目标业务规则的数据预演结果时,用于实现:
根据所述总计算资源和每个服务器的剩余计算资源,确定多个目标服务器,其中,每个所述目标服务器的剩余计算资源之和大于所述总计算资源;
将所述目标业务数据集中的业务数据分配给每个所述目标服务器,得到每个目标服务器的待跑批的业务数据子集;
调用每个所述目标服务器基于所述目标业务规则同时跑批各自对应的所述业务数据子集中的业务数据,得到所述目标业务规则的数据预演结果。
在一个实施例中,所述处理器在实现将所述目标业务数据集中的业务数据分配给每个所述目标服务器,得到每个目标服务器的待跑批的业务数据子集时,用于实现:
确定所述目标服务器的数量,并确定所述目标业务数据集中的业务数据的总数量;
根据所述目标服务器的数量和所述总数量,确定每个所述目标服务器的待跑批的业务数据数量,其中,每个所述目标服务器的待跑批的业务数据数量之和等于所述总数量;
按照每个所述目标服务器的待跑批的业务数据数量,将所述目标业务数据集中的业务数据分配给每个所述目标服务器。
在一个实施例中,所述处理器在实现将所述目标业务数据集中的业务数据分配给每个所述目标服务器,得到每个目标服务器的待跑批的业务数据子集时,用于实现:
确定所述目标业务数据集中的业务数据的总数量;
根据每个所述目标服务器的剩余计算资源和所述总数量,确定每个所述目标服务器的待跑批的业务数据数量,其中,每个所述目标服务器的待跑批的业务数据数量之和等于所述总数量;
按照每个所述目标服务器的待跑批的业务数据数量,将所述目标业务数据集中的业务数据分配给每个所述目标服务器。
在一个实施例中,所述处理器在实现根据每个所述目标服务器的剩余计算资源和所述总数量,确定每个所述目标服务器的待跑批的业务数据数量时,用于实现:
获取处理单个业务数据所需的计算资源;
根据每个所述目标服务器的剩余计算资源和处理单个业务数据所需的计算资源,确定每个所述目标服务器能够跑批的业务数据的最大数量;
根据所述总数量和每个所述目标服务器能够跑批的业务数据的最大数量,确定每个所述目标服务器的待跑批的业务数据数量。
在一实施例中,所述处理器在实现获取目标业务规则和业务数据的采集时间段时,用于实现:
显示数据预演配置页面;
获取用户基于所述数据预演配置页面配置的目标业务规则和业务数据的采集时间段。
需要说明的是,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的计算机设备的具体工作过程,可以参考前述数据处理方法实施例中的对应过程,在此不再赘述。
本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序中包括程序指令,所述程序指令被执行时所实现的方法可参照本申请数据处理方法的各个实施例。
其中,所述计算机可读存储介质可以是前述实施例所述的计算机设备的内部存储单元,例如所述计算机设备的硬盘或内存。所述计算机可读存储介质也可以是所述计算机设备的外部存储设备,例如所述计算机设备上配备的插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。
进一步地,所述计算机可读存储介质可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据区块链节点的使用所创建的数据等。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。以上所述,仅为本申请的具体实施例,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种数据处理方法,其特征在于,包括:
获取目标业务规则和业务数据的采集时间段,其中,所述目标业务规则为待跑批的业务规则;
根据所述目标业务规则的属性信息和所述采集时间段,确定目标业务数据集,所述目标业务数据集包括在业务环节结束时所采集得到的业务数据;
确定处理所述目标业务数据集中的全部业务数据所需的总计算资源,并获取每个服务器的剩余计算资源;
根据所述总计算资源和每个服务器的剩余计算资源,调用多个服务器基于所述目标业务规则同时跑批所述目标业务数据集中的业务数据,得到所述目标业务规则的数据预演结果。
2.根据权利要求1所述的数据处理方法,其特征在于,所述属性信息包括业务类型和业务环节标识符;所述根据所述目标业务规则的属性信息和所述采集时间段,确定目标业务数据集,包括:
从业务数据库中获取包含所述业务类型的全部业务数据,得到第一候选业务数据集;
从所述第一候选业务数据集中获取与所述业务环节标识符对应的业务数据,得到第二候选业务数据集;
从所述第二候选业务数据集中获取采集时间位于所述采集时间段内的业务数据,得到目标业务数据集。
3.根据权利要求1所述的数据处理方法,其特征在于,所述根据所述总计算资源和每个服务器的剩余计算资源,调用多个服务器基于所述目标业务规则同时跑批所述目标业务数据集中的业务数据,得到所述目标业务规则的数据预演结果,包括:
根据所述总计算资源和每个服务器的剩余计算资源,确定多个目标服务器,其中,每个所述目标服务器的剩余计算资源之和大于所述总计算资源;
将所述目标业务数据集中的业务数据分配给每个所述目标服务器,得到每个目标服务器的待跑批的业务数据子集;
调用每个所述目标服务器基于所述目标业务规则同时跑批各自对应的所述业务数据子集中的业务数据,得到所述目标业务规则的数据预演结果。
4.根据权利要求3所述的数据处理方法,其特征在于,所述将所述目标业务数据集中的业务数据分配给每个所述目标服务器,得到每个目标服务器的待跑批的业务数据子集,包括:
确定所述目标服务器的数量,并确定所述目标业务数据集中的业务数据的总数量;
根据所述目标服务器的数量和所述总数量,确定每个所述目标服务器的待跑批的业务数据数量,其中,每个所述目标服务器的待跑批的业务数据数量之和等于所述总数量;
按照每个所述目标服务器的待跑批的业务数据数量,将所述目标业务数据集中的业务数据分配给每个所述目标服务器。
5.根据权利要求3所述的数据处理方法,其特征在于,所述将所述目标业务数据集中的业务数据分配给每个所述目标服务器,得到每个目标服务器的待跑批的业务数据子集,包括:
确定所述目标业务数据集中的业务数据的总数量;
根据每个所述目标服务器的剩余计算资源和所述总数量,确定每个所述目标服务器的待跑批的业务数据数量,其中,每个所述目标服务器的待跑批的业务数据数量之和等于所述总数量;
按照每个所述目标服务器的待跑批的业务数据数量,将所述目标业务数据集中的业务数据分配给每个所述目标服务器。
6.根据权利要求5所述的数据处理方法,其特征在于,所述根据每个所述目标服务器的剩余计算资源和所述总数量,确定每个所述目标服务器的待跑批的业务数据数量,包括:
获取处理单个业务数据所需的计算资源;
根据每个所述目标服务器的剩余计算资源和处理单个业务数据所需的计算资源,确定每个所述目标服务器能够跑批的业务数据的最大数量;
根据所述总数量和每个所述目标服务器能够跑批的业务数据的最大数量,确定每个所述目标服务器的待跑批的业务数据数量。
7.根据权利要求1所述的数据处理方法,其特征在于,所述获取目标业务规则和业务数据的采集时间段,包括:
显示数据预演配置页面;
获取用户基于所述数据预演配置页面配置的目标业务规则和业务数据的采集时间段。
8.一种数据处理装置,其特征在于,所述数据处理装置包括:
获取模块,用于获取目标业务规则和业务数据的采集时间段,其中,所述目标业务规则为待跑批的业务规则;
确定模块,用于根据所述目标业务规则的属性信息和所述采集时间段,确定目标业务数据集,所述目标业务数据集包括在业务环节结束时所采集的业务数据;
所述确定模块,还用于确定处理所述目标业务数据集中的全部业务数据所需的总计算资源,并获取每个服务器的剩余计算资源;
调用模块,用于根据所述总计算资源和每个服务器的剩余计算资源,调用多个服务器基于所述目标业务规则同时跑批所述目标业务数据集中的业务数据,得到所述目标业务规则的数据预演结果。
9.一种计算机设备,其特征在于,所述计算机设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的计算机程序,其中所述计算机程序被所述处理器执行时,实现如权利要求1至7中任一项所述的数据处理方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,其中所述计算机程序被处理器执行时,实现如权利要求1至7中任一项所述的数据处理方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010575445.8A CN111858542B (zh) | 2020-06-22 | 2020-06-22 | 数据处理方法、装置、设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010575445.8A CN111858542B (zh) | 2020-06-22 | 2020-06-22 | 数据处理方法、装置、设备及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111858542A true CN111858542A (zh) | 2020-10-30 |
CN111858542B CN111858542B (zh) | 2023-10-27 |
Family
ID=72988029
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010575445.8A Active CN111858542B (zh) | 2020-06-22 | 2020-06-22 | 数据处理方法、装置、设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111858542B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106997386A (zh) * | 2017-03-28 | 2017-08-01 | 上海跬智信息技术有限公司 | 一种olap预计算模型、自动建模方法及自动建模系统 |
US20180285439A1 (en) * | 2017-03-28 | 2018-10-04 | Shanghai Kyligence Information Technology Co., Ltd | Olap pre-calculation model, automatic modeling method, and automatic modeling system |
CN110297840A (zh) * | 2019-05-22 | 2019-10-01 | 平安银行股份有限公司 | 基于规则引擎的数据处理方法、装置、设备及存储介质 |
CN110308946A (zh) * | 2019-05-21 | 2019-10-08 | 深圳壹账通智能科技有限公司 | 基于人工智能的跑批处理方法、设备、存储介质及装置 |
CN111078506A (zh) * | 2019-12-27 | 2020-04-28 | 中国银行股份有限公司 | 业务数据跑批任务监控方法及装置 |
-
2020
- 2020-06-22 CN CN202010575445.8A patent/CN111858542B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106997386A (zh) * | 2017-03-28 | 2017-08-01 | 上海跬智信息技术有限公司 | 一种olap预计算模型、自动建模方法及自动建模系统 |
US20180285439A1 (en) * | 2017-03-28 | 2018-10-04 | Shanghai Kyligence Information Technology Co., Ltd | Olap pre-calculation model, automatic modeling method, and automatic modeling system |
CN110308946A (zh) * | 2019-05-21 | 2019-10-08 | 深圳壹账通智能科技有限公司 | 基于人工智能的跑批处理方法、设备、存储介质及装置 |
CN110297840A (zh) * | 2019-05-22 | 2019-10-01 | 平安银行股份有限公司 | 基于规则引擎的数据处理方法、装置、设备及存储介质 |
CN111078506A (zh) * | 2019-12-27 | 2020-04-28 | 中国银行股份有限公司 | 业务数据跑批任务监控方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN111858542B (zh) | 2023-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107730196B (zh) | 项目进度管理方法及终端设备 | |
CN110633135A (zh) | 异步任务分配方法、装置、计算机设备及存储介质 | |
CN110708360A (zh) | 一种信息处理方法、系统和电子设备 | |
CN111160779A (zh) | 一种基于优先序的排班与考勤管理方法、系统以及设备 | |
CN110851987B (zh) | 基于加速比预测计算时长的方法、装置和存储介质 | |
CN108874520A (zh) | 计算方法及装置 | |
US20210357553A1 (en) | Apparatus and method for option data object performance prediction and modeling | |
CN107688959B (zh) | 断点名单的处理方法、存储介质和服务器 | |
CN112364005A (zh) | 数据同步方法、装置、计算机设备及存储介质 | |
CN110569114B (zh) | 一种业务处理方法、装置、设备及存储介质 | |
CN111858542A (zh) | 数据处理方法、装置、设备及计算机可读存储介质 | |
CN116647599A (zh) | 一种微服务的调度方法、装置、设备和存储介质 | |
CN108961071B (zh) | 自动预测组合业务收益的方法及终端设备 | |
CN110619541A (zh) | 应用程序管理方法、装置、计算机设备及存储介质 | |
CN113064801B (zh) | 数据埋点的方法、装置、可读存储介质及计算机设备 | |
CN112182107B (zh) | 名单数据获取方法、装置、计算机设备及存储介质 | |
CN112257111A (zh) | 动态数值脱敏方法、装置及存储介质 | |
CN113608847A (zh) | 任务处理方法、装置、设备及存储介质 | |
CN112836971A (zh) | 配额资源的确定方法和装置、电子设备和存储介质 | |
CN112685157A (zh) | 任务处理方法、装置、计算机设备及存储介质 | |
CN112835931A (zh) | 一种确定数据获取频率的方法及装置 | |
Kanagasabai et al. | Ec2bargainhunter: It's easy to hunt for cost savings on amazon ec2! | |
CN109587038A (zh) | 消息推送方法及装置 | |
CN111611123A (zh) | 数据处理方法、数据处理系统及设备 | |
CN112948720B (zh) | 基于用户行为的交互优化方法、装置及计算机设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |