CN111723088B - 一种推送汇总层表的方法和装置 - Google Patents

一种推送汇总层表的方法和装置 Download PDF

Info

Publication number
CN111723088B
CN111723088B CN201910212393.5A CN201910212393A CN111723088B CN 111723088 B CN111723088 B CN 111723088B CN 201910212393 A CN201910212393 A CN 201910212393A CN 111723088 B CN111723088 B CN 111723088B
Authority
CN
China
Prior art keywords
task
script
summary layer
layer table
pushed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910212393.5A
Other languages
English (en)
Other versions
CN111723088A (zh
Inventor
沙宏志
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Wodong Tianjun Information Technology Co Ltd
Original Assignee
Beijing Wodong Tianjun Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Wodong Tianjun Information Technology Co Ltd filed Critical Beijing Wodong Tianjun Information Technology Co Ltd
Priority to CN201910212393.5A priority Critical patent/CN111723088B/zh
Publication of CN111723088A publication Critical patent/CN111723088A/zh
Application granted granted Critical
Publication of CN111723088B publication Critical patent/CN111723088B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明公开了一种推送汇总层表的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:获取新增任务脚本并根据关键字解析所述新增任务脚本,得到关键字的对应字段;将所述关键字及其对应字段的对应关系作为所述新增任务脚本的脚本明细;若所述新增任务脚本的脚本明细与现有汇总层任务的脚本明细均匹配,则推送根据所述现有汇总层任务生成的汇总层表;否则,根据由新增任务脚本和现有汇总层任务确定的推荐指数,推送汇总层表。该实施方式根据解析新增任务脚本的结果结合现有汇总层任务,向新增任务的创建者推送汇总层表的技术手段,所以克服了对底层表重复加工带来的资源递增式消耗的问题,进而达到减少计算资源的消耗的技术效果。

Description

一种推送汇总层表的方法和装置
技术领域
本发明涉及计算机技术领域,尤其涉及一种推送汇总层表的方法和装置。
背景技术
在现阶段各类数据应用系统或数据仓库中会存在着成千上万个库表,一般都会包括着含有明细数据的底层表(如日志表等),及基于底层表进行加工计算清理得到的汇总层表。任务创建者不知道可以选择那些现有的汇总层表直接计算,只能逐个核对汇总层检查任务脚本内容,或直接创建生成新的汇总层表的任务。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
1.通过人工手动方式检测新任务脚本是否与现有汇总层任务一致,效率极低;
2.由于任务创建者的不同会出现对底层表重复加工汇总的情况,使得数据量逐渐递增,消耗的资源量更会成几何式递增,同时也增加了各项成本。
发明内容
有鉴于此,本发明实施例提供一种向任务创建者推送汇总层表的方法和装置,能够解决对底层表重复加工带来的资源递增式消耗的问题,同时也解决了通过人工手动方式检测新任务脚本是否与现有汇总层任务一致,带来的效率低下的问题。
为实现上述目的,根据本发明实施例的一个方面,提供了一种推送汇总层表的方法,包括:获取新增任务脚本并根据关键字解析所述新增任务脚本,得到关键字的对应字段;将所述关键字及其对应字段的对应关系作为所述新增任务脚本的脚本明细;若所述新增任务脚本的脚本明细与现有汇总层任务的脚本明细均匹配,则推送根据所述现有汇总层任务生成的汇总层表;否则,根据由新增任务脚本和现有汇总层任务确定的推荐指数,推送汇总层表。
可选地,所述根据由新增任务脚本和现有汇总层任务确定的推荐指数,推送汇总层表,包括:将现有汇总层任务作为待匹配任务,并根据待匹配任务生成待推送汇总层表;根据所述新增任务脚本的脚本明细与待匹配任务的脚本明细,得到待推送汇总层表的关联指数;根据所述待推送汇总层表的被调用次数,确定所述待推送汇总层表的下游支持任务指数;将所述关联指数与所述下游支持任务指数的几何平均值,作为待推送汇总层表的推荐指数;按照所述推荐指数的降序,推送所述待推送汇总层表。
可选地,所述根据所述新增任务脚本的脚本明细与待匹配任务的脚本明细,得到待推送汇总层表的关联指数,包括:根据所述新增任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的新增任务字段集合;根据所述待匹配任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的待匹配任务字段集合;基于配置的计值规则,根据所述新增任务字段集合和所述待匹配任务字段集合,确定待推送汇总层表的关联指数。
可选地,所述根据所述待推送汇总层表的被调用次数,确定所述待推送汇总层表的下游支持任务指数,包括:获取待推送汇总层表的被调用次数;针对每一个待推送汇总层表:将该待推送汇总层表的被调用次数与所有待推送汇总层表的平均被调用次数之比,作为该待推送汇总层表的下游支持任务指数。
可选地,所述将现有汇总层任务作为待匹配任务,包括:根据新增任务脚本,得到所述新增任务脚本中使用的底层表;根据所述底层表,从现有汇总层任务中筛选出使用所述底层表的现有汇总层任务;将筛选出的现有汇总层任务作为待匹配任务。
可选地,获取新增任务脚本并根据关键字解析新增任务脚本,得到关键字对应的字段之后,还包括:解析新增任务脚本,得到所述新增任务脚本中使用的底层表;确定现有汇总层任务中使用过所述底层表;若现有汇总层任务中未使用过所述底层表,则结束推送汇总层表流程,执行新增任务脚本。
根据本发明实施例的一个方面,提供了一种推送汇总层表的装置,包括:解析模块,用于:获取新增任务脚本并根据关键字解析所述新增任务脚本,得到关键字的对应字段;生成脚本明细模块,用于:将所述关键字及其对应字段的对应关系作为所述新增任务脚本的脚本明细;推送模块,用于:若所述新增任务脚本的脚本明细与现有汇总层任务的脚本明细均匹配,则推送根据所述现有汇总层任务生成的汇总层表;否则,根据由新增任务脚本和现有汇总层任务确定的推荐指数,推送汇总层表。
可选地,所述推送模块还用于:将现有汇总层任务作为待匹配任务,并根据待匹配任务生成待推送汇总层表;根据所述新增任务脚本的脚本明细与待匹配任务的脚本明细,得到待推送汇总层表的关联指数;根据所述待推送汇总层表的被调用次数,确定所述待推送汇总层表的下游支持任务指数;将所述关联指数与所述下游支持任务指数的几何平均值,作为待推送汇总层表的推荐指数;按照所述推荐指数的降序,推送所述待推送汇总层表。
可选地,所述推送模块还用于:根据所述新增任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的新增任务字段集合;根据所述待匹配任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的待匹配任务字段集合;基于配置的计值规则,根据所述新增任务字段集合和所述待匹配任务字段集合,确定待推送汇总层表的关联指数。
可选地,所述推送模块还用于:获取待推送汇总层表的被调用次数;针对每一个待推送汇总层表:将该待推送汇总层表的被调用次数与所有待推送汇总层表的平均被调用次数之比,作为该待推送汇总层表的下游支持任务指数。
可选地,所述推送模块还用于:根据新增任务脚本,得到所述新增任务脚本中使用的底层表;根据所述底层表,从现有汇总层任务中筛选出使用所述底层表的现有汇总层任务;将筛选出的现有汇总层任务作为待匹配任务。
可选地,所述装置还包括监控模块,用于:解析新增任务脚本,得到所述新增任务脚本中使用的底层表;确定现有汇总层任务中使用过所述底层表;若现有汇总层任务中未使用过所述底层表,则结束推送汇总层表的流程,执行新增任务脚本。
根据本发明实施例的一个方面,提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明实施例提供的推送汇总层表的方法。
根据本发明实施例的一个方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如本发明实施例提供的推送汇总层表的方法。
上述发明中的一个实施例具有如下优点或有益效果:因为采用解析新增任务脚本,根据解析后的结果结合现有汇总层任务,向新增任务的创建者推送汇总层表的技术手段,所以克服了对底层表重复加工带来的资源递增式消耗的问题,同时也解决了通过人工手动方式检测新任务脚本与现有汇总层任务是否一致,带来的效率低下的问题。进而减少计算资源的消耗,降低企业开支;同时实现了系统对使用了底层表任务的监控;提升监控效率,在执行新增任务脚本前便可以及时进行预警监控及调度的技术效果。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明实施例的推送汇总层表的方法的基本流程的示意图;
图2是根据本发明实施例的推送汇总层表的方法的优选流程的示意图;
图3是根据本发明实施例的推送汇总层表的装置的基本模块的示意图;
图4是本发明实施例可以应用于其中的示例性系统架构图;
图5是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
底层表(即底层数据表)指的是一些基础的明细数据,如针对流量数据,底层表记录的可能是:用户id、浏览器id、请求时间、访问页面、平台类型等,底层表中的数据量特别大,加工计算量大且耗时长;汇总层表指的是在底层表的明细数据基础上加工计算求得的结果表,如针对流量数据,汇总层表记录的可能是:平台类型、访问人数等,与底层表相比成倍的节省计算资源和效率。本发明中的任务,其实现的功能是由底层表生成汇总层表;现有汇总层任务指的是已经应用或执行的用于生成汇总层表的任务;新增任务脚本指的是任务创建者新编写的用于生成汇总表的脚本,并未执行。
由于任务创建者的不同会出现对底层数据表重复加工汇总的情况,当数据量逐渐递增时,所消耗的资源量更会成几何式递增,增加企业成本;同时任务创建者在新创建任务时,也不知道哪些有汇总层可以直接复用;这需要我们对这些重要底层表进行监控,通过增加监控装置实现任务的调度,从而减少计算资源的消耗,降低企业开支。目前暂无一种能在使用了底层表的任务执行前进行系统监控的技术,通常是库表负责人对于上传的任务脚本进行人工审核和调度,准确度不高;或者是通过任务的执行结果进行追查和修复。任务脚本可以理解成由底层表加工生成汇总表的代码语句目前只能底层表的负责人通过审核下游使用方的代码去看是不是和已有的汇总表有重复。
任务创建者不知道可以选择那些汇总表直接计算,只能逐个核对汇总层检查脚本内容,或直接创建底层表任务。其中汇总层包括大量的汇总层表,而汇总层表是由底层表加工而成的。
图1是根据本发明实施例的推送汇总层表的方法的基本流程的示意图;如图1所示,本发明实施例提供了一种推送汇总层表的方法,包括:
步骤S101.获取新增任务脚本并根据关键字解析所述新增任务脚本,得到关键字的对应字段;
步骤S102.将所述关键字及其对应字段的对应关系作为所述新增任务脚本的脚本明细;
步骤S103.若所述新增任务脚本的脚本明细与现有汇总层任务的脚本明细均匹配,则推送根据所述现有汇总层任务生成的汇总层表;否则,根据由新增任务脚本和现有汇总层任务确定的推荐指数,推送汇总层表。
在本发明实施例中关键字可以包括但不限于库表名称(table_name)、字段名(field_name)、条件(conditions)、其他(other)。other为空时其对应字段记为空(null)。
对于步骤S102中的将所述关键字及其对应字段的对应关系作为所述新增任务脚本的脚本明细,其具体例子如下:
新增任务脚本:
由上述脚本可得到新增任务脚本的脚本明细如下:
{[table_name]="gdm.gdm_app_wx_qq_log_mark",
[field_name]="dt,count(1),count(distinct visit_key)",
[conditions]="dt=sysdate(-1),target_ptag=’7001.1.1’",
[other]="group by dt"}。
其中,[table_name]为关键字key,"gdm.gdm_app_wx_qq_log_mark"为[table_name]的对应字段value,其他关键字的情况可依次类推,在此不加赘述。
本发明实施例因为采用解析新增任务脚本,根据解析后的结果结合现有汇总层任务,向新增任务的创建者推送汇总层表的技术手段,所以克服了对底层表重复加工带来的资源递增式消耗的问题,同时也解决了通过人工手动方式检测新任务脚本与现有汇总层任务是否一致,带来的效率低下的问题。进而减少计算资源的消耗,降低企业开支;同时实现了系统对使用了底层表任务的监控;提升监控效率,在执行新增任务脚本前便可以及时进行预警监控及调度的技术效果。
在本发明实施例的步骤S103中,所述根据由新增任务脚本和现有汇总层任务确定的推荐指数,推送汇总层表,包括:将现有汇总层任务作为待匹配任务,并根据待匹配任务生成待推送汇总层表;根据所述新增任务脚本的脚本明细与待匹配任务的脚本明细,得到待推送汇总层表的关联指数;根据所述待推送汇总层表的被调用次数,确定所述待推送汇总层表的下游支持任务指数;将所述关联指数与所述下游支持任务指数的几何平均值,作为待推送汇总层表的推荐指数;按照所述推荐指数的降序,推送所述待推送汇总层表。
基于上述实施例,本发明实施例的所述根据所述新增任务脚本的脚本明细与待匹配任务的脚本明细,得到待推送汇总层表的关联指数,包括:根据所述新增任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的新增任务字段集合;根据所述待匹配任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的待匹配任务字段集合;基于配置的计值规则,根据所述新增任务字段集合和所述待匹配任务字段集合,确定待推送汇总层表的关联指数。
具体地,由于一个任务脚本中包含多个关键字,所以要对每个关键字分别计算基于该关键字的关联指数,再将各关键字的关联指数之和作为待推送汇总层表的关联指数。
下面通过一个具体的例子说明基于配置的计值规则,根据所述新增任务字段集合和所述待匹配任务字段集合,确定待推送汇总层表的关联指数的过程。例如:
对于关键字key1,在新增任务脚本中的新增任务字段集合记为{new_key1},在待匹配任务中的待匹配任务字段集合记为{o_key1};
配置的计值规则(可根据具体情况更改配置)可以为:
1.若则关键字key1的关联指数index_key1值为0%;
2.若且{new_key}∩{key}≠{key},
且{new_key}∩{key}≠{new_key},则关键字key1的关联指数index_key1值为5%;
3.若{new_key}≠{key}且{new_key}∩{key}={key},
或{new_key}≠{key}且{new_key}∩{key}={new_key},则关键字key1的关联指数index_key1值为15%;
4.若{new_key}={key},则关键字key1的关联指数index_key1值为25%。
按照上述规则可计算出待匹配任务的脚本中其他关键字的关联指数,如:index_key2、index_key3、index_key4等。
则待推送汇总层表taskn的关联指数
taskn_index(Si)=index_key1+index_key2+index_key3+index_key4。
基于上述实施例,本发明实施例的所述根据所述待推送汇总层表的被调用次数,确定所述待推送汇总层表的下游支持任务指数,包括:获取待推送汇总层表的被调用次数;针对每一个待推送汇总层表:将该待推送汇总层表的被调用次数与所有待推送汇总层表的平均被调用次数之比,作为该待推送汇总层表的下游支持任务指数。
具体地,待推送汇总层表taskn的下游支持任务指数
taskn_index(Ti)=taskn_num*N/(task1_num+task2_num+…taskN_num);
其中,taskn_num表示待推送汇总层表taskn的被调用次数,N表示待推送汇总层表的数量。
基于上述实施例,本发明实施例的所述将现有汇总层任务作为待匹配任务,包括:根据新增任务脚本,得到所述新增任务脚本中使用的底层表;根据所述底层表,从现有汇总层任务中筛选出使用所述底层表的现有汇总层任务;将筛选出的现有汇总层任务作为待匹配任务。
在本发明实施例的步骤S101的获取新增任务脚本并根据关键字解析新增任务脚本,得到关键字对应的字段之后,还包括:解析新增任务脚本,得到所述新增任务脚本中使用的底层表;确定现有汇总层任务中使用过所述底层表;若现有汇总层任务中未使用过所述底层表,则结束推送汇总层表流程,执行新增任务脚本。
通过解析上传的脚本得出所使用的各类底层表,主要方式是遍历字段‘from’后的库表名称,并与已被用于生成汇总层表的底层表名进行匹配验证;如果未发现匹配值,说明未使用底层表,可以直接进行新增任务执行和计算;如果发现匹配值,说明使用了底层表,这时再执行新增任务可能会造成资源的浪费,需要进行后续推送流程为新增任务的创建者推送现有的汇总层表。
图2是根据本发明实施例的推送汇总层表的方法的优选流程的示意图;如图2所示,汇总了上述所有实施例的流程,在这里就不再作详细说明。本发明实施例通过扫描新创建底层表任务时上传的脚本(包括但不限于文本,jar包,zip文件等形式)来判断是否使用了既定的汇总层模型。通过装置的筛选和判断,为任务创建者提供高耦合度的汇总层模型,实现从脚本写入节点进行底层表控制和调度(即从汇总代码上传的节点就开始进行监控、系统自动识别,不耽误人工正常进度),减少计算资源的消耗。其中,汇总层模型即可以通用的汇总表发明的目的是通过自动识别减少底层表重复加工的情况。
以上推送的过程通常会占用5-10分钟时间,把任务创建者与脚本及计算后高耦合度的汇总表保存到Kafka的MQ内分布式消息系统中,存放3天内的实时数据,其中储存信息时长根据实际情况需要可以进行配置;可以通过邮件/短信/推送等方式对现有任务创建者进行告知,提示最终任务使用情况;向新增任务的创建这展示高耦合度汇总表的目的是减少任务创建者逐个检查已有汇总层任务脚本的工作。Kafka MQ是一个高吞吐量分布式消息系统。是由linkedin开源的消息中间件。
本发明实施例提供了一种推送汇总层表的装置300,包括:解析模块301,用于:获取新增任务脚本并根据关键字解析所述新增任务脚本,得到关键字的对应字段;生成脚本明细模块302,用于:将所述关键字及其对应字段的对应关系作为所述新增任务脚本的脚本明细;推送模块303,用于:若所述新增任务脚本的脚本明细与现有汇总层任务的脚本明细均匹配,则推送根据所述现有汇总层任务生成的汇总层表;否则,根据由新增任务脚本和现有汇总层任务确定的推荐指数,推送汇总层表。
本发明实施例中,所述推送模块303还用于:将现有汇总层任务作为待匹配任务,并根据待匹配任务生成待推送汇总层表;根据所述新增任务脚本的脚本明细与待匹配任务的脚本明细,得到待推送汇总层表的关联指数;根据所述待推送汇总层表的被调用次数,确定所述待推送汇总层表的下游支持任务指数;将所述关联指数与所述下游支持任务指数的几何平均值,作为待推送汇总层表的推荐指数;按照所述推荐指数的降序,推送所述待推送汇总层表。
本发明实施例中,所述推送模块303还用于:根据所述新增任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的新增任务字段集合;根据所述待匹配任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的待匹配任务字段集合;基于配置的计值规则,根据所述新增任务字段集合和所述待匹配任务字段集合,确定待推送汇总层表的关联指数。
本发明实施例中,所述推送模块303还用于:获取待推送汇总层表的被调用次数;针对每一个待推送汇总层表:将该待推送汇总层表的被调用次数与所有待推送汇总层表的平均被调用次数之比,作为该待推送汇总层表的下游支持任务指数。
本发明实施例中,所述推送模块303还用于:根据新增任务脚本,得到所述新增任务脚本中使用的底层表;根据所述底层表,从现有汇总层任务中筛选出使用所述底层表的现有汇总层任务;将筛选出的现有汇总层任务作为待匹配任务。
本发明实施例中,所述装置还包括监控模块,用于:解析新增任务脚本,得到所述新增任务脚本中使用的底层表;确定现有汇总层任务中使用过所述底层表;若现有汇总层任务中未使用过所述底层表,则结束推送汇总层表的流程,执行新增任务脚本。
图4示出了可以应用本发明实施例的推送汇总层表的方法或推送汇总层表的装置的示例性系统架构400。
如图4所示,系统架构400可以包括终端设备401、402、403,网络404和服务器405。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备401、402、403通过网络404与服务器405交互,以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备401、402、403可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器405可以是提供各种服务的服务器,例如对用户利用终端设备401、402、403所浏览的购物类网站提供支持的后台管理服务器。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果反馈给终端设备。
需要说明的是,本发明实施例所提供的推送汇总层表的方法一般由服务器405执行,相应地,推送汇总层表的装置一般设置于服务器405中。
应该理解,图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
根据本发明的实施例,本发明还提供了一种电子设备和一种计算机可读存储介质。
本发明实施例的一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明所提供的推送汇总层表的方法。
本发明实施例的一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明所提供的推送汇总层表的方法。
下面参考图5,其示出了适于用来实现本发明实施例的终端设备的计算机系统500的结构示意图。图5示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,计算机系统500包括中央处理单元(CPU)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有系统500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器,解析模块、生成脚本明细模块、推送模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,特征提取模块,还可以被描述为“用于解析任务脚本的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:获取新增任务脚本并根据关键字解析所述新增任务脚本,得到关键字的对应字段;将所述关键字及其对应字段的对应关系作为所述新增任务脚本的脚本明细;若所述新增任务脚本的脚本明细与现有汇总层任务的脚本明细均匹配,则推送根据所述现有汇总层任务生成的汇总层表;否则,根据由新增任务脚本和现有汇总层任务确定的推荐指数,推送汇总层表。
根据本发明实施例的技术方案,因为采用解析新增任务脚本,根据解析后的结果结合现有汇总层任务,向新增任务的创建者推送汇总层表的技术手段,所以克服了对底层表重复加工带来的资源递增式消耗的问题,同时也解决了通过人工手动方式检测新任务脚本与现有汇总层任务是否一致,带来的效率低下的问题。进而减少计算资源的消耗,降低企业开支;同时实现了系统对使用了底层表任务的监控;提升监控效率,在执行新增任务脚本前便可以及时进行预警监控及调度的技术效果。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (12)

1.一种推送汇总层表的方法,其特征在于,包括:
获取新增任务脚本并根据关键字解析所述新增任务脚本,得到关键字的对应字段;
将所述关键字及其对应字段的对应关系作为所述新增任务脚本的脚本明细;
若所述新增任务脚本的脚本明细与现有汇总层任务的脚本明细均匹配,则推送根据所述现有汇总层任务生成的汇总层表;否则,根据由新增任务脚本和现有汇总层任务确定的推荐指数,推送汇总层表,包括:将现有汇总层任务作为待匹配任务,并根据待匹配任务生成待推送汇总层表;根据所述新增任务脚本的脚本明细与待匹配任务的脚本明细,得到待推送汇总层表的关联指数;根据所述待推送汇总层表的被调用次数,确定所述待推送汇总层表的下游支持任务指数;将所述关联指数与所述下游支持任务指数的几何平均值,作为待推送汇总层表的推荐指数;按照所述推荐指数的降序,推送所述待推送汇总层表。
2.根据权利要求1所述的方法,其特征在于,所述根据所述新增任务脚本的脚本明细与待匹配任务的脚本明细,得到待推送汇总层表的关联指数,包括:
根据所述新增任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的新增任务字段集合;
根据所述待匹配任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的待匹配任务字段集合;
基于配置的计值规则,根据所述新增任务字段集合和所述待匹配任务字段集合,确定待推送汇总层表的关联指数。
3.根据权利要求1所述的方法,其特征在于,所述根据所述待推送汇总层表的被调用次数,确定所述待推送汇总层表的下游支持任务指数,包括:
获取待推送汇总层表的被调用次数;
针对每一个待推送汇总层表:将该待推送汇总层表的被调用次数与所有待推送汇总层表的平均被调用次数之比,作为该待推送汇总层表的下游支持任务指数。
4.根据权利要求1所述的方法,其特征在于,所述将现有汇总层任务作为待匹配任务,包括:
根据新增任务脚本,得到所述新增任务脚本中使用的底层表;
根据所述底层表,从现有汇总层任务中筛选出使用所述底层表的现有汇总层任务;
将筛选出的现有汇总层任务作为待匹配任务。
5.根据权利要求1所述的方法,其特征在于,获取新增任务脚本并根据关键字解析新增任务脚本,得到关键字对应的字段之后,还包括:
解析新增任务脚本,得到所述新增任务脚本中使用的底层表;
确定现有汇总层任务中使用过所述底层表;
若现有汇总层任务中未使用过所述底层表,则结束推送汇总层表流程,执行新增任务脚本。
6.一种推送汇总层表的装置,其特征在于,包括:
解析模块,用于:获取新增任务脚本并根据关键字解析所述新增任务脚本,得到关键字的对应字段;
生成脚本明细模块,用于:将所述关键字及其对应字段的对应关系作为所述新增任务脚本的脚本明细;
推送模块,用于:若所述新增任务脚本的脚本明细与现有汇总层任务的脚本明细均匹配,则推送根据所述现有汇总层任务生成的汇总层表;否则,根据由新增任务脚本和现有汇总层任务确定的推荐指数,推送汇总层表,包括:将现有汇总层任务作为待匹配任务,并根据待匹配任务生成待推送汇总层表;根据所述新增任务脚本的脚本明细与待匹配任务的脚本明细,得到待推送汇总层表的关联指数;根据所述待推送汇总层表的被调用次数,确定所述待推送汇总层表的下游支持任务指数;将所述关联指数与所述下游支持任务指数的几何平均值,作为待推送汇总层表的推荐指数;按照所述推荐指数的降序,推送所述待推送汇总层表。
7.根据权利要求6所述的装置,其特征在于,所述推送模块还用于:
根据所述新增任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的新增任务字段集合;
根据所述待匹配任务脚本的脚本明细,将同一关键字对应的字段组成该关键字的待匹配任务字段集合;
基于配置的计值规则,根据所述新增任务字段集合和所述待匹配任务字段集合,确定待推送汇总层表的关联指数。
8.根据权利要求6所述的装置,其特征在于,所述推送模块还用于:
获取待推送汇总层表的被调用次数;
针对每一个待推送汇总层表:将该待推送汇总层表的被调用次数与所有待推送汇总层表的平均被调用次数之比,作为该待推送汇总层表的下游支持任务指数。
9.根据权利要求6所述的装置,其特征在于,所述推送模块还用于:
根据新增任务脚本,得到所述新增任务脚本中使用的底层表;
根据所述底层表,从现有汇总层任务中筛选出使用所述底层表的现有汇总层任务;
将筛选出的现有汇总层任务作为待匹配任务。
10.根据权利要求6所述的装置,其特征在于,所述装置还包括监控模块,用于:
解析新增任务脚本,得到所述新增任务脚本中使用的底层表;
确定现有汇总层任务中使用过所述底层表;
若现有汇总层任务中未使用过所述底层表,则结束推送汇总层表的流程,执行新增任务脚本。
11.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-5中任一所述的方法。
CN201910212393.5A 2019-03-20 2019-03-20 一种推送汇总层表的方法和装置 Active CN111723088B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910212393.5A CN111723088B (zh) 2019-03-20 2019-03-20 一种推送汇总层表的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910212393.5A CN111723088B (zh) 2019-03-20 2019-03-20 一种推送汇总层表的方法和装置

Publications (2)

Publication Number Publication Date
CN111723088A CN111723088A (zh) 2020-09-29
CN111723088B true CN111723088B (zh) 2024-04-05

Family

ID=72562899

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910212393.5A Active CN111723088B (zh) 2019-03-20 2019-03-20 一种推送汇总层表的方法和装置

Country Status (1)

Country Link
CN (1) CN111723088B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2360286A1 (en) * 1999-01-13 2000-07-20 Ab Initio Software Corporation Parallelizing applications of script-driven tools
CA2497243A1 (en) * 2004-02-18 2005-08-19 Sap Ag Method, system and software application for real time data processing
CN101727505A (zh) * 2010-02-03 2010-06-09 中兴通讯股份有限公司 一种高效的数据处理方法及装置
CN103631969A (zh) * 2013-12-20 2014-03-12 北京中电普华信息技术有限公司 一种报表数据的生成方法及装置
CN104023039A (zh) * 2013-02-28 2014-09-03 国际商业机器公司 数据包传输方法和装置
CN104254852A (zh) * 2012-03-17 2014-12-31 海智网聚网络技术(北京)有限公司 用于混合信息查询的方法和系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050251812A1 (en) * 2004-04-27 2005-11-10 Convertabase, Inc. Data conversion system, method, and apparatus
CN103971036B (zh) * 2013-01-28 2017-03-01 深圳学无国界教育科技有限公司 页面栏位权限控制系统及方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2360286A1 (en) * 1999-01-13 2000-07-20 Ab Initio Software Corporation Parallelizing applications of script-driven tools
CA2497243A1 (en) * 2004-02-18 2005-08-19 Sap Ag Method, system and software application for real time data processing
CN101727505A (zh) * 2010-02-03 2010-06-09 中兴通讯股份有限公司 一种高效的数据处理方法及装置
CN104254852A (zh) * 2012-03-17 2014-12-31 海智网聚网络技术(北京)有限公司 用于混合信息查询的方法和系统
CN104023039A (zh) * 2013-02-28 2014-09-03 国际商业机器公司 数据包传输方法和装置
CN103631969A (zh) * 2013-12-20 2014-03-12 北京中电普华信息技术有限公司 一种报表数据的生成方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
发动机控制软件自动测试脚本技术研究;杨学敏;贾尚杰;姜志春;;测控技术(12);全文 *
基于Web的制造信息主动推荐服务研究;方辉;谭建荣;谭颖;冯毅雄;;计算机集成制造系统(11);全文 *

Also Published As

Publication number Publication date
CN111723088A (zh) 2020-09-29

Similar Documents

Publication Publication Date Title
CN107491488B (zh) 页面数据采集的方法和装置
CN107451109B (zh) 报表生成方法及系统
CN109446274B (zh) 大数据平台bi元数据管理的方法和装置
CN109522751B (zh) 访问权限控制方法、装置、电子设备及计算机可读介质
CN109783562B (zh) 一种业务处理方法和装置
CN110689268B (zh) 一种提取指标的方法和装置
CN111400061A (zh) 一种数据处理方法和系统
US10754830B2 (en) Activity information schema discovery and schema change detection and notification
CN110795315A (zh) 监控业务的方法和装置
CN113326305A (zh) 一种处理数据的方法和装置
CN113190558A (zh) 一种数据加工方法和系统
CN112016285B (zh) 物流信息的处理方法和处理系统
CN111723088B (zh) 一种推送汇总层表的方法和装置
CN114237765B (zh) 功能组件处理方法、装置、电子设备和介质
CN113127225A (zh) 一种数据处理任务的调度方法、装置和系统
CN116069725A (zh) 文件迁移方法、装置、设备、介质和程序产品
CN112799797B (zh) 一种任务管理的方法和装置
CN111786801B (zh) 一种基于数据流量进行计费的方法和装置
CN112783615B (zh) 一种数据处理任务的清理方法和装置
CN114138758A (zh) 一种基于多源系统的数据清洗合并方法、装置及可读介质
CN113672671A (zh) 一种实现数据加工的方法和装置
CN116503005A (zh) 流程动态修改方法、装置、系统及存储介质
CN113485763A (zh) 一种数据处理方法、装置、电子设备及计算机可读介质
CN113779017A (zh) 数据资产管理的方法和装置
CN111127077A (zh) 一种基于流计算的推荐方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant