CN117112594A - 权益系统达标作业检查方法、装置、设备及存储介质 - Google Patents
权益系统达标作业检查方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117112594A CN117112594A CN202310810200.2A CN202310810200A CN117112594A CN 117112594 A CN117112594 A CN 117112594A CN 202310810200 A CN202310810200 A CN 202310810200A CN 117112594 A CN117112594 A CN 117112594A
- Authority
- CN
- China
- Prior art keywords
- job
- data quantity
- data
- modification
- query statement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 51
- 230000004048 modification Effects 0.000 claims abstract description 92
- 238000012986 modification Methods 0.000 claims abstract description 92
- 230000002159 abnormal effect Effects 0.000 claims abstract description 42
- 238000006243 chemical reaction Methods 0.000 claims abstract description 26
- 230000005856 abnormality Effects 0.000 claims description 13
- 238000011835 investigation Methods 0.000 claims description 10
- 238000012795 verification Methods 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 7
- 238000007689 inspection Methods 0.000 claims description 2
- 238000007726 management method Methods 0.000 description 12
- 230000008901 benefit Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 6
- 230000000875 corresponding effect Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004883 computer application Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000013024 troubleshooting Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
- G06F16/2433—Query languages
- G06F16/2445—Data retrieval commands; View definitions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24553—Query execution of query operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0207—Discounts or incentives, e.g. coupons or rebates
- G06Q30/0208—Trade or exchange of goods or services in exchange for incentives or rewards
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0207—Discounts or incentives, e.g. coupons or rebates
- G06Q30/0212—Chance discounts or incentives
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0207—Discounts or incentives, e.g. coupons or rebates
- G06Q30/0226—Incentive systems for frequent usage, e.g. frequent flyer miles programs or point systems
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Finance (AREA)
- Accounting & Taxation (AREA)
- Strategic Management (AREA)
- Development Economics (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Entrepreneurship & Innovation (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Game Theory and Decision Science (AREA)
- Economics (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请实施例公开了一种权益系统达标作业检查方法、装置、设备及存储介质,其中方法包括:在检测到配置修改信息的情况下,通过规则转换引擎根据所述配置修改信息返回重写的查询语句;对所述重写的查询语句进行校验,若所述重写的查询语句校验通过,预发布一个第二作业,所述第二作业为第一作业的预发布版本,所述第一作业为正在使用的版本;根据所述第二作业跑出的数据量与所述第一作业跑出的数据量,确定本次修改是否异常,可以在创建作业时自动检查,提高修改发布作业的可靠性。
Description
技术领域
本申请涉及数据处理技术领域,尤其涉及一种权益系统达标作业检查方法、装置、设备及存储介质。
背景技术
目前权益系统的权益达标中心在创建作业时,向规则转换引擎提出请求,规则转换引擎会返回需要上传的查询语句,其触发条件就是业务人员在运营平台修改或新增了配置。
然而,上述过程中的配置修改存在一定风险,可能导致作业无法上线或者出现异常。可见,目前权益系统中还缺少对上线作业的保护机制。
发明内容
本申请实施例提供一种权益系统达标作业检查方法、装置、设备及存储介质,可以在创建作业时自动检查,提高修改发布作业的可靠性。
第一方面,本申请实施例提供了一种权益系统达标作业检查方法,所述方法包括:
在检测到配置修改信息的情况下,通过规则转换引擎根据所述配置修改信息返回重写的查询语句;
对所述重写的查询语句进行校验,若所述重写的查询语句校验通过,预发布一个第二作业,所述第二作业为第一作业的预发布版本,所述第一作业为正在使用的版本;
根据所述第二作业跑出的数据量与所述第一作业跑出的数据量,确定本次修改是否异常。
在一种可选的实施方式中,在根据所述第二作业跑出的数据量与所述第一作业跑出的数据量比对结果,确定本次修改是否异常之后,所述方法还包括:
若确定本次修改异常,输出排查提醒信息;
若确定本次修改无异常,发布第一作业本次改动后的版本,投产上线。
在一种可选的实施方式中,所述根据所述第二作业跑出的数据量与所述第一作业跑出的数据量比对结果,确定本次修改是否异常,包括:
根据所述第一作业跑出的数据量和所述配置修改信息,预估获得数据量基线值;
比较所述第一作业跑出的数据量和所述数据量基线值;
若所述第一作业跑出的数据量和所述数据量基线值的差值超过所述数据量基线值的预设比例值,则确定本次修改异常;
若所述第一作业跑出的数据量和所述数据量基线值的差值不超过所述数据量基线值的预设比例值,则确定本次修改无异常。
在一种可选的实施方式中,所述对所述重写的查询语句进行校验,包括:
解析所述重写的查询语句以生成语法树;
基于所述语法树判断所述重写的查询语句的语法是否正确。
在一种可选的实施方式中,在对所述重写的查询语句进行校验之后,所述方法还包括:
若所述重写的查询语句不正确,输出排查提醒信息。
第二方面,本申请实施例提供了一种权益系统达标作业检查装置,包括规则转换引擎和达标配置管理模块,其中:
所述规则转换引擎,用于在检测到配置修改信息的情况下,通过规则转换引擎根据所述配置修改信息返回重写的查询语句;
所述达标配置管理模块,用于:对所述重写的查询语句进行校验;若所述重写的查询语句校验通过,预发布一个第二作业,所述第二作业为第一作业的预发布版本,所述第一作业为正在使用的版本;根据所述第二作业跑出的数据量与所述第一作业跑出的数据量,确定本次修改是否异常。
可选的,所述达标配置管理模块包括解析校验器,用于:
解析所述重写的查询语句以生成语法树;
基于所述语法树判断所述重写的查询语句的语法是否正确。
可选的,所述达标配置管理模块还包括数据比对器,用于:
根据所述第一作业跑出的数据量和所述配置修改信息,预估获得数据量基线值;
比较所述第一作业跑出的数据量和所述数据量基线值;
若所述第一作业跑出的数据量和所述数据量基线值的差值超过所述数据量基线值的预设比例值,则确定本次修改异常;
若所述第一作业跑出的数据量和所述数据量基线值的差值不超过所述数据量基线值的预设比例值,则确定本次修改无异常。
可选的,所述达标配置管理模块还包括输出模块和发布模块;
所述输出模块,用于若确定本次修改异常,输出排查提醒信息;
所述发布模块,用于若确定本次修改无异常,发布第一作业本次改动后的版本,投产上线。
第三方面,本申请实施例还提供了一种电子设备,包括处理器、输入设备、输出设备和存储器,所述处理器、输入设备、输出设备和存储器相互连接,其中,所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行如第一方面及其任一种可能的实施方式所述的方法。
第四方面,本申请实施例提供了一种计算机存储介质,所述计算机存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行上述第一方面及其任一种可能的实施方式的方法。
本申请实施例通过在检测到配置修改信息的情况下,通过规则转换引擎根据所述配置修改信息返回重写的查询语句;对所述重写的查询语句进行校验,若所述重写的查询语句校验通过,预发布一个第二作业,所述第二作业为第一作业的预发布版本,所述第一作业为正在使用的版本;根据所述第二作业跑出的数据量与所述第一作业跑出的数据量,确定本次修改是否异常,可以在创建作业时自动检查,通过解析查询语句的语法正确性,规避一定的异常风险,并且通过预上线作业与原作业自动比对生产数据,及早发现数据异常,大大降低改动风险,从而提高修改发布作业的可靠性。
附图说明
为了更清楚地说明本申请实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍。
图1是本申请实施例提供的一种权益系统达标作业检查方法的流程示意图;
图2是本申请实施例提供的一种权益系统达标配置校验的流程示意图;
图3是本申请实施例提供的一种权益系统达标作业检查装置的结构示意图;
图4是本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
还应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
为了能够更好地理解本申请实施例,下面将对应用本申请实施例的方法进行介绍。
本申请实施例中涉及的权益系统可以理解为一种通过发放和使用奖品来激励用户参与和互动的商业模式。它包括了多种形式,如优惠券、积分、红包等,可以通过抽奖、兑换等方式获得。同时,权益系统也需要管理规则插件,实现灵活的规则配置,支持各类活动场景的灵活支持。通过这些方式,用户可以获得特定的奖品,提升活动的业务促进效果。本申请实施例中,对于权益系统而言,目前权益达标中心在ZPLUS创建作业,可以由人工在运营平台操作,系统请求规则转换引擎,规则转换引擎会相应返回要往ZPLUS上传的SQL语句(这个是在ZPLUS生成作业最主要的参数),其触发条件就是业务人员在运营平台修改或新增了配置。
本申请实施例中的方法主要针对发布前的作业进行校验。
本申请实施例中的电子设备可以为终端设备,上述终端设备是可以与服务器进行通信的设备。本申请实施例中的服务器也称伺服器,是提供计算服务的设备,可以允许多个终端设备进行访问。上述终端设备包括但不限于台式计算机、移动终端,上述移动终端可包括各种具有无线通信功能的手持设备、可穿戴设备、计算设备或连接到无线调制解调器的其他处理设备,以及各种形式的用户设备(User Equipment,UE),移动台(Mobile Station,MS)等等。
请参见图1,是本申请实施例提供的一种权益系统达标作业检查方法的示意流程图,如图1所示该方法可包括:
101、在检测到配置修改信息的情况下,通过规则转换引擎根据上述配置修改信息返回重写的查询语句。
本申请实施例中的执行主体可以为一种权益系统达标作业检查装置,该权益系统达标作业检查方法可以用于在权益达标中心创建作业时。
本申请实施例中的权益系统可以应用SQL Server数据库,能够有效提升数据请求与返回的速度,有效应对复杂任务的处理。用户可以用SQL语句对视图和基本表进行查询等操作。向数据库请求查询数据的查询请求使用的查询语句可以为结构化查询语言(Structured Query Language,SQL)。SQL是具有数据操纵和数据定义等多种功能的数据库语言,这种语言具有交互性特点,能为用户提供极大的便利,数据库管理系统可以充分利用SQL语言提高计算机应用系统的工作质量与效率。
具体的,当业务人员在运营平台修改或新增了配置,系统检测到配置修改信息,有配置改动,需要重写SQL,权益达标中心在创建作业时首先请求规则转换引擎,规则转换引擎会根据配置返回要上传的SQL语句(这个是生成作业最主要的参数)。规则转换引擎返回重写的SQL之后则可以启动校验流程,即执行步骤102。
102、对上述重写的查询语句进行校验,若上述重写的查询语句校验通过,预发布一个第二作业,上述第二作业为第一作业的预发布版本,上述第一作业为正在使用的版本。
具体的,从规则转换引擎请求到了SQL语句后,首先解析并校验SQL语句的正确性。可以采用预设的校验算法或规则进行于语句解析校验。
在一种可选的实施方式中,上述对上述重写的查询语句进行校验,包括:
解析上述重写的查询语句以生成语法树;
基于上述语法树判断上述重写的查询语句的语法是否正确。
本申请实施例中提到的语法树(Syntax tree),也称语法数,是源代码语法结构的一种抽象表示。它以树状的形式表现编程语言的语法结构,树上的每个节点都表示源代码中的一种结构。
具体的,可以对重写的查询语句进行解析,获得对应的语法树,基于语法树就可以判断语法上是否正确。可以根据需要选择解析方法,例如可以采用开源框架antlr,用来解析及判断生成的SQL语句是否正确。
本申请实施例中提到的antlr是指可以根据输入自动生成语法树并可视化的显示出来的开源语法分析器。antlr可以将根据用户提供的语法文件自动生成相应的词法/语法分析器,用户可以利用他们将输入的文本进行编译,并转换成其他形式例如抽象的语法树(Abstract Syntax Tree,AST)。
简单举例来讲,语句“select*from table where a=xxx。”,会解析成:查询字段*,限制条件a,查询对象table,如果其中任意一个解析不出来则可以认为是错误的SQL。
在一种可选的实施方式中,上述方法还包括:
若上述重写的查询语句不正确,输出排查提醒信息。
如果查询语句校验不正确,可以输出排查提醒信息,上述排查提醒信息可以是任意形式,例如邮件、短信、声音信息等,即可以在配置修改存在异常时通知相关人员,及时进行排查。
若上述查询语句校验通过,则可以预发布一个第二作业。具体的,第一作业为正在使用的版本,该第二作业是基于第一作业及配置修改信息生成的作业,即第二作业可以理解为本次第一作业的预发布版本,第二作业中的SQL是想要上线的版本。
103、根据上述第二作业跑出的数据量与上述第一作业跑出的数据量,确定本次修改是否异常。
具体的,等到第二作业可以跑出数据,可以将第一作业跑出的数据和第二作业跑出的数据作比对。需要注意的是,此时第一作业还未同步业务人员做的配置修改。
本申请实施例中,作业的作用其实就是定时任务,具体是使用SQL去表里查数据,然后插入到新表。第一作业跑出的数据称为第一任务,那么第二作业跑出的数据对应第二任务,使用预发布的SQL查数据插入到新表中去。
通过比对数据量可以分析出第二作业的SQL是否正确。本申请实施例中可以根据需要预先设置数据量比对规则,来根据第二作业跑出的数据量和第一作业跑出的数据量,确定本次修改是否异常。
比如,第一作业记为作业1,第二作业记为作业2,作业1原本每天大概跑出100条数据,作业2在作业1的基础上扩大了查询范围,预计会跑出100多条数据才对,结果第二作业2只跑出50条数据,则明显存在问题。本申请实施例中可以根据以上逻辑设置比对规则,此处不做限制。
在一种可选的实施方式中,上述步骤103包括:
根据上述第一作业跑出的数据量和上述配置修改信息,预估获得数据量基线值;
比较上述第一作业跑出的数据量和上述数据量基线值;
若上述第一作业跑出的数据量和上述数据量基线值的差值超过上述数据量基线值的预设比例值,则确定本次修改异常;
若上述第一作业跑出的数据量和上述数据量基线值的差值不超过上述数据量基线值的预设比例值,则确定本次修改无异常。
可以根据第一作业跑出的数据量和配置修改信息,预估配置后的数据量基线值,即预估第二作业应该跑出的数据量。可以根据需要设置数据量估计规则进行预估,例如不同的配置修改信息对应数据量的计算方法,包括某种扩大查询范围的配置对应应当增加多少数据量等等,从而计算出相应的数据量基线值(以下举例中简称预估值),本申请实施例对此不做限制。
实际第二作业跑出的数据量和预估值接近,则本次修改符合要求,若第二作业跑出的数据量和预估值差异较大,则认为本次修改异常。其中,上述预设比例值可以根据需要进行设置,例如30%,则表示若第二作业跑出的数据量和预估值的差值超过预估值的30%,则确定本次修改异常;若差值不超过预估值的30%,则确定本次修改无异常。
在可选的实施方式中,上述判断规则可以根据需要进行设置调整,本申请实施例对此不做限制。例如:
根据第二作业与第一作业的查询范围的大小关系,确定第二作业跑出的数据量和第一作业跑出的数据量的大小关系,这两个大小关系应该是正相关的,即查询范围越大,数据量越大。
在一种实施方式中,在上述步骤103之后,上述方法还包括:
若确定本次修改异常,输出排查提醒信息;
若确定本次修改无异常,发布第一作业本次改动后的版本,投产上线。
在验证结束之后,若本次修改异常,可以输出排查提醒信息通知相关人员,人工排查是否有问题,其中排查提醒信息可以为任意形式,以及可以记载异常原因。如果确定本次修改无异常,则可以执行本次配置,即根据配置修改信息对第一作业进行改动,把第一作业本次改动后的版本投产上线。
目前的作业创建发布过程中,若生成的SQL有语法错误,那么这个作业包含的所有配置都无法上线;又或者新增了配置重写SQL后,没有语法错误,但是SQL条件有问题,导致数据量出现异常。
本申请实施例通过在检测到配置修改信息的情况下,通过规则转换引擎根据所述配置修改信息返回重写的查询语句;对所述重写的查询语句进行校验,若所述重写的查询语句校验通过,预发布一个第二作业,所述第二作业为第一作业的预发布版本,所述第一作业为正在使用的版本;根据所述第二作业跑出的数据量与所述第一作业跑出的数据量,确定本次修改是否异常,可以在创建作业时自动检查,通过解析查询语句的语法正确性,规避一定的异常风险,并且通过预上线作业与原作业自动比对生产数据,及早发现数据异常,大大降低改动风险,从而提高修改发布作业的可靠性。
图2为本申请实施例提供的一种权益系统达标配置校验的流程示意图。
如图2所示,首先,目前权益达标中心在ZPLUS创建作业时首先请求规则转换引擎,规则转换引擎会返回要往ZPLUS上传的SQL语句(这个是在ZPLUS生成作业最主要的参数),其触发条件就是业务人员在运营平台修改或新增了配置。
其中,达标配置管理模块主要用于生成作业并上传到ZPLUS;生成数据即作业跑出的数据;在ZPLUS可以运行作业,即使用SQL去表里查数据,然后插入到新表,从而获得作业跑出的数据。本申请实施例中在达标配置管理模块设置了两个校验模块:SQL解析校验器和数据比对器。
进一步的,SQL解析校验器可以解析并校验SQL语句的正确性。如果不正确则通知相关人员,及时进行排查。
如果SQL语句校验通过,则预发布一个作业2,这个作业2其实就是作业1的预发布版本。等到作业2可以跑出数据,在数据比对器可以将作业1(这个时候作业1还未同步业务人员做的配置修改)跑出的数据和作业2跑出的数据作比对,判断本次修改是否异常,可以参考图1所示实施例中的具体步骤,此处不再赘述。若确定本次修改异常,同样可以通知相关人员,人工排查是否有问题。如果认为本次修改无异常,则可以发布最终文件即作业1改动后的版本,将作业1改动后的版本投产上线。
在可选的实施方式中,本申请实施例中的方法也可以应用于其他系统的作业校验流程中,并可以根据具体应用情况进行适应性修改,本申请实施例对此不作限制。
在前述方法实施例的基础上,本申请实施例还提供一种权益系统达标作业检查装置。
请参见图3,图3是本申请实施例提供的一种权益系统达标作业检查装置的结构示意图。如图3所示,该权益系统达标作业检查装置300包括规则转换引擎310和达标配置管理模块320,其中:
上述规则转换引擎310,用于在检测到配置修改信息的情况下,通过规则转换引擎根据上述配置修改信息返回重写的查询语句;
上述达标配置管理模块320,用于:对上述重写的查询语句进行校验;若上述重写的查询语句校验通过,预发布一个第二作业,上述第二作业为第一作业的预发布版本,上述第一作业为正在使用的版本;根据上述第二作业跑出的数据量与上述第一作业跑出的数据量,确定本次修改是否异常。
在一种可选的实施方式中,上述达标配置管理模块320包括解析校验器321,用于:
解析上述重写的查询语句以生成语法树;
基于上述语法树判断上述重写的查询语句的语法是否正确。
在一种可选的实施方式中,上述达标配置管理模块320还包括数据比对器322,用于:
根据上述第一作业跑出的数据量和上述配置修改信息,预估获得数据量基线值;
比较上述第一作业跑出的数据量和上述数据量基线值;
若上述第一作业跑出的数据量和上述数据量基线值的差值超过上述数据量基线值的预设比例值,则确定本次修改异常;
若上述第一作业跑出的数据量和上述数据量基线值的差值不超过上述数据量基线值的预设比例值,则确定本次修改无异常。
在一种可选的实施方式中,上述权益系统达标作业检查装置300还包括输出模块330和发布模块340;
上述输出模块330,用于若确定本次修改异常,输出排查提醒信息;
上述发布模块340,用于若确定本次修改无异常,发布上述第二作业,投产上线。
在一种可选的实施方式中,上述输出模块330,还用于在对上述重写的查询语句进行校验之后,若上述重写的查询语句不正确,输出排查提醒信息。
根据本申请实施例的具体实施方式,图1和图2所示的权益系统达标作业检查方法涉及的步骤可以是由图3所示的权益系统达标作业检查装置300中的各个模块来执行的,此处不再赘述。
通过本申请实施例的权益系统达标作业检查装置300,权益系统达标作业检查装置300可以在检测到配置修改信息的情况下,通过规则转换引擎根据上述配置修改信息返回重写的查询语句;对上述重写的查询语句进行校验,若上述重写的查询语句校验通过,预发布一个第二作业,上述第二作业为第一作业的预发布版本,上述第一作业为正在使用的版本;根据上述第二作业跑出的数据量与上述第一作业跑出的数据量,确定本次修改是否异常,可以在创建作业时自动检查,通过解析查询语句的语法正确性,规避一定的异常风险,并且通过预上线作业与原作业自动比对生产数据,及早发现数据异常,大大降低改动风险,从而提高修改发布作业的可靠性。
请参阅图4,图4是本申请实施例公开的一种电子设备的结构示意图。如图4所示,该电子设备400包括处理器401和存储器402,其中,电子设备400还可以包括总线403,处理器401和存储器402可以通过总线403相互连接,总线403可以是外设部件互连标准(Peripheral Component Interconnect,PCI)总线或扩展工业标准结构(ExtendedIndustry Standard Architecture,EISA)总线等。总线403可以分为地址总线、数据总线、控制总线等。为便于表示,图4中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。其中,电子设备400还可以包括输入输出设备404,输入输出设备404可以包括显示屏,例如液晶显示屏。存储器402用于存储包含指令的一个或多个程序;处理器401用于调用存储在存储器402中的指令执行上述图1或图2实施例中提到的部分或全部方法步骤。
应当理解,在本申请实施例中,所称处理器401可以是中央处理单元(CentralProcessing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
输入设备402可以包括触控板、指纹采传感器(用于采集用户的指纹信息和指纹的方向信息)、麦克风等,输出设备403可以包括显示器(LCD等)、扬声器等。
该存储器404可以包括只读存储器和随机存取存储器,并向处理器1101提供指令和数据。存储器404的一部分还可以包括非易失性随机存取存储器。例如,存储器404还可以存储设备类型的信息。
通过本申请实施例的电子设备400,电子设备400可以通过在检测到查询请求的情况下,将所述查询请求的查询语句解析成语法树;校验所述语法树中的查询条件,若所述语法树中的查询条件不满足预设条件,确认所述查询请求为全表查询,不允许所述查询请求;若所述语法树中的查询条件满足所述预设条件,估算所述查询请求中查询字段的值占总数据量的比值;若所述比值大于预设数据量比值,不允许所述查询请求;若所述比值不大于所述预设数据量比值,执行所述查询请求对应的查询操作;其中通过解析查询语句、估算查询数据量的方式有效阻断全表查询,且对使用方无感知,并且,通过抽样数据库以小数据量估算真实查询的数据量,性能消耗小,对原库无侵入,且估算比较准确。
本申请实施例还提供一种计算机存储介质,其中,该计算机存储介质存储用于电子数据交换的计算机程序,该计算机程序使得计算机执行如上述方法实施例中记载的任何一种权益系统达标作业检查方法的部分或全部步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置,可通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储器中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储器中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储器包括:U盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
Claims (10)
1.一种权益系统达标作业检查方法,其特征在于,所述方法包括:
在检测到配置修改信息的情况下,通过规则转换引擎根据所述配置修改信息返回重写的查询语句;
对所述重写的查询语句进行校验,若所述重写的查询语句校验通过,预发布一个第二作业,所述第二作业为第一作业的预发布版本,所述第一作业为正在使用的版本;
根据所述第二作业跑出的数据量与所述第一作业跑出的数据量,确定本次修改是否异常。
2.根据权利要求1所述的方法,其特征在于,在根据所述第二作业跑出的数据量与所述第一作业跑出的数据量比对结果,确定本次修改是否异常之后,所述方法还包括:
若确定本次修改异常,输出排查提醒信息;
若确定本次修改无异常,发布第一作业本次改动后的版本,投产上线。
3.根据权利要求1或2所述的方法,其特征在于,所述根据所述第二作业跑出的数据量与所述第一作业跑出的数据量比对结果,确定本次修改是否异常,包括:
根据所述第一作业跑出的数据量和所述配置修改信息,预估获得数据量基线值;
比较所述第一作业跑出的数据量和所述数据量基线值;
若所述第一作业跑出的数据量和所述数据量基线值的差值超过所述数据量基线值的预设比例值,则确定本次修改异常;
若所述第一作业跑出的数据量和所述数据量基线值的差值不超过所述数据量基线值的预设比例值,则确定本次修改无异常。
4.根据权利要求1所述的方法,其特征在于,所述对所述重写的查询语句进行校验,包括:
解析所述重写的查询语句以生成语法树;
基于所述语法树判断所述重写的查询语句的语法是否正确。
5.根据权利要求4所述的方法,其特征在于,在对所述重写的查询语句进行校验之后,所述方法还包括:
若所述重写的查询语句不正确,输出排查提醒信息。
6.一种权益系统达标作业检查装置,其特征在于,包括规则转换引擎和达标配置管理模块,其中:
所述规则转换引擎,用于在检测到配置修改信息的情况下,通过规则转换引擎根据所述配置修改信息返回重写的查询语句;
所述达标配置管理模块,用于:对所述重写的查询语句进行校验;若所述重写的查询语句校验通过,预发布一个第二作业,所述第二作业为第一作业的预发布版本,所述第一作业为正在使用的版本;根据所述第二作业跑出的数据量与所述第一作业跑出的数据量,确定本次修改是否异常。
7.根据权利要求6所述的方法,其特征在于,所述达标配置管理模块包括解析校验器,用于:
解析所述重写的查询语句以生成语法树;
基于所述语法树判断所述重写的查询语句的语法是否正确。
8.根据权利要求7所述的方法,其特征在于,所述达标配置管理模块还包括数据比对器,用于:
根据所述第一作业跑出的数据量和所述配置修改信息,预估获得数据量基线值;
比较所述第一作业跑出的数据量和所述数据量基线值;
若所述第一作业跑出的数据量和所述数据量基线值的差值超过所述数据量基线值的预设比例值,则确定本次修改异常;
若所述第一作业跑出的数据量和所述数据量基线值的差值不超过所述数据量基线值的预设比例值,则确定本次修改无异常。
9.一种电子设备,其特征在于,包括处理器、输入设备、输出设备和存储器,所述处理器、输入设备、输出设备和存储器相互连接,其中,所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行如权利要求1-5任一项所述的方法。
10.一种计算机存储介质,其特征在于,所述计算机存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行如权利要求1-5任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310810200.2A CN117112594A (zh) | 2023-07-03 | 2023-07-03 | 权益系统达标作业检查方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310810200.2A CN117112594A (zh) | 2023-07-03 | 2023-07-03 | 权益系统达标作业检查方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117112594A true CN117112594A (zh) | 2023-11-24 |
Family
ID=88806245
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310810200.2A Pending CN117112594A (zh) | 2023-07-03 | 2023-07-03 | 权益系统达标作业检查方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117112594A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117827684A (zh) * | 2024-03-05 | 2024-04-05 | 数翊科技(北京)有限公司武汉分公司 | 数据计算作业的预警方法、装置、电子设备及存储介质 |
-
2023
- 2023-07-03 CN CN202310810200.2A patent/CN117112594A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117827684A (zh) * | 2024-03-05 | 2024-04-05 | 数翊科技(北京)有限公司武汉分公司 | 数据计算作业的预警方法、装置、电子设备及存储介质 |
CN117827684B (zh) * | 2024-03-05 | 2024-05-24 | 数翊科技(北京)有限公司武汉分公司 | 数据计算作业的预警方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109388376B (zh) | 软件开发风险评估方法、装置、设备及可读存储介质 | |
CN107391359B (zh) | 一种业务测试方法及装置 | |
WO2020006900A1 (zh) | 征信报告解析处理方法、装置、计算机设备及存储介质 | |
CN111045935B (zh) | 版本自动审核方法、装置、设备及存储介质 | |
US9298683B2 (en) | Generation of test data using text analytics | |
CN110221948B (zh) | 测试脚本生成方法、装置、计算机装置及存储介质 | |
CN110955409B (zh) | 在云平台上创建资源的方法和装置 | |
KR101423030B1 (ko) | 컴퓨터 실행 가능한 어플리케이션 객체 분석 방법, 이를 수행하는 어플리케이션 객체 분석 서버 및 이를 저장하는 기록매체 | |
CN108763071A (zh) | 一种网页测试方法及终端设备 | |
CN117112594A (zh) | 权益系统达标作业检查方法、装置、设备及存储介质 | |
CN111427771A (zh) | 一种代码覆盖率分析方法、设备、服务器及可读存储介质 | |
CN114398673A (zh) | 应用程序的合规检测方法、装置、存储介质与电子设备 | |
CN115904989A (zh) | 一种接口测试方法、装置、设备及可读存储介质 | |
CN116661758B (zh) | 一种优化日志框架配置的方法、装置、电子设备及介质 | |
CN112561690B (zh) | 信用卡分期业务接口的测试方法、系统、设备及存储介质 | |
CN115052037B (zh) | 客户端检测方法、装置、存储介质和设备 | |
CN113535568B (zh) | 应用部署版本的验证方法、装置、设备和介质 | |
CN115576711A (zh) | 一种返回数据模拟方法、系统及计算设备 | |
CN115146581A (zh) | 项目管理方法、缺陷分析方法、相关设备及可读存储介质 | |
CN111522752B (zh) | 程序测试方法、程序测试装置、存储介质和电子设备 | |
CN111741046B (zh) | 数据上报方法、获取方法、装置、设备及介质 | |
CN104252411B (zh) | 一种系统压力分析方法及设备 | |
CN109814839B (zh) | 国际化信息生成方法、装置及计算机可读存储介质 | |
CN113419738A (zh) | 接口文档的生成方法、装置及接口管理设备 | |
CN114116244A (zh) | 数据处理的方法、装置及系统、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |