CN113411224A - 数据处理方法、装置、电子设备及存储介质 - Google Patents
数据处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113411224A CN113411224A CN202110951857.1A CN202110951857A CN113411224A CN 113411224 A CN113411224 A CN 113411224A CN 202110951857 A CN202110951857 A CN 202110951857A CN 113411224 A CN113411224 A CN 113411224A
- Authority
- CN
- China
- Prior art keywords
- data
- service line
- network data
- preset
- link
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
Abstract
本申请提供了一种数据处理方法、装置、电子设备及存储介质,该数据处理方法应用于审核系统中的检测器,该方法包括:分别判断进入每一条业务线的网络数据的数据量是否出现异常;其中,网络数据是用户生成的;针对判断结果为出现异常的各个业务线,分别利用相应的预设异常处理链路对各个业务线的网络数据进行处理;其中,预设异常处理链路是经过摘除处理器、简化后的处理链路;也即,本申请能够在用户生成的网络数据突增时,利用预设异常处理链路对数据突增的业务线数据进行处理,减少了审核过程中耗时和占用系统资源较多的处理器,提高了系统稳定性,解决相关技术在面对进审网络数据突增等特殊情况时,容易导致审核系统瘫痪的问题。
Description
技术领域
本发明涉及数据处理技术领域,具体涉及一种数据处理方法、装置、电子设备及存储介质。
背景技术
随着互联网技术的发展,针对用户生成的网络数据都需要经过审核系统进行审核,以保障网络环境的安全。其中,在审核系统的审核过程中一般需要先经过机器进行预处理,再经过人工进行最后的审查。
由于用户所生成的网络数据内容丰富,为了提高机器的预处理效率,通常先将网络数据划分为不同业务类型的数据,再分别将属于不同业务的各类网络数据送入相应的业务线进行审核。其中,每条业务线中设置有该条业务线所需处理的网络数据对应的各个处理器,每条业务线中的各个处理器按照处理顺序构成相应的处理链路,此种设计模式也可称作责任链模式。
但是,某些处理器在审核过程中非常耗时和占用系统资源,在面对进审网络数据突增等特殊情况时,容易导致审核系统瘫痪。
发明内容
对此,本申请提供一种数据处理方法、装置、电子设备及存储介质,以解决相关技术在面对进审网络数据突增等特殊情况时,容易导致审核系统瘫痪的问题。
为实现上述目的,本发明实施例提供如下技术方案:
本发明第一方面公开了一种数据处理方法,应用于审核系统中的检测器,所述审核系统包括N条业务线,N为正整数,所述数据处理方法包括:
分别判断进入每一条所述业务线的网络数据的数据量是否出现异常;其中,所述网络数据是用户生成的;
针对判断结果为出现异常的各个所述业务线,分别利用相应的预设异常处理链路对各个所述业务线的网络数据进行处理;其中,所述预设异常处理链路是经过摘除处理器、简化后的处理链路。
可选地,在上述的数据处理方法中,分别判断进入每一条所述业务线的网络数据的数据量是否出现异常,包括:
在预设统计时间段内,分别统计流入每一条所述业务线的网络数据,得到每一条所述业务线的网络数据的数据量;
分别判断每一条所述业务线的网络数据的数据量,是否超过相应业务线的预设进审数据阈值;
若判断出所述业务线的网络数据的数据量超过对应业务线的预设进审数据阈值,则判定所述业务线的网络数据的数据量出现异常;
若判断出所述业务线的网络数据的数据量未超过对应业务线的预设进审数据阈值,则判定所述业务线的网络数据的数据量未出现异常。
可选地,在上述的数据处理方法中,分别利用相应的预设异常处理链路对所述业务线的网络数据进行处理,包括:
按照每条所述业务线的预设异常处理链路中各个处理器顺序,依次对进入所述业务线的网络数据进行处理;
将完成处理的每条所述业务线的网络数据存储至数据库的备份表中。
可选地,在上述的数据处理方法中,在将完成处理的每条所述业务线的网络数据存储至数据库的备份表中之后,还包括:
按照预设数据导回条件,将所述备份表中存储的网络数据批量导回所述数据库的正式表中;
其中,所述预设数据导回条件包括预设数据导回的时间间隔和预设数据导回的数据数量;所述数据库的正式表用于存储经正常处理链路完成处理后的网络数据。
可选地,在上述的数据处理方法中,在分别判断进入每一条所述业务线的网络数据的数据量是否出现异常之后,还包括:
针对判断结果为未出现异常的各个所述业务线,分别按照相应的正常处理链路对各个所述业务线的网络数据进行处理;
其中,每一个所述业务线的正常处理链路中的处理器个数多于异常处理链路中的处理器个数。
可选地,在上述的数据处理方法中,在任意步骤前后,还包括:
根据数据回查指令,利用记录日志查找到与所述数据回查指令对应的网络数据。
本发明第二方面公开了一种数据处理装置,应用于审核系统中的检测器,所述审核系统包括N条业务线,N为正整数,所述数据处理装置包括:
判断单元,分别判断进入每一条所述业务线的网络数据的数据量是否出现异常;其中,所述网络数据是用户生成的;
异常处理单元,用于针对判断结果为出现异常的各个所述业务线,分别利用相应的预设异常处理链路对各个所述业务线的网络数据进行处理;其中,所述预设异常处理链路是经过摘除处理器、简化后的处理链路。
可选地,在上述的数据处理装置中,还包括:
正常处理单元,用于针对判断结果为未出现异常的各个所述业务线,分别按照相应的正常处理链路对各个所述业务线的网络数据进行处理;
其中,每一个所述业务线的正常处理链路中的处理器个数多于异常处理链路中的处理器个数。
本发明第三方面公开了一种存储介质,用于存储计算机程序,所述计算机程序被执行时,用于实现如第一方面公开的任一项所述的数据处理方法。
本发明第四方面公开了一种电子设备,包括处理器和存储器;其中:
所述存储器用于存储计算机程序;
所述处理器用于执行所述计算机程序,具体用于实现如如第一方面公开的任一项所述的数据处理方法。
本发明提供的数据处理方法,应用于审核系统中的检测器,审核系统包括N条业务线,N为正整数,该数据处理方法包括:分别判断进入每一条业务线的网络数据的数据量是否出现异常;其中,网络数据是用户生成的;针对判断结果为出现异常的各个业务线,分别利用相应的预设异常处理链路对各个业务线的网络数据进行处理;其中,预设异常处理链路是经过摘除处理器、简化后的处理链路;也即,本申请能够在用户生成的网络数据突增时,利用预设异常处理链路对数据突增的业务线数据进行处理,减少了审核过程中耗时和占用系统资源较多的处理器,提高了系统稳定性,解决相关技术在面对进审网络数据突增等特殊情况时,容易导致审核系统瘫痪的问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本申请实施例提供的一种数据处理方法的流程图;
图2为本申请实施例提供的一种判断网络数据的数据量异常的流程图;
图3为本申请实施例提供的一种处理出现异常的网络数据的流程图;
图4为本申请实施例提供的一条业务线的正常处理链路和预设异常处理链路的结构图;
图5为本申请实施例提供的另一种数据处理方法的流程图;
图6为本申请实施例提供的又一种数据处理方法的流程图;
图7为本申请实施例提供的一种数据处理装置的结构示意图;
图8为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本申请提供一种数据处理方法,以解决相关技术在面对进审网络数据突增等特殊情况时,容易导致审核系统瘫痪的问题。
该数据处理方法应用于审核系统中的检测器,审核系统一般包括N条业务线,N为正整数,请参见图1,该数据处理方法可以包括如下步骤:
S100、分别判断进入每一条业务线的网络数据的数据量是否出现异常。
其中,网络数据是用户生成的。
实际应用中,执行步骤S100、分别判断进入每一条业务线的网络数据的数据量是否出现异常的具体过程可如图2所示,具体可以包括以下步骤:
S202、在预设统计时间段内,分别统计流入每一条业务线的网络数据,得到每一条业务线的网络数据的数据量。
实际应用中,该预设统计时段的具体取值可以是10分钟、15分钟等,视具体应用环境和用户需求自行确定即可,本申请不作具体限定,均属于本申请的保护范围。
其中,通过分别统计在预设统计数段内流入每一个业务线的网络数据,就能得到每一条业务线的网络数据的数据量。
需要说明的是,实际应用中,每一条业务线对应的预设统计时间段还可以不同,视具体应用环境和用户需求确定即可,本申请不作具体限定,均属于本申请的保护范围。
S204、分别判断每一条业务线的网络数据的数据量,是否超过相应业务线的预设进审数据阈值。
实际应用中,预设进审数据阈值是划分业务线的网络数据的数据量为正常或异常的界限,其具体取值可视具体应用环境和用户确定即可,本申请不作具体限定,均属于本申请的保护范围。
具体的,假设预设进审数据阈值设置为1000条,当业务线的网络数据的数据量超过1000时,视为超过相应业务线的预设进审数据阈值;反之,则视为未超过相应业务线的预设进审数据阈值。
若判断出业务线的网络数据的数据量超过对应业务线的预设进审数据阈值,则执行步骤S206;若判断出业务线的网络数据的数据量未超过对应业务线的预设进审数据阈值,则执行步骤S208。
S206、判定业务线的网络数据的数据量出现异常。
实际应用中,当判断出某一条业务线的网络数据的数据量超过对应业务线的预设进审数据阈值,则可以判定出该条业务线的网络数据的数据量出现异常。
S208、判定业务线的网络数据的数据量未出现异常。
实际应用中,当判断出某一条业务线的网络数据的数据量未超过对应业务线的预设进审数据阈值,则可以判定出该条业务线的网络数据的数据量未出现异常。
S102、针对判断结果为出现异常的各个业务线,分别利用相应的预设异常处理链路对各个业务线的网络数据进行处理。
其中,预设异常处理链路是经过摘除处理器、简化后的处理链路。
实际应用中,当某条业务线的网络数据的数据量为出现异常时,表明进入该条业务线的网络数据量过大,已经超过审核系统的处理负荷,为了保证审核系统的正常运行,避免瘫痪,可以通过为网络数量的数据量出现异常的业务线,单独配置一条摘除耗费资源的处理器的处理链路,也即预设异常处理链路,减少该条业务线在处理数据时对审核系统资源的占用,保证审核系统资源裕度,保障审核业务的正常运行。
具体的,执行步骤S102中分别利用相应的预设异常处理链路对各个业务线的网络数据进行处理的过程可以参见图3,主要包括如下步骤:
S300、按照每条业务线的预设异常处理链路中各个处理器的排列顺序,依次对进入业务线的网络数据进行处理。
结合图4,假设某条业务线的正常处理链路中包括如下处理器:联系方式过滤器、高亮处理器、MD5检测处理器、关键词检测处理器、免审检测处理器、用户标签检测处理器、A1检测处理器、通道变化处理器、基因检测处理器、产品策略处理器、发送消息处理器、保存数据库处理器,则该条业务线在进审网络数据的数据量出现异常时,摘除掉耗费资源的处理器可以是:高亮处理器、免审检测处理器、通道变化处理器;相应的剩下的处理器作为预设异常处理链路中的处理器,具体可以包括:联系方式过滤器、MD5检测处理器、关键词检测处理器、用户标签检测处理器、A1检测处理器、基因检测处理器、产品策略处理器、发送消息处理器、保存数据库处理器。
需要说明的是,联系方式过滤器用于将数据中联系方式过滤器掉。高亮处理器用于将数据中可能涉及违规的部分高亮变色标注,并标注具体的违规理由和关联内容。MD5检测处理器用于将MD5命中的重复数据直接处理掉。关键词检测处理器用于标注出是否有违规文字。免审检测处理器用于将命中免审规则的数据直接免审处理。用户标签检测处理器用于将命中用户标签规则的数据按相关规则处理。AI检测处理器用于调用第三方AI检测工具对数据进行检测,以辅助人工审核。通道变化处理器用于将部分数据变换通道。基因检测处理器用于对视频数据进行基因检测已辅助人工审核。产品策略处理器用于将命中产品策略的数据进行相应处理。发送消息处理器用于将机器审核结果发送回各业务线。保存数据库处理器用于将数据保存进MYSQL数据库。其中,正常处理链路中的保存数据库处理器用于将数据保存进mysql正式表中;异常处理链路中的保存数据库处理器用于将数据保存进mysql备份表中。
还需要说明的是,上述仅示出审核系统中某条业务线的预设异常处理链路的具体情况,在具体应用过程中,还可以视具体应用环境和用户需求,自定义预设异常处理链路中处理器的顺序和类型,本申请不作具体限定,均属于本申请的保护范围。
同理,上述示出的审核系统中某条业务线的正常处理链路中每个节点的处理器,可以是上述或现有处理器的任意排列组合,本申请对每个业务的正常处理链路中所包含的处理器及顺序不作限定,均属于本申请的保护范围。
实际应用中,自定义配置之后的每一条业务线的预设异常处理链路,还可以支持热生效,实现所配即所得。
S302、将完成处理的每条业务线的网络数据存储至数据库的备份表中。
实际应用中,可以将每一条业务线的网络数据经过预设异常处理链路中每一个处理器进行处理之后,由保存数据处理库将处理完成的该条业务线的网络数据存储至数据库的备份表中。
需要说明的是,存储处理完成后的数据的数据库可以是关联数据库关联系统(mysql_num_rows,MySQL)中的关联数据量;当然,并不仅限于此,还可以视具体应用环境和用户需求,将处理完成后的数据存储至其他现有的数据库中,均属于本申请的保护范围。
还需要说明的是,由于经预设异常处理链路处理的网络数据,无法直接进入后续的人工审核,因此,将数据库的备份表对完成处理的业务线的网络数据的存储空间不存在上限。并且,简化预设异常处理链路中的处理器不会影响系统性能,不仅能够保证数据量正常的业务线和异常的业务线的网络数据均可控,还使得出现异常的业务线的网络数据不影响其他业务线的业务。
基于上述原理,本实施例提供的数据处理方法能够在用户生成的网络数据突增时,利用预设异常处理链路对数据突增的业务线数据进行处理,减少了审核过程中耗时和占用系统资源较多的处理器,提高了系统稳定性,解决相关技术在面对进审网络数据突增等特殊情况时,容易导致审核系统瘫痪的问题。
值得说明的是,现有方案一般依赖于MySQL数据库,且审核系统业务线一般为几十个,每个业务线都会同时有网络数据进审,进审数据存储在同一张数据表中,经过人工审核完成后才能将数据从表中删除。而数据表的结构设计对于业务中查询语句的数据量超过50万时,又有性能瓶颈,不同业务线均可能遇到突发的数据量增加,导致系统运行缓慢,影响后续人工审核工作;并且,网络数据的突增会使得数据库中数据表突增,引起查询缓慢;而本申请提供的数据处理方法,能够通过预设异常处理链路处理完成的网络数据存储至数据库的备份表中,改变了数据库的存储结构,进一步提高了系统的稳定性,还保证了网络数据突增时,对数据表中数据的查询效率。
还值得说明的是,现有还存在一种在出现系统资源瘫痪时,通过增加审核处理器,企图通过横向资源扩展的处理方式。但是,通过横向资源扩展的方式总会存在上限,无法解决根本问题,无形中还增加了系统成本;并且,当系统资源仍然存在不足时,仍然需要修改代码,简化所有处理链路,会导致处理链路对网络数据的预处理简化,增加了人工审核的工作量与难度。而本申请提供的方案在用户生成的网络数据突增时,利用预设异常处理链路对数据突增的业务线数据进行处理,无需横向资源扩展,节省了系统成本;并且,本申请只针对判断结果为出现异常的业务线,利用预设异常处理链路进行处理,最大程度减小需要增加的人工审核的工作量与难度。
可选地,在本申请提供的另一实施例中,在执行步骤S100、分别判断进入每一条业务线的网络数据的数据量是否出现异常之后,请参见图5,该数据处理方法还包括如下步骤:
S400、针对判断结果为未出现异常的各个业务线,分别按照相应的正常处理链路对各个业务线的网络数据进行处理。
其中,每一个业务线的正常处理链路中的处理器个数多于异常处理链路中的处理器个数。
实际应用中,每一条业务线分别对应一条用于处理进入该条业务线的网络数据的正常处理链路。
结合图4,当正常处理链路对进入该条业务线的网络数据进行处理之后,一般由保存数据库处理器,将完成处理的网络数据存储至数据库的正式表中,以供后续人工进行审核。
还需要说明的是,关于判断结果为未出现异常的各个业务线,分别按照相应的正常处理链路对各个业务线的网络数据进行处理的具体方式还可以参见现有技术,本申请不再赘述,均属于本申请的保护范围。
在本实施例中,针对判断结果为未出现异常的各个业务线,分别按照相应的正常处理链路对各个业务线的网络数据进行处理,可以在进审数据未出现异常时,利用系统正常处理流程分别对各个业务线的网络数据进行处理,避免通过预设异常处理链路进行处理,会导致的后续人工审核的工作量和难度的增加。
可选地,结合图3和图5,在本申请提供的另一实施例中,在执行步骤S302、将完成处理的业务线的网络数据存储至数据库的备份表中之后,请参见图6,该数据处理方法还包括如下步骤:
S500、按照预设数据导回条件,将备份表中存储的网络数据批量导回数据库的正式表中。
其中,预设数据导回条件包括预设数据导回的时间间隔和预设数据导回的数据数量。数据库的正式表用于存储经过正常处理链路完成处理后的网络数据。
实际应用中,存储在数据库备份表中的网络数据,可以通过一个定时任务,按照一定时间间隔和一定数量,同步至数据库的正式表中。
具体的,针对每一条业务线存储在数据量备份表中的网络数据,可以按照预设数据导回条件,将该条业务线在备份表中存储的网络数据,批量导回到相应业务线的正式表中。
需要说明的是,预设数据导回的时间间隔指代连续两次将备份表的数据导回至正式表的时间间隔。预设数据导回的数据数量指代每次将备份表的数据导回至正式表的数据量。
还需要说明的是,本申请对预设数据导回的时间间隔和预设数据导回的数据数量的具体取值不作限定,视具体应该环境和用户需求确定即可,均属于本申请的保护范围。
在本实施例中,按照预设数据导回条件,将备份表中存储的网络数据批量导回数据库的正式表中之后,备份表中存储的网络数据就能够正常进入人工审核通道进行处理;并且,按照预设数据导回条件批量导回的方式,还能够根据人工审核效率,调整批量导回数据的大小,保证人工审核的正常进行。
此外,将预设异常链路处理的数据存储至数据库的备份表中,将正常处理链路处理的数据存储至数据库的正式表中,还能够突出主次数据,能够优先处理存储在正式表中的数据,进一步提高了审核系统的稳定性。
可选地,在本申请提供的另一实施例中,在执行任意步骤前后,该数据处理方法还包括如下步骤:
S600、根据数据回查指令,利用记录日志查找到与数据回查指令对应的网络数据。
实际应用中,正常处理链路和异常处理链路中每个处理器对网络数据进行处理之后,均会生成相应的记录日志。用户可以通过设置筛选条件和触发内容等方式,实现数据回查指令的下发,利用记录日志查找到所需的数据,实现数据回查的目的。
结合本申请实施例提供的数据处理方法,本申请实施例还提供一种数据处理装置,应用于审核系统中的检测器,审核系统包括N条业务线,N为正整数,请参考图7,该数据处理可以包括:
判断单元100,分别判断进入每一条业务线的网络数据的数据量是否出现异常;其中,网络数据是用户生成的。
异常处理单元102,用于针对判断结果为出现异常的各个业务线,分别利用相应的预设异常处理链路对各个业务线的网络数据进行处理;其中,预设异常处理链路是经过摘除处理器、简化后的处理链路。
可选地,实际应用中,判断单元100可以具体用于:
在预设统计时间段内,分别统计流入每一条所述业务线的网络数据,得到每一条所述业务线的网络数据的数据量;
分别判断每一条所述业务线的网络数据的数据量,是否超过相应业务线的预设进审数据阈值;
若判断出所述业务线的网络数据的数据量超过对应业务线的预设进审数据阈值,则判定所述业务线的网络数据的数据量出现异常;
若判断出所述业务线的网络数据的数据量未超过对应业务线的预设进审数据阈值,则判定所述业务线的网络数据的数据量未出现异常。
可选地,实际应用中,该数据处理还可以包括:
正常处理单元,用于针对判断结果为未出现异常的各个所述业务线,分别按照相应的正常处理链路对各个所述业务线的网络数据进行处理;
其中,每一个所述业务线的正常处理链路中的处理器个数多于异常处理链路中的处理器个数。
可选地,实际应用中,异常处理单元102可以具体用于:
按照每条所述业务线的预设异常处理链路中各个处理器顺序,依次对进入所述业务线的网络数据进行处理;
将完成处理的每条所述业务线的网络数据存储至数据库的备份表中。
可选地,实际应用中,该数据处理还可以包括:
数据导回单元,用于按照预设数据导回条件,将所述备份表中存储的网络数据批量导回所述数据库的正式表中;
其中,所述预设数据导回条件包括预设数据导回的时间间隔和预设数据导回的数据数量;所述数据库的正式表用于存储经正常处理链路完成处理后的网络数据。
可选地,实际应用中,该数据处理还可以包括:
数据回查单元,用于根据数据回查指令,利用记录日志查找到与所述数据回查指令对应的网络数据。
本申请提供的数据处理方法,应用于应用于审核系统中的检测器,包括:判断单元100,分别判断进入每一条业务线的网络数据的数据量是否出现异常;其中,网络数据是用户生成的;异常处理单元102,用于针对判断结果为出现异常的各个业务线,分别利用相应的预设异常处理链路对各个业务线的网络数据进行处理;其中,预设异常处理链路是经过摘除处理器、简化后的处理链路;也即,本申请能够在用户生成的网络数据突增时,利用预设异常处理链路对数据突增的业务线数据进行处理,提高了系统稳定性,减少了审核过程中耗时和占用系统资源较多的处理器,解决相关技术在面对进审网络数据突增等特殊情况时,容易导致审核系统瘫痪的问题。
本申请实施例还提供一种存储介质,用于存储计算机程序,该计算机程序被执行时,具体用于实现本申请所提供的的数据处理方法。
需要说明的是,关于数据处理方法的相关说明,参见上述图2至图7对应的实施例即可,此处不再赘述。
本申请实施例还提供了一种电子设备,请参考图8,包括:存储器601和处理器602。
其中,存储器601用于存储计算机程序。
处理器602用于执行该计算机程序,具体用于实现本申请实施例提供的数据处理方法。
需要说明的是,关于数据处理方法的相关说明,参见上述图2至图7对应的实施例即可,此处不再赘述。
本说明书中的各个实施例中记载的特征可以相互替换或者组合,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统或系统实施例而言,由于其基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。以上所描述的系统及系统实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (10)
1.一种数据处理方法,其特征在于,应用于审核系统中的检测器,所述审核系统包括N条业务线,N为正整数,所述数据处理方法包括:
分别判断进入每一条所述业务线的网络数据的数据量是否出现异常;其中,所述网络数据是用户生成的;
针对判断结果为出现异常的各个所述业务线,分别利用相应的预设异常处理链路对各个所述业务线的网络数据进行处理;其中,所述预设异常处理链路是经过摘除处理器、简化后的处理链路。
2.根据权利要求1所述的数据处理方法,其特征在于,分别判断进入每一条所述业务线的网络数据的数据量是否出现异常,包括:
在预设统计时间段内,分别统计流入每一条所述业务线的网络数据,得到每一条所述业务线的网络数据的数据量;
分别判断每一条所述业务线的网络数据的数据量,是否超过相应业务线的预设进审数据阈值;
若判断出所述业务线的网络数据的数据量超过对应业务线的预设进审数据阈值,则判定所述业务线的网络数据的数据量出现异常;
若判断出所述业务线的网络数据的数据量未超过对应业务线的预设进审数据阈值,则判定所述业务线的网络数据的数据量未出现异常。
3.根据权利要求1所述的数据处理方法,其特征在于,分别利用相应的预设异常处理链路对所述业务线的网络数据进行处理,包括:
按照每条所述业务线的预设异常处理链路中各个处理器顺序,依次对进入所述业务线的网络数据进行处理;
将完成处理的每条所述业务线的网络数据存储至数据库的备份表中。
4.根据权利要求3所述的数据处理方法,其特征在于,在将完成处理的每条所述业务线的网络数据存储至数据库的备份表中之后,还包括:
按照预设数据导回条件,将所述备份表中存储的网络数据批量导回所述数据库的正式表中;
其中,所述预设数据导回条件包括预设数据导回的时间间隔和预设数据导回的数据数量;所述数据库的正式表用于存储经正常处理链路完成处理后的网络数据。
5.根据权利要求1-4任一项所述的数据处理方法,其特征在于,在分别判断进入每一条所述业务线的网络数据的数据量是否出现异常之后,还包括:
针对判断结果为未出现异常的各个所述业务线,分别按照相应的正常处理链路对各个所述业务线的网络数据进行处理;
其中,每一个所述业务线的正常处理链路中的处理器个数多于异常处理链路中的处理器个数。
6.根据权利要求1-4任一项所述的数据处理方法,其特征在于,在任意步骤前后,还包括:
根据数据回查指令,利用记录日志查找到与所述数据回查指令对应的网络数据。
7.一种数据处理装置,其特征在于,应用于审核系统中的检测器,所述审核系统包括N条业务线,N为正整数,所述数据处理装置包括:
判断单元,分别判断进入每一条所述业务线的网络数据的数据量是否出现异常;其中,所述网络数据是用户生成的;
异常处理单元,用于针对判断结果为出现异常的各个所述业务线,分别利用相应的预设异常处理链路对各个所述业务线的网络数据进行处理;其中,所述预设异常处理链路是经过摘除处理器、简化后的处理链路。
8.根据权利要求7所述的数据处理装置,其特征在于,还包括:
正常处理单元,用于针对判断结果为未出现异常的各个所述业务线,分别按照相应的正常处理链路对各个所述业务线的网络数据进行处理;
其中,每一个所述业务线的正常处理链路中的处理器个数多于异常处理链路中的处理器个数。
9.一种存储介质,其特征在于,用于存储计算机程序,所述计算机程序被执行时,用于实现如权利要求1-6中任一项所述的数据处理方法。
10.一种电子设备,其特征在于,包括处理器和存储器;其中:
所述存储器用于存储计算机程序;
所述处理器用于执行所述计算机程序,具体用于实现如权利要求1至6中任一项所述的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110951857.1A CN113411224B (zh) | 2021-08-19 | 2021-08-19 | 数据处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110951857.1A CN113411224B (zh) | 2021-08-19 | 2021-08-19 | 数据处理方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113411224A true CN113411224A (zh) | 2021-09-17 |
CN113411224B CN113411224B (zh) | 2021-11-23 |
Family
ID=77688862
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110951857.1A Active CN113411224B (zh) | 2021-08-19 | 2021-08-19 | 数据处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113411224B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114969129A (zh) * | 2022-07-29 | 2022-08-30 | 飞狐信息技术(天津)有限公司 | 一种异常业务数据回流方法及装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101000667A (zh) * | 2006-01-12 | 2007-07-18 | 鸿富锦精密工业(深圳)有限公司 | 动态审核流程的系统及方法 |
US20130166630A1 (en) * | 2011-12-22 | 2013-06-27 | Sybase, Inc. | Method and System for Data Exchange and Exception Handling in a Data Processing Environment |
CN103973481A (zh) * | 2014-04-21 | 2014-08-06 | 蓝盾信息安全技术股份有限公司 | 一种基于sdn的云计算数据中心的审计系统及方法 |
CN109493080A (zh) * | 2018-11-26 | 2019-03-19 | 深圳乐信软件技术有限公司 | 一种用户数据的审核方法、装置、服务器及存储介质 |
CN112202736A (zh) * | 2020-09-15 | 2021-01-08 | 浙江大学 | 基于统计学习和深度学习的工业控制系统通信网络异常分类方法 |
CN112219382A (zh) * | 2018-06-27 | 2021-01-12 | 思科技术公司 | 网络中的安全规则的保证 |
CN112395333A (zh) * | 2020-11-20 | 2021-02-23 | 北京百度网讯科技有限公司 | 用于排查数据异常的方法、装置、电子设备及存储介质 |
CN112463319A (zh) * | 2020-11-17 | 2021-03-09 | 北京金山云网络技术有限公司 | 内容检测模型的生成方法和装置、电子设备及存储介质 |
CN112511456A (zh) * | 2020-12-21 | 2021-03-16 | 北京百度网讯科技有限公司 | 流量控制方法、装置、设备、存储介质和计算机程序产品 |
-
2021
- 2021-08-19 CN CN202110951857.1A patent/CN113411224B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101000667A (zh) * | 2006-01-12 | 2007-07-18 | 鸿富锦精密工业(深圳)有限公司 | 动态审核流程的系统及方法 |
US20130166630A1 (en) * | 2011-12-22 | 2013-06-27 | Sybase, Inc. | Method and System for Data Exchange and Exception Handling in a Data Processing Environment |
CN103973481A (zh) * | 2014-04-21 | 2014-08-06 | 蓝盾信息安全技术股份有限公司 | 一种基于sdn的云计算数据中心的审计系统及方法 |
CN112219382A (zh) * | 2018-06-27 | 2021-01-12 | 思科技术公司 | 网络中的安全规则的保证 |
CN109493080A (zh) * | 2018-11-26 | 2019-03-19 | 深圳乐信软件技术有限公司 | 一种用户数据的审核方法、装置、服务器及存储介质 |
CN112202736A (zh) * | 2020-09-15 | 2021-01-08 | 浙江大学 | 基于统计学习和深度学习的工业控制系统通信网络异常分类方法 |
CN112463319A (zh) * | 2020-11-17 | 2021-03-09 | 北京金山云网络技术有限公司 | 内容检测模型的生成方法和装置、电子设备及存储介质 |
CN112395333A (zh) * | 2020-11-20 | 2021-02-23 | 北京百度网讯科技有限公司 | 用于排查数据异常的方法、装置、电子设备及存储介质 |
CN112511456A (zh) * | 2020-12-21 | 2021-03-16 | 北京百度网讯科技有限公司 | 流量控制方法、装置、设备、存储介质和计算机程序产品 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114969129A (zh) * | 2022-07-29 | 2022-08-30 | 飞狐信息技术(天津)有限公司 | 一种异常业务数据回流方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN113411224B (zh) | 2021-11-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8380680B2 (en) | Piecemeal list prefetch | |
US20130007527A1 (en) | System and method for automated solution of functionality problems in computer systems | |
CN110795257A (zh) | 处理多集群作业记录的方法、装置、设备及存储介质 | |
JP2005526311A5 (zh) | ||
CN109543891B (zh) | 容量预测模型的建立方法、设备及计算机可读存储介质 | |
CN112052138A (zh) | 业务数据质量检测方法、装置、计算机设备及存储介质 | |
CN114356557B (zh) | 一种集群扩容方法及装置 | |
CN113411224B (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN111708771A (zh) | 数据查重方法、装置、设备及计算机存储介质 | |
CN111651595A (zh) | 一种异常日志处理方法及装置 | |
CN112131507A (zh) | 网站内容处理方法、装置、服务器和计算机可读存储介质 | |
JPWO2018122890A1 (ja) | ログ分析方法、システムおよびプログラム | |
CA2734207C (en) | Electronic file comparator | |
CN108255703B (zh) | 一种sql脚本的故障修复方法及其终端 | |
CN105989152B (zh) | 搜索引擎服务质量的监控方法、装置和系统 | |
CN108111328B (zh) | 一种异常处理方法及装置 | |
CN111459939B (zh) | 数据的处理方法及装置 | |
CN108255710B (zh) | 一种脚本的异常检测方法及其终端 | |
CN111324809A (zh) | 一种热点信息监测方法、装置及系统 | |
CN114598556B (zh) | It基础设施配置完整性保护方法及保护系统 | |
CN114491184B (zh) | 一种数据处理方法及装置、存储介质及电子设备 | |
CN115190010A (zh) | 基于软件服务依赖关系的分布推荐方法和装置 | |
CN109067726B (zh) | 建站系统识别方法、装置、电子设备及存储介质 | |
CN113742116A (zh) | 一种异常定位方法及装置、设备、存储介质 | |
CN113051329B (zh) | 基于接口的数据采集方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |