CN108681493A - 数据异常检测方法、装置、服务器和存储介质 - Google Patents

数据异常检测方法、装置、服务器和存储介质 Download PDF

Info

Publication number
CN108681493A
CN108681493A CN201810530324.4A CN201810530324A CN108681493A CN 108681493 A CN108681493 A CN 108681493A CN 201810530324 A CN201810530324 A CN 201810530324A CN 108681493 A CN108681493 A CN 108681493A
Authority
CN
China
Prior art keywords
data
source information
data source
detected
clustering model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810530324.4A
Other languages
English (en)
Other versions
CN108681493B (zh
Inventor
吴佳东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Lexin Software Technology Co Ltd
Original Assignee
Shenzhen Lexin Software Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Lexin Software Technology Co Ltd filed Critical Shenzhen Lexin Software Technology Co Ltd
Priority to CN201810530324.4A priority Critical patent/CN108681493B/zh
Publication of CN108681493A publication Critical patent/CN108681493A/zh
Application granted granted Critical
Publication of CN108681493B publication Critical patent/CN108681493B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751Error or fault detection not based on redundancy

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明实施例公开了一种数据异常检测方法、装置、服务器和存储介质,其中,该方法包括:获取待检测的数据源信息,其中,数据源信息包括至少一种数据库的地址;利用自适应优化后的聚类模型对数据源信息中的不同数据进行检测;根据检测的结果发送异常提示信息。本发明实施例解决了现有技术中数据异常检测比较被动和滞后的问题,实现了从数据源头对数据进行主动与及时地检测,改善了数据质量管理的被动局面,减轻了数据纠错难度,并且该方法对于不同的数据库具有通用性。

Description

数据异常检测方法、装置、服务器和存储介质
技术领域
本发明实施例涉及数据处理技术领域,尤其涉及一种数据异常检测方法、装置、服务器和存储介质。
背景技术
随着信息技术的不断发展,数据挖掘已经被广泛应用于各种电子商务平台中,其中,高质量的数据是数据挖掘有效性的基本保证。企业的数据质量与业务绩效之间存在着直接联系,质量较差的数据往往会对数据分析产生误导作用,从而影响重大商业决策的正确性。
然而,期望完美的数据是不现实的。由于人的错误输入、IT系统的快速迭代以及业务的不断变化都可能导致数据异常问题。此外,数据挖掘用户作为数据的使用方,往往不能对数据质量进行控制,只能为了某一使用目的进行数据的收集。
现有技术中,对数据质量的检测,通常是依赖数据挖掘人员在使用数据过程中发现数据问题,向数据质量管理人员及时反馈该问题,然后由数据质量管理方对异常数据进行纠正。这种被动的人工反馈方式,一方面不能实现及时的数据检测,另一方面会增加数据纠错的难度,例如,回溯源头数据需要跨越更多的系统,或者由于业务的快速变更源头数据已经不复存在,根本无法进行处理,从而导致企业的数据价值大打折扣。
发明内容
本发明实施例提供一种数据异常检测方法、装置、服务器和存储介质,以解决现有技术中数据异常检测比较被动和滞后的问题。
第一方面,本发明实施例提供了一种数据异常检测方法,该方法包括:
获取待检测的数据源信息,其中,所述数据源信息包括至少一种数据库的地址;
利用自适应优化后的聚类模型对所述数据源信息中的不同数据进行检测;
根据所述检测的结果发送异常提示信息。
第二方面,本发明实施例还提供了一种数据异常检测装置,该装置包括:
信息获取模块,用于获取待检测的数据源信息,其中,所述数据源信息包括至少一种数据库的地址;
数据检测模块,用于利用自适应优化后的聚类模型对所述数据源信息中的不同数据进行检测;
结果反馈模块,用于根据所述检测的结果发送异常提示信息。
第三方面,本发明实施例还提供了一种服务器,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明任一实施例所述的数据异常检测方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明任一实施例所述的数据异常检测方法。
本发明实施例通过获取待检测的数据源信息,其中,数据源信息包括至少一种数据库的地址,利用自适应优化后的聚类模型对数据源信息中的不同数据进行检测,并根据检测的结果发送异常提示信息,解决了现有技术中数据异常检测比较被动和滞后的问题,实现了从数据源头对数据进行主动与及时地检测,改善了数据质量管理的被动局面,减轻了数据纠错难度,并且该方法对于不同的数据库具有通用性。
附图说明
图1是本发明实施例一提供的数据异常检测方法的流程图;
图2是本发明实施例二提供的数据异常检测方法的流程图;
图3是本发明实施例三提供的数据异常检测装置的结构示意图;
图4是本发明实施例四中的一种服务器的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1是本发明实施例一提供的数据异常检测方法的流程图,本实施例可适用于进行数据异常检测的情况,该方法可以由数据异常检测装置来执行,该装置可以采用软件和/或硬件的方式实现,并可集成在服务器中。如图1所示,该方法具体包括:
S110、获取待检测的数据源信息,其中,数据源信息包括至少一种数据库的地址。
在进行数据的异常检测之前,数据管理方需要对待检测的数据进行数据源注册,例如存储需要检测的各种数据的访问信息,同时以注册数据表的形式存储。注册过程中存储的信息统称为数据源信息,包括至少一种数据库的地址、数据库名称、数据库中的数据表名、数据库中的图表名、各字段的数据类型和数据关注人员等信息。其中,各字段的数据类型可以用于对不同数据进行区分,不同的数据可以绑定不同的专业关注人员。
服务器在进行数据异常检测时,可以通过扫描与查询注册数据表,获取待检测的数据源信息,进而通过数据源信息中的数据库地址获取源数据,源数据的类型可以包括数据文本类和图形类,分别可通过数据库中的数据表名和图表名进行链接获取。由于本实施例的数据异常检测方法可以通过存储的数据库地址链接到不同的数据库,因此,可以直接用于检测不同数据库中的源数据,具有很好的通用性。
S120、利用自适应优化后的聚类模型对数据源信息中的不同数据进行检测。
服务器获取到数据源信息中具体数据库的源数据之后,初始化聚类模型,进行自适应优化,便可以利用自适应优化后的聚类模型对不同数据进行检测,可以是实时的检测,也可以是设定时间周期的周期性检测。此外,常见的聚类方法包括:基于划分的聚类方法,例如k-means聚类算法,基于密度的聚类方法,例如,基于高密度联通区域的基于密度的聚类算法(Density-based Spatial Clustering of Application with Noise,DBSCAN),层次方法,以及基于网格的方法等,根据数据检测的需求,可以灵活选取对应聚类方法的模型。
由于不同数据具有不同的数据属性,例如不同数据表内的数据分布或者内在模式不同,因此需要根据数据的变化对聚类模型进行动态调以适应数据的变化。聚类模型自适应优化之后,可以针对具体数据的特点进行异常检测,保证检测结果的准确性。
S130、根据检测的结果发送异常提示信息。
服务器完成数据的异常检测之后,对检测出的异常数据的信息进行标注与保存,并发出异常提示消息,以提示数据管理方进行数据维护,纠正数据中的错误,其中,保存的异常数据信息包括异常数据所在的数据库名称、数据库地址以及异常数据在数据库中的具体位置等。示例性的,服务器将检测出数据异常信息保存在异常数据注册表中,并以异常报告的形式发送给数据关注人员,该数据关注人员可以是通过查询数据检测之前存储的注册数据表确定。通过发送提示信息,可以提示数据管理方及时对数据进行纠错,改善数据管理的被动局面,掌握数据管理的主动性、及时性和可控性,同时也减轻了数据纠错的难度,进而可以保证后续的数据使用方进行数据挖掘时选用数据的可靠性。
在上述技术方案的基础上,可选的,聚类模型包括基于密度的聚类算法模型。
作为一个优选方案,本实施例中可以选择基于密度的聚类算法模型中的DBSCAN算法模型。DBSCAN算法的主要优点包括:
1)可以对任意形状的稠密数据集进行聚类,相对的,k-means之类的聚类算法一般只适用于凸数据集。
2)可以在聚类的同时发现异常点。
3)聚类结果没有偏倚,相对的,k-means之类的聚类算法初始值对聚类结果有很大影响。
从基于密度的观点来看,异常值,也就是离群点,是指在低密度区域中的对象。DBSCAN算法是一种简单且有效的基于密度的聚类算法,该算法寻找被低密度区域分离的高密度区域,未被划分到任何簇中的对象被当作异常值,数据异常检测过程中检测出的异常值即代表异常数据。
DBSCAN算法的具体实现过程与现有技术相同,其主要思想如下:
1)将所有点标记为核心点、边界点和噪声点。
2)删除噪声点。
3)为距离在参数Eps之内的所有核心点之间赋予一条边。
4)每组连通的核心点形成一个簇。
5)将每个边界点指派到一个与之关联的核心点的簇中。
其中,核心点的定义是指该点的给定邻域内的点的个数超过给定的阈值MinPts,且阈值MinPts由用户根据待检测的数据预先设定。边界点是指落在某个核心点的邻域内的非核心点。噪声点是指既非核心点有非边界点的点。
给定了核心点、边界点和噪声点的定义,DBSCAN算法描述为:任意两个足够靠近的核心点将放在同一个簇中。同样,任何与核心点足够靠近的边界点也放到与核心点相同的簇中。噪声点被将被标记为异常值。
可选的,利用自适应优化后的聚类模型对数据源信息中的不同数据进行检测,包括:
根据数据源信息中数据对象的不同,利用粒子群算法(particle swarmoptimization,PSO)对聚类模型进行自适应地优化,得到优化的聚类参数;
将优化的聚类参数应用于聚类模型中,对数据源信息中的不同数据进行检测。
可选的,利用粒子群算法对聚类模型进行自适应的优化,包括:
基于粒子群算法,利用如下适应度函数对所述聚类模型进行自适应的优化,
其中,m表示簇的个数,ni表示簇Ci中的数据点个数,a(xi)表示数据点xi和与其属于同一类的数据点之间的平均不相似度,b(xi)表示数据点xi和与其属于同一类的数据点之间的平均不相似度的最小值。i的取值是1,2,3…m。进行优化之前,簇Ci的值可以根据经验进行预先赋值。需要说明的是,采用本实施例中的适应度函数,在粒子群算法中,得到的适应度函数值越小,粒子越优,进而基于聚类的数据异常检测结果越准确。
可选的,平均不相似度基于余弦函数得到。具体的余弦函数的公式如下:
其中,数据点xi是以向量的形式存在,‖xi‖表示xi的长度。对于相似的计算,还可以使用现有技术中的其他相似度计算方法实现,本实施不做具体限制。但是结合采用的聚类模型,选取合适的相似度算法,可以得到更好的优化结果。
在聚类模型优化过程中,首先依据需要优化的聚类参数的个数确定每个粒子的维度d,例如将维度设置为2,然后初始化粒子群算法,通过对种群进行迭代寻优,得到优化后的聚类参数。示例性的,具体优化过程如下:第一阶段:
1)初始化粒子群算法的参数,获取用户根据待检测的数据预先设定的参数值,例如预先设定的参数向量的下界xmin和上界xmax的值:xmin,=[1,1]和xmax=[10,10],迭代速度vmax的值:vmax=2,以及粒子个数S的值:S=10。
2、初始化种群。
3、通过适应度函数,计算当前的局部最优粒子和全局最优粒子。
第一阶段完成之后,进行如下第二阶段:
1)通过不断的迭代更新每个粒子,并计算它们的适应度。
2)通过适应度求得每一代的局部最优粒子和全局最优粒子。
3)当迭代结束之后,全局最优粒子就是最优解,也即最优参数。
本实施例中,用户设定参数向量的上界和下界之后,系统会随机对聚类模型中MinPt和Eps这两个参数进行初始化赋值,然后通过不断迭代,得到优化后的参数MinPt和Eps,然后将优化后的参数MinPt和Eps赋给聚类模型,就可以对数据进行聚类,检测出异常数据。
现有技术中,对聚类模型的优化通常是通过给定聚类参数一个固定的经验值,或者使用网格搜索来穷举参数,然而,给定的经验值不能根据数据的不同实现自适应数据,而网格搜索比较耗时。相比之下,对于同样的寻优次数,采用粒子群算法能够快速地得到更好的优化结果。
本实施例的技术方案通过获取待检测的数据源信息,其中,数据源信息包括至少一种数据库的地址,利用自适应优化后的聚类模型对数据源信息中的不同数据进行检测,并根据检测的结果发送异常提示信息,解决了现有技术中数据异常检测比较被动和滞后的问题,实现了从数据源头对数据进行主动与及时地检测,改善了数据质量管理的被动局面,减轻了数据纠错难度,相比于人工检测,节省了人力成本,并且该方法对于不同的数据库具有通用性。此外,采用粒子群算法对基于密度的聚类模型进行优化,提高了模型优化的速度,保证了较好的优化结果,进而保证了数据异常检测结果的准确性。
实施例二
图1是本发明实施例一提供的数据异常检测方法的流程图,本实施例是在上述实施例的基础上进一步进行优化。如图2所示,该方法具体包括:
S210、获取待检测的数据源信息,其中,数据源信息包括至少一种数据库的地址、数据表名和图表名。
通过数据表名可以链接到数据库中具体的数据表,通过图表名可以链接到数据库中具体的图表。本实施例方法可以同时实现对数据文本类和图形类数据的检测。
S220、根据数据源信息中数据对象的不同,利用粒子群算法对基于密度的聚类算法模型进行自适应地优化,得到优化的聚类参数。
数据对象的区分包括根据数据类型进行区分,例如数据文本类和图形类数据;其次,相同数据类型中的数据对象根据具体数据属性的不同也存在差异,例如数据表作为数据的存储媒介,每个数据表中的数据是不一样的。示例性的,数据表1存储的是动物的身高与体重等特征数据,数据表2存储的是人的身高与体重等特征数据,此时,需要对数据表1和数据表2分别进行自适应地优化,优化之后两个数据表对应的优化聚类参数也不同。
S230、将优化的聚类参数应用于基于密度的聚类算法模型中,对数据源信息中的不同数据表逐一进行检测。
针对根据数据源信息确定的数据库中待检测的每个数据表,本实施例方法均会用粒子群算法对基于密度的聚类模型进行参数寻优,找到最优参数后,聚类模型使用该优化参数对数据表中的数据进行聚类,由于异常数据不会分到任何聚类簇中,服务器可以根据检测结果,将异常数据的信息进行标注与保存,具体保存的异常数据信息可以包括数据表的访问信息和异常数据的主键,数据表的访问信息包括该数据表所在的数据库名称、数据库地址和数据表名。异常数据的信息可以保存在异常数据注册表中。
S240、将优化的聚类参数应用于基于密度的聚类算法模型中,对数据源信息中的不同类型的图表进行检测,其中,对不同类型的图表的检测包括:获取同一图表类型中的每个图表所占用的空间大小,对每个图表占用的空间大小进行检测。
与数据表的异常检测过程类似,本实施例方法也可以对数据库中的每个图表进行检测。在进行检测之前,首先需要根据图表对象的不同,例如针对不同用途的图表,针对不同展示内容的图表等,对图表进行分类;然后对每一种类型的图表进行检测。属于同一类型的图表具有相同的属性,例如,图表所占用的空间大小基本相同。通过对同一类型中图表所占用的空间大小进行聚类检测,便可以确定异常图表。此时,服务器保存的异常数据信息包括图表的访问信息和图表序号,图表的访问信息包括该图表所在的数据库名称、数据库地址和图表名。异常数据的信息同样可以保存在异常数据注册表中。
S250、根据检测的结果发送异常提示信息,其中,异常提示消息包括数据表异常提示消息和/或图表异常提示消息。
对于数据表和图表的异常检测,具体可以根据服务器的可用系统资源情况,采用顺序处理或者并发处理的程序执行方式,进行实时或者周期性检测。如果采用程序顺序执行的方式时,异常提示消息包括数据表异常提示消息或图表异常提示消息,具体根据当前程序具体执行的异常检测的数据类型确定。当采用程序并行执行的方式时,异常提示消息可以同时包括数据表异常提示消息和图表异常提示消息。
本实施例的技术方案通过获取待检测的数据源信息,根据数据源信息中数据对象的不同,利用粒子群算法对基于密度的聚类算法模型进行自适应地优化,然后将优化后的聚类参数应用于该聚类模型中,对数据表类和图表类数据进行检测,并根据检测的结果发送对应的异常提示信息,解决了现有技术中数据异常检测比较被动和滞后的问题,实现了从数据源头对数据表类和图表类的数据进行主动与及时地检测,改善了数据质量管理的被动局面,节省了人力成本,并且该方法对于不同的数据库具有通用性。
实施例三
图3是本发明实施例三提供的数据异常检测装置的结构示意图,本实施例可适用于进行数据异常检测的情况。本发明实施例所提供的数据异常检测装置可执行本发明任意实施例所提供的数据异常检测方法,具备执行方法相应的功能模块和有益效果。如图3所示,该装置具体包括信息获取模块310、数据检测模块320和结果反馈模块330,其中:
信息获取模块310,用于获取待检测的数据源信息,其中,数据源信息包括至少一种数据库的地址。
可选的,数据检测模块320中的聚类模型包括基于密度的聚类算法模型。
数据检测模块320,用于利用自适应优化后的聚类模型对数据源信息中的不同数据进行检测。
结果反馈模块330,用于根据检测的结果发送异常提示信息。
可选的,数据检测模块320包括参数优化单元和数据检测单元,其中:
参数优化单元,用于根据数据源信息中数据对象的不同,利用粒子群算法对聚类模型进行自适应的优化,得到优化的聚类参数;
数据检测单元,用于将优化的聚类参数应用于聚类模型中,对数据源信息中的不同数据进行检测。
可选的,参数优化单元具体用于基于粒子群算法,利用如下适应度函数对聚类模型进行自适应的优化,得到优化的聚类参数;
其中,m表示簇的个数,ni表示簇Ci中的数据点个数,a(xi)表示数据点xi和与其属于同一类的数据点之间的平均不相似度,b(xi)表示数据点xi和与其属于同一类的数据点之间的平均不相似度的最小值。
可选的,参数优化单元中涉及的平均不相似度基于余弦函数得到。
在上述技术方案的基础上,可选的,信息获取模块310中的数据源信息还包括数据表名;
相应的,数据检测模块320用于利用自适应优化后的聚类模型对数据源信息中的不同数据表逐一进行检测。
可选的,信息获取模块310中的数据源信息还包括图表名;
相应的,数据检测模块320用于利用自适应优化后的聚类模型,对数据源信息中的不同类型的图表进行检测,其中,对图表的检测包括:获取同一图表类型中的每个图表所占用的空间大小,对每个图表占用的空间大小进行检测。
本实施例的技术方案通过获取待检测的数据源信息,其中,数据源信息包括至少一种数据库的地址,利用自适应优化后的聚类模型对数据源信息中的不同数据进行检测,并根据检测的结果发送异常提示信息,解决了现有技术中数据异常检测比较被动和滞后的问题,实现了从数据源头对数据进行主动与及时地检测,改善了数据质量管理的被动局面,节省了人力成本,并且该方法对于不同的数据库具有通用性。
实施例四
图4是本发明实施例四提供的一种服务器的结构示意图。图4示出了适于用来实现本发明实施方式的示例性服务器412的框图。图4显示的服务器412仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示,服务器412以通用服务器的形式表现。服务器412的组件可以包括但不限于:一个或者多个处理器416,存储装置428,连接不同系统组件(包括存储装置428和处理器416)的总线418。
总线418表示几类总线结构中的一种或多种,包括存储装置总线或者存储装置控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(Industry SubversiveAlliance,ISA)总线,微通道体系结构(Micro Channel Architecture,MAC)总线,增强型ISA总线、视频电子标准协会(Video Electronics Standards Association,VESA)局域总线以及外围组件互连(Peripheral Component Interconnect,PCI)总线。
服务器412典型地包括多种计算机系统可读介质。这些介质可以是任何能够被服务器412访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储装置428可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(Random Access Memory,RAM)430和/或高速缓存存储器432。服务器412可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统434可以用于读写不可移动的、非易失性磁介质(图4未显示,通常称为“硬盘驱动器”)。尽管图4中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘,例如只读光盘(Compact Disc Read-Only Memory,CD-ROM),数字视盘(Digital Video Disc-Read Only Memory,DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线418相连。存储装置428可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块442的程序/实用工具440,可以存储在例如存储装置428中,这样的程序模块442包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块442通常执行本发明所描述的实施例中的功能和/或方法。
服务器412也可以与一个或多个外部设备414(例如键盘、指向终端、显示器424等)通信,还可与一个或者多个使得用户能与该服务器412交互的终端通信,和/或与使得该服务器412能与一个或多个其它计算终端进行通信的任何终端(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口422进行。并且,服务器412还可以通过网络适配器420与一个或者多个网络(例如局域网(Local Area Network,LAN),广域网(Wide AreaNetwork,WAN)和/或公共网络,例如因特网)通信。如图4所示,网络适配器420通过总线418与服务器412的其它模块通信。应当明白,尽管图中未示出,可以结合服务器412使用其它硬件和/或软件模块,包括但不限于:微代码、终端驱动器、冗余处理器、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Disks,RAID)系统、磁带驱动器以及数据备份存储系统等。
处理器416通过运行存储在存储装置428中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的数据异常检测方法,该方法包括:
获取待检测的数据源信息,其中,数据源信息包括至少一种数据库的地址;
利用自适应优化后的聚类模型对数据源信息中的不同数据进行检测;
根据检测的结果发送异常提示信息。
实施例五
本发明实施例五还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例所提供的数据异常检测方法,该方法包括:
获取待检测的数据源信息,其中,数据源信息包括至少一种数据库的地址;
利用自适应优化后的聚类模型对数据源信息中的不同数据进行检测;
根据检测的结果发送异常提示信息。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或终端上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。

Claims (10)

1.一种数据异常检测方法,其特征在于,包括:
获取待检测的数据源信息,其中,所述数据源信息包括至少一种数据库的地址;
利用自适应优化后的聚类模型对所述数据源信息中的不同数据进行检测;
根据所述检测的结果发送异常提示信息。
2.根据权利要求1中所述的方法,其特征在于,所述聚类模型包括基于密度的聚类算法模型。
3.根据权利要求1或2中所述的方法,其特征在于,利用自适应优化后的聚类模型对所述数据源信息中的不同数据进行检测,包括:
根据所述数据源信息中数据对象的不同,利用粒子群算法对所述聚类模型进行自适应地优化,得到优化的聚类参数;
将所述优化的聚类参数应用于所述聚类模型中,对所述数据源信息中的不同数据进行检测。
4.根据权利要求3中所述的方法,其特征在于,利用粒子群算法对所述聚类模型进行自适应地优化,包括:
基于粒子群算法,利用如下适应度函数对所述聚类模型进行自适应的优化,
其中,m表示簇的个数,ni表示簇Ci中的数据点个数,a(xi)表示数据点xi和与其属于同一类的数据点之间的平均不相似度,b(xi)表示数据点xi和与其属于同一类的数据点之间的平均不相似度的最小值。
5.根据权利要求4中所述的方法,其特征在于,所述平均不相似度基于余弦函数得到。
6.根据权利要求1所述的方法,其特征在于,所述数据源信息还包括数据表名;
相应的,利用自适应优化后的聚类模型对所述数据源信息中的不同数据进行检测,包括:
利用自适应优化后的聚类模型对所述数据源信息中的不同数据表逐一进行检测。
7.根据权利要求1所述的方法,其特征在于,所述数据源信息还包括图表名;
相应的,利用自适应优化后的聚类模型对所述数据源信息中的不同数据进行检测,包括:
利用自适应优化后的聚类模型,对所述数据源信息中的不同类型的图表进行检测,其中,对所述图表的检测包括:获取同一图表类型中的每个图表所占用的空间大小,对所述每个图表占用的空间大小进行检测。
8.一种数据异常检测装置,其特征在于,包括:
信息获取模块,用于获取待检测的数据源信息,其中,所述数据源信息包括至少一种数据库的地址;
数据检测模块,用于利用自适应优化后的聚类模型对所述数据源信息中的不同数据进行检测;
结果反馈模块,用于根据所述检测的结果发送异常提示信息。
9.一种服务器,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1~7中任一所述的数据异常检测方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1~7中任一所述的数据异常检测方法。
CN201810530324.4A 2018-05-29 2018-05-29 数据异常检测方法、装置、服务器和存储介质 Active CN108681493B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810530324.4A CN108681493B (zh) 2018-05-29 2018-05-29 数据异常检测方法、装置、服务器和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810530324.4A CN108681493B (zh) 2018-05-29 2018-05-29 数据异常检测方法、装置、服务器和存储介质

Publications (2)

Publication Number Publication Date
CN108681493A true CN108681493A (zh) 2018-10-19
CN108681493B CN108681493B (zh) 2022-04-19

Family

ID=63807114

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810530324.4A Active CN108681493B (zh) 2018-05-29 2018-05-29 数据异常检测方法、装置、服务器和存储介质

Country Status (1)

Country Link
CN (1) CN108681493B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109740630A (zh) * 2018-12-06 2019-05-10 中科恒运股份有限公司 异常数据处理方法及装置
CN110059712A (zh) * 2019-02-21 2019-07-26 阿里巴巴集团控股有限公司 异常数据的检测方法及装置
CN111427878A (zh) * 2020-03-20 2020-07-17 深圳乐信软件技术有限公司 数据监控告警方法、装置、服务器和存储介质
CN111782719A (zh) * 2020-08-20 2020-10-16 支付宝(杭州)信息技术有限公司 数据处理方法及装置
CN113049935A (zh) * 2021-03-04 2021-06-29 长鑫存储技术有限公司 半导体智能检测系统、智能检测方法及存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103034802A (zh) * 2012-11-29 2013-04-10 广东全通教育股份有限公司 一种基于智能规则匹配的自动巡检系统及方法
CN104268216A (zh) * 2014-09-24 2015-01-07 江苏名通信息科技有限公司 一种基于互联网信息的数据清洗系统
CN105049286A (zh) * 2015-07-21 2015-11-11 国家计算机网络与信息安全管理中心 基于层次聚类的云平台测速数据判定方法
US9477692B2 (en) * 2012-10-01 2016-10-25 Oracle International Corporation Systems and methods for applying an analytical model to performance analysis
CN106912067A (zh) * 2017-02-13 2017-06-30 南京航空航天大学 一种基于模糊神经网络的wsn无线通信模块故障诊断方法
US20170322871A1 (en) * 2016-05-09 2017-11-09 Sap Se Simulated deployment of database artifacts
US20180046678A1 (en) * 2016-08-11 2018-02-15 Salesforce.Com, Inc Per-statement monitoring in a database environment
US20180074931A1 (en) * 2016-09-06 2018-03-15 Accenture Global Solutions Limited Automation identification diagnostic tool

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9477692B2 (en) * 2012-10-01 2016-10-25 Oracle International Corporation Systems and methods for applying an analytical model to performance analysis
CN103034802A (zh) * 2012-11-29 2013-04-10 广东全通教育股份有限公司 一种基于智能规则匹配的自动巡检系统及方法
CN104268216A (zh) * 2014-09-24 2015-01-07 江苏名通信息科技有限公司 一种基于互联网信息的数据清洗系统
CN105049286A (zh) * 2015-07-21 2015-11-11 国家计算机网络与信息安全管理中心 基于层次聚类的云平台测速数据判定方法
US20170322871A1 (en) * 2016-05-09 2017-11-09 Sap Se Simulated deployment of database artifacts
US20180046678A1 (en) * 2016-08-11 2018-02-15 Salesforce.Com, Inc Per-statement monitoring in a database environment
US20180074931A1 (en) * 2016-09-06 2018-03-15 Accenture Global Solutions Limited Automation identification diagnostic tool
CN106912067A (zh) * 2017-02-13 2017-06-30 南京航空航天大学 一种基于模糊神经网络的wsn无线通信模块故障诊断方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
温浩宇: "《商务网站设计与开发 HTML5、ASP.NET版》", 31 December 2016, 西安:西安电子科技大学出版社 *
陈梅: "面向复杂数据的聚类算法研究", 《中国博士学位论文全文数据库 信息科技辑》 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109740630A (zh) * 2018-12-06 2019-05-10 中科恒运股份有限公司 异常数据处理方法及装置
CN110059712A (zh) * 2019-02-21 2019-07-26 阿里巴巴集团控股有限公司 异常数据的检测方法及装置
CN111427878A (zh) * 2020-03-20 2020-07-17 深圳乐信软件技术有限公司 数据监控告警方法、装置、服务器和存储介质
CN111427878B (zh) * 2020-03-20 2024-02-27 深圳乐信软件技术有限公司 数据监控告警方法、装置、服务器和存储介质
CN111782719A (zh) * 2020-08-20 2020-10-16 支付宝(杭州)信息技术有限公司 数据处理方法及装置
CN111782719B (zh) * 2020-08-20 2024-04-12 支付宝(杭州)信息技术有限公司 数据处理方法及装置
CN113049935A (zh) * 2021-03-04 2021-06-29 长鑫存储技术有限公司 半导体智能检测系统、智能检测方法及存储介质

Also Published As

Publication number Publication date
CN108681493B (zh) 2022-04-19

Similar Documents

Publication Publication Date Title
CN108681493A (zh) 数据异常检测方法、装置、服务器和存储介质
US20150142808A1 (en) System and method for efficiently determining k in data clustering
CN111460234B (zh) 图查询方法、装置、电子设备及计算机可读存储介质
US10922337B2 (en) Clustering of data records with hierarchical cluster IDs
CN111083179B (zh) 物联网云平台、基于物联网云平台的设备交互方法及装置
US20210263903A1 (en) Multi-level conflict-free entity clusters
KR20180002758A (ko) 데이터 처리 방법 및 시스템
US7606906B2 (en) Bundling and sending work units to a server based on a weighted cost
US20180307720A1 (en) System and method for learning-based group tagging
CN111368013A (zh) 基于多账户的统一标识方法、系统、设备和存储介质
CN113010896A (zh) 确定异常对象的方法、装置、设备、介质和程序产品
CN109947804A (zh) 数据集合查询的优化方法、装置、服务器和存储介质
US11729268B2 (en) Computer-implemented method, system, and storage medium for prefetching in a distributed graph architecture
Ju et al. Path planning using a hybrid evolutionary algorithm based on tree structure encoding
US8756093B2 (en) Method of monitoring a combined workflow with rejection determination function, device and recording medium therefor
CN114399025A (zh) 一种图神经网络解释方法、系统、终端以及存储介质
CN109815241A (zh) 数据查询方法、装置、设备和存储介质
CN110175128A (zh) 一种相似代码案例获取方法、装置、设备和存储介质
Cheng et al. The reachability query over distributed uncertain graphs
US20170308574A1 (en) Method and apparatus for reducing query processing time by dynamically changing algorithms and computer readable medium therefor
US10460242B1 (en) System and method for clustering interest patterns based on a plurality of priority values
CN112052152A (zh) 一种模拟测试的方法和装置
AU2020103440A4 (en) A method for optimizing the convergence performance of data learning with minimal computational steps
Cao et al. A bootstrapping framework with interactive information modeling for network alignment
CN113239034A (zh) 一种基于人工智能的大数据资源整合方法、系统及云平台

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant