CN117336210B - 物联网卡流量异常检测方法、装置、设备及存储介质 - Google Patents
物联网卡流量异常检测方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117336210B CN117336210B CN202311629499.8A CN202311629499A CN117336210B CN 117336210 B CN117336210 B CN 117336210B CN 202311629499 A CN202311629499 A CN 202311629499A CN 117336210 B CN117336210 B CN 117336210B
- Authority
- CN
- China
- Prior art keywords
- data
- isolated
- internet
- historical
- flow
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000002159 abnormal effect Effects 0.000 title claims abstract description 64
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000007781 pre-processing Methods 0.000 claims abstract description 16
- 238000004590 computer program Methods 0.000 claims description 26
- 238000001514 detection method Methods 0.000 claims description 10
- 238000010586 diagram Methods 0.000 claims description 5
- 238000004220 aggregation Methods 0.000 claims 1
- 230000002776 aggregation Effects 0.000 claims 1
- 230000006855 networking Effects 0.000 claims 1
- 238000012545 processing Methods 0.000 abstract description 7
- 230000005856 abnormality Effects 0.000 description 11
- 230000008569 process Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 230000004044 response Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 238000012887 quadratic function Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0876—Network utilisation, e.g. volume of load or congestion level
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
- G06F18/24133—Distances to prototypes
- G06F18/24137—Distances to cluster centroïds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/2433—Single-class perspective, e.g. one-against-all classification; Novelty detection; Outlier detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0677—Localisation of faults
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/02—Capturing of monitoring data
- H04L43/026—Capturing of monitoring data using flow identification
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/04—Processing captured monitoring data, e.g. for logfile generation
- H04L43/045—Processing captured monitoring data, e.g. for logfile generation for graphical visualisation of monitoring data
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Environmental & Geological Engineering (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请适用于电数字数据处理技术领域,提供了物联网卡流量异常检测方法、装置、设备及存储介质,该方法包括:获取物联网卡的多个历史流量数据,并对多个历史流量数据进行预处理,得到目标数据;基于目标数据,构建目标数据图;目标数据图为历史日期与历史日流量数据的关系图;基于目标数据图进行分类,得到聚集数据和孤立数据,并对聚集数据进行聚类,得到聚类中心;基于聚类中心和孤立数据,得到物联网卡流量异常的数据。本申请能准确的检测物联网卡流量异常。
Description
技术领域
本申请属于电数字数据处理技术领域,尤其涉及物联网卡流量异常检测方法、装置、设备及存储介质。
背景技术
物联网系统中包含大量的监控设备和数据传输设备,当某些设备发生异常时会给整个物联网系统造成干扰。物联网卡数据中的异常数据指的是物联网卡数据中明显与众不同的数据,这些数据是由不同的机制产生的,而非随机偏差。检测物联网卡数据中的异常数据,对于物联网系统的故障定位、故障预测、故障解除具有重要意义。
相关技术中,对于物联网卡数据异常的情况,检测方法有很多。但是检测出的结果经常出现错误,其检测结果中认定的异常数据经常出现错误,即将正常的异常数据认定为异常数据,因此,其方案的实际实用度不高,因此亟待一种检测准确度高的物联网卡流量异常检测方法,以便后续准确进行故障定位、故障预测、故障解除等操作。
发明内容
本申请实施例提供了物联网卡流量异常检测方法、装置、设备及存储介质,以更加准确的检测物联网卡流量异常。
本申请是通过如下技术方案实现的:
第一方面,本申请实施例提供了一种物联网卡流量异常检测方法,包括:
获取物联网卡的多个历史流量数据,并对多个历史流量数据进行预处理,得到目标数据。
基于目标数据,构建目标数据图;目标数据图为历史日期与历史日流量数据的关系图。
基于目标数据图进行分类,得到聚集数据和孤立数据,并对聚集数据进行聚类,得到聚类中心。
基于聚类中心和孤立数据,得到物联网卡流量异常的数据。
结合第一方面,在一些可能的实现方式中,基于目标数据图进行分类,得到聚集数据和孤立数据,包括:
选取切割点,将目标数据图切割为两个第一区域;其中,每个第一区域中均存在物联网卡的历史日流量数据。
针对每个第一区域,选取切割点,将该第一区域切割为两个第二区域;其中,每个第二区域中均存在物联网卡的历史日流量数据。
对每个第二区域继续进行切割,直至切割后的每一区域中仅有一个物联网卡的历史日流量数据,停止切割,得到物联网卡的每一历史日流量数据对应的切割完成次数。
基于物联网卡的每一历史日流量数据对应的切割完成次数和预设次数阈值,确定聚集数据和孤立数据。
结合第一方面,在一些可能的实现方式中,对聚集数据进行聚类,得到聚类中心,包括;
在目标数据图上,确定孤立数据对应的历史日期和聚集数据对应的历史日期。
针对每个孤立数据,确定该孤立数据对应的历史日期,基于该孤立数据对应的历史日期和聚集数据对应的历史日期,得到在该孤立数据预设时间范围内的聚集数据。
分别对在各个孤立数据预设时间范围内的聚集数据,进行聚类,得到聚类中心。
结合第一方面,在一些可能的实现方式中,基于聚类中心和孤立数据,得到物联网卡流量异常的数据,包括:
针对每个孤立数据,从聚类中心中,确定与该孤立数据对应的聚类中心,计算该孤立数据到该孤立数据对应的聚类中心的距离。
基于各个距离和预设距离阈值,得到物联网卡流量异常的数据。
结合第一方面,在一些可能的实现方式中,计算该孤立数据到该孤立数据对应的聚类中心的距离,包括:
根据公式
计算该孤立数据到该孤立数据对应的聚类中心的距离,其中,表示孤立数据/>到孤立数据/>对应的聚类中心/>的距离,/>表示孤立数据/>的历史日期,/>表示孤立数据/>的历史日流量数据,/>表示聚类中心/>的历史日期,/>表示聚类中心/>的历史日流量数据,聚类中心/>为孤立数据/>对应的聚类中心,孤立数据/>为任一孤立数据。
结合第一方面,在一些可能的实现方式中,基于各个距离和预设距离阈值,得到物联网卡流量异常的数据,包括:
将各个距离分别与预设距离阈值进行比较。
针对每个距离,若该距离大于或等于预设距离阈值,则确定该距离对应的孤立数据为物联网卡流量异常的数据。若该距离小于预设距离阈值,则确定该距离对应的孤立数据为物联网卡流量正常的数据。
结合第一方面,在一些可能的实现方式中,对多个历史流量数据进行预处理,得到目标数据,包括:
确定多个历史流量数据中的缺失数据和缺失数据的相邻数据。
基于缺失数据的相邻数据的均值补全缺失数据。
将补全缺失数据后的多个历史流量数据作为目标数据。
第二方面,本申请实施例提供了一种物联网卡流量异常检测装置,包括:
预处理模块,用于获取物联网卡的多个历史流量数据,并对多个历史流量数据进行预处理,得到目标数据。
绘图模块,用于基于目标数据,构建目标数据图;目标数据图为历史日期与历史日流量数据的关系图。
运算模块,用于基于目标数据图进行分类,得到聚集数据和孤立数据,并对聚集数据进行聚类,得到聚类中心。
结果模块,用于基于聚类中心和孤立数据,得到物联网卡流量异常的数据。
第三方面,本申请实施例提供了一种电子设备,包括:处理器和存储器,该存储器用于存储计算机程序,所述处理器执行所述计算机程序时实现如第一方面任一项所述的物联网卡流量异常检测方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面任一项所述的物联网卡流量异常检测方法。
可以理解的是,上述第二方面至第四方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
本申请实施例与现有技术相比存在的有益效果是:
本申请实施例对多个历史流量数据进行预处理得到目标数据,基于目标数据得到目标数据图,并对目标数据图进行分类,得到聚集数据和孤立数据,之后对聚集数据进行聚类,得到聚类中心,最后根据聚类中心和孤立数据,得到物联网卡流量异常的数据。其中,本申请实施例通过对目标数据图进行分类,可以得到孤立数据和聚集数据,之后通过聚类的方法,得到聚类中心,并对孤立数据进行进一步检测,得到物联网卡流量异常的数据,即通过聚类计算得到聚类中心,根据聚类中心和孤立数据,得到位于孤立数据中的物联网卡流量异常的数据,本实施例对物联网卡的历史流量数据进行了分类,并对分类后的孤立数据进行进一步检测,更加准确地得到了物联网卡流量异常的数据,为后续准确进行故障定位、故障预测、故障解除等操作提供了保障。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本说明书。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的物联网卡流量异常检测方法的流程示意图;
图2是本申请一实施例提供的物联网卡流量异常检测装置的结构示意图;
图3是本申请一实施例提供的电子设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本申请实施例提供了一种物联网卡流量异常检测方法,通过将多个历史流量数据依据目标数据图,划分为了孤立数据和聚集数据,之后通过聚类的方法验证孤立数据中的数据是否为异常数据,相比于单一评判异常数据的方法,本方法检测得到的异常数据更加准确,减小了异常数据错误检测的情况,对于物联网卡的检测更加准确高效。
图1是本申请一实施例提供的物联网卡流量异常检测方法的流程示意性图,参照图1,对该物联网卡流量异常检测方法的详述如下:
步骤101,获取物联网卡的多个历史流量数据,并对多个历史流量数据进行预处理,得到目标数据。
其中,上述历史流量数据包括了多个历史日期和每个历史日期对应的历史日流量数据。
示例性的,本实施例对多个历史流量数据进行预处理,得到目标数据,可以包括:确定多个历史流量数据中的缺失数据和缺失数据的相邻数据。基于缺失数据的相邻数据的均值补全缺失数据。将补全缺失数据后的多个历史流量数据作为目标数据。
具体的,假设缺失的数据为7月15日的历史日流量数据,那么本实施例可以求最相邻的数据(7月14日的历史日流量数据和7月16日的历史日流量数据)的均值,用这个均值去补全7月15日的历史日流量数据,以此得到较为准确的7月15日的历史日流量数据,避免了数据的不稳定性,同时补全数据之后意味着数据量更加充足,使后续计算更加具有参考性。
在另一些可行的实施例中,本实施例对多个历史流量数据进行预处理,得到目标数据,还可以包括:确定多个历史流量数据中的缺失数据和缺失数据的相邻数据。基于缺失数据的相邻数据,构建回归曲线,根据回归曲线,补全缺失数据。将补全缺失数据后的多个历史流量数据作为目标数据。
具体的,回归曲线可以为二次函数曲线,以7月14日的历史日流量数据和7月16日的历史日流量数据为已知数据,根据缺失数据的历史日期(7月15日)去补全7月15日的历史日流量数据,从而,提高后续处理结果的准确性。
步骤102,基于目标数据,构建目标数据图;目标数据图为历史日期与历史日流量数据的关系图。
在一些可行的实施例中,以历史日期为横坐标,历史日流量数据为纵坐标,构建坐标系。将目标数据依次输入坐标系中,即可得到目标数据图。
本实施例将目标数据构建成目标数据图之后,历史日期与历史日流量数据的关系清晰可见,从而,后续可以基于目标数据图更加简单直观的得到聚集数据和孤立数据,提高异常检测的效率。
步骤103,基于目标数据图进行分类,得到聚集数据和孤立数据,并对聚集数据进行聚类,得到聚类中心。
示例性的,本实施例基于目标数据图进行分类,得到聚集数据和孤立数据,可以包括:
选取切割点,将目标数据图切割为两个第一区域;其中,每个第一区域中均存在物联网卡的历史日流量数据。
针对每个第一区域,选取切割点,将该第一区域切割为两个第二区域;其中,每个第二区域中均存在物联网卡的历史日流量数据。
对每个第二区域继续进行切割,直至切割后的每一区域中仅有一个物联网卡的历史日流量数据,停止切割,得到物联网卡的每一历史日流量数据对应的切割完成次数。
基于物联网卡的每一历史日流量数据对应的切割完成次数和预设次数阈值,确定聚集数据和孤立数据。
其中,上述历史日流量数据对应的切割完成次数指的是将该历史日流量数据切割出来,独立于剩余的各个历史日流量数据,且该历史日流量数据所在区域仅有这一个历史日流量数据此时的切割次数。
在本实施例中,假设历史日流量数据的数量为六个,第一次分割为两个第一区域时,第一个第一区域中有一个历史日流量数据,第二个第一区域中有五个历史日流量数据,那么此时,第一个第一区域中的历史日流量数据满足了上述的条件,仅有一个物联网卡的历史日流量数据,那么这个历史日流量数据对应的切割完成次数为1,进一步切割第二个第一区域,得到两个第二区域,第一个第二区域中有一个历史日流量数据,第二个第二区域中有四个历史日流量数据,同理,第一个第二区域中的历史日流量数据对应的切割完成次数为2。后续的切割以此类推,直至每一个历史日流量数据独立于其他历史日流量数据,且均有单独的区域,得到每一历史日流量数据对应的切割完成次数。
本实施例考虑到孤立数据相对聚集数据更容易切割得到,即孤立数据对应的切割完成次数小于聚集数据对应的切割完成次数,因此,通过设置预设次数阈值,将使用切割次数较少的历史日流量数据筛选出来,此时定义这些切割次数较少的历史日流量数据为孤立数据,相对的,定义那些切割次数较多的历史日流量数据为聚集数据。其中,上述预设次数阈值可以根据实际情况设置,例如设置为10。
可选的,在某些可行的实施例中,为了得到更加准确的每一历史日流量数据对应的切割完成次数,会多次重复选取切割点,将目标数据图切割为两个第一区域,之后对每个第二区域继续进行切割,直至切割后的每一区域中仅有一个物联网卡的历史日流量数据,停止切割,得到物联网卡的每一历史日流量数据对应的切割完成次数的步骤。这样,本实施例可以将得到的多次每一历史日流量数据对应的切割完成次数,通过求取均值的方式,得到更加准确的每一历史日流量数据对应的切割完成次数,从而避免偶然性,提高划分孤立数据和聚集数据的准确度,进而提高异常检测的准确性。
示例性的,本实施例对聚集数据进行聚类,得到聚类中心,可以包括;
在目标数据图上,确定孤立数据对应的历史日期和聚集数据对应的历史日期。
针对每个孤立数据,确定该孤立数据对应的历史日期,基于该孤立数据对应的历史日期和聚集数据对应的历史日期,得到在该孤立数据预设时间范围内的聚集数据。
分别对在各个孤立数据预设时间范围内的聚集数据,进行聚类,得到聚类中心。
其中,本实施例可以采用多种聚类算法对上述各个孤立数据预设时间范围内的聚集数据进行聚类,如K-Means、均值漂移聚类等聚类算法。
可选的,预设时间范围可以根据实际情况设置,如为10天,也可以为7天。预设时间范围不宜过大,预设时间范围过大会导致后续的聚类中心与孤立数据之间的距离变大,而这种距离的变大并不是因为数据本身的差异造成的,而是因为聚类过程使用的数据不合理造成的,因此特意设置预设时间范围,更能凸显出孤立数据与聚类中心之间数据上的差异,也就是更加准确的分辨该孤立数据是否为异常数据。
这里,本实施例在对上述聚集数据进行聚类时,并不是将整个聚类数据聚为一类,而是考虑每个孤立数据的情况,针对每个孤立数据,找到在该孤立数据对应的历史日期一定时间范围内的聚集数据,进行聚类,进而,后续基于每个孤立数据与其对应的聚类中心,判断该孤立数据是否为流量异常的数据,减少由于聚类过程使用的数据不合理造成的判断结果出错的情况,提高后续处理的准确率。
步骤104,基于聚类中心和孤立数据,得到物联网卡流量异常的数据。
示例性的,本实施例基于聚类中心和孤立数据,得到物联网卡流量异常的数据,可以包括:
针对每个孤立数据,从聚类中心中,确定与该孤立数据对应的聚类中心,计算该孤立数据到该孤立数据对应的聚类中心的距离。
基于各个距离和预设距离阈值,得到物联网卡流量异常的数据。
其中,假设历史流量数据的整体历史日期为一个月,孤立数据是历史日期为15号的数据,那么对应的,预设时间范围可以设置为10号-20号,那么该孤立数据对应的聚类中心可以理解为,10号-20号中的聚集数据进行聚类得到的聚类中心,此时的聚类中心即为该孤立数据对应的聚类中心。
本实施例通过选择孤立数据预设时间范围内的聚集数据来得到该孤立数据对应的聚类中心的方法,可以避免将正确数据认定为异常数据的情况的发生。例如,假设在30号时,存在一个孤立数据,但该30号的孤立数据虽然切割次数较少,但其可能为正常的数据(该数据仅仅是因为数据正常波动导致的切割次数较少),需要通过聚类的方法对其进行进一步判断,如果此时使用30天中的聚集数据得到的聚类中心,此时30号的孤立数据距该聚类中心的距离可能也会超出预设距离阈值,但由于30号的孤立数据并不是异常数据,此时就会出现误报的情况,因此,将聚类中心设置为通过孤立数据预设时间范围内的聚集数据聚类得到,也就是通过孤立数据对应的历史日期的临近日期对应的聚集数据聚类得到。
在一些可行的实施例中,计算该孤立数据到该孤立数据对应的聚类中心的距离,可以包括:
根据公式
计算该孤立数据到该孤立数据对应的聚类中心的距离,其中,表示孤立数据/>到孤立数据/>对应的聚类中心/>的距离,/>表示孤立数据/>的历史日期,/>表示孤立数据/>的历史日流量数据,/>表示聚类中心/>的历史日期,/>表示聚类中心/>的历史日流量数据,聚类中心/>为孤立数据/>对应的聚类中心,孤立数据/>为任一孤立数据。
这里,本实施例基于各个距离和预设距离阈值,得到物联网卡流量异常的数据,可以包括:
将各个距离分别与预设距离阈值进行比较。
针对每个距离,若该距离大于或等于预设距离阈值,则确定该距离对应的孤立数据为物联网卡流量异常的数据。若该距离小于预设距离阈值,则确定该距离对应的孤立数据为物联网卡流量正常的数据。
由此,通过设置合理的预设距离阈值,可以对孤立数据进行进一步判断,更加准确的将异常数据筛选出来,使异常检测更加精确。
在本实施例中,通过对多个历史流量数据进行预处理得到目标数据,基于目标数据得到目标数据图,并对目标数据图进行分类,得到聚集数据和孤立数据,之后对聚集数据进行聚类,得到聚类中心,最后根据聚类中心和孤立数据,得到物联网卡流量异常的数据。其中,本申请实施例通过对目标数据图进行分类,可以得到孤立数据和聚集数据,之后通过聚类的方法,得到聚类中心,并对孤立数据进行进一步检测,得到物联网卡流量异常的数据,即通过聚类计算得到聚类中心,根据聚类中心和孤立数据,得到位于孤立数据中的物联网卡流量异常的数据,本实施例对物联网卡的历史流量数据进行了分类,并对分类后的孤立数据进行进一步检测,更加准确地得到了物联网卡流量异常的数据,为后续准确进行故障定位、故障预测、故障解除等操作提供了保障。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
对应于上文实施例所述的物联网卡流量异常检测方法,图2示出了本申请实施例提供的物联网卡流量异常检测装置的结构框图,为了便于说明,仅示出了与本申请实施例相关的部分。
参见图2,本申请实施例中的物联网卡流量异常检测装置可以包括:
预处理模块201,用于获取物联网卡的多个历史流量数据,并对多个历史流量数据进行预处理,得到目标数据。
绘图模块202,用于基于目标数据,构建目标数据图;目标数据图为历史日期与历史日流量数据的关系图。
运算模块203,用于基于目标数据图进行分类,得到聚集数据和孤立数据,并对聚集数据进行聚类,得到聚类中心。
结果模块204,用于基于聚类中心和孤立数据,得到物联网卡流量异常的数据。
示例性的,预处理模块201可以包括:
检验单元,用于确定多个历史流量数据中的缺失数据和缺失数据的相邻数据。
计算单元,用于基于缺失数据的相邻数据的均值补全缺失数据。
补全单元,用于将补全缺失数据后的多个历史流量数据作为目标数据。
示例性的,运算模块203可以包括:
第一切割单元,用于选取切割点,将目标数据图切割为两个第一区域;其中,每个第一区域中均存在物联网卡的历史日流量数据。
第二切割单元,用于针对每个第一区域,选取切割点,将该第一区域切割为两个第二区域;其中,每个第二区域中均存在物联网卡的历史日流量数据。
第三切割单元,用于对每个第二区域继续进行切割,直至切割后的每一区域中仅有一个物联网卡的历史日流量数据,停止切割,得到物联网卡的每一历史日流量数据对应的切割完成次数。
第一判断单元,用于基于物联网卡的每一历史日流量数据对应的切割完成次数和预设次数阈值,确定聚集数据和孤立数据。
示例性的,运算模块203可以包括:
确定单元,用于在目标数据图上,确定孤立数据对应的历史日期和聚集数据对应的历史日期。
获取单元,用于针对每个孤立数据,确定该孤立数据的预设时间范围,基于该孤立数据对应的历史日期和聚集数据对应的历史日期,得到在该孤立数据预设时间范围内的聚集数据。
第一聚类中心单元,用于分别对在各个孤立数据预设时间范围内的聚集数据,进行聚类,得到聚类中心。
示例性的,结果模块204可以包括:
距离单元,用于针对每个孤立数据,从聚类中心中,确定与该孤立数据对应的聚类中心,计算该孤立数据到该孤立数据对应的聚类中心的距离。
第二判断单元,用于基于各个距离和预设距离阈值,得到物联网卡流量异常的数据。
示例性的,计算该孤立数据到该孤立数据对应的聚类中心的距离,可以包括:
根据公式
计算该孤立数据到该孤立数据对应的聚类中心的距离,其中,表示孤立数据/>到孤立数据/>对应的聚类中心/>的距离,/>表示孤立数据/>的历史日期,/>表示孤立数据/>的历史日流量数据,/>表示聚类中心/>的历史日期,/>表示聚类中心/>的历史日流量数据,聚类中心/>为孤立数据/>对应的聚类中心,孤立数据/>为任一孤立数据。
示例性的,第二判断单元可以包括:
比较子单元,用于将各个距离分别与预设距离阈值进行比较。
结果子单元,用于针对每个距离,若该距离大于或等于预设距离阈值,则确定该距离对应的孤立数据为物联网卡流量异常的数据。若该距离小于预设距离阈值,则确定该距离对应的孤立数据为物联网卡流量正常的数据。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本申请实施例还提供了一种电子设备,参见图3,该电子设备300可以包括:至少一个处理器310、存储器320,该存储器320用于存储计算机程序321,所述处理器310用于调用并运行所述存储器320中存储的计算机程序321实现上述任意各个方法实施例中的步骤,例如图1所示实施例中的步骤101至步骤104。或者,处理器310执行所述计算机程序时实现上述各装置实施例中各模块/单元的功能,例如图2所示各模块的功能。
示例性的,计算机程序321可以被分割成一个或多个模块/单元,一个或者多个模块/单元被存储在存储器320中,并由处理器310执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序段,该程序段用于描述计算机程序在电子设备300中的执行过程。
本领域技术人员可以理解,图3仅仅是电子设备的示例,并不构成对电子设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如输入输出设备、网络接入设备、总线等。
处理器310可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器 (Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列 (Field-Programmable Gate Array,FPGA) 或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器320可以是电子设备的内部存储单元,也可以是电子设备的外部存储设备,例如插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。所述存储器320用于存储所述计算机程序以及电子设备所需的其他程序和数据。所述存储器320还可以用于暂时地存储已经输出或者将要输出的数据。
总线可以是工业标准体系结构(Industry Standard Architecture,ISA)总线、外部设备互连(Peripheral Component,PCI)总线或扩展工业标准体系结构(ExtendedIndustry Standard Architecture,EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,本申请附图中的总线并不限定仅有一根总线或一种类型的总线。
本申请实施例提供的物联网卡流量异常检测方法可以应用于计算机、可穿戴设备、车载设备、平板电脑、笔记本电脑、上网本等电子设备上,本申请实施例对电子设备的具体类型不作任何限制。
本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现可实现上述物联网卡流量异常检测方法各个实施例中的步骤。
本申请实施例提供了一种计算机程序产品,当计算机程序产品在移动电子上运行时,使得移动电子执行时实现可实现上述物联网卡流量异常检测方法各个实施例中的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括:能够将计算机程序代码携带到拍照装置/电子设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/网络设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/网络设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (8)
1.一种物联网卡流量异常检测方法,其特征在于,包括:
获取物联网卡的多个历史流量数据,并对所述多个历史流量数据进行预处理,得到目标数据;
基于所述目标数据,构建目标数据图;所述目标数据图为历史日期与历史日流量数据的关系图;
基于所述目标数据图进行分类,得到聚集数据和孤立数据,并对所述聚集数据进行聚类,得到聚类中心;
基于所述聚类中心和所述孤立数据,得到所述物联网卡流量异常的数据;
所述对所述聚集数据进行聚类,得到聚类中心,包括:
在所述目标数据图上,确定所述孤立数据对应的历史日期和所述聚集数据对应的历史日期;
针对每个孤立数据,确定该孤立数据对应的历史日期,基于该孤立数据对应的历史日期和所述聚集数据对应的历史日期,得到在该孤立数据预设时间范围内的聚集数据;其中,所述预设时间范围中包含所述该孤立数据对应的历史日期;
分别对在各个孤立数据预设时间范围内的聚集数据,进行聚类,得到所述聚类中心;
所述基于所述聚类中心和所述孤立数据,得到所述物联网卡流量异常的数据,包括:
针对每个孤立数据,从所述聚类中心中,确定与该孤立数据对应的聚类中心,计算该孤立数据到该孤立数据对应的聚类中心的距离;
基于各个距离和预设距离阈值,得到所述物联网卡流量异常的数据。
2.如权利要求1所述的物联网卡流量异常检测方法,其特征在于,所述基于所述目标数据图进行分类,得到聚集数据和孤立数据,包括:
选取切割点,将所述目标数据图切割为两个第一区域;其中,每个第一区域中均存在所述物联网卡的历史日流量数据;
针对每个第一区域,选取切割点,将该第一区域切割为两个第二区域;其中,每个第二区域中均存在所述物联网卡的历史日流量数据;
对每个第二区域继续进行切割,直至切割后的每一区域中仅有一个所述物联网卡的历史日流量数据,停止切割,得到所述物联网卡的每一历史日流量数据对应的切割完成次数;
基于所述物联网卡的每一历史日流量数据对应的切割完成次数和预设次数阈值,确定所述聚集数据和所述孤立数据。
3. 如权利要求1所述的物联网卡流量异常检测方法,其特征在于,所述计算该孤立数据到该孤立数据对应的聚类中心的距离,包括:
根据公式
计算该孤立数据到该孤立数据对应的聚类中心的距离,其中,表示孤立数据/>到孤立数据/>对应的聚类中心/>的距离,/>表示孤立数据/>的历史日期,/>表示孤立数据的历史日流量数据,/>表示聚类中心/>的历史日期,/>表示聚类中心/>的历史日流量数据,聚类中心/>为孤立数据/>对应的聚类中心,孤立数据/>为任一孤立数据。
4.如权利要求1所述的物联网卡流量异常检测方法,其特征在于,所述基于各个距离和预设距离阈值,得到所述物联网卡流量异常的数据,包括:
将所述各个距离分别与所述预设距离阈值进行比较;
针对每个距离,若该距离大于或等于所述预设距离阈值,则确定该距离对应的孤立数据为所述物联网卡流量异常的数据;若该距离小于所述预设距离阈值,则确定该距离对应的孤立数据为所述物联网卡流量正常的数据。
5.如权利要求1至4中任一项所述的物联网卡流量异常检测方法,其特征在于,所述对所述多个历史流量数据进行预处理,得到目标数据,包括:
确定所述多个历史流量数据中的缺失数据和所述缺失数据的相邻数据;
基于所述缺失数据的相邻数据的均值补全所述缺失数据;
将补全所述缺失数据后的多个历史流量数据作为所述目标数据。
6.一种物联网卡流量异常检测装置,其特征在于,包括:
预处理模块,用于获取物联网卡的多个历史流量数据,并对所述多个历史流量数据进行预处理,得到目标数据;
绘图模块,用于基于所述目标数据,构建目标数据图;所述目标数据图为历史日期与历史日流量数据的关系图;
运算模块,用于基于所述目标数据图进行分类,得到聚集数据和孤立数据,并对所述聚集数据进行聚类,得到聚类中心;
结果模块,用于基于所述聚类中心和所述孤立数据,得到所述物联网卡流量异常的数据;
所述运算模块,还用于:
在所述目标数据图上,确定所述孤立数据对应的历史日期和所述聚集数据对应的历史日期;
针对每个孤立数据,确定该孤立数据对应的历史日期,基于该孤立数据对应的历史日期和所述聚集数据对应的历史日期,得到在该孤立数据预设时间范围内的聚集数据;其中,所述预设时间范围中包含所述该孤立数据对应的历史日期;
分别对在各个孤立数据预设时间范围内的聚集数据,进行聚类,得到所述聚类中心;
结果模块,还用于:
针对每个孤立数据,从所述聚类中心中,确定与该孤立数据对应的聚类中心,计算该孤立数据到该孤立数据对应的聚类中心的距离;
基于各个距离和预设距离阈值,得到所述物联网卡流量异常的数据。
7.一种电子设备,包括:处理器和存储器,所述存储器中存储有可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至5任一项所述的物联网卡流量异常检测方法。
8.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述的物联网卡流量异常检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311629499.8A CN117336210B (zh) | 2023-12-01 | 2023-12-01 | 物联网卡流量异常检测方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311629499.8A CN117336210B (zh) | 2023-12-01 | 2023-12-01 | 物联网卡流量异常检测方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117336210A CN117336210A (zh) | 2024-01-02 |
CN117336210B true CN117336210B (zh) | 2024-04-16 |
Family
ID=89279770
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311629499.8A Active CN117336210B (zh) | 2023-12-01 | 2023-12-01 | 物联网卡流量异常检测方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117336210B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020155755A1 (zh) * | 2019-01-28 | 2020-08-06 | 平安科技(深圳)有限公司 | 基于谱聚类的异常点比例优化方法、装置及计算机设备 |
CN113537321A (zh) * | 2021-07-01 | 2021-10-22 | 汕头大学 | 一种基于孤立森林和x均值的网络流量异常检测方法 |
WO2021218314A1 (zh) * | 2020-04-27 | 2021-11-04 | 深圳壹账通智能科技有限公司 | 基于位置定位的事件识别方法、装置、设备及存储介质 |
CN115238779A (zh) * | 2022-07-12 | 2022-10-25 | 中移互联网有限公司 | 一种云盘的异常检测方法、装置、设备及介质 |
-
2023
- 2023-12-01 CN CN202311629499.8A patent/CN117336210B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020155755A1 (zh) * | 2019-01-28 | 2020-08-06 | 平安科技(深圳)有限公司 | 基于谱聚类的异常点比例优化方法、装置及计算机设备 |
WO2021218314A1 (zh) * | 2020-04-27 | 2021-11-04 | 深圳壹账通智能科技有限公司 | 基于位置定位的事件识别方法、装置、设备及存储介质 |
CN113537321A (zh) * | 2021-07-01 | 2021-10-22 | 汕头大学 | 一种基于孤立森林和x均值的网络流量异常检测方法 |
CN115238779A (zh) * | 2022-07-12 | 2022-10-25 | 中移互联网有限公司 | 一种云盘的异常检测方法、装置、设备及介质 |
Non-Patent Citations (1)
Title |
---|
《基于孤立森林的铝电解槽状态异常检测算法那研究与应用》;苏家堃;《基于孤立森林的铝电解槽状态异常检测算法那研究与应用》;第二章2.4节和第三至六章 * |
Also Published As
Publication number | Publication date |
---|---|
CN117336210A (zh) | 2024-01-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110708204A (zh) | 一种基于运维知识库的异常处理方法、系统、终端及介质 | |
CN108182515B (zh) | 智能规则引擎规则输出方法、设备及计算机可读存储介质 | |
EP3321807B1 (en) | Disk detection method and device | |
US20220156367A1 (en) | System and method for detection of anomalous controller area network (can) messages | |
CN111238492B (zh) | 一种定点漂移纠偏方法、装置、终端设备及存储介质 | |
CN112769612A (zh) | 一种告警事件去误报方法及装置 | |
CN110647913A (zh) | 基于聚类算法的异常数据检测方法及装置 | |
CN115718874A (zh) | 异常检测 | |
CN113888860A (zh) | 车辆异常行驶的检测方法、装置、服务器及可读存储介质 | |
CN113778776A (zh) | 对任务异常进行预警的方法和装置以及存储介质 | |
CN117336210B (zh) | 物联网卡流量异常检测方法、装置、设备及存储介质 | |
CN112600828B (zh) | 基于数据报文的电力控制系统攻击检测防护方法及装置 | |
CN112862161A (zh) | 货物分拣管理方法、装置、电子设备和存储介质 | |
CN111369790B (zh) | 过车记录校正方法、装置、设备及存储介质 | |
CN111159009B (zh) | 一种日志服务系统的压力测试方法及装置 | |
CN116708488A (zh) | 水利物联网设备状态同步方法、装置、设备及存储介质 | |
CN112629828B (zh) | 一种光学信息检测方法、装置及设备 | |
CN112488141B (zh) | 物联卡应用范围的确定方法、装置及计算机可读存储介质 | |
CN114513341A (zh) | 恶意流量检测方法、装置、终端及计算机可读存储介质 | |
CN113705625A (zh) | 异常生活保障申请家庭的识别方法、装置及电子设备 | |
CN118094450B (zh) | 一种故障预警方法及相关设备 | |
CN112858725A (zh) | 一种车速一致性检测方法、终端设备及存储介质 | |
CN112613723A (zh) | 风险告警方法、系统、设备及介质 | |
CN117499334B (zh) | 一种车辆智能通信方法、终端设备与存储介质 | |
CN111371594B (zh) | 设备异常告警方法、装置及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |