CN113872806B - 网络数据异常告警方法、装置、电子设备及存储介质 - Google Patents

网络数据异常告警方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN113872806B
CN113872806B CN202111128560.1A CN202111128560A CN113872806B CN 113872806 B CN113872806 B CN 113872806B CN 202111128560 A CN202111128560 A CN 202111128560A CN 113872806 B CN113872806 B CN 113872806B
Authority
CN
China
Prior art keywords
data
time sequence
abnormal
time
sequence data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111128560.1A
Other languages
English (en)
Other versions
CN113872806A (zh
Inventor
陆顺
明萌
冯云喜
王峰
曹诗苑
赵龙刚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Telecom Corp Ltd
Original Assignee
China Telecom Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Telecom Corp Ltd filed Critical China Telecom Corp Ltd
Priority to CN202111128560.1A priority Critical patent/CN113872806B/zh
Publication of CN113872806A publication Critical patent/CN113872806A/zh
Application granted granted Critical
Publication of CN113872806B publication Critical patent/CN113872806B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/06Management of faults, events, alarms or notifications
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/06Management of faults, events, alarms or notifications
    • H04L41/0604Management of faults, events, alarms or notifications using filtering, e.g. reduction of information by using priority, element types, position or time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/142Network analysis or design using statistical or mathematical methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Optimization (AREA)
  • Probability & Statistics with Applications (AREA)
  • Mathematical Analysis (AREA)
  • Pure & Applied Mathematics (AREA)
  • Algebra (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本公开提供了一种网络数据异常告警方法、装置、电子设备及计算机可读存储介质,涉及互联网技术领域。该方法包括:采集网络设备在预设时间段内的第一时序数据;将第一时序数据转换为对应的谱残差序列;将第一时序数据对应的谱残差序列输入至预先对时序卷积网络进行训练得到的异常数据分类模型中,输出第一时序数据的异常分类结果,其中,异常分类结果包括:异常时序数据;以及当第一时序数据的异常分类结果为异常时序数据的情况下,输出异常告警信息。本公开能够提高网络数据异常告警的准确率。

Description

网络数据异常告警方法、装置、电子设备及存储介质
技术领域
本公开涉及互联网技术领域,尤其涉及一种网络数据异常告警方法、装置、电子设备及计算机可读存储介质。
背景技术
对各种网络设备的异常数据进行监控和告警,有助于运营商及时采取相关措施,提高运维服务。以IPTV(Interactive Personal TV,交互式网络电视)为例,通过对IPTV的在线播放用户数进行监控,进而对在线播放用户数的突降情况进行及时告警,对于IPTV设备运营商提高运维服务是十分重要的。
相关技术中,对于IPTV在线播放用户数的突降告警,通常依赖于使用动态阈值预测或统计分布检验等一些方法,将实时采集的在线播放用户数与正常在线播放用户数据进行比对,来找出不符合时序变动规律的异常突降点。但是,该方案可能存在误告警,从而需要人工参与来消除误告警,鲁棒性不高。
因而,如何提供一种能够降低误告警的网络数据异常告警方法,是目前亟待解决的技术问题。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开提供一种网络数据异常告警方法、装置、电子设备及计算机可读存储介质,至少在一定程度上克服相关技术中网络数据异常告警准确率比较低的技术问题。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开的一个方面,提供了一种网络数据异常告警方法,包括:采集网络设备在预设时间段内的第一时序数据;将所述第一时序数据转换为对应的谱残差序列;将所述第一时序数据对应的谱残差序列输入至预先训练好的异常数据分类模型中,输出所述第一时序数据的异常分类结果,其中,所述异常数据分类模型是对时序卷积网络进行训练得到的模型,所述异常分类结果包括:异常时序数据;以及当所述第一时序数据的异常分类结果为异常时序数据的情况下,输出异常告警信息。
在本公开的一个实施例中,在将所述第一时序数据对应的谱残差序列输入至预先训练好的异常数据分类模型中,输出所述第一时序数据的异常分类结果之前,所述方法还包括:采集网络设备在历史时间段内的多组第二时序数据,其中,每组第二时序数据的持续时长为一个预设时间段;在每组第二时序数据中,注入异常时序片段,得到每组第二时序数据对应的第三时序数据,其中,第三时序数据为注入异常时序片段的第二时序数据;将每组第三时序数据转换为对应的谱残差序列;利用多组第三时序数据的谱残差序列和对应的异常分类标签信息,对预先构建的时序卷积网络进行训练,得到所述异常数据分类模型。
在本公开的一个实施例中,在每组第二时序数据中,注入异常时序片段,得到每组第二时序数据对应的第三时序数据,包括:在每组第二时序数据中随机选取一个或多个异常数据时间点;遍历每组第二时序数据中的每个异常数据点,将该异常数据时间点之前的第一数据替换为第一等差序列片段,并该异常数据时间点之后的第二数据替换为第二等差序列片段,直到得到每组第二时序数据对应的第三时序数据,其中,每组第三时序数据中包含一个或多个异常时序片段。
在本公开的一个实施例中,所述方法还包括:根据每组第二时序数据中随机选取的每个异常数据时间点,生成每个异常数据时间点对应的第一等差序列片段和第二等差序列片段。
在本公开的一个实施例中,在利用多组第三时序数据的谱残差序列和对应的异常分类标签信息,对预先构建的时序卷积网络进行训练,得到所述异常数据分类模型之前,所述方法还包括:为每组第三时序数据添加异常分类标签信息。
在本公开的一个实施例中,在采集网络设备在预设时间段内的第一时序数据之后,所述方法还包括:对所述第一时序数据执行数据预处理操作,其中,所述数据预处理操作包括如下至少之一:缺失值填充、平滑处理和样本过滤。
在本公开的一个实施例中,所述网络设备为交互式网络电视IPTV设备,所述第一时序数据为IPTV设备的在线播放用户数。
根据本公开的另一个方面,提供了一种网络数据异常告警装置,包括:数据采集模块,用于采集网络设备在预设时间段内的第一时序数据;谱残差序列生成模块,用于将所述第一时序数据转换为对应的谱残差序列;异常数据分类模块,用于将所述第一时序数据对应的谱残差序列输入至预先训练好的异常数据分类模型中,输出所述第一时序数据的异常分类结果,其中,所述异常数据分类模型是对时序卷积网络进行训练得到的模型,所述异常分类结果包括:异常时序数据;和告警模块,用于当所述第一时序数据的异常分类结果为异常时序数据的情况下,输出异常告警信息。
在本公开的一个实施例中,所述装置还包括:异常样本数据构建模块和模型训练模块;所述数据采集模块还用于采集网络设备在历史时间段内的多组第二时序数据,其中,每组第二时序数据的持续时长为一个预设时间段;所述异常样本数据构建模块用于在每组第二时序数据中,注入异常时序片段,得到每组第二时序数据对应的第三时序数据,其中,第三时序数据为注入异常时序片段的第二时序数据;所述模型训练模块用于将每组第三时序数据转换为对应的谱残差序列;利用多组第三时序数据的谱残差序列和对应的异常分类标签信息,对预先构建的时序卷积网络进行训练,得到所述异常数据分类模型。
在本公开的一个实施例中,所述异常样本数据构建模块还用于:在每组第二时序数据中随机选取一个或多个异常数据时间点;遍历每组第二时序数据中的每个异常数据点,将该异常数据时间点之前的第一数据替换为第一等差序列片段,并该异常数据时间点之后的第二数据替换为第二等差序列片段,直到得到每组第二时序数据对应的第三时序数据,其中,每组第三时序数据中包含一个或多个异常时序片段。
在本公开的一个实施例中,所述装置还包括:异常时序片段生成模块,用于根据每组第二时序数据中随机选取的每个异常数据时间点,生成每个异常数据时间点对应的第一等差序列片段和第二等差序列片段。
在本公开的一个实施例中,所述装置还包括:数据打标模块,用于为每组第三时序数据添加异常分类标签信息。
在本公开的一个实施例中,所述装置还包括:数据预处理模块,用于对所述第一时序数据执行数据预处理操作,其中,所述数据预处理操作包括如下至少之一:缺失值填充、平滑处理和样本过滤。
在本公开的一个实施例中,所述网络设备为交互式网络电视IPTV设备,所述第一时序数据为IPTV设备的在线播放用户数。
根据本公开的再一个方面,提供了一种电子设备,包括:处理器;以及存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一项的网络数据异常告警方法。
根据本公开的又一个方面,提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任意一项的网络数据异常告警方法。
本公开的实施例所提供的网络数据异常告警方法、装置、电子设备及计算机可读存储介质,将采集的网络设备的时序数据转换为对应的普残差序列,输入到预先对时序卷积网络进行机器学习训练得到的异常数据分类模型中,得到时序数据的异常分类结果,进而根据异常分类结果确定是否输出告警信息,时序数据中异常数据点更加明显,能够降低误告警,提高准确率。
进一步地,针对网络设备的异常样本数据量远远小于正常样本数据量的情况,本公开提供的网络数据异常告警方法,采用异常时序片段注入的方式,增加异常样本数据的数量,能够解决模型训练时样本数据样本严重不平衡的问题。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出本公开实施例中一种网络数据异常告警方法流程图;
图2示出本公开实施例中一种异常数据分类模型的训练流程图;
图3示出本公开实施例中一种异常样本数据的构建流程图;
图4示出本公开实施例中一种IPTV在线播放用户数突降情况预测过程示意图;
图5示出本公开实施例中一种IPTV在线播放用户数突降情况告警流程图;
图6示出本公开实施例中一种网络数据异常告警装置示意图;
图7示出本公开实施例中一种可选的网络数据异常告警装置示意图;和
图8示出本公开实施例中一种电子设备的结构框图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
本公开提供的方案,将采集的网络设备的时序数据转换为对应的普残差序列,输入到预先对时序卷积网络进行机器学习训练得到的异常数据分类模型中,得到时序数据的异常分类结果,进而根据异常分类结果确定是否输出告警信息,由于普残差序列能够使得时序数据中异常数据点更加明显,因而,通过本公开的网络数据异常告警方法,能够大大降低误告警。
进一步地,针对网络设备的异常样本数据量远远小于正常样本数据量的情况,本公开实施例中提供的网络数据异常告警方法,采用异常时序片段注入的方式,增加异常样本数据的数量,能够解决模型训练时样本数据样本严重不平衡的问题。
为便于理解,下面首先对本公开涉及到的术语名词进行解释如下:
IPTV:即交互式网络电视,是一种利用宽带有线电视网,集互联网、多媒体、通讯等多种技术于一体,向家庭用户提供包括数字电视在内的多种交互式服务的崭新技术。IPTV用户设备被用来接收、存储和播放及转发IP视音频流媒体节目,包括STB、PC机、播放机等。
TCN:即时序卷积网络,是一种能够处理时间序列数据的网络结构。
谱残差序列:原始时序数据的压缩表示,使得原始时序数据中的突变部分变得更为显著。
下面结合附图及实施例对本示例实施方式进行详细说明。
首先,本公开实施例中提供了一种网络数据异常告警方法,该方法可以由任意具备计算处理能力的电子设备执行。
图1示出本公开实施例中一种网络数据异常告警方法流程图,如图1所示,本公开实施例中提供的网络数据异常告警方法包括如下步骤:
步骤S102,采集网络设备在预设时间段内的第一时序数据。
需要说明的是,本发明实施例中的网络设备可以是网络上任意一种待监测的设备,可以是但不限于交互式网络电视IPTV设备,本公开实施例中,以IPTV设备为例进行说明。
当网络设备为IPTV设备的情况下,上述S102中采集的第一时序数据可以是IPTV设备的在线播放用户数。
步骤S104,将第一时序数据转换为对应的谱残差序列。
需要说明的是,对于时序数据的监测,异常数据点变化越明显,越容易监测出异常时序数据,因而,本公开实施例中提供的网络数据异常告警方法,将实际采集到的时序数据转换为对应的谱残差序列后,再进行异常数据点的检测,能够使得异常数据点在数值上更加偏离正常数据的数值分布,从而大大提高异常数据点的检测准确率。
此处需要注意的是,本公开旨在保护将时序数据转换为谱残差序列后进行异常数据点检测的方案,而关于时序数据转换为谱残差序列的过程,本公开实施例不再赘述。
步骤S106,将第一时序数据对应的谱残差序列输入至预先训练好的异常数据分类模型中,输出第一时序数据的异常分类结果,其中,异常数据分类模型是对时序卷积网络进行训练得到的模型,异常分类结果包括:异常时序数据。
需要说明的是,上述S106中的异常数据分类模型是预先通过时序卷积网络进行机器学习训练得到的一个能够根据时序数据的残差序列预测时序数据的异常分类结果的模型。本公开实施例中提供的网络数据异常告警方法,利用训练好的异常数据分类模型对实时采集的时序数据进行分类,能够快速实现异常数据点的检测,从而及时发出告警。可选地,上述异常分类结果还可包括:非异常时序数据。
步骤S108,当第一时序数据的异常分类结果为异常时序数据的情况下,输出异常告警信息。
当第一时序数据的异常分类结果为异常时序数据的情况下,输出用于表征网络设备在预设时间段内存在异常时序数据的异常告警信息。
可选地,在本公开的一个实施例中,当异常分类结果包括:异常时序数据和非异常时序数据的情况下,如果第一时序数据的异常分类结果为异常时序数据,则输出异常告警信息;如果第一时序数据的异常分类结果非异常时序数据,则不输出异常告警信息。
对于一些异常数据点发生频率较少的网络设备,异常样本数据的数量会远远小于正常样本数据的数量,对时序卷积网络进行模型训练时,如果根据历史时间段内实际采集到的网络设备的时序数据进行训练,会存在样本数据严重不平衡的问题。仍以IPTV设备为例,由于IPTV设备在线播放用户数的突降情况发生频率极低,通过人工逐一核验突降点,标记突降点标签存在时间成本过高、难度大、面临着样本标签严重失衡(异常样本标签远远小于正常样本标签)的问题。
为了解决模型训练时样本数据严重不平衡的问题,如图2所示,在本公开的一个实施例中,在将第一时序数据对应的谱残差序列输入至预先训练好的异常数据分类模型中,输出第一时序数据的异常分类结果之前,本公开实施例中提供的网络数据异常告警方法还可通过如下步骤来训练得到异常分类模型:
步骤S202,采集网络设备在历史时间段内的多组第二时序数据,其中,每组第二时序数据的持续时长为一个预设时间段;
步骤S204,在每组第二时序数据中,注入异常时序片段,得到每组第二时序数据对应的第三时序数据,其中,第三时序数据为注入异常时序片段的第二时序数据;
步骤S206,将每组第三时序数据转换为对应的谱残差序列;利用多组第三时序数据的谱残差序列和对应的异常分类标签信息,对预先构建的时序卷积网络进行训练,得到异常数据分类模型。
需要说明的时,本公开实施例中,使用谱残差序列作为时间卷积网络的输入,训练的模型效果要优于使用原始数据直接输入时间卷积网络。
进一步地,在本公开的一个实施例中,如图3所示,本公开实施例中提供的网络数据异常告警方法还可通过如下步骤来将异常时序片段注入到历史实际采集的时序数据中,以增加异常样本数据的数量:
步骤S302,在每组第二时序数据中随机选取一个或多个异常数据时间点;
步骤S304,遍历每组第二时序数据中的每个异常数据点,将该异常数据时间点之前的第一数据替换为第一等差序列片段,并该异常数据时间点之后的第二数据替换为第二等差序列片段,直到得到每组第二时序数据对应的第三时序数据,其中,每组第三时序数据中包含一个或多个异常时序片段。
更进一步地,在本公开的一个实施例中,在执行步骤S304之前,本公开实施例中提供的网络数据异常告警方法还包括如下步骤:根据每组第二时序数据中随机选取的每个异常数据时间点,生成每个异常数据时间点对应的第一等差序列片段和第二等差序列片段。
由于突降点前后的时间段内往往会存在涟漪效应,因而,本公开实施例中提供的网络数据异常告警方法中,在向每组第二时序数据中注入异常时序片段的时候,根据每组第二时序数据中随机选取的异常数据时间点,生成对应的第一等差序列片段和第二等差序列片段,进而在每组第二时序数据中随机选取一个或多个异常数据时间点后,遍历每个异常数据时间点,将位于异常数据时间点之前的第一数据替换为对应的第一等差序列片段,并将位于异常数据时间点之后的第二数据替换为第二等差序列片段,直到得到注入一个或多个异常时序片段的第三时序数据。
以IPTV在线播放用户数突降情况告警为例,图4示出本公开实施例中一种IPTV在线播放用户数突降情况预测过程示意图,如图4所示,在具体实施时,可通过如下步骤来实现:
1)对于数据窗口长度为n的一个时序数据(假设采样频率为5分钟,一天可采集288个5分钟粒度数据,窗口时间设为历史7天,则n=7×288)的播放用户数数据Xi(i<n),在时序数据内随机选取一点j作为合成突降最低点对应时刻,在区间(0,m)内两次随机抽取步长值,分为作为突降点之前的等差数列步长f和突降点之后的等差数列步长b。此处的m表示时序数据按时间顺序排序后数据之间间隔的数量,可根据实际场景设计,本公开实施例中选取m=10,0≤f≤m,0≤b≤m,如果抽取的向前步长f=3,则替换的时j点前15(3×5)分钟时刻的样本。
2)注入突降最低点代替原始数据:r为取值范围0-1的随机浮点数。其中,/>表示局部均值,/>Xi∈{Xj-b,…,Xj+f};std表示全局标准差,即窗口时间内全部数据计算得到的标准差。
3)生成起始值为Xj-b、终点值为Xj的步长为b的等差数列Yi∈{Yj-b,…,Yj}(即第一等差序列片段),逐一计算新值代替旧值:Yi=Yi+std(1+r),使用序列Yi∈{Yj-b,…,Yj}替换原始数据{Xj-b,…,Xj},模拟突降发生到突降最低点前的突降起始波动状态。
4)生成起始值为Xj,终点值为Xj+f的步长为f的等差数列Zi∈{Zj,…,Zj+f},逐一计算新值代替旧值:Zi=Zi+std(1+r)(即第二等差序列片段),使用序列Zi∈{Zj,…,Zj+f}替换原始数据{Xj,…,Xj+f},模拟突降最低点后面的涟漪效应,突降效应开始衰减的状态。
需要说明的是,在利用多组第三时序数据的谱残差序列和对应的异常分类标签信息,对预先构建的时序卷积网络进行训练,得到异常数据分类模型之前,本公开实施例中提供的网络数据异常告警方法还包括:为每组第三时序数据添加异常分类标签信息。
由于实际采集的数据中可能存在数据丢失的情况,也可能存在一些不符合条件的数据,因而,在本公开的一个实施例中,本公开实施例中提供的网络数据异常告警方法还可对第一时序数据执行如下数据预处理操作:缺失值填充、平滑处理和样本过滤。
在具体实施时,对于部分时间内存在数据丢失的情况,采用历史同期数据进行缺失值填充,若无法利用同期数据进行缺失值填充的,利用线性插补方法进行缺失值填充。例如,对于某天在时间段9:00-9:05采集的数据,若存在数据丢失情况,则先使用前3天每天时间段9:00-9:05的数据求均值后进行替换,如果前3天都同样存在缺失值,再使用线性插补进行替换。
在对采集的数据进行缺失值填充后,可进一步对采集的数据进行平滑处理,在具体实施时,可利用分箱图法找出突变点,利用突变点前后值的均值进行插补。需要注意的是,对于单个突变点算作数据采集异常,不纳入用户数突降的情况。
进一步地,对于有些下挂用户多少的网络设备,采集的时序数据不存在明显的周期性,这种数据没有突降检测的价值,可予以剔除,因而,在本公开的一个实施例中,可对采集的数据进行样本熵计算,将样本熵数值大于预设阈值(例如,0.8)的数据剔除。样本熵计算过程如下:
首先,对时间序列Xi,以m为窗口,将Xi划分k(k=n-m+1)个子序列;
其次,对每个子序列计算其与所有k个子序列之间的距离,形成k×k的二维距离列表,其中,距离dij定义为两向量对应元素之差绝对值的最大值,i≤k,j≤k;
定义阈值F,F=r×SD,其中,r为系数,取值范围为0.1-0.25;SD为序列的标准差,对距离列表的每一行计算距离大于F的数目,与不包含本身序列总数n-m计算比值
求平均值,得到Bm(F):
最后,增加窗口为m+1,重复上述操作,得到Bm+1(F);
则样本熵值En为:En=lnBm(F)-lnBm+1(F)。
图5示出本公开实施例中一种IPTV在线播放用户数突降情况告警流程图,如图5所示,本公开实施例中提供的IPTV在线播放用户数突降情况告警流程具体包括如下步骤:
步骤S502,输入历史采集的时序数据;
步骤S504,对输入的时序数据执行数据预处理操作;
步骤S506,注入异常时序片段;
步骤S508,对时序卷积网络进行训练,得到异常数分类模型;
步骤S510,利用训练得到的异常数据分类模型对实时采集的时序数据进行告警。
在具体实施时,可采集50万条时间窗口为7天,5分钟粒度的IPTV在线播放用户数样本数据,对采集的数据进行预处理后,首先,随机选取一部分样本数据(例如,25%的样本数据),对选取的样本数据注入异常片段,针对每条样本的7×288条数据,注入异常时序片段,并按照样本内最后预时长(例如,10分钟)内是否包含注入的异常时序片段,为样本数据添加异常分类标标签,若存在,则将样本数据标记为1,代表样本数据为异常时序数据标;若不存在,则将样本数据标记为0,代表样本数据为非异常时序数据。
接着,将注入异常时序片段的时序数据转换为谱残差序列,构建三层结构的时序分类卷积网络,使用转换后的谱残差序列和对应的异常分类标签,训练异常数据分类模型(即用于检测时序数据是否发生突降的数据分类模型)。
最后,将实时采集的IPTV在线播放用户数据序列,转换为对应的谱残差序列,输入到训练好的异常数据分类模型中,输出异常分类结果,并根据异常分类结果确定是否输出告警信息。
需要注意的是,上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
基于同一发明构思,本公开实施例中还提供了一种网络数据异常告警装置,如下面的实施例所述。由于该装置解决问题的原理与网络数据异常告警方法相似,因此该装置的实施可以参见网络数据异常告警方法的实施,重复之处不再赘述。
图6示出本公开实施例中一种网络数据异常告警装置示意图,如图6所示,该装置包括:数据采集模块61、谱残差序列生成模块62、异常数据分类模块63和告警模块64。
其中,数据采集模块61,用于采集网络设备在预设时间段内的第一时序数据;谱残差序列生成模块62,用于将第一时序数据转换为对应的谱残差序列;异常数据分类模块63,用于将第一时序数据对应的谱残差序列输入至预先训练好的异常数据分类模型中,输出第一时序数据的异常分类结果,其中,异常数据分类模型是对时序卷积网络进行训练得到的模型,异常分类结果包括:异常时序数据;告警模块64,用于当第一时序数据的异常分类结果为异常时序数据的情况下,输出异常告警信息。
图7示出本公开实施例中一种可选的网络数据异常告警装置示意图,如图7所示,在本公开的一个实施例中,本公开实施例中提供的网络数据异常告警装置还包括:异常样本数据构建模块65和模型训练模块66;该实施例中,数据采集模块61还用于采集网络设备在历史时间段内的多组第二时序数据,其中,每组第二时序数据的持续时长为一个预设时间段;异常样本数据构建模块65用于在每组第二时序数据中,注入异常时序片段,得到每组第二时序数据对应的第三时序数据,其中,第三时序数据为注入异常时序片段的第二时序数据;模型训练模块66用于将每组第三时序数据转换为对应的谱残差序列;利用多组第三时序数据的谱残差序列和对应的异常分类标签信息,对预先构建的时序卷积网络进行训练,得到异常数据分类模型。
进一步地,在本公开的一个实施例中,异常样本数据构建模块65还用于:在每组第二时序数据中随机选取一个或多个异常数据时间点;将每组第二时序数据中位于每个异常数据时间点之前的第一数据替换为第一等差序列片段,并将每组第二时序数据中位于每个异常数据时间点之后的第二数据替换为第二等差序列片段,得到每组第二时序数据对应的第三时序数据,其中,第一数据和第一等差序列片段的数据个数相同,第二数据和第二等差序列片段的数据个数相同。
在本公开的一个实施例中,如图7所示,本公开实施例中提供的网络数据异常告警装置还包括:异常时序片段生成模块67,用于根据每组第二时序数据中随机选取的异常数据时间点,生成为第一等差序列片段和第二等差序列片段。
在本公开的一个实施例中,如图7所示,本公开实施例中提供的网络数据异常告警装置还包括:数据打标模块68,用于为每组第三时序数据添加异常分类标签信息。
在本公开的一个实施例中,如图7所示,本公开实施例中提供的网络数据异常告警装置还包括:数据预处理模块69,用于对第一时序数据执行数据预处理操作,其中,数据预处理操作包括如下至少之一:缺失值填充、平滑处理和样本过滤。
在本公开的一个实施例中,本公开实施例中提供的网络数据异常告警装置中,网络设备为交互式网络电视IPTV设备,第一时序数据为IPTV设备的在线播放用户数。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
下面参照图8来描述根据本公开的这种实施方式的电子设备800。图8显示的电子设备800仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示,电子设备800以通用计算设备的形式表现。电子设备800的组件可以包括但不限于:上述至少一个处理单元810、上述至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元810执行,使得所述处理单元810执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如,所述处理单元810可以执行上述方法实施例的如下步骤:采集网络设备在预设时间段内的第一时序数据;将第一时序数据转换为对应的谱残差序列;将第一时序数据对应的谱残差序列输入至预先对时序卷积网络进行训练得到的异常数据分类模型中,输出第一时序数据的异常分类结果,其中,异常分类结果包括:异常时序数据;以及当第一时序数据的异常分类结果为异常时序数据的情况下,输出异常告警信息。
存储单元820可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)8201和/或高速缓存存储单元8202,还可以进一步包括只读存储单元(ROM)8203。
存储单元820还可以包括具有一组(至少一个)程序模块8205的程序/实用工具8204,这样的程序模块8205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线830可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备800也可以与一个或多个外部设备870(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备800交互的设备通信,和/或与使得该电子设备800能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口850进行。并且,电子设备800还可以通过网络适配器860与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图8所示,网络适配器860通过总线830与电子设备800的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备800使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。
在本公开的示例性实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质可以是可读信号介质或者可读存储介质。其上存储有能够实现本公开上述方法的程序产品。在一些可能的实施方式中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。
本公开中的计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
在本公开中,计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可选地,计算机可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
在具体实施时,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由所附的权利要求指出。

Claims (9)

1.一种网络数据异常告警方法,其特征在于,包括:
采集网络设备在预设时间段内的第一时序数据;
将所述第一时序数据转换为对应的谱残差序列;
将所述第一时序数据对应的谱残差序列输入至预先训练好的异常数据分类模型中,输出所述第一时序数据的异常分类结果,其中,所述异常分类结果包括:异常时序数据;以及
当所述第一时序数据的异常分类结果为异常时序数据的情况下,输出异常告警信息;
其中,所述异常数据分类模型是通过如下步骤训练得到的:
采集网络设备在历史时间段内的多组第二时序数据,其中,每组第二时序数据的持续时长为一个预设时间段;
在每组第二时序数据中,注入异常时序片段,得到每组第二时序数据对应的第三时序数据,其中,第三时序数据为注入异常时序片段的第二时序数据;
将每组第三时序数据转换为对应的谱残差序列;
利用多组第三时序数据的谱残差序列和对应的异常分类标签信息,对预先构建的时序卷积网络进行训练,得到所述异常数据分类模型。
2.根据权利要求1所述的网络数据异常告警方法,其特征在于,在每组第二时序数据中,注入异常时序片段,得到每组第二时序数据对应的第三时序数据,包括:
在每组第二时序数据中随机选取一个或多个异常数据时间点;
遍历每组第二时序数据中的每个异常数据点,将该异常数据时间点之前的第一数据替换为第一等差序列片段,并该异常数据时间点之后的第二数据替换为第二等差序列片段,直到得到每组第二时序数据对应的第三时序数据,其中,每组第三时序数据中包含一个或多个异常时序片段。
3.根据权利要求2所述的网络数据异常告警方法,其特征在于,所述方法还包括:
根据每组第二时序数据中随机选取的每个异常数据时间点,生成每个异常数据时间点对应的第一等差序列片段和第二等差序列片段。
4.根据权利要求1所述的网络数据异常告警方法,其特征在于,在利用多组第三时序数据的谱残差序列和对应的异常分类标签信息,对预先构建的时序卷积网络进行训练,得到所述异常数据分类模型之前,所述方法还包括:
为每组第三时序数据添加异常分类标签信息。
5.根据权利要求1所述的网络数据异常告警方法,其特征在于,在采集网络设备在预设时间段内的第一时序数据之后,所述方法还包括:
对所述第一时序数据执行数据预处理操作,其中,所述数据预处理操作包括如下至少之一:缺失值填充、平滑处理和样本过滤。
6.根据权利要求1至5中任意一项所述的网络数据异常告警方法,其特征在于,所述网络设备为交互式网络电视IPTV设备,所述第一时序数据为IPTV设备的在线播放用户数。
7.一种网络数据异常告警装置,其特征在于,包括:
数据采集模块,用于采集网络设备在预设时间段内的第一时序数据;
谱残差序列生成模块,用于将所述第一时序数据转换为对应的谱残差序列;
异常数据分类模块,用于将所述第一时序数据对应的谱残差序列输入至预先训练好的异常数据分类模型中,输出所述第一时序数据的异常分类结果,其中,所述异常数据分类模型是对时序卷积网络进行训练得到的模型,所述异常分类结果包括:异常时序数据;和
告警模块,用于当第一时序数据的异常分类结果为异常时序数据的情况下,输出异常告警信息;
其中,所述异常数据分类模型是通过如下步骤训练得到的:
采集网络设备在历史时间段内的多组第二时序数据,其中,每组第二时序数据的持续时长为一个预设时间段;
在每组第二时序数据中,注入异常时序片段,得到每组第二时序数据对应的第三时序数据,其中,第三时序数据为注入异常时序片段的第二时序数据;
将每组第三时序数据转换为对应的谱残差序列;
利用多组第三时序数据的谱残差序列和对应的异常分类标签信息,对预先构建的时序卷积网络进行训练,得到所述异常数据分类模型。
8.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1~6中任意一项所述网络数据异常告警方法。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1~6中任意一项所述的网络数据异常告警方法。
CN202111128560.1A 2021-09-26 2021-09-26 网络数据异常告警方法、装置、电子设备及存储介质 Active CN113872806B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111128560.1A CN113872806B (zh) 2021-09-26 2021-09-26 网络数据异常告警方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111128560.1A CN113872806B (zh) 2021-09-26 2021-09-26 网络数据异常告警方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN113872806A CN113872806A (zh) 2021-12-31
CN113872806B true CN113872806B (zh) 2024-05-17

Family

ID=78994496

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111128560.1A Active CN113872806B (zh) 2021-09-26 2021-09-26 网络数据异常告警方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN113872806B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3404589A1 (en) * 2017-05-18 2018-11-21 ABB Schweiz AG Computer system and method for improved monitoring of the technical state of industrial systems
CN112150447A (zh) * 2020-09-27 2020-12-29 北京嘀嘀无限科技发展有限公司 基于位置服务的异常数据确定方法、装置和电子设备
CN112182490A (zh) * 2020-09-01 2021-01-05 华中科技大学 一种电抗器状态诊断方法及系统
CN112436968A (zh) * 2020-11-23 2021-03-02 恒安嘉新(北京)科技股份公司 一种网络流量的监测方法、装置、设备及存储介质
WO2021141674A1 (en) * 2020-01-07 2021-07-15 Microsoft Technology Licensing, Llc Customized anomaly detection

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3404589A1 (en) * 2017-05-18 2018-11-21 ABB Schweiz AG Computer system and method for improved monitoring of the technical state of industrial systems
WO2021141674A1 (en) * 2020-01-07 2021-07-15 Microsoft Technology Licensing, Llc Customized anomaly detection
CN112182490A (zh) * 2020-09-01 2021-01-05 华中科技大学 一种电抗器状态诊断方法及系统
CN112150447A (zh) * 2020-09-27 2020-12-29 北京嘀嘀无限科技发展有限公司 基于位置服务的异常数据确定方法、装置和电子设备
CN112436968A (zh) * 2020-11-23 2021-03-02 恒安嘉新(北京)科技股份公司 一种网络流量的监测方法、装置、设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
面向IT运维时序数据的智能预测和异常检测研究;陈润青;中国知网;全文 *

Also Published As

Publication number Publication date
CN113872806A (zh) 2021-12-31

Similar Documents

Publication Publication Date Title
US9477903B2 (en) Grid data processing method and apparatus
CN110398368B (zh) 基于fbm的长相关模型的轴承内圈故障剩余寿命预测方法
CN111178523A (zh) 一种行为检测方法、装置、电子设备及存储介质
CN110943874B (zh) 一种家庭宽带网络的故障检测方法、装置和可读介质
EP2415209B1 (en) Network analysis system
CN111860940B (zh) 一种基于逻辑回归算法的煤矿配电网络停电事故预测方法
CN112835769A (zh) 一种业务数据异常诊断方法、装置、设备及存储介质
WO2019183280A1 (en) Quantifying perceptual quality model uncertainty via bootstrapping
CN116055690B (zh) 一种机房监控视频的处理方法及设备
CN104252480B (zh) 一种音频信息检索的方法和装置
CN113872806B (zh) 网络数据异常告警方法、装置、电子设备及存储介质
US11506817B2 (en) Lighting damage prediction apparatus, method, and program
CN116505653A (zh) 输电线路监测系统、方法、装置、计算机设备和存储介质
CN112862209B (zh) 一种工业设备监测数据预测方法
CN113382232A (zh) 监控音视频质量的方法和装置、系统、电子设备
US10042842B2 (en) Theft detection via adaptive lexical similarity analysis of social media data streams
KR101575204B1 (ko) 부분 방전 진단 장치 및 그 방법
CN116955068A (zh) 序列相似度计算及告警处理方法、装置以及存储介质
CN114915845A (zh) 预测iptv用户申告的系统和方法
CN114022744A (zh) 一种自动违规弹幕检测方法、装置、系统、介质及设备
CN104284210A (zh) Iptv故障自诊断网络系统
CN113806204A (zh) 一种报文字段相关性的评估方法、装置、系统及存储介质
CN112312208A (zh) 多媒体信息的处理方法、装置、存储介质和电子设备
WO2020025809A1 (en) Method, system and computer program product for predicting failure of a noise-emitting apparatus
WO2023105725A1 (ja) 時系列データ処理方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant