CN117556311B - 一种基于多维特征融合的无监督时间序列异常检测方法 - Google Patents
一种基于多维特征融合的无监督时间序列异常检测方法 Download PDFInfo
- Publication number
- CN117556311B CN117556311B CN202410041936.2A CN202410041936A CN117556311B CN 117556311 B CN117556311 B CN 117556311B CN 202410041936 A CN202410041936 A CN 202410041936A CN 117556311 B CN117556311 B CN 117556311B
- Authority
- CN
- China
- Prior art keywords
- time sequence
- dimensional
- layer
- time series
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000004927 fusion Effects 0.000 title claims abstract description 34
- 238000001514 detection method Methods 0.000 title claims abstract description 30
- 238000000034 method Methods 0.000 claims abstract description 26
- 238000000605 extraction Methods 0.000 claims abstract description 15
- 230000002159 abnormal effect Effects 0.000 claims abstract description 8
- 230000006870 function Effects 0.000 claims description 19
- 238000010606 normalization Methods 0.000 claims description 18
- 238000012545 processing Methods 0.000 claims description 16
- 238000013528 artificial neural network Methods 0.000 claims description 15
- 230000005856 abnormality Effects 0.000 claims description 12
- 230000004913 activation Effects 0.000 claims description 6
- 238000013329 compounding Methods 0.000 claims description 5
- 238000013507 mapping Methods 0.000 claims description 5
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 claims description 3
- 238000012512 characterization method Methods 0.000 claims description 2
- 230000009466 transformation Effects 0.000 claims description 2
- 238000004458 analytical method Methods 0.000 abstract description 2
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 238000012549 training Methods 0.000 abstract description 2
- 230000007246 mechanism Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 206010000117 Abnormal behaviour Diseases 0.000 description 1
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000012733 comparative method Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000012731 temporal analysis Methods 0.000 description 1
- 238000000700 time series analysis Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computational Linguistics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提出一种基于多维特征融合的无监督时间序列异常检测方法，属于人工智能时间序列异常检测分析领域。从生产过程中的时序数据中自动提取不同局部性的多维度特征，并进行特征融合，该方法首先通过多维度特抽取网络，从不同局部性层次的多个维度中学习时间序列中的复杂模式和依赖关系，然后通过多维度特征融合策略有效地捕获时间序列中的长时间依赖性、周期性等复杂特性；最后通过自监督训练学习时间序列的正常模式，并将与正常模式显著偏离的样本输出为异常数据；从而解决时间序列异常检测中的复杂依赖关系建模和特征提取问题。
Description
技术领域
本发明属于人工智能时间序列异常检测分析领域，尤其涉及一种基于多维特征融合的无监督时间序列异常检测方法。
背景技术
服务器异常检测是指在计算机系统中，通过监测服务器运行状态和性能指标，识别出不正常的行为或异常情况的技术。服务器异常可能导致服务中断、性能下降以及数据丢失。保障服务的可用性和性能是各类应用和企业关注的重要问题，服务器异常检测是解决这些问题的一项关键技术。服务器异常检测技术对于维护稳定、高效、可靠的计算机系统和服务至关重要，是信息技术领域研究的重要方向之一。服务器性能和状态数据通常以时间序列的形式记录。
时间序列异常检测方法为服务器异常检测提供了一种有效的工具，帮助监测服务器的性能、及时发现异常情况，并促使系统管理员或自动化系统采取相应的措施来维护和优化服务器的运行。
现有的时间序列异常检测方法面临的主要挑战包括复杂依赖关系建模和特征提取。传统的检测方法通常需要领域知识来进行特征提取，难以拟合时间序列数据中的错综复杂依赖关系，导致检测性能较差。近年来，深度学习方法在时间序列异常检测方面取得了显著进展，然而基于卷积神经网络和循环神经网络的检测模型往往难以捕获时间序列中的长期依赖关系。基于注意力机制的模型在序列数据建模方面表现出色，但由于时间序列分析对顺序敏感，不可避免地会遭受时间信息损失，从而导致性能下降。
发明内容
本发明目的在于提供一种基于多维特征融合的无监督时间序列异常检测方法,以解决现有时间序列异常检测方法中存在的复杂依赖关系建模和特征提取，检测性能较差的技术问题。
为解决上述技术问题，本发明的具体技术方案如下：
步骤S1：对服务器时序数据进行预处理，通过线性归一化，对输入时间序列的各个时间步进行处理，将其取值范围调整到0到1的实数区间，得到经过归一化处理的时间序列/>；
步骤S2：通过一个非重叠的滑动窗口将上述经过归一化处理的时间序列划分为一系列子序列/>，其中，/>表示子序列的数量；
步骤S3：服务器时序数据一维特征提取，通过两个多层感知机MLP分别对子序列的时序特征和空间特征进行提取；
步骤S4：服务器时序数据二维特征提取，首先通过快速傅里叶变换算法计算经过归一化处理的时间序列的多个频率，并以最大频率值为宽度对经过归一化处理的时间序列/>进行分割，最后堆叠为二维表示；
步骤S5：将步骤S3所述的一维特征与步骤S4所述的二维特征进行多维特征融合；
步骤S6：计算重构误差；
步骤S7：异常判断，设置一个阈值参数来和重构误差进行比较，重构误差大于阈值参数即判定为异常值。
与现有技术相比，本发明的有益效果是：
（1）该方法具有更高的计算效率，能够有效地处理大规模时序数据。与Transformer模型中使用的自注意力机制相比，这种方法显著降低了计算复杂性。自注意力机制对于标记数量的复杂性是二次的，而本发明所提多维特征融合方法对于输入时间序列长度的复杂性是线性的。
（2）该方法具有多维度特征融合能力，具有较高的异常检测性能。该方法通过将时间序列分别映射到一维和二维空间来处理时间序列数据中的长时间依赖性和复杂周期性，能够识别复杂时序数据中的异常模式。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对本发明实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本发明的一种基于多维特征融合的无监督时间序列异常检测方法流程图；
图2为本发明实施例中使用的多维特征融合网络结构图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明提出的一种基于多维特征融合的无监督时间序列异常检测方法，从服务器的时序数据中自动提取不同局部性的多维度特征，并进行特征融合，从而解决时间序列异常检测中的复杂依赖关系建模和特征提取问题。该方法首先通过多维度特抽取网络，从不同局部性层次的多个维度中学习时间序列中的复杂模式和依赖关系，然后通过多维度特征融合策略有效地捕获时间序列中的长时间依赖性、周期性等复杂特性；最后通过自监督训练学习时间序列的正常模式，并将与正常模式显著偏离的样本输出为异常数据。
本发明提出的一种基于多维特征融合的无监督时间序列异常检测方法，流程实现如图1所示，所述方法包括以下步骤：
步骤S1：对服务器时序数据进行预处理，通过线性归一化，对输入时间序列的各个时间步进行处理，将其取值范围调整到0到1的实数区间，得到经过归一化处理的时间序列/>，线性归一化计算公式为：
式（1）
其中，表示输入时间序列/>在时刻/>上的值，/>和/>分别表示/>在所有时刻上的最小值和最大值，/>表示经过归一化处理后得到的时间序列。
服务器性能和状态数据通常以时间序列的形式记录，服务器时序数据包括CPU使用率、内存利用率、网络流量等。
步骤S2：通过一个非重叠的滑动窗口将上述经过归一化处理的时间序列划分为一系列子序列/>，其中，/>表示子序列的数量，子序列长度统一设置为100。
步骤S3：服务器时序数据一维特征提取，通过两个多层感知机MLP分别对子序列的时序特征和空间特征进行提取。
步骤S3.1：时序特征提取。通过式（2）将步骤S2得到的每个子序列的各个时刻通过一个多层感知机MLP神经网络提取子序列的时序特征/>，从而获取不同时刻之间的依赖关系。该多层感知机MLP采用三层结构，隐藏层维度设置为32，时序特征/>表示为：
式（2）
其中，和/>表示可训练的模型参数，/>为ReLU激活函数，/>为神经网络的层归一化操作函数。
步骤S3.2：空间特征提取。通过式（3）将步骤S3.1得到的时序特征通过一个多层感知机MLP神经网络进行映射，捕获特征之间的相互关联，从而得到时间序列的一维特征。多层感知机MLP采用三层结构，隐藏层维度设置为64，/>表示为：
式（3）
其中，和/>为神经网络参数，/>为ReLU激活函数，/>为神经网络的层归一化操作函数，/>表示将每个子时序特征/>进行拼接，/>表示MLP神经网络提取得到的一维特征表示。
步骤S4：服务器时序数据二维特征提取，首先通过快速傅里叶变换算法计算经过归一化处理的时间序列的多个频率，并以最大频率值为宽度对经过归一化处理的时间序列/>进行分割，最后堆叠为二维表示，从而更好地对时序数据的周期性特征进行表示。
步骤S4.1：通过快速傅里叶变换获取经过归一化处理的时间序列的频率信息，并获取最大振幅对应的频率值/>，/>表示为：
式（4）
其中，表示快速傅里叶变换，/>函数表示通过傅里叶变换得到的振幅值，/>函数表示从一个集合中获取最大值的索引。
步骤S4.2：按照各个分量的振幅进行排序，以振幅最大的频率值作为周期，将经过归一化处理的时间序列/>折叠为/>的二维形式，其中/>为经过归一化处理的时间序列/>的总长度。
步骤S4.3：利用式（5）将经过归一化处理的时间序列映射到二维空间：
式（5）
其中，为经过特征提取得到的二维特征，/>表示将经过归一 化处理的时间序列/>按步骤S4.2中得到的周期P进行分割，然后堆叠成为二维形式。
步骤S4.4：利用堆叠可分离卷积网络对二维形式的输入数据进行处理，从而得到二维特征。堆叠可分离卷积（stacked separable convolutions）网络可以有效地减少参数数量和计算量，提高模型的效率和性能，其基本原理是将一个普通的卷积操作分解为两个步骤：深度卷积和逐点卷积。深度卷积是对输入的每个通道分别进行卷积，得到一个通道数不变的输出。逐点卷积是用1x1的卷积核对深度卷积的输出进行通道融合，得到一个通道数可变的输出，最后将多个深度卷积层和逐点卷积层叠加在一起，形成一个更深的网络结构。
深度卷积层表示为：，其中,/>为深度卷积核函数，/>为该卷积核的横、纵坐标索引，/>为本层输入特征的通道索引，/>为输入特征横、纵坐标索引。深度卷积独立地应用于每个输入通道，最后得到各个通道的输出/>。
逐点卷积层表示为：，其中,/>为逐点卷积核函数，分别为本层输入特征和输出特征的通道索引，/>为输入特征的横、纵坐标索引。逐点卷积层将各个输入通道的信息进行融合得到输出/>。
将上述深度卷积层和逐点卷积层进行复合，形成一个可分离卷积层：，其中，/>表示可分离卷积层的输出，/>分别表示深度卷积层和逐点卷积层。
将多个可分离卷积层进行复合，形成堆叠可分离卷积网络：
式(6)
其中，为堆叠可分离卷积层的输出，即二维特征，/>为堆叠的层数，/>表示第1至第/>个可分离卷积层,/>表示将堆叠后的特征维度调整到输入时间序列的维度。
步骤S5：由于不同维度的特征具有不同程度的表征能力，本发明引入一种多维度特征融合机制来对输入时序数据进行重构。其结构如图2所示，对于上述步骤S3.2计算得到的一维特征和步骤S4.4计算得到的二维特征/>，分别采用三个全连接层和sigmoid函数来生成权重分数，然后通过与元素相乘的方法对输入特征进行加权。为了打破对称结构，将二维特性分支进一步乘以负一系数，再加上正一系数。最终计算特征融合层的特征表示：
式（7）
其中，表示sigmoid激活函数，/>表示元素之间乘法，/>表示堆叠的三个全连接层，/>表示多维特征融合后的输出，其维度与输入时间序列相同。
步骤S6：将步骤S5所得多维特征融合后的输出与输入时间序列进行对比，计算重构误差。
式（8）
其中，为样本数量，即数据集中输入时间序列的个数，/>表示第/>个样本，即第/>个输入时间序列，/>表示第/>个输入时间序列经过上述步骤S5处理后得到的多维融合特征，/>表示重构误差值。
步骤S7：异常判断，设置一个阈值参数来和重构误差进行比较，重构误差大于阈值参数即判定为异常值。将上述重构误差作为样本异常程度的评分指标，重构误差越大，其属于异常的可能性越高。
本发明采用两个公开的时间序列数据集，对本发明提出的一种基于多维特征融合的无监督时间序列异常检测方法进行验证，时间序列数据集的具体信息如下：
SMD（Server Machine Dataset）：是从一家大型互联网公司收集的28台服务器设备状态的时序数据，特征维度为38，序列长度为5周。
PSM (Pooled Server Metrics)：是从电子网站eBay的多个应用服务器节点收集状态信息，包含26个维度。
本发明通过常用的精度、召回率和F1值（即精度和召回率的调和平均值）三个指标来来对所提出算法的性能进行评估，分别对SMD、PSM两个数据集分别设置一个阈值(即1%,1%，0.5%)来获取分类结果。本发明实验均在NVIDIA GeForce RTX 3090 GPU的服务器上进行，学习率设置为0.0001，使用Adam优化器来更新模型参数。所有试验独立进行了五次测试，并取平均值作为最终结果，并选取四个经典的无监督异常检测方法作为对比来评估所提出方法的有效性，包括Transformer、Reformer、Informer和LightTs，这些方法都利用重构误差来检测异常样本。对比方法的测试得分如表1所示：
表1 实验方法的AUC得分
测试结果表明，本发明在三个评估指标上均优于对比方法，尤其在F1值上表现出色。在SMD数据集上，本发明的F1值为85.81%，较最接近的LightTS（82.53%）算法高3.97%。在PSM数据集上，本发明的F1值为85.48%，同样超过了其他全部对比方法。因此，本发明在无监督时间序列异常检测中具有卓越的性能，相较于经典的无监督异常检测方法，其精度、召回率和F1值均表现更为出色，为异常检测领域的研究和应用提供了一种高效的解决方案。
可以理解，本发明是通过一些实施例进行描述的，本领域技术人员知悉的，在不脱离本发明的精神和范围的情况下，可以对这些特征和实施例进行各种改变或等效替换。另外，在本发明的教导下，可以对这些特征和实施例进行修改以适应具体的情况及材料而不会脱离本发明的精神和范围。因此，本发明不受此处所公开的具体实施例的限制，所有落入本申请的权利要求范围内的实施例都属于本发明所保护的范围内。
Claims (8)
1.一种基于多维特征融合的无监督时间序列异常检测方法，其特征在于，包括如下步骤：
步骤S1：对服务器时序数据进行预处理，通过线性归一化，对输入时间序列S的各个时间步进行处理，将其取值范围调整到0到1的实数区间，得到经过归一化处理的时间序列S′；
步骤S2：通过一个非重叠的滑动窗口将上述经过归一化处理的时间序列S′划分为一系列子序列Xi，i＝1，2，...，N，其中，N表示子序列的数量；
步骤S3：服务器时序数据一维特征提取，通过两个多层感知机MLP分别对子序列Xi的时序特征和空间特征进行提取，得到一维特征X1D；
步骤S4：服务器时序数据二维特征提取，首先通过快速傅里叶变换算法计算经过归一化处理的时间序列S′的多个频率，并以最大频率值为宽度对经过归一化处理的时间序列S′进行分割，最后堆叠为二维表示，得到二维特征X2D；
步骤S5：将步骤S3所述的一维特征X1D与步骤S4所述的二维特征X2D进行多维特征融合；
步骤S6：计算重构误差；
步骤S7：异常判断，设置一个阈值参数来和重构误差进行比较，重构误差大于阈值参数即判定为异常值；
所述步骤S5具体包括如下步骤：
对于一维特征X1D和二维特征X2D，分别采用三个全连接层和sigmoid函数来生成权重分数，然后通过与元素相乘的方法对输入特征进行加权；为了打破对称结构，将二维特性分支进一步乘以负一系数，再加上正一系数；最终计算特征融合层的特征表示：
其中，σ表示sigmoid激活函数，表示元素之间乘法，F表示堆叠的三个全连接层，O表示多维特征融合后的输出，其维度与输入时间序列相同。
2.根据权利要求1所述的基于多维特征融合的无监督时间序列异常检测方法，其特征在于，所述步骤S1中线性归一化的计算公式为：
其中，St表示输入时间序列S在时刻t上的值，min(S)和max(S)分别表示S在所有时刻上的最小值和最大值，S′表示经过归一化处理后得到的时间序列。
3.根据权利要求1所述的基于多维特征融合的无监督时间序列异常检测方法，其特征在于，所述步骤S3具体包括如下步骤：
步骤S3.1：时序特征提取；通过式(2)将步骤S2得到的每个子序列Xi的各个时刻通过一个多层感知机MLP神经网络提子序列的时序特征Hi，从而获取不同时刻之间的依赖关系；时序特征Hi表示为：
Hi＝Xi+W′fσ(WfLayerNorm(Xi)) 式(3)
其中，W′f和Wf表示可训练的模型参数，σ(·)为ReLU激活函数，LayerNorm(·)为神经网络的层归一化操作函数；
步骤S3.2：空间特征提取；通过式(3)将步骤S3.1得到的时序特征Hi通过一个多层感知机MLP神经网络进行映射，捕获特征之间的相互关联，从而得到时间序列的一维特征X1D:
X1D＝CONCAT(Hi+W′gσ(WglayerNorm(Hi))) 式(4)
其中，W′g和Wg为神经网络参数，σ(·)为ReLU激活函数，LayerNorm(·)为神经网络的层归一化操作函数，CONCAT(·)表示将每个子序列特征Hi进行拼接，X1D表示MLP神经网络提取得到的一维特征表示。
4.根据权利要求1所述的基于多维特征融合的无监督时间序列异常检测方法，其特征在于，所述步骤S4具体包括如下步骤：
步骤S4.1：通过快速傅里叶变换获取经过归一化的时间序列S′的频率信息，并获取最大振幅对应的频率值Freqmax，Freqmax表示为：
Freqmax＝arg max(Amplitude(FFT(S′)) 式(5)
其中，FFT(·)表示快速傅里叶变换，Amplitude(·)函数表示通过傅里叶变换得到的振幅值，arg max(·)函数表示从一个集合中获取最大值的索引；步骤S4.2：按照各个分量的振幅进行排序，以振幅最大的频率值作为周期将经过归一化的时间序列S′折叠为/>的二维形式，其中l为经过归一化的时间序列S′的总长度；
步骤S4.3：利用式(5)将经过归一化的时间序列S′映射到二维空间：
H2D＝Split_Stack(S′，Freqmax) 式(6)
其中，H2D为经过特征提取得到的二维特征，Split_Stack表示将经过归一化处理的时间序列S′按步骤S4.2中得到的周期P进行分割，然后堆叠成为二维形式；步骤S4.4：利用堆叠可分离卷积网络对二维形式的输入数据进行处理，从而得到二维特征，首先进行深度卷积及逐点卷积，然后进行复合；
深度卷积层表示为：Dk(H2D)＝∑l，mH2D[i+l，j+m，k]·K[l，m，k]，其中，K为深度卷积核函数，l，m为该卷积核的横、纵坐标索引，k为本层输入特征的通道索引，i，j为输入特征横、纵坐标索引；卷积独立地应用于每个输入通道，最后得到各个通道的输出Dk；
逐点卷积层表示为：Pq(Dk)＝∑kDk[i，j]·K′[k，q]，其中，K′为逐点卷积核函数，k、q分别为本层输入特征和输出特征的通道索引，i，j为输入特征的横、纵坐标索引；逐点卷积层将各个输入通道的信息进行融合得到输出Pq；
将上述深度卷积层和逐点卷积层进行复合，形成一个可分离卷积层：
C(H2D)＝P(D(H2D))，其中，C表示可分离卷积层的输出，P、D分别表示深度卷积层和逐点卷积层；
将多个可分离卷积层进行复合，形成堆叠可分离卷积网络：
X2D＝RESHAPE(CM(CM-1(…(C1(H2D))))) 式(7)
其中，X2D为堆叠可分离卷积层的输出，即二维特征，M为堆叠的层数，C1…CM表示第1至第M个可分离卷积层，RESHAPE(·)表示将堆叠后的特征维度调整到输入时间序列S的维度。
5.根据权利要求4所述的基于多维特征融合的无监督时间序列异常检测方法，其特征在于，所述步骤S6具体包括如下步骤：
将步骤S5所得多维特征融合后的输出与输入时间序列进行对比，计算重构误差；
其中，n为样本数量，即数据集中时间序列的个数，Si表示第i个样本，Oi表示第i个样本经过上述步骤S5处理后得到的多维融合特征，L表示重构误差值。
6.根据权利要求1所述的基于多维特征融合的无监督时间序列异常检测方法，其特征在于，步骤S2中所述子序列的长度统一设置为100。
7.根据权利要求3所述的基于多维特征融合的无监督时间序列异常检测方法，其特征在于，步骤S3.1中时间特征提取的多层感知机MLP采用三层结构，神经网络的隐藏层维度设置为32。
8.根据权利要求3所述的基于多维特征融合的无监督时间序列异常检测方法，其特征在于，步骤S3.2中空间特征提取的多层感知机MLP采用三层结构，神经网络的隐藏层维度设置为64。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410041936.2A CN117556311B (zh) | 2024-01-11 | 2024-01-11 | 一种基于多维特征融合的无监督时间序列异常检测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410041936.2A CN117556311B (zh) | 2024-01-11 | 2024-01-11 | 一种基于多维特征融合的无监督时间序列异常检测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN117556311A CN117556311A (zh) | 2024-02-13 |
| CN117556311B true CN117556311B (zh) | 2024-03-19 |
Family
ID=89823612
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410041936.2A Active CN117556311B (zh) | 2024-01-11 | 2024-01-11 | 一种基于多维特征融合的无监督时间序列异常检测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117556311B (zh) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110909046A (zh) * | 2019-12-02 | 2020-03-24 | 上海舵敏智能科技有限公司 | 时间序列的异常检测方法及装置、电子设备、存储介质 |
| CN114027786A (zh) * | 2021-08-11 | 2022-02-11 | 中国科学院计算技术研究所 | 基于自监督式记忆网络的睡眠呼吸障碍检测方法及系统 |
| CN114065862A (zh) * | 2021-11-18 | 2022-02-18 | 南京航空航天大学 | 一种多维时序数据异常检测方法和系统 |
| CN115730247A (zh) * | 2022-11-28 | 2023-03-03 | 中国科学院深海科学与工程研究所 | 多维度时空-频率域特征参量融合的海底底质分类方法 |
| CN116401537A (zh) * | 2021-12-22 | 2023-07-07 | 中国科学院信息工程研究所 | 基于多任务的网络多元时间流量序列异常检测方法及装置 |
| CN117056874A (zh) * | 2023-08-17 | 2023-11-14 | 国网四川省电力公司营销服务中心 | 一种基于深度孪生自回归网络的无监督窃电检测方法 |
| CN117132919A (zh) * | 2023-08-11 | 2023-11-28 | 杭州电子科技大学 | 一种多尺度高维特征分析无监督学习视频异常检测方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11074495B2 (en) * | 2013-02-28 | 2021-07-27 | Z Advanced Computing, Inc. (Zac) | System and method for extremely efficient image and pattern recognition and artificial intelligence platform |
-
2024
- 2024-01-11 CN CN202410041936.2A patent/CN117556311B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110909046A (zh) * | 2019-12-02 | 2020-03-24 | 上海舵敏智能科技有限公司 | 时间序列的异常检测方法及装置、电子设备、存储介质 |
| CN114027786A (zh) * | 2021-08-11 | 2022-02-11 | 中国科学院计算技术研究所 | 基于自监督式记忆网络的睡眠呼吸障碍检测方法及系统 |
| CN114065862A (zh) * | 2021-11-18 | 2022-02-18 | 南京航空航天大学 | 一种多维时序数据异常检测方法和系统 |
| CN116401537A (zh) * | 2021-12-22 | 2023-07-07 | 中国科学院信息工程研究所 | 基于多任务的网络多元时间流量序列异常检测方法及装置 |
| CN115730247A (zh) * | 2022-11-28 | 2023-03-03 | 中国科学院深海科学与工程研究所 | 多维度时空-频率域特征参量融合的海底底质分类方法 |
| CN117132919A (zh) * | 2023-08-11 | 2023-11-28 | 杭州电子科技大学 | 一种多尺度高维特征分析无监督学习视频异常检测方法 |
| CN117056874A (zh) * | 2023-08-17 | 2023-11-14 | 国网四川省电力公司营销服务中心 | 一种基于深度孪生自回归网络的无监督窃电检测方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN117556311A (zh) | 2024-02-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Chen et al. | Entity embedding-based anomaly detection for heterogeneous categorical events | |
| Zhao et al. | A novel multivariate time-series anomaly detection approach using an unsupervised deep neural network | |
| CN113159163A (zh) | 一种基于多元时序数据分析的轻量级无监督异常检测方法 | |
| Liu et al. | Multi-feature fusion for fault diagnosis of rotating machinery based on convolutional neural network | |
| Zhao et al. | A novel deep fuzzy clustering neural network model and its application in rolling bearing fault recognition | |
| CN112308235A (zh) | 一种时间序列数据流异常检测方法 | |
| Hu et al. | An efficient Long Short-Term Memory model based on Laplacian Eigenmap in artificial neural networks | |
| Gao et al. | A novel fault diagnosis method for analog circuits based on conditional variational neural networks | |
| Zhao et al. | Fault diagnosis method for energy storage mechanism of high voltage circuit breaker based on CNN characteristic matrix constructed by sound-vibration signal | |
| Pang et al. | Discrete Cosine Transformation and Temporal Adjacent Convolutional Neural Network‐Based Remaining Useful Life Estimation of Bearings | |
| Wang et al. | Distilling the knowledge of multiscale densely connected deep networks in mechanical intelligent diagnosis | |
| CN117556311B (zh) | 一种基于多维特征融合的无监督时间序列异常检测方法 | |
| Li et al. | Knowledge features enhanced intelligent fault detection with progressive adaptive sparse attention learning for high-power diesel engine | |
| CN116827666A (zh) | 一种基于图注意力网络的恶意网络流量检测方法 | |
| CN116753471A (zh) | 供水管道泄漏多域特征提取与融合辨识方法 | |
| CN116521495A (zh) | 一种基于强化学习的系统性能瓶颈检测方法 | |
| Li et al. | A method for diagnosing rolling bearing faults based on SDAE-ADHKELM | |
| CN115508673A (zh) | 一种基于多域深度特征联合的串联电弧故障检测方法 | |
| Wu et al. | Classification of complex power quality disturbances based on modified empirical wavelet transform and light gradient boosting machine | |
| Liu et al. | A multi-modal hypergraph neural network via parametric filtering and feature sampling | |
| Graziani et al. | Improving Soft Sensors performance in the presence of small datasets by data selection | |
| CN113051809A (zh) | 一种基于改进受限玻尔兹曼机的虚拟健康因子构建方法 | |
| Zhao et al. | The fault diagnosis method of pipeline leakage based on neural network | |
| Sun et al. | A feature fusion method using WPD-SVD and t-SNE for gearbox fault diagnosis | |
| Zhang et al. | Research on lung sound classification model based on dual-channel CNN-LSTM algorithm |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |