CN117768207A - 一种基于改进Transformer重构模型的网络流量无监督异常检测方法 - Google Patents
一种基于改进Transformer重构模型的网络流量无监督异常检测方法 Download PDFInfo
- Publication number
- CN117768207A CN117768207A CN202311791348.2A CN202311791348A CN117768207A CN 117768207 A CN117768207 A CN 117768207A CN 202311791348 A CN202311791348 A CN 202311791348A CN 117768207 A CN117768207 A CN 117768207A
- Authority
- CN
- China
- Prior art keywords
- reconstruction
- decoder
- model
- input
- reconstruction model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 49
- 238000000034 method Methods 0.000 claims abstract description 46
- 230000002159 abnormal effect Effects 0.000 claims abstract description 15
- 238000004364 calculation method Methods 0.000 claims description 24
- 230000008569 process Effects 0.000 claims description 20
- 238000000354 decomposition reaction Methods 0.000 claims description 18
- 230000006870 function Effects 0.000 claims description 11
- 238000000926 separation method Methods 0.000 claims description 9
- 230000005856 abnormality Effects 0.000 claims description 8
- 230000009466 transformation Effects 0.000 claims description 6
- 230000004913 activation Effects 0.000 claims description 4
- 230000000737 periodic effect Effects 0.000 claims description 4
- 238000005070 sampling Methods 0.000 claims description 4
- 238000012360 testing method Methods 0.000 claims description 4
- 230000007246 mechanism Effects 0.000 claims description 3
- 241000364483 Lipeurus epsilon Species 0.000 claims description 2
- 238000006243 chemical reaction Methods 0.000 claims description 2
- 239000011159 matrix material Substances 0.000 claims description 2
- 238000005457 optimization Methods 0.000 claims description 2
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 238000010801 machine learning Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 4
- 230000006399 behavior Effects 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明涉及一种基于改进Transformer重构模型的网络流量无监督异常检测方法,属于网络安全与人工智能领域。本发明采用无监督学习的方式训练检测模型。采用正常网络流量样本训练改进的Transformer重构模型,以捕获正常样本在时域和频域上所表现出来的时空分布特征。最后,通过重构误差阈值以区分正常与异常网络流量。相比有监督异常检测模型,本发明检测性能更高,鲁棒性性更强。
Description
技术领域
本发明属于网络安全与人工智能领域,具体涉及一种基于改进Transformer重构模型的网络流量无监督异常检测方法。
背景技术
网络异常是指在正常运转过程中,因攻击者采用不同类型的攻击手段而造成无法提供正常的网络服务。而网络异常检测旨在通过网络中的实时流量发现其中存在的攻击行为,目的是为了保证网络服务的稳定与正常运行。
传统的网络异常检测方法多采用专家系统的方法,通过分析正常与异常的网络行为,设定黑白名单与网络访问规则已达到网络异常检测的目的。但是,网络攻击手段层出不穷,这种基于专家系统的异常检测方法的检测准确性往往很低,且模型的鲁棒性较差。随着机器学习的快速发展,也出现了基于有监督机器学习的时间网络异常检测方法,该方法虽然好于传统的网络异常检测方法,但是训练模型需要大量的标注数据,且检测时耗时教久。因此,亟待提供一种高准确度、高效率、高鲁棒性的网络流量异常检测方法。
发明内容
(一)要解决的技术问题
本发明要解决的技术问题是如何提供一种基于改进Transformer重构模型的网络流量无监督异常检测方法,以解决现有传统的异常检测方法和有监督下基于机器学习的检测方法存在的问题。
(二)技术方案
为了解决上述技术问题,本发明提出一种基于改进Transformer重构模型的网络流量无监督异常检测方法,该方法包括:
采用基于Transformer架构的重构模型,首先将位置编码信息添加至输入数据中,将其转化为时域数据,之后将时域数据输入改造的Transformer重构模型中;
改造的Transformer架构包括:重构编码器和重构解码器;
重构编码器共有N层,每层均包括:频率增强块(Frequency Enhanced Block,FEB)、级数分解块(Series Decomposition Block,SDB)和前馈网络(Feed Forward,FFD);
重构解码器采用M层结构,每层均包括:频率增强块(Frequency Enhanced Block,FEB)、级数分解块(Series Decomposition Block,SDB)和前馈网络(Feed Forward,FFD),以及用于连接的编码器与解码器的频率增强注意力模块(Frequency EnhancedAttention,FEA);
重构模型的输入采用窗口右移逐步输出机制,在未获得完整的重构输出前,所输出的结果将添加位置编码信息转化为时域表示输入至重构模型的解码器中,在输入解码器前,采用傅里叶变换将重构输出的时域表示转化为频域表示一同输入至重构解码器中,一同完成对下一个时间窗口的重构;
最后,将重构模型的最终的重构输出和重构误差作为整体模型的目标函数,采用基于POT算法选择的阈值与重构误差判别异常数据,进而对重构模型进行优化。
(三)有益效果
本发明提出一种基于改进Transformer重构模型的网络流量无监督异常检测方法,本发明的重点目标是快速准确地发现网络中因网络攻击手段而造成的网络异常。因此设计了一种基于改进的Transformer重构模型下的无监督网络异常检测方法。相比于现有传统的异常检测方法和有监督下基于机器学习的检测方法,本方法预期在检测召回率、准确率以及检测的F1评分得到有效提升。具体而言,在KDD 99网络安全数据集上进行测试,本发明的召回率提升至90%以上,检测准确率提升至85%以上,检测的F1评分提升至90%以上。
附图说明
图1为本发明基于改进Transformer的重构模型架构图;
图2为本发明基于改进Transformer的重构模型实施流程图。
具体实施方式
为使本发明的目的、内容和优点更加清楚,下面结合附图和实施例,对本发明的具体实施方式作进一步详细描述。
在面对因网络攻击而造成的网络异常时,现有的异常检测方法多采用有监督学习训练异常检测模型。因数据集标注困难,基于有监督的异常检测方法的检测性能较低,同时难以发现因0day攻击造成的网络异常。在本发明中提出的基于改进Transformer重构模型下的网络流量异常检测模型,采用无监督学习的方式训练检测模型。采用正常网络流量样本训练改进的Transformer重构模型,以捕获正常样本在时域和频域上所表现出来的时空分布特征。最后,通过重构误差阈值以区分正常与异常网络流量。相比有监督异常检测模型,本发明检测性能更高,鲁棒性性更强。
如图1所示,本发明提出的基于改进Transformer重构模型的网络流量无监督异常检测方法,采用基于Transformer架构的重构模型,首先将位置编码信息添加至输入数据中,将其转化为时域数据。之后将时域数据输入改造的Transformer重构模型中。改造的Transformer架构重构编码器和重构解码器;重构编码器共有N层,每层均包括:频率增强块(Frequency Enhanced Block,FEB)、级数分解块(Series Decomposition Block,SDB)和前馈网络(Feed Forward,FFD);重构解码器采用M层结构,每层均包括:频率增强块(Frequency Enhanced Block,FEB)、级数分解块(Series Decomposition Block,SDB)和前馈网络(Feed Forward,FFD),以及用于连接的编码器与解码器的频率增强注意力(Frequency Enhanced Attention,FEA)。此外,重构模型的输入采用窗口右移逐步输出机制。在未获得完整的重构输出前,所输出的结果将添加位置编码信息转化为时域表示输入至重构模型的解码器中。在输入解码器前,采用傅里叶变换将重构输出的时域表示转化为频域表示一同输入至重构解码器中,一同完成对下一个时间窗口的重构。最后,将重构模型的最终的重构输出和重构误差作为整体模型的目标函数,采用基于POT算法选择的阈值与重构误差判别异常数据,进而对重构模型进行优化。
1、位置编码(Position Embedding)
因为模型中不包含递归与卷积(recurrence/convolution),因此无法捕捉到序列信息,而序列信息在时序数据中是极为重要的存在,代表者全局的结构信息,因此必须采用Position Embedding方法将序列中token的相对或者绝对位置信息position利用起来。Position Embedding的计算方式如公式1所示,其中pos表示token的位置索引positionindex,i表示在每个token中的维度索引(dimension index),dmodel为每个token的维度。
然后将原本的输入数据同公式1输出的位置编码相加作为重构模型中编码器与解码器(encoder/deconder)的时域输入。
2、重构编码器
输入数据的时域表示,重构模型首先采用重构编码器进行编码处理。重构编码器共有N层,每层分别由频率增强块(Frequency Enhanced Block,FEB)、级数分解块(SeriesDecomposition Block,SDB)和前馈网络(Feed Forward,FFD)组成。编码器的计算方式为其中l∈{1,…,N}是编码器的第l层,/>为第l层的输出,/>为第l层的输入。Encoder(·)具体过程如公式2所示。其中,/>表示在编码器的第l层中第i的级数分解块输出的周期表示。
组成重构编码器具体内容如下:
(1)频率增强块(Frequency Enhanced Block,FEB)
频率增强块(FEB)使用离散傅立叶变换(DFT),定义F为傅里叶变换,F-1为傅里叶逆变换。
基于傅里叶变换的数据增强块(Frequency Enhanced Block with FourierTransform,FEB-f)的输入为采用w∈RD×D对x进行线性投影,计算方式为q=x·w。其中,输出的q为时域表示。之后采用傅里叶变换将时域表示q转换到频域,频域表示为然后对Q进行随机采样,从Q中随机选取M行作为Q的子集/>其中,M<<N。/>的计算过程如公式3所示。
在的基础上FEB-f的计算过程如公式4所示,其中/>
级数分解块(Series Decomposition Block,SDB)为了学习复杂的时间模型,本发明采用分解的思想将序列分解趋势Trend和周期Seasonal两部分。设SDB的输入为则R,T=SDB(χ)。其中,R为周期,T为趋势。SDB(·)具体的计算过程如公式5所示。
T=AvgPool(Padding(χ))
R=χ-T (5)
前馈网络(Feed Forward,FFD)FFD是一个全连接网络,设FFD的输入为X,公式6为FFD的计算过程。其中,Y为FFD的输出,W与b表示全连接层的权重与偏置项。f(·)为ReLu激活函数。
Y=f(WX+b) (6)
3、重构解码器
重构解码器采用M层结构,每层均包括:频率增强块(Frequency Enhanced Block,FEB)、级数分解块(Series Decomposition Block,SDB)、前馈网络(Feed Forward,FFD),以及用于连接的编码器与解码器的频率增强注意力(Frequency Enhanced Attention,FEA)。解码器的FEB、SDB和FFD计算方式与编码器相同。初始化的重构输出在添加了位置编码信息后转化为初始化的时域表示之后采用傅里叶变换将/>转化至初始化的频域表示其过程为/> 与/>作为解码器的初始化输入参与解码器重构过程。之后,解码器的计算方式为/>其中l∈{1,…,M}是解码器的第l层。Decoder(·)具体过程如公式7所示。其中,/>表示在解码器的第l层中第i个级数分解块输出的周期表示和趋势表示,ωt,i,i∈{1,2,3}表示提取第i个趋势时参与计算的权重。
最后,重构模型最终的重构输出为Z,公式8为具体的计算过程。其中,ωs表示参与计算重构输出时的权重矩阵。
针对重构模型的输出结果Z,计算重构误差,作为优化模型的目标函数。计算过程如公式9所示,其中G为整个模型的输入。
频率增强注意力模块(Frequency Enhanced Attention,FEA)在Transformer中使用的注意力算法是缩放点积注意力(Scaled Dot-Product Attention)。假设输入的查询q(query)的维度为D、键值k(key)的维度为D、值v(value)的维度为D,则计算query和每个key的点乘操作,并除以然后应用Softmax函数计算权重,计算过程如公式10所示。
在FEA中,采用傅里叶变换将查询q(query),键值k(key),值v(value)从时域转换到频域。经过傅里叶变换的q,k,v分别表示为 然后对Q,K,V进行随机采样,从Q,K,V中随机选取M行作为Q,K,V的子集其中,M<<N。/>的计算过程如公式11所示。
在的基础上FEA的计算过程如公式12所示,其中σ为激活函数。
4、自动阈值选择
本发明采用POT方法自动选择异常阈值,公式13为方法POT的详细解释,其中,th为异常评分的初始化阈值,对于低于阈值th的部分,记为th-S,s为一个预先设置的低分位数,遵循参数为γ和β的广义帕累托分布(GPD)。S为对网络流量异常评分序列{S1,S2…,SN'}中的任意一个,N'是总的观测评分次数。
在得到估计值和/>的情况下,最终的阈值thF可以通过公式14计算。其中,N'th是Si的数量,Si∈{S1,S2,…,SN'},Si<th。p为预先设置的观察到S<th的期望概率。
在推理过程中,针对输入样本X,计算异常评分Err(X)。其中,LR的输出值作为Err(X)的计算结果。推理异常的判定规则是当Err(X)>thF时,序列中的测试样本可被预测为“异常”,否则为“正常”。
如图2所示,一种基于改进的Transformer重构模型下的无监督网络异常检测方法,其特征在于,包括以下步骤:
S1:对网络报文数据进行处理分析,完成数据的归一化和位置编码信息的嵌入;
S2:采用重构模型对数据进行重构分析,针对模型输出的重构结果,计算相应的重构误差;
S3:采用基于POT算法选择的阈值与重构误差判别异常数据。
1.所述步骤S1中对网络报文数据进行处理分析进行预处理具体包括以下步骤:
S1.1:将收集的网络报文特征进行归一化处理,将各特征归一至[0,1]中;
S1.2:对于待输入编码器和解码器的归一化的特征数据中添加位置编码信息,将其转化为频域数据;
S1.3:对于待输入解码器的频域数据采用傅里叶变换将其转化为时域数据。
2.所述步骤S2中重构模型具体包括以下内容:
S2.1:重构模型首先采用重构编码器进行编码处理。重构编码器共有N层,每层均包括:频率增强块(Frequency Enhanced Block,FEB)、级数分解块(Series DecompositionBlock,SDB)和前馈网络(Feed Forward,FFD);
S2.2:重构解码器采用M层结构,每层均包括:频率增强块(Frequency EnhancedBlock,FEB)、级数分解块(Series Decomposition Block,SDB)和前馈网络(Feed Forward,FFD),以及用于连接的编码器与解码器的频率增强注意力(Frequency EnhancedAttention,FEA);
S2.3针对基于改进的Transformer重构模型的重构结果,计算出重构误差。
3.所述步骤S3异常分类具体为:利用POT算法选择的阈值,对重构误差进行分类处理,实现实时异常检测。
本发明的重点目标是快速准确地发现网络中因网络攻击手段而造成的网络异常。因此设计了一种基于改进的Transformer重构模型下的无监督网络异常检测方法。相比于现有传统的异常检测方法和有监督下基于机器学习的检测方法,本方法预期在检测召回率、准确率以及检测的F1评分得到有效提升。具体而言,在KDD 99网络安全数据集上进行测试,本发明的召回率提升至90%以上,检测准确率提升至85%以上,检测的F1评分提升至90%以上。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变形,这些改进和变形也应视为本发明的保护范围。
Claims (10)
1.一种基于改进Transformer重构模型的网络流量无监督异常检测方法,其特征在于,该方法包括:
采用基于Transformer架构的重构模型,首先将位置编码信息添加至输入数据中,将其转化为时域数据,之后将时域数据输入改造的Transformer重构模型中;
改造的Transformer架构包括:重构编码器和重构解码器;
重构编码器共有N层,每层均包括:频率增强块(Frequency Enhanced Block,FEB)、级数分解块(Series Decomposition Block,SDB)和前馈网络(Feed Forward,FFD);
重构解码器采用M层结构,每层均包括:频率增强块(Frequency Enhanced Block,FEB)、级数分解块(Series Decomposition Block,SDB)和前馈网络(Feed Forward,FFD),以及用于连接的编码器与解码器的频率增强注意力模块(Frequency EnhancedAttention,FEA);
重构模型的输入采用窗口右移逐步输出机制,在未获得完整的重构输出前,所输出的结果将添加位置编码信息转化为时域表示输入至重构模型的解码器中,在输入解码器前,采用傅里叶变换将重构输出的时域表示转化为频域表示一同输入至重构解码器中,一同完成对下一个时间窗口的重构;
最后,将重构模型的最终的重构输出和重构误差作为整体模型的目标函数,采用基于POT算法选择的阈值与重构误差判别异常数据,进而对重构模型进行优化。
2.如权利要求1所述的基于改进Transformer重构模型的网络流量无监督异常检测方法,其特征在于,所述位置编码过程具体包括:
采用Position Embedding方法将序列中token的相对或者绝对位置信息position利用起来,Position Embedding的计算方式如公式1所示,其中pos表示token的位置索引position index,i表示在每个token中的维度索引(dimension index),dmodel为每个token的维度;
然后将原本的输入数据同公式1输出的位置编码相加作为重构模型中编码器与解码器的时域输入。
3.如权利要求2所述的基于改进Transformer重构模型的网络流量无监督异常检测方法,其特征在于,重构编码器的计算方式为其中l∈{1,…,N}是编码器的第l层,/>为第l层的输出,/>为第l层的输入;Encoder(·)具体过程如公式2所示;其中,/>表示在编码器的第l层中第i的级数分解块输出的周期表示:
4.如权利要求3所述的基于改进Transformer重构模型的网络流量无监督异常检测方法,其特征在于,频率增强块(FEB)使用离散傅立叶变换(DFT),定义F为傅里叶变换,F-1为傅里叶逆变换;基于傅里叶变换的数据增强块(Frequency Enhanced Block with FourierTransform,FEB-f)的输入为采用w∈RD×D对x进行线性投影,计算方式为q=x·w;其中,输出的q为时域表示,之后采用傅里叶变换将时域表示q转换到频域,频域表示为然后对Q进行随机采样,从Q中随机选取M行作为Q的子集/>其中,M<<N;/>的计算过程如公式3所示:
在的基础上FEB-f的计算过程如公式4所示,其中/>
5.如权利要求3所述的基于改进Transformer重构模型的网络流量无监督异常检测方法,其特征在于,级数分解块(Series Decomposition Block,SDB)采用分解的思想将序列分解趋势Trend和周期Seasonal两部分,设SDB的输入为则R,T=SDB(χ),其中,R为周期,T为趋势;SDB(·)具体的计算过程如公式5所示:
T=AvgPool(Padding(X))
R=X-T (5)。
6.如权利要求3所述的基于改进Transformer重构模型的网络流量无监督异常检测方法,其特征在于,前馈网络(Feed Forward,FFD)是一个全连接网络,设FFD的输入为X,公式6为FFD的计算过程,其中,Y为FFD的输出,W与b表示全连接层的权重与偏置项,f(·)为ReLu激活函数:
Y=f(WX+b) (6)。
7.如权利要求1-6任一项所述的基于改进Transformer重构模型的网络流量无监督异常检测方法,其特征在于,所述重构解码器具体设计如下:
初始化的重构输出在添加了位置编码信息后转化为初始化的时域表示之后采用傅里叶变换将/>转化至初始化的频域表示/>其过程为/> 与作为解码器的初始化输入参与解码器重构过程;之后,解码器的计算方式为其中l∈{1,…,M}是解码器的第l层;Decoder(·)具体过程如公式7所示,其中,/>表示在解码器的第l层中第i个级数分解块输出的周期表示和趋势表示,ωt,i,i∈{1,2,3}表示提取第i个趋势时参与计算的权重;
最后,重构模型最终的重构输出为Z,公式8为具体的计算过程,其中,ωs表示参与计算重构输出时的权重矩阵;
针对重构模型的输出结果Z,计算重构误差,作为优化模型的目标函数;计算过程如公式9所示,其中G为整个模型的输入:
8.如权利要求7所述的基于改进Transformer重构模型的网络流量无监督异常检测方法,其特征在于,频率增强注意力模块(Frequency Enhanced Attention,FEA)在Transformer中使用的注意力算法是缩放点积注意力(Scaled Dot-Product Attention),假设输入的查询q(query)的维度为D、键值k(key)的维度为D、值v(value)的维度为D,则计算query和每个key的点乘操作,并除以然后应用Softmax函数计算权重,计算过程如公式10所示。
在FEA中,采用傅里叶变换将查询q(query),键值k(key),值v(value)从时域转换到频域,经过傅里叶变换的q,k,v分别表示为 然后对Q,K,V进行随机采样,从Q,K,V中随机选取M行作为Q,K,V的子集其中,M<<N。/>的计算过程如公式11所示:
在的基础上FEA的计算过程如公式12所示,其中σ为激活函数。
9.如权利要求7所述的基于改进Transformer重构模型的网络流量无监督异常检测方法,其特征在于,所述采用基于POT算法选择阈值过程如下:
采用POT方法自动选择异常阈值,公式13中,th为异常评分的初始化阈值,对于低于阈值th的部分,记为th-S,s为一个预先设置的低分位数,遵循参数为γ和β的广义帕累托分布GPD;S为对网络流量异常评分序列{S1,S2…,SN'}中的任意一个,N'是总的观测评分次数;
在得到估计值和/>的情况下,最终的阈值thF通过公式14计算。其中,N'th是Si的数量,Si∈{S1,S2,…,SN'},Si<th;p为预先设置的观察到S<th的期望概率:
10.如权利要求9所述的基于改进Transformer重构模型的网络流量无监督异常检测方法,其特征在于,所述判别异常数据具体包括:在推理过程中,针对输入样本X,计算异常评分Err(X),其中,LR的输出值作为Err(X)的计算结果,推理异常的判定规则是当Err(X)>thF时,序列中的测试样本被预测为“异常”,否则为“正常”。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311791348.2A CN117768207A (zh) | 2023-12-24 | 2023-12-24 | 一种基于改进Transformer重构模型的网络流量无监督异常检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311791348.2A CN117768207A (zh) | 2023-12-24 | 2023-12-24 | 一种基于改进Transformer重构模型的网络流量无监督异常检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117768207A true CN117768207A (zh) | 2024-03-26 |
Family
ID=90325094
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311791348.2A Pending CN117768207A (zh) | 2023-12-24 | 2023-12-24 | 一种基于改进Transformer重构模型的网络流量无监督异常检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117768207A (zh) |
-
2023
- 2023-12-24 CN CN202311791348.2A patent/CN117768207A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111079836B (zh) | 基于伪标签方法和弱监督学习的过程数据故障分类方法 | |
CN111353373B (zh) | 一种相关对齐域适应故障诊断方法 | |
CN109580215A (zh) | 一种基于深度生成对抗网络的风电传动系统故障诊断方法 | |
CN112147432A (zh) | 基于注意力机制的BiLSTM模块、变压器状态诊断方法和系统 | |
CN115600150A (zh) | 一种基于深度迁移学习的多模态齿轮箱故障诊断方法 | |
CN111597340A (zh) | 一种文本分类方法及装置、可读存储介质 | |
Wu et al. | A transformer-based approach for novel fault detection and fault classification/diagnosis in manufacturing: A rotary system application | |
CN110956309A (zh) | 基于crf和lstm的流程活动预测方法 | |
Gu et al. | An improved sensor fault diagnosis scheme based on TA-LSSVM and ECOC-SVM | |
CN115791174B (zh) | 一种滚动轴承异常诊断方法、系统、电子设备及存储介质 | |
CN117034143A (zh) | 一种基于机器学习的分布式系统故障诊断方法及装置 | |
CN117056874A (zh) | 一种基于深度孪生自回归网络的无监督窃电检测方法 | |
CN112163020A (zh) | 一种多维时间序列异常检测方法及检测系统 | |
CN115345222A (zh) | 一种基于TimeGAN模型的故障分类方法 | |
Collier et al. | Transfer and marginalize: Explaining away label noise with privileged information | |
Ray et al. | Learning graph neural networks for multivariate time series anomaly detection | |
CN117290771A (zh) | 基于改进辅助分类生成对抗网络的旋转机械故障诊断方法 | |
CN117113078A (zh) | 基于多源数据集成的小样本轴承故障模式识别方法和系统 | |
CN117768207A (zh) | 一种基于改进Transformer重构模型的网络流量无监督异常检测方法 | |
CN112735604B (zh) | 一种基于深度学习算法的新型冠状病毒分类方法 | |
CN114118146A (zh) | 一种基于信念规则库的滚动轴承故障诊断方法及系统 | |
CN115035962A (zh) | 基于变分自编码器和生成对抗网络的虚拟样本生成及软测量建模方法 | |
Macias et al. | Novel imputation method using average code from autoencoders in clinical data | |
Karanam et al. | Explaining Deep Tractable Probabilistic Models: The sum-product network case | |
Deng et al. | Great models think alike: Improving model reliability via inter-model latent agreement |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |