CN109948117B - 一种对抗网络自编码器的卫星异常检测方法 - Google Patents

Abstract

本发明公开了一种针对卫星遥测数据，通过对抗网络自编码器的异常检测方法，包括：打破传统经验模型限制，采用纯数据驱动模型；在变分自编码器基础上，引入对抗网络思想，将双向LSTM(长短时记忆网络)作为判别器，利用重构数据和原始数据的误差来判断卫星遥测数据是否出现异常；针对卫星传感器存在冗余问题，打破常规，使用马氏距离来衡量重构误差。结合卫星轨道运行的周期性，提出基于周期时间窗口的动态阈值确定方法。本发明的优点是：纯数据驱动，无需专家经验，能够适用多种场合；结合变分自编码器和生成对抗网络各自的优点，提出的网络具有训练快、收敛较容易的特点；采用马氏距离，消除卫星遥测数据之间的冗余数据影响；根据卫星自身的周期性，提出基于周期时间窗口的动态阈值方法，降低了误判率。

Description

一种对抗网络自编码器的卫星异常检测方法

技术领域

本发明涉及一种对抗网络自编码器的卫星异常检测方法，是针对卫星遥测数据自动进行异常检测的方法，属于工程应用与信息科学的交叉领域。

背景技术

由于卫星长期处在太阳辐射等恶劣的外太空环境下，其在轨运行期间可能会发生无法预料的异常或故障，提前采取措施及时发现这些无法预料的异常或故障，对保障卫星长期稳定运行至关重要。因此，遥测数据的异常检测在卫星故障排查和实时健康检测等领域具有重要的意义。考虑到卫星复杂的设计结构和恶劣的工作环境，无法直接在外太空的环境下进行异常检测。目前通过在卫星各部件上安装多个传感器直接采集卫星各部件的在轨运行数据，将在轨运行数据传输到地面遥测中心，存储为时序遥测数据，然后对卫星时序遥测数据进行分析，进而实现对卫星在轨状态的异常检测。

NASA在卫星异常检测和故障诊断方面开展了大量的工作。60年代提出了基于简单的状态监测的卫星异常检测和故障诊断方法，70年代提出了基于算法的卫星异常检测和故障诊断方法，80年代提出了基于知识的卫星异常检测和故障诊断方法，90年代提出了基于agent以及网络的卫星异常检测和故障诊断方法。进入21世纪以来，为提高卫星在轨运行的平稳性和安全性，NASA提出了卫星综合健康管理技术。该技术将卫星各子系统的性能评估、异常检测、故障预测等模块，以及其相应的处理措施和后勤保障安排等，融合为一个卫星健康状况综合管理系统。

从20世纪80年代开始，数据挖掘就在统计分析领域初露锋芒。其中，基于统计的假设检验首先在异常检测领域崭露头角，通过对小概率事件的统计，来判别数据样本是否发生异常。此后，Grubbs等提出在数据集满足标准的t分布基础上对每个数据计算其Grubbs测试统计值，若数据的统计值超过某个阈值，则被认为是一个异常数据。Knorr等在异常检测领域首先提出了距离的概念，计算不同数据点之间的距离作为判断是否发生异常的依据，但是当数据点来自于不同密度分布的数据集时，该方法的异常检测效果不佳。为解决这一问题，Breunig等将密度计算加入到异常检测算法中，该算法避免了密度分布不均的数据集异常检测结果差的问题，但是，该算法复杂度过高，不能处理海量数据。Dawei Pan等提出了一种基于核主成分分析(KPCA)和关联规则的异常检测算法，采用KPCA构造特征矩阵，在时间序列中使用闭合模式挖掘遥测属性之间的关联规则，以此来识别异常。该方法对于遥测参数高维的情况效果不好，不能解决数据纬度高的问题。此外，Qin等人设计了一种区分周期性数据范围和单调性的算法，通过检测遥测数据的下界限来提前预警异常。这种方法对于具有较强周期性的遥测数据检测准确率较高，但是针对周期性不明显或者没有周期性的遥测数据，无法准确判断其频率的变化，故无法检测异常。Wang等针对TX-1星的故障检测，自先分析出卫星在轨光照期和阴影期，然后使用局部线性映射算法降维和提取特征，将高维数据空间映射到低维特征空间，最后计算统计量T²和SPE来检测故障。

针对目前存在的问题，本发明提出一种新型的引入对抗网络自编码器异常检测方法。该方法不仅可以迅速准确的判定异常数据，并且还无需专业知识。首先，和依据经验知识的异常检测方法不同，采用自编码器重构数据，依据重构误差来判定异常。其次，引入对抗网络，结合变分自编码器和生成对抗网络两者的优点，使得重构模型更加精确，降低重构模型的误差，降低了异常检测的误差。对于异常判断，不同于大多数采用欧氏距离衡量重构误差的方法，考虑到传感器冗余而且不依靠专家经验，采用马氏距离进行计算重构误差。最终，对数据进行周期分析，发明了一种基于周期时间窗口的异常判定方法，经过某星试用，效果较好。

发明内容

发明目的：本发明的目的是提供一种新型的卫星遥测数据异常自动检测法。该方法与传统的依据经验知识异常检测的方法不同，纯粹利用数据驱动，采用自编码器重构数据，依据重构误差来判定异常。其次，引入对抗网络，结合变分自编码器和生成对抗网络两者的优点，使得重构模型更加精确，降低重构模型的误差，使得异常检测误差低。对于异常判断，不同于大多数采用欧氏距离衡量重构误差，考虑到传感器冗余，采用马氏距离计算重构误差。最终，对数据进行周期分析，基于卫星周期提出一种基于时间窗口的异常自动检测方法。

技术方案：为实现上述目的，本发明提出一种对抗网络自编码器的卫星异常检测方法，大多数现有的基于经验的异常检测方法需要领域专家的合作；然而，大多数情况下，专家不可能在各种有需要的场合都能及时出现。因此本发明给出一种立足于数据自身的异常自动检测方法。该算法引入对抗网络，结合变分自编码器和生成对抗网络的优点，使得重构模型更加精确，降低重构模型的误差，使得异常检测误差低。对于异常判断，不同于大多数采用欧氏距离衡量重构误差，考虑到传感器冗余而且方法不依靠专家经验，本发明采用马氏距离计算重构误差。最终，对数据进行周期分析，基于卫星周期提出一种基于时间窗口的异常判定方法。其具体的技术方案包括以下几个步骤：

步骤一：建立变分自编码器。

(1)引入隐变量：当训练一个生成模型，在维度之间的依赖越复杂，模型训练越困难。此时需要一个隐变量z，并能从先验p(z)中采样。假设有一个函数族，即生成器f(z；θ)，θ是向量参数。通过优化θ能高概率的产生类似x的样本；

(2)建立损失函数：训练变分自编码器时，要考虑生成数据与真实数据的差异，以及编码器中后验概率密度和解码器中后验概率密度的差异。由此，得到自编码器的损失函数，如公式(1)：

其中，L_VAE代表变分自编码器的误差，L_R代表样本重构误差，

代表近似后验概率和真实后验概率的KL散度。

步骤二：引入对抗网络。

(1)构造双向RNN(循环神经网络)判别器：双向RNN目的是解决单向RNN无法处理后向网络信息的问题，单向RNN只能在一个方向上处理数据，而双向循环网络是提出每一个训练序列，其向前向后分别是两个RNN，而且这两个RNN都连接同一个输出层(注：本发明使用的是RNN的一种衍生网络——长短时记忆网络LSTM)。

其中，自前向后循环神经网络层更新公式(2)为：

自后向前循环神经网络的更新公式(3)为：

两层循环神经网络叠加后输入隐藏层公式(4)为：

(2)确立引入对抗网络后的目标函数：训练过程中，p_data和p_z分别是真实数据和生成数据的分布，在训练中交替训练判别器(Dis)和生成器(GEN)。在训练判别器时，希望真实数据判别值越接近1越好，对生成数据的判别值越接近0越好。在训练生成器时，希望生成数据能够欺骗判别器，让生成数据的判别值接近1。生成器训练刚开始时，生成数据和真实数据的分布有很大差异，判别器模型的判别结果处于上下摆动状态；然后，重复固定生成器，优化判别器，以及固定判别器，训练生成器这一过程，直到判别器无法判别生成数据的真假。生成器的目的就是通过不断训练生成模型，使p_z越来越接近p_data，并且构建一个判别器来区分生成数据和真实数据。建立如下目标函数O：

其中，Dis代表判别器，GEN代表生成器，x代表输入数据，z代表编码器生成的隐变量。

步骤三：卫星传感器数据异常检测。

(1)基于小波方差的卫星周期自动分析：卫星遥测数据也会随着卫星周期变化而变化，小波方差是小波系数的平方值在时间平移轴上的积分，即：

小波方差的离散型表示为：

小波方差的大小随着平移和尺度伸缩两种操作发生变化的过程，可以用小波方差图来表示。由公式(6、7)可得，小波方差能够反映信号波动的能量分布，计算信号的小波方差大小，进而确定信号源的周期；

(2)基于马氏距离的误差度量：卫星正常运行时，通过步骤(3)建立的自编码器会生成极其相似的数据。当卫星异常时，自编码器学习好的参数将无法继续重构异常样本。为了衡量这种重构误差，采用马氏距离度量这种误差。1其计算公式为(8)：

式中的x表示一个样本，μ表示样本均值，∑^-1表示样本空间的协方差矩阵的逆矩阵；

(3)周期时间窗口的动态阈值：根据卫星轨道运转的特点，对一个周期内的卫星数据进行分析更具有可靠性。先将一个前向周期窗口内收集到的数据统计得到97％上分位点，再将该点放大α倍，作为上界U，如公式(9)：

U_i＝y_i·(1+α)        (9)

其中，y_i是第i个输入量前向一个周期内97％上分位点，U_i是第i个输入量对应的上界，α是未知的比例系数。

为了获得最优的动态阈值区间，将近期历史数据构成一个新的预测样本，该预测样本称为验证集，通过时间窗口动态构建验证集的动态阈值区间，在验证的过程中通过不断调整α的值，获得一个满意的评估结果为止。

有益效果：本发明针对卫星遥测数据异常检测问题，提出一种对抗网络自编码器的异常自动检测方法。该方法融合变分自编码器和对抗生成网络各自的优点。针对传感器数据冗余的特点，采用马氏距离剔除重复传感器带来的干扰。考虑到卫星运行具有周期性，使用小波方差分析周期，并根据卫星周期采用一种动态的异常阈值，有效地降低了异常检测，提高了异常自动检测的准确度。

附图说明

图1是方法流程图。

图2是循环神经网络(RNN)示意图。

具体实施方式

下面结合附图，对本发明做进一步说明。

本发明提出一种对抗网络自编码器的卫星遥测数据异常检测方法。首先，采用自编码器重构数据，依据重构误差来判定异常。其次，引入对抗网络，结合变分自编码器和生成对抗网络的优点，使得重构模型更加精确，降低重构模型的误差，从而使得异常检测误差降低。对于异常判断，不同于目前采用欧氏距离衡量重构误差，考虑到传感器冗余而且方法不依靠专家经验，采用马氏距离进行计算重构误差。最终，对数据进行周期分析，基于卫星周期提出了一种基于时间窗口的异常判定方法。具体实施步骤如下，且具体流程见附图1。

1变分自编码器

变分自编码器是一种生成模型，它将深度学习和统计学习相结合。它的结构包含一个编码器和解码器。其中，编码器将样本x编码为一个隐变量z，解码器将z重构为x。可以用如下公示(10、11)表达：

z～E(x)＝q(z|x)      (10)

x～D(x)＝p(x|z)       (11)

其中，E(·)代表编码器，D(·)代表解码器，x是经过自编分编码器重构过的样本，z是符合方差为σ均值为0的高斯分布。

当训练变分自编码器时，要考虑生成数据与真实数据的差异和编码器中后验概率密度和解码器中后验概率密度的差异。由此，可以得到自编码器的损失函数：

其中，L_VAE代表变分自编码器的误差，L_R表示样本重构误差，

代表了近似后验概率和真实后验概率的KL散度。

2引入对抗网络

在生成式对抗网络中，生成模型GEN用来捕获数据分布，判别模型DIS用来评估样本数据来自于训练数据而不是GEN的概率，这利用了零和博弈的游戏思想。

训练过程中，p_data和p_z分别是真实数据和生成数据的分布，在训练中交替训练判别器(Dis)和生成器(GEN)。在训练判别器时，希望真实数据判别值越接近1越好，对生成数据的判别值越接近0越好。在训练生成器时，希望生成数据能够欺骗判别器，让生成数据的判别值接近1。生成器训练刚开始时，生成数据和真实数据的分布有很大差异，判别器模型的判别结果处于上下摆动状态；然后，重复固定生成器，优化判别器，以及固定判别器，训练生成器这一过程，直到判别器无法判别生成数据的真假。生成器的目的就是通过不断训练生成模型，使p_z越来越接近p_data，并且构建一个判别器来区分生成数据和真实数据。建立如下目标函数O：

其中，Dis代表判别器，GEN代表生成器，x代表输入数据，z代表编码器生成的隐变量。

3基于双向LSTM的判别器

双向RNN目的是解决单向RNN(结构见附图2)无法处理后向网络信息的问题，单向RNN只能在一个方向上处理数据，而双向循环网络是提出每一个训练序列，其向前向后分别是两个RNN，而且这两个RNN都连接同一个输出层(注：本发明使用的是RNN的一种衍生网络——长短时记忆网络LSTM)。

其中，自前向后循环神经网络层更新公式为：

自后向前循环神经网络的更新公式为：

两层循环神经网络叠加后输入隐藏层公式为：

双向LSTM神经网络模型结合双向RNN和LSTM两个模型的优点，形成了一个新模型，简单来说就是用LSTM单元替换掉双向RNN模型中的循环单元。将这种模型运用于卫星遥测数据的判别，能够充分学习出卫星各个分系统间的内在联系，从而使判别器更具有鲁棒性。替换后的GAN模型可以表示如下：

其中，DIS_bi-lstm表示基于双向LSTM的判别器，GEN代表生成器，x代表输入数据，z代表编码器生成的隐变量。

4基于VAE/BLGAN的重构算法

变分自编码器中隐变量的后验分布仅仅满足的是某一种概率分布，造成低维表示过于简单。在图像生成领域，导致生成的图像容易失真，在本发明中会则导致重构的卫星数据误差较大(相对于采用基于VAE的生成式对抗网络)。生成式对抗网络，作为一个生成模型，其效果非常好，但很多时候生成的数据难以符合真实的规律。将变分自编码器在特征提取方面的优点和GAN强大的生成能力结合，产生一种新的无监督学习生成模型VAE/BLGAN(基于双向LSTM判别器的引入对抗网络的变分自编码器)，并将该模型应用于卫星遥测数据自动检测。

在VAE/BLGAN模型中，变分自编码器和生成式对抗网络一起完成编码、生成数据和原始数据进行比较，进而来提升变分自编码器。最后用学习到的相似性度量，训练生成器模型，这样可以产生更小的误差。算法流程如下算法1所示。

4异常检测(得分)

当卫星正常运行时，卫星遥测数据输入建立的自编码器，会生成极其相似的数据。当卫星发生异常时，原先的自编码器学习好的参数，将无法继续重构异常样本。考虑到卫星传感器之间复杂联系，不同传感器之间存在相关性，以及变化尺度的不同，本发明采用马氏距离作为衡量这种误差的方法。其计算公式(18)如下：

其中，x表示一个样本，μ表示样本均值，∑^-1表示样本空间的协方差矩阵的逆矩阵。

为了衡量自编码器的重构误差，在马氏距离的基础上，计算重构数据R(i)在该数据集上的重构误差得分(RE_Score)，计算公式(19)如下：

其中，x(i)表示第i个数据记录，

表示经过自编码器重构的第i个数据记录，

表示数据集的协方差矩阵的逆矩阵。

RE_Score在高维空间中是一种相对鲁棒性的重构误差度量值，可以反应卫星遥测数据重构误差变化的趋势。为了监测这一趋势并且检测异常变动，一种方法是设置一个固定的阈值，当Rescore超过这个阈值时候，这就意味着卫星分系统可能出现了问题，需要发出告警。这种基于固定的阈值的卫星部件警报规则可以如下描述：

5基于小波方差的卫星周期分析

时序遥测数据反映了卫星在轨运行的状态，由于卫星运行具有周期性，因此，时序遥测数据也会随着卫星周期而呈现周期性变化，准确地分析出时序遥测数据变化周期对其异常检测研究具有重要意义。由于时序遥测数据维度高，数据量大，无法直接观察出时序遥测数据的周期，因此，本发明采用一种较为可行的周期提取方法，即基于小波方差的参数周期性分析，算法时间复杂度为O(n log₂n)。该方法能够有效的提取时序遥测数据的周期，进而为特征提取和异常检测提供帮助。

(1)小波函数

小波函数是用来表示某一信号的函数，小波函数ψ(t)∈L²(R)满足：

其中，ψ(t)表示基小波函数，则其可以得到一簇小波函数系：

其中，a，b∈R，a≠0，ψ_a，b(t)表示子小波；a是伸缩尺度因子；b是平移因子。

(2)小波变换

给定能量有限信号f(t)∈L²(R)，则其连续小波变换为：

其中，W_f(a，b)为小波变换系数；a是伸缩尺度因子；b是平移因子；

是ψ(t)的共轭函数。

由于卫星时序遥测数据是通过传感器实时采集，假设采样时间间隔为Δt，则信号函数可表示为f(kΔt)，k＝1，2，…，N，则其连续小波变换离散型表示为：

(3)小波方差

小波方差是小波系数的平方值在时间平移轴上的积分，即：

则小波方差的离散型表示为：

小波方差的大小随着平移和尺度伸缩两种操作发生变化的过程，可以用小波方差图来表示。由上述公式(26、27)可知，小波方差能够反映信号波动的能量分布，进而观察信号的小波方差的大小来确定信号的周期。

6基于时间窗口的动态阈值方法

基于上述4中的告警规则，在建立卫星遥测数据自编码器之后，选取部分数据进行验证。通过某星实验后发现，当阈值设置较低时，即使卫星在正常情况下运行，仍然产生了很多告警；当阈值设置较高，的确可以解决过多告警，但是会导致漏警。针对此问题，本发明提出一种基于周期时间窗口的动态阈值，用来检测卫星遥测数据是否存在异常。

根据卫星轨道运转的特点，对一个周期内的卫星数据进行分析更具有可靠性。先将一个前向周期窗口内收集到的数据统计得到97％上分位点，再将该点放大α倍，作为上界U，如公式(28)：

U_i＝y_i·(1+α)      (28)

其中，y_i是第i个输入量前向一个周期内97％上分位点，U_i是第i个输入量对应的上界，α是未知的比例系数。

为了获得最优的动态阈值区间，将近期历史数据构成一个新的预测样本，该预测样本称为验证集，通过时间窗口动态构建验证集的动态阈值区间，在验证的过程中通过不断调整α的值，获得一满意的评估结果为止。

Claims (3)

1.一种对抗网络自编码器的卫星数据异常检测方法，其主要特征包括如下步骤：

(1)建立变分自编码器：变分自编码器是一个可以通过神经网络训练学习的近似推断的有向模型，使用梯度方法使模型收敛；

(2)引入对抗网络：生成式对抗网络是基于博弈论，生成器网络必须与对手竞争，生成器网络负责产生样本，其对手判别器网络负责区分从训练数据抽取的样本和从生成器生成的样本，将自编码器的解码器用做对抗网络中的生成器，从而将对抗网络引入到变分自编码器；

(3)卫星遥测数据异常检测：当卫星正常运行时，将遥测数据输入建立的自编码器，会生成极其相似的数据，当卫星异常时，原先的自编码器学习好的参数，将无法继续重构异常样本；为了衡量这种重构误差，采用马氏距离作为衡量方法；

其中，建立变分自编码器具体包括：

(11)引入隐变量：当训练一个生成模型，在维度之间的依赖越复杂，模型训练越困难，此时需要一个隐变量z，并能从先验p(z)中采样；假设有一个函数族，即生成器f(z；θ)，θ是向量参数，通过优化θ能高概率的产生类似x的样本；

(22)建立损失函数：训练变分自编码器时，要考虑生成数据与真实数据的差异，以及编码器中后验概率密度和解码器中后验概率密度的差异，由此，得到自编码器的损失函数，如公式(1)：

其中，L_VAE代表变分自编码器的误差，L_R代表样本重构误差，

代表近似后验概率和真实后验概率的KL散度；

卫星遥测数据异常检测具体包括：

采用自编码器重构数据，依据重构误差来判定异常，为了衡量自编码器的重构误差，在马氏距离的基础上，计算重构数据R(i)在该数据集上的重构误差得分RE_Score，计算公式(2)如下：

其中，x(i)表示第i个数据记录，

表示经过自编码器重构的第i个数据记录，

表示数据集的协方差矩阵的逆矩阵，RE_Score表示高维空间中，相对鲁棒性的重构误差度量值，用于反应卫星遥测数据重构误差变化的趋势；当RE_Score超过一设定的阈值时，则认为卫星分系统出现了问题，发出告警。

2.根据权利要求1所述的对抗网络自编码器的卫星数据异常检测方法，其特征在于，步骤(2)引入对抗网络，其实现方法包括：

(21)构造双向RNN循环神经网络判别器：双向RNN目的是解决单向RNN无法处理后向网络信息的问题，单向RNN只能在一个方向上处理数据，而双向循环网络是提出每一个训练序列，其向前向后分别是两个RNN，而且这两个RNN都连接同一个输出层，且双向RNN循环神经网络采用的是RNN的一种衍生网络，即长短时记忆网络LSTM；

其中，自前向后循环神经网络层更新公式(3)为：

自后向前循环神经网络的更新公式(4)为：

两层循环神经网络叠加后输入隐藏层公式(5)为：

(22)确立引入对抗网络后的目标函数：训练过程中，p_data和p_z分别是真实数据和生成数据的分布，在训练中交替训练判别器Dis和生成器GEN；在训练判别器时，希望真实数据判别值越接近1越好，对生成数据的判别值越接近0越好；在训练生成器时，希望生成数据能够欺骗判别器，让生成数据的判别值接近1；生成器训练刚开始时，生成数据和真实数据的分布有很大差异，判别器模型的判别结果处于上下摆动状态；然后，重复固定生成器，优化判别器，以及固定判别器，训练生成器这一过程，直到判别器无法判别生成数据的真假，生成器的目的就是通过不断训练生成模型，使p_z越来越接近p_data，并且构建一个判别器来区分生成数据和真实数据；建立如下目标函数O：

其中，Dis代表判别器，GEN代表生成器，x代表输入数据，z代表编码器生成的隐变量。

3.根据权利要求1所述的对抗网络自编码器的卫星数据异常检测方法，其特征在于，步骤(3)卫星遥测数据异常检测，其实现方法包括：

(31)基于小波方差的卫星周期自动分析：卫星遥测数据也会随着卫星周期变化而变化，小波方差是小波系数的平方值在时间平移轴上的积分，即：

小波方差的离散型表示为：

小波方差的大小随着平移和尺度伸缩两种操作发生变化的过程，可以用小波方差图来表示，由公式(7、8)可得，小波方差能够反映信号波动的能量分布，计算信号的小波方差大小，进而确定信号源的周期；

(32)基于马氏距离的误差度量：卫星正常运行时，通过步骤(3)建立的自编码器会生成极其相似的数据，当卫星异常时，自编码器学习好的参数将无法继续重构异常样本，为了衡量这种重构误差，采用马氏距离度量这种误差，其计算公式为(9)：

式中的x表示一个样本，μ表示样本均值，∑^-1表示样本空间的协方差矩阵的逆矩阵；

(33)周期时间窗口的动态阈值：根据卫星轨道运转的特点，对一个周期内的卫星数据进行分析更具有可靠性，先将一个前向周期窗口内收集到的数据统计得到97％上分位点，再将该点放大α倍，作为上界U，如公式(10)：

U_i＝y_i·(1+α)(10)

其中，y_i是第i个输入量前向一个周期内97％上分位点，U_i是第i个输入量对应的上界，α是未知的比例系数；

为了获得最优的动态阈值区间，将近期历史数据构成一个新的预测样本，该预测样本称为验证集，通过时间窗口动态构建验证集的动态阈值区间，在验证的过程中通过不断调整α的值，获得一个满意的评估结果为止。

Images