CN114254695B - 一种航天器遥测数据自适应异常检测方法及装置 - Google Patents

Abstract

本发明公开了一种航天器遥测数据自适应异常检测方法及装置，能够解决航天器遥测数据异常检测的实施效率低和准确率低的技术问题。确定S个航天器的遥测通道；构建Transformer模型；对通道中的每一个，以通道P_i的遥控遥测时间序列矩阵作为输入，该通道遥测值作为输出，训练所述Transformer模型，得到对应于通道P_i的训练好的Transformer模型；基于真实遥测值Y与预测遥测值

获取平滑残差向量；将平滑残差向量e_s中小于或等于阈值ε的平滑残差对应时刻的遥测值作为正常值；反之记为异常值；由全部异常值组成初步异常序列集合；基于初步异常序列集合中各异常序列的平滑残差最大值和所有正常序列的平滑残差最大值，对初步异常序列进行剪裁。

Description

一种航天器遥测数据自适应异常检测方法及装置

技术领域

本发明涉及航天器遥测数据检测领域，具体涉及一种航天器遥测数据自适应异常检测方法及装置。

背景技术

随着航天技术的发展，航天器日益复杂，其运行状态数据众多，观测其系统状态的遥测通道常常数以千计。监测这些遥测数据是航天器运行和保障的重要任务，通过对航天器遥测数据进行实时监测，及时判断航天器是否出现故障意义重大。在此过程中，遥测数据异常检测是航天器在轨自主运行和地面运行保障的关键方法之一。

目前航天器的遥测数据异常检测方法主要包括：基于阈值、基于统计、基于距离和基于预测的方法。基于阈值的方法通常需要人工设置阈值等规则，需要广泛的专家知识和人工成本。基于统计和基于距离的方法容易遗漏在限制范围内发生的异常或与时间序列密切相关的异常。基于预测的方法是通过智能算法重构或预测遥测数据，从而检测遥测数据是否发生变化。例如通过比较真实值和预测值得到残差值，并将残差与阈值比较，从而实现异常检测。

以上检测方法大多数是基于遥测通道的数据本身进行研究，对遥测数据进行异常检测。由于以往航天器机载计算资源较少，这些技术在航天器在轨自主检测时取得了一定积极效果。但是对于日益复杂的航天器而言，遥测和遥控的交互影响更加明显。如何在保持时间序列的原始特性的情况下，将遥控信息融入遥测数据的时间序列，进行遥控遥测综合时间序列的异常检测是航天器异常检测的需求和发展方向。

随着深度学习的发展，很多深度学习模型也被用于航天器异常检测领域。例如基于深度学习方法，利用历史数据对遥测时间序列建模，从而实现基于预测的异常检测。在现有航天器遥测数据异常检测技术，使用长短期记忆神经网络(LSTM)将遥控指令以及遥测数据同时作为输入，建立遥控遥测时间序列的LSTM模型，实现了对遥测数据的异常检测。但是航天器运行过程中，相关联的遥测状态之间、相关的遥控遥测之间不一定是及时响应的。尤其是航天器执行自主性的任务时，遥测的变化会随着任务的展开而持续变化，从而造成相关的遥控遥测信息可能在时间序列里相距较远。而LSTM在考虑全局数据，尤其是在时间序列内部的距离较远的数据上能力较弱。同时，针对遥测遥控综合的时间序列而言，LSTM无法对one-hot编码的遥测遥控时间序列实现有效的嵌入映射(Embedding)，也就造成了LSTM对遥控遥测时间序列建模精度低的问题。由于以上两方面原因，现有技术的航天器遥测数据异常检测准确率不足。此外，由于航天器遥测通道非常多，对每个通道建模需要大量的时间。然而LSTM无法并行计算，具体应用中训练模型的效率较低。综上所述，现有技术虽然可以在一定程度上实现航天器遥测数据的异常检测，但是现有技术实施效率低，准确率有待提升。

发明内容

有鉴于此，本发明提供了一种航天器遥测数据自适应异常检测方法及装置，能够解决现有技术对航天器遥测数据异常检测的实施效率低和准确率低的技术问题。

为了解决上述技术问题，本发明是这样实现的。

一种航天器遥测数据自适应异常检测方法，包括：

步骤S1：从航天器的遥测通道中，确定S个关注的通道，并对所述S个关注的通道的遥控遥测数据分别进行one-hot格式化编码，获取各通道P_i的遥控遥测时间序列矩阵

n为时间序列矩阵的列数；

步骤S2：构建Transformer模型，所述Transformer模型包括n_E个Encoder模块和n_D个Decoder模块；每个Encoder模块及Decoder模块中，将层归一化(Layer Norm)层配置于全连接层和多头注意力层之前；在Transformer模型的Encoder部分和Decoder部分之间使用倒序逐次交叉注意力的方式连接各个Encoder模块和Decoder模块；

所述倒序逐次交叉注意力的方式为：

若n_E≥n_D，对于1<num≤n_D，将第num个Encoder模块的注意力特征输出到第n_D-num+1个Decoder模块；对于n_D<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_D个Decoder模块；

若n_E<n_D，对于1<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_E-num+1个Decoder模块；对于n_E<num≤n_D，将第n_E个Encoder模块的注意力特征输出到第num个Decoder模块；

步骤S3：初始化i＝1；

步骤S4：以通道P_i的遥控遥测时间序列矩阵

作为输入，后续l_p长度的该通道遥测值

作为输出，训练所述Transformer模型，得到对应于通道P_i的训练好的Transformer模型；

步骤S5：获取输入数据，基于所述输入数据及通道P_i的训练好的Transformer模型，在t时刻之前，获取通道P_i的若干个预测遥测值，记为

记录与之相对应的真实遥测值，记为Y＝{y^(t-h),…,y^(t)}，将真实遥测值Y与预测遥测值

相减，得到遥测残差向量e；通过指数加权移动平均(EWMA)方法将残差向量e平滑化得到平滑残差向量e_s；

步骤S6：在t时刻，对平滑残差向量e_s计算自适应阈值ε；将平滑残差向量e_s中大于阈值ε的平滑残差对应时刻的遥测值作为异常值；将平滑残差向量e_s中小于或等于阈值ε的平滑残差对应时刻的遥测值作为正常值；异常值集合包括点异常和序列异常两种情况：被检测出的孤立的异常数据点属于点异常情况，每项数据称为异常点，被检测出的连续的异常数据序列属于序列异常情况，每组序列称为异常序列；将得到的全部异常序列组成初步异常序列集合；

步骤S7：提取初步异常序列集合中各异常序列的平滑残差最大值和所有正常序列的平滑残差最大值，将其降序排列后组成新序列。逐项计算该新序列的幅度下降率，如果新序列中某项的幅度下降率大于最小百分比阈值，则将该项之前各项对应的初步异常序列认定为真异常序列，将该项及其之后各项对应的初步异常序列重新设置为正常序列；如果新序列中任意一项的幅度下降率都小于或等于最小百分比阈值，则将所有的初步异常序列都重新设置为正常序列；

步骤S8：若i>S，方法结束；否则，将i赋值为i+1，进入步骤S4。

优选地，所述步骤S1中，对S个关注的通道的各个通道P_i，1≤i≤S，建立通道P_i的遥控遥测时间序列矩阵

其中，

表示该通道P_i在时间t时的遥控遥测值，1≤t≤n，

包括m-1个one-hot编码的遥控指令和1个该通道P_i的遥测值。

优选地，所述步骤S5中，将真实遥测值Y与预测遥测值

相减，得到遥测残差向量e：

通过指数加权移动平均(EWMA)方法将残差向量平滑化得到平滑残差向量e_s。

上式中EWMA表示指数加权移动平均函数，具体算法如下式所示。

其中，α是加权衰减率。

优选地，所述步骤S6中，

在t时刻，对平滑残差向量e_s计算自适应阈值ε的集合ε。

ε＝μ(e_s)+zσ(e_s)

上式中z是一系列预定义的数值集合；

在阈值集合ε中通过求解下式得到最终的自适应阈值ε。

其中

Δμ(e_s)＝μ(e_s)-μ{e_s∈e_s|e_s≤ε}

Δσ(e_s)＝σ(e_s)-σ{e_s∈e_s|e_s≤ε}

e_a＝{e_s∈e_s|e_s＞ε}

E_seq＝continuous sequences of e_a∈e_a

其中，μ(e_s)表示e_s的均值；Δμ(e_s)表示e_s的均值和e_s中不大于阈值ε的正常值的均值的差值；σ(e_s)表示e_s的标准差；Δσ(e_s)表示e_s的标准差和e_s中不大于阈值ε的正常值的标准差的差值；e_a表示e_s中大于阈值ε的值的集合；n(e_a)表示e_a中元素的数量；E_seq表示所有异常序列的集合；n(E_seq)表示E_seq中元素的数量。

得到自适应阈值ε后，将大于阈值ε的平滑残差对应的遥测值作为异常值，其中包括点异常和序列异常两种情况；将小于或等于阈值ε的平滑残差对应的遥测值作为正常值。

优选地，所述步骤S7中，对初步异常序列集合中各异常序列的平滑残差序列分别取其最大值，并添加正常值的平滑残差的最大值后降序排列，组成新序列e_max，逐项计算该新序列的幅度下降率，并与最小百分比阈值p比较。具体执行以下操作：定义e_seq表示初步异常序列集合中的一个异常序列的平滑残差序列；定义e_max为所有异常序列的平滑残差序列的最大值集合，并在e_max末尾添加正常值的平滑残差的最大值，最后将其降序排列；

e_max＝max({e_s∈e_seq|e_seq∈E_seq})∪max({e_s∈e_s|e_s≤ε})

对e_max计算每一项的幅度下降率d^(c)；

如果在计算第c项幅度下降率时发现d^(c)大于最小百分比阈值p，则将该项之前各项最大值

对应的初步异常序列认定为真异常序列，将该项及其之后各项最大值

对应的初步异常序列重新设置为正常序列；如果任意d^(c)均小于或等于最小百分比阈值p，则将所有的初步异常序列都重新设置为正常序列。

本发明所提供的一种航天器遥测数据自适应异常检测装置，包括

编码模块：配置为从航天器的遥测通道中，确定S个关注的通道，并对所述S个关注的通道的遥控遥测数据分别进行one-hot格式化编码，获取各通道P_i的遥控遥测时间序列矩阵

n为时间序列矩阵的列数；

Transformer模型构建模块：配置为构建Transformer模型，所述Transformer模型包括n_E个Encoder模块和n_D个Decoder模块；每个Encoder模块及Decoder模块中，将层归一化(Layer Norm)层配置于全连接层和多头注意力层之前；在Transformer模型的Encoder部分和Decoder部分之间使用倒序逐次交叉注意力的方式连接各个Encoder模块和Decoder模块；

所述倒序逐次交叉注意力的方式为：

若n_E≥n_D，对于1<num≤n_D，将第num个Encoder模块的注意力特征输出到第n_D-num+1个Decoder模块；对于n_D<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_D个Decoder模块；

若n_E<n_D，对于1<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_E-num+1个Decoder模块；对于n_E<num≤n_D，将第n_E个Encoder模块的注意力特征输出到第num个Decoder模块；

初始化模块：配置为初始化i＝1；

训练模块：配置为以通道P_i的遥控遥测时间序列矩阵

作为输入，后续l_p长度的该通道遥测值

作为输出，训练所述Transformer模型，得到对应于通道P_i的训练好的Transformer模型；

平滑残差向量获取模块：配置为获取输入数据，基于所述输入数据及通道P_i的训练好的Transformer模型，在t时刻之前，获取通道P_i的若干个预测遥测值，记为

记录与之相对应的真实遥测值，记为Y＝{y^(t-h),…,y^(t)}，将真实遥测值Y与预测遥测值

相减，得到遥测残差向量e；通过指数加权移动平均(EWMA)方法将残差向量e平滑化得到平滑残差向量e_s；

初步异常序列确定模块：配置为在t时刻，对平滑残差向量e_s计算自适应阈值ε；将平滑残差向量e_s中大于阈值ε的平滑残差对应的遥测值作为异常值；将平滑残差向量e_s中小于或等于阈值ε的平滑残差对应的遥测值作为正常值；异常值集合包括点异常和序列异常两种情况：被检测出的孤立的异常数据点属于点异常情况，每个数据称为异常点，被检测出的连续的异常数据序列属于序列异常情况，每组序列称为异常序列；该步骤中得到的全部异常序列组成初步异常序列集合；

剪裁模块：配置为提取初步异常序列集合中各异常序列的平滑残差序的最大值和所有正常序列的平滑残差序的最大值，将其降序排列后组成新序列；逐项计算该新序列的幅度下降率，如果新序列中某项的幅度下降率大于设定的最小百分比阈值，则将该项及其之前项对应的初步异常序列认定为真异常序列，将之后的各项及其对应的初步异常序列重新设置为正常序列；如果新序列中任意一项的幅度下降率都小于或等于设定的最小百分比阈值，则将所有的初步异常序列都重新设置为正常序列；

判断模块：配置为进行判断，若i>S，结束计算；否则，将i赋值为i+1，触发训练模块。

优选地，所述编码模块中，对S个关注的通道的各个通道P_i，1≤i≤S，建立通道P_i的遥控遥测时间序列矩阵

其中，

表示该通道P_i在时间t时的遥控遥测值，1≤t≤n，

包括m-1个one-hot编码的遥控指令和1个该通道P_i的遥测值。

优选地，所述平滑残差向量获取模块中，将真实遥测值Y与预测遥测值

相减，得到遥测残差向量e：

通过指数加权移动平均(EWMA)方法将残差向量平滑化得到平滑残差向量e_s。

上式中EWMA表示指数加权移动平均函数，具体算法如下式所示。

其中，α是加权衰减率。

优选地，所述初步异常序列确定模块中：

在t时刻，对平滑残差向量e_s计算自适应阈值ε的集合ε：

ε＝μ(e_s)+zσ(e_s)

上式中z是一系列预定义的数值集合；

在阈值集合ε中通过求解下式得到最终的自适应阈值ε：

其中

Δμ(e_s)＝μ(e_s)-μ{e_s∈e_s|e_s≤ε}

Δσ(e_s)＝σ(e_s)-σ{e_s∈e_s|e_s≤ε}

e_a＝{e_s∈e_s|e_s＞ε}

E_seq＝continuous sequences of e_a∈e_a

其中，μ(e_s)表示e_s的均值；Δμ(e_s)表示e_s的均值和e_s中不大于阈值ε的正常值的均值的差值；σ(e_s)表示e_s的标准差；Δσ(e_s)表示e_s的标准差和e_s中不大于阈值ε的正常值的标准差的差值；e_a表示e_s中大于阈值ε的值的集合；n(e_a)表示e_a中元素的数量；E_seq表示所有异常序列的集合；n(E_seq)表示E_seq中元素的数量。

得到自适应阈值ε后，将大于阈值ε的平滑残差对应的遥测值作为异常值，其中包括点异常和序列异常两种情况；将小于或等于阈值ε的平滑残差对应的遥测值作为正常值。

优选地，所述剪裁模块中，对初步异常序列集合中各异常序列的平滑残差序列分别取其最大值，并添加正常值的平滑残差的最大值后降序排列，组成新序列e_max，逐项计算该新序列的幅度下降率，并与最小百分比阈值比较；

具体执行以下操作：定义e_seq表示初步异常序列集合中的一个异常序列的平滑残差序列；定义e_max为所有异常序列的平滑残差序列的最大值集合，并在e_max末尾添加正常值的平滑残差的最大值，最后将其降序排列；

e_max＝max({e_s∈e_seq|e_seq∈E_seq})∪max({e_s∈e_s|e_s≤ε})

对e_max计算每一个数值的幅度下降率d^(c)；

如果在计算第c项幅度下降率时发现d^(c)大于最小百分比阈值p，则将该项之前各项最大值

对应的初步异常序列认定为真异常序列，将该项及其之后各项最大值

对应的初步异常序列重新设置为正常序列；如果任意d^(c)均小于或等于最小百分比阈值p，则将所有的初步异常序列都重新设置为正常序列。

有益效果：相对于现有技术，本发明提出的改进Transformer模型能够更快捷和更有效地对航天器遥控遥测数据建模，从而更准确地预测遥测值；通过自适应阈值的设置和异常剪裁技术，避免了人工制定异常阈值的困难，并提高查准率和查全率。实施例表明：相比于现有技术，本发明以更高的效率和准确率检测出航天器遥测中的遥测异常。

附图说明

图1为航天器遥测数据自适应异常检测方法流程示意图；

图2为Transformer模型的层归一化改进示意图；

图3为Transformer模型的Encoder和Decoder模块交互改进示意图；

图4为G-7通道训练遥测值示意图；

图5为G-7通道实际遥测、预测遥测、实际异常区域示意图；

图6为G-7通道平滑残差、检测出的异常区域示意图；

图7为A-4通道训练数据示意图；

图8为A-4通道实际遥测、预测遥测及实际异常区域示意图；

图9为A-4通道平滑残差、检测出的异常区域示意图；

图10为航天器遥测数据自适应异常检测装置结构框图。

具体实施方式

下面结合附图和实施例，对本发明进行详细描述。

本发明提出了一种航天器遥测数据自适应异常检测方法，该方法对Transformer模型进行了改进，综合考虑了航天器遥测数据和遥控指令的时间序列特性，设计了适用于航天器遥测数据和遥控指令的综合行为规律的改进Transformer模型，从而可以更准确地预测航天器状态正常时的遥测数据，进而通过实际遥测值和预测遥测值的比较得到残差，若残差小于或等于阈值即可判定航天器遥测正常，反之则认为航天器遥测异常。为了准确检测航天器遥测数据的异常情况，本发明设计了自适应阈值，通过比较残差和自适应阈值初步得到航天器的异常遥测集合。在此基础上，本发明设计了异常剪裁方法，对初步确定的航天器异常遥测，通过异常剪裁删除部分假异常遥测，从而提高查准率和查全率。

本发明提供的航天器遥测数据自适应异常检测方法，包括如下步骤：

步骤S1：从航天器的遥测通道中，确定S个关注的通道，并对所述S个关注的通道的遥控遥测数据分别进行one-hot格式化编码，获取各通道P_i的遥控遥测时间序列矩阵

n为时间序列矩阵的列数；

步骤S2：构建Transformer模型，所述Transformer模型包括n_E个Encoder模块和n_D个Decoder模块；每个Encoder模块及Decoder模块中，将层归一化(Layer Norm)层配置于全连接层和多头注意力层之前；在Transformer模型的Encoder部分和Decoder部分之间使用倒序逐次交叉注意力的方式连接各个Encoder模块和Decoder模块；

所述倒序逐次交叉注意力的方式为：

若n_E≥n_D，对于1<num≤n_D，将第num个Encoder模块的注意力特征输出到第n_D-num+1个Decoder模块；对于n_D<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_D个Decoder模块；

若n_E<n_D，对于1<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_E-num+1个Decoder模块；对于n_E<num≤n_D，将第n_E个Encoder模块的注意力特征输出到第num个Decoder模块；

步骤S3：初始化i＝1；

步骤S4：以通道P_i的遥控遥测时间序列矩阵

作为输入，后续l_p长度的该通道遥测值

作为输出，训练所述Transformer模型，得到对应于通道P_i的训练好的Transformer模型；

步骤S5：获取输入数据，基于所述输入数据及通道P_i的训练好的Transformer模型，在t时刻之前，获取通道P_i的若干个预测遥测值，记为

记录与之相对应的真实遥测值，记为Y＝{y^(t-h),…,y^(t)}，将真实遥测值Y与预测遥测值

相减，得到遥测残差向量e；通过指数加权移动平均(EWMA)方法将残差向量e平滑化得到平滑残差向量e_s；

步骤S6：在t时刻，对平滑残差向量e_s计算自适应阈值ε；将平滑残差向量e_s中大于阈值ε的平滑残差对应时刻的遥测值作为异常值；将平滑残差向量e_s中小于或等于阈值ε的平滑残差对应时刻的遥测值作为正常值；异常值集合里包括点异常和序列异常两种情况：被检测出的孤立的异常数据点属于点异常情况，每项数据称为异常点，被检测出的连续的异常数据序列属于序列异常情况，每组序列称为异常序列；该步骤中得到的全部异常序列组成初步异常序列集合；

步骤S7：提取初步异常序列集合中各异常序列的平滑残差序列的最大值和所有正常序列的平滑残差的最大值，将其降序排列后组成新序列。逐项计算该新序列的幅度下降率，如果新序列中某项的幅度下降率大于最小百分比阈值，则将该项之前各项对应的初步异常序列认定为真异常序列，将该项及其之后各项对应的初步异常序列重新设置为正常序列；如果新序列中任意一项的幅度下降率都小于或等于最小百分比阈值，则将所有的初步异常序列都重新设置为正常序列；

步骤S8：若i>S，方法结束；否则，将i赋值为i+1，进入步骤S4。

本发明提出的航天器遥测数据自适应异常检测方法，是一种基于改进Transformer的航天器遥测数据自适应异常检测方法。本发明综合考虑了航天器遥测数据和遥控指令的时间序列特性，设计了适用于航天器遥测数据和遥控指令的综合行为规律的改进Transformer模型，从而可以更准确地预测航天器状态正常时的遥测数据，进而通过实际遥测值和预测遥测值的比较得到残差，若残差小于或等于阈值即可判定航天器遥测正常，反之则认为航天器遥测异常。为了准确检测航天器遥测数据的异常情况，本发明设计了自适应阈值，通过比较残差和自适应阈值初步得到航天器的异常遥测集合。在此基础上，本发明设计了异常剪裁方法，对初步确定的航天器异常遥测，通过异常剪裁删除部分假异常遥测，从而提高查准率和查全率。

所述步骤S1，对所述S个关注的通道的遥控遥测数据分别进行one-hot格式化编码，获取各通道P_i的遥控遥测时间序列矩阵

包括：对S个关注的通道的各个通道P_i，1≤i≤S，建立通道P_i的遥控遥测时间序列矩阵

其中，

表示该通道P_i在时间t时的遥控遥测值，1≤t≤n，

包括m-1个one-hot编码的遥控指令和1个该通道P_i的遥测值。

本实施例中，对于航天器的所有遥测通道，确定S个关注的通道。对S个遥测通道的遥控遥测数据分别进行one-hot编码。例如对于某通道，建立遥控遥测时间序列矩阵X＝{x⁽¹⁾,x⁽²⁾,…,x⁽ⁿ⁾}。序列中的每一个x^(t)∈R^m表示该通道时间t时的遥控遥测值，其中包括m-1个one-hot编码的遥控指令和1个该通道遥测值，如式(1)所示。

上式表示从t＝[1,2,…,n]时刻遥测遥控时间序列矩阵，每一列x^(t)表示t时刻的遥控指令值和此时某遥测通道的遥测值，x^(t)前m-1行表示m-1个one-hot编码的遥控指令，最后一项表示该通道t时刻的遥测值。

所述步骤S2，本发明设计的Transformer模型是在原始的Transformer模型的基础上改进而来，使其更适用于长序列的遥测数据建模，从而更适用于航天器遥控遥测组合的时间序列的数据建模。本发明提出的Transformer模型包括n_E个Encoder和n_D个Decoder模块。一般情况下，应满足n_E≥2和n_D≥2，n_E和n_D不必相等，例如n_E＝3，n_D＝6。本发明以n_E＝n_D＝8为例说明本发明对传统Transformer的改进。如图2所示，相比于原始Transformer模型，本发明使用的每个Encoder模块和Decoder模块中，将层归一化层放在全连接层和多头注意力层之前。该改进提高了残差层梯度计算时的梯度稳定性。

此外，如图3所示，相比于原始Transformer模型，本发明在Encoder和Decoder之间，使用倒序逐次交叉注意力的方式连接Encoder模块和Decoder模块。本实施例以n_E＝n_D＝8为例，即将第num个Encoder模块的注意力输出到第9-num个Decoder模块，该改进提高了Transformer模型的长时间序列信息保留能力。

所述步骤S4，以某一遥测通道数据为例，使用长度为l_s的遥控遥测时间序列数据X作为输入，后续l_p长度的该通道遥测值

作为输出，训练Transformer模型。从而获得航天器在各种遥测状态和接收各类指令的情况下的遥控遥测变化规律模型。

所述步骤S5，本实施例中，对于通道P_i，在t时刻之前，假设已计算出h+1个预测的该通道遥测值，记为

此时已记录相应的h+1个真实遥测值Y＝{y^{(t -h)},…,y^(t)}。那么可以将真实遥测值Y与预测遥测值

相减，可得遥测残差向量e。

通过指数加权移动平均(EWMA)方法将残差向量平滑化得到平滑残差向量e_s。

上式中EWMA表示指数加权移动平均函数，具体算法如下式所示。

上式中α是加权衰减率。

所述步骤S6，其中：

在t时刻，对平滑残差向量e_s计算自适应阈值ε的集合ε。

ε＝μ(e_s)+zσ(e_s)   (5)

上式中z是一系列预定义的数值集合。

在阈值集合ε中通过求解下式得到最终的自适应阈值ε。

其中

其中，μ(e_s)表示e_s的均值；Δμ(e_s)表示e_s的均值和e_s中不大于阈值ε的正常值的均值的差值；σ(e_s)表示e_s的标准差；Δσ(e_s)表示e_s的标准差和e_s中不大于阈值ε的正常值的标准差的差值；e_a表示e_s中大于阈值ε的值的集合；n(e_a)表示e_a中元素的数量；E_seq表示所有异常序列的集合；n(E_seq)表示E_seq中元素的数量。

式(6)和现有技术不同处在于其分母部分，本发明考虑到目前航天器遥测中出现的假性点异常较多，因此使用n²(e_a)替换现有技术的n(e_a)。

得到自适应阈值ε后，将大于阈值ε的平滑残差对应的遥测值作为异常值，其中包括点异常和序列异常两种情况；将小于或等于阈值ε的平滑残差对应的遥测值作为正常值。此时实现了初步的航天器遥测数据异常检测，检测出的异常残差e_a对应遥测序列x_a。

所述步骤S7，航天器遥测有时会由于各种原因出现距离阈值较近的点异常或较短的序列异常。如果将该类情况均视为真异常，则会造成大量的异常误报，因此应对异常进行一定程度的剪裁。通过式(6)的改进，已经抑制了假性点异常，因此这里重点剪裁序列异常。通过对比所有初步异常序列的平滑残差序列的最大值的幅度下降率，将部分平滑残差接近于阈值的初步异常序列重新认定为正常序列。

本实施例中，对初步异常序列集合中各异常序列的平滑残差序列分别取其最大值，并添加正常值的平滑残差的最大值后降序排列，组成新序列e_max，逐项计算该新序列的幅度下降率，并与阈值比较。

具体执行以下操作：定义e_seq表示初步异常序列集合中的一个异常序列的平滑残差序列；定义e_max为所有异常序列的平滑残差序列的最大值集合，并在e_max末尾添加正常值的平滑残差的最大值，最后将其降序排列。

e_max＝max({e_s∈e_seq|e_seq∈E_seq})∪max({e_s∈es|e_s≤ε})   (8)

对e_max计算每一项的幅度下降率d^(c)。

如果在计算第c项幅度下降率时发现d^(c)大于最小百分比阈值p，则将该项之前各项最大值

对应的初步异常序列认定为真异常序列，将该项及其之后各项最大值

对应的初步异常序列重新设置为正常序列；如果任意d^(c)均小于或等于阈值p，则将所有的初步异常序列都重新设置为正常序列。

通过上述过程保留了部分显著的真异常，删除了部分符合条件的假异常，从而实现异常剪裁。同样地，在剪裁e_a中的E_seq之后，对应地剪裁遥测值序列x_a。

以下结合具体实施例说明本发明的航天器遥测数据自适应异常检测方法。

本发明实施例的数据来源于土壤水分遥感卫星(SMAP)和漫游者号火星探测器(MSL)。数据包括SMAP和MSL的82个遥测通道的遥测数据和相应的遥控指令数据。本发明实施例采用这两个航天器的遥测数据进行验证。

(一)性能评价方法

首先，本发明明确对航天器遥测数据异常检测的性能评价方法，包括三个指标：真阳性(True Positive)、假阳性(False Positives)、假阴性(False Negatives)。

(1)如果检测的异常序列的任何部分与真实标记的异常序列重合，则将该情况记为真阳性结果。此时如果多个检测出的异常序列的某些部分落在同一个真实标记的异常序列中，只认为是一个真阳性结果。

(2)如果检测的异常序列的任何部分均没有和真实标记的异常序列重合，则将该情况记为假阳性结果。

(3)如果真实标记的异常序列和任何检测的异常序列均没有重合，则将该情况记为假阴性结果。

使用以上三类对每一个检测结果确定其类别，之后计算查准率(Precision)和查全率(Recall)。此外，计算真实遥测和预测遥测之间的平均误差，用以评价建模准确率。

(二)异常检测过程

本发明实施例以通道G-7和A-4的数据为例说明本发明的具体实施过程。遥测数据经归一化处理。

G-7通道是典型的状态量遥测，其遥测值若干离散值。训练数据的遥控遥测时间序列矩阵X为25×2446维的矩阵，每一列表示一个时刻的24个独立的遥控指令编码和1个遥测值，其遥测值如图4所示，显示了正常状态时G-7通道的遥测数据变化过程。这里展示数字量遥测的变化过程。每一个时间t的遥控指令数据是24维的one-hot编码，每一维度表示一种指令是否发出，发出该指令则该维度表示为1，没有发出该指令则设置为0。

本发明实施例训练Transformer模型时，设置输入序列长度l_s＝512，每次预测长度l_p＝10。

改进Transformer模型训练完成后，在测试数据集上预测遥测值。测试数据集中真实遥测Y和预测遥测

如所图5所示，显示了存在三个序列异常时，G-7通道真实遥测数据的变化、预测的遥测数据的变化和真实的异常区域。

本实施例计算时设置h＝2100。计算平滑残差时，本实施例计算式(4)时设置α＝0.0189，得出的平滑残差如图6中实线所示，图6显示了执行完本发明所提出的方法后，平滑残差的变化曲线和检测出的异常区域。

本实施例在使用式(5)时设置z＝[2,2.5,…,10]，用于生成自适应阈值集合，进而通过式(6)可以计算出自适应阈值，此时可以得到初步的异常序列集合E_seq。

之后通过式(10)计算幅度下降率，本实施例设置p＝0.11，从而剪裁初步的异常序列集合E_seq，得到最终的异常遥测序列x_a。如图6所示，点画线标注的区域表示检测出的异常区域，对应于异常遥测序列x_a。

A-4通道是典型的模拟量遥测，其遥测值是连续变化的物理量。异常检测过程如G-7通道一致，这里不再赘述。A-4通道的训练数据如图7所示，图7显示了正常状态时G-7通道的遥测数据变化过程。这里展示模拟量遥测的变化过程。A-4通道的测试数据的真实遥测、预测遥测和真实异常区域如图8所示，图8显示了存在一个序列异常时，A-4通道真实遥测数据的变化、预测的遥测数据的变化和真实的异常区域。检测完成的平滑残差和检测出的异常区域如图9所示，图9显示了执行完本发明所提出的方法后，平滑残差的变化曲线和检测出的异常区域。

(三)异常检测性能对比

本发明提出的方法和现有技术的对比如下表所示。

	查准率	查全率	平均误差
				现有技术	87.5％	80.0％	5.9％
本发明	87.7％	85.9％	4.3％

由上表可知，相对于现有技术，本发明提出的方法具有更高的查准率和查全率，可以更准确地预测航天器遥测数据；由于模型的本身特性，相比于现有技术，其训练速度更快，更容易进行大规模部署。对于航天器而言，由于其无法维修，因此及时检查出故障更为重要，因此查准率的重要性更高。和现有技术相比，本发明提出的方法在提高了查准率的情况下，明显提高了查全率。

本发明还提供了一种航天器遥测数据自适应异常检测装置，如图10所示，该装置包括：

编码模块：配置为从航天器的遥测通道中，确定S个关注的通道，并对所述S个关注的通道的遥控遥测数据分别进行one-hot格式化编码，获取各通道P_i的遥控遥测时间序列矩阵

n为时间序列矩阵的列数；

Transformer模型构建模块：配置为构建Transformer模型，所述Transformer模型包括n_E个Encoder模块和n_D个Decoder模块；每个Encoder模块及Decoder模块中，将层归一化(Layer Norm)层配置于全连接层和多头注意力层之前；在Transformer模型的Encoder部分和Decoder部分之间使用倒序逐次交叉注意力的方式连接各个Encoder模块和Decoder模块；

所述倒序逐次交叉注意力的方式为：

若n_E≥n_D，对于1<num≤n_D，将第num个Encoder模块的注意力特征输出到第n_D-num+1个Decoder模块；对于n_D<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_D个Decoder模块；

若n_E<n_D，对于1<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_E-num+1个Decoder模块；对于n_E<num≤n_D，将第n_E个Encoder模块的注意力特征输出到第num个Decoder模块；

初始化模块：配置为初始化i＝1；

训练模块：配置为以通道P_i的遥控遥测时间序列矩阵

作为输入，后续l_p长度的该通道遥测值

作为输出，训练所述Transformer模型，得到对应于通道P_i的训练好的Transformer模型；

平滑残差向量获取模块：配置为获取输入数据，基于所述输入数据及通道P_i的训练好的Transformer模型，在t时刻之前，获取通道P_i的若干个预测遥测值，记为

记录与之相对应的真实遥测值，记为Y＝{y^(t-h),…,y^(t)}，将真实遥测值Y与预测遥测值

相减，得到遥测残差向量e；通过指数加权移动平均(EWMA)方法将残差向量e平滑化得到平滑残差向量e_s；

初步异常序列确定模块：配置为在t时刻，对平滑残差向量e_s计算自适应阈值ε；将平滑残差向量e_s中大于阈值ε的平滑残差对应时刻的遥测值作为异常值；将平滑残差向量e_s中小于或等于阈值ε的平滑残差对应时刻的遥测值作为正常值；异常值集合里包括点异常和序列异常两种情况：被检测出的孤立的异常数据点属于点异常情况，每项数据称为异常点，被检测出的连续的异常数据序列属于序列异常情况，每组序列称为异常序列；该步骤中得到的全部异常序列组成初步异常序列集合；

剪裁模块：配置为提取初步异常序列集合中各异常序列的平滑残差序列的最大值和所有正常序列的平滑残差的最大值，将其降序排列后组成新序列；逐项计算该新序列的幅度下降率，如果新序列中某项的幅度下降率大于最小百分比阈值，则将该项之前各项对应的初步异常序列认定为真异常序列，将该项及其之后各项对应的初步异常序列重新设置为正常序列；如果新序列中任意一项的幅度下降率都小于或等于最小百分比阈值，则将所有的初步异常序列都重新设置为正常序列；

判断模块：配置为进行判断，若i>S，结束计算；否则，将i赋值为i+1，触发训练模块。

以上的具体实施例仅描述了本发明的设计原理，该描述中的部件形状，名称可以不同，不受限制。所以，本发明领域的技术人员可以对前述实施例记载的技术方案进行修改或等同替换；而这些修改和替换未脱离本发明创造宗旨和技术方案，均应属于本发明的保护范围。

Claims (10)

1.一种航天器遥测数据自适应异常检测方法，其特征在于，包括：

步骤S1：从航天器的遥测通道中，确定S个关注的通道，并对所述S个关注的通道的遥控遥测数据分别进行one-hot格式化编码，获取各通道P_i的遥控遥测时间序列矩阵

n为时间序列矩阵的列数；

步骤S2：构建Transformer模型，所述Transformer模型包括n_E个Encoder模块和n_D个Decoder模块；每个Encoder模块及Decoder模块中，将层归一化层配置于全连接层和多头注意力层之前；在Transformer模型的Encoder部分和Decoder部分之间使用倒序逐次交叉注意力的方式连接各个Encoder模块和Decoder模块；

所述倒序逐次交叉注意力的方式为：

若n_E≥n_D，对于1<num≤n_D，将第num个Encoder模块的注意力特征输出到第n_D-num+1个Decoder模块；对于n_D<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_D个Decoder模块；

若n_E<n_D，对于1<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_E-num+1个Decoder模块；对于n_E<num≤n_D，将第n_E个Encoder模块的注意力特征输出到第num个Decoder模块；

步骤S3：初始化i＝1；

步骤S4：以通道P_i的遥控遥测时间序列矩阵

作为输入，后续l_p长度的该通道遥测值

作为输出，训练所述Transformer模型，得到对应于通道P_i的训练好的Transformer模型；

步骤S5：获取输入数据，基于所述输入数据及通道P_i的训练好的Transformer模型，在t时刻之前，获取通道P_i的若干个预测遥测值，记为

记录与之相对应的真实遥测值，记为Y＝{y^(t-h),…,y^(t)}，将真实遥测值Y与预测遥测值

相减，得到遥测残差向量e；通过指数加权移动平均方法将残差向量e平滑化得到平滑残差向量e_s；

步骤S6：在t时刻，对平滑残差向量e_s计算自适应阈值ε；将平滑残差向量e_s中大于阈值ε的平滑残差对应时刻的遥测值作为异常值；将平滑残差向量e_s中小于或等于阈值ε的平滑残差对应时刻的遥测值作为正常值；异常值集合包括点异常和序列异常两种情况：被检测出的孤立的异常数据点属于点异常情况，每项数据称为异常点，被检测出的连续的异常数据序列属于序列异常情况，每组序列称为异常序列；将得到的全部异常序列组成初步异常序列集合；

步骤S7：提取初步异常序列集合中各异常序列的平滑残差序列的最大值和所有正常序列的平滑残差的最大值，将其降序排列后组成新序列；逐项计算该新序列的幅度下降率，如果新序列中某项的幅度下降率大于最小百分比阈值，则将该项之前各项对应的初步异常序列认定为真异常序列，将该项及其之后各项对应的初步异常序列重新设置为正常序列；如果新序列中任意一项的幅度下降率都小于或等于最小百分比阈值，则将所有的初步异常序列都重新设置为正常序列；

步骤S8：若i>S，方法结束；否则，将i赋值为i+1，进入步骤S4。

2.如权利要求1所述的方法，其特征在于，所述步骤S1中，对S个关注的通道的各个通道P_i，1≤i≤S，建立通道P_i的遥控遥测时间序列矩阵

其中，

表示该通道P_i在时间t时的遥控遥测值，1≤t≤n，

包括m-1个one-hot编码的遥控指令和1个该通道P_i的遥测值。

3.如权利要求1所述的方法，其特征在于，所述步骤S5中，将真实遥测值Y与预测遥测值

相减，得到遥测残差向量e：

通过指数加权移动平均方法将残差向量平滑化得到平滑残差向量e_s；

上式中EWMA表示指数加权移动平均函数，具体算法如下式所示：

其中，α是加权衰减率。

4.如权利要求3所述的方法，其特征在于，所述步骤S6中，在t时刻，对平滑残差向量e_s计算自适应阈值ε的集合ε

ε＝μ(e_s)+zσ(e_s)

上式中z是一系列预定义的数值集合；

在阈值集合ε中通过求解下式得到最终的自适应阈值ε

其中

Δμ(e_s)＝μ(e_s)-μ{e_s∈e_s|e_s≤ε}

Δσ(e_s)＝σ(e_s)-σ{e_s∈e_s|e_s≤ε}

e_a＝{e_s∈e_s|e_s＞ε}

E_seq＝continuous sequences of e_a∈e_a

其中，μ(e_s)表示e_s的均值；Δμ(e_s)表示e_s的均值和e_s中不大于阈值ε的正常值的均值的差值；σ(e_s)表示e_s的标准差；Δσ(e_s)表示e_s的标准差和e_s中不大于阈值ε的正常值的标准差的差值；e_a表示e_s中大于阈值ε的值的集合；n(e_a)表示e_a中元素的数量；E_seq表示所有异常序列的集合；n(E_seq)表示E_seq中元素的数量；

得到自适应阈值ε后，将大于阈值ε的平滑残差对应的遥测值作为异常值，其中包括点异常和序列异常两种情况；将小于或等于阈值ε的平滑残差对应的遥测值作为正常值。

5.如权利要求4所述的方法，其特征在于，对初步异常序列集合中各异常序列分别取其平滑残差序列的最大值，并添加正常值的平滑残差的最大值后降序排列，组成新序列e_max，逐项计算该新序列的幅度下降率，并与最小百分比阈值比较；具体执行以下操作：定义e_seq表示初步异常序列集合中的一个异常序列的平滑残差序列；定义e_max为所有异常序列的平滑残差序列的最大值集合，并在e_max末尾添加正常值的平滑残差的最大值，最后将其降序排列；

e_max＝max({e_s∈e_seq|e_seq∈E_seq})∪max({e_s∈e_s|e_s≤ε})

对e_max计算每一项的幅度下降率d^(c)；

如果在计算第c项幅度下降率时发现d^(c)大于最小百分比阈值p，则将该项之前各项最大值

对应的初步异常序列认定为真异常序列，将该项及其之后各项最大值

对应的初步异常序列重新设置为正常序列；如果任意d^(c)均小于或等于最小百分比阈值p，则将所有的初步异常序列都重新设置为正常序列。

6.一种航天器遥测数据自适应异常检测装置，其特征在于，包括：

编码模块：配置为从航天器的遥测通道中，确定S个关注的通道，并对所述S个关注的通道的遥控遥测数据分别进行one-hot格式化编码，获取各通道Pi的遥控遥测时间序列矩阵

n为时间序列矩阵的列数；

Transformer模型构建模块：配置为构建Transformer模型，所述Transformer模型包括n_E个Encoder模块和n_D个Decoder模块；每个Encoder模块及Decoder模块中，将层归一化层配置于全连接层和多头注意力层之前；在Transformer模型的Encoder部分和Decoder部分之间使用倒序逐次交叉注意力的方式连接各个Encoder模块和Decoder模块；

所述倒序逐次交叉注意力的方式为：

若n_E≥n_D，对于1<num≤n_D，将第num个Encoder模块的注意力特征输出到第n_D-num+1个Decoder模块；对于n_D<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_D个Decoder模块；

若n_E<n_D，对于1<num≤n_E，将第num个Encoder模块的注意力特征输出到第n_E-num+1个Decoder模块；对于n_E<num≤n_D，将第n_E个Encoder模块的注意力特征输出到第num个Decoder模块；

初始化模块：配置为初始化i＝1；

训练模块：配置为以通道P_i的遥控遥测时间序列矩阵

作为输入，后续l_p长度的该通道遥测值

作为输出，训练所述Transformer模型，得到对应于通道P_i的训练好的Transformer模型；

平滑残差向量获取模块：配置为获取输入数据，基于所述输入数据及通道P_i的训练好的Transformer模型，在t时刻之前，获取通道P_i的若干个预测遥测值，记为

记录与之相对应的真实遥测值，记为Y＝{y^(t-h),…,y^(t)}，将真实遥测值Y与预测遥测值

相减，得到遥测残差向量e；通过指数加权移动平均方法将残差向量e平滑化得到平滑残差向量e_s；

初步异常序列确定模块：配置为在t时刻，对平滑残差向量e_s计算自适应阈值ε；将平滑残差向量e_s中大于阈值ε的平滑残差对应的遥测值作为异常值；将平滑残差向量e_s中小于或等于阈值ε的平滑残差对应的遥测值作为正常值；异常值集合包括点异常和序列异常两种情况：被检测出的孤立的异常数据点属于点异常情况，每个数据称为异常点，被检测出的连续的异常数据序列属于序列异常情况，每组序列称为异常序列；该步骤中得到的全部异常序列组成初步异常序列集合；

剪裁模块：配置为提取初步异常序列集合中各异常序列的平滑残差序列的最大值和所有正常序列的平滑残差的最大值，将其降序排列后组成新序列；逐项计算该新序列的幅度下降率，如果新序列中某项的幅度下降率大于最小百分比阈值，则将该项及其之前项对应的初步异常序列认定为真异常序列，将之后的各项及其对应的初步异常序列重新设置为正常序列；如果新序列中任意一项的幅度下降率都小于或等于最小百分比阈值，则将所有的初步异常序列都重新设置为正常序列；

判断模块：配置为进行判断，若i>S，结束计算；否则，将i赋值为i+1，触发训练模块。

7.如权利要求6所述的装置，其特征在于，所述编码模块中，对S个关注的通道的各个通道P_i，1≤i≤S，建立通道P_i的遥控遥测时间序列矩阵

其中，

表示该通道P_i在时间t时的遥控遥测值，1≤t≤n，

包括m-1个one-hot编码的遥控指令和1个该通道P_i的遥测值。

8.如权利要求6所述的装置，其特征在于，所述平滑残差向量获取模块中，将真实遥测值Y与预测遥测值

相减，得到遥测残差向量e：

通过指数加权移动平均方法将残差向量平滑化得到平滑残差向量e_s；

上式中EWMA表示指数加权移动平均函数，具体算法如下式所示：

其中，α是加权衰减率。

9.如权利要求8所述的装置，其特征在于，所述初步异常序列确定模块中：

在t时刻，对平滑残差向量e_s计算自适应阈值ε的集合ε：

ε＝μ(e_s)+zσ(e_s)

上式中z是一系列预定义的数值集合；

在阈值集合ε中通过求解下式得到最终的自适应阈值ε：

其中

Δμ(e_s)＝μ(e_s)-μ{e_s∈e_s|e_s≤ε}

Δσ(e_s)＝σ(e_s)-σ{e_s∈e_s|e_s≤ε}

e_a＝{e_s∈e_s|e_s＞ε}

E_seq＝continuous sequences of e_a∈e_a

其中，μ(e_s)表示e_s的均值；Δμ(e_s)表示e_s的均值和e_s中不大于阈值ε的正常值的均值的差值；σ(e_s)表示e_s的标准差；Δσ(e_s)表示e_s的标准差和e_s中不大于阈值ε的正常值的标准差的差值；e_a表示e_s中大于阈值ε的值的集合；n(e_a)表示e_a中元素的数量；E_seq表示所有异常序列的集合；n(E_seq)表示E_seq中元素的数量；

得到自适应阈值ε后，将大于阈值ε的平滑残差对应的遥测值作为异常值，其中包括点异常和序列异常两种情况；将小于或等于阈值ε的平滑残差对应的遥测值作为正常值。

10.如权利要求9所述的装置，其特征在于，所述剪裁模块中，对初步异常序列集合中各异常序列分别取其平滑残差的最大值，并添加正常值的平滑残差的最大值后降序排列，组成新序列e_max，逐项计算该新序列的幅度下降率，并与最小百分比阈值比较；

具体执行以下操作：定义e_seq表示初步异常序列集合中的一个异常序列的平滑残差序列；定义e_max为所有异常序列的平滑残差序列的最大值集合，并在e_max末尾添加正常值的平滑残差的最大值，最后将其降序排列；

e_max＝max({e_s∈e_seq|e_seq∈E_seq})∪max({e_s∈e_s|e_s≤ε})

对e_max计算每一个数值的幅度下降率d^(c)；

如果在计算第c项幅度下降率时发现d^(c)大于最小百分比阈值p，则将该项之前各项最大值

对应的初步异常序列认定为真异常序列，将该项及其之后各项最大值

对应的初步异常序列重新设置为正常序列；如果任意d^(c)均小于或等于最小百分比阈值p，则将所有的初步异常序列都重新设置为正常序列。

Images