CN109034191A - 基于elm的单维遥测数据异常判读方法 - Google Patents

Abstract

基于ELM的单维遥测数据异常判读方法，涉及卫星遥测数据检测技术领域。本发明是为了解决在遥测数据的异常检测中，人工判读及专家经验在复杂及未知异常检测中存在局限性的问题。为了实现单维遥测数据的异常判读，本发明从航天器实际运行过程中可监测的遥测数据参数时间序列出发，离线训练基于优化的极限学习机算法的异常判读预测模型，构建遥测数据规则库。实时遥测数据被解析及预处理后，经过判读模型形成的判据规则对数据进行判读，将判读结果输出。本发明更适合于在轨卫星数据进行自动判读。

Description

基于ELM的单维遥测数据异常判读方法

技术领域

本发明属于卫星遥测数据分析技术领域。

背景技术

卫星遥测数据是卫星在轨工作期间地面工作人员获取有关卫星载荷工作状态与卫星本身健康状态的唯一根据，其涵盖卫星各个分系统的关键参数，反映遥测对象的数字特征或状态，是卫星监视、状态分析和故障分析的主要依据。遥测数据中的异常信息用于反映卫星采集设备失效、传输链路受损、对应设备性能退化、机械及电子故障等实际问题，为专业人员管理决策提供依据。因此，对遥测数据进行异常检测和分析，成为增强航天器在轨可靠性的重要依据，是非常必要的。其中，对数据的有效判读是遥测数据异常检测中的关键环节。

卫星在轨运行过程中，不同于正常遥测数据的变化规律或不符合航天器工作模式设定的数据，为遥测数据中的异常数据。对单维遥测数据的判读主要是对数据是否异常进行检测，通常采用人工判读、幅值判读或基于专家系统方法，这些方法操作简单易实现、速度快。如：以专家知识为基础的自动规则检测方法，对于部分异常具有良好的检测及识别效果。这些方法可以有效地检测超出预设阈值的值，但不能检测不超过设定阈值的异常或未知模式的异常。由于系统功能的复杂性和卫星的多样性，在轨卫星数量急剧增加。遥测数据的实时监控量不断扩大(单个卫星总寿命的遥测数据达到TB级)。很难建立准确且完备的航天器规则，而且在设定规则库时需要列举所有故障及其征兆，基于专家系统的方法很显然不能处理未知的异常。利用人工数据判读和专家经验进行实时监控不能满足复杂系统遥测数据异常检测需求。因此，基于监测数据的数据驱动的自动异常检测技术已成为航天领域的研究热点。数据驱动的方法在无任何先验知识，可以通过分析正常的历史数据检测未知的异常模式；具有很强的扩展性，可以适应不同类型的卫星遥测数据；自动检测的方法可以大大减少计算量和存储量的同时提高检测效率。

目前常用的数据驱动异常检测方法可分为三类：统计分析、模式匹配和基于预测的方法。

统计分析是最早的方法之一，通过假设给定数据集的概率模型来检测异常值，然后根据统计模型的不一致性检验异常点。然而，它只能用于检测序列中的统计突变。

模式匹配，包括聚类和分类模型，通过与大量异常或正常历史数据匹配模式来检测异常。该类方法的应用大多基于完整性好、信息丰富的历史遥测数据进行故障诊断和模式识别。显然，模式匹配需要足够的离线数据和完整的正常或异常标记。因此，基于模式匹配的方法进行检测消耗了大量的时间和计算资源，使其应用较为局限。

基于数据驱动的时间序列预测方法假设数据随着时间收集的过程中，数据之间具有一定的关联性，当前数据可以通过历史窗口数据建立的模型外推得到。基于预测的异常检测是通过判断新样本是否在历史数据中得到的预测区间(prediction interval，PI)来实现的，其检测精度在很大程度上取决于预测性能。

总结如下，在遥测数据的异常检测中，人工判读及专家经验在复杂及未知异常检测中存在局限性。考虑到异常的属性和分布不能提前得到，很难用统计或模式匹配的方法来检测异常，尤其是对于缺乏专家经验的复杂系统的遥测数据。基于数据驱动的预测方法能够减少异常帕努过程中对专家经验的依赖，但仍具有参数设置困难、精度不高、稳定性较差等问题。

发明内容

本发明是为了解决在遥测数据的异常发现中，人工判读及专家经验在复杂及未知异常检测中存在局限性的问题，即：解决传统数据判读方法无法智能化提取判读规则而基于数据驱动的方法参数设置困难、稳定性较差、精度较低等问题，现提供基于ELM的单维遥测数据异常判读方法。

基于ELM的单维遥测数据异常判读方法，该方法包括预测模型离线训练部分和实时异常检测部分；

预测模型离线训练部分包括以下步骤：

步骤一：根据遥测数据的历史时间序列，利用网格搜索法确定ELM模型结构，并根据ELM模型结构的输入层神经元个数构造ELM模型的训练输入向量；

步骤二：将训练输入向量代入ELM模型中，利用ELM算法对ELM模型进行训练，获得q组训练模型，其中10≤q≤50；

步骤三：根据ELM模型在验证集的残差概率分布，计算每组训练模型的固定不确定度u₁；

实时异常检测部分包括以下步骤：

步骤四：对当前遥测数据进行归一化和去野值处理；

步骤五：根据步骤四处理后的数据和ELM模型结构的输入层神经元个数构造ELM模型的当前输入向量；

步骤六：将当前输入向量代入步骤二获得的q组训练模型中，获得q个预测结果；

步骤七：将步骤六获得的q个预测结果进行加权，获得最优预测值，并根据q个预测结果的概率分布获得当前时间点的动态不确定度u₂；

步骤八：将固定不确定度u₁与动态不确定度u₂进行合成，获得最终不确定度；

步骤九：将最终不确定度与最优预测值相加获得最终预测区间；

步骤十：判断步骤四处理后的数据是否在最终预测区间内，是则判定当前遥测数据正常，否则判定当前遥测数据异常。

步骤一中确定ELM模型结构的具体方法为：

根据遥测数据的历史时间序列，通过网格搜索法确定ELM模型的嵌入维数，

根据嵌入维数重构ELM模型的输入相空间，以获得ELM模型结构，

网格搜索的步长为变量，网格搜索的评价函数R为：

其中，mse_i表示网格搜索中K折交叉验证时每组的均方误差值，λ·log(L·N)表示惩罚项，λ为惩罚因子，N为ELM模型结构的输入层神经元个数，L为ELM模型结构的隐藏层神经元个数。

步骤二中对ELM模型进行训练的具体方法为：

利用遗传算法确定ELM模型输入层与隐藏层之间的权值和偏置，再利用ELM算法确定ELM模型隐藏层与输出层之间的权重及偏置，完成ELM模型的训练。

步骤八中利用下式将固定不确定度u₁与动态不确定度u₂进行合成：

步骤九中最终预测区间表示为：

表示最优预测值，u表示最终不确定度。

为了实现单维遥测数据的异常判读，本发明从航天器实际运行过程中可监测的遥测数据参数时间序列出发，离线训练基于优化的极限学习机算法的异常判读预测模型，构建遥测数据规则库。实时遥测数据被解析及预处理后，经过判读模型形成的判据规则对数据进行判读，将判读结果输出。

本发明所述方法利用极限学习机(ELM)预测模型进行单步预测，并在此基础上提出了多模型集成和不确定性估计方法，预测精度和异常检测能力至少提高了8％。这种方法的主要优点是对不同类型的监测数据具有自适应能力和鲁棒性。实验测试在人工数据集和实际遥测系列展示了其有效性和异常检测模型的抗干扰能力，这使得它更适合于在轨卫星数据自动判读的应用。

本发明提出的方法针对遥测数据，能够用于发现不属于正常运行模式的异常数据，包括阈值、模式异常等。并且，本方法无需参数阈值信息或异常模型等先验知识，只需利用历史遥测数据进行，基于预测对时间序列进行拟合，在单步预测的过程中得到正常运行状态下的预测值以及预测区间，从而判断新的时间点的数据是否在预测区间内，进而进行异常标记。

附图说明

图1为基于ELM的单维遥测数据异常判读方法的流程图；

图2为卫星电源子系统中太阳阵温度的卫星遥测数据曲线图；

图3为卫星电源子系统中蓄电池电压的卫星遥测数据曲线图；

图4为卫星电源子系统中太阳阵电压的卫星遥测数据曲线图；

图5为基于bagging-GA-ELM的蓄电池电压单步预测参数曲线图，其中(a)表示目标值曲线，(b)表示残差曲线；

图6为基于bagging-GA-ELM的太阳阵温度单步预测参数曲线图，其中(a)表示目标值曲线，(b)表示残差曲线；

图7为基于bagging-GA-ELM的太阳阵电压单步预测参数曲线图，其中(a)表示目标值曲线，(b)表示残差曲线；

图8为卫星电源子系统的蓄电池中心温度时间序列曲线图；

图9为动态PI优化模型的异常检测数据曲线图，其中(a)表示真实值和最优预测值，(b)表示残差。

具体实施方式

为了监测航天器的运行状态，航天器在各个子系统中设置不同的传感器，采集测试信息并传输到地面控制系统，形成遥测时间序列。遥测时间序列是地面工作人员判断在轨卫星性能的唯一依据。由于卫星轨道通常是固定的，当卫星处于正常轨道时，遥测数据是随着系统运行方式的变化而呈伪周期变化的。图2、3和4显示了卫星电源子系统中一些典型的卫星遥测数据，包括太阳阵温度、太阳阵输出电压和蓄电池电池电压。该系列是在一分钟的时间间隔采样。

如图1所示，本实施方式中，测试数据的大小为1000，所述训练数据为1000个时间点所对应的遥测数据，历史时间序列中截取一段作为验证集数据，验证集数据的大小是500。本实施方式所述的基于ELM的单维遥测数据异常判读方法包括预测模型离线训练部分和实时异常检测部分，

预测模型离线训练部分包括以下步骤：

步骤一：根据遥测数据的历史时间序列，通过网格搜索法确定ELM模型的嵌入维数，网格搜索的步长为变量，

根据嵌入维数重构ELM模型的输入相空间，以获得ELM模型结构，并根据ELM模型结构的输入层神经元个数构造ELM模型的训练输入向量，

网格搜索法的基本原理是让参数在一定的范围划分网格并便利网格内所有点进行取值，对于选定的参数，利用K折交叉验证的方法(一般地，K＝10)得到在此组参数下的预测模型的准确率，最高的那组参数作为最优的参数组合。因此，网格搜索其评价函数R为：

其中，mse_i为K折交叉验证中每组的均方误差值。

本实施方式中网格搜索的评价函数R则如下式所示：

加入表示网络规模的惩罚项λ·log(L·N)，λ为惩罚因子，N为ELM模型结构的输入层神经元个数，L为ELM模型结构的隐藏层神经元个数；R越小，则模型参数选择越优。利用该评价指标，可以综合考虑模型准确度及网络规模两方面因素，选出最优参数：输入层神经元个数N以及隐藏层神经元个数L。

步骤二：将训练输入向量代入ELM模型中，利用遗传算法确定ELM模型输入层与隐藏层之间的权值和偏置，再利用ELM算法确定ELM模型隐藏层与输出层之间的权重及偏置，完成一组ELM模型的训练，改变ELM算法中的参数值，获得q组训练模型，其中10≤q≤50，本实施方式中q取25；

步骤三：根据ELM模型在验证集的残差概率分布，计算每组训练模型的固定不确定度u₁；假设验证集中的验证样本的样本标准差为：

其中，P表示验证集样本数、ε_i表示验证集中各样本残差、表示验证集中样本残差均值。

所述样本标准差S近似等于总体的标准差σ，取置信水平95％，固定不确定度为u₁＝±2·σ≈±2·S。

实时异常检测部分包括以下步骤：

步骤四：对当前遥测数据进行归一化和去野值处理；

步骤五：根据步骤四处理后的数据和ELM模型结构的输入层神经元个数构造ELM模型的当前输入向量；

步骤六：将当前输入向量代入步骤二获得的q组训练模型中，获得q个预测结果；

步骤七：将步骤六获得的q个预测结果进行加权，获得最优预测值具体为：

每个训练模型的权重为α_j：

其中，RMSE表示训练模型在测试数据预测中的均方误差值，则(RMSE)_j为第j个训练模型在测试数据预测中的均方误差值。

假设q个预测结果为：

将预测结果与对应权重相乘得：

其中，那么最优预测值表示为：

将预测值序列转换为以最优预测值为基准的残差序列，得到正态分布中心非常接近0，标准差δ＝std(e_n+1 ⁽ⁱ⁾)，因此，当置信水平为95％时，不确定度为u₂＝±2·δ步骤八：利用下式将固定不确定度u₁与动态不确定度u₂合成，获得最终不确定度u，

步骤九：将最终不确定度与最优预测值相加获得最终预测区间

步骤十：判断步骤四处理后的数据是否在最终预测区间内，是则判定当前遥测数据正常，否则判定当前遥测数据异常。

在置信度95％下，最终预测区间为其中前后两个值分别为实际值在置信度95％下的置信下限和置信上限。当实际观测值在此区间内，该时间点的观测值将被判读为正常数据；否则，将标记为异常。

本实施方式中采用经过优化的网格搜索法对超参数进行自动获取；利用遗传算法对网络输入层权重的随机设定进行优化；利用集成学习方法得到最优预测结果；提出一种动态阈值的确定策略。基于上述优化，构造一种自组织、自适应的基于神经网络的时间序列预测模型，从而实现快速训练、低误报率和低漏报率的遥测数据判读。

本实施方式对低轨卫星实际遥测时间序列进行了数据分析，包括正常运行状态下的遥测数据和包含片段异常的遥测数据。基于bagging-GA-ELM的单步预测结果及其残差如图5、6和7所示。所有的数据进行归一化(0,1)。在残差图中，利用本申请提出的预测模型进行一步单步预测，残差值在零附近波动。MSE值分别为0.0001、0.0002和0.0010。动态PI(动态预测区间)估计，模型预测结果与实际数据之间的残差在落在PI内。

上述系列是针对无异常下的电源子系统遥测数据，下面对带有异常标记的电源子系统的遥测数据进行异常检测实验。图8是卫星电源子系统的蓄电池中心温度时间序列，其中异常发生在2155～2426的时间点。把前1000个时间点作为训练数据，接下来的500个时间点作为验证集。图9显示了动态PI优化模型的异常检测和残差图的结果，图9中的剩余阈值表示由所提出的异常检测策略获得的动态PI。如图9中的残差图所示，在异常没有发生时，该方法对时间序列拟合得很好。在2155～2426的时间点，模型预测结果和实际数据的残差落在动态阈值之外，表明在此时间段内异常发生。同时该方法还给出了在正常情况下，数据应该大致分布在红色阴影区。在时间点2426后，系统恢复正常，模型快速恢复拟合状态。检测结果符合异常标记。在实际遥测序列上的实验表明，本实施方式提出的方法在实际应用中具有良好的预测和异常检测性能。

本发明所述的基于ELM的单维遥测数据异常判读方法，利用无异常注入的Ma数据集对算法预测性能进行测试，对SVR、BP神经网络、单ELM模型及优化的ELM模型进行对比实验，测试结果如表1所示。其中，输入向量维度及激活函数类型是根据不同算法而进行网格搜索进行优化选择。

表1 SVR、BP神经网络及ELM对比实验结果

利用5％异常注入的Ma数据集对算法单点异常检测性能进行测试，对SVR、单ELM模型及优化的ELM模型进行对比实验，测试结果如表2和表3所示。

表2单点异常检测对比实验结果

表3片段异常检测对比实验结果

本发明提出的方法在预测性能上达到与SVR等基本持平的准确率，但是单ELM模型在训练时间上明显快于SVR算法，在多模型融合和集成学习的角度，ELM在训练速度上有更大的优势。同时，ELM模型表现出更强的自适应性和抗噪能力。通过上述描述的方法，对单ELM模型从训练方式、集成学习、预测区间估计等多方面进行优化，使优化的ELM模型在算法准确率和稳定性上明显提升，模型训练速度相较于BP神经网络仍提升两个数量级。

在异常检测性能测试中，本发明提出的预测模型通过极大幅度的降低了误检率，使得异常检测准确率有显著的提升；由于参数寻优和多模型集成，使得优化的ELM模型在时间上有更大的消耗，因此相比于单ELM模型，优化的ELM模型牺牲了部分训练速度，从而提升算法准确度。模型的训练时间仍远小于遥测数据采用时间间隔。尤其是在含有异常的模型输入时，对数据的拟合能力明显高于其他预测模型，在检测出异常点并将此异常点作为输入时，优化的ELM模型能够迅速跟踪数据变化，具有更强的自适应性和抗噪能力。尤其基于上文所描述的预测区间估计方法，使得预测结果具有动态阈值，明显降低模型误检率。

Claims (5)

1.基于ELM的单维遥测数据异常判读方法，其特征在于，该方法包括预测模型离线训练部分和实时异常检测部分；

预测模型离线训练部分包括以下步骤：

步骤一：根据遥测数据的历史时间序列，利用网格搜索法确定ELM模型结构，并根据ELM模型结构的输入层神经元个数构造ELM模型的训练输入向量；

步骤二：将训练输入向量代入ELM模型中，利用ELM算法对ELM模型进行训练，获得q组训练模型，其中10≤q≤50；

步骤三：根据ELM模型在验证集的残差概率分布，计算每组训练模型的固定不确定度u₁；

实时异常检测部分包括以下步骤：

步骤四：对当前遥测数据进行归一化和去野值处理；

步骤五：根据步骤四处理后的数据和ELM模型结构的输入层神经元个数构造ELM模型的当前输入向量；

步骤六：将当前输入向量代入步骤二获得的q组训练模型中，获得q个预测结果；

步骤七：将步骤六获得的q个预测结果进行加权，获得最优预测值，并根据q个预测结果的概率分布获得当前时间点的动态不确定度u₂；

步骤八：将固定不确定度u₁与动态不确定度u₂进行合成，获得最终不确定度；

步骤九：将最终不确定度与最优预测值相加获得最终预测区间；

步骤十：判断步骤四处理后的数据是否在最终预测区间内，是则判定当前遥测数据正常，否则判定当前遥测数据异常。

2.根据权利要求1所述的基于ELM的单维遥测数据异常判读方法，其特征在于，步骤一中确定ELM模型结构的具体方法为：

根据遥测数据的历史时间序列，通过网格搜索法确定ELM模型的嵌入维数，

根据嵌入维数重构ELM模型的输入相空间，以获得ELM模型结构，

网格搜索的步长为变量，网格搜索的评价函数R为：

其中，mse_i表示网格搜索中K折交叉验证时每组的均方误差值，λ·log(L·N)表示惩罚项，λ为惩罚因子，N为ELM模型结构的输入层神经元个数，L为ELM模型结构的隐藏层神经元个数。

3.根据权利要求1所述的基于ELM的单维遥测数据异常判读方法，其特征在于，步骤二中对ELM模型进行训练的具体方法为：

利用遗传算法确定ELM模型输入层与隐藏层之间的权值和偏置，再利用ELM算法确定ELM模型隐藏层与输出层之间的权重及偏置，完成ELM模型的训练。

4.根据权利要求1所述的基于ELM的单维遥测数据异常判读方法，其特征在于，步骤八中利用下式将固定不确定度u₁与动态不确定度u₂进行合成：

其中，u表示最终不确定度。

5.根据权利要求1所述的基于ELM的单维遥测数据异常判读方法，其特征在于，步骤九中最终预测区间表示为：

其中，表示最优预测值，u表示最终不确定度。