CN115640755A - 一种基于极限学习机的空战非完备信息数据处理方法 - Google Patents

Abstract

本发明提供了一种基于极限学习机的空战非完备信息数据处理方法，本方法首先针对无人机空战传感器采集的战场信息具有非完备性的问题，对空战无人机非完备信息进行描述，选用极限学习机来构建无人机非完备信息数据处理模型。其次，采用K最邻近(KNN)分类方法来对空战信息相互关联分类，并剩余的异常信息视作缺失值。然后，根据完备数据集和极限学习机来构建缺失属性与其余属性的非线性映射关系，针对性地对无人机非完备信息进行修补。本方法有效地解决复杂环境下空战非完备信息的数据处理问题，挖掘了更多的有用数据。

Description

一种基于极限学习机的空战非完备信息数据处理方法

技术领域

本发明属于数据信息处理领域，尤其涉及一种基于极限学习机的空战非完备信息数据处理方法。

背景技术

无人机空战的非完备信息数据处理模型可以描述为获取无人机需要填充的缺失属性与其他属性的非线性映射。考虑空战是敌我双方无人机博弈对抗的过程，无人机各特征信息间存在某种非线性映射关系，通过零值填充、均值填充或热卡填充等填充方法无法发现其中的非线性映射关系，并且填充值与真实值之间的误差往往较大，影响后续的空战环节。同时，空战持续的时间长，数据量足够充分，非线性映射关系往往更加突出。通过获取无人机空战各属性之间的非线性映射关系进行数据修补等操作，数据处理结果的准确性可以更高。

极限学习机是单隐藏层前馈神经网络中的一种。与传统的单隐藏层前馈神经网络的训练算法不同之处在于，极限学习机只需要随机初始化隐藏层的权重和偏置，输出层的权重则通过最小化损失函数计算出，而损失函数由训练误差项与输出层权重之间的范数正则项构成。现有的研究表明，即使随机初始化隐藏层的参数，极限学习机仍保持单隐藏层前馈神经网络的函数逼近能力，并且相较于其他传统的神经元网络算法，极限学习机具有计算速度更快、易于实现、泛化能力更强等优势。

对于任意输入，随机初始化输入层与隐藏层之间的权重值和偏置值，具有h个隐藏层神经元的单隐层前馈神经网络能够拟合任何一个连续的函数。极限学习机的输出层权重可以通过计算相关的广义逆矩阵获得，在得到所有节点上的权值和偏置结果后，极限学习机的训练过程结束，再利用计算得到的输出层权重计算测试集相应的网络输出，从而完成对测试集数据的预测，该研究思路可应用于无人机空战缺失数据的填充。

基于极限学习机进行无人机空战非完备信息数据处理的关键在于极限学习机利用空战数据集中的完备信息样本完成网络学习和建模，获得空战信息各属性之间的非线性映射关系。例如，空战信息样本共有n个属性，假设缺失值对应的属性为空战信息样本的第1个属性，将其作为极限学习机的输出，则将空战信息样本的第2个属性至第n个属性的数值作为极限学习机的输入，利用空战数据集中的完备信息样本进行极限学习机的训练学习，获得极限学习机网络的输出层权重矩阵。

综上所述，为了能够充分利用空战中采集的无人机信息，对信息中含有的异常数据进行甄别，对缺失数据进行有效填充，根据甄别和填充后得到的完备无人机空战数据进行目标意图预测和态势评估，为后续的无人机空战博弈决策提供可靠数据基础，应继续研究复杂空战环境中，无人机空战信息存在异常值和缺失值的情况下，无人机空战非完备信息数据处理问题。

发明内容

发明目的：为解决复杂空战环境下，由于无人机空战的战场环境具有较强的复杂性、无人机传感器与信息处理系统间存在传输限制、空战数据传输丢包以及敌方无人机隐藏特征信息等问题而导致的无人机空战数据集中存在有异常值和缺失值的无人机空战非完备信息数据处理问题，本发明提供一种基于极限学习机的空战非完备信息数据处理方法。

本发明包括以下步骤：

步骤1，对空战无人机非完备信息进行描述，选用极限学习机来构建无人机非完备信息数据处理模型；

步骤2，采用K最邻近KNN分类方法来对空战信息相互关联分类，并将剩余的异常信息视作缺失值；

步骤3，根据空战完备信息数据集和极限学习机来构建缺失属性与其他属性的非线性映射关系，针对性地对无人机非完备信息进行修补。

步骤1包括：

定义t时刻D维的第i个空战数据样本为向量e_i(t)＝[e_i,1(t),e_i,2(t),…,e_i,D(t)]，其中，e_i,D(t)为第i个空战数据样本为向量在t时刻的第D维。

步骤1中，如果e_1,1(t)为缺失属性值，则通过获取待填充的缺失属性与其他属性的非线性映射过程，构建无人机非完备信息数据处理模型，具体表示如式(1)所示：

e_1,1(t)＝f(e_1,2(t),e_1,3(t),…,e_1,D(t)) (1)

其中f(·)为第1个属性与第2个至D个属性间的非线性映射函数。

步骤1中，在已有的空战完备数据集基础上，通过训练极限学习机模型，隐式建立缺失值对应的属性与其他属性的非线性映射关系。

步骤2包括：

步骤2-1，设定近邻数K的初值、最小支持度与循环阈值；

步骤2-2，设定空战数据样本集e＝{e₁,e₂,…,e_m}与完备空战数据样本集e′＝{e′₁,e′₂,…,e′_m}，计算所有待分类空战数据样本集e中数据与完备空战数据样本集e′中数据的欧氏距离作为支持度，具体计算方法如(2)所示：

其中d(e_i,e′_j)表示空战数据样本集中第i个样本e_i与完备空战数据样本集中第j个样本e′的欧式距离，i取值为1～m，j取值为1～m，且i不等于j。

步骤2-2还包括：将待分类空战数据样本集e中数据与完备空战数据样本集e′中相互满足最小支持度的数据两两组合，然后再从空战数据样本集e中寻找与组合数据满足最小支持度的数据，重复直到寻找到K个相互间满足最小支持度的组合，将未被选择的数据视为异常数据，作为缺失值处理。

步骤3包括：

步骤3-1，构建空战完备信息数据集为{ee_i,tt_i|ee_i∈R^D,tt_i∈Rⁿ,i＝1,2,…,m}，其中，ee_i表示第i个空战信息示例，R^D表示D维实数集，tt_i表示第i个空战信息示例对应的样本标签，Rⁿ表示n维实数集；构建隐藏层节点数为L的极限学习机，ee_i作为输入，tt_i作为输出，H(ee_i)表示对应的隐藏层输出；

极限学习机的输入为无人机空战信息训练样本ee_i，隐藏层个数为1，输入层的神经元与隐藏层的神经元之间的连接为全连接，记隐藏层的输出为H(ee_i)，H(ee_i)如式(3)所示：

H(ee_i)＝[h₁(ee_i),…,h_L(ee_i)] (3)

输入乘上对应权重并加上对应偏置，经过激活函数后，对隐藏层所有节点的求和即为隐藏层的输出，H(ee_i)是极限学习机隐藏层的输出矩阵，h_p(ee_i)是第p个隐藏层神经元的输出，p取值为1～L，h_p(ee_i)的具体表示如式(4)所示：

h_p(ee_i)＝g(w_p·ee_i+b_p) (4)

其中w_p和b_p是隐藏层节点参数，w_p∈R^D，b_p∈R；g(·)为激活函数，选择使用Sigmoid函数作为激活函数，则式(4)具体表示如式(5)所示：

其中e是自然常数；

输入经过隐藏层后到达输出层，则极限学习机的输出具体如式(6)所示：

其中，L表示隐藏层的神经元个数，m表示输出层的神经元个数，m≥1；β＝[β₁,…,β_L]^T是隐藏层与输出层之间的权重，其中β_L为第L个隐藏层的神经元权重；f(·)为极限学习机输入与输出间的非线性映射关系；

步骤3-2，在极限学习机中，随机初始化隐藏层的权重w和偏置b，通过隐藏层的激活函数，将输入映射到特征空间，根据式(3)和式(4)计算得到隐藏层输出H，将网络的输出Hβ与空战样本标签TT间的最小化平方差作为极限学习机的训练误差，则输出层的权重β满足式(7)的目标函数：

min||Hβ-TT||²,β∈R^L×m (7)

其中min表示取最小值，TT是根据步骤1中已有的空战完备数据集选取的训练数据的样本标签，H和TT的具体表达式如式(8)、式(9)所示：

其中，

为tt_n的转置；

推导出式(7)的最优解如式(10)所示：

其中

为矩阵H的Moore-Penrose广义逆矩阵；

当H^TH为可逆时，选择正交投影法进行求解，则

如下式(11)所示：

当H^TH为不可逆时，使用奇异值分解法来计算H的Moore-Penrose广义逆。

本发明的有益效果如下：

1、采用KNN分类方法进行异常值甄别，能够剔除异常值，保留更多的空战数据样本。

2、选用极限学习机来构建无人机非完备信息数据处理模型，训练过程简单，预测精度高。

附图说明

下面结合附图和具体实施方式对本发明做更进一步的具体说明，本发明的上述和/或其他方面的优点将会变得更加清楚。

图1是无人机空战非完备信息数据处理结构框图。

图2是极限学习机的网络结构图。

图3是基于极限学习机的空战非完备信息数据处理流程图。

图4a是待检测的空战方位角序列图。

图4b是方位角的异常值检测图。

图4c是方位角样本的分类类别图。

图5是测试集方位角属性预测结果对比图。

具体实施方式

本发明提供了一种基于极限学习机的空战非完备信息数据处理方法，包括如下步骤：

步骤1，对空战无人机非完备信息进行描述，构建无人机非完备信息数据处理模型；

定义t时刻D维的第i个空战数据样本为向量e_i(t)＝[e_i,1(t),e_i,2(t),…,e_i,D(t)]，其中，e_i,D(t)为第i个空战数据样本为向量在t时刻的第D维。如果e_1,1(t)为缺失属性值，则通过获取待填充的缺失属性与其他属性(如方位角、进入角、高度、速度、距离等)的非线性映射过程，可以构建无人机非完备信息数据处理模型，具体表示如式(1)所示：

e_1,1(t)＝f(e_1,2(t),e_1,3(t),…,e_1,D(t)) (1)

式(1)中f(·)为第1个属性与第2个至D个属性间的非线性映射函数。

步骤2，采用KNN分类方法来对空战信息中存在的异常值进行甄别，并将甄别出的异常值视作缺失值。

KNN算法的分类思想是若是一个未知类标号的数据在特征空间内与K个已知类标号的数据相邻，则将这K个数据对象的类标号数量按照从大到小排序，未知类标号的数据则选择数量排在第一位的类标号作为自己的类标号，因此KNN分类算法更加适合于类域重合或是交叉的待分类数据，在无人机空战过程中受到广泛应用。基于KNN的空战异常值处理方法的简单介绍如下。

设定近邻数K的初值与循环阈值，假设空战数据样本集e＝{e₁,e₂,…,e_m}与完备空战数据样本集e′＝{e′₁,e′₂,…,e′_m}，计算所有待分类空战数据样本e中数据与原空战数据集e′中数据的欧氏距离，具体计算方法如(2)所示：

寻找待分类空战数据样本e中对原空战数据集e′中相互满足最小支持度的数据两两组合，然后再从待分类空战数据样本e中寻找与组合数据满足最小支持度的数据，重复直到寻找到K个相互间满足最小支持度的组合，将未被选择的数据视为异常数据，作为缺失值处理，一般K取值为3-5，最小支持度取0.8-0.9，循环阈值根据实际情况设置。

步骤3，根据完备数据集和极限学习机来构建缺失属性与其他属性(如方位角、进入角、高度、速度、距离等)的非线性映射关系，针对性地对无人机非完备信息进行修补；

构建空战完备信息数据集为{ee_i,tt_i|ee_i∈R^D,tt_i∈Rⁿ,i＝1,2,…,m}，其中，ee_i表示第i个空战信息示例，R^D表示D维实数集，tt_i表示第i个空战信息示例对应的样本标签，Rⁿ表示n维实数集；构建隐藏层节点数为L的极限学习机，结构如图2所示，其中H(ee_i)表示对应的隐藏层输出。

从图2来看，极限学习机的输入为无人机空战信息训练样本ee_i，隐藏层个数为1，输入层的神经元与隐藏层的神经元之间的连接为全连接。记隐藏层的输出为H(ee_i)，H(ee_i)如式(3)所示：

H(ee_i)＝[h₁(ee_i),…,h_L(ee_i)] (3)

输入乘上对应权重并加上对应偏置，经过激活函数后，对隐藏层所有节点的求和即为隐藏层的输出。H(ee_i)是极限学习机隐藏层的输出矩阵，h_p(ee_i)是第p个隐藏层神经元的输出，h_p(ee_i)的具体表示如式(4)所示：

h_p(ee_i)＝g(w_p·ee_i+b_p) (4)

式(4)中w_p和b_p是隐藏层节点参数，w_p∈R^D，b_p∈R；g(·)为激活函数，选择使用Sigmoid函数作为激活函数，则式(4)具体表示如式(5)所示：

输入经过隐藏层后到达输出层，则极限学习机的输出具体如式(6)所示：

式(6)中，L表示隐藏层的神经元个数，m表示输出层的神经元个数，m≥1；β＝[β₁,…,β_L]^T是隐藏层与输出层之间的权重，其中β_L为第L个隐藏层的神经元权重；f(·)为极限学习机输入与输出间的非线性映射关系，即空战信息中缺失值对应属性与其他属性间的非线性映射关系。

基本上，极限学习机的训练和学习过程可分为两个阶段，分别是随机特征映射阶段和线性参数求解阶段。在极限学习机中，随机初始化隐藏层的权重w和偏置b，通过隐藏层的激活函数，将输入映射到特征空间，而激活函数可以是任何非线性分段连续函数，隐藏层输出H可根据式(3)和式(4)计算出，因而只需要求解输出层的权值β。将网络的输出Hβ与空战样本标签TT间的最小化平方差作为极限学习机的训练误差，即输出层的权重β满足式(7)的目标函数：

min||Hβ-TT||²,β∈R^L×m (7)

式(7)中TT是根据步骤1中已有的空战完备数据集选取的训练数据的样本标签，H和TT的具体表达式如下式(8)、式(9)所示：

其中，

为tt_n的转置

通过线性代数和矩阵论的知识，推导出式(7)的最优解如式(10)所示，其中

为矩阵H的Moore-Penrose广义逆矩阵：

最优解求解问题转化为矩阵H₀的Moore-Penrose广义逆矩阵求解问题。当H^TH为可逆时，选择正交投影法进行求解，则

如下式(11)所示。当H^TH为不可逆时，使用奇异值分解法来计算H的Moore-Penrose广义逆。

基于极限学习机的空战非完备信息数据处理方法流程如下：

Step1输入传感器采集的空战信息，并使用KNN分类方法对异常值进行甄别，并将甄别出的异常值视作缺失值。

Step2判断空战信息中是否含有缺失值。如果不含有缺失值，则将完备的空战信息进行输出，转至Step7；如果含有缺失值，转至Step3。

Step3将空战完备信息数据库输入，根据完备数据样本的数目，确定合适的隐藏层节点个数，并确定隐藏层的激活函数。

Step4随机初始化极限学习机隐藏层的权值和偏差。

Step5利用完备的空战信息样本，将缺失属性的数值作为极限学习机的输出，空战信息样本中其他属性的数值作为极限学习机的输入。通过极限学习机对完备空战信息样本进行学习，计算出满足式(7)要求的输出层权重β，获得如式(6)所示的缺失属性与其他属性间的非线性关系。

Step6对进行异常值甄别与替换后的非完备空战信息样本进行缺失值填充。根据缺失属性，选择相应的非线性映射关系。根据式(3)、式(4)和式(5)以及非完备空战信息样本的剩余属性值来计算隐藏层输出H。

Step7最后根据式(10)和式(11)预测非完备空战信息样本中的缺失属性值，并输出相应结果，结束空战信息数据处理。

综上，基于极限学习机的空战非完备信息数据处理流程图如图3所示。

为了证明本发明方法的有效性，以无人机方位角为例，选择440个空战方位角信息样本，进行异常值甄别。并采集模拟空战样本数据，完备无人机数据样本的数目为440，其中训练集样本数目为430，测试集样本数目为10。根据完备无人机数据样本的数目，隐藏层的神经元个数确定为30，即L＝30，激活函数选择使用Sigmoid函数。

仿真结果如图4a、图4b、图4c、图5所示。图4a为待检测的空战方位角序列图，由图可知，方位角的异常值大多集中于序列数范围为[100,200]的样本中；图4b为方位角样本集中的异常值检测结果；图4c为方位角数据样本的分类类别仿真结果，样本类别为1表示方位角数值位于区间[50,100]内，样本类别为2表示方位角数值位于区间[100,150]内；综合分析图4a、图4b和图4c，方位角异常值对应的样本序列号为(84，95，106，117，128，139，150，161，172，183，194，205，216，227，238)，并将甄别出的方位角样本异常值视作缺失值。图5为测试集方位角属性预测结果对比，可以验证该方法对缺失数据进行修补的准确性。

具体实现中，本申请提供计算机存储介质以及对应的数据处理单元，其中，该计算机存储介质能够存储计算机程序，所述计算机程序通过数据处理单元执行时可运行本发明提供的一种基于极限学习机的空战非完备信息数据处理方法的发明内容以及各实施例中的部分或全部步骤。所述的存储介质可为磁碟、光盘、只读存储记忆体(read-only memory，ROM)或随机存储记忆体(random access memory，RAM)等。

本领域的技术人员可以清楚地了解到本发明实施例中的技术方案可借助计算机程序以及其对应的通用硬件平台的方式来实现。基于这样的理解，本发明实施例中的技术方案本质上或者说对现有技术做出贡献的部分可以以计算机程序即软件产品的形式体现出来，该计算机程序软件产品可以存储在存储介质中，包括若干指令用以使得一台包含数据处理单元的设备(可以是个人计算机，服务器，单片机。MUU或者网络设备等)执行本发明各个实施例或者实施例的某些部分所述的方法。

本发明提供了一种基于极限学习机的空战非完备信息数据处理方法，具体实现该技术方案的方法和途径很多，以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。本实施例中未明确的各组成部分均可用现有技术加以实现。

Claims (7)

1.一种基于极限学习机的空战非完备信息数据处理方法，其特征在于，包括以下步骤：

步骤1，对空战无人机非完备信息进行描述，选用极限学习机来构建无人机非完备信息数据处理模型；

步骤2，采用K最邻近KNN分类方法来对空战信息相互关联分类，并将剩余的异常信息视作缺失值；

步骤3，根据空战完备信息数据集和极限学习机来构建缺失属性与其他属性的非线性映射关系，针对性地对无人机非完备信息进行修补。

2.根据权利要求1所述的方法，其特征在于，步骤1包括：

定义t时刻D维的第i个空战数据样本为向量e_i(t)＝[e_i,1(t),e_i,2(t),…,e_i,D(t)]，其中，e_i,D(t)为第i个空战数据样本为向量在t时刻的第D维。

3.根据权利要求2所述的方法，其特征在于，步骤1中，如果e_1,1(t)为缺失属性值，则通过获取待填充的缺失属性与其他属性的非线性映射过程，构建无人机非完备信息数据处理模型，具体表示如式(1)所示：

e_1,1(t)＝f(e_1,2(t),e_1,3(t),…,e_1,D(t)) (1)

其中f(·)为第1个属性与第2个至D个属性间的非线性映射函数。

4.根据权利要求3所述的方法，其特征在于，步骤1中，在已有的空战完备数据集基础上，通过训练极限学习机模型，隐式建立缺失值对应的属性与其他属性的非线性映射关系。

5.根据权利要求4所述的方法，其特征在于，步骤2包括：

步骤2-1，设定近邻数K的初值、最小支持度与循环阈值；

步骤2-2，设定空战数据样本集e＝{e₁,e₂,…,e_m}与完备空战数据样本集e′＝{e′₁,e′₂,…,e′_m}，计算所有待分类空战数据样本集e中数据与完备空战数据样本集e′中数据的欧氏距离作为支持度，具体计算方法如(2)所示：

其中d(e_i,e′_j)表示空战数据样本集中第i个样本e_i与完备空战数据样本集中第j个样本e′的欧式距离，i取值为1～m，j取值为1～m，且i不等于j。

6.根据权利要求5所述的方法，其特征在于，步骤2-2还包括：将待分类空战数据样本集e中数据与完备空战数据样本集e′中相互满足最小支持度的数据两两组合，然后再从空战数据样本集e中寻找与组合数据满足最小支持度的数据，重复直到寻找到K个相互间满足最小支持度的组合，将未被选择的数据视为异常数据，作为缺失值处理。

7.根据权利要求6所述的方法，其特征在于，步骤3包括：

步骤3-1，构建空战完备信息数据集为{ee_i,tt_i|ee_i∈R^D,tt_i∈Rⁿ,i＝1,2,…,m}，其中，ee_i表示第i个空战信息示例，R^D表示D维实数集，tt_i表示第i个空战信息示例对应的样本标签，Rⁿ表示n维实数集；构建隐藏层节点数为L的极限学习机，ee_i作为输入，tt_i作为输出，H(ee_i)表示对应的隐藏层输出；

极限学习机的输入为无人机空战信息训练样本ee_i，隐藏层个数为1，输入层的神经元与隐藏层的神经元之间的连接为全连接，记隐藏层的输出为H(ee_i)，H(ee_i)如式(3)所示：

H(ee_i)＝[h₁(ee_i),…,h_L(ee_i)] (3)

输入乘上对应权重并加上对应偏置，经过激活函数后，对隐藏层所有节点的求和即为隐藏层的输出，H(ee_i)是极限学习机隐藏层的输出矩阵，h_p(ee_i)是第p个隐藏层神经元的输出，p取值为1～L，h_p(ee_i)的具体表示如式(4)所示：

h_p(ee_i)＝g(w_p·ee_i+b_p) (4)

其中w_p和b_p是隐藏层节点参数，w_p∈R^D，b_p∈R；g(·)为激活函数，选择使用Sigmoid函数作为激活函数，则式(4)具体表示如式(5)所示：

其中e是自然常数；

输入经过隐藏层后到达输出层，则极限学习机的输出具体如式(6)所示：

其中，L表示隐藏层的神经元个数，m表示输出层的神经元个数，m≥1；β＝[β₁,…,β_L]^T是隐藏层与输出层之间的权重，其中β_L为第L个隐藏层的神经元权重；f(·)为极限学习机输入与输出间的非线性映射关系；

步骤3-2，在极限学习机中，随机初始化隐藏层的权重w和偏置b，通过隐藏层的激活函数，将输入映射到特征空间，根据式(3)和式(4)计算得到隐藏层输出H，将网络的输出Hβ与空战样本标签TT间的最小化平方差作为极限学习机的训练误差，则输出层的权重β满足式(7)的目标函数：

min||Hβ-TT||²,β∈R^L×m (7)

其中min表示取最小值，TT是根据步骤1中已有的空战完备数据集选取的训练数据的样本标签，H和TT的具体表达式如式(8)、式(9)所示：

其中，

为tt_n的转置；

推导出式(7)的最优解如式(10)所示：

其中

为矩阵H的Moore-Penrose广义逆矩阵；

当H^TH为可逆时，选择正交投影法进行求解，则

如下式(11)所示：

当H^TH为不可逆时，使用奇异值分解法来计算H的Moore-Penrose广义逆。

Images