CN113435644A - 基于深度双向长短期记忆神经网络的突发事件预测方法 - Google Patents

Abstract

本发明涉及机器学习、人工智能、突发事件预测、目标行为意图预测等领域，为实现根据传感器及雷达获取到的敌方状态数据从而对敌方的突发行为意图进行预测，本发明，基于深度双向长短期记忆神经网络的突发事件预测方法，步骤如下：第一部分，提取对抗仿真中的有效数据，建立训练数据集样本；第二部分，数据预处理，包括数据降采样，数据归一化，数据缺失值和异常值处理以及数据标签标注：第三部分，将预处理好的数据进行卡尔曼滤波；第四部分，将样本切分并建立数据库；第五部分，构建深度双向LSTM网络模型。本发明主要应用于无人机对抗仿真场合。

Description

基于深度双向长短期记忆神经网络的突发事件预测方法

技术领域

本发明涉及机器学习、人工智能、突发事件预测、目标行为意图预测等领域，尤其涉及一种不确定感知条件下的基于深度神经网络的突发事件预测方法。具体涉及基于深度双向长短期记忆神经网络的突发事件预测方法。

背景技术

在敌我双方博弈对抗过程中，如果能准确的预测及判断敌方的行为动作，尤其是突发行为(例如，敌方的快速机动及某项攻击等行为)，对我方的行为决策有着极其重大的意义。在敌我双方对抗的过程中，我方可以通过传感器、雷达等探测设备对敌方的状态信息进行获取，根据敌方的状态信息以及我方的状态信息预测敌方的行为动作，从而制定我方的行动策略。然而，战场环境是一个复杂高动态的博弈环境，瞬息万变，充满了高度不确定性、动态性和高对抗性。因此，在不确定环境中准确的预测敌方的行为意图，尤其是突发行为意图，是影响战场走向的关键因素。

敌方行为意图预测，是指根据传感器及雷达探测到的敌方状态数据，对各类状态信息进行综合的分析，判断敌方是否实施某项行为，例如突然加速、拐弯、敌方攻击行为等。对敌方目标突发行为意图进行预测时，需要对敌方的位置、速度、高度、机动动作等状态信息进行综合分析，同时也需要考虑到我方的状态信息。在现有的大量敌我双方对抗仿真数据库中，通过机器学习算法有效的学习到敌我双方状态与敌方目标突发行为之间的联系，在实际对抗过程中，使用训练好的机器学习模型对敌方目标的突发行为意图进行预测。

在敌方行为预测的问题中，敌方飞行器行为预测不能仅仅依靠敌方的单一状态信息的概率分布或多状态信息的联合概率分布得出准确的结论。飞行器状态之间会存在或大或小的耦合作用，都会对预测精度产生影响。神经网络作为一门新兴的预测方法，相比于其它传统的预测方法，其强大之处在于可以拟合人们用数学语言描述不了的非线性关系。因此，本部分采用神经网络的方法研究敌方行为预测问题，以黑箱的形式让网络自主学习数据特征之间的关联，从而对敌方行为进行预测。

在众多深度学习方法当中，循环神经网络(Recurrent Neural Network，RNN)主要用于处理序列数据，其最大的特点就是神经元在某时刻的输出可以作为输入再次输入到神经元，这种串联的网络结构非常适合于时间序列数据，可以保持数据中的依赖关系。对于展开后的 RNN，可以得到重复的结构并且网络结构中的参数是共享的，大大减少了所需训练的神经网络参数。长短期记忆(Long-Short Time Memory，LSTM)网络是众多RNN网络中的一种，它解决了RNN的长期依赖的问题和梯度消失、爆炸的问题。本文借鉴了这种方法，基于历史数据构造双向LSTM网络，先对历史数据中敌方状态数据、己方状态数据和敌方行为结果之间的对应关系进行学习，之后在线对敌方突发行为意图进行预测。

本发明涉及数据处理、行为预测与深度学习领域。首先，对获取到的敌方状态数据进行预处理。其次，采用卡尔曼滤波的方法对预处理后的数据进行滤波处理，对信号中的噪声进行滤除。随后，设计双向LSTM网络对经验库中的历史数据进行学习。最后，采用训练好的双向LSTM网络模型对敌方突发行为意图进行在线预测。

发明内容

为克服现有技术的不足，本发明旨在提出一种应用于敌我双方对战博弈过程的不确定条件下的突发事件预测方法。具体而言，提出一种基于深度学习的预测模型，根据传感器及雷达获取到的敌方状态数据从而对敌方的突发行为意图进行预测。为此，本发明采取的技术方案是，基于深度双向长短期记忆神经网络的突发事件预测方法，步骤如下：

第一部分，提取对抗仿真中的有效数据，建立训练数据集样本，数据是由红蓝双方对抗仿真获得，红蓝双方采用相同的策略进行突发行为的互相对抗，因此可以分别通过红蓝双方的己方视角获取敌方的状态信息建立训练数据集，在每次仿真前，将对红蓝双方进行随机初始化，从而获得覆盖较为广泛的数据样本集；

第二部分，数据预处理，包括数据降采样，数据归一化，数据缺失值和异常值处理以及数据标签标注：首先，将获取到的对抗仿真数据均匀降采样，然后，根据获取到的数据范围，将数据进行归一化处理，映射到[0,1]之间，在数据处理的过程中对无效数据进行剔除：a.将敌方状态数据全为0的无效数据剔除；b.将敌方状态数据全为NAN的无效数据剔除；

第三部分，将预处理好的数据进行卡尔曼滤波，对预处理好的数据进行卡尔曼滤波处理，将数据中的噪声进行滤除；

第四部分，将样本切分并建立数据库，根据任务需求以及网络的输入、输出形式将样本进行切分以及处理，神经网络的输入向量为当前时刻之前的前10s数据，从每秒数据中随机抽取一拍作为LSTM神经网络对应cell的输入，输出为11维向量，分别代表t-5、t-4、t-3、 t-2、t-1、t、t+1、t+2、t+3、t+4、t+5时刻的敌方突发行为的预测值，对收集到的原始形式的数据进行切分，切分过程如下：a.将每10s数据进行分组，作为神经网络的输入，得到一个100×37维的输入数据，b.将当前时刻前5s、当前时刻以及当前时刻后5s的是否存在突发行为作为对应输入的样本标签，将突发行为后的一段时间的样本标签全部置1作为对应输入的样本标签，将切分好的样本保存，建立经验数据库；

第五部分，构建深度双向LSTM网络模型：首先，从每秒的10拍数据中提取出1拍数据，组成网络的输入信号(10×37)，通过一个全连接层对输入信号进行升维，将每个时间步输入的37维数据升到LSTM内部节点维度，采用的LSTM网络为多层LSTM网络，层数设定为2层，在t-5至t-1节点后分别接入一个全连接层用于判断t-5至t-1时刻是敌方否发生突发行为，在t节点后接入六个全连接层用于判断t时刻敌方是否发生突发行为的同时预测t+1至t+5时刻敌方是否发生突发行为，网络每个时间步的输出采用one-hot形式，即敌方未发生突发行为的输出为[1,0]，发生突发行为的输出为[0,1]。

网络训练：网络采用交叉熵函数作为损失函数，即：

L(y^*,y)＝-∑_iy^*(x)logy(x)

其中i表示每一次训练过程批量样本的个数，y^*(x)表示神经网络输出的概率分布，即每个时刻是否发生突发行为，y(x)代表期望的输出概率分布，即训练样本的标签值的one-hot 形式，深度神经网络的优化目标是让L(y^*,y)趋近于0，网络采用基于Adam算法的深度神经网络权值更新算法进行网络权值更新。

前向样本预测：在网络在线预测过程中，输入数据的提权：每秒间隔取等间距的10组数据，根据神经网络分布式的特性，根据batch计算方式，获得10组预测结果，对这十组预测结果求其平均值，获得最终的11s的预测结果；

获得到神经网络的输出数据后，对预测数据进行处理，①如敌方没有发生突发事件，则结果为(False，None)；②如果突发事件在当前时刻前5秒至当前时刻后5秒发生，则结果为(True，[-4,+4])，例如在当前时刻敌方发生突发事件，输出结果为(True，0)，在未来2s时敌方发生突发事件，输出结果为(True，+2)，以此类推；③如果在当前时刻前5s之前敌方发生突发事件，则输出结果为(True，None)。

第三部分具体步骤如下：首先，根据t-1时刻系统估计状态和t-1时刻系统估计误差，依据飞行器的运动方程预测t时刻系统预测状态和t时刻系统预测误差；然后，根据t时刻系统实际状态与预测误差计算卡尔曼增益，设计卡尔曼滤波器获得t时刻系统估计状态和t时刻系统估计误差；最后，进行迭代，滤除数据中的噪声。

本发明的特点及有益效果是：

本发明提出了一种不确定感知条件下的基于深度神经网络的突发事件预测方法，本发明的优点与积极效果如下：

(1)当前战场环境复杂多变，需要操控人员处理的信息逐渐增加。因此可以构建一个操控人员辅助决策系统，帮助操控人员执行一些较为简单、可由机器执行的操作，从而大幅度减轻驾驶员的任务量。而本专利可以内嵌到操控人员辅助决策系统中，作为一个单独的模块执行任务。在敌方行为预测这一大模块中，包括传感器信息采集、信息处理、预测模型、结果输出显示等四个小模块。而对于操控人员来说，只需根据输出预测结果执行相应的攻击或躲避命令即可。及时准确的操控人员辅助决策系统能够帮助驾驶员最大限度的发挥自身实力，对于获取作战优势有重要的意义。

(2)本方法建立的预测模型可以存储下来，可以根据新获取的数据对模型进行更新训练，在敌我双方对战博弈过程中，网络的前向传播仅仅用到了加法和乘法，可以很快地给出实时预测结果，预测效率及准确率高。

附图说明：

图1：卡尔曼滤波算法。

图2：神经网络框架及输入、输出形式。

图3：LSTM的输入。①代表第一个输入向量，②代表第二个输入向量。

图4：LSTM-cell简化模型。

图5：双向LSTM网络结构图。

图6：测试集平均精度。

图7：在线输出值实例。

具体实施方式

本发明提出了一种不确定感知条件下的基于深度神经网络的突发事件预测方法。具体技术方案如下：

第一部分，提取对抗仿真中的有效数据，建立训练数据集样本。数据是由红蓝双方对抗仿真获得，红蓝双方采用相同的策略进行突发行为的互相对抗(例如敌方攻击行为)。因此可以分别通过红蓝双方的己方视角获取敌方的状态信息建立训练数据集。在每次仿真前，将对红蓝双方进行随机初始化，，从而获得覆盖较为广泛的数据样本集。

第二部分，数据预处理，包括数据降采样，数据归一化，数据缺失值和异常值处理以及数据标签标注。首先，将获取到的抗仿真的数据降均匀采样为100ms的采样间隔。然后，根据获取到的数据范围，将数据进行归一化处理，映射到[0,1]之间。在数据采集过程中会采集到一些无效数据，例如敌方状态信息全为0或敌方状态信息为NAN的情况，因此在数据处理的过程中对这些无效数据进行剔除：a.将敌方状态数据全为0的无效数据剔除；b.将敌方状态数据全为NAN的无效数据剔除。

第三部分，将预处理好的数据进行卡尔曼滤波。卡尔曼滤波是一种利用线性系统状态方程，通过系统输入输出观测数据，对系统状态进行最优估计的算法。首先，根据t-1时刻系统估计状态和t-1时刻系统估计误差，依据飞行器的运动方程预测t时刻系统预测状态和t时刻系统预测误差；然后，根据t时刻系统实际状态与预测误差计算卡尔曼增益，设计卡尔曼滤波器获得t时刻系统估计状态和t时刻系统估计误差；最后，进行迭代，对预处理好的数据进行卡尔曼滤波处理，将数据中的噪声进行滤除。

第四部分，将样本切分并建立数据库。根据任务需求以及网络的输入、输出形式将样本进行切分以及处理，神经网络的输入向量为当前时刻之前的前10s数据，从每秒数据中随机抽取一拍作为LSTM神经网络对应cell的输入，输出为11维向量，分别代表t-5、t-4、t-3、 t-2、t-1、t、t+1、t+2、t+3、t+4、t+5时刻的敌方突发行为的预测值。因此，我们需要对收集到的原始形式的数据进行切分，切分过程如下：a.将每10s数据进行分组，作为神经网络的输入，因此我们可以的到一个100×37维的输入数据。b.将当前时刻前5s、当前时刻以及当前时刻后5s的是否存在突发行为作为对应输入的样本标签。突发行为往往是在短时间内进行，如果在发生突发行为那一刻将样本标签置1的话，往往导致样本分布极度稀疏导致神经网络学习失败。因此，我们对样本进行处理，将突发行为后的一段时间的样本标签全部置1作为对应输入的样本标签。将切分好的样本保存，建立经验数据库。

第五部分，构建深度双向LSTM网络模型：首先，从每秒的10拍数据中提取出1拍数据，组成网络的输入信号(10×37)，通过一个全连接层对输入信号进行升维，将每个时间步输入的37维数据升到LSTM内部节点维度。结构中的LSTM网络为多层LSTM网络，层数设定为2层。在t-5至t-1节点后分别接入一个全连接层用于判断t-5至t-1时刻是敌方否发生突发行为，在t节点后接入六个全连接层用于判断t时刻敌方是否发生突发行为的同时预测t+1至t+5时刻敌方是否发生突发行为。网络每个时间步的输出采用one-hot形式，即敌方未发生突发行为的输出为[1,0]，发生突发行为的输出为[0,1]。

网络训练：网络采用交叉熵函数作为损失函数，即：

L(y^*,y)＝-∑_iy^*(x)logy(x)

其中i表示每一次训练过程批量样本的个数，y^*(x)表示神经网络输出的概率分布，即每个时刻是否发生突发行为，y(x)代表期望的输出概率分布，即训练样本的标签值的one-hot 形式。深度神经网络的优化目标是让L(y^*,y)趋近于0。网络采用基于Adam算法的深度神经网络权值更新算法进行网络权值更新。

前向样本预测：在网络在线预测过程中，输入数据的提权采用两种方式进行，第一种为在每秒10拍数据中随机选取一拍数据；第二种为每秒间隔取等间距的10组数据，根据神经网络分布式的特性，根据batch计算方式，获得10组预测结果，对这十组预测结果求其平均值，获得最终的11s的预测结果。相对与第一种方法，第二种方法鲁棒性及容错性更强，获得结果更加准确。

获得到神经网络的输出数据后，对预测数据进行处理，①如敌方没有发生突发事件，则结果为(False，None)；②如果突发事件在当前时刻前5秒至当前时刻后5秒发生，则结果为(True，[-4,+4])，例如在当前时刻敌方发生突发事件，输出结果为(True，0)，在未来2s时敌方发生突发事件，输出结果为(True，+2)，以此类推；③如果在当前时刻前5s之前敌方发生突发事件，则输出结果为(True，None)。

下面结合附图对本发明做进一步描述。

第一步，提取对抗仿真中的有效数据，建立训练数据集样本。通过几千次红蓝双方的对抗仿真，采集大量的对抗数据样本，每组样本数据说明如表1所示。

表1样本数据集说明

第二步，数据预处理，包括数据降采样，数据归一化，数据缺失值和异常值处理以及数据标签标注。对抗仿真的数据采样频率为20ms采取一组样本，根据需求，我们将20ms的采样间隔均匀降采样到100ms的采样间隔。根据表1中各个状态的取值范围，对每个状态值进行归一化处理，及将数据映射到[0,1]之间。

在仿真数据中，因为仿真程序的误差及限制，会存在很多数据缺失值和异常值，在数据预处理过程中，需要把这些异常值进行处理。首先对无效数据，例如敌方状态信息全为0或敌方状态信息为NAN的情况，因此在数据处理的过程中对这些无效数据进行剔除：

a.将敌方状态数据全为0的无效数据剔除；

b.将敌方状态数据全为NAN的无效数据剔除；

第三步，将预处理好的数据进行卡尔曼滤波。仿真环境中获取到的数据因复杂环境的影响，传感器的误差会导致传感器获取到的数据存在一定的噪声，因此采用图1所示卡尔曼滤波算法对状态数据进行滤波消除噪声。

第四步，将样本切分并建立数据库。根据任务需求，设计了如图2所示的输入、输出形式，神经网络的输入向量为当前时刻之前的前10s数据，从每秒数据中抽取一拍作为LSTM神经网络对应cell的输入，如图3所示。如图2所示输出为11维向量，分别代表t-5、t-4、 t-3、t-2、t-1、t、t+1、t+2、t+3、t+4、t+5时刻的发生突发行为预测值。因此，我们需要对收集到的原始形式的数据进行切分，切分过程如下：

a.将每10s数据进行分组，作为神经网络的输入(在每秒中提取哪一拍数据将在神经网络学习过程及预测部分进行阐述)。因此我们可以的到一个100×37维的输入数据。

b.将当前时刻前5s、当前时刻以及当前时刻后5s的中制导数据作为对应输入的样本标签。

第五步，构建深度双向LSTM网络模型并训练模型。首先设计如图5所示的双向LSTM预测模型，其中双向深度LSTM模型由图6所示的LSTM-cell组成。网络结构如表2所示。

表2双向LSTM神经网络结构

其次，从每秒的10拍数据中提取出1拍数据，组成网络的输入信号(10×37)，通过一个全连接层对输入信号进行升维，将每个时间步输入的37维数据升到LSTM内部节点维度。结构中的LSTM网络为多层LSTM网络，层数设定为2层。在t-5至t-1节点后分别接入一个全连接层用于判断t-5至t-1时刻是否发生突发行为，在t节点后接入六个全连接层用于判断t时刻是否发生突发行为同时预测t+1至t+5时刻是否发生突发行为。网络每个时间步的输出采用one-hot形式，即未发生突发行为的输出为[1,0]，发生突发行为的输出为[0,1]。网络采用交叉熵函数作为损失函数，采用ADAM反向传播算法训练网络权值。

第六步，前向样本进行预测。在网络在线预测过程中，输入数据的提权采用两种方式进行，第一种为在每秒10拍数据中随机选取一拍数据；第二种为每秒间隔取等间距的10组数据，根据神经网络分布式的特性，根据batch计算方式，获得10组预测结果，对这十组预测结果求其平均值，获得最终的11s的预测结果。相对与第一种方法，第二种方法鲁棒性及容错性更强，获得结果更加准确。

获得到神经网络的输出数据后，对预测数据进行处理，①如没有发生突发事件，则结果为(False，None)；②如果突发事件在当前时刻前5秒至当前时刻后5秒发生，则结果为(True， [-4,+4])，例如在当前时刻发生突发事件，输出结果为(True，0)，在未来2s时发生突发事件，输出结果为(True，+2)，以此类推；③如果在当前时刻前5s之前发生突发事件，则输出结果为(True，None)。网络在Ubuntu16.04系统下进行验证，编程语言：python；深度学习工具包：TensorFlow；计算机配置，CPU:I7-6700k；GPU：NVIDIA-GTX-1070；内存：16G。

仿真结果：网络训练时间为：6182.3s。在测试集上测试的平均精度为0.96067，如图6 所示。现用单一样本进行测试，网络输出为11*1的向量形式，对网络输出进行处理，程序输出为(True/False,time/None)，如图7所示。

以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (4)

1.一种基于深度双向长短期记忆神经网络的突发事件预测方法，其特征是，步骤如下：

第一部分，提取对抗仿真中的有效数据，建立训练数据集样本，数据是由红蓝双方对抗仿真获得，红蓝双方采用相同的策略进行突发行为的互相对抗，因此可以分别通过红蓝双方的己方视角获取敌方的状态信息建立训练数据集，在每次仿真前，将对红蓝双方进行随机初始化，从而获得覆盖较为广泛的数据样本集；

第二部分，数据预处理，包括数据降采样，数据归一化，数据缺失值和异常值处理以及数据标签标注：首先，将获取到的对抗仿真数据均匀降采样，然后，根据获取到的数据范围，将数据进行归一化处理，映射到[0,1]之间，在数据处理的过程中对无效数据进行剔除：a.将敌方状态数据全为0的无效数据剔除；b.将敌方状态数据全为NAN的无效数据剔除；

第三部分，将预处理好的数据进行卡尔曼滤波，对预处理好的数据进行卡尔曼滤波处理，将数据中的噪声进行滤除；

第四部分，将样本切分并建立数据库，根据任务需求以及网络的输入、输出形式将样本进行切分以及处理，神经网络的输入向量为当前时刻之前的前10s数据，从每秒数据中随机抽取一拍作为LSTM神经网络对应cell的输入，输出为11维向量，分别代表t-5、t-4、t-3、t-2、t-1、t、t+1、t+2、t+3、t+4、t+5时刻的敌方突发行为的预测值，对收集到的原始形式的数据进行切分，切分过程如下：a.将每10s数据进行分组，作为神经网络的输入，得到一个100×37维的输入数据，b.将当前时刻前5s、当前时刻以及当前时刻后5s的是否存在突发行为作为对应输入的样本标签，将突发行为后的一段时间的样本标签全部置1作为对应输入的样本标签，将切分好的样本保存，建立经验数据库；

第五部分，构建深度双向LSTM网络模型：首先，从每秒的10拍数据中提取出1拍数据，组成网络的输入信号(10×37)，通过一个全连接层对输入信号进行升维，将每个时间步输入的37维数据升到LSTM内部节点维度，采用的LSTM网络为多层LSTM网络，层数设定为2层，在t-5至t-1节点后分别接入一个全连接层用于判断t-5至t-1时刻是敌方否发生突发行为，在t节点后接入六个全连接层用于判断t时刻敌方是否发生突发行为的同时预测t+1至t+5时刻敌方是否发生突发行为，网络每个时间步的输出采用one-hot形式，即敌方未发生突发行为的输出为[1,0]，发生突发行为的输出为[0,1]。

2.如权利要求1所述的基于深度双向长短期记忆神经网络的突发事件预测方法，其特征是，网络训练：网络采用交叉熵函数作为损失函数，即：

L(y^*,y)＝-∑_iy^*(x)logy(x)

其中i表示每一次训练过程批量样本的个数，y^*(x)表示神经网络输出的概率分布，即每个时刻是否发生突发行为，y(x)代表期望的输出概率分布，即训练样本的标签值的one-hot形式，深度神经网络的优化目标是让L(y^*,y)趋近于0，网络采用基于Adam算法的深度神经网络权值更新算法进行网络权值更新。

3.如权利要求1所述的基于深度双向长短期记忆神经网络的突发事件预测方法，其特征是，前向样本预测：在网络在线预测过程中，输入数据的提权：每秒间隔取等间距的10组数据，根据神经网络分布式的特性，根据batch计算方式，获得10组预测结果，对这十组预测结果求其平均值，获得最终的11s的预测结果；

获得到神经网络的输出数据后，对预测数据进行处理，①如敌方没有发生突发事件，则结果为(False，None)；②如果突发事件在当前时刻前5秒至当前时刻后5秒发生，则结果为(True，[-4,+4])，例如在当前时刻敌方发生突发事件，输出结果为(True，0)，在未来2s时敌方发生突发事件，输出结果为(True，+2)，以此类推；③如果在当前时刻前5s之前敌方发生突发事件，则输出结果为(True，None)。

4.如权利要求1所述的基于深度双向长短期记忆神经网络的突发事件预测方法，其特征是，第三部分具体步骤如下：首先，根据t-1时刻系统估计状态和t-1时刻系统估计误差，依据飞行器的运动方程预测t时刻系统预测状态和t时刻系统预测误差；然后，根据t时刻系统实际状态与预测误差计算卡尔曼增益，设计卡尔曼滤波器获得t时刻系统估计状态和t时刻系统估计误差；最后，进行迭代，滤除数据中的噪声。

Images