CN115935192A - 一种基于增量式在线学习框架的飞行训练数据预测方法 - Google Patents

Abstract

本发明属于机器学习及数据挖掘技术领域，尤其涉及一种基于增量式在线学习框架的飞行训练数据预测方法，所述方法包括：基于飞行数据无线传输实时方法获取飞行训练数据；对已获取数据进行处理，包括数据清洗，特征工程处理；构建基于增量式在线学习框架的飞行训练数据预测模型；已处理数据按照流的形式输入到模型中进行预测；将预测结果可视化并分析。利用本发明，将有利于飞行学员训练过程中准确掌握飞行状态，地面人员实时准确监督飞行训练过程，并通过可视化的结果直观的获取到飞行训练状态，保障飞行训练安全。

Description

一种基于增量式在线学习框架的飞行训练数据预测方法

技术领域

本发明属于机器学习及数据挖掘技术领域，尤其涉及一种基于增量式在线学习框架的飞行训练数据预测方法。

背景技术

针对飞行训练在线学习问题，主要从飞行训练数据实时传输和增量学习在线模型两方面进行研究；针对飞行训练数据实时传输问题，有学者为了实现飞参数据的实时采集和传输，采用频分复用和时分复用结合的信道资源的分配方法，实现飞参数据实时化采集，实时监控日常飞行训练质量，保障飞行训练安全；有的学者对飞机进行改装，构建机载飞行数据传输设备和天线，底面控制和接收基站从而实现了飞机飞行数据实时传输系统；有学者基于空地无线宽带通信技术提出一种用于运输机的飞行实时监控系统，能够将新舟600飞机大量飞行数据实时传输到地面，实现飞行实时监控。有学者使用基于在线增量LSSVM对COD浓度进行预测，改进在线增量学习模型，改进阈值选择和滑动窗口设置实现在线快速预测。针对时间序列数据，有学者提出一种在线增量式时间序列数据学习TSLN算法，大大降低了时间序列数据学习的时间成本和存储成本。

然而，现有研究工作大多数都没有针对飞行训练进行研究，飞行训练研究方面仍存在严重不足；飞行训练安全问题中的主要研究对象是飞行训练异常事件；飞行训练异常事件是指在飞行训练过程中发生的未按照训练和安全规定造成的超限事件，这些超限事件是导致飞行训练事故的最主要原因；因此，针对飞行训练数据进行预测研究，将未之后的异常事件和飞行训练事故调查研究做好铺垫。

发明内容

为了解决上述现有技术中存在的技术问题，本发明提供了一种基于增量式在线学习框架的飞行训练数据预测方法，拟至少实现飞行训练数据的实时预测，使得飞行人员或地面监测人员可以全程关注训练飞机飞行状态，为之后的异常事件和飞机训练事故调查研究做好铺垫。

为解决上述技术问题，本发明采用的技术方案如下：

一种基于增量式在线学习框架的飞行训练数据预测方法，包括以下步骤：

步骤1：实时获取飞行训练数据；

步骤2：对获取的飞行训练数据进行预处理；

步骤3：建立基于增量式在线学习框架的飞行训练数据预测模型；

步骤4：将进行预处理后的飞行训练数据输入至飞行训练数据预测模型中，得到预测结果。

进一步的，所述预处理包括：数据清洗和特征工程处理；

数据清洗：删除无法使用的数据、部分缺失数据的填充；

特征工程处理：计算目标特征的皮尔逊相关系数。

进一步的，所述无法使用的数据包括：飞机刚通电还未起飞的数据、飞行全程没有变化的数据以及飞机自身传感器问题导致的部分缺失不可用的数据。

进一步的，所述部分缺失数据的填充采用随机森林方法进行填充，填充后利用皮尔逊相关系数筛选对目标特征影响最深的特征。

进一步的，所述步骤3中基于神经网络构建所述飞行训练数据预测模型；

所述飞行训练数据预测模型包括CNN层、BILSTM层、注意力机制层以及增量式在线学习框架。

进一步的，所述注意力机制层使用Permute层对输入矩阵转置维度，将数据步长和数据维度进行置换保证输入数据的格式符合Dense格式；

利用Dense层分别计算每个特征的权重，再将多维特征的注意力权重取平均值，保证每个维度的特征共享一个注意力；

使用Permute转置维度保证输出维度符合BILSTM层输入，将权重乘以输入最终实现注意力机制层。

进一步的，所述注意力机制层的计算公式如下：

；

；

；

式中：

表示BILSTM层前向后向子链的组合输出；h表示隐层状态；

表示注意力向量，为softmax层输出向量；

表示BILSTM层最后输出的特征图；

表示参数矩阵；

表示

向量的转置；

表示网络输出。

进一步的，所述步骤4中得到预测结果后，对预测结果进行可视化展示。

进一步的，还包括对所述飞行训练数据预测模型的精度进行评价，评价时采用均方差根和R平方：

；

式中：M表示数据集实例数量，

表示通过模型预测获得的数据，

表示真实数据。

；

式中：

表示真实数据的平均值。

R平方表示预测值，解释真实值的方差的最大比例，用来衡量预测值与真实值拟合的好坏程度；并使用matplotlib库对预测结果可视化分析。

本发明的有益效果包括：

本发明针对飞行训练姿态中的Pitch和Roll姿态角有较好的预测性能，同时对飞行训练航迹预测效果较好；本发明添加注意力机制可以使得模型具有较好的实时性和准确性；并且相较于其他模型，本发明的预测性好、平均误差小且精度高。

附图说明

图1为本发明的机体坐标系图。

图2为本发明的飞机各姿态角示图。

图3为本发明的注意力机制层模型图。

图4为本发明的基于增量式在线学习的飞行训练预测模型结构图。

图5为本发明的基于增量式在线学习的飞行训练预测模型模型Pitch预测结果图。

图6为本发明的基于增量式在线学习的飞行训练预测模型模型Roll预测结果图。

图7为本发明的各模型针对Pitch预测结果对比图。

图8为本发明的各模型针对Roll预测结果对比图。

图9为本发明的各模型训练航迹预测动态结果对比图。

图10为本发明的整体流程框图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以各种不同的配置来布置和设计。因此，以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围，而是仅仅表示本申请的选定实施例。基于本申请的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。

下面结合图1-图10对本发明作进一步的详细说明：

参见图10所示，一种基于增量式在线学习框架的飞行训练数据预测方法，包括以下步骤：

步骤1：实时获取飞行训练数据；

步骤2：对获取的飞行训练数据进行预处理；

所述预处理包括：数据清洗和特征工程处理；

数据清洗：删除无法使用的数据、少量缺失数据的填充；

特征工程处理：计算目标特征的皮尔逊相关系数。

所述无法使用的数据包括：飞机刚通电还未起飞的数据、飞行全程没有变化的数据（例如，AtvWpt，Gpsfix等特征）以及飞机自身传感器问题导致的大量缺失不可用的数据特征（例如，AfcsOn特征等）。

所述少量缺失数据的填充采用随机森林方法进行填充，填充后利用皮尔逊相关系数筛选对目标特征影响最深的特征。

皮尔逊相关系数又称皮尔逊积矩相关系数，用来度量两个变量X和Y的相关性，取值范围为[-1,1]；当皮尔逊系数<0时表示负相关，即一个变量增大另一变量减小；当皮尔逊系数>0时表示正相关，即一个变量增大另一变量随之增大，皮尔逊相关系数越接近-1或者1时表示相关性越强。皮尔逊相关系数表示为x和y的协方差与x标准差*y标准差的比，其公式如下：

；

针对俯仰角、滚转角、偏航角以及航迹相关特征的皮尔逊相关系数如下表1所示：

表 1 皮尔逊相关系数

选择表1中皮尔逊系数大于|0.5|的特征，针对Pitch选择VSpd（皮尔逊系数：0.886）、E1CHT2（皮尔逊系数：0.653）等9个特征；针对Roll选择FQtyL（皮尔逊系数：0.507）、FQtyR（皮尔逊系数：0.547）等2个特征，其他特征数据结果如上所示。

并且在本实施例中，分析研究飞行训练问题，研究飞行训练问题与飞行训练数据之间的内在联系；飞行训练数据可以反应多种飞行训练事件，通过对飞行训练中Pitch、Roll的预测，可以有效实时观察飞行训练过程中飞机的姿态；对飞机训练数据中经度、纬度以及高度进行预测，可以实时有效的监督飞行训练航迹，确保飞行训练按照规定进行。

步骤3：建立基于增量式在线学习框架的飞行训练数据预测模型；

所述步骤3中基于神经网络构建所述飞行训练数据预测模型；

所述飞行训练数据预测模型包括CNN层、BILSTM层、注意力机制层以及增量式在线学习框架。

所述注意力机制层使用Permute层对输入矩阵转置维度，将数据步长和数据维度进行置换保证输入数据的格式符合Dense格式；

利用Dense层分别计算每个特征的权重，再将多维特征的注意力权重取平均值，保证每个维度的特征共享一个注意力；

使用Permute转置维度保证输出维度符合BILSTM层输入，将权重乘以输入最终实现注意力机制层。

参见图1所示，飞机飞行姿态是飞行器的三轴在空中相对于某条参考线或某个参考平面或某固定的坐标系系统间的状态；通常通过俯仰角、偏航角和滚转角来描述飞机姿态，这些角度可以直观体现飞行姿态；俯仰角、偏航角和滚转角通过机体坐标系表示；机体坐标系是指固定在飞行器或飞机上的遵循右手法则的三位正交直角坐标系，其原点位于飞行器的质心；OX轴位于飞行器参考平面内平行于机身轴线并指向飞行器前方，OY轴垂直于飞行器参考面并指向飞行器右方，OZ轴在参考面内垂直于XOY平面，指向航空器下方。

参见图2所示，飞机俯仰姿态主要通过俯仰角描述；俯仰角（Pitch）是飞机机体坐标系OX轴和水平面之间的夹角；飞机俯仰角的范围为[-90°~90°]，但是受到机翼空气动力学性能的限制；通航飞机俯仰角的范围一般为[-15°~18°]之间；俯仰角大于零俗称抬头，俯仰角小于零俗称低头；如果俯仰角超出范围，飞机将进入失速状态，机翼上产生的升力突然减小，导致飞行高度突然降低，气流分离，操作失效。飞行训练学员在面对失速状态时，如果经验不足将导致飞行事故的发生；飞行滚转姿态通过滚转角描述，滚转角（Roll）是飞机机体坐标系OZ轴与通过机体OX轴的铅锤直面之间的夹角，取值范围为[-180°~180°]，规定机体向右偏转为正；如果倾斜角度过大时，升力的垂直分量很小，会造成飞机的失速；飞机偏航姿态通过偏航角描述；偏航角的取值范围为[-90°~90°]，偏航角（yaw）是机体坐标系0X轴在水平面上投影与地面坐标系xg轴（在水平面上，目标为正）之间的夹角，由xg轴逆时针至机体OX的投影线时，偏航角为正，规定机头右偏为正。当飞行时遇到大雾，夜间无光等环境时，飞行员只能靠感觉去调整飞机，但是这种感觉是不靠谱的，很容易发生飞行事故。

同时，对飞行训练数据进行深入研究，飞行训练航迹预测问题也是值得关注的一个重要方面，通过对飞行训练数据中经度、纬度以及高度的综合分析后对航迹进行预测可以使得底面人员实时有效的监督飞行训练是否按照规定进行，保障飞行训练安全。

综上所述，飞行训练数据的研究可以正确引导飞行员掌握飞机飞行姿态，保障飞行的安全。而由于夜晚海面飞行时没有月光，导致飞行驾驶员无法看清楚地平线和地面的灯光，无法通过目测的方式知道飞机的飞行姿态。在飞机理应向左偏转时，但机长凭感觉向右偏转，导致飞机倾斜角达到最大允许值后继续增大，最终飞机失去控制坠入海中。因此，预测飞行姿态可以有效解决在某些环境下飞行员空间迷失方向的问题，保障飞行安全。

增量学习是指从流数据中学习，这些数据随着时间不断输入，在吸收新知识的同时保留甚至整合、优化旧知识。增量学习是在持续的数据流中训练数据，新数据随着时间会越来越多，同时旧数据由于存储限制等原因逐渐不可用。当新的流数据输入到已经生成的模型中，不需要从头开始训练整个模型，通过增量方法迭代调整该模型，整合新知识的同时，保留旧知识的关键内容。

为了优化模型提升模型精度，研究提出基于注意力机制的增量式在线学习模型。针对时序数据预测问题，该模型将数据转换为流数据不断输入到模型中，当流数据不断输入时，利用CNN层进行卷积后提取重要特征，再使用BILSTM层进行特征学习，充分利用预测数据前后的时序信息。最后通过注意力机制层对关键数据维度进行权重的重新分配，从而更加充分利用数据得到精确预测结果。

在BILSTM层处理数据后，利用注意力机制将注意力机制（Attention）的第一次提出是在视觉图像领域中，注意力机制基于人类的视觉注意力，针对我们要检测目标的特征，通过对输入权重分配的关注从而实现注意力机制。该模型在BILSTM的基础上，在时间步长方面添加注意力机制，对输入权重分配关注，增强相关时间步长的关注点，计算输入各个时间点的权重，权重越高说明对输出的贡献就越大，计算公式如下：

；

；

；

式中：

表示BILSTM层前向后向子链的组合输出；h表示隐层状态；

表示注意力向量，为softmax层输出向量；

表示BILSTM层最后输出的特征图；

表示参数矩阵；

表示

向量的转置；

表示网络输出。

注意力机制层首先使用Permute层对输入矩阵转置维度，需要将数据步长和数据维度进行置换保证输入数据格式符合Dense格式。其次利用Dense层分别计算每个特征的权重。之后再次将多维特征的注意力权重取平均，保证每个维度的特征共享一个注意力。再次使用Permute转置维度保证输出维度符合BILSTM层输入。最后通过网络得到最后的输出。注意力机制层模型如图3所示。

基于注意力机制的增量式在线学习模型将数据文件通过流的方式作为模型的输入，将数据按照一定的频率逐步输入到模型中。随着流数据的不断输入，模型随之不断的优化达到实时的效果。该模型结构图如图4所示。

步骤4：将进行预处理后的飞行训练数据输入至飞行训练数据预测模型中，得到预测结果，并对预测结果进行可视化展示。

进一步的，还包括对所述飞行训练数据预测模型的精度进行评价，评价时采用均方差根和R平方：

；

式中：M表示数据集实例数量，

表示通过模型预测获得的数据，

表示真实数据。

；

式中：

表示真实数据的平均值。

R平方表示预测值，解释真实值的方差的最大比例，用来衡量预测值与真实值拟合的好坏程度；并使用matplotlib库对预测结果可视化分析。

通过上述过程构建模型后，对各目标特征进行预测研究。模型时间步长设为20，数据传输频率为每秒一次，当数据传输满足时间步长后模型开始运行。基于增量式在线学习的飞行训练预测模型对pitch和roll预测的部分实验结果真实值和预测值如图5和图6所示。为了验证基于增量式在线学习的飞行训练预测模型(I-CBA模型)在飞行姿态预测方面的优越性，将基于增量式在线学习的飞行训练预测模型，基于注意力机制的CNN-BILSTM模型(CBA模型)，LSTM模型对Pitch进行实验对比。部分实验数据对比如图7所示。通过上述实验，将各模型得到的预测值与实际值的平均误差进行对比 ，发现I-CBA模型的平均误差低CBA模型0.0299，远低于LSTM模型1.4452，且R2高于其他模型，RMSE低于其他模型，具有较好的预测准确性。同时，对Roll同样进行各模型预测对比，验证各模型的优劣性。部分实验数据对比如图8所示。同时，实验还针对飞行训练航迹进行了预测研究，目的是为了保障飞行训练安全，确保飞行训练能够按照正常流程进行，方便地面人员对飞行训练进行有效监督。提取了经度、纬度和高度数据进行航迹预测并进行实验对比。飞行训练航迹动态对比如图9所示。

本发明通过对飞行训练数据进行预测研究，在一定程度上对飞行训练事件的研究做出贡献。通过数据获取，数据处理，事件分析，模型构建，结果分析等流程，深入挖掘飞行训练数据，将有利于保障飞行训练安全。

以上所述实施例仅表达了本申请的具体实施方式，其描述较为具体和详细，但并不能因此而理解为对本申请保护范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请技术方案构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。

Claims (9)

1.一种基于增量式在线学习框架的飞行训练数据预测方法，其特征在于，包括以下步骤：

步骤1：实时获取飞行训练数据；

步骤2：对获取的飞行训练数据进行预处理；

步骤3：建立基于增量式在线学习框架的飞行训练数据预测模型；

步骤4：将进行预处理后的飞行训练数据输入至飞行训练数据预测模型中，得到预测结果。

2.根据权利要求1所述的一种基于增量式在线学习框架的飞行训练数据预测方法，其特征在于，所述预处理包括：数据清洗和特征工程处理；

数据清洗：删除无法使用的数据、部分缺失数据的填充；

特征工程处理：计算目标特征的皮尔逊相关系数。

3.根据权利要求2所述的一种基于增量式在线学习框架的飞行训练数据预测方法，其特征在于，所述无法使用的数据包括：飞机刚通电还未起飞的数据、飞行全程没有变化的数据以及飞机自身传感器问题导致的部分缺失不可用的数据。

4.根据权利要求2所述的一种基于增量式在线学习框架的飞行训练数据预测方法，其特征在于，所述部分缺失数据的填充采用随机森林方法进行填充，填充后利用皮尔逊相关系数筛选对目标特征影响最深的特征。

5.根据权利要求1所述的一种基于增量式在线学习框架的飞行训练数据预测方法，其特征在于，所述步骤3中基于神经网络构建所述飞行训练数据预测模型；

所述飞行训练数据预测模型包括CNN层、BILSTM层、注意力机制层以及增量式在线学习框架。

6.根据权利要求5所述的一种基于增量式在线学习框架的飞行训练数据预测方法，其特征在于，所述注意力机制层使用Permute层对输入矩阵转置维度，将数据步长和数据维度进行置换保证输入数据的格式符合Dense格式；

利用Dense层分别计算每个特征的权重，再将多维特征的注意力权重取平均值，保证每个维度的特征共享一个注意力；

使用Permute转置维度保证输出维度符合BILSTM层输入，将权重乘以输入最终实现注意力机制层。

7.根据权利要求5所述的一种基于增量式在线学习框架的飞行训练数据预测方法，其特征在于，所述注意力机制层的计算公式如下：

；

；

；

式中：

表示BILSTM层前向后向子链的组合输出；h表示隐层状态；

表示注意力向量，为softmax层输出向量；

表示BILSTM层最后输出的特征图；

表示参数矩阵；

表示

向量的转置；

表示网络输出。

8.根据权利要求1所述的一种基于增量式在线学习框架的飞行训练数据预测方法，其特征在于，所述步骤4中得到预测结果后，对预测结果进行可视化展示。

9.根据权利要求1所述的一种基于增量式在线学习框架的飞行训练数据预测方法，其特征在于，还包括对所述飞行训练数据预测模型的精度进行评价，评价时采用均方差根RMSE和R平方：

；

式中：M表示数据集实例数量，

表示通过模型预测获得的数据，

表示真实数据；

；

式中：

表示真实数据的平均值；

R平方表示预测值，解释真实值的方差的最大比例，用来衡量预测值与真实值拟合的好坏程度；并使用matplotlib库对预测结果可视化分析。

Images