CN106197424A - 遥测数据驱动的无人机飞行状态识别方法 - Google Patents

Abstract

本发明提供了一种遥测数据驱动的无人机飞行状态识别方法，本发明提出一种基于切比雪夫特征提取和随机森林分类算法(Chebyshev‑Random Forest Algorithm，C‑RF算法)的无人机状态识别方法。采用Chebyshev拟合法对无人机的遥测数据进行特征提取和降维，利用随机森林算法实现飞行状态的自适应分类。所提出方法将Chebyshev拟合系数计算简单、接近最佳拟合的优点与随机森林算法的训练速度快、分类准确率高和抗噪能力强等优点相结合，可覆盖无人机的各类样本且避免过拟合问题，实现了无人机飞行状态的有效识别。采用真实无人机飞行遥测数据进行验证，总体识别准确率高于90％，少类样本同样被准确识别，证明了所提出方法的有效性和实用性。

Description

遥测数据驱动的无人机飞行状态识别方法

技术领域

本发明涉及一种遥测数据驱动的无人机飞行状态识别方法，属于无人机飞行状态识别方法技术领域。

背景技术

无人机(Unmanned Aerial Vehicle，UAV)是一种可重复使用的无人驾驶飞行器，通常被无线电遥控设备控制或由机载的程序操纵实现飞行。飞行状态是对无人机飞行过程中不同飞行行为的抽象描述，可简化为几个标准状态，如爬升、平飞、盘旋、转弯和下降等。无人机的真实飞行过程就是由不同的飞行状态连续转换或组合构成的。通过对无人机飞行状态的识别，可以获得无人机真实的飞行状态变化，通过与预定航迹的比较可评估无人机在飞行过程中的任务完成情况，为多架次无人机实施任务时的快速分析和分配调度提供依据。同时，对无人机飞行状态的识别是对无人机运行情况分析必要的前期处理，是无人机维修和设计优化的辅助手段，具有重要的实用价值。但是无人机真实飞行环境较为复杂，并且接收到的测量数据常常在测量和传输过程中包含一定的噪声，缺乏包含飞行意图的准确信息，很难直接通过简单的阈值判断确定无人机的飞行状态。因此，在解决实际的无人机飞行状态识别问题时，需要对无人机的姿态数据、速度和航向等测量数据等进行预处理和智能分析——从大量遥测数据中提取出测量数据的主要特征，运用智能分类算法识别无人机飞行状态。目前，限于无人机的历史积累较少，对智能的无人机飞行状态识别方法的研究仍处于起步阶段。

无人机的遥测数据是由多个测量参数构成，且采样间隔短，其数据形式为多维时间序列。在每次飞行过程中，不同飞行状态持续时间不同，每个状态对应的数据样本数据量大，数据长度不统一，对后续的智能分析带来较大挑战。因此，需要对数据降低数据维度，提取隐藏在数据中的有效特征。最早的时间序列特征提取方法是离散傅里叶变换(DiscreteFourier Transform，DFT)，它将变换完成后的若干个傅里叶系数作为时间序列的特征。常见的时间序列特征提取方法还有：离散小波变换(Discrete Wavelet Transform，DWT)，其缺点是要求序列长度为2的整数次幂；奇异值分解(Singular Value Decomposition，SVD)，具有很强的剪裁能力，但计算成本高；逐段聚集平均(Piecewise AggregateApproximation，PAA)和自适应逐段常量近似(Adaptive PiecewiseConstantApproximation，APCA)，这两种方法具有计算速度快和易于检索等特点。此外，拟合系数常被用于特征提取的方法还有Landmarks相似性模型，该模型可有效改善其他方法保留局部信息能力有限，处理时间序列变形能力不足的问题；Chebyshev拟合算法，其与最佳拟合的minimax多项式近似程度很高，且拟合系数计算的成本较低，常被用于拟合无法计算的函数。

无人机状态识别的核心问题在于适用于无人机数据特性的智能识别算法，通过发现大量飞行数据样本中的潜在规律，通过数据分类实现对无人机飞行状态的识别。基于数据驱动的常见智能识别算法包括人工神经网络，支持向量机和决策树等。人工神经网络具有很强的学习能力和联想功能以及容错性能，但计算复杂度大，学习过程容易陷入局部最小。支持向量机算法具有全局最优性，泛化能力强，但由于使用二次规划确定支持向量，存储和计算成本高。决策树算法易于实现和理解，适用于知识发现，计算量小，但输出结果存在局部最优问题。这些方法虽然可以实现较高准确率的状态识别，但普遍存在局部最优和算法复杂度的问题，当数据量大或数据样本类型不平衡时，状态识别效果不理想。

Chebyshev拟合算法原理

Chebyshev多项式

Chebyshev多项式是正交多项式集，关于x的n次Chebyshev多项式{T_n(x)}被定义为：

T_n(x)＝cos(n cos^-1x) (1)

其中，x∈[-1，1]。

T_n(x)实际上是关于x的多项式，将定义与三角函数关系：

cos(nθ)+cos((n-2)θ)＝2cosθcos(n-1)θ (2)

式(1)和(2)相结合，可得出Chebyshev多项式的基本递推关系：

T_n(x)＝2xT_n-1(x)-T_n-2(x) (3)

其中n＝2，3，…。

其初始条件为T₀(x)＝1，T₁(x)＝x，由此可以递归地生成最初的几个Chebyshev多项式：

$\begin{array}{c}{T}_0\left(x\right)=1,\\ T_1\left(x\right)=x,\\ T_2\left(x\right)=2x^2-1,\\ T_3\left(x\right)=4x^3-3x,\\ T_4\left(x\right)=8x^4-8x^2+1,\\ \mathrm{...}\end{array}---\left(4\right)$

Chebyshev多项式拟合

Chebyshev多项式集合具有正交性，常被用来对计算复杂和无法计算的函数进行拟合。给定一个函数f(x)，它的n次拟合可以表示为：

$f\left(x\right)\≈\underset{i=0}{\overset{n}{\Σ}}{c}_i{T}_i\left(x\right)---\left(5\right)$

其中c_i——T_i(x)的Chebyshev系数。

对数据做Chebyshev拟合的关键在于Chebyshev系数的求解，本实施例采用最小二乘线性拟合方法实现求解，假设观测的一组数据且互不x₁,x₂，…，x_m∈[a，b]相同，采用Chebyshev多项式进行拟合。在x_i点的拟合残差V(x_i)如下式：

V(x_i)＝T(x_i)C-y_i (6)

其中，C＝[c₀ c₁ … c_n]^T为Chebyshev系数，y_i是x_i点处函数的值，T(x_i)＝[T₀(x_i)T₁(x_i) … T_n(x_i)]是Chebyshev基函数。

最小二乘方法拟合的关键在使拟合函数与观测值的残差平方和J最小，如下：

$\min J=\underset{i=1}{\overset{m}{\&Sigma;}}V{\left(x_i\right)}^2=<TC-Y,TC-Y>---\left(7\right)$

其中，J是c₀，c₁，…，c_n的n+1元函数。此时，Chebyshev拟合系数为使得多元函数J达到极小值的应满足如下关系：

δJ＝2<TC-Y，TδC>＝0 (8)

得到正规方程如下式：

T^TTC＝T^TY (9)

其中，Chebyshev基函数T和观测值Y均为已知，求解线性方程组即可获得Chebyshev拟合系数C。

随机森林算法原理

决策树算法原理

决策树是一种常用的分类算法，它从一组无规则的实例推理出树结构的分类规则。决策树算法采用自顶向下的递归方式，在决策树的内部节点进行属性值的比较，并根据不同属性判断该节点的向下分支，在决策树的叶节点得到结论。决策树的分类过程就是把训练集划分为越来越小的子集的过程，理想的结果是决策树的叶子节点的样本都有同类的标记。CART决策树(Classification and Regression Tree)就是具有递归生长过程的树算法。其节点选择准则是使节点的不纯度尽可能小，这里选用的多类别不纯度标准为Gini不纯度，也被称为方差不纯度，针对多类问题节点和子树的不纯度表达式如下：

$Gini\left(S_i\right)=1-\underset{k=1}{\overset{c}{\&Sigma;}}{p}_k^2---\left(10\right)$

${\mathrm{Gini}}_T\left(S\right)=\frac{\left|S_1\right|}{S}Gini\left(S_1\right)+\frac{\left|S_2\right|}{S}Gini\left(S_2\right)+...---\left(11\right)$

其中，S_i是第i个节点的样本集，|S_i|是第i个节点样本集的样本个数，pk是第k类样本在该节点出现频率,k＝1,2,…,c，c是全部样本类别数。

以不纯度为依据寻找最优分割属性，使树不断生长。但为了避免多度拟合，采用交叉验证技术和设置每一点最少样本数的阈值实现停止分支。即选择部分样本进行训练，然后用剩余样本作测试验证，直到对验证集的分类误差最小化或节点中样本数到达阈值为止。

随机森林算法原理

随机森林算法是由一系列的CART决策树组合而成的，并由多个决策树投票进行决策，其结构如图1所示。

对训练集的随机性策略如下：

(1)训练样本的选择：利用Bagging方法，重采样原训练样本；

(2)特征属性的选择：分裂属性是在子特征空间中选取的，其中子特征空间通过随机选取获得。

假设随机森林是由k棵CART决策树组成的，假设第i棵决策树的函数表示为

f_i(x,θ_i):X→Y (12)

其中，i＝1,2,…k，X是输入向量，θ是作用在训练样本中的独立同分布的随机向量。

所以随机森林可以表示为：

F＝{f₁,f₂,…,f_k} (13)

其中，k——随机森林的规模。

随机森林对样本数据进行分类，其核心思想为投票机制，形式化的表示如下式，随机森林就是选择投票最多的类别作为样本的最终类别。

$y^{*}=\underset{y\&Element;Y}{\arg \max }\underset{f\&Element;F}{\&Sigma;}I\left(f\right(x,\mathrm{\&theta;})=y)---\left(14\right)$

其中，I(·)——示性函数，它的取值范围是0和1，当括号中条件成立为1，反之为0；y^*——输出类别结果。

发明内容

本发明的目的是为了解决无人机飞行状态识别中样本数据量大，数据长度不统一和各类型样本分布不均匀的问题，进而提供一种遥测数据驱动的无人机飞行状态识别方法。

本发明的目的是通过以下技术方案实现的：

一种遥测数据驱动的无人机飞行状态识别方法，

步骤一：数据预处理及特征提取

无人机遥测数据的预处理包括以下三个部分：野值剔除，数据分段和遥测数据平滑滤波。

①野值剔除

原始的无人机遥测数据存在野值点和噪声，因此在进行无人机飞行状态识别之前，需要对数据进行预处理，去除野值，采用3σ原则处理数据的一阶差分，将野值剔除；

假设某次飞行中，参数x共记录了n个时刻的值{x₁,x₂,…,x_n}，首先计算该参数的一阶差分y，即y_i＝x_i+1-x_i，且i＝1,2,…n-1；计算一阶差分y的平均值和标准差σ，依据3σ原则将以外的数据点对应的原始数据删除。

②数据分段

无人机的各个飞行状态连续的记录在遥测数据中，为了实现对无人机不同飞行状态的识别，需要将数据根据飞行状态的不同进行分段。

根据无人机飞行前预设的导航点可以较为准确得划分出爬升，下降等飞行状态，而转弯，盘旋与平飞的划分则通过对橫偏差数据进行分析，利用数值方法对橫偏差求取一阶导数，判断橫偏差出现突变的点，从而确定从平飞到转弯与盘旋间的分界点；最后，利用遥测数据中的经度，维度和高度的三维图验证数据分段的准确性，并对不同飞行状态进行标定。此时每个样本均为特征维数(即列数)固定，而行数随样本的采样时间不同而变化的矩阵，如下式

其中，A_i是第i个遥测参数，i＝1,2,…,m；m是遥测参数的个数；t_j是第j个时间点，j＝1,2,…,n；n是该样本采样时间点的个数。

③遥测数据平滑滤波

无人机遥测数据包含在测量过程中引入的噪声，采用滑动平均方法实现对数据的平滑滤波，其核心思想是计算序列的多个顺序数值的滑动平均(Moving Average)，由此形成一个平均值的新序列，即序列中的每一点的数值均由其之后的序列均值代替，即：

$a_{ij}^{\&prime;}=\frac{1}{m}\underset{k=i}{\overset{i+m-1}{\&Sigma;}}{a}_{kj}---\left(2\right)$

原始样本中的每个点a_ij均被代替，此时高频噪声被滤除，数据的变化更为平滑；

对数据进行必要的预处理之后，每个数据样本转化为列数相同而行数不同的矩阵，此时采用Chebyshev拟合算法实现特征提取，将样本转化为统一的形式，用于后续分类算法的输入。

步骤二：Chebyshev拟合特征提取

分别对分段后的每一维时间序列{a₁,a₂,…,a_n}进行Chebyshev拟合，将其视为一组二维数据其中d_i为采样点时间点，用正整数数字序号{1,2,…，n}代替，将时间和参数变化趋势的关系进行拟合；假设：

$a_i\&ap;\underset{j=1}{\overset{k}{\&Sigma;}}{c}_j{T}_j\left(d_i\right)---\left(3\right)$

根据最小二乘原理，使拟合的残差平方和最小，即：

$\min J=\underset{i=1}{\overset{n}{\&Sigma;}}V{\left(x_i\right)}^2=<TC-A,TC-A>---\left(4\right)$

其中，C＝[c₀ c₁ … c_k]^T是Chebyshev系数，某维参数在n个点的真实遥测参数为A＝[a₁ a₂ … a_n]^T，Chebyshev基函数矩阵如下式：

由前述正规方程可知，当C为最小二乘估计的最优解时满足：

T^TTC＝T^TA (6)

求解正规方程获得最优的Chebyshev系数，选取前两个Chebyshev系数的商作为该参数的特征，如下：

$t=\frac{c_1}{c_0}---\left(7\right)$

由Chebyshev拟合的基函数特性可知，c₀可以表征数据变化的常数基准，c₁可以反映数据的变化速率，该商可以表征拟合所获得的主要信息；由此，对于各飞行状态样本中各个参数，仅需一个特征值即可代表该参数在此样本中的序列信息；因此，对一个m维的时间序列，假设第i个维度的特征值为t_i，仅需将各参数的特征值依次排列，即可构成该飞行状态样本的特征向量，每个飞行状态样本所需的存储空间大幅降低，并且可以被标准化成相同的形式，作为分类算法的输入，实现飞行状态的识别。

步骤三：随机森林分类器构建

采用随机森林算法，首先需要针对训练数据构建多个CART决策树，再综合多个CART决策树的分类结果，输出最终的飞行样本的状态类型。

此时，每个飞行状态样本x_i均可用一个特征向量表示，训练样本集为X＝{x₁,x₂,…,x_n}，样本的类别为Y＝{y₁,y₂,…,y_n}，n为样本个数，x_i代表第i个样本，为m个特征值构成的特征向量[t_i1 t_i2 … t_im]，样本对应的类别为y_i，而y_i～{1,2,…,o}，即共有o种飞行状态。

构建CART决策树的过程就是寻找最优的分割属性，递归得将数据划分为更小的子集，CART决策树的选择标准是寻找使划分后的子树Gini指数最低的属性，并计算该属性分割点的值；当该节点的分割属性确定时，原始节点被划分为两个子节点S₁和S₂；针对子节点S_i，其Gini指数表达式为：

$Gini\left(S_i\right)=1-\underset{k=1}{\overset{o}{\&Sigma;}}{p}_k^2---\left(8\right)$

即分别计算从类别1到类别o的样本在该节点的出现频率的平方和。当该节点中仅存在一种类别时，Gini指数的值为0，但当样本分布越均匀，Gini指数则更接近1，即该节点的不纯度变高。

此时，原始节点被划分为各子节点构成的一棵子树，子树的Gini指数为：

${\mathrm{Gini}}_T\left(S\right)=\frac{\left|S_1\right|}{S}Gini\left(S_1\right)+\frac{\left|S_2\right|}{S}Gini\left(S_2\right)---\left(9\right)$

通过最小化Gini指数获得最优分割属性，并自顶向下逐渐增加决策树的子节点，通常决策树生长的停止标准是该节点的样本数目达到某一阈值或者Gini指数达到最小值。然而，用于生成随机森林的CART树不需要考虑过拟合问题，应尽量使其自由生长，无需剪枝；此时，可获得在某一方面具有很强分类能力的分类器，这样在随机森林算法最终集成多个子分类器(即单一的CART决策树)时，才能更为全面得获得针对不同类别的分类能力。

随机森林算法的核心是集成多个具有随机性的CART决策树，其随机性体现在两个方面，训练集的随机性和构建分类器时所用特征属性的随机性，随机森林分类器构建流程如下：

(1)随机选择训练样本

对原有训练集进行重采样，原有训练集为X＝{x₁，x₂，…，x_n}，以相同的概率从原有训练集中随机抽取n个样本组成新的训练集，第1次重采样后的训练集为X₁＝{x₁₁，x₁₂，…，x_1n}，此后第i次重采样的训练集为X_i＝{x_i1，x_i2，…，x_in}，在重采样的训练集中可以重复出现原有训练集中的样本，每次重采样获得的新的训练集各不相同，使构建的子分类器具有一定的随机性。

(2)随机选取特征属性

为了使不同CART决策树间的差异性增大，在每次构建CART决策树时选取不同的特征属性作为决策树的分割属性，样本的原有特征向量为[t₁ t₂ … t_m]，共包含m个分类属性，在构建不同CART决策树时，则随机抽取其中p个不同的特征作为CART决策树可选择分类属性，此时样本的特征向量为[t₁ t₂ … t_p]，其中p≤m。

(3)构建CART决策树

选用第一步重采样获得的训练集和第二步随机选取的特征属性，构建单一的CART决策树f。其中，第i棵决策树的函数表示为：

f_i (x，θ_i):X_i→Y (10)

其中，X_i是输入向量，即重采样后获得的飞行状态样本训练集，θ是独立同分布的随机向量，该向量表征作用在数据集的特征空间，用于构建子特征空间的随机选择。

(4)循环实现第一步到第三步的操作

假设随机森林是由k棵CART决策树组成的，即将第一步到第三步的操作循环k次，构建k个不同的CART决策树，则随机森林可以表示为：

F＝{f₁，f₂，…，f_k} (11)

(5)集成CART决策树的分类结果

随机森林F由k个决策树组成，当输入一个飞行状态样本时，k个决策树会分别输出一个对应的飞行状态类型，随机森林算法的核心思想是将多个决策树的结果进行投票，最终获得投票数最多的类别，即为该飞行样本的状态类型，如下式：

$y^{*}=\underset{y\&Element;Y}{\arg \max }\underset{f\&Element;F}{\&Sigma;}I\left(f\right(x,\mathrm{\&theta;})=y)---\left(12\right)$

其中，I(·)是指示函数，当括号中条件成立时为1，反之为0，y^*是输出飞行状态的类型。

本发明提出的一种基于C-RF算法的无人机飞行状态识别方法，将多维时间序列分类方法用于解决无人机飞行状态识别问题，并采用真实无人机数据进行应用验证。首先对无人机遥测数据进行野值点剔除和分段降噪等预处理；其次，采用Chebyshev拟合中的Chebyshev系数作为各维度参数的特征值，用于构建样本的特征向量；最后，利用各样本的特征向量训练基于随机森林算法的无人机飞行状态分类器，发挥其随机性的优势，用于解决无人机飞行状态识别的问题。本发明提出的C-RF算法具有高于90％的状态识别准确率，并且对样本数目较少的类型的样本具有良好的识别能力。本发明所提出的无人机状态识别算法适应无人机遥测数据的数据量大、样本长度不统一、测量和传输过程中包含噪声不同类型样本分布不均匀等问题，将Chebyshev拟合方法计算简单，拟合效果好的特点与随机森林算法的随机性优势结合，使算法可以实现对无人机飞行状态的有效识别，并在实际应用验证中表现出良好的识别性能。

附图说明

图1为随机森林算法结构图。

图2为C-RF算法的框架图。

图3为特征参数个数与错误率关系对比图。

图4为决策树个数与错误率关系曲线图。

图5为CART算法与Random Forest算法结果对比图。

具体实施方式

下面将结合附图对本发明做进一步的详细说明：本实施例在以本发明技术方案为前提下进行实施，给出了详细的实施方式，但本发明的保护范围不限于下述实施例。

Chebyshev拟合算法和随机森林算法

基于Chebyshev特征提取-随机森林分类算法(C-RF算法)

目前在无人机飞行过程中，用于监测无人机飞行状态的主要依据是无人机传输至地面的遥测数据，是机上传感器测量及控制系统生成的时间序列数据。无人机在每次飞行过程中不同飞行状态持续时间不同，各个样本所对应的多维时间序列的长度也各不相同，分类器构建困难。其次，原始数据量大，有效信息隐藏在数据中，很难被直接应用。因此，需要对数据样本进行数据降维和特征提取，统一各样本的数据的表达形式，实现用更少的数据表征原始数据中的有效信息。通过特征提取将无人机不同飞行状态的样本标准化为相同的形式，再将其输入分类器，实现无人机飞行状态的识别。

在C-RF算法中，特征提取部分选用Chebyshev拟合方法，而分类识别部分采用随机森林算法。采用Chebyshev拟合的系数作为时间序列的特征，计算多维时间序列的局部特征，在各个维度中独立计算，然后将所获得的各维度的特征顺次排列起来构成特征向量，将多维问题转化为一维问题来解决。进而采用随机森林算法构成分类器，将多个单一的具有随机性的CART决策树集成为一个强分类器，实现无人机飞行状态的有效识别。

C-RF算法框架

C-RF算法的框架如图2。其中，Chebyshev拟合是最接近minmax最佳拟合的一种拟合算法，其拟合系数可以通过迭代计算获得，计算简单且拟合效果好。

因此，常被用于拟合复杂的难以计算的函数，也适用于变化规律复杂的无人机遥测数据，可实现对不同样本的数据降维和特征提取。随机森林算法的优势在于其随机性，用于构建CART决策树的训练数据和特征都是随机选取的，创建随机森林时实现对泛化误差的无偏估计，可以包容样本中的噪声和异常值，避免由于每次飞行条件不同引起的数据上的偏差影响最终的状态识别效果，同时创建随机森林的不同决策树由于其随机性，关注的样本不同，可以避免少类样本被忽略的问题，同时由于随机森林的随机性特性，避免了过拟合情况的出现。因此，C-RF算法可以适应无人机遥测数据的特性，并在实际应用中表现出良好的识别性能。

步骤一：数据预处理及特征提取

无人机遥测数据的预处理包括以下三个部分：野值剔除，数据分段和数据平滑滤波。

(1)野值剔除

原始的无人机遥测数据存在野值点和噪声，因此在进行无人机飞行状态识别之前，需要对数据进行适当的预处理，去除野值。本实施例采用3σ原则处理数据的一阶差分，将野值剔除。

假设某次飞行中，参数x共记录了n个时刻的值{x₁，x₂，…，x_n}，首先计算该参数的一阶差分y，即y_i＝x_i+1-x_i，且i＝1，2，…n-1。计算一阶差分y的平均值和标准差σ，依据3σ原则将以外的数据点对应的原始数据删除。

(2)数据分段

无人机的各个飞行状态连续的记录在遥测数据中，为了实现对无人机不同飞行状态的识别，需要将数据根据飞行状态的不同进行分段。

根据无人机飞行前预设的导航点可以较为准确得划分出爬升，下降等飞行状态，而转弯，盘旋与平飞的划分则通过对橫偏差数据进行分析，利用数值方法对橫偏差求取一阶导数，判断橫偏差出现突变的点，从而确定从平飞到转弯与盘旋间的分界点。最后，利用遥测数据中的经度，维度和高度的三维图验证数据分段的准确性，并对不同飞行状态进行标定。此时每个样本均为特征维数(即列数)固定，而行数随样本的采样时间不同而变化的矩阵，如下式

其中，A_i是第i个遥测参数，i＝1，2，…，m；m是遥测参数的个数；t_j是第j个时间点，j＝1，2，…，n；n是该样本采样时间点的个数。

(3)遥测数据平滑滤波

无人机遥测数据包含在测量过程中引入的噪声，本实施例采用滑动平均方法实现对数据的平滑滤波。其核心思想是计算序列的多个顺序数值的滑动平均(MovingAverage)，由此形成一个平均值的新序列，即序列中的每一点的数值均由其之后的序列均值代替，即：

$a_{ij}^{\&prime;}=\frac{1}{m}\underset{k=i}{\overset{i+m-1}{\&Sigma;}}{a}_{kj}---\left(2\right)$

原始样本中的每个点a_ij均被代替，此时高频噪声被滤除，数据的变化更为平滑。

对数据进行必要的预处理之后，每个数据样本转化为列数相同而行数不同的矩阵，此时采用Chebyshev拟合算法实现特征提取，将样本转化为统一的形式，用于后续分类算法的输入。

步骤二：Chebyshev拟合特征提取

分别对分段后的每一维时间序列{a₁，a₂,…,a_n}进行Chebyshev拟合，将其视为一组二维数据其中d_i为采样点时间点，用正整数数字序号{1,2,…，n}代替，将时间和参数变化趋势的关系进行拟合。假设：

$a_i\&ap;\underset{j=1}{\overset{k}{\&Sigma;}}{c}_j{T}_j\left(d_i\right)---\left(3\right)$

根据最小二乘原理，使拟合的残差平方和最小，即：

$\min J=\underset{i=1}{\overset{n}{\&Sigma;}}V{\left(d_i\right)}^2=<TC-A,TC-A>---\left(4\right)$

其中，C＝[c₀ c₁ … c_k]^T是Chebyshev系数，某维参数在n个点的真实遥测参数为A＝[a₁ a₂ … a_n]^T，Chebyshev基函数矩阵如下式：

由前述正规方程可知，当C为最小二乘估计的最优解时满足：

T^TTC＝T^TA (6)

求解正规方程获得最优的Chebyshev系数，选取前两个Chebyshev系数的商作为该参数的特征，如下：

$t=\frac{c_1}{c_0}---\left(7\right)$

由Chebyshev拟合的基函数特性可知，c₀可以表征数据变化的常数基准，c₁可以反映数据的变化速率，该商可以表征拟合所获得的主要信息。由此，对于各飞行状态样本中各个参数，仅需一个特征值即可代表该参数在此样本中的序列信息。因此，对一个m维的时间序列，假设第i个维度的特征值为t_i，我们仅需将各参数的特征值依次排列，即可构成该飞行状态样本的特征向量，每个飞行状态样本所需的存储空间大幅降低，并且可以被标准化成相同的形式，作为分类算法的输入，实现飞行状态的识别。

步骤三：随机森林分类器构建

采用随机森林算法，首先需要针对训练数据构建多个CART决策树，再综合多个CART决策树的分类结果，输出最终的飞行样本的状态类型。

此时，每个飞行状态样本x_i均可用一个特征向量表示，训练样本集为X＝{x₁,x₂,…,x_n}，样本的类别为Y＝{y₁,y₂,…,y_n}，n为样本个数，x_i代表第i个样本，为m个特征值构成的特征向量[t_i1 t_i2 … t_im]，样本对应的类别为y_i，而y_i～{1,2,…,o}，即共有o种飞行状态。

构建CART决策树的过程就是寻找最优的分割属性，递归得将数据划分为更小的子集，CART决策树的选择标准是寻找使划分后的子树Gini指数最低的属性，并计算该属性分割点的值。当该节点的分割属性确定时，原始节点被划分为两个子节点S₁和S₂。针对子节点S_i，其Gini指数表达式为：

$Gini\left(S_i\right)=1-\underset{k=1}{\overset{o}{\&Sigma;}}{p}_k^2---\left(8\right)$

即分别计算从类别1到类别o的样本在该节点的出现频率的平方和。当该节点中仅存在一种类别时，Gini指数的值为0，但当样本分布越均匀，Gini指数则更接近1，即该节点的不纯度变高。

此时，原始节点被划分为各子节点构成的一棵子树，子树的Gini指数为：

${\mathrm{Gini}}_T\left(S\right)=\frac{\left|S_1\right|}{S}Gini\left(S_1\right)+\frac{\left|S_2\right|}{S}Gini\left(S_2\right)---\left(9\right)$

通过最小化Gini指数获得最优分割属性，并自顶向下逐渐增加决策树的子节点，通常决策树生长的停止标准是该节点的样本数目达到某一阈值或者Gini指数达到最小值。然而，用于生成随机森林的CART树不需要考虑过拟合问题，应尽量使其自由生长，无需剪枝。此时，可获得在某一方面具有很强分类能力的分类器，这样在随机森林算法最终集成多个子分类器(即单一的CART决策树)时，才能更为全面得获得针对不同类别的分类能力。

随机森林算法的核心是集成多个具有随机性的CART决策树，其随机性体现在两个方面，训练集的随机性和构建分类器时所用特征属性的随机性。随机森林分类器构建流程如下：

(1)随机选择训练样本

对原有训练集进行重采样，原有训练集为X＝{x₁,x₂,…,x_n}，以相同的概率从原有训练集中随机抽取n个样本组成新的训练集，第1次重采样后的训练集为X₁＝{x₁₁，x₁₂，…，x_1n}，此后第i次重采样的训练集为X_i＝{x_i1，x_i2，…，x_in}，在重采样的训练集中可以重复出现原有训练集中的样本，每次重采样获得的新的训练集各不相同，使构建的子分类器具有一定的随机性；

(2)随机选取特征属性

为了使不同CART决策树间的差异性增大，在每次构建CART决策树时选取不同的特征属性作为决策树的分割属性，样本的原有特征向量为[t₁ t₂ … t_m]，共包含m个分类属性，在构建不同CART决策树时，则随机抽取其中p个不同的特征作为CART决策树可选择分类属性，此时样本的特征向量为[t₁ t₂ … t_p]，其中p≤m；

(3)构建CART决策树

选用第一步重采样获得的训练集和第二步随机选取的特征属性，构建单一的CART决策树f。其中，第i棵决策树的函数表示为：

f_i(x,θ_i):X_i→Y (10)

其中，X_i是输入向量，即重采样后获得的飞行状态样本训练集，θ是独立同分布的随机向量，该向量表征作用在数据集的特征空间，用于构建子特征空间的随机选择。

(4)循环实现第一步到第三步的操作

假设随机森林是由k棵CART决策树组成的，即将第一步到第三步的操作循环k次，构建k个不同的CART决策树，则随机森林可以表示为：

F＝{f₁，f₂，…,f_k} (11)

(5)集成CART决策树的分类结果

随机森林F由k个决策树组成，当输入一个飞行状态样本时，k个决策树会分别输出一个对应的飞行状态类型，随机森林算法的核心思想是将多个决策树的结果进行投票，最终获得投票数最多的类别，即为该飞行样本的状态类型，如下式：

$y^{*}=\underset{y\&Element;Y}{\arg \max }\underset{f\&Element;F}{\&Sigma;}I\left(f\right(x,\mathrm{\&theta;})=y)---\left(12\right)$

其中，I(·)是指示函数，当括号中条件成立时为1，反之为0，y^*是输出飞行状态的类型。

综上，C-RF算法的核心思想就是将多维时间序列形式的飞行数据进行分段降噪等预处理，划分为多个飞行状态样本，之后采用利用Chebyshev拟合算法进行特征提取，将时间不等长的飞行状态样本标准化为统一的特征向量，后将特征向量与样本类型输入随机森林算法，构建多个可识别飞行状态样本类别的CART决策树，最终多个单一CART决策树输出的分类结果进行投票，将获得票数最高的类型作为该样本的飞行状态类型，实现无人机飞行状态的离线识别。

实验验证与分析

一，实验数据描述

本实施例用于实验验证的数据集为实测无人机飞行数据，无人机飞行过程中其各个子系统，如组合导航系统和动力系统的参数都会被实时监控，并将遥测的数据传输至地面站。遥测数据包括时间、高度、速度、加速度、角度、状态字和控制信号等等。为保证对无人机进行及时有效的实时控制，遥测数据的采样间隔短，导致每次飞行过程后遥测数据量大，且存在一定的噪声。因此，对数据进行智能分析之前，适当的预处理是十分必要的。

为实现无人机飞行状态的有效识别，本实施例选用了与无人机自身姿态较为相关的八个参数进行分析，包括组合高度、组合升降速度、航向角、俯仰角、滚动角、东向速度、北向速度和天向速度。无人机飞行状态样本被抽象为五种类型：爬升，下降，转弯，盘旋和平飞。在对原始数据进行野值剔除，降噪和分段等预处理后，将飞行数据划分为204个飞行状态样本。为了验证分类算法的效果，将已有飞行状态样本按照80％和20％的比例随机划分为相互独立的训练集和测试集。训练集用于构建C-RF算法，而测试集用于验证算法的有效性。飞行样本数据集的划分结果及各类别数目如表1所示。

表1训练集和测试集划分表

二，实验结果分析

对训练集和测试集的样本采用3.2中的Chebyshev拟合算法进行特征提取，将每个时间长度不等的八维时间序列样本提取为包括八个元素的特征向量，用于后续的基于随机森林算法的飞行状态识别模型构建。

(1)C-RF算法实验结果及分析

为实现C-RF飞行状态识别算法，将特征提取后的数据用于随机森林算法的训练过程中，再用测试集数据验证模型的有效性。在随机森林算法构建飞行状态识别模型之前，需要确定模型中的两个参数，第一个是构建子特征空间时，随机抽取的特征参数的个数，第二个是随机森林模型中，用于集成的单一的CART决策树个数。

首先，固定其他参数，仅改变子特征空间所需的随机选取参数的个数，之后构建随机森林分类器，并计算其在训练集数据中的分类错误率。最后，选取在训练集分类错误率最低的参数个数，作为随机森林模型中子特征空间的参数个数。本实验中，随子特征空间参数变化，训练集的错误率变化结果如图3。由图3可知，子特征空间中参数个数为6时，在训练集的分类结果错误率最低，因此将随机森林模型中子特征空间的随机选取参数个数确定为6个。

第二个需要确定的参数是随机森林模型的规模，即其包含CART决策树的个数，第一步中将随机森林的子特征空间参数个数选择为6个，之后改变随机森林中决策树个数，观察训练集样本中5个类别的错误率变化，如图4。由图可知，起初分类错误率随决策树的增加快速下降，在到达一定数目后，错误率的变化幅度则非常小。虽然随机森林中决策树的个数增加可以降低分类的错误率，但是也会导致计算所占用的资源增多，比如存储空间增加，计算复杂度增加等。因此，综合考虑飞行状态识别的计算的复杂度和训练集错误率，将随机森林模型的规模确定为100个CART决策树。

在确定子特征空间的参数个数和随机森林模型的规模后，将随机森林算法应用于无人机状态识别问题，

在本实验中，训练集的包外数据(Out OfBag，OOB)的混淆矩阵如表1所示，OOB数据是指在每次训练单一CART决策树时，训练数据为从原始数据中采用自举法(BootstrapMethod)随机抽取三分之二的数据训练单一CART决策树，则其余三分之一的数据为此单一CART决策树的OOB样本。对于每个样本，计算它作为OOB样本的数对其分类情况，然后以多数投票作为该样本的OOB分类结果，对其进行统计得到训练集OOB混淆矩阵，可以此作为对真实测试集分类准确率的估计。

表1C-RF算法——训练集OOB混淆矩阵

利用训练集中的样本训练飞行状态识别模型，再利用测试集的样本验证模型的识别效果，此时针对训练集和测试集的分类结果如表3和表4所示。

表3C-RF算法——训练集混淆矩阵

表4C-RF算法——测试集混淆矩阵

由表3和表4可知，C-RF算法实现了训练集和测试集中飞行状态样本的有效识别，其中训练集准确率为100％，测试集的准确率则高于90％，达到92.50％。由混淆矩阵可知，C-RF算法对于特征比较相似的平飞和盘旋的区分能力较好，并未将具有类似特征的样本混淆，同时对于占总数较低的“盘旋”类别样本同样实现了有效识别。C-RF算法的识别性能已初步达到无人机对状态识别的要求。

(2)C-RF算法实验结果对比

将C-RF算法与将Chebyshev特征提取和CART决策树分类算法结合的算法(Chebyshev-CART Algorithm，C-CART算法)对比。其中，C-CART算法的状态识别结果如表5所示，两种算法在不同类别中准确率的对比如图5。

表5C-CART算法实验结果

如图5所示，5种类型的飞行状态样本中，C-RF的结果中有三种类别的分类准确率高于C-CART算法，尤其是样本数目较少的盘旋类别的飞行状态样本的分类准确率有比较明显的优势。同时，相比于C-CART算法，C-RF算法使平飞和转弯类型样本的混淆问题得到改善，测试集的识别准确率高于C-CART算法10％。

综上，在C-RF算法中，Chebyshev拟合方法可以解决不同样本间时间序列长度不统一的问题，将多维时间序列中的信息用特征向量进行表征，统一了输入到后续算法中的样本形式。随机森林算法则发挥其随机性的优势：第一，随机选择训练样本子集；第二，随机抽取特征子集；第三，所有的树模型都让其自由生长，不进行剪枝。随机森林的随机性处理，使得随机森林相比决策树而言，有很大改进，避免过度拟合。将多个在某一方面具有决策能力的决策树集成，形成一个强大的分类器，从而获得更好的状态识别效果。

本实施例提出基于切比雪夫特征提取和随机森林分类算法(Chebyshev-RandomForest Model，C-RF算法)的无人机飞行状态识别方法，利用Chebyshev拟合系数降低数据维度，提取遥测数据的局部特征，构建统一的样本特征向量；结合随机森林在训练样本的选择和特征子空间构建中的随机性，利用决策树的算法复杂度低和局部最优的特性，将多个具有随机性的决策树的输出结果集成，解决无人机飞行状态识别问题，提升总体准确率，缓解数据中少类样本对状态识别准确率的不良影响。

以上所述，仅为本发明较佳的具体实施方式，这些具体实施方式都是基于本发明整体构思下的不同实现方式，而且本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求书的保护范围为准。

Claims (1)

1.一种遥测数据驱动的无人机飞行状态识别方法，其特征在于以下步骤，

步骤一：数据预处理及特征提取

无人机遥测数据的预处理包括以下三个部分：野值剔除，数据分段和遥测数据平滑滤波；

①野值剔除

原始的无人机遥测数据存在野值点和噪声，因此在进行无人机飞行状态识别之前，需要对数据进行预处理，去除野值，采用3σ原则处理数据的一阶差分，将野值剔除；

假设某次飞行中，参数x共记录了n个时刻的值{x₁,x₂,…,x_n}，首先计算该参数的一阶差分y，即y_i＝x_i+1-x_i，且i＝1,2,…n-1；计算一阶差分y的平均值和标准差σ，依据3σ原则将以外的数据点对应的原始数据删除；

②数据分段

无人机的各个飞行状态连续的记录在遥测数据中，为了实现对无人机不同飞行状态的识别，需要将数据根据飞行状态的不同进行分段；

根据无人机飞行前预设的导航点可以较为准确得划分出爬升，下降等飞行状态，而转弯，盘旋与平飞的划分则通过对橫偏差数据进行分析，利用数值方法对橫偏差求取一阶导数，判断橫偏差出现突变的点，从而确定从平飞到转弯与盘旋间的分界点；最后，利用遥测数据中的经度，维度和高度的三维图验证数据分段的准确性，并对不同飞行状态进行标定，此时每个样本均为特征维数固定，而行数随样本的采样时间不同而变化的矩阵，如下式

其中，A_i是第i个遥测参数，i＝1,2,…,m；m是遥测参数的个数；t_j是第j个时间点，j＝1,2,…,n；n是该样本采样时间点的个数；

③遥测数据平滑滤波

无人机遥测数据包含在测量过程中引入的噪声，采用滑动平均方法实现对数据的平滑滤波，其核心思想是计算序列的多个顺序数值的滑动平均，由此形成一个平均值的新序列，即序列中的每一点的数值均由其之后的序列均值代替，即：

$a_{ij}^{\&prime;}=\frac{1}{m}\underset{k=i}{\overset{i+m-1}{\&Sigma;}}{a}_{kj}---\left(2\right)$

原始样本中的每个点a_ij均被a′_ij代替，此时高频噪声被滤除，数据的变化更为平滑；

对数据进行必要的预处理之后，每个数据样本转化为列数相同而行数不同的矩阵，此时采用Chebyshev拟合算法实现特征提取，将样本转化为统一的形式，用于后续分类算法的输入；

步骤二：Chebyshev拟合特征提取

分别对分段后的每一维时间序列{a₁,a₂,…,a_n}进行Chebyshev拟合，将其视为一组二维数据其中d_i为采样点时间点，用正整数数字序号{1,2,…，n}代替，将时间和参数变化趋势的关系进行拟合；假设：

$a_i\&ap;\underset{j=1}{\overset{k}{\&Sigma;}}{c}_j{T}_j\left(d_i\right)---\left(3\right)$

根据最小二乘原理，使拟合的残差平方和最小，即：

$\min J=\underset{i=1}{\overset{n}{\&Sigma;}}V{\left(d_i\right)}^2=<TC-A,TC-A>---\left(4\right)$

其中，C＝[c₀ c₁ … c_k]^T是Chebyshev系数，某维参数在n个点的真实遥测参数为A＝[a₁a₂ … a_n]^T，Chebyshev基函数矩阵如下式：

由前述正规方程可知，当C为最小二乘估计的最优解时满足：

T^TTC＝T^TA (6)

求解正规方程获得最优的Chebyshev系数，选取前两个Chebyshev系数的商作为该参数的特征，如下：

$t=\frac{c_1}{c_0}---\left(7\right)$

由Chebyshev拟合的基函数特性可知，c₀可以表征数据变化的常数基准，c₁可以反映数据的变化速率，该商可以表征拟合所获得的主要信息；由此，对于各飞行状态样本中各个参数，仅需一个特征值即可代表该参数在此样本中的序列信息；因此，对一个m维的时间序列，假设第i个维度的特征值为t_i，仅需将各参数的特征值依次排列，即可构成该飞行状态样本的特征向量，每个飞行状态样本所需的存储空间大幅降低，并且可以被标准化成相同的形式，作为分类算法的输入，实现飞行状态的识别；

步骤三：随机森林分类器构建

采用随机森林算法，首先需要针对训练数据构建多个CART决策树，再综合多个CART决策树的分类结果，输出最终的飞行样本的状态类型；

此时，每个飞行状态样本x_i均可用一个特征向量表示，训练样本集为X＝{x₁,x₂,…,x_n}，样本的类别为Y＝{y₁,y₂,…,y_n}，n为样本个数，x_i代表第i个样本，为m个特征值构成的特征向量[t_i1 t_i2 … t_im]，样本对应的类别为y_i，而y_i～｛1,2,…,o}，即共有o种飞行状态；

构建CART决策树的过程就是寻找最优的分割属性，递归得将数据划分为更小的子集，CART决策树的选择标准是寻找使划分后的子树Gini指数最低的属性，并计算该属性分割点的值；当该节点的分割属性确定时，原始节点被划分为两个子节点S₁和S₂；针对子节点S_i，其Gini指数表达式为：

$Gini\left(S_i\right)=1-\underset{k=1}{\overset{o}{\&Sigma;}}{p}_k^2---\left(8\right)$

即分别计算从类别1到类别o的样本在该节点的出现频率的平方和，当该节点中仅存在一种类别时，Gini指数的值为0，但当样本分布越均匀，Gini指数则更接近1，即该节点的不纯度变高；

此时，原始节点被划分为各子节点构成的一棵子树，子树的Gini指数为：

${\mathrm{Gini}}_T\left(S\right)=\frac{\left|S_1\right|}{S}Gini\left(S_1\right)+\frac{\left|S_2\right|}{S}Gini\left(S_2\right)---\left(9\right)$

通过最小化Gini指数获得最优分割属性，并自顶向下逐渐增加决策树的子节点，通常决策树生长的停止标准是该节点的样本数目达到某一阈值或者Gini指数达到最小值；然而，用于生成随机森林的CART树不需要考虑过拟合问题，应尽量使其自由生长，无需剪枝；此时，可获得在某一方面具有很强分类能力的分类器，这样在随机森林算法最终集成多个子分类器时，才能更为全面得获得针对不同类别的分类能力；

随机森林算法的核心是集成多个具有随机性的CART决策树，其随机性体现在两个方面，训练集的随机性和构建分类器时所用特征属性的随机性，随机森林分类器构建流程如下：

(1)随机选择训练样本

对原有训练集进行重采样，原有训练集为X＝{x₁,x₂,…,x_n}，以相同的概率从原有训练集中随机抽取n个样本组成新的训练集，第1次重采样后的训练集为X₁＝{x₁₁,x₁₂,…,x_1n}，此后第i次重采样的训练集为X_i＝{x_i1,x_i2,…,x_in}，在重采样的训练集中可以重复出现原有训练集中的样本，每次重采样获得的新的训练集各不相同，使构建的子分类器具有一定的随机性；

(2)随机选取特征属性

为了使不同CART决策树间的差异性增大，在每次构建CART决策树时选取不同的特征属性作为决策树的分割属性，样本的原有特征向量为[t₁ t₂ … t_m]，共包含m个分类属性，在构建不同CART决策树时，则随机抽取其中p个不同的特征作为CART决策树可选择分类属性，此时样本的特征向量为[t₁ t₂ … t_p]，其中p≤m；

(3)构建CART决策树

选用第一步重采样获得的训练集和第二步随机选取的特征属性，构建单一的CART决策树f，其中，第i棵决策树的函数表示为：

f_i(x,θ_i):X_i→Y (10)

其中，X_i是输入向量，即重采样后获得的飞行状态样本训练集，θ是独立同分布的随机向量，该向量表征作用在数据集的特征空间，用于构建子特征空间的随机选择；

(4)循环实现第一步到第三步的操作

假设随机森林是由k棵CART决策树组成的，即将第一步到第三步的操作循环k次，构建k个不同的CART决策树，则随机森林可以表示为：

F＝{f₁,f₂,…,f_k} (11)

(5)集成CART决策树的分类结果

随机森林F由k个决策树组成，当输入一个飞行状态样本时，k个决策树会分别输出一个对应的飞行状态类型，随机森林算法的核心思想是将多个决策树的结果进行投票，最终获得投票数最多的类别，即为该飞行样本的状态类型，如下式：

$y^{*}=\underset{y\&Element;Y}{\mathrm{argmax}}\underset{f\&Element;F}{\&Sigma;}I\left(f\right(x,\mathrm{\&theta;})=y)---\left(12\right)$

其中，I(·)是指示函数，当括号中条件成立时为1，反之为0，y^*是输出飞行状态的类型。