CN107944472A - 一种基于迁移学习的空域运行态势计算方法 - Google Patents

Abstract

本发明提供了一种基于迁移学习的空域运行态势计算方法。首先收集目标扇区及其它非目标扇区的空域运行态势样本，基于因子子集生成对训练样本集降维分解，使用降维的样本子集训练基分类器；在使用非目标扇区样本子集训练时，先进行核转换，使转换后的非目标扇区样本子集在保留态势计算知识的前提下，最小化与对应目标扇区样本子集的样本分布差异；科学集成所有基分类器，针对每条测试样本分别计算各基分类器的分类置信度，进而加权各基分类器输出得到最后分类结果。本发明实现了对目标空域有限样本中知识的充分挖掘，且对非目标空域的样本进行了有效知识迁移，降低了模型训练对于大样本的依赖性，在样本缺乏的情况下也能较好计算目标空域运行态势。

Description

一种基于迁移学习的空域运行态势计算方法

技术领域

本发明属于空域运行态势计算领域，具体涉及一种基于迁移学习的空域运行态势计算方法。

背景技术

随着民航运输业的快速发展，航班数量逐年增加，空域运行日益繁忙。空中交通管理系统所承载的航空管制需求逐年升高，管制员所面临的管制任务和压力急剧增多，造成管制员过度劳累，由此导致的“睡岗”，“跑道侵入”等事故症候时有发生。因此，为保证空管系统能够安全高效地运行，须保证管制员所面临的管制工作负荷在其可承受的范围之内。

在当前的空管系统中，扇区是管制运行的基本空域单元。航班从出发机场起飞，直到降落至目的机场，途中将穿越多个扇区，并实时接受所在扇区管制员的管制。为有效地对管制负荷进行管理，亟须研究准确计算扇区运行态势的方法。一方面，准确计算扇区运行态势有助于管制员及时发现高复杂性态势，从而有根据地实施开扇、流量控制等战术型运行调控措施降低态势复杂度，避免管制负荷超限；另一方面，准确计算扇区运行态势可用于指导空域划分、流量管理等战略型运行调控举措的科学实施，即通过科学调整扇区边界，飞行计划等主动策略来保证各扇区的交通运行复杂程度、管制员所承受的工作负荷不至于过高。因而，设计能够准确计算扇区运行态势的方法已成为空管领域研究的热点和亟需解决的问题。

由于扇区运行态势与扇区的数十种动静态属性因素(称为空域运行态势因子)相关联，因此许多学者使用机器学习方法来综合各态势因子，得到高层的总体态势指标，是现有普遍使用的方法。基于机器学习计算扇区运行态势依赖于样本学习。现有的此类扇区运行态势计算模型是基于充足的运行态势大样本进行学习来建立因子与态势之间的关联。但由于样本的采集成本较高，因此很多情况下仅有少量的目标计算扇区的样本可用，造成现有模型无法通过训练得到良好的性能。此外，现有方法未区别性地对目标扇区样本和其它非目标扇区的样本进行学习，而是将两种样本混杂在一起进行学习。由于非目标扇区的样本所包含的态势计算知识与目标扇区样本的知识存在偏差，不加以区别地学习可能会造成“负学习”等现象，导致态势计算模型性能下降。

发明内容

本发明的目的在于提供一种基于迁移学习的空域运行态势计算方法，在目标扇区的态势样本有限的情况，本发明建立了准确的扇区运行态势计算模型，弥补现有扇区运行态势计算模型无法有效利用其它非目标扇区样本进行训练的不足。

本发明提供的基于迁移学习的空域运行态势计算方法，具体包括以下步骤：

步骤一、获取目标扇区的空域运行态势样本(简称目标样本)集，其中的每条目标样本包含目标扇区在某一单位时间片内的m个空域运行态势因子的值，并且每条样本被标定有一个态势等级。m为正整数。

所述的空域运行态势因子，简称为因子，是指能够影响或反映空域运行态势的航班航迹分布、空域航路结构、空管运行规则等方面的属性因素，一般用连续或离散数值表示。

步骤二、基于目标扇区样本学习态势计算知识，包括：对m个空域运行态势因子进行关键性和独立性分析，生成T个因子子集；分别基于T个因子子集对目标样本进行降维，得到T个降维的目标样本子集，并分别基于各样本子集训练基分类器。T为正整数。

步骤三、收集可用的s个非目标扇区的空域运行态势样本(简称非目标样本)，非目标样本所包含的因子和态势等级的种类与目标样本相同，以扇区为单位组成非目标样本集，对各非目标样本集进行降维，对降维得到的各个样本子集分别使用核转换技术进行样本转换，再分别基于转换后的各样本子集训练基分类器。设基于非目标样本共训练出sT个基分类器。使用核转换技术进行样本转换，使得转换后的非目标样本子集在保留态势计算知识的前提下，最小化与对应目标样本子集的样本分布差异。

其中，对各非目标样本集进行降维的方法与对目标样本集进行降维的方法相同。

步骤四、对目标扇区待分类的测试样本，基于其最近邻目标样本计算由步骤2和3得到的各基分类器对其分类的置信度，基于分类置信度加权集成所有基分类器对于测试样本的分类输出，得到最终分类结果。

本发明的优点以及带来的有益效果在于：

(1)本发明一种基于迁移学习的空域运行态势计算方法，考虑到由于空域运行态势样本采集的高成本所带来的目标样本稀少问题，采用多因子子集来降维分解样本从而得到多个样本子集，继而基于这些样本子集训练多个基分类器，使得样本因子中所含态势计算信息被尽可能地提取，配合多基分类器训练的学习策略对目标样本进行深入挖掘，使得态势计算模型在目标样本有限的情况下仍能取得较好的计算性能。

(2)本发明一种基于迁移学习的空域运行态势计算方法，通过学习非目标样本的知识来提升针对目标样本的态势计算性能。考虑到非目标样本相对于目标样本具有样本分布和态势计算机理上的差异，本发明在基于非目标样本训练基分类器前先对其进行去差异的转换，采用样本核转换技术对非目标样本进行转换，来消除非目标样本相对于目标样本的差异，使得由非目标样本训练得到的基分类器在分类目标样本时有较高的置信度，由此对非目标样本中的空域运行态势计算知识进行合理充分的利用。

(3)本发明一种基于迁移学习的空域运行态势计算方法，基于测试样本分类置信度分析为各基分类器赋予合理权重，在此基础上科学集成所有基分类器；采用针对特定待分类样本的基分类器分类置信度评价来挑选符合集成条件的基分类器，有效滤除与目标扇区运行态势计算机理不契合的基分类器，大大降低出现“负迁移”的概率。

(4)本发明方法降低了模型训练对于大样本的依赖性，在遇到样本缺乏的情况下，通过综合挖掘目标扇区小样本和迁移学习可用的非目标样本，仍能建立性能较好的目标扇区运行态势计算模型。

附图说明

图1是本发明基于迁移学习的空域运行态势计算方法实施例的三模块框架示意图；

图2为本发明基于迁移学习的空域运行态势计算方法实施例的详细流程示意图。

具体实施方式

下面通过具体实施例并结合附图对本发明的技术方案做进一步的详细描述。

本发明中的基于迁移学习的空域运行态势确定方法，包含目标扇区小样本知识挖掘、非目标扇区样本迁移学习、科学集成目标与非目标扇区样本所生成基分类器三个功能模块，如图1所示：目标样本挖掘模块1、非目标样本学习模块2以及基分类器集成模块3。目标样本挖掘模块1用于目标样本知识的充分挖掘，非目标样本学习模块2用于解决目标样本分类问题而对非目标样本知识进行有效学习，基分类器集成模块3为科学集成基于目标样本和非目标样本训练得到的基分类器。其中，目标和非目标样本知识的学习均采用了多因子子集生成，多基分类器训练的学习框架；额外地，非目标样本知识的学习还使用了样本核转换技术对非目标样本进行转换，尽量消除非目标样本相对于目标样本的差异；科学集成目标和非目标基分类器是通过针对特定的待分类目标样本评价所有基分类器的分类置信度，由此剔除分类置信度过低的基分类器并确定各基分类器的权重，然后对他们进行加权集成。

如图2所示，为本发明提供的基于迁移学习的空域运行态势计算方法的流程图，具体包括如下步骤：

步骤一、将基于m个空域运行态势因子的取值对某一目标计算扇区的运行态势等级进行计算。采集目标扇区的运行态势样本集，每条样本中包括m个因子的值。m为正整数。

空域运行态势因子是指能够影响或反映空域运行态势的航班航迹分布、空域航路结构、空管运行规则等方面的属性因素，一般用连续或离散数值表示。示例因子如表1所示：

表1空域运行态势因子集

为找到目标扇区对应的因子与态势之间的关联，本发明基于实际空管运行数据采集一定数量的目标扇区的运行态势样本，一条样本包含着目标扇区在某一单位时间片的各因子取值，并让管制专家对各条样本对应的态势等级进行标定，设共有3种态势等级：低复杂度态势、中复杂度势态和高复杂度态势，分别简写为L、N和H，得到标定的目标样本集。

步骤二、对步骤一获取的目标样本集进行深入挖掘。

将基于目标样本集对这m个因子进行关键性分析和独立性分析，在该分析结果指导下生成多个因子子集，然后得到分别对应这些因子子集的目标样本子集，再分别基于各目标样本子集训练基分类器。该过程具体步骤如下：

步骤2.1，令目标样本集D^(tar)＝{X^(tar),Y^(tar)}，其中为目标扇区运行复杂性态势样本序列，序列中每一元素即单条态势样本，包含了目标扇区对应某一单位时间片的m个因子的取值。n_tar为序列长度，即样本条数；X^(tar)为m×n_tar矩阵。而为对应X^(tar)中各条样本的态势等级，Y^(tar)为n_tar维行向量，其中

首先基于D^(tar)计算各因子与态势等级的关联度，即因子关键度，用信噪比(SNR)来指示，其公式如下：

其中，SNR(ft)即某因子ft的SNR。μ_L(ft)，μ_N(ft)，μ_H(ft)分别指代分属L，N，H类的因子ft样本取值的均值，σ_L(ft)，σ_N(ft)，σ_H(ft)为相应的标准差。

另外，还需计算两两因子间的独立度，可用独立性系数(IC)来衡量，公式如下：

其中：IC_ft2/ft1表示因子ft2相对于因子ft1的独立性系数，IC_ft2/ft1与IC_ft1/ft2一般不相等。ft1_i(1≤i≤n_tar)为因子ft1的第i个样本取值；ft2_i(1≤i≤n_tar)为因子ft2的第i个样本取值。为因子ft2的所有样本的均值，ft2(ft1)为ft2相对于ft1的回归曲线，表达式为ft2(ft1)＝[1,ft1](B^TW_ft1B)^-1B^TW_ft1ft2，其中 W_ft1＝diag(w_ft1)，w_ft1为求解回归曲线ft2(ft1)时使用的各ft1_i(1≤i≤n_tar)权重的向量。

步骤2.2，从包含m个因子的因子池中无放回地抽取k轮，k<m，从而得到一个包含k个因子的因子子集FSS。每轮抽取一个因子都是在因子关键度和独立度指导下的，即每轮抽取中，候选因子fti被抽取到的概率正比于SNR(fti)·min_ftj∈FSS IC_fti/ftj，其中，fti为可能被抽取到FSS的某一候选因子，ftj为因子子集FSS中某一已有因子。min_ftj∈FSS IC_fti/ftj指在遍历因子子集FSS中已有因子ftj时所能取到的最小值。这种因子子集生成过程将重复T次，从而得到T个因子子集。每个因子子集中均包含k个因子。

步骤2.3，分别根据T个因子子集为X^(tar)进行降维，与Y^(tar)搭配形成T个降维的目标样本子集其中为k×n_tar矩阵。

步骤2.4，分别基于训练多个基分类器。

步骤三、为迁移非目标计算扇区的可用样本的知识用于计算目标扇区的运行态势，对可用的非目标样本进行有效学习：对可用的非目标样本以扇区为单位组成非目标样本集，分别对各非目标样本集依照步骤2.1-2.3进行处理，得到多个降维的非目标样本子集。对各非目标样本子集使用核转换技术进行样本转换，再分别基于各转换后的样本子集训练基分类器。该过程具体步骤如下：

步骤3.1，设共有s个非目标扇区的样本集可用。对所有非目标样本以扇区为单位进行分割，得到s个非目标样本集。对各非目标样本集根据步骤2.1-2.3进行处理，得到sT个降维的非目标样本子集。s为正整数。所生成的各个非目标样本子集中，各条样本均包含k个因子。

步骤3.2，分别对各非目标样本子集进行样本核转换，使得转换后的非目标样本子集在保留态势计算知识的前提下，最小化其与对应目标样本子集的样本分布差异。样本核转换过程如下：

设D^(ntdr)＝{X^(ntdr),Y^(nt)}为某一非目标样本子集；

其中，包含n_nt条k维的非目标样本序列，即X^(ntdr)为k×n_nt矩阵；包含一一对应于X^(ntdr)中各条样本的态势等级即Y^(nt)为n_nt维行向量。

根据D^(ntdr)中X^(ntdr)的降维方式，对D^(tar)中X^(tar)也进行相同降维，得到相应的降维目标样本子集D^(tardr)＝{X^(tardr),Y^(tar)}，其中X^(tardr)为k×n_tar矩阵。令X＝[X^(tardr),X^(ntdr)]，则X为k×n矩阵，n＝n_tar+n_nt；令Y＝[Y^(tar),Y^(nt)]，则Y为n维行向量。

样本核转换的第一步，将X中各元素x_i(1≤i≤n)基于某核函数g映射至一个再生核希尔伯特空间中，得到其被映射的元素g(x_i,·)，该元素可被视为一无限维列向量。由此，X转换为g(X,·)＝[g(x₁,·),g(x₂,·),…,g(x_n,·)]。

接着，再对g(X,·)基于转换矩阵V＝g(X,·)W再进行一次样本转换，得到新的转换样本子集V^Tg(X,·)＝W^TK。其中K＝g(X,·)^Tg(X,·)为X的核矩阵，该矩阵取值仅与X的取值和选用的核函数g(·,·)相关。本发明中选用高斯核函数，即其中，σ为带宽参数，需要在应用中调节。由此，为求出合适的转换样本集W^TK，仅需求出优化的W即可。W为m_W×n矩阵，其中m_W＜＜n，用来控制转换后样本子集的维度。注意：在X两次转换后得到的W^TK中，转换后的X^(ntdr)为W^TK的后n_nt列，W^TK前n_tar列为转换X^(tardr)得到的转换目标样本子集。

设定W的优化问题如下：

其中，tr(·)表示求取矩阵的迹。

其中， 如下：

分别为D^(tardr)和D^(ntdr)中属于第c类的样本条数，y_i为Y中第i个元素。μ为需要在应用中调节的比例参数。

在约束式中，I_n为n阶单位方阵，1为所有元素全是1的n维列向量，L＝l(Y,·)^Tl(Y,·)为Y基于一个核函数l的核矩阵，γ为需要在应用中调节的比例参数。

tr(W^TKΩKW)衡量的是转换后D^(ntdr)与D^(tar)中三类样本中心距离平方和，tr(W^TW)衡量的是W的复杂程度，衡量的是转换后样本W^TK与Y的关联度与W^TK中各维度方差之和，即该项指示样本中扇区运行态势计算知识的保留程度。上面W最优解为矩阵中对应最大m_W个特征值的特征向量所组成的矩阵。

对各非目标样本子集都分别按照上述操作进行处理，由此得到sT个转换的非目标样本子集。

步骤3.3基于各非目标样本子集训练出sT个基分类器。

通过步骤三，大大降低非目标扇区的样本所包含的态势计算知识与目标扇区样本的知识存在的偏差，使得由非目标样本训练得到的基分类器在分类目标样本时有较高的置信度。

步骤四、科学集成目标和非目标基分类器。

分别针对测试集X^(tst)中各条测试样本n_tst为测试样本的总数，基于其最近邻目标样本分析各基分类器对于的分类置信度，基于分类置信度加权集成所有基分类器对于的分类输出，从而得到的最终分类结果。具体过程如下：

步骤4.1，分别针对各计算各基分类器对其的分类置信度。设某基分类器为be_j，将和D^(tar)映射至基分类器be_j对应训练集所在的样本空间中，然后在该样本空间中寻找D^(tar)中与离得最近的n_tarnear条样本。将基分类器be_j对于这n_tarnear条样本的分类正确率作为该基分类器be_j对于的分类投票权重，也就是be_j对测试样本分类的置信度。n_tarnear为设置的正整数。

步骤4.2，设置阈值θ，弃用权重低于阈值θ的基分类器，对剩下的基分类器对于的分类结果进行加权集成，得到的最终分类结果。阈值θ需在应用中进行调节。

本发明提供了一种基于迁移学习的空域运行态势计算方法，通过包含目标样本挖掘、非目标样本学习、目标非目标基分类器集成三个步骤的框架来合理利用所有可用的样本来对目标扇区运行态势计算知识进行学习；采用在因子关键性独立性分析指导下生成多因子子集，训练多基分类器的策略提升对样本知识的学习效率；采用样本核变换降低非目标样本相对于目标样本间的差异，从而提升非目标基分类器的迁移性，使其更加适用于目标扇区态势计算；基于分类置信度分析加权集成所有基分类器，实现非目标样本态势计算知识的有效迁移，并与目标样本知识科学融合，得到准确的最终态势计算结果。

本发明实现了当目标样本不充足情况下对目标和非目标样本的深入有效利用，从而建立准确的空域运行态势计算模型，对于保证空管系统运行安全性，提升空管系统运行效率和调控手段实施的精度具有较大意义。

最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。

Claims (5)

1.一种基于迁移学习的空域运行态势计算方法，其特征在于，包括如下步骤：

步骤1，获取目标扇区的空域运行态势样本集，其中的每条目标样本包含目标扇区在某一单位时间片内的m个空域运行态势因子的值，并且每条样本被标定有一个态势等级；m为正整数；

步骤2，基于目标扇区的样本集学习态势计算知识，包括：(1)对目标样本集进行降维：对m个空域运行态势因子进行关键性和独立性分析，生成T个因子子集；根据T个因子子集将目标样本集降维，获得T个目标样本子集；(2)利用各样本子集训练基分类器；

步骤3，收集可用的s个非目标扇区的空域运行态势样本，简称非目标样本，非目标样本所包含的因子和态势等级的种类与目标样本相同，以扇区为单位组成非目标样本集，对各非目标样本集进行降维，对降维得到的各个样本子集分别使用核转换技术进行样本转换，再分别基于转换后的各样本子集训练基分类器，设基于非目标样本共得到sT个基分类器；使用核转换技术进行样本转换，使得转换后的非目标样本子集在保留态势计算知识的前提下，最小化与对应目标样本子集的样本分布差异；

对各非目标样本集进行降维的方法与对目标样本集进行降维的方法相同；

步骤4，对目标扇区待分类的测试样本，基于其最近邻目标样本计算由步骤2和3得到的各基分类器对其分类的置信度，基于分类置信度加权集成所有基分类器对于测试样本的分类输出，得到最终分类结果。

2.根据权利要求1所述的方法，其特征在于，所述的步骤2，在对样本集进行降维时，首先基于样本集计算各因子与态势等级的关联度，得到各因子的关键度，再计算两两因子间的独立度，得到因子间的独立性系数；然后，从m个因子中无放回地抽取k轮，k<m，得到一个包含k个因子的因子子集FSS，每轮中因子fti被抽取到的概率为SNR(fti)·min_{ftj∈ FSS}IC_fti/ftj，其中，ftj为因子子集FSS中已有因子，SNR(fti)为候选因子fti的关键度，IC_fti/ftj为fti相对于ftj的独立性系数；重复因子子集生成过程T次，生成T个因子子集。

3.根据权利要求1所述的方法，其特征在于，所述的步骤3，对非目标样本子集使用核转换的方法，具体是：

首先，依据非目标样本子集中因子对目标样本集D^(tar)进行降维；设非目标样本子集为D^(ntdr)＝{X^(ntdr),Y^(nt)}；X^(ntdr)为k×n_nt矩阵，包含n_nt条k维的非目标样本，k为因子数目，Y^(nt)为n_nt维行向量，包含X^(ntdr)中各条样本对应的态势等级；根据X^(ntdr)的降维方式对D^(tar)降维，得到目标样本子集D^(tardr)＝{X^(tardr),Y^(tar)}，矩阵X^(tardr)为k×n_tar矩阵，包含n_tar条k维的目标样本，Y^(tar)为n_tar维行向量，包含X^(tardr)中各条样本对应的态势等级；令X＝[X^(tardr),X^(ntdr)]，Y＝[Y^(tar),Y^(nt)]，则X为k×n矩阵，n＝n_tar+n_nt；

其次，将X中各元素x_i(1≤i≤n)基于核函数g映射至一个再生核希尔伯特空间中，得到被映射的元素g(x_i,·)，于是X转换为g(X,·)＝[g(x₁,·),g(x₂,·),…,g(x_n,·)]；

接着，再对g(X,·)基于转换矩阵V＝g(X,·)W再进行一次样本转换，得到新的转换样本子集V^Tg(X,·)＝W^TK；其中，K＝g(X,·)^Tg(X,·)为X的核矩阵，该矩阵取值仅与X的取值和选用的核函数g相关；设W为m_W×n矩阵，其中m_W＜＜n，用来控制转换后样本子集的维度；为求出合适的转换样本集W^TK，仅需求出优化的W即可；

最后，设定W的优化问题，如下：

<mrow> <munder> <mrow> <mi>m</mi> <mi>i</mi> <mi>n</mi> </mrow> <mi>W</mi> </munder> <mi>t</mi> <mi>r</mi> <mrow> <mo>(</mo> <msup> <mi>W</mi> <mi>T</mi> </msup> <mi>K</mi> <mi>&amp;Omega;</mi> <mi>K</mi> <mi>W</mi> <mo>)</mo> </mrow> <mo>+</mo> <mi>&amp;mu;</mi> <mi>t</mi> <mi>r</mi> <mrow> <mo>(</mo> <msup> <mi>W</mi> <mi>T</mi> </msup> <mi>W</mi> <mo>)</mo> </mrow> </mrow>

其中，tr(.)表示求取矩阵的迹；Ω＝∑_c∈yΩ_c，y为态势等级的集合，如下：

分别为D^(tardr)和D^(ntdr)中属于第c类的样本条数，y_i为Y中第i个元素；μ为需要在应用中调节的比例参数；

I_n为n阶单位方阵，1为元素全是1的n维列向量，矩阵L为Y基于核函数l的核矩阵，γ为需要在应用中调节的比例参数；

W的最优解为矩阵中对应最大m_W个特征值的特征向量所组成的矩阵。

4.根据权利要求1所述的方法，其特征在于，所述的步骤4中，计算各基分类器对测试样本分类的置信度，具体是：

设测试样本为x^(tst)，某基分类器为be_j，首先将x^(tst)和目标样本集D^(tar)映射至be_j对应训练集所在的样本空间中，然后在该样本空中间找到D^(tar)中离x^(tst)最近的n_tarnear条样本，将be_j对于这n_tarnear条样本的分类正确率作为be_j对测试样本x^(tst)分类的置信度；n_tarnear为设置的正整数。

5.根据权利要求1或4所述的方法，其特征在于，所述的步骤4中，设置阈值θ，弃用置信度低于阈值θ的基分类器，对所有保留下来的基分类器对于测试样本的分类输出进行加权集成，得到最终分类结果。