CN115310677A - 一种基于二进制编码表示与多分类的航迹预测方法及装置 - Google Patents

Abstract

本发明涉及空中交通管理领域，具体涉及一种基于二进制编码表示与多分类的航迹预测方法及装置。本发明基于深度神经网络，将二进制编码表示作为特征转换与提取的关键工具，对历史航迹点信息进行编码后，利用注意力机制提取相同维度上位置与速度之间的上下文信息，再进行时序建模，并使用多个二分类判别得到预测航迹点的二进制编码表示，经解码后得到预测航迹点的各个属性值。本发明将传统的基于时序数据的回归问题转化为多个二分类问题，避免了数据标准化带来的误差，提升了预测精确度，即便在多步预测中，也能够取得较好的效果。

Description

一种基于二进制编码表示与多分类的航迹预测方法及装置

技术领域

本发明涉及空中交通管理领域，特别是一种基于二进制编码表示与多分类的航迹预测方法及装置。

背景技术

在空中交通控制领域，航迹预测作为一项关键技术，辅助完成诸如空中交通流量预测，冲突检测等任务。精确的航迹预测将大大提高空中交通管制员在实时空域管理中的工作效率，进一步确保航空器的安全。但传统的数据驱动型预测方法将航迹预测问题定义为基于时序数据的回归问题，而描述航迹点的各项属性因其刻度差异会限制这些方法提取航空器轨迹模式的能力，例如，经纬度使用度数作为度量单位，而海拔则使用米作为度量单位。此外，空中交通管制员在实时空域管理中的决策一定程度上依赖于精确的航迹多步预测，而基于回归的方法因为受到标准化等影响，使得多步预测存在较大的累积误差，从而限制了实用价值。

发明内容

本发明的目的在于：针对现有技术存在的预测精度不够、在多步预测中的效果不佳的问题，提供一种基于二进制编码表示与多分类的航迹预测方法及装置，利用注意力机制提取相同维度上位置与速度特征之间的上下文信息，并将航迹预测任务从传统的回归问题转化为多个二分类问题，提升了预测精度，并在多步预测中取得较好的效果，具有较强的现实意义和良好应用前景。

为了实现上述目的，本发明采用的技术方案为：

一种基于二进制编码表示与多分类的航迹预测方法，包括以下步骤：

S1：从ATC系统获取原始的航迹数据，对其进行解码后提取关键信息，对关键信息进行数据预处理，构建数据集，包括训练集、验证集和测试集；

S2：构建航迹预测模型，包括二进制编码模块、预测模块以及二进制解码模块；二进制编码模块根据数据集的各属性的预测精度要求和数据范围确定各属性的编码长度，对各属性进行二进制编码；

S3：训练航迹预测模型，使用预设的联合损失函数和训练集训练航迹预测模型，使用验证集测试该模型得到测试结果，根据测试结果对超参数进行微调，得到训练完备的航迹预测模型；

S4：使用测试集对训练完备的航迹预测模型进行测试，并根据评价指标评估训练完备的航迹预测模型；

S5：从ADS-B系统采集实时航迹数据，经解码后输入训练完备的航迹预测模型，得到航迹预测结果。

作为本发明的优选方案，一种基于二进制编码表示与多分类的航迹预测方法，步骤S1中，关键信息包括每个航迹点的背景信息和时空信息，其中，背景信息包括航班号、航迹号；时空信息包括时间戳、经度、纬度、海拔、经度方向速度、纬度方向速度、垂直方向速度；

数据预处理包括：对于时空信息有缺失值的航迹片段，若缺失值数目少，则使用三次样条插值补全该航迹片段，若缺失值数目多则抛弃该航迹片段。

作为本发明的优选方案，一种基于二进制编码表示与多分类的航迹预测方法，步骤S1中，数据集的构建包括：

S11，设使用n-1个经预处理后的航迹数据进行预测，利用窗口大小为n的滑动窗口以1个航迹点为步长，截取航迹数据作为一个数据对，该数据对由前n-1个航迹点的观测值和最后1个航迹点的目标值构成；

S12，从所有的数据对中，以8:1:1的比例将其划分为训练集、验证集和测试集。

作为本发明的优选方案，一种基于二进制编码表示与多分类的航迹预测方法，步骤S2中，二进制编码过程为将每个标量映射为元素只由0和1构成高维二进制编码向量，具体包括：

S221，对于浮点型属性，根据精度要求保留小数位数m，并乘以10^m，将浮点型属性转化为整型属性x，其数据范围为x_min≤x≤x_max，则整型属性x的编码长度n满足以下公式：

S222，判断整型属性是否为符号整型属性：若为符号整型属性，则n₀＝1，进入步骤S223；若为无符号整型属性，否则n₀＝0，进入步骤S224；

S223，符号整型属性的二进制编码向量中高一位为符号位，其余位为数值位，当该属性为负数时，符号位置1，否则置0，去除该属性符号并转化为二进制，把二进制值按位、居右填充到数值位中，数值位中剩余部分置0；

S224，无符号整型属性的二进制编码向量所有位均为数值位，将该属性转化为二进制，把二进制值按位、居右填充到数值位中，数值位中剩余部分置0。

作为本发明的优选方案，一种基于二进制编码表示与多分类的航迹预测方法，步骤S2中，预测模块用于通过构建的航迹嵌入模块对二进制编码向量进行属性特征提取；通过构建的相关属性注意力模块提取相关属性特征之间的相关性；利用Transformer进行时序建模，提取预测未来的隐含信息；通过构建的分类模块将隐含信息翻译为各个属性的二进制编码向量。

作为本发明的优选方案，一种基于二进制编码表示与多分类的航迹预测方法，航迹嵌入模块包括六个独立的全连接层，各个全连接层分别将航迹点的经度、纬度、海拔、经度方向速度、纬度方向速度和垂直方向速度的二进制编码投射到维数相同的高维空间；

航迹嵌入模块通过线性变换提取属性特征的隐含信息，航迹点的属性特征包括经度、纬度、海拔、经度方向速度、纬度方向速度和垂直方向速度。

作为本发明的优选方案，一种基于二进制编码表示与多分类的航迹预测方法，通过相关属性注意力模块提取相关属性特征之间的相关性，包括经度与经度方向速度相关联、纬度与纬度方向速度相关联、海拔和垂直方向速度相关联，注意力计算方法为：

令

为相关属性特征a_k和a_j在航迹嵌入模块的输出，那么a_k和a_j在相关属性注意力模块的输出为

满足以下公式：

其中，

和

为

的线性变换，

和

为

的线性变换，d_k为向量维数，concat(x,y)为级联层，将两个向量进行级联得到[x,y]。

作为本发明的优选方案，一种基于二进制编码表示与多分类的航迹预测方法，分类模块包括一个全连接层和一个激活层：

S241，全连接层将从Transformer提取的隐含信息转化为预测向量，预测向量的维数等于各个属性二进制编码向量的位数之和；

S242，使用Sigmoid激活函数，将预测向量的值映射到0到1之间得到概率向量；

S243，对概率向量进行二分类判别，设置阈值为0.5，小于或者等于该阈值的概率向量属于类别0，否则属于类别1，将各概率向量的类别组成二进制向量，根据各个属性的编码长度将二进制向量划分为不同属性的二进制编码向量。

作为本发明的优选方案，一种基于二进制编码表示与多分类的航迹预测方法，联合损失函数L由两个部分构成，分别是基于分类的交叉熵损失L_BCE和基于回归的均方误差损失L_MSE，联合损失函数L的计算公式如下：

其中，N是一个batch的样本数，K＝6是属性个数，

和

分别为属性a_k的真实值和预测值，

和

分别为属性a_k的真实值和预测值的二进制编码向量，M为二进制编码向量的位数。

一种基于二进制编码表示与多分类的航迹预测装置，包括至少一个处理器和一个存储器；存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行上述任一项方法。

综上所述，由于采用了上述技术方案，本发明的有益效果是：

1、本发明利用二进制编码提取高维特征的方法适用度高，可以应用到其他模型中。

2、本发明基于深度神经网络，对历史航迹数据进行时序建模，并使用二进制编码作为特征提取的关键工具，将基于时序数据的回归问题转化为多个二分类问题，提升了航迹预测的精确度，即便在多步预测中，也能实现较佳效果。

3、本发明建立了一种航迹数据中对应位置信息和速度信息之间的注意力机制，进一步提高航迹预测精度。

附图说明

图1是本发明基于二进制编码表示与多分类的航迹预测方法的流程示意图；

图2是本发明基于二进制编码表示与多分类的航迹预测方法中航迹预测模型的结构图；

图3是本发明基于二进制编码表示与多分类的航迹预测方法中二进制编码过程的示意图；

图4是本发明基于二进制编码表示与多分类的航迹预测方法中相关属性注意力模块的流程示意图；

图5是本发明基于二进制编码表示与多分类的航迹预测方法中Transformer的结构图；

图6是本发明基于二进制编码表示与多分类的航迹预测装置的结构图。

具体实施方式

下面结合附图，对本发明作详细的说明。

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。

实施例1

如图1所示一种基于二进制编码表示与多分类的航迹预测方法的流程示意图，具体步骤如下：

S1：从ATC系统获取原始的航迹数据，对其进行解码后提取关键信息，对关键信息进行数据预处理，构建数据集，包括训练集、验证集和测试集；

具体的，从ATC系统里采集到原始的航迹数据，为了得到明文信息，需要先将原始航迹数据解码，然后剔除诸如告警数据等与飞行器航迹无关的数据，提取出航线轨迹的关键信息；每个航班航线轨迹的关键信息被组织为一个TXT文本文件，包括每个航迹点的背景信息和时空信息，背景信息包括航班号、航迹号；时空信息需要覆盖飞行器各种运动趋势，包括爬升、下降、转弯、保持，因此，时空信息包括时间戳、经度、纬度、海拔、经度方向速度、纬度方向速度、垂直方向速度，经纬度的单位为度，海拔的单位为米，三个速度的单位均为千米每小时。

进一步的，读入TXT文本文件中的时空信息，对时空信息中除时间戳以外的数据进行数据预处理，根据记录航迹点的时间间隔，确保时空信息在时间维度上是等间隔的，因此，对于时空信息有缺失值的航迹片段，若缺少值的数目较小，则使用三次样条插值进行补全，若缺失值的数目过多，则抛弃该航迹片段。

本实验中，经过预处理，共有144605条航线数据，使用这些数据构建数据集，包括以下步骤：

S11：划分数据对，本实验使用9个历史航迹数据进行预测，则使用窗口大小为10的滑动窗口以1个航迹点为步长，从航迹片段上不断截取数据，截取到的数据作为一个数据对，该数据对由前9个航迹点的观测值和最后1个航迹点的目标值构成；

S12，划分数据集，从所有数据对中，以8:1:1的比例,将其划分为训练集、验证集和测试集。

S2：构建航迹预测模型，包括二进制编码模块、预测模块以及二进制解码模块；

具体的，如图2所示的一种基于二进制编码表示与多分类的航迹预测方法中航迹预测模型的结构图，构建航迹预测模型，包括二进制编码模块、预测模块以及二进制解码模块；

首先，构建二进制编码模块，二进制编码模块将航迹数据中的每个标量映射为元素只由0和1构成高维二进制编码向量，提高预测模块对于时序数据间差异性和相关性的学习能力；具体的，二进制编码模块根据数据集中各属性的预测精度要求和数据范围确定各自的编码长度，并根据编码长度对各个属性进行二进制编码，得到二进制编码向量，编码过程如图3所示：

其中，对于浮点型属性，例如经度和维度，需要先根据精度要求保留一定的小数位数m，并乘以10^m将其转化为整型属性；对于整型属性x，首先确定其数据范围为x_min≤x≤x_max，那么x的编码长度n满足以下公式：

判断整型属性是否为符号整型属性，若为符号整型属性，则n₀＝1，若为无符号整型属性，n₀＝0；

对于符号整型属性，例如经度方向速度、纬度方向速度已经垂直方向速度，其二进制编码向量中高一位为符号位，其余位为数值位，当该属性为负数时，符号位置1，否则置0，将该属性去除符号并从十进制转化为二进制后，把二进制值按位、居右填充到数值位中，数值位中剩余部分置0；

对于无符号整型属性，例如海拔，其二进制编码向量的所有位均为数值位，将该属性从十进制转化为二进制后，把二进制值按位、居右填充到数值位中，数值位中剩余部分置0；

如图3所示，航迹点特征中，经度和纬度为浮点型属性，其数据范围分别为[93.833,113.689]和[19.305,37.585]，精度要求为0.001，编码长度分别为18位和16位；海拔除以10后，取整作为无符号整型属性，其数据范围为[0,1500]，编码长度为11位；经度方向速度、纬度方向速度、垂直方向速度都是符号整型属性，其数据范围分别为[-945,878]、[-963,925]和[-48,43]，编码长度均为11位，其中，高一位为符号位；

其次，构建预测模块，该模块包括航迹嵌入模块、相关属性注意力模块、Transformer以及分类模块；包括以下步骤：

S21，构建航迹嵌入模块，对二进制编码向量进行属性特征提取。航迹嵌入模块由六个独立的全连接层构成，各个全连接层分别将航迹点的经度、纬度、海拔、经度方向速度、纬度方向速度和垂直方向速度，航迹点六个属性的二进制编码向量映射到维数为64的高维空间；航迹点的六个属性中，经度、纬度、海拔描述了飞行器的位置信息，而经度方向速度、纬度方向速度和垂直方向速度作为趋势信息，辅助完成位置信息的预测。进一步的，航迹嵌入模块通过线性变换进一步提取了单个属性中隐含的信息，为后续模块提取不同属性之间的相关性以及不同时刻下相同属性之间的差异性，提供更多的参考维度

S22，构建相关属性注意力模块，提取相关属性特征之间的相关性。如图4所示构建的相关属性注意力模块，相关属性是指经度与经度方向速度相关联、纬度与纬度方向速度相关联、海拔和垂直方向速度相关联，并且注意力计算步骤为：

令

为相关属性特征a_k和a_j在航迹嵌入模块的输出，那么a_k和a_j在相关属性注意力模块的输出为

满足以下公式：

其中，

和

为

的线性变换，

和

为

的线性变换，d_k为向量维数，concat(x,y)为级联层，将两个向量进行级联得到[x,y]。

S23，使用Transformer进行时序建模，提取预测未来的隐含信息。如图5所示，这一部分包括8个堆叠的Transformer解码块，每个Transformer解码块由Masked多头自注意力模块、层标准化模块、前馈神经网络、层标准化模块堆叠而成。其中，Masked多头自注意力模块和前馈神经网络均使用残差连接，解决梯度消失的问题，Masked多头自注意力模块的头数为4，前馈神经网络由两个全连接层和一个ReLU激活层组成。

S24，构建分类模块，将隐含信息翻译为各个属性的二进制编码向量。分类模块包括一个全连接层和一个激活层，负责进行多个二分类判别，输出预测航迹点各个属性的二进制编码向量。全连接层将Transformer中最后一个时间步的输出映射为预测向量，预测向量的维数等于各个属性二进制编码向量的位数之和，即78；激活层使用Sigmoid激活函数，将预测向量的值映射到0到1之间得到概率向量；进行二分类判别时，设置阈值为0.5，概率向量中小于等于该阈值的分量属于类别0，否则属于类别1，并将各分量的类别组成二进制向量；最后将二进制向量划分为长度分别为18、16、11、11、11和11的向量，作为预测航迹点经度、纬度、海拔、经度方向速度、纬度方向速度和垂直方向速度的二进制编码向量。

最后，构建二进制解码模块，该模块将各个属性的二进制编码向量转化为标量，是二进制编码模块的逆向过程。

S3：训练航迹预测模型，使用预设的联合损失函数和训练集训练航迹预测模型，使用验证集测试该模型得到测试结果，根据测试结果对超参数进行微调，得到训练完备的航迹预测模型；

具体包括以下步骤：

S31，使用训练集训练航迹预测模型，使用以下联合损失函数L进行训练,联合损失函数L由两个部分构成，分别是基于分类的交叉熵损失L_BCE和基于回归的均方误差损失L_MSE；L_BCE描述了二进制编码向量中每一位的分类误差，但一定程度上忽略了航迹点属性之间的关联性和差异性，并且高位的错误分类会导致解码后的数值存在较大误差，因此，引入L_MSE限制数值误差过大：

其中，N＝2048是一个batch的样本数，K＝6是属性个数，

和

分别为属性a_k的真实值和预测值，

和

分别为属性a_k的真实值和预测值的二进制编码表达，M为二进制编码表达的维数。

S4：使用测试集进行测试，并根据评价指标评估训练完备的航迹预测模型；

S5：从ADS-B系统实时采集航迹数据，经解码后，取一段历史航迹输入训练完备的航迹预测模型，得到预测结果，以供下游应用使用；航迹预测的下游应用包括交通流量预测、冲突检测以及其他空中交通管理应用。

综上所述，本实验采用的航迹数据来自中国境内ATC系统，时间范围从2021年1月1日到3月15日，记录间隔为20秒，覆盖飞行器各种运动趋势，包括爬升、下降、转弯、保持。实验所采用的硬件环境为：CPU为Inter(R)Core(TM)i7-7820X@3.6GHz，GPU为4*NVIDIAGeForce RTX 2080，内存为32GB，采用的操作系统为：Ubuntu 16.04。更新网络参数的优化器使用Adam，初始学习率设置为0.0001。为了证明该方法的优越性，与作为baseline的基于LSTM的回归模型进行预测效果对比，采取的评估标准为均方根误差(RMSE)和平均绝对误差(MAE)，具体为：

其中，a和a′分别为真实值和预测值。RMSE和MAE值越小代表预测精度越高。

分别评估了基于LSTM的回归模型、基于双向LSTM(BiLSTM)的回归模型以及精度要求分别为0.001和0.01的本发明提出的方法。如表1所示的是在MAE刻度下各方法的预测效果；如表2所示的是在RMSE刻度下各方法的预测效果。

表1不同方法在不同预测步数下的MAE

表2不同方法在不同预测步数下的RMSE

由表1、表2可得，虽然在RMSE刻度下，本发明提出的方法在单步预测上效果弱于两个基于LSTM的方法，但随着预测步数的增加，本发明提出的方法的预测效果明显优于两个基于LSTM的回归方法。本实验证明了本发明提出的方法在航迹预测上具有一定的优越性，并且在多步预测中展现了较高的鲁棒性。

综上所述，本实施例利用二进制编码模块提取高维特征的方法可以应用到其他模型中，适用广泛；其次，本实施例对历史航迹数据进行时序建模，并使用二进制编码作为特征提取的关键工具，将基于时序数据的回归问题转化为多个二分类问题，提升了航迹预测精确度；最后，通过建立航迹数据中对应位置信息和速度信息之间的注意力机制，进一步提高航迹预测精度。

实施例2

如图6所示，一个装置，包括至少一个处理器、一个存储器、一个输入输出设备以及电源；存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行前述实施例的一种基于二进制编码表示与多分类的航迹预测方法；输入输出设备包括显示器、键盘、鼠标、USB接口，完成数据的交互操作；电源可以为外接电源或可充电电池，为该装置提供电能。

本领域技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储于计算机可读取存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：移动存储设备、只读存储器(Read Only Memory，ROM)、磁碟或者光盘等各种可以存储程序代码的介质。

当本发明上述集成的单元以软件功能单元的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括：移动存储设备、ROM、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于二进制编码表示与多分类的航迹预测方法，其特征在于，包括以下步骤：

S1：从ATC系统获取原始的航迹数据，对其进行解码后提取关键信息，对关键信息进行数据预处理，构建数据集，包括训练集、验证集和测试集；

S2：构建航迹预测模型，包括二进制编码模块、预测模块以及二进制解码模块；所述二进制编码模块根据数据集的各属性的预测精度要求和数据范围确定各属性的编码长度，对各属性进行二进制编码；

S3：训练航迹预测模型，使用预设的联合损失函数和所述训练集训练所述航迹预测模型，使用所述验证集测试该模型得到测试结果，根据测试结果对超参数进行微调，得到训练完备的航迹预测模型；

S4：使用所述测试集对所述训练完备的航迹预测模型进行测试，并根据评价指标评估所述训练完备的航迹预测模型；

S5：从ADS-B系统采集实时航迹数据，经解码后输入所述训练完备的航迹预测模型，得到航迹预测结果。

2.根据权利要求1所述的一种基于二进制编码表示与多分类的航迹预测方法，其特征在于，步骤S1中，所述关键信息包括每个航迹点的背景信息和时空信息，其中，背景信息包括航班号、航迹号；时空信息包括时间戳、经度、纬度、海拔、经度方向速度、纬度方向速度、垂直方向速度；

所述数据预处理包括：对于时空信息有缺失值的航迹片段，若缺失值数目少，则使用三次样条插值补全该航迹片段，若缺失值数目多则抛弃该航迹片段。

3.根据权利要求1所述的一种基于二进制编码表示与多分类的航迹预测方法，其特征在于，步骤S1中，所述数据集的构建包括：

S11，设使用n-1个经预处理后的航迹数据进行预测，利用窗口大小为n的滑动窗口以1个航迹点为步长，截取航迹数据作为一个数据对，该数据对由前n-1个航迹点的观测值和最后1个航迹点的目标值构成；

S12，从所有的数据对中，以8:1:1的比例将其划分为训练集、验证集和测试集。

4.根据权利要求1所述的一种基于二进制编码表示与多分类的航迹预测方法，其特征在于，步骤S2中，二进制编码过程为将每个标量映射为元素只由0和1构成高维二进制编码向量，具体包括：

S221，对于浮点型属性，根据精度要求保留小数位数m，并乘以10^m，将浮点型属性转化为整型属性x，其数据范围为x_min≤x≤x_max，则整型属性x的编码长度n满足以下公式：

S222，判断整型属性是否为符号整型属性：若为符号整型属性，则n₀＝1，进入步骤S223；若为无符号整型属性，否则n₀＝0，进入步骤S224；

S223，符号整型属性的二进制编码向量中高一位为符号位，其余位为数值位，当该属性为负数时，符号位置1，否则置0，去除该属性符号并转化为二进制，把二进制值按位、居右填充到数值位中，数值位中剩余部分置0；

S224，无符号整型属性的二进制编码向量所有位均为数值位，将该属性转化为二进制，把二进制值按位、居右填充到数值位中，数值位中剩余部分置0。

5.根据权利要求1所述的一种基于二进制编码表示与多分类的航迹预测方法，其特征在于，步骤S2中，所述预测模块用于通过构建的航迹嵌入模块对二进制编码向量进行属性特征提取；通过构建的相关属性注意力模块提取相关属性特征之间的相关性；利用Transformer进行时序建模，提取预测未来的隐含信息；通过构建的分类模块将所述隐含信息翻译为各个属性的二进制编码向量。

6.根据权利要求5所述的一种基于二进制编码表示与多分类的航迹预测方法，其特征在于，所述航迹嵌入模块包括六个独立的全连接层，各个全连接层分别将航迹点的经度、纬度、海拔、经度方向速度、纬度方向速度和垂直方向速度的二进制编码投射到维数相同的高维空间；

所述航迹嵌入模块通过线性变换提取属性特征的隐含信息，航迹点的属性特征包括经度、纬度、海拔、经度方向速度、纬度方向速度和垂直方向速度。

7.根据权利要求5所述的一种基于二进制编码表示与多分类的航迹预测方法，其特征在于，通过所述相关属性注意力模块提取相关属性特征之间的相关性，包括经度与经度方向速度相关联、纬度与纬度方向速度相关联、海拔和垂直方向速度相关联，注意力计算方法为：

令

为相关属性特征a_k和a_j在所述航迹嵌入模块的输出，那么a_k和a_j在所述相关属性注意力模块的输出为

满足以下公式：

其中，

和

为

的线性变换，

和

为

的线性变换，d_k为向量维数，concat(x,y)为级联层，将两个向量进行级联得到[x,y]。

8.根据权利要求5所述的一种基于二进制编码表示与多分类的航迹预测方法，其特征在于，所述分类模块包括一个全连接层和一个激活层：

S241，全连接层将从所述Transformer提取的隐含信息转化为预测向量，预测向量的维数等于各个属性二进制编码向量的位数之和；

S242，使用Sigmoid激活函数，将预测向量的值映射到0到1之间得到概率向量；

S243，对概率向量进行二分类判别，设置阈值为0.5，小于或者等于该阈值的概率向量属于类别0，否则属于类别1，将各概率向量的类别组成二进制向量，根据各个属性的编码长度将二进制向量划分为不同属性的二进制编码向量。

9.根据权利要求1所述的一种基于二进制编码表示与多分类的航迹预测方法，其特征在于，所述联合损失函数L由两个部分构成，分别是基于分类的交叉熵损失L_BCE和基于回归的均方误差损失L_MSE，所述联合损失函数L的计算公式如下：

其中，N是一个batch的样本数，K＝6是属性个数，

和

分别为属性a_k的真实值和预测值，

和

分别为属性ak的真实值和预测值的二进制编码向量，M为二进制编码向量的位数。

10.一种基于二进制编码表示与多分类的航迹预测装置，其特征在于，包括至少一个处理器和一个存储器；所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1至9中任一项所述的方法。

Images