CN114563015A - 基于rf航段的实际导航性能实时计算方法 - Google Patents

Abstract

本发明公开一种基于RF航段的实际导航性能实时计算方法，首先获取飞机实时位置经纬度和预期航段两端点经纬度数据及转弯半径，并将经纬度坐标转换为平面坐标；计算转弯弧线所在圆的圆心坐标；飞机的实时位置与圆心连线所在直线与圆相交得投影点，将投影点坐标转换为经纬度坐标；计算飞机实时位置与对应投影点的经纬度差的方差以及两者的协方差，计算误差协方差矩阵；根据误差协方差矩阵得到以飞机估计位置为原点的1σ等概率误差椭圆，根据等概率误差椭圆的长半轴值，及转换因子求取ANP值。本发明为RF航段的实际导航性能实时计算提供了方法，解决目前基于RF航段的实际导航性能实时计算目前研究不足的问题，可用于飞行程序合理性验证等问题。

Description

基于RF航段的实际导航性能实时计算方法

技术领域

本发明涉及导航性能监测技术领域，具体为基于RF航段的实际导航性能实时计算方法。

背景技术

针对相对有限的民航空域，传统的导航方式不能满足民航的运行需求，必须采用一种新型的导航运行理念，来提高空域的有效利用率，因此导航性能(RNP RequiredNavigation Performance)在1991年由未来空中导航系统(FANS Future Air NavigationSystems)委员会向国际民航组织(ICAO International Civil Aviation Organization)提出。ICAO于2007年正式发布基于性能导航手册(PERFORMANCE BASEDNAVIGATIONMANUAL)，用以规范区域导航的命名、技术标准，并指导各国实施该新技术。该手册重新定义了RNP，即为利用机载设备对导航性能实行监视和告警的需要。ICAO颁布的Doc8168文件对RNP/RNAV程序设计标准，参数等做了详细的规定。2007年11月ICAO制定了需要授权的RNP程序设计的各项标准。RNP是通过对导航精度的描述来确定在某一空域内运行需要的导航性能，因此RNP不仅对航空器机载导航设备有相关要求，对支持相应RNP类型空域的导航系统精度也有一定的要求，RNP类型则是用相应的精度值来表示。

利用不同导航性能要求去定义不同等级的RNP类型，制定划分空域和航路类型。导航性能包括了各性能参数，即精度、完好性、连续性等。对应不同等级的空域和航路类型，各性能参数都有要求，由主要的具有代表性的参数精度去划分类型。它由导航传感器误差、机载卫星接收机误差、显示误差和飞行技术误差(FTE)组合而成，这种组合也称为“导航性能精度(TSE)”。而在实际飞行过程中，在某一空域或一条航路上，要求经过的飞机的导航系统精度在总飞行小时的95％时间内，出现偏离的希望航迹距离不得超过某一数值。这个精度值被定义为“包容距离”。RNP包含一系列的导航规范，这些规范用RNP.X的形式表示，其中数值X表示航空器在至少95％的飞行时间内能够达到的导航精度。例如，RNP.1是指在95％的概率下，在指定的空域中，导航系统的精度在1海里(1海里＝1852米)以内。即导航系统精度在总飞行小时的95％时间内，偏离的希望航迹距离不超过1海里

在RNP中，要求运营航空器具有机载性能监测和告警功能，未达到所需侧向导航精度可能是由航空器沿线飞行和定位误差造成的。从而将误差源定义为如下三种误差，以使得导航精度的度量有定义且便于量化、精确度量和控制。

航径定义误差(PDE Path definition error)：定义航径与预期航径之间的误差；

飞行技术误差(FTE Flight Technical Error)：估计位置与定义航径之间的误差；

导航系统误差(NSE Navigation system error)：飞行器真实位置与估计位置之间的误差；

上述三种误差组成总系统误差(TSE Total system error)，其中PDE数值较小，通常可以忽略不计。

当飞机在某一空域或一条RNP航路上飞行时，飞行员若能从仪表上实时知道飞机目前所在位置，就能确保飞机准确地飞行。实际导航性能(ANP Actual NavigationPerformance)表示飞行管理计算机(FMCS Flight Management Computer)系统提供的定位结果与飞机在飞行空域中实际位置之间的误差。PBN导航规定必须实时计算ANP值，以95％的概率来保证飞机的实际位置位于飞管系统输出的定位结果为圆心，ANP值为半径的圆中。按照ANP值的定义，计算ANP的值过程计算量很大，对于ANP值精度要求不高的情况，可以采用近似算法，通过定位误差方差计算。

但是在现有的实际导航性能算法研究中，要么研究局限于理论研究阶段，要么在算法验证阶段中所用的飞行数据样本少，同时现有的实际导航性能算法研究的工程应用主要基于TF航段，缺少基于RF航段的实际导航性能算法成熟的研究成果。其中，TF航段为以定位点至定位点的(大圆)航迹；RF航段为从一个定位点以某一点为弧心,某一特定值为半径，飞行至一个定位点(起点、终点、中心点为已知)。

发明内容

针对上述问题，本发明的目的在于提供一种基于RF航段实际导航性能的实时计算方法，以飞行仿真环境中飞机实时位置经纬度和RF航段起始点和终止点经纬度作为输入，实时结算出飞机是实际导航性能值，解决目前基于RF航段的实际导航性能实时计算目前研究不足的问题。技术方案如下：

一种基于RF航段的实际导航性能实时计算方法，包括如下步骤：

步骤1：获取飞机实时位置P点的经纬度数据，以及预期航段起始点A点和终止点B点经纬度数据；获取转弯半径R，并将转弯弧线所在圆记作圆C，圆心记作C点；计算起始点A点与圆C的切线和终止点B点与圆C的切线的交点O点的经纬度坐标；

步骤2：将A点、B点和O点的经纬度坐标通过米勒投影转化为平面坐标；所述平面坐标以本初子午线与赤道的交点为原点，经度增加的方向为x正坐标轴方向，南纬增加的方向为y正坐标轴方向；然后计算圆心C点的平面坐标；

步骤3：连接圆心C点与飞机实时位置P点的直线，与圆C相交形成投影点Q点，计算得到投影点Q点平面坐标；

步骤4：将计算所得的投影点Q点平面坐标通过米勒投影的逆转换获得投影点Q点的经纬度坐标；

步骤5：计算飞机实时位置P点经纬度坐标与对应投影点Q点的经纬度坐标的经度差和纬度差，进而得到飞机估计位置与预期位置的经度误差数组与纬度误差数组；

步骤6：根据飞机估计位置与期望位置的经度误差数组和纬度误差数组，分别计算经度差的方差和纬度差的方差以及两者的协方差，得到误差协方差矩阵；根据误差协方差矩阵得到以飞机估计位置为原点的1σ等概率误差椭圆，根据计算得到的等概率误差椭圆的长半轴值，以及与误差椭圆扁平率有关的转换因子k求取ANP值，即为实际导航性能值。

进一步的，所述计算转弯弧线所在圆的圆心C点的坐标的具体方法为：

步骤2.1：取OB直线上离O点距离为R的点D₁、D₂，并判定D₁、D₂两点距离B点最近的点为D；

步骤2.2：计算出向量OA与向量OB的夹角2α，得到OD与OC夹角α；

步骤2.3：将向量OD旋转α得到OC₁、OC₂；判定C₁、C₂两点距离A点最近的点为C，即求得圆心C点坐标(X_c，Y_c)。

更进一步的，所述步骤2.2中，计算D₁、D₂的具体方法为：

计算向量OB与x正坐标轴的夹角β；已知O点坐标为(X₀，Y₀)则：

D₁的坐标为：(X₀+Rcosβ，Y₀-Rsinβ)，D₂的坐标为：(X₀-Rcosβ，Y₀+Rsinβ)；

判断D₁、D₂两点距离B点最近的点的方法为：

已知B坐标为(X_b，Y_b)，则线段BD₁的距离d₁为：

则线段BD₂的距离d₂为

若d₁<d₂，则D₁为D点；若d₂<d₁，则D₂为D点。

更进一步的，所述步骤2.2中，计算OD与OC夹角α的具体方法：

已知O点坐标为(X₀，Y₀)，A坐标为(X_a，Y_a)，B坐标为(X_b，Y_b)，计算OA、OB向量ν₁，ν₂，得到ν₁坐标为(X_a-X_o，Y_a-Y_o)，ν₂坐标为(X_b-X_o，Y_b-Y_o)；

根据向量夹角公式得2α，公式如下：

所以

更进一步的，所述步骤2.3中，将向量OD旋转α得到OC₁、OC₂的方法为：

旋转前向量OD为：

X_d0＝Rcosβ，Y_d0＝Rsinβ；

顺时针旋转α后向量OC₁为：

X_c1＝Rcos(β+α)，Y_c1＝Rsin(β+α)，

逆时针旋转α后向量OC₂为：

X_c2＝Rcos(β-α)，Y_c2＝Rsin(β-α)；

由此得：X_c1＝Rcos(β+α)＝Rcosβcosα-Rsinβsinα＝X_d0cosα-Y_d0sinα，

Y_c1＝Rsin(β+α)＝Rsinβcosα+Rcosβsinα＝Y_d0cosα+X_d0sinα，

所以得到：OC₁＝(X_o+X_c1，Y_o+Y_c1)；

逆时针：X_c2＝Rcos(β-α)＝Rcosβcosα+Rsinβsinα＝X_d0cosα+Y_d0sinα，

Y_c1＝Rsin(β-α)＝Rsinβcosα-Rcosβsinα＝Y_d0cosα-X_d0sinα，

所以得到：OC₂＝(X_o+X_c2，Y_o+Y_c2)。

更进一步的，所述步骤3中投影点Q点坐标的方法为：

步骤3.1：已知飞机实时位置坐标P为(X_p，Y_p)，圆心C点坐标为(X_c，Y_c)求出向量CP(X_p-X_c，Y_p-Y_c)与x正坐标轴夹角γ；

步骤3.2：得投影点Q坐标为(X_c+Rcosγ，Y_c+Rsinγ)。

更进一步的，所述步骤6中的具体过程为：

步骤6.1：利用以下公式将经度误差数组转换为直角坐标系x方向上的误差数组：

其中，Δx为x方向上的误差，l1为经度误差，R_e为地球半径，l2为飞机实时位置纬度；

步骤6.2：利用以下公式将纬度误差数组转换为直角坐标系y方向上的误差数组，

其中，Δy为y方向上的误差，l3为纬度误差；

步骤6.3：计算直角坐标系x方向和y方向上误差数组的方差以及两个数组的协方差，获得误差协方差矩阵；

步骤6.4：计算误差协方差矩阵的特征值λ₁、λ₂，将计算所得的两个特征值分别视为1σ误差椭圆的长半轴和短半轴的平方，并利用下式对椭圆的扁平率ratio进行计算：

步骤6.5：计算1σ误差椭圆95％不确定度区域的误差概率，计算公式如下：

式中，P为误差概率，k为转换因子；

令x＝rcosθ,y＝rsinθ，其中，r为平面坐标系中的点在极坐标系下对应点的极径，θ为平面坐标系中的点在极坐标系下对应点的极角；将上式整理得：

当P为95％时，转换因子k与误差椭圆扁平率ratio的关系为：当误差椭圆扁平率趋于1时，转换因子为2.4477，当误差椭圆扁平率趋于无穷时，转换因子为1.9625；则将转换因子k关于误差椭圆扁平率ratio的曲线拟合为下式：

步骤6.6：根据实际导航性能的定义，ANP值的计算公式如下：

ANP＝k*max(λ₁,λ₂)

其中，转换因子k的取值不为定值，与误差椭圆扁平率有关。

本发明的有益效果是：本发明以飞行仿真环境中飞机实时位置经纬度和RF航段起始点和终止点经纬度作为输入，实时结算出飞机是实际导航性能值，解决目前基于RF航段的实际导航性能实时计算目前研究不足的问题，可用于飞行程序合理性验证等问题。

附图说明

图1为RF航段关键航路点示意图，已知图中A、B、O点的经纬度，圆C的半径R。

图2为向量OB与x正半轴夹角β定义示意图。

图3为求解圆C圆心坐标示意图。

图4为求解预期航路点坐标Q示意图。

图5为发明基于RF航段的实际导航性能实时计算方法的总流程图。

图6为计算实际导航性能的流程图。

图7为误差椭圆扁平率ratio与转换因子k关系图。

具体实施方式

下面结合附图和具体实施例对本发明做进一步详细说明。本实施例基于Bluesky飞行仿真平台，通过DIS分布式交互仿真协议获取飞机位置数据和航段数据，下面结合附图及具体实施例对本发明的应用原理作进一步描述。

图5是本发明的流程图，具体过程如下：

步骤1、获取飞机实时位置经纬度和预期航段起始点和终止点经纬度数据。

此处预期航段的起始点和终止点的经纬度即为飞行程序中该航段的起始点和终止点的经纬度，获取转弯半径R；

获取如(图1)点A、B、O的经纬度数据。

步骤2、通过米勒投影将飞机与航路点的坐标转换为平面坐标。

步骤3：取OB直线上离O距离为R的点D₁、D₂；判断D₁、D₂两点距离B点最近的点为D(图2)。

步骤3.1：计算向量OB与x正坐标轴的夹角β(图2)；

步骤3.2：已知O点坐标为(X₀，Y₀)则，点D₁、D₂的坐标如表1所示：

表1 D₁、D₂的纵横坐标

	横坐标	纵坐标
			D<sub>1</sub>	X<sub>0</sub>+Rcosβ	Y<sub>0</sub>-Rsinβ
D<sub>2</sub>	X<sub>0</sub>-Rcosβ	Y<sub>0</sub>+Rsinβ

步骤3.3：判断D₁、D₂两点距离B点最近的点：

已知B坐标为(X_b，Y_b)，则线段BD₁的距离d₁为：

则线段BD₂的距离d₂为

比较d₁与d₂大小：若d₁<d₂，则D₁为D点；若d₂<d₁，则D₂为D点。

步骤4：计算出向量OA与向量OB的夹角2α，得到OD与OC夹角α；

计算出向量OA与向量OB的夹角2α的方法为：

先计算OA、OB向量v₁、v₂，如表2所示：

表2 v₁、v₂的纵横坐标

	横坐标	纵坐标
			v<sub>1</sub>	X<sub>a</sub>-X<sub>o</sub>	Y<sub>a</sub>-Y<sub>o</sub>
v<sub>2</sub>	X<sub>b</sub>-X<sub>o</sub>	Y<sub>b</sub>-Y<sub>o</sub>

根据向量夹角公式得2α，公式如下：

所以

步骤5：将向量OD旋转α得到OC₁、OC₂；判断C₁、C₂两点距离A点最近的点为C(图3)，即求得圆心坐标C点；

判断C₁、C₂两点距离A点最近的点为C的方法与步骤3相同，将向量OD旋转α得到OC₁、OC₂的方法为：

步骤5.1：旋转前向量OD：

X_d0＝Rcosβ，Y_d0＝Rsinβ；

步骤5.2：顺时针α旋转后向量OC₁：

X_c1＝Rcos(β+α)，Y_c1＝Rsin(β+α)，

逆时针α旋转后向量OC₂：

X_c2＝Rcos(β-α)，Y_c2＝Rsin(β-α)；

由此得：X_c1＝Rcos(β+α)＝Rcosβcosα-Rsinβsinα＝X_d0cosα-Y_d0sinα，

Y_c1＝Rsin(β+α)＝Rsinβcosα+Rcosβsinα＝Y_d0cosα+X_d0sinα，

所以得到：OC₁＝(X_o+X_c1，Y_o+Y_c1)；

逆时针：X_c2＝Rcos(β-α)＝Rcosβcosα+Rsinβsinα＝X_d0cosα+Y_d0sinα，

Y_c1＝Rsin(β-α)＝Rsinβcosα-Rcosβsinα＝Y_d0cosα-X_d0sinα，

所以得到：OC₂＝(X_o+X_c2，Y_o+Y_c2)；

步骤5.3：利用步骤3方法求得离A最近点C(X_c，Y_c)。

已知A坐标为(X_a，Y_a)，则线段AC₁的距离d₃为：

则线段AC₂的距离d₄为

判断C₁、C₂两点距离A点最近的点为C(图3)：

比较d₃与d₄大小：若d₃<d₄，则C₁为D点；若d₄<d₃，则C₂为C点。

步骤6：令飞机的实时位置坐标为P点，连接C点到P点的直线，交以C为圆心，R为半径圆上的投影点。

求出R半径圆上的投影点的方法为：

已知飞机实时位置坐标P为(X_p，Y_p)，求出向量CP(X_p-X_c，Y_p-Y_c)与x正坐标轴夹角γ；可得投影点Q坐标为(X_c+Rcosγ，Y_c+Rsinγ)(如图4)。

步骤7：将计算所得的投影点坐标通过米勒投影的逆转换获得投影点的经纬度坐标。

步骤8：计算飞机实时位置P点经纬度坐标与对应投影点Q点的经纬度坐标的经度差和纬度差，进而得到飞机估计位置与预期位置的经度误差数组与纬度误差数组。

步骤9：根据飞机估计位置与期望位置的经度误差数组和纬度误差数组，分别计算经度差的方差和纬度差的方差以及两者的协方差，得到误差协方差矩阵；根据误差协方差矩阵得到以飞机估计位置为原点的1σ等概率误差椭圆，根据计算得到的等概率误差椭圆的长半轴值，以及与误差椭圆扁平率有关的转换因子k求取ANP值，即为实际导航性能值；如表3所示。

表3实施例1中离场RNP程序飞行数据记录数据

利用飞机实际位置与期望位置的经纬度差计算实际导航性能值，算法流程图如图6所示。

步骤9.1：利用以下公式将经度误差数组转换为直角坐标系x方向上的误差数组：

其中，Δx为x方向上的误差，l1为经度误差，R_e为地球半径，本实施例取6371000米，l2为飞机实时位置纬度。

步骤9.2：利用以下公式将纬度误差数组转换为直角坐标系y方向上的误差数组：

其中，Δy为y方向上的误差，l3为纬度误差。

步骤9.3：计算直角坐标系x方向和y方向上误差数组的方差以及两个数组的协方差，获得误差协方差矩阵。

步骤9.4：计算误差协方差矩阵的特征值λ₁、λ₂，将计算所得的两个特征值分别视为1σ误差椭圆的长半轴和短半轴的平方，并利用下式对椭圆的扁平率ratio进行计算：

步骤9.5：计算1σ误差椭圆95％不确定度区域的误差概率，计算公式如下：

式中，P为误差概率，k为转换因子；

令x＝rcosθ,y＝rsinθ，其中，r为平面坐标系中的点在极坐标系下对应点的极径，θ为平面坐标系中的点在极坐标系下对应点的极角；将上式整理得：

当P为95％时，可得转换因子k与误差椭圆扁平率ratio的关系如图7示，当误差椭圆扁平率趋于1时，转换因子为2.4477，当误差椭圆扁平率趋于无穷时，转换因子为1.9625，为简化计算步骤将附图7中转换因子k关于误差椭圆扁平率ratio的曲线拟合为下式：

步骤9.6：根据实际导航性能的定义，ANP值的计算公式如下：

ANP＝k*max(λ₁,λ₂)

其中，k为转换因子，λ₁，λ₂为步骤6.4中误差协方差矩阵特征值，k的取值不为定值，与误差椭圆扁平率有关，更符合实际导航性能在数学建模过程中的公式推导和实际情况，有利于提高实际导航性能ANP值计算结果的准确性。

Claims (7)

1.一种基于RF航段的实际导航性能实时计算方法，其特征在于，包括如下步骤：

步骤1：获取飞机实时位置P点的经纬度数据，以及预期航段起始点A点和终止点B点经纬度数据；获取转弯半径R，并将转弯弧线所在圆记作圆C，圆心记作C点；计算起始点A点与圆C的切线和终止点B点与圆C的切线的交点O点的经纬度坐标；

步骤2：将A点、B点和O点的经纬度坐标通过米勒投影转化为平面坐标；所述平面坐标以本初子午线与赤道的交点为原点，经度增加的方向为x正坐标轴方向，南纬增加的方向为y正坐标轴方向；然后计算圆心C点的平面坐标；

步骤3：连接圆心C点与飞机实时位置P点的直线，与圆C相交形成投影点Q点，计算得到投影点Q点平面坐标；

步骤4：将计算所得的投影点Q点平面坐标通过米勒投影的逆转换获得投影点Q点的经纬度坐标；

步骤5：计算飞机实时位置P点经纬度坐标与对应投影点Q点的经纬度坐标的经度差和纬度差，进而得到飞机估计位置与预期位置的经度误差数组与纬度误差数组；

步骤6：根据飞机估计位置与期望位置的经度误差数组和纬度误差数组，分别计算经度差的方差和纬度差的方差以及两者的协方差，得到误差协方差矩阵；根据误差协方差矩阵得到以飞机估计位置为原点的1σ等概率误差椭圆，根据计算得到的等概率误差椭圆的长半轴值，以及与误差椭圆扁平率有关的转换因子k求取ANP值，即为实际导航性能值。

2.如权利要求1所述的基于RF航段的实际导航性能实时计算方法，其特征在于，所述计算转弯弧线所在圆的圆心C点的坐标的具体方法为：

步骤2.1：取OB直线上离O点距离为R的点D₁、D₂，并判定D₁、D₂两点距离B点最近的点为D；

步骤2.2：计算出向量OA与向量OB的夹角2α，得到OD与OC夹角α；

步骤2.3：将向量OD旋转α得到OC₁、OC₂；判定C₁、C₂两点距离A点最近的点为C，即求得圆心C点坐标(X_c，Y_c)。

3.如权利要求2所述的基于RF航段的实际导航性能实时计算方法，其特征在于，所述步骤2.2中，计算D₁、D₂的具体方法为：

计算向量OB与x正坐标轴的夹角β，已知O点坐标为(X₀，Y₀)则：

D₁的坐标为：(X₀+Rcosβ，Y₀-Rsinβ)，D₂的坐标为：(X₀-Rcosβ，Y₀+Rsinβ)；

判断D₁、D₂两点距离B点最近的点的方法为：

已知B坐标为(X_b，Y_b)，则线段BD₁的距离d₁为：

则线段BD₂的距离d₂为

若d₁<d₂，则D₁为D点；若d₂<d₁，则D₂为D点。

4.如权利要求2所述的基于RF航段的实际导航性能实时计算方法，其特征在于，所述步骤2.2中，计算OD与OC夹角α的具体方法：

已知O点坐标为(X₀，Y₀)，A坐标为(X_a，Y_a)，B坐标为(X_b，Y_b)，计算OA、OB向量v₁，v₂，得到ν₁坐标为(X_a-X_o，Y_a-Y_o)，ν₂坐标为(X_b-X_o，Y_b-Y_o)；

根据向量夹角公式得2α，公式如下：

所以

5.如权利要求2所述的基于RF航段的实际导航性能实时计算方法，其特征在于，所述步骤2.3中，将向量OD旋转α得到OC₁、OC₂的方法为：

旋转前向量OD为：

X_d0＝Rcosβ，Y_d0＝Rsinβ；

顺时针旋转α后向量OC₁为：

X_c1＝Rcos(β+α)，Y_c1＝Rsin(β+α)，

逆时针旋转α后向量OC₂为：

X_c2＝Rcos(β-α)，Y_c2＝Rsin(β-α)；

由此得：X_c1＝Rcos(β+α)＝Rcosβcosα-Rsinβsinα＝X_d0cosα-Y_d0sinα，

Y_c1＝Rsin(β+α)＝Rsinβcosα+Rcosβsinα＝Y_d0cosα+X_d0sinα，

所以得到：OC₁＝(X_o+X_c1，Y_o+Y_c1)；

逆时针：X_c2＝Rcos(β-α)＝Rcosβcosα+Rsinβsinα＝X_d0cosα+Y_d0sinα，

Y_c1＝Rsin(β-α)＝Rsinβcosα-Rcosβsinα＝Y_d0cosα-X_d0sinα，

所以得到：OC₂＝(X_o+X_c2，Y_o+Y_c2)。

6.如权利要求1所述的基于RF航段的实际导航性能实时计算方法，其特征在于，所述步骤3中投影点Q点坐标的方法为：

步骤3.1：已知飞机实时位置坐标P为(X_p，Y_p)，圆心C点坐标为(X_c，Y_c)求出向量CP(X_p-X_c，Y_p-Y_c)与x正坐标轴夹角γ；

步骤3.2：得投影点Q坐标为(X_c+Rcosγ，Y_c+Rsinγ)。

7.如权利要求1所述的基于RF航段的实际导航性能实时计算方法，其特征在于，所述步骤6中的具体过程为：

步骤6.1：利用以下公式将经度误差数组转换为直角坐标系x方向上的误差数组：

其中，Δx为x方向上的误差，l1为经度误差，R_e为地球半径，l2为飞机实时位置纬度；

步骤6.2：利用以下公式将纬度误差数组转换为直角坐标系y方向上的误差数组，

其中，Δy为y方向上的误差，l3为纬度误差；

步骤6.3：计算直角坐标系x方向和y方向上误差数组的方差以及两个数组的协方差，获得误差协方差矩阵；

步骤6.4：计算误差协方差矩阵的特征值λ₁、λ₂，将计算所得的两个特征值分别视为1σ误差椭圆的长半轴和短半轴的平方，并利用下式对椭圆的扁平率ratio进行计算：

步骤6.5：计算1σ误差椭圆95％不确定度区域的误差概率，计算公式如下：

式中，P为误差概率，k为转换因子；

令x＝rcosθ,y＝rsinθ，其中，r为平面坐标系中的点在极坐标系下对应点的极径，θ为平面坐标系中的点在极坐标系下对应点的极角；将上式整理得：

当P为95％时，转换因子k与误差椭圆扁平率ratio的关系为：当误差椭圆扁平率趋于1时，转换因子为2.4477，当误差椭圆扁平率趋于无穷时，转换因子为1.9625；则将转换因子k关于误差椭圆扁平率ratio的曲线拟合为下式：

步骤6.6：根据实际导航性能的定义，ANP值的计算公式如下：

ANP＝k*max(λ₁,λ₂)

其中，转换因子k的取值不为定值，与误差椭圆扁平率有关。

Images