CN108133028A - 基于视频分析与定位信息结合的航空器挂牌方法 - Google Patents
基于视频分析与定位信息结合的航空器挂牌方法 Download PDFInfo
- Publication number
- CN108133028A CN108133028A CN201711463575.7A CN201711463575A CN108133028A CN 108133028 A CN108133028 A CN 108133028A CN 201711463575 A CN201711463575 A CN 201711463575A CN 108133028 A CN108133028 A CN 108133028A
- Authority
- CN
- China
- Prior art keywords
- aircraft
- target
- coordinate
- listed
- matching
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/29—Geographical information databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
- G06T7/251—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/277—Analysis of motion involving stochastic approaches, e.g. using Kalman filters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Abstract
本发明涉及一种基于视频分析与定位信息结合的航空器挂牌方法,包括获取已知航空器信息、视频监视、目标匹配和航空器挂牌等步骤,将已知航空器经纬度坐标转换为图像坐标系坐标,依据视频监视图像形成全景图像,对全景图像进行以航空器为目标的目标识别和目标跟踪,在全景图像中识别出航空器目标并将其与已知航空器进行匹配,建立两者之间的匹配或对应关系,采用视频监视获得的航空器目标的坐标、宽高及与其匹配的已知航空器的航班号进行航空器挂牌,由此实现了航空器挂牌的准确性、可靠性以及平滑、流畅的追视效果。
Description
技术领域
本发明公开了一种基于视频分析与定位信息结合的航空器挂牌方法,属机场和空中交通管理技术领域。
背景技术
目前航空器挂牌有两种实现方式:一种是使用定位系统,如采用广播式自动相关监视(Automatic Dependent Surveillance–Broadcast,ADS-B)技术等直接获取航空器的航空器ID、经纬度信息等,依此对航空器进行挂牌。另一种是使用飞行区全景视频监视系统,基于视频分析的多目标跟踪算法识别出视频图像中的航空器,对航空器进行挂牌。
其中,广播式自动相关监视是一种无须人工操作或询问,可以自动地由ADS-B机载设备获取相关信息并向其他飞机和地面站广播所在航空器的识别号(例如,航空器ID)以及位置、高度、速度和航向等信息,以供管制人员对飞机状态进行监控。飞行区全景视频监控则是通过图像拼接技术将多个相机拍摄到有重叠区域的图像拼接成一幅大型无缝高分辨率的图像,以实现对飞行区全景的监看。在全景视频中使用多目标跟踪算法,可实现对图像中存在的航空器目标的位置信息进行标识。
然而,上述两种方法各有其局限性和不足。例如,基于定位信息的航空器挂牌技术实现起来较为简单。但此方法依赖于定位信息的准确性和实时性。目前我国有些航空器并未挂载具有相关设备,因此定位系统无法获取这些航空器的位置信息。另外,同一航空器的定位信息存在一定的发送间隔,这会导致挂牌结果不平滑,出现跳跃的情况。基于视频分析的航空器挂牌算法可以实现平滑的追视,结果清晰流畅。然而,航空器ID信息无法直接从视频中获取,而是还需要借助其他的输入源,导致效果不理想。另外,这类算法的准确性严重依赖于多目标跟踪算法,若出现雾天、目标较小等情况可能导致航空器未被检测,或者由于其他因素的干扰可能造成的误检,都会导致挂牌结果不理想。
发明内容
为克服现有技术的上述缺陷,本发明提供了一种基于视频分析与定位信息结合的航空器挂牌方法,以提高航空器挂牌的准确性和可靠性,实现平滑、流畅的追视效果。
本发明的技术方案是:一种基于视频分析与定位信息结合的航空器挂牌方法,包括下列步骤:
获取已知航空器信息(获悉已知航空器):接收航空器定位系统的信息(例如,ADS-B机载设备发出的相关信息,可称为ADS-B数据)并进行解析,获得定位系统的已知航空器信息,所述已知航空器信息包括已知航空器ID(航班号或其他识别信息)及其经纬度坐标,将已知航空器的经纬度坐标转换为图像坐标系坐标;
视频监视:采用视频监视系统进行飞行区的视频监视,依据视频监视系统采集的视频图像形成全景图像,对全景图像进行以航空器为目标的目标识别和目标跟踪,对识别出的航空器目标计算出图像坐标系坐标并赋予视频监视代码;
目标匹配:依据或主要依据图像坐标系坐标,将视频监视系统识别出的航空器目标与已知航空器(经解析定位系统的信息所获得的已知航空器信息)进行匹配运算,建立航空器目标与已知航空器之间的匹配关系(或称对应关系);
航空器挂牌:依据视频监视系统识别出的航空器目标和定位系统的已知航空器及其相互间匹配关系进行航空器挂牌,当一个航空器目标有匹配的已知航空器时,以该已知航空器的ID为识别码、以该航空器目标的坐标为坐标、以该航空器目标的宽高为宽高进行航空器挂牌;当一个航空器目标没有匹配的已知航空器时,以该航空器目标的视频监视代码为识别码、以该航空器目标的坐标为坐标、以该航空器目标的宽高为宽高进行航空器挂牌;当一个已知航空器没有匹配的航空器目标时,以该已知航空器的ID为识别码、以该已知航空器的坐标为坐标、以该已知航空器的宽高经验值或设定值为宽高进行航空器挂牌。
挂牌后,如果一个已知航空器消失了(指该航空器从航空器定位系统的信息中消失或解析不到)且该已知航空器在消失前有与之匹配的航空器目标,可在相应挂牌信息中保留或继续采用该已知航空器ID,在与其匹配的航空器目标消失(指该航空器目标从全景图像消失或识别不到)后,取消相应的航空器挂牌;如果一个已知航空器消失了且该已知航空器在消失前没有与之匹配的航空器目标,可取消相应的航空器挂牌;如果一个航空器目标消失了且该航空器目标在消失前有与之匹配的已知航空器,可在挂牌信息中保留或继续采用该航空器目标的宽高,采用与其匹配的已经航空器的坐标,在与其匹配的已知航空器消失后,取消相应的航空器挂牌;如果一个航空器目标消失了且该航空器目标在消失前没有与之匹配的已知航空器,可取消相应的航空器挂牌。
在航空器目标与已知航空器之间的匹配关系发生变化,优选采用下列方式修改航空器挂牌信息:如上一帧图像中航空器目标A与已知航空器X匹配,如当前帧图像中航空器目标A与已知航空器Y匹配,将对应于航空器目标A的航空器挂牌信息中的航空器识别码修改为已知航空器Y的ID,如当前帧中没有与航空器目标A匹配的已知航空器,将对应于航空器目标A的航空器挂牌信息中的航空器识别码修改为航空器目标A的视频监视代码。
优选通过坐标映射方式将已知航空器经纬度坐标转换为图像坐标系坐标。具体可以包括:
1)在全景图像上选取不少于4个标定点,且其中至少有4个标定点不共面;
2)对于任一待转换坐标的点,选取其周围最邻近的4个不共面的标定点,依据这4个标定点的经纬度坐标和图像坐标系坐标,计算出将经纬度坐标映射到图像坐标系坐标的单应矩阵;
3)依据上述单应矩阵和该待转换坐标的点的经纬度坐标,计算获得该点的图像坐标系坐标。
在对全景图像进行以航空器为目标的目标识别和目标跟踪中,优选采用混合高斯背景建模算法进行运动目标的提取,优选采用卡尔曼滤波算法对当前帧中所提取的各运动目标进行下一帧位置的预测,将各运动目标在下一帧中的预测位置与从下一帧中提取出的各运动目标进行匹配,得到运动目标的连续运动信息。
采用混合高斯背景建模算法进行运动目标提取的方式可以包括:
1)将第一帧图像用作参数初始化,对每个像素的单高斯分布均值、方差以及权重进行初始化赋值,根据需要,对其他参数值亦进行初始化;
2)从第二帧图像开始更新每个像素的单高斯分布模型,如果当前像素值与该像素之前建立的某个单高斯分布相匹配,则更新其均值、方差以及权重,如果没有匹配的模型,添加新的单高斯分布替换原模型中权值最小的单高斯分布,以当前像素点作为前景像素点;
3)更新完高斯模型之后,按照优先级系数由大到小顺序排列单高斯分布模型,以排序选择若干分布作为背景模型;
4)将前景图像和背景图像二值化处理,例如,前景像素点像素值为255(白色),背景像素点赋值为0(黑色);
5)为了使得前景目标更加突出,采用先腐蚀后膨胀的形态学方式处理前景图像。
依据设定的标准,忽视太大或太小的目标,其优选采用近大远小的方式限制目标大小的标准。
优选以下列方式进行航空器目标出现和消失的判断:当连续多帧出现相互匹配的新的符合航空器特征的运动目标时,将该运动目标作为新出现的航空器目标,当连续多帧为检测到对应于某一航空器目标的运动目标时,认为该航空器目标消失,具体帧数可以依据实际控制要求及系统精度等因素确定。
可以采用匀速线性模型来描述每一个目标的运动模型。
优选对每一帧图像都进行航空器目标与已知航空器的匹配,这样即使出现错误的匹配,也可以在交错的目标分开后成功匹配。
本发明的有益效果是:结合了现有技术下的已知航空器信息和飞行区全景视频监视信息,最大限度地兼顾了全景图像中目标跟踪平滑流畅的优点和航空器定位监视系统航空器ID准确和航空器信息可靠等优点;由于挂牌航空器中包括了全景视频监视中没有获得的航空器和定位信息中没有记载的航空器目标,有利于在某些特殊情况下,例如出现雾天和目标较小等,出现航空器漏检,或者由于其他因素的干扰可能造成的误检。
附图说明
图1是本发明的流程示意图;
图2是本发明涉及多目标跟踪算法的流程示意图;
图3是本发明挂牌结果的示意图。
具体实施方式
下面结合附图,主要以航班为例,对本发明做进一步说明。
如图1-3所示,本发明涉及一种基于视频分析与定位信息结合的航空器挂牌方法,需要完成已知航空器的航班信息的获取、经纬度坐标到图像坐标的映射、视频监视系统使用多目标跟踪算法检测出航空器目标、经纬度信息与目标跟踪的结果的匹配(已知航空器与航空器目标之间的匹配),整体流程如下(参见图1):
步骤一、航班信息的获取
航班信息主要包含已知航空器的航空器ID(航班号或其他识别信息)、经纬度信息等,通过接收定位系统的信息并解析,即可获取航班信息。
步骤二、经纬度信息到图像坐标的映射
经纬度信息到图像坐标的映射方法如下:
1)预先在原图中标定N个点,得到这些点的经纬度坐标(λ,L)和与其对应的图像坐标(u,v),N越大,精度越高;
2)由于经纬度坐标与图像坐标是一一对应的,使用单应矩阵来描述这种对应关系。当选定一个待求图像坐标的经纬度的点时,先求其周围最邻近的4组标定点,通过这4组标定点解除单应矩阵,再用单应矩阵求出该点对应的图像坐标。
单应矩阵是H具有8个自由度,是一个3×3的矩阵,它的形式如下:
图像与经纬度之间的变换关系为:
式中s为一个任意尺度比例;λ为经度,L为纬度;u和v为图像平面空间的横坐标和纵坐标值。
将式(12)展开,可得式(13):
将式(13)进一步变换可得公式(14):
其中h=(h11,h12,h13,h21,h22,h23,h31,h32)T。因此,求出h中(或H中)8个参数即可确定投影矩阵,两平面之间的投影矩阵可由4组以上匹配点算出,但至少有三点不共线。求出单应矩阵后,每输入一组经纬度可以根据公式(13)计算出对应的图像坐标。
通过公式(14)可以得到公式(15):
Ah=b (15)
其中
式中,各坐标(λ、L、u和v)所带的下标数字是所用4个匹配点的相应坐标的编号。
最终根据公式(17)可以求得单应矩阵各参数:
h=(ATA)-1ATb (17)
步骤三、多目标跟踪算法
首先使用混合高斯背景建模对运动的目标进行提取,接着使用卡尔曼滤波对这些目标在下一帧可能出现的位置进行预测,再使用下一帧中实际出现的目标与这些预测的位置进行匹配,得到目标连续运动的信息,算法流程(参见图2)如下。
1、目标检测
使用基于混合高斯背景建模的算法进行运动目标检测。
混合高斯背景建模是一种基于像素样本统计信息的算法,它能够动态适应背景变化,尤其是光线的变化建立多峰分布的背景模型,该算法的优点是效率极高,能够迅速检测出视频中移动目标。它的核心思想是每个像素建立多个单高斯分布组成的模型,然后使用统计差分进行目标像素的判断。这些单高斯分布模型及其参数会根据当前像素值实时地更新和替换,从而适应新的变化,公式(1)表示的是单高斯分布的概率密度函数:
式中,x表示由当前像素RGB值组成的向量;μ是均值向量,也表示单高斯模型均值;∑为单高斯模型方差。其中均值代表单峰分布的中心,方差代表单峰分布宽度。
混合高斯模型是由M个公式(1)表示的单高斯模型线性组合而成,增大M可以更好的拟合背景模式,提高鲁棒性,但计算量会成比例增加。因此选择3个背景模型,公式(2)表示混合高斯模型线性组合:
式中,ωi,t表示第i个单高斯分布模型在t时刻的权值,xt为t时刻像素值,μi,t为第i个分布在t时刻的均值。同理为第i个分布在t时刻的方差。
通过遍历每个像素点建立其对应的模型,当有运动目标时,目标像素值与背景模型进行匹配,根据公式(3)判断当前像素是否匹配之前建立的M个高斯模型:
其中,τσ是标准差倍数,这个参数需要初始化时进行设置。
假设存在当前像素值匹配的模型,则更新匹配的模型参数,这些参数包括均值、方差以及权重,具体步骤为:
1)更新高斯模型均值
μi,t=(1-ρ)μi,t-1+ρxt (4)
其中,ρ为学习因子,是其值由公式(5)得到:
ρ=α/ωi,t-1 (5)
式中:α为单高斯分布对应权重的学习率,其值越小,权重更新越慢,反之更新的越快。
2)更新高斯模型方差
方差更新,其更新计算公式为(6):
3)更新高斯模型对应的权重
除了更新均值和方差,高斯分布对应的权重也要更新。如果匹配某个模型,则增大该模型的权重。
ωi,t=(1-α)ωi,t-1+αMi,t (7)
其中,Mi,t代表影响因子,其值是0或1。当检测的像素值与之前像素建立的单高斯模型不匹配,其值为0;反之像素值与模型匹配时其值为1;当多个模型匹配的时候选择最匹配的一个,设置其影响因子值为1。
更新完权重后需要对所有权重归一化处理,归一化公式为:
如果当前像素值没有匹配的单高斯分布模型,需要建立新的单高斯分布模型。为了保证模型数量不超过3个,将权重最小的单模型从原有的模型集合中删除;为了降低噪声干扰,新添加的单高斯分布的权重是三个模型权重中值最小的;新添加的单高斯分布模型均值为该像素当前的均值,方差则给定一个初始方差值。
更新完高斯模型后需要评判其作为背景模型的优先级,评判的标准是按照ωi,t/σi,t数值的大小,ωi,t/σi,t可被称为优先级系数,其值越大,对应的模型作为背景模型概率越高。具体过程为:
1)首先计算每个分布的优先级系数;
2)按照系数大小从高到低排序;
3)最后从M个模型中选择N个分布作为背景模型,参见公式(9):
式中T表示估计背景的最小阈值,阈值的大小决定单高斯分布的数量,如果设置阈值T太小,有可能导致只有一个分布作为背景模型。而单高斯分布对背景的变化十分灵敏,光线的渐变会被误认为前景目标,从而使得混合高斯背景建模失去应该有的优点;反之,如果阈值T设置太大,与背景颜色相近的运动目标就有可能无法提取为前景,从而导致检测和跟踪目标失败。综上所述,最小阈值T取值需要根据混合高斯背景建模使用的环境灵活调整,不能设置太大或太小。
采用混合高斯背景建模检测运动目标前景的方法包括以下步骤:
1)第一帧图像用作参数初始化,对每个像素的单高斯分布均值、方差以及权重初始化赋值,另外将其他参数值初始化;
2)从第二帧图像开始更新每个像素的单高斯分布模型,如果当前像素值与该像素之前建立的某个单高斯分布相匹配,则根据公式(4)-(6)更新其均值、方差以及权重。假如没有匹配的模型,添加新的单高斯分布替换原模型中权值最小的单高斯分布,当前像素作为前景点;
3)更新完高斯模型之后按照优先级系数由大到小顺序排列单高斯分布模型,然后选择N个分布作为背景模型;
4)将前景和背景图像二值化处理,前景像素点像素值为255(白色),背景像素点赋值为0(黑色)。
5)为了使得前景目标更加突出,采用先腐蚀后膨胀的形态学方式处理前景图像。
由于混合高斯模型对所有运动目标都很敏感,通常应对图中的检测区域、目标大小等因素加以限制,在全景图像中,由于场景宏大,采用近大远小的方式限制目标大小,忽视太大或太小的目标。
2、估计模型
使用目标模型(例如外观表示、运动模型)来在下一帧中确认目标的身份。这里采用匀速线性模型来描述每一个目标的运动模型,目标的状态描述如公式(10):
这里,u和v表示目标中心的水平和竖直坐标,s和r分别表示目标的面积和方向性(即宽高比),宽高比被认为是一个常数,而分别表示对应量的变化值或时间变化率(相应坐标方向上的速度分量)。当检测算法与目标关联时,当目标的运动速度是近似匀速时,可以通过卡尔曼滤波预测下一帧中目标所在的位置,而下一帧的检测将作为新的输入对速度进行更新。
3、数据关联
各运动目标在下一帧中的预测位置与从下一帧中提取出的各运动目标进行匹配。对当前帧中的各运动目标,使用它在下一帧中的预测位置作为它的位置和几何信息,下一帧中的预测目标与提取目标的面积交并比(intersection-over-union,IOU)作为两者之间的代价矩阵。这个指派问题(或者成为加权的二部图匹配问题)使用匈牙利算法就行求解。
而如果IOU太小,即使被匹配上,也不会对它们指派。
对于新出现的运动目标,创建一个可能的目标,当满足连续若干帧被指派给该目标时,则认为这是一个新出现的目标;而当连续若干帧未检测到与某目标匹配的检测结果时,则认为该目标消失了。
步骤四、视频监视与已知航空器信息结合
已知航空器信息包含已知航空器的航空器ID、目标发射点的经纬度坐标(已被转化为图像坐标)等信息,已知航空器信息包含的信息量大,而且可靠性高,但发送间隔较大,且并非所有航空器都能发送该信息。
视频监视的结果包含航空器目标的视频监视代码,目标的大小和位置,视频监视结果具有实时性高,轨迹平滑等优点,但无法获得航空器ID,且无法检测出静止不动的目标。
将两者的优点相结合,不仅能获得航空器ID,还能得到稳定连续的位置信息和大小。
视频监视的结果与航空器信息可以被认为是指派问题,使用航空器信息中经纬度转化得到的图像坐标点与视频监视结果中的航空器目标的中心点坐标之间的距离作为权重,求二部图匹配,挂牌结果如图3所示。
相关算法如下:
1、二部图匹配相关概念
二部图:二部图又称作二分图,是图论的一种特殊模型。设G=(V,E)是一个无向图,如果定点V可分割为两个互不相交的子集(A,B),并且图中每条边(i,j)所关联的两个定点和分别属于这两个不同的顶点集(i in A,j in B),则称G为一个二分图。
匹配:设G是一个图,由G中一些不相邻的边组成的集合M成为G的一个匹配。对匹配M中的每条边e=uv,其两端点u和v称为被匹配M所匹配,而u和v都称为是M饱和的。
增广路:设M是图G的一个匹配,G的一条M交错路是指其边在M和E(G)-M中交替出现的路。如果G的一条M交错路的起点和终点都是M非饱和的,则称其位M可扩展路或增广路。
定理1:(Berge,1957)图G中的一个匹配M是最大匹配的充分必要条件是G中不存在M增广路。
定理2:(Hall,1935)设G是具有二划分(X,Y)的二部图,则G有饱和X的匹配当且仅当对其中N(S)表示S所有临点之集。
推论:(Forbenius,1917)具有二划分(X,Y)的二部图G有完美匹配的充分必要条件是|X|=|Y|且对(或Y),均有IN(S)≥|S|。
2、匈牙利算法
匈牙利算法是由匈牙利数学家Edmonds于1965年提出,因而得名。匈牙利算法是基于Hall定理中充分性证明的思想,它是二部图匹配最常见的算法,该算法的核心就是寻找增广路径,它是一种用增广路径求二分图最大匹配的算法。算法流程如下:
输入:二部图G=(X,Y)。
输出:G的一个最大匹配。
第0步:任取图G的一个匹M,设X中M非饱和点的集合为A。
第1步:若则停止,输出当前的M(最大匹配);否则,任取x∈A(一个M非饱和点),记S:={x},转下一步;
第2步:若则不存在从x出发的M的增广路,令A:=A-{x},转第1步,否则,取y∈N(S)-T,转下步。
第3步:若y是M饱和的,设yz∈M,令S:=SU{z},T:=TU{y},转第2步,否则获得一条M增广路P(x,y),令A:=A-{x,y},转第1步。
3、KM算法
KM算法,即Kuhn-Munkres算法,是一种求完备匹配下的最大权匹配的算法。是匈牙利算法的一种扩展。其算法流程如下:
输入:二部图G=(X,Y)及个边上的权(矩阵)
输出:G的一个最大权匹配。
第0步:给图G=(X,Y)添加一些定点和权为0的边,使其成为赋权完全二部图,记为G。
第1步:从G的任何一个可行的定点标号1开始,求出相等子图Gl。
第2步:在Gl中执行匈牙利算法,如果求得的Gl的一个完美匹配M,则输出M,算法停止;否则,匈牙利算法必将终止于两个集合且NGl(S)=T,此时转下一步。
第3步:按上篇提到的计算al,并计算G的新的可行定点标号l′,以l′代替l,Gl″代替Gl,转第2步。
4、匹配策略
用M条已知航空器信息与N个航空器目标跟踪结果之间距离作为权重(M×N的矩阵),使用KM算法进行匹配。对于匹配后的结果,还需移除距离超过某个阈值的匹配,认为它们是未匹配的。
对于每一次匹配可能出现以下三种情况:
1)航空器目标与已知航空器信息成功匹配上。这时目标的位置信息和宽高按照航空器目标的结果给出,航空器ID按照已知航空器给出;
2)有航空器目标,但是没有与之匹配的已知航空器信息。这可能是由于航空器信息缺失造成的。这时目标的位置信息和宽高按照航空器目标给出,航空器ID使用航空器目标的视频监视代码填充;
3)有已知航空器信息,但是没有与之匹配的航空器目标。这可能是因为目标静止,或因为图像质量问题导致的目标未分析出来造成的。这时,目标的位置信息按照已知航空器信息的中心点给出,航空器ID按照已知航空器信息给出,目标的宽高按照预先设定的经验值给出。
为了纠正目标靠近或交错导致的匹配错误,对每一帧图像和已知航空器信息都进行匹配,这样即使出现错误的匹配,也可以在交错的目标分开后成功匹配。
在运行过程中,有可能出现以下三种情况:
1)已知航空器信息中途消失。这时,如果之前有与该航空器ID匹配的航空器目标,则使用该航空器目标的位置和宽高,保留消失前已知航空器的航空器ID,直到该目标消失;
2)航空器目标中途消失。这时,如果之前有与该航空器目标匹配的已知航空器信息,则使用该已知航空器的中心点和航空器ID,但目标的宽高保留为目标消失前的宽高,直到该已知航空器消失或超出边界;
3)匹配状态发生改变。例如上一帧已知航空器X与航空器目标A匹配,这一帧中已知航空器X与航空器目标B相匹配。如果存在已知航空器Y与航空器目标A匹配,则使用A的位置和宽高以及Y的航空器ID作为航空器目标A的挂牌信息;如果没有别的航空器信息与A匹配,则使用A的位置和宽高以及A的视频监视代码作为航空器目标A的挂牌信息。
总之,航空器挂牌的结果是航空器目标与已知航空器信息结果的综合。它结合了目标跟踪的平滑流畅的特点和航空器信息准确以及包含航空器ID等优点,弥补了对方的一些天然缺陷,得到更加平滑准确的结果。
本说明书所称航空器挂牌是指将航空器纳入实时的空中飞行监视和管制中并显示其识别号和坐标等信息。
本发明涉及的航空器主要是飞机,特别是飞机航班,为表述和理解上的便利,本说明书所称飞机或航班均表示包括飞机在内的所涉及的各种航空器,除非特别说明或依据现有技术可获悉不适应于表示飞机之外的航空器时。
本发明公开的各优选和可选的技术手段,除特别说明外及一个优选或可选技术手段为另一技术手段的进一步限定外,均可以任意组合,形成若干不同的技术方案。
Claims (10)
1.一种基于视频分析与定位信息结合的航空器挂牌方法,包括下列步骤:
获取已知航空器信息:接收航空器定位系统的信息并进行解析,获得定位系统的已知航空器信息,所述已知航空器信息包括已知航空器ID及其经纬度坐标,将已知航空器的经纬度坐标转换为图像坐标系坐标;
视频监视:采用视频监视系统进行飞行区的视频监视,依据视频监视系统采集的视频图像形成全景图像,对全景图像进行以航空器为目标的目标识别和目标跟踪,对识别出的航空器目标计算出图像坐标系坐标并赋予视频监视代码;
目标匹配:依据或主要依据图像坐标系坐标,将视频监视系统识别出的航空器目标与已知航空器进行匹配运算,建立航空器目标与已知航空器之间的匹配关系;
航空器挂牌:依据视频监视系统识别出的航空器目标和定位系统的已知航空器及其相互间匹配关系进行航空器挂牌,当一个航空器目标有匹配的已知航空器时,以该已知航空器的ID为识别码、以该航空器目标的坐标为坐标、以该航空器目标的宽高为宽高进行航空器挂牌;当一个航空器目标没有匹配的已知航空器时,以该航空器目标的视频监视代码为识别码、以该航空器目标的坐标为坐标、以该航空器目标的宽高为宽高进行航空器挂牌;当一个已知航空器没有匹配的航空器目标时,以该已知航空器的ID为识别码、以该已知航空器的坐标为坐标、以该已知航空器的宽高经验值或设定值为宽高进行航空器挂牌。
2.如权利要求1所述的方法,其特征在于挂牌后,如果一个已知航空器消失了且该已知航空器在消失前有与之匹配的航空器目标,在相应挂牌信息中保留或继续采用该已知航空器ID,在与其匹配的航空器目标消失后,取消相应的航空器挂牌;如果一个已知航空器消失了且该已知航空器在消失前没有与之匹配的航空器目标,取消相应的航空器挂牌;如果一个航空器目标消失了且该航空器目标在消失前有与之匹配的已知航空器,在挂牌信息中保留或继续采用该航空器目标的宽高,采用与其匹配的已知航空器的坐标,在与其匹配的已知航空器消失后,取消相应的航空器挂牌;如果一个航空器目标消失了且该航空器目标在消失前没有与之匹配的已知航空器,取消相应的航空器挂牌。
3.如权利要求1所述的方法,其特征在于在航空器目标与已知航空器之间的匹配关系发生变化时,采用下列方式修改航空器挂牌信息:如上一帧图像中航空器目标A与已知航空器X匹配,如当前帧图像中航空器目标A与已知航空器Y匹配,将对应于航空器目标A的航空器挂牌信息中的航空器识别码修改为已知航空器Y的ID,如当前帧中没有与航空器目标A匹配的已知航空器,将对应于航空器目标A的航空器挂牌信息中的航空器识别码修改为航空器目标A的视频监视代码。
4.如权利要求1、2或3所述的方法,其特征在于通过坐标映射方式将已知航空器经纬度坐标转换为图像坐标系坐标,具体包括:
在全景图像上选取不少于4个标定点,且其中至少有4个标定点不共面;
对于任一待转换坐标的点,选取其周围最邻近的4个不共面的标定点,依据这4个标定点的经纬度坐标和图像坐标系坐标,计算出将经纬度坐标映射到图像坐标系坐标的单应矩阵;
依据上述单应矩阵和该待转换坐标的点的经纬度坐标,计算获得该点的图像坐标系坐标。
5.如权利要求4所述的方法,其特征在于在对全景图像进行以航空器为目标的目标识别和目标跟踪中,采用混合高斯背景建模算法进行运动目标的提取,采用卡尔曼滤波算法对当前帧中所提取的各运动目标进行下一帧位置的预测,将各运动目标在下一帧中的预测位置与从下一帧中提取出的各运动目标进行匹配,得到运动目标的连续运动信息。
6.如权利要求5所述的方法,其特征在于采用混合高斯背景建模算法进行运动目标提取的方式包括:
将第一帧图像用作参数初始化,对每个像素的单高斯分布均值、方差以及权重进行初始化赋值;
从第二帧图像开始更新每个像素的单高斯分布模型,如果当前像素值与该像素之前建立的某个单高斯分布相匹配,则更新其均值、方差以及权重,如果没有匹配的模型,添加新的单高斯分布替换原模型中权值最小的单高斯分布,以当前像素点作为前景像素点;
更新完高斯模型之后,按照优先级系数由大到小顺序排列单高斯分布模型,以排序选择若干分布作为背景模型;
将前景图像和背景图像二值化处理;
采用先腐蚀后膨胀的形态学方式处理前景图像。
7.如权利要求6所述的方法,其特征在于依据设定的标准,忽视太大或太小的目标,且采用近大远小的方式限制目标大小的标准。
8.如权利要求7所述的方法,其特征在于以下列方式进行航空器目标出现和消失的判断:当连续多帧出现相互匹配的新的符合航空器特征的运动目标时,将该运动目标作为新出现的航空器目标,当连续多帧未检测到对应于某一航空器目标的运动目标时,认为该航空器目标消失。
9.如权利要求4所述的方法,其特征在于采用匀速线性模型来描述每一个目标的运动模型。
10.如权利要求4所述的方法,其特征在于对每一帧图像都进行航空器目标与已知航空器的匹配。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711463575.7A CN108133028B (zh) | 2017-12-28 | 2017-12-28 | 基于视频分析与定位信息结合的航空器挂牌方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711463575.7A CN108133028B (zh) | 2017-12-28 | 2017-12-28 | 基于视频分析与定位信息结合的航空器挂牌方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108133028A true CN108133028A (zh) | 2018-06-08 |
CN108133028B CN108133028B (zh) | 2020-08-04 |
Family
ID=62393785
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711463575.7A Active CN108133028B (zh) | 2017-12-28 | 2017-12-28 | 基于视频分析与定位信息结合的航空器挂牌方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108133028B (zh) |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109670462A (zh) * | 2018-12-24 | 2019-04-23 | 北京天睿空间科技股份有限公司 | 基于定位信息的航空器跨全景持续跟踪方法 |
CN111009008A (zh) * | 2019-12-06 | 2020-04-14 | 南京莱斯电子设备有限公司 | 一种基于自学习策略的机场飞机自动挂标方法 |
CN111210459A (zh) * | 2020-01-08 | 2020-05-29 | 北京天睿空间科技股份有限公司 | 一种利用先验知识的大场景内运动目标检测方法 |
CN111210457A (zh) * | 2020-01-08 | 2020-05-29 | 北京天睿空间科技股份有限公司 | 一种视频分析与定位信息结合的航空器挂牌方法 |
CN111523424A (zh) * | 2020-04-15 | 2020-08-11 | 上海摩象网络科技有限公司 | 人脸跟踪方法及人脸跟踪设备 |
CN111814654A (zh) * | 2020-07-03 | 2020-10-23 | 南京莱斯信息技术股份有限公司 | 基于马尔可夫随机场的远程塔台视频目标挂标牌方法 |
CN111914049A (zh) * | 2020-07-29 | 2020-11-10 | 北京天睿空间科技股份有限公司 | 经纬度坐标与图像坐标映射方法 |
CN112130946A (zh) * | 2020-09-22 | 2020-12-25 | 西安宇视信息科技有限公司 | 一种飞机信息展示方法、装置、电子设备和存储介质 |
CN112295109A (zh) * | 2020-10-20 | 2021-02-02 | 北京理工大学 | 一种治疗光控制方法和使用其的光动力治疗装置 |
CN112649803A (zh) * | 2020-11-30 | 2021-04-13 | 南京航空航天大学 | 一种基于互相关系数的摄像机与雷达目标匹配方法 |
CN113287597A (zh) * | 2021-05-20 | 2021-08-24 | 河南天通电力有限公司 | 一种基于视频研判的输电线路主动驱鸟装置 |
CN113642463A (zh) * | 2021-08-13 | 2021-11-12 | 广州市赋安电子科技有限公司 | 一种视频监控和遥感图像的天地多视图对齐方法 |
CN113673330A (zh) * | 2021-07-14 | 2021-11-19 | 海南视联通信技术有限公司 | 一种监控显示方法、装置、电子设备及存储介质 |
CN113763416A (zh) * | 2020-06-02 | 2021-12-07 | 璞洛泰珂(上海)智能科技有限公司 | 基于目标检测的自动贴标与跟踪方法、装置、设备和介质 |
CN114526748A (zh) * | 2021-12-24 | 2022-05-24 | 重庆长安汽车股份有限公司 | 基于二分图的驾驶目标关联方法、系统、车辆及存储介质 |
CN114821494A (zh) * | 2022-06-27 | 2022-07-29 | 杭州声飞光电技术有限公司 | 船舶信息匹配方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6330523B1 (en) * | 1996-04-24 | 2001-12-11 | Cyra Technologies, Inc. | Integrated system for quickly and accurately imaging and modeling three-dimensional objects |
CN103544852A (zh) * | 2013-10-18 | 2014-01-29 | 中国民用航空总局第二研究所 | 一种在机场场面监视视频中实现飞机自动挂标牌的方法 |
CN105164698A (zh) * | 2013-05-07 | 2015-12-16 | 皇家飞利浦有限公司 | 视频分析设备和操作视频分析设备的方法 |
US9243916B2 (en) * | 2013-02-21 | 2016-01-26 | Regents Of The University Of Minnesota | Observability-constrained vision-aided inertial navigation |
CN105472332A (zh) * | 2015-12-01 | 2016-04-06 | 杨春光 | 基于定位技术与视频技术的分析方法及其分析系统 |
-
2017
- 2017-12-28 CN CN201711463575.7A patent/CN108133028B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6330523B1 (en) * | 1996-04-24 | 2001-12-11 | Cyra Technologies, Inc. | Integrated system for quickly and accurately imaging and modeling three-dimensional objects |
US9243916B2 (en) * | 2013-02-21 | 2016-01-26 | Regents Of The University Of Minnesota | Observability-constrained vision-aided inertial navigation |
CN105164698A (zh) * | 2013-05-07 | 2015-12-16 | 皇家飞利浦有限公司 | 视频分析设备和操作视频分析设备的方法 |
CN103544852A (zh) * | 2013-10-18 | 2014-01-29 | 中国民用航空总局第二研究所 | 一种在机场场面监视视频中实现飞机自动挂标牌的方法 |
CN105472332A (zh) * | 2015-12-01 | 2016-04-06 | 杨春光 | 基于定位技术与视频技术的分析方法及其分析系统 |
Non-Patent Citations (2)
Title |
---|
唐勇: "一种在机场视频中实现飞机自动挂标牌的新方法", 《江苏大学学报》 * |
王辉: "复杂场景下多摄像机运动目标连续跟踪的方法", 《中国优秀硕士学位论文全文数据库信息科技辑》 * |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109670462A (zh) * | 2018-12-24 | 2019-04-23 | 北京天睿空间科技股份有限公司 | 基于定位信息的航空器跨全景持续跟踪方法 |
CN109670462B (zh) * | 2018-12-24 | 2019-11-01 | 北京天睿空间科技股份有限公司 | 基于定位信息的航空器跨全景持续跟踪方法 |
CN111009008A (zh) * | 2019-12-06 | 2020-04-14 | 南京莱斯电子设备有限公司 | 一种基于自学习策略的机场飞机自动挂标方法 |
WO2021109457A1 (zh) * | 2019-12-06 | 2021-06-10 | 南京莱斯电子设备有限公司 | 一种基于自学习策略的机场飞机自动挂标方法 |
CN111210459A (zh) * | 2020-01-08 | 2020-05-29 | 北京天睿空间科技股份有限公司 | 一种利用先验知识的大场景内运动目标检测方法 |
CN111210457A (zh) * | 2020-01-08 | 2020-05-29 | 北京天睿空间科技股份有限公司 | 一种视频分析与定位信息结合的航空器挂牌方法 |
CN111210457B (zh) * | 2020-01-08 | 2021-04-13 | 北京天睿空间科技股份有限公司 | 一种视频分析与定位信息结合的航空器挂牌方法 |
CN111523424A (zh) * | 2020-04-15 | 2020-08-11 | 上海摩象网络科技有限公司 | 人脸跟踪方法及人脸跟踪设备 |
CN113763416A (zh) * | 2020-06-02 | 2021-12-07 | 璞洛泰珂(上海)智能科技有限公司 | 基于目标检测的自动贴标与跟踪方法、装置、设备和介质 |
CN111814654A (zh) * | 2020-07-03 | 2020-10-23 | 南京莱斯信息技术股份有限公司 | 基于马尔可夫随机场的远程塔台视频目标挂标牌方法 |
CN111814654B (zh) * | 2020-07-03 | 2023-01-24 | 南京莱斯信息技术股份有限公司 | 基于马尔可夫随机场的远程塔台视频目标挂标牌方法 |
CN111914049A (zh) * | 2020-07-29 | 2020-11-10 | 北京天睿空间科技股份有限公司 | 经纬度坐标与图像坐标映射方法 |
CN112130946A (zh) * | 2020-09-22 | 2020-12-25 | 西安宇视信息科技有限公司 | 一种飞机信息展示方法、装置、电子设备和存储介质 |
CN112130946B (zh) * | 2020-09-22 | 2024-03-26 | 西安宇视信息科技有限公司 | 一种飞机信息展示方法、装置、电子设备和存储介质 |
CN112295109A (zh) * | 2020-10-20 | 2021-02-02 | 北京理工大学 | 一种治疗光控制方法和使用其的光动力治疗装置 |
CN112649803A (zh) * | 2020-11-30 | 2021-04-13 | 南京航空航天大学 | 一种基于互相关系数的摄像机与雷达目标匹配方法 |
CN112649803B (zh) * | 2020-11-30 | 2024-02-13 | 南京航空航天大学 | 一种基于互相关系数的摄像机与雷达目标匹配方法 |
CN113287597A (zh) * | 2021-05-20 | 2021-08-24 | 河南天通电力有限公司 | 一种基于视频研判的输电线路主动驱鸟装置 |
CN113673330A (zh) * | 2021-07-14 | 2021-11-19 | 海南视联通信技术有限公司 | 一种监控显示方法、装置、电子设备及存储介质 |
CN113642463A (zh) * | 2021-08-13 | 2021-11-12 | 广州市赋安电子科技有限公司 | 一种视频监控和遥感图像的天地多视图对齐方法 |
CN114526748A (zh) * | 2021-12-24 | 2022-05-24 | 重庆长安汽车股份有限公司 | 基于二分图的驾驶目标关联方法、系统、车辆及存储介质 |
CN114821494A (zh) * | 2022-06-27 | 2022-07-29 | 杭州声飞光电技术有限公司 | 船舶信息匹配方法及装置 |
CN114821494B (zh) * | 2022-06-27 | 2022-10-14 | 杭州声飞光电技术有限公司 | 船舶信息匹配方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN108133028B (zh) | 2020-08-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108133028A (zh) | 基于视频分析与定位信息结合的航空器挂牌方法 | |
CN106981073B (zh) | 一种基于无人机的地面运动目标实时跟踪方法及系统 | |
CN111145545B (zh) | 基于深度学习的道路交通行为无人机监测系统及方法 | |
CN108596101B (zh) | 一种基于卷积神经网络的遥感图像多目标检测方法 | |
CN113269098A (zh) | 一种基于无人机的多目标跟踪定位与运动状态估计方法 | |
CN110472467A (zh) | 基于YOLO v3的针对交通枢纽关键物体的检测方法 | |
CN110246159A (zh) | 基于视觉和雷达信息融合的3d目标运动分析方法 | |
CN109559320A (zh) | 基于空洞卷积深度神经网络实现视觉slam语义建图功能的方法及系统 | |
CN109726640A (zh) | 无人机系统对运动物体的识别追踪方法 | |
CN105930819A (zh) | 基于单目视觉和gps组合导航系统的实时城区交通灯识别系统 | |
CN107590818B (zh) | 一种交互式视频分割方法 | |
CN105550692B (zh) | 基于标志物颜色及轮廓检测的无人机自动寻的着陆方法 | |
CN110533695A (zh) | 一种基于ds证据理论的轨迹预测装置及方法 | |
CN112488061B (zh) | 一种联合ads-b信息的多航空器检测与跟踪方法 | |
CN104268851A (zh) | 一种基于深度信息的atm自助营业厅行为分析方法 | |
CN102447835A (zh) | 无盲区多目标协同跟踪方法及系统 | |
CN109255286A (zh) | 一种基于yolo深度学习网络框架的无人机光学快速检测识别方法 | |
CN105809716B (zh) | 融合超像素与三维自组织背景减除法的前景提取方法 | |
CN102043964A (zh) | 基于云台摄像头的飞行器起降跟踪算法及跟踪系统 | |
CN114023062B (zh) | 一种基于深度学习和边缘计算的交通流信息监测方法 | |
CN108446634A (zh) | 基于视频分析和定位信息结合的航空器持续跟踪方法 | |
CN110096981A (zh) | 一种基于深度学习的视频大数据交通场景分析方法 | |
CN110348560A (zh) | 一种基于改进萤火虫算法优化粒子滤波的轨迹预测的方法 | |
CN105894117A (zh) | 航迹预测方法及装置 | |
CN114034296A (zh) | 一种导航信号干扰源检测与识别方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |