CN113838126B - 一种视频监控和无人机的图像对齐方法 - Google Patents

一种视频监控和无人机的图像对齐方法 Download PDF

Info

Publication number
CN113838126B
CN113838126B CN202111134576.3A CN202111134576A CN113838126B CN 113838126 B CN113838126 B CN 113838126B CN 202111134576 A CN202111134576 A CN 202111134576A CN 113838126 B CN113838126 B CN 113838126B
Authority
CN
China
Prior art keywords
longitude
coordinates
picture
unmanned aerial
aerial vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111134576.3A
Other languages
English (en)
Other versions
CN113838126A (zh
Inventor
李晓威
陈升敬
刘晓建
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangzhou Fu'an Digital Technology Co ltd
Original Assignee
Guangzhou Fu'an Digital Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangzhou Fu'an Digital Technology Co ltd filed Critical Guangzhou Fu'an Digital Technology Co ltd
Priority to CN202111134576.3A priority Critical patent/CN113838126B/zh
Publication of CN113838126A publication Critical patent/CN113838126A/zh
Application granted granted Critical
Publication of CN113838126B publication Critical patent/CN113838126B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/16Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20068Projection on vertical or horizontal image axis

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Analysis (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Mathematics (AREA)
  • Computing Systems (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

本发明公开了一种视频监控和无人机的图像对齐方法,包括以下步骤:步骤S1:对齐监控摄像头画面坐标和经纬度坐标,建立监控摄像头画面坐标和经纬度坐标的低精度映射关系;步骤S2:对齐无人机摄像头画面坐标和经纬度坐标,建立无人机摄像头画面坐标和经纬度坐标的低精度映射关系;步骤S3:筛选监控摄像头画面和无人机摄像头画面中位置对应的目标物体,得到相互对应的目标物体的经纬度坐标对集合K,取每对经纬度坐标的平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合
Figure DDA0003281797160000012
步骤S4:根据步骤S3的标准经纬度坐标集合
Figure DDA0003281797160000011
重新计算视频监控和无人机的两个变换矩阵,通过计算得到的变换矩阵建立视频监控和无人机精确的映射关系。

Description

一种视频监控和无人机的图像对齐方法
技术领域
本发明涉及监控检测领域,具体涉及一种视频监控和无人机的图像对齐方法。
背景技术
视频监控和无人机在海洋和国土等方面运用较为广泛,能对违法或涉嫌违法用海的地区、违法建筑及其他特征情况进行快速的日常监控,为违法用海查处和突发事件处理提供依据。为了快速得到目标物体不同视角的信息,以至于起到更好的监控作用,需要视频监控和无人机图像的映射。
现有的技术在进行图像对齐时一般采用的方法为提取两张图像的特征关键点与特征描述子,然后通过匹配算法寻找匹配度高的特征点进行变换从而实现图像对齐。然而SIFT、SURF、ORB等特征提取算法的特征提取性能有限,可能存在因特征点不足而匹配失败导致无法实现图像映射的问题。
近年来,提出了一些结合AIS和监控视频的船舶检测方法,例如:
公开号为CN111914049A的发明专利公开了一种经纬度坐标与图像坐标映射方法,该发明选取场景中若干点,利用场景的已知测量数据或谷歌地图等工具对其在物理空间中的经纬度坐标与其在图像画面中的像素坐标进行标定,通过人工对图像像素坐标和物理坐标进行关联。但是该方法中由于实际应用中人工标定的坐标值含有误差,导致得到的图像坐标一般含有误差,且耗时耗力。
发明内容
为了解决上述技术问题,本发明的目的在于提供一种视频监控和无人机的图像对齐方法,通过分别对监控和无人机建立坐标映射关系,根据计算得到的变换矩阵实现监控和无人机的对齐,可以灵活、快速的在监控画面或无人机图像中得到同一物体的位置信息。
为实现上述发明目的,本发明采取的技术方案如下:
一种视频监控和无人机的图像对齐方法,包括以下步骤:
步骤S1:对齐监控摄像头画面坐标和经纬度坐标,建立监控摄像头画面坐标和经纬度坐标的低精度映射关系;
步骤S2:对齐无人机摄像头画面坐标和经纬度坐标,建立无人机摄像头画面坐标和经纬度坐标的低精度映射关系;
步骤S3:利用目标检测算法检测监控摄像头和无人机摄像头画面中的所有物体,得到监控摄像头和无人机摄像头画面中所有物体的画面坐标,并通过步骤S1中的低精度映射关系得到转换后的监控画面中所有物体的经纬度坐标集合Ω={<λii>},以及通过步骤S2中的低精度映射关系得到无人机画面中所有物体的经纬度坐标集合T={<εjj>},设置一个阈值,将经纬度坐标集合Ω和T中的经纬度坐标两两之间作差,筛选出满足条件的经纬度坐标对,进而筛选监控摄像头画面和无人机摄像头画面中位置对应的目标物体,得到相互对应的目标物体的经纬度坐标对集合K={<λiijj>},取每对经纬度坐标的平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合
Figure BDA0003281797140000021
步骤S4:根据步骤S3的标准经纬度坐标集合
Figure BDA0003281797140000022
重新计算视频监控和无人机的两个变换矩阵,通过计算得到的变换矩阵建立视频监控和无人机精确的映射关系。
优选的,所述步骤S1中,所述监控摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程具体如下:
步骤S1.1:根据Haversine公式,计算监控摄像头所在的位置在水平面上的垂直投影位置O′和监控摄像头可视范围内的水平面任意位置Ai的直线水平距离di,单位为m,O′和Ai的经度水平距离si,单位为m:
Figure BDA0003281797140000023
Figure BDA0003281797140000024
Figure BDA0003281797140000025
Figure BDA0003281797140000026
其中:a、b均为中间变量值,O′(λ0,ψ0)为监控摄像头所在的位置在水平面上的垂直投影位置,Aii,ψi)为监控摄像头可视范围内的水平任意位置,r为地球半径,单位为m;
计算O′和Ai的连线和地理真北方向的夹角βi,O和Ai的连线和垂直线的夹角θi
Figure BDA0003281797140000031
Figure BDA0003281797140000032
其中,O为监控摄像头所在的位置,H为监控摄像头距离水平面的高度,单位为m;
计算Ai在监控摄像头画面坐标(xi,yi):
Figure BDA0003281797140000033
Figure BDA0003281797140000034
其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为监控摄像头中心线与垂直线的夹角,β为监控摄像头中心线在水平面上的投影和地理真北方向的夹角,ωx为监控摄像头水平视场角,ωy为监控摄像头垂直视场角;
步骤S1.2:在监控摄像头画面中随机选取多个画面坐标,得到监控摄像头画面坐标集合,从监控摄像头画面坐标集合中每次选取三组坐标,通过所述监控摄像头画面坐标和经纬度坐标的低精度映射关系,将选取的所述监控摄像头画面坐标转换为经纬度坐标,根据监控摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过程如下:
通过逆矩阵计算得到多个变换矩阵Hi
Figure BDA0003281797140000035
其中(xi1,yi1)、(xi2,yi2)、(xi3,yi3)是监控摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组监控摄像头画面坐标转换的经纬度坐标。
取多个变换矩阵Hi的平均值:
Figure BDA0003281797140000036
得到监控摄像头画面坐标和经纬度坐标的转换关系如下:
Figure BDA0003281797140000041
其中,(x,y)是监控摄像头画面坐标,(lon,lat)是监控摄像头画面坐标转换的经纬度坐标。
优选的,所述步骤S2中,所述无人机摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程具体如下:
步骤S2.1:根据Haversine公式,计算无人机摄像头所在的位置Q在水平面上的垂直投影位置Q′和无人机摄像头可视范围内的水平面任意位置B的直线水平距离di1,单位为m,Q′和B的经度水平距离si1,单位为m:
Figure BDA0003281797140000042
Figure BDA0003281797140000043
Figure BDA0003281797140000044
Figure BDA0003281797140000045
其中:a、b均为中间变量值,Q′(λ01,ψ01)为无人机摄像头所在的位置在水平面上的垂直投影位置,B(λi1,ψi1)为无人机摄像头可视范围内的水平任意位置,r为地球半径,单位为m;
计算Q′和B的连线和地理真北方向的夹角φ,Q和B的连线和垂直线的夹角σ:
Figure BDA0003281797140000046
Figure BDA0003281797140000047
其中,Q为无人机摄像头所在的位置,h1为无人机摄像头距离水平面的高度,单位为m;
计算B在无人机摄像头画面坐标(a,b):
Figure BDA0003281797140000051
Figure BDA0003281797140000052
其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为无人机摄像头中心线与垂直线的夹角,β为无人机摄像头中心线在水平面上的投影和地理真北方向的夹角,ωx1为无人机摄像头水平视场角,ωy1为无人机摄像头垂直视场角;
步骤S2.2:在无人机摄像头画面中随机选取多个画面坐标,得到无人机摄像头画面坐标集合,从无人机摄像头画面坐标集合中每次选取三组坐标,通过所述无人机摄像头画面坐标和经纬度坐标的低精度映射关系,将选取的所述无人机摄像头画面坐标转换为经纬度坐标,根据无人机摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过程如下:
通过逆矩阵计算得到多个变换矩阵Mi
Figure BDA0003281797140000053
其中(a1,b1)、(a2,b2)、(a3,b3)是无人机摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组无人机摄像头画面坐标转换的经纬度坐标。
取多个变换矩阵Hi的平均值:
Figure BDA0003281797140000054
得到无人机摄像头画面坐标和经纬度坐标的转换关系如下:
Figure BDA0003281797140000061
其中,M是多个变换矩阵Mi的平均值,(a,b)是无人机摄像头画面坐标,(lon,lat)是无人机摄像头画面坐标转换的经纬度坐标;
进而可得监控和无人机的低精度映射关系,转换关系如下:
Figure BDA0003281797140000062
(x,y)是监控摄像头画面坐标,(a,b)是无人机摄像头画面坐标。
优选的,所述步骤S3中得到标准经纬度坐标集合
Figure BDA0003281797140000063
的步骤如下:
步骤S3.1:利用目标检测算法检测监控和无人机画面中的所有物体,得到监控和无人机画面中所有物体的画面坐标,并通过各自的映射关系转换为经纬度坐标,得到转换后的监控画面中所有物体的经纬度坐标集合Ω={<λii>}和无人机画面中所有物体的经纬度坐标集合T={<εjj>};
步骤S3.2:设置一个阈值(Δlon,Δlat),对经纬度坐标集合Ω和T两两之间作差,筛选出满足条件的经纬度坐标对,具体过程如下:
将集合Ω中的每个经纬度坐标分别和集合T中的每个经纬度坐标作差值运算,即λijij,满足以下条件的则保留该对经纬度坐标:
Figure BDA0003281797140000064
得到满足条件的经纬度坐标对集合K={<λiijj>},其中(λii)是监控画面坐标转换后的经纬度坐标,(εjj)是无人机画面坐标转换后的经纬度坐标。
步骤S3.3:根据步骤S3.2得到的经纬度坐标对集合K,得到与之对应的转换前的画面坐标对集合I={<xi,yi,aj,bj>},取每对经纬度坐标的平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合
Figure BDA0003281797140000065
计算如下:
Figure BDA0003281797140000071
优选的,所述步骤S3.1在筛选出满足条件的经纬度坐标对时,需要判断是否会出现一个经纬度坐标对应多个经纬度坐标的情况,若出现,则舍弃该经纬度坐标,若不出现,则保留该对经纬度坐标。
这样设置是由于有些目标物体间隔会比较近,为了避免目标物体之间的误匹配,舍弃出现一个经纬度坐标对应多个经纬度坐标的该经纬度坐标,只有当一个经纬度坐标和另一个经纬度坐标符合条件,即一对一时,保留该对经纬度坐标。
优选的,所述步骤S4包括如下步骤:
步骤S4.1.根据步骤S3.3的标准经纬度坐标集合
Figure BDA0003281797140000072
和画面坐标对集合I,得到多组监控画面坐标和与之对应的标准经纬度坐标集合
Figure BDA0003281797140000073
以及多组无人机画面坐标和与之对应的标准经纬度坐标集合
Figure BDA0003281797140000074
步骤S4.2.根据变换矩阵的方法,结合得到的坐标集合P和Z,计算得到校准后的监控的变换矩阵H′和无人机的变换矩阵M′;监控摄像头画面坐标和经纬度坐标精确的转换关系如下:
Figure BDA0003281797140000075
无人机画面坐标和经纬度坐标精确的转换关系如下:
Figure BDA0003281797140000076
当(λ,μ)=(ε,δ)时,可建立监控和无人机精确的映射关系,即监控画面坐标和无人机画面坐标精确的转换关系如下:
Figure BDA0003281797140000077
其中(λ,μ)为校准后的监控摄像头经纬度坐标,(ε,δ)为校准后的无人机摄像头经纬度坐标,(x,y)是校准后的监控摄像头画面坐标,(a,b)是校准后的无人机摄像头画面坐标。
相对于现有技术,本发明取得了有益的技术效果:
1.本发明通过分别对监控摄像头、无人机摄像头与经纬度坐标建立坐标映射关系,根据计算得到的变换矩阵实现监控和无人机的对齐,从而可以灵活、快速的在监控画面或无人机图像中得到同一物体的位置信息;
2.本发明通过筛选得到同一目标物体的经纬度坐标,分别对视频监控映射关系和无人机映射关系中的变换矩阵进行校准,提高变换矩阵的准确度,最终建立视频监控和无人机精确的映射关系,实现视频监控和无人机精确的对齐。
附图说明
图1是本发明实施例中视频监控和无人机的图像对齐方法的流程图;
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例对本发明进行进一步详细说明,但本发明要求保护的范围并不局限于下述具体实施例。
实施例
参考图1,本实施例公开了一种视频监控和无人机的图像对齐方法,包括以下步骤:
步骤S1:对齐监控摄像头画面坐标和经纬度坐标,建立监控摄像头画面坐标和经纬度坐标的低精度映射关系;
步骤S2:对齐无人机摄像头画面坐标和经纬度坐标,建立无人机摄像头画面坐标和经纬度坐标的低精度映射关系;
步骤S3:利用目标检测算法检测监控摄像头和无人机摄像头画面中的所有物体,得到监控摄像头和无人机摄像头画面中所有物体的画面坐标,并通过步骤S1中的低精度映射关系得到转换后的监控画面中所有物体的经纬度坐标集合Ω={<λii>},以及通过步骤S2中的低精度映射关系得到无人机画面中所有物体的经纬度坐标集合T={<εjj>},设置一个阈值,将经纬度坐标集合Ω和T中的经纬度坐标两两之间作差,筛选出满足条件的经纬度坐标对,进而筛选监控摄像头画面和无人机摄像头画面中位置对应的目标物体,得到相互对应的目标物体的经纬度坐标对集合K={<λiijj>},取每对经纬度坐标的平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合
Figure BDA0003281797140000091
步骤S4:根据步骤S3的标准经纬度坐标集合
Figure BDA0003281797140000092
重新计算视频监控和无人机的两个变换矩阵,通过计算得到的变换矩阵建立视频监控和无人机精确的映射关系。
具体的,在所述步骤S1中,所述监控摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程具体如下:
步骤S1.1:根据Haversine公式,计算监控摄像头所在的位置在水平面上的垂直投影位置O′和监控摄像头可视范围内的水平面任意位置Ai的直线水平距离di,单位为m,O′和Ai的经度水平距离si,单位为m:
Figure BDA0003281797140000093
Figure BDA0003281797140000094
Figure BDA0003281797140000095
Figure BDA0003281797140000096
其中:a、b均为中间变量值,O′(λ0,ψ0)为监控摄像头所在的位置在水平面上的垂直投影位置,Aii,ψi)为监控摄像头可视范围内的水平任意位置,r为地球半径,单位为m;
计算O′和Ai的连线和地理真北方向的夹角βi,O和Ai的连线和垂直线的夹角θi
Figure BDA0003281797140000097
Figure BDA0003281797140000098
其中,O为监控摄像头所在的位置,H为监控摄像头距离水平面的高度,单位为m;
计算Ai在监控摄像头画面坐标(xi,yi):
Figure BDA0003281797140000101
Figure BDA0003281797140000102
其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为监控摄像头中心线与垂直线的夹角,β为监控摄像头中心线在水平面上的投影和地理真北方向的夹角,ωx为监控摄像头水平视场角,ωy为监控摄像头垂直视场角;
步骤S1.2:在监控摄像头画面中随机选取多个画面坐标,得到监控摄像头画面坐标集合,从监控摄像头画面坐标集合中每次选取三组坐标,通过所述监控摄像头画面坐标和经纬度坐标的低精度映射关系,将选取的所述监控摄像头画面坐标转换为经纬度坐标,根据监控摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过程如下:
通过逆矩阵计算得到多个变换矩阵Hi
Figure BDA0003281797140000103
其中(xi1,yi1)、(xi2,yi2)、(xi3,yi3)是监控摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组监控摄像头画面坐标转换的经纬度坐标。
取多个变换矩阵Hi的平均值:
Figure BDA0003281797140000104
得到监控摄像头画面坐标和经纬度坐标的转换关系如下:
Figure BDA0003281797140000105
其中,(x,y)是监控摄像头画面坐标,(lon,lat)是监控摄像头画面坐标转换的经纬度坐标。
所述步骤S2无人机摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程和步骤S1采用的方法相同,具体的,所述步骤S2中,所述无人机摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程具体如下:
步骤S2.1:根据Haversine公式,计算无人机摄像头所在的位置Q在水平面上的垂直投影位置Q′和无人机摄像头可视范围内的水平面任意位置B的直线水平距离di1,单位为m,Q′和B的经度水平距离si1,单位为m:
Figure BDA0003281797140000111
Figure BDA0003281797140000112
Figure BDA0003281797140000113
Figure BDA0003281797140000114
其中:a、b均为中间变量值,Q′(λ01,ψ01)为无人机摄像头所在的位置在水平面上的垂直投影位置,B(λi1,ψi1)为无人机摄像头可视范围内的水平任意位置,r为地球半径,单位为m;
计算Q′和B的连线和地理真北方向的夹角φ,Q和B的连线和垂直线的夹角σ:
Figure BDA0003281797140000115
Figure BDA0003281797140000116
其中,Q为无人机摄像头所在的位置,h1为无人机摄像头距离水平面的高度,单位为m;
计算B在无人机摄像头画面坐标(a,b):
Figure BDA0003281797140000117
Figure BDA0003281797140000118
其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为无人机摄像头中心线与垂直线的夹角,β为无人机摄像头中心线在水平面上的投影和地理真北方向的夹角,ωx1为无人机摄像头水平视场角,ωy1为无人机摄像头垂直视场角;
步骤S2.2:在无人机摄像头画面中随机选取多个画面坐标,得到无人机摄像头画面坐标集合,从无人机摄像头画面坐标集合中每次选取三组坐标,通过所述无人机摄像头画面坐标和经纬度坐标的低精度映射关系,将选取的所述无人机摄像头画面坐标转换为经纬度坐标,根据无人机摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过程如下:
通过逆矩阵计算得到多个变换矩阵Mi
Figure BDA0003281797140000121
其中(a1,b1)、(a2,b2)、(a3,b3)是无人机摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组无人机摄像头画面坐标转换的经纬度坐标。
取多个变换矩阵Hi的平均值:
Figure BDA0003281797140000122
得到无人机摄像头画面坐标和经纬度坐标的转换关系如下:
Figure BDA0003281797140000123
其中,M是多个变换矩阵Mi的平均值,(a,b)是无人机摄像头画面坐标,(lon,lat)是无人机摄像头画面坐标转换的经纬度坐标;
进而可得监控和无人机的低精度映射关系,转换关系如下:
Figure BDA0003281797140000131
(x,y)是监控摄像头画面坐标,(a,b)是无人机摄像头画面坐标。
通过步骤S1和步骤S2分别完成监控摄像头与经纬度坐标的坐标映射关系的建立、以及无人机摄像头与经纬度坐标的坐标映射关系的建立,根据计算得到的变换矩阵实现监控和无人机的对齐,从而可以灵活、快速的在监控画面或无人机图像中得到同一物体的位置信息。
进一步的,所述步骤S3中得到标准经纬度坐标集合
Figure BDA0003281797140000132
的步骤如下:
步骤S3.1:利用目标检测算法检测监控和无人机画面中的所有物体,得到监控和无人机画面中所有物体的画面坐标,并通过各自的映射关系转换为经纬度坐标,得到转换后的监控画面中所有物体的经纬度坐标集合Ω={<λii>}和无人机画面中所有物体的经纬度坐标集合T={<εjj>};
所述步骤S3.1在筛选出满足条件的经纬度坐标对时,需要判断是否会出现一个经纬度坐标对应多个经纬度坐标的情况,若出现,则舍弃该经纬度坐标,若不出现,则保留该对经纬度坐标。这样设置是由于有些目标物体间隔会比较近,为了避免目标物体之间的误匹配,舍弃出现一个经纬度坐标对应多个经纬度坐标的该经纬度坐标,只有当一个经纬度坐标和另一个经纬度坐标符合条件,即一对一时,保留该对经纬度坐标。
步骤S3.1中的图像目标检测算法为现有,可参考现有的公开专利:公告号为CN109993163A、名称为一种基于人工智能的非标铭牌识别系统及其识别方法,因此对监控视频中每隔Δt时间获取的每一帧的图像进行检测,从而得到船只的摄像头画面坐标集合Ω={(xi,yi)}。在具体的实施过程中,可过滤掉那些经纬度信息中和O′的距离di超出某个可视范围阈值的船只信息,以达到减少后续匹配计算量的目的,这个可视范围阈值可根据摄像头具体的参数以及安装位置的视野而定,通常设置在1公里到10公里的范围。
步骤S3.2:设置一个阈值(Δlon,Δlat),对经纬度坐标集合Ω和T两两之间作差,筛选出满足条件的经纬度坐标对,具体过程如下:
将集合Ω中的每个经纬度坐标分别和集合T中的每个经纬度坐标作差值运算,即λijij,满足以下条件的则保留该对经纬度坐标:
Figure BDA0003281797140000141
得到满足条件的经纬度坐标对集合K={<λiijj>},其中(λii)是监控画面坐标转换后的经纬度坐标,(εjj)是无人机画面坐标转换后的经纬度坐标。
步骤S3.3:根据步骤S3.2得到的经纬度坐标对集合K,得到与之对应的转换前的画面坐标对集合I={<xi,yi,aj,bj>},取每对经纬度坐标的平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合
Figure BDA0003281797140000142
计算如下:
Figure BDA0003281797140000143
通过步骤S3筛选得到同一目标物体的经纬度坐标,然后将每对经纬度坐标的平均值作为该组的标准经纬度坐标,用于分别对视频监控映射关系和无人机映射关系中的变换矩阵进行校准。
优选的,所述步骤S4包括如下步骤:
步骤S4.1.根据步骤S3.3的标准经纬度坐标集合
Figure BDA0003281797140000144
和画面坐标对集合I,得到多组监控画面坐标和与之对应的标准经纬度坐标集合
Figure BDA0003281797140000145
以及多组无人机画面坐标和与之对应的标准经纬度坐标集合
Figure BDA0003281797140000146
步骤S4.2.根据变换矩阵的方法,结合得到的坐标集合P和Z,计算得到校准后的监控的变换矩阵H′和无人机的变换矩阵M′;监控摄像头画面坐标和经纬度坐标精确的转换关系如下:
Figure BDA0003281797140000147
无人机画面坐标和经纬度坐标精确的转换关系如下:
Figure BDA0003281797140000148
当(λ,μ)=(ε,δ)时,可建立监控和无人机精确的映射关系,即监控画面坐标和无人机画面坐标精确的转换关系如下:
Figure BDA0003281797140000151
其中(λ,μ)为校准后的监控摄像头经纬度坐标,(ε,δ)为校准后的无人机摄像头经纬度坐标,(x,y)是校准后的监控摄像头画面坐标,(a,b)是校准后的无人机摄像头画面坐标。
最终通过步骤S4分别完成对视频监控映射关系和无人机映射关系中的变换矩阵进行校准,提高变换矩阵的准确度,建立视频监控和无人机精确的映射关系,实现视频监控和无人机精确的对齐。
根据上述说明书的揭示和教导,本发明所属领域的技术人员还可以对上述实施方式进行变更和修改。因此,本发明并不局限于上面揭示和描述的具体实施方式,对发明的一些修改和变更也应当落入本发明的权利要求的保护范围内。此外,尽管本说明书中使用了一些特定的术语,但这些术语只是为了方便说明,并不对发明构成任何限制。

Claims (6)

1.一种视频监控和无人机的图像对齐方法,其特征在于,包括以下步骤:
步骤S1:对齐监控摄像头画面坐标和经纬度坐标,建立监控摄像头画面坐标和经纬度坐标的低精度映射关系;
步骤S2:对齐无人机摄像头画面坐标和经纬度坐标,建立无人机摄像头画面坐标和经纬度坐标的低精度映射关系;
步骤S3:利用目标检测算法检测监控摄像头和无人机摄像头画面中的所有物体,得到监控摄像头和无人机摄像头画面中所有物体的画面坐标,并通过步骤S1中的低精度映射关系得到转换后的监控画面中所有物体的经纬度坐标集合Ω={<λii>},以及通过步骤S2中的低精度映射关系得到无人机画面中所有物体的经纬度坐标集合T={<εjj>},设置一个阈值,将经纬度坐标集合Ω和T中的经纬度坐标两两之间作差,筛选出满足条件的经纬度坐标对,进而筛选监控摄像头画面和无人机摄像头画面中位置对应的目标物体,得到相互对应的目标物体的经纬度坐标对集合K={<λiijj>},取每对经纬度坐标的平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合
Figure FDA0003281797130000011
步骤S4:根据步骤S3的标准经纬度坐标集合
Figure FDA0003281797130000012
重新计算视频监控和无人机的两个变换矩阵,通过计算得到的变换矩阵建立视频监控和无人机精确的映射关系。
2.根据权利要求1所述的视频监控和无人机的图像对齐方法,其特征在于,所述步骤S1中,所述监控摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程具体如下:
步骤S1.1:根据Haversine公式,计算监控摄像头所在的位置在水平面上的垂直投影位置O′和监控摄像头可视范围内的水平面任意位置Ai的直线水平距离di,单位为m,O′和Ai的经度水平距离si,单位为m:
Figure FDA0003281797130000013
Figure FDA0003281797130000014
Figure FDA0003281797130000015
Figure FDA0003281797130000021
其中:a、b均为中间变量值,O′(λ0,ψ0)为监控摄像头所在的位置在水平面上的垂直投影位置,Aii,ψi)为监控摄像头可视范围内的水平任意位置,r为地球半径,单位为m;
计算O′和Ai的连线和地理真北方向的夹角βi,O和Ai的连线和垂直线的夹角θi
Figure FDA0003281797130000022
Figure FDA0003281797130000023
其中,O为监控摄像头所在的位置,H为监控摄像头距离水平面的高度,单位为m;
计算Ai在监控摄像头画面坐标(xi,yi):
Figure FDA0003281797130000024
Figure FDA0003281797130000025
其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为监控摄像头中心线与垂直线的夹角,β为监控摄像头中心线在水平面上的投影和地理真北方向的夹角,ωx为监控摄像头水平视场角,ωy为监控摄像头垂直视场角;
步骤S1.2:在监控摄像头画面中随机选取多个画面坐标,得到监控摄像头画面坐标集合,从监控摄像头画面坐标集合中每次选取三组坐标,通过所述监控摄像头画面坐标和经纬度坐标的低精度映射关系,将选取的所述监控摄像头画面坐标转换为经纬度坐标,根据监控摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过程如下:
通过逆矩阵计算得到多个变换矩阵Hi
Figure FDA0003281797130000026
其中(xi1,yi1)、(xi2,yi2)、(xi3,yi3)是监控摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组监控摄像头画面坐标转换的经纬度坐标。
取多个变换矩阵Hi的平均值:
Figure FDA0003281797130000031
得到监控摄像头画面坐标和经纬度坐标的转换关系如下:
Figure FDA0003281797130000032
其中,(x,y)是监控摄像头画面坐标,(lon,lat)是监控摄像头画面坐标转换的经纬度坐标。
3.根据权利要求1所述的视频监控和无人机的图像对齐方法,其特征在于,所述步骤S2中,所述无人机摄像头画面坐标和经纬度坐标的低精度映射关系的建立过程具体如下:
步骤S2.1:根据Haversine公式,计算无人机摄像头所在的位置Q在水平面上的垂直投影位置Q′和无人机摄像头可视范围内的水平面任意位置B的直线水平距离di1,单位为m,Q′和B的经度水平距离si1,单位为m:
Figure FDA0003281797130000033
Figure FDA0003281797130000034
Figure FDA0003281797130000035
Figure FDA0003281797130000036
其中:a、b均为中间变量值,Q′(λ01,ψ01)为无人机摄像头所在的位置在水平面上的垂直投影位置,B(λi1,ψi1)为无人机摄像头可视范围内的水平任意位置,r为地球半径,单位为m;
计算Q′和B的连线和地理真北方向的夹角φ,Q和B的连线和垂直线的夹角σ:
Figure FDA0003281797130000041
Figure FDA0003281797130000042
其中,Q为无人机摄像头所在的位置,h1为无人机摄像头距离水平面的高度,单位为m;
计算B在无人机摄像头画面坐标(a,b):
Figure FDA0003281797130000043
Figure FDA0003281797130000044
其中,X为图像的像素宽度,Y为像素高度,根据摄像头图像分辨率为X×Y,可得X和Y的参数值;θ为无人机摄像头中心线与垂直线的夹角,β为无人机摄像头中心线在水平面上的投影和地理真北方向的夹角,ωx1为无人机摄像头水平视场角,ωy1为无人机摄像头垂直视场角;
步骤S2.2:在无人机摄像头画面中随机选取多个画面坐标,得到无人机摄像头画面坐标集合,从无人机摄像头画面坐标集合中每次选取三组坐标,通过所述无人机摄像头画面坐标和经纬度坐标的低精度映射关系,将选取的所述无人机摄像头画面坐标转换为经纬度坐标,根据无人机摄像头画面坐标和转换后的经纬度坐标计算得到变换矩阵H,具体过程如下:
通过逆矩阵计算得到多个变换矩阵Mi
Figure FDA0003281797130000045
其中(a1,b1)、(a2,b2)、(a3,b3)是无人机摄像头画面中的三组坐标,(loni1,lati1)、(loni2,lati2)、(loni3,lati3)是由三组无人机摄像头画面坐标转换的经纬度坐标。
取多个变换矩阵Hi的平均值:
Figure FDA0003281797130000051
得到无人机摄像头画面坐标和经纬度坐标的转换关系如下:
Figure FDA0003281797130000052
其中,M是多个变换矩阵Mi的平均值,(a,b)是无人机摄像头画面坐标,(lon,lat)是无人机摄像头画面坐标转换的经纬度坐标;
进而可得监控和无人机的低精度映射关系,转换关系如下:
Figure FDA0003281797130000053
(x,y)是监控摄像头画面坐标,(a,b)是无人机摄像头画面坐标。
4.根据权利要求1-3任一项所述的视频监控和无人机的图像对齐方法,其特征在于,所述步骤S3中得到标准经纬度坐标集合
Figure FDA0003281797130000054
的步骤如下:
步骤S3.1:利用目标检测算法检测监控和无人机画面中的所有物体,得到监控和无人机画面中所有物体的画面坐标,并通过各自的映射关系转换为经纬度坐标,得到转换后的监控画面中所有物体的经纬度坐标集合Ω={<λii>}和无人机画面中所有物体的经纬度坐标集合T={<εjj>};
步骤S3.2:设置一个阈值(Δlon,Δlat),对经纬度坐标集合Ω和T两两之间作差,筛选出满足条件的经纬度坐标对,具体过程如下:
将集合Ω中的每个经纬度坐标分别和集合T中的每个经纬度坐标作差值运算,即λijij,满足以下条件的则保留该对经纬度坐标:
Figure FDA0003281797130000055
得到满足条件的经纬度坐标对集合K={<λiijj>},其中(λii)是监控画面坐标转换后的经纬度坐标,(εjj)是无人机画面坐标转换后的经纬度坐标。
步骤S3.3:根据步骤S3.2得到的经纬度坐标对集合K,得到与之对应的转换前的画面坐标对集合I={<xi,yi,aj,bj>},取每对经纬度坐标的平均值作为该组的标准经纬度坐标,得到标准经纬度坐标集合
Figure FDA0003281797130000061
计算如下:
Figure FDA0003281797130000062
5.根据权利要求4所述的视频监控和无人机的图像对齐方法,其特征在于,所述步骤S3.1在筛选出满足条件的经纬度坐标对时,需要判断是否会出现一个经纬度坐标对应多个经纬度坐标的情况,若出现,则舍弃该经纬度坐标,若不出现,则保留该对经纬度坐标。
6.根据权利要求4所述的视频监控和无人机的图像对齐方法,其特征在于,所述步骤S4包括如下步骤:
步骤S4.1.根据步骤S3.3的标准经纬度坐标集合
Figure FDA0003281797130000063
和画面坐标对集合I,得到多组监控画面坐标和与之对应的标准经纬度坐标集合
Figure FDA0003281797130000064
以及多组无人机画面坐标和与之对应的标准经纬度坐标集合
Figure FDA0003281797130000065
步骤S4.2.根据变换矩阵的方法,结合得到的坐标集合P和Z,计算得到校准后的监控的变换矩阵H′和无人机的变换矩阵M′;监控摄像头画面坐标和经纬度坐标精确的转换关系如下:
Figure FDA0003281797130000066
无人机画面坐标和经纬度坐标精确的转换关系如下:
Figure FDA0003281797130000067
当(λ,μ)=(ε,δ)时,可建立监控和无人机精确的映射关系,即监控画面坐标和无人机画面坐标精确的转换关系如下:
Figure FDA0003281797130000071
其中(λ,μ)为校准后的监控摄像头经纬度坐标,(ε,δ)为校准后的无人机摄像头经纬度坐标,(x,y)是校准后的监控摄像头画面坐标,(a,b)是校准后的无人机摄像头画面坐标。
CN202111134576.3A 2021-09-27 2021-09-27 一种视频监控和无人机的图像对齐方法 Active CN113838126B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111134576.3A CN113838126B (zh) 2021-09-27 2021-09-27 一种视频监控和无人机的图像对齐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111134576.3A CN113838126B (zh) 2021-09-27 2021-09-27 一种视频监控和无人机的图像对齐方法

Publications (2)

Publication Number Publication Date
CN113838126A CN113838126A (zh) 2021-12-24
CN113838126B true CN113838126B (zh) 2022-05-10

Family

ID=78970610

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111134576.3A Active CN113838126B (zh) 2021-09-27 2021-09-27 一种视频监控和无人机的图像对齐方法

Country Status (1)

Country Link
CN (1) CN113838126B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111914049A (zh) * 2020-07-29 2020-11-10 北京天睿空间科技股份有限公司 经纬度坐标与图像坐标映射方法
CN112419374A (zh) * 2020-11-11 2021-02-26 北京航空航天大学 一种基于图像配准的无人机定位方法
CN112598733A (zh) * 2020-12-10 2021-04-02 广州市赋安电子科技有限公司 一种基于多模态数据融合补偿自适应优化的船舶检测方法
CN112611361A (zh) * 2020-12-08 2021-04-06 华南理工大学 一种无人机机载测绘吊舱的摄像头安装误差测定方法
CN112927565A (zh) * 2020-03-18 2021-06-08 中国民用航空总局第二研究所 提升机坪综合航迹监视数据精度的方法、装置及系统
CN113012047A (zh) * 2021-03-26 2021-06-22 广州市赋安电子科技有限公司 动态摄像头坐标映射建立方法、装置及可读存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112927565A (zh) * 2020-03-18 2021-06-08 中国民用航空总局第二研究所 提升机坪综合航迹监视数据精度的方法、装置及系统
CN111914049A (zh) * 2020-07-29 2020-11-10 北京天睿空间科技股份有限公司 经纬度坐标与图像坐标映射方法
CN112419374A (zh) * 2020-11-11 2021-02-26 北京航空航天大学 一种基于图像配准的无人机定位方法
CN112611361A (zh) * 2020-12-08 2021-04-06 华南理工大学 一种无人机机载测绘吊舱的摄像头安装误差测定方法
CN112598733A (zh) * 2020-12-10 2021-04-02 广州市赋安电子科技有限公司 一种基于多模态数据融合补偿自适应优化的船舶检测方法
CN113012047A (zh) * 2021-03-26 2021-06-22 广州市赋安电子科技有限公司 动态摄像头坐标映射建立方法、装置及可读存储介质

Also Published As

Publication number Publication date
CN113838126A (zh) 2021-12-24

Similar Documents

Publication Publication Date Title
CN110363158B (zh) 一种基于神经网络的毫米波雷达与视觉协同目标检测与识别方法
CN110660023A (zh) 一种基于图像语义分割的视频拼接方法
CN112819903A (zh) 基于l型标定板的相机和激光雷达联合标定的方法
CN112598733B (zh) 一种基于多模态数据融合补偿自适应优化的船舶检测方法
CN113222820B (zh) 一种位姿信息辅助的航空遥感图像拼接方法
CN113569647B (zh) 一种基于ais的船舶高精度坐标映射方法
CN107093196B (zh) 视频卫星面阵相机在轨相对辐射定标方法
CN110910456B (zh) 基于Harris角点互信息匹配的立体相机动态标定方法
CN110197185B (zh) 一种基于尺度不变特征变换算法监测桥下空间的方法和系统
CN111914049A (zh) 经纬度坐标与图像坐标映射方法
CN112308930B (zh) 相机外参标定方法、系统及装置
CN110782498A (zh) 一种视觉传感网络的快速通用标定方法
CN112116529A (zh) 一种基于ptz相机的gps坐标与像素坐标的转换方法
CN113642463B (zh) 一种视频监控和遥感图像的天地多视图对齐方法
CN110718068B (zh) 一种道路监控摄像机安装角度估计方法
CN113223095B (zh) 一种基于已知相机位置内外参数标定方法
CN113838126B (zh) 一种视频监控和无人机的图像对齐方法
CN114120236A (zh) 对低空目标进行识别定位的方法
CN114067267A (zh) 一种基于地理视频的搏斗行为检测方法
CN107392208B (zh) 基于光谱空间映射与纯化的对象光谱特征提取方法
CN110706260A (zh) 一种结合定位信息的大场景内运动目标检测方法
CN116612184B (zh) 一种基于监控场景的无人机相机位姿精确估算方法
Junejo et al. Geometry of a non-overlapping multi-camera network
CN116168066B (zh) 基于数据分析的建筑物三维点云配准预处理方法
CN113361544B (zh) 图像采集设备及其外参修正方法、装置及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: 510000 room 1301 (Location: room 1301-1), No. 68, yueken Road, Wushan street, Tianhe District, Guangzhou City, Guangdong Province (office only)

Applicant after: Guangzhou Fu'an Digital Technology Co.,Ltd.

Address before: 510000 No. 1501, 68 yueken Road, Tianhe District, Guangzhou City, Guangdong Province

Applicant before: GUANGZHOU FUAN ELECTRONIC TECHNOLOGY Co.,Ltd.

CB02 Change of applicant information
GR01 Patent grant
GR01 Patent grant