CN115375779A - 相机ar实景标注的方法及系统 - Google Patents
相机ar实景标注的方法及系统 Download PDFInfo
- Publication number
- CN115375779A CN115375779A CN202211322040.9A CN202211322040A CN115375779A CN 115375779 A CN115375779 A CN 115375779A CN 202211322040 A CN202211322040 A CN 202211322040A CN 115375779 A CN115375779 A CN 115375779A
- Authority
- CN
- China
- Prior art keywords
- camera
- point
- label
- calibration
- aggregation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Studio Devices (AREA)
Abstract
本发明公开了相机AR实景标注的方法及系统,其中标注方法包括如下步骤:S100、对监控设备拍摄的视频画面进行截图,得到待标定的投影图像,对投影图像的图像中心点和除图像中心点外任一点进行标定,计算出一组标定结果参数;S200、根据业务场景选取实景对象作为目标点,找到离目标点最近的标定点,利用最近标定点的标定结果参数将目标点的GPS坐标换算成像素坐标;S300、根据所述像素坐标对实景对象设置目标点标签,在视频画面进行标注显示。相比于现有技术,本发明只需至少2个标定点及相机位置参数就能对相机进行标定计算和目标点坐标计算,同时能对目标点以标签的方式标注到视频中。
Description
技术领域
本发明涉及视频监控技术领域,尤其涉及相机AR实景标注的方法及系统。
背景技术
近年来,经过平安城市、天眼工程、智慧城市等的建设,城市治理得到很大提升,但随着智能化要求日益增多,对城市管理提出了新的要求。如何将现实中的建筑、消防栓、火灾点等实景位置投影标注到视频监控画面中,以达到在监控画面内查看实景信息的效果。这要求标注的实景位置与视频中的图像位置相对应,实景信息以标签(图标+标题)的形式展现在视频画面中,为此需要一种相机AR实景增强显示系统。
现有的解决方案,一种是人工对应位置关系,人工记录实景GPS点对应的相机的图像的坐标,这种方法耗时耗力,当相机数量和实景对象很多时,工程量极大,人工记录变的不可接受。另一种是利用计算机通过特定算法计算出坐标,例如专利申请公布号为CN111275766A提出的图像坐标系与GPS坐标系的标定方法、装置及摄像机,以及专利申请公布号为CN111914049 A提出的经纬度坐标与图像坐标映射方法,但这些已有的解决方案多为单应矩阵算法,需要至少标定4个点且不能共线;或者其他算法对相机内置参数、外置参数要求较高。
发明内容
本发明的目的是提供相机AR实景标注的方法及系统,只需至少2个标定点及相机位置参数就能对相机进行标定计算和目标点坐标计算,同时能对目标点以标签的方式标注到视频中。
为了实现上述目的,本发明采用了如下技术方案:
相机AR实景标注的方法,包括如下步骤:
S100、对相机进行标定:对监控设备拍摄的视频画面进行截图,得到待标定的投影图像,对投影图像的图像中心点和除图像中心点外任一点进行标定,利用标定点GPS坐标、相机光学中心的GPS坐标、相机高度计算出一组标定结果参数,所述标定结果参数包括相机水平偏移角fp、相机垂直偏移角ft、相机水平视场角Hfa、相机垂直视场角Vfa;
S200、根据业务场景选取实景对象作为目标点,找到离目标点最近的标定点,利用最近标定点的标定结果参数将目标点的GPS坐标换算成像素坐标;
S300、根据所述像素坐标对实景对象设置目标点标签,在视频画面进行标注显示。
S100进一步包括如下步骤:S101、人工读取图像中心点的原始像素坐标(x0,y0),并获取图像中心点的GPS坐标(α0,β0),以及选取除图像中心点外的任一实景对象作为标定点n,获取标定点n的GPS坐标(αn,βn);
S102、获取相机(即相机光学中心)的GPS坐标(α1,β1),利用图像中心点计算相机的垂直偏移角度:ft = arctan(H0/L1),其中,H0为相机高度,L1为相机与图像中心点的距离;
S103、利用标定的图像中心点计算相机的水平偏移角:fp = arccos(m1/m2),其中,m1、m2为辅助距离参数;
S104、计算相机光轴与标定点n的水平夹角:gx=arccos(k1 / k2)- fp,k1、k2均为辅助距离参数;
S105、计算相机与标定点n的垂直夹角:gy=arctan(H0/k2);
S106、计算相机的垂直视场角Vfa、水平视场角Hfa。
步骤S200进一步包括如下步骤:
S201、确定离目标点最近的标定点,然后取最近标定点对应的标定结果参数,确定最近标定点的具体过程为:遍历各标定点,用目标点的经纬度依次与各标定点的经纬度进行距离计算,取最小距离的标定点;
S202、计算目标点与相机光轴的水平夹角gx´、目标点与相机光轴的垂直夹角gy´;
S203、取最近标定点的相应标定参数计算相机光学中心到图像的距离R:R = (W/2 ) / tan( Hfa/ 2),其中,Hfa为步骤S201中的Hfa值,W为图像宽度总像素;
S204、计算目标点的像素坐标(x´、y´):
转换为目标点的原始像素坐标:
Y´= y´* (Hfa / Vfa)
X´= x´
所述目标点的原始像素坐标即作为该实景对象对应标签的像素坐标。
步骤S300进一步包括如下步骤:
S311、根据实景对象类型,将实景对象做成不同的标签,并根据窗口大小自适应调整;
S312、进行标签聚合处理;
S313、进行动态聚合标签样式处理。
进一步设置为:所述标签聚合处理包括如下步骤:
1)初始化标签集合,把所有标签数据放入集合中;
2)取集合中第一个标签,加入到新聚合标签中,并把该标签的像素坐标作为该聚合标签的像素坐标,最后把标签从集合中删除;
3)遍历集合中其他标签,如果与第一个标签距离小于距离阈值,那么就归为同一个聚合标签,并从集合中删除;
4)重复第2步、第3步,直到集合为空,所有标签都进行了聚合处理,得到多个聚合标签,每个聚合标签都有一个像素坐标;
5)根据像素坐标把聚合标签标注到视频画面中。
进一步设置为:所述动态聚合标签样式处理包括如下步骤:
1) 如果聚合的是同一种标签,那聚合后的图标跟聚合前的图标一致,标题显示聚合的标签数量;
2) 如果聚合了多种标签,把每种标签图标横向并排组成一个新的动态聚合图标,每种标签的标题显示该标签聚合的数量,图标的排列可以按聚合数量排序,数量大的排在前,形成标签列表;
3) 点击该动态聚合图标时,显示聚合前的标签列表,点击列表中的某一标签可以展示该标签的详细信息。
相机AR实景标注的系统,包括相机标定模块、点位计算模块和标签显示模块;
所述相机标定模块:对相机进行标定,用于对视频画面的图像中心点和任意另外一点进行标定,利用标定点GPS坐标、标定点像素坐标、相机光学中心的GPS坐标、相机高度计算出一组标定结果参数;
所述点位计算模块:和所述相机标定模块相连接,用于将任一目标点的GPS坐标计算转换为相机图像对应的像素坐标;
所述标签显示模块:和所述点位计算模块相连接,用于通过点位计算模块输出的像素坐标将标签标注到监控视频对应的位置进行显示。
进一步设置为:所述标签显示模块包括标签聚合处理子模块和与之相连接的动态聚合标签样式处理子模块,所述标签聚合处理子模块用于对所有标签数据进行聚合处理,所述动态聚合标签样式处理子模块用于对聚合标签进行动态显示的样式处理。
相比于现有技术,本发明的有益技术效果为:
1、标定时采用实景位置进行标定而非标定板,可以直接对视频图像进行标定,不需要去现场标定,同时也避免了有些相机已安装在高空的情况下不能使用标定板的限制。
2、本方法不需要相机提供过多的内置参数(比如相机的视场角、相机畸变数组)、外置参数(比如相机安装时镜头朝向),通过至少2个标定点和相机的位置,即可计算出相机状态参数,再通过模型公式计算出任意目标点像素坐标。
3、标签显示时可以根据播放器的宽高比例,进行自适应位置调整;标签重合时进行自动聚合处理;聚合标签支持动态组合样式。
本系统除了适用于单镜头的固定视角相机,也适用于多镜头拼接成的全景相机,将全景相机每个单镜头单独做标定计算处理即可,原理一致。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明提供的相机AR实景标注的方法流程图;
图2为本发明的相机成像模型示意图;
图3为计算相机垂直偏移角的示意图;
图4为计算相机的水平偏移角示意图;
图5为计算相机光轴与标定点的水平夹角示意图;
图6为计算相机光轴与标定点的垂直夹角示意图;
图7为对相机成像模型添加辅助线和点并做视角转换后的示意图一;
图8为对相机成像模型添加辅助线和点并做视角转换后的示意图二;
图9为计算相机水平视场角的示意图;
图10为将标签聚合显示处理的流程图;
图11为本发明提供的相机AR实景标注的系统的结构框图;
图12为本发明提供的一种电子设备的结构框图。
附图标记:401、相机标定模块;402、点位计算模块;403、标签显示模块;501、处理器;502、存储器;503、I/O接口;504、外部设备;505、显示器;506、网络适配器。
具体实施方式
下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
在本发明的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
下面首先对本申请涉及到的技术术语进行解释:
投影图像:现实世界中被相机、摄像机等监控设备拍摄到的画面,可以是视频截图得到的图像。
GPS坐标:现实世界中建筑、消防栓、火灾点等物体的地理位置,用经度和纬度表示。
原始像素坐标:现实世界中建筑、消防栓、火灾点等物体投影到投影图像上的位置,原始像素坐标可以直接通过投影图像读取。
标定像素坐标:经过标定计算后得到的像素坐标。
实施例1
参照图1,为本发明公开的相机AR实景标注的方法,包括如下步骤:
S100、对相机进行标定:对监控设备拍摄的视频画面进行截图,得到待标定的投影图像,对投影图像的图像中心点和除图像中心点外任一点进行标定,即选取图像中心点作为其中一个标定点,其他标定点至少选取1个,为了方便描述,其他标定点我们命名为标定点n,利用标定点GPS坐标、相机光学中心的GPS坐标、相机高度计算出一组标定结果参数。标定结果参数包括相机水平偏移角fp、相机垂直偏移角ft、相机水平视场角Hfa、相机垂直视场角Vfa。
S101、人工读取图像中心点的原始像素坐标(x0,y0),并获取图像中心点的GPS坐标(α0,β0),以及选取除图像中心点外的任一实景对象作为标定点n,获取标定点n的GPS坐标(αn,βn)。
为了方便理解,参照图2,为相机成像模型示意图。例如图像整体像素自定义为256*256(这里可以根据需要进行定义,只要整个计算体系遵循一种定义即可),那图像中心点的原始像素坐标(x0,y0)即(128,128),各标定点对应的GPS坐标可以通过百度地图获取。
S102、参照图3,获取相机(即相机光学中心)的GPS坐标(α1,β1),利用图像中心点计算相机的垂直偏移角度:ft = arctan(H0/L1),其中,H0为相机高度,L1为相机与图像中心点的距离。值得一提的是,为了便于描述,下文所说的相机各项参数均指的是相机光学中心的参数。
这是计算相机镜头朝向的过程,相机安装时镜头有一个固定的朝向,垂直方向上的朝向角度即指垂直偏移角度,相机垂直偏移角也就是相机光轴与水平面的垂直夹角。
S103、参照图4,利用图像中心点计算相机的水平偏移角:fp = arccos(m1/m2),其中,m1、m2为辅助距离参数,通过相机和图像中心点的GPS坐标计算得出,具体计算公式可参考球面距离公式。
S104、参照图5,计算相机光轴与标定点n的水平夹角gx。
gx=β-fp,β=arccos(k1/k2),其中,β为辅助角,k1、k2均为辅助距离参数,通过相机和标定点n的GPS坐标计算得出,具体计算公式可参考球面距离公式。
整合后,得到gx=arccos(k1 / k2)- fp。
S105、参照图6,计算相机光轴与标定点n的垂直夹角gy。
gy=arctan(H0/k2)
其中,H0为相机高度,具体计算公式可参考球面距离公式。
S106、计算相机的垂直视场角、水平视场角
1)参照图7,相机成像模型添加辅助线和点如图7(A)所示,对PP´´C区域进行视角转换后如图7(B)所示。
辅助点说明见下表:
B | 为标定点投影到图像上的位置 |
C | 为相机光学中心 |
P | 为B点的平行位移点,与图像的y轴相交 |
P´ | 为P点与相机光学中心所在平面的垂直交点 |
O | 图像中心点 |
O´ | 是图像中心点与相机光学中心所在平面的垂直交点 |
P´´ | 为P点与M线(图像与相机光学中心所在平面交线)的垂直交点 |
图中各参数说明见下表:
X | 标定像素x坐标 |
Y | 标定像素y坐标 |
gx | 相机与标定点的水平夹角 |
ft | 相机的垂直偏移角 |
R | C点到投影图像的距离 |
e<sub>2</sub> | O´到P´的距离 |
e<sub>3</sub> | P´到C的距离 |
e<sub>1</sub> | O´到C的距离 |
可以得知以下基础公式:
X= tan(gx) * n (公式1)
e3= e1-e2 (公式2)
k = R * cos(ft) (公式3)
m = Y* sin(ft) (公式4)
将公式2、3、4带入公式1得出标定像素x坐标的计算公式:
b.接着,对成像模型进行另一维度的计算:
2)参照图8,相机成像模型添加辅助线和点如图8(A)所示,对PP´´C区域进行视角转换后如图8(B)所示。
辅助点说明如下表:
B | 为标定点投影到图像上的位置 |
B´ | 为B点与相机光学中心所在平面的垂直交点 |
B´´ | 为B点与M线(图像与相机光学中心所在平面交线)的垂直交点 |
C | 为相机光学中心 |
P | 为B点的平行位移点,与图像的y轴相交 |
P´ | 为P点与相机光学中心所在平面的垂直交点 |
P´´ | 为P点与M线(图像与相机光学中心所在平面交线)的垂直交点 |
O | 图像中心点 |
图中参数说明见下表:
X | 标定像素x坐标 |
Y | 标定像素y坐标 |
gx | 相机与标定点的水平夹角 |
gy | 相机与标定点的垂直夹角 |
ft | 相机的垂直偏移角 |
R | 相机光学中心到投影图像的距离 |
j | 相机光学中心到辅助点P的距离 |
e<sub>4</sub> | 辅助点B到相机光学中心的距离 |
L<sub>3</sub> | 辅助点P到P的距离 |
L<sub>4</sub> | 辅助点B到B的距离 |
可以得知以下基础公式:
L3= sin(ft) * (Y+ j) (公式6)
L4 = tan(gy) * e4 (公式7)
j = tan(ft) * R (公式8)
k = X/cos(gx) (公式9)
L3和L4 是平行位移关系,L3=L4 ,所以有:
sin(ft) * (Y+ j) = tan(gy) * e4 (公式10)
将公式8、9、5带入公式10得出:
sin(ft)* (Y+ tan(ft)*R) = tan(gy) * tan(gx) * (R* cos(ft) - y* sin(ft)) / cos(gx) (公式11)
对公式11进行Y值提取,最终得出标定点像素y坐标的计算公式:
(公式12)
3)计算相机光学中心到图像的距离R,将公式5、公式12进行合并,得到公式13
(公式13)
4)计算相机水平视场角(Hfa)
参照图9,图中参数说明见下表:
Hfa | 相机水平视场角 |
R | 相机光学中心到投影图像的距离 |
W | 图像宽度总像素,前面定义的是256 |
Hfa = 2 * arctan((W / 2 ) / R) (公式14)
5)计算相机垂直视场角(Vfa)
计算相机垂直视场角时,需要注意,不能通过R与屏幕高度总像素进行计算,因为之前定义的整个画面像素是256*256,而实际的屏幕可能是宽屏,不是正方形。计算相机水平视场角时已经用X作为基准,后面用Y时需要根据屏幕实际宽高比进行等比例缩放,所以有以下公式:
y/Y = Hfa/ Vfa
因此,可得:Vfa = Hfa * Y / y (公式15)
Hfa | 相机水平视场角 |
Vfa | 相机垂直视场角 |
y | 原始像素y坐标,为已知值,通过投影图像获取 |
Y | 等比例转换前的y坐标(即标定像素y坐标),通过公式12计算得出 |
由前面描述可知,通过标定点可以计算出基于该点的相机参数(fp、ft、Hfa、Vfa),因为有些相机对畸变的处理不是很理想,为了提高精度,可以对图像选取多个点进行标定,得到一组标定结果参数。
标定结果参数样例:
标定点经度 | 标定点纬度 | 水平偏移fp | 垂直偏移ft | 水平视场角Hfa | 垂直视场角Vfa | |
标定点1 | 117.134738 | 39.104627 | 10.7 | 3.93 | 56.53 | 31.61 |
标定点2 | 117.133604 | 39.106273 | 10.7 | 3.93 | 53.14 | 30.31 |
标定点3 | 117.135572 | 39.104614 | 10.7 | 3.93 | 57.15 | 34.21 |
标定点4 | 117.134137 | 39.105625 | 10.7 | 3.93 | 56.88 | 33.57 |
S200、根据业务场景选取实景对象作为目标点,找到离目标点最近的标定点,利用最近标定点的标定结果参数将目标点的GPS坐标换算成像素坐标。
S201、找到离目标点最近的标定点,然后取最近标定点对应的标定结果参数(ft、fp、Hfa、Vfa)。目标点指的是需要在实景地图上标记的那个实景对象,例如需要在地图上标记的建筑、消防栓、火灾点等物体。
S202、计算目标点与相机光轴的水平夹角gx´、目标点与相机光轴的垂直夹角gy´。
计算公式可以参照相机标定过程求解gx、gy的公式:
gx´=arccos(k1´/k2´)-fp,
gy´=arctan(H0/k2´),
其中,k1´、k2´均为辅助距离参数,通过相机和目标点的GPS坐标计算得出,求解原理同步骤S104,具体计算公式可参考球面距离公式。
S203、取最近标定点的相应标定参数计算相机光学中心到图像的距离R,计算公式可以参照相机标定过程求解Hfa的公式14:
R = (W/ 2 ) / tan( Hfa/ 2)
Hfa为步骤S201中的Hfa值;W为图像宽度总像素,前面定义的是256。
S204、计算目标点的像素坐标(x´、y´):
转换为目标点的原始像素坐标:
Y´ = y´* (Hfa / Vfa)
X´ = x´
通过对相机视频图像进行标定,建立实景GPS点与像素坐标点的关系模型,计算出基于标定点的相机状态参数。利用模型公式和相机状态参数,可以计算出任意实景目标点的像素坐标,再转换为目标点的原始像素坐标。目标点的原始像素坐标即作为该实景对象对应标签的像素坐标。
S300、对实景对象设置目标点标签,在视频画面进行标注显示。
S311、根据实景对象类型,将实景对象做成不同的标签,并根据窗口大小自适应调整。
以火情业务场景为例,实景对象有居民楼、监控立杆、消防栓、火灾点、消防局等(不同的业务场景对应的实景对象是不同的)。根据实景对象类型,将实景做成不同的标签(图标+标题+详情)。比如火灾点标签样式,图标是一个红色火焰,标题显示火灾地点,标题位置在图标的上方,点击图标时,会弹出火灾的详情信息。
根据播放器窗口的大小自适应调整。由于视频的播放器大小是可以调整的,而输出的目标点像素坐标是按照256*256计算的,所以需要标签的像素坐标(x´、y´值)需要根据播放器窗口的大小做自适应调整。
定义视频播放器的宽和高为W、H,相机标定图像的像素为256*256(与前面的定义保持一致,整个系统遵循一种定义),转换前的像素坐标为X´、Y´,转换后的像素坐标为x´´、y´´。
x ´´=(W * X´)/256,
y´´ =(H * Y´)/256。
S312、进行标签聚合处理。
参照图10,当一个位置有多个标签时,会出现标签堆叠在一起的情况,需要做聚合显示处理,把临近的标签整合成一个聚合标签,聚合标签可以做成不同的显示样式,便于与普通标签区分。具体的处理流程如下步骤:
1)初始化标签集合,把所有标签数据放入集合中。
2)取集合中第一个标签,加入到新聚合标签中,并把该标签的像素坐标作为该聚合标签的像素坐标,最后把标签从集合中删除。
3)遍历集合中其他标签,如果与第一个标签距离小于距离阈值d(d可以根据标签密集度进行调整),那么就归为同一个聚合标签,并从集合中删除。
4)重复第2步、第3步,直到集合为空,所有标签都进行了聚合处理,得到多个聚合标签,每个聚合标签都有一个像素坐标。
5)根据像素坐标把聚合标签标注到视频画面中。
利用像素坐标将实景以标签的形式标注到视频画面中,标签位置能自适应窗口大小的调整,能对重合的标签做自动化聚合处理,最终达到相机AR实景增强显示的效果。
S313、进行动态聚合标签样式处理。
1) 如果聚合的是同一种标签,那聚合后的图标跟聚合前的图标一致,标题显示聚合的标签数量。
2) 如果聚合了多种标签,把每种标签图标横向并排组成一个新的动态聚合图标,每种标签的标题显示该标签聚合的数量,图标的排列可以按聚合数量排序,数量大的排在前,形成标签列表。
3) 点击该动态聚合图标时,显示聚合前的标签列表,点击列表中的某一标签可以展示该标签的详细信息。
通过上述动态聚合标签样式处理,可以帮助城市管理者快速、直观地浏览实景对象,查看实景详细信息。
参照图11,为本发明公开的相机AR实景标注的系统,包括相机标定模块401、点位计算模块402和标签显示模块403;
所述相机标定模块401:对相机进行标定,用于对视频画面的图像中心点和任意另外一点进行标定,利用标定点GPS坐标、标定点像素坐标、相机光学中心的GPS坐标、相机高度计算出一组标定结果参数;
所述点位计算模块402:和所述相机标定模块401相连接,用于将任一目标点的GPS坐标计算转换为相机图像对应的像素坐标;
所述标签显示模块403:和所述点位计算模块402相连接,用于通过点位计算模块输出的像素坐标将标签标注到监控视频对应的位置进行显示。
其中,所述标签显示模块403包括标签聚合处理子模块和与之相连接的动态聚合标签样式处理子模块,所述标签聚合处理子模块用于对所有标签数据进行聚合处理,所述动态聚合标签样式处理子模块用于对聚合标签进行动态显示的样式处理。本系统的工作原理和具体实施过程参见前述方法实施例,此处不再赘述。
本系统除了适用于单镜头的固定视角相机,也适用于多镜头拼接成的全景相机,将全景相机每个单镜头单独做标定计算处理即可,原理一致。
参照图12,本发明还提供了一种电子设备,该电子设备包括:一个或多个处理器501,以及用于存储处理器501的可执行指令的存储器502,存储器502和处理器501电性连接。
其中,处理器501配置为经由执行所述可执行指令来执行前述方法实施例对应的方法,其具体实施过程可以参见前述方法实施例,此处不再赘述。
可选的,该电子设备还可以包括:通信接口503,该电子设备通过通信接口503可以与一个或多个外部设备504(例如键盘、指向设备、显示器505等)通信连接。
可选的,该电子设备还可以包括:网络适配器506,该电子设备可通过网络适配器506与一个或多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。
本发明还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器501执行时实现前述方法实施例中对应的方法,其具体实施过程可以参见前述方法实施例,此处不再赘述。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (10)
1.相机AR实景标注的方法,其特征在于,包括如下步骤:
S100、对相机进行标定:对监控设备拍摄的视频画面进行截图,得到待标定的投影图像,对投影图像的图像中心点和除图像中心点外任一点进行标定,利用标定点GPS坐标、相机光学中心的GPS坐标、相机高度计算出一组标定结果参数,所述标定结果参数包括相机水平偏移角fp、相机垂直偏移角ft、相机水平视场角Hfa、相机垂直视场角Vfa;
S200、根据业务场景选取实景对象作为目标点,找到离目标点最近的标定点,利用最近标定点的标定结果参数将目标点的GPS坐标换算成像素坐标;
S300、根据所述像素坐标对实景对象设置目标点标签,在视频画面进行标注显示。
2.根据权利要求1所述的相机AR实景标注的方法,其特征在于,所述步骤S100进一步包括如下步骤:
S101、人工读取图像中心点的原始像素坐标(x0,y0),并获取图像中心点的GPS坐标(α0,β0),以及选取除图像中心点外的任一实景对象作为标定点n,获取标定点n的GPS坐标(αn,βn);
S102、获取相机的GPS坐标(α1,β1),利用图像中心点计算相机的垂直偏移角度:ft =arctan(H0/L1),其中,H0为相机高度,L1为相机与图像中心点的距离;
S103、利用标定的图像中心点计算相机的水平偏移角:fp = arccos(m1/m2),其中,m1、m2为辅助距离参数;
S104、计算相机光轴与标定点n的水平夹角:gx=arccos(k1 / k2)- fp,k1、k2均为辅助距离参数;
S105、计算相机与标定点n的垂直夹角:gy=arctan(H0/k2);
S106、计算相机的垂直视场角Vfa、水平视场角Hfa。
3.根据权利要求1所述的相机AR实景标注的方法,其特征在于,步骤S200进一步包括如下步骤:
S201、确定离目标点最近的标定点,然后取最近标定点对应的标定结果参数;
S202、计算目标点与相机光轴的水平夹角gx´、目标点与相机光轴的垂直夹角gy´;
S203、取最近标定点的相应标定参数计算相机光学中心到图像的距离R:R = (W/ 2 )/ tan( Hfa/ 2),其中,Hfa为步骤S201中的Hfa值,W为图像宽度总像素;
S204、计算目标点的像素坐标(x´、y´):
转换为目标点的原始像素坐标(X´,Y´):
Y´= y´* (Hfa / Vfa)
X´= x´
所述目标点的原始像素坐标即作为该实景对象对应标签的像素坐标。
4.根据权利要求3所述的相机AR实景标注的方法,其特征在于,所述确定离目标点最近的标定点的具体过程为:遍历各标定点,用目标点的经纬度依次与各标定点的经纬度进行距离计算,取最小距离的标定点。
5.根据权利要求1所述的相机AR实景标注的方法,其特征在于,步骤S300进一步包括如下步骤:
S311、根据实景对象类型,将实景对象做成不同的标签,并根据窗口大小自适应调整;
S312、进行标签聚合处理;
S313、进行动态聚合标签样式处理。
6.根据权利要求5所述的相机AR实景标注的方法,其特征在于,所述标签聚合处理包括如下步骤:
1)初始化标签集合,把所有标签数据放入集合中;
2)取集合中第一个标签,加入到新聚合标签中,并把该标签的像素坐标作为该聚合标签的像素坐标,最后把标签从集合中删除;
3)遍历集合中其他标签,如果与第一个标签距离小于距离阈值,那么就归为同一个聚合标签,并从集合中删除;
4)重复第2步、第3步,直到集合为空,所有标签都进行了聚合处理,得到多个聚合标签,每个聚合标签都有一个像素坐标;
5)根据像素坐标把聚合标签标注到视频画面中。
7.根据权利要求5所述的相机AR实景标注的方法,其特征在于,所述动态聚合标签样式处理包括如下步骤:
1) 如果聚合的是同一种标签,那聚合后的图标跟聚合前的图标一致,标题显示聚合的标签数量;
2) 如果聚合了多种标签,把每种标签图标横向并排组成一个新的动态聚合图标,每种标签的标题显示该标签聚合的数量,图标的排列按聚合数量排序,数量大的排在前,形成标签列表;
3) 点击该动态聚合图标时,显示聚合前的标签列表,点击列表中的某一标签展示该标签的详细信息。
8.相机AR实景标注的系统,其特征在于,包括相机标定模块(401)、点位计算模块(402)和标签显示模块(403);
所述相机标定模块(401):对相机进行标定,用于对视频画面的图像中心点和任意另外一点进行标定,利用标定点GPS坐标、标定点像素坐标、相机光学中心的GPS坐标、相机高度计算出一组标定结果参数;
所述点位计算模块(402):和所述相机标定模块(401)相连接,用于将任一目标点的GPS坐标计算转换为相机图像对应的像素坐标;
所述标签显示模块(403):和所述点位计算模块(402)相连接,用于通过点位计算模块(402)输出的像素坐标将标签标注到监控视频对应的位置进行显示。
9.根据权利要求8所述的相机AR实景标注的系统,其特征在于,所述标签显示模块(403)包括标签聚合处理子模块和与之相连接的动态聚合标签样式处理子模块,所述标签聚合处理子模块用于对所有标签数据进行聚合处理,所述动态聚合标签样式处理子模块用于对聚合标签进行动态显示的样式处理。
10.一种电子设备,其特征在于,包括处理器(501)和存储器(502),所述存储器(502)与处理器(501)电性连接,所述存储器(502)用于存储处理器(501)的可执行指令;其中,所述处理器(501)配置为经由执行所述可执行指令来执行权利要求1~7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211322040.9A CN115375779B (zh) | 2022-10-27 | 2022-10-27 | 相机ar实景标注的方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211322040.9A CN115375779B (zh) | 2022-10-27 | 2022-10-27 | 相机ar实景标注的方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115375779A true CN115375779A (zh) | 2022-11-22 |
CN115375779B CN115375779B (zh) | 2023-01-10 |
Family
ID=84072862
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211322040.9A Active CN115375779B (zh) | 2022-10-27 | 2022-10-27 | 相机ar实景标注的方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115375779B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116228888A (zh) * | 2023-04-21 | 2023-06-06 | 智广海联(天津)大数据技术有限公司 | 地理坐标与ptz相机坐标的转换方法及系统 |
CN116823936A (zh) * | 2023-08-28 | 2023-09-29 | 智广海联(天津)大数据技术有限公司 | 一种利用相机屏幕标点获取经纬度的方法及系统 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103970841A (zh) * | 2014-04-24 | 2014-08-06 | 小米科技有限责任公司 | 标签管理方法和装置 |
CN109344748A (zh) * | 2018-09-19 | 2019-02-15 | 高新兴科技集团股份有限公司 | 一种基于监控点gps在图像画面添加ar标签的方法 |
CN109413384A (zh) * | 2018-10-19 | 2019-03-01 | 天津天地人和企业管理咨询有限公司 | 基于gps信息和ptz的视频监控系统及方法 |
CN109523471A (zh) * | 2018-11-16 | 2019-03-26 | 厦门博聪信息技术有限公司 | 一种地面坐标和广角摄像机画面坐标的转换方法、系统以及装置 |
CN109584308A (zh) * | 2018-11-08 | 2019-04-05 | 杭州叙简科技股份有限公司 | 一种基于空间实景地图的位置标定方法 |
CN109634477A (zh) * | 2017-10-09 | 2019-04-16 | 中兴通讯股份有限公司 | 应用程序图标显示方法、终端及存储介质 |
CN109919975A (zh) * | 2019-02-20 | 2019-06-21 | 中国人民解放军陆军工程大学 | 一种基于坐标标定的广域监控运动目标关联方法 |
CN111199560A (zh) * | 2019-12-31 | 2020-05-26 | 海能达通信股份有限公司 | 一种视频监控的定位方法及视频监控系统 |
CN111461994A (zh) * | 2020-03-30 | 2020-07-28 | 苏州科达科技股份有限公司 | 一种坐标转换矩阵的获取及监控画面中目标定位方法 |
CN111473739A (zh) * | 2020-04-24 | 2020-07-31 | 中铁隧道集团二处有限公司 | 一种基于视频监控的隧道塌方区围岩变形实时监测方法 |
CN111664865A (zh) * | 2020-06-03 | 2020-09-15 | 武汉中海庭数据技术有限公司 | 一种基于高精度数据的实景导航系统及方法 |
CN112116529A (zh) * | 2020-09-23 | 2020-12-22 | 浙江浩腾电子科技股份有限公司 | 一种基于ptz相机的gps坐标与像素坐标的转换方法 |
CN112860946A (zh) * | 2021-01-18 | 2021-05-28 | 四川弘和通讯有限公司 | 一种视频图像信息转换为地理信息的方法及系统 |
CN113850875A (zh) * | 2021-09-30 | 2021-12-28 | 苏州市科远软件技术开发有限公司 | 枪机标定方法、装置及电子设备 |
-
2022
- 2022-10-27 CN CN202211322040.9A patent/CN115375779B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103970841A (zh) * | 2014-04-24 | 2014-08-06 | 小米科技有限责任公司 | 标签管理方法和装置 |
CN109634477A (zh) * | 2017-10-09 | 2019-04-16 | 中兴通讯股份有限公司 | 应用程序图标显示方法、终端及存储介质 |
CN109344748A (zh) * | 2018-09-19 | 2019-02-15 | 高新兴科技集团股份有限公司 | 一种基于监控点gps在图像画面添加ar标签的方法 |
CN109413384A (zh) * | 2018-10-19 | 2019-03-01 | 天津天地人和企业管理咨询有限公司 | 基于gps信息和ptz的视频监控系统及方法 |
CN109584308A (zh) * | 2018-11-08 | 2019-04-05 | 杭州叙简科技股份有限公司 | 一种基于空间实景地图的位置标定方法 |
CN109523471A (zh) * | 2018-11-16 | 2019-03-26 | 厦门博聪信息技术有限公司 | 一种地面坐标和广角摄像机画面坐标的转换方法、系统以及装置 |
CN109919975A (zh) * | 2019-02-20 | 2019-06-21 | 中国人民解放军陆军工程大学 | 一种基于坐标标定的广域监控运动目标关联方法 |
CN111199560A (zh) * | 2019-12-31 | 2020-05-26 | 海能达通信股份有限公司 | 一种视频监控的定位方法及视频监控系统 |
CN111461994A (zh) * | 2020-03-30 | 2020-07-28 | 苏州科达科技股份有限公司 | 一种坐标转换矩阵的获取及监控画面中目标定位方法 |
CN111473739A (zh) * | 2020-04-24 | 2020-07-31 | 中铁隧道集团二处有限公司 | 一种基于视频监控的隧道塌方区围岩变形实时监测方法 |
CN111664865A (zh) * | 2020-06-03 | 2020-09-15 | 武汉中海庭数据技术有限公司 | 一种基于高精度数据的实景导航系统及方法 |
CN112116529A (zh) * | 2020-09-23 | 2020-12-22 | 浙江浩腾电子科技股份有限公司 | 一种基于ptz相机的gps坐标与像素坐标的转换方法 |
CN112860946A (zh) * | 2021-01-18 | 2021-05-28 | 四川弘和通讯有限公司 | 一种视频图像信息转换为地理信息的方法及系统 |
CN113850875A (zh) * | 2021-09-30 | 2021-12-28 | 苏州市科远软件技术开发有限公司 | 枪机标定方法、装置及电子设备 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116228888A (zh) * | 2023-04-21 | 2023-06-06 | 智广海联(天津)大数据技术有限公司 | 地理坐标与ptz相机坐标的转换方法及系统 |
CN116228888B (zh) * | 2023-04-21 | 2023-08-22 | 智广海联(天津)大数据技术有限公司 | 地理坐标与ptz相机坐标的转换方法及系统 |
CN116823936A (zh) * | 2023-08-28 | 2023-09-29 | 智广海联(天津)大数据技术有限公司 | 一种利用相机屏幕标点获取经纬度的方法及系统 |
CN116823936B (zh) * | 2023-08-28 | 2023-11-24 | 智广海联(天津)大数据技术有限公司 | 一种利用相机屏幕标点获取经纬度的方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN115375779B (zh) | 2023-01-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115375779B (zh) | 相机ar实景标注的方法及系统 | |
Miao et al. | Review of methods used to estimate the sky view factor in urban street canyons | |
CN106971403B (zh) | 点云图像处理方法及装置 | |
CN102148965B (zh) | 多目标跟踪特写拍摄视频监控系统 | |
US7944547B2 (en) | Method and system of generating 3D images with airborne oblique/vertical imagery, GPS/IMU data, and LIDAR elevation data | |
WO2020192355A1 (zh) | 一种城市观山可视域的测量方法及系统 | |
US11682170B2 (en) | Generating three-dimensional geo-registered maps from image data | |
WO2020062434A1 (zh) | 一种相机外部参数的静态标定方法 | |
CN103226838A (zh) | 地理场景中移动监控目标的实时空间定位方法 | |
CN112348775B (zh) | 基于车载环视的路面坑塘检测系统及方法 | |
CN113255486B (zh) | 一种基于高位视频监控的车位占用检测方法 | |
CN111024089A (zh) | 一种基于bim与计算机视觉技术的室内定位导航方法 | |
CN113869231B (zh) | 一种用于获取目标对象的实时图像信息的方法与设备 | |
CN111612901A (zh) | 一种地理信息图像的提取特征与生成方法 | |
CN111683221B (zh) | 嵌入矢量红线数据的自然资源实时视频监测方法及系统 | |
CN116182805A (zh) | 基于遥感图像的国土测绘方法 | |
CN111583119B (zh) | 一种正射影像拼接方法、设备以及计算机可读介质 | |
CN114827570A (zh) | 一种基于三维场景的视频态势感知与信息融合方法及电子设备 | |
Abrams et al. | Webcams in context: Web interfaces to create live 3D environments | |
CN111240617B (zh) | 基于三维地图的视频投放方法、系统和环境监控方法、系统 | |
CN114782555B (zh) | 地图映射方法、设备、及存储介质 | |
CN116152471A (zh) | 基于视频流的厂区安全生产监管方法及其系统、电子设备 | |
CN116051731A (zh) | 一种综合输电线路多源数据的实时监控视频融合方法 | |
CN112860946B (zh) | 一种视频图像信息转换为地理信息的方法及系统 | |
CN112822442A (zh) | 热度图生成方法、装置及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |