CN115802159A - 一种信息显示方法、装置、电子设备及存储介质 - Google Patents

一种信息显示方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN115802159A
CN115802159A CN202310048995.8A CN202310048995A CN115802159A CN 115802159 A CN115802159 A CN 115802159A CN 202310048995 A CN202310048995 A CN 202310048995A CN 115802159 A CN115802159 A CN 115802159A
Authority
CN
China
Prior art keywords
camera
marked
coordinates
coordinate system
focal length
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310048995.8A
Other languages
English (en)
Other versions
CN115802159B (zh
Inventor
韩兴志
孔庆新
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing BlueSky Technologies Co Ltd
Original Assignee
Beijing BlueSky Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing BlueSky Technologies Co Ltd filed Critical Beijing BlueSky Technologies Co Ltd
Priority to CN202310048995.8A priority Critical patent/CN115802159B/zh
Publication of CN115802159A publication Critical patent/CN115802159A/zh
Application granted granted Critical
Publication of CN115802159B publication Critical patent/CN115802159B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明实施例提供了一种信息显示方法、装置、电子设备及存储介质,涉及图像采集技术领域。信息显示方法包括:根据待标记对象的第一位置的坐标,在图像中第一位置处显示对象信息,并获得第一水平移动角度、第一倾斜角度、第一焦距与第一畸变系数;根据此时获得的数据与第一位置的坐标,确定待标记对象在世界坐标系中的实际位置的坐标;响应于相机转动和/或相机焦距变化并采集新图像,获得此时的第二水平移动角度、第二倾斜角度与第二焦距与第二畸变系数;根据此时获得的数据与实际位置的坐标,确定第二位置的坐标;在新图像中第二位置处显示对象信息。应用本发明实施例提供的方案能够准确地在相机所采集的图像相关位置显示相关信息。

Description

一种信息显示方法、装置、电子设备及存储介质
技术领域
本发明涉及图像采集技术领域,特别是涉及一种信息显示方法、装置、电子设备及存储介质。
背景技术
随着监控技术的发展,高点球机因为可以在高处大范围的监控周边信息,已经在各个领域中广泛运用。在监控时,用户可能需要密切关注一些对象或重点场所,以及这些对象或重点场所的相关信息。为此,可以将相关信息标记在监控画面中,也就是,在监控画面中密切关注的对象或重点场所所在的位置显示相关信息。
现有技术中,当高点球机保持一定位姿与焦距不变的情况下,可以在监控画面中固定位置显示信息。然而,由于高点球机的位姿与焦距会根据需要而变化,用户密切关注的对象或重点场所在监控画面中的位置会随之变化,此时,无法准确地在合适的位置显示信息。
因此,需要提供一种信息显示方案。
发明内容
本发明实施例的目的在于提供一种信息显示方法、装置、电子设备及存储介质,以实现准确地在相机所采集的图像中待标记对象对应的位置显示相关信息。具体技术方案如下:
根据本发明实施例的第一方面,提供了一种信息显示方法,所述方法包括:
根据待标记对象在相机所采集的图像中的第一位置的坐标,在所述图像中所述第一位置处显示所述待标记对象的对象信息,并获得所述相机采集所述图像时的第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一焦距对应的第一畸变系数;
根据所述第一位置的坐标、所述第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一畸变系数,确定所述待标记对象在世界坐标系中的实际位置的坐标;
响应于所述相机转动和/或相机焦距变化并采集新图像,获得所述相机采集所述新图像时的第二水平移动角度、第二倾斜角度与第二焦距,以及所述第二焦距对应的第二畸变系数;
根据所述待标记对象在世界坐标系中的实际位置的坐标、所述第二水平移动角度、第二倾斜角度、第二焦距,以及所述第二畸变系数,确定所述待标记对象在所述新图像中的第二位置的坐标;
根据所确定的第二位置的坐标,在所述新图像中所述第二位置处显示所述待标记对象的对象信息。
可选的,所述根据所述第一位置的坐标、所述第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一畸变系数,确定所述待标记对象在世界坐标系中的实际位置的坐标,包括:
根据所述第一焦距与所述第一畸变系数,确定所述待标记对象的第一投影参数;
根据所述第一投影参数与所述第一位置的坐标,确定所述待标记对象在第一相机坐标系中的位置的坐标;
根据所述第一水平移动角度、第一倾斜角度与所述待标记对象在第一相机坐标系中的位置的坐标,确定所述待标记对象在世界坐标系中的实际位置的坐标。
可选的,所述根据所述第一投影参数与所述第一位置的坐标,确定所述待标记对象在第一相机坐标系中的位置的坐标;根据所述第一水平移动角度、第一倾斜角度与所述待标记对象在第一相机坐标系中的位置的坐标,确定所述待标记对象在世界坐标系中的实际位置的坐标,包括:
根据以下关系式,确定所述待标记对象在世界坐标系中的实际位置的坐标:
Figure SMS_1
其中,
Figure SMS_2
表示所述待标记对象在世界坐标系中的实际位置的坐标,
Figure SMS_3
表示所述第一水平移动角度,
Figure SMS_4
表示所述第一倾斜角度,
Figure SMS_5
Figure SMS_6
分别表示所述第一投影参数的两个分量,
Figure SMS_7
表示所述标记对象在所述图像中的第一位置的坐标。
可选的,所述根据所述待标记对象在世界坐标系中的实际位置的坐标、所述第二水平移动角度、第二倾斜角度、第二焦距,以及所述第二畸变系数,确定所述待标记对象在所述新图像中的第二位置的坐标,包括:
根据所述第二焦距与所述第二畸变系数,确定所述待标记对象的第二投影参数;
根据所述第二投影参数与所述待标记对象在世界坐标系中的实际位置的坐标,确定所述待标记对象在第二相机坐标系中的位置的坐标;
根据所述第二水平移动角度、第二倾斜角度与所述待标记对象在第二相机坐标系中的位置的坐标,确定所述待标记对象在所述新图像中的第二位置的坐标。
可选的,所述根据所述第二投影参数与所述待标记对象在世界坐标系中的实际位置的坐标,确定所述待标记对象在第二相机坐标系中的位置的坐标;根据所述第二水平移动角度、第二倾斜角度与所述待标记对象在第二相机坐标系中的位置的坐标,确定所述待标记对象在所述新图像中的第二位置的坐标,包括:
根据以下关系式,确定所述待标记对象在所述新图像中的第二位置的坐标:
Figure SMS_8
其中,
Figure SMS_9
表示所述待标记对象在所述新图像中的第二位置的坐标,
Figure SMS_10
表示所述相机第二水平移动角度,
Figure SMS_11
表示所述第二倾斜角度,
Figure SMS_12
Figure SMS_13
分别表示所述第二投影参数的两个分量,
Figure SMS_14
表示所述待标记对象在世界坐标系中的实际位置的坐标。
可选的,所述第一畸变参数根据所述相机在所述第一焦距下采集的图像确定;
所述第二畸变系数根据所述相机在所述第二焦距下采集的图像确定。
可选的,以以下表达式的值最小为约束条件,确定所述第一畸变参数:
Figure SMS_15
其中,n表示在所述相机在所述第一焦距下采集的图像数量,m表示所述相机在所述第一焦距下采集的每一图像中存在的像素点的数量,
Figure SMS_16
表示相机采集的第i幅图像中的第j个像素点的像素坐标,
Figure SMS_19
表示相机采集的第i幅图像中的第j个像素点的像素坐标的增广矩阵,
Figure SMS_21
表示相机内参,
Figure SMS_18
Figure SMS_20
分别表示所述第一畸变参数的两个分量的初值,
Figure SMS_22
Figure SMS_23
表示第i幅图像对应的相机外参,
Figure SMS_17
表示图像中第j个像素点对应的对象在世界坐标系中的实际位置的坐标;
以以下表达式的值最小为约束条件,确定所述第二畸变参数:
Figure SMS_24
其中,a表示在所述相机在所述第二焦距下采集的图像数量,b表示所述相机在所述第二焦距下采集的每一图像中存在的像素点的数量,
Figure SMS_26
表示相机采集的第i幅图像中的第j个像素点的像素坐标,
Figure SMS_29
表示相机采集的第i幅图像中的第j个像素点的像素坐标的增广矩阵,
Figure SMS_31
表示相机内参,
Figure SMS_27
Figure SMS_28
分别表示所述第二畸变参数的两个分量的初值,
Figure SMS_30
Figure SMS_32
表示第i幅图像对应的相机外参,
Figure SMS_25
表示图像中第j个像素点对应的对象在世界坐标系中的实际位置的坐标。
根据本发明实施例的第二方面,提供了一种信息显示装置,所述装置包括:
第一信息显示模块,用于根据待标记对象在相机所采集的图像中的第一位置的坐标,在所述图像中所述第一位置处显示所述待标记对象的对象信息,并获得所述相机采集所述图像时的第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一焦距对应的第一畸变系数;
实际位置确定模块,用于根据所述第一位置的坐标、所述第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一畸变系数,确定所述待标记对象在世界坐标系中的实际位置的坐标;
新图像采集模块,用于响应于所述相机转动和/或相机焦距变化并采集新图像,获得所述相机采集所述新图像时的第二水平移动角度、第二倾斜角度与第二焦距,以及所述第二焦距对应的第二畸变系数;
第二位置确定模块,用于根据所述待标记对象在世界坐标系中的实际位置的坐标、所述第二水平移动角度、第二倾斜角度、第二焦距,以及所述第二畸变系数,确定所述待标记对象在所述新图像中的第二位置的坐标;
第二信息显示模块,用于根据所确定的第二位置的坐标,在所述新图像中所述第二位置处显示所述待标记对象的对象信息。
可选的,所述实际位置确定模块,包括:
第一投影参数确定单元,用于根据所述第一焦距与所述第一畸变系数,确定所述待标记对象的第一投影参数;
第一相机坐标系位置确定单元,用于根据所述第一投影参数与所述第一位置的坐标,确定所述待标记对象在第一相机坐标系中的位置的坐标;
实际位置确定单元,用于根据所述第一水平移动角度、第一倾斜角度与所述待标记对象在第一相机坐标系中的位置的坐标,确定所述待标记对象在世界坐标系中的实际位置的坐标。
可选的,所述第一相机坐标系位置确定单元与实际位置确定单元,具体用于:
根据以下关系式,确定所述待标记对象在世界坐标系中的实际位置的坐标:
Figure SMS_33
其中,
Figure SMS_34
表示所述待标记对象在世界坐标系中的实际位置的坐标,
Figure SMS_35
表示所述第一水平移动角度,
Figure SMS_36
表示所述第一倾斜角度,
Figure SMS_37
Figure SMS_38
分别表示所述第一投影参数的两个分量,
Figure SMS_39
表示所述标记对象在所述图像中的第一位置的坐标。
可选的,所述第二位置确定模块,包括:
第二投影参数确定单元,用于根据所述第二焦距与所述第二畸变系数,确定所述待标记对象的第二投影参数;
第二相机坐标系位置确定单元,用于根据所述第二投影参数与所述待标记对象在世界坐标系中的实际位置的坐标,确定所述待标记对象在第二相机坐标系中的位置的坐标;
第二位置确定单元,用于根据所述第二水平移动角度、第二倾斜角度与所述待标记对象在第二相机坐标系中的位置的坐标,确定所述待标记对象在所述新图像中的第二位置的坐标。
可选的,所述第二相机坐标系位置确定单元与第二位置确定单元,具体用于:
根据以下关系式,确定所述待标记对象在所述新图像中的第二位置的坐标:
Figure SMS_40
其中,
Figure SMS_41
表示所述待标记对象在所述新图像中的第二位置的坐标,
Figure SMS_42
表示所述相机第二水平移动角度,
Figure SMS_43
表示所述第二倾斜角度,
Figure SMS_44
Figure SMS_45
分别表示所述第二投影参数的两个分量,
Figure SMS_46
表示所述待标记对象在世界坐标系中的实际位置的坐标。
可选的,所述第一畸变参数根据所述相机在所述第一焦距下采集的图像确定;
所述第二畸变系数根据所述相机在所述第二焦距下采集的图像确定。
可选的,以以下表达式的值最小为约束条件,确定所述第一畸变参数:
Figure SMS_47
其中,n表示在所述相机在所述第一焦距下采集的图像数量,m表示所述相机在所述第一焦距下采集的每一图像中存在的点的数量,
Figure SMS_49
表示相机采集的第i幅图像中的第j个点的像素坐标,
Figure SMS_51
表示相机采集的第i幅图像中的第j个点的像素坐标的增广矩阵,
Figure SMS_54
表示相机内参,
Figure SMS_50
Figure SMS_52
分别表示所述第一畸变参数的两个分量的初值,
Figure SMS_53
Figure SMS_55
表示第i幅图像对应的相机外参,
Figure SMS_48
表示图像中第j个点对应的对象在世界坐标系中的实际位置的坐标;
以以下表达式的值最小为约束条件,确定所述第二畸变参数:
Figure SMS_56
其中,a表示在所述相机在所述第二焦距下采集的图像数量,b表示所述相机在所述第二焦距下采集的每一图像中存在的点的数量,
Figure SMS_58
表示相机采集的第i幅图像中的第j个点的像素坐标,
Figure SMS_61
表示相机采集的第i幅图像中的第j个点的像素坐标的增广矩阵,
Figure SMS_63
表示相机内参,
Figure SMS_59
Figure SMS_60
分别表示所述第二畸变参数的两个分量的初值,
Figure SMS_62
Figure SMS_64
表示第i幅图像对应的相机外参,
Figure SMS_57
表示图像中第j个点对应的对象在世界坐标系中的实际位置的坐标。
根据本发明实施例的第三方面,提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现上述第一方面所述的信息显示方法。
根据本发明实施例的第四方面,提供了一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的信息显示方法。
本发明实施例有益效果:
本发明实施例提供的信息显示方案,可以根据待标记对象在相机所采集的图像中的第一位置的坐标,在图像中第一位置处显示待标记对象的对象信息,并获得相机采集图像时的第一水平移动角度、第一倾斜角度与第一焦距,以及第一焦距对应的第一畸变系数,从而根据第一位置的坐标、第一水平移动角度、第一倾斜角度与第一焦距,以及第一畸变系数,确定待标记对象在世界坐标系中的实际位置的坐标。当相机转动和/或相机焦距变化时,相机将采集新图像,电子设备获得相机采集新图像时的第二水平移动角度、第二倾斜角度与第二焦距,以及第二焦距对应的第二畸变系数,从而根据待标记对象在世界坐标系中的实际位置的坐标、第二水平移动角度、第二倾斜角度、第二焦距,以及第二畸变系数,确定待标记对象在新图像中的第二位置的坐标。这样,根据所确定的第二位置的坐标,电子设备能够在新图像中第二位置处显示待标记对象的对象信息。
由于根据待标记对象在此时相机所采集的图像中的第一位置,确定了待标记对象的实际位置。当相机转动和/或相机焦距变化时,待标记对象在相机所采集的新图像中的位置会发生变化,此时,根据待标记对象的实际位置确定待标记对象在新图像中的第二位置,由于待标记对象的实际位置固定不变,因此,根据待标记对象的实际位置可以准确确定待标记对象在新图像中的第二位置。这样,可以准确地在相机采集的新图像中确定待标记对象的位置,从而在该位置显示待标记对象的相关信息。因此,应用本发明实施例提供方案可以准确地在相机所采集的图像中待标记对象对应的位置显示相关信息。
当然,实施本发明的任一产品或方法并不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,还可以根据这些附图获得其他的实施例。
图1为本发明实施例提供的一种信息显示方法的流程示意图;
图2为本发明实施例提供的一种待标记对象实际位置的坐标的确定方法的流程示意图;
图3为本发明实施例提供的一种待标记对象第二位置的坐标的确定方法的流程示意图;
图4为本发明实施例提供的一种信息显示装置的结构示意图;
图5为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员基于本申请所获得的所有其他实施例,都属于本发明保护的范围。
监控设备已经广泛应用于各个领域。在监控时,用户可能需要对一些对象以及这些对象的相关信息进行重点关注,为了便于用户关注,可以将关注对象的相关信息在监控图像中关注对象的对应位置显示出来。
然而,许多监控设备的位姿会发生变化,也就是,监控设备的水平移动角度和倾斜角度会发生变化,监控设备的焦距也会根据实际需求而变化。当监控设备的位姿和/或焦距变化时,监控设备采集到的图像会随之变化,关注对象在图像中的位置也会变化。此时,无法准确地在关注对象在图像中的对应位置显示相关信息。
鉴于此,本发明实施例提供了一种信息显示方案,以准确地在相机所采集的图像中待标记对象对应的位置显示相关信息。
下面对本发明实施例的执行主体进行说明。
本发明实施例的执行主体可以是电子设备,具体的,可以为与相机相连接的电子设备,例如台式机、服务器等等。
上述电子设备相连接的相机可以为高点球机、半球摄像机等。
下面对本方案涉及到的一些概念进行说明。
1.世界坐标系
世界坐标系为具有一个世界坐标系原点与彼此正交的三个坐标轴的坐标系,相对于世界坐标系原点可以确定任意对象的实际位置。根据需求,可以确定实际空间中的任一点为世界坐标系原点,并确定世界坐标系坐标轴的方向。世界坐标系不依托于其他任何物体,在确定后不变且唯一。其单位为物理单位。
具体的,上述物理单位可以为毫米、米等。
2.相机坐标系
相机坐标系为以相机光心为原点的坐标系,其z轴与相机光轴重合并指向相机前方,x轴与y轴与图像坐标系的x轴与y轴平行。相机坐标系会随着相机的位姿变化而变化。其单位为物理单位。
3.图像坐标系
图像坐标系是相机成像平面的坐标系,其坐标系原点为相机光轴与相机成像平面的交点,x轴方向为相机成像平面的水平方向,y轴方向为相机成像平面的竖直方向。其单位为物理单位。
在后续部分中,提及的待标记对象在相机所采集的图像中的第一位置的坐标、待标记对象在新图像中的第二位置的坐标均指待标记对象在图像坐标系中的坐标。
4.像素坐标系
像素坐标系是相机成像平面的坐标系,其坐标系原点为相机成像的左上角角点,x轴方向为相机成像平面水平向右,y轴方向为相机成像平面竖直向下。其单位为像素。
下面通过具体实施例对本发明实施例提供的信息显示方法进行说明。
参见图1,提供了一种信息显示方法的流程示意图,该方法包括以下步骤S101-步骤S105。
步骤S101:根据待标记对象在相机所采集的图像中的第一位置的坐标,在图像中第一位置处显示待标记对象的对象信息,并获得相机采集图像时的第一水平移动角度、第一倾斜角度与第一焦距,以及第一焦距对应的第一畸变系数。
其中,上述待标记对象的对象信息与用户对待标记对象的关注需求有关。下面以举例的方式对待标记对象的对象信息进行说明。
当用户关注的是待标记对象本身的位置时,待标记对象的对象信息可以为待标记对象的名称,从而便于用户在相机采集到的图像中快速找到待标记对象;当用户关注的是待标记对象的温度时,待标记对象的对象信息可以为待标记对象的温度信息;当用户关注的是待标记对象的状态时,例如,待标记对象为防盗门,用户关注的是防盗门是否锁上,此时,待标记对象的对象信息可以为防盗门锁上或防盗门未锁上。
下面对电子设备获得待标记对象在相机所采集的图像中的第一位置的坐标的方式进行具体说明。
一种实现方式中,电子设备可以获得输入的待标记对象在相机所采集的图像中的第一位置的坐标。
另一种实现方式中,由前文的说明可知,电子设备与相机相连接。这样,电子设备可以显示相连接的相机所采集的图像,用户可以查看电子设备显示的图像,并在图像中寻找代标记对象。
当用户在电子设备显示的图像中找到待标记对象后,可以通过操作电子设备,在电子设备显示的图像中选择待标记对象的位置。电子设备根据用户的操作指令,获得用户选择的位置的坐标,所获得的坐标即为待标记对象在相机所采集的图像中的第一位置的坐标。
下面对电子设备获得相机采集图像时的第一水平移动角度、第一倾斜角度与第一焦距的方式进行说明。
如前文提到的,相机会根据需要,变换自身位姿与焦距。具体的,相机的水平移动角度与倾斜角度反映了相机的位姿。相机会记录自身在当前时刻的水平移动角度、倾斜角度与焦距信息。
由于电子设备与相机相连接,电子设备可以读取相机记录的当前时刻的水平移动角度、倾斜角度与焦距信息,从而获得相机采集图像时的第一水平移动角度、第一倾斜角度与第一焦距。
下面对电子设备获得第一焦距对应的第一畸变系数进行说明。
在实际实现过程中,电子设备可以提前存储所连接的相机的焦距与畸变系数的对应关系,从而根据所获得的相机的第一焦距,确定对应的相机的第一畸变系数。
相机可以通过以下实现方式获得并存储所连接的相机的焦距与畸变系数的对应关系。
第一种实现方式中,电子设备可以获得用户输入的所连接的相机的焦距与畸变系数的对应关系,并将其存储。
第二种实现方式中,电子设备可以通过互联网获得所连接的相机的焦距与畸变系数的对应关系,并将其存储。
第三种实现方式中,电子设备可以通过相机标定的方式,确定所连接的相机每一焦距对应的畸变系数,从而存储所连接的相机的焦距与畸变系数的对应关系。
步骤S102:根据第一位置的坐标、第一水平移动角度、第一倾斜角度与第一焦距,以及第一畸变系数,确定待标记对象在世界坐标系中的实际位置的坐标。
一种实现方式中,可以根据第一位置的坐标、第一焦距以及第一畸变系数,确定待标记对象在第一相机坐标系中的位置的坐标,再根据第一水平移动角度、第一倾斜角度与待标记对象在第一相机坐标系中的位置的坐标,确定待标记对象在世界坐标系中的实际位置的坐标。
具体的实现方式将在后文进一步说明,此处暂不详述。
另一种实现方式中,当世界坐标系原点与相机的光心重合时,世界坐标系可以通过旋转变换,与上述第一相机坐标系重合。此时,根据第一水平移动角度、第一倾斜角度,可以得到相机的第一外参矩阵。这样,根据第一位置的坐标、相机的第一外参矩阵与第一焦距,可以确定待标记对象在世界坐标系中的实际位置的坐标。
步骤S103:响应于相机转动和/或相机焦距变化并采集新图像,获得相机采集新图像时的第二水平移动角度、第二倾斜角度与第二焦距,以及第二焦距对应的第二畸变系数。
当相机转动或焦距变化时,相机采集的图像会发生变化,相应的,待标记对象在相机所采集的新图像中的位置也会发生变化。为了确定待标记对象在相机所采集的新图像中的位置,需要获得相机采集新图像时的第二水平移动角度、第二倾斜角度与第二焦距,以及第二焦距对应的第二畸变系数。
与步骤S101的说明相似,电子设备可以通过以下实现方式获得第二畸变系数。
与前文对获得第一畸变系数的方式的说明相似,在实际实现过程中,电子设备可以提前存储所连接的相机的焦距与畸变系数的对应关系,从而根据所获得的相机的第二焦距,确定对应的相机的第二畸变系数。
相机获得并存储所连接的相机的焦距与畸变系数的对应关系的方式在前文对步骤S101说明中,具体的,对获得第一畸变系数的方式的说明中已有详细说明,此处不再赘述。
步骤S104:根据待标记对象在世界坐标系中的实际位置的坐标、第二水平移动角度、第二倾斜角度、第二焦距,以及第二畸变系数,确定待标记对象在新图像中的第二位置的坐标。
一种实现方式中,可以根据对象在世界坐标系中的实际位置的坐标、第二焦距以及第二畸变系数,确定待标记对象在第二相机坐标系中的位置的坐标,再根据第二水平移动角度、第二倾斜角度与待标记对象在第二相机坐标系中的位置的坐标,确定待标记对象在新图像中的第二位置的坐标。
具体的实现方式将在后文进一步说明,此处暂不详述。
另一种实现方式中,当世界坐标系原点与相机的光心重合时,世界坐标系可以通过旋转变换,与上述第二相机坐标系重合。此时,根据第二水平移动角度、第二倾斜角度,可以得到相机的第二外参矩阵。这样,根据待标记对象在世界坐标系中的实际位置的坐标、相机的第二外参矩阵与第二焦距,可以确定待标记对象在新图像中的第二位置的坐标。
步骤S105:根据所确定的第二位置的坐标,在新图像中第二位置处显示待标记对象的对象信息。
应用本实施例提供的方案,可以根据待标记对象在相机所采集的图像中的第一位置的坐标,在图像中第一位置处显示待标记对象的对象信息,并获得相机采集图像时的第一水平移动角度、第一倾斜角度与第一焦距,以及第一焦距对应的第一畸变系数,从而根据第一位置的坐标、第一水平移动角度、第一倾斜角度与第一焦距,以及第一畸变系数,确定待标记对象在世界坐标系中的实际位置的坐标。
当相机转动和/或相机焦距变化时,相机将采集新图像,待标记对象在相机所采集的新图像中的位置会发生变化,电子设备获得相机采集新图像时的第二水平移动角度、第二倾斜角度与第二焦距,以及第二焦距对应的第二畸变系数。由于待标记对象在实际空间中的位置一定,因此,待标记对象在世界坐标系中的实际位置的坐标一定。根据待标记对象在世界坐标系中的实际位置的坐标、第二水平移动角度、第二倾斜角度、第二焦距,以及第二畸变系数,可以准确确定待标记对象在新图像中的第二位置的坐标。这样,根据所确定的第二位置的坐标,电子设备能够准确地在新图像中第二位置处显示待标记对象的对象信息。因此,应用本发明实施例提供方案可以准确地在相机所采集的图像中待标记对象对应的位置显示相关信息。
这样,当相机转动和/或相机焦距变化时,待标记对象的对象信息的显示位置可以随着带标记对象在相机采集的图像中的位置变化而变化,实现了待标记对象的对象信息对应位置的点位随动效果。从而使得相机周边的各种信息可以在相机采集的图像中准确显示,有效地进行了信息整合。
本发明的一个实施例中,参见图2,提供了一种待标记对象实际位置的坐标的确定方法的流程示意图。如前文对步骤S102的说明,本实施例中,步骤S102可以通过以下步骤S102A-步骤S102C实现。
步骤S102A:根据第一焦距与第一畸变系数,确定待标记对象的第一投影参数。
具体的,可以根据以下关系式确定上述第一投影参数:
Figure SMS_65
Figure SMS_66
其中,
Figure SMS_67
Figure SMS_68
分别表示第一投影参数的两个分量,
Figure SMS_69
表示第一焦距,
Figure SMS_70
Figure SMS_71
分别表示第一畸变系数的两个分量,
Figure SMS_72
Figure SMS_73
为相机的焦距相关信息,可以通过查询相机参数获得。
具体的,
Figure SMS_74
用于反映相机成像时,成像对象在图像x轴方向上的投影比例;
Figure SMS_75
用于反映相机成像时,成像对象在图像y轴方向上的投影比例。
步骤S102B:根据第一投影参数与第一位置的坐标,确定待标记对象在第一相机坐标系中的位置的坐标。
如前文对相机坐标系的说明,上述第一相机坐标系,是相机在第一水平移动角度、第一倾斜角度与第一焦距的状态下建立的相机坐标系。
步骤S102C:根据第一水平移动角度、第一倾斜角度与待标记对象在第一相机坐标系中的位置的坐标,确定待标记对象在世界坐标系中的实际位置的坐标。
具体的,上述步骤S102B-步骤S102C可以通过根据以下关系式,确定待标记对象在世界坐标系中的实际位置的坐标:
Figure SMS_76
其中,
Figure SMS_77
表示待标记对象在世界坐标系中的实际位置的坐标,
Figure SMS_78
表示第一水平移动角度,
Figure SMS_79
表示第一倾斜角度,
Figure SMS_80
Figure SMS_81
分别表示第一投影参数的两个分量,
Figure SMS_82
表示标记对象在图像中的第一位置的坐标。
具体的,矩阵
Figure SMS_83
反映了待标记对象在世界坐标系中的实际位置的坐标与待标记对象在第一相机坐标系中的位置的坐标在相机水平移动角度上的关系,矩阵
Figure SMS_84
反映了待标记对象在世界坐标系中的实际位置的坐标与待标记对象在第一相机坐标系中的位置的坐标在相机倾斜角度上的关系,矩阵
Figure SMS_85
反映了待标记对象在第一相机坐标系中的位置的坐标与待标记对象的第一位置的坐标之间的投影关系。
这样,根据上述关系式,可以借助待标记对象在第一相机坐标系中的位置的坐标,将待标记对象的第一位置的坐标转化为待标记对象在世界坐标系中的实际位置的坐标,从而准确地确定待标记对象在世界坐标系中的实际位置的坐标。
为了便于表示,可以记图像坐标系到世界坐标系的转换矩阵为:
Figure SMS_86
通过以上方式,根据第一焦距与第一畸变系数确定待标记对象的第一投影参数,再根据第一投影参数,可以将待标记对象的第一位置的坐标转换至第一相机坐标系中的位置的坐标,从而根据第一水平移动角度、第一倾斜角度与待标记对象在第一相机坐标系中的位置的坐标,确定待标记对象在世界坐标系中的实际位置的坐标。由于在坐标转换时,考虑到了图像的畸变,也考虑到了相机的位姿与焦距,这样,通过考虑上述多重因素,可以准确地确定待标记对象在世界坐标系中的实际位置的坐标。
本发明的一个实施例中,参见图3,提供了一种待标记对象第二位置的坐标的确定方法的流程示意图。如前文对步骤S104的说明,本实施例中,步骤S104可以通过以下步骤S104A-步骤S104C实现。
步骤S104A:根据第二焦距与第二畸变系数,确定待标记对象的第二投影参数。
与前文对步骤S102A的说明类似,可以根据以下关系式确定上述第二投影参数:
Figure SMS_87
Figure SMS_88
其中,
Figure SMS_89
Figure SMS_90
分别表示第二投影参数的两个分量,
Figure SMS_91
表示第二焦距,
Figure SMS_92
Figure SMS_93
分别表示第二畸变系数的两个分量,
Figure SMS_94
Figure SMS_95
为相机的焦距相关信息,可以通过查询相机参数获得。
具体的,
Figure SMS_96
用于反映相机成像时,成像对象在图像x轴方向上的投影比例;
Figure SMS_97
用于反映相机成像时,成像对象在图像y轴方向上的投影比例。
步骤S104B:根据第二投影参数与待标记对象在世界坐标系中的实际位置的坐标,确定待标记对象在第二相机坐标系中的位置的坐标。
与前文对步骤S102B的说明类似,上述第二相机坐标系,是相机在第二水平移动角度、第二倾斜角度与第二焦距的状态下建立的相机坐标系。
步骤S104C:根据第二水平移动角度、第二倾斜角度与待标记对象在第二相机坐标系中的位置的坐标,确定待标记对象在新图像中的第二位置的坐标。
具体的,上述步骤S104B-步骤S104C可以通过根据以下关系式,确定待标记对象在新图像中的第二位置的坐标:
Figure SMS_98
其中,
Figure SMS_99
表示待标记对象在新图像中的第二位置的坐标,
Figure SMS_100
表示相机第二水平移动角度,
Figure SMS_101
表示第二倾斜角度,
Figure SMS_102
Figure SMS_103
分别表示第二投影参数的两个分量,
Figure SMS_104
表示待标记对象在世界坐标系中的实际位置的坐标。
具体的,矩阵
Figure SMS_105
反映了待标记对象在世界坐标系中的实际位置的坐标与待标记对象在第二相机坐标系中的位置的坐标在相机水平移动角度上的关系,矩阵
Figure SMS_106
了待标记对象在世界坐标系中的实际位置的坐标与待标记对象在第二相机坐标系中的位置的坐标在相机倾斜角度上的关系,矩阵
Figure SMS_107
反映了待标记对象在第二相机坐标系中的位置的坐标与待标记对象的第二位置的坐标之间的投影关系。
这样,根据上述关系式,可以借助待标记对象在第二相机坐标系中的位置的坐标,将待标记对象在世界坐标系中的实际位置的坐标转化为待标记对象在新图像中的第二位置的坐标,从而准确地确定待标记对象在新图像中的第二位置的坐标。
为了便于表示,可以记世界坐标系到图像坐标系的转换矩阵为:
Figure SMS_108
通过以上方式,根据第二焦距与第二畸变系数确定待标记对象的第二投影参数,再根据第二投影参数,可以将待标记对象在世界坐标系中的实际位置的坐标转换至第二相机坐标系中的位置的坐标,从而根据第二水平移动角度、第二倾斜角度与待标记对象在第二相机坐标系中的位置的坐标,确定待标记对象在新图像中的第二位置的坐标。由于在坐标转换时,考虑到了图像的畸变,也考虑到了相机的位姿与焦距,这样,通过考虑上述多重因素,可以准确地确定待标记对象在新图像中的第二位置的坐标。
为了便于表示,根据前文得到的图像坐标系到世界坐标系的转换矩阵W与世界坐标系到图像坐标系的转换矩阵C,以及待标记对象的第一位置的坐标
Figure SMS_109
,可以通过以下关系式得到待标记对象在新图像中的第二位置的坐标
Figure SMS_110
Figure SMS_111
本发明的一个实施例中,如前文对步骤S101的说明,需要根据相机在第一焦距下采集的图像确定第一畸变系数。假设相机在第一焦距下采集了n幅图像,每一幅图像中存在m个像素点,那么电子设备可以以以下表达式的值最小为约束条件,确定第一畸变参数:
Figure SMS_112
其中,n表示在相机在第一焦距下采集的图像数量,m表示相机在第一焦距下采集的每一图像中存在的像素点的数量,
Figure SMS_114
表示相机采集的第i幅图像中的第j个像素点的像素坐标,
Figure SMS_116
表示相机采集的第i幅图像中的第j个像素点的像素坐标的增广矩阵,
Figure SMS_118
表示相机内参,
Figure SMS_115
Figure SMS_117
分别表示第一畸变参数的两个分量的初值,
Figure SMS_119
Figure SMS_120
表示第i幅图像对应的相机外参,
Figure SMS_113
表示图像中第j个像素点对应的对象在世界坐标系中的实际位置的坐标。
为了提高确定的第一畸变系数的精度,一种实现方式中,可以使用LM(Levenberg–Marquardt莱文贝格-马夸特)方法,以上述表达式的值最小为约束条件,确定第一畸变系数。
下面对上述相机内参的获得方式进行说明。
一种实现方式中,电子设备可以提前存储相机内参,这样,电子设备可以从存储的数据中获得相机内参;另一种实现方式中,可以通过相机标定的方式确定相机内参,从而使电子设备获得相机内参。
下面对上述相机外参的获得方式进行说明。
一种实现方式中,如前文对步骤S102的说明,当世界坐标系原点与相机的光心重合时,世界坐标系可以通过旋转变换,与上述第一相机坐标系重合。此时,根据第一水平移动角度、第一倾斜角度,可以得到相机的第一外参矩阵,这样,电子设备可以获得相机外参。
另一种实现方式中,可以通过相机标定的方式确定相机外参,从而使电子设备获得相机外参。
可以看出,可以通过相机标定的方式确定相机内参与相机外参。相机标定的方式可以为传统相机标定法、相机自标定法或张正友标定法等,本发明实施例对此并不进行限定。
在进行相机标定时,可以使用MATLAB等工具中的相机标定模块进行相机标定。本发明实施例对此也并不进行限定。
下面对第一畸变参数的两个分量的初值的获得方式进行说明。
一种实现方式中,用户可以根据实际情况与经验,设定第一畸变参数的两个分量的初值,这样,电子设备可以获得用户输入的第一畸变参数的两个分量的初值。
另一种实现方式中,针对相机在第一焦距下所采集的图像中的某一像素点,设(u,v)为该点在像素坐标系中理想的无畸变的坐标,
Figure SMS_121
为该点在像素坐标系中畸变后的坐标,(X,Y)为该点在图像坐标系中理想的无畸变的坐标,
Figure SMS_122
为该点在图像坐标系畸变后的坐标。那么,对于径向畸变,存在下述关系式:
Figure SMS_123
Figure SMS_124
Figure SMS_125
Figure SMS_126
其中,
Figure SMS_127
为像主点在像素坐标系中的横坐标,
Figure SMS_128
为像主点在像素坐标系中的纵坐标,像主点即第一相机坐标系原点,
Figure SMS_129
表示该点在图像坐标系中的横坐标转换到像素坐标系的横坐标的缩放比例,
Figure SMS_130
表示该点在图像坐标系中的纵坐标转换到像素坐标系的纵坐标的缩放比例,
Figure SMS_131
Figure SMS_132
为第一畸变参数的两个分量的初值。
由于径向畸变中心与相机光心重合,根据上述关系式,可以得到以下关系式:
Figure SMS_133
Figure SMS_134
这样,根据上述关系式,可以得到以下关系式:
Figure SMS_135
=
Figure SMS_136
由于(X,Y)与(u,v)可以通过相机模型解出,(
Figure SMS_137
,
Figure SMS_138
)可以根据前述的相机内参得到,
Figure SMS_139
Figure SMS_140
可以从图像中直接读取。因此,可以根据上述关系式,得到第一畸变参数的两个分量的初值。
为了提高第一畸变参数的两个分量的初值的精度,在一种实现方式中,假设相机在第一焦距下采集了M幅图像,每一图像中存在N个像素点,那么,可以得到2MN个等式。利用最小二乘法对2MN个等式的结果进行优化,从而得到精度更高的第一畸变参数的两个分量的初值。
与确定第一畸变系数的方式相似,一种实现方式中,可以以以下表达式的值最小为约束条件,确定第二畸变参数:
Figure SMS_141
其中,a表示在相机在第二焦距下采集的图像数量,b表示相机在第二焦距下采集的每一图像中存在的像素点的数量,
Figure SMS_143
表示相机采集的第i幅图像中的第j个像素点的像素坐标,
Figure SMS_145
表示相机采集的第i幅图像中的第j个像素点的像素坐标的增广矩阵,
Figure SMS_148
表示相机内参,
Figure SMS_144
Figure SMS_146
分别表示第二畸变参数的两个分量的初值,
Figure SMS_147
Figure SMS_149
表示第i幅图像对应的相机外参,
Figure SMS_142
表示图像中第j个像素点对应的对象在世界坐标系中的实际位置的坐标。
为了提高确定的第二畸变系数的精度,一种实现方式中,与前文确定第一畸变系数的方式相似,可以使用LM方法,以上述表达式的值最小为约束条件,确定第二畸变系数。
下面对上述相机外参的获得方式进行说明。
与对确定第一畸变系数的说明相似,一种实现方式中,如前文对步骤S104的说明,当世界坐标系原点与相机的光心重合时,世界坐标系可以通过旋转变换,与上述第二相机坐标系重合。此时,根据第二水平移动角度、第二倾斜角度,可以得到相机的第二外参矩阵,这样,电子设备可以获得相机外参。
另一种实现方式中,可以通过相机标定的方式确定相机外参,从而使电子设备获得相机外参。
下面对第二畸变参数的两个分量的初值的获得方式进行说明。
与对确定第一畸变系数的说明相似,一种实现方式中,用户可以根据实际情况与经验,设定第二畸变参数的两个分量的初值,这样,电子设备可以获得用户输入的第二畸变参数的两个分量的初值。
另一种实现方式中,针对相机在第二焦距下所采集的图像中的某一像素点,设(u,v)为该点在像素坐标系中理想的无畸变的坐标,
Figure SMS_150
为该点在像素坐标系中畸变后的坐标,(X,Y)为该点在图像坐标系中理想的无畸变的坐标,
Figure SMS_151
为该点在图像坐标系畸变后的坐标。那么,对于径向畸变,存在下述关系式:
Figure SMS_152
Figure SMS_153
Figure SMS_154
Figure SMS_155
其中,
Figure SMS_156
为像主点在像素坐标系中的横坐标,
Figure SMS_157
为像主点在像素坐标系中的纵坐标,像主点即第一相机坐标系原点,
Figure SMS_158
表示该点在图像坐标系中的横坐标转换到像素坐标系的横坐标的缩放比例,
Figure SMS_159
表示该点在图像坐标系中的纵坐标转换到像素坐标系的纵坐标的缩放比例,
Figure SMS_160
Figure SMS_161
为第二畸变参数的两个分量的初值。
由于径向畸变中心与相机光心重合,根据上述关系式,可以得到以下关系式:
Figure SMS_162
Figure SMS_163
这样,根据上述关系式,可以得到以下关系式:
Figure SMS_164
=
Figure SMS_165
由于(X,Y)与(u,v)可以通过相机模型解出,(
Figure SMS_166
,
Figure SMS_167
)可以根据前述的相机内参得到,
Figure SMS_168
Figure SMS_169
可以从图像中直接读取。因此,可以根据上述关系式,得到第二畸变参数的两个分量的初值。
为了提高第二畸变参数的两个分量的初值的精度,在一种实现方式中,假设相机在第二焦距下采集了A幅图像,每一图像中存在B个像素点,那么,可以得到2AB个等式。利用最小二乘法对2AB个等式的结果进行优化,从而得到精度更高的第二畸变参数的两个分量的初值。
这样,通过以上述表达式的值最小为约束条件,对第一畸变系数与第二畸变系数求解,可以得到高精度的第一畸变系数与第二畸变系数,从而准确地确定第一畸变系数与第二畸变系数。
应用上述方式,通过相机在第一焦距下采集的图像,可以根据图像中各个像素点的位置信息确定第一畸变系数。由于确定第一畸变系数时考虑了多幅图像中多个像素点的位置信息,考虑的信息多,确定的第一畸变系数符合相机在第一焦距下成像的情况。因此,确定的第一畸变系数准确。
通过相机在第二焦距下采集的图像,可以根据图像中各个像素点的位置信息确定第二畸变系数。与确定第一畸变系数类似,由于确定第二畸变系数时也考虑了多幅图像中多个像素点的位置信息,考虑的信息多,确定的第二畸变系数符合相机在第二焦距下成像的情况。因此,确定的第二畸变系数也准确。
与上述信息显示方法相对应,本发明实施例还提供了一种信息显示装置。
参见图4,提供了一种信息显示装置的结构示意图。所述装置包括:
第一信息显示模块401,用于根据待标记对象在相机所采集的图像中的第一位置的坐标,在所述图像中所述第一位置处显示所述待标记对象的对象信息,并获得所述相机采集所述图像时的第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一焦距对应的第一畸变系数;
实际位置确定模块402,用于根据所述第一位置的坐标、所述第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一畸变系数,确定所述待标记对象在世界坐标系中的实际位置的坐标;
新图像采集模块403,用于响应于所述相机转动和/或相机焦距变化并采集新图像,获得所述相机采集所述新图像时的第二水平移动角度、第二倾斜角度与第二焦距,以及所述第二焦距对应的第二畸变系数;
第二位置确定模块404,用于根据所述待标记对象在世界坐标系中的实际位置的坐标、所述第二水平移动角度、第二倾斜角度、第二焦距,以及所述第二畸变系数,确定所述待标记对象在所述新图像中的第二位置的坐标;
第二信息显示模块405,用于根据所确定的第二位置的坐标,在所述新图像中所述第二位置处显示所述待标记对象的对象信息。
应用本实施例提供的方案,可以根据待标记对象在相机所采集的图像中的第一位置的坐标,在图像中第一位置处显示待标记对象的对象信息,并获得相机采集图像时的第一水平移动角度、第一倾斜角度与第一焦距,以及第一焦距对应的第一畸变系数,从而根据第一位置的坐标、第一水平移动角度、第一倾斜角度与第一焦距,以及第一畸变系数,确定待标记对象在世界坐标系中的实际位置的坐标。
当相机转动和/或相机焦距变化时,相机将采集新图像,待标记对象在相机所采集的新图像中的位置会发生变化,电子设备获得相机采集新图像时的第二水平移动角度、第二倾斜角度与第二焦距,以及第二焦距对应的第二畸变系数。由于待标记对象在实际空间中的位置一定,因此,待标记对象在世界坐标系中的实际位置的坐标一定。根据待标记对象在世界坐标系中的实际位置的坐标、第二水平移动角度、第二倾斜角度、第二焦距,以及第二畸变系数,可以准确确定待标记对象在新图像中的第二位置的坐标。这样,根据所确定的第二位置的坐标,电子设备能够准确地在新图像中第二位置处显示待标记对象的对象信息。因此,应用本发明实施例提供方案可以准确地在相机所采集的图像中待标记对象对应的位置显示相关信息。
本发明的一个实施例中,所述实际位置确定模块402,包括:
第一投影参数确定单元,用于根据所述第一焦距与所述第一畸变系数,确定所述待标记对象的第一投影参数;
第一相机坐标系位置确定单元,用于根据所述第一投影参数与所述第一位置的坐标,确定所述待标记对象在第一相机坐标系中的位置的坐标;
实际位置确定单元,用于根据所述第一水平移动角度、第一倾斜角度与所述待标记对象在第一相机坐标系中的位置的坐标,确定所述待标记对象在世界坐标系中的实际位置的坐标。
通过以上方式,根据第一焦距与第一畸变系数确定待标记对象的第一投影参数,再根据第一投影参数,可以将待标记对象的第一位置的坐标转换至第一相机坐标系中的位置的坐标,从而根据第一水平移动角度、第一倾斜角度与待标记对象在第一相机坐标系中的位置的坐标,确定待标记对象在世界坐标系中的实际位置的坐标。由于在坐标转换时,考虑到了图像的畸变,也考虑到了相机的位姿与焦距,这样,通过考虑上述多重因素,可以准确地确定待标记对象在世界坐标系中的实际位置的坐标。
本发明的一个实施例中,所述第一相机坐标系位置确定单元与实际位置确定单元,具体用于:
根据以下关系式,确定所述待标记对象在世界坐标系中的实际位置的坐标:
Figure SMS_170
其中,
Figure SMS_171
表示所述待标记对象在世界坐标系中的实际位置的坐标,
Figure SMS_172
表示所述第一水平移动角度,
Figure SMS_173
表示所述第一倾斜角度,
Figure SMS_174
Figure SMS_175
分别表示所述第一投影参数的两个分量,
Figure SMS_176
表示所述标记对象在所述图像中的第一位置的坐标。
这样,根据上述关系式,可以借助待标记对象在第一相机坐标系中的位置的坐标,将待标记对象的第一位置的坐标转化为待标记对象在世界坐标系中的实际位置的坐标,从而准确地确定待标记对象在世界坐标系中的实际位置的坐标。
本发明的一个实施例中,所述第二位置确定模块404,包括:
第二投影参数确定单元,用于根据所述第二焦距与所述第二畸变系数,确定所述待标记对象的第二投影参数;
第二相机坐标系位置确定单元,用于根据所述第二投影参数与所述待标记对象在世界坐标系中的实际位置的坐标,确定所述待标记对象在第二相机坐标系中的位置的坐标;
第二位置确定单元,用于根据所述第二水平移动角度、第二倾斜角度与所述待标记对象在第二相机坐标系中的位置的坐标,确定所述待标记对象在所述新图像中的第二位置的坐标。
通过以上方式,根据第二焦距与第二畸变系数确定待标记对象的第二投影参数,再根据第二投影参数,可以将待标记对象在世界坐标系中的实际位置的坐标转换至第二相机坐标系中的位置的坐标,从而根据第二水平移动角度、第二倾斜角度与待标记对象在第二相机坐标系中的位置的坐标,确定待标记对象在新图像中的第二位置的坐标。由于在坐标转换时,考虑到了图像的畸变,也考虑到了相机的位姿与焦距,这样,通过考虑上述多重因素,可以准确地确定待标记对象在新图像中的第二位置的坐标。
本发明的一个实施例中,所述第二相机坐标系位置确定单元与第二位置确定单元,具体用于:
根据以下关系式,确定所述待标记对象在所述新图像中的第二位置的坐标:
Figure SMS_177
其中,
Figure SMS_178
表示所述待标记对象在所述新图像中的第二位置的坐标,
Figure SMS_179
表示所述相机第二水平移动角度,
Figure SMS_180
表示所述第二倾斜角度,
Figure SMS_181
Figure SMS_182
分别表示所述第二投影参数的两个分量,
Figure SMS_183
表示所述待标记对象在世界坐标系中的实际位置的坐标。
这样,根据上述关系式,可以借助待标记对象在第二相机坐标系中的位置的坐标,将待标记对象在世界坐标系中的实际位置的坐标转化为待标记对象在新图像中的第二位置的坐标,从而准确地确定待标记对象在新图像中的第二位置的坐标。
本发明的一个实施例中,
所述第一畸变参数根据所述相机在所述第一焦距下采集的图像确定;
所述第二畸变系数根据所述相机在所述第二焦距下采集的图像确定。
应用上述方式,通过相机在第一焦距下采集的图像,可以根据图像中各个像素点的位置信息确定第一畸变系数。由于确定第一畸变系数时考虑了多幅图像中多个像素点的位置信息,考虑的信息多,确定的第一畸变系数符合相机在第一焦距下成像的情况。因此,确定的第一畸变系数准确。
通过相机在第二焦距下采集的图像,可以根据图像中各个像素点的位置信息确定第二畸变系数。与确定第一畸变系数类似,由于确定第二畸变系数时也考虑了多幅图像中多个像素点的位置信息,考虑的信息多,确定的第二畸变系数符合相机在第二焦距下成像的情况。因此,确定的第二畸变系数也准确。
本发明的一个实施例中,以以下表达式的值最小为约束条件,确定所述第一畸变参数:
Figure SMS_184
其中,n表示在所述相机在所述第一焦距下采集的图像数量,m表示所述相机在所述第一焦距下采集的每一图像中存在的像素点的数量,
Figure SMS_186
表示相机采集的第i幅图像中的第j个像素点的像素坐标,
Figure SMS_189
表示相机采集的第i幅图像中的第j个像素点的像素坐标的增广矩阵,
Figure SMS_191
表示相机内参,
Figure SMS_187
Figure SMS_188
分别表示所述第一畸变参数的两个分量的初值,
Figure SMS_190
Figure SMS_192
表示第i幅图像对应的相机外参,
Figure SMS_185
表示图像中第j个点对应的对象在世界坐标系中的实际位置的坐标;
以以下表达式的值最小为约束条件,确定所述第二畸变参数:
Figure SMS_193
其中,a表示在所述相机在所述第二焦距下采集的图像数量,b表示所述相机在所述第二焦距下采集的每一图像中存在的像素点的数量,
Figure SMS_196
表示相机采集的第i幅图像中的第j个像素点的像素坐标,
Figure SMS_198
表示相机采集的第i幅图像中的第j个像素点的像素坐标的增广矩阵,
Figure SMS_200
表示相机内参,
Figure SMS_195
Figure SMS_197
分别表示所述第二畸变参数的两个分量的初值,
Figure SMS_199
Figure SMS_201
表示第i幅图像对应的相机外参,
Figure SMS_194
表示图像中第j个点对应的对象在世界坐标系中的实际位置的坐标。
这样,通过以上述表达式的值最小为约束条件,对第一畸变系数与第二畸变系数求解,可以得到高精度的第一畸变系数与第二畸变系数,从而准确地确定第一畸变系数与第二畸变系数。
本发明实施例还提供了一种电子设备,如图5所示,包括处理器501、通信接口502、存储器503和通信总线504,其中,处理器501,通信接口502,存储器503通过通信总线504完成相互间的通信,
存储器503,用于存放计算机程序;
处理器501,用于执行存储器503上所存放的程序时,实现前述方法实施例所述的信息显示方法。
上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect,PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory,RAM),也可以包括非易失性存储器(Non-Volatile Memory,NVM),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-ProgrammableGate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现前述方法实施例所述的信息显示方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk (SSD))等。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、电子设备以及存储介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。

Claims (10)

1.一种信息显示方法,其特征在于,所述方法包括:
根据待标记对象在相机所采集的图像中的第一位置的坐标,在所述图像中所述第一位置处显示所述待标记对象的对象信息,并获得所述相机采集所述图像时的第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一焦距对应的第一畸变系数;
根据所述第一位置的坐标、所述第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一畸变系数,确定所述待标记对象在世界坐标系中的实际位置的坐标;
响应于所述相机转动和/或相机焦距变化并采集新图像,获得所述相机采集所述新图像时的第二水平移动角度、第二倾斜角度与第二焦距,以及所述第二焦距对应的第二畸变系数;
根据所述待标记对象在世界坐标系中的实际位置的坐标、所述第二水平移动角度、第二倾斜角度、第二焦距,以及所述第二畸变系数,确定所述待标记对象在所述新图像中的第二位置的坐标;
根据所确定的第二位置的坐标,在所述新图像中所述第二位置处显示所述待标记对象的对象信息。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一位置的坐标、所述第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一畸变系数,确定所述待标记对象在世界坐标系中的实际位置的坐标,包括:
根据所述第一焦距与所述第一畸变系数,确定所述待标记对象的第一投影参数;
根据所述第一投影参数与所述第一位置的坐标,确定所述待标记对象在第一相机坐标系中的位置的坐标;
根据所述第一水平移动角度、第一倾斜角度与所述待标记对象在第一相机坐标系中的位置的坐标,确定所述待标记对象在世界坐标系中的实际位置的坐标。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一投影参数与所述第一位置的坐标,确定所述待标记对象在第一相机坐标系中的位置的坐标;根据所述第一水平移动角度、第一倾斜角度与所述待标记对象在第一相机坐标系中的位置的坐标,确定所述待标记对象在世界坐标系中的实际位置的坐标,包括:
根据以下关系式,确定所述待标记对象在世界坐标系中的实际位置的坐标:
Figure QLYQS_1
其中,
Figure QLYQS_2
表示所述待标记对象在世界坐标系中的实际位置的坐标,
Figure QLYQS_3
表示所述第一水平移动角度,
Figure QLYQS_4
表示所述第一倾斜角度,
Figure QLYQS_5
Figure QLYQS_6
分别表示所述第一投影参数的两个分量,
Figure QLYQS_7
表示所述标记对象在所述图像中的第一位置的坐标。
4.根据权利要求1所述的方法,其特征在于,所述根据所述待标记对象在世界坐标系中的实际位置的坐标、所述第二水平移动角度、第二倾斜角度、第二焦距,以及所述第二畸变系数,确定所述待标记对象在所述新图像中的第二位置的坐标,包括:
根据所述第二焦距与所述第二畸变系数,确定所述待标记对象的第二投影参数;
根据所述第二投影参数与所述待标记对象在世界坐标系中的实际位置的坐标,确定所述待标记对象在第二相机坐标系中的位置的坐标;
根据所述第二水平移动角度、第二倾斜角度与所述待标记对象在第二相机坐标系中的位置的坐标,确定所述待标记对象在所述新图像中的第二位置的坐标。
5.根据权利要求4所述的方法,其特征在于,所述根据所述第二投影参数与所述待标记对象在世界坐标系中的实际位置的坐标,确定所述待标记对象在第二相机坐标系中的位置的坐标;根据所述第二水平移动角度、第二倾斜角度与所述待标记对象在第二相机坐标系中的位置的坐标,确定所述待标记对象在所述新图像中的第二位置的坐标,包括:
根据以下关系式,确定所述待标记对象在所述新图像中的第二位置的坐标:
Figure QLYQS_8
其中,
Figure QLYQS_9
表示所述待标记对象在所述新图像中的第二位置的坐标,
Figure QLYQS_10
表示所述相机第二水平移动角度,
Figure QLYQS_11
表示所述第二倾斜角度,
Figure QLYQS_12
Figure QLYQS_13
分别表示所述第二投影参数的两个分量,
Figure QLYQS_14
表示所述待标记对象在世界坐标系中的实际位置的坐标。
6.根据权利要求1-5中任一项所述的方法,其特征在于
所述第一畸变参数根据所述相机在所述第一焦距下采集的图像确定;
所述第二畸变系数根据所述相机在所述第二焦距下采集的图像确定。
7.根据权利要求6所述的方法,其特征在于,以以下表达式的值最小为约束条件,确定所述第一畸变参数:
Figure QLYQS_15
其中,n表示在所述相机在所述第一焦距下采集的图像数量,m表示所述相机在所述第一焦距下采集的每一图像中存在的像素点的数量,
Figure QLYQS_18
表示相机采集的第i幅图像中的第j个像素点的像素坐标,
Figure QLYQS_19
表示相机采集的第i幅图像中的第j个像素点的像素坐标的增广矩阵,
Figure QLYQS_22
表示相机内参,
Figure QLYQS_17
Figure QLYQS_20
分别表示所述第一畸变参数的两个分量的初值,
Figure QLYQS_21
Figure QLYQS_23
表示第i幅图像对应的相机外参,
Figure QLYQS_16
表示图像中第j个像素点对应的对象在世界坐标系中的实际位置的坐标;
以以下表达式的值最小为约束条件,确定所述第二畸变参数:
Figure QLYQS_24
其中,a表示在所述相机在所述第二焦距下采集的图像数量,b表示所述相机在所述第二焦距下采集的每一图像中存在的像素点的数量,
Figure QLYQS_26
表示相机采集的第i幅图像中的第j个像素点的像素坐标,
Figure QLYQS_29
表示相机采集的第i幅图像中的第j个像素点的像素坐标的增广矩阵,
Figure QLYQS_31
表示相机内参,
Figure QLYQS_27
Figure QLYQS_28
分别表示所述第二畸变参数的两个分量的初值,
Figure QLYQS_30
Figure QLYQS_32
表示第i幅图像对应的相机外参,
Figure QLYQS_25
表示图像中第j个像素点对应的对象在世界坐标系中的实际位置的坐标。
8.一种信息显示装置,其特征在于,所述装置包括:
第一信息显示模块,用于根据待标记对象在相机所采集的图像中的第一位置的坐标,在所述图像中所述第一位置处显示所述待标记对象的对象信息,并获得所述相机采集所述图像时的第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一焦距对应的第一畸变系数;
实际位置确定模块,用于根据所述第一位置的坐标、所述第一水平移动角度、第一倾斜角度与第一焦距,以及所述第一畸变系数,确定所述待标记对象在世界坐标系中的实际位置的坐标;
新图像采集模块,用于响应于所述相机转动和/或相机焦距变化并采集新图像,获得所述相机采集所述新图像时的第二水平移动角度、第二倾斜角度与第二焦距,以及所述第二焦距对应的第二畸变系数;
第二位置确定模块,用于根据所述待标记对象在世界坐标系中的实际位置的坐标、所述第二水平移动角度、第二倾斜角度、第二焦距,以及所述第二畸变系数,确定所述待标记对象在所述新图像中的第二位置的坐标;
第二信息显示模块,用于根据所确定的第二位置的坐标,在所述新图像中所述第二位置处显示所述待标记对象的对象信息。
9.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现权利要求1-7任一所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-7任一所述的方法。
CN202310048995.8A 2023-02-01 2023-02-01 一种信息显示方法、装置、电子设备及存储介质 Active CN115802159B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310048995.8A CN115802159B (zh) 2023-02-01 2023-02-01 一种信息显示方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310048995.8A CN115802159B (zh) 2023-02-01 2023-02-01 一种信息显示方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN115802159A true CN115802159A (zh) 2023-03-14
CN115802159B CN115802159B (zh) 2023-04-28

Family

ID=85429368

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310048995.8A Active CN115802159B (zh) 2023-02-01 2023-02-01 一种信息显示方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN115802159B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006195790A (ja) * 2005-01-14 2006-07-27 Nippon Telegr & Teleph Corp <Ntt> レンズ歪推定装置、レンズ歪推定方法、及びレンズ歪推定プログラム
US20140118536A1 (en) * 2012-11-01 2014-05-01 Novatel Inc. Visual positioning system
CN103810475A (zh) * 2014-02-19 2014-05-21 百度在线网络技术(北京)有限公司 一种目标物识别方法及装置
CN107025670A (zh) * 2017-03-23 2017-08-08 华中科技大学 一种远心相机标定方法
CN109285190A (zh) * 2018-09-06 2019-01-29 广东天机工业智能系统有限公司 对象定位方法、装置、电子设备和存储介质
CN110332930A (zh) * 2019-07-31 2019-10-15 小狗电器互联网科技(北京)股份有限公司 一种位置确定方法、装置及设备
CN110426674A (zh) * 2019-07-17 2019-11-08 浙江大华技术股份有限公司 一种空间位置确定方法、装置、电子设备及存储介质
CN113034605A (zh) * 2019-12-25 2021-06-25 宁波吉利汽车研究开发有限公司 目标对象的位置确定方法、装置、电子设备及存储介质
WO2022088103A1 (zh) * 2020-10-30 2022-05-05 华为技术有限公司 一种图像标定方法及装置
WO2022152194A1 (zh) * 2021-01-14 2022-07-21 杭州海康威视数字技术股份有限公司 监控相机的标定方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006195790A (ja) * 2005-01-14 2006-07-27 Nippon Telegr & Teleph Corp <Ntt> レンズ歪推定装置、レンズ歪推定方法、及びレンズ歪推定プログラム
US20140118536A1 (en) * 2012-11-01 2014-05-01 Novatel Inc. Visual positioning system
CN103810475A (zh) * 2014-02-19 2014-05-21 百度在线网络技术(北京)有限公司 一种目标物识别方法及装置
CN107025670A (zh) * 2017-03-23 2017-08-08 华中科技大学 一种远心相机标定方法
CN109285190A (zh) * 2018-09-06 2019-01-29 广东天机工业智能系统有限公司 对象定位方法、装置、电子设备和存储介质
CN110426674A (zh) * 2019-07-17 2019-11-08 浙江大华技术股份有限公司 一种空间位置确定方法、装置、电子设备及存储介质
CN110332930A (zh) * 2019-07-31 2019-10-15 小狗电器互联网科技(北京)股份有限公司 一种位置确定方法、装置及设备
CN113034605A (zh) * 2019-12-25 2021-06-25 宁波吉利汽车研究开发有限公司 目标对象的位置确定方法、装置、电子设备及存储介质
WO2022088103A1 (zh) * 2020-10-30 2022-05-05 华为技术有限公司 一种图像标定方法及装置
WO2022152194A1 (zh) * 2021-01-14 2022-07-21 杭州海康威视数字技术股份有限公司 监控相机的标定方法

Also Published As

Publication number Publication date
CN115802159B (zh) 2023-04-28

Similar Documents

Publication Publication Date Title
CN112348863B (zh) 图像对齐方法、图像对齐装置及终端设备
CN111381224B (zh) 激光数据校准方法、装置及移动终端
CN110969100A (zh) 一种人体关键点识别方法、装置及电子设备
CN115661214A (zh) 一种配准精度验证方法及装置
US20220405968A1 (en) Method, apparatus and system for image processing
Jiang et al. An accurate and flexible technique for camera calibration
WO2020024845A1 (zh) 定位方法和装置
WO2023010565A1 (zh) 单目散斑结构光系统的标定方法、装置及终端
Wang et al. An improved two-point calibration method for stereo vision with rotating cameras in large FOV
CN112102404B (zh) 物体检测追踪方法、装置及头戴显示设备
CN113658345A (zh) 一种样本标注方法及装置
CN111813984B (zh) 一种利用单应矩阵实现室内定位的方法、装置及电子设备
CN115802159B (zh) 一种信息显示方法、装置、电子设备及存储介质
CN116758063A (zh) 一种基于图像语义分割的工件尺寸检测方法
CN113050022A (zh) 一种基于旋转天线的图像定位方法、装置及终端设备
CN115619836A (zh) 一种焦屏距校准方法及装置
CN113205591A (zh) 一种三维重建训练数据的获取方法、装置及电子设备
Wang et al. Stereo calibration of binocular ultra-wide angle long-wave infrared camera based on an equivalent small field of view camera
CN115564822A (zh) 一种畸变校准方法、装置、电子设备及介质
CN109729316B (zh) 一种1+n台摄像机机机联动的方法及计算机存储介质
CN114693769A (zh) 一种c臂机的标定方法及装置
CN112132909A (zh) 参数获取方法及装置、媒体数据处理方法和存储介质
CN113487626B (zh) 一种镜像图像识别方法、装置、电子设备及存储介质
WO2023103884A1 (zh) 对象模型建立方法、装置、电子设备及存储介质
CN111862203B (zh) 基于3d地图的球机位置与姿态参数校准方法、存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant