CN112330726A - 一种图像处理方法及装置 - Google Patents

一种图像处理方法及装置 Download PDF

Info

Publication number
CN112330726A
CN112330726A CN202011165045.6A CN202011165045A CN112330726A CN 112330726 A CN112330726 A CN 112330726A CN 202011165045 A CN202011165045 A CN 202011165045A CN 112330726 A CN112330726 A CN 112330726A
Authority
CN
China
Prior art keywords
image
target object
pixel point
information
characteristic value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011165045.6A
Other languages
English (en)
Other versions
CN112330726B (zh
Inventor
王曦
程士庆
刘孟绅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Tongxing Zhilian Electronic Technology Co.,Ltd.
Original Assignee
Tianjin Tiantong Weishi Electronic Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin Tiantong Weishi Electronic Technology Co ltd filed Critical Tianjin Tiantong Weishi Electronic Technology Co ltd
Priority to CN202011165045.6A priority Critical patent/CN112330726B/zh
Publication of CN112330726A publication Critical patent/CN112330726A/zh
Application granted granted Critical
Publication of CN112330726B publication Critical patent/CN112330726B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

本发明公开一种图像处理方法及装置,获取第一图像中待匹配的第一目标对象的第一像素点信息,以及获取第二图像中待匹配的第二目标对象的第二像素点信息;基于两个摄像装置的参数信息和第一像素点信息,确定第一目标对象的第一特征值;基于两个摄像装置的参数信息和第二像素点信息,确定第二目标对象的第二特征值;若第一特征值和第二特征值匹配,确定第一目标对象和第二目标对象为同一目标对象。实现通过不受外部使用条件的干扰,比较稳定的像素点信息与对应摄像装置的参数信息确定目标对象的特征值,与现有技术相比,基于该特征值进行目标对象的匹配,匹配结果更稳定、准确度更高。

Description

一种图像处理方法及装置
技术领域
本发明涉及计算机技术领域,具体涉及一种图像处理方法及装置。
背景技术
在机器视觉的应用领域中,需要通过图像获取周围的环境信息,通常会使用不同位置和不同视角的摄像装置采集环境中目标对象的多角度多尺度的视觉信息。在这个过程中,需要从不同摄像装置采集的环境图像中匹配相同目标对象,以获取该目标对象在不同摄像装置中的视觉信息,以更好地对周围环境进行构建。
现有的目标对象匹配方法包括图像特征匹配法、距离匹配法等,通过从图像的目标对象中提取特征再对特征进行匹配和过滤,处理步骤较为复杂。但是两种目标对象匹配方法均存在使用局限,例如图像特征匹配法不太适用于多个摄像装置角度差异较大的情况,匹配准确度会降低;距离匹配法则过于依赖测距的精度。
由此可知,利用现有的目标对象匹配方法对目标对象进行匹配时,存在匹配精度低的问题。
发明内容
有鉴于此,本发明实施例提供一种图像处理方法及装置,以实现目标对象匹配精度的目的。
为实现上述目的,本发明实施例提供如下技术方案:
本发明实施例的一个方面提供一种图像处理方法,包括:
获取第一图像中待匹配的第一目标对象的第一像素点信息,以及获取第二图像中待匹配的第二目标对象的第二像素点信息;其中,所述第一图像和所述第二图像由两个不同的摄像装置获取;
基于两个所述摄像装置的参数信息和所述第一像素点信息,确定所述第一目标对象的第一特征值;
基于两个所述摄像装置的参数信息和所述第二像素点信息,确定所述第二目标对象的第二特征值;其中,所述摄像装置的参数信息包括内参矩阵、旋转矩阵和摄像装置的实际位置信息;
若所述第一特征值和所述第二特征值匹配,确定所述第一目标对象和所述第二目标对象为同一目标对象。
可选的,所述获取第一图像中待匹配的第一目标对象的第一像素点信息,包括:
确定第一图像中待匹配的第一目标对象,以及所述第一目标对象的所属类别;
根据所述第一目标对象的所属类别选择指示所述第一目标对象的第一像素点,并获取第一像素点信息。
可选的,所述基于两个所述摄像装置的参数信息和所述第一像素点信息,确定所述第一目标对象的第一特征值,包括:
根据所述第一像素点信息、所述第一图像对应的摄像装置的旋转参数和内参矩阵,得到所述第一像素点的调整图像坐标;
根据两个所述摄像装置的实际位置信息,得到两个所述摄像装置坐标系原点的世界坐标差值;
根据所述调整图像坐标和所述世界坐标差值计算得到所述第一目标对象的第一特征值。
可选的,所述根据所述第一像素点信息、所述第一图像对应的摄像装置的旋转参数和内参矩阵,得到所述第一像素点的调整图像坐标,包括:逆转所述第一图像对应的摄像装置的旋转参数R1、所述第一图像对应的摄像装置的内参数矩阵K1,得到R1 -1和K1 -1
所述第一像素点信息包括第一像素点的图像坐标(u1,v1),基于所述第一像素点的图像坐标(u1,v1)、所述R1 -1和所述K1 -1,利用
Figure BDA0002745505430000021
得到第一像素点的调整图像坐标(u′1,v′1);
其中,k′1为归一化因子。
可选的,所述根据两个所述摄像装置的实际位置信息,得到两个所述摄像装置坐标系原点的世界坐标差值,包括:
所述两个所述摄像装置的实际位置信息包括两个所述摄像装置坐标系原点的世界坐标
Figure BDA0002745505430000031
Figure BDA0002745505430000032
基于所述
Figure BDA0002745505430000033
和所述
Figure BDA0002745505430000034
利用
Figure BDA0002745505430000035
得到两个所述摄像装置坐标系原点的世界坐标差值
Figure BDA0002745505430000036
可选的,所述根据所述调整图像坐标和所述世界坐标差值计算得到所述第一目标对象的第一特征值,包括:
基于所述调整图像坐标(u′1,v′1)和所述世界坐标差值
Figure BDA0002745505430000037
利用
Figure BDA0002745505430000038
得到所述第一目标对象的第一特征值。
本发明实施例的另一个方面提供一种图像处理装置,包括:信息获取单元、特征值确定单元和目标对象匹配单元;
所述信息获取单元,用于获取第一图像中待匹配的第一目标对象的第一像素点信息,以及获取第二图像中待匹配的第二目标对象的第二像素点信息;其中,所述第一图像和所述第二图像由两个不同的摄像装置获取;
所述特征值确定单元,用于基于两个所述摄像装置的参数信息和所述第一像素点信息,确定所述第一目标对象的第一特征值;基于两个所述摄像装置的参数信息和所述第二像素点信息,确定所述第二目标对象的第二特征值;其中,所述摄像装置的参数信息包括内参矩阵、旋转矩阵和摄像装置的实际位置信息;
所述目标对象匹配单元,用于若所述第一特征值和所述第二特征值匹配,确定所述第一目标对象和所述第二目标对象为同一目标对象。
可选的,所述信息获取单元包括:
确定对象子单元,用于确定图像中待匹配的目标对象,以及目标对象的所属类别;
选择获取子单元,用于根据目标对象的所属类别选择指示目标对象的像素点,并获取像素点信息。
可选的,所述特征值确定单元,包括:
第一计算子单元,用于根据所述第一像素点信息、所述第一图像对应的摄像装置的旋转参数和内参数矩阵,得到所述第一像素点的调整图像坐标;还用于根据所述第二像素点信息、所述第二图像对应的摄像装置的旋转参数和内参数矩阵,得到所述第二像素点的调整图像坐标;
第二计算子单元,用于根据两个所述摄像装置的实际位置信息,得到两个所述摄像装置坐标系原点的世界坐标差值;
第三计算子单元,用于根据所述第一像素点的调整图像坐标、所述第二像素点调整图像坐标和所述世界坐标差值计算得到所述第一目标对象的第一特征值和所述第二目标对象的第二特征值。
可选的,所述第一计算单元具体用于:
逆转所述第一图像对应的摄像装置的旋转参数R1、所述第一图像对应的摄像装置的内参数矩阵K1,得到R1 -1和K1 -1
所述第一像素点信息包括第一像素点的图像坐标(u1,v1),基于所述第一像素点的图像坐标(u1,v1)、所述R1 -1和所述K1 -1,利用
Figure BDA0002745505430000041
得到第一像素点的调整图像坐标(u′1,v′1);
逆转所述第二图像对应的摄像装置的旋转参数R2、所述第二图像对应的摄像装置的内参数矩阵K2,得到R2 -1和K2 -1
所述第二像素点信息包括第二像素点的图像坐标(u2,v2),基于所述第二像素点的图像坐标(u2,v2)、所述R2 -1和所述K2 -1,利用
Figure BDA0002745505430000042
得到第二像素点的调整图像坐标(u′2,v′2);
其中,k′1和k′2为归一化因子;
所述第二计算单元具体用于:所述两个所述摄像装置的实际位置信息包括两个所述摄像装置坐标系原点的世界坐标
Figure BDA0002745505430000051
Figure BDA0002745505430000052
基于所述
Figure BDA0002745505430000053
和所述
Figure BDA0002745505430000054
利用
Figure BDA0002745505430000055
得到两个所述摄像装置坐标系原点的世界坐标差值
Figure BDA0002745505430000056
所述第三计算单元具体用于:基于所述第一像素点的调整图像坐标(u′1,v′1)所述第二像素点的调整图像坐标(u′2,v′2)和所述世界坐标差值
Figure BDA0002745505430000057
得到所述第一目标对象的第一特征值
Figure BDA0002745505430000058
和所述第二目标对象的第二特征值
Figure BDA0002745505430000059
经由上述技术方案可知,通过获取第一图像中待匹配的第一目标对象的第一像素点信息,以及获取第二图像中待匹配的第二目标对象的第二像素点信息;其中,第一图像和第二图像由两个不同的摄像装置获取;基于两个摄像装置的参数信息和第一像素点信息,确定第一目标对象的第一特征值;基于两个摄像装置的参数信息和第二像素点信息,确定第二目标对象的第二特征值;其中,摄像装置的参数信息包括内参矩阵、旋转矩阵和摄像装置的实际位置信息;若第一特征值和第二特征值匹配,确定第一目标对象和第二目标对象为同一目标对象。本发明提供的方案实现通过像素点信息与对应摄像装置的参数信息就能确定目标对象的特征值,与现有技术相比减少了对特征进行过滤的步骤;同时像素点信息与摄像装置的参数信息均为稳定的参数,参数值不受外部使用条件的干扰,则其计算出的特征值也不受外部使用条件的干扰,与现有技术相比,基于本方案的特征值匹配目标对象的匹配结果更稳定、准确度更高。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本发明实施例公开的一种图像处理方法的流程图;
图2为图1中执行步骤S101中获取像素点信息的一种实现方式的流程图;
图3为图1中执行步骤S102中第一特征值计算过程流程图;
图4为图1中执行步骤S103中第二特征值计算过程流程图;
图5为本发明实施例公开的一种图像处理装置的结构示意图;
图6为图5中的信息获取单元110的结构示意图;
图7为图5中的特征值确定单元120的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本申请中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
如图1所示,为本发明实施例公开的一种图像处理方法的流程图,可以应用于自动驾驶和机器控制等需要应用机器视觉的技术领域,用于匹配不同图像中相同的目标对象,该图像处理方法可内置于智能控制设备中执行。该图像处理方法包括如下步骤:
S101,获取第一图像中待匹配的第一目标对象的第一像素点信息,以及获取第二图像中待匹配的第二目标对象的第二像素点信息。
本实施例中,第一图像和第二图像由两个不同的摄像装置获取。
为方便后续说明,两个摄像装置中,拍摄第一图像的摄像装置简称为第一摄像装置,拍摄第二图像的摄像装置简称为第二摄像装置。
第一摄像装置和第二摄像装置可以是两个参数信息不同的摄像装置,和/或拍摄角度、拍摄视野不同的摄像装置。例如,设置在自动驾驶车辆上的两台相机,相机的参数信息相同,但是两个相机设置在车辆的不同位置,使得两台相机的拍摄角度不同和/或两台相机的拍摄范围不相同,则两台相机拍摄的图像可以作为第一图像和第二图像。又例如,第一摄像装置可以为窄视角长焦距的相机,视觉范围窄而远。第二摄像装置可以为宽视角短焦距的相机,视觉范围宽而长。两台相机的焦距和视角不同,拍摄的图像可以作为第一图像和第二图像。
本实施例中,待匹配的第一目标对象是第一图像中通过识别算法识别出的待匹配的对象。同理,待匹配的第二目标对象是第二图像中通过识别算法识别出的待匹配的对象。对象可以是图像中的任意物体。
根据方法应用场景需要获取的环境信息的不同,待匹配的目标对象也不一定相同。例如,若应用于自动驾驶领域,待匹配的目标对象可以是行人、道路或红绿灯等;若应用于搬运机器人控制领域,待匹配的目标对象可以是机器人要搬运的物体等。
需要说明的是,第一目标对象和第二目标对象可以包括一种或多种不同的类别的物体,在此不进行限定。在此不详细介绍待匹配的第一目标对象和第二目标对象的识别过程,可以参考现有技术的识别算法。
本实施例中,第一像素点信息和第二像素点信息中的“第一”和“第二”用于指示像素点信息的来源不同,即第一像素点信息为第一目标对象上的像素点信息,以及第二像素点信息为第二目标对象上的像素点信息。
“第一”和“第二”不用于限制像素点信息的个数。例如,第一像素点信息中包括第一目标对象上的一个像素点的信息,或者第一像素点信息包括第一目标对象上的多个像素点的信息。
像素点信息包括但不限于以下至少一种:像素点的图像坐标和像素点的像素值。像素点信息用于指示对应的目标对象。
S102,基于两个摄像装置的参数信息和第一像素点信息,确定第一目标对象的第一特征值。
其中,摄像装置的参数信息包括内参矩阵、旋转矩阵和摄像装置的实际位置信息。参数信息是通过对摄像装置进行标定获得的,摄像装置的标定过程是本领域的惯用技术手段,在此不进行详细的说明。
本实施例中,第一特征值是根据现实世界中相同的点其在世界坐标下的坐标也是相同的原理设置得到的特征值。
基于现实世界中相同的点其在世界坐标下的坐标也是相同的原理得到特征值的过程如下:
根据经典的针孔相机模型,对于一个物体,它实际的位置信息(即世界坐标X)与图像坐标(u,v)有以下关系:
Figure BDA0002745505430000081
其中,K相机的内参矩阵;R为相机的旋转矩阵;
Figure BDA0002745505430000082
为表示相机原点C在世界坐标系中的坐标;X是物体在世界坐标系下的世界坐标;Zc是针孔相机模型中的归一化因子,具体含义是物体在像极坐标系下在Z方向上的坐标。
为得到物体的世界坐标X的表达式,对等式(1)进行变形,并重新进行归一化,得到下面等式(2):
Figure BDA0002745505430000083
其中,u′和u之间的关系,以及v′和v之间的关系参见下面的等式(3)。
其中,k′是归一化因子,目的是让等式(3)左边向量的最后一位为1。
Figure BDA0002745505430000084
如果一个物体同时被两不同的摄像装置(第一拍摄装置和第二拍摄装置)拍摄,分别得到第一图像和第二图像(第一拍摄装置拍摄得到第一图像,第二拍摄装置拍摄得到第二图像)。假设该物体在第一图像中的图像坐标为(ua,va);假设该物体在第二图像中的图像坐标为(ub,vb)。在同一个世界坐标系下,根据相同的点在世界坐标下的坐标相同的原理和等式(2)可得下面等式(4):
Figure BDA0002745505430000091
其中,u′a和v′a是(ua,va)根据等式(3)计算得到的;u′b和v′b是(ub,vb)根据等式(3)计算得到的。假设第一拍摄装置原点Ca的世界坐标为
Figure BDA0002745505430000092
第二拍摄装置原点Cb的世界坐标为
Figure BDA0002745505430000093
将两个原点之间的世界坐标差表示为:
Figure BDA0002745505430000094
根据等式(4)和等式(5)可以求解出等式(4)中的两个归一化因子ka和kb的表达式,过程如下:先将等式(4)的
Figure BDA0002745505430000095
移到等式的左边,然后将等式(5)带入其中,得到:
Figure BDA0002745505430000096
将等式(6)打开可以得到下列方程式(7):
Figure BDA0002745505430000097
将方程式(7)的第二个式子与第三个式子联立可得:
Figure BDA0002745505430000098
将方程式(7)的第一个式子与第三个式子联立可得:
Figure BDA0002745505430000099
将等式(8)与等式(9)联立,我们可以得到下面的关系:
Figure BDA0002745505430000101
综上可知,如果第一图像中位于(ua,va)的物体和第二图像中位于(ub,vb)的物体为同一物体,则根据等式(3)得到的u′a、v′a、u′b和v′b将满足等式(10)。
本实施例中,根据等式(10)可以确定特征值一种表达式为:
Figure BDA0002745505430000102
这里取反正切函数的原因在于,这个值计算出来等价于在归一化平面上的斜率,我们要将其转化成角度才便于通过做差进行等价的比较。需要说明的是,在其他实施例中,特征值的表达式可以设置为其他与
Figure BDA0002745505430000103
相关的变形表达式。例如,特征值表达式可以为
Figure BDA0002745505430000104
Figure BDA0002745505430000105
其中n为任意常数变量。在此不对特征值表达式做具体的限定,只要其满足等式(10)的关系即可。
S103,基于两个摄像装置的参数信息和第二像素点信息,确定第二目标对象的第二特征值。
在本实施例中,第二特征值也是根据现实世界中相同的点其在世界坐标下的坐标也是相同的原理设置得到的特征值。
第二特征值的计算过程与执行步骤S102中第一特征值的计算原理相同,具体原理可以参见步骤S102的说明,在此不再赘述。
需要说明的是,步骤S102和步骤S103的执行顺序不受序号限定,步骤S103可以与步骤S102同时执行,也可以先执行步骤S103再执行步骤S102,或者先执行步骤S102再执行步骤S103,不会对后续计算产生影响,在此不做具体的限定。
S104,若第一特征值和第二特征值匹配,确定第一目标对象和第二目标对象为同一目标对象。
根据上述步骤S102中的证明过程可知,若两个像素点的特征值相匹配,两个像素点为世界坐标相同的点,其所指示的目标对象就是同一对象。
本实施例中,第一特征值和第二特征值匹配可以是指第一特征值与第二特征值相等,或者第一特征值与第二特征值之差小于预设的范围,在此不做具体限定。
上述实施例实现通过像素点信息与对应摄像装置的参数信息就能确定目标对象的特征值,与现有技术相比减少了对特征进行过滤的步骤;同时像素点信息与摄像装置的参数信息均为稳定的参数,参数值不受外部使用条件的干扰,则其计算出的特征值也不受外部使用条件的干扰,与现有技术相比,基于本方案的特征值匹配目标对象的匹配结果更稳定、准确度更高。
请参见图2,其示出了图1中的执行步骤S101获取像素点信息的一种实现方式的流程图,第一像素点信息和第二像素点信息均可以采用该实现方式获取,包括以下步骤:
S201,确定图像中待匹配的目标对象,以及目标对象的所属类别。
可以根据目标对象的图像信息确定目标对象所属类别,目标对象的图像信息包括但不限于以下至少一种:目标对象的轮廓、目标对象的颜色、目标对象的纹路和边缘梯度大小等。例如,假设图像中待匹配的目标对象包括红绿灯指示牌、行人和车辆三种类别,三种类别目标对象的轮廓信息不同,可以根据轮廓信息确定目标对象的类别。若某一目标对象的轮廓为规则的矩形,可以确定该目标对象为红绿灯指示牌。
S202,根据目标对象的所属类别选择指示目标对象的像素点,并获取像素点信息。
其中,所属类别相同的目标对象其选择的像素点位置和个数一致。像素点用于指示目标对象,选择的像素点的位置和数量会影响后续的匹配效果。一方面,像素点位置的选择与目标对象相关。为使所属类别相同的目标对象其选择的像素点位置一致,选择的像素点可以此类目标对象中有辨识度的位置,也就是不容易有歧义的像素点。下面以目标对象为行人为例说明什么是辨识度高的位置:位于行人头部的像素点比位于行人四肢的像素点的辨识度更高,因为头部只有一个,但是四肢包括左右两边,可能会出现在一个行人确定的像素点在左手,另一个图像中的行人确定的像素点在右手的情况,这会导致后续匹配结果不准确。在其他类的目标对象中,以红绿灯为例,选取红绿灯边框的底边中点是一个比较稳妥的选择。具体目标对象像素点如何选择可以根据目标对象的实际情况自行设计,在此不做具体的限定。
另一方面,像素点个数的选择与目标对象和目标对象所在的场景有关,一个目标对象中选择的像素点的个数越多,基于多个像素点信息进行处理的匹配效果会越准确。若目标对象所在的场景较为简单,图像中的背景信息简单,干扰少,图像中待匹配目标对象单一时,从目标对象上选择一个像素点也可以准确匹配目标对象。例如,目标对象为空旷道路上的红绿灯指示牌。若目标对象所在的场景较为复杂,待匹配的目标对象较多,从目标对象上选择多个像素点,将多个像素点的特征值作为匹配依据,可以提高匹配的准确度。例如,目标对象为人群中某个行人。
上述获取像素点信息的方式,通过据目标对象类别确定像素点的位置和数量,使得获取的像素点信息更能准确指示目标对象,由此计算得到的特征值更准确,目标对象的匹配结果也更准确。
结合上述公开的基于现实世界中相同的点其在世界坐标下的坐标也是相同的原理得到特征值的过程得到的特征值表达式(10),请参见图3,其示出了执行步骤S102计算第一特征值的流程图,包括以下步骤:
S301,根据第一像素点信息、第一图像对应的摄像装置的旋转参数和内参矩阵,得到第一像素点的调整图像坐标。
具体的,逆转第一图像对应的摄像装置的旋转参数R1、第一图像对应的摄像装置的内参数矩阵K1,得到R1 -1和K1 -1;第一像素点信息包括第一像素点的图像坐标(u1,v1),基于第一像素点的图像坐标(u1,v1)、R1 -1和K1 -1,带入上述等式(3)
Figure BDA0002745505430000121
得到第一像素点的调整图像坐标(u′1,v′1);其中,k′1为归一化因子。
S302,根据两个摄像装置的实际位置信息,得到两个摄像装置坐标系原点的世界坐标差值。
具体的,两个摄像装置的实际位置信息包括两个摄像装置坐标系原点的世界坐标
Figure BDA0002745505430000131
Figure BDA0002745505430000132
基于
Figure BDA0002745505430000133
Figure BDA0002745505430000134
利用
Figure BDA0002745505430000135
得到两个摄像装置坐标系原点的世界坐标差值
Figure BDA0002745505430000136
S303,根据调整图像坐标和世界坐标差值计算得到第一目标对象的第一特征值。
具体的,基于调整图像坐标(u′1,v′1)和世界坐标差值
Figure BDA0002745505430000137
带入特征值表达式(10),得到第一目标对象的第一特征值
Figure BDA0002745505430000138
请参见图4,其示出了执行步骤S103第二特征值的计算过程的流程图,包括以下步骤:
S401,根据第二像素点信息、第二图像对应的摄像装置的旋转参数和内参矩阵,得到第二像素点的调整图像坐标。
具体的,逆转第二图像对应的摄像装置的旋转参数R2、第二图像对应的摄像装置的内参数矩阵K2,得到R2 -1和K2 -1;第二像素点信息包括第二像素点的图像坐标(u2,v2),基于第二像素点的图像坐标(u2,v2)、R2 -1和K2 -1,带入上述等式(3),
Figure BDA0002745505430000139
得到第二像素点的调整图像坐标(u′2,v′2);其中,k′2为归一化因子。
S402,根据两个摄像装置的实际位置信息,得到两个摄像装置坐标系原点的世界坐标差值。
具体的,两个摄像装置的实际位置信息包括两个摄像装置坐标系原点的世界坐标
Figure BDA00027455054300001310
Figure BDA00027455054300001311
基于
Figure BDA00027455054300001312
Figure BDA00027455054300001313
利用
Figure BDA00027455054300001314
得到两个摄像装置坐标系原点的世界坐标差值
Figure BDA00027455054300001315
S403,根据调整图像坐标和世界坐标差值计算得到第二目标对象的第二特征值。
具体的,基于调整图像坐标(u′2,v′2)和世界坐标差值
Figure BDA0002745505430000141
带入特征值表达式(10),得到第二目标对象的第二特征值为
Figure BDA0002745505430000142
上述计算特征值的过程通过像素点的图像坐标与对应摄像装置标定得到的参数信息计算得到目标对象的特征值。实现通过不受外部使用条件的干扰,比较稳定的图像坐标与参数信息确定目标对象的特征值,与现有技术相比,基于该特征值进行目标对象的匹配,匹配结果更稳定、准确度更高。
基于上述本发明实施例公开的图像处理方法,本发明实施例还对应公开了一种图像处理装置,请参见图5,其示出该图像处理装置的结构示意图,主要包括:信息获取单元110、特征值确定单元120和目标对象匹配单元130。
信息获取单元110,用于获取第一图像中待匹配的第一目标对象的第一像素点信息,以及获取第二图像中待匹配的第二目标对象的第二像素点信息。其中,第一图像和第二图像由两个不同的摄像装置获取。
请参见图6,其示出了信息获取单元110的结构示意图,信息获取单元110包括:确定对象子单元111和选择获取子单元112。
其中确定对象子单元111,用于确定图像中待匹配的目标对象,以及目标对象的所属类别。具体的用于确定第一图像中待匹配的第一目标对象,以及第一目标对象的所属类别。还用于确定第二图像中待匹配的第二目标对象,以及第二目标对象的所属类别。
选择获取子单元112,用于根据目标对象的所属类别选择指示目标对象的像素点,并获取像素点信息。具体的,根据第一目标对象的所属类别选择指示第一目标对象的第一像素点,并获取第一像素点信息。还用于根据第二目标对象的所属类别选择指示第二目标对象的第二像素点,并获取第二像素点信息。
信息获取单元110及其子单元的工作过程说明请分别参见上述事实例的执行步骤S101和执行步骤S201-S202的过程说明,在此不再赘述。
特征值确定单元120,用于基于两个摄像装置的参数信息和第一像素点信息,确定第一目标对象的第一特征值。还用于基于两个摄像装置的参数信息和第二像素点信息,确定第二目标对象的第二特征值。其中,摄像装置的参数信息包括内参矩阵、旋转矩阵和摄像装置的实际位置信息。
目标对象匹配单元130,用于若第一特征值和第二特征值匹配,确定第一目标对象和第二目标对象为同一目标对象。
特征值确定单元120和目标对象匹配单元130的工作过程说明请分别参见上述事实例的执行步骤S102-S103和执行步骤S104的过程说明,在此不再赘述。
上述实施例实现通过像素点信息与对应摄像装置的参数信息就能确定目标对象的特征值,与现有技术相比减少了对特征进行过滤的步骤;同时像素点信息与摄像装置的参数信息均为稳定的参数,参数值不受外部使用条件的干扰,则其计算出的特征值也不受外部使用条件的干扰,与现有技术相比,基于本方案的特征值匹配目标对象的匹配结果更稳定、准确度更高。
请参见图7,其示出了特征值确定单元120的结构示意图,特征值确定单元120包括第一计算子单元121、第二计算子单元122和第三计算子单元123。
其中,第一计算子单元121,用于根据第一像素点信息、第一图像对应的摄像装置的旋转参数和内参数矩阵,得到第一像素点的调整图像坐标;还用于根据第二像素点信息、第二图像对应的摄像装置的旋转参数和内参数矩阵,得到第二像素点的调整图像坐标。
第一计算子单元121具体用于:逆转第一图像对应的摄像装置的旋转参数R1、第一图像对应的摄像装置的内参数矩阵K1,得到R1 -1和K1 -1。第一像素点信息包括第一像素点的图像坐标(u1,v1)。基于第一像素点的图像坐标(u1,v1)、R1 -1和K1 -1,利用
Figure BDA0002745505430000151
得到第一像素点的调整图像坐标(u′1,v′1)。
逆转第二图像对应的摄像装置的旋转参数R2、第二图像对应的摄像装置的内参数矩阵K2,得到R2 -1和K2 -1。第二像素点信息包括第二像素点的图像坐标(u2,v2)。基于第二像素点的图像坐标(u2,v2)、R2 -1和K2 -1,利用
Figure BDA0002745505430000161
得到第二像素点的调整图像坐标(u′2,v′2)。
其中,k′1和k′2为归一化因子。
第一计算子单元121的工作过程说明请参见上述事实例的执行步骤S301和执行步骤S401的过程说明,在此不再赘述。
第二计算子单元122,用于根据两个摄像装置的实际位置信息,得到两个摄像装置坐标系原点的世界坐标差值。第二计算单元122具体用于:两个所述摄像装置的实际位置信息包括两个摄像装置坐标系原点的世界坐标
Figure BDA0002745505430000162
Figure BDA0002745505430000163
基于
Figure BDA0002745505430000164
Figure BDA0002745505430000165
利用
Figure BDA0002745505430000166
得到两个摄像装置坐标系原点的世界坐标差值
Figure BDA0002745505430000167
第二计算子单元122的工作过程说明请参见上述事实例的执行步骤S302或执行步骤S402的过程说明,在此不再赘述。
第三计算子单元123,用于根据第一像素点的调整图像坐标、第二像素点调整图像坐标和世界坐标差值计算得到第一目标对象的第一特征值和第二目标对象的第二特征值。
第三计算子单元123具体用于:基于第一像素点的调整图像坐标(u′1,v′1)第二像素点的调整图像坐标(u′2,v′2)和世界坐标差值
Figure BDA0002745505430000168
得到第一目标对象的第一特征值
Figure BDA0002745505430000169
和第二目标对象的第二特征值
Figure BDA00027455054300001610
第三计算子单元123的工作过程说明请参见上述事实例的执行步骤S303和执行步骤S403的过程说明,在此不再赘述。
上述计算特征值的过程通过像素点的图像坐标与对应摄像装置标定得到的参数信息计算得到目标对象的特征值。实现通过不受外部使用条件的干扰,比较稳定的图像坐标与参数信息确定目标对象的特征值,与现有技术相比,基于该特征值进行目标对象的匹配,匹配结果更稳定、准确度更高。
本说明书中的各个实施例均采用递进或组合的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统或系统实施例而言,由于其基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。以上所描述的系统及系统实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (10)

1.一种图像处理方法,其特征在于,包括:
获取第一图像中待匹配的第一目标对象的第一像素点信息,以及获取第二图像中待匹配的第二目标对象的第二像素点信息;其中,所述第一图像和所述第二图像由两个不同的摄像装置获取;
基于两个所述摄像装置的参数信息和所述第一像素点信息,确定所述第一目标对象的第一特征值;
基于两个所述摄像装置的参数信息和所述第二像素点信息,确定所述第二目标对象的第二特征值;其中,所述摄像装置的参数信息包括内参矩阵、旋转矩阵和摄像装置的实际位置信息;
若所述第一特征值和所述第二特征值匹配,确定所述第一目标对象和所述第二目标对象为同一目标对象。
2.根据权利要求1所述的方法,其特征在于,所述获取第一图像中待匹配的第一目标对象的第一像素点信息,包括:
确定第一图像中待匹配的第一目标对象,以及所述第一目标对象的所属类别;
根据所述第一目标对象的所属类别选择指示所述第一目标对象的第一像素点,并获取第一像素点信息。
3.根据权利要求1所述的方法,其特征在于,所述基于两个所述摄像装置的参数信息和所述第一像素点信息,确定所述第一目标对象的第一特征值,包括:
根据所述第一像素点信息、所述第一图像对应的摄像装置的旋转参数和内参矩阵,得到所述第一像素点的调整图像坐标;
根据两个所述摄像装置的实际位置信息,得到两个所述摄像装置坐标系原点的世界坐标差值;
根据所述调整图像坐标和所述世界坐标差值计算得到所述第一目标对象的第一特征值。
4.根据权利要求3所述的方法,其特征在于,所述根据所述第一像素点信息、所述第一图像对应的摄像装置的旋转参数和内参矩阵,得到所述第一像素点的调整图像坐标,包括:逆转所述第一图像对应的摄像装置的旋转参数R1、所述第一图像对应的摄像装置的内参数矩阵K1,得到R1 -1和K1 -1
所述第一像素点信息包括第一像素点的图像坐标(u1,v1),基于所述第一像素点的图像坐标(u1,v1)、所述R1 -1和所述K1 -1,利用
Figure FDA0002745505420000021
得到第一像素点的调整图像坐标(u′1,v′1);
其中,k′1为归一化因子。
5.根据权利要求3所述的方法,其特征在于,所述根据两个所述摄像装置的实际位置信息,得到两个所述摄像装置坐标系原点的世界坐标差值,包括:
所述两个所述摄像装置的实际位置信息包括两个所述摄像装置坐标系原点的世界坐标
Figure FDA0002745505420000022
Figure FDA0002745505420000023
基于所述
Figure FDA0002745505420000024
和所述
Figure FDA0002745505420000025
利用
Figure FDA0002745505420000026
得到两个所述摄像装置坐标系原点的世界坐标差值
Figure FDA0002745505420000027
6.根据权利要求3所述的方法,其特征在于,所述根据所述调整图像坐标和所述世界坐标差值计算得到所述第一目标对象的第一特征值,包括:
基于所述调整图像坐标(u′1,v′1)和所述世界坐标差值
Figure FDA0002745505420000028
利用
Figure FDA0002745505420000029
得到所述第一目标对象的第一特征值。
7.一种图像处理装置,其特征在于,包括:信息获取单元、特征值确定单元和目标对象匹配单元;
所述信息获取单元,用于获取第一图像中待匹配的第一目标对象的第一像素点信息,以及获取第二图像中待匹配的第二目标对象的第二像素点信息;其中,所述第一图像和所述第二图像由两个不同的摄像装置获取;
所述特征值确定单元,用于基于两个所述摄像装置的参数信息和所述第一像素点信息,确定所述第一目标对象的第一特征值;基于两个所述摄像装置的参数信息和所述第二像素点信息,确定所述第二目标对象的第二特征值;其中,所述摄像装置的参数信息包括内参矩阵、旋转矩阵和摄像装置的实际位置信息;
所述目标对象匹配单元,用于若所述第一特征值和所述第二特征值匹配,确定所述第一目标对象和所述第二目标对象为同一目标对象。
8.根据权利要求7所述的装置,其特征在于,所述信息获取单元包括:
确定对象子单元,用于确定图像中待匹配的目标对象,以及目标对象的所属类别;
选择获取子单元,用于根据目标对象的所属类别选择指示目标对象的像素点,并获取像素点信息。
9.根据权利要求7所述的装置,其特征在于,所述特征值确定单元,包括:
第一计算子单元,用于根据所述第一像素点信息、所述第一图像对应的摄像装置的旋转参数和内参数矩阵,得到所述第一像素点的调整图像坐标;还用于根据所述第二像素点信息、所述第二图像对应的摄像装置的旋转参数和内参数矩阵,得到所述第二像素点的调整图像坐标;
第二计算子单元,用于根据两个所述摄像装置的实际位置信息,得到两个所述摄像装置坐标系原点的世界坐标差值;
第三计算子单元,用于根据所述第一像素点的调整图像坐标、所述第二像素点调整图像坐标和所述世界坐标差值计算得到所述第一目标对象的第一特征值和所述第二目标对象的第二特征值。
10.根据权利要求9所述的装置,其特征在于,所述第一计算单元具体用于:
逆转所述第一图像对应的摄像装置的旋转参数R1、所述第一图像对应的摄像装置的内参数矩阵K1,得到R1 -1和K1 -1
所述第一像素点信息包括第一像素点的图像坐标(u1,v1),基于所述第一像素点的图像坐标(u1,v1)、所述R1 -1和所述K1 -1,利用
Figure FDA0002745505420000031
得到第一像素点的调整图像坐标(u′1,v′1);
逆转所述第二图像对应的摄像装置的旋转参数R2、所述第二图像对应的摄像装置的内参数矩阵K2,得到R2 -1和K2 -1
所述第二像素点信息包括第二像素点的图像坐标(u2,v2),基于所述第二像素点的图像坐标(u2,v2)、所述R2 -1和所述K2 -1,利用
Figure FDA0002745505420000041
得到第二像素点的调整图像坐标(u′2,v′2);
其中,k′1和k′2为归一化因子;
所述第二计算单元具体用于:所述两个所述摄像装置的实际位置信息包括两个所述摄像装置坐标系原点的世界坐标
Figure FDA0002745505420000042
Figure FDA0002745505420000043
基于所述
Figure FDA0002745505420000044
和所述
Figure FDA0002745505420000045
利用
Figure FDA0002745505420000046
得到两个所述摄像装置坐标系原点的世界坐标差值
Figure FDA0002745505420000047
所述第三计算单元具体用于:基于所述第一像素点的调整图像坐标(u′1,v′1)所述第二像素点的调整图像坐标(u′2,v′2)和所述世界坐标差值
Figure FDA0002745505420000048
得到所述第一目标对象的第一特征值
Figure FDA0002745505420000049
和所述第二目标对象的第二特征值
Figure FDA00027455054200000410
CN202011165045.6A 2020-10-27 2020-10-27 一种图像处理方法及装置 Active CN112330726B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011165045.6A CN112330726B (zh) 2020-10-27 2020-10-27 一种图像处理方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011165045.6A CN112330726B (zh) 2020-10-27 2020-10-27 一种图像处理方法及装置

Publications (2)

Publication Number Publication Date
CN112330726A true CN112330726A (zh) 2021-02-05
CN112330726B CN112330726B (zh) 2022-09-09

Family

ID=74296926

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011165045.6A Active CN112330726B (zh) 2020-10-27 2020-10-27 一种图像处理方法及装置

Country Status (1)

Country Link
CN (1) CN112330726B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113674359A (zh) * 2021-08-13 2021-11-19 珠海格力电器股份有限公司 一种对象信息检测方法、装置、电子设备及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110052045A1 (en) * 2008-04-04 2011-03-03 Fujifilm Corporation Image processing apparatus, image processing method, and computer readable medium
US20130089260A1 (en) * 2011-10-05 2013-04-11 Carnegie Mellon University Systems, Methods, and Software Implementing Affine-Invariant Feature Detection Implementing Iterative Searching of an Affine Space
CN103411536A (zh) * 2013-08-23 2013-11-27 西安应用光学研究所 基于双目立体视觉的驾驶辅助障碍物检测方法
US20150332112A1 (en) * 2014-05-19 2015-11-19 Jinling Institute Of Technology Method and apparatus for image processing
CN106503605A (zh) * 2015-09-01 2017-03-15 南京理工大学 基于立体视觉技术的人体目标识别方法
CN108632569A (zh) * 2017-03-20 2018-10-09 华为技术有限公司 基于枪球联动的视频监控方法及装置
CN109840529A (zh) * 2019-02-01 2019-06-04 安徽大学 一种基于局部敏感置信度评估的图像匹配方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110052045A1 (en) * 2008-04-04 2011-03-03 Fujifilm Corporation Image processing apparatus, image processing method, and computer readable medium
US20130089260A1 (en) * 2011-10-05 2013-04-11 Carnegie Mellon University Systems, Methods, and Software Implementing Affine-Invariant Feature Detection Implementing Iterative Searching of an Affine Space
CN103411536A (zh) * 2013-08-23 2013-11-27 西安应用光学研究所 基于双目立体视觉的驾驶辅助障碍物检测方法
US20150332112A1 (en) * 2014-05-19 2015-11-19 Jinling Institute Of Technology Method and apparatus for image processing
CN106503605A (zh) * 2015-09-01 2017-03-15 南京理工大学 基于立体视觉技术的人体目标识别方法
CN108632569A (zh) * 2017-03-20 2018-10-09 华为技术有限公司 基于枪球联动的视频监控方法及装置
CN109840529A (zh) * 2019-02-01 2019-06-04 安徽大学 一种基于局部敏感置信度评估的图像匹配方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
RADUTIMOFTE ET AL.: "PICASO: PIxel correspondences and SOft match selection for real-time tracking", 《COMPUTER VISION AND IMAGE UNDERSTANDING》 *
姚璐莹: "双目立体视觉中的区域匹配算法研究", 《中国优秀博硕士学位论文全文数据库(硕士)信息科技辑》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113674359A (zh) * 2021-08-13 2021-11-19 珠海格力电器股份有限公司 一种对象信息检测方法、装置、电子设备及存储介质
CN113674359B (zh) * 2021-08-13 2024-05-03 珠海格力电器股份有限公司 一种对象信息检测方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN112330726B (zh) 2022-09-09

Similar Documents

Publication Publication Date Title
US10085011B2 (en) Image calibrating, stitching and depth rebuilding method of a panoramic fish-eye camera and a system thereof
WO2020237574A1 (zh) 相机的内参及相对姿态的标定方法、装置、无人机和存储装置
CN108955718B (zh) 一种视觉里程计及其定位方法、机器人以及存储介质
US7729530B2 (en) Method and apparatus for 3-D data input to a personal computer with a multimedia oriented operating system
US20170127045A1 (en) Image calibrating, stitching and depth rebuilding method of a panoramic fish-eye camera and a system thereof
CN109859272B (zh) 一种自动对焦双目摄像头标定方法及装置
CN106529495A (zh) 一种飞行器的障碍物检测方法和装置
CN106570899B (zh) 一种目标物体检测方法及装置
CN109919971B (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
JP5833507B2 (ja) 画像処理装置
CN113409391B (zh) 视觉定位方法及相关装置、设备和存储介质
WO2023060964A1 (zh) 标定方法及相关装置、设备、存储介质和计算机程序产品
US20200294269A1 (en) Calibrating cameras and computing point projections using non-central camera model involving axial viewpoint shift
JP2021531601A (ja) ニューラルネットワーク訓練、視線検出方法及び装置並びに電子機器
CN110136207B (zh) 鱼眼相机标定系统、方法、装置、电子设备及存储介质
CN108182708B (zh) 一种双目相机的标定方法、标定装置及终端设备
CN112470192A (zh) 双摄像头标定方法、电子设备、计算机可读存储介质
WO2022218161A1 (zh) 用于目标匹配的方法、装置、设备及存储介质
CN114608521B (zh) 单目测距方法及装置、电子设备和存储介质
Zheng et al. What does plate glass reveal about camera calibration?
CN112330726B (zh) 一种图像处理方法及装置
CN114511608A (zh) 一种深度图像的获取方法、装置、终端、成像系统和介质
CN117058183A (zh) 一种基于双摄像头的图像处理方法、装置、电子设备及存储介质
JP2022011818A (ja) 情報処理装置およびその制御方法
JP2005275789A (ja) 三次元構造抽出方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20221208

Address after: 518000 501, Xinghe WORLDG-1 Building, No.1 Yabao Road, Nankeng Community, Bantian Street, Longgang District, Shenzhen, Guangdong

Patentee after: Shenzhen Tiantong Zhihang Electronic Technology Co.,Ltd.

Address before: Room 2100-b1018, 2 Huatian Road, Huayuan Industrial Zone, Binhai New Area, Tianjin

Patentee before: TIANJIN TIANTONG WEISHI ELECTRONIC TECHNOLOGY Co.,Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20240102

Address after: 518000 501, Xinghe WORLDG-1 Building, No.1 Yabao Road, Nankeng Community, Bantian Street, Longgang District, Shenzhen, Guangdong

Patentee after: Shenzhen Tongxing Zhilian Electronic Technology Co.,Ltd.

Address before: 518000 501, Xinghe WORLDG-1 Building, No.1 Yabao Road, Nankeng Community, Bantian Street, Longgang District, Shenzhen, Guangdong

Patentee before: Shenzhen Tiantong Zhihang Electronic Technology Co.,Ltd.

TR01 Transfer of patent right