CN112581512A - 图像匹配、3d成像及姿态识别方法、装置及系统 - Google Patents
图像匹配、3d成像及姿态识别方法、装置及系统 Download PDFInfo
- Publication number
- CN112581512A CN112581512A CN201910926826.3A CN201910926826A CN112581512A CN 112581512 A CN112581512 A CN 112581512A CN 201910926826 A CN201910926826 A CN 201910926826A CN 112581512 A CN112581512 A CN 112581512A
- Authority
- CN
- China
- Prior art keywords
- image
- current
- deformation
- matching
- deformed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 117
- 238000003384 imaging method Methods 0.000 title claims abstract description 38
- 230000006870 function Effects 0.000 claims description 31
- 230000015654 memory Effects 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 18
- 230000008859 change Effects 0.000 claims description 5
- 230000000737 periodic effect Effects 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 30
- 238000006243 chemical reaction Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 10
- 238000001514 detection method Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 238000013519 translation Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005452 bending Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000011426 transformation method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
Abstract
本发明提供图像匹配、3D成像及姿态识别方法、装置及系统。其中,图像匹配方法包括:获取初始图像;检测初始图像中的形变区域和/或非形变区域,生成针对形变区域的匹配结果和/或生成针对非形变区域的匹配结果。采用本发明的技术方案,通过首先检测出初始图像中的形变区域和/或非形变区域,再针对检测出的形变区域和/或非形变区域采用对应的方式进行匹配;使得目标物体在各种相对基准面发生变化的情况下,仍能够获得精确的图像匹配结果。
Description
技术领域
本发明涉及图像匹配技术领域,具体涉及图像匹配、3D成像及姿态识别方法、装置及系统。
背景技术
当单个或多个图像传感器将采集的被投射了图像(该被投射的图像在一定空间范围内具有唯一性,或成渐变规律且在空间范围内具有唯一性等等)后的目标物体的图像发送给控制单元后,控制单元通过将单个图像传感器采集的单个图像与参考图像匹配,或对左右图像传感器采集的两张图像进行匹配,进而根据匹配结果进行3D成像或者进行目标物体的姿态识别。
但是,应该看到,以两个图像传感器为例,当物体整个或者部分表面相对于平行于图像传感器的芯片的方向(即基准面)发生偏转、弯曲等等变化时,导致两个图像传感器采集的图像产生不同步的形变,比如:图像中的某些特征部分分别向左右偏转、图像中的特征分别被放大和缩小;或者以单个图像传感器为例,由于一般参考图像都是在目标物体平行于图像传感器芯片或者与图像传感器芯片成某一预设角度的情况下采集的,当实际操作中目标物体放置位置相对参考图像中目标物体放置位置(即基准面)发生偏移,也会导致采集的部分或全部图像发生形变,使得这部分形变后的图像与参考图像无法完成良好的匹配。
发明内容
有鉴于此,本发明提供一种图像匹配、3D成像及姿态识别方法、装置及系统。
本发明第一方面提供一种图像匹配方法,所述图像匹配方法包括:
获取初始图像;
检测所述初始图像中的形变区域和/或非形变区域,生成针对所述形变区域的匹配结果和/或生成针对所述非形变区域的匹配结果。
进一步,所述检测所述初始图像中的形变区域和/或非形变区域包括:
获取所述初始图像中的当前图像块;
基于所述当前图像块的图像特征,检测所述当前图像块为当前形变图像块或当前非形变图像块;其中,所述非形变区域为所述当前非形变图像块的集合;所述形变区域为所述当前形变图像块的集合。
进一步,所述检测初始图像中的形变区域和/或非形变区域包括:
获取所述初始图像中的当前图像块;
匹配所述当前图像块,判断是否能够生成匹配结果;
若否,所述当前图像块为当前形变图像块;若是,所述当前图像块为当前非形变图像块;其中,所述非形变区域为所述当前非形变图像块的集合;所述形变区域为所述当前形变图像块的集合。
进一步,所述生成针对所述形变区域的匹配结果包括:
获取所述形变区域;
转换所述形变区域为基准图像;
针对所述基准图像进行匹配,得到针对所述形变区域的匹配结果。
进一步,所述转换所述形变区域为基准图像包括:
获取所述形变区域中的当前形变图像块;
提取所述当前形变图像块的每行中的最值像素点;
拟合所述每行中的所述最值像素点,得到拟合线;
计算所述拟合线相对基准线的图像形变量;
基于所述图像形变量,转换所述当前形变图像块为当前基准图像块。
进一步,所述转换所述形变区域为基准图像包括:
基于傅里叶变换转换所述形变区域为基准图像。
进一步,所述转换所述形变区域为基准图像包括:
获取所述形变区域中的当前形变图像块;
对所述当前形变图像块进行拟合,得到拟合函数;
基于所述拟合函数,转换所述当前形变图像块为当前基准图像块。
进一步,所述转换所述形变区域为基准图像包括:
获取所述形变区域的当前形变图像块;
基于所述当前形变图像块,生成目标物的形变量;
基于所述形变量,转换所述当前形变图像块为当前基准图像块。
进一步,所述生成针对所述形变区域的匹配结果包括:
依次生成所述形变区域发生单位形变量后的图像组;
针对所述图像组进行匹配,得到匹配结果。
进一步,所述生成针对所述形变区域的匹配结果包括:
获取预生成的所述形变区域依次发生单位形变量后的模板图像组;
针对所述模板图像组进行匹配,得到匹配结果。
进一步,所述初始图像为通过图像传感器采集的向目标物体投射图像后的图像;其中,被投射的所述图像成周期性渐变规律且在一定空间范围内具有唯一性,或在一定空间范围内具有唯一性。
本发明第二方面提供一种姿态识别方法,所述姿态识别方法包括:
第一方面任一项所述图像匹配方法;及
根据所述匹配结果,生成目标物体的姿态信息。
本发明第三方面提供一种3D成像方法,所述3D成像方法包括:
第一方面任一项所述图像匹配方法;及
根据所述匹配结果,生成目标物体的3D图像。
本发明第四方面提供一种图像匹配装置,所述图像匹配装置包括:
图像获取模块,获取初始图像;
图像匹配模块,用于检测所述初始图像中的形变区域和/或非形变区域,生成针对所述形变区域的匹配结果和/或生成针对所述非形变区域的匹配结果。
本发明第五方面提供一种姿态识别装置,所述姿态识别装置包括:
第四方面所述的图像匹配装置;及
姿态生成模块,用于根据所述匹配结果,生成目标物体的姿态信息。
本发明第六方面提供一种3D成像装置,所述3D成像装置包括:
第四方面所述的图像匹配装置;及
图像生成模块,用于根据所述匹配结果,生成目标物体的3D图像。
本发明第七方面提供一种系统,所述系统包括:图像投射器、图像传感器和控制单元;
所述图像投射器,用于向目标物体投射图像;
所述图像传感器,用于采集被投射所述图像后的所述目标物体的初始图像;
所述控制单元,用于实现第一方面所述的图像匹配方法;第二方面所述的姿态识别方法;和/或第三方面所述的3D成像方法的步骤。
本发明第八方面提供一种计算机设备,所述计算机设备包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现第一方面所述的图像匹配方法;第二方面所述的姿态识别方法;和/或第三方面所述的3D成像方法的步骤。
本发明第九方面提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现第一方面所述的图像匹配方法;第二方面所述的姿态识别方法;和/或第三方面所述的3D成像方法的步骤。
通过首先检测出初始图像中的形变区域和/或非形变区域,再针对检测出的形变区域和/或非形变区域采用对应的方式进行匹配;使得目标物体在各种相对基准面发生变化的情况下,仍能够获得精确的图像匹配结果。
附图说明
为了更清楚地说明本发明实施例技术方案,下面将对实施例和现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1A为本发明提供的系统的实施例的第一结构示意图;图1B为本发明提供的系统的实施例的第二结构示意图;图1C为本发明提供的系统的实施例的第三结构示意图;
图2为本发明提供的图像匹配方法的实施例的流程示意图;
图3为本发明提供的检测初始图像中的形变区域和/或非形变区域的实施例的第一流程示意图;
图4为本发明提供的检测初始图像中的形变区域和/或非形变区域的实施例的第二流程示意图;
图5为本发明提供的生成针对形变区域的匹配结果的实施例的第一流程示意图;
图6为本发明提供的生成针对形变区域的匹配结果的实施例的第二流程示意图;
图7为本发明提供的生成针对形变区域的匹配结果的实施例的第三流程示意图;
图8为本发明提供的基于图像特征,检测当前图像块为当前形变图像块或当前非形变图像块的实施例的第一流程示意图;
图9为本发明提供的基于图像特征,检测当前图像块为当前形变图像块或当前非形变图像块的实施例的第二流程示意图;
图10为本发明提供的转换形变区域为基准图像的实施例的第一流程示意图;
图11为本发明提供的转换形变区域为基准图像的实施例的第二流程示意图;
图12为本发明提供的转换形变区域为基准图像的实施例的第三流程示意图;
图13为本发明提供的3D成像的实施例的流程示意图;
图14为本发明提供的姿态识别方法的实施例的流程示意图;
图15为本发明提供的匹配装置的实施例的第一结构框图;
图16为本发明提供的匹配装置的实施例的第二结构框图;
图17为本发明提供的匹配装置的实施例的第三结构框图;
图18为本发明提供的匹配装置的实施例的第四结构框图;
图19为本发明提供的匹配装置的实施例的第五结构框图;
图20为本发明提供的匹配装置的实施例的第六结构框图;
图21为本发明提供的姿态识别装置的实施例的结构框图;
图22为本发明提供的3D成像装置的实施例的结构框图;
图23为本发明提供的计算机设备的实施例的结构框图;
图24为本发明提供的图像转换的实施例的示意图;
图25A为本发明提供的初始图像的实施例的第一示意图;图25B为本发明提供的初始图像的实施例的第二示意图;图25C为本发明提供的初始图像的实施例的第三示意图;图25D为本发明提供的初始图像的实施例的第四示意图;
图26A为本发明提供的当前预处理图像块的实施例的示意图;图26B为本发明提供的转换后的当前预处理图像块的实施例的示意图;图26C为本发明提供的截取后的当前图像块的示意图;
图27为本发明提供的检测形变区域的方法产生的中间结果示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。
如图1A、1B或1C所示,本发明实施例提供一种系统,该系统包括图像传感器11、图像投射器12和控制单元13;
图像投射器12,用于向目标物体投射图像。
在一个实施例中,图像投射器12,可以用于向目标物体投射成周期性渐变规律且在一定空间范围内具有唯一性的图像,具体的,可以参照在先申请的专利(公开号CN107241592A)中所述。
在一个实施例中,周期性渐变规律可以包括但不限于周期性变化的正弦波(或者余弦波等等)条纹。具体的,所述正弦波并不一定完全符合正弦波标准,也可以为接近正弦的条纹。比如:不完全规则的正弦条纹,或者成线性变化的正弦条纹(也称作三角波)。
其中,在一定空间范围内具有唯一性是指以某一规格图像框在图像中任意区域移动,该图像框内对应区域内的图像始终保持唯一。比如:具有散乱图案的正弦波条纹。
在另一个实施例中,图像投射器12,也可以用于向目标物体投射在一定空间范围内具有唯一性的图像,比如:散乱的图案。
需要说明的是,图像投射器12除了投射上述列举的两种图像之外,还可以投射其它可满足后续匹配需要的任意图像。
具体的,图像投射器12可以为投影仪或激光投射器等等现在已有或将来开发的可以投射上述图像的图像投射器。
图像传感器11,用于采集被投射图像后的目标物体的初始图像。
图像传感器11将采集后的初始图像发送给控制单元13、存储器或服务器等等。
具体的,图像传感器11可以但不限于是:照相机、摄像机、扫描仪或其他带有相关功能的设备(手机、电脑等)等等。
图像传感器11可以为一组(如图1A、1B所示)或者为围绕目标物体设置的多组(如图1C所示);其中,每组图像传感器可以包括1个图像传感器(如图1A所示),2个图像传感器(如图1B、1C所示),或者2个以上图像传感器(省略附图)。
图像传感器11可以相对目标物体固定设置,或者相对目标物体可运动设置,本具体实施例中不作限定。
控制单元13通过有线或者无线的方式分别通信连接图像投射器11和图像传感器12,与图像投射器11和图像传感器12进行通信。无线方式可以包括但不限于是:3G/4G、WIFI、蓝牙、WiMAX、Zigbee、UWB(ultra wideband),以及其它现在已有或将来开发的无线连接方式。
控制单元13可以是独立的计算设备的一部分;也可以是图像投射器11的一部分;和/或是图像传感器12的一部分,在本具体实施例中,为方便说明,控制单元13以单独的部件展示。
关于控制单元13的具体限定参见下文中有关图像匹配、3D成像和/或姿态识别方法的限定。控制单元可以为可编程逻辑控制器(Programmable Logic Controller,PLC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、计算机(Personal Computer,PC)、工业控制计算机(Industrial Personal Computer,IPC)、智能手机、平板电脑或服务器等等。控制单元根据预先固定的程序,结合人工输入的信息、参数或者外部图像传感器采集的数据等生成程序指令。
如图2所示,在一个实施例中,本发明提供一种图像匹配方法,以该方法应用于上面实施例所述的系统中为例,该图像匹配方法包括如下方法步骤:
步骤S110获取初始图像;
步骤S120检测初始图像中的形变区域和/或非形变区域,生成针对形变区域的匹配结果和/或生成针对非形变区域的匹配结果。
通过检测确定初始图像中的形变区域和/或非形变区域,即通过检测确定初始图像可能同时即包括形变区域也包括非形变区域,也可能全部都是形变区域,或全部都是非形变区域。
针对检测到的形变区域和/或非形变区域分别采用各自的方式生成对应的匹配结果。其中,对于非形变区域可以直接对非形变区域采用后面实施例所述的图像的匹配方法进行匹配,而对于形变区域需要对形变区域进行一定的处理(后面实施例会有进一步详细的说明)后,再按照后面实施例所述的图像的匹配方法对应进行匹配。
通过检测出初始图像中的形变区域和/或非形变区域,再针对检测出的形变区域和/或非形变区域采用对应的方式进行匹配;使得目标物体在各种相对基准面发生变化的情况下,仍能够获得精确的图像匹配结果。
为方便理解,下面对上述方法步骤进行进一步详细描述。
步骤S110获取初始图像;
获取图像传感器实时采集并发送的目标物体被投射图像后的初始图像,或者从存储器或者服务器获取上述初始图像或者对图像传感器实时采集并发送的初始图像经过某些处理(比如:裁剪、亮度归一化等等)后形成的初始图像。
在一个实施例中,如图1A所示,根据上面实施例所述,可以设置一组图像传感器,每组图像传感器包括1个图像传感器,初始图像为一张,预先存储一系列不同距离下通过图像传感器采集的被投射图像后的目标物体的参考图像,后续将初始图像与一系列参考图像进行匹配。
在一个实施例中,如图1B所示,根据上面所述,可以设置一组图像传感器,每组图像传感器包括2个图像传感器11,每组初始图像包括第一初始图像和第二初始图像两张。
在一个实施例中,如图1C所示,根据上面所述,设置N组图像传感器,其中,N为大于等于2的整数,每组图像为2个图像传感器11组成,即每组初始图像包括第一初始图像和第二初始图像两张。
当图像传感器相对目标物体位置固定时,由于单组图像传感器受到视野的限制,可能无法同时完成整个目标物体的图像的采集,因此需要通过多组彼此进行标定的图像传感器分别采集初始图像,然后再根据需要进行拼接。
具体的,可以采用各种现在已有或将来开发的图像拼接方法,比如:基于特征相关的拼接和基于区域相关的拼接。
在一个实施例中,基于区域的拼接方法可以从待拼接图像的灰度值出发,对待拼接图像中的一块区域与参考图像中的相同尺寸的区域使用最小二乘法等其它方法计算其灰度值的差异,对差异比较来判断待拼接图像重叠区域的相似度,从而得到拼接图像重叠区域的范围和位置,进而实现图像拼接。
在一个实施例中,基于特征相关的拼接是通过像素导出图像的特征,然后以图像特征为标准,对重叠部分的对应特征区域进行搜索匹配。
具体的,每组初始图像根据图像传感器数量的不同而不同,图像传感器可以为大于等于1的任意个,由于超过2个的图像传感器成像方式同样为其中任意2个的组合,即其成像方法是2个图像传感器下对应的成像方法的重复,因此本具体实施例只以单组图像传感器,且该组图像传感器包括1个图像传感器或2个图像传感器的情况为例进行说明。
步骤S120检测初始图像中的形变区域和/或非形变区域,分别生成针对非形变区域的匹配结果和/或生成针对形变区域的匹配结果。
其中,形变区域是指初始图像中的某些与基准图像不一致的区域。该形变区域是由于目标物体(1个图像传感器为例)或目标物体上的部分表面(2个图像传感器为例)相对基准面(以2个图像传感器为例,基准面可以指平行于图像传感器的芯片的面;以1个图像传感器为例,基准面可以指平行于拍摄参考图像时沿目标物体上,比如:中心设置的面)发生偏转、弯曲等等变化,从而使得通过图像传感器采集到的该部分图像相对基准图像(以2个图像传感器为例,基准图像是指在目标物体的表面平行于图像传感器的芯片的情况下采集的图像;以1个图像传感器为例,基准图像是指参考图像)发生形变。具体的,不一致可以表现为:形变区域相对基准图像发生偏转、拉伸、压缩、和/或弯曲等等。比如:以基准图像中包括正弦波特征部分为例,形变区域的正弦波图像相对基准图像中的正弦波发生左2偏转(如图25A所示)、右偏转(如图25B所示)、拉伸(如图25C所示)、压缩(如图25D所示)、或弯曲(省略附图)等等情况。
其中,非形变区域是指初始图像中与基准图像一致的区域。
具体的,图像的匹配方法可以包括但不限于如下方法步骤:
在一个实施例中,以2个图像传感器为例,匹配是在两张初始图像之间进行的。具体的,该初始图像包括第一初始图像和第二初始图像,在计算两幅图像像素点之间对应关系的时候,通常会以被匹配的像素点为中心设定一个固定大小的图像框,做图像框中的图像块的匹配。第一初始图像中的一个n*n的图像块,会沿两个图像传感器的极线方向,跟第二初始图像中的N个同样大小的图像块做对比(N是两幅图片视差的一个搜索范围)。在一个实施例中,对比的方法是计算两个图像块相对应像素点的亮度差的绝对值,再对这个绝对值求和,得出一个匹配分数。由此可以得出N个匹配分数,可以求得这N个匹配分数中的最小值,则此最小值所对应的第二初始图像中的像素点与第一初始图像中的被匹配的像素点相对应,依次类推,从而得到两个图像中相互对应的多个像素点的匹配结果。
在一个实施例中,以1个图像传感器为例,上面实施例是对第一初始图像和第二初始图像之间进行匹配,而在1个图像传感器的实施例中,是将单张的初始图像与参考图像进行匹配,具体的匹配方法可以参见上面实施例所述,在此不再赘述。
如图3所示,在一个实施例中,上述步骤S120中“检测初始图像中的形变区域和/或非形变区域”可以包括如下方法步骤:
步骤S121获取初始图像中的当前图像块;
根据上面实施例所述,当前图像块为进行当前匹配的图像块。
步骤S123基于当前图像块的图像特征,检测当前图像块为当前形变图像块或当前非形变图像块;
具体的,初始图像包括形变区域和/或非形变区域。
其中,形变区域是指当前形变图像块的集合;而非形变区域是指当前非形变图像块的集合。
根据上面实施例所述,由于投射在目标物体表面的图像具有某些特征,可以通过判断这些特征是否发生形变,从而检测出形变区域,进而把此形变区域转换到对应基准面时生成的图像。
比如,根据上面实施例所述,该图像包括成正弦渐变规律的条纹的特征部分,该正弦条纹在平行于基准面的情况下,横向X为多个周期的重复变化,纵向Y对齐,即成竖直状态。当发生形变时,该条纹在横向X上的周期可能发生拉伸或压缩,和/或纵向Y方向可能发生倾斜,则可以通过图像中这些特征部分的变化来判断当前图像块是否发生形变。
有关检测当前图像块为当前形变图像块或当前非形变图像块的方法,后面实施例会有进一步详细的说明。
如图4所示,在一个实施例中,上述步骤S120中“检测初始图像中的形变区域和/或非形变区域”可以包括如下方法步骤:
步骤S122获取初始图像中的当前图像块;
步骤S124匹配当前图像块;判断是否能够生成匹配结果;
步骤S126若否,以当前图像块为当前形变图像块;
步骤S128若是,以当前图像块为当前非形变图像块。
具体的,以2个图像传感器为例,根据上面实施例步骤S120中所述的图像的匹配方法,将预设大小的图像框沿初始图像(比如:第一初始图像)依次移动单位量(比如:一个像素),以截取多个图像块分别进行匹配;每次进行当前图像块的匹配时,由于该当前图像块的图像发生形变时,同一目标会产生不同步的形变(比如:第一初始图像的形变区域产生拉伸变形,而第二初始图像的对应的相同形变区域则产生压缩变形),从而导致当前图像块无法完成良好的匹配,因此无法完成匹配的当前图像块即可以视为当前形变图像块,而可以完成匹配的当前图像块即为当前非形变图像块,则多个当前形变图像块的集合为形变区域,多个当前非形变图像块的集合为非形变区域。
同理,当为1个图像传感器时,当实际中的目标物体与拍摄参考图像的目标物体位置发生倾斜等等变化时,从而也会使得实际获取的初始图像相对基准图像(即参考图像)发生形变,从而难以完成良好的匹配。需要说明的是,通常在这种情况下,由于目标物体整体相对参考面发生倾斜等变化,因此整个对应目标物体的图像区域都为形变区域。
需要说明的是,对于当前非形变图像块的匹配结果在步骤S124中“匹配当前图像块”的过程中已经生成。
具体的,上述步骤S120中“生成针对形变区域的匹配结果”可以通过但不限于如下方法步骤实现:
如图5所示,在一个实施例中,步骤S120中“生成针对形变区域的匹配结果”可以包括如下方法步骤:
步骤S221获取形变区域;
具体的,根据上面实施例所述,形变区域可以为多个当前形变图像块的集合,因此可以获取当前形变图像块,后面步骤S222可以转换当前形变图像块为当前基准图像块。
步骤S222转换形变区域为基准图像;
有关转换形变区域为基准图像的方法,后面实施例会有进一步详细的说明。
步骤S223针对基准图像进行匹配,得到针对形变区域的匹配结果。
则将形变区域用基准图像进行代替,针对基准图像进行匹配。有关匹配方法,参见上面实施例中的图像匹配方法中的相关描述,在此不再赘述。
如图6所,示,在一个实施例中,步骤S120中“生成针对形变区域的匹配结果”可以包括如下方法步骤:
步骤S321获取预生成的形变区域依次发生单位形变量后的模板图像组;
在一个实施例中,模板图像组可以为预先生成的,该当前形变图像块依次发生至少一个单位变形量后得到的图像模板组。在一个实施例中,为针对每个当前图像块进行匹配,对应每个当前图像块预先生成当前模板图像组。
具体的,各个模板的大小与图像块相对应;
具体的,比如,以目标物体的表面相对基准面发生偏转的偏转角度为形变量为例,比如:我们需计算的平面倾斜角在X轴:-60度到+60度,Y轴:-60度到+60度,每20度为一个单位,则采样角度为:-60、-40、-20、0、20、40、60,共7种情况,则XY倾斜情况共7*7=49个模板。需要说明的是,除以20度为偏转单位外,可以根据需要设定任意角度的偏转单位,偏转单位越小匹配精度越高,但需要匹配的次数越多,因此对时间或硬件的成本要求会更高。
在一个实施例中,可以根据偏转单位,结合图像投射器和图像传感器的空间位置转换信息预先生成模板图像;也可以根据下面图11所示的实施例中的拟合函数的方法,生成对应的模板图像。
步骤S322针对模板图像组进行匹配,得到匹配结果。
为方便理解,下面以针对第一初始图像和第二初始图像进行匹配为例进一步详细说明,比如:依次获取第一初始图像中的当前图像块对应的模板图像(比如:依次为偏转-60、-40、-20、0、20、40、60后的模板图像),则对应第二初始图像的位于同一极线上,可以包括多个待匹配图像块,分别计算各个模板图像与第二初始图像中的待匹配的图像块之间的灰度差的绝对值之和,则对应灰度差的绝对值之和最小的第二初始图像的待匹配图像块与第一初始图像的当前图像块为匹配图像块,因此两个匹配图像块对应的像素点为匹配像素点,从而得到匹配结果。
需要说明的是,当只包括一张初始图像时,可以按照上面实施例所述的方法对初始图像和参考图像进行匹配,此时,可以将参考图像看做第二初始图像,从而生成匹配结果。
在一个实施例中,可以根据偏转单位,结合图像投射器和图像传感器的空间位置转换信息预先生成模板图像组;也可以根据下面图11所示的实施例中的拟合函数的方法,生成对应的模板图像组。
如图7所示,在一个实施例中,步骤S120中“生成针对形变区域的匹配结果”可以包括如下方法步骤:
步骤S421依次生成形变区域发生单位形变量后的图像组;
步骤S422针对图像组进行匹配,得到匹配结果。
在一个实施例中,以2个图像传感器为例,依次获取第一初始图像中的当前图像块偏转单位角度后形成的形变图像块组与第二初始图像中位于同一极线上的多个待匹配图像块进行匹配,分别计算各个形变图像块与第二初始图像中的待匹配的图像块之间的灰度差的绝对值之和,则对应灰度差的绝对值之和最小的第二初始图像的待匹配图像块与第一初始图像的当前图像块为匹配图像块,因此两个匹配图像块对应的像素点为匹配像素点,从而得到匹配结果。相关的其它描述,可以参照上面实施例中模板图像的匹配方法,在此不再赘述。
在一个实施例中,可以根据偏转单位,结合图像投射器和图像传感器的空间位置转换信息生成发生单位形变量后的图像组;也可以根据下面图9所示的实施例中的拟合函数的方法,生成对应的图像组。
具体的,步骤S123基于当前图像块的图像特征,检测当前图像块为当前形变图像块或当前非形变图像块可以通过但不限于如下方法步骤实现:
如图8所示,在一个实施例中,步骤S123可以包括如下方法步骤:
S1231获取当前图像块;
具体的,根据上面所述,可以将图像框在初始图像上沿图像传感器的极线方向移动,每次移动一个单位,则图像框对应的初始图像上的当前图像为当前图像块。
在一个实施例中,根据后面实施例所述,当需要基于该检测方法进一步将当前形变图像块转换为基准图像时,由于转换后的当前形变图像块的边缘可能会存在空白部分(如图26B所示),为保证转换后的当前图像块内容的完整性,通常需要获取一张比实际需要的匹配的图像块的尺寸更大的当前图像块(如图26A所示),后续再对转换后的图像进行裁剪,从而得到完整的转换为基准图像后的当前形变图像块(如图26C所示)。
S1233提取当前图像块的每行中的最值像素点(比如:灰度值最高点);
具体的,根据上面实施例所述,以图像中包括正弦波图像为例,由于成渐变规律,因此,如果没有发生形变时,每个正弦波的波峰或者波谷应该位于同一基准线上,则位于波峰或者波谷处的像素点为最值像素点,比如:灰度值最高或最低。
S1235拟合每行中的最值像素点,得到当前图像块的当前拟合线;
将每行中的最值点拟合成一条线(如图27所示),目标物体的两个面分别可以得到线L1和L2。
S1237检测当前拟合线相对基准线的当前图像形变量;
检测L1和L2,其中,L1相对基准线发生偏移,而L2未发生偏移。
S1239根据当前图像形变量,检测当前图像块为当前形变图像块或当前非形变图像块。
在一个实施例中,可以判断形变量是否大于或大于等于某一阈值;若是,当前图像块为形变图像块;若否,当前图像块为非形变图像块。
理论上,未发生形变时,则拟合线与基准线的形变量为零,但由于各种误差的存在,因此,往往不能准确表现为零,因此可以预先设定一个阈值,若形变量小于等于或小于该阈值时(在一个实施例中,该阈值也可以为理论值零),则认为当前图像块为当前非形变图像块;若大于或大于等于某一阈值时,则判断当前图像块为当前形变图像块,该拟合线相对基准线的形变量为当前图像块的当前图像形变量。
如图9所示,在一个实施例中,步骤S123可以包括如下方法步骤:
S1232获取当前图像块;
同理,根据上面实施例所述,在一个实施例中,为保证转换后的当前图像块内容的完整性,通常需要获取一张比实际需要的匹配的图像块的尺寸更大的当前图像块。
S1234对当前图像块进行拟合,得到拟合函数;
在一个实施例中,对当前图像块进行拟合,得到拟合函数,以图像包括成周期性正弦变化条纹为例,该拟合函数可以为:Z=Asin(BX+CY+D)+E;设当前初始图像块内某个像素点的像素值强度为Z,横坐标为X,纵坐标为Y;其中,A为正弦函数的振幅;360/B为该函数明暗变化的周期(单位:个像素),C代表该像素点在Y方向上的倾斜程度,当未发生形变时,C为0,在Y方向上,上方每一行图像相对于下方每一行图像沿横向X正方向平移C/B个像素,倾斜角度为arccotangent(C/B);D为该函数在横向X方向的平移量;E为函数在Z方向的平移量;其中,A、D和E为固定值。
S1236根据拟合函数,检测当前图像块为形变图像块或非形变图像块。
根据上面实施例所述,C代表该像素点在Y方向上的倾斜程度,当未发生形变时,C为0;
另外,由该拟合函数可以知道arccotangent(C/B)为该当前形变图像块的图像形变量。在一个实施例中,可以判断该图像形变量是否大于或大于等于某一阈值;若是,当前图像块为形变图像块;若否,则当前图像块为非形变图像块。
具体的,步骤S222转换形变区域为基准图像可以通过但不限于如下方法步骤实现:
如图10所示,在一个实施例中,步骤S222可以包括如下方法步骤:
步骤S2221获取当前形变图像块;
步骤S2222提取当前形变图像块的每行中的最值像素点;
步骤S2223拟合每行中的最值像素点,得到当前图像块的当前拟合线;
步骤S2224检测当前拟合线相对基准线的当前图像形变量;
需要说明的是,当上述步骤S2221-步骤S2224中的方法步骤的详细描述,可以参见上面实施例中步骤S123的步骤S1231-步骤S1237的描述。另外,在一个实施例中,当步骤S123包括上述步骤S1231-步骤S1237时,则此处的步骤S2221-步骤S2224可以省略。
步骤S2225基于当前图像形变量,转换当前形变图像块为当前基准图像块。
如图11所示,在一个实施例中,步骤S222可以包括如下方法步骤:
步骤S2231获取当前图像块;
步骤S2232对当前图像块进行拟合,得到当前拟合函数;
需要说明的是,当上述步骤S2231-步骤S2232中的方法步骤的详细描述,可以参见上面实施例中步骤S1232-步骤S1234的描述。另外,在一个实施例中,当步骤S123包括了上述步骤S1232-步骤S1234时,则此处的步骤S2231-步骤S2232可以省略。
步骤S2233基于当前拟合函数,转换当前形变图像块为当前基准图像块;
可以基于该拟合函数转换形变区域,即使得该形变区域周期为基准周期,图像的C为0,从而得到转换后的形变区域。
为方便理解,下面以一个具体实例对上述方法进一步详细说明。
假设需要获取的图像块的尺寸为(宽度W:33,高度H:33),由于转换后的图像边缘会存在空白(如图26B所示),为保证图像块内容的完整性,通常需要截取一张比该图像块的尺寸更大的初始图像块,比如,如图26A所示,选取一个更宽的区域作为初始图像块(W:63,H:33),其中该初始图像块的中心形成一个矩形框,该矩形框的尺寸对应图像块的尺寸(W:33,H:33);除此之外,该初始图像块也可以为任意其它的尺寸,只要保证大于预设的图像块的尺寸,并保证转换后的图像块中的内容完整即可。
具体的,先以矩形框为中心,根据上面的拟合函数,对初始图像块进行三维曲线的拟合。
拟合出来的函数为:Z=55.24×sin(20.73×X-4.07×Y+159.58)+97.85。
假设基准图像的参数为:B=20,C=0,基准图像的周期为360/20(单位:个像素);而根据上面函数,B=20.73,则需要转换的初始图像的周期为360/20.73(单位:个像素),即初始图像沿横向X发生了压缩形变,所以需要对初始图像进行横向X的拉伸,拉伸系数为:20.73/20=1.0365。另外,由于基准图像的C=0,所以还需要对拉伸后的图像进行倾斜变换,变换方法为:由于图像的高度H:33,则取中间行(即第17行)不做变换,以中间行17作为0点基准,设其他行数为i,第i行沿着X轴正方向平移-(i-17)*(C/B)个像素,遍历所有行之后,完成变换。比如:
第18行整体沿X轴正方向平移-(18-17)*C/B=-C/B,即4.07/20=0.2035个像素,第19行整体沿X轴正方向平移-2×C/B=0.47个像素等等。完成以上两个变化之后,该初始图像完成转换,转换后的初始图像变成如图26B所示。
进一步,截取位于变形后的初始图像的中间的矩形框(W:33,H:33)内的区域为该转换后的图像块,截取后的转换图像块如图26C所示。
如图12所示,在一个实施例中,步骤S222可以包括如下方法步骤:
步骤S2241获取当前形变图像块;
步骤S2242基于当前形变图像块,生成目标物的当前形变量;
步骤S2243基于当前形变量,转换当前形变图像块为当前基准图像块;
比如,如图24所示,以空间相对第一图像传感器111和第二图像传感器112偏转的某一斜面L上某点A为例,为简化说明,只以点A与第一图像传感器111为例进行说明。根据预先的标定结果,根据初始图像可以获取图像中A点对应的在图像传感器坐标系下的实际空间位置坐标;根据点A相对基准面L’的形变量(比如:该形变量可以根据上面实施例得到的图像形变量,基于图像传感器的标定结果转换得到;或者基于上面实施例所述的模板图像组对应得到),则可以求取该点A沿图像投射器12的投射图像的方向对应的投射在基准面O的虚拟点A’在图像传感器坐标系下的位置坐标,根据第一、第二图像传感器坐标系和第一、第二图像坐标系的转换,可以求得位置A’分别在第一、第二图像坐标系下的坐标,依此类推,可以获取变形区域修正后的图像。
在一个实施例中,步骤S222可以根据傅里叶变换,从而将形变区域转换为基准图像。
如图13所示,在一个实施例中,还提供一种3D成像方法,该3D成像方法包括上面实施例所述的匹配方法,还包括步骤:
S130根据匹配结果,生成目标物体的3D图像。
根据匹配的结果,每个匹配点对基于三角测量的算法或者基于对应的参考图像,可以得到该匹配点对在三维空间范围内的对应点的姿态信息,基于匹配结果包括的多个匹配点对,即可以绘制该物体在三维空间的3D图像。
具体的,姿态信息可以为针对目标物的预设坐标系的3d坐标,刚体在3维空间的运动可以用3d坐标(共6个自由度)描述,具体的,可以分为旋转和平移,各为3个自由度。刚体在3维空间的平移是普通的线性变换,可以使用一个3x1的向量描述平移位置;而旋转位姿常用的描述方式包括但不限于:旋转矩阵、旋转向量、四元数、欧拉角和李代数。
如图14所示,在一个实施例中,还提供一种姿态识别方法,该姿态识别方法包括上面实施例所述的匹配方法,还包括步骤:
S140根据匹配结果,生成目标物体的姿态识别结果。
根据匹配的结果,每个匹配点对基于三角测量的算法或者基于对应的参考图像,可以得到该匹配点对在三维空间范围内的对应点的姿态信息,基于一个或者多个三维空间点的姿态信息从而得到目标物体的姿态识别结果。具体的,该目标物体的姿态识别结果可以是代表整个物体的位姿态信息或目标物体关联的某个目标位置(比如:该目标位置可以位于目标物体上或者目标物体的包括框上)的姿态信息。
或者根据上面实施例得到的点云图,基于Linemod的方法,从而得到目标物体的姿态信息。其中Linemod的方法是指预先基于目标物体的3D模型(比如:CAD模型)存储在多个角度下对应的点云图,将上面实施例得到的点云图像与图像库中的图像进行匹配,从而确定目标物体的姿态信息。
应该理解的是,虽然图1-14的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图1-14中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
如图15所示,在一个实施例中,提供一种图像匹配装置,该图像匹配装置包括:
图像获取模块110,用于获取初始图像;
结果生成模块120,用于检测所述初始图像中的形变区域和/或非形变区域,生成针对所述形变区域的匹配结果和/或生成针对所述非形变区域的匹配结果。
如图16所示,在一个实施例中,上述结果生成模块120包括:
图像获取单元121,用于获取所述初始图像中的当前图像块;
图像检测单元123,用于基于所述当前图像块的图像特征,检测所述当前图像块为当前形变图像块或当前非形变图像块;
如图17所示,在一个实施例中,上述结果生成模块120包括:
图像获取单元122,用于获取所述初始图像中的当前图像块;
图像匹配单元124,用于匹配所述当前图像块,结果判断单元126,用于判断是否能够生成匹配结果;
图像确定单元128,用于若否,所述当前图像块为当前形变图像块;若是,所述当前图像块为当前非形变图像块。
如图18所示,在一个实施例中,上述结果生成模块120包括:
形变获取单元221,用于获取所述形变区域;
形变转换单元222,用于转换所述形变区域为基准图像;
基准匹配单元223,用于针对所述基准图像进行匹配,得到针对所述形变区域的匹配结果。
如图19所示,在一个实施例中,上述结果生成模块120包括:
模板获取单元321,用于获取预生成的形变区域依次发生单位形变量后的模板图像组;
模板匹配单元322,用于针对模板图像组进行匹配,得到匹配结果。
如图20所示,在一个实施例中,上述结果生成模块120包括:
图像生成单元421,用于依次生成形变区域发生单位形变量后的图像组;
图像匹配单元422,用于针对图像组进行匹配,得到匹配结果。
进一步,在一个实施例中,图像检测单元123包括:
图像获取部1231,用于获取当前图像块;
最值提取部1233,用于提取当前图像块的每行中的最值像素点;
最值拟合部1235,用于拟合每行中的最值像素点,得到当前图像块的当前拟合线;
形变检测部1237,用于检测当前拟合线相对基准线的当前图像形变量;
图像检测部1239,用于根据当前图像形变量,检测当前图像块为当前形变图像块或当前非形变图像块。
进一步,在一个实施例中,图像检测单元123包括:
图像获取部1232获取当前图像块;
函数提取部1234对当前图像块进行拟合,得到拟合函数;
图像检测部1236根据拟合函数,检测当前图像块为当前形变图像块或当前非形变图像块。
进一步,在一个实施例中,形变转换单元222包括:
图像获取部2221,用于获取形变区域中的当前形变图像块;
最值提取部2222,用于提取所述当前形变图像块的每行中的最值像素点;
最值拟合部2223,用于拟合所述每行中的所述最值像素点,得到当前拟合线;
形变计算部2224,用于计算当前拟合线相对基准线的当前图像形变量;
图像转换部2225,用于基于当前图像形变量,转换当前形变图像块为当前基准图像块。
进一步,在一个实施例中,形变转换单元222包括:
图像获取部2231,用于获取形变区域中的当前形变图像块;
函数提取部2232,用于对当前形变图像块进行拟合,得到当前拟合函数;
图像转换部2233,用于基于当前拟合函数,转换当前形变图像块为当前基准图像块。
进一步,在一个实施例中,形变转换单元222包括:
图像获取部2241,用于获取形变区域的当前形变图像块;
形变生成部2242,用于基于当前形变图像块,生成目标物的当前形变量;
图像转换部2243,用于基于当前形变量,转换当前形变图像块为当前基准图像块。
进一步,在一个实施例中,形变转换单元222包括:
图像转换部2251,用于基于傅里叶变换转换形变区域为基准图像。
如图21所示,在一个实施例中,提供一种姿态识别装置,该姿态识别装置包括:
上述图像匹配装置;及
姿态生成模块130,用于根据匹配结果,生成目标物体的姿态信息。
如图22所示,在一个实施例中,提供一种3D成像装置,该3D成像装置包括:
上述图像匹配模块;及
3D成像模块140,用于根据匹配结果,生成目标物体的3D图像。
关于上述图像匹配装置、3D成像装置、姿态识别装置的具体限定可以分别参见上文中对于图像匹配方法、3D成像方法、姿态识别方法的限定,在此不再赘述。上述各个装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在另一些实施例中,还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上面实施例中所述的图像匹配方法、3D成像方法、和/或姿态识别方法的步骤。
有关图像匹配方法、3D成像方法、和/或姿态识别方法的描述参见上面的实施例,在此不再重复赘述。
如图23所示,在另一些实施例中,还提供一种计算机设备,所述计算机设备包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上面实施例中所述的图像匹配方法、3D成像方法、和/或姿态识别方法步骤。
有关图像匹配方法、3D成像方法、和/或姿态识别方法的描述参见上面的实施例,在此不再重复赘述。
以计算机和工业控制计算机为例,工业控制计算机具有重要的计算机属性和特征,因此它们都具有计算机中央处理单元(Central Processing Unit,CPU)、硬盘、内存等内部存储器,还具有插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(SecureDigital,SD)卡,闪存卡(Flash Card)等外部存储器,并有操作系统、控制网络和协议、计算能力、友好的人机界面,是为其他各结构/设备/系统提供可靠、嵌入式、智能化的计算机和工业控制计算机。
示例性的,所述计算机程序可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器中,并由所述处理器执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序在所述控制单元中的执行过程。
所称处理器可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器可以是所述终端内置的存储设备,例如硬盘或内存。所述存储器也可以是所述控制单元的外部存储设备,例如所述控制单元上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器还可以既包括所述控制单元的内部存储单元,也包括外部存储设备。所述存储器用于存储所述计算机程序以及所述终端所需的其他程序和数据。所述存储器还可以用于暂时地存储已经输出或者将要输出的数据。
本领域技术人员可以理解,图23仅仅是计算机设备的示例,并不构成对计算机设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述控制单元还可以包括输入输出设备、网络接入设备、总线等。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的各个装置和方法,可以通过其它的方式实现。例如,以上所描述的各个装置的实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括是电载波信号和电信信号。
当元件被表述“固定在”另一个元件,它可以直接在另一个元件上、或者其间可以存在一个或多个居中的元件、与另一个元件预制成一体。当一个元件被表述“连接”另一个元件,它可以是直接连接到另一个元件、或者其间可以存在一个或多个居中的元件。本说明书使用的术语“垂直的”、“水平的”、“左”、“右”、“内”、“外”以及类似的表述只是为了说明的目的。
除非另有定义,本说明书所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本说明书中在本发明的说明书中所使用的属于只是为了描述具体的实施方式的目的,不是用于限制本发明。
本文术语中“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如:A和/或B,可以表示单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
本发明的权利要求书和说明书及上述附图中的术语“第一”、“第二”、“第三”、“S110”、“S1120”“S130”等等(如果存在)是用来区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外,术语“包括”“具有”以及他们的任何形变,意图在于覆盖不排他的包含。例如:包括了一系列步骤或者模块的过程、方法或系统不必限于清楚地列出的那些步骤或者模块,而是包括没有清楚地列出的或对于这些过程、方法、系统、产品或机器人固有的其它步骤或模块。
需要说明的是,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的结构和模块并不一定是本发明所必须的。
以上对本发明实施例所提供的图像匹配、3D成像及姿态识别方法、装置及系统进行了详细介绍,但以上实施例的说明只是用于帮助理解本发明的方法及其核心思想,不应理解为对本发明的限制。本技术领域的技术人员,依据本发明的思想,在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。
Claims (19)
1.一种图像匹配方法,其特征在于,所述图像匹配方法包括:
获取初始图像;
检测所述初始图像中的形变区域和/或非形变区域,生成针对所述形变区域的匹配结果和/或生成针对所述非形变区域的匹配结果。
2.根据权利要求1所述的图像匹配方法,其特征在于,所述检测所述初始图像中的形变区域和/或非形变区域包括:
获取所述初始图像中的当前图像块;
基于所述当前图像块的图像特征,检测所述当前图像块为当前形变图像块或当前非形变图像块;其中,所述非形变区域为所述当前非形变图像块的集合;所述形变区域为所述当前形变图像块的集合。
3.根据权利要求1所述的图像匹配方法,其特征在于,所述检测所述初始图像中的形变区域和/或非形变区域包括:
获取所述初始图像中的当前图像块;
匹配所述当前图像块,判断是否能够生成匹配结果;
若否,所述当前图像块为当前形变图像块;若是,所述当前图像块为当前非形变图像块;其中,所述非形变区域为所述当前非形变图像块的集合;所述形变区域为所述当前形变图像块的集合。
4.根据权利要求1或2或3所述的图像匹配方法,其特征在于,所述生成针对所述形变区域的匹配结果包括:
获取所述形变区域;
转换所述形变区域为基准图像;
针对所述基准图像进行匹配,得到针对所述形变区域的匹配结果。
5.根据权利要求4所述的图像匹配方法,其特征在于,所述转换所述形变区域为基准图像包括:
获取所述形变区域中的当前形变图像块;
提取所述当前形变图像块的每行中的最值像素点;
拟合所述每行中的所述最值像素点,得到拟合线;
计算所述拟合线相对基准线的图像形变量;
基于所述图像形变量,转换所述当前形变图像块为当前基准图像块。
6.根据权利要求4所述的图像匹配方法,其特征在于,所述转换所述形变区域为基准图像包括:
基于傅里叶变换转换所述形变区域为基准图像。
7.根据权利要求4所述的图像匹配方法,其特征在于,所述转换所述形变区域为基准图像包括:
获取所述形变区域中的当前形变图像块;
对所述当前形变图像块进行拟合,得到拟合函数;
基于所述拟合函数,转换所述当前形变图像块为当前基准图像块。
8.根据权利要求4所述的图像匹配方法,其特征在于,所述转换所述形变区域为基准图像包括:
获取所述形变区域的当前形变图像块;
基于所述当前形变图像块,生成目标物的形变量;
基于所述形变量,转换所述当前形变图像块为当前基准图像块。
9.根据权利要求1或2或3所述的图像匹配方法,其特征在于,所述生成针对所述形变区域的匹配结果包括:
依次生成所述形变区域发生单位形变量后的图像组;
针对所述图像组进行匹配,得到匹配结果。
10.根据权利要求1或2或3所述的图像匹配方法,其特征在于,所述生成针对所述形变区域的匹配结果包括:
获取预生成的所述形变区域依次发生单位形变量后的模板图像组;
针对所述模板图像组进行匹配,得到匹配结果。
11.根据权利要求1或2或3所述的图像匹配方法,其特征在于,所述初始图像为通过图像传感器采集的向目标物体投射图像后的图像;其中,被投射的所述图像成周期性渐变规律且在一定空间范围内具有唯一性,或在一定空间范围内具有唯一性。
12.一种姿态识别方法,其特征在于,所述姿态识别方法包括:
权利要求1-11任一项所述图像匹配方法;及
根据所述匹配结果,生成目标物体的姿态信息。
13.一种3D成像方法,其特征在于,所述3D成像方法包括:
权利要求1-11任一项所述图像匹配方法;及
根据所述匹配结果,生成目标物体的3D图像。
14.一种图像匹配装置,其特征在于,所述图像匹配装置包括:
图像获取模块,获取初始图像;
图像匹配模块,用于检测所述初始图像中的形变区域和/或非形变区域,生成针对所述形变区域的匹配结果和/或生成针对所述非形变区域的匹配结果。
15.一种姿态识别装置,其特征在于,所述姿态识别装置包括:
权利要求14所述图像匹配装置;及
姿态生成模块,用于根据所述匹配结果,生成目标物体的姿态信息。
16.一种3D成像装置,其特征在于,所述3D成像装置包括:
权利要求14所述图像匹配装置;及
图像生成模块,用于根据所述匹配结果,生成目标物体的3D图像。
17.一种系统,其特征在于,所述系统包括:图像投射器、图像传感器和控制单元;
所述图像投射器,用于向目标物体投射图像;
所述图像传感器,用于采集被投射所述图像后的所述目标物体的初始图像;
所述控制单元,用于实现权利要求1-11任一项所述的图像匹配方法;权利要求12所述的姿态识别方法;和/或权利要求13所述的3D成像方法的步骤。
18.一种计算机设备,所述计算机设备包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1-11任一项所述的图像匹配方法;权利要求12所述的姿态识别方法;和/或权利要求13所述的3D成像方法的步骤。
19.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-11任一项所述的图像匹配方法;权利要求12所述的姿态识别方法;和/或权利要求13所述的3D成像方法的步骤。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910926826.3A CN112581512A (zh) | 2019-09-27 | 2019-09-27 | 图像匹配、3d成像及姿态识别方法、装置及系统 |
PCT/CN2020/115736 WO2021057582A1 (zh) | 2019-09-27 | 2020-09-17 | 图像匹配、3d成像及姿态识别方法、装置及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910926826.3A CN112581512A (zh) | 2019-09-27 | 2019-09-27 | 图像匹配、3d成像及姿态识别方法、装置及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112581512A true CN112581512A (zh) | 2021-03-30 |
Family
ID=75110514
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910926826.3A Pending CN112581512A (zh) | 2019-09-27 | 2019-09-27 | 图像匹配、3d成像及姿态识别方法、装置及系统 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN112581512A (zh) |
WO (1) | WO2021057582A1 (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02116585A (ja) * | 1988-10-25 | 1990-05-01 | Dainippon Printing Co Ltd | 絵柄フィルムの絵柄割付領域決定方法 |
CN101198964A (zh) * | 2005-01-07 | 2008-06-11 | 格斯图尔泰克股份有限公司 | 使用红外图案照射创建对象的三维图像 |
CN105101874A (zh) * | 2013-03-28 | 2015-11-25 | 株式会社资生堂 | 图像解析装置、图像解析方法、以及图像解析程序 |
CN105956997A (zh) * | 2016-04-27 | 2016-09-21 | 腾讯科技(深圳)有限公司 | 图像形变处理的方法和装置 |
US20160350893A1 (en) * | 2015-05-29 | 2016-12-01 | Canon Kabushiki Kaisha | Systems and methods for registration of images |
CN108133492A (zh) * | 2016-12-01 | 2018-06-08 | 京东方科技集团股份有限公司 | 图像匹配方法、装置和系统 |
CN108305218A (zh) * | 2017-12-29 | 2018-07-20 | 努比亚技术有限公司 | 全景图像处理方法、终端及计算机可读存储介质 |
WO2019041794A1 (zh) * | 2017-08-30 | 2019-03-07 | 深圳中科飞测科技有限公司 | 三维测量的畸变校正方法、装置、终端设备及存储介质 |
US20190205641A1 (en) * | 2016-09-14 | 2019-07-04 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Pattern detection |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3331275B2 (ja) * | 1995-05-01 | 2002-10-07 | 日本電信電話株式会社 | 射影パラメータ抽出処理方法 |
EP1385335B1 (en) * | 2002-07-23 | 2009-04-22 | NEC Display Solutions, Ltd. | Image projector with image-feedback control |
EP1546691A1 (en) * | 2002-09-30 | 2005-06-29 | Applied Materials Israel Ltd. | Inspection system with oblique viewing angle |
CN108391145B (zh) * | 2017-02-20 | 2021-07-30 | 南安市耀森智能设备有限公司 | 一种机器人 |
CN110139033B (zh) * | 2019-05-13 | 2020-09-22 | Oppo广东移动通信有限公司 | 拍照控制方法及相关产品 |
-
2019
- 2019-09-27 CN CN201910926826.3A patent/CN112581512A/zh active Pending
-
2020
- 2020-09-17 WO PCT/CN2020/115736 patent/WO2021057582A1/zh active Application Filing
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02116585A (ja) * | 1988-10-25 | 1990-05-01 | Dainippon Printing Co Ltd | 絵柄フィルムの絵柄割付領域決定方法 |
CN101198964A (zh) * | 2005-01-07 | 2008-06-11 | 格斯图尔泰克股份有限公司 | 使用红外图案照射创建对象的三维图像 |
CN105101874A (zh) * | 2013-03-28 | 2015-11-25 | 株式会社资生堂 | 图像解析装置、图像解析方法、以及图像解析程序 |
US20160350893A1 (en) * | 2015-05-29 | 2016-12-01 | Canon Kabushiki Kaisha | Systems and methods for registration of images |
CN105956997A (zh) * | 2016-04-27 | 2016-09-21 | 腾讯科技(深圳)有限公司 | 图像形变处理的方法和装置 |
US20190205641A1 (en) * | 2016-09-14 | 2019-07-04 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Pattern detection |
CN108133492A (zh) * | 2016-12-01 | 2018-06-08 | 京东方科技集团股份有限公司 | 图像匹配方法、装置和系统 |
WO2019041794A1 (zh) * | 2017-08-30 | 2019-03-07 | 深圳中科飞测科技有限公司 | 三维测量的畸变校正方法、装置、终端设备及存储介质 |
CN108305218A (zh) * | 2017-12-29 | 2018-07-20 | 努比亚技术有限公司 | 全景图像处理方法、终端及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2021057582A1 (zh) | 2021-04-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110998659B (zh) | 图像处理系统、图像处理方法、及程序 | |
US11308347B2 (en) | Method of determining a similarity transformation between first and second coordinates of 3D features | |
US9704248B2 (en) | Position and orientation measuring apparatus, information processing apparatus and information processing method | |
CN108381549B (zh) | 一种双目视觉引导机器人快速抓取方法、装置及存储介质 | |
KR100855657B1 (ko) | 단안 줌 카메라를 이용한 이동로봇의 자기위치 추정 시스템및 방법 | |
EP2531979B1 (en) | Depth camera compatibility | |
US20200126246A1 (en) | Method and apparatus for active depth sensing and calibration method thereof | |
CN103824318A (zh) | 一种多摄像头阵列的深度感知方法 | |
JP2004334819A (ja) | ステレオキャリブレーション装置とそれを用いたステレオ画像監視装置 | |
CN101697233A (zh) | 一种基于结构光的三维物体表面重建方法 | |
JP6836561B2 (ja) | 画像処理装置及び画像処理方法 | |
CN110675440B (zh) | 三维深度数据的置信度评估方法、装置和计算机设备 | |
CN110738730B (zh) | 点云匹配方法、装置、计算机设备和存储介质 | |
CN112967339A (zh) | 一种车辆位姿的确定方法、车辆控制方法及装置、车辆 | |
JP6282377B2 (ja) | 3次元形状計測システムおよびその計測方法 | |
CN116129037B (zh) | 视触觉传感器及其三维重建方法、系统、设备及存储介质 | |
KR101673144B1 (ko) | 부분 선형화 기반의 3차원 영상 정합 방법 | |
CN112581512A (zh) | 图像匹配、3d成像及姿态识别方法、装置及系统 | |
JP6867766B2 (ja) | 情報処理装置およびその制御方法、プログラム | |
Kurka et al. | Automatic estimation of camera parameters from a solid calibration box | |
WO2020250348A1 (ja) | 物体認識装置及び物体認識方法 | |
CN106651940B (zh) | 一种用于3d交互的专用处理器 | |
KR102525568B1 (ko) | 반사판을 이용한 원거리 라이다 위치 보정 시스템 및 방법 | |
US20230386077A1 (en) | Position estimation system, position estimation method, and computer program | |
US20230090275A1 (en) | Systems and Methods for Stereo Depth Sensing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |