CN112052847B - 图像处理方法、装置、电子设备和计算机可读存储介质 - Google Patents
图像处理方法、装置、电子设备和计算机可读存储介质 Download PDFInfo
- Publication number
- CN112052847B CN112052847B CN202010825936.3A CN202010825936A CN112052847B CN 112052847 B CN112052847 B CN 112052847B CN 202010825936 A CN202010825936 A CN 202010825936A CN 112052847 B CN112052847 B CN 112052847B
- Authority
- CN
- China
- Prior art keywords
- target
- dimensional
- point
- circle
- center
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 37
- 238000000034 method Methods 0.000 claims abstract description 47
- 238000013507 mapping Methods 0.000 claims description 51
- 238000012545 processing Methods 0.000 claims description 35
- 239000011159 matrix material Substances 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 11
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 claims description 4
- 230000009466 transformation Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 32
- 230000008569 process Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 6
- 238000013459 approach Methods 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000006978 adaptation Effects 0.000 description 2
- 229910003460 diamond Inorganic materials 0.000 description 2
- 239000010432 diamond Substances 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000003252 repetitive effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000010845 search algorithm Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
- G06V20/653—Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
- G06V20/647—Three-dimensional objects by matching two-dimensional images to three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
- G06V10/245—Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/003—Reconstruction from projections, e.g. tomography
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/564—Depth or shape recovery from multiple images from contours
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/06—Recognition of objects for industrial automation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Geometry (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本公开提供一种图像处理方法、装置以及电子设备和计算机可读存储介质,该方法包括:获取目标三维坐标系下的第一目标三维图像;在所述第一目标三维图像中确定目标平面,所述目标平面包括目标三维点;将所述目标三维点投影至所述目标平面所在的目标二维坐标系,获得目标二维点;根据所述目标二维点确定目标多边形和所述目标多边形的最小外接目标图形;将目标多边形与所述最小外接目标图形的面积比大于目标阈值的目标平面识别为所述第一目标三维图像中的第一目标图形,所述第一目标图形与所述最小外接目标图形的形状一致。本公开实施例提供的技术方案可以在第一目标三维图像中准确的识别出第一目标图形。
Description
技术领域
本公开涉及图像处理技术领域,尤其涉及一种图像处理方法、装置、电子设备和计算机可读存储介质。
背景技术
目标识别及定位是人工智能机器视觉领域中非常重要的基础研究。其研究的目标就是通过图像信息、视频信息或者空间信息来对环境进行感知、对环境中的目标进行识别定位。例如对目标流水线中待抓取的目标圆柱体进行图像采集及识别定位,以便目标机械臂对该目标圆柱体进行抓取;再例如对足式机器人待落足的圆形梅花桩进行图像采集及识别,以便在足式机器人移动过程中控制足式机器人的落脚点。
在相关技术中,可能会由于图像采集角度、被拍摄目标的颜色等导致待识别目标及其位置信息不能被准确的识别。因此,一种可以在目标图像中准确的定位目标并获取其空间位置信息的方法是极其具有意义的。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解。
发明内容
本公开实施例提供一种图像处理方法及装置、电子设备和计算机可读存储介质,能够在第一目标三维图像中准确地确定第一目标图形及其位置信息。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
本公开实施例提出一种图像处理方法,该方法包括:获取目标三维坐标系下的第一目标三维图像;在所述第一目标三维图像中确定目标平面,所述目标平面包括目标三维点;将所述目标三维点投影至所述目标平面所在的目标二维坐标系,获得目标二维点;根据所述目标二维点确定目标多边形和所述目标多边形的最小外接目标图形;将目标多边形与所述最小外接目标图形的面积比大于目标阈值的目标平面识别为所述第一目标三维图像中的第一目标图形,所述第一目标图形与所述最小外接目标图形的形状一致。
本公开实施例提供了一种图像处理装置,所述图像处理装置包括:第一目标三维图像获取模块、目标平面获取模块、目标二维点获取模块、最小外接目标图形确定模块以及第一目标图形确定模块。
其中,所述第一目标三维图像获取模块可以配置为获取目标三维坐标系下的第一目标三维图像。所述目标平面获取模块可以配置为在所述第一目标三维图像中确定目标平面,所述目标平面包括目标三维点。所述目标二维点获取模块可以配置为将所述目标三维点投影至所述目标平面所在的目标二维坐标系,获得目标二维点。所述最小外接目标图形确定模块可以配置为根据所述目标二维点确定目标多边形和所述目标多边形的最小外接目标图形。所述第一目标图形确定模块可以配置为将目标多边形与所述最小外接目标图形的面积比大于目标阈值的目标平面识别为所述第一目标三维图像中的第一目标图形,所述第一目标图形与所述最小外接目标图形的形状一致。
在一些实施例中,所述最小外接目标图形为目标最小外接圆,所述第一目标图形为第一目标圆。
在一些实施例中,所述图像处理装置可以包括:第一目标圆心获取单元和第一圆心坐标值获取单元。
其中,所述第一目标圆心获取单元可以配置为获取所述目标最小外接圆在所述目标二维坐标系中的第一目标圆心。所述第一圆心坐标值获取单元可以配置为将所述第一目标圆心映射至所述目标三维坐标系中,获取所述第一目标圆心在所述目标三维坐标系中的目标坐标值,所述目标坐标值是所述第一目标圆的第一圆心坐标值;根据所述第一圆心坐标值与所述第一目标圆的三维轮廓点的坐标值,确定所述第一目标圆的半径。
在一些实施例中,所述第一圆心坐标值获取单元可以包括:三维起始点获取子单元、二维起始点获取子单元、目标距离获取子单元、二维搜索点获取子单元以及目标坐标值获取子单元。
其中,所述三维起始点获取子单元可以配置为在所述目标三维点中确定三维起始点。所述二维起始点获取子单元可以配置为将所述三维起始点映射至所述目标二维坐标系,获得二维起始点。所述目标距离获取子单元可以配置为获得所述二维起始点与所述第一目标圆心之间的目标距离。所述二维搜索点获取子单元可以配置为将与所述三维起始点相邻的目标三维点作为三维搜索点,并将所述三维搜索点映射至所述目标二维坐标系以获得二维搜索点。所述目标坐标值获取子单元可以配置为若各个二维搜索点与所述第一目标圆心之间的距离均大于或者等于所述目标距离,则将所述三维起始点的坐标值作为所述目标坐标值。
在一些实施例中,所述第一圆心坐标值获取单元还可以包括:目标二维搜索点获取子单元、三维起始点更新子单元、二维起始点更新子单元以及三维搜索点更新子单元。
其中,所述目标二维搜索点获取子单元可以配置为若存在与第一目标圆心之间的距离小于所述目标距离的二维搜索点,则在所述二维搜索点中确定与所述第一目标圆心距离最小的目标二维搜索点;所述三维起始点更新子单元可以配置为用所述目标二维搜索点与所述第一目标圆心之间的距离更新所述目标距离,并用所述目标二维搜索点对应的三维搜索点更新所述三维起始点。所述二维起始点更新子单元可以配置为将更新后的所述三维起始点映射至所述目标二维坐标系,更新所述二维起始点。所述三维搜索点更新子单元可以配置为通过与更新后的三维起始点相邻的目标三维点更新所述三维搜索点,并将更新后的三维搜索点映射至所述目标二维坐标系以更新所述二维搜索点。
在一些实施例中,所述目标二维点获取模块可以包括:三维轮廓点确定单元和二维轮廓点确定单元。
其中,所述三维轮廓点确定单元可以配置为在所述目标三维点中确定所述目标平面的目标三维轮廓点。所述二维轮廓点确定单元可以配置为将所述目标三维轮廓点投影至所述目标二维坐标系,获得目标二维轮廓点,以便根据所述目标二维轮廓点确定所述目标多边形。
在一些实施例中,所述图像处理装置还可以包括:第二目标三维图像获取模块、第二目标圆获取模块、第一距离确定模块、第二距离确定模块以及目标圆心坐标值确定模块。
其中,所述第二目标三维图像获取模块可以配置为获取所述目标三维坐标系下的第二目标三维图像,所述第一目标三维图像和所述第二目标三维图像中均包括目标物体,所述目标物体包括目标圆形平面。所述第二目标圆获取模块可以配置为在所述第二目标三维图像中确定第二目标圆以及所述第二目标圆的第二目标圆心的第二圆心坐标值。所述第一距离确定模块可以配置为确定所述第一目标圆心与采集所述第一目标三维图像的图像采集设备之间的第一距离。所述第二距离确定模块可以配置为确定所述第二目标圆心与采集所述第二目标三维图像的图像采集设备之间的第二距离。所述目标圆心坐标值确定模块可以配置为根据所述第一距离、所述第二距离、所述第一目标圆心坐标值以及所述第二目标圆心坐标值,确定所述目标物体的目标圆形平面的目标圆心坐标值。
在一些实施例中,所述图像处理装置还可以包括:半径获取模块和目标半径确定模块。
其中,所述半径获取模块可以配置为确定所述第一目标圆的第一半径和所述第二目标圆的第二半径。所述目标半径确定模块可以配置为根据所述第一距离、所述第二距离、所述第一半径以及所述第二半径,确定所述目标圆形平面的目标半径。
在一些实施例中,所述第一圆心坐标值获取单元可以包括:映射点获取单元、距离获取子单元以及目标坐标值获取子单元。
其中,所述映射点获取单元可以配置为将所述第一目标圆心映射至所述目标三维坐标系中,获得目标映射点以及所述目标映射点的坐标值。所述距离获取子单元可以配置为获取所述目标映射点与所述第一目标圆的各个三维轮廓点的距离。所述目标坐标值获取子单元可以配置为若所述第一目标圆的各个三维轮廓点与所述目标映射点的距离均在目标范围内,则所述圆心映射点的坐标值为所述第一目标圆心在所述目标三维坐标系中的目标坐标值。
在一些实施例中,所述图像处理装置还可以包括:第一法线确定模块、第一半径获取模块以及机器人控制模块。
其中,所述第一法线确定模块可以配置为确定所述第一目标圆的法线。所述第一半径获取模块可以配置为根据所述第一目标圆的目标三维轮廓点和第一目标圆心确定所述第一目标圆的第一半径。所述机器人控制模块可以配置为根据所述第一目标圆的第一圆心坐标值、第一半径以及法线,生成控制信息,所述控制信息用于控制目标机器人的足部中心与所述第一目标圆的第一圆心坐标值重合。
在一些实施例中,所述第一目标三维图像是针对目标圆柱体的目标圆形平面进行采集获得的。
在一些实施例中,所述图像处理装置可以包括:第二法线确定模块、第二半径获取模块以及机械臂控制模块。
其中,所述第二法线确定模块可以配置为确定所述第一目标圆的法线。所述第二半径获取模块可以配置为根据所述第一目标圆的目标三维轮廓点和第一目标圆心确定所述第一目标圆的半径。所述机械臂控制模块可以配置为根据所述第一目标圆的第一圆心坐标值、半径、法线以及所述目标圆柱体的高,控制目标机械臂抓取所述目标圆柱体。
在一些实施例中,所述第一目标三维图像通过目标深度图获得。
在一些实施例中,所述第一目标三维图像获取模块可以包括:目标深度图获取单元、位姿矩阵获取单元以及第一目标三维图像获取单元。
其中,所述目标深度图获取单元可以配置为获取所述目标深度图,所述目标深度图通过第一图像采集设备获得。所述位姿矩阵获取单元可以配置为获取所述第一图像采集设备在所述目标三维坐标系下的位姿矩阵。所述第一目标三维图像获取单元可以配置为根据所述第一图像采集设备的所述位姿矩阵对所述目标深度图进行坐标转换,以获得所述第一目标三维图像。
本公开实施例提出一种电子设备,该电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一项所述的图像处理方法。
本公开实施例提出一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现如上述任一项所述的图像处理方法。
本公开实施例提出一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述图像处理方法。
本公开实施例提供的图像处理方法、装置及电子设备和计算机可读存储介质,首先从目标三维坐标系下的第一目标三维图像中提取出包括目标三维点的目标平面,并将该目标三维点映射至目标平面所在的目标二维坐标系下,获得目标多边形以及目标多边形的最小外接目标图形;然后,将与最小外接目标图形的面积比大于目标阈值的目标多边形所对应的目标平面作为最终识别出来的第一目标图形。该方法可以从第一目标三维图像中准确的识别出第一目标图形,该第一目标图形具有在目标三维坐标系下的目标三维坐标值。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。下面描述的附图仅仅是本公开的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了应用于本公开实施例的图像处理方法或图像处理装置的示例性系统架构的示意图。
图2是根据一示例性实施例示出的一种应用于图像处理装置的计算机系统的结构示意图。
图3是根据一示例性实施例示出的一种图像处理方法的流程图。
图4是根据一示例性实施例示出的一种第一目标三维图像的示意图。
图5是根据一示例性实施例示出的一种目标多边形的示意图。
图6是根据一示例性实施例示出的一种目标最小外接圆的示意图。
图7是图3中步骤S01在一示例性实施例中的流程图。
图8是根据一示例性实施例示出的一种图像处理方法。
图9是根据一示例性实施例示出的一种在第一目标三维图像中确定第一目标圆的示意图。
图10是图8中步骤S07在一示例性实施例中的流程图。
图11是根据一示例性实施例示出的一种根据目标最小外接圆中的二维搜索点完成目标坐标值搜索的示意图。
图12是根据一示例性实施例示出的一种将第一目标圆心映射至目标三维坐标系的方法。
图13是根据一示例性实施例示出的一种图像处理方法。
图14是根据一示例性实施例示出的一种图像处理方法。
图15是根据一示例性实施例示出的一种图像处理方法。
图16是根据一示例性实施例示出的一种图像处理方法。
图17是根据一示例性实施例示出的一种图像处理方法。
图18是根据一示例性实施例示出的一种图像处理装置的框图。
具体实施方式
现在将参考附图更全面地描述示例实施例。然而,示例实施例能够以多种形式实施,且不应被理解为限于在此阐述的实施例;相反,提供这些实施例使得本公开将全面和完整,并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。
本公开所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。
附图仅为本公开的示意性图解,图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和步骤,也不是必须按所描述的顺序执行。例如,有的步骤还可以分解,而有的步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
本说明书中,用语“一个”、“一”、“该”、“所述”和“至少一个”用以表示存在一个或多个要素/组成部分/等;用语“包含”、“包括”和“具有”用以表示开放式的包括在内的意思并且是指除了列出的要素/组成部分/等之外还可存在另外的要素/组成部分/等;用语“第一”、“第二”和“第三”等仅作为标记使用,不是对其对象的数量限制。
下面结合附图对本公开示例实施方式进行详细说明。
图1示出了可以应用于本公开实施例的图像处理方法或图像处理装置的示例性系统架构的示意图。
如图1所示,系统架构100可以包括终端设备101、102、图像采集设备103,网络104、服务器105以及目标机器人106。其中,图像采集设备103或者终端设备101可以用来采集第一目标三维图像,网络104可以用来在终端设备101(或102)、图像采集设备103、服务器105以及目标机器人106之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102通过网络104与服务器105交互以接收或发送消息等,用户也可以使用图像采集设备103通过网络与服务器105或终端设备101、102进行信息交互。其中,终端设备101、102可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机、台式计算机、可穿戴设备、虚拟现实设备、智能家居等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备图像采集设备103所进行操作的装置提供支持的后台管理服务器;再例如对目标机器人的移动操作提供支持的后台服务管理器。后台管理服务器可以对从终端设备或图像采集设备接收到的请求等数据进行分析等处理,并将处理结果发送给目标机器人106,以控制目标机器人移动。
服务器105可例如通过终端设备101(或102)或图像采集设备103获取目标三维坐标系下的第一目标三维图像;服务器105可例如在所述第一目标三维图像中确定目标平面,所述目标平面包括目标三维点;服务器105可例如将所述目标三维点投影至所述目标平面所在的目标二维坐标系,获得目标二维点;服务器105可例如根据所述目标二维点确定目标多边形和所述目标多边形的最小外接目标图形;服务器105可例如将目标多边形与所述最小外接目标图形的面积比大于目标阈值的目标平面识别为所述第一目标三维图像中的第一目标图形,所述第一目标图形与所述最小外接目标图形的形状一致;服务器105可例如根据第一目标图像控制目标机器人106移动。
应该理解,图1中的终端设备、目标机器人、网络和服务器的数目仅仅是示意性的,服务器105可以是一个实体的服务器,还可以为多个服务器组成,根据实际需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图2,其示出了适于用来实现本申请实施例的终端设备的计算机系统200的结构示意图。图2示出的终端设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图2所示,计算机系统200包括中央处理单元(CPU)201,其可以根据存储在只读存储器(ROM)202中的程序或者从储存部分208加载到随机访问存储器(RAM)203中的程序而执行各种适当的动作和处理。在RAM 203中,还存储有系统200操作所需的各种程序和数据。CPU 201、ROM 202以及RAM 203通过总线204彼此相连。输入/输出(I/O)接口205也连接至总线204。
以下部件连接至I/O接口205:包括键盘、鼠标等的输入部分206;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分207;包括硬盘等的储存部分208;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分209。通信部分209经由诸如因特网的网络执行通信处理。驱动器210也根据需要连接至I/O接口205。可拆卸介质211,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器210上,以便于从其上读出的计算机程序根据需要被安装入储存部分208。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分209从网络上被下载和安装,和/或从可拆卸介质211被安装。在该计算机程序被中央处理单元(CPU)201执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本申请所示的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读存储介质,该计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的模块和/或单元和/或子单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块和/或单元和/或子单元也可以设置在处理器中,例如,可以描述为:一种处理器包括发送单元、获取单元、确定单元和第一处理单元。其中,这些模块和/或单元和/或子单元的名称在某种情况下并不构成对该模块和/或单元和/或子单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备可实现功能包括:获取目标三维坐标系下的第一目标三维图像;在所述第一目标三维图像中确定目标平面,所述目标平面包括目标三维点;将所述目标三维点投影至所述目标平面所在的目标二维坐标系,获得目标二维点;根据所述目标二维点确定目标多边形和所述目标多边形的最小外接目标图形;将目标多边形与所述最小外接目标图形的面积比大于目标阈值的目标平面识别为所述第一目标三维图像中的第一目标图形,所述第一目标图形与所述最小外接目标图形的形状一致。
图3是根据一示例性实施例示出的一种图像处理方法的流程图。本公开实施例所提供的方法可以由任意具备计算处理能力的电子设备处理,例如上述图1实施例中的服务器105和/或终端设备102、103,在下面的实施例中,以服务器105为执行主体为例进行举例说明,但本公开并不限定于此。
参照图3,本公开实施例提供的图像处理方法可以包括以下步骤。
在步骤S01中,获取目标三维坐标系下的第一目标三维图像。
在一些实施例中,第一目标三维图像可以指的是包括待识别目标的三维图像。其中,待识别目标既可以指的是第一目标三维图像中待识别的物体(例如梅花桩、长方形楼梯、棱柱体等),也可以指的是第一目标三维图像中待识别的图形(例如梅花桩的圆形平面、长方形楼梯的长方形平面)等,本公开对此不做限制。
在一些实施例中,可以首先通过目标深度相机对包括待识别目标在内的目标场景进行拍照,以获得目标场景的目标深度图;然后根据目标深度相机在目标三维坐标系下的位姿矩阵,将该目标深度图转换为在目标三维坐标下系的三维图像以获取该第一目标三维图像。其中,目标深度相机可以指的是RGB-D相机(例如Kinect(一种三维体感摄像机)相机等),目标三维坐标系可以指的是世界坐标系等,但本公开对此不做限制。另外,目标深度相机的位姿矩阵可以通过SLAM(Simultaneous Localization And Mapping,同步定位与建图)获得,本公开对此也不做限制。SLAM是一种实时定位和见图的技术,可以实时获取目标深度相机在目标三维坐标系中的三维位姿。
例如,在一个控制足式机器人走梅花桩的目标场景下,可以首先通过目标深度相机对待足式机器人落足的梅花桩进行图像采集以获得如图4所示的目标深度图,然后根据目标深度相机的实时三维位姿对目标深度图进行处理,以获得在目标三维坐标下的第一目标三维图像。
在步骤S02中,在所述第一目标三维图像中确定目标平面,所述目标平面包括目标三维点。
由于,如图4所示的目标深度图中不仅包括待识别的目标圆心平面401或402,还可能会包括桌子平面、椅子平面等。因此,第一目标三维图像中既可能包括待识别的目标圆形平面,也可能包括如桌子平面或椅子平面等识别干扰项。
为了从第一目标三维平面图像中准确地将待识别目标识别出来,可以首先通过平面拟合技术将第一目标三维图像中的所有平面图形(可以称之为目标平面)识别出来;然后对目标平面进行甄别,以从该目标平面中确定待识别的第一目标图形。
在一些实施例中,平面拟合技术可以从目标深度图(或者包括深度信息的三维图像中)将局部空域范围内存在微小深度梯度的点(或三维点)所组成的平面提取出来。
相关技术中,比较经典的平面拟合方法是区域生长分割法,该区域生长分割法可以包括以下步骤:将整幅深度图(或者包括深度信息的三维图像)按照均匀网格进行划分,得到多个图像块;将空域内相邻的图像块进行融合,并将融合后的相邻图像块作为一个新的平面重新求解平面方程,其中能否将相邻图像块进行融合的条件有两个,第一个条件可以是当前图像块到其邻域图像块平面方程的距离需要小于某个阈值,第二个条件是两个相邻的图像块的法向夹角小于某个阈值;得到大的平面之后,以该平面中任意一点为起始点进行漫水填充以细化边界,原则上来说只要附近空域内的点到该平面的距离小于阈值就说明该点属于当前平面。
其中,漫水填充法是用一定的方式(例如使用一定的颜色)填充联通区域,通过设置可连通像素的上下限以及连通方式来达到不同的填充效果的方法。
可以理解的是,由于目标深度图和第一目标三维图可以通过目标深度相机的位姿矩阵进行转换,所以第一目标三维图像中也可以包括图像的深度信息,所以对目标深度图像进行平面拟合也可以指的是对第一目标三维图像进行平面拟合,本公开对此不做限制。
在一些实施例中,平面拟合技术不仅可以从第一目标三维图像中识别出目标平面,还可以给出该目标平面的平面方程以及法线方向,本公开对此不再赘述。
在步骤S03中,将所述目标三维点投影至所述目标平面所在的目标二维坐标系,获得目标二维点。
在一些实施例中,当目标平面从第一目标三维图像中识别出来之后,可以根据目标平面所在平面构建目标二维坐标系,本公开对目标二维坐标系的构建方法不做限制。
在一些实施例,可以将目标平面中的目标三维点向目标平面所在的目标二维坐标系进行投影,以获得目标平面在目标二维坐标系下的目标二维点。
由于目标平面中包括大量的三维点,为了节约计算资源,可以从目标三维点中提取目标平面的目标三维轮廓点,然后将目标三维轮廓点映射至目标二维坐标系下,以获得目标二维轮廓点。
在步骤S04中,根据所述目标二维点确定目标多边形和所述目标多边形的最小外接目标图形。
在一些实施例中,可以将目标二维点的轮廓进行连接以生成目标多边形。
在另外一些实施例中,还可以将目标二维轮廓点直接连接,以生成目标多边形。或者,可以将目标三维点中的目标三维轮廓点向目标二维坐标系下投影,以获得如图5虚线所示的目标二维轮廓点;在该目标二维轮廓点中可以通过如图5所示的星形标记突出位置,然后将各个星形连接以获得目标多边形,本公开对此不做限制。
在一些实施例中,目标平面在目标二维坐标下的目标多边形确定之后,还可以获取目标多边形的最小外接目标图形,其中最小外接目标图形与待识别的第一目标图形的形状一致。
在一些实施例中,若待识别的第一目标图形为圆形,那么可以确定目标多边形的外接圆(如图6所示)作为该最小外接目标图形;若待识别的第一目标图形为正方形,那么可以确定目标多边形的外接正方形以作为该最小外接目标图形;若待识别的第一目标图像为菱形,那么可以确定目标多边形的外接菱形作为该最小外接目标图形,本公开对此不做限制。
在步骤S05中,将目标多边形与所述最小外接目标图形的面积比大于目标阈值的目标平面识别为所述第一目标三维图像中的第一目标图形,所述第一目标图形与所述最小外接目标图形的形状一致。
在一些实施例中,可以获取目标多边形与最小外接目标图形的面积比,若该面积比大于目标阈值(例如0.8),则可以认为该目标多边形对应的目标平面是第一目标三维图像中待识别的第一目标图形。
根据本实施例提供的技术方案,可以从第一目标三维图像中将第一目标图形准确地识别出来,以便根据第一目标图形以及第一目标图形的三维坐标值进行操作。例如,在控制足式机器人在梅花桩上移动的场景下,第一目标图形可以指的是待足式机器人落足的梅花桩的圆形平面,当待落足的梅花桩的圆形平面以及圆形平面的三维位置坐标确定之后,便可以根据该圆形平面以及圆形平面的三维位置坐标控制足式机器人落足;再例如,在机械臂抓取目标圆柱体的场景下,第一目标图形可以指的是目标圆柱体的圆形平面,当目标圆柱体的圆形平面及其三维位置信息确定之后,可以根据目标圆柱体的圆形平面位置以及目标圆柱体的高度等信息(可以是已知的)控制机械臂抓取该目标圆柱体。
在一些实施例中,目标圆柱体的高度信息可以是事先已知的,例如在流水线抓取某易拉罐圆柱体的情境下,易拉罐的高度信息可以是抓取之前已知的;在另外一些实施例中,目标圆柱体的高度信息还可以是根据第一目标图形的三维信息计算的,例如假设目标圆柱立在桌面,可以优先从第一三维平面图像中识别桌面并获取该桌面的三维信息,那么根据第一目标图形和桌面的三维信息便可以确定目标圆柱体的高度信息。
图7是图3中步骤S01在一示例性实施例中的流程图。
在一些实施例中,第一目标三维图像可以通过目标深度图获得。参考图7,根据目标深度图获取第一目标三维图像可以包括以下过程。
在步骤S011中,获取所述目标深度图,所述目标深度图通过第一图像采集设备获得。
在一些实施例中,第一图像采集设备可以指的是目标深度相机,通过目标深度相机对包括待识别目标在内的目标场景进行图像采集,可以获得目标场景的目标深度图。
在步骤S012中,获取所述第一图像采集设备在所述目标三维坐标系下的位姿矩阵。
在一些实施例中,可以根据SLAM获得目标深度相机在目标三维坐标系下的实时位姿矩阵。
在步骤S013中,根据所述第一图像采集设备的所述位姿矩阵对所述目标深度图进行坐标转换,以获得所述第一目标三维图像。
在一些实施例中,若第一图像采集设备在目标三维坐标系下的位姿矩阵已经确定,而且目标深度图在该第一图像采集设备的相机坐标系下的位置也已知(可以通过目标深度图的灰度值确定),那么通过矩阵的转换就可以将目标深度图转换至目标三维坐标系下以获得第一目标三维图像,本公开对此不再赘述。
本实施例提供的技术方案,可以通过包括待识别物体在内的目标深度图准确的获得包括待识别物体在内的第一目标三维图像。
图8是根据一示例性实施例示出的一种图像处理方法。
在一些实施例中,假设第一目标三维图像中待识别的第一目标图形为圆形(可以称之为第一目标圆),那么本实施例中的最小外接目标图形应该为最小外接圆(可以称之为目标最小外接圆)。
在一些实施例中,当第一目标三维图像中的第一目标圆确定之后,还可以进一步的确定第一目标圆的圆心位置。
参考图8,上述图像处理方法可以包括以下步骤。
在步骤S06中,获取所述目标最小外接圆在所述目标二维坐标系中的第一目标圆心。
在步骤S07中,将所述第一目标圆心映射至所述目标三维坐标系中,获取所述第一目标圆心在所述目标三维坐标系中的目标坐标值,所述目标坐标值是所述第一目标圆的第一圆心坐标值。
在一些实施例中,由于拍摄角度或者第一目标圆被遮挡等原因,第一目标三维图像中的第一目标圆展现出来的可能不是一个完整的圆。因此,无法通过圆形识别直接在第一目标三维图像中直接确定第一目标圆及其位置。
在一些实施例中,可以将目标最小外接圆作为第一目标圆映射至目标二维坐标系下的圆形图像,那么将目标最小外接圆的圆心反向映射至目标三维坐标系下的三维坐标就可以是第一目标圆的圆心坐标。
在步骤S08中,根据所述第一圆心坐标值与所述第一目标圆的三维轮廓点的坐标值,确定所述第一目标圆的半径。
在一些实施例中,可以通过第一目标圆的各个三维轮廓点的坐标值以及第一圆心坐标值,确定第一目标圆的各个三维轮廓点与第一目标圆的圆心的距离,并将最大距离值作为第一目标圆的半径。
本实施例提供的技术方案,首先在目标二维坐标系下确定了目标最小外接圆的第一目标圆心;然后将该第一目标圆心映射至目标三维坐标系下,以作为第一目标圆的圆心,并将第一目标圆心在目标三维坐标系下的三维坐标值作为第一目标圆的圆心坐标值(可以称之为第一圆心坐标值);根据第一目标圆的三维轮廓点以及第一目标圆的圆心确定了第一目标圆的半径。该方法既可以在第一目标三维图像中准确的确定如图9所示的第一目标圆901的第一圆心9011,又可以准确的获得第一目标901的第一圆心坐标值以及第一目标圆901的半径。
图10是图8中步骤S07在一示例性实施例中的流程图。
在一些实施例中,由于第一目标三维图像中的像素点是离散的,而第一目标圆心是拟合出来的,所以第一目标圆心在目标三维坐标系下是没有对应的三维坐标的。
在一些实施例中,可以通过漫水搜索算法对目标三维点进行搜索,以确定与第一目标圆心对应的三维坐标值。
在一些实施例中,通过漫水搜索算法对目标三维点进行搜索可以包括以下步骤。
在步骤S071中,在所述目标三维点中确定三维起始点。
在一些实施例中,为了可以更快的在目标三维坐标系下定位到与第一目标圆心对应的三维点,可以对目标平面中的目标三维点求均值以作为起始搜索点。在另外一些实施例中,还可以在目标平面的目标三维点中任选一点作为三维起始点,本公开对此不做限制。
在步骤S072中,将所述三维起始点映射至所述目标二维坐标系,获得二维起始点。
在一些实施例中,由于目标三维坐标系下的目标三维点与目标二维坐标系下的目标二维点是一一对应的,所以可以直接获得与三维起始点对应的目标二维点坐标该二维起始点。
在步骤S073中,获得所述二维起始点与所述第一目标圆心之间的目标距离。
在一些实施例中,可以在目标二维坐标系下获得二维起始点与第一目标圆心之间的目标距离为d。
在步骤S074中,将与所述三维起始点相邻的目标三维点作为三维搜索点,并将所述三维搜索点映射至所述目标二维坐标系以获得二维搜索点。
在一些实施例中,第一目标三维图像中的目标三维点可以按照行列的形式存储,那么与三维起始点相邻的目标三维点可以指的是存储位置与三维起始点上、下、左、右等四个方向相邻的目标三维点,还可以指的是存储位置与三维起始点上、下、左、右、左上、左下、右上、右下等八个方向相邻的目标三维点,本公开对此不做限制。
在一些实施例中,可以将各个三维搜索点均映射至目标二维坐标系下,获得二维搜索点,以便根据二维搜索点进行搜索。
在步骤S075中,判断是否存在与第一目标圆心之间的距离小于所述目标距离的二维搜索点。
在一些实施例中,可以获取各个二维搜索点与第一目标圆心之间的距离,并判断是否存在与第一目标圆心之间的距离小于目标距离的二维搜索点。
在步骤S076中,在所述二维搜索点中确定与所述第一目标圆心距离最小的目标二维搜索点。
在一些实施例中,若存在与第一目标圆心的距离小于目标距离的二维搜索点,则将距离第一目标圆心最近的二维搜索点作为目标二维搜索点,以继续对目标二维搜索点进行搜索。
在步骤S077中,用所述目标二维搜索点与所述第一目标圆心之间的距离更新所述目标距离,并用所述目标二维搜索点对应的三维搜索点更新所述三维起始点。
假设目标距离为d,目标二维搜索点与第一目标圆心之间的距离为d’,那么可以令d等于d’,以实现对目标距离的更新。
在一些实施例中,在目标三维坐标系中存在一个与目标二维搜索点对应的目标三维搜索点,可以将该目标三维搜索点作为新的三维起始点。
在步骤S078中,将更新后的所述三维起始点映射至所述目标二维坐标系,更新所述二维起始点。
在步骤S079中,通过与更新后的三维起始点相邻的目标三维点更新所述三维搜索点,并将更新后的三维搜索点映射至所述目标二维坐标系以更新所述二维搜索点。
在一些实施例中,当三维起始点更新后还可以在第一目标三维图像中获取与三维起始点相邻的目标三维点以更新三维搜索点。
在一些实施例中,还需要将更新后的三维搜索点映射至目标二维坐标系下以更新二维搜索点,并根据步骤S075~步骤S0710继续进行搜索,直至当前的各个二维搜索点与第一目标圆心的距离均大于当前的目标距离,则执行步骤S0710。
在步骤S0710中,将所述三维起始点的坐标值作为所述目标坐标值。
图11是根据一示例性实施例示出的一种根据目标最小外接圆中的二维搜索点完成目标坐标值搜索的示意图。
如图11所示,在目标最小外接圆110中,实心圆形代表二维搜索点,虚心圆形点代表了停止搜索的二维搜索点,实心箭头代表的路径可以代表一种有效的搜索路径(即该条路径的二维搜索点会逐渐靠近第一目标圆心111,通过该条路径可以搜索到靠近第一目标圆心的目标坐标值),虚心箭头代表的路径可以代表一种无效的搜索路径(即在该条路上的二维搜索点逐渐远离第一目标圆心,停止了对该条路径的搜索)。如图11所示,本实施例提供的技术方案,可以控制目标二维坐标系下的二维搜索点逐渐靠近第一目标圆心111,使得与二维搜索点对应的三维搜索点逐渐靠近第一目标圆的圆心,以获取第一目标圆的圆心的目标坐标值。
本实施例提供的技术方案,将目标三维坐标系下的三维搜索点映射至了目标二维坐标系下,以获得了二维搜索点,实现了二维搜索点与三维搜索点的一种映射。本实施例提供的技术方案,在构建了二维搜索点与三维搜索点之间的映射关系之后,控制二维搜索点逐渐靠近第一目标圆心,使得目标三维坐标系下的三维搜索点逐渐靠近第一目标圆的圆心,以获得第一目标圆的目标坐标值。
本实施例提供的技术方案,通过目标三维点在目标三维坐标系和目标二维坐标系下的转换构建了目标三维搜索点和目标二维搜索点之间的映射关系,通过在目标二维坐标系下对目标二维搜索点进行搜索,确定了距离第一目标圆心距离最近的二维点,将距离第一目标圆心距离最近的二维点映射至目标三维坐标系下即可获得第一目标圆的圆心坐标值。
在另外一些实施例中,可以将通过漫水搜索确定的目标坐标值作为第一目标圆心映射值目标三维坐标系中的目标映射点的坐标值,然后获取所述目标映射点与所述第一目标圆的各个三维轮廓点的距离,并将最大距离作为第一目标圆的半径;若所述第一目标圆的各个三维轮廓点与所述目标映射点的距离均在目标范围内,则所述圆心映射点的坐标值为所述第一目标圆心在所述目标三维坐标系中的目标坐标值。
本实施例提供的技术方案可以将半径值大于目标范围的第一目标圆剔除出去。
图12是根据一示例性实施例示出的一种将第一目标圆心映射至目标三维坐标系的方法。参考图12,上述方法可以包括以下步骤。
在步骤S121中,在目标三维点中确定三维起始点。
在步骤S122中,将三维起始点映射至目标二维坐标系,获得二维起始点。
如图11所示,可以将三维起始点映射至目标二维坐标系下以获得如11所示的二维起始点112。
在步骤S123中,获得二维起始点与第一目标圆心之间的目标距离。
在一些实施例中,可以获取图11中二维起始点112与第一目标圆心111之间的目标距离d。
在步骤S124中,将与三维起始点相邻的目标三维点作为三维搜索点,并将三维搜索点映射至目标二维坐标系以获得二维搜索点。
在一些实施例中,将三维搜索点映射至目标二维坐标系下可以获得如图11所示的二维搜索点113。但是应该理解的是,与三维起始点向量的目标三维点可以不止一个。
在一些实施例中,可以获取二维搜索点113与第一目标圆心11之间的距离d’。
在步骤S125中,判断是否存在与第一目标圆心之间的距离小于目标距离的目标二维搜索点,目标二维搜索点与目标三维搜索点对应。
在一些实施例中,若二维搜索点中存在与第一目标圆心之间的距离小于目标距离的目标二维搜索点,则继续执行步骤S126。
如图11所示,二维搜索点113与第一目标圆心111之间的距离d’小于二维起始点112与第一目标圆心111之间的距离。因此,需要执行步骤S126以针对目标二维搜索点113对应的目标三维搜索点继续进行搜索。
在步骤S126中,判断目标三维点中是否存在与目标三维搜索点相邻的像素点。
在一些实施例中,判断目标平面中是否存在与当前的目标三维搜索点相邻的目标三维点,若目标平面中还存在与当前的目标三维搜索点相邻的目标三维点,则继续执行步骤S127。
在步骤S127,用三维搜索点更新三维起始点。
在一些实施例中,可以将当前的目标三维搜索点作为三维起始点,并将更新后的三维起始点映射至目标二维坐标系下,以获得二维起始点113。
在一些实施例中,当二维起始点更新之后,继续执行步骤S122~S126,直至在步骤S125判断二维搜索点中不存在与第一目标圆心之间的距离小于当前的目标距离的目标二维搜索点,或则在步骤S126中判断目标三维点中不存在与目标三维搜索点相邻的像素点,则继续执行步骤S128。
在步骤S128,将三维起始点的坐标值作为目标坐标值。
本实施例提供的技术方案,通过目标三维点在目标三维坐标系和目标二维坐标系下的转换构建了目标三维搜索点和目标二维搜索点之间的映射关系,通过在目标二维坐标系下对目标二维搜索点进行搜索,确定了距离第一目标圆心距离最近的二维点,将距离第一目标圆心距离最近的二维点映射至目标三维坐标系下即可获得第一目标圆的圆心坐标值。
图13是根据一示例性实施例示出的一种图像处理方法。
对于深度图像采集设备来说来说,图像采集的深度数据通常有工作距离的限制,包括最短工作距离和最长工作距离,在工作距离之外的深度信息是不可靠的,通常会直接筛选掉。但是,在有效的工作距离范围内,深度信息与距离也是存在关联的,即物体距离相机越近,得到的深度信息越精确,或者说,在更近距离范围内提取的圆形平面的圆心和半径是更准确的。
本公开实施例提供的技术方案,提供了一种可以准确的确定目标平面的圆心的方法。
参考图13,上述图像处理方法可以包括以下步骤。
在步骤S08中,获取所述目标三维坐标系下的第二目标三维图像,所述第一目标三维图像和所述第二目标三维图像中均包括目标物体,所述目标物体包括目标圆形平面。
在一些实施例中,目标物体可以指的是待识别的目标圆柱体等,该目标物体可以包括一个待识别的目标圆形平面。
在一些实施例中,可以通过第一深度图像采集设备和第二深度图像采集设备分别对目标物体的目标圆形平面。其中,第一深度图像采集设备和第二深度图像采集设备既可以是同一设备,也可以是不同的设备,本公开对此不做限制。
在步骤S09中,在所述第二目标三维图像中确定第二目标圆以及所述第二目标圆的第二目标圆心的第二圆心坐标值。
在一些实施例中,可以通过本公开提供的图像处理方法从第一目标三维图像中确定第一目标圆以及第一目标圆的第一圆心坐标值。
在一些实施例中,可以通过本公开提供的图像处理方法从第二目标三维图像中确定第二目标圆以及第二目标圆的第二圆心坐标值。
在步骤S10中,确定所述第一目标圆心与采集所述第一目标三维图像的图像采集设备之间的第一距离。
在步骤S11中,确定所述第二目标圆心与采集所述第二目标三维图像的图像采集设备之间的第二距离。
需要注意的是,第一距离和第二距离可以是同一坐标系下(例如目标三维坐标系下)确定的距离。
在步骤S12中,根据所述第一距离、所述第二距离、所述第一目标圆心坐标值以及所述第二目标圆心坐标值,确定所述目标物体的目标圆形平面的目标圆心坐标值。
在一些实施例中,可以根据公式(1)对第一距离d1进行处理以确定第一目标圆心坐标值的第一权重w1,还可以根据公式(1)对第二距离d2进行处理以确定第二目标圆心坐标值的第一权重w2,然后根据公式(2)使用第一权重w1、第二权重w2分别对第一目标圆心坐标值c1和第二目标圆心坐标值c2进行加权,以获得目标物体的目标圆心平面的目标圆心坐标值。
其中,公式(1)中的di可以代表第i帧图像中目标物体的目标圆形平面的圆心距离其图像采集设备的距离。
其中,公式(2)中的ci可以代表第i帧图像中目标物体的目标圆形平面的圆心坐标值。
本实施例提供的技术方案可以准确的确定目标物体的目标圆形平面的圆心坐标值。
图14是根据一示例性实施例示出的一种图像处理方法。
参考图14,上述图像处理方法可以包括以下步骤。
在步骤S13中,确定所述第一目标圆的第一半径和所述第二目标圆的第二半径。
在步骤S14中,根据所述第一距离、所述第二距离、所述第一半径以及所述第二半径,确定所述目标圆形平面的目标半径。
在一些实施例中,可以将第一目标圆的第一半径r1和第二目标圆的第二半径r2分别作为公式(2)中的c1和c2,那么根据公式(2)就可以准确的确定目标圆心平面的目标半径。
本公开实施例提供的技术方案,提供了一种可以准确的确定目标平面的半径的方法。
图15是根据一示例性实施例示出的一种图像处理方法。参考图15,上述图像处理方法可以包括以下步骤。
在步骤S1中,确定所述第一目标圆的法线。
在一些实施例中,在对第一目标三维图像进行平面拟合时便可以同时获得各个目标平面的平面方程,而第一目标圆又是从目标平面中筛选出来的,所以第一目标圆的法线方向可以根据目标平面的平面方程直接获得。
在步骤S2中,根据所述第一目标圆的目标三维轮廓点和第一目标圆心确定所述第一目标圆的第一半径。
在一些实施例中,可以获取第一目标圆的第一目标圆心与该第一目标圆的三维轮廓点的距离,并将最大距离值作为该第一目标圆的半径。
在步骤S3中,根据所述第一目标圆的第一圆心坐标值、第一半径以及法线,生成控制信息,所述控制信息用于控制目标机器人的足部中心与所述第一目标圆的第一圆心坐标值重合。
在一些实施例中,第一目标圆可以指的是待目标机器人落足的梅花桩的圆形平面。当第一目标圆的圆心坐标值以及法线方向确定时,可以控制目标机器人沿着法线方向落足至第一目标圆的圆心位置,以控制目标机器人移动。
图16是根据一示例性实施例示出的一种图像处理方法。
在一些实施例中,第一目标三维图像是针对目标圆柱体的目标圆形平面进行采集获得的。参考图16,上述图像处理方法可以包括以下步骤。
在步骤S4中,确定所述第一目标圆的法线。
在步骤S5中,根据所述第一目标圆的目标三维轮廓点和第一目标圆心确定所述第一目标圆的半径。
在一些实施例中,可以获取第一目标圆的第一目标圆心与该第一目标圆的三维轮廓点的距离,并将最大距离值作为该第一目标圆的半径。
在步骤S6中,根据所述第一目标圆的第一圆心坐标值、半径、法线以及所述目标圆柱体的高,控制目标机械臂抓取所述目标圆柱体。
在一些实施例中,目标圆柱体可以指的是待机械臂抓取的目标圆柱体。
在一些实施例中,目标圆柱体的高度信息可以是事先已知的,例如在流水线抓取某易拉罐圆柱体的情境下,易拉罐的高度信息可以是已知的;在另外一些实施例中,目标圆柱体的高度信息可以是根据第一目标图形的三维信息计算的,例如假设目标圆柱立在桌面,可以优先从第一三维平面图像中识别桌面并获取该桌面的三维信息,那么根据第一目标图形和桌面的三维信息便可以确定目标圆柱体的高度信息。
当目标圆柱体通过本实施例提供的技术方案确定第一圆心坐标值、半径以及法线后,可以控制目标机械臂实现对目标圆柱体的抓取。
图17是根据一示例性实施例示出的一种图像处理方法。参考图17,上述图像处理方法可以包括以下步骤。
在步骤S171中,获取目标三维坐标系下的第一目标三维图像。
在步骤S172中,在所述第一目标三维图像中确定目标平面,所述目标平面包括目标三维点。
在步骤S173中,将所述目标三维点投影至所述目标平面所在的目标二维坐标系,获得目标二维点。
在步骤S174中,根据所述目标二维点确定目标多边形,目标多边形的面积为S1。
在步骤S175中,获取目标多边形的目标最小外接圆,外接圆的面积为S2。
在步骤S176中,判断S1/S2是否大于目标阈值。
若S1/S2大于目标阈值(例如0.8)则执行步骤S177;若S1/S2小于或者等于目标阈值,则执行步骤S178。
在步骤S177中,该目标平面不是第一目标圆。
在步骤S178中,该目标平面就是第一目标圆。
根据本实施例提供的技术方案,可以从第一目标三维图像中将第一目标图形准确地识别出来,以便根据第一目标图形以及第一目标图形的三维坐标值进行操作。例如,在控制足式机器人在梅花桩上移动的场景下,第一目标图形可以指的是待足式机器人落足的梅花桩的圆形平面,当待落足的梅花桩的圆形平面以及圆形平面的三维位置坐标确定之后,便可以根据该圆形平面以及圆形平面的三维位置坐标控制足式机器人落足;再例如,在机械臂抓取目标圆柱体的场景下,第一目标图形可以指的是目标圆柱体的圆形平面,当目标圆柱体的圆形平面及其三维位置信息确定之后,可以根据目标圆柱体的圆形平面位置以及目标圆柱体的长度等信息控制机械臂抓取该目标圆柱体。
图18是根据一示例性实施例示出的一种图像处理装置的框图。参照图18,本公开实施例提供的图像处理装置1800可以包括:第一目标三维图像获取模块1801、目标平面获取模块1802、目标二维点获取模块1803、最小外接目标图形确定模块1804以及第一目标图形确定模块1805。
其中,所述第一目标三维图像获取模块1801可以配置为获取目标三维坐标系下的第一目标三维图像。所述目标平面获取模块1802可以配置为在所述第一目标三维图像中确定目标平面,所述目标平面包括目标三维点。所述目标二维点获取模块1803可以配置为将所述目标三维点投影至所述目标平面所在的目标二维坐标系,获得目标二维点。所述最小外接目标图形确定模块1804可以配置为根据所述目标二维点确定目标多边形和所述目标多边形的最小外接目标图形。所述第一目标图形确定模块1805可以配置为将目标多边形与所述最小外接目标图形的面积比大于目标阈值的目标平面识别为所述第一目标三维图像中的第一目标图形,所述第一目标图形与所述最小外接目标图形的形状一致。
在一些实施例中,所述最小外接目标图形为目标最小外接圆,所述第一目标图形为第一目标圆。
在一些实施例中,所述图像处理装置1800可以包括:第一目标圆心获取单元和第一圆心坐标值获取单元。
其中,所述第一目标圆心获取单元可以配置为获取所述目标最小外接圆在所述目标二维坐标系中的第一目标圆心。所述第一圆心坐标值获取单元可以配置为将所述第一目标圆心映射至所述目标三维坐标系中,获取所述第一目标圆心在所述目标三维坐标系中的目标坐标值,所述目标坐标值是所述第一目标圆的第一圆心坐标值;根据所述第一圆心坐标值与所述第一目标圆的三维轮廓点的坐标值,确定所述第一目标圆的半径。
在一些实施例中,所述第一圆心坐标值获取单元可以包括:三维起始点获取子单元、二维起始点获取子单元、目标距离获取子单元、二维搜索点获取子单元以及目标坐标值获取子单元。
其中,所述三维起始点获取子单元可以配置为在所述目标三维点中确定三维起始点。所述二维起始点获取子单元可以配置为将所述三维起始点映射至所述目标二维坐标系,获得二维起始点。所述目标距离获取子单元可以配置为获得所述二维起始点与所述第一目标圆心之间的目标距离。所述二维搜索点获取子单元可以配置为将与所述三维起始点相邻的目标三维点作为三维搜索点,并将所述三维搜索点映射至所述目标二维坐标系以获得二维搜索点。所述目标坐标值获取子单元可以配置为若各个二维搜索点与所述第一目标圆心之间的距离均大于或者等于所述目标距离,则将所述三维起始点的坐标值作为所述目标坐标值。
在一些实施例中,所述第一圆心坐标值获取单元还可以包括:目标二维搜索点获取子单元、三维起始点更新子单元、二维起始点更新子单元以及三维搜索点更新子单元。
其中,所述目标二维搜索点获取子单元可以配置为若存在与第一目标圆心之间的距离小于所述目标距离的二维搜索点,则在所述二维搜索点中确定与所述第一目标圆心距离最小的目标二维搜索点;所述三维起始点更新子单元可以配置为用所述目标二维搜索点与所述第一目标圆心之间的距离更新所述目标距离,并用所述目标二维搜索点对应的三维搜索点更新所述三维起始点。所述二维起始点更新子单元可以配置为将更新后的所述三维起始点映射至所述目标二维坐标系,更新所述二维起始点。所述三维搜索点更新子单元可以配置为通过与更新后的三维起始点相邻的目标三维点更新所述三维搜索点,并将更新后的三维搜索点映射至所述目标二维坐标系以更新所述二维搜索点。
在一些实施例中,所述目标二维点获取模块1803可以包括:三维轮廓点确定单元和二维轮廓点确定单元。
其中,所述三维轮廓点确定单元可以配置为在所述目标三维点中确定所述目标平面的目标三维轮廓点。所述二维轮廓点确定单元可以配置为将所述目标三维轮廓点映射至所述目标二维坐标系,获得目标二维轮廓点,以便根据所述目标二维轮廓点确定所述目标多边形。
在一些实施例中,所述图像处理装置还可以包括:第二目标三维图像获取模块、第二目标圆获取模块、第一距离确定模块、第二距离确定模块以及目标圆心坐标值确定模块。
其中,所述第二目标三维图像获取模块可以配置为获取所述目标三维坐标系下的第二目标三维图像,所述第一目标三维图像和所述第二目标三维图像中均包括目标物体,所述目标物体包括目标圆形平面。所述第二目标圆获取模块可以配置为在所述第二目标三维图像中确定第二目标圆以及所述第二目标圆的第二目标圆心的第二圆心坐标值。所述第一距离确定模块可以配置为确定所述第一目标圆心与采集所述第一目标三维图像的图像采集设备之间的第一距离。所述第二距离确定模块可以配置为确定所述第二目标圆心与采集所述第二目标三维图像的图像采集设备之间的第二距离。所述目标圆心坐标值确定模块可以配置为根据所述第一距离、所述第二距离、所述第一目标圆心坐标值以及所述第二目标圆心坐标值,确定所述目标物体的目标圆形平面的目标圆心坐标值。
在一些实施例中,所述图像处理装置还可以包括:半径获取模块和目标半径确定模块。
其中,所述半径获取模块可以配置为确定所述第一目标圆的第一半径和所述第二目标圆的第二半径。所述目标半径确定模块可以配置为根据所述第一距离、所述第二距离、所述第一半径以及所述第二半径,确定所述目标圆形平面的目标半径。
在一些实施例中,所述第一圆心坐标值获取单元可以包括:映射点获取单元、距离获取子单元以及目标坐标值获取子单元。
其中,所述映射点获取单元可以配置为将所述第一目标圆心映射至所述目标三维坐标系中,获得目标映射点以及所述目标映射点的坐标值。所述距离获取子单元可以配置为获取所述目标映射点与所述第一目标圆的各个三维轮廓点的距离。所述目标坐标值获取子单元可以配置为若所述第一目标圆的各个三维轮廓点与所述目标映射点的距离均在目标范围内,则所述圆心映射点的坐标值为所述第一目标圆心在所述目标三维坐标系中的目标坐标值。
在一些实施例中,所述图像处理装置还可以包括:第一法线确定模块、第一半径获取模块以及机器人控制模块。
其中,所述第一法线确定模块可以配置为确定所述第一目标圆的法线。所述第一半径获取模块可以配置为根据所述第一目标圆的目标三维轮廓点和第一目标圆心确定所述第一目标圆的第一半径。所述机器人控制模块可以配置为根据所述第一目标圆的第一圆心坐标值、第一半径以及法线,生成控制信息,所述控制信息用于控制目标机器人的足部中心与所述第一目标圆的第一圆心坐标值重合。
在一些实施例中,所述第一目标三维图像是针对目标圆柱体的目标圆形平面进行采集获得的。
在一些实施例中,所述图像处理装置可以包括:第二法线确定模块、第二半径获取模块以及机械臂控制模块。
其中,所述第二法线确定模块可以配置为确定所述第一目标圆的法线。所述第二目标圆半径确定模块可以配置为根据所述第一目标圆的目标三维轮廓点和第一目标圆心确定所述第一目标圆的半径所述机械臂控制模块可以配置为根据所述第一目标圆的第一圆心坐标值、半径、法线以及所述目标圆柱体的高,控制目标机械臂抓取所述目标圆柱体。
在一些实施例中,所述第一目标三维图像通过目标深度图获得。
在一些实施例中,所述第一目标三维图像获取模块1801可以包括:目标深度图获取单元、位姿矩阵获取单元以及第一目标三维图像获取单元。
其中,所述目标深度图获取单元可以配置为获取所述目标深度图,所述目标深度图通过第一图像采集设备获得。所述位姿矩阵获取单元可以配置为获取所述第一图像采集设备在所述目标三维坐标系下的位姿矩阵。所述第一目标三维图像获取单元可以配置为根据所述第一图像采集设备的所述位姿矩阵对所述目标深度图进行坐标转换,以获得所述第一目标三维图像。
由于本公开的示例实施例的图像处理装置1800的各个功能模块与上述图像处理方法的示例实施例的步骤对应,因此在此不再赘述。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,本公开实施例的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中,包括若干指令用以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者智能设备等)执行根据本公开实施例的方法,例如图3的一个或多个所示的步骤。
此外,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
本领域技术人员在考虑说明书及实践这里公开的公开后,将容易想到本公开的其他实施例。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未申请的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
应当理解的是,本公开并不限于这里已经示出的详细结构、附图方式或实现方法,相反,本公开意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。
Claims (20)
1.一种图像处理方法,其特征在于,包括:
获取目标三维坐标系下的第一目标三维图像;
通过平面拟合技术将所述第一目标三维图像中的平面图形识别出来;
将从所述第一目标三维图像中识别出来的平面图形作为目标平面,以便在所述目标平面中甄别出待识别的第一目标图形,其中一个目标平面是由所述第一目标三维图像中的目标三维点构成的;
将所述目标平面中的目标三维点投影至所述目标平面所在的目标二维坐标系,获得目标二维点;
根据所述目标二维点确定目标多边形和所述目标多边形的最小外接目标图形;
将目标多边形与所述最小外接目标图形的面积比大于目标阈值的目标平面识别为所述第一目标三维图像中待识别的所述第一目标图形,所述第一目标图形与所述最小外接目标图形的形状一致;
其中,所述最小外接目标图形为目标最小外接圆,所述第一目标图形为第一目标圆;其中,所述方法还包括:
获取所述目标最小外接圆在所述目标二维坐标系中的第一目标圆心;
将所述第一目标圆心映射至所述目标三维坐标系中,获取所述第一目标圆心在所述目标三维坐标系中的目标坐标值,所述目标坐标值是所述第一目标圆的第一圆心坐标值;
根据所述第一圆心坐标值与所述第一目标圆的三维轮廓点的坐标值,确定所述第一目标圆的半径;
其中,将所述第一目标圆心映射至所述目标三维坐标系中,获取所述第一目标圆心在所述目标三维坐标系中的目标坐标值,包括:
在所述目标三维点中确定三维起始点;
将所述三维起始点映射至所述目标二维坐标系,获得二维起始点;
获得所述二维起始点与所述第一目标圆心之间的目标距离;
将与所述三维起始点相邻的目标三维点作为三维搜索点,并将所述三维搜索点映射至所述目标二维坐标系以获得二维搜索点;
若各个二维搜索点与所述第一目标圆心之间的距离均大于或者等于所述目标距离,则将所述三维起始点的坐标值作为所述目标坐标值。
2.根据权利要求1所述方法,其特征在于,将所述第一目标圆心映射至所述目标三维坐标系中,获取所述第一目标圆心在所述目标三维坐标系中的目标坐标值,还包括:
若存在与第一目标圆心之间的距离小于所述目标距离的二维搜索点,则在所述二维搜索点中确定与所述第一目标圆心距离最小的目标二维搜索点;
用所述目标二维搜索点与所述第一目标圆心之间的距离更新所述目标距离,并用所述目标二维搜索点对应的三维搜索点更新所述三维起始点;
将更新后的所述三维起始点映射至所述目标二维坐标系,更新所述二维起始点;
通过与更新后的三维起始点相邻的目标三维点更新所述三维搜索点,并将更新后的三维搜索点映射至所述目标二维坐标系以更新所述二维搜索点。
3.根据权利要求1所述方法,其特征在于,将所述目标三维点投影至所述目标平面所在的目标二维坐标系,获得目标二维点,包括:
在所述目标三维点中确定所述目标平面的目标三维轮廓点;
将所述目标三维轮廓点投影至所述目标二维坐标系,获得目标二维轮廓点,以便根据所述目标二维轮廓点确定所述目标多边形。
4.根据权利要求1所述方法,其特征在于,还包括:
获取所述目标三维坐标系下的第二目标三维图像,所述第一目标三维图像和所述第二目标三维图像中均包括目标物体,所述目标物体包括目标圆形平面;
在所述第二目标三维图像中确定第二目标圆以及所述第二目标圆的第二目标圆心的第二圆心坐标值;
确定所述第一目标圆心与采集所述第一目标三维图像的图像采集设备之间的第一距离;
确定所述第二目标圆心与采集所述第二目标三维图像的图像采集设备之间的第二距离;
根据所述第一距离、所述第二距离、所述第一目标圆心坐标值以及所述第二目标圆心坐标值,确定所述目标物体的目标圆形平面的目标圆心坐标值。
5.根据权利要求4所述方法,其特征在于,还包括:
确定所述第一目标圆的第一半径和所述第二目标圆的第二半径;
根据所述第一距离、所述第二距离、所述第一半径以及所述第二半径,确定所述目标圆形平面的目标半径。
6.根据权利要求1所述方法,其特征在于,将所述第一目标圆心映射至所述目标三维坐标系中,获取所述第一目标圆心在所述目标三维坐标系中的目标坐标值,包括:
将所述第一目标圆心映射至所述目标三维坐标系中,获得目标映射点以及所述目标映射点的坐标值;
获取所述目标映射点与所述第一目标圆的各个三维轮廓点的距离;
若所述第一目标圆的各个三维轮廓点与所述目标映射点的距离均在目标范围内,则所述目标映射点的坐标值为所述第一目标圆心在所述目标三维坐标系中的目标坐标值。
7.根据权利要求1所述方法,其特征在于,还包括:
确定所述第一目标圆的法线;
根据所述第一目标圆的目标三维轮廓点和第一目标圆心确定所述第一目标圆的第一半径;
根据所述第一目标圆的第一圆心坐标值、第一半径以及法线,生成控制信息,所述控制信息用于控制目标机器人的足部中心与所述第一目标圆的第一圆心坐标值重合。
8.根据权利要求1所述方法,其特征在于,所述第一目标三维图像是针对目标圆柱体的目标圆形平面进行采集获得的;其中,所述方法还包括:
确定所述第一目标圆的法线;
根据所述第一目标圆的目标三维轮廓点和第一目标圆心确定所述第一目标圆的半径;
根据所述第一目标圆的第一圆心坐标值、半径、法线以及所述目标圆柱体的高,控制目标机械臂抓取所述目标圆柱体。
9.根据权利要求1所述方法,其特征在于,所述第一目标三维图像通过目标深度图获得;其中,获取目标三维坐标系下的第一目标三维图像,包括:
获取所述目标深度图,所述目标深度图通过第一图像采集设备获得;
获取所述第一图像采集设备在所述目标三维坐标系下的位姿矩阵;
根据所述第一图像采集设备的所述位姿矩阵对所述目标深度图进行坐标转换,以获得所述第一目标三维图像。
10.一种图像处理装置,其特征在于,包括:
第一目标三维图像获取模块,配置为获取目标三维坐标系下的第一目标三维图像;
目标平面获取模块,配置为通过平面拟合技术将所述第一目标三维图像中的平面图形识别出来;将从所述第一目标三维图像中识别出来的平面图形作为目标平面,以便在所述目标平面中甄别出待识别的第一目标图形,其中一个目标平面是由所述第一目标三维图像中的目标三维点构成的;
目标二维点获取模块,配置为将所述目标平面中的目标三维点投影至所述目标平面所在的目标二维坐标系,获得目标二维点;
最小外接目标图形确定模块,配置为根据所述目标二维点确定目标多边形和所述目标多边形的最小外接目标图形;
第一目标图形确定模块,配置为将目标多边形与所述最小外接目标图形的面积比大于目标阈值的目标平面识别为所述第一目标三维图像中待识别的所述第一目标图形,所述第一目标图形与所述最小外接目标图形的形状一致;所述最小外接目标图形为目标最小外接圆,所述第一目标图形为第一目标圆;其中,所述图像处理装置包括:
第一目标圆心获取单元,配置为获取所述目标最小外接圆在所述目标二维坐标系中的第一目标圆心;
第一圆心坐标值获取单元,配置为将所述第一目标圆心映射至所述目标三维坐标系中,获取所述第一目标圆心在所述目标三维坐标系中的目标坐标值,所述目标坐标值是所述第一目标圆的第一圆心坐标值;根据所述第一圆心坐标值与所述第一目标圆的三维轮廓点的坐标值,确定所述第一目标圆的半径;所述第一圆心坐标值获取单元包括:
三维起始点获取子单元,配置为在所述目标三维点中确定三维起始点;
二维起始点获取子单元,配置为将所述三维起始点映射至所述目标二维坐标系,获得二维起始点;
目标距离获取子单元,配置为获得所述二维起始点与所述第一目标圆心之间的目标距离;
二维搜索点获取子单元,配置为将与所述三维起始点相邻的目标三维点作为三维搜索点,并将所述三维搜索点映射至所述目标二维坐标系以获得二维搜索点;
目标坐标值获取子单元,配置为若各个二维搜索点与所述第一目标圆心之间的距离均大于或者等于所述目标距离,则将所述三维起始点的坐标值作为所述目标坐标值。
11.根据权利要求10所述装置,其特征在于,所述第一圆心坐标值获取单元还包括:
目标二维搜索点获取子单元,配置为若存在与第一目标圆心之间的距离小于所述目标距离的二维搜索点,则在所述二维搜索点中确定与所述第一目标圆心距离最小的目标二维搜索点;
三维起始点更新子单元,配置为用所述目标二维搜索点与所述第一目标圆心之间的距离更新所述目标距离,并用所述目标二维搜索点对应的三维搜索点更新所述三维起始点;
二维起始点更新子单元,配置为将更新后的所述三维起始点映射至所述目标二维坐标系,更新所述二维起始点;
三维搜索点更新子单元,配置为通过与更新后的三维起始点相邻的目标三维点更新所述三维搜索点,并将更新后的三维搜索点映射至所述目标二维坐标系以更新所述二维搜索点。
12.根据权利要求10所述装置,其特征在于,所述目标二维点获取模块包括:
三维轮廓点确定单元,配置为在所述目标三维点中确定所述目标平面的目标三维轮廓点;
二维轮廓点确定单元,配置为将所述目标三维轮廓点投影至所述目标二维坐标系,获得目标二维轮廓点,以便根据所述目标二维轮廓点确定所述目标多边形。
13.根据权利要求10所述装置,其特征在于,所述图像处理装置还包括:
第二目标三维图像获取模块,配置为获取所述目标三维坐标系下的第二目标三维图像,所述第一目标三维图像和所述第二目标三维图像中均包括目标物体,所述目标物体包括目标圆形平面;
第二目标圆获取模块,配置为在所述第二目标三维图像中确定第二目标圆以及所述第二目标圆的第二目标圆心的第二圆心坐标值;
第一距离确定模块,配置为确定所述第一目标圆心与采集所述第一目标三维图像的图像采集设备之间的第一距离;
第二距离确定模块,配置为确定所述第二目标圆心与采集所述第二目标三维图像的图像采集设备之间的第二距离;
目标圆心坐标值确定模块,配置为根据所述第一距离、所述第二距离、所述第一目标圆心坐标值以及所述第二目标圆心坐标值,确定所述目标物体的目标圆形平面的目标圆心坐标值。
14.根据权利要求13所述装置,其特征在于,所述图像处理装置还包括:
半径获取模块,配置为确定所述第一目标圆的第一半径和所述第二目标圆的第二半径;
目标半径确定模块,配置为根据所述第一距离、所述第二距离、所述第一半径以及所述第二半径,确定所述目标圆形平面的目标半径。
15.根据权利要求10所述装置,其特征在于,所述第一圆心坐标值获取单元包括:
映射点获取单元,配置为将所述第一目标圆心映射至所述目标三维坐标系中,获得目标映射点以及所述目标映射点的坐标值;
距离获取子单元,配置为获取所述目标映射点与所述第一目标圆的各个三维轮廓点的距离;
目标坐标值获取子单元,配置为若所述第一目标圆的各个三维轮廓点与所述目标映射点的距离均在目标范围内,则所述目标映射点的坐标值为所述第一目标圆心在所述目标三维坐标系中的目标坐标值。
16.根据权利要求10所述装置,其特征在于,所述图像处理装置还包括:
第一法线确定模块,配置为确定所述第一目标圆的法线;
第一半径获取模块,配置为根据所述第一目标圆的目标三维轮廓点和第一目标圆心确定所述第一目标圆的第一半径;
机器人控制模块,配置为根据所述第一目标圆的第一圆心坐标值、第一半径以及法线,生成控制信息,所述控制信息用于控制目标机器人的足部中心与所述第一目标圆的第一圆心坐标值重合。
17.根据权利要求10所述装置,其特征在于,所述第一目标三维图像是针对目标圆柱体的目标圆形平面进行采集获得的;其中,所述图像处理装置包括:
第二法线确定模块,配置为确定所述第一目标圆的法线;
第二目标圆半径确定模块,配置为根据所述第一目标圆的目标三维轮廓点和第一目标圆心确定所述第一目标圆的半径;
机械臂控制模块,配置为根据所述第一目标圆的第一圆心坐标值、半径、法线以及所述目标圆柱体的高,控制目标机械臂抓取所述目标圆柱体。
18.根据权利要求10所述装置,其特征在于,所述第一目标三维图像通过目标深度图获得;其中,所述第一目标三维图像获取模块包括:
目标深度图获取单元,配置为获取所述目标深度图,所述目标深度图通过第一图像采集设备获得;
位姿矩阵获取单元,配置为获取所述第一图像采集设备在所述目标三维坐标系下的位姿矩阵;
第一目标三维图像获取单元,配置为根据所述第一图像采集设备的所述位姿矩阵对所述目标深度图进行坐标转换,以获得所述第一目标三维图像。
19.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-9中任一项所述的方法。
20.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-9中任一项所述的方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010825936.3A CN112052847B (zh) | 2020-08-17 | 2020-08-17 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
EP21857355.8A EP4198776A4 (en) | 2020-08-17 | 2021-06-28 | IMAGE PROCESSING METHOD AND APPARATUS, ELECTRONIC DEVICE AND COMPUTER-READABLE STORAGE MEDIUM |
PCT/CN2021/102741 WO2022037259A1 (zh) | 2020-08-17 | 2021-06-28 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
US17/901,704 US20220415064A1 (en) | 2020-08-17 | 2022-09-01 | Image processing method and apparatus, electronic device, and computer-readable storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010825936.3A CN112052847B (zh) | 2020-08-17 | 2020-08-17 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112052847A CN112052847A (zh) | 2020-12-08 |
CN112052847B true CN112052847B (zh) | 2024-03-26 |
Family
ID=73599376
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010825936.3A Active CN112052847B (zh) | 2020-08-17 | 2020-08-17 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220415064A1 (zh) |
EP (1) | EP4198776A4 (zh) |
CN (1) | CN112052847B (zh) |
WO (1) | WO2022037259A1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112052847B (zh) * | 2020-08-17 | 2024-03-26 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
CN113199479B (zh) * | 2021-05-11 | 2023-02-10 | 梅卡曼德(北京)机器人科技有限公司 | 轨迹生成方法、装置、电子设备、存储介质和3d相机 |
CN113989492A (zh) * | 2021-10-28 | 2022-01-28 | 联影(常州)医疗科技有限公司 | 一种生成感兴趣区域的方法及系统 |
CN116977530A (zh) * | 2023-07-11 | 2023-10-31 | 优酷网络技术(北京)有限公司 | 三维模型的处理方法、装置、电子设备及介质 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1136685A (zh) * | 1994-02-23 | 1996-11-27 | 松下电工株式会社 | 识别三维空间目标物的方法 |
CN101019772A (zh) * | 2007-03-28 | 2007-08-22 | 新奥博为技术有限公司 | 一种基于3d序列高精度成像的球心定位方法 |
CN101499132A (zh) * | 2009-03-12 | 2009-08-05 | 广东药学院 | 一种人脸图像中特征点提取的三维变换搜索方法 |
CN102316337A (zh) * | 2011-05-16 | 2012-01-11 | 深圳超多维光电子有限公司 | 一种2d-3d显示模式切换的方法和相应的显示设备 |
CN105844631A (zh) * | 2016-03-21 | 2016-08-10 | 湖南拓视觉信息技术有限公司 | 一种目标定位方法及装置 |
CN106204540A (zh) * | 2016-06-29 | 2016-12-07 | 上海晨兴希姆通电子科技有限公司 | 视觉检测方法 |
CN106780617A (zh) * | 2016-11-24 | 2017-05-31 | 北京小鸟看看科技有限公司 | 一种虚拟现实系统及其定位方法 |
CN107194954A (zh) * | 2017-03-31 | 2017-09-22 | 上海体育学院 | 多视角视频的球员追踪方法和装置 |
CN109242874A (zh) * | 2018-09-26 | 2019-01-18 | 广东工业大学 | 一种准编织袋物流包裹快速识别方法及系统 |
CN110942476A (zh) * | 2019-10-17 | 2020-03-31 | 湖南大学 | 基于二维图像引导的改进三维点云配准方法、系统及可读存储介质 |
CN111065048A (zh) * | 2019-12-11 | 2020-04-24 | 哈尔滨工程大学 | 基于量子风驱动机制的多无人机tdoa三维协同定位方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013101045A (ja) * | 2011-11-08 | 2013-05-23 | Fanuc Ltd | 物品の3次元位置姿勢の認識装置及び認識方法 |
US10671835B2 (en) * | 2018-03-05 | 2020-06-02 | Hong Kong Applied Science And Technology Research Institute Co., Ltd. | Object recognition |
CN110243360B (zh) * | 2018-03-08 | 2022-02-22 | 深圳市优必选科技有限公司 | 机器人在运动区域的地图构建及定位方法 |
CN111354042B (zh) * | 2018-12-24 | 2023-12-01 | 深圳市优必选科技有限公司 | 机器人视觉图像的特征提取方法、装置、机器人及介质 |
CN110135278B (zh) * | 2019-04-23 | 2023-05-12 | 腾讯科技(上海)有限公司 | 一种障碍物检测方法、装置及电子设备 |
CN112052847B (zh) * | 2020-08-17 | 2024-03-26 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
-
2020
- 2020-08-17 CN CN202010825936.3A patent/CN112052847B/zh active Active
-
2021
- 2021-06-28 WO PCT/CN2021/102741 patent/WO2022037259A1/zh active Application Filing
- 2021-06-28 EP EP21857355.8A patent/EP4198776A4/en active Pending
-
2022
- 2022-09-01 US US17/901,704 patent/US20220415064A1/en active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1136685A (zh) * | 1994-02-23 | 1996-11-27 | 松下电工株式会社 | 识别三维空间目标物的方法 |
CN101019772A (zh) * | 2007-03-28 | 2007-08-22 | 新奥博为技术有限公司 | 一种基于3d序列高精度成像的球心定位方法 |
CN101499132A (zh) * | 2009-03-12 | 2009-08-05 | 广东药学院 | 一种人脸图像中特征点提取的三维变换搜索方法 |
CN102316337A (zh) * | 2011-05-16 | 2012-01-11 | 深圳超多维光电子有限公司 | 一种2d-3d显示模式切换的方法和相应的显示设备 |
CN105844631A (zh) * | 2016-03-21 | 2016-08-10 | 湖南拓视觉信息技术有限公司 | 一种目标定位方法及装置 |
CN106204540A (zh) * | 2016-06-29 | 2016-12-07 | 上海晨兴希姆通电子科技有限公司 | 视觉检测方法 |
CN106780617A (zh) * | 2016-11-24 | 2017-05-31 | 北京小鸟看看科技有限公司 | 一种虚拟现实系统及其定位方法 |
CN107194954A (zh) * | 2017-03-31 | 2017-09-22 | 上海体育学院 | 多视角视频的球员追踪方法和装置 |
CN109242874A (zh) * | 2018-09-26 | 2019-01-18 | 广东工业大学 | 一种准编织袋物流包裹快速识别方法及系统 |
CN110942476A (zh) * | 2019-10-17 | 2020-03-31 | 湖南大学 | 基于二维图像引导的改进三维点云配准方法、系统及可读存储介质 |
CN111065048A (zh) * | 2019-12-11 | 2020-04-24 | 哈尔滨工程大学 | 基于量子风驱动机制的多无人机tdoa三维协同定位方法 |
Non-Patent Citations (3)
Title |
---|
Chenhang Zhou et al..A Method of Two-Dimensional Otsu Image Threshold Segmentation Based on Improved Firefly Algorithm.The 5th Annual IEEE International Conference on Cyber Technology in Automation, Control and Intelligent Systems.2015,全文. * |
易法令 ; 熊伟 ; 黄展鹏 ; 赵洁 ; .基于三维变换形状搜索的ASM人脸特征点定位.计算机应用.2010,(03),全文. * |
马天航等.一种基于人工提取缺陷块的边界搜索方法.无损检测.2020,第42卷(第8期),全文. * |
Also Published As
Publication number | Publication date |
---|---|
US20220415064A1 (en) | 2022-12-29 |
CN112052847A (zh) | 2020-12-08 |
WO2022037259A1 (zh) | 2022-02-24 |
EP4198776A1 (en) | 2023-06-21 |
EP4198776A4 (en) | 2024-01-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112052847B (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
TWI662388B (zh) | 機器人之避障控制系統及方法 | |
US11145073B2 (en) | Computer vision systems and methods for detecting and modeling features of structures in images | |
CN108827249B (zh) | 一种地图构建方法和装置 | |
CN109509255B (zh) | 一种标签化地图构建及空间地图更新方法和装置 | |
KR102472767B1 (ko) | 신뢰도에 기초하여 깊이 맵을 산출하는 방법 및 장치 | |
EP3624063A1 (en) | Electronic device localization based on imagery | |
JP2019121136A (ja) | 情報処理装置、情報処理システムおよび情報処理方法 | |
CN112150551A (zh) | 物体位姿的获取方法、装置和电子设备 | |
CN111767853B (zh) | 车道线检测方法和装置 | |
CN113052907B (zh) | 一种动态环境移动机器人的定位方法 | |
CN113724368B (zh) | 图像采集系统、三维重建方法、装置、设备以及存储介质 | |
CN115578433B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
WO2024087962A1 (zh) | 车厢姿态识别系统、方法、电子设备及存储介质 | |
CN115719436A (zh) | 模型训练方法、目标检测方法、装置、设备以及存储介质 | |
US20230401799A1 (en) | Augmented reality method and related device | |
KR20230049969A (ko) | 글로벌 측위 장치 및 방법 | |
CN111665490B (zh) | 目标跟踪方法和装置、存储介质及电子装置 | |
CN109145681B (zh) | 用于判断目标旋转方向的方法及装置 | |
JP2019507934A (ja) | 3次元運動評価装置、3次元運動評価方法、及びプログラム | |
CN115773759A (zh) | 自主移动机器人的室内定位方法、装置、设备及存储介质 | |
CN115578432A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN114693515A (zh) | 图像变形方法及装置、电子设备和存储介质 | |
CN114463617A (zh) | 锚护钢带安装孔的识别装置、方法、设备、介质及产品 | |
CN115115699A (zh) | 姿态估计方法、装置、相关设备和计算机产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |