CN111540045A - 机械臂及其三维重建方法和装置 - Google Patents

Abstract

本申请适用于机械臂技术领域，提供一种机械臂及其三维重建方法和装置，通过机械臂定义三维空间并体素化三维空间，获得体素网格；旋转拍摄目标场景，获得目标场景的多帧第一深度图像；分别根据每帧第一深度图像和体素网格，获得与每帧第一深度图像对应的第一有向距离场图像；分别根据每帧第一有向距离场图像，获得每帧第一有向距离场图像中的每个前景物体的三维包围盒；分别根据每个前景物体的三维包围盒，依次抓取每个前景物体进行多角度拍摄，获得每个前景物体的多帧第二有向距离场图像；分别对每个前景物体的多帧第二有向距离场图像进行融合，从而可以通过机械臂快速、精确的自动获得每个前景物体的三维模型并存储。

Description

机械臂及其三维重建方法和装置

技术领域

本申请属于机械臂技术领域，尤其涉及一种机械臂及其三维重建方法和装置。

背景技术

物体抓取任务是机械臂的常见任务之一。通过图像识别和定位物体的方法来抓取物体，受环境光线和物体形状的影响较大，抓取成功率较低。抓取成功率更高的方法是基于三维模型的匹配方法，该方法通过深度相机获取物体的部分点云数据，然后与物体的已知三维模型进行匹配。由于基于三维模型的匹配方法需要事先获取物体的三维数据，如何快速、精确的获取物体的三维模型是机械臂抓取成功的关键。

发明内容

有鉴于此，本申请实施例提供了一种机械臂及其三维重建方法和装置，能够通过机械臂快速、精确的自动获取物体的三维模型。

本申请实施例的第一方面提供了一种三维重建方法，应用于机械臂，所述方法包括：

定义三维空间并体素化所述三维空间，获得体素网格；

旋转拍摄目标场景，获得所述目标场景的多帧第一深度图像；其中，所述目标场景包括背景物体和至少一个前景物体，所述前景物体放置于所述背景物体的表面；

分别根据每帧所述第一深度图像和所述体素网格，获得与每帧所述第一深度图像对应的第一有向距离场图像；

分别根据每帧所述第一有向距离场图像，获得每帧所述第一有向距离场图像中的每个前景物体的三维包围盒；

分别根据每个所述前景物体的三维包围盒，依次抓取每个所述前景物体进行多角度拍摄，获得每个所述前景物体的多帧第二有向距离场图像；

分别对每个所述前景物体的多帧第二有向距离场图像进行融合，获得每个所述前景物体的三维模型并存储。

本申请实施例的第二方面提供了一种三维重建装置，应用于机械臂，所述装置包括：

体素化模块，用于定义三维空间并体素化所述三维空间，获得体素网格；

第一控制模块，用于旋转拍摄目标场景，获得所述目标场景的多帧第一深度图像；其中，所述目标场景包括背景物体和至少一个前景物体，所述前景物体放置于所述背景物体的表面；

第一计算模块，用于分别根据每帧所述第一深度图像和所述体素网格，获得与每帧所述第一深度图像对应的第一有向距离场图像；

第二计算模块，用于分别根据每帧所述第一有向距离场图像，获得每帧所述第一有向距离场图像中的每个前景物体的三维包围盒；

第二控制模块，用于分别根据每个所述前景物体的三维包围盒，依次抓取每个所述前景物体进行多角度拍摄，获得每个所述前景物体的多帧第二有向距离场图像；

第三计算模块，用于分别对每个所述前景物体的多帧第二有向距离场图像进行融合，获得每个所述前景物体的三维模型并存储。

本申请实施例的第三方面提供了机械臂，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，还包括机械夹爪和深度相机，所述处理器执行所述计算机程序时实现如本申请实施例的第一方面所述方法的步骤。

本申请实施例的第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如本申请实施例的第一方面所述方法的步骤。

本申请实施例的第一方面提供的三维重建方法，通过机械臂定义三维空间并体素化三维空间，获得体素网格；旋转拍摄目标场景，获得目标场景的多帧第一深度图像；分别根据每帧第一深度图像和体素网格，获得与每帧第一深度图像对应的第一有向距离场图像；分别根据每帧第一有向距离场图像，获得每帧第一有向距离场图像中的每个前景物体的三维包围盒；分别根据每个前景物体的三维包围盒，依次抓取每个前景物体进行多角度拍摄，获得每个前景物体的多帧第二有向距离场图像；分别对每个前景物体的多帧第二有向距离场图像进行融合，从而可以通过机械臂快速、精确的自动获得每个前景物体的三维模型并存储。

可以理解的是，上述第二方面至第四方面的有益效果可以参见上述第一方面中的相关描述，在此不再赘述。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请实施例提供的三维重建方法的第一种流程示意图；

图2是本申请实施例提供的一个眼在手外机械臂和目标场景的示意图；

图3是本申请实施例提供的一个立方体型的体素网格的示意图；

图4是本申请实施例提供的一张SDF图像；

图5是本申请实施例提供的通过零水平集分割方法分割后的第一有向距离场图像；

图6是本申请实施例提供的前景物体的三维包围盒的示意图；

图7是本申请实施例提供的一个前景物体的六个不同角度的第二有向距离场图像；

图8是本申请实施例提供的一个表示为三角形网格的前景物体的三维模型的示意图；

图9是本申请实施例提供的三维重建方法的第二种流程示意图；

图10是本申请实施例提供的填补网格空洞之前和之后的前景物体的三维模型的示意图；

图11是本申请实施例提供的包括飞点的前景物体的三维模型的示意图；

图12是本申请实施例提供的三维重建装置的结构示意图；

图13是本申请实施例提供的机械臂的结构示意图。

具体实施方式

以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。

应当理解，当在本申请说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

如在本申请说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。

另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。

本申请实施例提供一种应用于机械臂的三维重建方法，具体可以由机械臂的处理器来执行，用于快速、精确的自动获取物体的三维模型并存储，从而可以在后续需要抓取物体时，根据已存储的物体的三维模型，准确的识别和定位物体并抓取。

在应用中，机械臂可以是设置有机械夹爪、深度相机和处理器的任意类型的自动化机械臂，例如，眼在手上（Eye-in-Hand）机械臂或眼在手外（Eye-To-Hand）机械臂。机械夹爪的爪数可以根据实际需要进行选择，例如，二爪。深度相机可以是RGB-D相机或飞行时间（Time Of Flight，TOF）相机。机械夹爪和深度相机事先已经通过手眼标定方法进行标定，从而已知机械夹爪坐标系、相机坐标系和世界坐标系之间的转换关系。

如图1所示，本申请实施例提供的三维重建方法，包括：

步骤S101、定义三维空间并体素化所述三维空间，获得体素网格。

在应用中，三维空间可以根据需要预先进行自定义设置为可全面覆盖目标场景的大小和形状，体素网格所包括的体素的数量也可以根据实际需要预先进行自定义设置，例如，三维空间是大小为515×512×512的立方体空间，体素网格包括515×512×512个体素，每个体素的大小为1×1×1。目标场景包括背景物体和至少一个前景物体，前景物体为机械臂需要抓取的物体，背景物体用于放置前景物体。背景物体可以是工作台、桌面或地面等，工作台具体可以是流水线工作台。前景物体可以是放置于背景物体的表面的任意物体，例如，当背景物体是流水线工作台时，前景物体是位于流水线工作台的产品。背景物体的表面为平面或近似平面，该表面的颜色区别于前景物体且纹理单一，便于在后续的图像处理过程中分离背景物体和前景物体。

如图2所示，示例性的示出了一个眼在手外机械臂1和目标场景2；其中，位于目标场景2中的背景物体标识为21和前景物体标识为22。

如图3所示，示例性的示出了一个立方体型的体素网格3；其中，位于体素网格3中的体素标识为31。

步骤S102、旋转拍摄目标场景，获得所述目标场景的多帧第一深度图像；其中，所述目标场景包括背景物体和至少一个前景物体，所述前景物体放置于所述背景物体的表面。

在应用中，需要事先在保证机械夹爪和深度相机的相对位置不变的情况下，调整机械臂的位置，以使深度相机的视野覆盖整个目标场景。然后控制深度相机绕平行于背景物体的表面的平面旋转一周（360°），并在旋转过程中连续拍摄目标场景，得到目标场景的多帧第一深度图像。多帧第一深度图像的帧数的上限值由深度相机的帧率和机械臂的旋转速度决定。

步骤S103、分别根据每帧所述第一深度图像和所述体素网格，获得与每帧所述第一深度图像对应的第一有向距离场图像。

在应用中，通过对每帧第一深度图像中的像素点和体素网格中的体素的位置坐标进行坐标转换和计算，可以得到与每帧第一深度图像对应的第一有向距离场（SignedDistance Fileds，SDF）图像。

在一个实施例中，步骤S103包括：

将所述体素网格中的每个体素g转换为世界坐标系下的三维位置点p；

分别根据与每帧所述第一深度图像对应的相机位姿矩阵（Camera Pose Matrix）T，获得与每帧所述第一深度图像对应的映射点v，所述映射点v为所述三维位置点p在相机坐标系下的映射点；

分别根据与每帧所述第一深度图像对应的相机内参矩阵（Intrinsic Matrix），将与每帧所述第一深度图像对应的映射点v反投影至每帧所述第一深度图像，获得每帧所述第一深度图像中与映射点v对应的像素点x；

分别根据与每帧所述第一深度图像对应的映射点v和每帧所述第一深度图像中与映射点v对应的像素点x，获得与每帧所述第一深度图像对应的第一有向距离场值(SDF值)并融合至对应的体素的顶点；

确定所述体素网格中第一有向距离场值为0(SDF值=0)的点；

分别根据与每帧所述第一深度图像对应的相机内参数和相机外参数，将所述体素网格中第一有向距离场值为0的点反投影至每帧所述第一深度图像，获得与每帧所述第一深度图像对应的第一有向距离场图像。

在应用中，世界坐标系可以根据实际需要进行设定，例如，可以将世界坐标系设置为机械臂坐标系。可以通过Kinect Fusion（融合）：基于移动深度相机的实时三维重建与交互（real-time 3d reconstruction and interaction using a moving depth camera）方法，分别根据每帧第一深度图像对应的映射点v和每帧第一深度图像中与映射点v对应的像素点x，计算得到与每帧第一深度图像对应的SDF值并融合到对应的体素的顶点。SDF值=0的点位于体素网格的顶点或边，也即SDF值=0的点位于前景物体的表面。

如图4所示，示例性的示出了一张SDF图像。

步骤S104、分别根据每帧所述第一有向距离场图像，获得每帧所述第一有向距离场图像中的每个前景物体的三维包围盒。

在应用中，可以通过零水平集（zero level-set）分割方法对每帧SDF图像进行分割，将每帧SDF图像中的前景物体与背景物体分离，从而可以进一步的得到每个前景物体的三维包围盒（3D Bounding Box）。

在一个实施例中，步骤S104包括：

通过零水平集分割方法分别对每帧所述第一有向距离场图像进行分割，以分离每帧所述第一有向距离场图像中的背景物体和前景物体；

分别根据分离出的每帧所述第一有向距离场图像中的每个前景物体，获得每个所述前景物体的三维包围盒。

如图5所示，示例性的示出了通过零水平集分割方法分割后的第一有向距离场图像。

如图6所示，示例性的示出了示出了前景物体的三维包围盒。

步骤S105、分别根据每个所述前景物体的三维包围盒，依次抓取每个所述前景物体进行多角度拍摄，获得每个所述前景物体的多帧第二有向距离场图像。

在应用中，机械臂根据一个前景物体的三维包围盒识别并定位该前景物体，然后抓取该前景物体并进行多角度拍摄，获得涵盖该前景物体的全部点的多帧第二深度图像，然后根据与步骤S103中相同的方法，获得该前景物体的多帧第二有向距离场图像。在获得一个前景物体的第二有向距离场图像之后，可继续按照相同方法获取下一个前景物体的第二有向距离场图像。

如图7所示，示例性的示出了一个前景物体的六个不同角度的第二有向距离场图像。

步骤S106、分别对每个所述前景物体的多帧第二有向距离场图像进行融合，获得每个所述前景物体的三维模型并存储。

在应用中，在获得一个前景物体的多帧第二有向距离场图像之后，机械臂采用三维重建方法对该前景物体的多帧第二有向距离场图像进行融合，获得该前景物体的三维模型并存储。机械臂可以按照相同的方法继续获取下一个前景物体的多帧第二有向距离场图像，然后进行融合获得下一个前景物体的三维模型并存储。三维重建方法具体可以是Kinect Fusion（融合）：基于移动深度相机的实时三维重建与交互（real-time 3dreconstruction and interaction using a moving depth camera）方法、基于空间变化光照下结合处外观与几何优化的高质量三维重建（High-Quality 3D Reconstruction byJoint Appearance and Geometry Optimization with Spatially-Varying Lighting）方法或移动设备上深度图像的甚高频体积积分（Very High Frame Rate VolumetricIntegration of Depth Images on Mobile Device）方法。前景物体的三维模型具体可以存储为立体光刻（StereoLithography，STL）格式，便于在后续需要抓取物体时进行调用。

如图8所示，示例性的示出了一个表示为三角形网格的前景物体的三维模型。

在一个实施例中，步骤S105包括：

根据一个所述前景物体的三维包围盒，抓取一个所述前景物体并归位；

对一个所述前景物体进行多角度拍摄，获得一个所述前景物体的多帧第二有向距离场图像；

对应的，步骤S106包括：

对一个所述前景物体的多帧第二有向距离场图像进行融合，获得一个所述前景物体的三维模型并存储；

将一个所述前景物体放置于所述目标场景之外的其他区域并归位，返回执行根据一个所述前景物体的三维包围盒，抓取一个所述前景物体并归位的步骤，以获得下一个所述前景物体的三维模型并存储。

在应用中，归位是指机械夹爪归位，使得机械夹爪回归到与深度相机之间的相对位置保持不变的初始位置，相机在机械臂上的位置始终保持不变，仅机械夹爪转动，以使深度相机从多个角度拍摄前景物体的深度图像，然后根据与步骤S103中相同的方法，获得前景物体的多帧第二有向距离场图像。获得一个前景物体的三维模型并存储之后，机械臂将该前景物体放置于目标场景之外的其他区域并控制机械夹爪归位。其他区域可以是机械臂的运动范围内除了目标场景所在区域之外的其他任意区域。在存在下一个前景物体的情况下，机械臂可以按照相同的方法继续获取下一个前景物体的多帧第二有向距离场图像，然后进行融合获得下一个前景物体的三维模型并存储。如果不存在下一个前景物体，则所有前景物体的三维模型都获取完毕，可以在后续需要抓取物体时，根据已存储的前景物体的三维模型，准确的识别和定位物体并抓取。

如图9所示，在一个实施例中，步骤S106之后，还包括：

S107、分别通过网格补洞算法填补每个所述前景物体的三维模型中的网格空洞；

S108、分别去除每个所述前景物体的三维模型中邻接网格的数量小于预设数量的网格，得到优化后的每个所述前景物体的三维模型。

在应用中，获得的前景物体的三维模型的表面可能会存在网格空洞和飞点（邻接网格的数量小于预设数量的网格），需要进行优化去除。网格补洞算法具体可以是P. Liepa的网格补洞（Filling holes in meshes）算法。邻接网格是指有公共边的相邻网格。预设数量可以根据实际需要进行设置，当前景物体的三维模型表示为三角形网格时，预设数量可以设置为3，当前景物体的三维模型表示为矩形网格时，预设数量可以设置为4，也即预设数量等于用于表示三维模型的网格形状的边数。

在一个实施例中，步骤S108包括：

分别根据每个所述前景物体的三维模型的网格信息，构建与每个所述前景物体对应的半边数据结构；

分别遍历与每个所述前景物体对应的半边数据结构，去除邻接网格的数量小于预设数量的网格，得到优化后的每个所述前景物体的三维模型。

在应用中，可以通过半边数据结构（The Half-Edge Data Structure）来获取每个前景物体的三维模型中有连接关系的顶点和边，从而可以去除无连接关系或连接关系较少的网格。

如图10所示，示例性的示出了填补网格空洞之前的前景物体的三维模型（左图）和填补网格空洞之后的前景物体的三维模型（右图）。

如图11所示，示例性的示出了包括飞点的前景物体的三维模型；其中，与下方的大块连通区域未连接的部分为飞点。

本实施例提供的三维重建方法，通过机械臂定义三维空间并体素化三维空间，获得体素网格；旋转拍摄目标场景，获得目标场景的多帧第一深度图像；分别根据每帧第一深度图像和体素网格，获得与每帧第一深度图像对应的第一有向距离场图像；分别根据每帧第一有向距离场图像，获得每帧第一有向距离场图像中的每个前景物体的三维包围盒；分别根据每个前景物体的三维包围盒，依次抓取每个前景物体进行多角度拍摄，获得每个前景物体的多帧第二有向距离场图像；分别对每个前景物体的多帧第二有向距离场图像进行融合，从而可以通过机械臂快速、精确的自动获得每个前景物体的三维模型并存储。

应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。

本申请实施例还提供一种三维重建装置，用于执行上述三维重建方法实施例中的方法步骤，该三维重建装置可以是机械臂中的虚拟装置（virtual appliance），由机械臂的处理器运行，也可以是机械臂本身。

如图12所示，本申请实施例的三维重建装置100，包括：

体素化模块101，用于定义三维空间并体素化所述三维空间，获得体素网格；

第一控制模块102，用于旋转拍摄目标场景，获得所述目标场景的多帧第一深度图像；其中，所述目标场景包括背景物体和至少一个前景物体，所述前景物体放置于所述背景物体的表面；

第一计算模块103，用于分别根据每帧所述第一深度图像和所述体素网格，获得与每帧所述第一深度图像对应的第一有向距离场图像；

第二计算模块104，用于分别根据每帧所述第一有向距离场图像，获得每帧所述第一有向距离场图像中的每个前景物体的三维包围盒；

第二控制模块105，用于分别根据每个所述前景物体的三维包围盒，依次抓取每个所述前景物体进行多角度拍摄，获得每个所述前景物体的多帧第二有向距离场图像；

第三计算模块106，用于分别对每个所述前景物体的多帧第二有向距离场图像进行融合，获得每个所述前景物体的三维模型并存储。

在一个实施例中，所述三维重建装置还包括优化模块，用于：

分别通过网格补洞算法填补每个所述前景物体的三维模型中的网格空洞；

分别去除每个所述前景物体的三维模型中邻接网格的数量小于预设数量的网格，得到优化后的每个所述前景物体的三维模型。

在应用中，三维重建装置中的各模块可以为软件程序模块，也可以通过处理器中集成的不同逻辑电路实现，还可以通过多个分布式处理器实现。

如图13所示，本申请实施例还提供一种机械臂200，其包括：至少一个处理器201（图13中仅示出一个）处理器、存储器202以及存储在所述存储器202中并可在所述至少一个处理器201上运行的计算机程序203，还包括机械夹爪204和深度相机205，所述处理器201执行所述计算机程序203时实现上述三维重建方法实施例中的步骤。

在应用中，该机械臂可包括，但不仅限于，处理器、存储器、机械夹爪和深度相机。本领域技术人员可以理解，图13仅仅是机械臂的举例，并不构成对机械臂的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如还可以包括输入输出设备、网络接入设备等。

在应用中，处理器可以是中央处理单元（Central Processing Unit，CPU），该处理器还可以是其他通用处理器、数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（Application Specific Integrated Circuit，ASIC）、现成可编程门阵列（Field-Programmable Gate Array，FPGA）或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

在应用中，存储器在一些实施例中可以是机械臂的内部存储单元，例如机械臂的硬盘或内存。存储器在另一些实施例中也可以是机械臂的外部存储设备，例如机械臂上配备的插接式硬盘，智能存储卡（Smart Media Card，SMC），安全数字（Secure Digital，SD）卡，闪存卡（Flash Card）等。进一步地，存储器还可以既包括机械臂的内部存储单元也包括外部存储设备。存储器用于存储操作系统、应用程序、引导装载程序（BootLoader）、数据以及其他程序等，例如计算机程序的程序代码等。存储器还可以用于暂时地存储已经输出或者将要输出的数据。

需要说明的是，上述装置/模块之间的信息交互、执行过程等内容，由于与本申请方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中，上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。另外，各功能模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

本申请实施例还提供了一种机械臂，该机械臂包括：至少一个处理器、存储器以及存储在所述存储器中并可在所述至少一个处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述各个三维重建方法实施例中的步骤。

本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现可实现上述各个三维重建方法实施例中的步骤。

本申请实施例提供了一种计算机程序产品，当计算机程序产品在机械臂上运行时，使得机械臂执行时实现可实现上述各个三维重建方法实施例中的步骤。

所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括：能够将计算机程序代码携带到机械臂的任何实体或装置、记录介质、计算机存储器、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，Random Access Memory）、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的模块及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

在本申请所提供的实施例中，应该理解到，所揭露的机械臂和方法，可以通过其它的方式实现。例如，以上所描述的机械臂实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个模块或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或模块的间接耦合或通讯连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

以上所述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种三维重建方法，其特征在于，应用于机械臂，所述方法包括：

定义三维空间并体素化所述三维空间，获得体素网格；

旋转拍摄目标场景，获得所述目标场景的多帧第一深度图像；其中，所述目标场景包括背景物体和至少一个前景物体，所述前景物体放置于所述背景物体的表面；

分别根据每帧所述第一深度图像和所述体素网格，获得与每帧所述第一深度图像对应的第一有向距离场图像；

分别根据每帧所述第一有向距离场图像，获得每帧所述第一有向距离场图像中的每个前景物体的三维包围盒；

分别根据每个所述前景物体的三维包围盒，依次抓取每个所述前景物体进行多角度拍摄，获得每个所述前景物体的多帧第二有向距离场图像；

分别对每个所述前景物体的多帧第二有向距离场图像进行融合，获得每个所述前景物体的三维模型并存储。

2.如权利要求1所述的三维重建方法，其特征在于，还包括：

分别通过网格补洞算法填补每个所述前景物体的三维模型中的网格空洞；

分别去除每个所述前景物体的三维模型中邻接网格的数量小于预设数量的网格，得到优化后的每个所述前景物体的三维模型。

3.如权利要求2所述的三维重建方法，其特征在于，分别去除每个所述前景物体的三维模型中邻接网格的数量小于预设数量的网格，得到优化后的每个所述前景物体的三维模型，包括：

分别根据每个所述前景物体的三维模型的网格信息，构建与每个所述前景物体对应的半边数据结构；

分别遍历与每个所述前景物体对应的半边数据结构，去除邻接网格的数量小于预设数量的网格，得到优化后的每个所述前景物体的三维模型。

4.如权利要求1所述的三维重建方法，其特征在于，分别根据每帧所述第一深度图像和所述体素网格，获得与每帧所述第一深度图像对应的第一有向距离场图像，包括：

将所述体素网格中的每个体素转换为世界坐标系下的三维位置点；

分别根据与每帧所述第一深度图像对应的相机位姿矩阵，获得与每帧所述第一深度图像对应的映射点，所述映射点为所述三维位置点在相机坐标系下的映射点；

分别根据与每帧所述第一深度图像对应的相机内参矩阵，将与每帧所述第一深度图像对应的映射点反投影至每帧所述第一深度图像，获得每帧所述第一深度图像中与映射点对应的像素点；

分别根据与每帧所述第一深度图像对应的映射点和每帧所述第一深度图像中与映射点对应的像素点，获得与每帧所述第一深度图像对应的第一有向距离场值并融合至对应的体素的顶点；

确定所述体素网格中第一有向距离场值为0的点；

分别根据与每帧所述第一深度图像对应的相机内参数和相机外参数，将所述体素网格中第一有向距离场值为0的点反投影至每帧所述第一深度图像，获得与每帧所述第一深度图像对应的第一有向距离场图像。

5.如权利要求1所述的三维重建方法，其特征在于，分别根据每帧所述第一有向距离场图像，获得每帧所述第一有向距离场图像中的每个前景物体的三维包围盒，包括：

分别通过零水平集分割方法对每帧所述第一有向距离场图像进行分割，以分离每帧所述第一有向距离场图像中的背景物体和前景物体；

分别根据分离出的每帧所述第一有向距离场图像中的每个前景物体，获得每个所述前景物体的三维包围盒。

6.如权利要求1~5任一项所述的三维重建方法，其特征在于，分别根据每个所述前景物体的三维包围盒，依次抓取每个所述前景物体进行多角度拍摄，获得每个所述前景物体的多帧第二有向距离场图像，包括：

根据一个所述前景物体的三维包围盒，抓取一个所述前景物体并归位；

对一个所述前景物体进行多角度拍摄，获得一个所述前景物体的多帧第二有向距离场图像；

分别对每个所述前景物体的多帧第二有向距离场图像进行融合，获得每个所述前景物体的三维模型并存储，包括：

对一个所述前景物体的多帧第二有向距离场图像进行融合，获得一个所述前景物体的三维模型并存储；

将一个所述前景物体放置于所述目标场景之外的其他区域并归位，返回执行根据一个所述前景物体的三维包围盒，抓取一个所述前景物体并归位的步骤，以获得下一个所述前景物体的三维模型并存储。

7.如权利要求1~5任一项所述的三维重建方法，其特征在于，所述背景物体的颜色区别于所述前景物体且纹理单一。

8.一种三维重建装置，其特征在于，应用于机械臂，所述装置包括：

体素化模块，用于定义三维空间并体素化所述三维空间，获得体素网格；

第一控制模块，用于旋转拍摄目标场景，获得所述目标场景的多帧第一深度图像；其中，所述目标场景包括背景物体和至少一个前景物体，所述前景物体放置于所述背景物体的表面；

第一计算模块，用于分别根据每帧所述第一深度图像和所述体素网格，获得与每帧所述第一深度图像对应的第一有向距离场图像；

第二计算模块，用于分别根据每帧所述第一有向距离场图像，获得每帧所述第一有向距离场图像中的每个前景物体的三维包围盒；

第二控制模块，用于分别根据每个所述前景物体的三维包围盒，依次抓取每个所述前景物体进行多角度拍摄，获得每个所述前景物体的多帧第二有向距离场图像；

第三计算模块，用于分别对每个所述前景物体的多帧第二有向距离场图像进行融合，获得每个所述前景物体的三维模型并存储。

9.一种机械臂，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，还包括机械夹爪和深度相机，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述方法的步骤。

10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述方法的步骤。

Images