CN115171097A - 基于三维点云的加工控制方法、系统及相关设备 - Google Patents

Abstract

本发明公开了一种基于三维点云的加工控制方法、系统及相关设备，方法包括：获取加工设备中加工区域对应的待处理数据，包括加工区域对应的待判断三维点云；通过已训练的点云目标识别模型识别并标记出待处理数据中的目标加工部件、目标标识部件以及目标标识点；根据各目标标识部件和各目标标识点获取目标加工部件对应的待判断坐标；获取各目标加工部件对应的标准坐标，根据上述待判断坐标和上述标准坐标获取各上述目标加工部件对应的目标偏差数据；获取初始加工参数，根据上述目标偏差数据对上述初始加工参数进行调整获得目标加工参数，根据上述目标加工参数控制上述加工设备的加工过程。本发明有利于提高加工设备的加工准确性。

Description

基于三维点云的加工控制方法、系统及相关设备

技术领域

本发明涉及基于三维点云及图像数据的智能控制技术领域，尤其涉及的是一种基于三维点云的加工控制方法、系统及相关设备。

背景技术

随着科学技术的发展，自动加工的应用越来越广泛，针对自动加工过程的智能控制也越来越受到重视。

现有技术中，通常在用户输入加工参数之后直接根据用户输入的加工参数控制加工设备的加工部件进行工件加工。但加工设备（例如加工中心）中的加工部件（例如夹持刀具的机械臂等）可能随着使用时间的增长而出现位置偏移，从而导致对工件进行加工时出现偏差。现有技术的问题在于，在进行工件加工时没有考虑加工设备中加工部件的位置偏移问题，不利于提高加工准确性。

因此，现有技术还有待改进和发展。

发明内容

本发明的主要目的在于提供一种基于三维点云的加工控制方法、系统及相关设备，旨在解决现有技术中直接根据用书输入的加工参数控制加工设备的加工部件进行工件加工，没有考虑加工设备中加工部件的位置偏移问题，不利于提高加工准确性的问题。

为了实现上述目的，本发明第一方面提供一种基于三维点云的加工控制方法，其中，上述基于三维点云的加工控制方法包括：

获取加工设备中加工区域对应的待处理数据，其中，上述待处理数据包括上述加工区域对应的待判断三维点云；

通过已训练的点云目标识别模型识别并标记出上述待处理数据中的目标加工部件、目标标识部件以及目标标识点，其中，上述目标加工部件与上述加工区域中的实际加工部件对应，上述目标标识部件与上述加工区域中的参考标识部件对应，上述目标标识点与上述加工区域中的参考标识点对应，上述参考标识部件是预先设置于上述加工区域中的结构部件，各上述目标加工部件和/或各上述参考标识部件的表面分别设置有至少一个参考标识点；

根据各上述目标标识部件和各上述目标标识点获取上述目标加工部件对应的待判断坐标；

获取各上述目标加工部件对应的标准坐标，根据上述待判断坐标和上述标准坐标获取各上述目标加工部件对应的目标偏差数据；

获取初始加工参数，根据上述目标偏差数据对上述初始加工参数进行调整获得目标加工参数，根据上述目标加工参数控制上述加工设备的加工过程。

可选的，各上述参考标识点上设置有预设的颜色，上述待处理数据还包括上述加工区域对应的多个RGB图像，上述获取加工设备中加工区域对应的待处理数据，包括：

在监测到加工控制触发条件时，通过上述加工设备内部安装的激光扫描仪对上述加工区域进行扫描以获取上述加工区域的待判断三维点云，通过上述加工设备内部安装的多个RGB相机采集获取上述加工区域对应的多个RGB图像；

其中，上述加工控制触发条件包括接收到目标对象输入的初始加工参数和/或接收到上述目标对象输入的加工参数调整指令，各上述RGB相机设置于上述加工设备内部的不同位置，且各上述RGB相机对应的采集角度不同。

可选的，上述参考标识部件是预先固定连接于上述加工区域中固定部件上的锥形体结构部件，上述锥形体结构部件的一个面作为一个参考标识点，各上述实际加工部件上设置有至少一个L形的参考标识点；

其中，上述固定部件是在上述加工设备进行工件加工过程中位置不改变的部件，上述锥形体结构部件上的参考标识点的颜色与上述实际加工部件上的参考标识点的颜色不同，不同锥形体结构部件上的参考标识点的颜色不同，不同实际加工部件上的参考标识点的颜色不同。

可选的，上述通过已训练的点云目标识别模型识别并标记出上述待处理数据中的各个目标加工部件、各个目标标识部件以及各个目标标识点，包括：

针对上述待判断三维点云执行预设的预处理过程，获得预处理三维点云，将上述预处理三维点云和上述RGB图像输入上述已训练的点云目标识别模型；

在上述已训练的点云目标识别模型中，根据上述参考标识点的形状和颜色对上述RGB图像进行目标检测以获得上述参考标识点在上述RGB图像中对应的二维标识点，根据预设标定关系获取各上述二维标识点在上述预处理三维点云中的目标标识点，根据识别出的目标标识点对上述预处理三维点云中的各个分割区域设置关注权重值，根据上述关注权重值和上述目标标识点对上述预处理三维点云进行多目标物体配准并获得目标标记三维点云，上述目标标记三维点云中标记有各上述目标加工部件、各上述参考标识部件和各参考标识点；

其中，上述预设标定关系是上述激光扫描仪与各上述RGB相机之间的标定关系，第一分割区域的关注权重值大于第二分割区域的关注权重值，上述第一分割区域是包含目标标识点的分割区域，上述第二分割区域是不包含目标标识点的分割区域。

可选的，上述点云目标识别模型根据如下步骤进行预先训练：

将训练数据中的训练三维点云和RGB训练图像输入上述点云目标识别模型，通过上述点云目标识别模型结合上述RGB训练图像对上述训练三维点云进行多目标物体配准并获得目标标记三维点云，其中，上述训练数据包括多组点云图像混合数据组，每一组点云图像混合数据组包括训练三维点云、RGB训练图像以及上述训练三维点云对应的标注三维点云；

根据上述训练三维点云对应的目标标记三维点云以及上述训练三维点云对应的标注三维点云，对上述点云目标识别模型的模型参数进行调整，并继续执行上述将训练数据中的训练三维点云和RGB训练图像输入上述点云目标识别模型的步骤，直至满足预设训练条件，得到已训练的点云目标识别模型。

可选的，上述获取初始加工参数，根据上述目标偏差数据对上述初始加工参数进行调整获得目标加工参数，包括：

接收目标对象输入的初始加工参数，其中，上述初始加工参数包括各上述实际加工部件在加工过程中的移动距离和加工角度；

根据上述目标偏差数据对上述移动距离和上述加工角度进行调整并获得目标加工参数。

可选的，上述加工设备为五轴加工中心，上述实际加工部件包括上述五轴加工中心的动臂、底座、A旋转轴和C旋转轴。

本发明第二方面提供一种基于三维点云的加工控制系统，其中，上述基于三维点云的加工控制系统包括：

数据获取模块，用于获取加工设备中加工区域对应的待处理数据，其中，上述待处理数据包括上述加工区域对应的待判断三维点云；

部件识别模块，用于通过已训练的点云目标识别模型识别并标记出上述待处理数据中的目标加工部件、目标标识部件以及目标标识点，其中，上述目标加工部件与上述加工区域中的实际加工部件对应，上述目标标识部件与上述加工区域中的参考标识部件对应，上述目标标识点与上述加工区域中的参考标识点对应，上述参考标识部件是预先设置于上述加工区域中的结构部件，各上述目标加工部件和/或各上述参考标识部件的表面分别设置有至少一个参考标识点；

待判断坐标获取模块，用于根据各上述目标标识部件和各上述目标标识点获取上述目标加工部件对应的待判断坐标；

偏差计算模块，用于获取各上述目标加工部件对应的标准坐标，根据上述待判断坐标各上述标准坐标获取各上述目标加工部件对应的目标偏差数据；

加工控制模块，用于获取初始加工参数，根据上述目标偏差数据对上述初始加工参数进行调整获得目标加工参数，根据上述目标加工参数控制上述加工设备的加工过程。

本发明第三方面提供一种智能终端，上述智能终端包括存储器、处理器以及存储在上述存储器上并可在上述处理器上运行的基于三维点云的加工控制程序，上述基于三维点云的加工控制程序被上述处理器执行时实现上述任意一种基于三维点云的加工控制方法的步骤。

本发明第四方面提供一种计算机可读存储介质，上述计算机可读存储介质上存储有基于三维点云的加工控制程序，上述基于三维点云的加工控制程序被处理器执行时实现上述任意一种基于三维点云的加工控制方法的步骤。

由上可见，本发明方案中，获取加工设备中加工区域对应的待处理数据，其中，上述待处理数据包括上述加工区域对应的待判断三维点云；通过已训练的点云目标识别模型识别并标记出上述待处理数据中的目标加工部件、目标标识部件以及目标标识点，其中，上述目标加工部件与上述加工区域中的实际加工部件对应，上述目标标识部件与上述加工区域中的参考标识部件对应，上述目标标识点与上述加工区域中的参考标识点对应，上述参考标识部件是预先设置于上述加工区域中的结构部件，各上述目标加工部件和/或各上述参考标识部件的表面分别设置有至少一个参考标识点；根据各上述目标标识部件和各上述目标标识点获取上述目标加工部件对应的待判断坐标；获取各上述目标加工部件对应的标准坐标，根据上述待判断坐标和上述标准坐标获取各上述目标加工部件对应的目标偏差数据；获取初始加工参数，根据上述目标偏差数据对上述初始加工参数进行调整获得目标加工参数，根据上述目标加工参数控制上述加工设备的加工过程。

与现有技术中相比，本发明方案中，对于加工设备可以根据其对应的待处理数据获取加工部件在当前对应的待判断坐标，从而结合加工部件所对应的标准坐标（即未发生位置偏移的情况下的坐标）确定加工部件所对应的目标偏差数据，进而根据目标偏差数据对进行工件加工时需要使用的加工参数进行修正，有利于消除加工部件的位置偏移带来的影响，对工件加工过程进行自动控制，并提高加工设备的加工准确性。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。

图1是本发明实施例提供的一种基于三维点云的加工控制方法的流程示意图；

图2是本发明实施例提供的一种基于三维点云的加工控制系统的结构示意图；

图3是本发明实施例提供的一种智能终端的内部结构原理框图。

具体实施方式

以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况下，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。

应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解，在本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、 “一个”及“该”意在包括复数形式。

还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

如在本说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当…时”或“一旦”或“响应于确定”或“响应于分类到”。类似的，短语“如果确定”或“如果分类到[所描述条件或事件] ”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦分类到[所描述的条件或事件] ”或“响应于分类到[所描述条件或事件] ”。

下面结合本发明实施例的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

在下面的描述中阐述了很多具体细节以便于充分理解本发明，但是本发明还可以采用其它不同于在此描述的其它方式来实施，本领域技术人员可以在不违背本发明内涵的情况下做类似推广，因此本发明不受下面公开的具体实施例的限制。

为了解决现有技术中的问题，本发明方案中，获取加工设备中加工区域对应的待处理数据，其中，上述待处理数据包括上述加工区域对应的待判断三维点云；通过已训练的点云目标识别模型识别并标记出上述待处理数据中的目标加工部件、目标标识部件以及目标标识点，其中，上述目标加工部件与上述加工区域中的实际加工部件对应，上述目标标识部件与上述加工区域中的参考标识部件对应，上述目标标识点与上述加工区域中的参考标识点对应，上述参考标识部件是预先设置于上述加工区域中的结构部件，各上述目标加工部件和/或各上述参考标识部件的表面分别设置有至少一个参考标识点；根据各上述目标标识部件和各上述目标标识点获取上述目标加工部件对应的待判断坐标；获取各上述目标加工部件对应的标准坐标，根据上述待判断坐标和上述标准坐标获取各上述目标加工部件对应的目标偏差数据；获取初始加工参数，根据上述目标偏差数据对上述初始加工参数进行调整获得目标加工参数，根据上述目标加工参数控制上述加工设备的加工过程。

与现有技术中相比，本发明方案中，对于加工设备可以根据其对应的待处理数据获取加工部件在当前对应的待判断坐标，从而结合加工部件所对应的标准坐标（即未发生位置偏移的情况下的坐标）确定加工部件所对应的目标偏差数据，进而根据目标偏差数据对进行工件加工时需要使用的加工参数进行修正，有利于消除加工部件的位置偏移带来的影响，对工件加工过程进行自动控制，并提高加工设备的加工准确性。

同时，本发明中的方案可以实现自动进行加工控制，无需用户进行人工校对和调整，不需要耗费大量的调整时间，有利于节约人力资源和时间成本。且自动计算和调整的过程基于机器实现，其计算精确度比人工调整更高，有利于进一步提高加工的准确性。

示例性方法

如图1所示，本发明实施例提供一种基于三维点云的加工控制方法，具体的，上述方法包括如下步骤：

步骤S100，获取加工设备中加工区域对应的待处理数据，其中，上述待处理数据包括上述加工区域对应的待判断三维点云。

其中，上述加工设备是进行工件加工的设备，上述加工区域是加工设备中进行工件加工的区域。上述待处理数据是对加工设备的加工区域实时进行图像采集和点云采集所获得的数据。本实施例中，上述待处理数据包括加工区域对应的待判断三维点云，上述待判断三维点云用于判断该加工设备的实际加工部件在当前时刻是否发生位置偏移，以及用于获取具体的偏移程度，其中，具体的偏移程度由目标偏差数据体现。

本实施例中，上述加工设备为五轴加工中心，上述实际加工部件包括上述五轴加工中心的动臂、底座、A旋转轴和C旋转轴。进一步的，上述加工设备具体为一种高分辨率轻型桥式五轴龙门加工中心，但在此不作为具体限定。

步骤S200，通过已训练的点云目标识别模型识别并标记出上述待处理数据中的目标加工部件、目标标识部件以及目标标识点。

其中，上述目标加工部件与上述加工区域中的实际加工部件对应，上述目标标识部件与上述加工区域中的参考标识部件对应，上述目标标识点与上述加工区域中的参考标识点对应，上述参考标识部件是预先设置于上述加工区域中的结构部件，各上述目标加工部件和/或各上述参考标识部件的表面分别设置有至少一个参考标识点。

上述已训练的点云目标识别模型是预先训练好的用于针对三维点云进行目标识别和标记的模型。需要说明的是，点云目标识别模型可以根据三维点云中各个点组合成的形状进行目标识别、点云分割和标记，例如，将动臂对应的所有点都标记为对应的动臂类别。具体的，点云目标识别模型被预先训练成可以识别出加工区域对应的实际加工部件的形状，并将在三维点云中识别出的对应形状作为目标加工部件。即一个目标加工部件与一个实际加工部件对应，目标加工部件代表在采集的待判断三维点云中识别出来的部件，实际加工部件则是对应的在加工区域实际设置的加工部件，目标标识部件和目标标识点同理，在此不再赘述，需要说明的是，目标标识部件和目标标识点用于确定坐标系以及更快地进行坐标系构建和目标标识部件识别。进一步的，上述点云目标识别模型还可以将其它类型的输入数据作为辅助进行点云识别数据，例如二维图像、自然语言描述信息（例如用于描述各个部件之间的相核对位置关系和连接关系）等。

本实施例中，各上述参考标识点上设置有预设的颜色，上述待处理数据还包括上述加工区域对应的多个RGB图像，上述获取加工设备中加工区域对应的待处理数据，包括：

在监测到加工控制触发条件时，通过上述加工设备内部安装的激光扫描仪对上述加工区域进行扫描以获取上述加工区域的待判断三维点云，通过上述加工设备内部安装的多个RGB相机采集获取上述加工区域对应的多个RGB图像；

其中，上述加工控制触发条件包括接收到目标对象输入的初始加工参数和/或接收到上述目标对象输入的加工参数调整指令，各上述RGB相机设置于上述加工设备内部的不同位置，且各上述RGB相机对应的采集角度不同。

具体的，上述加工设备内部预先安装有至少一个激光扫描仪，确保可以扫描到动臂、摇摆头、底座、摆轴等实际加工部件。同时，本实施例中还预先在参考标识点上设置有颜色，在进行识别时可以基于颜色快速定位各个参考标识点所对应的目标标识点，从而快速确定各个关键位置（例如目标加工部件和目标标识部件所在的大致位置），进而可以提高点云识别的效率。

进一步的，在上述点云目标识别模型中，可以先根据RGB图像中的颜色识别出对应的目标标识点，从而根据目标标识点确定需要进行重点关照的区域，据此为待判断三维点云中的不同区域设置对应的权重值，然后才进行三维识别和特征匹配，从而提高三维识别的效率和效果。需要说明的是，各个区域的权重值可以根据该区域是否存在目标标识点、存在的目标标识点的密集程度和/或RGB图像中对应的目标标识点的形变程度来确定，例如目标标识点越密集的区域对应的权重值越高，目标标识点形变程度越高的区域对应的权重值越高，在此不作具体限定。

在一种应用场景中，参考标识部件是预先设置的固定结构部件，其位置不会发生变化，相对于RGB相机的位置也不会发生变化。在识别出参考标识部件对应的目标标识部件之后可以根据目标标识部件建立对应的坐标系，从而确定三维点云中其它各个点的坐标，因为参考标识部件的的位置是固定不变的，所以所建立的坐标系也是固定的。需要说明的是，根据上述参考标识部件可以建立与加工设备加工过程中描述加工参数所需要的坐标系相同的坐标系，在此不作具体限定。可选的，不同的参考标识点有不同的形状和颜色，以便针对不同参考标识点进行区分。或者，至少设置有3种不同颜色和形状的参考点以进行区分，各种颜色和形状可以进行组合以获得更多不同的参考标识点。

具体的，本实施例中，上述参考标识部件是预先固定连接于上述加工区域中固定部件上的锥形体结构部件，上述锥形体结构部件的一个面作为一个参考标识点，各上述实际加工部件上设置有至少一个L形的参考标识点；

其中，上述固定部件是在上述加工设备进行工件加工过程中位置不改变的部件，上述锥形体结构部件上的参考标识点的颜色与上述实际加工部件上的参考标识点的颜色不同，不同锥形体结构部件上的参考标识点的颜色不同，不同实际加工部件上的参考标识点的颜色不同。

本实施例中，采用锥形体结构部件作为对应的参考标识部件，且将锥形体结构部件与对应的RGB相机相对设置，保证在正常使用过程中RGB相机会采集到锥形体结构部件的一个面，且将该面涂上颜色并作为一个参考标识点以便快速识别。在一种应用场景中也可以为锥形体结构部件的不同面分别涂上不同的颜色以实现更快速的区分。需要说明的是，当RGB相机采集到对应的锥形体结构的其他面（可以通过颜色区分是否采集到其它面，或者根据采集的目标标识点的形变程度）时，说明两者的相对位置发生变化，此时说明整个检测和加工控制的过程存在误差，可以暂停加工并发出告警信息，以便用户及时进行调整。

同时，本实施例中在实际加工部件上设置的参考标识点是L形的，与参考标识部件上的参考标识点的形状不同（参考标识部件上的参考标识点形状为三角形），两者可以快速进行区分，同时，采用L形的点也方便进行识别。需要说明的是，本实施例中设置的参考标识点是具有一定面积大小的点，其在RGB图像或待判断三维点云中对应的目标标识点可能对应包括多个像素点或坐标点，在识别时将多个像素点或多个坐标点组成的区域作为该目标标识点。具体的，上述L形的参考标识点由互相垂直的两条边组成，且一条边长于另一条边，方便快速识别和区分方向。

在一种应用场景中，参考标识部件上的参考标识点的颜色和形状与实际加工部件上的颜色和形状都不相同，以便更好地进行区分。在另一种应用场景中，上述参考标识点还可以具有立体形状结构，在此不作具体限定。

具体的，上述通过已训练的点云目标识别模型识别并标记出上述待处理数据中的各个目标加工部件、各个目标标识部件以及各个目标标识点，包括：

针对上述待判断三维点云执行预设的预处理过程，获得预处理三维点云，将上述预处理三维点云和上述RGB图像输入上述已训练的点云目标识别模型；

在上述已训练的点云目标识别模型中，根据上述参考标识点的形状和颜色对上述RGB图像进行目标检测以获得上述参考标识点在上述RGB图像中对应的二维标识点，根据预设标定关系获取各上述二维标识点在上述预处理三维点云中的目标标识点，根据识别出的目标标识点对上述预处理三维点云中的各个分割区域设置关注权重值，根据上述关注权重值和上述目标标识点对上述预处理三维点云进行多目标物体配准并获得目标标记三维点云，上述目标标记三维点云中标记有各上述目标加工部件、各上述参考标识部件和各参考标识点；

其中，上述预设标定关系是上述激光扫描仪与各上述RGB相机之间的标定关系，第一分割区域的关注权重值大于第二分割区域的关注权重值，上述第一分割区域是包含目标标识点的分割区域，上述第二分割区域是不包含目标标识点的分割区域。

本实施例中，先对采集获得的待判断三维点云进行预处理，以便提高后续处理效率。上述预处理过程包括点云采样、点云滤波和点云分割。其中，进行点云分割时可以根据预设的分割区域个数或者分割区域体积大小将三维点云分割成各个小块，以便分区域进行特征提取过程中的计算，提高处理效率。需要说明的是，预处理过程可以根据实际需求进行设置和调整，在此不作具体限定。

进行预处理之后获得预处理三维点云，将预处理三维点云和RGB图像一起作为点云目标识别模型的输入数据。具体的，本实施中，上述点云目标识别模型先根据RGB图像中的目标标识点确定需要进行重点关注的区域（即第一分割区域），然后为不同点云区域设置不同的关注权重值，再结合关注权重值对各个分割区域进行三维识别和特征匹配。如此，在该点云目标识别模型中引入注意力机制，可以进一步提高特征匹配的效率和效果，从而提高加工控制的效率和准确性。需要说明的是，设置关注权重值时可以根据预先设置的权重算法进行，例如，将包含目标识别点的区域的关注权重值设置为2，其它区域则设置为1，进行三维识别和特征匹配时，优先处理关注权重值高的区域。进一步的，结合不同实际加工部件上参考标识点的颜色，根据识别出的目标标识点的颜色，可以进一步提高配准效率。需要说明的是，在进行区域分割时，也可以对点云进行聚类分割，或者根据预先设置的形状进行分割，在此不作具体限定。本实施例中，对各个分割区域进行特征提取、特征匹配，可以实现对加工中心的动臂、底座、A轴、C轴等实际加工部件的识别和标记。

需要说明的是，进行三维识别时，可以计算发现、进行均匀降采样、执行shot描述子计算、寻找对应关系、利用hough进行配准。还可以使用PCL的方法或其它配准算法，在此不作具体限定。

具体的，上述点云目标识别模型根据如下步骤进行预先训练：

将训练数据中的训练三维点云和RGB训练图像输入上述点云目标识别模型，通过上述点云目标识别模型结合上述RGB训练图像对上述训练三维点云进行多目标物体配准并获得目标标记三维点云，其中，上述训练数据包括多组点云图像混合数据组，每一组点云图像混合数据组包括训练三维点云、RGB训练图像以及上述训练三维点云对应的标注三维点云；

根据上述训练三维点云对应的目标标记三维点云以及上述训练三维点云对应的标注三维点云，对上述点云目标识别模型的模型参数进行调整，并继续执行上述将训练数据中的训练三维点云和RGB训练图像输入上述点云目标识别模型的步骤，直至满足预设训练条件，得到已训练的点云目标识别模型。其中，上述训练数据由用户预先采集和标注后获得，实际使用过程中，训练数据中所包括的具体数据可以根据使用时实际输入模型的数据的种类进行调整，在此不作具体限定。

上述预设训练条件是迭代次数达到预设的迭代次数阈值或者计算的损失值小于预设的损失阈值。其中，损失值可以基于预设的损失函数，针对模型所输出的标记三维点云与对应的标注三维点云之间的差异来计算获得，在此不作具体限定。

步骤S300，根据各上述目标标识部件和各上述目标标识点获取上述目标加工部件对应的待判断坐标。

具体的，可以根据目标标识部件构建对应的坐标系，然后根据构建好的坐标系确定目标加工部件对应的待判断坐标。需要说明的是，可以将目标加工部件的中心点坐标或轮廓点坐标作为其对应的待判断坐标，也可以将目标加工部件上的目标标识点的坐标作为对应的待判断坐标，以更方便进行对比。

步骤S400，获取各上述目标加工部件对应的标准坐标，根据上述待判断坐标和上述标准坐标获取各上述目标加工部件对应的目标偏差数据。

在一种应用场景中，上述标准坐标可以由用户预先测量并进行设置。在另一种应用场景中，也可以在没有使用过加工中心或者在加工中心标定调整完成之后采集对应的标准三维点云和标准RGB图像，再通过已训练的点云目标识别模型对标准三维点云和标准RGB图像进行识别后获得。如此，可以自动采集获得对应的标准坐标，进一步减少所需要耗费的时间和人力成本。本实施例中，标准坐标和待判断坐标是同一坐标系下的坐标，因此可以直接比较获得对应的目标地偏差数据，其中，目标偏差数据包括偏移距离、偏移方向和偏移角度。当标准坐标和待判断坐标不在同一坐标系时，可以集合目标标识部件和目标标识点进行坐标系标定和坐标转换，从而计算对应的目标偏差数据。在一种应用场景中，上述标准坐标包括未使用过的加工中心动臂的空间坐标、A轴零点坐标和C轴中心坐标

步骤S500，获取初始加工参数，根据上述目标偏差数据对上述初始加工参数进行调整获得目标加工参数，根据上述目标加工参数控制上述加工设备的加工过程。

其中，上述初始加工参数是用户输入或者预先设置的工件加工所需要使用的参数，可以用于限定加工过程中各个加工部件对应的移动距离、加工角度等。当当前加工部件与标准情况下的加工部件出现偏差时，例如，当动臂摇摆头长期使用后会出现位置偏移，此时如果直接按原来设定的初始加工参数进行加工，则会导致工件加工的精度降低。此时，为保证加工精度，可以对初始加工参数进行调整。

具体的，上述获取初始加工参数，根据上述目标偏差数据对上述初始加工参数进行调整获得目标加工参数，包括：

接收目标对象输入的初始加工参数，其中，上述初始加工参数包括各上述实际加工部件在加工过程中的移动距离和加工角度；

根据上述目标偏差数据对上述移动距离和上述加工角度进行调整并获得目标加工参数。

在一种应用场景中，上述初始加工参数包括加工过程中各实际加工部件在每一步的移动距离和加工角度。具体的，还可以获取加工工件的类别和需要进行的加工操作，确定加工过程中需要使用的实际加工部件，从而对具体加工部件所针对的加工参数进行调整，提高加工控制效率和准确性。

在另一种应用场景中，还可以以标准坐标为中心，根据预设的误差阈值构建对应的参考线（可以为直线或者圆），在误差允许的范围内，当待判断坐标落入参考线限定的范围内时不需要进行参数调节，以避免反复调节影响加工效率。在另一种应用场景中，则设置上述误差阈值为0，即在存在误差时即进行调节，以提高加工精度。进一步的，还可以设置最大偏差阈值，在目标偏差数据超过对应的最大偏差阈值时，即使对加工参数进行调整也难以保证加工精度，此时暂停加工并发出告警信号。

具体的，对初始加工参数进行调节时，若某一实际加工部件被判断为沿某一坐标轴左偏1厘米，则将对应的加工参数沿该坐标轴加（代表右移）1厘米。在一种应用场景中，对初始加工参数进行调节时基于最少调节原则进行调节，例如如果初始加工参数包括某实际加工部件的移动距离和工件放置位置，在进行调节时如果直接调节移动距离需要将对应的移动距离调整为沿x轴向右加3厘米，沿y轴加4厘米，但直接调节工件放置位置之后则只需要再沿y轴加1厘米。如此，可以保证对加工参数的调整最少，避免过度调整影响加工精度和效率。

本实施例中，每加工一次工件，就对加工区域进行一次扫描，并且将对应的待处理数据输入到点云目标识别模型中进行识别，标定出动臂、A轴、C轴的坐标，与标准坐标进行对比，在出现偏移时调整并重新设定对应的加工参数，从而保证加工精度。

在一种应用场景中，还可以记录每一次采集的目标偏差数据，从而根据记录的目标偏差数据对未来的目标偏差数据进行预测，当预测到偏差超过预设可接受范围时，进行预先告警。

由上可见，本实施例中，对于加工设备可以根据其对应的待处理数据获取加工部件在当前对应的待判断坐标，从而结合加工部件所对应的标准坐标（即未发生位置偏移的情况下的坐标）确定加工部件所对应的目标偏差数据，进而根据目标偏差数据对进行工件加工时需要使用的加工参数进行修正，有利于消除加工部件的位置偏移带来的影响，对工件加工过程进行自动控制，并提高加工设备的加工准确性。

同时，本实施例中的方案可以实现自动进行加工控制，无需用户进行人工校对和调整，不需要耗费大量的调整时间，有利于节约人力资源和时间成本。且自动计算和调整的过程基于机器实现，其计算精确度比人工调整更高，有利于进一步提高加工的准确性。

示例性设备

如图2中所示，对应于上述基于三维点云的加工控制方法，本发明实施例还提供一种基于三维点云的加工控制系统，上述基于三维点云的加工控制系统包括：

数据获取模块610，用于获取加工设备中加工区域对应的待处理数据，其中，上述待处理数据包括上述加工区域对应的待判断三维点云；

部件识别模块620，用于通过已训练的点云目标识别模型识别并标记出上述待处理数据中的目标加工部件、目标标识部件以及目标标识点，其中，上述目标加工部件与上述加工区域中的实际加工部件对应，上述目标标识部件与上述加工区域中的参考标识部件对应，上述目标标识点与上述加工区域中的参考标识点对应，上述参考标识部件是预先设置于上述加工区域中的结构部件，各上述目标加工部件和/或各上述参考标识部件的表面分别设置有至少一个参考标识点；

待判断坐标获取模块630，用于根据各上述目标标识部件和各上述目标标识点获取上述目标加工部件对应的待判断坐标；

偏差计算模块640，用于获取各上述目标加工部件对应的标准坐标，根据上述待判断坐标各上述标准坐标获取各上述目标加工部件对应的目标偏差数据；

加工控制模块650，用于获取初始加工参数，根据上述目标偏差数据对上述初始加工参数进行调整获得目标加工参数，根据上述目标加工参数控制上述加工设备的加工过程。

具体的，本实施例中，上述基于三维点云的加工控制系统及其各模块的具体功能可以参照上述基于三维点云的加工控制方法中的对应描述，在此不再赘述。

需要说明的是，上述基于三维点云的加工控制系统的各个模块的划分方式并不唯一，在此也不作为具体限定。

基于上述实施例，本发明还提供了一种智能终端，其原理框图可以如图3所示。上述智能终端包括处理器及存储器。该智能终端的存储器包括基于三维点云的加工控制程序，存储器为基于三维点云的加工控制程序的运行提供环境。该基于三维点云的加工控制程序被处理器执行时实现上述任意一种基于三维点云的加工控制方法的步骤。需要说明的是，上述智能终端还可以包括其它功能模块或单元，在此不作具体限定。

本领域技术人员可以理解，图3中示出的原理框图，仅仅是与本发明方案相关的部分结构的框图，并不构成对本发明方案所应用于其上的智能终端的限定，具体地智能终端可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。

本发明实施例还提供一种计算机可读存储介质，上述计算机可读存储介质上存储有基于三维点云的加工控制程序，上述基于三维点云的加工控制程序被处理器执行时实现本发明实施例提供的任意一种基于三维点云的加工控制方法的步骤。

应理解，上述实施例中各步骤的序号大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将上述系统的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各实例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟是以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本发明所提供的实施例中，应该理解到，所揭露的系统/智能终端和方法，可以通过其它的方式实现。例如，以上所描述的系统/智能终端实施例仅仅是示意性的，例如，上述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以由另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。

上述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，上述计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，上述计算机程序包括计算机程序代码，上述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。上述计算机可读介质可以包括：能够携带上述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，RandomAccess Memory）、电载波信号、电信信号以及软件分发介质等。需要说明的是，上述计算机可读存储介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减。

以上所述实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解；其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不是相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于三维点云的加工控制方法，其特征在于，所述方法包括：

获取加工设备中加工区域对应的待处理数据，其中，所述待处理数据包括所述加工区域对应的待判断三维点云；

通过已训练的点云目标识别模型识别并标记出所述待处理数据中的目标加工部件、目标标识部件以及目标标识点，其中，所述目标加工部件与所述加工区域中的实际加工部件对应，所述目标标识部件与所述加工区域中的参考标识部件对应，所述目标标识点与所述加工区域中的参考标识点对应，所述参考标识部件是预先设置于所述加工区域中的结构部件，各所述目标加工部件和/或各所述参考标识部件的表面分别设置有至少一个参考标识点；

根据各所述目标标识部件和各所述目标标识点获取所述目标加工部件对应的待判断坐标；

获取各所述目标加工部件对应的标准坐标，根据所述待判断坐标各所述标准坐标获取各所述目标加工部件对应的目标偏差数据；

获取初始加工参数，根据所述目标偏差数据对所述初始加工参数进行调整获得目标加工参数，根据所述目标加工参数控制所述加工设备的加工过程。

2.根据权利要求1所述的基于三维点云的加工控制方法，其特征在于，各所述参考标识点上设置有预设的颜色，所述待处理数据还包括所述加工区域对应的多个RGB图像，所述获取加工设备中加工区域对应的待处理数据，包括：

在监测到加工控制触发条件时，通过所述加工设备内部安装的激光扫描仪对所述加工区域进行扫描以获取所述加工区域的待判断三维点云，通过所述加工设备内部安装的多个RGB相机采集获取所述加工区域对应的多个RGB图像；

其中，所述加工控制触发条件包括接收到目标对象输入的初始加工参数和/或接收到所述目标对象输入的加工参数调整指令，各所述RGB相机设置于所述加工设备内部的不同位置，且各所述RGB相机对应的采集角度不同。

3.根据权利要求2所述的基于三维点云的加工控制方法，其特征在于，所述参考标识部件是预先固定连接于所述加工区域中固定部件上的锥形体结构部件，所述锥形体结构部件的一个面作为一个参考标识点，各所述实际加工部件上设置有至少一个L形的参考标识点；

其中，所述固定部件是在所述加工设备进行工件加工过程中位置不改变的部件，所述锥形体结构部件上的参考标识点的颜色与所述实际加工部件上的参考标识点的颜色不同，不同锥形体结构部件上的参考标识点的颜色不同，不同实际加工部件上的参考标识点的颜色不同。

4.根据权利要求3所述的基于三维点云的加工控制方法，其特征在于，所述通过已训练的点云目标识别模型识别并标记出所述待处理数据中的各个目标加工部件、各个目标标识部件以及各个目标标识点，包括：

针对所述待判断三维点云执行预设的预处理过程，获得预处理三维点云，将所述预处理三维点云和所述RGB图像输入所述已训练的点云目标识别模型；

在所述已训练的点云目标识别模型中，根据所述参考标识点的形状和颜色对所述RGB图像进行目标检测以获得所述参考标识点在所述RGB图像中对应的二维标识点，根据预设标定关系获取各所述二维标识点在所述预处理三维点云中的目标标识点，根据识别出的目标标识点对所述预处理三维点云中的各个分割区域设置关注权重值，根据所述关注权重值和所述目标标识点对所述预处理三维点云进行多目标物体配准并获得目标标记三维点云，所述目标标记三维点云中标记有各所述目标加工部件、各所述参考标识部件和各参考标识点；

其中，所述预设标定关系是所述激光扫描仪与各所述RGB相机之间的标定关系，第一分割区域的关注权重值大于第二分割区域的关注权重值，所述第一分割区域是包含目标标识点的分割区域，所述第二分割区域是不包含目标标识点的分割区域。

5.根据权利要求4所述的基于三维点云的加工控制方法，其特征在于，所述点云目标识别模型根据如下步骤进行预先训练：

将训练数据中的训练三维点云和RGB训练图像输入所述点云目标识别模型，通过所述点云目标识别模型结合所述RGB训练图像对所述训练三维点云进行多目标物体配准并获得目标标记三维点云，其中，所述训练数据包括多组点云图像混合数据组，每一组点云图像混合数据组包括训练三维点云、RGB训练图像以及所述训练三维点云对应的标注三维点云；

根据所述训练三维点云对应的目标标记三维点云以及所述训练三维点云对应的标注三维点云，对所述点云目标识别模型的模型参数进行调整，并继续执行所述将训练数据中的训练三维点云和RGB训练图像输入所述点云目标识别模型的步骤，直至满足预设训练条件，得到已训练的点云目标识别模型。

6.根据权利要求1所述的基于三维点云的加工控制方法，其特征在于，所述获取初始加工参数，根据所述目标偏差数据对所述初始加工参数进行调整获得目标加工参数，包括：

接收目标对象输入的初始加工参数，其中，所述初始加工参数包括各所述实际加工部件在加工过程中的移动距离和加工角度；

根据所述目标偏差数据对所述移动距离和所述加工角度进行调整并获得目标加工参数。

7.根据权利要求1-6任意一项所述的基于三维点云的加工控制方法，其特征在于，所述加工设备为五轴加工中心，所述实际加工部件包括所述五轴加工中心的动臂、底座、A旋转轴和C旋转轴。

8.一种基于三维点云的加工控制系统，其特征在于，所述系统包括：

数据获取模块，用于获取加工设备中加工区域对应的待处理数据，其中，所述待处理数据包括所述加工区域对应的待判断三维点云；

部件识别模块，用于通过已训练的点云目标识别模型识别并标记出所述待处理数据中的目标加工部件、目标标识部件以及目标标识点，其中，所述目标加工部件与所述加工区域中的实际加工部件对应，所述目标标识部件与所述加工区域中的参考标识部件对应，所述目标标识点与所述加工区域中的参考标识点对应，所述参考标识部件是预先设置于所述加工区域中的结构部件，各所述目标加工部件和/或各所述参考标识部件的表面分别设置有至少一个参考标识点；

待判断坐标获取模块，用于根据各所述目标标识部件和各所述目标标识点获取所述目标加工部件对应的待判断坐标；

偏差计算模块，用于获取各所述目标加工部件对应的标准坐标，根据所述待判断坐标各所述标准坐标获取各所述目标加工部件对应的目标偏差数据；

加工控制模块，用于获取初始加工参数，根据所述目标偏差数据对所述初始加工参数进行调整获得目标加工参数，根据所述目标加工参数控制所述加工设备的加工过程。

9.一种智能终端，其特征在于，所述智能终端包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的基于三维点云的加工控制程序，所述基于三维点云的加工控制程序被所述处理器执行时实现如权利要求1-7任意一项所述基于三维点云的加工控制方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有基于三维点云的加工控制程序，所述基于三维点云的加工控制程序被处理器执行时实现如权利要求1-7任意一项所述基于三维点云的加工控制方法的步骤。

Images