CN110992372B - 物品抓取方法、装置、存储介质及电子装置 - Google Patents
物品抓取方法、装置、存储介质及电子装置 Download PDFInfo
- Publication number
- CN110992372B CN110992372B CN201911151353.0A CN201911151353A CN110992372B CN 110992372 B CN110992372 B CN 110992372B CN 201911151353 A CN201911151353 A CN 201911151353A CN 110992372 B CN110992372 B CN 110992372B
- Authority
- CN
- China
- Prior art keywords
- point
- target
- determining
- plane
- normal vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1612—Programme controls characterised by the hand, wrist, grip control
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Orthopedic Medicine & Surgery (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种物品抓取方法、装置、存储介质及电子装置,其中,该方法包括:确定目标区域中包括的目标点的法向量及残差;利用所述目标点的法向量及残差在所述目标区域内进行平面分割,以得到目标平面;确定进行平面分割后得到的目标平面的抓取顺序;按照所述抓取顺序对所述目标平面对应的物品进行抓取。通过本发明,解决了相关技术中存在的平面分割慢,以及无法有效的根据特定场景需求调整的问题,进而达到了提高机器人抓取作业中点云分割的快速性、易调性的目的。
Description
技术领域
本发明涉及通信领域,具体而言,涉及一种物品抓取方法、装置、存储介质及电子装置。
背景技术
近年来,机器人及自动化领域越来越多的应用3D视觉技术对目标物体进行定位,3D视觉作为新兴的技术领域,能够给出目标物体的深度信息即物体表面的点云信息。其中,点云是通过测量仪器得到的目标外观表面的数据集合,具有三维坐标信息的点云被称为三维点云。激光雷达和深度相机则是获取三维点云的常见方式。
在抓取物体时,相关技术中常采用如附图1所示的方式抓取,但是由图1可看出,在点云分割过程中,使用了LCCP、MLS、CPC方法,多种算法的结合会降低分割的快速性,此点在机器人抓取作业中是十分重要的评价指标;此外,在相关技术中,在进行物体抓取时,流程过多,结果将会受到多个参变量的影响,分割结果主参量体现不明显,不利于用户根据特定场景需求进行方法的调整。
针对相关技术中存在的平面分割慢,以及无法有效的根据特定场景需求调整的问题,目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种物品抓取方法、装置、存储介质及电子装置,以至少解决相关技术中存在的平面分割慢,以及无法有效的根据特定场景需求调整的问题。
根据本发明的一个实施例,提供了一种物品抓取方法,包括:确定目标区域中包括的目标点的法向量及残差;利用所述目标点的法向量及残差在所述目标区域内进行平面分割,以得到目标平面;确定进行平面分割后得到的目标平面的抓取顺序;按照所述抓取顺序对所述目标平面对应的物品进行抓取。
根据本发明的另一个实施例,提供了一种物品抓取装置,包括:第一确定模块,用于确定目标区域中包括的目标点的法向量及残差;分割模块,用于利用所述目标点的法向量及残差在所述目标区域内进行平面分割,以得到目标平面;第二确定模块,用于确定进行平面分割后得到的目标平面的抓取顺序;抓取模块,用于按照所述抓取顺序对所述目标平面对应的物品进行抓取。
根据本发明的又一个实施例,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
根据本发明的又一个实施例,还提供了一种电子装置,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。
通过本发明,利用法向量及残差进行平面分割,降低了运算的复杂度,提高平面分割的快速性,此外,只通过法向量和残差两个参量作为评估参数,可以使得用户针对具体的场景需求进行针对性的调节,有效解决相关技术中存在的平面分割慢,以及无法有效的根据特定场景需求调整的问题,进而达到了提高机器人抓取作业中点云分割的快速性、易调性的目的。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是相关技术中的物体抓取方法流程图;
图2是本发明实施例的物品抓取方法的移动终端的硬件结构框图;
图3是根据本发明实施例的物品抓取方法的流程图;
图4是根据本发明实施例平面分割结果示意图;
图5是根据本发明实施例的实现设备的安装示意图;
图6是根据本发明实施例的多物体抓取场景示意图;
图7是根据本发明实施例的物品抓取装置的结构框图。
具体实施方式
下文中将参考附图并结合实施例来详细说明本发明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
本申请实施例一所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在移动终端上为例,图2是本发明实施例的一种物品抓取方法的移动终端的硬件结构框图。如图2所示,移动终端20可以包括一个或多个(图2中仅示出一个)处理器202(处理器202可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器204,可选地,上述移动终端还可以包括用于通信功能的传输设备206以及输入输出设备208。本领域普通技术人员可以理解,图2所示的结构仅为示意,其并不对上述移动终端的结构造成限定。例如,移动终端20还可包括比图2中所示更多或者更少的组件,或者具有与图2所示不同的配置。
存储器204可用于存储计算机程序,例如,应用软件的软件程序以及模块,如本发明实施例中的物品抓取方法对应的计算机程序,处理器202通过运行存储在存储器204内的计算机程序,从而执行各种功能应用以及数据处理,即实现上述的方法。存储器204可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器204可进一步包括相对于处理器202远程设置的存储器,这些远程存储器可以通过网络连接至移动终端20。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
传输装置206用于经由一个网络接收或者发送数据。上述的网络具体实例可包括移动终端20的通信供应商提供的无线网络。在一个实例中,传输装置206包括一个网络适配器(Network Interface Controller,简称为NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输装置206可以为射频(Radio Frequency,简称为RF)模块,其用于通过无线方式与互联网进行通讯。
在本实施例中提供了一种物品抓取方法,图3是根据本发明实施例的物品抓取方法的流程图,如图3所示,该流程包括如下步骤:
步骤S302,确定目标区域中包括的目标点的法向量及残差;
步骤S304,利用所述目标点的法向量及残差在所述目标区域内进行平面分割,以得到目标平面;
步骤S306,确定进行平面分割后得到的目标平面的抓取顺序;
步骤S308,按照所述抓取顺序对所述目标平面对应的物品进行抓取。
其中,执行上述操作的可以是操作终端,还可以是服务器,或者是具备相关处理能力的处理器。在上述实施例中,目标区域中包括的目标点的数量为多个,在执行上述操作时,可以确定目标区域中每个点或部分点的法向量及残差,基于点的法向量及残差可以将目标区域中包括的多个平面分割出来。此外,在本实施例中,目标区域可以是由点云信息构成的区域。
在上述实施例中,利用法向量及残差进行平面分割,降低了运算的复杂度,提高平面分割的快速性,此外,只通过法向量和残差两个参量作为评估参数,可以使得用户针对具体的场景需求进行针对性的调节,有效解决相关技术中存在的平面分割慢,以及无法有效的根据特定场景需求调整的问题,进而达到了提高机器人抓取作业中点云分割的快速性、易调性的目的。
在一个可选的实施例中,确定目标区域中包括的目标点的法向量及残差:确定所述目标点中与所述目标点中包括的第一点最邻近的K个点,其中,K为大于零的整数;基于所述K个点中的部分点确定所述第一点的法向量及残差。可选地,可以基于K近邻(K nearestneighbors,简称为KNN)算法确定所述目标点中与所述第一点最邻近的K个点。可选地,可以基于所述K个点中的部分点采用最小二乘法确定所述第一点的法向量及残差。在本实施例中,对于目标区域中的各个目标点,可以分别建立各目标点的K维树,例如,可以通过如上的对目标点执行KNN算法来实现K维树的建立。
在一个可选的实施例中,可以通过最小二乘法求目标点处的拟合平面,并基于拟合平面来确定目标点的法向量及残差,其中,残差用于揭示曲面的曲率,过大的残差代表着面域的边界和较大的法向变化。下面结合最小二乘法中的公式对如何确定目标点的法向量及残差进行说明:
在本实施例中,基于所述K个点中的部分点采用最小二乘法确定所述第一点(该第一点为多个目标点中的一个目标点)的法向量及残差包括:通过如下公式确定所述第一点的协方差矩阵∑:其中,pi为所述K个点中距离所述第一点最近的前K/2个点,/>为所述前K/2点的均值点;通过如下公式(即,标准特征值方程)确定各个特征向量以及各个特征值:λV=∑V,其中,V为特征向量,λ为特征值;将特征值中包括的取值最小的特征值确定为所述第一点的所述残差,将所述取值最小的特征值对应的特征向量确定为所述第一点的法向量。在本实施例中,得到的特征向量的数量为3个,得到的特征值的数量为3个,假设三个特征值分别为λ0、λ1和λ2,且,λ2>λ1>λ0,则λ0为确定出的残差,与其对应的v0为确定出的法向量。
在一个可选的实施例中,在确定了目标点的法向量及残差之后,可也基于确定的法向量及残差进行区域生长,即,对目标区域中的平面进行分割。下面具体说明如何利用所述目标点的法向量及残差在所述目标区域内进行平面分割,以得到目标平面:
循环执行以下操作,直到将所有的目标点均移除为止:
将所述第一点从所述目标点中移除,并将所述第一点作为第一平面的初始种子点;从所述目标点中确定出满足预定条件的第一种子点并将所述第一种子点从所述目标点中移除;基于所述第一点和确定出的满足所述预定条件的点确定第一平面;重新在所述目标点中确定第一点。其中,在上述实施例中,目标区域中的所有目标点可以构成一个目标点集合,在循环执行上述操作时,移除操作是指将待移除的点从该目标点集合中移除。循环执行上述操作一次可以确定一个平面,直到将所有目标点都从目标点集合中移除时,完成所有平面的分割。
在一个可选的实施例中,从所述目标点中确定出满足预定条件的第一种子点并将所述第一种子点从所述目标点中移除包括:
在与所述第一点的最邻近的K个点中确定出满足第一预定条件的第二点并将所述第二点从所述目标点中移除,其中,所述第一预定条件包括法向量与所述第一点的法向量的夹角小于预定角度阈值,且残差小于残差阈值;
循环执行以下操作,直到所述第二点中的点都被移除为止:在与所述第二点中包括的第三点最邻近的K个点中确定出满足第二预定条件的第四点并将所述第四点从所述目标点和/或所述第二点中移除,其中,所述第二预定条件包括法向量与所述第三点的法向量的夹角小于所述预定角度阈值,且残差小于所述残差阈值;重新在所述第二点中确定第三点。在上述实施例中,所有的第二点构成一个第二点集合,该集合可以作为第一点的平面种子点列,在进行平面分割(或称为区域生长)时,也需要基于平面种子点列中的点进行区域生长。在上述实施例中,残差阈值和角度阈值均是预先设置的,其中,在进行具体设置时,可以将大于一个平面中的90%(或其他比例,例如85%,92%等)的点的残差的一个值设定为残差阈值,上述残差阈值和角度阈值在设置之后也可以根据特定条件进行灵活调整。下面结合具体实施例对如何进行区域生长进行说明:
S1:设定残差阈值rth0(通常取90%的点的残差小于rth0),设定同平面点角度阈值θth;
S2:若当前点集(即,目标区域中的点所构成的点集)为空,或当前点集中残差最小的点p残差大于rth0,转S6;
S3:否则,将p从当前点集中移除作为新平面的初始种子点;
S4:依次检测当前点p的K临近域内所有点(假设用s指代该所有点中的点)(即,通过KNN算法算出的与p最邻近的k个点),若arccos||np·ns||<θth,且s点的残差小于rth0,则认为s与p在同一平面,将s点从所述当前点集中移除并将s加入此平面种子点列;
S5:若当前平面的种子点列不为空,转S4步(即,可以采用S4的方法依次确定平面种子点列中的各个点的同平面点,并将同平面点从当前点集中移除放入一个新的平面种子点列中);否则,说明一个平面已选完,转S2;
S6:分割完成,返回分割结果,其中,平面分割结果可以参见附图4。
其中,附图4中示例性地展示了3个分割平面,其中n0为世界坐标系法向,为物体表面法向与世界坐标系法向夹角,即表示斜度,z为平面的中心点在世界坐标系中的z坐标,表示高度,将通过/>z综合判定抓取顺序。
此外,在平面分割排序完成后,可以通过颜色来显示重建平面信息。
在一个可选的实施例中,在执行上述平面分割后,可以得到多个平面,然后需要确定各个平面的抓取顺序,在本实施例中,确定进行平面分割后得到的目标平面的抓取顺序包括:确定所述目标平面的法向量与预定方向的夹角,以及,确定所述目标平面的高度;基于所述夹角与所述高度确定所述目标平面的抓取顺序。可选地,基于所述夹角与所述高度确定所述目标平面的抓取顺序包括:基于所述夹角确定所述目标平面的姿态代价,以及,基于所述高度确定所述目标平面的高度代价;通过如下公式确定所述目标平面的抓取代价Fcost:其中,w1、w2为基于所述目标区域所处的场景所确定的权重因子,Fz为经过归一化的姿态代价、高度代价;基于Fcost确定所述目标平面的抓取顺序。在本实施例中,对于姿态,设平面法向与一个特定方向(例如,竖直方向)夹角为/>可以设定当视为有利于抓取,代价为0;当/>视为有利于抓取,代价与角度正相关;当/>视为不可抓取(当然,上述角度阈值也可以灵活设置,并不仅限于上述的10°(还可以是8°,12°,15°等)和35°(还可以是30°,38°,40°等));对于高度,在本地坐标系中可以认为越高越好(对于本实施例中即离相机越近),即本地坐标系中z值越大越好,故抓取代价与z值负相关;对上述的角度代价、高度代价进行归一化处理,再根据具体场景赋予权重信息,最终按照下式进行抓取面排序:/>其中,Fcost为平面总的抓取代价,w1、w2为权重因子,/>Fz为经过归一化的姿态代价、高度代价。在本实施例中,权重因子的值可以基于具体场景进行设定。在进行平面抓取时,可以采用代价由小到大的顺序进行抓取。
在一个可选的实施例中,在确定目标区域中包括的目标点的法向量及残差之前,所述方法还包括:通过深度传感器获取目标场景的点云信息;基于输入的指令从所述点云信息中确定出所述目标区域。在本实施例中,可以首先通过深度传感器获取目标场景的深度信息,通过坐标转换获取本地坐标系下的三维信息;进而从获取的点云信息中选择AOI(area of interest)区域(对应于上述的目标区域);可选地,选择AOI区域可以通过如下步骤实现:保存深度信息图像,确定利用鼠标框选AOI区域,通过OpenCV的鼠标响应回调函数将区域信息保存到.yaml配置文件;在点云分割程序初始化时,将读取.yaml配置文件,即获取AOI信息。其中,本发明实施例中的实现设备的安装示意图可以参见附图5,其中,待分拣物体位于机械操作空间内,在实际操作时,可以将深度相机固定,从使相机视野较好的覆盖待分拣物体。
由上述各实施例可知,本发明实施例中只通过面的法向及平面残差两个参量作为评估参数,较少的参量显著地调高了结果输出速度,对机器人实时性有着显著地意义;本发明实施例中只通过面的法向及平面残差两个参量作为评估参数,每个参量都有明确的意义,用户可以根据特定的情况及想要的结果有针对行的调节;例如,因为物体表面材料不同会对采集的数据精度造成影响,此时即可调节角度阈值θth来避免过分割、欠分割;当物体存在一定曲面,也可通过θth的调节显著地改善分割效果。同时因为参数较少,在分割效果基本不变的情况下显著地提升了分割计算速度。并且,在本发明实施例中,两个参数(θth,rth0)都有直观的意义;通过对rth0的调节,可以很好的避免欠分割及过分割情况;通过对θth的调节,可以较好控制平面弯曲程度。并且,在抓取过程中,本发明实施例中充分考虑了平面的位姿问题,并给出了抓取代价函数,适用于多物体抓取的场景,如图6所示,散落的正方体姿态各异,将通过式综合考虑物体的角度及高度代价,进行抓取排序。此外,通过在KNN算法中适当增加K值还可以降低噪点对结果的影响
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
在本实施例中还提供了一种物品抓取装置,该装置用于实现上述实施例及优选实施方式,已经进行过说明的不再赘述。如以下所使用的,术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。
图7是根据本发明实施例的物品抓取装置的结构框图,如图7所示,该装置包括:
第一确定模块72,用于确定目标区域中包括的目标点的法向量及残差;分割模块74,用于利用所述目标点的法向量及残差在所述目标区域内进行平面分割,以得到目标平面;第二确定模块76,用于确定进行平面分割后得到的目标平面的抓取顺序;抓取模块78,用于按照所述抓取顺序对所述目标平面对应的物品进行抓取。
在一个可选的实施例中,所述第一确定模块72具体用于:确定所述目标点中与所述目标点中包括的第一点最邻近的K个点,其中,K为大于零的整数;基于所述K个点中的部分点确定所述第一点的法向量及残差。
在一个可选的实施例中,所述第一确定模块72可以通过如下方式确定所述目标点中与所述目标点中包括的第一点最邻近的K个点:基于K近邻KNN算法确定所述目标点中与所述第一点最邻近的K个点。
在一个可选的实施例中,所述第一确定模块72可以通过如下方式基于所述K个点中的部分点确定所述第一点的法向量及残差:基于所述K个点中的部分点采用最小二乘法确定所述第一点的法向量及残差。
在一个可选的实施例中,所述第一确定模块72可以通过如下方式基于所述K个点中的部分点采用最小二乘法确定所述第一点的法向量及残差:通过如下公式确定所述第一点的协方差矩阵∑:其中,pi为所述K个点中距离所述第一点最近的前K/2个点,/>为所述前K/2点的均值点;通过如下公式确定各个特征向量以及各个特征值:λV=∑V,其中,V为特征向量,λ为特征值;将特征值中包括的取值最小的特征值确定为所述第一点的所述残差,将该取值最小的特征值对应的特征向量确定为所述第一点的法向量。
在一个可选的实施例中,所述分割模块74可以通过如下方式利用所述目标点的法向量及残差在所述目标区域内进行平面分割,以得到目标平面:循环执行以下操作,直到将所有的目标点均移除为止:将所述第一点从所述目标点中移除,并将所述第一点作为第一平面的初始种子点;从所述目标点中确定出满足预定条件的第一种子点并将所述第一种子点从所述目标点中移除;基于所述第一点和确定出的满足所述预定条件的点确定第一平面;重新在所述目标点中确定第一点。
在一个可选的实施例中,所述分割模块74可以通过如下方式所述目标点中确定出满足预定条件的第一种子点并将所述第一种子点从所述目标点中移除:在与所述第一点的最邻近的K个点中确定出满足第一预定条件的第二点并将所述第二点从所述目标点中移除,其中,所述第一预定条件包括法向量与所述第一点的法向量的夹角小于预定角度阈值,且残差小于残差阈值;循环执行以下操作,直到所述第二点中的点都被移除为止:在与所述第二点中包括的第三点最邻近的K个点中确定出满足第二预定条件的第四点并将所述第四点从所述目标点和/或所述第二点中移除,其中,所述第二预定条件包括法向量与所述第三点的法向量的夹角小于所述预定角度阈值,且残差小于所述残差阈值;重新在所述第二点中确定第三点。
在一个可选的实施例中,所述第二确定模块76具体用于:确定所述目标平面的法向量与预定方向的夹角,以及,确定所述目标平面的高度;基于所述夹角与所述高度确定所述目标平面的抓取顺序。
在一个可选的实施例中,所述装置还用于在确定目标区域中包括的目标点的法向量及残差之前,通过深度传感器获取目标场景的点云信息;基于输入的指令从所述点云信息中确定出所述目标区域。
需要说明的是,上述各个模块是可以通过软件或硬件来实现的,对于后者,可以通过以下方式实现,但不限于此:上述模块均位于同一处理器中;或者,上述各个模块以任意组合的形式分别位于不同的处理器中。
本发明的实施例还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有计算机程序,其中,该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
可选地,在本实施例中,上述计算机可读存储介质可以包括但不限于:U盘、只读存储器(Read-Only Memory,简称为ROM)、随机存取存储器(Random Access Memory,简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。
本发明的实施例还提供了一种电子装置,包括存储器和处理器,该存储器中存储有计算机程序,该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。
可选地,上述电子装置还可以包括传输设备以及输入输出设备,其中,该传输设备和上述处理器连接,该输入输出设备和上述处理器连接。
可选地,本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例,本实施例在此不再赘述。
显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (12)
1.一种物品抓取方法,其特征在于,包括:
确定目标区域中包括的目标点的法向量及残差;
利用所述目标点的法向量及残差在所述目标区域内进行平面分割,以得到目标平面;
确定进行平面分割后得到的目标平面的抓取顺序;
按照所述抓取顺序对所述目标平面对应的物品进行抓取;
其中,确定进行平面分割后得到的目标平面的抓取顺序包括:确定所述目标平面的法向量与预定方向的夹角,以及,确定所述目标平面的高度;基于所述夹角与所述高度确定所述目标平面的抓取顺序。
2.根据权利要求1所述的方法,其特征在于,确定目标区域中包括的目标点的法向量及残差:
确定所述目标点中与所述目标点中包括的第一点最邻近的K个点,其中,K为大于零的整数;
基于所述K个点中的部分点确定所述第一点的法向量及残差。
3.根据权利要求2所述的方法,其特征在于,确定所述目标点中与所述目标点中包括的第一点最邻近的K个点包括:
基于K近邻KNN算法确定所述目标点中与所述第一点最邻近的K个点。
4.根据权利要求2所述的方法,其特征在于,基于所述K个点中的部分点确定所述第一点的法向量及残差包括:
基于所述K个点中的部分点采用最小二乘法确定所述第一点的法向量及残差。
5.根据权利要求4所述的方法,其特征在于,基于所述K个点中的部分点采用最小二乘法确定所述第一点的法向量及残差包括:
通过如下公式确定所述第一点的协方差矩阵∑:其中,pi为所述K个点中距离所述第一点最近的前K/2个点,/>为所述前K/2点的均值点;
通过如下公式确定各个特征向量以及各个特征值:λV=∑V,其中,V为特征向量,λ为特征值;
将特征值中包括的取值最小的特征值确定为所述第一点的所述残差,将所述取值最小的特征值对应的特征向量确定为所述第一点的法向量。
6.根据权利要求2所述的方法,其特征在于,利用所述目标点的法向量及残差在所述目标区域内进行平面分割,以得到目标平面包括:
循环执行以下操作,直到将所有的目标点均移除为止:
将所述第一点从所述目标点中移除,并将所述第一点作为第一平面的初始种子点;
从所述目标点中确定出满足预定条件的第一种子点并将所述第一种子点从所述目标点中移除;
基于所述第一点和确定出的满足所述预定条件的点确定第一平面;
重新在所述目标点中确定第一点。
7.根据权利要求6所述的方法,其特征在于,从所述目标点中确定出满足预定条件的第一种子点并将所述第一种子点从所述目标点中移除包括:
在与所述第一点的最邻近的K个点中确定出满足第一预定条件的第二点并将所述第二点从所述目标点中移除,其中,所述第一预定条件包括法向量与所述第一点的法向量的夹角小于预定角度阈值,且残差小于残差阈值;
循环执行以下操作,直到所述第二点中的点都被移除为止:
在与所述第二点中包括的第三点最邻近的K个点中确定出满足第二预定条件的第四点并将所述第四点从所述目标点和/或所述第二点中移除,其中,所述第二预定条件包括法向量与所述第三点的法向量的夹角小于所述预定角度阈值,且残差小于所述残差阈值;
重新在所述第二点中确定第三点。
8.根据权利要求1所述的方法,其特征在于,基于所述夹角与所述高度确定所述目标平面的抓取顺序包括:
基于所述夹角确定所述目标平面的姿态代价,以及,基于所述高度确定所述目标平面的高度代价;
通过如下公式确定所述目标平面的抓取代价Fcost:
其中,w1、w2为基于所述目标区域所处的场景所确定的权重因子,Fz为经过归一化的姿态代价、高度代价;
基于Fcost确定所述目标平面的抓取顺序。
9.根据权利要求1所述的方法,其特征在于,在确定目标区域中包括的目标点的法向量及残差之前,所述方法还包括:
通过深度传感器获取目标场景的点云信息;
基于输入的指令从所述点云信息中确定出所述目标区域。
10.一种物品抓取装置,其特征在于,包括:
第一确定模块,用于确定目标区域中包括的目标点的法向量及残差;
分割模块,用于利用所述目标点的法向量及残差在所述目标区域内进行平面分割,以得到目标平面;
第二确定模块,用于确定进行平面分割后得到的目标平面的抓取顺序;
抓取模块,用于按照所述抓取顺序对所述目标平面对应的物品进行抓取;
其中,所述第二确定模块用于通过以下方式确定进行平面分割后得到的目标平面的抓取顺序:确定所述目标平面的法向量与预定方向的夹角,以及,确定所述目标平面的高度;基于所述夹角与所述高度确定所述目标平面的抓取顺序。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行所述权利要求1至9任一项中所述的方法。
12.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行所述权利要求1至9任一项中所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911151353.0A CN110992372B (zh) | 2019-11-21 | 2019-11-21 | 物品抓取方法、装置、存储介质及电子装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911151353.0A CN110992372B (zh) | 2019-11-21 | 2019-11-21 | 物品抓取方法、装置、存储介质及电子装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110992372A CN110992372A (zh) | 2020-04-10 |
CN110992372B true CN110992372B (zh) | 2023-08-29 |
Family
ID=70085780
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911151353.0A Active CN110992372B (zh) | 2019-11-21 | 2019-11-21 | 物品抓取方法、装置、存储介质及电子装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110992372B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112025701B (zh) * | 2020-08-11 | 2022-02-18 | 浙江大华技术股份有限公司 | 抓取物体的方法、装置、计算设备和存储介质 |
CN113500017B (zh) * | 2021-07-16 | 2023-08-25 | 上海交通大学烟台信息技术研究院 | 一种面向非结构化场景下物料分拣的智能系统和方法 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5035033B1 (zh) * | 1971-02-12 | 1975-11-13 | ||
CN101026757A (zh) * | 2007-04-06 | 2007-08-29 | 清华大学 | 一种基于分布式信源编码的多视点视频压缩编解码方法 |
CN101877128A (zh) * | 2009-12-23 | 2010-11-03 | 中国科学院自动化研究所 | 一种三维场景中不同物体的分割方法 |
CN104325462A (zh) * | 2014-09-30 | 2015-02-04 | 同济大学 | 一种固有约束下构建机器人运动空间的方法 |
CN107748890A (zh) * | 2017-09-11 | 2018-03-02 | 汕头大学 | 一种基于深度图像的视觉抓取方法、装置及其可读存储介质 |
CN107908841A (zh) * | 2017-11-03 | 2018-04-13 | 南京邮电大学 | 三维壁面可抓取位置判别算法 |
WO2018072630A1 (zh) * | 2016-10-17 | 2018-04-26 | 杭州海康威视数字技术股份有限公司 | 一种三维场景模型构建方法及装置 |
CN109677824A (zh) * | 2019-01-15 | 2019-04-26 | 江苏智库物流科技有限公司 | 全自动无人行车线缆盘仓储管理方法 |
WO2019100647A1 (zh) * | 2017-11-21 | 2019-05-31 | 江南大学 | 一种基于rgb-d相机的物体对称轴检测方法 |
CN109903332A (zh) * | 2019-01-08 | 2019-06-18 | 杭州电子科技大学 | 一种基于深度学习的目标姿态估计方法 |
CN110322515A (zh) * | 2019-07-02 | 2019-10-11 | 工极智能科技(苏州)有限公司 | 基于双目立体视觉的工件识别及抓取点提取方法 |
CN110363815A (zh) * | 2019-05-05 | 2019-10-22 | 东南大学 | 一种单视角点云下基于实例分割的机器人抓取检测方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180300531A1 (en) * | 2017-04-17 | 2018-10-18 | Htc Corporation | Computer-implemented 3d model analysis method, electronic device, and non-transitory computer readable storage medium |
-
2019
- 2019-11-21 CN CN201911151353.0A patent/CN110992372B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5035033B1 (zh) * | 1971-02-12 | 1975-11-13 | ||
CN101026757A (zh) * | 2007-04-06 | 2007-08-29 | 清华大学 | 一种基于分布式信源编码的多视点视频压缩编解码方法 |
CN101877128A (zh) * | 2009-12-23 | 2010-11-03 | 中国科学院自动化研究所 | 一种三维场景中不同物体的分割方法 |
CN104325462A (zh) * | 2014-09-30 | 2015-02-04 | 同济大学 | 一种固有约束下构建机器人运动空间的方法 |
WO2018072630A1 (zh) * | 2016-10-17 | 2018-04-26 | 杭州海康威视数字技术股份有限公司 | 一种三维场景模型构建方法及装置 |
CN107748890A (zh) * | 2017-09-11 | 2018-03-02 | 汕头大学 | 一种基于深度图像的视觉抓取方法、装置及其可读存储介质 |
CN107908841A (zh) * | 2017-11-03 | 2018-04-13 | 南京邮电大学 | 三维壁面可抓取位置判别算法 |
WO2019100647A1 (zh) * | 2017-11-21 | 2019-05-31 | 江南大学 | 一种基于rgb-d相机的物体对称轴检测方法 |
CN109903332A (zh) * | 2019-01-08 | 2019-06-18 | 杭州电子科技大学 | 一种基于深度学习的目标姿态估计方法 |
CN109677824A (zh) * | 2019-01-15 | 2019-04-26 | 江苏智库物流科技有限公司 | 全自动无人行车线缆盘仓储管理方法 |
CN110363815A (zh) * | 2019-05-05 | 2019-10-22 | 东南大学 | 一种单视角点云下基于实例分割的机器人抓取检测方法 |
CN110322515A (zh) * | 2019-07-02 | 2019-10-11 | 工极智能科技(苏州)有限公司 | 基于双目立体视觉的工件识别及抓取点提取方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110992372A (zh) | 2020-04-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109737974B (zh) | 一种3d导航语义地图更新方法、装置及设备 | |
JP6760957B2 (ja) | 3次元モデリング方法及び装置 | |
CN111274943B (zh) | 一种检测方法、装置、电子设备及存储介质 | |
WO2013106920A1 (en) | Densifying and colorizing point cloud representation of physical surface using image data | |
CN110992372B (zh) | 物品抓取方法、装置、存储介质及电子装置 | |
WO2022042304A1 (zh) | 识别场景轮廓的方法、装置、计算机可读介质及电子设备 | |
WO2021005977A1 (ja) | 三次元モデル生成方法及び三次元モデル生成装置 | |
CN110567441B (zh) | 基于粒子滤波的定位方法、定位装置、建图及定位的方法 | |
JP6894707B2 (ja) | 情報処理装置およびその制御方法、プログラム | |
CN112686950B (zh) | 位姿估计方法、装置、终端设备及计算机可读存储介质 | |
CN113052907B (zh) | 一种动态环境移动机器人的定位方法 | |
CN108492284B (zh) | 用于确定图像的透视形状的方法和装置 | |
CN112613381A (zh) | 一种图像映射方法、装置、存储介质及电子装置 | |
CN113706472A (zh) | 公路路面病害检测方法、装置、设备及存储介质 | |
CN112613107A (zh) | 杆塔工程确定施工进度的方法、装置、存储介质及设备 | |
WO2021056501A1 (zh) | 提取特征点的方法、可移动平台及存储介质 | |
JP2018022247A (ja) | 情報処理装置およびその制御方法 | |
CN110276801B (zh) | 一种物体定位方法、装置及存储介质 | |
CN111724444A (zh) | 目标物的抓取点的确定方法、装置及抓取系统 | |
JP7432793B1 (ja) | 三次元点群に基づくマッピング方法、装置、チップ及びモジュール機器 | |
WO2021193672A1 (ja) | 三次元モデル生成方法及び三次元モデル生成装置 | |
CN110807798A (zh) | 图像识别方法、系统、相关设备以及计算机可读存储介质 | |
JP2019211981A (ja) | 情報処理装置、情報処理装置の制御方法およびプログラム | |
CN110765926B (zh) | 图画书识别方法、装置、电子设备和存储介质 | |
CN113379826A (zh) | 物流件的体积测量方法以及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |