CN114373060B - 行李模型生成方法与设备 - Google Patents
行李模型生成方法与设备 Download PDFInfo
- Publication number
- CN114373060B CN114373060B CN202210290419.XA CN202210290419A CN114373060B CN 114373060 B CN114373060 B CN 114373060B CN 202210290419 A CN202210290419 A CN 202210290419A CN 114373060 B CN114373060 B CN 114373060B
- Authority
- CN
- China
- Prior art keywords
- local
- target
- image
- point cloud
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种行李模型生成方法及设备,方法包括:从多预设角度采集目标行李的局部深度图像;将局部深度图像转换为第一局部点云并拼接为第一拼接点云;根据第一拼接点云生成第一表层模型以调整目标行李姿态;从多个预设角度采集目标行李的局部融合图像;将局部融合图像的深度信息转换为第二局部点云,并拼接得到第二拼接点云;根据第二拼接点云确定多个待贴图网格,生成第一贴图切片并将第一贴图切片贴合于对应的待贴图网格获得目标行李模型。本方法快速生成第一表层模型作为目标行李的简易模型提供实时建模反馈以根据第一表层模型调整目标行李姿态,确保后续生成目标行李模型的完整性,还进一步生成目标行李模型以准确检测行李的破损与丢失。
Description
技术领域
本申请涉及模型生成领域,尤其涉及一种行李模型生成方法与设备。
背景技术
目前,在行李托运过程中,通常需要对行李的状态进行跟踪检测,以实时稽查行李是否发生破损,进而保证行李的安全运达。
但由于对行李进行多角度检测的难度较大,往往需要花费较长时间。因此行李在运输过程中发生的小面积几何形变或者破损很难被及时发现,影响实际的检测效果,导致在行李运输过程中,可能出现物品损坏或丢失的风险。同时,在实际的对行李进行采集扫描以及模型生成的工作场景中,往往会存在着目标行李的摆放位置不正确,导致目标行李偏离预设区域,以及行李的摆放姿态不适于对其进行采集扫描,导致行李模型的生成不完整、不准确且速度达不到实际使用需求的问题。
因此,如何提供一种快速准确的行李模型生成方法是本领域技术人员亟待解决的技术问题。
发明内容
本申请提供一种行李模型生成方法与设备,旨在快速地获得清晰、准确、立体的行李模型。
第一方面,本申请提供了一种行李模型生成方法,包括:
当接收到第一采集指令时,从多个预设角度采集放置于预设区域内的目标行李的局部深度图像;
基于预设的转换关系将局部深度图像转换为第一局部点云,并将多个第一局部点云拼接得到第一拼接点云;
根据第一拼接点云生成与目标行李对应的第一表层模型,以根据第一表层模型调整目标行李的姿态;
当接收到第二采集指令时,从多个预设角度采集目标行李的局部融合图像,局部融合图像包括目标行李的深度信息以及图像信息;
基于预设的转换关系将深度信息转换为第二局部点云,并将多个第二局部点云拼接得到第二拼接点云;
根据第二拼接点云确定多个待贴图网格,并根据待贴图网格的网格朝向为待贴图网格匹配对应的局部融合图像;
根据局部融合图像的图像信息生成第一贴图切片,并将第一贴图切片贴合于对应的待贴图网格,得到目标行李模型。
在一些实施方式中,行李模型生成设备包括底座、与底座旋转连接的旋转臂、安装于旋转臂的拍摄装置以及转动驱动,其中,转动驱动用于控制旋转臂与底座相对转动:
从多个预设角度采集放置于预设区域内的目标行李的局部深度图像,包括:
根据预设角度确定与旋转臂对应的转动角度;
通过转动驱动将旋转臂转动至转动角度,并当旋转臂转动至转动角度时,控制拍摄装置采集目标行李的局部深度图像。
在一些实施方式中,将多个第一局部点云拼接得到第一拼接点云,包括:
获取拍摄装置采集局部深度图像时旋转臂的转动角度;
基于预设的空间旋转矩阵,根据转动角度确定对应的特征点映射关系;
提取第一局部点云中的第一特征点;
建立第一总坐标系,并根据特征点映射关系确定在第一总坐标系上与第一特征点映射的第一映射特征点;
拼合多个第一映射特征点获得第一拼接点云。
在一些实施方式中,根据第一拼接点云生成与目标行李对应的第一表层模型,包括:
基于第一总坐标系建立体积元素阵列,其中,体积元素阵列包括多个阵列排布的体积元素;
根据第一拼接点云在体积元素阵列中确定与目标行李的表面对应的表层体积元素;
根据表层体积元素生成第一表层模型。
在一些实施方式中,行李模型生成设备还包括显示装置;
根据第一表层模型调整目标行李的姿态,包括:
通过预设的压缩算法将体积元素阵列压缩为体素压缩数据并存储体素压缩数据;
根据体素压缩数据生成目标行李的三维表层图像;
通过显示装置显示三维表层图像,以根据三维表层图像调整目标行李的姿态。
在一些实施方式中,将多个第二局部点云拼接得到第二拼接点云,包括:
获取拍摄装置采集局部融合图像时旋转臂的转动角度;
基于预设的空间旋转矩阵,根据转动角度确定对应的特征点映射关系;
提取第二局部点云中的第二特征点;
建立第二总坐标系,并根据特征点映射关系确定在第二总坐标系上与第二特征点映射的第二映射特征点;
拼合多个第二映射特征点获得第二拼接点云。
在一些实施方式中,基于预设的转换关系将局部深度图像转换为第一局部点云,并将多个第一局部点云拼接得到第一拼接点云之前,还包括:
获取行李规格信息与预设区域的位置信息,并根据位置信息与行李规格信息确定拍摄装置的拍摄位姿;
根据拍摄位姿确定旋转臂的多个待标定转动角度;
当接收到标定指令时,从多个待标定转动角度采集放置于预设区域内的标定样本的样本深度图像;
确定样本深度图像中与标定样本对应的样本映射;
根据标定样本与样本映射确定转换关系以及特征点映射关系局部点云映射关系,并根据多个待标定转动角度对应的局部点云映射关系生成空间旋转矩阵。
在一些实施方式中,根据待贴图网格的网格朝向为待贴图网格匹配对应的局部融合图像,包括:
获取待贴图网格的网格朝向;
将与网格朝向的角度偏差处于预设偏差范围的预设角度作为目标角度;
根据目标角度确定待贴图网格对应的局部融合图像以目标角度对应的局部融合图像作为目标融合图像,并根据目标融合图像的图像信息生成贴图图像。
在一些实施方式中,根据第一拼接点云生成与目标行李对应的第一表层模型之后,还包括:
当接收到姿态确认指令时,解析局部深度图像获取对应的局部深度信息以及局部图像信息;
基于预设的转换关系将局部深度信息转换为第三局部点云,并将多个第三局部点云拼接得到第三拼接点云;
根据第三拼接点云确定多个切片网格,并根据切片网格的网格朝向为切片网格匹配对应的局部深度图像;
根据局部深度图像的局部图像信息生成第二贴图切片,并将第二贴图切片贴合于对应的切片网格,得到目标行李模型。
第二方面,本申请实施例还提供了一种行李模型生成设备,包括:
存储器和处理器;
存储器用于存储计算机程序;
处理器,用于执行所述计算机程序并在执行所述计算机程序时,实现上述的行李模型生成方法。
本申请实施例提供了一种行李模型生成方法及行李模型生成设备,方法包括:当接收到第一采集指令时,从多个预设角度采集放置于预设区域内的目标行李的局部深度图像;基于预设的转换关系将局部深度图像转换为第一局部点云,并将多个第一局部点云拼接得到第一拼接点云;根据第一拼接点云生成与目标行李对应的第一表层模型,以根据第一表层模型调整目标行李的姿态;当接收到第二采集指令时,从多个预设角度采集目标行李的局部融合图像,局部融合图像包括目标行李的深度信息以及图像信息;基于预设的转换关系将深度信息转换为第二局部点云,并将多个第二局部点云拼接得到第二拼接点云;根据第二拼接点云确定多个待贴图网格,并根据待贴图网格的网格朝向为待贴图网格匹配对应的局部融合图像;根据局部融合图像的图像信息生成第一贴图切片,并将第一贴图切片贴合于对应的待贴图网格,快速地获得清晰、准确、立体的行李模型,从而可以高效地检测行李物品的破损以及丢失情况。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的行李模型生成方法与设备的应用场景;
图2是本申请一实施例提供的行李模型生成设备中控制装置的结构性框图;
图3是本申请一实施例提供的一种行李模型生成方法的流程示意图;
图4是本申请一实施例提供的一种行李模型生成方法中局部深度图像采集步骤的流程示意图;
图5是本申请一实施例提供的一种行李模型生成方法中第一表层模型生成步骤的流程示意图;
图6是本申请一实施例提供的行李模型生成设备的结构示意图;
图7是本申请一实施例提供的一种行李模型生成方法中第二拼接点云生成步骤的流程示意图;
图8是本申请一实施例提供的一种行李模型生成方法中局部融合图像匹配步骤的流程示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
目前,在行李托运过程中,通常需要对行李的状态进行跟踪检测,以实时稽查行李是否发生破损,进而保证行李的安全运达。但由于对行李进行多角度检测的难度较大,往往需要花费较长时间。因此行李在运输过程中发生的小面积几何形变或者破损很难被及时发现,影响实际的检测效果,导致在行李运输过程中,可能出现物品损坏或丢失的风险。
为了解决上述问题,本申请的实施例提供了一种行李模型生成方法与设备,用于获得清晰、立体、准确的行李模型,从而可以高效地检测行李物品的破损以及丢失情况。其中,该行李模型生成方法可以应用于行李模型生成设备中,以下以本方法应用于行李模型生成设备为例进行说明。
请参阅图1,图1是本申请一实施例提供的行李模型生成方法的应用场景。
如图1所示,行李模型生成设备1用于对目标行李2进行信息采集,并根据采集的信息建立与所述目标行李2对应的目标行李模型,从而可以高效地检测行李物品的破损以及丢失情况。
如图1、图2所示,本行李模型生成设备1包括控制装置11,控制装置11包括处理器111和存储器112,其中,处理器1111和存储器112通过总线113连接,该总线113比如为I2C(Inter-integrated Circuit)总线。
具体地,处理器111用于提供计算和控制能力,支撑整个计算机设备的运行。处理器111可以是中央处理单元 (Central Processing Unit,CPU),该处理器111还可以是其他通用处理器、数字信号处理器 (Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列 (Field-Programmable Gate Array,FPGA) 或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
具体地,存储器112可以是Flash芯片、只读存储器 (ROM,Read-Only Memory)磁盘、光盘、U盘或移动硬盘等。
本领域技术人员可以理解,图2中示出的结构,仅仅是与本申请实施例方案相关的控制装置11部分结构的框图,具体的控制装置11可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一些实施方式中,处理器111用于运行存储在存储器112中的计算机程序,并在执行计算机程序时实现如下步骤:
当接收到第一采集指令时,从多个预设角度采集放置于预设区域内的目标行李的局部深度图像;
基于预设的转换关系将局部深度图像转换为第一局部点云,并将多个第一局部点云拼接得到第一拼接点云;
根据第一拼接点云生成与目标行李对应的第一表层模型,以根据第一表层模型调整目标行李的姿态;
当接收到第二采集指令时,从多个预设角度采集目标行李的局部融合图像,局部融合图像包括目标行李的深度信息以及图像信息;
基于预设的转换关系将深度信息转换为第二局部点云,并将多个第二局部点云拼接得到第二拼接点云;
根据第二拼接点云确定多个待贴图网格,并根据待贴图网格的网格朝向为待贴图网格匹配对应的局部融合图像;
根据局部融合图像的图像信息生成第一贴图切片,并将第一贴图切片贴合于对应的待贴图网格,得到目标行李模型。
在一些实施方式中,行李模型生成设备1包括底座12、与底座12旋转连接的旋转臂13、安装于旋转臂13的拍摄装置14以及转动驱动15,其中,转动驱动15用于控制旋转臂13与底座12相对转动:
在一些实施方式中,处理器106在从多个预设角度采集放置于预设区域内的目标行李的局部深度图像时,具体包括:
从多个预设角度采集放置于预设区域内的目标行李的局部深度图像,包括:
根据预设角度确定与旋转臂对应的转动角度;
通过转动驱动将旋转臂转动至转动角度,并当旋转臂转动至转动角度时,控制拍摄装置采集目标行李的局部深度图像。
在一些实施方式中,处理器106在将多个第一局部点云拼接得到第一拼接点云时,具体包括:
获取拍摄装置采集局部深度图像时旋转臂的转动角度;
基于预设的空间旋转矩阵,根据转动角度确定对应的特征点映射关系;
提取第一局部点云中的第一特征点;
建立第一总坐标系,并根据特征点映射关系确定在第一总坐标系上与第一特征点映射的第一映射特征点;
拼合多个第一映射特征点获得第一拼接点云。
在一些实施方式中,处理器106在根据第一拼接点云生成与目标行李对应的第一表层模型时,具体包括:
基于第一总坐标系建立体积元素阵列,其中,体积元素阵列包括多个阵列排布的体积元素;
根据第一拼接点云在体积元素阵列中确定与目标行李的表面对应的表层体积元素;
根据表层体积元素生成第一表层模型。
在一些实施方式中,行李模型生成设备还包括显示装置;
处理器106在根据第一表层模型调整目标行李的姿态,包括:
通过预设的压缩算法将体积元素阵列压缩为体素压缩数据并存储体素压缩数据;
根据体素压缩数据生成目标行李的三维表层图像;
通过显示装置显示三维表层图像,以根据三维表层图像调整目标行李的姿态。
在一些实施方式中,处理器106在将多个第二局部点云拼接得到第二拼接点云时,具体包括:
获取拍摄装置采集局部融合图像时旋转臂的转动角度;
基于预设的空间旋转矩阵,根据转动角度确定对应的特征点映射关系;
提取第二局部点云中的第二特征点;
建立第二总坐标系,并根据特征点映射关系确定在第二总坐标系上与第二特征点映射的第二映射特征点;
拼合多个第二映射特征点获得第二拼接点云。
在一些实施方式中,处理器106在基于预设的转换关系将局部深度图像转换为第一局部点云,并将多个第一局部点云拼接得到第一拼接点云之前,还具体包括:
获取行李规格信息与预设区域的位置信息,并根据位置信息与行李规格信息确定拍摄装置的拍摄位姿;
根据拍摄位姿确定旋转臂的多个待标定转动角度;
当接收到标定指令时,从多个待标定转动角度采集放置于预设区域内的标定样本的样本深度图像;
确定样本深度图像中与标定样本对应的样本映射;
根据标定样本与样本映射确定转换关系以及特征点映射关系局部点云映射关系,并根据多个待标定转动角度对应的局部点云映射关系生成空间旋转矩阵。
在一些实施方式中,处理器106在根据待贴图网格的网格朝向为待贴图网格匹配对应的局部融合图像时,具体包括:
获取待贴图网格的网格朝向;
将与网格朝向的角度偏差处于预设偏差范围的预设角度作为目标角度;
根据目标角度确定待贴图网格对应的局部融合图像以目标角度对应的局部融合图像作为目标融合图像,并根据目标融合图像的图像信息生成贴图图像。
在一些实施方式中,处理器106根据第一拼接点云生成与目标行李对应的第一表层模型之后,还具体包括:
当接收到姿态确认指令时,解析局部深度图像获取对应的局部深度信息以及局部图像信息;
基于预设的转换关系将局部深度信息转换为第三局部点云,并将多个第三局部点云拼接得到第三拼接点云;
根据第三拼接点云确定多个切片网格,并根据切片网格的网格朝向为切片网格匹配对应的局部深度图像;
根据局部深度图像的局部图像信息生成第二贴图切片,并将第二贴图切片贴合于对应的切片网格,得到目标行李模型。
以下结合行李模型生成方法的应用场景以及行李模型生成设备的工作原理,对本申请实施例提供的行李模型生成方法进行详细说明。
请参阅图3,图3是本发明实施例提供的一种行李模型生成方法的流程示意图。
如图3所示,行李模型生成方法具体包括步骤S1至步骤S7。
步骤S1:当接收到第一采集指令时,从多个预设角度采集放置于预设区域内的目标行李的局部深度图像。
当本方法的行李模型生成设备接收到第一采集指令时,从多个预设角度采集放置于预设区域内的目标行李的局部深度图像,其中,第一采集指令可以是目标行李放置于预设区域时生成,也可以是由行李模型生成设备接收到行李模型生成设备对应的终端设备发送的对应指令时生成。
如图1所示,执行本方法的行李模型生成设备1具体包括控制装置11、底座12、旋转臂13、拍摄装置14以及转动驱动15,其中,旋转臂13与底座12旋转连接,拍摄装置14安装于旋转臂13,转动驱动15用于控制旋转臂13与底座12相对转动,拍摄装置14用于采集包含深度信息的局部深度图像,以及包含深度信息与图像信息的局部融合图像,控制装置11与底座12、旋转臂13、拍摄装置14、以及转动驱动15以及感测装置电连接。
示例性的,转动驱动15可以是步进电机,每向步进电机输入一个脉冲信号,步进电机的转子就转动一个步进,以下以步进电机作为转动驱动15进行具体说明。
可以理解的是,局部深度图像与预设角度对应,拍摄装置在任一预设角度进行局部深度图像的采集时,只能获得拍摄装置在当前的拍摄视角范围内目标行李的局部深度图像。
在一些实施方式中,拍摄装置采用可用于采集深度信息以及图像信息的深度相机,如RGB-D相机,通过拍摄装置采集的局部深度图像至少包括与局部深度图像对应的深度信息,也即局部深度图像中若干像素点与深度相机的距离。
如图4所示,在一些实施方式中,步骤S1中从多个预设角度采集放置于预设区域内的目标行李的局部深度图像,具体包括步骤S11-S12:
步骤S11:根据预设角度确定与旋转臂对应的转动角度;
步骤S12:通过转动驱动将旋转臂转动至转动角度,并当旋转臂转动至转动角度时,控制拍摄装置采集目标行李的局部深度图像。
具体的,多个预设角度对应于拍摄装置的预设拍摄角度,执行本方法的行李模型生成装置根据预设角度确定与旋转臂对应的转动角度,然后通过转动驱动将旋转臂转动至转动角度,并当旋转臂转动至转动角度时,拍摄装置到达预设拍摄角度,控制拍摄装置采集目标行李的局部深度图像。
在一些实施方式中,当使用步进电机作为转动驱动时,步骤S12中当旋转臂转动至转动角度时,控制拍摄装置采集目标行李的局部深度图像,具体包括:
获取预设的周期脉冲信号;
将周期脉冲信号输入步进电机以使步进电机根据周期脉冲信号以及预设的单位步进转动;
根据所述周期脉冲信号控制拍摄装置采集目标行李的局部深度图像。
具体的,执行本方法的设备获取预设的周期脉冲信号,将周期脉冲信号输入步进电机以使步进电机根据周期脉冲信号以及预设的单位步进转动,并根据相同的周期脉冲信号控制拍摄装置采集目标行李的局部深度图像,例如,当输入周期脉冲信号中的一个脉冲信号时,控制拍摄装置进行一次采集,获取对应角度的局部深度图像。
通过根据相同的周期脉冲信号控制旋转臂的转动以及拍摄装置的采集动作,使得旋转臂的转动与拍摄装置采集局部深度图像的动作同步,旋转臂转动至转动角度的同时,拍摄装置采集目标行李的局部深度图像。
可以理解的是,通过预先设置步进电机的单位步进或选择使用预设单位步进的步进电机,并预先调整周期脉冲信号的脉冲周期,可以控制旋转臂的转动频率以及拍摄装置执行采集的频率,使得当旋转臂转动至确定的转动角度时,控制拍摄装置采集目标行李的局部深度图像。
示例性地,设置步进电机的单位步进为0.06度每步,或选择使用预设单位步进为0.06度每步的步进电机,当输入周期脉冲信号中的一个脉冲信号时,步进电机随之转动一步,即步进电机的转子与定子相对转动0.06度,并带动旋转臂转动0.06度,拍摄装置的执行采集的拍摄角度随之改变,而拍摄装置根据周期脉冲信号采集局部深度图像,也即,每当旋转臂转动0.06度,拍摄装置进行一次局部深度图像的采集。
进一步的,行李模型生成设备1还包括与控制装置11电连接的感测装置,感测装置用于感测旋转臂13与底座12相对转动的转动角度。
在另一些实施方式中,步骤S12中当旋转臂转动至转动角度时,控制拍摄装置采集目标行李的局部深度图像,具体包括:通过感测装置感测转动驱动的转动,并当感测到旋转臂转动至确定的转动角度时,控制控制拍摄装置采集目标行李的局部深度图像。
具体的,执行本方法的设备向步进电机输入周期脉冲信号以通过步进电机控制旋转臂转动,并通过与步进电机的转子配合连接的感测装置感测转子的转动,当确定旋转臂到达确定的转动角度时,控制拍摄装置采集目标行李的局部深度图像,使得旋转臂的转动与拍摄装置采集局部深度图像的动作同步。
执行本方法的设备在控制拍摄装置采集目标行李的局部深度图像之后,将局部深度图像作为深度帧进行保存,并将深度帧与通过感测装置感测的转动角度关联保存。
步骤S2:基于预设的转换关系将所述局部深度图像转换为第一局部点云,并将多个所述第一局部点云拼接得到第一拼接点云。
提取局部深度图像中的多个像素点并解析获取与像素点对应的深度信息,即从目标行李表面上的对应点到拍摄装置的距离信息,然后将深度信息输入预设的转换关系,以生成与像素对应的采样点,拼合多个采样点便得到第一局部点云。
可以理解的是,对于内参与外参数标定的拍摄装置,像素对应的深度信息与采样点之间的转换关系是确定的,以局部深度图像中的任一像素进行说明,例如像素点1在局部深度图像中的二维坐标为(m,n),其对应的深度信息为d,根据拍摄装置的内参和外参确定转换关系,将该像素点1的深度信息d以二维坐标(m,n)及代入该转换关系,得到在与采集局部深度图像的预设角度对应的角度坐标系下的空间坐标,该空间坐标即为像素点1在角度坐标系中对应的第一特征点的坐标,由此得到多个像素分别对应的第一特征点,然后在角度坐标系中将第一特征点拼接得到角度坐标系中的第一局部点云。
基于预设的转换关系将局部深度图像转换为第一局部点云后,将多个所述第一局部点云拼接得到第一拼接点云。
在一些实施方式中,将多个第一局部点云拼接得到第一拼接点云具体包括:
获取拍摄装置采集局部深度图像时旋转臂的转动角度;
基于预设的空间旋转矩阵,根据转动角度确定对应的特征点映射关系;
提取第一局部点云中的第一特征点;
建立第一总坐标系,并根据特征点映射关系确定在第一总坐标系上与第一特征点映射的第一映射特征点;
拼合多个第一映射特征点获得第一拼接点云。
执行本方法的设备调用关联保存的深度帧与对应的转动角度,获取拍摄装置采集局部深度图像时旋转臂的转动角度,然后根据预设的空间旋转矩阵与转动角度确定对应的特征点映射关系,提取第一局部点云中的第一特征点,建立第一总坐标系,并根据特征点映射关系确定在第一总坐标系上与第一特征点映射的第一映射特征点,将多个第一映射特征点拼合便获得在第一总坐标系下的第一拼接点云。
具体的,第一总坐标系根据实际空间建立,而第一局部点云以及第一局部点云中的第一特征点是设置于与转动角度对应的角度坐标系上,通过预设的空间旋转矩阵与转动角度获得角度坐标系与第一总坐标系之间的特征点映射关系,由此根据特征点映射关系将角度坐标系中的第一特征点映射到第一总坐标系中的第一映射特征点。
通过特征点映射关系获取第一映射特征点,并将多个第一局部点云对应的多个第一映射特征点映射拼接得到第一拼接点云,可以实现从全方位和角度还原目标行李的表层。
步骤S3:根据所述第一拼接点云生成与所述目标行李对应的第一表层模型,以根据所述第一表层模型调整所述目标行李的姿态。
执行本方法的设备根据第一拼接点云生成与目标行李对应的第一表层模型,然后可以根据第一表层模型获取,进一步根据确定目标行李是否摆放于预设区域内,以及确定目标行李的当前姿态是否适于对其进行局部深度图像的采集以调整目标行李的姿态。
可以理解的是,在实际的对行李进行采集扫描以及模型生成的工作场景中,目标行李的摆放位置不正确,导致目标行李偏离预设区域,以及行李的摆放姿态不适于对其进行采集扫描,导致行李模型的生成不完整、不准确。因而本方法根据第一拼接点云生成与目标行李对应的第一表层模型,第一表层模型可作为目标行李的简易模型进行分析以获取目标行李的当前姿态,并根据目标行李的当前姿态调整目标行李的姿态,以第一表层模型作为目标行李的简易模型还便于快速地获取目标行李的表层凹凸情况,便于快速检测行李在运输过程中发生的小面积几何形变。
具体地,根据第一表层模型调整目标行李的姿态可以是由用户根据第一表层模型对目标行李的姿态进行调整,也可以是由对应的抓取设备根据第一表层模型对目标行李的姿态进行调整,其中,执行本方法的设备可与抓取设备对应配合。
如图5所示,在一些实施方式中,步骤S3中根据第一拼接点云生成与目标行李对应的第一表层模型,具体包括步骤S31-S33:
步骤S31:基于第一总坐标系建立体积元素阵列,其中,体积元素阵列包括多个阵列排布的体积元素;
步骤S32:根据第一拼接点云在体积元素阵列中确定与目标行李的表面对应的表层体积元素;
步骤S33:根据表层体积元素生成第一表层模型。
在基于现实空间建立的第一总坐标系建立体积元素阵列,其中,体积元素阵列包括多个阵列排布的体积元素,然后提取第一拼接点云中的第一映射特征点,根据第一映射特征点在第一总坐标系中的坐标确定体积元素阵列中对应的体积元素作为表层体积元素,在确定表层体积元素之后,将多个表层体积元素拼合,以根据拼合的表层体积元素进行进行曲面重建处理,生成对应于目标行李表面的第一表层模型。
其中,生成对应于目标行李表面的第一表层模型可以通过阶段符合距离场(Truncated Signed Distance Field,TSDF)算法实现,具体地,通过阶段符合距离场算法将为体积元素阵列中的体素附加设置有效距离场(SDF)的信息,具体地,有效距离场的值为体素到任一表层体积元素的最短距离,有效距离场值越接近零,证明体素相距与其最近的表层体积元素的距离越短,若该距离大于零,证明体素位于重建的第一表层模型的前方,反之,位于重建的第一表层模型的后方。通过存储距第一表层模型较近的数层体素,可以降低计算过程中的内存消耗和冗余点,减少计算复杂度和存储量,能够适用于实时生成TSDF体素集合作为第一表层模型,并将第一表层模型作为行李物品的简易模型。
在本实施例中,通过建立体积元素阵列,实现了对第一表层模型生成过程的优化,不仅能提升了第一表层模型的生成质量,以较高的还原度生成第一表层模型作为目标行李的简易模型,还能降低计算过程中的内存消耗和冗余点提升了第一表层模型的生成速度,实现了目标行李简易模型的快速构建。
如图6所示,在一些实施方式中,行李模型生成设备1还包括显示装置16,而步骤S3中根据第一表层模型调整目标行李的姿态,具体包括:
通过预设的压缩算法将体积元素阵列压缩为体素压缩数据并存储体素压缩数据;
根据体素压缩数据生成目标行李的三维表层图像;
通过显示装置显示三维表层图像,以根据三维表层图像调整目标行李的姿态。
通过体素哈希算法生成体素压缩数据并生成目标行李的三维表层图像能实现体素压缩数据的快速读写操作,并减少体积元素阵列所占用的存储资源。
具体的,显示装置16与控制装置11电连接,用于进行信息的显示,控制装置通过压缩算法将体积元素阵列压缩为体素压缩数据并存储体素压缩数据,根据体素压缩数据生成目标行李的三维表层图像,通过显示装置显示三维表层图像,以根据三维表层图像调整目标行李的姿态,其中,三维表层图像用于展示行李物品在各个方向上的表层图像。
在一些实施方式中,通过显示装置显示三维表层图像,以根据三维表层图像调整目标行李的姿态,具体是显示装置显示三维表层图像,然后由用户对目标行李的姿态进行调整。
将第一表层模型作为目标行李的简易模型,能为用户提供实时的建模反馈,便于快速地获取目标行李的表层凹凸情况并快速检测行李在运输过程中发生的小面积几何形变,同时,通过显示装置显示三维表层图像,使得用户可以根据三维表层图像确定目标行李是否摆放于预设区域内且目标行李的当前姿态是否适于对其进行局部深度图像的采集,并基于此提示用户纠正目标行李摆放的姿态,以提升拍摄装置在后续步骤中的信息采集效果与质量,确保生成目标行李模型的完整性。
在一些实施方式中,步骤S3之后还包括:对调整姿态后的目标行李进行姿态检验;当目标行李未通过姿态校验时生成提示指令,以根据提示指令再次调整目标行李的姿态;当目标行李通过姿态校验时生成第二采集指令,以使执行本方法的设备从多个预设角度采集目标行李的局部融合图像。
其中,对调整姿态后的目标行李进行姿态检验包括:从多个预设角度采集放置于预设区域内的目标行李的局部校验图像;基于预设的转换关系将局部校验图像转换为局部校验点云,并将多个局部校验点云拼接得到校验点云;根据校验点云生成与目标行李对应的第二表层模型,并根据第二表层模型对目标行李进行姿态校验。
具体地,当根据第二表层模型确认目标行李放置于预设区域内且目标行李的姿态适于对其进行局部融合图像的采集时,本设备可确认目标行李通过姿态校验,否则确认目标行李未通过姿态校验。
在一些实施方式中,根据第二表层模型对目标行李进行姿态校验,具体包括:通过显示装置显示第二表层模型,以使用户对目标行李进行姿态校验。
具体地,根据第一表层模型调整目标行李的姿态之后,本设备再次对目标行李进行图像采集与模型生成,并根据生成的第二表层模型进行姿态校验,以快速确定目标行李的姿态是否适于对其进行局部融合图像的采集。而当目标行李未通过姿态校验时生成提示指令,以根据提示指令再次调整目标行李的姿态,在此之后,再次对调整姿态后的目标行李进行姿态检验,若目标行李在调整姿态后仍没有通过姿态校验,执行本方法的设备再生成提示指令以调整目标行李的姿态,直至目标行李通过姿态校验,以确保目标行李摆放在预设区域内且目标行李的姿态适于对其进行局部融合图像的采集,提升后续局部融合图像采集的效果与生成目标行李模型的完整性。
步骤S4:当接收到第二采集指令时,从多个预设角度采集所述目标行李的局部融合图像,所述局部融合图像包括所述目标行李的深度信息以及图像信息。
当接收到第二采集指令时,从多个预设角度采集目标行李的局部融合图像,局部融合图像包括所述目标行李的深度信息以及图像信息,其中,第二采集指令可以由行李模型生成设备接收到行李模型生成设备对应的终端设备发送的对应指令时生成,也可以是当行李模型生成设备检测目标行李当前的姿态处于预设的优选姿态时生成,还可以是当行李模型生成设备确认目标行李通过姿态校验时生成。
如图1所示,执行本方法的行李模型生成设备1具体包括控制装置11、底座12、旋转臂13、拍摄装置14以及转动驱动15,其中,旋转臂13与底座12旋转连接,拍摄装置14安装于旋转臂13,转动驱动15用于控制旋转臂13与底座12相对转动,拍摄装置14用于采集包含深度信息的局部深度图像,以及包含深度信息与图像信息的局部融合图像,控制装置11与底座12、旋转臂13、拍摄装置14、以及转动驱动15以及感测装置电连接,拍摄装置14采用可用于采集深度信息与图像信息的深度相机,如RGB-D相机。
示例性的,转动驱动15可以是步进电机,每向步进电机输入一个脉冲信号,步进电机的转子就转动一个步进,以下以步进电机作为转动驱动15进行具体说明。
可以理解的是,局部融合图像与预设角度对应,拍摄装置在任一预设角度进行局部融合图像的采集时,只能获得拍摄装置在当前的拍摄视角范围内目标行李的局部融合图像,局部融合图像包括与局部融合图像对应的深度信息以及图像信息,即局部融合图像中若干像素点与深度相机的距离以及若干像素点的RGB信息。
在一些实施方式中,从多个预设角度采集放置于预设区域内的目标行李的局部融合图像,具体包括:
根据预设角度确定与旋转臂对应的转动角度;
通过转动驱动将旋转臂转动至转动角度,并当旋转臂转动至转动角度时,控制拍摄装置采集目标行李的局部融合图像。
具体的,多个预设角度对应于拍摄装置的预设拍摄角度,执行本方法的行李模型生成装置根据预设角度确定与旋转臂对应的转动角度,然后通过转动驱动将旋转臂转动至转动角度,并当旋转臂转动至转动角度时,拍摄装置到达预设拍摄角度,控制拍摄装置采集目标行李的局部融合图像。
在一些实施方式中,当使用步进电机作为转动驱动时,当旋转臂转动至转动角度时,控制拍摄装置采集目标行李的局部融合图像,具体包括:
获取预设的周期脉冲信号;
将周期脉冲信号输入步进电机以使步进电机根据周期脉冲信号以及预设的单位步进转动;
根据所述周期脉冲信号控制拍摄装置采集目标行李的局部融合图像。
具体的,执行本方法的设备获取预设的周期脉冲信号,将周期脉冲信号输入步进电机以使步进电机根据周期脉冲信号以及预设的单位步进转动,并根据相同的周期脉冲信号控制拍摄装置采集目标行李的局部融合图像,例如,当输入周期脉冲信号中的一个脉冲信号时,控制拍摄装置进行一次采集,获取对应角度的局部融合图像。通过根据相同的周期脉冲信号控制旋转臂的转动以及拍摄装置的采集动作,使得旋转臂的转动与拍摄装置采集局部融合图像的动作同步,旋转臂转动至转动角度的同时,拍摄装置采集目标行李的局部融合图像。
可以理解的是,通过预先设置步进电机的单位步进或选择使用预设单位步进的步进电机,并预先调整周期脉冲信号的脉冲周期,可以控制旋转臂的转动频率以及拍摄装置执行采集的频率,使得当旋转臂转动至确定的转动角度时,控制拍摄装置采集目标行李的局部融合图像。
进一步的,行李模型生成设备1还包括与控制装置11电连接的感测装置,感测装置用于感测旋转臂13与底座12相对转动的转动角度。具体的,当转动驱动15是步进电机时,感测装置与步进电机的转子配合连接,步进电机作为转动驱动15驱动旋转臂13与底座12相对转动,而感测装置用于感测旋转臂13的与底座12相对转动的转动角度。
在另一些实施方式中,步骤S12中当旋转臂转动至转动角度时,控制拍摄装置采集目标行李的局部融合图像,具体包括:通过感测装置感测转动驱动的转动,并当感测到旋转臂转动至确定的转动角度时,控制控制拍摄装置采集目标行李的图像信息与深度信息,并根据图像信息与深度信息生成局部融合图像。
具体的,执行本方法的设备向步进电机输入周期脉冲信号以通过步进电机控制旋转臂转动,并通过与步进电机的转子配合连接的感测装置感测转子的转动,当确定旋转臂到达确定的转动角度时,控制拍摄装置采集目标行李的图像信息与深度信息,使得旋转臂的转动与拍摄装置采集图像信息与深度信息的动作同步。
执行本方法的设备在控制拍摄装置采集目标行李的图像信息与深度信息之后,将多个像素点的图像信息、深度信息关联保存作为局部融合图像,并将局部融合图像与通过感测装置感测的转动角度关联保存。
步骤S5:基于预设的转换关系将所述深度信息转换为第二局部点云,并将多个所述第二局部点云拼接得到第二拼接点云。
提取局部融合图像中的多个像素点并解析获取与像素点对应的深度信息,即从目标行李表面上的对应点到拍摄装置的距离信息,然后将深度信息输入预设的转换关系,以生成与像素对应的采样点,拼合多个采样点便得到第二局部点云。基于预设的转换关系将局部融合图像转换为第二局部点云后,将多个所述第二局部点云拼接得到第二拼接点云。
如图7所示,在一些实施方式中,步骤S5中将多个所述第二局部点云拼接得到第二拼接点云,具体包括步骤S51-S55:
获取拍摄装置采集局部融合图像时旋转臂的转动角度;
基于预设的空间旋转矩阵,根据转动角度确定对应的特征点映射关系;
提取第二局部点云中的第二特征点;
建立第二总坐标系,并根据特征点映射关系确定在第二总坐标系上与第二特征点映射的第二映射特征点;
拼合多个第二映射特征点获得第二拼接点云。
执行本方法的设备调用关联保存的局部融合图像与对应的转动角度,获取拍摄装置采集局部融合图像时旋转臂的转动角度,然后根据预设的空间旋转矩阵与转动角度确定对应的特征点映射关系,提取第二局部点云中的第二特征点,建立第二总坐标系,并根据特征点映射关系确定在第二总坐标系上与第二特征点映射的第二映射特征点,将多个第二映射特征点拼合便获得在第二总坐标系下的第二拼接点云。
具体的,第二总坐标系根据实际空间建立,而第二局部点云以及第二局部点云中的第二特征点是设置于与转动角度对应的角度坐标系上,通过预设的空间旋转矩阵与转动角度获得角度坐标系与第二总坐标系之间的特征点映射关系,由此根据特征点映射关系将角度坐标系中的第二特征点映射到第二总坐标系中的第二映射特征点。
通过特征点映射关系获取第二映射特征点,并将多个第二局部点云对应的多个第二映射特征点映射拼接得到第二拼接点云,可以实现多全方位多角度还原目标行李的表层。
步骤S6:根据所述第二拼接点云确定多个待贴图网格,并根据所述待贴图网格的网格朝向为所述待贴图网格匹配对应的局部融合图像。
提取第二拼接点云中的多个第二映射特征点,基于预设的剖分算法对多个第二映射特征点剖分得到特征点连线,使得任一特征点连线与其余两个不同的第二映射特征点连接,然后根据特征点连线以及多个第二映射特征点生成网格模型,生成的网格模型中包括由多个特征点连线构成的网格,即是待贴图网格。确定多个待贴图网格后,根据待贴图网格的网格朝向为待贴图网格匹配对应的局部融合图像。
在一些实施方式中,生成网格模型的过程采用三角剖分算法(3D Delaunay),具体的,执行本方法的设备提取第二拼接点云中的多个第二映射特征点,然后在预设的三维空间中依次间插第二映射特征点,并在间插任一第二映射特征点时,基于三角剖分算法生成新的特征点连线和/或对已生成的特征点连线进行调整,由此在预设的三维空间中插入第二拼接点云中的多个第二映射特征点,并生成对应的特征点连线以获得网格模型,其中,采用三角剖分算法生成的网格模型包括形状为三角形的待贴图网格。
在一些实施方式中,在根据特征点连线以及多个第二映射特征点生成得到网格模型之后,还包括:用双边滤波对网格模型的表面进行滤波操作,以使得到的网格模型相对平滑,提升网格模型的质量。
如图8所示,在一些实施方式中,根据待贴图网格的网格朝向为待贴图网格匹配对应的局部融合图像,具体包括步骤S61-S63:
步骤S61:获取待贴图网格的网格朝向;
步骤S62:将与网格朝向的角度偏差处于预设偏差范围的预设角度作为目标角度;
步骤S63:以目标角度对应的局部融合图像作为目标融合图像,并根据目标融合图像的图像信息生成贴图图像根据目标角度确定待贴图网格对应的局部融合图像。
具体地,获取待贴图网格的网格朝向,调用关联保存的局部融合图像与对应的转动角度,将与网格朝向的角度偏差处于预设偏差范围的预设角度作为目标角度,然后根据目标角度确定待贴图网格对应的局部融合图像以目标角度对应的局部融合图像作为目标融合图像。在此之后,提取目标融合图像的图像信息,根据图像信息生成贴图图像,其中,可以设定小于一个预设角度值的范围作为预设的偏差范围,以选取对应的预设角度与朝向相近的局部融合图像作为目标融合图像,进一步使生成选取的局部融合图像贴图图像与目标行李的实际外观相近,提升模型生成的质量。
步骤S7:根据所述局部融合图像的所述图像信息生成第一贴图切片,并将所述第一贴图切片贴合于对应的所述待贴图网格,得到目标行李模型。
在一些实施方式中,步骤S63中根据局部融合图像的图像信息生成第一贴图切片具体包括:
根据局部融合图像的图像信息生成对应于目标行李的纹理图像;
在纹理图像中确定与待贴图网格的网格端点对应的贴图端点;
根据贴图端点生成第一贴图切片。
具体地,提取局部融合图像对应的图像信息,并根据图像信息生成对应于目标行李的纹理图像,其中,生成贴图图像可以是解析图像信息生成与待贴图网格对应的纹理图像,也可以是根据图像信息在包括多个预设纹理样本图的纹理样本库中匹配对应的纹理样本,以根据该纹理样本生成与待贴图网格对应的纹理图像或以该纹理样本作为与待贴图网格对应的纹理图像。生成纹理图像之后,在纹理图像中确定与待贴图网格的网格端点对应的贴图端点,并根据网格端点在纹理图像中切割得到第一贴图切片。
可以理解的是,待贴图网格的网格端点即是第二映射特征点,根据第二映射特征点对应的图像信息与纹理图像的多个点位进行比对,由此确定与第二映射特征点对应的贴图端点,并根据网格端点在纹理图像中切割得到第一贴图切片,使得得到的第一贴图切片贴近目标行李实际的外观。
在此之后,将第一贴图切片贴合于对应的待贴图网格,便得到了目标行李模型,实现了目标行李模型的快速准确生成。
该目标行李模型不仅包括了目标行李的轮廓信息,还包括了目标行李外表的纹理信息,易于后续对该目标行李模型进行图像展示或是根据该目标行李模型高效地检测行李物品的破损以及丢失情况。
进一步的,在一些实施方式中,步骤S2之前,还包括:
获取行李规格信息与预设区域的位置信息,并根据位置信息与行李规格信息确定拍摄装置的拍摄位姿;
根据拍摄位姿确定旋转臂的多个待标定转动角度;
当接收到标定指令时,从多个待标定转动角度采集放置于预设区域内的标定样本的样本深度图像;
确定样本深度图像中与标定样本对应的样本映射;
根据标定样本与样本映射确定转换关系以及特征点映射关系局部点云映射关系,并根据多个待标定转动角度对应的局部点云映射关系生成空间旋转矩阵。
如图1所示,可以理解的是,基于预设的转换关系将局部深度图像转换为第一局部点云前,需要对拍摄装置14进行标定,即需要首先标定与预设角度相关的转换关系以及空间旋转矩阵。
具体地,执行本方法的设备首先获取行李规格信息与预设区域的位置信息,其中,行李规格信息可以根据待进行采集扫描与模型生成的目标行李的轮廓尺寸预先设定,而预设区域的位置信息根据行李模型生成装置以及用于放置目标行李的预设区域预先设置。
然后根据位置信息与行李规格信息确定拍摄装置的拍摄位姿,根据拍摄位姿确定旋转臂的多个待标定转动角度,其中,拍摄装置的拍摄位姿包括但不限于拍摄装置与放置目标行李的预设区域中心的距离、以及拍摄装置进行拍摄的俯仰角,其中,俯仰角为与旋转臂转动方向垂直的方向上的角度,可以理解的是,在进行标定以确定转换关系以及空间旋转矩阵之后,拍摄装置与放置目标行李的预设区域中心的距离、以及俯仰角便需要在接下来的行李模型重建方法步骤中保持固定。
在此之后,基于确定后的拍摄位姿以及拍摄装置与旋转臂的连接关系确定拍摄装置对应的圆周范围,并在该圆周范围中确定用于标定的多个待标拍摄角度,并根据待标拍摄角度确定旋转臂的多个待标定转动角度。
当接收到标定指令时,从多个待标定转动角度采集放置于预设区域内的标定样本的样本深度图像,其中,标定指令为预设的标定样本放置于预设区域时生成。
具体的,在本方法中可以采用标定板作为标定样本,如:棋盘标定板、或ChArUco标定板等,标定板上附着规格与排布已知的特征阵列图案,根据已知的特征阵列图案的规格与排布以及从多个待标定转动角度采集的样本深度图像,确定样本深度图像中与标定样本对应的样本映射,根据标定样本与样本映射确定转换关系以及特征点映射关系局部点云映射关系,并根据多个待标定转动角度对应的局部点云映射关系生成空间旋转矩阵。
在另一些实施方式中,通过拍摄装置采集的局部深度图像除了包括局部深度图像上多个点位的局部深度信息,还包括多个点位的局部图像信息,根据第一拼接点云生成与目标行李对应的第一表层模型之后,还包括:
当接收到姿态确认指令时,解析局部深度图像获取对应的局部深度信息以及局部图像信息;
基于预设的转换关系将局部深度信息转换为第三局部点云,并将多个第三局部点云拼接得到第三拼接点云;
根据第三拼接点云确定多个切片网格,并根据切片网格的网格朝向为切片网格匹配对应的局部深度图像;
根据局部深度图像的局部图像信息生成第二贴图切片,并将第二贴图切片贴合于对应的切片网格,得到目标行李模型。
可以理解的是,第一表层模型用于向用户实时反馈建模,当用户根据第一表层模型确认目标行李摆放于预设区域内且目标行李的姿态适于对其进行局部深度图像或局部融合图像的采集时,可确定本设备采集的局部深度图像可直接用于目标行李模型的构建,因而本设备可根据拍摄装置从多个预设角度采集的局部深度图像生成目标行李模型,而无需对目标行李进行第二次的采集以获取多个预设角度上的局部融合图像。
具体地,当接收到姿态确认指令时,本设备首先解析局部深度图像获取局部深度图像上多个点位的局部深度信息与局部图像信息,然后基于预设的转换关系将局部深度信息转换为第三局部点云,并将多个第三局部点云拼接得到第三拼接点云。其中,姿态确认指令可以是由行李模型生成设备接收到行李模型生成设备对应的终端设备发送的对应指令时生成。
在此之后,本设备提取第三拼接点云中的多个第三映射特征点,基于预设的剖分算法对多个第三映射特征点剖分得到第三特征点连线,使得任一第三特征点连线与其余两个不同的第三映射特征点连接,然后根据第三特征点连线以及多个第三映射特征点生成网格模型,生成的网格模型中包括由多个第三特征点连线构成的网格,即是切片网格。确定多个切片网格后,根据切片网格的网格朝向为切片网格匹配对应的局部深度图像,根据局部深度图像的局部图像信息生成第二贴图切片,并将第二贴图切片贴合于对应的切片网格,得到目标行李模型。
具体地,本设备根据多个预设角度上的局部深度图像生成目标行李模型的具体步骤可参见本设备根据多个预设角度上的局部深度图像生成目标行李模型的具体步骤,且根据多个预设角度上的局部深度图像生成第一表层模型与目标行李模型可在不同的线程中同步进行。
可以理解的是,本设备生成第一表层模型所需算力小于生成目标行李模型所需的算力,因此在同步生成第一表层模型与目标行李模型的方案中,生成第一表层模型的速度大于生成目标行李模型,当生成第一表层模型后确认目标行李摆放于预设区域内且目标行李的姿态适于对其进行局部深度图像的采集的情况时,可继续正在进行的目标行李模型生成步骤,最大程度地提升目标行李模型的生成速度。
因此,在确认目标行李摆放于预设区域内且目标行李的姿态适于对其进行局部深度图像的采集的情况下,本方法还可根据拍摄装置从多个预设角度采集的局部深度图像生成目标行李模型,而无需对目标行李进行第二次的采集以获取多个预设角度上的局部融合图像,最大程度地提升目标行李模型的生成速度。
综上,本申请实施例提供了一种行李模型生成方法以及行李模型生成设备,本申请提供的行李模型生成方法通过从多个预设角度采集放置于预设区域内的目标行李的局部深度图像,基于预设的转换关系将局部深度图像转换为第一局部点云,将多个第一局部点云拼接得到第一拼接点云,根据第一拼接点云生成与目标行李对应的第一表层模型,以根据第一表层模型调整目标行李的姿态然后从多个预设角度采集目标行李的局部融合图像,局部融合图像包括目标行李的深度信息以及图像信息,将深度信息转换为第二局部点云,并将多个第二局部点云拼接得到第二拼接点云,根据第二拼接点云确定多个待贴图网格且为待贴图网格匹配对应的局部融合图像,根据局部融合图像的图像信息生成第一贴图切片并贴合于对应的待贴图网格,由此获得清晰、准确、立体的目标行李模型,可以实现从全方位和角度还原目标行李的状态和面貌,从而可以高效地检测行李物品的破损以及丢失情况。
且本方法首先生成第一表层模型,可以将该第一表层模型作为目标行李的简易模型,能为用户提供实时的建模反馈,便于快速地获取目标行李的表层凹凸情况并快速检测行李在运输过程中发生的小面积几何形变,还可以根据目标行李的简易模型提示用户纠正目标行李摆放的姿态以提升后续采集局部融合图像的采集效果,确保后续生成目标行李模型的完整性,以获取更为准确清晰的目标行李模型。
应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当理解,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。以上所述,仅是本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种行李模型生成方法,其特征在于,应用于行李模型生成设备,所述方法包括:
当接收到第一采集指令时,从多个预设角度采集放置于预设区域内的目标行李的局部深度图像;
基于预设的转换关系将所述局部深度图像转换为第一局部点云,并将多个所述第一局部点云拼接得到第一拼接点云;
根据所述第一拼接点云生成与所述目标行李对应的第一表层模型,以根据所述第一表层模型调整所述目标行李的姿态;
当接收到第二采集指令时,从多个预设角度采集所述目标行李的局部融合图像,所述局部融合图像包括所述目标行李的深度信息以及图像信息;
基于预设的转换关系将所述深度信息转换为第二局部点云,并将多个所述第二局部点云拼接得到第二拼接点云;
根据所述第二拼接点云确定多个待贴图网格,并根据所述待贴图网格的网格朝向为所述待贴图网格匹配对应的所述局部融合图像;
根据所述局部融合图像的所述图像信息生成第一贴图切片,并将所述第一贴图切片贴合于对应的所述待贴图网格,得到目标行李模型。
2.如权利要求1所述的方法,其特征在于,所述行李模型生成设备包括底座、与所述底座旋转连接的旋转臂、安装于所述旋转臂的拍摄装置以及转动驱动,其中,所述转动驱动用于控制所述旋转臂与所述底座相对转动:
所述从多个预设角度采集放置于预设区域内的目标行李的局部深度图像,包括:
根据预设角度确定与所述旋转臂对应的转动角度;
通过所述转动驱动将所述旋转臂转动至所述转动角度,并当所述旋转臂转动至所述转动角度时,控制所述拍摄装置采集所述目标行李的所述局部深度图像。
3.如权利要求2所述的方法,其特征在于,所述将多个所述第一局部点云拼接得到第一拼接点云,包括:
获取所述拍摄装置采集所述局部深度图像时所述旋转臂的转动角度;
基于预设的空间旋转矩阵,根据所述转动角度确定对应的特征点映射关系;
提取所述第一局部点云中的第一特征点;
建立第一总坐标系,并根据所述特征点映射关系确定在所述第一总坐标系上与所述第一特征点映射的第一映射特征点;
拼合多个所述第一映射特征点获得第一拼接点云。
4.如权利要求3所述的方法,其特征在于,所述根据所述第一拼接点云生成与所述目标行李对应的第一表层模型,包括:
基于所述第一总坐标系建立体积元素阵列,其中,所述体积元素阵列包括多个阵列排布的体积元素;
根据所述第一拼接点云在所述体积元素阵列中确定与所述目标行李的表面对应的表层体积元素;
根据所述表层体积元素生成所述第一表层模型。
5.如权利要求4所述的方法,其特征在于,所述行李模型生成设备还包括显示装置;
所述根据所述第一表层模型调整所述目标行李的姿态,包括:
通过预设的压缩算法将所述体积元素阵列压缩为体素压缩数据并存储所述体素压缩数据;
根据所述体素压缩数据生成所述目标行李的三维表层图像;
通过所述显示装置显示所述三维表层图像,以根据所述三维表层图像调整所述目标行李的姿态。
6.如权利要求3所述的方法,其特征在于,所述将多个所述第二局部点云拼接得到第二拼接点云,包括:
获取所述拍摄装置采集所述局部融合图像时所述旋转臂的转动角度;
基于预设的空间旋转矩阵,根据所述转动角度确定对应的特征点映射关系;
提取所述第二局部点云中的第二特征点;
建立第二总坐标系,并根据所述特征点映射关系确定在所述第二总坐标系上与所述第二特征点映射的第二映射特征点;
拼合多个所述第二映射特征点获得第二拼接点云。
7.如权利要求3-6任一项所述的方法,其特征在于,所述基于预设的转换关系将所述局部深度图像转换为第一局部点云,并将多个所述第一局部点云拼接得到第一拼接点云之前,还包括:
获取行李规格信息与预设区域的位置信息,并根据所述位置信息与所述行李规格信息确定所述拍摄装置的拍摄位姿;
根据所述拍摄位姿确定所述旋转臂的多个待标定转动角度;
当接收到标定指令时,从多个所述待标定转动角度采集放置于所述预设区域内的标定样本的样本深度图像;
确定所述样本深度图像中与所述标定样本对应的样本映射;
根据所述标定样本与样本映射确定所述转换关系以及所述特征点映射关系局部点云映射关系,并根据多个所述待标定转动角度对应的所述局部点云映射关系生成所述空间旋转矩阵。
8.如权利要求1所述的方法,其特征在于,所述根据所述待贴图网格的网格朝向为所述待贴图网格匹配对应的所述局部融合图像,包括:
获取所述待贴图网格的网格朝向;
将与所述网格朝向的角度偏差处于预设偏差范围的所述预设角度作为目标角度;
以根据所述目标角度对应的所述局部融合图像作为确定所述待贴图网格对应的所述局部融合图像目标融合图像,并根据所述目标融合图像的图像信息生成所述贴图图像。
9.如权利要求1所述的方法,其特征在于,所述根据所述第一拼接点云生成与所述目标行李对应的第一表层模型之后,还包括:
当接收到姿态确认指令时,解析所述局部深度图像获取对应的局部深度信息以及局部图像信息;
基于预设的转换关系将所述局部深度信息转换为第三局部点云,并将多个所述第三局部点云拼接得到第三拼接点云;
根据所述第三拼接点云确定多个切片网格,并根据所述切片网格的网格朝向为所述切片网格匹配对应的所述局部深度图像;
根据所述局部深度图像的所述局部图像信息生成第二贴图切片,并将所述第二贴图切片贴合于对应的所述切片网格,得到目标行李模型。
10.一种行李模型生成设备,其特征在于,包括:
存储器和处理器;
所述存储器用于存储计算机程序;
所述处理器,用于执行所述计算机程序并在执行所述计算机程序时,实现如权利要求1-9中任一项所述的行李模型生成方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210290419.XA CN114373060B (zh) | 2022-03-23 | 2022-03-23 | 行李模型生成方法与设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210290419.XA CN114373060B (zh) | 2022-03-23 | 2022-03-23 | 行李模型生成方法与设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114373060A CN114373060A (zh) | 2022-04-19 |
CN114373060B true CN114373060B (zh) | 2022-06-28 |
Family
ID=81146945
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210290419.XA Active CN114373060B (zh) | 2022-03-23 | 2022-03-23 | 行李模型生成方法与设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114373060B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115410135B (zh) * | 2022-11-01 | 2023-04-07 | 中国民航大学 | 自主式搬运的航空行李特征感知重构方法、系统及其应用 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2375675A (en) * | 2001-05-17 | 2002-11-20 | Hewlett Packard Co | System for automatically detecting and masking device features in the field of view of an imaging device. |
CN100557640C (zh) * | 2008-04-28 | 2009-11-04 | 清华大学 | 一种交互式多视点三维模型重建方法 |
JP4784681B2 (ja) * | 2009-07-10 | 2011-10-05 | 朝日航洋株式会社 | 立体画像作成方法及びプログラム |
US9208612B2 (en) * | 2010-02-12 | 2015-12-08 | The University Of North Carolina At Chapel Hill | Systems and methods that generate height map models for efficient three dimensional reconstruction from depth information |
CN103903303B (zh) * | 2012-12-27 | 2018-01-30 | 清华大学 | 三维模型创建方法和设备 |
CN109389665B (zh) * | 2018-08-24 | 2021-10-22 | 先临三维科技股份有限公司 | 三维模型的纹理获取方法、装置、设备和存储介质 |
WO2020258073A1 (zh) * | 2019-06-26 | 2020-12-30 | 深圳市大疆创新科技有限公司 | 可移动平台的交互方法、系统、可移动平台及存储介质 |
CN113506373A (zh) * | 2021-06-29 | 2021-10-15 | 超节点创新科技(深圳)有限公司 | 实时的行李三维建模方法、电子设备和存储介质 |
CN114049352B (zh) * | 2022-01-11 | 2022-05-06 | 中航源创(天津)智能设备有限公司 | 一种应用于自助行李托运的行李托盘快速检测方法 |
-
2022
- 2022-03-23 CN CN202210290419.XA patent/CN114373060B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN114373060A (zh) | 2022-04-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9208607B2 (en) | Apparatus and method of producing 3D model | |
JP6733267B2 (ja) | 情報処理プログラム、情報処理方法および情報処理装置 | |
JP5580164B2 (ja) | 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム | |
JP5593177B2 (ja) | 点群位置データ処理装置、点群位置データ処理方法、点群位置データ処理システム、および点群位置データ処理プログラム | |
US9117278B2 (en) | System and method for geometric modeling using multiple data acquisition means | |
WO2015180659A1 (zh) | 图像处理方法和图像处理装置 | |
US7903852B2 (en) | Automatic determination of parameters of an imaging geometry | |
JP5737858B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
CN110751719B (zh) | 乳房三维点云重建方法、装置、存储介质及计算机设备 | |
JP6836561B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2000516360A (ja) | 三次元物体モデル化装置及び方法 | |
CN102289803A (zh) | 图像处理设备、图像处理方法及程序 | |
US10839481B1 (en) | Automatic marker-less alignment of digital 3D face and jaw models | |
US10810738B1 (en) | Marker-less alignment of digital 3D face and jaw models | |
CN114373060B (zh) | 行李模型生成方法与设备 | |
CN112016570A (zh) | 用于背景板同步旋转采集中的三维模型生成方法 | |
WO2014147542A1 (en) | View classification-based model initialization | |
CN111627071B (zh) | 一种测量电机旋转精度的方法、装置和存储介质 | |
CN111340959B (zh) | 一种基于直方图匹配的三维模型无缝纹理贴图方法 | |
US20210335010A1 (en) | Calibration method and calibration apparatus | |
JP2022516487A (ja) | 下顎と上顎の3dセグメンテーション | |
JP2001137241A (ja) | 超音波映像装置 | |
EP3277189B1 (en) | Ultrasound imaging apparatus | |
JPH1079029A (ja) | 立体情報検出方法及びその装置 | |
JPH04256185A (ja) | 画像認識システムのサンプル画像収集方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |