CN112380991A - 物品模型的放置方法和装置、存储介质、电子设备 - Google Patents

Abstract

本公开实施例公开了一种物品模型的放置方法和装置、存储介质、电子设备，其中，方法包括：获取包括在设定空间内放置的物品的全景图，基于所述全景图获得所述物品的检测框；基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型；其中，所述模型库中预存有多个不同类别的多个物品模型；按照所述物品在设定空间内的放置位置，将所述物品模型放置在所述设定空间对应的三维模型中；本实施例通过物品的特征信息获得预存的物品模型，使物品模型更规则，且无需重新绘制，提高了物品模型获取的效率；并将匹配的物品模型放置到三维模型中，解决了物品在设定空间中相对位置的放置问题，提高了模型放置的效率。

Description

物品模型的放置方法和装置、存储介质、电子设备

技术领域

本公开涉及物品识别技术领域，尤其是一种物品模型的放置方法和装置、存储介质、电子设备。

背景技术

现有技术中，在将设定空间内的物品(例如，在房间中的家具等)对应的模型放置到设定空间对应的模型中时，通常是通过人为测量物品的尺寸、位置以及角度等信息，基于测量得到的信息手动将物品的模型绘制到设定空间对应的模型中；现有技术由于采用手动实现，效率低下且浪费大量人力，导致成本增加，不适合大范围使用。

发明内容

为了解决上述技术问题，提出了本公开。本公开的实施例提供了一种物品模型的放置方法和装置、存储介质、电子设备。

根据本公开实施例的一个方面，提供了一种物品模型的放置方法，包括：

获取包括在设定空间内放置的物品的全景图，基于所述全景图获得所述物品的检测框；

基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型；其中，所述模型库中预存有多个不同类别的多个物品模型；

按照所述物品在设定空间内的放置位置，将所述物品模型放置在所述设定空间对应的三维模型中。

可选地，所述获取包括在设定空间内放置的物品的全景图，基于所述全景图获得所述物品的检测框，包括：

获取包括在设定空间内放置的物品的全景图和与所述全景图对应的深度信息；

利用三维检测模型对所述全景图和所述全景图对应的深度信息进行检测，确定所述物品对应的检测框。

可选地，所述获取包括在设定空间内放置的物品的全景图和与所述全景图对应的深度信息，包括：

在所述设定空间内的设定点位获取包括在设定空间内放置的物品的所述全景图；

基于所述全景图预测得到所述全景图中每个像素的深度信息；或基于深度采集设备在所述设定点位获取与所述全景图对应的全景深度图，基于所述全景深度图确定所述全景图中每个像素的深度信息。

可选地，在利用三维检测模型对所述全景图和所述全景图对应的深度信息进行检测，确定所述物品对应的检测框之前，还包括：

基于所述设定空间对应的至少一个所述全景图和每个所述全景图对应的深度信息进行点云恢复，得到所述设定空间对应的完整点云；

所述利用三维检测模型对所述全景图和所述全景图对应的深度信息进行检测，确定所述物品对应的检测框，包括：

将所述设定空间对应的完整点云和所述至少一个全景图对应的颜色信息输入所述三维检测模型，得到所述物品的检测框；其中，所述检测框包括所述物品的类别信息。

可选地，所述基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型，包括：

基于所述检测框从所述完整点云中获得所述物品对应的物体点云；

利用特征提取器对所述物品点云和所述物品对应的颜色信息进行特征提取，得到所述物品的特征向量；

基于所述物品的类别信息和所述物品的特征向量在模型库中确定与所述物品匹配的物品模型。

可选地，所述基于所述物品的类别信息和所述物品的特征向量在模型库中确定与所述物品匹配的物品模型，包括：

基于所述物品的类别信息从所述模型库中筛选得到与所述物品的类别相同的多个筛选物品模型；

利用所述特征提取器对所述多个筛选物品模型进行特征提取，得到多个筛选特征向量；

基于所述物品的特征向量与所述多个筛选特征向量之间的距离，确定与所述物品匹配的物品模型。

可选地，在利用三维检测模型对所述全景图和所述全景图对应的深度信息进行检测，确定所述物品对应的检测框之前，还包括：

利用二维分割网络对所述全景图进行分割，得到所述物品对应的掩膜；

所述利用三维检测模型对所述全景图和所述全景图对应的深度信息进行检测，确定所述物品对应的检测框，包括：

将所述全景图、所述全景图对应的深度信息和所述物品对应的掩膜输入所述三维检测模型，得到所述物品的检测框；其中，所述检测框包括所述物品的类别信息。

可选地，所述基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型，包括：

利用特征提取器对所述检测框进行特征提取，得到所述物品的特征向量；

基于所述物品的类别信息从所述模型库中筛选得到与所述物品的类别相同的多个筛选物品模型；

利用所述特征提取器对所述多个筛选物品模型进行特征提取，得到多个筛选特征向量；

基于所述物品的特征向量与所述多个筛选特征向量之间的距离，确定与所述物品匹配的物品模型。

可选地，所述获取包括在设定空间内放置的物品的全景图，基于所述全景图获得所述物品的检测框，包括：

利用二维分割网络对所述全景图进行分割，得到所述物品对应的掩膜；

基于所述物品对应的掩膜确定所述物品对应的检测框。

可选地，所述基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型，包括：

基于二维分类网络对所述检测框进行分类处理，得到所述物品的至少一种属性信息；

基于所述至少一种属性信息与所述模型库中预存的物品模型对应的属性信息进行匹配；

基于所述至少一种属性信息的匹配结果，确定与所述物品匹配的物品模型。

可选地，所述物品的检测框还包括：所述物品检测框的长、宽、高信息，以及所述物品的旋转角信息；

所述按照所述物品在设定空间内的放置位置，将所述物品模型放置在所述设定空间对应的三维模型中，包括：

基于所述物品检测框的长、宽、高信息，确定所述物品在所述设定空间中的中心点位置；

按照所述物品的旋转角信息对所述物品模型进行旋转，将所述旋转后的物品模型按照所述中心点位置放置在所述三维模型中。

根据本公开实施例的另一方面，提供了一种物品模型的放置装置，包括：

检测框确定模块，用于获取包括在设定空间内放置的物品的全景图，基于所述全景图获得所述物品的检测框；

模型匹配模块，用于基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型；其中，所述模型库中预存有多个不同类别的多个物品模型；

模型放置模块，用于按照所述物品在设定空间内的放置位置，将所述物品模型放置在所述设定空间对应的三维模型中。

可选地，所述检测框确定模块，包括：

信息获取单元，用于获取包括在设定空间内放置的物品的全景图和与所述全景图对应的深度信息；

图像检测单元，用于利用三维检测模型对所述全景图和所述全景图对应的深度信息进行检测，确定所述物品对应的检测框。

可选地，所述信息获取单元，具体用于在所述设定空间内的设定点位获取包括在设定空间内放置的物品的所述全景图；基于所述全景图预测得到所述全景图中每个像素的深度信息；或基于深度采集设备在所述设定点位获取与所述全景图对应的全景深度图，基于所述全景深度图确定所述全景图中每个像素的深度信息。

可选地，所述检测框确定模块，还包括：

点云恢复单元，用于基于所述设定空间对应的至少一个所述全景图和每个所述全景图对应的深度信息进行点云恢复，得到所述设定空间对应的完整点云；

所述图像检测单元，具体用于将所述设定空间对应的完整点云和所述至少一个全景图对应的颜色信息输入所述三维检测模型，得到所述物品的检测框；其中，所述检测框包括所述物品的类别信息。

可选地，所述模型匹配模块，具体用于基于所述检测框从所述完整点云中获得所述物品对应的物体点云；利用特征提取器对所述物品点云和所述物品对应的颜色信息进行特征提取，得到所述物品的特征向量；基于所述物品的类别信息和所述物品的特征向量在模型库中确定与所述物品匹配的物品模型。

可选地，所述模型匹配模块在基于所述物品的类别信息和所述物品的特征向量在模型库中确定与所述物品匹配的物品模型时，用于基于所述物品的类别信息从所述模型库中筛选得到与所述物品的类别相同的多个筛选物品模型；利用所述特征提取器对所述多个筛选物品模型进行特征提取，得到多个筛选特征向量；基于所述物品的特征向量与所述多个筛选特征向量之间的距离，确定与所述物品匹配的物品模型。

可选地，所述检测框确定模块，还包括：

掩膜获取单元，用于利用二维分割网络对所述全景图进行分割，得到所述物品对应的掩膜；

所述图像检测单元，具体用于将所述全景图、所述全景图对应的深度信息和所述物品对应的掩膜输入所述三维检测模型，得到所述物品的检测框；其中，所述检测框包括所述物品的类别信息。

可选地，所述模型匹配模块，具体用于利用特征提取器对所述检测框进行特征提取，得到所述物品的特征向量；基于所述物品的类别信息从所述模型库中筛选得到与所述物品的类别相同的多个筛选物品模型；利用所述特征提取器对所述多个筛选物品模型进行特征提取，得到多个筛选特征向量；基于所述物品的特征向量与所述多个筛选特征向量之间的距离，确定与所述物品匹配的物品模型。

可选地，所述检测框确定模块，具体用于利用二维分割网络对所述全景图进行分割，得到所述物品对应的掩膜；基于所述物品对应的掩膜确定所述物品对应的检测框。

可选地，所述模型匹配模块，具体用于基于二维分类网络对所述检测框进行分类处理，得到所述物品的至少一种属性信息；基于所述至少一种属性信息与所述模型库中预存的物品模型对应的属性信息进行匹配；基于所述至少一种属性信息的匹配结果，确定与所述物品匹配的物品模型。

可选地，所述物品的检测框还包括：所述物品检测框的长、宽、高信息，以及所述物品的旋转角信息；

所述模型放置模块，具体用于基于所述物品检测框的长、宽、高信息，确定所述物品在所述设定空间中的中心点位置；按照所述物品的旋转角信息对所述物品模型进行旋转，将所述旋转后的物品模型按照所述中心点位置放置在所述三维模型中。

根据本公开实施例的又一方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述任一实施例所述的物品模型的放置方法。

根据本公开实施例的还一方面，提供了一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述任一实施例所述的物品模型的放置方法。

基于本公开上述实施例提供的一种物品模型的放置方法和装置、存储介质、电子设备，获取包括在设定空间内放置的物品的全景图，基于所述全景图获得所述物品的检测框；基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型；其中，所述模型库中预存有多个不同类别的多个物品模型；按照所述物品在设定空间内的放置位置，将所述物品模型放置在所述设定空间对应的三维模型中；本实施例通过物品的特征信息获得预存的物品模型，使物品模型更规则，且无需重新绘制，提高了物品模型获取的效率；并将匹配的物品模型放置到三维模型中，解决了物品在设定空间中相对位置的放置问题，提高了模型放置的效率。

下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。

附图说明

通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本公开一示例性实施例提供的物品模型的放置方法的流程示意图。

图2是本公开图1所示的实施例中步骤102的一个流程示意图。

图3是本公开图1所示的实施例中步骤102的另一流程示意图。

图4是本公开图1所示的实施例中步骤104的一个流程示意图。

图5是本公开图1所示的实施例中步骤102的又一流程示意图。

图6是本公开图1所示的实施例中步骤104的又一流程示意图。

图7是本公开图1所示的实施例中步骤102的还一流程示意图。

图8是本公开图1所示的实施例中步骤104的还一流程示意图。

图9是本公开图1所示的实施例中步骤106的一个流程示意图。

图10是本公开一示例性实施例提供的物品模型的放置装置的结构示意图。

图11是本公开一示例性实施例提供的电子设备的结构图。

具体实施方式

下面，将参考附图详细地描述根据本公开的示例实施例。显然，所描述的实施例仅仅是本公开的一部分实施例，而不是本公开的全部实施例，应理解，本公开不受这里描述的示例实施例的限制。

应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。

还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。

还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。

另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。

还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

示例性方法

图1是本公开一示例性实施例提供的物品模型的放置方法的流程示意图。本实施例可应用在电子设备上，如图1所示，包括如下步骤：

步骤102，获取包括在设定空间内放置的物品的全景图，基于全景图获得物品的检测框。

可选地，设定空间可以为房屋等，当设定空间为房屋，对应的物品可以为房屋中的家具等；本实施例中，可对设定空间采集一张或多张包括待放置的物品的全景图，由于全景图采集的范围较大，为了提高物品模型的匹配准确率，本实施例从全景图中获得物品的检测框，缩小包括物品的范围，提高了匹配物品模型的效率。

步骤104，基于检测框确定物品的特征信息，并以特征信息在模型库中确定与物品匹配的物品模型。

其中，模型库中预存有多个不同类别的多个物品模型。

可选地，模型库中还可以保存每个物品模型对应的特征信息或还保存有每个物品模型对应的多种属性信息等，通过物品的特征信息和物品模型的特征信息进行匹配时，不需要重新对物品模型进行特征提取，提高了模型匹配的效率；本实施例中物品的特征信息可以是物品对应的检测框对应的特征向量或物品对应的多种属性信息等；还可以通过物品的属性信息与物品模型对应的属性信息进行匹配，以确定与物品匹配的物品模型。

步骤106，按照物品在设定空间内的放置位置，将物品模型放置在设定空间对应的三维模型中。

本实施例中，以与物品匹配的物品模型进行放置，由于无需对物品进行模型绘制，节省了大量模型绘制的时间，提高了模型放置的效率。

本公开上述实施例提供的一种物品模型的放置方法，获取包括在设定空间内放置的物品的全景图，基于所述全景图获得所述物品的检测框；基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型；其中，所述模型库中预存有多个不同类别的多个物品模型；按照所述物品在设定空间内的放置位置，将所述物品模型放置在所述设定空间对应的三维模型中；本实施例通过物品的特征信息获得预存的物品模型，使物品模型更规则，且无需重新绘制，提高了物品模型获取的效率；并将匹配的物品模型放置到三维模型中，解决了物品在设定空间中相对位置的放置问题，提高了模型放置的效率。

如图2所示，在上述图1所示实施例的基础上，步骤102可包括如下步骤：

步骤1021，获取包括在设定空间内放置的物品的全景图和与全景图对应的深度信息。

可选地，本实施例中的深度信息，可以是基于全景图恢复获得的，或在采集全景图的点位采集与全景图内容完全一致的全景深度图等，本公开实施例不限制获得深度信息的具体方式。

可选地，在设定空间内的设定点位获取包括在设定空间内放置的物品的全景图；基于全景图预测得到全景图中每个像素的深度信息。

或者，在设定空间内的设定点位获取包括在设定空间内放置的物品的全景图；基于深度采集设备在设定点位获取与全景图对应的全景深度图，基于全景深度图确定全景图中每个像素的深度信息。

步骤1022，利用三维检测模型对全景图和全景图对应的深度信息进行检测，确定物品对应的检测框。

可选地，本实施例中的三维检测模型可以是一种深度神经网络，当三维检测模型为深度神经网络时，在进行物品检测之前，可利用已知检测框的多个训练数据对该三维检测模型进行训练；该三维检测模型输入为全景图中每个像素的坐标信息及其深度信息，即，输入为全景图的三维坐标信息，通过三维检测模型对全景图的三维坐标信息进行处理，即可确定物品对应的检测框，该检测框中的信息可以包括但不限于：物品的类别，检测框的8个角点的坐标，和/或检测框的长、宽、高信息和旋转角信息等。

如图3所示，在上述图1所示实施例的基础上，步骤102可包括如下步骤：

步骤1021，获取包括在设定空间内放置的物品的全景图和与全景图对应的深度信息。

步骤1023，基于设定空间对应的至少一个全景图和每个全景图对应的深度信息进行点云恢复，得到设定空间对应的完整点云。

本实施例中，通过全景图获得每个像素的平面坐标，在结合每个像素的深度信息，实现恢复全景图中每个像素的三维坐标，即可得到每个全景图对应的点云，此时得到的至少一个点云是针对其拍摄位置的坐标系的，为了得到设定空间对应的完整点云，可将至少一个点云转换到同一坐标系下(例如，世界坐标系等)，在同一坐标系下将多个点云进行融合，即可得到设定空间对应的完整点云。

步骤1024，将设定空间对应的完整点云和至少一个全景图对应的颜色信息输入三维检测模型，得到物品的检测框。

其中，检测框包括物品的类别信息。

本实施例中，利用完整点云进行物品识别，避免了由于仅利用单个全景图进行物品检测而导致的物品缺失(例如，在一个全景图中只采集到物品的部分，另一部分不能体现)的问题，本实施例提高了物品检测的完整性和准确率；同时，如果完整点云是多个小空间的组合，例如，设定空间是整套房屋，其中包括多个单间，当整套房屋的点云太大时，可将完整点云分解为每个单间的点云，再通过三维检测模型对单间的点云和颜色信息进行检测，得到物品的检测框；以每个单间为单位输入模型，可减小点云计算量的同时保证物品的完整性。

如图4所示，在上述图1所示实施例的基础上，步骤104可包括如下步骤：

步骤1041，基于检测框从完整点云中获得物品对应的物体点云。

本实施例中，检测框确定了物品在全景图中的位置(可以是基于检测框的8个角点或检测框的长宽高信息确定)，基于检测框的位置即可从完整点云中查找得到物品对应的物品点云。

步骤1042，利用特征提取器对物品点云和物品对应的颜色信息进行特征提取，得到物品的特征向量。

本实施例中的特征提取器可以是一种三维分割网络(或分类网络或识别网络)中的一个中间层的输出，其输入为物品对应的点云的三维坐标和每个点的颜色信息(如，rgb信息)，得到物品对应的特征向量，以该特征向量对该物品进行表达；该特征向量综合了物品的以下至少一种信息：几何信息、颜色信息、语义信息、空间信息、纹理信息等。

步骤1043，基于物品的类别信息和物品的特征向量在模型库中确定与物品匹配的物品模型。

可选地，基于物品的类别信息从模型库中筛选得到与物品的类别相同的多个筛选物品模型；利用特征提取器对多个筛选物品模型进行特征提取，得到多个筛选特征向量；基于物品的特征向量与多个筛选特征向量之间的距离，确定与物品匹配的物品模型。

本实施例中，模型库中预存的物品模型包括多种类别的物品(例如，床、沙发、柜子等)，不同类别的物品对应的模型存在很大区别，因此，本实施例首先基于物品的类别信息从模型库中筛选得到与物品类别相同的筛选物品模型，再计算物品的特征向量与所有筛选物品模型对应的特征向量之间的距离(例如，余弦距离、欧式距离等)，该距离可以体现该物品与筛选物品模型之间的相似度，距离越小，说明筛选物品模型与该物品越相似；以相似度最大的筛选物品模型作为与物品匹配的物品模型。

如图5所示，在上述图1所示实施例的基础上，步骤102可包括如下步骤：

步骤1021，获取包括在设定空间内放置的物品的全景图和与全景图对应的深度信息。

步骤1025，利用二维分割网络对全景图进行分割，得到物品对应的掩膜。

本实施例中，二维分割网络是经过训练的图像分割网络，对输入的单张全景图进行图像分割，得到物品对应的掩膜(mask)，该掩膜位置物品在该全景图中的位置。

步骤1026，将全景图、全景图对应的深度信息和物品对应的掩膜输入三维检测模型，得到物品的检测框。

其中，检测框包括物品的类别信息。

本实施例利用单张全景图机器对应的深度信息，和物品在全景图中对应的掩膜作为三维检测模型的输入，利用三维检测模型(该三维检测模型经过训练)可输出物品对应的检测框，该检测框包括但不限于物品的类别信息和检测框的位置信息(如，检测框的8个角点或检测框的长宽高信息等)，可选地，基于检测框的位置信息可从全景图中获得对应的区域，该区域缩小了图像的范围，以该区域获得物品对应的特征信息提高了处理效率。

如图6所示，在上述图5所示实施例的基础上，步骤104可包括如下步骤：

步骤1045，利用特征提取器对检测框进行特征提取，得到物品的特征向量。

步骤1046，基于物品的类别信息从模型库中筛选得到与物品的类别相同的多个筛选物品模型。

步骤1047，利用特征提取器对多个筛选物品模型进行特征提取，得到多个筛选特征向量。

步骤1048，基于物品的特征向量与多个筛选特征向量之间的距离，确定与物品匹配的物品模型。

本实施例中，利用特征提取器对检测框对应的图像进行特征提取，本实施例中的特征提取器可以是一种三维分割网络(或分类网络或识别网络)中的一个中间层的输出，得到物品对应的特征向量，以该特征向量对该物品进行表达；该特征向量综合了物品的以下至少一种信息：几何信息、语义信息、空间信息、纹理信息等；以该特征向量匹配得到的物品模型准确率更高。

如图7所示，在上述图1所示实施例的基础上，步骤102可包括如下步骤：

步骤1027，利用二维分割网络对全景图进行分割，得到物品对应的掩膜。

步骤1028，基于物品对应的掩膜确定物品对应的检测框。

本实施例，利用经过训练的二维分割网络对单张全景图进行分割处理，得到物品对应的掩膜，基于掩膜确定包括物品在内的最小面积的框；以该掩膜从全景图中得到物品对应的区域图像作为物品对应的检测框。

如图8所示，在上述图7所示实施例的基础上，步骤104可包括如下步骤：

步骤1048，基于二维分类网络对检测框进行分类处理，得到物品的至少一种属性信息。

本实施例中，由于图7所示的实施例得到的物品的检测框为二维图像，此时，利用二维分类网络(经过训练)对检测框进行分类处理，可得到物品的至少一种属性信息，其中，至少一种属性信息可以包括但不限于：风格(例如，家具的装修风格)信息、纹理信息、颜色信息、材质信息等；本实施例不限制包括的具体属性信息的数量和种类。

步骤1049，基于至少一种属性信息与模型库中预存的物品模型对应的属性信息进行匹配；基于至少一种属性信息的匹配结果，确定与物品匹配的物品模型。

本实施例中，模型库中预存的每个物品模型还对应多种属性，利用物品对应的至少一种属性信息与每个物品模型的多种属性进行匹配，属性信息相匹配的越多，说明物品模型与物品越相似，其中，可选地，利用至少一种属性信息依次对多个物品模型进行筛选，例如，先从多个物品模型中筛选风格与物品相同的物品模型；再从经过筛选的多个物品模型中筛选颜色与物品相同的物品模型等等，按序进行筛选，最后得到最相似的物品模型；或者，可选地，将物品对应的多种属性信息同时与所有物品模型的属性进行匹配，获得属性最接近的物品模型，其中，还可以对不同的属性信息设置不同的权重(根据不同属性的重要性进行设置)；以不同权重衡量哪个物品模型与物品最相似，提高了获得的物品模型的准确性。

本公开实施例中确定检测框以及确定与物品匹配的物品模型的方式可以采用上述图2-8提供的任意一种或多种实施例实现。

如图9所示，在上述图1所示实施例的基础上，物品的检测框还包括：物品检测框的长、宽、高信息，以及物品的旋转角信息；步骤106可包括如下步骤：

步骤1061，基于物品检测框的长、宽、高信息，确定物品在设定空间中的中心点位置。

步骤1062，按照物品的旋转角信息对物品模型进行旋转，将旋转后的物品模型按照中心点位置放置在三维模型中。

本实施例中，设定空间的三维模型是已知的，要将获得的物品模型放置在该三维模型中，首先需确定物品模型需要放置的中心位置，本实施例通过对物品检测框的长宽高信息确定物品在实际设定空间中的中心点位置，将该中心点位置作为放置的中心位置，在以物品的旋转角信息对物品模型进行相应的角度调整，将旋转到与物品的旋转角相同的物品模型放置到三维模型中，即实现了全自动的按照实际摆放情况将物品模型放置到设定空间中，提高了物品模型的放置效率和真实性。

本公开实施例提供的任一种物品模型的放置方法可以由任意适当的具有数据处理能力的设备执行，包括但不限于：终端设备和服务器等。或者，本公开实施例提供的任一种物品模型的放置方法可以由处理器执行，如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种物品模型的放置方法。下文不再赘述。

示例性装置

图10是本公开一示例性实施例提供的物品模型的放置装置的结构示意图。如图10所示，本实施例提供的装置包括：

检测框确定模块11，用于获取包括在设定空间内放置的物品的全景图，基于全景图获得所述物品的检测框。

模型匹配模块12，用于基于检测框确定物品的特征信息，并以特征信息在模型库中确定与物品匹配的物品模型。

其中，模型库中预存有多个不同类别的多个物品模型。

模型放置模块13，用于按照物品在设定空间内的放置位置，将物品模型放置在设定空间对应的三维模型中。

本公开上述实施例提供的一种物品模型的放置装置，获取包括在设定空间内放置的物品的全景图，基于所述全景图获得所述物品的检测框；基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型；其中，所述模型库中预存有多个不同类别的多个物品模型；按照所述物品在设定空间内的放置位置，将所述物品模型放置在所述设定空间对应的三维模型中；本实施例通过物品的特征信息获得预存的物品模型，使物品模型更规则，且无需重新绘制，提高了物品模型获取的效率；并将匹配的物品模型放置到三维模型中，解决了物品在设定空间中相对位置的放置问题，提高了模型放置的效率。

在一些可选的实施例中，检测框确定模块11，包括：

信息获取单元，用于获取包括在设定空间内放置的物品的全景图和与全景图对应的深度信息；

图像检测单元，用于利用三维检测模型对全景图和全景图对应的深度信息进行检测，确定物品对应的检测框。

可选地，信息获取单元，具体用于在设定空间内的设定点位获取包括在设定空间内放置的物品的所述全景图；基于全景图预测得到全景图中每个像素的深度信息；或基于深度采集设备在设定点位获取与全景图对应的全景深度图，基于全景深度图确定全景图中每个像素的深度信息。

可选地，检测框确定模块11，还包括：

点云恢复单元，用于基于设定空间对应的至少一个全景图和每个全景图对应的深度信息进行点云恢复，得到设定空间对应的完整点云；

图像检测单元，具体用于将设定空间对应的完整点云和至少一个全景图对应的颜色信息输入三维检测模型，得到物品的检测框。

其中，检测框包括物品的类别信息。

可选地，模型匹配模块12，具体用于基于检测框从完整点云中获得物品对应的物体点云；利用特征提取器对物品点云和物品对应的颜色信息进行特征提取，得到物品的特征向量；基于物品的类别信息和物品的特征向量在模型库中确定与物品匹配的物品模型。

可选地，模型匹配模块12在基于物品的类别信息和物品的特征向量在模型库中确定与物品匹配的物品模型时，用于基于物品的类别信息从模型库中筛选得到与物品的类别相同的多个筛选物品模型；利用特征提取器对多个筛选物品模型进行特征提取，得到多个筛选特征向量；基于物品的特征向量与多个筛选特征向量之间的距离，确定与物品匹配的物品模型。

在另一些可选的实施例中，检测框确定模块11，还包括：

掩膜获取单元，用于利用二维分割网络对全景图进行分割，得到物品对应的掩膜；

图像检测单元，具体用于将全景图、全景图对应的深度信息和物品对应的掩膜输入三维检测模型，得到物品的检测框。

其中，检测框包括物品的类别信息。

可选地，模型匹配模块12，具体用于利用特征提取器对检测框进行特征提取，得到物品的特征向量；基于物品的类别信息从模型库中筛选得到与物品的类别相同的多个筛选物品模型；利用特征提取器对多个筛选物品模型进行特征提取，得到多个筛选特征向量；基于物品的特征向量与多个筛选特征向量之间的距离，确定与物品匹配的物品模型。

在又一些可选的实施例中，检测框确定模块11，具体用于利用二维分割网络对全景图进行分割，得到物品对应的掩膜；基于物品对应的掩膜确定物品对应的检测框。

可选地，模型匹配模块12，具体用于基于二维分类网络对检测框进行分类处理，得到物品的至少一种属性信息；基于至少一种属性信息与模型库中预存的物品模型对应的属性信息进行匹配；基于至少一种属性信息的匹配结果，确定与物品匹配的物品模型。

在上述任一实施例的基础上，物品的检测框还包括：物品检测框的长、宽、高信息，以及物品的旋转角信息；

模型放置模块13，具体用于基于物品检测框的长、宽、高信息，确定物品在设定空间中的中心点位置；按照物品的旋转角信息对物品模型进行旋转，将旋转后的物品模型按照中心点位置放置在三维模型中。

示例性电子设备

下面，参考图11来描述根据本公开实施例的电子设备。该电子设备可以是第一设备100和第二设备200中的任一个或两者、或与它们独立的单机设备，该单机设备可以与第一设备和第二设备进行通信，以从它们接收所采集到的输入信号。

图11图示了根据本公开实施例的电子设备的框图。

如图11所示，电子设备110包括一个或多个处理器111和存储器112。

处理器111可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备110中的其他组件以执行期望的功能。

存储器112可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器111可以运行所述程序指令，以实现上文所述的本公开的各个实施例的物品模型的放置方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。

在一个示例中，电子设备110还可以包括：输入装置113和输出装置114，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

例如，在该电子设备是第一设备100或第二设备200时，该输入装置113可以是上述的麦克风或麦克风阵列，用于捕捉声源的输入信号。在该电子设备是单机设备时，该输入装置113可以是通信网络连接器，用于从第一设备100和第二设备200接收所采集的输入信号。

此外，该输入设备113还可以包括例如键盘、鼠标等等。

该输出装置114可以向外部输出各种信息，包括确定出的距离信息、方向信息等。该输出设备114可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图11中仅示出了该电子设备110中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备110还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的物品模型的放置方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的物品模型的放置方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。

本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。

还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (10)

1.一种物品模型的放置方法，其特征在于，包括：

获取包括在设定空间内放置的物品的全景图，基于所述全景图获得所述物品的检测框；

基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型；其中，所述模型库中预存有多个不同类别的多个物品模型；

按照所述物品在设定空间内的放置位置，将所述物品模型放置在所述设定空间对应的三维模型中。

2.根据权利要求1所述的方法，其特征在于，所述获取包括在设定空间内放置的物品的全景图，基于所述全景图获得所述物品的检测框，包括：

获取包括在设定空间内放置的物品的全景图和与所述全景图对应的深度信息；

利用三维检测模型对所述全景图和所述全景图对应的深度信息进行检测，确定所述物品对应的检测框。

3.根据权利要求2所述的方法，其特征在于，所述获取包括在设定空间内放置的物品的全景图和与所述全景图对应的深度信息，包括：

在所述设定空间内的设定点位获取包括在设定空间内放置的物品的所述全景图；

基于所述全景图预测得到所述全景图中每个像素的深度信息；或基于深度采集设备在所述设定点位获取与所述全景图对应的全景深度图，基于所述全景深度图确定所述全景图中每个像素的深度信息。

4.根据权利要求3所述的方法，其特征在于，在利用三维检测模型对所述全景图和所述全景图对应的深度信息进行检测，确定所述物品对应的检测框之前，还包括：

基于所述设定空间对应的至少一个所述全景图和每个所述全景图对应的深度信息进行点云恢复，得到所述设定空间对应的完整点云；

所述利用三维检测模型对所述全景图和所述全景图对应的深度信息进行检测，确定所述物品对应的检测框，包括：

将所述设定空间对应的完整点云和所述至少一个全景图对应的颜色信息输入所述三维检测模型，得到所述物品的检测框；其中，所述检测框包括所述物品的类别信息。

5.根据权利要求4所述的方法，其特征在于，所述基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型，包括：

基于所述检测框从所述完整点云中获得所述物品对应的物体点云；

利用特征提取器对所述物品点云和所述物品对应的颜色信息进行特征提取，得到所述物品的特征向量；

基于所述物品的类别信息和所述物品的特征向量在模型库中确定与所述物品匹配的物品模型。

6.根据权利要求5所述的方法，其特征在于，所述基于所述物品的类别信息和所述物品的特征向量在模型库中确定与所述物品匹配的物品模型，包括：

基于所述物品的类别信息从所述模型库中筛选得到与所述物品的类别相同的多个筛选物品模型；

利用所述特征提取器对所述多个筛选物品模型进行特征提取，得到多个筛选特征向量；

基于所述物品的特征向量与所述多个筛选特征向量之间的距离，确定与所述物品匹配的物品模型。

7.根据权利要求2所述的方法，其特征在于，在利用三维检测模型对所述全景图和所述全景图对应的深度信息进行检测，确定所述物品对应的检测框之前，还包括：

利用二维分割网络对所述全景图进行分割，得到所述物品对应的掩膜；

所述利用三维检测模型对所述全景图和所述全景图对应的深度信息进行检测，确定所述物品对应的检测框，包括：

将所述全景图、所述全景图对应的深度信息和所述物品对应的掩膜输入所述三维检测模型，得到所述物品的检测框；其中，所述检测框包括所述物品的类别信息。

8.一种物品模型的放置装置，其特征在于，包括：

检测框确定模块，用于获取包括在设定空间内放置的物品的全景图，基于所述全景图获得所述物品的检测框；

模型匹配模块，用于基于所述检测框确定所述物品的特征信息，并以所述特征信息在模型库中确定与所述物品匹配的物品模型；其中，所述模型库中预存有多个不同类别的多个物品模型；

模型放置模块，用于按照所述物品在设定空间内的放置位置，将所述物品模型放置在所述设定空间对应的三维模型中。

9.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-7任一所述的物品模型的放置方法。

10.一种电子设备，其特征在于，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述权利要求1-7任一所述的物品模型的放置方法。

Images