CN112669446B - 楼宇场景的建模方法和装置 - Google Patents
楼宇场景的建模方法和装置 Download PDFInfo
- Publication number
- CN112669446B CN112669446B CN202011555429.9A CN202011555429A CN112669446B CN 112669446 B CN112669446 B CN 112669446B CN 202011555429 A CN202011555429 A CN 202011555429A CN 112669446 B CN112669446 B CN 112669446B
- Authority
- CN
- China
- Prior art keywords
- building structure
- building
- model
- vector data
- scene
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000010586 diagram Methods 0.000 claims abstract description 112
- 230000011218 segmentation Effects 0.000 claims abstract description 83
- 238000012549 training Methods 0.000 claims abstract description 32
- 238000004364 calculation method Methods 0.000 claims description 13
- 238000013528 artificial neural network Methods 0.000 claims description 11
- 238000004422 calculation algorithm Methods 0.000 claims description 11
- 230000006870 function Effects 0.000 claims description 9
- 230000002776 aggregation Effects 0.000 claims description 6
- 238000004220 aggregation Methods 0.000 claims description 6
- 238000013527 convolutional neural network Methods 0.000 claims description 6
- 230000001629 suppression Effects 0.000 claims description 6
- 238000012216 screening Methods 0.000 claims description 5
- 230000001131 transforming effect Effects 0.000 claims description 4
- 230000008569 process Effects 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 238000004590 computer program Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000009435 building construction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 230000000873 masking effect Effects 0.000 description 2
- 238000005034 decoration Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本发明实施例提供一种楼宇场景的建模方法和装置，该方法包括：获取目标楼宇场景中每个楼层的楼宇结构图栅格数据；根据预先训练得到的实例分割模型对所述楼宇结构图栅格数据进行实例分割，得到对所述楼宇结构图的实例分割结果；将实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图；最后通过楼层模型库自动适配与所述楼宇结构矢量数据图匹配的楼宇模型；基于三维建模工具对所述匹配到的楼宇模型建模，完成楼宇场景的在线快速建模，本实施例提供的方法对场景的适配度比对比方法具有较大的弹性空间且成本低、建模效率高。
Description
技术领域
本发明实施例涉及三维建模技术领域，尤其涉及一种楼宇场景的建模方法和装置。
背景技术
随着现代城市的飞速发展，越来越多的高楼建筑拔地而起。相关人员需要在建筑建设之前先建立三维的楼宇模型，比如三维楼宇外观模型、楼宇场景中的每个楼层内的三维户型模型等，以便于在建设过程中参考三维模型。并且，建筑建成之后，还需要向客户展示楼宇建筑的每层楼内的三维户型模型，以便于客户全方位的了解该建筑。
相关技术中，楼宇场景建模的方法主要分为人工和自动化建模两种。其中，自动化建模通过图像获取对空间的整体理解，然后，在采用超文本标记语言HTML编辑浏览器页面中的HTML5画布上，采用以3D编程工具ThreeJS的形式封装的3D绘图协议WebGL显示所建立的三维立体房产模型，然后采用脚本语言JavaScript的方式来控制三维立体房产模型的显示效果。
但是，现有两种建模方法中，人工建模虽然具有较好的建模质量，但是建模周期长、成本高；自动化建模通过传统的ThreeJS在前端页面建模，不仅效率低下，且对操作的人员的专业要求度较高，需要消耗较大的学习成本。
发明内容
本发明实施例提供一种楼宇场景的建模方法和装置，以克服现有技术中自动化建模效率低且消耗成本高的术问题。
第一方面，本发明实施例提供一种楼宇场景的建模方法，包括：
获取目标楼宇场景中每个楼层的楼宇结构图栅格数据；
根据预先训练得到的实例分割模型，对所述楼宇结构图栅格数据进行实例分割，以得到对所述楼宇结构图的实例分割结果；
将所述实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图；
根据所述楼宇结构矢量数据图，在楼层模型库中匹配相应的楼宇模型；
基于三维建模工具对所述匹配到的楼宇模型建模，得到所述目标楼宇场景的三维模型。
可选的，所述方法还包括：
获取训练样本集，所述训练样本集包括多个楼层的楼宇结构图栅格数据样本，所述楼宇结构图栅格数据样本是标注有楼层的楼宇结构矢量数据和经过掩膜制作的楼宇结构图；
基于实例分割算法Mask Scoring R-CNN对所述楼宇结构图栅格数据样本进行训练，得到所述实例分割模型。
可选的，所述基于实例分割算法Mask Scoring R-CNN对所述楼宇结构图栅格数据样本进行训练，包括：
将所述楼宇结构图栅格数据样本输入神经网络ResNet-101-FPN中，得到所述神经网络ResNet-101-FPN输出的所述楼宇结构图对应的楼宇结构特征图；
在所述楼宇结构特征图中划分处多个候选兴趣区域；
将所述多个候选兴趣区域输入区域建议网络RPN，所述区域建议网络RPN对所述候选兴趣区域进行二值分类和边框回归操作，并通过非极大值抑制算法对所述多个候选兴趣区域进行筛选，得到目标兴趣区域；
对所述目标兴趣区域进行区域特征聚集操作；
根据楼层中的每个功能区域，对所述目标兴趣区域进行功能分类。
可选的，所述实例分割结果包括楼层中各个功能区域的掩膜图像，所述楼宇结构矢量数据包括楼宇结构中各个位置的坐标信息；
所述将所述实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图，包括：
在所述楼层中的墙体结构上选取预设数量个控制点；
获取所述控制点所在位置的坐标信息；
将所述控制点的坐标信息代入薄板样条插值函数计算，得到计算结果；
根据所述计算结果变换所述楼层中各个功能区域的掩膜图像，以得到配准的楼宇结构矢量数据图。
可选的，所述根据所述楼宇结构矢量数据图，在楼层模型库中匹配相应的楼宇模型，包括：
确定所述楼宇结构矢量数据图中每个功能区域的尺寸以及每种类型的功能区域的数量；
根据每个功能区域的尺寸以及每种类型的功能区域的数量，在所述楼层模型库中匹配每个功能区域对应的模型。
可选的，所述基于三维建模工具对所述匹配到的楼宇模型建模，得到所述目标楼宇场景的三维模型，包括：
将匹配到的每个功能区域对应的模型加载至三维建模工具中，以在所述三维建模工具中调整每个功能区域对应的模型的比例和位置，得到所述目标楼宇场景的三维模型。
第二方面，本发明实施例提供一种楼宇场景的建模装置，包括：
图像获取模块，用于获取目标楼宇场景中每个楼层的楼宇结构图栅格数据；
实例分割模块，用于根据预先训练得到的实例分割模型，对所述楼宇结构图栅格数据进行实例分割，以得到对所述楼宇结构图的实例分割结果；
图像配准模块，用于将所述实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图；
模型匹配模块，用于根据所述楼宇结构矢量数据图，在楼层模型库中匹配相应的楼宇模型；
模型建立模块，用于基于三维建模工具对所述匹配到的楼宇模型建模，得到所述目标楼宇场景的三维模型。
第三方面，本发明实施例提供一种计算机设备，包括：至少一个处理器和存储器；
所述存储器存储计算机执行指令；
所述至少一个处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行如上第一方面以及第一方面各种可能的设计所述的楼宇场景的建模方法。
第四方面，本发明实施例提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如上第一方面以及第一方面各种可能的设计所述的楼宇场景的建模方法。
第五方面，本发明实施例提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上第一方面以及第一方面各种可能的设计所述的楼宇场景的建模方法。
本发明实施例提供的楼宇场景的建模方法和装置，该方法通过获取目标楼宇场景中每个楼层的楼宇结构图栅格数据；然后根据预先训练得到的实例分割模型对所述楼宇结构图栅格数据进行实例分割，以得到对所述楼宇结构图的实例分割结果；将所述实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图；最后通过楼层模型库自动适配与所述楼宇结构矢量数据图匹配的楼宇模型；基于三维建模工具对所述匹配到的楼宇模型建模，完成楼宇场景的在线快速建模，本实施例提供的方法对场景的适配度比对比方法具有较大的弹性空间且成本低和建模效率高。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本发明一实施例提供的楼宇场景的建模方法的应用场景图；
图2为本发明一实施例提供的楼宇场景的建模方法的流程示意图；
图3为本发明另一实施例提供的楼宇场景的建模方法的流程示意图；
图4为本发明另一实施例提供的楼宇场景的建模方法的流程示意图；
图5为本发明一实施例提供的户型图实例分割效果示意图；
图6为本发明一实施例提供的户型图建模效果示意图；
图7为本发明一实施例提供的楼宇场景的建模装置的结构示意图；
图8为本发明实施例提供的计算机设备的硬件结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
随着现代城市的飞速发展，越来越多的高楼建筑拔地而起。相关人员需要在建筑建设之前先建立三维的楼宇模型，比如三维楼宇外观模型、楼宇场景中的每个楼层内的三维户型模型等，以便于在建设过程中参考三维模型。并且，建筑建成之后，还需要向客户展示楼宇建筑的每层楼内的三维户型模型，以便于客户全方位的了解该建筑。
相关技术中，楼宇场景建模的方法主要分为人工和自动化建模两种。其中，自动化建模通过图像获取对空间的整体理解，然后，在采用超文本标记语言HTML编辑浏览器页面中的HTML5画布上，采用以3D编程工具ThreeJS的形式封装的3D绘图协议WebGL显示所建立的三维立体房产模型，然后采用脚本语言JavaScript的方式来控制三维立体房产模型的显示效果。
但是，现有两种建模方法中，人工建模虽然具有较好的建模质量，但是建模周期长、成本高；自动化建模通过传统的ThreeJS在前端页面建模，不仅效率低下，且对操作的人员的专业要求度较高，需要消耗较大的学习成本。
针对此缺陷，本申请提供的技术构思为：通过获取目标楼宇场景中每个楼层的楼宇结构图栅格数据；然后根据预先训练得到的实例分割模型对所述楼宇结构图栅格数据进行实例分割，以得到对所述楼宇结构图的实例分割结果；将所述实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图；最后通过楼层模型库自动适配与所述楼宇结构矢量数据图匹配的楼宇模型；基于三维建模工具对所述匹配到的楼宇模型建模，完成楼宇场景的在线快速建模，本实施例提供的方法对场景的适配度比对比方法具有较大的弹性空间且成本低和建模效率高。
图1为本发明一实施例提供的楼宇场景的建模方法的应用场景图。
如图1所示，本实施例提供的应用场景的基本架构主要包括：操作终端101，服务器102和数据库103；根据用户再操作终端选择的目标楼宇场景，服务器再数据库获取目标楼宇各个楼层的图像，然后服务器对目标楼宇各个楼层的图像进行处理，生成目标楼宇的三维模型。
图2为本发明一实施例提供的楼宇场景的建模方法的流程示意图，本实施例提供的方法的执行主体可以是图1所示实施例中的服务器。
如图2所示，本实施例提供的方法可以包括以下步骤。
S201，获取目标楼宇场景中每个楼层的楼宇结构图栅格数据。
在一种可能的实施例中，可以预先将各种楼宇场景中每个楼层的空间分割成有规律的网格，每一个网格称为一个单元，并在各单元上赋予相应的属性值用来表示每个楼层中的实体，得到各种楼宇场景中每个楼层的楼宇结构图栅格数据，并将楼宇结构图栅格数据存储在数据库中。当相关人员需要建立目标楼宇场景的三维模型时，服务器直接在数据库中获取目标楼宇图栅格数据。
在另一种可能的实施例中，若数据库中未存储目标楼宇场景的楼宇结构图栅格数据，则服务器可以直接对目标楼宇场景的楼宇结构图进行处理，得到楼宇结构图栅格数据。
S202，根据预先训练得到的实例分割模型，对所述楼宇结构图栅格数据进行实例分割，以得到对所述楼宇结构图的实例分割结果。
其中，实例分割模型是基于实例分割算法Mask Scoring R-CNN对大量的训练样本进行训练和优化得到的，训练样本包括目标楼宇场景中多个楼层的楼宇结构图栅格数据样本，所述楼宇结构图栅格数据样本是标注有楼层的楼宇结构矢量数据和经过掩膜制作的楼宇结构图。
具体的，将目标楼宇中每个楼层的楼宇结构图栅格数据作为输入量，输入到训练好的实例分割模型中，实例分割模型对楼宇结构图栅格数据进行实例分割，得到实例分割结果，即识别并提取楼宇结构图栅格数据中的每个功能区域(比如电梯、洗手间、卧室、书房以及客厅等)的位置，以及每个功能区域内的家具掩膜图像。
S203，将所述实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图。
其中，实例分割结果包括楼层中各个功能区域的掩膜图像，比如客厅内的沙发掩膜图像、厨房掩膜图像、卧室内的床的掩膜图像等等。所述楼宇结构矢量数据包括楼宇结构中各个位置的坐标信息。
具体的，在步骤S202中得到的各个功能区域的掩膜图像的墙体结构上选择预设数量个控制点(预设数量可以是4，也可以是大于4的整数)，然后根据楼宇结构矢量数据确定选择的控制点的坐标，将控制点坐标代入薄板样条插值函数进行计算，根据计算结果变换各个区域的掩膜图像，完成楼层中各个功能区域的掩膜图像与楼宇结构矢量数据的配准操作，得到配准的楼宇结构矢量数据图，楼宇结构矢量数据图中包含各个位置的坐标信息。
需要说明的是，图像配准的详细实施方式可参考有关技术，此处不再详细说明。
S204，根据所述楼宇结构矢量数据图，在楼层模型库中匹配相应的楼宇模型。
在一种可能的实施例中，先确定所述楼宇结构矢量数据图中每个功能区域的尺寸以及每种类型的功能区域的数量；然后根据每个功能区域的尺寸以及每种类型的功能区域的数量，在所述楼层模型库中匹配每个功能区域对应的模型。
具体的，楼层模型库中预先存储有大量各种类型的功能区域的模型，楼宇场景默认为建筑毛坯。在得到楼宇结构矢量数据图后，根据楼宇结构矢量数据图计算出各个功能区域的掩膜图像外切矩形的顶点坐标，根据外切矩形的顶点坐标确定每个功能区域的长宽比，根据长宽比以及每个功能区域的数量在楼层模型库中匹配每个功能区域对应的模型。
比如，如图5所示的户型图为经过实例分割之后得到的掩膜图像，其中包含、厨房、书房、客厅、卧室和洗手间等功能区域以及各个功能区域中的家具掩膜图像。对该掩膜图像进行配准后得到的户型结构矢量数据图，根据户型结构矢量数据图计算出客厅里的沙发掩膜图像的外切矩形的顶点坐标，根据顶点坐标确定外切矩形的长宽比。再比如，根据户型结构矢量数据图计算出洗手间区域淹没图像的外切矩形的顶点坐标，从而确定洗手间掩膜图像的外切矩形的长宽比；根据两个卧室内床铺的掩膜图像的外切矩形确定床铺长宽比等等。在根据楼宇结构矢量数据图得到每个功能区域的长宽比以及每种类型的功能区域的数量后，在楼层数据库中自动适配各个功能区域以及家具的模型。比如，根据洗手间的长宽比和数量适配洗手间模型、根据卧室内家具的长宽比和数量适配家具模型、根据公共区长宽比和数量适配公共区域模型以及根据电梯长宽比和数量适配电梯模型等等。
需要说明的是，各个区域中的掩膜图像的外切矩形是实例分割模型在每个区域自动生成的目标框，外切矩形的长宽比也可以是在训练实例分割模型时预先设置好的。
S205，基于三维建模工具对所述匹配到的楼宇模型建模，得到所述目标楼宇场景的三维模型。
其中，三维建模工具可以是ThreeJS。
具体的，将匹配到的每个功能区域对应的模型加载至三维建模工具中，以在所述三维建模工具中调整每个功能区域对应的模型的比例和位置，得到所述目标楼宇场景的三维模型。
在一种可能的实施例中，在所述三维建模工具中调整每个功能区域对应的模型的比例和位置的过程可以包括：根据各个功能区域的掩膜图像的外切矩形的顶点坐标定义每个功能区域的标准包围盒；根据包围盒顶点坐标分别计算标准包围盒和模型实际包围盒的边长。若标准包围盒垂直于模型实际包围盒，则将模型旋转90°后重复计算标准包围盒和模型实际包围盒的边长；根据标准包围盒和模型实际包围盒边长的比例关系，取最小值作为缩放比例缩放模型；根据标准包围盒质心坐标相对坐标原点的偏移量移动模型。最后调整模型的朝向、装饰风格得到目标楼宇场景的三维建模结果。
本实施例中，通过获取目标楼宇场景中每个楼层的楼宇结构图栅格数据；然后根据预先训练得到的实例分割模型对所述楼宇结构图栅格数据进行实例分割，以得到对所述楼宇结构图的实例分割结果；将所述实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图；最后通过楼层模型库自动适配与所述楼宇结构矢量数据图匹配的楼宇模型；基于三维建模工具对所述匹配到的楼宇模型建模，完成楼宇场景的在线快速建模，本实施例提供的方法对场景的适配度比对比方法具有较大的弹性空间且成本低和建模效率高。
图3为本发明另一实施例提供的楼宇场景的建模方法的流程示意图，本实施例在图2所示实施例的基础上，进一步对实例分割模型的训练过程进行详细描述。
如图3所示，本实施例提供的方法可以包括如下步骤。
S301，将所述楼宇结构图栅格数据样本输入神经网络ResNet-101-FPN中，得到所述神经网络ResNet-101-FPN输出的所述楼宇结构图对应的楼宇结构特征图。
其中，楼宇结构图栅格数据样本是标注有楼层的楼宇结构矢量数据和经过掩膜制作的楼宇结构图。
具体的，在得到目标楼宇场景的楼宇结构图之后，对楼宇结构图进行栅格化处理，并在在图中标注出楼宇结构矢量数据。同时，对楼宇结构图进行掩膜处理，即将预先制作的楼宇结构图的掩膜与楼宇结构图相乘，感兴趣区域(Region of Interest，RoI)内图像值保持不变，而感兴趣区域外图像值都为0，即保留楼宇结构图中的感兴趣区域，将感兴趣区域之外的其他区域屏蔽掉。将经过标注楼宇结构矢量数据和掩膜制作的楼宇结构图样本输入到神经网络ResNet-101-FPN中，得到楼宇结构图对应的楼宇结构特征图。
S302，在所述楼宇结构特征图中划分处多个候选兴趣区域。
具体的，得到楼宇结构特征图后，在特征图中的每个位置处生成目标框，得到多个候选RoI，其中，目标框的面积和长宽比是预先设置好的。
比如，通过目标框框选出楼宇结构特征图中的洗手间区域，通过目标框框选出客厅中的沙发等等。
S303，将所述多个候选兴趣区域输入区域建议网络RPN，所述区域建议网络RPN对所述候选兴趣区域进行二值分类和边框回归操作，并通过非极大值抑制算法对所述多个候选兴趣区域进行筛选，得到目标兴趣区域。
具体的，将多个候选RoI输入到区域建议网络(Region Proposal Net，RPN)中进行二值分类和边框(Bounding Box，BB)回归操作，以调整目标框框选出的感兴趣区域的区域范围，从保证目标检测更加精准。
进一步的，由于在目标检测的过程中在同一目标感兴趣区域的位置上会产生大量的候选框，这些候选框相互之间可能会有重叠，此时我们需要利用非极大值抑制找到最佳的目标边界框，消除冗余的边界框，进一步保证训练得到的实例分割模型的准确性。
S304，对所述目标兴趣区域进行区域特征聚集操作。
具体的，对目标RoI进行进行RoI Align操作，ROI Align是在一种区域特征聚集方式，能够很好地解决现有ROI Pooling操作中两次量化造成的区域不匹配的问题。进一步提升实例分割模型的准确性。
S305，根据楼层中的每个功能区域，对所述目标兴趣区域进行功能分类。
具体的，得到了每个楼宇结构图栅格数据样本中所有目标RoI之后，按照相应楼层中各个区域的功能，对每个目标RoI进行分类，比如，将户型图中划分得到的目标RoI分成卧室、书房、洗手间、客厅以及厨房等类型。将所有楼宇结构图栅格数据样本训练完成之后便可以得到最终优化的实例分割模型。
为了更好的理解本申请，下面将从整体上对楼宇场景的建模方法进行描述。如图4所示，整个楼宇场景的建模方法包含两个阶段，第一阶段为楼宇结构栅格数据实例分割阶段，在第一阶段中，先采集楼宇结构图栅格数据样本集，然后基于Mask Scoring R-CNN算法对楼宇结构图栅格数据样本集进行训练，得到实例分割模型，使用实例分割模型对目标楼宇场景的每个楼层内的楼宇结构图进行实例分割，得到各个区域(比如每个楼层的公共区、电梯以及洗手间等区域)的掩膜图像。将得到的各个区域的掩膜图像与相应的楼宇结构矢量数据进行配准，根据配准的楼宇结构矢量数据图在楼层模型库中自动适配每个功能区域对应的模型，最后基于ThreeJS自动构建楼宇场景的三维模型。
示例性的，如图5所示，将某个楼层内的户型图输入到训练好的实例分割模型中进行实例分割得到的效果图，该户型图的实例分割效果图中包括厨房、卧室、书房、洗手间、客厅等各个功能区域的掩膜图像以及书桌、沙发、床和餐桌等家具的掩膜图像。将这些掩膜图像与该户型结构矢量数据进行配准操作，得到户型结构矢量数据图，基于户型结构矢量数据图在楼层数据库中自动适配洗手间模型、沙发模型、床模型等各种模型，最后将适配到的模型加载至三维建模工具ThreeJS中，ThreeJS自动构建该户型场景，得到的户型三维模型如图6所示。
本实施例中，未作详细说明的部分可参考上述有关方法实施例中的描述，此处不再重复说明。
图7为本发明一实施例提供的楼宇场景的建模装置的结构示意图。
如图7所示，本实施例提供的装置包括：图像获取模块701，实例分割模块702，图像配准模块703，模型匹配模块704和模型建立模块705；其中，图像获取模块701，用于获取目标楼宇场景中每个楼层的楼宇结构图栅格数据；实例分割模块702，用于根据预先训练得到的实例分割模型，对所述楼宇结构图栅格数据进行实例分割，以得到对所述楼宇结构图的实例分割结果；图像配准模块703，用于将所述实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图；模型匹配模块704，用于根据所述楼宇结构矢量数据图，在楼层模型库中匹配相应的楼宇模型；模型建立模块705，用于基于三维建模工具对所述匹配到的楼宇模型建模，得到所述目标楼宇场景的三维模型。
进一步的，本实施例提供的装置还包括：模型训练模块706，用于获取训练样本集，所述训练样本集包括多个楼层的楼宇结构图栅格数据样本，所述楼宇结构图栅格数据样本是标注有楼层的楼宇结构矢量数据和经过掩膜制作的楼宇结构图；基于实例分割算法MaskScoring R-CNN对所述楼宇结构图栅格数据样本进行训练，得到所述实例分割模型。
进一步的，所述模型训练模块具体用于：
将所述楼宇结构图栅格数据样本输入神经网络ResNet-101-FPN中，得到所述神经网络ResNet-101-FPN输出的所述楼宇结构图对应的楼宇结构特征图；
在所述楼宇结构特征图中划分处多个候选兴趣区域；
将所述多个候选兴趣区域输入区域建议网络RPN，所述区域建议网络RPN对所述候选兴趣区域进行二值分类和边框回归操作，并通过非极大值抑制算法对所述多个候选兴趣区域进行筛选，得到目标兴趣区域；
对所述目标兴趣区域进行区域特征聚集操作；
根据楼层中的每个功能区域，对所述目标兴趣区域进行功能分类。
进一步的，所述实例分割结果包括楼层中各个功能区域的掩膜图像，所述楼宇结构矢量数据包括楼宇结构中各个位置的坐标信息；所述图像配准模块具体用于：
在所述楼层中的墙体结构上选取预设数量个控制点；
获取所述控制点所在位置的坐标信息；
将所述控制点的坐标信息代入薄板样条插值函数计算，得到计算结果；
根据所述计算结果变换所述楼层中各个功能区域的掩膜图像，以得到配准的楼宇结构矢量数据图。
进一步的，所述模型匹配模块具体用于：
确定所述楼宇结构矢量数据图中每个功能区域的尺寸以及每种类型的功能区域的数量；
根据每个功能区域的尺寸以及每种类型的功能区域的数量，在所述楼层模型库中匹配每个功能区域对应的模型。
进一步的，所述模型建立模块具体用于：
将匹配到的每个功能区域对应的模型加载至三维建模工具中，以在所述三维建模工具中调整每个功能区域对应的模型的比例和位置，得到所述目标楼宇场景的三维模型。
本实施例提供的装置，可用于执行上述方法实施例的技术方案，其实现原理和技术效果类似，本实施例此处不再赘述。
图8为本发明实施例提供的计算机设备的硬件结构示意图。如图8所示，本实施例的计算机设备80包括：处理器801以及存储器802；其中
存储器802，用于存储计算机执行指令；
处理器801，用于执行存储器存储的计算机执行指令，以实现上述实施例中方法所执行的各个步骤。具体可以参见前述方法实施例中的相关描述。
可选地，存储器802既可以是独立的，也可以跟处理器801集成在一起。
当存储器802独立设置时，该电子设备还包括总线803，用于连接所述存储器802和处理器801。
本发明实施例还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如上所述的楼宇场景的建模方法。
本发明实施例还提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上所述的楼宇场景的建模方法。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。例如，以上所描述的设备实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个模块可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或模块的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个单元中。上述模块成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。
上述以软件功能模块的形式实现的集成的模块，可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)或处理器执行本申请各个实施例所述方法的部分步骤。
应理解，上述处理器可以是中央处理单元(Central Processing Unit，简称CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，简称DSP)、专用集成电路(Application Specific Integrated Circuit，简称ASIC)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合发明所公开的方法的步骤可以直接体现为硬件处理器执行完成，或者用处理器中的硬件及软件模块组合执行完成。
存储器可能包含高速RAM存储器，也可能还包括非易失性存储NVM，例如至少一个磁盘存储器，还可以为U盘、移动硬盘、只读存储器、磁盘或光盘等。
总线可以是工业标准体系结构(Industry Standard Architecture，简称ISA)总线、外部设备互连(Peripheral Component Interconnect，简称PCI)总线或扩展工业标准体系结构(Extended Industry Standard Architecture，简称EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，本申请附图中的总线并不限定仅有一根总线或一种类型的总线。
上述存储介质可以是由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。存储介质可以是通用或专用计算机能够存取的任何可用介质。
一种示例性的存储介质耦合至处理器，从而使处理器能够从该存储介质读取信息，且可向该存储介质写入信息。当然，存储介质也可以是处理器的组成部分。处理器和存储介质可以位于专用集成电路(Application Specific Integrated Circuits，简称ASIC)中。当然，处理器和存储介质也可以作为分立组件存在于电子设备或主控设备中。
本领域普通技术人员可以理解：实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时，执行包括上述各方法实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (6)
1.一种楼宇场景的建模方法，其特征在于，包括：
获取目标楼宇场景中每个楼层的楼宇结构图栅格数据；
根据预先训练得到的实例分割模型，对所述楼宇结构图栅格数据进行实例分割，以得到对所述楼宇结构图的实例分割结果；
将所述实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图；
根据所述楼宇结构矢量数据图，在楼层模型库中匹配相应的楼宇模型；
基于三维建模工具对所述匹配到的楼宇模型建模，得到所述目标楼宇场景的三维模型；
还包括：
获取训练样本集，所述训练样本集包括多个楼层的楼宇结构图栅格数据样本，所述楼宇结构图栅格数据样本是标注有楼层的楼宇结构矢量数据和经过掩膜制作的楼宇结构图；
将所述楼宇结构图栅格数据样本输入神经网络ResNet-101-FPN中，得到所述神经网络ResNet-101-FPN输出的所述楼宇结构图对应的楼宇结构特征图；
在所述楼宇结构特征图中划分处多个候选兴趣区域；
将所述多个候选兴趣区域输入区域建议网络RPN，所述区域建议网络RPN对所述候选兴趣区域进行二值分类和边框回归操作，并通过非极大值抑制算法对所述多个候选兴趣区域进行筛选，得到目标兴趣区域；
对所述目标兴趣区域进行区域特征聚集操作；
根据楼层中的每个功能区域，对所述目标兴趣区域进行功能分类，得到所述实例分割模型；
所述实例分割结果包括楼层中各个功能区域的掩膜图像，所述楼宇结构矢量数据包括楼宇结构中各个位置的坐标信息；
所述将所述实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图，包括：
在所述楼层中的墙体结构上选取预设数量个控制点；
获取所述控制点所在位置的坐标信息；
将所述控制点的坐标信息代入薄板样条插值函数计算，得到计算结果；
根据所述计算结果变换所述楼层中各个功能区域的掩膜图像，以得到配准的楼宇结构矢量数据图。
2.根据权利要求1所述的方法，其特征在于，所述根据所述楼宇结构矢量数据图，在楼层模型库中匹配相应的楼宇模型，包括：
确定所述楼宇结构矢量数据图中每个功能区域的尺寸以及每种类型的功能区域的数量；
根据每个功能区域的尺寸以及每种类型的功能区域的数量，在所述楼层模型库中匹配每个功能区域对应的模型。
3.根据权利要求2所述的方法，其特征在于，所述基于三维建模工具对所述匹配到的楼宇模型建模，得到所述目标楼宇场景的三维模型，包括：
将匹配到的每个功能区域对应的模型加载至三维建模工具中，以在所述三维建模工具中调整每个功能区域对应的模型的比例和位置，得到所述目标楼宇场景的三维模型。
4.一种楼宇场景的建模装置，其特征在于，包括：
图像获取模块，用于获取目标楼宇场景中每个楼层的楼宇结构图栅格数据；
实例分割模块，用于根据预先训练得到的实例分割模型，对所述楼宇结构图栅格数据进行实例分割，以得到对所述楼宇结构图的实例分割结果；
图像配准模块，用于将所述实例分割结果与所述楼宇结构图的楼宇结构矢量数据进行配准，得到配准的楼宇结构矢量数据图；
模型匹配模块，用于根据所述楼宇结构矢量数据图，在楼层模型库中匹配相应的楼宇模型；
模型建立模块，用于基于三维建模工具对所述匹配到的楼宇模型建模，得到所述目标楼宇场景的三维模型；
所述装置还包括：模型训练模块，用于获取训练样本集，所述训练样本集包括多个楼层的楼宇结构图栅格数据样本，所述楼宇结构图栅格数据样本是标注有楼层的楼宇结构矢量数据和经过掩膜制作的楼宇结构图；基于实例分割算法Mask Scoring R-CNN对所述楼宇结构图栅格数据样本进行训练，得到所述实例分割模型；
所述模型训练模块具体用于：
将所述楼宇结构图栅格数据样本输入神经网络ResNet-101-FPN中，得到所述神经网络ResNet-101-FPN输出的所述楼宇结构图对应的楼宇结构特征图；
在所述楼宇结构特征图中划分处多个候选兴趣区域；
将所述多个候选兴趣区域输入区域建议网络RPN，所述区域建议网络RPN对所述候选兴趣区域进行二值分类和边框回归操作，并通过非极大值抑制算法对所述多个候选兴趣区域进行筛选，得到目标兴趣区域；
对所述目标兴趣区域进行区域特征聚集操作；
根据楼层中的每个功能区域，对所述目标兴趣区域进行功能分类；
所述实例分割结果包括楼层中各个功能区域的掩膜图像，所述楼宇结构矢量数据包括楼宇结构中各个位置的坐标信息；
所述图像配准模块，具体用于在所述楼层中的墙体结构上选取预设数量个控制点；
获取所述控制点所在位置的坐标信息；
将所述控制点的坐标信息代入薄板样条插值函数计算，得到计算结果；
根据所述计算结果变换所述楼层中各个功能区域的掩膜图像，以得到配准的楼宇结构矢量数据图。
5.一种计算机设备，其特征在于，包括：至少一个处理器和存储器；
所述存储器存储计算机执行指令；
所述至少一个处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行如权利要求1至3任一项所述的楼宇场景的建模方法。
6.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如权利要求1至3任一项所述的楼宇场景的建模方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011555429.9A CN112669446B (zh) | 2020-12-24 | 2020-12-24 | 楼宇场景的建模方法和装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011555429.9A CN112669446B (zh) | 2020-12-24 | 2020-12-24 | 楼宇场景的建模方法和装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112669446A CN112669446A (zh) | 2021-04-16 |
| CN112669446B true CN112669446B (zh) | 2024-04-19 |
Family
ID=75408539
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011555429.9A Active CN112669446B (zh) | 2020-12-24 | 2020-12-24 | 楼宇场景的建模方法和装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112669446B (zh) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104281753A (zh) * | 2014-10-22 | 2015-01-14 | 国家电网公司 | 基于二三维一体化的输电线路走廊参数化构建方法及系统 |
| CN108983705A (zh) * | 2018-08-16 | 2018-12-11 | 居鹤华 | 一种基于轴不变量的多轴机器人系统正运动学建模与解算方法 |
| WO2019192397A1 (zh) * | 2018-04-04 | 2019-10-10 | 华中科技大学 | 一种任意形状的场景文本端到端识别方法 |
| CN110490415A (zh) * | 2019-07-15 | 2019-11-22 | 同济大学 | 一种多无人机视觉协同的建筑进度评估方法 |
| CN111008422A (zh) * | 2019-11-29 | 2020-04-14 | 北京建筑大学 | 一种建筑物实景地图制作方法及系统 |
| CN111598645A (zh) * | 2020-04-02 | 2020-08-28 | 浙江工业大学 | 一种融合随机森林与协同过滤二手房推荐方法 |
| CN111898856A (zh) * | 2020-04-02 | 2020-11-06 | 沈阳工业大学 | 基于极限学习机的物理-数据融合楼宇的分析方法 |
-
2020
- 2020-12-24 CN CN202011555429.9A patent/CN112669446B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104281753A (zh) * | 2014-10-22 | 2015-01-14 | 国家电网公司 | 基于二三维一体化的输电线路走廊参数化构建方法及系统 |
| WO2019192397A1 (zh) * | 2018-04-04 | 2019-10-10 | 华中科技大学 | 一种任意形状的场景文本端到端识别方法 |
| CN108983705A (zh) * | 2018-08-16 | 2018-12-11 | 居鹤华 | 一种基于轴不变量的多轴机器人系统正运动学建模与解算方法 |
| CN110490415A (zh) * | 2019-07-15 | 2019-11-22 | 同济大学 | 一种多无人机视觉协同的建筑进度评估方法 |
| CN111008422A (zh) * | 2019-11-29 | 2020-04-14 | 北京建筑大学 | 一种建筑物实景地图制作方法及系统 |
| CN111598645A (zh) * | 2020-04-02 | 2020-08-28 | 浙江工业大学 | 一种融合随机森林与协同过滤二手房推荐方法 |
| CN111898856A (zh) * | 2020-04-02 | 2020-11-06 | 沈阳工业大学 | 基于极限学习机的物理-数据融合楼宇的分析方法 |
Non-Patent Citations (2)
| Title |
|---|
| WebGL在房屋安全信息管理系统中的应用;宋大明;轩元;朱宇锋;顾笑颜;李佳;肖凯;廖祥森;刘桂生;佘江峰;;现代测绘(第02期);全文 * |
| 基于户型图实例分割的室内场景建模研究;李伟;《浙江工业大学学报》;第49卷(第02期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112669446A (zh) | 2021-04-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107004297B (zh) | 基于二维平面图的三维自动立体建模方法及程序 | |
| KR101636027B1 (ko) | 실세계 객체들의 3ｄ 모델들 및 실제 스케일 메타데이터를 캡처하고 이동시키기 위한 방법들 및 시스템들 | |
| CN109829969A (zh) | 一种数据获取方法、装置及存储介质 | |
| JP2006506164A5 (zh) | ||
| DE102016103854A1 (de) | Graphikverarbeitung mit direktionalen Darstellungen der Beleuchtung an Sondenpositionen innerhalb einer Szene | |
| CN108564645B (zh) | 房屋模型的渲染方法、终端设备及介质 | |
| CN113327324A (zh) | 三维建筑模型的构建方法、装置、计算机设备及存储介质 | |
| CN113705111B (zh) | 一种基于深度学习的装修家具自动布局方法及系统 | |
| CN110634100A (zh) | 一种户型图生成方法、装置、电子设备和存储介质 | |
| CN114373054A (zh) | 一种自动生成三维房屋布局的方法、系统、装置及介质 | |
| CN110428504B (zh) | 文本图像合成方法、装置、计算机设备和存储介质 | |
| WO2023155113A1 (en) | Computer-implemented building modeling method and system | |
| CN114821055A (zh) | 房屋模型的构建方法、装置、可读存储介质和电子设备 | |
| CN112669446B (zh) | 楼宇场景的建模方法和装置 | |
| CN112950759B (zh) | 基于房屋全景图的三维房屋模型构建方法及装置 | |
| US20210192857A1 (en) | Generating Virtual Representations | |
| US20240062345A1 (en) | Method, apparatus, and computer-readable medium for foreground object deletion and inpainting | |
| US20090010506A1 (en) | Method for Processing Image and Volume Data Based on Statistical Models | |
| CN113538452B (zh) | 家具布局及三维可视化方法、装置和设备 | |
| CN109816744B (zh) | 一种基于神经网络的二维特效图片生成方法和装置 | |
| CN116612214A (zh) | 顶点权重处理方法、装置、电子设备及存储介质 | |
| CN111191306A (zh) | 一种房间设计效果展示方法及系统 | |
| CN112767424B (zh) | 一种基于室内三维点云空间自动剖分方法 | |
| Huang et al. | From BIM to pointcloud: automatic generation of labeled indoor pointcloud | |
| JP2023167502A (ja) | 学習モデルの生成方法、情報処理装置、情報処理方法、コンピュータプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |