CN111651050A - 城市虚拟沙盘的展示方法、装置、计算机设备及存储介质 - Google Patents

城市虚拟沙盘的展示方法、装置、计算机设备及存储介质 Download PDF

Info

Publication number
CN111651050A
CN111651050A CN202010519739.9A CN202010519739A CN111651050A CN 111651050 A CN111651050 A CN 111651050A CN 202010519739 A CN202010519739 A CN 202010519739A CN 111651050 A CN111651050 A CN 111651050A
Authority
CN
China
Prior art keywords
sand table
image
detected
virtual
virtual sand
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010519739.9A
Other languages
English (en)
Inventor
王子彬
孙红亮
武明飞
李炳泽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang Shangtang Technology Development Co Ltd
Zhejiang Sensetime Technology Development Co Ltd
Original Assignee
Zhejiang Shangtang Technology Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Shangtang Technology Development Co Ltd filed Critical Zhejiang Shangtang Technology Development Co Ltd
Priority to CN202010519739.9A priority Critical patent/CN111651050A/zh
Publication of CN111651050A publication Critical patent/CN111651050A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本公开提供了一种城市虚拟沙盘的展示方法、装置、计算机设备及存储介质，其中，该方法包括：实时获取包括用户的待检测图像，并基于实时获取的待检测图像，检测用户是否做出预设的沙盘展示触发手势；在检测到用户做出沙盘展示触发手势后，获取与沙盘展示触发手势对应的虚拟沙盘数据，并确定与虚拟沙盘数据对应的城市虚拟沙盘在待检测图像中的投影位置信息；基于投影位置信息，将城市虚拟沙盘和待检测图像前端进行融合显示。从而减少了对于沙盘所处固定区域的限制，使得用户能够随时随地查看城市虚拟沙盘，并提高了用户与虚拟沙盘之间的交互性。

Description

城市虚拟沙盘的展示方法、装置、计算机设备及存储介质
技术领域
本公开涉及图像处理技术领域，具体而言，涉及一种城市虚拟沙盘的展示方法、装置、计算机设备及存储介质。
背景技术
沙盘是一种根据地形图、航空像片或实地地形，按一定的比例关系，而堆制的模型，常被用于展示城市规划、社区规划等多个场景中，为观用户提供了直观的观看感受。
目前，城市沙盘通常为实体沙盘，为利用泥沙、兵棋和其它材料制作而成的，其建立难度大、费时费力，且需要将沙盘摆放在一定面积的固定位置上，无法让用户随时随地获取到沙盘所展示的内容，交互性较差。
发明内容
本公开实施例至少提供一种城市虚拟沙盘的展示方法、装置、计算机设备及存储介质。
第一方面，本公开实施例提供了一种城市虚拟沙盘的展示方法，所述展示方法包括：
实时获取包括用户的待检测图像，并基于实时获取的所述待检测图像，检测所述用户是否做出预设的沙盘展示触发手势；
在检测到所述用户做出所述沙盘展示触发手势后，获取与所述沙盘展示触发手势对应的虚拟沙盘数据，并确定与所述虚拟沙盘数据对应的城市虚拟沙盘在所述待检测图像中的投影位置信息；
基于所述投影位置信息，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示。
一种可选的实施方式中，所述确定与所述虚拟沙盘数据对应的城市虚拟沙盘在所述待检测图像中的投影位置信息，包括：
基于所述待检测图像，确定所述用户做出所述沙盘展示触发手势时所述用户的手部在相机坐标系中的三维位置信息；
基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
一种可选的实施方式中，所述虚拟沙盘数据包括：构成所述城市虚拟沙盘的多个多边形网格中每个多边形网格的多个顶点分别在模型坐标系下的三维坐标值；
所述基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息，包括：
基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘的中心点在所述相机坐标系中的三维坐标值；
基于所述中心点在所述相机坐标系中的三维坐标值，以及所述中心点在所述模型坐标系下的三维坐标值，确定所述相机坐标系和所述模型坐标系之间的转换关系；
基于所述转换关系、以及所述每个多边形网格的多个顶点分别在所述模型坐标系下的三维坐标值，确定所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值；
基于所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
一种可选的实施方式中，所述基于所述投影位置信息，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示，包括：
基于所述投影位置信息、以及所述虚拟沙盘数据，对所述城市虚拟沙盘进行渲染处理，得到所述城市虚拟沙盘对应的二维图像；
将所述二维图像叠加在所述待检测图像前端进行显示。
一种可选的实施方式中，所述基于实时获取的所述待检测图像，检测所述用户是否做出预设的沙盘展示触发手势，包括：
利用预先训练的手部姿态检测模型，对所述待处理图像进行手部姿态检测处理，得到所述用户的手部姿态信息；
将所述用户的手部姿态信息，与至少一个沙盘展示触发手势分别进行匹配；
在所述手部姿态信息与任一沙盘展示触发手势匹配成功后，确定所述用户做出所述任一沙盘展示触发手势。
一种可选的实施方式中，所述获取与所述沙盘展示触发手势对应的虚拟沙盘数据，包括：
获取与所述任一沙盘展示触发手势对应的虚拟沙盘数据。
一种可选的实施方式中，采用下述方式构建所述城市虚拟沙盘的虚拟沙盘数据：
利用全景摄像头采集预设区域范围内的城市全景数据；
基于所述城市全景数据，以及所述预设区域范围的城市规划图，生成与所述预设区域范围对应的虚拟沙盘数据。
第二方面，本公开实施例提供了一种城市虚拟沙盘的展示装置，所述展示装置包括：检测模块、确定模块以及显示模块，其中：
检测模块，用于实时获取包括用户的待检测图像，并基于实时获取的所述待检测图像，检测所述用户是否做出预设的沙盘展示触发手势；
确定模块，用于在检测到所述用户做出所述沙盘展示触发手势后，获取与所述沙盘展示触发手势对应的虚拟沙盘数据，并确定与所述虚拟沙盘数据对应的城市虚拟沙盘在所述待检测图像中的投影位置信息；
显示模块，用于基于所述投影位置信息，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示。
一种可选的实施方式中，所述确定模块包括：
第一确定单元，用于基于所述待检测图像，确定所述用户做出所述沙盘展示触发手势时所述用户的手部在相机坐标系中的三维位置信息；
第二确定单元，用于基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
一种可选的实施方式中，所述虚拟沙盘数据包括：构成所述城市虚拟沙盘的多个多边形网格中每个多边形网格的多个顶点分别在模型坐标系下的三维坐标值；
所述第二确定单元具体用于：
基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘的中心点在所述相机坐标系中的三维坐标值；
基于所述中心点在所述相机坐标系中的三维坐标值，以及所述中心点在所述模型坐标系下的三维坐标值，确定所述相机坐标系和所述模型坐标系之间的转换关系；
基于所述转换关系、以及所述每个多边形网格的多个顶点分别在所述模型坐标系下的三维坐标值，确定所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值；
基于所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
一种可选的实施方式中，所述显示模块具体用于：
基于所述投影位置信息、以及所述虚拟沙盘数据，对所述城市虚拟沙盘进行渲染处理，得到所述城市虚拟沙盘对应的二维图像；
将所述二维图像叠加在所述待检测图像前端进行显示。
一种可选的实施方式中，所述确定模块还用于：
利用预先训练的手部姿态检测模型，对所述待处理图像进行手部姿态检测处理，得到所述用户的手部姿态信息；
将所述用户的手部姿态信息，与至少一个沙盘展示触发手势分别进行匹配；
在所述手部姿态信息与任一沙盘展示触发手势匹配成功后，确定所述用户做出所述任一沙盘展示触发手势。
一种可选的实施方式中，所述确定模块还用于：
获取与所述任一沙盘展示触发手势对应的虚拟沙盘数据。
一种可选的实施方式中，采用下述方式构建所述城市虚拟沙盘的虚拟沙盘数据：
利用全景摄像头采集预设区域范围内的城市全景数据；
基于所述城市全景数据，以及所述预设区域范围的城市规划图，生成与所述预设区域范围对应的虚拟沙盘数据。
第三方面，本公开实施例还提供一种计算机设备，包括：处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，当计算机设备运行时，所述处理器与所述存储器之间通过总线通信，所述机器可读指令被所述处理器执行时执行上述第一方面，或第一方面中任一种可能的实施方式中的步骤。
第四方面，本公开实施例还提供一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行上述第一方面，或第一方面中任一种可能的实施方式中的步骤。
本公开实施例通过实时获取包括用户的待检测图像，并基于实时获取的待检测图像，检测用户是否做出预设的沙盘展示触发手势；在检测到用户做出沙盘展示触发手势后，获取与沙盘展示触发手势对应的虚拟沙盘数据，并确定与虚拟沙盘数据对应的城市虚拟沙盘在待检测图像中的投影位置信息；基于投影位置信息，将城市虚拟沙盘和待检测图像前端进行融合显示，从而通过用户的手势触发在设备上显示城市虚拟沙盘，使得用户能够随时随地通过终端设备查看城市虚拟沙盘，并提高了用户与虚拟沙盘之间的交互性。
为使本公开的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，此处的附图被并入说明书中并构成本说明书中的一部分，这些附图示出了符合本公开的实施例，并与说明书一起用于说明本公开的技术方案。应当理解，以下附图仅示出了本公开的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
图1示出了本公开实施例所提供的一种城市虚拟沙盘的展示方法的流程图；
图2示出了本公开实施例所提供的城市虚拟沙盘的展示方法的示例图；
图3示出了本公开实施例所提供的一种城市虚拟沙盘的展示装置的示意图；
图4示出了本公开实施例提供的另一种城市虚拟沙盘的展示装置中确定模块的示意图；
图5示出了本公开实施例所提供的一种计算机设备的示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本公开一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围，而是仅仅表示本公开的选定实施例。基于本公开的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本公开保护的范围。
经研究发现，目前，城市沙盘通常为实体沙盘，为利用泥沙、兵棋和其它材料制作而成的，其建立难度大、费时费力，且需要将沙盘摆放在一定面积的固定位置上，无法让用户随时随地获取到沙盘所展示的内容，交互性较差。
基于上述研究，本公开提供了一种城市虚拟沙盘的展示方法，通过用户的手势触发在设备上显示城市虚拟沙盘，使得用户能够随时随地通过终端设备查看城市虚拟沙盘，并提高了用户与虚拟沙盘之间的交互性。
针对以上方案所存在的缺陷，均是发明人在经过实践并仔细研究后得出的结果，因此，上述问题的发现过程以及下文中本公开针对上述问题所提出的解决方案，都应该是发明人在本公开过程中对本公开做出的贡献。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
为便于对本实施例进行理解，首先对本公开实施例所公开的一种城市虚拟沙盘的展示方法进行详细介绍，本公开实施例所提供的城市虚拟沙盘的展示方法的执行主体一般AR设备；该AR设备例如包括：终端设备或服务器或其它处理设备，终端设备可以为用户设备(User Equipment，UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(Personal Digital Assistant，PDA)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中，该城市虚拟沙盘的展示方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
下面以执行主体为AR设备为例对本公开实施例提供的城市虚拟沙盘的展示方法加以说明。
参见图1所示，为本公开实施例提供的城市虚拟沙盘的展示方法的流程图，所述方法包括步骤S101～S103城市虚拟沙盘的展示，其中：
S101：实时获取包括用户的待检测图像，并基于实时获取的所述待检测图像，检测所述用户是否做出预设的沙盘展示触发手势；
S102：在检测到所述用户做出所述沙盘展示触发手势后，获取与所述沙盘展示触发手势对应的虚拟沙盘数据，并确定与所述虚拟沙盘数据对应的城市虚拟沙盘在所述待检测图像中的投影位置信息；
S103：基于所述投影位置信息，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示。
本公开实施例通过实时获取包括用户的待检测图像，并基于实时获取的待检测图像，检测用户是否做出预设的沙盘展示触发手势；在检测到用户做出沙盘展示触发手势后，获取与沙盘展示触发手势对应的虚拟沙盘数据，并确定与虚拟沙盘数据对应的城市虚拟沙盘在待检测图像中的投影位置信息；基于投影位置信息，将城市虚拟沙盘和待检测图像前端进行融合显示，从而通过用户的手势触发在设备上显示城市虚拟沙盘，使得用户能够随时随地通过终端设备查看城市虚拟沙盘，并提高了用户与虚拟沙盘之间的交互性。
下面分别对上述S101～S104加以详细说明。
一：在上述S101中，待检测图像中所包括的用户可以有一个，也可以有多个。
具体的，待检测图像可以由摄像头进行获取，该摄像头例如可以位于AR设备上，能够获取待检测图像，并将待检测图像传输给AR设备；该摄像头还可以由其它现有的摄像头，例如监控摄像头进行获取。在该示例下，可以通过实时获取监控摄像头的拍摄画面，监测用户是否做出触发对应的沙盘展示触发手势。
示例性的，在检测用户是做出预设的沙盘展示信息时，首先可以利用预先训练的人体识别模型，对摄像头获取的多帧图像进行人体识别，得到对应的人体识别结果；其中，人体识别结果包括：各帧图像中是否存在人体图像。基于人体识别结果，选取包括人体的待检测图像。
在获取到包括用户的待检测图像之后，后检测所述用户是否做出预设的沙盘展示触发手势，具体包括：
利用预先训练的手部姿态检测模型，对所述待处理图像进行手部姿态检测处理，得到所述用户的手部姿态信息；
将所述用户的手部姿态信息，与至少一个沙盘展示触发手势分别进行匹配；
在所述手部姿态信息与任一沙盘展示触发手势匹配成功后，确定所述用户做出所述任一沙盘展示触发手势。
其中，手部姿态信息例如包括展开，握拳、一个或多个手指伸出等多种手部姿态。
具体的，手部姿态检测模型的训练过程可以包括：选取多个不同手部姿态的图片作为训练样本。将不同的样本图片及其对应的手部姿态标签信息，输入至待训练的手部姿态检测模型中，得到待训练的手部姿态检测模型的模型损失，基于该损失，优化待训练的手部姿态检测模型的参数；经过对待训练的手部姿态检测模型的参数的多轮优化，得到训练后的手部姿态检测模型。
在将待检测图像输入至训练好的手部姿态检测模型中，对所述待处理图像进行手部姿态检测处理，得到所述用户的手部姿态信息之后，可以将手部姿态信息与预设的多种沙盘展示触发手势进行匹配，并在所述手部姿态信息与任一沙盘展示触发手势匹配成功后，确定所述用户做出所述任一沙盘展示触发手势，以进行后续操作。
二：在上述S102中，虚拟沙盘数据为通过城市虚拟沙盘进行构建的。
具体构建方法包括：利用全景摄像头采集预设区域范围内的城市全景数据；或是基于所述城市全景数据，以及所述预设区域范围的城市规划图，生成与所述预设区域范围对应的虚拟沙盘数据。
示例性的，所述城市全景数据包括：多帧全景图像、以及与所述多帧全景图像中每帧全景图像匹配的地理位置信息。则可以基于所述预设区域范围的城市规划图，确定位于所述预设区域范围内的建筑的第一地理位置信息、以及位于所述预设区域范围内的道路的第二地理位置信息；基于所述第一地理位置信息，以及与多帧全景图像中每帧全景图像匹配的地理位置信息，确定与所述建筑对应的第一全景图像；基于所述第一全景图像，生成所述建筑的三维模型；以及基于所述第二地理位置信息，以及与多帧全景图像中每帧全景图像匹配的地理位置信息，确定与所述到路对应的第二全景图像；基于所述第二全景图像，生成所述道路的三维模型；基于所述建筑的三维模型、以及所述道路的三维模型，生成所述预设区域范围对应的城市虚拟沙盘。
在检测到所述用户做出所述沙盘展示触发手势后，可以获取与所述任一沙盘展示触发手势对应的虚拟沙盘数据。
具体的，获取与所述沙盘展示触发手势对应的虚拟沙盘数据的过程可以示例包括：若手部姿态信息为展开，则可以展示较大范围的沙盘模型，若手部姿态信息为伸出一根手指，则可以展示较小范围的沙盘模型，若检测到用户存在挥手操作，则可以展示较大高度范围的沙盘模型。
在确定对应的虚拟沙盘数据之后，确定与所述虚拟沙盘数据对应的城市虚拟沙盘在所述待检测图像中的投影位置信息的方法包括以下内容：
具体的，可以基于所述待检测图像，确定所述用户做出所述沙盘展示触发手势时所述用户的手部在相机坐标系中的三维位置信息，并基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
参见图2，图2为本公开实施例所提供的城市虚拟沙盘的展示方法的示例图。
示例性的，如图2所示，可以构成所述城市虚拟沙盘的多个多边形网格中每个多边形网格的多个顶点分别在模型坐标系下的三维坐标值。在该示例中，基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息的方法可以包括：
基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘的中心点在所述相机坐标系中的三维坐标值；
基于所述中心点在所述相机坐标系中的三维坐标值，以及所述中心点在所述模型坐标系下的三维坐标值，确定所述相机坐标系和所述模型坐标系之间的转换关系；
基于所述转换关系、以及所述每个多边形网格的多个顶点分别在所述模型坐标系下的三维坐标值，确定所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值；
基于所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
示例性的，假设相机坐标系表示为X、Y、Z坐标系，在检测到有手部进入预设区域后，便可以基于手部位置，确定城市虚拟沙盘的中心点在所述相机坐标系中的三维坐标系，例如：可以表示为A、B、C坐标系，也可以还是表示为X、Y、Z坐标系，并将原始的相机坐标系表示为其他的坐标系。
示例性的，分别基于中心点在所述相机坐标系中的三维坐标值，以及所述中心点在所述模型坐标系下的三维坐标值，确定坐标转换关系，例如：通过确定平移矩阵的方法，确定所述相机坐标系和所述模型坐标系之间的转换关系。在确定转换关系之后，便可以每个多边形网格的多个顶点中每一定点在所述模型坐标系下的三维坐标值(x，y，z)，转化为在所述相机坐标系下的三维坐标值(x1，y,1，z1)。
在确定各个点在所述相机坐标系下的三维坐标值之后，便可以对以摄像头的投影矩阵进行投影，以得到城市虚拟沙盘在摄像头的拍摄视野内对应的投影图像。
三：在上述S103中，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示，例如是基于城市虚拟沙盘，生成包括城市虚拟沙盘的二维图像，然后将城市沙盘的二维图像叠加在待检测图像的前端，生成融合图像，并对融合图像进行显示。
所述基于所述投影位置信息，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示，可以包括：
基于所述投影位置信息、以及所述虚拟沙盘数据，对所述城市虚拟沙盘进行渲染处理，得到所述城市虚拟沙盘对应的二维图像；
将所述二维图像叠加在所述待检测图像前端进行显示。
由于在上述步骤中，获取的投影图像为多个顶点所连接成的空白平面图形，但是展示给用户的应该为具象的画面，因此需要对城市虚拟沙盘进行渲染处理，以生动形象地展示出画面信息。
本领域技术人员可以理解，在具体实施方式的上述方法中，各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定，各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
基于同一发明构思，本公开实施例中还提供了与城市虚拟沙盘的展示方法对应的城市虚拟沙盘的展示装置，由于本公开实施例中的装置解决问题的原理与本公开实施例上述城市虚拟沙盘的展示方法相似，因此装置的实施可以参见方法的实施，重复之处不再赘述。
参照图3、4所示，图3为本公开实施例提供的一种城市虚拟沙盘的展示装置的示意图；图4为本公开实施例提供的另一种城市虚拟沙盘的展示装置中确定模块的示意图。所述城市虚拟沙盘的展示装置包括：检测模块310、确定模块320以及显示模块330，其中：
检测模块310，用于实时获取包括用户的待检测图像，并基于实时获取的所述待检测图像，检测所述用户是否做出预设的沙盘展示触发手势；
确定模块320，用于在检测到所述用户做出所述沙盘展示触发手势后，获取与所述沙盘展示触发手势对应的虚拟沙盘数据，并确定与所述虚拟沙盘数据对应的城市虚拟沙盘在所述待检测图像中的投影位置信息；
显示模块330，用于基于所述投影位置信息，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示。
本公开实施例通过基于用户触发手势模拟并展示虚拟沙盘的过程，减少了对于沙盘所处固定区域的限制，使得用户能够随时随地查看城市虚拟沙盘，并提高了用户与虚拟沙盘之间的交互性。
一种可选的实施方式中，如图4所示，所述确定模块320包括：
第一确定单元321，用于基于所述待检测图像，确定所述用户做出所述沙盘展示触发手势时所述用户的手部在相机坐标系中的三维位置信息；
第二确定单元322，用于基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
一种可选的实施方式中，所述虚拟沙盘数据包括：构成所述城市虚拟沙盘的多个多边形网格中每个多边形网格的多个顶点分别在模型坐标系下的三维坐标值；
所述第二确定单元322具体用于：
基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘的中心点在所述相机坐标系中的三维坐标值；
基于所述中心点在所述相机坐标系中的三维坐标值，以及所述中心点在所述模型坐标系下的三维坐标值，确定所述相机坐标系和所述模型坐标系之间的转换关系；
基于所述转换关系、以及所述每个多边形网格的多个顶点分别在所述模型坐标系下的三维坐标值，确定所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值；
基于所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
一种可选的实施方式中，所述显示模块330具体用于：
基于所述投影位置信息、以及所述虚拟沙盘数据，对所述城市虚拟沙盘进行渲染处理，得到所述城市虚拟沙盘对应的二维图像；
将所述二维图像叠加在所述待检测图像前端进行显示。
一种可选的实施方式中，所述确定模块320还用于：
利用预先训练的手部姿态检测模型，对所述待处理图像进行手部姿态检测处理，得到所述用户的手部姿态信息；
将所述用户的手部姿态信息，与至少一个沙盘展示触发手势分别进行匹配；
在所述手部姿态信息与任一沙盘展示触发手势匹配成功后，确定所述用户做出所述任一沙盘展示触发手势。
一种可选的实施方式中，所述确定模块320还用于：
获取与所述任一沙盘展示触发手势对应的虚拟沙盘数据。
一种可选的实施方式中，采用下述方式构建所述城市虚拟沙盘的虚拟沙盘数据：
利用全景摄像头采集预设区域范围内的城市全景数据；
基于所述城市全景数据，以及所述预设区域范围的城市规划图，生成与所述预设区域范围对应的虚拟沙盘数据。
本公开实施例还提供了一种计算机设备，如图5所示，为本公开实施例提供的计算机设备结构示意图，包括：
处理器11和存储器12；所述存储器12存储有所述处理器11可执行的机器可读指令，当计算机设备运行时，所述机器可读指令被所述处理器执行以实现下述步骤：
实时获取包括用户的待检测图像，并基于实时获取的所述待检测图像，检测所述用户是否做出预设的沙盘展示触发手势；
在检测到所述用户做出所述沙盘展示触发手势后，获取与所述沙盘展示触发手势对应的虚拟沙盘数据，并确定与所述虚拟沙盘数据对应的城市虚拟沙盘在所述待检测图像中的投影位置信息；
基于所述投影位置信息，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示。
一种可选的实施方式中，处理器11执行的指令中，所述确定与所述虚拟沙盘数据对应的城市虚拟沙盘在所述待检测图像中的投影位置信息，包括：
基于所述待检测图像，确定所述用户做出所述沙盘展示触发手势时所述用户的手部在相机坐标系中的三维位置信息；
基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
一种可选的实施方式中，处理器11执行的指令中，所述虚拟沙盘数据包括：构成所述城市虚拟沙盘的多个多边形网格中每个多边形网格的多个顶点分别在模型坐标系下的三维坐标值；
所述基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息，包括：
基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘的中心点在所述相机坐标系中的三维坐标值；
基于所述中心点在所述相机坐标系中的三维坐标值，以及所述中心点在所述模型坐标系下的三维坐标值，确定所述相机坐标系和所述模型坐标系之间的转换关系；
基于所述转换关系、以及所述每个多边形网格的多个顶点分别在所述模型坐标系下的三维坐标值，确定所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值；
基于所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
一种可选的实施方式中，处理器11执行的指令中，所述基于所述投影位置信息，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示，包括：
基于所述投影位置信息、以及所述虚拟沙盘数据，对所述城市虚拟沙盘进行渲染处理，得到所述城市虚拟沙盘对应的二维图像；
将所述二维图像叠加在所述待检测图像前端进行显示。
一种可选的实施方式中，处理器11执行的指令中，所述基于实时获取的所述待检测图像，检测所述用户是否做出预设的沙盘展示触发手势，包括：
利用预先训练的手部姿态检测模型，对所述待处理图像进行手部姿态检测处理，得到所述用户的手部姿态信息；
将所述用户的手部姿态信息，与至少一个沙盘展示触发手势分别进行匹配；
在所述手部姿态信息与任一沙盘展示触发手势匹配成功后，确定所述用户做出所述任一沙盘展示触发手势。
一种可选的实施方式中，处理器11执行的指令中，所述获取与所述沙盘展示触发手势对应的虚拟沙盘数据，包括：
获取与所述任一沙盘展示触发手势对应的虚拟沙盘数据。
一种可选的实施方式中，处理器11执行的指令中，采用下述方式构建所述城市虚拟沙盘的虚拟沙盘数据：
利用全景摄像头采集预设区域范围内的城市全景数据；
基于所述城市全景数据，以及所述预设区域范围的城市规划图，生成与所述预设区域范围对应的虚拟沙盘数据。
本公开实施例还提供一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行上述方法实施例中所述的城市虚拟沙盘的展示方法的步骤。其中，该存储介质可以是易失性或非易失的计算机可读取存储介质。
本公开实施例所提供的城市虚拟沙盘的展示方法的计算机程序产品，包括存储了程序代码的计算机可读存储介质，所述程序代码包括的指令可用于执行上述方法实施例中所述的城市虚拟沙盘的展示方法的步骤，具体可参见上述方法实施例，在此不再赘述。
本公开实施例还提供一种计算机程序，该计算机程序被处理器执行时实现前述实施例的任意一种方法。该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中，所述计算机程序产品具体体现为计算机存储介质，在另一个可选实施例中，计算机程序产品具体体现为软件产品，例如软件开发包(Software DevelopmentKit，SDK)等等。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统和装置的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。在本公开所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本公开各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解，本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-OnlyMemory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是：以上所述实施例，仅为本公开的具体实施方式，用以说明本公开的技术方案，而非对其限制，本公开的保护范围并不局限于此，尽管参照前述实施例对本公开进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本公开揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本公开实施例技术方案的精神和范围，都应涵盖在本公开的保护范围之内。因此，本公开的保护范围应所述以权利要求的保护范围为准。

Claims (10)

1.一种城市虚拟沙盘的展示方法，其特征在于，所述展示方法包括：
实时获取包括用户的待检测图像，并基于实时获取的所述待检测图像，检测所述用户是否做出预设的沙盘展示触发手势；
在检测到所述用户做出所述沙盘展示触发手势后，获取与所述沙盘展示触发手势对应的虚拟沙盘数据，并确定与所述虚拟沙盘数据对应的城市虚拟沙盘在所述待检测图像中的投影位置信息；
基于所述投影位置信息，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示。
2.根据权利要求1所述的展示方法，其特征在于，所述确定与所述虚拟沙盘数据对应的城市虚拟沙盘在所述待检测图像中的投影位置信息，包括：
基于所述待检测图像，确定所述用户做出所述沙盘展示触发手势时所述用户的手部在相机坐标系中的三维位置信息；
基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
3.根据权利要求2所述的展示方法，其特征在于，所述虚拟沙盘数据包括：构成所述城市虚拟沙盘的多个多边形网格中每个多边形网格的多个顶点分别在模型坐标系下的三维坐标值；
所述基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息，包括：
基于所述手部在所述相机坐标系中的三维位置信息，确定所述城市虚拟沙盘的中心点在所述相机坐标系中的三维坐标值；
基于所述中心点在所述相机坐标系中的三维坐标值，以及所述中心点在所述模型坐标系下的三维坐标值，确定所述相机坐标系和所述模型坐标系之间的转换关系；
基于所述转换关系、以及所述每个多边形网格的多个顶点分别在所述模型坐标系下的三维坐标值，确定所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值；
基于所述每个多边形网格的多个顶点分别在所述相机坐标系下的三维坐标值，确定所述城市虚拟沙盘在所述待检测图像中的投影位置信息。
4.根据权利要求3所述的展示方法，其特征在于，所述基于所述投影位置信息，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示，包括：
基于所述投影位置信息、以及所述虚拟沙盘数据，对所述城市虚拟沙盘进行渲染处理，得到所述城市虚拟沙盘对应的二维图像；
将所述二维图像叠加在所述待检测图像前端进行显示。
5.根据权利要求1-4任一项所述的展示方法，其特征在于，所述基于实时获取的所述待检测图像，检测所述用户是否做出预设的沙盘展示触发手势，包括：
利用预先训练的手部姿态检测模型，对所述待处理图像进行手部姿态检测处理，得到所述用户的手部姿态信息；
将所述用户的手部姿态信息，与至少一个沙盘展示触发手势分别进行匹配；
在所述手部姿态信息与任一沙盘展示触发手势匹配成功后，确定所述用户做出所述任一沙盘展示触发手势。
6.根据权利要求5所述的展示方法，其特征在于，所述获取与所述沙盘展示触发手势对应的虚拟沙盘数据，包括：
获取与所述任一沙盘展示触发手势对应的虚拟沙盘数据。
7.根据权利要求1-6中任一项所述的展示方法，其特征在于，采用下述方式构建所述城市虚拟沙盘的虚拟沙盘数据：
利用全景摄像头采集预设区域范围内的城市全景数据；
基于所述城市全景数据，以及所述预设区域范围的城市规划图，生成与所述预设区域范围对应的虚拟沙盘数据。
8.一种城市虚拟沙盘的展示装置，其特征在于，所述展示装置包括：
检测模块，用于实时获取包括用户的待检测图像，并基于实时获取的所述待检测图像，检测所述用户是否做出预设的沙盘展示触发手势；
确定模块，用于在检测到所述用户做出所述沙盘展示触发手势后，获取与所述沙盘展示触发手势对应的虚拟沙盘数据，并确定与所述虚拟沙盘数据对应的城市虚拟沙盘在所述待检测图像中的投影位置信息；
显示模块，用于基于所述投影位置信息，将所述城市虚拟沙盘和所述待检测图像前端进行融合显示。
9.一种计算机设备，其特征在于，包括：处理器、存储器，所述存储器存储有所述处理器可执行的机器可读指令，所述处理器用于执行所述存储器中存储的机器可读指令，所述机器可读指令被所述处理器执行时，所述处理器执行如权利要求1至7任一项所述的城市虚拟沙盘的展示方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被计算机设备运行时，所述计算机设备执行如权利要求1至7任一项所述的城市虚拟沙盘的展示方法的步骤。
CN202010519739.9A 2020-06-09 2020-06-09 城市虚拟沙盘的展示方法、装置、计算机设备及存储介质 Pending CN111651050A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010519739.9A CN111651050A (zh) 2020-06-09 2020-06-09 城市虚拟沙盘的展示方法、装置、计算机设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010519739.9A CN111651050A (zh) 2020-06-09 2020-06-09 城市虚拟沙盘的展示方法、装置、计算机设备及存储介质

Publications (1)

Publication Number Publication Date
CN111651050A true CN111651050A (zh) 2020-09-11

Family

ID=72351339

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010519739.9A Pending CN111651050A (zh) 2020-06-09 2020-06-09 城市虚拟沙盘的展示方法、装置、计算机设备及存储介质

Country Status (1)

Country Link
CN (1) CN111651050A (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112396997A (zh) * 2020-11-30 2021-02-23 浙江神韵文化科技有限公司 一种光影沙盘智能交互系统
CN112396996A (zh) * 2020-11-30 2021-02-23 浙江神韵文化科技有限公司 用于沙盘演示的多功能控制系统
CN112799507A (zh) * 2021-01-15 2021-05-14 北京航空航天大学 人体虚拟模型展示方法、装置、电子设备及存储介质
CN113053225A (zh) * 2021-03-15 2021-06-29 杭州智澜展览展示有限公司 一种电控多模块城市沙盘
CN114820961A (zh) * 2022-04-20 2022-07-29 北京金石视觉数字科技有限公司 一种沉浸式数字可视化展示方法及系统
CN117008734A (zh) * 2023-10-07 2023-11-07 北斗天汇（北京）科技有限公司 一种数字沙盘交互方法及基于ar的数字沙盘交互系统

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103337095A (zh) * 2013-06-25 2013-10-02 桂林理工大学 一种真实空间三维地理实体的立体虚拟显示方法
CN104486584A (zh) * 2014-12-18 2015-04-01 深圳先进技术研究院 一种基于增强现实的城市视频地图方法
CN106125938A (zh) * 2016-07-01 2016-11-16 联想(北京)有限公司 一种信息处理方法及电子设备
CN106296815A (zh) * 2015-06-24 2017-01-04 程昊 一种交互式三维数字城市的构建和显示方法
CN108053474A (zh) * 2017-12-29 2018-05-18 湖南城市学院 一种新型城市三维建模控制系统及方法
CN109426783A (zh) * 2017-08-29 2019-03-05 深圳市掌网科技股份有限公司 基于增强现实的手势识别方法及系统
CN110458961A (zh) * 2018-05-08 2019-11-15 莱卡地球系统公开股份有限公司 基于增强现实的系统
CN110914873A (zh) * 2019-10-17 2020-03-24 深圳盈天下视觉科技有限公司 增强现实方法、装置、混合现实眼镜及存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103337095A (zh) * 2013-06-25 2013-10-02 桂林理工大学 一种真实空间三维地理实体的立体虚拟显示方法
CN104486584A (zh) * 2014-12-18 2015-04-01 深圳先进技术研究院 一种基于增强现实的城市视频地图方法
CN106296815A (zh) * 2015-06-24 2017-01-04 程昊 一种交互式三维数字城市的构建和显示方法
CN106125938A (zh) * 2016-07-01 2016-11-16 联想(北京)有限公司 一种信息处理方法及电子设备
CN109426783A (zh) * 2017-08-29 2019-03-05 深圳市掌网科技股份有限公司 基于增强现实的手势识别方法及系统
CN108053474A (zh) * 2017-12-29 2018-05-18 湖南城市学院 一种新型城市三维建模控制系统及方法
CN110458961A (zh) * 2018-05-08 2019-11-15 莱卡地球系统公开股份有限公司 基于增强现实的系统
CN110914873A (zh) * 2019-10-17 2020-03-24 深圳盈天下视觉科技有限公司 增强现实方法、装置、混合现实眼镜及存储介质

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112396997A (zh) * 2020-11-30 2021-02-23 浙江神韵文化科技有限公司 一种光影沙盘智能交互系统
CN112396996A (zh) * 2020-11-30 2021-02-23 浙江神韵文化科技有限公司 用于沙盘演示的多功能控制系统
CN112799507A (zh) * 2021-01-15 2021-05-14 北京航空航天大学 人体虚拟模型展示方法、装置、电子设备及存储介质
CN113053225A (zh) * 2021-03-15 2021-06-29 杭州智澜展览展示有限公司 一种电控多模块城市沙盘
CN114820961A (zh) * 2022-04-20 2022-07-29 北京金石视觉数字科技有限公司 一种沉浸式数字可视化展示方法及系统
CN114820961B (zh) * 2022-04-20 2022-11-29 北京金石视觉数字科技有限公司 一种沉浸式数字可视化展示方法及系统
CN117008734A (zh) * 2023-10-07 2023-11-07 北斗天汇（北京）科技有限公司 一种数字沙盘交互方法及基于ar的数字沙盘交互系统
CN117008734B (zh) * 2023-10-07 2024-02-06 北斗天汇（北京）科技有限公司 一种数字沙盘交互方法及基于ar的数字沙盘交互系统

Similar Documents

Publication Publication Date Title
CN111651050A (zh) 城市虚拟沙盘的展示方法、装置、计算机设备及存储介质
CN111551188B (zh) 一种导航路线生成的方法及装置
CN110716645A (zh) 一种增强现实数据呈现方法、装置、电子设备及存储介质
CN111638796A (zh) 虚拟对象的展示方法、装置、计算机设备及存储介质
CN105023266A (zh) 增强现实实现方法、装置和终端设备
CN111653175B (zh) 一种虚拟沙盘展示方法及装置
CN111638797A (zh) 一种展示控制方法及装置
CN113178006A (zh) 导航地图生成方法、装置、计算机设备及存储介质
CN111651051A (zh) 一种虚拟沙盘展示方法及装置
CN111652987A (zh) 一种ar合影图像生成的方法及装置
CN111652971A (zh) 一种显示控制方法及装置
CN111651047A (zh) 一种虚拟物体展示方法、装置、电子设备及存储介质
US20180012073A1 (en) Method, electronic device, and recording medium for notifying of surrounding situation information
CN111640203A (zh) 一种图像处理方法及装置
CN111625100A (zh) 图画内容的呈现方法、装置、计算机设备及存储介质
CN111640184A (zh) 古建筑物重现方法、装置、电子设备及存储介质
CN111651056A (zh) 一种沙盘演示方法、装置、计算机设备及存储介质
CN111651055A (zh) 城市虚拟沙盘展示方法、装置、计算机设备及存储介质
CN112598805A (zh) 一种提示信息展示方法、装置、设备及存储介质
CN111640167A (zh) 一种ar合影方法、装置、计算机设备及存储介质
CN111651052A (zh) 虚拟沙盘的展示方法、装置、电子设备及存储介质
CN112912936A (zh) 混合现实系统、程序、移动终端装置和方法
CN111638794A (zh) 一种虚拟文物的显示控制方法及装置
CN105512963A (zh) 基于bim的高校校园还原系统
CN112785698B (zh) 模型展示方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination