CN112102479A - 基于模型对齐的增强现实方法和装置、存储介质、电子设备 - Google Patents

Abstract

本公开实施例公开了一种基于模型对齐的增强现实方法和装置、存储介质、电子设备，其中，方法包括：基于图像采集设备的当前位置，获得对应的三维模型；其中，所述当前位置在目标设定空间中；控制所述图像采集设备在所述当前位置开始采集图像，并基于所述当前位置作为原点坐标进行坐标初始化；基于所述原点坐标和所述图像采集设备采集到的图像，将所述三维模型与所述目标设定空间进行对齐，本实施例通过采集到的图像和原点坐标将目标设定空间对应的三维模型对齐到目标设定空间中，实现了模型与现实世界的自动对齐；在现实场景中可查看到与现实场景匹配的虚拟场景，提高了增强现实的效率和效果。

Description

基于模型对齐的增强现实方法和装置、存储介质、电子设备

技术领域

本公开涉及增强现实领域，尤其是一种基于模型对齐的增强现实方法和装置、存储介质、电子设备。

背景技术

增强现实(Augmented Reality)技术是一种将虚拟信息与真实世界巧妙融合的技术，广泛运用了多媒体、三维建模、实时跟踪及注册、智能交互、传感等多种技术手段，将计算机生成的文字、图像、三维模型、音乐、视频等虚拟信息模拟仿真后，应用到真实世界中，两种信息互为补充，从而实现对真实世界的“增强”。

发明内容

为了解决上述技术问题，提出了本公开。本公开的实施例提供了一种基于模型对齐的增强现实方法和装置、计算机可读存储介质、电子设备。

根据本公开实施例的一个方面，提供了一种基于模型对齐的增强现实方法，包括：

基于图像采集设备的当前位置，获得对应的三维模型；其中，所述当前位置在目标设定空间中；

控制所述图像采集设备在所述当前位置开始采集图像，并基于所述当前位置作为原点坐标进行坐标初始化；

基于所述原点坐标和所述图像采集设备采集到的图像，将所述三维模型与所述目标设定空间进行对齐。

可选地，所述基于图像采集设备的当前位置，获得对应的三维模型，包括：

获得所述图像采集设备的当前位置；

基于所述当前位置与至少一个设定空间的坐落位置进行匹配，确定所述图像采集设备对应的所述目标设定空间；其中，每个所述设定空间对应至少一个所述三维模型；

根据所述目标设定空间对应的至少一个三维模型确定一个三维模型。

可选地，所述基于所述当前位置与至少一个设定空间的坐落位置进行匹配，确定所述图像采集设备对应的目标设定空间，包括：

确定所述当前位置与所述至少一个设定空间中每个所述设定空间的坐落位置之间的距离，得到至少一个所述距离；

从所述至少一个距离中确定小于预设值的一个目标距离；

将所述目标距离对应的所述设定空间作为所述图像采集设备对应的目标设定空间。

可选地，所述基于所述原点坐标和所述图像采集设备采集到的图像，将所述三维模型与所述目标设定空间进行对齐，包括：

在所述目标设定空间内移动所述图像采集设备，并在移动过程中以设定频率采集所述目标设定空间内的多帧图像；

响应于所述多帧图像中存在一帧图像中包括固定标识物，根据所述固定标识物将所述三维模型与所述目标设定空间进行对齐。

可选地，在响应于所述多帧图像中存在一帧图像中包括固定标识物，根据所述固定标识物将所述三维模型与所述目标设定空间进行对齐之前，还包括：

基于所述多帧图像中的每帧图像和位姿获取设备，确定所述图像采集设备采集每帧所述图像时相对于所述原点坐标的位姿信息；

所述响应于所述多帧图像中存在一帧图像中包括固定标识物，根据所述固定标识物将所述三维模型与所述目标设定空间进行对齐，包括：

响应于所述多帧图像中存在一帧图像中包括固定标识物，基于所述固定标识物与所述三维模型中对应的标识物模型之间的对应关系对所述三维模型和所述目标设定空间进行初始对齐；

确定获取所述包括固定标识物的图像时所述图像采集设备相对于所述原点坐标的位姿信息；

基于所述位姿信息对所述初始对齐进行调整，实现所述三维模型与所述目标设定空间的对齐。

可选地，所述基于所述当前位置作为原点坐标进行坐标初始化，包括：

建立以所述原点坐标作为中心的原点坐标系；

确定所述原点坐标在所述三维模型中的模型坐标；

基于所述模型坐标和所述原点坐标，将所述三维模型嵌入所述目标设定空间，获得在所述原点坐标系下的所述三维模型的初始位姿。

可选地，所述基于所述固定标识物与所述三维模型中对应的标识物模型之间的对应关系对所述三维模型和所述设定空间进行初始对齐，包括：

基于所述图像中的所述固定标识物在图像中的形变，确定获取所述包括固定标识物的图像时所述图像采集设备相对于所述原点坐标的初级位姿信息；

确定所述图像采集设备获取所述包括固定标识物的图像时的在所述原点坐标系下的位置坐标；

基于所述初级位姿信息、所述位置坐标和所述三维模型的初始位姿，对所述三维模型与所述目标设定空间进行初始对齐。

可选地，所述基于所述初级位姿信息、所述位置坐标和所述三维模型的初始位姿，对所述三维模型与所述目标设定空间进行初始对齐，包括：

基于所述位置坐标确定所述图像采集设备获取所述包括固定标识物的图像时相对于所述原点坐标的位移信息；

基于所述初级位姿信息确定所述图像采集设备相对于所述原点坐标的旋转信息；

根据所述位移信息和所述旋转信息对所述三维模型的初始位姿进行调整，实现所述三维模型与所述目标设定空间的初始对齐。

可选地，所述确定获取所述包括固定标识物的图像时所述图像采集设备相对于所述原点坐标的位姿信息，包括：

基于位姿获取设备在所述图像采集设备移动过程中追踪所述图像采集设备相对于所述原点坐标的位姿信息；

基于所述追踪确定所述图像采集设备在采集所述包括固定标识物的图像时相对于所述原点坐标的位姿信息。

可选地，所述基于位姿获取设备在所述图像采集设备移动过程中追踪所述图像采集设备相对于所述原点坐标的位姿信息，包括：

基于所述图像采集设备连续采集的两帧图像中相同的特征点之间的位移，以及所述位姿获取设备获取所述图像采集设备连续采集的两帧图像时对应的两个位姿信息，实现对所述图像采集设备的位姿信息的追踪。

根据本公开实施例的另一方面，提供了一种基于模型对齐的增强现实装置，包括：

模型获得模块，用于基于图像采集设备的当前位置，获得对应的三维模型；其中，所述当前位置在目标设定空间中；

初始化模块，用于控制所述图像采集设备在所述当前位置开始采集图像，并基于所述当前位置作为原点坐标进行坐标初始化；

模型对齐模块，用于基于所述原点坐标和所述图像采集设备采集到的图像，将所述三维模型与所述目标设定空间进行对齐。

可选地，所述模型获得模块，具体用于获得所述图像采集设备的当前位置；基于所述当前位置与至少一个设定空间的坐落位置进行匹配，确定所述图像采集设备对应的所述目标设定空间；其中，每个所述设定空间对应至少一个所述三维模型；根据所述目标设定空间对应的至少一个三维模型确定一个三维模型。

可选地，所述模型获得模块在基于所述当前位置与至少一个设定空间的坐落位置进行匹配，确定所述图像采集设备对应的目标设定空间时，用于确定所述当前位置与所述至少一个设定空间中每个所述设定空间的坐落位置之间的距离，得到至少一个所述距离；从所述至少一个距离中确定小于预设值的一个目标距离；将所述目标距离对应的所述设定空间作为所述图像采集设备对应的目标设定空间。

可选地，所述模型对齐模块，包括：

图像采集单元，用于在所述目标设定空间内移动所述图像采集设备，并在移动过程中以设定频率采集所述目标设定空间内的多帧图像；

标识物对齐单元，用于响应于所述多帧图像中存在一帧图像中包括固定标识物，根据所述固定标识物将所述三维模型与所述目标设定空间进行对齐。

可选地，所述模型对齐模块，还包括：

位姿确定单元，用于基于所述多帧图像中的每帧图像和位姿获取设备，确定所述图像采集设备采集每帧所述图像时相对于所述原点坐标的位姿信息；

所述标识物对齐单元，具体用于响应于所述多帧图像中存在一帧图像中包括固定标识物，基于所述固定标识物与所述三维模型中对应的标识物模型之间的对应关系对所述三维模型和所述目标设定空间进行初始对齐；确定获取所述包括固定标识物的图像时所述图像采集设备相对于所述原点坐标的位姿信息；基于所述位姿信息对所述初始对齐进行调整，实现所述三维模型与所述目标设定空间的对齐。

可选地，所述初始化模块，具体用于建立以所述原点坐标作为中心的原点坐标系；确定所述原点坐标在所述三维模型中的模型坐标；基于所述模型坐标和所述原点坐标，将所述三维模型嵌入所述目标设定空间，获得在所述原点坐标系下的所述三维模型的初始位姿。

可选地，所述标识物对齐单元在基于所述固定标识物与所述三维模型中对应的标识物模型之间的对应关系对所述三维模型和所述设定空间进行初始对齐时，用于基于所述图像中的所述固定标识物在图像中的形变，确定获取所述包括固定标识物的图像时所述图像采集设备相对于所述原点坐标的初级位姿信息；确定所述图像采集设备获取所述包括固定标识物的图像时的在所述原点坐标系下的位置坐标；基于所述初级位姿信息、所述位置坐标和所述三维模型的初始位姿，对所述三维模型与所述目标设定空间进行初始对齐。

可选地，所述标识物对齐单元在基于所述初级位姿信息、所述位置坐标和所述三维模型的初始位姿，对所述三维模型与所述目标设定空间进行初始对齐时，用于基于所述位置坐标确定所述图像采集设备获取所述包括固定标识物的图像时相对于所述原点坐标的位移信息；基于所述初级位姿信息确定所述图像采集设备相对于所述原点坐标的旋转信息；根据所述位移信息和所述旋转信息对所述三维模型的初始位姿进行调整，实现所述三维模型与所述目标设定空间的初始对齐。

可选地，所述标识物对齐单元在确定获取所述包括固定标识物的图像时所述图像采集设备相对于所述原点坐标的位姿信息时，用于基于位姿获取设备在所述图像采集设备移动过程中追踪所述图像采集设备相对于所述原点坐标的位姿信息；基于所述追踪确定所述图像采集设备在采集所述包括固定标识物的图像时相对于所述原点坐标的位姿信息。

可选地，所述标识物对齐单元在基于位姿获取设备在所述图像采集设备移动过程中追踪所述图像采集设备相对于所述原点坐标的位姿信息时，用于基于所述图像采集设备连续采集的两帧图像中相同的特征点之间的位移，以及所述位姿获取设备获取所述图像采集设备连续采集的两帧图像时对应的两个位姿信息，实现对所述图像采集设备的位姿信息的追踪。

根据本公开实施例的又一方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述任一实施例所述的基于模型对齐的增强现实方法。

根据本公开实施例的还一方面，提供了一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述任一实施例所述的基于模型对齐的增强现实方法。

基于本公开上述实施例提供的一种基于模型对齐的增强现实方法和装置、存储介质、电子设备，基于图像采集设备的当前位置，获得对应的三维模型；其中，所述当前位置在目标设定空间中；控制所述图像采集设备在所述当前位置开始采集图像，并基于所述当前位置作为原点坐标进行坐标初始化；基于所述原点坐标和所述图像采集设备采集到的图像，将所述三维模型与所述目标设定空间进行对齐，本实施例通过采集到的图像和原点坐标将目标设定空间对应的三维模型对齐到目标设定空间中，实现了模型与现实世界的自动对齐；在现实场景中可查看到与现实场景匹配的虚拟场景，提高了增强现实的效率和效果。

下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。

附图说明

通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本公开一示例性实施例提供的基于模型对齐的增强现实方法的流程示意图。

图2是本公开图1所示的实施例中步骤102的一个流程示意图。

图3是本公开图1所示的实施例中步骤106的一个流程示意图。

图4是本公开图1所示的实施例中步骤106的另一个流程示意图。

图5是本公开图1所示的实施例中步骤104的一个流程示意图。

图6是本公开图4所示的实施例中步骤1064的一个流程示意图。

图7是本公开图4所示的实施例中步骤1065的一个流程示意图。

图8是本公开一示例性实施例提供的基于模型对齐的增强现实装置的结构示意图。

图9是本公开一示例性实施例提供的电子设备的结构图。

具体实施方式

下面，将参考附图详细地描述根据本公开的示例实施例。显然，所描述的实施例仅仅是本公开的一部分实施例，而不是本公开的全部实施例，应理解，本公开不受这里描述的示例实施例的限制。

应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。

还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。

还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。

另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。

还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

申请概述

在实现本公开的过程中，发明人发现，现有技术中的增强现实场景仅应用于初始的图像识别定位，该技术方案至少存在以下问题：需要人为对模型和现实场景进行对齐。

示例性方法

图1是本公开一示例性实施例提供的基于模型对齐的增强现实方法的流程示意图。本实施例可应用在电子设备上，如图1所示，包括如下步骤：

步骤102，基于图像采集设备的当前位置，获得对应的三维模型。

其中，当前位置在目标设定空间中。

可选地，图像采集设备可以包括手机等可以实现图像采集功能的设备，通过设备自带(例如，手机具有定位功能)或其他辅助定位装置或根据用户上报确定当前位置，该当前位置在目标设定空间中，目标设定空间即需要进行三维模型进行增强现实的空间，三维模型可以是基于目标设定空间的结构进行装修、设计等处理后的场景设计模型。

步骤104，控制图像采集设备在当前位置开始采集图像，并基于当前位置作为原点坐标进行坐标初始化。

在一实施例中，为了将三维模型与目标设定空间进行对齐，本实施例首先通过图像采集设备所在的当前位置建立一个以该当前位置为原点坐标的坐标系，该坐标系中，所有坐标都是相对于该原点坐标的相对坐标，在初始化过程中，可选地，通过原点坐标和在原点坐标获得的图像，可将三维模型嵌入现实场景(目标设定空间)中。

步骤106，基于原点坐标和图像采集设备采集到的图像，将三维模型与目标设定空间进行对齐。

本实施例中，由于空间不仅具有一个方向和角度，当图像采集设备移动和/或转动后，获得的图像中以初始化嵌入的三维模型可能与当前画面不匹配，导致三维模型出画，影响用户的观感，本实施例通过基于图像采集设备在不同位置采集到的图像和原点坐标可确定此事三维模型需要调整的多个方位的角度，通过调整使三维模型在当前画面(对应图像)中与目标空间是对齐的。

本公开上述实施例提供的一种基于模型对齐的增强现实方法，基于图像采集设备的当前位置，获得对应的三维模型；其中，所述当前位置在目标设定空间中；控制所述图像采集设备在所述当前位置开始采集图像，并基于所述当前位置作为原点坐标进行坐标初始化；基于所述原点坐标和所述图像采集设备采集到的图像，将所述三维模型与所述目标设定空间进行对齐，本实施例通过采集到的图像和原点坐标将目标设定空间对应的三维模型对齐到目标设定空间中，实现了模型与现实世界的自动对齐；在现实场景中可查看到与现实场景匹配的虚拟场景，提高了增强现实的效率和效果。

如图2所示，在上述图1所示实施例的基础上，步骤102可包括如下步骤：

步骤1021，获得图像采集设备的当前位置。

步骤1022，基于当前位置与至少一个设定空间的坐落位置进行匹配，确定图像采集设备对应的目标设定空间。

其中，每个设定空间对应至少一个三维模型。

步骤1023，根据目标设定空间对应的至少一个三维模型确定一个三维模型。

可选地，三维模型与设定空间的比例为1比1，在本公开实施例中对于三维模型与设定空间的对齐仅涉及到旋转和位移，不涉及到三维模型的缩放。

本实施例中的三维模型是预制的，通过对多个可能需要进行现实增强的设定空间(如，房屋等)通过三维模拟技术设计至少一个效果渲染三维模型，同一设定空间可对应多种不同效果的三维模型，具体确定哪个三维模型可根据用户的选择确定，或根据渲染效果对用户推荐，或随机选择一个三维模型，本实施例不限制获得目标设定空间对应的三维模型的具体方式。

可选地，步骤1022可包括：

确定当前位置与至少一个设定空间中每个设定空间的坐落位置之间的距离，得到至少一个距离；

从至少一个距离中确定小于预设值的一个目标距离；

将目标距离对应的设定空间作为图像采集设备对应的目标设定空间。

可选地，通过将当前位置对应的世界坐标系中的坐标(如，基于GPS等获得)与至少一个设定空间中每个设定空间对应的世界坐标系下的坐标进行差值计算，或在可查看定位坐标的地图(如，百度地图、高德地图等)上确定当前位置与每个设定空间之间的距离，当存在当前位置与一个设定空间的距离小于预设值(由于定位系统存在误差，可设置一个较大范围确定当前位置在设定空间中，如，100米等)时，说明当前位置对应该设定空间。或者，根据用户的请求确定需要增强的目标设定空间，当查看到图像采集设备到达距离该目标设定空间设定距离时，开始基于图像采集设备的位置进行三维模型的对齐，例如，目标设定空间为一个房屋时，用户从交互页面选择的房屋信息确定要查看的房屋，从服务获取到此房屋的位置信息，结合手机的GPS信息，确定用户在房屋的一定范围内(比如100m)，如果满足在房屋的一定范围内，则加载预先生成的房间模型(三维模型)。

如图3所示，在上述图1所示实施例的基础上，步骤106可包括如下步骤：

步骤1061，在目标设定空间内移动图像采集设备，并在移动过程中以设定频率采集目标设定空间内的多帧图像。

其中，设定频率可以为每秒8帧以上，每秒获得的帧数越多，越不容易丢失目标设定空间中的场景，但该采集频率与图像采集设备的移动速度相关，移动速度越快，需要相应的获得的帧数越多，否则，容易丢失画面。

步骤1063，响应于多帧图像中存在一帧图像中包括固定标识物，根据固定标识物将三维模型与目标设定空间进行对齐。

本实施例为了提高三维模型与目标设定空间的贴合度，通过在目标设定空间和三维模型中都具有的较易识别且不变形的固定标识物对三维模型与目标设定空间进行对齐，提高了对齐的准确性和速度。

如图4所示，在上述图1所示实施例的基础上，步骤106还可包括如下步骤：

步骤1061，在目标设定空间内移动图像采集设备，并在移动过程中以设定频率采集目标设定空间内的多帧图像。

步骤1062，基于多帧图像中的每帧图像和位姿获取设备，确定图像采集设备采集每帧图像时相对于原点坐标的位姿信息。

其中，位姿信息包括6个自由度的信息，包括三个方向的旋转(三个自由度)和平移(三个自由度)。可选地，位姿获取设备包括陀螺仪和/或地磁仪传感器，该位姿获取设备可以集成在图像采集设备中，或单独设置。

步骤1064，响应于多帧图像中存在一帧图像中包括固定标识物，基于固定标识物与三维模型中对应的标识物模型之间的对应关系对三维模型和目标设定空间进行初始对齐。

步骤1065，确定获取包括固定标识物的图像时图像采集设备相对于原点坐标的位姿信息。

步骤1066，基于位姿信息对初始对齐进行调整，实现三维模型与目标设定空间的对齐。

本实施例中，不仅利于固定标识物对三维模型进行对齐，在初始对齐的基础上，还通过位姿获取设备获取当前图像采集设备相对于原点坐标的位姿信息对初始对齐进行调整，使三维模型与目标设定空间不仅在固定标识物上有较好的匹配，在整体空间上也实现较好的对齐。

如图5所示，在上述图1所示实施例的基础上，步骤104还可包括如下步骤：

步骤1041，建立以原点坐标作为中心的原点坐标系。

步骤1042，确定原点坐标在三维模型中的模型坐标。

步骤1043，基于模型坐标和原点坐标，将三维模型嵌入目标设定空间，获得在原点坐标系下的三维模型的初始位姿。

本实施例中，以当前位置进行初始化，将三维模型按照原点坐标和在原点坐标采集的图像进行嵌入，本实施例中，可通过原点坐标在世界坐标系中的坐标以及三位模型在世界坐标系中的坐标进行匹配，确定原点坐标在三维模型中对应的模型坐标，结合该模型坐标可将三维模型粗略的嵌入到目标设定空间中(未进行对齐)，此时将三维模型看做一个整体，可得到三维模型在原点坐标系下的初始位姿(6个自由度)。

如图6所示，在上述图4所示实施例的基础上，步骤1064还可包括如下步骤：

步骤601，基于图像中的固定标识物在图像中的形变，确定获取包括固定标识物的图像时图像采集设备相对于原点坐标的初级位姿信息。

可选地，由于固定标识物在目标设定空间和三维模型中都有，并且，目标设定空间与三维模型之间的比例为1:1，因此，在空间和模型对齐的情况下，固定标识物应当与三维模型中的固定标识物完全重合，当存在不重合的情况时，可通过不重合的情况确定此时图像采集设备相对于原点坐标的初级位姿信息。

步骤602，确定图像采集设备获取包括固定标识物的图像时的在原点坐标系下的位置坐标。

可选地，固定标示物可以有多种，例如，目标设定空间为房屋时，固定标识物可以包括但不限于：门，窗或其他房间里唯一的明显的特征物，比如墙上的画等。

步骤603，基于初级位姿信息、位置坐标和三维模型的初始位姿，对三维模型与目标设定空间进行初始对齐。

本实施例结合固定标识物确定的初级位姿信息对三维模型进行基于初始位姿的首次对齐(调整三维模型的6个自由度)，首次对齐后固定标识物与三维模型中的固定标识物实现对齐，但三维模型其他部分可能存在偏差，为了对齐整个三维模型，本实施例还结合了图像采集设备此时的位置坐标，结合位置坐标对平移方向的自由度进行调整，提高了对齐效果。

可选地，步骤603可包括：基于位置坐标确定图像采集设备获取包括固定标识物的图像时相对于原点坐标的位移信息；基于初级位姿信息确定图像采集设备相对于原点坐标的旋转信息；根据位移信息和旋转信息对三维模型的初始位姿进行调整，实现三维模型与目标设定空间的初始对齐。

如图7所示，在上述图4所示实施例的基础上，步骤1065还可包括如下步骤：

步骤701，基于位姿获取设备在图像采集设备移动过程中追踪图像采集设备相对于原点坐标的位姿信息。

可选地，步骤701包括：基于图像采集设备连续采集的两帧图像中相同的特征点之间的位移，以及位姿获取设备获取图像采集设备连续采集的两帧图像时对应的两个位姿信息，实现对图像采集设备的位姿信息的追踪。

其中，特征点具有特性：位移不变和旋转不变、缩放不变。可选地，特征点可以包括但不限于：图像中的角点、不同颜色的点、较为特殊的点等，通过在不同帧图像中识别相同的特征点可以识别和追踪。

步骤702，基于追踪确定图像采集设备在采集包括固定标识物的图像时相对于原点坐标的位姿信息。

本实施例通过特征点实现对多帧图像的追踪，在具有相同特征点的多帧连续图像之间，可通过特征点的位移变化确定采集对应图像时图像采集设备相对于原点坐标的位姿信息，本实施例通过不断追踪，在图像中识别到固定标识物时，即可确定图像采集设备在采集包括固定标识物的图像时相对于原点坐标的位姿信息。

本公开上述实施例提供的基于模型对齐的增强现实方法，在实现在固定标识物处的三维模型与目标设定空间之间的对齐之后并不停止，只要图像采集设备还在获取图像，本实施例可基于每帧图像对三维模型和目标设定空间进行对齐，以使用户在查看时始终获得的都是对齐效果较好的增强现实的场景，直到图像采集设备停止获取图像或用户手动停止对齐。

本公开实施例提供的任一种基于模型对齐的增强现实方法可以由任意适当的具有数据处理能力的设备执行，包括但不限于：终端设备和服务器等。或者，本公开实施例提供的任一种基于模型对齐的增强现实方法可以由处理器执行，如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种基于模型对齐的增强现实方法。下文不再赘述。

示例性装置

图8是本公开一示例性实施例提供的基于模型对齐的增强现实装置的结构示意图。该实施例装置包括：

模型获得模块81，用于基于图像采集设备的当前位置，获得对应的三维模型。

其中，当前位置在目标设定空间中。

初始化模块82，用于控制图像采集设备在当前位置开始采集图像，并基于当前位置作为原点坐标进行坐标初始化。

模型对齐模块83，用于基于原点坐标和图像采集设备采集到的图像，将三维模型与目标设定空间进行对齐。

本公开上述实施例提供的一种基于模型对齐的增强现实装置，基于图像采集设备的当前位置，获得对应的三维模型；其中，所述当前位置在目标设定空间中；控制所述图像采集设备在所述当前位置开始采集图像，并基于所述当前位置作为原点坐标进行坐标初始化；基于所述原点坐标和所述图像采集设备采集到的图像，将所述三维模型与所述目标设定空间进行对齐，本实施例通过采集到的图像和原点坐标将目标设定空间对应的三维模型对齐到目标设定空间中，实现了模型与现实世界的自动对齐；在现实场景中可查看到与现实场景匹配的虚拟场景，提高了增强现实的效率和效果。

在一些可选实施例中，模型获得模块81，具体用于获得图像采集设备的当前位置；基于当前位置与至少一个设定空间的坐落位置进行匹配，确定图像采集设备对应的目标设定空间；其中，每个设定空间对应至少一个三维模型；根据目标设定空间对应的至少一个三维模型确定一个三维模型。

可选地，模型获得模块81在基于当前位置与至少一个设定空间的坐落位置进行匹配，确定图像采集设备对应的目标设定空间时，用于确定当前位置与至少一个设定空间中每个设定空间的坐落位置之间的距离，得到至少一个所述距离；从至少一个距离中确定小于预设值的一个目标距离；将目标距离对应的设定空间作为图像采集设备对应的目标设定空间。

在一些可选实施例中，模型对齐模块83，包括：

图像采集单元，用于在目标设定空间内移动图像采集设备，并在移动过程中以设定频率采集目标设定空间内的多帧图像；

标识物对齐单元，用于响应于多帧图像中存在一帧图像中包括固定标识物，根据固定标识物将三维模型与目标设定空间进行对齐。

可选地，模型对齐模块83，还包括：

位姿确定单元，用于基于多帧图像中的每帧图像和位姿获取设备，确定图像采集设备采集每帧图像时相对于原点坐标的位姿信息；

标识物对齐单元，具体用于响应于多帧图像中存在一帧图像中包括固定标识物，基于固定标识物与三维模型中对应的标识物模型之间的对应关系对三维模型和目标设定空间进行初始对齐；确定获取包括固定标识物的图像时图像采集设备相对于原点坐标的位姿信息；基于位姿信息对初始对齐进行调整，实现三维模型与目标设定空间的对齐。

可选地，初始化模块82，具体用于建立以原点坐标作为中心的原点坐标系；确定原点坐标在三维模型中的模型坐标；基于模型坐标和原点坐标，将三维模型嵌入目标设定空间，获得在原点坐标系下的三维模型的初始位姿。

可选地，标识物对齐单元在基于固定标识物与三维模型中对应的标识物模型之间的对应关系对三维模型和设定空间进行初始对齐时，用于基于图像中的固定标识物在图像中的形变，确定获取包括固定标识物的图像时图像采集设备相对于原点坐标的初级位姿信息；确定图像采集设备获取包括固定标识物的图像时的在原点坐标系下的位置坐标；基于初级位姿信息、位置坐标和三维模型的初始位姿，对三维模型与目标设定空间进行初始对齐。

可选地，标识物对齐单元在基于初级位姿信息、位置坐标和三维模型的初始位姿，对三维模型与目标设定空间进行初始对齐时，用于基于位置坐标确定图像采集设备获取包括固定标识物的图像时相对于原点坐标的位移信息；基于初级位姿信息确定图像采集设备相对于原点坐标的旋转信息；根据位移信息和旋转信息对三维模型的初始位姿进行调整，实现三维模型与目标设定空间的初始对齐。

在一些可选的实施例中，标识物对齐单元在确定获取包括固定标识物的图像时图像采集设备相对于原点坐标的位姿信息时，用于基于位姿获取设备在图像采集设备移动过程中追踪图像采集设备相对于原点坐标的位姿信息；基于追踪确定图像采集设备在采集包括固定标识物的图像时相对于原点坐标的位姿信息。

可选地，标识物对齐单元在基于位姿获取设备在图像采集设备移动过程中追踪图像采集设备相对于原点坐标的位姿信息时，用于基于图像采集设备连续采集的两帧图像中相同的特征点之间的位移，以及位姿获取设备获取图像采集设备连续采集的两帧图像时对应的两个位姿信息，实现对图像采集设备的位姿信息的追踪。

示例性电子设备

下面，参考图9来描述根据本公开实施例的电子设备。该电子设备可以是第一设备100和第二设备200中的任一个或两者、或与它们独立的单机设备，该单机设备可以与第一设备和第二设备进行通信，以从它们接收所采集到的输入信号。

图9图示了根据本公开实施例的电子设备的框图。

如图9所示，电子设备90包括一个或多个处理器91和存储器92。

处理器91可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备90中的其他组件以执行期望的功能。

存储器92可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器91可以运行所述程序指令，以实现上文所述的本公开的各个实施例的基于模型对齐的增强现实方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。

在一个示例中，电子设备90还可以包括：输入装置93和输出装置94，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

例如，在该电子设备是第一设备100或第二设备200时，该输入装置93可以是上述的麦克风或麦克风阵列，用于捕捉声源的输入信号。在该电子设备是单机设备时，该输入装置93可以是通信网络连接器，用于从第一设备100和第二设备200接收所采集的输入信号。

此外，该输入设备93还可以包括例如键盘、鼠标等等。

该输出装置94可以向外部输出各种信息，包括确定出的距离信息、方向信息等。该输出设备94可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图9中仅示出了该电子设备90中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备90还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的基于模型对齐的增强现实方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的基于模型对齐的增强现实方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。

本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。

还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (10)

1.一种基于模型对齐的增强现实方法，其特征在于，包括：

基于图像采集设备的当前位置，获得对应的三维模型；其中，所述当前位置在目标设定空间中；

控制所述图像采集设备在所述当前位置开始采集图像，并基于所述当前位置作为原点坐标进行坐标初始化；

基于所述原点坐标和所述图像采集设备采集到的图像，将所述三维模型与所述目标设定空间进行对齐。

2.根据权利要求1所述的方法，其特征在于，所述基于图像采集设备的当前位置，获得对应的三维模型，包括：

获得所述图像采集设备的当前位置；

基于所述当前位置与至少一个设定空间的坐落位置进行匹配，确定所述图像采集设备对应的所述目标设定空间；其中，每个所述设定空间对应至少一个所述三维模型；

根据所述目标设定空间对应的至少一个三维模型确定一个三维模型。

3.根据权利要求2所述的方法，其特征在于，所述基于所述当前位置与至少一个设定空间的坐落位置进行匹配，确定所述图像采集设备对应的目标设定空间，包括：

确定所述当前位置与所述至少一个设定空间中每个所述设定空间的坐落位置之间的距离，得到至少一个所述距离；

从所述至少一个距离中确定小于预设值的一个目标距离；

将所述目标距离对应的所述设定空间作为所述图像采集设备对应的目标设定空间。

4.根据权利要求1-3任一所述的方法，其特征在于，所述基于所述原点坐标和所述图像采集设备采集到的图像，将所述三维模型与所述目标设定空间进行对齐，包括：

在所述目标设定空间内移动所述图像采集设备，并在移动过程中以设定频率采集所述目标设定空间内的多帧图像；

响应于所述多帧图像中存在一帧图像中包括固定标识物，根据所述固定标识物将所述三维模型与所述目标设定空间进行对齐。

5.根据权利要求4所述的方法，其特征在于，在响应于所述多帧图像中存在一帧图像中包括固定标识物，根据所述固定标识物将所述三维模型与所述目标设定空间进行对齐之前，还包括：

基于所述多帧图像中的每帧图像和位姿获取设备，确定所述图像采集设备采集每帧所述图像时相对于所述原点坐标的位姿信息；

所述响应于所述多帧图像中存在一帧图像中包括固定标识物，根据所述固定标识物将所述三维模型与所述目标设定空间进行对齐，包括：

响应于所述多帧图像中存在一帧图像中包括固定标识物，基于所述固定标识物与所述三维模型中对应的标识物模型之间的对应关系对所述三维模型和所述目标设定空间进行初始对齐；

确定获取所述包括固定标识物的图像时所述图像采集设备相对于所述原点坐标的位姿信息；

基于所述位姿信息对所述初始对齐进行调整，实现所述三维模型与所述目标设定空间的对齐。

6.根据权利要求5所述的方法，其特征在于，所述基于所述当前位置作为原点坐标进行坐标初始化，包括：

建立以所述原点坐标作为中心的原点坐标系；

确定所述原点坐标在所述三维模型中的模型坐标；

基于所述模型坐标和所述原点坐标，将所述三维模型嵌入所述目标设定空间，获得在所述原点坐标系下的所述三维模型的初始位姿。

7.根据权利要求6所述的方法，其特征在于，所述基于所述固定标识物与所述三维模型中对应的标识物模型之间的对应关系对所述三维模型和所述设定空间进行初始对齐，包括：

基于所述图像中的所述固定标识物在图像中的形变，确定获取所述包括固定标识物的图像时所述图像采集设备相对于所述原点坐标的初级位姿信息；

确定所述图像采集设备获取所述包括固定标识物的图像时的在所述原点坐标系下的位置坐标；

基于所述初级位姿信息、所述位置坐标和所述三维模型的初始位姿，对所述三维模型与所述目标设定空间进行初始对齐。

8.一种基于模型对齐的增强现实装置，其特征在于，包括：

模型获得模块，用于基于图像采集设备的当前位置，获得对应的三维模型；其中，所述当前位置在目标设定空间中；

初始化模块，用于控制所述图像采集设备在所述当前位置开始采集图像，并基于所述当前位置作为原点坐标进行坐标初始化；

模型对齐模块，用于基于所述原点坐标和所述图像采集设备采集到的图像，将所述三维模型与所述目标设定空间进行对齐。

9.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-7任一所述的基于模型对齐的增强现实方法。

10.一种电子设备，其特征在于，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述权利要求1-7任一所述的基于模型对齐的增强现实方法。

Images