CN112288878A - 增强现实预览方法及预览装置、电子设备及存储介质 - Google Patents

Abstract

一种增强现实预览方法及预览装置、电子设备及存储介质，该基于地标的增强现实预览方法包括：获取多张地标图片，多张地标图片为针对同一地标的不同观察角度的图片；获取地标模型，地标模型为地标在虚拟空间中的三维模型；计算每张地标图片相对于地标模型的相机位姿矩阵，以得到多个相机位姿矩阵，多张地标图片与多个相机位姿矩阵一一对应；将多张地标图片之一作为预览背景幕布，并基于与选择的地标图片对应的相机位姿矩阵将设计素材投影到预览背景幕布，以用于实现预览。该基于地标的增强现实预览方法可以实现不同位置、不同视角的设计效果预览，使设计素材能够进行相应投影，从而提高预览效果，进而有助于提升设计效果，提高设计效率。

Description

增强现实预览方法及预览装置、电子设备及存储介质

技术领域

本公开的实施例涉及一种增强现实预览方法及预览装置、电子设备及存储介质。

背景技术

增强现实(Augmented Reality，AR)技术是一种将虚拟信息与真实世界巧妙融合的技术，广泛运用了多媒体、三维建模、实时跟踪及注册、智能交互、传感等多种技术手段。AR技术将计算机生成的文字、图像、三维模型、音乐、视频等虚拟信息模拟仿真后，应用到真实世界中，虚拟信息与真实世界的信息互为补充，从而实现对真实世界的“增强”。

短视频具有社交属性强、易创作、时长短等特点，更符合移动互联网时代用户的碎片化内容消费习惯。AR技术独特的虚实融合特效，使其在短视频领域具有广泛的应用前景和无限的拓展空间。当前，地标AR特效是短视频领域的热点之一。地标AR特效可以增加拍摄的趣味性，促使用户更加主动地去拍摄和记录。

发明内容

在利用三维建模及动画软件进行地标AR特效设计时，设计师无法从不同位置、不同视角进行设计效果的预览，设计素材无法随预览位置和预览视角的变化而进行相应投影。针对上述问题，本公开至少一个实施例提供一种基于地标的增强现实预览方法及预览装置、电子设备及存储介质，可以实现不同位置、不同视角的设计效果预览，使设计素材能够进行相应投影，从而提高预览效果，进而有助于提升设计效果，提高设计效率。

本公开至少一个实施例提供一种基于地标的增强现实预览方法，包括：获取多张地标图片，其中，所述多张地标图片为针对同一地标的不同观察角度的图片；获取地标模型，其中，所述地标模型为所述地标在虚拟空间中的三维模型；计算每张地标图片相对于所述地标模型的相机位姿矩阵，以得到多个相机位姿矩阵，其中，所述多张地标图片与所述多个相机位姿矩阵一一对应；将所述多张地标图片之一作为预览背景幕布，并基于与选择的地标图片对应的相机位姿矩阵将设计素材投影到所述预览背景幕布，以用于实现预览。

本公开至少一个实施例还提供一种基于地标的增强现实预览装置，包括：地标图片获取单元，配置为获取多张地标图片，其中，所述多张地标图片为针对同一地标的不同观察角度的图片；地标模型获取单元，配置为获取地标模型，其中，所述地标模型为所述地标在虚拟空间中的三维模型；相机位姿矩阵计算单元，配置为计算每张地标图片相对于所述地标模型的相机位姿矩阵，以得到多个相机位姿矩阵，其中，所述多张地标图片与所述多个相机位姿矩阵一一对应；投影单元，配置为将所述多张地标图片之一作为预览背景幕布，并基于与选择的地标图片对应的相机位姿矩阵将设计素材投影到所述预览背景幕布，以用于实现预览。

本公开至少一个实施例还提供一种电子设备，包括：处理器；存储器，包括一个或多个计算机程序模块；其中，所述一个或多个计算机程序模块被存储在所述存储器中并被配置为由所述处理器执行，所述一个或多个计算机程序模块包括用于实现本公开任一实施例所述的基于地标的增强现实预览方法的指令。

本公开至少一个实施例还提供一种存储介质，用于存储非暂时性计算机可读指令，当所述非暂时性计算机可读指令由计算机执行时可以实现本公开任一实施例所述的基于地标的增强现实预览方法。

附图说明

结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同的附图标记表示相同的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。

图1为本公开一些实施例提供的一种基于地标的增强现实预览方法的流程示意图；

图2为图1所示的方法的步骤S30的流程示意图；

图3为图1所示的方法的步骤S40的流程示意图；

图4为本公开一些实施例提供的另一种基于地标的增强现实预览方法的流程示意图；

图5A为本公开一些实施例提供的一种基于地标的增强现实预览方法的预览效果图之一；

图5B为本公开一些实施例提供的一种基于地标的增强现实预览方法的预览效果图之二；

图6为一种可用于实施本公开实施例提供的基于地标的增强现实预览方法的系统；

图7为本公开一些实施例提供的一种基于地标的增强现实预览装置的示意框图；

图8为本公开一些实施例提供的一种电子设备的示意框图；

图9为本公开一些实施例提供的另一种电子设备的示意框图；以及

图10为本公开一些实施例提供的一种存储介质的示意图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。“多个”应理解为两个或以上。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

在短视频领域，可以利用三维建模及动画软件(例如Maya软件)进行地标AR特效设计。在进行地标AR特效设计时，设计师需要首先设计相应的素材，设计素材可以为三维素材。然后，利用Maya脚本将设计素材与基于地标而建立的地标模型(该地标模型可以为Maya软件中建立的三维模型)进行结合，以实现预览，从而根据预览效果对设计素材进行调节、修改和优化等处理。例如，对设计素材进行处理后，可以将处理后的设计素材与地标模型进行结合，以再次进行预览，从而判断是否达到了预期的设计效果以及是否需要继续对设计素材进行处理。通过多次处理和多次预览交替进行，可以得到具有预期效果的设计素材。

然而，在进行地标AR特效设计时，基于通常的预览方法，设计师无法从不同位置、不同视角进行设计效果的预览，也即是，设计素材无法在预览时随预览位置和预览视角的变化而进行相应投影。例如，当采用通常的预览方法时，设计师仅能从某一特定位置、某一特定视角来进行预览。这使得预览效果较差，使设计师无法全面了解设计素材的设计效果，进而不利于得到效果较好的设计素材，影响了设计效果，降低了设计效率。

本公开至少一个实施例提供一种基于地标的增强现实预览方法及预览装置、电子设备及存储介质，可以实现不同位置、不同视角的设计效果预览，使设计素材能够进行相应投影，从而提高预览效果，进而有助于提升设计效果，提高设计效率。

下面，将参考附图详细地说明本公开的实施例。

本公开至少一个实施例提供一种基于地标的增强现实预览方法。该基于地标的增强现实预览方法包括：获取多张地标图片，该多张地标图片为针对同一地标的不同观察角度的图片；获取地标模型，该地标模型为地标在虚拟空间中的三维模型；计算每张地标图片相对于地标模型的相机位姿矩阵，以得到多个相机位姿矩阵，多张地标图片与多个相机位姿矩阵一一对应；将多张地标图片之一作为预览背景幕布，并基于与选择的地标图片对应的相机位姿矩阵将设计素材投影到预览背景幕布，以用于实现预览。

图1为本公开一些实施例提供的一种基于地标的增强现实预览方法的流程示意图。如图1所示，在至少一个实施例中，该方法包括如下操作。

步骤S10：获取多张地标图片，其中，该多张地标图片为针对同一地标的不同观察角度的图片；

步骤S20：获取地标模型，其中，该地标模型为地标在虚拟空间中的三维模型；

步骤S30：计算每张地标图片相对于地标模型的相机位姿矩阵，以得到多个相机位姿矩阵，其中，多张地标图片与多个相机位姿矩阵一一对应；

步骤S40：将多张地标图片之一作为预览背景幕布，并基于与选择的地标图片对应的相机位姿矩阵将设计素材投影到预览背景幕布，以用于实现预览。

例如，在步骤S10中，多张地标图片可以在地标的地点拍摄得到，也可以基于地标绘制得到，还可以通过其他方式得到，例如在互联网中检索并从互联网的各种资源(例如图片、视频等)获取，本公开的实施例对此不作限制，例如，多张地标图片中的每张可以是单独拍摄得到的照片，也可以是一段视频中的一帧画面。这里，“地标”是指具有特色的建筑物、自然景观、人工景观等。例如，上海的东方明珠塔、北京的中央电视台总部大楼(俗称“大裤衩”)、广州的广州塔(俗称“小蛮腰”)、尼亚加拉大瀑布、阿尔卑斯山的少女峰等，都可以称之为地标。需要说明的是，本公开的实施例包括但不限于此，地标可以为任意的具有特色的人工建造物或自然物。

例如，多张地标图片为针对同一地标的不同观察角度的图片，也即是，多张地标图片分别呈现该地标的不同角度的观察效果。例如，这些地标图片可以分别为在该地标的不同方位处观察该地标所得到的图片，例如东、西、南、北、东南、东北、西南、西北等方位，或者正面、侧面、背面等方位。例如，这些地标图片还可以为具有不同俯仰角的图片，例如俯视该地标、仰视该地标、平视该地标等。例如，可以使多张地标图片的观察角度相对于地标均匀分布，以通过地标图片多方位呈现该地标。使多张地标图片体现不同的观察角度，可以在预览时为用户(例如地标AR特效的设计师)提供更多的选择，便于用户从不同的观察角度(例如不同的位置及不同的视角)进行预览，从而提供更全面的预览效果。例如，这些地标图片的观察角度可以为短视频地标AR特效的使用者(也即短视频拍摄者)在拍摄该地标的视频时可能选取的观察角度，从而可以使预览效果与基于实际拍摄所得到的特效更为接近。

例如，多张地标图片的数量为8～12，例如为10。当然，本公开的实施例不限于此，地标图片的数量还可以为2～7、13～18等任意数量，这可以根据实际需求而定，本公开的实施例对此不作限制。

例如，地标图片可以为彩色图片或黑白图片。多张地标图片可以全部为彩色图片，也可以全部为黑白图片，还可以一部分为彩色图片而另一部分为黑白图片。这样可以为用户提供更多的选择，提供多样化的预览效果。例如，地标图片的分辨率、尺寸等参数可以根据实际需求而定，多张地标图片的参数可以相同或不同，本公开的实施例对此不作限制。

例如，在一些示例中，可以在执行本公开实施例提供的基于地标的增强现实预览方法之前，通过拍摄、绘制或从互联网中获取等方式得到多个地标的地标图片，每个地标对应于多张地标图片。然后，基于这些地标图片建立图片数据库，并存储在数据库服务器、云服务器或其他存储设备中。在执行本公开实施例提供的基于地标的增强现实预览方法时，可以根据需要在该图片数据库中检索某一地标并从图片数据库中获取对应于该地标的多张地标图片。通过这种方式，可以提高地标图片的获取效率，并且提升该方法的系统性，便于在进行批量化地标AR特效设计时进行预览，从而有助于提高设计效率。

当然，本公开的实施例包括但不限于此。在其他一些示例中，也可以在执行本公开实施例提供的基于地标的增强现实预览方法之前，通过拍摄、绘制或从互联网中获取等方式得到某一地标的地标图片，该地标为当前AR特效设计所针对的地标。该地标的地标图片存储在存储设备中，以供执行本公开实施例提供的基于地标的增强现实预览方法时进行读取和使用。例如，在再一些示例中，还可以在执行本公开实施例提供的基于地标的增强现实预览方法时，根据所针对的地标来实时地获取地标图片，例如通过拍摄、绘制、从互联网中获取等方式。

例如，在步骤S20中，地标模型为地标在虚拟空间中的三维模型，该三维模型可以是利用三维建模及动画软件建立的模型。例如，该三维建模及动画软件可以为Maya软件。Maya软件是Autodesk旗下的三维建模及动画软件，Maya软件可以大大提高电影、电视、游戏、视频等领域开发、设计、创作的工作效率，同时改善了多边形建模，通过新的运算法则提高了性能，多线程支持功能可以充分利用多核心处理器的优势，在角色建立和动画方面也更具弹性。当然，本公开的实施例包括但不限于此，用于建立地标的三维模型的软件也可以为其他任意适用的软件，这可以根据实际需求而定。

例如，在一些示例中，可以在执行本公开实施例提供的基于地标的增强现实预览方法之前，利用三维建模及动画软件建立多个地标的地标模型，这些地标模型为三维模型。然后，基于这些地标模型建立模型数据库，并存储在数据库服务器、云服务器或其他存储设备中。在执行本公开实施例提供的基于地标的增强现实预览方法时，可以根据需要在该模型数据库中检索某一地标并从模型数据库中获取对应于该地标的地标模型。通过这种方式，可以提高地标模型的获取效率，并且提升该方法的系统性，便于在进行批量化地标AR特效设计时进行预览，从而有助于提高设计效率。

当然，本公开的实施例包括但不限于此。在其他一些示例中，也可以在执行本公开实施例提供的基于地标的增强现实预览方法之前，利用三维建模及动画软件建立某一地标的地标模型，该地标为当前AR特效设计所针对的地标。该地标的地标模型存储在存储设备中，以供执行本公开实施例提供的基于地标的增强现实预览方法时进行读取和使用。例如，在再一些示例中，还可以在执行本公开实施例提供的基于地标的增强现实预览方法时，根据所针对的地标来实时地建立地标模型。

例如，步骤S30可以包括：采用尺度不变特征变换(Scale-invariant FeatureTransform，SIFT)算法计算每张地标图片相对于地标模型的相机位姿矩阵，以得到多个相机位姿矩阵。

SIFT算法具有尺度不变性，可在图像中检测出关键点，在数字图像的特征描述方面具有很强的优势。SIFT算法主要包括特征检测和特征匹配两个阶段。特征检测主要包括尺度空间极值检测、关键点定位、方向确定、关键点描述等步骤，通过上述各个步骤可以检测出图像中的关键点。特征匹配主要包括SIFT特征生成和SIFT特征向量匹配等步骤。SIFT特征生成主要包括构建尺度空间并检测极值点、特征点过滤并进行精确定位、为特征点分配方向值、生成特征描述子等步骤，通过上述各个步骤可以得到SIFT特征向量(也即特征描述子)。在进行SIFT特征向量匹配时，采用SIFT特征向量的欧式距离来作为两个图像空间中的关键点的相似性判定度量，从而可以对两个图像空间中的关键点进行匹配。关于SIFT算法的详细描述，可参考常规设计，此处不再详述。

例如，在获取到某一地标的多张地标图片以及该地标的地标模型之后，对于每一张地标图片，可以采用SIFT算法计算该地标图片相对于地标模型的相机位姿矩阵。每张地标图片都对应于一个相机位姿矩阵。例如，该相机位姿矩阵可以反映相机在世界坐标系中的位置，表示地标图片的观察角度(观察位置和观察视角)，也即是，拍摄或绘制该地标图片时所选取的观察角度。例如，相机位姿矩阵可以为4×4的矩阵，且可以表示为：

其中，R为旋转矩阵(例如为3*3的矩阵)，T为平移向量(例如为3*1的向量)，R和T都属于相机外部参数。例如，多张地标图片与计算得到的多个相机位姿矩阵一一对应，地标图片的数量等于相机位姿矩阵的数量。关于相机位姿矩阵的详细说明可参考常规设计，此处不再详述。

例如，如图2所示，在采用SIFT算法计算每张地标图片相对于地标模型的相机位姿矩阵时，可采用如下操作。

步骤S31：提取地标图片的特征点；

步骤S32：提取地标模型的特征点；

步骤S33：将地标图片的特征点与地标模型的特征点进行匹配，基于特征点相对位置关系得到相机位姿矩阵。

例如，在步骤S31中，采用SIFT算法提取地标图片的特征点。例如，可以通过执行尺度空间极值检测、关键点定位、方向确定、关键点描述等SIFT算法所包括的操作，以提取出地标图片中的特征点。例如，特征点一般为局部极值点，例如拐角点、分界点等，这可以利用SIFT算法自动识别。例如，在步骤S32中，同样可以基于SIFT算法提取地标模型的特征点。例如，在步骤S33中，采用SIFT算法执行SIFT特征生成和SIFT特征向量匹配等操作，对特征点逐一进行匹配，从而可以基于特征点相对位置关系得到相机位姿矩阵。关于计算相机位姿矩阵的详细过程可参考常规设计，此处不再详述。

需要说明的是，本公开的实施例中，计算相机位姿矩阵所采用的算法不限于SIFT算法，也可以为其他任意适用的算法，只要能得到地标图片对应的相机位姿矩阵即可，本公开的实施例对此不作限制。

例如，如图1所示，在步骤S40中，预览背景幕布是指在用户(例如地标AR特效的设计师)进行预览时呈现给用户的地标图片，该地标图片作为背景显示，设计素材叠加显示在该地标图片上，从而使用户可以直观地观察该设计素材与地标的结合效果。

图3为图1所示的方法的步骤S40的流程示意图。例如，在一些示例中，如图3所示，步骤S40可以包括以下操作。

步骤S41：在多张地标图片中选择一张地标图片作为预览背景幕布；

步骤S42：基于选择的地标图片对应的相机位姿矩阵，利用三维建模及动画软件的脚本进行三维渲染，从而将设计素材投影到预览背景幕布，以用于实现预览。

例如，在步骤S41中，可以根据用户的指令或者根据预设规则，选择多张地标图片中的一张地标图片作为预览背景幕布。

例如，在一些示例中，可以将多张地标图片以缩略图的形式呈现给用户，用户在多张地标图片中选择一张所需要的地标图片作为预览背景幕布。例如，用户可以通过鼠标点击或直接在触摸屏上点击，以发出指令，执行本公开实施例提供的基于地标的增强现实预览方法的电子设备接收到该指令后，可以确定出作为预览背景幕布的地标图片。

例如，在另一些示例中，也可以根据预设规则在多张地标图片中选择一张地标图片作为预览背景幕布，而不需要用户来选择。例如，预设规则可以为根据优先级选择地标图片，例如可以使多张地标图片具有不同的优先级，具有正面视角的地标图片的优先级大于具有侧面视角的地标图片的优先级。例如，预设规则也可以为根据图片中呈现的地标的完整性来选择地标图片，例如选择尽可能多地呈现出地标结构的地标图片。当然，本公开的实施例包括但不限于此，预设规则可以为任意的规则，例如还可以为随机选择，这可以根据实际需求而定，本公开的实施例对此不作限制。

例如，在步骤S42中，在确定了作为预览背景幕布的地标图片后，可以基于该地标图片对应的相机位姿矩阵对设计素材进行三维渲染，从而实现设计素材的投影。例如，可以利用三维建模及动画软件的脚本进行三维渲染，例如利用Maya脚本进行渲染。例如，该Maya脚本为可执行的脚本，例如为地标AR特效的设计师在Maya软件中编写的脚本，或者为Maya软件中提供的脚本，本公开的实施例对此不作限制。由于地标模型可以为Maya软件中建立的三维模型，因此利用Maya脚本进行三维渲染可以简化操作，提高效率。需要说明的是，当地标模型为其他软件中建立的三维模型时，可以相应地利用该软件中的脚本进行三维渲染，这可以根据实际需求而定。

三维渲染的过程实际上是投影的过程。在进行三维渲染时，可以采用如下投影公式：

P'＝Pj*P0，

其中，Pj为相机位姿矩阵，P0为设计素材的像素点的三维坐标，P′为设计素材的像素点投影到预览背景幕布上的二维坐标。通过对设计素材的所有像素点进行计算，可以得到投影之后的二维图像，该二维图像叠加显示在预览背景幕布上，从而可以实现预览。例如，在一些示例中，可以分别设置该二维图像的透明度以及该预览背景幕布的透明度，从而可以得到更好的预览效果，便于用户根据需求观察到多种不同效果。

例如，在执行本公开实施例提供的基于地标的增强现实预览方法时，图1中的步骤S40可以只执行一次，也可以重复执行(也即执行多次)。例如，当以某一张地标图片作为预览背景幕布进行预览后，还可以选择另一张地标图片作为预览背景幕布再次进行预览，从而可以使用户从多个不同观察角度观察设计效果。

例如，在重复执行步骤S40的情形中，可以基于用户的指令重复执行，也可以无需用户的干预而自动重复执行。例如，在一些示例中，在每次预览时只显示一张预览背景幕布及相应的设计素材投影后的二维图像，也即是，只显示一张预览效果图，当用户选择另一张地标图片作为预览背景幕布后，再显示相应的新的预览效果图。通过这种方式，可以简化该方法的运算量。例如，在另一些示例中，在每次预览时，可以以一定时间间隔依序显示多张不同的预览效果图，而不需要用户执行选择地标图片的操作，也即是，当用户发出预览指令时，可以自动重复执行步骤S40以提供多张不同的预览效果图。通过这种方式，可以提高预览效率，简化用户的操作。

本公开实施例提供的基于地标的增强现实预览方法可以用于设计基于地标的增强现实特效，也即是，在设计增强现实特效的设计素材时实现预览，以便于用户观察设计素材与地标的结合效果。该方法可以实现不同位置、不同视角的设计效果预览，使设计素材能够根据预览背景幕布的观察角度而进行相应的投影，从而可以提高预览效果，进而有助于提升设计效果，提高设计效率。

图4为本公开一些实施例提供的另一种基于地标的增强现实预览方法的流程示意图。例如，如图4所示，在一些示例中，本公开实施例提供的基于地标的增强现实预览方法还可以包括如下操作。

步骤S50：利用三维建模及动画软件的脚本将设计素材与地标模型结合。

该示例中的步骤S10-S40与图1中所示的步骤S10-S40基本相同，相关说明可参考上文内容，此处不再赘述。例如，步骤S50可以在步骤S20之后、步骤S30之前执行。

例如，在步骤S50中，利用三维建模及动画软件的脚本(例如Maya脚本)将设计素材与地标模型结合。例如，该Maya脚本为可执行的脚本，例如为地标AR特效的设计师在Maya软件中编写的脚本，或者为Maya软件中提供的脚本，本公开的实施例对此不作限制。由此，可以使设计素材与地标模型的相对位置固定，从而可以实现三维空间中基于模型的预览，在一定程度上反映设计效果。

图5A为本公开一些实施例提供的一种基于地标的增强现实预览方法的预览效果图之一，图5B为本公开一些实施例提供的一种基于地标的增强现实预览方法的预览效果图之二。

如图5A所示，该图中呈现的地标为位于北京三里屯的太古里(也即图中标有“太古里TAI KOO LI”的大厦)，该地标AR特效为在该大厦上及该大厦周围的天空中结合卡通元素装饰物(也即设计素材)。在预览时，基于该图片的观察角度，卡通元素装饰物根据相同的观察角度投影在该图片上，呈现了较好的预览效果。这里，将图5A中的卡通元素装饰物去掉后的图片为预览背景幕布，该预览背景幕布可以为在太古里现场拍摄得到。

如图5B所示，该图中呈现的地标为某设计所的办公楼(也即图中的矮楼)，该地标AR特效为在该矮楼上结合框架式装饰物(也即设计素材)。在预览时，基于该图片的观察角度，框架式装饰物根据相同的观察角度投影在该图片上，呈现了较好的预览效果。这里，将图5B中的框架式装饰物去掉后的图片为预览背景幕布，该预览背景幕布可以为在该办公楼现场拍摄得到。

根据图5A和图5B可知，预览背景幕布中呈现的地标具有一定观察角度，设计素材根据相同的观察角度投影到预览背景幕布上，从而实现了不同位置、不同视角的设计效果预览，具有较好的预览效果。

需要说明的是，本公开的实施例中，基于地标的增强现实预览方法的各个步骤的执行顺序不受限制，虽然上文以特定顺序描述了各个步骤的执行过程，但这并不构成对本公开实施例的限制。该基于地标的增强现实预览方法中的各个步骤可以串行执行或并行执行，这可以根据实际需求而定。该基于地标的增强现实预览方法还可以包括更多或更少的步骤，例如，为了达到更好的预览效果而增加一些预处理步骤，或者将一些中间过程的数据存储并用于后续处理和计算，以省略一些相似的步骤。

图6为一种可用于实施本公开实施例提供的基于地标的增强现实预览方法的系统。如图6所示，该系统10可以包括用户终端11、网络12、服务器13以及数据库14。例如，该系统10可以用于实施本公开任一实施例提供的基于地标的增强现实预览方法。

用户终端11例如为电脑11-1。可以理解的是，用户终端11可以是能够执行数据处理的任何其他类型的电子设备，其可以包括但不限于台式电脑、笔记本电脑、平板电脑、工作站等。用户终端11也可以是设置有电子设备的任何装备。本公开的实施例对于用户终端的硬件配置或软件配置(例如操作系统的类型(例如Windows、MacOS等)或版本)等不作限制。

用户可以对安装在用户终端11上的应用程序或在用户终端11上登录的网站进行操作，应用程序或网站通过网络12将用户行为数据传输给服务器13，用户终端11还可以通过网络12接收服务器13传输的数据。

例如，用户终端11安装有三维建模及动画软件，例如Maya软件，用户在用户终端11上利用Maya软件设计基于地标的增强现实特效的设计素材。在需要进行预览时，用户终端11通过运行代码的方式执行本公开实施例提供的基于地标的增强现实预览方法，从而可以实现不同位置、不同视角的设计效果预览。

网络12可以是单个网络，或至少两个不同网络的组合。例如，网络12可以包括但不限于局域网、广域网、公用网络、专用网络等中的一种或几种的组合。

服务器13可以是一个单独的服务器，或一个服务器群组，群组内的各个服务器通过有线的或无线的网络进行连接。一个服务器群组可以是集中式的，例如数据中心，也可以是分布式的。服务器13可以是本地的或远程的。

数据库14可以泛指具有存储功能的设备。数据库14主要用于存储用户终端11和服务器13在工作中所利用、产生和输出的各种数据。数据库14可以是本地的或远程的。数据库14可以包括各种存储器、例如随机存取存储器(Random Access Memory，RAM)、只读存储器(Read Only Memory，ROM)等。以上提及的存储设备只是列举了一些例子，该系统10可以使用的存储设备并不局限于此。

数据库14可以经由网络12与服务器13或其一部分相互连接或通信，或直接与服务器13相互连接或通信，或是上述两种方式的结合。

在一些示例中，数据库14可以是独立的设备。在另一些示例中，数据库14也可以集成在用户终端11和服务器13中的至少一个中。例如，数据库14可以设置在用户终端11上，也可以设置在服务器13上。又例如，数据库14也可以是分布式的，其一部分设置在用户终端11上，另一部分设置在服务器13上。

例如，在采用图片数据库存储地标图片和/或采用模型数据库存储地标模型的情形，图片数据库和/或模型数据库可以部署在数据库14上。当需要获取地标图片和/或地标模型时，用户终端11通过网络12访问数据库14，并通过网络12获取数据库14中存储的地标图片和/或地标模型。本公开的实施例对于数据库的类型不做限制，例如可以为关系型数据库或非关系型数据库等。

本公开至少一个实施例还提供一种基于地标的增强现实预览装置，该装置可以实现不同位置、不同视角的设计效果预览，使设计素材能够进行相应投影，从而提高预览效果，进而有助于提升设计效果，提高设计效率。

图7为本公开一些实施例提供的一种基于地标的增强现实预览装置的示意框图。如图7所示，该基于地标的增强现实预览装置100包括地标图片获取单元110、地标模型获取单元120、相机位姿矩阵计算单元130和投影单元140。例如，该基于地标的增强现实预览装置100可以应用于用户终端中，也可以应用于任意的需要实现设计素材的预览的设备或系统中，本公开的实施例对此不作限制。

地标图片获取单元110配置为获取多张地标图片。例如，多张地标图片为针对同一地标的不同观察角度的图片。例如，地标图片获取单元110可以执行如图1或图4所示的基于地标的增强现实预览方法的步骤S10。地标模型获取单元120配置为获取地标模型。例如，地标模型为地标在虚拟空间中的三维模型。例如，地标模型获取单元120可以执行如图1或图4所示的基于地标的增强现实预览方法的步骤S20。

相机位姿矩阵计算单元130配置为计算每张地标图片相对于地标模型的相机位姿矩阵，以得到多个相机位姿矩阵。例如，多张地标图片与多个相机位姿矩阵一一对应。例如，相机位姿矩阵计算单元130可以执行如图1或图4所示的基于地标的增强现实预览方法的步骤S30。投影单元140配置为将多张地标图片之一作为预览背景幕布，并基于与选择的地标图片对应的相机位姿矩阵将设计素材投影到预览背景幕布，以用于实现预览。例如，投影单元140可以执行如图1或图4所示的基于地标的增强现实预览方法的步骤S40。

例如，地标图片获取单元110、地标模型获取单元120、相机位姿矩阵计算单元130和投影单元140可以为硬件、软件、固件以及它们的任意可行的组合。例如，地标图片获取单元110、地标模型获取单元120、相机位姿矩阵计算单元130和投影单元140可以为专用或通用的电路、芯片或装置等，也可以为处理器和存储器的结合。关于地标图片获取单元110、地标模型获取单元120、相机位姿矩阵计算单元130和投影单元140的具体实现形式，本公开的实施例对此不作限制。

需要说明的是，本公开的实施例中，基于地标的增强现实预览装置100的各个单元与前述的基于地标的增强现实预览方法的各个步骤对应，关于该基于地标的增强现实预览装置100的具体功能可以参考上文中基于地标的增强现实预览方法的相关描述，此处不再赘述。图7所示的基于地标的增强现实预览装置100的组件和结构只是示例性的，而非限制性的，根据需要，该基于地标的增强现实预览装置100还可以包括其他组件和结构。例如，在一些示例中，基于地标的增强现实预览装置100还可以包括结合单元，该结合单元配置为利用三维建模及动画软件的脚本将设计素材与地标模型结合。也即是，该结合单元可以执行如图4所示的基于地标的增强现实预览方法的步骤S50。

图8为本公开一些实施例提供的一种电子设备的示意框图。如图8所示，电子设备200包括处理器210和存储器220。存储器220用于存储非暂时性计算机可读指令(例如一个或多个计算机程序模块)。处理器210用于运行非暂时性计算机可读指令，非暂时性计算机可读指令被处理器210运行时可以执行上文所述的基于地标的增强现实预览方法中的一个或多个步骤。存储器220和处理器210可以通过总线系统和/或其它形式的连接机构(未示出)互连。

例如，处理器210可以是中央处理单元(CPU)、数字信号处理器(DSP)或者具有数据处理能力和/或程序执行能力的其它形式的处理单元，例如现场可编程门阵列(FPGA)等；例如，中央处理单元(CPU)可以为X86或ARM架构等。处理器210可以为通用处理器或专用处理器，可以控制电子设备200中的其它组件以执行期望的功能。

例如，存储器220可以包括一个或多个计算机程序产品的任意组合，计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。非易失性存储器例如可以包括只读存储器(ROM)、硬盘、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、闪存等。在计算机可读存储介质上可以存储一个或多个计算机程序模块，处理器210可以运行一个或多个计算机程序模块，以实现电子设备200的各种功能。在计算机可读存储介质中还可以存储各种应用程序和各种数据以及应用程序使用和/或产生的各种数据等。

需要说明的是，本公开的实施例中，电子设备200的具体功能和技术效果可以参考上文中关于基于地标的增强现实预览方法的描述，此处不再赘述。

图9为本公开一些实施例提供的另一种电子设备的示意框图。该电子设备300例如适于用来实施本公开实施例提供的基于地标的增强现实预览方法。电子设备300可以是用户终端等。需要注意的是，图9示出的电子设备300仅仅是一个示例，其不会对本公开实施例的功能和使用范围带来任何限制。

如图9所示，电子设备300可以包括处理装置(例如中央处理器、图形处理器等)310，其可以根据存储在只读存储器(ROM)320中的程序或者从存储装置380加载到随机访问存储器(RAM)330中的程序而执行各种适当的动作和处理。在RAM 330中，还存储有电子设备300操作所需的各种程序和数据。处理装置310、ROM 320以及RAM 330通过总线340彼此相连。输入/输出(I/O)接口350也连接至总线340。

通常，以下装置可以连接至I/O接口350：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置360；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置370；包括例如磁带、硬盘等的存储装置380；以及通信装置390。通信装置390可以允许电子设备300与其他电子设备进行无线或有线通信以交换数据。虽然图9示出了具有各种装置的电子设备300，但应理解的是，并不要求实施或具备所有示出的装置，电子设备300可以替代地实施或具备更多或更少的装置。

例如，根据本公开的实施例，图1或图4所示的基于地标的增强现实预览方法可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包括用于执行上述基于地标的增强现实预览方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置390从网络上被下载和安装，或者从存储装置380安装，或者从ROM 320安装。在该计算机程序被处理装置310执行时，可以执行本公开实施例提供的基于地标的增强现实预览方法中限定的功能。

本公开至少一个实施例还提供一种存储介质，用于存储非暂时性计算机可读指令，当该非暂时性计算机可读指令由计算机执行时可以实现本公开任一实施例所述的基于地标的增强现实预览方法。利用该存储介质，可以实现不同位置、不同视角的设计效果预览，使设计素材能够进行相应投影，从而提高预览效果，进而有助于提升设计效果，提高设计效率。

图10为本公开一些实施例提供的一种存储介质的示意图。如图10所示，存储介质400用于存储非暂时性计算机可读指令410。例如，当非暂时性计算机可读指令410由计算机执行时可以执行根据上文所述的基于地标的增强现实预览方法中的一个或多个步骤。

例如，该存储介质400可以应用于上述电子设备200中。例如，存储介质400可以为图8所示的电子设备200中的存储器220。例如，关于存储介质400的相关说明可以参考图8所示的电子设备200中的存储器220的相应描述，此处不再赘述。

在上文中，结合图1至图10描述了本公开实施例提供的基于地标的增强现实预览方法、基于地标的增强现实预览装置、电子设备及存储介质。本公开实施例提供的基于地标的增强现实预览方法可以用于设计基于地标的增强现实特效，也即是，在设计增强现实特效的设计素材时实现预览，以便于用户观察设计素材与地标的结合效果。该基于地标的增强现实预览方法可以实现不同位置、不同视角的设计效果预览，使设计素材能够根据预览背景幕布的观察角度而进行相应的投影，从而可以提高预览效果，进而有助于提升设计效果，提高设计效率。

需要说明的是，本公开上述的存储介质(计算机可读介质)可以是计算机可读信号介质或者非暂时性计算机可读存储介质或者是上述两者的任意组合。非暂时性计算机可读存储介质例如可以是，但不限于，电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。非暂时性计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，非暂时性计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是非暂时性计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等，或者上述的任意合适的组合。

在一些实施方式中，客户端、服务器可以利用诸如超文本传输协议(Hyper TextTransfer Protocol，HTTP)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(LAN)，广域网(WAN)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取至少两个网际协议地址；向节点评价设备发送包括所述至少两个网际协议地址的节点评价请求，其中，所述节点评价设备从所述至少两个网际协议地址中，选取网际协议地址并返回；接收所述节点评价设备返回的网际协议地址；其中，所获取的网际协议地址指示内容分发网络中的边缘节点。

或者，上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：接收包括至少两个网际协议地址的节点评价请求；从所述至少两个网际协议地址中，选取网际协议地址；返回选取出的网际协议地址；其中，接收到的网际协议地址指示内容分发网络中的边缘节点。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言，诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络，例如局域网(LAN)或广域网(WAN)，连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这根据所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等。

在本公开中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

以上描述仅为本公开的部分实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (16)

1.一种基于地标的增强现实预览方法，包括：

获取多张地标图片，其中，所述多张地标图片为针对同一地标的不同观察角度的图片；

获取地标模型，其中，所述地标模型为所述地标在虚拟空间中的三维模型；

计算每张地标图片相对于所述地标模型的相机位姿矩阵，以得到多个相机位姿矩阵，其中，所述多张地标图片与所述多个相机位姿矩阵一一对应；

将所述多张地标图片之一作为预览背景幕布，并基于与选择的地标图片对应的相机位姿矩阵将设计素材投影到所述预览背景幕布，以用于实现预览。

2.根据权利要求1所述的方法，其中，所述多张地标图片在所述地标的地点拍摄得到或基于所述地标绘制得到。

3.根据权利要求1所述的方法，其中，所述多张地标图片的数量为8～12。

4.根据权利要求1所述的方法，其中，所述地标模型为利用三维建模及动画软件建立的模型。

5.根据权利要求4所述的方法，其中，所述三维建模及动画软件包括Maya软件。

6.根据权利要求1所述的方法，其中，计算每张地标图片相对于所述地标模型的相机位姿矩阵，以得到所述多个相机位姿矩阵，包括：

采用尺度不变特征变换算法计算每张地标图片相对于所述地标模型的相机位姿矩阵，以得到所述多个相机位姿矩阵。

7.根据权利要求6所述的方法，其中，采用所述尺度不变特征变换算法计算每张地标图片相对于所述地标模型的相机位姿矩阵，包括：

提取所述地标图片的特征点；

提取所述地标模型的特征点；

将所述地标图片的特征点与所述地标模型的特征点进行匹配，基于特征点相对位置关系得到所述相机位姿矩阵。

8.根据权利要求1所述的方法，其中，将所述多张地标图片之一作为所述预览背景幕布，并基于与选择的地标图片对应的相机位姿矩阵将所述设计素材投影到所述预览背景幕布，以用于实现预览，包括：

在所述多张地标图片中选择一张地标图片作为所述预览背景幕布；

基于选择的地标图片对应的相机位姿矩阵，利用三维建模及动画软件的脚本进行三维渲染，从而将所述设计素材投影到所述预览背景幕布，以用于实现预览。

9.根据权利要求8所述的方法，其中，采用如下投影公式进行所述三维渲染：

P'＝Pj*P0，

其中，Pj为所述相机位姿矩阵，P0为所述设计素材的像素点的三维坐标，P'为所述设计素材的像素点投影到所述预览背景幕布上的二维坐标。

10.根据权利要求8所述的方法，其中，在所述多张地标图片中选择一张地标图片作为所述预览背景幕布包括：

根据用户的指令或者根据预设规则，选择所述多张地标图片中的一张地标图片作为所述预览背景幕布。

11.根据权利要求8所述的方法，其中，所述三维建模及动画软件的脚本包括Maya脚本。

12.根据权利要求1-11任一所述的方法，还包括：

利用三维建模及动画软件的脚本将所述设计素材与所述地标模型结合。

13.根据权利要求1-11任一所述的方法，其中，所述方法用于设计基于所述地标的增强现实特效。

14.一种基于地标的增强现实预览装置，包括：

地标图片获取单元，配置为获取多张地标图片，其中，所述多张地标图片为针对同一地标的不同观察角度的图片；

地标模型获取单元，配置为获取地标模型，其中，所述地标模型为所述地标在虚拟空间中的三维模型；

相机位姿矩阵计算单元，配置为计算每张地标图片相对于所述地标模型的相机位姿矩阵，以得到多个相机位姿矩阵，其中，所述多张地标图片与所述多个相机位姿矩阵一一对应；

投影单元，配置为将所述多张地标图片之一作为预览背景幕布，并基于与选择的地标图片对应的相机位姿矩阵将设计素材投影到所述预览背景幕布，以用于实现预览。

15.一种电子设备，包括：

处理器；

存储器，包括一个或多个计算机程序模块；

其中，所述一个或多个计算机程序模块被存储在所述存储器中并被配置为由所述处理器执行，所述一个或多个计算机程序模块包括用于实现权利要求1-13任一所述的基于地标的增强现实预览方法的指令。

16.一种存储介质，用于存储非暂时性计算机可读指令，当所述非暂时性计算机可读指令由计算机执行时可以实现权利要求1-13任一所述的基于地标的增强现实预览方法。

Images