CN115935458A - 多种类型的建筑图像之间的属性信息的自动交换和使用 - Google Patents

多种类型的建筑图像之间的属性信息的自动交换和使用 Download PDF

Info

Publication number
CN115935458A
CN115935458A CN202210110682.6A CN202210110682A CN115935458A CN 115935458 A CN115935458 A CN 115935458A CN 202210110682 A CN202210110682 A CN 202210110682A CN 115935458 A CN115935458 A CN 115935458A
Authority
CN
China
Prior art keywords
image
images
pair
building
panoramic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210110682.6A
Other languages
English (en)
Inventor
纳吉·科斯拉万
江胜明
伊瓦伊洛·博亚吉耶夫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mftb Co ltd
Pushsabo I Co
Original Assignee
Zillow LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zillow LLC filed Critical Zillow LLC
Publication of CN115935458A publication Critical patent/CN115935458A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G06T5/73
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/10Geometric CAD
    • G06F30/13Architectural design, e.g. computer-aided architectural design [CAAD] related to design of buildings, bridges, landscapes, production plants or roads
    • G06T5/92
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details

Abstract

描述了用于使用计算装置执行自动操作以经由对图像的视觉数据的分析来生成限定区域的测绘信息的技术,包括通过使用在多种类型的成对图像或以其它方式分组的图像之间交换的属性信息来生成增强图像,以及用于以其它自动方式使用所生成的测绘信息,包括使用所生成的测绘信息用于自动导航和/或显示或以其它方式呈现所生成的测绘信息。在一些情况下,所定义的区域包括多室建筑物的内部,并且所生成的信息包括建筑物的至少一个或多个增强图像和/或局部楼层平面图和/或其它模型化表示,在一些情况下执行生成,而不具有关于从图像的采集位置到周围建筑物中的墙壁或其它物体的距离的测量深度信息。

Description

多种类型的建筑图像之间的属性信息的自动交换和使用
技术领域
以下本公开总体上涉及用于通过分析区域的图像的视觉数据来自动地生成用于限定区域的测绘信息的技术,诸如通过使用在多种类型的图像之间交换的属性信息,以及用于随后以一种或多种方式使用所生成的测绘信息,诸如使用来自建筑物内部的图像自动生成和使用建筑物的平面图和/或其它模型化表示。
背景技术
在各种领域和情况(诸如,建筑分析、地产清查、不动产购置和开发、改建和改造服务、总承包和其他情况)下,可能期望查看关于房屋、办公室或其他建筑物的内部的信息而不必亲自前往或进入建筑物,包括确定关于建筑物的实际竣工信息而不是在建造建筑物之前得到的设计信息。然而,可能难以有效地捕获、表示和使用这种建筑物内部信息,包括向位于远程位置处的用户显示在建筑物内部内捕获的视觉信息(例如,使得用户能够充分理解内部的布局和其他细节,包括以用户选择的方式控制显示)。另外,尽管建筑物的楼层平面图可以提供一些关于布局的信息和建筑物内部的其他细节,但是在某些情形下,这样使用楼层平面图具有一些缺点,包括楼层平面图可能难以建造和维护、难以精确地缩放和填充关于房间内部的信息、难以视觉化和以其他方式使用等。
发明内容
针对现有技术存在的上述技术问题,本申请一种系统,包括:一个或多个计算系统的一个或多个硬件处理器;以及具有存储指令的一个或多个存储器,所述存储指令在由所述一个或多个硬件处理器中的至少一个执行时使所述一个或多个计算系统以执行自动操作,所述自动操作至少包括:获取在与建筑物相关联的多个采集位置处拍摄的多种类型的多个图像,其中,对于所述建筑物的多个房间中的每个,所述多个采集位置包括所述房间中的至少一个采集位置;从所述多个图像中确定多个图像对,其中,每个图像对包括所述多种类型中的第一类型的第一图像和所述多种类型中的不同的第二类型的第二图像,并且其中,每个图像对中的所述第一图像和所述第二图像具有所述多个房间中的至少一个房间的重叠视觉覆盖;对于所述多个图像对中的每个图像对,通过修改所述图像对的所述第一图像以使用与所述图像对的所述第二图像相关联的数据来生成增强图像,包括选择与所述图像对的所述第二图像相关联的至少一种类型的属性,并且添加与所修改的第一图像相关联的用于所选择的至少一种类型的属性的数据;以及提供所述建筑物的至少一些生成的测绘信息以供显示,其中,所述至少一些生成的测绘信息至少部分地基于至少一个生成的增强图像。
本申请还提供了一种计算机实现的方法,包括:通过一个或多个计算系统获得在与建筑物相关联的多个采集位置处拍摄的多种类型的多个图像,其中,所述多个图像包括多个立体照片和多个全景图像,并且其中,对于所述建筑物的多个房间中的每个,所述多个采集位置包括所述房间中的至少一个采集位置;通过所述一个或多个计算系统从所述多个图像中确定多个图像对,其中,每个图像对包括所述多个立体照片中的一个和所述多个全景图像中的一个,所述多个立体照片中的一个和所述多个全景图像中的一个具有所述多个房间中的至少一个的重叠视觉覆盖;通过所述一个或多个计算系统并且对于所述多个图像对中的每个图像对,通过修改所述图像对的第一图像以使用与所述图像对的第二图像相关联的数据来生成增强图像,包括选择与所述图像对的所述第二图像相关联的至少一种类型的属性,并且将所选择的至少一种类型的属性的数据添加到所修改的第一图像;通过所述一个或多个计算系统并且使用至少一个生成的增强图像,至少部分地基于所述多个图像的视觉数据生成所述建筑物的测绘信息;以及通过所述一个或多个计算系统呈现所述建筑物的所生成的测绘信息中的至少一些。本申请还提供了一种具有存储内容的非暂时性计算机可读介质,所述存储内容使得一个或多个计算系统执行自动操作,所述自动操作至少包括:通过所述一个或多个计算系统获得在与建筑物相关联的多个采集位置处拍摄的多种类型的多个图像,其中,所述多种类型的多个图像包括多个立体照片和多个全景图像,并且其中,对于所述建筑物的多个房间中的每个,所述多个采集位置包括在所述房间中的至少一个采集位置;
通过所述一个或多个计算系统,并且对于多个图像对中的每个图像对,每个图像对包括所述多个立体照片中的一个和所述多个全景图像中的一个,所述多个立体照片中的一个和所述多个全景图像中的一个具有所述多个房间中的至少一个的重叠视觉覆盖,通过在所述图像对的所述一个立体照片和所述一个全景图像之间交换属性数据生成增强图像,通过:通过所述一个或多个计算系统,通过修改所述图像对中的所述一个立体照片以使用来自所述图像对中的所述一个全景图像的第一类型属性的数据,生成增强立体照片;以及通过所述一个或多个计算系统,通过修改所述图像对中的所述一个全景图像以使用来自所述图像对的所述一个立体照片的第二类型属性的数据,生成增强全景图像,其中,所述第一类型属性和所述第二类型属性是不同的;以及通过所述一个或多个计算系统,提供所述建筑物的至少一些生成的测绘信息以供显示,其中,所述至少一些生成的测绘信息至少部分地基于所生成的增强图像中的至少一些。
附图说明
图1A-图1B是描述在本公开的实施方式中使用的示例性建筑物内部环境和计算系统的图,包括自动地分析在建筑物中的采集位置处采集的多种类型的图像的视觉数据以确定在其间交换属性信息以生成增强图像的图像,以及进一步呈现或以其它方式使用增强图像作为建筑物的测绘信息的部分。
图2A-图2J示出了在建筑物的采集位置处采集多种类型的图像,分析图像的视觉数据以确定在其间交换属性信息以生成增强图像的图像的自动操作,以及随后以一种或多种自动方式生成和使用增强图像的示例。
图3是示出适于执行执行本公开中所描述的技术中的至少一些的系统的实施方式的计算系统的框图。
图4A-图4B示出了根据本公开的实施方式的图像属性交换和测绘信息生成管理器(IAEMIGM)系统例程的流程图的示例性实施方式。
图5示出了根据本公开的实施方式的图像属性交换例程的流程图的示例性实施方式。
图6示出了根据本公开的实施方式的用于建筑物信息查看器系统例程的流程图的示例性实施方式。
图7示出了根据本公开的实施方式的用于自动图像捕获(AIC)系统例程的流程图的示例性实施方式。
具体实施方式
本公开描述了用于使用计算装置来执行自动操作的技术,该自动操作涉及使用区域的图像来生成用于所限定的区域的测绘信息,包括通过使用在多种类型的图像之间交换的属性信息,以及用于随后以一种或多种其它自动方式来使用所生成的测绘信息。在至少一些实施方式中,所限定的区域包括多室建筑物(例如,房屋、办公室等)的内部,并且所生成的信息包括建筑物的至少局部楼层平面图和/或建筑物内部的其他模型化表示,诸如,从在建筑物内的各种采集位置处采集的多种类型的多个图像的自动分析以及可选地从与建筑物相关的采集的其他数据。在至少一些这样的实施方式中,在不具有或不使用关于从图像的采集位置到周围建筑物中的墙壁或其它物体的距离的测量的深度信息的情况下,还执行生成。在各种实施方式中,所生成的平面图和/或其他所生成的测绘相关信息可以以各种方式进一步使用,包括用于控制移动装置(例如,自主车辆)的导航,用于使用一种或多种视觉化类型在相应的GUI(图形用户界面)中的一个或多个客户端装置上显示等。下面包括关于这种测绘信息的自动生成、视觉化和使用的附加细节,并且在至少一些实施方式中,可以经由图像属性交换和测绘信息生成管理器(“IAEMIGM”)系统的自动操作来执行本文中描述的技术中的一些或全部,如下面进一步讨论的。
在至少一些实施方式和情形中,在与建筑物相关联的采集位置处采集的多种类型的图像可以包括立体照片图像(例如,立体格式的照片和具有有限视角的照片,诸如在不使用广角透镜的情况下采集并且具有小于或等于60°或90°的视角,或者使用广角透镜采集并且具有小于或等于135°的视角)以及全景图像(例如,具有较宽视角的图像,诸如大于或等于180°或360°,诸如通过使用一个或多个鱼眼透镜和/或其他透镜,并且可选地包括围绕垂直轴或其他轴的旋转,并且可选地以等矩形格式或其他非立体格式),并且不同类型的这种图像在不同情况下可以具有不同的相关益处。作为一个非排他性示例,为建筑物采集的立体照片可以具有相对于为建筑物采集的其他全景图像的一个或多种类型的优选信息,诸如具有更好的色度(或“颜色”)特性(例如,由于更好的透镜和/或照明,由于被专业摄影师捕获等),以具有更高的分辨率,从而包括感兴趣的特定区域的更多细节,以反映特别感兴趣和/或实用的建筑物的区域等。作为另一个非排他性示例,为建筑物采集的全景图像可以具有相对于为建筑物采集的其他立体照片的一个或多个其他类型的优选信息,诸如具有对周围房间或其他周围区域的更广泛的视觉覆盖(例如,如果全景图像具有围绕垂直轴的360°的视觉覆盖,则显示周围房间的所有墙壁、以及楼层和/或天花板的部分或全部),并且因此具有通过分析全景图像的视觉数据(例如,结构形状或其它结构元素细节,诸如用于墙壁、地板、天花板、窗户、门和其它墙壁开口等,包括这种结构信息相对于彼此和/或相对于采集全景图像的采集位置的位置)来确定的更好的关联结构信息。
在一些实施方式和情形中,在与建筑物相关联的采集位置处采集的多种类型的图像可以包括其他类型的图像,无论是附加的还是替代的具有立体照片和全景图像两者,具有非排他性的附加类型图像的示例包括以下的一个或多个:白天图像和夜间图像(例如,用于与建筑物相关联的一个或多个特定区域的多个这种类型的图像,诸如在白天和夜间捕获相同主题的视觉表示),并且图像是立体照片和/或全景图像;具有多种其它类型的照明的图像,诸如自然照明和人工照明,和/或在不同的一天时间和/或一年时间的自然照明(例如,用于与建筑物相关联的一个或多个特定区域的多个这种类型的图像,诸如在两个或更多个这种类型的照明期间捕获相同主题的视觉表示),并且该图像是立体照片和/或全景图像;在不同时间采集的图像(例如,针对与建筑物相关联的一个或多个特定区域的多个这种类型的图像,诸如,在多个不同时间中的每一个捕获相同主题的视觉表示),例如在事件(event)或事件(occurrence)之前和之后(例如,重塑、修复、事故或其它破坏性事件、构造等),并且图像是立体照片和/或全景图像;分别包括非视觉数据(例如,人类不可见的信息,诸如用于红外光、紫外光、无线电波和其它辐射、音频等)或视觉数据(例如,用于与建筑物相关联的一个或多个特定区域的多个这种类型的图像,诸如使用视觉数据和一种或多种类型的非视觉数据来捕获相同主题的表示)的不同类型的图像,并且该图像为立体照片和/或全景图像;等。
如上所述,所描述的技术可以包括在多种类型的图像之间交换一种或多种类型的属性信息。例如,给定多种类型的成对的关联图像(例如,立体照片和具有重叠视觉覆盖的全景图像),在该对图像之间交换属性信息的非排他性示例可以包括以下一个或多个:通过修改该对的全景图像以使用来自该对的立体照片的属性的一种或多种类型的数据(诸如,没有亮度数据的色度数据、色度数据和亮度数据、没有色度数据的亮度数据、光平衡数据、饱和度数据、锐度数据、样式数据等中的一个或多个)来生成增强图像(例如,增强全景图像);通过修改该对的立体照片以使用或关联来自该对的全景图像的一种或多种类型的属性的数据,诸如一种或多种类型的结构形状或其它结构元素,可选地彼此关联的相对位置信息(例如,使得增强图像具有在原始立体照片中不可见的结构元素的关联结构信息)等,来生成增强图像(例如,增强立体照片)。此外,可以以类似的方式在两个或更多个其它类型的两个或更多个图像之间交换其它类型的属性数据,不管是替代上述示例属性类型还是除了上述示例属性类型之外,诸如生成一个或多个增强图像,该增强图像包括来自该两个或更多个图像的视觉数据的组合和/或使用该两个或更多个图像的属性数据的组合,其中非排他性示例包括组合来自白天图像和夜间图像的信息(例如,以说明不同时间之间的变化或以其它方式提供相同区域的不同照明的比较)和/或组合来自具有不同照明的其他类型的图像的信息(例如,以说明不同照明之间的变化或以其它方式提供相同区域的不同照明的比较)和/或组合来自在不同时间捕获的图像的信息(例如,以说明不同时间之间的变化或以其它方式提供不同时间之间的比较)和/或组合来自具有捕获的视觉和非视觉数据或者具有不同类型的数据(例如,用于说明不同类型的数据之间的变化或者用于提供不同类型的数据之间的比较)的图像的信息等。
此外,在一些实施方式中,与第一类型的一个或多个图像相关联的数据可以进一步用于以附加方式生成第二类型的一个或多个增强图像,其中非排他性示例包括以下中的一个或多个:对于成对的立体照片和全景图像,使用具有较高分辨率的图像对中的图像的视觉数据和一个或多个相应的训练机器学习模型为该对中的另一个图像生成增强图像,该增强图像对于增强图像的视觉数据的一些或全部具有更高的表观分辨率;对于成对的立体照片和全景图像,组合该立体照片和全景图像的视觉数据以生成新的增强“融合”图像,新的增强“融合”图像具有来自两个图像的视觉数据和/或具有相对于立体照片和全景图像中的任一个的附加视觉数据;对于不同类型的一对图像,使用一对图像中的一个图像的噪声分布来基于另一个图像来增强所生成的增强图像的一个或多个部分;对于一对不同类型的图像,通过将来自另一图像的信息与增强图像的一个或多个部分(例如,作为增强图像中的关注点,例如在增强图像中采集另一图像的位置处,并且当增强图像被显示给用户时,可选地是用户可选择的,诸如,使得显示另一图像,或在用户选择时以其他方式向用户提供与另一图像相关的附加细节)相关联来基于一对图像中的一个图像生成增强图像;作为至少部分地基于不同类型的图像对生成建筑物的至少一些的部分或完整的平面图或其它模型化表示的一部分,将平面图或其它模型化表示内的一个或多个位置与图像对中的一个或两个相关联(例如,作为平面图或其它模型化表示的一个或多个感兴趣点,诸如在所述平面图或其它模型化表示中的一个或多个位置处,在一个或两个位置处采集一个或两个图像,以及当向用户显示平面图或其它模型化表示时,可选地是用户可选择的,以便使得显示相应的图像,或者当用户选择时向用户提供与图像相关的附加细节);关于在用于生成一个或多个初始增强图像的建筑物的多个采集位置处采集的多种类型的图像组,在稍后时间更新图像组以包括一个或多个附加图像(例如,在一个或多个附加采集位置,一个或多个附加类型等),并使用附加图像生成一个或多个附加的增强图像(例如,基于一个或多个新的图像对,每个图像对包括一个预先存在的图像和一个具有重叠视觉覆盖的附加图像;基于一个或多个新的图像对,每个图像对包括具有重叠视觉覆盖的两个附加图像等。),并且可选地基于附加图像更新建筑物的其它测绘信息;分析第一类型的多个图像(例如,具有较小视觉覆盖量的图像,例如立体照片),以训练一个或多个机器学习模型,以识别包括在那些立体照片中的视觉特征(例如,识别具有额外细节的建筑物的区域的特征,其对于进一步的自动处理和/或对于观看者,诸如房屋的厨房或浴室,是感兴趣的,并且任选地能够基于那些额外的细节确定对应于当前房屋或与重塑相关的评估;识别建筑物的区域的特征,否则提供有用的信息用于进一步的自动处理和/或提供给观察者,诸如提供与房间之间的交通流区域有关的信息,或者提供建筑物的结构或布局信息;识别建筑物的视觉上令观察者愉快的区域的特征,诸如提供建筑物的一个或多个介绍或概观图像;等),以及通过选择第二类型的一个或多个图像中的每一个的子集作为一个或多个增强图像并对应于具有所识别的视觉特性的第二类型的图像的部分,使用所训练的机器学习模型从第二类型的图像(例如,具有较大视觉覆盖量的图像,诸如全景图像)生成一个或多个增强图像;等。此外,在至少一些实施方式和情形中,与具有一对具有重叠视觉覆盖的两个图像不同,所描述的技术可以扩展到具有一组具有重叠视觉覆盖的三个或更多个图像(例如,全景图像和两个或更多个立体照片,诸如具有对应于全景图像的不同子集的视觉数据;一张或多张立体照片和两张或多张全景图像,诸如具有彼此重叠两张或多张全景图像的视觉数据,并且每个立体照片与全景图像中的至少一张的至少一部分重叠;等),以与针对一对图像所讨论的方式类似的方式在组的图像之间交换对应的属性信息(例如,组合组中的两个或更多个立体照片的色度属性数据,诸如经由加权或非加权平均,并使用组合的色度属性数据作为组中的全景图像的增强全景图像的一部分)。
此外,在至少一些实施方式和情况中,所描述的技术包括以特定方式将待被关联在一起的两种或更多种类型的图像匹配在一起。例如,对于包括立体照片和全景图像的一对相关图像,这些图像的匹配可以至少部分地基于识别这两个图像之间的重叠视觉覆盖。作为一个示例实施方式,如果一个或多个全景图像可用于建筑物,则可以首先分析非立体和/或非平面格式(例如,等矩形、球形等)的每个这样的全景图像,以生成多个子图像,每个子图像包括该全景图像的视觉数据的不同子集,并且是立体和/或平面格式(例如,生成对应于X、Y和Z轴的360°全景图像的六个子图像)。对于每个这样的全景子图像(并且可选地对于已经处于立体格式的每个全景),可以执行进一步的自动处理,以生成描述作为整体的该子图像(或立体格式全景图像)的视觉数据的一个或多个第一全局特征,并且生成描述该子图像(或立体格式全景图像)的视觉数据的各个部分的多个第一局部特征。可以使用生成这种全局和局部特征的各种技术,其中在Yafei Lv等人的“An End-to-End Local-Global-Fusion Feature Extraction Network for Remote Sensing Image SceneClassification(遥感图像场景分类的端到端局部全局融合特征提取网络)”,《遥感》2019,11(24):3006中讨论了一种示例性技术。自动处理可以类似地包括,如果一个或多个立体照片可用于建筑物,则生成将每个这种立体照片的视觉数据描述为整体的一个或多个第二全局特征,并且生成描述每个这种立体照片的视觉数据的各个部分的多个第二局部特征。对于每个这种立体照片,然后可以通过将立体照片的一个或多个第二全局特征与为全景图像和它们的子图像生成的第一全局特征进行比较来确定一个或多个候选全景图像的组,以便根据与那些全景图像和/或它们的子图像的匹配程度来对候选全景图像进行排序,以及可选地选择满足定义的阈值(例如,在定义的匹配级别之上的顶部1或5或10,等等)的候选全景图像的子集。如果选择了多个候选全景图像,则自动处理可以进一步将立体照片的多个第二局部特征与候选全景图像(以及它们的子图像)的多个第一局部特征进行比较,并且选择在第一和第二局部特征之间具有最高匹配程度的一个或多个候选全景图像。然后,该立体照片和那些选择的一个或多个全景图像可以在一对或其它组中匹配,用于进一步分析,包括关于在该对或其它组的图像之间交换属性数据。此外,在至少一些实施方式和情形中,以不同对匹配到相同全景图像的多个立体照片还可以被结合成更大的组。此外,虽然在至少一些实施方式和情形中,可以至少部分地基于具有重叠的视觉覆盖来选择一对或其它组的两个或更多个图像,但是在其它实施方式中,可以以其它方式来选择待被配对或以其它方式分组的两个或更多个这种图像,例如基于接近度(例如,在相同房间或其它区域中具有采集位置)和/或采集时间(例如,在相同的会话期间和/或在类似的一天中捕获)和/或一个或多个其它指示的标准。
以下包括与在多种类型的两个或更多个成对或以其它方式分组的图像之间交换属性数据,以及以各种方式使用相应的增强图像(包括关于IAEMIGM系统的实施方式的自动操作,以及关于图2A-图2J中的示例及其相关联的描述讨论的一些这种细节)有关的附加细节。
此外,在一些实施方式中,可以进一步捕获和使用建筑物的补充视觉数据,诸如一个或多个视频,尽管在其它实施方式中可以不使用这样的补充视觉数据。此外,在一些实施方式中,可以以各种方式获得和使用关于图像捕获的补充捕获元数据,诸如,当在捕获位置处捕获图像和/或当移动装置由用户携带或在捕获位置之间移动时,从IMU(惯性测量单元)传感器或移动装置的其它传感器获得的数据,尽管在其它实施方式中,可以不使用这种捕获元数据。作为一个非排他性示例,可以获得补充的位置相关数据并用作所描述的技术的一部分,例如用于确定图像的采集位置和/或捕获取向(例如,图像姿势),并将这种信息用作匹配图像对的一部分。这种位置相关数据可以例如基于直接提供位置数据的传感器(例如,GPS传感器)和/或基于组合多种类型的信息,例如通过组合所采集的视觉数据和IMU数据,包括通过以类似于ARkit和/或ARCore的方式使用视觉-惯性里程计技术,和/或使用同时定位和测绘(SLAM)、视觉SLAM(V-SLAM)、视觉-惯性SLAM(VI-SLAM)、来自运动的结构(SfM)等中的一个或多个。作为另一个非排他性的例子,可以获得补充的深度相关数据,并将其用作所描述的技术的一部分,以便帮助确定图像的姿势,并将这种信息用作匹配图像对的一部分,这种深度相关数据可以例如基于一种或多种类型的传感器和/或采集的数据,诸如使用一个或多个激光雷达、飞行时间、被动立体声、主动立体声、结构化照明等。在一些实施方式中,还可以收集和使用各种其它类型的补充信息,并且下面包括与图像的采集和使用以及可选地建筑物的其它相关信息有关的附加细节,在至少一些实施方式中,一些或所有相关活动是经由自动图像捕获(“AIC”)系统的自动操作来执行的,如下面进一步讨论的。
如上所述,在各种实施方式中,可以至少部分地基于为建筑物采集的多个图像(包括多种类型的多个图像)的视觉数据来生成建筑物的各种类型的测绘信息。例如,在为建筑物内部(以及可选地为建筑物外部)采集多个图像和可选地其他补充信息之后,生成建筑物的测绘信息(例如,至少局部楼层平面图、在确定的相对位置处的图像的链接组、增强图像等)可以包括自动地确定在公共局部坐标系或其他公共局部参考系中一些或所有图像的采集位置彼此之间的相对位置,以及可选地尝试在公共全球坐标系或其他公共全球参考系中预测或以其他方式确定所有采集位置彼此之间的相对全球位置。一旦确定了这种相对位置,就可以确定一些或所有采集位置对之间的方向和相对距离。关于这种相对距离,该确定例如可以包括识别第一和第二采集位置彼此相距两倍远的第三和第四采集位置,但是不知道这些采集位置之间的实际距离。类似地,关于这样的相对方向,确定例如可以包括识别第一采集位置在60°方向上在第二采集位置的右侧(例如,使用在第二采集位置处采集的图像的估计姿势的取向,或者采集位置和捕获取向两者作为开始方向),并且识别第三采集位置在45°方向上在第二采集位置的左侧,但是不知道那些采集位置中的任何一个的实际地理位置。在各种实施方式中,可以以各种方式来执行对一些或所有图像采集位置的相对位置的确定,包括分析来自图像的视觉数据,以便互连一些图像对和/或这些图像采集位置的相应对(例如,通过在两个不同图像中识别公共匹配特征以用于确定它们彼此之间的相对位置,诸如部分地基于估计的姿势信息来识别那些图像被捕获的位置和方向),以及如果可用,则可选地使用其它补充信息(例如,来自关于图像采集的元数据;来自其他视觉数据;来自关于建筑物的其它信息,诸如建筑物的概观图像或关于建筑物的其它信息,例如形状和/或尺寸;等)。
此外,如果在特定实施方式中执行,则生成建筑物的至少局部楼层平面图还可以包括:对于建筑物中的每个房间,并且使用其视觉数据包括该房间的内部的一些的一个或多个图像,在该房间的那些图像中可见的部分或完整的结构形状,以便对应于诸如一个或多个墙壁、地板、天花板、房间间通道(例如,门道和其它墙壁间开口)、窗户、壁炉、岛、台面等的结构元件,并且可选地对应于至少一些非结构元件(例如,器具、家具等)。生成还可以确定房间的多个结构形状之间的相对间距,诸如至少部分地基于那些图像的采集位置的确定的相对位置和从那些采集位置的那些结构形状的估计的相对距离和方向。在一些情况下,可以进一步执行多个房间的结构形状之间的相对间距的确定,诸如至少部分地基于房间之间的任何连接通道的位置和/或使用一个或多个图像,每个图像具有包括多间房间的部分的视觉数据。这种连接房间间通道可以包括门道、窗户、楼梯、非房间走廊等中的一个或多个,并且图像的视觉数据的自动分析可以至少部分地基于识别通道的轮廓、识别通道内不同于通道外部的内容(例如,不同颜色、遮光、光强度、高度等)等来识别这种特征。在一些实施方式中,生成建筑物的至少局部楼层平面图还可以包括应用一种或多种类型的约束,包括基于房间之间的连接通道(例如,以在通道连接的两个或更多个房间中协同定位或以其他方式匹配连接通道信息),以及可选的其他类型的约束(例如,建筑物外部的房间不应该被定位的位置、相邻房间的形状、建筑物和/或建筑物中的特定房间的总尺寸、建筑物的一些或全部的外部形状等)。在一些实施方式中,并且在建筑物具有多个楼层或者具有多个层的情况下,连接通道信息可以进一步用于关联不同的楼层或层的不同子层平面图上的对应部分。应当理解,如果捕获了足够的图像,以便总的来说具有建筑物的所有室内结构表面的视觉数据,则所生成的楼层平面图可以是完整的楼层平面图。在其它情况下,可以通过从一个或多个局部楼层平面图预测缺失的部分来生成预测的完整楼层平面图。此外,在至少一些实施方式中,图像的自动分析可以进一步通过使用机器学习(例如,经由相应的训练的机器学习模型)来识别一些或所有这样的信息和/或附加信息(例如,估计的房间类型),诸如通过识别对应于不同房间类型的特征或特性来估计房间类型,并且将相应的语义标签与这种房间相关联。在其他实施方式中,至少一些这样的信息可以以其它方式获得,诸如从一个或多个用户接收相应的信息(例如,基于房间中一个或多个图像的用户注释和/或特定房间或其它位置的其它描述,诸如识别墙壁、天花板和地板之间的边界;基于其他用户输入,诸如对自动确定的信息的调整;等)。在一些实施方式中,图像的视觉数据的自动分析可以进一步识别一个或多个图像中的附加信息,诸如物体(例如,已知尺寸的物体)的尺寸和/或房间的一些或全部的尺寸,以及图像的采集位置距其房间中的墙壁或其它特征的估计的实际距离。例如,一个或多个房间的估计尺寸信息可以与楼层平面图和/或增强图像相关联,被存储和可选地被显示。如果估计一个或多个房间的高度信息,则可以创建2D(二维)楼层平面图的一些或所有的3D(三维)模型,与楼层平面图相关联,被存储和可选地被显示,并且如果在足够的精确度内为所有房间生成尺寸信息,还可以生成建筑物的更详细的楼层平面图,诸如具有足够的细节以允许生成蓝图或其它建筑平面图。在各种实施方式中,各种确定的或以其它方式获得的信息还可以与增强图像、楼层平面图和/或其它生成的建筑物测绘信息相关联,并且这种增强图像、楼层平面图和/或其它生成的建筑物测绘信息(可选地包括相关联的信息)可以以各种方式显示或以其它方式呈现或以其它方式提供给用户和可选地其它接收者。以下包括关于确定建筑物的测绘信息,以及关于呈现或以其它方式使用这种确定的测绘信息的附加细节。
所描述的技术在各种实施方式中提供了各种益处,包括允许根据在建筑物或其它结构中采集的图像自动生成增强图像和/或楼层平面图和/或多房间建筑物和其它结构的其它模型化表示,包括在至少一些这样的实施方式中,不具有或不使用从深度传感器或其它距离测量装置测量的关于从图像采集位置到周围建筑物或其它结构中的墙壁或其它物体的距离的深度信息,并且对于要呈现和/或以其它方式使用的这种增强图像和/或楼层平面图和/或其它模型化表示。这种描述的技术可以进一步提供更完整和准确的房间形状信息和更多种类的环境条件(例如,在房间中的物体遮挡墙壁和/或地板和/或天花板的至少一些的单个图像的视图,但是其中来自多个图像的视图的组合消除或减少了该问题的情况下,等)。所描述的技术的另外的这种益处的非排他性示例包括以下:分析目标图像的视觉数据以检测封闭房间中感兴趣的物体(例如,结构墙壁元素,诸如窗户、门道和其它墙壁开口等)的能力,以及确定那些检测到的物体在封闭房间的确定的房间形状中的位置的能力;分析附加捕获的数据(例如,来自一个或多个IMU传感器的运动数据,来自一个或多个图像传感器的视觉数据等)以确定图像采集装置在多个房间中的行进路径,至少部分地基于该附加数据(并且可选地基于在一个或多个房间中采集的一个或多个目标图像的视觉数据)来识别墙壁开口(例如,门道、楼梯等)的能力,并且可选地进一步使用关于所识别的墙壁开口的这种信息来将所确定的多个房间的3D房间形状定位在一起;互连多个目标图像和/或其采集位置并且在一个或多个其他链接的采集位置处在一个或多个其他图像的一个或多个方向上显示至少一个目标图像与一个或多个视觉指示符的能力(例如,用户可选择的视觉指示符,其在被选择时导致显示图像的相应的另一个和/或该另一个图像的关联信息);等。此外,这种自动技术允许这样的楼层平面图和/或其它模型化表示比先前现有技术生成得快得多,并且在至少一些实施方式中,具有更高的精确度,至少部分地基于使用从实际建筑环境(而不是从关于建筑在理论上应该如何构造的平面图)采集的信息,以及使得能够捕获在建筑初始构造(例如,重塑和其它更新)之后发生的对结构元素的改变。这种所描述的技术还提供了允许移动装置(例如,半自主或全自主车辆)对建筑物进行改进的自动导航的益处,包括显著降低其所使用的计算能力和用于尝试学习建筑物布局的时间。此外,在一些实施方式中,所描述的技术可以用于提供改进的GUI,其中用户可以更准确和快速地获得关于建筑物内部和周围环境的信息(例如,用于导航该内部和/或周围环境),包括响应于搜索请求,作为向用户提供个性化信息的一部分,作为向用户提供关于建筑物的价值估计和/或其它信息的一部分,等。通过所描述的技术还提供了各种其它益处,在本文中的别处进一步描述一些益处。
为了说明的目的,下面描述一些实施方式,其中对于特定类型的结构,以及通过使用特定类型的装置,以特定方式获取、使用和/或呈现特定类型的信息。。然而,将理解,所描述的技术可以在其它实施方式中以其它方式使用,并且因此本发明不限于所提供的示例性细节。作为一个非排他性的示例,尽管特定类型的图像被采集并用于生成特定类型的数据结构(例如,增强图像、互连图像的图形和/或图像的采集位置、2D楼层平面图、2.5D或3D计算机模型、队列、高速缓存、数据库等),这些数据结构在一些实施方式中以特定方式进一步使用,但是应当理解,在其他实施方式中可以类似地生成并使用描述建筑物及其采集位置的其他类型的信息,包括用于与房屋分离的建筑物(或其它结构或布局),并且在其它实施方式中可以以其它方式使用图像和其它建筑物信息。作为另一个非排他性的例子,虽然房屋或其它建筑物的增强图像和/或楼层平面图可以以供显示以帮助观众导航建筑物,但是在其它实施方式中可以以其它方式使用所生成的测绘信息。作为另一个非排他性示例,虽然一些实施方式讨论了从一个或多种类型的图像采集装置(例如,移动计算装置和/或单独的相机装置)获得和使用数据,但是在其他实施方式中,所使用的一个或多个装置可以具有其他形式,诸如使用采集附加数据的一些或全部但不提供其自己的计算能力的移动装置(例如附加的“非计算”移动装置),多个单独的移动装置,每个单独的移动装置采集附加数据的一些(无论是移动计算装置和/或非计算移动装置),等。此外,术语“建筑物”在本文中是指任何部分或完全封闭的结构,通常但不一定包括一个或多个视觉地或以其它方式分隔该结构的内部空间的房间。这种建筑物的非限制性示例包括房屋、公寓建筑或其中的单独公寓、公寓、办公建筑物、商业建筑物或其它批发和零售结构(例如,购物商场、百货商场、仓库等)、与另一个主建筑物一起的地产上的补充结构(例如,在具有房子的地产上的分离的车库或棚)等。本文中所用的关于建筑物内部、采集位置或其它位置(除非上下文另外清楚地指示)的术语“采集”或“捕获”可以指任何媒体、传感器数据和/或与空间特性和/或视觉特性和/或建筑物内部或其子集的其它可感知特性相关的其它信息的记录、存储或录入,诸如通过记录装置或通过从记录装置接收信息的另一装置。如本文所使用的,术语“全景照片”或“全景图像”可以指基于、包括或可分成源自在不同方向上基本上相似的物理位置的多个离散分量图像并且描绘比离散分量图像中的任一个单独描绘的更大视野的视觉表示,包括来自物理位置的具有足够宽的视角以包括超出人凝视单个方向可感知到的角度(例如,大于120°或150°或180°等)的图像。如本文中所使用,术语采集位置的“序列”通常是指两个或更多个采集位置,每个采集位置以相应的顺序至少被访问一次,而无论在它们之间是否访问过其他非采集位置,以及无论对采集位置的访问是在单个连续时间段期间还是在多个不同时间发生、或者是由单个用户和/或装置还是由多个不同用户和/或装置进行。此外,出于示例性目的,在附图和文本中提供了各种细节,但这些细节并不旨在限制本发明的范围。例如,附图中的元件的尺寸和相对位置未必按比例绘制,一些细节被省略和/或更突出地提供(例如,经由尺寸和定位)以增强易读性和/或清晰度。此外,在附图中可以使用相同的附图标记来标识相同或类似的元件或动作。
图1A是在一些实施方式中可以参与所描述的技术的各种计算装置和系统的示例框图。特别地,在诸如由一个或多个移动图像采集计算装置185和/或一个或多个相机装置186捕获移动类型的图像之后,图像和它们的关联信息(例如,注释、元数据、互连链接信息等)可以与信息164一起存储在一个或多个服务器计算系统180上以供以后使用。这种信息164还可以被包括作为所捕获的建筑物内部信息165的一部分,所捕获的建筑物内部信息165随后被在一个或多个服务器计算系统180上执行的IAEMIGM(图像属性交换和测绘信息生成管理器)系统160(无论在其上存储信息164的相同或不同的服务器计算系统上)使用,以生成建筑物的对应的增强图像152(例如,至少部分地基于来自图像的图像属性数据150)和可选地其他建筑物测绘信息155(例如,链接的采集位置的子图、楼层平面图等)。图2J示出了这种平面图的一个示例,如下面进一步讨论的,并且与IAEMIGM系统的自动操作相关的附加细节被包括在本文中的其它地方,包括关于图4A-图4B和图5。捕获的建筑物内部信息165还可以包括从建筑物环境采集的其它类型的信息,诸如在建筑物内或附近捕获的附加的视觉数据和/或其它类型的数据,如本文中其他地方更详细讨论的。
在图1A所示的实施方式中,可以通过在图像采集和分析移动装置185上执行的AIC(自动图像采集)系统,诸如位于该装置的存储器和/或存储装置152上的应用162来执行对一些或所有图像的捕获。在其它实施方式中,可以不使用这种AIC系统来捕获图像的全部,而不管通过缺少一些或所有这种计算能力的移动图像采集计算装置和/或其它相机装置186。如果在装置185上使用的AIC系统的副本来帮助图像捕获,则移动装置的一个或多个硬件处理器132可以执行AIC系统,以使用移动装置的一个或多个成像系统135来采集各种图像143和可选地相关联的附加信息,这些图像随后通过一个或多个计算机网络170传送到服务器计算系统180上的存储装置164。类似地,如果相机装置186被用作图像捕获的一部分,则所得到的图像可以被存储在相机装置的存储器(未示出)中,并通过一个或多个计算机网络170传送到服务器计算系统180上的存储装置164,诸如,如果相机装置包括相应的传输能力(未示出)或者在图像被传送到包括这种传输能力的另一装置(未示出)之后,由相机装置直接传送。作为AIC系统的操作的一部分,可以进一步使用移动装置185的各种其它硬件组件,诸如显示系统142(例如,显示指令和/或组成图像信息)、装置I/O组件136(例如,从用户接收指令并向用户呈现信息)、包括IMU陀螺仪148a和IMU加速度计148b以及IMU指南针148c的传感器模块148,(例如,以采集传感器数据并将其与特定的对应组成图像的采集相关联)、一个或多个照明组件136等。类似地,在一些实施方式和情形中,相机装置186可以包括一些或所有这样的组件。图1B示出了用于特定房屋198的这种图像的采集的一个示例,并且图2A-图2C示出了这种图像的示例。
一个或多个客户端计算装置105的一个或多个用户(未示出)还可以可选地通过计算机网络170与IAEMIGM系统160交互,以便帮助创建或修改建筑物测绘信息和/或随后以一种或多种其它自动方式使用所生成的测绘信息。用户的这种交互可以包括例如提供用于生成建筑物测绘信息的指令、提供信息以包括所生成的建筑物测绘信息、获得特定的所生成的测绘信息和/或附加的关联信息,以及可选地与特定的所生成的测绘信息和/或附加的关联信息交互等。此外,一个或多个客户端计算装置175的一个或多个用户(未示出)还可以可选地通过计算机网络170与服务器计算系统180交互,以便检索和使用所生成的增强图像和/或其他所生成的建筑物测绘信息和/或单独图像和/或与这种所生成的建筑物测绘信息相关联的其他信息。这种用户的交互可以包括,例如,获得并可选地与一个或多个建筑物的所生成的测绘信息的一种或多种类型的视觉化交互,可选地作为在这种客户端计算装置上显示的GUI的一部分。此外,所生成的测绘信息(或其一部分)可以被链接到一个或多个其它类型的信息,或者以其它方式与一个或多个其它类型的信息相关联,包括用于多层或其它多层建筑物的平面图或其它所生成的测绘信息,以具有用于(例如,通过连接楼梯通道)互连的不同楼层或层的多个相关联的底层平面图或其它相关联的建筑物测绘信息的子组,对于要链接到建筑物的三维(“3D”)呈现或以其他方式与建筑物的三维(“3D”)呈现相关联的建筑物的二维(“2D”)楼层平面图,对于要链接到2D楼层平面图和/或3D模型和/或用于生成增强图像的一个或多个组成图像或以其他方式与2D楼层平面图和/或3D模型和/或一个或多个组成图像相关联的增强图像,等等。此外,虽然在图1A中未示出,但是在一些实施方式中,客户端计算装置175(或其它装置,未示出)可以以附加方式接收和使用关于所生成的测绘相关信息的信息,例如,控制或辅助那些装置(例如,由自主车辆或其它装置)的自动导航活动,是否代替或除了显示所标识的信息的视觉化。
此外,在图1A所示的计算环境中,网络170可以是一个或多个公众可访问的链接网络,可能由各种不同方(诸如因特网)操作。在其它实现中,网络170可以具有其它形式。例如,网络170可以被替换为专用网络,例如非特权用户完全或部分不可访问的公司或大学网络。在其它实现中,网络170可以包括专用网络和公共网络,其中专用网络的一个或多个可以访问和/或来自公共网络的一个或多个。此外,网络170可以在各种情况下包括各种类型的有线和/或无线网络。此外,客户端计算装置175和服务器计算系统180可以包括各种硬件组件和存储的信息,如下面参考图3更详细地讨论的。
图1B描绘了示例性建筑物内部环境的框图,在该环境中已经捕获了多种类型的图像并准备好使用(例如,生成并提供建筑物的相应的增强图像和可选的其他测绘信息,并且可选地还为建筑物的外部和相关联的建筑物(未示出,诸如车库、棚、附属住所单元等)),以及用于向用户呈现图像和/或相关联的信息。特别地,图1B包括具有内部的建筑物198,该内部至少部分地通过多种类型的多个图像来捕获,例如由一个或多个用户(未示出)通过建筑物内部将具有图像采集能力的一个或多个装置承载到多个采集位置210。在该示例中,第一用户可以使用移动计算装置185来在第一时间捕获一个或多个全景图像的第一组,第二用户可以使用相机装置186来在单独的第二时间捕获一个或多个立体照片的第二组,并且一个或多个第三用户(未示出)可以使用具有视觉数据采集能力的一个或多个其他装置(未示出)来在一个或多个单独的第三时间捕获一组或多组附加的视觉数据(例如,一个或多个视频、附加全景图像、附加立体照片图像等)的第三组。如本文别处所讨论的,可以使用第一组图像和可选的附加信息来初始地生成建筑物的测绘信息,并且可以随后被更新以结合在测绘信息的初始生成之后所捕获的一个或多个附加图像和可选的另外的附加信息。在一些实施方式中,AIC系统的实施方式(例如,在用户的移动装置185上执行的应用162)可以自动地执行或帮助捕获表示建筑物内部的数据。虽然移动装置185可以包括各种硬件组件,例如一个或多个摄像机或其它成像系统135,一个或多个传感器148(例如,陀螺仪148a、加速度计148b、指南针148c等,诸如移动装置的一个或多个IMU或惯性测量单元的一部分;高度计;光检测器;等)、GPS接收机、一个或多个硬件处理器132、存储器和/或存储装置152、显示器142、麦克风等,在至少一些实施方式中,移动装置可能不能访问或使用设备来测量建筑物中的物体相对于移动装置的位置的深度,使得可以部分地或全部地基于在不同图像中的匹配视觉元素和/或通过使用来自所列硬件组件中的其它硬件组件的信息,但不使用来自任何这种深度传感器的任何数据来确定不同图像与其采集位置之间的关系。类似地,相机装置186可能不能访问或使用设备来测量建筑物中的物体相对于移动装置的位置深度。在其它实施方式中,移动装置185和/或相机装置186可以可选地包括并使用一种或多种类型的传感器和/或相关组件来获得与正在捕获的图像周围的环境中的结构(例如,墙壁)和/或其它物体相关的深度数据,诸如对应于提供这种数据(可选地与移动装置185的其它组件结合)的移动装置185的一个或多个深度感测组件137(例如,使用包括激光雷达、结构光、飞行时间、被动立体声、主动立体声等的技术的一种或多种)。)在至少一些这样的实施方式中,这样的深度数据可以被IAEMIGM系统用作生成增强图像的一部分,如本文中别处更详细讨论的。此外,在一些实施方式中,移动装置185和/或相机装置186可以可选地包括并使用一种或多种类型的传感器和/或相关组件来获得所采集的图像及其周围环境的位置相关数据,例如使用传感器148和/或成像系统135(例如,使用ARkit和/或ARCore或类似技术)、使用其它位置相关组件(例如,GPS接收机(未示出))等。在至少一些这样的实施方式中,这种位置相关数据可以由IAEMIGM系统用作生成增强图像的一部分,如本文中别处更详细讨论的。此外,尽管提供方向指示器109用于观众的参考,但是在至少一些实施方式中,装置185和/或186和/或AIC系统可以不使用这种绝对方向信息,从而不考虑实际的地理位置或方向来确定在采集位置210处采集的图像之间的相对方向和距离。
在操作中,与装置185相关联的用户到达建筑物内部的第一房间内的第一采集位置210A(在该示例中,是从外部门190-1到最西方的房间(在该示例中,是起居室)的入口通道),并且捕获从该采集位置210A可见的建筑物内部的一部分的视图。在该示例中,所捕获的图像是360°全景图像,其包括起居室(以及到起居室东方的少量走廊)的所有或基本上所有的视觉覆盖187a。用户和/或移动装置的动作可以通过使用在移动装置上执行的一个或多个程序(例如,AIC应用162)来控制或促进,并且捕获可以包括描绘可以在那些方向上从采集位置可见的物体或其他元素(例如,结构细节)的视觉信息。在图1B的示例中,建筑物198中的这种物体或其它元件包括是墙壁的结构部分(或“壁元素”)的各种元件,诸如门道190和197以及它们的门(例如,具有摆动和/或滑动门)、窗196、墙壁间边界(例如,角落或边缘)195(包括建筑物198的西北角落中的角落195-1、在起居室的东北角落中的角落195-2、以及在起居室的西南角落中的角落195-3)。此外,在图1B的示例中的这种物体或其它元素可以进一步包括房间内的其它元素,诸如家具191-193(例如,躺椅191;椅子192;桌子193;等)、悬挂在墙壁的图片或绘画或电视或其它物体194(例如194-1和194-2)、灯具等。用户还可以可选地提供与采集位置(例如,采集位置210A的“入口”或“起居室”)相关联的文本或听觉标识符,而在其它实施方式中,IAEMIGM系统可以稍后自动生成这样的标识符(例如,通过自动分析建筑物的视觉数据和/或其它记录的信息,以执行相应的自动确定,诸如通过使用机器学习),或者可以不使用标识符。
在第一采集位置210A的图像已经被捕获之后,用户可以前进到另一采集位置(诸如采集位置210D),可选地在采集位置之间的行进期间捕获运动数据,诸如来自硬件组件(例如,来自一个或多个IMU,来自照相机等)的视觉数据和/或其它数据。在下一个采集位置,用户可以类似地使用移动装置从该采集位置捕获一个或多个图像。该过程可以对建筑物的一些或所有房间重复,并且可选地在建筑物外部重复,如针对其它采集位置210B-210K所示。此外,在该示例中,用户(无论相同或不同)使用相机装置186在一个或多个采集位置一次或多次(无论与计算装置185的捕获相同或不同)捕获一个或多个立体照片图像,包括在该示例中的采集位置210C,以及可选地其它采集位置210B和210E-210K中的一个或多个。在该示例中,所得到的立体照片的视角是起居室的西北部分,如视线187c所示。在该示例中,来自采集位置210A和210C的这些示例图像具有重叠区域216ac,其稍后可以被IAEMIGM系统用于将这些图像和/或它们的采集位置(为了说明,在它们之间的对应线215-AC被示出)互连在一起,以便确定这两个采集位置之间的相对位置信息。如关于图2F和本文中别处更详细讨论的,和/或将这些图像组合在一起以用于生成一个或多个相应的增强图像,如关于图2D-2H更详细讨论的。IAEMIGM系统的这种自动操作可以进一步生成和存储其它采集位置对和/或其所捕获的图像的相应的互连,和/或生成和存储相应的增强图像,包括在一些实施方式和情况下进一步连接其图像不具有重叠的视觉覆盖和/或彼此不可见的至少一些采集位置(例如,在采集位置210E和210K之间的连接(未示出))。
关于图1A-图1B提供了各种细节,但是应当理解,所提供的细节是出于说明的目的而包括的非排他性示例,并且可以以其它方式执行其它实施方式,而没有一些或全部这样的细节。
图2A-图2J示出了使用由一个或多个装置在一个或多个时间从一个或多个采集位置采集的多种类型的图像自动生成建筑物的测绘信息(包括生成相应的增强图像,诸如图1B中讨论的建筑物198)的示例,以及随后以一种或多种自动方式使用所生成的测绘信息。
具体地,图2A示出了从图1B的房屋198的起居室中的采集位置210B沿西南方向拍摄的示例性立体照片图像250a,在该示例中进一步显示了方向指示器109a,以示出拍摄图像的西南方向。在该示例中,窗户196-2的一部分是可见的,如躺椅191和视觉水平和垂直房间边界(包括起居室的南墙壁的可见部分与起居室的天花板和地板之间的水平边界,起居室的西墙壁的可见部分与起居室的天花板和地板之间的水平边界,以及南墙壁和西墙壁之间的墙壁间垂直边界195-3)。该示例图像250a还示出了起居室的房间间通道,在该示例中,该房间间通道是进入和离开起居室的门190-1(图1B标识为到房屋的西外部的门)。
图2B继续图2A的示例,并且示出了在图1B的房屋198的起居室中沿西北方向拍摄的附加立体照片图像250b,诸如从采集位置210C开始,进一步显示方向指示器109b以示出拍摄图像的西北方向。在所示示例中,所显示的图像包括内置元素(例如,灯具130b)、窗户196-1和196-2的部分以及悬挂在起居室的北墙壁上的图片194-1。在该图像中没有进入或离开起居室的房间间通道(例如,门或其它墙壁开口)是可见的。然而,多个房间边界在图像250a中以类似于图2A的方式可见,包括在北墙壁和西墙壁之间的墙壁间垂直边界195-1。
图2C继续图2A-图2B的示例,并且示出了具有诸如来自采集位置210A的起居室的360°视觉覆盖的全景图像250c,并且具有以等矩形格式示出的视觉数据,在等矩形格式中,起居室中的水平直线(例如,墙壁和地板或天花板之间的边界)被示出为随着它们与图像的垂直中心的距离增加而具有增加曲率。并且其中示出了起居室(例如,墙壁间边界)中的垂直直线而没有这样的曲率。在该示例中没有显示方向指示器,因为该全景图像的视觉覆盖包括所有水平方向。在所示的示例中,图像示出了与立体照片250a和250b中相同的视觉元素,以及在那些立体照片中未示出的附加视觉数据(例如,所有的窗户196-2和196-1、窗户196-3、走廊的一部分(包括门190-3的一部分)以及在起居室的东侧上的相应的墙壁开口、桌子193、椅子192-1、吸顶灯130a、墙壁间边界195-2等)。应当理解,在其它实施方式中可以存在各种其它类型的结构和/或元素。
图2D继续图2A-图2C的示例,并且示出了与用于至少部分地基于这两个图像的重叠视觉覆盖来确定将立体照片图像250b与全景图像250c相匹配的初始步骤相对应的信息230d。具体地,在该示例中,使用全景图像250c来生成多个子图像255a-255c,子图像255a-255c对应于全景图像的不同子集并且被转换为立体平面格式,例如对应于来自全景图像的采集位置的向上垂直方向(例如,正Z方向)的立体照片255c,以及对应于来自全景图像的采集位置(在该示例中,在向北和向南的方向)的不同水平方向(例如,X或Y方向)的立体照片255a和255c。尽管在该示例中未示出,但是可以类似地生成附加的这种子图像,诸如在向下的垂直方向上的附加立体照片,以及在其它水平方向(例如,在向东和向西的方向)上的附加立体照片。可以理解,这样的子图像立体照片仅示出了全景图像250c的视觉数据的子集。
图2E和图2F继续图2A-图2D的示例,图2E示出信息230e,以提供将立体照片250b与全景图像250c的子图像立体照片255a的子集相匹配的视觉示例,如叠加在立体照片255a上的轮廓220所示。图2F示出了关于识别立体照片250b和子图像立体照片255a之间的匹配视觉特征的附加信息230f。特别地,图2F示出了在两个图像的视觉数据中(例如,在图1B中所示的216ac的重叠区域中)可见的匹配特征的各种类型,包括示出来自采集位置210A的视线211a和来自采集位置210C的视线211c,以从那些采集位置确定那些特征的相对位置(例如,使用从每个采集位置到匹配特征的确定的视角取向,以便确定采集位置210A和210C之间的相对旋转和平移,假定两个图像的视觉数据中有足够的重叠。)。在图2F的示例中,匹配特征可以包括图2F中所示的元素229a、229b、229c和229d,诸如特征229a的窗户196-1的西边缘或角落、特征229b的图片194-1的一些或全部、特征229c的房间的中心的一个或多个点(例如,地板上的一个或多个点是可见的并且与地板上的其它点是可区分的)、以及与墙壁间边界195-1相对应的特征229d的一个或多个点。应当理解,在两个图像中可以看见许多其它特征,包括在结构元素(诸如墙壁、地板、天花板、窗户、角落、边界等)上的点和在非结构元素(诸如家具)上的点。一些特征可以仅从一个采集位置可见,诸如对于东北角落195-2,并且因此可以不用于比较和分析来自这两个采集位置的图像的视觉数据(尽管它可以用于从在采集位置210A捕获的图像生成结构形状)。
在分析来自采集位置210A和210C的图像之间的起居室中的多个这种特征之后,可以确定关于采集位置210A和210C在房间中的位置的各种信息。注意,在该示例中,采集位置210C在起居室和走廊之间的边界附近,并且包括起居室的视觉覆盖(并且使得与该采集位置不同的方向可以包括来自多个房间的视觉数据,并且因此可以提供关于这些房间中的一个或两个的信息并且与这些房间中的一个或两个相关联)。类似地,从采集位置210A采集的全景图像可以包括来自起居室和走廊的一部分的视觉数据。尽管在该示例中走廊可以被建模为单独的房间,但是在其他实施方式中,这种走廊可以被替代地作为连接到走廊的一个或多个房间的一部分来处理,或者走廊可以被替代地作为房间之间的连接通道来处理,而不是作为单独的房间来处理。类似地,小区域诸如壁橱和/或壁龛/角落可以不被分析为单独的房间,而是作为较大容纳房间的一部分来处理(可选地作为房间内的未测绘空间),尽管在其它实施方式中,可以替代地单独表示这样的小区域(包括可选地具有位于其中的一个或多个采集位置)。虽然仅针对起居室和两个采集位置进行了说明,但是应当理解,可以针对每个采集位置以及针对建筑物中的房间的一些或全部进行类似的分析,包括可选地形成包括立体照片250a的更大的图像组(例如,至少部分地基于立体照片250a和从全景图像250c生成的子图像255b之间的匹配视觉特征)。此外,图像中信息的分析可以进一步用于确定房间中一个或多个这样的采集位置的附加位置信息,从而进一步确定从采集位置到一个或多个附近墙壁或房间的其它结构特征的距离的特定尺寸。在一些实施方式中,可以通过使用已知物体(例如,门框、门把手、灯泡等)的尺寸以及外推到其它特征的相应尺寸和位置之间的距离来确定这种尺寸确定的信息。以这种方式,这种分析可以提供房间中每个采集位置的位置、房间的连接通道位置的位置、以及可选地使用从一个或多个图像确定的结构信息来估计部分或完整的房间形状,该一个或多个图像的视觉数据包括该房间的至少一部分。
在一些实施方式中,可以使用机器学习来进一步执行采集位置和/或估计的全部或部分房间形状的房间内的位置的自动确定,诸如经由深度卷积神经网络,其从一个或多个图像估计房间的2D或3D布局(例如,矩形或“框”形状;非矩形形状;等)。这种确定可以包括分析图像以对准图像的视觉数据,使得地板是水平的并且墙壁是垂直的(例如,通过分析图像中的消失点),并且识别和预测角落和边界,其中所得到的信息适合2D和/或3D形式(例如,使用布局参数,诸如用于图像信息所适合的地板、天花板和墙壁的轮廓)。此外,在一些实施方式中,人类可以根据图像来提供房间的估计房间形状的手动指示,该手动指示可以用于生成相应的楼层平面图,以及随后用于训练模型,用于从他们的图像在相应的后续自动生成其它房间的房间形状中使用。在一些实施方式中,可以采用某些假设来自动分析至少一些房间的图像,诸如以下中的一个或多个:房间形状应该主要是矩形/长方体;如果房间形状主要不是矩形/长方体,则应该在房间内使用多个采集位置;房间应该至少是最小数量的可见角落和/或墙壁(例如3、4等);房间应具有水平地板和垂直于地板的墙壁;墙壁应该是平的而不是弯曲的;从位于地板上方的指定水平(例如,5英尺、地板和天花板之间的大致中间位置等)处的照相机采集图像;在距一个或多个墙壁的指定距离(例如,4英尺、5英尺、6英尺、7英尺、8英尺、9英尺、10英尺等)处从照相机采集图像;等。此外,如果多个房间形状估计可用于房间(例如,来自房间内的多个采集位置),则可以选择一个用于进一步使用(例如,基于房间内的采集位置的位置,诸如最中央的位置),或者替代地,可以可选地以加权方式组合多个形状估计。在至少一些实施方式中,通过使用一种或多种技术,诸如SfM(来自运动的结构)、视觉SLAM(同时定位和测绘)、传感器融合等(如果相应的数据可用),可以进一步执行对房间形状的这种自动估计。
图2G和图2H继续图2A-图2F的示例,并且示出了关于在所测绘的立体照片250b和全景图像250c的对之间的可能类型的属性数据交换的示例信息230g。在该示例中,示出了全景图像250c的子图像255a而不是整个全景图像250c,但是可以在整个全景图像250c而不是所示的子图像255a之间进行属性信息的交换。在该示例中,识别与立体照片250b相关联的各种色度(或颜色)属性数据,并且可以生成的增强图像的一个示例包括增强全景图像(未示出),其中修改原始全景图像250c以使用这样的色度属性数据(例如,仅针对全景图像250c的部分220,针对对应于子图像255a的全景图像250c的部分的所有,针对全景图像250c的所有等)。图2H示出了附加信息230h,以示出通过使用具有重叠视觉覆盖的立体照片的颜色数据来生成不同的增强全景图像的示例。
此外,图2G的各种结构信息255g可以以在别处更详细讨论的方式从全景图像250c中确定,包括在该示例中生成起居室的2D房间形状239a,该起居室包括墙壁以及诸如门、窗户和墙壁间开口的附加结构元素的相对位置信息。所示出的信息255g还示出了可以类似地使用具有那些房间的视觉覆盖的附加图像来为其他房间确定其他结构信息,诸如,与起居室的东南墙壁相邻的第一卧室的2D结构形状242b、与起居室的东北墙壁相邻的另一卧室的2D结构形状242a,以及对应于走廊的2D结构形状238b,其中各种结构形状可选地相对于彼此定位。尽管在这里未示出,但是在一些实施方式和情形中,这种结构形状可以进一步以3D方式来表示。给定与全景图像250c相关联的这种结构信息239a,可以从该对测绘图像生成的增强图像的另一个实例包括增强立体照片(未示出),其中原始立体照片250b被修改为具有结构信息239a的一些或全部的相关联的结构信息数据。在该实例中,与立体照片250b的视觉数据相对应的结构信息239a的子集239b被确定并且与增强立体照片相关联,尽管在其它实施方式中,结构信息239a的所有可以替代与增强立体照片相关联。
此外,可以至少部分地基于立体照片250b,可选地与其它立体照片的立体照片250b相结合,来确定其它信息,以便学习房屋198的特别感兴趣的区域的特征。因此,作为可以从这对测绘图像生成的一个或多个增强图像的另一个实例,这种学习的特征数据可以用于分析全景图像250c并选择与学习的特征相匹配的全景图像的一个或多个子集,其中那些选择的子集用于生成一个或多个增强图像(未示出,并且不管是作为增强立体照片还是增强全景图像而生成),每个增强图像包括那些所选择的子集中的一个的视觉数据。如本文中别处更详细讨论的,在其它实施方式中,可以以其它方式生成多种其它类型的增强图像。
在一些非排他的示例性实施方式中,关于图2D-图2H讨论的处理类型可以进一步包括特定的处理步骤,如下所述。
该示例中的第一步骤包括将每个立体照片与多个全景图像中的一个进行匹配,每个全景图像以等矩形格式具有360°的视觉覆盖,从而找到视觉上最相似的全景图像(包括找到全景图像与立体照片最相似的区域)。在该示例中,该匹配包括等矩形到立体变换、局部和全局特征提取以及检索和配对。首先,将每个这种全景图像分成6个非重叠立体“裁切”(或子图像),以提供用于特征提取和检索的有用数据,以及便于找到与给定全景图像最相似的裁切。接下来,从每个全景图像裁切以及从每个立体照片中提取深度特征,对于全局特征(具有描述整个相应的裁切子图像或立体照片的单个特征向量)和局部特征(对应于相应的裁切子图像或立体照片的子集,并且具有所提取的描述符以及它们在相应的裁切子图像或立体照片中的相应2D位置),全局特征有助于有效地缩小最相似的全景图像的候选者,局部特征用于从候选者中选择最相似全景图像,包括进行该全景图像和立体照片的几何验证。该示例中的下一步骤包括使用全局特征和局部特征将每个立体照片与其最相似的全景图像配对。特别地,对于每个立体照片,它的全局特征被用于找到与给定的立体照片最相似的全景图像。然后,局部特征被用于几何地验证例如前10个检索的全景图像,并基于匹配程度(即,视觉相似程度)对它们进行重新排序。然后,基于几何验证步骤中的内点(inlier)的数目,将每个立体照片的“最佳”全景图像裁切(即,具有局部特征匹配的最高等级的裁切子图像)与立体照片相关联。
为了在一对的两个图像之间执行色度属性数据和/或其它光度属性数据(例如,色彩轮廓、曝光等)的传递交换,修改该对的图像的一个(例如,全景图像)以使用来自该对的另一个图像(例如,立体照片)的这种光度属性数据。在各种实施方式中,可以以各种方式执行这种光度属性数据交换,在一些实施方式中,使用Reinhard等人描述的算法,“ColorTransfer between Images(图像之间的颜色迁移)”IEEE Computer Graphics andApplications(《IEEE计算机图形和应用》),2001,以及可选地修改该算法或类似算法以允许亮度通道中的迁移量可定制(例如,设置为零,以便仅迁移色度或ab值)。对于从立体照片的颜色轮廓迁移以增强全景性,通常专业地捕获和编辑立体照片以使其具有视觉美感,其中这种色度/颜色轮廓属性数据交换用于生成具有较高质量的视觉数据(以及相应地较高质量得到的所生成的测绘信息)的增强全景图像。
为了在一对的两个图像之间执行结构属性数据(例如,结构形状、结构元素的位置、多个结构片的相对布局等)的迁移交换,修改该对的图像中的一个(例如,立体照片)以使用来自该对的另一个图像(例如,全景图像)的这种结构属性数据。在一些实施方式中,这样做涉及匹配两个图像之间的坐标数据,以便以全景图像所使用的局部坐标系中的结构属性数据开始,以单独的全局坐标系(或由立体照片所使用的不同局部坐标系)开始,以指示或用于确定全景图像在全局坐标系(或立体照片的不同局部坐标系)中的位置的信息开始,以及可选地具有用于指示或用于确定立体照片在全球坐标系中的位置的信息开始。如果立体照片的这种位置也是可用的,则它可以用于将来自全景图像的结构数据定位到立体照片所使用的坐标系中。该方法包括以下步骤:
-针对相应的全景图像生成或以其它方式获得结构数据的每一组,其中该全景图像的中心被表示为该特定房间形状的局部坐标系的中心。
-将房间形状从全景图像的局部坐标系转换到全局坐标系,然后转换回立体照片的局部坐标系(或者在其它实施方式中直接转换到立体照片的局部坐标系)。如果不提供立体照片的位置,则可以使用诸如SfM的算法或任何其它姿势估计方法来估计,以相对于全景定位立体照片,然后基于该位置定位立体照片的全景图像的结构数据。
为了使用一对的两个图像来执行与感兴趣的房屋或其它建筑物的特性对应的属性数据的转移交换,根据所识别的特性至少部分地基于该对的另一图像(例如,立体照片)来修改该对的图像中的一个(例如,全景图像)。例如,通常捕获立体照片以反映特定房间和/或特定建筑物的“最佳”或其它优选的视点和/或角度,并且相应的特征可以从立体照片中识别并且用于选择一个或多个全景图像的相应子集,以便学习为特定房间和/或特定建筑物创建具有相应的“最佳”或其它优选的视点和/或角度的全景图像的裁切子图像。在一些实施方式中,对于对应于多个其他建筑物的立体照片和全景图像的组,匹配一个或多个立体照片的全景图像的一个或多个子集部分被用作用于训练对应的机器学习模型的正采样,并且匹配的全景图像的其他区域被用作用于这种训练的负采样。给定正采样和负采样,可以训练机器学习模型以自动选择其它全景图像内的相应子集视图,并基于这些视图的裁切子图像来创建相应的增强图像。此外,可以使用来自生成广告网络(GAN)和/或类似技术的添加来将所选择的全景图像视图的样式与立体照片视图(例如,与该全景图像相匹配的对中的立体照片的样式)相匹配,以增强得到的生成的增强图像的质量。在一些情况下,这种技术可以使得能够仅基于那些建筑物的一组全景图像为一些建筑物生成相同类型的测绘信息,而不需要那些建筑物的任何立体照片。
图2I还示出了信息290i,以示出用于执行所描述的技术中的一些或全部的示例性架构和信息处理流程。在该示例中,一个或多个计算装置188执行图1A的IAEMIGM系统160的实施方式,并且可选地执行图1A的AIC系统162(和/或图3的AIC系统368)的实施方式,以便对应于图1A的计算装置180和可选地185。图2I的IAEMIGM系统160的实施方式操作以接收一个或多个相关建筑物的多种类型的图像283,执行图像的视觉数据的各种处理284,生成不同类型的相关图像对286,在图像对之间交换属性数据287以生成增强图像,可选地使用增强图像288以生成改进的测绘信息,以及显示或以其它方式提供用于建筑物的增强图像和/或其它得到的生成的测绘信息。在步骤283中接收的图像可以来自例如图像存储位置295(例如,数据库)和/或来自AIC系统的执行。如果AIC系统提供图像的一些或全部,则它可以通过使用一个或多个成像系统135捕获和接收图像281,并且可选地从IMU传感器模块148接收附加信息,并且可选地执行处理282以选择要使用的图像的子集(例如,基于那些图像的属性,诸如用于进一步分析的那些图像的视觉数据中的足够细节的清晰度或其它指示)和/或以一种或多种方式修改图像(例如,改变图像的格式,裁切或调整大小或以其它方式修改图像等)。作为处理图像的视觉数据的步骤284的一部分,IAEMIGM系统160可以执行自动操作以估计图像的姿势285a并确定在图像的视觉数据中可见的特征285b,诸如以本文中别处更详细讨论的方式。处理284还可以包括与确定与特定图像相关联的属性信息有关的一个或多个附加步骤,以便从图像的视觉数据确定结构信息285c,从图像的视觉数据确定颜色信息285d,和/或识别图像中的感兴趣区域285e并学习这些区域的相应特性,诸如以本文中别处更详细讨论的方式。处理284还可以可选地执行附加的活动,以便根据视觉数据和/或与图像相关联的其他信息来确定属性信息285f的一个或多个其他类型。然后,可以以各种方式来确定不同类型的相关图像对,诸如至少部分地基于这些图像的重叠视觉覆盖和/或使用其它标准,使用来自处理285a和/或285b中的一个或多个的信息,并且诸如以本文中别处更详细讨论的方式。类似地,可使用来自处理285c和/或285d和/或285e和/或285f中的一者或一者以上的信息,且诸如以本文中别处更详细论述的方式,在一对图像之间交换属性数据的一种或多种类型以生成一个或多个增强图像。在所示实施方式中,一个或多个计算装置188还可以通过一个或多个计算机网络170与一个或多个其它系统交互,包括一个或多个远程存储系统180,IAEMIGM系统生成的信息可以存储在所述远程存储系统180上以供以后使用。
图2J继续图2A-图2H的示例,并且示出了房屋198的2D楼层平面图的一个示例235j,诸如可以在GUI中呈现给终端用户,其中起居室是房屋的最西方的房间(如方向指示器209所反映的)。将理解,在一些实施方式中,可以类似地生成和显示具有壁高度信息的3D或2.5D计算机模型,不管是添加还是替代这种2D楼层平面图。在该示例中,在2D楼层平面图235j上示出了各种类型的信息。例如,这种类型的信息可以包括以下中的一个或多个:添加到一些或所有房间(例如,用于起居室的“起居室”)的房间标签;为部分或全部房间增加的房间尺寸;为一些或所有房间添加的固定装置或器具或其它内置特征的视觉指示;为附加类型的关联和链接的信息的位置的一些或所有房间添加的视觉指示(例如,终端用户可选择的用于进一步显示的全景图像和/或立体照片和/或视频和/或其它视觉数据,终端用户可选择的用于进一步呈现的音频注释和/或声音记录等);为门和窗户的一些或全部房间添加的视觉指示;内置特征(例如,厨房岛)的视觉指示;安装的固定装置和/或器具(例如,厨房器具、浴室物品等)的视觉指示;外观和其它表面信息的视觉指示(例如,安装的物品,诸如地板覆盖物或墙壁覆盖物或表面覆盖物,的颜色和/或材料类型和/或纹理);来自特定窗户或其它建筑物位置的视图的视觉指示和/或建筑物外部的其它信息的视觉指示(例如,外部空间的类型;存在于外部空间中的物品;其他相关的建筑物或结构,诸如棚、车库、水池、平台、庭院、走道、花园等);识别用于一种或多种类型的信息的视觉指示符的关键字或文字说明269;等。当作为GUI的一部分显示时,一些或所有这种示出的信息可以是用户可选择的控件(或与这种控件相关联),其允许终端用户选择和显示相关联的信息的一些或所有(例如,选择用于采集位置210A的360°全景图像指示符或用于采集位置210B或210C的立体照片指示符,以查看相应的全景图像或立体照片中的一些或所有(例如,以类似于图2A-图2C的方式))。此外,在该示例中,添加用户可选择的控件228以指示为楼层平面图显示的当前楼层,并允许终端用户选择待显示的不同楼层。在一些实施方式中,楼层或其它层的改变也可以直接从楼层平面图进行,诸如通过选择所示楼层平面图中的相应连接通道(例如,楼梯到楼层2)。将理解,在一些实施方式中可以添加各种其它类型的信息,在一些实施方式中可以不提供所示类型的信息中的一些,并且在其它实施方式中可以以其它方式显示和选择所链接的和相关联的信息的视觉指示和用户选择。
此外,如本文中别处所述,在一些实施方式中,可以提供一个或多个相应的GUI,以使得能够提供用户输入,以补充由IAEMIGM系统自动确定的信息,诸如用于连接不相交的子图,以编辑/移除用户发现不正确的连接,以调整相对位置或其它自动确定的信息等。此外,在至少一些实施方式中,可以通过基于用户特定的信息(例如,用户的历史、用户指定的偏好等)和/或机器学习的预测来个性化用户的视觉化来增强用户的体验。此外,在一些实施方式中可以使用针对其他用户的整个系统的人群源改进,诸如通过基于每个单独用户的编辑等获得和并入附加图像和/或其他视觉数据(例如,在IAEMIGM系统使用初始图像集和可选的附加信息执行初始自动确定之后)。将理解,可以使用附加类型的用户可选择的控件。
已经参照图2A-图2J提供了各种细节,但是应当理解,所提供的细节是出于说明的目的而包括的非排他性示例,并且可以以其它方式执行其它实施方式,而没有一些或全部这样的细节。
图3是示出执行IAEMIGM系统340的实施的一个或多个服务器计算系统300的实施方式的框图。服务器计算系统和IAEMIGM系统可以使用形成电子电路的多个硬件组件来实现,电子电路适于并且配置成在组合操作中执行本文中描述的技术的至少一些。在所示实施方式中,每个服务器计算系统300包括一个或多个硬件中央处理单元(“CPU”)或其它硬件处理器305,各种输入/输出(“I/O”)组件310、存储装置320和存储装置330,所示出的I/O组件包括显示器311、网络连接312、计算机可读介质驱动器313和其它I/O装置315(例如,键盘、鼠标或其它定点装置、麦克风、扬声器、GPS接收器等)。
服务器计算系统300和执行IAEMIGM系统340可以经由一个或多个网络399(例如,因特网、一个或多个蜂窝电话网络等)与其他计算系统和装置通信,诸如用户客户端计算装置390(例如,以供显示或以其他方式使用所生成的增强图像和/或其他测绘相关信息以及可选的相关联的图像或其他视觉数据),移动图像采集计算装置360(例如,AIC系统应用368在其上可以可选地执行以执行捕获图像366的采集),如果相机装置包括联网能力或其它数据传输能力则可选地执行捕获图像386的采集的一个或多个相机装置385,可选地其它存储装置380(例如,用于存储和提供与建筑物相关的附加信息;用于存储和提供所捕获的图像,例如代替装置360和/或385或除了装置360和/或385之外;用于存储和提供生成的增强图像和/或其他生成的建筑物测绘信息;等),以及可选地接收和使用所生成的测绘相关信息用于导航目的(例如,由半自主或完全自主车辆或其他装置使用)的其他可导航装置395。
在所示实施方式中,IAEMIGM系统340的实施方式在存储器330中执行,以便执行至少一些所描述的技术,诸如通过使用处理器305以配置处理器305和计算系统300以执行实现那些所描述的技术的自动操作的方式来执行系统340的软件指令。示出的IAEMIGM系统的实施方式可以包括未示出的一个或多个组件,以各自执行IAEMIGM系统的功能的部分,并且存储器可以进一步可选地执行一个或多个其他程序335。作为一个具体示例,在至少一些实施方式中,AIC系统的副本可以作为其他程序335中的一个来执行,诸如代替计算装置360上的AIC系统368或除了计算装置360上的AIC系统368之外,并且作为另一个特定示例,建筑物测绘信息查看器系统345的副本可以执行以向最终用户(例如,客户端计算装置390的用户)提供生成的增强图像和/或其他生成的建筑物测绘信息的视觉表示,尽管在其他实施方式中,这样的测绘信息查看器系统可以替代地在一个或多个这种客户端计算装置390上执行。IAEMIGM系统340还可以在其操作期间在存储装置320上(例如,在一个或多个数据库或其他数据结构中)存储和/或检索各种类型的数据,诸如各种类型的用户信息322,所采集的图像和其他关联信息324(例如,图像采集IMU数据和/或其他元数据,并且诸如用于分析以生成增强图像和/或其他建筑物测绘相关信息;向客户端计算装置390的用户提供显示;等),所采集图像的一种或多种类型的图像属性数据325、所生成的增强图像326、可选的其它生成的测绘相关信息327(例如,生成用于与相关联的楼层平面图一起使用的链接的采集位置、楼层平面图和/或组成结构形状、建筑物和房间尺寸等的子图)和/或各种类型的可选附加信息329(例如,附加图像和/或视频和/或其它视觉数据)、在建筑物中捕获的非视觉数据、注释信息、与由AIC系统捕获的一个或多个建筑物内部或其它环境的呈现或其它使用有关的各种分析信息等)。
用户客户端计算装置390(例如,移动装置)、计算装置360、相机装置385、存储装置380和其他可导航装置395中的一些或全部可以类似地包括针对服务器计算系统300所示的相同类型的组件中的一些或全部。作为一个非限制性示例,计算装置360每个被示出为包括一个或多个硬件CPU 361、I/O组件362、存储器和/或存储装置367、以及成像系统365和IMU硬件传感器363,并且具有存储器/存储装置367上的AIC系统368的实施方式以及由AIC系统生成的捕获图像366,以及可选的其它程序(诸如浏览器369)。虽然没有示出用于其他可导航装置395或其它装置/系统380和385和390的特定组件,但是应当理解,它们可以包括类似的和/或附加的组件。
还应当理解,包括在图3中的计算系统300和其它系统和装置仅仅是说明性的,而不旨在限制本发明的范围。系统和/或装置可以代之以每一个包括多个交互计算系统或装置,并且可以连接到未具体示出的其他装置,包括经由蓝牙通信或其他直接通信、通过诸如因特网的一个或多个网络、经由网页(Web)、或经由一个或多个专用网络(例如,移动通信网络等)。更一般地,装置或其它计算系统可以包括硬件的任何组合,硬件可以交互和执行所描述类型的功能,可选地当用特定软件指令和/或数据结构编程或以其它方式配置时,包括但不限于台式计算机或其它计算机(例如,输入板、平板计算机等)、数据库服务器、网络存储装置和其它网络装置、智能电话和其它蜂窝电话、消费电子装置、可佩戴装置、数字音乐播放器装置、手持游戏装置、PDA、无线电话、因特网装置和包括适当通信能力的各种其它消费产品。此外,在一些实施方式中,所示IAEMIGM系统340所提供的功能可以分布在各种组件中,可以不提供IAEMIGM系统340的所描述的功能中的一些,和/或可以提供其它附加功能。
还应当理解,尽管在使用时将各种物品示出为存储在存储器中或存储在存储装置中,但是出于存储器管理和数据完整性的目的,可以在存储器和其它存储装置之间传送这些物品或它们的部分。或者,在其它实施方式中,软件组件和/或系统中的一些或全部可以在另一装置上的存储器中执行,并经由计算机间通信与所说明的计算系统通信。因此,在一些实施方式中,当由一个或多个软件程序(例如,由在服务器计算系统300和/或计算装置360上执行的IAEMIGM系统340和/或AIC软件368)和/或数据结构配置时,诸如通过执行一个或多个软件程序的软件指令和/或通过存储这样的软件指令和/或数据结构,并且从而执行如在流程图和本文中的其它公开中所描述的算法,可以由包括一个或多个处理器和/或存储器和/或存储装置的硬件装置来执行所描述的技术中的一些或全部。此外,在一些实施方式中,系统和/或组件中的一些或全部可以以其它方式来实现或提供,诸如通过由在固件和/或硬件中部分或全部实现的一个或多个装置(例如,而不是由配置特定CPU或其它处理器的软件指令整体或部分实现的装置)组成,包括但不限于一个或多个专用集成电路(ASIC)、标准集成电路、控制器(例如,通过执行适当的指令,并且包括微控制器和/或嵌入式控制器)、现场可编程门阵列(FPGA)、复杂可编程逻辑器件(CPLD)等。组件、系统和数据结构中的一些或全部也可以存储(例如,作为软件指令或结构化数据)在非暂时性计算机可读存储介质,诸如硬盘或闪存驱动器或其它非易失性存储装置、易失性或非易失性存储器(例如,RAM或闪存RAM)、网络存储装置或便携式介质制品(例如,DVD盘、CD盘、光盘、快闪存储器装置等),其将由适当的驱动器或经由适当的连接来读取。在一些实施方式中,系统、组件和数据结构还可以经由生成的数据信号(例如,作为载波或其它模拟或数字传播信号的一部分)在各种计算机可读传输介质(包括基于无线和基于有线/电缆的介质)上传输,并且可以采取各种形式(例如,作为单个或多路复用模拟信号的一部分,或作为多个离散数字包或帧)。在其它实施方式中,这种计算机程序产品也可以采用其它形式。因此,本公开的实施方式可以用其它计算机系统配置来实现。
图4A-图4B示出了用于图像属性交换和测绘信息生成管理器(IAEMIGM)系统例程400的流程图的示例性实施方式。例如,可以通过执行图1A的IAEMIGM系统160、图3的IAEMIGM系统340、和/或如参考图2D-图2J和本文中其它地方所描述的IAEMIGM系统来执行该例程,以便至少部分地基于多种类型的区域的图像生成限定区域的增强图像和/或其它与测绘有关的信息(例如,链接的采集位置和相关联的图像,至少局部楼层平面图等)。在图4A-图4B的示例中,所生成的测绘信息包括增强图像、链接的采集位置和相关联的图像,以及建筑物(诸如房屋)的至少部分2D楼层平面图和3D计算机模型,但是在其它实施方式中,可以为其它类型的建筑物确定和生成其它类型的测绘信息,并以其它方式使用,如本文中别处所讨论的。
例程的所示实施方式在框405处开始,在框405处接收信息或指令。例程继续到框407,以确定在框405中接收的指令是否指示当前在所指示的建筑物的多个采集位置处采集多种类型的图像以及可选地采集其他相关数据,并且如果是,则例程继续执行框409以这样做(可选地等待一个或多个用户或装置在建筑物中移动,并且在建筑物的多个房间中的多个采集位置处采集图像以及可选地采集附加信息,如本文中别处更详细讨论的,图7提供了用于执行至少一些这种图像采集的AIC系统例程的一个示例性实施方式),并且否则继续到框410,以获得先前采集的建筑物的多个采集位置的多种类型的图像以及可选地其他相关数据。在框409或410之后,例程继续到框415,以确定在框405中接收的指令或信息是否指示执行多种类型的建筑物图像的属性确定和/或交换(包括基于这种属性数据交换生成一个或多个增强图像),并且如果是这样的话,则继续执行框420以这样做,其中图5示出了用于执行这样的活动的例程的一个示例。
在框420之后,或者如果在框415中确定在框405中接收的指令或其它信息不要进行属性确定或交换,则例程继续到框430,以确定在框405中接收的指令是否指示生成指示的建筑物的其它类型的测绘信息,并且如果是,则例程继续执行框435-488以这样做,否则继续到框480。特别地,在框435中,除了来自框409或410的图像之外,该例程可选地获得建筑物的附加信息,可选地连同与图像采集和/或采集位置之间的移动有关的元数据信息,诸如在某些情况下可以连同相应的指令一起在框405中已经被提供。这种附加信息可以例如基于所采集的注释信息和/或来自一个或多个外部源的信息(例如,在线数据库、由一个或多个终端用户提供的信息等)和/或来自所采集的图像(例如,初始图像和/或附加图像,诸如对于在与初始图像的采集位置不同的位置处捕获的附加图像)的分析的信息。这样的附加获得的信息可以包括,例如,建筑物的外部尺寸和/或形状、关于内置特征(例如,厨房岛)的信息、关于安装的固定装置和/或器具(例如,厨房器具、浴室物品等)的信息;关于建筑物内部位置的视觉外观信息(例如,诸如地板覆盖物或墙壁覆盖物或表面覆盖物的安装的物品的颜色和/或材料类型和/或纹理)的信息、关于来自特定窗户或其它建筑物位置的视图的信息、关于建筑物外部区域的其它信息(例如,其它相关的建筑物或结构,诸如棚、车库、水池、平台、庭院、走道、花园等;外部空间的类型;存在于外部空间中的物品;等)。
在框435之后,例程继续到框445,以获得从建筑物的图像(例如,作为420的一部分)生成的房间结构形状数据,或者以其他方式确定这种房间结构数据。例如,对于具有一个或多个采集位置和相关联的采集图像的建筑物内的每个房间,诸如以自动方式根据在房间内拍摄的图像中的数据以及可选地在房间内其采集位置的指定位置来确定房间的房间形状。框445的操作可以进一步包括使用图像中的视觉数据和/或图像的采集元数据来为建筑物中的每个房间确定进入或离开房间的任何连接通道(例如,以自动方式),以及房间中的任何墙壁元素及其位置(例如,以自动方式),诸如窗户、墙壁间边界等。框445的操作还包括使用在框445中确定的其它信息中的一些或全部来确定房间的估计房间形状。然后,例程继续到框455,在框455中,其使用所确定的房间形状来创建初始2D楼层平面图,诸如通过连接其相应房间中的房间间通道,通过可选地将房间形状定位在图像的所确定的采集地点位置周围(例如,如果采集地点位置相互连接),以及通过可选地应用一个或多个约束或优化。这种楼层平面图可以包括例如各种房间的相对位置和形状信息,而不提供各个房间或作为整体的建筑物的任何实际尺寸信息,并且还可以包括建筑物的多个链接或相关联的子图(例如,以反映不同的楼层、层、部分等)。该例程还将在楼层平面图上的门、墙壁开口和其它识别的墙壁元素的位置关联起来。
在框455之后,例程可选地执行一个或多个步骤460-470,以确定附加信息并将附加信息与楼层平面图相关联。在框460中,该例程可选地诸如从图像和/或它们的采集元数据的分析或者从为建筑物外部获得的总体尺寸信息估计房间中的一些或所有的尺寸,并且将估计的尺寸与楼层平面图相关联。应当理解,如果足够详细的尺寸信息可用,则可以从楼层平面图生成建筑图、蓝图等。在框460之后,例程继续到框465,以可选地将进一步的信息与楼层平面图(例如,与建筑物内的特定房间或其它位置)相关联,诸如具有指定位置和/或注释信息的附加现有图像。在框470中,例程进一步估计一些或所有房间中的墙壁的高度,诸如从图像的分析和可选地从图像中已知物体的尺寸,以及当图像被采集时关于照相机的高度信息,并且进一步使用这些信息来生成建筑物的3D计算机模型楼层平面图,其中2D和3D楼层平面图彼此相关联。虽然这里未示出,但是关于块445-470确定的任何信息可以类似地与相应生成的增强图像(例如,在块420中生成的增强图像)相关联。关于块435-470的操作的示例性实施方式的附加细节包括在本文中的其它地方。此外,应当理解,尽管在该示例中框435-470被示为单独的操作,但是在一些实施方式中,可以执行图像的单个分析以采集或确定多种类型的信息,诸如关于框435-470中的一些或全部讨论的那些信息。在框470之后,例程继续到框488,以存储所生成的测绘信息和可选的其他所生成的信息,并且可选地进一步使用所生成的测绘信息,以便将所生成的测绘相关信息提供给一个或多个接收者(例如,将所生成的信息提供给其他装置,用于在这些装置和/或相关联的车辆或其他实体的自动导航中使用)。
如果在框430中确定在框405中接收的信息或指令不是要生成所指示的建筑物的测绘信息,则例程继续到框490,以可选地视情况执行一个或多个其它指示的操作。这种其他操作可以包括,例如,接收和响应对先前生成的计算机模型和/或楼层平面图和/或生成的增强图像和/或其他生成的测绘相关信息的请求(例如,对这种信息的请求,以将其提供给一个或多个其他装置,以便在自动导航中使用;请求在一个或多个客户端装置上显示这种信息,以便匹配一个或多个指定搜索标准的这种信息;等等),获得和存储关于在以后的操作中使用的建筑物的信息(例如,关于房间的尺寸、数量或类型、总平方英尺、邻近或附近的其它建筑物、邻近或附近的植被、外部图像、头顶上的图像、街道级图像等的信息)等。
在框488或490之后,例程继续到框495,以确定是否继续,诸如直到接收到要终止的显式指示,或者仅在接收到要继续的显式指示时才继续。如果确定继续,则例程返回到框405以等待并接收附加指令或信息,否则继续到框499并结束。
图5示出了IAEMIGM图像属性交换组件例程500的流程图的示例性实施方式。例如,可以通过执行图1A的IAEMIGM系统160的组件、图3的IAEMIGM系统340的组件、和/或如参考图2D-图2J和本文别处所描述的IAEMIGM系统的组件来执行该例程,以便确定和交换建筑物的多种类型的图像之间的属性数据,以便生成相应的增强图像。在至少一些实施方式中,可以在图4A-图4B的例程400的框420处调用该例程并在完成时返回到该位置。虽然所示的例程500的实施方式使用为特定的建筑物配对在一起的特定类型的图像之间共享的特定类型的属性数据来生成特定类型的增强图像,但是应当理解,例程的其它实施方式可以以其它方式操作,包括使用其它类型的属性数据和/或图像类型、和/或使用多于两个匹配图像的组,并且还包括针对多个建筑物(例如,多个相关的建筑物,诸如在单个地产上;多个单独的建筑物进行比较;等)这样做。
例程500的所示实施方式在框505处开始,在框505处接收诸如关于特定建筑物和/或关于针对特定建筑物采集的多种类型的特定图像集合的指令或其它信息。然后,例程继续到框510,在框510中,确定在框505中接收的指令或其它信息是否指示分析关于特定建筑物的图像以确定它们的属性信息,并且如果是,则继续执行框520-535以确定相应的属性信息,否则继续到框515以检索或以其它方式获得存储的用于这种建筑物图像的一个或多种类型的属性信息。在框520,例程确定每个图像的视觉数据的颜色属性和可选地其他视觉属性。在框525中,该例程然后分析图像的视觉数据,以为每个图像确定在图像中可见的信息的结构数据,包括为对应于墙壁元素和其它结构元素的特征,以及为每个图像估计姿势(采集位置和捕获方向),以及可选地进一步确定相应的语义标签并将相应的语义标签与所识别的特征相关联。在框530中,例程然后通过建筑物中的房间将图像关联在一起,并且对于具有一个或多个图像采集位置(或者另外具有图像中的至少一些房间的视觉覆盖)的每个房间,至少部分地基于那些图像的视觉数据来确定至少一些房间的结构形状,并且可选地进一步确定那些采集位置(例如,相对于结构形状的位置)的房间内的位置和/或进一步确定一些或所有房间的对应的房间类型语义标签,并将来自块530和535的所确定的结构数据和其它信息关联为对应图像的属性。在框535中,例程然后可选地分析每个图像的视觉数据以生成表示关于它的信息的嵌入矢量,诸如用于比较图像嵌入矢量以确定类似图像。
在框515或535之后,例程继续到框545,在框545中确定在框505中接收到的指令或其它信息是否指示执行图像之间的属性交换,诸如关于在框515中检索到的或者在框520-535中确定的属性数据。如果不是,则例程继续到框599并返回(包括提供来自例程的任何确定的和生成的信息),否则前进到框555-570以执行属性交换。特别地,在框555中,例程确定具有重叠视觉覆盖的不同类型的图像对,并且在框560中,可选地在每个图像对中选择具有优选颜色属性数据和可选地其他视觉数据属性的一个图像(例如,立体照片图像),并且修改该对中的另一个图像(例如,全景图像)以使用那些颜色属性和可选地其他视觉数据属性来生成增强图像。在框565中,然后,对于每个图像对图像,该例程可选地选择具有优选结构属性数据的一个图像(例如,全景图像)并修改该对中的另一个图像(例如,立体照片图像),以生成与结构属性数据相关联的相应增强图像(在至少一些实施方式和情况中,包括将结构数据适配到该对中的该另一个图像的局部坐标系)。在框570中,然后对于每个图像对图像,该例程可选地选择一个具有较大尺寸的图像或具有最大视觉覆盖的图像(例如,全景图像),获得关于特定兴趣的视觉数据的所标识的特性的信息(例如,分析该对的另一个图像,诸如立体照片,和/或其他图像以学习该特性),并且使用所标识的特征从所选择的图像生成一个或多个增强图像,每个增强图像对应于子集并且表示特别感兴趣的增强图像。在框570之后,例程返回到框599,包括提供来自例程的任何确定的和生成的信息。
图6示出了用于建筑物信息查看器系统例程600的流程图的示例性实施方式。该例程可以通过例如执行图1A的建筑物信息查看器用户客户端计算装置175及其软件系统(未示出)、图3的建筑物信息查看器系统345和/或客户端计算装置390、和/或如本文中别处所描述的测绘信息查看器或呈现系统来执行,以便基于用户特定的标准(例如,建筑物的一个或多个生成的增强图像;一个或多个相互连接的链接图像的组,每个链接图像代表建筑物的一些或全部;一个或多个建筑物2D楼层平面图和/或其它相关的测绘信息,例如3D计算机模型或2.5D计算机模型;与楼层平面图中的特定位置相关联的附加信息或其它测绘信息,诸如在建筑物中采集的附加图像和/或其它类型的数据;等)选择一个或多个建筑物的信息,并接收和显示相应的建筑物信息给终端用户。在图6的示例中,所呈现的测绘信息至少部分地用于建筑物(诸如房屋)的内部,但是在其他实施方式中,可以针对其他类型的建筑物或环境呈现其他类型的测绘信息,并以其他方式使用,如本文中别处所讨论的。
例程的所示实施方式在框605处开始,在框605处接收指令或信息。在框605之后,例程继续到框650,在框650中,其确定在框605中接收的指令或其它信息是否指示至少部分地基于用户特定的标准来标识其信息待呈现的一个或多个目标建筑物,并且如果不是,则继续到框660以从终端用户获得要使用的目标建筑物的指示(例如,基于当前用户选择,诸如来自所显示的列表或其它用户选择机制;基于在框605中接收的信息;等)。否则,该例程继续到框655,在框655,它获得要使用的一个或多个搜索标准的指示(一个或多个初始建筑物,用于识别类似的目标建筑物,例如从当前用户选择和/或从先前用户选择或其它先前用户活动和/或如在框605中接收的信息或指令中所指示的;一个或多个显式搜索项;等)。然后,该例程获得关于一个或多个对应的目标建筑物的信息,诸如通过从IAEMIGM系统和/或相关联的存储系统请求该信息,并且如果返回关于多个目标建筑物的信息,选择最佳匹配的目标建筑物初始进一步使用(例如,返回的具有与一个或多个初始建筑物的最高相似性等级的其它建筑物,或者用于一个或多个指定的搜索标准,或者使用在框605中接收的或者其他方式先前指定的指令或其它信息中指示的另一种选择技术,诸如终端用户的偏好)。在一些实施方式和情况中,可以基于一个或多个其它建筑物和一个或多个指定的标准来选择一个或多个目标建筑物。
在框655或660之后,例程继续到框670,以确定在框605中接收的指令或其它信息是否要显示一个或多个生成的增强图像,诸如关于来自框655的最佳匹配目标建筑物或框660中的其它指示的目标建筑物,并且如果是,则继续到框675,以获得一个或多个对应的增强图像的一个或多个指示(例如,与目标建筑物相关联的一些或所有增强图像),并且显示或以其它方式向一个或多个用户提供关于增强图像的信息(例如,提供关于多个可用增强图像的信息,并且当用户选择或以其它方式指示时显示一个或多个特定的这种增强图像)。尽管在该示例性实施方式中未示出,但是在一些实施方式中,所显示的增强图像可以包括对应于可用的关联信息的一个或多个用户可选择的控件,并且如果是这样的话,则例程还可以以类似于针对框615-622所讨论的方式来执行附加处理,以使用户能够进一步与附加关联信息交互并接收附加关联信息。
在框675之后,或者如果代之以在框670中确定在框605中接收的指令或其它信息不显示一个或多个生成的增强图像,则例程继续到框610,以确定在框605中接收的指令或其它信息是否要显示或以其它方式呈现关于目标建筑物的其它类型的信息(例如,使用包括关于目标建筑物内部的信息的平面图和/或互连链接图像的组),诸如来自框655的最佳匹配目标建筑物或框660中的其它指示的目标建筑物,并且如果不是,则继续到框690。否则,例程进行到框612以检索目标建筑物的其它建筑物信息(可选地包括建筑物内部和/或周围位置的相关联的或链接的信息的指示,诸如在建筑物内或周围拍摄的附加图像),并选择检索到的信息的初始视图(例如,楼层平面图的视图,3D计算机模型的至少一些的的视图,来自互连链接图像组的图像,多个链接图像的视觉化视图等)。在框615中,例程然后显示或以其他方式呈现所检索的信息的当前视图,并且在框617中等待用户选择。在框617中的用户选择之后,如果在框620中确定用户选择对应于当前目标建筑物位置(例如,改变所显示的该目标建筑物的测绘信息的当前视图),则例程继续到框622,以根据用户选择更新当前视图,并且然后返回到框615以相应地更新所显示的或以其它方式呈现的信息。用户选择和当前视图的相应更新可以包括例如显示或以其他方式呈现用户选择的一条关联的链接信息(例如,与确定的采集位置的所显示的视觉指示相关联的特定图像),改变当前视图如何显示(例如,放大或缩小;若合适,则旋转信息;选择将被显示或以其它方式呈现的楼层平面图和/或3D计算机模型的新部分,诸如先前不可见的新部分的一些或所有,或者代之以新部分是先前可见信息的子集;从待显示或以其它方式呈现的一组互连的链接图像中选择不同的图像,以便显示该图像的初始子集视图;等)。在其它实施方式和情况中,根据用户选择更新当前视图可以包括与另一系统交互和从另一系统(诸如从IAEMIGM系统)检索信息。
如果在框610中确定在框605中接收的指令或其它信息不是要呈现表示建筑物内部的信息,则例程继续到框690以视情况地执行任何其它指示的操作,诸如任何家务任务,以配置要在系统的各种操作中使用的参数(例如,至少部分地基于由系统的用户指定的信息,诸如捕获一个或多个建筑物内部的移动装置的用户、AIC系统的操作员用户等),以获得并存储关于例程的用户的其它信息(例如,当前用户的呈现和/或搜索偏好),以响应对所生成和存储的信息的请求等。
在框690之后,或者如果在框620中确定用户选择不对应于当前目标建筑物位置,则例程进行到框695以确定是否继续,诸如直到接收到要终止的明确指示,或者仅在接收到要继续的明确指示时才进行。如果确定继续(包括在用户在框617中做出与要呈现的新的目标建筑物位置相关的选择的情况),则例程返回框605以等待附加指令或信息(或者如果用户在框617中做出与要呈现的新的建筑物位置相关的选择,则继续经过框605和650到框670或610),并且如果没有进行到步骤699并结束。在所示实施方式中,如果多个目标建筑物候选返回到该块,则在块655中的例程选择要使用的最佳匹配目标建筑物。在至少一些实施方式中,可以进一步保存并随后使用(例如,对于用户,连续显示或以其他方式呈现用于多个这种其他建筑物的信息)未被首先选择为最佳匹配的其他这种返回的目标建筑物的队列,诸如在框617中的用户选择可选地指示从这种队列中选择和使用下一个返回的其他建筑物,和/或关于多个建筑物的信息被一起显示(例如,同时或相继显示,以便能够比较多个建筑物的信息)。
图7示出了自动图像捕获(AIC)系统例程700的实施方式的示例流程图。该例程可以例如由图3的AIC系统应用368、图1A的AIC系统应用162、和/或如关于图2A-图2C和本文中其它地方另外描述的AIC系统来执行,以便在建筑物或其它结构内的采集位置捕获一种或多种类型的图像,诸如用于后续生成相关的楼层平面图和/或其它测绘信息。尽管关于以特定方式在特定采集位置处采集特定类型的图像来讨论示例例程700的部分,但是将会理解,该例程或类似例程可以用于采集视频或其它类型的数据(例如,音频),不管是代替这种图像还是除了这种图像之外。此外,虽然所示的实施方式从目标建筑物的内部采集和使用信息,但是应当理解,其它实施方式可以对其它类型的数据执行类似的技术,包括对非建筑物结构和/或对一个或多个感兴趣的目标建筑物外部的信息。此外,在一些实施方式中,一些例程可以在用户用来采集图像信息的移动装置上执行,而其他例程可以在一个或多个其他计算装置上执行(例如,由远离这样的移动装置的服务器计算系统和/或由在移动装置的位置处的一个或多个其他计算装置执行,诸如以使用在该位置处的局域互连的分布式点对点方式)。
例程的所示实施方式在框705处开始,在框705处接收指令或信息。在框710,例程确定所接收的指令或信息是否指示采集表示建筑物内部的数据,并且如果不是,则继续到框790。否则,例程进行到框712以接收在第一采集位置处开始图像采集过程的指示(例如,来自移动图像采集装置的用户)。在框712之后,例程进行到框715,以在感兴趣的目标建筑物内部的采集位置处采集图像信息(例如,一个或多个立体照片图像和/或全景图像,诸如使用不同的采集取向)。例程700还可以可选地捕获附加信息,诸如来自用户的关于所捕获图像、IMU数据和/或其他图像捕获元数据(例如,关于图像捕获期间的计算装置的运动)的捕获位置和/或周围环境的注释和/或其他信息等。尽管在示例性实施方式中未示出,但是在一些实施方式中,例程还可以确定并向用户提供关于图像捕获的一个或多个校正指导提示,诸如对应于移动装置的运动、被捕获的传感器数据和/或视觉数据的质量、相关的照明/环境条件、在不同捕获取向从采集位置捕获一个或多个附加图像的可取性、以及捕获一个或多个图像的任何其它合适的方面。
在框715完成之后,例程继续到框720,以确定是否存在更多采集位置,诸如基于由移动装置的用户提供的相应信息在这些采集位置处采集图像。如果是,则例程继续到框722,以便在移动装置沿着远离当前采集位置的行进路径并朝向建筑物内部内的下一采集位置移动期间,可选地启动链接信息(诸如加速度数据、附加视觉数据等)的捕获。如本文中别处所描述,所捕获的链接信息可以包括在这种移动期间记录的附加传感器数据(例如,来自一个或多个IMU或惯性测量单元,在移动设备上或由用户以其他方式携带,和/或附加图像或视频信息)。可以响应于来自移动装置的用户的明确指示或者基于从移动装置记录的信息的一个或多个自动分析来执行启动对这种链接信息的捕获。此外,在一些实施方式中,在移动到下一个采集位置期间,该例程还可以可选地监视移动装置的运动,并且确定并向用户提供关于移动装置的运动、所捕获的传感器数据和/或视频信息的质量、相关的照明/环境条件、捕获下一个采集位置的可取性以及捕获链接信息的任何其它适当方面的一个或多个校正指导提示。类似地,例程可以可选地从用户获得关于行进路径的注释和/或其它信息,诸如用于稍后在呈现关于该行进路径或得到的全景间连接链接的信息中使用。在框724,例程确定移动装置已经到达下一个采集位置(例如,基于来自用户的指示、基于用户停止至少预定时间量的向前移动等),用作新的当前采集位置,并且返回到框715,以便执行用于新的当前采集位置的采集位置图像采集活动。
如果在框720中确定不存在用于获取当前建筑物或其它结构的图像信息的任何更多的获取位置,则例程进行到框781,以可选地分析建筑物或其它结构的采集位置信息,诸如以识别可能的附加覆盖(和/或其它信息)以采集建筑物内部内。例如,AIC系统可以向用户提供一个或多个关于在捕获用于多个采集位置的图像期间采集的信息以及可选地对应的链接信息的通知,诸如如果它确定所记录的信息的一个或多个片或部分具有不充分的或不希望的质量,或者没有看起来提供建筑物的完全覆盖。在框781之后,例程继续到框783,以便在所采集的图像随后用于生成相关测绘信息之前可选地预处理所采集的图像,以便使用特定格式和/或以特定方式(例如,使用立体线性平面格式等)呈现信息的所定义类型。在框783之后,例程继续到框788以存储图像和任何相关联的生成的或获得的信息以供以后使用。图4A-图4B示出了用于从这种捕获的图像信息生成建筑物的测绘相关信息的例程的一个示例。
如果在框710中确定在框705中陈述的指令或其它信息不是要采集表示建筑物内部的图像和其它数据,则例程继续到框790以视情况地执行任何其它指示的操作,诸如任何家务任务,以配置要在系统的各种操作中使用的参数(例如,至少部分地基于由系统的用户指定的信息,诸如捕获一个或多个建筑物内部的移动装置的用户,AIC系统的操作员用户等),以响应于对所生成和存储的信息的请求(例如,识别与一个或多个指定的搜索标准相匹配的一个或多个捕获的图像等),以获得和存储关于系统的用户的其它信息等。
在框788或790之后,例程进行到框795以确定是否继续,诸如直到接收到要终止的明确指示,或者仅在接收到要继续的明确指示时才进行。如果确定继续,则例程返回到框705以等待另外的指令或信息,并且如果不是,则前进到步骤799并结束。
在以下条款中进一步描述了本文中描述的非排他性示例性实施方式。
A01.一种用于一个或多个计算系统执行自动操作的计算机实现的方法,包括:
通过所述一个或多个计算系统,获得在与建筑物相关联的多个采集位置处拍摄的多种类型的多个图像,其中,所述多个图像包括多个立体照片和多个全景图像,并且其中,对于所述建筑物的多个房间中的每个,所述多个采集位置包括在所述房间中的至少一个采集位置;
通过所述一个或多个计算系统从所述多个图像中确定多个图像对,其中,每个图像对包括所述多个立体照片中的一个和所述多个全景图像中的一个,所述多个立体照片中的一个和所述多个全景图像中的一个具有所述多个房间中的至少一个的重叠视觉覆盖;
通过所述一个或多个计算系统并且对于所述多个图像对中的每个图像对,通过修改所述图像对的第一图像以使用与所述图像对的第二图像相关联的数据来生成增强图像,包括选择与所述图像对的所述第二图像相关联的至少一种类型的属性,并且将所选择的至少一种类型的属性的数据添加到所修改的第一图像;
通过所述一个或多个计算系统并且使用至少一个生成的增强图像,至少部分地基于所述多个图像的视觉数据生成所述建筑物的测绘信息;以及
通过所述一个或多个计算系统,呈现所述建筑物的所生成的测绘信息中的至少一些。
A02.一种用于一个或多个计算系统执行自动操作的计算机实现的方法,包括:
通过所述一个或多个计算系统,获得在与房屋相关联的多个采集位置处拍摄的多种类型的多个图像,其中,所述多种类型的多个图像包括等矩形格式的多个全景图像并且包括立体格式的多个照片,并且其中,对于所述房屋的多个房间中的每个,所述多个采集位置包括所述房间中的至少一个采集位置;
通过所述一个或多个计算系统并且对于所述全景图像中的每个,至少部分地基于所述全景图像中的第一视觉数据的分析来确定所述多个房间中的一个的结构属性,并且还使用所确定的结构属性来生成所述多个房间的至少部分房间形状;
通过所述一个或多个计算系统并且对于所述立体照片中的每个,至少部分地基于所述立体照片的第二视觉数据来确定所述多个房间中的一个的至少一部分的色度属性;
通过所述一个或多个计算系统,确定多个图像对,其中,每个图像对图像包括所述多个立体照片中的一个和所述多个全景图像中的一个,所述多个立体照片中的一个和所述多个全景图像中的一个在所述一个全景图像的所述第一视觉数据和所述一个立体图片的所述第二视觉数据中贡献所述多个房间中的一个的视觉特征;
通过一个或多个计算系统并且对于所述多个图像对中的每个图像对,通过修改所述图像对的所述全景图像以使用所述图像对的所述立体照片的所确定的色度属性来生成第一增强全景图像,以及通过修改所述图像对的所述立体照片以将所述图像对的所述全景图像的所确定的结构属性与所述第二增强立体照片相关联来生成第二增强立体照片;
通过所述一个或多个计算系统,至少部分地基于所述多个图像的视觉数据来生成所述房屋的测绘信息,包括使用所述多个图像对中的至少一些中的每个图像对的所生成的第一增强全景图像和所生成的第二增强立体照片作为生成所述房屋的至少局部楼层平面图的一部分;和
通过所述一个或多个计算系统,呈现所述房屋的所生成的测绘信息的至少一些,包括呈现至少一个所生成的第一增强全景图像和至少一个所生成的第二增强立体照片。
A03.一种用于一个或多个计算系统执行自动操作的计算机实现的方法,包括:
获取在与建筑物相关联的多个采集位置处拍摄的多种类型的多个图像,其中,对于所述建筑物的多个房间中的每个,所述多个采集位置包括所述房间中的至少一个采集位置;
从所述多个图像中确定多个图像对,其中,每个图像对包括所述多种类型中的第一类型的第一图像和所述多种类型中的不同的第二类型的第二图像,并且其中,每个图像对中的所述第一图像和所述第二图像具有所述多个房间中的至少一个房间的重叠视觉覆盖;
对于所述多个图像对中的每个图像对,通过修改所述图像对的所述第一图像以使用与所述图像对的所述第二图像相关联的数据来生成增强图像,包括选择与所述图像对的所述第二图像相关联的至少一种类型的属性,并且添加与所修改的第一图像相关联的用于所选择的至少一种类型的属性的数据;以及
提供所述建筑物的至少一些生成的测绘信息以供显示,其中,所述至少一些生成的测绘信息至少部分地基于至少一个生成的增强图像。
A04.一种用于一个或多个计算系统执行自动操作的计算机实现的方法,包括:
通过所述一个或多个计算系统获得在与建筑物相关联的多个采集位置处拍摄的多种类型的多个图像,其中,所述多种类型的多个图像包括多个立体照片和多个全景图像,并且其中,对于所述建筑物的多个房间中的每个,所述多个采集位置包括在所述房间中的至少一个采集位置;
通过所述一个或多个计算系统,并且对于多个图像对中的每个图像对,每个图像对包括所述多个立体照片中的一个和所述多个全景图像中的一个,所述多个立体照片中的一个和所述多个全景图像中的一个具有所述多个房间中的至少一个的重叠视觉覆盖,通过在所述图像对的所述一个立体照片和所述一个全景图像之间交换属性数据生成增强图像,通过:
通过所述一个或多个计算系统,通过修改所述图像对中的所述一个立体照片以使用来自所述图像对中的所述一个全景图像的第一类型属性的数据,生成增强立体照片;以及
通过所述一个或多个计算系统,通过修改所述图像对中的所述一个全景图像以使用来自所述图像对的所述一个立体照片的第二类型属性的数据,生成增强全景图像,其中,所述第一类型属性和所述第二类型属性是不同的;以及
通过所述一个或多个计算系统,提供所述建筑物的至少一些生成的测绘信息以供显示,其中,所述至少一些生成的测绘信息至少部分地基于所生成的增强图像中的至少一些。
A05.如条款A01-A04中任一项所述的计算机实现的方法,其中,所述全景图像中的每个包括围绕垂直轴的360度视觉覆盖,并且其中,确定所述多个图像对的还包括:
通过所述一个或多个计算系统,从所述多个全景图像生成多个子图像,包括:对于所述全景图像中的每个,生成多个子图像,所述多个子图像中的每个包括所述全景图像的所述视觉数据的不同子集并且具有立体格式;
通过所述一个或多个计算系统并且对于所述多个子图像中的每个,生成将所述子图像的视觉数据描述为整体的一个或多个第一全局特征和描述所述子图像的所述视觉数据的各个部分的多个第一局部特征;
通过所述一个或多个计算系统并且对于所述多个照片中的每个生成将所述照片的所述视觉数据描述为一个整体的一个或多个第二全局特征和描述所述照片的所述视觉数据的各个部分的多个第二局部特征;
通过所述一个或多个计算系统并且对于所述多个照片中的每个,确定所述多个子图像的具有与所述照片的所述第二全局特征相匹配的第一全局特征的组,并且从所确定的组中选择一个子图像,所确定的组的多个第一局部特征与所述照片的所述多个第二局部特征最匹配;
通过所述一个或多个计算系统并且对于所述多个照片中的每个,生成包括所述照片和包括所述全景图像的所述图像对中的一个,从所述全景图像生成所述照片的所选择的一个子图像;和
通过所述一个或多个计算系统并且对于所述多个图像对中的每个图像对,将所述图像对的所述一个全景图像的所述第一视觉数据和所述图像对的所述一个立体照片的所述第二视觉数据对准,以共享公共坐标系;
并且其中,生成所述多个图像对中的每个图像对的所述第一增强全景图像和所述第二增强立体照片包括使用对准的所述图像对的所述一个全景图像的第一视觉数据和所述图像对的所述一个立体照片的所述第二视觉数据。
A06.如条款A05所述的计算机实现的方法,还包括:
通过所述一个或多个计算系统并且对于所述多个图像对中的至少一些中的每个图像对,分析在所述图像对的所述立体照片中可见的所述图像对的所述全景图像的子集,以确定与所述全景图像的所述子集相关联的特性,并且组合从所述至少一些图像对确定的特性,以识别与所述房屋的感兴趣的区域相关联的图像特性;
通过所述一个或多个计算系统并且对于不是所述至少一些图像对的一部分的一个或多个附加全景图像中的每个,通过使用所述识别的图像特性来选择所述附加全景图像的子集以包括在所述附加感兴趣图像中来生成附加感兴趣图像;以及
由所述一个或多个计算系统,呈现至少一个生成的附加感兴趣图像。
A07.如条款A01-A06中任一项所述的计算机实现的方法,其中,所述图像对中的一个图像对的所述第一图像是所述一个图像对的所述一个全景图像,并且所述一个图像对中的所述第二图像是所述一个图像对的所述一个立体照片,其中,所述方法还包括确定所述一个图像对的所述一个立体照片的色度属性,并且其中,生成所述一个图像对的所述增强图像包括通过修改所述一个图像对的所述一个全景图像以使用所确定的色度属性代替所述一个图像对的所述全景图像的其他色度属性来生成增强全景图像。
A08.如条款A07所述的计算机实现的方法,还包括:
通过所述一个或多个计算系统,确定所述一个图像对的所述一个全景图像中可见的结构形状和所述一个图像对的所述一个全景图像中可见的结构墙壁特征中的至少一个;
通过所述一个或多个计算系统,确定所述结构形状或所述结构墙壁特征中的所述至少一个的所述一个全景图像中的一个或多个位置;以及
通过所述一个或多个计算系统,通过修改所述一个图像对的所述一个立体照片以在所述结构形状或所述结构墙壁特征中的所述至少一个的所修改的一个立体照片的视觉数据中的一个或多个其它位置处关联所述结构形状或所述结构墙壁特征中的所述至少一个,生成所述一个图像对的增强立体照片,
并且其中,生成建筑物的测绘信息还使用生成的增强全景图像和生成的增强立体照片。
A09.如条款A01-A08中任一项所述的计算机实现的方法,其中,所述图像对中的一个图像对的所述第一图像是所述一个图像对的所述一个立体照片,并且所述一个图像对图像中的所述第二图像是所述一个图像对的所述一个全景图像,其中,所述方法还包括确定所述一个图像对的所述一个全景图像中可见的结构形状和所述一个图像对的所述一个全景图像中可见的结构墙壁特征中的至少一个,以及确定所述结构形状或所述结构墙壁特征中的所述至少一个的所述一个全景图像中的一个或多个位置,并且其中,生成所述一个图像对的所述增强图像包括通过修改所述一个图像对的所述一个立体照片,以在所述结构形状或所述结构墙壁特征中的所述至少一个的所修改的一个立体照片的视觉数据中的一个或多个其它位置处关联所述结构形状或所述结构墙壁特征中的所述至少一个,来生成增强立体照片。
A10.如条款A01-A09中任一项所述的计算机实现的方法,其中,所述图像对中的一个图像对的所述第一图像是所述一个图像对的所述一个全景图像,并且所述一个图像对中的所述第二图像是所述一个图像对的所述一个立体照片,其中所述方法还包括:
通过所述一个或多个计算系统并且对于所述多个图像对中除了所述一个图像对之外的至少一些中的每个,分析在所述图像对的所述立体照片中可见的所述图像对的所述全景图像的子集,以确定与所述全景图像的所述子集相关联的特性;以及
通过所述一个或多个计算系统,组合从所述至少一些图像对确定的特性以识别与一些区域相关联的图像特性,
并且其中,生成所述一个图像对的所述增强图像包括使用所述识别的图像特性和所述一个图像对的所述立体照片的视觉数据来选择所述一个图像对的所述全景图像的子集以用作所述一个图像对的所述增强图像。
A11.如条款A01-A10中任一项所述的计算机实现的方法,其中,所述全景图像中的每个包括围绕垂直轴的360度视觉覆盖,并且其中,确定所述多个图像对还包括:
通过所述一个或多个计算系统,从所述多个全景图像生成多个子图像,包括:对于所述全景图像中的每个,生成多个子图像,所述多个子图像中的每个包括所述全景图像的所述视觉数据的不同子集并且是立体格式;
通过所述一个或多个计算系统并且对于所述多个子图像中的每个,生成将所述子图像的视觉数据描述为整体的一个或多个第一全局特征,以及描述所述子图像的所述视觉数据的各个部分的多个第一局部特征;
通过所述一个或多个计算系统并且对于所述多个立体照片中的每个,生成将所述立体照片的所述视觉数据描述为整体的一个或多个第二全局特征,以及描述所述立体照片的所述视觉数据的各个部分的多个第二局部特征;
通过所述一个或多个计算系统并且针对所述多个立体照片中的至少一些立体照片中的每个,确定具有与所述立体照片的所述第二全局特征相匹配的第一全局特征的所述多个子图像的组,并且从所确定的组中选择一个子图像,所确定的组的多个第一局部特征与所述立体照片的所述多个第二局部特征相匹配;以及
通过一个或多个计算系统并且对于所述至少一些立体照片中的每个,生成包括所述立体照片和包括所述全景图像的所述图像对中的一个,从所述全景图像生成所述照片的所选择的一个子图像。
A12.如条款A01-A11中任一项所述的计算机实现的方法,其中,所提供的至少一些所生成的测绘信息是所述至少一个所生成的增强图像,并且其中,由所述一个或多个计算系统呈现所述至少一些所生成的测绘信息包括通过所述一个或多个计算系统并且通过一个或多个计算机网络将所述至少一些所生成的测绘信息发送到客户端计算装置,以便在所述客户端计算装置上向一个或多个用户显示。
A13.如条款A01-A12中任一项所述的计算机实现的方法,其中,所述多个立体照片中的每个是立体格式并且具有小于90度的视角,其中,所述多个全景图像中的每个是等矩形格式并且具有至少180度的视角,其中,所述多个采集位置包括所述建筑物外部的一个或多个采集位置,其中,确定所述多个图像对包括分析所述多个图像的视觉数据以识别所述多个图像对中的每个图像对的所述一个立体照片和所述一个全景图像中的匹配的视觉特征,并且其中,所生成的测绘信息包括基于所述多个图像的视觉数据的所述建筑物的至少局部楼层平面图。
A14.如条款A01-A13中任一项所述的计算机实现的方法,其中,所述第一类型的所述多个图像包括立体格式并且具有小于90度的视角的照片,其中,所述第二类型的所述多个图像包括等矩形格式并且具有至少180度的视角的全景图像,并且其中,所述方法还包括至少部分地基于所述多个图像的视觉数据来生成所述建筑物的所述测绘信息并且包括使用至少一个生成的增强图像。
A15.如条款A01-A14中任一项所述的计算机实现的方法,其中,所提供的至少一些所生成的测绘信息是所述至少一个所生成的增强图像。
A16.如条款A01-A15中任一项所述的计算机实现的方法,其中,所述图像对中的一个图像对的所述第一图像是全景图像,并且所述一个图像对中的所述第二图像是立体照片,其中,所述自动操作还包括确定所述一个图像对的所述立体照片的色度属性,并且其中,生成所述一个图像对的所述增强图像包括通过修改所述一个图像对的所述全景图像以使用所确定的色度属性来生成增强全景图像。
A17.如条款A16所述的计算机实现的方法,其中,修改所述一个图像对的所述全景图像以使用所确定的色度属性还包括在所修改的全景图像中保留所述一个图像对的所述全景图像的亮度属性。
A18.如条款A01-A17中任一项所述的计算机实现的方法,其中,所述图像对中的一个图像对的所述第一图像是立体照片,并且所述一个图像对中的所述第二图像是全景图像,其中,所述自动操作还包括确定所述全景图像中可见的一个或多个结构形状和所述一个或多个结构形状的所述全景图像中的一个或多个位置,并且其中,生成所述一个图像对的所述增强图像包括通过修改所述立体照片以关联所述至少一个结构形状的所修改的立体照片的视觉数据中的一个或多个其它位置处的所述一个或多个结构形状中的至少一个来生成增强立体照片。
A19.如条款A01-A18中任一项所述的计算机实现的方法,其中,所述图像对中的一个图像对的所述第一图像是立体照片,并且所述一个图像对中的所述第二图像是全景图像,其中,所述自动操作还包括确定所述一个图像对的所述全景图像中可见的一个或多个结构墙壁特征和所述一个或多个结构墙壁特征的所述全景图像中的一个或多个位置,并且其中,生成所述一个图像对的所述增强图像包括通过修改所述立体照片以关联所述至少一个结构墙壁特征的所修改的立体照片的视觉数据中的一个或多个其它位置处的所述一个或多个结构墙壁特征中的至少一个生成增强立体照片。
A20.如条款A01-A19中任一项所述的计算机实现的方法,
其中,所述图像对中的一个图像对的所述第一图像是全景图像,并且所述一个图像对中的所述第二图像是立体照片,其中,所述自动操作还包括:
对于所述多个图像对中除了所述一个图像对之外的至少一些的每个图像对,分析在所述图像对的立体照片中可见的所述图像对的全景图像的子集,以确定与所述全景图像的所述子集相关联的特性;以及
组合从所述至少一些图像对确定的特性以识别与所述建筑物的一些区域相关联的图像特性,
并且其中,生成所述一个图像对的所述增强图像包括使用所述识别的图像特性和所述一个图像对的所述立体照片的视觉数据来选择所述一个图像对的所述全景图像的子集以用作所述一个图像对的所述增强图像。
A21.如条款A20所述的计算机实现的方法,其中,所确定的特性与所述建筑物的子集相关联,所述建筑物的子集中的至少一个具有所述建筑物的一个或多个限定区域的视觉数据、或具有带有一个或多个限定的感兴趣的主题区域的细节的视觉数据、或具有与一个或多个限定类型的特性相匹配的视觉数据。
A22.如条款A01-A21中任何一项所述的计算机实现的方法,其中,生成所述图像对中的一个图像对的所述增强图像还包括从至少包括光平衡和饱和度以及清晰度和风格的组中选择一个或多个属性,以及将来自所述图像对的所述第二图像的所选择的一个或多个属性中的每个的数据添加到所修改的第一图像。
A23.如条款A01-A22中任一项所述的计算机实现的方法,其中,生成所述图像对中的一个图像对的所述增强图像还包括从至少包括用户注释和语义标签的组中选择一个或多个属性,以及添加与所修改的第一图像相关联的来自所述图像对中的所述第二图像的所选择的一个或多个属性中的每个的数据。
A24.如条款A01-A23中任一项所述的计算机实现的方法,其中,所述多种类型的图像包括第一类型和第二类型中的至少一种,其中,所述第一类型和第二类型包括与所述建筑物相关联的至少一些公共区域的白天版本和夜间版本,或者所述第一类型和所述第二类型包括与所述建筑物相关联的至少一些公共区域的视觉数据和非视觉数据,或者所述第一类型和所述第二类型包括在与所述建筑物相关联的至少一些公共区域的不同时期采集的版本,并且其中,生成所述多个图像对中的至少一个图像对的所述增强图像包括在所述白天版本和所述夜间版本、或者所述视觉数据和所述非视觉数据、或者在不同时期采集的版本中的至少一个之间交换数据。
A25.如条款A01-A24中任一项所述的计算机实现的方法,其中,生成所述图像对中的一个图像对的所述增强图像还包括添加与所修改的第一图像相关联的来自所述一个图像对中的所述第二图像的一个或多个深度属性的数据。
A26.如条款A01-A25中任一项所述的计算机实现的方法,其中,生成所述图像对中的一个图像对的所述增强图像还包括添加与所修改的第一图像相关联的来自所述一个图像对中的所述第二图像的一个或多个位置属性的数据。
A27.如条款A01-A26中任一项所述的计算机实现的方法,其中,确定所述图像对中的一个图像对还包括使用来自所述图像对中的所述第一图像或所述第二图像中的至少一个的一个或多个深度属性的数据。
A28.如条款A01-A27中任一项所述的计算机实现的方法,其中,确定所述图像对中的一个图像对还包括使用来自所述图像对中的所述第一图像或所述第二图像中的至少一个的一个或多个位置属性的数据。
A29.如条款A01-A28中任一项所述的计算机实现的方法,
其中,所述多种类型中的一个是等矩形格式的全景图像,并且所述多种类型中的另一个是立体格式的立体照片,并且其中,确定所述多个图像对还包括:
从所述多个图像中的多个全景图像生成多个子图像,包括:对于所述全景图像中的每个,生成多个子图像,所述多个子图像中的每个包括所述全景图像的所述视觉数据的不同子集并且是立体格式;
对于所述多个子图像中的每个,生成将所述子图像的视觉数据描述为整体的一个或多个第一全局特征,以及描述所述子图像的所述视觉数据的各个部分的多个第一局部特征;
对于所述多个图像的多个立体照片中的每个,生成将所述立体照片的所述视觉数据描述为整体的一个或多个第二全局特征,以及描述所述立体照片的所述视觉数据的各个部分的多个第二局部特征;
对于所述多个立体照片中的至少一些立体照片中的每个,确定具有与所述立体照片的所述第二全局特征相匹配的第一全局特征的所述多个子图像的组,并且从所确定的组中选择一个子图像,所确定的组的多个第一局部特征与所述立体照片的所述多个第二局部特征相匹配;以及
对于所述至少一些立体照片中的每个,生成包括所述立体照片和包括所述全景图像的所述图像对中的一个图像对,从所述全景图像生成所述照片的所选择的一个子图像。
A30.如条款A01-A29中任一项所述的计算机实现的方法,
其中,所述自动操作还包括以下至少一个:
通过识别所述第二类型的一个或多个附加的第二图像,所述第二图像中的每个与所述一个图像对中的所述第一图像具有重叠的视觉覆盖,并且通过组合来自所述一个图像对中的所述第二图像和所述一个或多个附加的第二图像的所选择的至少一种类型的属性的数据,执行生成所述多个图像对中的一个图像对的所述增强图像,并且其中,与所述一个图像对的所修改的第一图像相关联的所述数据的添加使用所述组合的数据;或
通过使用所述一个图像对中的所述第二图像的噪声分布以加强所述一个图像对中的所修改的第一图像的一个或多个部分,执行生成所述多个图像对中的一个图像对的所述增强图像;或
对于所述多个图像对中的一个图像对,通过将所述一个图像对中的所述第二图像与所述一个图像对的所修改的第一图像上的一个或多个位置相关联作为用户可选择的兴趣点,执行生成所述至少一些测绘信息;或
通过使用所述多个图像的视觉数据生成所述建筑的至少局部楼层平面图,并且对于所述多个图像对中的一个图像对通过将所述一个图像对中的所述第一图像或所述一个图像对中的所述第二图像中的至少一个与所述至少局部楼层平面图上的一个或多个位置相关联作为用户可选择的兴趣点,执行生成所述至少一些测绘信息;或
在提供所述至少一些生成的测绘信息之后,基于在与所述建筑物相关联的一个或多个附加采集位置处的一个或多个附加采集图像来更新所生成的测绘信息,包括通过在一个或多个附加图像对的图像之间交换属性数据来生成一个或多个附加的增强图像,所述附加图像对中的每个包括所述附加采集图像中的至少一个;或
对于所述多个图像对中的一个图像对,通过生成具有来自所述一个图像对中的所述第一图像和来自所述一个图像对中的第二图像组合的视觉数据的附加的增强图像,执行生成所述至少一些测绘信息;或
对于所述多个图像对中的一个图像对,通过使用一个或多个机器学习模型和来自所述一个图像对中的所述第一图像和来自所述一个图像对中的所述第二图像的视觉数据生成附加的增强图像以提供所述附加的增强图像的表观分辨率的增加,执行生成至少一些测绘信息。
A31.如条款A01-A30中任一项所述的计算机实现的方法,
还包括用户的客户端计算装置,其中,所述多个采集位置包括所述建筑物外部的一个或多个采集位置,其中,所述自动操作包括通过使用所述多个图像的视觉数据以生成所述建筑物的至少局部楼层平面图来生成所述建筑物的所述测绘信息,其中,提供所述建筑物的所述至少一些生成的测绘信息包括通过一个或多个计算机网络将所述建筑物的所述至少一些生成的测绘信息发送到所述客户端计算装置,并且其中,所述自动操作还包括:由所述客户端计算装置接收并在所述客户端计算装置上显示所提供的至少一些生成的测绘信息;以及通过所述客户端计算装置向所述一个或多个计算系统发送来自所述用户与所述客户端计算装置上的用户可选择的控件的交互的信息,以导致针对所述建筑物的在所述客户端计算装置上显示的信息的修改。
A32.如条款A01-A31中任一项所述的计算机实现的方法,其中,所述方法还包括至少部分地基于所述多个图像的视觉数据来生成所述建筑物的所述测绘信息,并且包括使用所述至少一些生成的增强图像,其中,所述至少一些生成的增强图像包括一个或多个生成的增强立体照片,并且包括一个或多个生成的增强全景图像。
A33.如条款A01-A32中任一项所述的计算机实现的方法,其中,所提供的至少一些生成的测绘信息是所述至少一些生成的增强图像中的一个或多个。
A34.如条款A01-A33中任一项所述的计算机实现的方法,其中,所述第一类型的所述多个图像包括所述多个立体照片,所述多个立体照片中的每个是立体格式并且具有小于90度的视角,其中,所述第二类型的所述多个图像包括所述多个全景图像,所述多个全景图像中的每个是等矩形格式并且具有至少180度的视角,并且其中,所述自动操作还包括由所述一个或多个计算系统确定所述多个图像对,包括分析所述多个图像的视觉数据以识别所述多个图像对中的每个图像对的所述一个立体照片和所述一个全景图像中的匹配视觉特征。
A35.如条款A01-A34中任一项所述的计算机实现的方法,其中,所述多个采集位置包括所述建筑物外部的一个或多个采集位置,其中,所述自动操作包括通过使用所述多个图像的视觉数据来生成所述建筑物的至少局部楼层平面图来生成所述建筑物的所述测绘信息,其中,提供所述建筑物的所述至少一些生成的测绘信息包括通过一个或多个计算机网络将所述建筑物的所述至少一些生成的测绘信息发送到用户的客户端计算装置,并且其中,所述自动操作还包括:通过所述客户端计算装置接收并且在所述客户端计算装置上显示所提供的至少一些所生成的测绘信息;以及通过所述客户端计算装置向所述一个或多个计算系统发送来自所述用户与所述客户端计算装置上的用户可选择的控件的交互的信息,以导致所述建筑物的所述客户端计算装置上显示的信息的修改。
A36.一种计算机实现的方法,包括执行自动操作的多个步骤,所述自动操作实现基本上如本文中所公开的所描述的技术。
B01.一种具有存储的可执行软件指令和/或其它存储内容的非暂时性计算机可读介质,所述可执行软件指令和/或其它存储内容使得一个或多个计算系统执行实现条款A01-A36中任一项的方法的自动操作。
B02.一种具有存储的可执行软件指令和/或其它存储的内容的非暂时性计算机可读介质,所述存储的可执行软件指令和/或其它存储的内容使得一个或多个计算系统执行实现基本上如本文中所公开的所描述的技术的自动操作。
C01.一个或多个计算系统,包括一个或多个硬件处理器和具有存储指令的一个或多个存储器,所述存储指令在由所述一个或多个硬件处理器中的至少一个执行时使得所述一个或多个计算系统执行实现条款A01-A36中的任一个的方法的自动操作。
CO2.一个或多个计算系统,包括一个或多个硬件处理器和具有存储指令的一个或多个存储器,所述存储指令在由所述一个或多个硬件处理器中的至少一个执行时使得所述一个或多个计算系统执行实现基本上如本文中所公开的所描述的技术的自动操作。
D01.一种计算机程序,适于当所述计算机程序在计算机上运行时执行条款A01-A36中的任一个的方法。
本文中参考根据本公开的实施方式的方法、设备(系统/装置)和计算机程序产品的流程图和/或框图来描述本公开的方面。应当理解,流程图和/或框图以及这些框的组合中的每个框都可以由计算机可读程序指令来实现。将进一步理解,在一些实现中,可以以替代的方式来提供由上述例程提供的功能,诸如在更多例程之间进行拆分,或者合并成更少的例程。类似地,在一些实现中,所示例程可以提供比所描述的更多或更少的功能,诸如当其他所示例程分别缺少或包括这种功能时,或者当所提供的功能量改变时。此外,虽然可以将各种操作示出为以特定方式(例如,串行或并行,或同步或异步)和/或以特定顺序执行,但是在其他实现中,可以以其他顺序和其他方式执行操作。上面讨论的任何数据结构也可以以不同的方式构造,诸如通过将单个数据结构分成多个数据结构和/或通过将多个数据结构合并成单个数据结构。类似地,在一些实现中,所示的数据结构可以存储比所描述的更多或更少的信息,例如当其他所示的数据结构分别缺少或包括这种信息时,或者当所存储的信息量或类型改变时。
从上文可以理解,尽管本文为了说明的目的描述了特定的实施方式,但是可以在不脱离本发明的精神和范围的情况下进行各种修改。因此,本发明除了由相应的权利要求和那些权利要求所引用的元件之外不受限制。此外,虽然本发明的某些方面可以在某些时间以某些权利要求的形式呈现,但是本发明人以任何可用的权利要求的形式考虑了本发明的各个方面。例如,虽然仅本发明的一些方面可以被描述为在特定时间在计算机可读介质中具体化,但是也可以同样地具体化其他方面。

Claims (16)

1.一种系统,包括:
一个或多个计算系统的一个或多个硬件处理器;以及
具有存储指令的一个或多个存储器,所述存储指令在由所述一个或多个硬件处理器中的至少一个执行时使所述一个或多个计算系统以执行自动操作,所述自动操作至少包括:
获取在与建筑物相关联的多个采集位置处拍摄的多种类型的多个图像,其中,对于所述建筑物的多个房间中的每个,所述多个采集位置包括所述房间中的至少一个采集位置;
从所述多个图像中确定多个图像对,其中,每个图像对包括所述多种类型中的第一类型的第一图像和所述多种类型中的不同的第二类型的第二图像,并且其中,每个图像对中的所述第一图像和所述第二图像具有所述多个房间中的至少一个房间的重叠视觉覆盖;
对于所述多个图像对中的每个图像对,通过修改所述图像对的所述第一图像以使用与所述图像对的所述第二图像相关联的数据来生成增强图像,包括选择与所述图像对的所述第二图像相关联的至少一种类型的属性,并且添加与所修改的第一图像相关联的用于所选择的至少一种类型的属性的数据;以及
提供所述建筑物的至少一些生成的测绘信息以供显示,其中,所述至少一些生成的测绘信息至少部分地基于至少一个生成的增强图像。
2.根据权利要求1所述的系统,其中,所述图像对中的一个图像对的所述第一图像是全景图像,并且所述一个图像对中的所述第二图像是立体照片,其中,所述自动操作还包括确定所述一个图像对的所述立体照片的色度属性,并且其中,生成所述一个图像对的所述增强图像包括通过修改所述一个图像对的所述全景图像以使用所确定的色度属性来生成增强全景图像。
3.根据权利要求2所述的系统,其中,修改所述一个图像对的所述全景图像以使用所确定的色度属性还包括在所修改的全景图像中保留所述一个图像对的所述全景图像的亮度属性。
4.根据权利要求1所述的系统,其中,所述图像对中的一个图像对的所述第一图像是立体照片,并且所述一个图像对中的所述第二图像是全景图像,其中,所述自动操作还包括确定所述全景图像中可见的一个或多个结构形状和所述一个或多个结构形状的所述全景图像中的一个或多个位置,并且其中,生成所述一个图像对的所述增强图像包括通过修改所述立体照片以关联所述至少一个结构形状的所修改的立体照片的视觉数据中的一个或多个其它位置处的所述一个或多个结构形状中的至少一个来生成增强立体照片。
5.根据权利要求1所述的系统,其中,所述图像对中的一个图像对的所述第一图像是立体照片,并且所述一个图像对中的所述第二图像是全景图像,其中,所述自动操作还包括确定所述一个图像对的所述全景图像中可见的一个或多个结构墙壁特征和所述一个或多个结构墙壁特征的所述全景图像中的一个或多个位置,并且其中,生成所述一个图像对的所述增强图像包括通过修改所述立体照片以关联所述至少一个结构墙壁特征的所修改的立体照片的视觉数据中的一个或多个其它位置处的所述一个或多个结构墙壁特征中的至少一个生成增强立体照片。
6.根据权利要求1所述的系统,其中,所述图像对中的一个图像对的所述第一图像是全景图像,并且所述一个图像对中的所述第二图像是立体照片,其中,所述自动操作还包括:
对于所述多个图像对中除了所述一个图像对之外的至少一些图像对的每个图像对,分析在所述图像对的立体照片中可见的所述图像对的全景图像的子集,以确定与所述全景图像的所述子集相关联的特性;以及
组合从所述至少一些图像对确定的特性以识别与所述建筑物的一些区域相关联的图像特性,
并且其中,生成所述一个图像对的所述增强图像包括使用所述识别的图像特性和所述一个图像对的所述立体照片的视觉数据来选择所述一个图像对的所述全景图像的子集以用作所述一个图像对的所述增强图像。
7.根据权利要求1所述的系统,其中,生成所述图像对中的一个图像对的所述增强图像还包括从至少包括光平衡和饱和度以及清晰度和风格的组中选择一个或多个属性,以及将来自所述图像对的所述第二图像的所选择的一个或多个属性中的每个的数据添加到所修改的第一图像。
8.根据权利要求1所述的系统,其中,生成所述图像对中的一个图像对的所述增强图像还包括从至少包括用户注释和语义标签的组中选择一个或多个属性,以及添加与所修改的第一图像相关联的来自所述图像对中的所述第二图像的所选择的一个或多个属性中的每个的数据。
9.根据权利要求1所述的系统,其中,所述多种类型的图像包括第一类型和第二类型中的至少一种,其中,所述第一类型和所述第二类型包括与所述建筑物相关联的至少一些公共区域的白天版本和夜间版本,或者所述第一类型和所述第二类型包括与所述建筑物相关联的至少一些公共区域的视觉数据和非视觉数据,或者所述第一类型和所述第二类型包括在与所述建筑物相关联的至少一些公共区域的不同时期采集的版本,并且其中,生成所述多个图像对中的至少一个图像对的所述增强图像包括在所述白天版本和所述夜间版本、或者所述视觉数据和所述非视觉数据、或者在不同时期采集的版本中的至少一个之间交换数据。
10.根据权利要求1所述的系统,其中,生成所述图像对中的一个图像对的所述增强图像还包括以下各项中的至少一项:添加与所修改的第一图像相关联的来自所述一个图像对中的所述第二图像的一个或多个深度属性的数据,或者添加与所修改的第一图像相关联的来自所述一个图像对中的所述第二图像的一个或多个位置属性的数据,并且其中,确定所述图像对中的一个图像对还包括以下各项中的至少一项:使用来自所述图像对中的所述第一图像或所述第二图像中的至少一个的一个或多个深度属性的数据,或使用来自所述图像对中的所述第一图像或所述第二图像中的至少一个的一个或多个位置属性的数据。
11.根据权利要求1所述的系统,其中,所述多种类型中的一个是等矩形格式的全景图像,并且所述多种类型中的另一个是立体格式的立体照片,并且其中,确定所述多个图像对还包括:
从所述多个图像中的多个全景图像生成多个子图像,包括:对于所述全景图像中的每个,生成多个子图像,所述多个子图像中的每个包括所述全景图像的所述视觉数据的不同子集并且是立体格式;
对于所述多个子图像中的每个,生成将所述子图像的视觉数据描述为整体的一个或多个第一全局特征,以及描述所述子图像的所述视觉数据的各个部分的多个第一局部特征;
对于所述多个图像的多个立体照片中的每个,生成将所述立体照片的所述视觉数据描述为整体的一个或多个第二全局特征,以及描述所述立体照片的所述视觉数据的各个部分的多个第二局部特征;
对于所述多个立体照片中的至少一些立体照片中的每个,确定具有与所述立体照片的所述第二全局特征相匹配的第一全局特征的所述多个子图像的组,并且从所确定的组中选择一个子图像,所确定的组的多个第一局部特征与所述立体照片的所述多个第二局部特征相匹配;以及
对于所述至少一些立体照片中的每个,生成包括所述立体照片和包括所述全景图像的所述图像对中的一个图像对,从所述全景图像生成所述照片的所选择的一个子图像。
12.根据权利要求1所述的系统,其中,所述自动操作还包括以下至少一个:
通过识别所述第二类型的一个或多个附加的第二图像,所述第二图像中的每个与所述一个图像对中的所述第一图像具有重叠的视觉覆盖,并且通过组合来自所述一个图像对中的所述第二图像和所述一个或多个附加的第二图像的所选择的至少一种类型的属性的数据,执行生成所述多个图像对中的一个图像对的所述增强图像,并且其中,与所述一个图像对的所修改的第一图像相关联的所述数据的添加使用所述组合的数据;或
通过使用所述一个图像对中的所述第二图像的噪声分布以加强所述一个图像对中的所修改的第一图像的一个或多个部分,执行生成所述多个图像对中的一个图像对的所述增强图像;或
对于所述多个图像对中的一个图像对,通过将所述一个图像对中的所述第二图像与所述一个图像对的所修改的第一图像上的一个或多个位置相关联作为用户可选择的兴趣点,执行生成所述至少一些测绘信息;或
通过使用所述多个图像的视觉数据生成所述建筑的至少局部楼层平面图,并且对于所述多个图像对中的一个图像对通过将所述一个图像对中的所述第一图像或所述一个图像对中的所述第二图像中的至少一个与所述至少局部楼层平面图上的一个或多个位置相关联作为用户可选择的兴趣点,执行生成所述至少一些测绘信息;或
在提供所述至少一些生成的测绘信息之后,基于在与所述建筑物相关联的一个或多个附加采集位置处的一个或多个附加采集图像来更新所生成的测绘信息,包括通过在一个或多个附加图像对的图像之间交换属性数据来生成一个或多个附加的增强图像,所述附加图像对中的每个包括所述附加采集图像中的至少一个;或
对于所述多个图像对中的一个图像对,通过生成具有来自所述一个图像对中的所述第一图像和来自所述一个图像对中的第二图像组合的视觉数据的附加的增强图像,执行生成所述至少一些测绘信息;或
对于所述多个图像对中的一个图像对,通过使用一个或多个机器学习模型和来自所述一个图像对中的所述第一图像和来自所述一个图像对中的所述第二图像的视觉数据生成附加的增强图像以提供所述附加的增强图像的表观分辨率的增加,执行生成至少一些测绘信息。
13.根据权利要求1所述的系统,还包括用户的客户端计算装置,其中,所述多个采集位置包括所述建筑物外部的一个或多个采集位置,其中,所述自动操作包括通过使用所述多个图像的视觉数据以生成所述建筑物的至少局部楼层平面图来生成所述建筑物的所述测绘信息,其中,提供所述建筑物的所述至少一些生成的测绘信息包括通过一个或多个计算机网络将所述建筑物的所述至少一些生成的测绘信息发送到所述客户端计算装置,并且其中,所述自动操作还包括:由所述客户端计算装置接收并在所述客户端计算装置上显示所提供的至少一些生成的测绘信息;以及通过所述客户端计算装置向所述一个或多个计算系统发送来自所述用户与所述客户端计算装置上的用户可选择的控件的交互的信息,以导致针对所述建筑物的在所述客户端计算装置上显示的信息的修改。
14.根据权利要求1所述的系统,其中,所述多个图像的所述第一类型包括立体格式并且具有小于90度的视角的照片,其中,所述多个图像的所述第二类型包括等矩形格式并且具有至少180度的视角的全景图像,其中,所存储的指令包括软件指令,所述软件指令在由所述至少一个硬件处理器执行时使所述一个或多个计算系统执行进一步的自动操作,所述进一步的自动操作包括至少部分地基于所述多个图像的视觉数据来至少生成所述建筑物的所述测绘信息并且包括使用至少一个生成的增强图像,并且其中,所提供的至少一些生成的测绘信息包括所述至少一个生成的增强图像。
15.一种计算机实现的方法,包括:
通过一个或多个计算系统获得在与建筑物相关联的多个采集位置处拍摄的多种类型的多个图像,其中,所述多个图像包括多个立体照片和多个全景图像,并且其中,对于所述建筑物的多个房间中的每个,所述多个采集位置包括所述房间中的至少一个采集位置;
通过所述一个或多个计算系统从所述多个图像中确定多个图像对,其中,每个图像对包括所述多个立体照片中的一个和所述多个全景图像中的一个,所述多个立体照片中的一个和所述多个全景图像中的一个具有所述多个房间中的至少一个的重叠视觉覆盖;
通过所述一个或多个计算系统并且对于所述多个图像对中的每个图像对,通过修改所述图像对的第一图像以使用与所述图像对的第二图像相关联的数据来生成增强图像,包括选择与所述图像对的所述第二图像相关联的至少一种类型的属性,并且将所选择的至少一种类型的属性的数据添加到所修改的第一图像;
通过所述一个或多个计算系统并且使用至少一个生成的增强图像,至少部分地基于所述多个图像的视觉数据生成所述建筑物的测绘信息;以及
通过所述一个或多个计算系统呈现所述建筑物的所生成的测绘信息中的至少一些。
16.一种具有存储内容的非暂时性计算机可读介质,所述存储内容使得一个或多个计算系统执行自动操作,所述自动操作至少包括:
通过所述一个或多个计算系统获得在与建筑物相关联的多个采集位置处拍摄的多种类型的多个图像,其中,所述多种类型的多个图像包括多个立体照片和多个全景图像,并且其中,对于所述建筑物的多个房间中的每个,所述多个采集位置包括在所述房间中的至少一个采集位置;
通过所述一个或多个计算系统,并且对于多个图像对中的每个图像对,每个图像对包括所述多个立体照片中的一个和所述多个全景图像中的一个,所述多个立体照片中的一个和所述多个全景图像中的一个具有所述多个房间中的至少一个的重叠视觉覆盖,通过在所述图像对的所述一个立体照片和所述一个全景图像之间交换属性数据生成增强图像,通过:
通过所述一个或多个计算系统,通过修改所述图像对中的所述一个立体照片以使用来自所述图像对中的所述一个全景图像的第一类型属性的数据,生成增强立体照片;以及
通过所述一个或多个计算系统,通过修改所述图像对中的所述一个全景图像以使用来自所述图像对的所述一个立体照片的第二类型属性的数据,生成增强全景图像,其中,所述第一类型属性和所述第二类型属性是不同的;以及
通过所述一个或多个计算系统,提供所述建筑物的至少一些生成的测绘信息以供显示,其中,所述至少一些生成的测绘信息至少部分地基于所生成的增强图像中的至少一些。
CN202210110682.6A 2021-09-22 2022-01-29 多种类型的建筑图像之间的属性信息的自动交换和使用 Pending CN115935458A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US17/482,325 2021-09-22
US17/482,325 US11842464B2 (en) 2021-09-22 2021-09-22 Automated exchange and use of attribute information between building images of multiple types

Publications (1)

Publication Number Publication Date
CN115935458A true CN115935458A (zh) 2023-04-07

Family

ID=80446740

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210110682.6A Pending CN115935458A (zh) 2021-09-22 2022-01-29 多种类型的建筑图像之间的属性信息的自动交换和使用

Country Status (5)

Country Link
US (1) US11842464B2 (zh)
EP (1) EP4156086A1 (zh)
CN (1) CN115935458A (zh)
AU (1) AU2022200474B2 (zh)
CA (1) CA3145605C (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019205069A1 (en) * 2018-04-27 2019-10-31 Beijing Didi Infinity Technology And Development Co., Ltd. Systems and methods for updating 3d model of building
CN112104853A (zh) * 2019-06-17 2020-12-18 上海哔哩哔哩科技有限公司 3d视频的全景渲染方法、计算机设备和可读存储介质
US11676344B2 (en) 2019-11-12 2023-06-13 MFTB Holdco, Inc. Presenting building information using building models
US11699001B2 (en) * 2020-10-13 2023-07-11 Flyreel, Inc. Generating measurements of physical structures and environments through automated analysis of sensor data
US20230359790A1 (en) * 2022-05-05 2023-11-09 D.TO, Inc Apparatus and methods for determining and solving design problems using machine learning
JP2024017224A (ja) * 2022-07-27 2024-02-08 株式会社リコー 情報処理装置、入出力装置、情報処理システム、情報処理方法、入出力方法、およびプログラム

Family Cites Families (135)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5140352A (en) 1990-10-31 1992-08-18 Occipital, Inc. Ccd camera and method for fundus imaging
US6031540A (en) 1995-11-02 2000-02-29 Imove Inc. Method and apparatus for simulating movement in multidimensional space with polygonal projections from subhemispherical imagery
US6141034A (en) 1995-12-15 2000-10-31 Immersive Media Co. Immersive imaging method and apparatus
US6323858B1 (en) 1998-05-13 2001-11-27 Imove Inc. System for digitally capturing and recording panoramic movies
CA2371349A1 (en) 1998-05-13 1999-11-18 Scott Gilbert Panoramic movies which simulate movement through multidimensional space
US6317166B1 (en) 1998-08-31 2001-11-13 Immersive Media Company Synchronization frame generator for multichannel imaging system
US6690374B2 (en) 1999-05-12 2004-02-10 Imove, Inc. Security camera system for tracking moving objects in both forward and reverse directions
US7620909B2 (en) 1999-05-12 2009-11-17 Imove Inc. Interactive image seamer for panoramic images
US7050085B1 (en) 2000-10-26 2006-05-23 Imove, Inc. System and method for camera calibration
US6738073B2 (en) 1999-05-12 2004-05-18 Imove, Inc. Camera system with both a wide angle view and a high resolution view
US7525567B2 (en) 2000-02-16 2009-04-28 Immersive Media Company Recording a stereoscopic image of a wide field of view
AU2001264723A1 (en) 2000-05-18 2001-11-26 Imove Inc. Multiple camera video system which displays selected images
US6731305B1 (en) 2000-07-17 2004-05-04 Imove, Inc. Camera system which records camera identification in image file
US7312816B2 (en) 2002-07-24 2007-12-25 Freestone Systems, Inc. Digital observation system
US7909241B2 (en) 2004-03-09 2011-03-22 Lowe's Companies, Inc. Systems, methods and computer program products for implementing processes relating to retail sales
US7791638B2 (en) 2004-09-29 2010-09-07 Immersive Media Co. Rotating scan camera
US20060256109A1 (en) * 2005-03-18 2006-11-16 Kristin Acker Interactive floorplan viewer
US7627235B2 (en) 2006-03-17 2009-12-01 Immersive Media Company Spinning camera enclosure for environmental protection
US7973838B2 (en) 2006-07-07 2011-07-05 Immersive Media Company Active mask for electronic imaging system
CA2658727C (en) 2006-07-25 2017-10-24 Humaneyes Technologies Ltd. Interactive segmentation of images with single scribbles
US8094182B2 (en) 2006-11-16 2012-01-10 Imove, Inc. Distributed video sensor panoramic imaging system
EP2122409B1 (en) 2007-02-25 2016-12-07 Humaneyes Technologies Ltd. A method and a system for calibrating and/or visualizing a multi image display and for reducing ghosting artifacts
US7782319B2 (en) 2007-03-28 2010-08-24 Autodesk, Inc. Three-dimensional orientation indicator and controller
US7936354B2 (en) 2007-04-27 2011-05-03 Graphisoft R&D Zrt. Virtual trace-multiple view modeling system and method
US9035968B2 (en) 2007-07-23 2015-05-19 Humaneyes Technologies Ltd. Multi view displays and methods for producing the same
JP5555229B2 (ja) 2008-06-16 2014-07-23 ヒューマンアイズ テクノロジーズ リミテッド レンチキュラ印刷基材を処理するための方法および装置
US8463020B1 (en) 2008-07-08 2013-06-11 Imove, Inc. Centralized immersive image rendering for thin client
KR101655349B1 (ko) 2008-08-04 2016-09-07 휴먼아이즈 테크놀로지즈 리미티드 허상을 감소시키기 위한 방법 및 시스템
US8411966B2 (en) 2009-03-10 2013-04-02 Her Majesty The Queen In Right Of Canada, As Represented By The Minister Of Industry, Through The Communications Research Centre Canada Estimation of image relations from point correspondences between images
JP5940459B2 (ja) 2010-01-14 2016-06-29 ヒューマンアイズ テクノロジーズ リミテッド 三次元表示においてオブジェクトの深さ値を調整するための方法及びシステム
KR101572892B1 (ko) 2010-05-06 2015-11-30 엘지전자 주식회사 이동 단말기 및 이것의 영상 디스플레이 방법
US9041796B2 (en) 2010-08-01 2015-05-26 Francis Ruben Malka Method, tool, and device for determining the coordinates of points on a surface by means of an accelerometer and a camera
US9361717B2 (en) 2010-10-19 2016-06-07 Humaneyes Technologies Ltd. Methods and systems of generating an interlaced composite image
US8705892B2 (en) 2010-10-26 2014-04-22 3Ditize Sl Generating three-dimensional virtual tours from two-dimensional images
US9129438B2 (en) 2011-01-18 2015-09-08 NedSense Loft B.V. 3D modeling and rendering from 2D images
US9576401B2 (en) 2011-01-22 2017-02-21 Humaneyes Technologies Ltd. Methods and systems of reducing blurring artifacts in lenticular printing and display
US9151608B2 (en) 2011-03-31 2015-10-06 Francis Ruben Malka Apparatus, tool, and method for modifying a portion of a floor plan based on measurements made by one or more sensors
US8996336B2 (en) 2011-03-31 2015-03-31 Francis Ruben Malka Method, tool, and device for assembling a plurality of partial floor plans into a combined floor plan
US20160286119A1 (en) 2011-04-18 2016-09-29 360fly, Inc. Mobile Device-Mountable Panoramic Camera System and Method of Displaying Images Captured Therefrom
US20120293613A1 (en) 2011-05-17 2012-11-22 Occipital, Inc. System and method for capturing and editing panoramic images
US8879828B2 (en) 2011-06-29 2014-11-04 Matterport, Inc. Capturing and aligning multiple 3-dimensional scenes
US9282242B2 (en) 2011-08-24 2016-03-08 Htc Corporation Method and electric device for taking panoramic photograph
US8666815B1 (en) 2011-09-09 2014-03-04 Google Inc. Navigation-based ad units in street view
US9324190B2 (en) 2012-02-24 2016-04-26 Matterport, Inc. Capturing and aligning three-dimensional scenes
US10848731B2 (en) 2012-02-24 2020-11-24 Matterport, Inc. Capturing and aligning panoramic image and depth data
US11094137B2 (en) 2012-02-24 2021-08-17 Matterport, Inc. Employing three-dimensional (3D) data predicted from two-dimensional (2D) images using neural networks for 3D modeling applications and other applications
US8989440B2 (en) 2012-03-27 2015-03-24 Way Out Ip, Llc System and method of room decoration for use with a mobile device
US9641702B2 (en) 2012-04-25 2017-05-02 Humaneyes Technologies Ltd. Methods and systems of generating a lenticular article using a printing blanket
US8699005B2 (en) 2012-05-27 2014-04-15 Planitar Inc Indoor surveying apparatus
US10139985B2 (en) 2012-06-22 2018-11-27 Matterport, Inc. Defining, displaying and interacting with tags in a three-dimensional model
US9786097B2 (en) 2012-06-22 2017-10-10 Matterport, Inc. Multi-modal method for interacting with 3D models
US10127722B2 (en) 2015-06-30 2018-11-13 Matterport, Inc. Mobile capture visualization incorporating three-dimensional and two-dimensional imagery
US10163261B2 (en) 2014-03-19 2018-12-25 Matterport, Inc. Selecting two-dimensional imagery data for display within a three-dimensional model
US9495783B1 (en) 2012-07-25 2016-11-15 Sri International Augmented reality vision system for tracking and geolocating objects of interest
US9423261B2 (en) 2013-02-19 2016-08-23 Here Global B.V. Path curve confidence factors
US11172126B2 (en) 2013-03-15 2021-11-09 Occipital, Inc. Methods for reducing power consumption of a 3D image capture system
US20140307100A1 (en) 2013-04-12 2014-10-16 Kari MYLLYKOSKI Orthographic image capture system
US9635252B2 (en) 2013-04-16 2017-04-25 Disney Enterprises, Inc. Live panoramic image capture and distribution
US9699373B2 (en) 2013-04-28 2017-07-04 Tencnt Technology (Shenzhen) Company Limited Providing navigation information to a point of interest on real-time street views using a mobile device
WO2014204393A1 (en) 2013-06-20 2014-12-24 Diakrit International Ltd. Visualization tool for furniture arrangement in a real estate property
WO2015033253A2 (en) 2013-09-03 2015-03-12 3Ditize Sl Generating a 3d interactive immersive experience from a 2d static image
US9438775B2 (en) 2013-09-17 2016-09-06 Occipital, Inc. Apparatus for real-time 3D capture
US9836885B1 (en) 2013-10-25 2017-12-05 Appliance Computing III, Inc. Image-based rendering of real spaces
US20150116691A1 (en) 2013-10-25 2015-04-30 Planitar Inc. Indoor surveying apparatus and method
US9787904B2 (en) 2013-10-31 2017-10-10 InsideMaps Inc. Methods and apparatuses for capturing images used for generating 3D models of rooms
US9420170B2 (en) 2013-12-30 2016-08-16 Nxp B.V. Graphical user interface for video recording device
US10068344B2 (en) 2014-03-05 2018-09-04 Smart Picture Technologies Inc. Method and system for 3D capture based on structure from motion with simplified pose detection
US9396586B2 (en) 2014-03-14 2016-07-19 Matterport, Inc. Processing and/or transmitting 3D data
US9189839B1 (en) 2014-04-24 2015-11-17 Google Inc. Automatically generating panorama tours
EP3196594B1 (en) 2014-05-05 2021-08-11 Hexagon Technology Center GmbH Surveying system
US20150332464A1 (en) 2014-05-19 2015-11-19 Occipital, Inc. Methods for automatic registration of 3d image data
US10055876B2 (en) 2014-06-06 2018-08-21 Matterport, Inc. Optimal texture memory allocation
US9953111B2 (en) 2014-06-06 2018-04-24 Matterport, Inc. Semantic understanding of 3D data
US9619933B2 (en) 2014-06-16 2017-04-11 Occipital, Inc Model and sizing information from smartphone acquired image sequences
US20160134860A1 (en) 2014-11-12 2016-05-12 Dejan Jovanovic Multiple template improved 3d modeling of imaged objects using camera position and pose to obtain accuracy
KR101638378B1 (ko) 2014-11-28 2016-07-11 주식회사 어반베이스 2차원 도면에 기반한 3차원 자동 입체모델링 방법 및 프로그램
WO2016097940A1 (en) 2014-12-16 2016-06-23 3Ditize Sl 3d rotational presentation generated from 2d static images
WO2016123377A1 (en) 2015-01-28 2016-08-04 Matterport, Inc. Classifying, separating and displaying individual stories of a three-dimensional model of a multi-story structure based on captured image data of the multi-story structure
US20160260250A1 (en) 2015-03-05 2016-09-08 Dejan Jovanovic Method and system for 3d capture based on structure from motion with pose detection tool
CN107667366B (zh) 2015-03-24 2021-12-28 开利公司 用于捕获和分析多维建筑物信息的系统和方法
US10083522B2 (en) * 2015-06-19 2018-09-25 Smart Picture Technologies, Inc. Image based measurement system
CN105120191A (zh) 2015-07-31 2015-12-02 小米科技有限责任公司 视频录制方法和装置
US20170078593A1 (en) 2015-09-16 2017-03-16 Indoor Reality 3d spherical image system
US9953430B1 (en) 2015-10-29 2018-04-24 Indoor Reality Inc. Methods for detecting luminary fixtures
US10706615B2 (en) 2015-12-08 2020-07-07 Matterport, Inc. Determining and/or generating data for an architectural opening area associated with a captured three-dimensional model
US10708573B2 (en) 2016-01-04 2020-07-07 Occipital, Inc. Apparatus and methods for three-dimensional sensing
US10120397B1 (en) 2016-02-11 2018-11-06 Indoor Reality Inc. Interior climate control utilizing multimodal sensor positioning
US10395435B2 (en) * 2016-04-04 2019-08-27 Occipital, Inc. System for multimedia spatial annotation, visualization, and recommendation
US10163271B1 (en) 2016-04-04 2018-12-25 Occipital, Inc. System for multimedia spatial annotation, visualization, and recommendation
US10554896B2 (en) 2016-05-04 2020-02-04 Insidemaps, Inc. Stereoscopic imaging using mobile computing devices having front-facing and rear-facing cameras
US11062383B2 (en) 2016-05-10 2021-07-13 Lowe's Companies, Inc. Systems and methods for displaying a simulated room and portions thereof
US10502363B2 (en) 2016-05-17 2019-12-10 Occipital, Inc. Self-contained mixed reality head mounted display
KR101770648B1 (ko) 2016-05-18 2017-08-23 주식회사 큐픽스 파노라마와 3차원 건물평면도 기반 실내 가상체험 제공 방법, 이를 이용한 휴대용 단말기 및 그 동작 방법
US20180007340A1 (en) 2016-06-29 2018-01-04 Barbara Carey Stachowski Method and system for motion controlled mobile viewing
US10030979B2 (en) 2016-07-29 2018-07-24 Matterport, Inc. Determining and/or generating a navigation path through a captured three-dimensional model rendered on a device
US10204185B2 (en) 2016-08-02 2019-02-12 Indoor Reality Inc. Building scan window detection
US10210285B2 (en) 2016-08-10 2019-02-19 Indoor Reality Inc. Methods for generating a floor plan from a building scan
US10339716B1 (en) 2016-09-19 2019-07-02 Occipital, Inc. System and method for dense, large scale scene reconstruction
US10440361B2 (en) 2016-11-22 2019-10-08 Pixvana, Inc. Variable image data reduction system and method
US10304256B2 (en) 2016-12-13 2019-05-28 Indoor Reality Inc. Point cloud cleaning method
US10181215B2 (en) * 2017-03-30 2019-01-15 EyeSpy360 Limited Generating a virtual map
US10122997B1 (en) 2017-05-03 2018-11-06 Lowe's Companies, Inc. Automated matrix photo framing using range camera input
US10809795B2 (en) 2017-05-31 2020-10-20 Occipital, Inc. Six degree of freedom tracking with scale recovery and obstacle avoidance
US10534962B2 (en) 2017-06-17 2020-01-14 Matterport, Inc. Automated classification based on photo-realistic image/model mappings
US10375306B2 (en) 2017-07-13 2019-08-06 Zillow Group, Inc. Capture and use of building interior data from mobile devices
US10530997B2 (en) 2017-07-13 2020-01-07 Zillow Group, Inc. Connecting and using building interior data acquired from mobile devices
US20190041972A1 (en) 2017-08-04 2019-02-07 Cupix, Inc. Method for providing indoor virtual experience based on a panorama and a 3d building floor plan, a portable terminal using the same, and an operation method thereof
US10304254B2 (en) 2017-08-08 2019-05-28 Smart Picture Technologies, Inc. Method for measuring and modeling spaces using markerless augmented reality
US10540054B2 (en) 2017-09-20 2020-01-21 Matterport, Inc. Navigation point selection for navigating through virtual environments
US9990767B1 (en) 2017-10-24 2018-06-05 Lowe's Companies, Inc. Generation of 3D models using stochastic shape distribution
US10366531B2 (en) 2017-10-24 2019-07-30 Lowe's Companies, Inc. Robot motion planning for photogrammetry
US10235797B1 (en) 2017-11-27 2019-03-19 Lowe's Companies, Inc. Inverse rendering of visual material properties
US10192115B1 (en) 2017-12-13 2019-01-29 Lowe's Companies, Inc. Virtualizing objects using object models and object position data
US11494857B2 (en) 2018-02-15 2022-11-08 Flyreel, Inc. Property inspection system and method
US10643386B2 (en) 2018-04-11 2020-05-05 Zillow Group, Inc. Presenting image transition sequences between viewing locations
KR101930796B1 (ko) 2018-06-20 2018-12-19 주식회사 큐픽스 이미지를 이용한 3차원 좌표 계산 장치, 3차원 좌표 계산 방법, 3차원 거리 측정 장치 및 3차원 거리 측정 방법
CA3058602C (en) 2018-10-11 2023-01-24 Zillow Group, Inc. Automated mapping information generation from inter-connected images
US10809066B2 (en) 2018-10-11 2020-10-20 Zillow Group, Inc. Automated mapping information generation from inter-connected images
US10708507B1 (en) 2018-10-11 2020-07-07 Zillow Group, Inc. Automated control of image acquisition via use of acquisition device sensors
US11243656B2 (en) 2019-08-28 2022-02-08 Zillow, Inc. Automated tools for generating mapping information for buildings
US20220164493A1 (en) 2019-08-28 2022-05-26 Zillow, Inc. Automated Tools For Generating Mapping Information For Buildings
WO2021041854A1 (en) 2019-08-30 2021-03-04 Nvidia Corporation Object detection and classification using lidar range images for autonomous machine applications
US11164368B2 (en) 2019-10-07 2021-11-02 Zillow, Inc. Providing simulated lighting information for three-dimensional building models
US11164361B2 (en) 2019-10-28 2021-11-02 Zillow, Inc. Generating floor maps for buildings from automated analysis of visual data of the buildings' interiors
US11676344B2 (en) 2019-11-12 2023-06-13 MFTB Holdco, Inc. Presenting building information using building models
US10825247B1 (en) 2019-11-12 2020-11-03 Zillow Group, Inc. Presenting integrated building information using three-dimensional building models
US11405549B2 (en) 2020-06-05 2022-08-02 Zillow, Inc. Automated generation on mobile devices of panorama images for building locations and subsequent use
US11514674B2 (en) 2020-09-04 2022-11-29 Zillow, Inc. Automated analysis of image contents to determine the acquisition location of the image
US20220092227A1 (en) 2020-09-22 2022-03-24 Zillow, Inc. Automated Identification And Use Of Building Floor Plan Information
US11592969B2 (en) 2020-10-13 2023-02-28 MFTB Holdco, Inc. Automated tools for generating building mapping information
US11481925B1 (en) 2020-11-23 2022-10-25 Zillow, Inc. Automated determination of image acquisition locations in building interiors using determined room shapes
US11252329B1 (en) 2021-01-08 2022-02-15 Zillow, Inc. Automated determination of image acquisition locations in building interiors using multiple data capture devices
US11836973B2 (en) * 2021-02-25 2023-12-05 MFTB Holdco, Inc. Automated direction of capturing in-room information for use in usability assessment of buildings
US11790648B2 (en) * 2021-02-25 2023-10-17 MFTB Holdco, Inc. Automated usability assessment of buildings using visual data of captured in-room images
US11501492B1 (en) 2021-07-27 2022-11-15 Zillow, Inc. Automated room shape determination using visual data of multiple captured in-room images

Also Published As

Publication number Publication date
US11842464B2 (en) 2023-12-12
CA3145605C (en) 2023-10-24
AU2022200474B2 (en) 2024-01-18
EP4156086A1 (en) 2023-03-29
CA3145605A1 (en) 2023-03-22
AU2022200474A1 (en) 2023-04-06
US20230095173A1 (en) 2023-03-30

Similar Documents

Publication Publication Date Title
US11238652B2 (en) Presenting integrated building information using building models
US11164361B2 (en) Generating floor maps for buildings from automated analysis of visual data of the buildings' interiors
US11243656B2 (en) Automated tools for generating mapping information for buildings
CA3139429C (en) Automated determination of image acquisition locations in building interiors using determined room shapes
US11514674B2 (en) Automated analysis of image contents to determine the acquisition location of the image
AU2022200474B2 (en) Automated exchange and use of attribute information between building images of multiple types
EP4027301A1 (en) Automated determination of image acquisition locations in building interiors using multiple data capture devices
US11501492B1 (en) Automated room shape determination using visual data of multiple captured in-room images
EP4207069A1 (en) Automated building information determination using inter-image analysis of multiple building images
EP4307199A1 (en) Automated building identification using floor plans and acquired building images
EP4141702A1 (en) Automated mapping information generation from analysis of building photos
EP4312143A1 (en) Automated tools for incremental generation of building mapping information
CN117253139A (zh) 用于评估建筑物测绘信息生成的自动化工具
EP4358026A1 (en) Automated determination of acquisition locations of acquired building images based on identified surrounding objects

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: Washington State

Applicant after: Zillow LLC

Address before: Washington State

Applicant before: ZILLOW Inc.

CB02 Change of applicant information
TA01 Transfer of patent application right

Effective date of registration: 20230424

Address after: Washington State

Applicant after: MFTB Co.,Ltd.

Address before: Washington State

Applicant before: Pushsabo I Co.

Effective date of registration: 20230424

Address after: Washington State

Applicant after: Pushsabo I Co.

Address before: Washington State

Applicant before: Zillow LLC

TA01 Transfer of patent application right