CN111275818A - 提供实时特征三角测量的方法和装置 - Google Patents

提供实时特征三角测量的方法和装置 Download PDF

Info

Publication number
CN111275818A
CN111275818A CN201911225773.9A CN201911225773A CN111275818A CN 111275818 A CN111275818 A CN 111275818A CN 201911225773 A CN201911225773 A CN 201911225773A CN 111275818 A CN111275818 A CN 111275818A
Authority
CN
China
Prior art keywords
images
image
feature
real
triangulation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911225773.9A
Other languages
English (en)
Inventor
A·维斯瓦纳坦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Here Global BV
Original Assignee
Here Global BV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Here Global BV filed Critical Here Global BV
Publication of CN111275818A publication Critical patent/CN111275818A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/29Geographical information databases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/757Matching configurations of points or features

Abstract

提供了一种用于生成反向序列或实时流图像以进行三角测量的方法。该方法包括在驾驶过程中接收由车辆的传感器捕获的实时图像流;从实时流中抽取两个或多个图像序列;反转两个或多个图像的序列;并提供两个或多个图像的反转的序列进行特征三角测量。

Description

提供实时特征三角测量的方法和装置
技术领域
本发明涉及位置的服务和应用领域,尤其涉及一种提供实时特征三角测量的方法和装置。
背景技术
现代的基于位置的服务和应用(例如,自动驾驶)对在广阔的地理区域中的高度精确和详细的数字地图数据(例如,厘米级别的精度或更佳)的需求日益增加。为了达到这样的覆盖范围,地图服务提供商依赖于从具有不同视图或视角的各种来源收集的数据(例如图像)(例如,地面车辆的地面图像等)。然后可以将这些图像对之间的观察到的关键点(例如,识别出的地图特征)与相机姿态信息结合使用,以对相应特征的真实位置进行三角测量。但是,服务提供商面临着巨大的技术挑战,以确保这种三角测量的准确性,特别是当特征相对于图像帧较小时(例如,覆盖图像中的少量像素),这使得特征识别具有挑战性。
发明内容
因此,需要一种方法,以实时或接近实时地从图像数据提供特征位置的更高精度的重建或三角测量。
根据一个实施例,一种用于生成三角测量的实时流图像的反转序列的方法包括:在驾驶期间接收由车辆的传感器捕获的图像的实时流。该方法还包括从实时流中抽取两个或更多个图像的序列。两个或更多个图像的序列被反转。该方法还包括提供两个或更多个图像的反向序列以用于特征三角测量。
根据另一实施例,一种装置包括至少一个处理器;至少一个存储器,包括用于一个或多个程序的计算机程序代码,所述至少一个存储器和所述计算机程序代码被配置为与所述至少一个处理器一起使所述装置接收在行驶过程中由车辆的传感器捕获的实时图像流。该设备被配置为从实时流中抽取两个或更多个图像的序列。两个或更多个图像的序列被反转。该设备还被配置为提供两个或更多个图像的反转的序列以用于特征三角测量。
根据另一实施例,一种计算机可读存储介质承载一个或多个指令的一个或多个序列,当由一个或多个处理器执行时,该指令至少部分地使得装置接收在行驶过程中由车辆的传感器捕获的图像的实时流。。该设备还从实时流中抽取两个或多个图像的序列。两个或更多个图像被反转。该设备还提供两个或更多个图像的反转序列以用于特征三角测量。
一种设备,包括用于在行驶期间接收由车辆的传感器捕获的实时图像流的装置。它还包括用于从实时流中抽取两个或多个图像序列的装置。两个或更多个图像被反转。该设备还包括用于提供两个或更多个图像的反转序列以用于特征三角测量的装置。
另外,对于本发明的各种示例实施例,以下适用:一种方法,包括实施以下的处理和/或处理(1)数据和/或(2)信息和/或(3)至少一个信号,至少部分基于(或至少部分源自)在本申请中公开的与本发明的任何实施例有关的任何一种方法或方法(或过程)的任意组合的(1)数据和/或(2)信息和/或(3)至少一个信号。
对于本发明的各种示例实施例,以下内容也是适用的:一种方法,其包括:便于访问被配置为允许访问至少一个服务的至少一个接口,所述至少一个服务被配置为执行任何一个在本申请公开的网络或服务提供商方法(或过程)或其任何组合。
对于本发明的各种示例实施例,以下内容也是适用的:一种方法,其包括实施创建和/或实施修改(1)至少一个设备用户界面单元和/或(2)至少一个设备用户界面功能,(1)至少部分基于数据和/或信息的至少一个设备用户界面单元和/或(2)至少一个设备用户界面功能,这些数据和/或信息是由一种或多种方法或过程的任意组合产生的该申请与本发明的任何实施例有关,和/或由本申请中公开的与本发明的任何实施例有关的方法(或过程)的一种或任何组合产生的至少一个信号。
对于本发明的各种示例实施例,以下内容也适用:一种方法,包括创建和/或修改(1)至少一个设备用户界面单元和/或(2)至少一个设备用户界面功能,至少部分基于设备和/或信息的(1)至少一个设备用户界面单元和/或(2)至少一种设备用户界面功能,这些数据和/或信息是由本申请中公开的一种或多种方法(或过程)组合产生的与本发明的任何实施例有关的信号和/或由本申请中公开的与本发明的任何实施例有关的方法(或过程)的一种或任何组合产生的至少一个信号。
在各种示例实施例中,方法(或过程)可以在服务提供商侧或在移动设备侧或以服务提供商与移动设备之间的任何共享方式在两侧执行动作来实现。
对于各种示例实施例,适用以下内容:一种装置,包括用于执行任何原始提交的方法权利要求中的步骤的装置。
本发明的其他方面,特征和优点从下面的详细描述中容易地显而易见,仅通过示出许多特定的实施例和实施方式,包括为实现本发明而设想的最佳模式。本发明还能够具有其他和不同的实施例,并且可以在各种明显的方面修改其几个细节,所有这些都不脱离本发明的精神和范围。因此,附图和描述本质上应被认为是说明性的,而不是限制性的。
附图说明
在随附的图中通过示例而非限制的方式示出了本发明的实施例:
图1是根据一个实施例的能够产生用于三角测量的实时流图像的反向序列的系统的图;图2是根据一个实施例的示例图像对的图;
图3是根据一个实施例的映射平台的组件的图;
图4是根据一个实施例的至少用于生成实时流图像的反序列以进行三角测量的过程的流程图;
图5A和5B示出了根据一个实施例的传统三角测量(图5A)和基于反转图像序列的三角测量的比较。
图6是根据一个实施例的系统的地理数据库的图;
图7是可用于实施实施例的硬件的图;
图8是可用于实施实施例的芯片组的图。和
图9是可用于实现实施例的移动终端(例如,手机,车辆或其组件)的图。
具体实施方式
公开了用于实时地或接近实时地对来自多个图像的特征的位置进行三角测量的方法,装置和计算机程序的示例。示例包括生成实时流图像的反转序列以进行三角测量。在下面的描述中,出于解释的目的,阐述了许多具体细节以便提供对本发明的实施例的透彻理解。然而,对于本领域技术人员显而易见的是,可以在没有这些具体细节或具有等效布置的情况下实践本发明的实施例。在其他实例中,以框图形式示出了公知的结构和设备,以避免不必要地混淆本发明的实施例。
图1是根据一个实施例的能够产生用于三角测量的实时流图像的反转序列的系统的图。。从基于二维(2D)图像的观测中重建三维(3D)环境是创建数字地图数据的重要功能。例如,重建过程称为三角测量(triangulation),并在成对的图像帧及其关联的相机姿态信息之间使用相同的观察关键点(例如,观察到的对象或特征的图像位置)来对2D特征(例如,2D要素的图像位置)三角测量为3D环境,例如作为地理坐标(例如,纬度,经度,海拔)。然后,将3D三角测量的特征(例如特征地理坐标)用于构建数字地图(例如存储在地理数据库101中的数字地图)。
通常,传统的三角测量方法按时间顺序获取由车辆103和/或设备(例如,用户设备(UE)105)的相机传感器收集的图像数据(例如,图像帧序列)。因此,在传统的三角测量方法中,朝向地平线的特征点(例如路标,路标,杆等)首先出现在图像的中心,因为当车辆103和/或UE 105朝着特征移动时它们距离得更远并且从每个后续收集的图像中的扩展焦点向外移动。通过从一个图像序列的第一时间序列图像开始,该序列的较早图像帧对中的相同特征通常位于中心,而每对两个图像之间的变化很小。换句话说,相同特征之间的视差差异由于靠近图像中心而非常小。反过来,这可能会导致较大的三角测量误差,因为三角测量依赖于视差才能将观察到的特征的图像或像素位置转换为真实世界的3D坐标。如果相关联的特征看起来靠近图像中心,其他三角测量方法(例如同时定位和地图绘制(SLAM))也会遭受3D特征的重建,因此会缺少视差。
在示例图2中示出了该视差问题。参照图2,示例图像对201包括在时间上比第二图像203b更早收集的第一图像203a。举例来说,图像对201可以是由车辆103的相机传感器收集的图像序列的一部分。每隔指定的时间间隔(例如,每秒,每5秒,等等),也可以是视频流(例如,每秒24、30、60等次收集的图像帧序列),以显示车辆103的实施的行驶。在此示例中,图像203a描绘了在具有像素位置207a的图像的地平线和中心附近的远处的标记205,图像203b在行驶中的稍晚时间在像素位置207b中描绘了相同的标记205。由于行驶仍处于图像序列的早期,因此标记的图像位置207a和207b之间的视差(例如,标记205的视在位置上的差异)也非常小。如上所述,这可能导致较大的三角测量误差。另外,因为在两个图像中标记205仍然相对较小,所以在每个图像中表示标记205的像素数据也相对。这种少量的像素数据还会使特征检测器(例如,基于计算机视觉或感知堆栈)检测和识别标记205更加困难。检测失败也会降低系统100准确执行三角测量的能力。
因此,服务提供商面临着重大的技术挑战,以提高传统的特征检测和三角测量方法的准确性,以从图像数据中生成准确的3D地图数据。
在一个实施例中,解决这些挑战的技术解决方案包括在向上期间捕获图像以映射可照片识别的特征,然后使用诸如车辆轨迹(例如,一系列或探测点或GPS)等离线数据处理图像表示行驶过程中捕获车辆的姿态的点)在对特征进行三角测量之前反转图像的序列。在一个实施例中,图像的反转序列使得能够在三角测量期间首先处理描述尺寸较大或接近图像边缘的特征的图像,以增加视差,从而增加三角测量精度。在这种情况下,车辆轨迹是离线数据,因为该轨迹是从车辆收集的,并且在行驶完成之后被存储以进行处理,使得车辆轨迹与整个行驶的图像的捕获时间的时间顺序之间存在对应关系。然而,因为在图像可以按时间顺序反转之前,系统100将必须等待完整的车辆轨迹被收集,所以该解决方案不适用于实时使用情况,其中在行驶期间收集图像流时执行三角测量。实时使用的案例提出了额外技术挑战。
为了解决与特征的实时三角测量相关联的技术挑战,图1的系统100包括:图1介绍了在实时/半实时上下文中使用序列排序机制的能力,该机制可以动态地反转由用于特征三角测量车辆103和/或UE105的相机传感器数据捕获的实时图像流的两个或多个图像帧的序列。在一个实施例中,系统100可以使用相对于图像的中心的特征扩张/特征运动来对图像帧进行重新排序,从而首先处理其中看起来较大的特征(例如,地图特征107)的图像。对它们各自的3D位置进行三角测量。换句话说,系统100提供了实时解决方案,以对来自图像的反向时间序列的特征进行三角测量(例如,反向以增加视差和三角测量精度),而不必等待车辆103和103的整个行驶轨迹的收集。/或UE 105,然后在离线过程中执行三角测量。例如,系统103收集表示指定数目的帧(例如,少量图像帧,例如两个或多个)的序列,以在反转指定数目的帧以进行三角测量之前收集或缓存。在一个实施例中,可以根据实时或接近实时三角测量所需的目标等待时间水平来改变指定的帧数。例如,两个图像帧可用于使等待时间最小化,这仍然提供反转图像的能力,而较大数量的指定帧可潜在地以更大的等待时间(例如,与收集时间相关联的等待时间)为代价提供增加的视差。序列反转和三角测量之前指定的图像帧数)。在一个实施例中,随着车辆103和/或UE 105在行驶期间执行捕获实时流,可以在执行序列反转和三角测量之前将实时流的指定数目的图像帧的序列缓存在缓存存储器中。当处理了指定数量的帧中的一个序列时,可以存储和处理下一个帧序列,以用于反转和三角测量。
以这种方式,可以实时或接近实时地解决相关特征107之间的视差不足的问题。例如,在由车辆103或UE 105行驶期间,系统100运行反转实时捕获的指定数量的图像的每个序列的时间顺序(例如,以指定采样率捕获的视频序列或单个图像),使得图像中存在的特征107出现在图像的边缘并向内移动到图像中心。如所讨论的,图像数据的这种反转排序和三角测量有利地提供了更好的视差,并进而提供了改进的3D三角测量。
在一个实施例中,根据这里所描述的实施例,系统100包括映射平台109,该映射平台109用于单独地或与计算机视觉系统111(例如,基于机器学习的特征检测器)组合地根据图像对特征位置进行三角测量。如图3所示,映射平台109包括图像数据模块301,轨迹模块303,特征检测模块305,三角测量模块307和特征关联模块309。映射平台109的上述模块和组件可以以硬件,固件,软件或其组合来实现。可以想到,这些组件的功能可以由等效功能的其他组件组合或执行。尽管在图1中被描绘为单独的实体,但是可以想到映射平台109可以被实现为系统100的任何组件的模块。例如,映射平台109可以是服务平台113和/或任何服务115a-115n(也统称为服务平台113的服务115)的组件。在一个实施例中,映射平台109和/或模块301-313中的任何一个可以被实现为基于云的服务,本地服务,本地应用程序或其组合。下文关于图4和5A-5B讨论映射平台109和/或这些模块的功能。
图4是根据一个实施例的至少用于三角测量的过程400的流程图,该多个三角测量从多个实时流图像中生成特征的位置反转序列以进行三角测量。。在各个实施例中,映射平台109和/或模块301-313中的任何一个可以执行过程400的一个或多个部分,并且可以在例如包括如图8所示的处理器和存储器的芯片组中实现。这样,映射平台109和/或模块301-313中的任何一个可以提供用于完成过程400的各个部分的装置,以及用于结合系统100的其他组件来实现本文所述的其他过程的实施例的装置。尽管过程400被示为和描述为一系列步骤,但是其预期过程400的各种实施例可以以任何顺序或组合来执行并且不需要包括所有图示的步骤。
在步骤401中,图像数据模块301检索多个图像。,车辆的传感器(例如,车辆103和/或其他设备,例如UE 105)的传感器捕获多个图像,以使图像描绘由在行驶过程中由车辆遇到的特征,道路和/或其他环境特征或物体。在行驶期间,车辆(例如,车辆103和/或其他设备,例如UE 105)的传感器捕获图像的实时流。注意到,本文描述的实施例中对交通工具的任何讨论均适用于交通工具103,UE 105和/或能够捕获本文描述的图像实时流的任何其他平台/系统。传感器可以是相机传感器或能够实时捕获或实时产生图像数据的其他类型的传感器,并且其中相机或传感器的姿势数据指示相机位置,相机指向,相机视场或其组合。对应于每个图像。车辆103或UE 105的相机传感器和/或其他组件被配置为对在行驶期间获取的数据(例如,图像)运行感知算法。图像可用于检测图像中包含的任何可照片识别的功能。相机传感器可以将图像捕获为每预定时间段捕获的静止图像的实时流或捕获的视频。
在步骤403和405中,从传感器捕获的实时图像流中抽取两个或多个图像序列。序列抽取/排序模块303被配置为从实时流抽取图像序列。从多个图像中至少抽取第一图像和第二图像。抽取/排序模块303还被配置为基于通过使用车辆轨迹确定的各个图像捕获时间以相反的时间顺序来布置第一图像和第二图像。换句话说,在驱动过程中,第一图像是在比第二图像晚的时间和不同的位置捕获的。一系列后续图像也将被抽取,并由抽取/排序模块303将其序列反转。另外或可替代地,可根据检测到的特征的图像大小和/或图像边缘的接近度来排列图像。第一图像描绘的特征也以比第二图像更大或更接近图像边缘的尺寸存在于第二图像中。抽取/排序模块303被配置为允许正确地对两个或更多个图像的序列进行排序,使得选择该序列以确保反向执行特征三角测量。当图像数据从传感器或在线流传输时,提供了特征关联模块305,基于特征何时首先出现在传感器的视野中并且然后一旦车辆经过该特征并且不再处于传感器视野中时触发该特征的三角测量,该特征相关模块来维持特征关联。
在替代实施例中,可以由序列缓存模块307执行近实时上下文中的图像序列缓存。在该替代实施例中,多个图像,例如由传感器捕获的三个或更多个图像。在执行三角测量之前,将存储或缓存数据。实时流的最新指定数量的图像被缓存在缓存存储器中。从缓存存储器中抽取两个或更多个图像的反转序列。此外,前向后缓存方案允许更新三角测量的特征位置,因为随着传感器流送更多的图像数据,反转三角测量的特征得以细化。通过车载计算机硬件和/或软件,可以使用此向前-向后缓存方案进行实时特征三角测量。
轨迹模块303确定行驶过程中所乘车辆的轨迹。车辆轨迹包括与行驶期间行驶的车辆沿着路径的路径或方向有关的数据。与车辆轨迹有关的数据作为实时流获得,并由车辆的位置探测器传感器确定。车辆轨迹还包括指示车辆在行驶期间朝着特征行驶的数据。车辆轨迹还包括指示车辆在行驶期间朝着特征行驶的数据。车辆轨迹是由一个或多个位置传感器(包括基于卫星的位置传感器(例如GPS/GNSS),惯性测量传感器)确定的时间探测点的时间顺序序列,该一个或多个位置传感器可以通过考虑车辆来移动、和/或车辆103和/或UE 105配备或可用的任何其他位置传感器来提高定位精度。车辆轨迹包括UE数据和/或UE105。车辆轨迹包括提供按时间排序的数据点的探测数据,其中每个点提供带有时间戳的车辆位置,航向和/或等效遥测数据。还可在任何两个数据点之间计算车速。车辆可以包括GPS或其他基于卫星的接收器,以从卫星获取地理坐标以确定当前位置和时间。此外,可以通过视觉测距法,三角测量系统(例如A-GPS),源小区或其他位置推断技术来确定位置。
图像数据模块301被配置为从多个图像中至少选择第一图像和第二图像。图像选择模块301还被配置为基于通过使用车辆轨迹确定的各个图像捕获时间以相反的时间顺序排列第一图像和第二图像。换句话说,在行驶过程中,第一图像是在比第二图像晚的时间和不同的位置捕获的。随后的图像也将按相反的时间顺序排列。附加地或可替代地,可以根据所检测到的特征的图像尺寸和/或与图像边缘的接近度来布置图像,使得第一图像以比第二图像更大或更接近图像边缘的尺寸描绘存在于第二图像中的特征。
特征检测模块311处理图像的实时流,以在每个图像中检测和关联相同的特征。特征检测模块311识别出现在每个捕获图像中的特征。换句话说,特征检测模块311识别出现在第一图像和第二图像两者中的特征。在一个实施例中,特征检测模块305包括计算机视觉系统111或与计算机视觉系统111交互以使用训练的机器学习模型(例如,神经网络,支持向量机,决策树等)来识别和检测跨多个图像的特征(例如,道路涂料,标志,杆和/或任何其他可光识别的特征)。如前所述,图像被布置为使得第一图像中的特征的第一图像尺寸看起来大于第二图像中的特征的第二图像尺寸。这是由于以下事实:车辆靠近第一图像中的特征,并且车辆距离第二图像和后续图像中的特征更远。这是因为,在一个实施例中,相机被安装面向在行驶方向上的前方,并且图像序列已经基于车辆的轨迹被反转。此外,在某些实施例中,第一图像中的特征的第一图像位置比第二图像中的特征的第二图像位置更靠近图像边缘。在第二图像和后续图像中的特征的第二图像位置向图像中心移近。再次,这是根据车辆的行驶轨迹数据和面向前方的相机指向方向反转排序的结果。该特征可以是图像中任何可照片识别的特征,并且可以位于图像中的不同位置。在某些示例中,尽管随着车辆继续接近该特征,特征的大小会增加,然后随着车辆接近而越过图像,它会朝着图像的顶部边缘移动,然而特征可以最初出现在图像中心并在后续图像中基本上保持在横向图像中心。这种类型的特征可能是高架交通信号或位于道路上方的路标。类似地,嵌入在道路中的特征(例如下水道盖)也可以大约出现在横向中心处,但是随着车辆的驶近和经过而朝着图像的底部边缘移动。
在步骤407中,三角测量模块313从图像的反向序列中执行特征三角测量。三角测量模块313处理第一图像和第二图像中的检测到的特征,以三角测量特征的位置。基于传感器姿势数据(例如相机姿势数据)的第一图像和第二图像,以及检测到的特征在第一图像帧和第二图像帧中的各个图像位置,对特征的位置进行三角测量。在第一图像和第二图像中对检测到的特征的处理包括计算视差值。视差是沿着两条不同的视线看到的特征的视在位置上的位移或差异,并通过这两条线之间的倾斜角度或半角度来测量。更近的特征具有比从不同位置观察时更遥远的特征的较大的视差,因此视差可用于确定距离。基于计算的视差值还对特征进行三角测量。本发明的方法改善了重建,即,对来自图像的特征的位置进行了三角测量,并使用这些改进的三角测量结果来构建或更新数字地图。
在一个实施例中,可以预期的是,本文描述的特征三角测量方法的实施例可以应用于任何类型的特征三角测量方法。这样做的前提是,诸如车辆轨迹数据之类的数据可用于反转图像相对于其捕获时间的序列,和/或当车辆驶过特征时所观察到的特征(例如路标)出现在车辆中并离开视场。
图5A和图5B示出了传统三角测量(图5A)与根据本文所述实施例的三角测量方法(图5B)之间的比较,该三角测量方法在可获得相机姿势和相关联的基于图像的观察的情况下提供了更高精确度的三角测量。如图5A所示,使用传统的三角测量方法,朝向地平线505的特征501看起来更靠近图像i的中心503,并且随着时间的推移从扩展焦点向图像ii和iii的边缘507向外移动,由方向箭头509表示。利用传统技术,当两个帧观察到相同特征时,由于靠近图像中心503而导致的视差导致大的三角测量误差。特征关联511存在于图像ii和iii之间,但是由于特征更小且更靠近中心503,因此图像i中缺少特征关联511,因此如果不与其他图像先验关联,计算机视觉系统111将更难检测到。图5A中的特征501是一个路标,图像i最初很小,随着图像ii和iii中距移动车辆越来越近,尺寸逐渐变大。该特征关联511在该传统方法中失败,因为特征501在图像i中的尺寸较小,并且当图像ii和iii中的特征501较大时唯一特征关联511发生,这导致较小的视差和较大的三角测量误差。
在图5B的示例中,根据本文描述的实时图像的反转序列的实施例,以相反时间顺序处理图像i,ii和iii。例如,映射平台109基于诸如实时流车辆轨迹数据的可用数据来执行相反的时间顺。特征501在图像iii中显得较大,而在随后的图像ii和i中尺寸减小。因此,特征关联511存在于图像iii,ii和i中的每一个之间。在利用所捕获图像的时间顺序反转的本方法中,不存在丢失的特征关联,因为首先在图像的特征可能较大的图像上执行初始或基准关联,因此计算机视觉系统111更容易准确地进行检测。本文所述的三角测量方法的实施例解决相关联的特征之间缺乏视差的问题,从而显着改善了三角测量结果的质量。
在图5B的示例中,反向处理实时流车辆轨迹数据(例如,指示诸如车辆位置和航向之类的车辆姿态数据)和相关联的特征,使得特征501出现在图像iii的边缘507处并且进一步向内移动至图像ii和i的中心503。以此方式,本文描述的实施例改善了视差并且继而改善了三角测量。在图5B的示例中,观察到的特征501被表示为道路标志,但是可以是与道路段相邻的任何可光识别的特征,例如路灯柱,里程标记,交通信号灯,建筑物,纪念碑等。具有较大特征尺寸的图像将首先被处理。然后提供反转的图像序列以进行特征三角测量。
在图5B中,当以反转的顺序处理图像帧时,特征501(例如,标记)最初在图像帧iii中显得较大,并且帧i,ii和iii之间的特征关联511是成功的。现在可以针对图像i中较小尺寸的特征501执行特征关联511。由于图像帧iii中的特征501用作基准,并且更大,因此三角测量精度得到了提高。在图5B的示例中获得和/或处理的数据在某些实施例中可以在线使用。
返回图1,在一个实施例中,映射平台109具有通过通信网络119到提供一个或多个服务115的服务平台113的连通性。作为示例,服务115也可以是其他第三方服务并且包括映射服务、导航服务、旅行计划服务、通知服务、社交网络服务,内容(例如,音频,视频,图像等)供应服务、应用程序服务、存储服务、上下文信息确定服务、基于位置的服务,基于信息的服务等(例如天气、新闻等)。在一个实施例中,服务平台113使用地图绘制平台109的输出(例如,由其生成的三角特征或地图数据)来提供服务,例如导航,地图绘制,其他基于位置的服务等。
在一个实施例中,映射平台109可以是具有多个互连组件的平台,并且可以包括多个服务器,智能联网设备,计算设备,组件以及用于预测传感器错误的相应软件。另外,应注意,映射平台109可以是系统100的单独实体,一个或多个服务115的一部分,服务平台113的一部分,或包括在车辆103和/或UE 105内(例如,作为应用程序117)。
在一个实施例中,内容提供商121a-121k(统称为内容提供商121)可以向地理数据库101、地图平台109、服务平台113、服务115和车辆103提供内容或数据(例如,包括基于特征三角测量的地理数据,传感器数据等)。所提供的内容可以是任何类型的内容,例如地图内容、文本内容、音频内容、视频内容、图像内容等。内容提供商121可以提供可以帮助预测传感器错误的内容。在一个实施例中,内容提供商121还可以存储与地理数据库101、地图平台109、服务平台113、服务115和/或车辆103相关联的内容。在另一个实施例中,内容提供者121可以管理对中央数据存储库的访问,并提供对数据的一致的标准接口,例如地理数据库101的存储库。
作为示例,UE 105可以是任何类型的嵌入式系统,移动终端,固定终端或便携式终端,包括内置导航系统,个人导航设备,移动手持机,站,单元,设备,多媒体计算机,多媒体平板电脑,Internet节点,通信器,台式计算机,膝上型计算机,笔记本计算机,上网本计算机,平板计算机,个人通信系统(PCS)设备,个人数字助理(PDA),音频/视频播放器,数码相机/便携式摄像机,定位设备,健身设备,电视接收器,无线电广播接收器,电子书设备,游戏设备或其任意组合,包括这些设备的附件和外围设备或其任意组合。还可以预期,UE 105可以支持与用户的任何类型的接口(例如“可穿戴”电路等)。在一个实施例中,UE 105可以与车辆103相关联或者是车辆103的组成部分。
在一个实施例中,车辆103配置有用于生成或收集车辆传感器数据(例如,图像数据,车辆轨迹数据等)以及相关的地理/地图数据等的各种传感器。感测到的数据表示与地理位置或在其上收集传感器数据的坐标相关联的传感器数据。以这种方式,传感器数据可以用作观察数据,可以将其汇总为位置感知的训练和评估数据集。通过示例的方式,传感器可以包括RADAR系统,LiDAR系统,用于收集位置数据的全球定位传感器(例如,GPS),用于检测无线信号的网络检测传感器或用于不同短程通信的接收器(例如,蓝牙,Wi-Fi,Li-Fi,近场通信(NFC)等),时间信息传感器,用于收集图像数据的相机/成像传感器,用于收集音频数据的录音机,安装在汽车方向盘上的速度传感器车辆,用于确定是否接合一个或多个车辆开关的开关传感器等。
车辆103的传感器的其他示例可以包括光传感器、增强了高度传感器的方向传感器和加速度传感器(例如,加速度计可以测量加速度并可以用来确定车辆的方向)、检测车辆沿着行驶路径的倾斜或下降的程度的倾斜传感器、湿度传感器,压力传感器等。在另一个示例实施例中,围绕车辆周界的传感器103可以检测到车辆与物理分隔物,车道或道路的相对距离,是否存在其他车辆,行人,交通信号灯,坑洼和任何其他物体,或其组合。在一种情况下,传感器可以检测天气数据,交通信息或其组合。在一个实施例中,车辆103可以包括GPS或其他基于卫星的接收器,以从卫星获得地理坐标以确定当前位置和时间。此外,可以通过视觉测距法,三角测量系统(例如A-GPS),源小区或其他位置推断技术来确定位置。在又一实施例中,传感器可以确定汽车的各种控制元件的状态,例如雨刮器的致动,制动踏板的使用,加速踏板的使用,方向盘的角度,危险灯的致动,转向灯的致动。前照灯等。
在一个实施例中,系统100的通信网络119包括一个或多个网络,诸如数据网络,无线网络,电话网络或其任何组合。可以预期,数据网络可以是任何局域网(LAN),城域网(MAN),广域网(WAN),公共数据网(例如,因特网),短距离无线网络或任何其他合适的分组交换网络,例如商业拥有的专有分组交换网络,例如专有电缆或光纤网络等,或其任何组合。另外,无线网络可以是例如蜂窝网络,并且可以采用各种技术,包括用于全球演进(EDGE),通用分组无线业务(GPRS),用于移动通信的全球系统(GSM),互联网协议的增强数据速率。多媒体子系统(IMS),通用移动电信系统(UMTS)等,以及任何其他合适的无线介质,例如,微波访问(WiMAX),长期演进(LTE)网络,码分多址(CDMA),宽带码分多址(WCDMA),无线保真(Wi-Fi),无线LAN(WLAN),
Figure BDA0002302158390000141
Internet协议(IP)数据广播,卫星,移动自组织网络(MANET)和类似网络,或其任何组合。
举例来说,映射平台109,服务平台113,服务115,车辆103和/或内容提供者121彼此通信,并且使用众所周知的,新的或仍在开发中的协议与系统100的其他组件进行通信。在此上下文中,协议包括一组规则,这些规则定义基于在通信链路上发送的信息而在通信网络119内的网络节点如何彼此交互。从产生和接收各种类型的物理信号,到选择用于传输这些信号的链路,到这些信号指示的信息格式,到识别在计算机系统上执行的哪个软件应用程序发送或接收信息,协议在每个节点内的不同操作层上均有效。开放系统互连(OSI)参考模型中描述了用于通过网络交换信息的概念上不同的协议层。
网络节点之间的通信通常通过交换离散的数据分组来实现。每个分组通常包括(1)与特定协议相关联的标头信息,以及(2)有效载荷信息,该有效载荷信息跟随该标头信息,并包含可以独立于该特定协议进行处理的信息。在一些协议中,分组包括(3)尾部信息,其在有效载荷之后并指示有效载荷信息的结尾。包头包括例如数据包的来源,其目的地,有效载荷的长度以及协议使用的其他属性的信息。通常,特定协议的有效负载中的数据包括用于与不同的更高层OSI参考模型相关的不同协议的包头和有效负载。特定协议的包头通常指示其有效负载中包含的下一个协议的类型。所述的高层协议被封装在较低层协议中。通过多个异构网络(例如Internet)的数据包中包含的标头通常包括物理(第1层)标头,数据链路(第2层)标头,互联网络(第3层)标头和传输(第4层)标头,以及OSI参考模型定义的各种应用程序(第5层,第6层和第7层)标头。
图6是根据一个实施例的地理数据库的图。在一个实施例中,地理数据库101包括用于(或配置为被编译以用于)地图和/或导航相关服务的地理数据601。在一个实施例中,使用多边形(例如,二维特征)或多边形挤压(polygon extrusions)(例如,三维特征)来表示地理特征(例如,二维或三维特征)。例如,多边形的边缘对应于相应地理特征的边界或边缘。在建筑物的情况下,可以使用二维多边形来表示建筑物的足迹,并且可以使用三维多边形挤压来表示建筑物的三维表面。可以想到,尽管针对二维多边形讨论了各种实施例,但是可以想到,这些实施例也可应用于三维多边形挤压。因此,本文中使用的术语多边形和多边形挤压可以互换使用。
在一个实施例中,地理数据库101包括提供厘米级或更佳精度的地图特征的高分辨率或高清晰度(HD)地图数据。例如,地理数据库101可以基于光检测和测距(LiDAR)或等效技术,以收集数十亿个3D点,并建模道路表面,结构,建筑物,地形和其他地图特征,直至车道数量和宽度。在一个实施例中,高清地图数据捕获并存储细节,例如道路的坡度和曲率,停车位,车道标记,路边物体,例如路标,包括路标所指示的内容等。地图数据使高度自动化的车辆能够精确地将自己定位在道路上,并将道路属性(例如,学习的速度极限值)确定为高精度。
在一个实施例中,使用多边形(例如,二维特征)或多边形挤压(例如,三维特征)来表示地理特征(例如,二维或三维特征)。例如,多边形的边缘对应于相应地理特征的边界或边缘。在建筑物的情况下,可以使用二维多边形来表示建筑物的足迹,并且可以使用三维多边形挤出来表示建筑物的三维表面。可以想到,尽管针对二维多边形讨论了各种实施例,但是可以想到,这些实施例也可应用于三维多边形挤出。因此,本文中使用的术语多边形和多边形挤出可以互换使用。在一个实施例中,以下术语适用于地理数据库101中的地理特征的表示。
“节点”–终止链路的点。
“线段”–连接两个点的直线。
“链路”(或“边缘”)–一个或多个线段的连续的非分支线,该线段的两端均终止于一个节点。
“形状点(Shape point)”–沿着两个节点之间的链路的点(例如,用于在不定义新节点的情况下更改链路的形状)。
“定向链路”–具有起始节点(称为“参考节点”)和结束节点(称为“非参考节点”)的链路。
“简单多边形”–由在一个节点中开始和结束的一连串定向链路形成的外部边界的内部区域。在一个实施例中,简单的多边形自身不交叉。
“多边形”-由外部边界和一个边界或一个内部边界(例如,洞或岛)界定的区域。在一实施例中,多边形是由一个外部简单多边形和一个或至少一个内部简单多边形构成的。如果一个多边形仅由一个简单多边形组成,则为简单多边形;如果至少具有一个内部简单多边形,则为复杂多边形。
在一个实施例中,地理数据库101遵循某些约定。例如,链路不会相互交叉,除非在节点处,否则彼此不会交叉。而且,没有重复的形状点,节点或链路。相互连接的两个链路具有一个公共节点。在地理数据库101中,重叠的地理特征由重叠的多边形表示。当多边形重叠时,一个多边形的边界与另一个多边形的边界交叉。在地理数据库101中,一个多边形的边界与其另一多边形的边界相交的位置由一个节点表示。在一个实施例中,除了多边形的边界与另一多边形的边界相交的位置之外,节点可以用于表示沿着多边形的边界的其他位置。在一个实施例中,不使用形状点来表示多边形的边界与另一多边形的边界相交的点。
如图所示,地理数据库101例如包括节点数据记录603,路段或路段数据记录605,POI数据记录607,三角测量数据记录609,其他记录611和索引613。可以提供更多,更少或不同的数据记录。在一个实施例中,附加数据记录(未示出)可以包括制图(“carto”)数据记录,路线数据和操纵数据。在一个实施例中,索引613可以提高地理数据库101中的数据检索操作的速度。在一个实施例中,索引613可以用于快速定位数据,而不必每次访问地理数据库101中的每一行时都对其进行搜索。例如,在一个实施例中,索引613可以是与存储的特征多边形相关联的多边形点的空间索引。
在示例性实施例中,道路路段数据记录605是表示道路,街道或路径的链路或路段,可以在计算出的路线或记录的路线信息中使用这些路线或路段来确定一条或多条个性化路线。节点数据记录603是与道路段数据记录605的各个链路或路段相对应的端点。道路链路数据记录605和节点数据记录603代表诸如车辆,汽车和/或汽车所使用的道路网络。或其他实体。替代地,例如,除了或代替车辆道路记录数据,地理数据库101可以包含路径段和节点数据记录或代表行人路径或区域的其他数据。
道路/链路路段和节点可以与诸如地理坐标,街道名称,地址范围,速度限制,十字路口的转弯限制以及其他导航相关属性之类的属性相关联,以及与POI相关联,例如加油站,酒店,饭店,博物馆,体育场,办公室,汽车经销店,汽车维修店,建筑物,商店,公园等。地理数据库101可以在POI数据记录607中包含有关POI及其各自位置的数据。101也可以包含有关位置的数据,例如城市,城镇或其他社区,以及其他地理特征,例如水体,山脉等。此类位置或特征数据可以是POI数据记录607的一部分,也可以是与POI或POI数据记录607(例如用于显示或表示城市位置的数据点)相关联。
在一个实施例中,地理数据库101还可以包括三角测量数据记录609,用于存储在此处描述实施例中生成或使用的图像对,图像序列,检测到的特征,车辆轨迹,三角测量结果,特征关联和/或相关数据。在一个实施例中,可以将三角测量特征存储为三角测量数据数据记录609的数据字段。在一个实施例中,可以将三角测量数据记录609与道路链路的部分(相对于整个链路)相关联。注意,道路的分段可以与地理数据库101的道路链路结构不同。换句话说,这些分段可以进一步将地理数据库101的链路细分成较小的分段(例如,具有统一长度的片段,例如5米)。这样,可以在与粒度无关的粒度级别中或在地理数据库101中表示实际道路或道路网络的粒度级别中执行特征三角测量。
在一个实施例中,地理数据库101可以由内容提供商121与服务平台113(例如,地图开发商)相关联地维护。地图开发人员可以收集地理数据以生成和增强地理数据库101。地图开发人员可以使用不同的方式来收集数据。这些方式可以包括从其他来源(例如市政当局或相应的地理主管部门)获取数据。另外,地图开发者可以沿着道路车辆通过采用现场人员行进整个地理区域来观察特征(例如,物理分隔,OPPO,VRU等)关于它们的和/或记录信息,例如。此外,可以使用遥感技术,例如航空摄影或卫星摄影。
地理数据库101可以是以简化更新,维护和开发的格式存储的主地理数据库。例如,主地理数据库或主地理数据库中的数据可以是Oracle空间格式或其他空间格式,例如用于开发或生产目的。可以将Oracle空间格式或开发/生产数据库编译为交付格式,例如地理数据文件(GDF)格式。生产和/或交付格式的数据可以被编译或进一步编译以形成地理数据库产品或数据库,可以在最终用户导航设备或系统中使用。
例如,地理数据,通过导航装置(例如通过车辆103),被编译(例如被编译成平台规范格式(PSF)格式)以组织和/或配置数据以执行与导航相关的功能和/或服务,例如路线计算,路线导航,地图显示,速度计算,距离和行驶时间功能以及其他功能。与导航有关的功能可以对应于车辆导航,行人导航或其他类型的导航。产生最终用户数据库的编译可以由与地图开发者分开的一方或实体执行。例如,地图开发人员的客户,诸如导航设备开发人员或其他最终用户设备开发人员,可以以递送格式对接收到的地理数据库进行编译,以产生一个或多个编译后的导航数据库。
本文所述的用于提供特征三角测量的过程可以有利地经由软件,硬件(例如,通用处理器,数字信号处理(DSP)芯片,专用集成电路(ASIC),现场可编程门阵列(FPGA),等),固件或其组合。下面详细描述用于执行所描述的功能的这种示例性硬件。
图7示出了可以在其上实现本发明的实施例的计算机系统700。对计算机系统700进行编程(例如,通过计算机程序代码或指令)以提供如本文所述的特征三角测量,并且包括通信机制,例如总线710,用于在计算机系统700的其他内部和外部组件之间传递信息。信息(也称为数据)表示为可测量现象的物理表达,通常是电压,但在其他实施例中包括诸如磁性,电磁,压力,化学,生物,分子,原子,亚原子和量子相互作用。例如,南北磁场或零和非零电压代表二进制数位(位)的两个状态(0、1)。其他现象可以代表较高基数的数字。测量之前的多个同时量子状态的叠加表示一个量子比特(qubit)。一个或多个数字的序列构成了数字数据,用于表示数字或字符代码。在一些实施例中,被称为模拟数据的信息由特定范围内的几乎连续的可测量值表示。
总线710包括一个或多个并行的信息导体,以使信息在耦合到总线710的设备之间快速传输。用于处理信息的一个或多个处理器702与总线710耦合。
处理器702对由与提供特征三角测量有关的计算机程序代码所指定的信息执行一组操作。该计算机程序代码是提供用于处理器和/或计算机系统执行指定功能的操作的指令的一组指令或语句。该代码例如可以用计算机编程语言编写,该计算机编程语言被编译成处理器的本机指令集。还可使用本机指令集(例如,机器语言)直接编写代码。该组操作包括从总线710引入信息并将信息放置在总线710上。该组操作通常还包括比较两个或多个信息单元,移动信息单元的位置以及组合两个或多个信息单元,例如通过加法或乘法或逻辑运算,例如OR,异或(XOR)和AND。可以由处理器执行的一组操作中的每个操作由称为指令的信息(例如一个或多个数字的操作代码)表示给处理器。由处理器702执行的一系列操作,例如一系列操作代码,构成处理器指令,也称为计算机系统指令,或者简称为计算机指令。处理器可以单独地或组合地实现为机械,电气,磁性,光学,化学或量子组件。
计算机系统700还包括耦合至总线710的存储器704。诸如随机存取存储器(RAM)或其他动态存储设备之类的存储器704存储包括用于提供特征三角测量的处理器指令的信息。动态存储器允许计算机系统700改变存储在其中的信息。RAM允许独立于相邻地址处的信息来存储和检索存储在被称为存储器地址的位置处的信息单元。存储器704还被处理器702用来在处理器指令的执行期间存储临时值。计算机系统700还包括耦合到总线710的只读存储器(ROM)706或其他静态存储设备,用于存储包括计算机系统不会改变的指令在内的静态信息。一些存储器由易失性存储器组成,断电会丢失存储在其上的信息。非易失性(永久)存储设备708也耦合到总线710,例如磁盘,光盘或闪存卡,用于存储包括指令在内的信息,即使计算机系统700被关闭或失去电源,该信息也将持续存在。
包括用于提供特征三角测量的指令的信息被从外部输入设备712(例如包含由人类用户操作的字母数字键的键盘或传感器)提供给总线710以供处理器使用。传感器检测其附近的状况,并将这些检测结果转换成与用于表示计算机系统700中的信息的可测量现象兼容的物理表达。耦合到总线710的主要用于与人互动的其他外部设备包括显示设备714,例如作为阴极射线管(CRT)或液晶显示器(LCD)或等离子屏幕或打印机,用于显示文本或图像,以及指示设备716(例如鼠标或轨迹球或光标方向键)或运动传感器,用于控制显示器714上呈现的小光标图像的位置并发出与显示器714上呈现的图形元素相关联的命令。在一些实施例中,例如,在其中计算机系统700无需人工输入即可自动执行所有功能的实施例中,省略了外部输入设备712,显示设备714和定点设备716中的一个或多个。
在所示的实施例中,诸如专用集成电路(ASIC)720之类的专用硬件耦合到总线710。专用硬件被配置为出于专用目的足够快地执行处理器702不执行的操作。专用IC的示例包括用于生成显示器图像的图形加速卡714,用于加密和解密通过网络发送的消息的加密板,语音识别以及与特殊外部设备(例如重复执行某些操作的机械臂和医疗扫描设备)的接口复杂的操作序列,可以在硬件中更有效地实现。
计算机系统700还包括耦合到总线710的通信接口770的一个或多个实例。通信接口770提供单向或双向通信耦合,耦合到使用它们自己的处理器进行操作的各种外部设备,例如作为打印机,扫描仪和外部磁盘。通常,耦合是通过网络链路778进行的,该网络链路778连接到局域网780,具有自己处理器的各种外部设备连接到局域网780。例如,通信接口770可以是个人计算机上的并行端口或串行端口或通用串行总线(USB)端口。在一些实施例中,通信接口770是提供到相应类型的电话线的信息通信连接的集成服务数字网络(ISDN)卡或数字用户线(DSL)卡或电话调制解调器。在一些实施例中,通信接口770是电缆调制解调器,该电缆调制解调器将总线710上的信号转换成用于通过同轴电缆进行通信连接的信号或转换成用于通过光纤电缆进行通信连接的光信号。作为另一个示例,通信接口770可以是局域网(LAN)卡,以提供到诸如以太网之类的兼容LAN的数据通信连接。无线链路也可以实现。对于无线链路,通信接口770发送或接收或同时发送和接收电,声或电磁信号,包括红外和光信号,其携带信息流,例如数字数据。例如,在诸如手机之类的移动电话之类的无线手持设备中,通信接口770包括无线电频带电磁发射机和称为无线电收发机的接收机。在某些实施例中,通信接口770使得能够连接到提供特征三角测量的通信网络119。
这里使用术语计算机可读介质来指代任何参与向处理器702提供信息的介质,包括用于执行的指令。这样的介质可以采取许多形式,包括但不限于非易失性介质,易失性介质和传输介质。非易失性介质包括例如光盘或磁盘,例如存储设备708。易失性介质包括例如动态存储器704。传输介质包括例如同轴电缆,铜线,光纤电缆和载体。在没有电线或电缆的情况下在太空中传播的电波,例如声波和电磁波,包括无线电波,光学波和红外波。信号包括通过传输介质传输的幅度,频率,相位,极化或其他物理属性的人为瞬态变化。计算机可读介质的常见形式包括,例如,软盘,软盘,硬盘,磁带,任何其他磁介质,CD-ROM,CDRW,DVD,任何其他光学介质,打孔卡,纸带,光学标记纸,带有孔图案或其他光学可识别标记的任何其他物理介质,RAM,PROM,EPROM,FLASH-EPROM,任何其他存储芯片或盒,载波或任何其他可从中获取介质的介质电脑可以读取。
图8示出了可以在其上实现本发明的实施例的芯片组800。芯片组800被编程为提供本文所述的特征三角测量,并且包括例如结合在一个或多个物理封装(例如,芯片)中的关于图7描述的处理器和存储器组件。举例来说,物理包装包括一种或多种材料,部件和/或电线在结构组件(例如,底板)上的布置,以提供一种或多种特性,例如物理强度,尺寸节省和/或或电相互作用的限制。可以预期在某些实施例中,芯片组可以在单个芯片中实现。
在一个实施例中,芯片组800包括诸如总线801之类的通信机制,用于在芯片组800的各个组件之间传递信息。处理器803具有到总线801的连接性,以执行存储在其中的指令和处理信息。例如,存储器805。处理器803可以包括一个或多个处理核,每个核被配置为独立执行。多核处理器可在单个物理包内进行多处理。多核处理器的示例包括两个,四个,八个或更多数量的处理核心。可替代地或另外,处理器803可以包括经由总线801串联配置的一个或多个微处理器,以使得能够独立执行指令,流水线化和多线程化。处理器803还可以带有一个或多个专用组件以执行某些处理功能和任务,例如一个或多个数字信号处理器(DSP)807或一个或多个专用集成电路(ASIC)809。DSP 807通常被配置为独立于处理器803实时地实时处理现实世界的信号(例如,声音)。类似地,ASIC 809可以被配置为执行通用处理器不容易执行的专用功能。有助于执行本文描述的发明功能的其他专用组件包括一个或多个现场可编程门阵列(FPGA)(未示出),一个或多个控制器(未示出)或一个或多个其他专用计算机芯片。
处理器803和所附组件具有经由总线801到存储器805的连通性。存储器805包括动态存储器(例如,RAM,磁盘,可写光盘等)和静态存储器(例如,ROM,CD-ROM等),用于存储可执行指令,这些可执行指令在执行时执行本文所述的发明性步骤以提供特征三角测量。存储器805还存储与发明步骤的执行相关联或由其产生的数据。
图9是能够在图1的系统中操作的移动终端(例如,车辆103,UE 105或其组件)的示例性组件的图。,根据一个实施例。通常,通常根据前端和后端特性来定义无线电接收机。接收机的前端包含所有射频(RF)电路,而后端包含所有基带处理电路。电话的相关内部组件包括主控制单元(MCU)903,数字信号处理器(DSP)905和包括麦克风增益控制单元和扬声器增益控制单元的接收器/发送器单元。主显示单元907向用户提供显示,以支持提供自动联系人匹配的各种应用和移动台功能。音频功能电路909包括麦克风911和麦克风放大器,该麦克风放大器放大从麦克风911输出的语音信号。从麦克风911输出的放大的语音信号被馈送到编码器/解码器(CODEC)913。
无线电部分915通过天线917放大功率并转换频率以便与包括在移动通信系统中的基站进行通信。功率放大器(PA)919和发射器/调制电路在操作上是响应性的如本领域所公知的,PA 919的输出耦合到MCU 903,PA 919的输出耦合到双工器921或循环器或天线开关。PA919还耦合到电池接口和电源控制单元920。
在使用中,移动台901的用户对着麦克风911讲话,并且他或她的声音以及任何检测到的背景噪声被转换为模拟电压。然后通过模数转换器(ADC)923将模拟电压转换为数字信号。控制单元903将数字信号路由至DSP 905以在其中进行处理,例如语音编码,信道编码,加密和交织。在一个实施例中,使用诸如全球演进(EDGE),通用分组无线业务(GPRS),全球移动通信系统(GSM),互联网协议多媒体之类的蜂窝传输协议,通过未单独示出的单元对处理后的语音信号进行编码。子系统(IMS),通用移动电信系统(UMTS)等,以及任何其他合适的无线介质,例如微波访问(WiMAX),长期演进(LTE)网络,码分多址(CDMA),无线保真(WiFi),卫星等。
然后,将编码信号路由到均衡器925,以补偿在通过空中传输期间发生的任何频率相关的损害,例如相位和幅度失真。在使比特流均衡之后,调制器927将信号与在RF接口929中生成的RF信号组合。调制器927通过频率或相位调制来生成正弦波。为了准备用于传输的信号,上变频器931将从调制器927输出的正弦波与由合成器933生成的另一正弦波组合以实现期望的传输频率。然后,信号通过PA 919发送,以将信号增加到适当的功率水平。在实际系统中,PA 919充当可变增益放大器,其增益由DSP 905根据从网络基站接收的信息进行控制。然后,信号在双工器921中进行滤波,并可选地发送到天线耦合器935,以匹配阻抗以提供最大的功率传输。最终,信号通过天线917传输到本地基站。可以提供自动增益控制(AGC)来控制接收器末级的增益。信号可以从那里转发到远程电话,该远程电话可以是另一个蜂窝电话,其他移动电话或连接到公共交换电话网(PSTN)或其他电话网的固定电话。
传输到移动台901的语音信号通过天线917接收,并立即由低噪声放大器(LNA)937放大。下变频器939降低载波频率,而解调器941去除RF,仅留下数字信号位流。信号然后经过均衡器925,并由DSP 905处理。数模转换器(DAC)943转换信号,并将结果输出通过扬声器945发送给用户,所有这些操作均在主控制单元(MCU)903的控制下进行,其可以实现为中央处理器(CPU)(未显示)。
MCU 903从键盘947接收包括输入信号在内的各种信号。键盘947和/或MCU 903与其他用户输入组件(例如,麦克风911)组合,包括用于管理用户输入的用户界面电路。MCU903运行用户界面软件以促进用户控制移动台901的至少一些功能以提供特征三角测量。MCU903还将显示命令和切换命令分别传送到显示器907和语音输出切换控制器。此外,MCU903与DSP 905交换信息,并且可以访问可选地并入的SIM卡949和存储器951。此外,MCU 903执行站所需的各种控制功能。根据实现,DSP 905可以对语音信号执行多种常规数字处理功能中的任何一种。另外,DSP 905根据由麦克风911检测到的信号来确定本地环境的背景噪声水平,并将麦克风911的增益设置为选择的水平,以补偿移动台901的用户的自然趋势。
编解码器913包括ADC 923和DAC943。存储器951存储各种数据,包括呼叫进入的音频数据,并且能够存储其他数据,包括经由例如全球Internet接收的音乐数据。该软件模块可以驻留在RAM存储器,闪存,寄存器或本领域已知的包括非暂时性计算机可读存储介质的任何其他形式的可写计算机可读存储介质中。例如,存储设备951可以是但不限于单个存储器,CD,DVD,ROM,RAM,EEPROM,光学存储器或能够存储数字数据的任何其他非易失性或非暂时性存储介质。
可选地并入的SIM卡949携带,例如,重要信息,例如蜂窝电话号码,运营商提供服务,订阅详细信息和安全信息。SIM卡949主要用于识别无线电网络上的移动台901。卡949还包含用于存储个人电话号码注册表,文本消息和用户特定的移动台设置的存储器。
尽管已经结合多个实施例和实施方式描述了本发明,但是本发明不限于此,而是涵盖落在所附权利要求的范围内的各种明显的修改和等同布置。尽管本发明的特征以权利要求中的某些组合表达,但是可以预期的是,这些特征可以以任何组合和顺序来布置。

Claims (20)

1.一种生成实时流图像的反转序列以用于三角测量的方法,包括:
在行驶期间接收由车辆的传感器捕获的实时图像流;
从实时流中抽取两个或更多个图像序列;
反转两个或更多个图像序列;以及
提供两个或更多个图像的反转序列以用于特征三角测量。
2.根据权利要求1所述的方法,还包括:
在缓存存储器中缓存最新指定数量的实时流图像;
其中,从缓存存储器中抽取两个或更多个图像的反转序列。
3.根据权利要求2所述的方法,所述缓存还包括基于来自所述传感器实时流传输的一个或多个附加的图像来更新所述特征三角测量。
4.根据权利要求1所述的方法,其中,所述两个或更多个图像的序列的抽取基于所述特征相对于所述两个或更多个图像中的每个图像的中心的运动。
5.根据权利要求1所述的方法,其中,所述两个或更多个图像的反转序列包括第一图像,所述第一图像包括的特征的第一图像尺寸大于第二图像中的特征的第二图像尺寸。
6.根据权利要求1所述的方法,其中,所述特征三角测量由车载硬件执行。
7.根据权利要求1所述的方法,还包括:
接收车辆轨迹的实时流;以及
基于确定车辆轨迹指示该车辆已经通过特征或接近特征到阈值距离内,来执行特征三角测量。
8.根据权利要求7所述的方法,其中,所述阈值距离基于获得所述两个或更多个图像之一中的所述特征的目标图像尺寸。
9.根据权利要求8所述的方法,其中,所述车辆轨迹指示在行驶期间该车辆正在向所述特征行驶,并且
所述车辆轨迹是由车辆的位置传感器确定的位置探测点的时间顺序序列。
10.根据权利要求1所述的方法,其中,所述传感器是相机传感器,并且其中,所述相机传感器包括指示相机位置,相机指向方向,相机视场或其组合的数据。
11.一种生成实时流图像的反转序列以进行三角测量的设备,包括:
至少一个处理器;以及
至少一个存储器,包括一个或多个程序的计算机程序代码,
所述至少一个存储器和所述计算机程序代码,被配置为与所述至少一个处理器一起使所述装置至少执行以下;
在行驶期间接收由车辆的传感器捕获的实时图像流;
从实时流中抽取两个或更多个图像序列;
反转两个或更多个图像序列;以及
提供两个或更多个图像的反转序列用于特征三角测量。
12.根据权利要求11所述的设备,其中,还使所述设备:
将最新指定数量的实时流图像缓存在缓存存储器中,
其中,从缓存存储器中抽取两个或更多个图像的反转序列。
13.根据权利要求12所述的设备,其中,还使所述设备:
根据来自传感器实时流传输的附加的图像更新特征三角测量。
14.根据权利要求11所述的设备,其中,所抽取的两个或更多个图像的序列基于所述特征相对于所述两个或更多个图像中的每个图像的中心的运动。
15.根据权利要求11所述的设备,其中,所述两个或更多个图像的反转序列包括第一图像,所述第一图像包括的特征的第一图像尺寸大于第二图像中的特征的第二图像尺寸。
16.根据权利要求11所述的设备,其中,还使所述设备:
接收车辆轨迹的实时流;以及
基于确定车辆轨迹指示车辆已经通过特征或接近特征到阈值距离内,来执行特征三角测量。
17.一种非暂时性计算机可读存储介质,用于生成用于三角测量的实时流图像的反转序列,并携带一个或多个序列的一个或多个指令,这些指令在由一个或多个处理器执行时使装置执行:
在行驶期间接收由车辆的传感器捕获的实时图像流;
从实时流中抽取两个或多个图像序列;
反转两个或更多个图像序列;和
提供两个或更多个图像的反转序列用于特征三角测量。
18.根据权利要求17所述的非暂时性计算机可读存储介质,其中,还使所述装置执行:
在缓存存储器中缓存最新指定数量的实时流图像;
其中,从缓存存储器中抽取两个或更多个图像的反转序列。
19.根据权利要求18所述的非暂时性计算机可读存储介质,其中,还使所述装置执行:
根据来自所述传感器实时流传输的附加的图像来更新特征三角测量。
20.根据权利要求18所述的非暂时性计算机可读存储介质,其中,所抽取的两个或更多个图像的序列基于所述特征相对于所述两个或更多个图像中的每个图像的中心的运动。
CN201911225773.9A 2018-12-04 2019-12-04 提供实时特征三角测量的方法和装置 Pending CN111275818A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/209,558 2018-12-04
US16/209,558 US11188765B2 (en) 2018-12-04 2018-12-04 Method and apparatus for providing real time feature triangulation

Publications (1)

Publication Number Publication Date
CN111275818A true CN111275818A (zh) 2020-06-12

Family

ID=68766600

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911225773.9A Pending CN111275818A (zh) 2018-12-04 2019-12-04 提供实时特征三角测量的方法和装置

Country Status (3)

Country Link
US (1) US11188765B2 (zh)
EP (1) EP3663972A1 (zh)
CN (1) CN111275818A (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11287829B2 (en) * 2019-06-20 2022-03-29 Cisco Technology, Inc. Environment mapping for autonomous vehicles using video stream sharing
DE102020130877A1 (de) * 2019-12-09 2021-06-10 Mitutoyo Corporation Messvorrichtung für dreidimensionale geometrien und messverfahren für dreidimensionale geometrien
CN113590735B (zh) * 2021-09-28 2021-12-24 武大吉奥信息技术有限公司 一种高性能gis矢量数据编辑捕捉方法及装置

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0613021A1 (fr) * 1993-02-22 1994-08-31 France Telecom Procédé,dispositif et émetteur de radiolocalisation utilisant un système de radiodiffusion multiporteuse
US20070195881A1 (en) * 2006-02-20 2007-08-23 Fujitsu Limited Motion vector calculation apparatus
CN101681525A (zh) * 2007-06-08 2010-03-24 电子地图有限公司 产生多视点全景图的方法及设备
CN101689296A (zh) * 2007-04-19 2010-03-31 电子地图有限公司 用于产生道路信息的方法及设备
US20100328344A1 (en) * 2009-06-25 2010-12-30 Nokia Corporation Method and apparatus for an augmented reality user interface
CN102246159A (zh) * 2008-12-09 2011-11-16 通腾北美有限公司 产生测地参考数据库产品的方法
US20140362208A1 (en) * 2013-06-09 2014-12-11 Camtek Ltd. High throughput and low cost height triangulation system and method
US20160335510A1 (en) * 2015-05-11 2016-11-17 Magna Electronics Inc. Vehicle vision system with structure and motion estimation
US20170186169A1 (en) * 2015-12-29 2017-06-29 Texas Instruments Incorporated Stationary-vehicle structure from motion
US20170371035A1 (en) * 2016-06-27 2017-12-28 Kiomars Anvari Protection and guidance gear or equipment with identity code and ip address
CN107563267A (zh) * 2016-06-30 2018-01-09 百度(美国)有限责任公司 在无人驾驶车辆中提供内容的系统和方法
US20180066957A1 (en) * 2016-09-08 2018-03-08 Here Global B.V. Method and apparatus for providing trajectory bundles for map data analysis
WO2018104563A2 (en) * 2016-12-09 2018-06-14 Tomtom Global Content B.V. Method and system for video-based positioning and mapping
US20180300564A1 (en) * 2017-04-13 2018-10-18 Here Global B.V. Method, apparatus, and system for a parametric representation of signs

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7925049B2 (en) 2006-08-15 2011-04-12 Sri International Stereo-based visual odometry method and system
EP2199983A1 (en) * 2008-12-22 2010-06-23 Nederlandse Centrale Organisatie Voor Toegepast Natuurwetenschappelijk Onderzoek TNO A method of estimating a motion of a multiple camera system, a multiple camera system and a computer program product
US8854453B2 (en) * 2009-06-23 2014-10-07 Here Global B.V. Determining geographic position information from a single image
US9140792B2 (en) * 2011-06-01 2015-09-22 GM Global Technology Operations LLC System and method for sensor based environmental model construction
US9323991B2 (en) * 2013-11-26 2016-04-26 Xerox Corporation Method and system for video-based vehicle tracking adaptable to traffic conditions
US10713506B2 (en) * 2014-12-18 2020-07-14 Magna Electronics Inc. Vehicle vision system with 3D registration for distance estimation
US9836056B2 (en) * 2015-06-05 2017-12-05 Bao Tran Smart vehicle
US9721350B2 (en) * 2015-06-26 2017-08-01 Getalert Ltd. Methods circuits devices systems and associated computer executable code for video feed processing
US9684081B2 (en) * 2015-09-16 2017-06-20 Here Global B.V. Method and apparatus for providing a location data error map
US9747668B2 (en) 2016-01-21 2017-08-29 Disney Enterprises, Inc. Reconstruction of articulated objects from a moving camera
KR102268151B1 (ko) * 2016-06-20 2021-06-23 코그넥스코오포레이션 알려진 이동 중에 이동하는 물체의 3차원 측정을 위한 방법
US10816992B2 (en) * 2018-04-17 2020-10-27 Baidu Usa Llc Method for transforming 2D bounding boxes of objects into 3D positions for autonomous driving vehicles (ADVs)

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0613021A1 (fr) * 1993-02-22 1994-08-31 France Telecom Procédé,dispositif et émetteur de radiolocalisation utilisant un système de radiodiffusion multiporteuse
US20070195881A1 (en) * 2006-02-20 2007-08-23 Fujitsu Limited Motion vector calculation apparatus
CN101689296A (zh) * 2007-04-19 2010-03-31 电子地图有限公司 用于产生道路信息的方法及设备
CN101681525A (zh) * 2007-06-08 2010-03-24 电子地图有限公司 产生多视点全景图的方法及设备
CN102246159A (zh) * 2008-12-09 2011-11-16 通腾北美有限公司 产生测地参考数据库产品的方法
US20100328344A1 (en) * 2009-06-25 2010-12-30 Nokia Corporation Method and apparatus for an augmented reality user interface
US20140362208A1 (en) * 2013-06-09 2014-12-11 Camtek Ltd. High throughput and low cost height triangulation system and method
US20160335510A1 (en) * 2015-05-11 2016-11-17 Magna Electronics Inc. Vehicle vision system with structure and motion estimation
US20170186169A1 (en) * 2015-12-29 2017-06-29 Texas Instruments Incorporated Stationary-vehicle structure from motion
US20170371035A1 (en) * 2016-06-27 2017-12-28 Kiomars Anvari Protection and guidance gear or equipment with identity code and ip address
CN107563267A (zh) * 2016-06-30 2018-01-09 百度(美国)有限责任公司 在无人驾驶车辆中提供内容的系统和方法
US20180066957A1 (en) * 2016-09-08 2018-03-08 Here Global B.V. Method and apparatus for providing trajectory bundles for map data analysis
WO2018104563A2 (en) * 2016-12-09 2018-06-14 Tomtom Global Content B.V. Method and system for video-based positioning and mapping
US20180300564A1 (en) * 2017-04-13 2018-10-18 Here Global B.V. Method, apparatus, and system for a parametric representation of signs

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
FABIO IRIGON PEREIRA等: "A Novel Resection–Intersection Algorithm With Fast Triangulation Applied to Monocular Visual Odometry", IEEE TRANSACTIONS ON INTELLIGENT TRANSPORTATION SYSTEMS, vol. 19, no. 11, pages 3584 - 3593, XP011703109, DOI: 10.1109/TITS.2018.2853579 *
FABIO IRIGON PEREIRA等: "Backward Motion for Estimation Enhancement in Sparse Visual Odometry", 2017 WORKSHOP OF COMPUTER VISION, pages 61 - 66 *
HIROYUKI UCHIYAMA等: "Ego-localization using Streetscape Image Sequences from In-vehicle Cameras", INTELLIGENT VEHICLES SYMPOSIUM, pages 185 - 190 *
胡新荣 等: "从二维图像序列获取三维轮廓的算法及其实现", 计算机工程与应用, no. 23, pages 10 - 16 *

Also Published As

Publication number Publication date
US11188765B2 (en) 2021-11-30
EP3663972A1 (en) 2020-06-10
US20200175284A1 (en) 2020-06-04

Similar Documents

Publication Publication Date Title
US11651244B2 (en) Method and apparatus for predicting sensor error
US11250051B2 (en) Method, apparatus, and system for predicting a pose error for a sensor system
US10373002B2 (en) Method, apparatus, and system for a parametric representation of lane lines
EP3486608A1 (en) Method and apparatus for providing a tile-based digital elevation model
US10997740B2 (en) Method, apparatus, and system for providing real-world distance information from a monocular image
US11024054B2 (en) Method, apparatus, and system for estimating the quality of camera pose data using ground control points of known quality
US10902634B2 (en) Method and apparatus for providing feature triangulation
US11003934B2 (en) Method, apparatus, and system for selecting sensor systems for map feature accuracy and reliability specifications
US11677930B2 (en) Method, apparatus, and system for aligning a vehicle-mounted device
US11170485B2 (en) Method, apparatus, and system for automatic quality assessment of cross view feature correspondences using bundle adjustment techniques
EP3644013B1 (en) Method, apparatus, and system for location correction based on feature point correspondence
US11107235B1 (en) Systems and methods for identifying data suitable for mapping
US11055862B2 (en) Method, apparatus, and system for generating feature correspondence between image views
US11087469B2 (en) Method, apparatus, and system for constructing a polyline from line segments
US10949707B2 (en) Method, apparatus, and system for generating feature correspondence from camera geometry
US11367252B2 (en) System and method for generating line-of-sight information using imagery
EP3760975A1 (en) Method and apparatus for providing inferential location estimation
US10909714B2 (en) Method, apparatus, and system for providing a distance marker in an image
CN111275818A (zh) 提供实时特征三角测量的方法和装置
US20230206625A1 (en) Method, apparatus, and system for pole extraction from optical imagery
US20230059402A1 (en) Method, apparatus, and system for providing increased accuracy for a positioning receiver in a multipath signal environment
US10970597B2 (en) Method, apparatus, and system for priority ranking of satellite images
US20230206584A1 (en) Method, apparatus, and system for pole extraction from a single image
US20230298362A1 (en) Method, apparatus, and system for estimating a lane width

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination