CN111814634A - 一种实时距离确定方法、装置、设备及介质 - Google Patents

一种实时距离确定方法、装置、设备及介质 Download PDF

Info

Publication number
CN111814634A
CN111814634A CN202010609644.6A CN202010609644A CN111814634A CN 111814634 A CN111814634 A CN 111814634A CN 202010609644 A CN202010609644 A CN 202010609644A CN 111814634 A CN111814634 A CN 111814634A
Authority
CN
China
Prior art keywords
image
depth
target object
determining
environment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010609644.6A
Other languages
English (en)
Other versions
CN111814634B (zh
Inventor
夏德国
钟开
杨建忠
黄际洲
张通滨
卢振
郝涌龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010609644.6A priority Critical patent/CN111814634B/zh
Publication of CN111814634A publication Critical patent/CN111814634A/zh
Application granted granted Critical
Publication of CN111814634B publication Critical patent/CN111814634B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/55—Depth or shape recovery from multiple images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30244—Camera pose
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256—Lane; Road marking

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本申请公开了实时距离确定方法、装置、设备及介质，涉及图像处理与深度学习领域。具体实现方案为：根据可移动设备在移动过程中采集的至少两张包含有目标物体的环境图像，生成深度图像序列；基于所述深度图像序列，确定图像拍摄姿态角；根据所述图像拍摄姿态角以及所述深度图像序列，确定所述目标物体在所述可移动设备的移动方向上，与所述可移动设备之间的实时距离。通过本申请的技术方案，能够提高距离估算的准确性。

Description

一种实时距离确定方法、装置、设备及介质
技术领域
本申请实施例涉及导航定位技术，尤其涉及图像处理与深度学习领域，具体涉及一种实时距离确定方法、装置、设备及介质。
背景技术
交通标志(如限速牌、电子眼)是常见的道路交通要素大类，用户在驾驶车辆时需要按照交通标志提示行驶，实时、准确的导航提示在避免用户违章，提升用户导航体验等方面具有现实意义。
现有技术中，在进行车辆与交通标志之间的距离估算时，主要是基于历史入库的附件交通标志位置信息，以及实时的车辆定位信息，来估算车辆与交通标志之间的距离，因此，当车辆定位信息无法获取或不准确时，或者入库的交通标志位置信息不准确时，就会导致距离估算不准确。
发明内容
本公开提供了一种实时距离确定方法、装置、设备以及介质。
根据本公开的一方面，提供了一种实时距离确定方法，包括：
根据可移动设备在移动过程中采集的至少两张包含有目标物体的环境图像，生成深度图像序列；
基于所述深度图像序列，确定图像拍摄姿态角；
根据所述图像拍摄姿态角以及所述深度图像序列，确定所述目标物体在所述可移动设备的移动方向上，与所述可移动设备之间的实时距离。
根据本公开的另一方面，提供了一种实时距离确定装置，包括：
序列生成模块，用于根据可移动设备在移动过程中采集的至少两张包含有目标物体的环境图像，生成深度图像序列；
姿态确定模块，用于基于所述深度图像序列，确定图像拍摄姿态角；
距离确定模块，用于根据所述图像拍摄姿态角以及所述深度图像序列，确定所述目标物体在所述可移动设备的移动方向上，与所述可移动设备之间的实时距离。
根据本公开的另一方面，提供了一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本申请实施例中任一项所述的方法。
根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使所述计算机执行本申请实施例中任一项所述的方法。
根据本申请的技术优化了距离估算方法，提高了距离估算的准确性。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1a是根据本申请实施例的一种实时距离确定方法的流程图；
图1b是根据本申请实施例的深度图像序列生成效果图；
图2a是根据本申请实施例的又一种实时距离确定方法的流程图；
图2b是根据本申请实施例的姿态角为0的坐标系示意图；
图2c是根据本申请实施例的姿态角非0的坐标系示意图；
图2d是根据本申请实施例的姿态角非0时设备移动情况的坐标系示意图；
图3是根据本申请实施例的又一种实时距离确定方法的流程图；
图4是根据本申请实施例的一种实时距离确定装置的结构示意图；
图5是用来实现本申请实施例的实时距离确定方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
根据本申请的实施例，本申请提供了一种实时距离确定方法。
如图1a所示，是根据本申请实施例的一种实时距离确定方法的流程图。本实施例的实时距离确定方法，可适用于对可移动设备在移动过程中与目标物体之间的实时距离进行估算的场景，该方法可以由实时距离确定装置来执行，该装置可以由软件和/或硬件实现，并一般可以集成在车载中控、计算机等电子设备中。
具体的，参考图1a，该方法具体包括如下步骤：
S110、根据可移动设备在移动过程中采集的至少两张包含有目标物体的环境图像，生成深度图像序列。
本实施例中，可移动设备例如可以是车辆、可移动机器人等，目标物体例如可以是标志物、障碍物等。在将本实施例提供的实时距离确定方法应用于导航提示场景中时，对应的，可移动设备为车辆，目标物体为交通标志。
具体的，可移动设备上可安装有图像采集装置，用于采集环境图像。其中，环境图像可以是在可移动设备移动过程中采集的图像。例如，在一个实际应用场景中，车辆在道路上行驶时，可利用车载摄像头按照预设频率采集道路前方的图像，当采集的图像中出现目标物体时，可将其用于生成深度图像序列。
示例性的，根据采集的至少两张包含有目标物体的环境图像，可生成深度图像序列。其中，深度图像序列可以是由多个不同时间采集的环境图像所对应生成的深度图像，组成的图像序列。具体的，深度图像(depth image)也被称为距离影像(range image)，是指将从图像采集装置到场景中各点的距离(深度)作为像素值的图像，其可通过像素值的大小反映实际场景中拍摄平面至各点的实际距离。
在一种可选实施方式中，根据可移动设备在移动过程中实时采集的至少两张包含有目标物体的环境图像，生成深度图像序列，具体可包括：获取可移动设备在移动过程中实时采集的至少两张环境图像；将环境图像输入至经训练的图像转换模型，得到与环境图像对应的深度图像；根据与至少两张环境图像对应的深度图像，生成深度图像序列。
其中，经训练的图像转换模型，可以是采用图像深度估计算法(DenseDepth)对图像转换模型进行训练，得到的能够将普通图像转换成对应深度图像的图像转换模型。
示例性的，可依次将采集的至少两张环境图像，输入至经训练的图像转换模型中，以使图像转换模型将输入的环境图像，转换成对应的深度图像并输出，进而将至少两张环境图像对应的深度图像，按照采集时间进行排列，得到深度图像序列。如图1b所示，为由环境图像组成的环境图像序列11对应生成深度图像序列12的效果图。
利用经训练的图像转换模型，实现由环境图像向深度图像的转换，其有益效果在于，可以更加迅速且准确地生成深度图像，进而提高图像拍摄姿态角的准确性，以及距离计算的准确性和实时性。
S120、基于深度图像序列，确定图像拍摄姿态角。
本实施例中，图像拍摄姿态角可以是可移动设备上图像采集装置的安装姿态角，也即，图像采集装置的拍摄平面的法向量，与设备移动方向之间的夹角。理想情况下，图像采集装置的安装姿态需与设备移动方向相同，也即，图像采集装置的摄像头正对设备移动正前方，但由于通常情况下，不同的可移动设备上图像采集装置的安装姿态是不固定的，因此，普遍都会存在一个非零偏角，甚至同一设备不同时间段这个偏角也可能不一样，因此，本实施例基于深度图像序列，可比较准确地计算这个偏角值的大小，也即，确定图像拍摄姿态角。
示例性的，可根据深度图像序列中包含的至少两张按时间排列的深度图像，以各深度图像中的目标物体为固定参考点，采用预设几何算法，确定图像拍摄姿态角。具体的，可按照预设周期，并基于最近一段时间内生成的深度图像序列，对图像拍摄姿态角的值进行更新，保证图像拍摄姿态角的实时性和准确性。
S130、根据图像拍摄姿态角以及深度图像序列，确定目标物体在可移动设备的移动方向上，与可移动设备之间的实时距离。
示例性的，可根据深度图像序列中包括的深度图像，获取目标物体的在深度图像中对应的深度值，并结合前一步计算得到的图像拍摄姿态角，采用预设几何算法，计算目标物体在设备移动方向上与可移动设备所在位置之间的实时距离。其中，目标物体在可移动设备的移动方向上，与可移动设备之间的实时距离，为目标物体在可移动设备的移动方向上的投影点，与该可移动设备之间的实时距离。
根据本实施例的技术方案，通过根据可移动设备在移动过程中采集的至少两张包含有目标物体的环境图像，生成深度图像序列，并基于深度图像序列，确定图像拍摄姿态角，进而根据该图像拍摄姿态角以及深度图像序列，确定目标物体在可移动设备的移动方向上，与可移动设备之间的实时距离，利用基于深度图像序列并结合图像拍摄姿态角进行实时距离估算的优点，解决了现有技术中距离估算不准确的问题，实现了提高距离估算准确性和实时性的效果。
根据本申请的实施例，本申请还提供了一种实时距离确定方法。
如图2a所示，是根据本申请实施例的又一种实时距离确定方法的流程图。本实施例以前述实施例为基础，对基于深度图像序列，确定图像拍摄姿态角进行细化。
具体的，参考图2a，本方法具体包括如下步骤：
S210、根据可移动设备在移动过程中采集的至少两张包含有目标物体的环境图像，生成深度图像序列。
S220、确定目标物体在环境图像中的位置信息。
本实施例中，由于目标物体在环境图像中的位置与在对应深度图像中的位置相同，因此，可首先确定目标物体在环境图像中的位置信息，再根据该位置信息确定目标物体在与该环境图像对应的深度图像中的位置信息。具体的，可通过识别环境图像中的目标物体，进而确定该目标物体在环境图像中的位置信息。其中，位置信息包括但不限于，根据环境图像建立的坐标系中，目标物体所在区域的中心像素点在该坐标系中的坐标位置。
在一种可选实施方式中，确定目标物体在环境图像中的位置信息，具体可包括：将环境图像输入至经训练的图像识别模型，得到目标物体在环境图像中的位置信息。
其中，经训练的图像识别模型，可以是采用预设深度学习算法对图像识别模型进行训练，得到的能够识别图像中包含的目标物体以及位置的图像识别模型，其中，预设深度学习算法例如可以是faster-rcnn或yolo-v3等。此外，经训练的图像识别模型还可以识别环境图像中包括的目标物体的类型，例如，若目标物体为交通标志，则可通过将环境图像输入至图像识别模型中，并在检测到环境图像中包含交通标志时，输出该交通标志在环境图像中的位置，以及该交通标志的类型(例如电子眼、限速标志、人行横道标志等等)。
利用图像识别模型识别环境图像中包括的目标物体，并输出目标物体的位置信息，其有益效果在于，能够提高识别的准确性及实时性，进而可利用该位置信息估计目标物体的实际位置，提高距离估算的准确性和实时性。
S230、根据位置信息，确定深度图像序列中目标物体的深度差。
本实施例中，目标物体的深度差可以是不同时间采集的环境图像对应生成的深度图像中，目标物体对应的深度值之间的差值。具体的，可以从深度图像序列中获取对应于不同采集时间的两张深度图像，通过目标物体在对应环境图像中的位置信息，确定该位置下目标物体在深度图像中对应的深度值，再根据该深度值进行求差运算，得到目标物体的深度差。
为了提高图像拍摄姿态角检测的实时性，每当从连续采集的环境图像中首次检测到目标物体时，可从深度图像序列中获取一次深度图像，用于深度差计算，进而计算图像拍摄姿态角，并在下一次从连续采集的环境图像中首次检测到下一目标物体，再进行深度差的更新，以及图像拍摄姿态角的更新。
可选的，深度图像序列包括与第一环境图像对应的第一深度图像，以及与第二环境图像对应的第二深度图像。
其中，第一环境图像与第二环境图像可以是采集时间连续的两张图像，也可以是采集时间有间隔的两张图像，在此不作限定。第一深度图像可以是根据第一环境图像生成的深度图像，第二深度图像可以是根据第二环境图像生成的深度图像。
在一种可选实施方式中，根据位置信息，确定深度图像序列中目标物体的深度差，具体可包括：根据目标物体在第一环境图像中的位置信息，确定深度图像序列中目标物体对应的第一深度值；根据目标物体在第二环境图像中的位置信息，确定深度图像序列中目标物体对应的第二深度值；根据第一深度值和第二深度值，确定深度图像序列中目标物体的深度差。
上述实施方式中，第一深度值和第二深度值均可根据目标物体在对应深度图像中的位置点的像素值大小来确定，进而求差后得到深度差。其中，目标物体在对应深度图像中的位置点，与在环境图像中的位置点相同。
利用从深度图像序列中获取的两个深度图像，计算目标物体深度差的好处在于，可以简化计算，同时保证深度差计算的实时性，进而可以及时更新图像拍摄姿态角，进一步提高距离估算的准确性。
S240、根据可移动设备的移动距离和深度差，确定图像拍摄姿态角。
具体的，可以初始图像拍摄点(也即可移动设备初始位置点)为原点，以可移动设备的移动方向(若可移动设备为车辆，相应的，纵坐标即为道路方向)为纵坐标，建立平面直角坐标系。
在不考虑图像拍摄姿态角的情况下，也即默认图像拍摄姿态角为0，图像拍摄平面的法向方向与设备移动方向相同，且均为y轴方向时，如图2b所示的坐标系中，原点P为拍摄点，点S为目标物体所在位置点，目标物体所在点S对应的深度值为SM，此时目标物体对应的深度值即为可移动设备与目标物体在移动方向上的距离值，也即，目标物体的深度差与可移动设备在移动方向上的移动距离相等。但是，这样估算得出的距离准确性不高。
为了解决上述问题，本实施例考虑了图像拍摄姿态角不为0时的情况，在如图2c所示的坐标系中，∠γ为图像拍摄姿态角，目标物体所在位置点S对应的深度值为，点S在法向方向上的投影点M到可移动设备位置点P的距离，也即PM，相应的，可移动设备与目标物体在移动方向上的距离值为PN，因此，可根据深度差和移动距离，采用数学几何方法，计算∠γ。其中，可移动设备的移动距离可通过定位信息获得。
可选的，根据可移动设备的移动距离和深度差，确定图像拍摄姿态角，具体可包括：按照公式：
Figure BDA0002560532510000081
确定图像拍摄姿态角；其中，γ为图像拍摄姿态角，s为可移动设备的移动距离，d1为第一深度值，d2为第二深度值。
如图2d所示，可移动设备沿着移动方向(也即y轴)从点P1移动至点P2，可移动设备的移动距离s即为P1P2，目标物体对应的第一深度值d1即为P1M1，目标物体对应的第二深度值d2即为P2M2，目标物体的深度差|d1-d2|即为P1Q。在直角三角形P1 QP2中，图像拍摄姿态角γ即满足
Figure BDA0002560532510000082
如此，可求出图像拍摄姿态角γ。
利用可移动设备的移动距离和深度差，计算图像拍摄姿态角，其好处在于，可以提高姿态角估算的准确性，进而提高距离估算的准确性。
S250、根据图像拍摄姿态角以及深度图像序列，确定目标物体在可移动设备的移动方向上，与可移动设备之间的实时距离。
根据本实施例的技术方案，在上述实施例的基础上，通过确定目标物体在环境图像中的位置信息，进而根据该位置信息确定深度图像序列中目标物体的深度差，根据该深度差以及可移动设备的移动距离，确定图像拍摄姿态角，利用基于深度图像序列计算图像拍摄姿态角的优点，从而能够提高实时距离估算的准确性。
根据本申请的实施例，本申请还提供了一种实时距离确定方法。
如图3所示，是根据本申请实施例的又一种实时距离确定方法的流程图。本实施例以前述实施例为基础，对根据所述图像拍摄姿态角以及所述深度图像序列，确定所述目标物体在所述可移动设备的移动方向上，与所述可移动设备之间的实时距离进行细化。
具体的，参考图3，本方法具体包括如下步骤：
S310、根据可移动设备在移动过程中采集的至少两张包含有目标物体的环境图像，生成深度图像序列。
S320、基于深度图像序列，确定图像拍摄姿态角。
S330、获取深度图像序列中，与目标环境图像对应的目标深度图像；其中，目标环境图像为可移动设备在目标定位点采集的环境图像。
本实施例中，在图像拍摄姿态角已确定的情况下，可基于实时采集的环境图像，结合图像拍摄姿态角，确定目标物体在可移动设备的移动方向上，与可移动设备之间的实时距离。具体的，从深度图像序列中获取的目标深度图像，可以是由可移动设备在目标定位点采集的环境图像对应生成，若目标深度图像为根据当前采集的环境图像对应生成的，则目标定位点即为当前可移动设备所处的位置点。
S340、根据目标深度图像中目标物体对应的深度值，以及图像拍摄姿态角，确定目标物体在可移动设备的移动方向上，与目标定位点之间的距离。
在一个实际例子中，如图2d所示，若目标定位点为点P2，则目标深度图像中目标物体对应的深度值为P2M2，另外，根据深度图像中的角度公式：
Figure BDA0002560532510000091
即可求出目标物体所在方向与拍摄平面的法向方向之间的夹角θ，其中，x为目标深度图像中，目标物体位置点与图像的纵向中心线之间的距离，w为目标深度图像的横向宽度，k为图像采集装置的视场角。之后，根据∠θ以及深度值为P2M2，可根据公式：
Figure BDA0002560532510000092
可得到目标物体所在位置点S与目标定位点P2之间的实际距离P2S，再根据公式：P2N＝P2S*cos(θ+γ)，即可求出目标物体在可移动设备的移动方向上，与目标定位点之间的距离P2N。
根据本实施例的技术方案，在上述实施例的基础上，通过进一步获取深度图像序列中，与目标环境图像对应的目标深度图像，根据目标深度图像中目标物体对应的深度值，以及图像拍摄姿态角，最终确定目标物体在可移动设备的移动方向上，与目标定位点之间的距离，利用基于深度图像计算实时距离的优点，从而能够进一步提高实时距离估算的准确性。
在上述各实施例的基础上，可将该实时距离确定方法应用于车辆导航的交通提示场景中，具体的，可根据实时识别的交通标志类别及生成的深度图像序列，计算预估距离，并进行导航提示，如识别到前方有限速70的交通标志提示牌，且计算出交通标志牌在道路方向上与车辆之间的距离为80米，则可提供导航提示如下：距离前方限速70约80米，请减速慢行。其中，提示方式包括但不限于语音提示等。
另外，由于交通标志检测和分类，以及深度图像的生成，对实时性要求较高，相对计算量较大，因此，可以参考以下两种情形进行处理：其一，若车载中控设备具备较好的计算性能，则可以直接在车载端上进行实时识别处理；其二，在具备5G+边缘计算接入环境，可以采用边缘计算方式进行图像识别处理，将计算所需数据通过5G网络转移至边缘其他计算能力更强的节点去计算。第二种方式中，由于边缘节点处理强，实时性高，因此，能较好的避免由于端上设备性能低而导致的实时性差、耗电量大等问题。
根据本申请的实施例，本申请还提供了一种实时距离确定装置。
如图4所示，是根据本申请实施例的一种实时距离确定装置的结构示意图。该装置可以由软件和/或硬件的方式实现，并执行如本申请任意实施例所述的实时距离确定方法。具体的，实时距离确定装置400包括：序列生成模块401、姿态确定模块402和距离确定模块403。
其中，序列生成模块401，用于根据可移动设备在移动过程中采集的至少两张包含有目标物体的环境图像，生成深度图像序列；
姿态确定模块402，用于基于所述深度图像序列，确定图像拍摄姿态角；
距离确定模块403，用于根据所述图像拍摄姿态角以及所述深度图像序列，确定所述目标物体在所述可移动设备的移动方向上，与所述可移动设备之间的实时距离。
可选的，姿态确定模块402，具体可包括：
位置确定子模块，用于确定所述目标物体在所述环境图像中的位置信息；
深度差确定子模块，用于根据所述位置信息，确定所述深度图像序列中所述目标物体的深度差；
姿态角确定子模块，用于根据所述可移动设备的移动距离和所述深度差，确定图像拍摄姿态角。
可选的，所述位置确定子模块，具体可用于：
将所述环境图像输入至经训练的图像识别模型，得到所述目标物体在所述环境图像中的位置信息。
可选的，所述深度图像序列可包括与第一环境图像对应的第一深度图像，以及与第二环境图像对应的第二深度图像。
可选的，所述深度差确定子模块，具体可包括：
第一深度确定单元，用于根据所述目标物体在所述第一环境图像中的位置信息，确定所述深度图像序列中所述目标物体对应的第一深度值；
第二深度确定单元，用于根据所述目标物体在所述第二环境图像中的位置信息，确定所述深度图像序列中所述目标物体对应的第二深度值；
深度值求差单元，用于根据所述第一深度值和所述第二深度值，确定所述深度图像序列中所述目标物体的深度差。
可选的，所述姿态角确定子模块，具体可用于：
按照公式：
Figure BDA0002560532510000111
确定图像拍摄姿态角；
其中，γ为图像拍摄姿态角，s为所述可移动设备的移动距离，d1为所述第一深度值，d2为所述第二深度值。
可选的，距离确定模块403，具体可包括：
图像选取子模块，用于获取所述深度图像序列中，与目标环境图像对应的目标深度图像；其中，所述目标环境图像为所述可移动设备在目标定位点采集的环境图像；
距离计算子模块，用于根据所述目标深度图像中所述目标物体对应的深度值，以及所述图像拍摄姿态角，确定所述目标物体在可移动设备的移动方向上，与所述目标定位点之间的距离。
可选的，序列生成模块401，具体可包括：
图像采集子模块，用于获取可移动设备在移动过程中实时采集的至少两张环境图像；
图像转换子模块，用于将所述环境图像输入至经训练的图像转换模型，得到与所述环境图像对应的深度图像；
图像组合子模块，用于根据与所述至少两张环境图像对应的深度图像，生成深度图像序列。
可选的，所述可移动设备包括车辆，所述目标物体包括交通标志。
本申请实施例所提供的实时距离确定装置可执行本申请任意实施例所提供的实时距离确定方法，具备执行方法相应的功能模块和有益效果。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图5所示，是根据本申请实施例的实时距离确定方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图5所示，该电子设备包括：一个或多个处理器501、存储器502，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图5中以一个处理器501为例。
存储器502即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的实时距离确定方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的实时距离确定方法。
存储器502作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的实时距离确定方法对应的程序指令/模块(例如，附图4所示的序列生成模块401、姿态确定模块402和距离确定模块403)。处理器501通过运行存储在存储器502中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的实时距离确定方法。
存储器502可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据实时距离确定方法的电子设备的使用所创建的数据等。此外，存储器502可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器502可选包括相对于处理器501远程设置的存储器，这些远程存储器可以通过网络连接至实时距离确定方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
实时距离确定方法的电子设备还可以包括：输入装置503和输出装置504。处理器501、存储器502、输入装置503和输出装置504可以通过总线或者其他方式连接，图5中以通过总线连接为例。
输入装置503可接收输入的数字或字符信息，以及产生与实时距离确定方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置504可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决传统物理主机与VPS服务中，存在的管理难度大、业务扩展性弱的缺陷。
根据本申请实施例的技术方案，通过根据可移动设备在移动过程中采集的至少两张包含有目标物体的环境图像，生成深度图像序列，并基于深度图像序列，确定图像拍摄姿态角，进而根据该图像拍摄姿态角以及深度图像序列，确定目标物体在可移动设备的移动方向上，与可移动设备之间的实时距离，利用基于深度图像序列并结合图像拍摄姿态角进行实时距离估算的优点，解决了现有技术中距离估算不准确的问题，实现了提高距离估算准确性和实时性的效果。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (20)

1.一种实时距离确定方法，包括：
根据可移动设备在移动过程中采集的至少两张包含有目标物体的环境图像，生成深度图像序列；
基于所述深度图像序列，确定图像拍摄姿态角；
根据所述图像拍摄姿态角以及所述深度图像序列，确定所述目标物体在所述可移动设备的移动方向上，与所述可移动设备之间的实时距离。
2.根据权利要求1所述的方法，其中，所述基于所述深度图像序列，确定图像拍摄姿态角，包括：
确定所述目标物体在所述环境图像中的位置信息；
根据所述位置信息，确定所述深度图像序列中所述目标物体的深度差；
根据所述可移动设备的移动距离和所述深度差，确定图像拍摄姿态角。
3.根据权利要求2所述的方法，其中，所述确定所述目标物体在所述环境图像中的位置信息，包括：
将所述环境图像输入至经训练的图像识别模型，得到所述目标物体在所述环境图像中的位置信息。
4.根据权利要求2所述的方法，其中，所述深度图像序列包括与第一环境图像对应的第一深度图像，以及与第二环境图像对应的第二深度图像。
5.根据权利要求4所述的方法，其中，所述根据所述位置信息，确定所述深度图像序列中所述目标物体的深度差，包括：
根据所述目标物体在所述第一环境图像中的位置信息，确定所述深度图像序列中所述目标物体对应的第一深度值；
根据所述目标物体在所述第二环境图像中的位置信息，确定所述深度图像序列中所述目标物体对应的第二深度值；
根据所述第一深度值和所述第二深度值，确定所述深度图像序列中所述目标物体的深度差。
6.根据权利要求5所述的方法，其中，所述根据所述可移动设备的移动距离和所述深度差，确定图像拍摄姿态角，包括：
按照公式：
Figure FDA0002560532500000011
确定图像拍摄姿态角；
其中，γ为所述图像拍摄姿态角，s为所述可移动设备的移动距离，d1为所述第一深度值，d2为所述第二深度值。
7.根据权利要求1所述的方法，其中，所述根据所述图像拍摄姿态角以及所述深度图像序列，确定所述目标物体在所述可移动设备的移动方向上，与所述可移动设备之间的实时距离，包括：
获取所述深度图像序列中，与目标环境图像对应的目标深度图像；其中，所述目标环境图像为所述可移动设备在目标定位点采集的环境图像；
根据所述目标深度图像中所述目标物体对应的深度值，以及所述图像拍摄姿态角，确定所述目标物体在可移动设备的移动方向上，与所述目标定位点之间的距离。
8.根据权利要求1所述的方法，其中，所述根据可移动设备在移动过程中实时采集的至少两张包含有目标物体的环境图像，生成深度图像序列，包括：
获取可移动设备在移动过程中实时采集的至少两张环境图像；
将所述环境图像输入至经训练的图像转换模型，得到与所述环境图像对应的深度图像；
根据与所述至少两张环境图像对应的深度图像，生成深度图像序列。
9.根据权利要求1-8任一项所述的方法，其中，所述可移动设备包括车辆，所述目标物体包括交通标志。
10.一种实时距离确定装置，包括：
序列生成模块，用于根据可移动设备在移动过程中采集的至少两张包含有目标物体的环境图像，生成深度图像序列；
姿态确定模块，用于基于所述深度图像序列，确定图像拍摄姿态角；
距离确定模块，用于根据所述图像拍摄姿态角以及所述深度图像序列，确定所述目标物体在所述可移动设备的移动方向上，与所述可移动设备之间的实时距离。
11.根据权利要求10所述的装置，其中，所述姿态确定模块，包括：
位置确定子模块，用于确定所述目标物体在所述环境图像中的位置信息；
深度差确定子模块，用于根据所述位置信息，确定所述深度图像序列中所述目标物体的深度差；
姿态角确定子模块，用于根据所述可移动设备的移动距离和所述深度差，确定图像拍摄姿态角。
12.根据权利要求11所述的装置，其中，所述位置确定子模块，具体用于：
将所述环境图像输入至经训练的图像识别模型，得到所述目标物体在所述环境图像中的位置信息。
13.根据权利要求11所述的装置，其中，所述深度图像序列包括与第一环境图像对应的第一深度图像，以及与第二环境图像对应的第二深度图像。
14.根据权利要求13所述的装置，其中，所述深度差确定子模块，包括：
第一深度确定单元，用于根据所述目标物体在所述第一环境图像中的位置信息，确定所述深度图像序列中所述目标物体对应的第一深度值；
第二深度确定单元，用于根据所述目标物体在所述第二环境图像中的位置信息，确定所述深度图像序列中所述目标物体对应的第二深度值；
深度值求差单元，用于根据所述第一深度值和所述第二深度值，确定所述深度图像序列中所述目标物体的深度差。
15.根据权利要求14所述的装置，其中，所述姿态角确定子模块，具体用于：
按照公式：
Figure FDA0002560532500000031
确定图像拍摄姿态角；
其中，γ为所述图像拍摄姿态角，s为所述可移动设备的移动距离，d1为所述第一深度值，d2为所述第二深度值。
16.根据权利要求10所述的装置，其中，所述距离确定模块，包括：
图像选取子模块，用于获取所述深度图像序列中，与目标环境图像对应的目标深度图像；其中，所述目标环境图像为所述可移动设备在目标定位点采集的环境图像；
距离计算子模块，用于根据所述目标深度图像中所述目标物体对应的深度值，以及所述图像拍摄姿态角，确定所述目标物体在可移动设备的移动方向上，与所述目标定位点之间的距离。
17.根据权利要求10所述的装置，其中，所述序列生成模块，包括：
图像采集子模块，用于获取可移动设备在移动过程中实时采集的至少两张环境图像；
图像转换子模块，用于将所述环境图像输入至经训练的图像转换模型，得到与所述环境图像对应的深度图像；
图像组合子模块，用于根据与所述至少两张环境图像对应的深度图像，生成深度图像序列。
18.根据权利要求10-17任一项所述的装置，其中，所述可移动设备包括车辆，所述目标物体包括交通标志。
19.一种电子设备，其特征在于，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-9中任一项所述的方法。
20.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使所述计算机执行权利要求1-9中任一项所述的方法。
CN202010609644.6A 2020-06-29 2020-06-29 一种实时距离确定方法、装置、设备及介质 Active CN111814634B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010609644.6A CN111814634B (zh) 2020-06-29 2020-06-29 一种实时距离确定方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010609644.6A CN111814634B (zh) 2020-06-29 2020-06-29 一种实时距离确定方法、装置、设备及介质

Publications (2)

Publication Number Publication Date
CN111814634A true CN111814634A (zh) 2020-10-23
CN111814634B CN111814634B (zh) 2023-09-08

Family

ID=72855624

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010609644.6A Active CN111814634B (zh) 2020-06-29 2020-06-29 一种实时距离确定方法、装置、设备及介质

Country Status (1)

Country Link
CN (1) CN111814634B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100278384A1 (en) * 2009-05-01 2010-11-04 Microsoft Corporation Human body pose estimation
CN103154666A (zh) * 2011-06-14 2013-06-12 日产自动车株式会社 距离测量装置以及环境地图生成装置
CN108986164A (zh) * 2018-07-03 2018-12-11 百度在线网络技术（北京）有限公司 基于图像的位置检测方法、装置、设备及存储介质
CN109887032A (zh) * 2019-02-22 2019-06-14 广州小鹏汽车科技有限公司 一种基于单目视觉slam的车辆定位方法及系统
CN111267095A (zh) * 2020-01-14 2020-06-12 大连理工大学 一种基于双目视觉的机械臂抓取控制方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100278384A1 (en) * 2009-05-01 2010-11-04 Microsoft Corporation Human body pose estimation
CN103154666A (zh) * 2011-06-14 2013-06-12 日产自动车株式会社 距离测量装置以及环境地图生成装置
CN108986164A (zh) * 2018-07-03 2018-12-11 百度在线网络技术（北京）有限公司 基于图像的位置检测方法、装置、设备及存储介质
CN109887032A (zh) * 2019-02-22 2019-06-14 广州小鹏汽车科技有限公司 一种基于单目视觉slam的车辆定位方法及系统
CN111267095A (zh) * 2020-01-14 2020-06-12 大连理工大学 一种基于双目视觉的机械臂抓取控制方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
朱永丰;朱述龙;张静静;朱永康;: "基于ORB特征的单目视觉定位算法研究", 计算机科学, no. 1 *
王柯;付怡然;彭向阳;左志权;易琳;黄松波;: "无人机低空遥感技术进展及典型行业应用综述", 测绘通报, no. 1 *

Also Published As

Publication number Publication date
CN111814634B (zh) 2023-09-08

Similar Documents

Publication Publication Date Title
CN111274343B (zh) 一种车辆定位方法、装置、电子设备及存储介质
CN110929639B (zh) 用于确定图像中障碍物位置的方法、装置、设备和介质
CN110738183B (zh) 路侧相机障碍物检测方法及装置
CN112132829A (zh) 车辆信息的检测方法、装置、电子设备和存储介质
CN111722245B (zh) 定位方法、定位装置和电子设备
CN111767853B (zh) 车道线检测方法和装置
US11694445B2 (en) Obstacle three-dimensional position acquisition method and apparatus for roadside computing device
CN111524192B (zh) 车载相机外参的标定方法、装置、系统及存储介质
CN110675635B (zh) 相机外参的获取方法、装置、电子设备及存储介质
CN111723768A (zh) 车辆重识别的方法、装置、设备和存储介质
CN112101209B (zh) 用于路侧计算设备的确定世界坐标点云的方法和装置
CN111578839B (zh) 障碍物坐标处理方法、装置、电子设备及可读存储介质
US20220036731A1 (en) Method for detecting vehicle lane change, roadside device, and cloud control platform
CN111222579A (zh) 跨相机的障碍物关联方法、装置、设备、电子系统及介质
CN111601013B (zh) 用于处理视频帧的方法和装置
CN112184914A (zh) 目标对象三维位置的确定方法、装置和路侧设备
CN111275827B (zh) 基于边缘的增强现实三维跟踪注册方法、装置和电子设备
CN111191619A (zh) 车道线虚线段的检测方法、装置、设备和可读存储介质
CN111400537B (zh) 一种道路元素信息获取方法、装置和电子设备
CN111833391A (zh) 图像深度信息的估计方法及装置
CN114429631B (zh) 三维对象检测方法、装置、设备以及存储介质
CN111814634B (zh) 一种实时距离确定方法、装置、设备及介质
CN113780045A (zh) 用于训练距离预测模型的方法和装置
CN111968071A (zh) 车辆的空间位置生成方法、装置、设备及存储介质
CN113255404A (zh) 车道线识别方法、装置、电子设备和计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant