CN110827337A - 确定车载相机的姿态的方法、装置和电子设备 - Google Patents

Abstract

本申请涉及确定车载相机的姿态的方法、装置和电子设备。根据一实施例，一种用于确定车载相机的姿态的方法可包括：成像步骤，其利用所述车载相机对车辆周围的环境进行成像，获得第一图像，所述第一图像包括地面图像；图像识别步骤，其从所述第一图像中识别出所述地面图像；反投影步骤，其利用所述地面图像的像素的坐标值和深度值，将所述地面图像的像素反投影为三维坐标系中的点云；拟合步骤，其基于所述点云拟合一虚拟地面；以及姿态确定步骤，其确定所述车载相机相对于所述虚拟地面的姿态。本发明的方法可以在线进行相机姿态标定，而且可以自动进行，而不需要人工干预，因此非常便于实际应用。

Description

确定车载相机的姿态的方法、装置和电子设备

技术领域

本申请总体上涉及计算机图形学领域，更特别地，涉及一种用于确定车载相机的姿态的方法、装置和电子设备。

背景技术

近年来，自动驾驶，或者说高级驾驶辅助系统(ADAS)，受到了广泛的关注和热烈的研究。ADAS系统需要使用各种车载传感器来感知车辆本身以及周围环境的各种状态，从而做出驾驶策略决定，最终实现自动驾驶功能。其中，车载相机，也称为摄像头，由于价格低廉，能实现多种功能，而被广泛使用。

随着相关硬件以及视频处理技术的发展，车载相机能以更高的分辨率和更高的帧速提供对周围环境以及车辆本身姿态的感知。此时，车载相机相对于车身的安装位置和姿态也变得更加重要，因为安装位置和姿态的细微差异可能导致其所拍摄图像的不同，进而可能会影响视觉感知的结果。因此，在将相机安装到车身上之后，通常需要进行标定来确定相机的安装位置和姿态，车载相机的姿态一般包括航向角(yaw)、俯仰角(pitch)和滚转角(roll)，其也可以表示为旋转矩阵R，是相机的外参之一。

目前，在将相机安装到车辆上之后，需要由专业人员手工对相机姿态进行标定。具体而言，需要在水平地面上放置标定板，其一般具有黑白棋盘图案，并且利用车载相机获得标定板的图像。然后，通过在物理空间和摄像机图像空间中分别确定对应的多个点的坐标，来估算车载相机的姿态。

然而，上述方案存在许多缺陷。首先，其需要由专业人员使用专门设备例如标定板来进行标定，并且需要保证标定板和车辆处于完全水平位置。此外，上述方案需要专业人员对物理空间和摄像机图像中的多个点进行测量，导致实施和计算过程都很复杂，不便于实施。而且，如果因为例如碰撞等使相机发生了移位，则还需要专业人员重新进行标定，费时费力。

因此，期望能有一种方法，其能够简单方便地确定车载相机的姿态。

发明内容

为了解决上述技术问题，提出了本申请。本申请的实施例提供了一种车载相机姿态确定方法、装置和电子设备，其能够实现相机姿态的自动标定，而不需要人工参与，因此非常便于实际应用。

根据本申请的一个方面，提供了一种用于确定车载相机的姿态的方法，包括：成像步骤，其利用所述车载相机对车辆周围的环境进行成像，获得第一图像，所述第一图像包括地面图像；图像识别步骤，其从所述第一图像中识别出所述地面图像；反投影步骤，其利用所述地面图像的像素的坐标值和深度值，将所述地面图像的像素反投影为三维坐标系中的点云；拟合步骤，其基于所述点云拟合一虚拟地面；以及姿态确定步骤，其确定所述车载相机相对于所述虚拟地面的姿态。

在一些示例中，所述车载相机是双目或更多目相机，所述第一图像包括深度信息。或者，所述车载相机是单目相机，所述成像步骤还包括对所述第一图像进行处理以获得深度信息。

在一些示例中，所述图像识别步骤包括利用语义分割算法从所述第一图像中识别出所述地面图像。

在一些示例中，所述反投影步骤还利用所述车载相机的内参将所述地面图像的像素反投影为三维坐标系中的点云。

在一些示例中，所述拟合步骤包括利用随机抽样一致算法从所述点云拟合出所述虚拟地面。

在一些示例中，所述虚拟地面是平坦面。

在一些示例中，所述车载相机的姿态包括俯仰角和横滚角中的至少一个。

在一些示例中，所述姿态确定步骤包括：将所述虚拟地面与所述车载相机的坐标系中的水平面进行比较，以确定所述车载相机的姿态。

根据本申请的另一个方面，提供了一种用于确定车载相机的姿态的装置，包括：成像单元，其利用所述车载相机对车辆周围的环境进行成像，获得第一图像，所述第一图像包括地面图像；图像识别单元，其从所述第一图像中识别出所述地面图像；反投影单元，其利用所述地面图像的像素的坐标值和深度值，将所述地面图像的像素反投影为三维坐标系中的点云；拟合单元，其基于所述点云拟合一虚拟地面；以及姿态确定单元，其确定所述车载相机相对于所述虚拟地面的姿态。

在一些示例中，所述图像识别单元包括利用语义分割算法从所述第一图像中识别出所述地面图像。

在一些示例中，所述车载相机的姿态包括俯仰角和横滚角中的至少一个。

根据本申请的另一个方面，提供了一种电子设备，包括：处理器；以及存储器，在所述存储器中存储有计算机程序指令，所述计算机程序指令在被所述处理器运行时使得所述处理器执行上述用于确定车载相机的姿态的方法。

根据本申请的另一个方面，提供了一种车辆，其包括上述电子设备。

根据本申请的另一个方面，提供了一种计算机可读介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行上述用于确定车载相机的姿态的方法。

与现有技术相比，本发明的实施例实现了诸多有益的技术效果。例如，本发明的方法可以在任意时刻执行，例如可以在车辆静止时执行，或者在车辆移动时在线执行。此外，本发明的方法可以自动进行，不需要人工干预，也不需要使用任何特定标定板，因此能简单方便地实施。而且，由于避免了人工干预，本发明的方法能够避免人为产生的误差或错误，从而确保标定结果的准确性。

附图说明

通过结合附图对本申请的示例性实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请的示例性实施例的进一步理解，并且构成说明书的一部分，与本申请的示例性实施例一起用于说明本申请的原理，但是并不构成对本申请的任何限制。在附图中，相同或相似的参考标号通常代表相同或相似的部件或步骤。

图1示出根据本申请一实施例的相机姿态标定的应用场景的示意图。

图2示出根据本申请一实施例的用于确定车载相机的姿态的方法的流程图。

图3示出图2的方法中的反投影步骤的示意图。

图4示出根据本申请一实施例的用于确定车载相机的姿态的装置的功能框图。

图5示出根据本申请一实施例的电子设备的结构框图。

具体实施方式

下面，将参考附图详细地描述根据本申请的示例性实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例性实施例的任何限制。

申请概述

如上所述，目前车载相机姿态的标定涉及使用特定的标定板，测量物理空间和摄像机图像空间中的对应点的坐标、以及基于坐标来计算相机姿态。这种标定过程复杂，需要由专业人员执行，费时费力，而且容易产生测量误差和点对应关系错乱等问题。

针对这些问题，本申请的基本构思是提出一种确定车载相机姿态的方法，其可以通过语义分割来确定相机图像中的地面，然后利用地面像素的深度信息，将二维图像中的表示地面的像素反投影成三维空间中的点云。基于三维空间中的点云，可以拟合得到一虚拟地面，进而可以确定车载相机相对于该虚拟地面的姿态，作为所述车载相机的姿态。本申请还提出了可用于实施上述方法的装置、电子设备、车辆、计算机程序产品等。

上述方案优选在车辆与地面平行时进行，因此，在车辆静止时或者匀速行驶时，都可以执行本发明的方法。此外，本发明的方法不需要使用任何辅助装置，也不需要人工干预，可以完全自动地执行，而且可以在例如车载相机发生移位或因损坏而重新安装后重复执行，简单方便，非常便于实际应用。再者，因为不需要人工干预，避免了人工坐标测量过程等，因此本发明的方法可以避免人为引起的误差或错误，确保姿态标定的准确性。

在介绍了本申请的基本原理之后，下面将参考附图来具体介绍本申请的各种非限制性实施例。

示例性场景

图1示出根据本申请一实施例的相机姿态标定的应用场景的示意图。

如图1所示，本申请的相机姿态标定方案可应用于车辆10上。典型地，车辆10可以是配备有驾驶辅助系统(ADAS)的车辆，其包括车载相机12。车载相机12可以拍摄车辆10周围的环境图像，该图像可以被处理以获得相关环境信息和/或车辆10本身的信息，ADAS系统可使用这些信息来评估驾驶环境，例如车道位置、离前车的距离、前车的速度和加速度等，从而可以做出各种驾驶策略，例如车道保持、刹车等。车载相机12可以是单目相机，也可以是双目或更多目相机。多目或更多目相机获得的图像可包含像素点的深度信息，而单目相机获得的图像不包含深度信息。车载相机12可具有其自身的坐标系，可称为相机坐标系Oc，其Zc轴平行于相机光轴，Yc轴垂直于Zc轴向下，Xc轴垂直于Zc和Yc轴。理想情况下，相机坐标系Oc的Zc轴和Xc轴平行于地面，Yc轴垂直于地面，但是应理解，由于安装误差等，相机坐标系Oc中的水平面(Zc-Xc平面)可能与地面水平面并不彼此平行。

继续参照图1，车辆10还可以包括车载电子设备14，例如车载电脑，其具体结构将在下面进一步详细描述。车载电子设备14可以获得车载相机12拍摄的图像，并对其进行处理以执行下面描述的本发明的相机姿态标定方法。

虽然这里以车辆为背景描述了本发明的实施例，但是应理解，本发明的原理亦可应用于其他需要标定相机姿态的场景，其应被理解为被包括在所附权利要求及其等价物的范围内。

示例性方法

图2示出根据本申请一实施例的用于确定车载相机的姿态的方法100的流程图。如图2所示，方法100可始于步骤S110，利用车载相机12对车辆10周围的环境进行成像，以获得包括地面图像的第一图像。第一图像可以包括深度信息，例如深度信息可以通过采用双目或更多目相机进行拍照来获得，第一图像也可以不包括深度信息，例如当车载相机12是单目相机时，其不能直接获得关于像素的深度信息。图像获取步骤S110可以在平坦地面上执行，优选在水平面上执行，因此优选车辆10在静止时或匀速行驶时执行。当车辆10具有加速度时，其姿态可能会发生抬头或翘尾，导致车身与地平面不平行，这将不利于执行本发明的车载相机姿态标定方案。

继续参照图2，在步骤S120中，可以从第一图像中识别出地面。图像识别步骤S120可以利用语义分割算法来对第一图像进行处理以识别出地面，语义分割算法的示例可包括诸如阈值法、聚类法、图划分法之类的非深度学习算法，以及诸如全卷积神经网络、稀释卷积、条件随机场(CRF)后处理之类的基于深度学习的算法。通过图像语义分割，可以识别出通过车载相机12获得的第一图像中包括的地面的图像，即第一图像中表示地面的那些像素点。

接下来，在步骤S130中，利用步骤S120所识别的代表地面的那些像素点的坐标值和深度值，将这些像素点进行反投影，以获得三维空间中的点云，

图3示出了反投影步骤的示例。如图3所示，车载相机12获得的图像101中包括有代表地面的多个像素点A，每个像素点A都具有其在图像空间中的坐标值，即像素点所位于的行和列的值。每个像素点A还可以具有其深度值。当车载相机12是双目或更多目相机时，深度值可以车载相机12直接获得；当车载相机12是单目相机时，深度值可以通过对车载相机12获得的图像101进行进一步的处理来获得。例如，可以通过感知神经网络来对图像101进行处理，以估计其中各个像素点，尤其是代表地面的那些像素点的深度值。像素点A的坐标值对应于成像物体在物平面中的位置，而像素点A的深度值对应于物平面离像平面的距离。因此，基于像素点A的坐标值和深度值，即可将图像101中的每个像素点A反投影至成像物体所在的位置，这里是三维点云，其包括与多个像素点A对应的多个虚拟点B。

然后在步骤S140中，可以从三维点云B拟合出一平面，即虚拟地面，如图3的平面102所示。可以理解，图像101中的像素点A表示地面，则通过反投影得到的虚拟点B对应于物理空间中地面所在的位置，其基本为一平面，当然因为算法误差等，点云B不一定精确地在一平面上。在步骤S140中，可以利用例如Ransac算法等来拟合出虚拟地面102。

接下来在步骤S150中，即可基于虚拟地面102的位置来确定车载相机12的姿态。具体而言，如图1所示，车载相机具有其自身的坐标系Oc，其表示车载相机12的取向。步骤S140中拟合出的虚拟地面102表示物理地面在相机坐标系中的位置，因此通过将相机坐标系中的水平面与虚拟地面102相比较，即可确定相机12相对于虚拟地面102的姿态。应理解，由于虚拟地面102是一个平面，在该二维平面内并无特定的方向性，因此在步骤S150中，可以容易地确定相机12的俯仰角(即，绕Xc轴的旋转角度)和横滚角(即，绕Zc轴的旋转角)。如果在虚拟地面102中再确定一正前方向，例如为地面延伸方向，则还可以确定相机12的偏航角(即，绕Yc轴的旋转角度)。

通过上述步骤，在不需要人工干预的情况下，实现了相机姿态的在线标定。上述方法可以在需要时容易地自动执行，因此具有广泛的应用前景。

示例性装置

图4示出根据本申请一实施例的用于确定车载相机姿态的装置200的功能框图。

如图4所示，根据本申请一实施例的用于确定车载相机姿态的装置200可包括：成像单元210、图像识别单元220、反投影单元230、拟合单元240和姿态确定单元250。

成像单元210可利用车载相机12对车辆周围的环境进行成像，以获得包括地面的第一图像。应理解，在一些实施例中，成像单元210也可以直接从车载相机12接收其所捕获的第一图像。

图像识别单元220可以对成像单元210获得的图像进行图像识别，例如利用语义分割算法来进行识别，以确定第一图像中包括的地面的图像。

反投影单元230可以利用地面像素点的坐标值和深度值来进行反投影操作，将图像空间中的地面像素点反投影成三维空间中的点云。应理解，当车载相机12是单目相机而其所捕获的图像不包含深度信息时，还可以对相机12产生的图像进行例如感知神经网络处理以估计地面像素点的深度信息。

拟合单元240可以利用拟合算法例如但不限于Ransac算法从三维点云拟合出一虚拟平面，即虚拟地面。

姿态确定单元250可以通过将相机坐标系中的水平面与所拟合的虚拟地面相比较，来确定相机12的姿态。例如，通过将这两个平面相比较，来确定相机12的俯仰角和横滚角。

虽然未示出，但是在一些实施例中，用于确定车载相机姿态的装置200还可以包括结果输出单元以输出所确定的相机姿态。

由于车载相机姿态确定装置200中的各个单元和模块的具体功能和操作已经在上面参照图1至图3的描述中得到了详细说明，因此这里仅简要介绍，以避免重复描述。

示例性电子设备

图5示出根据本申请一实施例的电子设备300的结构框图。电子设备300可以实施为图1所示的车辆10的车载电子设备14，或者实施为车载电子设备14的组件。而且，图4所示的车载相机姿态确定装置200可以作为软件或固件实施在电子设备300中。

如图5所示，电子设备300可包括处理器310和存储器320。

处理器310可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备300中的其他组件以执行期望的功能。

存储器320可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器310可以运行所述程序指令，以实现上文所述的本申请的各个实施例的车载相机姿态确定方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如车载相机的相关信息和驱动程序等。

在一示例中，电子设备300还可以包括输入单元330和输出单元340，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

输入单元330可连接到例如车载相机12或者其对应的图像处理装置以接收由车载相机12捕获的图像，以用于执行上面描述的姿态确定过程。

输出装置340可以输出所获得的相机姿态。例如，输出装置340可以将相机姿态输出给车辆10的ADAS系统。ADAS系统可利用相机姿态来对相机12捕获的图像进行适当的修正或处理，以获得更准确的驾驶环境参数。

为了简化，图5中仅示出了电子设备300中与本申请有关的一些组件，而省略了一些相关外围或辅助组件。除此之外，根据具体应用情况，电子设备300还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的车载相机姿态确定方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的车载相机姿态确定方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。

本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (14)

1.一种用于确定车载相机的姿态的方法，包括：

成像步骤，其利用所述车载相机对车辆周围的环境进行成像，获得第一图像，所述第一图像包括地面图像；

图像识别步骤，其从所述第一图像中识别出所述地面图像；

反投影步骤，其利用所述地面图像的像素的坐标值和深度值，将所述地面图像的像素反投影为三维坐标系中的点云；

拟合步骤，其基于所述点云拟合一虚拟地面；以及

姿态确定步骤，其确定所述车载相机相对于所述虚拟地面的姿态。

2.如权利要求1所述的方法，其中，所述车载相机是双目或更多目相机，所述第一图像包括深度信息；或者

其中，所述车载相机是单目相机，所述成像步骤还包括对所述第一图像进行处理以获得深度信息。

3.如权利要求1所述的方法，其中，所述图像识别步骤包括利用语义分割算法从所述第一图像中识别出所述地面图像。

4.如权利要求1所述的方法，其中，所述反投影步骤还利用所述车载相机的内参将所述地面图像的像素反投影为三维坐标系中的点云。

5.如权利要求1所述的方法，其中，所述拟合步骤包括利用随机抽样一致算法从所述点云拟合出所述虚拟地面。

6.如权利要求5所述的方法，其中，所述虚拟地面是平坦面。

7.如权利要求1所述的方法，其中，所述车载相机的姿态包括俯仰角和横滚角中的至少一个。

8.如权利要求1所述的方法，其中，所述姿态确定步骤包括：将所述虚拟地面与所述车载相机的坐标系中的水平面进行比较，以确定所述车载相机的姿态。

9.一种用于确定车载相机的姿态的装置，包括：

成像单元，其利用所述车载相机对车辆周围的环境进行成像，获得第一图像，所述第一图像包括地面图像；

图像识别单元，其从所述第一图像中识别出所述地面图像；

反投影单元，其利用所述地面图像的像素的坐标值和深度值，将所述地面图像的像素反投影为三维坐标系中的点云；

拟合单元，其基于所述点云拟合一虚拟地面；以及

姿态确定单元，其确定所述车载相机相对于所述虚拟地面的姿态。

10.如权利要求9所述的装置，其中，所述图像识别单元包括利用语义分割算法从所述第一图像中识别出所述地面图像。

11.如权利要求9所述的装置，其中，所述车载相机的姿态包括俯仰角和横滚角中的至少一个。

12.一种电子设备，包括：

处理器；以及

存储器，在所述存储器中存储有计算机程序指令，所述计算机程序指令在被所述处理器运行时使得所述处理器执行权利要求1-8中的任一项所述的方法。

13.一种车辆，其包括权利要求12所述的电子设备。

14.一种计算机可读介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行权利要求1-8中的任一项所述的方法。

Images