CN110135396A - 地面标志的识别方法、装置、设备及介质 - Google Patents

地面标志的识别方法、装置、设备及介质 Download PDF

Info

Publication number
CN110135396A
CN110135396A CN201910445433.0A CN201910445433A CN110135396A CN 110135396 A CN110135396 A CN 110135396A CN 201910445433 A CN201910445433 A CN 201910445433A CN 110135396 A CN110135396 A CN 110135396A
Authority
CN
China
Prior art keywords
data
back projection
point
point cloud
surface mark
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910445433.0A
Other languages
English (en)
Other versions
CN110135396B (zh
Inventor
杨镜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu Online Network Technology Beijing Co Ltd
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201910445433.0A priority Critical patent/CN110135396B/zh
Publication of CN110135396A publication Critical patent/CN110135396A/zh
Application granted granted Critical
Publication of CN110135396B publication Critical patent/CN110135396B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

本发明实施例公开了一种地面标志的识别方法、装置、设备及介质。该方法包括:获取预先经过标定的点云数据以及图像数据;在图像数据中获取对地面标志的第一识别结果数据;根据图像数据与点云数据之间的投影矩阵确定第一识别结果数据中各数据点的反投影方向,并根据反投影方向将第一识别结果数据反投影至点云数据中得到反投影结果数据;将反投影结果数据与点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在点云数据中标注地面标志的属性信息。上述技术方案,能够充分利用两种数据的优势来实现地面标志的检测,还能避免由于图像拍摄过程存在的透视问题而引起的地面标志识别错误,提高了地面标志检测及识别的效率及准确率。

Description

地面标志的识别方法、装置、设备及介质
技术领域
本发明实施例涉及数据处理技术领域,尤其涉及一种地面标志的识别方法、装置、设备及介质。
背景技术
高精度地图是实现自动驾驶的关键所在,能精确表达交通标志、地面标志、车道线、信号灯等上百种目标,以及道路坡度、曲率等准确的数据信息。针对高精度地图进行数据采集时,需要同时采集激光雷达点云数据和图像数据。
现有技术中,基于点云的地面标志检测及识别的主要采用以下方案来实现:
地面标志检测:利用点云反射率进行地面标志的检测,高反射率区域通常为地面标志,具体可以采用机器学习的方式,结合点云的空间位置信息与反射率信息来实现对地面标志的检测。此检测方法的缺陷在于:点云数据中记录地图要素的空间位置信息和反射率信息,但是,在数据采集过程中,容易受环境的影响难以完成要素的检测,例如在扬尘天气下,会造成反射率异常的情况。
地面标志识别:自动化作业工程中,通常难以利用点云的空间分布来识别地面标志,基本采用人工查看相应图像数据来实现对点云地面标志的赋值。此识别方法的缺陷在于:利用点云数据进行地面标志检测,通常仅能得到点云空间位置和反射率信息,难以获取地面标志的属性信息,例如地面限速值、颜色等,需要采用人工作业的方式,基于对应的图像数据为点云检测结果赋值,效率低下。
发明内容
本发明实施例提供一种地面标志的识别方法、装置、设备及介质,以实现点云数据和图像数据的自动融合,提高地面标志检测及识别的效率,以及地面标志检测及识别的准确率。
第一方面,本发明实施例提供了一种地面标志的识别方法,包括:
获取预先经过标定的点云数据以及图像数据;
在所述图像数据中获取对地面标志的第一识别结果数据;
根据所述图像数据与所述点云数据之间的投影矩阵,确定所述第一识别结果数据中各数据点的反投影方向,并根据所述反投影方向将所述第一识别结果数据反投影至所述点云数据中,得到反投影结果数据;
将所述反投影结果数据与所述点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在所述点云数据中标注所述地面标志的属性信息。
第二方面,本发明实施例还提供了一种地面标志的识别装置,包括:
标定数据获取模块,用于获取预先经过标定的点云数据以及图像数据;
第一识别结果数据获取模块,用于在所述图像数据中获取对地面标志的第一识别结果数据;
数据反投影模块,用于根据所述图像数据与所述点云数据之间的投影矩阵,确定所述第一识别结果数据中各数据点的反投影方向,并根据所述反投影方向将所述第一识别结果数据反投影至所述点云数据中,得到反投影结果数据;
属性标注模块,用于将所述反投影结果数据与所述点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在所述点云数据中标注所述地面标志的属性信息。
第三方面,本发明实施例还提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如本发明任意实施例所述的地面标志的识别方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明任意实施例所述的地面标志的识别方法。
本发明实施例提供的一种地面标志的识别方法、装置、设备及介质,在获取预先经过标定的点云数据以及图像数据之后,首先在图像数据中获取与地面标志对应的第一识别结果数据,然后根据图像数据与点云数据之间的投影矩阵确定出第一识别结果数据中各数据点的反投影方向,并根据反投影方向将第一识别结果数据反投影至点云数据中,得出反投影结果数据,最后将反投影结果数据与在点云数据中确定的对地面标志的第二识别结果数据进行融合,并根据融合结果在点云数据中标注出地面标志的属性信息。在上述技术方案中,将图像识别结果数据反投影至点云数据中,实现了图像数据地面标志检测结果和点云数据检测结果的自动融合,进而能够充分利用两种数据的优势来实现地面标志的检测,避免单独利用点云数据或图像数据时由于外界原因而漏检的问题出现,同时,根据融合结果对地面标志进行属性信息识别及标注还能避免由于图像拍摄过程存在的透视问题而引起的地面标志识别错误,提高了地面标志检测及识别的效率,以及地面标志检测及识别的准确率。
附图说明
图1是本发明实施例一中的一种地面标志的识别方法的流程图;
图2是本发明实施例二中的一种地面标志的识别方法的流程图;
图3是本发明实施例三中的一种地面标志的识别方法的流程图;
图4是本发明实施例三中的一种与地面限速标志对应的点云数据示例图;
图5是本发明实施例三中的一种与地面限速标志对应的图像数据示例图;
图6是本发明实施例三中的一种与地面限速标志对应的反投影结果数据示例图;
图7是本发明实施例四中的一种地面标志的识别装置的结构示意图;
图8是本发明实施例五中的一种计算机设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是,一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理,但是其中的许多操作可以被并行地、并发地或者同时实施。此外,各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止,但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。
实施例一
图1是本实施例提供的一种地面标志的识别方法的流程图,可适用于高精地图数据采集之后对地面标识进行检测、识别及标注的情况,该方法可以由本发明实施例提供的地面标志的识别装置来执行,该装置可采用软件和/或硬件的方式实现,并一般可集成在处理器中。
如图1所示,本实施例的方法具体包括:
S110、获取预先经过标定的点云数据以及图像数据。
点云数据指的是通过测量仪器等得到的目标外观表明的点数据的集合,具体可以通过激光雷达进行数据采集。激光雷达是一种以发射激光束来探测目标的位置、速度等特征量的雷达系统,一般由发射系统、接收系统和信息处理等部分组成。其中,发射系统通常由激光器(如二氧化碳激光器、半导体激光器及固体激光器等)和光学扩束单元等组成;接收系统可以为各种形式的光电探测器,如光电倍增管、半导体光电二极管、红外和可见光多元探测器件等。根据激光测量原理得到的点云数据通常包括物体表面采样点的三维坐标(X,Y,Z)和激光发射强度(Intensity)。当一束激光照射到物体表面时,所反射的激光会携带方位、距离等信息。若将激光光束按照某种轨迹进行扫描,且边扫描边记录反射的激光点信息,则能够得到大量的激光点,这些激光点就可以形成点云。
示例性的,图像数据是通过摄像机、照相机等设备对目标位置进行摄像或拍照而生成的。图像数据中数据点的位置可以用图像像素点的二维坐标表示,也可以用图像像素点的齐次坐标表示。其中,齐次坐标是将一个原本N维的向量转化成一个N+1维的向量后的坐标,例如,二维数据点(x,y)的齐次坐标表示为(hx,hy,h)。
在高精度地图的数据采集过程中,采集车一般会安装激光雷达和照相机(或摄像机)两种数据采集设备完成点云数据和图像数据的采集。在数据采集前,激光雷达和照相机会进行严格的标定,保证激光雷达采集的点云数据通过投影矩阵能够精确地投影至图像数据上,进而通过该激光雷达和照相机获取到的点云数据和图像数据即为预先经过标定的。
S120、在图像数据中获取对地面标志的第一识别结果数据。
第一识别结果数据指的是,根据图像数据识别出的与地面标志对应的数据点集合。
例如,照相机拍摄的地面图像中包括一个地面标志“80”,用于表示此路段车辆限速为80公里/时,使用图像处理技术对这张地面图像进行图像处理,识别出这张地面图像中包括地面标志“80”,那么图像数据中与地面标志“80”对应的数据点集合即为第一识别结果数据。
S130、根据图像数据与点云数据之间的投影矩阵,确定第一识别结果数据中各数据点的反投影方向,并根据反投影方向将第一识别结果数据反投影至点云数据中,得到反投影结果数据。
为了实现图像数据地面标志检测结果(即第一识别结果数据)与点云数据地面检测结果的融合,将第一识别结果数据反投影至点云数据中。
具体的,首先根据图像数据与点云数据之间的投影矩阵,确定出第一识别结果数据中每一个数据点的反投影方向,然后根据各个数据点的反投影方向对应地将各个数据点反投影至点云数据中。由于将二维数据反投影至三维数据时,缺乏一个深度信息,因此,可以在点云数据中确定出一个反投影平面,将第一识别结果数据中各数据点投影至这个反投影平面上,例如可以将这个反投影平面确定为地平面。再根据将第一识别结果数据中各个数据点在点云数据中的反投影位置点,将第一识别结果数据中的各个数据点进行重新整合,重新整合生成的数据即为反投影结果数据。
S140、将反投影结果数据与点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在点云数据中标注地面标志的属性信息。
第二识别结果数据,指的是对点云数据进行分析处理,得到的与地面标志对应的数据点集合。
具体可以利用点云数据中各个数据点的反射率进行地面标志的检测,通常情况下,地面标志位高反射率区域,利用机器学习的模式,将点云数据中各个数据点的空间位置信息(三维坐标)以及反射率信息结合起来即可实现对地面标志的检测,进而将检测得到的与地面标志对应的数据点集合作为第二识别结果数据。
将反投影结果数据和第二识别结果数据进行融合,并根据融合结果对地面标志进行识别,例如识别出地面标志的属性信息包括地面标志的内容信息是“限速80”和地面标志的颜色信息是黄色,则使用该属性信息在点云数据中对地面标志进行标注。
本实施例提供的技术方案中,将图像识别结果数据反投影至点云数据中,实现了图像数据地面标志检测结果和点云数据检测结果的自动融合,进而能够充分利用两种数据的优势来实现地面标志的检测,避免单独利用点云数据或图像数据时由于外界原因而漏检的问题出现,同时,根据融合结果对地面标志进行属性信息识别及标注还能避免由于图像拍摄过程存在的透视问题而引起的地面标志识别错误,提高了地面标志检测及识别的效率,以及地面标志检测及识别的准确率。
实施例二
图2是本发明实施例二提供的一种地面标志的识别方法的流程图,本实施例以上述实施例为基础进行具体化,其中,将根据图像数据与点云数据之间的投影矩阵,确定第一识别结果数据中数据点的反投影方向,具体为:
在第一识别结果数据中,获取当前处理的目标数据点;根据投影矩阵,确定采集目标数据点的摄像头的第一空间位置以及目标数据点的第二空间位置;根据第一空间位置以及所述第二空间位置,确定所述目标数据点的反投影方向。
进一步的,将根据反投影方向将第一识别结果数据反投影至点云数据中,得到反投影结果数据,具体为:
以第一识别结果数据中的各数据点所在的空间位置为起点,沿与各数据点分别对应的反投影方向,构造多条射线;将各射线与由点云数据确定的拟合地平面的交点,作为第一识别结果数据在点云数据中的反投影结果数据。
具体的,在将各射线与由点云数据确定的拟合地平面的交点,作为第一识别结果数据在点云数据中的反投影结果数据之前,还包括:
采用设定平面提取算法,在点云数据中确定出拟合地平面。
如图2所示,本实施例的方法具体包括:
S210、获取预先经过标定的点云数据以及图像数据。
S220、在图像数据中获取对地面标志的第一识别结果数据。
S230、在第一识别结果数据中,获取当前处理的目标数据点,根据投影矩阵确定采集目标数据点的摄像头的第一空间位置以及目标数据点的第二空间位置,并根据第一空间位置以及第二空间位置,确定目标数据点的反投影方向。
在本步骤中,针对第一识别结果数据中的每一个数据点进行分析,确定与每一个数据点对应的反投影方向,下述以一个目标数据点进行解释说明。
根据相机成像投影关系,根据投影矩阵即可计算出像平面上任意一点的空间位置。举例说明,A为世界坐标系下的一点,其世界坐标为(X,Y,Z),a为A在图像上一点,其坐标为(x,y),利用投影矩阵P即可将空间位置点A和成像点a对应起来,对应关系为进而根据目标数据点在像平面上的位置即可计算出目标数据点的空间位置(即第二空间位置)。
其中,P=K[R T],K为内参数矩阵,[R T]为外参数矩阵,R为旋转矩阵,T为平移向量。
通过投影矩阵P也可计算得到采集目标数据的相机摄像头的空间位置(即第一空间位置)。将第一空间位置和第二空间位置进行连线,由第一空间位置指向第二空间位置的方向即为目标数据点的反投影方向。
根据相同的方法即可确定出第一识别结果数据中各数据点的空间位置,再结合确定的相机摄像头的空间位置,即可确定出第一识别结果数据中各数据点的反投影方向。
S240、采用设定平面提取算法,在点云数据中确定出拟合地平面。
为了解决二维数据反投影缺乏深度信息的问题,先在点云数据中确定一个反投影平面,典型的,在点云数据中确定出的反投影平面,可以是根据点云数据拟合生成的拟合地平面。
具体的,首先采用设定的平面提取算法,例如是RANSAC算法,提取点云数据中包括的各个拟合平面;然后根据预设规则在各个拟合平面中确定出拟合地平面。
S250、以第一识别结果数据中的各数据点所在的空间位置为起点,沿与各数据点分别对应的反投影方向,构造多条射线,并将各射线与由点云数据确定的拟合地平面的交点,作为第一识别结果数据在点云数据中的反投影结果数据。
选取第一识别结果数据中一个数据点作为目标数据点,构造一条起点为目标数据点所在的第二空间位置,方向为摄像头的第一空间位置指向第二空间位置的方向的射线,这条射线与拟合地平面的交点即为第一识别结果数据中的目标数据点在点云数据中的反投影位置。
根据相同的方法,可以构造多条射线,进而确定出第一识别结果数据中各数据点在点云数据中的反投影位置,根据这些反投影位置将第一识别结果数据进行重新整合,将整合结果作为第一识别结果数据在点云数据中的反投影结果数据。
S260、将反投影结果数据与点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在点云数据中标注地面标志的属性信息。
本实施例未尽详细解释之处,请参见前述实施例,在此不再赘述。
在上述技术方案中,根据点云数据拟合出第一识别结果数据进行反投影的地平面,解决了二维数据进行反投影是缺乏深度信息的问题,同时,实现了图像数据地面标志检测结果和点云数据检测结果的自动融合,进而能够充分利用两种数据的优势来实现地面标志的检测,提高了地面标志检测及识别的效率,以及地面标志检测及识别的准确率。
实施例三
图3是本发明实施例二提供的一种地面标志的识别方法的流程图,本实施例以上述实施例为基础进行具体化,其中,将反投影结果数据与点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在所述点云数据中标注地面标志的属性信息,具体为:
使用由图像数据确定的地面标志的属性信息,对反投影结果数据进行属性标注,并根据标注结果在点云数据中标注地面标志的属性信息;
如果确定第二识别结果数据与反投影结果数据相匹配,则为标注结果设置第一置信度,如果确定第二识别结果数据与反投影结果不相匹配,则为标注结果设置第二置信度;其中,第一置信度大于第二置信度。
具体的,图像数据为与至少两张连续拍摄图像对应的图像数据。
进一步的,在使用由所述图像数据确定的所述地面标志的属性信息,对所述反投影结果数据进行属性标注之前,还包括:
在图像数据中,根据与对地面标志对应的各图像点的实际空间位置与采集各图像点时摄像头所在空间位置之间的距离,在各图像点中确定有效标识点;
根据各有效标识点在点云数据中的反投影结果数据,识别出地面标志的属性信息。
如图3所示,本实施例的方法具体包括:
S310、获取预先经过标定的点云数据以及图像数据。
S320、在图像数据中获取对地面标志的第一识别结果数据。
S330、在第一识别结果数据中,获取当前处理的目标数据点,根据投影矩阵确定采集目标数据点的摄像头的第一空间位置以及目标数据点的第二空间位置,并根据第一空间位置以及第二空间位置,确定目标数据点的反投影方向。
S340、采用设定平面提取算法,在点云数据中确定出拟合地平面。S350、以第一识别结果数据中的各数据点所在的空间位置为起点,沿与各数据点分别对应的反投影方向,构造多条射线,并将各射线与由点云数据确定的拟合地平面的交点,作为第一识别结果数据在点云数据中的反投影结果数据。
S360、在图像数据中,根据与对地面标志对应的各图像点的实际空间位置与采集各图像点时摄像头所在空间位置之间的距离,在各图像点中确定有效标识点,并根据各有效标识点在点云数据中的反投影结果数据,识别出地面标志的属性信息。
由于图像拍摄过程中存在透视的情况,地面标志会出现较大的形变,不利于进行地面标志的识别,尤其是识别例如地面限速值之类的地面标志。
作为一种具体的实施方式,本实施例涉及的图像数据为与至少两张连续拍摄图像对应的图像数据。首先在图像数据中确定出形变较小的有效标识点,然后将这些有效标识点反投影至点云数据中,得到有效标识点的反投影结果数据,再根据有效标识点的反投影结果数据对地面标志的属性信息进行识别,例如是地面标志的内容信息、颜色信息等。
典型的,可以根据各图像点的实际空间位置与摄像头所在空间位置之间的距离来确定各图像点的有效度,距离越近,图像点的有效度越高。其中,空间位置的计算方法请参见前述实施例,在此不再赘述。具体的,可以设置一个有效度阈值,将有效度超过有效度阈值的图像点作为有效标识点。
S370、使用由图像数据确定的地面标志的属性信息,对反投影结果数据进行属性标注,并根据标注结果在点云数据中标注地面标志的属性信息。
使用由与至少两张连续拍摄图像对应的图像数据确定的地面标志的属性信息(例如是“限速80”),对于第一识别结果数据对应的反投影结果数据进行属性标注,也即与反投影结果数据对应的属性标注为“限速80”,并将这个属性“限速80”作为在点云数据中对地面标志标注的属性信息。
S380、如果确定第二识别结果数据与反投影结果数据相匹配,则为标注结果设置第一置信度,如果确定第二识别结果数据与反投影结果不相匹配,则为标注结果设置第二置信度;第一置信度大于第二置信度。
在本实施例中,还可以为在点云数据中对地面标志标注的属性信息设置置信度。当第二识别结果数据与反投影结果数据相匹配时,例如是数据匹配度超过设定匹配度阈值时,则将标注结果的置信度设置为第一置信度,当第二识别结果数据与反投影结果数据不相匹配时,例如是数据匹配度不超过设定匹配度阈值时则将标注结果的置信度设置为第二置信度。
本实施例未尽详细解释之处,请参见前述实施例,在此不再赘述。
在上述技术方案中,通过选取图像数据中的有效标识点反投影至点云数据中,利用点云数据具备的三维空间位置信息,将图像数据变成俯视图进行识别,有效地去除了图像识别过程中的透视问题,保证了地面标志属性识别的准确率;同时,标注结果中携带的置信度信息,可以为高精地图的实际应用提供参考依据,提升用户体验。
以一个具体的示例进行说明,图4为与地面限速标志对应的点云数据示例图,图5为与地面限速标志对应的图像数据示例图,图6为与地面限速标志对应的反投影结果数据示例图,其中,图4~图6均以灰度图形式进行展示。根据图6进行地面标志识别,能有效去除图像识别过程中的透视问题,保证了地面标志属性识别的准确率。
实施例四
图7是本实施例提供的一种地面标志的识别装置的结构示意图,可适用于高精地图数据采集之后对地面标识进行检测、识别及标注的情况,该装置可采用软件和/或硬件的方式实现,并一般可集成在处理器中。如图7所示,该装置具体包括:标定数据获取模块410、第一识别结果数据获取模块420、数据反投影模块430和属性标注模块440,其中,
标定数据获取模块410,用于获取预先经过标定的点云数据以及图像数据;
第一识别结果数据获取模块420,用于在所述图像数据中获取对地面标志的第一识别结果数据;
数据反投影模块430,用于根据所述图像数据与所述点云数据之间的投影矩阵,确定所述第一识别结果数据中各数据点的反投影方向,并根据所述反投影方向将所述第一识别结果数据反投影至所述点云数据中,得到反投影结果数据;
属性标注模块440,用于将所述反投影结果数据与所述点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在所述点云数据中标注所述地面标志的属性信息。
本实施例提供的技术方案中,将图像识别结果数据反投影至点云数据中,实现了图像数据地面标志检测结果和点云数据检测结果的自动融合,进而能够充分利用两种数据的优势来实现地面标志的检测,避免单独利用点云数据或图像数据时由于外界原因而漏检的问题出现,同时,根据融合结果对地面标志进行属性信息识别及标注还能避免由于图像拍摄过程存在的透视问题而引起的地面标志识别错误,提高了地面标志检测及识别的效率,以及地面标志检测及识别的准确率。
进一步的,数据反投影模块430具体包括:目标数据点获取单元、空间位置确定单元和反投影方向确定单元,其中,
目标数据点获取单元,用于在所述第一识别结果数据中,获取当前处理的目标数据点;
空间位置确定单元,用于根据所述投影矩阵,确定采集所述目标数据点的摄像头的第一空间位置以及所述目标数据点的第二空间位置;
反投影方向确定单元,用于根据所述第一空间位置以及所述第二空间位置,确定所述目标数据点的反投影方向。
进一步的,数据反投影模块430还具体包括:反投影射线构造单元和反投影单元,其中,
反投影射线构造单元,用于以所述第一识别结果数据中的各数据点所在的空间位置为起点,沿与各数据点分别对应的反投影方向,构造多条射线;
反投影单元,用于将各所述射线与由所述点云数据确定的拟合地平面的交点,作为所述第一识别结果数据在所述点云数据中的反投影结果数据。
进一步的,数据反投影模块430还具体包括:拟合地平面确定单元,用于在将各所述射线与由所述点云数据确定的拟合地平面的交点,作为所述第一识别结果数据在所述点云数据中的反投影结果数据之前,采用设定平面提取算法,在所述点云数据中确定出所述拟合地平面。
进一步的,属性标注模块440具体包括:属性标注单元和置信度设置单元,其中,
属性标注单元,用于使用由所述图像数据确定的所述地面标志的属性信息,对所述反投影结果数据进行属性标注,并根据标注结果在所述点云数据中标注所述地面标志的属性信息;
置信度设置单元,用于如果确定所述第二识别结果数据与所述反投影结果数据相匹配,则为所述标注结果设置第一置信度,如果确定所述第二识别结果数据与所述反投影结果不相匹配,则为所述标注结果设置第二置信度;
其中,所述第一置信度大于所述第二置信度。
具体的,所述图像数据为与至少两张连续拍摄图像对应的图像数据。
进一步的,属性标注模块440还具体包括:属性信息识别模块,用于在使用由所述图像数据确定的所述地面标志的属性信息,对所述反投影结果数据进行属性标注之前,在所述图像数据中,根据与对地面标志对应的各图像点的实际空间位置与采集各图像点时摄像头所在空间位置之间的距离,在所述各图像点中确定有效标识点;根据各所述有效标识点在所述点云数据中的反投影结果数据,识别出所述地面标志的属性信息。
上述地面标志的识别装置可执行本发明任意实施例所提供的地面标志的识别方法,具备执行地面标志的识别方法相应的功能模块和有益效果。
实施例五
图8示出了适于用来实现本发明实施方式的示例性计算机设备12的框图。图8显示的计算机设备12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图8所示,计算机设备12以通用计算设备的形式表现。计算机设备12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,系统存储器28,连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图8未显示,通常称为“硬盘驱动器”)。尽管图8中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如存储器28中,这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
计算机设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信,还可与一个或者多个使得用户能与该计算机设备12交互的设备通信,和/或与使得该计算机设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且,计算机设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图8所示,网络适配器20通过总线18与计算机设备12的其它模块通信。应当明白,尽管图8中未示出,可以结合计算机设备12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的地面标志的识别方法。也即,所述处理单元执行所述程序时实现:
获取预先经过标定的点云数据以及图像数据;
在所述图像数据中获取对地面标志的第一识别结果数据;
根据所述图像数据与所述点云数据之间的投影矩阵,确定所述第一识别结果数据中各数据点的反投影方向,并根据所述反投影方向将所述第一识别结果数据反投影至所述点云数据中,得到反投影结果数据;
将所述反投影结果数据与所述点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在所述点云数据中标注所述地面标志的属性信息。
实施例六
本实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本申请所有发明实施例提供的地面标志的识别方法。也即,该程序被处理器执行时实现:
获取预先经过标定的点云数据以及图像数据;
在所述图像数据中获取对地面标志的第一识别结果数据;
根据所述图像数据与所述点云数据之间的投影矩阵,确定所述第一识别结果数据中各数据点的反投影方向,并根据所述反投影方向将所述第一识别结果数据反投影至所述点云数据中,得到反投影结果数据;
将所述反投影结果数据与所述点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在所述点云数据中标注所述地面标志的属性信息。
可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)域连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。

Claims (10)

1.一种地面标志的识别方法,其特征在于,包括:
获取预先经过标定的点云数据以及图像数据;
在所述图像数据中获取对地面标志的第一识别结果数据;
根据所述图像数据与所述点云数据之间的投影矩阵,确定所述第一识别结果数据中各数据点的反投影方向,并根据所述反投影方向将所述第一识别结果数据反投影至所述点云数据中,得到反投影结果数据;
将所述反投影结果数据与所述点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在所述点云数据中标注所述地面标志的属性信息。
2.根据权利要求1所述的方法,其特征在于,根据所述图像数据与所述点云数据之间的投影矩阵,确定所述第一识别结果数据中数据点的反投影方向,包括:
在所述第一识别结果数据中,获取当前处理的目标数据点;
根据所述投影矩阵,确定采集所述目标数据点的摄像头的第一空间位置以及所述目标数据点的第二空间位置;
根据所述第一空间位置以及所述第二空间位置,确定所述目标数据点的反投影方向。
3.根据权利要求2所述的方法,其特征在于,根据所述反投影方向将所述第一识别结果数据反投影至所述点云数据中,得到反投影结果数据,包括:
以所述第一识别结果数据中的各数据点所在的空间位置为起点,沿与各数据点分别对应的反投影方向,构造多条射线;
将各所述射线与由所述点云数据确定的拟合地平面的交点,作为所述第一识别结果数据在所述点云数据中的反投影结果数据。
4.根据权利要求3所述的方法,其特征在于,在将各所述射线与由所述点云数据确定的拟合地平面的交点,作为所述第一识别结果数据在所述点云数据中的反投影结果数据之前,还包括:
采用设定平面提取算法,在所述点云数据中确定出所述拟合地平面。
5.根据权利要求1所述的方法,其特征在于,将所述反投影结果数据与所述点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在所述点云数据中标注所述地面标志的属性信息,包括:
使用由所述图像数据确定的所述地面标志的属性信息,对所述反投影结果数据进行属性标注,并根据标注结果在所述点云数据中标注所述地面标志的属性信息;
如果确定所述第二识别结果数据与所述反投影结果数据相匹配,则为所述标注结果设置第一置信度,如果确定所述第二识别结果数据与所述反投影结果不相匹配,则为所述标注结果设置第二置信度;
其中,所述第一置信度大于所述第二置信度。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述图像数据为与至少两张连续拍摄图像对应的图像数据。
7.根据权利要求6所述的方法,其特征在于,在使用由所述图像数据确定的所述地面标志的属性信息,对所述反投影结果数据进行属性标注之前,还包括:
在所述图像数据中,根据与对地面标志对应的各图像点的实际空间位置与采集各图像点时摄像头所在空间位置之间的距离,在所述各图像点中确定有效标识点;
根据各所述有效标识点在所述点云数据中的反投影结果数据,识别出所述地面标志的属性信息。
8.一种地面标志的识别装置,其特征在于,包括:
标定数据获取模块,用于获取预先经过标定的点云数据以及图像数据;
第一识别结果数据获取模块,用于在所述图像数据中获取对地面标志的第一识别结果数据;
数据反投影模块,用于根据所述图像数据与所述点云数据之间的投影矩阵,确定所述第一识别结果数据中各数据点的反投影方向,并根据所述反投影方向将所述第一识别结果数据反投影至所述点云数据中,得到反投影结果数据;
属性标注模块,用于将所述反投影结果数据与所述点云数据对地面标志的第二识别结果数据进行融合,并根据融合结果在所述点云数据中标注所述地面标志的属性信息。
9.一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1-7中任一所述的地面标志的识别方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的地面标志的识别方法。
CN201910445433.0A 2019-05-27 2019-05-27 地面标志的识别方法、装置、设备及介质 Active CN110135396B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910445433.0A CN110135396B (zh) 2019-05-27 2019-05-27 地面标志的识别方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910445433.0A CN110135396B (zh) 2019-05-27 2019-05-27 地面标志的识别方法、装置、设备及介质

Publications (2)

Publication Number Publication Date
CN110135396A true CN110135396A (zh) 2019-08-16
CN110135396B CN110135396B (zh) 2021-05-07

Family

ID=67581919

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910445433.0A Active CN110135396B (zh) 2019-05-27 2019-05-27 地面标志的识别方法、装置、设备及介质

Country Status (1)

Country Link
CN (1) CN110135396B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110852278A (zh) * 2019-11-12 2020-02-28 深圳创维数字技术有限公司 地面标识线识别方法、设备及计算机可读存储介质
CN110929669A (zh) * 2019-11-29 2020-03-27 北京百度网讯科技有限公司 数据标注方法及装置
CN111275715A (zh) * 2020-01-14 2020-06-12 深圳前海达闼云端智能科技有限公司 点云分割方法、装置、电子设备、存储介质和机器人
CN112037120A (zh) * 2020-07-31 2020-12-04 上海图森未来人工智能科技有限公司 3d点云数据中道路平面要素的标注方法和装置、存储介质
CN112434707A (zh) * 2020-11-14 2021-03-02 武汉中海庭数据技术有限公司 一种交通路口rpp点自动提取方法及装置
CN112580717A (zh) * 2020-12-17 2021-03-30 百度在线网络技术(北京)有限公司 模型训练方法、定位元素查找方法及装置
CN117532624A (zh) * 2024-01-10 2024-02-09 南京东奇智能制造研究院有限公司 一种护栏板安装自动定位调准方法及系统

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104268935A (zh) * 2014-09-18 2015-01-07 华南理工大学 一种基于特征的机载激光点云与影像数据融合系统及方法
CN105512646A (zh) * 2016-01-19 2016-04-20 腾讯科技(深圳)有限公司 一种数据处理方法、装置及终端
CN105678318A (zh) * 2015-12-31 2016-06-15 百度在线网络技术(北京)有限公司 交通标牌的匹配方法及装置
CN107516077A (zh) * 2017-08-17 2017-12-26 武汉大学 基于激光点云和影像数据融合的交通标牌信息提取方法
CN108406731A (zh) * 2018-06-06 2018-08-17 珠海市微半导体有限公司 一种基于深度视觉的定位装置、方法及机器人
CN108717712A (zh) * 2018-05-29 2018-10-30 东北大学 一种基于地平面假设的视觉惯导slam方法
US20180372867A1 (en) * 2012-01-05 2018-12-27 Teledyne Reson A/S Use of multi-beam sonar systems to generate point cloud data and models; data registration in underwater metrology applications
CN109283538A (zh) * 2018-07-13 2019-01-29 上海大学 一种基于视觉和激光传感器数据融合的海上目标大小检测方法
CN109444911A (zh) * 2018-10-18 2019-03-08 哈尔滨工程大学 一种单目相机和激光雷达信息融合的无人艇水面目标检测识别与定位方法
CN109658504A (zh) * 2018-10-31 2019-04-19 百度在线网络技术(北京)有限公司 地图数据标注方法、装置、设备及存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180372867A1 (en) * 2012-01-05 2018-12-27 Teledyne Reson A/S Use of multi-beam sonar systems to generate point cloud data and models; data registration in underwater metrology applications
CN104268935A (zh) * 2014-09-18 2015-01-07 华南理工大学 一种基于特征的机载激光点云与影像数据融合系统及方法
CN105678318A (zh) * 2015-12-31 2016-06-15 百度在线网络技术(北京)有限公司 交通标牌的匹配方法及装置
CN105512646A (zh) * 2016-01-19 2016-04-20 腾讯科技(深圳)有限公司 一种数据处理方法、装置及终端
CN107516077A (zh) * 2017-08-17 2017-12-26 武汉大学 基于激光点云和影像数据融合的交通标牌信息提取方法
CN108717712A (zh) * 2018-05-29 2018-10-30 东北大学 一种基于地平面假设的视觉惯导slam方法
CN108406731A (zh) * 2018-06-06 2018-08-17 珠海市微半导体有限公司 一种基于深度视觉的定位装置、方法及机器人
CN109283538A (zh) * 2018-07-13 2019-01-29 上海大学 一种基于视觉和激光传感器数据融合的海上目标大小检测方法
CN109444911A (zh) * 2018-10-18 2019-03-08 哈尔滨工程大学 一种单目相机和激光雷达信息融合的无人艇水面目标检测识别与定位方法
CN109658504A (zh) * 2018-10-31 2019-04-19 百度在线网络技术(北京)有限公司 地图数据标注方法、装置、设备及存储介质

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
JIANGHONG ZHAO 等: "Ancient Architecture Point Cloud Data Triangulation Algorithm Integrated with Cylindrical Projection and Tangent Plane Projection", 《INTERNATIONAL JOINT CONFERENCE ON INC COMPUTER SOCIETY》 *
王力 等: "点云拼接中标志自动匹配方法", 《测绘科学》 *
王宝锋 等: "一种基于雷达和机器视觉信息融合的车辆识别方法", 《汽车工程》 *
赵玲娜 等: "基于激光反射率的点云与图像自动融合", 《测绘工程》 *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110852278A (zh) * 2019-11-12 2020-02-28 深圳创维数字技术有限公司 地面标识线识别方法、设备及计算机可读存储介质
CN110852278B (zh) * 2019-11-12 2022-08-30 深圳创维数字技术有限公司 地面标识线识别方法、设备及计算机可读存储介质
CN110929669A (zh) * 2019-11-29 2020-03-27 北京百度网讯科技有限公司 数据标注方法及装置
CN110929669B (zh) * 2019-11-29 2023-10-10 阿波罗智能技术(北京)有限公司 数据标注方法及装置
CN111275715A (zh) * 2020-01-14 2020-06-12 深圳前海达闼云端智能科技有限公司 点云分割方法、装置、电子设备、存储介质和机器人
CN112037120A (zh) * 2020-07-31 2020-12-04 上海图森未来人工智能科技有限公司 3d点云数据中道路平面要素的标注方法和装置、存储介质
CN112434707A (zh) * 2020-11-14 2021-03-02 武汉中海庭数据技术有限公司 一种交通路口rpp点自动提取方法及装置
CN112580717A (zh) * 2020-12-17 2021-03-30 百度在线网络技术(北京)有限公司 模型训练方法、定位元素查找方法及装置
CN117532624A (zh) * 2024-01-10 2024-02-09 南京东奇智能制造研究院有限公司 一种护栏板安装自动定位调准方法及系统
CN117532624B (zh) * 2024-01-10 2024-03-26 南京东奇智能制造研究院有限公司 一种护栏板安装自动定位调准方法及系统

Also Published As

Publication number Publication date
CN110135396B (zh) 2021-05-07

Similar Documents

Publication Publication Date Title
CN110135396A (zh) 地面标志的识别方法、装置、设备及介质
CN112861653B (zh) 融合图像和点云信息的检测方法、系统、设备及存储介质
CN109344804A (zh) 一种激光点云数据的识别方法、装置、设备和介质
JP5058686B2 (ja) 情報処理方法及び情報処理装置
US9787960B2 (en) Image processing apparatus, image processing system, image processing method, and computer program
CN109059902A (zh) 相对位姿确定方法、装置、设备和介质
US7974462B2 (en) Image capture environment calibration method and information processing apparatus
US10354402B2 (en) Image processing apparatus and image processing method
CN112257605B (zh) 基于自标注训练样本的三维目标检测方法、系统及装置
US20080273210A1 (en) Three dimensional shape correlator
US11971961B2 (en) Device and method for data fusion between heterogeneous sensors
Yan et al. Joint camera intrinsic and lidar-camera extrinsic calibration
US7680336B2 (en) Information processing method and apparatus
CN111310667B (zh) 确定标注是否准确的方法、装置、存储介质与处理器
KR102012179B1 (ko) 3차원 평면 검출 기반의 라이다-카메라 캘리브레이션 장치 및 방법
KR102145557B1 (ko) 이종 센서 간의 데이터 융합 장치 및 방법
JPWO2020090428A1 (ja) 地物検出装置、地物検出方法および地物検出プログラム
CN107044853B (zh) 用于确定地标的方法和装置以及用于定位的方法和装置
CN113888458A (zh) 用于对象检测的方法和系统
Wang et al. Fusion Algorithm of Laser-Point Clouds and Optical Images
Sun et al. High-accuracy three-dimensional measurement based on multi-directional cooperative target with weighted SfM algorithm
US20180005049A1 (en) Determining the position of an object in a scene
CN117036942A (zh) 隧道病害识别方法、装置、电子设备及可读存储介质
JP7020418B2 (ja) 情報処理装置、情報処理方法、およびプログラム
CN116642490A (zh) 基于混合地图的视觉定位导航方法、机器人及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant