CN109635701A - 车道通行属性获取方法、装置和计算机可读存储介质 - Google Patents

车道通行属性获取方法、装置和计算机可读存储介质 Download PDF

Info

Publication number
CN109635701A
CN109635701A CN201811478754.2A CN201811478754A CN109635701A CN 109635701 A CN109635701 A CN 109635701A CN 201811478754 A CN201811478754 A CN 201811478754A CN 109635701 A CN109635701 A CN 109635701A
Authority
CN
China
Prior art keywords
current element
road scene
profile
image
subgraph
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811478754.2A
Other languages
English (en)
Other versions
CN109635701B (zh
Inventor
高三元
张本兴
陈慧贞
冯汉平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kuandong Huzhou Technology Co ltd
Original Assignee
Wide Bench (beijing) Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wide Bench (beijing) Technology Co Ltd filed Critical Wide Bench (beijing) Technology Co Ltd
Priority to CN201811478754.2A priority Critical patent/CN109635701B/zh
Publication of CN109635701A publication Critical patent/CN109635701A/zh
Application granted granted Critical
Publication of CN109635701B publication Critical patent/CN109635701B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Abstract

本发明提供了一种车道通行属性获取方法,其包括:通过语义表示从道路场景图像中提取多个通行要素子图像;将通行要素子图像输入至预先完成训练的通行要素分类模型,得到通行要素细节分类结果;根据通行要素子图像在所述道路场景图像中的位置,将与通行要素子图像对应的所述通行要素细节分类结果融合道路场景图像中,进而获取到道路场景中场景要素的车道通行属性,不仅降低了实现难度低,而且在减少工作量的同时提高了工作效率。本发明还提供了相应的车道通行属性获取装置以及计算机可读存储介质。

Description

车道通行属性获取方法、装置和计算机可读存储介质
技术领域
本发明属于图像处理领域,具体涉及一种车道通行属性获取方法、装置和计算机可读存储介质。
背景技术
高精细地图是指高精度、精细化定义的地图,其精度需要达到分米级才能够区分各个车道,如今随着定位技术的发展,高精度地图的定位功能已经成为可能。而精细化定义,则是需要格式化的存储交通场景中的各种交通要素,包括传统地图的道路网数据、车道网络数据、车道线以和交通标志等数据。
现有技术中,高精度地图中的车道线清晰的定义了道路的各个车道,为了使高精度地图落地使用,我们还需要清楚地定义各个车道的通行属性。具体的,在获取车道通行属性的过程中,首先会获取已有二维路网的车道及通行属性数据,然后将二维路网的车道信息与高精度地图的车道信息进行匹配,以确定二维路网的车道属性信息,进而将二维路网的车道属性信息融合到高精度地图中。
然而,由于二维路网的道路数据粒度是一整条道路,因此现有技术中将二维路网数据与高精度的车道数据(高精车道数据)进行融合的过程中,会存在有以下缺点:
1、二维路网必须与高精车道数据中单条道路的长度以及每条车道的分段一致,不仅对数据要求较高,而且其所需的二维路网数据量巨大,处理起来耗时耗力。
2、二维路网中,一条道路的多个车道的通行方向是挂接到该条道路上,车道通行属性是按顺序依次记录,需要确保二维路网的车道个数与高精地图中的车道个数是完全吻合的,才可以进行融合,如果车道个数与高精地图的车道个数不一致,则无法进行融车道通行属性的提取,实现流程繁琐,且难度较大。
发明内容
针对上面提到的现有技术中,将二维路网数据与高精车道数据进行融合的过程中会存在的问题,本发明提出了一种车道通行属性获取方法和装置,其能利用深度学习中图像分割技术和图像识别技术,获取道路场景中场景要素的车道通行属性,不仅降低了实现难度低,而且在减少工作量的同时提高了工作效率。
依据本发明的第一方面,提供了一种车道通行属性获取方法,其包括:
获取原始图像;其中,所述原始图像中包括通行要素;
将所述原始图像输入至预先完成训练的场景理解模型中,得到道路场景图像;其中,所述道路场景图像包括语义表示,所述语义表示用于标识通行要素;
根据所述语义表示从道路场景图像中提取多个通行要素子图像;
将所述通行要素子图像输入至预先完成训练的通行要素分类模型,以对所述通行要素进行二次分类,并得到通行要素细节分类结果;所述细节分类结果用于表示车道通行属性;
根据所述通行要素子图像在所述道路场景图像中的位置,将与所述通行要素子图像对应的所述通行要素细节分类结果融合所述道路场景图像中。
在上述实施例的基础上,所述根据所述语义表示从道路场景图像中提取多个通行要素子图像,包括:
对所述道路场景图像进行预设处理,得到通行要素二值化图;
利用预设边缘检测算法提取各所述通行要素的轮廓;
融合符合第一预设条件的通行要素的轮廓;
根据通行要素的轮廓提取所述通行要素子图像。
在上述实施例的基础上,融合符合第一预设条件的通行要素的轮廓,具体包括:
对于任意一个通行要素的轮廓,确定所述通行要素的最小外接矩形;
计算处于外接状态的任意两个最小外接矩形的交并比值;
当所述交并比值大于或等于第一预设阈值时,融合与所述交并比值对应的通行要素的轮廓;
返回执行所述确定其最小外接矩形的步骤,直至所述道路场景图中的处于外接状态的任意两个最小外接矩形的交并比值全部小于所述第一预设阈值。
在上述实施例的基础上,根据通行要素的轮廓提取所述通行要素子图像之前,还包括:
过滤符合第二预设条件的通行要素的轮廓。
在上述实施例的基础上,过滤符合第二预设条件的通行要素的轮廓,具体包括:
计算道路场景图中各通行要素的轮廓面积;
当轮廓面积小于第二预设阈值时,过滤与轮廓面积相对应的通行要素。
在上述实施例的基础上,所述场景理解模型的类别包括全卷积神经网络;
所述通行要素分类模型的类别包括卷积神经网络。
在上述实施例的基础上,所述车道通行属性包括直行、左转、右转、掉头、汇入、直行加左转、直行加右转、直行加掉头、左转加掉头、左右转弯标志、左转加右转、右转加掉头和/或直行加掉头。
在上述实施例的基础上,获取原始图像之前,还包括:
预训练所述场景理解模型;
预训练通行要素分类模型。
基于相同的思想,本实施例还提供了一种车道通行属性获取装置,具体包括:图像获取模块,用于获取原始图像;其中,所述原始图像中包括通行要素;
道路场景识别模块,用于将所述原始图像输入至预先完成训练的场景理解模型中,得到道路场景图像;其中,所述道路场景图像包括语义表示,所述语义表示用于标识通行要素;
图像提取模块,用于根据所述语义表示从道路场景图像中提取多个通行要素子图像;
二次分类模块,用于将所述通行要素子图像输入至预先完成训练的通行要素分类模型,以对所述通行要素进行二次分类,并得到通行要素细节分类结果;所述细节分类结果用于表示车道通行属性;
融合模块,用于根据所述通行要素子图像在所述道路场景图像中的位置,将与所述通行要素子图像对应的所述通行要素细节分类结果融合所述道路场景图像中。
在上述实施例的基础上,所述图像提取模块包括:
二值化处理单元,用于对所述道路场景图像进行二值化处理,得到通行要素二值化图;
轮廓提取单元,用于利用预设边缘检测算法提取各所述通行要素的轮廓;
轮廓融合单元,用于融合符合第一预设条件的通行要素的轮廓;
图像提取单元,用于根据通行要素的轮廓提取所述通行要素子。
在上述实施例的基础上,轮廓融合单元包括:
最小外接矩形确定子单元,用于对于任意一个通行要素的轮廓,确定所述通行要素的最小外接矩形;
交并比值计算子单元,用于计算处于外接状态的任意两个最小外接矩形的交并比值;
条件判断子单元,用于当所述交并比值大于或等于第一预设阈值时,融合与所述交并比值对应的通行要素的轮廓;
循环执行子单元,用于返回执行所述确定其最小外接矩形的步骤,直至所述道路场景图中的处于外接状态的任意两个最小外接矩形的交并比值全部小于所述第一预设阈值。
在上述实施例的基础上,车道通行属性获取装置还包括过滤模块,用于过滤符合第二预设条件的通行要素的轮廓。
在上述实施例的基础上,本实施例又提供了一种车道通行属性获取装置,具体包括:
最小外接矩形确定子单元,用于对于任意一个通行要素的轮廓,确定所述通行要素的最小外接矩形;
交并比值计算子单元,用于计算处于外接状态的任意两个最小外接矩形的交并比值;
条件判断子单元,用于当所述交并比值大于或等于第一预设阈值时,融合与所述交并比值对应的通行要素的轮廓;
循环执行子单元,用于返回执行所述确定其最小外接矩形的步骤,直至所述道路场景图中的处于外接状态的任意两个最小外接矩形的交并比值全部小于所述第一预设阈值。
在上述实施例的基础上,车道通行属性获取装置还包括过滤模块,用于过滤符合第二预设条件的通行要素的轮廓。
在上述实施例的基础上,所述过滤模块具体包括:轮廓面积计算单元,用于计算道路场景图中各通行要素的轮廓面积;
通行要素过滤模块,用于当轮廓面积小于第二预设阈值时,过滤与轮廓面积相对应的通行要素。
在上述实施例的基础上,所述场景理解模型的类别包括全卷积神经网络;
所述通行要素分类模型的类别包括卷积神经网络。
在上述实施例的基础上,所述车道通行属性包括直行、左转、右转、掉头、汇入、直行加左转、直行加右转、直行加掉头、左转加掉头、左右转弯标志、左转加右转、右转加掉头和/或直行加掉头等属性。
在上述实施例的基础上,车道通行属性获取装置还包括:
第一训练模块,用于预训练所述场景理解模型;
第二训练模块,用于预训练通行要素分类模型。
根据本发明的另一方面,还提供了一种计算机可读存储介质,其上存储有计算机指令,其特征在于,所述计算机指令被处理器执行时实现如上所述的方法。
利用以上方案,本发明实施例通过语义表示从道路场景图像中提取多个通行要素子图像;将通行要素子图像输入至预先完成训练的通行要素分类模型,得到通行要素细节分类结果;根据通行要素子图像在所述道路场景图像中的位置,将与通行要素子图像对应的所述通行要素细节分类结果融合道路场景图像中,进而获取到道路场景中场景要素的车道通行属性,不仅降低了实现难度低,提高了工作效率,同时减少了工作量。应当理解,上述说明仅是本发明技术方案的概述,以便能够更清楚地了解本发明的技术手段,从而可依照说明书的内容予以实施。为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举说明本发明的具体实施方式。
附图说明
通过阅读下文的示例性实施例的详细描述,本领域普通技术人员将明白本文所述的有点和益处以及其他优点和益处。附图仅用于示出示例性实施例的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的标号表示相同的部件。在附图中:
图1为本发明一实施例的车道通行属性获取方法的流程示意图;
图2为本发明一实施例的数据压缩方法的中原始图像的示意图;
图3为本发明另一实施例的车道通行属性获取方法中的场景理解模型训练流程示意图;
图4为本发明另一实施例的车道通行属性获取方法中的通行要素分类模型训练流程示意图;
图5为本发明另一实施例的车道通行属性获取方法的流程示意图;
图6为本发明另一实施例的车道通行属性获取方法中的通行要素提取流程示意图;
图7为本发明一实施例的车道通行属性获取装置的示意图;
图8示出了根据本发明一实施例的计算机可读存储介质的示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
在本发明中,应理解,诸如“包括”或“具有”等术语旨在指示本说明书中所公开的特征、数字、步骤、行为、部件、部分或其组合的存在,并且不旨在排除一个或多个其他特征、数字、步骤、行为、部件、部分或其组合存在的可能性。
另外还需要说明的是,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。
在本说明书中的一个或多个实施例中,车道通行属性获取方法可以用于高精度地图中各车道的通行属性的确定过程。具体的,本实施例所述的高精度地图是无人驾驶领域的核心技术之一,其可为无人驾驶车辆反馈道路前方信号灯的状态、判断道路前方的道路指示线是实或虚,判断限高、是否禁行等信息,以确保无人驾驶车辆在道路上合法、安全且高效的行驶。相比服务于GPS导航系统的传统地图而言,高精地图最显著的特点是其表征路面特征的精准性,以确保为无人驾驶车辆所提供信息的精准性。
本实施例中所述的方法可用于无人驾驶汽车行驶过程中。具体的,在无人驾驶汽车行驶过程中,无人驾驶汽车(系统)会通过无线传输方式将即将行驶路面的位置信息发送至服务器,服务器会将高精度地图中与该位置信息对应的车道通行属性反馈至无人驾驶汽车(系统),无人驾驶汽车(终端)根据所属车道通行属性确定行驶策略,并根据该行驶策略安全行驶。
由于无人驾驶汽车在行驶过程中,其位置信息会时刻发生改变,因此需要实时获取当时所处位置对应的车道通行属性。
结合到具体使用场景中,高精度地图会包含大量的行车辅助信息,包括路面的几何结构、标示线位置、周边道路环境的点云模型等。有了这些高精度的三维表征,无人驾驶系统就可以通过比对车载GPS(Global Positioning System,全球定位系统)、IMU(Inertial measurement unit,惯性测量单位)、LiDAR(Light Detection And Ranging,激光探测与测量)或摄像头的数据来精准定位自己当前的位置,并进行实时导航。
在图1中,示出了根据本发明一实施例的车道通行属性获取方法的流程示意图。该车道通行属性获取方法包括:
S101、获取原始图像。
本实施例中,所述原始图像为无人驾驶汽车视角下的路面场景图像,路面场景图像中所呈现的画面可以包括将要行驶路面的行车道边界、转弯标志和斑马线等通行要素。
示例性的,图2为本实施例过程中的所使用到原始图像的示意图,该原始图像中包括了行车道边界、路侧信号灯、路上行人、前方汽车等元素。
在一些实施例中,所原始图像中包括多种类型的通行要素。例如,原始图像中可以包括用于表示车道中心线、车道边界线、参考点、虚拟连接线等元素的车道要素;可以包括用于表示控制车流通行的交通信号灯等信号灯要素。
在这里,对所述原始图像的获取方式不作具体限定,其可以是通过设置于无人驾驶汽车的图像采集设备直接采集得到,也可以是从设置于无人驾驶汽车的视频采集设备录制到的视频中获取到的。本实施例中,可以根据所述车道通行属性获取方法的具体使用场景和使用需求确定。
S102、将所述原始图像输入至预先完成训练的场景理解模型中,得到道路场景图像。
其中,所述道路场景图像包括语义表示,所述语义表示用于标识通行要素。在一些实施例中,所述道路场景图像包括多种类型的语义表达,不同的类型的语义表达用于标识不同的通行要素;本实施例中将原始图像输入至预先完成训练的场景理解模型,是为了完成对不同通行要素的初步分类。
在一些实施例中,所述语义表达可以通过道路场景图像中不同颜色表示,例如所述车道中心线可以用白色表示,车道边界线可以用灰色表示,普通路面可以用蓝色表示。
本实施例中,所述场景理解模型将直接获取到的原始图像中的各场景要素识别出来,并用不同的语义表示进行标识。
S103:根据所述语义表示从道路场景图像中提取多个通行要素子图像;
其中,道路场景图像中包括多个通行要素,本实施例中会分别将用于不同通行要素的通行要素子图像提取出来,以对通行要素二次分类。
在另外一些实施例中,可以通过边缘检测算法来确定要提取通行要素子图像的位置,进而根据所述位置信息提取通行要素子图像;也可以根据具体的语义表示判断要提取的通行要素子图像得位置,并根据所述位置信息提取通行要素子图像。
S104:将所述通行要素子图像输入至预先完成训练的通行要素分类模型,以对所述通行要素进行二次分类,并得到通行要素细节分类结果。
其中,所述通行要素分类模型用于对通行要素子图像进行识别,已完成通行要素的精细分类。
本实施例中可以将S102中将所述原始图像输入至预先完成训练的场景理解模型的操作看做是初步分类,确定哪些元素属于通行要素,哪些元素不属于通行要素。
而实施例S104的操作,则是基于通行要素子图像进行的二次分类,进而得到更为详细精确的通行要素细节分类结果。所述细节分类结果即最终确定的车道通行属性。
可以选择的,所述场景理解模型的类别包括全卷积神经网络;所述通行要素分类模型的类别包括卷积神经网络。
S105:根据所述通行要素子图像在所述道路场景图像中的位置,将与所述通行要素子图像对应的所述通行要素细节分类结果融合所述道路场景图像中。
其中,所述通行要素子图像在所述道路场景图像中的位置可以是通行要素子图像边界对应的横纵坐标范围。
具体的,将通行要素细节分类结果融合所述道路场景图像的过程即建立映射的过程,进而使两者产生关联。
利用以上方案,本发明实施例通过语义表示从道路场景图像中提取多个通行要素子图像;将通行要素子图像输入至预先完成训练的通行要素分类模型,得到通行要素细节分类结果;根据通行要素子图像在所述道路场景图像中的位置,将与通行要素子图像对应的所述通行要素细节分类结果融合道路场景图像中,进而获取到道路场景中场景要素的车道通行属性,不仅降低了实现难度低,提高了工作效率,同时减少了工作量。
在上述实施例的基础上,所述车道通行属性方法在获取原始图像之前,还包括预训练所述场景理解模型;预训练通行要素分类模型。
在一些实施例中,所述场景理解模型和通行要素分类模型都可以通过无监督学习的方式进行训练。具体的,训练所述场景理解模型之前,首先使用高精地图数据采集车采集海量待训练数据,然后将所述海量待训练数据进行标注,输入与场景理解模型对应的基模型,以实现对场景理解模型的预训练。
在另外一些实施例中,场景理解模型的训练流程如图3所示,其中,image表示待训练图像,FCN表示全卷积神经网络,预测值表示全卷积神经网络输出的预测值,loss表示全卷积神经网络对应的损失函数,label表示待训练图像的标注数据。
在场景理解模型的训练过程中,FCN会对待训练图像进行特征提取、特征预测,直至运算得到一个预测值,并基于损失函数对预测值和标注数据计算损失,进而根据运算结果调整FCN的参数,直至预测值与标注数据间的差值处于某一范围。
在另外一些实施例中,通行要素分类模型训练流程如图4所示,image表示待训练图像,CNN表示卷积神经网络,预测分类表示卷积神经网络输出的分类结果。
不同于上述实施例,本实施例中可以通过通行要素的轮廓来提取到通行要素子图像,如图5所示,车道通行属性获取方法还可以包括:
S210、获取原始图像。
其中,所述原始图像中包括通行要素。
S220、将所述原始图像输入至预先完成训练的场景理解模型中,得到道路场景图像。
其中,所述道路场景图像包括语义表示,所述语义表示用于标识通行要素。
S230、对所述道路场景图像进行预设处理,得到通行要素二值化图。
本实施例中,通行要素二值化图可以是将道路场景图像以二值化的形式表示。预设处理包括二值化处理。本实施例中会对道路场景图像进行二值化处理,得到通行要素二值化图,进而基于所述通行要素二值化图提取通行要素子图像。
具体的,本领域技术人员可以将256个亮度等级的灰度图像通过适当的阈值选取而获得仍然可以反映图像整体和局部特征的通行要素二值化图,以对道路场景图像进一步处理,使图像变得简单,而且数据量减小,能凸显出通行要素的轮廓。
S240、利用预设边缘检测算法提取各所述通行要素的轮廓。
在一些实施例中,所述预设边缘检测算法可以是Canny求边缘算法、Soble边缘检测算法或差分边缘检测算法。本领域技术人员可以使用其中的任意一种来完成通行要素的轮廓的提取操作。
S250、融合符合第一预设条件的通行要素的轮廓。
本实施例中,由于图像采集过程的不完善,或者所拍摄的通行要素的残缺性,所述道路场景图像中会存在一些轮廓不完善的通行要素,这些通行要素如果处理不当,会影响到车道通行属性的最终获取结果,因此,需要对这些不完善的通行要素进行处理。
其中,所述第一预设条件从全部的通行要素,将需要进行融合操作通行要素的轮廓筛选出来,并对处于相邻位置的通行要素的轮廓进行融合。
具体的,融合符合第一预设条件的通行要素的轮廓具体包括:对于任意一个通行要素的轮廓,确定所述通行要素的最小外接矩形;计算处于外接状态的任意两个最小外接矩形的交并比值;当所述交并比值大于或等于第一预设阈值时,融合与所述交并比值对应的通行要素的轮廓;返回执行所述确定其最小外接矩形的步骤,直至所述道路场景图中的处于外接状态的任意两个最小外接矩形的交并比值全部小于所述第一预设阈值。
在一些实施例中,所述最小外接矩形是指以二维坐标表示的若干二维形状(例如点、直线、多边形)的最大范围,即给定的二维形状各顶点中的最大横坐标、最小横坐标、最大纵坐标、最小纵坐标定下边界的矩形。
所述交并比值(Intersection over Union,IOU)为两最小外接矩形面积的交集和并集的比值,其可以表示最小外接矩形的重叠程度,具体的,交并比值越大,两最小外接矩形的重叠率越大,重叠部分越多,相反的,交并比值越小,两最小外接矩形的重叠率越小,重叠部分越少。
本实施例中会通过所述最小外接矩形的交并比来判断,通行要素是否为残缺的,同进而决定是否需要融合或过滤。
具体的,本实施例首先会根据交并比值判断道路场景图像中的通行要素是否存在处于外接状态,当通行要素处于外接状态且所述交并比值大于等于第一预设阈值时,说明重叠率较大,重叠部分较多,则判定该交并比值对应的通行要素需要融合。所述第一预设阈值的具体取值可以根据具体的使用场景确定,本实施例在此处不作限定。
S260、根据通行要素的轮廓提取所述通行要素子图像。
S270、将所述通行要素子图像输入至预先完成训练的通行要素分类模型,以对所述通行要素进行二次分类,并得到通行要素细节分类结果;所述细节分类结果用于表示车道通行属性。
在一些实施例中,所述车道通行属性包括直行、左转、右转、掉头、汇入、直行加左转、直行加右转、直行加掉头、左转加掉头、左右转弯标志、左转加右转、右转加掉头和/或直行加掉头。
S280、根据所述通行要素子图像在所述道路场景图像中的位置,将与所述通行要素子图像对应的所述通行要素细节分类结果融合所述道路场景图像中。
在上述实施例的基础上,根据通行要素的轮廓提取所述通行要素子图像之前,还包括:过滤符合第二预设条件的通行要素的轮廓。
具体的,过滤符合第二预设条件的通行要素的轮廓包括,计算道路场景图中各通行要素的轮廓面积;当轮廓面积小于第二预设阈值时,过滤与轮廓面积相对应的通行要素。
在另外一些实施例中,道路场景图像中会出现一些噪声,具体的,当通行要素的轮廓面积小于第二预设阈值,则判断该通行要素的轮廓面积过小,并将此通行要素判定为噪声,此时会过滤掉与轮廓面积相对应的通行要素,这样设置的好处在于减少了噪声对结果的影响,提高了车道通行属性获取结果的准确度。
结合具体的使用场景,图6示出了车道通行属性获取方法中的通行要素提取流程,最终得到了包含多个通行要素的通行要素集合。
下面结合图7描述用于实现上述车道通行属性获取方法的车道通行属性获取装置。如图7所示,示出了根据本发明又一实施例的车道通行属性获取装置700的示意图。该车道通行属性获取装置700包括:图像获取模块710、道路场景识别模块720、图像提取模块730、二次分类模块740和融合模块750。
其中,图像获取模块710,用于获取原始图像;其中,所述原始图像中包括通行要素;
道路场景识别模块720,用于将所述原始图像输入至预先完成训练的场景理解模型中,得到道路场景图像;其中,所述道路场景图像包括语义表示,所述语义表示用于标识通行要素;
图像提取模块730,用于根据所述语义表示从道路场景图像中提取多个通行要素子图像;
二次分类模块740,用于将所述通行要素子图像输入至预先完成训练的通行要素分类模型,以对所述通行要素进行二次分类,并得到通行要素细节分类结果;所述细节分类结果用于表示车道通行属性;
融合模块750,用于根据所述通行要素子图像在所述道路场景图像中的位置,将与所述通行要素子图像对应的所述通行要素细节分类结果融合所述道路场景图像中。
利用以上方案,本发明实施例通过语义表示从道路场景图像中提取多个通行要素子图像;将通行要素子图像输入至预先完成训练的通行要素分类模型,得到通行要素细节分类结果;根据通行要素子图像在所述道路场景图像中的位置,将与通行要素子图像对应的所述通行要素细节分类结果融合道路场景图像中,进而获取到道路场景中场景要素的车道通行属性,不仅降低了实现难度低,而且在减少工作量的同时提高了工作效率。在上述实施例的基础上,所述图像提取模块730包括:
二值化处理单元,用于对所述道路场景图像进行二值化处理,得到通行要素二值化图;
轮廓提取单元,用于利用预设边缘检测算法提取各所述通行要素的轮廓;
轮廓融合单元,用于融合符合第一预设条件的通行要素的轮廓;
图像提取单元,用于根据通行要素的轮廓提取所述通行要素子。
在上述实施例的基础上,轮廓融合单元包括:
最小外接矩形确定子单元,用于对于任意一个通行要素的轮廓,确定所述通行要素的最小外接矩形;
交并比值计算子单元,用于计算处于外接状态的任意两个最小外接矩形的交并比值;
条件判断子单元,用于当所述交并比值大于或等于第一预设阈值时,融合与所述交并比值对应的通行要素的轮廓;
循环执行子单元,用于返回执行所述确定其最小外接矩形的步骤,直至所述道路场景图中的处于外接状态的任意两个最小外接矩形的交并比值全部小于所述第一预设阈值。
在上述实施例的基础上,车道通行属性获取装置还包括过滤模块,用于过滤符合第二预设条件的通行要素的轮廓。
在上述实施例的基础上,本实施例又提供了一种车道通行属性获取装置,具体包括:
最小外接矩形确定子单元,用于对于任意一个通行要素的轮廓,确定所述通行要素的最小外接矩形;
交并比值计算子单元,用于计算处于外接状态的任意两个最小外接矩形的交并比值;
条件判断子单元,用于当所述交并比值大于或等于第一预设阈值时,融合与所述交并比值对应的通行要素的轮廓;
循环执行子单元,用于返回执行所述确定其最小外接矩形的步骤,直至所述道路场景图中的处于外接状态的任意两个最小外接矩形的交并比值全部小于所述第一预设阈值。
在上述实施例的基础上,车道通行属性获取装置还包括过滤模块,用于过滤符合第二预设条件的通行要素的轮廓。
在上述实施例的基础上,所述过滤模块具体包括:轮廓面积计算单元,用于计算道路场景图中各通行要素的轮廓面积;
通行要素过滤模块,用于当轮廓面积小于第二预设阈值时,过滤与轮廓面积相对应的通行要素。
在上述实施例的基础上,所述场景理解模型的类别包括全卷积神经网络;
所述通行要素分类模型的类别包括卷积神经网络。
在上述实施例的基础上,所述车道通行属性包括直行、左转、右转、掉头、汇入、直行加左转、直行加右转、直行加掉头、左转加掉头、左右转弯标志、左转加右转、右转加掉头和/或直行加掉头等属性。
在上述实施例的基础上,车道通行属性获取装置还包括:
第一训练模块,用于预训练所述场景理解模型;
第二训练模块,用于预训练通行要素分类模型。根据本发明的又一实施例,还提供了一种计算机可读存储介质。如图8所示,示出了根据本发明一实施例的计算机可读存储介质800的示意图,该计算机可读存储介质上存储有计算机指令,该计算机指令被处理器执行时实现如上所述的数据压缩方法。该计算机可读存储介质800可以采用便携式紧凑盘只读存储器(CD-ROM)。然而,本发明的计算机可读存储介质800不限于此,在本文件中,计算机可读存储介质可以是任何包含或存储计算机指令的有形介质。
利用以上方案,本发明实施例通过语义表示从道路场景图像中提取多个通行要素子图像;将通行要素子图像输入至预先完成训练的通行要素分类模型,得到通行要素细节分类结果;根据通行要素子图像在所述道路场景图像中的位置,将与通行要素子图像对应的所述通行要素细节分类结果融合道路场景图像中,进而获取到道路场景中场景要素的车道通行属性,不仅降低了实现难度低,而且在减少工作量的同时提高了工作效率。
附图中的流程图和框图,图示了按照本公开各种实施例的方法、装置和计算机可读存储介质的可能实现的体系架构、功能和操作。应当注意,流程图中的每个方框所表示的步骤未必按照标号所示的顺序进行,有时可以基本并行地执行,有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的硬件来实现,或者可以用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元或模块可以通过软件的方式实现,也可以通过硬件的方式来实现。
通过以上对实施例的描述,本领域的技术人员可以清楚地了解到各实施例可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种车道通行属性获取方法,其特征在于,包括:
获取原始图像;其中,所述原始图像中包括通行要素;
将所述原始图像输入至预先完成训练的场景理解模型中,得到道路场景图像;其中,所述道路场景图像包括语义表示,所述语义表示用于标识通行要素;
根据所述语义表示从道路场景图像中提取多个通行要素子图像;
将所述通行要素子图像输入至预先完成训练的通行要素分类模型,以对所述通行要素进行二次分类,并得到通行要素细节分类结果;所述细节分类结果用于表示车道通行属性;
根据所述通行要素子图像在所述道路场景图像中的位置,将与所述通行要素子图像对应的所述通行要素细节分类结果融合所述道路场景图像中。
2.如权利要求1所述的车道通行属性获取方法,其特征在于,所述根据所述语义表示从道路场景图像中提取多个通行要素子图像,包括:
对所述道路场景图像进行预设处理,得到通行要素二值化图;
利用预设边缘检测算法提取各所述通行要素的轮廓;
融合符合第一预设条件的通行要素的轮廓;
根据通行要素的轮廓提取所述通行要素子图像。
3.如权利要求2所述的车道通行属性获取方法,其特征在于,融合符合第一预设条件的通行要素的轮廓,具体包括:
对于任意一个通行要素的轮廓,确定所述通行要素的最小外接矩形;
计算处于外接状态的任意两个最小外接矩形的交并比值;
当所述交并比值大于或等于第一预设阈值时,融合与所述交并比值对应的通行要素的轮廓;
返回执行所述确定其最小外接矩形的步骤,直至所述道路场景图中的处于外接状态的任意两个最小外接矩形的交并比值全部小于所述第一预设阈值。
4.如权利要求2所述的车道通行属性获取方法,其特征在于,根据通行要素的轮廓提取所述通行要素子图像之前,还包括:
过滤符合第二预设条件的通行要素的轮廓。
5.如权利要求4所述的车道通行属性获取方法,其特征在于,过滤符合第二预设条件的通行要素的轮廓,具体包括:
计算道路场景图中各通行要素的轮廓面积;
当轮廓面积小于第二预设阈值时,过滤与轮廓面积相对应的通行要素。
6.一种车道通行属性获取装置,其特征在于,包括:
图像获取模块,用于获取原始图像;其中,所述原始图像中包括通行要素;
道路场景识别模块,用于将所述原始图像输入至预先完成训练的场景理解模型中,得到道路场景图像;其中,所述道路场景图像包括语义表示,所述语义表示用于标识通行要素;
图像提取模块,用于根据所述语义表示从道路场景图像中提取多个通行要素子图像;
二次分类模块,用于将所述通行要素子图像输入至预先完成训练的通行要素分类模型,以对所述通行要素进行二次分类,并得到通行要素细节分类结果;所述细节分类结果用于表示车道通行属性;
融合模块,用于根据所述通行要素子图像在所述道路场景图像中的位置,将与所述通行要素子图像对应的所述通行要素细节分类结果融合所述道路场景图像中。
7.如权利要求6所述的车道通行属性获取装置,其特征在于,所述图像提取模块包括:
二值化处理单元,用于对所述道路场景图像进行二值化处理,得到通行要素二值化图;
轮廓提取单元,用于利用预设边缘检测算法提取各所述通行要素的轮廓;
轮廓融合单元,用于融合符合第一预设条件的通行要素的轮廓;
图像提取单元,用于根据通行要素的轮廓提取所述通行要素子。
8.如权利要求6所述的车道通行属性获取装置,其特征在于,轮廓融合单元包括:
最小外接矩形确定子单元,用于对于任意一个通行要素的轮廓,确定所述通行要素的最小外接矩形;
交并比值计算子单元,用于计算处于外接状态的任意两个最小外接矩形的交并比值;
条件判断子单元,用于当所述交并比值大于或等于第一预设阈值时,融合与所述交并比值对应的通行要素的轮廓;
循环执行子单元,用于返回执行所述确定其最小外接矩形的步骤,直至所述道路场景图中的处于外接状态的任意两个最小外接矩形的交并比值全部小于所述第一预设阈值。
9.如权利要求6所述的车道通行属性获取装置,其特征在于,还包括:
过滤模块,用于过滤符合第二预设条件的通行要素的轮廓。
10.一种计算机可读存储介质,其上存储有计算机指令,其特征在于,所述计算机指令被处理器执行时实现如权利要求1-5中任一项所述的方法。
CN201811478754.2A 2018-12-05 2018-12-05 车道通行属性获取方法、装置和计算机可读存储介质 Active CN109635701B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811478754.2A CN109635701B (zh) 2018-12-05 2018-12-05 车道通行属性获取方法、装置和计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811478754.2A CN109635701B (zh) 2018-12-05 2018-12-05 车道通行属性获取方法、装置和计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN109635701A true CN109635701A (zh) 2019-04-16
CN109635701B CN109635701B (zh) 2023-04-18

Family

ID=66071272

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811478754.2A Active CN109635701B (zh) 2018-12-05 2018-12-05 车道通行属性获取方法、装置和计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN109635701B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110598597A (zh) * 2019-08-29 2019-12-20 上海眼控科技股份有限公司 一种多场景路口信息分类与提取方法及设备
CN111707277A (zh) * 2020-05-22 2020-09-25 上海商汤临港智能科技有限公司 获取道路语义信息的方法、装置及介质
CN112991241A (zh) * 2019-12-13 2021-06-18 阿里巴巴集团控股有限公司 一种道路场景图像处理方法、装置、电子设备及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105260988A (zh) * 2015-09-09 2016-01-20 百度在线网络技术(北京)有限公司 一种高精地图数据的处理方法和装置
CN106525057A (zh) * 2016-10-26 2017-03-22 陈曦 高精度道路地图的生成系统
CN106980657A (zh) * 2017-03-15 2017-07-25 北京理工大学 一种基于信息融合的车道级电子地图构建方法
CN106997466A (zh) * 2017-04-12 2017-08-01 百度在线网络技术(北京)有限公司 用于检测道路的方法和装置
CN107122737A (zh) * 2017-04-26 2017-09-01 聊城大学 一种道路交通标志自动检测识别方法
CN107145578A (zh) * 2017-05-08 2017-09-08 深圳地平线机器人科技有限公司 地图构建方法、装置、设备和系统
US20180053060A1 (en) * 2016-08-19 2018-02-22 Dura Operating, Llc System and method of simultaneously generating a multiple lane map and localizing a vehicle in the generated map
CN108036794A (zh) * 2017-11-24 2018-05-15 华域汽车系统股份有限公司 一种高精度地图生成系统及生成方法
CN108286978A (zh) * 2017-01-09 2018-07-17 北京四维图新科技股份有限公司 道路路网自动化生成方法和装置、以及混合导航系统
CN108764208A (zh) * 2018-06-08 2018-11-06 Oppo广东移动通信有限公司 图像处理方法和装置、存储介质、电子设备

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105260988A (zh) * 2015-09-09 2016-01-20 百度在线网络技术(北京)有限公司 一种高精地图数据的处理方法和装置
US20180053060A1 (en) * 2016-08-19 2018-02-22 Dura Operating, Llc System and method of simultaneously generating a multiple lane map and localizing a vehicle in the generated map
CN106525057A (zh) * 2016-10-26 2017-03-22 陈曦 高精度道路地图的生成系统
CN108286978A (zh) * 2017-01-09 2018-07-17 北京四维图新科技股份有限公司 道路路网自动化生成方法和装置、以及混合导航系统
CN106980657A (zh) * 2017-03-15 2017-07-25 北京理工大学 一种基于信息融合的车道级电子地图构建方法
CN106997466A (zh) * 2017-04-12 2017-08-01 百度在线网络技术(北京)有限公司 用于检测道路的方法和装置
CN107122737A (zh) * 2017-04-26 2017-09-01 聊城大学 一种道路交通标志自动检测识别方法
CN107145578A (zh) * 2017-05-08 2017-09-08 深圳地平线机器人科技有限公司 地图构建方法、装置、设备和系统
CN108036794A (zh) * 2017-11-24 2018-05-15 华域汽车系统股份有限公司 一种高精度地图生成系统及生成方法
CN108764208A (zh) * 2018-06-08 2018-11-06 Oppo广东移动通信有限公司 图像处理方法和装置、存储介质、电子设备

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
R MATTHAEI等: "Map-relative localization in lane-level maps for ADAS and autonomous driving", 《2014 IEEE INTELLIGENT VEHICLES SYMPOSIUM PROCEEDINGS》 *
YICHAO CAI 等: "Robust drivable road region detection for fixed-route autonomous vehicles using map-fusion images", 《SENSORS》 *
冯黎等: "无人车高精度定位的研究现状与发展", 《第九届中国卫星导航学术年会论文集——S02 导航与位置服务》 *
蔡志祥: "基于增强型地图的车辆组合定位技术研究", 《中国优秀硕士学位论文全文数据库工程科技Ⅱ辑》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110598597A (zh) * 2019-08-29 2019-12-20 上海眼控科技股份有限公司 一种多场景路口信息分类与提取方法及设备
CN112991241A (zh) * 2019-12-13 2021-06-18 阿里巴巴集团控股有限公司 一种道路场景图像处理方法、装置、电子设备及存储介质
CN112991241B (zh) * 2019-12-13 2024-04-12 阿里巴巴集团控股有限公司 一种道路场景图像处理方法、装置、电子设备及存储介质
CN111707277A (zh) * 2020-05-22 2020-09-25 上海商汤临港智能科技有限公司 获取道路语义信息的方法、装置及介质

Also Published As

Publication number Publication date
CN109635701B (zh) 2023-04-18

Similar Documents

Publication Publication Date Title
CN110942000B (zh) 一种基于深度学习的无人驾驶车辆目标检测方法
WO2017041396A1 (zh) 一种车道线数据的处理方法、装置、存储介质及设备
CN111874006B (zh) 路线规划处理方法和装置
US10429841B2 (en) Vehicle control method and apparatus and method and apparatus for acquiring decision-making model
Jensen et al. Vision for looking at traffic lights: Issues, survey, and perspectives
CN105160309B (zh) 基于图像形态学分割及区域生长的三车道检测方法
CN109740484A (zh) 道路障碍物识别的方法、装置及系统
CN108133484B (zh) 基于场景分割的自动驾驶处理方法及装置、计算设备
WO2022134996A1 (en) Lane line detection method based on deep learning, and apparatus
CN109635701A (zh) 车道通行属性获取方法、装置和计算机可读存储介质
Yang et al. Improved lane detection with multilevel features in branch convolutional neural networks
CN101900567A (zh) 基于像素的无纹理畅通路径检测
CN101900566A (zh) 基于像素的纹理丰富畅通路径检测
Liu et al. A large-scale simulation dataset: Boost the detection accuracy for special weather conditions
CN110956081B (zh) 车辆与交通标线位置关系的识别方法、装置及存储介质
CN112712057A (zh) 交通信号识别方法、装置、电子设备及存储介质
CN111899515A (zh) 一种基于智慧道路边缘计算网关的车辆检测系统
Wang et al. Simultaneous detection and tracking using deep learning and integrated channel feature for ambint traffic light recognition
CN114511832B (zh) 车道线分析方法、装置、电子设备及存储介质
CN109635719B (zh) 一种图像识别方法、装置和计算机可读存储介质
CN111931683A (zh) 图像识别方法、装置及计算机可读存储介质
CN111046723B (zh) 一种基于深度学习的车道线检测方法
CN112232368A (zh) 目标识别模型训练方法、目标识别方法及其相关装置
Wu et al. Traffic sign detection based on SSD combined with receptive field module and path aggregation network
Nejad et al. Vehicle trajectory prediction in top-view image sequences based on deep learning method

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP03 Change of name, title or address
CP03 Change of name, title or address

Address after: Room 108-27, Building 1, No. 611 Yunxiu South Road, Wuyang Street, Deqing County, Huzhou City, Zhejiang Province, 313200 (Moganshan National High tech Zone)

Patentee after: Kuandong (Huzhou) Technology Co.,Ltd.

Address before: 811, 8 / F, 101, 3-8 / F, building 17, rongchuang Road, Chaoyang District, Beijing 100012

Patentee before: KUANDENG (BEIJING) TECHNOLOGY Co.,Ltd.