CN113269164B - 车道线检测方法及其检测装置 - Google Patents
车道线检测方法及其检测装置 Download PDFInfo
- Publication number
- CN113269164B CN113269164B CN202110807560.8A CN202110807560A CN113269164B CN 113269164 B CN113269164 B CN 113269164B CN 202110807560 A CN202110807560 A CN 202110807560A CN 113269164 B CN113269164 B CN 113269164B
- Authority
- CN
- China
- Prior art keywords
- lane line
- features
- lane
- result
- detail
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Abstract
本申请是关于一种车道线检测方法及其检测装置,能够得到准确性更高、颗粒度更小的检测结果,从而提高车道线检测的准确性,提升车道线检测效率。该车道线检测装置,包括:首先,通过车辆上的图像采集设备获取待检测的车道信息图像;其次,将车道信息图像输入预先训练的目标检测模型,提取车道信息图像中的车道线特征,其中,目标检测模型是通过对多组车道信息图像进行机器学习得到的;最后,通过目标检测模型,对车道线特征和中间层特征执行预设聚合处理得到检测结果,其中,中间层特征是在车道线特征的提取过程中获取并能对车道线特征进行信息补充的特征,检测结果用于指示车道信息图像中车道线的类型。
Description
技术领域
本申请涉及汽车辅助驾驶或者自动驾驶技术领域,尤其涉及一种车道线检测方法及其检测装置。
背景技术
在智能汽车的环境感知中,车道线检测是一个基本功能模块,是车辆按照交通法规正确行驶的前提,正确的车道线检测能够使智能汽车对自己的位置与状态有进一步的决策与判断,车辆控制系统基于这种决策改变自身的位置,保证车辆以安全的状态行驶。
目前针对车道线的检测算法主要基于传统视觉的车道线检测算法,该算法存在车道线识别的准确性低,识别效率低的技术缺陷。
发明内容
为克服相关技术中存在的问题,本申请提供一种车道线检测方法及其检测装置,能够得到准确性更高、颗粒度更小的检测结果,从而提高车道线检测的准确性,提升车道线检测效率。
本申请第一方面提供了一种车道线检测方法,包括:首先,通过车辆上的图像采集设备获取待检测的车道信息图像;其次,将所述车道信息图像输入预先训练的目标检测模型,提取所述车道信息图像中的车道线特征,其中,所述目标检测模型是通过对多组车道信息图像进行机器学习得到的;最后,通过所述目标检测模型,对所述车道线特征和中间层特征执行预设聚合处理得到检测结果,其中,所述中间层特征是在所述车道线特征的提取过程中获取并能对所述车道线特征进行信息补充的特征,所述检测结果用于指示所述车道信息图像中车道线的类型。
在第一方面的一种可能的实现方式中,所述车道线特征包括至少两种特征,每种特征的数据为至少两个;
所述通过所述目标检测模型,对所述车道线特征和中间层特征执行预设聚合处理得到检测结果,包括:
通过所述目标检测模型,对所述第一聚合结果进行上采样后与所述至少两种车道线特征中至少一种对应的所述中间层特征进行聚合,得到所述检测结果,其中,所述第一聚合结果是对所述至少两种车道线特征进行聚合得到。
在第一方面的一种可能的实现方式中,所述车道线特征包括语义特征和细节特征,所述第一聚合结果是对所述语义特征和细节特征进行聚合得到的。
在第一方面的一种可能的实现方式中,所述目标检测模型中包括双边分割网络,所述双边分割网络中包括:细节特征分支和语义特征分支;
所述将所述车道信息图像输入预先训练的目标检测模型,提取所述车道信息图像中的车道线特征,包括:
通过所述细节特征分支提取所述车道信息图像中所有的所述细节特征;
通过所述语义特征分支提取所述车道信息图像中所有的所述语义特征。
在第一方面的一种可能的实现方式中,所述方法还包括:对所述语义特征进行上采样操作后,与所述细节特征进行聚合得到第二聚合结果;
对所述细节特征进行下采样操作后,与所述语义特征进行聚合得到第三聚合结果;
将所述第三聚合结果进行上采样操作后,与所述第二聚合结果进行聚合得到所述第一聚合结果。
在第一方面的一种可能的实现方式中,所述方法还包括:在通过对多组车道信息图像进行机器学习过程中,使用损失函数对所述目标检测模型的模型参数进行优化设计,其中所述损失函数包括交叉熵损失函数或焦点损失函数。
在第一方面的一种可能的实现方式中,所述车道线包括以下至少一种类型:单实线、双实线或虚线。
本申请第二方面提供了一种车道线检测装置,包括:图像采集模块,特征提取模块,和检测模块,其中,图像采集模块,用于通过车辆上的图像采集设备获取待检测的车道信息图像;特征提取模块,用于将所述车道信息图像输入预先训练的目标检测模型,提取所述车道信息图像中的车道线特征,其中,所述目标检测模型是通过对多组车道信息图像进行机器学习得到的;检测模块,用于通过所述目标检测模型,对所述车道线特征和中间层特征执行预设聚合处理得到检测结果,其中,所述中间层特征是在所述车道线特征的提取过程中获取并能对所述车道线特征进行信息补充的特征,所述检测结果用于指示所述车道信息图像中车道线的类型。
本申请第三方面提供了一种车道线检测装置,包括:处理器和存储器;所述存储器,用于存储可执行代码;所述处理器,用于通过调用所述可执行代码,以执行如上述第一方面及其任意一种可能的实现方式中所述的车道线检测方法。
在本申请实施例中的技术方案中,通过目标检测模型可以提取车道信息图像中的车道线特征,并对提取到的车道线特征和中间层结果执行预设聚合操作得到检测结果,以确定车道信息图像中车道线的类型,由于中间层特征是在车道线特征的提取过程中获取并能对车道线特征进行信息补充的特征,因此基于车道线特征和中间层特征共同得到检测结果的准确性更高,颗粒度更小,从而提高车道线检测的准确性,提升车道线检测效率。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
通过结合附图对本申请示例性实施方式进行更详细的描述,本申请的上述以及其它目的、特征和优势将变得更加明显,其中,在本申请示例性实施方式中,相同的参考标号通常代表相同部件。
图1为本申请实施例中车道线检测方法的一个实施例示意图;
图2为本申请实施例中车道线检测方法的另一个实施例示意图;
图3为本申请实施例中车道线检测装置的一个结构示意图;
图4为本申请实施例中车道线检测装置的另一个结构示意图。
具体实施方式
下面将参照附图更详细地描述本申请的优选实施方式。虽然附图中显示了本申请的优选实施方式,然而应该理解,可以以各种形式实现本申请而不应被这里阐述的实施方式所限制。相反,提供这些实施方式是为了使本申请更加透彻和完整,并且能够将本申请的范围完整地传达给本领域的技术人员。
在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请可能采用术语“第一”、“第二”、“第三”等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本申请的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
本申请实施例中的车道线检测方法适用于汽车辅助驾驶或者自动驾驶场景中,总体方案是基于预先训练的学习模型,将车载摄像头采集到的数据输入到神经网络中,输出结果得到我们想要的细粒度的检测结果。上述学习模型是基于神经网络的数据训练模型,也可以称之为学习网络或神经网络模型,下文中统称为神经网络模型。
请参阅图1,图1为本申请实施例中车道线检测方法的一个实施例示意图。
如图1所示,本申请实施例中车道线检测方法的一个实施例,包括:
101、车道线检测装置通过车辆上的图像采集设备获取待检测的车道信息图像。本申请实施例中,图像采集设备采集的车道信息图像中的车道信息是包括被图像采集设备采集到的车道线在内的一切在车道上被图像采集设备采集到的信息,图像采集设备可以是车载摄像头等。
车道信息图像包括但不限于通过车载摄像头采集的,也可以是其他设备采集的,例如安装在道路两侧并与路侧监控单元相连接的摄像头等。在车载摄像头采集的情况下,该车道信息图像可以是对车辆周边的车道信息进行采集得到的,也可以是在其他情况下的车道信息进行采集得到的。
本申请实施例中的一组车道线包括但不限于以下至少一种类型:单实线、双实线或虚线;也可以是以下任意一种:“实线、虚线、实线”、“实线、实线”、“实线、虚线、实线”、“实线、实线”等,对此本申请不做任何限制。
102、车道线检测装置将车道信息图像输入预先训练的目标检测模型,提取车道信息图像中的车道线特征。
本申请实施例中,目标检测模型具有提取车道线特征的功能,车道线特征可以用于识别不同车道线类别。容易理解,车道线特征种类越多,有利于提高车道线识别的准确度,同样的,每种特征的数量越多,车道识别的准确度也越高。
目标检测模型是通过对多组车道信息图像进行机器学习得到的,是一种神经网络模型。神经网络是一种机器学习分布式网络模型,一个神经网络中会有若干个不同类型的层,每一层都有不同的属性。利用神经网络对车道信息进行深度学习过程中,需要采集大量正常的车道信息图像作为数据训练集合。
通过深度学习,以训练模型的方式代替传统手工提取特征并做后处理识别车道线,可以端到端减轻手工提取特征的繁琐及复杂性,简化车道线检测流程,通过图像处理器加速还能提升检测速度到达实时要求。
可选的,在本申请的一些实施方式中,车道线特征包括但不限于语义特征和细节特征。其中,细节特征是指对车道线的局部细节部分提取,和/或,反映车道线的某一个或某些细节的特征,语义特征是指对车道线的全局特征进行提取,和/或,可以反映该车道线的整体特点的特征。
相应的,目标检测模型可以是基于双边分割网络设计的,换言之,目标检测模型中包括双边分割网络,双边分割网络中包括:细节特征分支和语义特征分支,其中,细节特征分支用于编码车道信息图像中的细节特征,语义特征分支用于编码车道信息图像中的语义特征。
具体的,该双边分割网络可以是实时语义分割神经网络bisenet-v2。
可选的,在本申请的一些实施方式中,在目标检测模型的训练过程中,还可以对目标检测模型中的模型参数进行优化,其优化方式包括但不限于使用损失函数进行优化。
进一步的,具体来说,在通过对多组车道信息图像进行机器学习过程中,使用损失函数对所述目标检测模型的模型参数进行优化设计,其中所述损失函数包括交叉熵损失函数或焦点损失函数。
通过损失函数可以将车道信息图像在垂直方向上被分为等高的4个区域,将中间两个区域的权重调大,同时降低两边两个区域的权重,例如具体的权重比例从最左边区域至最右边区域依次是:2:3:4:1,主要考虑车道线在图像中成像主要长度集中在中间区域,且为了提高中远距离车道线的识别精度,需要增加其对象像素的权重比例。
103、车道线检测装置通过目标检测模型对车道线特征和中间层特征执行预设聚合处理得到检测结果。
本申请实施例中,中间层特征是在车道线特征的提取过程中获取并能对车道线特征进行补充的特征。
具体来说,对于细节特征来说,其中间层特征是在使用细节特征分支提取细节特征过程中产生;同样的,对于语义特征而言,其中间层特征是在使用语义特征分支提取语义特征过程中产生的。
本申请中车道线特征包括至少两种特征,每种特征的数量为至少两个;车道线检测装置可以通过执行以下具体操作得到检测结果:通过目标检测模型,对第一聚合结果进行上采样后与至少两种车道线特征中至少一种对应的中间层特征进行聚合,得到检测结果,其中,第一聚合结果是对至少两种车道线特征进行聚合得到。
可选的,在车道线特征包括细节特征和语义特征的场景下,车道线检测装置可以对细节特征和语义特征进行聚合(包括多次聚合)得到第一聚合结果,并对第一聚合结果进行上采样后与下面至少一种中间层特征进行聚合得到检测结果:细节特征对应的中间层特征、语义特征对应的中间层特征。细节特征可以对应一种或多种中间层特征,并且每种中间层特征的数量可以是一个或多个;同样的,语义特征可以对应一种或多种中间层特征,并且每种中间层特征的数量可以是一个或多个。
本申请实施例中,通过目标检测模型可以提取车道信息图像中的车道线特征,并对提取到的车道线特征和中间层结果执行预设聚合操作得到检测结果,以确定车道信息图像中车道线的类型,由于中间层特征是在车道线特征的提取过程中获取并能对车道线特征进行信息补充的特征,因此基于车道线特征和中间层特征共同得到检测结果的准确性更高,颗粒度更小,从而提高车道线检测的准确性,提升车道线检测效率。
进一步的,上述目标检测模型能够提取车道线对应的细节特征和语义特征进行采样、聚合等操作,可以提取到更为丰富的、更具体地车道线特征,从而有助于提高车道线识别的准确性。
如上述图1对应描述中所述的,车道线特征包括但不限于细节特征和语义特征这两种特征,下面以车道线特征为细节特征和语义特征的场景为例,对本申请实施例中的车道线检测方法进行详细说明,具体如下:
在该场景中,目标检测模型是基于双边分割网络(如bisenet-v2)设计的,该双边分割网络设计有一个细节特征分支和一个语义特征分支,其中,细节特征分支用于提取细节特征这一车道线特征,语义特征分支用于提取语义特征这一车道线特征。
本申请中目标检测模型与普通的bisenet-v2相比,目标检测模型中一方面对编码功能以及聚合功能分别优化设计,另一方面新增加了解码功能。
请参阅图2,图2为本申请实施例中车道线检测方法的另一个实施例示意图。
201、车道线检测装置利用双边分割网络获取车道信息图像中的语义特征和细节特征。
本申请实施例中,车道线检测装置通过细节特征分支获取车道信息图像中的一个或多个细节特征,并通过语义特征分支获取车道信息图像中的一个或多个细节特征。
细节分支网络和语义分支网络均可以是若干个不同类型的层,每一层都有不同的属性,其最终输出分别是细节特征和语义特征。但在细节分支网络中还会输出一个或多个中间层特征,同样的,在语义分支网络中也还会输出一个或对各中间层特征。以细节分支网络为一个三层网络为例,其数据流向为第一层到第二层再到第三层,则最终第三层网络输出的特征即为细节特征,第一层和第二层输出的特征即为中间层特征。
车道线检测装置的特征提取可以通过编码方式实现,具体可以通过bisenet-v2中的编码器模块实现其特征提取功能。
202、车道线检测装置对语义特征和细节特征进行聚合。
车道线检测装置对语义特征和细节特征进行聚合具体执行以下操作:
首先,对语义特征进行上采样操作后,与细节特征进行聚合得到第二聚合结果;
其次,对细节特征进行下采样操作后,与语义特征进行聚合得到第三聚合结果;
最后,将第三聚合结果进行上采样操作后,与第二聚合结果进行聚合得到第一聚合结果。
上述聚合方式是一种全连接聚合,本申请中车道线检测装置的聚合包括但不限于全连接聚合。
车道线检测装置的特征聚合具体可以通过bisenet-v2中的聚合器模块实现。
203、车道线检测装置对聚合得到的聚合结果进行上采样后与步骤201中的中间层特征进行聚合,得到检测结果。
车道线检测装置对聚合得到的聚合结果进行上采样后与步骤201中的中间层特征进行聚合,其作用是丰富细节特征并弥补下采样带来的信息损失,提高细粒度精度。
具体来说,其具体实现方式可以是:将上述步骤203中聚合得到的第一聚合结果进行上采样操作,然后将上采样结果与上述步骤201中细节分支与语义分支在2层横向连接的中间层特征做融合,然后再次上采样,然后将细节分支1层的中间层特征与其融合,然后上采样到原图分辨率,并做分类操作,最终得到检测结果。
上述步骤203中所描述的功能即为本申请中新增加的解码功能,用于实现将步骤202中的聚合结果(即聚合器模块输出的结果)与上述步骤201中的中间层特征(即编码器模块的中间层特征)进行聚合,其作用是丰富细节特征并弥补下采样带来的信息损失,提高检测结果的细粒度精度。上述步骤203中所描述的解码功能可以由相应的解码器模块实现。
同样的,在双边分割网络的机器学习过程中,还可以采用损失函数对其参数进行优化,其具体优化实现方式可参阅上述步骤103中相关部分的描述,此处不再赘述。
本申请实施例中,通过双边分割网络对包括细节特征和语义特征这两类车道线特征进行提取,并对细节特征和语义特征进行采样后与在提取这两种特征过程中在细节特征分支和语义特征分支中所生成的中间层特征,该中间层特征可以丰富细节特征和语义特征,并且弥补在对细节特征和语义特征进行采样所引起的信息损失,从而基于细节特征和语义特征及其相对应的中间层特征共同得到检测结果的准确性更高,颗粒度更小,从而提高车道线检测的准确性,提升车道线检测效率。
本申请实施例中的车道线检测方法,可以定义汽车中已经安装车载摄像头,并调整好参数可以实时获取正常车道信息且车载有类似Xavier车载机器可以跑深度学习模型,通过我们设计的神经网络可以训练出能够正确分割出车道线分类,且可以在类似Xavier车载机器上实时检测;其中,本申请中设计的神经网络结构(即上述目标检测模型)可以从bisenet-v2启发改进而来,与bisenet-v2不同的是,本申请中设计的神经网络结构具有以下特点:1、整个网络框架由编码器、聚合器、解码器组合而成,相比于bisenet-v2,我们设计了解码器模块,增加了网络对细粒度精度的分类;2、我们重新设计了像素loss权重,对中远距离细粒度精度提升明显。
在本申请一种可能的神经网络结构以及损失loss函数权重设计如下:
1)、编码器:编码器主要作用是提取图像中的车道线特征,主要包含细节特征和语义特征两部分,为满足细节与语义特征我们设计双通道主干网络:细节分支与语义分支分别提取细节特征和语义特征。实现方法可以是bisenet-v2中的编码器模块。
2)、聚合器:聚合器主要作用是将编码器提取的特征做聚合。主要作用是车道线在图像中呈现的是细、长特征,神经网络提取特征感受野都是方形,与车道线很不吻合,为了满足车道线细长特征,添加聚合器。其主要实现方式是:将编码器提取的细节特征与语义特征全连接融合,具体表现为a、语义特征通过上采样与细节特征融合,b、细节特征下采样与语义特征融合,c、然后将b融合的结果上采样与a的结果融合。实现方法可以是bisenet-v2中的聚合器模块。
3)、解码器:解码器实现是将聚合器的结果通过上采样操作及与编码器中间层特征融合,其作用是丰富细节特征并弥补下采样带来的信息损失,提高细粒度精度。其具体实现是将聚合器聚合得到的特征上采样操作,然后与编码器中细节分支与语义分支在2层横向连接的结果做融合,然后再次上采样,然后将细节分支1层的结果与其融合,然后上采样到原图分辨率,并做分类操作。
4)、损失函数:损失函数主要是模型训练过程中,用来优化模型参数,这里分类损失函数可以是交叉熵或者focalLoss函数,我们改进方法是:通过将图片垂直方向等高分4个区域,将中间两个区域的权重调大,降低两边的权重,具体比例是:2:3:4:1,主要考虑车道线在图像中成像主要长度集中在中间区域,为了提高中远距离精度,需要增加其对象像素的权重比例。
与前述应用功能实现方法实施例相对应,本申请还提供了一种车道线检测装置及相应的实施例。
请参阅图3,图3为本申请实施例中车道线检测装置的一个结构示意图。
如图3所示,本申请实施例中车道线检测装置300包括:图像采集模块301、特征提取模块302和检测模块303。
其中,图像采集模块301,用于通过车辆上的图像采集设备获取待检测的车道信息图像;
特征提取模块302,用于将车道信息图像输入预先训练的目标检测模型,提取车道信息图像中的车道线特征,其中,目标检测模型是通过对多组车道信息图像进行机器学习得到的;
检测模块302,用于通过目标检测模型,对车道线特征和中间层特征执行预设聚合处理得到检测结果,其中,中间层特征是在车道线特征的提取过程中获取并能对车道线特征进行信息补充的特征,检测结果用于指示车道信息图像中车道线的类型。
可选的,在本申请实施例的一种可能的实施方式中,车道线特征包括至少两种特征,每种特征的数据为至少两个;检测模块303具体用于执行以下操作:
通过目标检测模型,对第一聚合结果进行上采样后与至少两种车道线特征中至少一种对应的中间层特征进行聚合,得到检测结果,其中,第一聚合结果是对至少两种车道线特征进行聚合得到。
可选的,在本申请实施例的一种可能的实施方式中,车道线特征包括语义特征和细节特征,第一聚合结果是对语义特征和细节特征进行聚合得到的。
可选的,在本申请实施例的一种可能的实施方式中,目标检测模型中包括双边分割网络,双边分割网络中包括:细节特征分支和语义特征分支;特征提取模块302用于执行以下操作:
通过细节特征分支提取车道信息图像中所有的细节特征;
通过语义特征分支提取车道信息图像中所有的语义特征。
可选的,在本申请实施例的一种可能的实施方式中,如图3中虚线部分所示,车道线检测装置300还可以包括:聚合模块304,用于执行以下操作:
对语义特征进行上采样操作后,与细节特征进行聚合得到第二聚合结果;
对细节特征进行下采样操作后,与语义特征进行聚合得到第三聚合结果;
将第三聚合结果进行上采样操作后,与第二聚合结果进行聚合得到第一聚合结果。
可选的,在本申请实施例的一种可能的实施方式中,如图3中虚线部分所示,车道线检测装置300还可以包括:训练模块305,用于在通过对多组车道信息图像进行机器学习过程中,使用损失函数对目标检测模型的模型参数进行优化设计,其中损失函数包括交叉熵损失函数或焦点损失函数。
可选的,在本申请实施例的一种可能的实施方式中,图像采集模块301获取的车道信息图像中的车道线包括以下至少一种类型:单实线、双实线或虚线。
请参阅图4,图4为本申请实施例中车道线检测装置的另一个结构示意图。
如图4所示,车道线检测装置400包括存储器401和处理器402。
处理器402可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器 (Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列 (Field-Programmable Gate Array,FPGA) 或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器401可以包括各种类型的存储单元,例如系统内存、只读存储器(ROM),和永久存储装置。其中,ROM可以存储处理器402或者计算机的其他模块需要的静态数据或者指令。永久存储装置可以是可读写的存储装置。永久存储装置可以是即使计算机断电后也不会失去存储的指令和数据的非易失性存储设备。在一些实施方式中,永久性存储装置采用大容量存储装置(例如磁或光盘、闪存)作为永久存储装置。另外一些实施方式中,永久性存储装置可以是可移除的存储设备(例如软盘、光驱)。系统内存可以是可读写存储设备或者易失性可读写存储设备,例如动态随机访问内存。系统内存可以存储一些或者所有处理器在运行时需要的指令和数据。此外,存储器401可以包括任意计算机可读存储媒介的组合,包括各种类型的半导体存储芯片(DRAM,SRAM,SDRAM,闪存,可编程只读存储器),磁盘和/或光盘也可以采用。在一些实施方式中,存储器401可以包括可读和/或写的可移除的存储设备,例如激光唱片(CD)、只读数字多功能光盘(例如DVD-ROM,双层DVD-ROM)、只读蓝光光盘、超密度光盘、闪存卡(例如SD卡、min SD卡、Micro-SD卡等等)、磁性软盘等等。计算机可读存储媒介不包含载波和通过无线或有线传输的瞬间电子信号。
存储器401上存储有可执行代码,当可执行代码被处理器402处理时,可以使处理器402执行上文述及的方法中的部分或全部。
上文中已经参考附图详细描述了本申请的方案。在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详细描述的部分,可以参见其他实施例的相关描述。本领域技术人员也应该知悉,说明书中所涉及的动作和模块并不一定是本申请所必须的。另外,可以理解,本申请实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减,本申请实施例装置中的模块可以根据实际需要进行合并、划分和删减。
此外,根据本申请的方法还可以实现为一种计算机程序或计算机程序产品,该计算机程序或计算机程序产品包括用于执行本申请的上述方法中部分或全部步骤的计算机程序代码指令。
或者,本申请还可以实施为一种非暂时性机器可读存储介质(或计算机可读存储介质、或机器可读存储介质),其上存储有可执行代码(或计算机程序、或计算机指令代码),当所述可执行代码(或计算机程序、或计算机指令代码)被电子设备(或电子设备、服务器等)的处理器执行时,使所述处理器执行根据本申请的上述方法的各个步骤的部分或全部。
本领域技术人员还将明白的是,结合这里的申请所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。
附图中的流程图和框图显示了根据本申请的多个实施例的系统和方法的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标记的功能也可以以不同于附图中所标记的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本申请的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (6)
1.一种车道线检测方法,其特征在于,包括:
通过车辆上的图像采集设备获取待检测的车道信息图像;
将所述车道信息图像输入预先训练的目标检测模型,提取所述车道信息图像中的车道线特征,其中,所述目标检测模型是通过对多组车道信息图像进行机器学习得到的;
通过所述目标检测模型,对所述车道线特征和中间层特征执行预设聚合处理得到检测结果,其中,所述中间层特征是在所述车道线特征的提取过程中获取并能对所述车道线特征进行信息补充的特征,所述检测结果用于指示所述车道信息图像中车道线的类型;
所述车道线特征包括至少两种特征,每种特征的数量为至少两个;所述车道线特征包括语义特征和细节特征;
所述通过所述目标检测模型,对所述车道线特征和中间层特征执行预设聚合处理得到检测结果,包括:
通过所述目标检测模型,对第一聚合结果进行上采样后与所述至少两种车道线特征中至少一种对应的所述中间层特征进行聚合,得到所述检测结果,其中,所述第一聚合结果是对至少两种车道线特征进行聚合得到;其中,所述第一聚合结果是对所述语义特征和细节特征进行聚合得到的,包括:对所述语义特征进行上采样操作后,与所述细节特征进行聚合得到第二聚合结果;对所述细节特征进行下采样操作后,与所述语义特征进行聚合得到第三聚合结果;将所述第三聚合结果进行上采样操作后,与所述第二聚合结果进行聚合得到所述第一聚合结果。
2.根据权利要求1所述的方法,其特征在于,
所述目标检测模型中包括双边分割网络,所述双边分割网络中包括:细节特征分支和语义特征分支;
所述将所述车道信息图像输入预先训练的目标检测模型,提取所述车道信息图像中的车道线特征,包括:
通过所述细节特征分支提取所述车道信息图像中所有的所述细节特征;
通过所述语义特征分支提取所述车道信息图像中所有的所述语义特征。
3.根据权利要求1所述的方法,其特征在于,
所述方法还包括:在通过对多组车道信息图像进行机器学习过程中,使用损失函数对所述目标检测模型的模型参数进行优化设计,其中所述损失函数包括交叉熵损失函数或焦点损失函数。
4.根据权利要求1所述的方法,其特征在于,
所述车道线包括以下至少一种类型:单实线、双实线或虚线。
5.一种车道线检测装置,其特征在于,包括:
图像采集模块,用于通过车辆上的图像采集设备获取待检测的车道信息图像;
特征提取模块,用于将所述车道信息图像输入预先训练的目标检测模型,提取所述车道信息图像中的车道线特征,其中,所述目标检测模型是通过对多组车道信息图像进行机器学习得到的;
检测模块,用于通过所述目标检测模型,对所述车道线特征和中间层特征执行预设聚合处理得到检测结果,其中,所述中间层特征是在所述车道线特征的提取过程中获取并能对所述车道线特征进行信息补充的特征,所述检测结果用于指示所述车道信息图像中车道线的类型;所述车道线特征包括至少两种特征,每种特征的数量为至少两个;所述车道线特征包括语义特征和细节特征;
所述检测模块通过所述目标检测模型,对所述车道线特征和中间层特征执行预设聚合处理得到检测结果,包括:通过所述目标检测模型,对第一聚合结果进行上采样后与所述至少两种车道线特征中至少一种对应的所述中间层特征进行聚合,得到所述检测结果,其中,所述第一聚合结果是对至少两种车道线特征进行聚合得到;其中,所述第一聚合结果是对所述语义特征和细节特征进行聚合得到的,包括:对所述语义特征进行上采样操作后,与所述细节特征进行聚合得到第二聚合结果;对所述细节特征进行下采样操作后,与所述语义特征进行聚合得到第三聚合结果;将所述第三聚合结果进行上采样操作后,与所述第二聚合结果进行聚合得到所述第一聚合结果。
6.一种车道线检测装置,其特征在于,包括:
处理器和存储器;所述存储器,用于存储可执行代码;
所述处理器,用于通过调用所述可执行代码,以执行如上述权利要求1-4中任一项所述的车道线检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110807560.8A CN113269164B (zh) | 2021-07-16 | 2021-07-16 | 车道线检测方法及其检测装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110807560.8A CN113269164B (zh) | 2021-07-16 | 2021-07-16 | 车道线检测方法及其检测装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113269164A CN113269164A (zh) | 2021-08-17 |
CN113269164B true CN113269164B (zh) | 2021-10-29 |
Family
ID=77236568
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110807560.8A Active CN113269164B (zh) | 2021-07-16 | 2021-07-16 | 车道线检测方法及其检测装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113269164B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113705515B (zh) * | 2021-09-03 | 2024-04-12 | 北京百度网讯科技有限公司 | 语义分割模型的训练和高精地图车道线的生成方法和设备 |
CN114445800B (zh) * | 2022-01-25 | 2022-09-30 | 杭州飞步科技有限公司 | 基于感兴趣区域特征聚集的车道线检测方法 |
CN116030435B (zh) * | 2023-02-24 | 2023-06-16 | 杭州枕石智能科技有限公司 | 车道线和可通行区域的检测系统、方法及终端设备 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109101907A (zh) * | 2018-07-28 | 2018-12-28 | 华中科技大学 | 一种基于双边分割网络的车载图像语义分割系统 |
-
2021
- 2021-07-16 CN CN202110807560.8A patent/CN113269164B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109101907A (zh) * | 2018-07-28 | 2018-12-28 | 华中科技大学 | 一种基于双边分割网络的车载图像语义分割系统 |
Non-Patent Citations (2)
Title |
---|
BiSeNet V2: Bilateral Network with Guided Aggregation for Real-time Semantic Segmentation;Changqian Yu等;《arXiv》;20200405;参见第3-4节 * |
基于改进双边分割网络的井下轨道检测算法;卫星等;《计算机应用研究》;20201231;第37卷;参见第0-4节 * |
Also Published As
Publication number | Publication date |
---|---|
CN113269164A (zh) | 2021-08-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113269164B (zh) | 车道线检测方法及其检测装置 | |
Hamaguchi et al. | Building detection from satellite imagery using ensemble of size-specific detectors | |
CN108694386B (zh) | 一种基于并联卷积神经网络的车道线检测方法 | |
US11475681B2 (en) | Image processing method, apparatus, electronic device and computer readable storage medium | |
CN106250838A (zh) | 车辆识别方法及系统 | |
CN110781980B (zh) | 目标检测模型的训练方法、目标检测方法及装置 | |
CN114359130A (zh) | 一种基于无人机影像的道路裂缝检测方法 | |
CN116051549B (zh) | 一种太阳能电池片缺陷分割方法、系统、介质及设备 | |
CN113298050B (zh) | 车道线识别模型训练方法、装置及车道线识别方法、装置 | |
CN113780132A (zh) | 一种基于卷积神经网络的车道线检测方法 | |
CN111062347B (zh) | 一种自动驾驶中交通要素分割方法、电子设备及存储介质 | |
CN116129291A (zh) | 一种面向无人机畜牧的图像目标识别方法及其装置 | |
CN117152443A (zh) | 一种基于语义前导指引的图像实例分割方法及系统 | |
CN115131634A (zh) | 图像识别方法、装置、设备、存储介质及计算机程序产品 | |
CN111210411B (zh) | 图像中灭点的检测方法、检测模型训练方法和电子设备 | |
CN112418229A (zh) | 一种基于深度学习的无人船海上场景图像实时分割方法 | |
CN112446292B (zh) | 一种2d图像显著目标检测方法及系统 | |
CN115601730A (zh) | 识别交通灯的方法、装置和电子设备 | |
CN113392812B (zh) | 基于深度神经网络的道路车道线检测方法及系统 | |
CN112488115B (zh) | 一种基于two-stream架构的语义分割方法 | |
Dandu et al. | Vehicular number plate recognition using edge detection and characteristic analysis of national number plates | |
CN114187581A (zh) | 一种基于无监督学习的驾驶员分心细粒度检测方法 | |
CN113160217A (zh) | 一种线路异物的检测方法、装置、设备及存储介质 | |
Li et al. | Progressive probabilistic hough transform based nighttime lane line detection for micro-traffic road | |
CN114782907A (zh) | 无人车行驶环境识别方法、装置、设备和计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |