CN112446246B - 一种图像遮挡检测方法及车载终端 - Google Patents
一种图像遮挡检测方法及车载终端 Download PDFInfo
- Publication number
- CN112446246B CN112446246B CN201910813082.4A CN201910813082A CN112446246B CN 112446246 B CN112446246 B CN 112446246B CN 201910813082 A CN201910813082 A CN 201910813082A CN 112446246 B CN112446246 B CN 112446246B
- Authority
- CN
- China
- Prior art keywords
- image
- occlusion
- detected
- detection model
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/582—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
Abstract
本发明实施例公开一种图像遮挡检测方法及车载终端。该方法包括:获取配置有定焦镜头的车载相机采集的待检测图像;通过遮挡检测模型中的特征提取层,提取待检测图像的特征图;通过遮挡检测模型中的图像分割层,基于特征图确定待检测图像中的遮挡区域;根据遮挡区域确定待检测图像的遮挡结果;其中,遮挡检测模型使得待检测图像与其中的遮挡区域相关联;遮挡检测模型为根据采集的多个样本图像采用深度学习算法预先训练得到;样本图像为配置有定焦镜头的车载相机采集的图像,样本图像包括:镜头被部分遮挡或全部遮挡时车载相机拍摄的图像。应用本发明实施例提供的方案,能够更准确地对车载相机采集的图像进行遮挡检测。
Description
技术领域
本发明涉及智能驾驶技术领域,具体而言,涉及一种图像遮挡检测方法及车载终端。
背景技术
智能驾驶系统需要通过传感器来采集车辆以及路面信息,供控制系统做出正确的控制判断。其中,由车载相机采集的图像能为车道线检测、交通标志识别以及车距识别等各种智能驾驶任务提供更加丰富的数据来源。然而,由于人为或意外的镜头遮挡会严重干扰车载相机获取路面信息,影响智能驾驶系统的稳定性,甚至安全性。为了检测镜头是否被遮挡,通常可以对图像进行遮挡检测。
现有的遮挡检测方法,通常可以根据图像的前景和背景的像素差值来判断图像中是否存在遮挡。但是,由于车载相机采集图像的环境变化较大,情况复杂,难以采用上述遮挡检测方法实现对图像遮挡的准确检测。
发明内容
本发明提供了一种图像遮挡检测方法及车载终端,以更准确地对车载相机采集的图像进行遮挡检测。具体的技术方案如下。
第一方面,本发明实施例公开了一种图像遮挡检测方法,包括:
获取配置有定焦镜头的车载相机采集的待检测图像;
通过遮挡检测模型中的特征提取层,提取所述待检测图像的特征图;通过所述遮挡检测模型中的图像分割层,基于所述特征图确定所述待检测图像中的遮挡区域;其中,所述遮挡检测模型使得所述待检测图像与其中的遮挡区域相关联;所述遮挡检测模型为根据采集的多个样本图像采用深度学习算法预先训练得到;所述样本图像为配置有定焦镜头的车载相机采集的图像,所述样本图像包括:镜头被部分遮挡或全部遮挡时车载相机拍摄的图像;
根据所述遮挡区域确定所述待检测图像的遮挡结果。
可选的,所述遮挡检测模型采用以下方式训练得到:
获取多个样本图像和对应的标注信息;其中,所述样本图像包括:包含遮挡区域的多个正样本图像和不包含遮挡区域的多个负样本图像;所述正样本图像的标注信息包含遮挡区域,负样本图像的标注信息不包含遮挡区域;
将所述样本图像输入遮挡检测模型;
通过所述特征提取层的模型参数,提取所述样本图像的样本特征图;通过所述图像分割层,基于所述样本特征图确定所述样本图像中的参考遮挡区域;
确定所述参考遮挡区域与对应的标注信息之间的差异;
当所述差异大于预设差异阈值时,根据所述差异修改所述模型参数,返回执行所述将所述样本图像输入遮挡检测模型的步骤;
当所述差异不大于所述预设差异阈值时,确定遮挡检测模型训练完成。
可选的,所述待检测图像为单帧图像;所述根据所述遮挡区域确定所述待检测图像的遮挡结果的步骤,包括:
确定所述遮挡区域在所述待检测图像中占的比例;
当所述比例大于预设阈值时,确定所述待检测图像为被遮挡图像;其中,所述预设阈值为根据经验值确定。
可选的,所述待检测图像为连续的多个图像帧;
所述通过遮挡检测模型中的特征提取层,提取所述待检测图像的特征图的步骤,包括:
通过遮挡检测模型中的特征提取层,提取各个图像帧的子特征图,并对各个图像帧的子特征图进行均值处理,得到所述待检测图像的特征图。
可选的,当根据所述遮挡区域确定所述待检测图像为被遮挡图像时,所述方法还包括:
根据属于被遮挡图像的待检测图像的信息,确定所述车载相机的镜头被遮挡的信息。
可选的,各个样本图像包含以下种类中的至少一种:
各个样本图像的采集时刻处于不同时间段;
各个样本图像采集时的天气状况不同;
各个样本图像采集时的道路场景不同。
第二方面,本发明实施例公开了一种车载终端,包括:处理器和配置有定焦镜头的车载相机;处理器包括:
图像获取模块,用于获取所述车载相机采集的待检测图像;
遮挡检测模块,用于通过遮挡检测模型中的特征提取层,提取所述待检测图像的特征图;通过所述遮挡检测模型中的图像分割层,基于所述特征图确定所述待检测图像中的遮挡区域;其中,所述遮挡检测模型使得所述待检测图像与其中的遮挡区域相关联;所述遮挡检测模型为根据采集的多个样本图像采用深度学习算法预先训练得到;所述样本图像为配置有定焦镜头的车载相机拍摄的图像,所述样本图像包括:镜头被部分遮挡或全部遮挡时车载相机拍摄的图像;
遮挡确定模块,用于根据所述遮挡区域确定所述待检测图像的遮挡结果。
可选的,所述遮挡检测模型采用以下操作训练得到:
获取多个样本图像和对应的标注信息;其中,所述样本图像包括:包含遮挡区域的多个正样本图像和不包含遮挡区域的多个负样本图像;所述正样本图像的标注信息包含遮挡区域,负样本图像的标注信息不包含遮挡区域;
将所述样本图像输入遮挡检测模型;
通过所述特征提取层的模型参数,提取所述样本图像的样本特征图;通过所述图像分割层,基于所述样本特征图确定所述样本图像中的参考遮挡区域;
确定所述参考遮挡区域与对应的标注信息之间的差异;
当所述差异大于预设差异阈值时,根据所述差异修改所述模型参数,返回执行所述将所述样本图像输入遮挡检测模型的操作;
当所述差异不大于所述预设差异阈值时,确定遮挡检测模型训练完成。
可选的,所述待检测图像为单帧图像;所述遮挡确定模块,具体用于:
确定所述遮挡区域在所述待检测图像中占的比例;
当所述比例大于预设阈值时,确定所述待检测图像为被遮挡图像;其中,所述预设阈值为根据经验值确定。
可选的,所述待检测图像为连续的多个图像帧;
所述遮挡检测模块,通过遮挡检测模型中的特征提取层,提取所述待检测图像的特征图时,包括:
通过遮挡检测模型中的特征提取层,提取各个图像帧的子特征图,并对各个图像帧的子特征图进行均值处理,得到所述待检测图像的特征图。
可选的,所述遮挡确定模块,还用于:
当根据所述遮挡区域确定所述待检测图像为被遮挡图像时,根据属于被遮挡图像的待检测图像的信息,确定所述车载相机的镜头被遮挡的信息。
可选的,各个样本图像包含以下种类中的至少一种:
各个样本图像的采集时刻处于不同时间段;
各个样本图像采集时的天气状况不同;
各个样本图像采集时的道路场景不同。
由上述内容可知,本发明实施例提供的图像遮挡检测方法及车载终端,可以通过遮挡检测模型中的特征提取层提取待检测图像的特征图,通过图像分割层基于特征图确定待检测图像中的遮挡区域。遮挡检测模型为采用深度学习算法,预先对配置有定焦镜头的车载相机采集的多个样本图像进行训练得到,采用大量在不同环境下采集的样本图像训练得到的遮挡检测模型,能够应对多种环境下采集的待检测图像,其检测鲁棒性更强,因此本发明实施例能够更准确地对车载相机采集的图像进行遮挡检测。当然,实施本发明的任一产品或方法并不一定需要同时达到以上所述的所有优点。
本发明实施例的创新点包括:
1、能够采用深度学习算法,对车载相机采集的样本图像进行训练,得到遮挡检测模型。这使得该遮挡检测模型能更适用于对车载相机采集的待检测图像进行检测,并针对不同环境下采集的待检测图像,均能够准确检测图像遮挡。
2、遮挡检测模型可以针对单帧的待检测图像进行检测,并根据该待检测图像中的遮挡比例与预设阈值的比较,确定待检测图像是否为被遮挡图像。
3、遮挡检测模型可以针对连续帧的待检测图像进行检测,取连续帧图像中的交叠区域为遮挡区域,能够尽可能减少因环境因素干扰而导致的误判。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单介绍。显而易见地,下面描述中的附图仅仅是本发明的一些实施例。对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的图像遮挡检测方法的一种流程示意图;
图2为镜头被遮挡时车载相机采集的包含遮挡区域的参考图;
图3为在分类测试中预设阈值的取值与分类准确性的相关性曲线;
图4为对样本图像中的遮挡区域标记的多边形示意图;
图5为本发明实施例中不标注的样本图像示意图;
图6为本发明实施例中对连续多个图像帧检测遮挡时的一种流程示意图;
图7为本发明实施例提供的车载终端的一种结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整的描述。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,本发明实施例及附图中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。例如包含的一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
本发明实施例公开了一种图像遮挡检测方法及车载终端,能够更准确地对车载相机采集的图像进行遮挡检测。下面对本发明实施例进行详细说明。
图1为本发明实施例提供的图像遮挡检测方法的一种流程示意图。该方法应用于电子设备。该电子设备可以为普通计算机、服务器或者智能终端设备等,也可以为车载电脑或车载工业控制计算机(Industrial Personal Computer,IPC)等车载终端。该方法具体包括以下步骤。
S110:获取配置有定焦镜头的车载相机采集的待检测图像。
其中,定焦镜头是指焦距不变的镜头。获取的待检测图像可以为车载相机在车辆行驶时实时采集的,也可以是车载相机采集后存储起来的图像。
当车载相机的镜头被遮挡时,车载相机的部分视野或全部视野被阻塞且短时间内不能恢复。车载相机在这种情况下采集的图像会存在局部或全部模糊的现象。参见图2,为镜头被遮挡时车载相机采集的包含遮挡区域的参考图。
S120:通过遮挡检测模型中的特征提取层,提取待检测图像的特征图;通过遮挡检测模型中的图像分割层,基于特征图确定待检测图像中的遮挡区域。
其中,遮挡区域为待检测图像中的图像区域,可以采用多边形区域表示。遮挡检测模型使得待检测图像与其中的遮挡区域相关联。遮挡检测模型为根据采集的多个样本图像采用深度学习算法预先训练得到。样本图像为配置有定焦镜头的车载相机采集的图像。样本图像包括:镜头被部分遮挡或全部遮挡时车载相机拍摄的图像。
采集样本图像的车载相机可以与步骤S110中的车载相机不同,也可以相同。
具体的,本步骤可以将待检测图像输入遮挡检测模型中,由遮挡检测模型中的特征提取层对待检测图像进行卷积计算,得到待检测图像的特征图,特征提取层将特征图发送至图像分割层。图像分割层对每个像素点对应的特征图进行分类,根据分类结果确定待检测图像中的遮挡区域。特征图包括每个像素点对应的特征向量。
例如,遮挡检测模型可以采用对unet网络进行训练得到。该unet网络的特征提取层可以包括编码层和解码层。编码层对待检测图像进行下采样处理,得到待检测图像的语义信息。解码层对语义信息进行解码,并恢复图像的原始分辨率,得到待检测图像的特征图。
图像分割层也可以称为激活层。图像分割层基于特征图确定待检测图像中的遮挡区域时,可以通过激活函数对特征图的每个特征向量进行处理,输出约束为0~1之间的概率值,根据该概率值可以确定处于遮挡区域中的像素点。该概率值用于表征对应的像素点被遮挡的概率。其中,激活函数可以包括sigmoid函数。
在具体实施时,可以对unet网络的卷积层参数进行修改,使得输出的尺寸与输入尺寸相同,从而方便训练时将标注信息与预测数据进行损失计算并反向传播。网络的输出通道改为1通道,网络输出可以直接经sigmoid函数处理,判断遮挡概率,方便遮挡检测任务的后续处理。
S130:根据遮挡区域确定待检测图像的遮挡结果。
遮挡结果可以包括:待检测图像为被遮挡图像和待检测图像为未遮挡图像。当遮挡区域比较小时,可以认为待检测图像中的遮挡区域对图像信息的影响非常小,可以忽略不计。当遮挡区域比较大时,可以认为待检测图像中的遮挡区域对图像信息的影响比较大,因此将该待检测图像确定为被遮挡图像。
在确定待检测图像中的遮挡区域时,具体可以确定遮挡区域在待检测图像中占的比例,当该比例大于预设阈值时,确定待检测图像为被遮挡图像;当该比例不大于预设阈值时,确定待检测图像为未遮挡图像。其中,预设阈值为根据经验值确定。该实施方式可以在待检测图像为单帧图像时,或者非实时检测状态下实施。
在一种实施方式中,预设阈值可以设置为7%,该预设阈值能够使得将待检测图像分类为被遮挡图像和未遮挡图像时的分类性能最优。参见图3,为在分类测试中预设阈值的取值与分类准确性的相关性曲线,从中可以看出,当预设阈值设置为7%时,准确性可以达到99%。
由上述内容可知,本实施例可以通过遮挡检测模型中的特征提取层提取待检测图像的特征图,通过图像分割层基于特征图确定待检测图像中的遮挡区域。遮挡检测模型为采用深度学习算法,预先对配置有定焦镜头的车载相机采集的多个样本图像进行训练得到,采用大量在不同环境下采集的样本图像训练得到的遮挡检测模型,能够应对多种环境下采集的待检测图像,其检测鲁棒性更强,因此本实施例能够更准确地对车载相机采集的图像进行遮挡检测。
在本发明的另一实施例中,基于图1所示实施例,遮挡检测模型可以采用以下步骤1a~5a训练得到。
步骤1a:获取多个样本图像和对应的标注信息。
其中,样本图像包括:包含遮挡区域的多个正样本图像和不包含遮挡区域的多个负样本图像。正样本图像的标注信息包含遮挡区域,负样本图像的标注信息不包含遮挡区域。负样本图像的标注信息指示负样本图像中不存在遮挡区域。
在一种实施方式中,可以在车辆行驶过程中,通过车载相机预先采集大量样本图像,并对样本图像进行标注,确定样本图像的标注信息。
步骤2a:将样本图像输入遮挡检测模型。
在将样本图像输入遮挡检测模型之前,可以对样本图像进行预处理,例如对样本图像的尺寸进行缩放、转换灰度等操作。
步骤3a:通过特征提取层的模型参数,提取样本图像的样本特征图;通过所述图像分割层,基于样本特征图确定样本图像中的参考遮挡区域。
其中,模型参数的初始值可以采用预设值。在训练的过程中,不断调整模型参数,使其接近于真实值。
步骤4a:确定参考遮挡区域与对应的标注信息之间的差异。
在计算该差异时,可以采用交叉熵损失函数进行计算。
在提取正样本图像的标注信息时,可以解析json文件中的顶点,将顶点连接成多边形,即可以得到该样本图像的标准遮挡区域了。
步骤5a:当上述差异大于预设差异阈值时,根据上述差异修改模型参数,返回执行步骤2a,将样本图像输入遮挡检测模型的步骤。当上述差异不大于预设差异阈值时,确定遮挡检测模型训练完成。
其中,预设差异阈值可以为根据经验值确定。在每次循环迭代中,可以将不同的样本图像输入遮挡检测模型。
综上,本实施例通过迭代的方式对样本图像不断进行训练,直至模型检测的参考遮挡区域与对应的标注信息之间的差异小于预设阈值时,确定车辆检测模型训练完成,为模型的训练过程提供了可实施的方式。
为了使得样本图像的种类更加多样化,各个样本图像可以包含以下种类中的至少一种:
各个样本图像的采集时刻处于不同时间段;各个样本图像采集时的天气状况不同;各个样本图像采集时的道路场景不同。
当样本图像更加多样化时,训练得到的遮挡检测模型能够针对多种情况下的图像遮挡进行检测,能够使得遮挡检测模型的鲁棒性更强。
具体的,采集不同时间段的样本图像时,不同时间段的光线以及路况会发生变化。例如,遮挡数据分别在上午、下午和晚上三个时间段进行采集,能够保障时间段上的复杂性。
采集不同天气状况下的样本图像时,不同天气条件下的光线不同,极端天气下甚至会对遮挡判断产生干扰。例如,遮挡数据分别在晴天、阴天和雨天三种天气条件下采集,能够使得最终训练的遮挡检测模型对天气的抗干扰能力加强。
采集不同道路场景下的样本图像时,不同场景的路况不同。例如遮挡数据分别在郊区以及城市道路进行采集,能够保障场景的丰富性。
为了能够采集得到足够数量的正样本图像,可以对车载相机的镜头采用以下几种遮挡方式。
擦拭镜头,模拟人为原因造成短时的遮挡现象。具体模拟方法为手持抹布或空手从各个方向擦拭镜头然后移开,擦拭时间不固定,可持续几秒至十几秒的时间。
纸板遮挡镜头,模拟镜头因为位置原因被挂饰或其他车内物体遮挡而造成的不同程度的无视野现象。具体模拟方法为使用纸板从不同角度遮挡不同面积的摄像头视野。
车外异物遮挡,模拟天空飘落物或引擎盖杂物遮挡现象。具体模拟方法为在挡风玻璃上粘贴不同面积的塑料袋,或者在引擎盖上摆放阻碍摄像头视线的书包、纸箱等。
雨刷遮挡,模拟因打开雨刷导致的视野受到干扰的现象。具体模拟方法为打开雨刷,采集长时间的雨刷遮挡数据。
在对正样本图像进行标注时,可以把正样本图像中的遮挡区域标记出来。在标记时,可以采用多边形的轮廓标记法,并记录多边形各个顶点位置。将标记的多边形数据生成对应样本图像的json格式文件,文件中包含的是多边形的顶点位置信息。
参见图4为对样本图像中的遮挡区域标记的多边形示意图。其中,左侧图为样本图像和其中左侧的遮挡区域,右侧图遮挡区域边缘的黑色线显示了对该样本图像中遮挡区域的多边形标记。
由于样本数据的复杂性和多样性,标注过程中难免会出现各种各样的意外情况,例如人眼无法正常辨认图像中是否存在遮挡,或者样本图像中存在会明显干扰遮挡检测模型学习效果的遮挡等。针对这些情况,可以按照以下方式确定对样本图像进行标注。
雨水导致玻璃上存在的水、雾或水渍且无遮挡物体存在的场景,不需要进行标注。这是因为数据集收集的是遮挡现象,尽管雨水、雾都会阻碍视线,但不属于任务需求。
镜面投影或反光不认为是遮挡。投影或反光尽管会阻碍视线,但是仍然可以对路况进行辨别,且其拥有丰富的纹理信息,如果标记为遮挡则会干扰模型训练效果,因此不进行标注。
剔除图片色度或亮度不正常的图像,这类图像是由于传感器白平衡或感光参数不正常导致,不属于任务需求。
剔除光线较差的夜晚图像。夜晚由于光线很差,导致摄像头采集的视野中缺乏路况信息,尤其是天空部分,无法判断是遮挡还是天空,为保证数据有效性,可以对于光线特别差的样本图像进行剔除。
剔除无法区分遮挡还是阴影的图像。人眼已经无法辨别这类图像,为避免错误标注,不标注。
异常小的遮挡物(小于标尺的遮挡物)不标注。部分图像中存在十分小的遮挡区域,尽管其阻碍了摄像头视野,但是将其标出将严重干扰标注进度。其中,制定的标尺可以包括,不标注小于10个像素的遮挡物。
标注边缘尽量紧贴实际物体完整轮廓,虚拟边缘不标注。由于遮挡区域边缘存在虚化现象,为了使得模型能够准确判断遮挡区域,虚化区域统一不标注,只标注出图像中明显遮挡的部分。
部分遮挡区域可能存在镂空的现象,且又分为闭合与非闭合两种可能。非闭合镂空的情况,镂空的位置不标注,闭合镂空的平均直径小于紧邻遮挡物最薄处的1/2时,镂空的位置需标注,否则不标注。
例如,图5中的样本图像不标注,即认为其中不存在遮挡区域。
在本发明的另一实施例中,基于图1所示实施例,待检测图像可以为连续的多个图像帧,例如可以但不限于为连续的三个图像帧。
步骤S120中通过遮挡检测模型中的特征提取层,提取待检测图像的特征图的步骤,包括:通过遮挡检测模型中的特征提取层,提取各个图像帧的子特征图,并对各个图像帧的子特征图进行均值处理,得到待检测图像的特征图。
特征提取层根据训练好的模型参数,分别提取各个图像帧的子特征图,实现了参数共享。
参见图6所示为本实施例中对连续多个图像帧检测遮挡的一种流程示意图。多个图像帧被输入遮挡检测模型之后,均被提取图像特征,得到对应的子特征图,确定各个子特征图的均值之后,再输入图像分割层,图像分割层输出图像帧中的遮挡区域。
在定焦镜头和车辆行驶的场景下,连续帧中的遮挡区域变化不大,而背景区域则变化较大,这种连续帧的方法能够使得确定的遮挡区域更准确。所确定的遮挡区域,为连续的多个图像帧中遮挡区域的交集,这样能够避免单帧图像中对遮挡区域的误判,有效避免噪声。
根据连续多帧图像确定图像中的遮挡区域时,对遮挡区域的判断要更加保守,体现在图像上为确定的遮挡区域面积相对较小,但是会减少遮挡误判的发生。
本实施例,可以利用连续帧的空域信息和时域信息确定图像中的遮挡区域,能够确定更准确的遮挡区域。不管是基于单个图像帧的车辆检测模型,还是基于连续图像帧的车辆检测模型,其应用于智能驾驶系统中,均能提升智能驾驶系统的稳定性和安全性。
当遮挡检测模型根据单帧的样本图像训练得到时,在采用该遮挡检测模型检测连续帧之前,可以对该遮挡检测模型进行以下相应处理,配置特征提取层分别提取各个图像帧的子特征图,并确定各个子特征图的平均值,将该平均值作为特征图输入图像分割层。这样无需重新训练基于连续帧的遮挡检测模型,能够提高处理效率。
在本发明的另一实施例中,基于上述实施例,当根据遮挡区域确定待检测图像为被遮挡图像时,还可以根据属于被遮挡图像的待检测图像的信息,确定车载相机的镜头被遮挡的信息。
其中,待检测图像的信息可以包括待检测图像的采集时刻和/或待检测图像对应的车辆定位位置。具体的,可以根据待检测图像的采集时刻和/或车辆定位位置,确定车载相机的镜头被遮挡的时刻和/或位置。
在实时检测情况下,当存在连续多个待检测图像均属于被遮挡图像时,还可以确定车载相机在该连续多个待检测图像对应的时间段内被遮挡了。此时,可以发出镜头被遮挡的通知消息。
图7为本发明实施例提供的车载终端的一种结构示意图。该车载终端包括:处理器710和配置有定焦镜头的车载相机720;处理器710包括:图像获取模块、遮挡检测模块和遮挡确定模块(图中未示出)。
图像获取模块,用于获取车载相机720采集的待检测图像;
遮挡检测模块,用于通过遮挡检测模型中的特征提取层,提取待检测图像的特征图;通过遮挡检测模型中的图像分割层,基于特征图确定待检测图像中的遮挡区域;其中,遮挡检测模型使得待检测图像与其中的遮挡区域相关联;遮挡检测模型为根据采集的多个样本图像采用深度学习算法预先训练得到;样本图像为配置有定焦镜头的车载相机拍摄的图像,样本图像包括:镜头被部分遮挡或全部遮挡时车载相机拍摄的图像;
遮挡确定模块,用于根据遮挡区域确定待检测图像的遮挡结果。
在本发明的另一实施例中,基于图7所示实施例,遮挡检测模型采用以下操作训练得到:
获取多个样本图像和对应的标注信息;其中,样本图像包括:包含遮挡区域的多个正样本图像和不包含遮挡区域的多个负样本图像;正样本图像的标注信息包含遮挡区域,负样本图像的标注信息不包含遮挡区域;
将样本图像输入遮挡检测模型;
通过特征提取层的模型参数,提取样本图像的样本特征图;通过图像分割层,基于样本特征图确定样本图像中的参考遮挡区域;
确定参考遮挡区域与对应的标注信息之间的差异;
当差异大于预设差异阈值时,根据差异修改模型参数,返回执行将样本图像输入遮挡检测模型的操作;
当差异不大于预设差异阈值时,确定遮挡检测模型训练完成。
在本发明的另一实施例中,基于图7所示实施例,待检测图像为单帧图像。遮挡确定模块,具体用于:
确定遮挡区域在待检测图像中占的比例;
当比例大于预设阈值时,确定待检测图像为被遮挡图像;其中,预设阈值为根据经验值确定。
在本发明的另一实施例中,基于图7所示实施例,待检测图像为连续的多个图像帧;
遮挡检测模块,通过遮挡检测模型中的特征提取层,提取待检测图像的特征图时,包括:
通过遮挡检测模型中的特征提取层,提取各个图像帧的子特征图,并对各个图像帧的子特征图进行均值处理,得到待检测图像的特征图。
在本发明的另一实施例中,基于图7所示实施例,遮挡确定模块还用于:
当根据遮挡区域确定待检测图像为被遮挡图像时,根据属于被遮挡图像的待检测图像的信息,确定车载相机的镜头被遮挡的信息。
在本发明的另一实施例中,基于图7所示实施例各个样本图像包含以下种类中的至少一种:
各个样本图像的采集时刻处于不同时间段;
各个样本图像采集时的天气状况不同;
各个样本图像采集时的道路场景不同。
该终端实施例与图1所示方法实施例是基于同一发明构思得到的实施例,相关之处可以相互参照。上述终端实施例与方法实施例相对应,与该方法实施例具有同样的技术效果,具体说明参见方法实施例。
本领域普通技术人员可以理解:附图只是一个实施例的示意图,附图中的模块或流程并不一定是实施本发明所必须的。
本领域普通技术人员可以理解:实施例中的装置中的模块可以按照实施例描述分布于实施例的装置中,也可以进行相应变化位于不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。
Claims (10)
1.一种图像遮挡检测方法,其特征在于,包括:
获取配置有定焦镜头的车载相机采集的待检测图像;
通过遮挡检测模型中的特征提取层,提取所述待检测图像的特征图;通过所述遮挡检测模型中的图像分割层,基于所述特征图确定所述待检测图像中的遮挡区域;其中,所述遮挡检测模型使得所述待检测图像与其中的遮挡区域相关联;所述遮挡检测模型为根据采集的多个样本图像采用深度学习算法预先训练得到;所述样本图像为配置有定焦镜头的车载相机采集的图像,所述样本图像包括:镜头被部分遮挡或全部遮挡时车载相机拍摄的图像;
根据所述遮挡区域确定所述待检测图像的遮挡结果;
其中,当所述遮挡检测模型是根据单帧的样本图像训练得到时,在采用该遮挡检测模型检测连续的多个图像帧之前,对所述遮挡检测模型进行以下相应处理:
配置所述特征提取层分别提取各个图像帧的子特征图,并确定各个子特征图的平均值,并将该平均值作为特征图输入图像分割层。
2.如权利要求1所述的方法,其特征在于,所述遮挡检测模型采用以下方式训练得到:
获取多个样本图像和对应的标注信息;其中,所述样本图像包括:包含遮挡区域的多个正样本图像和不包含遮挡区域的多个负样本图像;所述正样本图像的标注信息包含遮挡区域,所述负样本图像的标注信息不包含遮挡区域;
将所述样本图像输入遮挡检测模型;
通过所述特征提取层的模型参数,提取所述样本图像的样本特征图;通过所述图像分割层,基于所述样本特征图确定所述样本图像中的参考遮挡区域;
确定所述参考遮挡区域与对应的标注信息之间的差异;
当所述差异大于预设差异阈值时,根据所述差异修改所述模型参数,返回执行所述将所述样本图像输入遮挡检测模型的步骤;
当所述差异不大于所述预设差异阈值时,确定所述遮挡检测模型训练完成。
3.如权利要求1所述的方法,其特征在于,所述待检测图像为单帧图像;所述根据所述遮挡区域确定所述待检测图像的遮挡结果的步骤,包括:
确定所述遮挡区域在所述待检测图像中占的比例;
当所述比例大于预设阈值时,确定所述待检测图像为被遮挡图像;其中,所述预设阈值为根据经验值确定。
4.如权利要求1所述的方法,其特征在于,所述待检测图像为连续的多个图像帧;
所述通过遮挡检测模型中的特征提取层,提取所述待检测图像的特征图的步骤,包括:
通过遮挡检测模型中的特征提取层,提取各个图像帧的子特征图,并对各个图像帧的子特征图进行均值处理,得到所述待检测图像的特征图。
5.如权利要求1所述的方法,其特征在于,当根据所述遮挡区域确定所述待检测图像为被遮挡图像时,所述方法还包括:
根据属于被遮挡图像的待检测图像的信息,确定所述车载相机的镜头被遮挡的信息。
6.如权利要求1~5任一项所述的方法,其特征在于,各个样本图像包含以下种类中的至少一种:
各个样本图像的采集时刻处于不同时间段;
各个样本图像采集时的天气状况不同;
各个样本图像采集时的道路场景不同。
7.一种车载终端,其特征在于,包括:处理器和配置有定焦镜头的车载相机;所述处理器包括:
图像获取模块,用于获取所述车载相机采集的待检测图像;
遮挡检测模块,用于通过遮挡检测模型中的特征提取层,提取所述待检测图像的特征图;通过所述遮挡检测模型中的图像分割层,基于所述特征图确定所述待检测图像中的遮挡区域;其中,所述遮挡检测模型使得所述待检测图像与其中的遮挡区域相关联;所述遮挡检测模型为根据采集的多个样本图像采用深度学习算法预先训练得到;所述样本图像为配置有定焦镜头的车载相机拍摄的图像,所述样本图像包括:镜头被部分遮挡或全部遮挡时车载相机拍摄的图像;
遮挡确定模块,用于根据所述遮挡区域确定所述待检测图像的遮挡结果;
其中,当所述遮挡检测模型是根据单帧的样本图像训练得到时,在采用该遮挡检测模型检测连续的多个图像帧之前,对所述遮挡检测模型进行以下相应处理:
配置所述特征提取层分别提取各个图像帧的子特征图,并确定各个子特征图的平均值,并将该平均值作为特征图输入图像分割层。
8.如权利要求7所述的车载终端,其特征在于,所述遮挡检测模型采用以下操作训练得到:
获取多个样本图像和对应的标注信息;其中,所述样本图像包括:包含遮挡区域的多个正样本图像和不包含遮挡区域的多个负样本图像;所述正样本图像的标注信息包含遮挡区域,所述负样本图像的标注信息不包含遮挡区域;
将所述样本图像输入遮挡检测模型;
通过所述特征提取层的模型参数,提取所述样本图像的样本特征图;通过所述图像分割层,基于所述样本特征图确定所述样本图像中的参考遮挡区域;
确定所述参考遮挡区域与对应的标注信息之间的差异;
当所述差异大于预设差异阈值时,根据所述差异修改所述模型参数,返回执行所述将所述样本图像输入遮挡检测模型的操作;
当所述差异不大于所述预设差异阈值时,确定所述遮挡检测模型训练完成。
9.如权利要求7所述的车载终端,其特征在于,所述待检测图像为单帧图像;所述遮挡确定模块,具体用于:
确定所述遮挡区域在所述待检测图像中占的比例;
当所述比例大于预设阈值时,确定所述待检测图像为被遮挡图像;其中,所述预设阈值为根据经验值确定。
10.如权利要求7所述的车载终端,其特征在于,所述待检测图像为连续的多个图像帧;
所述遮挡检测模块,通过遮挡检测模型中的特征提取层,提取所述待检测图像的特征图时,包括:
通过遮挡检测模型中的特征提取层,提取各个图像帧的子特征图,并对各个图像帧的子特征图进行均值处理,得到所述待检测图像的特征图。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910813082.4A CN112446246B (zh) | 2019-08-30 | 2019-08-30 | 一种图像遮挡检测方法及车载终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910813082.4A CN112446246B (zh) | 2019-08-30 | 2019-08-30 | 一种图像遮挡检测方法及车载终端 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112446246A CN112446246A (zh) | 2021-03-05 |
CN112446246B true CN112446246B (zh) | 2022-06-21 |
Family
ID=74742089
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910813082.4A Active CN112446246B (zh) | 2019-08-30 | 2019-08-30 | 一种图像遮挡检测方法及车载终端 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112446246B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022198508A1 (zh) * | 2021-03-24 | 2022-09-29 | 深圳市大疆创新科技有限公司 | 镜头异常提示方法、装置、可移动平台及可读存储介质 |
CN113229767B (zh) * | 2021-04-12 | 2022-08-19 | 佛山市顺德区美的洗涤电器制造有限公司 | 用于处理图像的方法、处理器、控制装置及家用电器 |
CN113313189A (zh) * | 2021-06-11 | 2021-08-27 | 上海高德威智能交通系统有限公司 | 一种遮挡检测方法、装置及电子设备 |
CN114596541B (zh) * | 2022-02-08 | 2022-11-08 | 星河智联汽车科技有限公司 | 一种获取前车视野的方法、装置、设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102509119A (zh) * | 2011-09-30 | 2012-06-20 | 北京航空航天大学 | 一种基于分类器的图像场景分层与对象遮挡处理方法 |
CN105975925A (zh) * | 2016-05-03 | 2016-09-28 | 电子科技大学 | 基于联合检测模型的部分遮挡行人检测方法 |
CN107909065A (zh) * | 2017-12-29 | 2018-04-13 | 百度在线网络技术(北京)有限公司 | 用于检测人脸遮挡的方法及装置 |
CN108710885A (zh) * | 2018-03-29 | 2018-10-26 | 百度在线网络技术(北京)有限公司 | 目标对象的检测方法和装置 |
CN109635723A (zh) * | 2018-12-11 | 2019-04-16 | 讯飞智元信息科技有限公司 | 一种遮挡检测方法及装置 |
CN109840918A (zh) * | 2017-11-27 | 2019-06-04 | 郑州大学 | 一种人体检测方法及系统 |
-
2019
- 2019-08-30 CN CN201910813082.4A patent/CN112446246B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102509119A (zh) * | 2011-09-30 | 2012-06-20 | 北京航空航天大学 | 一种基于分类器的图像场景分层与对象遮挡处理方法 |
CN105975925A (zh) * | 2016-05-03 | 2016-09-28 | 电子科技大学 | 基于联合检测模型的部分遮挡行人检测方法 |
CN109840918A (zh) * | 2017-11-27 | 2019-06-04 | 郑州大学 | 一种人体检测方法及系统 |
CN107909065A (zh) * | 2017-12-29 | 2018-04-13 | 百度在线网络技术(北京)有限公司 | 用于检测人脸遮挡的方法及装置 |
CN108710885A (zh) * | 2018-03-29 | 2018-10-26 | 百度在线网络技术(北京)有限公司 | 目标对象的检测方法和装置 |
CN109635723A (zh) * | 2018-12-11 | 2019-04-16 | 讯飞智元信息科技有限公司 | 一种遮挡检测方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN112446246A (zh) | 2021-03-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112446246B (zh) | 一种图像遮挡检测方法及车载终端 | |
US8457360B2 (en) | Detection of vehicles in an image | |
CN110544211B (zh) | 一种镜头付着物的检测方法、系统、终端和存储介质 | |
CN112800860B (zh) | 一种事件相机和视觉相机协同的高速抛撒物检测方法和系统 | |
CN103093198B (zh) | 一种人群密度监测方法及装置 | |
CN110415544B (zh) | 一种灾害天气预警方法及汽车ar-hud系统 | |
CN109711256B (zh) | 一种低空复杂背景无人机目标检测方法 | |
CN111932596B (zh) | 摄像头遮挡区域的检测方法、装置、设备和存储介质 | |
Cord et al. | Towards rain detection through use of in-vehicle multipurpose cameras | |
CN107346547B (zh) | 基于单目平台的实时前景提取方法及装置 | |
Li et al. | Photo-realistic simulation of road scene for data-driven methods in bad weather | |
CN106339657A (zh) | 基于监控视频的秸秆焚烧监测方法、装置 | |
CN111967396A (zh) | 障碍物检测的处理方法、装置、设备及存储介质 | |
CN111881832A (zh) | 车道目标检测方法、装置、设备及计算机可读存储介质 | |
Einecke et al. | Detection of camera artifacts from camera images | |
CN115100469A (zh) | 一种基于分割算法的目标属性识别方法、训练方法和装置 | |
CN111753610A (zh) | 天气识别方法及装置 | |
Brophy et al. | A review of the impact of rain on camera-based perception in automated driving systems | |
Dong et al. | Adaptive Object Detection and Visibility Improvement in Foggy Image. | |
CN117294818A (zh) | 一种用于机场施工的工地全景监控方法 | |
Kim | Detection of traffic signs based on eigen-color model and saliency model in driver assistance systems | |
CN112861676A (zh) | 一种烟火识别标记方法、系统、终端及存储介质 | |
JP7264428B2 (ja) | 道路標識認識装置及びそのプログラム | |
CN115965934A (zh) | 一种停车位检测方法及装置 | |
CN115601538A (zh) | 目标检测方法及目标检测器、系统和介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20211125 Address after: 215100 floor 23, Tiancheng Times Business Plaza, No. 58, qinglonggang Road, high speed rail new town, Xiangcheng District, Suzhou, Jiangsu Province Applicant after: MOMENTA (SUZHOU) TECHNOLOGY Co.,Ltd. Address before: Room 601-a32, Tiancheng information building, No. 88, South Tiancheng Road, high speed rail new town, Xiangcheng District, Suzhou City, Jiangsu Province Applicant before: MOMENTA (SUZHOU) TECHNOLOGY Co.,Ltd. |
|
TA01 | Transfer of patent application right | ||
GR01 | Patent grant | ||
GR01 | Patent grant |