WO2023184460A1 - 一种失焦检测方法以及相关装置 - Google Patents
一种失焦检测方法以及相关装置 Download PDFInfo
- Publication number
- WO2023184460A1 WO2023184460A1 PCT/CN2022/084701 CN2022084701W WO2023184460A1 WO 2023184460 A1 WO2023184460 A1 WO 2023184460A1 CN 2022084701 W CN2022084701 W CN 2022084701W WO 2023184460 A1 WO2023184460 A1 WO 2023184460A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- clarity
- focus
- camera module
- target image
- value
- Prior art date
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 135
- 238000000034 method Methods 0.000 claims description 100
- 238000009825 accumulation Methods 0.000 claims description 43
- 238000012545 processing Methods 0.000 claims description 31
- 230000008859 change Effects 0.000 claims description 26
- 230000015654 memory Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 description 36
- 238000010586 diagram Methods 0.000 description 19
- 238000004364 calculation method Methods 0.000 description 15
- 230000004044 response Effects 0.000 description 12
- 238000004891 communication Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 8
- 230000002159 abnormal effect Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 230000001186 cumulative effect Effects 0.000 description 4
- 230000008447 perception Effects 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 230000032683 aging Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000005856 abnormality Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000013441 quality evaluation Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
Abstract
本申请提供了一种失焦检测方法以及相关装置,应用于自动驾驶领域,本申请中,根据摄像头模组获取目标图像后,可以基于目标图像判断天气情况,此外,还可以确定目标图像的清晰程度,进而,可以基于天气情况和目标图像的清晰程度确定摄像头模组是否失焦。该摄像头模组可以安装在车辆上。本申请提供的失焦检测方法可以根据天气情况以及图像清晰度两个维度来判断摄像头模组是否失焦,提升了判断摄像头模组是否失焦的准确性,减少了误检的频率。
Description
本申请实施例涉及自动驾驶领域,尤其涉及一种失焦检测方法以及相关装置。
通常,为了实现自动驾驶,车辆集成有摄像头模组。车辆日常行驶过程中,摄像头模组中包括的镜头会由于物理碰撞、器件老化等因素导致摄像头模组失焦。摄像头模组失焦会对自动驾驶功能的正常运行造成极大影响。如何判断摄像头模组是否失焦是确保车辆能够安全驾驶的基础。
传统的失焦检测技术中,首先可以根据图像的基础信息计算图像得分,图像得分可以反映图像的清晰程度。图像得分通常可以通过计算图像对比度、进行小波变化统计特征、训练质量评价模型等多种方式得到。其中,计算图像对比度是通过对比度的变化直观的判断图像清晰度变化。进行小波变化的方法是对全图进行小波变化,统计变化后的特征判断图像质量是否下降。基于质量判断模型深度学习等方法是直接通过质量判断模型对图像进行评分。
然而,仅根据图像质量清晰度来判断摄像头模组是否失焦时,由于评价维度较为单一,导致得出的结果准确性较差,造成摄像头的误检。
发明内容
本申请提供了一种失焦检测方法以及相关装置。本申请可以根据天气情况以及图像清晰度两个维度来判断摄像头模组是否失焦,提升了判断摄像头模组是否失焦的准确性,降低了误检的频率。
本申请第一方面提供了一种失焦检测方法,该方法包括:根据摄像头模组获取目标图像;基于所述目标图像判断天气情况;确定所述目标图像的清晰程度;基于所述天气情况和所述目标图像的清晰程度确定所述摄像头模组是否失焦。
本申请中,根据摄像头模组获取目标图像后,可以基于目标图像判断天气情况,此外,还可以确定目标图像的清晰程度。进而,可以基于天气情况和目标图像的清晰程度确定摄像头模组是否失焦。本申请提供的失焦检测方法可以根据天气情况以及图像清晰度两个维度来判断摄像头模组是否失焦,提升了判断摄像头模组是否失焦的准确性,减少了误检的频率。
在第一方面的一种可能的实现方式中,所述基于所述天气情况和所述目标图像的清晰程度确定所述摄像头模组是否失焦,包括:确定所述天气情况为非恶劣天气;则根据所述目标图像的清晰程度确定所述摄像头模组是否失焦。
该种可能的实现方式中,先确认终端行驶过程中处于非恶劣天气状态下,再通过目标图像的清晰程度来判断摄像头模组是否失焦,可以排除恶劣天气对于摄像头模组失焦检测的干扰。可选的,也可以是先判断图像的清晰程度,若图像的清晰程度低,则判断是否处 于非恶劣天气,若处于非恶劣天气,则认为摄像头模组失焦。可选的,也可以同时判断图像的清晰程度和是否处于非恶劣天气情况下,若图像清晰程度低,且处于非恶劣天气情况下,可以认为摄像头模组失焦。可以理解的是,恶劣天气可以是雨天、雾天、下雪天等天气情况,非恶劣天气可以是指晴天等天气情况。
在第一方面的一种可能的实现方式中,所述则根据所述目标图像的清晰程度确定所述摄像头模组是否失焦,包括:获取清晰度分数,所述清晰度分数用于表示所述目标图像的清晰程度;确定所述清晰度分数小于第一阈值;则确定所述摄像头模组失焦。
在第一方面的一种可能的实现方式中,所述方法还包括:确定镜头上是否存在遮挡,所述摄像头模组包括所述镜头;所述基于所述天气情况和所述目标图像的清晰程度确定所述摄像头模组是否失焦,包括:基于所述天气情况、所述目标图像的清晰程度以及所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
该种可能的实现方式中,在确定摄像头模组是否失焦时,还需要确定摄像头模组所包括的镜头上是否存在遮挡。进而,根据天气情况、目标图像的清晰程度以及镜头上是否存在遮挡来确定摄像头模组是否失焦。可以防止镜头被遮挡时,对于摄像头模组是否失焦得出的结果不准确,从而发出错误的失焦告警。可选的,可以是先判断天气情况,再基于目标图像的清晰程度以及镜头上是否存在遮挡来确定摄像头模组是否失焦。也可以是先确定目标图像的清晰程度以及镜头上是否存在遮挡,再确定天气情况来确定摄像头模组是否失焦。也可以是同时确定天气情况、目标图像的清晰程度以及镜头上是否存在遮挡进而确定摄像头模组是否失焦,具体的执行顺序此处不做限定。
在第一方面的一种可能的实现方式中,所述基于所述天气情况、所述目标图像的清晰程度以及所述镜头上是否存在遮挡确定所述摄像头模组是否失焦,包括:确定所述天气情况为非恶劣天气;则根据所述目标图像的清晰程度和所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
该种可能的实现方式中,在确定摄像头模组是否失焦时,首先确定天气情况为非恶劣天气,排除天气情况对失焦检测的干扰后,再确定图像的清晰程度和镜头上是否存在遮挡,从而确定摄像头模组是否失焦。若确定天气情况为恶劣天气时,则认为天气情况会对摄像头模组是否失焦的判定产生干扰,则无需继续确定图像的清晰程度和镜头是否被遮挡,减少了开销。可以理解的是,根据目标图像的清晰程度和镜头上是否存在遮挡确定摄像头模组是否失焦时,可以是同时确定目标图像的清晰程度和镜头上是否存在遮挡。可以是先确定目标图像的清晰程度,再确定镜头上是否存在遮挡。也可以是先确定镜头上是否存在遮挡,再确定目标图像的清晰程度,具体的执行顺序此处不做限定。
在第一方面的一种可能的实现方式中,所述方法还包括:确定终端设备的行驶速度和/或图像信号处理(image singal process,ISP)标志位;基于所述天气情况、所述目标图像的清晰程度以及所述镜头上是否存在遮挡确定所述摄像头模组是否失焦,包括:基于所述天气情况、所述目标图像的清晰程度、所述镜头上是否存在遮挡以及所述行驶速度和/或ISP标志位确定所述摄像头模组是否失焦。
该种可能的实现方式中,还可以确定终端设备的行驶速度和/或图像信号处理ISP标志 位,进而,根据天气情况、目标图像的清晰程度、镜头上是否存在遮挡以及行驶速度和/或ISP标志位确定摄像头模组是否失焦。可以防止终端设备的行驶速度过低和/或ISP标志位为错误时,对于摄像头模组是否失焦得出的结果不准确,从而发出错误的失焦告警。可选的,可以是先确定终端设备的行驶速度和/或图像信号处理ISP标志位,再确定天气情况,再基于目标图像的清晰程度以及镜头上是否存在遮挡来确定摄像头模组是否失焦。也可以是先确定天气情况,再确定终端设备的行驶速度和/或图像信号处理ISP标志位,再基于目标图像的清晰程度以及镜头上是否存在遮挡来确定摄像头模组是否失焦。也可以是先目标图像的清晰程度以及镜头上是否存在遮挡,再确定终端设备的行驶速度和/或图像信号处理ISP标志位,再确定天气情况,进而确定摄像头模组是否失焦。此外,还可以是其他的执行顺序,具体此处不做限定。
在第一方面的一种可能的实现方式中,所述基于所述天气情况、所述目标图像的清晰程度、所述目标图像中多帧图像的变化程度以及所述行驶速度和/或ISP标志位确定所述摄像头模组是否失焦,包括:确定终端设备的行驶速度大于第一阈值和/或ISP标志位为真;确定所述天气情况为非恶劣天气;则根据所述目标图像的清晰程度和所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
该种可能的实现方式中,先确定终端设备的行驶速度大于第一阈值和/或ISP标志位为真,可以在车速达到一定速度和/或ISP传输质量较高时才进行失焦检测。车速小时,可以认为行车安全隐患并不突出,无需检测车载镜头是否失焦,以降低检测工作量。而ISP标志位为真时,排除了图像过曝、过暗、颜色失真等异常场景,确保获取的目标图像的质量符合要求时再进行失焦检测。
在第一方面的一种可能的实现方式中,确定所述天气情况为非恶劣天气,包括:获取目标值,所述目标值用于表示所述目标图像在色调饱和度明度(hue,Saturation,value HSV)颜色空间中饱和度与明度的比值;确定所述目标值小于第一阈值;确定所述天气情况为非恶劣天气。
该种可能的实现方式中,提供了一种确认天气情况的具体实施方式,提升了方案的可实现性。
在第一方面的一种可能的实现方式中,则根据所述目标图像的清晰程度和所述镜头上是否存在遮挡确定所述摄像头模组是否失焦,包括:确定第一队列的值大于第二阈值,且第二队列的值大于第三阈值,所述第一队列的值用于表示图像的清晰程度,所述第二队列的值用于表示所述镜头的遮挡程度;增加告警累积队列的值;确定所述告警累积队列的值超过第四阈值;确定所述摄像头模组失焦。
该种可能的实现方式中,表示图像清晰程度的第一队列的值大于第二阈值,且表示镜头遮挡程度的第二队列的值大于第三阈值时,才会增加告警队列的值。告警队列的值大于第四阈值,确定摄像头模组失焦。通过告警累积的方式确定摄像头模组是否失焦,可以过滤目标图像中的噪声产生的影响,提高失焦检测的准确率。
在第一方面的一种可能的实现方式中,所述方法还包括:获取所述目标图像中行驶元素的置信度值,所述行驶元素包括人、车辆、车道线、和/或交通标识;确定所述置信度 值大于第五阈值;将所述告警累积队列的值清零。
该种可能的实现方式中,若确定目标图像中行驶元素的置信度的值大于第五阈值,则可以认为摄像头模组获取到的目标图像符合自动驾驶的需求,可以确定摄像头模组并未失焦,因此可以将告警队列的值清零。该种可能的实现方式可以根据不同情况清零告警累积,或者,调节告警累积判断阈值,可以降低误检率,增加失焦检测的灵活性。
在第一方面的一种可能的实现方式中,所述方法还包括:确定目标时段内所述告警队列的值未增加;将所述告警累积队列的值清零。
该种可能的实现方式中,目标时段内,告警队列的值未增加,则可以确认摄像头模组并未失焦。由此,可以将告警队列的值清零。
本申请第二方面提供了一种失焦检测装置,该失焦检测装置包括至少一个处理器、存储器和通信接口。处理器与存储器和通信接口耦合。存储器用于存储指令,处理器用于执行该指令,通信接口用于在处理器的控制下与其他网络设备进行通信。该指令在被处理器执行时,使得所述终端设备执行上述第一方面或第一方面的任意可能的实现方式中的方法。
本申请第三方面提供了一种计算机可读存储介质,该计算机可读存储介质存储有程序,该程序使得终端设备执行上述第一方面或第一方面的任意可能的实现方式中的方法。
本申请第四方面提供了一种存储一个或多个计算机执行指令的计算机程序产品,当所述计算机执行指令被所述处理器执行时,所述处理器执行上述第一方面或第一方面任意一种可能实现方式的方法。
本申请第五方面提供了一种芯片,该芯片包括处理器和通信接口,所述处理器与所述通信接口耦合,所述处理器用于读取指令执行上述第一方面或第一方面任意一种可能实现方式的方法。
本申请第六方面一种网络系统,该网络系统包括失焦检测装置,失焦检测装置上可以执行上述第一方面或第一方面任意一种可能实现方式中所述的方法。
图1为本申请提供的一种失焦检测方法的应用场景示意图;
图2为本申请提供的一种失焦检测方法的另一种应用场景示意图;
图3为本申请提供的一种失焦检测方法的一种方法示例示意图;
图4为本申请提供的一种LBP计算过程示意图;
图5为本申请提供的一种场景变化系数的一种计算示意图;
图6为本申请提供的当前帧图像和二值图像示意图;
图7为本申请提供的一种告警累积队列的一种计算示意图;
图8为本申请提供的一种感知检测结果对比图;
图9为本申请提供的一种失焦检测方法的另一种应用场景示意图;
图10为本申请提供的一种终端设备的结构示意图;
图11为本申请提供的一种终端设备的另一种结构示意图。
下面结合附图,对本申请提供的示例进行描述,显然,所描述的示例仅仅是本申请一部分的示例,而不是全部的示例。本领域普通技术人员可知,随着技术的发展和新场景的出现,本申请提供的技术方案对于类似的技术问题,同样适用。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的示例能够以除了在这里图示或描述的内容以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
本申请中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况,其中A,B可以是单数或者复数。并且,在本申请的描述中,除非另有说明,“多个”是指两个或多于两个。“以下至少一项(个)”或其类似表达,是指的这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b,或c中的至少一项(个),可以表示:a,b,c,a-b,a-c,b-c,或a-b-c,其中a,b,c可以是单个,也可以是多个。
通常,为了实现自动驾驶,车辆集成有摄像头模组。车辆日常行驶过程中,摄像头模组中包括的镜头会由于物理碰撞、器件老化等因素导致摄像头模组失焦。摄像头模组失焦会对自动驾驶功能的正常运行造成极大影响。如何判断摄像头模组是否失焦是确保车辆能够安全驾驶的基础。
传统的失焦判断技术中,首先可以根据图像的基础信息计算图像得分,图像得分可以反映图像的清晰程度。图像得分通常可以通过计算图像对比度、进行小波变化统计特征、训练质量评价模型等多种方式得到。其中,计算图像对比度是通过对比度的变化直观的判断图像清晰度变化。进行小波变化的方法是对全图进行小波变化,统计变化后的特征判断图像质量是否下降。基于质量判断模型深度学习等方法是直接通过质量判断模型对图像进行评分。
然而,仅根据图像质量清晰度来判断摄像头模组是否失焦时,由于评价维度较为单一,导致得出的结果准确性较差,误检较为频繁,造成摄像头的误检。
为了解决上述方案中存在的问题,本申请提供了一种失焦检测方法和失焦检测装置。本申请可以根据天气情况以及图像清晰度两个维度来判断摄像头模组是否失焦,提升了判断摄像头模组是否失焦的准确性,降低了误检的频率。
下面首先介绍本申请提供的一种失焦检测方法的应用场景。
图1为本申请提供的一种失焦检测方法的应用场景的示意图。
请参阅图1,可选的,本申请提供的一种失焦检测方法的应用场景中,可以包括终端设备101,终端设备101可以是集成有摄像头模组的设备,例如车辆、机器人、船只、无人机、手机等。当摄像头模组的镜头由于器件老化、物理碰撞等因素发生失焦离焦,即可 通过本申请提供的方法进行及时判断并告警做出后续响应。
具体的,终端设备101根据摄像头模组获取目标图像后,终端设备101可以基于目标图像判断天气情况,此外,终端设备101还可以确定目标图像的清晰程度。进而,终端设备101可以基于天气情况和目标图像的清晰程度确定摄像头模组是否失焦。此外,可选的,终端设备还可以基于天气情况、目标图像的清晰程度、目标图像中多帧图像的变化程度确定摄像头模组是否失焦。可选的,终端设备还可以基于天气情况、目标图像的清晰程度、目标图像中多帧图像的变化程度以及行驶速度和/或ISP标志位确定摄像头模组是否失焦。本申请提供的失焦检测方法中包括的多种实现方式均可以应用于该场景下,具体此处不做限定。
图2为本申请提供的另一种失焦检测方法的应用场景的示意图。
请参阅图2,可选的,本申请提供的网络系统还可以包括终端设备101和服务器102。
具体的,终端设备101根据摄像头模组获取目标图像后,可以将目标图像传输至服务器102。服务器102可以基于目标图像判断天气情况。此外,服务器102还可以确定目标图像的清晰程度。进而,服务器102可以基于天气情况和目标图像的清晰程度确定摄像头模组是否失焦,将失焦检测的结果传输至终端设备101。此外,可选的,服务器102还可以基于天气情况、目标图像的清晰程度、目标图像中多帧图像的变化程度确定摄像头模组是否失焦。可选的,服务器102还可以基于天气情况、目标图像的清晰程度、目标图像中多帧图像的变化程度以及行驶速度和/或ISP标志位确定摄像头模组是否失焦。本申请提供的失焦检测方法中包括的多种实现方式均可以应用于该场景下,具体此处不做限定。
可选的,本申请提供的网络系统中除了包括终端设备和服务器之外,还可以包括其他设备,具体此处不做限定。
本申请中,网络系统根据摄像头模组获取目标图像后,可以基于目标图像判断天气情况,此外,还可以确定目标图像的清晰程度。进而,可以基于天气情况和目标图像的清晰程度确定摄像头模组是否失焦。本申请提供的网络系统可以根据天气情况以及图像清晰度两个维度来判断摄像头模组是否失焦,提升了判断摄像头模组是否失焦的准确性,减少了误检的频率。
基于图1和图2所描述的网络系统,对本申请提供的失焦检测方法进行介绍。
图3为本申请提供的一种失焦检测方法的示意图。
请参阅图3,本申请提供的失焦检测方法的一个示例包括步骤201至步骤204。下面,结合图3来说明本申请提供的失焦检测方法。
201、根据摄像头模组获取目标图像。
本申请中,摄像头模组包括镜头,目标图像用于表示摄像头模组包括的镜头采集到的图像。可选的,若终端设备处于运动状态,则目标图像为运动状态下摄像头模组通过镜头采集到的多帧图像。若终端设备处于静止状态,则目标图像为静止状态下摄像头模组通过镜头采集到的一帧或多帧图像,具体此处不做限定。
202、基于目标图像判断天气情况。
本申请中,恶劣天气会导致成像模糊,对失焦检测产生较大影响。因此,为了防止恶 劣天气对于失焦检测流程的干扰,可以根据目标图像判断天气状况,防止恶劣天气影响失焦检测的结果。可以根据目标图像来确定是否处于恶劣天气情况下,若是,则认为失焦检测流程有可能受到天气情况的影响而导致检测结果不准确,终端设备可以退出镜头检测流程。若不是,则认为镜头检测流程不会收到天气情况的影响,可以继续检测镜头是否失焦。
本申请中,天气情况的判断的方法包括多种方法,例如能见度计算方法,还可以是其他判断方法,具体此处不做限定。示例性的,以判断是否处于大雾天气下为例进行说明,首先,可以获取当前帧(FrameCur),将当前帧转换到HSV颜色空间下。由于大雾天气下图像中雾状的成像具有相对浅的灰色,因此它往往具有较大的V值。所以,在HSV空间内,大雾天气下的V/S会很大。因此可以将S和V的比值定义为一个特征值,用来判断是否为大雾天气。当该特征值超过阈值条件时,则认为处于大雾天气下,认为大雾天气状况会对失焦检测造成影响,即可以终止失焦检测流程。可以理解的是,阈值条件的值可以根据需求进行设定,具体此处不做限定。
203、确定目标图像的清晰程度。
本申请中,还可以确定目标图像的清晰程度,目标图像的清晰程度是检测摄像头模组是否失焦的一个重要参数。
本申请中,目标图像中包括当前帧图像(FrameCur),对当前帧图像进行处理,计算得到当前帧图像的清晰度分数(SharpnessScore)。清晰度分数可以表示目标图像的清晰程度。计算清晰度分数的方式有多种,可选的,可以采用laplace变化结果的方差、均值、SVD、LBP等运算综合得到的清晰度分数。还可以采用其他方式计算得到清晰度分数,还可以通过其他的方式来计算清晰度分数,具体此处不做限定。
204、基于天气情况和目标图像的清晰程度确定摄像头模组是否失焦。
本申请中,根据摄像头模组获取目标图像后,可以基于目标图像判断天气情况,此外,还可以确定目标图像的清晰程度。进而,可以基于天气情况和目标图像的清晰程度确定摄像头模组是否失焦。本申请提供的失焦检测方法可以根据天气情况以及图像清晰度两个维度来判断摄像头模组是否失焦,提升了判断摄像头模组是否失焦的准确性,减少了误检的频率。
上述方法示例结合图3介绍了本申请提供的一种失焦检测方法,本申请中,上述步骤204具有具体的实现方式,该种具体的实现方式将在下面的示例中进行详细说明。下面结合附图详细介绍本申请提供的失焦检测方法。
本申请中,基于天气情况和目标图像的清晰程度确定摄像头模组是否失焦时,需要判断天气状况是否为非恶劣天气,以及,目标图像的清晰程度是否超过设定阈值。若判断天气状况为恶劣天气,为了防止恶劣天气对于失焦检测准确性的影响,则可以终止失焦检测。若确定天气状况为非恶劣天气,且目标图像的清晰程度高,则可以确定摄像头模组并未失焦。若确定天气状况为非恶劣天气,且目标图像的清晰程度低,则可以确定摄像头模组失焦。
下面详细介绍步骤的执行顺序以及执行过程。
可选的,可以先确认终端行驶过程中的天气情况,若天气状况为恶劣天气则终止失焦 检测,若天气状况为非恶劣天气,再通过目标图像的清晰程度来判断摄像头模组是否失焦。该种实现方式可以排除恶劣天气对于摄像头模组失焦检测的干扰。
可选的,也可以是先判断图像的清晰程度,若图像清晰程度高,则终止失焦检测流程,若图像的清晰程度低,则判断是否处于非恶劣天气,若处于非恶劣天气,则认为摄像头模组失焦。
可选的,也可以同时判断图像的清晰程度和是否处于非恶劣天气情况下,若图像清晰程度低,且处于非恶劣天气情况下,可以认为摄像头模组失焦。
本申请中,对具体步骤的执行顺序不做限定。此外,可以理解的是,恶劣天气可以是雨天、雾天、下雪天等天气情况,非恶劣天气可以是指晴天等天气情况。
上述方法示例介绍了如何基于天气情况和目标图像的清晰程度确定摄像头模组是否失焦。本申请中,上述示例提及的根据目标图像的清晰程度确定摄像头模组是否失焦具有具体的实现方式,该种具体的实现方式将在下面的示例中进行详细说明。
首先,获取清晰度分数,清晰度分数用于表示目标图像的清晰程度。
示例性的,目标图像中包括当前帧图像,对当前帧图像I(x,y)与Laplace卷积核H(x,y)做卷积,卷积核尺寸根据实际需求选择,得到laplace结果G(x,y)。
G(x,y)=I(x,y)*H(x,y)
其中,卷积核H(x,y)可以为一个二维矩阵,卷积核尺寸可根据实际需求选择,比如可以为3*3(即3乘以3)如下式
计算G(x,y)的方差和绝对值均值,得到laplace方差(Var_laplace)和laplace均值(mean_laplace)。越模糊的图像得到的Var_laplace和mean_laplace数值越小,借助这两值能得到图像的边界响应程度。
图4为本申请提供的一种LBP计算过程示意图。
请参阅图4,计算类LBP响应分数,首先将I(x,y)每个像素点与8领域的像素值做比较,两者绝对值差异超过阈值Thr_1,则填入1。将8领域的比较结果展开,比较数值1的数目,若数目大于Thr_2,则将该像素点标记为强响应点。统计展开结果0到1,1到0的变化次数,变化次数超过Thr_3的则将该像素点标记为强响应点。上述两个条件都不满足则将该像素点标记为弱响应点。
统计图像强响应点数目(Num_Strong)和图像总像素数目(Num_Sum)。计算类LBP响应分数D。越模糊纹理越稀疏的图像类LBP响应分数越低。
三者计算完成后,对三者做加权和得到清晰置信度。a、b、c分别为各自加权系数,N为根据图像尺寸定点的常数值,计算清晰置信度的公式如下所示。
其中,SCORE是清晰度置信度,用于表征图像的模糊程度、纹理丰富程度等特征。D为类LBP响应分数,a为D的加权系数;var_laplace为Laplace方差,b为Laplace方差的加权系数;mean_laplace为Laplace均值,c为Laplace均值的加权系数;N为常数值,N与图像ROI的尺寸相关。
类LBP响应分数越小,图像模糊程度越大;Laplace均值越小,图像模糊程度越大;Laplace方差越小,图像模糊程度越大。那么,当类LBP响应分数、Laplace均值以及Laplace方差均较小,通常失焦置信度较大,代表图像模糊程度较高。
通过多个维度下的特征计算得到的清晰度分数能很好地判断图像是否清晰,是后续失焦判断的重要判据。
上述清晰度分数的计算方式仅用于示例性说明如何确定图像的清晰程度,可选的,本申请提供的失焦检测方法还可以采用其他的方式来计算清晰度分数,具体此处不做限定。
然后,确定所述清晰度分数小于第一阈值,则认为图像的清晰程度低,则可以确定所述摄像头模组失焦。若确定所述清晰度分数大于第一阈值,则认为图像的清晰程度高,则可以确定所述摄像头模组未失焦。
上述方法示例介绍了如何根据目标图像的清晰程度确定摄像头模组是否失焦的具体实现方式。本申请提供的失焦检测方法除了可以包括步骤201至步骤204之外,还可以确定镜头上是否存在遮挡,进而,基于天气情况、目标图像的清晰程度以及镜头上是否存在遮挡确定摄像头模组是否失焦。该种具体的实现方式将在下面的示例中进行详细说明。
确定镜头上是否存在遮挡,摄像头模组包括镜头。
本申请中,可选的,可以通过场景变化系数来确定镜头上是否存在遮挡。以防止镜头被遮挡后影响失焦检测的结果,提升了失焦检测的准确性。若确定场景变化系数大于设定阈值,则认为镜头上存在遮挡。反之,若确定场景变化系数小于设定阈值,则认为镜头上未存在遮挡。下面示例性地介绍一种场景变化系数的计算方式。
图5为本申请提供的一种场景变化系数的一种计算示意图。
301、获取距离当前帧图像的N1帧历史帧图像(FrameHistory)。
本申请中,N1为正整数,N1大于或等于2。当前帧图像为镜头在当前时刻所采集到的图像。历史帧图像为当前时刻之前镜头所采集到的图像。
示例性的,摄像头模组实时采集图像时,处理器实时获取当前帧图像,同时会保存N1帧历史帧图像,共得到N1+1帧图像。N1+1帧包括N1个历史帧图像和当前帧图像。
302、将历史帧(FrameHistory)和当前帧(FrameCur)进行帧间差分运算,得到帧差图像(FrameSub)。
本申请中,帧差图像为对镜头拍摄的第一图像和第二图像进行差分运算得到的图像。帧差图像可以表示两帧图像之间的差异。假设第一图像和第二图像之间的帧间隔为N,N为正整数。由于第一图像、第二图像均不是背景图,意味着,本申请中,无需对镜头拍摄的图像进行背景建模操作。
本申请中,对当前帧图像和历史帧图像进行帧间差分运算,指的是对当前帧的灰度图像和历史帧的灰度图像进行差分运算,当然,还可以采用其他方式获取帧差图像,具体此 处不做限定。若帧差图像是由灰度图像之间的差分运算得到,则需要先分别将当前帧图像和历史帧图像转换为各自对应的灰度图像,再对当前帧的灰度图像和历史帧的灰度图像进行差分运算。
示例性的,可以通过将当前帧图像转换的灰度图像和历史帧图像转换的灰度图像中对应位置(即坐标相同)的像素点相减,以实现对当前帧图像转换的的灰度图像和历史帧图像转换的灰度图像进行帧间差分。此外,还可以通过其他帧间差分方式来得到帧差图像,具体此处不做限定。
303、对帧差图像(FrameSub)进行阈值化,得到二值图像(FrameBinary)。
图6为本申请提供的当前帧图像和二值图像示意图。
请参阅图6,本申请中,帧差图像表示当前帧图像和历史帧图像之间的差异,那么,帧差图像中像素值大于一定阈值的像素点即为当前帧和历史帧之间变化较大的像素点。
示例性的,可以通过如下方式对帧差图像进行阈值化。设定一个二值化阈值,对于帧差图像中像素值或灰度值大于该二值化阈值的像素,将该像素的像素值或灰度值设置为第一像素值,比如置0,即置为黑色。对于帧差图像中像素值或灰度值小于或等于该二值化阈值的像素,将该像素的像素值或灰度值设置为第二像素值,比如置255,即置为白色。也就意味着,将帧差图像中变化较大的像素点置为黑色,反之,将帧差图像中变化较小的像素点置为白色,得到二值图像。可以理解的是,上述二值化阈值的值可以根据需求进行设定,具体此处不做限定。
304、获取二值图像的最大连通域面积。
本申请中,检测二值图像(FrameBinary)的目标连通域,即具有相同像素值且位置相邻(或称邻接)的像素点组成的区域。通常,在不同的邻接关系下,连通域可能不同,主要以四邻接和八邻接为主。本申请不限制邻接的方式,连通域的位置可以用坐标来表示。比如,可用连通域的左上角像素的坐标(x,y)表示该连通域的位置。连通域的大小可以用长h、宽w表示或像素点数目表示。
遍历连通域结果,找到面积最大的连通域,通过如下公式得到归一化面积(Area)。
Area=MaxROIArea/WholeArea
本申请中,当镜头存在遮挡时,会长期存在前后像素点亮度变化小的区域。通过判断帧差后二值化结果的最大连通域面积可一定程度上反应镜头是否存在大面积遮挡。
305、计算历史帧(FrameHistory)和当前帧(FrameCur)的互相关系数(NCCScore)。
本申请中,互相关系数即图像相关系数用于表示历史帧和当前帧的相关程度。计算过程如下:
上述公式中,m×n表示窗口大小,f表示比较图像1,t表示比较图像2。当镜头被遮挡时,当前帧图像与历史帧图像的整体画面变化较小,则NCC则会接近1.0,借助NCCScore能进一步辅助判断镜头是否被遮挡。
306、基于互相关系数(NCCScore)和归一化面积(Area)得到场景变化系数(ScenenVarCoef)。
本申请中,计算场景变化系数的过程如下述公式所示:
ScenenVarCoef=α*NCCScore+β*Area
其中,α和β是两者相加为1系数,由该式可发现场景变化系数越大则镜头被遮挡的概率越大。
基于天气情况、目标图像的清晰程度以及镜头上是否存在遮挡确定摄像头模组是否失焦。
本申请中,基于天气情况、目标图像的清晰程度以及镜头上是否存在遮挡确定摄像头模组是否失焦时,需要判断天气状况是否为非恶劣天气,目标图像的清晰程度是否超过设定阈值,以及,镜头上是否存在遮挡。若判断天气状况为恶劣天气,为了防止恶劣天气对于失焦检测准确性的影响,则可以终止失焦检测。若判断镜头上存在遮挡,为了防止镜头被遮挡对于失焦检测准确性的影响,则可以终止失焦检测。若确定天气状况为非恶劣天气,且镜头上未存在遮挡,且目标图像的清晰程度高,则可以确定摄像头模组并未失焦。若确定天气状况为非恶劣天气,且镜头上未存在遮挡,且目标图像的清晰程度低,则可以确定摄像头模组失焦。
下面详细介绍步骤的执行顺序以及执行过程。
可选的,可以先确认天气情况,若天气状况为恶劣天气则终止失焦检测,若天气状况为非恶劣天气,再通过镜头是否被遮挡、目标图像的清晰程度来判断摄像头模组是否失焦。该种实现方式可以排除恶劣天气对于摄像头模组失焦检测的干扰。
可选的,也可以是先判断镜头是否被遮挡,若镜头被遮挡则终止失焦检测流程。若镜头未被遮挡、处于非恶劣天气、图像的清晰程度低,则确定摄像头模组失焦。若镜头未被遮挡、处于非恶劣天气、图像的清晰程度高,则确定摄像头模组未失焦。
可选的,也可以同时判断天气情况、镜头是否被遮挡,以及图像的清晰程度,具体此处不做限定。
可选的,本申请提供的失焦检测方法还可以采用其他的执行顺序,具体此处不做限定。
上述方法示例说明了如何确定镜头上是否存在遮挡,进而,基于天气情况、目标图像的清晰程度以及镜头上是否存在遮挡确定摄像头模组是否失焦。下面结合具体的例子,示 例性介绍基于目标图像的清晰程度以及镜头上是否存在遮挡确定摄像头模组是否失焦这一过程。
本申请中,确定第一队列的值大于第二阈值,且第二队列的值大于第三阈值,第一队列的值用于表示图像的清晰程度,第二队列的值用于表示所述镜头的遮挡程度。增加告警累积队列的值。确定所述告警累积队列的值超过第四阈值,确定所述摄像头模组失焦下面示例性介绍这一过程。
图7为本申请提供的一种告警累积队列的一种计算示意图。
401、确定场景变化系数是否大于阈值B。
本申请中,若场景变化系数ScenenVarCoef大于阈值B,则对第一队列,即场景变化累积队列ScenenVarQueue送入1或α2*ScenenVarCoef换算得到的系数,α2为0到1可变系数。否则场景变化累积队列ScenenVarQueue送入0。场景变化累积队列的累积结果会用于后续的判断。
402、确定清晰度分数是否大于阈值C。
本申请中,判断清晰度分数是否满足阈值C。若满足阈值C则向第二队列,即清晰度累积队列SharpnessQueue写入1或清晰度分数。若不满足阈值C则写入0,清晰度累积队列的累积结果会用于后续的判断。
403、记录告警累积队列。
本申请中,若确定第一队列的值大于阈值D,即场景变化累积队列的值大于阈值D,且第二队列的值大于阈值E,即清晰度累积队列大于阈值E,则向告警累积队列送入1。若告警累积队列的值大于阈值F,上报失焦告警,提醒对摄像头模组进行检查和干预。
上述方法示例说明了基于目标图像的清晰程度以及镜头上是否存在遮挡确定摄像头模组是否失焦这一过程。本申请提供的失焦检测方法除了可以包括步骤201至步骤204之外,还可以确定终端设备的行驶速度和/或图像信号处理ISP标志位,进而,基于天气情况、目标图像的清晰程度、镜头上是否存在遮挡以及所述行驶速度和/或ISP标志位确定摄像头模组是否失焦。该种具体的实现方式将在下面的示例中进行详细说明。
确定终端设备的行驶速度和/或图像信号处理ISP标志位。
本申请中,可选的,可以获取终端设备的行驶速度,当确定终端设备的行驶速度大于第一阈值时,可以确定终端设备处于运动状态,以便检测摄像头模组是否失焦。
本申请中,以终端设备是汽车为例进行说明,若车速较小,未达到第一阈值时,行车安全隐患可能并不突出,或者说,对车载镜头的性能要求不高。这种场景下,可以确定为非运动场景,可以不必检测车载镜头是否失焦,以降低检测工作量。
本申请中,可选的,可以获取ISP标志位,确定ISP标志位的值为真,则认为目标图像的采集质量高,以便得到准确的失焦检测结果。
本申请中,ISP标志位的值用于表示目标图像的采集质量。ISP标志位为假时,往往意味着摄像头模组包括的镜头采集的目标图像可能存在过曝、过暗、颜色失真等现象,即采集的图像并不能准确的反映被拍摄物体的状态。这样一来,由于镜头采集到的目标图像不准确,也就无法基于该目标图像准确判断出摄像头模组是否发生了失焦。即便能对摄像头模组进行失焦检测,得出的检测结果也是不准确的。这种情况下,由于难以根据不准确 的目标图像判断摄像头模组是否真实发生了失焦,则不对摄像头模组是否失焦进行检测。而ISP标志位为真时,排除了目标图像产生过曝、过暗、颜色失真等异常情况,确保获取的目标图像的质量符合要求时再进行失焦检测,提升了失焦检测的准确性。
基于所述天气情况、所述目标图像的清晰程度、所述镜头上是否存在遮挡以及所述行驶速度和/或ISP标志位确定所述摄像头模组是否失焦。
本申请中,还可以确定终端设备的行驶速度和/或图像信号处理ISP标志位,进而,根据天气情况、目标图像的清晰程度、镜头上是否存在遮挡以及行驶速度和/或ISP标志位确定摄像头模组是否失焦。可以防止终端设备的行驶速度过低和/或ISP标志位为错误时,对于摄像头模组是否失焦得出的结果不准确,从而发出错误的失焦告警。
本申请中,根据天气情况、目标图像的清晰程度、镜头上是否存在遮挡以及行驶速度和/或ISP标志位确定摄像头模组是否失焦时,需要判断天气状况是否为非恶劣天气,目标图像的清晰程度是否超过设定阈值,镜头上是否存在遮挡,以及,行驶速度是否超过第一阈值和/或ISP标志位是否为真。确认行驶速度未超过第一阈值,或者,ISP标志位为错误,则可以终止失焦检测流程。确认行驶速度未超过第一阈值,且,ISP标志位为真,天气状况为非恶劣天气,镜头未存在遮挡,图像清晰度低时,则可以认为摄像头模组失焦。确认行驶速度未超过第一阈值,且,ISP标志位为真,天气状况为非恶劣天气,镜头未存在遮挡,图像清晰度高时,则可以认为摄像头模组未失焦。
下面详细介绍步骤的执行顺序以及执行过程。
本申请中,可选的,可以是先确定终端设备的行驶速度和/或图像信号处理ISP标志位,再确定天气情况,再基于目标图像的清晰程度以及镜头上是否存在遮挡来确定摄像头模组是否失焦。也可以是先确定天气情况,再确定终端设备的行驶速度和/或图像信号处理ISP标志位,再基于目标图像的清晰程度以及镜头上是否存在遮挡来确定摄像头模组是否失焦。也可以是先目标图像的清晰程度以及镜头上是否存在遮挡,再确定终端设备的行驶速度和/或图像信号处理ISP标志位,再确定天气情况,进而确定摄像头模组是否失焦。此外,还可以是其他的执行顺序,具体此处不做限定。
上述方法示例说明了基于天气情况、目标图像的清晰程度、镜头上是否存在遮挡以及所述行驶速度和/或ISP标志位确定摄像头模组是否失焦这一过程。本申请提供的失焦检测方法除了可以包括步骤201至步骤204之外,还可以根据行驶元素的置信度值调整告警累积队列的值。该种具体的实现方式将在下面的示例中进行详细说明。
本申请中,获取目标图像中行驶元素的置信度值,其中,行驶元素包括人、车辆、车道线、和/或交通标识,若确定所述置信度值大于第五阈值,则将所述告警累积队列的值清零。下面将示例性的说明这一过程。
本申请中,可选的,还可以获取目标图像中行驶元素的置信度值,行驶元素包括人、车辆、车道线、和/或交通标识。检测行驶元素的置信度值,可以是进行人车检测、车道线检测、交通标识检测、语义分割、目标深度检测等,还可以是进行其他类型的检测,具体此处不做限定。当识别出高置信度的人、车、车道线和/或交通标识等目标时,则意味着目标图像的成像失焦的可能性较低。
若确定目标图像中行驶元素的置信度队列的值大于阈值J,则可以认为摄像头模组获取到的目标图像符合自动驾驶的需求,可以确定摄像头模组并未失焦,因此可以将告警队列的值清零。该种可能的实现方式可以根据不同情况清零告警累积,或者,调节告警累积判断阈值,可以降低误检率,增加失焦检测的灵活性。
示例性的,下面举例说明一种目标置信度的综合统计方式。
本申请中,以统计人、车和交通标示等行驶元素为例,人、车、交通标志这些大的模块可以分别进行统计。
首先统计人、车检测结果。统计方式如下:
对不同距离段内的目标分别统计,比如可按0-50米划分为一段50-100米划分为一段,100-150米划分为一段等。
统计每个距离段内的目标中置信度最高的Ki个目标,对这些目标的置信度进行累加,置信度值的范围为0-1的浮点数,可能包含-1等异常值或其他异常状态。当出现异常状态时按0.0进行统计。不同距离段的Ki在设置方面可以有所不同。当该距离段内的目标的总数小于Ki时则只统计Ki个目标。此外,会为不同距离段的目标的置信度累积赋予不同的权重。比如0-50米内的目标累积赋予λ1,具体计算过程请参阅如下公式。
对最后累积所有距离段结果进行累加,得到人、车的感知检测结果分数(ObjConfPedCar),具体计算过程请参阅如下公式。
ObjConfPedCar=∑ObjConfPedCar
i
本申请中,对于交通标识的统计与人、车的感知检测结果的统计原理相类似,总的检测分数就是综合所有的检测模块结果,因为在各个距离段处已经有乘以系数,此处相加无需各个模块的单独乘以各自系数,具体计算过程请参阅如下公式。
ObjConf=ObjConfPedCar+ObjConfTsr+…
本申请中,此处仅以使用人、车、交通标识的检测结果为例来说明置信度值的计算过程,可选的,理论上还可加入深度检测(freespace)技术,车道线结果只需按规则进行拓展。该种计算方式中,同样可以分多个距离段进行检测,也可以只保留一个距离段,比如只统计50米内目标或所有距离目标一起累加计算等。可选的,还可以采用其他方式来计算置信度值,具体此处不做限定。
图8为本申请提供的一种感知检测结果对比图。
请参阅图8,计算得到的置信度值(ObjConf)反应了是否可以正常检测到目标,目标结果是否稳定等,一定程度上从侧面反应了当前摄像头模组的工作状态是否正常。所以借助该值与相应的阈值条件判断,可以辅助我们进行失焦检测。
本申请中,由当前帧图像计算得到的置信度值(ObjConf)与预定的阈值G相比较,如果大于阈值H,则一定程度上证明摄像头模组工作正常,则累积计数+1,否则累积计数清零。当累积计数大于阈值I,则上报至告警累积状态机,说明摄像头模组工作正常,对告 警累积队列的结果进行清零。
上述情况是摄像头模组正常工作的情况。当摄像头模组异常或离焦时,置信度值的检测结果也会出现异常。各个距离段的目标置信度会明显降低甚至大量出现无效值。此时的置信度值(ObjConf)数值较低,因此设定一个阈值K来与置信度值进行比较,类似前面的判断流程,若置信度分数小于阈值K,则累积计数+1,否则计数清零。若累积计数大于阈值L,则上报给失焦告警状态机,对失焦累积告警阈值进行调整。此时已通过感知结果判断出镜头可能存在异常,通过降低失焦累积阈值加速失焦检测判断过程,降低检测判断总时长,降低由于摄像头模组异常产生的风险。
上述方法示例说明了根据行驶元素的置信度值调整告警累积队列的值这一过程。本申请提供的失焦检测方法除了可以包括步骤201至步骤204之外,还可以通过判断告警累积队列存在的时间来调整告警累积队列的值。本申请中,可选的,目标时段内,确认告警队列的值未增加,则可以确认摄像头模组并未失焦。由此,可以将告警队列的值清零。
图9为本申请提供的一种失焦检测方法的另一种应用场景示意图。
本申请中,可选的,先确定ISP标志位,若标志位为真,则确定终端设备的行驶速度是否大于阈值A。若确定行驶速度大于阈值A,可以确定天气情况是否为非恶劣天气。确定天气情况为非恶劣天气后,确定场景变化系数大于阈值B,则第一队列的值加一。确定场清晰度分数大于阈值C,则第二队列的值加一。确认第一队列和第二队列的值分别大于设定阈值D、E,则增加告警队列的值,告警队列的值超过设定阈值F以后,便发出失焦告警。此外,确认行驶元素的置信度值高于阈值J后,便可将告警队列清零。
根据摄像头模组获取目标图像后,可以基于目标图像判断天气情况,此外,还可以确定目标图像的清晰程度。进而,可以基于天气情况和目标图像的清晰程度确定摄像头模组是否失焦。本申请提供的失焦检测方法可以根据天气情况以及图像清晰度两个维度来判断摄像头模组是否失焦,提升了判断摄像头模组是否失焦的准确性,减少了误检的频率。
上述示例提供了一种失焦检测方法的不同的实施方式,下面提供了一种失焦检测装置60,如图10所示,该失焦检测装置60用于执行上述示例中涉及的失焦检测方法,该执行步骤以及相应的有益效果具体请参照上述相应的示例进行理解,此处不再赘述,包括:
获取单元601,用于根据摄像头模组获取目标图像;
判断单元602,用于基于所述目标图像判断天气情况;
确定单元603用于:
确定所述目标图像的清晰程度;
基于所述天气情况和所述目标图像的清晰程度确定所述摄像头模组是否失焦。
一种可能的实现方式中,
所述确定单元603用于:
确定所述天气情况为非恶劣天气;
则根据所述目标图像的清晰程度确定所述摄像头模组是否失焦。
一种可能的实现方式中,
所述获取单元601,用于获取清晰度分数,所述清晰度分数用于表示所述目标图像的 清晰程度;
所述确定单元603用于:
确定所述清晰度分数小于第一阈值;
则确定所述摄像头模组失焦。
一种可能的实现方式中,
所述确定单元603还用于:
确定镜头上是否存在遮挡,所述摄像头模组包括所述镜头;
基于所述天气情况、所述目标图像的清晰程度以及所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
一种可能的实现方式中,
所述确定单元603用于:
确定所述天气情况为非恶劣天气;
则根据所述目标图像的清晰程度和所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
一种可能的实现方式中,
所述确定单元603还用于:
确定终端设备的行驶速度和/或图像信号处理ISP标志位;
基于所述天气情况、所述目标图像的清晰程度、所述镜头上是否存在遮挡以及所述行驶速度和/或ISP标志位确定所述摄像头模组是否失焦。
一种可能的实现方式中,
所述确定单元603用于:
确定终端设备的行驶速度大于第一阈值和/或ISP标志位为真;
确定所述天气情况为非恶劣天气;
则根据所述目标图像的清晰程度和所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
一种可能的实现方式中,
所述获取单元601,用于获取目标值,所述目标值用于表示所述目标图像在HSV颜色空间中饱和度与明度的比值;
所述确定单元603用于:
确定所述目标值小于第一阈值;
确定所述天气情况为非恶劣天气。
一种可能的实现方式中,
所述确定单元603用于:
确定第一队列的值大于第二阈值,且第二队列的值大于第三阈值,所述第一队列的值用于表示图像的清晰程度,所述第二队列的值用于表示所述镜头的遮挡程度;
增加告警累积队列的值;
确定所述告警累积队列的值超过第四阈值;
确定所述摄像头模组失焦。
一种可能的实现方式中,
所述获取单元601,还用于获取所述目标图像中行驶元素的置信度值,所述行驶元素包括人、车辆、车道线、和/或交通标识;
所述确定单元603,还用于确定所述置信度值大于第五阈值;
清除单元,还用于将所述告警累积队列的值清零。
一种可能的实现方式中,
所述确定单元603,还用于确定目标时段内所述告警队列的值未增加;
清除单元,还用于将所述告警累积队列的值清零。
本申请中,该失焦检测装置60可以是一种芯片,可以是一种计算机存储介质,还可以是其他装置,具体此处不做限定。
需要说明的是,上述失焦检测装置60的各模块之间的信息交互、执行过程等内容,由于与本申请方法示例基于同一构思,其执行步骤与上述方法步骤的详细内容一致,可参见上述方法示例处的描述。
本申请还提供一种装置700,该装700可以是终端设备也可以是芯片。该装置700可以用于执行上述方法示例中包括的步骤201至步骤204。当该装置700为终端设备时,图11示出了一种简化的终端设备的结构示意图。便于理解和图示方便,图11中,终端设备以汽车作为例子。如图11所示,终端设备包括处理器、存储器、射频电路、天线以及输入输出装置。处理器主要用于对通信协议以及通信数据进行处理,以及对终端设备进行控制,执行软件程序,处理软件程序的数据等。存储器主要用于存储软件程序和数据。射频电路主要用于基带信号与射频信号的转换以及对射频信号的处理。天线主要用于收发电磁波形式的射频信号。输入输出装置,例如触摸屏、显示屏,键盘等主要用于接收用户输入的数据以及对用户输出数据。需要说明的是,有些种类的终端设备可以不具有输入输出装置。
当需要发送数据时,处理器对待发送的数据进行基带处理后,输出基带信号至射频电路,射频电路将基带信号进行射频处理后将射频信号通过天线以电磁波的形式向外发送。当有数据发送到终端设备时,射频电路通过天线接收到射频信号,将射频信号转换为基带信号,并将基带信号输出至处理器,处理器将基带信号转换为数据并对该数据进行处理。为便于说明,图11中仅示出了一个存储器和处理器,在实际的终端设备产品中,可以存在一个或多个处理器和一个或多个存储器。存储器也可以称为存储介质或者存储设备等。存储器可以是独立于处理器设置,也可以是与处理器集成在一起,本申请实施例对此不做限制。
在本申请实施例中,可以将具有收发功能的天线和射频电路视为终端设备的收发单元,将具有处理功能的处理器视为终端设备的处理单元。
终端设备包括收发单元701和处理单元702。收发单元701也可以称为收发器、收发机、收发装置等。处理单元702也可以称为处理器,处理单板,处理模块、处理装置等。
可选地,可以将收发单元701中用于实现接收功能的器件视为接收单元,将收发单元 701中用于实现发送功能的器件视为发送单元,即收发单元701包括接收单元和发送单元。收发单元有时也可以称为收发机、收发器、或收发电路等。接收单元有时也可以称为接收机、接收器、或接收电路等。发送单元有时也可以称为发射机、发射器或者发射电路等。
例如,在一种实现方式中,收发单元701用于执行终端设备的接收操作。处理单元702用于执行终端设备侧的处理动作。
应理解,图11仅为示例而非限定,上述包括收发单元和处理单元的终端设备可以不依赖于图11所示的结构。
当该装置500为芯片时,该芯片包括收发单元和处理单元。其中,收发单元可以是输入/输出电路或通信接口;处理单元可以为该芯片上集成的处理器或者微处理器或者集成电路。输入电路可以为输入管脚,输出电路可以为输出管脚,处理电路可以为晶体管、门电路、触发器和各种逻辑电路等。输入电路所接收的输入的信号可以是由例如但不限于接收器接收并输入的,输出电路所输出的信号可以是例如但不限于输出给发射器并由发射器发射的,且输入电路和输出电路可以是不同的电路,也可以是同一电路,这种情况下该电路在不同的时刻分别用作输入电路和输出电路。
需要说明的是,上述实施例提供的设备500的各模块之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其带来的技术效果与本发明方法实施例相同,具体内容可参见本申请前述所示的方法实施例中的叙述,此处不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述示例中的对应过程,在此不再赘述。
在本申请所提供的几个示例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置示例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本示例的目的。
另外,在本申请各个示例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个示例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,read-only memory)、随机存取存储器(RAM,random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,不同的示例可以进行组合,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何组合、修改、等同替换、改进等,均应包含在本发明的保护范围之内。以上所述,以上示例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述示例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各示例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各示例技术方案的范围。
Claims (26)
- 一种失焦检测方法,其特征在于,包括:根据摄像头模组获取目标图像;基于所述目标图像判断天气情况;确定所述目标图像的清晰程度;基于所述天气情况和所述目标图像的清晰程度确定所述摄像头模组是否失焦。
- 根据权利要求1所述的失焦检测方法,其特征在于,所述基于所述天气情况和所述目标图像的清晰程度确定所述摄像头模组是否失焦,包括:确定所述天气情况为非恶劣天气;则根据所述目标图像的清晰程度确定所述摄像头模组是否失焦。
- 根据权利要求2所述的失焦检测方法,其特征在于,所述则根据所述目标图像的清晰程度确定所述摄像头模组是否失焦,包括:获取清晰度分数,所述清晰度分数用于表示所述目标图像的清晰程度;确定所述清晰度分数小于第一阈值;则确定所述摄像头模组失焦。
- 根据权利要求1所述的失焦检测方法,其特征在于,所述方法还包括:确定镜头上是否存在遮挡,所述摄像头模组包括所述镜头;所述基于所述天气情况和所述目标图像的清晰程度确定所述摄像头模组是否失焦,包括:基于所述天气情况、所述目标图像的清晰程度以及所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
- 根据权利要求4所述的失焦检测方法,其特征在于,所述基于所述天气情况、所述目标图像的清晰程度以及所述镜头上是否存在遮挡确定所述摄像头模组是否失焦,包括:确定所述天气情况为非恶劣天气;则根据所述目标图像的清晰程度和所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
- 根据权利要求4所述的失焦检测方法,其特征在于,所述方法还包括:确定终端设备的行驶速度和/或图像信号处理ISP标志位;基于所述天气情况、所述目标图像的清晰程度以及所述镜头上是否存在遮挡确定所述摄像头模组是否失焦,包括:基于所述天气情况、所述目标图像的清晰程度、所述镜头上是否存在遮挡以及所述行驶速度和/或ISP标志位确定所述摄像头模组是否失焦。
- 根据权利要求6所述的失焦检测方法,其特征在于,所述基于所述天气情况、所述目标图像的清晰程度、所述目标图像中多帧图像的变化程度以及所述行驶速度和/或ISP标志位确定所述摄像头模组是否失焦,包括:确定终端设备的行驶速度大于第一阈值和/或ISP标志位为真;确定所述天气情况为非恶劣天气;则根据所述目标图像的清晰程度和所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
- 根据权利要求2至7中任意一项所述的失焦检测方法,其特征在于,确定所述天气情况为非恶劣天气,包括:获取目标值,所述目标值用于表示所述目标图像在HSV颜色空间中饱和度与明度的比值;确定所述目标值小于第一阈值;确定所述天气情况为非恶劣天气。
- 根据权利要求5至8中任意一项所述的失焦检测方法,其特征在于,则根据所述目标图像的清晰程度和所述镜头上是否存在遮挡确定所述摄像头模组是否失焦,包括:确定第一队列的值大于第二阈值,且第二队列的值大于第三阈值,所述第一队列的值用于表示图像的清晰程度,所述第二队列的值用于表示所述镜头的遮挡程度;增加告警累积队列的值;确定所述告警累积队列的值超过第四阈值;确定所述摄像头模组失焦。
- 根据权利要求9所述的失焦检测方法,其特征在于,所述方法还包括:获取所述目标图像中行驶元素的置信度值,所述行驶元素包括人、车辆、车道线、和/或交通标识;确定所述置信度值大于第五阈值;将所述告警累积队列的值清零。
- 根据权利要求9或10所述的失焦检测方法,其特征在于,所述方法还包括:确定目标时段内所述告警队列的值未增加;将所述告警累积队列的值清零。
- 一种失焦检测装置,其特征在于,包括:获取单元,用于根据摄像头模组获取目标图像;判断单元,用于基于所述目标图像判断天气情况;确定单元用于:确定所述目标图像的清晰程度;基于所述天气情况和所述目标图像的清晰程度确定所述摄像头模组是否失焦。
- 根据权利要求12述的失焦检测装置,其特征在于,所述确定单元用于:确定所述天气情况为非恶劣天气;则根据所述目标图像的清晰程度确定所述摄像头模组是否失焦。
- 根据权利要求13所述的失焦检测装置,其特征在于,所述获取单元,用于获取清晰度分数,所述清晰度分数用于表示所述目标图像的清晰程度;所述确定单元用于:确定所述清晰度分数小于第一阈值;则确定所述摄像头模组失焦。
- 根据权利要求12所述的失焦检测装置,其特征在于,所述确定单元还用于:确定镜头上是否存在遮挡,所述摄像头模组包括所述镜头;基于所述天气情况、所述目标图像的清晰程度以及所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
- 根据权利要求15所述的失焦检测装置,其特征在于,所述确定单元用于:确定所述天气情况为非恶劣天气;则根据所述目标图像的清晰程度和所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
- 根据权利要求15所述的失焦检测装置,其特征在于,所述确定单元还用于:确定终端设备的行驶速度和/或图像信号处理ISP标志位;基于所述天气情况、所述目标图像的清晰程度、所述镜头上是否存在遮挡以及所述行驶速度和/或ISP标志位确定所述摄像头模组是否失焦。
- 根据权利要求17所述的失焦检测装置,其特征在于,所述确定单元用于:确定终端设备的行驶速度大于第一阈值和/或ISP标志位为真;确定所述天气情况为非恶劣天气;则根据所述目标图像的清晰程度和所述镜头上是否存在遮挡确定所述摄像头模组是否失焦。
- 根据权利要求13至18中任意一项所述失焦检测装置,其特征在于,所述获取单元,用于获取目标值,所述目标值用于表示所述目标图像在HSV颜色空间中饱和度与明度的比值;所述确定单元用于:确定所述目标值小于第一阈值;确定所述天气情况为非恶劣天气。
- 根据权利要求16至19中任意一项所述的失焦检测装置,其特征在于,所述确定单元用于:确定第一队列的值大于第二阈值,且第二队列的值大于第三阈值,所述第一队列的值用于表示图像的清晰程度,所述第二队列的值用于表示所述镜头的遮挡程度;增加告警累积队列的值;确定所述告警累积队列的值超过第四阈值;确定所述摄像头模组失焦。
- 根据权利要求20所述的失焦检测装置,其特征在于,所述获取单元,还用于获取所述目标图像中行驶元素的置信度值,所述行驶元素包括人、车辆、车道线、和/或交通标识;所述确定单元,还用于确定所述置信度值大于第五阈值;清除单元,还用于将所述告警累积队列的值清零。
- 根据权利要求20或21所述的失焦检测装置,其特征在于,所述确定单元,还用于确定目标时段内所述告警队列的值未增加;清除单元,还用于将所述告警累积队列的值清零。
- 一种失焦检测装置,其特征在于,包括:处理器和存储器;所述处理器用于执行所述存储器中存储的指令,使得权利要求1至11中任一项所述的方法被执行。
- 一种终端设备,其特征在于,所述终端设备包括如权利要求12至23中任一项所述的失焦检测装置。
- 一种计算机可读存储介质,用于存储计算机程序,其特征在于,当所述计算机程序在计算机或处理器上执行时,使得权利要求1至11中任一项所述的方法被执行。
- 一种计算机程序产品,其特征在于,当其在计算机或处理器上运行时,使得权利要求1至11中任一项所述的方法被执行。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2022/084701 WO2023184460A1 (zh) | 2022-03-31 | 2022-03-31 | 一种失焦检测方法以及相关装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2022/084701 WO2023184460A1 (zh) | 2022-03-31 | 2022-03-31 | 一种失焦检测方法以及相关装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2023184460A1 true WO2023184460A1 (zh) | 2023-10-05 |
Family
ID=88198807
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/CN2022/084701 WO2023184460A1 (zh) | 2022-03-31 | 2022-03-31 | 一种失焦检测方法以及相关装置 |
Country Status (1)
Country | Link |
---|---|
WO (1) | WO2023184460A1 (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102421008A (zh) * | 2011-12-07 | 2012-04-18 | 浙江捷尚视觉科技有限公司 | 视频质量智能检测系统 |
CN110837800A (zh) * | 2019-11-05 | 2020-02-25 | 畅加风行(苏州)智能科技有限公司 | 一种面向港口恶劣天气的目标检测和识别的方法 |
CN111340749A (zh) * | 2018-12-17 | 2020-06-26 | 顺丰科技有限公司 | 图像质量的检测方法、装置、设备及存储介质 |
CN113343738A (zh) * | 2020-02-17 | 2021-09-03 | 华为技术有限公司 | 检测方法、装置及存储介质 |
CN113487639A (zh) * | 2021-07-14 | 2021-10-08 | 北京金山云网络技术有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
US11170524B1 (en) * | 2019-06-21 | 2021-11-09 | Amazon Technologies, Inc. | Inpainting image feeds of operating vehicles |
-
2022
- 2022-03-31 WO PCT/CN2022/084701 patent/WO2023184460A1/zh unknown
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102421008A (zh) * | 2011-12-07 | 2012-04-18 | 浙江捷尚视觉科技有限公司 | 视频质量智能检测系统 |
CN111340749A (zh) * | 2018-12-17 | 2020-06-26 | 顺丰科技有限公司 | 图像质量的检测方法、装置、设备及存储介质 |
US11170524B1 (en) * | 2019-06-21 | 2021-11-09 | Amazon Technologies, Inc. | Inpainting image feeds of operating vehicles |
CN110837800A (zh) * | 2019-11-05 | 2020-02-25 | 畅加风行(苏州)智能科技有限公司 | 一种面向港口恶劣天气的目标检测和识别的方法 |
CN113343738A (zh) * | 2020-02-17 | 2021-09-03 | 华为技术有限公司 | 检测方法、装置及存储介质 |
CN113487639A (zh) * | 2021-07-14 | 2021-10-08 | 北京金山云网络技术有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP1697901B1 (en) | Method for modeling background and foreground regions | |
US9158985B2 (en) | Method and apparatus for processing image of scene of interest | |
Sen-Ching et al. | Robust techniques for background subtraction in urban traffic video | |
WO2020220663A1 (zh) | 目标检测方法及装置、设备及存储介质 | |
CN111723644A (zh) | 一种监控视频遮挡检测方法及系统 | |
US8311281B2 (en) | Object detection apparatus | |
CN101437113B (zh) | 自适应内核密度估计运动检测装置与方法 | |
CN114022830A (zh) | 一种目标确定方法以及目标确定装置 | |
CN111047908B (zh) | 跨线车辆的检测装置、方法及视频监控设备 | |
CN110415208A (zh) | 一种自适应目标检测方法及其装置、设备、存储介质 | |
CN111144337B (zh) | 火灾检测方法、装置及终端设备 | |
Sankari et al. | Estimation of dynamic background and object detection in noisy visual surveillance | |
CN110619651B (zh) | 一种基于监控视频的行车道路分割方法 | |
CN110910416A (zh) | 运动障碍物跟踪方法、装置及终端设备 | |
CN111460917B (zh) | 基于多模态信息融合的机场异常行为检测系统及方法 | |
Soundrapandiyan et al. | Adaptive pedestrian detection in infrared images using fuzzy enhancement and top-hat transform | |
CN114155278A (zh) | 目标跟踪及相关模型的训练方法和相关装置、设备、介质 | |
Balisavira et al. | Real-time object detection by road plane segmentation technique for ADAS | |
WO2023184460A1 (zh) | 一种失焦检测方法以及相关装置 | |
CN117115451A (zh) | 一种基于时空内容相关性的自适应阈值事件相机去噪方法 | |
CN111881837A (zh) | 基于阴影提取的视频sar运动目标检测方法 | |
US10916016B2 (en) | Image processing apparatus and method and monitoring system | |
CN111027560B (zh) | 文本检测方法以及相关装置 | |
CN114037741A (zh) | 一种基于事件相机的自适应目标检测方法及装置 | |
Lu et al. | A vision-based system for the prevention of car collisions at night |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 22934297 Country of ref document: EP Kind code of ref document: A1 |