CN111507204A - 倒计时信号灯的检测方法、装置、电子设备及存储介质 - Google Patents
倒计时信号灯的检测方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111507204A CN111507204A CN202010230950.9A CN202010230950A CN111507204A CN 111507204 A CN111507204 A CN 111507204A CN 202010230950 A CN202010230950 A CN 202010230950A CN 111507204 A CN111507204 A CN 111507204A
- Authority
- CN
- China
- Prior art keywords
- countdown
- target
- vehicle
- candidate
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000001514 detection method Methods 0.000 claims abstract description 75
- 238000012216 screening Methods 0.000 claims abstract description 42
- 230000015654 memory Effects 0.000 claims description 20
- 239000003086 colorant Substances 0.000 claims description 5
- 238000002372 labelling Methods 0.000 claims description 5
- 238000013178 mathematical model Methods 0.000 claims description 5
- 239000000126 substance Substances 0.000 claims description 2
- 238000012549 training Methods 0.000 description 45
- 238000010586 diagram Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000005286 illumination Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/584—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/02—Recognising information on displays, dials, clocks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/09—Recognition of logos
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
Abstract
本申请公开了一种倒计时信号灯的检测方法、装置、电子设备及存储介质,涉及自动驾驶领域。具体实现方案为:根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及车载相机相对车载组合导航系统的外参以及预设的区域扩充策略,预测倒计时信号灯在车载相机采集的当前帧的图像中的目标感兴趣区域;采用预先训练的倒计时框检测模型,从目标感兴趣区域内检测出N个倒计时候选框;从N个倒计时候选框中筛选目标倒计时框;采用预先训练的倒计时识别模型,识别目标倒计时框中的目标颜色和目标数字。本申请,通过采用上述方案,能够有效地提高倒计时信号灯的检测准确性和检测效率。
Description
技术领域
本申请涉及计算机领域,尤其涉及自动驾驶领域,具体涉及一种倒计时信号灯的检测方法、装置、电子设备及存储介质。
背景技术
在高级驾驶辅助系统(Advanced Driving Assistance System;ADAS)和自动驾驶领域,交通标志是必不可少的需要自动化检测和识别的道路信息。而其中倒计时信号灯又是其中一种重要的交通信号标识,正确的识别倒计时信号灯中的红绿灯的倒计时时间,能够有利于车辆根据时间进行更加准确的行为决策。因此,准确、快速地检测出倒计时信号灯是无人车在自动驾驶过程中的一项重要的技术。
现有的倒计时信号灯在检测方案中,首先采用一定的规则从采集的单帧图像中,进行全图分析,检测出倒计时信号灯的区域。然后再在图像中倒计时信号灯的区域中进行倒计时信号灯的识别。
上述现有的倒计时信号灯的检测方案,需要先对采集到的单帧图像的全图进行分析,而全图分析的过程中,由于图像受环境光照的影响较大,如顺光造成图像偏色、逆光图像成像差、倒计时灯频闪会造成图像黑灯或成像不完全、相机曝光也会导致图像颜色骗色等等,均会严重影响在图像中检测出倒计时信号灯的区域,进而无法准确地检测到倒计时信号灯的颜色和数字,导致倒计时信号灯的检测效率较低。
发明内容
为了解决上述技术问题,本申请提供一种倒计时信号灯的检测方法、装置、电子设备及存储介质,用于提高倒计时信号灯的检测效率。
第一方面,本申请提供一种倒计时信号灯的检测方法,包括:
根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及所述车载相机相对所述车载组合导航系统的外参以及预设的区域扩充策略,预测所述倒计时信号灯在所述车载相机采集的当前帧的图像中的目标感兴趣区域;
采用预先训练的倒计时框检测模型,从所述目标感兴趣区域内检测出N个倒计时候选框,所述N为大于或者等于1的正整数;
从所述N个倒计时候选框中筛选目标倒计时框;
采用预先训练的倒计时识别模型,识别所述目标倒计时框中的目标颜色和目标数字。
第二方面,本申请还提供了一种倒计时信号灯的检测装置,包括:
预测模块,用于根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及所述车载相机相对所述车载组合导航系统的外参以及预设的区域扩充策略,预测所述倒计时信号灯在所述车载相机采集的当前帧的图像中的目标感兴趣区域;
检测模块,用于采用预先训练的倒计时框检测模型,从所述目标感兴趣区域内检测出N个倒计时候选框,所述N为大于或者等于1的正整数;
筛选模块,用于从所述N个倒计时候选框中筛选目标倒计时框;
识别模块,用于采用预先训练的倒计时识别模型,识别所述目标倒计时框中的目标颜色和目标数字。
第三方面,本申请还提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上任一项所述的方法。
第四方面,本申请还提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上任一项所述的方法。
上述申请中的一个实施例具有如下优点或有益效果:通过根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及车载相机相对车载组合导航系统的外参以及预设的区域扩充策略,预测倒计时信号灯在车载相机采集的当前帧的图像中的目标ROI;采用预先训练的倒计时框检测模型,从目标ROI内检测出N个倒计时候选框,N为大于或者等于1的正整数;从N个倒计时候选框中筛选目标倒计时框;采用预先训练的倒计时识别模型,识别目标倒计时框中的目标颜色和目标数字。与现有技术相比,能够避免光照的影响,直接定位到目标ROI,而不用全图检测,能够有效地提高倒计时信号灯的检测准确性和检测效率;而且本申请中,在预测倒计时信号灯在车载相机采集的当前帧的图像中的目标ROI时,还参考预设的区域扩充策略,能够保证目标ROI的覆盖区域足够全面,能够包围倒计时信号灯的所有信息,进一步提高后续倒计时信号灯的检测准确性和检测效率。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请第一实施例的示意图;
图2是根据本申请第二实施例的示意图;
图3是根据本申请第三实施例的示意图;
图4是根据本申请第四实施例的示意图;
图5是用来实现本申请实施例的倒计时信号灯的检测方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本申请第一实施例的示意图;如图1所示,本实施例的倒计时信号灯的检测方法,具体可以包括如下步骤:
S101、根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及车载相机相对车载组合导航系统的外参以及预设的区域扩充策略,预测倒计时信号灯在车载相机采集的当前帧的图像中的目标感兴趣区域(Region OfInterest;ROI);
本实施例的倒计时信号灯的检测方法的执行主体为倒计时信号灯的检测装置,该倒计时信号灯的检测装置设置在无人驾驶车辆或者安装有ADAS的车辆的中控系统内,能够对倒计时信号灯进行检测,并基于检测到的倒计时信号灯中的倒计时时间和颜色进行更加准确的行为决策。
S102、采用预先训练的倒计时框检测模型,从目标ROI内检测出N个倒计时候选框,N为大于或者等于1的正整数;
S103、从N个倒计时候选框中筛选目标倒计时框;
S104、采用预先训练的倒计时识别模型,识别目标倒计时框中的目标颜色和目标数字。
具体地,在步骤S101中,高精地图中可以标注有地图中的每一个道路中的信号灯的世界坐标,如每一个倒计时信号灯的世界坐标,从而可以得知道路中的交通信号灯的四个顶点的3d的地理坐标,即每个顶点的真实地理坐标(x,y,z)。本实施例的车载组合导航系统包括车辆的惯性测量单元(Inertial Measurement Unit;IMU)+全球定位系统(GlobalPositioning System;GPS),其中IMU用于获得角度,GPS用于获得定位。车载组合导航系统的定位信息包括IMU所在的IMU坐标系的原点在地理坐标系下的位置,以及IMU坐标系和地理坐标系之间的相对角度;车载相机的内参用来实现车载相机上的点到车载相机拍摄的图像中的点之间得坐标转换;车载相机相对组合导航系统的外参用来实现车载相机上的点到组合导航系统的坐标系下的点的坐标转换。因此,根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及车载相机相对车载组合导航系统的外参,可以实现基于3d空间中的倒计时信号灯的每个顶点的3d坐标,获取在车载相机采集的当前帧的图像中对应的映射点的坐标,进而基于倒计时信号灯的4个顶点对应的映射点的坐标,获取到图像中倒计时信号灯对应的ROI区域,并参考预设的区域扩充策略,可以预测到该倒计时信号灯在车载相机采集的当前帧的图像中的目标ROI。
本实施例中,获取到目标ROI之后,在步骤S102中,可以采用预先训练的倒计时框检测模型从目标ROI区域中检测出N个倒计时候选框。其中N可以为1、2、或者大于2的其他正整数。本实施例的倒计时框检测模型仅用于从目标ROI区域中找出所有的可能为倒计时框的倒计时候选框。
进一步可选地,在该步骤S102之前,还可以包括采集数条倒计时框的训练数据,每一条训练数据中包括一个训练ROI,以及该训练ROI中标注的N个训练倒计时框;然后采用数条倒计时框的训练数据,训练该倒计时框检测模型。该倒计时框检测模型采用一个神经网络结构来实现。训练时,先为该倒计时框检测模型的参数进行随机初始化,然后将各训练数据中的训练ROI输入至该倒数计时框检测模型中,由该倒计时框检测模型预测该训练ROI中的M个预测倒计时框,然后比较M个预测倒计时框与标注的N个训练倒计时框是否一致,若不一致,对倒计时框检测模型的参数进行调整,使得其预测的倒计时框与标注的倒计时框一致。采用数条倒计时框的训练数据,按照上述方式不断地对倒计时框检测模型进行训练,直至倒计时框检测模型在连续多轮的训练中,预测的倒计时框与标注的倒计时框始终一致,此时训练结束,确定倒计时框检测模型的参数,进而确定倒计时框检测模型。
对于上述步骤S102检测出的N个倒计时候选框。若N等于1,该倒计时候选框即为目标倒计时框,若大多情况下,检测出的倒计时候选框的数量大于1,此时需要根据步骤S103从N个倒计时候选框中筛选出一个,作为目标倒计时框。具体地筛选方式可以根据预先制定的任何规则,在此不做限定,只要能够选出一个作为目标倒计时框即可。
最后,根据步骤S104将筛选的目标倒计时框输入至预先训练的倒计时识别模型中,该倒计时识别模型可以识别出目标倒计时框中的目标颜色和目标数字。
可选地,本实施例的步骤S104采用预先训练的倒计时识别模型,识别目标倒计时框中的目标颜色和目标数字之前,还可以包括:采集数条倒计时识别的训练数据,每条训练数据包括一张训练倒计时框,以及预先标注的该训练倒计时框中的训练颜色和训练数字。训练时,先为倒计时识别模型随机初始化参数,然后将各训练数据中的训练倒计时框输入至倒计时识别模型,该倒计时识别模型输出对训练倒计时框预测的预测颜色和预测数字。然后对比预测颜色是否与标注的真实颜色一致,预测数字是否与标注的真实数字一致,若只要存在至少一个不一致,都对倒计时识别模型的参数进行调整,要使得预测颜色与标注的真实颜色、预测数字与标注的真实数字均一致。采用数条训练数据,按照上述方式,不断地对倒计时识别模型进行训练,直至在连续多轮的训练中,预测颜色与标注的真实颜色、预测数字与标注的真实数字始终一致,此时训练结束,确定倒计时识别模型的参数,进而确定倒计时识别模型。该倒计时识别模型为一神经网络模型。使用时,将获取的目标倒计时框输入至该训练好的倒计时识别模型,该倒计时识别模型便可以输出该目标倒计时框中的目标颜色和目标数字。
本实施例的倒计时信号灯的检测方法,通过根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及车载相机相对车载组合导航系统的外参以及预设的区域扩充策略,预测倒计时信号灯在车载相机采集的当前帧的图像中的目标ROI;采用预先训练的倒计时框检测模型,从目标ROI内检测出N个倒计时候选框,N为大于或者等于1的正整数;从N个倒计时候选框中筛选目标倒计时框;采用预先训练的倒计时识别模型,识别目标倒计时框中的目标颜色和目标数字。与现有技术相比,能够避免光照的影响,直接定位到目标ROI,而不用全图检测,能够有效地提高倒计时信号灯的检测准确性和检测效率;而且本实施例中,在预测倒计时信号灯在车载相机采集的当前帧的图像中的目标ROI时,还参考预设的区域扩充策略,能够保证目标ROI的覆盖区域足够全面,能够包围倒计时信号灯的所有信息,进一步提高后续倒计时信号灯的检测准确性和检测效率。
图2是根据本申请第二实施例的示意图;如图2所示,本实施例在上述图1所示实施例的技术方案的基础上,进一步更加详细地描述本申请的技术方案。如图2所示,本实施例的倒计时信号灯的检测方法,具体可以包括如下步骤:
S201、根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及车载相机相对车载组合导航系统的外参,获取倒计时信号灯在车载相机采集的当前帧的图像中的原始ROI;
S202、根据预设的区域扩充策略,在图像中对原始ROI的范围进行扩充,得到目标ROI;
本实施例的步骤S201和S202为上述图1所示实施例的一种实现方式。
具体地,根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及车载相机相对车载组合导航系统的外参,可以实现地理坐标到图像中的坐标的转换,从而可以获取到倒计时信号灯在车载相机采集的当前帧的图像中的原始ROI。且该过程中存在一定的误差,如高精地图本身存在标注误差、车载组合导航系统也存在精度误差、车载相机本身的内参标定存在误差、以及相机相对组合导航系统的外参标定也存在一定的误差,所以本实施例中直接获取的原始ROI区域也存在一定的误差,可能仅仅包括真实的ROI区域中的一部分,很大程度上是无法直接从中获取到倒计时信号灯的信息。因此,本实施例中,还需要根据预设的区域扩充策略,在图像中对原始ROI的范围进行扩充,以弥补精度带来的误差,得到目标ROI,进而基于目标ROI来获取倒计时灯的信息,能够有效地提高倒计时信号灯的检测效率。
进一步可选地,本实施例的上述步骤S202根据预设的区域扩充策略,在图像中对原始ROI的范围进行扩充,得到目标ROI,具体可以包括如下两种方式:
第一种方式:按照预设的扩充倍数,在图像中对原始ROI的范围进行扩充,得到目标ROI;
例如,可以根据经验来设定一个预设的扩充倍数,如2.0或者2.5倍或者其他倍数,在此不做限定。本实施例的扩充是以原始ROI为基础,在四个方向分别进行扩充,以得到扩充后的目标ROI,能够保证后续目标倒计时框获取的准确性,进而保证倒计时信号灯识别的准确性。
第二种方式:根据高精地图的标注精度、车载组合导航系统的定位精度、车载相机的内参的标定精度和车载相机相对车载组合导航系统的外参的标定精度,在图像中对原始ROI的范围进行扩充,得到目标ROI。
在该种实现方式中,可以根据高精地图的标注精度、车载组合导航系统的定位精度、车载相机的内参的标定精度和车载相机相对车载组合导航系统的外参的标定精度,在图像中对原始ROI的范围进行扩充,以弥补精度不准确导致的误差,从而得到更加准确地目标ROI。
S203、采用预先训练的倒计时框检测模型,从目标ROI内检测出N个倒计时候选框,N为大于或者等于1的正整数;
S204、判断N是否大于1,若不大于1,即等于1,执行步骤S205;否则执行步骤S206;
S205、确定该倒计时候选框即为目标倒计时框;执行步骤S207;
S206、根据各倒计时候选框的置信度、各倒计时候选框的中心离目标ROI的中心的距离、各倒计时候选框的长宽比、各倒计时候选框与原始ROI的面积比中的至少一个从N个倒计时候选框中筛选目标倒计时框;执行步骤S207;
需要说明的是,步骤S203倒计时框检测模型在输出识别的每个倒计时候选框的时候,同时还可以输出该倒计时候选框的置信度。当然需要说明的是,在上述图1所示实施例的该倒计时框检测模型的训练过程中,也需要加入置信度一起进行训练。训练时标注的N个训练倒计时框的置信度均为1,然后按照上述类似的训练方式,进行训练,使得预测的倒计时框的置信度与标注的倒计时框的置信度趋于一致。其余训练原理同上,在此不再赘述。
实际应用中,可以认为越靠近ROI趋于中心的倒计时候选框越有可能为目标倒计时框。同时,由于倒计时信号灯的形状通常为正方形,所以倒计时候选框的长宽比越接近1,越有可能为目标倒计时框。而且原始ROI在一定程度上与倒计时信号灯在图像中的真实投影的尺寸存在一定较为接近,所以,本实施例中,可以设置倒计时候选框与原始ROI的面积比需要大于第一比例阈值,需要小于第二比例阈值,其中第一比例阈值为小于1的一个比例,而第二比例阈值为大于1的一个比例,即表示面积比不能大于1太多,也不能小于1太多,越接近1,越有可能为目标倒计时框。
进一步可选地,该步骤S206,具体可以包括如下任意一种:
(a)根据各倒计时候选框的置信度,从N个倒计时候选框中筛选出置信度最高的倒计时候选框,作为目标倒计时框;
(b)根据各倒计时候选框的中心离目标ROI的中心的距离,从N个倒计时候选框中筛选出距离最小的倒计时候选框,作为目标倒计时框;
(c)根据各倒计时候选框的长宽比,从N个倒计时候选框中筛选出长宽比最接近1的倒计时候选框,作为目标倒计时框;
(d)根据各倒计时候选框与原始ROI的面积比,从N个倒计时候选框中筛选出面积比大于第一比例阈值、小于第二比例阈值、且最接近1的倒计时候选框,作为目标倒计时框;和
(e)对于各倒计时候选框,参考预设的数学模型为对应的置信度、中心离目标ROI的中心的距离、长宽比以及与原始ROI的面积比相应的数值,并配置权重,进行加权求和;从N个倒计时候选框中筛选出加权求和的最大值的倒计时候选框,作为目标倒计时框。
例如,本实施例中可以采用高斯模型拟合各倒计时候选框对应的各种参数的值,例如对于置信度,置信度越接近于1,拟合的数值越大,反之越远离1,拟合的数值越小。对于中心离目标ROI的中心的距离,距离越小,拟合的数值越大,反之距离越大,拟合的数值越小。对于长宽比,越接近于1,拟合的数值越大,反之越偏离1,拟合的数值越小。对于面积比,同理,越接近1拟合的数值越大,反之越偏离1,拟合的数值越小。这样,对于每个参数,可以拟合出来一个数值,然后为每种参数配置权重,所有参数的权重和为1。然后将同一个倒计时候选框对应的各个参数的数值和权重的相乘,并求和,即加权求和,得到一个加权求和值。最后,从N个倒计时候选框中筛选出加权求和的最大值对应的倒计时候选框,作为目标倒计时框。
可选地,实际应用中,高斯模型仅为其中一种选择,还可以是其他线性、指数、对数等等数学模型,在此不再一一举例赘述。
S207、采用预先训练的倒计时识别模型,识别目标倒计时框中的目标颜色和目标数字;执行步骤208;
S208、根据当前帧之前的至少两个连续帧图像中的目标倒计时框中的颜色和数字、以及预先训练的倒计时信息预测模型,预测当前帧的目标倒计时框中的预测颜色和预测数字;执行步骤209;
S209、根据预测颜色和预测数字,对目标颜色和目标数字进行校验。
具体地,本实施例中的倒计时信息预测模型,可以基于采集到的所有的历史数据来进行训练。该倒计时信息预测模型为一个神经网络模型。例如,可以从历史数据中获取多组训练数据,每一组训练数据中包括连续W帧的倒计时信息,每一帧倒计时信息中包括获取到的倒计时信号灯的颜色和数字,其中该W为大于或者等于3的正整数。训练时,先为该倒计时信息预测模型的参数进行随机初始化。训练时,先将各条训练数据中的前W-1帧的倒计时信息为输入数据,由该倒计时信息预测模型基于输入数据预测下一帧的倒计时信息。然后比对预测的下一帧的倒计时信息和训练数据中的下一帧的真实的倒计时信息是否一致,若不一致,调整倒计时信息预测模型的参数,使得两者趋于一致。采用数条训练数据,按照上述方式不断地对倒计时信息预测模型进行训练,直至在连续多轮的训练中,预测的倒计时信息与真实的倒计时信息始终一致,训练结束,确定倒计时信息预测模型的参数,进而确定倒计时信息预测模型。
在实际应用场景中,由于倒计时信号灯是一个连续变化的状态,受到光线等影响,可能导致某一帧采集到的倒计时信号灯的图像与真实相差较大。例如某一帧光照很强,反光很严重的时候,可能导致检测时对倒计时信号灯中的红绿颜色颠倒。或者在大风天气,采集到的某一帧的倒计时信号灯的图像中倒计时信号灯的部分被随风飘摇的树叶或者其他障碍物遮挡,导致检测时对倒计时信号灯中的数字识别严重错误。为了进一步提高检测的准确性,本实施例中,还可以在步骤S104之后,对当前帧检测到的目标颜色和目标数字进行修正,以避免严重的检测错误。
首先,将当前帧之前的至少两个连续帧图像中的目标倒计时框中的颜色和数字,输入至预先训练的倒计时信息预测模型,该倒计时信息预测模型可以预测并输出当前帧的目标倒计时框中的预测颜色和预测数字。然后校验时,可以先判断预测颜色与目标颜色是否一致,若不一致,将目标颜色修正为预测颜色。进一步检测预测数字与目标数字是否一致,若不一致,则可以直接将目标数字修正为预测数字。或者检测目标数字是否小于前一帧的目标数字,并判断预测数字和目标数字相差是否小于预设时间阈值,如预设时间阈值可以根据实际需求设置为2s或者其他很小的时间间隔,若是,则可以认为拍照存在时延,可以不修正目标数字;否则认为目标数字识别有误,采用预测数字修正目标数字。当然,实际应用中,还可以存在其他更多的校验方式和修正方式,在此不再一一举例赘述。
实际场景中,最终向车辆的中控系统输入的检测结果可以为经过上述校验后的倒计时信号灯的颜色和数字,这样可以保证中控系统获取到的信息的准确性,进而增加中控系统基于倒计时信号灯的信息做出的决策的准确性。
本实施例的倒计时信号灯的检测方法,可以按照经验选择预设的扩充倍数进行扩充,或者根据高精地图的标注精度、车载组合导航系统的定位精度、车载相机的内参的标定精度和车载相机相对车载组合导航系统的外参的标定精度进行扩充,得到目标ROI。无论按照哪种扩充方式,都能有效地保证扩充后的目标ROI的合理性和准确性,进而有效地提高后续倒计时信号灯的检测准确性和检测效率。
进一步地,本实施例中,还可以根据各倒计时候选框的置信度、各倒计时候选框的中心离目标ROI的中心的距离、各倒计时候选框的长宽比、各倒计时候选框与原始ROI的面积比中的至少一个从N个倒计时候选框中筛选目标倒计时框,能够有效地保证筛选出来的目标倒计时框的准确性,进而有效地提高后续倒计时信号灯的检测准确性和检测效率。
进一步地,本实施例中,还可以根据当前帧之前的至少两个连续帧图像中的目标倒计时框中的颜色和数字、以及预先训练的倒计时信息预测模型,预测当前帧的目标倒计时框中的预测颜色和预测数字;并根据预测颜色和预测数字,对目标颜色和目标数字进行校验,能够进一步有效地提高倒计时信号灯的检测的准确性和检测效率。
图3是根据本申请第三实施例的示意图;如图3所示,本实施例的倒计时信号灯的检测装置300,包括:
预估模块301,用于根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及车载相机相对车载组合导航系统的外参以及预设的区域扩充策略,预测倒计时信号灯在车载相机采集的当前帧的图像中的目标感兴趣区域;
检测模块302,用于采用预先训练的倒计时框检测模型,从目标感兴趣区域内检测出N个倒计时候选框,N为大于或者等于1的正整数;
筛选模块303,用于从N个倒计时候选框中筛选目标倒计时框;
识别模块304,用于采用预先训练的倒计时识别模型,识别目标倒计时框中的目标颜色和目标数字。
本实施例的倒计时信号灯的检测装置300,通过采用上述模块实现倒计时信号灯的检测的实现原理以及技术效果与上述相关方法实施例的实现相同,详细可以参考上述相关方法实施例的记载,在此不再赘述。
图4是根据本申请第四实施例的示意图;如图4所示,本实施例的倒计时信号灯的检测装置300,在上述图3所示实施例的技术方案的基础上,进一步更加详细地描述本申请的技术方案。
如图4所示,本实施例的倒计时信号灯的检测装置300中,预估模块301用于:
根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及车载相机相对车载组合导航系统的外参,获取倒计时信号灯在车载相机采集的当前帧的图像中的原始感兴趣区域;
根据预设的区域扩充策略,在图像中对原始感兴趣区域的范围进行扩充,得到目标感兴趣区域。
进一步可选地,本实施例的倒计时信号灯的检测装置200中,预估模块301,包括:
获取单元3011,用于按照预设的扩充倍数,在图像中对原始感兴趣区域的范围进行扩充,得到目标感兴趣区域;或者
扩充单元3012,用于根据高精地图的标注精度、车载组合导航系统的定位精度、车载相机的内参的标定精度和车载相机相对车载组合导航系统的外参的标定精度,在图像中对原始感兴趣区域的范围进行扩充,得到目标感兴趣区域。
进一步可选地,本实施例的倒计时信号灯的检测装置300中,筛选模块303,用于:
当N大于1时,根据各倒计时候选框的置信度、各倒计时候选框的中心离目标感兴趣区域的中心的距离、各倒计时候选框的长宽比、各倒计时候选框与原始感兴趣区域的面积比中的至少一个从N个倒计时候选框中筛选目标倒计时框。
进一步可选地,本实施例的倒计时信号灯的检测装置300中,筛选模块303,用于执行如下任意一种:
根据各倒计时候选框的置信度,从N个倒计时候选框中筛选出置信度最高的倒计时候选框,作为目标倒计时框;
根据各倒计时候选框的中心离目标感兴趣区域的中心的距离,从N个倒计时候选框中筛选出距离最小的倒计时候选框,作为目标倒计时框;
根据各倒计时候选框的长宽比,从N个倒计时候选框中筛选出长宽比最接近1的倒计时候选框,作为目标倒计时框;
根据各倒计时候选框与原始感兴趣区域的面积比,从N个倒计时候选框中筛选出面积比大于第一比例阈值、小于第二比例阈值、且最接近1的倒计时候选框,作为目标倒计时框;和
对于各倒计时候选框,参考预设的数学模型为对应的置信度、中心离目标感兴趣区域的中心的距离、长宽比以及与原始感兴趣区域的面积比拟合相应的数值,并配置权重,进行加权求和;从N个倒计时候选框中筛选出加权求和的最大值的倒计时候选框,作为目标倒计时框。
进一步可选地,本实施例的倒计时信号灯的检测装置300中,还包括:
预测模块305,用于根据当前帧之前的至少两个连续帧图像中的目标倒计时框中的颜色和数字、以及预先训练的倒计时信息预测模型,预测当前帧的目标倒计时框中的预测颜色和预测数字;
校验模块306,用于根据预测颜色和预测数字,对目标颜色和目标数字进行校验。
本实施例的倒计时信号灯的检测装置300,通过采用上述模块实现倒计时信号灯的检测的实现原理以及技术效果与上述相关方法实施例的实现相同,详细可以参考上述相关方法实施例的记载,在此不再赘述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图5所示,是根据本申请实施例的实现倒计时信号灯的检测方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图5所示,该电子设备包括:一个或多个处理器501、存储器502,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图5中以一个处理器501为例。
存储器502即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的倒计时信号灯的检测方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的倒计时信号灯的检测方法。
存储器502作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的倒计时信号灯的检测方法对应的程序指令/模块(例如,附图2所示的相关模块)。处理器501通过运行存储在存储器502中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的倒计时信号灯的检测方法。
存储器502可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储实现倒计时信号灯的检测方法的电子设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器502可选包括相对于处理器501远程设置的存储器,这些远程存储器可以通过网络连接至实现倒计时信号灯的检测方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
实现倒计时信号灯的检测方法的电子设备还可以包括:输入装置505和输出装置504。处理器501、存储器502、输入装置505和输出装置504可以通过总线或者其他方式连接,图5中以通过总线连接为例。
输入装置505可接收输入的数字或字符信息,以及产生与实现倒计时信号灯的检测方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置504可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,通过根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及车载相机相对车载组合导航系统的外参以及预设的区域扩充策略,预测倒计时信号灯在车载相机采集的当前帧的图像中的目标ROI;采用预先训练的倒计时框检测模型,从目标ROI内检测出N个倒计时候选框,N为大于或者等于1的正整数;从N个倒计时候选框中筛选目标倒计时框;采用预先训练的倒计时识别模型,识别目标倒计时框中的目标颜色和目标数字。与现有技术相比,能够避免光照的影响,直接定位到目标ROI,而不用全图检测,能够有效地提高倒计时信号灯的检测准确性和检测效率;而且本申请中,在预测倒计时信号灯在车载相机采集的当前帧的图像中的目标ROI时,还参考预设的区域扩充策略,能够保证目标ROI的覆盖区域足够全面,能够包围倒计时信号灯的所有信息,进一步提高后续倒计时信号灯的检测准确性和检测效率。
进一步地,根据本申请实施例的技术方案,可以按照经验选择预设的扩充倍数进行扩充,或者根据高精地图的标注精度、车载组合导航系统的定位精度、车载相机的内参的标定精度和车载相机相对车载组合导航系统的外参的标定精度进行扩充,得到目标ROI。无论按照哪种扩充方式,都能有效地保证扩充后的目标ROI的合理性和准确性,进而有效地提高后续倒计时信号灯的检测准确性和检测效率。
进一步地,根据本申请实施例的技术方案,可以根据各倒计时候选框的置信度、各倒计时候选框的中心离目标ROI的中心的距离、各倒计时候选框的长宽比、各倒计时候选框与原始ROI的面积比中的至少一个从N个倒计时候选框中筛选目标倒计时框,能够有效地保证筛选出来的目标倒计时框的准确性,进而有效地提高后续倒计时信号灯的检测准确性和检测效率。
进一步地,根据本申请实施例的技术方案,还可以根据当前帧之前的至少两个连续帧图像中的目标倒计时框中的颜色和数字、以及预先训练的倒计时信息预测模型,预测当前帧的目标倒计时框中的预测颜色和预测数字;并根据预测颜色和预测数字,对目标颜色和目标数字进行校验,能够进一步有效地提高倒计时信号灯的检测的准确性和检测效率。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (14)
1.一种倒计时信号灯的检测方法,其特征在于,包括:
根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及所述车载相机相对所述车载组合导航系统的外参以及预设的区域扩充策略,预测所述倒计时信号灯在所述车载相机采集的当前帧的图像中的目标感兴趣区域;
采用预先训练的倒计时框检测模型,从所述目标感兴趣区域内检测出N个倒计时候选框,所述N为大于或者等于1的正整数;
从所述N个倒计时候选框中筛选目标倒计时框;
采用预先训练的倒计时识别模型,识别所述目标倒计时框中的目标颜色和目标数字。
2.根据权利要求1所述的方法,其特征在于,根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及所述车载相机相对所述车载组合导航系统的外参以及预设的区域扩充策略,预测所述倒计时信号灯在所述车载相机采集的当前帧的图像中的目标感兴趣区域,包括:
根据所述高精地图中标注的所述倒计时信号灯的位置信息、所述车载组合导航系统的定位信息、所述车载相机的内参以及所述车载相机相对所述车载组合导航系统的外参,获取所述倒计时信号灯在所述车载相机采集的当前帧的图像中的原始感兴趣区域;
根据预设的区域扩充策略,在所述图像中对所述原始感兴趣区域的范围进行扩充,得到所述目标感兴趣区域。
3.根据权利要求2所述的方法,其特征在于,根据预设的区域扩充策略,在所述图像中对所述原始感兴趣区域的范围进行扩充,得到所述目标感兴趣区域,包括:
按照预设的扩充倍数,在所述图像中对所述原始感兴趣区域的范围进行扩充,得到所述目标感兴趣区域;或者
根据所述高精地图的标注精度、所述车载组合导航系统的定位精度、所述车载相机的内参的标定精度和所述车载相机相对所述车载组合导航系统的外参的标定精度,在所述图像中对所述原始感兴趣区域的范围进行扩充,得到所述目标感兴趣区域。
4.根据权利要求2-3任一所述的方法,其特征在于,从所述N个倒计时候选框中筛选目标倒计时框,包括:
当所述N大于1时,根据各所述倒计时候选框的置信度、各所述倒计时候选框的中心离所述目标感兴趣区域的中心的距离、各所述倒计时候选框的长宽比、各所述倒计时候选框与所述原始感兴趣区域的面积比中的至少一个从所述N个倒计时候选框中筛选所述目标倒计时框。
5.根据权利要求4所述的方法,其特征在于,根据各所述倒计时候选框的置信度、各所述倒计时候选框的离所述目标感兴趣区域的中心的距离、各所述倒计时候选框的长宽比、各所述倒计时候选框与所述原始感兴趣区域的面积比中的至少一个从所述N个倒计时候选框中筛选所述目标倒计时框,包括如下任意一种:
根据各所述倒计时候选框的置信度,从所述N个倒计时候选框中筛选出置信度最高的所述倒计时候选框,作为所述目标倒计时框;
根据各所述倒计时候选框的中心离所述目标感兴趣区域的中心的距离,从所述N个倒计时候选框中筛选出距离最小的所述倒计时候选框,作为所述目标倒计时框;
根据各所述倒计时候选框的长宽比,从所述N个倒计时候选框中筛选出长宽比最接近1的所述倒计时候选框,作为所述目标倒计时框;
根据各所述倒计时候选框与所述原始感兴趣区域的面积比,从所述N个倒计时候选框中筛选出所述面积比大于第一比例阈值、小于第二比例阈值、且最接近1的所述倒计时候选框,作为所述目标倒计时框;和
对于各所述倒计时候选框,参考预设的数学模型为对应的置信度、中心离所述目标感兴趣区域的中心的距离、长宽比以及与所述原始感兴趣区域的面积比拟合相应的数值,并配置权重,进行加权求和;从所述N个倒计时候选框中筛选出加权求和的最大值的所述倒计时候选框,作为所述目标倒计时框。
6.根据权利要求1-3以及5中任一所述的方法,其特征在于,采用预先训练的倒计时识别模型,识别所述目标倒计时框中的目标颜色和目标数字之后,所述方法还包括:
根据所述当前帧之前的至少两个连续帧图像中的目标倒计时框中的颜色和数字、以及预先训练的倒计时信息预测模型,预测所述当前帧的所述目标倒计时框中的预测颜色和预测数字;
根据所述预测颜色和所述预测数字,对所述目标颜色和所述目标数字进行校验。
7.一种倒计时信号灯的检测装置,其特征在于,包括:
预估模块,用于根据高精地图中标注的倒计时信号灯的位置信息、车载组合导航系统的定位信息、车载相机的内参以及所述车载相机相对所述车载组合导航系统的外参以及预设的区域扩充策略,预测所述倒计时信号灯在所述车载相机采集的当前帧的图像中的目标感兴趣区域;
检测模块,用于采用预先训练的倒计时框检测模型,从所述目标感兴趣区域内检测出N个倒计时候选框,所述N为大于或者等于1的正整数;
筛选模块,用于从所述N个倒计时候选框中筛选目标倒计时框;
识别模块,用于采用预先训练的倒计时识别模型,识别所述目标倒计时框中的目标颜色和目标数字。
8.根据权利要求7所述的装置,其特征在于,所述预估模块,包括:
获取单元,用于根据所述高精地图中标注的所述倒计时信号灯的位置信息、所述车载组合导航系统的定位信息、所述车载相机的内参以及所述车载相机相对所述车载组合导航系统的外参,获取所述倒计时信号灯在所述车载相机采集的当前帧的图像中的原始感兴趣区域;
扩充单元,用于根据预设的区域扩充策略,在所述图像中对所述原始感兴趣区域的范围进行扩充,得到所述目标感兴趣区域。
9.根据权利要求8所述的装置,其特征在于,所述扩充单元,用于:
按照预设的扩充倍数,在所述图像中对所述原始感兴趣区域的范围进行扩充,得到所述目标感兴趣区域;或者
根据所述高精地图的标注精度、所述车载组合导航系统的定位精度、所述车载相机的内参的标定精度和所述车载相机相对所述车载组合导航系统的外参的标定精度,在所述图像中对所述原始感兴趣区域的范围进行扩充,得到所述目标感兴趣区域。
10.根据权利要求8-9任一所述的装置,其特征在于,所述筛选模块,用于:
当所述N大于1时,根据各所述倒计时候选框的置信度、各所述倒计时候选框的中心离所述目标感兴趣区域的中心的距离、各所述倒计时候选框的长宽比、各所述倒计时候选框与所述原始感兴趣区域的面积比中的至少一个从所述N个倒计时候选框中筛选所述目标倒计时框。
11.根据权利要求10所述的装置,其特征在于,所述筛选模块,用于执行如下任意一种:
根据各所述倒计时候选框的置信度,从所述N个倒计时候选框中筛选出置信度最高的所述倒计时候选框,作为所述目标倒计时框;
根据各所述倒计时候选框的中心离所述目标感兴趣区域的中心的距离,从所述N个倒计时候选框中筛选出距离最小的所述倒计时候选框,作为所述目标倒计时框;
根据各所述倒计时候选框的长宽比,从所述N个倒计时候选框中筛选出长宽比最接近1的所述倒计时候选框,作为所述目标倒计时框;
根据各所述倒计时候选框与所述原始感兴趣区域的面积比,从所述N个倒计时候选框中筛选出所述面积比大于第一比例阈值、小于第二比例阈值、且最接近1的所述倒计时候选框,作为所述目标倒计时框;和
对于各所述倒计时候选框,参考预设的数学模型为对应的置信度、中心离所述目标感兴趣区域的中心的距离、长宽比以及与所述原始感兴趣区域的面积比拟合相应的数值,并配置权重,进行加权求和;从所述N个倒计时候选框中筛选出加权求和的最大值的所述倒计时候选框,作为所述目标倒计时框。
12.根据权利要求7-9以及11中任一所述的装置,其特征在于,所述装置还包括;
预测模块,还用于根据所述当前帧之前的至少两个连续帧图像中的目标倒计时框中的颜色和数字、以及预先训练的倒计时信息预测模型,预测所述当前帧的所述目标倒计时框中的预测颜色和预测数字;
校验模块,用于根据所述预测颜色和所述预测数字,对所述目标颜色和所述目标数字进行校验。
13.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010230950.9A CN111507204A (zh) | 2020-03-27 | 2020-03-27 | 倒计时信号灯的检测方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010230950.9A CN111507204A (zh) | 2020-03-27 | 2020-03-27 | 倒计时信号灯的检测方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111507204A true CN111507204A (zh) | 2020-08-07 |
Family
ID=71874553
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010230950.9A Pending CN111507204A (zh) | 2020-03-27 | 2020-03-27 | 倒计时信号灯的检测方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111507204A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112348778A (zh) * | 2020-10-21 | 2021-02-09 | 深圳市优必选科技股份有限公司 | 一种物体识别方法、装置、终端设备及存储介质 |
CN112508016A (zh) * | 2020-12-15 | 2021-03-16 | 深圳万兴软件有限公司 | 一种图像处理方法、装置、计算机设备及存储介质 |
CN112507801A (zh) * | 2020-11-14 | 2021-03-16 | 武汉中海庭数据技术有限公司 | 车道路面数字颜色识别方法、限速信息识别方法及系统 |
CN113095220A (zh) * | 2021-04-12 | 2021-07-09 | 浙江吉利控股集团有限公司 | 交通信号灯数字识别方法及数字识别系统 |
CN114863386A (zh) * | 2022-03-30 | 2022-08-05 | 广州文远知行科技有限公司 | 交通信号灯的检测方法、装置及电子设备 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105678316A (zh) * | 2015-12-29 | 2016-06-15 | 大连楼兰科技股份有限公司 | 基于多信息融合的主动驾驶方法 |
CN105825696A (zh) * | 2016-04-18 | 2016-08-03 | 吉林大学 | 基于信号灯信息提示的驾驶辅助系统 |
CN105930819A (zh) * | 2016-05-06 | 2016-09-07 | 西安交通大学 | 基于单目视觉和gps组合导航系统的实时城区交通灯识别系统 |
US20180233047A1 (en) * | 2017-02-11 | 2018-08-16 | Ben Mandeville-Clarke | Systems and methods for detecting and avoiding an emergency vehicle in the proximity of a substantially autonomous vehicle |
WO2019079941A1 (en) * | 2017-10-23 | 2019-05-02 | Bayerische Motoren Werke Aktiengesellschaft | METHOD AND APPARATUS FOR DETERMINING A DRIVING STRATEGY OF A VEHICLE |
CN109767637A (zh) * | 2019-02-28 | 2019-05-17 | 杭州飞步科技有限公司 | 倒计时信号灯识别及处理的方法和装置 |
CN110543814A (zh) * | 2019-07-22 | 2019-12-06 | 华为技术有限公司 | 一种交通灯的识别方法及装置 |
CN110688992A (zh) * | 2019-12-09 | 2020-01-14 | 中智行科技有限公司 | 交通信号识别方法、装置、车辆导航设备和无人驾驶车辆 |
CN110706494A (zh) * | 2019-10-30 | 2020-01-17 | 北京百度网讯科技有限公司 | 自动驾驶车辆的控制方法、装置、设备及存储介质 |
-
2020
- 2020-03-27 CN CN202010230950.9A patent/CN111507204A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105678316A (zh) * | 2015-12-29 | 2016-06-15 | 大连楼兰科技股份有限公司 | 基于多信息融合的主动驾驶方法 |
CN105825696A (zh) * | 2016-04-18 | 2016-08-03 | 吉林大学 | 基于信号灯信息提示的驾驶辅助系统 |
CN105930819A (zh) * | 2016-05-06 | 2016-09-07 | 西安交通大学 | 基于单目视觉和gps组合导航系统的实时城区交通灯识别系统 |
US20180233047A1 (en) * | 2017-02-11 | 2018-08-16 | Ben Mandeville-Clarke | Systems and methods for detecting and avoiding an emergency vehicle in the proximity of a substantially autonomous vehicle |
WO2019079941A1 (en) * | 2017-10-23 | 2019-05-02 | Bayerische Motoren Werke Aktiengesellschaft | METHOD AND APPARATUS FOR DETERMINING A DRIVING STRATEGY OF A VEHICLE |
CN109767637A (zh) * | 2019-02-28 | 2019-05-17 | 杭州飞步科技有限公司 | 倒计时信号灯识别及处理的方法和装置 |
CN110543814A (zh) * | 2019-07-22 | 2019-12-06 | 华为技术有限公司 | 一种交通灯的识别方法及装置 |
CN110706494A (zh) * | 2019-10-30 | 2020-01-17 | 北京百度网讯科技有限公司 | 自动驾驶车辆的控制方法、装置、设备及存储介质 |
CN110688992A (zh) * | 2019-12-09 | 2020-01-14 | 中智行科技有限公司 | 交通信号识别方法、装置、车辆导航设备和无人驾驶车辆 |
Non-Patent Citations (2)
Title |
---|
王世峰;戴祥;徐宁;张鹏飞;: "无人驾驶汽车环境感知技术综述", 长春理工大学学报(自然科学版), no. 01, pages 5 - 10 * |
许明文: "基于无人驾驶平台的交通灯及数字检测与识别系统", pages 138 - 678 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112348778A (zh) * | 2020-10-21 | 2021-02-09 | 深圳市优必选科技股份有限公司 | 一种物体识别方法、装置、终端设备及存储介质 |
CN112348778B (zh) * | 2020-10-21 | 2023-10-27 | 深圳市优必选科技股份有限公司 | 一种物体识别方法、装置、终端设备及存储介质 |
CN112507801A (zh) * | 2020-11-14 | 2021-03-16 | 武汉中海庭数据技术有限公司 | 车道路面数字颜色识别方法、限速信息识别方法及系统 |
CN112508016A (zh) * | 2020-12-15 | 2021-03-16 | 深圳万兴软件有限公司 | 一种图像处理方法、装置、计算机设备及存储介质 |
CN112508016B (zh) * | 2020-12-15 | 2024-04-16 | 深圳万兴软件有限公司 | 一种图像处理方法、装置、计算机设备及存储介质 |
CN113095220A (zh) * | 2021-04-12 | 2021-07-09 | 浙江吉利控股集团有限公司 | 交通信号灯数字识别方法及数字识别系统 |
CN114863386A (zh) * | 2022-03-30 | 2022-08-05 | 广州文远知行科技有限公司 | 交通信号灯的检测方法、装置及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110322500B (zh) | 即时定位与地图构建的优化方法及装置、介质和电子设备 | |
CN111507204A (zh) | 倒计时信号灯的检测方法、装置、电子设备及存储介质 | |
CN110726418B (zh) | 兴趣点区域确定方法、装置、设备及存储介质 | |
CN111998860B (zh) | 自动驾驶定位数据校验方法、装置、电子设备及存储介质 | |
CN111274974B (zh) | 定位元素检测方法、装置、设备和介质 | |
CN111324115B (zh) | 障碍物位置检测融合方法、装置、电子设备和存储介质 | |
CN112101339B (zh) | 地图兴趣点的信息获取方法、装置、电子设备和存储介质 | |
CN111968229A (zh) | 高精度地图制图方法及装置 | |
CN111220164A (zh) | 定位方法、装置、设备及存储介质 | |
CN104978390A (zh) | 使用出行路径元数据进行情景感知目标检测 | |
CN110349212B (zh) | 即时定位与地图构建的优化方法及装置、介质和电子设备 | |
CN111787489B (zh) | 实采兴趣点的位置确定方法、装置、设备和可读存储介质 | |
JP7200207B2 (ja) | 地図生成方法、地図生成装置、電子機器、非一時的なコンピュータ読み取り可能な記憶媒体及びコンピュータプログラム | |
CN111784837A (zh) | 高精地图生成方法和装置 | |
CN110634137A (zh) | 一种基于视觉感知的桥梁变形的监测方法、装置及设备 | |
CN112147632A (zh) | 车载激光雷达感知算法的测试方法、装置、设备和介质 | |
CN110458815B (zh) | 自动驾驶有雾场景检测的方法及装置 | |
CN113223064A (zh) | 一种视觉惯性里程计尺度的估计方法和装置 | |
CN116990830B (zh) | 基于双目和tof的距离定位方法、装置、电子设备及介质 | |
CN111783611B (zh) | 无人车的定位方法、装置、无人车及存储介质 | |
CN111612851B (zh) | 用于标定相机的方法、装置、设备以及存储介质 | |
CN113011298A (zh) | 截断物体样本生成、目标检测方法、路侧设备和云控平台 | |
CN114674328B (zh) | 地图生成方法、装置、电子设备、存储介质、及车辆 | |
CN114429631B (zh) | 三维对象检测方法、装置、设备以及存储介质 | |
CN105468881A (zh) | 基于航拍图像的实景距离计算方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20211021 Address after: 105 / F, building 1, No. 10, Shangdi 10th Street, Haidian District, Beijing 100085 Applicant after: Apollo Intelligent Technology (Beijing) Co.,Ltd. Address before: 2 / F, baidu building, 10 Shangdi 10th Street, Haidian District, Beijing 100085 Applicant before: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd. |