CN114821212A - 交通标志物的识别方法、电子设备、车辆和存储介质 - Google Patents
交通标志物的识别方法、电子设备、车辆和存储介质 Download PDFInfo
- Publication number
- CN114821212A CN114821212A CN202110109832.7A CN202110109832A CN114821212A CN 114821212 A CN114821212 A CN 114821212A CN 202110109832 A CN202110109832 A CN 202110109832A CN 114821212 A CN114821212 A CN 114821212A
- Authority
- CN
- China
- Prior art keywords
- instance
- candidate
- target
- geometric
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 115
- 239000003550 marker Substances 0.000 title claims description 118
- 238000012216 screening Methods 0.000 claims abstract description 37
- 239000003086 colorant Substances 0.000 claims abstract description 17
- 230000015654 memory Effects 0.000 claims description 43
- 238000012549 training Methods 0.000 claims description 27
- 238000006243 chemical reaction Methods 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 8
- 238000004364 calculation method Methods 0.000 abstract description 6
- 238000004891 communication Methods 0.000 description 26
- 230000008569 process Effects 0.000 description 21
- 238000004422 calculation algorithm Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 15
- 238000001514 detection method Methods 0.000 description 13
- 238000000605 extraction Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 10
- 230000002093 peripheral effect Effects 0.000 description 7
- 230000003068 static effect Effects 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 6
- 230000006399 behavior Effects 0.000 description 6
- 238000013500 data storage Methods 0.000 description 6
- 239000000284 extract Substances 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 230000005236 sound signal Effects 0.000 description 6
- 238000012706 support-vector machine Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 238000002372 labelling Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 238000013519 translation Methods 0.000 description 4
- 229920001621 AMOLED Polymers 0.000 description 3
- 230000001154 acute effect Effects 0.000 description 3
- 238000013145 classification model Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 239000000446 fuel Substances 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- LFQSCWFLJHTTHZ-UHFFFAOYSA-N Ethanol Chemical compound CCO LFQSCWFLJHTTHZ-UHFFFAOYSA-N 0.000 description 2
- ATUOYWHBWRKTHZ-UHFFFAOYSA-N Propane Chemical compound CCC ATUOYWHBWRKTHZ-UHFFFAOYSA-N 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000010267 cellular communication Effects 0.000 description 2
- 238000002485 combustion reaction Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 1
- 239000002253 acid Substances 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910001416 lithium ion Inorganic materials 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000003208 petroleum Substances 0.000 description 1
- 239000001294 propane Substances 0.000 description 1
- 239000002096 quantum dot Substances 0.000 description 1
- 238000011897 real-time detection Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000002829 reductive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000000979 retarding effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例公开了一种交通标志物的识别方法、电子设备、车辆和存储介质。电子设备根据交通标志物的色彩特征从待识别图像中识别出包括目标颜色的像素点的区块,然后对区块进行聚类得到候选实例,进一步地,电子设备根据交通标志物的几何特征和/或纹理特征从候选实例中确定出目标实例,根据目标实例对应的交通标志物可以确认目标实例的识别结果。这样,由于在每一个步骤都只需要对上一步骤筛选得到的结果进行计算,因此每一个步骤中的计算量都较小,整体缩短了对图像中交通标志物的识别时间。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种交通标志物的识别方法、电子设备、车辆和存储介质。
背景技术
在典型的交通场景中,交通标志物被置于路面或车道上,用于引导车辆行驶。对交通标志物的实时检测是自动驾驶和自动辅助驾驶等交通安全领域的基础任务之一。近年来,应用在交通安全和导航等方面的交通标志物检测技术是交通安全领域的研究热点之一。相关的技术可以分为以下两个大类:一方面,通过毫米波雷达、激光雷达、双目立体摄像头等传感器来获取周围环境中的物体的距离、速度、方位角、周围环境的三维点云或深度信息等,基于物理或几何原理,对场景中的物体进行分析探测得到结果;另一方面,通过摄像头采集可见光图像,基于目标物体的成像特征,对可见光图像中的物体进行识别得到结果。
在现有识别交通标志物的方法中,需要计算场景中全部物体的情况或使用过程复杂的可见光图像识别算法,计算量较大,不适于需要快速识别出交通标志物的实际场景中。
发明内容
本申请实施例公开了一种交通标志物的识别方法、电子设备、车辆和存储介质,可实现根据交通标志物的色彩特征、几何特征和纹理特征对待识别图像中识别该交通标志物,该方法计算量较小,适用于车辆在行驶过程中快速识别出交通标志物的场景。
第一方面,本申请实施例提供了一种交通标志物的识别方法,该方法应用于电子设备,该方法包括:从待识别图像中识别目标颜色的像素点,得到至少一个区块,所述区块由相连接的多个像素点组成,所述多个像素点的颜色相同,所述目标颜色为目标交通标志物中的一种或多种颜色;根据所述至少一个区块的位置,对所述至少一个区块聚类,得到至少一个候选实例,所述候选实例为所述至少一个区块中的一个或多个区块的组合;针对所述至少一个候选实例中的每一个候选实例,提取所述每一个候选实例的特征;根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例;识别所述目标实例对应的交通标志物。
实施第一方面提供的方法,电子设备根据交通标志物的色彩特征从待识别图像中识别出包括目标颜色的像素点的区块,然后对区块进行聚类得到候选实例,进一步地,电子设备根据交通标志物的特征从候选实例中筛选出目标实例,此时可以确定目标实例,最后识别目标实例对应的交通标志物并输出目标实例的识别结果。这样,由于在每一个步骤都只需要对上一步骤筛选得到的结果进行计算,因此每一个步骤中的计算量都较小,整体缩短了对图像中交通标志物的识别时间。
结合第一方面,在一些实施例中,所述特征包括几何特征,所述根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例,包括:确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,所述几何模板为用于描述所述目标交通标志物的几何特征;将所述至少一个候选实例中所述第一匹配度大于第一目标阈值的候选实例确定为目标实例;所述识别所述目标实例对应的交通标志物,包括:根据所述目标实例对应的几何模板所描述的交通标志物确定所述目标实例的识别结果。
利用候选实例的几何特征与几何模板进行匹配,无需针对目标交通标志物的几何特征进行训练,即无需针对目标交通标志物和其类别进行数据采集和真值标注,这样,利用几何模板匹配的方式,就对数据的数量和分布的依赖程度较低,并且,在目标交通标志物的整体形状没有发生较严重的改变时,仍然能够完成得到较为准确的匹配结果。
结合第一方面,在一些实施例中,所述特征包括几何特征,所述方法还包括:提取所述每一个候选实例的几何特征;所述根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例,包括:将所述每一个候选实例的几何特征输入到第一分类器的,得到所述每一个候选实例的第一分类结果,所述第一分类结果用于指示输入的几何特征对应的交通标志物的类型,所述第一分类器是以第一样本实例为输入,所述第一样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第一样本实例对应的交通标志物;将所述至少一个候选实例中第一分类结果为交通标志物的候选实例,确定为目标实例;所述识别所述目标实例对应的交通标志物,包括:根据所述目标实例的第一分类结果确定所述目标实例的识别结果。
结合第一方面,在一些实施例中,所述特征包括纹理特征,所述根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例,包括:确定所述至少一个候选实例中的每一个候选实例对应的纹理模板;所述纹理模板为用于描述所述目标交通标志物的纹理特征;确定所述每一个候选实例的纹理特征与所述每一个候选实例对应的纹理模板的第二匹配度,所述纹理模板为所述交通标志物的纹理特征;将所述至少一个候选实例中所述第二匹配度大于第二目标阈值的候选实例确定为目标实例;所述识别所述目标实例对应的交通标志物,包括:根据所述目标实例对应的纹理模板所描述的交通标志物确定所述目标实例的识别结果。
利用候选实例的纹理特征与纹理模板进行匹配,无需针对目标交通标志物的纹理特征进行训练,即无需针对目标交通标志物和其类别进行数据采集和真值标注,这样,利用纹理模板匹配的方式,就对数据的数量和分布的依赖程度较低,并且,在目标交通标志物的外表上存在一定程度的变化,只要纹理没有发生较严重的改变时,仍然能够完成得到较为准确的匹配结果。
结合第一方面,在一些实施例中,所述特征包括纹理特征,所述方法还包括:提取所述每一个候选实例的纹理特征;所述根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例,包括:将所述每一个候选实例的纹理特征输入到第二分类器,得到所述每一个候选实例的第二分类结果,所述第二分类结果用于指示输入的纹理特征对应的交通标志物的类型,所述第二分类器是以第二样本实例的纹理特征为输入,所述第二样本实例的真实结果为标签训练得到的,所述真实结果用于所述第二样本实例对应的交通标志物;将所述至少一个候选实例中第二分类结果为交通标志物的候选实例,确定为目标实例;所述识别所述目标实例对应的交通标志物,包括:根据所述目标实例的第二分类结果确定所述目标实例的识别结果。
结合第一方面,在一些实施例中,所述特征包括几何特征和纹理特征,所述方法还包括:提取所述每一个候选实例的几何特征和纹理特征;所述根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例,包括:将所述每一个候选实例的几何特征和纹理特征输入到第三分类器,得到所述每一个候选实例的第三分类结果,所述第三分类结果用于指示输入的几何特征和纹理特征对应的交通标志物的类型,所述第三分类器是以第三样本实例的几何特征和纹理特征为输入,所述第三样本实例的真实结果为标签训练得到的,所述真实结果用于指示第三样本实例对应的交通标志物;将所述至少一个候选实例中第三分类结果为交通标志物的候选实例,确定为目标实例;所述识别所述目标实例对应的交通标志物,包括:将所述目标实例的识别结果确定为所述目标实例的第三分类结果指示的交通标志物。
提取候选实例的几何特征和纹理特征,并将该几何特征和纹理特征输入分类器中,可以直接得到候选实例的分类结果,能够实现对目标交通标志物的快速识别。
结合第一方面,在一些实施例中,所述根据所述目标实例对应的几何模板所描述的交通标志物确定所述目标实例的识别结果,包括:将所述目标实例的识别结果确定为所述目标实例对应的几何模板所描述的交通标志物。
结合第一方面,在一些实施例中,根据所述目标实例对应的几何模板所描述的交通标志物确定所述目标实例的识别结果,包括:提取所述目标实例的纹理特征;将所述目标实例的纹理特征输入到第四分类器,得到所述目标实例的第四分类结果,所述第四分类结果用于指示输入的纹理特征对应的交通标志物的类型,所述第四分类器是以第四样本实例的纹理特征为输入,所述第四样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第四样本实例对应的交通标志物;在所述第四分类结果指示的交通标志物和所述目标实例对应的几何模板所描述的交通标志物相同时,确定所述目标实例的识别结果为所述目标实例对应的几何模板所描述的交通标志物。
结合第一方面,在一些实施例中,所述确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,包括:确定所述每一个候选实例的凸包络的宽高比;确定所述每一个候选实例对应的几何模板的宽高比;确定所述每一个候选实例的凸包络的宽高比与所述每一个候选实例对应的几何模板的宽高比的第一比值为所述第一匹配度。
结合第一方面,在一些实施例中,所述确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,包括:确定所述每一个实例的凸包络的面积;确定所述每一个候选实例对应的几何模板的面积;确定所述每一个候选实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的第二比值为所述第一匹配度。
结合第一方面,在一些实施例中,所述确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,包括:将所述每一个实例的凸包络与所述每一个候选实例对应的几何模板分别对齐,对齐后所述每一个实例的凸包络的底边中点与所述每一个候选实例对应的几何模板分别重合;确定所述每一个实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的交集面积;确定所述每一个实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的并集面积;确定所述交集面积与所述并集面积的第三比值为所述第一匹配度。
结合第一方面,在一些实施例中,所述确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,包括:提取所述每一个候选实例的几何特征的第一胡氏不变矩;提取所述每一个候选实例的对应的几何模板的第二胡氏不变矩;确定所述第一胡氏不变矩与所述第二胡氏不变矩的相似度为所述第一匹配度。
结合第一方面,在一些实施例中,所述方法还包括:提取所述每一个候选实例的凸包络,所述每一个候选实例的凸包络为所述每一个候选实例的几何特征。
结合第一方面,在一些实施例中,所述方法还包括:将查找表中所述每一个候选实例的位置对应的几何模板作为所述每一个候选实例对应的几何模板,所述查找表中包括多个位置和所述多个位置分别对应的几何模板。
存储一个查找表,可以快速确定候选实例对应的几何模板,该过程计算量较小,有利于快速得到识别结果。
结合第一方面,在一些实施例中,所述待识别图像是由目标设备拍摄的,所述方法还包括:根据所述目标设备在世界坐标系的位置、所述每一个候选实例在所述待识别图像中的第一位置和景深,确定所述每一个候选实例在所述世界坐标系下的第二位置;根据所述第一位置和所述第二位置,确定所述待识别图像所在的坐标系与所述世界坐标系的转换关系;根据在所述第二位置时交通标志物的三维模型和所述转换关系,确定所述每一个候选实例对应的几何模板为所述三维模型在所述待识别图像中的投影。
利用实时生成候选实例对应的几何模板,即实时根据候选实例在待识别图像中的位置和在理想地平面的位置之间的转换关系,确定候选实例对应的几何模板。这样的方式可以快速得到候选实例对应的几何模板,并且节省存储器的空间。
结合第一方面,在一些实施例中,所述根据所述至少一个区块的位置,对所述至少一个区块聚类,得到至少一个候选实例,包括:根据所述至少一个区块的位置,确定所述至少一个区块中的每两个区块之间的距离;将距离小于第一阈值的两个区块划分到一个候选实例,得到所述至少一个候选实例。
结合第一方面,在一些实施例中,所述根据所述目标实例对应的几何模板所描述的交通标志物确定所述目标实例的识别结果,包括:提取所述目标实例的纹理特征;确定所述目标实例的纹理模板;确定所述目标实例的纹理特征与所述目标实例对应的纹理模板的第三匹配度,所述纹理模板为所述交通标志物的纹理特征;确定所述第三匹配度大于第三目标阈值的目标实例的第一匹配结果,所述匹配结果为所述目标实例对应的纹理模板描述的交通标志物;在所述第一匹配结果和所述目标实例对应的几何模板所描述的交通标志物相同时,确定所述目标实例的识别结果为所述目标实例对应的几何模板所描述的交通标志物。
在确定目标实例与目标实例对应的几何模板匹配度后,再通过分类器确认目标实例的分类结果,在该分类结果指示的交通标志物和目标实例对应的几何模板所描述的交通标志物一致时,才确定目标实例的识别结果,这样,提高了识别的准确度。
结合第一方面,在一些实施例中,所述根据所述目标实例对应的纹理模板所描述的交通标志物确定所述目标实例的识别结果,包括:提取所述目标实例的几何特征;确定所述目标实例的几何特征与所述目标实例对应的几何模板的第四匹配度,所述几何模板为所述交通标志物的几何特征;确定所述第四匹配度大于第四目标阈值的目标实例的第二匹配结果,所述第二匹配结果为所述目标实例对应的几何模板描述的交通标志物;在所述第二匹配结果和目标实例对应的纹理模板所描述的交通标志物相同时,确定所述目标实例的识别结果为目标实例对应的纹理模板所描述的交通标志物。
结合第一方面,在一些实施例中,所述根据所述目标实例的第二分类结果确定所述目标实例的识别结果,包括:提取所述目标实例的几何特征;确定所述目标实例的几何特征与所述目标实例对应的几何模板的第四匹配度,所述几何模板为所述交通标志物的几何特征;确定所述第四匹配度大于第四目标阈值的目标实例的第二匹配结果,所述第二匹配结果为所述目标实例对应的几何模板描述的交通标志物;在所述第二匹配结果和第二分类结果指示的交通标志物相同时,确定所述目标实例的识别结果为第二分类结果指示的交通标志物。
结合第一方面,在一些实施例中,所述根据所述目标实例对应的纹理模板所描述的交通标志物确定所述目标实例的识别结果,包括:提取所述目标实例的几何特征;将所述目标实例的几何特征输入到第五分类器,得到所述目标实例的第五分类结果,所述第五分类结果用于指示输入的几何特征对应的交通标志物的类型,所述第五分类器是以第五样本实例的几何特征为输入,所述第五样本实例的真实结果为标签训练得到的,所述真实结果用于指示第五样本实例对应的交通标志物;在所述第五分类结果指示的交通标志物和所述目标实例对应的纹理模板所描述的交通标志物相同时,确定所述目标实例的识别结果为所述目标实例对应的纹理模板所描述的交通标志物。
结合第一方面,在一些实施例中,所述根据所述目标实例的第二分类结果确定所述目标实例的识别结果,包括:提取所述目标实例的几何特征;将所述目标实例的几何特征输入到第六分类器,得到所述目标实例的第六分类结果,所述第六分类结果用于指示输入的几何特征对应的交通标志物的类型,所述第六分类器是以第六样本实例的几何特征为输入,所述第六样本实例的真实结果为标签训练得到的,所述真实结果用于指示第六样本实例对应的交通标志物;在所述第五分类结果指示的交通标志物和所述目标实例的第二分类结果指示的交通标志物相同时,确定所述目标实例的识别结果为所述目标实例的第二分类结果指示的交通标志物。
实施第一方面或第一方面中任一可能的实现方式提供的交通标志物的识别方法,不依赖在车辆行驶过程中,车辆前方或其他方向上交通标志物的光流。当车辆处于静止状态,场景中同样静止的物体无法产生光流时,或当车辆处于运动状态,且交通标志物处于车辆正前方,运动状态为静止或者平行于车辆运动方向时,仍然可以实现对交通标志物的有效检测。因为该方法不依赖交通标志物相对于车辆的运动状态,而是利用了交通标志物固有的属性和特征,因此该方法具有较好的稳定性。
第二方面,本申请实施例提供了一种电子设备,包括:一个或多个处理器、一个或多个存储器,所述一个或多个存储器分别与所述一个或多个处理器耦合;所述一个或多个存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;所述处理器用于调用所述计算机指令执行:如第一方面及第一方面中任一可能的实现方式描述的交通标志物识别的方法。
第三方面,本申请实施例提供了一种车辆,包括:一个或多个处理器、一个或多个存储器,所述一个或多个存储器分别与所述一个或多个处理器耦合;所述一个或多个存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;所述处理器用于调用所述计算机指令执行:如第一方面及第一方面中任一可能的实现方式描述的交通标志物识别的方法。
第四方面,本申请实施例提供了一种交通标志物的识别装置,包括如下单元:
第一识别单元1101,用于从待识别图像中识别目标颜色的像素点,得到至少一个区块,所述区块由相连接的多个像素点组成,所述多个像素点的颜色相同,所述目标颜色为目标交通标志物中的一种或多种颜色;
聚类单元1102,用于根据所述至少一个区块的位置,对所述至少一个区块聚类,得到至少一个候选实例,所述候选实例为所述至少一个区块中的一个或多个区块的组合;
提取单元1103,用于针对所述至少一个候选实例中的每一个候选实例,提取所述每一个候选实例的特征;
筛选单元1104,用于根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例;
第二识别单元1105,用于识别所述目标实例对应的交通标志物。
在一种可能的实现中,所述特征包括几何特征,
所述筛选单元1104具体用于:确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,所述几何模板为用于描述所述目标交通标志物的几何特征;以及,将所述至少一个候选实例中所述第一匹配度大于第一目标阈值的候选实例确定为目标实例;
所述筛选单元1104具体用于:根据所述目标实例对应的几何模板所描述的交通标志物确定所述目标实例的识别结果。
在一种可能的实现中,所述特征包括几何特征,
所述提取单元1103具体用于:提取所述每一个候选实例的几何特征;
所述筛选单元1104具体用于:将所述每一个候选实例的几何特征输入到第一分类器的,得到所述每一个候选实例的第一分类结果,所述第一分类结果用于指示输入的几何特征对应的交通标志物的类型,所述第一分类器是以第一样本实例为输入,所述第一样本实例的真实结果为标签训练得到的,所述真实结果用于指示输入的几何特征对应的交通标志物;以及,将所述至少一个候选实例中第一分类结果为交通标志物的候选实例,确定为目标实例;
所述第二识别单元1105具体用于:根据所述目标实例的第一分类结果确定所述目标实例的识别结果。
在一种可能的实现中,所述特征包括纹理特征,
所述筛选单元1104具体用于:确定所述至少一个候选实例中的每一个候选实例对应的纹理模板;所述纹理模板为用于描述所述目标交通标志物的纹理特征;确定所述每一个候选实例的纹理特征与所述每一个候选实例对应的纹理模板的第二匹配度;以及,将所述至少一个候选实例中所述第二匹配度大于第二目标阈值的候选实例确定为目标实例;
所述第二识别单元1105具体用于:根据所述目标实例对应的纹理模板所描述的交通标志物确定所述目标实例的识别结果。
在一种可能的实现中,所述提取单元1103具体用于:提取所述每一个候选实例的纹理特征;
所述筛选单元1104具体用于:将所述每一个候选实例的纹理特征输入到第二分类器,得到所述每一个候选实例的第二分类结果,所述第二分类结果用于指示输入的纹理特征对应的交通标志物的类型,所述第二分类器是以第二样本实例的纹理特征为输入,所述第二样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第二样本实例对应的交通标志物;以及,将所述至少一个候选实例中第二分类结果为交通标志物的候选实例,确定为目标实例;
所述第二识别单元1105具体用于:根据所述目标实例的第二分类结果确定所述目标实例的识别结果。
在一种可能的实现中,所述提取单元1103具体用于:包括:提取所述每一个候选实例的几何特征和纹理特征;
所述筛选单元1104具体用于:将所述每一个候选实例的几何特征和纹理特征输入到第三分类器,得到所述每一个候选实例的第三分类结果,所述第三分类结果用于指示输入的几何特征和纹理特征对应的交通标志物的类型,所述第三分类器是以第三样本实例的几何特征和或纹理特征为输入,所述第三样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第三样本实例对应的交通标志物;以及,将所述至少一个候选实例中第三分类结果为交通标志物的候选实例,确定为目标实例;
所述第二识别单元1105具体用于:将所述目标实例的识别结果确定为所述目标实例的第三分类结果指示的交通标志物。
在一种可能的实现中,所述第二识别单元1105具体用于:将所述目标实例的识别结果确定为所述目标实例对应的几何模板所描述的交通标志物。
在一种可能的实现中,所述提取单元1103具体用于:提取所述目标实例的纹理特征;
所述第二识别单元1105具体用于:将所述目标实例的纹理特征输入到第四分类器,得到所述目标实例的第四分类结果,所述第四分类结果用于指示输入的纹理特征对应的交通标志物的类型,所述第四分类器是以第四样本实例的纹理特征为输入,所述第四样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第四样本实例对应的交通标志物;以及,在所述第四分类结果指示的交通标志物和所述目标实例对应的几何模板所描述的交通标志物相同时,确定所述目标实例的识别结果为所述目标实例对应的几何模板所描述的交通标志物。
在一种可能的实现中,所述筛选单元1104具体用于:确定所述每一个候选实例的凸包络的宽高比;确定所述每一个候选实例对应的几何模板的宽高比;以及确定所述每一个候选实例的凸包络的宽高比与所述每一个候选实例对应的几何模板的宽高比的第一比值为所述第一匹配度。
在一种可能的实现中,所述筛选单元1104具体用于:确定所述每一个实例的凸包络的面积;确定所述每一个候选实例对应的几何模板的面积;确定所述每一个候选实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的第二比值为所述第一匹配度。
在一种可能的实现中,所述筛选单元1104具体用于:将所述每一个实例的凸包络与所述每一个候选实例对应的几何模板分别对齐,对齐后所述每一个实例的凸包络的底边中点与所述每一个候选实例对应的几何模板分别重合;确定所述每一个实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的交集面积;确定所述每一个实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的并集面积;以及,确定所述交集面积与所述并集面积的第三比值为所述第一匹配度。
在一种可能的实现中,所述筛选单元1104具体用于:提取所述每一个候选实例的几何特征的第一胡氏不变矩;提取所述每一个候选实例的对应的几何模板的第二胡氏不变矩;以及,确定所述第一胡氏不变矩与所述第二胡氏不变矩的相似度为所述第一匹配度。
在一种可能的实现中,所述特征包括几何特征,所述提取单元1103具体用于:提取所述每一个候选实例的凸包络,所述每一个候选实例的凸包络为所述每一个候选实例的几何特征。
在一种可能的实现中,所述筛选单元1104还具体用于:将查找表中所述每一个候选实例的位置对应的几何模板作为所述每一个候选实例对应的几何模板,所述查找表中包括多个位置和所述多个位置分别对应的几何模板。
在一种可能的实现中,所述待识别图像是由目标设备拍摄的,所述筛选单元1104还具体用于:根据所述目标设备在世界坐标系的位置、所述每一个候选实例在所述待识别图像中的第一位置和景深,确定所述每一个候选实例在所述世界坐标系下的第二位置;根据所述第一位置和所述第二位置,确定所述待识别图像所在的坐标系与所述世界坐标系的转换关系;以及,根据在所述第二位置时交通标志物的三维模型和所述转换关系,确定所述每一个候选实例对应的几何模板为所述三维模型在所述待识别图像中的投影。
在一种可能的实现中,所述聚类单元1102具体用于:根据所述至少一个区块的位置,确定所述至少一个区块中的每两个区块之间的距离;以及,将距离小于第一阈值的两个区块划分到一个候选实例,得到所述至少一个候选实例。
第五方面,本申请实施例提供了一种计算机存储介质,包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如第一方面及第一方面中任一可能的实现方式描述的交通标志物识别的方法。
可以理解地,上述第二方面提供的电子设备、第三方面提供的车辆、第四方面提供的一种交通标志物的识别装置和第五方面提供的计算机存储介质均用于执行第一方面及第一方面中任一可能的实现方式所提供的方法。因此,其所能达到的有益效果可参考对应方法中的有益效果,此处不再赘述。
附图说明
图1A是本申请实施例提供的一种交通标志物识别的方法所涉及的系统示意图;
图1B为是本申请实施例提供的一种车辆的功能框图;
图2A-图2B是本申请实施例提供的一种交通标志物识别的方法流程示意图;
图3A-图3G是本申请实施例提供一些交通锥识别方法的原理示意图;
图4A-图4H是本申请实施例提供一些三角警告牌的识别方法的原理示意图;
图5是本申请实施例提供的一种交通标志物识别的方法涉及的HSV色彩空间示意图;
图6是本申请实施例提供的交通锥和三角警告牌的示例图;
图7是本申请实施例提供的交通锥和三角警告牌及其分别对应的几何模板的示例图;
图8A-图8B是本申请实施例提供的一种实时生成几何模板的流程示意图;
图9是本申请实施例提供的一种利用候选实例的几何特征和纹理特征来确定目标实例及其分类结果的示意说明图;
图10是本申请实施例提供的一种电子设备的结构示意图;
图11是本申请实施例提供的一种交通标志物的识别装置的结构示意图。
具体实施方式
本申请以下实施例中所使用的术语只是为了描述特定实施例的目的,而并非旨在作为对本申请的限制。如在本申请的说明书和所附权利要求书中所使用的那样,单数表达形式“一个”、“一种”、“所述”、“上述”、“该”和“这一”旨在也包括复数表达形式,除非其上下文中明确地有相反指示。还应当理解,本申请中使用的术语“和/或”是指并包含一个或多个所列出项目的任何或所有可能组合。
下面描述本申请涉及到的概念和术语。
RGB色彩空间(RGB color space):RGB即三原色,红色(red)、绿色(green)、蓝色(blue),是一种色彩的表示方法。常见的RGB色彩空间为一个单位长度的立方体,黑蓝绿青红紫黄白8种常见颜色分别位居立方体的8个顶点,通常将黑色置于三维直角坐标系的原点,红、绿、蓝分别置于3根坐标轴上。
HSV色彩空间(HSV color space):HSV即色相(hue)、饱和度(saturation)、明度(value),是一种色彩的表示方法。常见的HSV色彩空间为一个倒立的圆锥体,圆椎体的中心轴取值为自底部的黑色到顶部的白色,而在它们中间的是灰色,绕这个轴的角度对应于“色相”,到这个轴的距离对应于“饱和度”。
基于密度的空间聚类(density-based spatial clustering of applicationswith noise,DBSCAN)算法:是一种聚类算法。该算法将具有足够密度的区域划分为簇,并在具有噪声的空间数据库中发现任意形状的簇,它将簇定义为密度相连的点的最大集合。该算法利用基于密度的聚类的概念,即要求聚类空间中的一定区域内所包含对象(点或其他空间对象)的数目不小于某一给定阈值。DBSCAN算法的显著优点是聚类速度快且能够有效处理噪声点和发现任意形状的空间聚类。
凸包络(convex hull):给定一个点集,这个点集的凸包络就是包含点集中所有点的最小面积的凸多边形。直观的说,一个凸多边形(convex polygon)就是没有任何凹陷位的多边形。
哈尔特征(haar-like features):是一种用于目标检测和物体识别的数字图像特征。它们因为与哈尔小波转换极为相似而得名,最早被应用于即时的人脸检测运算。哈尔特征使用检测窗口中指定位置的相邻矩形,计算每一个矩形的像素和并取其差值。然后用这些差值来对图像的子区域进行分类。哈尔特征最主要的优势是它的计算非常快速,使用一个称为积分图的结构,任意尺寸的哈尔特征可以在常数时间内进行计算。
连通域分析(connected component analysis):图像的连通域是指图像中具有相同像素值并且位置相邻的像素组成的区域,连通域分析是指在图像中寻找出彼此互相独立的连通域并将其标记出来。
梯度方向直方图(histogram of oriented gradient,HOG)特征:是一种在计算机视觉和图像处理中用来进行物体检测的特征描述子。它通过计算和统计图像局部区域的梯度方向直方图来构成特征。HOG特征结合SVM分类器已经被广泛应用于图像识别中,尤其在行人检测中获得了极大的成功。
支持向量机(support vector machine,SVM)分类器:是一种二类分类模型,其基本模型定义为特征空间上的间隔最大的线性分类器,其学习策略便是间隔最大化,最终可转化为一个凸二次规划问题的求解。
Lab色彩空间:是一种色彩的表示方法。Lab是由一个亮度通道和两个颜色通道组成的。在Lab颜色空间中,每个颜色用L、a、b三个数字表示,各个分量的含义是:L*代表亮度,a*代表从绿色到红色的分量,b*代表从蓝色到黄色的分量。
HDBSCAN聚类算法:基于DBSCAN聚类的优化算法。不用选择人工选择领域半径R和MinPts,大部分的时候都只用选择最小生成类簇的大小即可,算法可以自动的推荐最优的簇类结果。同时定义了一种新的距离衡量方式,可以更好的与反映点的密度。
胡氏不变矩(Hu moment invariants):矩是概率与统计中的一个概念,是随机变量的一种数字特征。针对于一幅图像,我们把像素的坐标看成是一个二维随机变量,那么一幅灰度图像可以用二维灰度密度函数来表示,因此可以用矩来描述灰度图像的特征。Hu利用二阶和三阶归一化中心矩构造了7个不变矩,不变矩是一处高度浓缩的图像特征,在连续图像下具有平移、灰度、尺度、旋转不变性。
下面首先介绍本申请实施例涉及的交通标志物的识别系统的示意性说明图,如图1A所示,该系统包括可移动设备10和服务器20,其中,可移动设备可以是车辆11、车辆12、机器人13、移动终端14等可以移动的设备。
下面以可移动设备10为车辆11为例来说明该交通标志物的识别系统,车辆11可以通过摄像头实时获取车辆11行驶前方向上、或周围环境、或行驶后方向上的图像。在该识别系统中,可以对获取到的连续的多帧图像进行交通标志物的识别,也可以按照预设帧数从该多帧图像中选择一帧作为待识别图像进行识别,本申请实施例不作限定。本申请实施例以其中一帧图像作为待识别图像为例来说明,各个帧图像的交通标志物的识别方法。
在一些实现中,车辆11可以对获取到的待识别图像进行交通标志物的识别。车辆11将交通标志物的颜色作为目标颜色对待识别图像中的目标颜色进行识别,得到候选实例,进而车辆11根据交通标志物的几何特征和/或纹理特征对候选实例进行进一步筛选和分类,最终确定待识别图像的识别结果,该识别结果可以是待识别图像中是否包括交通标志物及交通标志物的种类。具体的识别方法可以参见下面如图2A和图2B所示的步骤和相关描述,此处不再赘述。
其中,对待识别图像中的交通标志物的识别方法可以由车辆11本身执行,也可以由安装在车辆11上的设备执行,如车载单元、车辆导航装置、车辆辅助驾驶装置、车辆自动驾驶装置和行车记录仪等中的一种或多种来执行。
在另一些实现中,车辆11将获取到的待识别图像发送至服务器20,服务器20对接收到的待识别图像进行交通标志物的识别,并将得到的识别结果发送给车辆11。其中,具体的识别方法可以参见下面如图2A和图2B所示的步骤和相关描述,此处不再赘述。
应理解,交通标志物可以包括如图6中所示的交通锥101、三角警告牌102,还可以包括禁令标志和指示标志等,本申请实施例以图6中所示的交通锥101和三角警告牌102为例来说明,本申请实施例对交通标志物的类型不作限定。
请参见图1B,图1B为本申请实施例提供的一种车辆002的功能框图。该车辆002可以是上述图1A所示的系统中的车辆11。
在一个实施例中,可以将车辆002配置为完全或部分地自动驾驶模式。例如,车辆002可以在处于自动驾驶模式中的同时控制自身,并且可通过人为操作来确定车辆及其周边环境的当前状态,确定周边环境中的至少一个其他车辆的可能行为,并确定该其他车辆执行可能行为的可能性相对应的置信水平,基于所确定的信息来控制车辆002。在车辆002处于自动驾驶模式中时,可以将车辆002置为在没有和人交互的情况下操作。
车辆002可包括各种子系统,例如行进系统202、传感器系统204、控制系统206、一个或多个外围设备208以及电源210、计算机系统212和用户接口216。可选地,车辆002可包括更多或更少的子系统,并且每个子系统可包括多个元件。另外,车辆002的每个子系统和元件可以通过有线或者无线互连。
行进系统202可包括为车辆002提供动力运动的组件。在一个实施例中,行进系统202可包括引擎218、能量源219、传动装置220和车轮221。引擎218可以是内燃引擎、电动机、空气压缩引擎或其他类型的引擎组合,例如气油发动机和电动机组成的混动引擎,内燃引擎和空气压缩引擎组成的混动引擎。引擎218将能量源219转换成机械能量。
能量源219的示例包括汽油、柴油、其他基于石油的燃料、丙烷、其他基于压缩气体的燃料、乙醇、太阳能电池板、电池和其他电力来源。能量源219也可以为车辆002的其他系统提供能量。
传动装置220可以将来自引擎218的机械动力传送到车轮221。传动装置220可包括变速箱、差速器和驱动轴。在一个实施例中,传动装置220还可以包括其他器件,比如离合器。其中,驱动轴可包括可耦合到一个或多个车轮221的一个或多个轴。
传感器系统204可包括感测关于车辆002周边的环境的信息的若干个传感器。例如,传感器系统204可包括全球定位系统222(全球定位系统可以是GPS系统,也可以是北斗系统或者其他定位系统)、惯性测量单元(inertial measurement unit,IMU)224、雷达226、激光测距仪228以及相机230。传感器系统204还可包括被监视车辆002的内部系统的传感器(例如,车内空气质量监测器、燃油量表、机油温度表等)。来自这些传感器中的一个或多个的传感器数据可用于检测对象及其相应特性(位置、形状、方向、速度等)。这种检测和识别是自主车辆002的安全操作的关键功能。
全球定位系统222可用于估计车辆002的地理位置。IMU 224用于基于惯性加速度来感测车辆002的位置和朝向变化。在一个实施例中,IMU 224可以是加速度计和陀螺仪的组合。例如:IMU 224可以用于测量车辆002的曲率。
雷达226可利用无线电信号来感测车辆002的周边环境内的物体。在一些实施例中,除了感测物体以外,雷达226还可用于感测物体的速度和/或前进方向。
激光测距仪228可利用激光来感测车辆002所位于的环境中的物体。在一些实施例中,激光测距仪228可包括一个或多个激光源、激光扫描器以及一个或多个检测器,以及其他系统组件。
相机230可用于捕捉车辆002的周边环境的多个图像。相机230可以是静态相机或视频相机,也可以是可见光相机或红外相机,可以是任一用来获取图像的相机,本申请实施例对此不作限定。
本申请实施例中,相机230可以安装在车辆002的前侧、后侧以及左右两侧,相机230可以是通过旋转以调节拍摄角度的相机。另外,本申请实施例中的相机也可以用于采集待识别图像。
控制系统206为控制车辆002及其组件的操作。控制系统206可包括各种元件,其中包括转向单元232、油门234、制动单元236、传感器融合算法单元238、计算机视觉系统240、路线控制系统242以及障碍物避免系统244。
转向单元232可操作来调整车辆002的前进方向。例如在一个实施例中可以为方向盘系统。
油门234用于控制引擎218的操作速度并进而控制车辆002的速度。
制动单元236用于控制车辆002减速。制动单元236可使用摩擦力来减慢车轮221。在其他实施例中,制动单元236可将车轮221的动能转换为电流。制动单元236也可采取其他形式来减慢车轮221转速从而控制车辆002的速度。
计算机视觉系统240可以操作来处理和分析由相机230捕捉的图像以便识别车辆002周边环境中的物体和/或特征。所述物体和/或特征可包括交通信号、道路边界和障碍物。计算机视觉系统240可使用物体识别算法、运动中恢复结构(Structure from Motion,SFM)算法、视频跟踪和其他计算机视觉技术。在一些实施例中,计算机视觉系统240可以用于为环境绘制地图、跟踪物体、估计物体的速度等等。在本申请实施例中,计算机视觉系统240还可以用于识别交通标志物,具体识别交通标志物的识别方法可以参见下述图2A所示的实施例中相关描述。
路线控制系统242用于确定车辆002的行驶路线。在一些实施例中,路线控制系统242可结合来自传感器融合算法单元238、全球定位系统222和一个或多个预定地图的数据以为车辆002确定行驶路线。
障碍物避免系统244用于识别、评估和避免或者以其他方式越过车辆002的环境中的潜在障碍物。
当然,在一个实例中,控制系统206可以增加或替换地包括除了所示出和描述的那些以外的组件。或者也可以减少一部分上述示出的组件。
车辆002通过外围设备208与外部传感器、其他车辆、其他计算机系统或用户之间进行交互。外围设备208可包括无线通信系统246、车载电脑248、麦克风250和/或扬声器252。
在一些实施例中,外围设备208提供车辆002的用户与用户接口216交互的手段。例如,车载电脑248可向车辆002的用户提供信息。用户接口216还可操作车载电脑248来接收用户的输入。车载电脑248可以通过触摸屏进行操作。在其他情况中,外围设备208可提供用于车辆002与位于车内的其它设备通信的手段。例如,麦克风250可从车辆002的用户接收音频(例如,语音命令或其他音频输入)。类似地,扬声器252可向车辆002的用户输出音频。
无线通信系统246可以直接地或者经由通信网络来与一个或多个设备无线通信。例如码分多址(code division multiple access,CDMA)、增强型多媒体盘片系统(Enhanced Versatile Disk,EVD)、全球移动通信系统(global system for mobilecommunications,GSM)/是通用分组无线服务技术(general packet radio service,GPRS),或者4G蜂窝通信,例如长期演进(long term evolution,LTE),或者5G蜂窝通信,或者新无线(new radio,NR)系统,或者未来通信系统等。无线通信系统246可利用WiFi与无线局域网(wireless local area network,WLAN)通信。在一些实施例中,无线通信系统246可利用红外链路、蓝牙或无线个域网(ZigBee)与设备直接通信。其他无线协议,例如:各种车辆通信系统,例如,无线通信系统246可包括一个或多个专用短程通信(dedicated shortrange communications,DSRC)设备,这些设备可包括车辆和/或路边台站之间的公共和/或私有数据通信。
电源210可向车辆002的各种组件提供电力。在一个实施例中,电源210可以为可再充电锂离子或铅酸电池。这种电池的一个或多个电池组可被配置为电源为车辆002的各种组件提供电力。在一些实施例中,电源210和能量源219可一起实现,例如一些全电动车中那样。
车辆002的部分或所有功能受计算机系统212控制。计算机系统212可包括至少一个处理器213,处理器213执行存储在例如数据存储装置214这样的非暂态计算机可读介质中的指令215。计算机系统212还可以是采用分布式方式控制车辆002的个体组件或子系统的多个计算设备。
处理器213可以是任何常规的处理器,诸如商业可获得的CPU。替选地,该处理器可以是诸如ASIC或其它基于硬件的处理器的专用设备。尽管图1B功能性地图示了处理器、存储器、和在相同块中的计算机的其它元件,但是本领域的普通技术人员应该理解该处理器、计算机、或存储器实际上可以包括可以或者可以不存储在相同的物理外壳内的多个处理器、计算机、或存储器。例如,存储器可以是硬盘驱动器或位于不同于计算机的外壳内的其它存储介质。因此,对处理器或计算机的引用将被理解为包括对可以或者可以不并行操作的处理器或计算机或存储器的集合的引用。不同于使用单一的处理器来执行此处所描述的步骤,诸如转向组件和减速组件的一些组件每个都可以具有其自己的处理器,所述处理器只执行与特定于组件的功能相关的计算。
在此处所描述的各个方面中,处理器可以位于远离该车辆并且与该车辆进行无线通信。在其它方面中,此处所描述的过程中的一些在布置于车辆内的处理器上执行而其它则由远程处理器执行,包括采取执行单一操纵的必要步骤。
在一些实施例中,存储器214可包含指令215(例如,程序逻辑),指令215可被处理器213执行来执行车辆002的各种功能,包括以上描述的那些功能。数据存储装置224也可包含额外的指令,包括向行进系统202、传感器系统204、控制系统206和外围设备208中的一个或多个发送数据、从其接收数据、与其交互和/或对其进行控制的指令。
除了指令215以外,存储器214还可存储数据,例如道路地图、路线信息,车辆的位置、方向、速度以及其它这样的车辆数据,以及其他信息。这种信息可在车辆002在自主、半自主和/或手动模式中操作期间被车辆002和计算机系统212使用。例如:可以根据目标路段的道路信息,和接收的车辆速度范围和车辆曲率范围内对车辆的当前速度和当前曲率进行微调,以使智能车辆的速度和曲率在车辆速度范围和车辆曲率范围内。
用户接口216,用于向车辆002的用户提供信息或从其接收信息。可选地,用户接口216可包括在外围设备208的集合内的一个或多个输入/输出设备,例如无线通信系统246、车载电脑248、麦克风250和扬声器252。
计算机系统212可基于从各种子系统(例如,行进系统202、传感器系统204和控制系统206)以及从用户接口216接收的输入来控制车辆002的功能。例如,计算机系统212可利用来自控制系统206的输入以便控制转向单元232来避免由传感器系统204和障碍物避免系统244检测到的障碍物。在一些实施例中,计算机系统212可操作来对车辆002及其子系统的许多方面提供控制。
可选地,上述这些组件中的一个或多个可与车辆002分开安装或关联。例如,存储器214可以部分或完全地与车辆002分开存在。上述组件可以按有线和/或无线方式来通信地耦合在一起。
可选地,上述组件只是一个示例,实际应用中,上述各个模块中的组件有可能根据实际需要增添或者删除,图1B不应理解为对本申请实施例的限制。
在道路行进的自动驾驶汽车,如上面的车辆002,可以识别其周围环境内的物体以确定对当前速度的调整。所述物体可以是其它车辆、交通控制设备、交通标志物或者其它类型的物体。在一些示例中,可以独立地考虑每个识别的物体,并且基于物体的各自的特性,诸如它的当前速度、加速度、与车辆的间距等,可以用来确定自动驾驶汽车所要调整的速度。
可选地,自动驾驶汽车车辆002或者与自动驾驶车辆002相关联的计算设备(如图1B的计算机系统212、计算机视觉系统240、存储器214)可以基于所识别的物体的特性和周围环境的状态(例如,交通、雨、道路上的冰、等等)来预测所述识别的物体的行为。可选地,每一个所识别的物体都依赖于彼此的行为,因此还可以将所识别的所有物体全部一起考虑来预测单个识别的物体的行为。车辆002能够基于预测的所述识别的物体的行为来调整它的速度。在这个过程中,也可以考虑其它因素来确定车辆002的速度,诸如,车辆002在行驶的道路中的横向位置、道路的曲率、静态和动态物体的接近度等等。
除了提供调整自动驾驶汽车的速度的指令之外,计算设备还可以提供修改车辆002的转向角的指令,以使得自动驾驶汽车遵循给定的轨迹和/或维持与自动驾驶汽车附近的物体(例如,道路上的相邻车道中的轿车)的安全横向和纵向距离。
上述车辆002可以为轿车、卡车、摩托车、公共汽车、船、飞机、直升飞机、割草机、娱乐车、游乐场车辆、施工设备、电车、高尔夫球车、火车、和手推车等,本申请实施例不做特别的限定。
可以理解的是,图1B中的智能车辆功能图只是本申请实施例中的一种示例性的实施方式,本申请实施例中的智能车辆包括但不仅限于以上结构。
下面结合图2A-图2B对本申请实施例提供的交通标志物的识别方法进行说明,图2A-图2B为一种交通标志物的识别方法的流程示意图,该方法可以由上述图1A所示的系统来实现,也可以由电子设备执行,该电子设备可以是上述图1A所示的可移动设备10或服务器20,或者由上述图1B所示的车辆002。本申请实施例以图3A-图3G所示的交通锥的识别方法的原理示意图、图4A-图4H所示的三角警告牌的识别方法的原理示意图为例来说明。应理解,不限于上述交通锥、三角警告牌,本申请提供的交通标志物的识别方法还可以用于识别其他的交通标志物。如图2A所示,该方法可以包括但不限于如下步骤:
S201、电子设备获取待识别图像。
在一些实现方式中,电子设备可以是车辆,车辆可以通过摄像头按照预设频率实时获取车辆行驶前方向上、或周围环境、或行驶后方的图像。针对获取到的连续的多帧图像,都可以进行交通标志物的识别。待识别图像可以是其中的每一帧图像;也可以是从中筛选出的一帧图像,例如,每隔10帧选出一帧作为待识别图像。本申请实施例以其中一帧图像(即待识别图像)为例来说明,各个帧图像的交通标志物的识别方法同该待识别图像的识别方法,这里不再赘述。
在一些实现方式中,电子设备可以是服务器,服务器可以接收车辆实时发送的或者定时发送其通过摄像头获取的图像,例如,车辆每隔0.5秒向服务器发送一帧图像,待识别图像为可以是服务器接收到的图像中的每一帧图像;又例如,车辆实时向服务器发送获取每一帧图像,服务器可以从中选择,例如每隔10帧选出一帧作为待识别图像。
在一些实施例中,在电子设备采集到或接收到待识别图像后,可以对该图像进行预处理,以得到分辨率符合规定的图像。例如,待识别图像的原始尺寸为1920*1080,通过2倍下采样至尺寸为960*540的图像。如图3A和图3B所示,均为下采样后的待识别图像。本申请实施例以识别图3A中的交通锥和识别图3B中的三角警告牌为例来说明。
S202、电子设备从待识别图像中识别目标颜色的像素点,得到至少一个区块,区块由相连接的多个像素点组成,多个像素点的颜色相同,目标颜色为目标交通标志物中的一种或多种颜色。
其中,目标交通标志物可以是一种或多种交通标志物,即需要识别的交通标志物。“多种”指两种或两种以上。
当目标交通标物为为一种交通标志物时,该目标颜色可以是该交通标志物所包含的颜色中的一种或多种颜色,例如,如图6所示,目标交通标物为交通锥,在国标中对交通锥规定的颜色为橙红色和白色相间条纹,此时,目标颜色可以为橙红色,也可以为橙红色和白色。又例如,目标交通标物为三角警告牌,在国标中对三角警告牌规定的颜色为红色,此时,目标颜色可以为红色。
当目标交通标物为多种交通标志物时,例如,目标交通标物包括交通锥和三角警告牌,此时,目标颜色可以包括橙红色和红色。
需要说明的是,一种颜色在色彩空间中对应一个颜色范围,在该颜色范围内的颜色称为颜色相同。例如,在RGB色彩空间下,红色的颜色值的范围可以是P≤红色的颜色值≤Q,在颜色值在P到Q之间的颜色称为颜色相同,都称为红色。
在一种实现中,电子设备从待识别图像中识别目标颜色的像素点,得到至少一个区块,的一种实现可以是:将待识别图像中颜色为目标颜色的像素点保留,滤除颜色不为目标颜色的像素点,保留的相连接的且颜色相同的像素点组成一个区块,由此可以得到上述至少一个区块。
应理解,在一些实施例中,电子设备在从待识别图像中识别目标颜色的像素点之后,电子设备还可以对得到的区块进行过滤,例如,电子设备确定各个区块包括的像素点的个数,滤除像素点的个数小于m的区块,如m的取值为5,得到的区块即为需要进行聚类的区块。
例如,将待识别图像的色彩空间从RGB转换为HSV,图5为HSV色彩空间的示意图,图5中的a为HSV色彩空间的圆锥体模型,HSV色彩空间由色相H、饱和度S和明度V三个维度来描述,如图所示,圆椎体的中心轴取值为自底部的黑色到顶部的白色,而在它们中间的是灰色,明度V沿着这个轴测量,绕这个轴的角度对应于“色相H”,到这个轴的距离对应于“饱和度S”。其中,色相表示色彩信息,即所处的光谱颜色的位置,如图5中的b所示,色相用角度度量,取值范围为0~360°;饱和度表示颜色接近光谱色的程度,取值范围为0~1;明度决定颜色空间中颜色的明暗程度,取值范围为0~1。如图6所示,国标中规定交通锥的颜色包括橙红色,在识别交通锥时,目标颜色为橙红色。在HSV色彩空间中,橙红色的颜色范围包括在色相、饱和度和明度三个维度上的范围,由图5可知,橙红色的色相、饱和度和明度的范围分别为0°≤H≤10°或160°≤H≤180°;70≤S≤255;100≤V≤255。在从该待识别图像中识别目标颜色的像素点时,仅当该待识别图像中的像素点的色相、饱和度和明度在上述范围内时,该像素点被保留。如图3B所示,图3B为对上述图3A在HSV色彩空间下的待识别图像进行目标颜色识别后得到的结果。
例如,待识别图像为RGB色彩空间下的图像。电子设备根据国标中对交通标志物的颜色规定,确定目标颜色在R、G、B三个色彩通道的权重范围,得到目标颜色的颜色值最小值T_lower=a’×R+b’×G+c’×B,目标颜色的最大值T_upper=a”×R+b”×G+c”×B,从而确定目标颜色的颜色值的范围为:T_lower≤T≤T_upper。其中,(a’,b’,c’)为目标颜色的颜色值的最小值在R、G、B三个色彩通道的权重,(a”,b”,c”)为目标颜色的颜色值的最大值在R、G、B三个色彩通道的权重,a’,b’,c’,a”,b”,c”均为有理数。进一步地,电子设备确定待识别图像中每一个像素的颜色值Y=a×R+b×G+c×B,其中(a,b,c)分别为R、G、B三个色彩通道的权重,a,b,c均为有理数,仅当待识别图像中的像素的颜色值Y满足T_lower≤Y≤T_upper时,保留该像素。如图4B所示,图4B为对上述图4A在RGB色彩空间下的待识别图像进行目标颜色识别后得到的结果。
需要说明的是,在交通场景中,交通标志物的颜色信息被标准化,因此可以根据交通标志物的颜色特征对待识别图像中的颜色进行过滤,得到交通标志物可能存在的区域。在如恶劣天气条件、白天强光、夜晚照明不足等由于光照条件变化而造成的颜色信息不稳定的情况下,可以将待识别图像转换成HSV色彩空间、Lab色彩空间。图像的颜色在HSV色彩空间、Lab色彩空间下不依赖光线,能够显著减少由光照所引起的影响,因此可以利用色彩空间转换,从而获得更加准确的目标颜色识别的结果。
S203、电子设备根据该至少一个区块的位置,对该至少一个区块聚类,得到至少一个候选实例,该至少一个候选实例包括M个候选实例,M为正整数。
其中,聚类的方法可以是:电子设备根据各个区块的位置,确定每两个区块之间的距离;进而,将距离小于第一阈值的两个区块划分到同一个候选实例中。
在具体的实现中,可以使用基于密度的聚类算法(density-based spatialclustering of applications with noise,DBSCAN)、HDBSCAN算法、连通域分析(connected component analysis,CCA)、K均值(K-MEANS)聚类算法等算法,基于区块的位置对区块进行聚类。
其中,DBSCAN算法是电子设备计算区块的密度值,将密度相连的区块划分为一个候选实例。例如,图3C为对上述图3B中的区块进行聚类的结果,如图3C所示,得到三个候选实例801、802和803。
连通域分析是电子设备在图像中寻找出具有相同像素值并且位置相邻的像素组成的区域,该区域称为连通域,进而将彼此互相独立的连通域标记出来作为至少一个候选实例。如图4C所示,将图4B划分为等尺寸的栅格,然后利用连通域分析,将相邻栅格的区块划分为一类,得到如图4D所示的候选实例1601和1602。
K均值算法是电子设备先确定若干个区块为一个簇,给每个簇初始化一个随机的中心向量值,然后计算每个区块离各个中心的距离,将其分到最近的那个簇中心所代表的簇。接下来电子设备根据对所有区块的分配重新计算每个簇的中心向量,它是该簇所有区块的均值。如此循环,直至收敛,得到至少一个簇,即至少一个候选实例。
S204、电子设备针对上述M个候选实例,提取各个候选实例的特征,其中,候选实例Fi为M个候选实例中的一个候选实例,i为不大于M的正整数。
其中,特征可以是几何特征,或者纹理特征,或者几何特征和纹理特征。
S205、电子设备根据各个候选实例各自的特征,从该M个候选实例中筛选出目标实例。
S206、电子设备识别目标实例对应的交通标志物。
需要说明的是,本申请实施例中所描述的候选实例和目标实例分别是待识别图像中的候选实例和目标实例分别对应区域的图像或者数据。
下面通过三个实施方式来描述上述步骤S204-S206的具体实现:
实施方式(一):
在实施方式(一)中,电子设备通过候选实例的几何特征来确定目标实例及目标实例对应的交通标志物。具体实现中,可以通过几何模板匹配(方式A1)、第一分类器(方式A2)两种方式来从候选实例中确定出目标实例,进一步地,可以通过B1和B2两种方式来识别目标实例对应的交通标志物。
下面对方式A1和方式A2分别描述:
方式A1、通过几何模板匹配来确定目标实例。该过程可以包括如下步骤:
A1a、电子设备提取上述M个候选实例的凸包络,其中,候选实例Fi的凸包络为候选实例Fi的几何特征。
其中,凸包络是将候选实例的最外层的点连接起来构成的凸多边形。例如,图3D为对上述图3C所示的三个候选实例的凸包络提取,得到候选实例801、802和803的凸包络901、902和903,图4E为对上述图4D所示的两个候选实例的凸包络提取,得到候选实例1601、和1602的凸包络1701和1702。
A1b、电子设备确定各个候选实例的几何模板。
如下以候选实例Fi为例介绍各个候选实例的几何模板的确定方法,如下为确定候选实例Fi的几何模板的2种方法:
方法一:
目标交通标志物以图7所示的交通锥101为例,根据国标中对交通锥形状的描述,即圆锥体,提取几何特征,即为交通锥的几何模板,作为匹配的参考对象。由于圆锥体在图像中的成像大致呈三角形,因此,在识别待识别图像中的交通锥时,可以使用一个等腰锐角三角形作为几何模板,如图7所示的等腰锐角三角形103。根据透视关系中近大远小的原理,几何模板的大小由其在图像中所处的位置决定。本实施例中,可以建立一个查找表,该查找表可以包括多个位置分别对应的几何模板,例如,将图像等距划分为n行,各个行分别对应一个几何模板,如第j行所对应的几何模板的大小为wj×hj,其中,wj、hj分别为第j行所对应的几何模板的像素宽和像素高。又例如图7所示的三角警告牌102,根据国标中对三角警告牌的描述,即等边三角形,设计几何模板,即为三角警告牌的几何模板,作为匹配的参考对象。相应的,本实施例使用一个等边三角形作为几何模板,如图7所示的等边三角形104。
在一些实施例中,电子设备将查找表中候选实例Fi的位置对应的几何模板作为候选实例Fi的几何模板。该查找表中包括多个位置和其分别对应的几何模板。其中,该多个位置可以由上述图像中的行数描述,例如,候选实例Fi的位置可以是候选实例Fi在待识别图像中的行数Xi,候选实例Fi的几何模板即为该行数Xi所对应的几何模板。
例如,图3E中包括上述图3C中的三个候选实例801、802和803对应的几何模板1001、1002和1003,该几何模板根据如图6所示的交通锥的几何特征设计,为等腰锐角三角形。又例如,图4F中包括上述图4D中1601和1602对应的几何模板1801和1802。
方法二:
如图8A和图8B所示,以交通锥为例来说明几何模板的实时生成的方式。首先,提取国标中对交通锥101的实物的几何形状大小的描述,建立三维模型(图8A中的三维模型201),该三维模型可以在以三维模型201的中心轴为z轴和以交通锥的底面为xy平面的坐标系301下描述。然后,将一个候选实例的图像坐标反投影在世界坐标系中的理想地平面,得到该候选实例的世界坐标,即该候选实例在理想地平面的位置,其中,该反投影的过程为二维数据转换为三维数据的过程,也称为2D-to-3D反投影的过程,图像坐标为在待识别图像的平面的坐标。进一步地,将三维模型201置于理想地平面上该候选实例的位置上。最后,将置于理想地平面上的三维模型投影至待识别图像的平面,得到该候选实例对应的几何模板,其中,该投影的过程为三维数据转换为二维数据的过程,也称为3D-to-2D投影的过程。从而,可以进一步地对候选实例进行几何模板匹配。例如,如图8B所示,图8B中①为输入的待识别图像,首先经过目标颜色的识别和对区块的聚类,得到图8B中②所示的聚类结果,即多个候选实例;然后,通过对②中的每一个候选实例的图像坐标反投影,得到如图中③中的多个候选实例在理想地平面上的位置;进一步地,在理想地平面的每一个候选实例的位置上摆放三维模型,如图中④所示;最后,将置于理想地平面上的三维模型投影至待识别图像的平面,如图中⑤所示。
在具体的实施方式中,待识别图像是由目标设备拍摄的。电子设备可以根据目标设备在世界坐标系的位置、候选实例Fi在待识别图像中的第一位置和景深等信息,生成候选实例Fi对应的几何模板,该过程可以包括:(1)电子设备根据目标设备在世界坐标系的位置、候选实例Fi在待识别图像中的第一位置和景深,确定候选实例Fi在世界坐标系下的第二位置,其中,目标设备为拍摄待识别图像的摄像头,该目标设备的位置可以基于电子设备的位置和该摄像头与电子设备的位置关系来确定;(2)电子设备根据第一位置和第二位置,确定待识别图像所在的坐标系与世界坐标系的转换关系;(3)电子设备根据在所述第二位置时交通标志物的三维模型和转换关系,确定候选实例Fi的几何模板为三维模型在待识别图像中的投影。其中,对三维模型的投影过程为根据上述转换关系的旋转平移计算。三维模型为根据国标中对交通标志物的几何特征的描述而设计的。
应理解,在一种实现中,候选实例Fi的位置可以是候选实例Fi的凸包络底边中点的位置,该位置可以是该中点在待识别图像所在的坐标系的坐标。
A1c、电子设备确定候选实例Fi的几何特征与候选实例Fi对应的几何模板的匹配度。
可选地,候选实例Fi与其对应的几何模板的匹配度是:两者几何特征的宽高比的比值、面积比、交并面积比、胡氏不变矩的相似度中的一种,或者基于上述宽高比、面积比、交并面积比、胡氏不变矩的相似度中的多种来确定。下面以候选实例Fi为例分别介绍候选实例Fi与其对应的几何模板的宽高比、面积比、交并面积比、胡氏不变矩的相似度的具体实现。
(1)、宽高比的比值:电子设备确定候选实例Fi的凸包络的宽高比;确定候选实例Fi对应的几何模板的宽高比;进一步地,确定候选实例Fi的凸包络的宽高比与其对应的几何模板的宽高比的比值,该比值也称为第一比值。
其中,凸包络或几何模板的宽高比可以是凸包络或几何模板的外接矩形的宽高比。
(2)、面积比:电子设备确定候选实例Fi的凸包络的面积;确定候选实例Fi对应的几何模板的面积;确定候选实例Fi的凸包络的面积与候选实例Fi对应的几何模板的面积的比值,该比值也称为第二比值。
(3)、交并面积比:电子设备将候选实例Fi的凸包络与候选实例Fi对应的几何模板分别对齐,对齐后候选实例Fi的凸包络的底边中点与候选实例Fi对应的几何模板分别重合,在具体的实施方式中,电子设备对候选实例Fi对应的几何模板所在坐标系中的位置进行平移计算,将候选实例Fi对应的几何模板平移到候选实例Fi所在坐标系中的位置上;确定候选实例Fi的凸包络的面积与候选实例Fi对应的几何模板的面积的交集面积;确定候选实例Fi的凸包络的面积与候选实例Fi对应的几何模板的面积的并集面积;确定上述交集面积与上述并集面积的比值,该比值也称为第三比值。
(4)、胡氏不变矩的相似度:电子设备提取候选实例Fi的几何特征的第一胡氏不变矩;提取候选实例Fi的对应的几何模板的第二胡氏不变矩;确定第一胡氏不变矩与第二胡氏不变矩的相似度。
需要说明的是,可以执行上述(1)至(4)种实现方法中的一个或多个。上述第(1)至(4)种实现方法的执行顺序可以不分先后,同时执行,也可以依次执行,本申请实施例不作限定。
A1d、电子设备将匹配度大于目标阈值的候选实例确定为目标实例。
在一些实施例中,匹配度可以是上述宽高比的比值、面积比、交并面积比、胡氏不变矩的相似度中的一种。
在一些实施例中,匹配度包括宽高比的比值、面积比、交并面积比和胡氏不变矩的相似度等中的多种,这些宽高比的比值、面积比、交并面积比和胡氏不变矩可以分别对应的一个目标阈值。当候选实例与其几何模板的宽高比的比值、面积比、交并面积比和胡氏不变矩均大于其对应的目标阈值时,才确定该候选实例为目标实例。
例如,电子设备执计算如图3E所示的三个候选实例与其对应的几何模板的匹配度,确定图3E中的候选实例1004与其对应的几何模板1001的宽高比的比值、面积比、交并面积比都同时大于其对应的目标阈值,因此,如图3F所示,确定候选实例1004为目标实例1101。又例如,图4F中的候选实例1803与其对应的几何模板1801的宽高比的比值、面积比、交并面积比都同时大于其对应的目标阈值,因此,如图4G所示,确定候选实例1803为目标实例1901。
在一些实施例中,候选实例Fi与其对应的几何模板的匹配度可以包括由上述宽高比的比值、面积比、交并面积比、胡氏不变矩的相似度的多种的加权之和。
实施上述A1中通过几何模板匹配来确定目标实例的方法,该过程无需训练,无需针对目标交通标志物和其类别进行数据采集和真值标注,即使同一个种类的目标交通标志物在外表上存在一定程度的变化,只要其色彩、整体形状没有发生特别严重的改变(与国标所规定的偏差不大),仍然可以形成检测。
方式A2、通过第一分类器来确定目标实例。
可以训练一个第一分类器。该分类器是以样本实例的几何特征为输入,样本实例的真实结果为标签训练得到的,真实结果用于指示输入的样本实例对应的交通标志物。
针对每一个候选实例,可以提取其几何特征,将几何特征输入到第一分类器中,以预测出该候选实例的分类结果。
以候选实例Fi为例:电子设备提取候选实例Fi的几何特征;将候选实例Fi的几何特征输入到第一分类器,得到候选实例Fi的分类结果,该分类结果用于指示输入的几何特征对应的交通标志物的类型。若候选实例Fi的分类结果指示为目标交通标志物或为目标交通标志物中的一种时,则确定该候选实例Fi为目标实例,若候选实例Fi的分类结果不为交通标志物,则确定下一个候选实例是不是目标实例。
在确定目标实例后,可以通过B1和B2两种方式来识别该目标实例对应的交通标志物。下面对方式B1和方式B2分别描述:
方式B1、电子设备将A1中目标实例对应的几何模板所描述的交通标志物或A2中的分类结果直接作为目标实例的识别结果。
方式B2、电子设备在确定目标实例之后,可以基于纹理特征来进一步确认该目标实例对应的交通标志物,以提高识别的准确性。当基于纹理特征识别到的目标实例的交通标志物与上述基于几何特征识别到的目标实例的交通标志物相同时,才确定该目标实例的识别结果为上述基于几何特征识别到的目标实例的交通标志物,即上述A1中目标实例对应的几何模板所描述的交通标志物或A2中的分类结果。
关于基于纹理特征来识别该目标实例对应的交通标志物的方法可以包括通过第四分类器和纹理模板匹配两种方式,如下分别介绍:
通过第二分类器:
首先,可以训练一个第二分类器。该第二分类器是以样本实例的纹理特征为输入,样本实例的真实结果为标签训练得到的,真实结果用于指示样本实例对应的交通标志物。
进一步地,电子设备提取目标实例的纹理特征;将目标实例的纹理特征输入到第二分类器,得到目标实例的分类结果;在目标实例的分类结果和目标实例对应的交通标志物相同时,电子设备确定目标实例的识别结果为目标实例对应的交通标志物。反之,在目标实例的分类结果和目标实例对应的交通标志物不相同时,无法确定该目标实例的识别结果。其中,该分类结果用于指示输入的纹理特征对应的交通标志物的类型。需要说明的是,目标实例对应的交通标志物为基于目标实例的几何特征识别到的交通标志物,当电子设备执行A1得到目标实例时,目标实例对应的交通标志物为A1中目标实例对应的几何模板所描述的交通标志物;当电子设备执行A2得到目标实例时,目标实例对应的交通标志物为A2中的分类结果指示的交通标志物。
可选地,纹理特征可以为哈尔特征,第二分类器可以为基于哈尔特征的分类器。该电子设备可以包括纹理特征提取模块,该纹理特征提取模块输入的目标实例的哈尔特征,进而,通过第四分类器得到该目标实例的分类结果。例如,将上述图3F中的目标实例1101的图像(即图3F中矩形框内的图像)输入至基于第二分类器中,得到目标实例1101的分类结果为交通锥,如图3G中所示的交通锥的识别结果1201。
可选地,纹理特征可以为梯度方向直方图(histogram of oriented gradient,HOG)特征,第四分类器可以为基于HOG特征的支持向量机(support vector machine,SVM)分类器。该电子设备可以包括纹理特征提取模块,该纹理特征提取模块输入的目标实例的HOG特征,进而,通过第四分类器得到该目标实例的分类结果。例如,将上述图4G中的目标实例1901的图像(即图4G中矩形框内的图像)输入至基于HOG特征的SVM分类器中,得到目标实例1901的分类结果为三角警告牌,如图4H中所示的三角警告牌的识别结果2001。
应理解,纹理特征还可以是其他的表达方式,如局部二值模式(local binarypattern,LBP)特征,还可以选择其他的分类器,本申请实施例不作限定。
纹理模板匹配:
其中,纹理模板为目标交通标志物的纹理特征。可以通过提取目标交通标志物的纹理特征,作为纹理模板。同几何模板相似,根据透视关系中近大远小的原理,纹理模板的大小由其在图像中所处的位置决定。可以基于目标实例在图像中的位置从中选取该目标实例对应的纹理模板。
进一步地,电子设备可以计算目标实例的纹理特征和目标实例对应的纹理模板的匹配度;在匹配度大于预设阈值的目标实例时,确定目标实例的匹配结果为目标实例对应的纹理模板描述的交通标志物;在该匹配结果与目标实例对应的交通标志物相同时,确定目标实例的识别结果为目标实例对应的交通标志物;反之,在目标实例的分类结果和目标实例对应的交通标志物不相同时,无法确定该目标实例的识别结果。需要说明的是,目标实例对应的交通标志物为基于目标实例的几何特征识别到的交通标志物,其中,当电子设备执行A1得到目标实例时,目标实例对应的交通标志物为A1中目标实例对应的几何模板所描述的交通标志物;当电子设备执行A2得到目标实例时,目标实例对应的交通标志物为A2中的分类结果指示的交通标志物。
实施上述B2中通过纹理模板匹配来确定目标实例的方法,该过程无需训练,无需针对目标交通标志物和其类别进行数据采集和真值标注,可实现快速确定目标实例。
实施方式(二):
在实施方式(二)中,电子设备通过候选实例的纹理特征来确定目标实例及目标实例对应的交通标志物。具体实现中,可以通过纹理模板匹配(方式C1)、第二分类器(方式C2)两种方式来从候选实例中确定出目标实例,进一步地,可以通过D1和D2两种方式来识别目标实例对应的交通标志物。
下面对方式C1和方式C2分别描述:
方式C1、
可以通过提取目标交通标志物的纹理特征,作为纹理模板。同几何模板相似,根据透视关系中近大远小的原理,纹理模板的大小由其在图像中所处的位置决定。可以基于候选实例在图像中的位置从中选取该候选实例对应的纹理模板。
进一步地,针对每一个候选实例,确定该候选实例的纹理特征与该候选实例对应的纹理模板的匹配度,也称为第二匹配度。将第二匹配度大于第二目标阈值的候选实例确定为目标实例。
方式C2、
训练一个第二分类器。该第二分类器是以样本实例的纹理特征为输入,样本实例的真实结果为标签训练得到的,真实结果用于指示样本实例对应的交通标志物。
进一步地,针对每一个候选实例,可以提取其纹理特征,将纹理特征输入到第二分类器中,以预测出该候选实例的分类结果。
以候选实例Fi为例:电子设备提取候选实例Fi的纹理特征;将候选实例Fi的纹理特征输入到第二分类器,得到候选实例Fi的分类结果,其中,该分类结果用于指示输入的纹理特征对应的交通标志物的类型;若候选实例Fi的分类结果指示为目标交通标志物或为目标交通标志物中的一种时,则确定该候选实例为目标实例,若候选实例Fi的分类结果指示的不是目标交通标志物,则确定下一个候选实例是不是目标实例。
关于纹理特征和纹理特征的提取方法可以参见上述方式B2中相关描述,这里不再赘述。
同上述实现方式(一),在确定目标实例后,可以通过D1和D2两种方式来识别该目标实例对应的交通标志物。下面对方式D1和方式D2分别描述:
D1、电子设备将C1中目标实例对应的纹理模板所描述的交通标志物或C2中的分类结果直接作为目标实例的识别结果。
D2、电子设备在确定目标实例之后,可以基于几何特征来进一步确认该目标实例对应的交通标志物,以提高识别的准确性。需要说明的是,目标实例对应的交通标志物为基于目标实例的纹理特征识别到的标志物,当基于几何特征识别到的目标实例的交通标志物与方式C1或方式C2基于纹理特征识别到的目标实例的交通标志物相同时,才确定该目标实例的识别结果为上述基于纹理特征识别到的目标实例的交通标志物,即上述C1中目标实例对应的纹理模板所描述的交通标志物或C2中的分类结果。
关于基于几何特征来识别该目标实例对应的交通标志物的方法可以包括通过第一分类器和几何模板匹配两种方式,关于第一分类器可以参见上述实施方式(一)的A2中相关描述,关于几何模板匹配可以参见上述实施方式(一)的A1中相关描述,这里不再赘述。
实施方式(三):
在实施方式(三)中,电子设备通过候选实例的几何特征和纹理特征来确定目标实例及目标实例对应的交通标志物。
训练一个第三分类器,该第三分类器是以样本实例的几何特征和或纹理特征为输入,样本实例的真实结果为标签训练得到的,真实结果用于指示样本实例对应的交通标志物。
进一步地,针对每一个候选实例,将其输入到第三分类器,得到各个候选实例的分类结果,该分类结果用于指示输入的几何特征和纹理特征对应的交通标志物的类型。进一步地,电子设备将M个候选实例中分类结果为目标交通标志物或为目标交通标志物中的一种的候选实例,确定为目标实例,进而,确定目标实例的识别结果为该分类结果指示的交通标志物。
如图9所示,图9为一种利用候选实例的几何特征和纹理特征来确定目标实例及其分类结果的示意说明图。以候选实例Fi为例,该过程可以包括:
(1)电子设备提取候选实例Fi的几何特征和纹理特征。关于,提取几何特征的方法可以参见实施方式(一)的A2中相关描述,关于提取纹理特征的实现可实施方式(一)的B2中相关描述。
(2)电子设备将候选实例Fi的几何特征和纹理特征输入到第三分类器,得到候选实例Fi的分类结果,
(3)若候选实例Fi的分类结果目标交通标志物或为目标交通标志物中的一种时,则确定该候选实例为目标实例,执行(4);若候选实例Fi的分类结果不为交通标志物,则可以识别下一个候选实例。
(4)确定目标实例Fi的识别结果为该分类结果指示的交通标志物。
上述交通标志物的识别方法,通过交通标志物的颜色特征对待识别图像中的颜色进行识别,得到候选实例,再根据交通标志物的几何特征和/或纹理特征对候选实例进行筛选或分类,可以快速识别出待识别图像中的交通标志物,进而可以及时提醒或对车辆的行驶方向等进行规划和控制,可以提高车辆在行驶过程中的安全性。
进一步地,当同一个种类的交通标志物在外表上存在一定程度的变化时,只要其色彩、整体形状、纹理没有发生严重的改变(与国标所规定的偏差不大),仍然可以完成识别。而且,当车辆处于静止状态,场景中同样静止的物体无法产生光流时,或当车辆处于运动状态,且交通标志物处于车辆正前方,运动状态为静止或者平行于车辆运动方向时,仍然可以实现对交通标志物的有效检测。因为该方法不依赖交通标志物相对于车辆的运动状态,而是利用了交通标志物固有的属性和特征,因此该方法具有较好的稳定性。
下面对本申请实施例涉及的电子设备进行描述。
请参阅图10,图10是本申请实施例提供的一种电子设备100的结构示意图,电子设备100可以是图1A中的可移动设备或服务器,还可以是图1B中的车辆或者车辆中的计算机识别系统或计算设备等。如图10所示,该电子设备包括处理器110、内部存储器120、外部存储器接口130、摄像头140、显示屏150、通信模块160、音频模块170等。其中,内部存储器120或通过外部存储器接口130连接的外部存储器可以存储计算机程序代码,该计算机程序代码包括计算机指令,处理器110可以调用该计算机指令,使得电子设备100实现上述图2A所示任意一种交通标志物的识别方法。
可以理解的是,本申请实施例示意的结构并不构成对电子设备的具体限定。在本申请另一些实施例中,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。其中,各部分的详细描述如下。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图像处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
内部存储器120可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器120的指令,从而执行电子设备100的各种功能应用以及数据处理。内部存储器120可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器120可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
外部存储器接口130可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口130与处理器110通信,实现数据存储功能。例如将录制的音频,视频等文件保存在外部存储卡中。
摄像头140用于捕获车辆或其他可移动平台在行驶路径中的周围环境的静态图像或视频。摄像头140可以包括单目摄像头141、双目摄像头142、多目摄像头、或环视摄像头143等中的一种或多种。物体通过镜头生成光学图像投射到摄像头140中的感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头,N为大于1的正整数。
显示屏150用于显示图像,视频等,例如车辆或其他可移动平台在行驶路径中的周围环境的图像。显示屏150包括显示面板。显示面板可以采用液晶显示屏(liquid crystaldisplay,LCD),有机发光二极管(organic light-emitting diode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrix organic light emitting diode的,AMOLED),柔性发光二极管(flex light-emitting diode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot light emitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏150,N为大于1的正整数。
通信模块160可以包括无线通信模块和有线通信模块。无线通信模块可以实现2G/3G/4G/5G移动通信,无线局域网(wireless local area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(globalnavigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等近距离无线通信。有线通信模块可以包括金属导线、光纤等有形媒质,可以实现电子设备100与其他设备通过该有形媒质进行信息的传送。
通信总线可包括一个通路,在上述组件之间传送信息,该总线可以是PCI总线或EISA总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线标识,但并不表示仅有一根总线或者一种类型的总线。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A播放音频文件。
麦克风170B,也称“话筒”,“传声器”,用于将声音信号转换为电信号。电子设备100可以通过麦克风170B采集车辆或其他可移动平台所处的环境中的声音。电子设备100可以设置至少一个麦克风170B。在另一些实施例中,电子设备100可以设置两个麦克风170B,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170B,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
下面对本申请实施例涉及的一种交通标志物的识别装置进行描述。
请参阅图11,图11是本申请实施例提供的一种交通标志物的识别装置1100的结构示意图,该识别装置可以是图1A中的可移动设备或服务器,还可以是图1B中的车辆或者车辆中的计算机识别系统或计算设备等。其中,该识别装置包括如下部分或全部单元:
第一识别单元1101,用于从待识别图像中识别目标颜色的像素点,得到至少一个区块,所述区块由相连接的多个像素点组成,所述多个像素点的颜色相同,所述目标颜色为目标交通标志物中的一种或多种颜色;
聚类单元1102,用于根据所述至少一个区块的位置,对所述至少一个区块聚类,得到至少一个候选实例,所述候选实例为所述至少一个区块中的一个或多个区块的组合;
提取单元1103,用于针对所述至少一个候选实例中的每一个候选实例,提取所述每一个候选实例的特征;
筛选单元1104,用于根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例;
第二识别单元1105,用于识别所述目标实例对应的交通标志物。
在一种可能的实现中,所述特征包括几何特征,
所述筛选单元1104具体用于:确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,所述几何模板为用于描述所述目标交通标志物的几何特征;以及,将所述至少一个候选实例中所述第一匹配度大于第一目标阈值的候选实例确定为目标实例;
所述筛选单元1104具体用于:根据所述目标实例对应的几何模板所描述的交通标志物确定所述目标实例的识别结果。
在一种可能的实现中,所述特征包括几何特征,
所述提取单元1103具体用于:提取所述每一个候选实例的几何特征;
所述筛选单元1104具体用于:将所述每一个候选实例的几何特征输入到第一分类器的,得到所述每一个候选实例的第一分类结果,所述第一分类结果用于指示输入的几何特征对应的交通标志物的类型,所述第一分类器是以第一样本实例为输入,所述第一样本实例的真实结果为标签训练得到的,所述真实结果用于指示输入的几何特征对应的交通标志物;以及,将所述至少一个候选实例中第一分类结果为交通标志物的候选实例,确定为目标实例;
所述第二识别单元1105具体用于:根据所述目标实例的第一分类结果确定所述目标实例的识别结果。
在一种可能的实现中,所述特征包括纹理特征,
所述筛选单元1104具体用于:确定所述至少一个候选实例中的每一个候选实例对应的纹理模板;所述纹理模板为用于描述所述目标交通标志物的纹理特征;确定所述每一个候选实例的纹理特征与所述每一个候选实例对应的纹理模板的第二匹配度;以及,将所述至少一个候选实例中所述第二匹配度大于第二目标阈值的候选实例确定为目标实例;
所述第二识别单元1105具体用于:根据所述目标实例对应的纹理模板所描述的交通标志物确定所述目标实例的识别结果。
在一种可能的实现中,所述提取单元1103具体用于:提取所述每一个候选实例的纹理特征;
所述筛选单元1104具体用于:将所述每一个候选实例的纹理特征输入到第二分类器,得到所述每一个候选实例的第二分类结果,所述第二分类结果用于指示输入的纹理特征对应的交通标志物的类型,所述第二分类器是以第二样本实例的纹理特征为输入,所述第二样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第二样本实例对应的交通标志物;以及,将所述至少一个候选实例中第二分类结果为交通标志物的候选实例,确定为目标实例;
所述第二识别单元1105具体用于:根据所述目标实例的第二分类结果确定所述目标实例的识别结果。
在一种可能的实现中,所述提取单元1103具体用于:包括:提取所述每一个候选实例的几何特征和纹理特征;
所述筛选单元1104具体用于:将所述每一个候选实例的几何特征和纹理特征输入到第三分类器,得到所述每一个候选实例的第三分类结果,所述第三分类结果用于指示输入的几何特征和纹理特征对应的交通标志物的类型,所述第三分类器是以第三样本实例的几何特征和或纹理特征为输入,所述第三样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第三样本实例对应的交通标志物;以及,将所述至少一个候选实例中第三分类结果为交通标志物的候选实例,确定为目标实例;
所述第二识别单元1105具体用于:将所述目标实例的识别结果确定为所述目标实例的第三分类结果指示的交通标志物。
在一种可能的实现中,所述第二识别单元1105具体用于:将所述目标实例的识别结果确定为所述目标实例对应的几何模板所描述的交通标志物。
在一种可能的实现中,所述提取单元1103具体用于:提取所述目标实例的纹理特征;
所述第二识别单元1105具体用于:将所述目标实例的纹理特征输入到第四分类器,得到所述目标实例的第四分类结果,所述第四分类结果用于指示输入的纹理特征对应的交通标志物的类型,所述第四分类器是以第四样本实例的纹理特征为输入,所述第四样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第四样本实例对应的交通标志物;以及,在所述第四分类结果指示的交通标志物和所述目标实例对应的几何模板所描述的交通标志物相同时,确定所述目标实例的识别结果为所述目标实例对应的几何模板所描述的交通标志物。
在一种可能的实现中,所述筛选单元1104具体用于:确定所述每一个候选实例的凸包络的宽高比;确定所述每一个候选实例对应的几何模板的宽高比;以及确定所述每一个候选实例的凸包络的宽高比与所述每一个候选实例对应的几何模板的宽高比的第一比值为所述第一匹配度。
在一种可能的实现中,所述筛选单元1104具体用于:确定所述每一个实例的凸包络的面积;确定所述每一个候选实例对应的几何模板的面积;确定所述每一个候选实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的第二比值为所述第一匹配度。
在一种可能的实现中,所述筛选单元1104具体用于:将所述每一个实例的凸包络与所述每一个候选实例对应的几何模板分别对齐,对齐后所述每一个实例的凸包络的底边中点与所述每一个候选实例对应的几何模板分别重合;确定所述每一个实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的交集面积;确定所述每一个实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的并集面积;以及,确定所述交集面积与所述并集面积的第三比值为所述第一匹配度。
在一种可能的实现中,所述筛选单元1104具体用于:提取所述每一个候选实例的几何特征的第一胡氏不变矩;提取所述每一个候选实例的对应的几何模板的第二胡氏不变矩;以及,确定所述第一胡氏不变矩与所述第二胡氏不变矩的相似度为所述第一匹配度。
在一种可能的实现中,所述特征包括几何特征,所述提取单元1103具体用于:提取所述每一个候选实例的凸包络,所述每一个候选实例的凸包络为所述每一个候选实例的几何特征。
在一种可能的实现中,所述筛选单元1104还具体用于:将查找表中所述每一个候选实例的位置对应的几何模板作为所述每一个候选实例对应的几何模板,所述查找表中包括多个位置和所述多个位置分别对应的几何模板。
在一种可能的实现中,所述待识别图像是由目标设备拍摄的,所述筛选单元1104还具体用于:根据所述目标设备在世界坐标系的位置、所述每一个候选实例在所述待识别图像中的第一位置和景深,确定所述每一个候选实例在所述世界坐标系下的第二位置;根据所述第一位置和所述第二位置,确定所述待识别图像所在的坐标系与所述世界坐标系的转换关系;以及,根据在所述第二位置时交通标志物的三维模型和所述转换关系,确定所述每一个候选实例对应的几何模板为所述三维模型在所述待识别图像中的投影。
在一种可能的实现中,所述聚类单元1102具体用于:根据所述至少一个区块的位置,确定所述至少一个区块中的每两个区块之间的距离;以及,将距离小于第一阈值的两个区块划分到一个候选实例,得到所述至少一个候选实例。
上述实施例中所用,根据上下文,术语“当…时”可以被解释为意思是“如果…”或“在…后”或“响应于确定…”或“响应于检测到…”。类似地,根据上下文,短语“在确定…时”或“如果检测到(所陈述的条件或事件)”可以被解释为意思是“如果确定…”或“响应于确定…”或“在检测到(所陈述的条件或事件)时”或“响应于检测到(所陈述的条件或事件)”。
可以理解,本领域普通技术人员可以意识到,结合本申请各个实施例中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本领域技术人员能够领会,结合本申请各个实施例中公开描述的各种说明性逻辑框、模块和算法步骤所描述的功能可以硬件、软件、固件或其任何组合来实施。如果以软件来实施,那么各种说明性逻辑框、模块、和步骤描述的功能可作为一或多个指令或代码在计算机可读媒体上存储或传输,且由基于硬件的处理单元执行。计算机可读媒体可包含计算机可读存储媒体,其对应于有形媒体,例如数据存储媒体,或包括任何促进将计算机程序从一处传送到另一处的媒体(例如,根据通信协议)的通信媒体。以此方式,计算机可读媒体大体上可对应于(1)非暂时性的有形计算机可读存储媒体,或(2)通信媒体,例如信号或载波。数据存储媒体可为可由一或多个计算机或一或多个处理器存取以检索用于实施本申请中描述的技术的指令、代码和/或数据结构的任何可用媒体。计算机程序产品可包含计算机可读媒体。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (19)
1.一种交通标志物的识别方法,其特征在于,所述方法应用于电子设备,所述方法包括:
从待识别图像中识别目标颜色的像素点,得到至少一个区块,所述区块由相连接的多个像素点组成,所述多个像素点的颜色相同,所述目标颜色为目标交通标志物中的一种或多种颜色;
根据所述至少一个区块的位置,对所述至少一个区块聚类,得到至少一个候选实例,所述候选实例为所述至少一个区块中的一个或多个区块的组合;
针对所述至少一个候选实例中的每一个候选实例,提取所述每一个候选实例的特征;
根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例;
识别所述目标实例对应的交通标志物。
2.根据权利要求1所述的方法,其特征在于,所述特征包括几何特征,所述根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例,包括:
确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,所述几何模板为用于描述所述目标交通标志物的几何特征;
将所述至少一个候选实例中所述第一匹配度大于第一目标阈值的候选实例确定为目标实例;
所述识别所述目标实例对应的交通标志物,包括:根据所述目标实例对应的几何模板所描述的交通标志物确定所述目标实例的识别结果。
3.根据权利要求1所述的方法,其特征在于,
所述特征包括几何特征,所述提取所述每一个候选实例的特征,包括:提取所述每一个候选实例的几何特征;
所述根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例,包括:将所述每一个候选实例的几何特征输入到第一分类器的,得到所述每一个候选实例的第一分类结果,所述第一分类结果用于指示输入的几何特征对应的交通标志物的类型,所述第一分类器是以第一样本实例为输入,所述第一样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第一样本实例对应的交通标志物;将所述至少一个候选实例中第一分类结果为交通标志物的候选实例,确定为目标实例;
所述识别所述目标实例对应的交通标志物,包括:根据所述目标实例的第一分类结果确定所述目标实例的识别结果。
4.根据权利要求1所述的方法,其特征在于,所述特征包括纹理特征,所述根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例,包括:
确定所述至少一个候选实例中的每一个候选实例对应的纹理模板;所述纹理模板为用于描述所述目标交通标志物的纹理特征;
确定所述每一个候选实例的纹理特征与所述每一个候选实例对应的纹理模板的第二匹配度;
将所述至少一个候选实例中所述第二匹配度大于第二目标阈值的候选实例确定为目标实例;
所述识别所述目标实例对应的交通标志物,包括:根据所述目标实例对应的纹理模板所描述的交通标志物确定所述目标实例的识别结果。
5.根据权利要求1所述的方法,其特征在于,
所述提取所述每一个候选实例的特征,包括:提取所述每一个候选实例的纹理特征;
所述根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例,包括:
将所述每一个候选实例的纹理特征输入到第二分类器,得到所述每一个候选实例的第二分类结果,所述第二分类结果用于指示输入的纹理特征对应的交通标志物的类型,所述第二分类器是以第二样本实例的纹理特征为输入,所述第二样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第二样本实例对应的交通标志物;
将所述至少一个候选实例中第二分类结果为交通标志物的候选实例,确定为目标实例;所述识别所述目标实例对应的交通标志物,包括:根据所述目标实例的第二分类结果确定所述目标实例的识别结果。
6.根据权利要求1所述的方法,其特征在于,
所述提取所述每一个候选实例的特征,包括:提取所述每一个候选实例的几何特征和纹理特征;
所述根据所述至少一个候选实例各自的特征,从所述至少一个候选实例中筛选出目标实例,包括:
将所述每一个候选实例的几何特征和纹理特征输入到第三分类器,得到所述每一个候选实例的第三分类结果,所述第三分类结果用于指示输入的几何特征和纹理特征对应的交通标志物的类型,所述第三分类器是以第三样本实例的几何特征和或纹理特征为输入,所述第三样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第三样本实例对应的交通标志物;
将所述至少一个候选实例中第三分类结果为交通标志物的候选实例,确定为目标实例;
所述识别所述目标实例对应的交通标志物,包括:
将所述目标实例的识别结果确定为所述目标实例的第三分类结果指示的交通标志物。
7.根据权利要求2所述的方法,其特征在于,所述根据所述目标实例对应的几何模板所描述的交通标志物确定所述目标实例的识别结果,包括:
将所述目标实例的识别结果确定为所述目标实例对应的几何模板所描述的交通标志物。
8.根据权利要求2所述的方法,其特征在于,根据所述目标实例对应的几何模板所描述的交通标志物确定所述目标实例的识别结果,包括:
提取所述目标实例的纹理特征;
将所述目标实例的纹理特征输入到第四分类器,得到所述目标实例的第四分类结果,所述第四分类结果用于指示输入的纹理特征对应的交通标志物的类型,所述第四分类器是以第四样本实例的纹理特征为输入,所述第四样本实例的真实结果为标签训练得到的,所述真实结果用于指示所述第四样本实例对应的交通标志物;
在所述第四分类结果指示的交通标志物和所述目标实例对应的几何模板所描述的交通标志物相同时,确定所述目标实例的识别结果为所述目标实例对应的几何模板所描述的交通标志物。
9.根据权利要求2、7、8任一项所述的方法,其特征在于,所述确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,包括:
确定所述每一个候选实例的凸包络的宽高比;
确定所述每一个候选实例对应的几何模板的宽高比;
确定所述每一个候选实例的凸包络的宽高比与所述每一个候选实例对应的几何模板的宽高比的第一比值为所述第一匹配度。
10.根据权利要求2、7、8任一项所述的方法,其特征在于,所述确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,包括:
确定所述每一个实例的凸包络的面积;
确定所述每一个候选实例对应的几何模板的面积;
确定所述每一个候选实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的第二比值为所述第一匹配度。
11.根据权利要求2、7、8任一项所述的方法,其特征在于,所述确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,包括:
将所述每一个实例的凸包络与所述每一个候选实例对应的几何模板分别对齐,对齐后所述每一个实例的凸包络的底边中点与所述每一个候选实例对应的几何模板分别重合;
确定所述每一个实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的交集面积;
确定所述每一个实例的凸包络的面积与所述每一个候选实例对应的几何模板的面积的并集面积;
确定所述交集面积与所述并集面积的第三比值为所述第一匹配度。
12.根据权利要求2、7、8任一项所述的方法,其特征在于,所述确定所述至少一个候选实例中的每一个候选实例的几何特征与所述每一个候选实例对应的几何模板的第一匹配度,包括:
提取所述每一个候选实例的几何特征的第一胡氏不变矩;
提取所述每一个候选实例的对应的几何模板的第二胡氏不变矩;
确定所述第一胡氏不变矩与所述第二胡氏不变矩的相似度为所述第一匹配度。
13.根据权利要求2、7、8任一项所述的方法,其特征在于,所述特征包括几何特征,所述提取所述每一个候选实例的特征包括:
提取所述每一个候选实例的凸包络,所述每一个候选实例的凸包络为所述每一个候选实例的几何特征。
14.根据权利要求2、7、8任一项所述的方法,其特征在于,所述方法还包括:
将查找表中所述每一个候选实例的位置对应的几何模板作为所述每一个候选实例对应的几何模板,所述查找表中包括多个位置和所述多个位置分别对应的几何模板。
15.根据权利要求2、7、8任一项所述的方法,其特征在于,所述待识别图像是由目标设备拍摄的,所述方法还包括:
根据所述目标设备在世界坐标系的位置、所述每一个候选实例在所述待识别图像中的第一位置和景深,确定所述每一个候选实例在所述世界坐标系下的第二位置;
根据所述第一位置和所述第二位置,确定所述待识别图像所在的坐标系与所述世界坐标系的转换关系;
根据在所述第二位置时交通标志物的三维模型和所述转换关系,确定所述每一个候选实例对应的几何模板为所述三维模型在所述待识别图像中的投影。
16.根据权利要求1-15任一项所述的方法,其特征在于,所述根据所述至少一个区块的位置,对所述至少一个区块聚类,得到至少一个候选实例,包括:
根据所述至少一个区块的位置,确定所述至少一个区块中的每两个区块之间的距离;
将距离小于第一阈值的两个区块划分到一个候选实例,得到所述至少一个候选实例。
17.一种电子设备,其特征在于,包括:一个或多个处理器、一个或多个存储器,所述一个或多个存储器分别与所述一个或多个处理器耦合;所述一个或多个存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;
所述处理器用于调用所述计算机指令执行:如权利要求1-16任一项所述的交通标志物的识别方法。
18.一种车辆,其特征在于,包括:一个或多个处理器、一个或多个存储器,所述一个或多个存储器分别与所述一个或多个处理器耦合;所述一个或多个存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;
所述处理器用于调用所述计算机指令执行:如权利要求1-16任一项所述的交通标志物的识别方法。
19.一种计算机存储介质,其特征在于,包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求1-16任一项所述的交通标志物识别的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110109832.7A CN114821212A (zh) | 2021-01-27 | 2021-01-27 | 交通标志物的识别方法、电子设备、车辆和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110109832.7A CN114821212A (zh) | 2021-01-27 | 2021-01-27 | 交通标志物的识别方法、电子设备、车辆和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114821212A true CN114821212A (zh) | 2022-07-29 |
Family
ID=82523914
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110109832.7A Pending CN114821212A (zh) | 2021-01-27 | 2021-01-27 | 交通标志物的识别方法、电子设备、车辆和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114821212A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115128598A (zh) * | 2022-08-24 | 2022-09-30 | 天津瑞津智能科技有限公司 | 基于视觉感知和雷达感知融合的行为识别方法及终端设备 |
-
2021
- 2021-01-27 CN CN202110109832.7A patent/CN114821212A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115128598A (zh) * | 2022-08-24 | 2022-09-30 | 天津瑞津智能科技有限公司 | 基于视觉感知和雷达感知融合的行为识别方法及终端设备 |
CN115128598B (zh) * | 2022-08-24 | 2022-11-15 | 天津瑞津智能科技有限公司 | 基于视觉感知和雷达感知融合的行为识别方法及终端设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Han et al. | Research on road environmental sense method of intelligent vehicle based on tracking check | |
CN110543814B (zh) | 一种交通灯的识别方法及装置 | |
WO2021160184A1 (en) | Target detection method, training method, electronic device, and computer-readable medium | |
CN113792566B (zh) | 一种激光点云的处理方法及相关设备 | |
CN112639882B (zh) | 定位方法、装置及系统 | |
CN114454809B (zh) | 一种智能灯光切换方法、系统及相关设备 | |
CN110930323B (zh) | 图像去反光的方法、装置 | |
CN113128303A (zh) | 一种自动驾驶方法、相关设备及计算机可读存储介质 | |
CN105318888A (zh) | 基于无人机感知的无人驾驶车辆路径规划方法 | |
US11699237B2 (en) | Bounding box embedding for object identifying | |
EP3909811B1 (en) | Adaptive adjustment method and device for rear-view mirror | |
CN112543877B (zh) | 定位方法和定位装置 | |
EP4137990A1 (en) | Image processing method, network training method, and related device | |
CN114531913A (zh) | 车道线检测方法、相关设备及计算机可读存储介质 | |
CN113516014A (zh) | 车道线检测方法、车道线检测装置、电子设备、计算机程序以及计算机可读记录介质 | |
CN114255275A (zh) | 一种构建地图的方法及计算设备 | |
CN115205311B (zh) | 图像处理方法、装置、车辆、介质及芯片 | |
US12031834B2 (en) | Method, apparatus, electronic device, computer program, and computer readable recording medium for measuring inter-vehicle distance based on vehicle image | |
CN114842075B (zh) | 数据标注方法、装置、存储介质及车辆 | |
CN114167404A (zh) | 目标跟踪方法及装置 | |
WO2022033089A1 (zh) | 确定检测对象的三维信息的方法及装置 | |
WO2021159397A1 (zh) | 车辆可行驶区域的检测方法以及检测装置 | |
CN114821212A (zh) | 交通标志物的识别方法、电子设备、车辆和存储介质 | |
WO2024081362A1 (en) | Semantic segmentation of aggregated sensor data | |
CN115508841A (zh) | 一种路沿检测的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |