CN111695546B - 用于无人车的交通信号灯识别方法和装置 - Google Patents
用于无人车的交通信号灯识别方法和装置 Download PDFInfo
- Publication number
- CN111695546B CN111695546B CN202010598530.6A CN202010598530A CN111695546B CN 111695546 B CN111695546 B CN 111695546B CN 202010598530 A CN202010598530 A CN 202010598530A CN 111695546 B CN111695546 B CN 111695546B
- Authority
- CN
- China
- Prior art keywords
- image
- traffic signal
- signal lamp
- distance
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 64
- 230000004044 response Effects 0.000 claims abstract description 42
- 238000001514 detection method Methods 0.000 claims description 44
- 238000004422 calculation algorithm Methods 0.000 claims description 24
- 238000004590 computer program Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 description 15
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 230000008447 perception Effects 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000011426 transformation method Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000009434 installation Methods 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000012937 correction Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000012535 impurity Substances 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/584—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/29—Geographical information databases
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
- B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
- B60W2420/403—Image sensing, e.g. optical camera
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2555/00—Input parameters relating to exterior conditions, not covered by groups B60W2552/00, B60W2554/00
- B60W2555/60—Traffic rules, e.g. speed limits or right of way
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- Remote Sensing (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Mathematical Physics (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
本公开的实施例公开了用于无人车的交通信号灯识别方法和装置。该方法的一具体实施方式包括:根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值;响应于确定距离小于预设阈值,利用图像采集装置采集图像,以及根据语义地图,确定采集的图像是否显示有交通信号灯;响应于确定采集的图像显示有交通信号灯,根据语义地图,对采集的图像进行图像识别,得到该交通信号灯的识别结果。该实施方式有助于提升针对交通信号灯的识别结果的准确度。
Description
技术领域
本公开的实施例涉及计算机技术领域,具体涉及用于无人车的交通信号灯识别方法和装置。
背景技术
无人驾驶汽车(又称自动驾驶汽车、无人车等)是智能汽车的一种,也称为轮式移动机器人,主要依靠车内的以计算机系统为主的智能驾驶仪来实现无人驾驶的目的。
目前对智能车辆的研究主要致力于提高汽车的安全性、舒适性,以及提供优良的人车交互界面等等。近年来,无人车己经成为世界车辆工程领域研究的热点和汽车工业增长的新动力,很多国家都将其纳入到重点发展的技术领域。
在无人车的行驶过程中,针对交通信号灯的检测与识别是无人车的一个重要研究方向。随着人工智能技术的快速发展,涌现了许许多多的目标检测和识别算法,这些算法也都被应用于交通信号灯的检测和识别。
交通信号灯本身颜色的多边形、其周围的环境(如光线等)的负杂性和不稳定性、无人车对于交通信号灯识别的实时性要求等等,这些方面都对现有的检测和识别算法应用于交通信号灯识别的识别结果造成一定影响。
发明内容
本公开的实施例提出了用于无人车的交通信号灯识别方法和装置。
第一方面,本公开的实施例提供了一种用于无人车的交通信号灯识别方法,其中,无人车设置有图像采集装置,该方法包括:根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值;响应于确定距离小于预设阈值,利用图像采集装置采集图像,以及根据语义地图,确定采集的图像是否显示有交通信号灯;响应于确定采集的图像显示有交通信号灯,根据语义地图,对采集的图像进行图像识别,得到该交通信号灯的识别结果。
第二方面,本公开的实施例提供了一种用于无人车的交通信号灯识别装置,其中,无人车设置有图像采集装置,该装置包括:第一确定单元,被配置成根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值;第二确定单元,被配置成响应于确定距离小于预设阈值,利用图像采集装置采集图像,以及根据语义地图,确定采集的图像是否显示有交通信号灯;识别单元,被配置成响应于确定采集的图像显示有交通信号灯,根据语义地图,对采集的图像进行图像识别,得到该交通信号灯的识别结果。
第三方面,本公开的实施例提供了一种无人车,该无人车包括:图像采集装置,被配置成采集图像;一个或多个处理器;存储装置,用于存储一个或多个程序;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面,本公开的实施例提供了一种计算机可读介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
本公开的实施例提供的用于无人车的交通信号灯识别方法和装置,利用语义地图判断无人车当前的行驶位置与其对应的交通信号灯之间是否小于预设阈值,若小于,可以利用无人车上安装的图像采集装置采集图像,并进一步利用语义地图,判断采集的图像中是否包括交通信号灯,若包括,则可以对采集的图像进行识别以得到无人车的当前行驶位置对应的交通信号灯的识别结果,从而可以利用语义地图避免不必要的图像采集和图像识别等过程,进而有助于提升针对交通信号灯的识别结果的准确度,以使无人车及进行更准确度地行驶决策,提升无人车的行驶安全性。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:
图1是本公开的一个实施例可以应用于其中的示例性系统架构图;
图2是根据本公开的用于无人车的交通信号灯识别方法的一个实施例的流程图;
图3是根据本公开的用于无人车的交通信号灯识别方法的又一个实施例的流程图;
图4是根据本公开的用于无人车的交通信号灯识别方法的又一个实施例的流程图;
图5是根据本公开的用于无人车的交通信号灯识别装置的一个实施例的结构示意图;
图6是适于用来实现本公开的实施例的无人车的结构示意图。
具体实施方式
下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开的用于无人车的交通信号灯识别方法或用于无人车的交通信号灯识别装置的实施例的示例性架构100。
如图1所示,系统架构100可以包括无人车101和交通信号灯102。无人车。无人车101可以是各种类型的智能汽车。无人车101上可以安装各种各样的硬件或软件,以辅助无人车完成安全行驶、提供智能服务等功能。
无人车101上可以设置有用于采集图像的图像采集装置1011。无人车101还可以设置有用于测距的雷达、用于感知周围环境的传感器、用来发出提示信息的语音设备、用于执行如规划路线等各种决策的控制系统等等。图像采集装置可以是各种能够用于采集图像的装置。例如摄像头、摄像机等等。
交通信号灯102可以是各种用于指挥交通运行的信号灯。例如,交通信号灯包括但不限于:机动车信号灯、非机动车信号灯、人行横道信号灯、方向指示指示灯(箭头信号灯)、车道信号灯、闪光警告信号灯、道路与铁路平面交叉道口信号灯等等。
无人车101在行驶过程中,可以不断感知周围环境,并利用图像采集装置1011拍摄行驶前方的图像。在拍摄到交通信号灯时,可以对采集的图像进行识别,以确定前方交通信号灯的识别结果,进而无人车101可以根据前方交通信号灯的识别结果进行行驶决策,以保证安全行驶。
需要说明的是,本公开的实施例所提供的用于无人车的交通信号灯识别方法一般由无人车101执行,相应地,用于无人车的交通信号灯识别装置一般设置于无人车101中。
应该理解,图1中的无人车、图像采集装置、交通信号灯的数目仅仅是示意性的。根据实现需要,可以具有任意数目的无人车、图像采集装置、交通信号灯。
继续参考图2,其示出了根据本公开的用于无人车的交通信号灯识别方法的一个实施例的流程200。该用于无人车的交通信号灯识别方法包括以下步骤:
步骤201,根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值。
在本实施例中,用于无人车的交通信号灯识别方法执行主体(如图1所示的无人车101)可以先获取当前行驶位置信息和语义地图。上述执行主体可以从其通信连接的服务端获取当前行驶位置信息,也可以从其上安装的、用于确定当前行驶位置的装置获取当前行驶位置信息。上述执行主体的本地可以预先存储有语义地图。例如,无人车可以包括用于存储信息的存储装置。此时,可以利用存储装置预先存储语义地图。
当前行驶位置信息可以用于指示无人车当前行驶的位置。应当可以理解,当前行驶位置信息可以根据实际的应用需求灵活采用各种表示方式。例如,可以使用经纬度表示当前行驶位置,此时,可以使用经纬度作为当前行驶位置信息。又例如,可以使用无人车当前所在的车道表示当前行驶位置,此时,可以使用无人车当前所在的车道的标识作为当前行驶位置信息。
语义地图可以是带有语义的地图。例如,语义地图可以包含有地图中呈现的各种事物(如车道、交通信号灯等等)的语义信息。不同事物的语义信息可以根据实际的应用需求灵活设置。作为示例,对于语义地图中的车道,车道的语义信息可以包括与该车道关联的交通信号灯。车道关联的交通信号灯可以包括用于指挥该车道的交通的信号灯。
可选地,语义地图中还可以记录有其中的各交通信号灯的语义信息。对于语义地图中的交通信号灯,交通信号灯的语义信息可以包括该交通信号灯的标识、形状、尺寸、世界坐标、指示类型、所关联的车道等等。
需要说明的是,语义地图中的车道可以由技术人员根据实际的应用场景进行划分。例如,可以将一条线路中的相邻两条停止线之间的路段作为一个车道。此时,可以根据停止线将一条线路划分为多个车道。相邻两条停止线之间的路段关联的交通信号灯可以为沿着该路段的行驶方向,位于该路段前的第一个交通信号灯。一般地,交通信号灯通常设置于路口处,因此,对于任一车道,可以将沿着该车道方向,该车道最接近的路口处的交通信号灯作为该车道关联的交通信号灯。
语义地图可以由技术人员预先开发实现,也可以从第三方数据库获取。利用预先构建的语义地图,可以了解道路情况和各交通信号灯的各方面的属性信息,有助于提升车辆运行的安全性。
上述执行主体在获取到当前行驶位置信息和语义地图之后,可以进一步根据当前行驶位置信息和语义地图,判断当前行驶位置与当前行驶位置对应的交通信号灯之间的距离是否小于预设阈值。
当前行驶位置对应的交通信号灯可以指当前行驶位置所关联的交通信号灯。由于行驶位置与交通信号灯之间的关联关系通常是稳定不变的。因此,行驶位置与交通信号灯之间的对应关系可以预先确定,并利用语义地图记录行驶位置与交通信号灯之间的对应关系。此时,利用语义地图中预先存储的对应关系,就可以根据当前行驶位置信息确定当前行驶位置对应的交通信号灯。
上述执行主体可以先确定当前行驶位置与其对应的交通信号灯之间的距离,然后判断确定的距离是否小于预设阈值。其中,确定当前行驶位置与其对应的交通信号灯之间的距离的方法可以根据不同的应用场景灵活设置。
例如,可以利用上述执行主体上安装的用于测距的装置确定当前行驶位置与其对应的交通信号灯之间的距离。又例如,可以根据语义地图中记载的、当前行驶位置对应的交通信号灯的位置和确定的当前行驶位置,计算当前行驶位置与其对应的交通信号灯之间的距离。
由于无人车当前行驶位置与其对应的交通信号灯之间的距离过远时,无人车对交通信号灯的识别能力就会较弱,识别结果不稳定。因此,可以通过判断当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值,以避免在无人车当前行驶位置与其对应的交通信号灯之间的距离过远时进行不必要的识别。因此,预设阈值可以由技术人员根据实际的应用场景(如无人车对交通信号灯的识别能力、道路环境等等)预先设置。
步骤202,响应于确定当前行驶位置与其对应的交通信号灯之间的距离小于预设阈值,利用包括的图像采集装置采集图像,以及根据语义地图,确定采集的图像是否显示有交通信号灯。
在本实施例中,若当前行驶位置与其对应的交通信号灯之间的距离小于预设阈值,可以利用图像采集装置实时地采集周围的图像。应当可以理解,在同一时刻,图像采集装置相对于无人车的安装位置不同,图像采集装置采集到的图像可以不同。因此,图像采集装置相对于无人车的安装位置可以根据实际的应用需求和应用场景灵活设置。例如,图像采集装置的光轴方向可以与无人车的行驶方向一致,且图像采集装置面向无人车的行驶前方。此时,利用图像采集装置可以采集当前时刻无人车的正前方的图像。
利用图像采集装置采集到图像之后,可以进一步判断采集到的图像中是否显示有交通信号灯。若采集到的图像中并没有交通信号灯,可以不对该图像进行继续的图像识别,从而避免不必要的图像识别过程。具体地,可以根据实际的应用需求灵活选择各种方法根据语义地图确定采集的图像是否显示交通信号灯。
例如,可以先获取语义地图中记录的当前行驶位置关联的交通信号灯的类型。然后,基于获取到的交通信号灯的类型,利用现有的各种检测方法对采集到的图像进行检测,以确定其中是否显示有交通信号灯。又例如,可以根据语义地图中记录的当前行驶位置关联的交通信号灯的位置和图像采集装置的位置,确定当前行驶位置关联的交通信号灯在图像中的位置,进而可以确定包含该位置的图像区域作为目标区域,利用现有的检测方法对确定的目标区域进行检测,以确定其中是否显示有交通信号灯。
步骤203,响应于确定采集的图像显示有交通信号灯,根据语义地图,对采集的图像进行图像识别,得到该交通信号灯的识别结果。
在本实施例中,交通信号灯的识别结果可以用于指示交通信号灯当前的指示状态。例如,交通信号灯的识别结果可以为机动车信号灯当前为红灯。交通信号灯的识别结果可以为箭头信号灯当前箭头方向向左。
根据实际的应用需求和不同的应用场景可以灵活选择各种方法根据语义地图,对采集的图像进行图像识别,得到当前行驶位置对应的交通信号灯的识别结果。
例如,可以先根据语义地图中记录的当前行驶位置关联的交通信号灯的类型和位置,在采集的图像中检测并匹配当前行驶位置对应的交通信号灯,并利用识别算法对当前行驶位置对应的交通信号灯进行识别,以得到前行驶位置对应的交通信号灯的识别结果。
在本实施例的一些可选的实现方式中,可以通过如下步骤根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值:
步骤一,根据当前行驶位置信息,获取当前行驶位置对应的交通信号灯的标识。
在本步骤中,可以预先存储行驶位置信息与其对应的交通信号灯的标识之间的对应关系。此时,可以通过查询预先存储的对应关系,获取当前行驶位置信息对应的标识,即为当前行驶位置对应的交通信号灯的标识。
步骤二,根据获取的标识查询语义地图,得到交通信号灯的世界坐标。
在本步骤中,语义地图中可以存储有各交通信号灯的标识和世界坐标。因此,可以利用当前行驶位置对应的交通信号灯的标识查询语义地图,得到当前行驶位置对应的交通信号灯的世界坐标。世界坐标可以是在预先建立的世界坐标系中的坐标。
步骤三,根据世界坐标,确定当前行驶位置与交通信号灯之间的距离是否小于预设阈值。
在本步骤中,可以获取当前行驶位置对应的世界坐标,并根据当前行驶位置对应的世界坐标和当前行驶位置对应的交通信号灯的世界坐标,确定当前行驶位置与交通信号灯之间的距离。然后比较当前行驶位置与交通信号灯之间的距离是否小于预设阈值。
可选地,可以通过如下步骤根据当前行驶位置对应的交通信号灯的世界坐标,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值:将当前行驶位置对应的交通信号灯的世界坐标转换到基于无人车上设置的雷达建立的第一坐标系中,得到当前行驶位置对应的交通信号灯的世界坐标对应的第一坐标;根据得到的第一坐标,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值。
其中,雷达相对于无人车的安装位置可以预先由技术人员根据实际的应用需求进行设置。上述第一坐标即可以用于表示当前行驶位置对应的交通信号灯在第一坐标系中的坐标。具体地,可以利用现有的仿射变换方法将当前行驶位置对应的交通信号灯的世界坐标转换到基于无人车上设置的雷达建立的第一坐标系中。若第一坐标包括水平方向坐标和垂直方向坐标。其中水平方向为无人车行驶方向的垂直方向。此时,水平方向坐标即可以表征当前行驶位置与雷达之间的距离。基于此,可以利用各种方法根据第一坐标确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值。
例如,可以获取预先测量的雷达与无人车之间的相对位置,此时,根据雷达与无人车当前行驶位置之间的相对位置和上述水平方向坐标,可以得到无人车当前行驶位置与其对应的交通信号灯之间的距离,进而可以继续判断无人车当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值。
又例如,可以直接判断上述水平坐标是否小于第一阈值。若上述水平坐标小于第一阈值,则可以确定当前行驶位置与其对应的交通信号灯之间的距离小于预设阈值。若上述水平坐标不小于第一阈值,则可以确定当前行驶位置与其对应的交通信号灯之间的距离不小于预设阈值。应当可以理解,第一阈值可以根据预设阈值,和,雷达与无人车当前行驶位置之间的相对位置预先设置。
在本实施例的一些可选的实现方式中,可以通过如下步骤根据语义地图,对图像采集装置所采集的图像进行图像识别,得到无人车当前行驶位置对应的交通信号灯的识别结果:
步骤一,将无人车当前行驶位置对应的交通信号灯的世界坐标转换到基于图像采集装置建立的第四坐标系中,得到无人车当前行驶位置对应的交通信号灯的世界坐标对应的第四坐标。
在本步骤中,第四坐标即可以用于表示当前行驶位置对应的交通信号灯在第四坐标系中的坐标。具体地,可以利用现有的仿射变换方法将当前行驶位置对应的交通信号灯的世界坐标转换到第四坐标系中。
步骤二,确定无人车当前行驶位置对应的交通信号灯与图像采集装置之间的距离作为目标距离。
在本步骤中,第四坐标即可表示无人车当前行驶位置对应的交通信号灯相对于图像采集装置的位置。因此,根据第四坐标即可以确定无人车当前行驶位置对应的交通信号灯与图像采集装置之间的距离。
步骤三,根据确定的目标距离和第四坐标,从采集的图像中确定包含交通信号灯的图像区域作为待识别区域。
在本步骤中,包含交通信号灯的图像区域的面积可以与目标距离负相关。换言之,无人车当前行驶位置对应的交通信号灯与图像采集装置之间的距离越远,包含交通信号灯的图像区域的面积可以越小。对应地,无人车当前行驶位置对应的交通信号灯与图像采集装置之间的距离越近,包含交通信号灯的图像区域的面积可以越大。
例如,可以由技术人员预先设置包含交通信号灯的图像区域的长度和宽度分别与目标距离之间的关系。由此,可以根据预设的关系,根据目标距离,确定包含交通信号灯的图像区域。
作为示例,可以根据实际的应用需求预先设置期望的待识别图像的尺寸如为1600*800(像素为单位),且图像采集装置采集到该尺寸的图像的场景下,图像采集装置距离交通信号灯的距离为D。此时,在得到目标距离d之后,可以确定包含交通信号灯的图像区域的宽度为(d/D)*1600,包含交通信号灯的图像区域的长度为(d/D)*800。由此,可以根据目标距离按比例的裁剪图像区域,同时将待识别的图像区域的尺寸调整为期望的1600*800,即可以固定待识别的图像的尺寸,以便于后续的图像识别处理。
步骤四,对确定的待识别区域进行图像识别,得到无人车当前行驶位置对应的交通信号灯的识别结果。
通过从图像采集装置采集的图像中先确定出包含交通信号灯的图像区域作为待识别区域,然后对待识别区域进行图像识别处理,可以进一步提升识别结果的精度。
可选地,可以通过如下步骤根据语义地图,对采集的图像进行图像识别,得到交通信号灯的识别结果:
步骤一,基于目标检测算法对采集的图像进行检测,得到检测结果。
在本步骤中,检测结果可以用于指示采集的图像显示的各交通信号灯所在的检测框的位置和各交通信号灯的类别。目标检测算法可以是现有开源地各种目标检测算法。
应当可以理解,交通信号灯通常是三个或多个排列设置。因此,许多情况下,图像采集装置采集到的图像中可能显示有多个交通信号灯。
检测框的位置可以灵活采用各种方式来表示。例如,检测框的位置可以采用检测框的左上角的坐标以及长度和宽度来表示。又例如,检测框的位置可以采用检测框的几何中心点的坐标以及长度和宽度来表示。
交通信号灯的类别可以根据实际的应用场景确定。例如,对于红绿灯来说,类别可以包括红灯、绿灯、黄灯、未识别类型四种。
可选地,可以先根据语义地图,获取采集的图像显示的各交通信号灯分别对应的语义信息,然后根据所获取的语义信息,利用目标检测算法对采集的图像进行检测,得到检测结果。
由于语义地图中预先记录有各交通信号灯的语义信息(如交通信号灯的形状、尺寸、指示类型等)。因此,可以利用语义信息优化检测算法,以提升对采集的图像的检测效率。
例如,可以根据采集的图像中的交通信号灯的形状和尺寸,设计检测算法所采用的检测框的形状和尺寸,以降低检测算法的复杂度,并提升检测结果的准确度。
又例如,可以预先针对不同指示类型的交通信号灯,分别设计不同的检测算法,以实现对采集到的图像的针对性检测,从而提升检测结果的准确度。
步骤二,基于匈牙利匹配算法,确定检测结果指示的各交通信号灯分别对应的标识。
在本步骤中,由于图像采集装置采集到的图像中可能显示有多个交通信号灯。此时,需要确定图像中显示的各个交通信号灯与语义地图中的各交通信号灯之间的一一对应关系。
具体地,可以利用匈牙利匹配算法实现图像中显示的各交通信号灯的匹配,以确定图像中显示的各交通信号灯分别对应的标识。由此,即可以根据各交通信号灯分别对应的标识,使得图像中显示的各交通信号灯分别与语义地图中的交通信号灯对应起来。其中,匈牙利匹配算法是目前广泛研究和应用的公知技术,在此不再赘述。
可选地,可以根据语义地图,可以获取当前行驶位置对应的交通信号灯的周围预设大小区域内(如半径为r的圆形区域内)的所有交通信号灯的标识、世界坐标和各个交通信号灯之间的相互位置关系。然后可以通过坐标转换,将各个交通信号灯的世界坐标转换到第一坐标系中,得到各个交通信号灯分别在第一坐标系下的坐标。之后,可以根据当前行驶位置对应的交通信号灯和周围各交通信号灯分别对应的标识、世界坐标和相互之间的位置关系,以及分别在第一坐标系下的坐标,使用匈牙利匹配算法,确定当前行驶位置对应的交通信号灯的识别结果。由此,可以进一步提升得到的识别结果的准确度。
步骤三,根据当前行驶位置对应的交通信号灯的标识,确定检测结果指示的、当前行驶位置对应的交通信号灯的识别结果。
在本步骤中,可以将图像中显示的各交通信号灯分别对应的标识中与当前行驶位置对应的交通信号灯的标识相同的标识对应的交通信号灯的识别结果作为当前行驶位置对应的交通信号灯的识别结果。
应当可以理解,上述根据语义地图,对采集的图像进行图像识别,得到交通信号灯的识别结果的方法同样适用于对待识别区域进行图像识别,得到交通信号灯的识别结果。
本公开的上述实施例提供的方法在无人车的行驶过程中对交通信号灯识别时,先根据无人车当前行驶位置和语义地图,判断当前行驶位置对应的交通信号灯是否处于识别范围内,若在识别范围内,利用图像采集装置采集图像,并进一步根据语义地图判断采集的图像内是否显示有交通信号灯,若显示有交通信号灯,则根据语义地图对图像进行识别以得到当前行驶位置对应的交通信号灯的识别结果。由此,通过语义地图可以避免掉在交通信号灯不在识别范围内的时刻采集图像并进行识别的情况,还可以避免掉对不存在交通信号灯的图像进行识别的情况,从而有助于提升交通信号灯的识别结果的准确度,而且可以节省计算资源。另外,通过使用语义地图完成对交通信号灯的识别,可以缩短计算时长,而且可以细粒度地(如以车道为粒度)详细分析交通信号灯的指示状态,从而可以给无人车提供更全面、更可靠的识别结果。
进一步参考图3,其示出了用于无人车的交通信号灯识别方法的又一个实施例的流程300。该用于无人车的交通信号灯识别方法的流程300,包括以下步骤:
步骤301,根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值。
本步骤301的具体的执行过程可参考图2对应实施例中的步骤201的相关说明,在此不再赘述。
步骤302,响应于确定当前行驶位置与其对应的交通信号灯之间的距离小于预设阈值,利用第一图像采集装置采集第一图像,以及利用第二图像采集装置采集第二图像。
在本实施例中,无人车上可以设置有第一图像采集装置和第二图像采集装置。其中,第一图像采集装置和第二图像采集装置的安装位置可以由技术人员根据实际的应用需求进行设置。
此时,在利用图像采集装置采集图像时,可以利用两个图像采集装置分别采集当前时刻的图像。
步骤303,根据语义地图,确定第一图像是否显示有交通信号灯。
本步骤303的具体的执行过程可参考图2对应实施例中的步骤202的相关说明,在此不再赘述。
步骤304,响应于确定第一图像显示有交通信号灯,确定第一图像作为待识别图像。
步骤305,响应于确定第一图像不显示交通信号灯,确定利用第二图像采集装置采集的第二图像是否显示有交通信号灯。
本步骤305的具体的执行过程可参考图2对应实施例中的步骤202的相关说明,在此不再赘述。
步骤306,响应于确定第二图像显示有交通信号灯,确定第二图像作为待识别图像。
应当可以理解,响应于确定第二图像不显示交通信号灯,则可以说明第一图像采集装置和第二图像采集装置均没有拍摄到交通信号灯。此时,可以放弃之后的对图像的识别过程。
步骤307,根据语义地图,对待识别图像进行图像识别,得到该交通信号灯的识别结果。
具体地,响应于确定第一图像显示有交通信号灯,则可以对第一图像进行识别以得到无人车当前行驶位置对应的交通信号灯的识别结果。响应于确定第二图像显示有交通信号灯,则可以对第二图像进行识别以得到无人车当期行驶位置对应的交通信号灯的识别结果。
本步骤307的具体的执行过程可参考图2对应实施例中的步骤203的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,第一图像采集装置可以相对于无人车正向安置,第二图像采集装置可以相对于无人车左倾安置,同时,第一图像采集装置可以位于第二采集装置的右侧。
此时,第一图像采集装置的光轴方向可以与无人车的车体纵向中心线方向一致。而第二图像采集装置的光轴方向可以向左偏离无人车的车体纵向中心线方向。
由于一个图像采集装置的视场角是固定的,因此,随着无人车的行驶方向的变化,可能会出现一些交通信号灯在该图像采集装置能够拍摄到的范围之外。基于此,通过采用两个图像采集装置可以增加可拍摄的范围,从而减少交通信号灯处于图像采集装置的拍摄范围之外的情况,提升交通信号灯的识别结果的稳定性。
另外,通过设置第一图像采集装置位于第二采集装置的右侧,可以形成一个较大的视场角,从而减少采集的图像中不显示交通信号灯的情况。
同时,考虑到许多地方的交通规则都是靠右行驶,因此,通过设置第一图像采集装置相对于无人车正向安置,第二图像采集装置相对于无人车左倾安置,且第一图像采集装置位于第二采集装置的右侧,可以避免如无人车在非机动车道出护栏接近停止线的向右弯道导致车体水平方向向右倾斜等场景下可能出现的交通信号灯不在图像采集装置的视野范围之内的问题。
在本实施例的一些可选的实现方式中,可以通过如下步骤根据语义地图,确定第一图像是否显示有交通信号灯:
步骤一,将无人车当前行驶位置对应的交通信号灯的世界坐标转换到基于第一图像采集装置建立的第二坐标系中,得到无人车当前行驶位置对应的交通信号灯的世界坐标对应的第二坐标。
在本步骤中,第二坐标即可以用于表示当前行驶位置对应的交通信号灯在第二坐标系中的坐标。具体地,可以利用现有的仿射变换方法将当前行驶位置对应的交通信号灯的世界坐标转换到第二坐标系中。
需要说明的是,基于第一图像采集装置建立的第二坐标系可以根据实际的应用需求和不同的应用场景灵活调整。例如,第二坐标系可以包括但不限于基于第一图像采集装置建立的相机坐标系、图像坐标系、像素坐标系等等。
步骤二,根据第二坐标,确定当前行驶位置对应的交通信号灯在第一图像中的位置作为第一位置,以及确定第一位置与第一图像的右边界之间的距离是否大于第一边界阈值,以及确定第一位置与第一图像的左边界之间的距离是否大于第二边界阈值。
在本步骤中,由于坐标转换过程可能存在一定误差,因此,可能出现当前行驶位置对应的交通信号灯在第一图像中的位置距离第一图像的左边界或右边界过近,而实际中当前行驶位置对应的交通信号灯并不在第一图像中的情况。
因此,第一边界阈值和第二边界阈值可以由技术人员根据相关设备的属性(如传感器的能力等等)、历史经验等预先设置。
应当可以理解,根据第二坐标系的不同,根据第二坐标,确定当前行驶位置对应的交通信号灯在第一图像中的位置的方式也不同。具体地,基于不同坐标系之间的坐标转换,就可以得到当前行驶位置对应的交通信号灯在第一图像中的位置。
步骤三,响应于确定第一位置与第一图像的右边界之间的距离大于第一边界阈值,且响应于确定第一位置与第一图像的左边界之间的距离大于第二边界阈值,确定第一图像作为待识别图像。
在本步骤中,若当前行驶位置对应的交通信号灯在第一图像中的位置距离第一图像的左边界和右边界都较远,可以说明实际中当前行驶位置对应的交通信号灯应该在第一图像中。即第一图像中显示有交通信号灯。此时,可以将第一图像作为待识别图像进行识别处理。
对应地,响应于确定第一位置与第一图像的右边界之间的距离不大于第一边界阈值,可以说明实际中当前行驶位置对应的交通信号灯并不在第一图像中,也不会在第二图像中。这种情况下可以认为第一图像中并没有交通信号灯,此时,可以放弃之后的图像识别过程。
可选地,响应于确定第一位置与第一图像的左边界之间的距离不大于第二边界阈值,可以说明实际中当前行驶位置对应的交通信号灯可能不在第一图像中,这种情况下可以认为第一图像中并没有交通信号灯。此时,可以继续执行如下步骤以确定利用第二图像是否显示有交通信号灯:
步骤一,将无人车当前行驶位置对应的交通信号灯的世界坐标转换到基于第二图像采集装置建立的第三坐标系中,得到无人车当前行驶位置对应的交通信号灯的世界坐标对应的第三坐标。
在本步骤中,第三坐标即可以用于表示当前行驶位置对应的交通信号灯在第三坐标系中的坐标。具体地,可以利用现有的仿射变换方法将当前行驶位置对应的交通信号灯的世界坐标转换到第三坐标系中。
需要说明的是,基于第二图像采集装置建立的第三坐标系可以根据实际的应用需求和不同的应用场景灵活调整。例如,第三坐标系可以包括但不限于基于第二图像采集装置建立的相机坐标系、图像坐标系、像素坐标系等等。
步骤二,根据第三坐标,确定当前行驶位置对应的交通信号灯在第二图像中的位置作为第二位置,以及确定第二位置与第二图像的左边界之间的距离是否大于第三边界阈值,以及确定第二位置与第二图像的右边界之间的距离是否大于第四边界阈值。
类似地,由于坐标转换过程可能存在一定误差,因此,可能出现当前行驶位置对应的交通信号灯在第二图像中的位置距离第二图像的左边界或右边界过近,而实际中当前行驶位置对应的交通信号灯并不在第二图像中的情况。
因此,第三边界阈值和第四边界阈值同样可以由技术人员根据相关设备的属性(如传感器的能力等等)、历史经验等预先设置。
应当可以理解,根据第三坐标系的不同,根据第三坐标,确定当前行驶位置对应的交通信号灯在第二图像中的位置的方式也不同。具体地,基于不同坐标系之间的坐标转换,就可以得到当前行驶位置对应的交通信号灯在第二图像中的位置。
步骤三,响应于确定第二位置与第二图像的左边界之间的距离大于第三边界阈值,且响应于确定第二位置与第二图像的右边界之间的距离大于第四边界阈值,确定第二图像作为待识别图像。
在本步骤中,若当前行驶位置对应的交通信号灯在第二图像中的位置距离第二图像的左边界和右边界都较远,可以说明实际中当前行驶位置对应的交通信号灯应该在第二图像中。即第二图像中显示有交通信号灯。此时,可以将第二图像作为待识别图像进行识别处理。
对应地,响应于确定第二位置与第二图像的左边界之间的距离不大于第三边界阈值,或响应于确定第二位置与第二图像的右边界之间的距离不大于第四边界阈值,可以说明实际中当前行驶位置对应的交通信号灯不仅不在第一图像中,也不在第二图像中。这种情况下可以认为第二图像中也没有交通信号灯,此时,可以放弃之后的图像识别过程。
本公开的上述实施例提供的方法通过采用两个图像采集装置采集图像,以扩大图像采集装置可以采集的范围,从而减少出现交通信号灯位于图像采集装置无法采集到的位置的情况,提升交通信号灯的识别结果的稳定性。另外,通过对交通信号灯分别投影到两个图像装置所在的坐标系中的坐标与拍摄到的图像的左右边界之间的距离的误差平滑,可以有效的减少由于投影误差所带来的影响,从而进一步提升针对交通信号灯的识别结果的准确性,保证无人车的行驶安全。
进一步参考图4,其示出了用于无人车的交通信号灯识别方法的又一个实施例的流程400。该用于无人车的交通信号灯识别方法的流程400,包括以下步骤:
步骤401,根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值。
步骤402,响应于确定当前行驶位置与其对应的交通信号灯之间的距离小于预设阈值,利用包括的图像采集装置采集图像,以及根据语义地图,确定采集的图像是否显示有交通信号灯。
步骤403,响应于确定采集的图像显示有交通信号灯,根据语义地图,对采集的图像进行图像识别,得到该交通信号灯的识别结果。
上述步骤401-403的具体的执行过程可参考图2对应实施例中的步骤201-203的相关说明,在此不再赘述。
步骤404,获取根据图像序列中的各图像分别得到的该交通信号灯的识别结果,得到识别结果序列。
在本实施中,图像序列可以由图像采集装置在当前时刻之前的目标时间段内采集的图像按照采集时间顺序组成。其中,目标时间段的长度可以由技术人员根据实际的应用场景预先设置。
可选地,在目标时间段内,无人车在各时刻的行驶位置分别对应的交通信号灯可能相同。此时,对于目标时间段内的每个时刻,都可以对该时刻采集到的图像进行图像识别,得到交通目标时间段对应的交通信号灯的识别结果。
步骤405,根据识别结果序列和当前得到的该交通信号灯的识别结果,对当前得到的该交通信号灯的识别结果进行校正。
在本实施例中,由于无人车的周围环境的多变性、交通信号灯的状态等等各种因素都会导致单个时刻采集到的图像进行图像识别得到的识别结果可能不稳定。因此,根据当前时刻之前的若干时刻采集到的图像得到的针对相同交通信号灯的识别结果对该交通信号灯的识别结果进行矫正,可以进一步提升交通信号灯的识别结果的准确度和稳定性。
作为示例,当前时刻采集到的图像对应的识别结果表示交通信号灯为未知类型,而当前时刻之前的三个时刻分别采集到的图像分别对应的识别结果均表示交通信号灯为红灯。此时,可以调整当前时刻采集到的图像对应的识别结果为表示交通信号灯为红灯的识别结果。
在本实施例的一些可选的实现方式中,可以通过如下步骤根据识别结果序列和当前得到的交通信号灯的识别结果,对当前得到的交通信号灯的识别结果进行校正:确定识别结果序列中数量最多的识别结果作为目标识别结果,响应于确定当前得到的交通信号灯的识别结果与目标识别结果不同,使用目标识别结果更新当前得到的交通信号灯的识别结果。
例如,识别结果序列中包括五个红灯、两个黄灯。此时,可以确定红灯作为目标识别结果。若当前得到的交通信号灯的识别结果不是红灯,则可以将前得到的交通信号灯的识别结果校正为红灯。
可选地,在对当前得到的该交通信号灯的识别结果进行校正的同时,还可以对识别结果序列中的其它识别结果进行矫正。
作为示例,图像序列中第一个图像对应的交通信号灯的识别结果为绿灯、第四个图像对应的交通信号灯的识别结果也为绿灯,而第二个图像和第三个图像分别对应的交通信号灯的识别结果均为未知类型。此时,可以调整第二个图像和第三个图像分别对应的交通信号灯的识别结果均为绿灯。
作为又一示例,识别结果序列中包括五个红灯、两个黄灯。此时,可以确定红灯作为目标识别结果。若当前得到的交通信号灯的识别结果不是红灯,则可以将前得到的交通信号灯的识别结果校正为红灯。同时,还可以将识别结果序列中的两个绿灯校正为红灯。
本公开的上述实施例提供的方法在根据当前时刻采集到的图像得到当前行驶位置对应的交通信号灯的识别结果之后,可以同时考虑根据当前时刻之前的若干时刻采集到的各图像分别得到的该交通信号灯的识别结果,对当前时刻得到的识别结果进行校正,以解决单个时刻的识别结果可能不稳定的情况,从而提升交通信号灯的识别结果的准确度和稳定性。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了用于无人车的交通信号灯识别装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种无人车中。
如图5所示,本实施例提供的用于无人车的交通信号灯识别装置500包括第一确定单元501、第二确定单元502和识别单元503。其中,第一确定单元501被配置成根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值;第二确定单元502被配置成响应于确定距离小于预设阈值,利用图像采集装置采集图像,以及根据语义地图,确定采集的图像是否显示有交通信号灯;识别单元503被配置成响应于确定采集的图像显示有交通信号灯,根据语义地图,对采集的图像进行图像识别,得到该交通信号灯的识别结果。
在本实施例中,用于无人车的交通信号灯识别装置500中:第一确定单元501、第二确定单元502和识别单元503的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201、步骤202和步骤203的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,上述第一确定单元501进一步被配置成:根据当前行驶位置信息,获取当前行驶位置对应的交通信号灯的标识;根据标识查询语义地图,得到交通信号灯的世界坐标;根据世界坐标,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值。
在本实施例的一些可选的实现方式中,无人车设置有雷达;以及上述第一确定单元501进一步被配置成:将世界坐标转换到基于雷达建立的第一坐标系中,得到世界坐标对应的第一坐标;根据第一坐标,确定当前行驶位置与交通信号灯之间的距离是否小于预设阈值。
在本实施例的一些可选的实现方式中,无人车设置有第一图像采集装置和第二图像采集装置;以及上述第二确定单元502进一步被配置成:根据语义地图,确定利用第一图像采集装置采集的第一图像是否显示有交通信号灯;响应于确定第一图像不显示交通信号灯,确定利用第二图像采集装置采集的第二图像是否显示有交通信号灯。
在本实施例的一些可选的实现方式中,第一图像采集装置相对于无人车正向安置,第二图像采集装置相对于无人车左倾安置,其中,第一图像采集装置位于第二采集装置的右侧。
在本实施例的一些可选的实现方式中,上述第二确定单元502进一步被配置成:将世界坐标转换到基于第一图像采集装置建立的第二坐标系中,得到世界坐标对应的第二坐标;根据第二坐标,确定当前行驶位置对应的交通信号灯在第一图像中的位置作为第一位置,以及确定第一位置与第一图像的右边界之间的距离是否大于第一边界阈值,以及确定第一位置与第一图像的左边界之间的距离是否大于第二边界阈值;响应于确定第一位置与第一图像的右边界之间的距离大于第一边界阈值,且响应于确定第一位置与第一图像的左边界之间的距离大于第二边界阈值,确定第一图像作为待识别图像。
在本实施例的一些可选的实现方式中,上述第二确定单元502进一步被配置成:响应于确定第一位置与第一图像的左边界之间的距离不大于第二边界阈值,将世界坐标转换到基于第二图像采集装置建立的第三坐标系中,得到世界坐标对应的第三坐标;根据第三坐标,确定当前行驶位置对应的交通信号灯在第二图像中的位置作为第二位置,以及确定第二位置与第二图像的左边界之间的距离是否大于第三边界阈值,以及确定第二位置与第二图像的右边界之间的距离是否大于第四边界阈值;响应于确定第二位置与第二图像的左边界之间的距离大于第三边界阈值,且响应于确定第二位置与第二图像的右边界之间的距离大于第四边界阈值,确定第二图像作为待识别图像。
在本实施例的一些可选的实现方式中,上述识别单元503进一步被配置成:将世界坐标转换到基于图像采集装置建立的第四坐标系中,得到世界坐标对应的第四坐标;确定交通信号灯与图像采集装置之间的距离作为目标距离;根据目标距离和第四坐标,从采集的图像中确定包含交通信号灯的图像区域作为待识别区域,其中,图像区域的面积与目标距离负相关;对待识别区域进行图像识别,得到交通信号灯的识别结果。
在本实施例的一些可选的实现方式中,上述识别单元503进一步被配置成:基于目标检测算法对采集的图像进行检测,得到检测结果,其中,检测结果用于指示采集的图像显示的各交通信号灯所在的检测框的位置和各交通信号灯的类别;基于匈牙利匹配算法,确定检测结果指示的各交通信号灯分别对应的标识;根据当前行驶位置对应的交通信号灯的标识,确定检测结果指示的、当前行驶位置对应的交通信号灯的识别结果。
在本实施例的一些可选的实现方式中,语义地图记录有其中的交通信号灯的语义信息,语义地图中的交通信号灯的语义信息包括以下至少一项:标识、形状、尺寸、世界坐标、指示类型、关联车道;以及上述识别单元503进一步被配置成:根据语义地图,获取采集的图像显示的各交通信号灯的语义信息;根据所获取的语义信息,基于目标检测算法对采集的图像进行检测,得到检测结果。
在本实施例的一些可选的实现方式中,上述用于无人车的交通信号灯识别装置500还包括:获取单元(图中未示出)被配置成获取根据图像序列中的各图像分别得到的交通信号灯的识别结果,得到识别结果序列,其中,图像序列由图像采集装置在当前时刻之前目标时间段内采集到的图像组成;校正单元(图中未示出)被配置成根据识别结果序列和当前得到的交通信号灯的识别结果,对当前得到的交通信号灯的识别结果进行校正。
在本实施例的一些可选的实现方式中,上述校正单元进一步被配置成:确定识别结果序列中数量最多的识别结果作为目标识别结果;响应于确定当前得到的交通信号灯的识别结果与目标识别结果不同,使用目标识别结果更新当前得到的交通信号灯的识别结果。
本公开的上述实施例提供的装置通过第一确定单元根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值;第二确定单元响应于确定距离小于预设阈值,利用图像采集装置采集图像,以及根据语义地图,确定采集的图像是否显示有交通信号灯;识别单元响应于确定采集的图像显示有交通信号灯,根据语义地图,对采集的图像进行图像识别,得到该交通信号灯的识别结果。由此,通过语义地图可以避免掉在交通信号灯不在识别范围内的时刻采集图像并进行识别的情况,还可以避免掉对不存在交通信号灯的图像进行识别的情况,从而有助于提升交通信号灯的识别结果的准确度,而且可以节省计算资源。
下面参考图6,其示出了适于用来实现本公开的实施例的无人车600的结构示意图。无人车可以是各种类型的智能汽车。图6示出的无人车仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图6所示,无人车600可以包括感知模块601、定位模块602、规划模块603、控制模块604、地图模块605等等。虽然图6示出了具有各种模块的无人车600,但是应理解的是,并不要求实施或具备所有示出的各模块。可以替代地实施或具备更多或更少的模块。图6中示出的每个方框可以代表一个模块,也可以根据需要代表多个模块。
感知模块601可以用于感知无人车的周围环境。例如,感知无人车周围的路形、周围的静态或动态的障碍物等等。感知模块601根据实际的需要可以由各种软件和/或硬件组成。例如,感知模块601可以包括摄像装置、传感器、激光雷达等等。
定位模块602可以用于完成无人车、无人车周围其它各物体(如障碍物、交通信号灯等等)的定位。定位模块602根据实际的需要也可以由各种软件和/或硬件组成。例如,定位模块602可以包括定位导航装置、位置接收器(如GPS接收器等)、惯性测量单元(IMU,Inertial measurement unit)等。
规划模块603可以基于预先开发的各种算法完成车辆行为及运动的规划、推理、决策等任务。一般地,规划模块603可以基于感知模块601感知的信息、定位模块602确定的位置信息等,结合行驶目的地信息,实时对行驶路线做出规划,为无人车提供行驶轨迹点。
控制模块604可以对车辆的实际运动位姿与期望运动位姿进行实时比较,采用各种控制算法实现对汽车方向盘、油门、刹车、灯光、喇叭、车内空调等等执行机构的控制。例如,基于模糊推理、PID控制算法等实现对无人车的控制。
地图模块605可以提供地图信息。例如,地图模块605可以提供记录有车道线拓扑结构、红绿灯位置、交通标志位置和类型、道路限速等信息的语义地图,以供感知模块601、定位模块602、规划模块603和控制模块604查询使用。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置被安装。在该计算机程序被无人车600的各模块执行时,执行本公开的实施例的方法中限定的上述功能。
需要说明的是,本公开的实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述无人车中所包含的;也可以是单独存在,而未装配入该无人车中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该无人车执行时,使得该无人车:根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值;响应于确定距离小于预设阈值,利用图像采集装置采集图像,以及根据语义地图,确定采集的图像是否显示有交通信号灯;响应于确定采集的图像显示有交通信号灯,根据语义地图,对采集的图像进行图像识别,得到该交通信号灯的识别结果。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括第一确定单元、第二确定单元和识别单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一确定单元还可以被描述为“根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值的单元”。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (12)
1.一种用于无人车的交通信号灯识别方法,其中,所述无人车设置有图像采集装置,所述方法包括:
根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值;
响应于确定所述距离小于预设阈值,利用所述图像采集装置采集图像,以及根据所述语义地图,确定采集的图像是否显示有交通信号灯;
响应于确定采集的图像显示有交通信号灯,根据所述语义地图,对采集的图像进行图像识别,得到所述交通信号灯的识别结果;
其中,所述根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值,包括:
根据当前行驶位置信息,获取当前行驶位置对应的交通信号灯的标识;根据所述标识查询所述语义地图,得到所述交通信号灯的世界坐标;根据所述世界坐标,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值。
2.根据权利要求1所述的方法,其中,所述无人车设置有雷达;以及
所述根据所述世界坐标,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值,包括:
将所述世界坐标转换到基于所述雷达建立的第一坐标系中,得到所述世界坐标对应的第一坐标;
根据所述第一坐标,确定当前行驶位置与所述交通信号灯之间的距离是否小于预设阈值。
3.根据权利要求1所述的方法,其中,所述无人车设置有第一图像采集装置和第二图像采集装置;以及
所述根据所述语义地图,确定采集的图像是否显示有交通信号灯,包括:
根据所述语义地图,确定利用所述第一图像采集装置采集的第一图像是否显示有交通信号灯;
响应于确定所述第一图像不显示交通信号灯,确定利用所述第二图像采集装置采集的第二图像是否显示有交通信号灯。
4.根据权利要求3所述的方法,其中,所述第一图像采集装置相对于所述无人车正向安置,所述第二图像采集装置相对于所述无人车左倾安置,其中,所述第一图像采集装置位于所述第二图像采集装置的右侧。
5.根据权利要求3所述的方法,其中,所述根据所述语义地图,确定利用所述第一图像采集装置采集的第一图像是否显示有交通信号灯,包括:
将所述世界坐标转换到基于所述第一图像采集装置建立的第二坐标系中,得到所述世界坐标对应的第二坐标;
根据所述第二坐标,确定当前行驶位置对应的交通信号灯在所述第一图像中的位置作为第一位置,以及确定所述第一位置与所述第一图像的右边界之间的距离是否大于第一边界阈值,以及确定所述第一位置与所述第一图像的左边界之间的距离是否大于第二边界阈值;
响应于确定所述第一位置与所述第一图像的右边界之间的距离大于第一边界阈值,且响应于确定所述第一位置与所述第一图像的左边界之间的距离大于第二边界阈值,确定所述第一图像作为待识别图像。
6.根据权利要求5所述的方法,其中,所述响应于确定所述第一图像不显示交通信号灯,确定利用所述第二图像采集装置采集的第二图像是否显示有交通信号灯,包括:
响应于确定所述第一位置与所述第一图像的左边界之间的距离不大于第二边界阈值,将所述世界坐标转换到基于所述第二图像采集装置建立的第三坐标系中,得到所述世界坐标对应的第三坐标;
根据所述第三坐标,确定当前行驶位置对应的交通信号灯在所述第二图像中的位置作为第二位置,以及确定所述第二位置与所述第二图像的左边界之间的距离是否大于第三边界阈值,以及确定所述第二位置与所述第二图像的右边界之间的距离是否大于第四边界阈值;
响应于确定所述第二位置与所述第二图像的左边界之间的距离大于第三边界阈值,且响应于确定所述第二位置与所述第二图像的右边界之间的距离大于第四边界阈值,确定所述第二图像作为待识别图像。
7.根据权利要求1所述的方法,其中,所述根据所述语义地图,对采集的图像进行图像识别,得到所述交通信号灯的识别结果,包括:
将所述世界坐标转换到基于所述图像采集装置建立的第四坐标系中,得到所述世界坐标对应的第四坐标;
确定所述交通信号灯与所述图像采集装置之间的距离作为目标距离;
根据所述目标距离和第四坐标,从采集的图像中确定包含所述交通信号灯的图像区域作为待识别区域,其中,所述图像区域的面积与所述目标距离负相关;
对所述待识别区域进行图像识别,得到所述交通信号灯的识别结果。
8.根据权利要求1所述的方法,其中,所述根据所述语义地图,对采集的图像进行图像识别,得到所述交通信号灯的识别结果,包括:
基于目标检测算法对采集的图像进行检测,得到检测结果,其中,检测结果用于指示采集的图像显示的各交通信号灯所在的检测框的位置和各交通信号灯的类别;
基于匈牙利匹配算法,确定检测结果指示的各交通信号灯分别对应的标识;
根据当前行驶位置对应的交通信号灯的标识,确定所述检测结果指示的、当前行驶位置对应的交通信号灯的识别结果。
9.根据权利要求1-8之一所述的方法,其中,所述方法还包括:
获取根据图像序列中的各图像分别得到的所述交通信号灯的识别结果,得到识别结果序列,其中,所述图像序列由所述图像采集装置在当前时刻之前目标时间段内采集到的图像组成;
根据所述识别结果序列和当前得到的所述交通信号灯的识别结果,对当前得到的所述交通信号灯的识别结果进行校正。
10.一种用于无人车的交通信号灯识别装置,其中,所述无人车设置有图像采集装置,所述装置包括:
第一确定单元,被配置成根据当前行驶位置信息和预设的语义地图,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值;
第二确定单元,被配置成响应于确定所述距离小于预设阈值,利用所述图像采集装置采集图像,以及根据所述语义地图,确定采集的图像是否显示有交通信号灯;
识别单元,被配置成响应于确定采集的图像显示有交通信号灯,根据所述语义地图,对采集的图像进行图像识别,得到所述交通信号灯的识别结果;
其中,所述第一确定单元,进一步被配置成:根据当前行驶位置信息,获取当前行驶位置对应的交通信号灯的标识;根据所述标识查询所述语义地图,得到所述交通信号灯的世界坐标;根据所述世界坐标,确定当前行驶位置与其对应的交通信号灯之间的距离是否小于预设阈值。
11.一种无人车,包括:
图像采集装置,被配置成采集图像;
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-9中任一所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如权利要求1-9中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010598530.6A CN111695546B (zh) | 2020-06-28 | 2020-06-28 | 用于无人车的交通信号灯识别方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010598530.6A CN111695546B (zh) | 2020-06-28 | 2020-06-28 | 用于无人车的交通信号灯识别方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111695546A CN111695546A (zh) | 2020-09-22 |
CN111695546B true CN111695546B (zh) | 2023-06-27 |
Family
ID=72484193
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010598530.6A Active CN111695546B (zh) | 2020-06-28 | 2020-06-28 | 用于无人车的交通信号灯识别方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111695546B (zh) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112183382A (zh) * | 2020-09-30 | 2021-01-05 | 深兰人工智能(深圳)有限公司 | 无人驾驶交通灯检测分类方法和装置 |
CN117409070A (zh) * | 2020-10-30 | 2024-01-16 | 深圳市优必选科技股份有限公司 | 交通工具运行控制方法、装置、电子设备及存储介质 |
CN112327855A (zh) * | 2020-11-11 | 2021-02-05 | 东软睿驰汽车技术(沈阳)有限公司 | 自动驾驶车辆的控制方法、装置和电子设备 |
CN112327864A (zh) * | 2020-11-17 | 2021-02-05 | 北京三快在线科技有限公司 | 一种无人驾驶设备的控制方法及控制装置 |
CN112580460A (zh) * | 2020-12-11 | 2021-03-30 | 西人马帝言(北京)科技有限公司 | 一种交通信号灯的识别方法、装置、设备及存储介质 |
CN112507956A (zh) * | 2020-12-21 | 2021-03-16 | 北京百度网讯科技有限公司 | 信号灯识别方法、装置、电子设备、路侧设备和云控平台 |
CN112991290B (zh) * | 2021-03-10 | 2023-12-05 | 阿波罗智联(北京)科技有限公司 | 图像稳像方法、装置、路侧设备、云控平台 |
CN113343872B (zh) * | 2021-06-17 | 2022-12-13 | 亿咖通(湖北)技术有限公司 | 交通灯识别方法、装置、设备、介质及产品 |
CN113452904B (zh) * | 2021-06-18 | 2022-11-04 | 北京三快在线科技有限公司 | 一种交通信号灯检测方法及装置 |
CN113611008B (zh) * | 2021-07-30 | 2023-09-01 | 广州文远知行科技有限公司 | 一种车辆行驶场景采集方法、装置、设备及介质 |
CN113852795B (zh) * | 2021-11-29 | 2022-08-30 | 新石器慧通(北京)科技有限公司 | 视频画面调整方法、装置、电子设备及存储介质 |
CN114494267B (zh) * | 2021-11-30 | 2022-11-04 | 北京国网富达科技发展有限责任公司 | 一种变电站和电缆隧道场景语义构建系统和方法 |
CN114332815B (zh) * | 2021-12-24 | 2023-08-29 | 广州小鹏自动驾驶科技有限公司 | 交通灯状态检测方法、装置、车辆及存储介质 |
CN115394103A (zh) * | 2022-07-29 | 2022-11-25 | 阿波罗智联(北京)科技有限公司 | 识别信号灯的方法、装置、设备以及存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109508580A (zh) * | 2017-09-15 | 2019-03-22 | 百度在线网络技术(北京)有限公司 | 交通信号灯识别方法和装置 |
CN110543814A (zh) * | 2019-07-22 | 2019-12-06 | 华为技术有限公司 | 一种交通灯的识别方法及装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105185140B (zh) * | 2015-09-30 | 2018-07-06 | 上海修源网络科技有限公司 | 一种辅助驾驶方法和系统 |
CN109492507B (zh) * | 2017-09-12 | 2022-09-23 | 阿波罗智能技术(北京)有限公司 | 红绿灯状态的识别方法及装置、计算机设备及可读介质 |
US10650678B2 (en) * | 2018-08-21 | 2020-05-12 | International Business Machines Corporation | Cognitive traffic light pattern analysis and notification |
CN109472989A (zh) * | 2018-12-05 | 2019-03-15 | 斑马网络技术有限公司 | 交通信号灯的提示方法、装置、设备及可读存储介质 |
CN111292531B (zh) * | 2020-02-06 | 2022-07-29 | 阿波罗智能技术(北京)有限公司 | 交通信号灯的跟踪方法、装置、设备及存储介质 |
-
2020
- 2020-06-28 CN CN202010598530.6A patent/CN111695546B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109508580A (zh) * | 2017-09-15 | 2019-03-22 | 百度在线网络技术(北京)有限公司 | 交通信号灯识别方法和装置 |
CN110543814A (zh) * | 2019-07-22 | 2019-12-06 | 华为技术有限公司 | 一种交通灯的识别方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN111695546A (zh) | 2020-09-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111695546B (zh) | 用于无人车的交通信号灯识别方法和装置 | |
US11462022B2 (en) | Traffic signal analysis system | |
US11136022B2 (en) | Road marker detection method | |
US9672446B1 (en) | Object detection for an autonomous vehicle | |
US20200209857A1 (en) | Multimodal control system for self driving vehicle | |
CN111874006B (zh) | 路线规划处理方法和装置 | |
US20200346654A1 (en) | Vehicle Information Storage Method, Vehicle Travel Control Method, and Vehicle Information Storage Device | |
WO2020042348A1 (zh) | 自动驾驶导航地图的生成方法、系统、车载终端及服务器 | |
US20170359561A1 (en) | Disparity mapping for an autonomous vehicle | |
US10747221B2 (en) | Moving body, moving body control system, and moving body control method | |
US20230054145A1 (en) | Methods and systems for monitoring vehicle motion with driver safety alerts | |
CN113885011A (zh) | 自动车辆的基于点云图的光检测测距重新校准系统 | |
CN110727269B (zh) | 车辆控制方法及相关产品 | |
CN114973644B (zh) | 道路信息生成装置 | |
CN113096427B (zh) | 一种信息显示方法及装置 | |
CN114084129A (zh) | 一种基于融合的车辆自动驾驶控制方法及系统 | |
JP2020201745A (ja) | 物体識別装置、方法およびシステム | |
CN115050203B (zh) | 地图生成装置以及车辆位置识别装置 | |
US11828618B2 (en) | Map generation apparatus | |
US11920949B2 (en) | Map generation apparatus | |
US11906323B2 (en) | Map generation apparatus | |
US20220268596A1 (en) | Map generation apparatus | |
US20230417885A1 (en) | Systems and methods for detecting erroneous lidar data | |
CN110775055B (zh) | 车载控制装置、场端定位装置、车辆控制系统及车辆 | |
JP2022123239A (ja) | 区画線認識装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |