CN107836017A - 信号机识别装置及信号机识别方法 - Google Patents

信号机识别装置及信号机识别方法 Download PDF

Info

Publication number
CN107836017A
CN107836017A CN201580081658.2A CN201580081658A CN107836017A CN 107836017 A CN107836017 A CN 107836017A CN 201580081658 A CN201580081658 A CN 201580081658A CN 107836017 A CN107836017 A CN 107836017A
Authority
CN
China
Prior art keywords
vehicle
semaphore
image
detection zone
action
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201580081658.2A
Other languages
English (en)
Other versions
CN107836017B (zh
Inventor
山井大贵
松尾治夫
冲孝彦
铃木章
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Publication of CN107836017A publication Critical patent/CN107836017A/zh
Application granted granted Critical
Publication of CN107836017B publication Critical patent/CN107836017B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B60W40/04Traffic conditions
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/09623Systems involving the acquisition of information from passive traffic signs by means mounted on the vehicle
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Automation & Control Theory (AREA)
  • Mathematical Physics (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Navigation (AREA)
  • Steering Control In Accordance With Driving Conditions (AREA)

Abstract

一种信号机识别装置,具备:摄像机(11),其拍摄车辆(51)的周围;地图信息取得部(17),其取得车辆周围的地图信息;自身位置检测部(12),其检测车辆在地图上的自身位置;信号机位置推定部(13),其基于自身位置及地图信息,推定信号机在图像上的位置;车辆动作推定部(14),其推定车辆的动作;信号机检测区域计算部(15),其基于推定的信号机在图像上的位置和因车辆的动作产生的信号机在图像上的位置的位移量,在图像上设定信号机的检测区域;信号机识别部(16),其从检测区域检测信号机。通过这样的构成,能够将检测区域设定在适当的位置。

Description

信号机识别装置及信号机识别方法
技术领域
本发明涉及一种识别存在于车辆的行驶路径上的信号机的信号机识别装置及信号机识别方法。
背景技术
专利文献1(日本特开2007-241469号公报)中记载有如下的技术,基于地图信息和自身位置推定结果,推定存在于车辆的行驶路径上的信号机的位置,在由摄像机拍摄的图像中设定信号机的检测区域,对存在于该检测区域内的信号机进行图像处理,检测该信号机的点亮状态。
但是,因为在更新自身位置的推定结果的时间和由摄像机拍摄图像的时间之间产生时间差,所以在专利文献1记载的方法中,信号机的检测区域会因时间差而被设定在过去的位置,信号机可能会脱离检测区域。
现有技术文献
专利文献
专利文献1:日本特开2007-241469号公报
如上所述,在专利文献1中公开的现有技术中,由于在更新自身位置的推定结果的时间和由摄像机拍摄图像的时间之间产生时间差,所以在车辆的动作大的情况下,通过该时间差将在由摄像机拍摄到在图像上所设定的信号机识别区域因时间差设定在过去的位置,可能不能在由摄像机拍摄到在图像上的适当的位置设定信号机的检测区域。
发明内容
本发明是用于解决这种现有课题而创立的,其目的在于,提供一种信号识别装置及信号机识别方法,即使在更新自身位置的推定结果的时间和由摄像机拍摄图像的时间之间产生时间差的情况下,也能够适当设定信号机的检测区域。
本发明一方式的信号机识别装置具备:摄像部,其拍摄车辆周围的图像;地图信息取得部,其取得车辆周围的地图信息;自身位置检测部,其检测车辆的自身位置;信号机位置推定部,其基于自身位置及地图信息,推定信号机在图像上的位置。还具备:车辆动作推定部,其推定车辆的动作;信号机检测区域设定部,其基于信号机在图像上的位置和因车辆的动作产生的信号机在图像上的位置的位移量,在图像上设定信号机的检测区域;信号机识别部,其从检测区域检测信号机。
本发明一方式的信号机识别方法拍摄车辆周围的图像,取得车辆周围的地图信息,检测车辆在地图上的自身位置,基于自身位置及地图信息推定信号机在图像上的位置。另外,推定车辆的动作,基于所推定的信号机在图像上的位置和因车辆动作产生的信号机在图像上的位置的位移量,在图像上设定信号机的检测区域,从检测区域检测信号机。
附图说明
图1是表示本发明实施方式的信号机识别装置及其周边设备的构成的块图;
图2是表示本发明第一、第二实施方式的信号机识别装置的详细构成的块图;
图3是表示本发明第一实施方式的信号机识别装置的处理顺序的流程图;
图4是表示本发明第一实施方式的信号机识别装置的作用的时间图,(a)表示拍摄图像的时间,(b)表示更新自身位置推定结果的时间;
图5是表示本发明的第一实施方式的、车辆在弯路上行驶时的自身位置的变化的说明图;
图6是表示未考虑时间差ΔT产生的车辆的移动量而在图像上设定了检测区域的情况下的、检测区域的位置的说明图;
图7是表示考虑时间差ΔT产生的车辆的移动量而在图像上设定了检测区域的情况下的、检测区域的位置的说明图;
图8是表示车辆动作量的大小和检测区域的大小的关系的特性图;
图9是表示第一实施方式的变形例的信号机识别装置的作用的时间图,(a)表示拍摄图像的时间,(b)表示更新自身位置推定结果的时间;
图10是表示本发明第二实施方式的信号机识别装置的处理顺序的流程图;
图11是表示本发明第三实施方式的信号机识别装置的详细构成的块图;
图12是表示本发明第三实施方式的信号机识别装置的处理顺序的流程图;
图13是本发明的第三实施方式,(a)是表示车辆进行车道变更的情况下的动作的说明图,(b)是表示偏航率相对于时间经过的变化的特性图。
具体实施方式
以下,参照附图说明本发明的实施方式。
[第一实施方式的说明]
图1是表示本发明第一实施方式的信号机识别装置、及其周边设备的构成的块图。另外,图2是详细表示图1所示的信号机识别装置100的块图。
如图1所示,信号机识别装置100搭载于车辆51,从搭载于该车辆51的各种设备输入地图信息D02、摄像机信息D03、自身位置信息D05、车辆动作信息D07、及图像数据D09。而且,将表示信号机的灯光色的灯光色信息D04输出到后段的装置(图示省略)。该灯光色信息D04例如用于自动驾驶控制等。
摄像机信息D03是有关摄像机11(参照图2)相对于车辆51的设置位置的信息。当取得表示车辆51在地图上的朝向的三维信息时,可基于摄像机信息D03推定摄像机11拍摄的车辆周围的拍摄区域。
地图信息D02是从包含车辆行驶的行驶路径的地图数据(车辆周围的地图信息)的地图数据库赋予的信息,包含行驶路径上存在的地上路标等物体目标的位置信息及信号机的位置信息等。
如图2所示,信号机识别装置100具备摄像机11(摄像部)、自身位置检测部12、信号机位置推定部13、车辆动作推定部14、信号机检测区域计算部15(信号机检测区域设定部)、信号机识别部16、地图信息取得部17、及路标信息取得部18。
摄像机11是具备例如CCD、CMOS等固体摄像元件的数码摄像机,拍摄车辆51的行驶路径的周围并取得周边区域的数字图像。摄像机11将所拍摄的图像作为图像数据D09输出到信号机识别部16。另外,摄像机11存储有关摄像机11相对于车辆51的设置位置的信息,并将该信息作为摄像机信息D03输出到信号机检测区域计算部15。就有关摄像机11的设置位置的信息而言,例如将校准用的标志等相对于车辆51设置在已知的位置,根据由摄像机11拍摄到的图像上的位置计算设置位置。
地图信息取得部17从包含车辆行驶的行驶路径的地图数据(车辆周围附近的地图信息)的地图数据库取得存在于行驶路径附近的地上路标等物体目标的位置信息、及信号机的位置信息等。作为地图信息D02输出到自身位置检测部12和信号机位置推定部13。
路标信息取得部18例如是车载的传感用摄像机或激光雷达等,识别地上路标(路面标示(车道标志、停车线、文字)、路缘石、信号机、标识等),取得相对于车辆51的相对位置的信息。作为路标信息输出到自身位置检测部12。
自身位置检测部12取得路标信息D01及地图信息D02,基于这些信息检测车辆51在地图上的当前位置,并将其作为自身位置信息D05输出。如上所述,在路标信息D01中包含表示地上路标相对于车辆51的相对的位置关系的信息。因此,通过对照该路标信息D01的位置信息和地图信息D02中包含的地上路标的位置信息,能够检测车辆51在地图上的当前位置。
在此,“位置”包含坐标及姿势。具体而言,地上路标的位置包含其坐标及姿势,车辆51的位置包含其坐标及姿势。自身位置检测部12将成为基准的坐标系的坐标(x、y、z)及各坐标轴的旋转方向即姿势(偏航、俯仰、滚动)作为自身位置信息D05输出。
信号机位置推定部13基于地图信息D02及自身位置信息D05,推定信号机相对于车辆51的相对位置。在地图信息D02中,作为坐标注册有车辆51的行驶路径上所存在的各信号机的位置信息。因此,能够基于信号机的坐标和车辆51的坐标及姿势,计算出信号机相对于车辆51的相对位置。而且,信号机位置推定部13将计算出的信号机的相对位置作为信号机相对位置信息D06输出。
车辆动作推定部14使用车辆51的车速、偏航率、转向角(转向量)等各种信息,计算出从更新自身位置推定结果的时间至拍摄图像的时间为止的时间差(将其设为“ΔT”),进而计算该时间差ΔT期间的车辆51的移动量。而且,将该移动量作为车辆动作信息D07输出。移动量的运算方法后述。此外,上述的转向角是车辆的转向轮相对于直行方向向左右方向倾斜的角度,转向角作为转向量也可以由例如齿条和小齿轮式的转向机构中的齿条机构的花键轴的移动量等来代替。
信号机检测区域计算部15基于摄像机信息D03、信号机相对位置信息D06及车辆动作信息D07,对车辆51和信号机的相对位置进行修正,进而,基于摄像机信息D03和修正后的相对位置,在由摄像机11拍摄到的图像中设定信号机的检测区域。将该检测区域作为信号机检测区域信息D08输出到信号机识别部16。
即,因为由摄像机11拍摄图像的时间和通过自身位置检测部12更新车辆51的自身位置推定结果的时间不一致,所以因双方的时间差ΔT而不能正确地推定图像中存在的信号机的位置,进而不能正确地设定检测区域。具体而言,当在图4所示的时刻t1更新自身位置推定结果,在经过了时间差ΔT的时刻t11拍摄图像时,因为车辆51在时间差ΔT的期间移动,所以在图像中设定的检测区域会成为与图像中的信号机的位置偏离的位置。
因此,在信号机检测区域计算部15,基于由车辆动作推定部14推定的车辆动作信息D07,推定时间差ΔT期间的车辆51的移动量,且基于该移动量来推定图4的时刻t11的车辆51的自身位置。而且,考虑该移动量设定检测区域。即,根据基于地图信息D02及自身位置信息D05的信号机的推定位置和因车辆动作而产生的信号机推定位置的位移量,设定信号机的检测区域。此时,如果求信号机和车辆51的相对位置,则摄像机11固定于车辆51上,基于摄像机信息D03的设置信息,从实际空间坐标变换为图像坐标,由此,能够推定图像中的信号机的位置,进而能够设定检测区域。
图2所示的信号机识别部16基于由摄像机11拍摄到的图像数据D09及信号机检测区域信息D08,识别信号机的灯光色。具体而言,对在图像数据D09中设定的检测区域实施用于识别信号机的灯光色的图像处理。
作为图像处理的方法,例如可使用检测与工业用电源的交流周期同步的闪烁光的方法、或进行红、绿、黄的色调及圆形形状等的特征的类似判定的方法等检测信号机所具有的信号灯。另外,能够应用用于检测信号机的已知的图像处理。信号机的识别处理不对由摄像机11拍摄到的图像数据D09的整体,而对作为其一部分设定的检测区域实施,由此,能够减轻用于信号机检测的信息处理的负荷,迅速地检测信号机。而且,将灯光色信息D04输出到后段的设备。此外,信号机的识别处理不限于上述的方法,也可以采用其它方法。
接着,参照图3所示的流程图说明上述的车辆动作推定部14及信号机检测区域计算部15的处理顺序。首先,在步骤S11中,车辆动作推定部14取得更新由自身位置检测部12执行的车辆51的自身位置推定结果的周期、和由摄像机11拍摄图像的周期。然后,计算出更新自身位置推定结果的时间和拍摄图像的时间之间的时间差ΔT。
例如,如图4的时间图所示,在拍摄图像的周期T2为更新自身位置推定结果的周期T1(规定周期)的2倍的情况下,在时刻t1、t2、t3、……的时间、即每次经过周期T1时,取得自身位置信息D05。另外,在时刻t11、t13、t15、……的时间、即每次经过周期T2时,拍摄图像。而且,计算各时间的时间差ΔT。具体而言,计算出相对于时刻t11、t13、t15、……为之前的自身位置信息的更新时间即与时刻t1、t3、t5、……的时间差ΔT。
接着,在步骤S12,车辆动作推定部14基于车辆51的行驶速度和偏航率(或者转向角),计算在图4(b)的时刻t1取得的车辆51从车辆51的自身位置的移动量。而且,计算经过时间差ΔT后的时刻t11的车辆51的自身位置。即,当使用在图4(a)的时刻t11拍摄到的图像和在图4(b)的时刻t1更新的自身位置信息D05在图像中设定检测区域时,由于在时间差ΔT的期间,车辆51移动,从而不能在适当的位置设定检测区域。因此,在车辆动作推定部14,计算出在时间差ΔT的期间的车辆51的移动量。进而,在信号机检测区域计算部15,计算在时刻t11的车辆51的自身位置。
以下,对自身位置的计算顺序进行详细说明。将车辆51的当前的行驶速度设为v[m/s],将当前的偏航率设为yawrate[rad/sec],将当前的偏航角设为yaw[rad],将当前位置的x坐标设为cx[m],将y坐标设为cy[m],而且将时间差设为ΔT[sec]。另外,产生偏航率时的、转弯半径r通过r=v/yawrate求出,旋转中心的坐标(ox、oy)通过ox=cx-r*cos(yaw)、oy=cy-r*sin(yaw)求出。
修正后的车辆51的自身位置、即经过时间差ΔT后的车辆51的自身位置坐标(ex、ey)能够通过以下式(1)、式(2)求出。
ex=cos(ΔT*yawrate)*(cx-ox)
-sin(ΔT*yawrate)*(cy-oy)+ox (1)
ey=sin(ΔT*yawrate)*(cx-ox)
+cos(ΔT*yawrate)*(cy-oy)+oy (2)
另外,修正后的偏航角eyaw通过eyaw=yaw+yawrate*ΔT求出。
另一方面,在未产生偏航率的情况下,修正后的车辆51的自身位置坐标(ex、ey)能够通过以下的式(3)、式(4)求出。
ex=cx+v*ΔT*cos(yaw) (3)
ey=cy+v*ΔT*sin(yaw) (4)
另外,修正后的偏航角eyaw为eyaw=yaw。
即,在步骤S12,通过基于由车辆动作推定部14输出的车辆动作信息D07及由自身位置信息D05取得的车辆51的自身位置进行上述的运算,由此,能够计算从时刻t1经过时间差ΔT后的车辆51的自身位置。
之后,在图3的步骤S13中,信号机检测区域计算部15预测拍摄到图像时的信号机位置。即,因为取得图4(a)的时刻t11的时间点的自身位置的信息及由摄像机11拍摄到的图像,所以能够根据自身位置和地图信息中所包含的信号机的位置信息推定在图像中信号机存在的位置。
在步骤S14中,信号机检测区域计算部15将图像内包含信号机的区域作为检测区域进行设定,在步骤S15,将该信息作为信号机检测区域信息D08输出。之后,信号机识别部16从设定的检测区域内检测信号机,并检测该信号机的灯光色。这样,能够在图像内设定检测区域,能够识别存在于该检测区域内的信号机的灯光色。
接着,参照图5~图7所示的说明图,说明基于时间差ΔT的检测区域的变化。图5表示车辆51在向右侧弯曲的弯路的情况。如图5所示,考虑车辆51在时刻t1(参照图4)通过弯路的地点Z1,在经过时间差ΔT之后通过地点Z2的情况。
在未考虑时间差ΔT的期间的车辆51的移动量的情况下,在车辆51通过了图5的地点Z1时推定自身位置,在通过了经过了时间差ΔT的地点Z2时取得图像。因此,如果基于这些设定检测区域,则如图6所示,不能相对于图像中存在的信号机P1在右方向设定检测区域R1,不能检测信号机。
与之相对,在考虑到时间差ΔT的期间的车辆51的移动量的情况下,基于车辆51通过了图5的地点Z2时的、车辆51的自身位置及图像来设定检测区域R1,因此,如图7所示,相对于图像中存在的信号机P1在适当的位置设定检测区域R1。这样,在本实施方式中,通过考虑时间差ΔT的期间的车辆51的移动量,能够高精度地设定用于识别信号机P1的检测区域R1。
此外,上述的自身位置检测部12、信号机位置推定部13、车辆动作推定部14、信号机检测区域计算部15、及信号机识别部16能够使用具备CPU、存储器、及输入输出部的微控制器来实现。具体而言,CPU通过执行预先安装的计算机程序,构成微控制器具备的多个信息处理部(12~16)。微控制器具备的存储器的一部分构成存储地图信息D02的地图数据库。此外,微控制器也可以兼用作有关车辆的其它控制(例如自动驾驶控制)所使用的ECU。
这样,在第一实施方式的信号机识别装置100中,基于由地图信息D02得到的信号机的推定位置和因车辆动作而产生的信号机推定位置的位移量,在图像中设定检测区域R1。因此,能够高精度地设定用于检测信号机P1的检测区域R1。
另外,信号机检测区域计算部15基于车辆动作和预先设定的规定时间,推定车辆移动量,且基于所推定的信号机在图像上的位置和车辆移动量,设定检测区域R1,因此,能够进行高精度的识别。
另外,即使在更新车辆51的自身位置推定结果的时间和拍摄图像的时间之间产生时间差ΔT的情况下,通过基于车辆动作来推定时间差ΔT的期间的车辆51的移动量,能够使双方的时间一致。因此,能够在通过摄像机11拍摄在图像上高精度地设定检测区域R1,进而能够高精度地识别信号机P1的点亮状态、即红、绿、黄的灯光色、或者箭头的点亮状态等。
另外,能够根据更新车辆51的自身位置推定结果的规定周期、即图4所示的周期T1,以变更时间差ΔT的方式进行设定。例如,在周期T1增大的情况下,能够增大时间差ΔT。通过这样设定,能够进行与更新自身位置推定结果的周期的变化对应的适当的检测区域的设定。
进而,作为车辆动作,使用车辆的行驶速度及偏航率计算时间差ΔT的期间的车辆51的移动量,因此,能够高精度地求出因车辆动作产生的信号机推定位置的位移量,进而能够进行高精度的检测区域R1的设定。
另外,作为车辆动作,也可以使用车辆的行驶速度及转向角(转向量)计算时间差ΔT的期间的车辆51的移动量。而且,在使用转向角的情况下,也能够高精度地求出因车辆动作产生的信号机推定位置的位移量,进而能够进行高精度的检测区域R1的设定。
进而,在图5所示的地点Z2的车辆51的自身位置信息基于车辆动作来推定,因此,在车辆动作信息D07大的情况下,自身位置的推定精度可能下降。于是,在车辆动作信息D07的值大的情况下,通过增大通过信号机检测区域计算部15设定的检测区域R1的范围,能够补充推定精度的下降。
具体而言,如图8的特性图所示,在将通常时的检测区域R1的大小设为“1”时,伴随车辆动作量的增大,使检测区域R1的大小增大。而且,设定某一定的大小、例如相对于通常为2倍的大小作为上限,在达到该大小的情况下,不再使检测区域R1进一步增大。由此,因为车辆动作量越大则检测区域R1的范围越大,所以即使在因车辆动作量的增大而信号机位置的推定精度下降的情况下,也能够以信号机P1不从检测区域R1离开的方式设定检测区域R1。
[第一实施方式的变形例的说明]
在上述的第一实施方式中,如图4所示,示出周期T2相对于周期T1为2倍的周期的例子。但是,在周期T1、T2不为倍数的关系的情况下,时间差ΔT发生变化。以下,参照图9所示的时间图进行说明。
图9(a)表示拍摄图像的时间,图9(b)表示更新自身位置推定结果的时间。而且,自身位置推定结果的更新在周期T4执行,图像的拍摄在周期T3执行。该情况下,在拍摄到图像时,使用该时刻以前的最近的自身位置推定结果来设定检测区域R1。
例如,如时刻t22和时刻t32的时间差ΔT1、时刻t23和时刻t33的时间差ΔT2,计算出时间差ΔT1~ΔT6,使用各时间差ΔT1~ΔT5来计算车辆51的移动量。
而且,在这样的构成中,也与上述的第一实施方式相同,计算各时间差ΔT1~T5的期间的车辆51的移动量,且基于该移动量来修正车辆51的位置,因此,能够高精度地设定在图像中设定的检测区域。
[第二实施方式的说明]
接着,对本发明的第二实施方式进行说明。装置构成因为与第一实施方式所示的图1、图2相同,所以省略说明。以下,参照图10所示的流程图,说明第二实施方式的信号机识别装置100的处理顺序。首先,在步骤S31,车辆动作推定部14基于车辆51的行驶速度、偏航率、转向角等各种信息,判断车辆动作是否为规定值以上。
而且,在车辆51以低速行驶的情况或停止的情况等,在判断为车辆动作低于规定值的情况下(步骤S31中为否),更新车辆51的自身位置推定结果的时间和拍摄图像的时间之间的时间差ΔT的期间的车辆动作量小,能判断为可以无视的情况。因此,在步骤S32,车辆动作推定部14将车辆动作信息D07看作是零,处理进入步骤S35。
另一方面,在车辆动作为规定值以上的情况下(步骤S31中为是),执行步骤S33~S37的处理。步骤S33~S37的处理因为与图3所示的步骤S11~S15的处理相同,所以省略说明。
这样,在第二实施方式的信号机识别装置100中,基于车辆51的动作,仅在车辆51的动作为规定值以上的情况下,计算时间差ΔT的期间的移动量,修正车辆51的位置。换言之,在车辆51的动作小的情况下,能够推定为在时间差ΔT的期间,车辆51的自身位置推定结果和拍摄图像时的车辆51的自身位置之间的相对的位置关系、特别是行进方向未大幅变化,因此,在这样的情况下,不能计算时间差ΔT的期间的车辆51的移动量。其结果,能够省略不需要的运算,能够降低运算负荷。
[第三实施方式的说明]
接着,对本发明的第三实施方式进行说明。图11是表示第三实施方式的信号机识别装置101的构成的块图。该信号机识别装置101与上述的图2所示的信号机识别装置100相比,在搭载有行驶路径设定部37这一点上不同。另外,车辆动作推定部34进行的处理不同。其以外的构成与图2相同,因此标注同一符号并省略构成说明。
行驶路径设定部37以地图信息D02和自身位置信息D05作为输入,提取预想到车辆51将来行驶的行驶路径。而且,将所提取的行驶路径作为行驶路径信息D40输出到车辆动作推定部34。
车辆动作推定部34基于行驶路径信息D40,计算从更新自身位置推定结果的时间至拍摄图像的时间为止的时间差ΔT的期间的车辆51的移动量,并将该移动量作为车辆动作信息D37输出到信号机检测区域计算部15。
接着,参照图12所示的流程图说明第三实施方式的信号机识别装置101的处理顺序。首先,在步骤S51,行驶路径设定部37基于自身位置信息D05及地图信息D02来决定车辆51的行驶路径。在该处理中,能够基于地图信息D02中包含的车辆51的行驶路径和自身位置信息D05,识别车辆51当前行驶的行驶路径及行驶位置,因此,能够决定车辆51将来要行驶的行驶路径。
在步骤S52,车辆动作推定部14取得更新在自身位置检测部12执行的车辆51的自身位置推定结果的周期、和拍摄由摄像机11拍摄的图像的周期。而且,计算更新自身位置推定结果的时间和拍摄图像的时间的时间差ΔT。该处理因为与图3所示的步骤S11的处理相同,所以省略详细的说明。
接着,在步骤S53,车辆动作推定部34基于车辆的行驶速度和车辆的行驶路径,计算时间差ΔT的期间的车辆51相对于在图4(b)的时刻t1推定的自身位置的移动量。该移动量被作为车辆动作信息D37输出到信号机检测区域计算部15。而且,信号机检测区域计算部15基于该车辆动作信息D37,计算出在时刻t11的车辆51的自身位置。
之后,在步骤S54,信号机检测区域计算部15预测拍摄到图像时的信号机的位置。即,基于通过步骤S53的处理计算出的时刻t11的车辆51的自身位置计算结果及图像,推定信号机相对于车辆51的位置。
在步骤S55,信号机检测区域计算部15将图像内包含信号机的区域作为检测区域设定,在步骤S56,将该信息作为信号机检测区域信息D08输出。之后,信号机识别部16从所设定的检测区域内检测信号机,且检测该信号机的灯光色。这样,能够在图像内设定检测区域,能够识别存在于该检测区域内的信号机的灯光色。
以下,参照图13,对在步骤S53的处理中,计算车辆动作信息D37的处理的详情进行说明。图13(a)是表示车辆51从两车道道路的右车道X11向左车道X12变更车道时的、车辆51的动作的说明图。另外,图13(b)是表示偏航率相对于时间经过的变化的特性图。车辆51在图13(a)的地点Z3、Z4行驶的时刻分别与图13(b)所示的时刻t51、t52对应。
在车辆51进行车道变更时,使用偏航率及转向角推定车辆51的自身位置的情况下,自身位置的推定精度下降。即,在车辆51未进行车道变更的地点Z3,如图13(b)的时刻t51所示,尚未产生偏航率,因此,推定经过时间差ΔT后的车辆51的自身位置的精度下降。另外,在开始车道变更的情况下,在进行车道变更时,偏航率或转向角的变化率也增大(t51~t52的时间),在这样的情况下,车辆51的动作的检测精度下降。
于是,在步骤S53的处理中,使用行驶路径信息D40及车辆的行驶速度计算车辆51的移动量。即,因为通过(行驶速度×ΔT)求出车辆51的移动距离L1,所以只要将相对于在拍摄到图像时的之前的自身位置推定结果的更新时(图4的时刻t1的时间点)取得的自身位置,沿着行驶路径行进移动距离L1的位置设为经过了时间差ΔT后的车辆51的自身位置即可。
另外,在车辆51通过自动驾驶控制而进行行驶的情况下,能够预先识别车道变更的位置。因此,因为能够计算出图13(a)的地点Z4的车辆51的朝向,所以能够计算出拍摄到图像时的车辆51的自身位置。这样,通过使用由行驶路径设定部37设定的行驶路径推定车辆动作,所以能够更高精度地对时间差ΔT的期间的车辆51计算移动量。
这样,在第三实施方式的信号机识别装置101中,基于车辆51的行驶速度及表示车辆51将来要行驶的行驶路径的行驶路径信息D40,推定经过了时间差ΔT后的车辆51的自身位置。因此,在车辆51进行车道变更的情况下,初期不产生偏航率,而之后在偏航率急剧增加的情况下,也能够高精度地推定拍摄到图像时的车辆51的自身位置。因此,能够高精度地设定图像中所设定的检测区域。
以上,基于附图的实施方式说明了本发明的信号机识别装置及信号机识别方法,但本发明不限于此,各部分的构成能够替换为具有同样功能的任意构成。
符号说明
11 摄像机(摄像部)
12 自身位置检测部
13 信号机位置推定部
14、34 车辆动作推定部
15 信号机检测区域计算部(信号机检测区域设定部)
16 信号机识别部
17 地图信息取得部
18 路标信息取得部
37 行驶路径设定部
51 车辆
100、101 信号机识别装置
D01 路标信息
D02 地图信息
D03 摄像机信息
D04 灯光色信息
D05 自身位置信息
D06 信号机相对位置信息
D07 车辆动作信息
D08 信号机检测区域信息
D09 图像数据
D37 车辆动作信息
D40 行驶路径信息
P1 信号机
R1 检测区域
X11 右车道
X12 左车道

Claims (10)

1.一种信号机识别装置,其特征在于,具备:
摄像部,其搭载于车辆上,拍摄所述车辆周围的图像;
地图信息取得部,其取得所述车辆周围的地图信息;
自身位置检测部,其检测所述车辆在地图上的自身位置;
信号机位置推定部,其基于所述自身位置及所述地图信息,推定信号机在图像上的位置;
车辆动作推定部,其推定所述车辆的动作;
信号机检测区域设定部,其基于所述推定的信号机在图像上的位置和因所述车辆的动作产生的所述信号机在图像上的位置的位移量,在所述图像上设定信号机的检测区域;
信号机识别部,其从所述检测区域检测信号机。
2.如权利要求1所述的信号机识别装置,其特征在于,
在所述车辆动作为预先设定的规定值以上的情况下,所述信号机检测区域设定部基于所述推定的信号机在图像上的位置及因所述车辆动作产生的所述信号机在图像上的位置的位移量,设定所述检测区域,
在所述车辆动作低于所述规定值的情况下,基于所述推定的信号机在图像上的位置,设定所述检测区域。
3.如权利要求1或2所述的信号机识别装置,其特征在于,
所述信号机检测区域设定部基于所述车辆动作和预先设定的规定时间来推定车辆移动量,并基于所述推定的信号机在图像上的位置和所述车辆移动量来设定所述检测区域。
4.如权利要求3所述的信号机识别装置,其特征在于,
所述信号机检测区域设定部基于由所述摄像部拍摄图像的时间和检测到所述自身位置的时间之间的时间差,设定所述规定时间。
5.如权利要求4所述的信号机识别装置,其特征在于,
所述自身位置检测部在规定周期检测所述车辆的自身位置,
所述信号机检测区域设定部根据所述规定周期设定所述时间差。
6.如权利要求1~5中任一项所述的信号机识别装置,其特征在于,
所述车辆动作推定部使用车辆的偏航率推定车辆的动作。
7.如权利要求1~5中任一项所述的信号机识别装置,其特征在于,
所述车辆动作推定部使用车辆的转向量推定车辆的动作。
8.如权利要求1~7中任一项所述的信号机识别装置,其特征在于,
还具备行驶路径设定部,该行驶路径设定部基于所述自身位置及所述地图信息,设定车辆将来行驶的行驶路径,
所述车辆动作推定部基于车辆将来行驶的行驶路径,推定所述车辆动作。
9.如权利要求1~8中任一项所述的信号机识别装置,其特征在于,
车辆动作量越大,所述信号机检测区域设定部将所述检测区域设定得越大。
10.一种信号机识别方法,其特征在于,具备如下的步骤:
搭载于车辆上,拍摄所述车辆周围的图像;
取得所述车辆周围的地图信息;
检测所述车辆在地图上的自身位置;
基于所述自身位置及所述地图信息,推定信号机在图像上的位置;
推定所述车辆的动作;
基于所述推定的信号机在图像上的位置和因所述车辆的动作产生的所述信号机在图像上的位置的位移量,在所述图像上设定信号机的检测区域;
从所述检测区域检测信号机。
CN201580081658.2A 2015-07-13 2015-07-13 信号机识别装置及信号机识别方法 Active CN107836017B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/070042 WO2017009934A1 (ja) 2015-07-13 2015-07-13 信号機認識装置及び信号機認識方法

Publications (2)

Publication Number Publication Date
CN107836017A true CN107836017A (zh) 2018-03-23
CN107836017B CN107836017B (zh) 2019-03-26

Family

ID=57758258

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201580081658.2A Active CN107836017B (zh) 2015-07-13 2015-07-13 信号机识别装置及信号机识别方法

Country Status (10)

Country Link
US (1) US10789491B2 (zh)
EP (1) EP3324384B1 (zh)
JP (1) JP6477883B2 (zh)
KR (2) KR20180021159A (zh)
CN (1) CN107836017B (zh)
BR (1) BR112018000708B1 (zh)
CA (1) CA2992405A1 (zh)
MX (1) MX367068B (zh)
RU (1) RU2678527C1 (zh)
WO (1) WO2017009934A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111915900A (zh) * 2019-05-07 2020-11-10 株式会社电装 信息处理装置和方法及计算机可读存储介质
CN114067608A (zh) * 2020-08-06 2022-02-18 丰田自动车株式会社 车载检测装置及检测方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6451853B2 (ja) * 2015-07-28 2019-01-16 日産自動車株式会社 走行制御装置の制御方法および走行制御装置
JP7205695B2 (ja) * 2019-02-18 2023-01-17 トヨタ自動車株式会社 運転支援システム
JP7268497B2 (ja) * 2019-06-24 2023-05-08 トヨタ自動車株式会社 信号認識システム
JP7274366B2 (ja) * 2019-06-28 2023-05-16 日産自動車株式会社 自己位置推定方法及び自己位置推定装置
JP7156252B2 (ja) * 2019-11-13 2022-10-19 トヨタ自動車株式会社 運転支援装置
WO2021134348A1 (zh) * 2019-12-30 2021-07-08 深圳元戎启行科技有限公司 交通灯状态识别方法、装置、计算机设备和存储介质
US12112550B2 (en) * 2020-01-07 2024-10-08 Motional Ad Llc Systems and methods for traffic light detection
CN112489466B (zh) * 2020-11-27 2022-02-22 恒大新能源汽车投资控股集团有限公司 交通信号灯识别方法和装置
JP7413572B2 (ja) * 2020-12-24 2024-01-15 本田技研工業株式会社 車両
CN113177522A (zh) * 2021-05-24 2021-07-27 的卢技术有限公司 一种用于自动驾驶场景下的红绿灯检测与识别方法
KR102368262B1 (ko) * 2021-06-02 2022-03-03 (주)에이아이매틱스 다중 관측정보를 이용한 신호등 배치정보 추정 방법
JP7494809B2 (ja) 2021-06-29 2024-06-04 株式会社デンソー 支援装置、支援方法、支援プログラム
KR102652486B1 (ko) * 2021-09-24 2024-03-29 (주)오토노머스에이투지 라이다를 이용한 신호등 정보 예측 방법 및 이를 이용한 서버

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005202761A (ja) * 2004-01-16 2005-07-28 Toyota Motor Corp 車両周辺監視装置
JP2007219758A (ja) * 2006-02-15 2007-08-30 Fujitsu Ten Ltd 車載情報装置および車載装置用情報処理方法
CN101395645A (zh) * 2006-03-06 2009-03-25 丰田自动车株式会社 图像处理系统及方法
JP2013218571A (ja) * 2012-04-10 2013-10-24 Toyota Motor Corp 画像認識装置および運転支援装置
WO2014062797A1 (en) * 2012-10-16 2014-04-24 Numera Methods for configuring biometric devices for transmitting health information

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4724043B2 (ja) * 2006-05-17 2011-07-13 トヨタ自動車株式会社 対象物認識装置
JP5962850B2 (ja) * 2013-04-04 2016-08-03 日産自動車株式会社 信号認識装置
RU144555U1 (ru) * 2014-05-05 2014-08-27 Павел Юрьевич Михайлов Устройство для повышения безопасности движения транспортного средства
JP6464783B2 (ja) 2015-02-04 2019-02-06 株式会社デンソー 物体検出装置
CN104952249A (zh) * 2015-06-10 2015-09-30 浙江吉利汽车研究院有限公司 基于车联网的驾驶行为纠正方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005202761A (ja) * 2004-01-16 2005-07-28 Toyota Motor Corp 車両周辺監視装置
JP2007219758A (ja) * 2006-02-15 2007-08-30 Fujitsu Ten Ltd 車載情報装置および車載装置用情報処理方法
CN101395645A (zh) * 2006-03-06 2009-03-25 丰田自动车株式会社 图像处理系统及方法
JP2013218571A (ja) * 2012-04-10 2013-10-24 Toyota Motor Corp 画像認識装置および運転支援装置
WO2014062797A1 (en) * 2012-10-16 2014-04-24 Numera Methods for configuring biometric devices for transmitting health information

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111915900A (zh) * 2019-05-07 2020-11-10 株式会社电装 信息处理装置和方法及计算机可读存储介质
CN111915900B (zh) * 2019-05-07 2024-06-07 株式会社电装 信息处理装置和方法及计算机可读存储介质
CN114067608A (zh) * 2020-08-06 2022-02-18 丰田自动车株式会社 车载检测装置及检测方法
CN114067608B (zh) * 2020-08-06 2023-10-10 丰田自动车株式会社 车载检测装置及检测方法

Also Published As

Publication number Publication date
KR20190097326A (ko) 2019-08-20
WO2017009934A1 (ja) 2017-01-19
EP3324384B1 (en) 2021-03-03
RU2678527C1 (ru) 2019-01-29
MX367068B (es) 2019-08-05
US20180204077A1 (en) 2018-07-19
BR112018000708B1 (pt) 2023-03-14
US10789491B2 (en) 2020-09-29
EP3324384A4 (en) 2018-12-05
KR20180021159A (ko) 2018-02-28
CN107836017B (zh) 2019-03-26
BR112018000708A2 (pt) 2018-09-18
JPWO2017009934A1 (ja) 2018-06-14
CA2992405A1 (en) 2017-01-19
JP6477883B2 (ja) 2019-03-13
EP3324384A1 (en) 2018-05-23
MX2018000437A (es) 2018-05-17

Similar Documents

Publication Publication Date Title
CN107836017A (zh) 信号机识别装置及信号机识别方法
JP6447729B2 (ja) 信号機認識装置及び信号機認識方法
KR102091580B1 (ko) 이동식 도면화 시스템을 이용한 도로 표지 정보 수집 방법
US20180273031A1 (en) Travel Control Method and Travel Control Apparatus
WO2017094567A1 (ja) 追跡装置
JP7077910B2 (ja) 区画線検出装置及び区画線検出方法
US11468691B2 (en) Traveling lane recognition apparatus and traveling lane recognition method
JP6838365B2 (ja) 自己位置推定方法及び自己位置推定装置
KR20170068937A (ko) 터널 조명을 이용한 자율주행 차량 항법 시스템
JP6398218B2 (ja) 自己位置算出装置及び自己位置算出方法
US20210080264A1 (en) Estimation device, estimation method, and computer program product
JP2020076714A (ja) 位置姿勢推定装置
CN109344677B (zh) 识别立体物的方法、装置、车辆和存储介质
JP5557036B2 (ja) 退出判定装置、退出判定プログラム及び退出判定方法
WO2023062400A1 (ja) 物体認識方法及び物体認識装置
JP7302966B2 (ja) 移動体
WO2019176197A1 (ja) 車両位置判定装置
JP7524809B2 (ja) 走行道路特定装置、走行道路特定方法及び走行道路特定用コンピュータプログラム
JP7540455B2 (ja) 車両制御装置、車両制御方法及び車両制御用コンピュータプログラム
RU2779798C1 (ru) Способ распознавания светофора и устройство распознавания светофора
JP7334489B2 (ja) 位置推定装置及びコンピュータプログラム
JP2018096935A (ja) 自車位置推定装置、プログラム、記録媒体、および自車位置推定方法
Schüle et al. Feature evaluation of factorized self-localization
JP2022150919A (ja) 車両制御装置
CN115195746A (zh) 地图生成装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant