WO2015190052A1 - 前方状況判定装置 - Google Patents

前方状況判定装置 Download PDF

Info

Publication number
WO2015190052A1
WO2015190052A1 PCT/JP2015/002661 JP2015002661W WO2015190052A1 WO 2015190052 A1 WO2015190052 A1 WO 2015190052A1 JP 2015002661 W JP2015002661 W JP 2015002661W WO 2015190052 A1 WO2015190052 A1 WO 2015190052A1
Authority
WO
WIPO (PCT)
Prior art keywords
vehicle
image
region
preceding vehicle
image analysis
Prior art date
Application number
PCT/JP2015/002661
Other languages
English (en)
French (fr)
Inventor
鈴木 孝光
加藤 香平
健史 山元
裕子 中村
Original Assignee
株式会社デンソー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社デンソー filed Critical 株式会社デンソー
Publication of WO2015190052A1 publication Critical patent/WO2015190052A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems

Definitions

  • the present disclosure relates to a forward situation determination device (determination apparatus) that is used in a vehicle and determines a situation ahead of the vehicle.
  • Patent Document 1 A technology is known that, when traffic jam information is acquired, blinks both left and right direction indicator lights to alert the driver of the following vehicle (Patent Document 1).
  • a vehicle driver is traveling by seeing that both the left and right direction indicator lights of the preceding vehicle, which is the vehicle in front of the vehicle that is traveling in the same lane as the vehicle, blink. It is possible to know that there is a situation that requires attention in a spatial region where the visibility is obstructed by the preceding vehicle in the lane.
  • Patent Document 1 cannot alert the vehicle driver unless the device described in Patent Document 1 is installed in the preceding vehicle.
  • Patent Document 1 In the technique of Patent Document 1, the apparatus of Patent Document 1 is mounted on another vehicle in order to determine whether or not to pay attention to another moving body that exists in a space area where visibility is obstructed by the preceding vehicle. There was a need to have been. However, the device of Patent Document 1 is not always mounted on other vehicles.
  • the object of the present disclosure is to determine whether or not other mobile objects existing in a space area where visibility is obstructed in the vehicle ahead are not dependent on devices mounted on other vehicles. It is in providing the front condition determination apparatus which can determine.
  • a forward situation determination device used in a vehicle includes the following.
  • a camera that images the front of the vehicle. In the image captured by the camera, this is a region included in the image of the object to be analyzed that is selected based on a predetermined condition from an object that does not have an obstacle with the camera, and is a forward vehicle that has no obstacle between the camera and the camera.
  • An image analysis unit that analyzes an analysis target region that is also a region where an image of a moving body that exists in a spatial region in which the field of view is obstructed by the vehicle in the immediate front is captured.
  • a determination unit that determines, based on the analysis result of the image analysis unit, whether or not there is a shielded region attention situation that is a situation that requires attention to a moving body that exists in a spatial region in which the field of view is obstructed by the vehicle ahead.
  • the image taken by the camera in front of the vehicle shows an image of a moving object that exists in the space area where the field of view is obstructed by the vehicle ahead, on the glass part of another object or the mirror part of another object. There may be.
  • an image captured by the camera is an area included in the image of the object to be analyzed, and an image of a moving body that is present in a spatial area where the field of view is obstructed by the vehicle in front is captured.
  • Analyze the analysis target area which is an area that may be present. Then, based on the analysis result, the determination unit determines whether or not it is a situation that requires attention to another moving body that exists in the space area in which the field of view is obstructed by the most recent forward vehicle.
  • FIG. 1 The block diagram of the front situation judgment device of an embodiment
  • the flowchart which shows the process which ECU of FIG. 1 performs The flowchart which shows the process of S2 of FIG.
  • the flowchart which shows the process of S4 of FIG. Diagram explaining camera image
  • the figure explaining the vehicle seen through the rear window of the preceding vehicle The flowchart which shows the process of S5 of FIG.
  • the figure explaining the search area which searches the analysis object vehicle The flowchart which shows the process of S6 of FIG.
  • a forward situation determination device 1 includes the configuration illustrated in FIG. This forward situation determination device 1 is mounted on a vehicle (not shown).
  • a vehicle equipped with the forward situation determination device 1 is also referred to as a host vehicle or a subject vehicle.
  • the front situation determination apparatus 1 includes a camera 10, an illuminance sensor 20, a display 30, a speaker 40, and an ECU 50.
  • the camera 10 images the front of the host vehicle. Assume that this camera 10 is a stereo camera.
  • the installation location of the camera 10 is, for example, the back side of a room mirror in the vehicle interior.
  • the illuminance sensor 20 detects the illuminance around the host vehicle, and outputs a signal indicating the detected illuminance to the ECU 50.
  • the illuminance sensor 20 is installed on the upper edge of the dashboard in the vehicle cabin.
  • the indicator 30 is installed at a position where the driver of the host vehicle can visually recognize in the passenger compartment, and includes a display screen. On this display screen, when the ECU 50 determines that the situation is a shielding area caution situation, the ECU 50 displays a character or a figure that means that attention should be paid to the shielding area.
  • This shielded area caution situation refers to a space area in which the field of view is obstructed by a forward vehicle having no obstacle between the camera 10, that is, a front vehicle having no obstacle with the host vehicle. It means a situation that requires attention to existing mobile objects.
  • the vehicle in the immediate front is not limited to the preceding vehicle, which is the vehicle in the immediate front of the vehicle traveling in the same lane as the host vehicle, but also between the host vehicle in a direction different from the lane direction in which the host vehicle is traveling. Includes forward vehicles with no objects.
  • the nearest front vehicle includes a front vehicle (hereinafter referred to as a side nearest front vehicle) having no obstacle between the host vehicle and another lane in the same traveling direction as the lane in which the host vehicle is traveling.
  • the nearest forward vehicle includes a forward vehicle (hereinafter referred to as the nearest oncoming vehicle) having no obstacle between the host vehicle and the lane opposite to the lane in which the host vehicle is traveling.
  • the speaker 40 is installed at a position to output sound toward the passenger compartment, and means that when the ECU 50 determines that it is a shielding area attention situation, it should be controlled by the ECU 50 and pay attention to the shielding area. Output sound.
  • the ECU 50 includes a well-known CPU, ROM, and RAM. Further, a storage device 55 separate from the ROM and RAM is also provided.
  • the storage device 55 is a rewritable ROM, for example, a flash memory.
  • the storage device 55 or the ROM stores programs for the CPU to execute various processes.
  • the CPU functions as the image analysis unit 51, the determination unit 52, the illuminance determination unit 53, and the vehicle type determination unit 54 by executing a program stored in the ROM or the storage device 55 while using the temporary storage function of the RAM. To do.
  • the processes executed by the image analysis unit 51, the determination unit 52, the illuminance determination unit 53, and the vehicle type determination unit 54 will be described later with reference to FIG. Note that some or all of the functions executed by the CPU may be configured by hardware using one or a plurality of ICs.
  • the ECU 50 also controls the camera 10, the display 30, and the speaker 40.
  • the ECU 50 includes a signal acquisition unit 56.
  • the signal acquisition unit 56 acquires various signals in the host vehicle via the in-vehicle LAN 60.
  • the signal to be acquired includes a signal indicating the turn-on / off state of the direction indicator lamp. Therefore, the signal acquirer 56 is also referred to as a turn signal detector.
  • the storage 55 displays the light emission pattern of the rear window of the preceding vehicle that can be seen from the host vehicle when the brake lamp of the preceding preceding vehicle, which is the vehicle preceding the preceding vehicle, is lit. It is remembered separately.
  • the inclination of the window of the preceding vehicle differs depending on the vehicle type. If the inclination of the window is different, the light scattering pattern when the light from the brake lamp of the preceding preceding vehicle enters the window of the preceding vehicle is different. That is, the light emission pattern of the rear window of the preceding vehicle that can be seen from the host vehicle when the brake lamp of the preceding preceding vehicle is lit differs for each vehicle type.
  • this light emission pattern is referred to as a brake light emission pattern.
  • the storage device 55 stores the brake light emission pattern for each vehicle type. This brake light emission pattern is a light emission pattern in a state where both the left and right brake lamps of the preceding preceding vehicle are visible from the host vehicle through the preceding vehicle window.
  • the light emission pattern of the rear window of the preceding vehicle that is visible from the host vehicle is different when both of the direction indicator lights on the rear of the preceding preceding vehicle are lit.
  • this light emission pattern is referred to as a hazard light emission pattern.
  • the storage device 55 also stores this hazard emission pattern for each vehicle type.
  • This hazard light emission pattern is also a light emission pattern in a state in which the left and right direction indicator lights of the preceding preceding vehicle are visible from the host vehicle through the window of the preceding vehicle.
  • the brake lamp and the rear direction indicator lamp are also referred to as a rear lamp.
  • the storage device 55 also stores a template image behind the vehicle for each vehicle type.
  • each section is expressed as, for example, S1. Further, each section can be divided into a plurality of subsections, while a plurality of sections can be combined into one section. Further, each section can be referred to as a device, a module.
  • each of the above sections or a combination thereof includes not only (i) a section of software combined with a hardware unit (eg, a computer), but also (ii) hardware (eg, an integrated circuit, As a section of (wiring logic circuit), it can be realized with or without the function of related devices.
  • the hardware section can be included inside the microcomputer.
  • the ECU 50 repeatedly executes the processing shown in FIG. 2 while the host vehicle is traveling forward. Further, the ECU 50 causes the camera 10 to capture a front image of the host vehicle while executing the processing shown in FIG.
  • the image analysis unit 51 executes S1 to S3 in FIG. Which element of the ECU 50 executes S4 to S6 will be described with reference to FIGS.
  • an image captured by the camera 10 (hereinafter referred to as a camera image) is acquired from the camera 10.
  • an analysis target vehicle that is, an analysis target object is determined.
  • An analysis target vehicle is a vehicle in which an image of the analysis target vehicle includes an analysis target region in a camera image.
  • the analysis target area means an area in which an image of a moving body that exists in a spatial area in which the field of view is obstructed in the vehicle immediately ahead may be captured.
  • the analysis target vehicles include the preceding vehicle, the vehicle that is closest to the side, and the vehicle that is closest to the vehicle, and the analysis target region includes the rear window image portion of the preceding vehicle and the side surface of the body on the host vehicle side of the vehicle that is closest to the side. There is an image part and a window image part of the nearest oncoming vehicle.
  • the preceding vehicle appears in the window image of the preceding vehicle.
  • the image of the body side face of the host vehicle side of the vehicle in front of the side is a mirror of the side face and the preceding vehicle is reflected.
  • a moving body that moves to the host vehicle side behind the latest oncoming vehicle may appear in the window image portion of the latest oncoming vehicle. Therefore, the rear window image portion of the preceding vehicle, the image portion of the body side surface of the host vehicle side of the vehicle that is closest to the side, and the window image portion of the latest oncoming vehicle are set as analysis target regions.
  • S21 it is determined whether or not the right direction indicator lamp of the host vehicle is blinking. If this judgment is YES, it will progress to S22.
  • S22 it is determined whether or not the vehicle is traveling in the right lane. This determination is made, for example, by analyzing the camera image acquired in S1 and determining the distance between the host vehicle and the center line or the center separation band from the position of the center line or the center separation band in the image.
  • the light-transmitting window means a window through which light is transmitted, and is a window on which a film is attached. A window that has no or almost no scenery beyond the window is not a light-transmitting window.
  • the determination in S23 is whether or not there is a window that allows the front to be visually recognized on the rear surface of the preceding vehicle.
  • the determination in S23 is based on, for example, determining the image portion of the preceding vehicle by edge detection or the like, and determining whether or not there is a region where the position of the same point changes relative to the surrounding portion in the image portion of the preceding vehicle. to decide. This is because if there is a translucent window portion, the scenery seen through the window portion changes relative to the body around the window.
  • S24 the preceding vehicle is determined as the analysis target vehicle. If judgment of S23 is NO, it will progress to S25. In S25, the vehicle nearest to the side is determined as the vehicle to be analyzed. This is because the window portion of the preceding vehicle cannot be analyzed to determine whether the brake lamp and the direction indicator light of the preceding preceding vehicle are lit, so the image portion of the body side surface of the vehicle that is closest to the side is analyzed.
  • S22 determines whether the vehicle is traveling in the right lane (S22: YES). If judgment of S22 is YES, it will progress to S26.
  • S26 the nearest oncoming vehicle is determined as the vehicle to be analyzed. This is because when turning right, that is, when crossing the oncoming lane, it is necessary to pay attention to the moving body that moves to the host vehicle side behind the nearest oncoming vehicle.
  • S41 is executed by the vehicle type determination unit 54
  • S42 to S44 and S46 to S47 are executed by the image analysis unit 51
  • S45 is executed by the illuminance determination unit 53
  • S48 to S51 are executed by the determination unit 52. .
  • a vehicle type determination process is performed to determine the vehicle type of the preceding vehicle.
  • the degree of coincidence between the image of the preceding vehicle acquired from the camera image and the template image behind the vehicle of the vehicle type stored in the storage device 55 is used. If the degree of coincidence is equal to or higher than the vehicle type determination value, the vehicle type of the preceding vehicle is assumed to be the vehicle type of the template image used for determining the degree of coincidence. It is assumed that the vehicle type of the preceding vehicle cannot be determined when there is no template image whose coincidence is equal to or higher than the vehicle type determination value. Further, it is assumed that the vehicle type of the preceding vehicle cannot be determined even when there is no preceding vehicle.
  • S42 it is determined whether or not the vehicle type of the preceding vehicle has been determined in the vehicle type determination process in S41.
  • the process proceeds to S43.
  • S43 it is determined that the brake light emission pattern and the hazard light emission pattern of the determined vehicle type are used in the following process among the brake light emission pattern and the hazard light emission pattern stored in the storage device 55 for each vehicle type. To do.
  • S44 it is determined to use the preset light emission pattern at the time of braking and the light emission pattern at the time of the hazard in the following processing of the preset vehicle type.
  • S45 a signal indicating illuminance is acquired from the illuminance sensor 20.
  • S46 based on the illuminance acquired in S44, a luminance threshold value used for determining whether or not the lamp of the preceding vehicle is turned on is set.
  • the luminance threshold includes a luminance threshold for determining lighting of the brake lamp and a luminance threshold for determining lighting of the direction indicator lamp. Both threshold values are set to higher values as the illuminance is higher. This is because the brighter the surrounding brightness is, the brighter the rear window image portion in the camera image is even if the lamp of the preceding vehicle is not lit.
  • FIG. 5 is an explanatory diagram of a camera image.
  • the rear image 80 of the preceding preceding vehicle may appear in the rear window image portion 72 of the preceding vehicle image 70.
  • the brake lamp of the preceding preceding vehicle is lit, the brake lamp of the rear image 80 of the preceding preceding vehicle is also lit.
  • both direction indicator lights of the preceding preceding vehicle blink, both direction indication lights of the rear image 80 of the preceding preceding vehicle also blink.
  • the rear window image portion 72 of the preceding vehicle image 70 is analyzed.
  • the content of the analysis is to perform processing for performing the next determination of S48 and S49. That is, in S47, in the rear window image portion 72 of the preceding vehicle image, the luminance of the portion exhibiting the color of the brake lamp and the luminance of the portion exhibiting the color of the direction indicator light are determined for each lamp in S46. It is determined whether or not the brightness threshold set in step 1 is exceeded. Further, the degree of coincidence between the luminance distribution pattern of the portion exceeding the luminance threshold and the light emission pattern determined in S43 or S44 is determined.
  • the determination result in S48 is YES. Also, as a result of the analysis in S47, the determination result in S48 is YES even when the luminance of the portion showing the color of the direction indicating lamp exceeds the luminance threshold set for the direction indicating lamp in S46. . If the determination result of S48 is YES, the process proceeds to S49, and if NO, the process of FIG. 4 is terminated.
  • the luminance distribution pattern of the portion showing the color of the direction indicator lamp and exceeding the luminance threshold matches the light emission pattern of the direction indicator lamp determined in S43 or S44. Is determined from the degree of coincidence determined in S47.
  • the camera 10 When the camera 10 is attached in the vicinity of the rearview mirror of the host vehicle 100, as shown in FIG. 6, not only the preceding preceding vehicle 120 but also other vehicles 130, 140 in the adjacent lane through the rear window 112 of the preceding vehicle 110. May be visible. However, as can be seen from FIG. 6, the other vehicles 130 and 140 in the adjacent lane are not located near the center of the rear window 112 when viewed from the host vehicle 100 through the rear window 112 of the preceding vehicle 110. In particular, when the other vehicle 140 on the left side in FIG. 6 is viewed from the host vehicle 100 through the rear window 112 of the preceding vehicle 110, only the right side portion can be seen.
  • the rear window of the preceding vehicle image 70 is displayed when the brake lamps and the left and right direction indicator lights of these other vehicles 130 and 140 are turned on and when the brake lamp and the left and right direction indicator lights of the preceding preceding vehicle 120 are turned on.
  • the light emission pattern of the image portion 72 is different.
  • the brake light emission pattern and the hazard light emission pattern determined in S43 or S44 indicate that the left and right brake lamps or the left and right direction indicator lights of the preceding preceding vehicle can be visually recognized from the host vehicle through the preceding vehicle window.
  • the light emission pattern is as follows. Therefore, if the luminance distribution pattern of the portion exhibiting the color of the brake lamp and exceeding the luminance threshold matches the light emission pattern of the brake lamp determined in S43 or S44, the preceding vehicle 120 brake lamps are turned on.
  • the situation in which S50 is executed is a situation that requires attention to the preceding vehicle existing in the space area where the visibility is hindered by the preceding vehicle. This situation is also referred to as a shielded area attention situation.
  • the driver of the host vehicle is notified using one or both of the display 30 and the speaker 40 that the lamp of the preceding vehicle is turned on.
  • the image analysis unit 51 executes S61 to S63 and S65 to S66, the illuminance determination unit 53 executes S64, and the determination unit 52 executes S67 to S69.
  • the relative position of the preceding vehicle with respect to the host vehicle is specified. Since the camera 10 in this embodiment is a stereo camera, the relative position of the preceding vehicle is specified by a known calculation method based on the parallax of the same feature point in two camera images. If no preceding vehicle exists within a certain distance from the host vehicle, it is determined that there is no preceding vehicle.
  • the search area 160 for searching for the vehicle to be analyzed is determined.
  • the search area 160 will be described with reference to FIG.
  • a preceding vehicle shielding area 150 indicated by a broken line is a space area close to the preceding vehicle 110 among the space areas in which the visibility of the driver of the host vehicle is obstructed in the preceding vehicle 110.
  • the width of the preceding vehicle shielding area 150 is the same as the width of the preceding vehicle 110, and the length is constant from the front end of the preceding vehicle 110 to the front.
  • the search area 160 is determined on each of the left and right sides in the longitudinal direction with respect to the preceding vehicle shielding area 150.
  • the search area 160 is set in the adjacent lane. This is because of the limitation due to the angle of view of the camera 10. When the angle of view of the camera 10 is wider, an area that is further away from the host vehicle in the vehicle width direction of the host vehicle than the adjacent lane may be included in the search area.
  • arrows 171 and 173 conceptually indicate light from the front end and rear end of the preceding vehicle shielding area 150
  • arrows 172 and 174 indicate light indicated by arrows 171 and 173, respectively.
  • tip of 173 is shown notionally.
  • the search area 160 can be determined by geometric calculation when the preceding vehicle shielding area 150 is determined.
  • the relative position of the preceding vehicle shielding area 150 with respect to the host vehicle varies depending on the relative position of the preceding vehicle 110. Accordingly, the search area 160 also changes depending on the relative position of the preceding vehicle 110. Therefore, in S162, the search area 160 is determined based on the relative position to the preceding vehicle 110.
  • S63 it is determined whether or not a side nearest vehicle is present in the search area 160 determined in S62.
  • a portion of the camera image in which the vehicle nearest to the side is reflected is set as an analysis target area.
  • the side nearest front vehicle existing in the search area 160 is an analysis target vehicle in which the image of the side nearest front vehicle is analyzed in the camera image.
  • a side nearest vehicle 180 that is an analysis target vehicle exists in the search area 160 on the right side. Since the search area 160 is set diagonally in front of the host vehicle, the side vehicle 180 in front of the vehicle is traveling diagonally in front of the host vehicle. Whether or not the analysis target vehicle exists in the search area 160 is determined by analyzing the camera image.
  • S64 and S65 are the same processes as S45 and S46 in FIG. 4, respectively, and a signal indicating illuminance is acquired from the illuminance sensor 20 in S64.
  • a luminance threshold for determining lighting of the brake lamp of the preceding vehicle and a luminance threshold for determining lighting of the direction indicator lamp are set.
  • the specific value of these luminance threshold values may be the same value as S46, but may be a value different from S46.
  • the image part of the body side surface on the host vehicle side of the analysis target vehicle is analyzed from the camera image.
  • the body side image portion on the host vehicle side of the analysis target vehicle is also referred to as an analysis target region.
  • the vehicle to be analyzed is also referred to as a specular object.
  • the content of the analysis is to perform processing for performing the next determination in S67. That is, in S47, the luminance of the portion exhibiting the color of the brake lamp and the luminance of the portion exhibiting the color of the direction indicator light in the body side image portion on the host vehicle side of the analysis target vehicle are the respective in S65. It is determined whether the brightness threshold set for the lamp is exceeded.
  • the determination result in S67 is YES. Also, as a result of the analysis in S66, the determination result in S67 is also YES when the luminance of the portion showing the color of the direction indicator lamp exceeds the luminance threshold set for the direction indicator lamp in S65. . If the determination result in S67 is YES, the process proceeds to S68, and if NO, the process of FIG. 7 is terminated.
  • the driver of the host vehicle is notified by using one or both of the display 30 and the speaker 40 that the lamp of the preceding vehicle is turned on.
  • the image analysis unit 51 executes S71 to S72, and the determination unit 52 executes S73 to S74.
  • S71 it is determined whether or not there is a nearest oncoming vehicle.
  • S72 the window image portion of the latest oncoming vehicle is analyzed in the camera image.
  • the window image portion of the latest oncoming vehicle is analyzed.
  • the window image portion of the latest oncoming vehicle is also referred to as the analysis target region.
  • the analysis specifically, it is determined whether or not a moving body moving in the direction in which the distance from the host vehicle is shortened behind the most recently oncoming vehicle is reflected in the window image portion of the most recently oncoming vehicle. This determination is performed by extracting feature points from the window image portion of the nearest oncoming vehicle and determining whether the feature points move relative to the body portion of the nearest oncoming vehicle over time. .
  • the luminance of the portion exhibiting the color of the headlight exceeds a luminance threshold set in advance for the headlight. This is because the headlight may appear in the window image portion of the most recently oncoming vehicle when a motorcycle is present behind the most recently oncoming vehicle. If the brightness of the headlight-colored part exceeds a preset brightness threshold for the headlight, the determination of whether the object with the headlight is moving is omitted, and the latest It is assumed that there is a moving body that moves to the host vehicle side behind the oncoming vehicle. The reason why the determination as to whether the object including the headlight is moving is omitted is because the object including the headlight existing behind the most recently oncoming vehicle normally moves toward the host vehicle.
  • S73 as a result of the analysis in S72, it is determined whether or not there is a moving body that moves in the direction of the host vehicle. More precisely, it is determined that there is a moving body that moves in the opposite lane in a direction that shortens the distance from the host vehicle. Determine whether or not. If it is determined in S72 that this moving object exists, the determination result in S73 is YES.
  • the driver of the host vehicle is notified by using one or both of the display 30 and the speaker 40 that there is a moving body that moves in the direction of the host vehicle behind the nearest oncoming vehicle. .
  • the camera 10 that images the front of the host vehicle.
  • the image captured by the camera 10 includes a space area in which the field of view is obstructed by the preceding vehicle or the nearest oncoming vehicle on the rear window image portion of the preceding vehicle or the nearest oncoming vehicle, or on the body side surface portion of the vehicle that is closest to the side.
  • the vehicle nearest to the side is set as the vehicle to be analyzed (S25). Therefore, even if there is no light-transmitting window portion of the preceding vehicle in the camera image, whether or not it is a situation that requires attention to other moving objects that exist in the space area where visibility is obstructed by the preceding vehicle Can be determined.
  • the nearest oncoming vehicle is set as the analysis target vehicle (S26). Therefore, it is possible to determine the situation of the area requiring attention at the time of a right turn that requires attention not to the space area where visibility is obstructed by the preceding vehicle but to the space area where visibility is obstructed by the nearest oncoming vehicle. it can.
  • the brightness threshold is set based on the illuminance around the host vehicle (S46, S65). Therefore, it can be accurately determined whether or not the lamp of the preceding vehicle has been lit.
  • the analysis target object is a vehicle, but an object other than the vehicle shown in the camera image may be used as the analysis target object.
  • the glass surface of the building existing diagonally forward of the host vehicle instead of the vehicle nearest to the side May be a specular object. This is because the preceding car may be reflected on the glass surface of the building.
  • the luminance threshold is determined based on the illuminance around the host vehicle, but the luminance threshold may be a constant value.
  • ⁇ Modification 5> when there is no analysis target vehicle in the camera image, it may be displayed on the display 30 that it is in a state where it cannot be determined from the camera image whether or not it is a shielded area attention situation.
  • ⁇ Modification 6> when the brightness of the image of the rear window of the preceding vehicle is the brightness indicating that sunlight is reflected, even if the preceding vehicle has a translucent window portion, the vehicle to be analyzed is the vehicle that is closest to the side. It is good. If the rear window of the preceding vehicle reflects sunlight, analyze the image of the rear window of the preceding vehicle to accurately detect the lamp lighting of the preceding preceding vehicle and the size of the preceding preceding vehicle. This is because it is considered difficult.
  • a radar that detects an object ahead may be provided, and the position determination of the preceding vehicle (S61) and the presence / absence determination of the nearest oncoming vehicle (S71) may be performed using the radar.
  • ⁇ Modification 8> In addition to determining that the brake lamp of the preceding vehicle has been lit, it may be determined that the situation is a shielded area attention situation when the brake lamp is continuously lit for a certain time or longer. .
  • ⁇ Modifications 9 to 11> You may acquire the vehicle type of a preceding vehicle by vehicle-to-vehicle communication (modification 9). Instead of determining whether the vehicle is driving in the right lane, or in addition to determining whether the speed of the host vehicle is a right-turnable speed, An oncoming vehicle may be an analysis target vehicle (Modification 10). When it is determined that the situation is a caution situation in the shielding area, the behavior of the host vehicle may be controlled such as deceleration control instead of the notification or in addition to the notification (Modification 11).
  • the vehicle type of the vehicle to be analyzed may be considered when analyzing the luminance of the window portion.
  • the light emission pattern of the window of the most recent oncoming vehicle that can be seen from the host vehicle is stored in the storage device 55 for each vehicle type in a situation where the moving body existing behind the most recent oncoming vehicle lights the headlight.
  • a template image in front of the vehicle is also stored for each vehicle type.
  • the template image of the vehicle ahead is stored using the template image stored in the vehicle type. Determine the vehicle type.
  • S72 in addition to determining whether the luminance of the headlight color part has exceeded a preset luminance threshold for the headlight, a light emission pattern corresponding to the vehicle type of the vehicle in front is used. The analysis used is also performed. In other words, it is also determined whether the light emission pattern of the headlight color in the window image portion of the latest front vehicle matches the light emission pattern corresponding to the vehicle type of the latest front vehicle. In this way, it is possible to accurately determine whether or not there is a moving body that moves the rear side of the nearest oncoming vehicle toward the host vehicle.
  • the luminance threshold value used in S72 of FIG. 9 may be changed according to the illuminance around the host vehicle, similar to S46 of FIG.

Abstract

 前方状況の判定装置(determination apparatus)(1)は、車両に搭載され、カメラ(10)が撮像した画像において、カメラとの間に障害物がない物体から所定の条件により選択される解析対象物体の像に含まれる領域であり、カメラとの間に障害物がない前方車である直近前方車で視界が阻害されている空間領域に存在する移動体の像が写っている可能性がある領域でもある、解析対象領域を解析する画像解析部(51)と、画像解析部の解析結果に基づいて、直近前方車で視界が阻害されている空間領域に存在する移動体に注意を要する状況である遮蔽領域注意状況か否かを判定する判定部(52)とを備える。

Description

前方状況判定装置 関連出願の相互参照
 本出願は、2014年6月10日に出願された日本出願番号2014-119946号に基づくもので、ここにその記載内容を援用する。
 本開示は、車両で用いられ、その車両の前方の状況を判定する前方状況の判定装置(determination apparatus)に関する。
 渋滞情報を取得した場合に、左右の方向指示灯を両方点滅させて、後続車の運転手に対して注意喚起をする技術が知られている(特許文献1)。この技術によれば、車両の運転者は、車両と同一車線を走行している直近前方車である先行車の左右の方向指示灯が両方点滅することを見ることにより、車両が走行している車線において先行車で視界が阻害されている空間領域に、注意すべき状況が生じていることを知ることができる。
JP 2005-148998 A
 しかし、特許文献1の技術は、先行車に特許文献1記載の装置が搭載されていないと、車両の運転手に注意喚起をすることができない。
 また、車両に搭載したカメラ等の検出器により先行車の左右の方向指示灯の点滅を自動的に検出して速度制御等の車両制御を行うとしても、先行車に特許文献1記載の装置が搭載されていないと、その車両制御を行うことができない。
 これら車両の運転者に対する注意喚起や車両の車両制御のためには、先行車で視界が阻害されている空間領域に存在している他の移動体に注意をすべき状況であるかを判定する必要がある。
 特許文献1の技術は、先行車で視界が阻害されている空間領域に存在している他の移動体に注意をすべき状況かを判定するために、他車両に特許文献1の装置が搭載されている必要があった。しかし、他車両に必ず特許文献1の装置が搭載されているとは限らない。
 本開示の目的は、他車両に搭載されている装置に依存せずに、直近前方車で視界が阻害されている空間領域に存在している他の移動体に注意を要する状況であるか否かを判定することができる前方状況判定装置を提供することにある。
 上記目的を達成するための本開示の一つの例によれば、車両で用いられる前方状況判定装置は次を含むように提供される。車両の前方を撮像するカメラ。カメラが撮像した画像において、カメラとの間に障害物がない物体から所定の条件により選択される解析対象物体の像に含まれる領域であり、カメラとの間に障害物がない前方車である直近前方車で視界が阻害されている空間領域に存在する移動体の像が写っている可能性がある領域でもある、解析対象領域を解析する画像解析部。画像解析部の解析結果に基づいて、直近前方車で視界が阻害されている空間領域に存在する移動体に注意を要する状況である遮蔽領域注意状況か否かを判定する判定部。
 カメラが車両前方を撮像した画像には、他の物体のガラス部分、あるいは、他の物体の鏡面部分に、直近前方車で視界が阻害されている空間領域に存在する移動体の像が写っていることがある。
 そこで、上記の例では、カメラが撮像した画像において、解析対象物体の像に含まれている領域であり、直近前方車で視界が阻害されている空間領域に存在する移動体の像が写っている可能性がある領域である解析対象領域を解析する。そして、判定部は、その解析結果に基づいて、直近前方車で視界が阻害されている空間領域に存在する他の移動体に注意を要する状況であるか否かを判定する。
 したがって、直近前方車両に搭載されている装置に依存せずに、直近前方車で視界が阻害されている領域に存在している他の移動体に注意を要する状況であるか否かを判定することができる。
 本開示についての上記目的およびその他の目的、特徴や利点は、添付の図面を参照しながら下記の詳細な記述により、より明確になる。
実施形態の前方状況判定装置の構成図 図1のECUが実行する処理を示すフローチャート 図2のS2の処理を示すフローチャート 図2のS4の処理を示すフローチャート カメラ画像を説明する図 先行車の後窓部を通して見える車両を説明する図 図2のS5の処理を示すフローチャート 解析対象車を探索する探索領域を説明する図 図2のS6の処理を示すフローチャート
 以下、本開示の実施形態を図面に基づいて説明する。本開示の実施形態となる前方状況判定装置1は、図1に示す構成を備える。この前方状況判定装置1は図示しない車両に搭載される。前方状況判定装置1を搭載した車両を、ホスト車両あるいはサブジェクトビークルともいう。
 前方状況判定装置1は、カメラ10、照度センサ20、表示器30、スピーカ40、ECU50を備える。
 カメラ10は、ホスト車両の前方を撮像する。このカメラ10は、ステレオカメラであるとする。カメラ10の設置場所は、たとえば車室内のルームミラー裏側などである。
 照度センサ20は、ホスト車両の周囲の照度を検出し、検出した照度を示す信号をECU50に出力する。この照度センサ20は、車室内のダッシュボード上面縁部などに設置される。
 表示器30は、車室内においてホスト車両の運転者が視認可能な位置に設置されており、表示画面を備える。この表示画面には、ECU50が遮蔽領域注意状況であると判断した場合に、そのECU50により制御されて、遮蔽領域に注意すべきことを意味する文字や図形が表示される。
 この遮蔽領域注意状況とは、カメラ10との間に障害物がない前方車、すなわち、ホスト車両との間に障害物がない前方車である直近前方車で視界が阻害されている空間領域に存在する移動体に注意を要する状況を意味する。
 また、直近前方車には、ホスト車両と同一車線を走行している直近前方車である先行車だけではなく、ホスト車両が走行している車線方向とは異なる方向においてホスト車両との間に障害物がない前方車も含む。
 したがって、直近前方車には、ホスト車両が走行している車線と同一進行方向の別車線において、ホスト車両との間に障害物がない前方車(以下、側方直近前方車)も含まれる。加えて、直近前方車には、ホスト車両が走行している車線とは反対車線において、ホスト車両との間に障害物がない前方車(以下、直近対向車)も含まれる。
 スピーカ40は、車室に向けて音を出力する位置に設置されており、ECU50が遮蔽領域注意状況であると判断した場合に、そのECU50により制御されて、遮蔽領域に注意すべきことを意味する音を出力する。
 ECU50は、周知のCPU、ROM、RAMを備える。また、ROM、RAMとは別の記憶器55も備える。記憶器55は、書き換え可能なROMであり、例えばフラッシュメモリである。この記憶器55あるいはROMには、CPUが種々の処理を実行するためのプログラムが記憶されている。
 CPUは、RAMの一時記憶機能を利用しつつ、ROMあるいは記憶器55に記憶されているプログラムを実行することで、画像解析部51、判定部52、照度決定部53、車種決定部54として機能する。これら画像解析部51、判定部52、照度決定部53、車種決定部54が実行する処理は、図2以降を用いて後述する。なお、CPUが実行する機能の一部または全部を、一つあるいは複数のIC等によりハードウェア的に構成してもよい。
 ECU50は、カメラ10、表示器30、スピーカ40の制御も行う。また、ECU50は信号取得器56を備えている。この信号取得器56は、車内LAN60を介して、ホスト車両内の種々の信号を取得する。取得する信号には、方向指示灯の点消灯状態を示す信号がある。したがって、信号取得器56は方向指示灯検出器とも言及される。
 記憶器55には、前述したプログラムに加えて、先行車よりも一台前の車両である先先行車のブレーキランプが点灯したときに、ホスト車両から見える先行車の後窓の発光パターンが車種別に記憶されている。先行車の窓の傾斜は車種により異なり、窓の傾斜が異なれば、先先行車のブレーキランプからの光が先行車の窓に入射したときの光の散乱パターンが異なる。すなわち、車種ごとに、先先行車のブレーキランプが点灯したときに、ホスト車両から見える先行車の後窓の発光パターンが異なる。この発光パターンを、以下、ブレーキ時発光パターンという。記憶器55には、このブレーキ時発光パターンが車種別に記憶されている。このブレーキ時発光パターンは、先先行車の左右両方のブレーキランプが、先行車の窓を通してホスト車両から視認できる状態における発光パターンになっている。
 同様に、先先行車の後部の方向指示灯が両方とも点灯したときに、ホスト車両から見える先行車の後窓の発光パターンも異なる。この発光パターンを、以下、ハザード時発光パターンという。記憶器55には、このハザード時発光パターンも車種別に記憶されている。このハザード時発光パターンも、先先行車の左右両方の方向指示灯が、先行車の窓を通してホスト車両から視認できる状態における発光パターンになっている。なお、ブレーキランプおよび後部の方向指示灯は後部ランプとも言及される。
 記憶器55には、さらに、先行車の車種を、先行車の後部形状から決定するために、車両後方のテンプレート画像も車種別に記憶されている。
 次に、ECU50が実行する処理を図2以下を用いて説明する。ここで、本開示に記載されるフローチャート、あるいは、フローチャートの処理は、複数のセクション(あるいはステップと言及される)を含み、各セクションは、たとえば、S1と表現される。さらに、各セクションは、複数のサブセクションに分割されることができる、一方、複数のセクションが合わさって一つのセクションにすることも可能である。さらに、各セクションは、デバイス、モジュールとして言及されることができる。また、上記の複数のセクションの各々あるいは組合わさったものは、(i)ハードウエアユニット(例えば、コンピュータ)と組み合わさったソフトウエアのセクションのみならず、(ii)ハードウエア(例えば、集積回路、配線論理回路)のセクションとして、関連する装置の機能を含みあるいは含まずに実現できる。さらに、ハードウエアのセクションは、マイクロコンピュータの内部に含まれることもできる。
 ECU50は、図2に示す処理を、ホスト車両が前進走行している間、繰り返し実行する。また、ECU50は、図2に示す処理を実行している間、カメラ10に、ホスト車両の前方画像を撮像させる。図2のS1~S3は画像解析部51が実行する。S4~S6をECU50のどの要素が実行するかは図4、7、9で説明する。
 S1では、カメラ10が撮像した画像(以下、カメラ画像)を、カメラ10から取得する。
 S2では、解析対象車すなわち解析対象物体を決定する。解析対象車とは、カメラ画像中においてその解析対象車の像が解析対象領域を含んでいる車である。解析対象領域は、直近前方車両で視界が阻害されている空間領域に存在する移動体の像が写っている可能性がある領域を意味する。解析対象車としては、前述した先行車、側方直近前方車、直近対向車があり、解析対象領域には、先行車の後窓画像部分、側方直近前方車のホスト車両側のボディ側面の画像部分、直近対向車の窓画像部分がある。
 先行車の窓画像部分には、先先行車が写っている可能性がある。側方直近前方車のホスト車両側のボディ側面の画像部分には、その側面が鏡となって、先先行車が写っている可能性がある。直近対向車の窓画像部分には、直近対向車の後ろ側方をホスト車両側へ移動する移動体が写っている可能性がある。したがって、これら先行車の後窓画像部分、側方直近前方車のホスト車両側のボディ側面の画像部分、直近対向車の窓画像部分を解析対象領域とするのである。
 S2の詳細処理は図3に示している。図3において、S21では、ホスト車両の右方向指示灯が点滅しているか否かを判断する。この判断がYESであればS22に進む。
 S22では、右車線を走行中であるか否かを判断する。この判断は、たとえば、S1で取得したカメラ画像を解析して画像中における中央線あるいは中央分離帯の位置から、ホスト車両と中央線あるいは中央分離帯との距離を決定して行う。
 S22の判断がNOである場合、右方向指示灯が点滅しているのは、車線変更するためであると考えられる。S22の判断がNOであればS23に進む。また、S21の判断がNOであった場合にもS23に進む。
 S23では、カメラ画像中に先行車の透光窓部分があるか否かを判断する。透光窓とは、光が透過する窓を意味しており、フィルムが貼り付けられている窓であり、その窓の向こう側の景色が全くあるいはほとんど見えない窓は、透光窓ではない。このS23の判断は、先行車の後面に前方を視認できる窓があるか否かを判断していることになる。
 S23の判断は、たとえばエッジ検出などにより先行車の画像部分を決定し、その先行車の画像部分において、同一点の位置が周囲の部分に対して相対的に変化する領域があるか否かにより判断する。透光窓部分があれば、その窓部分を通して見える景色が、窓周囲のボディに対して相対的に変化するからである。
 S23の判断がYESであればS24に進む。S24では、先行車を解析対象車に決定する。S23の判断がNOであればS25に進む。S25では、側方直近前方車を解析対象車に決定する。先行車の窓部分を解析して先先行車のブレーキランプ、方向指示灯が点灯しているかを判断することができないので、側方直近前方車のボディ側面の画像部分を解析するためである。
 一方、S22で右車線を走行中であると判断した場合(S22:YES)には、ホスト車両の運転者はホスト車両を右折させようとしていると考えられる。S22の判断がYESであればS26に進む。S26では、直近対向車を解析対象車に決定する。右折時は、すなわち、対向車線を横断する場合には、直近対向車の後ろ側方をホスト車両側へ移動する移動体に注意が必要だからである。
 説明を図2に戻す。S3では、S2で決定した解析対象車が何であったかを判断する。先行車が解析対象車である場合にはS4に進み、側方直近前方車が解析対象車である場合にはS5に進み、直近対向車が解析対象車である場合にはS6に進む。
 S4の詳細は図4に示す。図4において、S41は車種決定部54が実行し、S42~S44、S46~S47は画像解析部51が実行し、S45は照度決定部53が実行し、S48~S51は判定部52が実行する。
 S41では、先行車の車種を決定するために車種決定処理を行う。先行車の車種決定には、カメラ画像から取得した先行車の画像と、記憶器55に記憶されている車種別の車両後方のテンプレート画像との一致度を用いる。この一致度が車種決定値以上であれば、先行車の車種は、一致度の決定に用いたテンプレート画像の車種であるとする。一致度が車種決定値以上となるテンプレート画像がない場合には、先行車の車種が決定できなかったとする。また、先行車が存在しない場合にも、先行車の車種が決定できなかったとする。
 S42では、S41の車種決定処理において、先行車の車種が決定できたか否かを判断する。先行車の車種が決定できた場合(S42:YES)にはS43に進む。S43では、記憶器55に車種別に記憶されているブレーキ時発光パターン、ハザード時発光パターンのうち、決定できた車種のブレーキ時発光パターン、ハザード時発光パターンを、以下の処理で使用することに決定する。
 先行車の車種が決定できなかった場合(S42:NO)にはS44に進む。S44では、予め設定されているデフォルトの車種のブレーキ時発光パターン、ハザード時発光パターンを、以下の処理で使用することに決定する。
 S43、S44のいずれかを実行した場合には、S45に進む。S45では、照度センサ20から照度を示す信号を取得する。S46では、S44で取得した照度に基づいて、先先行車のランプが点灯したか否かを判定するために用いる輝度閾値を設定する。輝度閾値は、ブレーキランプの点灯を判定するための輝度閾値と、方向指示灯の点灯を判定するための輝度閾値とがある。いずれの閾値も、照度が高いほど高い値に設定する。周囲の明るさが明るいほど、カメラ画像における後窓画像部分は、先先行車のランプが点灯していなくても明るいからである。
 S47では、カメラ画像のうち、図5に例示する先行車画像70の後窓画像部分72を解析する。先行車画像70の後窓画像部分72は、解析対象領域とも言及される。図5はカメラ画像の説明図である。先先行車が存在する場合、先行車画像70の後窓画像部分72には、先先行車の後部画像80が写ることがある。先先行車のブレーキランプが点灯すると、先先行車の後部画像80のブレーキランプも点灯する。また、先先行車の両方の方向指示灯が点滅すると、先先行車の後部画像80の両方の方向指示灯も点滅する。
 そこで、S47では、この先行車画像70の後窓画像部分72を解析する。解析の内容は、次のS48、S49の判断を行うための処理をすることである。すなわち、S47では、先行車画像の後窓画像部分72のうち、ブレーキランプの色を呈している部分の輝度、方向指示灯の色を呈している部分の輝度が、S46でそれぞれのランプに対して設定した輝度閾値を越えているかどうかを判断する。また、輝度閾値を超えた部分の輝度分布パターンと、S43またはS44で決定した発光パターンとの一致度を決定する。
 S47における解析の結果、ブレーキランプの色を呈している部分の輝度が、S46でブレーキランプに対して設定した輝度閾値を越えている場合には、S48の判断結果をYESとする。また、S47における解析の結果、方向指示灯の色を呈している部分の輝度が、S46で方向指示灯に対して設定した輝度閾値を越えている場合にも、S48の判断結果をYESとする。S48の判断結果がYESであればS49に進み、NOであれば図4の処理を終了する。
 S49では、ブレーキランプの色を呈している部分であって、かつ、輝度閾値を超えた部分の輝度分布パターンが、S43またはS44で決定したブレーキランプの発光パターンと一致しているか否かを、S47で決定した一致度から判断する。
 さらに、このS49では、方向指示灯の色を呈している部分であって、かつ、輝度閾値を超えた部分の輝度分布パターンが、S43またはS44で決定した方向指示灯の発光パターンと一致しているか否かを、S47で決定した一致度から判断する。
 少なくとも一方の一致度が一致判定閾値を越えていれば、発光パターンに一致したと判断する(S49:YES)。いずれの一致度も一致判定閾値を超えない場合には、発光パターンに一致しないと判断する(S49:NO)。
 カメラ10がホスト車両100のルームミラー付近に取り付けられている場合、図6に示すように、先行車110の後窓部112を通して、先先行車120だけではなく、隣車線の他車両130、140が見えることがある。しかしながら、図6から分かるように、隣接車線の他車両130、140は、ホスト車両100から先行車110の後窓部112を通して見る場合、後窓部112の中央付近には位置しない。特に、図6における左側の他車両140は、ホスト車両100から先行車110の後窓部112を通して見る場合、右側の部分しか見ることができない。したがって、これら他車両130、140のブレーキランプや左右の方向指示灯が点灯した場合と、先先行車120のブレーキランプや左右の方向指示灯が点灯した場合とでは、先行車画像70の後窓画像部分72の発光パターンは相違する。
 これに対して、S43またはS44で決定したブレーキ時発光パターン、ハザード時発光パターンは、先先行車の左右両方のブレーキランプあるいは左右の方向指示灯が、先行車の窓を通してホスト車両から視認できる状態における発光パターンになっている。したがって、ブレーキランプの色を呈している部分であって、かつ、輝度閾値を超えた部分の輝度分布パターンが、S43またはS44で決定したブレーキランプの発光パターンと一致する場合には、先先行車120のブレーキランプが点灯したことになる。
 また、方向指示灯の色を呈している部分であって、かつ、輝度閾値を超えた部分の輝度分布パターンが、S43またはS44で決定した方向指示灯の発光パターンと一致する場合には、先先行車120の両方の方向指示灯が点灯したことになる。
 そこで、S49の判断がYESである場合には、S50に進み、先先行車のランプが点灯状態になったと決定する。先先行車のブレーキランプが点灯した場合には、先先行車は減速しているので、先先行車に注意が必要である。また、先先行車の両方の方向指示灯が点滅している場合にも、先先行車に注意が必要である。
 したがって、S50を実行する状況は、先行車で視界が阻害されている空間領域に存在する先先行車に注意を要する状況である。この状況は、遮蔽領域注意状況とも言及される。
 S51で、先先行車のランプが点灯したことを、表示器30およびスピーカ40の一方または両方を用いて、ホスト車両の運転者に報知する。
 次に、図7に示す側方直近前方車解析処理を説明する。図7において、S61~S63、S65~S66は画像解析部51が実行し、S64は照度決定部53が実行し、S67~S69は判定部52が実行する。
 S61では、ホスト車両に対する先行車の相対位置を特定する。本実施形態におけるカメラ10はステレオカメラであるので、2つのカメラ画像における同一特徴点の視差に基づく公知の計算方法により、先行車の相対位置を特定する。なお、先行車がホスト車両から一定距離以内に存在しない場合には、先行車なしと決定する。
 S62では、解析対象車を探索する探索領域160を決定する。この探索領域160について図8を用いて説明する。図8において、破線で示す先行車遮蔽領域150は、先行車110でホスト車両の運転者の視界が阻害されている空間領域のうち、先行車110に近い空間領域である。先行車遮蔽領域150の幅は先行車110の車幅と同じであり、長さは先行車110の前端から前方へ一定長さである。
 隣車線を走行する車両のボディ側面に、この先行車遮蔽領域150の状況の少なくとも一部が写るのは、入射角と反射角が等しいという光の反射の法則より、ある領域に限定される。この領域が探索領域160である。この図8に示すように、探索領域160は、先行車遮蔽領域150に対して、長手方向の左右両側にそれぞれ決定する。本実施形態では、探索領域160は、隣車線に設定する。これは、カメラ10の画角による制限のためである。カメラ10の画角が、より広角である場合には、隣車線よりもさらにホスト車両の車幅方向においてホスト車両から離れる領域を、探索領域に含めてもよい。
 図8において、矢印171、173は、先行車遮蔽領域150の前端および後端からの光を概念的に示し、矢印172、174は、矢印171、173で示している光が、その矢印171、173の先端で反射して生じた反射光を概念的に示している。これら矢印171、172、173、174から分かるように、探索領域160は、先行車遮蔽領域150が定まると、幾何学計算により決定できる。
 先行車遮蔽領域150のホスト車両に対する相対位置は、先行車110の相対位置により変化する。したがって、探索領域160も、先行車110の相対位置により変化する。そこで、このS162において、探索領域160を、先行車110に相対位置に基づいて決定するのである。
 S63では、S62で決定した探索領域160に、側方直近前方車が存在しているか否かを判断する。探索領域160に側方直近前方車が存在している場合、カメラ画像においてその側方直近前方車が写っている部分を解析対象領域とする。
 したがって、探索領域160に存在している側方直近前方車は、カメラ画像においてその側方直近前方車の画像が解析される解析対象車である。図8の例では、右側の探索領域160に、解析対象車となる側方直近前方車180が存在している。探索領域160はホスト車両の斜め前に設定されることから、側方直近前方車180はホスト車両の斜め前方を走行している。探索領域160に解析対象車が存在しているか否かは、カメラ画像を解析して判断する。
 S63の判断がNOであれば、図7の処理を終了する。なお、先行車が存在しないために、探索領域160を決定できない場合にも、S63はNOになる。
 S63の判断がYESであればS64に進む。S64、S65は、それぞれ、図4のS45、S46と同じ処理であり、S64では、照度センサ20から照度を示す信号を取得する。S65では、S64で取得した照度に基づいて、先先行車のブレーキランプの点灯を判定するための輝度閾値と、方向指示灯の点灯を判定するための輝度閾値を設定する。なお、これらの輝度閾値の具体的値は、照度が同じである場合に、S46と同じ値であってもよいが、S46とは異なる値であってもよい。
 S66では、カメラ画像のうち、解析対象車のホスト車両側のボディ側面の画像部分を解析する。解析対象車のホスト車両側のボディ側面画像部分は解析対象領域とも言及される。、解析対象車は鏡面物体とも言及される。解析の内容は、次のS67の判断を行うための処理をすることである。すなわち、S47では、解析対象車のホスト車両側のボディ側面画像部分のうち、ブレーキランプの色を呈している部分の輝度、方向指示灯の色を呈している部分の輝度が、S65でそれぞれのランプに対して設定した輝度閾値を越えているかどうかを判断する。
 S67では、S66における解析の結果、ブレーキランプの色を呈している部分の輝度が、S65でブレーキランプに対して設定した輝度閾値を越えている場合には、S67の判断結果をYESとする。また、S66における解析の結果、方向指示灯の色を呈している部分の輝度が、S65で方向指示灯に対して設定した輝度閾値を越えている場合にも、S67の判断結果をYESとする。S67の判断結果がYESであればS68に進み、NOであれば図7の処理を終了する。
 S68では、先先行車のランプが点灯したと決定する。図4のS50で説明したように、先先行車のランプが点灯した状況は、遮蔽領域注意状況とも言及される。
 S69では、先先行車のランプが点灯したことを、表示器30およびスピーカ40の一方または両方を用いて、ホスト車両の運転者に報知する。
 次に、図9に示す直近対向車解析処理を説明する。図9において、S71~S72は画像解析部51が実行し、S73~S74は判定部52が実行する。図9の処理を実行する状態では、ホスト車両は右折をすると判断しているが、直近対向車が存在するか否かは判断していない。そこで、まず、S71では、直近対向車が存在しているか否かを判断する。直近対向車が存在しているか否かは、本実施形態では、カメラ画像を解析して判断する。
 S71の判断結果がNOであれば図9の処理を終了し、YESであればS72に進む。S72では、カメラ画像のうち、直近対向車の窓画像部分を解析する。直近対向車が存在する場合、直近対向車の窓画像部分には、直近対向車の後ろ側方をホスト車両側へ移動する移動体が写っている可能性がある。そこで、直近対向車の窓画像部分を解析するのである。直近対向車の窓画像部分は解析対象領域とも言及される。
 解析は、具体的には、直近対向車の窓画像部分に、直近対向車の後ろ側方をホスト車両との距離が短くなる方向へ移動する移動体が写っているかを判定する。この判定には、直近対向車の窓画像部分から特徴点を抽出し、時間の経過により、その特徴点が直近対向車のボディ部分に対して相対的に移動しているかを判断することにより行う。
 さらに、ヘッドライトの色を呈している部分の輝度が、ヘッドライトに対して予め設定されている輝度閾値を超えたかも判断する。直近対向車の後ろ側方にオートバイが存在する場合などに、直近対向車の窓画像部分にヘッドライトが写ることがあるからである。ヘッドライトの色を呈している部分の輝度が、ヘッドライトに対して予め設定されている輝度閾値を超えた場合には、ヘッドライトを備える物体が移動しているかの判断は省略して、直近対向車の後ろ側方をホスト車両側へ移動する移動体が存在するとする。ヘッドライトを備える物体が移動しているかの判断を省略するのは、直近対向車の後ろ側方に存在するヘッドライトを備えた物体は、通常、ホスト車両側へ移動するからである。
 S73では、S72での解析の結果、ホスト車両方向に移動する移動体があるか否か、より正確にはホスト車両との距離が短くなる方向に反対車線を移動する移動体が存在すると判定したか否かを判断する。S72でこの移動体が存在すると判定している場合には、S73の判断結果をYESとする。
 直近対向車の後ろ側方をホスト車両との距離が短くなる方向へ移動する移動体が存在する状況は、遮蔽領域注意状況とも言及される。S73の判断結果がYESであればS74に進み、NOであれば図9の処理を終了する。
 S74では、直近対向車の後ろ側方に、ホスト車両方向に移動する移動体が存在していることを、表示器30およびスピーカ40の一方または両方を用いて、ホスト車両の運転者に報知する。
 以上、説明した本実施形態によれば、ホスト車両の前方を撮像するカメラ10を備えている。このカメラ10が撮像した画像には、先行車や直近対向車の後窓画像部分、あるいは、側方直近前方車のボディ側面部分に、先行車や直近対向車で視界が阻害されている空間領域に存在する移動体の像が写っていることがある。そこで、カメラ画像において、先行車の後窓画像部分、直近対向車の窓画像部分、側方直近前方車のボディ側面画像部分を解析対象領域として解析する(S47、S66、S72)。そして、その解析結果に基づいて、先行車や直近対向車で視界が阻害されている空間領域に存在する他の移動体に注意を要する状況であるか否かを判定する(S48~S50、S67~S68、S73)。したがって、他車両に搭載されている装置に依存せずに、先行車や直近対向車で視界が阻害されている空間領域に存在している他の移動体に注意を要する状況であるか否かを判定することができる。
 また、本実施形態では、カメラ画像中に先行車の透光窓部分がないと判断した場合には(S23:NO)、側方直近前方車を解析対象車とする(S25)。したがって、カメラ画像中に先行車の透光窓部分がない場合であっても、先行車で視界が阻害されている空間領域に存在している他の移動体に注意を要する状況であるか否かを判定することができる。
 また、本実施形態では、ホスト車両が右折しようとする状況(S22:YES)では、直近対向車を解析対象車とする(S26)。したがって、先行車で視界が阻害されている空間領域ではなく、直近対向車で視界が阻害されている空間領域に注意が必要である右折時において、注意が必要な領域の状況を判定することができる。
 また、輝度閾値を、ホスト車両の周囲の照度に基づいて設定する(S46、S65)。したがって、先先行車のランプが点灯したか否かを精度よく判定することができる。
 また、輝度値の大小だけではなく、輝度閾値を超えた部分の輝度分布パターンが、ブレーキランプ時発光パターンやハザード時発光パターンに一致するかも判定して先先行車のブレーキランプが点灯したか、あるいは、左右の方向指示灯が両方点灯したかを判定している(S49)。これにより、先先行車のランプが点灯したか否かを、より精度よく判定することができる。
 以上、本開示の実施形態を説明したが、本開示は上述の実施形態に限定されるものではなく、次の変形例も本開示の技術的範囲に含まれ、さらに、下記以外にも要旨を逸脱しない範囲内で種々変更して実施できる。
 <変形例1>
 たとえば、前述の実施形態では、解析対象物体は車両であったが、カメラ画像に写っている車両以外の物体を解析対象物体としてもよい。具体的には、側方直近前方車を解析対象車とする状況、すなわち、S5を実行する状況において、側方直近前方車に代えて、ホスト車両の斜め前方に存在している建物のガラス面を鏡面物体としてもよい。建物のガラス面にも、先先行車が写っていることがあるからである。
 <変形例2>
 先行車の透光窓部分がある場合に、先行車解析処理(S4)に加えて、側方直近前方車解析処理(S5)を実行してもよい。
 <変形例3>
 先行車解析処理(S4)では、カメラ画像から先先行車のランプが点灯したか否かを判断しており、ランプが点灯したと判断した場合に(S50)、遮蔽領域注意状況であるとしていたが、これに限られない。先行車の後窓画像部分に写っている先先行車の像が大きくなっている場合に、遮蔽領域注意状況であるとしてもよい。
 <変形例4>
 前述の実施形態では、輝度閾値をホスト車両周辺の照度に基づいて決定していたが、輝度閾値を一定値としてもよい。
 <変形例5>
 また、カメラ画像内に解析対象車がない場合に、カメラ画像から遮蔽領域注意状況か否かを判定できない状態であることを、表示器30に表示するようにしてもよい。
 <変形例6>
 また、先行車の後窓部の画像の輝度が、太陽光を反射していることを示す輝度である場合、先行車に透光窓部分があっても、解析対象車を側方直近前方車としてもよい。先行車の後窓部が太陽光を反射している場合には、先行車の後窓部の画像を解析して、先先行車のランプ点灯や先先行車の大きさを精度よく検出することが困難であると考えられるからである。
 <変形例7>
 前方の物体を検出するレーダを備え、先行車の位置決定(S61)、直近対向車の有無判定(S71)を、レーダを用いて行ってもよい。
 <変形例8>
 先先行車のブレーキランプが点灯したと判定したことに加えて、そのブレーキランプが継続して点灯している時間が一定時間以上である場合に、遮蔽領域注意状況であると判定してもよい。
 <変形例9~11>
 先行車の車種を車々間通信により取得してもよい(変形例9)。右車線を走行中であるかを判断することに代えて、あるいは、その判断に加えて、ホスト車両の速度が右折可能な速度であるかを判断し、右折可能な速度である場合に、直近対向車を解析対象車としてもよい(変形例10)。遮蔽領域注意状況であると判定した場合に、報知に代えて、あるいは、報知に加えて、減速制御など、ホスト車両の挙動を制御してもよい(変形例11)。
 <変形例12>
 また、図9の直近対向車解析処理でも、図4の先行車解析処理のように、窓部分の輝度を解析する際に、解析対象車の車種を考慮してもよい。この場合、記憶器55に、直近対向車の後ろ側方に存在する移動体がヘッドライトを点灯させている状況で、ホスト車両から見える直近対向車の窓の発光パターンを車種別に記憶しておく。また、直近対向車の車種を、直近対向車の前部形状から決定するために、車両前方のテンプレート画像も車種別に記憶する。
 そして、図9のS71で直近対向車があると判断した場合(S71:YES)には、S72を実行する前に、車種別に記憶している車両前方のテンプレート画像を用いて、直近前方車の車種を判断する。S72では、ヘッドライトの色を呈している部分の輝度が、ヘッドライトに対して予め設定されている輝度閾値を超えたかも判断することに加えて、直近前方車の車種に応じた発光パターンを用いた解析も行う。すなわち、直近前方車の窓画像部分のうち、ヘッドライトの色を呈している部分の発光パターンが、直近前方車の車種に応じた発光パターンと一致しているかも判断する。このようにすることで、直近対向車の後ろ側方をホスト車両側へ移動する移動体が存在するか否かを、精度よく判断することができる。
 <変形例13>
 図9のS72で用いる輝度閾値も、図4のS46と同様、ホスト車両の周囲の照度に応じて変更してもよい。
 本開示は、実施例に準拠して記述されたが、本開示は当該実施例や構造に限定されるものではないと理解される。本開示は、様々な変形例や均等範囲内の変形をも包含する。加えて、様々な組み合わせや形態、さらには、それらに一要素のみ、それ以上、あるいはそれ以下、を含む他の組み合わせや形態をも、本開示の範疇や思想範囲に入るものである。

Claims (14)

  1.  車両で用いられ、
     前記車両の前方を撮像するカメラ(10)と、
     前記カメラが撮像した画像において、(i)前記カメラとの間に障害物がない物体から所定の条件により選択される解析対象物体の像に含まれる領域であり、そして(ii)前記カメラとの間に障害物がない前方車である直近前方車で視界が阻害されている空間領域に存在する移動体の像が写っている可能性がある領域でもある、解析対象領域を解析する画像解析部(51)と、
     前記画像解析部の解析結果に基づいて、前記直近前方車で視界が阻害されている空間領域に存在する前記移動体に注意を要する状況である遮蔽領域注意状況か否かを判定する判定部(52)とを備える
     前方状況判定装置。
  2.  請求項1において、
     前記解析対象物体が、前記直近前方車から選択される解析対象車である
     前方状況判定装置。
  3.  請求項2において、
     前記画像解析部は、この前方状況判定装置が用いられている車両であるホスト車両と同一車線を走行している直近前方車である先行車の後窓が写っている領域を前記解析対象領域に含む
     前方状況判定装置。
  4.  請求項3において、
     前記画像解析部は、前記先行車の後窓画像部分の輝度値に基づいて、前記先行車の1つ前を走行する車両である先先行車の後部ランプが点灯状態となったことを検出し、
     前記判定部は、前記画像解析部が、前記先先行車の後部ランプが点灯状態になったことを検出したことに基づいて、前記遮蔽領域注意状況であると判定する
     前方状況判定装置。
  5.  請求項4において、
     前記ホスト車両の周囲の照度を決定する照度決定部(53)を備え、
     前記画像解析部は、前記照度決定部が決定した照度に基づいて、前記先先行車の後部ランプが点灯状態になったと判定する輝度閾値を決定する
     前方状況判定装置。
  6.  請求項4または5において、
     前記画像解析部は、前記先行車の後窓画像部分の輝度値に加えて、前記後窓画像部分の輝度分布パターンが予め設定されている発光パターンであることに基づいて、前記先先行車の後部ランプが点灯状態となったと決定する
     前方状況判定装置。
  7.  請求項6において、
     前記解析対象車の車種を決定する車種決定部(54)を備え、
     前記画像解析部は、前記車種決定部が決定した車種に基づいて、前記発光パターンを決定する
     前方状況判定装置。
  8.  請求項1~7のいずれか1項において、
     前記画像解析部は、この前方状況判定装置が用いられている車両であるホスト車両の斜め前方に存在している鏡面物体が写っている領域を前記解析対象領域に含む
     前方状況判定装置。
  9.  請求項8において、
     前記画像解析部は、前記ホスト車両の斜め前を走行している直近前方車である側方直近前方車を前記鏡面物体とし、その側方直近前方車のボディ側面が写っている領域を前記解析対象領域に含む
     前方状況判定装置。
  10.  請求項8または9において、
     前記画像解析部は、前記ホスト車両と同一車線を走行している直近前方車である先行車の後面に、前方を視認できる窓がない判定したことを、前記鏡面物体が写っている領域を前記解析対象領域に含ませる条件とする
     前方状況判定装置。
  11.  請求項1~10のいずれか1項において、
     前記画像解析部は、この前方状況判定装置が用いられている車両であるホスト車両と反対車線に位置している前記直近前方車の窓が写っている領域を前記解析対象領域に含む
     前方状況判定装置。
  12.  請求項11において、
     前記車両の方向指示灯の点消灯状態を検出する方向指示灯検出器(56)を備え、
     前記画像解析部は、前記方向指示灯検出器が、前記車両が対向車線を横断する場合に点灯する側の方向指示灯が点滅していることを検出したことを、前記ホスト車両と反対車線に位置している前記直近前方車の窓が写っている領域を前記解析対象領域に含ませる条件とする
     前方状況判定装置。
  13.  請求項11または12において、
     前記画像解析部は、前記直近前方車の窓画像部分の輝度値に基づいて、前記直近対向車の後ろ側方に、前記ホスト車両の方向に移動する移動体が存在するか否かを解析し、
     前記判定部は、前記画像解析部の解析結果が、前記ホスト車両の方向に移動する移動体が存在するという解析結果になったことに基づいて、前記遮蔽領域注意状況であると判定する
     前方状況判定装置。
  14.  請求項13において、
     前記画像解析部は、
     前記直近前方車の窓画像部分の輝度値に加えて、前記直近前方車の窓画像部分の輝度分布パターンが予め設定されている発光パターンであることに基づいて、前記直近対向車の後ろ側方に、前記ホスト車両の方向に移動する移動体が存在すると決定し、
     かつ、前記発光パターンを、前記直近前方車の車種に基づいて決定する
     前方状況判定装置。
PCT/JP2015/002661 2014-06-10 2015-05-26 前方状況判定装置 WO2015190052A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2014119946A JP6354356B2 (ja) 2014-06-10 2014-06-10 前方状況判定装置
JP2014-119946 2014-06-10

Publications (1)

Publication Number Publication Date
WO2015190052A1 true WO2015190052A1 (ja) 2015-12-17

Family

ID=54833170

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2015/002661 WO2015190052A1 (ja) 2014-06-10 2015-05-26 前方状況判定装置

Country Status (2)

Country Link
JP (1) JP6354356B2 (ja)
WO (1) WO2015190052A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6519253B2 (ja) * 2015-03-18 2019-05-29 横浜ゴム株式会社 走行支援装置
JP6649178B2 (ja) * 2016-05-24 2020-02-19 株式会社東芝 情報処理装置、および、情報処理方法
CN112307833A (zh) * 2019-07-31 2021-02-02 浙江商汤科技开发有限公司 识别智能行驶设备的行驶状态的方法及装置、设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004178194A (ja) * 2002-11-26 2004-06-24 Mazda Motor Corp 車両用情報提供装置
JP2006076421A (ja) * 2004-09-09 2006-03-23 Honda Motor Co Ltd 車両用走行安全装置
JP2008062673A (ja) * 2006-09-04 2008-03-21 Mitsubishi Fuso Truck & Bus Corp 後続車両用情報伝達装置、追随車両用運転支援装置、およびこれらを備える運転支援システム
US20080165028A1 (en) * 2005-02-22 2008-07-10 Conti Temic Microelectronic Gmbh Method for Identifying the Activation of the Brake Lights of Preceding Vehicles
JP2011039983A (ja) * 2009-08-18 2011-02-24 Toshiba Alpine Automotive Technology Corp 車両用画像表示装置
JP2012118795A (ja) * 2010-12-01 2012-06-21 Aisin Aw Co Ltd 画像認識装置、画像認識方法および画像認識プログラム
JP2013109391A (ja) * 2011-11-17 2013-06-06 Fuji Heavy Ind Ltd 車外環境認識装置および車外環境認識方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004178194A (ja) * 2002-11-26 2004-06-24 Mazda Motor Corp 車両用情報提供装置
JP2006076421A (ja) * 2004-09-09 2006-03-23 Honda Motor Co Ltd 車両用走行安全装置
US20080165028A1 (en) * 2005-02-22 2008-07-10 Conti Temic Microelectronic Gmbh Method for Identifying the Activation of the Brake Lights of Preceding Vehicles
JP2008062673A (ja) * 2006-09-04 2008-03-21 Mitsubishi Fuso Truck & Bus Corp 後続車両用情報伝達装置、追随車両用運転支援装置、およびこれらを備える運転支援システム
JP2011039983A (ja) * 2009-08-18 2011-02-24 Toshiba Alpine Automotive Technology Corp 車両用画像表示装置
JP2012118795A (ja) * 2010-12-01 2012-06-21 Aisin Aw Co Ltd 画像認識装置、画像認識方法および画像認識プログラム
JP2013109391A (ja) * 2011-11-17 2013-06-06 Fuji Heavy Ind Ltd 車外環境認識装置および車外環境認識方法

Also Published As

Publication number Publication date
JP6354356B2 (ja) 2018-07-11
JP2015232846A (ja) 2015-12-24

Similar Documents

Publication Publication Date Title
JP7397807B2 (ja) ライダー支援システム及び方法
US9987979B2 (en) Vehicle lighting system
US10176720B2 (en) Auto driving control system
US10479274B2 (en) Vehicle and control method for the same
JP5855272B2 (ja) ブレーキ状況を認識する方法および装置
US10431185B2 (en) Display system replacing side mirror and method for controlling output brightness thereof
JP5680573B2 (ja) 車両の走行環境認識装置
WO2015079623A1 (ja) 運転支援装置
JP6075331B2 (ja) 車両用照明装置
KR101768500B1 (ko) 운전 보조 장치 및 그 제어방법
KR102600202B1 (ko) 차량 및 차량의 제어방법
JPWO2017068701A1 (ja) 駐車スペース検出方法および装置
JPWO2012140752A1 (ja) 車載周辺物認識装置及びこれを用いる運転支援装置
JP2009265842A (ja) 車両用警告装置、警告方法
WO2015190052A1 (ja) 前方状況判定装置
JP2023158163A (ja) 判定装置および判定方法
JP6254825B2 (ja) 車両制御装置
WO2022230779A1 (ja) 車両用報知制御装置及び車両用報知制御方法
KR101524787B1 (ko) 차량 진입 유도 장치
JP6687551B2 (ja) ドライバー・アシスタント・システム
JP2022037448A (ja) 運転支援装置
JP2022169453A (ja) 車両用報知制御装置及び車両用報知制御方法
CN117440902A (zh) 车辆用报告控制装置以及车辆用报告控制方法
JP2015044557A (ja) 車両周辺環境認識装置
JP2017045128A (ja) 運転支援装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15807265

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15807265

Country of ref document: EP

Kind code of ref document: A1