WO2014017318A1 - 立体物検出装置、立体物検出方法及び異物検出装置 - Google Patents

立体物検出装置、立体物検出方法及び異物検出装置 Download PDF

Info

Publication number
WO2014017318A1
WO2014017318A1 PCT/JP2013/069153 JP2013069153W WO2014017318A1 WO 2014017318 A1 WO2014017318 A1 WO 2014017318A1 JP 2013069153 W JP2013069153 W JP 2013069153W WO 2014017318 A1 WO2014017318 A1 WO 2014017318A1
Authority
WO
WIPO (PCT)
Prior art keywords
dimensional object
image
object detection
lens
vehicle
Prior art date
Application number
PCT/JP2013/069153
Other languages
English (en)
French (fr)
Inventor
早川　泰久
修 深田
Original Assignee
日産自動車株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日産自動車株式会社 filed Critical 日産自動車株式会社
Priority to JP2014526852A priority Critical patent/JP6003986B2/ja
Publication of WO2014017318A1 publication Critical patent/WO2014017318A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/254—Analysis of motion involving subtraction of images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/167—Driving aids for lane monitoring, lane changing, e.g. blind spot detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination
    • G06T2207/20224—Image subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261—Obstacle

Definitions

  • the present invention relates to a three-dimensional object detection device, a three-dimensional object detection method, and a foreign object detection device.
  • This application claims priority based on Japanese Patent Application No. 2012-166497 and Japanese Patent Application No. 2012-166498, filed on July 27, 2012, and is allowed to be incorporated by reference. Regarding the country, the contents described in the above application are incorporated into the present application by reference and made a part of the description of the present application.
  • An obstacle detection apparatus that detects an obstacle by performing overhead conversion of an image obtained by capturing an image of the surroundings of a vehicle and using a difference between two overhead conversion images that are temporally different (see Patent Document 1).
  • the problem to be solved by the present invention is to prevent a foreign object detection device that detects a foreign object adhering to a camera lens with high accuracy and to erroneously detect an image of the foreign object adhering to a camera lens as an image of another vehicle. It is an object of the present invention to provide a three-dimensional object detection device and a three-dimensional object detection method for detecting other vehicles traveling in the adjacent lane adjacent to the traveling lane of the host vehicle with high accuracy.
  • the three-dimensional object when a state in which a foreign object such as dirt is attached to the lens of the camera is detected, the three-dimensional object is suppressed so that the detected three-dimensional object is determined to be another vehicle.
  • control when foreign matter attached to the lens is detected, control is performed so that it is difficult to output a determination result indicating that another vehicle traveling in the adjacent lane adjacent to the traveling lane of the own vehicle is detected. It is possible to prevent erroneous detection of an image of a foreign object attached to the lens as an image of another vehicle traveling in an adjacent lane adjacent to the traveling lane of the host vehicle. As a result, it is possible to provide a foreign object detection device that detects a foreign object attached to a lens of a camera with high accuracy and a three-dimensional object detection device that detects another vehicle traveling in the adjacent lane adjacent to the traveling lane of the host vehicle with high accuracy. Can do.
  • FIG. 1 is a schematic configuration diagram of a vehicle according to an embodiment to which a three-dimensional object detection device and a foreign object detection device of the present invention are applied. It is a top view which shows the driving state of the vehicle of FIG. It is a block diagram which shows the detail of the computer of FIG. 4A and 4B are diagrams for explaining the outline of processing of the alignment unit in FIG. 3, in which FIG. 3A is a plan view showing a moving state of the vehicle, and FIG. It is the schematic which shows the mode of the production
  • FIG. 4 is a flowchart (No. 1) illustrating a three-dimensional object detection method using differential waveform information executed by the viewpoint conversion unit, the alignment unit, the smear detection unit, and the three-dimensional object detection unit of FIG. 3.
  • FIG. 1 is a flowchart (No. 1) illustrating a three-dimensional object detection method using differential waveform information executed by the viewpoint conversion unit, the alignment unit, the smear detection unit, and the three-dimensional object detection unit of FIG. 3.
  • FIG. 4 is a flowchart (part 2) illustrating a three-dimensional object detection method using differential waveform information executed by the viewpoint conversion unit, the alignment unit, the smear detection unit, and the three-dimensional object detection unit of FIG. 3. It is a figure (three-dimensional object detection by edge information) which shows the running state of vehicles of Drawing 1, (a) is a top view showing the positional relationship of a detection field etc., and (b) shows the positional relationship of a detection field etc. in real space. It is a perspective view shown. 4A and 4B are diagrams for explaining the operation of the luminance difference calculation unit in FIG. 3, in which FIG.
  • 3A is a diagram illustrating a positional relationship among attention lines, reference lines, attention points, and reference points in a bird's-eye view image
  • FIG. It is a figure which shows the positional relationship of the attention line, reference line, attention point, and reference point.
  • 4A and 4B are diagrams for explaining the detailed operation of the luminance difference calculation unit in FIG. 3, in which FIG. 3A is a diagram illustrating a detection region in a bird's-eye view image, and FIG. It is a figure which shows the positional relationship of a reference point.
  • FIG. 4 is a flowchart (part 1) illustrating a three-dimensional object detection method using edge information executed by a viewpoint conversion unit, a luminance difference calculation unit, an edge line detection unit, and a three-dimensional object detection unit in FIG. 3;
  • FIG. 4 is a flowchart (part 1) illustrating a three-dimensional object detection method using edge information executed by a viewpoint conversion unit, a luminance difference calculation unit, an edge line detection unit, and a three-dimensional object detection unit in FIG. 3;
  • FIG. 4 is a flowchart (part 2) illustrating a three-dimensional object detection method using edge information executed by the viewpoint conversion unit, the luminance difference calculation unit, the edge line detection unit, and the three-dimensional object detection unit of FIG. 3. It is a figure which shows the example of an image for demonstrating edge detection operation
  • FIG. 9 is a first flowchart illustrating a control procedure for determining a three-dimensional object in consideration of the properties of a foreign object when a foreign object adheres to the lens in the second embodiment. It is a 2nd flowchart which shows the control procedure which judges the property of a foreign material in 2nd Embodiment.
  • FIG. 9 is a second flowchart illustrating a control procedure for determining a three-dimensional object in consideration of the properties of a foreign object when a foreign object adheres to the lens in the second embodiment. It is a 3rd flowchart which shows the control procedure of the solid-object judgment in consideration of the state in which the foreign material adhered to the lens in 2nd Embodiment.
  • FIG. 1 is a schematic configuration diagram of a vehicle according to an embodiment to which a foreign object detection device 1 and a three-dimensional object detection device 1 of the present invention are applied.
  • the three-dimensional object detection device 1 of this example is a driver of a host vehicle V. Is a device that detects as an obstacle another vehicle that should be paid attention to while driving, for example, another vehicle that may come into contact when the host vehicle V changes lanes.
  • the computer 30 in FIG. 1 functions as the foreign object detection device 1 and the three-dimensional object detection device 1 of the present invention.
  • the foreign matter detection apparatus 1 of this example detects foreign matter such as dirt attached to the lens of the in-vehicle camera.
  • the three-dimensional object detection device 1 of this example detects another vehicle that travels in the adjacent lane next to the lane in which the host vehicle travels (hereinafter also simply referred to as the adjacent lane). Further, the three-dimensional object detection device 1 of the present example can calculate the detected movement distance and movement speed of the other vehicle. For this reason, in the example described below, the three-dimensional object detection device 1 is mounted on the own vehicle V, and the three-dimensional object detected around the own vehicle travels in the adjacent lane next to the lane on which the own vehicle V travels. An example of detecting a vehicle will be shown. As shown in the figure, the three-dimensional object detection device 1 of the present example includes a camera 10, a vehicle speed sensor 20, and a calculator 30.
  • the camera 10 is attached to the host vehicle V so that the optical axis is at an angle ⁇ from the horizontal to the lower side at a height h at the rear of the host vehicle V.
  • the camera 10 images a predetermined area in the surrounding environment of the host vehicle V from this position.
  • the camera 10 includes a lens 11 that forms an image.
  • the vehicle speed sensor 20 detects the traveling speed of the host vehicle V, and calculates the vehicle speed from the wheel speed detected by, for example, a wheel speed sensor that detects the rotational speed of the wheel.
  • the computer 30 detects a three-dimensional object behind the vehicle, and calculates a moving distance and a moving speed for the three-dimensional object in this example.
  • FIG. 2 is a plan view showing a traveling state of the host vehicle V in FIG.
  • the camera 10 images the vehicle rear side at a predetermined angle of view a.
  • the angle of view a of the camera 10 is set to an angle of view at which the left and right lanes can be imaged in addition to the lane in which the host vehicle V travels.
  • the area that can be imaged includes detection target areas A1 and A2 on the adjacent lane that is behind the host vehicle V and that is adjacent to the left and right of the travel lane of the host vehicle V.
  • FIG. 3 is a block diagram showing details of the computer 30 of FIG. In FIG. 3, the camera 10 and the vehicle speed sensor 20 are also illustrated in order to clarify the connection relationship.
  • the computer 30 includes a viewpoint conversion unit 31, a positioning unit 32, a three-dimensional object detection unit 33, a three-dimensional object determination unit 34, a foreign object detection unit 38, a control unit 39, and smear detection. Part 40.
  • the calculation unit 30 of the present embodiment has a configuration relating to a three-dimensional object detection block using differential waveform information.
  • the calculation unit 30 of the present embodiment can also be configured with respect to a three-dimensional object detection block using edge information. In this case, in the configuration shown in FIG.
  • a block configuration A configured by the alignment unit 32 and the three-dimensional object detection unit 33 is surrounded by a broken line, a luminance difference calculation unit 35, an edge line detection unit 36, It can be configured by replacing the block configuration B configured by the three-dimensional object detection unit 37.
  • both the block configuration A and the block configuration B can be provided, so that the solid object can be detected using the difference waveform information and the solid object can also be detected using the edge information.
  • the block configuration A and the block configuration B can be operated according to environmental factors such as brightness. Each configuration will be described below.
  • the three-dimensional object detection device 1 detects a three-dimensional object existing in the right detection area or the left detection area behind the vehicle based on image information obtained by the monocular camera 1 that images the rear of the vehicle.
  • the viewpoint conversion unit 31 inputs captured image data of a predetermined area obtained by imaging with the camera 10, and converts the viewpoint of the input captured image data into bird's-eye image data in a bird's-eye view state.
  • the state viewed from a bird's-eye view is a state viewed from the viewpoint of a virtual camera looking down from above, for example, vertically downward.
  • This viewpoint conversion can be executed as described in, for example, Japanese Patent Application Laid-Open No. 2008-219063.
  • the viewpoint conversion of captured image data to bird's-eye view image data is based on the principle that a vertical edge peculiar to a three-dimensional object is converted into a straight line group passing through a specific fixed point by viewpoint conversion to bird's-eye view image data. This is because a planar object and a three-dimensional object can be distinguished if used. Note that the result of the image conversion processing by the viewpoint conversion unit 31 is also used in detection of a three-dimensional object by edge information described later.
  • the alignment unit 32 sequentially inputs the bird's-eye image data obtained by the viewpoint conversion of the viewpoint conversion unit 31, and aligns the positions of the inputted bird's-eye image data at different times.
  • 4A and 4B are diagrams for explaining the outline of the processing of the alignment unit 32, where FIG. 4A is a plan view showing the moving state of the host vehicle V, and FIG. 4B is an image showing the outline of the alignment.
  • the host vehicle V at the current time is located at V1, and the host vehicle V one hour before is located at V2.
  • the other vehicle VX is located in the rear direction of the own vehicle V and is in parallel with the own vehicle V, the other vehicle VX at the current time is located at V3, and the other vehicle VX one hour before is located at V4.
  • the host vehicle V has moved a distance d at one time.
  • “one hour before” may be a past time for a predetermined time (for example, one control cycle) from the current time, or may be a past time for an arbitrary time.
  • the bird's-eye image PB t at the current time is as shown in Figure 4 (b).
  • the bird's-eye image PB t becomes a rectangular shape for the white line drawn on the road surface, but a relatively accurate is a plan view state, tilting occurs about the position of another vehicle VX at position V3.
  • the white line drawn on the road surface has a rectangular shape and is relatively accurately viewed in plan, but the other vehicle VX at the position V4 Falls down.
  • the vertical edges of solid objects are straight lines along the collapse direction by the viewpoint conversion processing to bird's-eye view image data. This is because the plane image on the road surface does not include a vertical edge, but such a fall does not occur even when the viewpoint is changed.
  • the alignment unit 32 performs alignment of the bird's-eye images PB t and PB t ⁇ 1 as described above on the data. At this time, the alignment unit 32 is offset a bird's-eye view image PB t-1 before one unit time, to match the position and bird's-eye view image PB t at the current time.
  • the image on the left side and the center image in FIG. 4B show a state that is offset by the movement distance d ′.
  • This offset amount d ′ is a movement amount on the bird's-eye view image data corresponding to the actual movement distance d of the host vehicle V shown in FIG. It is determined based on the time until the time.
  • the alignment unit 32 takes the difference between the bird's-eye images PB t and PB t ⁇ 1 and generates data of the difference image PD t .
  • the pixel value of the difference image PD t may be an absolute value of the difference between the pixel values of the bird's-eye images PB t and PB t ⁇ 1 , and the absolute value is predetermined in order to cope with a change in the illuminance environment. It may be set to “1” when the threshold value p is exceeded and “0” when the threshold value p is not exceeded.
  • the image on the right side of FIG. 4B is the difference image PD t .
  • the threshold value p may be set in advance or may be changed according to a control command generated by the control unit 39 described later.
  • the three-dimensional object detection unit 33 detects a three-dimensional object based on the data of the difference image PD t shown in FIG. At this time, the three-dimensional object detection unit 33 of this example also calculates the movement distance of the three-dimensional object in the real space. In detecting the three-dimensional object and calculating the movement distance, the three-dimensional object detection unit 33 first generates a differential waveform. Note that the moving distance of the three-dimensional object per time is used for calculating the moving speed of the three-dimensional object. The moving speed of the three-dimensional object can be used to determine whether or not the three-dimensional object is a vehicle.
  • Three-dimensional object detection unit 33 of the present embodiment when generating the differential waveform sets a detection area in the difference image PD t.
  • the three-dimensional object detection device 1 of the present example is another vehicle VX that the driver of the host vehicle V pays attention to.
  • the lane in which the host vehicle V that may be contacted when the host vehicle V changes lanes travels.
  • the other vehicle VX traveling in the next lane is detected as a detection target.
  • two detection areas are set on the right side and the left side of the host vehicle V in the image obtained by the camera 1.
  • rectangular detection areas A1 and A2 are set on the left and right sides behind the host vehicle V as shown in FIG.
  • the other vehicle VX detected in the detection areas A1 and A2 is detected as an obstacle traveling in the adjacent lane adjacent to the lane in which the host vehicle V is traveling.
  • Such detection areas A1 and A2 may be set from a relative position with respect to the host vehicle V, or may be set based on the position of the white line.
  • the movement distance detection device 1 may use, for example, an existing white line recognition technique.
  • the three-dimensional object detection unit 33 recognizes the sides (sides along the traveling direction) of the set detection areas A1 and A2 on the own vehicle V side as the ground lines L1 and L2 (FIG. 2).
  • the ground line means a line in which the three-dimensional object contacts the ground.
  • the ground line is set as described above, not a line in contact with the ground. Even in this case, from experience, the difference between the ground line according to the present embodiment and the ground line obtained from the position of the other vehicle VX is not too large, and there is no problem in practical use.
  • FIG. 5 is a schematic diagram illustrating how a differential waveform is generated by the three-dimensional object detection unit 33 illustrated in FIG. 3.
  • the three-dimensional object detection unit 33 calculates a differential waveform from a portion corresponding to the detection areas A ⁇ b> 1 and A ⁇ b> 2 in the difference image PD t (right diagram in FIG. 4B) calculated by the alignment unit 32.
  • DW t is generated.
  • the three-dimensional object detection unit 33 generates a differential waveform DW t along the direction in which the three-dimensional object falls by viewpoint conversion.
  • the difference waveform DW t is generated for the detection area A2 in the same procedure.
  • the three-dimensional object detection unit 33 defines a line La in the direction in which the three-dimensional object falls on the data of the difference image DW t . Then, the three-dimensional object detection unit 33 counts the number of difference pixels DP indicating a predetermined difference on the line La.
  • the difference pixel DP indicating the predetermined difference has a predetermined threshold value when the pixel value of the difference image DW t is an absolute value of the difference between the pixel values of the bird's-eye images PB t and PB t ⁇ 1. If the pixel value of the difference image DW t is expressed as “0” or “1”, the pixel indicates “1”.
  • the three-dimensional object detection unit 33 counts the number of difference pixels DP and then obtains an intersection point CP between the line La and the ground line L1. Then, the three-dimensional object detection unit 33 associates the intersection CP with the count number, determines the horizontal axis position based on the position of the intersection CP, that is, the position on the vertical axis in the right diagram of FIG. The axis position, that is, the position on the right and left axis in the right diagram of FIG.
  • the three-dimensional object detection unit 33 defines lines Lb, Lc... In the direction in which the three-dimensional object falls, counts the number of difference pixels DP, and determines the horizontal axis position based on the position of each intersection CP. Then, the vertical axis position is determined from the count number (number of difference pixels DP) and plotted.
  • the three-dimensional object detection unit 33 generates the differential waveform DW t as shown in the right diagram of FIG.
  • the line La and the line Lb in the direction in which the three-dimensional object collapses have different distances overlapping the detection area A1. For this reason, if the detection area A1 is filled with the difference pixels DP, the number of difference pixels DP is larger on the line La than on the line Lb. For this reason, when the three-dimensional object detection unit 33 determines the vertical axis position from the count number of the difference pixels DP, the three-dimensional object detection unit 33 is normalized based on the distance at which the lines La and Lb in the direction in which the three-dimensional object falls and the detection area A1 overlap. Turn into. As a specific example, in the left diagram of FIG.
  • the three-dimensional object detection unit 33 normalizes the count number by dividing it by the overlap distance.
  • the difference waveform DW t the line La on the direction the three-dimensional object collapses, the value of the differential waveform DW t corresponding to Lb is substantially the same.
  • the three-dimensional object detection unit 33 calculates the movement distance by comparison with the differential waveform DW t ⁇ 1 one time before. That is, the three-dimensional object detection unit 33 calculates the movement distance from the time change of the difference waveforms DW t and DW t ⁇ 1 .
  • the three-dimensional object detection unit 33 divides the differential waveform DW t into a plurality of small areas DW t1 to DW tn (n is an arbitrary integer equal to or greater than 2).
  • FIG. 6 is a diagram illustrating the small areas DW t1 to DW tn divided by the three-dimensional object detection unit 33.
  • the small areas DW t1 to DW tn are divided so as to overlap each other, for example, as shown in FIG. For example, the small area DW t1 and the small area DW t2 overlap, and the small area DW t2 and the small area DW t3 overlap.
  • the three-dimensional object detection unit 33 obtains an offset amount (amount of movement of the differential waveform in the horizontal axis direction (vertical direction in FIG. 6)) for each of the small areas DW t1 to DW tn .
  • the offset amount is determined from the difference between the differential waveform DW t in the difference waveform DW t-1 and the current time before one unit time (distance in the horizontal axis direction).
  • three-dimensional object detection unit 33 for each small area DW t1 ⁇ DW tn, when moving the differential waveform DW t1 before one unit time in the horizontal axis direction, the differential waveform DW t at the current time The position where the error is minimized (the position in the horizontal axis direction) is determined, and the amount of movement in the horizontal axis between the original position of the differential waveform DW t ⁇ 1 and the position where the error is minimized is obtained as an offset amount. Then, the three-dimensional object detection unit 33 counts the offset amount obtained for each of the small areas DW t1 to DW tn and forms a histogram.
  • FIG. 7 is a diagram illustrating an example of a histogram obtained by the three-dimensional object detection unit 33.
  • the offset amount which is the amount of movement that minimizes the error between each of the small areas DW t1 to DW tn and the differential waveform DW t ⁇ 1 one time before, has some variation.
  • the three-dimensional object detection unit 33 forms a histogram of offset amounts including variations, and calculates a movement distance from the histogram.
  • the three-dimensional object detection unit 33 calculates the moving distance of the three-dimensional object from the maximum value of the histogram. That is, in the example illustrated in FIG.
  • the three-dimensional object detection unit 33 calculates the offset amount indicating the maximum value of the histogram as the movement distance ⁇ * .
  • the moving distance ⁇ * is a relative moving distance of the other vehicle VX with respect to the host vehicle V. For this reason, when calculating the absolute movement distance, the three-dimensional object detection unit 33 calculates the absolute movement distance based on the obtained movement distance ⁇ * and the signal from the vehicle speed sensor 20.
  • the three-dimensional object detection unit 33 weights each of the plurality of small areas DW t1 to DW tn and forms a histogram by counting the offset amount obtained for each of the small areas DW t1 to DW tn according to the weight. May be.
  • FIG. 8 is a diagram illustrating weighting by the three-dimensional object detection unit 33.
  • the small area DW m (m is an integer of 1 to n ⁇ 1) is flat. That is, in the small area DW m , the difference between the maximum value and the minimum value of the number of pixels indicating a predetermined difference is small. Three-dimensional object detection unit 33 to reduce the weight for such small area DW m. This is because the flat small area DW m has no characteristics and is likely to have a large error in calculating the offset amount.
  • the small region DW m + k (k is an integer equal to or less than nm) is rich in undulations. That is, in the small area DW m , the difference between the maximum value and the minimum value of the number of pixels indicating a predetermined difference is large.
  • Three-dimensional object detection unit 33 increases the weight for such small area DW m. This is because the small region DW m + k rich in undulations is characteristic and there is a high possibility that the offset amount can be accurately calculated. By weighting in this way, the calculation accuracy of the movement distance can be improved.
  • the differential waveform DW t is divided into a plurality of small areas DW t1 to DW tn in order to improve the calculation accuracy of the movement distance.
  • the small area DW t1 is divided. It is not necessary to divide into ⁇ DW tn .
  • the three-dimensional object detection unit 33 calculates the moving distance from the offset amount of the differential waveform DW t when the error between the differential waveform DW t and the differential waveform DW t ⁇ 1 is minimized. That is, the method for obtaining the offset amount of the difference waveform DW t in the difference waveform DW t-1 and the current time before one unit time is not limited to the above disclosure.
  • the computer 30 includes a smear detection unit 40.
  • the smear detection unit 40 detects a smear generation region from data of a captured image obtained by imaging with the camera 10. Since smear is a whiteout phenomenon that occurs in a CCD image sensor or the like, the smear detection unit 40 may be omitted when the camera 10 using a CMOS image sensor or the like that does not generate such smear is employed.
  • FIG. 9 is an image diagram for explaining the processing by the smear detection unit 40 and the calculation processing of the differential waveform DW t thereby.
  • data of the captured image P in which the smear S exists is input to the smear detection unit 40.
  • the smear detection unit 40 detects the smear S from the captured image P.
  • There are various methods for detecting the smear S For example, in the case of a general CCD (Charge-Coupled Device) camera, the smear S is generated only in the downward direction of the image from the light source.
  • CCD Charge-Coupled Device
  • a region having a luminance value equal to or higher than a predetermined value from the lower side of the image to the upper side of the image and continuous in the vertical direction is searched, and this is identified as a smear S generation region.
  • the smear detection unit 40 generates smear image SP data in which the pixel value is set to “1” for the place where the smear S occurs and the other place is set to “0”. After the generation, the smear detection unit 40 transmits the data of the smear image SP to the viewpoint conversion unit 31.
  • the viewpoint conversion unit 31 to which the data of the smear image SP is input converts the viewpoint into a state of bird's-eye view.
  • the viewpoint conversion unit 31 generates data of the smear bird's-eye view image SB t .
  • the viewpoint conversion unit 31 transmits the data of the smear bird's-eye view image SB t to the alignment unit 33.
  • the viewpoint conversion unit 31 transmits the data of the smear bird's-eye view image SB t ⁇ 1 one hour before to the alignment unit 33.
  • the alignment unit 32 aligns the smear bird's-eye images SB t and SB t ⁇ 1 on the data.
  • the specific alignment is the same as the case where the alignment of the bird's-eye images PB t and PB t ⁇ 1 is executed on the data.
  • the alignment unit 32 performs a logical sum on the smear S generation region of each smear bird's-eye view image SB t , SB t ⁇ 1 . Thereby, the alignment part 32 produces
  • the alignment unit 32 transmits the data of the mask image MP to the three-dimensional object detection unit 33.
  • the three-dimensional object detection unit 33 sets the count number of the frequency distribution to zero for the portion corresponding to the smear S generation region in the mask image MP. That is, when the differential waveform DW t as shown in FIG. 9 is generated, the three-dimensional object detection unit 33 sets the count number SC by the smear S to zero and generates a corrected differential waveform DW t ′. Become.
  • the three-dimensional object detection unit 33 obtains the moving speed of the vehicle V (camera 10), and obtains the offset amount for the stationary object from the obtained moving speed. After obtaining the offset amount of the stationary object, the three-dimensional object detection unit 33 calculates the moving distance of the three-dimensional object after ignoring the offset amount corresponding to the stationary object among the maximum values of the histogram.
  • FIG. 10 is a diagram illustrating another example of a histogram obtained by the three-dimensional object detection unit 33.
  • a stationary object exists in addition to the other vehicle VX within the angle of view of the camera 10, two maximum values ⁇ 1 and ⁇ 2 appear in the obtained histogram.
  • one of the two maximum values ⁇ 1, ⁇ 2 is the offset amount of the stationary object.
  • the three-dimensional object detection unit 33 calculates the offset amount for the stationary object from the moving speed, ignores the maximum value corresponding to the offset amount, and calculates the moving distance of the three-dimensional object using the remaining maximum value. To do.
  • the three-dimensional object detection unit 33 stops calculating the movement distance.
  • 11 and 12 are flowcharts showing the three-dimensional object detection procedure of this embodiment.
  • the computer 30 inputs data of the image P captured by the camera 10, and generates a smear image SP by the smear detector 40 (S1).
  • the viewpoint conversion unit 31 generates data of the bird's-eye view image PB t from the data of the captured image P from the camera 10, and also generates data of the smear bird's-eye view image SB t from the data of the smear image SP (S2).
  • the alignment unit 33 aligns the data of the bird's-eye view image PB t and the data of the bird's-eye view image PB t ⁇ 1 one hour ago, and the data of the smear bird's-eye image SB t and the smear bird's-eye view one hour ago.
  • the data of the image SB t-1 is aligned (S3).
  • the alignment unit 33 generates data for the difference image PD t and also generates data for the mask image MP (S4).
  • three-dimensional object detection unit 33, the data of the difference image PD t, and a one unit time before the difference image PD t-1 of the data generates a difference waveform DW t (S5).
  • the three-dimensional object detection unit 33 After generating the differential waveform DW t , the three-dimensional object detection unit 33 sets the count number corresponding to the generation area of the smear S in the differential waveform DW t to zero, and suppresses the influence of the smear S (S6).
  • the three-dimensional object detection unit 33 determines whether or not the peak of the differential waveform DW t is greater than or equal to the first threshold value ⁇ (S7).
  • the first threshold value ⁇ can be set in advance and can be changed according to the control command of the control unit 39 shown in FIG. 3, and details thereof will be described later.
  • the peak of the difference waveform DW t is not equal to or greater than the first threshold value ⁇ , that is, when there is almost no difference, it is considered that there is no three-dimensional object in the captured image P.
  • the three-dimensional object detection unit 33 does not have a three-dimensional object, and the other vehicle VX as an obstacle is detected. It is determined that it does not exist (FIG. 12: S16). Then, the processes shown in FIGS. 11 and 12 are terminated.
  • the three-dimensional object detection unit 33 determines that a three-dimensional object exists, and sets the difference waveform DW t to a plurality of difference waveforms DW t .
  • the area is divided into small areas DW t1 to DW tn (S8).
  • the three-dimensional object detection unit 33 performs weighting for each of the small areas DW t1 to DW tn (S9).
  • the three-dimensional object detection unit 33 calculates an offset amount for each of the small areas DW t1 to DW tn (S10), and generates a histogram with weights added (S11).
  • the three-dimensional object detection unit 33 calculates a relative movement distance that is a movement distance of the three-dimensional object with respect to the host vehicle V based on the histogram (S12). Next, the three-dimensional object detection unit 33 calculates the absolute movement speed of the three-dimensional object from the relative movement distance (S13). At this time, the three-dimensional object detection unit 33 calculates the relative movement speed by differentiating the relative movement distance with respect to time, and adds the own vehicle speed detected by the vehicle speed sensor 20 to calculate the absolute movement speed.
  • the three-dimensional object detection unit 33 determines whether the absolute movement speed of the three-dimensional object is 10 km / h or more and the relative movement speed of the three-dimensional object with respect to the host vehicle V is +60 km / h or less (S14). When both are satisfied (S14: YES), the three-dimensional object detection unit 33 determines that the three-dimensional object is the other vehicle VX (S15). Then, the processes shown in FIGS. 11 and 12 are terminated. On the other hand, when either one is not satisfied (S14: NO), the three-dimensional object detection unit 33 determines that there is no other vehicle VX (S16). Then, the processes shown in FIGS. 11 and 12 are terminated.
  • the rear side of the host vehicle V is set as the detection areas A1 and A2, and the vehicle V travels in the adjacent lane that travels next to the travel lane of the host vehicle to which attention should be paid while traveling.
  • Emphasis is placed on detecting the vehicle VX, and in particular, whether or not there is a possibility of contact when the host vehicle V changes lanes. This is to determine whether or not there is a possibility of contact with another vehicle VX traveling in the adjacent lane adjacent to the traveling lane of the own vehicle when the own vehicle V changes lanes. For this reason, the process of step S14 is performed.
  • step S14 it is determined whether the absolute moving speed of the three-dimensional object is 10 km / h or more and the relative moving speed of the three-dimensional object with respect to the vehicle V is +60 km / h or less.
  • the absolute moving speed of the stationary object may be detected to be several km / h. Therefore, by determining whether the speed is 10 km / h or more, it is possible to reduce the possibility of determining that the stationary object is the other vehicle VX.
  • the relative speed of the three-dimensional object with respect to the host vehicle V may be detected at a speed exceeding +60 km / h. Therefore, the possibility of erroneous detection due to noise can be reduced by determining whether the relative speed is +60 km / h or less.
  • step S14 it may be determined that the absolute movement speed is not negative or not 0 km / h. Further, in the present embodiment, since emphasis is placed on whether or not there is a possibility of contact when the host vehicle V changes lanes, when another vehicle VX is detected in step S15, the driver of the host vehicle is notified. A warning sound may be emitted or a display corresponding to a warning may be performed by a predetermined display device.
  • the number of pixels indicating a predetermined difference is counted on the data of the difference image PD t along the direction in which the three-dimensional object falls by viewpoint conversion.
  • the difference waveform DW t is generated by frequency distribution.
  • the pixel indicating the predetermined difference on the data of the difference image PD t is a pixel that has changed in an image at a different time, in other words, a place where a three-dimensional object exists.
  • the difference waveform DW t is generated by counting the number of pixels along the direction in which the three-dimensional object collapses and performing frequency distribution at the location where the three-dimensional object exists.
  • the differential waveform DW t is generated from the information in the height direction for the three-dimensional object. Then, the moving distance of the three-dimensional object is calculated from the time change of the differential waveform DW t including the information in the height direction. For this reason, compared with the case where only one point of movement is focused on, the detection location before the time change and the detection location after the time change are specified including information in the height direction. The same location is likely to be obtained, and the movement distance is calculated from the time change of the same location, so that the calculation accuracy of the movement distance can be improved.
  • the count number of the frequency distribution is set to zero for the portion corresponding to the smear S generation region in the differential waveform DW t .
  • the waveform portion generated by the smear S in the differential waveform DW t is removed, and a situation in which the smear S is mistaken as a three-dimensional object can be prevented.
  • the moving distance of the three-dimensional object is calculated from the offset amount of the differential waveform DW t when the error of the differential waveform DW t generated at different times is minimized. For this reason, the movement distance is calculated from the offset amount of the one-dimensional information called the waveform, and the calculation cost can be suppressed in calculating the movement distance.
  • the differential waveform DW t generated at different times is divided into a plurality of small regions DW t1 to DW tn .
  • a plurality of waveforms representing respective portions of the three-dimensional object are obtained.
  • weighting is performed for each of the plurality of small areas DW t1 to DW tn , and the offset amount obtained for each of the small areas DW t1 to DW tn is counted according to the weight to form a histogram. For this reason, the moving distance can be calculated more appropriately by increasing the weight for the characteristic area and decreasing the weight for the non-characteristic area. Therefore, the calculation accuracy of the moving distance can be further improved.
  • the weight is increased as the difference between the maximum value and the minimum value of the number of pixels indicating a predetermined difference increases. For this reason, the characteristic undulation region having a large difference between the maximum value and the minimum value has a larger weight, and the flat region having a small undulation has a smaller weight.
  • the moving distance is calculated by increasing the weight in the area where the difference between the maximum value and the minimum value is large. The accuracy can be further improved.
  • the moving distance of the three-dimensional object is calculated from the maximum value of the histogram obtained by counting the offset amount obtained for each of the small areas DW t1 to DW tn . For this reason, even if there is a variation in the offset amount, a more accurate movement distance can be calculated from the maximum value.
  • the offset amount for a stationary object is obtained and this offset amount is ignored, it is possible to prevent a situation in which the calculation accuracy of the moving distance of the three-dimensional object is lowered due to the stationary object.
  • the calculation of the moving distance of the three-dimensional object is stopped. For this reason, it is possible to prevent a situation in which an erroneous movement distance having a plurality of maximum values is calculated.
  • the vehicle speed of the host vehicle V is determined based on a signal from the vehicle speed sensor 20, but the present invention is not limited to this, and the speed may be estimated from a plurality of images at different times. In this case, a vehicle speed sensor becomes unnecessary, and the configuration can be simplified.
  • the captured image at the current time and the image one hour before are converted into a bird's-eye view, the converted bird's-eye view is aligned, the difference image PD t is generated, and the generated difference image PD
  • t is evaluated along the falling direction (the falling direction of the three-dimensional object when the captured image is converted into a bird's eye view)
  • the differential waveform DW t is generated, but the present invention is not limited to this.
  • the differential waveform DW t may be generated by evaluating along the direction corresponding to the falling direction (that is, the direction in which the falling direction is converted into the direction on the captured image).
  • the difference image PD t is generated from the difference between the two images subjected to the alignment, and the difference image PD t is converted into a bird's eye view
  • the bird's-eye view does not necessarily have to be clearly generated as long as the evaluation can be performed along the direction in which the user falls.
  • FIGS. 13A and 13B are diagrams illustrating an imaging range and the like of the camera 10 in FIG. 3.
  • FIG. 13A is a plan view
  • FIG. 13B is a perspective view in real space on the rear side from the host vehicle V. Show. As shown in FIG.
  • the camera 10 has a predetermined angle of view a, and images the rear side from the host vehicle V included in the predetermined angle of view a.
  • the angle of view “a” of the camera 10 is set so that the imaging range of the camera 10 includes the adjacent lane in addition to the lane in which the host vehicle V travels.
  • the detection areas A1 and A2 in this example are trapezoidal in a plan view (when viewed from a bird's eye), and the positions, sizes, and shapes of the detection areas A1 and A2 are determined based on the distances d 1 to d 4. Is done.
  • the detection areas A1 and A2 in the example shown in the figure are not limited to a trapezoidal shape, and may be other shapes such as a rectangle when viewed from a bird's eye view as shown in FIG.
  • the distance d1 is a distance from the host vehicle V to the ground lines L1 and L2.
  • the ground lines L1 and L2 mean lines on which a three-dimensional object existing in the lane adjacent to the lane in which the host vehicle V travels contacts the ground.
  • the purpose of the present embodiment is to detect other vehicles VX and the like (including two-wheeled vehicles) traveling in the left and right lanes adjacent to the lane of the host vehicle V on the rear side of the host vehicle V.
  • a distance d1 which is a position to be the ground lines L1 and L2 of the other vehicle VX is obtained from a distance d11 from the own vehicle V to the white line W and a distance d12 from the white line W to a position where the other vehicle VX is predicted to travel. It can be determined substantially fixedly.
  • the distance d1 is not limited to being fixedly determined, and may be variable.
  • the computer 30 recognizes the position of the white line W with respect to the host vehicle V by a technique such as white line recognition, and determines the distance d11 based on the recognized position of the white line W.
  • the distance d1 is variably set using the determined distance d11.
  • the distance d1 is It shall be fixedly determined.
  • the distance d2 is a distance extending from the rear end portion of the host vehicle V in the vehicle traveling direction.
  • the distance d2 is determined so that the detection areas A1 and A2 are at least within the angle of view a of the camera 10.
  • the distance d2 is set so as to be in contact with the range divided into the angle of view a.
  • the distance d3 is a distance indicating the length of the detection areas A1, A2 in the vehicle traveling direction. This distance d3 is determined based on the size of the three-dimensional object to be detected. In the present embodiment, since the detection target is the other vehicle VX or the like, the distance d3 is set to a length including the other vehicle VX.
  • the distance d4 is a distance indicating a height set so as to include a tire such as the other vehicle VX in the real space.
  • the distance d4 is a length shown in FIG. 13A in the bird's-eye view image.
  • the distance d4 may be a length that does not include a lane that is further adjacent to the left and right adjacent lanes in the bird's-eye view image (that is, a lane that is adjacent to two lanes).
  • the distances d1 to d4 are determined, and thereby the positions, sizes, and shapes of the detection areas A1 and A2 are determined. More specifically, the position of the upper side b1 of the detection areas A1 and A2 forming a trapezoid is determined by the distance d1. The starting point position C1 of the upper side b1 is determined by the distance d2. The end point position C2 of the upper side b1 is determined by the distance d3. The side b2 of the detection areas A1 and A2 having a trapezoidal shape is determined by a straight line L3 extending from the camera 10 toward the starting point position C1.
  • a side b3 of trapezoidal detection areas A1 and A2 is determined by a straight line L4 extending from the camera 10 toward the end position C2.
  • the position of the lower side b4 of the detection areas A1 and A2 having a trapezoidal shape is determined by the distance d4.
  • the areas surrounded by the sides b1 to b4 are set as the detection areas A1 and A2.
  • the detection areas A ⁇ b> 1 and A ⁇ b> 2 are true squares (rectangles) in the real space behind the host vehicle V.
  • the viewpoint conversion unit 31 inputs captured image data of a predetermined area obtained by imaging with the camera 10.
  • the viewpoint conversion unit 31 performs viewpoint conversion processing on the input captured image data to the bird's-eye image data in a bird's-eye view state.
  • the bird's-eye view is a state seen from the viewpoint of a virtual camera looking down from above, for example, vertically downward (or slightly obliquely downward).
  • This viewpoint conversion process can be realized by a technique described in, for example, Japanese Patent Application Laid-Open No. 2008-219063.
  • the luminance difference calculation unit 35 calculates a luminance difference with respect to the bird's-eye view image data subjected to viewpoint conversion by the viewpoint conversion unit 31 in order to detect the edge of the three-dimensional object included in the bird's-eye view image. For each of a plurality of positions along a vertical imaginary line extending in the vertical direction in the real space, the brightness difference calculating unit 35 calculates a brightness difference between two pixels in the vicinity of each position.
  • the luminance difference calculation unit 35 can calculate the luminance difference by either a method of setting only one vertical virtual line extending in the vertical direction in the real space or a method of setting two vertical virtual lines.
  • the brightness difference calculation unit 35 applies a first vertical imaginary line corresponding to a line segment extending in the vertical direction in the real space and a vertical direction in the real space different from the first vertical imaginary line with respect to the bird's-eye view image that has undergone viewpoint conversion.
  • a second vertical imaginary line corresponding to the extending line segment is set.
  • the luminance difference calculation unit 35 continuously obtains a luminance difference between a point on the first vertical imaginary line and a point on the second vertical imaginary line along the first vertical imaginary line and the second vertical imaginary line.
  • the operation of the luminance difference calculation unit 35 will be described in detail.
  • the luminance difference calculation unit 35 corresponds to a line segment extending in the vertical direction in the real space and passes through the detection area A1 (hereinafter referred to as the attention line La).
  • the luminance difference calculation unit 35 corresponds to a line segment extending in the vertical direction in the real space and also passes through the second vertical virtual line Lr (hereinafter referred to as a reference line Lr) passing through the detection area A1.
  • the reference line Lr is set at a position separated from the attention line La by a predetermined distance in the real space.
  • the line corresponding to the line segment extending in the vertical direction in the real space is a line that spreads radially from the position Ps of the camera 10 in the bird's-eye view image.
  • This radially extending line is a line along the direction in which the three-dimensional object falls when converted to bird's-eye view.
  • the luminance difference calculation unit 35 sets the attention point Pa (point on the first vertical imaginary line) on the attention line La.
  • the luminance difference calculation unit 35 sets a reference point Pr (a point on the second vertical plate) on the reference line Lr.
  • the attention line La, the attention point Pa, the reference line Lr, and the reference point Pr have the relationship shown in FIG. 14B in the real space.
  • the attention line La and the reference line Lr are lines extending in the vertical direction in the real space, and the attention point Pa and the reference point Pr are substantially the same height in the real space. This is the point that is set.
  • the attention point Pa and the reference point Pr do not necessarily have the same height, and an error that allows the attention point Pa and the reference point Pr to be regarded as the same height is allowed.
  • the luminance difference calculation unit 35 obtains a luminance difference between the attention point Pa and the reference point Pr. If the luminance difference between the attention point Pa and the reference point Pr is large, it is considered that an edge exists between the attention point Pa and the reference point Pr. Therefore, the edge line detection unit 36 shown in FIG. 3 detects an edge line based on the luminance difference between the attention point Pa and the reference point Pr.
  • FIG. 15 is a diagram illustrating a detailed operation of the luminance difference calculation unit 35, in which FIG. 15 (a) shows a bird's-eye view image in a bird's-eye view state, and FIG. 15 (b) is shown in FIG. 15 (a). It is the figure which expanded a part B1 of the bird's-eye view image. Although only the detection area A1 is illustrated and described in FIG. 15, the luminance difference is calculated in the same procedure for the detection area A2.
  • the other vehicle VX When the other vehicle VX is reflected in the captured image captured by the camera 10, the other vehicle VX appears in the detection area A1 in the bird's-eye view image as shown in FIG. As shown in the enlarged view of the area B1 in FIG. 15A in FIG. 15B, it is assumed that the attention line La is set on the rubber part of the tire of the other vehicle VX on the bird's-eye view image.
  • the luminance difference calculation unit 35 first sets the reference line Lr.
  • the reference line Lr is set along the vertical direction at a position away from the attention line La by a predetermined distance in the real space.
  • the reference line Lr is set at a position separated from the attention line La by 10 cm in real space.
  • the reference line Lr is set on the wheel of the tire of the other vehicle VX that is separated from the rubber of the tire of the other vehicle VX by, for example, 10 cm on the bird's eye view image.
  • the luminance difference calculation unit 35 sets a plurality of attention points Pa1 to PaN on the attention line La.
  • attention point Pai when an arbitrary point is indicated
  • the number of attention points Pa set on the attention line La may be arbitrary.
  • N attention points Pa are set on the attention line La.
  • the luminance difference calculation unit 35 sets the reference points Pr1 to PrN so as to be the same height as the attention points Pa1 to PaN in the real space. Then, the luminance difference calculation unit 35 calculates the luminance difference between the attention point Pa and the reference point Pr having the same height. Thereby, the luminance difference calculation unit 35 calculates the luminance difference between the two pixels for each of a plurality of positions (1 to N) along the vertical imaginary line extending in the vertical direction in the real space. For example, the luminance difference calculating unit 35 calculates a luminance difference between the first attention point Pa1 and the first reference point Pr1, and the second difference between the second attention point Pa2 and the second reference point Pr2. Will be calculated.
  • the luminance difference calculation unit 35 continuously calculates the luminance difference along the attention line La and the reference line Lr. That is, the luminance difference calculation unit 35 sequentially obtains the luminance difference between the third to Nth attention points Pa3 to PaN and the third to Nth reference points Pr3 to PrN.
  • the luminance difference calculation unit 35 repeatedly executes the above-described processing such as setting the reference line Lr, setting the attention point Pa and the reference point Pr, and calculating the luminance difference while shifting the attention line La in the detection area A1. That is, the luminance difference calculation unit 35 repeatedly executes the above processing while changing the positions of the attention line La and the reference line Lr by the same distance in the extending direction of the ground line L1 in the real space. For example, the luminance difference calculation unit 35 sets the reference line Lr as the reference line Lr in the previous processing, sets the reference line Lr for the attention line La, and sequentially obtains the luminance difference. It will be.
  • the edge line detection unit 36 detects an edge line from the continuous luminance difference calculated by the luminance difference calculation unit 35.
  • the first attention point Pa ⁇ b> 1 and the first reference point Pr ⁇ b> 1 are located in the same tire portion, and thus the luminance difference is small.
  • the second to sixth attention points Pa2 to Pa6 are located in the rubber part of the tire, and the second to sixth reference points Pr2 to Pr6 are located in the wheel part of the tire. Therefore, the luminance difference between the second to sixth attention points Pa2 to Pa6 and the second to sixth reference points Pr2 to Pr6 becomes large. Therefore, the edge line detection unit 36 may detect that an edge line exists between the second to sixth attention points Pa2 to Pa6 and the second to sixth reference points Pr2 to Pr6 having a large luminance difference. it can.
  • the edge line detection unit 36 firstly follows the following Equation 1 to determine the i-th attention point Pai (coordinate (xi, yi)) and the i-th reference point Pri (coordinate ( xi ′, yi ′)) and the i th attention point Pai are attributed.
  • Equation 1 t represents a threshold value
  • I (xi, yi) represents the luminance value of the i-th attention point Pai
  • I (xi ′, yi ′) represents the luminance value of the i-th reference point Pri.
  • the attribute s (xi, yi) of the attention point Pai is “1”.
  • the attribute s (xi, yi) of the attention point Pai is “ ⁇ 1”.
  • the threshold value t can be set in advance and can be changed in accordance with a control command issued by the control unit 39 shown in FIG. 3, and details thereof will be described later.
  • the edge line detection unit 36 determines whether or not the attention line La is an edge line from the continuity c (xi, yi) of the attribute s along the attention line La based on Equation 2 below.
  • the continuity c (xi, yi) is “1”.
  • the attribute s (xi, yi) of the attention point Pai is not the same as the attribute s (xi + 1, yi + 1) of the adjacent attention point Pai + 1
  • the continuity c (xi, yi) is “0”.
  • the edge line detection unit 36 obtains the sum for the continuity c of all the points of interest Pa on the line of interest La.
  • the edge line detection unit 36 normalizes the continuity c by dividing the obtained sum of continuity c by the number N of points of interest Pa.
  • the edge line detection unit 36 determines that the attention line La is an edge line when the normalized value exceeds the threshold ⁇ .
  • the threshold value ⁇ is a value set in advance through experiments or the like.
  • the threshold value ⁇ may be set in advance, or may be changed according to a control command of the control unit 39 described later.
  • the edge line detection unit 36 determines whether or not the attention line La is an edge line based on Equation 3 below. Then, the edge line detection unit 36 determines whether or not all the attention lines La drawn on the detection area A1 are edge lines. [Equation 3] ⁇ c (xi, yi) / N> ⁇
  • the three-dimensional object detection unit 37 detects a three-dimensional object based on the amount of edge lines detected by the edge line detection unit 36.
  • the three-dimensional object detection device 1 detects an edge line extending in the vertical direction in real space. The fact that many edge lines extending in the vertical direction are detected means that there is a high possibility that a three-dimensional object exists in the detection areas A1 and A2. For this reason, the three-dimensional object detection unit 37 detects a three-dimensional object based on the amount of edge lines detected by the edge line detection unit 36. Furthermore, prior to detecting the three-dimensional object, the three-dimensional object detection unit 37 determines whether or not the edge line detected by the edge line detection unit 36 is correct.
  • the three-dimensional object detection unit 37 determines whether or not the luminance change along the edge line of the bird's-eye view image on the edge line is larger than a predetermined threshold value. When the luminance change of the bird's-eye view image on the edge line is larger than the threshold value, it is determined that the edge line is detected by erroneous determination. On the other hand, when the luminance change of the bird's-eye view image on the edge line is not larger than the threshold value, it is determined that the edge line is correct.
  • This threshold value is a value set in advance by experiments or the like.
  • FIG. 16 is a diagram illustrating the luminance distribution of the edge line.
  • FIG. 16A illustrates the edge line and the luminance distribution when another vehicle VX as a three-dimensional object exists in the detection area A1, and
  • FIG. Indicates an edge line and a luminance distribution when there is no solid object in the detection area A1.
  • the attention line La set in the tire rubber portion of the other vehicle VX is determined to be an edge line in the bird's-eye view image.
  • the luminance change of the bird's-eye view image on the attention line La is gentle. This is because the tire of the other vehicle VX is extended in the bird's-eye view image by converting the image captured by the camera 10 into a bird's-eye view image.
  • the attention line La set in the white character portion “50” drawn on the road surface in the bird's-eye view image is erroneously determined as an edge line.
  • the brightness change of the bird's-eye view image on the attention line La has a large undulation. This is because a portion with high brightness in white characters and a portion with low brightness such as a road surface are mixed on the edge line.
  • the three-dimensional object detection unit 37 determines whether or not the edge line is detected by erroneous determination. When the luminance change along the edge line is larger than a predetermined threshold, the three-dimensional object detection unit 37 determines that the edge line is detected by erroneous determination. And the said edge line is not used for the detection of a solid object. Thereby, white characters such as “50” on the road surface, weeds on the road shoulder, and the like are determined as edge lines, and the detection accuracy of the three-dimensional object is prevented from being lowered.
  • the three-dimensional object detection unit 37 calculates the luminance change of the edge line by any one of the following mathematical formulas 4 and 5.
  • the luminance change of the edge line corresponds to the evaluation value in the vertical direction in the real space.
  • Equation 4 evaluates the luminance distribution by the sum of the squares of the differences between the i-th luminance value I (xi, yi) on the attention line La and the adjacent i + 1-th luminance value I (xi + 1, yi + 1).
  • Equation 5 evaluates the luminance distribution by the sum of the absolute values of the differences between the i-th luminance value I (xi, yi) on the attention line La and the adjacent i + 1-th luminance value I (xi + 1, yi + 1).
  • the attribute b (xi, yi) of the attention point Pa (xi, yi) is “1”. Become. If the relationship is other than that, the attribute b (xi, yi) of the attention point Pai is '0'.
  • This threshold value t2 is set in advance by an experiment or the like in order to determine that the attention line La is not on the same three-dimensional object. Then, the three-dimensional object detection unit 37 sums up the attributes b for all the attention points Pa on the attention line La, obtains an evaluation value in the vertical equivalent direction, and determines whether the edge line is correct.
  • 17 and 18 are flowcharts showing details of the three-dimensional object detection method according to the present embodiment.
  • FIG. 17 and FIG. 18 for the sake of convenience, the processing for the detection area A1 will be described, but the same processing is executed for the detection area A2.
  • step S21 the camera 10 images a predetermined area specified by the angle of view a and the attachment position.
  • step S22 the viewpoint conversion unit 31 inputs the captured image data captured by the camera 10 in step S21, performs viewpoint conversion, and generates bird's-eye view image data.
  • step S23 the luminance difference calculation unit 35 sets the attention line La on the detection area A1. At this time, the luminance difference calculation unit 35 sets a line corresponding to a line extending in the vertical direction in the real space as the attention line La.
  • luminance difference calculation part 35 sets the reference line Lr on detection area
  • step S25 the luminance difference calculation unit 35 sets a plurality of attention points Pa on the attention line La.
  • the luminance difference calculation unit 35 sets the attention points Pa as many as not causing a problem at the time of edge detection by the edge line detection unit 36.
  • step S26 the luminance difference calculation unit 35 sets the reference point Pr so that the attention point Pa and the reference point Pr are substantially the same height in the real space. Thereby, the attention point Pa and the reference point Pr are arranged in a substantially horizontal direction, and it becomes easy to detect an edge line extending in the vertical direction in the real space.
  • step S27 the luminance difference calculation unit 35 calculates the luminance difference between the attention point Pa and the reference point Pr that have the same height in the real space.
  • the edge line detection unit 36 calculates the attribute s of each attention point Pa in accordance with Equation 1 above.
  • step S28 the edge line detection unit 36 calculates the continuity c of the attribute s of each attention point Pa in accordance with Equation 2 above.
  • step S29 the edge line detection unit 36 determines whether or not the value obtained by normalizing the total sum of continuity c is greater than the threshold value ⁇ according to the above formula 3.
  • the edge line detection unit 36 detects the attention line La as an edge line in step S30. Then, the process proceeds to step S31.
  • the edge line detection unit 36 does not detect the attention line La as an edge line, and the process proceeds to step S31.
  • This threshold value ⁇ can be set in advance, but can be changed in accordance with a control command to the control unit 39.
  • step S31 the computer 30 determines whether or not the processing in steps S23 to S30 has been executed for all the attention lines La that can be set on the detection area A1. If it is determined that the above processing has not been performed for all the attention lines La (S31: NO), the processing returns to step S23, a new attention line La is set, and the processing up to step S31 is repeated. On the other hand, when it is determined that the above process has been performed for all the attention lines La (S31: YES), the process proceeds to step S32 in FIG.
  • step S32 of FIG. 18 the three-dimensional object detection unit 37 calculates a luminance change along the edge line for each edge line detected in step S30 of FIG.
  • the three-dimensional object detection unit 37 calculates the luminance change of the edge line according to any one of the above formulas 4, 5, and 6.
  • step S33 the three-dimensional object detection unit 37 excludes edge lines whose luminance change is larger than a predetermined threshold from the edge lines. That is, it is determined that an edge line having a large luminance change is not a correct edge line, and the edge line is not used for detecting a three-dimensional object. As described above, this is to prevent characters on the road surface, roadside weeds, and the like included in the detection area A1 from being detected as edge lines. Therefore, the predetermined threshold value is a value set based on a luminance change generated by characters on the road surface, weeds on the road shoulder, or the like obtained in advance by experiments or the like.
  • step S34 the three-dimensional object detection unit 37 determines whether or not the amount of the edge line is equal to or larger than the second threshold value ⁇ .
  • the second threshold value ⁇ can be obtained and set in advance by experiments or the like, and can be changed in accordance with a control command issued by the control unit 39 shown in FIG. 3, details of which will be described later. For example, when a four-wheeled vehicle is set as the three-dimensional object to be detected, the second threshold value ⁇ is set based on the number of edge lines of the four-wheeled vehicle that have appeared in the detection region A1 in advance through experiments or the like.
  • the three-dimensional object detection unit 37 detects that a three-dimensional object exists in the detection area A1 in step S35.
  • the three-dimensional object detection unit 37 determines that there is no three-dimensional object in the detection area A1. Thereafter, the processing illustrated in FIGS. 17 and 18 ends.
  • the detected three-dimensional object may be determined to be another vehicle VX that travels in the adjacent lane adjacent to the lane in which the host vehicle V travels, and the relative speed of the detected three-dimensional object with respect to the host vehicle V is taken into consideration. It may be determined whether the vehicle is another vehicle VX traveling in the adjacent lane.
  • the second threshold value ⁇ can be set in advance, but can be changed according to a control command to the control unit 39.
  • the vertical direction in the real space with respect to the bird's-eye view image A vertical imaginary line is set as a line segment extending to. Then, for each of a plurality of positions along the vertical imaginary line, a luminance difference between two pixels in the vicinity of each position can be calculated, and the presence or absence of a three-dimensional object can be determined based on the continuity of the luminance difference.
  • the attention line La corresponding to the line segment extending in the vertical direction in the real space and the reference line Lr different from the attention line La are set for the detection areas A1 and A2 in the bird's-eye view image. Then, a luminance difference between the attention point Pa on the attention line La and the reference point Pr on the reference line Lr is continuously obtained along the attention line La and the reference line La. In this way, the luminance difference between the attention line La and the reference line Lr is obtained by continuously obtaining the luminance difference between the points. In the case where the luminance difference between the attention line La and the reference line Lr is high, there is a high possibility that there is an edge of the three-dimensional object at the set position of the attention line La.
  • a three-dimensional object can be detected based on a continuous luminance difference.
  • the detection accuracy of a three-dimensional object can be improved.
  • the luminance difference between two points of approximately the same height near the vertical imaginary line is obtained.
  • the luminance difference is obtained from the attention point Pa on the attention line La and the reference point Pr on the reference line Lr, which are substantially the same height in the real space, and thus the luminance when there is an edge extending in the vertical direction. The difference can be detected clearly.
  • FIG. 19 is a diagram illustrating an example of an image for explaining the processing of the edge line detection unit 36.
  • 102 is an adjacent image.
  • a region where the brightness of the first striped pattern 101 is high and a region where the brightness of the second striped pattern 102 is low are adjacent to each other, and a region where the brightness of the first striped pattern 101 is low and the second striped pattern 102. Is adjacent to a region with high brightness.
  • the portion 103 located at the boundary between the first striped pattern 101 and the second striped pattern 102 tends not to be perceived as an edge depending on human senses.
  • the edge line detection unit 36 determines the part 103 as an edge line only when there is continuity in the attribute of the luminance difference in addition to the luminance difference in the part 103, the edge line detection unit 36 An erroneous determination of recognizing a part 103 that is not recognized as an edge line as a sensation as an edge line can be suppressed, and edge detection according to a human sense can be performed.
  • the edge line detection unit 36 when the luminance change of the edge line detected by the edge line detection unit 36 is larger than a predetermined threshold value, it is determined that the edge line has been detected by erroneous determination.
  • the captured image acquired by the camera 10 is converted into a bird's-eye view image, the three-dimensional object included in the captured image tends to appear in the bird's-eye view image in a stretched state.
  • the luminance change of the bird's-eye view image in the stretched direction tends to be small.
  • the bird's-eye view image includes a high luminance region such as a character portion and a low luminance region such as a road surface portion.
  • the brightness change in the stretched direction tends to increase in the bird's-eye view image. Therefore, by determining the luminance change of the bird's-eye view image along the edge line as in this example, the edge line detected by the erroneous determination can be recognized, and the detection accuracy of the three-dimensional object can be improved.
  • the three-dimensional object detection device 1 of the present example includes the two three-dimensional object detection unit 33 (or the three-dimensional object detection unit 37), the three-dimensional object determination unit 34, the foreign object detection unit 38, and the control unit 39. With. Based on the detection result by the three-dimensional object detection unit 33 (or the three-dimensional object detection unit 37), the three-dimensional object determination unit 34 determines whether or not the detected three-dimensional object is finally the other vehicle VX in the detection areas A1 and A2. Judging.
  • the foreign object detector 38 detects that a foreign object has adhered to the lens 11 of the camera 10 based on the differential waveform information or edge information.
  • the control unit 39 detects the detected foreign object in order to prevent the detected three-dimensional object from being the other vehicle VX.
  • a control command for controlling each part (including the control part 39) constituting the computer 30 is output so that it is suppressed that the corresponding image is determined to be the other vehicle VX existing in the detection areas A1, A2.
  • the control unit 39 is used for each process.
  • the threshold value is changed higher than the initial value, the standard value, or other set values (so that detection is difficult), or the output value compared with each threshold value is changed low (so that detection is difficult).
  • the control unit 39 includes the foreign object detection unit 38.
  • a control command for changing the first threshold value ⁇ so as to make it difficult to detect a three-dimensional object is generated, and this control command is output to the three-dimensional object detection unit 33.
  • the control unit 39 detects the foreign object attached to the lens 11.
  • a control command is generated by counting the number of pixels indicating a predetermined difference on the difference image of the bird's eye view image, changing the frequency distribution value to be low, and outputting the control command. To the unit 38.
  • the control unit 39 performs foreign object detection.
  • the unit 38 detects a foreign matter attached to the lens 11
  • a control command for changing the threshold value p so that a three-dimensional object is difficult to detect is generated, and this control command is output to the three-dimensional object detection hand unit 38.
  • the control unit 39 detects the foreign matter attached to the lens 11. In this case, a control command is generated to output the control command by changing the number of pixels extracted on the difference image to be low along the direction in which the three-dimensional object falls when the bird's-eye view image is converted. It outputs to the object detection part 38.
  • the control unit 39 sets the foreign object detection unit 38 to the lens 11.
  • a control command for changing the predetermined threshold value t so as to make it difficult to detect the three-dimensional object is generated, and this control command is output to the three-dimensional object detection unit 37.
  • the control unit 39 is configured such that the foreign object detection unit 38 is a lens. 11 is detected, a control command for changing and outputting the luminance value of the pixel is generated, and the control command is output to the three-dimensional object detection unit 37.
  • the control unit 39 includes a foreign object detection unit.
  • a control command for changing the threshold value ⁇ so as to make it difficult to detect a three-dimensional object is generated, and this control command is output to the three-dimensional object detection unit 37.
  • the control unit 39 When the detection unit 38 detects a foreign matter attached to the lens 11, a control command for generating a low edge line length value of the detected edge information and generating the control command is generated, and the control command is output to the three-dimensional object detection unit.
  • the number of edge lines having a length equal to or greater than a predetermined length included in the edge information for example, the number of edge lines having a length equal to or greater than the threshold ⁇ is included in the edge information by the three-dimensional object detection unit 37 that detects the solid object using the edge information is equal to or greater than the second threshold value ⁇ .
  • the control unit 39 detects the foreign object attached to the lens 11 so that the three-dimensional object is not easily detected. A control command for changing ⁇ high is generated, and this control command is output to the three-dimensional object detection unit 37.
  • the number of edge lines having a length equal to or greater than a predetermined length included in the edge information for example, the number of edge lines having a length equal to or greater than the threshold ⁇ is included in the edge information by the three-dimensional object detection unit 37 that detects the solid object using the edge information is equal to or greater than the second threshold value ⁇ .
  • the control unit 39 detects the number of edge lines having a length equal to or greater than a predetermined length when the foreign object detection unit 38 detects a foreign object attached to the lens 11. Is output to the three-dimensional object detection unit 37.
  • the control unit 39 When the three-dimensional object determination unit 34 determines that the three-dimensional object is another vehicle when the movement speed of the detected three-dimensional object is equal to or higher than a predetermined speed, the control unit 39 When the detection unit 38 detects a foreign object attached to the lens 11, a control command is generated to change the predetermined speed to be a lower limit when determining that the three-dimensional object is another vehicle so that the three-dimensional object is difficult to be detected. The control command is output to the three-dimensional object determination unit 34.
  • the control unit 39 When the detection unit 38 detects a foreign matter adhering to the lens 11, the moving speed of the three-dimensional object compared with a predetermined speed that is a lower limit when determining that the three-dimensional object is another vehicle is changed to be low and output. A control command is generated, and the control command is output to the three-dimensional object determination unit 34.
  • the control unit 39 When the detection unit 39 detects a foreign object attached to the lens 11, a control command for changing the predetermined speed, which is an upper limit when determining that the three-dimensional object is another vehicle, is generated, and the control command is used as the three-dimensional object.
  • the data is output to the determination unit 34.
  • the controller 39 determines that the three-dimensional object is another vehicle. 38 detects a foreign matter adhering to the lens 11, generates a control command for changing the moving speed of the three-dimensional object to be compared with a predetermined speed that is an upper limit for determining that the three-dimensional object is another vehicle. The control command is output to the three-dimensional object determination unit 34.
  • the “movement speed” includes the absolute speed of the three-dimensional object and the relative speed of the three-dimensional object with respect to the host vehicle.
  • the absolute speed of the three-dimensional object may be calculated from the relative speed of the three-dimensional object, and the relative speed of the three-dimensional object may be calculated from the absolute speed of the three-dimensional object.
  • control unit 39 determines that the three-dimensional object is detected by the three-dimensional object detection unit 33 (or the three-dimensional object detection unit 37) or that the three-dimensional object is finally the other vehicle VX by the three-dimensional object determination unit 34.
  • the detection areas A1 and A2 are partially masked, or the threshold value and output value used for detection and determination are adjusted.
  • control unit 39 designates position information (image coordinate information) of a part of the detection areas A1 and A2 corresponding to the position of the foreign object CL attached to the lens 11, and detects the three-dimensional object in the masked area.
  • a control command that does not determine whether the three-dimensional object is the other vehicle VX, or a result that the three-dimensional object is not detected in the masked area or that the three-dimensional object in the masked area is not the other vehicle VX is output.
  • a control command is generated and sent to the three-dimensional object detection unit 33 (or the three-dimensional object detection unit 37) or the three-dimensional object determination unit 34.
  • the control command for outputting a result indicating that the three-dimensional object in the masked area is not detected or that the three-dimensional object in the masked area is not the other vehicle VX is the command to specify the image data of the mask area, as described above.
  • a command for changing each threshold value or each output value is included.
  • control unit 39 controls the control command for changing the threshold value and the output value, the detection command for the three-dimensional object, or the control command for stopping the determination of whether the three-dimensional object is the other vehicle VX, and the three-dimensional object is not detected.
  • a control command for outputting a result indicating that a certain or three-dimensional object is not another vehicle VX is generated and sent to the three-dimensional object detection unit 33 (or the three-dimensional object detection unit 37) or the three-dimensional object determination unit 34.
  • the three-dimensional object detection unit 33 (or the three-dimensional object detection unit 37) of the present embodiment excludes part of image information, difference waveform information, and edge information from information to be processed in accordance with a control command from the control unit 39, and sets a threshold value.
  • the output value is adjusted, and a three-dimensional object is detected under strict standards, and a process of outputting a detection result indicating that the three-dimensional object is not detected is executed, or the three-dimensional object detection process itself is stopped.
  • the three-dimensional object determination unit 38 adjusts the threshold value or the output value according to the control command of the control unit 39, and determines whether or not the three-dimensional object detected under a strict standard is another vehicle VX.
  • the determination that the three-dimensional object is not the other vehicle VX is output, or the three-dimensional object determination process itself is stopped.
  • the control process related to the above three-dimensional object determination is performed when the foreign object detection unit 38 detects a situation where a foreign object is attached to the lens 11 that receives the images of the detection areas A1 and A2.
  • the first threshold value ⁇ is a threshold value for determining the peak of the differential waveform DWt in step S7 of FIG.
  • the threshold value p is a threshold value for extracting a pixel having a predetermined pixel value.
  • the predetermined threshold value t is a threshold value for extracting pixels or edge components having a predetermined luminance difference.
  • the threshold value ⁇ is a threshold value for determining a value (edge length) obtained by normalizing the sum of the continuity c of the attribute of each attention point Pa in step S29 of FIG. 17, and the second threshold value ⁇ is the step of FIG. 34 is a threshold value for evaluating the amount (number) of edge lines. In this way, by changing the determination threshold value higher, the detection sensitivity is adjusted so that the other vehicle VX traveling next to the traveling lane of the host vehicle V is hard to be detected. Can be prevented.
  • the control unit 39 of the present embodiment outputs a control command for counting the number of pixels indicating a predetermined difference on the difference image of the bird's-eye view image and outputting a low frequency distribution value to the three-dimensional object detection unit 33.
  • the value obtained by counting the number of pixels showing a predetermined difference on the difference image of the bird's-eye view image and performing frequency distribution is the value on the vertical axis of the difference waveform DWt generated in step S5 of FIG.
  • the control unit 39 according to the present embodiment outputs a control command for outputting the detected edge information to the three-dimensional object detection unit 37.
  • the detected edge information includes the length of the edge line that is a value obtained by normalizing the sum of the continuity c of the attribute of each attention point Pa in step S29 in FIG. 17, and the amount of edge line in step 34 in FIG. It is.
  • the control unit 39 changes the value obtained by normalizing the sum of the continuity c of the attribute of each attention point Pa or the amount of the edge line so that the three-dimensional object is not easily detected in the next processing. In this way, by lowering the output value, the detection sensitivity can be adjusted so that the other vehicle VX traveling next to the traveling lane of the host vehicle V is difficult to be detected. Therefore, the error of the other vehicle VX traveling in the adjacent lane is incorrect. Detection can be prevented.
  • the foreign object detection unit 38 acquires image information for imaging the rear of the host vehicle V captured by the camera 10.
  • An example of the acquired image information K is shown in FIG.
  • the image information shown in FIG. 20 is taken through the lens 11 to which a foreign substance is attached.
  • the lower image in FIG. 20 is an image of the license plate LP
  • the upper black ink portion is an image of the case C of the camera 10.
  • the image of the area between the license plate LP and the case C changes as the host vehicle V moves.
  • the image information K of the area between the license plate LP and the case C includes the image of the road surface RD of the road on which the host vehicle V travels and the image of the rear sky SK spreading on the road surface RD. Including.
  • the image information K shown in FIG. 20 includes an image CL of the foreign matter attached to the lens 11.
  • an image CL2 corresponding to the foreign object image CL is shown in the detection area A11 as shown in FIG.
  • the image CL2 may be erroneously recognized as an image of the other vehicle VX.
  • the foreign matter in the present embodiment is an object that adheres to the lens 11 at least temporarily, and includes water droplets, muddy water, mud, scales, and the like.
  • the behavior of these foreign matters on the lens 11 varies depending on the type (nature) of the foreign matter.
  • water droplets such as rainwater and lens cleaning liquid with high fluidity move on the surface of the lens 11 at a relatively high speed and change in shape at a relatively high speed.
  • Solid matters such as mud and scale with low fluidity move at a relatively low speed and are less likely to change their shape.
  • the muddy water having a medium fluidity moves on the surface of the lens 11 at a medium speed slower than the water droplet and faster than the fixed substance, and changes in shape at a slower speed than the water droplet.
  • the influence of foreign matter on the captured image differs depending on the type (nature) of the foreign matter. For example, since water with high transparency refracts light like a lens, the image is distorted and the contour image of the three-dimensional object is changed. Translucent mud and dirt that prevent light transmission, mud that does not pass light, and thickly accumulated dirt partially block the reception of light reflected from the three-dimensional object, and part or all of the image of the three-dimensional object is lost. Or partially weaken the received light.
  • the direction EL1 in which the three-dimensional object falls when the viewpoint image of the bird's-eye view image is converted.
  • the difference waveform information (frequency) corresponding to the characteristics of the other vehicle VX, for example, the boundary between the tire and the wheel is a pixel having a predetermined threshold value or more, or the edge amount having a luminance difference of a predetermined value or more is the threshold value sb or more Distributed by quantity.
  • the three-dimensional object detection device 1 that detects a three-dimensional object based on the difference waveform information of the present embodiment includes a foreign object detection unit 38 that detects a foreign object attached to the lens 11 based on the difference waveform information.
  • the foreign object detection unit 38 of the present embodiment extracts the first maximum value from the differential waveform information generated at one or a plurality of first timings by the three-dimensional object detection unit 33, and a reference value based on the first maximum value And the second maximum value corresponding to the position or time corresponding to the first maximum value on the bird's-eye view image from the differential waveform information newly generated at one or more second timings after the first timing. And an evaluation target value is acquired based on the second maximum value.
  • the foreign material detection part 38 detects whether the foreign material has adhered to the lens based on the time-dependent change of the difference of these evaluation object values and reference values.
  • the foreign object detection unit 38 of the present embodiment extracts a first maximum value included in the differential waveform information generated at the first timing, and specifies an x value (position or time) and a y value that specify the first maximum value ( Count value), and a reference value is obtained based on the first maximum value (y value).
  • the reference value can be a value equal to or smaller than the first maximum value (y value), a value of a predetermined ratio of the first maximum value (y value), and a value obtained by subtracting the predetermined value from the first maximum value (y value).
  • a local maximum value included in the differential waveform information generated at the second timing, corresponding to the X value (position or time) of the first local maximum value, or the local maximum value within the predetermined value is the difference between the X values.
  • An evaluation target value is obtained based on the second maximum value (y value).
  • the evaluation target value can be a value equal to or smaller than the second maximum value (y value), a value of a predetermined ratio of the second maximum value (y value), and a value obtained by subtracting the predetermined value from the second maximum value (y value).
  • a method common to the method of deriving the reference value from the first maximum value can be used.
  • the foreign object detection unit 38 acquires the difference between the evaluation target value and the reference value over time, and calculates the change over time from the difference acquired at each timing.
  • the foreign matter detection unit 38 of the present embodiment detects whether or not foreign matter is attached to the lens based on the amount of change over time between the evaluation target value corresponding to the position or time and the reference value.
  • the foreign object detection unit 38 obtains the degree of deviation (variation) between the evaluation target value and the reference value as a change with time with time. If the amount of change between the evaluation target value and the reference value is small even after a lapse of time, the target detected at the first timing and the target detected at the second timing are the same target, that is, the lens 11 can be determined to be an object (foreign matter) adhering to 11.
  • the foreign object detection unit 38 has a degree of change with time of the difference between the evaluation target value and the reference value within a predetermined determination range. If it is determined, it is determined that the image including the pixel corresponding to the evaluation target value is an image caused by the foreign matter attached to the lens, and it is detected that the foreign matter is attached to the lens 11. Specifically, when the state where the difference between the evaluation target value and the reference value is within a predetermined value continues for a predetermined time, it is detected that a foreign object has adhered to the lens 11, and the evaluation target value and the reference value are detected. When the difference between and exceeds the predetermined value, or the state where the difference between the two is within the predetermined value does not continue for a predetermined time, it is detected that no foreign matter has adhered to the lens 11.
  • the foreign object detection unit 38 of the present embodiment performs signal processing using at least a band pass filter on the differential waveform information generated at one or more first timings by the three-dimensional object detection unit 33.
  • This band-pass filter blocks or attenuates the passage of a signal in a specified frequency band and allows a signal in a desired frequency band to pass.
  • the bandpass filter performs processing along the position direction, for example, the separation direction from the camera 10 along the rear direction of the host vehicle V (the + y value in FIG. 23), the time direction, or the spatial direction.
  • a low-pass filter (high cut filter) that blocks or attenuates high-frequency components is used as the band-pass filter.
  • the difference waveform information can be smoothed, averaged, and blurred.
  • signal processing using a low-pass filter it is possible to remove a small maximum value that can be determined as noise, to reveal a maximum value that indicates a relatively large change, and to extract features of acquired image information .
  • the maximum value of the differential waveform information or the edge information resulting from the presence of the foreign matter attached to the lens 11 can be made obvious, and the feature of the image information corresponding to the foreign matter can be extracted.
  • the foreign object detection unit 38 can use two or more types of band pass filters having different frequencies to be cut off or attenuated.
  • the foreign matter detection unit 38 performs signal processing using a low-pass filter having a relatively low pass frequency (for example, 0.3 Hz) and a low-pass filter having a relatively high pass frequency (for example, 1 Hz), It is possible to compare values at the same horizontal axis such as time and space and select the lower value (select low processing). In this way, the maximum value, which is also a feature of a three-dimensional object such as the other vehicle VX, is extracted, and high frequency components generated by noise and the light environment are blocked or attenuated. It is possible to prevent the detection from being suppressed despite the existence of a certain other vehicle VX.
  • the foreign object detection unit 38 of the present embodiment changes the cutoff or attenuation region of the bandpass filter according to the detection result of the foreign object.
  • the foreign matter detection unit 38 widens the range of the cutoff / attenuation frequency of the bandpass filter when the foreign matter attached to the lens 11 is detected continuously for a predetermined time or longer.
  • the upper limit value of the frequency band to be cut off or attenuated is changed to a high value.
  • the lower limit value of the frequency band to be blocked or attenuated may be changed to be low.
  • the foreign object detection threshold can be lowered, so that it can be determined that a foreign object is attached to the lens 11, and the determination control of the other vehicle VX performed when the foreign object is attached is easily performed. Can be.
  • “promoting that it is determined that a foreign object adheres to the lens 11” means that a control process is performed so that a determination result that “a foreign object adheres to the lens 11” is likely to be obtained. It is. Specifically, the control content is adjusted by changing the threshold value, blocking the bandpass filter, or changing the attenuation region, so that a determination result that “foreign matter is attached to the lens 11” is easily obtained.
  • the control of “promoting that it is determined that a foreign object is attached to the lens 11” is “to make it difficult to determine that the three-dimensional object is another vehicle (the three-dimensional object is determined to be another vehicle). Tend to lead to results.
  • the foreign object detection unit 38 of the present embodiment executes signal processing using a change rate limiter in addition to the signal processing using the bandpass filter described above.
  • a rate-of-change limiter By performing signal processing using a rate-of-change limiter, the difference waveform information can be further smoothed, small local maximum values that can be judged as noise are removed, and local maximum values that exhibit relatively large changes are accommodated. It is possible to extract the characteristics of the image information. Thereby, the feature of the image information resulting from the presence of the foreign matter attached to the lens 11 can be extracted.
  • the foreign object detection unit 38 of the present embodiment changes the limit change rate of the change rate limiter according to the detection result of the foreign object.
  • the foreign matter detection unit 38 increases the limit change rate of the change rate limiter when the foreign matter attached to the lens 11 is continuously detected for a predetermined time or longer.
  • the limit change of the change rate limiter is changed. By increasing the rate, the “maximum value of the reference waveform information” and the “reference value” after the signal processing are derived as lower values, so that the judgment control of the other vehicle VX performed when the foreign object is attached can be easily performed. .
  • a “predetermined determination range” for determining a foreign object based on the acquired “reference value” is defined.
  • the “predetermined determination range” is defined based on the value obtained by adding the margin value to the reference value and the value obtained by subtracting the margin value from the reference value, with the “reference value” as the median value.
  • the foreign object detection unit 38 of the present embodiment acquires an “evaluation target value” based on the maximum value of the differential waveform information newly generated at one or more second timings after the first timing, The number of times that the difference between the “evaluation target value” and the “reference value” having the same position on the bird's-eye view image is determined to be within the “predetermined determination range” is counted up. This count-up can be performed within a predetermined evaluation time defined in advance. When the number of times counted up is equal to or greater than a predetermined value, the foreign object detection unit 38 is an image caused by the foreign object attached to the lens 11 including an image including pixels corresponding to the evaluation target value that has led to the count up result. It is judged that.
  • the processing of the foreign matter detection unit 38 described above can also be performed based on edge information.
  • the foreign object detection unit 38 extracts the first maximum value from the edge information including the edge line information generated by the three-dimensional object detection unit 37 at one or a plurality of first timings, and based on the first maximum value. Get the reference edge length.
  • the edge line information indicates a luminance difference equal to or greater than a predetermined threshold, and includes edge length information (including the number of pixels) having a predetermined continuity.
  • the foreign matter detection unit 38 obtains a second maximum value corresponding to the first maximum value on the bird's-eye view image from the edge information newly generated at one or a plurality of second timings after the first timing. While extracting, evaluation edge length is acquired based on this 2nd maximum value.
  • the foreign object detection unit 38 displays an image including pixels corresponding to the evaluation edge length. It is determined that the image is caused by the foreign matter attached to the lens 11 and it is detected that the foreign matter is attached to the lens 11.
  • the foreign matter detection unit 38 performs signal processing using at least a bandpass filter on the edge information including the edge line information generated at the first timing, and the “maximum of the reference edge information” after this signal processing is performed.
  • the “reference edge length” is acquired based on the “value”.
  • “evaluation edge length” is acquired based on the maximum value of the edge information newly generated at one or a plurality of second timings after the first timing, and the position on the bird's-eye view image is common.
  • the image including the pixel corresponding to the evaluation edge length is caused by the foreign matter attached to the lens 11 based on the number of times that the difference between the evaluation edge length and the reference edge length is determined to be within the “predetermined determination range”.
  • the “reference edge information” in the foreign object detection processing based on the edge information corresponds to the “reference difference waveform information” described above, the “reference edge length” corresponds to the “reference value” described above, and the “evaluation edge length”.
  • the other vehicle VX which is the original detection target, moves independently of the present apparatus 1, and therefore the maximum value (size) and position (detection) of differential waveform information or edge information corresponding to the characteristics of the other vehicle VX.
  • the position in the areas A1 and A2 changes every moment.
  • the maximum value of the difference waveform information / edge information corresponding to the feature of the foreign matter is compared with the case where the other vehicle VX exists in the detection areas A1 and A2.
  • Changes over time in (size) and position (positions in the detection areas A1 and A2) tend to be small. This tendency is noticeable in mud and scale with low fluidity.
  • the maximum value of the differential waveform information / edge information at the second timing does not have a clear contour (edge) like a three-dimensional object, but is caused by a foreign substance attached to the lens 11 moving with the apparatus 1. It can be determined that this is a feature to be performed. Therefore, it is determined that the information (difference waveform information, edge information) detected as a foreign object is not information (difference waveform information, edge information) indicating an image of another vehicle VX traveling in the adjacent lane of the host vehicle V. be able to.
  • the three-dimensional object detection device 1 of the present embodiment extracts features peculiar to foreign matters attached to the lens 11 from image information actually captured through the lens 11 and attaches to the lens 11 based on the extracted feature. Since the presence of a foreign object is determined, the state of the lens 11 can be determined accurately. As a result, it is possible to prevent the foreign matter adhering to the lens 11 from being erroneously detected as the other vehicle VX, so that the other vehicle VX can be accurately detected.
  • the maximum value of the value which carried out frequency distribution by counting the pixel number which shows a predetermined difference on a difference image is used.
  • the pixels constituting this maximum value a plurality of pixel groups in which the difference between the pixel values of adjacent pixels is less than a predetermined value are extracted, and the maximum number of inversion points between these pixel groups is extracted.
  • the value can be used for foreign object detection.
  • a pixel group in which the pixel values of adjacent pixels are less than a predetermined value is a bright (or dark) portion corresponding to a feature point (difference, edge, etc.) to be detected, and between these pixel groups, light to dark (or It is a dark (or light) portion that reverses from dark to light. Since the inversion number of the pixel group whose pixel value differs by a predetermined value or more depends on the feature point to be detected, the same processing is performed with the same accuracy as when the count result of the number of pixels indicating the predetermined difference is used. Can do.
  • the three-dimensional object detection 33 aligns the positions of the bird's-eye view images at different times on the bird's-eye view, and the difference between the aligned bird's-eye view images.
  • a pixel group is extracted. When a plurality of pixels having a common pixel value are grouped, pixels less than a predetermined value exist between the grouped pixel groups.
  • Inverted waveform information is generated by counting the number of pixels as an inversion point between pixel groups and performing frequency distribution. This “inverted waveform information” corresponds to the “difference waveform information” described above in the foreign object detection processing of the present embodiment.
  • the foreign object detection unit 38 of the present embodiment aligns the positions of the bird's-eye view images at different times on the bird's-eye view, and performs viewpoint conversion on the bird's-eye view image on the difference image of the aligned bird's-eye view images.
  • a plurality of pixel groups in which a difference in pixel values of adjacent pixels is less than a predetermined value are extracted from pixels indicating a predetermined difference on the difference image along a direction in which the three-dimensional object falls, and an inversion point between the pixel groups Is obtained from the three-dimensional object detection unit 33.
  • This inversion waveform information may be generated by the foreign object detection unit 38 based on information acquired from the three-dimensional object detection unit 33.
  • the foreign object detection unit 38 extracts a first maximum value from the inverted waveform information generated at one or a plurality of first timings, acquires a reference inversion number based on the first maximum value, and receives the first timing.
  • a second maximum value corresponding to the first maximum value is extracted on the bird's-eye view image from the inverted waveform information newly generated at one or a plurality of second timings after that.
  • an evaluation inversion number is acquired based on the second maximum value, and it is detected whether or not foreign matter is attached to the lens 11 based on a change with time of the difference between the evaluation inversion number and the reference inversion number. .
  • the foreign object detection unit 38 extracts a first maximum value included in the inverted waveform information generated at the first timing, and specifies an x value (position or time) and a y value (inversion number value) that specify the first maximum value. And obtaining a reference value based on the first maximum value (y value).
  • the reference inversion number may be a value equal to or less than the first maximum value (y value), a value of a predetermined ratio of the first maximum value (y value), and a value obtained by subtracting the predetermined value from the first maximum value (y value). it can.
  • a local maximum value included in the inverted waveform information generated at the second timing corresponding to the X value (position or time) of the first local maximum value, or the difference between the X values within a predetermined value.
  • the evaluation inversion number is obtained.
  • the evaluation inversion number can be a value equal to or smaller than the second maximum value (y value), a value of a predetermined ratio of the second maximum value (y value), and a value obtained by subtracting the predetermined value from the second maximum value (y value).
  • a method common to the method of deriving the reference inversion number from the first maximum value can be used.
  • the foreign object detection unit 38 acquires the difference between the evaluation inversion number and the reference inversion number with time, and calculates the change with time of the difference acquired at each timing.
  • the foreign matter detection unit 38 of the present embodiment detects whether or not foreign matter is attached to the lens based on the amount of change over time between the evaluation inversion number corresponding to the position or time and the reference inversion suction.
  • the foreign object detection unit 38 obtains the degree of deviation (variation) between the evaluation inversion number and the reference inversion number as a change with time with time.
  • the object detected at the first timing and the object detected at the second timing are the same object, that is, It can be determined that the object (foreign matter) is attached to the lens 11.
  • the foreign object detection unit 38 In order to evaluate the change between the evaluation inversion number and the reference inversion number as time elapses, the foreign object detection unit 38 has a degree of change over time of the difference between the evaluation inversion number and the reference inversion number within a predetermined determination range. If it is determined that there is an image, the image including the pixel corresponding to the evaluation inversion number is determined to be an image caused by the foreign material attached to the lens, and it is detected that the foreign material is attached to the lens 11.
  • the foreign object detection unit 38 performs signal processing using at least a bandpass filter on the “inverted waveform information” at the first timing acquired from the three-dimensional object detection unit 33, and the “reference inverted waveform after this signal processing”
  • the “reference inversion number” is acquired based on the maximum value of “information”.
  • an “evaluation inversion number” is acquired based on the “maximum value of the inverted waveform information” newly generated at one or a plurality of second timings after the first timing.
  • the image including the pixel corresponding to the generated “evaluation inversion number” is an image caused by the foreign matter attached to the lens 11.
  • the process of detecting the foreign matter attached to the lens 11 using the inverted waveform information has the same operation and effect as the process of detecting the foreign matter attached to the lens 11 using the differential waveform information described above, and has the same deformation mode. Can be applied.
  • inverted waveform information corresponds to “difference waveform information” described above
  • reference inversion number corresponds to “reference value” described above
  • evaluation inversion number corresponds to “evaluation target” described above.
  • predetermined determination range corresponds to the “predetermined determination range” in the process using the reference waveform information described above. In order to avoid redundant description, the description of this specification is appropriately read and incorporated based on the above correspondence.
  • the three-dimensional object detection unit 37 is a pixel in which the luminance difference between pixels in image areas adjacent to each other along the direction in which the three-dimensional object falls when the viewpoint is converted into a bird's-eye view image, is a continuity.
  • a plurality of pixel groups in which the luminance difference between adjacent pixels is less than a predetermined value is extracted from the edge components having.
  • pixels having a luminance difference less than a predetermined value exist between the grouped pixel groups.
  • “Inversion edge information” is generated by counting the number of pixels as a reversal point between each pixel group and performing frequency distribution. This “inverted edge information” corresponds to the above-described “inverted waveform information” in the foreign object detection processing of the present embodiment.
  • the foreign object detection unit 38 performs signal processing using at least a bandpass filter on the “inversion edge information” at the first timing generated by the three-dimensional object detection unit 37, and the “reference inversion edge information after this signal processing” "Reference inversion number" is acquired based on the local maximum value.
  • an “evaluation inversion number” is acquired based on the “maximum value of inversion edge information” newly generated at one or more second timings after the first timing, and the position on the bird's-eye view image
  • the “evaluation inversion number” generated at the second timing based on the number of determinations that the difference between the “evaluation inversion number” and the “reference inversion number” in common is determined to be within the “predetermined determination range” It is determined that the image including the pixel corresponding to “” is an image caused by the foreign matter attached to the lens 11.
  • the process of detecting the foreign matter attached to the lens 11 using the inverted edge information has the same operations and effects as the process of detecting the foreign matter attached to the lens 11 using the inverted waveform information described above, and has the same deformation mode. Can be applied.
  • the “inverted edge information” obtained from the “edge information” in this processing example corresponds to the “inverted waveform information” obtained from the “difference waveform information” described above.
  • the “reference inversion number” in the “reference inverted edge information” is Corresponds to the “reference inversion number” in the “reference inversion waveform information”
  • the “evaluation inversion number” in the “inversion edge information” corresponds to the “evaluation inversion number” in the above “inversion waveform information”.
  • the “predetermined determination range” for evaluating the “evaluation inversion number” in the “inversion edge information” corresponds to the “predetermined determination range” for evaluating the “evaluation inversion number” in the “inversion waveform information”.
  • the foreign object detection unit 38 determines that the “evaluation target value” is based on the number of times it is determined that the value is equal to or greater than a predetermined ratio of the threshold value ⁇ set for determining the other vehicle VX at the second timing. It is determined that the image including the pixel corresponding to the evaluation target value of the generated difference waveform information is an image caused by the foreign matter attached to the lens 11. Even if it can be determined that the “evaluation target value” is included within the determination range, the object corresponding to the extremely low pixel value is unlikely to be a foreign object.
  • an “evaluation target value” that is equal to or greater than a predetermined ratio of the first threshold value ⁇ set for determining the other vehicle VX is detected, there is a possibility that the foreign object is erroneously detected as the other vehicle VX. Arise. For this reason, in the present embodiment, when the “evaluation target value” is equal to or greater than a predetermined ratio of the first threshold value ⁇ , the foreign object detection process is promoted so that a determination result that it is a foreign object is obtained. Thereby, the probability of erroneously determining that the foreign object is the other vehicle VX can be reduced.
  • the foreign object detection unit 38 determines whether the “evaluation edge length” is a value equal to or greater than a predetermined ratio of the threshold value ⁇ set for determining the other vehicle VX based on the number of times. It is determined that the image including the pixel corresponding to the evaluation edge length of the edge information generated at the timing is an image caused by the foreign matter attached to the lens 11. Even when it can be determined that the “evaluation edge length” is included within the determination range, it is unlikely that the object corresponding to the extremely low evaluation edge length is a foreign object.
  • FIG. 24 is a flowchart showing a control procedure of foreign object detection processing when edge information is used.
  • step S41 the foreign object detection unit 38 acquires “edge information” and / or “reverse edge information” at the first timing generated by the three-dimensional object detection unit 37.
  • step S ⁇ b> 42 the foreign matter detection unit 38 performs signal processing using a low-pass filter on “edge information” / “inverted edge information” to obtain “reference edge information” / “reference inverted edge information”.
  • FIG. 25A shows a model of “edge information” at the first timing and “reference edge information” subjected to low-pass filter processing.
  • “Edge information” is an edge component along the falling direction of each solid object for each detection position (position in the detection areas R1, R2 along the direction away from the camera 10) in the direction (bin) in which each solid object falls.
  • the edge length as a quantity.
  • the foreign matter detection unit 38 acquires the maximum value of the “reference edge information” as the “reference edge length”.
  • the “reference edge length” may be a value obtained by multiplying a maximum value by a predetermined coefficient, or a value obtained by subtracting a predetermined value from the maximum value.
  • the foreign object detection unit 38 defines a “determination range” having the “reference edge length” as a median value.
  • An example of the “determination range” is shown in FIG. 25B.
  • the foreign matter detection unit 38 acquires the maximum value of “reference reversal edge information” as “reference reversal number”, and defines a “determination range” having this “reference reversal number” as a median value.
  • FIG. 26A shows a model of “inversion edge information” at the first timing, “reference inversion edge information” subjected to low-pass filter processing, and “reference inversion number” corresponding to the maximum value of the reference inversion edge information.
  • FIG. 26B shows “reverse edge information” and “determination range” at the second timing.
  • step S151 the foreign object detection unit 38 acquires edge information / inversion edge information at the second timing after the first timing.
  • the second timing is one or more timings after the first timing.
  • the second timing can be set within an “evaluation time” set as a time required for performing foreign object detection.
  • the edge information / inverted edge information at the second timing is indicated by a broken line in FIG. 25B.
  • step S152 the foreign matter detection unit 38 acquires the maximum values a and b of the edge length included in the edge information as “evaluation edge length”.
  • step S44 the foreign object detection unit 38 determines whether or not the “evaluation edge lengths” a and b at the second timing are within the determination range.
  • the “evaluation edge length” a corresponding to the right peak is out of the predetermined range, so the possibility of being a foreign object is low, and the possibility of being a three-dimensional object or another vehicle VX is high.
  • the “evaluation edge length” b corresponding to the left peak is within a predetermined range, it can be determined that there is a high possibility of being a foreign object.
  • step S45 the first score G is counted up (added).
  • step S46 the second score D is counted down (subtracted).
  • the absolute value of the first score is set higher than the absolute value of the second score.
  • the value to be subtracted is set to a relatively small value in order to suppress the influence on the detection result of the other vehicle VX. As a result, the presence of foreign matter attached to the lens 11 can be accurately determined.
  • the relationship between the absolute value G of the first score and the absolute value D of the second score is not particularly limited, and can be set as appropriate through experiments or the like.
  • the relationship between the absolute value G of the first score and the absolute value D of the second score can be appropriately set according to the environment such as time, travel location, and weather.
  • step S47 it is determined whether or not the inversion evaluation number based on the inversion edge information at the second timing acquired in step S51 is within the determination range. Since the determination method is common to step S44, the description is incorporated as appropriate. If the “evaluation inversion numbers” a ′ and b ′ are within the determination range, it is determined that there is a high possibility of being a foreign object, and the process proceeds to step S48, where the first score G is counted up (added). On the other hand, if it is outside the determination range, it is determined that the possibility of being a foreign object is low, and the process proceeds to step S49, where the second score D is counted down (subtracted).
  • step S48 the foreign object detection unit 38 determines whether or not the “evaluation edge length” acquired in step S52 is a value equal to or greater than a predetermined ratio of the threshold ⁇ set for determining the other vehicle VX. If the “evaluation edge length” is equal to or greater than the predetermined ratio of the threshold ⁇ , the process proceeds to step S50, and the first score G is counted up (added). On the other hand, if it is outside the determination range, the process proceeds to step S51, and the second score D is counted down (subtracted).
  • the first score G in step S45, step S48, and step S50, and the second score D in step S46, step S49, and step S51 may be the same value or different values. In the present embodiment, the first score G in step S48 that satisfies the two conditions of the condition in step S44 regarding the edge length and the condition in step S47 regarding the number of inversions is set higher than the first score G in step S45.
  • step S52 the foreign matter detector 38 counts the count values.
  • step S53 if the counted value is greater than or equal to a predetermined value set in advance, the process proceeds to step S54, where it is determined that foreign matter is attached to the lens 11, and the counted value is set in advance. If it is less than the predetermined value, the process proceeds to step S55, where it is determined that no foreign matter has adhered to the lens 11. The determination result is sent to the three-dimensional object determination unit 34 and the control unit 39.
  • FIG. 27 is a flowchart showing a control procedure for determining whether or not a foreign substance is attached to the lens 11 using the difference waveform information. Since the process of FIG. 27 is common to the process of FIG. 24, the description of the control procedure of FIG.
  • the control unit 39 that detects the other vehicle VX based on the difference waveform information is the next time when the foreign object detection unit 38 determines that “the foreign object attached to the lens has been detected” in the previous process.
  • the other vehicle VX In order to suppress the determination that the three-dimensional object detected from the image of the predetermined area including the pixel corresponding to the maximum value of the differential waveform information generated at the second timing is the other vehicle VX. Generate instructions.
  • the control unit 39 of the present embodiment that detects the other vehicle VX based on the edge information, when the foreign object detection unit 38 determines that “the foreign object attached to the lens has been detected” in the previous process.
  • each control command is sent to any one or more of the three-dimensional object detection units 33 and 37, the three-dimensional object determination unit 34, the foreign object detection unit 38, or the control unit 39 that is itself, and is executed in each unit.
  • the control command may be incorporated in advance in each processing program, or may be sent to each unit by the control unit 39 during execution.
  • the control unit 39 When it is determined by the foreign matter detection unit 38 that the foreign matter attached to the lens 11 is detected, the control unit 39 according to the present embodiment includes a predetermined pixel including a pixel corresponding to the “evaluation target value” or “evaluation edge length”.
  • the differential waveform information or edge information corresponding to the region is masked.
  • Masking information obtained from a predetermined area including pixels corresponding to the “evaluation target value” or “evaluation edge length” at the second timing that caused the determination of foreign object detection Since it is not used for the three-dimensional object determination process, it is possible to suppress erroneous detection of the foreign matter attached to the lens 11 as the other vehicle VX.
  • control part 39 of this embodiment performs the process which detects the other vehicle VX, when the area of the area
  • the area of the mask region is equal to or larger than a predetermined area, for example, an area equal to or larger than a predetermined ratio of the areas of the detection regions A1 and A2, the detection of the other vehicle VX is stopped, thereby the other vehicle VX. Detection accuracy can be maintained.
  • the control unit 39 when the foreign object detection unit 38 detects a foreign object attached to the lens 11, the control unit 39 generates a control command for changing the first threshold value ⁇ so that the three-dimensional object is not easily detected. To the unit 33.
  • the control unit 39 When the foreign matter detection unit 38 detects a foreign matter attached to the lens 11, the control unit 39 counts the number of pixels indicating a predetermined difference on the difference image of the bird's-eye view image, and reduces the frequency distribution value. The control command is generated, and the control command is output to the three-dimensional object detection unit 33.
  • control unit 39 of the present embodiment increases the first threshold value ⁇ when processing the differential waveform information corresponding to the predetermined region including the pixel corresponding to the evaluation target value and the evaluation inversion number, or the evaluation target
  • the frequency-distributed value relating to the difference waveform information of the portion corresponding to the predetermined area including the pixel corresponding to the value and the evaluation inversion number is output low. Thereby, it can suppress that the solid object detected from the image of the predetermined area
  • the control unit 39 of the present embodiment When the foreign object detection unit 38 detects a foreign object attached to the lens 11, the control unit 39 of the present embodiment generates a control command for changing the threshold ⁇ to be high so that it is difficult to detect the three-dimensional object. To the unit 37. Further, when the foreign object detection unit 38 detects a foreign object attached to the lens 11, the control unit 39 outputs a low amount of edge information including the detected edge length. In this way, by increasing the threshold ⁇ or outputting a frequency distribution value that is low, the detection of a three-dimensional object is suppressed, and as a result, it is possible to prevent erroneous detection of a foreign object as another vehicle VX. be able to.
  • control unit 39 of the present embodiment increases the threshold ⁇ when processing edge information corresponding to a predetermined region including pixels corresponding to the evaluation edge length and the evaluation inversion number, or the evaluation edge length.
  • the edge length relating to the edge information of the portion corresponding to the predetermined area including the pixel corresponding to the evaluation inversion number is output low. Thereby, it is suppressed that the three-dimensional object detected from the image of the predetermined area including the pixel corresponding to the maximum value of the edge length of the edge information generated at the second timing is the other vehicle VX. be able to.
  • the control part 39 when the foreign material detection part 38 detects the foreign material adhering to the lens 11, the control part 39 produces
  • the threshold value p related to the difference in pixel values when performing the above may be changed to be high.
  • the control unit 39 may change the second threshold value ⁇ used when determining the three-dimensional object from the edge information to be higher in addition to the threshold value ⁇ for determining the edge length when generating the edge information.
  • the first threshold value ⁇ is for determining the peak of the differential waveform DW t in step S7 of FIG.
  • the threshold value ⁇ is a threshold value for determining a value (edge length) obtained by normalizing the sum of the continuity c of the attribute of each attention point Pa in step S29 of FIG. 17, and the second threshold value ⁇ is the step of FIG. 34 is a threshold value for evaluating the amount (number) of edge lines. In this way, by changing the determination threshold value higher, the detection sensitivity is adjusted so that the other vehicle VX traveling next to the traveling lane of the host vehicle V is hard to be detected. It is possible to prevent erroneous detection as the vehicle VX.
  • the control unit 39 of the present embodiment counts the number of pixels indicating a predetermined difference on the difference image of the bird's eye view image.
  • a control command for outputting the frequency-distributed value low is output to the three-dimensional object detection unit 33.
  • the value obtained by counting the number of pixels indicating a predetermined difference on the difference image of the bird's-eye view image and performing frequency distribution is the value on the vertical axis of the difference waveform DW t generated in step S5 of FIG.
  • the control unit 39 of the present embodiment sends a control command for outputting the detected edge information to the three-dimensional object detection unit 37.
  • the detected edge information includes the length of the edge line that is a value obtained by normalizing the sum of the continuity c of the attribute of each attention point Pa in step S29 in FIG. 17, and the amount of edge line in step 34 in FIG. It is.
  • the control unit 39 detects a solid object in the next process so that the foreign object attached to the lens 11 is not detected as a three-dimensional object.
  • the value obtained by normalizing the sum of the continuity c of the attribute of each attention point Pa or the amount of the edge line is changed to be low.
  • the detection sensitivity can be adjusted so that the other vehicle VX traveling next to the traveling lane of the host vehicle V is difficult to be detected. Therefore, the foreign matter attached to the lens 11 is removed from the adjacent lane. It is possible to prevent erroneous detection as the traveling other vehicle VX.
  • FIGS. 28 to 30 is the current three-dimensional detection process performed using the result of the previous process after the previous three-dimensional object detection process.
  • the foreign object detector 38 detects the difference waveform information of the left and right detection areas A1, A2 generated by the three-dimensional object detector 37 or the left and right detection areas A1, generated by the three-dimensional object detector 37. Based on the edge information of A2, “whether or not a foreign substance is attached to the lens 11” is detected.
  • step S71 the control unit 39 masks the image information (difference waveform information or edge information) of the portion where the foreign matter is attached.
  • step S72 the control unit 39 determines whether the area of the masked portion is equal to or greater than a predetermined value. When the area of the masked portion is equal to or larger than the predetermined value, the process proceeds to step S73, and the three-dimensional object detection process is stopped. Or it progresses to step S65 and it determines with the other vehicles VX not existing in detection area
  • step S62 a solid object detection process is executed based on the difference waveform information or the edge information.
  • This three-dimensional object detection processing is performed according to the above-described processing using the difference waveform information of FIGS. 11 and 12 by the three-dimensional object detection unit 33 or the processing using the edge information of FIGS. 17 and 18 by the three-dimensional object detection unit 37. Is called.
  • step 63 when the three-dimensional object is detected in the detection areas A1, A2 by the three-dimensional object detection units 33, 37, the process proceeds to step S64, and it is determined that the detected three-dimensional object is the other vehicle VX.
  • step S65 it is determined that no other vehicle VX exists in the detection areas A1 and A2.
  • FIG. 29 shows another processing example. If it is determined in step 61 that “foreign matter is attached to the lens 11”, the control unit 39 proceeds to step S 74, and the threshold value p and the difference waveform relating to the difference between the pixel values when generating the difference waveform information. One or more of the first threshold value ⁇ used when judging the three-dimensional object from the information, the threshold value ⁇ when generating the edge information, and the second threshold value ⁇ used when judging the three-dimensional object from the edge information are set higher. A control command to that effect is sent to the three-dimensional object detection units 33 and 37. As described above, the first threshold value ⁇ is used to determine the peak of the differential waveform DW t in step S7 of FIG.
  • the threshold value ⁇ is a threshold value for determining a value (edge line length) obtained by normalizing the sum of the continuity c of the attribute of each attention point Pa in step S29 in FIG. 17, and the second threshold value ⁇ is illustrated in FIG. This is a threshold for evaluating the amount of edge lines in step 34.
  • step S 75 when it is determined in step 61 that “foreign matter is attached to the lens 11”, the control unit 39 proceeds to step S 75 and performs predetermined processing on the difference image of the bird's-eye view image.
  • a control command for counting the number of pixels indicating the difference between the two and outputting a low frequency distribution value is output to the three-dimensional object detection unit 33.
  • the value obtained by counting the number of pixels indicating a predetermined difference on the difference image of the bird's-eye view image and performing frequency distribution is the value on the vertical axis of the difference waveform DW t generated in step S5 of FIG.
  • step S52 a control command for outputting the detected amount of edge information low is output to the three-dimensional object detection unit 37.
  • the detected amount of edge information is a value (edge line length) obtained by normalizing the sum of the continuity c of the attribute of each attention point Pa in step S29 in FIG. 17, or the edge line in step 34 in FIG. Amount.
  • the control unit 39 can determine that the image of the foreign object may be erroneously detected as a three-dimensional object. Is output to the three-dimensional object detection unit 37 as a normalized value of the sum of the continuity c of the attribute of each attention point Pa or a control command for changing the amount of edge lines to be low.
  • the three-dimensional object detection device 1 of the present embodiment configured and acting as described above has the following effects.
  • the three-dimensional object detection device 1 according to the present embodiment extracts features peculiar to foreign matters attached to the lens 11 from image information actually captured through the lens 11, and is based on the temporal change of the extracted feature. Since the presence of foreign matter attached to the lens 11 is determined, the state of the lens 11 can be determined accurately. As a result, it is possible to prevent the foreign matter adhering to the lens 11 from being erroneously detected as the other vehicle VX, so that the other vehicle VX can be accurately detected.
  • the operations and effects described below are similarly achieved even when the other vehicle VX is detected using the difference image information or when the other vehicle VX is detected using the edge information.
  • the three-dimensional object detection device 1 of the present embodiment is obtained from a predetermined area including pixels corresponding to the “evaluation target value” or “evaluation edge length” at the second timing that has caused the foreign object detection determination.
  • the masked information is masked and the information is not used for the three-dimensional object detection process or the three-dimensional object determination process, so that it is possible to suppress erroneous detection of the foreign matter attached to the lens 11 as the other vehicle VX.
  • the three-dimensional object detection device 1 can maintain the detection accuracy of the other vehicle VX by stopping the detection of the other vehicle VX when the area of the masked area is equal to or larger than a predetermined value. it can.
  • the three-dimensional object detection device 1 of the present embodiment promotes the foreign object detection process so that a determination result that the “evaluation target value” is equal to or greater than a predetermined ratio of the first threshold value ⁇ is a foreign object.
  • the probability of making an erroneous determination that the vehicle is another vehicle VX can be reduced.
  • the three-dimensional object detection device 1 according to the present embodiment promotes the foreign object detection process so that a determination result that the object is a foreign object is obtained when the “evaluation edge length” is equal to or greater than a predetermined ratio of the threshold ⁇ . It is possible to reduce the probability of erroneously determining that the foreign object is the other vehicle VX.
  • the process of detecting the foreign matter attached to the lens 11 using the inverted waveform information is a process of detecting the foreign matter attached to the lens 11 using the above-described differential waveform information.
  • the same operations and effects can be achieved, and the same modification can be applied.
  • the three-dimensional object detection device 1 of the present embodiment suppresses detection of a three-dimensional object by increasing the first threshold value ⁇ or outputting a frequency distribution value to a low value, It is possible to prevent erroneous detection as the vehicle VX.
  • the three-dimensional object detection device 1 of the present embodiment suppresses detection of a three-dimensional object by increasing the threshold ⁇ or outputting low edge information, the foreign object is erroneously detected as another vehicle VX. This can be prevented.
  • the absolute value of the first score is set higher than the absolute value of the second score.
  • the three-dimensional object detection apparatus 1 Since the three-dimensional object detection apparatus 1 according to the present embodiment performs signal processing using a low-pass filter, a small local maximum value that can be determined as noise is removed, and a local maximum value that exhibits a relatively large change is revealed. The feature of the acquired image information can be extracted. Thereby, the maximum value of the differential waveform information or the edge information resulting from the presence of the foreign matter attached to the lens 11 can be made obvious, and the feature of the image information corresponding to the foreign matter can be extracted.
  • the foreign object detection device 1 of the present embodiment when a foreign object attached to the lens 11 is detected and the foreign object exists in the same place for a predetermined time or longer, the foreign object is applied to the lens 11 with a relatively strong force. It is determined that there is a high possibility that this foreign substance will continue to be detected in the future, and the “maximum value of reference waveform information” and “reference” after signal processing with a wider cutoff / attenuation frequency band Let “value” be derived as a lower value. As a result, the foreign object detection threshold can be lowered, so that it can be determined that a foreign object is attached to the lens 11, and the determination control of the other vehicle VX performed when the foreign object is attached is easily performed. Can be. As a result, it is possible to execute the detection process of the other vehicle VX having a good response and promptly responding to the detection state of the foreign matter adhesion.
  • the difference waveform information can be further smoothed, and a small maximum value that can be determined as noise is obtained.
  • the feature of the image information corresponding to the maximum value indicating a relatively large change can be extracted. Thereby, the feature of the image information resulting from the presence of the foreign matter attached to the lens 11 can be extracted.
  • the solid object detection device 1 can determine that there is a high possibility that foreign matter attached to the lens 11 will be continuously detected in the future, similarly to the processing by the bandpass filter described above.
  • the “maximum value of reference waveform information” and “reference value” after signal processing by increasing the limit change rate of the change rate limiter are derived as lower values, and the judgment control of the other vehicle VX performed when foreign matter is attached It can be easy to execute.
  • the camera 10 corresponds to an imaging unit according to the present invention
  • the lens 11 corresponds to a lens according to the present invention
  • the viewpoint conversion unit 31 corresponds to an image conversion unit according to the present invention
  • the object detection unit 33 corresponds to the three-dimensional object detection unit according to the present invention
  • the luminance difference calculation unit 35, the edge line detection unit 36, and the three-dimensional object detection unit 37 correspond to the three-dimensional object detection unit according to the present invention.
  • the object determination unit 34 corresponds to a three-dimensional object determination unit
  • the foreign object detection unit 38 corresponds to a foreign object detection unit
  • the control unit 39 corresponds to a control unit.
  • the alignment unit 21 in the present embodiment aligns the positions of the bird's-eye view images at different times on the bird's-eye view, and obtains the aligned bird's-eye view image. This can be performed with accuracy according to the type and required detection accuracy. It may be a strict alignment process such as aligning positions based on the same time and the same position, or may be a loose alignment process that grasps the coordinates of each bird's-eye view image.
  • the problem to be solved by the invention according to the present embodiment is that the foreign matter attached to the lens in consideration of the property of the foreign matter attached to the camera lens and the foreign matter detection device that detects the foreign matter attached to the lens of the camera with high accuracy. It is intended to provide a three-dimensional object detection device that prevents an image of the vehicle from being erroneously detected as an image of another vehicle and detects another vehicle traveling in the adjacent lane adjacent to the traveling lane of the host vehicle with high accuracy.
  • the detected three-dimensional object when a state in which foreign matter such as dirt is attached to the lens of the camera is detected, it is suppressed that the detected three-dimensional object is determined to be another vehicle.
  • Control each process for determining the three-dimensional object and determine whether the travel path on which the vehicle travels is a paved road or a non-paved road when a foreign object is detected.
  • the above-described problem is solved by controlling each process for determining the foreign matter so as to facilitate the detection of the foreign matter attached to the lens.
  • the foreign matter adhering to the lens when the host vehicle travels on a paved road, the foreign matter adhering to the lens has high fluidity such as rainwater and can be predicted to move on the lens at a high speed. From this point of view, in addition to the control that makes it difficult for other vehicles to be detected when a foreign object adhering to the lens is detected, the foreign object is detected when the travel path when the foreign object is detected is a paved road. Therefore, it is possible to continuously detect water droplets moving at a high speed on the lens. By appropriately detecting the foreign matter, it is possible to prevent erroneous detection of an image of the foreign matter attached to the lens as an image of another vehicle traveling in the adjacent lane adjacent to the traveling lane of the host vehicle.
  • the foreign object detection device for detecting the foreign matter adhering to the lens of the camera with high accuracy and the solid object detection device and the solid object detection for detecting other vehicles traveling in the adjacent lane adjacent to the traveling lane of the host vehicle with high accuracy.
  • a method can be provided.
  • the foreign object detection device, the three-dimensional object detection device, and the three-dimensional object detection method of the second embodiment are common in basic configuration to that of the first embodiment.
  • the description of the specification and the drawings relating to the first embodiment is appropriately used for common matters, and different points will be mainly described here.
  • FIG. 1 is also a schematic configuration diagram of a vehicle according to a second embodiment to which the foreign object detection device 1 and the three-dimensional object detection device 1 of the present invention are applied.
  • the three-dimensional object detection device 1 of the present example includes a camera 10, a vehicle speed sensor 20, and a calculator 30. About each of these structures, explanation in a 1st embodiment is used.
  • FIG. 31 shows a block diagram of a computer 30 that functions as the foreign object detection device 1 and the three-dimensional object detection device 1 according to the second embodiment.
  • FIG. 31 is a block diagram showing details of the computer 30 of FIG.
  • the camera 10, the vehicle speed sensor 20, the vehicle controller 100, the navigation device 200, and the ABS (Anti-locked braking system) are the same.
  • 300, a TCS (Tracking Control System) device 400, and a VDC (Vehicle Dynamics Control) device 500 are also illustrated.
  • the vehicle speed sensor 20, the ABS device 300, the TCS device 400, and the VDC device 500 are mounted on a vehicle and can exchange information with the three-dimensional object detection device 100 of the present embodiment via the vehicle controller 100.
  • Each of the above devices can exchange information via an in-vehicle communication network such as a CAN (Controller Area Network).
  • CAN Controller Area Network
  • the computer 30 includes a viewpoint conversion unit 31, a positioning unit 32, a three-dimensional object detection unit 33, a three-dimensional object determination unit 34, a foreign object detection unit 38, and a traveling road state determination unit 41.
  • the control unit 39 and the smear detection unit 40 are provided.
  • the calculation unit 30 of the present embodiment has a configuration relating to a three-dimensional object detection block using differential waveform information.
  • the calculation unit 30 of the present embodiment can also be configured with respect to a three-dimensional object detection block using edge information. In this case, in the configuration shown in FIG.
  • a block configuration A configured by the alignment unit 32 and the three-dimensional object detection unit 33 is surrounded by a broken line, a luminance difference calculation unit 35, an edge line detection unit 36, It can be configured by replacing the block configuration B configured by the three-dimensional object detection unit 37.
  • both the block configuration A and the block configuration B can be provided, so that the solid object can be detected using the difference waveform information and the solid object can also be detected using the edge information.
  • the block configuration A and the block configuration B can be operated according to environmental factors such as brightness.
  • the description of paragraphs 0014 to 0178 in the first embodiment is used.
  • FIG. 3 in the description of the first embodiment is replaced with FIG.
  • the travel path state determination unit 41 determines whether the travel path on which the vehicle V travels is a paved road or an unpaved road based on travel information acquired by the vehicle.
  • the “unpaved road” or “paved road” in the present embodiment is a classification based on the possibility of splashing mud during traveling, so even a road that has been paved is covered with asphalt or concrete.
  • a road whose surface is further covered with snow, mud, sand or the like is included in the “unpaved road”. That is, it includes roads having asphalt or concrete layers, whether paved roads or non-paved roads.
  • a method for determining whether the travel path is a paved road or an unpaved road will be sequentially described.
  • a white line for distinguishing a lane is generally displayed on the road surface (visible) on the paved road, and the white line is not displayed on the non-paved road (visible).
  • the traveling road state determination unit 41 of the present embodiment extracts white line information displayed on the road surface from an image acquired by the camera 10, and when the white line information is extracted, the traveling road on which the host vehicle V is traveling is extracted. If it is determined that the road is a paved road and no white line information is extracted, it is determined that the travel path on which the vehicle V is traveling is an unpaved road.
  • a method known at the time of filing can be used for the white line extraction or the white line detection.
  • this method it is possible to estimate the state of the traveling road based on whether or not white line information can be extracted, and further to predict the property and behavior of the foreign matter attached to the lens 11, so that the foreign matter detection process and the three-dimensional object detection process are appropriately performed. Can do.
  • the second determination method generally, when the vehicle travels on a paved road, the wheel speeds of the wheels included in the vehicle V are not varied, and the wheels indicate a common wheel speed within a predetermined range. Focusing on this point, it is determined whether or not the traveling road is a paved road based on the degree of variation in the wheel speed of the vehicle V.
  • the traveling road state determination unit 41 of the present embodiment acquires the wheel speeds of the plurality of wheels included in the host vehicle V, and when the variation of the acquired wheel speeds is less than a predetermined value, the host vehicle V It is determined that the travel path on which the vehicle travels is a paved road, and when the obtained variation in the plurality of wheel speeds is equal to or greater than a predetermined value, it is determined that the travel path on which the host vehicle V travels is an unpaved road.
  • the wheel speed of each wheel is detected by the vehicle speed sensor 20 and is acquired directly or via the vehicle controller 100.
  • the traveling road is a paved road
  • the front wheel speed and the rear wheel speed are If the difference is greater than or equal to a predetermined value, it is determined that the traveling road is a paved road.
  • the difference between the right wheel speed and the left wheel speed is less than a predetermined value
  • it is determined that the road is a paved road
  • the difference between the right wheel speed and the left wheel speed is greater than or equal to a predetermined value.
  • the wheel speed comparison method that is, the method for determining the degree of variation is not particularly limited, but in this embodiment, wheel speed information with respect to time is acquired for each wheel, and signal processing is performed for each information using a low-pass filter. And comparing the position and value of the smoothed wheel speed peak to evaluate the speed variation of each wheel.
  • the state of the traveling road can be estimated from the variation in the wheel speed, and further, the property and behavior of the foreign matter attached to the lens 11 can be predicted. Therefore, the foreign matter detection process and the three-dimensional object detection process can be appropriately performed. it can.
  • the frequency of occurrence of skidding, tire slipping, side slip, etc. is relatively low, but when the vehicle travels on a non-paved road. Focusing on the fact that the frequency of occurrence of skidding, tire slipping, skidding, etc. is relatively high, whether or not the skid prevention device, skidding prevention device, tire skidding prevention device equipped with the host vehicle V is activated Based on the number of activations, etc., it is determined whether or not the traveling road is a paved road.
  • the three-dimensional object detection device 1 acquires operation information related to the operation from an anti-locked braking system (ABS) device 300 serving as an on-vehicle sliding occurrence prevention device, and from a TCS (Traction Control System) device 400.
  • ABS anti-locked braking system
  • TCS Traction Control System
  • the operation information related to the operation is acquired, and the operation information related to the operation is acquired from a VDC (Vehicle Dynamics Control) device 500 serving as an anti-skid device.
  • VDC Vehicle Dynamics Control
  • Each operation information may be acquired directly from each device, or may be acquired via the vehicle controller 100.
  • the ABS device 300 of the present embodiment keeps the vehicle running safe and prevents the tire from being locked (rotation stops) when the brake is applied on a sudden brake or a low friction road. It is a device that increases the possibility of avoiding obstacles by steering.
  • the ABS device of the present embodiment optimally controls the brake based on wheel speed information detected by the vehicle speed sensor 20 attached to each wheel shaft. Other devices having a gliding prevention function can be used.
  • the TSC device 400 of the present embodiment prevents the wheels from idling when the vehicle starts / accelerates.
  • the TSC device 400 detects idling of the wheel from the speed of the host vehicle itself and the wheel speed of each wheel, and reduces the driving force transmitted from the engine to eliminate the idling state.
  • This device enhances the stability of the vehicle posture when the friction coefficient between the road surface and the tire is reduced on an unpaved road such as a muddy road, a road during and after snowfall.
  • other devices having an anti-spinning function such as TRC (Traction Control) TCL (Traction Control) can be used as the anti-spinning device.
  • the VDC device 500 automatically controls the brake and engine output based on the driving operation and the vehicle speed of the host vehicle V, and creates slippery road surfaces and curves such as muddy roads, roads during and after snowfall. Reduces vehicle skidding when turning and avoiding obstacles.
  • the side slip prevention device in addition to the VDC device 500, other devices having a side slip prevention function such as an ESC device can be used.
  • This ESC device causes rear wheel skidding (oversteer) and front wheel skidding (understeer) when turning on slippery road surfaces and curves such as muddy roads, roads during and after snowfall, and avoiding obstacles.
  • brake control by automatic pressurization and engine torque control prevent skidding and stabilize the vehicle posture during turning.
  • the traveling road state determination unit 41 of the present embodiment acquires information related to the operation of the ABS device 300, the TSC device 400, or the VDC device 500, and when the number of operations or the operation frequency is less than a predetermined value, the vehicle V If it is determined that the traveling road is a paved road, information on the operation of the ABS device 300, the TSC device 400, or the VDC device 500 is acquired, and the number of operations or the operation frequency is equal to or greater than a predetermined value, the vehicle V It is determined that the travel path on which the vehicle travels is an unpaved road.
  • the state of the traveling path is estimated based on the operation information of the ABS device 300, the TSC device 400, or the VDC device 500 that controls the vehicle when the posture of the vehicle is disturbed, and further attached to the lens 11. Since the property and behavior of the foreign object can be predicted, the foreign object detection process and the three-dimensional object detection process can be appropriately performed.
  • the current position and the travel path of the host vehicle V are specified by the navigation device 200, and the travel path of the host vehicle V is a paved road by referring to the road information included in the map information included in the navigation device 200. It can be judged whether it is a non-paved road.
  • the map information accessible by the navigation device 200 according to the present embodiment is associated with road attribute information indicating whether each road is a paved road or an unpaved road.
  • the said road attribute information can also be acquired via the communication apparatus 201 with which the navigation apparatus 200 is provided.
  • the control unit 39 of this embodiment controls both the three-dimensional object detection process and the foreign object detection process.
  • the control unit 39 according to the present embodiment that detects the other vehicle VX based on the difference waveform information is the next time when the foreign object detection unit 38 determines that “the foreign object attached to the lens has been detected” in the previous process.
  • the other vehicle VX In order to suppress the determination that the three-dimensional object detected from the image of the predetermined area including the pixel corresponding to the maximum value of the differential waveform information generated at the second timing is the other vehicle VX. Generate instructions.
  • control unit 39 of the present embodiment that detects the other vehicle VX based on the edge information, when the foreign object detection unit 38 determines that “the foreign object attached to the lens has been detected” in the previous process. In the next processing, it is determined that the three-dimensional object detected from the image of the predetermined area including the pixel corresponding to the maximum edge length of the edge information generated at the second timing is the other vehicle VX. Generate control instructions to suppress. Each control command is sent to any one or more of the three-dimensional object detection units 33 and 37, the three-dimensional object determination unit 34, the foreign object detection unit 38, or the control unit 39 that is itself, and is executed in each unit. The control command may be incorporated in advance in each processing program, or may be sent to each unit by the control unit 39 during execution.
  • the control unit 39 determines that the travel path on which the vehicle V travels is a paved road by the travel path state determination unit 41. , It is promoted that the image including the pixel corresponding to the “evaluation target value” is determined to be an image caused by the foreign matter attached to the lens 11.
  • the control unit 39 of the embodiment detects a three-dimensional object using edge information
  • the travel path state determination unit 41 determines that the travel path on which the host vehicle V travels is a paved road.
  • the image including the pixel corresponding to the “evaluation edge length” is determined to be an image caused by the foreign matter attached to the lens 11.
  • the foreign matter adhering to the lens 11 is predicted to be a foreign matter having high fluidity such as raindrops or washing water, and the fast movement thereof. In response to this, the response of the foreign object detection performed next time is improved.
  • the foreign matter adhering to the lens has a high fluidity such as rain water or washing water, and the speed on the lens is high.
  • the traveling path when the foreign object is detected is a paved road. If it is determined that the foreign matter is detected, control is performed so that foreign matter is easily detected, so that water droplets or the like moving at a high speed on the lens can be continuously tracked and detected.
  • the three-dimensional object detection device 1 that detects the other vehicle VX traveling in the adjacent lane adjacent to the traveling lane of the host vehicle V with high accuracy can be provided.
  • the control unit 39 widens the range of the cutoff / attenuation frequency of the low-pass filter used by the foreign object detection unit 38, and the travel path state
  • the determination unit 41 determines that the travel path on which the vehicle V travels is an unpaved road
  • the bandpass filter cutoff / attenuation frequency range used by the foreign object detection unit 38 is maintained or narrowed.
  • the control unit 39 increases the limit change rate of the change rate limiter used by the foreign object detection unit 38 and travels on which the host vehicle V travels.
  • the limit change rate of the change rate limiter is maintained or reduced.
  • the difference waveform information can be further smoothed, small local maximum values that can be judged as noise are removed, and local maximum values that exhibit relatively large changes are accommodated. It is possible to extract the characteristics of the image information.
  • the maximum value of the differential waveform information or the edge information resulting from the presence of the foreign matter attached to the lens 11 can be made obvious, and the feature of the image information corresponding to the foreign matter can be easily extracted. That is, it becomes easier to detect an image caused by a foreign object, and control for determining that the image is a foreign object is promoted.
  • FIGS. 32 to 35 is the current three-dimensional detection process performed using the result of the previous process after the previous three-dimensional object detection process.
  • the foreign object detection unit 38 detects the difference waveform information of the left and right detection areas A1, A2 generated by the three-dimensional object detection unit 337 or the left and right detection areas A1, generated by the three-dimensional object detection unit 37. Based on the edge information of A2, “whether or not a foreign substance is attached to the lens 11” is detected.
  • steps S 71 and 76 are processes for updating control of the cutoff / attenuation frequency of the bandpass filter and the limit change rate of the change rate limiter in the next foreign object detection process.
  • step S71 the traveling path determination unit 41 determines whether the host vehicle V is traveling on a paved road or a maintenance road. An example of this determination process is shown in FIG.
  • step S101 the travel path determination unit 41 determines whether or not a white line can be extracted from the captured image acquired by the camera 10. If a white line is extracted, the process proceeds to step S102. If a white line is not extracted, the process proceeds to step S105, and the vehicle V is covered with a non-paved road, a non-maintenance road, snow and mud. Determine that you are driving on the road.
  • step S102 the traveling path determination unit 41 evaluates the variation in the wheel speed of each wheel included in the vehicle V. If the wheel speed variation is less than the predetermined value, the process proceeds to step S103. If the wheel speed variation is greater than or equal to the predetermined value, the process proceeds to step S105, and the vehicle V is a non-paved road, a non-maintenance road, Judged that the vehicle is traveling on a road covered with snow or mud.
  • step S103 the travel path determination unit 41 evaluates the number of operations or the operation frequency of the ABS device 300, the TCS device 400, or the VDC device 500 included in the vehicle V. If the number of operation times or the operation frequency of each device is less than the predetermined value, the process proceeds to step S104, and the vehicle V is on-road (running on paved roads, maintenance roads, roads that are not covered with snow or mud). Is determined). On the other hand, if the number of operation times or the operation frequency of each device is greater than or equal to a predetermined value in step S103, the process proceeds to step S105, and the host vehicle V is off-road (on a non-paved road, a non-maintenance road, snow or mud) Is driving on a covered road).
  • steps S101, S102, and S103 can be executed by combining any one or more processes or two or more processes.
  • step S71 if it is determined in step S71 that the host vehicle V is traveling on a paved road, the process proceeds to step S74, where the cutoff / attenuation frequency of the bandpass filter used for foreign object detection is increased, and further, step S75. Then, the limit change rate of the change rate limiter used for foreign object detection is increased.
  • step S71 if it is determined in step S71 that the host vehicle V is traveling on a non-paved road, the process proceeds to step S72, where the cutoff / attenuation frequency of the bandpass filter used for foreign object detection is maintained or narrowed. Proceeding to S73, the limit change rate of the change rate limiter used for foreign object detection is maintained or reduced.
  • the band pass filter with the cutoff / attenuation frequency changed and the change rate limiter with the limited change rate changed are used in the next foreign object detection process.
  • step S76 the control unit 39 masks the image information (difference waveform information or edge information) of the part where the foreign matter is attached.
  • step S77 the control unit 39 determines whether or not the area of the masked portion is greater than or equal to a predetermined value. When the area of the masked portion is equal to or larger than the predetermined value, the process proceeds to step S78, and the three-dimensional object detection process is stopped. Or it progresses to step S65 and it determines with the other vehicles VX not existing in detection area
  • step S62 a solid object detection process is executed based on the difference waveform information or the edge information.
  • This three-dimensional object detection processing is performed according to the above-described processing using the difference waveform information of FIGS. 11 and 12 by the three-dimensional object detection unit 33 or the processing using the edge information of FIGS. 17 and 18 by the three-dimensional object detection unit 37. Is called.
  • step 63 when the three-dimensional object is detected in the detection areas A1, A2 by the three-dimensional object detection units 33, 37, the process proceeds to step S64, and it is determined that the detected three-dimensional object is the other vehicle VX.
  • step S65 it is determined that no other vehicle VX exists in the detection areas A1 and A2.
  • FIG. 34 shows another processing example. If it is determined in step 61 that “foreign matter is attached to the lens 11”, the control unit 39 proceeds to step S 80, and the threshold value p and the difference waveform relating to the difference between the pixel values when generating the difference waveform information. One or more of the first threshold value ⁇ used when judging the three-dimensional object from the information, the threshold value ⁇ when generating the edge information, and the second threshold value ⁇ used when judging the three-dimensional object from the edge information are set higher. A control command to that effect is sent to the three-dimensional object detection units 33 and 37. As described above, the first threshold value ⁇ is used to determine the peak of the differential waveform DW t in step S7 of FIG.
  • the threshold value ⁇ is a threshold value for determining a value (edge line length) obtained by normalizing the sum of the continuity c of the attribute of each attention point Pa in step S29 in FIG. 17, and the second threshold value ⁇ is illustrated in FIG. This is a threshold for evaluating the amount of edge lines in step 34.
  • step S 81 when it is determined in step 61 that “foreign matter is attached to the lens 11”, the control unit 39 proceeds to step S 81 and performs predetermined processing on the difference image of the bird's-eye view image.
  • the value obtained by counting the number of pixels indicating a predetermined difference on the difference image of the bird's-eye view image and performing frequency distribution is the value on the vertical axis of the difference waveform DW t generated in step S5 of FIG.
  • step S52 a control command for outputting the detected amount of edge information low is output to the three-dimensional object detection unit 37.
  • the detected amount of edge information is a value (edge line length) obtained by normalizing the sum of the continuity c of the attribute of each attention point Pa in step S29 in FIG. 17, or the edge line in step 34 in FIG. Amount.
  • the control unit 39 can determine that the image of the foreign object may be erroneously detected as a three-dimensional object. Is output to the three-dimensional object detection unit 37 as a normalized value of the sum of the continuity c of the attribute of each attention point Pa or a control command for changing the amount of edge lines to be low.
  • the three-dimensional object detection device 1 of the present embodiment configured and acting as described above has the following effects.
  • the traveling path when the foreign object is detected is paved.
  • control is performed so that foreign matter is easily detected, so that it is possible to continuously track and detect a water droplet or the like moving at a high speed on the lens.
  • the three-dimensional object detection device 1 that detects the other vehicle VX traveling in the adjacent lane adjacent to the traveling lane of the host vehicle V with high accuracy can be provided.
  • the difference waveform information can be further smoothed, a small maximum value that can be determined as noise is removed, and a maximum showing a relatively large change.
  • the feature of the image information according to the value can be extracted.
  • the maximum value of the differential waveform information or the edge information resulting from the presence of the foreign matter attached to the lens 11 can be made obvious, and the feature of the image information corresponding to the foreign matter can be easily extracted. That is, it becomes easier to detect an image caused by a foreign object, and control for determining that the image is a foreign object is promoted.
  • the state of the traveling road is estimated based on the operation information of the ABS device 300, the TSC device 400, or the VDC device 500 that controls the vehicle when the posture of the vehicle is disturbed, and the lens 11 Since the property and behavior of the foreign matter adhering to the surface can be predicted, the foreign matter detection process and the three-dimensional object detection process can be appropriately performed.
  • the detection accuracy of the other vehicle VX can be maintained by stopping the detection of the other vehicle VX when the area of the mask region is equal to or greater than a predetermined ratio of the areas of the detection regions A1 and A2.
  • the foreign object detection process when the “evaluation target value” is equal to or greater than a predetermined ratio of the first threshold value ⁇ , the foreign object detection process is promoted so that a determination result that it is a foreign object is obtained. Thereby, the probability of erroneously determining that the foreign object is the other vehicle VX can be reduced.
  • the “evaluation edge length” is equal to or greater than a predetermined ratio of the threshold ⁇ , the foreign object detection process is promoted so that a determination result that it is a foreign object is obtained. Thereby, the probability of erroneously determining that the foreign object is the other vehicle VX can be reduced.
  • the process of detecting the foreign matter attached to the lens 11 using the inverted waveform information has the same operations and effects as the process of detecting the foreign matter attached to the lens 11 using the differential waveform information described above. Variations can be applied.
  • the absolute value of the first score is set higher than the absolute value of the second score.
  • the value to be subtracted is set to a relatively small value in order to suppress the influence on the final result. As a result, the presence of foreign matter attached to the lens 11 can be accurately determined.
  • the camera 10 corresponds to an imaging unit according to the present invention
  • the lens 11 corresponds to a lens according to the present invention
  • the viewpoint conversion unit 31 corresponds to an image conversion unit according to the present invention
  • the object detection unit 33 corresponds to the three-dimensional object detection unit according to the present invention
  • the luminance difference calculation unit 35, the edge line detection unit 36, and the three-dimensional object detection unit 37 correspond to the three-dimensional object detection unit according to the present invention.
  • the object determination unit 34 corresponds to a three-dimensional object determination unit
  • the foreign object detection unit 38 corresponds to a foreign object detection unit
  • the travel path state determination unit 41 corresponds to a travel path state determination unit
  • the control unit 39 corresponds to a control unit. Equivalent to.
  • the ABS device 300 corresponds to a skid prevention device
  • the TSC device 400 corresponds to a slip prevention device
  • the VDC device 500 corresponds to a skid prevention device.
  • the “distribution information” in the present invention is such that the luminance difference is greater than or equal to a predetermined threshold in the direction in which the three-dimensional object falls when the viewpoint is converted to the bird's-eye view image on the bird's-eye view image obtained by the viewpoint conversion unit 31 (image conversion means). It is the information regarding the distribution of pixels.
  • the “distribution information” includes at least “difference waveform information” and “edge information” in the present invention.
  • the alignment unit 21 in the present embodiment aligns the positions of the bird's-eye view images at different times on the bird's-eye view, and obtains the aligned bird's-eye view image. This can be performed with accuracy according to the type and required detection accuracy. It may be a strict alignment process such as aligning positions based on the same time and the same position, or may be a loose alignment process that grasps the coordinates of each bird's-eye view image.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

　車両後方を撮像するカメラ１０と、画像情報に基づいて立体物を検出する立体物検出部３３，３７と、検出された立体物が他車両ＶＸであるか否かを判断する立体物判断部３４と、第１のタイミングで生成された差分波形情報にバンドパスフィルタを用いた信号処理を行い、その極大値に基づく基準値と、その後の第２のタイミングに生成された差分波形情報の極大値に基づく評価対象値との差分が判断範囲以内である回数に基づいて、第２のタイミングにおいて生成された差分波形情報の極大値に対応する画素を含む画像はレンズに付着した異物に起因する画像であると判断する異物検出部３８と、異物が検出された場合には、その異物が他車両ＶＸであると判断されることが抑制されるように各手段に制御命令を出力する制御部３９と、を備える。

Description

立体物検出装置、立体物検出方法及び異物検出装置
　本発明は、立体物検出装置、立体物検出方法及び異物検出装置に関するものである。
　本出願は、２０１２年７月２７日に出願された日本国特許出願の特願２０１２―１６６４９７及び特願２０１２―１６６４９８に基づく優先権を主張するものであり、文献の参照による組み込みが認められる指定国については、上記の出願に記載された内容を参照により本出願に組み込み、本出願の記載の一部とする。
　車両周囲を撮像した画像を俯瞰変換し、時間的に異なる二つの俯瞰変換画像の差分を用いて障害物を検出する障害物検出装置が知られている（特許文献１参照）。
特開２００８－２２７６４６号公報
　車両後方を撮像した画像を用いて自車両の走行車線の隣の隣接車線を走行する他車両を障害物として検出する際に、カメラのレンズに汚れや雨水などの異物が付着している場合には、この異物の像を誤って隣接車線を走行する他車両の像として誤認するという問題がある。
　本発明が解決しようとする課題は、カメラのレンズに付着した異物を高い精度で検出する異物検出装置及びカメラのレンズに付着した異物の像を他車両の像として誤検出することを防止して自車両の走行車線の隣の隣接車線を走行する他車両を高い精度で検出する立体物検出装置及び立体物検出方法を提供することである。
　本発明は、カメラのレンズに汚れなどの異物が付着している状態が検出された場合には、検出される立体物が他車両であると判断されることが抑制されるように立体物を判断するための各処理を制御することにより、上記課題を解決する。
　本発明は、レンズに付着した異物を検出した場合には、自車両の走行車線の隣の隣接車線を走行する他車両が検出された旨の判断結果が出力されにくくするように制御するので、レンズに付着した異物の像を自車両の走行車線の隣の隣接車線を走行する他車両の像として誤検出することを防止することができる。この結果、カメラのレンズに付着した異物を高い精度で検出する異物検出装置及び自車両の走行車線の隣の隣接車線を走行する他車両を、高い精度で検出する立体物検出装置を提供することができる。
本発明の立体物検出装置、異物検出装置を適用した一実施の形態に係る車両の概略構成図である。 図１の車両の走行状態を示す平面図である。 図１の計算機の詳細を示すブロック図である。 図３の位置合わせ部の処理の概要を説明するための図であり、（ａ）は車両の移動状態を示す平面図、（ｂ）は位置合わせの概要を示す画像である。 図３の立体物検出部による差分波形の生成の様子を示す概略図である。 図３の立体物検出部によって分割される小領域を示す図である。 図３の立体物検出部により得られるヒストグラムの一例を示す図である。 図３の立体物検出部による重み付けを示す図である。 図３のスミア検出部による処理及びそれによる差分波形の算出処理を示す図である。 図３の立体物検出部により得られるヒストグラムの他の例を示す図である。 図３の視点変換部、位置合わせ部、スミア検出部及び立体物検出部により実行される差分波形情報を用いた立体物検出方法を示すフローチャート（その１）である。 図３の視点変換部、位置合わせ部、スミア検出部及び立体物検出部により実行される差分波形情報を用いた立体物検出方法を示すフローチャート（その２）である。 図１の車両の走行状態を示す図（エッジ情報による立体物検出）であり、（ａ）は検出領域等の位置関係を示す平面図、（ｂ）は実空間における検出領域等の位置関係を示す斜視図である。 図３の輝度差算出部の動作を説明するための図であり、（ａ）は鳥瞰視画像における注目線、参照線、注目点及び参照点の位置関係を示す図、（ｂ）は実空間における注目線、参照線、注目点及び参照点の位置関係を示す図である。 図３の輝度差算出部の詳細な動作を説明するための図であり、（ａ）は鳥瞰視画像における検出領域を示す図、（ｂ）は鳥瞰視画像における注目線、参照線、注目点及び参照点の位置関係を示す図である。 エッジ線とエッジ線上の輝度分布を示す図であり、（ａ）は検出領域に立体物（車両）が存在している場合の輝度分布を示す図、（ｂ）は検出領域に立体物が存在しない場合の輝度分布を示す図である。 図３の視点変換部、輝度差算出部、エッジ線検出部及び立体物検出部により実行されるエッジ情報を用いた立体物検出方法を示すフローチャート（その１）である。 図３の視点変換部、輝度差算出部、エッジ線検出部及び立体物検出部により実行されるエッジ情報を用いた立体物検出方法を示すフローチャート（その２）である。 エッジ検出動作を説明するための画像例を示す図である。 レンズに異物が付着した場合の撮像画像の一例を示す図である。 レンズに異物が付着した場合の検出領域の状態の一例を示す図である。 検出領域に車両が存在する場合のエッジ情報の一例を説明するための図である。 レンズに異物が付着した場合のエッジ情報の一例を説明するための図である。 エッジ情報を用いて、レンズに異物が付着しているか否かを判断する際の制御手順を示すフローチャートである。 エッジの長さに基づいて、レンズに異物が付着しているか否かを判断する手法を説明するための第１の図である。 エッジの長さに基づいて、レンズに異物が付着しているか否かを判断する手法を説明するための第２の図である。 エッジの反転回数に基づいて、レンズに異物が付着しているか否かを判断する手法を説明するための第１の図である。 エッジの反転回数に基づいて、レンズに異物が付着しているか否かを判断する手法を説明するための第２の図である。 差分波形情報を用いて、レンズに異物が付着しているか否かを判断する際の制御手順を示すフローチャートである。 レンズに異物が付着した状態を考慮した立体物判断の制御手順を示す第１のフローチャートである。 レンズに異物が付着した状態を考慮した立体物判断の制御手順を示す第２のフローチャートである。 レンズに異物が付着した状態を考慮した立体物判断の制御手順を示す第３のフローチャートである。 第２実施形態における、本発明の図１の計算機の詳細を示すブロック図である。 第２実施形態における、レンズに異物が付着した場合であって、異物の性状を考慮した立体物判断の制御手順を示す第１のフローチャートである。 第２実施形態における、異物の性状を判断する制御手順を示す第２のフローチャートである。 第２実施形態における、レンズに異物が付着した場合であって、異物の性状を考慮した立体物判断の制御手順を示す第２のフローチャートである。 第２実施形態における、レンズに異物が付着した状態を考慮した立体物判断の制御手順を示す第３のフローチャートである。
＜第１の実施形態＞
　図１は、本発明の異物検出装置１，立体物検出装置１を適用した一実施の形態に係る車両の概略構成図であり、本例の立体物検出装置１は、自車両Ｖの運転者が運転中に注意を払うべき他車両、例えば、自車両Ｖが車線変更する際に接触の可能性がある他車両を障害物として検出する装置である。図１の計算機３０は本発明の異物検出装置１，立体物検出装置１として機能する。本例の異物検出装置１は、車載カメラのレンズに付着した汚れなどの異物を検出する。本例の立体物検出装置１は自車両が走行する車線の隣の隣接車線（以下、単に隣接車線ともいう）を走行する他車両を検出する。また、本例の立体物検出装置１は、検出した他車両の移動距離、移動速度を算出することができる。このため、以下説明する一例は、立体物検出装置１を自車両Ｖに搭載し、自車両周囲において検出される立体物のうち、自車両Ｖが走行する車線の隣の隣接車線を走行する他車両を検出する例を示すこととする。同図に示すように、本例の立体物検出装置１は、カメラ１０と、車速センサ２０と、計算機３０とを備える。
　カメラ１０は、図１に示すように自車両Ｖの後方における高さｈの箇所において、光軸が水平から下向きに角度θとなるように自車両Ｖに取り付けられている。カメラ１０は、この位置から自車両Ｖの周囲環境のうちの所定領域を撮像する。カメラ１０は、像を結像させるレンズ１１を備える。本実施形態において自車両Ｖの後方の立体物を検出するために設けられるカメラ１は一つであるが、他の用途のため、例えば車両周囲の画像を取得するための他のカメラを設けることもできる。車速センサ２０は、自車両Ｖの走行速度を検出するものであって、例えば車輪に回転数を検知する車輪速センサで検出した車輪速から車速度を算出する。計算機３０は、車両後方の立体物を検出するとともに、本例ではその立体物について移動距離及び移動速度を算出する。
　図２は、図１の自車両Ｖの走行状態を示す平面図である。同図に示すように、カメラ１０は、所定の画角ａで車両後方側を撮像する。このとき、カメラ１０の画角ａは、自車両Ｖが走行する車線に加えて、その左右の車線についても撮像可能な画角に設定されている。撮像可能な領域には、自車両Ｖの後方であり、自車両Ｖの走行車線の左右隣の隣接車線上の検出対象領域Ａ１，Ａ２を含む。
　図３は、図１の計算機３０の詳細を示すブロック図である。なお、図３においては、接続関係を明確とするためにカメラ１０、車速センサ２０についても図示する。
　図３に示すように、計算機３０は、視点変換部３１と、位置合わせ部３２と、立体物検出部３３と、立体物判断部３４と、異物検出部３８と、制御部３９と、スミア検出部４０とを備える。本実施形態の計算部３０は、差分波形情報を利用した立体物の検出ブロックに関する構成である。本実施形態の計算部３０は、エッジ情報を利用した立体物の検出ブロックに関する構成とすることもできる。この場合は、図３に示す構成のうち、位置合わせ部３２と、立体物検出部３３から構成されるブロック構成Ａを、破線で囲んだ輝度差算出部３５と、エッジ線検出部３６と、立体物検出部３７から構成されるブロック構成Ｂと置き換えて構成することができる。もちろん、ブロック構成Ａ及びブロック構成Ｂの両方を備え、差分波形情報を利用した立体物の検出を行うとともに、エッジ情報を利用した立体物の検出も行うことができるようにすることもできる。ブロック構成Ａ及びブロック構成Ｂを備える場合には、例えば明るさなどの環境要因に応じてブロック構成Ａ又はブロック構成Ｂのいずれかを動作させることができる。以下、各構成について説明する。
《差分波形情報による立体物の検出》
　本実施形態の立体物検出装置１は、車両後方を撮像する単眼のカメラ１により得られた画像情報に基づいて車両後方の右側検出領域又は左側検出領域に存在する立体物を検出する。
　視点変換部３１は、カメラ１０による撮像にて得られた所定領域の撮像画像データを入力し、入力した撮像画像データを鳥瞰視される状態の鳥瞰画像データに視点変換する。鳥瞰視される状態とは、上空から例えば鉛直下向きに見下ろす仮想カメラの視点から見た状態である。この視点変換は、例えば特開２００８－２１９０６３号公報に記載されるようにして実行することができる。撮像画像データを鳥瞰視画像データに視点変換するのは、立体物に特有の鉛直エッジは鳥瞰視画像データへの視点変換により特定の定点を通る直線群に変換されるという原理に基づき、これを利用すれば平面物と立体物とを識別できるからである。なお、視点変換部３１による画像変換処理の結果は、後述するエッジ情報による立体物の検出においても利用される。
　位置合わせ部３２は、視点変換部３１の視点変換により得られた鳥瞰画像データを順次入力し、入力した異なる時刻の鳥瞰画像データの位置を合わせる。図４は、位置合わせ部３２の処理の概要を説明するための図であり、（ａ）は自車両Ｖの移動状態を示す平面図、（ｂ）は位置合わせの概要を示す画像である。
　図４（ａ）に示すように、現時刻の自車両ＶがＶ１に位置し、一時刻前の自車両ＶがＶ２に位置していたとする。また、自車両Ｖの後側方向に他車両ＶＸが位置して自車両Ｖと並走状態にあり、現時刻の他車両ＶＸがＶ３に位置し、一時刻前の他車両ＶＸがＶ４に位置していたとする。さらに、自車両Ｖは、一時刻で距離ｄ移動したものとする。なお、一時刻前とは、現時刻から予め定められた時間（例えば１制御周期）だけ過去の時刻であってもよいし、任意の時間だけ過去の時刻であってもよい。
　このような状態において、現時刻における鳥瞰画像ＰＢｔは図４（ｂ）に示すようになる。この鳥瞰画像ＰＢｔでは、路面上に描かれる白線については矩形状となり、比較的正確に平面視された状態となるが、位置Ｖ３にある他車両ＶＸの位置については倒れ込みが発生する。また、一時刻前における鳥瞰画像ＰＢｔ－１についても同様に、路面上に描かれる白線については矩形状となり、比較的正確に平面視された状態となるが、位置Ｖ４にある他車両ＶＸについては倒れ込みが発生する。既述したとおり、立体物の鉛直エッジ（厳密な意味の鉛直エッジ以外にも路面から三次元空間に立ち上がったエッジを含む）は、鳥瞰視画像データへの視点変換処理によって倒れ込み方向に沿った直線群として現れるのに対し、路面上の平面画像は鉛直エッジを含まないので、視点変換してもそのような倒れ込みが生じないからである。
　位置合わせ部３２は、上記のような鳥瞰画像ＰＢｔ，ＰＢｔ－１の位置合わせをデータ上で実行する。この際、位置合わせ部３２は、一時刻前における鳥瞰画像ＰＢｔ－１をオフセットさせ、現時刻における鳥瞰画像ＰＢｔと位置を一致させる。図４（ｂ）の左側の画像と中央の画像は、移動距離ｄ’だけオフセットした状態を示す。このオフセット量ｄ’は、図４（ａ）に示した自車両Ｖの実際の移動距離ｄに対応する鳥瞰視画像データ上の移動量であり、車速センサ２０からの信号と一時刻前から現時刻までの時間に基づいて決定される。
　また、位置合わせ後において位置合わせ部３２は、鳥瞰画像ＰＢｔ，ＰＢｔ－１の差分をとり、差分画像ＰＤｔのデータを生成する。ここで、差分画像ＰＤｔの画素値は、鳥瞰画像ＰＢｔ，ＰＢｔ－１の画素値の差を絶対値化したものでもよいし、照度環境の変化に対応するために当該絶対値が所定の閾値ｐを超えたときに「１」とし、超えないときに「０」としてもよい。図４（ｂ）の右側の画像が、差分画像ＰＤｔである。この閾値ｐは、予め設定しておいてもよいし、後述する制御部３９が生成する制御命令に従い変更してもよい。
　図３に戻り、立体物検出部３３は、図４（ｂ）に示す差分画像ＰＤｔのデータに基づいて立体物を検出する。この際、本例の立体物検出部３３は、実空間上における立体物の移動距離についても算出する。立体物の検出及び移動距離の算出にあたり、立体物検出部３３は、まず差分波形を生成する。なお、立体物の時間あたりの移動距離は、立体物の移動速度の算出に用いられる。そして、立体物の移動速度は、立体物が車両であるか否かの判断に用いることができる。
　差分波形の生成にあたって本実施形態の立体物検出部３３は、差分画像ＰＤｔにおいて検出領域を設定する。本例の立体物検出装置１は、自車両Ｖの運転手が注意を払う他車両ＶＸであり、特に、自車両Ｖが車線変更する際に接触の可能性がある自車両Ｖが走行する車線の隣の車線を走行する他車両ＶＸを検出対象物として検出する。このため、画像情報に基づいて立体物を検出する本例では、カメラ１により得られた画像のうち、自車両Ｖの右側及び左側に二つの検出領域を設定する。具体的に、本実施形態では、図２に示すように自車両Ｖの後方の左側及び右側に矩形状の検出領域Ａ１，Ａ２を設定する。この検出領域Ａ１，Ａ２において検出された他車両ＶＸは、自車両Ｖが走行する車線の隣の隣接車線を走行する障害物として検出される。なお、このような検出領域Ａ１，Ａ２は、自車両Ｖに対する相対位置から設定してもよいし、白線の位置を基準に設定してもよい。白線の位置を基準に設定する場合に、移動距離検出装置１は、例えば既存の白線認識技術等を利用するとよい。
　また、立体物検出部３３は、設定した検出領域Ａ１，Ａ２の自車両Ｖ側における辺（走行方向に沿う辺）を接地線Ｌ１，Ｌ２（図２）として認識する。一般に接地線は立体物が地面に接触する線を意味するが、本実施形態では地面に接触する線でなく上記の如くに設定される。なおこの場合であっても、経験上、本実施形態に係る接地線と、本来の他車両ＶＸの位置から求められる接地線との差は大きくなり過ぎず、実用上は問題が無い。
　図５は、図３に示す立体物検出部３３による差分波形の生成の様子を示す概略図である。図５に示すように、立体物検出部３３は、位置合わせ部３２で算出した差分画像ＰＤｔ（図４（ｂ）の右図）のうち検出領域Ａ１，Ａ２に相当する部分から、差分波形ＤＷｔを生成する。この際、立体物検出部３３は、視点変換により立体物が倒れ込む方向に沿って、差分波形ＤＷｔを生成する。なお、図５に示す例では、便宜上検出領域Ａ１のみを用いて説明するが、検出領域Ａ２についても同様の手順で差分波形ＤＷｔを生成する。
　具体的に説明すると、立体物検出部３３は、差分画像ＤＷｔのデータ上において立体物が倒れ込む方向上の線Ｌａを定義する。そして、立体物検出部３３は、線Ｌａ上において所定の差分を示す差分画素ＤＰの数をカウントする。ここで、所定の差分を示す差分画素ＤＰは、差分画像ＤＷｔの画素値が鳥瞰画像ＰＢｔ，ＰＢｔ－１の画素値の差を絶対値化したものである場合は、所定の閾値を超える画素であり、差分画像ＤＷｔの画素値が「０」「１」で表現されている場合は、「１」を示す画素である。
　立体物検出部３３は、差分画素ＤＰの数をカウントした後、線Ｌａと接地線Ｌ１との交点ＣＰを求める。そして、立体物検出部３３は、交点ＣＰとカウント数とを対応付け、交点ＣＰの位置に基づいて横軸位置、すなわち図５右図の上下方向軸における位置を決定するとともに、カウント数から縦軸位置、すなわち図５右図の左右方向軸における位置を決定し、交点ＣＰにおけるカウント数としてプロットする。
　以下同様に、立体物検出部３３は、立体物が倒れ込む方向上の線Ｌｂ，Ｌｃ…を定義して、差分画素ＤＰの数をカウントし、各交点ＣＰの位置に基づいて横軸位置を決定し、カウント数（差分画素ＤＰの数）から縦軸位置を決定しプロットする。立体物検出部３３は、上記を順次繰り返して度数分布化することで、図５右図に示すように差分波形ＤＷｔを生成する。
　なお、図５左図に示すように、立体物が倒れ込む方向上の線Ｌａと線Ｌｂとは検出領域Ａ１と重複する距離が異なっている。このため、検出領域Ａ１が差分画素ＤＰで満たされているとすると、線Ｌｂ上よりも線Ｌａ上の方が差分画素ＤＰの数が多くなる。このため、立体物検出部３３は、差分画素ＤＰのカウント数から縦軸位置を決定する場合に、立体物が倒れ込む方向上の線Ｌａ，Ｌｂと検出領域Ａ１とが重複する距離に基づいて正規化する。具体例を挙げると、図５左図において線Ｌａ上の差分画素ＤＰは６つあり、線Ｌｂ上の差分画素ＤＰは５つである。このため、図５においてカウント数から縦軸位置を決定するにあたり、立体物検出部３３は、カウント数を重複距離で除算するなどして正規化する。これにより、差分波形ＤＷｔに示すように、立体物が倒れ込む方向上の線Ｌａ，Ｌｂに対応する差分波形ＤＷｔの値はほぼ同じとなっている。
　差分波形ＤＷｔの生成後、立体物検出部３３は一時刻前の差分波形ＤＷｔ－１との対比により移動距離を算出する。すなわち、立体物検出部３３は、差分波形ＤＷｔ，ＤＷｔ－１の時間変化から移動距離を算出する。
　詳細に説明すると、立体物検出部３３は、図６に示すように差分波形ＤＷｔを複数の小領域ＤＷｔ１～ＤＷｔｎ（ｎは２以上の任意の整数）に分割する。図６は、立体物検出部３３によって分割される小領域ＤＷｔ１～ＤＷｔｎを示す図である。小領域ＤＷｔ１～ＤＷｔｎは、例えば図６に示すように、互いに重複するようにして分割される。例えば小領域ＤＷｔ１と小領域ＤＷｔ２とは重複し、小領域ＤＷｔ２と小領域ＤＷｔ３とは重複する。
　次いで、立体物検出部３３は、小領域ＤＷｔ１～ＤＷｔｎ毎にオフセット量（差分波形の横軸方向（図６の上下方向）の移動量）を求める。ここで、オフセット量は、一時刻前における差分波形ＤＷｔ－１と現時刻における差分波形ＤＷｔとの差（横軸方向の距離）から求められる。この際、立体物検出部３３は、小領域ＤＷｔ１～ＤＷｔｎ毎に、一時刻前における差分波形ＤＷｔ－１を横軸方向に移動させた際に、現時刻における差分波形ＤＷｔとの誤差が最小となる位置（横軸方向の位置）を判定し、差分波形ＤＷｔ－１の元の位置と誤差が最小となる位置との横軸方向の移動量をオフセット量として求める。そして、立体物検出部３３は、小領域ＤＷｔ１～ＤＷｔｎ毎に求めたオフセット量をカウントしてヒストグラム化する。
　図７は、立体物検出部３３により得られるヒストグラムの一例を示す図である。図７に示すように、各小領域ＤＷｔ１～ＤＷｔｎと一時刻前における差分波形ＤＷｔ－１との誤差が最小となる移動量であるオフセット量には、多少のバラつきが生じる。このため、立体物検出部３３は、バラつきを含んだオフセット量をヒストグラム化し、ヒストグラムから移動距離を算出する。この際、立体物検出部３３は、ヒストグラムの極大値から立体物の移動距離を算出する。すなわち、図７に示す例において立体物検出部３３は、ヒストグラムの極大値を示すオフセット量を移動距離τ＊と算出する。なおこの移動距離τ＊は、自車両Ｖに対する他車両ＶＸの相対移動距離である。このため、立体物検出部３３は、絶対移動距離を算出する場合には、得られた移動距離τ＊と車速センサ２０からの信号とに基づいて、絶対移動距離を算出することとなる。
　なお、ヒストグラム化にあたり立体物検出部３３は、複数の小領域ＤＷｔ１～ＤＷｔｎ毎に重み付けをし、小領域ＤＷｔ１～ＤＷｔｎ毎に求めたオフセット量を重みに応じてカウントしてヒストグラム化してもよい。図８は、立体物検出部３３による重み付けを示す図である。
　図８に示すように、小領域ＤＷｍ（ｍは１以上ｎ－１以下の整数）は平坦となっている。すなわち、小領域ＤＷｍは所定の差分を示す画素数のカウントの最大値と最小値との差が小さくなっている。立体物検出部３３は、このような小領域ＤＷｍについて重みを小さくする。平坦な小領域ＤＷｍについては、特徴がなくオフセット量の算出にあたり誤差が大きくなる可能性が高いからである。
　一方、小領域ＤＷｍ＋ｋ（ｋはｎ－ｍ以下の整数）は起伏に富んでいる。すなわち、小領域ＤＷｍは所定の差分を示す画素数のカウントの最大値と最小値との差が大きくなっている。立体物検出部３３は、このような小領域ＤＷｍについて重みを大きくする。起伏に富む小領域ＤＷｍ＋ｋについては、特徴的でありオフセット量の算出を正確に行える可能性が高いからである。このように重み付けすることにより、移動距離の算出精度を向上することができる。
　なお、移動距離の算出精度を向上するために上記実施形態では差分波形ＤＷｔを複数の小領域ＤＷｔ１～ＤＷｔｎに分割したが、移動距離の算出精度がさほど要求されない場合は小領域ＤＷｔ１～ＤＷｔｎに分割しなくてもよい。この場合に、立体物検出部３３は、差分波形ＤＷｔと差分波形ＤＷｔ－１との誤差が最小となるときの差分波形ＤＷｔのオフセット量から移動距離を算出することとなる。すなわち、一時刻前における差分波形ＤＷｔ－１と現時刻における差分波形ＤＷｔとのオフセット量を求める方法は上記内容に限定されない。
　図３に戻り、計算機３０はスミア検出部４０を備える。スミア検出部４０は、カメラ１０による撮像によって得られた撮像画像のデータからスミアの発生領域を検出する。なお、スミアはＣＣＤイメージセンサ等に生じる白飛び現象であることから、こうしたスミアが生じないＣＭＯＳイメージセンサ等を用いたカメラ１０を採用する場合にはスミア検出部４０を省略してもよい。
　図９は、スミア検出部４０による処理及びそれによる差分波形ＤＷｔの算出処理を説明するための画像図である。まずスミア検出部４０にスミアＳが存在する撮像画像Ｐのデータが入力されたとする。このとき、スミア検出部４０は、撮像画像ＰからスミアＳを検出する。スミアＳの検出方法は様々であるが、例えば一般的なＣＣＤ（Charge-Coupled Device）カメラの場合、光源から画像下方向にだけスミアＳが発生する。このため、本実施形態では画像下側から画像上方に向かって所定値以上の輝度値を持ち、且つ、縦方向に連続した領域を検索し、これをスミアＳの発生領域と特定する。
　また、スミア検出部４０は、スミアＳの発生箇所について画素値を「１」とし、それ以外の箇所を「０」とするスミア画像ＳＰのデータを生成する。生成後、スミア検出部４０はスミア画像ＳＰのデータを視点変換部３１に送信する。また、スミア画像ＳＰのデータを入力した視点変換部３１は、このデータを鳥瞰視される状態に視点変換する。これにより、視点変換部３１はスミア鳥瞰画像ＳＢｔのデータを生成する。生成後、視点変換部３１はスミア鳥瞰画像ＳＢｔのデータを位置合わせ部３３に送信する。また、視点変換部３１は一時刻前のスミア鳥瞰画像ＳＢｔ－１のデータを位置合わせ部３３に送信する。
　位置合わせ部３２は、スミア鳥瞰画像ＳＢｔ，ＳＢｔ－１の位置合わせをデータ上で実行する。具体的な位置合わせについては、鳥瞰画像ＰＢｔ，ＰＢｔ－１の位置合わせをデータ上で実行する場合と同様である。また、位置合わせ後、位置合わせ部３２は、各スミア鳥瞰画像ＳＢｔ，ＳＢｔ－１のスミアＳの発生領域について論理和をとる。これにより、位置合わせ部３２は、マスク画像ＭＰのデータを生成する。生成後、位置合わせ部３２は、マスク画像ＭＰのデータを立体物検出部３３に送信する。
　立体物検出部３３は、マスク画像ＭＰのうちスミアＳの発生領域に該当する箇所について、度数分布のカウント数をゼロとする。すなわち、図９に示すような差分波形ＤＷｔが生成されていた場合に、立体物検出部３３は、スミアＳによるカウント数ＳＣをゼロとし、補正された差分波形ＤＷｔ’を生成することとなる。
　なお、本実施形態において立体物検出部３３は、車両Ｖ（カメラ１０）の移動速度を求め、求めた移動速度から静止物についてのオフセット量を求める。静止物のオフセット量を求めた後、立体物検出部３３は、ヒストグラムの極大値のうち静止物に該当するオフセット量を無視したうえで、立体物の移動距離を算出する。
　図１０は、立体物検出部３３により得られるヒストグラムの他例を示す図である。カメラ１０の画角内に他車両ＶＸの他に静止物が存在する場合に、得られるヒストグラムには２つの極大値τ１，τ２が現れる。この場合、２つの極大値τ１，τ２のうち、いずれか一方は静止物のオフセット量である。このため、立体物検出部３３は、移動速度から静止物についてのオフセット量を求め、そのオフセット量に該当する極大値について無視し、残り一方の極大値を採用して立体物の移動距離を算出する。
　なお、静止物に該当するオフセット量を無視したとしても、極大値が複数存在する場合、カメラ１０の画角内に他車両ＶＸが複数台存在すると想定される。しかし、検出領域Ａ１，Ａ２内に複数の他車両ＶＸが存在することは極めて稀である。このため、立体物検出部３３は、移動距離の算出を中止する。
　次に差分波形情報による立体物検出手順を説明する。図１１及び図１２は、本実施形態の立体物検出手順を示すフローチャートである。図１１に示すように、まず、計算機３０はカメラ１０による撮像画像Ｐのデータを入力し、スミア検出部４０によりスミア画像ＳＰを生成する（Ｓ１）。次いで、視点変換部３１は、カメラ１０からの撮像画像Ｐのデータから鳥瞰画像ＰＢｔのデータを生成すると共に、スミア画像ＳＰのデータからスミア鳥瞰画像ＳＢｔのデータを生成する（Ｓ２）。
　そして、位置合わせ部３３は、鳥瞰画像ＰＢｔのデータと、一時刻前の鳥瞰画像ＰＢｔ－１のデータとを位置合わせすると共に、スミア鳥瞰画像ＳＢｔのデータと、一時刻前のスミア鳥瞰画像ＳＢｔ－１のデータとを位置合わせする（Ｓ３）。この位置合わせ後、位置合わせ部３３は、差分画像ＰＤｔのデータを生成すると共に、マスク画像ＭＰのデータを生成する（Ｓ４）。その後、立体物検出部３３は、差分画像ＰＤｔのデータと、一時刻前の差分画像ＰＤｔ－１のデータとから、差分波形ＤＷｔを生成する（Ｓ５）。差分波形ＤＷｔを生成後、立体物検出部３３は、差分波形ＤＷｔのうち、スミアＳの発生領域に該当するカウント数をゼロとし、スミアＳによる影響を抑制する（Ｓ６）。
　その後、立体物検出部３３は、差分波形ＤＷｔのピークが第１閾値α以上であるか否かを判断する（Ｓ７）。この第１閾値αは、予め設定しておき、図３に示す制御部３９の制御命令に従い変更することもできるが、その詳細については後述する。ここで、差分波形ＤＷｔのピークが第１閾値α以上でない場合、すなわち差分が殆どない場合には、撮像画像Ｐ内には立体物が存在しないと考えられる。このため、差分波形ＤＷｔのピークが第１閾値α以上でないと判断した場合には（Ｓ７：ＮＯ）、立体物検出部３３は、立体物が存在せず、障害物としての他車両ＶＸが存在しないと判断する（図１２：Ｓ１６）。そして、図１１及び図１２に示す処理を終了する。
　一方、差分波形ＤＷｔのピークが第１閾値α以上であると判断した場合には（Ｓ７：ＹＥＳ）、立体物検出部３３は、立体物が存在すると判断し、差分波形ＤＷｔを複数の小領域ＤＷｔ１～ＤＷｔｎに分割する（Ｓ８）。次いで、立体物検出部３３は、小領域ＤＷｔ１～ＤＷｔｎ毎に重み付けを行う（Ｓ９）。その後、立体物検出部３３は、小領域ＤＷｔ１～ＤＷｔｎ毎のオフセット量を算出し（Ｓ１０）、重みを加味してヒストグラムを生成する（Ｓ１１）。
　そして、立体物検出部３３は、ヒストグラムに基づいて自車両Ｖに対する立体物の移動距離である相対移動距離を算出する（Ｓ１２）。次に、立体物検出部３３は、相対移動距離から立体物の絶対移動速度を算出する（Ｓ１３）。このとき、立体物検出部３３は、相対移動距離を時間微分して相対移動速度を算出すると共に、車速センサ２０で検出された自車速を加算して、絶対移動速度を算出する。
　その後、立体物検出部３３は、立体物の絶対移動速度が１０ｋｍ／ｈ以上、且つ、立体物の自車両Ｖに対する相対移動速度が＋６０ｋｍ／ｈ以下であるか否かを判断する（Ｓ１４）。双方を満たす場合には（Ｓ１４：ＹＥＳ）、立体物検出部３３は、立体物が他車両ＶＸであると判断する（Ｓ１５）。そして、図１１及び図１２に示す処理を終了する。一方、いずれか一方でも満たさない場合には（Ｓ１４：ＮＯ）、立体物検出部３３は、他車両ＶＸが存在しないと判断する（Ｓ１６）。そして、図１１及び図１２に示す処理を終了する。
　なお、本実施形態では自車両Ｖの後側方を検出領域Ａ１，Ａ２とし、自車両Ｖが走行中に注意を払うべきである自車両の走行車線の隣を走行する隣接車線を走行する他車両ＶＸを検出すること、特に、自車両Ｖが車線変更した場合に接触する可能性がある否かに重点を置いている。自車両Ｖが車線変更した場合に、自車両の走行車線の隣の隣接車線を走行する他車両ＶＸと接触する可能性がある否かを判断するためである。このため、ステップＳ１４の処理が実行されている。すなわち、本実施形態にけるシステムを高速道路で作動させることを前提とすると、立体物の速度が１０ｋｍ／ｈ未満である場合、たとえ他車両ＶＸが存在したとしても、車線変更する際には自車両Ｖの遠く後方に位置するため問題となることが少ない。同様に、立体物の自車両Ｖに対する相対移動速度が＋６０ｋｍ／ｈを超える場合（すなわち、立体物が自車両Ｖの速度よりも６０ｋｍ／ｈより大きな速度で移動している場合）、車線変更する際には自車両Ｖの前方に移動しているため問題となることが少ない。このため、ステップＳ１４では車線変更の際に問題となる他車両ＶＸを判断しているともいえる。
　また、ステップＳ１４において立体物の絶対移動速度が１０ｋｍ／ｈ以上、且つ、立体物の自車両Ｖに対する相対移動速度が＋６０ｋｍ／ｈ以下であるかを判断することにより、以下の効果がある。例えば、カメラ１０の取り付け誤差によっては、静止物の絶対移動速度を数ｋｍ／ｈであると検出してしまう場合があり得る。よって、１０ｋｍ／ｈ以上であるかを判断することにより、静止物を他車両ＶＸであると判断してしまう可能性を低減することができる。また、ノイズによっては立体物の自車両Ｖに対する相対速度を＋６０ｋｍ／ｈを超える速度に検出してしまうことがあり得る。よって、相対速度が＋６０ｋｍ／ｈ以下であるかを判断することにより、ノイズによる誤検出の可能性を低減できる。
　さらに、ステップＳ１４の処理に代えて、絶対移動速度がマイナスでないことや、０ｋｍ／ｈでないことを判断してもよい。また、本実施形態では自車両Ｖが車線変更した場合に接触する可能性がある否かに重点を置いているため、ステップＳ１５において他車両ＶＸが検出された場合に、自車両の運転者に警告音を発したり、所定の表示装置により警告相当の表示を行ったりしてもよい。
　このように、本例の差分波形情報による立体物の検出手順によれば、視点変換により立体物が倒れ込む方向に沿って、差分画像ＰＤｔのデータ上において所定の差分を示す画素数をカウントして度数分布化することで差分波形ＤＷｔを生成する。ここで、差分画像ＰＤｔのデータ上において所定の差分を示す画素とは、異なる時刻の画像において変化があった画素であり、言い換えれば立体物が存在した箇所であるといえる。このため、立体物が存在した箇所において、立体物が倒れ込む方向に沿って画素数をカウントして度数分布化することで差分波形ＤＷｔを生成することとなる。特に、立体物が倒れ込む方向に沿って画素数をカウントすることから、立体物に対して高さ方向の情報から差分波形ＤＷｔを生成することとなる。そして、高さ方向の情報を含む差分波形ＤＷｔの時間変化から立体物の移動距離を算出する。このため、単に１点の移動のみに着目するような場合と比較して、時間変化前の検出箇所と時間変化後の検出箇所とは高さ方向の情報を含んで特定されるため立体物において同じ箇所となり易く、同じ箇所の時間変化から移動距離を算出することとなり、移動距離の算出精度を向上させることができる。
　また、差分波形ＤＷｔのうちスミアＳの発生領域に該当する箇所について、度数分布のカウント数をゼロとする。これにより、差分波形ＤＷｔのうちスミアＳによって生じる波形部位を除去することとなり、スミアＳを立体物と誤認してしまう事態を防止することができる。
　また、異なる時刻に生成された差分波形ＤＷｔの誤差が最小となるときの差分波形ＤＷｔのオフセット量から立体物の移動距離を算出する。このため、波形という１次元の情報のオフセット量から移動距離を算出することとなり、移動距離の算出にあたり計算コストを抑制することができる。
　また、異なる時刻に生成された差分波形ＤＷｔを複数の小領域ＤＷｔ１～ＤＷｔｎに分割する。このように複数の小領域ＤＷｔ１～ＤＷｔｎに分割することによって、立体物のそれぞれの箇所を表わした波形を複数得ることとなる。また、小領域ＤＷｔ１～ＤＷｔｎ毎にそれぞれの波形の誤差が最小となるときのオフセット量を求め、小領域ＤＷｔ１～ＤＷｔｎ毎に求めたオフセット量をカウントしてヒストグラム化することにより、立体物の移動距離を算出する。このため、立体物のそれぞれの箇所毎にオフセット量を求めることとなり、複数のオフセット量から移動距離を求めることとなり、移動距離の算出精度を向上させることができる。
　また、複数の小領域ＤＷｔ１～ＤＷｔｎ毎に重み付けをし、小領域ＤＷｔ１～ＤＷｔｎ毎に求めたオフセット量を重みに応じてカウントしてヒストグラム化する。このため、特徴的な領域については重みを大きくし、特徴的でない領域については重みを小さくすることにより、一層適切に移動距離を算出することができる。従って、移動距離の算出精度を一層向上させることができる。
　また、差分波形ＤＷｔの各小領域ＤＷｔ１～ＤＷｔｎについて、所定の差分を示す画素数のカウントの最大値と最小値との差が大きいほど、重みを大きくする。このため、最大値と最小値との差が大きい特徴的な起伏の領域ほど重みが大きくなり、起伏が小さい平坦な領域については重みが小さくなる。ここで、平坦な領域よりも起伏の大きい領域の方が形状的にオフセット量を正確に求めやすいため、最大値と最小値との差が大きい領域ほど重みを大きくすることにより、移動距離の算出精度を一層向上させることができる。
　また、小領域ＤＷｔ１～ＤＷｔｎ毎に求めたオフセット量をカウントして得られたヒストグラムの極大値から、立体物の移動距離を算出する。このため、オフセット量にバラつきがあったとしても、その極大値から、より正確性の高い移動距離を算出することができる。
　また、静止物についてのオフセット量を求め、このオフセット量を無視するため、静止物により立体物の移動距離の算出精度が低下してしまう事態を防止することができる。また、静止物に該当するオフセット量を無視したうえで、極大値が複数ある場合、立体物の移動距離の算出を中止する。このため、極大値が複数あるような誤った移動距離を算出してしまう事態を防止することができる。
　なお上記実施形態において、自車両Ｖの車速を車速センサ２０からの信号に基づいて判断しているが、これに限らず、異なる時刻の複数の画像から速度を推定するようにしてもよい。この場合、車速センサが不要となり、構成の簡素化を図ることができる。
　また、上記実施形態においては撮像した現時刻の画像と一時刻前の画像とを鳥瞰図に変換し、変換した鳥瞰図の位置合わせを行ったうえで差分画像ＰＤｔを生成し、生成した差分画像ＰＤｔを倒れ込み方向（撮像した画像を鳥瞰図に変換した際の立体物の倒れ込み方向）に沿って評価して差分波形ＤＷｔを生成しているが、これに限定されない。例えば、一時刻前の画像のみを鳥瞰図に変換し、変換した鳥瞰図を位置合わせした後に再び撮像した画像相当に変換し、この画像と現時刻の画像とで差分画像を生成し、生成した差分画像を倒れ込み方向に相当する方向（すなわち、倒れ込み方向を撮像画像上の方向に変換した方向）に沿って評価することによって差分波形ＤＷｔを生成してもよい。すなわち、現時刻の画像と一時刻前の画像との位置合わせを行い、位置合わせを行った両画像の差分から差分画像ＰＤｔを生成し、差分画像ＰＤｔを鳥瞰図に変換した際の立体物の倒れ込み方向に沿って評価できれば、必ずしも明確に鳥瞰図を生成しなくともよい。
《エッジ情報による立体物の検出》
　次に、図３に示す立体物の検出ブロックＡに代えて動作させることが可能である、立体物の検出ブロックＢについて説明する。立体物の検出ブロックＢは、輝度差算出部３５、エッジ線検出部３６及び立体物検出部３７で構成されるエッジ情報を利用して立体物を検出する。図１３は、図３のカメラ１０の撮像範囲等を示す図であり、図１３（ａ）は平面図、図１３（ｂ）は、自車両Ｖから後側方における実空間上の斜視図を示す。図１３（ａ）に示すように、カメラ１０は所定の画角ａとされ、この所定の画角ａに含まれる自車両Ｖから後側方を撮像する。カメラ１０の画角ａは、図２に示す場合と同様に、カメラ１０の撮像範囲に自車両Ｖが走行する車線に加えて、隣接する車線も含まれるように設定されている。
　本例の検出領域Ａ１，Ａ２は、平面視（鳥瞰視された状態）において台形状とされ、これら検出領域Ａ１，Ａ２の位置、大きさ及び形状は、距離ｄ１～ｄ４に基づいて決定される。なお、同図に示す例の検出領域Ａ１，Ａ２は台形状に限らず、図２に示すように鳥瞰視された状態で矩形など他の形状であってもよい。
　ここで、距離ｄ１は、自車両Ｖから接地線Ｌ１，Ｌ２までの距離である。接地線Ｌ１，Ｌ２は、自車両Ｖが走行する車線に隣接する車線に存在する立体物が地面に接触する線を意味する。本実施形態においては、自車両Ｖの後側方において自車両Ｖの車線に隣接する左右の車線を走行する他車両ＶＸ等（２輪車等を含む)を検出することが目的である。このため、自車両Ｖから白線Ｗまでの距離ｄ１１及び白線Ｗから他車両ＶＸが走行すると予測される位置までの距離ｄ１２から、他車両ＶＸの接地線Ｌ１，Ｌ２となる位置である距離ｄ１を略固定的に決定しておくことができる。
　また、距離ｄ１については、固定的に決定されている場合に限らず、可変としてもよい。この場合に、計算機３０は、白線認識等の技術により自車両Ｖに対する白線Ｗの位置を認識し、認識した白線Ｗの位置に基づいて距離ｄ１１を決定する。これにより、距離ｄ１は、決定された距離ｄ１１を用いて可変的に設定される。以下の本実施形態においては、他車両ＶＸが走行する位置（白線Ｗからの距離ｄ１２）及び自車両Ｖが走行する位置（白線Ｗからの距離ｄ１１）は大凡決まっていることから、距離ｄ１は固定的に決定されているものとする。
　距離ｄ２は、自車両Ｖの後端部から車両進行方向に伸びる距離である。この距離ｄ２は、検出領域Ａ１，Ａ２が少なくともカメラ１０の画角ａ内に収まるように決定されている。特に本実施形態において、距離ｄ２は、画角ａに区分される範囲に接するよう設定されている。距離ｄ３は、検出領域Ａ１，Ａ２の車両進行方向における長さを示す距離である。この距離ｄ３は、検出対象となる立体物の大きさに基づいて決定される。本実施形態においては、検出対象が他車両ＶＸ等であるため、距離ｄ３は、他車両ＶＸを含む長さに設定される。
　距離ｄ４は、図１３（ｂ）に示すように、実空間において他車両ＶＸ等のタイヤを含むように設定された高さを示す距離である。距離ｄ４は、鳥瞰視画像においては図１３（ａ）に示す長さとされる。なお、距離ｄ４は、鳥瞰視画像において左右の隣接車線よりも更に隣接する車線（すなわち２車線隣りの車線）を含まない長さとすることもできる。自車両Ｖの車線から２車線隣の車線を含んでしまうと、自車両Ｖが走行している車線である自車線の左右の隣接車線に他車両ＶＸが存在するのか、２車線隣りの車線に他車両ＶＸが存在するのかについて、区別が付かなくなってしまうためである。
　以上のように、距離ｄ１～距離ｄ４が決定され、これにより検出領域Ａ１，Ａ２の位置、大きさ及び形状が決定される。具体的に説明すると、距離ｄ１により、台形をなす検出領域Ａ１，Ａ２の上辺ｂ１の位置が決定される。距離ｄ２により、上辺ｂ１の始点位置Ｃ１が決定される。距離ｄ３により、上辺ｂ１の終点位置Ｃ２が決定される。カメラ１０から始点位置Ｃ１に向かって伸びる直線Ｌ３により、台形をなす検出領域Ａ１，Ａ２の側辺ｂ２が決定される。同様に、カメラ１０から終点位置Ｃ２に向かって伸びる直線Ｌ４により、台形をなす検出領域Ａ１，Ａ２の側辺ｂ３が決定される。距離ｄ４により、台形をなす検出領域Ａ１，Ａ２の下辺ｂ４の位置が決定される。このように、各辺ｂ１～ｂ４により囲まれる領域が検出領域Ａ１，Ａ２とされる。この検出領域Ａ１，Ａ２は、図１３（ｂ）に示すように、自車両Ｖから後側方における実空間上では真四角（長方形）となる。
　図３に戻り、視点変換部３１は、カメラ１０による撮像にて得られた所定領域の撮像画像データを入力する。視点変換部３１は、入力した撮像画像データに対して、鳥瞰視される状態の鳥瞰画像データに視点変換処理を行う。鳥瞰視される状態とは、上空から例えば鉛直下向き(又は、やや斜め下向き)に見下ろす仮想カメラの視点から見た状態である。この視点変換処理は、例えば特開２００８－２１９０６３号公報に記載された技術によって実現することができる。
　輝度差算出部３５は、鳥瞰視画像に含まれる立体物のエッジを検出するために、視点変換部３１により視点変換された鳥瞰視画像データに対して、輝度差の算出を行う。輝度差算出部３５は、実空間における鉛直方向に伸びる鉛直仮想線に沿った複数の位置ごとに、当該各位置の近傍の２つの画素間の輝度差を算出する。輝度差算出部３５は、実空間における鉛直方向に伸びる鉛直仮想線を１本だけ設定する手法と、鉛直仮想線を２本設定する手法との何れかによって輝度差を算出することができる。
　鉛直仮想線を２本設定する具体的な手法について説明する。輝度差算出部３５は、視点変換された鳥瞰視画像に対して、実空間で鉛直方向に伸びる線分に該当する第１鉛直仮想線と、第１鉛直仮想線と異なり実空間で鉛直方向に伸びる線分に該当する第２鉛直仮想線とを設定する。輝度差算出部３５は、第１鉛直仮想線上の点と第２鉛直仮想線上の点との輝度差を、第１鉛直仮想線及び第２鉛直仮想線に沿って連続的に求める。以下、この輝度差算出部３５の動作について詳細に説明する。
　輝度差算出部３５は、図１４（ａ）に示すように、実空間で鉛直方向に伸びる線分に該当し、且つ、検出領域Ａ１を通過する第１鉛直仮想線Ｌａ（以下、注目線Ｌａという）を設定する。また輝度差算出部３５は、注目線Ｌａと異なり、実空間で鉛直方向に伸びる線分に該当し、且つ、検出領域Ａ１を通過する第２鉛直仮想線Ｌｒ（以下、参照線Ｌｒという）を設定する。ここで参照線Ｌｒは、実空間における所定距離だけ注目線Ｌａから離間する位置に設定される。なお、実空間で鉛直方向に伸びる線分に該当する線とは、鳥瞰視画像においてはカメラ１０の位置Ｐｓから放射状に広がる線となる。この放射状に広がる線は、鳥瞰視に変換した際に立体物が倒れ込む方向に沿う線である。
　輝度差算出部３５は、注目線Ｌａ上に注目点Ｐａ（第１鉛直仮想線上の点）を設定する。また輝度差算出部３５は、参照線Ｌｒ上に参照点Ｐｒ（第２鉛直板想線上の点）を設定する。これら注目線Ｌａ、注目点Ｐａ、参照線Ｌｒ、参照点Ｐｒは、実空間上において図１４（ｂ）に示す関係となる。図１４（ｂ）から明らかなように、注目線Ｌａ及び参照線Ｌｒは、実空間上において鉛直方向に伸びた線であり、注目点Ｐａと参照点Ｐｒとは、実空間上において略同じ高さに設定される点である。なお、注目点Ｐａと参照点Ｐｒとは必ずしも厳密に同じ高さである必要はなく、注目点Ｐａと参照点Ｐｒとが同じ高さとみなせる程度の誤差は許容される。
　輝度差算出部３５は、注目点Ｐａと参照点Ｐｒとの輝度差を求める。仮に、注目点Ｐａと参照点Ｐｒとの輝度差が大きいと、注目点Ｐａと参照点Ｐｒとの間にエッジが存在すると考えられる。このため、図３に示したエッジ線検出部３６は、注目点Ｐａと参照点Ｐｒとの輝度差に基づいてエッジ線を検出する。
　この点をより詳細に説明する。図１５は、輝度差算出部３５の詳細動作を示す図であり、図１５（ａ）は鳥瞰視された状態の鳥瞰視画像を示し、図１５（ｂ）は、図１５（ａ）に示した鳥瞰視画像の一部Ｂ１を拡大した図である。なお図１５についても検出領域Ａ１のみを図示して説明するが、検出領域Ａ２についても同様の手順で輝度差を算出する。
　カメラ１０が撮像した撮像画像内に他車両ＶＸが映っていた場合に、図１５（ａ）に示すように、鳥瞰視画像内の検出領域Ａ１に他車両ＶＸが現れる。図１５（ｂ）に図１５（ａ）中の領域Ｂ１の拡大図を示すように、鳥瞰視画像上において、他車両ＶＸのタイヤのゴム部分上に注目線Ｌａが設定されていたとする。この状態において、輝度差算出部３５は、先ず参照線Ｌｒを設定する。参照線Ｌｒは、注目線Ｌａから実空間上において所定の距離だけ離れた位置に、鉛直方向に沿って設定される。具体的には、本実施形態に係る立体物検出装置１において、参照線Ｌｒは、注目線Ｌａから実空間上において１０ｃｍだけ離れた位置に設定される。これにより、参照線Ｌｒは、鳥瞰視画像上において、例えば他車両ＶＸのタイヤのゴムから１０ｃｍ相当だけ離れた他車両ＶＸのタイヤのホイール上に設定される。
　次に、輝度差算出部３５は、注目線Ｌａ上に複数の注目点Ｐａ１～ＰａＮを設定する。図１５（ｂ）においては、説明の便宜上、６つの注目点Ｐａ１～Ｐａ６（以下、任意の点を示す場合には単に注目点Ｐａｉという）を設定している。なお、注目線Ｌａ上に設定する注目点Ｐａの数は任意でよい。以下の説明では、Ｎ個の注目点Ｐａが注目線Ｌａ上に設定されたものとして説明する。
　次に、輝度差算出部３５は、実空間上において各注目点Ｐａ１～ＰａＮと同じ高さとなるように各参照点Ｐｒ１～ＰｒＮを設定する。そして、輝度差算出部３５は、同じ高さ同士の注目点Ｐａと参照点Ｐｒとの輝度差を算出する。これにより、輝度差算出部３５は、実空間における鉛直方向に伸びる鉛直仮想線に沿った複数の位置（１～Ｎ）ごとに、２つの画素の輝度差を算出する。輝度差算出部３５は、例えば第１注目点Ｐａ１とは、第１参照点Ｐｒ１との間で輝度差を算出し、第２注目点Ｐａ２とは、第２参照点Ｐｒ２との間で輝度差を算出することとなる。これにより、輝度差算出部３５は、注目線Ｌａ及び参照線Ｌｒに沿って、連続的に輝度差を求める。すなわち、輝度差算出部３５は、第３～第Ｎ注目点Ｐａ３～ＰａＮと第３～第Ｎ参照点Ｐｒ３～ＰｒＮとの輝度差を順次求めていくこととなる。
　輝度差算出部３５は、検出領域Ａ１内において注目線Ｌａをずらしながら、上記の参照線Ｌｒの設定、注目点Ｐａ及び参照点Ｐｒの設定、輝度差の算出といった処理を繰り返し実行する。すなわち、輝度差算出部３５は、注目線Ｌａ及び参照線Ｌｒのそれぞれを、実空間上において接地線Ｌ１の延在方向に同一距離だけ位置を変えながら上記の処理を繰り返し実行する。輝度差算出部３５は、例えば、前回処理において参照線Ｌｒとなっていた線を注目線Ｌａに設定し、この注目線Ｌａに対して参照線Ｌｒを設定して、順次輝度差を求めていくことになる。
　図３に戻り、エッジ線検出部３６は、輝度差算出部３５により算出された連続的な輝度差から、エッジ線を検出する。例えば、図１５（ｂ）に示す場合、第１注目点Ｐａ１と第１参照点Ｐｒ１とは、同じタイヤ部分に位置するために、輝度差は、小さい。一方、第２～第６注目点Ｐａ２～Ｐａ６はタイヤのゴム部分に位置し、第２～第６参照点Ｐｒ２～Ｐｒ６はタイヤのホイール部分に位置する。したがって、第２～第６注目点Ｐａ２～Ｐａ６と第２～第６参照点Ｐｒ２～Ｐｒ６との輝度差は大きくなる。このため、エッジ線検出部３６は、輝度差が大きい第２～第６注目点Ｐａ２～Ｐａ６と第２～第６参照点Ｐｒ２～Ｐｒ６との間にエッジ線が存在することを検出することができる。
　具体的には、エッジ線検出部３６は、エッジ線を検出するにあたり、先ず下記の数式１に従って、ｉ番目の注目点Ｐａｉ（座標（ｘｉ，ｙｉ））とｉ番目の参照点Ｐｒｉ（座標（ｘｉ’，ｙｉ’））との輝度差から、ｉ番目の注目点Ｐａｉに属性付けを行う。
[数１]
Ｉ（ｘｉ，ｙｉ）＞Ｉ（ｘｉ’，ｙｉ’）＋ｔのとき
　ｓ（ｘｉ，ｙｉ）＝１
Ｉ（ｘｉ，ｙｉ）＜Ｉ（ｘｉ’，ｙｉ’）－ｔのとき
　ｓ（ｘｉ，ｙｉ）＝－１
上記以外のとき
　ｓ（ｘｉ，ｙｉ）＝０
　上記数式１において、ｔは閾値を示し、Ｉ（ｘｉ，ｙｉ）はｉ番目の注目点Ｐａｉの輝度値を示し、Ｉ（ｘｉ’，ｙｉ’）はｉ番目の参照点Ｐｒｉの輝度値を示す。上記数式１によれば、注目点Ｐａｉの輝度値が、参照点Ｐｒｉに閾値ｔを加えた輝度値よりも高い場合には、当該注目点Ｐａｉの属性ｓ（ｘｉ，ｙｉ）は‘１’となる。一方、注目点Ｐａｉの輝度値が、参照点Ｐｒｉから閾値ｔを減じた輝度値よりも低い場合には、当該注目点Ｐａｉの属性ｓ（ｘｉ，ｙｉ）は‘－１’となる。注目点Ｐａｉの輝度値と参照点Ｐｒｉの輝度値とがそれ以外の関係である場合には、注目点Ｐａｉの属性ｓ（ｘｉ，ｙｉ）は‘０’となる。この閾値ｔは、予め設定しておき、図３に示す制御部３９が発する制御命令に従い変更することもできるが、その詳細については後述する。
　次にエッジ線検出部３６は、下記数式２に基づいて、注目線Ｌａに沿った属性ｓの連続性ｃ（ｘｉ，ｙｉ）から、注目線Ｌａがエッジ線であるか否かを判定する。
[数２]
ｓ（ｘｉ，ｙｉ）＝ｓ（ｘｉ＋１，ｙｉ＋１）のとき（且つ０＝０を除く）、
　ｃ（ｘｉ，ｙｉ）＝１
上記以外のとき、
　ｃ（ｘｉ，ｙｉ）＝０
　注目点Ｐａｉの属性ｓ（ｘｉ，ｙｉ）と隣接する注目点Ｐａｉ＋１の属性ｓ（ｘｉ＋１，ｙｉ＋１）とが同じである場合には、連続性ｃ（ｘｉ，ｙｉ）は‘１’となる。注目点Ｐａｉの属性ｓ（ｘｉ，ｙｉ）と隣接する注目点Ｐａｉ＋１の属性ｓ（ｘｉ＋１，ｙｉ＋１）とが同じではない場合には、連続性ｃ（ｘｉ，ｙｉ）は‘０’となる。
　次にエッジ線検出部３６は、注目線Ｌａ上の全ての注目点Ｐａの連続性ｃについて総和を求める。エッジ線検出部３６は、求めた連続性ｃの総和を注目点Ｐａの数Ｎで割ることにより、連続性ｃを正規化する。エッジ線検出部３６は、正規化した値が閾値θを超えた場合に、注目線Ｌａをエッジ線と判断する。なお、閾値θは、予め実験等によって設定された値である。閾値θは予め設定しておいてもよいし、後述する制御部３９の制御命令に従い変更してもよい。
　すなわち、エッジ線検出部３６は、下記数式３に基づいて注目線Ｌａがエッジ線であるか否かを判断する。そして、エッジ線検出部３６は、検出領域Ａ１上に描かれた注目線Ｌａの全てについてエッジ線であるか否かを判断する。
[数３]
Σｃ（ｘｉ，ｙｉ）／Ｎ＞θ
　図３に戻り、立体物検出部３７は、エッジ線検出部３６により検出されたエッジ線の量に基づいて立体物を検出する。上述したように、本実施形態に係る立体物検出装置１は、実空間上において鉛直方向に伸びるエッジ線を検出する。鉛直方向に伸びるエッジ線が多く検出されるということは、検出領域Ａ１，Ａ２に立体物が存在する可能性が高いということである。このため、立体物検出部３７は、エッジ線検出部３６により検出されたエッジ線の量に基づいて立体物を検出する。さらに、立体物検出部３７は、立体物を検出するに先立って、エッジ線検出部３６により検出されたエッジ線が正しいものであるか否かを判定する。立体物検出部３７は、エッジ線上の鳥瞰視画像のエッジ線に沿った輝度変化が所定の閾値よりも大きいか否かを判定する。エッジ線上の鳥瞰視画像の輝度変化が閾値よりも大きい場合には、当該エッジ線が誤判定により検出されたものと判断する。一方、エッジ線上の鳥瞰視画像の輝度変化が閾値よりも大きくない場合には、当該エッジ線が正しいものと判定する。なお、この閾値は、実験等により予め設定された値である。
　図１６は、エッジ線の輝度分布を示す図であり、図１６（ａ）は検出領域Ａ１に立体物としての他車両ＶＸが存在した場合のエッジ線及び輝度分布を示し、図１６（ｂ）は検出領域Ａ１に立体物が存在しない場合のエッジ線及び輝度分布を示す。
　図１６（ａ）に示すように、鳥瞰視画像において他車両ＶＸのタイヤゴム部分に設定された注目線Ｌａがエッジ線であると判断されていたとする。この場合、注目線Ｌａ上の鳥瞰視画像の輝度変化はなだらかなものとなる。これは、カメラ１０により撮像された画像が鳥瞰視画像に視点変換されたことにより、他車両ＶＸのタイヤが鳥瞰視画像内で引き延ばされたことによる。一方、図１６（ｂ）に示すように、鳥瞰視画像において路面に描かれた「５０」という白色文字部分に設定された注目線Ｌａがエッジ線であると誤判定されていたとする。この場合、注目線Ｌａ上の鳥瞰視画像の輝度変化は起伏の大きいものとなる。これは、エッジ線上に、白色文字における輝度が高い部分と、路面等の輝度が低い部分とが混在しているからである。
　以上のような注目線Ｌａ上の輝度分布の相違に基づいて、立体物検出部３７は、エッジ線が誤判定により検出されたものか否かを判定する。立体物検出部３７は、エッジ線に沿った輝度変化が所定の閾値よりも大きい場合には、当該エッジ線が誤判定により検出されたものであると判定する。そして、当該エッジ線は、立体物の検出には使用しない。これにより、路面上の「５０」といった白色文字や路肩の雑草等がエッジ線として判定されてしまい、立体物の検出精度が低下することを抑制する。
　具体的には、立体物検出部３７は、下記数式４，５の何れかにより、エッジ線の輝度変化を算出する。このエッジ線の輝度変化は、実空間上における鉛直方向の評価値に相当する。下記数式４は、注目線Ｌａ上のｉ番目の輝度値Ｉ（ｘｉ，ｙｉ）と、隣接するｉ＋１番目の輝度値Ｉ（ｘｉ＋１，ｙｉ＋１）との差分の二乗の合計値によって輝度分布を評価する。下記数式５は、注目線Ｌａ上のｉ番目の輝度値Ｉ（ｘｉ，ｙｉ）と、隣接するｉ＋１番目の輝度値Ｉ（ｘｉ＋１，ｙｉ＋１）との差分の絶対値の合計値よって輝度分布を評価する。
[数４]
鉛直相当方向の評価値＝Σ［｛Ｉ（ｘｉ，ｙｉ）－Ｉ（ｘｉ＋１，ｙｉ＋１）｝２］
[数５]
鉛直相当方向の評価値＝Σ｜Ｉ（ｘｉ，ｙｉ）－Ｉ（ｘｉ＋１，ｙｉ＋１）｜
　なお、数式５に限らず、下記数式６のように、閾値ｔ２を用いて隣接する輝度値の属性ｂを二値化して、当該二値化した属性ｂを全ての注目点Ｐａについて総和してもよい。
[数６]
鉛直相当方向の評価値＝Σｂ（ｘｉ，ｙｉ）
但し、｜Ｉ（ｘｉ，ｙｉ）－Ｉ（ｘｉ＋１，ｙｉ＋１）｜＞ｔ２のとき、
　ｂ（ｘｉ，ｙｉ）＝１
上記以外のとき、
　ｂ（ｘｉ，ｙｉ）＝０
　注目点Ｐａｉの輝度値と参照点Ｐｒｉの輝度値との輝度差の絶対値が閾値ｔ２よりも大きい場合、当該注目点Ｐａ（ｘｉ，ｙｉ）の属性ｂ（ｘｉ，ｙｉ）は‘１’となる。それ以外の関係である場合には、注目点Ｐａｉの属性ｂ（ｘｉ，ｙｉ）は‘０’となる。この閾値ｔ２は、注目線Ｌａが同じ立体物上にないことを判定するために実験等によって予め設定されている。そして、立体物検出部３７は、注目線Ｌａ上の全注目点Ｐａについての属性ｂを総和して、鉛直相当方向の評価値を求めて、エッジ線が正しいものかを判定する。
　次に、本実施形態に係るエッジ情報を利用した立体物検出方法について説明する。図１７及び図１８は、本実施形態に係る立体物検出方法の詳細を示すフローチャートである。なお、図１７及び図１８においては、便宜上、検出領域Ａ１を対象とする処理について説明するが、検出領域Ａ２についても同様の処理が実行される。
　図１７に示すように、先ずステップＳ２１において、カメラ１０は、画角ａ及び取付位置によって特定された所定領域を撮像する。次に視点変換部３１は、ステップＳ２２において、ステップＳ２１にてカメラ１０により撮像された撮像画像データを入力し、視点変換を行って鳥瞰視画像データを生成する。
　次に輝度差算出部３５は、ステップＳ２３において、検出領域Ａ１上に注目線Ｌａを設定する。このとき、輝度差算出部３５は、実空間上において鉛直方向に伸びる線に相当する線を注目線Ｌａとして設定する。次に輝度差算出部３５は、ステップＳ２４において、検出領域Ａ１上に参照線Ｌｒを設定する。このとき、輝度差算出部３５は、実空間上において鉛直方向に伸びる線分に相当し、且つ、注目線Ｌａと実空間上において所定距離離れた線を参照線Ｌｒとして設定する。
　次に輝度差算出部３５は、ステップＳ２５において、注目線Ｌａ上に複数の注目点Ｐａを設定する。この際に、輝度差算出部３５は、エッジ線検出部３６によるエッジ検出時に問題とならない程度の数の注目点Ｐａを設定する。また、輝度差算出部３５は、ステップＳ２６において、実空間上において注目点Ｐａと参照点Ｐｒとが略同じ高さとなるように、参照点Ｐｒを設定する。これにより、注目点Ｐａと参照点Ｐｒとが略水平方向に並ぶこととなり、実空間上において鉛直方向に伸びるエッジ線を検出しやすくなる。
　次に輝度差算出部３５は、ステップＳ２７において、実空間上において同じ高さとなる注目点Ｐａと参照点Ｐｒとの輝度差を算出する。次にエッジ線検出部３６は、上記の数式１に従って、各注目点Ｐａの属性ｓを算出する。次にエッジ線検出部３６は、ステップＳ２８において、上記の数式２に従って、各注目点Ｐａの属性ｓの連続性ｃを算出する。次にエッジ線検出部３６は、ステップＳ２９において、上記数式３に従って、連続性ｃの総和を正規化した値が閾値θより大きいか否かを判定する。正規化した値が閾値θよりも大きいと判断した場合（Ｓ２９：ＹＥＳ）、エッジ線検出部３６は、ステップＳ３０において、当該注目線Ｌａをエッジ線として検出する。そして、処理はステップＳ３１に移行する。正規化した値が閾値θより大きくないと判断した場合（Ｓ２９：ＮＯ）、エッジ線検出部３６は、当該注目線Ｌａをエッジ線として検出せず、処理はステップＳ３１に移行する。この閾値θは予め設定しておくことができるが、制御部３９に制御命令に応じて変更することもできる。
　ステップＳ３１において、計算機３０は、検出領域Ａ１上に設定可能な注目線Ｌａの全てについて上記のステップＳ２３～ステップＳ３０の処理を実行したか否かを判断する。全ての注目線Ｌａについて上記処理をしていないと判断した場合（Ｓ３１：ＮＯ）、ステップＳ２３に処理を戻して、新たに注目線Ｌａを設定して、ステップＳ３１までの処理を繰り返す。一方、全ての注目線Ｌａについて上記処理をしたと判断した場合（Ｓ３１：ＹＥＳ）、処理は図１８のステップＳ３２に移行する。
　図１８のステップＳ３２において、立体物検出部３７は、図１７のステップＳ３０において検出された各エッジ線について、当該エッジ線に沿った輝度変化を算出する。立体物検出部３７は、上記数式４，５，６の何れかの式に従って、エッジ線の輝度変化を算出する。次に立体物検出部３７は、ステップＳ３３において、エッジ線のうち、輝度変化が所定の閾値よりも大きいエッジ線を除外する。すなわち、輝度変化の大きいエッジ線は正しいエッジ線ではないと判定し、エッジ線を立体物の検出には使用しない。これは、上述したように、検出領域Ａ１に含まれる路面上の文字や路肩の雑草等がエッジ線として検出されてしまうことを抑制するためである。したがって、所定の閾値とは、予め実験等によって求められた、路面上の文字や路肩の雑草等によって発生する輝度変化に基づいて設定された値となる。
　次に立体物検出部３７は、ステップＳ３４において、エッジ線の量が第２閾値β以上であるか否かを判断する。なお、この第２閾値βは、予め実験等によって求めておいて設定しておき、図３に示す制御部３９が発する制御命令に従い変更することもできるが、その詳細については後述する。例えば、検出対象の立体物として四輪車を設定した場合、当該第２閾値βは、予め実験等によって検出領域Ａ１内において出現した四輪車のエッジ線の数に基づいて設定される。エッジ線の量が第２閾値β以上であると判定した場合（Ｓ３４：ＹＥＳ）、立体物検出部３７は、ステップＳ３５において、検出領域Ａ１内に立体物が存在すると検出する。一方、エッジ線の量が第２閾値β以上ではないと判定した場合（Ｓ３４：ＮＯ）、立体物検出部３７は、検出領域Ａ１内に立体物が存在しないと判断する。その後、図１７及び図１８に示す処理は終了する。検出された立体物は、自車両Ｖが走行する車線の隣の隣接車線を走行する他車両ＶＸであると判断してもよいし、検出した立体物の自車両Ｖに対する相対速度を考慮して隣接車線を走行する他車両ＶＸであるか否かを判断してもよい。この第２閾値βは予め設定しておくことができるが、制御部３９に制御命令に応じて変更することもできる。
　以上のように、本実施形態のエッジ情報を利用した立体物の検出方法によれば、検出領域Ａ１，Ａ２に存在する立体物を検出するために、鳥瞰視画像に対して実空間において鉛直方向に伸びる線分としての鉛直仮想線を設定する。そして、鉛直仮想線に沿った複数の位置ごとに、当該各位置の近傍の２つの画素の輝度差を算出し、当該輝度差の連続性に基づいて立体物の有無を判定することができる。
　具体的には、鳥瞰視画像における検出領域Ａ１，Ａ２に対して、実空間において鉛直方向に伸びる線分に該当する注目線Ｌａと、注目線Ｌａとは異なる参照線Ｌｒとを設定する。そして、注目線Ｌａ上の注目点Ｐａと参照線Ｌｒ上の参照点Ｐｒとの輝度差を注目線Ｌａ及び参照線Ｌａに沿って連続的に求める。このように、点同士の輝度差を連続的に求めることにより、注目線Ｌａと参照線Ｌｒとの輝度差を求める。注目線Ｌａと参照線Ｌｒとの輝度差が高い場合には、注目線Ｌａの設定箇所に立体物のエッジがある可能性が高い。これによって、連続的な輝度差に基づいて立体物を検出することができる。特に、実空間において鉛直方向に伸びる鉛直仮想線同士との輝度比較を行うために、鳥瞰視画像に変換することによって立体物が路面からの高さに応じて引き伸ばされてしまっても、立体物の検出処理が影響されることはない。したがって、本例の方法によれば、立体物の検出精度を向上させることができる。
　また、本例では、鉛直仮想線付近の略同じ高さの２つの点の輝度差を求める。具体的には、実空間上で略同じ高さとなる注目線Ｌａ上の注目点Ｐａと参照線Ｌｒ上の参照点Ｐｒとから輝度差を求めるので、鉛直方向に伸びるエッジが存在する場合における輝度差を明確に検出することができる。
　更に、本例では、注目線Ｌａ上の注目点Ｐａと参照線Ｌｒ上の参照点Ｐｒとの輝度差に基づいて注目点Ｐａに属性付けを行い、注目線Ｌａに沿った属性の連続性ｃに基づいて当該注目線Ｌａがエッジ線であるかを判断するので、輝度の高い領域と輝度の低い領域との境界をエッジ線として検出し、人間の自然な感覚に沿ったエッジ検出を行うことができる。この効果について詳細に説明する。図１９は、エッジ線検出部３６の処理を説明する画像例を示す図である。この画像例は、輝度の高い領域と輝度の低い領域とが繰り返される縞模様を示す第１縞模様１０１と、輝度の低い領域と輝度の高い領域とが繰り返される縞模様を示す第２縞模様１０２とが隣接した画像である。また、この画像例は、第１縞模様１０１の輝度が高い領域と第２縞模様１０２の輝度の低い領域とが隣接すると共に、第１縞模様１０１の輝度が低い領域と第２縞模様１０２の輝度が高い領域とが隣接している。この第１縞模様１０１と第２縞模様１０２との境界に位置する部位１０３は、人間の感覚によってはエッジとは知覚されない傾向にある。
　これに対し、輝度の低い領域と輝度が高い領域とが隣接しているために、輝度差のみでエッジを検出すると、当該部位１０３はエッジとして認識されてしまう。しかし、エッジ線検出部３６は、部位１０３における輝度差に加えて、当該輝度差の属性に連続性がある場合にのみ部位１０３をエッジ線として判定するので、エッジ線検出部３６は、人間の感覚としてエッジ線として認識しない部位１０３をエッジ線として認識してしまう誤判定を抑制でき、人間の感覚に沿ったエッジ検出を行うことができる。
　さらに、本例では、エッジ線検出部３６により検出されたエッジ線の輝度変化が所定の閾値よりも大きい場合には、当該エッジ線が誤判定により検出されたものと判断する。カメラ１０により取得された撮像画像を鳥瞰視画像に変換した場合、当該撮像画像に含まれる立体物は、引き伸ばされた状態で鳥瞰視画像に現れる傾向がある。例えば、上述したように他車両ＶＸのタイヤが引き伸ばされた場合に、タイヤという１つの部位が引き伸ばされるため、引き伸ばされた方向における鳥瞰視画像の輝度変化は小さい傾向となる。これに対し、路面に描かれた文字等をエッジ線として誤判定した場合に、鳥瞰視画像には、文字部分といった輝度が高い領域と路面部分といった輝度が低い領域とが混合されて含まれる。この場合に、鳥瞰視画像において、引き伸ばされた方向の輝度変化は大きくなる傾向がある。したがって、本例のようにエッジ線に沿った鳥瞰視画像の輝度変化を判定することによって、誤判定により検出されたエッジ線を認識することができ、立体物の検出精度を高めることができる。
《立体物の最終判断》
　図３に戻り、本例の立体物検出装置１は、上述した２つの立体物検出部３３（又は立体物検出部３７）と、立体物判断部３４と、異物検出部３８と、制御部３９とを備える。立体物判断部３４は、立体物検出部３３（又は立体物検出部３７）により検出結果に基づいて、検出された立体物が最終的に検出領域Ａ１，Ａ２に他車両ＶＸであるか否かを判断する。
　異物検出部３８は、差分波形情報又はエッジ情報に基づいてカメラ１０のレンズ１１に異物が付着したことを検出する。制御部３９は、異物検出部３８によりレンズに付着した異物が検出された場合には、検出された立体物が他車両ＶＸであると判断されることを抑制するために、検出された異物に対応する像が検出領域Ａ１，Ａ２に存在する他車両ＶＸであると判断されることが抑制されるように計算機３０を構成する各部（制御部３９を含む）を制御する制御命令を出力する。
　立体物検出部３３、３７により立体物が検出されること又は立体物判断部３７により立体物が他車両であると判断されることを抑制するために、制御部３９は各処理に用いられる各閾値を初期値、標準値その他の設定値よりも高く（検出がされ難くなるように）変更し、又は各閾値と比較される出力値を低く（検出がされ難くなるように）変更する。
　具体的な処理の内容は、以下のとおりである。
　差分波形情報を用いて立体物を検出する立体物検出部３３が、差分波形情報が所定の第１閾値α以上であるときに立体物を検出する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、立体物が検出され難いように第１閾値αを高く変更する制御命令を生成し、この制御命令を立体物検出部３３に出力する。
　同じく、立体物検出部３３が、差分波形情報が所定の第１閾値α以上であるときに立体物を検出する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値を低く変更して出力させる制御命令を生成し、この制御命令を立体物検出部３８に出力する。
　また、差分波形情報を用いて立体物を検出する立体物検出部３３が閾値ｐ以上の画素値を示す画素数を所定の差分を示す画素数として抽出する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、立体物が検出され難いように閾値ｐを高く変更する制御命令を生成し、この制御命令を立体物検出手部３８に出力する。
　同じく、立体物検出部３３が閾値ｐ以上の画素値を示す画素数を所定の差分を示す画素数として抽出する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿って、差分画像上において抽出される画素数を低く変更して出力する制御命令を生成し、この制御命令を立体物検出部３８に出力する。
　エッジ情報を用いて立体物を検出する立体物検出部３７が所定閾値ｔ以上の輝度差を示す画素に基づいてエッジ線を抽出する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、立体物が検出され難いように所定閾値ｔを高く変更する制御命令を生成し、この制御命令を立体物検出部３７に出力する。
　同じく、エッジ情報を用いて立体物を検出する立体物検出部３７が所定閾値ｔ以上の輝度差を示す画素に基づいてエッジ線を抽出する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、画素の輝度値を低く変更して出力する制御命令を生成し、この制御命令を立体物検出部３７に出力する。
　エッジ情報を用いて立体物を検出する立体物検出部３７がエッジ情報に含まれる閾値θ以上の長さを有するエッジ線に基づいて立体物を検出する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、立体物が検出され難いように閾値θを高く変更する制御命令を生成し、この制御命令を立体物検出部３７に出力する。
　同じく、エッジ情報を用いて立体物を検出する立体物検出部３７がエッジ情報に含まれる閾値θ以上の長さを有するエッジ線に基づいて立体物を検出する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、検出したエッジ情報のエッジ線の長さの値を低く変更して出力させる制御命令を生成し、この制御命令を立体物検出部３７に出力する。
　エッジ情報を用いて立体物を検出する立体物検出部３７がエッジ情報に含まれる所定長さ以上のエッジ線、例えば閾値θ以上の長さを有するエッジ線の本数が第２閾値β以上であるか否かの判断に基づいて立体物を検出する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、立体物が検出され難いように第２閾値βを高く変更する制御命令を生成し、この制御命令を立体物検出部３７に出力する。
　エッジ情報を用いて立体物を検出する立体物検出部３７がエッジ情報に含まれる所定長さ以上のエッジ線、例えば閾値θ以上の長さを有するエッジ線の本数が第２閾値β以上であるか否かの判断に基づいて立体物を検出する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、検出した所定長さ以上のエッジ線の本数を低く出力する制御命令を生成し、この制御命令を立体物検出部３７に出力する。
　また、立体物判断部３４は、検出された立体物の移動速度が予め設定された所定速度以上であるときに、この立体物を他車両であると判断する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、立体物が検出され難いように立体物を他車両であると判断する際の下限となる所定速度を高く変更する制御命令を生成し、この制御命令を立体物判断部３４に出力する。
　同じく、立体物判断部３４は、検出された立体物の移動速度が予め設定された所定速度以上であるときに、この立体物を他車両であると判断する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、立体物を他車両であると判断する際の下限となる所定速度と比較される立体物の移動速度を低く変更して出力する制御命令を生成し、当該制御命令を立体物判断部３４に出力する。
　また、立体物判断部３４が、検出された立体物の移動速度が予め設定された所定速度未満であるときに、この立体物を他車両であると判断する場合において、制御部３９は、異物検出部３９がレンズ１１に付着した異物を検出した場合には、立体物を他車両であると判断する際の上限となる所定速度を低く変更する制御命令を生成し、この制御命令を立体物判断部３４に出力する。
　同じく、立体物判断部３４検出された立体物の移動速度が予め設定された所定速度未満であるときに、この立体物を他車両であると判断する場合において、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、立体物を他車両であると判断する際の上限となる所定速度と比較される立体物の移動速度を高く変更する制御命令を生成し、この制御命令を立体物判断部３４に出力する。
　なお、ここで「移動速度」は、立体物の絶対速度、および自車両に対する立体物の相対速度を含む。立体物の絶対速度は立体物の相対速度から算出してもよいし、立体物の相対速度は立体物の絶対速度から算出してもよい。
　さらに、制御部３９は、立体物検出部３３（又は立体物検出部３７）による立体物が存在するという検出結果、又は立体物判断部３４による立体物が最終的に他車両ＶＸであるという判断結果が出ることを抑制するために、検出領域Ａ１，Ａ２を部分的にマスクし、又は検出や判断に用いられる閾値や出力値を調整する。
　具体的に、制御部３９は、レンズ１１に付着した異物ＣＬの位置に対応する検出領域Ａ１，Ａ２の一部分の位置情報（画像座標情報）を指定し、そのマスクした領域における立体物の検出処理又は立体物が他車両ＶＸであるか否かの判断を行わない制御指令、マスクした領域において立体物は非検出である又はマスクした領域における立体物は他車両ＶＸではない旨の結果を出力させる制御指令を生成して立体物検出部３３（又は立体物検出部３７）又は立体物判断部３４へ送出する。このマスクした領域において立体物は非検出である又はマスクした領域における立体物は他車両ＶＸではない旨の結果を出力させる制御指令は、マスク領域の画像データを指定する指令と、上述したように各閾値または各出力値を変更する指令を含む。
　このように、制御部３９は、閾値や出力値を変更させる制御指令、立体物の検出処理又は立体物が他車両ＶＸであるか否かの判断を中止させる制御指令、立体物は非検出である又は立体物は他車両ＶＸではない旨の結果を出力させる制御指令を生成して立体物検出部３３（又は立体物検出部３７）又は立体物判断部３４へ送出する。
　本実施形態の立体物検出部３３（又は立体物検出部３７）は、制御部３９の制御命令に従い、画像情報、差分波形情報、エッジ情報の一部を処理対象となる情報から除外し、閾値又は出力値を調整し、厳しい基準の下で立体物の検出を行い、立体物は非検出である旨の検出結果を出力する処理を実行し、又は立体物検出処理自体を中止する。同様に、立体物判断部３８は、制御部３９の制御命令に従い、閾値又は出力値を調整し、厳しい基準の下で検出された立体物が他車両ＶＸであるか否かの判断を行い、立体物は他車両ＶＸではない旨の判断を出力し、又は立体物判断処理自体を中止する。上記立体物判断に係る制御処理は、各検出領域Ａ１，Ａ２の像を受像するレンズ１１に異物が付着している状況が異物検出部３８により検出された場合に行われる。
　ちなみに、第１閾値αは、図１１のステップＳ７において、差分波形ＤＷｔのピークを判断するための閾値である。閾値pは所定の画素値を有する画素を抽出するための閾値である。所定閾値tは所定の輝度差を有する画素又はエッジ成分を抽出するための閾値である。閾値θは、図１７のステップＳ２９における各注目点Ｐａの属性の連続性ｃの総和を正規化した値（エッジの長さ）を判断する閾値であり、第２閾値βは、図１８のステップ３４におけるエッジ線の量（本数）を評価する閾値である。このように、判断の閾値を高く変更することにより、自車両Ｖの走行車線の隣を走行する他車両ＶＸが検出されにくいように検出感度が調整されるため、他車両ＶＸの誤検出することを防止することができる。
　本実施形態の制御部３９は、鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値を低く出力する制御命令を立体物検出部３３に出力する。鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値とは、図１１のステップＳ５において生成される差分波形ＤＷｔの縦軸の値である。また、本実施形態の制御部３９は、検出したエッジ情報を低く出力する制御命令を立体物検出部３７に出力する。検出したエッジ情報とは、図１７のステップＳ２９における各注目点Ｐａの属性の連続性ｃの総和を正規化した値であるエッジ線の長さのほか、図１８のステップ３４におけるエッジ線の量である。制御部３９は、次回の処理においては立体物が検出されにくいように、各注目点Ｐａの属性の連続性ｃの総和を正規化した値又はエッジ線の量を低く変更する。このように、出力値を低くすることにより、自車両Ｖの走行車線の隣を走行する他車両ＶＸが検出されにくいように検出感度を調整できるため、隣の車線を走行する他車両ＶＸの誤検出を防止することができる。
　以下、異物検出部３８の検出処理について説明する。異物検出部３８はカメラ１０により撮像された自車両Ｖの後方を撮像する画像情報を取得する。取得した画像情報Ｋの一例を図２０に示す。図２０に示す画像情報は、異物が付着したレンズ１１を介して撮像されたものである。図２０の下側の映像はライセンスプレートＬＰの像であり、上側の薄墨の部分はカメラ１０のケースＣの像である。ライセンスプレートＬＰとケースＣの間の領域の画像が、自車両Ｖの移動とともに刻々変化する。図２０に示すように、ライセンスプレートＬＰとケースＣの間の領域の画像情報Ｋは、自車両Ｖが走行する道路の路面ＲＤの像と、この路面ＲＤの上に広がる後方の空ＳＫの像とを含む。また、図２０に示す画像情報Ｋには、レンズ１１に付着した異物の像ＣＬが映り込んでいる。図２０に示すような異物が付着したレンズ１１を介して撮像された画像情報を用いて画像変換処理を行うと、図２１に示すように異物の像ＣＬに応じた像ＣＬ２が検出領域Ａ１１内に現れる。このような鳥瞰視画像に基づいて上述した手法で差分波形情報又はエッジ情報を算出し、立体物検出処理を行うと像ＣＬ２を他車両ＶＸの像と誤認識する場合がある。
　ちなみに、本実施形態における異物とは、レンズ１１に少なくとも一時的に付着する物体であって、水滴、泥水、泥、水垢など含む。これらの異物のレンズ１１上における挙動は、異物の種類（性質）によって異なる。たとえば、流動性の高い雨水やレンズ洗浄液などの水滴は、レンズ１１の表面を比較的早い速度で移動するとともに比較的早い速度で形状が変化する。流動性が低い泥、水垢などの固着物は、比較的遅い速度で移動するとともに形状が変化しにくい。流動性が中程度の泥水は、レンズ１１の表面を水滴よりも遅く固着物よりも早い中程度の速度で移動するとともに、水滴よりも遅い速度で形状が変化する。また、異物が撮像画像に与える影響は、異物の種類(性質)によって異なる。例えば、透明度の高い水はレンズのように光を屈折させるので、像を歪ませ、立体物の輪郭の像を変化させる。光の透過を妨げる半透明の泥水や水垢、光を通さない泥や厚く堆積した水垢は、立体物から反射される光の受光を部分的に妨げ、立体物の像の一部又は全部を欠落させたり、受光する光を部分的に弱めたりする。
　具体的に、図２２に示すように、レンズ１１に異物が付着していない場合に検出領域Ａ１に他車両ＶＸが存在する場合には鳥瞰視画像を視点変換した際に立体物が倒れ込む方向ＥＬ１～ＥＬ４に沿って、他車両ＶＸの特徴、例えばタイヤとホイールとの境界に応じた差分波形情報（度数）が所定閾値以上の画素又は輝度差が所定値以上のエッジ量が各閾値ｓｂ以上の量で分布する。他方、図２３に示すように、レンズ１１に異物ＣＬが付着している場合を実験により評価すると、検出領域Ａ１に他車両ＶＸその他の立体物が何も存在しない場合であっても、鳥瞰視画像を視点変換した際に立体物が倒れ込む方向ＥＬ１～ＥＬ４に沿って、閾値ｓｂを超える差分波形情報の度数分布、輝度差が所定値以上のエッジ量が検出される傾向がある。このようなレンズ１１に付着した異物ＣＬに起因する像に対応する画素情報は、他車両ＶＸその他の立体物の誤検出を誘起する。
　このため、本実施形態の差分波形情報に基づいて立体物を検出する立体物検出装置１は、差分波形情報に基づいてレンズ１１に付着した異物を検出する異物検出部３８を備える。本実施形態の異物検出部３８は、立体物検出部３３により一又は複数の第１のタイミングで生成された差分波形情報から第１極大値を抽出するとともに、この第１極大値に基づく基準値を取得し、第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された差分波形情報から鳥瞰視画像上において第１極大値に位置又は時間が対応する第２極大値を抽出するとともに、この第２極大値に基づいて評価対象値を取得する。そして、異物検出部３８は、これら評価対象値と基準値との差分の経時的変化に基づいて、レンズに異物が付着しているか否かを検出する。
　本実施形態の異物検出部３８は、第１のタイミングにおいて生成された差分波形情報に含まれる第１極大値抽出し、この第１極大値を特定するｘ値（位置または時間）とｙ値（カウント値）とを取得し、第１極大値（ｙ値）に基づいて基準値を得る。基準値は第１極大値（ｙ値）以下の値、第１極大値（ｙ値）の所定割合の値と、第１極大値（ｙ値）から所定値を減算した値とすることができる。また、第２タイミングにおいて生成された差分波形情報に含まれる極大値であって、第１極大値のX値（位置または時間）に対応する、またはX値の差が所定値以内の極大値を、第２極大値として抽出する。この第２極大値（ｙ値）に基づいて評価対象値を得る。評価対象値は第２極大値（ｙ値）以下の値、第２極大値（ｙ値）の所定割合の値、第２極大値（ｙ値）から所定値を減算した値とすることができる。この手法は、第１極大値から基準値を導出する手法と共通の手法を用いることができる。
　異物検出部３８は、これら評価対象値と基準値との差分を経時的に取得し、各タイミングにおいて取得された差分を経時的な変化を算出する。本実施形態の異物検出部３８は、位置または時間が対応する評価対象値と基準値との経時的な変化量に基づいて、レンズに異物が付着しているか否かを検出する。異物検出部３８は、時間の経過に伴う経時的変化として、評価対象値と基準値とのずれ（ばらつき）の程度を求める。時間が経過しても評価対象値と基準値との変化量が小さければ、第１タイミングにおいて検出された対象物と第２タイミングにおいて検出された対象物とは同じ対象物である、つまり、レンズ１１に付着した対象物（異物）であると判断することができる。
　異物検出部３８は、時間の経過に伴う評価対象値と基準値との変化を評価するために、評価対象値と基準値との差分の経時的変化の度合が所定の判断範囲以内であると判断された場合には、評価対象値に対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断し、レンズ１１に異物が付着していることを検出する。具体的には、評価対象値と基準値との差分が所定値以内である状態が所定時間継続する場合には、レンズ１１に異物が付着していることを検出し、評価対象値と基準値との差分が所定値を超える、または両者の差分が所定値以内である状態が所定時間継続しない場合には、レンズ１１に異物が付着していないことを検出する。
　本実施形態の異物検出部３８は、立体物検出部３３により一又は複数の第１のタイミングで生成された差分波形情報に少なくともバンドパスフィルタを用いた信号処理を行う。このバンドパスフィルタは、指定した周波数帯の信号の通過を遮断又は減衰させ、所望の周波数帯の信号の通過を許容する。バンドパスフィルタは、位置方向、例えば自車両Ｖの後方方向に沿うカメラ１０からの離隔方向（図２３の＋ｙ値）、時間方向、又は空間方向に沿って処理を行う。
　本実施形態では、バンドパスフィルタとして、高周波成分を遮断又は減衰させるローパスフィルタ（ハイカットフィルタ）を用いる。差分波形情報にローパスフィルタを用いた信号処理を行うことにより、差分波形情報に平滑化・平均化・ぼかしを施すことができる。ローパスフィルタを用いた信号処理を行うと、ノイズと判断することができる小さい極大値を除去し、比較的大きな変化を示す極大値を顕在化させ、取得した画像情報の特徴を抽出することができる。これにより、レンズ１１に付着した異物の存在に起因する差分波形情報又はエッジ情報の極大値を顕在化させ、異物に対応する画像情報の特徴を抽出することができる。
　また、異物検出部３８は、遮断又は減衰させる周波数が異なる２種以上のバンドパスフィルタを使用することができる。たとえば、異物検出部３８は、通過周波数が相対的に低い（例えば0.3Hz）ローパスフィルタと、通過周波数が相対的に高い（例えば1Hz）ローパスフィルタの二つを用いて信号処理を行い、位置、時間、空間などの横軸が同じ位置の値を比較して、低い方の値を選択する（セレクトロー処理）を行うことができる。このように、他車両ＶＸなどの立体物の特徴でもある極大値は抽出しつつ、ノイズや光環境により生じる高周波成分を遮断又は減衰させるので、光環境による誤検出を抑制しつつ、検出対象である他車両ＶＸが存在するにもかかわらず検出を抑制することを防止することができる。
　本実施形態の異物検出部３８は、異物の検出結果に応じてバンドパスフィルタの遮断又は減衰領域を変更する。異物検出部３８は、レンズ１１に付着した異物が所定時間以上継続して検出された場合には、バンドパスフィルタの遮断／減衰周波数の範囲を広くする。ローパスフィルタを用いる場合には、遮断又は減衰させる周波数帯の上限値を高く変更する。もちろん、遮断又は減衰させる周波数帯の下限値を低く変更してもよい。つまり、本実施形態では、レンズ１１に付着した異物が検出され、その異物が同じ場所に所定時間以上に存在する場合には、異物がレンズ１１に比較的強い力で付着しており、将来的にも継続してこの異物が検出される可能性が高いと判断し、遮断／減衰周波数帯を広くして信号処理後の「基準波形情報の極大値」及び「基準値」がより低い値として導出されるようにする。これにより、異物検出の閾値を低くすることができるので、レンズ１１に異物が付着していると判断されることを促進することができ、異物付着時に行う他車両ＶＸの判断制御が実行されやすいようにすることができる。この結果、異物付着の検知状態に迅速に呼応し、応答性の良好な他車両ＶＸの検出処理を実行することができる。本実施形態において、「レンズ１１に異物が付着していると判断されることを促進する」とは、「レンズ１１に異物が付着している」という判断結果が出やすいよう制御処理を行うことである。具体的には、閾値の変更、バンドパスフィルタの遮断又は減衰領域の変更などにより制御内容を調整して「レンズ１１に異物が付着している」という判断結果が出やすいようにする。なお、「レンズ１１に異物が付着していると判断されることを促進する」制御は、「立体物が他車両であると判断されにくくする（立体物が他車両であると判断されることを抑制する）」結果を導く傾向がある。
　本実施形態の異物検出部３８は、上述したバンドパスフィルタを用いる信号処理に加えて、変化率リミッタを用いた信号処理を実行する。変化率リミッタを用いた信号処理を行うことにより、さらに、差分波形情報を平滑化することができ、ノイズと判断することができる小さい極大値を除去し、比較的大きな変化を示す極大値に応じた画像情報の特徴を抽出することができる。これにより、レンズ１１に付着した異物の存在に起因する画像情報の特徴を抽出することができる。
　本実施形態の異物検出部３８は、異物の検出結果に応じて変化率リミッタの制限変化率を変化させる。異物検出部３８は、レンズ１１に付着した異物が所定時間以上継続して検出された場合には、変化率リミッタの制限変化率を高くする。本実施形態では、上述のバンドパスフィルタによる処理と同様に、レンズ１１に付着した異物が将来的にも継続して検出される可能性が高いと判断できる場合には、変化率リミッタの制限変化率を高くして信号処理後の「基準波形情報の極大値」及び「基準値」がより低い値として導出され、異物付着時に行う他車両ＶＸの判断制御が実行されやすいようにすることができる。
　バンドパスフィルタを用いた信号処理を行って得た「基準波形情報の極大値」に基づいて「基準値」を取得する。取得した「基準値」に基づいて異物を判断するための「所定の判断範囲」を定義する。例えば、「基準値」を中央値として、基準値に余裕値を加算した値と、基準値から余裕値を減算した値とに基づいて「所定の判断範囲」を定義する。
　本実施形態の異物検出部３８は、第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された差分波形情報の極大値に基づいて「評価対象値」を取得し、鳥瞰視画像上の位置が共通する「評価対象値」と「基準値」との差分が「所定の判断範囲」内であると判断される回数をカウントアップする。このカウントアップは、予め定義した所定の評価時間内において行うことができる。異物検出部３８は、カウントアップされた回数が所定値以上となった場合に、そのカウントアップの結果を導いた評価対象値に対応する画素を含む画像がレンズ１１に付着した異物に起因する画像であると判断する。
　上述した異物検出部３８の処理は、エッジ情報に基づいても行うことができる。異物検出部３８は、一又は複数の第１のタイミングで立体物検出部３７により生成されたエッジ線の情報を含むエッジ情報から第１極大値を抽出するとともに、この第１極大値に基づいて基準エッジ長さを取得する。エッジ線の情報には所定閾値以上の輝度差を示し、所定の連続性を有するエッジの長さの情報（画素の数を含む）をふくむ。また、異物検出部３８は、第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成されたエッジ情報から鳥瞰視画像上において第１極大値に対応する第２極大値を抽出するとともに、この第２極大値に基づいて評価エッジ長さを取得する。そして、評価エッジ長さと基準エッジ長さとの差分の経時的変化に基づいて、レンズに異物が付着しているか否かを検出する。「経時的変化」の意義は、差分波形情報に基づく処理における「経時的変化」の意義に対応する。
　異物検出部３８は、評価エッジ長さと基準エッジ長さとの差分の経時的変化の度合が所定の判断範囲以内であると判断された場合には、評価エッジ長さに対応する画素を含む画像がレンズ１１に付着した異物に起因する画像であると判断し、レンズ１１に異物が付着していることを検出する。
　具体的に、異物検出部３８は、第１のタイミングで生成されたエッジ線の情報を含むエッジ情報に少なくともバンドパスフィルタを用いた信号処理を行い、この信号処理後の「基準エッジ情報の極大値」に基づいて「基準エッジ長さ」を取得する。そして、第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成されたエッジ情報の極大値に基づいて「評価エッジ長さ」を取得し、鳥瞰視画像上の位置が共通する評価エッジ長さと基準エッジ長さとの差分が「所定の判断範囲」内であると判断される回数に基づいて、評価エッジ長さに対応する画素を含む画像がレンズ１１に付着した異物に起因する画像であると判断する。この判断は、予め定義した所定の評価時間内において行うことができる。バンドパスフィルタとしてローパスフィルタを利用できる点及びその作用・効果、異物の検出状態に応じてバンドパスフィルタの遮断・減衰周波数帯を変更できる点及びその作用・効果は、上述の説明と共通するので、その説明を援用する。エッジ情報に基づく異物検出処理における「基準エッジ情報」は上述した「基準差分波形情報」に対応し、同「基準エッジ長さ」は上述の「基準値」に対応し、同「評価エッジ長さ」は上述の「評価対象値」に、同「評価エッジ長さ」を評価するための「所定の判断範囲」は上述の基準波形情報を用いた処理における「評価対象値」を評価するための「所定の判断範囲」に対応する。重複した説明を避けるため、上記対応関係に基づいて、本明細書の説明を適宜に読み替えて援用する。
　ところで、本来の検出対象である他車両ＶＸなどは本装置１とは独立に動くので、他車両ＶＸの特徴に応じた差分波形情報又はエッジ情報の極大値の値（大きさ）や位置（検出領域Ａ１，Ａ２における位置）は刻々に変化する。しかし、レンズ１１に付着した異物は本装置１とともに動くので、他車両ＶＸが検出領域Ａ１，Ａ２に存在する場合に比べて、異物の特徴に応じた差分波形情報・エッジ情報の極大値の値（大きさ）や位置（検出領域Ａ１，Ａ２における位置）の経時的な変化は小さい傾向がある。この傾向は、流動性の低い泥や水垢では顕著に見られる。
　このようなレンズ１１に付着した異物ＣＬの像の特徴を考慮すれば、第１のタイミングで生成された差分波形情報・エッジ情報の極大値と同じ位置（検出領域Ａ１，Ａ２における同じ位置）に、「基準値」／「基準エッジ長さ」との差が判断範囲以内に収まる「評価対象値」／「評価エッジ長さ」が所定回数以上検出された場合、又は所定の評価時間内において所定頻度以上検出された場合には、その第２のタイミングにおける差分波形情報・エッジ情報の極大値は移動する立体物の特徴に対応する極大値ではないと判断することができる。言い換えると、第２のタイミングにおける差分波形情報・エッジ情報の極大値は、立体物のように明確な輪郭(エッジ)を持つものではなく、本装置１とともに移動するレンズ１１に付着した異物に起因する特徴であると判断することができる。したがって、上記、異物として検出された情報（差分波形情報、エッジ情報）は、自車両Ｖの隣接車線を走行する他車両ＶＸの像を示す情報（差分波形情報、エッジ情報）ではないと判断することができる。
　本実施形態の立体物検出装置１は、レンズ１１を介して実際に撮像した画像情報から、そのレンズ１１に付着した異物特有の特徴を抽出し、抽出した特徴に基づいてそのレンズ１１に付着した異物の存在を判断するので、レンズ１１の状態を正確に判断することができる。この結果、レンズ１１上に付着した異物を誤って他車両ＶＸと検出することを抑制できるので、他車両ＶＸを正確に検出することができる。
　さらに、本実施形態では、差分波形情報を用いてレンズ１１に付着した異物を検出する際に、差分画像上において所定の差分を示す画素数をカウントして度数分布化した値の極大値を用いるが、これに代えて、この極大値を構成する画素において、隣接する画素の画素値の差が所定値未満の複数の画素群を抽出するとともに、これら画素群の間の反転ポイントの数の極大値を異物の検出に用いることができる。隣接する画素の画素値が所定値未満の画素群は、検出対象の特徴点（差分・エッジ等）に応じた明（又は暗）の部分であり、これら画素群の間は明から暗（又は暗から明）に反転する暗（又は明）の部分である。画素値が所定値以上異なる画素群の反転数は検出対象の特徴点に応じるものであるから、同所定差分を示す画素数のカウント結果を用いる場合と同様の精度で、同様の処理を行うことができる。
　具体的に、差分画像情報に基づいて異物を検出する場合において、立体物検出３３は、異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、その位置合わせされた鳥瞰視画像の差分画像上において、鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿って、差分画像上において所定の差分を示す画素のうち、隣接する画素の画素値の差が所定値未満の複数の画素群を抽出する。画素値が共通する複数の画素をグループ化すると、グループ化された画素群同士の間には所定値未満の画素が存在する。つまり、グループ化された一の画素群と他の画素群との間には画素値の低い画素が存在し、ここで明暗が反転する。各画素群の間を反転ポイントとし、この数をカウントして度数分布化することで「反転波形情報」を生成する。この「反転波形情報」は、本実施形態の異物検出処理における上述した「差分波形情報」に対応する。
　本実施形態の異物検出部３８は、異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、この位置合わせされた鳥瞰視画像の差分画像上において、鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿って、差分画像上において所定の差分を示す画素のうち、隣接する画素の画素値の差が所定値未満の複数の画素群を抽出し、画素群の間の反転ポイントをカウントして度数分布化することで生成された反転波形情報を立体物検出部３３から取得する。この反転波形情報は立体物検出部３３から取得した情報に基づいて異物検出部３８が生成してもよい。
　異物検出部３８は、一又は複数の第１のタイミングで生成された反転波形情報から第１極大値を抽出するとともに、この第１極大値に基づいて基準反転数を取得し、第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された反転波形情報から鳥瞰視画像上において第１極大値に対応する第２極大値を抽出する。そして、この第２極大値に基づいて評価反転数を取得し、この評価反転数と基準反転数との差分の経時的変化に基づいて、レンズ１１に異物が付着しているか否かを検出する。
　異物検出部３８は、第１のタイミングにおいて生成された反転波形情報に含まれる第１極大値抽出し、この第１極大値を特定するｘ値（位置または時間）とｙ値（反転回数値）とを取得し、第１極大値（ｙ値）に基づいて基準値を得る。基準反転数は第１極大値（ｙ値）以下の値、第１極大値（ｙ値）の所定割合の値と、第１極大値（ｙ値）から所定値を減算した値とすることができる。また、第２タイミングにおいて生成された反転波形情報に含まれる極大値であって、第１極大値のX値（位置または時間）に対応する、またはX値の差が所定値以内の極大値を、第２極大値として抽出する。この第２極大値（ｙ値）に基づいて評価反転数を得る。評価反転数は第２極大値（ｙ値）以下の値、第２極大値（ｙ値）の所定割合の値、第２極大値（ｙ値）から所定値を減算した値とすることができる。この手法は、第１極大値から基準反転数を導出する手法と共通の手法を用いることができる。
　異物検出部３８は、これら評価反転数と基準反転数との差分を経時的に取得し、各タイミングにおいて取得された差分を経時的な変化を算出する。本実施形態の異物検出部３８は、位置または時間が対応する評価反転数と基準反転吸うとの経時的な変化量に基づいて、レンズに異物が付着しているか否かを検出する。異物検出部３８は、時間の経過に伴う経時的変化として、評価反転数と基準反転数とのずれ（ばらつき）の程度を求める。時間が経過しても評価反転数と基準反転数との変化量が小さければ、第１タイミングにおいて検出された対象物と第２タイミングにおいて検出された対象物とは同じ対象物である、つまり、レンズ１１に付着した対象物（異物）であると判断することができる。
　異物検出部３８は、時間の経過に伴う評価反転数と基準反転数との変化を評価するために、評価反転数と基準反転数との差分の経時的変化の度合が所定の判断範囲以内であると判断された場合には、評価反転数に対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断し、レンズ１１に異物が付着していることを検出する。具体的には、評価反転数と基準反転数との差分が所定値以内である状態が所定時間継続する場合には、レンズ１１に異物が付着していることを検出し、評価反転数と基準反転数との差分が所定値を超える、または両者の差分が所定値以内である状態が所定時間継続しない場合には、レンズ１１に異物が付着していないことを検出する。
　具体的に、異物検出部３８は、立体物検出部３３から取得した第１のタイミングにおける「反転波形情報」に少なくともバンドパスフィルタを用いた信号処理を行い、この信号処理後の「基準反転波形情報」の極大値に基づいて「基準反転数」を取得する。そして、第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された「反転波形情報の極大値」に基づいて「評価反転数」を取得する。そして、鳥瞰視画像上の位置が共通する「評価反転数」と「基準反転数」との差分が「所定の判断範囲」内であると判断される回数に基づいて、第２のタイミングおいて生成された「評価反転数」に対応する画素を含む画像がレンズ１１に付着した異物に起因する画像であると判断する。反転波形情報を用いてレンズ１１に付着した異物を検出する処理は、上述した差分波形情報を用いてレンズ１１に付着した異物を検出する処理と同様の作用・効果を奏し、同様の変形態様を適用することができる。本処理例における「反転波形情報」は上述した「差分波形情報」に対応し、同「基準反転数」は上述した「基準値」に対応し、同「評価反転数」は上述した「評価対象値」に、同「所定の判断範囲」は上述の基準波形情報を用いた処理における「所定の判断範囲」に対応する。重複した説明を避けるため、上記対応関係に基づいて、本明細書の説明を適宜に読み替えて援用する。
　ちなみに、エッジ情報を用いても上述した処理と同様の処理を行うことができる。
　この場合は、立体物検出部３７は、鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿って互いに隣接する画像領域の画素の輝度差が閾値ｔ以上である画素であって連続性を有するエッジ成分にうち、隣接する画素の輝度差が所定値未満の複数の画素群を抽出する。画素値が共通する複数の画素をグループ化すると、グループ化された画素群同士の間には輝度差が所定値未満の画素が存在する。つまり、グループ化された一の画素群と他の画素群との間には輝度の低い画素が存在し、ここで明暗が反転する。各画素群の間を反転ポイントとし、この数をカウントして度数分布化することで「反転エッジ情報」を生成する。この「反転エッジ情報」は、本実施形態の異物検出処理における上述した「反転波形情報」に対応する。
　そして、異物検出部３８は、立体物検出部３７により生成された第１のタイミングにおける「反転エッジ情報」に少なくともバンドパスフィルタを用いた信号処理を行い、この信号処理後の「基準反転エッジ情報」の極大値に基づいて「基準反転数」を取得する。そして、第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された「反転エッジ情報の極大値」に基づいて「評価反転数」を取得し、鳥瞰視画像上の位置が共通する「評価反転数」と「基準反転数」との差分が「所定の判断範囲」内であると判断される判断回数に基づいて、第２のタイミングおいて生成された「評価反転数」に対応する画素を含む画像がレンズ１１に付着した異物に起因する画像であると判断する。
反転エッジ情報を用いてレンズ１１に付着した異物を検出する処理は、上述した反転波形情報を用いてレンズ１１に付着した異物を検出する処理と同様の作用・効果を奏し、同様の変形態様を適用することができる。本処理例における「エッジ情報」から得た「反転エッジ情報」は上述した「差分波形情報」から得た「反転波形情報」に対応し、同じく「基準反転エッジ情報」における「基準反転数」は、上述した「基準反転波形情報」における「基準反転数」に対応し、同「反転エッジ情報」における「評価反転数」は上述した「反転波形情報」における「評価反転数」に対応し、同「反転エッジ情報」における「評価反転数」を評価するための「所定の判断範囲」は、「反転波形情報」における「評価反転数」を評価するための「所定の判断範囲」に対応する。重複した説明を避けるため、上記対応関係に基づいて、本明細書の説明を適宜に読み替えて援用する。
　また、異物検出部３８は、「評価対象値」が、他車両ＶＸを判断するために設定された閾値αの所定割合以上の値であると判断された回数に基づいて、第２のタイミングにおいて生成された差分波形情報の評価対象値に対応する画素を含む画像はレンズ１１に付着した異物に起因する画像であると判断する。「評価対象値」が判断範囲以内に含まれると判断できる場合であっても、極端に低い画素値に対応する物体が異物である可能性は低い。また、他車両ＶＸを判断するために設定された第１閾値αの所定割合以上の「評価対象値」が検出された場合には、異物が他車両ＶＸであると誤検出される可能性が生じる。このため、本実施形態では「評価対象値」が第１閾値αの所定割合以上の場合には、異物であるとの判断結果が出るように異物検出処理を促進する。これにより、異物が他車両ＶＸであると誤った判断をする確率を低減することができる。
　同様に、異物検出部３８は、「評価エッジ長さ」が、他車両ＶＸを判断するために設定された閾値θの所定割合以上の値であると判断された回数に基づいて、第２のタイミングにおいて生成されたエッジ情報の評価エッジ長さに対応する画素を含む画像はレンズ１１に付着した異物に起因する画像であると判断する。「評価エッジ長さ」が判断範囲以内に含まれると判断できる場合であっても、極端に低い評価エッジ長さに対応する物体が異物である可能性は低い。また、他車両ＶＸを判断するために設定された閾値θの所定割合以上の「評価エッジ長さ」が検出された場合には、異物が他車両ＶＸであると誤検出される可能性が生じる。このため、本実施形態では「評価エッジ長さ」が閾値θの所定割合以上の場合には、異物であるとの判断結果が出るように異物検出処理を促進する。これにより、異物が他車両ＶＸであると誤った判断をする確率を低減することができる。
　図２４は、エッジ情報を用いた場合の異物検出処理の制御手順を示すフローチャートである。
　ステップＳ４１において、異物検出部３８は、立体物検出部３７が生成した第１のタイミングにおける「エッジ情報」及び／又は「反転エッジ情報」を取得する。ステップＳ４２において、異物検出部３８は「エッジ情報」・「反転エッジ情報」にローパスフィルタを用いた信号処理をして「基準エッジ情報」・「基準反転エッジ情報」を取得する。図２５Ａに、第１のタイミングにおける「エッジ情報」のモデルと、ローパスフィルタ処理がされた「基準エッジ情報」を示す。「エッジ情報」は、各立体物が倒れこむ方向（ビン）の検出位置（カメラ１０から離隔する方向に沿う検出領域Ｒ１，Ｒ２における位置）ごとの、各立体物の倒れこみ方向に沿うエッジ成分の量としてのエッジ長さである。同図に示す「エッジ情報」の極大値の検出位置と「基準エッジ情報」の極大値の検出位置は共通する。そして、ステップＳ４３において、異物検出部３８は「基準エッジ情報」の極大値を「基準エッジ長さ」として取得する。「基準エッジ長さ」は、極大値に所定係数を乗じたもの、極大値から所定値を減算したものであってもよい。
　同ステップにおいて、異物検出部３８は、「基準エッジ長さ」を中央値とする「判断範囲」を定義する。「判断範囲」の一例を図２５Ｂに示す。同様に、異物検出部３８は「基準反転エッジ情報」の極大値を「基準反転数」として取得し、この「基準反転数」を中央値とする「判断範囲」を定義する。図２６Ａに、第１のタイミングにおける「反転エッジ情報」のモデルと、ローパスフィルタ処理がされた「基準反転エッジ情報」と、基準反転エッジ情報の極大値に対応する「基準反転数を」を示す。また、図２６Ｂに第２のタイミングにおける「反転エッジ情報」と「判断範囲」とを示す。
　並行して、ステップＳ１５１において、異物検出部３８は第１のタイミングの後の第２のタイミングにおけるエッジ情報／反転エッジ情報を取得する。第２のタイミングは、第１のタイミングの後の一又は複数のタイミングである。第２のタイミングは、異物検出を行うために必要とする時間として設定された「評価時間」内に設定することができる。第２のタイミングにおけるエッジ情報／反転エッジ情報を、図２５Ｂに破線で示す。ステップＳ１５２において、異物検出部３８はエッジ情報に含まれるエッジ長さの極大値ａ，ｂを「評価エッジ長さ」として取得する。
　ステップＳ４４に進み、異物検出部３８は、第２のタイミングにおける「評価エッジ長さ」ａ，ｂが判断範囲以内であるか否かを判断する。図２５Ｂに示す例では、右側のピークに対応する「評価エッジ長さ」ａは、所定範囲外であるので、異物である可能性は低く、立体物や他車両ＶＸである可能性が高い。他方、左側のピークに対応する「評価エッジ長さ」ｂは、所定範囲以内であるので、異物である可能性が高いと判断できる。「評価エッジ長さ」ａ，ｂが判断範囲以内であれば、異物である可能性が高いとしてステップＳ４５に進み、第１スコアＧをカウントアップ(加算)する。他方、判断範囲外であれば、異物である可能性が低いとしてステップＳ４６に進み、第２スコアＤをカウントダウン（減算）する。
　本実施形態において、第１スコアの絶対値は第２スコアの絶対値よりも高く設定する。このように、「評価エッジ長さ」が所定範囲以内であるときに大きい値を加算し、「評価エッジ長さ」が所定範囲外であるときに小さい値を減算することにより、「評価エッジ長さ」が所定範囲以内であると判断された事実に大きな重みづけを行う。本実施形態における他車両ＶＸの検出結果は、太陽、街灯、後続車両のヘッドライトなどの光の影響を受けやすい。検出結果に影響を与える輝度の高い光がレンズ１１に入射して「評価エッジ長さ」が「所定範囲」外であると判断された場合であっても、異物がレンズ１１に付着している可能性は否定できない。このため、「評価エッジ長さ」が「所定範囲」外であると判断されても、他車両ＶＸの検出結果に与える影響を抑制するため、減算する値を相対的に小さい値とする。この結果、レンズ１１に付着した異物の存在を正確に判断することができる。
　第１スコアの絶対値Ｇと第２スコアの絶対値Ｄとの関係は特に限定されず、実験等により適宜に設定することができる。一例ではあるが、Ｇ（８～１２）：Ｄ（１～３）程度、例えば、Ｇ＝１０に対してＤ＝１と設定することができる。この第１スコアの絶対値Ｇと第２スコアの絶対値Ｄの関係は、時刻、走行場所、天候などの環境に応じて適宜に設定することができる。
　続くステップＳ４７において、ステップＳ５１において取得した第２のタイミングにおける反転エッジ情報に基づく反転評価数は、判断範囲以内であるか否かを判断する。判断手法は、ステップＳ４４と共通するので、説明を適宜に援用する。「評価反転数」ａ´，ｂ´が判断範囲以内であれば、異物である可能性が高いとしてステップＳ４８に進み、第１スコアＧをカウントアップ(加算)する。他方、判断範囲外であれば、異物である可能性が低いとしてステップＳ４９に進み、第２スコアＤをカウントダウン（減算）する。
　続くステップＳ４８において、異物検出部３８は、ステップＳ５２において取得した「評価エッジ長さ」が、他車両ＶＸを判断するために設定された閾値θの所定割合以上の値であるか否かを判断し、「評価エッジ長さ」が閾値θの所定割合以上である場合にはステップＳ５０に進み、第１スコアＧをカウントアップ(加算)する。他方、判断範囲外であれば、ステップＳ５１に進み、第２スコアＤをカウントダウン（減算）する。
　なお、ステップＳ４５、ステップＳ４８、ステップＳ５０の第１スコアＧ、ステップＳ４６、ステップＳ４９、ステップＳ５１の第２スコアＤは同じ値であってもよいし、異なる値であってもよい。本実施形態では、エッジ長さに関するステップＳ４４の条件及び反転回数に関するステップＳ４７の条件の２つの条件を満たすステップＳ４８の第１スコアＧは、ステップＳ４５の第１スコアＧよりも高く設定する。
　ステップＳ５２において異物検出部３８は、カウント値を集計する。ステップＳ５３において、集計したカウント値が予め設定された所定値以上である場合にはステップＳ５４へ進み、レンズ１１に異物が付着していると判断し、他方、集計したカウント値が予め設定された所定値未満である場合にはステップＳ５５へ進み、レンズ１１に異物が付着していないと判断する。判断結果は、立体物判断部３４及び制御部３９へ送出される。
　図２７は、差分波形情報を用いてレンズ１１に異物が付着しているか否かを判断する制御手順を示すフローチャートである。図２７の処理は図２４の処理と共通するので、図２４の制御手順についての説明を適宜に援用し、重複した説明を省略する。
　次に、制御部３９について説明する。差分波形情報に基づいて他車両ＶＸを検出する本実施形態の制御部３９は、前回の処理において異物検出部３８により「レンズに付着した異物を検出した」という判断がされた場合には、次回の処理において第２のタイミングにおいて生成された差分波形情報の極大値に対応する画素を含む所定領域の画像から検出される立体物が他車両ＶＸであると判断されることを抑制するために制御命令を生成する。同様に、エッジ情報に基づいて他車両ＶＸを検出する本実施形態の制御部３９は、前回の処理において異物検出部３８により「レンズに付着した異物を検出した」という判断がされた場合には、次回の処理において第２のタイミングにおいて生成されたエッジ情報のエッジ長さの極大値に対応する画素を含む所定領域の画像から検出される立体物が他車両ＶＸであると判断されることを抑制するために制御命令を生成する。各制御命令は、立体物検出部３３，３７、立体物判断部３４、異物検出部３８、又は自身である制御部３９の何れか一つ以上の各部に送出され、各部において実行される。制御命令は各処理のプログラムに予め組み込んでもよいし、実行時に制御部３９が各部へ送出してもよい。
　本実施形態の制御部３９は、異物検出部３８によりレンズ１１に付着した異物が検出されたと判断された場合には、「評価対象値」又は「評価エッジ長さ」に対応する画素を含む所定領域に対応する差分波形情報又はエッジ情報の部分をマスクする。異物検出の判断の原因となった第２のタイミングにおける「評価対象値」又は「評価エッジ長さ」に対応する画素を含む所定領域から得られる情報をマスクし、その情報を立体物検出処理や立体物判断処理に使用しないようにするので、レンズ１１に付着した異物を他車両ＶＸとして誤検出することを抑制することができる。
　また、本実施形態の制御部３９は、このマスク処理によりマスクされた領域の面積が、各検出領域Ａ１，Ａ２の面積の所定割合以上となった場合には、他車両ＶＸを検出する処理を中止する。異物検出に伴うマスク処理により検出領域Ａ１，Ａ２の画像の一部の情報が除去される。異物が覆うレンズ１１の表面積が大きくなるほど、マスク処理がされる画像領域の面積も大きくなる。異物がレンズ１１の所定割合以上乃至全面を覆った場合には、正確な他車両ＶＸの検出が難しくなる。このように、マスク領域の面積が、所定面積以上、例えば、各検出領域Ａ１，Ａ２の面積の所定割合以上の面積以上となった場合に他車両ＶＸの検出を中止することにより、他車両ＶＸの検出精度を保つことができる。
　また、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、第１閾値αを立体物が検出され難いように高く変更する制御命令を生成し、立体物検出部３３に出力する。制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値を低くする制御命令を生成し、当該制御命令を立体物検出部３３に出力する。このように、第１閾値αを高くし、又は度数分布化された値を低く出力することにより、立体物が検出されることが抑制され、結果として異物を他車両ＶＸとして誤検出することを防止することができる。
　この場合において、本実施形態の制御部３９は、評価対象値、評価反転数に対応する画素を含む所定領域に対応する差分波形情報を処理する際に第１閾値αを高くし、又は評価対象値、評価反転数に対応する画素を含む所定領域に対応する部分の差分波形情報に係る度数分布化された値を低く出力する。これにより、第２のタイミングにおいて生成された差分波形情報の極大値に対応する画素を含む所定領域の画像から検出される立体物が他車両ＶＸであると判断されることを抑制することができる。
　本実施形態の制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、閾値θを立体物が検出され難いように高く変更する制御命令を生成し、立体物検出部３７に出力する。また、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、検出したエッジ長さを含むエッジ情報の量を低く出力する。このように、閾値θを高くし、又は度数分布化された値を低く出力することにより、立体物が検出されることが抑制され、結果として異物を他車両ＶＸとして誤検出することを防止することができる。
　この場合において、本実施形態の制御部３９は、評価エッジ長さ、評価反転数に対応する画素を含む所定領域に対応するエッジ情報を処理する際に閾値θを高くし、又は評価エッジ長さ、評価反転数に対応する画素を含む所定領域に対応する部分のエッジ情報に係るエッジ長さを低く出力する。これにより、第２のタイミングにおいて生成されたエッジ情報のエッジ長さの極大値に対応する画素を含む所定領域の画像から検出される立体物が他車両ＶＸであると判断されることを抑制することができる。
　なお、制御部３９は、異物検出部３８がレンズ１１に付着した異物を検出した場合には、差分波形情報から立体物を判断する際に用いる第１閾値αに加えて、差分波形情報を生成する際の画素値の差分に関する閾値ｐを高く変更してもよい。制御部３９は、エッジ情報を生成する際のエッジ長さを判定する閾値θに加えて、エッジ情報から立体物を判断する際に用いる第２閾値βを高く変更してもよい。ちなみに、第１閾値αは、図１１のステップＳ７において、差分波形ＤＷｔのピークを判断するためのである。閾値θは、図１７のステップＳ２９における各注目点Ｐａの属性の連続性ｃの総和を正規化した値（エッジの長さ）を判断する閾値であり、第２閾値βは、図１８のステップ３４におけるエッジ線の量（本数）を評価する閾値である。このように、判断の閾値を高く変更することにより、自車両Ｖの走行車線の隣を走行する他車両ＶＸが検出されにくいように検出感度が調整されるため、レンズ１１に付着した異物を他車両ＶＸとして誤検出することを防止することができる。
　本実施形態の制御部３９は、異物検出部３８により「レンズ１１に異物が付着している」と判断されると、鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値を低く出力する制御命令を立体物検出部３３に出力する。鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値とは、図１１のステップＳ５において生成される差分波形ＤＷｔの縦軸の値である。
　また、本実施形態の制御部３９は、異物検出部３８により「レンズ１１に異物が付着している」と判断されると、検出したエッジ情報を低く出力する制御命令を立体物検出部３７に出力する。検出したエッジ情報とは、図１７のステップＳ２９における各注目点Ｐａの属性の連続性ｃの総和を正規化した値であるエッジ線の長さのほか、図１８のステップ３４におけるエッジ線の量である。制御部３９は、前回の処理で「レンズ１１に異物が付着している」と判断されると、レンズ１１に付着した異物を立体物として検出しないように、次回の処理においては立体物が検出されにくいように、各注目点Ｐａの属性の連続性ｃの総和を正規化した値又はエッジ線の量を低く変更する。このように、出力値を低くすることにより、自車両Ｖの走行車線の隣を走行する他車両ＶＸが検出されにくいように検出感度を調整できるため、レンズ１１に付着した異物を隣の車線を走行する他車両ＶＸとして誤検出することを防止することができる。
　以下、図２８～３０を参照して、異物検出部３８、制御部３９及び制御命令を取得した立体物判断部３４、立体物検出部３３，３７の動作を説明する。図２８～３０に示す処理は、前回の立体物検出処理の後に、前回処理の結果を利用して行われる今回の立体検出処理である。
　図２８に示すステップＳ６１において、異物検出部３８は、立体物検出部３７により生成された左右の検出領域Ａ１，Ａ２の差分波形情報又は立体物検出部３７により生成された左右の検出領域Ａ１，Ａ２のエッジ情報に基づいて「レンズ１１に異物が付着しているか否か」を検出する。
　異物検出手段３９により「レンズ１１に異物が付着している」と判断された場合には、ステップＳ７１に進む。ステップ７１において、制御部３９は、異物が付着している部分の画像情報（差分波形情報又はエッジ情報）をマスクする。ステップＳ７２において、制御部３９は、マスクされた部分の面積が所定値以上であるか否かを判断する。マスクされた部分の面積が所定値以上である場合には、ステップＳ７３へ進み、立体物の検出処理を中止する。又はステップＳ６５に進んで検出領域Ａ１，Ａ２に他車両ＶＸは存在しないと判断する。
　他方、マスクされた部分の面積が所定値未満である場合には、ステップＳ６２へ進み、差分波形情報又はエッジ情報に基づいて、立体物の検出処理を実行する。この立体物の検出処理は上述した立体物検出部３３による図１１、図１２の差分波形情報を用いた処理、又は立体物検出部３７による図１７、図１８のエッジ情報を用いた処理に従って行われる。そして、ステップ６３において、この立体物検出部３３，３７により検出領域Ａ１，Ａ２に立体物が検出された場合にはステップＳ６４に進み、検出された立体物が他車両ＶＸであると判断する。他方、立体物検出部３３，３７により検出領域Ａ１，Ａ２に立体物が検出されない場合にはステップＳ６５に進み、検出領域Ａ１，Ａ２に他車両ＶＸは存在しないと判断する。
　図２９に、他の処理例を示す。制御部３９は、ステップ６１において「レンズ１１に異物が付着している」と判断された場合には、ステップＳ７４に進み、差分波形情報を生成する際の画素値の差分に関する閾値ｐ、差分波形情報から立体物を判断する際に用いる第１閾値α、エッジ情報を生成する際の閾値θ、エッジ情報から立体物を判断する際に用いる第２閾値βの何れか一つ以上を高く設定する旨の制御命令を立体物検出部３３，３７へ送出する。先述したように、第１閾値αは、図１１のステップＳ７において、差分波形ＤＷｔのピークを判断するためのである。閾値θは、図１７のステップＳ２９における各注目点Ｐａの属性の連続性ｃの総和を正規化した値（エッジ線の長さ）を判断する閾値であり、第２閾値βは、図１８のステップ３４におけるエッジ線の量を評価する閾値である。
　また、図３０に示すように、制御部３９は、ステップ６１において「レンズ１１に異物が付着している」と判断された場合には、ステップＳ７５に進み、鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値を低く出力する制御命令を立体物検出部３３に出力する。鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値とは、図１１のステップＳ５において生成される差分波形ＤＷｔの縦軸の値である。同様に、ステップＳ５２において、検出したエッジ情報の量を低く出力する制御命令を立体物検出部３７に出力する。検出したエッジ情報の量とは、図１７のステップＳ２９における各注目点Ｐａの属性の連続性ｃの総和を正規化した値（エッジ線の長さ）、又は図１８のステップ３４におけるエッジ線の量である。制御部３９は、前回の処理でレンズ１１に付着した異物の存在が検出されると、この異物の像を立体物と誤検出する可能性があると判断できるため、次回の処理においては立体物が検出されにくいように、各注目点Ｐａの属性の連続性ｃの総和を正規化した値又はエッジ線の量を低く変更する制御命令を立体物検出部３７に出力する。
　以上のように構成され作用する本発明の本実施形態の立体物検出装置１は、以下の効果を奏する。
　（１）本実施形態の立体物検出装置１は、レンズ１１を介して実際に撮像した画像情報から、そのレンズ１１に付着した異物特有の特徴を抽出し、抽出した特徴の経時的変化に基づいてそのレンズ１１に付着した異物の存在を判断するので、レンズ１１の状態を正確に判断することができる。この結果、レンズ１１上に付着した異物を誤って他車両ＶＸと検出することを抑制できるので、他車両ＶＸを正確に検出することができる。以下に記載する作用及び効果は、差分画像情報を用いて他車両ＶＸを検出する場合であっても、エッジ情報を用いて他車両ＶＸを検出する場合であっても同様に奏する。
　（２）本実施形態の立体物検出装置１は、異物検出の判断の原因となった第２のタイミングにおける「評価対象値」又は「評価エッジ長さ」に対応する画素を含む所定領域から得られる情報をマスクし、その情報を立体物検出処理や立体物判断処理に使用しないようにするので、レンズ１１に付着した異物を他車両ＶＸとして誤検出することを抑制することができる。
　（３）本実施形態の立体物検出装置１は、マスクされた領域の面積が所定値以上となった場合に他車両ＶＸの検出を中止することにより、他車両ＶＸの検出精度を保つことができる。
　（４）本実施形態の立体物検出装置１は、「評価対象値」が第１閾値αの所定割合以上、異物であるとの判断結果が出るように異物検出処理を促進するので、異物が他車両ＶＸであると誤った判断をする確率を低減することができる。また、本実施形態の立体物検出装置１は、「評価エッジ長さ」が閾値θの所定割合以上の場合には、異物であるとの判断結果が出るように異物検出処理を促進するので、異物が他車両ＶＸであると誤った判断をする確率を低減することができる。
　（５）本実施形態の立体物検出装置１において、反転波形情報を用いてレンズ１１に付着した異物を検出する処理は、上述した差分波形情報を用いてレンズ１１に付着した異物を検出する処理と同様の作用・効果を奏し、同様の変形態様を適用することができる。
　（６）本実施形態の立体物検出装置１は、第１閾値αを高くし、又は度数分布化された値を低く出力することにより立体物が検出されることを抑制するので、異物を他車両ＶＸとして誤検出することを防止することができる。
　（７）本実施形態の立体物検出装置１は、閾値θを高くし、又はエッジ情報を低く出力することにより立体物が検出されることを抑制するので、異物を他車両ＶＸとして誤検出することを防止することができる。
　（８）本実施形態の立体物検出装置１は、第１スコアの絶対値は第２スコアの絶対値よりも高く設定する。このように、「評価エッジ長さ」が所定範囲以内であるときに大きい値を加算し、「評価エッジ長さ」が所定範囲外であるときに小さい値を減算することにより、「評価エッジ長さ」が所定範囲以内であると判断された事実に大きな重みづけを行う。本実施形態における他車両ＶＸの検出結果は、太陽、街灯、後続車両のヘッドライトなどの光の影響を受けやすいので、検出結果に影響を与える輝度の高い光がレンズ１１に入射して「評価エッジ長さ」が「所定範囲」外であると判断される場合であっても、異物がレンズ１１に付着している可能性を考慮し、他車両ＶＸの検出結果に与える影響を抑制するため、減算する値を相対的に小さい値とする。この結果、レンズ１１に付着した異物の存在を正確に判断することができる。
　（９）本実施形態の立体物検出装置１ではローパスフィルタを用いた信号処理を行うので、ノイズと判断することができる小さい極大値を除去し、比較的大きな変化を示す極大値を顕在化させ、取得した画像情報の特徴を抽出することができる。これにより、レンズ１１に付着した異物の存在に起因する差分波形情報又はエッジ情報の極大値を顕在化させ、異物に対応する画像情報の特徴を抽出することができる。
　（１０）本実施形態の立体物検出装置１は、レンズ１１に付着した異物が検出され、その異物が同じ場所に所定時間以上に存在する場合には、異物がレンズ１１に比較的強い力で付着しており、将来的にも継続してこの異物が検出される可能性が高いと判断し、遮断／減衰周波数帯を広くして信号処理後の「基準波形情報の極大値」及び「基準値」がより低い値として導出されるようにする。これにより、異物検出の閾値を低くすることができるので、レンズ１１に異物が付着していると判断されることを促進することができ、異物付着時に行う他車両ＶＸの判断制御が実行されやすいようにすることができる。この結果、異物付着の検知状態に迅速に呼応し、応答性の良好な他車両ＶＸの検出処理を実行することができる。
　（１１）本実施形態の立体物検出装置１では変化率リミッタを用いた信号処理を行うことにより、さらに、差分波形情報を平滑化することができ、ノイズと判断することができる小さい極大値を除去し、比較的大きな変化を示す極大値に応じた画像情報の特徴を抽出することができる。これにより、レンズ１１に付着した異物の存在に起因する画像情報の特徴を抽出することができる。
　（１２）本実施形態の立体物検出装置１は、上述のバンドパスフィルタによる処理と同様に、レンズ１１に付着した異物が将来的にも継続して検出される可能性が高いと判断できる場合には、変化率リミッタの制限変化率を高くして信号処理後の「基準波形情報の極大値」及び「基準値」がより低い値として導出され、異物付着時に行う他車両ＶＸの判断制御が実行されやすいようにすることができる。
　上記カメラ１０は本発明に係る撮像手段に相当し、レンズ１１は本発明に係るレンズに相当し、上記視点変換部３１は本発明に係る画像変換手段に相当し、上記位置合わせ部３２及び立体物検出部３３は本発明に係る立体物検出手段に相当し、上記輝度差算出部３５，エッジ線検出部３６及び立体物検出部３７は本発明に係る立体物検出手段に相当し、上記立体物判断部３４は立体物判断手段に相当し、上記異物検出部３８は異物検出手段に相当し、上記制御部３９は制御手段に相当する。
　なお、本明細書では、差分波形情報に基づいて立体物を検出する際には、差分波形情報に基づいてレンズ１１に付着した異物を検出する例と、エッジ情報に基づいて立体物を検出する際には、エッジ情報に基づいてレンズ１１に付着した異物を検出する例を説明するが、差分波形情報に基づいて立体物を検出する際にエッジ情報に基づいてレンズ１１に付着した異物を検出してもよいし、エッジ情報に基づいて立体物を検出する際に差分波形情報に基づいてレンズ１１に付着した異物を検出してもよい。
　本実施形態における位置合わせ部２１は、異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、その位置合わせされた鳥瞰視画像を得るが、この「位置合わせ」処理は、検出対象の種別や要求される検出精度に応じた精度で行うことができる。同一時刻及び同一位置を基準に位置を合わせるといった厳密な位置合わせ処理であってもよいし、各鳥瞰視画像の座標を把握するという程度の緩い位置合わせ処理であってもよい。
＜第２の実施形態＞
　以下、本発明の第２実施形態について説明する。
　車両後方を撮像した画像を用いて自車両の走行車線の隣の隣接車線を走行する他車両を障害物として検出する際に、カメラのレンズに汚れや雨水などの異物が付着している場合には、この異物の像を誤って隣接車線を走行する他車両の像として誤認するという問題がある。
　また、レンズに付着した異物が雨水などの流動性の高い性状を有するものである場合と、自車両が跳ね上げた泥などの流動性の低い性状を有するものである場合とでは、レンズ上における異物の挙動が異なるので、これら性状の異なる異物の像の影響を画一的に抑制することが難しいという問題がある。
　本実施形態に係る発明が解決しようとする課題は、カメラのレンズに付着した異物を高い精度で検出する異物検出装置及びカメラのレンズに付着した異物の性状を考慮して、レンズに付着した異物の像を他車両の像として誤検出することを防止し、自車両の走行車線の隣の隣接車線を走行する他車両を高い精度で検出する立体物検出装置を提供することである。
　本実施形態に係る発明は、カメラのレンズに汚れなどの異物が付着している状態が検出された場合には、検出される立体物が他車両であると判断されることが抑制されるように立体物を判断するための各処理を制御するとともに、異物が検出される際に自車両が走行する走行路が舗装道路であるか又は非舗装道路であるかを判断し、車両の走行路が舗装道路であると判断された場合には、レンズに付着した異物が検出されることが促進されるように異物を判断するための各処理を制御することにより、上記課題を解決する。
　本実施形態に係る発明は、自車両が舗装道路を走行する際には、レンズに付着する異物は雨水などの流動性が高い性状を有し、レンズ上を速い速度で移動することが予測できるという観点から、レンズに付着した異物を検出した場合には他車両が検出されにくくするという制御に加えて、異物が検出される際の走行路が舗装道路であると判断された場合には異物が検出されやすくするという制御を行うので、レンズ上を速い速度で移動する水滴等を継続的に検出することができる。異物を適切に検出することにより、レンズに付着した異物の像を自車両の走行車線の隣の隣接車線を走行する他車両の像として誤検出することを防止することができる。この結果、カメラのレンズに付着した異物を高い精度で検出する異物検出装置及び自車両の走行車線の隣の隣接車線を走行する他車両を、高い精度で検出する立体物検出装置及び立体物検出方法を提供することができる。
　以下、図面に基づいて、第２実施形態に係る異物検出装置、立体物検出装置及び立体物検出方法について説明する。第２実施形態の異物検出装置、立体物検出装置及び立体物検出方法は、第１実施形態のそれと基本的な構成において共通する。ここでは、重複した説明を避けるため、共通する事項については第１実施形態に関する明細書及び図面の記述を適宜に援用し、ここでは異なる点を中心に説明する。
　図１は、本発明の異物検出装置１及び立体物検出装置１を適用した第２実施形態に係る車両の概略構成図でもある。同図に示すように、本例の立体物検出装置１は、カメラ１０と、車速センサ２０と、計算機３０とを備える。これら各構成については、第１実施形態における説明を援用する。
　第２実施形態に係る異物検出装置１及び立体物検出装置１として機能する計算機３０のブロック図を図３１に示す。
　図３１は、図１の計算機３０の詳細を示すブロック図である。なお、図３においては、接続関係を明確とするためにカメラ１０、車速センサ２０、車両コントローラ１００、ナビゲーション装置２００、ＡＢＳ（アンチ・ブロックド・ブレーキングシステム：Anti-locked braking system 以下同じ）装置３００、ＴＣＳ（トラッキング・コントロール・システム：Traction Control System 以下同じ）装置４００、ＶＤＣ（ビークル・ダイナミクス・コントロール：Vehicle Dynamics Control）装置５００についても図示する。車速センサ２０、ＡＢＳ装置３００、ＴＣＳ装置４００、ＶＤＣ装置５００は、車両に搭載され、車両コントローラ１００を介して本実施形態の立体物検出装置１００と情報の授受が可能である。上記各装置は、ＣＡＮ（Controller Area Network）などの車載通信ネットワークにより情報の授受が可能である。
　図３１に示すように、計算機３０は、視点変換部３１と、位置合わせ部３２と、立体物検出部３３と、立体物判断部３４と、異物検出部３８と、走行路状態判断部４１と、制御部３９と、スミア検出部４０とを備える。本実施形態の計算部３０は、差分波形情報を利用した立体物の検出ブロックに関する構成である。本実施形態の計算部３０は、エッジ情報を利用した立体物の検出ブロックに関する構成とすることもできる。この場合は、図３に示す構成のうち、位置合わせ部３２と、立体物検出部３３から構成されるブロック構成Ａを、破線で囲んだ輝度差算出部３５と、エッジ線検出部３６と、立体物検出部３７から構成されるブロック構成Ｂと置き換えて構成することができる。もちろん、ブロック構成Ａ及びブロック構成Ｂの両方を備え、差分波形情報を利用した立体物の検出を行うとともに、エッジ情報を利用した立体物の検出も行うことができるようにすることもできる。ブロック構成Ａ及びブロック構成Ｂを備える場合には、例えば明るさなどの環境要因に応じてブロック構成Ａ又はブロック構成Ｂのいずれかを動作させることができる。
　各構成の内容、機能、動作については、第１実施形態における段落００１４乃至段落０１７８の説明を援用する。ここで、第１実施形態の説明における図３は図３１と読み替えて援用する。
　ここで、本実施形態が備える走行路状態判断部４１について説明する。走行路状態判断部４１は、車両が取得する走行情報に基づいて、車両Ｖが走行する走行路が舗装道路であるか又は非舗装道路であるかを判断する。本実施形態の「非舗装道路」又は「舗装道路」は、走行時に泥を跳ね上げる可能性に基づく分類であるため、舗装処理が施されている道路であっても、アスファルトやコンクリートで覆われた道路の表面がさらに雪、泥又は砂などで覆われている道路は、「非舗装道路」に含まれる。つまり、舗装道路であっても、非舗装道路であっても、アスファルトやコンクリートの層を有する道路を含む。また、以下、走行路が舗装道路であるか又は非舗装道路であるかを判断する手法について順次説明する。
　第１の判断手法においては、一般的に舗装道路には車線を区別するための白線が路面に表示される（視認できる）傾向が高く、非舗装道路にはその白線が表示されていない（視認できない）という点に着目し、カメラ１０の撮像画像から白線が抽出可能であるか否かに基づいて走行路が舗装道路であるか否かを判断する。
　本実施形態の走行路状態判断部４１は、カメラ１０により取得された画像から路面に表示された白線情報を抽出し、白線情報が抽出された場合には、自車両Ｖが走行する走行路が舗装道路であると判断し、白線情報が抽出されなかった場合には、自車両Ｖが走行する走行路が非舗装道路であると判断する。ここで白線抽出又は白線検出は、出願時に知られた手法を用いることができる。
　本手法によれば、白線情報の抽出可否によって走行路の状態を推測し、さらにレンズ１１に付着した異物の性状及びその挙動を予測できるので、異物検出処理及び立体物検出処理を適切に行うことができる。
　第２の判断手法においては、一般的に車両が舗装道路を走行する際には、車両Ｖが備える各車輪の車輪速度にばらつきがなく、各車輪は所定範囲内の共通の車輪速度を示すという点に着目し、車両Ｖの車輪速度のばらつきの程度に基づいて走行路が舗装道路であるか否かを判断する。
　本実施形態の走行路状態判断部４１は、自車両Ｖが備える複数の車輪の各車輪速度を取得し、取得した複数の各車輪速度のばらつきが所定値未満である場合には、自車両Ｖが走行する走行路が舗装道路であると判断し、取得した複数の車輪速度のばらつきが所定値以上である場合には、自車両Ｖが走行する走行路が非舗装道路であると判断する。各車輪の車輪速度は車速センサ２０により検出され、直接又は車両コントローラ１００を介して取得される。
　各車輪速度のばらつきの程度を判断する手法としては、前輪速度と後輪速度との差が所定値未満である場合には走行路が舗装道路であると判断し、前輪速度と後輪速度との差が所定値以上である場合には走行路が舗装道路であると判断する。又は、右側車輪速度と左側輪速度との差が所定値未満である場合には走行路が舗装道路であると判断し、右側車輪速度と左側車輪速度との差が所定値以上である場合には走行路が舗装道路であると判断する。本実施形態では、この判断を非旋回時において行う。旋回時は各車輪の車輪速度が異なるからである。また、車輪速度の比較の手法、つまりばらつきの程度の判断手法は特に限定されないが、本実施形態では、各車輪について時刻に対する車輪速度の情報を取得し、各情報についてローパスフィルタを用いて信号処理を行い、平滑化後の車輪速度ピークの位置及び値を比較することにより、各車輪の速度のばらつきを評価する。
　本手法によれば、車輪速度のばらつきによって走行路の状態を推測し、さらにレンズ１１に付着した異物の性状及びその挙動を予測できるので、異物検出処理及び立体物検出処理を適切に行うことができる。
　第３の判断手法においては、一般的に車両が舗装道路を走行する際には、滑走、タイヤの空転、横滑りなどが発生する頻度が相対的に低いが、車両が非舗装道路を走行する際には、滑走、タイヤの空転、横滑りなどが発生する頻度が相対的に高いという点に着目し、自車両Ｖが装備する滑走発生防止装置、横滑防止装置、タイヤ空転防止装置の起動の有無、起動の回数等に基づいて、走行路が舗装道路であるか否かを判断する。
　本実施形態の立体物検出装置１は、車載された滑走発生防止装置としてのＡＢＳ（Anti-locked braking system）装置３００からその動作に係る動作情報を取得し、ＴＣＳ（Traction Control System）装置４００からその動作に係る動作情報を取得し、空転防止装置としてのＶＤＣ（Vehicle Dynamics Control）装置５００からその動作に係る動作情報を取得する。各動作情報は各装置から直接取得してもよいし、車両コントローラ１００を介して取得してもよい。
　ここで各装置について説明する。
　本実施形態のＡＢＳ装置３００は、急ブレーキ又は低摩擦路でブレーキをかけた場合などにタイヤがロックされる（回転が停止する）ことを防止することにより、 車両の走行安全を保つとともに、ステアリング操舵により障害物を回避できる可能性を高める装置である。本実施形態のＡＢＳ装置は各車輪軸に取り付けられた車速センサ２０が検出した車輪速情報に基づいてブレーキを最適に制御する。滑走発生防止機能を備える他の装置を用いることができる。
　本実施形態のＴＳＣ装置４００は、車両の発進時／加速時における車輪の空転を防止する。ＴＳＣ装置４００は、自車両自体の速度と各車輪の車輪速度から車輪の空転を検出し、エンジンから伝達される駆動力を低減して空転状態を解消する。本装置は、泥道、降雪時・降雪後の道路などの非舗装道路において、路面とタイヤとの摩擦係数が低下している場合に車両姿勢の安定性を高める。なお、空転防止装置としては、ＴＳＣ装置４００のほか、ＴＲＣ（Traction Control）ＴＣＬ（Traction Control）などの空転防止機能を備える他の装置を用いることができる。
　本実施形態のＶＤＣ装置５００は、自車両Ｖの運転操作及び車速に基づいて、ブレーキやエンジン出力の制御を自動的に行い、泥道、降雪時・降雪後の道路などの滑りやすい路面やカーブを曲がるときや障害物を回避するときにクルマの横滑りを軽減する。横滑防止装置としては、ＶＤＣ装置５００のほか、ＥＳＣ装置などの横滑防止機能を備える他の装置を用いることができる。このＥＳＣ装置は、泥道、降雪時・降雪後の道路などの滑りやすい路面やカーブを曲がるときや障害物を回避するときに、後輪の横滑り（オーバーステア）や前輪の横滑り（アンダーステア）が生じる場合がある。この場合に、検出した車両挙動に応じて自動加圧によるブレーキ制御及エンジントルクの制御により横滑りを防止して旋回時における車両の姿勢を安定させる。
　本実施形態の走行路状態判断部４１は、ＡＢＳ装置３００、ＴＳＣ装置４００、又はＶＤＣ装置５００の動作に関する情報を取得し、動作回数又は動作頻度が所定値未満である場合には、車両Ｖが走行する走行路が舗装道路であると判断し、ＡＢＳ装置３００、ＴＳＣ装置４００、又はＶＤＣ装置５００の動作に関する情報を取得し、動作回数又は動作頻度が所定値以上である場合には、車両Ｖが走行する走行路が非舗装道路であると判断する。
　本手法によれば、車両の姿勢が乱れたときに車両を制御するＡＢＳ装置３００、ＴＳＣ装置４００、又はＶＤＣ装置５００の動作情報に基づいて走行路の状態を推測し、さらにレンズ１１に付着した異物の性状及びその挙動を予測できるので、異物検出処理及び立体物検出処理を適切に行うことができる。
　第４の判断手法として、ナビゲーション装置２００により現在位置と自車両Ｖの走行路を特定し、ナビゲーション装置２００が備える地図情報に含まれる道路情報を参照して、自車両Ｖの走行路が舗装道路であるか非舗装道路であるかを判断することができる。なお、本実施形態のナビゲーション装置２００がアクセス可能な地図情報は、道路ごとに舗装道路又は非舗装道路であるかの道路属性情報が対応づけられている。なお、上記道路属性情報はナビゲーション装置２００が備える通信装置２０１を介して取得することもできる。
　次に、本実施形態の制御部３９について説明する。
　本実施形態の制御部３９は、立体物検出処理及び異物検出処理の双方を制御する。
　差分波形情報に基づいて他車両ＶＸを検出する本実施形態の制御部３９は、前回の処理において異物検出部３８により「レンズに付着した異物を検出した」という判断がされた場合には、次回の処理において第２のタイミングにおいて生成された差分波形情報の極大値に対応する画素を含む所定領域の画像から検出される立体物が他車両ＶＸであると判断されることを抑制するために制御命令を生成する。同様に、エッジ情報に基づいて他車両ＶＸを検出する本実施形態の制御部３９は、前回の処理において異物検出部３８により「レンズに付着した異物を検出した」という判断がされた場合には、次回の処理において第２のタイミングにおいて生成されたエッジ情報のエッジ長さの極大値に対応する画素を含む所定領域の画像から検出される立体物が他車両ＶＸであると判断されることを抑制するために制御命令を生成する。各制御命令は、立体物検出部３３，３７、立体物判断部３４、異物検出部３８、又は自身である制御部３９の何れか一つ以上の各部に送出され、各部において実行される。制御命令は各処理のプログラムに予め組み込んでもよいし、実行時に制御部３９が各部へ送出してもよい。
　制御部３９の基本的な処理については、第１実施形態における段落０１７９～段落０１８８の記載を適宜に援用する。
　次に、制御部３９が行う、異物検出処理に対する制御手法を説明する。
　本実施形態の制御部３９は、差分波形情報を用いて立体物を検出する場合には、走行路状態判断部４１により車両Ｖが走行する走行路が舗装道路であると判断された場合には、「評価対象値」に対応する画素を含む画像がレンズ１１に付着した異物に起因する画像であると判断されることを促進する。同様に、実施形態の制御部３９は、エッジ情報を用いて立体物を検出する場合には、走行路状態判断部４１により自車両Ｖが走行する走行路が舗装道路であると判断された場合には、「評価エッジ長さ」に対応する画素を含む画像がレンズ１１に付着した異物に起因する画像であると判断されることを促進する。このように、自車両Ｖが舗装道路を走行していると判断された場合には、レンズ１１に付着する異物は雨滴や洗浄水などの流動性の高い異物であると予測し、その速い動きに対応して、次回行われる異物検出の応答性を向上させる。
　本実施形態の立体物検出装置１は、自車両Ｖが舗装道路を走行する際には、レンズに付着する異物は雨水や洗浄水などの流動性が高い性状を有し、レンズ上を速い速度で移動することが予測できるという観点から、レンズに付着した異物を検出した場合には他車両ＶＸが検出されにくくするという制御に加えて、異物が検出される際の走行路が舗装道路であると判断された場合には異物が検出されやすくするという制御を行うので、レンズ上を速い速度で移動する水滴等を継続的に追跡し、検出することができる。このように、異物を適切に検出することにより、レンズに付着した異物の像を自車両Ｖの走行車線の隣の隣接車線を走行する他車両ＶＸの像として誤検出することを防止することができる。この結果、自車両Ｖの走行車線の隣の隣接車線を走行する他車両ＶＸを、高い精度で検出する立体物検出装置１を提供することができる。
　また、制御部３９は、自車両Ｖが走行する走行路が舗装道路であると判断された場合には、異物検出部３８が用いるローパスフィルタの遮断／減衰周波数の範囲を広くさせ、走行路状態判断部４１により自車両Ｖが走行する走行路が非舗装道路であると判断された場合には、異物検出部３８が用いるバンドパスフィルタの遮断／減衰周波数の範囲を維持させ、又は狭くさせる。
　ローパスフィルタを用いた信号処理を行うと、ノイズと判断することができる小さい極大値を除去し、比較的大きな変化を示す極大値を顕在化させ、取得した画像情報の特徴を抽出することができる。レンズ１１に付着した異物の存在に起因する差分波形情報又はエッジ情報の極大値を顕在化させ、異物に対応する画像情報の特徴を抽出しやすくすることができる。つまり、異物に起因する画像が検出しやすくなり、異物であると判断される制御が促進される。これにより、自車両Ｖが舗装道路を走行する際には、付着する可能性の高い水滴等の動きの速い異物を正確に追跡し、マスク等の立体物検出処理の制御を高い応答性で実行することができる。
　制御部３９は、自車両Ｖが走行する走行路が舗装道路であると判断された場合には、異物検出部３８が用いる変化率リミッタの制限変化率を高くさせ、自車両Ｖが走行する走行路が非舗装道路であると判断された場合には、変化率リミッタの制限変化率を維持させ、又は低減させる。
　変化率リミッタを用いた信号処理を行うことにより、さらに、差分波形情報を平滑化することができ、ノイズと判断することができる小さい極大値を除去し、比較的大きな変化を示す極大値に応じた画像情報の特徴を抽出することができる。レンズ１１に付着した異物の存在に起因する差分波形情報又はエッジ情報の極大値を顕在化させ、異物に対応する画像情報の特徴を抽出しやすくすることができる。つまり、異物に起因する画像が検出しやすくなり、異物であると判断される制御が促進される。これにより、自車両Ｖが舗装道路を走行する際には、付着する可能性の高い水滴等の動きの速い異物を正確に追跡し、マスク等の立体物検出処理の制御を高い応答性で実行することができる。
　以下、図３２～３５を参照して、異物検出部３８、走行路判断部４１、制御部３９及び制御命令を取得した立体物判断部３４、立体物検出部３３，３７の動作を説明する。図３２～３５に示す処理は、前回の立体物検出処理の後に、前回処理の結果を利用して行われる今回の立体検出処理である。
　図３２に示すステップＳ６１において、異物検出部３８は、立体物検出部３３７により生成された左右の検出領域Ａ１，Ａ２の差分波形情報又は立体物検出部３７により生成された左右の検出領域Ａ１，Ａ２のエッジ情報に基づいて「レンズ１１に異物が付着しているか否か」を検出する。
　異物検出手段３９により「レンズ１１に異物が付着している」と判断された場合には、ステップＳ７１及び７６に進む。ステップ７１～７５までの処理は、次回行われる異物検出処理におけるバンドパスフィルタの遮断／減衰周波数や変化率リミッタの制限変化率の制御を更新するための処理である。
　ステップＳ７１において、走行路判断部４１は、自車両Ｖが舗装道路、整備道路を走行しているか否かを判断する。この判断処理の一例を図３３に示す。
　図３３に示すように、ステップＳ１０１において、走行路判断部４１はカメラ１０が取得した撮像画像から白線が抽出可能であったか否かを判断する。白線が抽出された場合にはステップＳ１０２へ進み、白線が抽出されなかった場合にはステップＳ１０５へ進んで、自車両Ｖが非舗装道路、非整備道路、雪や泥に路面が覆われている道路を走行していると判断する。
　ステップＳ１０２において、走行路判断部４１は車両Ｖが備える各車輪の車輪速度のばらつきを評価する。車輪速のばらつきが所定値未満である場合には、ステップＳ１０３へ進み、車輪速のばらつきが所定値以上である場合にはステップＳ１０５へ進んで、自車両Ｖは非舗装道路、非整備道路、雪や泥に路面が覆われている道路を走行していると判断する。
　ステップＳ１０３において、走行路判断部４１は車両Ｖが備えるＡＢＳ装置３００、ＴＣＳ装置４００又はＶＤＣ装置５００の動作回数又は動作頻度を評価する。各装置動作回数又は動作頻度が所定値未満である場合には、ステップＳ１０４へ進み、自車両Ｖはオンロードである（舗装道路、整備道路、雪や泥に路面が覆われていない道路を走行している）と判断する。他方、ステップＳ１０３において、各装置動作回数又は動作頻度が所定値以上である場合にはステップＳ１０５へ進んで、自車両Ｖはオフロードである（非舗装道路、非整備道路、雪や泥に路面が覆われている道路を走行している）と判断する。
　なお、ステップＳ１０１、Ｓ１０２、Ｓ１０３の処理は何れか一つ以上の処理又は二つ以上の処理を組み合わせて実行することができる。
　図３２に戻り、ステップＳ７１において自車両Ｖが舗装道路を走行していると判断された場合には、ステップＳ７４に進み、異物検出に用いるバンドパスフィルタの遮断／減衰周波数を広げ、さらにステップＳ７５に進み、異物検出に用いる変化率リミッタの制限変化率を大きくする。他方、ステップＳ７１において自車両Ｖが非舗装道路を走行していると判断された場合には、ステップＳ７２に進み、異物検出に用いるバンドパスフィルタの遮断／減衰周波数を維持し又は狭め、さらにステップＳ７３に進み、異物検出に用いる変化率リミッタの制限変化率を維持又は小さくする。遮断／減衰周波数を変化させたバンドパスフィルタ、制限変化率を変化させた変化率リミッタは次回の異物検出処理において使用される。
　上記の処理と並行して、レンズ１１に異物が付着していると判断された場合にはステップＳ７６以降の処理を行う。ステップ７６において、制御部３９は、異物が付着している部分の画像情報（差分波形情報又はエッジ情報）をマスクする。ステップＳ７７において、制御部３９は、マスクされた部分の面積が所定値以上であるか否かを判断する。マスクされた部分の面積が所定値以上である場合には、ステップＳ７８へ進み、立体物の検出処理を中止する。又はステップＳ６５に進んで検出領域Ａ１，Ａ２に他車両ＶＸは存在しないと判断する。
　他方、マスクされた部分の面積が所定値未満である場合には、ステップＳ６２へ進み、差分波形情報又はエッジ情報に基づいて、立体物の検出処理を実行する。この立体物の検出処理は上述した立体物検出部３３による図１１、図１２の差分波形情報を用いた処理、又は立体物検出部３７による図１７、図１８のエッジ情報を用いた処理に従って行われる。そして、ステップ６３において、この立体物検出部３３，３７により検出領域Ａ１，Ａ２に立体物が検出された場合にはステップＳ６４に進み、検出された立体物が他車両ＶＸであると判断する。他方、立体物検出部３３，３７により検出領域Ａ１，Ａ２に立体物が検出されない場合にはステップＳ６５に進み、検出領域Ａ１，Ａ２に他車両ＶＸは存在しないと判断する。
　図３４に、他の処理例を示す。制御部３９は、ステップ６１において「レンズ１１に異物が付着している」と判断された場合には、ステップＳ８０に進み、差分波形情報を生成する際の画素値の差分に関する閾値ｐ、差分波形情報から立体物を判断する際に用いる第１閾値α、エッジ情報を生成する際の閾値θ、エッジ情報から立体物を判断する際に用いる第２閾値βの何れか一つ以上を高く設定する旨の制御命令を立体物検出部３３，３７へ送出する。先述したように、第１閾値αは、図１１のステップＳ７において、差分波形ＤＷｔのピークを判断するためのである。閾値θは、図１７のステップＳ２９における各注目点Ｐａの属性の連続性ｃの総和を正規化した値（エッジ線の長さ）を判断する閾値であり、第２閾値βは、図１８のステップ３４におけるエッジ線の量を評価する閾値である。
　また、図３５に示すように、制御部３９は、ステップ６１において「レンズ１１に異物が付着している」と判断された場合には、ステップＳ８１に進み、鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値を低く出力する制御命令を立体物検出部３３に出力する。鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値とは、図１１のステップＳ５において生成される差分波形ＤＷｔの縦軸の値である。同様に、ステップＳ５２において、検出したエッジ情報の量を低く出力する制御命令を立体物検出部３７に出力する。検出したエッジ情報の量とは、図１７のステップＳ２９における各注目点Ｐａの属性の連続性ｃの総和を正規化した値（エッジ線の長さ）、又は図１８のステップ３４におけるエッジ線の量である。制御部３９は、前回の処理でレンズ１１に付着した異物の存在が検出されると、この異物の像を立体物と誤検出する可能性があると判断できるため、次回の処理においては立体物が検出されにくいように、各注目点Ｐａの属性の連続性ｃの総和を正規化した値又はエッジ線の量を低く変更する制御命令を立体物検出部３７に出力する。
　以上のように構成され作用する本発明の本実施形態の立体物検出装置１は、以下の効果を奏する。
　（１）本実施形態の立体物検出装置１は、自車両Ｖが舗装道路を走行する際には、レンズに付着する異物は雨水や洗浄水などの流動性が高い性状を有し、レンズ上を速い速度で移動することが予測できるという観点から、レンズに付着した異物を検出した場合には他車両ＶＸが検出されにくくするという制御に加えて、異物が検出される際の走行路が舗装道路であると判断された場合には異物が検出されやすくするという制御を行うので、レンズ上を速い速度で移動する水滴等を継続的に追跡し、検出することができる。このように、異物を適切に検出することにより、レンズに付着した異物の像を自車両Ｖの走行車線の隣の隣接車線を走行する他車両ＶＸの像として誤検出することを防止することができる。この結果、自車両Ｖの走行車線の隣の隣接車線を走行する他車両ＶＸを、高い精度で検出する立体物検出装置１を提供することができる。
　（２）ローパスフィルタを用いた信号処理を行うと、ノイズと判断することができる小さい極大値を除去し、比較的大きな変化を示す極大値を顕在化させ、取得した画像情報の特徴を抽出することができる。レンズ１１に付着した異物の存在に起因する差分波形情報又はエッジ情報の極大値を顕在化させ、異物に対応する画像情報の特徴を抽出しやすくすることができる。つまり、異物に起因する画像が検出しやすくなり、異物であると判断される制御が促進される。これにより、自車両Ｖが舗装道路を走行する際には、付着する可能性の高い水滴等の動きの速い異物を正確に追跡し、マスク等の立体物検出処理の制御を高い応答性で実行することができる。
　（３）変化率リミッタを用いた信号処理を行うことにより、さらに、差分波形情報を平滑化することができ、ノイズと判断することができる小さい極大値を除去し、比較的大きな変化を示す極大値に応じた画像情報の特徴を抽出することができる。レンズ１１に付着した異物の存在に起因する差分波形情報又はエッジ情報の極大値を顕在化させ、異物に対応する画像情報の特徴を抽出しやすくすることができる。つまり、異物に起因する画像が検出しやすくなり、異物であると判断される制御が促進される。これにより、自車両Ｖが舗装道路を走行する際には、付着する可能性の高い水滴等の動きの速い異物を正確に追跡し、マスク等の立体物検出処理の制御を高い応答性で実行することができる。
　（４）本手法によれば、白線情報の抽出可否によって走行路の状態を推測し、さらにレンズ１１に付着した異物の性状及びその挙動を予測できるので、異物検出処理及び立体物検出処理を適切に行うことができる。
　（５）本手法によれば、車輪速度のばらつきによって走行路の状態を推測し、さらにレンズ１１に付着した異物の性状及びその挙動を予測できるので、異物検出処理及び立体物検出処理を適切に行うことができる。
　（６）本手法によれば、車両の姿勢が乱れたときに車両を制御するＡＢＳ装置３００、ＴＳＣ装置４００、又はＶＤＣ装置５００の動作情報に基づいて走行路の状態を推測し、さらにレンズ１１に付着した異物の性状及びその挙動を予測できるので、異物検出処理及び立体物検出処理を適切に行うことができる。
　（７）異物検出の判断の原因となった第２タイミングにおける「評価対象値」又は「評価エッジ長さ」に対応する画素を含む所定領域から得られる情報をマスクし、その情報を立体物検出処理や立体物判断処理に使用しないようにするので、レンズ１１に付着した異物を他車両ＶＸとして誤検出することを抑制することができる。
　（８）マスク領域面積が、各検出領域Ａ１，Ａ２の面積の所定割合以上となった場合に他車両ＶＸの検出を中止することにより、他車両ＶＸの検出精度を保つことができる。
　（９）本実施形態では「評価対象値」が第１閾値αの所定割合以上の場合には、異物であるとの判断結果が出るように異物検出処理を促進する。これにより、異物が他車両ＶＸであると誤った判断をする確率を低減することができる。
本実施形態では「評価エッジ長さ」が閾値θの所定割合以上の場合には、異物であるとの判断結果が出るように異物検出処理を促進する。これにより、異物が他車両ＶＸであると誤った判断をする確率を低減することができる。
　（１０）反転波形情報を用いてレンズ１１に付着した異物を検出する処理は、上述した差分波形情報を用いてレンズ１１に付着した異物を検出する処理と同様の作用・効果を奏し、同様の変形態様を適用することができる。
　（１１）第１閾値αを高くし、又は度数分布化された値を低く出力することにより、立体物が検出されることが抑制され、結果として異物を他車両ＶＸとして誤検出することを防止することができる。
　（１２）閾値θを高くし、又はエッジ長さを低く出力することにより、立体物が検出されることが抑制され、結果として異物を他車両ＶＸとして誤検出することを防止することができる。
　（１３）第１スコアの絶対値は前記第２スコアの絶対値よりも高く設定する。このように、「評価エッジ長さ」が所定範囲以内であるときに大きい値を加算し、「評価エッジ長さ」が所定範囲外であるときに小さい値を減算することにより、「評価エッジ長さ」が所定範囲以内であると判断された事実に大きな重みづけを行う。本実施形態における他車両ＶＸの検出結果は、太陽、街灯、後続車両のヘッドライトなどの光の影響を受けやすい。検出結果に影響を与える輝度の高い光がレンズ１１に入射して「評価エッジ長さ」が「所定範囲」外であると判断された場合であっても、異物がレンズ１１に付着している可能性は否定できない。このため、「評価エッジ長さ」が「所定範囲」外であると判断されても、最終結果に与える影響を抑制するため、減算する値を相対的に小さい値とする。この結果、レンズ１１に付着した異物の存在を正確に判断することができる。
　上記カメラ１０は本発明に係る撮像手段に相当し、レンズ１１は本発明に係るレンズに相当し、上記視点変換部３１は本発明に係る画像変換手段に相当し、上記位置合わせ部３２及び立体物検出部３３は本発明に係る立体物検出手段に相当し、上記輝度差算出部３５，エッジ線検出部３６及び立体物検出部３７は本発明に係る立体物検出手段に相当し、上記立体物判断部３４は立体物判断手段に相当し、上記異物検出部３８は異物検出手段に相当し、走行路状態判断部４１は走行路状態判断手段に相当し、上記制御部３９は制御手段に相当する。ＡＢＳ装置３００は滑走発生防止装置に相当し、ＴＳＣ装置４００は空転防止装置に相当し、又はＶＤＣ装置５００は横滑防止装置に相当する。
　なお、本明細書では、差分波形情報に基づいて立体物を検出する際には、差分波形情報に基づいてレンズ１１に付着した異物を検出する例と、エッジ情報に基づいて立体物を検出する際には、エッジ情報に基づいてレンズ１１に付着した異物を検出する例を説明するが、差分波形情報に基づいて立体物を検出する際にエッジ情報に基づいてレンズ１１に付着した異物を検出してもよいし、エッジ情報に基づいて立体物を検出する際に差分波形情報に基づいてレンズ１１に付着した異物を検出してもよい。
　本発明における「分布情報」は、視点変換部３１（画像変換手段）により得られた鳥瞰視画像上で、鳥瞰視画像に視点変換した際に立体物が倒れ込む方向において輝度差が所定の閾値以上の画素の分布に関する情報である。「分布情報」は、本発明における「差分波形情報」と「エッジ情報」を少なくとも含む。
　本実施形態における位置合わせ部２１は、異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、その位置合わせされた鳥瞰視画像を得るが、この「位置合わせ」処理は、検出対象の種別や要求される検出精度に応じた精度で行うことができる。同一時刻及び同一位置を基準に位置を合わせるといった厳密な位置合わせ処理であってもよいし、各鳥瞰視画像の座標を把握するという程度の緩い位置合わせ処理であってもよい。
１…立体物検出装置
１０…カメラ
　１１…レンズ
２０…車速センサ
３０…計算機
３１…視点変換部
３２…位置合わせ部
３３，３７…立体物検出部
３４…立体物判断部
３５…輝度差算出部
３６…エッジ検出部
３８…異物検出部
３９…制御部
４０…スミア検出部
ａ…画角
Ａ１，Ａ２…検出領域
ＣＰ…交点
ＤＰ…差分画素
ＤＷｔ，ＤＷｔ’…差分波形
ＤＷｔ１～ＤＷｍ，ＤＷｍ＋ｋ～ＤＷｔｎ…小領域
Ｌ１，Ｌ２…接地線
Ｌａ，Ｌｂ…立体物が倒れ込む方向上の線
Ｐ…撮像画像
ＰＢｔ…鳥瞰視画像
ＰＤｔ…差分画像
ＭＰ…マスク画像
Ｓ…スミア
ＳＰ…スミア画像
ＳＢｔ…スミア鳥瞰視画像
Ｖ…自車両
ＶＸ…他車両
１００…車両コントローラ
２００…ナビゲーション装置
３００…ＡＢＳ装置
４００…ＴＳＣ装置
５００…ＶＤＣ装置

Claims (59)

  1. 　車両に搭載され、車両後方の映像を結像させるレンズを備えた撮像手段と、
    　前記撮像手段により得られた画像を鳥瞰視画像に視点変換する画像変換手段と、
    　前記画像変換手段により得られた異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、当該位置合わせされた鳥瞰視画像の差分画像上において、前記鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿って、前記差分画像上において所定の差分を示す画素数をカウントして度数分布化することで差分波形情報を生成し、前記差分波形情報に基づいて立体物を検出する立体物検出手段と、
    　前記立体物検出手段により検出された立体物が他車両であるか否かを判断する立体物判断手段と、
    　前記立体物検出手段により一又は複数の第１のタイミングで生成された差分波形情報から第１極大値を抽出するとともに、当該抽出された第１極大値に基づいて基準値を取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された差分波形情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価対象値を取得し、前記評価対象値と前記基準値との差分の経時的変化に基づいて、前記レンズに異物が付着しているか否かを検出する異物検出手段と、
    　前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記第２のタイミングにおいて取得された前記評価対象値に対応する画素を含む所定領域の画像から前記立体物が検出され、当該立体物が前記他車両であると判断されることを抑制する制御手段と、を備える立体物検出装置。
  2. 　前記車両が取得する走行情報に基づいて、前記車両が走行する走行路が舗装道路であるか又は非舗装道路であるかを判断する走行路状態判断手段を、さらに備え、
    　前記制御手段は、前記走行路状態判断手段により前記車両が走行する走行路が舗装道路であると判断された場合には、前記評価対象値に対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断されることを促進することを特徴とする請求項１に記載の立体物検出装置。
  3. 　前記異物検出手段は、前記評価対象値と前記基準値との差分の経時的変化の度合が所定の判断範囲以内であると判断された場合には、前記評価対象値に対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断し、前記レンズに異物が付着していることを検出する請求項１又は２に記載の立体物検出装置。
  4. 　前記異物検出手段は、前記立体物検出手段により一又は複数の第１のタイミングで生成された差分波形情報に少なくともバンドパスフィルタを用いた信号処理を行い、当該信号処理後の基準波形情報から抽出された第１極大値に基づいて基準値を取得するとともに、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された差分波形情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価対象値を取得することを特徴とする請求項１～３の何れか一項に記載の立体物検出装置。
  5. 　前記異物検出手段は、前記評価対象値と前記基準値との差分が所定の判断範囲以内であると判断される回数を経時的に評価し、当該評価結果から導かれる前記経時的変化の度合が所定の判断範囲以内であると判断された場合には、前記評価対象値に対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断し、前記レンズに付着した異物を検出することを特徴とする請求項１～４の何れか一項に記載の立体物検出装置。
  6. 　前記立体物検出手段は、前記差分波形情報が所定の第１閾値α以上である場合に立体物を検出し、
    　前記異物検出手段は、前記評価対象値が前記第１閾値αの所定割合以上の値であると判断された回数に基づいて、前記第２のタイミングにおいて生成された前記評価対象値に対応する画素を含む画像は前記レンズに付着した異物に起因する画像であると判断し、前記レンズに付着した異物を検出することを特徴とする請求項１～５の何れか一項に記載の立体物検出装置。
  7. 　前記制御手段は、前記異物検出手段により前記レンズに付着した異物が検出されたと判断された場合には、前記評価対象値に対応する画素を含む所定領域に対応する差分波形情報を部分的にマスクすることを特徴とする請求項１～６の何れか一項に記載の立体物検出装置。
  8. 　前記制御手段は、前記マスクされた領域の面積が、所定面積以上となった場合には、前記画像から立体物を検出し、前記他車両であるか否かを判断する処理を中止することを特徴とする請求項７に記載の立体物検出装置。
  9. 　車両に搭載され、車両後方の映像を結像させるレンズを備えた撮像手段と、
    　前記撮像手段により得られた画像を鳥瞰視画像に視点変換する画像変換手段と、
    　前記画像変換手段により得られた異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、当該位置合わせされた鳥瞰視画像の差分画像上において、前記鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿って、前記差分画像上において所定の差分を示す画素数をカウントして度数分布化することで差分波形情報を生成し、前記差分波形情報に基づいて立体物を検出する立体物検出手段と、
    　前記立体物検出手段により検出された立体物が他車両であるか否かを判断する立体物判断手段と、
    　前記画像変換手段により得られた異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、当該位置合わせされた鳥瞰視画像の差分画像上において、前記鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿って、前記差分画像上において所定の差分を示す画素のうち、隣接する画素の画素値の差が所定値未満の複数の画素群を抽出し、前記画素群の間の反転ポイントをカウントして度数分布化することで生成された反転波形情報を前記立体物検出手段から取得するとともに、一又は複数の第１のタイミングで生成された前記反転波形情報から第１極大値を抽出するとともに、当該第１極大値に基づいて基準反転数を取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された反転波形情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価反転数を取得し、前記評価反転数と前記基準反転数との差分の経時的変化に基づいて、前記レンズに異物が付着しているか否かを検出する異物検出手段と、
    　前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記第２のタイミングにおいて取得された前記評価反転数に対応する画素を含む所定領域の画像から前記立体物が検出され、当該立体物が前記他車両であると判断されることを抑制する制御手段と、を備えることを特徴とする立体物検出装置。
  10. 　前記車両が取得する走行情報に基づいて、前記車両が走行する走行路が舗装道路であるか又は非舗装道路であるかを判断する走行路状態判断手段を、さらに備え、
    　前記制御手段は、前記走行路状態判断手段により前記車両が走行する走行路が舗装道路であると判断された場合には、前記評価反転数に対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断されることを促進することを特徴とする請求項９に記載の立体物検出装置。
  11. 　前記異物検出手段は、前記評価反転数と前記基準反転数との差分の経時的変化の度合が所定の判断範囲以内であると判断された場合には、前記評価反転数に対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断し、前記レンズに異物が付着していることを検出する請求項８又は９に記載の立体物検出装置。
  12. 　前記異物検出手段は、前記立体物検出手段により一又は複数の第１のタイミングで生成された前記反転波形情報に少なくともバンドパスフィルタを用いた信号処理を行い、当該信号処理後の基準反転波形情報から抽出された第１極大値に基づいて基準反転数を取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された反転波形情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価反転数を取得することを特徴とする請求項９～１１の何れか一項に記載の立体物検出装置。
  13. 　前記異物検出手段は、前記評価反転数と前記基準反転数との差分が所定の判断範囲以内であると判断される回数を経時的に評価し、当該評価結果から導かれる前記経時的変化の度合が所定の判断範囲以内であると判断された場合には、前記評価反転数に対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断し、前記レンズに付着した異物を検出することを特徴とする請求項９～１２の何れか一項に記載の立体物検出装置。
  14. 　前記制御手段は、前記異物検出手段により前記レンズに付着した異物が検出されたと判断された場合には、前記評価反転数に対応する画素を含む所定領域に対応する差分波形情報を部分的にマスクすることを特徴とする請求項９～１３の何れか一項に記載の立体物検出装置。
  15. 　前記制御手段は、前記マスクされた領域の面積が、所定面積以上となった場合には、前記画像から立体物を検出し、前記他車両であるか否かを判断する処理を中止することを特徴とする請求項１４に記載の立体物検出装置。
  16. 　前記立体物検出手段は、前記差分波形情報が所定の第１閾値α以上である場合に立体物を検出し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記立体物が検出され難いように前記第１閾値αを高く変更する制御命令を生成し、当該制御命令を前記立体物検出手段に出力することを特徴とする請求項１～１５の何れか一項に記載の立体物検出装置。
  17. 　前記立体物検出手段は、前記差分波形情報が所定の第１閾値α以上である場合に立体物を検出し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値を低くする制御命令を生成し、当該制御命令を前記立体物検出手段に出力することを特徴とする請求項１～１５の何れか一項に記載の立体物検出装置。
  18. 　前記立体物検出手段は、閾値ｐ以上の画素値を示す画素数を前記所定の差分を示す画素数として抽出し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記立体物が検出され難いように前記閾値ｐを高く変更する制御命令を生成し、当該制御命令を前記立体物検出手段に出力することを特徴とする請求項１～１７の何れか一項に記載の立体物検出装置。
  19. 　前記立体物検出手段は、閾値ｐ以上の画素値を示す画素数を前記所定の差分を示す画素数として抽出し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿って、前記差分画像上において抽出される画素数を低く変更して出力する制御命令を生成し、当該制御命令を前記立体物検出手段に出力することを特徴とする請求項１～１７の何れか一項に記載の立体物検出装置。
  20. 　車両に搭載され、車両後方の映像を結像させるレンズを備えた撮像手段と、
    　前記撮像手段により得られた画像を鳥瞰視画像に視点変換する画像変換手段と、
    　前記画像変換手段により得られた鳥瞰視画像において、鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿って互いに隣接する画像領域の画素の輝度差が所定閾値ｔ以上であり、連続性を有するエッジ成分に基づいて検出されたエッジ線の情報を含むエッジ情報を生成し、前記エッジ情報に基づいて立体物を検出する立体物検出手段と、
    　前記立体物検出手段により検出された立体物が他車両であるか否かを判断する立体物判断手段と、
    　一又は複数の第１のタイミングで前記立体物検出手段により生成された前記エッジ線の情報を含むエッジ情報から第１極大値を抽出するとともに、当該第１極大値に基づいて基準エッジ長さを取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成されたエッジ情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価エッジ長さを取得し、前記評価エッジ長さと前記基準エッジ長さとの差分の経時的変化に基づいて、前記レンズに異物が付着しているか否かを検出する異物検出手段と、
    　前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記第２のタイミングにおいて取得した前記評価エッジ長さに対応する画素を含む所定領域の画像から前記立体物が検出され、当該立体物が前記他車両であると判断されることを抑制する制御手段と、を備える立体物検出装置。
  21. 　前記車両が取得する走行情報に基づいて、前記車両が走行する走行路が舗装道路であるか又は非舗装道路であるかを判断する走行路状態判断手段を、さらに備え、
    　前記制御手段は、前記走行路状態判断手段により前記車両が走行する走行路が舗装道路であると判断された場合には、前記評価エッジ長さに対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断されることを促進することを特徴とする請求項２０に記載の立体物検出装置。
  22. 　前記異物検出手段は、前記評価エッジ長さと前記基準エッジ長さとの差分の経時的変化の度合が所定の判断範囲以内であると判断された場合には、前記評価エッジ長さに対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断し、前記レンズに異物が付着していることを検出する請求項２１に記載の立体物検出装置。
  23. 　前記異物検出手段は、前記立体物検出手段により一又は複数の第１のタイミングで生成された前記エッジ線の情報を含むエッジ情報に少なくともバンドパスフィルタを用いた信号処理を行い、当該信号処理後の基準エッジ情報の極大値に基づいて基準エッジ長さを取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成されたエッジ情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価エッジ長さを取得することを特徴とする請求項２０～２２の何れか一項に記載の立体物検出装置。
  24. 　前記異物検出手段は、前記評価エッジ長さと前記基準エッジ長さとの差分が所定の判断範囲以内であると判断される回数を経時的に評価し、当該評価結果から導かれる前記経時的変化の度合が所定の判断範囲以内であると判断された場合には、前記評価エッジ長さに対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断し、レンズに付着した異物を検出することを特徴とする請求項２０～２３の何れか一項に記載の立体物検出装置。
  25. 　前記立体物検出手段は、前記エッジ情報に含まれる閾値θ以上の長さを有する前記エッジ線に基づいて立体物を検出し、
    　前記異物検出手段は、前記評価エッジ長さが前記閾値θの所定割合以上の値であると判断された回数に基づいて、前記第２のタイミングにおいて生成されたエッジ情報の評価エッジ長さに対応する画素を含む画像は撮像手段が備えるレンズに付着した異物に起因する画像であると判断し、前記レンズに付着した異物を検出することを特徴とする請求項２０～２４の何れか一項に記載の立体物検出装置。
  26. 　前記制御手段は、前記異物検出手段により前記レンズに付着した異物が検出されたと判断された場合には、前記評価エッジ長さに対応する画素を含む所定領域に対応するエッジ情報を部分的にマスクすることを特徴とする請求項２０～２５の何れか一項に記載の立体物検出装置。
  27. 　前記制御手段は、前記マスクされた領域の面積が、所定面積以上となった場合には、前記画像から立体物を検出し、前記他車両であるか否かを判断する処理を中止することを特徴とする請求項２６に記載の立体物検出装置。
  28. 　車両に搭載され、車両後方の映像を結像させるレンズを備えた撮像手段と、
    　前記撮像手段により得られた画像を鳥瞰視画像に視点変換する画像変換手段と、
    　前記画像変換手段により得られた鳥瞰視画像において、鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿って互いに隣接する画像領域の画素の輝度差が所定閾値ｔ以上であり、連続性を有するエッジ成分に基づいて検出されたエッジ線の情報を含むエッジ情報を生成し、前記エッジ情報に基づいて立体物を検出する立体物検出手段と、
    　前記立体物検出手段により検出された立体物が他車両であるか否かを判断する立体物判断手段と、
    　前記画像変換手段により得られた鳥瞰視画像において、前記鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿って互いに隣接する画像領域の画素の輝度差が閾値ｔ以上である画素であって連続性を有するエッジ成分のうち、隣接する画素の輝度差が所定値未満の複数の画素群を抽出し、前記画素群の間の反転ポイントをカウントして度数分布化することで生成した反転エッジ情報を前記立体物検出手段から取得するとともに、一又は複数の第１のタイミングで生成された前記反転エッジ情報から第１極大値を抽出するとともに、当該第１極大値に基づいて基準反転数を取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された反転エッジ情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価反転数を取得し、前記評価反転数と前記基準反転数との差分の経時的変化に基づいて、前記レンズに異物が付着しているか否かを検出する異物検出手段と、
    　前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記第２のタイミングにおいて取得された前記評価反転数に対応する画素を含む所定領域の画像から前記立体物が検出され、当該立体物が前記他車両であると判断されることを抑制する制御手段と、を備える立体物検出装置。
  29. 　前記車両が取得する走行情報に基づいて、前記車両が走行する走行路が舗装道路であるか又は非舗装道路であるかを判断する走行路状態判断手段を、さらに備え、
    　前記制御手段は、前記走行路状態判断手段により前記車両が走行する走行路が舗装道路であると判断された場合には、前記評価反転数に対応する画素を画像が前記レンズに付着した異物に起因する画像であると判断されることを促進することを特徴とする請求項２８に記載の立体物検出装置。
  30. 　前記異物検出手段は、前記評価反転数と前記基準反転数との差分の経時的変化の度合が所定の判断範囲以内であると判断された場合には、前記評価反転数に対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断し、前記レンズに異物が付着していることを検出する請求項２８又は２９に記載の立体物検出装置。
  31. 　前記異物検出手段は、前記立体物検出手段により一又は複数の第１のタイミングで生成された前記反転エッジ情報に少なくともバンドパスフィルタを用いた信号処理を行い、当該信号処理後の基準反転エッジ情報から抽出された第１極大値に基づいて基準反転数を取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された反転エッジ情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価反転数を取得することを特徴とする請求項２８～３０の何れか一項に記載の立体物検出装置。
  32. 　前記異物検出手段は、前記評価反転数と前記基準反転数との差分が所定の判断範囲以内であると判断される回数を経時的に評価し、当該評価結果から導かれる前記経時的変化の度合が所定の判断範囲以内であると判断された場合には、前記評価反転数に対応する画素を含む画像が前記レンズに付着した異物に起因する画像であると判断し、前記レンズに付着した異物を検出することを特徴とする請求項２８～３１の何れか一項に記載の立体物検出装置。
  33. 　前記制御手段は、前記異物検出手段により前記レンズに付着した異物が検出されたと判断された場合には、前記評価反転数に対応する画素を含む所定領域に対応する差分波形情報を部分的にマスクすることを特徴とする請求項２８～３２の何れか一項に記載の立体物検出装置。
  34. 　前記制御手段は、前記マスクされた領域の面積が、所定面積以上となった場合には、前記画像から立体物を検出し、前記他車両であるか否かを判断する処理を中止することを特徴とする請求項３３に記載の立体物検出装置。
  35. 　前記立体物検出手段は、所定閾値ｔ以上の輝度差を示す画素に基づいてエッジ線を抽出し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記立体物が検出され難いように前記所定閾値ｔを高く変更する制御命令を生成し、当該制御命令を前記立体物検出手段に出力することを特徴とする請求項２０～３４の何れか一項に記載の立体物検出装置。
  36. 　前記立体物検出手段は、所定閾値ｔ以上の輝度差を示す画素に基づいてエッジ線を抽出し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記画素の輝度値を低くする制御命令を生成し、当該制御命令を前記立体物検出手段に出力することを特徴とする請求項２０～３５の何れか一項に記載の立体物検出装置。
  37. 　前記立体物検出手段は、前記エッジ情報に含まれる閾値θ以上の長さを有する前記エッジ線に基づいて立体物を検出し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記立体物が検出され難いように前記閾値θを高く変更する制御命令を生成し、当該制御命令を前記立体物検出手段に出力することを特徴とする請求項２０～３６の何れか一項に記載の立体物検出装置。
  38. 　前記立体物検出手段は、前記エッジ情報に含まれる閾値θ以上の長さを有する前記エッジ線に基づいて立体物を検出し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記検出したエッジ情報に含まれるエッジの長さの値を低く出力する制御命令を生成し、当該制御命令を前記立体物検出手段に出力することを特徴とする請求項２０～３６の何れか一項に記載の立体物検出装置。
  39. 　前記立体物検出手段は、前記エッジ情報に含まれる所定長さ以上のエッジ線の本数が第２閾値β以上であるか否かの判断に基づいて立体物を検出し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記立体物が検出され難いように前記第２閾値βを高く変更する制御命令を生成し、当該制御命令を前記立体物検出手段に出力することを特徴とする請求項２０～３８の何れか一項に記載の立体物検出装置。
  40. 　前記立体物検出手段は、前記エッジ情報に含まれる所定長さ以上のエッジ線の本数が第２閾値β以上であるか否かの判断に基づいて立体物を検出し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記検出した所定長さ以上のエッジ線の本数を低く出力する制御命令を生成し、当該制御命令を前記立体物検出手段に出力することを特徴とする請求項２０～３８の何れか一項に記載の立体物検出装置。
  41. 　前記立体物判断手段は、前記検出された立体物の移動速度が予め設定された所定速度以上である場合に、当該立体物を他車両であると判断し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記立体物が検出され難いように、立体物を他車両であると判断する際の下限となる前記所定速度を高くする制御命令を生成し、当該制御命令を前記立体物判断手段に出力することを特徴とする請求項１～４０の何れか一項に記載の立体物検出装置。
  42. 　前記立体物判断手段は、前記検出された立体物の移動速度が予め設定された所定速度以上である場合に、当該立体物を前記他車両であると判断し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記立体物を他車両であると判断する際の下限となる前記所定速度と比較される前記立体物の移動速度を低く変更して出力する制御命令を生成し、当該制御命令を前記立体物判断手段に出力することを特徴とする請求項１～４１の何れか一項に記載の立体物検出装置。
  43. 　前記立体物判断手段は、前記検出された立体物の移動速度が予め設定された所定速度未満である場合に、当該立体物を他車両であると判断し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記立体物を他車両であると判断する際の上限となる前記所定速度を低く変更する制御命令を生成し、当該制御命令を前記立体物判断手段に出力することを特徴とする請求項１～４２の何れか一項に記載の立体物検出装置。
  44. 　前記立体物判断手段は、前記検出された立体物の移動速度が予め設定された所定速度未満である場合に、当該立体物を他車両であると判断し、
    　前記制御手段は、前記異物検出手段が前記レンズに付着した異物を検出した場合には、前記立体物を他車両であると判断する際の上限となる前記所定速度と比較される前記立体物の移動速度を高く変更する制御命令を生成し、当該制御命令を前記立体物判断手段に出力することを特徴とする請求項１～４３の何れか一項に記載の立体物検出装置。
  45. 　前記異物検出手段が行う信号処理に用いられる前記バンドパスフィルタは、ローパスフィルタであることを特徴とする請求項４、請求項１２、請求項２３、又は請求項３１の何れか一項に記載の立体物検出装置。
  46. 　前記異物検出手段は、前記レンズに付着した異物が所定時間以上継続して検出された場合には、前記バンドパスフィルタの遮断又は減衰周波数の範囲を広くすることを特徴とする請求項４５に記載の立体物検出装置。
  47. 　前記異物検出手段が行う信号処理は、変化率リミッタを用いた信号処理を含むことを特徴とする請求項４５又は４６に記載の立体物検出装置。
  48. 　前記異物検出手段は、前記レンズに付着した異物が所定時間以上継続して検出された場合には、前記変化率リミッタの制限変化率を高くすることを特徴とする請求項４７に記載の立体物検出装置。
  49. 　前記異物検出手段は、前記各第２のタイミングにおいて実行された前記異物を検出する処理において、前記差分が所定の判断範囲以内である場合には第１スコアを加算する処理を経時的に行うとともに、前記差分の経時的変化の度合が所定の判断範囲外である場合には第２スコアを減算する処理を経時的に行い、通算されたスコアが所定閾値以上である場合には、前記レンズに付着した異物の検出を行い、
    　前記第１スコアの絶対値は前記第２スコアの絶対値よりも高いことを特徴とする請求項１～４８の何れか一項に記載の立体物検出装置。
  50. 　前記異物検出手段が行う信号処理に用いられる前記バンドパスフィルタは、ローパスフィルタであり、
    　前記制御手段は、
    　前記走行路状態判断手段により前記車両が走行する走行路が舗装道路であると判断された場合には、前記異物検出手段が用いる前記バンドパスフィルタの遮断又は減衰周波数の範囲を広くさせ、
    　前記走行路状態判断手段により前記車両が走行する走行路が非舗装道路であると判断された場合には、前記異物検出手段が用いる前記バンドパスフィルタの遮断又は減衰周波数の範囲を維持させ、又は狭くさせることを特徴とする請求項４、請求項１２、請求項２３、又は請求項３１の何れか一項に記載の立体物検出装置。
  51. 　前記異物検出手段が行う信号処理は、変化率リミッタを用いた信号処理を含み、
    　前記制御手段は、
    　前記走行路状態判断手段により前記車両が走行する走行路が舗装道路であると判断された場合には、前記異物検出手段が用いる前記変化率リミッタの制限変化率を高くさせ、
    　前記走行路状態判断手段により前記車両が走行する走行路が非舗装道路であると判断された場合には、前記異物検出手段が用いる前記変化率リミッタの制限変化率を維持させ、又は低減させることを特徴とする請求項５０に記載の立体物検出装置。
  52. 　前記走行路状態判断手段は、
    　前記撮像手段により取得された画像から路面に表示された白線情報を抽出し、前記白線情報が抽出された場合には、前記車両が走行する走行路が舗装道路であると判断し、
    　前記白線情報が抽出されなかった場合には、前記車両が走行する走行路が非舗装道路であると判断することを特徴とする請求項２、１０、２１、又は２９の何れか一項に記載の立体物検出装置。
  53. 　前記走行路状態判断手段は、
    　前記車両が備える複数の車輪の各車輪速度を取得し、
    　前記取得した複数の車輪速度のばらつきが所定値未満である場合には、前記車両が走行する走行路が舗装道路であると判断し、
    　前記取得した複数の車輪速度のばらつきが所定値以上である場合には、前記車両が走行する走行路が非舗装道路であると判断することを特徴とする請求項２、１０、２１、又は２９の何れか一項に記載の立体物検出装置。
  54. 　前記車両は、滑走発生防止装置、タイヤ空転防止装置又は横滑防止装置の何れか一つ以上を備え、
    　前記走行路状態判断手段は、
    　前記滑走発生防止装置、空転防止装置又は横滑防止装置の何れか一つ以上の装置の動作に関する情報を取得し、動作回数又は動作頻度が所定値未満である場合には、前記車両が走行する走行路が舗装道路であると判断し、
    　前記滑走発生防止装置、空転防止装置又は横滑防止装置のの何れか一つ以上の装置の動作に関する情報を取得し、当該取得した情報に含まれる動作回数又は動作頻度が所定値以上である場合には、前記車両が走行する走行路が非舗装道路であると判断することを特徴とする請求項２、１０、２１、又は２９の何れか一項に記載の立体物検出装置。
  55. 　車両に搭載され、車両後方の映像を結像させるレンズを備えたカメラにより得られた画像を鳥瞰視画像に視点変換するステップと、
    　前記得られた異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、当該位置合わせされた鳥瞰視画像の差分画像上において、前記鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿って、前記差分画像上において所定の差分を示す画素数をカウントして度数分布化することで差分波形情報を生成し、前記差分波形情報に基づいて立体物を検出するステップと、
    　前記検出された立体物が他車両であるか否かを判断するステップと、
    　一又は複数の第１のタイミングで生成された差分波形情報から第１極大値を抽出するとともに、当該第１極大値に基づいて基準値を取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された差分波形情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価対象値を取得し、前記評価対象値と前記基準値との差分の経時的変化に基づいて、前記レンズに異物が付着しているか否かを検出するステップと、
    　前記レンズに付着した異物が検出された場合には、前記第２のタイミングにおいて取得された前記評価対象値に対応する画素を含む所定領域の画像から前記立体物が検出され、当該立体物が前記他車両であると判断されることを抑制するステップと、を有する立体物検出方法。
  56. 　車両に搭載され、車両後方の映像を結像させるレンズを備えたカメラにより得られた画像を鳥瞰視画像に視点変換するステップと、
    　前記得られた異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、当該位置合わせされた鳥瞰視画像の差分画像上において、前記鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿って、前記差分画像上において所定の差分を示す画素数をカウントして度数分布化することで差分波形情報を生成し、前記差分波形情報に基づいて立体物を検出するステップと、
    　前記検出された立体物が他車両であるか否かを判断するステップと、
    　前記得られた異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、当該位置合わせされた鳥瞰視画像の差分画像上において、前記鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿って、前記差分画像上において所定の差分を示す画素のうち、隣接する画素の画素値の差が所定値未満の複数の画素群を抽出し、前記画素群の間の反転ポイントをカウントして度数分布化することで生成された反転波形情報を取得するとともに、一又は複数の第１のタイミングで生成された前記反転波形情報から第１極大値を抽出するとともに、当該第１極大値に基づいて基準反転数を取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された反転波形情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価反転数を取得し、前記評価反転数と前記基準反転数との差分の経時的変化に基づいて、前記レンズに異物が付着しているか否かを検出するステップと、
    　前記レンズに付着した異物が検出された場合には、前記第２のタイミングにおいて取得された前記評価反転数に対応する画素を含む所定領域の画像から前記立体物が検出され、当該立体物が前記他車両であると判断されることを抑制するステップと、を有することを特徴とする立体物検出方法。
  57. 　車両に搭載され、車両後方の映像を結像させるレンズを備えたカメラにより得られた画像を鳥瞰視画像に視点変換するステップと、
    　前記得られた鳥瞰視画像において、鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿って互いに隣接する領域の画素の輝度差が所定閾値ｔ以上であり、連続性を有するエッジ成分に基づいて検出されたエッジ線の情報を含むエッジ情報を生成し、前記エッジ情報に基づいて立体物を検出するステップと、
    　前記検出された立体物が他車両であるか否かを判断するステップと、
    　一又は複数の第１のタイミングで生成された前記エッジ線の情報を含むエッジ情報から第１極大値を抽出するとともに、当該第１極大値に基づいて基準エッジ長さを取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成されたエッジ情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価エッジ長さを取得し、前記評価エッジ長さと前記基準エッジ長さとの差分の経時的変化に基づいて、前記レンズに異物が付着しているか否かを検出するステップと、
    　前記レンズに付着した異物が検出された場合には、前記第２のタイミングにおいて取得した前記評価エッジ長さに対応する画素を含む所定領域の画像から前記立体物が検出され、当該立体物が前記他車両であると判断されることを抑制するステップと、を有する立体物検出方法。
  58. 　車両に搭載され、車両後方の映像を結像させるレンズを備えたカメラにより得られた画像を鳥瞰視画像に視点変換するステップと、
    　前記得られた鳥瞰視画像において、鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿って互いに隣接する領域の画素の輝度差が所定閾値ｔ以上であり、連続性を有するエッジ成分に基づいて検出されたエッジ線の情報を含むエッジ情報を生成し、前記エッジ情報に基づいて立体物を検出するステップと、
    　前記検出された立体物が他車両であるか否かを判断するステップと、
    　前記得られた鳥瞰視画像において、前記鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿って互いに隣接する領域の画素の輝度差が閾値ｔ以上である画素であって連続性を有するエッジ成分のうち、隣接する画素の輝度差が所定値未満の複数の画素群を抽出し、前記画素群の間の反転ポイントをカウントして度数分布化することで生成された反転エッジ情報を取得するとともに、一又は複数の第１のタイミングで生成された前記反転エッジ情報から第１極大値を抽出するとともに、当該第１極大値に基づいて基準反転数を取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された反転エッジ情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価反転数を取得し、前記評価反転数と前記基準反転数との差分の経時的変化に基づいて、前記レンズに異物が付着しているか否かを検出するステップと、
    　前記レンズに付着した異物が検出された場合には、前記第２のタイミングにおいて取得された前記評価反転数に対応する画素を含む所定領域の画像から前記立体物が検出され、当該立体物が前記他車両であると判断されることを抑制するステップと、を有することを特徴とする立体物検出方法。
  59. 　車両に搭載され、車両後方の映像を結像させるレンズを備えた撮像手段と、
    　前記撮像手段により得られた画像を鳥瞰視画像に視点変換する画像変換手段と、
    　前記画像変換手段により得られた前記鳥瞰視画像上で、前記鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿って輝度差が所定の閾値以上の画素の分布情報を取得し、一又は複数の第１のタイミングで生成された前記分布情報から第１極大値を抽出するとともに、当該抽出された第１極大値に基づいて基準値を取得し、前記第１のタイミングよりも後の一又は複数の第２のタイミングで新たに生成された前記分布情報から前記鳥瞰視画像上において前記第１極大値に対応する第２極大値を抽出するとともに、当該第２極大値に基づいて評価対象値を取得し、前記評価対象値と前記基準値との差分の経時的変化に基づいて、前記レンズに異物が付着しているか否かを検出する異物検出手段と、を備える異物検出装置。
PCT/JP2013/069153 2012-07-27 2013-07-12 立体物検出装置、立体物検出方法及び異物検出装置 WO2014017318A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014526852A JP6003986B2 (ja) 2012-07-27 2013-07-12 立体物検出装置、立体物検出方法及び異物検出装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012-166498 2012-07-27
JP2012166498 2012-07-27
JP2012166497 2012-07-27
JP2012-166497 2012-07-27

Publications (1)

Publication Number Publication Date
WO2014017318A1 true WO2014017318A1 (ja) 2014-01-30

Family

ID=49997133

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2013/069153 WO2014017318A1 (ja) 2012-07-27 2013-07-12 立体物検出装置、立体物検出方法及び異物検出装置

Country Status (2)

Country Link
JP (1) JP6003986B2 (ja)
WO (1) WO2014017318A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016066144A (ja) * 2014-09-24 2016-04-28 矢崎エナジーシステム株式会社 路面情報収集装置および路面情報解析システム
WO2018021076A1 (ja) * 2016-07-27 2018-02-01 京セラ株式会社 検出装置、撮像装置、移動体及び検出方法
JP2018142757A (ja) * 2017-02-24 2018-09-13 京セラ株式会社 カメラ装置、検出装置、検出システムおよび移動体
JP2018206214A (ja) * 2017-06-07 2018-12-27 アルパイン株式会社 他車監視システム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7379268B2 (ja) 2020-05-14 2023-11-14 日立Astemo株式会社 画像処理装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009057410A1 (ja) * 2007-10-30 2009-05-07 Nec Corporation 路面標示画像処理装置，路面標示画像処理方法及びプログラム
JP2012003662A (ja) * 2010-06-21 2012-01-05 Nissan Motor Co Ltd 移動距離検出装置及び移動距離検出方法
WO2012023412A1 (ja) * 2010-08-19 2012-02-23 日産自動車株式会社 立体物検出装置及び立体物検出方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009057410A1 (ja) * 2007-10-30 2009-05-07 Nec Corporation 路面標示画像処理装置，路面標示画像処理方法及びプログラム
JP2012003662A (ja) * 2010-06-21 2012-01-05 Nissan Motor Co Ltd 移動距離検出装置及び移動距離検出方法
WO2012023412A1 (ja) * 2010-08-19 2012-02-23 日産自動車株式会社 立体物検出装置及び立体物検出方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016066144A (ja) * 2014-09-24 2016-04-28 矢崎エナジーシステム株式会社 路面情報収集装置および路面情報解析システム
WO2018021076A1 (ja) * 2016-07-27 2018-02-01 京セラ株式会社 検出装置、撮像装置、移動体及び検出方法
JP2018142757A (ja) * 2017-02-24 2018-09-13 京セラ株式会社 カメラ装置、検出装置、検出システムおよび移動体
JP2018206214A (ja) * 2017-06-07 2018-12-27 アルパイン株式会社 他車監視システム

Also Published As

Publication number Publication date
JP6003986B2 (ja) 2016-10-05
JPWO2014017318A1 (ja) 2016-07-11

Similar Documents

Publication Publication Date Title
JP5997276B2 (ja) 立体物検出装置及び異物検出装置
JP5896027B2 (ja) 立体物検出装置及び立体物検出方法
JP5900623B2 (ja) 立体物検出装置及び立体物検出方法
JP6045589B2 (ja) カメラ装置、立体物検出装置及びレンズ洗浄方法
JP5787024B2 (ja) 立体物検出装置
JP5776795B2 (ja) 立体物検出装置
WO2013157301A1 (ja) 立体物検出装置及び立体物検出方法
JP6020567B2 (ja) 立体物検出装置および立体物検出方法
JP5733467B2 (ja) 立体物検出装置
JP6003986B2 (ja) 立体物検出装置、立体物検出方法及び異物検出装置
WO2013121911A1 (ja) 立体物検出装置及び立体物検出方法
WO2014017522A1 (ja) 立体物検出装置及び立体物検出方法
WO2013125335A1 (ja) 立体物検出装置及び立体物検出方法
JP6337601B2 (ja) 立体物検出装置
JP6003987B2 (ja) 立体物検出装置及び立体物検出方法
JP5790867B2 (ja) 立体物検出装置
JP6011110B2 (ja) 立体物検出装置および立体物検出方法
WO2014017602A1 (ja) 立体物検出装置および立体物検出方法
JP5768927B2 (ja) 立体物検出装置
WO2013132970A1 (ja) 立体物検出装置及び立体物検出方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 13823018

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2014526852

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 13823018

Country of ref document: EP

Kind code of ref document: A1