WO2009101660A1 - 車両周辺監視装置、車両、車両周辺監視プログラム - Google Patents

車両周辺監視装置、車両、車両周辺監視プログラム Download PDF

Info

Publication number
WO2009101660A1
WO2009101660A1 PCT/JP2008/002828 JP2008002828W WO2009101660A1 WO 2009101660 A1 WO2009101660 A1 WO 2009101660A1 JP 2008002828 W JP2008002828 W JP 2008002828W WO 2009101660 A1 WO2009101660 A1 WO 2009101660A1
Authority
WO
WIPO (PCT)
Prior art keywords
vehicle
area
time point
local
image
Prior art date
Application number
PCT/JP2008/002828
Other languages
English (en)
French (fr)
Inventor
Nobuharu Nagaoka
Yuji Yokochi
Original Assignee
Honda Motor Co., Ltd.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co., Ltd. filed Critical Honda Motor Co., Ltd.
Priority to EP08872354.9A priority Critical patent/EP2224743B1/en
Priority to CN2008801260333A priority patent/CN101933326B/zh
Priority to US12/809,874 priority patent/US7974445B2/en
Publication of WO2009101660A1 publication Critical patent/WO2009101660A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/30—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing vision in the non-visible spectrum, e.g. night or infrared vision
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/136—Segmentation; Edge detection involving thresholding
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/255—Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261—Obstacle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08—Detecting or categorising vehicles

Definitions

  • the present invention relates to an apparatus for monitoring the periphery of this vehicle using an image obtained through an in-vehicle imaging device.
  • the type of the object may be determined from the viewpoint of avoiding contact between the vehicle and the object.
  • an object of the present invention is to provide a device that can determine the type of an object with high accuracy.
  • a vehicle periphery monitoring device is a device for monitoring the periphery of the vehicle using an image representing the surrounding state of the vehicle obtained through an imaging device mounted on the vehicle, and based on the image
  • the object detection element for recognizing the presence of the object satisfies the identity requirement that the object detected by the object detection element based on the images at the first time point and the second time point is the same.
  • An object tracking element for determining whether the object is present, a distance measuring element for measuring a distance from the vehicle to the object, and a region where the object exists in the image is set as a first object area.
  • An area arranged in a manner corresponding to each of a plurality of object sections is defined as a first local area with reference to the one object area setting element and the first object area at the first time point.
  • a first local region setting element to be determined, and the object determined to satisfy the identity requirement by the object tracking element with respect to the distance at the first time point measured by the distance measuring element A second object area setting element that sets the first object area at the second time point as a second object area, enlarged or reduced by the ratio of the distance at the second time point, and the first local area
  • a second local region setting element to be set, the first local region set by the first local region setting element, and the second station set by the second local region setting element A correlation degree evaluation element that evaluates the degree of correlation with a region, and an object classification according to an arrangement mode of the first local area that satisfies a correlation requirement
  • the objects are classified into object classifications according to the arrangement mode when the degree of correlation between the first local region and the second local region is equal to or greater than a threshold value.
  • a threshold value For each of the first local region and the second local region that are arranged in such a manner that the degree of correlation is equal to or greater than the threshold with respect to each of the first object region and the second object region at the first time point, There is a high probability that the corresponding type of object exists. Therefore, as described above, the types of objects can be determined with high accuracy by classifying the objects into object classifications according to the arrangement mode when the correlation degree is equal to or greater than the threshold among the plurality of arrangement modes.
  • a vehicle according to a second aspect of the present invention includes the vehicle periphery monitoring device according to the first aspect of the present invention that monitors the periphery of the vehicle using an image representing the surrounding state of the vehicle obtained through an imaging device.
  • the vehicle of the second invention since the type of the object is determined with high accuracy by the vehicle periphery monitoring device, the operation of the on-board equipment is avoided according to the determination result, etc. From the viewpoint, it can be appropriately controlled.
  • a vehicle periphery monitoring program monitors a periphery of the vehicle by using a computer mounted on the vehicle, using an image representing a surrounding state of the vehicle obtained through an imaging device mounted on the vehicle. It functions as the vehicle periphery monitoring device of the first invention.
  • the computer mounted on the vehicle can function as a vehicle periphery monitoring device that determines the type of the object with high accuracy.
  • Configuration diagram of the vehicle of the present invention Configuration explanatory diagram of the vehicle periphery monitoring device of the present invention
  • the flowchart which shows the function of the vehicle periphery monitoring apparatus of this invention Explanatory drawing about the setting method of the 1st object field Explanatory drawing about the setting method of the 2nd object field Explanatory drawing about the setting method of the 1st and 2nd local region
  • the vehicle 1 is equipped with a vehicle periphery monitoring device 10 and a single infrared camera (imaging device) 11.
  • the vehicle (four-wheeled vehicle) 1 shown in FIG. As shown in FIG. 1, the real space is such that the origin O is located on the front side of the vehicle 1, and each of the X axis, the Y axis, and the Z axis extends in the left-right direction, the vertical direction, and the front-rear direction of the vehicle 1.
  • a coordinate system is defined.
  • the infrared camera 11 is attached to the front side of the vehicle 1 in order to image the front of the vehicle 1. As shown in FIG.
  • the vehicle 1 includes various types of sensors such as a yaw rate sensor 13, a speed sensor 14, and a brake sensor 15 that output signals corresponding to the yaw rate, speed, and brake state of the vehicle 1.
  • a sensor is installed.
  • the vehicle 1 is equipped with an audio output device 16 and an image output device 17.
  • the image output device 17 in addition to a HUD (head-up display) that displays an image on the front window of the vehicle 1, a display device that indicates a traveling state of the vehicle 1 or a navigation device may be employed. .
  • the vehicle periphery monitoring device 10 is a device that monitors the periphery of the vehicle 1 using an image obtained through the infrared camera 11.
  • the vehicle periphery monitoring device 10 is configured by a computer (configured by an electronic circuit such as a CPU, a ROM, a RAM, an I / O circuit, and an A / D conversion circuit).
  • Analog signals output from the infrared camera 11, the yaw rate sensor 13, the vehicle speed sensor 14, the brake sensor 15, and the like are digitized and input to the vehicle periphery monitoring apparatus 10 through an A / D conversion circuit.
  • the vehicle periphery monitoring program stored in the memory, processing for recognizing the presence of an object such as a person or another vehicle, and the possibility of contact with the object recognized as the vehicle 1 is high or low. And a process for outputting sound to the audio output device 16 and outputting an image to the image output device 17 in accordance with the determination result.
  • the program may be distributed or broadcast from the server to the in-vehicle computer via a network or a satellite at an arbitrary timing, and stored in a storage device such as a RAM.
  • the vehicle periphery monitoring device 10 may be configured by a position ECU, but may be configured by a plurality of ECUs that constitute a distributed control system.
  • the vehicle periphery monitoring apparatus 10 includes an object detection element 102, an object tracking element 104, a distance measurement element 106, a first object area setting element 112, and a first local area 114.
  • the object detection element 102 recognizes the presence of the object based on an image representing the surrounding situation of the vehicle 1 obtained through the infrared camera 11.
  • the object tracking element 104 determines whether or not the “identity requirement” that the objects detected by the object detection element 102 are the same is satisfied based on the images at the first time point and the second time point. .
  • the image or area at a certain time means an image representing the surrounding situation of the vehicle 1 at this time or an area set in this image.
  • the distance measuring element 106 measures the distance from the vehicle 1 to the object.
  • the first object area setting element 112 sets an area where the object exists in the image as a “first object area”.
  • the first local region setting element 114 sets a region arranged with reference to the first object region at the first time point as a “first local region”.
  • the arrangement mode of the first local region with respect to the first object region is defined according to each of the plurality of object sections.
  • the second object area setting element 122 sets a “second object area” for the object determined by the object tracking element 104 that the identity requirement is satisfied.
  • the second object setting area is a first object area at the second time point that is enlarged or reduced by the ratio of the object distance at the second time point to the object distance at the first time point measured by the distance measuring element 106. is there.
  • the second local region setting element 124 is the same as the arrangement mode of the first local region set by the first local region setting element 114, and is based on the second target region set by the second target setting element 122. Is set as a “second local region”.
  • the correlation degree evaluation element 132 evaluates the degree of correlation between the first local area set by the first local area setting element 114 and the second local area set by the second local area setting element 124.
  • the object classification element 134 classifies the objects into object classifications according to the arrangement mode of the first local region that satisfies the “correlation requirement” that the correlation degree evaluated by the correlation degree evaluation element 132 is equal to or greater than the threshold value.
  • the object detection element 102 detects the object based on the image obtained through the infrared camera 11. Specifically, a grayscale image is acquired by A / D converting an infrared image that is an output signal of the infrared camera 11 (FIG. 3 / S002). Further, a binarized image is acquired by binarizing the grayscale image (S004 in FIG. 3). The binarization process is a process of classifying each pixel constituting the grayscale image into “1” (white) and “0” (black) according to whether or not the luminance is equal to or higher than a threshold value.
  • the gray scale image and the binarized image are stored in separate image memories.
  • a group of pixels grouped into “1” s constituting a high-luminance region of the binarized image has a width of one pixel in the vertical direction (y direction) of the image, and the horizontal direction (x direction).
  • the lines are classified into extending lines, and each line is converted into run-length data composed of the coordinates of the position (two-dimensional position in the image) and the length (number of pixels) (S006 in FIG. 3).
  • labels identifiers
  • an object as indicated by diagonal lines in the binarized image is detected.
  • the target object includes living structures such as humans (pedestrians) and artificial structures such as other vehicles. Note that a plurality of local parts of the same object may be recognized as the target object.
  • the object tracking element 104 executes object tracking processing, that is, processing for determining whether or not the detected object is the same for each calculation processing cycle of the object detecting element 102 (see FIG. 3 / S012). For example, the shape and size of the object detected in the binarized images at times k-1 and k according to the method described in Japanese Patent Laid-Open No. 2001-6096, and the correlation of the luminance distribution in the grayscale image Or the like. When it is determined that these objects are the same, the label of the object at time k is changed to the same label as the label of the object at time k ⁇ 1.
  • the distance measuring element 106 measures the distance from the vehicle 1 to the object detected by the object detecting element 102 based on the image. Specifically, the position of the center of gravity of the object in the binarized image is calculated, and the circumscribed rectangle of the object is set (FIG. 3 / S014).
  • the center of gravity position of the object is obtained by adding the result of multiplying the length of each line to the coordinates of the center position of each line of the run-length data corresponding to this object, and adding the result to the object in the image. It is obtained by dividing by the area of the object. Instead of the center of gravity of the object, the position of the center of gravity (center) of the circumscribed rectangle of the object may be calculated.
  • the distance Z (k) from the vehicle 1 to the object according to the equation (1). Is measured (FIG. 3 / S020).
  • the center, right direction, and downward direction of the captured image are defined as the origin o, + x direction, and + y direction in the image coordinate system. Further, based on the turning angle measured based on the output of the yaw rate sensor 15, the actual space position (X (k), Y (k), Z (k)) of each object is corrected.
  • the plurality of masks are arranged so as to have a center position on a reference line (one-dot chain line) that passes through the center of gravity or center of the object and extends in the vertical direction in the image.
  • a search is made for a mask whose degree of correlation with the plurality of masks is greater than or equal to a threshold in a grayscale image representing the surrounding situation of the vehicle 1 at a second time point before the first time point.
  • the mask of the correlation is above threshold and j- plurality of masks a i + and a in the first time point a i + and a j - is searched.
  • an area including the object and a continuous mask having the same or substantially the same positional relationship with the object at the first time point and the second time point among the plurality of masks is set as the first object region.
  • a rectangular area including the object and the masks a 1 -a 4 - arranged continuously below the object is a first object area.
  • the area obtained by enlarging the first object area at the second time point is set as the “second object area” by the second object area setting element 122 (FIG. 3 / S026).
  • the first object area at the second time point shown in FIG. 5A is enlarged, and the second object area shown in FIG. 5B is set.
  • the enlargement ratio of the first object region is measured by the distance measuring element 106 and is the same as the ratio of the distance from the vehicle 1 to the object at the second time point to the distance from the vehicle 1 to the object at the first time point.
  • an area obtained by reducing the first object area at the second time point can be set as the second object area.
  • the ratio is less than 1, an area obtained by reducing the first object area at the second time point is set as the second object area.
  • the first local region setting element 114 sets one or a plurality of regions arranged with reference to the first object region at the first time point as the “first local region” (FIG. 3 / S028). Thereby, for example, as shown on the upper side of each of FIGS. 6A and 6B, the region surrounded by the alternate long and short dash line is set as the first local region.
  • the arrangement mode of the first local region with the first object region as a reference is defined corresponding to each of the plurality of object sections.
  • the arrangement mode of the first local region shown in FIG. 6A is defined by the object classification “human”.
  • the arrangement mode of the first local region shown in FIG. 6B is defined by the object classification “automobile”.
  • the second local region setting element 124 sets one or a plurality of regions arranged with reference to the second object region as a “second local region” (FIG. 3 / S030). Thereby, for example, as shown on the lower side of each of FIGS. 6A and 6B, a region surrounded by a two-dot chain line is set as the second local region.
  • the second local area is arranged with reference to the second object area in the same manner as the arrangement form of the first local area with reference to the first object area.
  • the correlation degree evaluation element 132 evaluates the degree of correlation between the first local area and the second local area (S032 in FIG. 3). Then, for each arrangement mode of the first local region, the “correlation requirement” that the degree of correlation is equal to or greater than a threshold value (however, different from the correlation threshold value of the mask at the time of setting the first object region) is satisfied. It is determined whether or not there is (S034 in FIG. 3). When the determination result is affirmative by the object classification element 134 (FIG. 3 / S034... YES), and when the determination result is negative by the object classification element 134 (FIG. 3 / S034.
  • the target object is classified into the object classification according to the arrangement mode of the first local region (FIG. 3 / S036).
  • the correlation between the first local region and the second local region shown in FIG. 6A is equal to or greater than a threshold value
  • the object classification “human” according to the arrangement mode of the first local region.
  • Objects are classified into
  • the correlation between the first local region and the second local region shown in FIG. 6B is equal to or higher than the threshold (FIG. 3 / S034...
  • the object is classified into the object classification “automobile”.
  • the objects may be classified into categories such as animals such as deer, plants such as trees, and fixed items such as buildings in addition to or instead of the categories of human and automobile.
  • the vehicle 1 and each object can be contacted in accordance with, for example, a collision possibility determination method described in Japanese Patent Laid-Open No. 2001-6096. Whether or not the sex is high or low is determined (FIG. 3 / S038). If it is determined that the possibility of contact between the vehicle 1 and the object is high (FIG. 3 / S038... YES), the alert processing is performed in a manner according to the type of the object determined by the object classification element 134. It is executed (FIG. 3 / S040).
  • the sound and the image (such as a frame for highlighting the target object) according to the determination result of the contact possibility and the classification result of the target object are respectively the audio output device 16 and the image output device 17.
  • the output mode of sound and image is adjusted so that the driver of the vehicle 1 is more strongly aware of the presence of the object than when the object is classified as a vehicle. .
  • only one of the sound and the image may be output.
  • the brake of the vehicle 1 is not operated by the driver, or the vehicle 1 is reduced based on the output of the speed sensor 14 or the acceleration sensor (not shown).
  • the alerting process may be executed on the condition that it is confirmed that the speed is equal to or less than the threshold value. On the other hand, when it is determined that the possibility of contact between the vehicle 1 and the object is low (FIG. 3 / S038... NO), the alerting process is not executed.
  • the vehicle behavior is controlled instead of or in parallel with the alerting process. May be.
  • the steering device, the brake device, and the accelerator device of the vehicle 1 are avoided so as to avoid contact with an object that has been determined to have a high possibility of contact with the vehicle 1 or so as to facilitate avoidance.
  • Some or all of the operations may be controlled by a vehicle control unit (not shown).
  • the accelerator device is controlled to make acceleration difficult so that the driver's required pedaling force on the accelerator pedal is greater than in a normal case where it is not necessary to avoid contact with the object.
  • the required rotational force of the steering handle toward the steering direction of the steering device required to avoid contact between the vehicle 1 and the object is lower than the required rotational force of the steering handle toward the opposite side,
  • the steering handle can be easily operated in the steering direction.
  • the increasing speed of the braking force of the vehicle 1 according to the depression amount of the brake pedal of the brake device is made higher than in the normal case. By doing in this way, the driving
  • first local region and second local region having the same arrangement mode are set (see FIG. 3 / S028, S030, FIGS. 6A and 6B). Further, the objects are classified into object classifications according to the arrangement mode when the degree of correlation between the first local region and the second local region is greater than or equal to the threshold (see FIG. 3 / S034, S036). For each of the first local region and the second local region that are arranged in such a manner that the degree of correlation is equal to or greater than the threshold with respect to each of the first object region and the second object region at the first time point, There is a high probability that the corresponding type of object exists.
  • the types of objects can be determined with high accuracy by classifying the objects into object classifications according to the arrangement mode when the correlation degree is equal to or greater than the threshold among the plurality of arrangement modes. Then, depending on the classification result of the target object, the operation of the equipment mounted on the vehicle 1 (sound output device 16, image output device 17, steering device, brake device, and accelerator device) avoids contact between the vehicle 1 and the target object. From the viewpoint, it can be appropriately controlled.
  • the distance from the vehicle 1 to the object is measured using one infrared camera (monocular camera).
  • a millimeter wave radar, a laser radar, an ultrasonic radar, or the like is used.
  • the distance from the vehicle 1 to the object may be measured.
  • the distance may be calculated using parallax of a pair of infrared cameras arranged symmetrically with respect to the front center of the vehicle.
  • a camera whose sensitivity is adjusted to another wavelength region such as visible light may be employed as the imaging device.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)

Abstract

対象物の種類を高精度で判定することができる装置等を提供する。本発明の車両周辺監視装置１０によれば、異なる２つの時刻（＝第１時点および第２時点）のそれぞれにおける車両１の周辺状況を表わす画像において設定された、同一の対象物が存在する対象物領域（＝第１対象物領域）のサイズが、当該異なる２つの時刻のそれぞれにおける車両からこの対象物までの距離に基づいて揃えられる。また、サイズが揃えられた当該対象物領域（＝第１時点における第１対象物領域および第２対象物領域（＝拡大または縮小された第２時点における第１対象物領域））のそれぞれを基準として同じ配置態様の局所領域（＝第１局所領域および第２局所領域）が設定される。さらに、第１局所領域と第２局所領域との相関度が閾値以上となる場合の配置態様に応じた物体区分に対象物が分類される。

Description

車両周辺監視装置、車両、車両周辺監視プログラム
　本発明は、車載の撮像装置を通じて得られた画像を用いてこの車両の周辺を監視する装置等に関する。
　車両に搭載されているカメラにより撮像された画像に基づき、歩行者等の対象物の実空間位置を測定し、当該測定結果に基づいて車両と対象物との接触可能性の高低を判定する技術が提案されている（日本国　特開２００７－２１３５６１号公報参照）。
　しかし、車両と対象物との接触回避等の観点から、この対象物の種類が判定されることが好ましい場合がある。
　そこで、本発明は、対象物の種類を高精度で判定することができる装置等を提供することを解決課題とする。
　第１発明の車両周辺監視装置は、車両に搭載されている撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する装置であって、前記画像に基づいて対象物の存在を認識する対象物検出要素と、第１時点および第２時点のそれぞれにおける前記画像に基づいて前記対象物検出要素により検出された前記対象物が同一であるという同一性要件を満たしているか否かを判定する対象物追跡要素と、前記車両から前記対象物までの距離を測定する距離測定要素と、前記画像において前記対象物が存在する領域を第１対象物領域として設定する第１対象物領域設定要素と、前記第１時点における前記第１対象物領域を基準として、複数の物体区分のそれぞれに応じた態様で配置された領域を第１局所領域として設定する第１局所領域設定要素と、前記対象物追跡要素により前記同一性要件が満たされていると判定された前記対象物について、前記距離測定要素により測定された前記第１時点における前記距離に対する前記第２時点における前記距離の比率で拡大または縮小された、前記第２時点における前記第１対象物領域を第２対象物領域として設定する第２対象物領域設定要素と、前記第１局所領域設定要素により設定された前記第１局所領域の配置態様と同一の態様で前記第２対象物設定要素により設定された前記第２対象物領域を基準として配置されている領域を第２局所領域として設定する第２局所領域設定要素と、前記第１局所領域設定要素により設定された前記第１局所領域と、前記第２局所領域設定要素により設定された前記第２局所領域との相関度を評価する相関度評価要素と、前記相関度評価要素により評価された前記相関度が閾値以上であるという相関要件を満たす前記第１局所領域の配置態様に応じた物体区分に前記対象物を分類する対象物分類要素とを備えていることを特徴とする。
　第１発明の車両周辺監視装置によれば、異なる２つの時刻（＝第１時点および第２時点）のそれぞれにおける車両の周辺状況を表わす画像において設定された、同一の対象物が存在する対象物領域（＝第１対象物領域）のサイズが、当該異なる２つの時刻のそれぞれにおける車両からこの対象物までの距離に基づいて揃えられる。また、サイズが揃えられた当該対象物領域（＝第１時点における第１対象物領域および第２対象物領域（＝拡大または縮小された第２時点における第１対象物領域））のそれぞれを基準として同じ配置態様の局所領域（＝第１局所領域および第２局所領域）が設定される。さらに、第１局所領域と第２局所領域との相関度が閾値以上となる場合の配置態様に応じた物体区分に対象物が分類される。第１時点における第１対象物領域および第２対象物領域のそれぞれを基準として相関度が閾値以上となる態様で配置された第１局所領域および第２局所領域のそれぞれには、当該配置態様に応じた種類の対象物が存在している蓋然性が高い。したがって、前記のように複数の配置態様のうち相関度が閾値以上となるときの配置態様に応じた物体区分に対象物が分類されることにより、対象物の種類が高精度で判定されうる。
　第２発明の車両は、撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する第１発明の車両周辺監視装置とを備えていることを特徴とする。
　第２発明の車両によれば、車両周辺監視装置により対象物の種類が高精度で判定されるので、当該判定結果に応じて車両の搭載機器の動作が車両とこの対象物との接触回避等の観点から適当に制御されうる。
　第３発明の車両周辺監視プログラムは、車両に搭載されているコンピュータを、前記車両に搭載されている撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する第１発明の車両周辺監視装置として機能させることを特徴とする。
　第３発明の車両周辺監視プログラムによれば、車両に搭載されているコンピュータを、対象物の種類を高精度で判定する車両周辺監視装置として機能させることができる。
本発明の車両の構成説明図 本発明の車両周辺監視装置の構成説明図 本発明の車両周辺監視装置の機能を示すフローチャート 第１対象物領域の設定方法に関する説明図 第２対象物領域の設定方法に関する説明図 第１および第２局所領域の設定方法に関する説明図
　本発明の車両周辺監視装置等の実施形態について図面を用いて説明する。
　図１に示されている車両（四輪自動車）１には、車両周辺監視装置１０と、単一の赤外線カメラ（撮像装置）１１が搭載されている。図１に示されているように原点Ｏが車両１の前側に位置し、Ｘ軸、Ｙ軸およびＺ軸のそれぞれが車両１の左右方向、上下方向および前後方向のそれぞれに延びるように実空間座標系が定義されている。赤外線カメラ１１は車両１の前方を撮像するために、車両１の前側に取り付けられている。また、図２に示されているように車両１には、車両１のヨーレート、速度およびブレーキの状態のそれぞれに応じた信号を出力するヨーレートセンサ１３、速度センサ１４およびブレーキセンサ１５等の種々のセンサが搭載されている。さらに、図２に示されているように車両１には音声出力装置１６および画像出力装置１７が搭載されている。画像出力装置１７としては、車両１のフロントウィンドウに画像を表示するＨＵＤ（ヘッドアップディスプレイ）のほか、車両１の走行状況を示す表示計またはナビゲーション装置を構成するディスプレイ装置等が採用されてもよい。
　車両周辺監視装置１０は赤外線カメラ１１を通じて得られた画像を用いて車両１の周辺を監視する装置である。車両周辺監視装置１０はコンピュータ（ＣＰＵ，ＲＯＭ，ＲＡＭならびにＩ／Ｏ回路およびＡ／Ｄ変換回路等の電子回路等により構成されている。）により構成されている。車両周辺監視装置１０には、赤外線カメラ１１、ヨーレートセンサ１３、車速センサ１４およびブレーキセンサ１５等から出力されたアナログ信号がＡ／Ｄ変換回路を介してデジタル化されて入力される。当該入力データに基づき、メモリに格納されている「車両周辺監視プログラム」にしたがって、人間や他車両などの対象物の存在を認識する処理、車両１と認識した対象物との接触可能性の高低を判定する処理、および、この判定結果に応じて音声を音声出力装置１６に出力させたり、画像を画像出力装置１７に出力させたりする処理が当該コンピュータにより実行される。なお、プログラムは任意のタイミングでサーバからネットワークや衛星を介して車載コンピュータに配信または放送され、そのＲＡＭ等の記憶装置に格納されてもよい。車両周辺監視装置１０は位置のＥＣＵにより構成されていてもよいが、分散制御システムを構成する複数のＥＣＵにより構成されていてもよい。
　車両周辺監視装置１０は図２に示されているように対象物検出要素１０２と、対象物追跡要素１０４と、距離測定要素１０６と、第１対象物領域設定要素１１２と、第１局所領域１１４と、第２対象物領域設定要素１２２と、第２局所領域設定要素１２４と、相関度評価要素１３２と、対象物分類要素１３４とを備えている。対象物検出要素１０２は赤外線カメラ１１を通じて得られた車両１の周辺状況を表わす画像に基づいて対象物の存在を認識する。対象物追跡要素１０４は第１時点および第２時点のそれぞれにおける画像に基づいて対象物検出要素１０２により検出された対象物が同一であるという「同一性要件」を満たしているか否かを判定する。ある時刻における画像または領域とは、この時刻における車両１の周辺状況を表わす画像またはこの画像において設定された領域を意味する。距離測定要素１０６は車両１から対象物までの距離を測定する。第１対象物領域設定要素１１２は画像において対象物が存在する領域を「第１対象物領域」として設定する。第１局所領域設定要素１１４は第１時点における第１対象物領域を基準として配置された領域を「第１局所領域」として設定する。第１対象物領域を基準とした第１局所領域の配置態様は、複数の物体区分のそれぞれに応じて定義されている。第２対象物領域設定要素１２２は対象物追跡要素１０４により同一性要件が満たされていると判定された対象物について「第２対象物領域」を設定する。第２対象物設定領域は、距離測定要素１０６により測定された第１時点における対象物距離に対する第２時点における対象物距離の比率で拡大または縮小された、第２時点における第１対象物領域である。第２局所領域設定要素１２４は第１局所領域設定要素１１４により設定された第１局所領域の配置態様と同一の態様で、第２対象物設定要素１２２により設定された第２対象物領域を基準として配置されている領域を「第２局所領域」として設定する。相関度評価要素１３２は第１局所領域設定要素１１４により設定された第１局所領域と、第２局所領域設定要素１２４により設定された第２局所領域との相関度を評価する。対象物分類要素１３４は相関度評価要素１３２により評価された相関度が閾値以上であるという「相関要件」を満たす第１局所領域の配置態様に応じた物体区分に対象物を分類する。
　前記構成の車両１および車両周辺監視装置１０の機能について説明する。
　まず、対象物検出要素１０２が赤外線カメラ１１を通じて得られた画像に基づき、対象物を検出する。具体的には、赤外線カメラ１１の出力信号である赤外線画像がＡ／Ｄ変換されることによりグレースケール画像が取得される（図３／Ｓ００２）。また、グレースケール画像が２値化処理されることにより２値化画像が取得される（図３／Ｓ００４）。２値化処理は、グレースケール画像を構成する各画素をその輝度が閾値以上であるか否かに応じて「１」（白）および「０」（黒）に区分する処理である。グレースケール画像および２値化画像はそれぞれ別の画像メモリに記憶される。さらに、２値化画像の高輝度領域を構成する「１」に区分されたまとまった画素群が、画像の縦方向（ｙ方向）に１画素分の幅を有して横方向（ｘ方向）延在するラインに分類され、各ラインがその位置（画像における２次元位置）の座標と長さ（画素数）とからなるランレングスデータに変換される（図３／Ｓ００６）。そして、このランレングスデータにより表されるラインのうち、画像縦方向に重なりを有するライン群のそれぞれにラベル（識別子）が付され（図３／Ｓ００８）、当該ライン群が対象物として検出される（図３／Ｓ０１０）。これにより、図４（ａ）に示されているように２値化画像において斜線で示されているような対象物（２値化対象物）が検出される。対象物には人間（歩行者）などの生物のほか、他車両などの人口構造物も含まれる。なお、同一物体の複数の局所部分が対象物として認識される場合もある。
　また、対象物追跡要素１０４により、対象物の追跡処理、すなわち、対象物検出要素１０２の演算処理周期ごとに検出された対象物が同一であるか否かを判定する処理が実行される（図３／Ｓ０１２）。たとえば、特開２００１－６０９６号公報に記載されている手法にしたがって時刻ｋ－１およびｋのそれぞれの２値化画像において検出された対象物の形状やサイズ、グレースケール画像における輝度分布の相関性などに基づいて実行されうる。そして、これら対象物が同一であると判定された場合、時刻ｋにおける対象物のラベルが時刻ｋ－１における対象物のラベルと同じラベルに変更される。
　さらに、距離測定要素１０６が画像に基づき、車両１から対象物検出要素１０２により検出された対象物までの距離を測定する。具体的には、２値化画像における対象物の重心位置が算定され、かつ、対象物の外接四角形が設定される（図３／Ｓ０１４）。対象物の重心位置は、この対象物に対応するランレングスデータの各ラインの中心位置の座標に当該各ラインの長さを乗じた結果をすべてのラインについて加算し、その加算結果を画像における対象物の面積により除算することにより求められる。なお、対象物の重心に代えて、対象物の外接四角形の重心（中心）の位置が算定されてもよい。また、異なる時刻において同一のラベルが付された対象物を表わす対象物領域のサイズの変化率Ｒａｔｅが評価される（図３／Ｓ０１６）。具体的には、時刻ｋにおける対象物領域の大きさ（外接四角形の縦幅、横幅または面積により表わされる。）Ｓｉｚｅ（ｋ）に対する、時刻ｋ－１における対象物領域の大きさＳｉｚｅ（ｋ－１）の比率が変化率Ｒａｔｅ（ｋ）＝Ｓｉｚｅ（ｋ－１）／Ｓｉｚｅ（ｋ）（＜１）として決定される。さらに、ヨーレートセンサ１３および速度センサ１４のそれぞれの出力に基づき、車両１の速度およびヨーレートが測定１され、ヨーレートの測定値が積分されることにより、車両１の回頭角（方位角）が算出される（図３／Ｓ０１８）。
　また、今回の変化率Ｒａｔｅ（ｋ）に加え、今回の速度ｖ（ｋ）および赤外線カメラ１１の撮像時間間隔δＴに基づき、式（１）にしたがって車両１から対象物までの距離Ｚ（ｋ）が測定される（図３／Ｓ０２０）。
Figure JPOXMLDOC01-appb-M000001
　また、車両周辺監視装置１０により、車両１から対象物までの距離に基づき、この対象物の実空間位置Ｐ（ｋ）＝（Ｘ（ｋ），Ｙ（ｋ），Ｚ（ｋ））として算定される（図３／Ｓ０２２）。具体的には、車両１から各対象物までの補正後の距離Ｚ（ｋ）と、赤外線カメラ１１の焦点距離ｆと、撮像画像における対象物に対応した領域の画像座標ｘ（ｋ）およびｙ（ｋ）とに基づき、式（２）にしたがって実空間座標系におけるＸ座標Ｘ（ｋ）およびＹ座標Ｙ（ｋ）が算定される。撮像画像の中心、右方向および下方向のそれぞれが、画像座標系における原点ｏ、＋ｘ方向および＋ｙ方向として定義されている。また、ヨーレートセンサ１５の出力に基づいて測定される回頭角に基づき、各対象物の実空間位置（Ｘ（ｋ），Ｙ（ｋ），Ｚ（ｋ））が回頭角補正される。
Figure JPOXMLDOC01-appb-M000002
　また、第１対象物領域設定要素１１２により、２値化画像における対象物の重心位置および外接四角形の配置態様に基づき、グレースケール画像において対象物を表わす領域が「第１対象物領域」として設定される（図３／Ｓ０２４）。具体的には、まず、第１時点における車両１の周辺状況を表わすグレースケール画像において、対象物を基準として配置された複数のマスクが設定される。これにより、たとえば図４（ａ）に斜線で示されているように対象物の上下方向に並んで配置された複数の矩形状のマスクａi+（ｉ＝１，２，‥）およびａj-（ｊ＝１，２，‥）が設定される。当該複数のマスクは、対象物の重心または中心を通り、画像において上下方向に延びる基準ライン（一点鎖線）の上に中心位置を有するように配置されている。また、第１時点より前の第２時点における車両１の周辺状況を表わすグレースケール画像において当該複数のマスクとの相関度が閾値以上となるマスクが探索される。これにより、たとえば図４（ｂ）に示されているように第２時点における画像において、第１時点における複数のマスクａi+およびａj-との相関度が閾値以上のマスクａi+およびａj-が探索される。そして、対象物と、当該複数のマスクのうち、第１時点および第２時点における対象物との位置関係が同一またはほぼ同一の連続するマスクとを含む領域が第１対象物領域として設定される。これにより、たとえば図４（ｂ）に示されているように対象物およびその下方に連続して配置されたマスクａ1-～ａ4-とを包含する矩形状の領域が第１対象物領域として設定される。
　さらに、第２対象物領域設定要素１２２により、第２時点における第１対象物領域が拡大されることによって得られた領域が「第２対象物領域」として設定される（図３／Ｓ０２６）。これにより、たとえば図５（ａ）に示されている第２時点における第１対象物領域が拡大され、図５（ｂ）に示されている第２対象物領域が設定される。第１対象物領域の拡大率は、距離測定要素１０６により測定され、第１時点における車両１から対象物までの距離に対する、第２時点における車両１から対象物までの距離の比率と同じである。なお、第２時点が第１時点より後である場合、第２時点における第１対象物領域が縮小されることによって得られる領域が第２対象物領域として設定されうる。また、当該比率が１未満である場合、第２時点における第１対象物領域が縮小されることによって得られる領域が第２対象物領域として設定される。
　また、第１局所領域設定要素１１４により、第１時点における第１対象物領域を基準として配置された一または複数の領域が「第１局所領域」として設定される（図３／Ｓ０２８）。これにより、たとえば図６（ａ）および（ｂ）のそれぞれの上側に示されているように、一点鎖線で囲まれている領域が第１局所領域として設定される。第１対象物領域を基準とした第１局所領域の配置態様は、複数の物体区分のそれぞれに対応して定義されている。たとえば、図６（ａ）に示されている第１局所領域の配置態様は「人間」という物体区分により定義されている。また、図６（ｂ）に示されている第１局所領域の配置態様は「自動車」という物体区分により定義されている。
　さらに、第２局所領域設定要素１２４により、第２対象物領域を基準として配置された一または複数の領域が「第２局所領域」として設定される（図３／Ｓ０３０）。これにより、たとえば図６（ａ）および（ｂ）のそれぞれの下側に示されているように、二点鎖線で囲まれている領域が第２局所領域として設定される。第２局所領域は、第１対象物領域を基準とした第１局所領域の配置態様と同じ態様で第２対象物領域を基準として配置される。
　また、相関度評価要素１３２により第１局所領域および第２局所領域の相関度が評価される（図３／Ｓ０３２）。そして、第１局所領域の配置態様ごとに、この相関度が閾値（ただし、第１対象物領域設定時のマスクの相関殿閾値とは異なる。）以上であるという「相関要件」が満たされているか否かが判定される（図３／Ｓ０３４）。そして、対象物分類要素１３４により、当該判定結果が肯定的である場合（図３／Ｓ０３４‥ＹＥＳ）、対象物分類要素１３４により、当該判定結果が否定的である場合（図３／Ｓ０３４‥ＮＯ）、先と異なる態様で配置されている第１局所領域および第２局所領域が設定された上で、相関要件の充足性が再び判定される（図３／Ｓ０２８，Ｓ０３０，Ｓ０３２）。一方、第１局所領域の配置態様に応じた物体区分に対象物が分類される（図３／Ｓ０３６）。これにより、たとえば、図６（ａ）に示されている第１局所領域および第２局所領域の相関度が閾値以上である場合、この第１局所領域の配置態様に応じた物体区分「人間」に対象物が分類される。また、図６（ｂ）に示されている第１局所領域および第２局所領域の相関度が閾値以上である場合（図３／Ｓ０３４‥ＮＯ）、この第１局所領域の配置態様に応じた物体区分「自動車」に対象物が分類される。なお、対象物は、人間および自動車という区分に加えてまたは代えて、鹿等の動物、樹木等の植物や建造物等の固定物等の区分に分類されてもよい。
　また、異なる時刻における各対象物の実空間位置Ｐ（ｋ）に基づき、たとえば特開２００１－６０９６号公報に記載された衝突可能性の判定手法にしたがって、車両１と各対象物との接触可能性の高低または有無が判定される（図３／Ｓ０３８）。そして、車両１と対象物との接触可能性が高いと判定された場合（図３／Ｓ０３８‥ＹＥＳ）、対象物分類要素１３４により判定された対象物の種類に応じた態様で注意喚起処理が実行される（図３／Ｓ０４０）。具体的には、当該接触可能性の判定結果および対象物の分類結果に応じた音声および画像（当該対象物を強調表示するためのフレームなど）のそれぞれが音声出力装置１６および画像出力装置１７のそれぞれを通じて出力される。たとえば対象物が人間に分類された場合、対象物が車両に分類された場合よりも、この対象物の存在を車両１の運転者に強く認識させるように音声および画像の出力態様が調節される。なお、当該音声および画像のうち一方のみが出力されてもよい。また、ブレーキセンサ１５の出力に基づいて運転者による車両１のブレーキが操作されていないことが確認されたこと、または、速度センサ１４または加速度センサ（図示略）の出力に基づいて車両１の減速度が閾値以下であることが確認されたことを要件として注意喚起処理が実行されてもよい。一方、車両１と対象物との接触可能性が低いと判定された場合（図３／Ｓ０３８‥ＮＯ）、注意喚起処理は実行されない。
　また、車両１のステアリング装置、ブレーキ装置およびアクセル装置のうち一部または全部がアクチュエータにより操作され、車両１の走行挙動が操作される場合、注意喚起処理に代えてまたは並行して車両挙動が制御されてもよい。具体的には、車両１との接触可能性が高いと判定された対象物との接触を回避するように、または、回避が容易になるように車両１のステアリング装置、ブレーキ装置およびアクセル装置のうち一部または全部の動作が車両制御ユニット（図示略）により制御されてもよい。たとえば、運転者によるアクセルペダルの必要踏力が、対象物との接触を回避する必要がない通常の場合よりも大きくなるようにアクセル装置を制御して加速しにくくする。また、車両１と対象物との接触を回避するために要求されるステアリング装置の操舵方向側へのステアリングハンドルの要求回転力を、反対側へのステアリングハンドルの要求回転力よりも低くして、当該操舵方向側へのステアリングハンドルの操作を容易に行いうるようにする。さらに、ブレーキ装置のブレーキペダルの踏み込み量に応じた車両１の制動力の増加速度を、通常の場合よりも高くする。このようにすることで、対象物との接触を避けるための車両１の運転が容易になる。
　前記機能を発揮する車両周辺監視装置１０によれば、異なる２つの時点（＝第１時点および第２時点）のそれぞれにおける車両１の周辺状況を表わす画像において設定された、同一の対象物が存在する対象物領域（＝第１対象物領域）のサイズが、当該異なる２つの時刻のそれぞれにおける車両からこの対象物までの距離に基づいて揃えられる（図３／Ｓ０２０，Ｓ０２４，Ｓ０２６，図５（ａ）（ｂ）参照）。また、サイズが揃えられた当該対象物領域（＝第１時点における第１対象物領域および第２対象物領域（＝拡大または縮小された第２時点における第１対象物領域））のそれぞれを基準として同じ配置態様の局所領域（＝第１局所領域および第２局所領域）が設定される（図３／Ｓ０２８，Ｓ０３０，図６（ａ）（ｂ）参照）。さらに、第１局所領域と第２局所領域との相関度が閾値以上となる場合の配置態様に応じた物体区分に対象物が分類される（図３／Ｓ０３４，Ｓ０３６参照）。第１時点における第１対象物領域および第２対象物領域のそれぞれを基準として相関度が閾値以上となる態様で配置された第１局所領域および第２局所領域のそれぞれには、当該配置態様に応じた種類の対象物が存在している蓋然性が高い。したがって、前記のように複数の配置態様のうち相関度が閾値以上となるときの配置態様に応じた物体区分に対象物が分類されることにより、対象物の種類が高精度で判定されうる。そして、当該対象物の分類結果に応じて車両１の搭載機器（音声出力装置１６、画像出力装置１７、ステアリング装置、ブレーキ装置およびアクセル装置）の動作が車両１とこの対象物との接触回避等の観点から適当に制御されうる。
　なお、前記実施形態では一の赤外線カメラ（単眼カメラ）を用いて、車両１から対象物までの距離が測定されたが、他の実施形態としてミリ波レーダ、レーザレーダまたは超音波レーダ等が用いられて車両１から対象物までの距離が測定されてもよい。さらに他の実施形態として車両の前側中央部を基準として左右対称に配置された一対の赤外線カメラの視差を用いて当該距離が算出されてもよい。また、撮像装置として赤外線カメラ１１に代えて可視光等、他の波長領域に感度が調節されたカメラが採用されてもよい。

Claims (3)

  1. 車両に搭載されている撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する装置であって、
    　前記画像に基づいて対象物の存在を認識する対象物検出要素と、
    　第１時点および第２時点のそれぞれにおける前記画像に基づいて前記対象物検出要素により検出された前記対象物が同一であるという同一性要件を満たしているか否かを判定する対象物追跡要素と、
    　前記車両から前記対象物までの距離を測定する距離測定要素と、
    　前記画像において前記対象物が存在する領域を第１対象物領域として設定する第１対象物領域設定要素と、
    　前記第１時点における前記第１対象物領域を基準として、複数の物体区分のそれぞれに応じた態様で配置された領域を第１局所領域として設定する第１局所領域設定要素と、
    　前記対象物追跡要素により前記同一性要件が満たされていると判定された前記対象物について、前記距離測定要素により測定された前記第１時点における前記距離に対する前記第２時点における前記距離の比率で拡大または縮小された、前記第２時点における前記第１対象物領域を第２対象物領域として設定する第２対象物領域設定要素と、
    　前記第１局所領域設定要素により設定された前記第１局所領域の配置態様と同一の態様で、前記第２対象物設定要素により設定された前記第２対象物領域を基準として配置されている領域を第２局所領域として設定する第２局所領域設定要素と、
    　前記第１局所領域設定要素により設定された前記第１局所領域と、前記第２局所領域設定要素により設定された前記第２局所領域との相関度を評価する相関度評価要素と、
    　前記相関度評価要素により評価された前記相関度が閾値以上であるという相関要件を満たす前記第１局所領域の配置態様に応じた物体区分に前記対象物を分類する対象物分類要素とを備えていることを特徴とする車両周辺監視装置。
  2. 撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する請求項１記載の車両周辺監視装置とを備えていることを特徴とする車両。
  3. 車両に搭載されているコンピュータを、前記車両に搭載されている撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する請求項１記載の車両周辺監視装置として機能させることを特徴とする車両周辺監視プログラム。
PCT/JP2008/002828 2008-02-13 2008-10-07 車両周辺監視装置、車両、車両周辺監視プログラム WO2009101660A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP08872354.9A EP2224743B1 (en) 2008-02-13 2008-10-07 Vehicle periphery monitoring device, vehicle, and vehicle periphery monitoring program
CN2008801260333A CN101933326B (zh) 2008-02-13 2008-10-07 车辆周围监测装置、车辆
US12/809,874 US7974445B2 (en) 2008-02-13 2008-10-07 Vehicle periphery monitoring device, vehicle, and vehicle periphery monitoring program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2008-032026 2008-02-13
JP2008032026A JP4521642B2 (ja) 2008-02-13 2008-02-13 車両周辺監視装置、車両、車両周辺監視プログラム

Publications (1)

Publication Number Publication Date
WO2009101660A1 true WO2009101660A1 (ja) 2009-08-20

Family

ID=40956707

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2008/002828 WO2009101660A1 (ja) 2008-02-13 2008-10-07 車両周辺監視装置、車両、車両周辺監視プログラム

Country Status (5)

Country Link
US (1) US7974445B2 (ja)
EP (1) EP2224743B1 (ja)
JP (1) JP4521642B2 (ja)
CN (1) CN101933326B (ja)
WO (1) WO2009101660A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4871909B2 (ja) * 2008-04-25 2012-02-08 日立オートモティブシステムズ株式会社 物体認識装置、および物体認識方法
WO2012066751A1 (ja) 2010-11-16 2012-05-24 本田技研工業株式会社 車両の周辺監視装置
US9292735B2 (en) * 2011-09-28 2016-03-22 Honda Motor Co., Ltd. Living body recognizing device
JP5529910B2 (ja) 2012-03-12 2014-06-25 本田技研工業株式会社 車両周辺監視装置
US10565438B2 (en) 2012-03-12 2020-02-18 Honda Motor Co., Ltd. Vehicle periphery monitor device
US8964024B2 (en) * 2012-08-02 2015-02-24 Gentex Corporation System and method for controlling exterior vehicle lights responsive to detection of a semi-truck
WO2014103433A1 (ja) * 2012-12-25 2014-07-03 本田技研工業株式会社 車両周辺監視装置
US9580014B2 (en) * 2013-08-08 2017-02-28 Convoy Technologies Llc System, apparatus, and method of detecting and displaying obstacles and data associated with the obstacles
JP6920159B2 (ja) * 2017-09-29 2021-08-18 株式会社デンソー 車両の周辺監視装置と周辺監視方法
US20230177843A1 (en) * 2021-12-07 2023-06-08 Toyota Jidosha Kabushiki Kaisha Object assessment device, storage medium storing computer program for object assessment, and object assessment method
JP2023107533A (ja) * 2022-01-24 2023-08-03 株式会社豊田自動織機 人検知システムの画像処理装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001006096A (ja) 1999-06-23 2001-01-12 Honda Motor Co Ltd 車両の周辺監視装置
JP2002312769A (ja) * 2001-04-16 2002-10-25 Matsushita Electric Ind Co Ltd 監視装置及びそのパラメータ設定方法
JP2003006642A (ja) * 2001-06-22 2003-01-10 Toshihiko Shimizu 熱画像を利用した画像処理装置
JP2004303219A (ja) * 2003-03-20 2004-10-28 Honda Motor Co Ltd 車両周辺監視装置
JP2006151300A (ja) * 2004-11-30 2006-06-15 Honda Motor Co Ltd 車両周辺監視装置
JP2006185432A (ja) * 2004-11-30 2006-07-13 Honda Motor Co Ltd 車両周辺監視装置
JP2007213561A (ja) 2006-01-16 2007-08-23 Honda Motor Co Ltd 車両周辺監視装置
JP2007336091A (ja) * 2006-06-13 2007-12-27 Honda Motor Co Ltd 対象物検出装置、車両、対象物検出方法、並びに対象物検出用プログラム
JP2007334751A (ja) * 2006-06-16 2007-12-27 Honda Motor Co Ltd 車両周辺監視装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5144685A (en) * 1989-03-31 1992-09-01 Honeywell Inc. Landmark recognition for autonomous mobile robots
DE19636028C1 (de) * 1996-09-05 1997-11-20 Daimler Benz Ag Verfahren zur Stereobild-Objektdetektion
US20020134151A1 (en) * 2001-02-05 2002-09-26 Matsushita Electric Industrial Co., Ltd. Apparatus and method for measuring distances
EP1504276B1 (en) * 2002-05-03 2012-08-08 Donnelly Corporation Object detection system for vehicle
JP3916240B2 (ja) * 2003-08-07 2007-05-16 松下電器産業株式会社 運転支援装置及び運転支援方法
JP3934119B2 (ja) * 2004-06-14 2007-06-20 本田技研工業株式会社 車両周辺監視装置
JP2006115130A (ja) 2004-10-13 2006-04-27 Seiko Epson Corp 情報処理装置，及び、半導体集積回路
US7483549B2 (en) 2004-11-30 2009-01-27 Honda Motor Co., Ltd. Vehicle surroundings monitoring apparatus
JP3970876B2 (ja) * 2004-11-30 2007-09-05 本田技研工業株式会社 車両周辺監視装置
JP2007235642A (ja) * 2006-03-02 2007-09-13 Hitachi Ltd 障害物検知システム
US7786898B2 (en) * 2006-05-31 2010-08-31 Mobileye Technologies Ltd. Fusion of far infrared and visible images in enhanced obstacle detection in automotive applications
US7724962B2 (en) * 2006-07-07 2010-05-25 Siemens Corporation Context adaptive approach in vehicle detection under various visibility conditions

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001006096A (ja) 1999-06-23 2001-01-12 Honda Motor Co Ltd 車両の周辺監視装置
JP2002312769A (ja) * 2001-04-16 2002-10-25 Matsushita Electric Ind Co Ltd 監視装置及びそのパラメータ設定方法
JP2003006642A (ja) * 2001-06-22 2003-01-10 Toshihiko Shimizu 熱画像を利用した画像処理装置
JP2004303219A (ja) * 2003-03-20 2004-10-28 Honda Motor Co Ltd 車両周辺監視装置
JP2006151300A (ja) * 2004-11-30 2006-06-15 Honda Motor Co Ltd 車両周辺監視装置
JP2006185432A (ja) * 2004-11-30 2006-07-13 Honda Motor Co Ltd 車両周辺監視装置
JP2007213561A (ja) 2006-01-16 2007-08-23 Honda Motor Co Ltd 車両周辺監視装置
JP2007336091A (ja) * 2006-06-13 2007-12-27 Honda Motor Co Ltd 対象物検出装置、車両、対象物検出方法、並びに対象物検出用プログラム
JP2007334751A (ja) * 2006-06-16 2007-12-27 Honda Motor Co Ltd 車両周辺監視装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP2224743A4

Also Published As

Publication number Publication date
EP2224743A4 (en) 2011-03-02
US20100278392A1 (en) 2010-11-04
CN101933326B (zh) 2012-11-28
EP2224743B1 (en) 2013-07-17
JP4521642B2 (ja) 2010-08-11
JP2009194542A (ja) 2009-08-27
US7974445B2 (en) 2011-07-05
CN101933326A (zh) 2010-12-29
EP2224743A1 (en) 2010-09-01

Similar Documents

Publication Publication Date Title
JP4521642B2 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
US8766816B2 (en) System for monitoring the area around a vehicle
JP4271720B1 (ja) 車両周辺監視装置
JP4173901B2 (ja) 車両周辺監視装置
JP4173902B2 (ja) 車両周辺監視装置
JP4486997B2 (ja) 車両周辺監視装置
WO2010122828A1 (ja) 車両周辺監視装置
US8189868B2 (en) Vehicle periphery monitoring device
US8174578B2 (en) Vehicle periphery monitoring device
JP2007304033A (ja) 車両の周辺監視装置、車両、車両の周辺監視方法、および車両の周辺監視用プログラム
US7885430B2 (en) Automotive environment monitoring device, vehicle with the automotive environment monitoring device, and automotive environment monitoring program
JP4716294B2 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
JP4590654B2 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
JP4743797B2 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
JP4496383B2 (ja) 車両周辺監視装置、車両周辺監視方法、車両周辺監視プログラム
JP2010128800A (ja) 車両周辺監視装置

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200880126033.3

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 08872354

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 12809874

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2008872354

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE