JP2013015882A - Image recognition device for vehicle - Google Patents

Image recognition device for vehicle Download PDF

Info

Publication number
JP2013015882A
JP2013015882A JP2011146281A JP2011146281A JP2013015882A JP 2013015882 A JP2013015882 A JP 2013015882A JP 2011146281 A JP2011146281 A JP 2011146281A JP 2011146281 A JP2011146281 A JP 2011146281A JP 2013015882 A JP2013015882 A JP 2013015882A
Authority
JP
Japan
Prior art keywords
host vehicle
vehicle
obstacle
camera
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011146281A
Other languages
Japanese (ja)
Inventor
Jun Koreishi
純 是石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2011146281A priority Critical patent/JP2013015882A/en
Publication of JP2013015882A publication Critical patent/JP2013015882A/en
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image recognition device for a vehicle which determines own vehicle periphery state using a single camera without moving own vehicle when starting the own vehicle.SOLUTION: The image recognition device includes: the camera for photographing the own vehicle periphery; stop time storage control means for causing storage means to store information showing a stop time state in the own vehicle periphery during own vehicle stop time (more specifically, picked-up images by the camera during the own vehicle stop time and the presence or absence and a position of an obstacle existing in a direction photographed by the camera during the own vehicle stop time); state determination means for determining the own vehicle periphery state on the basis of the picked-up images by the camera and the stop time state stored as information in the storage means when starting the own vehicle.

Description

本発明は、車両用画像認識装置に係り、特に、カメラを用いて自車両周辺を撮影して自車両周辺の状態を判定するうえで好適な車両用画像認識装置に関する。   The present invention relates to a vehicular image recognition device, and more particularly to a vehicular image recognition device that is suitable for determining a state around a host vehicle by photographing the periphery of the host vehicle using a camera.

従来、自車両周辺を撮影して自車両周辺の障害物までの距離を検出する車両用画像認識装置が知られている(例えば、特許文献1参照)。この画像認識装置は、自車両に搭載された単一のカメラを用いて、自車両周辺の異なる2地点で時系列的に2つの画像を取得し、その2地点間の車両の移動データを算出し、2つの画像に映し出されている障害物に対して三角測量の原理でその障害物までの距離を算出する。従って、上記した画像認識装置によれば、単一のカメラを用いて自車両周辺に存在する障害物を検知することができる。   2. Description of the Related Art Conventionally, a vehicular image recognition device that captures an image of the periphery of the host vehicle and detects a distance to an obstacle around the host vehicle is known (see, for example, Patent Document 1). This image recognition device uses a single camera mounted on the host vehicle to acquire two images in time series at two different points around the host vehicle and calculate vehicle movement data between the two points. The distance to the obstacle is calculated based on the principle of triangulation for the obstacle displayed in the two images. Therefore, according to the above-described image recognition apparatus, an obstacle existing around the host vehicle can be detected using a single camera.

特開2001−187553号公報JP 2001-187553 A

しかしながら、上記の特許文献1記載の装置では、単一のカメラを用いて障害物を検知するうえで自車両と障害物とが相対移動することが必要であるので、自車両が停車状態から発進するときは、自車両が停車位置からある程度の距離を移動しない限り、異なる地点での画像を取得することができず、結果として、障害物を検知することができない。従って、上記の手法では、自車両発進時に単一のカメラを用いて自車両周辺の状態を判定するうえで、自車両を停車位置から移動させることが必要である。   However, in the apparatus described in Patent Document 1, since it is necessary for the host vehicle and the obstacle to move relative to each other in order to detect the obstacle using a single camera, the host vehicle starts from a stopped state. When the vehicle does not move the vehicle at a certain distance from the stop position, images at different points cannot be acquired, and as a result, an obstacle cannot be detected. Therefore, in the above-described method, it is necessary to move the host vehicle from the stop position in order to determine the state around the host vehicle using a single camera when the host vehicle starts.

本発明は、上述の点に鑑みてなされたものであり、自車両の発進時に自車両の移動を伴うことなく単一のカメラを用いて自車両周辺の状態を判定することが可能な車両用画像認識装置を提供することを目的とする。   The present invention has been made in view of the above points, and is for a vehicle that can determine the state of the vicinity of the own vehicle using a single camera without accompanying the movement of the own vehicle when the own vehicle starts. An object is to provide an image recognition apparatus.

上記の目的は、自車両周辺を撮影するカメラと、自車両停車時における自車両周辺の停車時状態を示す情報を記憶手段に記憶させる停車時記憶制御手段と、自車両発進時、前記カメラの撮像画像と前記記憶手段に情報記憶されている前記停車時状態とに基づいて、自車両周辺の状態を判定する状態判定手段と、を備える車両用画像認識装置により達成される。   The purpose of the above is to provide a camera for photographing the periphery of the host vehicle, a storage control unit for storing information indicating the stop state of the periphery of the host vehicle when the host vehicle is stopped, a storage control unit for stopping the vehicle, This is achieved by a vehicle image recognition apparatus comprising: a state determination unit that determines a state around the host vehicle based on the captured image and the stop state stored in the storage unit.

尚、「自車両停車時」とは、自車両の速度がゼロになる直前からゼロになった直後までのある程度時間的に幅を持ったものであってよい。また、「自車両発進時」とは、自車両が走行し始める直前の停車している時を含むものであってよいが、自車両が停車状態から走行し始めた後を含まないものである。   Note that “when the host vehicle is stopped” may have a certain time span from immediately before the speed of the host vehicle becomes zero to immediately after it becomes zero. Further, “when the host vehicle starts” may include a time when the host vehicle is stopped immediately before starting to travel, but does not include a time after the host vehicle starts to travel from the stopped state. .

本発明によれば、自車両の発進時に自車両の移動を伴うことなく単一のカメラを用いて自車両周辺の状態を判定することができる。   According to the present invention, it is possible to determine the state around the host vehicle using a single camera without accompanying movement of the host vehicle when the host vehicle starts.

本発明の一実施例である車両用画像認識装置の構成図である。1 is a configuration diagram of an image recognition apparatus for a vehicle that is an embodiment of the present invention. 本実施例の車両用画像認識装置において自車両停車時に実行される制御ルーチンの一例のフローチャートである。It is a flowchart of an example of the control routine performed when the own vehicle stops in the vehicle image recognition apparatus of the present embodiment. 本実施例の車両用画像認識装置において自車両発進時に実行される制御ルーチンの一例のフローチャートである。It is a flowchart of an example of the control routine performed at the time of the own vehicle start in the image recognition apparatus for vehicles of a present Example. 車両停車時に障害物が無かった状況において車両停車時と車両発進時とで画像変化が無いときに車両発進時に障害物が無いと判定する手法を説明するための図である。It is a figure for demonstrating the method of determining that there is no obstruction at the time of vehicle start, when there is no image change by the time of vehicle stop and the time of vehicle start in the situation where there was no obstruction at the time of vehicle stop. 車両停車時に障害物が有った状況において車両停車時と車両発進時とで画像変化が無いときに車両発進時に障害物が有ると判定する手法を説明するための図である。It is a figure for demonstrating the method of determining with an obstacle at the time of vehicle start, when there is no image change by the time of a vehicle stop and the time of a vehicle start in the situation where there was an obstacle at the time of a vehicle stop. 車両停車時に障害物が無かった状況において車両停車時と車両発進時とで画像変化が有るときに車両発進時に障害物が有ると判定する手法を説明するための図である。It is a figure for demonstrating the method of determining with an obstacle at the time of vehicle start, when there exists an image change at the time of a vehicle stop and the time of a vehicle start in the condition where there was no obstacle at the time of a vehicle stop.

以下、図面を用いて、本発明に係る車両用画像認識装置の具体的な実施の形態について説明する。   Hereinafter, specific embodiments of a vehicle image recognition apparatus according to the present invention will be described with reference to the drawings.

図1は、本発明の一実施例である車両用画像認識装置10の構成図を示す。本実施例の車両用画像認識装置10は、自動車などの車両に搭載されており、単一のカメラのみで得られる撮像画像に基づいて自車両周辺(具体的には、車両後方)に存在する立体物(例えば、人や壁,電柱,他車両など)としての障害物を検出するための画像認識装置である。尚、この車両用画像認識装置10は、例えばバッグガイドモニタシステムなどに適用されることとしてもよい。   FIG. 1 shows a configuration diagram of a vehicle image recognition apparatus 10 according to an embodiment of the present invention. The vehicle image recognition apparatus 10 according to the present embodiment is mounted on a vehicle such as an automobile, and exists in the vicinity of the own vehicle (specifically, on the rear side of the vehicle) based on a captured image obtained with only a single camera. It is an image recognition device for detecting an obstacle as a three-dimensional object (for example, a person, a wall, a power pole, another vehicle, etc.). The vehicular image recognition device 10 may be applied to, for example, a bag guide monitor system.

図1に示す如く、車両用画像認識装置10は、撮像装置12を備えている。撮像装置12は、例えば電荷結合素子(CCD)等の固体撮像素子により構成された一台のデジタルカメラである。以下、撮像装置12を単眼カメラ12と称す。単眼カメラ12は、車体の後部に取り付けられており、車体後部から自車両後方に広がる所定範囲を撮影することが可能である。   As shown in FIG. 1, the vehicular image recognition device 10 includes an imaging device 12. The imaging device 12 is a single digital camera configured by a solid-state imaging device such as a charge coupled device (CCD). Hereinafter, the imaging device 12 is referred to as a monocular camera 12. The monocular camera 12 is attached to the rear part of the vehicle body, and can capture a predetermined range extending from the rear part of the vehicle body to the rear of the host vehicle.

車両用画像認識装置10は、また、マイクロコンピュータを主体に構成される電子制御ユニット(以下、画像処理ECUと称す)14を備えている。画像処理ECU14には、上記の単眼カメラ12が電気的に接続されている。単眼カメラ12の撮像した画像は、画像処理ECU14に供給される。単眼カメラ12から画像処理ECU14への撮像画像の供給は、所定時間ごとに行われる。   The vehicular image recognition apparatus 10 also includes an electronic control unit (hereinafter referred to as an image processing ECU) 14 mainly composed of a microcomputer. The monocular camera 12 is electrically connected to the image processing ECU 14. An image captured by the monocular camera 12 is supplied to the image processing ECU 14. The supply of the captured image from the monocular camera 12 to the image processing ECU 14 is performed every predetermined time.

画像処理ECU14には、また、操舵角センサ16、車輪速センサ18、及びシフト位置センサ20が電気的に接続されている。操舵角センサ16は、自車両の操舵角に応じた信号を画像処理ECU14に出力する。車輪速センサ18は、自車両の車輪回転数に応じた信号を画像処理ECU14に出力する。また、シフト位置センサ20は、自車両の変速シフト位置に応じた信号を画像処理ECU14に出力する。   Further, a steering angle sensor 16, a wheel speed sensor 18, and a shift position sensor 20 are electrically connected to the image processing ECU 14. The steering angle sensor 16 outputs a signal corresponding to the steering angle of the host vehicle to the image processing ECU 14. The wheel speed sensor 18 outputs a signal corresponding to the wheel rotation speed of the host vehicle to the image processing ECU 14. The shift position sensor 20 outputs a signal corresponding to the shift shift position of the host vehicle to the image processing ECU 14.

画像処理ECU14は、操舵角センサ16からの信号に基づいて自車両の操舵角を検出する。また、車輪速センサ18からの信号に基づいて自車両の車輪回転数を検出して、自車両の所定時間中での移動量を検出する。また、シフト位置センサ20からの信号に基づいて自車両の変速シフト位置を検出する。画像処理ECU14は、車両走行中は、単眼カメラ12から供給される撮像画像データと、各センサ16〜20から供給されるデータと、に基づいて画像処理を行うことで、自車両後方に存在する立体物としての障害物の有無を判定すると共に、その障害物が有ると判定した場合は更にその障害物の自車両に対する位置又は距離を検出する。   The image processing ECU 14 detects the steering angle of the host vehicle based on the signal from the steering angle sensor 16. Further, the number of wheel rotations of the host vehicle is detected based on a signal from the wheel speed sensor 18, and the amount of movement of the host vehicle during a predetermined time is detected. Further, the shift shift position of the host vehicle is detected based on the signal from the shift position sensor 20. The image processing ECU 14 exists behind the host vehicle by performing image processing based on the captured image data supplied from the monocular camera 12 and the data supplied from the sensors 16 to 20 while the vehicle is traveling. The presence or absence of an obstacle as a three-dimensional object is determined, and when it is determined that the obstacle is present, the position or distance of the obstacle with respect to the host vehicle is further detected.

画像処理ECU14には、また、表示用モニタ22及び警報音デバイス24が電気的に接続されている。表示用モニタ22は、自車両を運転する運転者が視認可能となるようにセンターパネルなどに配設されており、例えばナビゲーションシステムに用いるモニタと兼用したものであってもよい。また、警報音デバイス24は、自車両を運転する運転者が聞くことができるように配設された車室内ブザーやスピーカなどである。   A display monitor 22 and an alarm sound device 24 are also electrically connected to the image processing ECU 14. The display monitor 22 is disposed on the center panel or the like so as to be visible to the driver who drives the host vehicle. For example, the display monitor 22 may also be used as a monitor used in a navigation system. Further, the alarm sound device 24 is a vehicle interior buzzer, a speaker, or the like disposed so that a driver driving the host vehicle can hear.

画像処理ECU14は、単眼カメラ12の撮像画像を処理して表示用モニタ22に向けて出力する。表示用モニタ22は、画像処理ECU14から供給される画像を表示する。尚、この表示用モニタ22に表示される画像は、単眼カメラ12の撮影した画像自体を鳥瞰図画像に変換したものであってもよいし、また、上記の如く検出された障害物の位置や距離データを付加したものであってもよい。   The image processing ECU 14 processes a captured image of the monocular camera 12 and outputs the processed image to the display monitor 22. The display monitor 22 displays an image supplied from the image processing ECU 14. The image displayed on the display monitor 22 may be an image captured by the monocular camera 12 converted into a bird's eye view image, and the position and distance of the obstacle detected as described above. Data to which data is added may be used.

また、画像処理ECU14は、上記の如く自車両後方に存在する障害物が有ると判定した場合において自車両がその障害物に対して所定距離以下に接近したとき、自車両の運転者に警告を与えるべく警報音デバイス24を作動させる。警報音デバイス24は、画像処理ECU14からの指示に従って自車両の運転者に対して警報音を発生する。尚、この警報音は、ブザー音や音声指示などであればよい。   Further, when the image processing ECU 14 determines that there is an obstacle existing behind the host vehicle as described above, when the host vehicle approaches a predetermined distance or less with respect to the obstacle, the image processing ECU 14 warns the driver of the host vehicle. The audible alarm device 24 is activated to provide. The alarm sound device 24 generates an alarm sound for the driver of the host vehicle in accordance with an instruction from the image processing ECU 14. The alarm sound may be a buzzer sound or a voice instruction.

画像処理ECU14は、画像メモリ30,32、CPU34、RAM36、及びROM38を有している。単眼カメラ12で撮像された画像は、アナログ画像からデジタル画像に変換された後、画像メモリ30に供給される。画像メモリ30は、単眼カメラ12からのデジタル画像データを記憶すると共にCPU34へ供給する。ROM38は、画像変換を行うためのプログラムや車両の移動量や移動位置を算出するためのプログラム等を記憶しており、適宜プログラムをRAM36に展開する。RAM36は、上記したプログラムを実行するうえでのワークエリアである。   The image processing ECU 14 includes image memories 30 and 32, a CPU 34, a RAM 36, and a ROM 38. An image captured by the monocular camera 12 is converted from an analog image to a digital image, and then supplied to the image memory 30. The image memory 30 stores digital image data from the monocular camera 12 and supplies it to the CPU 34. The ROM 38 stores a program for performing image conversion, a program for calculating a moving amount and a moving position of the vehicle, and the like, and appropriately develops the program in the RAM 36. The RAM 36 is a work area for executing the above-described program.

CPU34は、単眼カメラ12からのデジタル画像データと、操舵角センサ16からの操舵角データ、車輪速センサ18からの車輪回転数データ、及びシフト位置センサ20からの変速シフト位置データと、に基づいて、RAM36上のプログラムに従って画像処理を行う。この画像処理は、具体的には、自車両後方に存在する立体物としての障害物の有無を判定する共に、障害物が有ると判定した場合はその障害物を特定するデータ及びその障害物の位置又は自車両からその障害物までの距離を算出するものであり、また、画像メモリ30からのデジタル画像にそれらの各データを付加したうえで、その画像を鳥瞰図画像に変換するものである。   The CPU 34 is based on the digital image data from the monocular camera 12, the steering angle data from the steering angle sensor 16, the wheel rotational speed data from the wheel speed sensor 18, and the shift shift position data from the shift position sensor 20. Then, image processing is performed according to the program on the RAM 36. Specifically, this image processing determines whether or not there is an obstacle as a three-dimensional object existing behind the host vehicle. When it is determined that there is an obstacle, the data for identifying the obstacle and the obstacle The position or the distance from the host vehicle to the obstacle is calculated, and each data is added to the digital image from the image memory 30, and the image is converted into a bird's eye view image.

CPU34による画像処理により得られた鳥瞰図画像データは、画像メモリ32に供給される。画像メモリ32は、CPU34からの鳥瞰図画像データを記憶すると共に表示用モニタ22へ出力する。表示用モニタ22は、画像処理ECU14からの鳥瞰図画像を表示する。   Bird's eye view image data obtained by image processing by the CPU 34 is supplied to the image memory 32. The image memory 32 stores the bird's eye view image data from the CPU 34 and outputs it to the display monitor 22. The display monitor 22 displays a bird's eye view image from the image processing ECU 14.

また、CPU34は、自車両後方に存在する障害物が有ると判定した場合において自車両がその障害物に対して所定距離以下に接近したとき、自車両の運転者に警告を与えるべく警報音デバイス24を作動させる。警報音デバイス24は、CPU34からの指示に従って自車両の運転者に対して警報音を発生する。   Further, when the CPU 34 determines that there is an obstacle existing behind the host vehicle, the alarm sound device is used to give a warning to the driver of the host vehicle when the host vehicle approaches the obstacle below a predetermined distance. 24 is activated. The alarm sound device 24 generates an alarm sound for the driver of the host vehicle in accordance with an instruction from the CPU 34.

次に、図2乃至図6を参照して、本実施例の車両用画像認識装置10の動作について説明する。図2は、本実施例の車両用画像認識装置10において画像処理ECU14が自車両停車時に実行する制御ルーチンの一例のフローチャートを示す。図3は、本実施例の車両用画像認識装置10において画像処理ECU14が自車両発進時に実行する制御ルーチンの一例のフローチャートを示す。図4は、車両停車時に障害物が無かった状況において車両停車時と車両発進時とで画像変化が無いときに車両発進時に障害物が無いと判定する手法を説明するための図を示す。図5は、車両停車時に障害物が有った状況において車両停車時と車両発進時とで画像変化が無いときに車両発進時に障害物が有ると判定する手法を説明するための図を示す。また、図6は、車両停車時に障害物が無かった状況において車両停車時と車両発進時とで画像変化が有るときに車両発進時に障害物が有ると判定する手法を説明するための図を示す。   Next, with reference to FIG. 2 thru | or FIG. 6, operation | movement of the image recognition apparatus 10 for vehicles of a present Example is demonstrated. FIG. 2 shows a flowchart of an example of a control routine executed by the image processing ECU 14 when the host vehicle is stopped in the vehicle image recognition apparatus 10 of the present embodiment. FIG. 3 shows a flowchart of an example of a control routine executed by the image processing ECU 14 when the host vehicle starts in the vehicle image recognition apparatus 10 of the present embodiment. FIG. 4 is a diagram for explaining a method for determining that there is no obstacle when the vehicle starts when there is no image change between when the vehicle stops and when the vehicle starts in a situation where there is no obstacle when the vehicle stops. FIG. 5 is a diagram for explaining a method for determining that there is an obstacle when the vehicle starts when there is no image change between when the vehicle stops and when the vehicle starts in a situation where there is an obstacle when the vehicle stops. FIG. 6 is a diagram for explaining a method for determining that there is an obstacle at the start of the vehicle when there is an image change between the stop of the vehicle and the start of the vehicle in a situation where there is no obstacle when the vehicle is stopped. .

本実施例の車両用画像認識装置10において、画像処理ECU14は、特に自車両のイグニションオン中、単眼カメラ12に撮像された画像、並びに、操舵角センサ16、車輪速センサ18、及びシフト位置センサ20による自車両の状態量(具体的には、操舵角、車輪回転数、及び変速シフト位置)などを取得する(ステップ100)。尚、この画像処理ECU14での画像や状態量などのそれぞれの情報取得は、予め定められた各サンプリングタイムごとに行われる。   In the vehicular image recognition apparatus 10 according to the present embodiment, the image processing ECU 14 includes an image picked up by the monocular camera 12, particularly a steering angle sensor 16, a wheel speed sensor 18, and a shift position sensor, particularly during ignition on the host vehicle. The state quantity (specifically, the steering angle, the wheel rotation speed, and the shift shift position) of the host vehicle 20 is acquired (step 100). Each information acquisition such as an image and a state quantity in the image processing ECU 14 is performed at each predetermined sampling time.

画像処理ECU14は、上記ステップ100で情報取得した車輪速センサ18及びシフト位置センサ20による車輪回転数及び変速シフト位置に基づいて、自車両の進行方向(具体的には、前進又は後進)を判定して、自車両が後退して走行しているか否かを判別する(ステップ102)。その結果、自車両が後退していると判別した場合は、単眼カメラ12の撮像画像を用いて自車両後方に存在する立体物としての障害物を検出する処理(通常の立体物検出処理)を行う(ステップ104)。この立体物検出処理は、自車両後退中の異なる2つの地点で時系列的に得られる単眼カメラ12の2つの撮像画像間での物体の視差と、それらの2つの撮像画像を取得する間に自車両が移動した移動データと、に基づいて行われる。画像処理ECU14は、この立体物検出処理を完了すると、次に、上記ステップ100の処理を実行する。   The image processing ECU 14 determines the traveling direction of the host vehicle (specifically, forward or reverse) based on the wheel rotational speed and the shift shift position obtained by the wheel speed sensor 18 and the shift position sensor 20 acquired in step 100. Then, it is determined whether or not the host vehicle is traveling backward (step 102). As a result, when it is determined that the host vehicle is moving backward, a process of detecting an obstacle as a three-dimensional object existing behind the host vehicle using a captured image of the monocular camera 12 (normal three-dimensional object detection process) is performed. Perform (step 104). This three-dimensional object detection process is performed while acquiring parallax of an object between two captured images of the monocular camera 12 obtained in time series at two different points while the host vehicle is moving backward, and acquiring these two captured images. This is performed based on the movement data of the own vehicle. When the image processing ECU 14 completes the three-dimensional object detection process, the image processing ECU 14 next executes the process of step 100 described above.

画像処理ECU14は、上記ステップ102において自車両が後退していないすなわち自車両が前進している或いは停車していると判別した場合は、更に、上記ステップ100で情報取得した車輪速センサ18及びシフト位置センサ20による車輪回転数及び変速シフト位置に基づいて、自車両が停車しているか否かを判別する(ステップ106)。この停車判定は、車輪回転数がゼロであるか否か若しくは変速シフト位置がパーキング位置であるか否か、又はそれらの組み合わせに基づいて行われ、例えば自車両の速度がゼロである場合に肯定されるものであってよい。その結果、自車両が停車していないすなわち自車両が前進していると判別した場合は、次に、上記ステップ100の処理を実行する。   If the image processing ECU 14 determines in step 102 that the host vehicle is not moving backward, that is, the host vehicle is moving forward or stopped, the image processing ECU 14 further shifts the wheel speed sensor 18 and the information acquired in step 100. Based on the wheel rotation speed and the shift shift position by the position sensor 20, it is determined whether or not the host vehicle is stopped (step 106). This stop determination is made based on whether the wheel rotation speed is zero, whether the shift shift position is the parking position, or a combination thereof. For example, the determination is affirmative when the speed of the host vehicle is zero. It may be done. As a result, when it is determined that the host vehicle is not stopped, that is, the host vehicle is moving forward, the process of step 100 is executed next.

一方、自車両が停車していると判別した場合は、その停車直前に自車両が後退して走行していたか否かを判別する(ステップ108)。この後退判定は、今回上記ステップ102で否定判定がなされかつ上記ステップ106で肯定判定がなされる直前に、ステップ102で肯定判定がなされていたか否か或いはステップ104で立体物検出処理が実行されていたか否かに基づいて行われる。   On the other hand, if it is determined that the host vehicle is stopped, it is determined whether or not the host vehicle is traveling backward just before the stop (step 108). In this backward determination, immediately before the negative determination is made in step 102 and the positive determination is made in step 106, whether the positive determination is made in step 102 or the three-dimensional object detection process is executed in step 104. It is done based on whether or not.

画像処理ECU14は、上記ステップ108で自車両が停車に至るまでに後退していなかったと判別した場合は、自車両後方の所定範囲内に存在する障害物は無いと判定し、障害物無し情報をメモリ記憶する(ステップ110)。これは、上記ステップ102で自車両が後退していないと判別され、上記ステップ106で自車両が停車していると判別され、かつ、上記ステップ108で自車両が停車に至るまでに後退していなかったと判別された場合は、自車両は停車に至るまでに前進していたと判断できるため、自車両が停車に至るまでに通過していた移動軌跡上に障害物は無い筈であり、停車後に自車両後方に存在する障害物は無いと判断できるからである。   If the image processing ECU 14 determines in step 108 that the host vehicle has not moved backward until the vehicle stops, the image processing ECU 14 determines that there is no obstacle existing in the predetermined range behind the host vehicle, and displays the no obstacle information. Store in memory (step 110). In step 102, it is determined that the host vehicle has not moved backward, in step 106, it is determined that the host vehicle has stopped, and in step 108, the host vehicle has moved backward until it stops. If it is determined that the vehicle has not been stopped, it can be determined that the host vehicle was moving forward until the vehicle stopped.Therefore, there should be no obstacles on the movement trajectory that the vehicle passed through until the vehicle stopped. This is because it can be determined that there is no obstacle behind the host vehicle.

一方、画像処理ECU14は、上記ステップ108で自車両が停車に至るまでに後退していたと判別した場合は、その後退中において立体物検出処理により自車両後方に存在する障害物が有ることが判定されていたか否かを判別する(ステップ112)。この判定は、上記ステップ104での立体物検出処理の結果に基づいて行われる。その結果、後退中に自車両後方に存在する障害物が有ることが判定されていたと判別した場合は、その自車両後方に存在する障害物の、自車両の停車直前における自車両に対する位置の情報をメモリに記憶する(ステップ114)。   On the other hand, if the image processing ECU 14 determines in step 108 that the host vehicle has moved backward until it stops, the image processing ECU 14 determines that there is an obstacle existing behind the host vehicle by the three-dimensional object detection process during the backward movement. It is determined whether or not it has been done (step 112). This determination is performed based on the result of the three-dimensional object detection process in step 104 described above. As a result, when it is determined that there is an obstacle existing behind the host vehicle during reverse, information on the position of the obstacle existing behind the host vehicle with respect to the host vehicle immediately before the host vehicle stops Is stored in the memory (step 114).

画像処理ECU14は、上記ステップ110で自車両後方に存在する障害物は無いと判定した場合、上記ステップ112で後退中に自車両後方に存在する障害物が無いことが判定されていたと判別した場合、及び、上記ステップ114で障害物の位置情報をメモリに記憶した場合、次に、上記ステップ100で情報取得した単眼カメラ12の撮像画像の情報をメモリに記憶する(ステップ116)。   When the image processing ECU 14 determines in step 110 that there is no obstacle present behind the host vehicle, the image processing ECU 14 determines that it is determined in step 112 that there is no obstacle present behind the host vehicle during reverse. If the obstacle position information is stored in the memory in step 114, the information of the captured image of the monocular camera 12 acquired in step 100 is stored in the memory (step 116).

このように、本実施例においては、自車両の後退中に、単眼カメラ12の時系列的な撮像画像を用いた通常の立体物検出処理により自車両後方に存在する障害物が有るか無いかを判定することができる。また、自車両の停車時に、単眼カメラ12の撮像画像の情報をメモリ記憶すると共に、自車両後方に存在する障害物の有無情報と、その自車両停車直前に自車両が後退しておりかつその後退中に自車両後方に存在する障害物が有ると判定されていた場合は更にその障害物の位置情報と、をメモリ記憶することができる。   Thus, in the present embodiment, whether or not there is an obstacle existing behind the host vehicle by the normal three-dimensional object detection process using the time-series captured images of the monocular camera 12 during the backward movement of the host vehicle. Can be determined. In addition, when the host vehicle is stopped, the information of the captured image of the monocular camera 12 is stored in the memory, the presence / absence information of the obstacle existing behind the host vehicle, and the host vehicle is moving backward immediately before the host vehicle is stopped. When it is determined that there is an obstacle existing behind the host vehicle while the vehicle is leaving, the position information of the obstacle can be further stored in the memory.

具体的には、自車両停車時、自車両がその停車に至るまでに単眼カメラ12が撮影する自車両後方に向けて移動していた(すなわち後退していた)場合は、その後退時において単眼カメラ12の撮像画像の時系列変化に基づいて検出される障害物の有無情報及び位置情報、並びに、自車両停車時における単眼カメラ12の撮像画像の情報をメモリ記憶する。一方、自車両停車時、自車両がその停車に至るまでに単眼カメラ12が撮影する自車両後方と逆方向に向けて移動していた(すなわち前進していた)場合は、自車両後方に存在する障害物が無いことを示す情報、及び、自車両停車時における単眼カメラ12の撮像画像の情報をメモリ記憶する。   Specifically, when the host vehicle is stopped, if the host vehicle has moved toward the rear of the host vehicle captured by the monocular camera 12 until the vehicle stops (that is, the vehicle has moved backward), The presence / absence information and position information of the obstacle detected based on the time-series change of the captured image of the camera 12 and information of the captured image of the monocular camera 12 when the host vehicle is stopped are stored in memory. On the other hand, when the host vehicle is stopped, if the host vehicle is moving in the direction opposite to the rear of the host vehicle captured by the monocular camera 12 until the vehicle stops (that is, the vehicle is moving forward), the vehicle exists behind the host vehicle. The information indicating that there is no obstacle to be performed and the information of the captured image of the monocular camera 12 when the host vehicle is stopped are stored in memory.

本実施例において、画像処理ECU14は、上記の如く自車両が停車した際における単眼カメラ12の撮像画像や障害物の有無情報,位置情報をメモリ記憶した後、予め定められた所定時間が経過したか否か、或いは、自車両のエンジンが停止状態から始動されたか否かを判別する(ステップ150)。その結果、否定判定がなされる場合は、このステップ150の処理を繰り返し実行する。一方、肯定判定がなされる場合すなわち上記の所定時間が経過し或いは自車両エンジンが始動されたと判別した場合は、単眼カメラ12に撮像された画像を取得する(ステップ152)。従って、自車両停車から所定時間が経過した際或いは自車両のエンジンが始動された際の自車両後方の撮像画像が得られる。   In this embodiment, the image processing ECU 14 stores in memory the captured image of the monocular camera 12, the presence / absence information of the obstacle, and the position information when the host vehicle stops as described above, and then a predetermined time has elapsed. Or whether or not the engine of the host vehicle is started from a stopped state (step 150). As a result, when a negative determination is made, the process of step 150 is repeatedly executed. On the other hand, when an affirmative determination is made, that is, when it is determined that the predetermined time has elapsed or the own vehicle engine has been started, an image captured by the monocular camera 12 is acquired (step 152). Accordingly, a captured image behind the host vehicle when a predetermined time has elapsed since the host vehicle stopped or when the engine of the host vehicle is started is obtained.

画像処理ECU14は、上記ステップ152で取得した単眼カメラ12の現状の撮像画像を、上記図3に示すステップ116でメモリ記憶した単眼カメラ12の自車両停車時の撮像画像と比較することにより、両者間での変化領域を検出する変化領域検出処理を実行する(ステップ154)。この変化領域検出処理は、例えば特開2009−211453や特許第3831232号などに記載されている手法を用いることとすればよい。かかる手法を用いれば、照明変動や屋外環境における様々な外乱に対してロバストな背景差分を実現することが可能である。また、この変化領域検出処理により検出の対象となる変化領域は、例えば、自車両の走行に支障をきたす可能性のある大きさ或いは高さを有する障害物が自車両から所定距離(例えば、警報音デバイス24による警報音を開始する距離)で撮像画像に映るときにその障害物がその画像上で占める大きさ以上に設定されている。   The image processing ECU 14 compares the current captured image of the monocular camera 12 acquired in step 152 with the captured image of the monocular camera 12 stored in memory in step 116 shown in FIG. A change area detection process is performed to detect a change area between them (step 154). For this change area detection processing, for example, a method described in Japanese Patent Application Laid-Open No. 2009-212453, Japanese Patent No. 383232, or the like may be used. By using this method, it is possible to realize a background difference that is robust against illumination fluctuations and various disturbances in the outdoor environment. The change area to be detected by the change area detection processing is, for example, a predetermined distance (for example, an alarm) from an own vehicle by an obstacle having a size or height that may interfere with traveling of the own vehicle. The distance that the obstacle occupies on the image when it appears in the captured image at a distance (starting the alarm sound by the sound device 24) is set.

画像処理ECU14は、上記した変化領域検出処理により両撮像画像間で変化領域が有ることが検出されるか或いは無いことが検出されるかを判別する(ステップ156)。その結果、両撮像画像間で変化領域が無いことが検出された場合は、次に、メモリ記憶されている障害物の有無情報に基づいて、自車両が前回停車した際に自車両後方に存在する障害物が有ると判定されていたか否かを判別する(ステップ158)。現状の撮像画像と自車両停車時の撮像画像とで変化が無い場合は、自車両停車時から現時点までに自車両後方の状態に変化は無いと判断できる。従って、上記ステップ158で自車両停車時に障害物が有ると判定されていたと判別した場合は、現状においても自車両後方に存在する障害物が有ると判定する(ステップ160)。一方、自車両停車時に障害物が無いと判定されていたと判別した場合は、現状においても自車両後方に存在する障害物が無いと判定する(ステップ162)。   The image processing ECU 14 determines whether or not it is detected that there is a change area between both captured images by the above-described change area detection process (step 156). As a result, if it is detected that there is no change area between the two captured images, then the vehicle will be located behind the vehicle when it stopped last time based on the obstacle information stored in the memory. It is determined whether or not it has been determined that there is an obstacle to be performed (step 158). When there is no change between the current captured image and the captured image when the host vehicle is stopped, it can be determined that there is no change in the state behind the host vehicle from when the host vehicle stops until the current time. Therefore, if it is determined in step 158 that it is determined that there is an obstacle when the host vehicle is stopped, it is determined that there is an obstacle existing behind the host vehicle even in the current state (step 160). On the other hand, if it is determined that there is no obstacle when the host vehicle is stopped, it is determined that there is no obstacle present behind the host vehicle even in the current state (step 162).

また、上記ステップ156において両撮像画像間で変化領域が有ることが検出された場合は、次に、メモリ記憶されている障害物の有無情報に基づいて、自車両が前回停車した際に自車両後方に存在する障害物が有ると判定されていたか否かを判別する(ステップ164)。現状の撮像画像と自車両停車時の撮像画像とで変化が有る場合は、自車両停車時から現時点までに自車両後方の状態に変化があったと判断できる。この場合、自車両停車時に障害物が無かったときは現時点までに障害物が侵入した可能性があり、一方、自車両停車時に障害物が有ったときは現時点までにその障害物若しくは新たな障害物が撮像画像内で移動し若しくは侵入した又はその障害物が撮像画像外へ出て撮像画像内に存在しなくなったと判断できる。従って、上記ステップ164で自車両停車時に障害物が無いと判定されていたと判別した場合は、現状において自車両後方に存在する障害物が有ると判定する(ステップ166)。一方、上記ステップ164で自車両停車時に障害物が有ると判定されていたと判別した場合は、現状において自車両後方に障害物が存在するか否かが不定であると判定する(ステップ168)。   If it is detected in step 156 that there is a change area between the two captured images, the next time the host vehicle stops last time based on the obstacle presence / absence information stored in the memory. It is determined whether or not it has been determined that there is an obstacle existing behind (step 164). When there is a change between the current captured image and the captured image when the host vehicle is stopped, it can be determined that there has been a change in the state behind the host vehicle from when the host vehicle stopped to the present time. In this case, when there is no obstacle when the host vehicle is stopped, there is a possibility that the obstacle has invaded until the present time. On the other hand, when there is an obstacle when the host vehicle is stopped, the obstacle or new It can be determined that the obstacle has moved or entered the captured image, or that the obstacle has gone out of the captured image and no longer exists in the captured image. Therefore, if it is determined in step 164 that it is determined that there is no obstacle when the host vehicle is stopped, it is determined that there is an obstacle existing behind the host vehicle at present (step 166). On the other hand, if it is determined in step 164 that it is determined that there is an obstacle when the host vehicle is stopped, it is determined that it is uncertain whether an obstacle exists behind the host vehicle (step 168).

画像処理ECU14は、上記ステップ160、162、166、又は168で現状における自車両後方の状態を判定した後、自車両のエンジンが始動されたか否かを判別する(ステップ170)。その結果、自車両のエンジンが始動されていないと判別した場合は、上記ステップ150以降の処理を繰り返し行う。一方、自車両のエンジンが始動されたと判別した場合は、上記ステップ160、162、166、又は168での判定結果に基づいて現状において自車両後方に存在する障害物が有ると判定し或いは有るか否かが不定であると判定したとき、自車両の運転者に障害物有り又は障害物有無不定の注意を促す表示・警報を行うように表示モニタ22及び警報音デバイス24を作動させる(ステップ172)。   The image processing ECU 14 determines whether or not the engine of the host vehicle has been started after determining the current state behind the host vehicle in the above-described step 160, 162, 166, or 168 (step 170). As a result, if it is determined that the engine of the host vehicle has not been started, the processing after step 150 is repeated. On the other hand, if it is determined that the engine of the host vehicle has been started, it is determined or present that there is an obstacle existing behind the host vehicle based on the determination result in step 160, 162, 166, or 168. When it is determined that the answer is indefinite, the display monitor 22 and the alarm sound device 24 are operated so as to perform a display / alarm that alerts the driver of the own vehicle that there is an obstacle or the presence or absence of an obstacle (step 172). ).

画像処理ECU14は、上記ステップ172で表示モニタ22及び警報音デバイス24の作動を開始すると、車輪速センサ18及びシフト位置センサ20による自車両の状態量(具体的には、車輪回転数及び変速シフト位置)に基づいて自車両が移動しているか否かを判別する(ステップ174)。その結果、自車両が移動していないと判別した場合は、上記ステップ150以降の処理を繰り返し行う。一方、自車両が移動していると判別した場合は、以後、背景差分による変化領域検出処理を用いて障害物検出を行うことは適切でないので、障害物を検出する手法を、上記ステップ104と同様の、単眼カメラ12の撮像画像を用いて自車両後方に存在する立体物としての障害物を検出する処理(通常の立体物検出処理)に切り替える(ステップ176)。かかる切り替えが行われると、以後、自車両後方に存在する立体物としての障害物は、単眼カメラ12の時系列的な2つの撮像画像間の視差を用いた通常の立体物検出処理により検出されることとなる。   When the image processing ECU 14 starts the operation of the display monitor 22 and the alarm sound device 24 in the above step 172, the state quantity of the host vehicle (specifically, the wheel speed and the shift shift) is determined by the wheel speed sensor 18 and the shift position sensor 20. It is determined whether or not the host vehicle is moving based on (position) (step 174). As a result, when it is determined that the host vehicle is not moving, the processes after step 150 are repeated. On the other hand, if it is determined that the host vehicle is moving, it is not appropriate to perform obstacle detection using the change area detection process based on background difference thereafter. In the same manner, the processing is switched to processing for detecting an obstacle as a three-dimensional object existing behind the host vehicle (normal three-dimensional object detection processing) using the captured image of the monocular camera 12 (step 176). After such switching, an obstacle as a three-dimensional object existing behind the host vehicle is detected by a normal three-dimensional object detection process using parallax between two time-series captured images of the monocular camera 12. The Rukoto.

このように、本実施例においては、自車両停車後、所定時間が経過したとき或いはエンジンが始動されたとき、単眼カメラ12で撮影される自車両後方の撮像画像を、自車両停車時にメモリ記憶された自車両停車時の撮像画像と比較することで、両者間での変化領域を検出する変化領域検出処理を実行すると共に、この変化領域検出処理を自車両の移動が開始されるまで繰り返し実行する。   As described above, in this embodiment, when a predetermined time has elapsed after the host vehicle stops or when the engine is started, a captured image of the rear of the host vehicle captured by the monocular camera 12 is stored in the memory when the host vehicle stops. Compared with the captured image when the host vehicle is stopped, a change area detection process for detecting a change area between the two is executed, and the change area detection process is repeatedly executed until the movement of the host vehicle is started. To do.

そして、変化領域検出処理により両撮像画像間で変化領域が無いことが検出される場合は、自車両停車時から現時点までに自車両後方の状態に変化が無いので、現時点における障害物有無判定として、自車両停車時における障害物有無判定と同じ判定を行う(図4及び図5参照)。一方、両撮像画像間で変化領域が有ることが検出される場合は、自車両停車時に障害物が無いと判定されていたとき、現時点における障害物有無判定として障害物が有ると判定する(図6参照)。尚、両撮像画像間で変化領域が有ることが検出される場合において、自車両停車時に障害物が有ると判定されていたときは、現時点における障害物有無が不定であると判定する。すなわち、本実施例においては、自車両停車時の撮像画像と自車両発進時(正確には、発進直前)の撮像画像とを比較してその画像間での変化領域を検出し、その変化領域が無い場合は、自車両停車時における障害物有無判定と同様の障害物有無判定を行い、一方、その変化領域が有る場合は、自車両停車時に障害物が無いと判定されていたときに限り障害物が有ると判定する。   And, when it is detected by the change area detection process that there is no change area between both captured images, there is no change in the state behind the own vehicle from the time when the own vehicle stops until the present time. Then, the same determination as the obstacle presence / absence determination when the host vehicle is stopped is performed (see FIGS. 4 and 5). On the other hand, when it is detected that there is a change area between both captured images, when it is determined that there is no obstacle when the host vehicle is stopped, it is determined that there is an obstacle as the obstacle presence / absence determination at the present time (FIG. 6). When it is detected that there is a change area between the two captured images and it is determined that there is an obstacle when the host vehicle is stopped, it is determined that the presence or absence of the obstacle at the present time is indefinite. That is, in the present embodiment, the captured image when the host vehicle is stopped and the captured image when the host vehicle is started (precisely, immediately before starting) are compared to detect a change region between the images, and the change region is detected. When there is no obstacle, the obstacle presence / absence determination is performed in the same way as when the vehicle is stopped. On the other hand, if there is a change area, only when it is determined that there is no obstacle when the host vehicle is stopped. Determine that there is an obstacle.

従って、本実施例の車両用画像認識装置10によれば、自車両が停車後に発進する時に自車両の移動を伴うことなく単眼カメラ12の撮像画像を用いて自車両後方の状態を判定することができる。この点、自車両発進時において自車両後方に存在する障害物の有無検出を行ううえで、自車両が実際に発進することは不要であり、単眼カメラ12の撮像画像に時系列的な視差を生じさせることは不要であるので、自車両が発進する際に停車したままの状態で単眼カメラ12の撮像画像を用いて自車両後方に存在する障害物の有無検出を実現することが可能である。また更に、自車両発進時に自車両が停車しつつ自車両後方に存在する障害物が全く移動しなくても、すなわち、自車両発進時に自車両と自車両後方に存在する障害物とが相対変位しなくても、単眼カメラ12の撮像画像を用いて自車両後方に存在する障害物の有無検出を実現することが可能である。   Therefore, according to the vehicular image recognition apparatus 10 of the present embodiment, the state behind the host vehicle is determined using the captured image of the monocular camera 12 without the movement of the host vehicle when the host vehicle starts after stopping. Can do. In this regard, it is not necessary for the host vehicle to actually start in order to detect the presence of an obstacle existing behind the host vehicle when starting the host vehicle, and time series parallax is added to the captured image of the monocular camera 12. Since it is not necessary to cause it to occur, it is possible to detect the presence or absence of an obstacle existing behind the host vehicle using the captured image of the monocular camera 12 while the host vehicle is stopped. . Furthermore, even if the host vehicle stops when the host vehicle starts and the obstacle existing behind the host vehicle does not move at all, that is, when the host vehicle starts, the host vehicle and the obstacle existing behind the host vehicle are relatively displaced. Even if it does not do, it is possible to implement | achieve the presence detection of the obstruction which exists behind the own vehicle using the captured image of the monocular camera 12. FIG.

尚、上記の実施例においては、自車両停車時における単眼カメラ12の撮像画像の情報並びに自車両停車時に単眼カメラ12が撮影する方向に存在する障害物の有無情報及び位置情報を記憶する画像処理ECU14内のメモリが特許請求の範囲に記載した「記憶手段」に、画像処理ECU14が図2に示すルーチン中ステップ110、114、及び116の処理を実行することが特許請求の範囲に記載した「停車時記憶制御手段」に、画像処理ECU14が図3に示すルーチン中ステップ160、162、166、及び168の処理を実行することが特許請求の範囲に記載した「状態判定手段」に、画像処理ECU14が上記ステップ104で通常の立体物検出処理を行うことが特許請求の範囲に記載した「通常時障害物検出手段」に、それぞれ相当している。   In the above-described embodiment, image processing for storing information on the captured image of the monocular camera 12 when the host vehicle is stopped, presence / absence information of an obstacle existing in the direction in which the monocular camera 12 is captured when the host vehicle is stopped, and position information. The memory in the ECU 14 stores the “storage means” described in the claims, and the image processing ECU 14 executes the processing of steps 110, 114, and 116 in the routine shown in FIG. The image processing ECU 14 executes the processing of steps 160, 162, 166, and 168 in the routine shown in FIG. 3 in the “stationary storage control means”. The ECU 14 performs the normal three-dimensional object detection process in the above step 104 in the “normal obstacle detection means” described in the claims. Which is equivalent.

ところで、上記の実施例においては、自車両周辺を撮影する単眼カメラ12が、車体後部に取り付けられ、自車両後方に広がる領域を撮影するカメラであるものとしたが、車両前部(例えば、バンパーや車室内ミラーステイなど)に取り付けられ、自車両前方に広がる領域を撮影するカメラに適用することとしてもよいし、また、車体側部に取り付けられ、側方や前側方,後側方に広がる領域を撮影するカメラに適用することとしてもよい。   By the way, in the above embodiment, the monocular camera 12 for photographing the periphery of the host vehicle is a camera that is attached to the rear part of the vehicle body and shoots an area extending rearward of the host vehicle. It can be applied to a camera that shoots an area that extends to the front of the host vehicle and is attached to the side of the vehicle body and spreads to the side, front side, and rear side. It is good also as applying to the camera which image | photographs an area | region.

また、上記の実施例においては、自車両発進時に自車両後方の状態判定(障害物の有無判定)を行った後、自車両の運転者に障害物有り又は障害物有無不定の注意を促す表示・警報を行うように表示モニタ22及び警報音デバイス24を作動させるうえで、エンジンが始動されることを条件としているが、そのエンジン始動後に変速シフト位置がドライブレンジや後退レンジに移行したことを条件としてもよいし、また、更にブレーキ操作が解除されることを条件としてもよい。   Further, in the above embodiment, after the vehicle is started, the state behind the vehicle (judgment of obstacles) is determined, and then the driver of the vehicle is prompted to be aware of the presence of obstacles or the presence or absence of obstacles. -In order to operate the display monitor 22 and the alarm sound device 24 so as to issue an alarm, it is a condition that the engine is started. After the engine is started, the shift shift position has shifted to the drive range or the reverse range. It may be a condition, or may be a condition that the brake operation is further released.

また、上記の実施例においては、自車両後方に存在する障害物が有ると判定した場合、その障害物に関する警告を運転者に与えるべく、警告表示を行う表示用モニタ22や警報音を発生する警報音デバイス24を作動させることとするが、本発明はこれに限定されるものではなく、これらの作動に代えて或いはこれらの作動と共に、衝突被害を軽減するためのプリクラッシュセーフティシステム(例えば、自動制動装置やシートベルト拘束装置など)を作動させることとしてもよい。   Further, in the above embodiment, when it is determined that there is an obstacle existing behind the host vehicle, the display monitor 22 for displaying a warning and an alarm sound are generated to give the driver a warning regarding the obstacle. Although the alarm sound device 24 is activated, the present invention is not limited to this, and a pre-crash safety system for reducing collision damage (for example, instead of or together with these operations) (for example, An automatic braking device, a seat belt restraining device, etc.) may be operated.

更に、上記の実施例においては、自車両周辺を撮影するカメラ12が、一台のカメラからなる単眼カメラであるものとしたが、本発明はこれに限定されるものではなく、2台のカメラが並んだステレオカメラであるものとしてもよい。かかるステレオカメラを用いた変形例においては、自車両が停車後に発進する時に自車両の移動を伴うことなく、また、自車両発進時に自車両と自車両後方に存在する障害物とが相対変位しなくても、ステレオカメラのうちの何れか一つのカメラの撮像画像を用いて自車両後方の状態を判定して障害物の有無検出を実現することができる。また、ステレオカメラによる立体物検出処理を行うことなく、ステレオカメラのうちの何れか一つのカメラの撮像画像を用いて自車両後方に存在する障害物の有無検出を実現することが可能である。   Furthermore, in the above embodiment, the camera 12 for photographing the periphery of the host vehicle is a monocular camera composed of one camera. However, the present invention is not limited to this, and two cameras are used. It may be a stereo camera in which In a modification using such a stereo camera, the host vehicle does not move when the host vehicle starts after stopping, and the host vehicle and the obstacle existing behind the host vehicle are relatively displaced when the host vehicle starts. Even if there is no obstacle, the presence / absence detection of the obstacle can be realized by determining the state behind the host vehicle using the captured image of any one of the stereo cameras. In addition, it is possible to detect the presence or absence of an obstacle existing behind the host vehicle by using a captured image of any one of the stereo cameras without performing a three-dimensional object detection process by the stereo camera.

10 車両用画像認識装置
12 撮像装置(単眼カメラ)
14 電子制御ユニット(画像処理ECU)
34 CPU
DESCRIPTION OF SYMBOLS 10 Image recognition apparatus for vehicles 12 Imaging device (monocular camera)
14 Electronic control unit (image processing ECU)
34 CPU

Claims (8)

自車両周辺を撮影するカメラと、
自車両停車時における自車両周辺の停車時状態を示す情報を記憶手段に記憶させる停車時記憶制御手段と、
自車両発進時、前記カメラの撮像画像と前記記憶手段に情報記憶されている前記停車時状態とに基づいて、自車両周辺の状態を判定する状態判定手段と、
を備えることを特徴とする車両用画像認識装置。
A camera that captures the area around the vehicle,
A stop time storage control means for storing in the storage means information indicating a stop time state around the own vehicle when the own vehicle is stopped;
State determining means for determining a state around the own vehicle based on a captured image of the camera and the stop state stored in the storage means when the host vehicle starts;
A vehicle image recognition apparatus comprising:
前記停車時状態は、自車両停車時における前記カメラの撮像画像を含むことを特徴とする請求項1記載の車両用画像認識装置。   The vehicle image recognition device according to claim 1, wherein the stop state includes an image captured by the camera when the host vehicle is stopped. 前記停車時状態は、更に、自車両停車時に前記カメラが撮影する方向に存在する障害物の有無及び位置を含むことを特徴とする請求項2記載の車両用画像認識装置。   The vehicular image recognition apparatus according to claim 2, wherein the stop state further includes the presence / absence and position of an obstacle present in a direction in which the camera takes a picture when the host vehicle stops. 前記停車時記憶制御手段は、自車両が停車に至るまでに前記カメラが撮影する方向と逆方向に走行していた場合は、自車両停車時に前記障害物が無いことを示す情報及び自車両停車時における前記カメラの撮像画像情報を前記記憶手段に記憶させることを特徴とする請求項3記載の車両用画像認識装置。   When the host vehicle has traveled in a direction opposite to the direction in which the camera takes a picture until the host vehicle stops, information indicating that the obstacle is absent when the host vehicle stops and the host vehicle stop 4. The vehicular image recognition apparatus according to claim 3, wherein image information of the camera at the time is stored in the storage means. 前記停車時記憶制御手段は、自車両が停車に至るまでに前記カメラが撮影する方向に走行していた場合は、自車両が停車に至るまでの前記カメラの撮像画像の時系列変化に基づいて検出された前記障害物の有無情報及び該障害物が有ることが検出された場合には更に該障害物の位置情報、並びに自車両停車時における前記カメラの撮像画像情報を前記記憶手段に記憶させることを特徴とする請求項3又は4記載の車両用画像認識装置。   The stop time storage control means is based on the time-series change of the captured image of the camera until the host vehicle stops when the host vehicle is traveling in the direction of shooting by the time the host vehicle stops. When the presence / absence information of the detected obstacle and the presence of the obstacle are detected, the storage means stores the position information of the obstacle and the imaged image information of the camera when the host vehicle is stopped. The vehicular image recognition apparatus according to claim 3 or 4, characterized by the above-mentioned. 自車両が停車に至るまでの前記カメラの撮像画像の時系列変化に基づいて、前記障害物の有無及び位置を検出する通常時障害物検出手段を備えることを特徴とする請求項5記載の車両用画像認識装置。   6. The vehicle according to claim 5, further comprising a normal obstacle detection unit that detects the presence / absence and position of the obstacle based on a time-series change of a captured image of the camera until the host vehicle stops. Image recognition device. 前記状態判定手段は、自車両発進時、前記カメラの撮像画像と前記記憶手段に情報記憶されている自車両停車時における前記カメラの撮像画像とで所定以上の変化が無い場合は、自車両周辺の状態が、前記記憶手段に情報記憶されている自車両停車時における前記障害物の有無と同じ状態にあると判定することを特徴とする請求項3乃至6の何れか一項記載の車両用画像認識装置。   The state determining means may be arranged when the vehicle starts, and when there is no change more than a predetermined value between the captured image of the camera and the captured image of the camera stored in the storage means when the vehicle is stopped. The vehicle state according to any one of claims 3 to 6, wherein the state is determined to be in the same state as the presence or absence of the obstacle when the host vehicle is stopped, the information being stored in the storage means. Image recognition device. 前記状態判定手段は、自車両発進時、前記カメラの撮像画像と前記記憶手段に情報記憶されている自車両停車時における前記カメラの撮像画像とで所定以上の変化が有る場合は、前記記憶手段に自車両停車時に前記障害物が無いことを示す情報が記憶されているとき、自車両周辺の状態として前記障害物が有ると判定することを特徴とする請求項3乃至7の何れか一項記載の車両用画像認識装置。
The state determining means may store the storage means when there is a predetermined change or more between the captured image of the camera when the host vehicle starts and the captured image of the camera stored when information is stored in the storage means. 8. When information indicating that there is no obstacle when the host vehicle is stopped is stored in the vehicle, it is determined that the obstacle exists as a state around the host vehicle. The image recognition apparatus for vehicles as described.
JP2011146281A 2011-06-30 2011-06-30 Image recognition device for vehicle Withdrawn JP2013015882A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011146281A JP2013015882A (en) 2011-06-30 2011-06-30 Image recognition device for vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011146281A JP2013015882A (en) 2011-06-30 2011-06-30 Image recognition device for vehicle

Publications (1)

Publication Number Publication Date
JP2013015882A true JP2013015882A (en) 2013-01-24

Family

ID=47688549

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011146281A Withdrawn JP2013015882A (en) 2011-06-30 2011-06-30 Image recognition device for vehicle

Country Status (1)

Country Link
JP (1) JP2013015882A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019200509A (en) * 2018-05-15 2019-11-21 株式会社日立製作所 Autonomous mobile device and autonomous mobile system

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019200509A (en) * 2018-05-15 2019-11-21 株式会社日立製作所 Autonomous mobile device and autonomous mobile system
WO2019220740A1 (en) * 2018-05-15 2019-11-21 株式会社日立製作所 Autonomous movement device and autonomous movement system
JP7064948B2 (en) 2018-05-15 2022-05-11 株式会社日立製作所 Autonomous mobile devices and autonomous mobile systems

Similar Documents

Publication Publication Date Title
JP5508551B2 (en) Vehicle travel support device
CN108886602B (en) Information processing apparatus
JP2018144526A (en) Periphery monitoring device
JP2012056428A (en) Driving support device
US20100002078A1 (en) Periphery monitoring apparatus
JP2010184604A (en) Vehicle surroundings display device
JP6778620B2 (en) Road marking device, road marking system, and road marking method
JP5900683B2 (en) Driving assistance device
JP2019175133A5 (en)
TW201524813A (en) Vehicle assistance system and vehicle assistance method
US11491916B2 (en) Tow assist apparatus
KR101190789B1 (en) Apparatus and method for measurementing distance of vehicle
JP2022023870A (en) Display control device
US9884589B2 (en) System and method for assisting vehicle driving for using smart phone
JP5408482B2 (en) Peripheral recognition support device
WO2016047037A1 (en) Vehicular image-processing apparatus
JP2008236507A (en) Device for assisting vehicle drive
US10960820B2 (en) Vehicle periphery image display device and vehicle periphery image display method
JP2013015882A (en) Image recognition device for vehicle
JP5040851B2 (en) Wakimi driving judgment device
JP2012061989A (en) Device and method for image processing
JP4557712B2 (en) Driving support system
US20230415574A1 (en) Parking assistance system and parking assistance method
WO2022030191A1 (en) In-vehicle device and driving assistance method
JP7452479B2 (en) display control device

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20140902