JP2013015882A - Image recognition device for vehicle - Google Patents
Image recognition device for vehicle Download PDFInfo
- Publication number
- JP2013015882A JP2013015882A JP2011146281A JP2011146281A JP2013015882A JP 2013015882 A JP2013015882 A JP 2013015882A JP 2011146281 A JP2011146281 A JP 2011146281A JP 2011146281 A JP2011146281 A JP 2011146281A JP 2013015882 A JP2013015882 A JP 2013015882A
- Authority
- JP
- Japan
- Prior art keywords
- host vehicle
- vehicle
- obstacle
- camera
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
- Traffic Control Systems (AREA)
Abstract
Description
本発明は、車両用画像認識装置に係り、特に、カメラを用いて自車両周辺を撮影して自車両周辺の状態を判定するうえで好適な車両用画像認識装置に関する。 The present invention relates to a vehicular image recognition device, and more particularly to a vehicular image recognition device that is suitable for determining a state around a host vehicle by photographing the periphery of the host vehicle using a camera.
従来、自車両周辺を撮影して自車両周辺の障害物までの距離を検出する車両用画像認識装置が知られている(例えば、特許文献1参照)。この画像認識装置は、自車両に搭載された単一のカメラを用いて、自車両周辺の異なる2地点で時系列的に2つの画像を取得し、その2地点間の車両の移動データを算出し、2つの画像に映し出されている障害物に対して三角測量の原理でその障害物までの距離を算出する。従って、上記した画像認識装置によれば、単一のカメラを用いて自車両周辺に存在する障害物を検知することができる。 2. Description of the Related Art Conventionally, a vehicular image recognition device that captures an image of the periphery of the host vehicle and detects a distance to an obstacle around the host vehicle is known (see, for example, Patent Document 1). This image recognition device uses a single camera mounted on the host vehicle to acquire two images in time series at two different points around the host vehicle and calculate vehicle movement data between the two points. The distance to the obstacle is calculated based on the principle of triangulation for the obstacle displayed in the two images. Therefore, according to the above-described image recognition apparatus, an obstacle existing around the host vehicle can be detected using a single camera.
しかしながら、上記の特許文献1記載の装置では、単一のカメラを用いて障害物を検知するうえで自車両と障害物とが相対移動することが必要であるので、自車両が停車状態から発進するときは、自車両が停車位置からある程度の距離を移動しない限り、異なる地点での画像を取得することができず、結果として、障害物を検知することができない。従って、上記の手法では、自車両発進時に単一のカメラを用いて自車両周辺の状態を判定するうえで、自車両を停車位置から移動させることが必要である。 However, in the apparatus described in Patent Document 1, since it is necessary for the host vehicle and the obstacle to move relative to each other in order to detect the obstacle using a single camera, the host vehicle starts from a stopped state. When the vehicle does not move the vehicle at a certain distance from the stop position, images at different points cannot be acquired, and as a result, an obstacle cannot be detected. Therefore, in the above-described method, it is necessary to move the host vehicle from the stop position in order to determine the state around the host vehicle using a single camera when the host vehicle starts.
本発明は、上述の点に鑑みてなされたものであり、自車両の発進時に自車両の移動を伴うことなく単一のカメラを用いて自車両周辺の状態を判定することが可能な車両用画像認識装置を提供することを目的とする。 The present invention has been made in view of the above points, and is for a vehicle that can determine the state of the vicinity of the own vehicle using a single camera without accompanying the movement of the own vehicle when the own vehicle starts. An object is to provide an image recognition apparatus.
上記の目的は、自車両周辺を撮影するカメラと、自車両停車時における自車両周辺の停車時状態を示す情報を記憶手段に記憶させる停車時記憶制御手段と、自車両発進時、前記カメラの撮像画像と前記記憶手段に情報記憶されている前記停車時状態とに基づいて、自車両周辺の状態を判定する状態判定手段と、を備える車両用画像認識装置により達成される。 The purpose of the above is to provide a camera for photographing the periphery of the host vehicle, a storage control unit for storing information indicating the stop state of the periphery of the host vehicle when the host vehicle is stopped, a storage control unit for stopping the vehicle, This is achieved by a vehicle image recognition apparatus comprising: a state determination unit that determines a state around the host vehicle based on the captured image and the stop state stored in the storage unit.
尚、「自車両停車時」とは、自車両の速度がゼロになる直前からゼロになった直後までのある程度時間的に幅を持ったものであってよい。また、「自車両発進時」とは、自車両が走行し始める直前の停車している時を含むものであってよいが、自車両が停車状態から走行し始めた後を含まないものである。 Note that “when the host vehicle is stopped” may have a certain time span from immediately before the speed of the host vehicle becomes zero to immediately after it becomes zero. Further, “when the host vehicle starts” may include a time when the host vehicle is stopped immediately before starting to travel, but does not include a time after the host vehicle starts to travel from the stopped state. .
本発明によれば、自車両の発進時に自車両の移動を伴うことなく単一のカメラを用いて自車両周辺の状態を判定することができる。 According to the present invention, it is possible to determine the state around the host vehicle using a single camera without accompanying movement of the host vehicle when the host vehicle starts.
以下、図面を用いて、本発明に係る車両用画像認識装置の具体的な実施の形態について説明する。 Hereinafter, specific embodiments of a vehicle image recognition apparatus according to the present invention will be described with reference to the drawings.
図1は、本発明の一実施例である車両用画像認識装置10の構成図を示す。本実施例の車両用画像認識装置10は、自動車などの車両に搭載されており、単一のカメラのみで得られる撮像画像に基づいて自車両周辺(具体的には、車両後方)に存在する立体物(例えば、人や壁,電柱,他車両など)としての障害物を検出するための画像認識装置である。尚、この車両用画像認識装置10は、例えばバッグガイドモニタシステムなどに適用されることとしてもよい。 FIG. 1 shows a configuration diagram of a vehicle image recognition apparatus 10 according to an embodiment of the present invention. The vehicle image recognition apparatus 10 according to the present embodiment is mounted on a vehicle such as an automobile, and exists in the vicinity of the own vehicle (specifically, on the rear side of the vehicle) based on a captured image obtained with only a single camera. It is an image recognition device for detecting an obstacle as a three-dimensional object (for example, a person, a wall, a power pole, another vehicle, etc.). The vehicular image recognition device 10 may be applied to, for example, a bag guide monitor system.
図1に示す如く、車両用画像認識装置10は、撮像装置12を備えている。撮像装置12は、例えば電荷結合素子(CCD)等の固体撮像素子により構成された一台のデジタルカメラである。以下、撮像装置12を単眼カメラ12と称す。単眼カメラ12は、車体の後部に取り付けられており、車体後部から自車両後方に広がる所定範囲を撮影することが可能である。
As shown in FIG. 1, the vehicular image recognition device 10 includes an
車両用画像認識装置10は、また、マイクロコンピュータを主体に構成される電子制御ユニット(以下、画像処理ECUと称す)14を備えている。画像処理ECU14には、上記の単眼カメラ12が電気的に接続されている。単眼カメラ12の撮像した画像は、画像処理ECU14に供給される。単眼カメラ12から画像処理ECU14への撮像画像の供給は、所定時間ごとに行われる。
The vehicular image recognition apparatus 10 also includes an electronic control unit (hereinafter referred to as an image processing ECU) 14 mainly composed of a microcomputer. The
画像処理ECU14には、また、操舵角センサ16、車輪速センサ18、及びシフト位置センサ20が電気的に接続されている。操舵角センサ16は、自車両の操舵角に応じた信号を画像処理ECU14に出力する。車輪速センサ18は、自車両の車輪回転数に応じた信号を画像処理ECU14に出力する。また、シフト位置センサ20は、自車両の変速シフト位置に応じた信号を画像処理ECU14に出力する。
Further, a
画像処理ECU14は、操舵角センサ16からの信号に基づいて自車両の操舵角を検出する。また、車輪速センサ18からの信号に基づいて自車両の車輪回転数を検出して、自車両の所定時間中での移動量を検出する。また、シフト位置センサ20からの信号に基づいて自車両の変速シフト位置を検出する。画像処理ECU14は、車両走行中は、単眼カメラ12から供給される撮像画像データと、各センサ16〜20から供給されるデータと、に基づいて画像処理を行うことで、自車両後方に存在する立体物としての障害物の有無を判定すると共に、その障害物が有ると判定した場合は更にその障害物の自車両に対する位置又は距離を検出する。
The image processing ECU 14 detects the steering angle of the host vehicle based on the signal from the
画像処理ECU14には、また、表示用モニタ22及び警報音デバイス24が電気的に接続されている。表示用モニタ22は、自車両を運転する運転者が視認可能となるようにセンターパネルなどに配設されており、例えばナビゲーションシステムに用いるモニタと兼用したものであってもよい。また、警報音デバイス24は、自車両を運転する運転者が聞くことができるように配設された車室内ブザーやスピーカなどである。
A
画像処理ECU14は、単眼カメラ12の撮像画像を処理して表示用モニタ22に向けて出力する。表示用モニタ22は、画像処理ECU14から供給される画像を表示する。尚、この表示用モニタ22に表示される画像は、単眼カメラ12の撮影した画像自体を鳥瞰図画像に変換したものであってもよいし、また、上記の如く検出された障害物の位置や距離データを付加したものであってもよい。
The image processing ECU 14 processes a captured image of the
また、画像処理ECU14は、上記の如く自車両後方に存在する障害物が有ると判定した場合において自車両がその障害物に対して所定距離以下に接近したとき、自車両の運転者に警告を与えるべく警報音デバイス24を作動させる。警報音デバイス24は、画像処理ECU14からの指示に従って自車両の運転者に対して警報音を発生する。尚、この警報音は、ブザー音や音声指示などであればよい。
Further, when the image processing ECU 14 determines that there is an obstacle existing behind the host vehicle as described above, when the host vehicle approaches a predetermined distance or less with respect to the obstacle, the image processing ECU 14 warns the driver of the host vehicle. The
画像処理ECU14は、画像メモリ30,32、CPU34、RAM36、及びROM38を有している。単眼カメラ12で撮像された画像は、アナログ画像からデジタル画像に変換された後、画像メモリ30に供給される。画像メモリ30は、単眼カメラ12からのデジタル画像データを記憶すると共にCPU34へ供給する。ROM38は、画像変換を行うためのプログラムや車両の移動量や移動位置を算出するためのプログラム等を記憶しており、適宜プログラムをRAM36に展開する。RAM36は、上記したプログラムを実行するうえでのワークエリアである。
The image processing ECU 14 includes
CPU34は、単眼カメラ12からのデジタル画像データと、操舵角センサ16からの操舵角データ、車輪速センサ18からの車輪回転数データ、及びシフト位置センサ20からの変速シフト位置データと、に基づいて、RAM36上のプログラムに従って画像処理を行う。この画像処理は、具体的には、自車両後方に存在する立体物としての障害物の有無を判定する共に、障害物が有ると判定した場合はその障害物を特定するデータ及びその障害物の位置又は自車両からその障害物までの距離を算出するものであり、また、画像メモリ30からのデジタル画像にそれらの各データを付加したうえで、その画像を鳥瞰図画像に変換するものである。
The
CPU34による画像処理により得られた鳥瞰図画像データは、画像メモリ32に供給される。画像メモリ32は、CPU34からの鳥瞰図画像データを記憶すると共に表示用モニタ22へ出力する。表示用モニタ22は、画像処理ECU14からの鳥瞰図画像を表示する。
Bird's eye view image data obtained by image processing by the
また、CPU34は、自車両後方に存在する障害物が有ると判定した場合において自車両がその障害物に対して所定距離以下に接近したとき、自車両の運転者に警告を与えるべく警報音デバイス24を作動させる。警報音デバイス24は、CPU34からの指示に従って自車両の運転者に対して警報音を発生する。
Further, when the
次に、図2乃至図6を参照して、本実施例の車両用画像認識装置10の動作について説明する。図2は、本実施例の車両用画像認識装置10において画像処理ECU14が自車両停車時に実行する制御ルーチンの一例のフローチャートを示す。図3は、本実施例の車両用画像認識装置10において画像処理ECU14が自車両発進時に実行する制御ルーチンの一例のフローチャートを示す。図4は、車両停車時に障害物が無かった状況において車両停車時と車両発進時とで画像変化が無いときに車両発進時に障害物が無いと判定する手法を説明するための図を示す。図5は、車両停車時に障害物が有った状況において車両停車時と車両発進時とで画像変化が無いときに車両発進時に障害物が有ると判定する手法を説明するための図を示す。また、図6は、車両停車時に障害物が無かった状況において車両停車時と車両発進時とで画像変化が有るときに車両発進時に障害物が有ると判定する手法を説明するための図を示す。 Next, with reference to FIG. 2 thru | or FIG. 6, operation | movement of the image recognition apparatus 10 for vehicles of a present Example is demonstrated. FIG. 2 shows a flowchart of an example of a control routine executed by the image processing ECU 14 when the host vehicle is stopped in the vehicle image recognition apparatus 10 of the present embodiment. FIG. 3 shows a flowchart of an example of a control routine executed by the image processing ECU 14 when the host vehicle starts in the vehicle image recognition apparatus 10 of the present embodiment. FIG. 4 is a diagram for explaining a method for determining that there is no obstacle when the vehicle starts when there is no image change between when the vehicle stops and when the vehicle starts in a situation where there is no obstacle when the vehicle stops. FIG. 5 is a diagram for explaining a method for determining that there is an obstacle when the vehicle starts when there is no image change between when the vehicle stops and when the vehicle starts in a situation where there is an obstacle when the vehicle stops. FIG. 6 is a diagram for explaining a method for determining that there is an obstacle at the start of the vehicle when there is an image change between the stop of the vehicle and the start of the vehicle in a situation where there is no obstacle when the vehicle is stopped. .
本実施例の車両用画像認識装置10において、画像処理ECU14は、特に自車両のイグニションオン中、単眼カメラ12に撮像された画像、並びに、操舵角センサ16、車輪速センサ18、及びシフト位置センサ20による自車両の状態量(具体的には、操舵角、車輪回転数、及び変速シフト位置)などを取得する(ステップ100)。尚、この画像処理ECU14での画像や状態量などのそれぞれの情報取得は、予め定められた各サンプリングタイムごとに行われる。
In the vehicular image recognition apparatus 10 according to the present embodiment, the image processing ECU 14 includes an image picked up by the
画像処理ECU14は、上記ステップ100で情報取得した車輪速センサ18及びシフト位置センサ20による車輪回転数及び変速シフト位置に基づいて、自車両の進行方向(具体的には、前進又は後進)を判定して、自車両が後退して走行しているか否かを判別する(ステップ102)。その結果、自車両が後退していると判別した場合は、単眼カメラ12の撮像画像を用いて自車両後方に存在する立体物としての障害物を検出する処理(通常の立体物検出処理)を行う(ステップ104)。この立体物検出処理は、自車両後退中の異なる2つの地点で時系列的に得られる単眼カメラ12の2つの撮像画像間での物体の視差と、それらの2つの撮像画像を取得する間に自車両が移動した移動データと、に基づいて行われる。画像処理ECU14は、この立体物検出処理を完了すると、次に、上記ステップ100の処理を実行する。
The image processing ECU 14 determines the traveling direction of the host vehicle (specifically, forward or reverse) based on the wheel rotational speed and the shift shift position obtained by the
画像処理ECU14は、上記ステップ102において自車両が後退していないすなわち自車両が前進している或いは停車していると判別した場合は、更に、上記ステップ100で情報取得した車輪速センサ18及びシフト位置センサ20による車輪回転数及び変速シフト位置に基づいて、自車両が停車しているか否かを判別する(ステップ106)。この停車判定は、車輪回転数がゼロであるか否か若しくは変速シフト位置がパーキング位置であるか否か、又はそれらの組み合わせに基づいて行われ、例えば自車両の速度がゼロである場合に肯定されるものであってよい。その結果、自車両が停車していないすなわち自車両が前進していると判別した場合は、次に、上記ステップ100の処理を実行する。
If the image processing ECU 14 determines in
一方、自車両が停車していると判別した場合は、その停車直前に自車両が後退して走行していたか否かを判別する(ステップ108)。この後退判定は、今回上記ステップ102で否定判定がなされかつ上記ステップ106で肯定判定がなされる直前に、ステップ102で肯定判定がなされていたか否か或いはステップ104で立体物検出処理が実行されていたか否かに基づいて行われる。
On the other hand, if it is determined that the host vehicle is stopped, it is determined whether or not the host vehicle is traveling backward just before the stop (step 108). In this backward determination, immediately before the negative determination is made in
画像処理ECU14は、上記ステップ108で自車両が停車に至るまでに後退していなかったと判別した場合は、自車両後方の所定範囲内に存在する障害物は無いと判定し、障害物無し情報をメモリ記憶する(ステップ110)。これは、上記ステップ102で自車両が後退していないと判別され、上記ステップ106で自車両が停車していると判別され、かつ、上記ステップ108で自車両が停車に至るまでに後退していなかったと判別された場合は、自車両は停車に至るまでに前進していたと判断できるため、自車両が停車に至るまでに通過していた移動軌跡上に障害物は無い筈であり、停車後に自車両後方に存在する障害物は無いと判断できるからである。
If the image processing ECU 14 determines in
一方、画像処理ECU14は、上記ステップ108で自車両が停車に至るまでに後退していたと判別した場合は、その後退中において立体物検出処理により自車両後方に存在する障害物が有ることが判定されていたか否かを判別する(ステップ112)。この判定は、上記ステップ104での立体物検出処理の結果に基づいて行われる。その結果、後退中に自車両後方に存在する障害物が有ることが判定されていたと判別した場合は、その自車両後方に存在する障害物の、自車両の停車直前における自車両に対する位置の情報をメモリに記憶する(ステップ114)。
On the other hand, if the image processing ECU 14 determines in
画像処理ECU14は、上記ステップ110で自車両後方に存在する障害物は無いと判定した場合、上記ステップ112で後退中に自車両後方に存在する障害物が無いことが判定されていたと判別した場合、及び、上記ステップ114で障害物の位置情報をメモリに記憶した場合、次に、上記ステップ100で情報取得した単眼カメラ12の撮像画像の情報をメモリに記憶する(ステップ116)。
When the image processing ECU 14 determines in
このように、本実施例においては、自車両の後退中に、単眼カメラ12の時系列的な撮像画像を用いた通常の立体物検出処理により自車両後方に存在する障害物が有るか無いかを判定することができる。また、自車両の停車時に、単眼カメラ12の撮像画像の情報をメモリ記憶すると共に、自車両後方に存在する障害物の有無情報と、その自車両停車直前に自車両が後退しておりかつその後退中に自車両後方に存在する障害物が有ると判定されていた場合は更にその障害物の位置情報と、をメモリ記憶することができる。
Thus, in the present embodiment, whether or not there is an obstacle existing behind the host vehicle by the normal three-dimensional object detection process using the time-series captured images of the
具体的には、自車両停車時、自車両がその停車に至るまでに単眼カメラ12が撮影する自車両後方に向けて移動していた(すなわち後退していた)場合は、その後退時において単眼カメラ12の撮像画像の時系列変化に基づいて検出される障害物の有無情報及び位置情報、並びに、自車両停車時における単眼カメラ12の撮像画像の情報をメモリ記憶する。一方、自車両停車時、自車両がその停車に至るまでに単眼カメラ12が撮影する自車両後方と逆方向に向けて移動していた(すなわち前進していた)場合は、自車両後方に存在する障害物が無いことを示す情報、及び、自車両停車時における単眼カメラ12の撮像画像の情報をメモリ記憶する。
Specifically, when the host vehicle is stopped, if the host vehicle has moved toward the rear of the host vehicle captured by the
本実施例において、画像処理ECU14は、上記の如く自車両が停車した際における単眼カメラ12の撮像画像や障害物の有無情報,位置情報をメモリ記憶した後、予め定められた所定時間が経過したか否か、或いは、自車両のエンジンが停止状態から始動されたか否かを判別する(ステップ150)。その結果、否定判定がなされる場合は、このステップ150の処理を繰り返し実行する。一方、肯定判定がなされる場合すなわち上記の所定時間が経過し或いは自車両エンジンが始動されたと判別した場合は、単眼カメラ12に撮像された画像を取得する(ステップ152)。従って、自車両停車から所定時間が経過した際或いは自車両のエンジンが始動された際の自車両後方の撮像画像が得られる。
In this embodiment, the image processing ECU 14 stores in memory the captured image of the
画像処理ECU14は、上記ステップ152で取得した単眼カメラ12の現状の撮像画像を、上記図3に示すステップ116でメモリ記憶した単眼カメラ12の自車両停車時の撮像画像と比較することにより、両者間での変化領域を検出する変化領域検出処理を実行する(ステップ154)。この変化領域検出処理は、例えば特開2009−211453や特許第3831232号などに記載されている手法を用いることとすればよい。かかる手法を用いれば、照明変動や屋外環境における様々な外乱に対してロバストな背景差分を実現することが可能である。また、この変化領域検出処理により検出の対象となる変化領域は、例えば、自車両の走行に支障をきたす可能性のある大きさ或いは高さを有する障害物が自車両から所定距離(例えば、警報音デバイス24による警報音を開始する距離)で撮像画像に映るときにその障害物がその画像上で占める大きさ以上に設定されている。
The image processing ECU 14 compares the current captured image of the
画像処理ECU14は、上記した変化領域検出処理により両撮像画像間で変化領域が有ることが検出されるか或いは無いことが検出されるかを判別する(ステップ156)。その結果、両撮像画像間で変化領域が無いことが検出された場合は、次に、メモリ記憶されている障害物の有無情報に基づいて、自車両が前回停車した際に自車両後方に存在する障害物が有ると判定されていたか否かを判別する(ステップ158)。現状の撮像画像と自車両停車時の撮像画像とで変化が無い場合は、自車両停車時から現時点までに自車両後方の状態に変化は無いと判断できる。従って、上記ステップ158で自車両停車時に障害物が有ると判定されていたと判別した場合は、現状においても自車両後方に存在する障害物が有ると判定する(ステップ160)。一方、自車両停車時に障害物が無いと判定されていたと判別した場合は、現状においても自車両後方に存在する障害物が無いと判定する(ステップ162)。
The image processing ECU 14 determines whether or not it is detected that there is a change area between both captured images by the above-described change area detection process (step 156). As a result, if it is detected that there is no change area between the two captured images, then the vehicle will be located behind the vehicle when it stopped last time based on the obstacle information stored in the memory. It is determined whether or not it has been determined that there is an obstacle to be performed (step 158). When there is no change between the current captured image and the captured image when the host vehicle is stopped, it can be determined that there is no change in the state behind the host vehicle from when the host vehicle stops until the current time. Therefore, if it is determined in
また、上記ステップ156において両撮像画像間で変化領域が有ることが検出された場合は、次に、メモリ記憶されている障害物の有無情報に基づいて、自車両が前回停車した際に自車両後方に存在する障害物が有ると判定されていたか否かを判別する(ステップ164)。現状の撮像画像と自車両停車時の撮像画像とで変化が有る場合は、自車両停車時から現時点までに自車両後方の状態に変化があったと判断できる。この場合、自車両停車時に障害物が無かったときは現時点までに障害物が侵入した可能性があり、一方、自車両停車時に障害物が有ったときは現時点までにその障害物若しくは新たな障害物が撮像画像内で移動し若しくは侵入した又はその障害物が撮像画像外へ出て撮像画像内に存在しなくなったと判断できる。従って、上記ステップ164で自車両停車時に障害物が無いと判定されていたと判別した場合は、現状において自車両後方に存在する障害物が有ると判定する(ステップ166)。一方、上記ステップ164で自車両停車時に障害物が有ると判定されていたと判別した場合は、現状において自車両後方に障害物が存在するか否かが不定であると判定する(ステップ168)。
If it is detected in
画像処理ECU14は、上記ステップ160、162、166、又は168で現状における自車両後方の状態を判定した後、自車両のエンジンが始動されたか否かを判別する(ステップ170)。その結果、自車両のエンジンが始動されていないと判別した場合は、上記ステップ150以降の処理を繰り返し行う。一方、自車両のエンジンが始動されたと判別した場合は、上記ステップ160、162、166、又は168での判定結果に基づいて現状において自車両後方に存在する障害物が有ると判定し或いは有るか否かが不定であると判定したとき、自車両の運転者に障害物有り又は障害物有無不定の注意を促す表示・警報を行うように表示モニタ22及び警報音デバイス24を作動させる(ステップ172)。
The image processing ECU 14 determines whether or not the engine of the host vehicle has been started after determining the current state behind the host vehicle in the above-described
画像処理ECU14は、上記ステップ172で表示モニタ22及び警報音デバイス24の作動を開始すると、車輪速センサ18及びシフト位置センサ20による自車両の状態量(具体的には、車輪回転数及び変速シフト位置)に基づいて自車両が移動しているか否かを判別する(ステップ174)。その結果、自車両が移動していないと判別した場合は、上記ステップ150以降の処理を繰り返し行う。一方、自車両が移動していると判別した場合は、以後、背景差分による変化領域検出処理を用いて障害物検出を行うことは適切でないので、障害物を検出する手法を、上記ステップ104と同様の、単眼カメラ12の撮像画像を用いて自車両後方に存在する立体物としての障害物を検出する処理(通常の立体物検出処理)に切り替える(ステップ176)。かかる切り替えが行われると、以後、自車両後方に存在する立体物としての障害物は、単眼カメラ12の時系列的な2つの撮像画像間の視差を用いた通常の立体物検出処理により検出されることとなる。
When the image processing ECU 14 starts the operation of the
このように、本実施例においては、自車両停車後、所定時間が経過したとき或いはエンジンが始動されたとき、単眼カメラ12で撮影される自車両後方の撮像画像を、自車両停車時にメモリ記憶された自車両停車時の撮像画像と比較することで、両者間での変化領域を検出する変化領域検出処理を実行すると共に、この変化領域検出処理を自車両の移動が開始されるまで繰り返し実行する。
As described above, in this embodiment, when a predetermined time has elapsed after the host vehicle stops or when the engine is started, a captured image of the rear of the host vehicle captured by the
そして、変化領域検出処理により両撮像画像間で変化領域が無いことが検出される場合は、自車両停車時から現時点までに自車両後方の状態に変化が無いので、現時点における障害物有無判定として、自車両停車時における障害物有無判定と同じ判定を行う(図4及び図5参照)。一方、両撮像画像間で変化領域が有ることが検出される場合は、自車両停車時に障害物が無いと判定されていたとき、現時点における障害物有無判定として障害物が有ると判定する(図6参照)。尚、両撮像画像間で変化領域が有ることが検出される場合において、自車両停車時に障害物が有ると判定されていたときは、現時点における障害物有無が不定であると判定する。すなわち、本実施例においては、自車両停車時の撮像画像と自車両発進時(正確には、発進直前)の撮像画像とを比較してその画像間での変化領域を検出し、その変化領域が無い場合は、自車両停車時における障害物有無判定と同様の障害物有無判定を行い、一方、その変化領域が有る場合は、自車両停車時に障害物が無いと判定されていたときに限り障害物が有ると判定する。 And, when it is detected by the change area detection process that there is no change area between both captured images, there is no change in the state behind the own vehicle from the time when the own vehicle stops until the present time. Then, the same determination as the obstacle presence / absence determination when the host vehicle is stopped is performed (see FIGS. 4 and 5). On the other hand, when it is detected that there is a change area between both captured images, when it is determined that there is no obstacle when the host vehicle is stopped, it is determined that there is an obstacle as the obstacle presence / absence determination at the present time (FIG. 6). When it is detected that there is a change area between the two captured images and it is determined that there is an obstacle when the host vehicle is stopped, it is determined that the presence or absence of the obstacle at the present time is indefinite. That is, in the present embodiment, the captured image when the host vehicle is stopped and the captured image when the host vehicle is started (precisely, immediately before starting) are compared to detect a change region between the images, and the change region is detected. When there is no obstacle, the obstacle presence / absence determination is performed in the same way as when the vehicle is stopped. On the other hand, if there is a change area, only when it is determined that there is no obstacle when the host vehicle is stopped. Determine that there is an obstacle.
従って、本実施例の車両用画像認識装置10によれば、自車両が停車後に発進する時に自車両の移動を伴うことなく単眼カメラ12の撮像画像を用いて自車両後方の状態を判定することができる。この点、自車両発進時において自車両後方に存在する障害物の有無検出を行ううえで、自車両が実際に発進することは不要であり、単眼カメラ12の撮像画像に時系列的な視差を生じさせることは不要であるので、自車両が発進する際に停車したままの状態で単眼カメラ12の撮像画像を用いて自車両後方に存在する障害物の有無検出を実現することが可能である。また更に、自車両発進時に自車両が停車しつつ自車両後方に存在する障害物が全く移動しなくても、すなわち、自車両発進時に自車両と自車両後方に存在する障害物とが相対変位しなくても、単眼カメラ12の撮像画像を用いて自車両後方に存在する障害物の有無検出を実現することが可能である。
Therefore, according to the vehicular image recognition apparatus 10 of the present embodiment, the state behind the host vehicle is determined using the captured image of the
尚、上記の実施例においては、自車両停車時における単眼カメラ12の撮像画像の情報並びに自車両停車時に単眼カメラ12が撮影する方向に存在する障害物の有無情報及び位置情報を記憶する画像処理ECU14内のメモリが特許請求の範囲に記載した「記憶手段」に、画像処理ECU14が図2に示すルーチン中ステップ110、114、及び116の処理を実行することが特許請求の範囲に記載した「停車時記憶制御手段」に、画像処理ECU14が図3に示すルーチン中ステップ160、162、166、及び168の処理を実行することが特許請求の範囲に記載した「状態判定手段」に、画像処理ECU14が上記ステップ104で通常の立体物検出処理を行うことが特許請求の範囲に記載した「通常時障害物検出手段」に、それぞれ相当している。
In the above-described embodiment, image processing for storing information on the captured image of the
ところで、上記の実施例においては、自車両周辺を撮影する単眼カメラ12が、車体後部に取り付けられ、自車両後方に広がる領域を撮影するカメラであるものとしたが、車両前部(例えば、バンパーや車室内ミラーステイなど)に取り付けられ、自車両前方に広がる領域を撮影するカメラに適用することとしてもよいし、また、車体側部に取り付けられ、側方や前側方,後側方に広がる領域を撮影するカメラに適用することとしてもよい。
By the way, in the above embodiment, the
また、上記の実施例においては、自車両発進時に自車両後方の状態判定(障害物の有無判定)を行った後、自車両の運転者に障害物有り又は障害物有無不定の注意を促す表示・警報を行うように表示モニタ22及び警報音デバイス24を作動させるうえで、エンジンが始動されることを条件としているが、そのエンジン始動後に変速シフト位置がドライブレンジや後退レンジに移行したことを条件としてもよいし、また、更にブレーキ操作が解除されることを条件としてもよい。
Further, in the above embodiment, after the vehicle is started, the state behind the vehicle (judgment of obstacles) is determined, and then the driver of the vehicle is prompted to be aware of the presence of obstacles or the presence or absence of obstacles. -In order to operate the
また、上記の実施例においては、自車両後方に存在する障害物が有ると判定した場合、その障害物に関する警告を運転者に与えるべく、警告表示を行う表示用モニタ22や警報音を発生する警報音デバイス24を作動させることとするが、本発明はこれに限定されるものではなく、これらの作動に代えて或いはこれらの作動と共に、衝突被害を軽減するためのプリクラッシュセーフティシステム(例えば、自動制動装置やシートベルト拘束装置など)を作動させることとしてもよい。
Further, in the above embodiment, when it is determined that there is an obstacle existing behind the host vehicle, the display monitor 22 for displaying a warning and an alarm sound are generated to give the driver a warning regarding the obstacle. Although the
更に、上記の実施例においては、自車両周辺を撮影するカメラ12が、一台のカメラからなる単眼カメラであるものとしたが、本発明はこれに限定されるものではなく、2台のカメラが並んだステレオカメラであるものとしてもよい。かかるステレオカメラを用いた変形例においては、自車両が停車後に発進する時に自車両の移動を伴うことなく、また、自車両発進時に自車両と自車両後方に存在する障害物とが相対変位しなくても、ステレオカメラのうちの何れか一つのカメラの撮像画像を用いて自車両後方の状態を判定して障害物の有無検出を実現することができる。また、ステレオカメラによる立体物検出処理を行うことなく、ステレオカメラのうちの何れか一つのカメラの撮像画像を用いて自車両後方に存在する障害物の有無検出を実現することが可能である。
Furthermore, in the above embodiment, the
10 車両用画像認識装置
12 撮像装置(単眼カメラ)
14 電子制御ユニット(画像処理ECU)
34 CPU
DESCRIPTION OF SYMBOLS 10 Image recognition apparatus for
14 Electronic control unit (image processing ECU)
34 CPU
Claims (8)
自車両停車時における自車両周辺の停車時状態を示す情報を記憶手段に記憶させる停車時記憶制御手段と、
自車両発進時、前記カメラの撮像画像と前記記憶手段に情報記憶されている前記停車時状態とに基づいて、自車両周辺の状態を判定する状態判定手段と、
を備えることを特徴とする車両用画像認識装置。 A camera that captures the area around the vehicle,
A stop time storage control means for storing in the storage means information indicating a stop time state around the own vehicle when the own vehicle is stopped;
State determining means for determining a state around the own vehicle based on a captured image of the camera and the stop state stored in the storage means when the host vehicle starts;
A vehicle image recognition apparatus comprising:
The state determining means may store the storage means when there is a predetermined change or more between the captured image of the camera when the host vehicle starts and the captured image of the camera stored when information is stored in the storage means. 8. When information indicating that there is no obstacle when the host vehicle is stopped is stored in the vehicle, it is determined that the obstacle exists as a state around the host vehicle. The image recognition apparatus for vehicles as described.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011146281A JP2013015882A (en) | 2011-06-30 | 2011-06-30 | Image recognition device for vehicle |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011146281A JP2013015882A (en) | 2011-06-30 | 2011-06-30 | Image recognition device for vehicle |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013015882A true JP2013015882A (en) | 2013-01-24 |
Family
ID=47688549
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011146281A Withdrawn JP2013015882A (en) | 2011-06-30 | 2011-06-30 | Image recognition device for vehicle |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013015882A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019200509A (en) * | 2018-05-15 | 2019-11-21 | 株式会社日立製作所 | Autonomous mobile device and autonomous mobile system |
-
2011
- 2011-06-30 JP JP2011146281A patent/JP2013015882A/en not_active Withdrawn
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019200509A (en) * | 2018-05-15 | 2019-11-21 | 株式会社日立製作所 | Autonomous mobile device and autonomous mobile system |
WO2019220740A1 (en) * | 2018-05-15 | 2019-11-21 | 株式会社日立製作所 | Autonomous movement device and autonomous movement system |
JP7064948B2 (en) | 2018-05-15 | 2022-05-11 | 株式会社日立製作所 | Autonomous mobile devices and autonomous mobile systems |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108886602B (en) | Information processing apparatus | |
JPWO2012102391A1 (en) | Vehicle travel support device | |
JP2012056428A (en) | Driving support device | |
US20100002078A1 (en) | Periphery monitoring apparatus | |
JP2010184604A (en) | Vehicle surroundings display device | |
JP6778620B2 (en) | Road marking device, road marking system, and road marking method | |
JP5900683B2 (en) | Driving assistance device | |
US9884589B2 (en) | System and method for assisting vehicle driving for using smart phone | |
JP2019175133A5 (en) | ||
TW201524813A (en) | Vehicle assistance system and vehicle assistance method | |
US11491916B2 (en) | Tow assist apparatus | |
KR101190789B1 (en) | Apparatus and method for measurementing distance of vehicle | |
JP6361415B2 (en) | Image processing apparatus for vehicle | |
JP2022023870A (en) | Display control device | |
JP5408482B2 (en) | Peripheral recognition support device | |
JP2010039933A (en) | Inattentive driving determination device | |
JP2008236507A (en) | Device for assisting vehicle drive | |
US10960820B2 (en) | Vehicle periphery image display device and vehicle periphery image display method | |
JP2013015882A (en) | Image recognition device for vehicle | |
JP2012061989A (en) | Device and method for image processing | |
JP4557712B2 (en) | Driving support system | |
US20230415574A1 (en) | Parking assistance system and parking assistance method | |
WO2022030191A1 (en) | In-vehicle device and driving assistance method | |
JP7452479B2 (en) | display control device | |
JP2019022110A (en) | Display control device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20140902 |