JP2005217482A - 車両周辺監視方法および装置 - Google Patents
車両周辺監視方法および装置 Download PDFInfo
- Publication number
- JP2005217482A JP2005217482A JP2004018270A JP2004018270A JP2005217482A JP 2005217482 A JP2005217482 A JP 2005217482A JP 2004018270 A JP2004018270 A JP 2004018270A JP 2004018270 A JP2004018270 A JP 2004018270A JP 2005217482 A JP2005217482 A JP 2005217482A
- Authority
- JP
- Japan
- Prior art keywords
- image
- vehicle
- road
- vanishing point
- inspection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
Abstract
【課題】 駐車スペースから道路への進入角度が一定しない場合にも安定して的確に道路上の接近車両を検出する。
【解決手段】 車載のカメラによる撮影画像上で道路の消失点P1を求め、消失点の縦座標位置y1を通る水平方向の検査ラインD0と、その上下に配した平行な検査ラインD1〜D3とを含む複数の検査ラインを設定し、検査ラインのそれぞれにおいて所定フレーム数のライン画像を積み上げて時空間画像を作成して、時空間画像にエッジ抽出処理と2値化処理を施す。移動物体が存在すると2値化した時空間画像に傾斜ブロックが生じて検出される。車両の向きと道路との関係が一定でなくても、撮影画像中の道路上に検査ラインが設定されるので、接近してくる車両等を安定して検出することができる。
【選択図】 図12
【解決手段】 車載のカメラによる撮影画像上で道路の消失点P1を求め、消失点の縦座標位置y1を通る水平方向の検査ラインD0と、その上下に配した平行な検査ラインD1〜D3とを含む複数の検査ラインを設定し、検査ラインのそれぞれにおいて所定フレーム数のライン画像を積み上げて時空間画像を作成して、時空間画像にエッジ抽出処理と2値化処理を施す。移動物体が存在すると2値化した時空間画像に傾斜ブロックが生じて検出される。車両の向きと道路との関係が一定でなくても、撮影画像中の道路上に検査ラインが設定されるので、接近してくる車両等を安定して検出することができる。
【選択図】 図12
Description
本発明は、自車両に接近する他車両の有無を検出して報知する車両周辺監視方法および装置に関する。
自車両に接近する他車両の有無を検出してドライバの注意を喚起するものとして、たとえば特開平9−240397号公報に開示された車両周辺監視装置がある。
この装置では、車体後部にカメラを設置して、自車両が走行している自車線と隣接車線とを含む後方映像を撮影し、撮影画像中の道路領域に縦軸(Y)座標1画素分で構成する横軸(X)方向の検査ラインにおける時空間画像を作成する。時空間画像は、縦軸を時間とし、横軸を上記撮影画像におけるX座標とするものである。
そして、時空間画像のなかで移動物体が検査ラインを通過する際に生成される軌跡のパターンに基づいて、移動体が自車両に接近する状態にあるかどうかを検出する。これにより、自車両と並走する隣接車線の接近追い越し車両を検出することができる。
この装置では、車体後部にカメラを設置して、自車両が走行している自車線と隣接車線とを含む後方映像を撮影し、撮影画像中の道路領域に縦軸(Y)座標1画素分で構成する横軸(X)方向の検査ラインにおける時空間画像を作成する。時空間画像は、縦軸を時間とし、横軸を上記撮影画像におけるX座標とするものである。
そして、時空間画像のなかで移動物体が検査ラインを通過する際に生成される軌跡のパターンに基づいて、移動体が自車両に接近する状態にあるかどうかを検出する。これにより、自車両と並走する隣接車線の接近追い越し車両を検出することができる。
この装置は高速道路などを走行中に使用することを前提としているので、カメラの撮影範囲は自車線と隣接車線の道路領域に限定され、時空間画像を作成するための上記検査ラインは画像の道路領域上に予め固定的に設定されている。
特開平9−240397号公報
しかしながら、上記従来の装置は、駐車スペースから道路あるいは駐車場内の通路への進入時等に際しては、注意を払うべき接近車両を安定して的確に検出することが困難である。
たとえば、駐車スペースは道路(以下、駐車場内の通路を含む)に対して直角方向であったり、あるいは斜め方向に設定されているなど、道路へ出るときの進入角度は一定していない。したがって、後退で道路へ出る際のカメラの光軸と道路との交差角度が一定でないから、撮影画像中で車両の像が出現する位置(座標)が環境次第で変化することになる。
また、重量物積載などにより車両の姿勢が変化した場合にもカメラの光軸が変化するため、同様の問題が生じる。
たとえば、駐車スペースは道路(以下、駐車場内の通路を含む)に対して直角方向であったり、あるいは斜め方向に設定されているなど、道路へ出るときの進入角度は一定していない。したがって、後退で道路へ出る際のカメラの光軸と道路との交差角度が一定でないから、撮影画像中で車両の像が出現する位置(座標)が環境次第で変化することになる。
また、重量物積載などにより車両の姿勢が変化した場合にもカメラの光軸が変化するため、同様の問題が生じる。
しかし、従来の装置では時空間画像を作成するための検査ラインが予め固定的に設定されているので、車両の像の出現座標の変化に対応できず、その結果、自車両に接近する他車両の検出が安定に行われないという問題がある。
したがって本発明は、上記従来の問題点に鑑み、道路に対する進入角度が一定しない場合などにも安定して的確に接近車両の検出を行うことができる車両周辺監視装置を提供することを目的とする。
したがって本発明は、上記従来の問題点に鑑み、道路に対する進入角度が一定しない場合などにも安定して的確に接近車両の検出を行うことができる車両周辺監視装置を提供することを目的とする。
このため本発明は、カメラ撮影画像で道路の消失点を求め、この消失点の縦座標位置を通る水平方向のラインと、その近傍に配した平行なラインとを含む複数の検査ラインを設定して、検査ラインのそれぞれにおいて、所定フレーム数のライン画像を積み上げた時空間画像を作成し、時空間画像上で移動物体を検出して当該移動物体の存在を報知するものとした。
時空間画像作成のための検査ラインをカメラ撮影画像中の道路の消失点に基づいて設定するので、車両の向きと道路との関係が一定でなくても、撮影画像中で他車両などの移動物体が通過する道路上に検査ラインが自動的に設定され、接近してくる車両等を安定して検出することができる。
そして特に、検査ラインを、消失点を通るラインのほか、その近傍(例えば上下)にも配置した複数としているので、移動物体はいずれかの検査ラインに基づく時空間画像において確実に検出される。
これにより、種々の向きの駐車姿勢から道路へ進入するような場合に、接近してくる他車両等を確実に認識できる。
そして特に、検査ラインを、消失点を通るラインのほか、その近傍(例えば上下)にも配置した複数としているので、移動物体はいずれかの検査ラインに基づく時空間画像において確実に検出される。
これにより、種々の向きの駐車姿勢から道路へ進入するような場合に、接近してくる他車両等を確実に認識できる。
次に、本発明の実施の形態について詳細に説明する。
図1は、本発明を後退で道路に出ようとする際の接近車両の検出に適用した実施の形態の構成を示す図である。
車両周辺監視装置10の主要部は、カメラ12と、検出制御装置20と、ディスプレイ14とからなる。
車両周辺監視装置10はナビゲーション装置16との間でディスプレイ14を共用している。ディスプレイ14は液晶方式で、車両のインストルメントパネルに設置されている。
カメラ12は、受光素子としてCCDを備え、横(左右)方向の視野角180°以上の超広角のもので、車体後部の左右方向中央部に後方に向けて設置されている。これにより、カメラ12は自車両後方の少なくも左右側方までを撮影領域とし、アナログの映像信号を検出制御装置20へ出力する。
図1は、本発明を後退で道路に出ようとする際の接近車両の検出に適用した実施の形態の構成を示す図である。
車両周辺監視装置10の主要部は、カメラ12と、検出制御装置20と、ディスプレイ14とからなる。
車両周辺監視装置10はナビゲーション装置16との間でディスプレイ14を共用している。ディスプレイ14は液晶方式で、車両のインストルメントパネルに設置されている。
カメラ12は、受光素子としてCCDを備え、横(左右)方向の視野角180°以上の超広角のもので、車体後部の左右方向中央部に後方に向けて設置されている。これにより、カメラ12は自車両後方の少なくも左右側方までを撮影領域とし、アナログの映像信号を検出制御装置20へ出力する。
検出制御装置20は、当該装置の内部全体制御を行う制御部21と、制御部21の処理プログラムを格納するROMからなるプログラムメモリ22と、カメラ12からの映像信号をデジタル画像データに変換するAD変換器(A/D)23と、デジタル画像データを一時格納するRAMからなる画像メモリ24と、デジタル画像データに画像処理を施す画像処理部25と、注意喚起のマーキングおよびメッセージを画像に合成する画像合成部26と、デジタル画像データをアナログ映像信号に変換するDA変換器(D/A)28を有している。画像合成部26とDA変換器28の間には画像切り替え部27が設けられている。
AD変換器23は画像合成部26にも接続されており、デジタル化された映像信号は画像合成部26、画像切り替え部27を経て、DA変換器28で再びアナログ化されて、監視画像としてディスプレイ14に表示される。
画像切り替え部27は、画像合成部26から出力される画像とナビゲーション装置16からの地図画像や車両現在位置情報などナビゲーション画像とを、制御部21からの制御により切り替えてDA変換器28へ入力する。
画像切り替え部27は、画像合成部26から出力される画像とナビゲーション装置16からの地図画像や車両現在位置情報などナビゲーション画像とを、制御部21からの制御により切り替えてDA変換器28へ入力する。
画像処理部25では、画像メモリ24を作業領域として、自車両に接近する移動体の検出のため、カメラ12からの映像信号に基づくデジタル画像データに対し、算術演算、論理演算、ノイズ除去フィルタ処理、エッジ抽出処理、2値化等の濃度変換などの各種処理を施こす。
制御部21には、車両の変速ギヤ位置がリバース(後退)にシフトされたことを検出するリバーススイッチ30と、車速センサ32とが接続されている。車速センサ32は、車両の走行速度に比例したパルス信号を出力する。
制御部21は通常はナビゲーション画像をディスプレイ14に表示させ、変速ギヤ位置がリバースにシフトされたときは、画像切り替え部27を制御してカメラ12からの映像信号に基づく監視画像の表示に切り換える。
制御部21は通常はナビゲーション画像をディスプレイ14に表示させ、変速ギヤ位置がリバースにシフトされたときは、画像切り替え部27を制御してカメラ12からの映像信号に基づく監視画像の表示に切り換える。
次にカメラ12による撮影画像例を示す。
図2は、自車両VAが駐車場内の駐車スペースSに駐車しており、自車両VA側の境界線40と反対側の境界線42に挟まれた道路(通路)Rを他車両VBが通過しようとしている状態を示す。ここでは、駐車スペースSが道路Rに対して30°程度の斜めに設定されている。自車両VAのカメラの撮影視野Wは、駐車スペースSの向きに略そっており、道路Rに対して斜めとなっている。なお、カメラ12は撮影視野Wとして図示したハッチング領域にとどまらず、視野の角度範囲内の無限遠まで撮影する。
このときの撮影画像は、車室内のバックミラーを見たときと同じ左右関係で表示すると、図3に示すように、道路Rが斜めに横切り、左右方向の片側1点に収束するものとなる。なお、図3には他車両はVBは示していない。
図2は、自車両VAが駐車場内の駐車スペースSに駐車しており、自車両VA側の境界線40と反対側の境界線42に挟まれた道路(通路)Rを他車両VBが通過しようとしている状態を示す。ここでは、駐車スペースSが道路Rに対して30°程度の斜めに設定されている。自車両VAのカメラの撮影視野Wは、駐車スペースSの向きに略そっており、道路Rに対して斜めとなっている。なお、カメラ12は撮影視野Wとして図示したハッチング領域にとどまらず、視野の角度範囲内の無限遠まで撮影する。
このときの撮影画像は、車室内のバックミラーを見たときと同じ左右関係で表示すると、図3に示すように、道路Rが斜めに横切り、左右方向の片側1点に収束するものとなる。なお、図3には他車両はVBは示していない。
また、図4のように、駐車スペースSが道路Rに対して直角方向に設定されている場合には、撮影画像は、図5に示すように、境界線44、46に挟まれた道路Rが左右に延びて両端の2点で収束するものとなる。なお、図5には他車両はVBは示していない。
以下に、主として検出制御装置20における制御処理について、図6、図7のフローチャートに基づいて説明する。
車両の図示しないイグニッションスイッチがオンされると、装置全体が起動し、まずステップ101において、制御部21はナビゲーション装置16からのナビゲーション画像をディスプレイ14に表示させる。
ステップ102では、制御部21はリバーススイッチ30からの信号を入力して、変速ギヤ位置がリバースにシフトされたかどうかをチェックする。
リバースにシフトされていなければ、ステップ101へ戻ってナビゲーション画像の表示を継続する。
リバースにシフトされた場合は、ステップ103へ進み、制御部21はナビゲーション画像の表示を停止して、カメラ12で撮影した撮影画像をディスプレイ14に表示させる。
車両の図示しないイグニッションスイッチがオンされると、装置全体が起動し、まずステップ101において、制御部21はナビゲーション装置16からのナビゲーション画像をディスプレイ14に表示させる。
ステップ102では、制御部21はリバーススイッチ30からの信号を入力して、変速ギヤ位置がリバースにシフトされたかどうかをチェックする。
リバースにシフトされていなければ、ステップ101へ戻ってナビゲーション画像の表示を継続する。
リバースにシフトされた場合は、ステップ103へ進み、制御部21はナビゲーション画像の表示を停止して、カメラ12で撮影した撮影画像をディスプレイ14に表示させる。
つぎに、ステップ104では、制御部21は車速センサ32からの信号を入力し、自車両の車速がゼロ、すなわち停止しているかどうかをチェックする。
自車両が走行中の場合はステップ102へ戻り、自車両が停止しているときはステップ105へ進む。
ステップ105では、AD変換器23を通したカメラ12からの映像信号の1画像フレーム分をカメラ画像データとして取り込んで画像メモリ24に格納する。
そして、ステップ106において、画像処理部25は、画像メモリ24に格納されたデジタル画像データを用いて、画像中の道路のエッジを抽出する。道路のエッジ抽出は、駐車スペースの領域と道路の領域の舗装面の違いや白線などをSOBELフィルタ等公知のエッジ検出フィルタによって行う。
自車両が走行中の場合はステップ102へ戻り、自車両が停止しているときはステップ105へ進む。
ステップ105では、AD変換器23を通したカメラ12からの映像信号の1画像フレーム分をカメラ画像データとして取り込んで画像メモリ24に格納する。
そして、ステップ106において、画像処理部25は、画像メモリ24に格納されたデジタル画像データを用いて、画像中の道路のエッジを抽出する。道路のエッジ抽出は、駐車スペースの領域と道路の領域の舗装面の違いや白線などをSOBELフィルタ等公知のエッジ検出フィルタによって行う。
これにより、図3に示した画像からは図8に示すような、駐車スペースSと道路Rの境界線40、42をエッジE1、E2とするエッジ画像が得られる。また、図5に示した画像からは図9に示すような、駐車スペースと道路の境界線44、46をエッジE3、E4とするエッジ画像が得られる。
このあと、ステップ107では、道路のエッジが2本抽出されているかどうかをチェックする。これは後段での処理のため画面上の道路が収束する点(以下、消失点と呼ぶ)を求めるための確認である。
道路のエッジが2本抽出されていないときは、消失点を求めることができないので、ステップ102へ戻る。
このあと、ステップ107では、道路のエッジが2本抽出されているかどうかをチェックする。これは後段での処理のため画面上の道路が収束する点(以下、消失点と呼ぶ)を求めるための確認である。
道路のエッジが2本抽出されていないときは、消失点を求めることができないので、ステップ102へ戻る。
道路のエッジが2本抽出されているときは、ステップ108へ進み、まず画像の左半分について、道路の消失点検出を行う。ここでは、消失点は2本のエッジが交差する点として求める。
すなわち、カメラ12が超広角のため、画面の周辺部になるほど像の歪が大きくなり、たとえば図8に示されるように、各エッジE1、E2の形状は緩やかな弧を描く曲線となる。そこで、この曲線上の複数の点からHough変換や最小二乗法などの近似直線を求める公知のアルゴリズムを用いて、各道路エッジそれぞれから2本の直線L1、L2を求める。図10に示すように、この2本の直線L1、L2の交差する点を消失点P1とする。消失点P1の画面座標を(x1,y1)とする。
すなわち、カメラ12が超広角のため、画面の周辺部になるほど像の歪が大きくなり、たとえば図8に示されるように、各エッジE1、E2の形状は緩やかな弧を描く曲線となる。そこで、この曲線上の複数の点からHough変換や最小二乗法などの近似直線を求める公知のアルゴリズムを用いて、各道路エッジそれぞれから2本の直線L1、L2を求める。図10に示すように、この2本の直線L1、L2の交差する点を消失点P1とする。消失点P1の画面座標を(x1,y1)とする。
続いて、ステップ109で、画像の右半分について、道路の消失点検出を行う。
車両が道路に対して斜めに駐車している場合の図8の画像では、道路の一方がカメラの視野から外れており、右半分の領域では消失点は求められない。したがって、道路の消失点はステップ108で求めた消失点P1のみとなる。
一方、車両が道路に対して直角に駐車している場合の図9の画像に対しては、ステップ108、109の両ステップにおいて、図11に示すように、近似の直線L3L、L4LおよびL3R、L4Rから2つの消失点P2、P3が求められる。この場合の画像の左半分における消失点P2の画面座標を(x2,y2)、画像の右半分における消失点P3の画面座標を(x3,y3)とする。
車両が道路に対して斜めに駐車している場合の図8の画像では、道路の一方がカメラの視野から外れており、右半分の領域では消失点は求められない。したがって、道路の消失点はステップ108で求めた消失点P1のみとなる。
一方、車両が道路に対して直角に駐車している場合の図9の画像に対しては、ステップ108、109の両ステップにおいて、図11に示すように、近似の直線L3L、L4LおよびL3R、L4Rから2つの消失点P2、P3が求められる。この場合の画像の左半分における消失点P2の画面座標を(x2,y2)、画像の右半分における消失点P3の画面座標を(x3,y3)とする。
次に、ステップ110において、制御部21では画像の左右領域のいずれかに消失点が求められたかどうかをチェックする。どちらの領域にも消失点が求められなかった場合は、車両の後方に道路が存在しないことになるため、ステップ102のリバースシフトのチェック処理へ戻る。
消失点が求められているときは、ステップ111に進み、時空間画像作成のための検査ラインを設定する。
ここでは、図8の場合のように1つの消失点P1が求められているときは、図12に示すように、まず消失点P1のY座標y1の位置に水平(X軸)方向の検査ラインD0を設定し、さらに、道路を走行する接近車両をカメラ12の視野から外れるまで追跡できる範囲に複数本のラインを平行に設定する。ここでは、検査ラインD0の上側に検査ラインD1を設定し、下側に検査ラインD2とD3を所定の間隔で設定している。検査ラインD0より上側に検査ラインD1を設定したのは、車両がある程度の大きさをもつので検出確率を高めることができるからである。
ここでは、図8の場合のように1つの消失点P1が求められているときは、図12に示すように、まず消失点P1のY座標y1の位置に水平(X軸)方向の検査ラインD0を設定し、さらに、道路を走行する接近車両をカメラ12の視野から外れるまで追跡できる範囲に複数本のラインを平行に設定する。ここでは、検査ラインD0の上側に検査ラインD1を設定し、下側に検査ラインD2とD3を所定の間隔で設定している。検査ラインD0より上側に検査ラインD1を設定したのは、車両がある程度の大きさをもつので検出確率を高めることができるからである。
また、図9の場合のように画像の左右領域に消失点P2とP3が求められているときにおいて、自車両が道路に対して丁度直角に向いているときは、両消失点のY座標y2、y3が同じ高さとなるので、図13に示すように、消失点P2とP3を通る検査ラインD0を図8の場合と同様に設定することができ、同じくその上側および下側に検査ラインD1およびD2を設定する。
一方、自車両が道路に対して直角よりわずかに斜めに向いているときは、両消失点P2、P3のY座標y2、y3の高さが異なるので、とくに図示しないが、画像の左半分では消失点P2のY座標y2の位置にX軸方向の検査ラインD0Lを設定し、その上側および下側に所定間隔で検査ラインD1L、D2Lを設定し、画像の右半分では消失点P3のY座標y3の位置にX軸方向の検査ラインD0Rを設定し、その上側および下側に所定間隔で検査ラインD1R、D2Rを設定する。
検査ラインを設定したあと、ステップ112で、カメラ12から次の画像フレームのデジタル画像データを取り込んで画像メモリ24に格納する。
そして、ステップ113において、画像処理部25は各検査ラインD0・・・のそれぞれで、時空間画像を作成する。なお、自車両が道路に対して直角よりわずかに斜めに向いているときは、各検査ラインD0〜D2が画像の左半分、右半分の双方に設定されているので、これら左右各領域のそれぞれで時空間画像を作成する。
最初のフローではライン画像の2フレーム目までを積み上げた時空間画像がそれぞれ作成できる。
そして、ステップ113において、画像処理部25は各検査ラインD0・・・のそれぞれで、時空間画像を作成する。なお、自車両が道路に対して直角よりわずかに斜めに向いているときは、各検査ラインD0〜D2が画像の左半分、右半分の双方に設定されているので、これら左右各領域のそれぞれで時空間画像を作成する。
最初のフローではライン画像の2フレーム目までを積み上げた時空間画像がそれぞれ作成できる。
ステップ114では各検査ラインにおけるフレームの積み上げ数がすべて予め定めた所定の積み上げ数になっているかどうかをチェックする。所定の積み上げ数(たとえば6フレーム)になるまで、ステップ112、113が繰り返される。
図14は、1つの検査ラインでの6フレームを積み上げて作成した時空間画像の例を示す。
検査ラインの水平(X軸)方向の長さをn画素とすれば、1フレーム目の先頭画素はP(1,1)、最後尾の画素はP(1,n)、6フレーム分が積み上がった2次元画像の最終画素はP(6、n)となる。時空間画像ではP(i,j)で表される各画素がそれぞれの濃度をもつ。
図14は、1つの検査ラインでの6フレームを積み上げて作成した時空間画像の例を示す。
検査ラインの水平(X軸)方向の長さをn画素とすれば、1フレーム目の先頭画素はP(1,1)、最後尾の画素はP(1,n)、6フレーム分が積み上がった2次元画像の最終画素はP(6、n)となる。時空間画像ではP(i,j)で表される各画素がそれぞれの濃度をもつ。
所定の積み上げ数の時空間画像Zが作成されると、ステップ115において、画像処理部25は物体のエッジ抽出処理を行なう。ここでも、SOBELフィルタなど公知のエッジ検出フィルタを利用する。
各検査ラインの時空間画像Zは、当該個別の検査ライン上の像(ライン画像)を時間的にずらして見たときの像となるので、当該検査ライン上に移動物体が存在するときは、図15の(a)に示すように、時空間画像Z上に斜めのエッジパターンが形成されることになる。
一方、物体が静止しているときは、時間が経過してもその位置が変化しないので、図16の(a)に示すように、時空間画像Z上では垂直のエッジパターンが形成される。
各検査ラインの時空間画像Zは、当該個別の検査ライン上の像(ライン画像)を時間的にずらして見たときの像となるので、当該検査ライン上に移動物体が存在するときは、図15の(a)に示すように、時空間画像Z上に斜めのエッジパターンが形成されることになる。
一方、物体が静止しているときは、時間が経過してもその位置が変化しないので、図16の(a)に示すように、時空間画像Z上では垂直のエッジパターンが形成される。
ステップ116では、画像処理部25において、前ステップで抽出したエッジを所定の濃度しきい値で2値化する。図15の(b)は図15の(a)の時空間画像Zについて、エッジ領域を白(濃度値255)、それ以外を黒(濃度値0)とする2値化処理でブロック化したあとの同(a)におけるA部に相当する部分の拡大図であり、同様に図16の(b)は図16の(a)の時空間画像を2値化したあとの同(a)におけるB部に相当する部分の拡大図である。
ステップ117において、制御部21は、上記2値化された時空間画像Z中につながりの向きが傾斜したブロック(傾斜ブロックK)が存在するかどうかをチェックする。
たとえば図10に示した検査ラインD0上を自車両方向に接近する他車両の像が移動する場合は、図15(b)に示されるように、右下がりの傾斜ブロックKが見出される。
なお、この傾斜ブロックのチェックについては設定された複数の検査ラインそれぞれの時空間画像において独立に実行されるので、遠方から自車両に接近してくる他車両は少なくとも各検査ラインのどこかで傾斜ブロックとなり、移動物体として検出される。
たとえば図10に示した検査ラインD0上を自車両方向に接近する他車両の像が移動する場合は、図15(b)に示されるように、右下がりの傾斜ブロックKが見出される。
なお、この傾斜ブロックのチェックについては設定された複数の検査ラインそれぞれの時空間画像において独立に実行されるので、遠方から自車両に接近してくる他車両は少なくとも各検査ラインのどこかで傾斜ブロックとなり、移動物体として検出される。
このように傾斜ブロックが存在するときはステップ122へ進み、移動物体の存在を報知するための出力処理を行なう。報知の出力処理は、画像合成部26において、例えば図17に示すように、撮影映像に「接近車両に注意してください」等のメッセージM1を重ねるとともに、枠形状のマーキング画像M2を生成して撮影映像中の接近する他車両VBを囲むように重ねて合成したうえで、ディスプレイ14に表示する。
このあと、ステップ118へ進む。また、ステップ117のチェックで時空間画像中に傾斜ブロックが存在しなかった場合は、そのままステップ118へ進む。
ステップ118では、あらためてリバーススイッチ30からの信号を入力して、変速ギヤ位置がリバースにシフトされているかどうかをチェックする。
変速ギヤ位置がリバース以外の位置になっていれば、駐車スペースから道路への進入意図がないものと考えられ、接近車両の監視は不要となるから、ステップ101へ戻って、制御部21は画像切り替え部27を介してナビゲーション装置16からのナビゲーション画像をディスプレイ14に表示させる。
ステップ118では、あらためてリバーススイッチ30からの信号を入力して、変速ギヤ位置がリバースにシフトされているかどうかをチェックする。
変速ギヤ位置がリバース以外の位置になっていれば、駐車スペースから道路への進入意図がないものと考えられ、接近車両の監視は不要となるから、ステップ101へ戻って、制御部21は画像切り替え部27を介してナビゲーション装置16からのナビゲーション画像をディスプレイ14に表示させる。
リバース位置が継続していれば、ステップ119において、自車両の車速がゼロかどうかをチェックし、停止している場合にはステップ120へ進んで新たな1フレーム分の画像データを取り込んで画像メモリ24に格納する。
そして、ステップ121で、各検査ラインのそれぞれにおいて、時空間画像の最も時間的に古い一番上の行を押し出し、下から順次繰り上げて最下行に最新のライン画像をセットして、各時空間画像を更新する。
このあとは、ステップ115に戻って、物体のエッジ抽出処理以降を繰り返す。
そして、ステップ121で、各検査ラインのそれぞれにおいて、時空間画像の最も時間的に古い一番上の行を押し出し、下から順次繰り上げて最下行に最新のライン画像をセットして、各時空間画像を更新する。
このあとは、ステップ115に戻って、物体のエッジ抽出処理以降を繰り返す。
一方、ステップ119のチェックで車速がゼロでなく、自車両が走行を開始した状態となったときは、ステップ118に戻って変速ギヤ位置を監視する。そして、リバース位置のままで次に再び停車すれば、その時点で上述のようにステップ120に進んで画像データ入力、次いで時空間画像の更新を再開することになる。
本実施の形態では、上記フローにおけるステップ106〜109が発明における消失点検出手段を構成し、ステップ111が検査ライン設定手段を、ステップ112、113が時空間画像作成手段を、ステップ122が報知手段を構成している。
また、ステップ115〜117が発明における移動物体検出手段を構成し、とくにステップステップ115はエッジ抽出手段を、ステップ116は2値化手段に該当する。
また、ステップ115〜117が発明における移動物体検出手段を構成し、とくにステップステップ115はエッジ抽出手段を、ステップ116は2値化手段に該当する。
本実施の形態は以上のように構成され、カメラ12で車両周辺を撮影し、その撮影画像上で道路の消失点を求め、該消失点の縦座標位置を通る水平方向のラインと、その上下に配した平行なラインとを含む複数の検査ラインを設定し、検査ラインのそれぞれにおいて所定フレーム数のライン画像を積み上げて時空間画像を作成し、時空間画像上で移動物体を検出してその存在を報知するものとしたので、車両の向きと道路との関係が一定でなくても、接近してくる車両等を安定して検出することができる。そして複数の検査ラインによって、移動物体はいずれかの検査ラインに基づく時空間画像において確実に検出される。
これにより、種々の向きの駐車姿勢から道路へ進入するような場合に、接近してくる他車両等を確実に認識できる。
これにより、種々の向きの駐車姿勢から道路へ進入するような場合に、接近してくる他車両等を確実に認識できる。
また、消失点を撮影画像を左半分および右半分に分割した各領域で求め、双方で消失点が求められたときは、領域別にそれぞれ複数の検査ラインを設定するから、撮影された画像中の道路状況に応じてさらに精度よく他車両等を検出できる。
時空間画像上での移動物体検出にあたっては、エッジを抽出し、エッジを2値化処理してブロック化したうえで、傾斜したブロックの有無により判断するので、検出が容易である。
時空間画像上での移動物体検出にあたっては、エッジを抽出し、エッジを2値化処理してブロック化したうえで、傾斜したブロックの有無により判断するので、検出が容易である。
なお、上記実施の形態においては、検出された消失点の数に関係なく、消失点を含む検査ラインD0の上下方向に検査ラインD1、D2・・を設定しているが、本発明はこれに限らず、例えば、図12のように消失点が1個の場合、消失点を含む検査ラインD0の上方向の検査ラインは不要である場合もあるので、下方向のみの検査ラインを設定してもよい。また、画像上における消失点の位置も考慮して、上下方向に検査ラインを設定するか、下方向のみの検査ラインを設定するかを決定してもよい。例えば、図10に示す1つの消失点P1のY方向位置が画像の中央位置よりも上側の場合、道路エッジの近似直線L2が消失点P1から水平よりも下方向に延びるため、道路が消失点P1よりも上側に存在しないと判断する。従って、検査ラインは消失点P1よりも下方向のみに設定される。
また、消失点の位置ではなく、消失点から延びる道路エッジの情報(例えば、近似直線L1、L2の傾き)を直接検出し、この検出結果から検査ラインの設定を変更するようにしてもよい。
さらに、消失点が2個の場合は、消失点を含む検査ラインD0の上下方向に検査ラインを設定する方が好ましい。
また、消失点の位置ではなく、消失点から延びる道路エッジの情報(例えば、近似直線L1、L2の傾き)を直接検出し、この検出結果から検査ラインの設定を変更するようにしてもよい。
さらに、消失点が2個の場合は、消失点を含む検査ラインD0の上下方向に検査ラインを設定する方が好ましい。
また、実施の形態における制御フローでは、ステップ119のチェックで車速がゼロであるときにのみ時空間画像の更新をしているが、本発明はこれに限らず、例えばステップ118でリバース位置の場合(Yesのとき)ステップ120に進み、常に時空間画像を更新するようにしてもよい。
さらに、ステップ122の移動物体報知出力は、車速がゼロであるときのみに行われているが、本発明はこれに限らず、例えばステップ117で傾斜ブロックが検出された後(Yesのとき)、車速がゼロか否かを判断し、車速がゼロであるときはステップ122に進み、車速がゼロでない場合は、新たなステップとして警報を鳴らしたり、音声で「左方向から接近車があります」等のアナウンスを流したりして、さらに運転者に後方の注意喚起をさせるようにしてもよい。
さらに、ステップ122の移動物体報知出力は、車速がゼロであるときのみに行われているが、本発明はこれに限らず、例えばステップ117で傾斜ブロックが検出された後(Yesのとき)、車速がゼロか否かを判断し、車速がゼロであるときはステップ122に進み、車速がゼロでない場合は、新たなステップとして警報を鳴らしたり、音声で「左方向から接近車があります」等のアナウンスを流したりして、さらに運転者に後方の注意喚起をさせるようにしてもよい。
なお、実施の形態では、カメラがCCDを備えるものとしたが、かわりにCMOSを受光素子として用いるものやその他の任意の方式のカメラを使用することができる。また、カメラの撮影視野角を超広角としたが、これも必要とする監視範囲に応じて適宜に設定してよい。
ディスプレイは液晶方式のものとしたがこれも方式を問わない。
また、車両の後退を検知するためリバーススイッチを設けるものとしたが、自動変速機搭載車両の場合はインヒビタスイッチからの信号を利用することができる。
時空間画像作成のための検査ラインの長さ(n画素)は任意に設定でき、また、時空間画像を形成するフレーム数も実施の形態に示した6フレームに限定されず、任意に設定できる。
ディスプレイは液晶方式のものとしたがこれも方式を問わない。
また、車両の後退を検知するためリバーススイッチを設けるものとしたが、自動変速機搭載車両の場合はインヒビタスイッチからの信号を利用することができる。
時空間画像作成のための検査ラインの長さ(n画素)は任意に設定でき、また、時空間画像を形成するフレーム数も実施の形態に示した6フレームに限定されず、任意に設定できる。
さらに、実施の形態はカメラを車体後部に後方に向けて設置して、とくに駐車スペースから道路へ後退しながら進入する際に、道路を接近してくる他車両を検知するに好適なものとしたが、本発明はこれに限定されず、たとえばカメラを車体前端に前方に向けて設置することにより、一旦停車してから交差点に進入する際に、交差する道路上を接近してくる他車両を検知するのに有効である。
10 車両周辺監視装置
12 カメラ
20 検出制御装置
14 ディスプレイ
16 ナビゲーション装置
21 制御部
22 プログラムメモリ
23 AD変換器
24 画像メモリ
25 画像処理部
26 画像合成部
27 画像切り替え部
28 DA変換器
30 リバーススイッチ
32 車速センサ
40、42、44、46 境界線
D0、D1、D2、D3 検査ライン
E1、E2、E3、E4 エッジ
K 傾斜ブロック
L1、L2、L3L、L4L、L3R、L4R 直線
M1 メッセージ
M2 マーキング画像
P1、P2、P3 消失点
R 道路
S 駐車スペース
VA 自車両
VB 他車両
W 撮影視野
Z 時空間画像
12 カメラ
20 検出制御装置
14 ディスプレイ
16 ナビゲーション装置
21 制御部
22 プログラムメモリ
23 AD変換器
24 画像メモリ
25 画像処理部
26 画像合成部
27 画像切り替え部
28 DA変換器
30 リバーススイッチ
32 車速センサ
40、42、44、46 境界線
D0、D1、D2、D3 検査ライン
E1、E2、E3、E4 エッジ
K 傾斜ブロック
L1、L2、L3L、L4L、L3R、L4R 直線
M1 メッセージ
M2 マーキング画像
P1、P2、P3 消失点
R 道路
S 駐車スペース
VA 自車両
VB 他車両
W 撮影視野
Z 時空間画像
Claims (8)
- 車両に設置したカメラで車両周辺を撮影し、
カメラの撮影画像上で道路の消失点を求め、
該消失点の縦座標位置を通る水平方向のラインと、その近傍に配した平行なラインとを含む複数の検査ラインを設定し、
該検査ラインのそれぞれにおいて、所定フレーム数のライン画像を積み上げて時空間画像を作成し、
該時空間画像上で移動物体を検出して、移動物体の存在を報知することを特徴とする車両周辺監視方法。 - 車両周辺の道路領域を撮影可能に設置されたカメラと、
該カメラで撮影された撮影画像において、道路の消失点を求める消失点検出手段と、
撮影画像における前記消失点の縦座標位置を通る水平方向のラインと、これに平行にその近傍に配したラインとを含む複数の検査ラインを設定する検査ライン設定手段と、
前記検査ラインのそれぞれにおいて、所定フレーム数のライン画像を積み上げた時空間画像を作成する時空間画像作成手段と、
前記時空間画像上で移動物体を検出する移動物体検出手段と、
移動物体が検出されたとき当該移動物体の存在を報知する報知手段とを有することを特徴とする車両周辺監視装置。 - 前記消失点検出手段は、撮影画像を左右に分割した範囲のそれぞれにおいて前記消失点を求めることを特徴とする請求項2記載の車両周辺監視装置。
- 前記検査ライン設定手段は、前記消失点が複数求められたときは、当該消失点が求められた範囲別にそれぞれ前記複数の検査ラインを設定することを特徴とする請求項3記載の車両周辺監視装置。
- 前記移動物体検出手段は、前記時空間画像からエッジを抽出するエッジ抽出手段と、エッジを2値化処理してブロック化する2値化手段を備えて、傾斜したブロックの有無により移動物体の存在を検出することを特徴とする請求項2から4のいずれか1に記載の車両周辺監視装置。
- 前記カメラの視野角が180°以上であることを特徴とする請求項2から5のいずれか1に記載の車両周辺監視装置。
- 前記検査ライン設定手段は、前記消失点の数または撮影画像上の位置に応じて、前記複数の検査ラインを設定することを特徴とする請求項2から6のいずれか1に記載の車両周辺監視装置。
- 前記検査ライン設定手段は、前記消失点から延びる道路のエッジ情報に基づいて検査ラインを設定することを特徴とする請求項2から6のいずれか1に記載の車両周辺監視装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004018270A JP2005217482A (ja) | 2004-01-27 | 2004-01-27 | 車両周辺監視方法および装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004018270A JP2005217482A (ja) | 2004-01-27 | 2004-01-27 | 車両周辺監視方法および装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005217482A true JP2005217482A (ja) | 2005-08-11 |
Family
ID=34902838
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004018270A Withdrawn JP2005217482A (ja) | 2004-01-27 | 2004-01-27 | 車両周辺監視方法および装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005217482A (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013148975A (ja) * | 2012-01-17 | 2013-08-01 | Denso Corp | 車両周辺監視装置 |
JP2013156672A (ja) * | 2012-01-26 | 2013-08-15 | Nippon Soken Inc | 車両周辺監視装置 |
US20130286205A1 (en) * | 2012-04-27 | 2013-10-31 | Fujitsu Limited | Approaching object detection device and method for detecting approaching objects |
JP2014144709A (ja) * | 2013-01-29 | 2014-08-14 | Toyota Motor Corp | 駐車支援装置 |
JPWO2013122030A1 (ja) * | 2012-02-14 | 2015-05-11 | 日産自動車株式会社 | 走行制御装置及び走行制御方法 |
WO2017022079A1 (ja) * | 2015-08-04 | 2017-02-09 | 日産自動車株式会社 | 段差検出装置及び段差検出方法 |
CN112849133A (zh) * | 2019-11-28 | 2021-05-28 | 丰田自动车株式会社 | 驾驶支援装置 |
-
2004
- 2004-01-27 JP JP2004018270A patent/JP2005217482A/ja not_active Withdrawn
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013148975A (ja) * | 2012-01-17 | 2013-08-01 | Denso Corp | 車両周辺監視装置 |
US9129160B2 (en) | 2012-01-17 | 2015-09-08 | Denso Corporation | Vehicle periphery monitoring apparatus |
JP2013156672A (ja) * | 2012-01-26 | 2013-08-15 | Nippon Soken Inc | 車両周辺監視装置 |
JPWO2013122030A1 (ja) * | 2012-02-14 | 2015-05-11 | 日産自動車株式会社 | 走行制御装置及び走行制御方法 |
US20130286205A1 (en) * | 2012-04-27 | 2013-10-31 | Fujitsu Limited | Approaching object detection device and method for detecting approaching objects |
JP2014144709A (ja) * | 2013-01-29 | 2014-08-14 | Toyota Motor Corp | 駐車支援装置 |
WO2017022079A1 (ja) * | 2015-08-04 | 2017-02-09 | 日産自動車株式会社 | 段差検出装置及び段差検出方法 |
JPWO2017022079A1 (ja) * | 2015-08-04 | 2018-06-21 | 日産自動車株式会社 | 段差検出装置及び段差検出方法 |
US10339394B2 (en) | 2015-08-04 | 2019-07-02 | Nissan Motor Co., Ltd. | Step detection device and step detection method |
CN112849133A (zh) * | 2019-11-28 | 2021-05-28 | 丰田自动车株式会社 | 驾驶支援装置 |
CN112849133B (zh) * | 2019-11-28 | 2024-04-30 | 丰田自动车株式会社 | 驾驶支援装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5421072B2 (ja) | 接近物体検知システム | |
JP4513318B2 (ja) | 後側方画像制御装置および方法 | |
JP5022609B2 (ja) | 撮像環境認識装置 | |
US20110228980A1 (en) | Control apparatus and vehicle surrounding monitoring apparatus | |
JP6379779B2 (ja) | 車両用表示装置 | |
JP5895941B2 (ja) | 画像表示装置及び画像表示方法 | |
JP5329582B2 (ja) | 車両用周辺監視装置 | |
JP5213063B2 (ja) | 車両表示装置および表示方法 | |
JP2010130646A (ja) | 車両周辺確認装置 | |
JP2000295604A (ja) | 車両用後側方監視装置 | |
JPWO2013046407A1 (ja) | 画像表示装置及び画像表示方法 | |
JP4259368B2 (ja) | ノーズビューモニタ装置 | |
JP4693561B2 (ja) | 車両周辺監視装置 | |
JP2013183298A (ja) | 車両用後方視界支援装置及び車両用後方視界支援方法 | |
JP5718080B2 (ja) | 車両用周辺監視装置 | |
JP4193740B2 (ja) | ノーズビューモニタ装置 | |
JP2008282067A (ja) | 接近物検知装置及び接近物検知プログラム | |
JP2005217482A (ja) | 車両周辺監視方法および装置 | |
JP5445719B2 (ja) | 画像表示装置及び画像表示方法 | |
JP2005309660A (ja) | 車両用右左折支援装置 | |
JP2011211432A (ja) | 車載用撮像装置 | |
JP4615536B2 (ja) | 表示装置 | |
JP2005267331A (ja) | 車両周囲監視装置 | |
JP2010064646A (ja) | 車両周辺監視装置および車両周辺監視方法 | |
JP4598011B2 (ja) | 車両用表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061127 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080912 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20090904 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090914 |