JP2004356846A

JP2004356846A - 移動体周辺監視装置

Info

Publication number: JP2004356846A
Application number: JP2003150805A
Authority: JP
Inventors: Toshiaki Kakinami; 俊明柿並
Original assignee: Aisin Seiki Co Ltd
Current assignee: Aisin Corp
Priority date: 2003-05-28
Filing date: 2003-05-28
Publication date: 2004-12-16

Abstract

【課題】移動体の停止後、移動体の開口部外側に所定領域、例えば乗員又は貨物の出入に必要な領域を確保した状態であるか否かを適宜表示する。
【解決手段】移動体の周辺の物体の大きさ、位置等の環境情報を検出し蓄積する環境情報検出手段ＳＲと、移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段ＭＢを備え、これらの検出情報を情報合成手段ＣＢで合成し、移動体の周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する。この出力情報に基づき、特定視界作成手段ＳＶにより、移動体の特定位置周辺の環境情報から、移動体の外側に突出して開口する開閉手段ＤＲ、及び開閉手段による開口部の外側領域を含む周辺環境の特定視界を作成し、表示手段ＶＤにより特定の視界を画像に表示する。これにより、移動体の停止後、移動体の開口部外側に所定領域（乗員又は貨物の出入に必要な領域）が存在するか否かを確認できる。
【選択図】図１

Description

【０００１】
【発明の属する技術分野】
本発明は、移動体周辺を監視する移動体周辺監視装置に関し、特に、移動体周辺の環境を監視し、移動体における所望の位置での視界を画像表示する移動体周辺監視装置に係る。例えば、車両の周辺を監視し、停車あるいは駐車後に乗員又は貨物の出入に必要な領域を確保した状態であるか否かを適宜表示し、あるいは乗員又は貨物の出入に供する開閉体と障害物の位置関係に応じて開閉体を制御する装置に好適な移動体周辺監視装置に係る。
【０００２】
【従来の技術】
【特許文献１】
従来から、車両後方の死角を最小化するために、例えば車両後方にカメラを装着し、その画像を運転席に設置したモニタに表示する装置が種々提案されており、既に市販されている。例えば、下記の特許文献１（特開昭６２−２７８４７７）には、距離センサおよびハンドル角センサからの出力信号をもとに自動車の走行軌跡を演算するコンピュータを備え、車両周辺の障害物の位置および予想走行軌跡上にある車両と障害物とが予め設定された距離以内にあるときに警報器でアラーム音を発するようにした自動車の車庫入れ支援システムが提案されている。
【０００３】
【特許文献２】
また、下記の特許文献２（特開平１−１４１１３７）には、車両の前部両側に障害物検出センサを設け、該検出センサにより車両の前部両側の障害物への接近を検出し、該検出情報をモニタ画面に後方視界と同時に表示するようにした車両の後方視界表示装置が提案されている。これにより、運転者はモニタ画面から車両の前方へ視線を移さなくとも車両の前部両側の障害物への接触を回避できる旨記載されている。
【０００４】
更に、下記の特許文献３（特開２００１−１８７５５３）には、車両の移動中に、単一のカメラによって、異なる第１および第２の地点での周辺画像を、時系列的に視差付けされた第１および第２の画像として撮像する撮像装置、それぞれの画像に撮像された立体物を検出し特定する立体物特定部と、第１の地点から第２の地点まで車両の移動データを算出する車両位置算出部と、立体物の第１および第２の画像上での位置と、車両の移動データとを用いて、車両から立体物までの距離を算出する立体物距離算出部と、撮像装置によって撮像された画像および立体物距離算出部で算出されたデータに基づいて、運転者に伝達するための第３の画像を生成するようにした駐車支援装置が提案されている。これにより、２つの画像に撮像された立体物に対して三角測量の原理で正確に上記立体物までの距離を算出することができる旨記載されている。
【０００５】
これに関し、画像処理技術の分野においては、２台のカメラから３次元形状を復元する技術が知られている。例えば、下記の非特許文献１には、ステレオによる立体形状計測について解説されている。この非特許文献１には、その前提として、２つのカメラそれぞれの結像の特性（レンズの焦点距離、画像中心、画素サイズなど）、２つのカメラの位置、姿勢、そして２つの画像での対応が分かれば、その対応する点の空間での位置が決定できる旨記載されている。
【０００６】
同様に、下記の非特許文献２にも、２台のカメラから撮った画像間の対応関係から三角測量の原理で物体の３次元形状を計算する技術が開示されており、ロボットの制御のために画像から３次元情報を抽出する方法として最も基本的な手段の一つであるとして、原理が解説されている。
【０００７】
また、下記の非特許文献３には、上記のステレオと同じ原理に基づき、動画像から対象の３次元形状が復元できると記載されている。特に、動画像として画像の系列が与えられていると、対象の運動の追跡が可能になり、２枚の画像だけが与えられた場合より対応点の抽出が容易である旨説明されている。
【０００８】
一方、下記の特許文献４（特開平７−２５７１８３）には、狭い場所でドアを開けた場合にドアアウタパネルが障害物に当たって損傷することを防止することを目的として、ドアの側方に向かって進退移動するストッパ部材と、これに係合しドアアウタパネルの後端より内方に引き込む係合部材を備え、ストッパ部材の先端を障害物に当接させるようにした装置が開示されている。また、同様の目的で、下記の特許文献５（特開平７−３１５０４７）には、ドアの開閉と連動してソレノイドによってドアアウタパネルの後端側面に出没するストッパ部材を備え、ストッパ部材の先端を障害物に当接させるようにした装置が開示されている。
【０００９】
これに対し、下記の特許文献６（特開２００２−２１９９３７）には、自動車のドアやトランクリッドなどの開閉体をモータ駆動によって開扉させる装置に関し、全開位置まで駆動すると、降雨時に雨水が侵入し、障害物がある場合には、これに当たるおそれがあることに鑑み、開閉体の開扉時に目標開扉量まで開閉体を駆動するようにした駆動制御装置が提案され、トランクリッドの最外軌跡を残す位置に距離センサを設けた装置が開示されている。更に、これに類似する装置として、特許文献７（特開平８−９１１２８）には、ステップを損傷させずに乗降性を向上させるため、バス等に用いられる補助ステップに非接触センサを設け、補助ステップ前方の障害物までの距離を測定することにより、補助ステップの先端が障害物に接触しない至近の位置まで突出するようにアクチュエータを制御する装置が開示されている。
【００１０】
【特許文献１】
特開昭６２−２７８４７７号公報
【特許文献２】
特開平１−１４１１３７号公報
【特許文献３】
特開２００１−１８７５５３号公報
【特許文献４】
特開平７−２５７１８３号公報
【特許文献５】
特開平７−３１５０４７号公報
【特許文献６】
特開２００２−２１９９３７号公報
【特許文献７】
特開平８−９１１２８号公報
【非特許文献１】
「情報処理」Ｖｏｌ．３７Ｎｏ．７（１９９６年７月号）における出口光一郎著「２．ステレオの仕掛けを解き明かす」
【非特許文献２】
「空間データの数理」（金谷健一著。１９９５年３月１０日初版第１刷。朝倉書店発行）における１６１頁及び１６２頁に記載の「ステレオ視による３次元復元」
【非特許文献３】
「情報処理」Ｖｏｌ．３７Ｎｏ．８（１９９６年８月号）における出口光一郎著「３．動画像の扱い」
【００１１】
【発明が解決しようとする課題】
前掲の特許文献１乃至３に記載の装置によれば、何れも、車両後方の視界をカメラで撮影しモニタに表示することができる。従って、モニタの画像情報を参照して後方の障害物を確認しながら後退し、停車あるいは駐車することができる。しかし、停車あるいは駐車後に乗員又は貨物の出入に必要な領域を確保した状態で車両が停止しているか否かは、直ちには判別できない。即ち、上記の各装置では車両側面のドア付近はカメラの視界からは外れており、その付近はモニタに表示されないので、例えばドアを外側に開けたときに他の車両や壁等の障害物に対し十分な余裕があるか否かを確認することはできない。
【００１２】
これに対処するためには、例えば、自車両のドア等の開閉体部分もカメラの視界に入るように、適当な視野角を有するカメラを車体から突出するように配置すればよい。しかし、各開閉体にカメラを設けることとすればコストアップとなり、また、車種によっては、意匠面で商品性が損なわれることになるので、全ての車種に適用することはできない。
【００１３】
而して、車両の意匠を損なうことなく、カメラの視界から外れた車両の開閉体付近も画像表示し得る装置が要請されているが、カメラの配置のみによって上記の問題を解決することは至難である。一方、前述の非特許文献１乃至３に記載の画像処理技術を利用すれば、例えば１個のカメラによっても障害物の３次元形状を復元し得るように構成することができる。従って、このような画像処理技術を、車両等の移動体の周辺を監視する装置に適切に組み入れることができれば、上記の問題の解決の一助となるが、これらの具体的手段については何れの文献にも言及されていない。
【００１４】
尚、特許文献３においては、画像に撮像された立体物を検出し特定する立体物特定部と、車両の移動データを算出する車両位置算出部とを備えており、車両がａ地点にある時に撮像された画像Ａを、車両の移動データを用いてｂ地点から撮像されたように画像変換し、画像Ｃを算出すると説明されている。然し乍ら、これは、２つの画像のずれと移動データに基づき幾何学的に車両から立体物までの距離を算出することとしているものであり、前掲の非特許文献１乃至３に記載のような、画像から３次元形状を復元すること自体を特徴とするものではない。
【００１５】
一方、特許文献４及び５に記載の装置においては、ドアに設けられたストッパ部材の先端が障害物や隣接車両等に当接させることを前提としており、当接させても問題がない障害物である場合は兎も角、当接する対象が隣接車両である場合には好ましくない。
【００１６】
従って、非接触で障害物を検出し得ることが必須であるが、特許文献６及び７に記載の装置においては、測定対象毎に非接触センサを設ける必要があるので、前述のカメラの場合と同様、コストアップとなり、構造も複雑となる。また、その測定領域は極めて限定されたものとなり、用途も限定される。例えば、特許文献６に記載の装置においては、トランクリッドの先端に距離センサが装着されているが、その測定対象は上方の障害物に限られる。また、特許文献７に記載の装置においては、非接触センサは、直動する補助ステップの先端に装着されるものであり、乗用車のドアのように揺動するドアには適用できない。
【００１７】
更に、車両の天井部分に換気装置が設けられたものがあり、ルーフの一部が上方に突出する機構を備えたものがあるが、停車あるいは駐車後に、ルーフの一部を上方に突出させ得る領域を確保した状態であるか否かは判別できない。このように、車両にはドアやトランクリッド等の開閉体をはじめ、換気用蓋体等の開閉手段が設けられているが、停車あるいは駐車後に、これらをどこまで車両の外側に突出させ得るかは車内では認識できない。従って、そのまま開閉手段を外側に駆動すると障害物に接触するおそれがある。
【００１８】
そこで、本発明は、移動体周辺の環境を監視する移動体周辺監視装置おいて、移動体の停止後、移動体の開口部外側に所定領域、例えば乗員又は貨物の出入に必要な領域を確保した状態であるか否かを適宜表示し得る移動体周辺監視装置を提供することを課題とする。
【００１９】
また、本発明の別の目的は、移動体周辺の環境を監視し、移動体の外側に突出して開口する開閉手段と移動体周辺の障害物との位置関係に応じて、移動体の開口部外側に所定領域を確保し得るように開閉手段を制御する移動体周辺監視装置を提供することを別の課題とする。
【００２０】
【課題を解決するための手段】
上記課題を解決するため、本発明の移動体周辺監視装置は、請求項１に記載のように、移動体の周辺の環境情報を検出し蓄積する環境情報検出手段と、前記移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段と、該移動体情報検出手段の検出情報と前記環境情報検出手段の検出情報を合成し、前記移動体の前記周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する情報合成手段と、該情報合成手段の出力情報に基づき、前記移動体の特定位置周辺の環境情報から、前記移動体の外側に突出して開口する開閉手段、及び該開閉手段による開口部の外側領域を含む周辺環境の特定視界を作成する特定視界作成手段と、該特定視界作成手段が作成した特定の視界を画像に表示する表示手段とを備えることとしたものである。尚、上記の環境情報とは、移動体周辺の物体の大きさ、位置等を含む。また、上記の開閉手段には、車両の乗員又は貨物の出入に供するドアやトランクリッド等の開閉体をはじめ、車体上方に突出する換気用蓋体等を含む。
【００２１】
また、請求項２に記載のように、移動体の周辺の環境情報を検出し蓄積する環境情報検出手段と、前記移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段と、該移動体情報検出手段の検出情報と前記環境情報検出手段の検出情報を合成し、前記移動体の前記周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する情報合成手段と、前記環境情報検出手段の検出情報に基づき前記移動体周辺の障害物を検出する障害物検出手段、該障害物検出手段の検出情報及び前記情報合成手段の出力情報に基づき、前記移動体の外側に突出して開口する開閉手段と前記移動体周辺の障害物との位置関係を判定し、該位置関係に応じて少なくとも前記開閉手段の外側への突出量を規制する制御手段とを備えたものとするとよい。
【００２２】
上記請求項２記載の移動体周辺監視装置において、前記制御手段は、請求項３に記載のように、前記開閉手段を少なくとも外側に駆動すると共に、前記開閉手段と前記移動体周辺の障害物との位置関係に応じて前記開閉手段の外側への駆動を停止するように駆動制御する構成とすることができる。
【００２３】
上記請求項１、２又は３記載の移動体周辺監視装置において、請求項４に記載のように、前記環境情報検出手段は、前記移動体に搭載し前記移動体の周辺を撮像し画像情報を出力する少なくとも一つの撮像手段と、前記移動体が第１の状態から第２の状態に移動したときに少なくとも前記第１の状態及び第２の状態で前記撮像手段によって撮像した二つの画像に基づき、前記第１の状態で撮像した画像から特徴点の座標を検出すると共に、前記第２の状態で撮像した画像での前記特徴点に対応する座標を検出する特徴点追跡手段と、少なくとも前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢を検出する移動状態検出手段と、該移動状態検出手段で検出した前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢、前記第１の状態で撮像した画像の前記特徴点の座標、及び前記第２の状態で撮像した画像の前記特徴点に対応する座標に基づき前記特徴点の３次元座標を推定する３次元座標推定手段とを備えたものとするとよい。この場合において、前記表示手段が表示する画像は、前記運転者の指示に基づく視界に対し、拡大、縮小等の変更を加えた画像としてもよい。
【００２４】
また、上記請求項４記載の移動体周辺監視装置において、前記環境情報検出手段を構成する前記移動状態検出手段は、請求項５に記載のように、前記移動体情報検出手段の検出情報から、前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢を検出するように構成することができる。
【００２５】
あるいは、上記請求項１、４又は５記載の移動体周辺監視装置において、請求項６に記載のように、前記移動体の運転者による前記特定の視界に係る指示を入力する指示入力手段を備えたものとし、前記特定視界作成手段は、前記指示入力手段の入力結果に応じて前記特定の視界を前記運転者の指示に基づく視界に切り替える切替手段を具備する構成としてもよい。
【００２６】
【発明の実施の形態】
以下、本発明の移動体周辺監視装置の実施形態について図面を参照して説明する。図１は本発明の一実施形態の全体構成を示すもので、例えば、図４に示す車両１に搭載されて駐車案内装置に供される。図１において、本実施形態の移動体周辺監視装置は、移動体（図示せず）の周辺の物体の大きさ、位置等の環境情報を検出し蓄積する環境情報検出手段ＳＲと、移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段ＭＢを備えている。この移動体情報検出手段ＭＢは、移動体が車両である場合には、例えば車両の走行速度、操舵状態、旋回状態等の車両運動を検出するセンサによって構成することができ、少なくとも一つのセンサ出力に基づき、車両の位置を表わすファクタとして座標、及び車両の姿勢を表わすファクタとして角度を検出することができるが、これについては後述する。
【００２７】
更に、この移動体情報検出手段ＭＢの検出情報と環境情報検出手段ＳＲの検出情報を合成し、移動体の周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する情報合成手段ＣＢを備えている。そして、この情報合成手段ＣＢの出力情報に基づき、移動体の特定位置周辺の環境情報から、移動体の外側に突出して開口する開閉手段ＤＲ、及びこの開閉手段ＤＲによる開口部の外側領域を含む周辺環境の特定視界を作成する特定視界作成手段ＳＶを備え、この特定視界作成手段ＳＶが作成した特定の視界を画像に表示する表示手段ＶＤを備えている。開閉手段ＤＲとしては、図４のドア１ａをはじめ、貨物用のトランクリッド等の開閉体、更には車体上方に突出する換気用蓋体等があり、表示手段ＶＤとしては、移動体に搭載するモニタ（図示せず）がある。
【００２８】
本実施形態の環境情報検出手段ＳＲは、図１に示すように、移動体に搭載し移動体の周辺を撮像し画像情報を出力する撮像手段ＣＤと、移動体が第１の状態から第２の状態に移動したときに少なくとも第１の状態及び第２の状態で撮像手段ＣＤによって撮像した二つの画像に基づき、第１の状態で撮像した画像から特徴点の座標を検出すると共に、第２の状態で撮像した画像での前記特徴点に対応する座標を検出する特徴点追跡手段ＰＦと、少なくとも第１の状態及び第２の状態における移動体の位置及び姿勢を検出する移動状態検出手段ＤＳと、この移動状態検出手段ＤＳで検出した第１の状態及び第２の状態における移動体の位置及び姿勢、第１の状態で撮像した画像の特徴点の座標、及び第２の状態で撮像した画像の前記特徴点に対応する座標に基づき前記特徴点の３次元座標を推定する３次元座標推定手段ＲＣを備えている。上記の移動状態検出手段ＤＳは、移動体が車両である場合には、例えば車両の走行速度、操舵状態、旋回状態等の車両運動を検出するセンサによって構成することができるが、移動体情報検出手段ＭＢの検出情報を用いることとしてもよい。尚、撮像手段ＣＤとしては、後述するｃｃｄカメラ等がある。
【００２９】
図２は本発明の他の実施形態の全体構成を示すもので、これも、例えば図４に示す車両１に搭載される。本実施形態の移動体周辺監視装置は、図１の構成に加え、図２に示すように、移動体の運転者による特定の視界に係る指示を入力する指示入力手段ＳＥを備え、特定視界作成手段ＳＶは、指示入力手段ＳＥの入力結果に応じて特定の視界を運転者の指示に基づく視界に切り替える切替手段ＣＨを具備している。指示入力手段ＳＥとしては、メカニカルスイッチ（図示せず）を用いることができ、表示手段ＶＤとしてモニタ（図示せず）が用いられた場合には、モニタ表示画像上に構成するタッチパネルスイッチを用いることもできる。更には、音声認識装置によって指示入力手段ＳＥを構成することもできる。また、特定視界作成手段ＳＶに基づき表示手段ＶＤが作成する画像は、予め設定された一つ以上の視界における画像であり、その拡大、縮小、回転、視点移動等の変換処理を行った画像を含む。
【００３０】
図３は本発明の更に他の実施形態の全体構成を示すもので、これも、例えば図４に示す車両１に搭載される。本実施形態の移動体周辺監視装置は、図３に示すように、図１と同様の環境情報検出手段ＳＲ、移動体情報検出手段ＭＢ、及び情報合成手段ＣＢを備え、環境情報検出手段ＳＲの検出情報に基づき移動体周辺の障害物を検出する障害物検出手段ＵＮを備えている。そして、障害物検出手段ＵＮの検出情報及び情報合成手段ＣＢの出力情報に基づき、前述の開閉手段ＤＲと移動体周辺の障害物との位置関係を判定し、この位置関係に応じて少なくとも開閉手段ＤＲの外側への突出量を規制する制御手段ＣＴを備えたものである。上記障害物検出手段ＵＮは、環境情報検出手段ＳＲの検出情報から、例えば車両１に対して相対的に所定距離内に位置する障害物を検出することができる。
【００３１】
制御手段ＣＴは、図４に示す突出規制装置１９を備えた車両１において、開閉手段ＤＲたるドア１ａの外側への突出量を規制する突出規制装置１９を制御するように構成されている。あるいは、ドア１ａを少なくとも外側に駆動すると共に、ドア１ａと周辺の障害物との位置関係に応じてドア１ａの外側への駆動を停止するように駆動する開閉駆動装置２０（図５に破線で示す）を備えたものにおいては、この開閉駆動装置２０を制御手段ＣＴによって制御するように構成されている。
【００３２】
上記の移動体周辺監視装置は図４及び図５に示す駐車案内装置に供することができる。図４は本実施形態の駐車案内装置を搭載した車両１の全体構成を示すもので、車両１の後部には、その周辺を撮像し画像を取得するカメラ２（例えばｃｃｄカメラで上記の撮像手段ＣＤを構成する）が装着されており、画像情報が電子制御装置１０に供給される。更に、例えば車両１のドアミラーの端部にサイドカメラ２ｘを組み込むこととしてもよく、この画像情報も電子制御装置１０に供給される。
【００３３】
電子制御装置１０は、図４に示すように車両１に搭載された筐体中に収容され、図１乃至図３の移動状態検出手段ＤＳ、移動体情報検出手段ＭＢ、３次元座標推定手段ＲＣ、情報合成手段ＣＢ、特定視界作成手段ＳＶ、切替手段ＣＨ及び制御手段ＣＴが構成されている。また、ステアリングホイール３の操舵角を検出する操舵角センサ４が車両１に装着されると共に、シフトレバー５がリバース位置とされたときにオンとなるシフトレバースイッチ６が装着されており、これらの検出舵角及びオン信号が電子制御装置１０に供給される。
【００３４】
更に、本実施形態では、各車輪の回転速度を検出する車輪速度センサ（代表して７で示す）が装着されており、検出車輪速度が電子制御装置１０に供給される。これらの車輪速度センサ７の検出結果に基づき移動体の少なくとも２位置間の移動距離を測定することができる。本実施形態では、ドアハンドルセンサ１６が装着されており、例えばドアハンドル（図示せず）に指を近づけると（あるいは接触すると）ドアハンドルセンサ１６が作動し、ドア１ａを開放する意思が検知されるように構成されている。また、着座センサ１７が装着されており、乗員が着座しているときには着座センサ１７が作動し、着座状態が検知されるように構成されている。而して、例えば、着座センサ１７によって乗員が着座している状態が検知され、且つ、ドアハンドルセンサ１６によってドア１ａを開放する意思が検知されると、降車する直前の状態であることが検知される。尚、ドアハンドルセンサ１６及び着座センサ１７の何れか一方を設けることとしてもよい。
【００３５】
そして、図４に示すように運転者から視認可能な車両１内の所定位置にモニタ８が配置されており、電子制御装置１０の出力信号に応じてモニタ８に駐車案内用の視覚情報が表示される。即ち、本実施形態においては、モニタ８が図１及び図２の表示手段ＶＤとして機能している。また、車両１内の所定位置にスピーカ９が配置されており、電子制御装置１０の出力信号に応じてスピーカ９から駐車案内用の音声情報が出力される。更に、本実施形態では、ドア１ａ開放時の突出量（開度、突出距離等）を所定値に規制する突出規制装置１９が設けられており、後述するように、ドア１ａの突出量が規制される。尚、突出規制装置１９は、図示は省略するが、例えばドアチェックを所望の位置で保持する機構を設け、これをアクチュエータで制御するように構成することができる。
【００３６】
図５は、上記の駐車案内装置のシステム構成図であり、電子制御装置１０の構成を示すものである。上記の操舵角センサ４、シフトレバースイッチ６及び車輪速度センサ７は、図示しない入力インターフェースを介して電子制御装置１０内のＣＰＵ１１に接続されており、図示しない出力インターフェースを介して、モニタ８が電子制御装置１０内のスーパーインポーズ部１４に接続され、スピーカ９が音声出力部１５を介してＣＰＵ１１に接続されている。カメラ２及びサイドカメラ２ｘは、図示しない入力インターフェースを介して、画像認識部１２、グラフィックス描画部１３及びスーパーインポーズ部１４に接続されている。尚、ＣＰＵ１１、画像認識部１２、グラフィックス描画部１３、スーパーインポーズ部１４及び音声出力部１５は相互にバスバーによって接続されている。尚、メモリ等は示していないが、各部の情報は所定期間蓄積され、適宜読み出し可能に構成されている。
【００３７】
本実施形態においては、車両１周辺の環境を表示するカメラ２（及び、必要に応じてサイドカメラ２ｘ）の画像信号が画像認識部１２を介してＣＰＵ１１に供給されると共に、車輪速度センサ７等の出力信号がＣＰＵ１１に供給され、ＣＰＵ１１にて演算処理される。このＣＰＵ１１の演算結果に基づき、グラフィックス描画部１３において、カメラ２の画像から抽出される同期信号に応じて３次元のグラフィックスが描画される。そして、ＣＰＵ１１において駐車案内のための演算処理が行われ、その演算結果に基づくグラフィックスがグラフィックス描画部１３にて描画される。また、グラフィックス描画部１３にて描画されるグラフィックスとカメラ２の画像とが適宜スーパーインポーズ部１４にて重畳され、モニタ８の画面に描画される。尚、この場合、カメラ画像は表示されず、グラフィック画像のみが表示されるように設定することも可能である。而して、図１及び図２の３次元座標推定手段ＲＣ、情報合成手段ＣＢ及び特定視界作成手段ＳＶはＣＰＵ１１、画像認識部１２及びグラフィックス描画部１３によって構成されている。
【００３８】
本実施形態においては、更にＣＰＵ１１において、ドアハンドルセンサ１６及び着座センサ１７の検出結果に基づき、乗員が降車する直前の状態か否かが判定され、降車直前である場合には、ドア１ａ外側の環境が表示されるように制御される。また、ドア１ａ外側の環境において、障害物検出手段ＵＮにより、例えば車両１体に対して相対的に所定距離内に位置する障害物が検出されたときには、これと開閉手段ＤＲとの関係に応じて制御部１８を介して突出規制装置１９が制御される。而して、後述するように、ドア１ａが開放されたときには、その突出量が所定値に規制され、障害物との接触が回避される。尚、突出規制装置１９に代えて、開閉駆動装置２０を設け、ドア１ａを少なくとも外側に駆動すると共に、ドア１ａと周辺の障害物との位置関係に応じてドア１ａの外側への駆動を停止するように駆動することとしてもよい。
【００３９】
上記の３次元座標推定手段ＲＣにおいては、特徴点追跡手段ＰＦにて、車両１が第１の状態から第２の状態に移動したときに撮像手段ＣＤたるカメラ２によって第１の状態で撮像された画像から特徴点の座標が検出されると共に、第２の状態で撮像された画像での前記特徴点に対応する座標が検出され、移動状態検出手段ＤＳでは、第１の状態及び第２の状態における車両１の位置及び姿勢が検出される。そして、第１の状態及び第２の状態における車両１の位置及び姿勢、第１の状態で撮像された画像の特徴点の座標、及び第２の状態で撮像された画像の前記特徴点に対応する座標に基づき、３次元再構成が行われ、前記特徴点の３次元座標が求められる。
【００４０】
上記の３次元再構成は、例えば前述の非特許文献２に記載のように、画像を用いて三角測量の原理に基づいて行われるものであり、図２０乃至図２２を参照して以下に説明する。図２０において、少なくとも２つのカメラ位置（左右のｏ及びｏ’で示す）から空間中の同一の点Ｍを観測しているとき、各カメラの画像で観測された点ｍ_１，ｍ_２とそれぞれのカメラの光学中心とを結んだ空気中の光線を定義でき、各光線の交点は空間中の点の位置Ｍを表す。ここで、対象視界（Ｓｃｅｎｅ）中の３次元の点Ｍは各画像間で同定される必要がある。また、単眼カメラで３次元の再構成を行う場合には、画像中から対象物体の特徴点（ＰｏｉｎｔｏｆＩｎｔｅｒｅｓｔ）の抽出とその追跡が必要である。更に、カメラの内部パラメータ（スケールファクタ、光軸位置座標等）と外部パラメータ（カメラの配置）は既知である（予め校正されている）ことが必要であり、これらを前提に３次元再構成が行われる。
【００４１】
次に、対象視界の動きからの３次元構造の復元に関し、時系列画像のそれぞれがどの位置及び姿勢で撮影されたものであるかは、デッドレコニングシステムにより対応が取られて校正されていれば、ステレオ対応という手段を使うことができる。但し、３次元視界の中の同一の点が含まれるように撮影された時系列画像において、その画像列の中から同一の点を見つけることが必要である。即ち、これらの同一の点の対応を取ることによって、対象視界の３次元構造を復元することができる。
【００４２】
対象視界からの特徴点の検出に関しては、画像の中から、対象視界の特徴となるべきいくつかの特徴点を検出することになる。この場合の特徴点とは、画像のシーケンスに沿って追跡可能な適切な特徴を有する対象である。このような特徴点の検出には下記［数１］式に示す行列Ａによる自動相関（ａｕｔｏ−ｃｏｒｒｅｌａｔｉｏｎ）を用いることができる。行列Ａは画像中の点ｐ（ｘ，ｙ）を含むウインドウ領域Ｗ中に含まれる画像信号の導関数を平均化するように機能するので、これを用いて最適な特徴点を得る。即ち、追跡に適する特徴点は、一般にはコーナーや直線の交点（例えば、図２１の左側の図におけるコーナーの黒点）であり、この行列はこれらの特徴点を検出するものである。尚、下記［数１］式において、Ｉ（ｘ，ｙ）は画像の関数、Ｉｘはｘ軸に沿った画像の勾配、Ｉｙはｙ軸に沿った画像の勾配、（ｘ_ｋ，ｙ_ｋ）は（ｘ，ｙ）を中心としたウインドウＷ中の画像点を夫々表わす。
【００４３】
【数１】

【００４４】
次に、特徴点の追跡（ＦｅａｔｕｒｅＴｒａｃｋｉｎｇ）に関し、ｕ＝［ｘ，ｙ］^Ｔが画像点の座標であるような画像列Ｉ（ｕ，ｔ）を考慮する。サンプル周期が十分短ければ微小時刻後の画像ではその輝度値は変化しないと仮定し、下記［数２］式が成り立つ。
【００４５】
【数２】

【００４６】
上記の［数２］式において、δ（ｕ）はモーションフィールド（３次元の動きベクトルの画像への投影）を表す。サンプル周期が十分に短いので、下記［数３］式に示すように、モーションは並進（ｔｒａｎｓｌａｔｉｏｎ）のみで近似することができる。尚、［数３］式のｄは変移ベクトル（ｄｉｓｐｌａｃｅｍｅｎｔｖｅｃｔｏｒ）を表わす。
【００４７】
【数３】

【００４８】
選択された各特徴点に対し、また、画像列での追跡された各点のペアに対して、その変移ベクトルｄを計算するため、トラッカー（Ｔｒａｃｋｅｒ）が用いられる。実際には、ノイズの影響により画像のモーションモデルは完全には表せないので［数２］式は十分に機能しない。従って、下記［数４］式に示すように、差の自乗和（ＳｕｍｏｆＳｑｕａｒｅＤｉｆｆｅｒｅｎｃｅ）によって変移ベクトルｄを計算する。そして、この［数４］式の残渣を最小にする変移ベクトルｄを求め、その方向に特徴点を追跡する（図２１にこの状態を示す）。尚、下記［数４］式のＷは、点ｕを中心とする特徴点検出のためのウインドウを表わす。
【００４９】
【数４】

【００５０】
図２２はトラッキングの一例を説明するもので、トラック（Ｔｒａｃｋｓ）とは画像列中で同一の対象を示す点の集合であり、各トラックの画像点は夫々の３次元点の投影像である。トラックは画像列の中で見失うことは許されないが、追跡する点が画像から外れたり、隠れたり、ノイズ等によって検出できない場合には、トラッキングを停止せざるを得ない。ここでは、最初の画面において検出された特徴点の集合から開始し、前の画像（図２２のＩｍｇＡ）での特徴点は次の画像（図２２のＩｍｇＢ）で追跡される。画像（ＩｍｇＡ）のうちの一部のトラックが停止すると、画像（ＩｍｇＢ）において新しい特徴点を探すことになり、この新しい各特徴点はその後のトラッキングの起点となる。
【００５１】
そして、３次元構造の再構成に関しては、３次元空間中の位置Ｍの点の距離がＺであるとき、その画像上の投影位置をｍとすると下記［数５］式の関係が成り立つ。下記の［数５］式において、距離ｆは焦点距離と呼ばれるが、ここではｆ＝１なる単位長さを用いて簡単化している。このようにモデル化すると、２台のカメラで空間中の（物体の頂点等の）特徴点を撮影する幾何学的な関係は図２０に示すようになる。
【００５２】
【数５】

【００５３】
図２０において、第２のカメラ座標系は第１のカメラ座標系をその原点の周りにＲだけ回転してからＴだけ平行移動して得られる位置にある。尚、このベクトルＴは基線ベクトルと呼ばれる。パラメータ｛Ｔ，Ｒ｝は２つのカメラ視点の相対的な位置姿勢関係を表しているので、１台のカメラを移動しながら撮影することとした場合は、デッドレコニングシステムにより計測することができる。
【００５４】
図２０に示すように、ある３次元空間中の位置Ｍのそれぞれの画像面上の投影像がｍ_１，ｍ_２にあるとする。この状態で、第２のカメラ座標系の原点０’から見た特徴点の方向は第２のカメラ座標系に関してベクトルｍ_２で表されるが、第２のカメラ座標系は第１のカメラ座標系に対してＲだけ回転しているから、第１のカメラ座標系に関してはＲｍ_２である。従って、図２０より下記［数６］式の関係が成立する。
【００５５】
【数６】

【００５６】
上記［数６］式から、距離Ｚ，Ｚ’が下記［数７］式のように計算される。
【００５７】
【数７】

【００５８】
このようにして、２つの視点から画像面上の投影像の座標ｍ_１，ｍ_２から３次元空間上の距離Ｚ，Ｚ’を復元することができる。そして、前述のトラックは対象視界中の特徴点群であるから、全てのトラックに関して上記［数７］式を計算すれば、３次元的な構造を復元することができる。
【００５９】
図１に戻り、車両１の移動状態を検出する移動状態検出手段ＤＳとしては、前述のように車両の走行速度、操舵状態、旋回状態等の車両運動を検出するセンサによってデッドレコニングシステムを構成することができるが、本実施形態においては、車輪速度センサ７によって構成され、これは後述するように移動体情報検出手段ＭＢとしても機能するように構成されている。このようにして特定される第１の状態及び第２の状態における車両１の位置及び姿勢と、夫々の状態でカメラ２によって撮像された画像における特徴点の抽出と追跡によって特定される画像間の対応点に基づき、上記のように処理され、撮像領域内に存在する物体が特定され、撮像領域の３次元座標が推定される。
【００６０】
本実施形態においては、車輪速度センサ７によって検出された車輪速度信号に基づき、以下のように、車両１の状態、即ち車両１の位置及び方向（鉛直軸周りの角度）を検出するようにデッドレコニングシステムが構成されており、これによって図１乃至図３に示す移動体情報検出手段ＭＢが構成されている。以下、本実施形態における車両１の状態を検出する方法について説明する。図７は、本実施形態における車両１のモデルを表したものであり、車両１の位置及び方向は、（ｘ，ｙ，θ）の３つの変数により定義される。また、車両１の速度（車速）をＶ、車両１の角速度をωとすると、車両の状態、車速及び角速度の間に次の等式が成立する。
即ち、ｄｘ／ｄｔ＝Ｖ・ｃｏｓθ、ｄｙ／ｄｔ＝Ｖ・ｓｉｎθ、及びｄθ／ｄｔ＝ωとなる。
【００６１】
上記の車速Ｖ及び角速度ωは直接計測することはできないが、車輪速度センサ７によって検出された左右後輪の車輪速度を用いて、次のように求めることができる。即ち、Ｖ＝（Ｖｒｒ＋Ｖｒｌ）／２、及びω＝（Ｖｒｒ−Ｖｒｌ）／Ｌｔとなる。ここで、Ｖｒｒは右後輪の車輪速度、Ｖｒｌは左後輪の車輪速度で、Ｌｔは車両１のトレッド長を表す。
【００６２】
上記の式を用いると、時刻ｔにおける車両の状態（ｘ，ｙ，θ）は、ｔ＝０における初期値（ｘ０，ｙ０，θ０）が決まっておれば、下記［数８］式のようになる。
【００６３】
【数８】

【００６４】
図８は、所定の３次元座標における車両１の移動開始位置の座標及び方向を基準に、移動後の位置の座標と方向を検出し追跡する方法の一例を示す。即ち、図８は（Ｘｏ，Ｙｏ，Ｚｏ）の３次元座標において、Ｘｏ−Ｙｏ平面（Ｚｏ＝０）上で車両が旋回運動する状態を示し、位置（座標（ｘ１，ｙ１））及び方向（角度θ１）で決まる車両１の状態から位置（座標（ｘ２，ｙ２））及び方向（角度θ２）で決まる車両１の状態に移動したときの位置関係を特定することができる。本実施形態では、左右後輪の車輪速度センサ７の検出車輪速度に基づき、車両１の位置（座標）及び方向（角度）が検出されるが、操舵角センサ４、ヨーレイトセンサ（図示せず）、距離センサ（図示せず）等を用いることとしてもよく、これらのセンサを組み合わせて用いることとしてもよい。図８は単純円旋回の例であるが、複数円弧や直線が組み合わされた軌跡に対し、上記のように検出された車両１の座標と方向に基づき、同様に追跡することができる。
【００６５】
一方、図１乃至図３に記載の３次元座標推定手段ＲＣにおいて推定された３次元環境が、図９に破線の格子で示すように、（Ｘ，Ｙ，Ｚ）の３次元座標を基準とする３次元環境マップとしてメモリに格納されている。尚、図９に破線の格子で示した３次元環境マップの中には、カメラ２で撮像された他の車両、障害物、建物等も存在するが、これらは図示を省略している（以下、図１０乃至図１４においても、破線の格子は３次元環境マップを表す）。この３次元環境マップに対し、図８の３次元座標の対応が行われる。即ち、情報合成手段ＣＢにおいて、車両１の周辺環境に対する相対的な位置及び姿勢の関係が補正される。具体的には、図９に破線の格子で示す３次元環境マップの中に、図８に示す車両１が配置され、３次元環境マップでの車両１の位置（座標）、及び姿勢、即ち方向（角度）が特定される。
【００６６】
そして、前述の特定視界作成手段ＳＶによって、周辺状況を含む３次元環境内における車両１の任意の位置で、任意の方向に向けてカメラが装着されたと仮定した場合の特定の視界が作成され、この仮想カメラから見た視界の画像が、表示手段ＶＤたるモニタ８に表示される。この場合において、例えば図１０に示すように、車両１の後方に仮想カメラ２ａが配置されているとしたときに、移動後の車両１から見た３次元環境マップ（図１０の破線の格子）において、どの領域が仮想カメラ２ａの視界に入っているかが分かる。換言すれば、図１０にＳａで示す領域が、仮想カメラ２ａの視界に入り、モニタ８にバーチャル画像として表示し得る領域（以下、表示視界という）である。
【００６７】
図１１は、車両１の左前方コーナーに仮想カメラ２ｂが配置された場合、及び左後方コーナーに仮想カメラ２ｃが配置された場合に、移動後の車両１からみた３次元環境マップにおいて、これらの仮想カメラ２ｂ及び２ｃの視界に入る領域（表示視界Ｓｂ及びＳｃ）を示す。同様に、図１２は、仮想カメラ２ｄが車両１の側方に配置された場合に、移動後の車両１からみた３次元環境マップにおいて、仮想カメラ２ｄの視界に入る領域（表示視界Ｓｄ）を示す。
【００６８】
図１０乃至図１２の例では、実際のカメラ２の画角と類似する視界が設定されているが、図１３の仮想カメラ２ｅように、１８０度の表示視界Ｓｅを設定することもできる。これにより、実際のカメラ２では視界に入らない車両１の両コーナー部分をも視界に入れたバーチャル画像を表示するように構成することができる。更に、図１４に示すように車両１の上空部分に仮想カメラ２ｆを配置して３６０度の表示視界Ｓｆを設定し、この視界のバーチャル画像を表示するように構成することもできる。
【００６９】
上記のように形成されるバーチャル画像は、車両１の移動、即ち仮想カメラ２ａ等の移動に伴う視界の移動に応じて変化することになるが、本実施形態においては、移動中に撮像した障害物を含むバーチャル画像を、状況に応じて適宜（移動後も）、表示し得るように構成されている。このバーチャル画像は、例えば、車両１の停車又は駐車後に乗員が降車する際（あるいは乗員を乗車させる際）、ドアが障害物に接触しないように開放する場合に有効である。
【００７０】
例えば、図１５において、障害物たる壁Ｗの側に車両１（自車）を停車させたが、車両１と壁Ｗとの間隔（Ｌ）が狭く、降車のために後席左側のドア１ａを開けようとすると、ドア１ａの後端が壁Ｗに接触し、それ以上開けることができなくなる状態を示している。尚、障害物としては壁Ｗに限らず、隣接する車両（図示せず）、あるいは柱等（図１６乃至図１９に示すＯＢ，ＯＬ，ＯＨ）がある。後者の例としては、建物内の駐車場に駐車する際、柱側の駐車区画に駐車せざるを得ない場合があり、図１６及び図１７においては、後席左側のドア１ａと柱ＯＢとの間隔が狭く、降車するためにドア１ａを開けようとすると、ドア１ａが柱ＯＢに接触する状態を示している。このように後席左側のドア１ａが柱ＯＢに接触する場合としては、図１６のようにドア１ａの先端部が接触する場合と、図１７に示すように先端部以外の部分が接触する場合ある。
【００７１】
而して、後席左側のドア１ａの先端部が柱ＯＢに接触する場合には、図１３に示すような車両１の上方に仮想カメラ２ｅが配置されたときのバーチャル画像をモニタ８に表示すると、例えば図１６に示すように、車両１の左側面を含む画像となる。従って、図１６のモニタ８の画像に、破線で示すように、後席左側のドア１ａを開けたときの軌跡を重畳すると、ドア１ａの開口部の外側領域が最大となる状態を視認することができる。即ち、障害物たる柱ＯＢはカメラ２による実際の視界から外れているにも拘わらず、運転者はこれをモニタ８で確認することができる。しかも、何れのドアによる降車が困難かを容易に視認することができる。
【００７２】
以上のように、車両１の停車又は駐車後に、乗員が降車する際（あるいは乗員を乗車させる際）に、ドア１ａを開けると柱ＯＢに接触することは、例えば図１６に示すモニタ８によって視認することができるが、これと共に、あるいは、これとは別に、ドア１ａと障害物の関係に応じて図５の音声出力部１５を駆動し、スピーカ９から音声を出力するように構成することもできる。何れの場合も、車両１のドア１ａから障害物（例えば、柱ＯＢ）までの距離をＬ（図１５）、ドア１ａの開度をθ、ドア１ａの開口部の幅をＤとして、ドア１ａと障害物（柱ＯＢ）の位置関係に基づき、ドア１ａが障害物（柱ＯＢ）と接触するときの、ドア１ａから障害物（柱ＯＢ）までの距離Ｌｃ、ドア１ａの開度θｃ、ドア１ａの開口部の幅Ｄｃを基準値として比較すれば、降車可能か否かを容易に判定することができる。更に、例えば、降車（又は乗車）に必要なドア１ａの最小開度θｔ、及び降車（又は乗車）に余裕のあるドア１ａの最小開度θｎを基準値として設定すれば、ドア１ａが障害物（柱ＯＢ）と接触するときのドア１ａの開度θｃの大きさに応じて、以下のように区別して報知することができる。
【００７３】
図６は、図１６の状況下でドア１ａを閉位置から開放するときの音声出力処理の一例を示すもので、先ず、ステップ１０１において、図１６の画像に基づきドア１ａが障害物（柱ＯＢ）と接触するときのドア１ａの開度θｃが読み込まれる。そして、ステップ１０２にて、ドア１ａの開度θｃが必要最小開度θｔ未満と判定されれば、ステップ１０３に進み、スピーカ９によって「このドアから降りることはできません」と報知される。ステップ１０４にて、ドア１ａの開度θｃが必要最小開度θｔ以上で余裕最小開度θｎ未満と判定されれば、ステップ１０５に進み、スピーカ９によって「注意して降りて下さい」と報知される。そして、ステップ１０６にて、ドア１ａの開度θｃが余裕最小開度θｎ以上と判定されれば、ステップ１０７に進み、スピーカ９によって「ドアの開けすぎに注意して降りて下さい」と報知される。
【００７４】
更に、本実施形態においては、図２に示す指示入力手段ＳＥ及び切替手段ＣＨによって、モニタ８の表示画像が実際のカメラ２で撮像された画像、あるいは図１６に示すバーチャル画像から、図１８の（Ｂ）に示すようなバーチャル画像に適宜切り替え可能に構成されている。具体的には、左右に「左下部」及び「右下部」というタッチパネルスイッチが表示されたモニタ８の表示画面（Ａ）に、例えば図１６と同様の上方視界の画像が表示された状態で、運転者が何れかのタッチパネルスイッチに触れると画面が切り替わり、ドア１ａ部分を含み車両１を背面からみたバーチャル画像が表示された切替画面（Ｂ）が表れるように構成されている。
【００７５】
而して、図１８の表示画面（Ａ）では、上方から見るとドア１ａが左下部の障害物（ブロックＯＬ）に接触するような画像となっており、ブロックＯＬの高さがドア１ａの地上高以上であれば、ドア１ａの下端エッジが接触することになるが、ブロックＯＬの高さがドア１ａの地上高未満であれば、ドア１ａはブロックＯＬに接触することはない。そこで、このような場合には、運転者が表示画面（Ａ）の「左下部」の表示に触れると、切替画面（Ｂ）の背面画像に切り替わるので、ドア１ａは障害物（ブロックＯＬ）に接触しないことを視認することができる。尚、この場合においても音声と共に報知することとしてもよい。
【００７６】
前述のように、本実施形態では突出規制装置１９（図４及び図５）が設けられており、ドアハンドルセンサ１６及び着座センサ１７の検出結果に基づき、乗員が降車する直前の状態か否かが判定され、降車直前である場合には、図３の環境情報検出手段ＳＲの検出情報から、障害物検出手段ＵＮによって、車両１に対して相対的に所定距離内の領域（あるいは、ドア１ａの所定開度未満の領域、もしくはドア１ａの所定の開口部幅の領域）に障害物（柱ＯＢ）が検出される。このとき、ドア１ａ外側の環境として例えば図１６の画像が表示されるので、この画像に基づき、ドア１ａが障害物（柱ＯＢ）と接触するときのドア１ａの開度θｃを求めることとしてもよい。而して、例えば開度θｃ未満の領域に障害物（柱ＯＢ）が検出されたときには、突出規制装置１９が駆動され、ドア１ａの開放が禁止される。
【００７７】
あるいは、上記突出規制装置１９に代えて、図５に破線で示す開閉駆動装置２０を備えたものにおいては、制御手段ＣＴによって、ドア１ａを少なくとも外側に駆動すると共に、ドア１ａと周辺の障害物との位置関係に応じてドア１ａの外側への駆動を停止するように制御することができる。これを更に発展させ、例えば図１９に示す、後方のリヤウインドパネル１ｂを開閉する開閉駆動装置２１を、前述の図５の開閉駆動装置２０と同様に構成すれば、図１８の切替画面（Ｂ）と同様の方法で、図１９に示すような側面の画像をモニタ８に表示させることができる。
【００７８】
また、リヤウインドパネル１ｂが上方の障害物ＯＨに接触しないように適切に開閉駆動装置２１を駆動制御することができる。即ち、開閉駆動装置２１によってリヤウインドパネル１ｂを開閉駆動すると共に、図３に示す各手段によって判定したリヤウインドパネル１ｂと障害物ＯＨとの位置関係に応じて、リヤウインドパネル１ｂが上方の障害物ＯＨに接触しないように、リヤウインドパネル１ｂの外側（特に上方）への開閉駆動装置２１の駆動を停止するように制御することができる。尚、このときの開閉駆動装置２１として、例えば特許文献６に記載の装置を用いることができるが、特許文献６に記載の装置に必須の距離センサ等は不要である。もちろん、特許文献６で対象とするトランクリッドに対しても上記と同様に構成することができる。
【００７９】
尚、上記の各実施形態においては１台のカメラ２のみによってモニタ８にバーチャル画像で表示できることから、車両１の開閉体部分等の、技術的、意匠的に搭載が困難な部分にカメラを搭載する必要はない。しかも、カメラ２の搭載位置及び方向に依存することなく、カメラ２によって撮像された車両１の周辺の環境情報に基づき、所望のバーチャル画像をモニタ８に適宜表示することができる。
【００８０】
また、本発明においては図４に示したカメラ２のほか、サイドカメラ２ｘ、フロントカメラ等を利用することができ、特定のカメラに限定されるものではない。更に、本発明においては１台のカメラ２のみで３次元環境マップを作成し上記の実施態様を実現できるが、これに限定するものではなく、サイドカメラ２ｘを含む複数台のカメラを用いて３次元環境マップを作成することとしてもよい。
【００８１】
【発明の効果】
本発明は上述のように構成されているので以下に記載の効果を奏する。即ち、請求項１に記載の移動体周辺監視装置においては、移動体の周辺の環境情報を検出し蓄積する環境情報検出手段と、移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段とを備え、これらの検出情報を情報合成手段で合成し、移動体の周辺環境に対する相対的な位置及び姿勢の関係を補正して出力し、この出力情報に基づき、特定視界作成手段により、移動体の特定位置周辺の環境情報から、移動体の外側に突出して開口する開閉手段、及びこの開閉手段による開口部の外側領域を含む周辺環境の特定視界を作成し、表示手段によりその特定の視界を画像に表示するように構成されているので、移動体の停止後、移動体の開口部外側に所定領域、例えば乗員又は貨物の出入に必要な領域を確保した状態であるか否かを適宜表示することができる。しかも、環境情報検出手段に供するカメラ等の配置及び個数に拘わらず、移動体の開口部外側の視界を確保し、適切に画像表示を行なうことができる。
【００８２】
また、請求項２に記載の移動体周辺監視装置においては、障害物検出手段の検出情報及び情報合成手段の出力情報に基づき、移動体の外側に突出して開口する開閉手段と移動体周辺の障害物との位置関係を判定し、この位置関係に応じて少なくとも開閉手段の外側への突出量を規制するように構成されているので、開閉手段と移動体周辺の障害物との位置関係に応じて、確実に、移動体の開口部外側に所定領域を確保することができる。更に、請求項３に記載のように構成すれば、上記に加え、開閉手段を適切に駆動制御することができる。而して、例えば車両の駐車案内装置に適用し、停車または駐車後、乗員又は貨物の出入に必要な領域を確保した状態であるか否かを表示し、及び／又は、開口部外側に所定領域を確保し得るように開閉手段を制御することができる。
【００８３】
前記環境情報検出手段は、請求項４に記載のように構成すれば、一つの撮像手段によっても環境情報を容易に検出することができ、安価な装置を提供することができる。また、前記移動状態検出手段は、請求項５に記載のように構成すれば個別に設ける必要がないので、安価な装置を提供することができる。
【００８４】
あるいは、請求項６に記載のように構成すれば、運転者の指示に応じて容易に所望の視界に切り替えることができるので、一層確実に、移動体の開口部外側に所定領域を確保することができる。
【図面の簡単な説明】
【図１】本発明の移動体周辺監視装置の一実施形態の構成を示すブロック図である。
【図２】本発明の移動体周辺監視装置の他の実施形態の構成を示すブロック図である。
【図３】本発明の移動体周辺監視装置の更に他の実施形態の構成を示すブロック図である。
【図４】本発明の移動体周辺監視装置を駐車案内装置に適用したときの一実施形態として、駐車案内装置を搭載した車両を透視して示す斜視図である。
【図５】本発明の一実施形態に係る駐車案内装置の構成を示すブロック図である。
【図６】本発明の一実施形態において、ドアを閉位置から開放するときの音声出力処理の一例を示すフローチャートである。
【図７】本発明の一実施形態における車両モデルの平面図である。
【図８】本発明の一実施形態において、所定の３次元座標における車両の移動開始位置の座標及び方向を基準に、移動後の位置の座標と方向を検出し追跡する方法の一例を示す平面図である。
【図９】本発明の一実施形態において、３次元環境マップでの車両の位置（座標）及び姿勢（方向）を特定する状態の一例を示す平面図である。
【図１０】本発明の一実施形態において、車両の後方に仮想カメラが配置されたときの表示視界を示す平面図である。
【図１１】本発明の一実施形態において、車両の左前方コーナー及び左後方コーナーに仮想カメラが配置されたときの表示視界を示す平面図である。
【図１２】本発明の一実施形態において、車両の側方に仮想カメラが配置されたときの表示視界を示す平面図である。
【図１３】本発明の一実施形態において、車両の後方上部に仮想カメラが配置されたときの１８０度の表示視界を示す平面図である。
【図１４】本発明の一実施形態において、車両の上空部分に仮想カメラが配置されたときの３６０度の表示視界を示す平面図である。
【図１５】本発明の一実施形態において、車両が壁面近傍に駐車した状態を示す平面図である。
【図１６】本発明の一実施形態において、駐車して後席左側のドアを開けたときに柱に接触する状態の車両及び障害物が表示された画像の一例を示す平面図である。
【図１７】本発明の一実施形態において、駐車して後席左側のドアを開けたときに柱に接触する状態の車両及び障害物が表示された画像の他の例を示す平面図である。
【図１８】本発明の一実施形態において、タッチパネルスイッチが表示されたモニタの表示画面（Ａ）から切替画面（Ｂ）への変化の一例を示す正面図である。
【図１９】本発明の一実施形態において、後方のリヤウインドパネルを開閉する開閉駆動装置を備えた車両の一部の側面図である。
【図２０】本発明の一実施形態における三次元再構成に関し、２台のカメラで空間中の物体の特徴点を撮影するときの幾何学的な関係を示す説明図である。
【図２１】本発明の一実施形態における三次元再構成に関し、特徴点の追跡の一例を示す説明図である。
【図２２】本発明の一実施形態における三次元再構成に関し、トラッキング状況の一例を示す説明図である。
【符号の説明】
ＳＲ環境情報検出手段，ＣＤ撮像手段，ＤＳ移動状態検出手段，
ＲＣ３次元座標推定手段，ＭＢ移動体情報検出手段，
ＣＢ情報合成手段，ＳＶ特定視界作成手段，ＶＤ表示手段，
１車両，２カメラ，３ステアリングホイール，４操舵角センサ，
５シフトレバー，６シフトレバースイッチ，７車輪速度センサ，
８モニタ，９スピーカ，１０電子制御装置，
１６ドアハンドルセンサ，１７着座センサ，１９突出規制装置，
２０開閉駆動装置

Claims

移動体の周辺の環境情報を検出し蓄積する環境情報検出手段と、前記移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段と、該移動体情報検出手段の検出情報と前記環境情報検出手段の検出情報を合成し、前記移動体の前記周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する情報合成手段と、該情報合成手段の出力情報に基づき、前記移動体の特定位置周辺の環境情報から、前記移動体の外側に突出して開口する開閉手段、及び該開閉手段による開口部の外側領域を含む周辺環境の特定視界を作成する特定視界作成手段と、該特定視界作成手段が作成した特定の視界を画像に表示する表示手段とを備えたことを特徴とする移動体周辺監視装置。
移動体の周辺の環境情報を検出し蓄積する環境情報検出手段と、前記移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段と、該移動体情報検出手段の検出情報と前記環境情報検出手段の検出情報を合成し、前記移動体の前記周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する情報合成手段と、前記環境情報検出手段の検出情報に基づき前記移動体周辺の障害物を検出する障害物検出手段、該障害物検出手段の検出情報及び前記情報合成手段の出力情報に基づき、前記移動体の外側に突出して開口する開閉手段と前記移動体周辺の障害物との位置関係を判定し、該位置関係に応じて少なくとも前記開閉手段の外側への突出量を規制する制御手段とを備えたことを特徴とする移動体周辺監視装置。
前記制御手段は、前記開閉手段を少なくとも外側に駆動すると共に、前記開閉手段と前記移動体周辺の障害物との位置関係に応じて前記開閉手段の外側への駆動を停止するように駆動制御することを特徴とする請求項２記載の移動体周辺監視装置。
前記環境情報検出手段は、前記移動体に搭載し前記移動体の周辺を撮像し画像情報を出力する少なくとも一つの撮像手段と、前記移動体が第１の状態から第２の状態に移動したときに少なくとも前記第１の状態及び第２の状態で前記撮像手段によって撮像した二つの画像に基づき、前記第１の状態で撮像した画像から特徴点の座標を検出すると共に、前記第２の状態で撮像した画像での前記特徴点に対応する座標を検出する特徴点追跡手段と、少なくとも前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢を検出する移動状態検出手段と、該移動状態検出手段で検出した前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢、前記第１の状態で撮像した画像の前記特徴点の座標、及び前記第２の状態で撮像した画像の前記特徴点に対応する座標に基づき前記特徴点の３次元座標を推定する３次元座標推定手段とを備えたことを特徴とする請求項１、２又は３記載の移動体周辺監視装置。
前記環境情報検出手段を構成する前記移動状態検出手段が、前記移動体情報検出手段の検出情報から、前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢を検出するように構成したことを特徴とする請求項４記載の移動体周辺監視装置。
前記移動体の運転者による前記特定の視界に係る指示を入力する指示入力手段を備え、前記特定視界作成手段が、前記指示入力手段の入力結果に応じて前記特定の視界を前記運転者の指示に基づく視界に切り替える切替手段を具備したことを特徴とする請求項１、４又は５記載の移動体周辺監視装置。