JP2004114976A

JP2004114976A - 移動体周辺監視装置

Info

Publication number: JP2004114976A
Application number: JP2002284673A
Authority: JP
Inventors: Toshiaki Kakinami; 柿並　俊明; Shuji Yamamoto; 山本　修司
Original assignee: Aisin Seiki Co Ltd
Current assignee: Aisin Corp
Priority date: 2002-09-30
Filing date: 2002-09-30
Publication date: 2004-04-15
Anticipated expiration: 2022-09-30
Also published as: EP1405776A1; JP4310987B2

Abstract

【課題】移動体における所望の位置で確保する視界に対し、不測の物体の進入を回避し、障害となる物体を確実に画像表示する。
【解決手段】移動体の周辺の物体の大きさ、位置等の環境情報を検出し蓄積する環境情報検出手段ＳＲ１及びＳＲ２と、移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段ＭＢを備え、これらの検出情報を情報合成手段ＣＢ１及びＣＢ２で合成し、移動体の周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する。これらの出力情報に基づき、特定視界作成手段ＳＶ１及びＳＶ２により、移動体の特定位置周辺の環境情報から第１及び第２の特定視界を作成し、表示手段ＶＤにより画像に表示する。更に、表示調整手段ＶＡにより、第１の特定視界の画像に対して重合しない第２の特定視界の画像の少なくとも一部を、第１の表示手段の画像に重合して表示するように調整する。
【選択図】　　　　図１

Description

【０００１】
【発明の属する技術分野】
本発明は、移動体周辺を監視する移動体周辺監視装置に関し、特に、移動体周辺の環境を監視し、移動体における所望の位置での視界を画像表示する移動体周辺監視装置に係る。例えば、車両の周辺を監視し駐車時に障害となる物体等を適宜表示する装置に好適な移動体周辺監視装置に係る。
【０００２】
【従来の技術】
【特許文献１】
従来から、車両後方の死角を最小化するために、例えば車両後方にカメラを装着し、その画像を運転席に設置したモニタに表示する装置が種々提案されており、既に市販されている。例えば、特開昭６２−２７８４７７号公報には、距離センサおよびハンドル角センサからの出力信号をもとに自動車の走行軌跡を演算するコンピュータを備え、車両周辺の障害物の位置および予想走行軌跡上にある車両と障害物とが予め設定された距離以内にあるときに警報器でアラーム音を発するようにした自動車の車庫入れ支援システムが提案されている。
【０００３】
【特許文献２】
また、特開平１−１４１１３７号公報には、車両の前部両側に障害物検出センサを設け、該検出センサにより車両の前部両側の障害物への接近を検出し、該検出情報をモニタ画面に後方視界と同時に表示するようにした車両の後方視界表示装置が提案されている。これにより、運転者はモニタ画面から車両の前方へ視線を移さなくとも車両の前部両側の障害物への接触を回避できる旨記載されている。
【０００４】
【特許文献３】
更に、特開２００１−１８７５５３号公報には、車両の移動中に、単一のカメラによって、異なる第１および第２の地点での周辺画像を、時系列的に視差付けされた第１および第２の画像として撮像する撮像装置、それぞれの画像に撮像された立体物を検出し特定する立体物特定部と、第１の地点から第２の地点まで車両の移動データを算出する車両位置算出部と、立体物の第１および第２の画像上での位置と、車両の移動データとを用いて、車両から立体物までの距離を算出する立体物距離算出部と、撮像装置によって撮像された画像および立体物距離算出部で算出されたデータに基づいて、運転者に伝達するための第３の画像を生成するようにした駐車支援装置が提案されている。これにより、２つの画像に撮像された立体物に対して三角測量の原理で正確に上記立体物までの距離を算出することができる旨記載されている。
【０００５】
【特許文献４】
そして、特開２００２−０５２９９９号公報には、自車両の停止位置マーカと横方向距離計測マーカをモニタ画面に重畳描画し、測距センサを設けることなく、カメラ画像と汎用の舵角センサを利用し、自車両と基準物との相対位置を検出し得る相対位置検出装置、及びこれを備えた駐車補助装置が提案されている。ここで、自車両の停止位置マーカは、自車両と基準物とが所定方位を有する位置関係で自車両を停止させるためのマーカと定義され、横方向距離計測マーカは、モニタ画面上の移動量に応じて自車両と基準物との横方向の距離を計測するマーカと定義されている。
【０００６】
【非特許文献１】
一方、画像処理技術の分野においては、２台のカメラから３次元形状を復元する技術が知られている。例えば、「情報処理」誌のＶｏｌ．３７　Ｎｏ．７　（１９９６年７月号）に「２．ステレオの仕掛けを解き明かす」と題する出口光一郎氏の論文が掲載されており、ステレオによる立体形状計測について解説されている。同誌には、その前提として、２つのカメラそれぞれの結像の特性（レンズの焦点距離、画像中心、画素サイズなど）、２つのカメラの位置、姿勢、そして２つの画像での対応が分かれば、その対応する点の空間での位置が決定できる旨記載されている。
【０００７】
【非特許文献２】
同様に、「空間データの数理」と題する書籍　（金谷健一著。１９９５年３月１０日初版第１刷。朝倉書店発行）の１６１頁及び１６２頁に「ステレオ視による３次元復元」と題し、ステレオ視（または立体視）とは、２台のカメラから撮った画像間の対応関係から三角測量の原理で物体の３次元形状を計算するものであり、ロボットの制御のために画像から３次元情報を抽出する方法として最も基本的な手段の一つであるとして、原理が解説されている。
【０００８】
【非特許文献３】
更に、上記「情報処理」誌の連載であるＶｏｌ．３７　Ｎｏ．８　（１９９６年８月号）の「３．動画像の扱い」と題する同氏の論文には、上記のステレオと同じ原理に基づき、動画像から対象の３次元形状が復元できると記載されている。特に、動画像として画像の系列が与えられていると、対象の運動の追跡が可能になり、２枚の画像だけが与えられた場合より対応点の抽出が容易である旨説明されている。
【０００９】
【発明が解決しようとする課題】
前掲の特許文献１乃至４に記載の装置によれば、何れも、車両後方の視界をカメラで撮影しモニタに表示することができる。従って、モニタの画像情報を参照して後方の障害物を確認しながら後退し、あるいは駐車することができる。しかし、これらの装置では車両のコーナー付近はカメラの視界からは外れており、その付近はモニタに表示されない。このため、例えば車両を旋回しながら後退する場合において、モニタの画像だけでは、車両の旋回内側のコーナー部分が他の車両や壁等の障害物に対し十分な余裕があるか否かを確認することはできない。
【００１０】
これに対処するためには、例えば、自車両のコーナー部分もカメラの視界に入るように、適当な視野角を有するカメラを車体から突出するように配置すればよい。しかし、車種によっては、意匠面で商品性が損なわれることになるので、全ての車種に適用することはできない。また、車両のコーナー付近にカメラを装着することも考えられるが、この付近には灯火装置が装着されているので困難である。例えば、灯火装置の中にカメラを組み込むためには、カメラの耐熱性の確保や、灯火装置の表面カバーをカメラ用の光学材料で製作して画像品質が低下しないようにするといった配慮が必要となり、技術的、コスト的な課題が残る。仮に、灯火装置内にカメラを装着することができたとしても、カメラの装着位置とバンパーの突出部との位置関係によっては、バンパー直下の至近距離の路面をカメラの視界に収めることが困難となる。
【００１１】
而して、車両の意匠を損なうことなく、カメラの視界から外れた車両のコーナー付近も画像表示し得る装置が要請されているが、カメラの配置のみによって上記の問題を解決することは至難である。一方、前述の非特許文献１乃至３に記載の画像処理技術を利用すれば、例えば１個のカメラによっても障害物の３次元形状を復元し得るように構成することができる。従って、このような画像処理技術を、車両等の移動体の周辺を監視する装置に適切に組み入れることができれば、一旦カメラの視界に入った障害物等の物体を含む画像をメモリに格納しておき、自車両の動きに応じて画像を取り出すことができる。しかし、上記カメラの視界に入らなかった物体については取り出しようがない。このため、カメラの視界外であった障害物が突然視界内に侵入してくることがあり、即座に対応することが困難であった。
【００１２】
尚、特許文献３においては、画像に撮像された立体物を検出し特定する立体物特定部と、車両の移動データを算出する車両位置算出部とを備えており、車両がａ地点にある時に撮像された画像Ａを、車両の移動データを用いてｂ地点から撮像されたように画像変換し、画像Ｃを算出すると説明されている。然し乍ら、これは、２つの画像のずれと移動データに基づき幾何学的に車両から立体物までの距離を算出することとしているものであり、上記の問題の解決には寄与しない。
【００１３】
そこで、本発明は、移動体周辺の物体の大きさ、位置等の環境情報を検出する検出手段によって、移動体における所望の位置で確保する視界に対し、不測の物体の進入を回避し、障害となる物体を確実に画像表示し得る移動体周辺監視装置を提供することを課題とする。
【００１４】
【課題を解決するための手段】
上記課題を解決するため、本発明の移動体周辺監視装置は、請求項１に記載のように、移動体の周辺の環境情報を検出し蓄積する第１の環境情報検出手段と、前記移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段と、該移動体情報検出手段の検出情報と前記第１の環境情報検出手段の検出情報を合成し、前記移動体の前記周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する第１の情報合成手段と、該第１の情報合成手段の出力情報に基づき、前記移動体の第１の特定位置周辺の環境情報から前記移動体の第１の特定視界を作成する第１の特定視界作成手段と、該第１の特定視界作成手段が作成した第１の特定視界を画像に表示する第１の表示手段と、前記移動体の周辺の環境情報を検出し蓄積する第２の環境情報検出手段と、前記移動体情報検出手段の検出情報と前記第２の環境情報検出手段の検出情報を合成し、前記移動体の前記周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する第２の情報合成手段と、該第２の情報合成手段の出力情報に基づき、前記移動体の第２の特定位置周辺の環境情報から前記移動体の第２の特定視界を作成する第２の特定視界作成手段と、該第２の特定視界作成手段が作成した第２の特定視界を画像に表示する第２の表示手段と、前記第１の表示手段が表示する第１の特定視界の画像に対して重合しない前記第２の表示手段が表示する第２の特定視界の画像の少なくとも一部を、前記第１の表示手段の画像に重合して表示するように調整する表示調整手段とを備えることとしたものである。尚、上記の環境情報とは、移動体周辺の物体の大きさ、位置等を含み、移動体には、車両のほか、移動ロボット等を含む。
【００１５】
前記第１及び第２の環境情報検出手段は、夫々、請求項２に記載のように、前記移動体に搭載し前記移動体の周辺を撮像し画像情報を出力する撮像手段と、前記移動体が第１の状態から第２の状態に移動したときに少なくとも前記第１の状態及び第２の状態で前記撮像手段によって撮像した二つの画像に基づき、前記第１の状態で撮像した画像から特徴点の座標を検出すると共に、前記第２の状態で撮像した画像での前記特徴点に対応する座標を検出する特徴点追跡手段と、少なくとも前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢を検出する移動状態検出手段と、該移動状態検出手段で検出した前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢、前記第１の状態で撮像した画像の前記特徴点の座標、及び前記第２の状態で撮像した画像の前記特徴点に対応する座標に基づき前記特徴点の３次元座標を推定する３次元座標推定手段とを備えたものとするとよい。
【００１６】
上記請求項２記載の移動体周辺監視装置において、請求項３に記載のように、前記移動状態検出手段は、夫々、前記移動体情報検出手段の検出情報から、前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢を検出するように構成することができる。
【００１７】
【発明の実施の形態】
以下、本発明の移動体周辺監視装置の実施形態について図面を参照して説明する。図１は本発明の一実施形態の全体構成を示すもので、例えば図２に示す車両１に搭載され、駐車案内装置に供される。図１において、本実施形態の移動体周辺監視装置は、移動体（図示せず）の周辺の物体の大きさ、位置等の環境情報を検出し蓄積する第１及び第２の環境情報検出手段ＳＲ１及びＳＲ２と、移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段ＭＢを備えている。この移動体情報検出手段ＭＢは、移動体が車両である場合には、例えば車両の走行速度、操舵状態、旋回状態等の車両運動を検出するセンサによって構成することができ、少なくとも一つのセンサ出力に基づき、車両の位置を表わすファクタとして座標、及び車両の姿勢を表わすファクタとして角度を検出することができるが、これについては後述する。
【００１８】
更に、移動体情報検出手段ＭＢの検出情報と第１及び第２の環境情報検出手段ＳＲ１及びＳＲ２の検出情報を合成し、移動体の周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する第１及び第２の情報合成手段ＣＢ１及びＣＢ２を備えている。そして、第１及び第２の情報合成手段ＣＢ１及びＣＢ２の出力情報に基づき、移動体の特定位置周辺の環境情報から移動体の第１及び第２の特定視界を作成する第１及び第２の特定視界作成手段ＳＶ１及びＳＶ２を備え、第１及び第２の特定視界作成手段ＳＶ１及びＳＶ２が作成した第１及び第２の特定視界を画像に表示する第１及び第２の表示手段ＶＤ１及びＶＤ２を備えている。更に、第１の表示手段ＶＤ１が表示する第１の特定視界の画像に対して重合しない第２の表示手段ＶＤ２が表示する第２の特定視界の画像の少なくとも一部を、第１の表示手段ＶＤ１の画像に重合して表示するように調整する表示調整手段ＶＡが設けられている。尚、表示手段ＶＤ１及びＶＤ２としては、移動体に搭載するモニタ（図示せず）があり、両手段に共用される。
【００１９】
本実施形態の第１及び第２の環境情報検出手段ＳＲ１及びＳＲ２は、図１に示すように、移動体に搭載し移動体の周辺を撮像し画像情報を出力する第１及び第２の撮像手段ＣＤ１及びＣＤ２と、移動体が第１の状態から第２の状態に移動したときに少なくとも第１の状態及び第２の状態で第１及び第２の撮像手段ＣＤ１及びＣＤ２によって撮像した夫々二つの画像に基づき、第１の状態で撮像した画像から特徴点の座標を検出すると共に、第２の状態で撮像した画像での前記特徴点に対応する座標を検出する特徴点追跡手段ＰＦと、少なくとも第１の状態及び第２の状態における移動体の位置及び姿勢を検出する移動状態検出手段ＤＳと、この移動状態検出手段ＤＳで検出した第１の状態及び第２の状態における移動体の位置及び姿勢、第１の状態で撮像した画像の特徴点の座標、及び第２の状態で撮像した画像の前記特徴点に対応する座標に基づき前記特徴点の３次元座標を推定する３次元座標推定手段ＲＣを備えている。上記の移動状態検出手段ＤＳは、移動体が車両である場合には、例えば車両の走行速度、操舵状態、旋回状態等の車両運動を検出するセンサによって構成することができるが、移動体情報検出手段ＭＢの検出情報を用いることとしてもよい。尚、撮像手段ＣＤ１及びＣＤ２としては、後述するｃｃｄカメラ等がある。
【００２０】
上記の移動体が車両である場合には、移動体周辺監視装置は図２及び図３に示す駐車案内装置に供することができる。図２は本実施形態の駐車案内装置を搭載した車両１の全体構成を示すもので、車両１の後部には、その周辺を撮像し画像を取得するバックカメラ２（例えばｃｃｄカメラで、第１の撮像手段ＣＤ１を構成する）が装着されており、画像情報が電子制御装置１０に供給される。また、例えば車両１のドアミラーの端部に、サイドカメラ２ｘ（これもｃｃｄカメラで、第２の撮像手段ＣＤ２を構成する）が組み込まれており、この画像情報も電子制御装置１０に供給される。
【００２１】
電子制御装置１０は、図２に示すように車両１に搭載された筐体中に収容され、図１に示す移動体情報検出手段ＭＢ、第１及び第２の環境情報検出手段ＳＲ１及びＳＲ２における夫々の移動状態検出手段ＤＳ及び３次元座標推定手段ＲＣ、第１及び第２の情報合成手段ＣＢ１及びＣＢ２、第１及び第２の特定視界作成手段ＳＶ１及びＳＶ２、並びに表示調整手段ＶＡが構成されている。また、ステアリングホイール３の操舵角を検出する操舵角センサ４が車両１に装着されると共に、シフトレバー５がリバース位置とされたときにオンとなるシフトレバースイッチ６が装着されており、これらの検出舵角及びオン信号が電子制御装置１０に供給される。
【００２２】
更に、本実施形態では、各車輪の回転速度を検出する車輪速度センサ（代表して７で示す）が装着されており、検出車輪速度が電子制御装置１０に供給される。これらの車輪速度センサ７の検出結果に基づき移動体の少なくとも２位置間の移動距離を測定することができる。そして、運転者から視認可能な車両１内の所定位置にモニタ８が配置されており、電子制御装置１０の出力信号に応じてモニタ８に駐車案内用の視覚情報が表示される。即ち、本実施形態においては、モニタ８が、図１における第１及び第２の表示手段ＶＤ１及びＶＤ２として機能している。更に、車両１内の所定位置にスピーカ９が配置されており、電子制御装置１０の出力信号に応じてスピーカ９から駐車案内用の音声情報が出力される。
【００２３】
図３は、上記の駐車案内装置のシステム構成図であり、電子制御装置１０の構成を示すものである。上記の操舵角センサ４、シフトレバースイッチ６及び車輪速度センサ７は、図示しない入力インターフェースを介して電子制御装置１０内のＣＰＵ１１に接続されており、図示しない出力インターフェースを介して、モニタ８が電子制御装置１０内のスーパーインポーズ部１４に接続され、スピーカ９が音声出力部１５を介してＣＰＵ１１に接続されている。バックカメラ２及びサイドカメラ２ｘは夫々、図示しない入力インターフェースを介して、画像認識部１２、グラフィックス描画部１３及びスーパーインポーズ部１４に接続されている。尚、ＣＰＵ１１、画像認識部１２、グラフィックス描画部１３、スーパーインポーズ部１４及び音声出力部１５は相互にバスバーによって接続されている。尚、メモリ等は示していないが、各部の情報は所定期間蓄積され、適宜読み出し可能に構成されている。
【００２４】
本実施形態においては、車両１周辺の環境を表示するバックカメラ２及びサイドカメラ２ｘの画像信号が画像認識部１２を介してＣＰＵ１１に供給されると共に、車輪速度センサ７等の出力信号がＣＰＵ１１に供給され、ＣＰＵ１１にて演算処理される。このＣＰＵ１１の演算結果に基づき、グラフィックス描画部１３において、バックカメラ２（及び、必要に応じてサイドカメラ２ｘ）の画像から抽出される同期信号に応じて３次元のグラフィックスが描画される。また、ＣＰＵ１１においては、駐車案内のための演算処理が行われ、その演算結果に基づくグラフィックスがグラフィックス描画部１３にて描画される。
【００２５】
そして、グラフィックス描画部１３にて描画されるグラフィックスとバックカメラ２（又はサイドカメラ２ｘ）の画像とが適宜スーパーインポーズ部１４にて重畳され、モニタ８の画面に描画される。尚、バックカメラ２とサイドカメラ２ｘからの画像の表示は表示調整手段ＶＡによって調整されるが、この調整例については図１６乃至図１８を参照して後述する。而して、図１の各３次元座標推定手段ＲＣ、情報合成手段ＣＢ１及びＣＢ２、特定視界作成手段ＳＶ１及びＳＶ２並びに表示調整手段ＶＡはＣＰＵ１１、画像認識部１２及びグラフィックス描画部１３によって構成されている。
【００２６】
上記の３次元座標推定手段ＲＣにおいては、特徴点追跡手段ＰＦにて、車両１が第１の状態から第２の状態に移動したときにバックカメラ２（又はサイドカメラ２ｘ）によって第１の状態で撮像された画像から特徴点の座標が検出されると共に、第２の状態で撮像された画像での前記特徴点に対応する座標が検出され、移動状態検出手段ＤＳでは、第１の状態及び第２の状態における車両１の位置及び姿勢が検出される。そして、第１の状態及び第２の状態における車両１の位置及び姿勢、第１の状態で撮像された画像の特徴点の座標、及び第２の状態で撮像された画像の前記特徴点に対応する座標に基づき、３次元再構成が行われ、前記特徴点の３次元座標が求められる。
【００２７】
上記の３次元再構成は、例えば前述の非特許文献２に記載のように、画像を用いて三角測量の原理に基づいて行われるものであり、図１９乃至図２１を参照して以下に説明する。図１９において、少なくとも２つのカメラ位置（左右のｏ及びｏ’で示す）から空間中の同一の点Ｍを観測しているとき、各カメラの画像で観測された点ｍ_１，ｍ_２とそれぞれのカメラの光学中心とを結んだ空気中の光線を定義でき、各光線の交点は空間中の点の位置Ｍを表す。ここで、対象視界（Ｓｃｅｎｅ）中の３次元の点Ｍは各画像間で同定される必要がある。また、単眼カメラで３次元の再構成を行う場合には、画像中から対象物体の特徴点（Ｐｏｉｎｔ　ｏｆ　Ｉｎｔｅｒｅｓｔ）の抽出とその追跡が必要である。更に、カメラの内部パラメータ（スケールファクタ、光軸位置座標等）と外部パラメータ（カメラの配置）は既知である（予め校正されている）ことが必要であり、これらを前提に３次元再構成が行われる。
【００２８】
次に、対象視界の動きからの３次元構造の復元に関し、時系列画像のそれぞれがどの位置及び姿勢で撮影されたものであるかは、デッドレコニングシステムにより対応が取られて校正されていれば、ステレオ対応という手段を使うことができる。但し、３次元視界の中の同一の点が含まれるように撮影された時系列画像において、その画像列の中から同一の点を見つけることが必要である。即ち、これらの同一の点の対応を取ることによって、対象視界の３次元構造を復元することができる。
【００２９】
対象視界からの特徴点の検出に関しては、画像の中から、対象視界の特徴となるべきいくつかの特徴点を検出することになる。この場合の特徴点とは、画像のシーケンスに沿って追跡可能な適切な特徴を有する対象である。このような特徴点の検出には下記［数１］式に示す行列Ａによる自動相関（ａｕｔｏ−ｃｏｒｒｅｌａｔｉｏｎ）を用いることができる。行列Ａは画像中の点ｐ（ｘ，ｙ）を含むウインドウ領域Ｗ中に含まれる画像信号の導関数を平均化するように機能するので、これを用いて最適な特徴点を得る。即ち、追跡に適する特徴点は、一般にはコーナーや直線の交点（例えば、図２０の左側の図におけるコーナーの黒点）であり、この行列はこれらの特徴点を検出するものである。尚、下記［数１］式において、Ｉ（ｘ，ｙ）は画像の関数、Ｉｘはｘ軸に沿った画像の勾配、Ｉｙはｙ軸に沿った画像の勾配、（ｘ_ｋ _，ｙ_ｋ）　は（ｘ，ｙ）を中心としたウインドウＷ中の画像点を夫々表わす。
【００３０】
【数１】

【００３１】
次に、特徴点の追跡（Ｆｅａｔｕｒｅ　Ｔｒａｃｋｉｎｇ）に関し、ｕ＝［ｘ，ｙ］^Ｔが画像点の座標であるような画像列Ｉ（ｕ，ｔ）を考慮する。サンプル周期が十分短ければ微小時刻後の画像ではその輝度値は変化しないと仮定し、下記［数２］式が成り立つ。
【００３２】
【数２】

【００３３】
上記の［数２］式において、δ（ｕ）はモーションフィールド（３次元の動きベクトルの画像への投影）を表す。サンプル周期が十分に短いので、下記［数３］式に示すように、モーションは並進（ｔｒａｎｓｌａｔｉｏｎ）のみで近似することができる。尚、［数３］式のｄは変移ベクトル（ｄｉｓｐｌａｃｅｍｅｎｔ　ｖｅｃｔｏｒ）を表わす。
【００３４】
【数３】

【００３５】
選択された各特徴点に対し、また、画像列での追跡された各点のペアに対して、その変移ベクトルｄを計算するため、トラッカー（Ｔｒａｃｋｅｒ）が用いられる。実際には、ノイズの影響により画像のモーションモデルは完全には表せないので［数２］式は十分に機能しない。従って、下記［数４］式に示すように、差の自乗和（Ｓｕｍ　ｏｆ　Ｓｑｕａｒｅ　Ｄｉｆｆｅｒｅｎｃｅ）によって変移ベクトルｄを計算する。そして、この［数４］式の残渣を最小にする変移ベクトルｄを求め、その方向に特徴点を追跡する（図２０にこの状態を示す）。尚、下記［数４］式のＷは、点ｕを中心とする特徴点検出のためのウインドウを表わす。
【００３６】
【数４】

【００３７】
図２１はトラッキングの一例を説明するもので、トラック（Ｔｒａｃｋｓ）とは画像列中で同一の対象を示す点の集合であり、各トラックの画像点は夫々の３次元点の投影像である。トラックは画像列の中で見失うことは許されないが、追跡する点が画像から外れたり、隠れたり、ノイズ等によって検出できない場合には、トラッキングを停止せざるを得ない。ここでは、最初の画面において検出された特徴点の集合から開始し、前の画像（図２１のＩｍｇ　Ａ）での特徴点は次の画像（図２１のＩｍｇ　Ｂ）で追跡される。画像（Ｉｍｇ　Ａ）のうちの一部のトラックが停止すると、画像（Ｉｍｇ　Ｂ）において新しい特徴点を探すことになり、この新しい各特徴点はその後のトラッキングの起点となる。
【００３８】
そして、３次元構造の再構成に関しては、３次元空間中の位置Ｍの点の距離がＺであるとき、その画像上の投影位置をｍとすると下記［数５］式の関係が成り立つ。下記の［数５］式において、距離ｆは焦点距離と呼ばれるが、ここではｆ＝１なる単位長さを用いて簡単化している。このようにモデル化すると、２台のカメラで空間中の（物体の頂点等の）特徴点を撮影する幾何学的な関係は図１９に示すようになる。
【００３９】
【数５】

【００４０】
図１９において、第２のカメラ座標系は第１のカメラ座標系をその原点の周りにＲだけ回転してからＴだけ平行移動して得られる位置にある。尚、このベクトルＴは基線ベクトルと呼ばれる。パラメータ｛Ｔ，Ｒ｝は２つのカメラ視点の相対的な位置姿勢関係を表しているので、１台のカメラを移動しながら撮影することとした場合は、デッドレコニングシステムにより計測することができる。
【００４１】
図１９に示すように、ある３次元空間中の位置Ｍのそれぞれの画像面上の投影像がｍ_１，ｍ_２にあるとする。この状態で、第２のカメラ座標系の原点０’から見た特徴点の方向は第２のカメラ座標系に関してベクトルｍ_２で表されるが、第２のカメラ座標系は第１のカメラ座標系に対してＲだけ回転しているから、第１のカメラ座標系に関してはＲｍ_２である。従って、図１９より下記［数６］式の関係が成立する。
【００４２】
【数６】

【００４３】
上記［数６］式から、距離Ｚ，Ｚ’が下記［数７］式のように計算される。
【００４４】
【数７】

【００４５】
このようにして、２つの視点から画像面上の投影像の座標ｍ_１，ｍ_２から３次元空間上の距離Ｚ，Ｚ’を復元することができる。そして、前述のトラックは対象視界中の特徴点群であるから、全てのトラックに関して上記［数７］式を計算すれば、３次元的な構造を復元することができる。
【００４６】
図１に戻り、車両１の移動状態を検出する移動状態検出手段ＤＳとしては、前述のように車両の走行速度、操舵状態、旋回状態等の車両運動を検出するセンサによってデッドレコニングシステムを構成することができるが、本実施形態においては、車輪速度センサ７によって構成され、これは後述するように移動体情報検出手段ＭＢとしても機能するように構成されている。このようにして特定される第１の状態及び第２の状態における車両１の位置及び姿勢と、夫々の状態でバックカメラ２（又はサイドカメラ２ｘ）によって撮像された画像における特徴点の抽出と追跡によって特定される画像間の対応点に基づき、上記のように処理され、撮像領域内に存在する物体が特定され、撮像領域の３次元座標が推定される。
【００４７】
本実施形態においては、車輪速度センサ７によって検出された車輪速度信号に基づき、以下のように、車両１の状態、即ち車両１の位置及び方向（鉛直軸周りの角度）を検出するようにデッドレコニングシステムが構成されており、これによって図１に示す移動体情報検出手段ＭＢが構成されている。以下、本実施形態における車両１の状態を検出する方法について説明する。図４は、本実施形態における車両１のモデルを表したものであり、車両１の位置及び方向は、（ｘ，ｙ，θ）の３つの変数により定義される。また、車両１の速度（車速）をＶ、車両１の角速度をωとすると、車両の状態、車速及び角速度の間に次の等式が成立する。
即ち、ｄｘ／ｄｔ＝Ｖ・ｃｏｓθ、ｄｙ／ｄｔ＝Ｖ・ｓｉｎθ、及びｄθ／ｄｔ＝ωとなる。
【００４８】
上記の車速Ｖ及び角速度ωは直接計測することはできないが、車輪速度センサ７によって検出された左右後輪の車輪速度を用いて、次のように求めることができる。即ち、Ｖ＝（Ｖｒｒ＋Ｖｒｌ）／２、及びω＝（Ｖｒｒ−Ｖｒｌ）／Ｌｔとなる。ここで、Ｖｒｒは右後輪の車輪速度、Ｖｒｌは左後輪の車輪速度で、Ｌｔは車両１のトレッド長を表す。
【００４９】
上記の式を用いると、時刻ｔにおける車両の状態（ｘ，ｙ，θ）は、ｔ＝０における初期値（ｘ０，ｙ０，θ０）が決まっておれば次のように表すことができる。ｘ＝ｘ０＋∫（ｄｘ／ｄｔ）ｄｔ　ここで、∫はｔ＝０→ｔ＝ｔ。
ｙ＝ｙ０＋∫（ｄｙ／ｄｔ）ｄｔ　ここで、∫はｔ＝０→ｔ＝ｔ。
θ＝θ０＋∫（ｄθ／ｄｔ）ｄｔ　ここで、∫はｔ＝０→ｔ＝ｔ。
即ち、下記［数８］式のようになる。
【００５０】
【数８】

【００５１】
図５は、所定の３次元座標における車両１の移動開始位置の座標及び方向を基準に、移動後の位置の座標と方向を検出し追跡する方法の一例を示す。即ち、図５は（Ｘｏ，Ｙｏ，Ｚｏ）の３次元座標において、Ｘｏ−Ｙｏ平面（Ｚｏ＝０）上で車両が旋回運動する状態を示し、位置（座標（ｘ１，ｙ１））及び方向（角度θ１）で決まる車両１の状態から位置（座標（ｘ２，ｙ２））及び方向（角度θ２）で決まる車両１の状態に移動したときの位置関係を特定することができる。本実施形態では、左右後輪の車輪速度センサ７の検出車輪速度に基づき、車両１の位置（座標）及び方向（角度）が検出されるが、操舵角センサ４、ヨーレイトセンサ（図示せず）、距離センサ（図示せず）等を用いることとしてもよく、これらのセンサを組み合わせて用いることとしてもよい。図５は単純円旋回の例であるが、複数円弧や直線が組み合わされた軌跡に対し、上記のように検出された車両１の座標と方向に基づき、同様に追跡することができる。
【００５２】
一方、図１に記載の３次元座標推定手段ＲＣにおいて推定された３次元環境が、図６に破線の格子で示すように、（Ｘ，Ｙ，Ｚ）の３次元座標を基準とする３次元環境マップとしてメモリに格納されている。尚、図６に破線の格子で示した３次元環境マップの中には、バックカメラ２及びサイドカメラ２ｘで撮像された他の車両、障害物、建物等も存在するが、これらは図示を省略している（以下、図７乃至図１１においても、破線の格子は３次元環境マップを表す）。この３次元環境マップに対し、図５の３次元座標の対応が行われる。即ち、情報合成手段ＣＢ１（又はＣＢ２）において、車両１の周辺環境に対する相対的な位置及び姿勢の関係が補正される。具体的には、図６に破線の格子で示す３次元環境マップの中に、図５に示す車両１が配置され、３次元環境マップでの車両１の位置（座標）、及び姿勢、即ち方向（角度）が特定される。
【００５３】
そして、前述の特定視界作成手段ＳＶ１（又はＳＶ２）によって、周辺状況を含む３次元環境内における車両１の任意の位置で、任意の方向に向けてカメラが装着されたと仮定した場合の特定の視界が作成され、この仮想カメラから見た視界の画像が、表示手段ＶＤ１（又はＶＤ２）たるモニタ８に表示される。この場合において、例えば図７に示すように、車両１の後方に仮想カメラ２ａが配置されているとしたときに、移動後の車両１から見た３次元環境マップ（図７の破線の格子）において、どの領域が仮想カメラ２ａの視界に入っているかが分かる。換言すれば、図７にＳａで示す領域が、仮想カメラ２ａの視界に入り、モニタ８にバーチャル画像として表示し得る領域（以下、表示視界という）である。
【００５４】
図８は、車両１の左前方コーナーに仮想カメラ２ｂが配置された場合、及び左後方コーナーに仮想カメラ２ｃが配置された場合に、移動後の車両１からみた３次元環境マップにおいて、これらの仮想カメラ２ｂ及び２ｃの視界に入る領域（表示視界Ｓｂ及びＳｃ）を示す。同様に、図９は、仮想カメラ２ｄが車両１の側方に配置された場合に、移動後の車両１からみた３次元環境マップにおいて、仮想カメラ２ｄの視界に入る領域（表示視界Ｓｄ）を示す。
【００５５】
図７乃至図９の例では、実際のバックカメラ２又はサイドカメラ２ｘの画角と類似する視界が設定されているが、図１０の仮想カメラ２ｅように、１８０度の表示視界Ｓｅを設定することもできる。これにより、例えば実際のバックカメラ２では視界に入らない車両１の両コーナー部分をも視界に入れたバーチャル画像を表示するように構成することができる。更に、図１１に示すように車両１の上空部分に仮想カメラ２ｆを配置して３６０度の表示視界Ｓｆを設定し、この視界のバーチャル画像を表示するように構成することもできる。
【００５６】
上記のように形成されるバーチャル画像は、車両１の移動、即ち仮想カメラ２ａ等の移動に伴う視界の移動に応じて変化することになるが、本実施形態においては、移動中に撮像した障害物を含むバーチャル画像を、状況に応じて適宜（移動後も）、表示し得るように構成されている。例えば、図１２に示すように、バックカメラ２のみを備えた車両１が、２点鎖線で示す位置から矢印方向に後退し実線で示す位置まで移動したとすると、２点鎖線で示す位置でバックカメラ２によって撮像された２点鎖線の領域Ｓｐには障害物ＯＢが存在するので、この位置では障害物ＯＢを含む画像が形成される。しかし、移動後の車両１の位置で撮像される領域Ｓｎには障害物ＯＢが存在しなくなっているので、モニタ８（図２）の表示画像には障害物ＯＢが含まれなくなる。この状態から、車両１が更に図１２の矢印方向に後退すると、車両１の左後方のコーナーから左前方にかけて障害物ＯＢが接近することになるが、モニタ８の表示画像からは外れており、見えなくなっている。
【００５７】
上記のような状況において、図１０に示すような車両１の上方に仮想カメラ２ｅが配置されたときのバーチャル画像をモニタ８に表示すると、図１３及び図１４に示すように、車両１の両コーナー部分も含む画像となる。尚、図１３は、図１２に２点鎖線で示す位置の車両１の後部及び障害物ＯＢが表示されたもので、図１４は、図１２に実線で示す位置（移動後）の車両１の後部及び障害物ＯＢが表示されたものである。図１４に示すように、障害物ＯＢの車両１に対する相対的位置は、２点鎖線で示す位置（移動前の図１３の位置）から図１４の矢印方向に相対移動し、実線で示す位置となっていることが分かる。これにより、障害物ＯＢはバックカメラ２による実際の視界から外れているにも拘わらず、運転者はこれをモニタ８で確認することができる。
【００５８】
また、本実施形態においては、モニタ８の表示画像が実際のバックカメラ２で撮像された画像から、図１３及び図１４に示すようなバーチャル画像に適宜切り替え可能に構成されている。具体的には、図１５に示すように、後方視界の通常の画像（図示省略）に加え、左右に「左コーナー」及び「右コーナー」というタッチパネルスイッチが表示されたモニタ８の通常の表示画面（Ａ）に対し、運転者が何れかのタッチパネルスイッチに触れると画面が切り替わり、コーナー部分のバーチャル画像が表示された切替画面（Ｂ）が表れるように構成されている。これにより、例えば運転者が通常の表示画面（Ａ）の「左コーナー」の表示に触れると、切替画面（Ｂ）の拡大画像に切り替わるので、左コーナーの障害物ＯＢを確認することができる。このように、拡大表示とすることが望ましいが、図１３の表示が左右に移動する態様としてもよく、音声と共に報知することとしてもよい。
【００５９】
上記の図１２においては、車両１の移動前には領域Ｓｐに障害物ＯＢが存在し、これを含む画像が形成されている状態から、移動後の領域Ｓｎには障害物ＯＢが存在せず、モニタ８（図２）の表示画像から障害物ＯＢが消えた状態となる場合を示し、図１３及び図１４にその場合の対応を示した。これに対し、図１６に示すように、車両１の側方に障害物ＯＢが存在する状態から、車両１が前進する場合には、最初にカメラ視界（２点鎖線で示す領域Ｓｐ）に存在しなかった障害物ＯＢが、やがて領域Ｓｎの中に入り、車両近傍に突然出現することになる。従って、図１２のようにバックカメラ２のみで監視している限り、このような場合には対応できない。
【００６０】
そこで、本実施形態においては、図１６に示すような状況においても、図１０に示すような車両１の上方に仮想カメラ２ｅが配置されたときのバーチャル画像をモニタ８に表示すると共に、図２に示すようにバックカメラ２に加えてサイドカメラ２ｘを用い、これらの視界を合成してバーチャル画像として表示するように構成されている。例えば、図１６において、車両１の側方に位置した障害物ＯＢは、破線で示すサイドカメラ２ｘの視界内にあるので、図１７に示すようにモニタ８にバーチャル画像として表示される。
【００６１】
即ち、図１７（及び図１８）の画像はバックカメラ２の直接視界とサイドカメラ２ｘの合成視界で構成されており、バックカメラ２による第１の特定視界の画像に対して重合しないサイドカメラ２ｘによる第２の特定視界の画像の一部が、モニタ８の画像に重合して表示されるように調整される。そして、図１８に矢印で示すように、図１７の合成視界にある障害物ＯＢは図１８の直接視界に（相対的に）移動することになる。これにより、運転者は障害物ＯＢが車両１の側方に位置しているときから、その存在を認知することができる。而して、このようなカメラ２及びサイドカメラ２ｘを組み合わせれば、仮に、移動前にサイドカメラ２ｘ又はバックカメラ２の死角になっていたとしても、その死角部分をバーチャル画像で表示することができる。
【００６２】
尚、本発明においては図２に示したバックカメラ２及びサイドカメラ２ｘのほか、フロントカメラ等を利用することができ、特定のカメラに限定されるものではない。また、本発明においては２台のカメラを用いることとしたが、これに限定するものではなく、３台以上のカメラを用いて３次元環境マップを作成することとしてもよい。
【００６３】
【発明の効果】
本発明は上述のように構成されているので以下に記載の効果を奏する。即ち、請求項１に記載の移動体周辺監視装置においては、移動体の周辺の物体の大きさ、位置等の環境情報を検出し蓄積する第１及び第２の環境情報検出手段と、移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段を備え、これらの検出情報を夫々第１及び第２の情報合成手段で合成し、移動体の周辺環境に対する相対的な位置及び姿勢の関係を補正して出力し、この出力情報に基づき、第１及び第２の特定視界作成手段により、夫々移動体の特定位置周辺の環境情報から第１及び第２の特定視界を作成し、これらを表示手段により画像に表示し、更に、表示調整手段によって、第１の特定視界の画像に対して重合しない第２の特定視界の画像の少なくとも一部を、第１の表示手段の画像に重合して表示するように調整する構成とされているので、移動体における所望の位置で確保する視界に対し、不測の物体の進入を回避することができ、障害となる物体を確実に画像表示することができる。
【００６４】
前記環境情報検出手段は、請求項２に記載のように構成すれば、一つの撮像手段によっても環境情報を容易且つ検出することができ、安価な装置を提供することができる。また、前記移動状態検出手段は、請求項３に記載のように構成すれば個別に設ける必要がないので、安価な装置を提供することができる。
【図面の簡単な説明】
【図１】本発明の移動体周辺監視装置の一実施形態の構成を示すブロック図である。
【図２】本発明の移動体周辺監視装置を駐車案内装置に適用したときの一実施形態として、駐車案内装置を搭載した車両を透視して示す斜視図である。
【図３】本発明の一実施形態に係る駐車案内装置の構成を示すブロック図である。
【図４】本発明の一実施形態における車両モデルの平面図である。
【図５】本発明の一実施形態において、所定の３次元座標における車両の移動開始位置の座標及び方向を基準に、移動後の位置の座標と方向を検出し追跡する方法の一例を示す平面図である。
【図６】本発明の一実施形態において、３次元環境マップでの車両の位置（座標）及び姿勢（方向）を特定する状態の一例を示す平面図である。
【図７】本発明の一実施形態において、車両の後方に仮想カメラが配置されたときの表示視界を示す平面図である。
【図８】本発明の一実施形態において、車両の左前方コーナー及び左後方コーナーに仮想カメラが配置されたときの表示視界を示す平面図である。
【図９】本発明の一実施形態において、車両の側方に仮想カメラが配置されたときの表示視界を示す平面図である。
【図１０】本発明の一実施形態において、車両の後方上部に仮想カメラが配置されたときの１８０度の表示視界を示す平面図である。
【図１１】本発明の一実施形態において、車両の上空部分に仮想カメラが配置されたときの３６０度の表示視界を示す平面図である。
【図１２】本発明の一実施形態において、車両が後退したときの表示視界の変化の一例を示す平面図である。
【図１３】図１２に２点鎖線で示す位置の車両の後部及び障害物が表示された画像の一例を示す平面図である。
【図１４】図１２に実線で示す位置の車両の後部及び障害物が表示された画像の一例を示す平面図である。
【図１５】本発明の一実施形態において、タッチパネルスイッチが表示されたモニタの通常の表示画面（Ａ）から拡大画像が表示された切替画面（Ｂ）への変化の一例を示す平面図である。
【図１６】本発明の一実施形態において、車両が前進したときの表示視界の変化の一例を示す平面図である。
【図１７】図１６に２点鎖線で示す位置の車両の後部及び障害物が表示された画像の一例を示す平面図である。
【図１８】図１６に実線で示す位置の車両の後部及び障害物が表示された画像の一例を示す平面図である。
【図１９】本発明の一実施形態における三次元再構成に関し、２台のカメラで空間中の物体の特徴点を撮影するときの幾何学的な関係を示す説明図である。
【図２０】本発明の一実施形態における三次元再構成に関し、特徴点の追跡の一例を示す説明図である。
【図２１】本発明の一実施形態における三次元再構成に関し、トラッキング状況の一例を示す説明図である。
【符号の説明】
ＳＲ１，ＳＲ２　環境情報検出手段，　ＣＤ１，ＣＤ２　撮像手段，
ＤＳ　移動状態検出手段，　ＲＣ　３次元座標推定手段，
ＭＢ　移動体情報検出手段，　ＣＢ１，ＣＢ２　情報合成手段，
ＳＶ１、ＳＶ２　特定視界作成手段，　ＶＤ１，ＶＤ２　表示手段，
１　車両，　２　バックカメラ，　２ｘ　サイドカメラ，
３　ステアリングホイール，　４　操舵角センサ，
５　シフトレバー，　６　シフトレバースイッチ，　７　車輪速度センサ，
８　モニタ，　９　スピーカ，　１０　電子制御装置

Claims

移動体の周辺の環境情報を検出し蓄積する第１の環境情報検出手段と、前記移動体の位置及び姿勢を逐次検出し蓄積する移動体情報検出手段と、該移動体情報検出手段の検出情報と前記第１の環境情報検出手段の検出情報を合成し、前記移動体の前記周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する第１の情報合成手段と、該第１の情報合成手段の出力情報に基づき、前記移動体の第１の特定位置周辺の環境情報から前記移動体の第１の特定視界を作成する第１の特定視界作成手段と、該第１の特定視界作成手段が作成した第１の特定視界を画像に表示する第１の表示手段と、前記移動体の周辺の環境情報を検出し蓄積する第２の環境情報検出手段と、前記移動体情報検出手段の検出情報と前記第２の環境情報検出手段の検出情報を合成し、前記移動体の前記周辺環境に対する相対的な位置及び姿勢の関係を補正して出力する第２の情報合成手段と、該第２の情報合成手段の出力情報に基づき、前記移動体の第２の特定位置周辺の環境情報から前記移動体の第２の特定視界を作成する第２の特定視界作成手段と、該第２の特定視界作成手段が作成した第２の特定視界を画像に表示する第２の表示手段と、前記第１の表示手段が表示する第１の特定視界の画像に対して重合しない前記第２の表示手段が表示する第２の特定視界の画像の少なくとも一部を、前記第１の表示手段の画像に重合して表示するように調整する表示調整手段とを備えたことを特徴とする移動体周辺監視装置。
前記第１及び第２の環境情報検出手段は、夫々、前記移動体に搭載し前記移動体の周辺を撮像し画像情報を出力する撮像手段と、前記移動体が第１の状態から第２の状態に移動したときに少なくとも前記第１の状態及び第２の状態で前記撮像手段によって撮像した二つの画像に基づき、前記第１の状態で撮像した画像から特徴点の座標を検出すると共に、前記第２の状態で撮像した画像での前記特徴点に対応する座標を検出する特徴点追跡手段と、少なくとも前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢を検出する移動状態検出手段と、該移動状態検出手段で検出した前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢、前記第１の状態で撮像した画像の前記特徴点の座標、及び前記第２の状態で撮像した画像の前記特徴点に対応する座標に基づき前記特徴点の３次元座標を推定する３次元座標推定手段とを備えたことを特徴とする請求項１記載の移動体周辺監視装置。
前記第１及び第２の環境情報検出手段は、夫々の前記移動状態検出手段が、前記移動体情報検出手段の検出情報から、前記第１の状態及び前記第２の状態における前記移動体の位置及び姿勢を検出するように構成したことを特徴とする請求項２記載の移動体周辺監視装置。