上述した情報処理装置では、カーブミラーに映る物体の像の当該カーブミラーにおける位置に基づいて危険度合いが推定され、その推定される危険度合いに基づいた運転支援情報が生成される。しかし、上記推定される危険度合いに基づいた運転支援情報は、車両を運転する運転者に対して注意喚起するものとしては有効ではあるが、カーブミラーに映る物体の現実の位置に基づいたものではない。このため、上記運転支援情報は、カーブミラーに映る物体(車両、自転車、歩行者等)との実際の位置関係(カーブミラーに映る実際の状況)に基づく車両の運転制御に供すべき情報としては充分なものとは言い難い。
本発明は、このような事情に鑑みてなされたもので、カーブミラーに映る実際の状況に基づいた運転支援情報を提供することのできる車両用情報処理装置を提供するものである。
本発明に係る車両用情報処理装置は、車両に搭載されるカメラ装置により得られる道路に設置されたカーブミラーの像を含む画像を表すミラー画像情報に基づいて前記車両の運転を支援するための運転支援情報を生成する車両用情報処理装置であって、前記ミラー画像情報にて表される画像に含まれる前記カーブミラーの像の情報に基づいて当該カーブミラーの鏡面の湾曲度を表すミラー湾曲情報を取得する第1情報取得部と、前記カーブミラーの位置を表すミラー位置情報を取得する第2情報取得部と、前記ミラー湾曲情報及び前記カーブミラーの像の情報に基づいて前記車両に対する前記カーブミラーの鏡面の向く方向を表すミラー向き情報を取得する第3情報取得部と、前記ミラー画像情報にて表される画像に含まれる前記カーブミラーに映った注目物体の像を検出する物体像検出部と、前記ミラー画像情報にて表される前記画像において検出された前記注目物体の像の情報、前記ミラー湾曲情報、前記ミラー位置情報、及び前記ミラー向き情報に基づいて前記注目物体の位置を表す物体位置情報を生成する物体位置検出部と、を有し、前記物体位置検出部にて得られる前記物体位置情報に基づいて前記運転支援情報を生成する、構成となる。
このような構成により、車両に搭載されるカメラ装置により得られるミラー画像情報からそれが表す画像に含まれるカーブミラーの像の情報に基づいて当該カーブミラーの湾曲度を表すミラー湾曲情報が取得され、そのカーブミラーの位置を表すミラー位置情報が取得される。また、取得されたミラー湾曲情報及び前記ミラー画像情報が表す画像に含まれる前記カーブミラーの像に基づいて前記車両に対する前記カーブミラーの鏡面の向く方向を表すミラー向き情報が取得される。そして、前記ミラー画像情報にて表される画像に含まれる前記カーブミラーに映った注目物体の像が検出され、その検出された注目物体の像の情報とともに、前述したように取得されたミラー湾曲情報、ミラー位置情報、及びミラー向き情報に基づいて、前記注目物体の位置を表す物体位置情報が生成され、その物体位置情報に基づいて運転支援情報が生成される。
本発明に係る車両用情報処理装置において、前記第1情報取得部は、複数種のカーブミラーのそれぞれの外形形状の特徴を表す外形特徴情報とそれに対応する湾曲度とが定められたテーブル情報を記憶する記憶部と、前記ミラー画像情報にて表される画像に含まれる前記カーブミラーの像の情報から前記カーブミラーの外形形状の特徴を表す外形特徴情報を取得するミラー外形特徴取得部と、前記テーブル情報において前記ミラー外形特徴取得部により取得された前記外形特徴情報に対応する湾曲度を、前記ミラー湾曲情報が表すべき湾曲度として決定する湾曲度決定部と、を有する構成とすることができる。
このような構成により、ミラー画像情報にて表される画像に含まれるカーブミラーの像の情報から、前記カーブミラーの外形形状の特徴を表す外形特徴情報が取得され、テーブル情報においてその取得された外形特徴情報に対応する湾曲度がミラー湾曲情報が表すべき湾曲度として決定され、その湾曲度を表す当該ミラー湾曲情報が取得される。
本発明に係る車両用情報処理装置において、前記第2情報取得部は、前記車両から前記カーブミラーまでの距離を表すミラー距離情報を取得する距離取得部と、前記ミラー画像情報にて表される画像に含まれる前記カーブミラーの像の情報と前記距離取得部により取得された前記ミラー距離情報とに基づいて前記ミラー位置情報を生成するミラー位置検出部と、を有する構成とすることができる。
このような構成により、車両からカーブミラーまでの距離を表すミラー距離情報が取得され、ミラ―画像情報にて表される画像に含まれる前記カーブミラーの像の情報と、前記ミラー距離情報に基づいてカーブミラーの位置を表すミラー位置情報が生成される。
本発明に係る車両用情報処理装置において、前記第3情報取得部は、前記ミラー画像情報にて表される画像に含まれる前記カーブミラーの像の情報と前記ミラー湾曲情報とに基づいて、前記カーブミラーの鏡面の中心点の法線方向を前記ミラー向き情報として生成するミラー法線演算部とを有する構成とすることができる。
このような構成により、ミラー画像情報にて表される画像に含まれるカーブミラーの像の情報と前記カーブミラー湾曲情報(湾曲度)とに基づいて、前記カーブミラーの鏡面の中心点の法線方向がミラー向き情報として生成される。
本発明に係る車両用情報処理装置において、前記物体位置検出部は、前記ミラー画像情報にて表される画像における前記カーブミラーに映る前記注目物体の像の情報と前記ミラー湾曲情報とに基づいて前記カーブミラーと実物としての前記注目物体との距離を演算する距離演算部と、前記ミラー画像情報にて表される画像における前記カーブミラーに映る前記注目物体の像の情報、前記ミラー位置情報、及び前記ミラー向き情報に基づいて、前記車両からの視線の前記カーブミラーに映る前記注目物体の像から実物としての前記注目物体に向う方向を表すミラー反射方向を演算する反射方向演算部と、を有し、前記距離演算部にて得られる前記カーブミラーと実物としての前記注目物体との距離と前記ミラー反射方向とに基づいて前記物体位置情報を生成する、構成とすることができる。
このような構成により、ミラー画像情報にて表される画像におけるカーブミラーに映る注目物体の像の情報とカーブミラーのミラー湾曲情報(湾曲度)とに基づいて当該カーブミラーと実物としての注目物体との距離が演算され、前記ミラー画像情報にて表される画像におけるカーブミラーに映る注目物体の像の情報、ミラー位置情報、及びミラー傾き情報に基づいて車両からの視線の前記カーブミラーに映る前記注目物体の像から実物としての前記注目物体に向う方向を表すミラー反射方向が演算される。そして、演算された前記距離と前記ミラー反射方向とに基づいて物体位置情報が生成される。
本発明に係る車両用情報処理装置において、更に、前記ミラー湾曲情報、前記ミラー位置情報、前記ミラー向き情報及び車両走行用の道路を表す道路情報を含む地図情報に基づいて、注目する道路において形成される前記車両に対する死角領域を表す死角領域情報を生成する死角領域検出部を有し、前記死角領域検出部により得られる前記死角領域情報に基づいて前記運転支援情報を生成する、構成とすることができる。
このような構成により、前述したように取得されたミラー湾曲情報、ミラー位置情報、及びミラー向き情報とともに地図情報に基づいて、注目する道路において当該車両に対する死角領域を表す死角領域情報が生成される。そして、この死角領域情報に基づいて運転支援情報が生成される。
本発明に係る車両用情報処理装置は、車両に搭載されるカメラ装置により得られる道路に設置されたカーブミラーの像を含む画像を表すミラー画像情報に基づいて前記車両の運転を支援するための運転支援情報を生成する車両用情報処理装置であって、前記ミラー画像情報にて表される画像に含まれる前記カーブミラーの像の情報に基づいて当該カーブミラーの鏡面の湾曲度を表すミラー湾曲情報を取得する第1情報取得部と、前記カーブミラーの位置を表すミラー位置情報を取得する第2情報取得部と、前記ミラー湾曲情報及び前記カーブミラーの像の情報に基づいて車両に対する前記カーブミラーの鏡面の向く方向を表すミラー向き情報を取得する第3情報取得部と、前記ミラー湾曲情報、前記ミラー位置情報、前記ミラー向き情報、前記車両位置情報及び車両走行用の道路を表す道路情報を含む地図情報に基づいて、注目する道路において形成される前記車両に対する死角領域を表す死角領域情報を生成する死角領域検出部と、を有し、前記死角領域検出部により得られる前記死角領域情報に基づいて前記運転支援情報を生成する、構成となる。
このような構成により、車両に搭載されるカメラ装置により得られるミラー画像情報からそれが表す画像に含まれるカーブミラーの像の情報に基づいて当該カーブミラーの湾曲度を表すミラー湾曲情報が取得され、そのカーブミラーの位置を表すミラー位置情報が取得される。また、取得されたミラー湾曲情報及び前記ミラー画像情報が表す画像に含まれる前記カーブミラーの像に基づいて前記カーブミラーの鏡面の向く方向を表すミラー向き情報が取得される。そして、前述したように取得されたミラー湾曲情報、ミラー位置情報、及びミラー向き情報とともに地図情報に基づいて、注目する道路において当該車両に対する死角領域を表す死角領域情報が生成され、この死角領域情報に基づいて運転支援情報が生成される。
本発明に係る車両用情報処理装置において、前記死角領域検出部は、前記地図情報に基づいて前記注目する道路における前記車両から直接視認可能な領域の限界線を表す直接視界限界線情報を生成する直接視界限界検出部と、前記地図情報、前記ミラー湾曲情報、前記ミラー位置情報、及び前記ミラー向き情報に基づいて前記注目する道路における前記車両から前記カーブミラーにより視認可能な領域の限界線を表すミラー視界限界線情報を生成するミラー視界限界検出部と、を有し、前記直接視界限界線情報及び前記ミラー視界限界線情報に基づいて前記死角領域情報を生成する、構成とすることができる。
このような構成により、地図情報に基づいて注目する道路における車両から直接視認可能な領域の限界線を表す直接視界限界線情報が生成され、地図情報、ミラー湾曲情報(湾曲度)、ミラー位置情報、及びミラー向き情報に基づいて注目する道路における前記車両からカーブミラーにより視認可能な領域の限界線を表すミラー視界限界線情報が生成される。そして、前記直接視界限界線情報及び前記ミラー視界限界線情報に基づいて前記車両に対する死角領域を表す死角領域情報が生成される。
本発明に係る車両用情報処理装置によれば、カーブミラーの像を含む画像を表すミラー画像情報において検出された前記カーブミラーに映る注目物体の像の情報とともに、前記カーブミラーの鏡面の湾曲度を表すミラー湾曲情報、前記カーブミラーの位置を表すミラー位置情報、及び前記カーブミラーの鏡面の向く方向を表すミラー向き情報に基づいて、前記注目物体の位置を表す物体位置情報が生成される。このため、その物体位置情報に基づいて、前記カーブミラーに映る注目物体(物体)の実際の位置(実際の状況)に基づいた運転支援情報を提供することができる。
また、本発明に係る車両用情報処理装置によれば、カーブミラーの鏡面の湾曲度を表すミラー湾曲情報、前記カーブミラーの位置を表すミラー位置情報、前記カーブミラーの鏡面の向きを表すミラー向き情報とともに地図情報に基づいて、注目する道路において形成される車両に対する死角領域を表す死角領域情報が生成される。このため、その死角領域情報に基づいて、車両に対して実際に形成される死角領域(カーブミラーに映る実際の状況から得られる)に基づいた運転支援情報を提供することができる。
以下、本発明の実施の形態について図面を用いて説明する。
例えば、図1Aに示すような状況を想定する。図1Aにおいて、道路R1と道路R2とが交差点Xにおいて交差する。道路R1を走行して交差点Xに向う車両100の道路R2側の視界を確保するために道路R1の車両100から見通しのきく交差点Xのコーナ部にカーブミラー50が設置されている。カーブミラー50は、図1Bに示すように、交差点Xのコーナ部に立設する支柱52の先端部に湾曲した鏡面を有するミラー本体51が固定された構造となっている。
車両100が道路R1を交差点Xに向って走行するとともに、自転車200(注目物体)が道路R2を交差点Xに向って走行する状況において、時刻t1の車両100(t1)から、カーブミラー50(ミラー本体51)の鏡面に映る自転車200(t1)の像Io(t1)(図1B参照)を視認することができる。また、更に交差点Xに近づいた時刻t2の車両100(t2)から、カーブミラー50(ミラー本体51)の鏡面に映る自転車200(t2)の像Io(t2)(図1B参照)を視認することができる。
車両100に搭載され、本発明の第1の実施の形態に係る車両用情報処理装置10を含む車載システムは、図2に示すように構成される。図2において、この車載システムは、車両用情報処理装置10、車両100の前方を撮影するカメラ装置20、カメラ装置20と同様に車両100の前方を撮影して奥行の情報を含む画像情報を出力するステレオカメラ21、車両100の車輪の回転に応じた車輪速パルスを出力する車速センサ22、複数の測位衛星からの信号を受信して車両100の位置に応じた検出信号を出力するGPSユニット23、及び地図情報を含むナビゲーション装置30を有している。車両用情報処理装置10は、CPUを含む情報処理ユニット11、画像処理部12、記憶部13及び出力処理部14を有している。画像処理部12は、情報処理ユニット11の制御のもと、カメラ装置20及びステレオカメラ21のそれぞれからの画像情報を処理して所定形式の画像情報を情報処理ユニット11に提供する。情報処理ユニット11は、プログラムに従って画像処理部12からの画像情報に基づいて運転支援情報を生成する処理を実行する。記憶部13は、情報処理ユニット11にて実行すべき種々のプログラム、後述するテーブル情報等の情報処理ユニット11で利用する種々の情報、及び情報処理ユニット11での処理により生成された情報等を記憶する。出力処理部14は、情報処理ユニット11の制御のもと、生成された運転支援情報を、その運転支援情報の種類に応じて情報出力部(表示器、音声出力器等)、車両100における操舵系、アクセル系、及び制動系の各種アクチュエータを制御するECUに供給する。
道路R1を走行する車両100が交差点Xに近づくとともに道路R2を走行する自転車(以下、自転車を一般化して移動物体という)200(注目物体)が交差点Xに近づく状況において、車両用情報処理装置10における情報処理ユニット11は、カーブミラー50(ミラー本体51)の鏡面に映る移動物体200(注目物体)の実際の位置を表す物体位置情報を生成する(物体位置検出部)。この処理は、図3A及び図3Bに示す手順に従って実行される。そして、情報処理ユニット11は、得られた物体位置情報に基づいて、道路R1を走行する車両100が接近する交差点Xに向ってその道路R1に交差する道路R2を移動物体200(注目物体)が移動している状況における運転支援情報を生成する。
図3Aにおいて、情報処理ユニット11は、カメラ装置20から画像処理部12を経た画像情報を取得するとともに、GPSユニット23からの信号に基づいて車両100の位置(地図上の位置)を表す自車位置情報(例えば、緯度・経度)を取得する(S11)。取得された画像情報及び自車位置情報は記憶部13に格納される。情報処理ユニット11は、取得した画像情報が表す画像にカーブミラー50の像が含まれているか否かを判定する(S12)。例えば、特許文献1に記載された手法や、画像認識の技術及び機械学習のアルゴリズムに従った手法等に従って、取得される画像情報にて表される画像にカーブミラー50の像が含まれているか否かを判定することができる。情報処理ユニット11は、カーブミラー50の像を含む画像を表す画像情報が取得される(S12でYES)まで、カメラ装置20からの画像情報及び自車位置情報の取得(S11)及びそれらの記憶部13への格納(更新)を繰り返し実行する。
その過程で、カーブミラー50の像を含む画像を表す画像情報(以下、ミラー画像情報という)が取得されると(S12でYES)、情報処理ユニット11は、カーブミラー50の位置を表すミラー位置情報を取得する(S13:第2情報取得部)。具体的には、情報処理ユニット11は、ステレオカメラ21から画像処理部12を経て得らえる3次元画像情報(奥行の情報を含む)に基づいて車両100からカーブミラー50までの距離を表すミラー距離情報を取得する(距離取得部)。また、情報処理ユニット11は、カメラ装置20の光学的パラメータ(焦点距離、倍率、画角等)を用いて、図4に示すように、撮影により得られたミラー画像情報にて表されるカーブミラー50の像Ic50を含む画像Icから、その撮影領域SA内の物(カーブミラー50を含む)の2次元的な位置関係を推定演算する。そして、情報処理ユニット11は、前記ミラー画像情報から得られる撮影領域SA内の物の2次元的な位置関係と、車両100からカーブミラー50までの距離を表すミラー距離情報(奥行の情報)とに基づいて、車両100の位置を基準とした(以下、自車座標系という)カーブミラー50の位置を表すミラー位置情報を演算する(ミラー位置検出部)。このようにして取得されたミラー位置情報は記憶部13に格納される。
なお、カーブミラー50の設置位置の情報(地図上での位置(緯度・経度))が地図情報に埋め込まれている場合、その地図情報から車両50が向かう交差点Xに設置されたカーブミラー50の位置を表すミラー位置情報を取得するようにしてもよい。また、カーブミラー50の設置された交差点Xにおいて、カーブミラー50の設置位置の情報をビーコンにより発信させておき、交差点Xに近づいた車両100においてそのビーコンを受信することにより、カーブミラー50の位置を表すミラー位置情報を取得することもできる。
次に、情報処理ユニット11は、取得したミラー画像情報にて表される画像Ic(図4参照)に含まれるカーブミラー50の像Ic50の情報に基づいてミラー本体51(カーブミラー50)の鏡面の湾曲度を表すミラー湾曲情報を取得する(S14:第1情報取得部)。また、情報処理ユニット11は、その取得したミラー湾曲情報及び前記カーブミラー50の像Ic50の情報に基づいて車両100に対するミラー本体51(カーブミラー50)の鏡面の向く方向を表すミラー向き情報を取得する(S14:第3情報取得部)。これら取得されたミラー湾曲情報及びミラー向き情報は記憶部13に格納される。
ミラー湾曲情報は例えば次のようにして取得される。
日本の道路反射鏡設置指針(日本道路協会)では、外形形状の特徴(丸型の直径φ、角型の縦横サイズ)で分類されるカーブミラーの種類と鏡面の曲率半径(ミラー湾曲情報)との関係が、図5に示すように規定されている。具体的には、直径φ=600mmの丸型のカーブミラーの鏡面曲率半径RがR=2200mmであり、直径φ=800mmの丸型のカーブミラーの鏡面曲率半径RがR=3000mmであり、直径φ=1000mmの丸型のカーブミラーの鏡面曲率半径RがR=3600mmである。また、縦横サイズが450mm×600mmの角型のカーブミラーの鏡面曲率半径RがR=2200mmであり、縦横サイズが600mm×800mmの角型のカーブミラーの鏡面曲率半径RがR=3000mmである。図5に示すような5種類のカーブミラーのそれぞれの外形形状の特徴を表す外形特徴情報(丸型の直径φ、角型の縦横サイズ)とそれに対応する湾曲度(鏡面曲率半径R)とが定められたテーブル情報(図5参照)が記憶部13に記憶されている。
道路に実際に設置されるいずれのカーブミラーも、図5に示すテーブル情報で示される5種類の外形形状のうちのいずれかを有するものであることを前提に、前記ミラー画像情報にて表される画像Icに含まれるカーブミラー50の像Ic50の情報に基づいて実際のカーブミラー50(ミラー本体51)の湾曲度(ミラー湾曲情報)が決められる。例えば、取得されたミラー画像情報にて表される画像Icに含まれるカーブミラー50の像Ic50の情報(図4参照)から、カメラ装置20の光学的パラメータ(焦点距離、倍率、画角等)及び車両100からカーブミラー50までの距離を用いて、実際のカーブミラー50のミラー本体51の直径(外形形状)が推定演算される(ミラー外形特徴取得部)。記憶部13に記憶された前記テーブル情報(図5参照)において、前記推定演算により得られた直径(外形形状)に対応する、具体的には、その推定演算により得られた直径に最も近い直径に対応する鏡面曲率半径Rがミラー湾曲情報として決定される(湾曲度決定部)。
なお、カーブミラー50の鏡面の湾曲度を表すミラー湾曲情報がそのカーブミラー50の設置位置の情報とともに地図情報に埋め込まれている場合、その地図情報から車両50が向かう交差点Xに設置されたカーブミラー50についてのミラー湾曲情報を取得するようにしてもよい。また、カーブミラー50の設置された交差点Xにおいて、カーブミラー50の鏡面の湾曲度を表すミラー湾曲情報をそのカーブミラー50の設置位置の情報とともにビーコンにより発信させておき、交差点Xに近づいた車両100においてそのビーコンを受信することにより、カーブミラー50のミラー湾曲情報(湾曲度)を取得することもできる。
車両100(カメラ装置20の光軸方向)に対するミラー本体51(カーブミラー50)の鏡面の向く方向(垂直面での回転方向と水平面での回転方向との合成方向)を表すミラー向き情報は、次のようにして取得される。
丸型のミラー本体51を有するカーブミラー50の場合(角型のミラ―本体の場合も基本的に同じ)、その鏡面51aは、図6(立体図)に示すように、そのミラー本体51の直径φに対応する鏡面曲率半径R(図5参照)の球面500の一部部分(凸面部分)とすることができる。そして、前記ミラー画像情報にて表される2次元的な画像Ic(図4参照)に含まれるカーブミラー50(ミラー本体51)の像Ic50の鏡面部分の形状は、平面状の円形または楕円形である。ここで、この円形または楕円形の平面をミラー平面と定義する(図6において、ミラー平面51b)。
ミラー平面51bは、図7(平面図)に示すように、車両100(カメラ装置20)とカーブミラー50との位置関係及びミラー本体51自体の傾き(垂直面での回転角度:俯角:例えば、5°~10°)に応じて変化する。図7において、車両100(カメラ装置20)とミラー本体51とが正対した状態では、ミラー画像情報(カーブミラー50の像Icの情報)から得られるミラー平面51b(0)は円形である。車両100(カメラ装置20)とカーブミラー50とが斜めに対向し(例えば、図1参照)、また、ミラー本体51自体が傾いていると、前記ミラー画像情報(図4におけるIc参照)からは、車両100(カメラ装置20)とカーブミラー50との対向におけるその斜めの程度やミラー本体51自体の傾きの程度に応じて異なる楕円形のミラー平面51b(1)、51b(2)、51b(3)、51b(4)が得られる。
前記ミラー画像情報にて表される画像Icに含まれるカーブミラー50の画像Ic50において、幾何学的な演算手法に従って、ミラー平面51b(例えば、楕円形状)の中心点(図6における点P、図7における点P0、P1、P2、P3、P4)が検出される。そして、その中心点P(P0~P4)におけるミラー平面51b(51b(0)~51b(4))の法線ベクトルn(n0~n4)が決められる(ミラー法線演算部)。このように画像Ic(像Ic50)上で決められたその法線ベクトルnは、カメラ装置20の光学的パラメータ(焦点距離、倍率、画角等)及び車両100からカーブミラー50までの距離を用いて自車座標系にて表される。このように自車座標系にて表される前記ミラー平面51bの中心点を通る法線ベクトルnは球面の一部である鏡面51aの中心点を通る法線に対応し、その法線ベクトルnがカーブミラー50(ミラー本体51)の鏡面51aが向く方向を表すミラー向き情報として定義される。
図3Aに戻って、上述したようにミラー位置情報(S13)、ミラー湾曲情報及びミラー向き情報(S14)が取得されると、情報処理ユニット11は、ミラー画像情報にて表される画像Ic(図4参照)に含まれるカーブミラー50の像Ic50に、そのカーブミラー50に映った自転車、自動車(他車)、人等の移動物体(注目物体)の像が含まれているか否かを判定する(S15)。例えば、ミラー画像情報が表す画像Icに含まれるカーブミラー50の像Ic50から、移動物体の候補を抽出する公知の処理及び機械学習のアルゴリズムに従った手法によって、カーブミラー50に映る移動物体の像部分を検出することができる。そして、情報処理ユニット11は、移動物体(注目物体)が映ったカーブミラー50の像Ic50を含む画像Icを表すミラー画像情報が得られるまで、上述した処理(S11、S12、S13、S14)を繰り返し実行する。その間、車両100の移動とともに記憶部13に記憶される自車位置情報、ミラー画像情報、ミラー位置情報(自車座標系)、及びミラー向き情報(自車座標系)が順次更新される。
情報処理ユニット11は、ミラー画像情報にて表される画像Icに含まれるカーブミラー50の像Ic50に、そのカーブミラー50に映った移動物体の像が含まれていると判定すると(S15でYES:物体像検出部)、以下、前記ミラー画像情報にて表される画像Icにおいて検出された前記移動物体の像の情報、この時点で記憶部13に格納されているミラー湾曲情報、ミラー位置情報、及び前記ミラー向き情報に基づいて前記移動物体の位置を表す物体位置情報を生成する処理を実行する(物体位置検出部)。この処理は、次のように行われる(S16~S24)。
情報処理ユニット11は、図8に示すように取得された前記ミラー画像情報にて表される画像Icから抽出された移動物体200の像部分Ic200のサイズ(例えば、高さm)と、その像部分Ic200のカーブミラー50の像Ic50における鏡面内での位置(カメラ内座標系)とを算出する(S16)。そして、情報処理ユニット11は、画像Ic内での移動物体200の像部分Ic200のサイズ(高さm)と、その画像部分Ic200のカーブミラー50の像Ic50における鏡面内での位置とから、カメラ装置20の光学的パラメータ(焦点距離、倍率、画角等)及び車両100からカーブミラー50までの距離を用いて、カメラ装置20の撮影領域SA内のカーブミラー50(ミラー本体51の鏡面)に実際に映る移動物体200の像Ioのサイズ(例えば、高さh)と、カーブミラー50(ミラー本体51の鏡面)内でのその移動物体200の像Ioの位置(自車座標系)と、を推定演算する(S17)。
その後、情報処理ユニット11は、図3Bに示す手順に進み、カーブミラー50に映る移動物体200の像Ioのサイズ(高さh)及びその像Ioのカーブミラー50(ミラー本体51の鏡面)内での位置に基づいて、実物としての移動物体200のサイズ(高さH)を求め、カーブミラー50による拡大率(h/H)を算出する(S18)。ここで、例えば、種々の移動物体(自動車、自転車、人等)の実サイズ(高さH)とカーブミラー50の種類(湾曲度:図5参照)毎の鏡面上の各位置での像Ioのサイズ(高さh)との関係を予め機械学習させて、それらの関係をテーブル情報として記憶部13に記憶させておく。そして、そのテーブル情報を参照して、カーブミラー50の種類(湾曲度)、及び前記推定演算(S17)により得られた移動物体200の像Ioの鏡面内位置及びサイズ(高さh)に対応した移動物体200の実サイズ(高さH)を取得することができる。
また、情報処理ユニット11は、移動物体200の像Ioのカーブミラー50(ミラー本体51)の鏡面内位置及びミラー位置情報に基づいて、図9に示す、カメラ装置20(車両100)とカーブミラー50(ミラー本体51)における移動物体200の像Ioとを結ぶ入射線IRを算出する(S19)。更に、情報処理ユニット11は、移動物体200の像Ioの位置でのカーブミラー50(ミラー本体51)の鏡面の法線npを算出する(S20)。この法線npは、次のようにして算出することができる。
前述したように、カーブミラー50の鏡面51a(ミラー平面51b:図6及び図7参照)の中心点を通る法線ベクトルnから鏡面51aを含む球面500lの中心Oが求められる。そして、その中心Oから延びて前述した移動物体200の像Ioの鏡面内位置を通る直線が法線npとして算出される。
このようにして、カーブミラー50の拡大率(h/H:倍率:S18)、入射線IR(図9参照)、及び移動物体200の像Ioも鏡面内位置での法線npが得られると、情報処理ユニット11は、カーブミラー50(ミラー本体51)の鏡面の拡大率(h/H:倍率)及びミラー湾曲情報(曲率半径R:焦点距離fに対応)を用い、幾何光学の法則に従って、カーブミラー50(ミラー本体51)の鏡面における移動物体200の像Ioの位置と、実物としての移動物体200との間の距離Dを推定演算する(S21:距離演算部)。また、情報処理ユニット11は、図9に示すように、入射線IR及び法線npを用い、鏡面での反射の法則(入射角θ=反射角θ)に従って、反射線RR(ミラー反射方向)を算出する(S22:反射方向演算部)。そして、情報処理ユニット11は、反射線RR(方向)と、カーブミラー50(ミラー本体51)の鏡面における移動物体200の像Ioと実物としての移動物体200との間の距離Dとに基づいて、移動物体200の位置(自車座標系)を算出する(S23)。そして、情報処理ユニット11は、算出された位置に基づいて移動物体の位置情報(物体位置情報)を生成する(S24)。
情報処理ユニット11は、所定の終了条件(例えば、走行停止、運転支援モードOFF等)が満たされるか否かを判定し(S25)、終了条件が満たされていない(S25でNO)状況において、前述した処理(S11~S24:図3A、図3B)を繰り返し実行する。その間、交差点Xやカーブ道路等、車両100がカーブミラーの設置された場所を通過する毎に、上述した処理により得られるカーブミラーに映る移動物体(注目物体)の位置を表す物体位置情報が生成される。
そして、情報処理ユニット11は、そのカーブミラー50に映る移動物体200(注目物体)の位置を表す物体位置情報(自車座標系での位置を表す)が得られる毎に、その物体位置情報に基づいて車両100の運転支援情報を生成する。生成された運転支援情報は、車速センサ22からの信号に基づいて車両100の走行速度を認識する情報処理ユニット11の制御のもと、出力処理部14から運転支援情報の種類に応じて情報出力部(表示器、音声出力器等)、車両100における操舵系、アクセル系、及び制動系の各種アクチュエータを制御するECU等に供給される。例えば、次のような運転支援情報を生成することができる。
自車座標系での位置を表す前記物体位置情報を、自車位置情報(S11参照)を用いて絶対座標系(緯度経度)での位置を表す位置情報に変換することができる。その位置情報を用いて移動物体200(注目物体)の位置を表示器に道路地図とともに表示させる表示情報を運転支援情報として生成することができる。また、車両100と移動物体200(注目物体)との相対的な位置関係を表す物体位置情報に基づいて、交差点X(図1参照)を通過する際の車両100における操舵系、アクセル系、及び制動系の各種アクチュエータを制御するECUに供給すべき制御信号を運転支援情報として生成することができる。また、車両100と移動物体100(注目物体)との相対的な位置関係を表す物体位置情報に基づいて、その相対的な位置関係に応じた警報情報を運転支援情報として生成することができる。
上述したような車両用情報処理装置10によれば、カーブミラー50の像Ic50を含む画像Icを表すミラー画像情報において検出された前記カーブミラー50(ミラー本体51)に映る移動物体200の像Ioの情報とともに、カーブミラー50の鏡面の湾曲度を表すミラー湾曲情報、カーブミラー50の位置を表すミラー位置情報、及びカーブミラー50の鏡面の向く方向を表すミラー向き情報に基づいて、実物としての移動物体200の位置を表す物体位置情報が生成される。このため、その物体位置情報に基づいて、カーブミラー50に映る移動物体200の実際の位置(実際の状況)に基づいた運転支援情報を提供することができる。
前述した各位置や方向の情報は、自車座標系や絶対座標系において表されたが、これに限定されず、他の任意の座標系において表すことができる。
また、ミラー湾曲情報、ミラー位置情報、ミラー向き情報を取得するための手法は、前述した処理に限定されず、他の手法であってもよい。
次に、本発明の第2の実施の形態に係る車両用情報処理装置について説明する。
本発明の第2の実施の形態に係る車両用情報処理装置は、第1の実施の形態の場合と同様に、図2に示す車載システムにおける車両用情報処理装置10として構成される。この車両用情報処理装置10は、カーブミラー50の設置された道路(交差点X等)での死角領域に基づいた運転支援情報を提供することを特徴としている。
例えば、図10に示すように、道路R2に交差する道路R1をその交差点Xに向かって車両100が走行する場合を想定する。そして、車両100の道路R2側の視界を確保するために車両100から見通しのきく交差点Xのコーナ部にカーブミラー50(ミラー本体51)が設置されている。
車両100に搭載された車載システムにおける車両情報処理装置10の情報処理ユニット11は、車両100に対する死角領域を表す死角領域情報を生成する(死角領域検出部)。この処理は、図11A及び図11Bに示す手順に従って実行される。
図11Aにおいて、情報処理ユニット11は、第1の実施の形態の場合(図3A参照)と同様に、カメラ装置20から画像処理部12を経た画像情報を取得するとともに、GPSユニット23からの信号に基づいて車両100の位置(地図上の位置)を表す自車位置情報を取得する(S31)。取得された画像情報及び自車位置情報は記憶部13に記憶される。情報処理ユニット11は、カーブミラー50の像を含む画像を表す画像情報が取得される(S32)まで、画像情報及び自車位置情報を繰り返し取得し、取得されたそれらの情報に基づいて記憶部13に格納される画像情報及び自車位置情報を更新する。
情報処理ユニット11は、カーブミラー50の像を含む画像を表す画像情報が得られると(S32でYES)、第1の実施の形態と同様の手法に従って、カーブミラー50の位置を表すミラー位置情報を取得する(S33:第2情報取得部)。また、情報処理ユニット11は、カーブミラー50(ミラー本体51)の鏡面の向く方向を表すミラー向き情報を取得する(第3情報取得部)とともにカーブミラー50(ミラー本体51)の鏡面の湾曲度を表すミラー湾曲情報を取得する(第1情報取得部:S34)。それら、ミラー位置情報、ミラー向き情報及びミラー湾曲情報は記憶部13に記憶される。
その後、情報処理ユニット11は、図11Bに示す手順に移行する。
図10に示す状況において、情報処理ユニット11は、交差点Xの手前左側角部の障害物点Aの位置を算出する(S35)。具体的には、第1の実施の形態におけるカーブミラー50の位置を算出した手法と同様に、カーブミラー50の像Ic50を含む画像Icを表すミラー画像情報からカメラ装置20の光学的パラメータ(焦点距離、倍率、画角等)を用いて、画像Icに対応する撮影領域SA内の物(障害物点Aを含む)の2次元的な位置関係が推定演算される。そして、その撮影領域SA内の物(障害物点A)の二次元的な位置関係と、ステレオカメラ21からの3次元画像情報(奥行の情報を含む)から得られる車両100から障害物点Aまでの距離情報(奥行の情報)とに基づいて、車両100の位置を基準とした障害物点Aの位置(位置情報)が算出される。
なお、交差点Xにおける各角部の位置(地図上での位置(緯度・経度))が地図情報に埋め込まれている場合、その地図情報から車両50が向かう交差点Xの手前左側角部の位置を取得するようにしてもよい。また、交差点Xにおいて、その交差点Xの各角部の位置をビーコンにより発信させておき、交差点Xに近づいた車両100においてそのビーコンを受信することにより、交差点Xの手前左側角部の位置を取得することもできる。
次に、情報処理ユニット11は、障害物点Aの位置(自車座標系)に基づいて、その障害物点Aで限界となる車両100から直接視認可能な限界線(直接視界限界線Ldv)を表す直接視界限界線情報を生成する(S36:直接視界限界検出部)。なお、自車位置情報に基づいて、前記直接視界限界線Ldv(直接視界限界線情報)は、絶対座標系において表すこともできる。
更に、情報処理ユニット11は、ミラー位置情報(自車座標系)、ミラー画像情報にて表される画像Icに含まれるカーブミラー50(ミラー本体51)の像部分Ic50に基づき、カメラ装置20の光学的パラメータ(焦点距離、倍率、画角等)を用いて、車両100の視野範囲における当該車両100からカーブミラー50(ミラー本体51)の鏡面の最外方エッジ点に至る視野線Lmを算出する(S37)。そして、情報処理ユニット11は、前記視野線Lmの前記カーブミラー50(ミラー本体51)での反射線であって、カーブミラー50(ミラー本体51)により視認可能な領域の限界線であるミラー視界限界線Lmv(ミラー視界限界線情報)を算出する(S38:ミラー視界限界検出部)。具体的には、前述したように、カーブミラー50(ミラー本体51)の鏡面を含む球面500(図6参照)の中心Oが求められ、その中心Oから延びて前述したカーブミラー50(ミラー本体51)の鏡面の最外方エッジ点を通る法線ベクトルneが求められる。そして、前記視野線Lm及び法線ベクトルneを用い、反射の原理(幾何光学の法則)に従って、前記ミラー視界限界線Lmv(ミラー視界限界線情報)が算出される。
上述したようにミラー視界限界線Lmv(ミラー視界限界線情報)が得られると、情報処理ユニット11は、前記ミラー視界限界線Lmvと地図情報(道路R2を含む道路情報を表す)とに基づいて、前記ミラー視界限界線Lmvと道路R2の縁線との交点である障害物点Cの位置(位置情報)を算出する(S39)。また、情報処理ユニット11は、前記ミラー視界限界線Lmvと前記直接視界限界線Ldvとの交点である視界限界点Bの位置(位置情報)を算出する(S40)。そして、情報処理ユニット11は、前記障害物点A、前記視界限界点B、及び前記障害物点Cから、それら3点で囲まれる三角形領域を死角領域Zdとして表す死角領域情報を生成する(S41)。
情報処理ユニット11は、所定の終了条件(例えば、走行停止、運転支援モードOFF等)が満たれるか否かを判定し(S42)、終了条件が満たされていない(S42でNO)状況において、前述した処理(S31~S41:図11A、図11B)を繰り返し実行する。その間、車両100が交差点Xに近づくに従って順次狭くなる死角領域Zdを表す死角領域情報が生成される。
そして、情報処理ユニット11は、順次狭くなる死角領域Zdを表す死角領域情報が得られる毎に、その死角領域情報に基づいて車両100の運転支援情報を生成する。生成された運転支援情報は、車速センサ22からの信号に基づいて車両100の走行速度を認識する情報処理ユニット11の制御のもと、出力処理部14から運転支援情報の種類に応じて情報出力部(表示器、音声出力器等)、車両100における操舵系、アクセル系、及び制動系の各種アクチュエータを制御するECU等に供給される。例えば、次のような運転支援情報を生成することができる。
死角領域情報とともに道路地図に基づいて、車両100、道路R1と道路R2との交差点X、死角領域Zdを含む表示情報を運転支援情報として生成することができる。これにより、例えば、図10に示すような画像を表示器に表示させることができる。また、交差点Xに近づくに従って徐々に狭くなる死角領域Zdを表す死角領域情報に基づいて、特に、図12に示すような停止線の無い交差点Xにおいて、減速・停止すべき車両100における操舵系、アクセル系、及び制動系の各種アクチュエータを制御するECUに供給すべき制御信号を運転支援情報として生成することができる。また、前記死角領域情報に基づいて、その死角領域Zdの存在を知らせる警報情報(マーク、音声)を運転支援情報として生成することができる。
上述したような車両用情報処理装置10によれば、カーブミラー50(ミラー本体51)の鏡面の湾曲度を表すミラー湾曲情報、カーブミラー50の位置を表すミラー位置情報、カーブミラー50の鏡面の向きを表すミラー向き情報とともに地図情報に基づいて、道路R1と道路R2との交差点Xにおいて形成される車両に対する死角領域Zdを表す死角領域情報が生成される。このため、その死角領域情報に基づいて、車両に対して実際に形成される死角領域(カーブミラー50に映る実際の状況から得られる)に基づいた運転支援情報を提供することができる。
第2の実施の形態に係る車両用情報処理装置10においても、各位置や方向、また各種直線の情報は、自車座標系、絶対座標系、及び他の任意の座標系のいずれにおいても表すことができる。
なお、第1の実施の形態に係る車両用情報処理装置10では物体位置情報が生成され、第2の実施の形態に係る車両用情報処理装置10では死角領域情報が生成されたが、前記物体位置情報及び死角領域情報の双方が生成され、それらの2種の情報に基づいた運転支援情報を提供するものであってもよい。
また、前述した各実施の形態では、交差点Xにカーブミラー50が設置される状況について説明したが、これに限定されない。他の状況、例えば、カーブ道路にカーブミラーが設けられた状況であっても、前述した車両用状処理装置10は、同様の手法により、カーブミラーに映る移動物体の現実の位置を表す物体位置情報、あるいは、車両に対する死角領域を表す死角領域情報を生成することができる。