以下、本発明の実施形態を図面に基づいて説明する。本実施形態では、本発明に係る車両用表示装置を、情報提供システム1に適用した場合を例にして説明する。
図1は、本実施形態に係る車両用表示装置100を備える情報提供システム1のブロック構成を示す図である。車両用表示装置100及びこれを含む情報提供システム1は、車両に搭載されている。情報提供システム1は、ドライバに自車両の周囲の様子を示す画像情報を提供する。車両用表示装置100は、自車両の周囲の第1障害物を含む第1撮像画像を、第2障害物の画像を重畳させた画像情報を生成して提示する。
図1に示すように、情報提供システム1は、車両用表示装置100と、車載装置200とを有する。車載装置200は、車両コントローラ50と、ナビゲーション装置60とを備える。車両用表示装置100と各車載装置200とは、相互に情報の授受を行うためにCAN(Controller Area Network)その他の車載LANによって接続されている。
本実施形態の車両コントローラ50は、車両情報51を記憶する。車両情報51は、車両に対する運転席の位置、ドライバごとの運転席の位置、運転席に着座するドライバの視点の位置、ドライバの視点から視認可能な領域を示す視野情報を含む。車両の運転席の位置は車種ごとに定義され、ドライバごとの運転席の位置は、識別された各ドライバの座席位置の調整量を考慮して各車両の運転席の位置に基づいて定義される。各ドライバの識別は、各ドライバが使用する鍵情報に基づいて行うことができる。ドライバの視点や視野領域は、基本情報としてドライバが入力したドライバの身長などの身体情報に基づいて算出し、記憶してもよい。また、ドライバの視点や視野領域は、座席位置の調整量に基づいて算出したドライバの身長などに基づいて算出して、記憶してもよい。後述する表示制御機能は、この車両情報51を参照して重畳画像を生成する。
本実施形態のナビゲーション装置60は、位置検出装置61と、地図情報62とを備え、自車両の現在位置から目的地までの経路を示してドライバを誘導する。また、ナビゲーション装置60は、外部との通信が可能であり、通信回線を介して各地点の信号情報、標識設置情報などの情報を取得することもできる。ナビゲーション装置60は、取得した情報、演算した情報を、車両用表示装置100、ディスプレイ30に出力する。
また、同図に示すように、本実施形態の車両用表示装置100は、制御装置10と、第1カメラ21と、第2カメラ22と、ディスプレイ30とを備える。
本実施形態の第1カメラ21,第2カメラ22は、CCD等の撮像素子を用いたカメラである。第1カメラ21と第2カメラ22は、車両の周囲の異なる領域を撮像する。本実施形態の第1カメラ21と第2カメラ22とは物理的に別体の装置である。本実施形態において、第1カメラ21は第1撮像領域を撮像し、第2カメラ22は第1撮像領域とは異なる第2撮像領域を撮像する。本実施形態の第1撮像領域と第2撮像領域とは、一部が重複する領域であってもよいが、全く同じ領域ではない。第2撮像領域は、第1撮像領域よりも自車両から遠い位置であることが好ましい。本実施形態では、共通の視点を基準として重畳したときに第1撮像領域と第2撮像領域に重複する領域が存在するように、第1カメラ21と第2カメラ22を設定する。共通視点を基準としたときに第2撮像領域から抽出される第2障害物の像が第1撮像領域内に含まれるように、第1カメラ21と第2カメラ22を設定することが好ましい。
本実施形態では、第1カメラ21と第2カメラ22とは異なる位置に設置する。特に限定されないが、第1カメラ21は、車両の天井又はバックミラー近傍に設けられ、車両の進行方向前方の領域を撮像する。本実施形態の第1カメラ21の設置位置は、これに限定されず、サイドミラー近傍に設けてもよい。また、第1カメラ21は単数でも複数でもよい。本実施形態では、広角の第1カメラ21を一つ設けている。第1カメラ21を複数設ける場合には、各第1カメラ21の設置位置に応じて共通の座標に変換し、一の視点から見た撮像画像を取得すればよい。第2カメラ22も上述した第1カメラ21と同様の機能を備え、第1カメラ21とは異なる位置に設けることができる。
本実施形態の第2カメラ22は、第1撮像領域よりも遠い第2撮像領域を撮像することができるように構成することが好ましい。例えば、第2カメラ22は、第1カメラ21よりも高い位置に設置してもよい。または、第2カメラ22に、第1撮像領域よりも離隔した(自車両から遠い)第2撮像領域を撮像できるように構成されたレンズ群を含む光学系を備えさせてもよい。第2カメラ22が第1撮像領域よりも自車両から離隔した第2撮像領域を撮像できることにより、第1カメラ21には撮像できない障害物(第2障害物)を撮像することができる。
第1カメラ21と第2カメラ22とは、同じタイミングで撮像処理を実行する。つまり、第1撮像画像と第2撮像画像とは、車両の周囲を同じタイミング、同じ場所で撮像した画像である。
本実施形態のディスプレイ30は、車両のドライバが視認可能なダッシュボード周囲に設置され、本実施形態の重畳画像、車両前方の撮像画像、ナビゲーション装置60の案内情報などを提示する。
続いて、本実施形態の制御装置10について説明する。本実施形態の車両用表示装置100の制御装置10は、第1カメラ21により撮像された第1撮像画像を、第2カメラ22により撮像された第2撮像画像の第2障害物に重畳させた重畳画像において、制御領域の透過度を制御してディスプレイ30に表示するプログラムが格納されたROM(Read Only Memory)12と、このROMに格納されたプログラムを実行することで、車両用表示装置100と情報提供システム1として機能する動作回路としてのCPU(Central Processing Unit)11と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)13と、を備えるコンピュータである。
本実施形態に係る車両用表示装置100の制御装置10は、現在位置取得機能と、第1画像取得機能と、第1障害物検出機能と、第2画像取得機能と、第2障害物検出機能と、表示制御機能とを有する。本実施形態の制御装置10は、上記機能を実現するためのソフトウェアと、上述したハードウェアの協働により各機能を実行する。
以下、本実施形態に係る車両用表示装置100の各機能について説明する。
まず、本実施形態の制御装置10の現在位置取得機能について説明する。制御装置10は、ナビゲーション装置60のGPS(Global Positioning System)を備える位置検出装置61が検出した位置情報を取得する。現在位置情報の取得手法はこれに限定されず、制御装置10は、路側装置に搭載された高度道路交通システム:ITS(Intelligent Transport Systems)が提供する位置情報を、近距離通信を介して、自車両の現在位置として取得することができる。
本実施形態の制御装置10の第1画像取得機能について説明する。制御装置10は、第1カメラ21が自車両周囲の第1撮像領域を撮像した第1撮像画像を取得する。取得した第1撮像画像は、第1障害物の抽出処理や隠蔽領域の抽出処理に利用されるとともに、車両前方の状況を示す映像としてディスプレイ30に提示される画像として利用される。
本実施形態の制御装置10の第2画像取得機能について説明する。制御装置10は、第2カメラ22が自車両周囲の第2撮像領域を撮像した第2撮像画像を取得する。取得した第2撮像画像は、第2障害物の抽出処理に利用される。この第2障害物の像は、重畳画像の映像としてディスプレイ30に提示される画像として利用される。
上述したように第1撮像画像と第2撮像画像とは異なる第1カメラ21,第2カメラ22により撮像されるため、第1撮像画像と第2撮像画像は異なる障害物を含むことがある。
本実施形態の制御装置10の第1障害物検出機能について説明する。制御装置10は、第1画像取得機能により取得された第1撮像画像から第1障害物を検出する。第1カメラ21は、自車両により近い第1撮像領域を撮像する。このため、第1カメラ21により撮像される第1撮像画像は、自車両の近くに存在する自車両の先行他車両、自車両の対向他車両、又は自車両と交差する交差他車両などの他車両を第1障害物として含む可能性が高い。第1障害物としての他車両は、自車両の直近に存在する他車両である。例えば、複数台の先行車両に自車両が連なって走行している場合には、自車両の直前に存在する他車両などである。なお、第1障害物の検出手法は特に限定されず、出願時に知られた画像情報から物体のエッジを抽出・分析する物体検出手法を適宜に利用することができる。
本実施形態の制御装置10の第2障害物検出機能について説明する。制御装置10は、第2画像取得機能により取得された第2撮像画像から第2障害物を検出する。第2カメラ22は、自車両からは相対的に第1撮像領域よりも遠い第2撮像領域を撮像する。このため、第2カメラ22により撮像される第2撮像画像は、第1障害物よりも遠くに存在する自車両の先行他車両、自車両の対向他車両、又は自車両と交差する交差他車両などの他車両や歩行者、信号などの画像を第2障害物として含む可能性が高い。第2撮像画像に含まれる第2障害物は、第1障害物である他車両の影にいる歩行者や、直前を走る他車両の影になっている他車両などである。なお、第2障害物の検出手法は特に限定されず、出願時に知られた画像情報から物体のエッジを抽出・分析する物体検出手法を適宜に利用することができる。
次に、表示制御機能を説明する。本実施形態の制御装置10は、各地点において随時取得される第1カメラ21で撮像した第1撮像画像と、第2カメラ22で撮像した第2撮像画像から検出された第2障害物の画像とを、所定の共通視点を基準として重畳させる。第1撮像画像及び第2障害物の画像はそれぞれ所定の透過度の画像であるので、重畳させると第1撮像画像の映像と第2障害物の画像とが重なり合って見える。第1撮像画像の上に第2障害物を重畳してもよいし、第2障害物の画像の上に第1撮像画像を重畳させてもよい。第2障害物を特に限定されないが、共通視点としては、各ドライバの視点の位置に基づいて定義することが好ましい。
本実施形態の重畳画像は、自車両のドライバからは他車両などの影になって見えない歩行者などの第2障害物と、ドライバも肉眼で視認できる先行車両などの第1障害物とを含む。ただし、重畳画像が第2障害物(歩行者など)を含んでいたとしても、第1撮像画像に含まれる第1障害物(他車両など)の像の位置が第2障害物(歩行者など)の像の位置と共通し、これらが重なりあってしまうと、重畳処理のみを行った重畳画像では第2障害物の像が第1障害物に隠れて見えない可能性が高い。本実施形態では、所定の共通視点を基準として第1撮像画像と第2障害物の画像とを重畳したときに、第1障害物の像と第2障害物の像とが重なりあう領域(隠蔽領域)が存在する場合には、第1障害物が第2障害物を隠蔽する可能性があると判断する。
本実施形態の制御装置10は、共通視点を基準として第1撮像画像を第2障害物の像に重畳したときに、第1撮像画像のうち、第2障害物の画像を隠蔽する第1障害物の像の一部又は全部に対応する隠蔽領域が抽出された場合には、隠蔽領域に応じて設定される制御領域の透過度を高く変更する。特に限定されないが、制御装置10は、制御領域の透過度を、隠蔽領域が抽出された場合には、隠蔽領域が抽出される前の透過度よりも相対的に高い透過度としてもよいし、制御領域以外の領域の透過度よりも相対的に高い透過度としてもよいし、撮像画像をディスプレイ30に表示するときの透過度よりも相対的に高い透過度としてもよい。
他方、本処理において隠蔽領域が抽出されない場合には、隠蔽領域に応じて設定される制御領域の透過度を維持する(変更しない)又は相対的に低くする。
ちなみに、本実施形態における第1障害物は、自車両の走行に影響を与える可能性のある物体であって、例えば、自車両の先行他車両、自車両の対向他車両、又は自車両と交差する交差他車両などの他車両である。他車両は、四輪車のみならず、二輪車や大型のトレーラなども含む。第2障害物は、第1障害物の裏側に存在して、運転席からは視認できない可能性のある物体であって、例えば、先行他車両などの影に存在する歩行者、他車両、立体標識、路面標識、信号機などである。
このように、本実施形態では、第1カメラ21による第1撮像画像に捉えることができない第2障害物が存在する場合において、第2カメラ22による第2撮像画像から第2障害物を検出する。そして、第2障害物の画像が他車両などの第1障害物によって隠蔽されてしまう場合には、第2障害物の画像を隠す第1障害物の像の一部又は全部である隠蔽領域に応じた制御領域の透過度を高めて、第2障害物の画像がドライバが視認しやすいようにする。これにより、ドライバは、先行他車両などの存在にかかわらず、その先行他車両に隠れて存在する歩行者などの第2障害物をディスプレイ30で視認することができる。
図2Aは、所定の共通視点を基準として、第1撮像画像を第2障害物の画像に重畳した重畳画像の一例を示す図である。この重畳処理は、ドライバの視点に応じた共通視点を基準に行われる。本実施形態の重畳画像はドライバが視認できる映像に、運転席に着座するドライバには視認することができない第2障害物が含まれている。図2Aの例において、運転席に着座するドライバは他車両に隠された歩行者を視認することができないが、第2カメラ22により撮像された歩行者の像が第2障害物として含まれている。つまり、同図に示す例においては、第1撮像画像には自車両の前を走行する先行他車両(第1障害物)の像VXが含まれており、この第1撮像画像を第2障害物の画像に重畳すると、他車両(第1障害物)の像VXが、自車両から見て他車両の影に居る歩行者(第2障害物)の画像を隠蔽する。このため、ドライバは重畳画像を見ても歩行者(第2障害物)を視認することができない。
このため、本実施形態における制御装置10は、共通視点を基準として第1撮像画像を第2障害物の画像に重畳した場合に、第1撮像画像のうち、第2障害物(隠れた歩行者など)の画像を隠蔽する第1障害物(先行車両)の像の一部又は全部に対応する隠蔽領域が抽出された場合には、隠蔽領域に応じて設定された制御領域の透過度を高く変更する。他方、第1撮像画像のうち、歩行者などの第2障害物の画像を隠蔽する他車両などの第1障害物の像の一部又は全部に対応する隠蔽領域が抽出されない場合には、隠蔽領域に応じて設定された制御領域の透過度の変更を行わない。つまり、本実施形態では、第1撮像画像に含まれる第1障害物が隠蔽領域を形成する場合には制御領域の透過度を高くし、隠蔽領域が形成されない場合には制御領域の透過度を変更しない(維持する)又は低くする。これにより、第1撮像画像に含まれる第1障害物が第2障害物を隠蔽しても、ドライバは重畳画像において第2障害物を視認することができる。
図2Bは、歩行者などの第2障害物の画像の一部又は全部を隠蔽する他車両などの第1障害物の像の全部を制御領域として設定し、この制御領域の透過度を高くした場合の重畳画像の一例を示す図である。制御領域は、第2障害物の画像と第1障害物の画像とが重なる領域であってもよいし、第2障害物の画像の一部又は全部と重なる第1障害物の全体の像に対応する領域であってもよい。
また、図2Cは、図2Bにおける制御領域の透過度よりも低い透過度とした重畳画像の一例を示す。図2B、図2Cでは隠蔽領域を形成する他車両(第1障害物)の像VXの全体を制御領域として設定し、この制御領域を高い透過度で示す。これにより、制御領域を略透明化し、これを透かして歩行者、横断歩道の標識、横断歩道の路面標識などの第2障害物VXPを表示することができる。図2Cの例では制御領域を半透明化し、これを透かして歩行者などの第2障害物VXPが図2Bに比べてぼんやりと示される。このように、第2障害物を隠す隠蔽領域に応じた制御領域の透過度を変更できるので、場面に応じて制御領域の透過度を変更し、他車両(第1障害物)に隠れた歩行者(第2障害物VXP)の見え方を制御することができる。
つまり、歩行者などの第2障害物VXPの画像が他車両などの第1障害物VXによって隠蔽されてしまう場合には、第2障害物の画像を隠す第1障害物の像の一部又は全部に対応する制御領域の透過度を高めて、歩行者などの第2障害物の画像が見やすいようにする。これにより、ドライバは、自車両の走行に影響を及ぼす可能性のある他車両などの存在にかかわらず、他車両に隠れた歩行者を視認することができる。
なお、図2B、図2Cに示す例では、第2障害物(歩行者)を隠蔽する第1障害物(他車両)の全体の透過度を変更する制御をした場合の例を示すが、第1障害物の像のうち、第2障害物を隠蔽する隠蔽領域(他車両の画像と歩行者の画像の重複領域)に対応する制御領域VXPのみの透過度を変更することも可能である。
本実施形態における「制御領域」は、第2障害物の画像を隠蔽する第1障害物の像に対応する領域に基づいて設定される。制御領域は、隠蔽領域を形成する第1障害物の像の一部であってもよいし全部であってもよい。例えば、第1障害物である他車両の画像の一部が歩行者などの第2障害物を隠蔽している場合には、第1障害物である他車両の画像の一部が第2障害物を隠す隠蔽領域となる。この場合において、その隠蔽領域と同じ領域を制御領域として設定してもよいし、隠蔽領域を形成する第1障害物である他車両の画像の全部を制御領域として設定してもよい。これに加えて、又は別に以下の制御領域を併せて設定することができる。
本実施形態の制御装置10は、抽出された隠蔽領域に上下又は左右に拡張領域を付加した領域を制御領域として設定し、その制御領域の透過度を高く変更する。これにより、隠蔽領域だけを透過させるのではなく、第2障害物の全体乃至その周囲も透過させるので、ドライバが第2障害物を識別しやすくすることができる。例えば、第2障害物としての歩行者の一部だけが第1障害物としての他車両と重複している場合に、その重複した一部分だけを透過させても、それが人間であるのか、標識であるのか、他車両の前を走る別の他車両であるのかが分からない場合がある。本例のように、隠蔽領域を縦横に拡張した広い範囲を制御領域とすることにより、第2障害物の大部分乃至全部に対応する領域について第1撮像画像の透過度を高くすることができるので、ドライバが第2障害物が何であるのかを正確に認識することができる。ドライバは、第2障害物が人間であるのか、標識であるのか、二輪車であるのかを正確に判断し、各物体の速度や挙動を予測して適切な運転制御をすることができる。
本実施形態の制御装置10は、抽出された隠蔽領域を含み、第1撮像画像の上端から下端に至る短冊状の領域を制御領域として設定し、その制御領域の透過度を高く変更する。例えば、図2Bに示すように、他車両VXによって隠蔽される歩行者(子供)VXPの像の領域が含まれるとともに、その上端から下端に至る短冊状の領域Qを制御領域として設定し、透過度を高くする。このように、制御領域を縦長にすることで、人間の頭部や顔の画像を制御領域に含めることができる。人間の特徴的な部分である頭や顔が確認できることにより、ドライバは第2障害物が人間であるか否かを正確に判断することができる。また、制御領域に重畳画像(第1撮像画像)の下端を含めると、制御領域に地面を含めることができるので、ドライバが自車両の走行路面に連なる地面を基準にその地面に立つ人間と自車両との距離感を正確に認識することができる。
本実施形態の制御装置10は、第2障害物が信号機である場合には、信号機の信号表示部分に対応する領域を制御領域として設定する。これにより、信号機の全体ではなく、信号機の信号表示部分に対応する制御領域の透過度を低くすることにより、信号表示部分以外の像を重畳画像に表示しないので、ドライバの注意を信号の内容に集中させることができる。信号機のうち信号表示部分を特定する手法は特に限定されないが、形状によるパターンマッチングや、信号色の各色又はその組み合わせに基づくマッチングなどの手法を用いることができる。
本実施形態において、制御領域の画像の透過度を変更する手法は特に限定されず、出願時に知られた手法を適宜に用いることができる。例えば、制御領域に対応する第1障害物の像の画素密度を低くする一方で第2障害物の画像の画素密度を高くし、制御領域における第2障害物の画素の混合率(存在率)を高くして、第2障害物の画像を優先的にドライバに示してもよい。又は制御領域に対応する第1障害物の像の色を、第2障害物の色に変更することで、第2障害物の情報を優先的にドライバに示してもよい。
第1撮像画像に第2障害物を重畳する手法として、本実施形態の制御装置10は、第1撮像画像の制御領域(第1障害物に対応する)の透過度を、第2撮像画像の制御領域(第2障害物に対応する)の透過度に対して相対的に高く設定する。つまり、第1障害物の画像の透過度を高くして、第2障害物の画像の透過度を低くする。第1撮像画像の制御領域の透過度を略80%程度の高い値とし、第2撮像画像の制御領域の透過度を略30%程度の低い値とすれば、重畳画像においては、第2障害物の画像が第1撮像画像に重畳された状態にすることができる。もちろん、重畳の順序を逆にして、第1撮像画像の上に第2障害物の画像を重畳させてもよい。
第2障害物を視認しやすくする観点から、隠蔽された第2障害物の画像を第1撮像画像の上に重畳して表示してもよい。この場合には、第2障害物を含む画像を第2撮像画像から切り出して、これを共通の視点を基準として、第1撮像画像の上に張り付ける。
この場合において、制御装置10は、第1障害物の画像の面積が大きいほど、第2障害物の画像を拡大して、第1撮像画像に重畳する。たとえば、第1障害物である先行他車両が大型の車両である場合には、第1障害物がドライバの視線を遮断する面積が広くなる。第1障害物が大きいほどドライバが視認できる領域までの距離が短くなり、ドライバは遠くに存在する障害物を確認することができない。第1障害物が大きい場合に検出された第2障害物は自車両から離隔して存在し、小さい画像として検出される可能性が高い。本実施形態では、このように小さい画像として検出される第2障害物についてもドライバの注意を喚起する観点から、これを大きく拡大して第1撮像画像に重畳する。つまり、第1障害物に隠されて、小さい画像として検出された第2障害物を拡大することにより、ドライバの注意を喚起することができる。大型車両は遠くの視界までをも妨げるので、大型車両が右左折したとたんに、歩行者が現れるという事態が発生する場合もある。本処理例によれば、このような事態の発生を抑制することができる。
また、第2障害物を視認しやすくする観点から、第2障害物の画像を強調表示し、強調表示した第2障害物の画像を第1撮像画像に重畳して表示する。本実施形態において、画像の強調表示とは、乗員の視覚に相対的に強い刺激を与え、乗員の注意を相対的に強く引きつける表示態様を意味し、例えば、非点滅表示に対する点滅表示や、低輝度の表示に対する高輝度の表示や、彩色された線図が相対的に遠くに見える後退色に対し、彩色された線図が相対的に近くに見える進出色での表示や、細線表示に対する太線表示や、単一線表示に対する多重線表示などを含む。また、第2障害物の存在境界を縁取りした線図を付加してもよい。
一方、第2障害物の画像以外は、非強調表示をする。これにより、第2障害物だけを強調することができる。画像の非強調表示とは、乗員の注意を引きつける効果が相対的に弱い表示態様を意味し、例えば、点滅表示に対する非点滅表示や、高輝度の表示に対する低輝度の表示や、彩色された線図が相対的に近くに見える進出色に対し、彩色された線図が相対的に遠くに見える後退色での表示や、太線表示に対する細線表示や、多重線表示に対する単一線表示などを含む。
具体的に点滅表示とは、所定周期で表示と非表示を繰り返す、又は点灯と消灯とを繰り返す表示である。また、高輝度表示とは、輝度を相対的に高くする表示である。進出色とは、彩色された線図が相対的に近くに見える色であって、色相環において相対的に暖色系、高明度、高彩度の色であり、例えば黄色、橙色、赤色である。他方後退色とは、彩色された線図が相対的に遠くに見える色であって、色相環において相対的に寒色系、低明度、低彩度の色であり、例えば青色、紫色、黒色である。このような進出色により表示された画像は相対的に強調されて見える。また、明度の高い黄色、赤色によって表示された画像も相対的に強調して表示することができる。さらに、「JIS Z9101安全色及び安全標識」において「注意」の意味が規定されている黄色や、「停止」の意味が規定されている赤色を強調表示として用いることが望ましい。また、有彩色の中で最も明るい黄色で強調表示し、その補色のうち最も暗い黒色で非強調表示をすることもできる。このような黄色と黒色の組み合わせは目立つため、第2障害物の画像を明確に表示することができる。また、強調表示となる線図の太さと非強調表示となる線図の太さは予め定義しておくことができる。制御装置10は、第2障害物の画像の輪郭を強調する線図を付加し、輪郭を強調する表示を付加した第2障害物の像を第1撮像画像に重畳して表示する。また、制御装置は、重畳画像において、第2障害物の画像を点滅表示させることもできる。
制御装置10は、隠蔽領域が抽出されたタイミングにおける自車両から第2障害物までの距離が近いほど制御領域の透過度を高く変更する。これにより、第1障害物により隠蔽された場合であっても、第2障害物をドライバに表示することができる。
本処理において、制御装置10は、隠蔽領域が抽出されたタイミングにおける自車両の車速が速いほど制御領域の透過度を高く変更する。これにより、第1障害物が存在した場合であっても、自車両の車速が速く、これに応じてドライバが視認すべき第2障害物も速い速度で自車両に接近している場合には、これを明確に表示することができる。
本処理において、制御装置10は第1撮像画像に対する隠蔽領域の面積比が所定値以上である場合には、第2障害物の一部又は全部を隠蔽する第1障害物の全部に対応する領域を制御領域として設定する。もちろん、この制御領域には先述した短冊状の制御領域(図2BのQ)を付加してもよい。これにより、隠蔽領域が撮像画像に対して占める面積割合が大きい場合には、隠蔽領域の原因となる第1障害物の全部を制御領域として広い範囲の透過度を高くすることができるので、第1障害物の影響を排除して第2障害物をドライバに視認しやすくすることができる。他方、制御装置10は第1撮像画像に対する隠蔽領域の面積比が所定値未満である場合には、隠蔽領域のみの相対的に狭い範囲を制御領域とし、この制御領域の透過度を高くするので、第1障害物の影響を最小限で排除し、第2障害物をドライバに視認しやすくすることができる。
面積比を評価する閾値は、道路種別、走行地域、道路形状、運転席の高さ(視野の広さ)に応じて適宜に設定することができる。道路種別が車両専用道路である、道路が直進形状である、運転席が高い(視野が広い)場合には、閾値を高く設定する。具体的に、道路種別が見通しのよい車両専用道路である、道路が直進形状である、運転席が高い(視野が広い)場合には、閾値を高く設定して、隠蔽領域が大きい場合に限って第1障害物の全部を制御領域とする。他方、道路種別が見通しの悪い市街道路である、道路が直進形状ではななく曲がっている、運転席が低い(視野が狭い)場合には、閾値を低く設定して、隠蔽領域が小さくても第1障害物の全部を制御領域とする。これにより、周囲の確認が容易な環境であるときには制御領域を小さくし、周囲の確認が困難な環境であるときには制御領域を大きくすることができる。
続いて、本実施形態の情報提供システム1の重畳画像の表示手順を、図3のフローチャートに基づいて説明する。なお、図3に示す処理内容は、所定周期で連続的に行われる。
図3に示すように、ステップS110において、制御装置10は、第1カメラ21が撮像した第1撮像画像を取得し、第1撮像画像から第1障害物を抽出する。
同時に又は相前後して、ステップS120において、制御装置10は、第2カメラ22が撮像した第2撮像画像を取得し、第2撮像画像から第2障害物を抽出する。
次にステップS130において、制御装置10は重畳処理を実行する。制御装置10は、第1撮像画像と第2障害物の画像とを重畳させて、重畳画像を生成する(図3Aを参照)。
ステップS140において、制御装置10は、第1撮像画像の第1障害物の画像と第2障害物の画像とが重なり、第2障害物の画像を隠蔽する隠蔽領域が存在するか否かを判断する。具体的に、制御装置10は、第1撮像画像と第2障害物の画像とを共通視点を基準として重畳したときに、第1撮像画像のうち、第2障害物の画像を隠蔽する第1障害物の像の一部又は全部に対応する隠蔽領域が抽出可能であるか否かを判断する。つまり、制御装置10は、重畳画像において、第2障害物の画像と重なる像を形成する第1障害物が存在するか否かを判断する。
ステップS140において隠蔽領域が存在すると判断された場合には、ステップS150へ進み、そうでない場合にはステップS170へ進む。ステップS150において第2障害物の画像を隠蔽する隠蔽領域を抽出する。制御装置10は、抽出した隠蔽領域に基づいて制御領域を設定する。
続くステップS160において、制御装置10は、設定された制御領域の透過度を高く設定し、第2障害物が明確に視認できる重畳画像を生成する。その後、ステップS170において、制御装置10は、制御領域の透過度を高く変更した重畳画像をディスプレイ30に表示する。
図4は、隠蔽領域を抽出した後に、透過度を制御する範囲を設定する処理の一例を示すフローチャート図である。
図4に示すように、ステップS150において隠蔽領域が抽出され、制御領域が設定されたら、ステップS210において、撮像画像に対する隠蔽領域の面積比が所定値以上であるか否かを判断する。
ステップS210において、隠蔽領域の面積比が所定値以上である場合には、ステップS220へ進み、隠蔽領域を含む障害物全体の像に対応する領域を制御領域として設定し、その制御領域の透過度を高く設定する。この場合には、ステップS170において、図2B,図2Cに示すような重畳画像が提示される。
他方、ステップS210において、隠蔽領域の面積比が所定値未満である場合には、ステップS230へ進み、隠蔽領域を含む障害物全体の像ではなく、隠蔽領域に対応する領域(隠蔽領域と同じ領域)を制御領域として設定し、その制御領域の透過度を高く設定する。この場合には、ステップS170において、図2B,図2Cに示す、他車両に隠蔽された歩行者の画像、路面に描かれた横断歩道標識の画像や、路側に設置された立体の横断歩道標識の画像などの隠蔽部分の領域が透けて、各第2障害物識が視認できる重畳画像がドライバに提示される。制御領域には先述した短冊状の制御領域(図2BのQ)を付加することができる。
本実施形態の車両用表示装置100によれば、以下の効果を奏する。
[1]本実施形態の車両用表示装置100によれば、歩行者などの第2障害物が、第1撮像画像に含まれる先行他車両などの第1障害物により隠蔽されてしまう場合であっても、第1障害物によって生じる隠蔽領域に応じて設定される制御領域の透過度を高くして第2障害物を視認しやすくすることができる。この結果、歩行者などの第2障害物をドライバが視認しやすいようにすることができる。
[2]本実施形態の車両用表示装置100によれば、抽出された隠蔽領域に上下又は左右の拡張領域を付加した領域を制御領域として設定し、透過度を高く変更するので、第2障害物の大部分乃至全部に対応する領域について第1撮像画像の透過度を高くすることができる。これにより、ドライバが第2障害物が人間であるのか、標識であるのか、二輪車であるのかを正確に認識することができるので、第2障害物の属性に応じて適切な運転制御をすることができる。
[3]本実施形態の車両用表示装置100によれば、抽出された隠蔽領域を含み、第1撮像画像の上端から下端に至る短冊状の縦長の領域を制御領域として設定するので、制御領域に人間の頭部や顔を含めることができる。ドライバは、人間の特徴点である頭部や顔の存在を認識することにより、第2障害物が人間であるか否かを正確に判断することができる。また、制御領域に重畳画像(第1撮像画像)の下端を含めると、制御領域に地面を含めることができるので、ドライバが自車両の走行路面に連なる地面を基準にその地面に立つ人間と自車両との距離感を正確に認識することができる。
[4]本実施形態の車両用表示装置100によれば、第1撮像画像の制御領域の透過度を、第2撮像画像の制御領域の透過度に対して相対的に高くするので、ドライバが重畳画像を見るときに第2障害物を視認しやすいようにすることができる。
[5]本実施形態の車両用表示装置100によれば、隠蔽された第2障害物の画像を第1撮像画像に重畳して表示するので、ドライバが重畳画像を見るときに第2障害物を視認しやすいようにすることができる。
[6]本実施形態において、第1障害物の画像の面積が大きいほど、第2障害物の画像を拡大して、第1撮像画像に重畳して表示する。第1障害物が大きいほどドライバが視認できる領域の距離が短くなり、ドライバは遠くに存在する障害物を確認することができない。第1障害物の大きさが大きいほど、その状況で検出された第2障害物は自車両から離隔して存在し、小さい画像として検出される。本実施形態では、このように小さい画像として検出される第2障害物についてもドライバの注意を喚起する観点から、これを大きく拡大して第1撮像画像に重畳する。つまり、小さい画像として検出された第2障害物を拡大して表示することにより、遠くに存在する第2障害物の存在をドライバに知らせることができる。
[7]本実施形態において、第2障害物の画像を強調表示し、強調表示させた第2障害物の画像を第1撮像画像に重畳して表示するので、ドライバが重畳画像を見るときに第2障害物を視認しやすいようにすることができる。
[8]本実施形態の車両用表示装置100によれば、隠蔽領域が抽出されたタイミングにおける、自車両の車速が速いほど制御領域の透過度を高く変更するので、障害物が存在した場合であっても、自車両の車速が速く、これに応じてドライバが視認すべき第2障害物も速い速度で自車両に接近している場合には、これを明確に表示することができる。
[9]本実施形態の車両用表示装置100によれば、撮像画像に対する隠蔽領域の面積比が所定値以上である場合には、障害物の全部に対応する領域を制御領域として設定する。隠蔽領域形成の原因となる障害物の全部に相当する広い範囲を制御領域とし、この制御領域の透過度を高くするので、障害物の影響を排除してドライバが第2障害物を視認しやすいようにすることができる。他方、制御装置10は、撮像画像に対する隠蔽領域の面積比が所定値未満である場合には、障害物の一部に対応する領域だけを制御領域として設定するので、障害物の影響を最小限で排除し、第2障害物をドライバに視認しやすくすることができる。
[10] 本実施形態の車両用表示装置100によれば、第1カメラ21は第1撮像領域を撮像し、第2カメラ22は第1撮像領域とは異なる第2撮像領域を撮像するようにするので、第1カメラ21では撮像できない第2障害物を第2カメラ22によって撮像することができる。つまり、運転席に着座するドライバが視認できない他車両の影の人間や物体を第2カメラ22により検出することができる。
[11] 本実施形態の車両用表示装置100によれば、第1障害物は、自車両の先行他車両、自車両の対向他車両、又は自車両と交差する交差他車両とし、これらの第1障害物によって生じる隠蔽領域を抽出するので、自車両に接近する他車両が隠蔽してもドライバに第2障害物を視認させることができる。
[12] 本実施形態の車両用表示装置100によれば、第2障害物は、自車両の先行他車両、自車両の対向他車両、又は自車両と交差する交差他車両、歩行者、信号などの立体物とし、これらの第2障害物が隠蔽された場合であっても、重畳画像に示すことができる。
[13] 本実施形態の車両用表示装置100によれば、第2障害物が信号機である場合には、信号機の信号表示部分に対応する領域を制御領域として設定し、信号機が第1障害物に隠蔽された場合であっても、その信号表示部分を重畳画像に表示するので、ドライバの注意を信号が発する情報に集中させることができる。
なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
すなわち、本明細書では、本発明に係る車両用表示装置100と車載装置200とを備える情報提供システム1を例にして説明するが、本発明はこれに限定されるものではない。
本明細書では、本発明に係る車両用表示装置の一態様として、制御装置10と、第1カメラ21と、第2カメラ22と、ディスプレイ30とを備える車両用表示装置100を一例として説明するが、これに限定されるものではない。
本明細書では、現在位置取得手段と、第1画像取得手段と、第1障害物検出手段と、第2画像取得手段と、第2障害物検出手段と、表示制御手段と、を備える本発明に係る車両用表示装置の一例として、現在位置取得機能と、第1画像取得機能と、第1障害物検出機能と、第2画像取得機能と、第2障害物検出機能と、表示制御機能とを実行する制御装置10を備える車両用表示装置100を一例として説明するが、これに限定されるものではない。