以下に添付図面を参照して、本発明に係る俯瞰映像生成装置40、俯瞰映像生成システム1、俯瞰映像生成方法およびプログラムの実施形態を詳細に説明する。なお、以下の実施形態により本発明が限定されるものではない。
[第一実施形態]
図1は、第一実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。俯瞰映像生成システム1は、車両100の俯瞰映像B(図3参照)を生成する。
まず、車両について説明する。車両100は、図1に示すように、俯瞰映像生成システム1と、表示パネル101と、地図情報記憶部102と、現在地情報検出部103と、方向指示器操作検出部104と、ギア操作検出部105と、ステアリング操作検出部106と、角速度センサ107とを有する。本実施形態では、俯瞰映像生成システム1に、表示パネル101と、地図情報記憶部102と、現在地情報検出部103と、方向指示器操作検出部104と、ギア操作検出部105と、ステアリング操作検出部106と、角速度センサ107とを含めていないが、各部を俯瞰映像生成システム1に含めてもよい。俯瞰映像生成システム1は、車両100に載置されているものに加えて、可搬型で車両において利用可能な装置であってもよい。
表示パネル101は、例えば、液晶ディスプレイ(LCD:Liquid Crystal Display)または有機EL(Organic Electro-Luminescence)ディスプレイを含むディスプレイである。表示パネル101は、俯瞰映像生成システム1の俯瞰映像生成装置40から出力された映像信号に基づいて、俯瞰映像を表示する。表示パネル101は、俯瞰映像生成システム1に専用のものであっても、例えば、ナビゲーションシステムを含む他のシステムと共同で使用するものであってもよい。表示パネル101は、運転者から視認容易な位置に配置されている。
地図情報記憶部102は、地図情報を記憶する。地図情報は、例えば、交差点を含む道路地図である。地図情報は、複数車線を有する道路においては車線情報を含んでもよい。地図情報は、目的地に対する経路案内情報を含んでもよい。経路案内情報は、例えば、交差点における右左折情報と複数車線を有する道路の交差点付近における車線変更情報とを含んでもよい。地図情報記憶部102は、記憶している地図情報を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。
現在地情報検出部103は、車両100の現在地を検出する。現在地情報検出部103は、例えば、GPS(Global Positioning System)受信機である。現在地情報検出部103は、取得した車両100の現在地情報を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。
方向指示器操作検出部104は、方向指示器に対する操作を検出する。より詳しくは、方向指示器操作検出部104は、例えば、方向指示器を操作するスイッチに対する操作を方向指示器操作情報として検出する。方向指示器操作検出部104は、検出した方向指示器操作情報を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。
ギア操作検出部105は、ギアに対する操作を検出する。より詳しくは、ギア操作検出部105は、ギアに対する選択操作をギア操作情報として検出する。ギア操作検出部105は、検出したギア操作情報を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。
ステアリング操作検出部106は、ステアリングホイールに対する操作を検出する。より詳しくは、ステアリング操作検出部106は、ステアリングホイールの操作角度をステアリング操作情報として検出する。ステアリング操作検出部106は、検出したステアリング操作情報を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。
角速度センサ107は、車両100の角速度を検出する。角速度センサ107は、例えばジャイロセンサである。角速度センサ107は、検出した角速度を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。
俯瞰映像生成システム1は、第一撮影装置20と、記憶装置30と、俯瞰映像生成装置40とを有する。
第一撮影装置20は、車両100の周辺を撮影する。第一撮影装置20は、前方用周辺撮影カメラ21と、後方用周辺撮影カメラ22と、左側方用周辺撮影カメラ23と、右側方用周辺撮影カメラ24とを有する。第一撮影装置20は、前方用周辺撮影カメラ21と後方用周辺撮影カメラ22と左側方用周辺撮影カメラ23と右側方用周辺撮影カメラ24とで、車両100の全方位を撮影する。第一撮影装置20は、前方用周辺撮影カメラ21と後方用周辺撮影カメラ22と左側方用周辺撮影カメラ23と右側方用周辺撮影カメラ24とで撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。
前方用周辺撮影カメラ21は、車両100の前方に配置され、車両100の前方を中心とした周辺を撮影する。前方用周辺撮影カメラ21は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。
後方用周辺撮影カメラ22は、車両100の後方に配置され、車両100の後方を中心とした周辺を撮影する。後方用周辺撮影カメラ22は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。
左側方用周辺撮影カメラ23は、車両100の左側方に配置され、車両100の左側方を中心とした周辺を撮影する。左側方用周辺撮影カメラ23は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。
右側方用周辺撮影カメラ24は、車両100の右側方に配置され、車両100の右側方を中心とした周辺を撮影する。右側方用周辺撮影カメラ24は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。
記憶装置30は、俯瞰映像生成装置40における各種処理に要するデータおよび各種処理結果を記憶する。記憶装置30は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、または、ハードディスク、光ディスクなどの記憶装置である。
俯瞰映像生成装置40は、例えば、CPU(Central Processing Unit)などで構成された演算処理装置である。俯瞰映像生成装置40は、記憶装置30に記憶されているプログラムをメモリにロードして、プログラムに含まれる命令を実行する。俯瞰映像生成装置40は、映像取得部41と、車両情報取得部42と、俯瞰映像生成部43aと表示制御部43bとを含む制御部43と、を有する。
映像取得部41は、車両100の周辺を撮影した周辺映像を取得する。より詳しくは、映像取得部41は、第一撮影装置20の前方用周辺撮影カメラ21と後方用周辺撮影カメラ22と左側方用周辺撮影カメラ23と右側方用周辺撮影カメラ24とが出力した映像を取得する。映像取得部41は、取得した映像を俯瞰映像生成部43aに出力する。
車両情報取得部42は、車両100の旋回方向への移動を推定する車両情報を取得する。車両100の旋回方向への移動を推定する情報とは、車両100の周辺の地図情報と車両100の現在地情報と車両100の方向指示器操作情報と車両100のギア操作情報と車両100のステアリング操作情報と車両100の角速度との少なくともいずれか一つの車両情報などである。より詳しくは、車両情報取得部42は、地図情報記憶部102と現在地情報検出部103と方向指示器操作検出部104とギア操作検出部105とステアリング操作検出部106と角速度センサ107との少なくともいずれか一つが出力した車両情報を取得する。車両情報取得部42は、取得した車両情報を表示制御部43bに出力する。
制御部43は、車両100を上方から見た仮想自車両画像Aと、映像取得部41で取得した映像を、車両100の上方から見た映像に視点変換して、俯瞰映像Bを生成する俯瞰映像生成部43aと、俯瞰映像生成部43aで生成した映像を加工し、表示パネル101に送る表示制御部43bとを含む。制御部43は、俯瞰映像生成部43aで生成した映像を加工し、表示パネル101に送る。例えば、制御部43は、俯瞰映像生成部43aで生成した俯瞰映像Bを、表示制御部43bで仮想自車両画像Aを寄せて表示パネル101に表示されるように加工し、表示パネル101に送る。また、制御部44は、俯瞰映像生成部43aで生成した俯瞰映像Bを、表示制御部43bで仮想自車両画像Aを寄せておよび縮小して表示パネル101に表示されるように加工し、表示パネル101に送る。
俯瞰映像生成部43aは、前方用周辺撮影カメラ21と後方用周辺撮影カメラ22と左側方用周辺撮影カメラ23と右側方用周辺撮影カメラ24とで撮影した映像に基づいて、俯瞰映像Bを生成する。俯瞰映像Bを生成する方法は、公知のいずれの方法でもよく、限定されない。俯瞰映像Bには、仮想自車両画像A、および、前方映像B1と後方映像B2と左側方映像B3と右側方映像B4との少なくともいずれか一つを含む。俯瞰映像Bは、矩形状のフレームF内に生成される。フレームFは、前方映像B1を表示する第一フレームF1と、後方映像B2を表示する第二フレームF2と、左側方映像B3を表示する第三フレームF3と、右側方映像B4を表示する第四フレームF4との少なくともいずれか一つを含む。俯瞰映像生成部43aは、生成した俯瞰映像Bを表示制御部43bに出力する。
表示制御部43bは、車両情報取得部42で取得した車両情報に基づいて、車両100の旋回方向(左右方向)の移動が推定された場合、旋回方向において車両100が移動する方向とは反対の方向に、車両100を寄せて位置させた状態で、車両100を上方から見下ろした仮想自車両画像Aを含む俯瞰映像Bを生成する。車両100の旋回方向の移動とは、車両100が走行中の道路が延びる方向(以下、「走行道路方向」という)に対して、逸れる方向の移動である。旋回方向の移動は、車両100の前後方向の前側に向かって左右方向の移動である。例えば、右左折時や車線変更時に、車両100は、旋回方向に移動する。車両100の旋回方向の移動には、屈曲またはカーブしている道路に沿った車両100の移動は含まない。表示制御部43bは、例えば、走行道路方向とのズレが15°以上となったら、逸れる方向の移動と判定するようにしてもよい。これは、走行時の多少のブレやステアリングホイールの遊びを、車両100の旋回方向の移動として判定しないためである。
次に、図2を用いて、俯瞰映像生成システム1の俯瞰映像生成装置40における処理の流れについて説明する。図2は、俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。
表示制御部43bは、旋回方向の移動が推定されるか否かを判定する(ステップS11)。より詳しくは、表示制御部43bは、車両情報取得部42で取得した、車両100の周辺の地図情報と車両100の現在地情報と車両100の方向指示器操作情報と車両100のギア操作情報と車両100のステアリング操作情報と車両100の角速度との少なくともいずれか一つの車両情報に基づいて、車両100の旋回方向の移動が推定されるか否かを判定する。
表示制御部43bが、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100の旋回方向の移動が推定されるか否かを判定する場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100が経路案内情報で右左折が予定されている交差点の所定距離内に近づいた場合、車両100の旋回方向の移動が推定されると判定する。所定距離は、例えば、5mとしてもよい。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100が経路案内情報で車線変更が予定されている地点の所定距離内に近づいた場合、車両100の旋回方向の移動が推定されると判定する。所定距離は、例えば、5mとしてもよい。表示制御部43bは、車両100の旋回方向の移動が推定されると判定した際に、推定した車両100の移動方向を記憶装置30に記憶する。
表示制御部43bが、車両情報取得部42で取得した方向指示器操作情報に基づいて、車両100の旋回方向の移動が推定されるか否かを判定する場合について説明する。例えば、表示制御部43bは、方向指示器操作情報に基づいて、方向指示器が操作された場合、車両100の旋回方向の移動が推定されると判定する。表示制御部43bは、車両100の旋回方向の移動が推定されると判定した際に、推定した車両100の移動方向を記憶装置30に記憶する。
表示制御部43bが、車両情報取得部42で取得したギア操作情報とステアリング操作情報とに基づいて、車両100の旋回方向の移動が推定されるか否かを判定する場合について説明する。例えば、表示制御部43bは、ギア操作情報とステアリング操作情報との少なくともいずれか一方に基づいて、ステアリングホイールが操作された場合、または、リバースギアが選択されて、かつ、ステアリングホイールが操作された場合、車両100の旋回方向の移動が推定されると判定する。表示制御部43bは、車両100の旋回方向の移動が推定されると判定した際に、推定した車両100の移動方向を記憶装置30に記憶する。
表示制御部43bが、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報、および、ステアリング操作情報と車両100の角速度との少なくともいずれか一方に基づいて、車両100の旋回方向の移動が推定されるか否かを判定する場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、ステアリング操作情報と車両100の角速度との少なくともいずれか一方に基づいて、走行道路方向に対して逸れる方向にステアリング操作がされた場合、または、走行道路方向に対して逸れる方向に角速度が変化した場合、車両100の旋回方向の移動が推定されると判定する。例えば、走行道路方向とのズレが15°以上となったら、逸れる方向の移動と判定するようにしてもよい。このように、車両100の周辺の地図情報と車両100の現在地情報、および、ステアリング操作情報と車両100の角速度との少なくともいずれか一方を組み合わせて判定するのは、例えば、屈曲またはカーブしている道路に沿ってステアリング操作がされたり、角速度が変化したりした場合に、誤って車両100の旋回方向の移動が推定されると判定しないためである。表示制御部43bは、車両100の旋回方向の移動が推定されると判定した際に、推定した車両100の移動方向を記憶装置30に記憶する。
表示制御部43bが、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つに基づいて、車両100の旋回方向の移動が推定されるか否かを判定する場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つに基づいて、車両100が経路案内情報で右左折が予定されている交差点の所定距離内に近づいた場合で、かつ、方向指示器が操作された場合、または、走行道路方向に対して逸れる方向にステアリング操作がされた場合、または、走行道路方向に対して逸れる方向に角速度が変化した場合、車両100の旋回方向の移動が推定されると判定する。所定距離は、例えば、5mとしてもよい。例えば、走行道路方向とのズレが15°以上となったら、逸れる方向の移動と判定するようにしてもよい。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つに基づいて、車両100が経路案内情報で車線変更が予定されている地点の所定距離内に近づいた場合で、かつ、方向指示器が操作された場合、または、走行道路方向に対して逸れる方向にステアリング操作がされた場合、または、走行道路方向に対して逸れる方向に角速度が変化した場合、車両の旋回方向の移動が推定されると判定する。所定距離は、例えば、5mとしてもよい。例えば、走行道路方向とのズレが15°以上となったら、逸れる方向の移動と判定するようにしてもよい。このように、車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つを組み合わせて判定するのは、例えば、経路案内では右左折や車線変更が案内されているものの、運転者が経路案内に従わないで直進する場合に、誤って車両100が旋回方向に移動すると推定しないためである。表示制御部43bは、車両100の旋回方向の移動が推定されると判定した際に、推定した車両100の移動方向を記憶装置30に記憶する。
表示制御部43bは、車両100の旋回方向の移動が推定されていない場合(ステップS11でNo)、ステップS12に進む。
表示制御部43bは、車両100が旋回方向に移動すると推定した場合(ステップS11でYes)、ステップS13に進む。
表示制御部43bは、仮想自車両画像Aを中央に位置させた、通常の俯瞰映像Bを生成する(ステップS12)。より詳しくは、表示制御部43bは、車両100を中央に位置させた状態で、車両100を上方から見下ろした仮想自車両画像Aを含む俯瞰映像Bを生成する。この俯瞰映像Bは、仮想自車両画像Aの中心CがフレームFの中央に位置する。
表示制御部43bは、車両100の移動方向を取得する(ステップS13)。表示制御部43bは、ステップS11で記憶装置30に記憶した車両100の移動方向を取得する。
表示制御部43bは、仮想自車両画像Aをずらして位置させた状態で表示パネル101に表示される俯瞰映像Bを生成する(ステップS14)。より詳しくは、表示制御部43bは、旋回方向において車両100の移動方向と反対の方向に、車両100を寄せて位置させた状態で、車両100を上方から見下ろした仮想自車両画像Aを含む俯瞰映像Bを生成する。本実施形態では、表示制御部43bは、旋回方向において車両100の移動方向とは反対の方向で、かつ、フレームFの上側に、車両100を寄せて位置させた状態で、車両100を上方から見下ろした仮想自車両画像Aを含む俯瞰映像Bを生成する。
より詳しくは、まず、表示制御部43bは、車両100の移動方向が、走行道路方向に対して、左右どちらの方向に位置するかを判定する。表示制御部43bは、車両100の移動方向を右方向と判定した場合、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの左上に位置させる。この場合、仮想自車両画像Aの中心線LAは、フレームFの中心線LFよりも左側に位置する。仮想自車両画像Aの中心Cは、フレームFの上側に位置する。表示制御部43bは、車両100の移動方向を左方向と判定した場合、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの右上に位置させる。この場合、仮想自車両画像Aの中心線LAは、フレームFの中心線LFよりも右側に位置する。仮想自車両画像Aの中心Cは、フレームFの上側に位置する。そして、表示制御部43bは、仮想自車両画像AをフレームFの左上または右上に位置させた俯瞰映像Bを生成する。これにより、仮想自車両画像AがフレームFの左上に位置している場合、俯瞰映像Bには、仮想自車用画像Aの右側が広く表示される。仮想自車両画像AがフレームFの右上に位置している場合、俯瞰映像Bには、仮想自車用画像Aの左側が広く表示される。仮想自車用画像Aは車両Vを示しているため、車両Vの周辺において、旋回方向への移動時に注意すべき情報が表示される範囲を広く表示することができる。
本実施形態では、車両100の移動方向が左方向であり、図3に示すように、俯瞰映像Bは、仮想自車両画像AがフレームFの右上に位置している。図3は、俯瞰映像生成システムで生成した俯瞰映像を示す図である。俯瞰映像Bは、仮想自車両画像Aと、広い範囲の後方映像B2と左側方映像B3と、狭い範囲の前方映像B1と右側方映像B4とを含む。フレームFは、第二フレームF2と第三フレームF3とを広く含み、第一フレームF1と第四フレームF4とを狭く含む。このように、俯瞰映像Bには、車両100の移動方向である左側が広く表示される。
表示制御部43bは、車両100の旋回方向に移動が完了した場合、仮想自車両画像Aを元の状態に復帰した俯瞰映像Bを生成する。
表示制御部43bは、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100の旋回方向への移動を推定した場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100が経路案内情報で右左折が予定されている交差点から所定距離以上に離れた場合、車両100の旋回方向の移動が完了したと判定する。所定距離は、例えば、5mとしてもよい。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100が経路案内情報で車線変更が予定されている地点から所定距離以上に離れた場合、車両100の旋回方向の移動が完了したと判定する。所定距離は、例えば、5mとしてもよい。
表示制御部43bが、車両情報取得部42で取得した方向指示器操作情報に基づいて、車両100の旋回方向への移動を推定した場合について説明する。例えば、表示制御部43bは、方向指示器操作情報に基づいて、方向指示器の操作が解除された場合、車両100の旋回方向の移動が完了したと判定する。
表示制御部43bが、車両情報取得部42で取得したギア操作情報とステアリング操作情報とに基づいて、車両100の旋回方向への移動を推定した場合について説明する。例えば、表示制御部43bは、ギア操作情報とステアリング操作情報との少なくともいずれか一方に基づいて、ステアリングホイールが復帰方向に操作された場合、または、リバースギアの選択が解除されて、かつ、ステアリングホイールが復帰方向に操作された場合、車両100の旋回方向の移動が完了したと判定する。
表示制御部43bが、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報、および、ステアリング操作情報と車両100の角速度との少なくともいずれか一方に基づいて、車両100の旋回方向への移動を推定した場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、ステアリング操作情報と車両100の角速度との少なくともいずれか一方に基づいて、ステアリングホイールが復帰方向に操作がされた場合、または、角速度が復帰方向に変化した場合、車両100の旋回方向の移動が完了したと判定する。
表示制御部43bが、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両の角速度との少なくともいずれか一つに基づいて、車両100の旋回方向への移動を推定した場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つに基づいて、車両100が経路案内情報で右左折が予定されている交差点から所定距離以上離れた場合で、かつ、方向指示器の操作が解除された場合、または、ステアリングホイールが復帰方向に操作された場合、または、角速度が復帰方向に変化した場合、車両100の旋回方向の移動が完了したと判定する。所定距離は、例えば、5mとしてもよい。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つに基づいて、車両100が経路案内情報で車線変更が予定されている地点から所定距離以上離れた場合で、かつ、方向指示器の操作が解除された場合、または、ステアリングホイールが復帰方向に操作された場合、または、角速度が復帰方向に変化した場合、車両100の旋回方向の移動が完了したと判定する。所定距離は、例えば、5mとしてもよい。
このような場合に、表示制御部43bは、車両100の旋回方向に移動が完了したと判定して、仮想自車両画像Aを元の状態に復帰した俯瞰映像Bを生成する。
このようにして、俯瞰映像生成システム1は、俯瞰映像Bを生成して、俯瞰映像生成システム1の外部の表示パネル101に映像信号を出力する。外部の表示パネル101は、俯瞰映像生成システム1から出力された映像信号に基づいて、例えば、ナビゲーション画面とともに俯瞰映像Bを表示する。
上述したように、本実施形態に係る俯瞰映像生成システム1は、車両情報取得部42で取得した車両情報に基づいて、車両100の旋回方向の移動が推定される場合、旋回方向において車両100の移動方向とは反対の方向に、車両100を寄せて位置させた状態で、車両100を上方から見下ろした仮想自車両画像Aを含む俯瞰映像Bを生成することができる。これにより、例えば、車両100の移動方向が左方向の場合、俯瞰映像Bは、車両100の移動方向である左側を広く表示することができる。例えば、車両100の移動方向が右方向の場合、俯瞰映像Bは、車両100の移動方向である右側を広く表示することができる。このようにして、俯瞰映像Bには、車両100の移動方向を広く表示することができる。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。
[第二実施形態]
図4を参照しながら、本実施形態に係る俯瞰映像生成システム1について説明する。図4は、本実施形態に係る俯瞰映像生成システムで生成した俯瞰映像を示す図である。俯瞰映像生成システム1は、基本的な構成は第一実施形態の俯瞰映像生成システム1と同様である。以下の説明においては、俯瞰映像生成システム1と同様の構成要素には、同一の符号または対応する符号を付し、その詳細な説明は省略する。本実施形態の俯瞰映像生成システム1は、俯瞰映像生成装置40における処理が、第一実施形態の俯瞰映像生成システム1と異なる。
表示制御部43bは、図2に示すフローチャートのステップS14で、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する際に、車両100のサイドミラーMより後方の俯瞰映像Bを生成する。より詳しくは、表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの左上または右上に位置させる際に、車両100のサイドミラーMより後方がフレームFに収まる位置に位置させる。
本実施形態では、車両100の移動方向が左方向であり、図4に示すように、俯瞰映像Bは、仮想自車両画像AがフレームFの右上に、車両100のサイドミラーMより後方がフレームFに収まる位置に位置している。俯瞰映像Bは、仮想自車両画像AのサイドミラーMより後方と、広い範囲の後方映像B2と左側方映像B3と、狭い範囲の右側方映像B4とを含む。フレームFは、第二フレームF2と第三フレームF3とを広く含み、第四フレームF4を狭く含み、第一フレームF1を含まない。このように、俯瞰映像Bには、車両100の移動方向である左側と後方とが広く表示される。
上述したように、本実施形態に係る俯瞰映像生成システム1は、車両100のサイドミラーMより後方の俯瞰映像Bを生成することができる。このため、俯瞰映像生成システム1は、車両100の移動方向と後方とをより広く表示することができる。このような表示とすることで、サイドミラーMによる目視範囲と俯瞰映像Bとして表示される範囲の起点が一致し、サイドミラーMによる目視範囲および死角に対する俯瞰映像Bの位置関係が把握しやすい。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。
[第三実施形態]
図5を参照しながら、本実施形態に係る俯瞰映像生成システム1について説明する。図5は、本実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。本実施形態の俯瞰映像生成システム1は、俯瞰映像生成装置40における処理が、第一実施形態の俯瞰映像生成システム1と異なる。
表示制御部43bは、図2に示すフローチャートのステップS14で、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する際に、仮想自車両画像Aを縮小した俯瞰映像Bを生成する。より詳しくは、表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの左上または右上に位置させる際に、仮想自車両画像Aを縮小する。ここでいう仮想自車両画像Aの縮小表示とは、俯瞰映像Bをより広範囲に表示することで図3に対して相対的に仮想自車両画像Aが小さく表示されることである。
本実施形態では、車両100の移動方向が左方向であり、図5に示すように、俯瞰映像Bは、車両100がフレームFの右上に図3よりも小さく表示されている。俯瞰映像Bは、縮小した仮想自車両画像Aと、広い範囲の後方映像B2と左側方映像B3と、狭い範囲の前方映像B1と右側方映像B4とを含む。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第一フレームF1と第四フレームF4とを狭く含む。このように、俯瞰映像Bには、車両100の移動方向である左側と後方とがより広く表示される。
上述したように、本実施形態に係る俯瞰映像生成システム1は、仮想自車両画像Aを縮小した俯瞰映像Bを生成することができる。このため、俯瞰映像生成システム1は、車両100の移動方向と後方とをより広く表示することができる。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。
[第四実施形態]
図6ないし図8を参照しながら、本実施形態に係る俯瞰映像生成システム1Aについて説明する。図6は、本実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。本実施形態の俯瞰映像生成システム1Aは、俯瞰映像生成装置40の車両情報取得部42が、さらに車速センサ108から車速を取得する点で、第一実施形態の俯瞰映像生成システム1と異なる。
車速センサ108は、車速を検出する。より詳しくは、車速センサ108は、車両100の駆動軸またはタイヤに配置されている。車速センサ108は、駆動軸またはタイヤの回転に応じたパルス信号を検出する。車速センサ108は、検出した車速を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。
車両情報取得部42は、さらに車速センサ108で出力された車速を取得する。車両情報取得部42は、取得した車速も含む車両情報を表示制御部43bに出力する。
表示制御部43bは、図2に示すフローチャートのステップS14で、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する際に、車両情報取得部42で取得した車速に基づいて、車両100が減速している状態と車両100が加速している状態とでは、車両100が減速している状態における俯瞰映像Bの方が、車両100が移動する方向を広くした俯瞰映像Bを生成する。表示制御部43bは、図2に示すフローチャートのステップS14に進むと、図7に示すフローチャートの処理を行う。図7は、本実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。
表示制御部43bは、車両100が減速しているか否かを判定する(ステップS1411)。表示制御部43bは、車両100が減速している場合(ステップS1411でYes)、仮想自車両画像Aをずらして位置させ、車両100が移動する方向を広くした俯瞰映像Bを生成する(ステップS1412)。より詳しくは、表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの左上に位置させる際に、仮想自車両画像AをフレームFの左上端に寄せて位置させる。表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの右上に位置させる際に、仮想自車両画像AをフレームFの右上端に寄せて位置させる。
表示制御部43bは、車両100が減速していない場合(ステップS1411でNo)、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する(ステップS1413)。ステップS1413の処理は、ステップS14と同様の処理である。
本実施形態では、車両100の移動方向が左方向であり、図8に示すように、俯瞰映像Bは、仮想自車両画像AがフレームFの右上端に寄せて表示されている。仮想自車両画像Aの中心Cは、図3における仮想自車両画像Aの中心Cよりも右上端寄りに位置する。俯瞰映像Bは、仮想自車両画像Aと、広い範囲の後方映像B2と左側方映像B3とを含む。フレームFは、第二フレームF2と第三フレームF3とを含み、第一フレームF1と第四フレームF4とを含まない。このように、俯瞰映像Bには、車両100の移動方向である左側と後方がより広く表示される。
上述したように、本実施形態に係る俯瞰映像生成システム1Aは、車両100が減速している状態と車両100が加速している状態とでは、車両100が減速している状態における俯瞰映像Bの方が、車両100が移動する方向を広くした俯瞰映像Bを生成することができる。このため、俯瞰映像生成システム1Aは、車両100の移動方向と後方とをより広く表示することができる。このように、俯瞰映像生成システム1Aは、車両100の旋回方向の移動に加えて、車両100が減速しているか加速しているかに応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。
[第五実施形態]
図9、図10を参照しながら、本実施形態に係る俯瞰映像生成システム1Aについて説明する。本実施形態の俯瞰映像生成システム1Aは、俯瞰映像生成装置40における処理が、第四実施形態の俯瞰映像生成システム1Aと異なる。
表示制御部43bは、図2に示すフローチャートのステップS14で、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する際に、車両情報取得部42で取得した車速に基づいて、車両100が減速している状態と車両100が加速している状態とでは、車両100が加速している状態における俯瞰映像Bの方が、旋回方向において車両100の移動方向とは反対の方向を広くした俯瞰映像Bを生成する。表示制御部43bは、図2に示すフローチャートのステップS14に進むと、図9に示すフローチャートの処理を行う。図9は、第五実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。
表示制御部43bは、車両100が加速しているか否かを判定する(ステップS1421)。表示制御部43bは、車両100が加速している場合(ステップS1421でYes)、仮想自車両画像Aをずらして位置させ、旋回方向において車両の移動方向とは反対の方向を広くした俯瞰映像Bを生成する(ステップS1422)。より詳しくは、表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの左上に位置させる際に、仮想自車両画像AをフレームFの左上端から離して位置させる。表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの右上に位置させる際に、仮想自車両画像AをフレームFの右上端から離して位置させる。
表示制御部43bは、車両100が加速していない場合(ステップS1421でNo)、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する(ステップS1423)。ステップS1423の処理は、ステップS14と同様の処理である。
本実施形態では、車両100の移動方向が左方向であり、図10に示すように、俯瞰映像Bは、仮想自車両画像AがフレームFの右上端から離れて表示されている。仮想自車両画像Aの中心Cは、図3における仮想自車両画像Aの中心Cよりも中央寄りに位置する。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第一フレームF1と第四フレームF4とを狭く含む。俯瞰映像Bは、仮想自車両画像Aと、広い範囲の後方映像B2と左側方映像B3と、狭い範囲の前方映像B1と右側方映像B4とを含む。このように、俯瞰映像Bには、車両100の移動方向である左側と後方とに加えて、移動方向と反対の方向が表示される。
上述したように、本実施形態に係る俯瞰映像生成システム1Aは、車両100が減速している状態と車両100が加速している状態とでは、車両100が加速している状態における俯瞰映像Bの方が、旋回方向において車両100が移動する方向と反対の方向を広くした俯瞰映像Bを生成することができる。このため、俯瞰映像生成システム1Aは、車両100の移動方向と後方とに加えて、移動方向と反対の方向を表示することができる。これにより、車両100が加速している状態において、運転者は、車両100の移動方向に加えて、旋回方向において車両100の移動方向と反対の方向も俯瞰映像Bで確認することができる。このように、俯瞰映像生成システム1Aは、車両100の旋回方向の移動に加えて、車両100が減速しているか加速しているかに応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。
[第六実施形態]
図11ないし図13を参照しながら、本実施形態に係る俯瞰映像生成システム1Bについて説明する。図11は、第六実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。本実施形態の俯瞰映像生成システム1Bは、さらに第二撮影装置50を有する点で、第一実施形態の俯瞰映像生成システム1と異なる。
第二撮影装置50は、図12に示すように、車両100の左後方Q1を撮影する左後方用周辺撮影カメラ51と、右後方Q2を撮影する右後方用周辺撮影カメラ52とを有する。第二撮影装置50は、左後方用周辺撮影カメラ51と右後方用周辺撮影カメラ52とで撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。
左後方用周辺撮影カメラ51は、図中の符号Q1で示す領域を撮影する。符号Q1で示す領域は、左折時に、運転者がサイドミラーとバックミラーによる確認と目視による確認をする際に、左後方に生じる死角を含む領域である。左後方用周辺撮影カメラ51は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。
右後方用周辺撮影カメラ52は、図中の符号Q2で示す領域を撮影する。符号Q2で示す領域は、右折時に、運転者がサイドミラーとバックミラーによる確認と目視による確認をする際に、右後方に生じる死角を含む領域である。右後方用周辺撮影カメラ52は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。
映像取得部41は、さらに左後方用周辺撮影カメラ51と右後方用周辺撮影カメラ52とが出力した周辺映像を取得する。映像取得部41は、取得した左後方周辺映像と右後方周辺映像とを含む周辺映像を俯瞰映像生成部43aに出力する。
表示制御部43bは、図2に示すフローチャートのステップS14で、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する際に、映像取得部41で取得した、車両100が移動する方向の側部後方映像B5を生成する。表示制御部43bは、フレームFの下部に俯瞰映像Bを表示し、フレームFの上部に位置する第五フレームF5に側部後方映像B5を表示する映像を生成する。例えば、第五フレームF5は、仮想自車両画像AのサイドミラーMより前方に該当するフレームF内の位置としてもよい。例えば、第五フレームF5は、フレームFの上部の三分の一など所定領域に該当するフレームF内の位置としてもよい。
本実施形態では、車両100の移動方向が左方向であり、図13に示すように、フレームFの下部に俯瞰映像Bが表示され、フレームFの上部に側部後方映像B5が表示されている。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第四フレームF4を狭く含み、第一フレームF1は含まない。さらに、フレームFの上部には、第五フレームF5を含む。第五フレームF5は、仮想自車両画像AのサイドミラーMより前方に該当するフレームF内の位置である。
上述したように、本実施形態に係る俯瞰映像生成システム1Bは、俯瞰映像Bとともに、右左折時に運転者から死角となる側部後方映像B5を表示する映像を生成することができる。このため、俯瞰映像生成システム1Bは、車両100の移動方向と後方とをより確実に表示することができる。これにより、運転者は、車両100の移動方向に加えて、右左折時に運転者から死角となる領域を側部後方映像B5で確認することができる。このように、俯瞰映像生成システム1Bは、車両100の旋回方向の移動に応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。
さて、これまで本発明に係る俯瞰映像生成システム1について説明したが、上述した実施形態以外にも種々の異なる形態にて実施されてよいものである。
図示した俯瞰映像生成システム1の各構成要素は、機能概念的なものであり、必ずしも物理的に図示の如く構成されていなくてもよい。すなわち、各装置の具体的形態は、図示のものに限られず、各装置の処理負担や使用状況などに応じて、その全部または一部を任意の単位で機能的または物理的に分散または統合してもよい。
制御部43は、俯瞰映像生成部43aが、車両100を上方から見た仮想自車両画像Aと、映像取得部41で取得した映像を、車両100の上方から見た映像に変換して、俯瞰映像Bとして出力し、表示制御部43bが、俯瞰映像生成部43aで生成した映像のうち、仮想自車両画像Aと仮想自車両画像Aの周囲の映像を抽出した映像に加工し、表示パネル101に送るものとして説明したが、この構成に限定されるものではない。例えば、表示制御部が、仮想自車両画像Aと仮想自車両画像Aの周囲の映像をフレームF内にどのように配置するかを判定し、俯瞰映像生成部が、表示制御部の制御で、表示制御部が判定したフレームF内の仮想自車両画像Aと仮想自車両画像Aの周囲の映像との配置に基づいて、仮想自車両画像Aと、映像取得部41で取得した映像を、車両100の上方から見た映像に変換して、俯瞰映像Bとして表示制御部に出力し、さらに、表示制御部は、俯瞰映像Bを表示パネル101に送ってもよい。
図14に示すように、俯瞰映像生成システム1Cの俯瞰映像生成部27は、第一撮影装置20の機能の一つとしてもよい。図14は、俯瞰映像生成システムの他の構成例を示すブロック図である。この場合、俯瞰映像生成装置40の映像取得部41は、第一撮影装置20の俯瞰映像生成部27で生成された俯瞰映像Bを取得する。表示制御部43bは、第一撮影装置20の俯瞰映像生成部27で生成された俯瞰映像Bのうち、仮想自車両画像Aと仮想自車両画像Aの周囲の映像を抽出した映像に加工し、表示パネル101に送る。このように、俯瞰映像生成システム1Cにおいては、第一撮影装置20の俯瞰映像生成部27と俯瞰映像生成装置40の表示制御部43bとで制御部としての機能を実現している。
俯瞰映像生成システム1の構成は、例えば、ソフトウェアとして、メモリにロードされたプログラムなどによって実現される。上記実施形態では、これらのハードウェアまたはソフトウェアの連携によって実現される機能ブロックとして説明した。すなわち、これらの機能ブロックについては、ハードウェアのみ、ソフトウェアのみ、または、それらの組み合わせによって種々の形で実現できる。
上記に記載した構成要素には、当業者が容易に想定できるもの、実質的に同一のものを含む。さらに、上記に記載した構成は適宜組み合わせが可能である。また、本発明の要旨を逸脱しない範囲において構成の種々の省略、置換または変更が可能である。
例えば、図15に示す俯瞰映像Bは、第二実施形態と第四実施形態とを組み合わせたものである。図15は、俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。表示制御部43bは、図2に示すフローチャートのステップS14で、このような俯瞰映像Bを生成してもよい。この場合、俯瞰映像Bは、仮想自車両画像AがフレームFの右上に、車両100のサイドミラーMより後方がフレームFに収まる位置に位置し、かつ、仮想自車両画像AがフレームFの右上端に寄せて表示されている。これにより、俯瞰映像Bには、車両100の移動方向である左側と後方とがより広く表示される。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第一フレームF1と第四フレームF4とを含まない。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の確認が容易になるような俯瞰映像Bを生成することができる。
例えば、図16に示す俯瞰映像Bは、第三実施形態と第四実施形態とを組み合わせたものである。図16は、俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。表示制御部43bは、図2に示すフローチャートのステップS14で、このような俯瞰映像Bを生成してもよい。この場合、俯瞰映像Bは、仮想自車両画像AがフレームFの右上に図3よりも小さく表示され、かつ、仮想自車両画像AがフレームFの右上端に寄せて表示されている。これにより、俯瞰映像Bには、車両100の移動方向である左側と後方とがより広く表示される。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第一フレームF1と第四フレームF4とを含まない。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の確認が容易になるような俯瞰映像Bを生成することができる。
例えば、図17に示す俯瞰映像Bは、第二実施形態と第三実施形態と第四実施形態とを組み合わせたものである。図17は、俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。表示制御部43bは、図2に示すフローチャートのステップS14で、このような俯瞰映像Bを生成してもよい。この場合、俯瞰映像Bは、仮想自車両画像AがフレームFの右上に、車両100のサイドミラーMより後方がフレームFに収まる位置に位置し、かつ、仮想自車両画像AがフレームFの右上に図3よりも小さく表示され、かつ、仮想自車両画像AがフレームFの右上端に寄せて表示されている。これにより、俯瞰映像Bには、車両100の移動方向である左側と後方とがより広く表示される。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第一フレームF1と第四フレームF4とを含まない。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の確認が容易になるような俯瞰映像Bを生成することができる。
表示制御部43bは、図2に示すフローチャートのステップS14で、所望の俯瞰映像Bを生成するように、第一撮影装置20の前方用周辺撮影カメラ21と後方用周辺撮影カメラ22と左側方用周辺撮影カメラ23と右側方用周辺撮影カメラ24と、第二撮影装置50の左後方用周辺撮影カメラ51と右後方用周辺撮影カメラ52とのカメラの向き、画角を変える制御を行ってもよい。例えば、表示制御部43bは、車両100の移動方向を撮影するカメラの向きを変えたり、画角を広げたりしてもよい。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の確認が容易になるような俯瞰映像Bを生成することができる。
表示制御部43bは、図2に示すフローチャートにおいて、車両100が旋回方向に移動すると推定した場合、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成するものとしたが、ステップS14で、所定条件に応じて、フレームFにおける仮想自車両画像Aの位置を徐々にずらすようにしてもよい。例えば、表示制御部43bは、車両100の加速度に応じて、フレームFにおける仮想自車両画像Aの位置を徐々にずらしてもよい。これにより、外部の表示パネル101に表示される俯瞰映像Bにおいて、フレームF内の仮想自車両画像Aの位置が徐々に変化する。このため、運転者は、車両周辺の確認をより容易にすることができる。