JP6730618B2 - 俯瞰映像生成装置、俯瞰映像表示装置、俯瞰映像生成方法およびプログラム - Google Patents

Description

本発明は、俯瞰映像生成装置、俯瞰映像表示装置、俯瞰映像生成方法およびプログラムに関する。

車両の駐車時、運転者は、例えば、駐車区画線、車両止め、車道外側線、縁石などの基準対象に車両の向きを合わせて駐車する。車両の駐車時、車両の俯瞰映像を車両画像と共に表示して駐車を支援する車両周辺表示装置に関する技術が知られている（例えば、特許文献１、特許文献２参照）。特許文献１に記載の技術は、駐車領域間の境界線として白線が路面に描かれていない駐車場において、車幅方向に延びた車止めから隣接する駐車領域間の境界を設定し、俯瞰映像に重畳して表示する。特許文献２に記載の技術は、駐車枠の既定部分が表示範囲外にあるとき、駐車枠の延長線を示す延長線画像を俯瞰映像に重畳して表示する。

特開２０１３−１１６６９６号公報 特開２００８−０８３９９０号公報

車両の駐車時、車両と駐車区画線、車両止めを含む基準対象との相対的な向きはステアリング操作に連動して変動する。自車両アイコンの向きが固定された俯瞰映像においては、自車両アイコンに対して基準対象の向きがステアリング操作に連動して変動する。このため、基準対象の向きに車両の向きを合わせるために、どのようにステアリング操作を行えばよいかを迅速に判断することが難しい場合がある。このように、俯瞰映像において、車両と周辺との相対的な位置関係を適切に確認可能に表示することには改善の余地がある。

本発明は、上記に鑑みてなされたものであって、車両と周辺との相対的な位置関係を適切に確認可能にすることを目的とする。

上述した課題を解決し、目的を達成するために、本発明に係る俯瞰映像生成装置は、車両の周辺を撮影する撮影部が撮影した周辺映像データを取得する映像データ取得部と、前記映像データ取得部が取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成部と、前記車両の周囲における基準対象を検出する基準対象検出部と、前記基準対象検出部が検出した基準対象と前記車両との相対的な向きを特定する向き特定部と、前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成部が生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理部と、前記重畳処理部が生成した重畳映像を表示部に表示させる表示制御部と、を備え、前記俯瞰映像生成部は、前記基準対象と前記車両との相対的な位置関係が所定条件を満たしたとき、前記自車両アイコンを基準とした俯瞰映像に代えて、前記相対的な向きを示す情報を基準とした俯瞰映像を生成することを特徴とする。

本発明に係る俯瞰映像表示装置は、上記の俯瞰映像生成装置と、前記映像データ取得部に周辺映像データを供給する撮影部、前記表示制御部が重畳映像を表示させる表示部、の少なくともどちらかを備えることを特徴とする。

本発明に係る俯瞰映像生成方法は、車両の周辺を撮影する撮影部が撮影した周辺映像データを取得する映像データ取得ステップと、前記映像データ取得ステップが取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成ステップと、前記車両の周囲における基準対象を検出する基準対象検出ステップと、前記基準対象検出ステップが検出した基準対象と前記車両との相対的な向きを特定する向き特定ステップと、前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成ステップが生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理ステップと、前記重畳処理ステップが生成した重畳映像を表示部に表示させる表示制御ステップと、を含み、前記俯瞰映像生成ステップは、前記基準対象と前記車両との相対的な位置関係が所定条件を満たしたとき、前記自車両アイコンを基準とした俯瞰映像に代えて、前記相対的な向きを示す情報を基準とした俯瞰映像を生成する。

本発明に係るプログラムは、車両の周辺を撮影する撮影部が撮影した周辺映像データを取得する映像データ取得ステップと、前記映像データ取得ステップが取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成ステップと、前記車両の周囲における基準対象を検出する基準対象検出ステップと、前記基準対象検出ステップが検出した基準対象と前記車両との相対的な向きを特定する向き特定ステップと、前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成ステップが生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理ステップと、前記重畳処理ステップが生成した重畳映像を表示部に表示させる表示制御ステップと、を含み、前記俯瞰映像生成ステップは、前記基準対象と前記車両との相対的な位置関係が所定条件を満たしたとき、前記自車両アイコンを基準とした俯瞰映像に代えて、前記相対的な向きを示す情報を基準とした俯瞰映像を生成することを俯瞰映像生成装置として動作するコンピュータに実行させる。

本発明によれば、車両と周辺との相対的な位置関係を適切に確認可能にすることができるという効果を奏する。

図１は、第一実施形態に係る俯瞰映像生成装置の構成例を示すブロック図である。 図２は、第一実施形態に係る俯瞰映像生成装置で生成した俯瞰映像の一例を示す図である。 図３は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の一例を示す図である。 図４は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。 図５は、第一実施形態に係る俯瞰映像生成装置における処理の流れを示すフローチャートである。 図６は、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。 図７は、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。 図８は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。 図９は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。 図１０は、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。 図１１は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。 図１２は、第二実施形態に係る俯瞰映像生成装置における処理の流れを示すフローチャートである。 図１３は、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。 図１４は、第二実施形態に係る俯瞰映像生成装置で生成した重畳映像の一例を示す図である。 図１５は、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。 図１６は、第二実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。 図１７は、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。 図１８は、第三実施形態に係る俯瞰映像生成装置で生成した重畳映像の一例を示す図である。 図１９は、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。 図２０は、第三実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。 図２１は、第三実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。

以下に添付図面を参照して、本発明に係る俯瞰映像生成装置４０、俯瞰映像表示装置１、俯瞰映像生成方法およびプログラムの実施形態を詳細に説明する。なお、以下の実施形態により本発明が限定されるものではない。

［第一実施形態］
図１は、第一実施形態に係る俯瞰映像生成装置の構成例を示すブロック図である。俯瞰映像表示装置１は、車両の第一俯瞰映像１００（図２参照）または重畳映像１００Ａ（図３参照）または重畳映像１００Ｂ（図９参照）を生成する。俯瞰映像生成装置４０および俯瞰映像表示装置１は、車両に搭載されている。俯瞰映像生成装置４０および俯瞰映像表示装置１は、車両に載置されているものに加えて、可搬型で車両において利用可能な装置であってもよい。

図１を用いて、俯瞰映像表示装置１について説明する。俯瞰映像表示装置１は、前方カメラ（撮影部）１１と、後方カメラ（撮影部）１２と、左側方カメラ（撮影部）１３と、右側方カメラ（撮影部）１４と、表示パネル（表示部）３１と、俯瞰映像生成装置４０とを有する。

前方カメラ１１は、俯瞰映像用カメラである。前方カメラ１１は、車両の前方に配置され、車両の前方を中心とした周辺を撮影する。前方カメラ１１は、例えば、１８０°程度の第一撮影範囲Ａ１（図６参照）を撮影する。第一撮影範囲Ａ１は、第一俯瞰映像１００の表示範囲Ａ（図６参照）より自車両Ｖの前方に広い範囲を含む。前方カメラ１１は、撮影した映像を俯瞰映像生成装置４０の映像データ取得部４２へ出力する。

後方カメラ１２は、俯瞰映像用カメラである。後方カメラ１２は、車両の後方に配置され、車両の後方を中心とした周辺を撮影する。後方カメラ１２は、例えば、１８０°程度の第二撮影範囲Ａ２（図６参照）を撮影する。第二撮影範囲Ａ２は、第一俯瞰映像１００の表示範囲Ａより自車両Ｖの後方に広い範囲を含む。後方カメラ１２は、撮影した映像を俯瞰映像生成装置４０の映像データ取得部４２へ出力する。

左側方カメラ１３は、俯瞰映像用カメラである。左側方カメラ１３は、車両の左側方に配置され、車両の左側方を中心とした周辺を撮影する。左側方カメラ１３は、例えば、１８０°程度の第三撮影範囲Ａ３（図６参照）を撮影する。第三撮影範囲Ａ３は、第一俯瞰映像１００の表示範囲Ａより自車両Ｖの左側方に広い範囲を含む。左側方カメラ１３は、撮影した映像を俯瞰映像生成装置４０の映像データ取得部４２へ出力する。

右側方カメラ１４は、俯瞰映像用カメラである。右側方カメラ１４は、車両の右側方に配置され、車両の右側方を中心とした周辺を撮影する。右側方カメラ１４は、例えば、１８０°程度の第四撮影範囲Ａ４（図６参照）を撮影する。第四撮影範囲Ａ４は、第一俯瞰映像１００の表示範囲Ａより自車両Ｖの右側方に広い範囲を含む。右側方カメラ１４は、撮影した映像を俯瞰映像生成装置４０の映像データ取得部４２へ出力する。

前方カメラ１１と後方カメラ１２と左側方カメラ１３と右側方カメラ１４とで、車両の全方位を撮影する。

表示パネル３１は、例えば、液晶ディスプレイ（ＬＣＤ：Ｌｉｑｕｉｄ Ｃｒｙｓｔａｌ Ｄｉｓｐｌａｙ）または有機ＥＬ（Ｏｒｇａｎｉｃ Ｅｌｅｃｔｒｏ−Ｌｕｍｉｎｅｓｃｅｎｃｅ）ディスプレイを含むディスプレイである。表示パネル３１は、俯瞰映像表示装置１の俯瞰映像生成装置４０から出力された映像信号に基づいて、第一俯瞰映像１００または重畳映像１００Ａまたは重畳映像１００Ｂを表示する。表示パネル３１は、俯瞰映像表示装置１に専用のものであっても、例えば、ナビゲーションシステムを含む他のシステムと共同で使用するものであってもよい。表示パネル３１は、運転者から視認容易な位置に配置されている。

俯瞰映像生成装置４０は、制御部４１と、記憶部５０とを有する。

制御部４１は、例えば、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）などで構成された演算処理装置である。制御部４１は、記憶部５０に記憶されているプログラムをメモリにロードして、プログラムに含まれる命令を実行する。制御部４１は、映像データ取得部４２と、車両情報取得部４３と、俯瞰映像生成部４４と、基準対象検出部４５と、向き特定部４６と、重畳処理部４８と、表示制御部４９とを有する。制御部４１には図示しない内部メモリが含まれ、内部メモリは制御部４１におけるデータの一時記憶などに用いられる。

映像データ取得部４２は、車両の周辺を撮影した周辺映像データを取得する。より詳しくは、映像データ取得部４２は、前方カメラ１１と後方カメラ１２と左側方カメラ１３と右側方カメラ１４とが出力した映像データを取得する。映像データ取得部４２は、取得した映像データを俯瞰映像生成部４４と基準対象検出部４５とに出力する。各々のカメラから取得する映像データは、例えば毎秒３０フレームの画像から構成される動画像である。

車両情報取得部４３は、車両のギア操作情報など、俯瞰映像の表示開始のトリガとなる車両の状況を示す車両情報を、ＣＡＮ（Ｃｏｎｔｒｏｌｌｅｒ Ａｒｅａ Ｎｅｔｗｏｒｋ）や車両の状態をセンシングする各種センサなどから取得する。車両情報取得部４３は、例えば、後退トリガを取得する。車両情報取得部４３は、例えば、車速情報を取得する。車両情報取得部４３は、取得した車両情報を俯瞰映像生成部４４に出力する。

俯瞰映像生成部４４は、映像データ取得部４２で取得した周辺映像から車両を上方から見下ろすように視点変換処理と車両を示す自車両アイコン１１０を含む合成処理とを行い、自車両Ｖから所定の表示範囲Ａを表示する第一俯瞰映像１００を生成する。より詳しくは、俯瞰映像生成部４４は、前方カメラ１１と後方カメラ１２と左側方カメラ１３と右側方カメラ１４とで撮影した映像に基づいて、第一俯瞰映像１００を生成する。第一俯瞰映像１００を生成する方法は、公知のいずれの方法でもよく、限定されない。俯瞰映像生成部４４は、生成した第一俯瞰映像１００を重畳処理部４８と表示制御部４９とに出力する。

俯瞰映像生成部４４は、基準対象Ｂと自車両Ｖとの相対的な位置関係が所定条件を満たしてないとき、自車両アイコン１１０を基準とした第一俯瞰映像１００を生成する。言い換えると、俯瞰映像生成部４４は、基準対象Ｂと自車両Ｖとの相対的な位置関係が所定条件を満たしてない間は、自車両アイコン１１０の向きと位置とを固定した第一俯瞰映像１００を生成する。自車両アイコン１１０を基準とした第一俯瞰映像１００とは、言い換えると、自車両Ｖを基準とした第一俯瞰映像でもある。

図２を用いて、第一俯瞰映像１００について説明する。図２は、第一実施形態に係る俯瞰映像生成装置で生成した俯瞰映像の一例を示す図である。第一俯瞰映像１００は、縦長の矩形状である。第一俯瞰映像１００は、前方映像１０１と後方映像１０２と左側方映像１０３と右側方映像１０４と、前方映像１０１と後方映像１０２と左側方映像１０３と右側方映像１０４とで囲まれた中央部に位置する自車両アイコン１１０とを含む。自車両アイコン１１０は、自車両Ｖの位置と向きとを示す。自車両アイコン１１０は、前後方向を第一俯瞰映像１００の前後方向と平行にして、中央部に配置されている。後方映像１０２には、被撮影物として車両止めＢ１と後方枠線Ｂ２とが表示されている。前方映像１０１と後方映像１０２と左側方映像１０３と右側方映像１０４と、自車両アイコン１１０とは、枠状の境界線で区切られていてもよい。運転者は、自車両アイコン１１０に対する車両止めＢ１と後方枠線Ｂ２との位置と向きとがわかる。これにより、運転者は、車両止めＢ１と後方枠線Ｂ２とに合わせて自車両Ｖを操舵する。

図２においては、前方映像１０１と後方映像１０２と左側方映像１０３と右側方映像１０４との境界を示す斜めの破線を説明のために図示しているが、実際に表示パネル３１に表示される第一俯瞰映像１００には当該破線は表示されなくてもよい。他の図も同様である。

俯瞰映像生成部４４は、基準対象Ｂと自車両Ｖとの相対的な位置関係が所定条件を満たしたとき、自車両アイコン１１０を基準とした第一俯瞰映像１００に代えて、基準対象Ｂと自車両Ｖとの相対的な向きを示す情報を基準とした、図示しない俯瞰映像（以下、「第二俯瞰映像」という。）を生成する。言い換えると、俯瞰映像生成部４４は、基準対象Ｂと自車両Ｖとの相対的な位置関係が所定条件を満たす間は、相対的な向きを示す情報の配置を固定した俯瞰映像を生成する。

本実施形態では、俯瞰映像生成部４４は、向き特定部４６が特定した基準対象Ｂと自車両Ｖとの相対的な向きの差が閾値未満となったとき、第一俯瞰映像１００に代えて、第二俯瞰映像を生成する。本実施形態では、閾値は５°とする。

第二俯瞰映像において、相対的な向きを示す情報は、基準対象Ｂと自車両Ｖとの相対的な向きの差が閾値未満であると判定されたときの、第一俯瞰映像１００における相対的な向きを示す情報の配置で固定してもよい。または、第二俯瞰映像において、相対的な向きを示す情報は、俯瞰映像の前後方向または左右方向と平行に配置して固定してもよい。本実施形態では、相対的な向きを示す情報を俯瞰映像の左右方向と平行に配置して固定する。

基準対象Ｂと自車両Ｖとの相対的な向きの差とは、基準対象Ｂと、基準対象Ｂと向きを合わせる自車両Ｖの対象部との相対的な向きの差である。本実施形態では、基準対象Ｂと、自車両Ｖの後端部Ｖａとの相対的な向きの差である。より詳しくは、基準対象Ｂと、自車両Ｖの後端部Ｖａとの角度の差である。

俯瞰映像生成部４４は、視点変換処理部４４１と、切出処理部４４２と、合成処理部４４３とを有する。

視点変換処理部４４１は、映像データ取得部４２で取得した周辺映像データに対して、自車両Ｖを上方から見下ろすように視点変換処理を行う。より詳しくは、視点変換処理部４４１は、前方カメラ１１と後方カメラ１２と左側方カメラ１３と右側方カメラ１４とで撮影した周辺映像データに基づいて、視点変換処理を行った映像を生成する。視点変換処理の方法は、公知のいずれの方法でもよく、限定されない。視点変換処理部４４１は、視点変換処理を行った周辺映像データを切出処理部４４２に出力する。

切出処理部４４２は、視点変換処理を行った周辺映像データから所定の範囲の映像を切出す切出処理を行う。どの範囲を切出範囲とするかは、あらかじめ登録され記憶されている。切出処理部４４２は、切出処理を行った映像の映像データを合成処理部４４３に出力する。

切出処理部４４２は、基準対象Ｂと自車両Ｖとの相対的な位置関係が所定条件を満たしたとき、視点変換処理を行った周辺映像データから、第二俯瞰映像を生成するよう、第一俯瞰映像１００の切出範囲と異なる切出範囲で映像を切出す切出処理を行う。

合成処理部４４３は、切出処理を行った映像データを合成する合成処理を行う。合成処理部４４３は、合成した映像に自車両アイコン１１０を表示した第一俯瞰映像１００または第二俯瞰映像を生成する。

基準対象検出部４５は、自車両Ｖの周囲に存在する基準対象Ｂを検出する。基準対象物検出部４５は、第一撮影範囲Ａ１、第二撮影範囲Ａ２、第三撮影範囲Ａ３、第四撮影範囲Ａ４において撮影されている基準対象物Ｂを検出する。このため、基準対象物検出部４５が検出する基準対象Ｂは、表示範囲Ａより遠方に存在する基準対象Ｂも含む。基準対象検出部４５は、映像データ取得部４２で取得した周辺映像に対して物体認識処理を行い、基準対象Ｂを検出する。基準対象検出部４５は、エッジ検出処理により、周辺映像から所定長さ以上の直線性を備えた被撮影物を基準対象Ｂとして検出してもよい。基準対象検出部４５は、基準対象Ｂを記憶した認識辞書により、周辺映像から基準対象Ｂを検出してもよい。物体認識処理は、既存の白線検出処理や、認識辞書を用いた特定の物体検出処理などを用い、または併用してもよい。

基準対象Ｂとは、所定長さ以上の直線性を備え、駐車時に自車両Ｖの向きを合わせる基準となる対象である。基準対象Ｂは、例えば、縁石、車両止め、駐車区画線、車道外側線、路面上に引かれた線である。基準対象Ｂは、方向性を有する。言い換えると、基準対象Ｂは、所定方向に沿った直線上に存在する。基準対象Ｂは、屈曲や湾曲せずに所定方向に沿ってまっすぐ延びている。物体認識処理は、基準対象Ｂとしての条件を備える対象物を検出する。

基準対象検出部４５は、複数の基準対象Ｂを検出したとき、自車両Ｖからの距離が小さいものを基準対象Ｂとしてもよい。または、基準対象検出部４５は、複数の基準対象Ｂを検出したとき、自車両Ｖの進行方向に存在する基準対象Ｂを選択してもよい。この場合、基準対象検出部４５は、自車両Ｖの進行方向における周辺映像から基準対象Ｂを検出する。または、基準対象検出部４５は、複数の基準対象Ｂを検出したとき、直線連続性の大きいものを基準対象Ｂとしてもよい。または、基準対象検出部４５は、例えば、コの字型の駐車枠線を検出したとき、後方枠線を基準対象Ｂとしてもよい。

自車両Ｖの進行方向における周辺映像とは、自車両Ｖの進行方向を向いた、前方カメラ１１と後方カメラ１２と左側方カメラ１３と右側方カメラ１４との少なくともいずれか一つが出力した映像データである。例えば、自車両Ｖの進行方向が後方のとき、後方カメラ１２が撮影した映像データと、左側方カメラ１３と右側方カメラ１４とが撮影した映像データの中で車両の側後方の範囲の映像データである。

自車両Ｖの進行方向における周辺映像は、自車両Ｖと接触する可能性がより高い方向を向いたカメラが出力した映像データを優先してもよい。例えば、自車両Ｖの進行方向が後方のとき、後方カメラ１２が撮影した映像データを、左側方カメラ１３と右側方カメラ１４とが撮影した映像データの中で車両の側後方の範囲の映像データより優先してもよい。または、例えば、自車両Ｖの進行方向が後方で操舵されているとき、後方カメラ１２が撮影した映像データ、操舵方向の左側方カメラ１３または右側方カメラ１４が撮影した映像データの中で車両の側後方の範囲の映像データ、操舵方向とは反対方向の右側方カメラ１４または左側方カメラ１３が撮影した映像データの中で車両の側後方の範囲の映像データの順で優先してもよい。

向き特定部４６は、基準対象検出部４５が検出した基準対象Ｂと自車両Ｖとの相対的な向きを特定する。より詳しくは、向き特定部４６は、基準対象検出部４５が検出した基準対象Ｂの映像データにおける向きおよび位置から、基準対象Ｂと自車両Ｖとの相対的な向きを特定する。例えば、向き特定部４６は、基準対象検出部４５が検出した基準対象Ｂの映像データにおける向きおよび位置と撮影したカメラの光軸の向きとに基づいて、基準対象Ｂと自車両Ｖとの相対的な向きを特定してもよい。例えば、向き特定部４６は、基準対象検出部４５が検出した基準対象Ｂの映像データにおける向きおよび位置と映像データの被撮影物の向きとに基づいて、基準対象Ｂと自車両Ｖとの相対的な向きを特定してもよい。本実施形態では、基準対象Ｂと自車両Ｖとの相対的な向きとは、自車両Ｖの後端部Ｖａに対する相対的な向きである。

重畳処理部４８は、基準対象Ｂと自車両Ｖとの相対的な向きを示す情報を自車両アイコン１１０を基準とした相対的な向きとして、第一俯瞰映像１００に重畳させた重畳映像１００Ａを生成する。本実施形態では、重畳処理部４８は、向き特定部４６で特定した基準対象Ｂと自車両Ｖとの相対的な向きを示す情報を基準向きアイコン（向きを示す情報）１２０で示し、第一俯瞰映像１００に重畳させた重畳映像１００Ａを生成する。より詳しくは、重畳処理部４８は、重畳映像１００Ａにおいて、基準向きアイコン１２０と自車両アイコン１１０の後端部１１０ａとの相対的な向きが、向き特定部４６で特定した相対的な向きとなるように基準向きアイコン１２０を重畳する。

重畳処理部４８は、基準対象Ｂと自車両Ｖとの相対的な位置関係が所定条件を満たしたとき、基準向きアイコン１２０を、第一俯瞰映像１００に代わって第二俯瞰映像に重畳させた重畳映像１００Ｂを生成する。

基準向きアイコン１２０は、基準対象Ｂの向きを報知するアイコンである。本実施形態では、基準向きアイコン１２０は、基準対象Ｂの延在方向に沿って延びた破線である。

重畳処理部４８は、基準向きアイコン１２０を、自車両アイコン１１０に対し基準対象Ｂが存在する側に重畳させる。例えば、基準対象Ｂが自車両Ｖの後方に検出されたとき、重畳処理部４８は、基準向きアイコン１２０を、自車両アイコン１１０に対し後方である後方映像１０２に重畳させる。より詳しくは、例えば、基準対象Ｂが自車両Ｖの後方に検出されたとき、重畳処理部４８は、基準向きアイコン１２０を、後方映像１０２の中心を基準として、言い換えると、後方映像１０２の中心を通過するように重畳させてもよい。例えば、基準対象Ｂが自車両Ｖの後方に検出されたとき、重畳処理部４８は、基準向きアイコン１２０を、後方映像１０２のみを通過するように重畳させてもよい。例えば、基準対象Ｂが自車両Ｖの後方に検出されたとき、重畳処理部４８は、基準向きアイコン１２０を、自車両アイコン１１０の進行方向側の端部から所定距離離れた位置を通過するように重畳させてもよい。

図３を用いて、重畳映像１００Ａについて説明する。図３は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の一例を示す図である。重畳映像１００Ａは、第一俯瞰映像１００と同じ縦長の矩形状である。重畳映像１００Ａは、前方映像１０１Ａと後方映像１０２Ａと左側方映像１０３Ａと右側方映像１０４Ａと自車両アイコン１１０と、重畳された基準向きアイコン１２０とを含む。基準向きアイコン１２０は、後方映像１０２Ａに重畳されている。基準向きアイコン１２０は、基準対象Ｂである例えば後方枠線Ｂ２との向きを示す。基準向きアイコン１２０によって、運転者は、車両の進行方向に、基準向きアイコン１２０の向きに沿った基準対象Ｂが存在することがわかる。これにより、運転者は、基準向きアイコン１２０に合わせて自車両Ｖを操舵する。

図３においては、回転中心１２０ａを十字形状で図示しているが、実際に表示パネル３１に表示される重畳映像１００Ａには当該十字形状は表示されなくてもよい。他の図も同様である。

重畳映像１００Ａが表示されている間、基準対象Ｂと自車両Ｖとの相対的な位置関係が変化すると、重畳映像１００Ａにおいては、基準向きアイコン１２０は、回転中心１２０ａを中心にして回転する。

重畳映像１００Ｂが表示されている間、基準対象Ｂと自車両Ｖとの相対的な向きが変化すると、基準向きアイコン１２０に対して自車両アイコン１１０の向きが変化する。

または、重畳処理部４８は、基準向きアイコン１２０を、自車両アイコン１１０の中心を基準として、言い換えると、自車両アイコン１１０の中心を通過するように重畳させてもよい。

図４を用いて、重畳映像１００Ａについて説明する。図４は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。重畳映像１００Ａは、基準向きアイコン１２０が、自車両アイコン１１０の中心を通過するように重畳されている点で、図３に示す重畳映像１００Ａと異なる。

表示制御部４９は、第一俯瞰映像１００または重畳映像１００Ａまたは重畳映像１００Ｂを表示パネル３１に表示する。

記憶部５０は、俯瞰映像生成装置４０における各種処理に要するデータおよび各種処理結果を記憶する。記憶部５０は、例えば、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、フラッシュメモリ（Ｆｌａｓｈ Ｍｅｍｏｒｙ）などの半導体メモリ素子、または、ハードディスク、光ディスクなどの記憶装置である。

次に、図５を用いて、俯瞰映像生成装置４０における処理の流れについて説明する。図５は、第一実施形態に係る俯瞰映像生成装置における処理の流れを示すフローチャートである。

制御部４１は、俯瞰映像表示を開始するか否かを判定する（ステップＳ１１）。俯瞰映像表示を開始する判定の例として、制御部４１は、後退トリガの有無に基づいて、俯瞰映像表示を開始するか否かを判定する。後退トリガとは、例えば、シフトポジションが「リバース」とされたことをいう。または、後退トリガとは、車両の進行方向が車両の前後方向の後方となったことをいう。制御部４１は、後退トリガがない場合、俯瞰映像表示を開始しないと判定し（ステップＳ１１でＮｏ）、ステップＳ１１の処理を再度実行する。制御部４１は、後退トリガがある場合、俯瞰映像表示を開始すると判定し（ステップＳ１１でＹｅｓ）、ステップＳ１２に進む。

制御部４１は、第一俯瞰映像１００を生成する（ステップＳ１２）。より詳しくは、制御部４１は、俯瞰映像生成部４４で、映像データ取得部４２が取得した周辺映像から車両を上方から見下ろすように視点変換を行った第一俯瞰映像１００を生成する。制御部４１は、ステップＳ１３に進む。

制御部４１は、基準対象Ｂを検出したか否かを判定する（ステップＳ１３）。より詳しくは、制御部４１は、基準対象検出部４５で基準対象Ｂが検出されたか否かを判定する。制御部４１は、基準対象検出部４５で基準対象Ｂが検出されたと判定した場合（ステップＳ１３でＹｅｓ）、ステップＳ１４に進む。制御部４１は、基準対象検出部４５で基準対象Ｂが検出されていないと判定した場合（ステップＳ１３でＮｏ）、ステップＳ２０に進む。

制御部４１は、基準対象Ｂが第一俯瞰映像１００の表示範囲Ａに存在するか否かを判定する（ステップＳ１４）。より詳しくは、制御部４１は、基準対象検出部４５で基準対象Ｂが検出された位置が、第一俯瞰映像１００の表示範囲Ａに含まれるか否かを判定する。制御部４１は、基準対象Ｂが第一俯瞰映像１００の表示範囲Ａに含まれると判定した場合（ステップＳ１４でＹｅｓ）、ステップＳ２０に進む。制御部４１は、基準対象Ｂが第一俯瞰映像１００の表示範囲Ａに含まれないと判定した場合（ステップＳ１４でＮｏ）、ステップＳ１５に進む。

制御部４１は、ステップＳ１３でＹｅｓと判定された後、ステップＳ１４の処理を行わずにステップＳ１５に推移してもよい。また、制御部４１は、ステップＳ１１における俯瞰映像の表示開始後に基準対象Ｂが初めて検出された場合はステップＳ１４の処理を行い、ステップＳ１９において重畳俯瞰映像が一旦表示された後は、ステップＳ１３でＹｅｓと判定された後、ステップＳ１４の処理を行わずにステップＳ１５に推移してもよい。

制御部４１は、相対的な向きを特定する（ステップＳ１５）。より詳しくは、制御部４１は、向き特定部４６で、基準対象検出部４５が検出した基準対象Ｂの映像データにおける向きおよび位置から、基準対象Ｂと自車両Ｖとの相対的な向きを特定させる。制御部４１は、ステップＳ１６に進む。

制御部４１は、相対的な向きの差が閾値未満であるか否かを判定する（ステップＳ１６）。より詳しくは、制御部４１は、向き特定部４６で特定した基準対象Ｂと自車両Ｖとの相対的な向きの差が閾値未満であるか否かを判定する。制御部４１は、相対的な向きの差が閾値未満であると判定した場合（ステップＳ１６でＹｅｓ）、ステップＳ１７に進む。制御部４１は、相対的な向きの差が閾値未満ではないと判定した場合（ステップＳ１６でＮｏ）、ステップＳ１８に進む。

制御部４１は、基準対象Ｂを基準とした重畳映像１００Ｂを生成する（ステップＳ１７）。より詳しくは、制御部４１は、俯瞰映像生成部４４で、基準対象Ｂを基準とした第二俯瞰映像を生成する。そして、制御部４１は、重畳処理部４８で、第二俯瞰映像に、基準対象Ｂの向きを示す基準向きアイコン１２０を重畳させた重畳映像１００Ｂを生成する。制御部４１は、重畳処理部４８で、自車両アイコン１１０に対し基準対象Ｂが存在する側に基準向きアイコン１２０を重畳させた重畳映像１００Ｂを生成する。制御部４１は、ステップＳ１９に進む。

制御部４１は、自車両アイコン１１０を基準とした重畳映像１００Ａを生成する（ステップＳ１８）。より詳しくは、制御部４１は、俯瞰映像生成部４４で、自車両アイコン１１０を基準とした第一俯瞰映像１００を生成する。制御部４１は、重畳処理部４８で、基準向きアイコン１２０を自車両アイコン１１０を基準とした相対的な向きとして、第一俯瞰映像１００に重畳させた重畳映像１００Ａを生成する。制御部４１は、重畳処理部４８で、基準向きアイコン１２０を、自車両アイコン１１０に対し基準対象Ｂが存在する側に重畳する。制御部４１は、ステップＳ１９に進む。

制御部４１は、重畳映像１００Ａまたは重畳映像１００Ｂを表示する（ステップＳ１９）。より詳しくは、制御部４１は、表示制御部４９で、重畳処理部４８が生成した重畳映像１００Ａまたは重畳映像１００Ｂを表示パネル３１に表示する。制御部４１は、ステップＳ２１に進む。

制御部４１は、第一俯瞰映像１００を表示する（ステップＳ２０）。より詳しくは、制御部４１は、表示制御部４９で、第一俯瞰映像１００を表示パネル３１に表示する。制御部４１は、ステップＳ２１に進む。

制御部４１は、俯瞰映像表示を終了するか否かを判定する（ステップＳ２１）。より詳しくは、制御部４１は、後退終了トリガの有無に基づいて、第一俯瞰映像１００または重畳映像１００Ａまたは重畳映像１００Ｂの表示を含む俯瞰映像表示を終了するか否かを判定する。後退終了トリガとは、例えば、シフトポジションが「リバース」から他のポジションとなったことをいう。ステップＳ２１においては、表示されている映像は第一俯瞰映像１００または重畳映像１００Ａまたは重畳映像１００Ｂである。制御部４１は、後退終了トリガがある場合、第一俯瞰映像１００または重畳映像１００Ａまたは重畳映像１００Ｂの表示を終了すると判定し（ステップＳ２１でＹｅｓ）、処理を終了する。制御部４１は、後退終了トリガがない場合、第一俯瞰映像１００または重畳映像１００Ａまたは重畳映像１００Ｂの表示を終了しないと判定し（ステップＳ２１でＮｏ）、ステップＳ１３の処理を再度実行する。

このようにして、俯瞰映像表示装置１は、自車両Ｖの周囲に基準対象Ｂが検出されると、第一俯瞰映像１００または重畳映像１００Ａまたは重畳映像１００Ｂを表示パネル３１に表示する映像信号を出力する。表示パネル３１は、俯瞰映像表示装置１から出力された映像信号に基づいて、例えば、ナビゲーション画面とともに重畳映像１００Ａを表示する。

例えば、図６、図３、図７ないし図１１を用いて、車両の後退時、後方に車両止めＢ１と後方枠線Ｂ２とが存在する場合、俯瞰映像表示装置１で生成された重畳映像１００Ａまたは重畳映像１００Ｂの一例について説明する。図６は、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。図７は、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。図８は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。図９は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。図１０は、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。図１１は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。

まず、車両が駐車位置の近傍に位置して、シフトポジションが「リバース」とされる。車両情報取得部４３は、後退トリガを取得する。このとき、図６に示すように、自車両Ｖと車両止めＢ１と後方枠線Ｂ２とが離れているものとする。図６に示す駐車区画においては、車幅方向を区画する側方枠線が存在していない。車両止めＢ１と後方枠線Ｂ２とは、第二撮影範囲Ａ２に存在し、第一俯瞰映像１００の表示範囲Ａより遠方に存在している。本実施形態では、基準対象検出部４５において、自車両Ｖの進行方向に存在し、直線連続性の大きいものを基準対象Ｂとする。このため、本実施形態では、後方枠線Ｂ２が基準対象Ｂとされる。基準対象Ｂである後方枠線Ｂ２と自車両Ｖの後端部Ｖａとの角度の差は閾値以上である。

ステップＳ１１において、制御部４１は、後退トリガがあり、俯瞰映像表示を開始すると判定する。そして、ステップＳ１２において、制御部４１は、俯瞰映像生成部４４で、第一俯瞰映像１００を生成する。そして、ステップＳ１３において、制御部４１は、基準対象Ｂとして例えば後方枠線Ｂ２を検出したと判定する。そして、ステップＳ１４において、制御部４１は、後方枠線Ｂ２は第一俯瞰映像１００の表示範囲Ａに存在しないと判定する。そして、ステップＳ１５において、制御部４１は、後方枠線Ｂ２の相対的な向きを特定する。そして、ステップＳ１６において、制御部４１は、相対的な向きの差が閾値未満ではないと判定する（ステップＳ１６でＮｏ）。そして、ステップＳ１８において、制御部４１は、自車両アイコン１１０を基準とした第一俯瞰映像１００に基準向きアイコン１２０を重畳させた重畳映像１００Ａを生成する。そして、ステップＳ１９において、制御部４１は、生成した重畳映像１００Ａを表示パネル３１に表示する。

例えば、制御部４１は、図３に示すような重畳映像１００Ａを表示パネル３１に表示する。重畳映像１００Ａは、自車両アイコン１１０を基準としている。基準向きアイコン１２０は、後方映像１０２Ａに重畳されている。基準向きアイコン１２０と自車両アイコン１１０の後端部１１０ａとの角度の差は閾値以上である。

図６に示す状態から、自車両Ｖが操舵されながら後退して、自車両Ｖと後方枠線Ｂ２とが近づいた状態を、図７に示す。車両止めＢ１と後方枠線Ｂ２とは、第二撮影範囲Ａ２に存在し、第一俯瞰映像１００の表示範囲Ａより遠方に存在している。後方枠線Ｂ２と自車両Ｖの後端部Ｖａとの角度の差は閾値以上である。

例えば、制御部４１は、図８に示すような重畳映像１００Ａを表示パネル３１に表示する。重畳映像１００Ａは、自車両アイコン１１０を基準としている。基準向きアイコン１２０は、図３に示す状態に対して、回転中心１２０ａを中心に反時計回りに回転している。基準向きアイコン１２０と自車両アイコン１１０の後端部１１０ａとの角度の差は閾値以上である。

さらに、図７に示す状態から、自車両Ｖが操舵されて、後方枠線Ｂ２と自車両Ｖの後端部Ｖａとの角度が閾値未満となった状態について説明する。

ステップＳ１３おいて、制御部４１は、後方枠線Ｂ２を検出したと判定する。そして、ステップＳ１４において、制御部４１は、後方枠線Ｂ２は第一俯瞰映像１００の表示範囲Ａに存在しないと判定する。そして、ステップＳ１５において、制御部４１は、後方枠線Ｂ２の相対的な向きを特定する。そして、ステップＳ１６において、制御部４１は、相対的な向きの差が閾値未満であると判定する（ステップＳ１６でＹｅｓ）。そして、ステップＳ１７において、制御部４１は、後方枠線Ｂ２を基準とした俯瞰映像に基準向きアイコン１２０を重畳させた重畳映像１００Ｂを生成する。そして、ステップＳ１９において、制御部４１は、生成した重畳映像１００Ｂを表示パネル３１に表示する。

例えば、制御部４１は、図９に示すような重畳映像１００Ｂを表示パネル３１に表示する。重畳映像１００Ｂは、基準向きアイコン１２０を基準とする。基準向きアイコン１２０は、左右方向と平行に配置されている。基準向きアイコン１２０と自車両アイコン１１０の後端部１１０ａとの角度の差は閾値未満である。自車両アイコン１１０は、基準向きアイコン１２０に対して傾いて配置されている。より詳しくは、自車両アイコン１１０は、図８に示す状態に対して、中心部を回転中心にして反時計回りに回転している。

重畳映像１００Ｂが表示されている状態で、例えば、駐車位置を調整するために切り返し操作されると、自車両Ｖと後方枠線Ｂ２との相対的な向きの変化に連動して、自車両アイコン１１０の中心部を回転中心として、自車両アイコン１１０が回転する。基準向きアイコン１２０は固定である。

さらに、自車両Ｖが操舵されながら後退して、自車両Ｖが後方枠線Ｂ２の近傍に位置した状態を、図１０に示す。車両止めＢ１と後方枠線Ｂ２とは、第二撮影範囲Ａ２に存在し、第一俯瞰映像１００の表示範囲Ａに存在している。後方枠線Ｂ２と自車両Ｖの後端部Ｖａとの角度の差はゼロである。後方枠線Ｂ２と自車両Ｖの後端部Ｖａとは平行である。

ステップＳ１３おいて、制御部４１は、後方枠線Ｂ２を検出したと判定する。そして、ステップＳ１４において、制御部４１は、後方枠線Ｂ２は第一俯瞰映像１００の表示範囲Ａに存在すると判定する。そして、ステップＳ２０において、制御部４１は、第一俯瞰映像１００を表示パネル３１に表示する。

例えば、制御部４１は、図１１に示すような第一俯瞰映像１００を表示パネル３１に表示する。後方映像１０２には、被撮影物として車両止めＢ１と後方枠線Ｂ２とが表示されている。ステップＳ２０において、図１１に示すように、車両止めＢ１と後方枠線Ｂ２とともに基準向きアイコン１２０を重畳して表示してもよい。または、ステップＳ２０において、基準向きアイコン１２０を表示しなくてもよい。

上述したように、基準対象Ｂと自車両Ｖとの相対的な向きの差が閾値未満になると、自車両アイコン１１０を基準とした第一俯瞰映像１００に代えて、基準向きアイコン１２０を基準にした重畳映像１００Ｂを表示パネル３１に表示する。本実施形態によれば、基準対象Ｂと自車両Ｖとの相対的な向きの差が閾値未満の間、基準向きアイコン１２０の向きを固定した重畳映像１００Ｂを表示する。これにより、本実施形態によれば、基準対象Ｂと自車両Ｖとの相対的な向きの差が閾値未満のとき、基準向きアイコン１２０に対する自車両アイコン１１０の向きを迅速に判断し易い表示をすることができる。

特に、本実施形態によれば、駐車時に基準対象Ｂと自車両Ｖとの相対的な向きの差が小さくなり駐車位置を微調整するときに、固定された基準向きアイコン１２０に対して自車両アイコン１１０の向きが変化する。これにより、本実施形態は、基準対象Ｂの向きに自車両Ｖが合っているかや、どれくらいずれているかを確認しながら、自車両Ｖが適切な向きとなるように操作することができる。

第一実施形態の変形例としては、例えば図５に示すフローチャートの処理において、自車両アイコン１１０を基準とした重畳俯瞰映像１００Ａが生成されている状態でのステップＳ１６がＹｅｓの判断で、基準対象Ｂを基準とした重畳俯瞰映像１００Ｂの生成を開始するための相対的な向きの差の閾値を第１の閾値として閾値を５°とする。さらに、基準対象Ｂを基準とした重畳俯瞰映像１００Ｂが生成されている状態でのステップＳ１６がＮｏの判断で、自車両アイコン１１０を基準とした重畳俯瞰映像１００Ａの生成を開始するための相対的な向きの差の閾値を第１の閾値より大きい第２の閾値として閾値を１５°としてもよい。これにより、基準対象Ｂと自車両Ｖとの相対的な向きの差が小さく、駐車位置を微調整するようなときに限って、基準対象Ｂを基準とした重畳俯瞰映像１００Ｂの表示を継続することができる。

第一実施形態の他の変形例としては、例えば図５に示すフローチャートの処理において、自車両アイコン１１０を基準とした重畳俯瞰映像１００Ａが生成されている状態でのステップＳ１６がＹｅｓの判断で、基準対象Ｂを基準とした重畳俯瞰映像１００Ｂの生成を開始した後は、ステップＳ１６の判断を行わずに、ステップＳ２１がＹｅｓの判断となるまで基準対象Ｂを基準とした重畳俯瞰映像１００Ｂの生成を継続させるようにしてもよい。これにより、表示される映像の向きが頻繁に切り替わることを抑制することができる。

このように、本実施形態は、車両と周辺との相対的な位置関係を適切に確認可能にすることができる。

［第二実施形態］
図１２ないし図１６を参照しながら、本実施形態に係る俯瞰映像表示装置１について説明する。図１２は、第二実施形態に係る俯瞰映像生成装置における処理の流れを示すフローチャートである。図１３は、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。図１４は、第二実施形態に係る俯瞰映像生成装置で生成した重畳映像の一例を示す図である。図１５は、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。図１６は、第二実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。俯瞰映像表示装置１は、基本的な構成は第一実施形態の俯瞰映像表示装置１と同様である。以下の説明においては、俯瞰映像表示装置１と同様の構成要素には、同一の符号または対応する符号を付し、その詳細な説明は省略する。

俯瞰映像生成部４４は、向き特定部４６が特定した基準対象Ｂと自車両Ｖとの相対的な向きが自車両アイコン１１０が示す向きに一致したとき、第一俯瞰映像１００に代えて、第二俯瞰映像を生成する。言い換えると、俯瞰映像生成部４４は、基準対象Ｂと、基準対象Ｂと向きを合わせる自車両Ｖの対象部との向きが一致すると、基準向きアイコン１２０の向きを固定した俯瞰映像を生成する。本実施形態では、俯瞰映像生成部４４は、基準対象Ｂと自車両Ｖの後端部Ｖａとの向きが一致すると、基準向きアイコン１２０の向きと位置とを固定した俯瞰映像を生成する。

次に、図１２を用いて、俯瞰映像生成装置４０における処理の流れについて説明する。図１２に示すフローチャートの処理は、図５に示すフローチャートのステップＳ１６の処理に代わって、ステップＳ３６の処理を実行する。ステップＳ３１〜ステップＳ３５、ステップＳ３７〜ステップＳ４１の処理は、ステップＳ１１〜ステップＳ１５、ステップＳ１７〜ステップＳ２１と同様の処理を行う。

制御部４１は、相対的な向きが一致するか否かを判定する（ステップＳ３６）。より詳しくは、制御部４１は、向き特定部４６で特定した基準対象Ｂと自車両Ｖの対象部との向きが一致するか否かを判定する。制御部４１は、相対的な向きが一致すると判定した場合（ステップＳ３６でＹｅｓ）、ステップＳ３７に進む。制御部４１は、相対的な向きが一致しないと判定した場合（ステップＳ３６でＮｏ）、ステップＳ３８に進む。ここでいう一致とは、完全一致に加えて、例えば±２°程度の範囲を持たせてもよい。ここでいう一致したという判断は、相対的な向きが変動している状態において、一時的に一致している状態となった場合である。

基準対象Ｂに対して自車両Ｖの向きの差がゼロになると、基準対象Ｂに対して自車両Ｖの向きが合う。基準対象Ｂに対して自車両Ｖの向きが合うとは、基準対象Ｂに対して自車両Ｖの向きが平行になったとき、または、垂直になったときである。言い換えると、基準対象Ｂに対して自車両Ｖの向きが合うとは、基準対象Ｂに対して自車両Ｖの向きが正しい向きになったときである。

例えば、図１３ないし図１６を用いて、車両の後退時、後方に車両止めＢ１と後方枠線Ｂ２とが存在する場合、俯瞰映像表示装置１で生成された重畳映像１００Ｂの一例について説明する。

図１３に示すように、後方枠線Ｂ２と自車両Ｖの後端部Ｖａとが一致した状態について説明する。後方枠線Ｂ２と自車両Ｖの後端部Ｖａとの角度の差はゼロである。後方枠線Ｂ２と自車両Ｖの後端部Ｖａとは平行である。

ステップＳ３３おいて、制御部４１は、後方枠線Ｂ２を検出したと判定する。そして、ステップＳ３４において、制御部４１は、後方枠線Ｂ２は第一俯瞰映像１００の表示範囲Ａに存在しないと判定する。そして、ステップＳ３５において、制御部４１は、後方枠線Ｂ２の相対的な向きを特定する。そして、ステップＳ３６において、制御部４１は、相対的な向きが一致すると判定する（ステップＳ３６でＹｅｓ）。そして、ステップＳ３７において、制御部４１は、後方枠線Ｂ２を基準とした俯瞰映像に基準向きアイコン１２０を重畳させた重畳映像１００Ｂを生成する。そして、ステップＳ３９において、制御部４１は、生成した重畳映像１００Ｂを表示パネル３１に表示する。

例えば、制御部４１は、図１４に示すような重畳映像１００Ｂを表示パネル３１に表示する。重畳映像１００Ｂは、基準向きアイコン１２０を基準とする。基準向きアイコン１２０は、左右方向と平行に配置されている。基準向きアイコン１２０と自車両アイコン１１０の後端部１１０ａとの向きが一致している。

図１３に示す状態から、駐車位置を調整するために切り返しされた状態を、図１５に示す。後方枠線Ｂ２と自車両Ｖの後端部Ｖａとの向きが一致していない。

例えば、制御部４１は、図１６に示すような重畳映像１００Ｂを表示パネル３１に表示する。重畳映像１００Ｂは、基準向きアイコン１２０の向きと位置とが固定され、図１４に示す重畳映像１００Ｂの基準向きアイコン１２０と同じ向きと位置である。自車両アイコン１１０は、基準向きアイコン１２０に対して傾いて配置されている。より詳しくは、自車両アイコン１１０は、図１４に示す状態に対して、中心部を回転中心にして反時計回りに回転している。

上述したように、基準対象Ｂと自車両Ｖとの相対的な向きが自車両アイコン１１０が示す向きに一致すると、自車両アイコン１１０を基準とした第一俯瞰映像１００に代えて、基準向きアイコン１２０を基準にした重畳映像１００Ｂを表示パネル３１に表示する。本実施形態によれば、基準対象Ｂと自車両Ｖとの相対的な向きが一致すると、基準向きアイコン１２０の向きを固定した重畳映像１００Ｂを表示する。これにより、本実施形態は、特に、駐車時に切り返しをしている際に、基準対象Ｂと自車両Ｖとの相対的な向きが一致した後にずれたことを確認しやすい表示とすることができる。このように、本実施形態は、車両と周辺との相対的な位置関係を適切に確認可能にすることができる。

第二実施形態の変形例としては、例えば図１２に示すフローチャートの処理において、自車両アイコン１１０を基準とした重畳俯瞰映像１００Ａが生成されている状態でのステップＳ３６がＹｅｓの判断で、基準対象Ｂを基準とした重畳俯瞰映像１００Ｂの生成を開始した後におけるステップＳ３６の判断は、第一実施形態におけるステップＳ１６のように、例えば５°〜１５°程度の閾値未満であるか否かの判断により、ステップＳ３６をＮｏの判断としてもよい。これにより、ステップＳ３６がＹｅｓの判断された後、基準対象Ｂと自車両Ｖとの相対的な向きの差が閾値未満である場合に限って、基準対象Ｂを基準とした重畳俯瞰映像１００Ｂの表示を継続することができる。

第二実施形態の他の変形例としては、例えば図１２に示すフローチャートの処理において、自車両アイコン１１０を基準とした重畳俯瞰映像１００Ａが生成されている状態でのステップＳ３６がＹｅｓの判断で、基準対象Ｂを基準とした重畳俯瞰映像１００Ｂの生成を開始した後は、ステップＳ３６の判断を行わずに、ステップＳ４１がＹｅｓの判断となるまで基準対象Ｂを基準とした重畳俯瞰映像１００Ｂの生成を継続させるようにしてもよい。これにより、表示される映像の向きが頻繁に切り替わることを抑制することができる。

［第三実施形態］
図１７ないし図２１を参照しながら、本実施形態に係る俯瞰映像表示装置１について説明する。図１７は、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。図１８は、第三実施形態に係る俯瞰映像生成装置で生成した重畳映像の一例を示す図である。図１９は、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。図２０は、第三実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。図２１は、第三実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。

本実施形態では、自車両Ｖが基準対象Ｂである車道外側線Ｂ３に沿って縦列駐車するものとする。自車両Ｖを駐車しようとしているスペースを挟んで、他車両Ｖ１と他車両Ｖ２とが存在している。

基準対象検出部４５は、映像データ取得部４２で取得した周辺映像に対して物体認識処理を行い、自車両Ｖの周囲に存在する基準対象Ｂとして車道外側線Ｂ３を検出する。

例えば、基準対象Ｂが自車両Ｖの左後方に検出されたとき、重畳処理部４８は、基準向きアイコン１２０を、自車両アイコン１１０に対し左後方である後方映像１０２と左側方映像１０３とに重畳させる。より詳しくは、例えば、基準対象Ｂが自車両Ｖの左後方に検出されたとき、重畳処理部４８は、基準向きアイコン１２０を、後方映像１０２Ａと左側方映像１０３Ａとの境界線の中点を通過するように重畳させてもよい。例えば、基準対象Ｂが自車両Ｖの左後方に検出されたとき、重畳処理部４８は、基準向きアイコン１２０を、自車両アイコン１１０の左後端部から所定距離離れた位置を通過するように重畳させてもよい。

または、重畳処理部４８は、基準向きアイコン１２０を、自車両アイコン１１０の中心を通過するように重畳させてもよい。

例えば、図１７ないし図２１を用いて、車両の縦列駐車時、左後方に基準対象Ｂである車道外側線Ｂ３が存在する場合、俯瞰映像表示装置１で生成された重畳映像１００Ａまたは重畳映像１００Ｂの一例について説明する。

まず、車両が駐車位置の近傍に位置して、シフトポジションが「リバース」とされる。車両情報取得部４３は、後退トリガを取得する。このとき、図１７に示すように、自車両Ｖと車道外側線Ｂ３とが離れているものとする。車道外側線Ｂ３は、第二撮影範囲Ａ２と第三撮影範囲Ａ３とにまたがって存在し、第一俯瞰映像１００の表示範囲Ａより遠方に存在している。車道外側線Ｂ３と自車両Ｖの左側部Ｖｂとの角度の差は閾値以上である。

例えば、制御部４１は、図１８に示すような重畳映像１００Ａを表示パネル３１に表示する。重畳映像１００Ａは、自車両アイコン１１０を基準としている。基準向きアイコン１２０は、後方映像１０２Ａと左側方映像１０３Ａとに重畳されている。基準向きアイコン１２０と自車両アイコン１１０の左側部１１０ｂとの角度の差は閾値以上である。

図１７に示す状態から、自車両Ｖが操舵されながら後退して、自車両Ｖが車道外側線Ｂ３の近傍に位置する状態を、図１９に示す。車道外側線Ｂ３は、第一撮影範囲Ａ１と第二撮影範囲Ａ２と第三撮影範囲Ａ３とにまたがって存在し、第一俯瞰映像１００の表示範囲Ａより遠方に存在している。他車両Ｖ１は、表示範囲Ａに存在し、かつ、第一撮影範囲Ａ１に存在している。他車両Ｖ２は、表示範囲Ａに存在しかつ第二撮影範囲Ａ２に存在している。

例えば、制御部４１は、図２０に示すような重畳映像１００Ａを表示パネル３１に表示する。重畳映像１００Ａは、自車両アイコン１１０を基準としている。重畳映像１００Ａには、他車両Ｖ１と他車両Ｖ２とが表示されている。基準向きアイコン１２０は、図１８に示す状態に対して、回転中心１２０ａを中心に時計回りに回転している。

さらに、自車両Ｖが操舵されて、車道外側線Ｂ３と自車両Ｖの左側部Ｖｂとの相対的な向きの差が閾値未満である状態について説明する。

例えば、制御部４１は、図２１に示すような重畳映像１００Ｂを表示パネル３１に表示する。重畳映像１００Ｂは、基準向きアイコン１２０を基準とする。基準向きアイコン１２０は、前後方向を平行に配置されている。基準向きアイコン１２０と自車両アイコン１１０の左側部１１０ｂとの角度の差は閾値未満である。自車両アイコン１１０は、基準向きアイコン１２０に対して傾いて表示されている。より詳しくは、自車両アイコン１１０は、図２０に示す状態に対して、中心部を回転中心にして時計回りに回転している。

上述したように、縦列駐車する際も、基準対象Ｂと自車両Ｖとの相対的な向きの差が閾値未満になると、自車両アイコン１１０を基準とした第一俯瞰映像１００に代えて、基準向きアイコン１２０を基準にした重畳映像１００Ｂを表示パネル３１に表示する。このように、本実施形態は、縦列駐車時であっても、車両と周辺との相対的な位置関係を適切に確認可能にすることができる。

さて、これまで本発明に係る俯瞰映像表示装置１について説明したが、上述した実施形態以外にも種々の異なる形態にて実施されてよいものである。

図示した俯瞰映像表示装置１の各構成要素は、機能概念的なものであり、必ずしも物理的に図示の如く構成されていなくてもよい。すなわち、各装置の具体的形態は、図示のものに限られず、各装置の処理負担や使用状況などに応じて、その全部または一部を任意の単位で機能的または物理的に分散または統合してもよい。

俯瞰映像表示装置１の構成は、例えば、ソフトウェアとして、メモリにロードされたプログラムなどによって実現される。上記実施形態では、これらのハードウェアまたはソフトウェアの連携によって実現される機能ブロックとして説明した。すなわち、これらの機能ブロックについては、ハードウェアのみ、ソフトウェアのみ、または、それらの組み合わせによって種々の形で実現できる。

上記した構成要素には、当業者が容易に想定できるもの、実質的に同一のものを含む。さらに、上記した構成は適宜組み合わせが可能である。また、本発明の要旨を逸脱しない範囲において構成の種々の省略、置換または変更が可能である。

重畳処理部４８は、基準向きアイコン１２０を、基準対象Ｂと自車両Ｖとの相対的な向きに応じて表示態様を変化させて重畳させてもよい。例えば、基準向きアイコン１２０は、基準対象Ｂに対する自車両Ｖの向きに応じて、太さと色と線種の少なくともいずれかを変えてもよい。基準向きアイコン１２０は、基準対象Ｂに対する自車両Ｖの向きの差が所定値より大きいときは薄い線で示し、基準対象Ｂに対して自車両Ｖの向きの差が小さくなるにつれて太くした線で表示してもよい。基準向きアイコン１２０は、基準対象Ｂに対する自車両Ｖの向きの差が所定値より大きいときは赤い色で示し、基準対象Ｂに対して自車両Ｖの向きの差が小さくなるにつれて緑色へと変化するように表示してもよい。基準向きアイコン１２０は、基準対象Ｂに対する自車両Ｖの向きの差が所定値より大きいときは破線で表示し、基準対象Ｂに対して自車両Ｖの向きの差が小さくなるにつれて実線へと変化させるように表示してもよい。

自車両アイコン１１０は、自車両Ｖの進行方向の端部、言い換えると、基準向きアイコン１２０と向きを合わせる自車両Ｖの対象部を着色して表示してもよい。これにより、重畳映像１００Ａによって、基準対象Ｂと自車両Ｖとの向きの確認がより容易になる。基準向きアイコン１２０と向きを合わせる対象部は、自車両Ｖの進行方向と基準対象Ｂとの相対的な位置関係や、撮影データに対して画像処理を行い、周囲の被撮影物との位置関係によって特定してもよい。または、基準向きアイコン１２０と向きを合わせる対象部は、ユーザが表示パネル３１に表示された自車両アイコン１１０上で選択した部分を対象部として特定してもよい。

基準向きアイコン１２０は、破線で構成されるものとして説明したが、これに限定されない。基準向きアイコン１２０は、例えば、帯状の図形でもよい。

１ 俯瞰映像表示装置
１１ 前方カメラ（撮影部）
１２ 後方カメラ（撮影部）
１３ 左側方カメラ（撮影部）
１４ 右側方カメラ（撮影部）
３１ 表示パネル（表示部）
４０ 俯瞰映像生成装置
４１ 制御部
４２ 映像データ取得部
４３ 車両情報取得部
４４ 俯瞰映像生成部
４４１ 視点変換処理部
４４２ 切出処理部
４４３ 合成処理部
４５ 基準対象検出部
４６ 向き特定部
４８ 重畳処理部
４９ 表示制御部
５０ 記憶部
１００ 第一俯瞰映像
１００Ａ 重畳映像
１１０ 自車両アイコン
１２０ 基準向きアイコン（向きを示す情報）

Claims (9)

1. 車両の周辺を撮影する撮影部が撮影した周辺映像データを取得する映像データ取得部と、
   前記映像データ取得部が取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成部と、
   前記車両の周囲における基準対象を検出する基準対象検出部と、
   前記基準対象検出部が検出した基準対象と前記車両との相対的な向きを特定する向き特定部と、
   前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成部が生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理部と、
   前記重畳処理部が生成した重畳映像を表示部に表示させる表示制御部と、
   を備え、
   前記俯瞰映像生成部は、前記基準対象と前記車両との相対的な位置関係が所定条件を満たしたとき、前記自車両アイコンを基準とした俯瞰映像に代えて、前記相対的な向きを示す情報を基準とした俯瞰映像を生成する、
   ことを特徴とする俯瞰映像生成装置。
2. 前記俯瞰映像生成部は、前記向き特定部が特定した基準対象と前記車両との相対的な向きの差が閾値未満となったとき、前記自車両アイコンを基準とした俯瞰映像に代えて、前記相対的な向きを示す情報を基準とした俯瞰映像を生成する、
   請求項１に記載の俯瞰映像生成装置。
3. 前記俯瞰映像生成部は、前記向き特定部が特定した基準対象と前記車両との相対的な向きが前記自車両アイコンが示す向きに一致したとき、前記自車両アイコンを基準とした俯瞰映像に代えて、前記相対的な向きを示す情報を基準とした俯瞰映像を生成する、
   請求項２に記載の俯瞰映像生成装置。
4. 前記俯瞰映像生成部は、前記向き特定部が特定した基準対象と前記車両との相対的な向きの差が閾値未満である間は、前記自車両アイコンを基準とした俯瞰映像に代えて、前記相対的な向きを示す情報を基準とした俯瞰映像を生成する、
   請求項２または３に記載の俯瞰映像生成装置。
5. 前記重畳処理部は、前記基準対象と自車との相対的な向きを示す情報を、前記基準対象と自車との相対的な向きに応じて表示態様を変化させて重畳させる、
   請求項１から４のいずれか一項に記載の俯瞰映像生成装置。
6. 前記基準対象検出部は、前記車両の周囲における前記表示範囲より遠方に存在する基準対象を検出する、
   請求項１から５のいずれか１項に記載の俯瞰映像生成装置。
7. 請求項１から６のいずれか一項に記載の俯瞰映像生成装置と、
   前記映像データ取得部に周辺映像データを供給する撮影部、前記表示制御部が重畳映像を表示させる表示部、の少なくともどちらかを備える、俯瞰映像表示装置。
8. 車両の周辺を撮影する撮影部が撮影した周辺映像データを取得する映像データ取得ステップと、
   前記映像データ取得ステップが取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成ステップと、
   前記車両の周囲における基準対象を検出する基準対象検出ステップと、
   前記基準対象検出ステップが検出した基準対象と前記車両との相対的な向きを特定する向き特定ステップと、
   前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成ステップが生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理ステップと、
   前記重畳処理ステップが生成した重畳映像を表示部に表示させる表示制御ステップと、
   を含み、
   前記俯瞰映像生成ステップは、前記基準対象と前記車両との相対的な位置関係が所定条件を満たしたとき、前記自車両アイコンを基準とした俯瞰映像に代えて、前記相対的な向きを示す情報を基準とした俯瞰映像を生成する、
   俯瞰映像生成方法。
9. 車両の周辺を撮影する撮影部が撮影した周辺映像データを取得する映像データ取得ステップと、
   前記映像データ取得ステップが取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成ステップと、
   前記車両の周囲における基準対象を検出する基準対象検出ステップと、
   前記基準対象検出ステップが検出した基準対象と前記車両との相対的な向きを特定する向き特定ステップと、
   前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成ステップが生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理ステップと、
   前記重畳処理ステップが生成した重畳映像を表示部に表示させる表示制御ステップと、
   を含み、
   前記俯瞰映像生成ステップは、前記基準対象と前記車両との相対的な位置関係が所定条件を満たしたとき、前記自車両アイコンを基準とした俯瞰映像に代えて、前記相対的な向きを示す情報を基準とした俯瞰映像を生成する、
   ことを俯瞰映像生成装置として動作するコンピュータに実行させるためのプログラム。

Images