JP5677168B2 - 画像表示システム、画像生成装置及び画像生成方法 - Google Patents

Description

本発明は、車両において画像を表示する技術に関する。

従来より、自動車などの車両に搭載され、車載カメラで得られる撮影画像に基づいて車両の周囲の領域を示す周辺画像を車室内のディスプレイに表示する画像表示システムが知られている。この画像表示システムを利用することにより、ユーザ（代表的にはドライバ）は車両の周囲の様子をほぼリアルタイムに把握することができる。

例えば、運転席の逆側となるフロントフェンダの外側領域は運転席から死角となりやすく、車体と障害物との間のクリアランスをユーザが把握しにくい。これに対して、画像表示システムを利用すれば、車両の側方に配置された車載カメラの撮影画像に基づいてフロントフェンダの外側領域を示す周辺画像を車室内のディスプレイに表示できる。これにより、車両の幅寄せを行う場合などにおいて、運転席の逆側の車体と障害物との間のクリアランスをユーザが容易に確認できることとなる。

なお、周辺画像や撮影画像に各種ガイド線を付加する画像表示システムが知られている（例えば、特許文献１〜３）。

特開２００８−１３２８８２号公報

上記の画像表示システムにおいて、周辺画像と撮影画像の両方を表示画面に表示することが考えられ、この場合、撮影画像のうち、後方撮影画像と前方撮影画像との間でのみ表示の切替を行うことも考えられる。しかしながら、車両が停止状態でシフト位置が後退位置にあるときに周辺画面及び前方撮影画像が表示画面に表示された場合、運転者は、表示画面に表示された前方撮影画像から、シフト位置が後退位置にあるにもかかわらず前進位置にあると運転者が誤って判断することがあるので、シフト位置が後退位置であることを運転者が判断するのが困難となる場合がある。

本発明の目的は、シフト位置が後退位置にあるときに周辺画像及び前方撮影画像が表示画面に表示された場合でもシフト位置が後退位置であることを運転者が容易に判断することができる画像表示システム、画像生成装置及び画像生成方法を提供することである。

本発明による画像表示システムは、車両に搭載される画像表示システムであって、車両に配置されたカメラと、カメラで得られる撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成する合成画像生成手段と、合成画像を表示画面に表示する表示手段と、合成画像にガイド線を付加するガイド線付加手段と、車両の変速装置のシフトレバーのシフト位置を検出するシフト位置検出手段と、車両の停止状態又は移動状態を検出する車両状態検出手段と、車両が停止状態でシフト位置が後退位置にある場合に、前記合成画像へのガイド線の付加を禁止するガイド線処理手段と、を備える。

本発明による画像生成装置は、撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成する合成画像生成手段と、合成画像を表示装置の表示画面に表示する表示手段と、合成画像にガイド線を付加するガイド線付加手段と、車両の変速装置のシフトレバーのシフト位置を検出するシフト位置検出手段からのシフトポジション信号を受信するシフト位置信号受信手段と、車両の停止状態又は移動状態を検出する車両状態検出手段からの信号を受信する状態信号受信手段と、車両が停止状態でシフト位置が後退位置にある場合に、前記合成画像へのガイド線の付加を禁止するガイド線処理手段と、を備える。

本発明による画像表示方法は、車両に配置されたカメラで得られる撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成し、合成画像を表示画面に表示し、合成画像にガイド線を付加し、車両の変速装置のシフトレバーのシフト位置を検出し、車両の停止状態又は移動状態を検出し、車両が停止状態でシフト位置が後退位置にある場合に、合成画像へのガイド線の付加を禁止する、ステップを備える。

本発明によれば、シフト位置が後退位置にあるときに周辺画像及び前方撮影画像が表示画面に表示された場合でもシフト位置が後退位置であることを運転者が容易に判断することができる。

第１の実施の形態の画像表示システムの構成例を示す図である。 車載カメラが車両に配置される位置を示す図である。 （Ａ）及び（Ｂ）は、画像結合部によって生成される結合画像の説明図である。 合成画像を生成する手法を説明する図である。 画像表示システムの動作モードの遷移を示す図である。 ガイド線の付加及び消去の一例の説明図である。 ガイド線の付加及び消去時における画像表示システムの処理例の説明図である。 第２の実施の形態の画像表示システムの構成例を示す図である。 ガイド線の選択の一例の説明図である。 ガイド線の選択時における画像表示システムの処理例の説明図である。

＜第１の実施の形態＞
＜１−１．システム構成＞
図１は、第１の実施の形態の画像表示システム１２０の構成を示すブロック図である。この画像表示システム１２０は、車両（本実施の形態では、自動車）に搭載されるものであり、車両の周囲を撮影して画像を生成して車室内に表示する機能を有している。画像表示システム１２０のユーザ（代表的にはドライバ）は、この画像表示システム１２０を利用することにより、当該車両の周囲の様子をほぼリアルタイムに把握できるようになっている。

図１に示すように、画像表示システム１２０は、車両の周囲の様子を示す周辺画像を生成する画像生成装置１００と、車両に乗車するユーザに対して各種情報を表示するナビゲーション装置２０とを主に備えている。画像生成装置１００で生成された周辺画像は、ナビゲーション装置２０において表示される。

ナビゲーション装置２０は、ユーザに対しナビゲーション案内を行うものであり、タッチパネル機能を備えた液晶などのディスプレイ２１と、ユーザが操作を行うハードスイッチなどの操作部２２と、装置全体を制御する制御部２３とを備えている。ディスプレイ２１の画面がユーザから視認可能なように、ナビゲーション装置２０は車両のインストルメントパネルなどに設置される。

ユーザの各種の指示は、操作部２２とタッチパネルとしてのディスプレイ２１とによって受け付けられる。制御部２３は、ＣＰＵ、ＲＡＭ及びＲＯＭなどを備えたコンピュータであり、所定のプログラムに従ってＣＰＵが演算処理を行うことでナビゲーション機能を含む各種の機能が実現される。ナビゲーション装置２０は、画像生成装置１００と通信可能に接続され、画像生成装置１００との間で各種の制御信号の送受信や、画像生成装置１００で生成された画像の受信が可能となっている。

ディスプレイ２１には、制御部２３の制御により、通常は、ナビゲーション装置２０単体の機能によって、ナビゲーション案内用の車両の周辺の地図画像が表示される。地図画像は、ナビゲーション装置２０が備えるハードディスクなどに予め記憶されている。また、ナビゲーション装置２０が備えるＧＰＳ装置によって車両の位置（緯度、経度）が取得され、この車両の位置に基づいて、車両の周辺の地図画像がディスプレイ２１に表示される。表示する地図画像の縮尺はユーザの操作部２２の操作に応じて変更可能である。

一方で、画像表示システム１２０の動作モードを変更した場合は、画像生成装置１００で生成された車両の周囲の様子を示す周辺画像が、ディスプレイ２１に表示される。これにより、ナビゲーション装置２０は、画像生成装置１００で生成された周辺画像を受信して表示する表示装置としても機能する。

画像生成装置１００は、画像を生成する機能を有するＥＣＵ（Electronic Control Unit）である本体部１０と、車両の周囲を撮影する撮影部５とを備えている。本体部１０は、車両の所定の位置に配置され、撮影部５で車両の周囲を撮影して得られる撮影画像に基づいてディスプレイ２１に表示するための周辺画像を生成する。

撮影部５は、本体部１０に電気的に接続され、本体部１０からの信号に基づいて動作する。撮影部５は、車載カメラであるフロントカメラ５１、サイドカメラ５２、及び、バックカメラ５３を備えている。各車載カメラ５１〜５３は、レンズと撮像素子とを備えており電子的に画像を取得する。

これらの複数の車載カメラ５１〜５３は、車両の異なる位置にそれぞれ配置される。図２は、車載カメラ５１〜５３が車両９に配置される位置を示す図である。

図２に示すように、フロントカメラ５１は、車両９の前端にあるナンバープレート取付位置の近傍に設けられ、その光軸５１ａは車両９の直進方向に向けられている。バックカメラ５３は、車両９の後端にあるナンバープレート取付位置の近傍に設けられ、その光軸５３ａは車両９の直進方向の逆方向に向けられている。これらフロントカメラ５１やバックカメラ５３の取り付け位置は、左右中央であることが望ましいが、左右中央から左右方向に多少ずれた位置であってもよい。また、サイドカメラ５２は左右のサイドミラー９３にそれぞれ設けられ、その光軸５２ａは車両９の左右方向（直進方向に直交する方向）に沿って車両９の外側に向けられている。

これらの車載カメラ５１〜５３のレンズとしては魚眼レンズなどが採用されており、車載カメラ５１〜５３は１８０度以上の画角θを有している。このため、車載カメラは、それぞれの光軸を中心として、斜め下方や斜め上方の範囲の視野も撮影画像に移すことができる。撮影部５は、４つの車載カメラ５１〜５３を利用することで車両９の全周囲の撮影が可能となっている。

図１に戻り、画像生成装置１００の本体部１０は、装置全体を制御する制御部１と、撮影部５の４つの車載カメラ５１〜５３それぞれの撮影画像を入力する入力端子４９と、表示用の周辺画像を生成する画像生成部３と、ナビゲーション装置２０との間で通信を行うナビ通信部４２を主に備えている。

ナビゲーション装置２０の操作部２２やディスプレイ２１によって受け付けられたユーザからの各種の指示は、制御信号としてナビ通信部４２によって受け付けられて制御部１に入力される。また、画像生成装置１００は、表示内容を切り替える指示をユーザから受け付ける切替スイッチ４３を備えている。この切替スイッチ４３からもユーザの指示を示す信号が制御部１に入力される。これにより、画像生成装置１００は、ナビゲーション装置２０に対するユーザの操作、及び、切替スイッチ４３に対するユーザの操作の双方に応答した動作が可能となっている。切替スイッチ４３は、ユーザが操作しやすいように、本体部１０とは別に車両の適位置に配置される。切替スイッチ４３は、後述するように、撮影画像間で表示の切替を行う表示切替手段としての役割も果たす。

画像生成部３は、各種の画像処理が可能なハードウェア回路であり、入力端子４９を介して撮影部５から入力される撮影画像を処理し、ディスプレイ２１に表示するための周辺画像を生成する。画像生成部３は、画像結合部３０、メモリ３１、画像調整部３２、合成画像生成部３４、画像配置部３５、画像切替部３６、ガイド線付加部３７及びガイド線処理部３８を主な構成要素として備えている。

画像結合部３０は、撮影部５で取得された撮影画像を１枚の結合画像に結合する。図３の（Ａ）及び図３の（Ｂ）は、画像結合部３０によって生成される結合画像Ｐｃｎの説明図である。撮影部５のフロントカメラ５１、サイドカメラ５２及びバックカメラ５３で同時に撮影が行われると、車両９の前方、左側方、右側方及び後方をそれぞれ示す４つの撮影画像Ｐ１〜Ｐ４が取得される。画像結合部３０は、これら４枚の撮影画像Ｐ１〜Ｐ４を結合することによって、図３の（Ｂ）に示すような結合画像Ｐｃｎを生成する。画像結合部３０によって生成された結合画像Ｐｃｎは、メモリ３１に格納される。

画像調整部３２は、画像結合部３０にて生成された結合画像Ｐｃｎを表示に利用するための調整を行うものである。具体的には、画像調整部３２は、結合画像Ｐｃｎに含まれる撮影画像Ｐ１〜Ｐ４に対して、歪み補正、拡大縮小、及び、切り出しなどの画像処理を行う。画像調整部３２は、画像選択部３３を備える。画像選択部３３は、結合画像Ｐｃｎに含まれる撮影画像Ｐ１〜Ｐ４の切り出し処理の際に、切り出し範囲、すなわちディスプレイ２１への表示範囲を選択する。

合成画像生成部３４は、結合画像Ｐｃｎに基づいて、車両の周囲の任意の仮想視点からみた車両の周囲の領域を示す合成画像を生成する。合成画像生成部３４が合成画像を生成する手法については後述する。

画像調整部３２により表示用に調整された撮影画像、及び合成画像生成部３４により生成された合成画像は、ナビ通信部４２によってナビゲーション装置２０に出力される。その際に、画像配置部３５は、以下に説明する画像表示システム１２０の動作モードに応じて、画面上の所定の表示位置にこれらの画像を配置した表示画像を生成し、ナビゲーション装置２０へ出力する。これにより、被写体像として車両の周囲の少なくとも一部の領域を含む周辺画像がナビゲーション装置２０のディスプレイ２１に表示されることになる。

本明細書において、「周辺画像」とは、車両の周囲の少なくとも一部の領域を示す画像を意味し、表示用に調整された撮影画像、及び、合成画像の双方を含む概念である。表示用に調整された撮影画像は、取得された車載カメラ５１〜５３のレンズの位置を視点とし、その視点からみた周辺画像となる。また、合成画像は、車両の周囲の任意の位置に設定された仮想視点からみた周辺画像となる。

画像切替部３６は、撮影画像間で表示の切替を行うユーザ切替信号が切替スイッチ４３から入力されるとディスプレイ２１の表示画面に表示される撮影画像間の切替を行う。ガイド線付加部３７は、後述するように、画像に各種ガイド線を付加する。ガイド線は、車両端が通過する軌跡を示す予想進路線、車両後端を示す距離目安線、車両後端に垂直後退した場合の進路を示す車幅平行線、ステアリングを左右に最大にきった場合の車両の予測軌跡を示す駐車ガイド線等とすることができる。ガイド線処理部３８は、ガイド線付加部３７が画像に付加したガイド線を消去し、かつ、画像をディスプレイ２１の表示画面に表示する際にガイド線付加部３７がガイド線を画像に付加するのを禁止する。

制御部１は、ＣＰＵ、ＲＡＭ及びＲＯＭなどを備えたコンピュータであり、所定のプログラムに従ってＣＰＵが演算処理を行うことで各種の制御機能が実現される。図中に示す、画像制御部１１、表示制御部１２、切替信号受信部１３、シフト位置信号受信部１４、及び状態信号受信部１５は、このようにして実現される制御部１の機能のうちの一部を示している。

画像制御部１１は、画像生成部３によって実行される画像処理に係る制御を行う。例えば、画像制御部１１は、合成画像生成部３４が生成する合成画像の生成に必要な各種パラメータなどを指示する。

表示制御部１２は、ナビゲーション装置２０のディスプレイ２１に表示する表示内容に係る制御を行う。例えば、画像表示システム１２０の動作モードの変更に応じて、ディスプレイ２１の表示内容を切り替える。

切替信号受信部１３は、ユーザ切替信号を受信することによって、ディスプレイ２１の表示画面に表示される撮影画像間の切替を行うよう画像切替部３６に指示する。シフト位置信号受信部１４は、後述するシフト位置信号を受信することによって、シフトレバーのシフト位置に応じた画像をディスプレイ２１の表示画面に表示するよう画像生成部３に指示する。状態信号受信部１５は、後述する停止信号を受信することによって、車両の走行状態に応じた画像をディスプレイ２１の表示画面に表示するよう画像生成部３に指示する。

画像生成装置１００の本体部１０は、不揮発性メモリ４０、カード読取部４４、及び、信号入力部４１をさらに備えており、これらは制御部１に接続されている。

不揮発性メモリ４０は、電源オフ時においても記憶内容を維持可能なフラッシュメモリなどである。不揮発性メモリ４０には、視点データ４ａが記憶されている。視点データ４ａは、合成画像の仮想視点を定める際に利用される。

カード読取部４４は、可搬性の記録媒体であるメモリカードＭＣの読み取りを行う。カード読取部４４は、メモリカードＭＣの着脱が可能なカードスロットを備えており、そのカードスロットに装着されたメモリカードＭＣに記録されたデータを読み取る。カード読取部４４で読み取られたデータは、制御部１に入力される。メモリカードＭＣは、種々のデータを記憶可能なフラッシュメモリなどであり、画像生成装置１００はメモリカードＭＣに記憶された種々のデータを利用できる。例えば、メモリカードＭＣにプログラムを記憶させ、これを読み出すことで、制御部１の機能を実現するプログラム（ファームウェア）を更新することが可能である。

また、信号入力部４１は、車両に設けられた各種装置からの信号を入力する。この信号入力部４１を介して、画像表示システム１２０の外部からの信号が制御部１に入力される。本実施の形態では、シフトセンサ７１、舵角センサ７２及び車速センサ７３からの信号が信号入力部４１を介して制御部１に入力される。

シフト位置検出手段としてのシフトセンサ７１からは、車両の変速装置のシフトレバーの操作の位置、すなわち、”Ｐ（駐車）”，”Ｄ（前進）”，”Ｎ（中立）”，”Ｒ（後退）”などのシフトポジションを示すシフト位置信号が入力される。舵角センサ７２からは、ドライバによるステアリングホイールの操作角を示す操作角信号が入力される。車両状態検出手段としての車速センサ７３からは、車両の停止状態又は移動状態を検出する、車速パルスに基づく状態信号が入力される。
＜１−２．画像合成処理＞
次に、画像生成部３の合成画像生成部３４が、撮影部５で得られた複数の撮影画像Ｐ１〜Ｐ４に基づいて車両９及び車両９の周辺を任意の仮想視点からみた様子を示す合成画像を生成する手法について説明する。図４は、合成画像を生成する手法を説明するための図である。

上述の通り、撮影部５のフロントカメラ５１、サイドカメラ５２及びバックカメラ５３で同時に撮影が行われると、車両９の前方、左側方、右側方及び後方をそれぞれ示す４つの撮影画像Ｐ１〜Ｐ４が取得される。撮影部５で取得される４つの撮影画像Ｐ１〜Ｐ４を結合した結合画像Ｐｃｎには、撮影時点の車両９の全周囲を示す情報が含まれている。

次に、結合画像Ｐｃｎの各画素が、仮想的な三次元空間における立体曲面ＴＳに投影される。立体曲面ＴＳは、例えば略半球状（お椀形状）をしており、その中心部分（お椀の底部分）が車両９が存在する位置として定められている。結合画像Ｐｃｎの各画素の位置とこの立体曲面ＴＳの各画素の位置とは予め対応関係が定められている。このため、立体曲面ＴＳの各画素の値は、この対応関係と結合画像Ｐｃｎに含まれる各画素の値とに基づいて決定できる。

結合画像Ｐｃｎの各画素の位置と立体曲面ＴＳの各画素の位置との対応関係は、車両９における４つの車載カメラ５１〜５３の配置（相互間距離、地上高さ、光軸角度等）に依存する。この対応関係を示すテーブルデータは、不揮発性メモリ４０に予め記憶されている。

また、不揮発性メモリ４０に予め記憶された車体の形状やサイズを示すデータが利用され、車両９の三次元形状を示すポリゴンのモデルが仮想的に構成される。構成された車両９のモデルは、立体曲面ＴＳが設定される三次元空間において、車両９の位置と定められた略半球状の中心部分に配置される。

さらに、立体曲面ＴＳが存在する三次元空間に対して、制御部１により仮想視点ＶＰが設定される。仮想視点ＶＰは、視点位置と視野方向とで規定され、この三次元空間における車両９の近傍に相当する任意の視点位置に任意の視野方向に向けて設定される。

そして、設定された仮想視点ＶＰに応じて、立体曲面ＴＳにおける必要な領域が画像として切り出される。仮想視点ＶＰと、立体曲面ＴＳにおける必要な領域との関係は予め定められており、テーブルデータとして不揮発性メモリ４０等に予め記憶されている。一方で、設定された仮想視点ＶＰに応じてポリゴンのモデルに関してレンダリングがなされ、その結果となる二次元の車両の像が、切り出された画像に対して重畳される。これにより、車両９及びその車両９の周囲を任意の仮想視点ＶＰからみた様子を示す合成画像が生成されることになる。

例えば、視点位置が車両９の位置の略中央の直上で、視野方向が直下方向とした仮想視点ＶＰａを設定した場合は、車両９の略直上から車両９を見下ろすように、車両９及び車両９の周囲の領域を示す合成画像ＣＰａが生成される。また、図中に示すように、視点位置が車両９の位置の左後方で、視野方向が車両９における略前方方向とした仮想視点ＶＰｂを設定した場合は、車両９の左後方からその周辺全体を見渡すように、車両９及び車両９の周囲の領域を示す合成画像ＣＰｂが生成される。

なお、実際に合成画像を生成する場合においては、立体曲面ＴＳの全ての画素の値を決定する必要はなく、設定された仮想視点ＶＰに対応して必要となる領域の画素の値のみを撮影画像Ｐ１〜Ｐ４に基づいて決定することで、処理速度を向上できる。画像表示システム１２０では、このような合成画像生成部３４の機能を利用することで、車両９の周囲の任意の視点からみた合成画像を生成して、ディスプレイ２１に表示する。

＜１−３．動作モード＞
次に、画像表示システム１２０の動作モードについて説明する。図５は、画像表示システム１２０の動作モードの遷移を示す図である。画像表示システム１２０は、ナビモードＭ０、フロントモードＭ１、サイドモードＭ２、及び、バックモードＭ３の３つの動作モードを有している。これらの動作モードは、ドライバの車両９への操作や車両９の走行状態に応じて制御部１の制御により切り替えられるようになっている。

ナビモードＭ０は、ナビゲーション装置２０の機能により、ナビゲーション案内を行う動作モードである。ナビモードＭ０では、画像生成装置１００の機能が利用されず、ナビゲーション装置２０単体の機能でディスプレイ２１に各種の表示がなされる。具体的には、ディスプレイ２１には、車両９の周辺の地図画像ＮＰが主に表示される。

これに対し、フロントモードＭ１、サイドモードＭ２及びバックモードＭ３は、画像生成装置１００の機能を利用して、周辺画像をディスプレイ２１に表示して、車両の周囲の状況をリアルタイムでユーザに示す動作モードである。

フロントモードＭ１は、車両９の前方を表示する動作モードであり、見通しの悪い交差点への進入時などに利用される。ディスプレイ２１の第２表示位置Ｌ２には、フロントカメラ５１で取得されて表示用に調整した撮影画像（以下、「フロント画像」という。）ＳＰ１が表示される。このフロント画像ＳＰ１は、車両９の前方の視点（フロントカメラ５１のレンズ位置）からみた周辺画像である。フロントモードＭ１では、表示中の周辺画像（すなわち、フロント画像）ＳＰ１の視点が車両９の前方であることを示すアイコンＣ１が表示される。

また、第１表示位置Ｌ１には、合成画像生成部３４により生成された、車両９の略直上から車両９を見下ろすように車両９とその周辺の領域を示す合成画像ＣＰａが表示される。

サイドモードＭ２は、車両９の側方を表示する動作モードであり、幅寄せを行う場合などに利用される。ディスプレイ２１の第３表示位置Ｌ３及び第４表示位置Ｌ４には、サイドカメラ５２で取得されて表示用に調整した撮影画像（以下、「サイド画像」という。）ＳＰ２が表示される。このサイド画像ＳＰ２は、車両９の側方の視点（サイドカメラ５２のレンズ位置）からみた周辺画像である。サイドモードＭ２では、表示中の周辺画像（すなわち、サイド画像）ＳＰ２の視点が車両９の側方であることを示すアイコンＣ２が表示される。

また、バックモードＭ３は、車両９の後方を表示する動作モードであり、後退時に利用される。ディスプレイ２１の第２表示位置Ｌ２には、バックカメラ５３で取得されて表示用に調整した撮影画像（以下、「バック画像」という。）ＳＰ３が表示される。このバック画像ＳＰ３は、車両９の後方の視点（バックカメラ５３のレンズ位置）からみた周辺画像である。バックモードＭ３では、表示中の周辺画像（すなわち、バック画像）ＳＰ３の視点が車両９の後方であることを示すアイコンＣ３が表示される。

また、第１表示位置Ｌ１には、合成画像生成部３４により生成された、車両９の略直上から車両９を見下ろすように車両９とその周囲の領域を示す合成画像ＣＰａが表示される。

ナビモードＭ０において、ナビゲーション装置２０の操作部２２に所定の操作（周辺画像の表示操作）がなされると、フロントモードＭ１及びサイドモードＭ２のうちの最後に有効化された動作モード（いわゆる、ラストモード）に切り替わる。フロントモードＭ１とサイドモードＭ２とは、切替スイッチ４３を押下するごとに切り替えられる。また、フロントモードＭ１あるいはサイドモードＭ２において、ナビゲーション装置２０の操作部２２に所定の操作（周辺画像の表示操作）がなされると、ナビモードＭ０に戻る。

また、バックモードＭ３以外の動作モードにおいて、シフトセンサ７１から入力されるシフトポジションが”Ｒ（後退）”となったときは、バックモードＭ３に切り替えられる。すなわち、シフトポジションが”Ｒ（後退）”の場合は、車両９は後退する状態であるため、車両９の後方を主に示すバックモードＭ３に切り替えられる。また、バックモードＭ３の場合に、シフトポジションが”Ｒ（後退）”以外となったときは、バックモードＭ３に切り替えられる直前の動作モードに戻ることになる。

このように画像表示システム１２０は、複数の動作モードを切り替えることで、複数の視点からみた周辺画像を切り替えてディスプレイ２１に表示可能となっている。なお、サイドミラーが格納されている場合には、正常な車両側面の撮影画像Ｐ２〜Ｐ３が得られない。したがって、サイドミラー格納時には、これら撮影画像Ｐ２〜Ｐ３に基づく画像は表示しない処理等を行う。

なお、フロントモードＭ１における合成画像ＣＰａには、予想進路線Ｓ１が付加され、フロントモードＭ１におけるフロント画像ＳＰ１には、予想進路線Ｓ１，Ｓ２が付加され、バックモードＭ３における合成画像ＣＰａには、予想進路線Ｓ３，Ｓ４及び距離目安線Ｍが付加され、バックモードＭ３におけるバック画像ＳＰ３には、予想進路線Ｓ４、距離目安線Ｍ及び車幅平行線Ｈが付加されている。

＜１−４．ガイド線の付加及び消去処理＞
次に、ガイド線を付加し又は消去するときの画像表示システム１２０の処理について説明する。図６は、ガイド線の付加及び消去の一例の説明図である。車両が停止した状態において、切替スイッチ４３からの切替信号により、バックモードＭ３（シフトポジションが「Ｒ」）におけるディスプレイ２１の表示画面のバック画像ＳＰ３をフロント画像ＳＰ１に切り替わると、ガイド線処理部３８は、合成画像ＣＰａから予想進路線Ｓ３，Ｓ４及び距離目安線Ｍを消去し、かつ、ガイド線付加部３７がフロント画像ＳＰ１にガイド線を付加するのを禁止する。

それに対し、車両が停止した状態において、切替スイッチ４３からの切替信号により、バックモードＭ３におけるディスプレイ２１の表示画面のフロント画像ＳＰ１をバック画像ＳＰ３に切り替えると、ガイド線付加部３７は、合成画像ＣＰａに予想進路線Ｓ３，Ｓ４及び距離目安線Ｍを付加し、バック画像ＳＰ３に予想進路線Ｓ４、距離目安線Ｍ及び車幅平行線Ｈを付加する。

また、バックモードＭ３におけるディスプレイ２１の表示画面にフロント画像ＳＰ１を表示した状態で車両が停止状態から移動状態になると、ガイド線付加部３７は、合成画像ＣＰａに予想進路線Ｓ３，Ｓ４及び距離目安線Ｍを付加する。

それに対し、バックモードＭ３におけるディスプレイ２１の表示画面にフロント画像ＳＰ１を表示した状態で車両が移動状態から停止状態になると、ガイド線処理部３８は、合成画像ＣＰａから予想進路線Ｓ３，Ｓ４及び距離目安線Ｍを消去する。

続いて、図７を参照して、ガイド線の付加及び消去時における画像表示システム１２０の処理を説明する。なお、図７を参照して説明する処理例では、車両が停止状態でシフトポジションが「Ｒ」にあるときに繰り返し実行される。

オペレーションＡＡにおいて、車載カメラ５１〜５３は、それぞれ撮影画像Ｐ１〜Ｐ４を撮影する。オペレーションＡＢにおいて、画像結合部３０は、これらの画像Ｐ１〜Ｐ４を結合した結合画像Ｐｃｎを生成し、メモリ３１に格納する。オペレーションＡＣにおいて、合成画像生成部３４は、結合画像Ｐｃｎに基づいて合成画像ＣＰａを生成する。オペレーションＡＤにおいて、切替信号受信部３６は、ディスプレイ２１の表示画面のバック画像ＳＰ３がフロント画像ＳＰ１に切り替えられたか否か判断する。バック画像ＳＰ３がフロント画像ＳＰ１に切り替えられない場合、オペレーションＡＥにおいて、ガイド線付加部３７は、合成画像ＣＰａ及びバック画像ＳＰ３にガイド線を付加する。

オペレーションＡＦにおいて、画像配置部３５は、現在の画像表示システム１２０の動作モードに従って、合成画像ＣＰａ及びバック画像ＳＰ３を選択し、ナビゲーション装置２０へ出力する表示画像上に配置する。表示画像は、画像生成装置１００によってナビゲーション装置２０へ出力される。オペレーションＡＧにおいて、ナビゲーション装置２０は、画像生成装置１００から出力された表示画像をディスプレイ２１へ表示する。

オペレーションＡＤでバック画像ＳＰ３がフロント画像ＳＰ１に切り替えられたと判断された場合、オペレーションＡＨにおいて、状態信号受信部１５は、車両が停止状態から移動状態になったか否か判断する。車両が停止状態から移動状態にならない場合、ガイド線処理部３８は、合成画像ＣＰａから予想進路線Ｓ３，Ｓ４及び距離目安線Ｍを消去し、ガイド線付加部３７がフロント画像ＳＰ１にガイド線を付加するのを禁止し、オペレーションＡＦに進む。なお、オペレーションＡＨで車両が停止状態から移動状態になったと判断された場合、オペレーションＡＥに進む。

第１の実施の形態によれば、ガイド線処理部３８によるガイド線の消去又は付加禁止を行うことによって、車両が停止状態でシフトポジションが「Ｒ」にあるときに合成画像ＣＰａ及びフロント画像ＳＰ１がディスプレイ２１の表示画面に表示されている場合でも、シフトポジションが「Ｒ」であることを運転者が容易に判断することができる。

＜２．第２の実施の形態＞
＜２−１．システム構成＞
続いて第２の実施の形態について説明する。第２の実施の形態では、合成画像ＣＰａ及びフロント画像ＳＰ１又はバック画像ＳＰ３に付加するガイド線を選択し、合成画像ＣＰａに付加されるガイド線に対応するフロント画像ＳＰ１又はバック画像ＳＰ３に付加されるガイド線は、同一色及び同一形状を有する。

合成画像ＣＰａに付加されるガイド線に対応するフロント画像ＳＰ１又はバック画像ＳＰ３に付加されるガイド線の色と形状のうちの少なくとも一方が異なる場合、合成画像ＣＰａに付加されるガイド線とフロント画像ＳＰ１又はバック画像ＳＰ２に付加されるガイド線との関係を把握しにくくなる。

本実施の形態によれば、合成画像ＣＰａに付加されるガイド線に対応するフロント画像ＳＰ１又はバック画像ＳＰ３に付加されるガイド線は、同一色及び同一形状を有するので、合成画像ＣＰａに付加されるガイド線とフロント画像ＳＰ１又はバック画像ＳＰ２に付加されるガイド線との関係を把握しやすくなる。

図８は、第２の実施の形態の画像表示システム１２０の構成例を示す図である。図１に示す構成要素と同一の構成要素については同一の参照符号を付する。同一の参照符号が付された構成要素の動作は特に説明しない限り同じである。また、図８に示す構成要素やその機能を他の実施例が備えていてもよい。

画像生成部３は、ガイド線選択部３９を有する。ガイド線選択部３９は、切替スイッチ４３からのユーザの指示を示す信号によって、合成画像ＣＰａに付加されるガイド線とフロント画像ＳＰ１又はバック画像ＳＰ３に付加されるガイド線と選択し、選択したガイド線を合成画像ＣＰａ及びフロント画像ＳＰ１又はバック画像ＳＰ３に付加する。

＜２−２．ガイド線の選択処理＞
次に、ガイド線を選択するときの画像表示システム１２０の処理について説明する。図９は、ガイド線の選択の一例の説明図である。図９において、バックモードＭ３においてディスプレイ２１の表示画面に合成画像ＣＰａ及びバック画像ＳＰ３が表示されている場合について説明するが、バック画像ＳＰ３の代わりにフロント画像ＳＰ１が表示されている場合でも同様の処理を行うことができ、フロントモードＭ１においても同様の処理を行うことができる。

切替スイッチ４３により、予想進路線を表示するよう指示された場合、合成画像ＣＰａに対しては、予想進路線Ｓ３，Ｓ４及び距離目安線Ｍが選択され、これら予想進路線Ｓ３，Ｓ４及び距離目安線Ｍが合成画像ＣＰａに付加され、バック画像ＳＰ３に対しては、予測進路線Ｓ４、距離目安線Ｍ及び車幅平行線Ｈが選択され、これら予想進路線Ｓ３，Ｓ４及び距離目安線Ｍがバック画像ＳＰ３に付加される。

合成画像ＣＰａに付加される予想進路線Ｓ３，Ｓ４及びバック画像ＳＰ３に付加される予想進路線Ｓ４は、第１の色（例えば、黄色）を有し、合成画像ＣＰａに付加される距離目安線Ｍ及びバック画像ＳＰ３に付加される距離目安線Ｍは、第２の色（例えば、赤色）を有し、バック画像ＳＰ３に付加される車幅平行線Ｈは、第３の色（例えば、青色）を有する。

また、合成画像ＣＰａに付加される予想進路線Ｓ４は、バック画像Ｓ３に付加される予想進路線Ｓ４と同一形状を有し、合成画像ＣＰａに付加される距離目安線Ｍは、バック画像Ｓ３に付加される距離目安線Ｍと同一形状を有する。

その後、切替スイッチ４３により、最大舵角線を表示するよう指示された場合、合成画像ＣＰａに対しては、距離目安線Ｍが選択され、距離目安線Ｍが合成画像ＣＰａに付加され、バック画像ＳＰ３に対しては、最大舵角線Ｇが距離目安線Ｍ及び車幅平行線Ｈとともに選択され、これら最大舵角線Ｇ、距離目安線Ｍ及び車幅平行線Ｈがバック画像ＳＰ３に付加される。

合成画像ＣＰａに付加される距離目安線Ｍ及びバック画像ＳＰ３に付加される距離目安線Ｍは、第２の色（例えば、赤色）を有し、バック画像ＳＰ３に付加される車幅平行線Ｈ及び最大舵角線Ｇは、第３の色（例えば、青色）を有する。また、合成画像ＣＰａに付加される距離目安線Ｍは、バック画像Ｓ３に付加される距離目安線Ｍと同一形状を有する。

その後、切替スイッチ４３により、車幅平行線及び最大舵角線を消去するよう指示された場合、合成画像ＣＰａに対しては、距離目安線Ｍが選択され、距離目安線Ｍが合成画像ＣＰａに付加され、バック画像ＳＰ３に対しては、距離目安線Ｍが選択され、距離目安線Ｍがバック画像ＳＰ３に付加される。

合成画像ＣＰａに付加される距離目安線Ｍ及びバック画像ＳＰ３に付加される距離目安線Ｍは、第２の色（例えば、赤色）を有する。また、合成画像ＣＰａに付加される距離目安線Ｍは、バック画像Ｓ３に付加される距離目安線Ｍと同一形状を有する。

その後、切替スイッチ４３により、予想進路線を表示するよう指示された場合、合成画像ＣＰａに対しては、予想進路線Ｓ３，Ｓ４及び距離目安線Ｍが選択され、これら予想進路線Ｓ３，Ｓ４及び距離目安線Ｍが合成画像ＣＰａに付加され、バック画像ＳＰ３に対しては、予測新路線Ｓ４、距離目安線Ｍ及び車幅平行線Ｈが選択され、これら予想進路線Ｓ３，Ｓ４及び距離目安線Ｍがバック画像ＳＰ３に付加される。

続いて、図１０を参照して、ガイド線を選択する画像表示システム１２０の処理を説明する。なお、他の実施態様においては、下記のオペレーションＢＡ〜ＢＪの各オペレーションはステップであってもよい。

オペレーションＢＡにおいて、車載カメラ５１〜５３は、それぞれ撮影画像Ｐ１〜Ｐ４を撮影する。オペレーションＢＢにおいて、画像結合部３０は、これらの画像Ｐ１〜Ｐ４を結合した結合画像Ｐｃｎを生成し、メモリ３１に格納する。オペレーションＢＣにおいて、合成画像生成部３４は、結合画像Ｐｃｎに基づいて合成画像ＣＰａを生成する。オペレーションＢＤにおいて、ガイド線選択部３９は、合成画像ＣＰａ及びフロント画像ＳＰ１又はバック画像ＳＰ３に付加するガイド線を選択する。

オペレーションＢＥにおいて、画像配置部３５は、現在の画像表示システム１２０の動作モードに従って、合成画像ＣＰａ及びバック画像ＳＰ３を選択し、ナビゲーション装置２０へ出力する表示画像上に配置する。表示画像は、画像生成装置１００によってナビゲーション装置２０へ出力される。オペレーションＢＦにおいて、ナビゲーション装置２０は、画像生成装置１００から出力された表示画像をディスプレイ２１へ表示する。

オペレーションＢＧにおいて、ガイド線選択部３９は、切替スイッチ４３によりガイド線を変更するよう指示があったか否か判断する。ガイド線を変更するよう指示があった場合、オペレーションＢＨにおいて、ガイド線選択部３９は、ガイド線を再選択し、再選択したガイド線を合成画像ＣＰａ及びフロント画像ＳＰ１又はバック画像ＳＰ３にガイド線を付加する。

３４ 合成画像生成部
３７ ガイド線付加部
３８ ガイド線処理部
１００ 画像生成装置
１２０ 画像表示システム

Claims (4)

1. 車両に搭載される画像表示システムであって、
   車両に配置されたカメラと、
   前記カメラで得られる撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成する合成画像生成手段と、
   前記合成画像とともに前方撮影画像又は後方撮影画像を表示画面に表示する表示手段と、
   前記合成画像にガイド線を付加するガイド線付加手段と、
   車両の変速装置のシフトレバーのシフト位置を検出するシフト位置検出手段と、
   車両の停止状態又は移動状態を検出する車両状態検出手段と、
   前記合成画像とともに前記前方撮影画像が表示された状態において、車両が停止状態でシフト位置が後退位置にある場合に、前記合成画像へのガイド線の付加を禁止するガイド線処理手段と、
   を備えることを特徴とする画像表示システム。
2. 前記ガイド線処理手段は、前記合成画像とともに前記前方撮影画像が表示された状態で車両が停止状態から移動状態になる場合、前記合成画像へのガイド線の付加の禁止を解除する請求項１に記載の画像表示システム。
3. 撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成する合成画像生成手段と、
   前記合成画像とともに前方撮影画像又は後方撮影画像を表示装置の表示画面に表示する表示手段と、
   前記合成画像にガイド線を付加するガイド線付加手段と、
   車両の変速装置のシフトレバーのシフト位置を検出するシフト位置検出手段からのシフトポジション信号を受信するシフト位置信号受信手段と、
   車両の停止状態又は移動状態を検出する車両状態検出手段からの信号を受信する状態信号受信手段と、
   前記合成画像とともに前記前方撮影画像が表示された状態において、車両が停止状態でシフト位置が後退位置にある場合に、前記合成画像へのガイド線の付加を禁止するガイド線処理手段と、
   を備えることを特徴とする画像生成装置。
4. 車両に配置されたカメラで得られる撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成し、
   前記合成画像とともに前方撮影画像又は後方撮影画像を表示画面に表示し、
   前記合成画像にガイド線を付加し、
   車両の変速装置のシフトレバーのシフト位置を検出し、
   車両の停止状態又は移動状態を検出し、
   前記合成画像とともに前記前方撮影画像が表示された状態において、車両が停止状態でシフト位置が後退位置にある場合に、前記合成画像へのガイド線の付加を禁止する、
   ステップを備えることを特徴とする画像表示方法。

Images