以下、図面を参照しつつ本発明の実施の形態について説明する。
<1.第1の実施の形態>
<1−1.構成>
図1は、第1の実施の形態の画像表示システム10の構成を示す図である。この画像表示システム10は、車両(本実施の形態では、自動車)において用いられるものであり、車両の周辺の領域を示す画像を生成して車室内に表示する機能を有している。画像表示システム10のユーザ(代表的にはドライバ)は、この画像表示システム10を利用することにより、当該車両の周辺の様子をほぼリアルタイムに把握できる。
図に示すように、画像表示システム10は、複数のカメラ5、画像生成装置2、表示装置3、及び、操作ボタン4を備えている。複数のカメラ5はそれぞれ、車両の周辺を撮影して撮影画像を取得し、取得した撮影画像を画像生成装置2に入力する。画像生成装置2は、車両の周辺を示す撮影画像を用いて、表示装置3に表示するための表示画像を生成する。表示装置3は、画像生成装置2で生成された表示画像を表示する。また、操作ボタン4は、ユーザの操作を受け付ける。
複数のカメラ5はそれぞれ、レンズと撮像素子とを備えており、車両の周辺を示す撮影画像を電子的に取得する。複数のカメラ5は、フロントカメラ5F、リアカメラ5B、左サイドカメラ5L、及び、右サイドカメラ5Rを含んでいる。これら4つのカメラ5は、車両9において互いに異なる位置に配置され、車両9の周辺の異なる方向を撮影する。
図2は、4つのカメラ5がそれぞれ撮影する方向を示す図である。フロントカメラ5Fは、車両9の前端に設けられ、その光軸5Faは車両9の前後方向に沿って前方に向けられる。リアカメラ5Bは、車両9の後端に設けられ、その光軸5Baは車両9の前後方向に沿って後方に向けられる。左サイドカメラ5Lは、左側の左サイドミラー93Lに設けられ、その光軸5Laは車両9の左右方向に沿って左方に向けられる。また、右サイドカメラ5Rは、右側の右サイドミラー93Rに設けられ、その光軸5Raは車両9の左右方向に沿って右方に向けられる。
これらのカメラ5のレンズには魚眼レンズなどの広角レンズが採用され、各カメラ5は180度以上の画角θを有している。このため、4つのカメラ5を利用することで、車両9の全周囲を撮影することが可能である。
また、フロントカメラ5Fと、リアカメラ5Bと、サイドカメラ5L,5Rとにおいては、その光軸の俯角(水平方向を基準とした下向きの角度)が異なっている。図3は、4つのカメラ5それぞれの光軸の俯角を示す図である。図3中に示す一点鎖線は水平方向に沿っている。
図3に示すように、左右のサイドカメラ5L,5Rに関しては、光軸5La,5Raの俯角αL,αRは略同一であり、例えば80°である。これに対して、フロントカメラ5F及びリアカメラ5Bにおいては、光軸の俯角がサイドカメラ5L,5Rとは異なっている。フロントカメラ5Fの光軸5Faの俯角αFは例えば20°であり、リアカメラ5Bの光軸5Baの俯角αBは例えば50°である。
したがって、フロントカメラ5Fと、リアカメラ5Bと、サイドカメラ5L,5Rとで、撮影可能となる車両9から離れる方向の距離が異なる。4つのカメラ5の光軸のうち、フロントカメラ5Fの光軸5Faが最も上側に向けられているため、フロントカメラ5Fは、車両9から比較的離れた領域を撮影することが可能である。一方、左右のサイドカメラ5L,5Rの光軸5La,5Raが最も下側に向けられているため、サイドカメラ5L,5Rは車両9に比較的近い領域のみを撮影することが可能である。
図1に戻り、表示装置3は、例えば、液晶などの薄型の表示パネルを備えており、各種の情報や画像を表示する。表示装置3は、ユーザが表示パネルの画面を視認できるように、車両9のインストルメントパネルなどに配置される。表示装置3は、画像生成装置2と同一のハウジング内に配置されて画像生成装置2と一体化されていてもよく、画像生成装置2とは別体の装置であってもよい。また、表示装置3は、表示パネルに重ねてタッチパネル31を備えており、ユーザの操作を受け付けることが可能である。表示装置3は、表示する機能以外に、目的地までのルート案内を行うナビゲーション機能などの他の機能を有していてもよい。
操作ボタン4は、ユーザの操作を受け付ける操作部材である。操作ボタン4は、例えば、車両9のステアリングホイールに設けられており、主にドライバからの操作を受け付ける。ユーザは、この操作ボタン4、及び、表示装置3のタッチパネル31を介して画像表示システム10に対する各種の操作を行うことができる。操作ボタン4及びタッチパネル31のいずれかにユーザの操作がなされた場合は、その操作の内容を示す操作信号が画像生成装置2に入力される。
画像生成装置2は、各種の画像処理が可能な電子装置である。画像生成装置2は、画像取得部21と、画像生成部22と、画像調整部23と、画像出力部24とを備えている。
画像取得部21は、4つのカメラ5で得られた4つの撮影画像を取得する。画像取得部21は、アナログの撮影画像をデジタルの撮影画像に変換する機能などの画像処理機能を有している。画像取得部21は、取得した撮影画像に所定の画像処理を行い、処理後の撮影画像を画像生成部22に入力する。
画像生成部22は、仮想視点画像を生成するための画像処理を行うハードウェア回路である。画像生成部22は、4つのカメラ5で取得された4つの撮影画像を用いて、仮想視点からみた車両9の周辺を示す仮想視点画像を生成する。画像生成部22は、各カメラ5において直近に得られた撮影画像を用いて仮想視点画像を連続的に(時間的に連続して)生成する。これにより、画像生成部22は、車両の周辺をほぼリアルタイムに示す仮想視点画像を生成する。この仮想視点画像を生成する手法の詳細については後述する。
画像調整部23は、表示装置3で表示するための表示画像を生成する。画像調整部23は、画像生成部22で生成された仮想視点画像などを含む表示画像を生成する。
画像出力部24は、画像調整部23で生成された表示画像を表示装置3に出力して、表示画像を表示装置3に表示させる。これにより、仮想視点からみた車両9の周辺をほぼリアルタイムに示す仮想視点画像が表示装置3に表示される。
また、画像生成装置2は、制御部20と、操作受付部25と、信号受信部26と、記憶部27とをさらに備えている。制御部20は、例えば、CPU、RAM及びROMなどを備えたマイクロコンピュータであり、画像生成装置2の全体を統括的に制御する。
操作受付部25は、ユーザが操作を行った場合に操作ボタン4及びタッチパネル31から送出される操作信号を受信する。これにより、操作受付部25はユーザの操作を受け付ける。操作受付部25は、受信した操作信号を制御部20に入力する。
信号受信部26は、画像生成装置2とは別に車両9に設けられる他の装置から送出される信号を受信して、制御部20に入力する。信号受信部26は、車両9のシフトセンサ95から送出される信号を受信することが可能となっている。シフトセンサ95は、車両9の変速装置のシフトレバーの位置であるシフトポジションを検出し、そのシフトポジションを示す信号を画像生成装置2に送出する。この信号に基づいて、制御部20は、車両9の進行方向が前方あるいは後方のいずれであるかを判定できる。
記憶部27は、例えば、フラッシュメモリなどの不揮発性メモリであり、各種の情報を記憶する。記憶部27は、ファームウェアとしてのプログラム27a、及び、画像生成部22が仮想視点画像の生成のために用いる各種のデータを記憶する。このような仮想視点画像の生成に用いるデータは、車両9の車体の形状やサイズを示す車体データ27bを含む。
制御部20の各種の機能は、記憶部27に記憶されたプログラム27aの実行(プログラム27aに従ったCPUの演算処理)によって実現される。図中に示す画像制御部20aは、プログラム27aの実行により実現される機能部の一部である。
画像制御部20aは、仮想視点画像を生成する画像生成部22、及び、表示画像を生成する画像調整部23を制御する。例えば、画像制御部20aは、画像生成部22が生成する仮想視点画像に係る仮想視点の位置、及び、仮想視点の視線の向きを変更する。
<1−2.仮想視点画像の生成>
次に、画像生成部22が、仮想視点からみた車両9の周辺の様子を示す仮想視点画像を生成する手法について説明する。図4は、画像生成部22が仮想視点画像を生成する手法を説明する図である。画像生成部22は、仮想視点画像の生成に仮想の立体的な投影面TSを用いることで、現実に近い臨場感のある仮想視点画像を生成する。
フロントカメラ5F、リアカメラ5B、左サイドカメラ5L、及び、右サイドカメラ5Rは、車両9の前方、後方、左方及び右方をそれぞれ示す4つの撮影画像SF,SB,SL,SRを取得する。これら4つの撮影画像SF,SB,SL,SRには、車両9の全周囲のデータが含まれている。
画像生成部22は、これら4つの撮影画像SF,SB,SL,SRに含まれるデータ(画素の値)を、仮想的な三次元空間における立体的な曲面である投影面TSに投影する。投影面TSは、例えば、略半球状(お椀形状)をしており、その中心領域(お椀の底部分)は車両9の位置として定められている。また、投影面TSにおける車両9の位置の外側は、車両9の周辺の領域に相当する。
撮影画像SF,SB,SL,SRに含まれるデータの位置と、投影面TSの位置とは予め対応関係が定められている。このような対応関係を示すテーブルデータは、記憶部27に記憶されている。画像生成部22は、このテーブルデータを用いて、4つの撮影画像SF,SB,SL,SRに含まれるデータを、投影面TSの対応する位置に投影する。
画像生成部22は、投影面TSにおいて車両9の前方に相当する部分に、フロントカメラ5Fの撮影画像SFのデータを投影する。また、画像生成部22は、投影面TSにおいて車両9の後方に相当する部分に、リアカメラ5Bの撮影画像SBのデータを投影する。さらに、画像生成部22は、投影面TSにおいて車両9の左方に相当する部分に左サイドカメラ5Lの撮影画像SLのデータを投影し、投影面TSにおいて車両9の右方に相当する部分に右サイドカメラ5Rの方向画像SRのデータを投影する。
このように投影面TSに撮影画像のデータを投影すると、次に、画像生成部22は、記憶部27に記憶された車体データ27bを用いて、車両9の三次元形状を示すポリゴンのモデルを仮想的に構成する。この車両9のモデルは、仮想的な三次元空間における車両9の位置である投影面TSの中心領域に配置される。
次に、画像生成部22は、画像制御部20aの制御により、三次元空間に対して仮想視点VPを設定する。この仮想視点VPは、位置と視線の向きとで規定される。画像生成部22は、任意の位置、かつ、任意の視線の向きの仮想視点VPを3次元空間に設定できる。
次に、画像生成部22は、設定した仮想視点VPに応じた投影面TSの一部の領域を用いて仮想視点画像CPを生成する。すなわち、画像生成部22は、投影面TSのうち仮想視点VPからみて所定の視野角に含まれる領域のデータを画像として切り出す。切り出した画像は、車両9の周辺の被写体の像を含んでいる。これとともに、画像生成部22は、設定した仮想視点VPに応じて車両9のモデルに関してレンダリングを行い、その結果となる二次元の車両像90を、切り出した画像に対して重畳する。車両像90は、仮想視点VPからみた車両9の車体の形状を示すことになる。これにより、画像生成部22は、仮想視点VPからみた車両9の周辺と車両9の車体とを示す仮想視点画像CPを生成する。
例えば図4に示すように、位置を車両9の直上とし視線を下方に向けた仮想視点VPaを設定した場合には、車両9の周辺と車両9の車体とを俯瞰する仮想視点画像(俯瞰画像)CPaを生成できる。また、位置を車両9の左後方とし視線を車両9の前方に向けた仮想視点VPbを設定した場合には、車両9の左後方からみた車両9の周辺と車両9の車体とを示す仮想視点画像CPbを生成できる。
本実施の形態の画像生成部22は、このような仮想視点VPの位置を、車両9の外部のみならず、車両9の車室内に設定することも可能である。仮想視点VPの位置を車両9の車室内に設定した場合は、車両9の車室内からみた車両9の周辺と車両9の車体(内装)とを示す臨場感のある仮想視点画像を生成できる。
<1−3.動作モード>
次に、画像表示システム10の動作モードについて説明する。図5は、画像表示システム10の動作モードの遷移を示す図である。画像表示システム10は、通常モードM0、俯瞰モードM1、及び、周回モードM2の3つの動作モードを有している。これらの動作モードは、車両9の状態やユーザの操作に応じて制御部20の制御により切り替えられる。
通常モードM0は、画像生成装置2の機能が利用されない動作モードである。表示装置3がナビゲーション機能を有している場合は、通常モードM0においては、表示装置3はナビゲーション機能に基づく地図画像などを表示する。
一方、俯瞰モードM1、及び、周回モードM2は、画像生成装置2の機能を利用し、画像生成装置2で生成された仮想視点画像を含む表示画像を表示装置3で表示する動作モードである。したがって、これらの動作モードでは、ユーザは、表示装置3に表示された表示画像を確認することで、車両9の周辺の様子をほぼリアルタイムに把握できる。
俯瞰モードM1は、車両9の直上の視点から車両9の周辺を俯瞰する仮想視点画像である俯瞰画像を表示する動作モードである。図6は、俯瞰モードM1で表示される、俯瞰画像CP1を含む表示画像DPの一例を示す図である。図に示すように、この表示画像DPは、俯瞰画像CP1とともに、カメラ5の位置からみた車両9の周辺を示す仮想視点画像であるカメラ視点画像CP2を含んでいる。
カメラ視点画像CP2の仮想視点VPは、車両9の進行方向に基いて選択される。車両9の進行方向が前方の場合はフロントカメラ5Fの光軸5Faと同様の仮想視点VPが設定され、車両9の進行方向が後方の場合はリアカメラ5Bの光軸5Baと同様の仮想視点VPが設定される。車両9の進行方向は、シフトセンサ95から送出される信号に基いて画像制御部20aが判定する。ユーザは、このような俯瞰画像CP1とカメラ視点画像CP2とを確認することで、車両9の周囲全体の様子と車両9の進行方向の様子とを把握できることになる。
これに対して、周回モードM2は、車両9の車室内の視点からみた車両9の周辺を示す仮想視点画像である車内視点画像を表示する動作モードである。図7は、車内視点画像CP3を含む表示画像DPの一例を示す図である。図に示すように、この車内視点画像CP3は、車両9の車室内の視点からみた車両9の周辺の被写体の像に、車室内の視点からみた車両9の車体(内装)を示す車両像90が重畳された臨場感のある画像となる。ユーザは、このような車内視点画像CP3を確認することで、車両9の周囲の様子を車室内の視点から確認でき、車両9の周辺の様子を直感的に把握できることになる。また、ユーザは、車内視点画像CP3に含まれる車両像90に基づいて、車内視点画像CP3が車両9の周囲のいずれの方向を示しているかを直感的に把握できる。
車両像90は、車体底面に相当する部分と車体底面以外に相当する部分とに分けられる。車両像90における車体底面に相当する部分は非透明となっている。一方で、車両像90における車体底面以外に相当する部分は、タイヤ及びフレームなどの特徴のある一部を除いて透明あるいは半透明となっている。これにより、車内視点画像CP3に車両像90を含めたとしても、車両9の周辺の被写体の像を確認できるようになっている。
周回モードM2では、このような車内視点画像が連続的に表示装置3に表示され、車両9の周囲を周回するように車室内の視点からみた車両9の周辺の様子を示すアニメーションが行われる。したがって、周回モードM2を利用することで、ユーザは車両9の周囲全体を確認することができる。
図5に示すように、画像表示システム10が起動すると、まず、その動作モードが周回モードM2となる。この周回モードM2の場合は、仮想視点VPの視線が車両9の周囲を一周する。このような仮想視点VPの視線の周回が完了すると、動作モードは通常モードM0に切り替えられる。また、通常モードM0において、ユーザが操作ボタン4を長押した場合(一定時間以上継続して押圧した場合)は、動作モードは周回モードM2に切り替えられる。
また、通常モードM0において、ユーザが操作ボタン4を通常の長さで押した場合、あるいは、車両9のシフトポジションがリバースとなった場合は、動作モードは俯瞰モードM1に切り替えられる。また、俯瞰モードM1において、ユーザが操作ボタン4を押した場合は、動作モードは通常モードM0に切り替えられる。
<1−4.周回モード>
次に、周回モードM2についてより詳細に説明する。前述のように、周回モードM2では、車両9の周囲を周回するように車室内の視点からみた車両9の周辺の様子を示すアニメーションが行われる。
このようなアニメーションを行うため、周回モードM2では、画像制御部20aが、仮想視点VPの視線が車両9の周囲を周回するように、仮想視点VPの視線の向きを変更する。具体的には、画像制御部20aが、仮想視点VPの視線の平面視での車両9の前後方向に対する角度(車両9を上からみた場合での車両9の前後方向に対する角度。以下、「平面視角」という。)を徐々に変更する。そして、このように画像制御部20aが仮想視点VPの視線の平面視角を徐々に変更している状態で、画像生成部22が車内視点画像を連続的に(時間的に連続して)生成する。
これにより生成された車内視点画像を連続的に表示装置3において表示することにより、車両9の周囲を周回するように車両9の周辺の様子を示すアニメーションが行われる。このようなアニメーションを確認することで、ユーザは車両9の周囲全体の様子を容易に確認することができる。このアニメーションは、例えば20秒間かけて行われる。
<1−4−1.仮想視点の位置の移動>
周回モードM2において、画像制御部20aは、仮想視点VPの視線の向き(平面視角)を変更するだけでなく、仮想視点VPの位置も変更する。
図8は、周回モードM2における仮想視点VPの遷移を示す図であり、車両9を平面視で示している。図中の実線矢印のそれぞれは仮想視点VPを表しており、実線矢印の始点が仮想視点VPの位置を示している。実線矢印の向きは、仮想視点VPの視線の平面視での向きを示している。すなわち、実線矢印の車両9の前後方向に対する角度は、仮想視点VPの視線の平面視角に相当する。
図に示すように、画像制御部20aは、仮想視点VPの視線が車両9の周囲を右回りで一周するように、仮想視点VPの視線の平面視角を徐々に変更する。これとともに、画像制御部20aは、仮想視点VPの位置を、車両9の車室91の内部を一周するように、車室91の周縁に沿って車両9の前後方向及び左右方向に直線的に移動する。
まず、画像制御部20aは、仮想視点VPの視線が初期方向である車両9の前後方向に沿った前方に向くように、仮想視点VPの視線の平面視角を設定する。これとともに、画像制御部20aは、仮想視点VPの位置を、初期位置である車室91の前方中央の位置(以下、「前方中央位置」という。)P1に設定する。
図9は、仮想視点VPの視線が車両9の前方に向き仮想視点VPの位置が前方中央位置P1の場合において、画像生成部22が生成する車内視点画像CP31の例を示す図である。図9に示すように、車内視点画像CP31は、車両9の前方の被写体の像に、車両9の前方を示す車両像90が重畳された画像となっている。
図8に戻り、次に、画像制御部20aは、仮想視点VPの視線の平面視角を維持しつつ、仮想視点VPの位置を車室91の前方右端の位置P2に向けて右方に連続的に移動する(破線矢印A1)。すなわち、画像制御部20aは、仮想視点VPの視線を前方に向けた状態を維持しながら、仮想視点VPの位置を車室91の前側の周縁に沿って右方に移動する。
仮想視点VPの位置を前方右端の位置P2に移動すると、画像制御部20aは、仮想視点VPの位置の移動を停止した後、仮想視点VPの視線が車両9の左右方向に沿った右方に向くように仮想視点VPの視線の平面視角を連続的に変更する(破線矢印A11)。すなわち、画像制御部20aは、仮想視点VPの位置を前方右端の位置P2に維持しながら、仮想視点VPの視線の平面視角を右回転で90°変更する。
仮想視点VPの視線を車両9の右方に向けると、画像制御部20aは、仮想視点VPの視線の平面視角を維持しつつ、仮想視点VPの位置を車室91の後方右端の位置P3に向けて後方に連続的に移動する(破線矢印A2)。すなわち、画像制御部20aは、仮想視点VPの視線を右方に向けた状態を維持しながら、仮想視点VPの位置を車室91の右側の周縁に沿って後方に移動する。
図10は、仮想視点VPの視線が車両9の右方に向き仮想視点VPの位置が車室91の右側の周縁に沿って移動する場合において、画像生成部22が生成する車内視点画像CP32の例を示す図である。図10に示すように、車内視点画像CP32は、車両9の右方の被写体の像に、車両9の右方を示す車両像90が重畳された画像となっている。
図8に戻り、仮想視点VPの位置を後方右端の位置P3に移動すると、画像制御部20aは、仮想視点VPの位置の移動を停止した後、仮想視点VPの視線が車両9の前後方向に沿った後方に向くように仮想視点VPの視線の平面視角を連続的に変更する(破線矢印A12)。すなわち、画像制御部20aは、仮想視点VPの位置を後方右端の位置P3に維持しながら、仮想視点VPの視線の平面視角を右回転で90°変更する。
仮想視点VPの視線を車両9の後方に向けると、画像制御部20aは、仮想視点VPの視線の平面視角を維持しつつ、仮想視点VPの位置を車室91の後方左端の位置P5に向けて左方に連続的に移動する(破線矢印A3)。すなわち、画像制御部20aは、仮想視点VPの視線を後方に向けた状態を維持しながら、仮想視点VPの位置を車室91の後側の周縁に沿って左方に移動する。この移動中において、仮想視点VPの位置は車室91の後方中央の位置(以下、「後方中央位置」という。)P4を経由する。
図11は、仮想視点VPの視線が車両9の後方に向き仮想視点VPの位置が後方中央位置P4の場合において、画像生成部22が生成する車内視点画像CP33の例を示す図である。図11に示すように、車内視点画像CP33は、車両9の後方の被写体の像に、車両9の後方を示す車両像90が重畳された画像となっている。
図8に戻り、仮想視点VPの位置を後方左端の位置P5に移動すると、画像制御部20aは、仮想視点VPの位置の移動を停止した後、仮想視点VPの視線が車両9の左右方向に沿った左方に向くように仮想視点VPの視線の平面視角を連続的に変更する(破線矢印A13)。すなわち、画像制御部20aは、仮想視点VPの位置を後方左端の位置P5に維持しながら、仮想視点VPの視線の平面視角を右回転で90°変更する。
仮想視点VPの視線を車両9の左方に向けると、画像制御部20aは、仮想視点VPの視線の平面視角を維持しつつ、仮想視点VPの位置を車室91の前方左端の位置P6に向けて前方に連続的に移動する(破線矢印A4)。すなわち、画像制御部20aは、仮想視点VPの視線を左方に向けた状態を維持しながら、仮想視点VPの位置を車室91の左側の周縁に沿って前方に移動する。
図12は、仮想視点VPの視線が車両9の左方に向き仮想視点VPの位置が車室91の左側の周縁に沿って移動する場合において、画像生成部22が生成する車内視点画像CP34の例を示す図である。図12に示すように、車内視点画像CP34は、車両9の左方の被写体の像に、車両9の左方を示す車両像90が重畳された画像となっている。
図8に戻り、仮想視点VPの位置を前方左端の位置P6に移動すると、画像制御部20aは、仮想視点VPの位置の移動を停止した後、仮想視点VPの視線が車両9の前後方向に沿った前方に向くように仮想視点VPの視線の平面視角を連続的に変更する(破線矢印A14)。すなわち、画像制御部20aは、仮想視点VPの位置を前方左端の位置P6に維持しながら、仮想視点VPの視線の平面視角を右回転で90°変更する。
仮想視点VPの視線を車両9の前方に向けると、画像制御部20aは、仮想視点VPの視線の平面視角を維持しつつ、仮想視点VPの位置を前方中央位置P1に向けて右方に連続的に移動する(破線矢印A5)。すなわち、画像制御部20aは、仮想視点VPの視線を前方に向けた状態を維持しながら、仮想視点VPの位置を車室91の前側の周縁に沿って右方に移動する。
そして、最終的に仮想視点VPの位置は初期位置である前方中央位置P1に戻る。仮想視点VPの位置が前方中央位置P1に戻った場合においては、画像生成部22は図9に示す車内視点画像CP31と同様の車内視点画像を生成する。
このように、周回モードM2において画像制御部20aは、仮想視点VPの視線を向ける方向に応じて仮想視点VPの位置を移動する。すなわち、画像制御部20aは、仮想視点VPの視線を車両9の前方に向ける場合は、仮想視点VPの位置を車室91の前方に移動する。同様に、画像制御部20aは、仮想視点VPの視線を車両9の後方に向ける場合は、仮想視点VPの位置を車室91の後方に移動する。また、画像制御部20aは、仮想視点VPの視線を車両9の右方に向ける場合は仮想視点VPの位置を車室91の右方に移動し、仮想視点VPの視線を車両9の左方に向ける場合は仮想視点VPの位置を車室91の左方に移動する。このように仮想視点VPの視線を向ける方向に応じて仮想視点VPの位置も移動することで、車内視点画像に含まれる車両9の被写体の像の視認性を向上できる。
図13は、比較例における仮想視点VPの遷移を示す図である。この比較例においては、周回モードにおいて、仮想視点VPの位置が移動されず、車室91のドライバの視点に相当する位置P0に固定されている。また、仮想視点VPの視線が右回りで一周するように、仮想視点VPの視線の平面視角が連続的に変更される。図14は、該比較例において、仮想視点VPの視線が車両9の前方に向いた場合に生成される車内視点画像CP41の例を示す図である。また、図15は、該比較例において、仮想視点VPの視線が車両9の後方に向いた場合に生成される車内視点画像CP43の例を示す図である。
図14と図9とを比較し、図15と図11とを比較して分かるように、比較例の車内視点画像CP41,CP43においては、本実施の形態の車内視点画像CP31,CP33と比較して、車両像90が車体における必要以上に多くの部分を示している。このため、車両像90が車両9の周辺の被写体の像の視認性を妨げる可能性がある。また、比較例の車内視点画像CP41,CP43においては、仮想視点VPの位置から車両9の周辺の被写体までの距離が長いため、確認すべき被写体の像が小さくなり、被写体の像の視認性が悪くなっている。
これに対して、本実施の形態では、画像制御部20aが、仮想視点VPの視線を向ける方向に応じて仮想視点VPの位置も移動する。このため、車内視点画像に含まれる車両像90が示す車体の部分を少なくすることができる。また、仮想視点VPの位置から車両9の周辺の被写体までの距離が短いため、確認すべき被写体の像を大きくすることができる。その結果、車内視点画像に含まれる車両9の周辺の被写体の像の視認性を向上できる。
一般に車両は前後方向に長いため、仮想視点VPの視線を向ける方向に応じて仮想視点VPの位置を車両の前後方向に移動させることにより、車内視点画像に含まれる被写体の像の視認性を効果的に向上できる。また、本実施の形態では、画像制御部20aは、仮想視点VPの視線を向ける方向に応じて仮想視点VPの位置を車両9の前後方向とともに左右方向にも移動させるため、車内視点画像に含まれる被写体の像の視認性をさらに効果的に向上できる。画像制御部20aは、仮想視点VPの視線を車両の車室の周縁に沿って移動させるため、車内視点画像に含まれる車両像90が示す車体の部分を少なくすることができるとともに、確認すべき被写体の像を大きくすることができる。
また、上記のように、周回モードM2において画像制御部20aは、仮想視点VPの視線の平面視角の変更中は仮想視点VPの位置を維持し、一方で、仮想視点の位置の移動中は仮想視点の視線の平面視角を維持する。すなわち、画像制御部20aは、仮想視点VPの視線の平面視角と仮想視点VPの位置とを並行して変更せず、一方を変更している場合は他方を維持するようになっている。これにより、仮想視点VPの視線の動きが複雑にならずにシンプルにできるため、周回モードM2において連続的に生成される車内視点画像が車両9の周辺の様子を分かりやすく示すことができる。
<1−4−2.仮想視点の俯角の調整>
ところで、仮想視点VPの視線の向きは、平面視角と俯角(水平方向を基準とした下向きの角度)とで規定される。周回モードM2において画像制御部20aは、このような仮想視点VPの視線の俯角も調整する。
図16は、仮想視点画像の生成に用いられる投影面TSを示す図である。図16に示すように、投影面TSにおいては、撮影画像のデータが投影される領域(以下、「投影領域」という。)R1の外側に、撮影画像のデータが投影されない領域(以下、「非投影領域」という。)R2が存在している。
前述のように、フロントカメラ5Fと、リアカメラ5Bと、サイドカメラ5L,5Rとでは光軸の俯角が異なり、撮影可能となる車両9から離れる方向の距離が異なる。そして、左右のサイドカメラ5L,5Rは、車両9に比較的近い領域のみを撮影でき、車両9から比較的離れた領域を撮影できない。このため、図16に示すように、投影面TSにおいて車両9の左方及び右方に相当する部分に、データの無い非投影領域R2が生じることになる。
このような非投影領域R2を考慮しなかった場合には、周回モードM2において画像生成部22が、投影面TSにおける非投影領域R2を含む領域を用いて車内視点画像を生成する可能性がある。すなわち、車内視点画像が非投影領域R2を含む可能性がある。非投影領域R2にはデータが無いため、非投影領域R2を含む車内視点画像においては、一部の領域が車両9の周辺の被写体の像を示さずに単一色(一般には、黒色)となる。したがって、このような車内視点画像を視認したユーザは大きな違和感を感じることになる。
このような問題に対応するため、本実施の形態の画像制御部20aは、周回モードM2において、投影面TSにおける非投影領域R2を車内視点画像が含まないように仮想視点VPの視線の俯角を調整する。
図17は、画像制御部20aが調整した仮想視点VPの視線の俯角βを示す図である。投影面TSにおいては、車両9の全周囲のうち左方及び右方において、投影領域R1のサイズ(車両9から離れる方向の長さ)が最小となり、非投影領域R2のサイズ(車両9から離れる方向の長さ)が最大となる(図16参照。)。画像制御部20aが仮想視点VPの視線の俯角βを特定角度(例えば、60°)に設定した場合は、このような車両9の左方または右方に仮想視点VPの視線を向けた場合においても車内視点画像が非投影領域R2を含まないようにすることができる。
このため、周回モードM2において画像制御部20aは、仮想視点VPの視線の俯角βを、この特定角度(60°)に設定する。そして、図17に示すように、画像制御部20aは、仮想視点VPの視線が車両9の周囲を周回するように仮想視点VPの視線の平面視角を変更したとしても、仮想視点VPの視線の俯角βを特定角度(60°)に常時に維持する。すなわち、画像制御部20aは、車両9の全周囲のいずれの方向に仮想視点VPの視線を向けた場合であっても、仮想視点VPの視線の俯角βを特定角度(60°)にする。
図18は、図17のように仮想視点VPの視線の俯角βを調整した場合に、投影面TSのうち画像生成部22が車内視点画像の生成に用いる使用領域R10を示す図である。図18に示すように、使用領域R10は、車両9に比較的近く車両9の周囲を囲む領域となる。使用領域R10は、データのある投影領域R1のみを含み、データの無い非投影領域R2を含まない。
仮想視点VPの視線の俯角βを特定角度(60°)に維持すれば、投影領域R1のサイズが最小となる方向に仮想視点VPの視線を向けた場合においても車内視点画像が非投影領域R2を含まない。このため、当然に、その他の方向に仮想視点VPの視線を向けた場合においても、車内視点画像が非投影領域R2を含むことはない。したがって、周回モードM2において、仮想視点VPの視線が車両9の周囲を周回するように仮想視点VPの視線の平面視角を変更したとしても、車内視点画像が非投影領域R2を常に含まないようにすることができる。その結果、車内視点画像を視認したユーザが違和感を感じることを防止できる。
また、周回モードM2において画像制御部20aが仮想視点VPの視線の俯角βを維持することから、仮想視点VPの視線の動きが複雑にならずにシンプルにできる。このため、周回モードM2において連続的に生成される車内視点画像が車両9の周辺の様子を分かりやすく示すことができる。
<1−4−3.動作の流れ>
次に、周回モードM2における画像表示システム10の動作の流れについて説明する。図19は、周回モードM2における画像表示システム10の動作の流れを示す図である。
動作モードが周回モードM2となると、まず、画像制御部20aが仮想視点VPを車室内に設定する(ステップS11)。画像制御部20aは、仮想視点VPの視線が初期方向である車両9の前方に向くようにその平面視角を設定するとともに、仮想視点VPの位置を初期位置である前方中央位置P1に設定する。また、画像制御部20aは、車両9の左方または右方に仮想視点VPの視線を向けた場合においても仮想視点画像が非投影領域R2を含まない特定角度(60°)に、仮想視点VPの視線の俯角を設定する。
次に、車両9に設けられた4つのカメラ5のそれぞれが車両9の周辺を撮影する。そして、画像取得部21が、4つのカメラ5でそれぞれ得られた4つの撮影画像を取得する(ステップS12)。
次に、取得された4つ撮影画像を用いて、画像生成部22が車内視点画像を生成する(ステップS13)。そして、画像調整部23が生成された車内視点画像を含む表示画像DPを生成し、画像出力部24がこの表示画像DPを表示装置3に出力する(ステップS14)。これにより、車内視点画像を含む表示画像DPが、表示装置3に表示される。
次に、画像制御部20aが、仮想視点VPの視線の平面視角、あるいは、仮想視点VPの位置を変更する(ステップS16)。そして、処理は再びステップS12に戻り、上記ステップS12〜S14と同様の処理が繰り返される。このような処理(ステップS12〜S14,S16)が、所定の周期(例えば、1/30秒周期)で繰り返される。
ステップS16において、画像制御部20aは、上述したように仮想視点VPの視線の平面視角と仮想視点VPの位置とを並行して変更せず、一方を変更している場合は他方を維持する(図8参照。)。また、画像制御部20aは、仮想視点VPの視線の平面視角及び仮想視点VPの位置に関わらず、仮想視点VPの視線の俯角を特定角度に維持する(図17参照。)。
このような処理により、画像制御部20aが仮想視点VPを徐々に変更している状態で、画像生成部22が車内視点画像を連続的に生成することになる。その結果、表示装置3において、車両9の周囲を周回するように車両9の周辺の様子を示すアニメーションが行われる。
仮想視点VPの視線が車両9の周囲を一周し、仮想視点VPの位置が初期位置である前方中央位置P1に戻ると(ステップS15にてYes)、周回モードM2における画像表示システム10の動作が終了する。
<2.第2の実施の形態>
次に、第2の実施の形態について説明する。第2の実施の形態の画像表示システム10の構成及び動作は、第1の実施の形態とほぼ同様であるため、以下、第1の実施の形態との相違点を中心に説明する。
第1の実施の形態では、周回モードM2において画像制御部20aは、仮想視点VPの視線の平面視角と仮想視点VPの位置とを並行して変更しなかった。これに対して、第2の実施の形態では、画像制御部20aは、仮想視点VPの視線の平面視角と仮想視点VPの位置とを並行して変更する。
図20は、第2の実施の形態の周回モードM2における仮想視点VPの遷移を示す図である。第2の実施の形態においても、第1の実施の形態と同様に、画像制御部20aは、前方中央位置P1から位置P2〜P6を経由して再び前方中央位置P1まで、車両9の車室91の内部を一周するように車室91の周縁に沿って仮想視点VPの位置を直線的に移動する。ただし、画像制御部20aは、位置P2,P3,P5,P6においても仮想視点VPの位置を停止せず、仮想視点VPの位置を継続的に移動する。
また、画像制御部20aは、仮想視点VPの位置の移動中においても、仮想視点VPの視線の平面視角を継続的に変更する(破線矢印A15)。これにより、周回モードM2においては、仮想視点VPの視線の平面視角と仮想視点VPの位置とが並行して変更されることになる。
第2の実施の形態においても、周回モードM2において画像制御部20aは、仮想視点VPの視線を向ける方向に応じて仮想視点VPの位置を移動する。すなわち、画像制御部20aは、仮想視点VPの視線を車両9の前方に向ける場合は、仮想視点VPの位置を車室91の前方に移動する。同様に、画像制御部20aは、仮想視点VPの視線を車両9の後方に向ける場合は、仮想視点VPの位置を車室91の後方に移動する。また、画像制御部20aは、仮想視点VPの視線を車両9の右方に向ける場合は仮想視点VPの位置を車室91の右方に移動し、仮想視点VPの視線を車両9の左方に向ける場合は仮想視点VPの位置を車室91の左方に移動する。これにより、車内視点画像に含まれる車両9の被写体の像の視認性を向上できる。
以上のように第2の実施の形態では、仮想視点VPの視線の平面視角と仮想視点VPの位置との双方が並行して変更されるため、仮想視点の視線が車両9の周囲を周回する時間を短くすることができる。すなわち、車両9の周囲を周回するように車両9の周辺の様子を示すアニメーションが行われる時間を比較的短くすることができる(例えば、15秒)。したがって、ユーザは、車両9の周囲全体の様子を比較的短時間で確認することができる。
<3.第3の実施の形態>
次に、第3の実施の形態について説明する。第3の実施の形態の画像表示システム10の構成及び動作は、第2の実施の形態とほぼ同様であるため、以下、第2の実施の形態との相違点を中心に説明する。
第2の実施の形態では、画像制御部20aは、車室91の周縁に沿って仮想視点VPの位置を直線的に移動していた。これに対して、第3の実施の形態では、画像制御部20aは、仮想視点VPの位置を略楕円形状に移動するようになっている。第3の実施の形態においても、画像制御部20aは、仮想視点VPの視線の平面視角と仮想視点VPの位置とを並行して変更する。
図21は、第3の実施の形態の周回モードM2における仮想視点VPの遷移を示す図である。図21に示すように、第3の実施の形態では、仮想視点VPの位置を移動するルートとして、長軸が車両9の前後方向に沿った略楕円形のルートが車両9の車室91の内部に設定される。
まず、画像制御部20aは、仮想視点VPの視線が初期方向である車両9の前方に向くようにその平面視角を設定するとともに、仮想視点VPの位置を初期位置である前方中央位置P1に設定する。
次に、画像制御部20aは、前方中央位置P1から後方中央位置P4まで略楕円形のルートの右側の弧に沿って仮想視点VPの位置を後方に移動する(破線矢印A6)。さらに、画像制御部20aは、後方中央位置P4から前方中央位置P1まで略楕円形のルートの左側の弧に沿って仮想視点VPの位置を前方に移動する(破線矢印A7)。画像制御部20aは、このような仮想視点VPの位置の移動中においても、仮想視点VPの視線の平面視角を継続的に変更する(破線矢印A16)。
第3の実施の形態においても、周回モードM2において画像制御部20aは、仮想視点VPの視線を向ける方向に応じて仮想視点VPの位置を移動する。すなわち、画像制御部20aは、仮想視点VPの視線を車両9の前方に向ける場合は、仮想視点VPの位置を車室91の前方に移動する。同様に、画像制御部20aは、仮想視点VPの視線を車両9の後方に向ける場合は、仮想視点VPの位置を車室91の後方に移動する。また、画像制御部20aは、仮想視点VPの視線を車両9の右方に向ける場合は仮想視点VPの位置を車室91の右方に移動し、仮想視点VPの視線を車両9の左方に向ける場合は仮想視点VPの位置を車室91の左方に移動する。これにより、車内視点画像に含まれる車両9の被写体の像の視認性を向上できる。
以上のように第3の実施の形態では、仮想視点VPの位置を略楕円状に移動するため、仮想視点VPの位置を移動すべき距離を短くできる。したがって、仮想視点VPの視線が車両9の周囲を周回する時間をさらに短くすることができ、ユーザは車両9の周囲全体の様子をより短時間で確認することができる。
また、仮想視点VPの位置を移動するルートとなる略楕円形は、その長軸が車両9の前後方向に沿っている。このため、車両9の車室91の前方及び後方に仮想視点VPの位置を大きく移動させることができる。したがって、仮想視点VPの視線を車両9の前方あるいは後方に向ける場合においても、車内視点画像に含まれる車両像90が示す車体の部分を少なくすることができるとともに、確認すべき被写体の像を大きくすることができる。
<4.第4の実施の形態>
次に、第4の実施の形態について説明する。第4の実施の形態の画像表示システム10の構成及び動作は、第1の実施の形態とほぼ同様であるため、以下、第1の実施の形態との相違点を中心に説明する。
第1の実施の形態では、画像制御部20aは、仮想視点VPの位置を車両9の前後方向とともに左右方向にも移動していた。これに対して、第4の実施の形態では、画像制御部20aは、仮想視点VPの位置を車両9の前後方向にのみ移動する。
図22は、第4の実施の形態の周回モードM2における仮想視点VPの遷移を示す図である。図22に示すように、第4の実施の形態では、仮想視点VPの位置を移動するルートとして、車両9の前後方向に沿った直線のルートが車両9の車室91の内部に設定される。
まず、画像制御部20aは、仮想視点VPの視線が初期方向である車両9の前方に向くようにその平面視角を設定するとともに、仮想視点VPの位置を初期位置である前方中央位置P1に設定する。
次に、画像制御部20aは、仮想視点VPの視線が車両9の左右方向に沿った右方に向くように仮想視点VPの視線の平面視角を連続的に変更する(破線矢印A17)。すなわち、画像制御部20aは、仮想視点VPの位置を前方中央位置P1に維持しながら、仮想視点VPの視線の平面視角を右回転で90°変更する。
仮想視点VPの視線を車両9の右方に向けると、画像制御部20aは、仮想視点VPの視線の平面視角を維持しつつ、前方中央位置P1から後方中央位置P4まで直線のルートに沿って仮想視点VPの位置を後方に移動する(破線矢印A8)。
仮想視点VPの位置を後方中央位置P4に移動すると、画像制御部20aは、仮想視点VPの位置の移動を停止した後、仮想視点VPの視線が車両9の左右方向に沿った左方に向くように仮想視点VPの視線の平面視角を連続的に変更する(破線矢印A18)。すなわち、画像制御部20aは、仮想視点VPの位置を位置P4に維持しながら、仮想視点VPの視線の平面視角を右回転で180°変更する。
仮想視点VPの視線を車両9の左方に向けると、画像制御部20aは、仮想視点VPの視線の平面視角を維持しつつ、後方中央位置P4から前方中央位置P1まで直線のルートに沿って仮想視点VPの位置を前方に移動する(破線矢印A8)。
仮想視点VPの位置を前方中央位置P1に移動すると、画像制御部20aは、仮想視点VPの位置の移動を停止した後、仮想視点VPの視線が車両9の前後方向に沿った前方に向くように仮想視点VPの視線の平面視角を連続的に変更する(破線矢印A19)。すなわち、画像制御部20aは、仮想視点VPの位置を前方中央位置P1に維持しながら、仮想視点VPの視線の平面視角を右回転で90°変更する。
第4の実施の形態においても、周回モードM2において画像制御部20aは、仮想視点VPの視線を向ける方向に応じて仮想視点VPの位置を移動する。すなわち、画像制御部20aは、仮想視点VPの視線を車両9の前方に向ける場合は、仮想視点VPの位置を車室91の前方に移動する。同様に、画像制御部20aは、仮想視点VPの視線を車両9の後方に向ける場合は、仮想視点VPの位置を車室91の後方に移動する。これにより、車内視点画像に含まれる車両9の被写体の像の視認性を向上できる。
以上のように第4の実施の形態では、仮想視点VPの位置を前後方向にのみ直線的に移動するため、仮想視点VPの位置を移動すべき距離を短くできる。したがって、仮想視点VPの視線が車両9の周囲を周回する時間を短くすることができ、ユーザは車両9の周囲全体の様子を比較的短時間で確認することができる。
なお、図22においては、画像制御部20aが仮想視点VPの視線の平面視角と仮想視点VPの位置とを並行して変更しないようになっているが、第2の実施の形態と同様に、仮想視点VPの視線の平面視角と仮想視点VPの位置とを並行して変更してもよい。
<5.第5の実施の形態>
次に、第5の実施の形態について説明する。第5の実施の形態の画像表示システム10の構成及び動作は、第1の実施の形態とほぼ同様であるため、以下、第1の実施の形態との相違点を中心に説明する。
第1の実施の形態では、周回モードM2において画像制御部20aは、仮想視点VPの視線の俯角を特定角度に維持していた。これに対して、第5の実施の形態では、画像制御部20aは、投影面TSにおける仮想視点VPの視線を向ける方向の投影領域R1のサイズに応じて、仮想視点VPの視線の俯角を変更する。
前述のように、投影面TSにおいては車両9の左方及び右方において投影領域R1のサイズ(車両9から離れる方向の長さ)が最小となる。したがって、投影面TSにおける車両9の前方または後方においては、車両9の左方及び右方と比較して投影領域R1のサイズ(車両9から離れる方向の長さ)は大きくなる。このため、車両9の前方または後方に仮想視点VPの視線を向ける場合には、左方または右方に向ける場合よりも仮想視点VPの視線を上向きにしたとしも、車内視点画像が非投影領域R2を含まない。第5の実施の形態の画像制御部20aは、このように車内視点画像が非投影領域R2を含まない範囲で、投影領域R1のサイズに応じて仮想視点VPの視線の俯角を変更する。
図23は、第5の実施の形態の周回モードM2における仮想視点VPの視線の俯角βを示す図である。図23に示すように、画像制御部20aは、仮想視点VPの視線を車両9の左方または右方に向ける場合においては、第1の実施の形態と同様に、仮想視点VPの視線の俯角βを特定角度(60°)にする。一方で、画像制御部20aは、仮想視点VPの視線を車両9の前方または後方に向ける場合においては、仮想視点VPの視線の俯角βを特定角度(60°)よりも小さくする。
まず、画像制御部20aは、仮想視点VPの視線が車両9の前方に向くようにその平面視角を設定するとともに、仮想視点VPの位置を初期位置である前方中央位置P1に設定する。このように仮想視点VPの位置が前方中央位置P1の場合においては、画像制御部20aは、仮想視点VPの視線の俯角βを、最も小さい最小角度(例えば、30°)に設定する。
図24は、仮想視点VPの視線が車両9の前方に向き仮想視点VPの位置が前方中央位置P1の場合において、画像生成部22が生成する車内視点画像CP35の例を示す図である。図9の第1の実施の形態の車内視点画像CP31と比較して、図24の第5の実施の形態の車内視点画像CP35は、車両9から離れた比較的遠方の被写体を示すことができる。
図9の仮想視点VPの視線の俯角βは特定角度(60°)であるのに対し、図24の仮想視点VPの視線の俯角βは最小角度(30°)である。したがって、図24の仮想視点VPの視線は、図9の仮想視点VPの視線よりも上向きとなる。投影面TSにおける車両9の前方においては投影領域R1のサイズが比較的大きいため、このように仮想視点VPの視線の俯角βを最小角度(30°)にしても、車内視点画像が非投影領域R2を含まない。
図23に戻り、次に、画像制御部20aは、仮想視点VPの位置を前方中央位置P1から前方右端の位置P2に向けて移動する。この移動中に、画像制御部20aは、仮想視点VPの視線の俯角βを最小角度(30°)から特定角度(60°)まで徐々に変化させる。すなわち、画像制御部20aは、仮想視点VPの視線を徐々に下向きにする。
次に、画像制御部20aは、仮想視点VPの視線を車両9の右方に向け、仮想視点VPの位置を前方右端の位置P2から後方右端の位置P3に向けて移動する。投影面TSにおける車両9の右方においては投影領域R1のサイズが最小となる。このため、この移動中においては、車内視点画像が非投影領域R2を含まないように、画像制御部20aは、仮想視点VPの視線の俯角βを特定角度(60°)に維持する。
次に、画像制御部20aは、仮想視点VPの視線を車両9の後方に向け、仮想視点VPの位置を後方右端の位置P3から後方中央位置P4に向けて移動する。この移動中に、画像制御部20aは、仮想視点VPの視線の俯角βを特定角度(60°)から最小角度(30°)まで徐々に変化させる。すなわち、画像制御部20aは、仮想視点VPの視線を徐々に上向きにする。仮想視点VPの位置が後方中央位置P4の場合に、仮想視点VPの視線の俯角βは最小角度(30°)となる。
図25は、仮想視点VPの視線が車両9の後方に向き仮想視点VPの位置が後方中央位置P4の場合において、画像生成部22が生成する車内視点画像CP36の例を示す図である。図25の第5の実施の形態の車内視点画像CP36は、図11の第1の実施の形態の車内視点画像CP33と比較して、車両9から離れた比較的遠方の被写体を示すことができる。
図11の仮想視点VPの視線の俯角βは特定角度(60°)であるのに対し、図25の仮想視点VPの視線の俯角βは最小角度(30°)である。したがって、したがって、図25の仮想視点VPの視線は、図11の仮想視点VPの視線よりも上向きとなる。投影面TSにおける車両9の後方においては投影領域R1のサイズが比較的大きいため、このように仮想視点VPの視線の俯角βを最小角度(30°)にしても、車内視点画像が非投影領域R2を含まない。
図23に戻り、次に、画像制御部20aは、仮想視点VPの位置を後方中央位置P4から後方左端の位置P5に向けて移動する。この移動中に、画像制御部20aは、仮想視点VPの視線の俯角βを最小角度(30°)から特定角度(60°)まで徐々に変化させる。すなわち、画像制御部20aは、仮想視点VPの視線を徐々に下向きにする。
次に、画像制御部20aは、仮想視点VPの視線を車両9の左方に向け、仮想視点VPの位置を後方左端の位置P5から前方左端の位置P6に向けて移動する。投影面TSにおける車両9の左方においては投影領域R1のサイズが最小となる。このため、この移動中においては、車内視点画像が非投影領域R2を含まないように、画像制御部20aは、仮想視点VPの視線の俯角βを特定角度(60°)に維持する。
次に、画像制御部20aは、仮想視点VPの視線を車両9の前方に向け、仮想視点VPの位置を前方左端の位置P6から前方中央位置P1に向けて移動する。この移動中に、画像制御部20aは、仮想視点VPの視線の俯角βを特定角度(60°)から最小角度(30°)まで徐々に変化させる。すなわち、画像制御部20aは、仮想視点VPの視線を徐々に上向きにする。仮想視点VPの位置が初期位置である前方中央位置P1に戻った場合は、仮想視点VPの視線の俯角βは最小角度(30°)となる。
図26は、図23のように仮想視点VPの視線の俯角βを調整した場合に、投影面TSのうち画像生成部22が車内視点画像の生成に用いる使用領域R11を示す図である。図26に示すように、使用領域R11は、車両9の前後方向に長い領域となる。使用領域R11は、データのある投影領域R1のみを含み、データの無い非投影領域R2を含まない。したがって、周回モードM2において、仮想視点VPの視線が車両9の周囲を周回するように仮想視点VPの視線の平面視角を変更したとしても、車内視点画像が非投影領域R2を含まないようにすることができる。その結果、車内視点画像を視認したユーザが違和感を感じることを防止できる。
以上のように第5の実施の形態では、画像制御部20aは、車内視点画像が非投影領域R2を含まない範囲で、投影面TSにおける仮想視点VPの視線を向ける方向の投影領域R1のサイズに応じて仮想視点VPの視線の俯角βを変更する。このため、車内視点画像を視認したユーザが違和感を感じることを防止しつつ、車内視点画像が車両9から離れた比較的遠方の被写体を示すことができる。画像制御部20aは、仮想視点VPの視線を車両9の前方または後方に向ける場合に、仮想視点VPの視線の俯角βを特定角度(60°)よりも小さくする。したがって、車両9の進行方向に存在する比較的遠方の被写体を、車内視点画像が示すことができる。
<6.第6の実施の形態>
次に、第6の実施の形態について説明する。第6の実施の形態の画像表示システム10の構成及び動作は、第1の実施の形態とほぼ同様であるため、以下、第1の実施の形態との相違点を中心に説明する。
第1の実施の形態では、周回モードM2において画像制御部20aは、仮想視点VPの視線の俯角を特定角度に常に維持していた。これに対して、第6の実施の形態では、画像制御部20aは、仮想視点VPの位置が前方中央位置P1及び後方中央位置P4以外の場合は、第1の実施の形態と同様に仮想視点VPの視線の俯角を特定角度(60°)に維持する。一方で、仮想視点VPの位置が前方中央位置P1及び後方中央位置P4の場合は、仮想視点VPの視線の俯角を特定角度(60°)よりも小さくする。
図27は、第6の実施の形態の周回モードM2における仮想視点VPの視線の俯角βを示す図である。
まず、画像制御部20aは、仮想視点VPの視線が車両9の前方に向くようにその平面視角を設定するとともに、仮想視点VPの位置を初期位置である前方中央位置P1に設定する。このように仮想視点VPの位置が前方中央位置P1の場合においては、画像制御部20aは、仮想視点VPの視線の俯角βを最も小さい最小角度(30°)に設定する。これにより、画像生成部22は、図24に示すような、車両9から離れた比較的遠方の被写体を示す車内視点画像CP35を生成する。
次に、画像制御部20aは、仮想視点VPの位置を前方中央位置P1に維持したまま、仮想視点VPの視線の俯角βを最も小さい最小角度(30°)から特定角度(60°)に徐々に変化させる。すなわち、画像制御部20aは、仮想視点VPの視線を徐々に下向きにする。
仮想視点VPの視線の俯角βを特定角度(60°)にすると、画像制御部20aは、第1の実施の形態と同様に仮想視点VPの視線の平面視角と仮想視点VPの位置とを変更する。これにより、画像制御部20aは、仮想視点VPの位置を前方中央位置P1から位置P2及び位置P3を経由して後方中央位置P4まで移動する。また、画像制御部20aは、仮想視点VPの視線が車両9の右方に向き、さらに、車両9の後方に向くようにその平面視角を変更する。この移動中において、画像制御部20aは、仮想視点VPの視線の俯角βを特定角度(60°)に維持する。
仮想視点VPの位置を後方中央位置P4に移動すると、画像制御部20aは、仮想視点VPの位置を後方中央位置P4に維持したまま、仮想視点VPの視線の俯角βを特定角度(60°)から最小角度(30°)に徐々に変化させる。すなわち、画像制御部20aは、仮想視点VPの視線を徐々に上向きにする。仮想視点VPの視線の俯角βが最小角度(30°)となると、画像生成部22は、図25に示すような、車両9から離れた比較的遠方の被写体を示す車内視点画像CP36を生成する。
次に、画像制御部20aは、仮想視点VPの位置を後方中央位置P4に維持したまま、仮想視点VPの視線の俯角βを最小角度(30°)から特定角度(60°)に徐々に変更する。すなわち、画像制御部20aは、仮想視点VPの視線を徐々に下向きに戻す。
仮想視点VPの視線の俯角βを特定角度(60°)にすると、画像制御部20aは、第1の実施の形態と同様に仮想視点VPの視線の平面視角と仮想視点VPの位置とを変更する。これにより、画像制御部20aは、仮想視点VPの位置を、後方中央位置P4から位置P5及び位置P6を経由して前方中央位置P1まで移動する。また、画像制御部20aは、仮想視点VPの視線が車両9の左方に向き、さらに、車両9の前方に向くようにその平面視角を変更する。この移動中において、画像制御部20aは、仮想視点VPの視線の俯角βを特定角度(60°)に維持する。
以上のように、第6の実施の形態では、仮想視点VPの位置が特定の位置P1,P4以外の場合は仮想視点VPの視線の俯角を特定角度に維持する一方で、仮想視点の位置が特定の位置P1,P4の場合は仮想視点の視線の俯角を特定角度よりも小さくする。このため、仮想視点VPの視線の動きをシンプルにしつつ、仮想視点VPの位置が特定の位置P1,P4の場合は車内視点画像が車両9から離れた比較的遠方の被写体を示すことができる。すなわち、車両9の進行方向に存在する比較的遠方の被写体を、車内視点画像が示すことができる。
<7.変形例>
以上、本発明の実施の形態について説明してきたが、この発明は上記実施の形態に限定されるものではなく様々な変形が可能である。以下では、このような変形例について説明する。上記実施の形態及び以下で説明する形態を含む全ての形態は、適宜に組み合わせ可能である。
上記実施の形態では、画像生成部22は、4つのカメラ5の4つの撮影画像の全てを用いて仮想視点画像を生成しているが、4つの撮影画像のうちから選択される1以上3以下の撮影画像(少なくとも1つの撮影画像)を用いて仮想視点画像を生成してもよい。この場合、画像生成部22は、4つの撮影画像のうちで仮想視点画像の生成に用いる撮影画像のみを投影面TSに投影すればよい。
また、上記実施の形態では、仮想視点VPの視線が車両9の周囲を周回するように仮想視点VPの視線の平面視角を変更する場合は、仮想視点VPの視線が車両9の周囲を一周していたが、一周未満であってもよく、一周を超えてもよい。また、上記実施の形態では、仮想視点VPの視線は車両9の周囲を右回りで周回していたが、仮想視点VPの視線は車両9の周囲を左回りで周回してもよい。
また、上記実施の形態では、車両像90の車体底面以外に相当する部分は、透明あるいは半透明であるとしたが、非透明であってもよい。
また、上記実施の形態では、フロントカメラ5Fと、リアカメラ5Bと、サイドカメラ5L,5Rとで、光軸の俯角が異なると説明したが、これに限定されない。複数の撮影画像を取得する複数のカメラの少なくとも1つについて、光軸の俯角が他のカメラと異なっていれば、上記実施の形態で説明した仮想視点の視線の俯角を調整する技術を好適に適用できる。
また、仮想視点VPの視線の平面視角と仮想視点VPの位置とを変更する手法として、第1、第2、第3及び第4の実施の形態において互いに異なる手法を説明したが、いずれの手法を実行するかをユーザが選択できるようにしてもよい。また、仮想視点VPの視線の俯角を変更する手法として、第1、第5及び第6の実施の形態において互いに異なる手法を説明したが、いずれの手法を実行するかをユーザが選択できるようにしてもよい。
また、上記実施の形態において一つのブロックとして説明した機能は必ずしも単一の物理的要素によって実現される必要はなく、分散した物理的要素によって実現されてよい。また、上記実施の形態で複数のブロックとして説明した機能は単一の物理的要素によって実現されてもよい。また、車両内の装置と車両外の装置とに任意の一つの機能に係る処理を分担させ、これら装置間において通信によって情報の交換を行うことで、全体として当該一つの機能が実現されてもよい。
また、上記実施の形態においてプログラムの実行によってソフトウェア的に実現されると説明した機能の全部又は一部は電気的なハードウェア回路により実現されてもよく、ハードウェア回路によって実現されると説明した機能の全部又は一部はソフトウェア的に実現されてもよい。また、上記実施の形態において一つのブロックとして説明した機能が、ソフトウェアとハードウェアとの協働によって実現されてもよい。