本発明の一態様に係る画像合成装置は、車両に搭載された、路面を含む後方画像を撮像する2つのカメラによって、それぞれ、共通の対象が少なくとも撮像された第一画像及び第二画像を取得する取得部と、前記車両の周囲に仮想的に配置される仮想投影面であって、前記車両が置かれている前記路面に対応する面を有する仮想投影面に、前記第一画像及び前記第二画像を一部が重なる所定の位置関係で投影し、前記仮想投影面に投影された投影画像を仮想視点から見た第三画像を取得することで、前記第一画像及び前記第二画像を前記第三画像へ画像変換する画像変換部と、前記車両を構成する構成物画像を生成する生成部と、前記生成部が生成した前記構成物画像を前記第三画像に合成する合成部とを備える。
上記態様によれば、画像合成装置は、車両が置かれている路面に対応する面を有する仮想投影面を用いて画像変換をする。この画像変換により、第一画像に映っている路面及び路面上の物(例えば車両など、以下同様)と、第二画像に映っている路面及び路面上の物とが、仮想投影面における路面に対応する面に仮想的に投影される。その結果、生成された第三画像において、路面及び路面上の物の位置が適切に表現される。さらに、生成部で生成された車両の構成物を示す画像が第三画像に合成されるので、ユーザが把握しやすい合成画像を生成することができる。
例えば、前記生成部は、前記車両を構成する構成物が存在すべき位置を示す前記構成物画像を生成する。
上記態様によれば、画像合成装置は、生成部で生成された車両の構成物を示す画像を第三画像に合成するので、ユーザは、その合成された画像を視認することで、路面及び路面上の物と自車両との距離及び相対的な位置を適切に把握することができる。このように、画像合成装置は、合成画像に映っている車両と自車両との相対的な位置関係をユーザがさらに把握しやすい合成画像を生成することができる。また、生成部を車種に応じて差し替えることにより、画像合成装置を多様な車種に展開しやすくなる。
例えば、前記仮想視点は、前記車両の前方かつ上方に位置している。
上記態様によれば、画像合成装置は、画像変換の際に、車両の前方かつ上方に位置している仮想視点から見た画像を用いて画像変換をする。これにより、画像合成装置は、車両の後方の路面及び路面上の物を上方から見下ろす位置から見た第三画像を取得することができ、第三画像に映っている路面の領域をより広くすることができる。ユーザは、路面の領域をより広くした第三画像を視認することで、合成画像に映っている車両と自車両との相対的な位置関係をより容易に把握することができる。
例えば、前記仮想投影面は、前記路面に対応する前記面である第一面と、前記仮想投影面のうち前記第一面を除く第二面を含み、前記画像変換部は、前記第三画像のうち、前記第一面及び前記第二面のうちの前記第二面だけから取得した部分画像において、前記第一画像と前記第二画像との境界の近傍に補正処理を施す。
上記態様によれば、画像合成装置は、第一面から取得した画像には補正処理を施さず、第二面から取得した画像に補正処理を施す。画像変換において第一面から取得した画像では、仮想投影面である、路面に対応する面と、路面との位置が一致しているので、第一画像と第二画像との境界で、画像に映っている路面もしくは路面上の高さのない物体に関しては、不一致又は不連続が生ずることが少ない。一方、画像変換において第二面から取得した画像では、仮想投影面と、現実の被写体との位置が必ずしも一致しないので被写体の不一致又は不連続が生じ得る。そこで、第二面から取得した画像に補正処理を施すことで、境界における画像の不自然さを抑制することができる。また、第一面から取得した画像には補正処理を施さないことにより、不要な処理を行うことを回避し、処理負荷及び電力消費の低減の効果を奏する。
例えば、前記合成部は、前記第三画像において前記車両の車体が存在すべき位置を前記路面に投影した位置に、前記車体の外形を少なくとも示す、前記生成部が生成した前記構成物画像を合成し、又は、前記第三画像において前記車両の後輪が存在すべき位置に、前記後輪を少なくとも示す、前記生成部が生成した前記構成物画像を合成する。
上記態様によれば、画像合成装置は、車両の車体又は後輪の位置を示す画像が合成された合成画像を生成する。ユーザは、この合成画像を視認することで、他の車両と、自車両の車体又は後輪の位置との離間距離又は相対的な位置を、より一層適切に把握することができる。
例えば、前記画像変換部は、前記車両の速度を取得し、取得した前記速度に応じた位置に前記仮想視点を設定し、設定した前記仮想視点を用いて前記画像変換をする。
上記態様によれば、画像合成装置は、車両の速度に応じて異なる位置に位置する仮想視点を用いて画像変換をするので、車両の速度に応じた適切な画像を合成することができる。ユーザは、このような合成画像を視認することで、車両の速度に応じた適切な画像を視認し、合成画像に映っている車両と自車両との相対的な位置関係をより容易に把握することができる。
例えば、前記画像変換部は、前記車両の速度が大きいほど、より低い位置に前記仮想視点を設定し、設定した前記仮想視点を用いて前記画像変換をする。
上記態様によれば、画像合成装置は、車両の速度が大きいほどより低い位置に位置する仮想視点を用いて画像変換をする。車両の速度が大きいときは、一般に車間距離も大きい。そのため、路面において車両からより遠い距離までの範囲内に位置する車両と自車両との相対的な位置関係に関する情報が、ユーザの運転に有用である。よって、ユーザは、車両の速度が大きいほど、路面において車両からより遠い距離までの範囲内に位置する車両と自車両との相対的な位置関係を把握することができる。
例えば、前記画像変換部は、前記車両のシフトポジションを取得し、取得した前記シフトポジションに応じた位置に前記仮想視点を設定し、設定した前記仮想視点を用いて前記画像変換をする。
上記態様によれば、画像合成装置は、車両のシフトポジションに応じて異なる位置に位置する仮想視点を用いて画像変換をするので、車両のシフトポジションに応じた適切な画像を合成することができる。ユーザは、このような合成画像を視認することで、車両のシフトポジションに応じた適切な画像を視認し、合成画像に映っている車両と自車両との相対的な位置関係をより容易に把握することができる。
例えば、前記画像変換部は、前記シフトポジションが低いほど、より高い位置に前記仮想視点を設定し、又は、前記シフトポジションが後退ポジションである場合に、前記シフトポジションが前記後退ポジションでない場合より高い位置に前記仮想視点を設定し、設定した前記仮想視点を用いて前記画像変換をする。
上記態様によれば、画像合成装置は、車両のシフトポジションが低いほどより高い位置に位置する仮想視点を用いて画像変換をする。シフトポジションが低いときは、一般に、車両の速度が小さく、車間距離も小さい。そのため、路面において車両からより近い距離までの範囲内に位置する車両と自車両との相対的な位置関係に関する情報が、ユーザの運転に有用である。よって、ユーザは、シフトポジションが低いほど、路面において車両からより近い距離までの範囲内に位置する車両と自車両との相対的な位置関係を把握することができる。また、画像合成装置は、車両のシフトポジションが後退ポジションである場合に、そうでない場合より高い位置に位置する仮想視点を用いて画像変換をする。シフトポジションが後退ポジションであるときは、一般に、車両の速度が小さく、他の車両又は物体との距離も小さい。そのため、路面において車両からより近い距離までの範囲内に位置する車両又は物体と自車両との相対的な位置関係に関する情報が、ユーザの運転に有用である。よって、ユーザは、シフトポジションが後退ポジションであるときに、路面において車両からより近い距離までの範囲内に位置する車両と自車両との相対的な位置関係をより容易に把握することができる。
例えば、前記画像合成装置は、前記2つのカメラを含む3つのカメラを備え、前記3つのカメラは、前記車両の左側の後方を映す左カメラと、前記車両の右側の後方を映す右カメラと、前記車両の中央の後方を映す中央カメラとであり、前記取得部は、(a)前記左カメラにより撮像された左後方画像と、(b)前記右カメラにより撮像された右後方画像と、(c)前記中央カメラにより撮像された中央後方画像と、を取得し、前記左後方画像と前記右後方画像との一方、及び、前記中央後方画像を、それぞれ、前記第一画像及び前記第二画像として前記取得部により取得し、前記合成部により前記構成物画像が合成された前記第三画像としての第四画像を生成し、前記第四画像、及び、前記左後方画像と前記右後方画像との他方を、それぞれ、前記第一画像及び前記第二画像として前記取得部により取得し、前記合成部により前記構成物画像が合成された前記第三画像としての第五画像を生成する。
上記態様によれば、画像合成装置は、車両に搭載された左カメラ、右カメラ及び中央カメラそれぞれにより撮像された画像を合成する。これにより、画像合成装置は、画像合成に伴う違和感を抑制しながら、車両の左側後方から中央後方を経て右側後方まで、あるいは、車両の右側後方から中央後方を経て左側後方までの広い範囲を合成した画像を合成することができる。
本発明の一態様に係る画像合成装置の制御方法は、画像合成装置の制御方法であって、車両に搭載された、路面を含む後方画像を撮像する2つのカメラによって、それぞれ、共通の対象が少なくとも撮像された第一画像及び第二画像を取得する取得ステップと、前記車両の周囲に仮想的に配置される仮想投影面であって、前記車両が置かれている前記路面に対応する面を有する仮想投影面に、前記第一画像及び前記第二画像を一部が重なる所定の位置関係で投影し、前記仮想投影面に投影された投影画像を仮想視点から見た第三画像を取得することで、前記第一画像及び前記第二画像を前記第三画像へ画像変換する画像変換ステップと、前記車両を構成する構成物画像を生成する生成ステップと、前記生成ステップで生成した前記構成物画像を前記第三画像に合成する合成ステップとを含む。
これにより、上記画像合成装置と同様の効果を奏する。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。
以下、実施の形態について、図面を参照しながら具体的に説明する。
なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態)
本実施の形態において、合成画像に映っている車両と自車両との相対的な位置関係を視認者が把握しやすい合成画像を生成する画像合成装置について説明する。
図1は、本実施の形態に係る車両1の一例を示す模式図である。図2は、本実施の形態に係る画像合成装置10による合成前の画像と合成後の画像とを示す説明図である。
図1に示されるように、車両1は、画像合成装置10と、カメラ12、13及び14と、電子ミラー40とを備える。なお、以降の説明において特に断らない場合には、前後左右の方向は、車両1の進行方向を前方とした場合の方向とし、これは車両1の運転手にとっての前後左右の方向ともいえる。また、カメラ12、13及び14は、車両の後方に向けて、言い換えれば、車両の後方から到来する光を受光する向きで配置されており、いずれも路面を含む車両1の後方画像を撮像する。
カメラ12は、車両1の左側ドア付近に固定され、車両1の左側後方を撮影するカメラである。カメラ12は、車両1の左側後方を撮影して画像を生成する。カメラ12が生成した画像を左側後方画像ともいう。
カメラ13は、車両1の右側ドア付近に固定され、車両1の右側後方を撮影するカメラである。カメラ13は、車両1の右側後方を撮影して画像を生成する。カメラ13が生成した画像を右側後方画像ともいう。
カメラ14は、車両1のリアバンパー又はトランクフード付近などに固定され、車両1の中央後方を撮影するカメラである。カメラ14は、車両1の中央後方を撮影して画像を生成する。カメラ14が生成した画像を中央後方画像ともいう。
カメラ12及び14の撮影範囲の一部が重なっており、カメラ13及び14の撮影範囲の一部が重なっている。そのため、左側後方画像と中央後方画像との一部には共通の対象が映っている。また、右側後方画像と中央後方画像との一部には共通の対象が映っている。
カメラ12、13及び14のそれぞれは、互いに異なる撮影条件の下で撮像することで画像を生成する。具体的には、カメラ12、13及び14のそれぞれは、互いに異なる位置に配置され、また、互いに異なる方向を向いて配置されており、例えば60fpsで画像を取得する。また、カメラ12、13及び14のそれぞれの光学系の光学特性は異なっていてもよい。
電子ミラー40は、車両1の後方が映った画像である後方画像50を表示する画像表示装置である。電子ミラー40は、画像合成装置10が出力する映像信号に基づいて画像を表示する。電子ミラー40は、車両1の後方を、光の反射を利用して映す従来のルームミラーの代用として用いられ得る。
画像合成装置10は、カメラ12、13及び14それぞれが生成した画像を合成して電子ミラー40が表示する画像を生成する装置である。カメラ12、13及び14のそれぞれが生成する画像の一例を、図2に画像51、52及び53(「画像51等」ともいう)として示す。画像51、52及び53は、実質的に同時にカメラ12、13及び14のそれぞれにより撮像されたものである。なお、実質的に同時とは、厳密に同時である場合を含むほか、人間にとって同時とみなせる程度の時間差(例えば、撮像間隔と同じ程度の時間差)を有してもよい。
上記のとおり、カメラ12、13及び14のそれぞれは、一の対象を互いに異なる撮像条件の下で撮像しているので、画像合成装置10が、カメラ12、13及び14それぞれが生成した画像を単純につなぎあわせただけでは、自然な後方画像50は得られない。自然な後方画像50とは、車両1の運転手が従来のルームミラー(いわゆる物理ミラー)を通して見る、車両1の後方の光景と同じ画像をいう。具体的には、単純につなぎあわせただけの画像では、つなぎあわせの境界付近において、二重化又は消失が生じ得る。二重化とは、一の物が画像に二重に映ることをいい、消失とは、実際には存在するものが画像に映らないことをいう。
そこで、画像合成装置10は、カメラ12、13及び14それぞれが生成した画像に応じてこれらの画像に適切な処理を施した上でつなぎ合わせることで、二重化が抑制された自然な後方画像50を生成し、電子ミラー40に表示させる。なお、カメラ12、13及び14が生成した3つの画像は、そのうちの隣接する2つが合成された後に、その合成画像と残りの1つが合成されることで後方画像50が生成されてもよい。また、カメラ12、13及び14が生成した3つの画像が同時並行的に合成されることで後方画像50が生成されてもよい。
以降において、画像合成装置10の機能及び処理を説明する。
図3は、本実施の形態に係る画像合成装置10の機能構成を示すブロック図である。ここでは、画像合成装置10が、2つのカメラ12及び14によって、それぞれ、共通の対象が撮像された2つの画像である第一画像及び第二画像を取得して合成する場合を例として説明する。なお、この2つの画像は、左側後方画像と中央後方画像とであってもよいし、右側後方画像と中央後方画像とであってもよい。
以降では、第一画像が左後方画像であり、第二画像が中央後方画像である場合について詳しく説明する。この場合、画像合成装置10は、カメラ12及び14により例えば60fpsで第一画像及び第二画像を取得し、取得のたびに、第一画像及び第二画像の合成画像を生成して電子ミラー40に表示する。
図3に示されるように、画像合成装置10は、取得部21と、画像変換部22と、合成部23と、表示制御部24、生成部25とを備える。上記の各構成要素のそれぞれは、プロセッサがメモリ等を用いて所定のプログラムを実行することで実現されてもよいし、専用ハードウェアで実現されてもよい。
取得部21は、互いに異なる撮像条件(具体的には、2つのカメラ12及び14の取付位置が異なる)の下で共通の対象が少なくとも撮像された第一画像及び第二画像を取得する画像取得部である。取得部21は、例えば、車両1に搭載された2つのカメラ12及び14が撮像により生成した画像データを取得する。
画像変換部22は、取得部21が取得した第一画像及び第二画像を変換することで第三画像を取得する処理部である。具体的には、画像変換部22は、車両1の周囲に仮想的に配置される仮想投影面であって、車両1が置かれている路面に対応する面を有する仮想投影面に、第一画像及び第二画像を一部が重なる所定の位置関係で投影する。そして、画像変換部22は、仮想投影面に投影された画像(投影画像ともいう)を仮想視点から見た画像(第三画像に相当)を取得する。画像変換部22は、このようにして、第一画像及び第二画像を第三画像に変換する。
仮想視点は、第一画像及び第二画像が取得されたときのカメラ12及びカメラ14の位置とは異なる位置である。なお、カメラ12及びカメラ14の位置を、仮想視点に対して「実視点」ともいう。
なお、路面とは、車両1が置かれている面をいい、車両1が走行又は停車しているときに車両1の下にある面を意味しており、その面の本来の目的又は用途は限定されない。路面は、道路の路面のほか、例えば、駐車場の路面、又は、施設の床面なども含む概念である。また、舗装の有無、又は、面の材質は問わない。画像変換部22が第一画像及び第二画像を仮想投影面に投影する処理、及び、画像変換部22が仮想投影面に投影された投影画像を仮想視点から見た第三画像を取得する処理は、コンピュータによる演算処理によりなされ得る。この演算処理は、画像の視点を変換する処理であり、周知の技術を採用し得る。
仮想視点の位置は、車両1の内部、例えば運転席と助手席との間の上方の位置、つまりルームミラーが設置される位置であってもよいし、車両1の前方かつ上方の位置としてもよい。以降では仮想視点の位置が車両1の前方かつ上方の位置である場合を例として説明する。
具体的には、仮想視点の位置は、車両1のルームミラーの位置から所定距離(例えば0より大きく3m程度以下)だけ前方で、かつ、所定距離(例えば0より大きく3m程度以下)だけ上方に進んだ位置である。車両1のルームミラーの位置は、車両1の仕様により定められている。このようにすることで、画像変換部22は、車両1の後方の路面及び他の車両などを上方から見下ろす位置から見た第三画像を取得することができる。
また、画像変換部22は、第一画像と第二画像との境界の近傍に補正処理を行う。ここで、境界とは、仮想投影面上での第一画像と第二画像とが重なる部分に設定される境界線を意味する。補正処理とは、第一画像と第二画像との境界での被写体の不一致を解消したり、不連続性を和らげたりするための処理であり、画素値を平均化する処理、又は、共通の被写体が映った画素を近づける処理などを含む。このとき、画像変換部22は、第三画像のうち、第一面及び第二面のうちの第二面だけから取得した部分画像において、第一画像と第二画像との境界の近傍に補正処理を行うようにしてもよい。ここで、第一面とは、上記平面であり、第二面とは、仮想投影面のうち第一面を除く面である。第一面と第二面とは接続されている。
生成部25は、車両1を構成する構成物が存在すべき位置を示す構成物画像を生成する処理部である。合成部23は、生成部25が生成した構成物画像を第三画像に合成する処理部である。構成物画像は、第三画像上で構成物画像が構成物の位置を適切に示す位置に合成される。なお、生成部25は合成部23と一体で構成されてもよいが、生成部25を合成部23と別体で構成することにより、車種によって異なる構成物画像に対し、生成部25を車種に応じて差し替えることが可能となる。これにより、画像合成装置10を多様な車種に展開しやすくなる。
一般に、第一画像及び第二画像が撮影した範囲に含まれる位置に存在する任意の物の第三画像における位置は、画像変換部22による演算処理によって算出され得る。そこで、合成部23は、車両1を構成する構成物のうち、第一画像及び第二画像に撮影された範囲内に位置している構成物の第三画像における位置を算出し、算出された位置に、生成部25が生成した当該構成物を示す画像を合成する。生成部25が生成する、構成物を示す画像は、当該構成物を写実的に示す画像(例えば写真のような画像又は忠実に模写した画像)であってもよいし、模式的に示す画像(例えば四角形又は円柱形状の図形のイラスト画像)であってもよい。
なお、構成物は、例えば、車両1の車体の一部、より特定的には車両1の車体の後部に含まれる一部であってもよい。この場合、構成物画像の一例は、車両1の車体の外形を少なくとも示す画像である。合成部23は、第三画像において車両1の車体が存在すべき位置を路面に投影した位置に、車体の外形を少なくとも示す構成物画像を合成する。
また、構成物は、例えば、車両1の後輪であってもよい。この場合、構成物画像の一例は、車両1の後輪の外形を少なくとも示す画像である。合成部23は、第三画像において車両1の後輪が存在すべき位置に、車両1の後輪を少なくとも示す構成物画像を合成する。
表示制御部24は、合成部23が生成した合成画像の表示の制御をする処理部である。表示制御部24は、表示装置である電子ミラー40に合成画像を表示させるように、合成画像に含まれる各画素の画素値を電子ミラー40に出力する。
以降において画像と仮想投影面との例を示しながら、画像合成装置10による画像変換処理及び合成処理について具体的に説明する。
ここでは、左後方画像と中央後方画像との合成、及び、右後方画像と中央後方画像との合成を並行して行う場合を例として説明する。この例では、左後方画像と右後方画像と中央後方画像とが一度に合成されるともいえる。
図4は、本実施の形態に係る取得部21が取得した画像を示す説明図である。より具体的には、図4には、車両1の左側後方画像の例である画像61と、右側後方画像の例である画像62と、中央後方画像の例である画像63とが示されている。画像61、62及び63は、それぞれ、カメラ12、13及び14により撮像された画像の一例である。
ここで、画像61、62及び63の撮像時の撮像条件は、互いに異なる。撮像条件とは、カメラの位置、又は、光学系の光学特性を含む。具体的には、上記画像それぞれを撮像したカメラ(つまりカメラ12、13及び14)の位置が少なくとも異なる。
そのため、画像61、62及び61は、当該画像に映されている被写体の寸法、形状又は角度などが異なる。よって、何らかの変換を施すことなく画像61と画像63とをつなぎ合わせ、また、画像63と画像62とをつなぎ合わせることで自然な後方画像を得ることは難しい。
図5は、本実施の形態に係る仮想投影面の第一例である投影面70を示す説明図である。図5を参照しながら、画像変換部22の画像変換処理を説明する。
図5に示されるように、投影面70は、平面71と面72とを含む。平面71は第一面に相当し、面72は第二面に相当する。
平面71は、車両1が置かれている路面に対応する位置に位置している。言い換えれば、平面71は、車両1が置かれている路面に相当する、仮想空間上での位置に位置している。平面71は、車両1が置かれている位置から、平面71が面72と交差する位置にまで延びている。なお、平面71は、車両1が置かれている路面に相当するため、路面が傾斜していたり、凹凸があったりする場合、厳密に平面とは言えない場合がある。そのため、正しくは、仮想投影面は、車両1が置かれている路面に相当する面を有することとなる。しかし、以下の説明では、路面が平面71であるとする。
面72は、車両1の後方を含む位置に仮想的に配置された円筒面、又は、その円筒面の一部である。面72は、平面71と交差する位置から上方へ延びている。車両1から面72までの距離は、例えば15m〜20mである。
なお、面72に係る円筒面は、断面が正確な円である場合に限られず、断面が楕円又は歪んだ円であってもよい。なお、面72は、平面又は球面であってもよい。
画像変換部22は、図5に示されるカメラ12の位置から、カメラ12の撮像方向と同じ方向に画像61を仮想的に投影することで、投影面70上に画像61Aを生成する。同様に、画像変換部22は、カメラ13及び14それぞれの位置から、カメラ13及び14の撮像方向と同じ方向に画像62及び63を仮想的に投影することで、投影面70上に画像62A及び63Aを生成する。画像61A、62A及び63Aを投影画像ともいう。
なお、図5の画像61Aと画像63Aとの間の空隙は、説明の便宜のために描かれたものであり、実際には、この空隙はなく、画像61Aと画像63Aとが隙間なく配置される。このとき、画像61Aと画像63Aとが接続される線が境界に相当する。画像62Aと画像63Aとの間の空隙についても同様である。
次に、画像変換部22は、仮想視点73から方向74に投影画像を見た場合の第三画像を取得する。
このようにして画像変換部22は、カメラ12、13及び14により撮像された画像を画像変換することで1つの第三画像を得る。このように取得された第三画像について以降で説明する。
図6は、本実施の形態に係る画像変換部22により取得された第三画像である画像65を示す説明図である。画像65には、車両1の後方に位置する他の車両C1、車両1の右側後方に位置する他の車両C2、及び、車両1の右側に位置する他の車両C3が被写体として映っている。
画像65は、画像61、62及び63を元にして画像変換部22による画像変換によって生成された画像である。
画像65において、特に、画像65に映っている路面の部分の位置関係が正しく表現されている。また、元の画像61と画像63との境界部分B1、及び、元の画像62と画像63との境界部分B2に被写体の不一致又は不連続は見当たらない。これは、画像61、62及び63のうち路面が映っている部分が、仮想投影面のうちの路面の位置にある平面71に投影されたことにより、元の画像間の位置ずれが発生しなかったからである。
次に、合成部23による画像の合成処理について説明する。
図7は、本実施の形態に係る合成部23により合成された合成画像である画像69を示す説明図である。なお、図7では、画像69が表示制御部24によって電子ミラー40に表示されている状態を示している。
画像69は、画像65に対して、車両1の車体の外形を示す画像67と、車両1の左側の後輪を示す画像68Lと、右側の後輪を示す画像68Rとが構成物画像として合成されたものである。
画像67は、画像69において車両1の車体が存在すべき位置を路面に投影した位置に合成されている。画像68L及び画像68Rは、それぞれ、画像69において車両1の左側及び右側の後輪が存在すべき位置に合成されている。
ユーザは、電子ミラー40に表示された画像69を視認すると、構成物画像である画像67、68L及び68Rが画像69に映っているので、車両1と周囲の車両との現実の離間距離及び位置関係を適切に知ることができる。
例えば、車両1の車体の外形を示す画像67が画像69に映っているので、ユーザは、画像67と車両C1の画像との離間距離L1及び相対位置を画像69上で認識できる。これにより、ユーザは、車両1と車両C1との現実の離間距離及び相対位置を大まかに知ることができる。また、同様に、ユーザは、画像67と車両C2の画像との離間距離L2及び相対位置を画像69上で認識できる。これにより、ユーザは、車両1と車両C2との現実の離間距離及び相対位置を大まかに知ることができる。
また、車両1の後輪の位置を示す画像68Rが画像69に映っているので、ユーザは、画像68Rと側方の車両C3の画像との離間距離L3及び相対位置を画像69上で、認識できる。これにより、ユーザは、車両1と側方の車両C3との現実の離間距離及び相対位置を大まかに知ることができる。
仮に、画像69に車両C1、C2及びC3が映っていて、かつ、構成物画像が映っていなければ、ユーザは、車両C1、C2及びC3が車両の後方から右方にかけて存在することを知ることができるが、車両C1、C2及びC3それぞれと車両1との離間距離及び位置関係を知ることまではできない。例えば、車両C3が車両1の右側に存在することを知ることができるが、車両1の右隣に存在するのか、右側後方に存在するのかを識別することができない。
そこで、構成物画像が合成された画像69を見ることで、ユーザは、車両C1、C2及びC3それぞれと車両1との離間距離及び位置関係を知ることができる。例えば、画像69において画像68Rの右に車両C3の画像があることから、車両C3が車両C1の右隣りに存在していると判断することができる。
次に、投影面70とは異なる形状の投影面を使用する場合(以降、比較例1という)と比較しながら、投影面70を用いる場合の効果を説明する。また、本比較例では、投影面に投影された投影画像を見る仮想視点の位置を、車両1のルームミラーの位置としている。
図8は、比較例1に係る仮想投影面の例を示す説明図である。
比較例1に係る仮想投影面である投影面70Bは、車両が置かれている路面の位置に平面を有しない。言い換えれば、投影面70Bは、投影面70に含まれる平面71を有せず、面72が路面の位置の上下に亘って配置されたものに相当する。
図9は、比較例1に係る仮想投影面を用いて画像変換部22により変換された画像65Bを示す説明図である。画像65Bは、画像変換部22が、仮想投影面として投影面70の代わりに比較例1に係る投影面70Bを用いて画像変換をすることで生成した画像である。
画像65Bでは、元の画像61と画像63との境界部分B3、及び、元の画像62と画像63との境界部分B4において、被写体が不連続になっている。特に、路面を示す画像の部分の不連続性が顕著である。具体的には、境界部分B3及びB4において、路面と歩道との境界に設置されている縁石、及び、路面に付された区画線(白線)が不連続になっている。
これは、画像61、62及び63のうち路面が映っている部分を含めて、画像61、62及び63を投影面70Bに投影したことにより、路面の画像の部分が投影される位置と現実の路面の位置との差異が、他の部分より大きいことに起因している。つまり、図8に示される投影面70Bに基づいて画像変換すると、投影後の2つの映像の路面に位置ずれが生じてしまう。
また、画像65Bには、車両C1、C2及びC3が映っていて、構成物画像が映っていない。そのため、ユーザは、現実に、車両C3が車両1の右側に存在することを知ることができるが、車両1の右隣に存在するのか、右側後方に存在するのかを識別することができない。
また、図9に示される画像65Bと比較して、図6に示される画像65では、当該画像に占める路面の画像の部分の割合が大きい。これは、画像65を生成したときに使用した仮想視点73が、画像65Bを生成したときに使用した仮想視点73Aより前方かつ上方に位置しており、その仮想視点73から見下ろすようにして画像65を生成したからである。このようにすることで、画像65における車両1と他の車両との間の空間をより広くすることができ、車両1と他の車両との離間距離及び相対的な位置をユーザがより容易に認識することができる。
これらのことから、本実施の形態の図6と比較例1の図9とを対比すると、以下の効果が得られる。
図9において、車両C1と車両C2とに着目すると、両者の大きさがほぼ同じであるので、ユーザにとっては車両C1と車両C2が並んで走行しているように見える。しかし、実際には、画像変換する前の画像63(図4参照)から、車両C1は、車両C2の斜め後方に位置することがわかる。したがって、図9のような境界合成を行なうと、ユーザ(例えば運転者)が自車(車両1)と、後方の車両C1及びC2とにおける位置関係を誤認識する可能性がある。
一方、図6に示される画像65では、上記したように、境界部分B1及びB2の路面に付された区画線(白線)が連続しているので、車両C1及びC2の位置関係が、画像63(図4参照)と同様に示されている。したがって、ユーザが図6に示される画像65を視認した場合に、図9のような誤認識を起こす可能性が低減されるという効果が得られる。
なお、図9の画像65Bに映っている歩道の複数のポールは、画像65Bにおける上下方向に平行に表示されている一方、図6の画像65に映っている歩道の複数のポールは、画像65における上下方向から傾いて表示されている。また、上記の上下方向からの傾きの大きさは、画像65内における左側(画像65に映っている光景における手前側)ほど、より大きい。同様に、図9の画像65Bに映っている車両C3の輪郭は、画像65Bにおける上下方向にほぼ平行に表示されている一方、図6の画像65に映っている車両C3の輪郭は、右斜め上方向に傾いて表示されている。したがって、本実施の形態では、たとえ画像65内における左側及び右側に映っている被写体の実際の上下方向と、画像65における上下方向とがずれてでも、自車(車両1)と車両C1、C2及びC3との離間距離を誤認識なく表示することを優先する構成としている。
図10は、本実施の形態に係る画像合成装置10が行う処理を示すフロー図である。この処理は、画像合成装置10の制御方法に相当する。
ステップS101(取得ステップ)において、車両に搭載された2つのカメラによって、互いに異なる撮像条件の下で、それぞれ、共通の対象が少なくとも撮像された第一画像及び第二画像を取得する。
ステップS102(画像変換ステップ)において、仮想的な投影を用いて、第一画像及び第二画像を画像変換する。具体的には、車両1の周囲に仮想的に配置される仮想投影面であって、車両1が置かれている路面に対応する面を有する仮想投影面に、第一画像及び第二画像を一部が重なる所定の位置関係で投影し、仮想投影面に投影された投影画像を仮想視点から見た第三画像を取得することで、第一画像及び第二画像を第三画像へ画像変換する。
ステップS103(生成ステップ)において、車両を構成する構成物画像を生成する。
ステップS104(合成ステップ)において、ステップS103で生成した構成物画像を第三画像に合成する。
これにより、画像合成装置10は、合成画像に映っている車両と自車両との相対的な位置関係を視認者が把握しやすい合成画像を生成する。
(実施の形態の変形例1)
本変形例において、仮想視点の他の例について説明する。
上記実施の形態では、車両1のルームミラーの位置より前方かつ上方の仮想視点73を用いる場合を示したが、仮想視点は他の位置にも設定され得る。
図11は、本変形例に係る仮想視点の位置を示す説明図である。
図11の(a)には、仮想視点の位置と仮想視点から投影画像を見る方向との例が複数示されている。具体的には、仮想視点として仮想視点73、73A及び73Bが示されており、それぞれの仮想視点に対応する視線の方向74、74A及び74Bが示されている。仮想視点73Bは、仮想視点73Aより前方かつ上方に位置しており、仮想視点73は、仮想視点73Bよりさらに前方かつ上方に位置している。また、視線の方向の俯角が、仮想視点の位置が上方であるほどより大きくなる。つまり、図11の(a)に示される俯角θA、θB及びθについて、θA<θB<θが成立する。
仮想視点73Aから投影画像を見る場合より、仮想視点73B又は73から投影画像を見る方が、車両1の後方の空間をより高い位置から見下ろすようになる。これにより、生成される第三画像全体に占める路面の割合が大きくなり、ユーザが車両1と他の車両との離間距離及び相対的な位置を認識しやすくなる利点がある。
図11の(b)には、仮想視点の位置と仮想視点から投影画像を見る方向との別の例が複数示されている。具体的には、仮想視点として仮想視点73A、73C及び73Dが示されており、それぞれの仮想視点に対応する視線の方向74A、74C及び74Dが示されている。仮想視点73Cは、仮想視点73Aより上方に位置しており、仮想視点73Dは、仮想視点73Cよりさらに上方に位置している。また、視線の方向の俯角についても同様に、図11の(b)に示される俯角θA、θC及びθDについて、θA<θC<θDが成立する。
この場合でも、図11の(a)と同様、仮想視点73Aから投影画像を見る場合より、仮想視点73C又は73Dから投影画像を見る方が、車両1の後方の空間をより高い位置から見下ろすようになる。これにより、生成される第三画像全体に占める路面の割合が大きくなり、ユーザが車両1と他の車両との離間距離及び相対的な位置を認識しやすくなる利点がある。
また、画像変換部22は、車両1に関する情報を取得して、その情報に基づいて仮想視点の位置を変更するようにしてもよい。
例えば、画像変換部22は、車両1の速度を取得し、取得した速度に応じた位置に仮想視点を設定してもよい。そして、画像変換部22は、設定した仮想視点を用いて画像変換をする。より特定的には、画像変換部22は、車両1の速度が大きいほど、より低い位置に仮想視点を設定する。
具体的には、車両1の速度が大きくなるにしたがって、図11の(a)に示される仮想視点73から仮想視点73Bへ、また、仮想視点73Bから仮想視点73Aへ、仮想視点を移動させる。反対に、車両1の速度が小さくなるにしたがって、仮想視点73Aから仮想視点73Bへ、また、仮想視点73Bから仮想視点73へ、仮想視点を移動させる。図11の(b)においても、仮想視点73D、73C及び73Aについて上記と同様の説明が成立する。
また、例えば、画像変換部22は、車両1のシフトポジションを取得し、取得したシフトポジションに応じた位置に仮想視点を設定してもよい。そして、画像変換部22は、設定した仮想視点を用いて画像変換をする。より特定的には、画像変換部22は、シフトポジションが低いほど、より高い位置に仮想視点を設定し、又は、シフトポジションが後退ポジションである場合に、そうでない場合より高い位置に仮想視点を設定する。
具体的な仮想視点の移動については、上記と同様である。
このように仮想視点を車両の速度又はシフトポジションに応じて変化させることで、ユーザによる車両1の運転に有用な情報をユーザに提示できる。そして、ユーザは、その速度又はシフトポジションに応じた仮想視点から見た画像を視認することで、他の車両と自車両との相対的な位置関係を把握することができる。
(実施の形態の変形例2)
本変形例において、上記実施の形態の仮想投影面とは異なる形状を有する仮想投影面を用いる例を説明する。
図12は、本変形例に係る仮想投影面の例を示す説明図である。
図12に示されるように、投影面70Cは、平面71Cと面72Cとを含む。平面71Cは第一面に相当し、面72Cは第二面に相当する。
平面71Cは、車両1が置かれている路面に相当する位置に、仮想的に位置している。平面71Cは、車両1が置かれている位置から、平面71Cが面72Cと交差する位置にまで延びている。
面72Cは、車両1の後方を含む位置に仮想的に配置された平面、又は、その平面の一部である。面72Cは、平面71Cと交差する位置から上方へ延びている。車両1から面72Cまでの距離は、例えば15m〜20mである。
画像変換部22は、投影面70Cを投影面70として用いて、上記実施の形態と同じように画像変換を行うことができる。
図13は、比較例2に係る仮想投影面の例を示す説明図である。
図13に示されるように、比較例2に係る仮想投影面である投影面70Dは、車両が置かれている路面の位置に平面を有しない。言い換えれば、投影面70Dは、投影面70Cに含まれる平面71Cを有せず、面72Cが路面の位置の上下に亘って配置されたものである。
比較例2に係る仮想投影面を用いて画像変換部22により画像61、62及び63を変換して得られる画像は、図9に示される画像65Bと同様に、境界部分B1及びB2において画像が不連続になる。
これに対して、図12に示される投影面70Cを用いて画像変換部22により画像61、62及び63を変換して得られる画像は、図6に示される画像65と同様に、当該画像に映っている路面の部分の位置関係が正しく表現される。よって、画像合成装置10は、合成画像に映っている車両と自車両との相対的な位置関係を視認者が把握しやすい合成画像を生成することができる。
(実施の形態の変形例3)
本変形例において、上記実施の形態の仮想投影面とは異なる形状を有する仮想投影面を用いる他の例を説明する。
図14は、本変形例に係る仮想投影面の例を示す説明図である。
図14に示されるように、投影面70Eは、平面71Eと面72Eとを含む。平面71Eは第一面に相当し、面72Eは第二面に相当する。
平面71Eは、車両1が置かれている路面に相当する位置に、仮想的に位置している。平面71Eは、車両1が置かれている位置から、平面71Eが面72Eと交差する位置にまで延びている。
面72Eは、車両1の後方を含む位置に仮想的に配置された球面、又は、その球面の一部である。面72Eは、平面71Eと交差する位置から上方へ延びている。車両1から面72Eまでの距離は、例えば15m〜20mである。
画像変換部22は、投影面70Eを投影面70として用いて、上記実施の形態と同じように画像変換を行うことができる。
図15は、比較例3に係る仮想投影面の例を示す説明図である。
図15に示されるように、比較例3に係る仮想投影面である投影面70Fは、車両が置かれている路面の位置に平面を有しない。言い換えれば、投影面70Fは、投影面70Eに含まれる平面71Eを有せず、面72Eが路面の位置の上下に亘って配置されたものである。
比較例3に係る仮想投影面を用いて画像変換部22により画像61、62及び63を変換して得られる画像は、図9に示される画像65Bと同様に、境界部分B1及びB2において画像が不連続になる。
これに対して、図15に示される投影面70Eを用いて画像変換部22により画像61、62及び63を変換して得られる画像は、図6に示される画像65と同様に、当該画像に映っている路面の部分の位置関係が正しく表現される。よって、画像合成装置10は、合成画像に映っている車両と自車両との相対的な位置関係を視認者が把握しやすい合成画像を生成することができる。
なお、2つの画像である第一画像及び第二画像を合成する方法を利用することで、3つのカメラによる3つの画像を合成することも可能である。例えば、画像合成装置10が、(1)左側後方画像と中央後方画像とを、それぞれ、第一画像及び第二画像として合成して画像を得た後に、(2)その得た画像と右側後方画像とを、それぞれ、改めて第一画像及び第二画像として合成すれば、最終的に、左側後方画像、中央後方画像及び右側後方画像をすべてつなぎあわせた後方画像が得られる。ここで、第一画像と第二画像とを合成した画像を第四画像ともいい、第四画像と右後方画像とを合成した画像を第五画像ともいう。
ここで、上記した3つの画像の合成については、画像合成装置10が、(1)左側後方画像と中央後方画像とを、それぞれ、第一画像及び第二画像として合成して画像を得た後に、(2)その得た画像と右側後方画像とを、それぞれ、改めて第一画像及び第二画像として合成しているが、この合成に限定されるものではない。例えば、画像合成装置10が、(1)右側後方画像と中央後方画像とを、それぞれ、第一画像及び第二画像として合成して画像を得た後に、(2)その得た画像と左側後方画像とを、それぞれ、改めて第一画像及び第二画像として合成してもよい。ここで、第一画像と第二画像とを合成した第四画像と、左後方画像とを合成した画像が第五画像に相当する。
つまり、画像合成装置10は、左後方画像と右後方画像との一方、及び、中央後方画像を、それぞれ、第一画像及び第二画像として取得部21により取得し、合成部23により構成物画像が合成された第三画像としての第四画像を生成してもよい。さらに、画像合成装置10は、第四画像、及び、左後方画像と右後方画像との他方を、それぞれ、第一画像及び第二画像として取得部21により取得し、合成部23により構成物画像が合成された第三画像としての第五画像を生成してもよい。この場合、第五画像が表示制御部24によって電子ミラー40に表示される。
以上のように、本実施の形態及び変形例に係る画像合成装置は、車両が置かれている路面に対応する面を有する仮想投影面を用いて画像変換をする。この画像変換により、第一画像に映っている路面及び路面上の物(例えば車両など、以下同様)と、第二画像に映っている路面及び路面上の物とが、仮想投影面における路面に対応する面に仮想的に投影される。その結果、生成された第三画像において、路面及び路面上の物の位置が適切に表現される。さらに、生成部で生成された車両の構成物を示す画像が第三画像に合成されるので、ユーザが把握しやすい合成画像を生成することができる。
また、画像合成装置は、生成部で生成された車両の構成物を示す画像を第三画像に合成するので、ユーザは、その合成された画像を視認することで、路面及び路面上の物と自車両との距離及び相対的な位置を適切に把握することができる。このように、画像合成装置は、合成画像に映っている車両と自車両との相対的な位置関係をユーザがさらに把握しやすい合成画像を生成することができる。また、生成部を車種に応じて差し替えることにより、画像合成装置を多様な車種に展開しやすくなる。
また、画像合成装置は、画像変換の際に、車両の前方かつ上方に位置している仮想視点から見た画像を用いて画像変換をする。これにより、画像合成装置は、車両の後方の路面及び路面上の物を上方から見下ろす位置から見た第三画像を取得することができ、第三画像に映っている路面の領域をより広くすることができる。ユーザは、路面の領域をより広くした第三画像を視認することで、合成画像に映っている車両と自車両との相対的な位置関係をより容易に把握することができる。
また、画像合成装置は、第一面から取得した画像には補正処理を施さず、第二面から取得した画像に補正処理を施す。画像変換において第一面から取得した画像では、仮想投影面である、路面に対応する面と、路面との位置が一致しているので、第一画像と第二画像との境界で、画像に映っている路面もしくは路面上の高さのない物体に関しては、不一致又は不連続が生ずることが少ない。一方、画像変換において第二面から取得した画像では、仮想投影面と、現実の被写体との位置が必ずしも一致しないので被写体の不一致又は不連続が生じ得る。そこで、第二面から取得した画像に補正処理を施すことで、境界における画像の不自然さを抑制することができる。また、第一面から取得した画像には補正処理を施さないことにより、不要な処理を行うことを回避し、処理負荷及び電力消費の低減の効果を奏する。
また、画像合成装置は、車両の車体又は後輪の位置を示す画像が合成された合成画像を生成する。ユーザは、この合成画像を視認することで、他の車両と、自車両の車体又は後輪の位置との離間距離又は相対的な位置を、より一層適切に把握することができる。
また、画像合成装置は、車両の速度に応じて異なる位置に位置する仮想視点を用いて画像変換をするので、車両の速度に応じた適切な画像を合成することができる。ユーザは、このような合成画像を視認することで、車両の速度に応じた適切な画像を視認し、合成画像に映っている車両と自車両との相対的な位置関係をより容易に把握することができる。
また、画像合成装置は、車両の速度が大きいほどより低い位置に位置する仮想視点を用いて画像変換をする。車両の速度が大きいときは、一般に車間距離も大きい。そのため、路面において車両からより遠い距離までの範囲内に位置する車両と自車両との相対的な位置関係に関する情報が、ユーザの運転に有用である。よって、ユーザは、車両の速度が大きいほど、路面において車両からより遠い距離までの範囲内に位置する車両と自車両との相対的な位置関係を把握することができる。
また、画像合成装置は、車両のシフトポジションに応じて異なる位置に位置する仮想視点を用いて画像変換をするので、車両のシフトポジションに応じた適切な画像を合成することができる。ユーザは、このような合成画像を視認することで、車両のシフトポジションに応じた適切な画像を視認し、合成画像に映っている車両と自車両との相対的な位置関係をより容易に把握することができる。
また、画像合成装置は、車両のシフトポジションが低いほどより高い位置に位置する仮想視点を用いて画像変換をする。シフトポジションが低いときは、一般に、車両の速度が小さく、車間距離も小さい。そのため、路面において車両からより近い距離までの範囲内に位置する車両と自車両との相対的な位置関係に関する情報が、ユーザの運転に有用である。よって、ユーザは、シフトポジションが低いほど、路面において車両からより近い距離までの範囲内に位置する車両と自車両との相対的な位置関係を把握することができる。また、画像合成装置は、車両のシフトポジションが後退ポジションである場合に、そうでない場合より高い位置に位置する仮想視点を用いて画像変換をする。シフトポジションが後退ポジションであるときは、一般に、車両の速度が小さく、他の車両又は物体との距離も小さい。そのため、路面において車両からより近い距離までの範囲内に位置する車両又は物体と自車両との相対的な位置関係に関する情報が、ユーザの運転に有用である。よって、ユーザは、シフトポジションが後退ポジションであるときに、路面において車両からより近い距離までの範囲内に位置する車両と自車両との相対的な位置関係をより容易に把握することができる。
また、画像合成装置は、車両に搭載された左カメラ、右カメラ及び中央カメラそれぞれにより撮像された画像を合成する。これにより、画像合成装置は、画像合成に伴う違和感を抑制しながら、車両の左側後方から中央後方を経て右側後方まで、あるいは、車両の右側後方から中央後方を経て左側後方までの広い範囲を合成した画像を合成することができる。
なお、上記実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記実施の形態の画像合成装置などを実現するソフトウェアは、次のようなプログラムである。
すなわち、このプログラムは、コンピュータに、画像合成装置の制御方法であって、車両に搭載された2つのカメラによって、それぞれ、共通の対象が少なくとも撮像された第一画像及び第二画像を取得する取得ステップと、前記車両の周囲に仮想的に配置される仮想投影面であって、前記車両が置かれている路面に対応する平面を有する仮想投影面に、前記第一画像及び前記第二画像を一部が重なる所定の位置関係で投影し、前記仮想投影面に投影された投影画像を仮想視点から見た第三画像を取得することで、前記第一画像及び前記第二画像を前記第三画像へ画像変換する画像変換ステップと、前記車両を構成する構成物が存在すべき位置を示す構成物画像を生成し、生成した前記構成物画像を前記第三画像に合成する合成ステップとを含む制御方法を実行させる。
以上、一つまたは複数の態様に係る画像合成装置などについて、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。