以下、本発明に係る実施の一形態を図面に基づいて説明する。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、その説明を省略する。
(第1の実施形態)
図1は、第1の実施形態における対応点探索システムの概略構成を示す図である。図2は、実施形態の対応点探索システムにおける対応点探索装置の構成を示すブロック図である。
対応点探索システムSは、2つの画像を撮影すると共に、これら2つの画像間における互いに対応する点を探索するための装置であり、例えば、図1に示すように、1または複数の撮影カメラ2と、対応点探索装置1とを備えて構成される。図1に示す例では、対応点探索システムSは、1組(1対)の画像から成るステレオ画像を得るべく、1組(2台)の撮影カメラ2−1、2−2から成るステレオカメラを備えている。
なお、本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。
撮影カメラ2は、対応点探索を行うための画像を取得する装置である。対応点探索方法は、背景技術で上述したように様々な用途の装置に適用されており、撮影カメラ2は、当該装置の用途等に応じて適宜に配設される。例えば、図1に示すように、先行物体Obの認識や距離計測を行うべく、撮影カメラ2が車両やロボット等の移動体に搭載されるステレオカメラである場合には、撮影カメラ2−1、2−2は、予め定める基線間隔だけ離間して、かつそれらの各光軸が互いに平行となるように、移動体に配設される。このように撮影カメラ2−1、2−2は、互いに異なる位置から先行物体Obを撮影できるように配置されている。なお、図1に示す例では、被写体である先行物体Obとして、自動車Ob−1、Ob−2が図1に図示されている。
撮影カメラ2は、先行物体Obを撮影し、画像を取得すると、この撮影された画像(画像データ)を対応点探索装置1へ伝送路を介して送信する。なお、その通信方式は、有線方式であっても無線方式あってもよい。図1に示すように、撮影カメラ2がステレオカメラである場合には、撮影カメラ2−1、2−2は、対応点探索装置1の制御によって、あるいは、撮影カメラ2−1、2−2間の制御によって、先行物体Obを同じタイミングで(同期して)撮影し、これら同じタイミングで撮影された左右一組(左右一対)の画像(ステレオ画像)を対応点探索装置1へ出力する。これら左右一組の画像のうちの一方が対応点探索を行うための基準画像とされ、他方がその参照画像とされる。例えば、撮影カメラ2−1で撮影された画像が基準画像とされ、撮影カメラ2−2で撮影された画像が参照画像とされる。
なお、撮影カメラ2は、3台以上であっても良く、また1台であっても良い。撮影カメラ2が3台以上である場合では、そのうちの1台の撮影カメラ2によって撮影された画像が基準画像とされ、他の撮影カメラ2によって撮影された画像が参照画像とされる。また撮影カメラ2が1台である場合では、その撮影カメラ2によって撮影された時系列画像のうち所定のタイミング(時点)で撮影された画像が基準画像とされ、前記所定のタイミングと異なるタイミングで撮影された画像が参照画像とされる。例えば、前記所定のタイミングから所定の時間経過後のタイミングで撮影された画像が参照画像とされる。また例えば、前記所定のタイミングから所定の時間経過前のタイミングで撮影された画像が参照画像とされる。
対応点探索装置1は、撮影カメラ2によって取得された2つの画像間における互いに対応する点を探索する装置である。対応点探索装置1は、例えば、本実施形態では、図2に示すように、本発明の一実施形態にかかる対応点探索プログラムを実装することによってコンピュータ等の情報処理装置によって実現される。対応点探索プログラムは、本発明の一実施形態にかかる対応点探索方法をプログラミングすることによって作成される。なお、対応点探索装置1は、後述の諸機能を備えた、対応点探索システムS用に製作された専用の装置であってもよい。対応点探索装置1は、図2に示すように、例えば、中央処理部(CPU、Central Processing Unit)12と、記憶部13と、例えば液晶ディスプレイや有機ELディスプレイ等の表示部15と、例えば起動指示やデータ入力を行うための入力部16と、例えばインターフェースカード等の通信部17とを備えて構成される。
記憶部13は、例えば、ハードディスクドライブ(HDD、Hard Disk Drive)13aおよびRAM(Random Access Memory)やROM(Read Only Memory)等の半導体メモリ13b等の複数の記憶媒体を備えている。また、破線で示すように、対応点探索装置1は、必要に応じてメディアドライブ14を備えてもよい。メディアドライブ14は、例えば、CD−ROM(Compact Disc Read Only Memory)、DVD(Digital Versatile Disk)、フレキシブルディスクおよびメモリカード等の可搬性の記録媒体からその中に記録されている情報(データ)を読み出すことができる。なお、この対応点探索部1に対して供給される情報は、前記記録媒体を介して供給される場合に限定されず、ローカルエリアネットワーク(LAN、Local Area Network)やインターネット等のネットワークを介して供給されてもよい。したがって、上述では、対応点探索装置1に伝送路(ネットワークを含む)を介して接続された撮影カメラ2によって撮影された画像が対応点探索装置1へ供給されたが、撮影カメラによって撮影された画像が記録媒体等に記憶され、この記録媒体から画像が対応点探索装置1へ供給されてもよい。
図1および図2に示す例では、撮影カメラ2は、通信部17に通信可能に接続されており、撮影カメラ2で撮影された画像(画像データ)は、通信部17を介してCPU12に入力される。
CPU12は、これら記憶部13、表示部15、入力部16および通信部17を当該機能に応じて制御することによって、対応点探索装置10全体を制御するものである。CPU12は、図2に示すように、機能的に、画像予測部21と、画像合成部22と、対応点探索部23とを備えて構成される。
画像予測部21は、所定の時点に取得された画像に基づいてこの所定の時点と異なる予測時点における画像を予測によって予測画像として生成するものである。本実施形態では、データ取得部211と、係数演算部212と、予測画像生成部213とを備えて構成される。データ取得部211は、撮影カメラ2で撮影された画像から係数演算部212で用いるデータを取得するものである。係数演算部212は、データ取得部211で取得されたデータを用いてアフィン変換のアフィン係数を算出するものである。予測画像生成部213は、所定の時点に取得された画像に基づいてこの所定の時点と異なる予測時点における画像を、係数演算部212で算出したアフィン係数を持つアフィン変換を用いることによって予測し、予測画像として生成するものである。
画像合成部22は、画像予測部21で生成された予測画像とこの予測時点に取得された画像とを合成することによって合成画像を生成するものである。より具体的には、画像合成部22は、本実施形態では、第1時点(例えば現時点)に撮影カメラ2−1によって撮影された第1時点の画像と、第1時点よりも過去の時点に撮影カメラ2−1によって撮影された過去の時点における画像に基づいて画像予測部21で予測された第1時点の予測画像とを合成する。そして、画像合成部22は、第1時点(例えば現時点)に撮影カメラ2−2によって撮影された第1時点の画像と、第1時点よりも過去の時点に撮影カメラ2−2によって撮影された過去の時点における画像に基づいて画像予測部21で予測された第1時点の予測画像とを合成する。このように本実施形態では、画像合成部22は、撮影カメラ2−1、2−2によってそれぞれ撮影されたステレオ画像における1組の画像のそれぞれに対し各合成画像を生成する。
本実施形態では、このように画像合成部22によって第1時点の画像と第1時点の予測画像とが合成される。このため、予測画像生成部213は、より具体的には、第1時点よりも過去の時点に取得した画像にアフィン変換を用いることで第1時点における画像を予測し、第1時点の予測画像を生成する。したがって、データ取得部211は、より具体的には、第1時点よりも過去の時点において撮影カメラ2によって撮影された画像から係数演算部212で用いるデータを取得する。
対応点探索部23は、撮影カメラ2で撮影された2つの画像のうちの一方を基準画像とすると共に他方を参照画像とする場合に、基準画像の注目点に対応する参照画像の対応点を探索するものである。そして、対応点探索部23は、この対応点探索において、基準画像に対応する、画像予測部21と画像合成部22とによって生成された合成基準画像がある場合には、基準画像に代えて合成基準画像を用いると共に、参照画像に対応する、画像予測部21および画像合成部22によって生成された合成参照画像がある場合には、参照画像に代えて合成参照画像を用いる。
次に、本実施形態の動作について説明する。図3は、第1の実施形態の対応点探索システムにおける対応点探索装置の動作を示すフローチャートである。
対応点探索システムSが起動され、その動作が開始されると、撮影カメラ2−1、2−2によってタイミングを合わせて(同期して)先行物体Obが所定の時間間隔で順次にそれぞれ撮影される。したがって、撮影カメラ2−1によって所定のフレーム周期で順次に撮影された先行物体Obの時系列画像(時系列画像データ)が取得されると共に、撮影カメラ2−2によって所定のフレーム周期で順次に撮影された先行物体Obの時系列画像(時系列画像データ)が取得される。そして、それぞれ撮影された各画像(各画像データ)は、順次に、通信部17から対応点探索装置1に入力され、対応点探索装置1のCPU12に通知され、CPU12によって各画像間の対応点探索処理が開始される。
このステレオ画像の対応点探索処理において、まず、図3に示すように、ステップS11では、画像予測部21のデータ取得部211は、撮影カメラ2−1、2−2で撮影された各画像から係数演算部212で用いるデータを取得する。予測画像生成部213が第1時点の予測画像を第1時点よりも過去の時点に取得した画像にアフィン変換を作用させることによって生成することから、係数演算部212は、このアフィン変換のアフィン係数を算出する必要がある。このため、データ取得部211は、より具体的には、第1時点よりも過去の時点に取得した2つの画像間の対応点を少なくとも3つ探索する。すなわち、時点tにおいて撮影カメラ2−1によって撮影された画像をI1 tとし、時点tにおいて撮影カメラ2−2によって撮影された画像をI2 tとする場合に、データ取得部211は、撮影カメラ2−1の画像I1について、例えば、現時点(現フレームの時点)t0より1フレーム前の時点t−1および2フレーム前の時点t−2の画像I1 t−1、I1 t−2間における対応点探索を行って、少なくとも3つの対応点を含む対応点探索結果OF1 t(21)(少なくとも3つの注目点にそれぞれ対応する少なくとも3つの対応点を含む対応点探索結果OF1 t(21))を取得すると共に(S11−1)、撮影カメラ2−2の画像I2について、例えば、現時点(現フレームの時点)t0より1フレーム前の時点t−1および2フレーム前の時点t−2の画像I2 t−1、I2 t−2間における対応点探索を行って、少なくとも3つの対応点を含む対応点探索結果OF2 t(21)(少なくとも3つの注目点にそれぞれ対応する少なくとも3つの対応点を含む対応点探索結果OF2 t(21))を取得する(S11−2)。なお、OF1 t(21)は、撮影カメラ2−1によって撮影された1フレーム前の画像I1 t−1と2フレーム前の画像I1 t−2との間における対応点探索結果であり、OF2 t(21)は、撮影カメラ2−2によって撮影された2フレーム前の画像I2 t−1と2フレーム前の画像I2 t−2との間における対応点探索結果である。
ここで、1フレーム前の画像It−1および2フレーム前の画像It−2のうちの一方、例えば、2フレーム前の画像It−2を基準画像I1とすると共に、1フレーム前の画像It−1を参照画像I2とする場合に、基準画像I1の注目点に対応する参照画像I2の対応点の対応点探索は、次のように実行される。まず、基準画像I1で、注目点を中心とする縦横方向にそれぞれP画素×Q画素の大きさを持つテンプレートTPが設定され、同様に、参照画像I2にも同じ大きさを持つウィンドウWDが設定される。この場合に、ウィンドウWDは、参照画像I2において、基準画像I1におけるテンプレートTPと同じ位置から始めて、所定の方向(例えばステレオ画像では基線長方向(エピポーラ線方向)に或る範囲(0<p<pmax))で位置を変えながら、それぞれの位置において相関演算が行われる。その相関演算には、例えば、SAD、SSDおよびNCC等を用いることができる。そして、相関演算の結果から類似度への変換は、パターン間距離が近いほど類似度が高いので、例えば、(類似度)=1/((相関演算の結果)+1)の変換式が用いられる。なお、一般に、基準画像I1に設定されるテンプレートTPもウィンドウと呼ばれることがあるが、ここでは、対応点探索を実行すべく、基準画像I1に設定される演算領域をテンプレートTPと呼び、参照画像I2に設定される演算領域をウィンドウと呼ぶこととする。
SAD(Sum of Absolute Difference)は、式1に示すように、基準画像I1のテンプレートTPにおける画素の輝度値と、前記テンプレートTPの画素位置に対応する位置の、参照画像I2のウィンドウWDにおける画素の輝度値と、の差の絶対値を求めることによって、相関演算を行う手法である。SADは、式1に示すように、テンプレートTPとウィンドウWDとで同じ位置に対応する画素同士における各輝度値の差の絶対値をそれぞれ求めてそれがウィンドウWD内の全画素に亘って加算されることで求められるので、その演算量が少なく、したがって、短時間で対応点探索を行うことができる。
ここで、ML(i,j)は、基準画像I1のテンプレートTPにおける画素位置(i,j)の輝度値であり、MR(i,j)は、参照画像I2のウィンドウWDにおける画素位置(i,j)の輝度値である。PおよびQは、テンプレートTPおよびウィンドウWDのサイズ(領域の大きさ)を表し、Pは、縦の画素数であり、Qは、横の画素数である。
そして、このような処理が1画素ずつずらしながら行われ、最も類似度の高いウィンドウ位置にテンプレートTPと等しい画像があると判断される。
また、SSD(Sum of Squared intensity Difference、2乗残差法)は、式2に示すように、基準画像I1のテンプレートTPにおける画素の輝度値と、前記テンプレートTPの画素位置に対応する位置の、参照画像I2のウィンドウWDにおける画素の輝度値と、の差の2乗を求めることによって、相関演算を行う手法である。SSDは、上述のように画素間の輝度値の差を2乗しているため、比較的サイズの小さいテンプレートTPおよびウィンドウWDを用いる場合でも、テンプレートTPとウィンドウWDとの相関をより明確に表すことができる。
また、NCC(Normalized Cross Correlation、正規化相互相関法)は、式3に示すように、基準画像I1のテンプレートTPおよび参照画像I2のウィンドウWDのそれぞれにおいて、各点の輝度値から輝度値の平均値を減算し、分散値の類似度で相関演算を行う手法である。NCCでは、線形な明るさの変化の影響、すなわち、画像の輝度値およびコントラストの線形変化とノイズの影響が低減される。相関値は、−1〜+1の範囲の値であり、その値が大きい程、テンプレートTPとウィンドウWDとが類似していることを表している。このため、NCCでは、式3の最大値を求める処理となる。
ここで、μMLは、基準画像I1のテンプレートTPにおける平均値であり、μMRは、参照画像I2のウィンドウWDにおける平均値である。
また、ロバストな対応点探索手法として、振幅成分を抑制した相関法が知られている。この相関法は、基準画像I1および参照画像I2にそれぞれ設定したテンプレートTPおよびウィンドウWD内のパターンを周波数分関し、その周波数分解信号から振幅成分を抑制した位相成分のみの信号を用いて類似度演算を行う手法である。このため、この対応点探索手法は、輝度変動やノイズの影響を受け難く、高精度に画像間の対応点を探索することができる。
このパターンの周波数分解信号を算出する手法として、高速フーリエ変換(FFT)、離散フーリエ変換(DFT)、離散コサイン変換(DCT)、離散サイン変換(DST)、ウエーブレット変換およびアダマール変換等が一般的に広く用いられる。これら手法は、既に確立されているので、確実に周波数分解を行うことができ、好適である。これらのうちで、変換にフーリエ変換を用いた位相限定相関法(POC)は、フーリエ級数の振幅成分を抑制した位相成分のみの相関演算を行う。また、DCT符号限定相関法では、変換に離散コサイン変換を用い、コサイン変換結果の振幅成分を抑制した符合成分のみの相関演算を行う。
以下に、位相限定相関法を例に詳細を説明する。図4は、位相限定相関法のブロック図である。この位相限定相関法では、まず、基準画像I1と参照画像I2とに、テンプレートTPとウィンドウWD(候補領域)とのペア(組、対)が設定され、それらの間の相関が計算され、その類似度から、正しい領域ペアであるか否かが判定される。図4において、位相限定相関法によって対応点探索を行う装置は、画像に対しフーリエ変換を行うフーリエ変換部31、32と、フーリエ変換部31、32で得られたフーリエ級数の振幅成分について規格化を行う規格化部33、34と、各規格化部33、34で得られた各規格結果について合成を行う合成部35と、合成部35で得られた合成結果について逆フーリエ変換を行う逆フーリエ変換部36とを備えて構成される。このような構成の装置において、基準画像I1のテンプレートTPおよび参照画像I2のウィンドウWDは、フーリエ変換部31およびフーリエ変換部32にそれぞれ入力され、それぞれフーリエ変換される。これらフーリエ変換された基準画像I1のテンプレートTPおよび参照画像I2のウィンドウWDは、規格化部33および規格化部34にそれぞれ入力され、それぞれ規格化される。これら規格化された基準画像I1のテンプレートTPおよび参照画像I2のウィンドウWDは、それぞれ合成部35に入力され、合成され、逆フーリエ変換部36において逆フーリエ変換される。数式で表すと、以下のとおりである。
このように位相限定相関法は、2つのフーリエ変換された画像をスペクトルごとに規格化してから合成し、逆フーリエ変換する手法である。
この位相限定相関法で得られるPOC値は、図5に示すように、画像間(基準画像I1のテンプレートTPと参照画像I2のウィンドウWD)の移動量の座標に急峻な類似度ピークを持つことが知られており、画像マッチングにおけるロバスト性が高い。このため、より精度よく対応点探索を行うことが可能となる。
図3に戻って、データ取得部211は、データが取得されると、そのデータを係数演算部212へ通知する。次に、ステップS12では、画像予測部21の係数演算部212は、データ取得部211で取得されたデータを用いてアフィン変換のアフィン係数を算出する。すなわち、係数演算部212は、撮影カメラ2−1の画像I1について、データ取得部211で対応点探索を行って取得された、少なくとも3つの対応点を含む対応点探索結果OF1 t(21)を用いてアフィン変換のアフィン係数P1 A(21)を算出すると共に(S12−1)、撮影カメラ2−2の画像I2について、データ取得部211で対応点探索を行って取得された、少なくとも3つの対応点を含む対応点探索結果OF2 t(21)を用いてアフィン変換のアフィン係数P2 A(21)を算出する(S12−2)。なお、P1 A(21)は、撮影カメラ2−1によって撮影された1フレーム前の画像I1 t−1と2フレーム前の画像I1 t−2とに基づいて算出されたアフィン係数(アフィンパラメータ)であり、P2 A(21)は、撮影カメラ2−2によって撮影された1フレーム前の画像I2 t−1と2フレーム前の画像I2 t−2とに基づいて算出されたアフィン係数(アフィンパラメータ)である。
より具体的には、係数演算部212において、次のように演算処理することによって各対応点探索結果OF1 t(21)、OF2 t(21)から各アフィン係数P1 A(21)、P2 A(21)がそれぞれ求められる。なお、以下の説明では、対応点探索結果OF1 t(21)からアフィン係数P1 A(21)を求める演算処理について説明するが、対応点探索結果OF2 t(21)からアフィン係数P2 A(21)を求める演算処理も同様に説明することができる。
アフィン変換は、或る座標系から他の座標系へ変換する座標変換をいい、或る座標系から他の座標系へ移行する際に、拡大縮小(スケーリング)、回転移動および平行移動が行われる。ここで、基準画像I1における注目点の座標を(x、y)とし、前記注目点に対応する参照画像I2の対応点の座標を(X、Y)とし、アフィン係数PAをa,b,c,d,e,fとする場合に、アフィン変換は、式5−1および式5−2によって表される。
上述のように、座標変換では、拡大縮小(スケーリング)、回転移動および平行移動が行われ、これら各変換は、同次座標で表現すると、それぞれ式6のように表される。そして、拡大縮小、回転移動および平行移動の関係は、それぞれ式7、式8および式9のように表される。
ここで、SxおよびSyは、拡大縮小におけるxの倍率およびyの倍率である。θは、回転移動における回転角である。そして、x0およびy0は、平行移動におけるx方向の移動量およびy方向の移動量である。
なお、点[x、y]は、同次座標では[x、y、1]と表現される一方、同次座標における点[X、Y、W]は、通常の座標では[X/W、Y/W]となる点を表している。このWは、倍率を意味し、W=0は、無限遠点を表現している。
したがって、対応点探索結果OF1 t(21)における少なくとも3組の注目点と対応点との関係を式6に代入してa、b、c、d、e、fについて解くことによってアフィン係数P1 A(21)(a、b、c、d、e、f)が求められる。
また、3つ以上の対応点探索結果が存在する場合は、例えば、最小二乗法が用いられる。対応点探索結果OF1 t(21)における基準画像I1の3つ以上の注目点(x1、y1)、(x2、y2)、・・・、(xn、yn)に対応する参照画像I2の3つ以上の対応点が(X1、Y1)、(X2、Y2)、・・・、(Xn、Yn)であるとすると、アフィン係数P1 A(21)(a、b、c、d、e、f)のa、b、c、d、e、fは、式10−1および式10−2を計算することによって求められる。
なお、アフィン係数PAを求めるための少なくとも3組の注目点と対応点とは、誤対応することなく、信頼のある安定的な対応点を得るべく、画像外領域を含まない領域について対応点探索を実行することが好ましい。
係数演算部212は、アフィン係数P1 A(21)、P2 A(21)が算出されると、そのアフィン係数P1 A(21)、P2 A(21)を予測画像生成部213へ通知する。次に、ステップS13では、画像予測部21の予測画像生成部213は、所定の時点に取得された画像に基づいてこの所定の時点と異なる予測時点における画像を、係数演算部212で算出したアフィン係数PAを持つアフィン変換を用いることによって予測し、予測画像として生成する。図6は、予測画像の生成方法を説明するための図である。すなわち、予測画像生成部213は、撮影カメラ2−1の画像I1について、1フレーム前に取得した1フレーム前の画像I1 t−1(図6(A))に、係数演算部212で算出したアフィン係数P1 A(21)を持つアフィン変換を作用させることによって、現時点(現フレーム)の予測画像Ipre1 t−1(図6(B))を生成すると共に(S13−1)、撮影カメラ2−2の画像I2について、1フレーム前に取得した1フレーム前の画像I2 t−1に、係数演算部212で算出したアフィン係数P2 A(21)を持つアフィン変換を作用させることによって、現時点(現フレーム)の予測画像Ipre2 t−1を生成する(S13−2)。
なお、予測画像Ipre1 t−1は、画像合成部22の画像合成を容易に行うために、図6(C)に示すように、撮影カメラ2−1によって撮影される画像領域に対応する領域DMが抜き取られてものであっても良い。例えば、領域DMにおける輝度値を0とすることによって、撮影カメラ2によって撮影される画像領域に対応する領域DMが抜き取られる。同様に、予測画像Ipre2 t−1は、画像合成部22の画像合成を容易に行うために、撮影カメラ2−2によって撮影される画像領域に対応する領域が抜き取られてものであっても良い。
画像予測部21の予測画像生成部213は、予測画像Ipre t−1(予測画像Ipre1 t−1、予測画像Ipre2 t−1)が生成されると、その予測画像Ipre t−1を画像合成部22へ通知する。次に、ステップS14では、画像合成部22は、画像予測部21で生成された予測画像Ipre t−1とこの予測時点に取得された画像It0(画像I1 t0、画像I2 t0)とを合成することによって合成画像I’t0を生成する。すなわち、画像合成部22は、撮影カメラ2−1の画像I1について、1フレーム前に取得した1フレーム前の画像I1 t−1にアフィン変換を作用させることによって生成した現時点(現フレーム)の予測画像Ipre1 t−1に、現時点の画像I1 t0を嵌め込むことによって、現時点の予測画像Ipre1 t−1と現時点の画像I1 t0とを合成し、合成画像I1’t0を生成すると共に(S14−1)、撮影カメラ2−2の画像I2について、1フレーム前に取得した1フレーム前の画像I2 t−1にアフィン変換を作用させることによって生成した現時点の予測画像Ipre2 t−1に、現時点の画像I2 t0を嵌め込むことによって、現時点の予測画像Ipre2 t−1と現時点の画像I2 t0とを合成し、合成画像I2’t0を生成する(S14−2)。現時点の予測画像Ipre1 t−1に現時点の画像It0を嵌め込む処理は、現時点の予測画像Ipre1 t−1における現時点の画像It0に対応する領域の画素値(輝度値)を、現時点の画像It0における画素値(輝度値)に置き換えることによって実行される。すなわち、この嵌め込み処理は、図6(C)に示す、現時点の予測画像Ipre1 t−1における撮影カメラ2−1によって撮影される画像領域に対応する領域DMに、現時点の画像It0を嵌め込むことによって実行される。
画像合成部22は、合成画像I’t0(合成画像I1’t0、合成画像I2’t0)が生成されると、その合成画像I’t0を対応点探索部23へ通知する。そして、ステップS15では、対応点探索部23は、撮影カメラ2−1、2−2で撮影された2つの画像のうちの一方を基準画像I1とすると共に他方を参照画像I2とする場合に、基準画像I1の注目点に対応する参照画像I2の対応点を探索する。そして、対応点探索部23は、この対応点探索において、基準画像I1に対応する、画像予測部21と画像合成部22とによって生成された合成基準画像I1’がある場合には、基準画像I1に代えて合成基準画像I1’を用いると共に、参照画像I2に対応する、画像予測部21および画像合成部22によって生成された合成参照画像I2’がある場合には、参照画像I2に代えて合成参照画像I2’を用いる。すなわち、本実施形態では、撮影カメラ2−1について合成画像I1’t0が生成されると共に、撮影カメラ2−2について合成画像I2’t0が生成されているので、対応点探索部23は、例えば、合成画像I1’t0を基準画像I1とすると共に合成画像I2’t0を参照画像I2として、基準画像I1の注目点に対応する参照画像I2の対応点を探索する。ここで、対応点探索部23は、ステップS11で説明した各対応点探索手法のいずれかの手法を用いることによって、対応点探索を実行する。そして、対応点探索部23は、対応点探索システムSの用途に応じた所定値、例えば、ステレオ画像間の視差dt0を算出する。
そして、処理がステップS15からステップS11に戻され、ステップS11からステップS15までの各処理が繰り返し実行されることによって、各フレームについて、上述の処理が実行される。
以上説明したように、本実施形態における対応点探索システムSおよび対応点探索装置1は、2つの画像のうちの一方を基準画像I1(例えば撮影カメラ2−1によって撮影された画像I1)とすると共に他方を参照画像I2(例えば撮影カメラ2−2によって撮影された画像I2)とした場合に、基準画像I1を取得した第1時点t0よりも過去の時点t−1、t−2に取得された2つの画像I1 t−1、I1 t−2に基づいて予測された前記第1時点t0の予測基準画像Ipre1 t−1を生成すると共に、参照画像I2を取得した第2時点(本実施形態ではステレオ画像なので第2時点は第1時点と同じ)t0よりも過去の時点t−1、t−2に取得された2つの画像I2 t−1、I2 t−2に基づいて予測された第2時点(=第1時点)t0の予測基準画像Ipre2 t−1を生成する画像予測部21と、第1時点t0の予測基準画像Ipre1 t−1と第1時点の画像I1 t0とを合成することによって合成基準画像I1’t0を生成すると共に、第2時点(=第1時点)t0の予測参照画像Ipre2 t−1と第2時点(=第1時点)t0の画像I2 t0とを合成することによって合成参照画像I2’t0を生成する画像合成部22と、合成基準画像I1’t0の注目点に対応する合成参照画像I2’t0の対応点を探索する対応点探索部23とを備えている。そして、本実施形態における対応点探索システムSおよび対応点探索装置1は、上述のように動作するので、対応点探索を行う場合に、例えば、図7に示すように、演算領域(TP、WD)が画像外領域を含まないように、予測画像Ipreによって合成画像I’を生成することが可能となる。このため、対応点探索の演算領域が画像領域と画像外領域とに亘って設定される場合でも、誤対応の低減が可能となる。なお、図7において、斜線で表示されている領域が画像予測部21の予測画像生成部213によって生成された予測画像Ipreの部分を示している。
ここで、図7から分かるように、対応点探索される予測画像Ipreの大きさが撮影カメラ2によって撮影される画像Iの周囲に演算領域(テンプレートTP、ウィンドウWD)の大きさに相当する領域を並べた場合における大きさを超えると、演算領域(TP、WD)が画像外領域にのみ設定される場合(実際の対応点探索ではこのような演算領域は設定されない)を含むことととなり、無駄な予測画像Ipreの領域が存在することとなる。したがって、予測画像Ipreの大きさは、演算領域の大きさに応じて設定されることが好ましい。予測画像Ipreの大きさは、撮影カメラ2によって撮影される画像Iの周囲に演算領域の大きさに相当する領域を並べた場合における大きさ以下に設定することが好ましい。
また、本実施形態における対応点探索システムSおよび対応点探索装置1では、画像予測部21は、予測画像Ipreの生成にアフィン変換を用いている。このため、所定の時点に取得した画像に対し拡大縮小(スケーリング)、回転移動および平行移動を適宜に実行することができ、予測時点における最適な予測画像Ipreの生成が可能となる。
また、本実施形態における対応点探索システムSおよび対応点探索装置1では、対応点探索を行う対象の2つの画像は、ステレオカメラである撮影カメラ2によって撮影された1組の画像I1,I2から成るステレオ画像である。このため、画像領域の縁部(端部)まで精度よく対応点探索を行うことができるステレオ画像の対応点探索システムおよび対応点探索装置1の提供が可能となる。
また、本実施形態における対応点探索システムSおよび対応点探索装置1では、画像合成部22は、ステレオ画像における1組の画像I1 t0,I2 t0のそれぞれに対し各合成画像I1’t0、I2’t0を生成している。このため、ステレオ画像の両画像I1 t0,I2 t0に対し合成画像I1’t0、I2’t0が生成されるので、例えば、図7(A)に示すように、演算領域であるテンプレートTPが画像外領域を含まないように、予測画像Ipre1 t−1によって合成画像I1’t0を生成することが可能となると共に、図7(B)に示すように、演算領域であるウィンドウWDが画像外領域を含まないように、予測画像Ipre2 t−1によって合成画像I2’t0を生成することも可能となる。したがって、画像領域の縁部(端部)までより精度よく対応点探索を行うことが可能となる。
なお、本実施形態では、このように基準画像I1および参照画像I2となるステレオ画像の両画像I1 t0,I2 t0に対し合成画像I1’t0、I2’t0が生成されたが、基準画像I1となる画像I1 t0に対し合成画像I1’t0のみが生成されてもよい。あるいは、参照画像I2となる画像I2 t0に対し合成画像I2’t0のみが生成されてもよい。このように構成することによって情報処理が省略され、演算時間の短縮化や演算処理装置の簡単化を図ることが可能となる。
また、本実施形態における対応点探索システムSおよび対応点探索装置1では、対応点探索部23は、基準画像I1と参照画像I2との相関演算によって行われる。このため、この構成によれば、前記基準画像と前記参照画像との相関演算によって対応点探索が行われる対応点探索システムSおよび対応点探索装置の提供が可能となる。
また、本実施形態における対応点探索システムSおよび対応点探索装置1では、対応点探索部23は、演算領域(テンプレートTPおよびウィンドウWD)内のパターンを周波数分解し、振幅成分を抑制した信号の類似度に基づいて対応位置を演算している。このため、2つの画像間における輝度差やノイズの影響を受けにくいロバストな対応点探索が可能となる。
また、本実施形態における対応点探索システムSおよび対応点探索装置1では、前記周波数分解の手法は、高速フーリエ変換、離散フーリエ変換、離散コサイン変換、離散サイン変換、ウエーブレット変換およびアダマール変換のうちのいずれかである。したがって、既に確立されている手法が用いられるので、確実に周波数分解を行うことが可能となる。
また、本実施形態における対応点探索システムSおよび対応点探索装置1では、対応点探索部23における対応位置の演算処理は、位相限定相関法(POC)である。このため、より精度よく対応点探索を行うことが可能となる。
また、本実施形態における対応点探索システムSおよび対応点探索装置1では、上述したように、ステップS11からステップS15までの各処理が繰り返し実行される。したがって、上述の実施形態において、最初の合成画像I’t0は、その1フレーム前の画像It−1に2フレーム前の画像It−2および1フレーム前の画像It−1から得られるアフィン変換を作用させることによって生成される予測画像Ipre t−1と現フレームの画像It0とから合成される一方で、次の合成画像I’t+1は、この合成画像I’t0に1フレーム前の画像It−1および現時点(現フレーム)の画像It0から得られるアフィン変換を作用させることによって生成される予測画像Ipre t+1と現フレームの画像It+1とから合成されてもよい。例えば、図8(A)に示すように、最初の合成画像I’t−3は、その3フレーム前の画像It−3に4フレーム前の画像It−4および3フレーム前の画像It−3から得られるアフィン変換PA(43)を作用させることによって生成される予測画像Ipre t−3と2フレーム前の画像It−2とから合成され、次の合成画像I’t−2は、図8(B)に示すように、この合成画像I’t−3に3フレーム前の画像It−3および2フレーム前の画像It−2から得られるアフィン変換PA(32)を作用させることによって生成される予測画像Ipre t−2と1フレームの画像It−1とから合成され、さらに次の合成画像I’t−1は、図8(C)に示すように、この合成画像I’t−2に2フレーム前の画像It−2および1フレーム前の画像It−1から得られるアフィン変換PA(21)を作用させることによって生成される予測画像Ipre t−1と現フレームの画像It0とから合成される。
次に、別の実施形態について説明する。
(第2の実施形態)
第1の実施形態では、対応点探索システムSおよび対応点探索装置1は、ステレオカメラによって撮影された1組の画像I1、I2から成るステレオ画像について対応点探索を行ったが、第2の実施形態では、対応点探索システムSおよび対応点探索装置1は、撮影カメラによって所定の時間間隔(フレーム周期)で順次に撮影された時系列画像のうちの互いに異なる時点に取得された各画像について対応点探索を行うものである。
このため、第2の実施形態における対応点探索システムSおよび対応点探索装置1は、撮影カメラ2が1台の撮影カメラ、例えば、撮影カメラ2−1によって構成され、CPU12に機能的に構成される画像予測部21(データ取得部211、係数演算部212および予測画像生成部213)、画像合成部22および対応点探索部23が後述のように機能する点を除き、第1の実施形態における対応点探索システムSおよび対応点探索装置1と同様である。
なお、本実施形態では、撮影カメラ2−1によって撮影された時系列画像について対応点探索が実行されるが、撮影カメラ2−2も備え、撮影カメラ2−2によって撮影された時系列画像についても、本実施形態における対応点探索が実行されてもよい。
図9は、第2の実施形態の対応点探索システムにおける対応点探索装置の動作を示すフローチャートである。
対応点探索システムSが起動され、その動作が開始されると、1台の撮影カメラ2によって所定のフレーム周期で順次に撮影された先行物体Obの時系列画像(時系列画像データ)が取得される。そして、各時系列画像(各時系列画像データ)は、順次に、通信部17から対応点探索装置1に入力され、対応点探索装置1のCPU12に通知され、CPU12によって各時系列画像間の対応点探索処理が開始される。
この各時系列画像間の対応点探索処理において、図9に示すように、まず、ステップS21では、画像予測部21のデータ取得部211は、撮影カメラ2で撮影された各時系列画像から係数演算部212で用いるデータを取得する。予測画像生成部213が所定の時点に取得された画像に基づいてこの所定の時点と異なる予測時点における画像をアフィン変換によって予測することで予測画像として生成することから、係数演算部212は、このアフィン変換のアフィン係数を算出する必要がある。このため、データ取得部211は、より具体的には、時系列画像のうちの2つの画像間の対応点を少なくとも3つ探索する。本実施形態では、例えば、時点tにおいて撮影カメラ2によって撮影された画像をItとする場合に、データ取得部211は、例えば、現時点(現フレームの時点)t0より1フレーム前の時点t−1および2フレーム前の時点t−2の画像It−1、It−2間における対応点探索を行って、少なくとも3つの対応点を含む対応点探索結果OFt(21)(少なくとも3つの注目点にそれぞれ対応する少なくとも3つの対応点を含む対応点探索結果OFt(21))を取得する。なお、OFt(21)は、撮影カメラ2によって撮影された1フレーム前の画像It−1と2フレーム前の画像It−2との間における対応点探索結果である。データ取得部211は、この2つの画像It−1、It−2間における対応点探索を、第1の実施形態におけるステップS11で説明した各対応点探索手法のいずれかの手法を用いることによって、実行する。
データ取得部211は、データが取得されると、そのデータを係数演算部212へ通知する。次に、ステップS22では、画像予測部21の係数演算部212は、第1の実施形態におけるステップS12と同様の処理によって、データ取得部211で取得されたデータを用いてアフィン変換のアフィン係数を算出する。すなわち、係数演算部212は、データ取得部211で対応点探索を行って取得された、少なくとも3つの対応点を含む対応点探索結果OFt(21)を用いてアフィン変換のアフィン係数PA(21)を算出する。なお、PA(21)は、撮影カメラ2によって撮影された1フレーム前の画像It−1と2フレーム前の画像It−2とに基づいて算出されたアフィン係数(アフィンパラメータ)である。
係数演算部212は、アフィン係数PA(21)が算出されると、そのアフィン係数PA(21)を予測画像生成部213へ通知する。次に、ステップS23では、画像予測部21の予測画像生成部213は、所定の時点に取得した画像に基づいてこの所定の時点と異なる予測時点における画像を、係数演算部212で算出したアフィン係数PA(21)を持つアフィン変換を用いることによって予測し、予測画像として生成する。
より具体的には、第1に、予測時点が現時点である場合には、予測画像生成部213は、現時点よりも過去の時点に取得した画像に対し現時点の画像をアフィン変換によって予測することで予測画像を生成する。例えば、予測画像生成部213は、現時点(現フレーム)t0よりも1フレーム前の時点t−1に取得した画像It−1にアフィン係数PA(21)のアフィン変換を作用させることよって現時点t0の予測画像Ipre t−1を生成する(S23−1)。
そして、第2に、予測時点が過去の時点である場合には、予測画像生成部213は、現時点に取得した画像に対し過去の時点の画像をアフィン変換によって予測することで予測画像を生成する。例えば、予測画像生成部213は、現時点(現フレーム)t0に取得した画像It0にアフィン係数P−1 A(21)のアフィン変換を作用させることよって1フレーム前の時点t−1の予測画像Ipre t0を生成する(S23−2)。なお、ステップS22の処理によって求めたアフィン係数PA(21)は、2フレーム前の画像It−2を基準画像I1とすると共に1フレーム前の画像It−1を参照画像I2として求めたものである。したがって、現時点t0の画像It0から過去の時点t−1の予測画像Ipre t0を生成するステップS23−2の場合では、アフィン変換は、アフィン係数PA(21)の逆行列であるアフィン係数P−1 A(21)とする必要がある。
画像予測部21の予測画像生成部213は、予測画像Ipre t−1、Ipre t0が生成されると、その予測画像Ipre t−1、Ipre t0を画像合成部22へ通知する。次に、ステップS24では、画像合成部22は、画像予測部21で生成された予測画像Ipre t−1、Ipre t0とこの予測画像Ipre t−1、Ipre t0に対応する画像It0、It−1とを合成することによって合成画像I’t0、I’t−1を生成する。すなわち、画像合成部22は、予測画像Ipre t−1では、オプティカルフローが消失点から放射状に伸びていることから、この現時点の予測画像Ipre t−1に、現時点の画像It0を嵌め込むことによって、現時点の予測画像Ipre t−1と現時点の画像It0とを合成し、合成画像I’t0を生成すると共に(S24−1)、画像合成部22は、予測画像Ipre t0では、オプティカルフローが消失点へ向かって伸びていることから、この1フレーム前の予測画像Ipre t0に、1フレーム前の画像It−1を嵌め込むことによって、1フレーム前の予測画像Ipre t0と1フレーム前の画像It−1とを合成し、合成画像I’t−1を生成する(S24−2)。
ここで、このステップS24において、画像合成部22は、撮影カメラ2と被写体(例えば本実施形態では先行物体Ob)との相対運動の態様に応じて、合成すべき予測画像Ipreと予測時点に取得された画像Iとを判定するように構成されてもよい。このように構成されることによって、合成画像の合成対象を適宜に変更することができ、効果的に対応点探索を行うことができる。
図10は、オプティカルフローが消失点から放射状に伸びる場合における予測画像の生成および合成画像の生成を説明するための図である。図10(A)は、予測画像の生成の態様を示し、図10(B)は、オプティカルフローを示す。図11は、オプティカルフローが消失点へ向かって伸びる場合における予測画像の生成および合成画像の生成を説明するための図である。図11(A)は、予測画像の生成の態様を示し、図11(B)は、オプティカルフローを示す。
撮影カメラ2と被写体との相対運動の態様は、例えば、時系列画像から得られるオプティカルフローによって求めることができる。オプティカルフローは、物体の3次元運動に伴って生じる画像上の2次元速度ベクトルの分布であり、例えば、第1時点よりも過去の時点における画像を基準画像I1とすると共に第1時点の画像を参照画像I2とした場合に、基準画像I1の注目点に対応する参照画像I2の対応点を対応点探索によって探索することで、注目点から対応点へのベクトルとして求められる。より具体的には、オプティカルフローは、例えば、1フレーム前の画像It−1を基準画像I1とすると共に現時点(現フレーム)の画像It0を参照画像I2とした場合に、基準画像I1の注目点に対応する参照画像I2の対応点を対応点探索によって探索することで、注目点から対応点へのベクトルとして求められる。
このように求めたオプティカルフローが例えば図10(B)に示すように消失点NPから放射状に伸びている場合には、撮影カメラ2が被写体に近づくように運動、すなわち、前進運動している場合であるから、図10(A)に示すように、予測画像生成部213は、1フレーム前の画像It−1にアフィン係数PA(21)のアフィン変換を作用させることよって現時点t0の予測画像Ipre t−1を生成し(S23−1)、画像合成部22は、現時点t0の予測画像Ipre t−1と現時点t0の画像It0とを合成し、合成画像I’t0を生成する(S24−1)。画像合成部22は、この現時点t0の予測画像Ipre t−1における、撮影カメラ2によって撮影される画像領域に対応する領域DMに、現時点t0の画像It0を嵌め込むことによって両画像Ipre t−1、It0を合成する。消失点NPは、例えば、オプティカルフローの交点として与えられる。
一方、この求めたオプティカルフローが例えば図11(B)に示すように消失点NPへ向かって伸びている場合には、撮影カメラ2が被写体から離れるように運動、すなわち、後進運動している場合であるから、図11(A)に示すように、予測画像生成部213は、1フレーム前の画像It−1にアフィン係数PA(21)のアフィン変換を作用させることよって現時点t0の予測画像Ipre t−1を生成し(S23−1)、画像合成部22は、現時点t0の予測画像Ipre t−1と現時点t0の画像It0とを合成し、合成画像I’t0を生成する(S24−1)。画像合成部22は、この現時点t0の予測画像Ipre t−1における、撮影カメラ2によって撮影される画像領域に対応する領域DMに、現時点t0の画像It0を嵌め込むことによって両画像Ipre t−1、It0を合成する。ただし、この場合(後進時)に、現時点t0の画像It0は、現時点の予測画像Ipre t−1より大きいために、合成後の予測画像Ipre t−1は、現時点t0の下に隠れてしまい、実質的には現時点t0の画像It0となる。
以上の説明では、過去の画像をベースに予測画像が作成され、そこへ現在の画像を嵌め込むことによって合成画像が作成されたが、図9で説明したように、現在の画像をベースに過去の予測画像が作成され、そこへ過去の画像を嵌め込むことによって合成画像が作成されてもよい。
なお、上述では、撮影カメラ2が前進運動している場合では、図10に示すように、1フレーム前の画像It−1にアフィン係数PA(21)のアフィン変換を作用させることよって現時点t0の予測画像Ipre t−1が生成され、現時点t0の予測画像Ipre t−1と現時点t0の画像It0とを合成することによって合成画像I’t0が生成されたが、図12に示すように、撮影カメラ2が前進運動している場合に、合成画像I’t0が生成されるだけでなく、さらに、現時点の画像It0にアフィン係数P−1 A(21)のアフィン変換を作用させることよって1フレーム前の予測画像Ipre t0も生成され、1フレーム前の予測画像Ipre t0と1フレーム前に取得された画像It−1とを合成することによって合成画像I’t−1も生成されてもよい。同様に、上述では、撮影カメラ2が後進運動している場合では、図11に示すように、現時点の画像It0にアフィン係数P−1 A(21)のアフィン変換を作用させることよって1フレーム前の予測画像Ipre t0が生成され、1フレーム前の予測画像Ipre t0と1フレーム前に取得された画像It−1とを合成することによって合成画像I’t−1が生成されたが、図13に示すように、撮影カメラ2が後進運動している場合に、合成画像I’t−1が生成されるだけでなく、さらに、1フレーム前の画像It−1にアフィン係数PA(21)のアフィン変換を作用させることよって現時点t0の予測画像Ipre t−1も生成され、現時点t0の予測画像Ipre t−1と現時点t0の画像It0とを合成することによって合成画像I’t0も生成されてもよい。このように構成されることによって、運動方向が変更された場合に、運動方向を判定することによって切り換える必要がなくなり、かつ運動方向が変更された時点から予測画像で対応点探索を行うことが可能となる。
なお、合成画像I’の生成において、予測画像Ipreの大きさが、撮影カメラ2によって撮影される画像領域に対応する領域DMよりも小さい場合には、実測画像Iの下に予測画像Ipreが隠れてしまい、合成画像I’が実質的に実測画像Iとなる場合がある。
画像合成部22は、これら合成画像I’t0、I’t−1が生成されると、これら合成画像I’t0、I’t−1を対応点探索部23へ通知する。そして、ステップS25では、対応点探索部23は、影カメラ2で撮影された2つの画像のうちの一方を基準画像I1とすると共に他方を参照画像I2とする場合に、基準画像I1の注目点に対応する参照画像I2の対応点を探索する。そして、対応点探索部23は、この対応点探索において、基準画像I1に対応する、画像予測部21と画像合成部22とによって生成された合成基準画像I1’がある場合には、基準画像I1に代えて合成基準画像I1’を用いると共に、参照画像I2に対応する、画像予測部21および画像合成部22によって生成された合成参照画像I2’がある場合には、参照画像I2に代えて合成参照画像I2’を用いる。すなわち、本実施形態では、これら合成画像I’t0、I’t−1が生成されるので、対応点探索部23は、例えば、合成画像I’t−1を基準画像I1とすると共に合成画像I’t0を参照画像I2として、基準画像I1の注目点に対応する参照画像I2の対応点を探索する。ここで、対応点探索部23は、ステップS11で説明した各対応点探索手法のいずれかの手法を用いることによって、対応点探索を実行する。そして、対応点探索部23は、対応点探索システムSの用途に応じた所定値を算出する。
そして、処理がステップS25からステップS22に戻され、ステップS21からステップS25までの各処理が繰り返し実行されることによって、各フレームについて、上述の処理が実行される。
このように動作するので、本実施形態における対応点探索システムSおよび対応点探索装置1は、対応点探索を行う場合に、例えば、図14に示すように、演算領域(TP、WD)が画像外領域を含まないように、予測画像Ipreによって合成画像I’を生成することが可能となる。このため、対応点探索の演算領域が画像領域と画像外領域とに亘って設定される場合でも、誤対応の低減が可能となる。
また、本実施形態における対応点探索システムSおよび対応点探索装置1では、画像合成部22は、時系列画像に基づいて得られたオプティカルフローに応じて予測画像Ipreおよび予測時点に取得された画像Iを決定している。このため、合成画像の合成対象を適宜に変更することができ、効果的に対応点探索を行うことができる。
また、本実施形態における対応点探索システムSおよび対応点探索装置1では、画像予測部21は、現時点t0よりも1フレーム前に取得された画像It−1に基づいて現時点の予測画像Ipre t−1を生成し、画像合成部22は、現時点の予測画像Ipre t−1と現時点に取得された現時点t0の画像It0とを合成している。このため、対応点探索が行われる画像が移動体に取り付けられた撮影カメラによって得られた画像である場合に、移動体が前進運動している場合に、より精度よく対応点探索を行うことが可能となる。
また、本実施形態における対応点探索システムSおよび対応点探索装置1では、画像予測部21は、現時点t0に取得された画像It0に基づいて現時点t0よりも1フレーム前の予測画像Ipre t0を生成し、画像合成部22は、1フレーム前の予測画像Ipre t0と1フレーム前に取得された1フレーム前の画像It−1とを合成している。このため、対応点探索が行われる画像が移動体に取り付けられた撮影カメラによって得られた画像である場合に、移動体が後進(後退)運動している場合に、より精度よく対応点探索を行うことが可能となる。
図14は、撮影カメラの位置と撮影条件との関係を説明するための図である。なお、上述の第1および第2の実施形態では、アフィン変換のアフィン係数PAは、互いに取得時間の異なる2つの画像間において対応点探索を実行することによって取得された、少なくとも3つの対応点を含む対応点探索結果OFに基づいて求められたが、互いに取得時間の異なる2つの画像に基づいて求められたオプティカルフローに基づいて求められても良い。例えば、対応点探索結果OFにおける注目点および対応点として、オプティカルフローを表すベクトルの始点および終点をそれぞれ用いることによって、アフィン変換のアフィン係数PAが求められる。この構成によれば、他の外部機器を用いることなく、画像のみからアフィン変換のアフィン係数を求めることが可能となる。
一方、この場合において、画像は、移動体に取り付けられた撮影カメラ2によって取得され、アフィン変換のアフィン係数PAは、移動体の操舵による回転角度に関する操舵情報および自走速度に関する速度情報に基づいて求められたオプティカルフローに基づいて求められても良い。そして、この操舵情報は、移動体に取り付けられた移動体の操舵による回転角度を検出する舵角センサによって取得されることが好ましく、この速度情報は、移動体に取り付けられた移動体の速度を検出する速度センサによって取得されることが好ましい。この構成によれば、操舵情報および速度情報が他の外部機器、例えば舵角センサや速度センサから取得されるので、演算時間の短縮化や演算処理装置の簡単化を図ることができ、また、精度よくアフィン変換のアフィン係数PAを求めることが可能となる。
ここで、図14に示すように、焦点距離fで画角θである撮影カメラ2が、路面から高さhの位置に、前進方向Zに対しピッチ方向の傾きφで移動体に取り付けられ、パン方向およびロール方向の傾きが実質的に0であるとする。このような場合では、オプティカルフローの水平成分△xおよび垂直成分△yは、式11−1および式11−2によって表される。
△x=(vt(y+αφ)x/(αh))−(α+vt(y+αφ)/(2h))σt
・・・(11−1)
△y=(vt(y+αφ)2/(αh)) ・・・(11−2)
ここで、vは、移動体の速度であり、tは、2つの画像間の撮影時間間隔であり、yは、撮影カメラ2からZ方向に離れた路面上の点Aを表す画像上の点の垂直成分であり、xは、撮影カメラ2からZ方向に離れた路面上の点Aを表す画像上の点の水平成分であり、αは、画素ピッチをpとし画素数をNとすると、α=f/p=N/(2θ)であり、σtは、操舵による回転角度(σは角速度)である。
図15は、予測画像の他の生成方法を説明するための図である。また、上述の第1および第2の実施形態では、予測画像生成部213によって生成される予測画像Ipre t−1は、予測前の元の画像It−1を一括に扱って生成されたが、図15に示すように、元の画像It−1を複数の画像に分割し(図15(A))、これら各分割した分割画像ごとにアフィン係数Pn A(21)(nはn番目の分割領域であることを示す)を求め、これら各分割した分割画像In t−1ごとに予測画像Ipren t−1を求め、予測前後で位置関係を維持するようにこれらをつなぎ合わせて合成することで、予測画像Ipre t−1が生成されても良い(図15(B))。各分割画像In t−1の大きさ(サイズ)は、正方形でも良く、また矩形であっても良く、さらに必ずしも同一である必要はなく異なっていても良い。このように元の画像It−1を分割してから予測画像Ipre t−1を生成することによって、1フレームの間で移動量が大きく変動する領域と小さく変動する領域を分割することが可能となり、より正確に予測画像Ipre t−1を生成することができる。
なお、この場合においても上述の実施形態と同様に、予測画像Ipre t−1は、画像合成部22の画像合成を容易に行うために、図15(C)に示すように、撮影カメラ2によって撮影される画像領域に対応する領域DMが抜き取られてものであっても良い。
図16は、多重解像度戦略を説明するための図である。また、上述の第1および第2の実施形態において、対応点探索部23は、多重解像度戦略を用いて対応点探索を実行しても良い。多重解像度戦略を用いた対応点探索は、図16に示すように、基準画像I1および参照画像I2の解像度を低解像度化し、この低解像度の基準画像I1および参照画像I2を用いて対応点探索を行い、その解(対応点探索結果)を伝播させながら解像度を元の解像度まで順次に上げる手法である。より具体的には、まず、第1処理として、例えば画素を間引く間引き処理によって基準画像I1および参照画像I2の各縮小画像が作成される(低解像度化)。次に、第2処理として、これら基準画像I1および参照画像I2の各縮小画像を用いて対応点探索が行われる。次に、第3処理として、この対応点探索によって探索された対応点を含む所定の範囲で参照画像I2の縮小画像が所定の倍率で拡大されると共に、注目点を含む前記所定の範囲で基準画像I1の縮小画像が所定の倍率で拡大される(解の伝播)。次に、第4処理として、この拡大された基準画像I1および参照画像I2を用いて対応点探索が行われる。次に、第5処理として、元の大きさ(サイズ、解像度)となるまで、第3処理および第4処理を繰り返す。
多重化解像度戦略を用いる対応点探索では、演算領域に画像外領域が含まれるケースが多い。本発明の一実施態様では、上述したように、予測画像が生成され、予測画像に基づいて合成画像が生成され、合成画像を用いることによって対応点探索が行われるので、このような構成の対応点探索システムSおよび対応点探索装置1では、多重解像度戦略による対応点探索を行う場合に、より精度よく対応点探索を行うことができる。
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。