JP3540696B2 - 画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体 - Google Patents
画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体 Download PDFInfo
- Publication number
- JP3540696B2 JP3540696B2 JP34645299A JP34645299A JP3540696B2 JP 3540696 B2 JP3540696 B2 JP 3540696B2 JP 34645299 A JP34645299 A JP 34645299A JP 34645299 A JP34645299 A JP 34645299A JP 3540696 B2 JP3540696 B2 JP 3540696B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- points
- coordinate values
- triangular patch
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Processing (AREA)
- Studio Circuits (AREA)
- Editing Of Facsimile Originals (AREA)
- Image Analysis (AREA)
Description
【0001】
【発明の属する技術分野】
この発明は、画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体に関する。
【0002】
【従来の技術】
2枚の画像からオプティカルフローを計算し、得られたオプティカルフローに基づいて、2枚の画像間での位置合わせを行う技術が知られている。従来のオプテカルフローの算出方法について説明する。
【0003】
(1)Lucas-Kanade法
従来から、動画像における運動物体の見かけの速度場(オプティカルフロー)を計算する手法が数多く提案されている。中でも局所勾配法であるLucas-Kanade法は、最も良い手法の一つである。その理由は、処理が高速、実装が容易、結果が信頼度を持つことである。
【0004】
Lucas-Kanade法の詳細については、文献: B.Lucas and T.Kanade,"An Iterative Image Registration Technique with an Application to Stereo Vision,"In Seventh International Joint Conference on Artificial Intelligence(IJCAI-81), pp. 674-979, 1981を参照のこと。
【0005】
以下に、Lucas-Kanade法の概要を述べる。
ある時刻tの画像座標p=(x,y)の濃淡パターンI(x,y,t)が、ある微小時間後(δt)に座標(x+δx,y+δy)に、その濃淡分布を一定に保ったまま移動した時、次のオプティカルフロー拘束式1が成り立つ。
【0006】
【数1】
【0007】
2次元画像でオプティカルフロー{v=(δx/δt,δy/δt)=(u,v)}を計算するには、未知パラメータ数が2個であるので、もう一個拘束式が必要である。Lucas とKanade( 金出) は、同一物体の局所領域では、同一のオプティカルフローを持つと仮定した。
【0008】
例えば、画像上の局所領域ω内で、オプティカルフローが一定であるとすると、最小化したい濃淡パターンの二乗誤差Eは、
I0 (p)=I(x,y,t),
I1 (p+v)=I(x+u,y+v,t+δt)
と書き改めると、次式2で定義できる。
【0009】
【数2】
【0010】
ここで、vが微少な場合には、テーラー展開の2次以上の項を無視できるので、次式3の関係が成り立つ。
【0011】
【数3】
【0012】
ここで、g(p)は、I1 (p)の一次微分である。
【0013】
誤差Eが最小になるのは、Eのvに対する微分値が0の時であるので、次式4の関係が成り立つ。
【0014】
【数4】
【0015】
故にオプティカルフローvは次式5で求められる。
【0016】
【数5】
【0017】
更に、次式6に示すように、ニュートン・ラフソン的な反復演算によって精度良く求めることができる。
【0018】
【数6】
【0019】
(2)階層的推定法
Lucas-Kanade法を含む勾配法の最も大きな問題点は、良好な初期値が必要なために、大きな動きに対しては適用できないことである。そこで、従来からピラミッド階層構造型に数段回の解像度の異なる画像を作成して解決する方法が提案されている。
【0020】
これは、まず、2枚の連続した画像から、予めそれぞれの画像の数段階の解像度の異なる画像を作成する。次に、最も解像度の低い画像間において、おおまかなオプティカルフローを計算する。そして、この結果を参考にして、一段解像度の高い画像間においてより精密なオプティカルフローを計算する。この処理を最も解像度の高い画像間まで順次繰り返す。
【0021】
図4は原画像を、図3は図4の原画像より解像度の低い画像を、図2は図3の低解像度画像より解像度の低い画像を、図1は図2の低解像度画像より解像度の低い画像を、それぞれ示している。図1〜図4において、Sは、1つのパッチを示している。
【0022】
図1の画像(階層1の画像)、図2の画像(階層2の画像)、図3の画像(階層3の画像)および図4の画像(階層4の画像)の順番で段階的にオプティカルフローが求められる。図1〜図4において矢印は、パッチ毎に求められたオプティカルフローベクトルを示している。
【0023】
しかしながら、ここでの問題点は、実画像では、十分な模様(テクスチャ)を含む領域が少なく、信頼性のあるオプティカルフローが得られないことにある。
【0024】
ところで、複数の画像を貼り合わせて、視野が広く解像度の高い画像を継目なく合成する技術(イメージモザイキング)が従来から活発に研究されている。古典的な応用には、航空写真、衛星写真の合成がある。最近では、複数枚のデジタル画像から継目のないパノラマ画像を合成し、臨場感の高い仮想現実環境を構築する手法が注目されている。
【0025】
パノラマ画像を合成する技術としては、次の2つの方法が知られている。
第1の方法は、まず、カメラを並進移動させて複数枚の画像を予め撮像しておく。得られた複数枚の画像をパーソナルコンピュータによって同時にモニタに表示させる。2つの画像間において対応点をユーザが指定することにより、2つの画像が合成される。
【0026】
第1の方法では、カメラの運動が並進運動に限定される。また、第1の方法では、ユーザが対応点を指定する必要がある。
【0027】
第2の方法は、カメラを三脚に固定し、カメラの動きを水平面での回転だけに制限して、複数枚の画像を撮像する。得られた複数枚の画像を円筒面に投影して、合成する(USP 5,396,583 参照) 。
【0028】
第2の方法では、カメラの動きを水平面での回転だけに制限する必要がある。また、カメラの焦点距離または画角を測定する必要がある。
【0029】
【発明が解決しようとする課題】
この発明の目的は、奥行きの深いシーンを合成する際においても、精度の高い位置合わせが行える画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体を提供することにある。
【0030】
この発明の他の目的は、複数の画像から継目のないパノラマ画像を得ることができ、しかも複数の画像を撮像するためのカメラに自由な運動を許容し、焦点距離の測定が不要な画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体を提供することにある。
【0031】
【課題を解決するための手段】
この発明による画像合成方法は、第1画像、第1画像と重なり合う部分を有する第2画像、ならびに第1画像および第2画像の両方に重なり合う部分を有する第3画像を用いて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する画像合成方法であって、第1画像、第2画像および第3画像の重なり合う部分内において、複数の特徴点に対する3画像間の対応点の座標値を求めるとともに、第2画像と第3画像とが重なり合う部分内において、複数の特徴点に対する2画像間の対応点の座標値を求める第1ステップ、第1ステップで求められた複数組の3画像間の対応点の座標値に基づいて、3画像間の関係を示すtrifocalテンソルを算出する第2ステップ、第1ステップで求められた複数組の2画像間の対応点の座標値と、第2ステップで求められたtrifocalテンソルとに基づいて、上記2画像間の各対応点に対応する第1画像での座標値を求める第3ステップ、ならびに上記2画像間の各対応点に対応する第1画像での座標値に基づいて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する第4ステップを備えていることを特徴とする。
【0032】
第1ステップは、たとえば、第1画像と第2画像との重なり部を抽出するステップ、第2画像と第3画像との重なり部を抽出するステップ、第2画像における第1画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第1特徴点として抽出するステップ、第2画像における第3画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第2特徴点として抽出するステップ、第2画像上の各第1特徴点に対応する第1画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第1特徴点に対応する第1画像上の点の座標値を求めるステップ、第2画像上の各第2特徴点に対応する第3画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第2特徴点に対応する第3画像上の点の座標値を求めるステップ、ならびに第2画像上の各第1特徴点に対応する第1画像上の点の座標値と、第2画像上の各第2特徴点に対応する第3画像上の点の座標値とに基づいて、上記複数組の3画像間の対応点の座標値を求めるとともに、上記複数組の2画像間の対応点の座標値を求めるステップを備えている。
【0033】
第4ステップは、たとえば、第2画像内の第3画像と重なり合う部分および第3画像内の第2画像と重なり合う部分のうちから任意に選択された一方の部分の画像を第4画像とすると、第4画像を隣接する3つの特徴点を頂点とする3角パッチ毎に分割し、各3角パッチ毎に第4画像上の点に対応する第1画像上の位置を求めるための変換式を求めるステップ、第4画像における各3角パッチ内の各画素に対応する第1画像上の座標値を、当該3角パッチに対して算出された変換式を用いて求めるステップ、ならびに第4画像の各画素に対応する第1画像上の座標値を用いて、第4画像を第1画像に合成するステップを備えている。
【0034】
3角パッチ毎に求められる変換式としては、たとえば、平面射影変換行列が用いられる。平面射影変換行列は、たとえば、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示す基礎行列とに基づいて求められる。平面射影変換行列を、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示すエピポールの対応とに基づいて求めてもよい。
【0035】
3角パッチ毎に求められる変換式として、アフィン変換行列を用いてもよい。アフィン変換行列は、3角パッチにおける3つの頂点の対応点に基づいて求められる。
【0036】
この発明による画像合成装置は、第1画像、第1画像と重なり合う部分を有する第2画像、ならびに第1画像および第2画像の両方に重なり合う部分を有する第3画像を用いて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する画像合成装置であって、第1画像、第2画像および第3画像の重なり合う部分内において、複数の特徴点に対する3画像間の対応点の座標値を求めるとともに、第2画像と第3画像とが重なり合う部分内において、複数の特徴点に対する2画像間の対応点の座標値を求める第1手段、第1手段で求められた複数組の3画像間の対応点の座標値に基づいて、3画像間の関係を示すtrifocalテンソルを算出する第2手段、第1手段で求められた複数組の2画像間の対応点の座標値と、第2手段で求められたtrifocalテンソルとに基づいて、上記2画像間の各対応点に対応する第1画像での座標値を求める第3手段、ならびに上記2画像間の各対応点に対応する第1画像での座標値に基づいて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する第4手段を備えていることを特徴とする。
【0037】
第1手段としては、たとえば、第1画像と第2画像との重なり部を抽出する手段、第2画像と第3画像との重なり部を抽出する手段、第2画像における第1画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第1特徴点として抽出する手段、第2画像における第3画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第2特徴点として抽出する手段、第2画像上の各第1特徴点に対応する第1画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第1特徴点に対応する第1画像上の点の座標値を求める手段、第2画像上の各第2特徴点に対応する第3画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第2特徴点に対応する第3画像上の点の座標値を求める手段、ならびに第2画像上の各第1特徴点に対応する第1画像上の点の座標値と、第2画像上の各第2特徴点に対応する第3画像上の点の座標値とに基づいて、上記複数組の3画像間の対応点の座標値を求めるとともに、上記複数組の2画像間の対応点の座標値を求める手段を備えているものが用いられる。
【0038】
第4手段としては、たとえば、第2画像内の第3画像と重なり合う部分および第3画像内の第2画像と重なり合う部分のうちから任意に選択された一方の部分の画像を第4画像とすると、第4画像を隣接する3つの特徴点を頂点とする3角パッチ毎に分割し、各3角パッチ毎に第4画像上の点に対応する第1画像上の位置を求めるための変換式を求める手段、第4画像における各3角パッチ内の各画素に対応する第1画像上の座標値を、当該3角パッチに対して算出された変換式を用いて求める手段、ならびに第4画像の各画素に対応する第1画像上の座標値を用いて、第4画像を第1画像に合成する手段を備えているものが用いられる。
【0039】
3角パッチ毎に求められる変換式としては、たとえば、平面射影変換行列が用いられる。平面射影変換行列は、たとえば、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示す基礎行列とに基づいて求められる。平面射影変換行列を、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示すエピポールの対応とに基づいて求めてもよい。
【0040】
3角パッチ毎に求められる変換式として、アフィン変換行列を用いてもよい。アフィン変換行列は、3角パッチにおける3つの頂点の対応点に基づいて求められる。
【0041】
この発明による画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体は、第1画像、第1画像と重なり合う部分を有する第2画像、ならびに第1画像および第2画像の両方に重なり合う部分を有する第3画像を用いて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体であって、第1画像、第2画像および第3画像の重なり合う部分内において、複数の特徴点に対する3画像間の対応点の座標値を求めるとともに、第2画像と第3画像とが重なり合う部分内において、複数の特徴点に対する2画像間の対応点の座標値を求める第1ステップ、第1ステップで求められた複数組の3画像間の対応点の座標値に基づいて、3画像間の関係を示すtrifocalテンソルを算出する第2ステップ、第1ステップで求められた複数組の2画像間の対応点の座標値と、第2ステップで求められたtrifocalテンソルとに基づいて、上記2画像間の各対応点に対応する第1画像での座標値を求める第3ステップ、ならびに上記2画像間の各対応点に対応する第1画像での座標値に基づいて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する第4ステップを備えた画像合成プログラムを記録していることを特徴とする。
【0042】
第1ステップは、たとえば、第1画像と第2画像との重なり部を抽出するステップ、第2画像と第3画像との重なり部を抽出するステップ、第2画像における第1画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第1特徴点として抽出するステップ、第2画像における第3画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第2特徴点として抽出するステップ、第2画像上の各第1特徴点に対応する第1画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第1特徴点に対応する第1画像上の点の座標値を求めるステップ、第2画像上の各第2特徴点に対応する第3画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第2特徴点に対応する第3画像上の点の座標値を求めるステップ、ならびに第2画像上の各第1特徴点に対応する第1画像上の点の座標値と、第2画像上の各第2特徴点に対応する第3画像上の点の座標値とに基づいて、上記複数組の3画像間の対応点の座標値を求めるとともに、上記複数組の2画像間の対応点の座標値を求めるステップを備えている。
【0043】
第4ステップは、たとえば、第2画像内の第3画像と重なり合う部分および第3画像内の第2画像と重なり合う部分のうちから任意に選択された一方の部分の画像を第4画像とすると、第4画像を隣接する3つの特徴点を頂点とする3角パッチ毎に分割し、各3角パッチ毎に第4画像上の点に対応する第1画像上の位置を求めるための変換式を求めるステップ、第4画像における各3角パッチ内の各画素に対応する第1画像上の座標値を、当該3角パッチに対して算出された変換式を用いて求めるステップ、ならびに第4画像の各画素に対応する第1画像上の座標値を用いて、第4画像を第1画像に合成するステップを備えている。
【0044】
3角パッチ毎に求められる変換式としては、たとえば、平面射影変換行列が用いられる。平面射影変換行列は、たとえば、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示す基礎行列とに基づいて求められる。平面射影変換行列を、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示すエピポールの対応とに基づいて求めてもよい。
【0045】
3角パッチ毎に求められる変換式として、アフィン変換行列を用いてもよい。アフィン変換行列は、3角パッチにおける3つの頂点の対応点に基づいて求められる。
【0046】
【発明の実施の形態】
以下、この発明をパノラマ画像合成装置に適用した場合の実施の形態について説明する。
【0047】
パノラマ画像合成装置を説明する前に、パノラマ画像合成装置において採用されるオプティカルフロー推定方法について説明しておく。
【0048】
〔1〕オプティカルフロー推定方法についての説明。
この実施例で採用されるオプティカルフロー推定方法は、ピラミッド階層型に数段回の解像度の異なる画像を作成して、オプティカルフローを段階的に計算する階層的推定を前提としている。オプティカルフローの計算方法は、Lucas-Kanade法等の勾配法に従う。つまり、階層構造化した勾配法によるオプティカルフロー推定法を前提としている。ここでは、勾配法としてLucas-Kanade法が用いられている。
【0049】
この実施例で採用されるオプティカルフロー推定方法の特徴は、階層構造化したLucas-Kanade法によるオプティカルフロー推定法の各段階において得られたオプティカルフローを、膨張処理によって補完することにある。以下、これについて詳しく説明する。
【0050】
Lucas-Kanade法の長所の一つは、追跡結果が信頼性を持つことである。Tomasiと Kanade とは、ある領域の追跡可能性が、以下のように微分画像から算出できることを示した(C.Tomasi and T.Kanade,"Shape and Motion from Image Streams: a Factorization method-Part 3 Detection and Tracking of Point Features ,"CMU-CS-91-132, Carnegie Mellon University, 1991.) 。
【0051】
ある領域画像ωの垂直・水平方向の微分の2乗を要素に持つ次式7の2×2の係数行列Gから、その固有値を計算することで、その領域の追跡可能性を決定することができる。
【0052】
【数7】
【0053】
この行列Gの固有値が両方とも大きい場合には、その領域は直交方向に変化を持ち、一意の位置決めが可能である。従って、小さい方の固有値λmin と、追跡後の領域間の濃淡残差Eから、追跡結果の信頼度γを次式8によって得ることができる。
【0054】
【数8】
【0055】
本発明者らは、オプティカルフローの同一階層内で信頼度の高い結果を用いて、信頼度の低い領域を補間する方法を開発した。これは、一段階粗い階層での結果を、追跡の初期値だけに用いて、着目している現段階の階層の結果には何も利用しない。代わりに、テクスチャの少ない領域のオプティカルフローはその周囲のオプティカルフローに近い値を持つと仮定し、モルフォロジー処理によりフロー場を補完するものである。
【0056】
図5にフローベクトルの膨張処理の様子を示す。
【0057】
左図は、フローベクトルの信頼度のマップを濃淡で表したものである。ここで、黒ければ黒い程信頼度が高いとする。
【0058】
まず、得られたフローをしきい値処理する。白い部分は、結果の信頼度が低いために、しきい値処理されたものである。
【0059】
次に、2値画像でのモルフォロジー演算による穴埋め処理を模して、フロー場において結果の膨張処理を次のように行う。ある領域i,jのフローベクトルu(i,j)は、その4近傍のフローベクトルから信頼度γに応じて重み付けを行って次式9のように計算できる。
【0060】
【数9】
【0061】
この処理を、しきい値処理されたすべての信頼度の低い領域が埋まるまで、繰り返す。この補完処理を、各階層において行う。なお、ある領域i,jのフローベクトルu(i,j)を、その8近傍のフローベクトルから信頼度γに応じて重み付けを行って算出するようにしてもよい。
【0062】
図6(a)は、ある階層の画像に対してしきい値処理されたオプティカルフローを示し、図6(b)は補完後のオプティカルフローを示している。図6(a)において、矢印はしきい値処理によって信頼度が高いと判定されたオプティカルフローベクトルであり、×印は信頼度が低いとされた部分を示している。
【0063】
〔2〕パノラマ画像合成装置の説明
【0064】
以下、図7に示すように、互いに重なり合う部分を有する3枚の画像A1、A2、A3を用いて、第2画像A2と第3画像A3とが重なり合っている部分を、第1画像A1に合成するためのパノラマ画像合成装置について説明する。
【0065】
第2画像A2と第3画像A3とが重なり合っている部分を、第1画像A1に合成する際には、第2画像A2における第3画像A3と重なっている部分を第1画像に合成してもよいし、第3画像A3における第2画像A2と重なっている部分を第1画像に合成してもよいが、ここでは、第2画像A2における第3画像A3と重なっている部分を第1画像に合成する場合について説明する。
【0066】
図8は、パノラマ画像合成装置の構成を示している。
【0067】
パーソナルコンピュータ10には、ディスプレイ21、マウス22およびキーボード23が接続されている。パーソナルコンピュータ10は、CPU11、メモリ12、ハードディスク13、CD−ROMのようなリムーバブルディスクのドライブ(ディスクドライブ)14を備えている。
【0068】
ハードディスク13には、OS(オペレーティングシステム)等の他、パノラマ画像合成プログラムが格納されている。パノラマ画像合成プログラムは、それが格納されたCD−ROM20を用いて、ハードディスク13にインストールされる。また、ハードディスク13には、デジタルカメラによって撮像された複数の画像が予め格納されているものとする。
【0069】
図9は、パノラマ画像合成ソフトが起動せしめられた場合にCPU11によって行われるパノラマ画像合成処理手順を示している。
【0070】
(I) まず、ユーザによって指定された3枚の画像(第1画像A1、第2画像A2及び第3画像A3)がメモリ12に読み込まれる(ステップ1)。
【0071】
(II)次に、第1画像A1と第2画像A2との重なり部および第2画像A2と第3画像A3との重なり部の抽出処理が行われる(ステップ2)。この重なり部の抽出処理は、たとえば、SSD法(Sum of Squared Difference)、正規化相互相関法に基づいて行われる。
【0072】
(a)SSD法の説明
SSD法では、まず、重なり部を抽出すべき2枚の画像それぞれについて、原画像より解像度の低い画像I1 ,I2 が生成される。2枚の低解像度画像I1 ,I2 の重なり部分ω(サイズ:M×N)が、次式10に示すように画素あたりの2乗誤差Eを用いて求められる。画像間の移動量(d)が可能な範囲で変化せしめられ、Eが最も小さい移動量(d)から、重なり部が抽出される。
【0073】
【数10】
【0074】
(b)正規化相互相関法の説明
正規化相互相関法では、まず、重なり部を抽出すべき2枚の画像それぞれについて、原画像より解像度の低い画像I1 ,I2 が生成される。2枚の低解像度画像I1 ,I2 の重なり部分ω(サイズ:M×N)が、次式11に示すように正規化相互相関係数Cを用いて求められる。画像間の移動量(d)が可能な範囲で変化せしめられ、Cが最も大きな移動量(d)から、重なり部が抽出される。
【0075】
【数11】
【0076】
式11において、I1  ̄、I2  ̄は、第1画像を固定させ、第2画像をdだけ移動させたときの、両画像の重なり部における各画像それぞれの濃淡値の平均である。また、σ1 、σ2 は、第1画像I1 を固定させ、第2画像I2 をdだけ移動させたときの、両画像の重なり部における各画像それぞれの濃淡値の分散である。
【0077】
(III) 次に、特徴点抽出が行われる(ステップ3)。つまり、まず、第2画像A2における第1画像A1との重なり部分から、追跡に有効な複数の部分画像(矩形領域)が第1特徴点として抽出される。ただし、各特徴点は互いに重ならないように抽出される。具体的には、上述した固有値λmin (式8参照)の高い部分が特徴点として抽出される。
【0078】
次に、第2画像A2における第3画像A3との重なり部分から、追跡に有効な複数の部分画像(矩形領域)が第2特徴点として抽出される。この際、第2画像A2における第1画像A1との重なり部分から抽出された第1特徴点のうち、第2画像A2と第3画像A3とが重なっている部分に存在する第1特徴点は、第2特徴点としても用いられる。
【0079】
(IV)次に、特徴点追跡処理が行われる(ステップ4)。つまり、抽出された第2画像A2上の第1特徴点に対する第1画像A1上の位置が追跡されるとともに、抽出された第2画像A2上の第2特徴点に対する第3画像A3上の位置が追跡される。
【0080】
具体的には、まず、〔1〕で説明したオプティカルフロー推定方法で、適当なサイズ(例えば、13×13)のパッチ毎のオプティカルフローベクトルが求められる。第2画像A2上の第1特徴点に対応する第1画像A1上の位置は、第2画像A2上の第1特徴点の4近傍のパッチのフローベクトルから線形補間により画素単位以下で求められる。同様に、第2画像A2上の第2特徴点に対応する第3画像A3上の位置は、第2画像A2上の第2特徴点の4近傍のパッチのフローベクトルから線形補間により画素単位以下で求められる。
【0081】
これにより、第1画像A1と第2画像A2との重なり部において、両画像の対応点の座標が得られる。また、第2画像A2と第3画像A3との重なり部において、両画像の対応点の座標が得られる。この結果、第1画像A1、第2画像A2および第3画像A3の重なり部において、3つの画像の対応点の座標が得られる。
【0082】
(V) 次に、trifocalテンソルの算出処理が行なわれる(ステップ5)。まず、trifocalテンソルの算出方法の概要について説明する。
【0083】
shashua は、静止物体を異なる3視点から撮像した透視投影の3画像ψ1 、ψ2 およびψ3 の間には、次式12のような線形な関係があることを示した(A.Shashua,"Algebraic functions for recognition," IEEE PAMI, Vol.17, No.8, pp.779-789, 1995参照) 。この関係は、Trilinearityと呼ばれている。
【0084】
【数12】
【0085】
すなわち、ある3次元空間上の点Xを撮像した各画像での座標を(x,y)∈ψ1 、(x’,y’)∈ψ2 および(x”,y”)∈ψ3 とすると、これらの座標値は、数式13〜数式16を満足する。
【0086】
【数13】
【0087】
【数14】
【0088】
【数15】
【0089】
【数16】
【0090】
ただし、係数αj は全ての点で固定であり、これらの比は唯一に定まる。これらの係数は、共通して観察している特徴点の対応関係から導出することが可能である。そして、この関係は、テンソルを用いて、コンパクトに記述され、trifocalテンソルと呼ばれる(R.Hartley," Lines and points in three views and the trifocal tensor, "Int'l J. Computer Vision, vol.22, no.2, pp. 125-140,
1997. 参照)。
【0091】
このように、Trilinearityを用いると、ある3次元空間上の点が2視点から撮像でき、その点の各画像での座標値がわかれば、もう一方の視点から観察した場合の座標を算出できる。すなわち、2画像の点の座標をそれぞれu’、u”およびtrifocalテンソルをTとすると、もう一つの画像での座標uは、次式17によって求められる。
【0092】
【数17】
【0093】
これを用いると、図10に示すように、視点C1 から観察できない部分であっても、他の2視点C2 およびC3 から観察され、それらの各画像での座標値が求まるなら、視点C1 から観察されたときの座標を計算することができる。この操作を他の画素についても繰り返すと、図10の点線のように仮想的にC1 の撮像面を拡大することができる。
【0094】
次に、trifocalテンソルの算出方法をより具体的に説明する。
trifocalテンソルは、第1画像A1、第2画像A2および第3画像A3が互いに重なる部分における3画像での特徴点(対応点)の組から算出される。そこで、まず、第1画像A1、第2画像A2および第3画像A3が互いに重なる部分における3画像の対応点の座標値を、数値演算を安定化させるために正規化する。そして、正規化された座標値と、数式13〜16とに基づいて、数式13〜16中の各係数αj (trifocalテンソル)を求める。
【0095】
trifocalテンソルは、少なくとも7組の特徴点の対応があれば、解くことができる。しかしながら、実画像では誤差を含むので、より多くの対応点の組を用いて最小2乗的に解くのが一般的である。ここでの問題は、特徴点の対応づけの正確さが完全でないことである。
【0096】
全ての特徴点を自動に正確に対応づけることは困難である。そこで、ロバスト推定を用いてこの問題を解決する。
【0097】
ロバスト推定法は、次の2つに分類できる。第1は、M推定と呼ばれ、誤差の大きさに従って重みを決定する重み付き最小2乗法である。第2は、ランダムサブサンプリングを繰り返し、外れ値を除去しながら、あらかじめ指定したコストが減少した場合に解を更新する方法である。
【0098】
何れのロバスト推定法を用いてtrifocalテンソルを算出してもよい。ここでは、ランダムサンプリングを繰り返す方法をさらに改良した方法を用いることにする。ランダムサンプリングを繰り返す方法では、中間値を最小化するように係数を更新するLMS(Least Median of Squares) が代表的であるが、ここでは、RANSAC(Randam Sample Consensus) と呼ばれる方法を改良して用いる。
【0099】
RANSACについては、M.A.Fishler and R.C.Bolles,"Randam sample consensus: A pradigm for model fitting with applications to image nalysis and automated cartography," Communications of the ACM, vol.24, no.6, pp.381-395.1981. を参照のこと。
【0100】
RANSACは、まず、サンプルの一部Jを用いて最小2乗法で係数αJ を求める。そして、予め設定したしきい値θ(たとえば3画素)以上に誤差がある対応点の組を外れ値(誤対応)として、しきい値以下の対応点の組の個数を求める。この個数が前の結果よりも多くなった場合、係数(trifocalテンソル)を更新する。ここで、しきい値以下の対応点の組の個数が同じ場合でも、しきい値以下の対応点の組の2乗誤差が少なくなった場合は、更新するように改良する。
【0101】
(VI)このようにして、trifocalテンソル(係数αj )が求められると、図11に示すように、第2画像A2のうち、第3画像A3と重なっている部分を、特徴点を頂点とする3角パッチに分割する(ステップ6)。
【0102】
(VII) 次に、第2画像A2上の3角パッチの各頂点それぞれに対応する、第2画像A2と第3画像A3の座標の組と、trifocalテンソルとに基づいて、第2画像A2の3角パッチの各頂点(特徴点)に対応する第1画像A1上の点の座標を求める(ステップ7)。
【0103】
つまり、上記ステップ5で求められたtrifocalテンソル(係数αj )を、数式13、14に代入することによって、第1画像A1、第2画像A2および第3画像A3との間の対応関係を示す関係式を得る。
【0104】
得られた関係式に、第2画像A2上の3角パッチの各頂点それぞれに対応する、第2画像A2と第3画像A3の座標の組をそれぞれ代入していくことにより、第2画像A2の3角パッチの各頂点(特徴点)に対応する第1画像A1上の座標を求める。
【0105】
(VIII)次に、第2画像A2上の各3角パッチ毎に、3角パッチ内の画素を第1画像A1に変換するための平面射影変換行列を算出する(ステップ8)。
【0106】
まず、シーンを単一平面と仮定した場合の平面射影変換行列の求め方について述べる。
【0107】
図12に示すように3次元空間中の単一平面の点Mを2つの異なる視点C1、C2から観察した時、これらの各画像面での座標m、m’の間の変換は、線形であることが射影幾何学において知られており、homography と呼ばれている(O.Faugeras,"Three-Dimentional Computer Vision: A Geometric Viewpoint",MIT Press, 1993.)。
【0108】
すなわち、画像座標を斉次座標で表した第2画像の点m’=(x’, y’, 1)t は、第1画像上で対応する点m=(x ,y, 1)t を持ち、それらの関係は次式18、より詳しくは次式19で定義される。
【0109】
【数18】
【0110】
【数19】
【0111】
この変換行列は、次式20のように書き換えることができる。
【0112】
【数20】
【0113】
また、式20は、次式21のように書き換えることができる。
【0114】
【数21】
【0115】
平面射影変換行列Hの未知パラメータ数は、8個であり、一組の対応点は、数式21に示すように、2つの式を与える。したがって、4組以上の対応点があれば、最小2乗法によりこの行列Hを求めることができる。
【0116】
上記は、シーンを単一平面と仮定した場合の平面射影変換行列Hの求め方について説明したが、室内などのシーンの場合には、シーンを単一平面で近似するには誤差が大きすぎる。なぜなら、カメラから対象物までの距離に対して、シーンの奥行きの方が深いからである。この結果、第1画像と第2画像とを合成した場合に、両画像の重なり部分において、重なるべき線が2重になったり、ぼけたりするという問題がある。
【0117】
そこで、この実施の形態では、奥行きの深いシーンを合成する場合に適した平面射影変換行列Hを獲得するために、図11を用いて既に説明したように、第2画像A2内の第3画像A3と重なる部分を、特徴点に基づいて3角パッチに分割し、各パッチ毎に平面射影変換行列を算出するようにした。
【0118】
各パッチ毎に平面射影変換行列を算出するには、エピポーラ拘束条件が利用される。各パッチ毎に平面射影変換行列を算出方法には、エピポーラ拘束条件を示す基礎行列を利用する方法と、エピポーラ拘束条件を示すエピポール(エピ極)の対応を利用する方法とがある。
【0119】
(a)基礎行列を利用する方法
カメラ間のエピポーラ拘束条件を示す基礎行列を利用する方法について説明する。平面射影変換行列の自由度は8であるので、4組の対応点の組が必要である。しかし、3角パッチの頂点は3つしかないので、一般では解けない。
【0120】
そこで、本発明者は、カメラ間のエピポーラ拘束を示す基礎行列Fと、3組の対応点を用いて、各3角パッチ毎の平面射影変換行列を算出することを開発した。
【0121】
以下、3角パッチ毎の平面射影変換行列を算出する方法について詳述する。
【0122】
図13は、エピポーラ拘束条件を示している。
【0123】
3次元の空間の点Mを異なる視点C1 およびC2 から観察したとき、それぞれのカメラの撮像面S1 、S2 上の座標m1 およびm2 は、M、C1 およびC2 で構成される平面上にある必要がある。これは、エピポーラ拘束条件と呼ばれる。また、視点C1 とC2 とを結ぶ直線と、各撮像面S1 、S2 との交点はe1 、e2 は、エピポールと呼ばれる。このエピポーラ拘束条件を示す基礎行列Fおよび対応するエピポールe1 、e2 は、2画像間で7組以上の対応点があれば、計算することができることが知られている。
【0124】
2画像間のエピポーラ拘束条件は、基礎行列Fと、対応点m、m’を用いて次式22で表される。
【0125】
【数22】
【0126】
この基礎行列Fを7組以上、たとえば、8組の対応点から求める。基礎行列Fの求め方は、良く知られているのでその説明を省略する(たとえば、1998年4月20日 共立出版発行の「3次元ビジョン」参照)。なお、最近では、キャリブレーションされていないステレオカメラの基礎行列を、対応づけられた特徴点対から、良好に獲得する手法が提案されているので、その手法を用いることが好ましい(Z.Zhang, "Determining the Epipolar Geometry and its Uncertainty; A Review", Int. Journal of Comuter Vision, Vol.27, No.2, pp. 161-195.,1988 ) 。
【0127】
上記式18に示すように、m=Hm’であるので、式18を式22に代入することにより、次式23が得られる。
【0128】
【数23】
【0129】
上記式23における行列HT Fは、ベクトルm’の外積であることを表すので、次式24に示すように非対称行列である必要がある。
【0130】
【数24】
【0131】
3組の対応点に基づいて上記式21から6個の方程式が得られる。また、上記式24から6個の方程式が得られる。つまり、12個の方程式が得られる。平面射影変換行列Hの未知数は、8個であるので、これらを連立させた最小2乗法により、3角パッチ毎の平面射影変換行列Hを算出することができる。
【0132】
つまり、3組の対応点を{(m1 ,m1 ’)、(m2 ,m2 ’)、(m3 ,m3 ’)とすると、上記式21に基づいて、次式25で表されるように、6個の方程式が得られる。
【0133】
【数25】
【0134】
上記式24は、次式26で表される。
【0135】
【数26】
【0136】
対角要素は0であるという条件から、次式27で表されるように3つの方程式が得られる。
【0137】
【数27】
【0138】
また、上記式26における非対称行列の−a1+a1=0であるという条件から、次式28で表されるように1つの方程式が得られる。
【0139】
【数28】
【0140】
また、上記式26における非対称行列のa2−a2=0であるという条件から、次式29で表されるように1つの方程式が得られる。
【0141】
【数29】
【0142】
また、上記式26における非対称行列の−a3+a3=0であるという条件から、次式30で表されるように1つの方程式が得られる。
【0143】
【数30】
【0144】
上記式27〜30から、次式31で表されるように、6個の方程式が得られる。
【0145】
【数31】
【0146】
上記式25と上記式31とを連立させると、次式32で表されるように、12個の方程式が得られる。
【0147】
【数32】
【0148】
平面射影変換行列Hの未知数は8個であるので、最小2乗法を用いて、3角パッチに対する平面射影変換行列Hが算出される。
【0149】
(b)エピポールの対応を利用する方法
エピポールの対応を利用する方法について説明する。エピポールの対応は、基礎行列Fから求められる。この方法は、2画像間における3角パッチの3頂点の対応点の組と、2画像間のエピポールの対応点から、3角パッチ毎の平面射影行列を求める方法である。
【0150】
図14は、N、M、Pを頂点とする3角パッチと、エピポールe1 、e2 とを示している。
【0151】
エピポールe1 、e2 は、3角パッチの位置および姿勢にかかわらず、常に同じである。2画像間における3角パッチの3頂点の対応点の組(3組の対応点)と、2画像間におけるエピポールの対応点(1組の対応点)とから合計4組の対応点が求まる。
【0152】
この4組の対応点(xi ,yi )、(xi ’,yi ’)(i=1,2,3,e)と、上記式21とに基づいて、次式33で表されるように、8個の方程式が得られる。
【0153】
【数33】
【0154】
平面射影行列の要素(h1 〜h8 )は8つであるので、8個の方程式から、これらの要素h1 〜h8 が求められる。
【0155】
(IX) 求められた各3パッチ毎の平面射影変換行列に基づいて、第2画像A2の各3角パッチ内の画像を第1画像に合成する(ステップ9)。
【0156】
つまり、第2画像A2における各3角パッチ内の各画素に対応する第1画像上の座標値が、当該3角パッチに対して算出された平面射影変換行列Hを用いて求められる。そして、第2画像A2の各3角パッチ内の各画素に対応する第1画像上の座標値を用いて、第2画像A2の各3角パッチ内の画像が第1画像に合成される。
【0157】
(X) この後、第1画像A1と第2画像A2とが互いに重なり合っている部分(以下、重合部という)に対して画素値調合が行われる(ステップ10)。つまり、第1画像A1と第2画像A2とは、撮影条件が同じでないので、一方に比べて他方が暗い場合がある。そこで、両画像の重合部において、両画像の画素値が調合せしめられる。
【0158】
画素値調合方法の一例について説明する。図15は、ステップ10において生成された画像を示している。図15の斜線部分は、第1画像A1と第2画像A2とが重なり合っている部分(重合部)である。図15において、G1は第1画像A1の重心位置を、G2は第3画像A2の重心位置をそれぞれ示している。
【0159】
重合部内の任意の点Pの第1画像A1の画素値をI1 とし、点Pの第2画像A2の画素値をI2 とし、点Pと第1画像A1の重心位置G1 との距離をd1 とし、点Pと第2画像A2の重心位置G2 との距離をd2 とすると、点Pの調合後の画素値Blenは、次式34で表される。
【0160】
【数34】
【0161】
上記実施の形態では、第2画像A2の各3角パッチ毎に平面射影変換行列Hを求め、第2画像A2の各3角パッチ内の各画素に対応する第1画像A2上の座標値を、当該3角パッチに対して算出された平面射影変換行列Hを用いて求めているが、各3角パッチ毎にアフィン変換行列Aを求め、第2画像A2における各3角パッチ内の各画素に対応する第1画像A1上の座標値を、当該3角パッチに対して算出されたアフィン変換行列Aを用いて求めるようにしてもよい。
【0162】
アフィン変換行列Aは、次式35で表される。アフィン変換行列Aの要素h1 〜h6 は6つであるので、2画像間における3角パッチの3頂点の対応点のみから、要素h1 〜h6 を算出することができる。
【0163】
【数35】
【0164】
アフィン変換行列Aの要素h1 〜h6 と、2画像間における3角パッチの3頂点の対応点(xi ,yi )、(xi ’,yi ’)(i=1,2,3)との関係は、次式36で表される。
【0165】
【数36】
【0166】
【発明の効果】
この発明によれば、奥行きの深いシーンを合成する際においても、精度の高い位置合わせが行えるようになる。
【0167】
この発明によれば、複数の画像から継目のないパノラマ画像を得ることができ、しかも複数の画像を撮像するためのカメラに自由な運動を許容し、焦点距離の測定が不要となる。
【図面の簡単な説明】
【図1】図1は、階層的推定法を説明するための図であって、階層1の画像を示す模式図である。
【図2】図2は、階層的推定法を説明するための図であって、階層2の画像を示す模式図である。
【図3】図3は、階層的推定法を説明するための図であって、階層3の画像を示す模式図である。
【図4】図4は、階層的推定法を説明するための図であって、階層4の画像を示す模式図である。
【図5】図5は、実施例で採用されたオプティカルフロー推定方法において行われる膨張処理を説明するための模式図である。
【図6】図6(a)は、ある階層の画像に対してしきい値処理されたオプティカルフローの例を示す模式図であり、図6(b)は、補完後のオプティカルフローを示す模式図である。
【図7】図7は、パノラマ画像合成に用いられる3枚の画像を示す模式図である。
【図8】図8は、パノラマ画像合成装置の構成を示すブロック図である。
【図9】図9は、パノラマ画像合成処理手順を示すフローチャートである。
【図10】図10は、Trilinearityを用いたパノラマ画像合成方法を示す模式図である。
【図11】図11は、第2画像のうち、第3画像とのみ重なり合う部分を3角パッチによって分割した様子を示す模式図である。
【図12】図12は、平面射影変換行列を説明するための説明図である。
【図13】図13は、エピポーラ拘束条件を示す模式図である。
【図14】図14は、N、M、Pを頂点とする3角パッチと、エピポールe1 、e2 とを示す模式図である。
【図15】図15は、画素値調合方法の一例を説明するための説明図である。
【符号の説明】
10 パーソナルコンピュータ
11 CPU
12 メモリ
13 ハードディスク
14 ディスクドライブ
【発明の属する技術分野】
この発明は、画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体に関する。
【0002】
【従来の技術】
2枚の画像からオプティカルフローを計算し、得られたオプティカルフローに基づいて、2枚の画像間での位置合わせを行う技術が知られている。従来のオプテカルフローの算出方法について説明する。
【0003】
(1)Lucas-Kanade法
従来から、動画像における運動物体の見かけの速度場(オプティカルフロー)を計算する手法が数多く提案されている。中でも局所勾配法であるLucas-Kanade法は、最も良い手法の一つである。その理由は、処理が高速、実装が容易、結果が信頼度を持つことである。
【0004】
Lucas-Kanade法の詳細については、文献: B.Lucas and T.Kanade,"An Iterative Image Registration Technique with an Application to Stereo Vision,"In Seventh International Joint Conference on Artificial Intelligence(IJCAI-81), pp. 674-979, 1981を参照のこと。
【0005】
以下に、Lucas-Kanade法の概要を述べる。
ある時刻tの画像座標p=(x,y)の濃淡パターンI(x,y,t)が、ある微小時間後(δt)に座標(x+δx,y+δy)に、その濃淡分布を一定に保ったまま移動した時、次のオプティカルフロー拘束式1が成り立つ。
【0006】
【数1】
【0007】
2次元画像でオプティカルフロー{v=(δx/δt,δy/δt)=(u,v)}を計算するには、未知パラメータ数が2個であるので、もう一個拘束式が必要である。Lucas とKanade( 金出) は、同一物体の局所領域では、同一のオプティカルフローを持つと仮定した。
【0008】
例えば、画像上の局所領域ω内で、オプティカルフローが一定であるとすると、最小化したい濃淡パターンの二乗誤差Eは、
I0 (p)=I(x,y,t),
I1 (p+v)=I(x+u,y+v,t+δt)
と書き改めると、次式2で定義できる。
【0009】
【数2】
【0010】
ここで、vが微少な場合には、テーラー展開の2次以上の項を無視できるので、次式3の関係が成り立つ。
【0011】
【数3】
【0012】
ここで、g(p)は、I1 (p)の一次微分である。
【0013】
誤差Eが最小になるのは、Eのvに対する微分値が0の時であるので、次式4の関係が成り立つ。
【0014】
【数4】
【0015】
故にオプティカルフローvは次式5で求められる。
【0016】
【数5】
【0017】
更に、次式6に示すように、ニュートン・ラフソン的な反復演算によって精度良く求めることができる。
【0018】
【数6】
【0019】
(2)階層的推定法
Lucas-Kanade法を含む勾配法の最も大きな問題点は、良好な初期値が必要なために、大きな動きに対しては適用できないことである。そこで、従来からピラミッド階層構造型に数段回の解像度の異なる画像を作成して解決する方法が提案されている。
【0020】
これは、まず、2枚の連続した画像から、予めそれぞれの画像の数段階の解像度の異なる画像を作成する。次に、最も解像度の低い画像間において、おおまかなオプティカルフローを計算する。そして、この結果を参考にして、一段解像度の高い画像間においてより精密なオプティカルフローを計算する。この処理を最も解像度の高い画像間まで順次繰り返す。
【0021】
図4は原画像を、図3は図4の原画像より解像度の低い画像を、図2は図3の低解像度画像より解像度の低い画像を、図1は図2の低解像度画像より解像度の低い画像を、それぞれ示している。図1〜図4において、Sは、1つのパッチを示している。
【0022】
図1の画像(階層1の画像)、図2の画像(階層2の画像)、図3の画像(階層3の画像)および図4の画像(階層4の画像)の順番で段階的にオプティカルフローが求められる。図1〜図4において矢印は、パッチ毎に求められたオプティカルフローベクトルを示している。
【0023】
しかしながら、ここでの問題点は、実画像では、十分な模様(テクスチャ)を含む領域が少なく、信頼性のあるオプティカルフローが得られないことにある。
【0024】
ところで、複数の画像を貼り合わせて、視野が広く解像度の高い画像を継目なく合成する技術(イメージモザイキング)が従来から活発に研究されている。古典的な応用には、航空写真、衛星写真の合成がある。最近では、複数枚のデジタル画像から継目のないパノラマ画像を合成し、臨場感の高い仮想現実環境を構築する手法が注目されている。
【0025】
パノラマ画像を合成する技術としては、次の2つの方法が知られている。
第1の方法は、まず、カメラを並進移動させて複数枚の画像を予め撮像しておく。得られた複数枚の画像をパーソナルコンピュータによって同時にモニタに表示させる。2つの画像間において対応点をユーザが指定することにより、2つの画像が合成される。
【0026】
第1の方法では、カメラの運動が並進運動に限定される。また、第1の方法では、ユーザが対応点を指定する必要がある。
【0027】
第2の方法は、カメラを三脚に固定し、カメラの動きを水平面での回転だけに制限して、複数枚の画像を撮像する。得られた複数枚の画像を円筒面に投影して、合成する(USP 5,396,583 参照) 。
【0028】
第2の方法では、カメラの動きを水平面での回転だけに制限する必要がある。また、カメラの焦点距離または画角を測定する必要がある。
【0029】
【発明が解決しようとする課題】
この発明の目的は、奥行きの深いシーンを合成する際においても、精度の高い位置合わせが行える画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体を提供することにある。
【0030】
この発明の他の目的は、複数の画像から継目のないパノラマ画像を得ることができ、しかも複数の画像を撮像するためのカメラに自由な運動を許容し、焦点距離の測定が不要な画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体を提供することにある。
【0031】
【課題を解決するための手段】
この発明による画像合成方法は、第1画像、第1画像と重なり合う部分を有する第2画像、ならびに第1画像および第2画像の両方に重なり合う部分を有する第3画像を用いて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する画像合成方法であって、第1画像、第2画像および第3画像の重なり合う部分内において、複数の特徴点に対する3画像間の対応点の座標値を求めるとともに、第2画像と第3画像とが重なり合う部分内において、複数の特徴点に対する2画像間の対応点の座標値を求める第1ステップ、第1ステップで求められた複数組の3画像間の対応点の座標値に基づいて、3画像間の関係を示すtrifocalテンソルを算出する第2ステップ、第1ステップで求められた複数組の2画像間の対応点の座標値と、第2ステップで求められたtrifocalテンソルとに基づいて、上記2画像間の各対応点に対応する第1画像での座標値を求める第3ステップ、ならびに上記2画像間の各対応点に対応する第1画像での座標値に基づいて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する第4ステップを備えていることを特徴とする。
【0032】
第1ステップは、たとえば、第1画像と第2画像との重なり部を抽出するステップ、第2画像と第3画像との重なり部を抽出するステップ、第2画像における第1画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第1特徴点として抽出するステップ、第2画像における第3画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第2特徴点として抽出するステップ、第2画像上の各第1特徴点に対応する第1画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第1特徴点に対応する第1画像上の点の座標値を求めるステップ、第2画像上の各第2特徴点に対応する第3画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第2特徴点に対応する第3画像上の点の座標値を求めるステップ、ならびに第2画像上の各第1特徴点に対応する第1画像上の点の座標値と、第2画像上の各第2特徴点に対応する第3画像上の点の座標値とに基づいて、上記複数組の3画像間の対応点の座標値を求めるとともに、上記複数組の2画像間の対応点の座標値を求めるステップを備えている。
【0033】
第4ステップは、たとえば、第2画像内の第3画像と重なり合う部分および第3画像内の第2画像と重なり合う部分のうちから任意に選択された一方の部分の画像を第4画像とすると、第4画像を隣接する3つの特徴点を頂点とする3角パッチ毎に分割し、各3角パッチ毎に第4画像上の点に対応する第1画像上の位置を求めるための変換式を求めるステップ、第4画像における各3角パッチ内の各画素に対応する第1画像上の座標値を、当該3角パッチに対して算出された変換式を用いて求めるステップ、ならびに第4画像の各画素に対応する第1画像上の座標値を用いて、第4画像を第1画像に合成するステップを備えている。
【0034】
3角パッチ毎に求められる変換式としては、たとえば、平面射影変換行列が用いられる。平面射影変換行列は、たとえば、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示す基礎行列とに基づいて求められる。平面射影変換行列を、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示すエピポールの対応とに基づいて求めてもよい。
【0035】
3角パッチ毎に求められる変換式として、アフィン変換行列を用いてもよい。アフィン変換行列は、3角パッチにおける3つの頂点の対応点に基づいて求められる。
【0036】
この発明による画像合成装置は、第1画像、第1画像と重なり合う部分を有する第2画像、ならびに第1画像および第2画像の両方に重なり合う部分を有する第3画像を用いて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する画像合成装置であって、第1画像、第2画像および第3画像の重なり合う部分内において、複数の特徴点に対する3画像間の対応点の座標値を求めるとともに、第2画像と第3画像とが重なり合う部分内において、複数の特徴点に対する2画像間の対応点の座標値を求める第1手段、第1手段で求められた複数組の3画像間の対応点の座標値に基づいて、3画像間の関係を示すtrifocalテンソルを算出する第2手段、第1手段で求められた複数組の2画像間の対応点の座標値と、第2手段で求められたtrifocalテンソルとに基づいて、上記2画像間の各対応点に対応する第1画像での座標値を求める第3手段、ならびに上記2画像間の各対応点に対応する第1画像での座標値に基づいて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する第4手段を備えていることを特徴とする。
【0037】
第1手段としては、たとえば、第1画像と第2画像との重なり部を抽出する手段、第2画像と第3画像との重なり部を抽出する手段、第2画像における第1画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第1特徴点として抽出する手段、第2画像における第3画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第2特徴点として抽出する手段、第2画像上の各第1特徴点に対応する第1画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第1特徴点に対応する第1画像上の点の座標値を求める手段、第2画像上の各第2特徴点に対応する第3画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第2特徴点に対応する第3画像上の点の座標値を求める手段、ならびに第2画像上の各第1特徴点に対応する第1画像上の点の座標値と、第2画像上の各第2特徴点に対応する第3画像上の点の座標値とに基づいて、上記複数組の3画像間の対応点の座標値を求めるとともに、上記複数組の2画像間の対応点の座標値を求める手段を備えているものが用いられる。
【0038】
第4手段としては、たとえば、第2画像内の第3画像と重なり合う部分および第3画像内の第2画像と重なり合う部分のうちから任意に選択された一方の部分の画像を第4画像とすると、第4画像を隣接する3つの特徴点を頂点とする3角パッチ毎に分割し、各3角パッチ毎に第4画像上の点に対応する第1画像上の位置を求めるための変換式を求める手段、第4画像における各3角パッチ内の各画素に対応する第1画像上の座標値を、当該3角パッチに対して算出された変換式を用いて求める手段、ならびに第4画像の各画素に対応する第1画像上の座標値を用いて、第4画像を第1画像に合成する手段を備えているものが用いられる。
【0039】
3角パッチ毎に求められる変換式としては、たとえば、平面射影変換行列が用いられる。平面射影変換行列は、たとえば、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示す基礎行列とに基づいて求められる。平面射影変換行列を、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示すエピポールの対応とに基づいて求めてもよい。
【0040】
3角パッチ毎に求められる変換式として、アフィン変換行列を用いてもよい。アフィン変換行列は、3角パッチにおける3つの頂点の対応点に基づいて求められる。
【0041】
この発明による画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体は、第1画像、第1画像と重なり合う部分を有する第2画像、ならびに第1画像および第2画像の両方に重なり合う部分を有する第3画像を用いて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体であって、第1画像、第2画像および第3画像の重なり合う部分内において、複数の特徴点に対する3画像間の対応点の座標値を求めるとともに、第2画像と第3画像とが重なり合う部分内において、複数の特徴点に対する2画像間の対応点の座標値を求める第1ステップ、第1ステップで求められた複数組の3画像間の対応点の座標値に基づいて、3画像間の関係を示すtrifocalテンソルを算出する第2ステップ、第1ステップで求められた複数組の2画像間の対応点の座標値と、第2ステップで求められたtrifocalテンソルとに基づいて、上記2画像間の各対応点に対応する第1画像での座標値を求める第3ステップ、ならびに上記2画像間の各対応点に対応する第1画像での座標値に基づいて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する第4ステップを備えた画像合成プログラムを記録していることを特徴とする。
【0042】
第1ステップは、たとえば、第1画像と第2画像との重なり部を抽出するステップ、第2画像と第3画像との重なり部を抽出するステップ、第2画像における第1画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第1特徴点として抽出するステップ、第2画像における第3画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第2特徴点として抽出するステップ、第2画像上の各第1特徴点に対応する第1画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第1特徴点に対応する第1画像上の点の座標値を求めるステップ、第2画像上の各第2特徴点に対応する第3画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第2特徴点に対応する第3画像上の点の座標値を求めるステップ、ならびに第2画像上の各第1特徴点に対応する第1画像上の点の座標値と、第2画像上の各第2特徴点に対応する第3画像上の点の座標値とに基づいて、上記複数組の3画像間の対応点の座標値を求めるとともに、上記複数組の2画像間の対応点の座標値を求めるステップを備えている。
【0043】
第4ステップは、たとえば、第2画像内の第3画像と重なり合う部分および第3画像内の第2画像と重なり合う部分のうちから任意に選択された一方の部分の画像を第4画像とすると、第4画像を隣接する3つの特徴点を頂点とする3角パッチ毎に分割し、各3角パッチ毎に第4画像上の点に対応する第1画像上の位置を求めるための変換式を求めるステップ、第4画像における各3角パッチ内の各画素に対応する第1画像上の座標値を、当該3角パッチに対して算出された変換式を用いて求めるステップ、ならびに第4画像の各画素に対応する第1画像上の座標値を用いて、第4画像を第1画像に合成するステップを備えている。
【0044】
3角パッチ毎に求められる変換式としては、たとえば、平面射影変換行列が用いられる。平面射影変換行列は、たとえば、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示す基礎行列とに基づいて求められる。平面射影変換行列を、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示すエピポールの対応とに基づいて求めてもよい。
【0045】
3角パッチ毎に求められる変換式として、アフィン変換行列を用いてもよい。アフィン変換行列は、3角パッチにおける3つの頂点の対応点に基づいて求められる。
【0046】
【発明の実施の形態】
以下、この発明をパノラマ画像合成装置に適用した場合の実施の形態について説明する。
【0047】
パノラマ画像合成装置を説明する前に、パノラマ画像合成装置において採用されるオプティカルフロー推定方法について説明しておく。
【0048】
〔1〕オプティカルフロー推定方法についての説明。
この実施例で採用されるオプティカルフロー推定方法は、ピラミッド階層型に数段回の解像度の異なる画像を作成して、オプティカルフローを段階的に計算する階層的推定を前提としている。オプティカルフローの計算方法は、Lucas-Kanade法等の勾配法に従う。つまり、階層構造化した勾配法によるオプティカルフロー推定法を前提としている。ここでは、勾配法としてLucas-Kanade法が用いられている。
【0049】
この実施例で採用されるオプティカルフロー推定方法の特徴は、階層構造化したLucas-Kanade法によるオプティカルフロー推定法の各段階において得られたオプティカルフローを、膨張処理によって補完することにある。以下、これについて詳しく説明する。
【0050】
Lucas-Kanade法の長所の一つは、追跡結果が信頼性を持つことである。Tomasiと Kanade とは、ある領域の追跡可能性が、以下のように微分画像から算出できることを示した(C.Tomasi and T.Kanade,"Shape and Motion from Image Streams: a Factorization method-Part 3 Detection and Tracking of Point Features ,"CMU-CS-91-132, Carnegie Mellon University, 1991.) 。
【0051】
ある領域画像ωの垂直・水平方向の微分の2乗を要素に持つ次式7の2×2の係数行列Gから、その固有値を計算することで、その領域の追跡可能性を決定することができる。
【0052】
【数7】
【0053】
この行列Gの固有値が両方とも大きい場合には、その領域は直交方向に変化を持ち、一意の位置決めが可能である。従って、小さい方の固有値λmin と、追跡後の領域間の濃淡残差Eから、追跡結果の信頼度γを次式8によって得ることができる。
【0054】
【数8】
【0055】
本発明者らは、オプティカルフローの同一階層内で信頼度の高い結果を用いて、信頼度の低い領域を補間する方法を開発した。これは、一段階粗い階層での結果を、追跡の初期値だけに用いて、着目している現段階の階層の結果には何も利用しない。代わりに、テクスチャの少ない領域のオプティカルフローはその周囲のオプティカルフローに近い値を持つと仮定し、モルフォロジー処理によりフロー場を補完するものである。
【0056】
図5にフローベクトルの膨張処理の様子を示す。
【0057】
左図は、フローベクトルの信頼度のマップを濃淡で表したものである。ここで、黒ければ黒い程信頼度が高いとする。
【0058】
まず、得られたフローをしきい値処理する。白い部分は、結果の信頼度が低いために、しきい値処理されたものである。
【0059】
次に、2値画像でのモルフォロジー演算による穴埋め処理を模して、フロー場において結果の膨張処理を次のように行う。ある領域i,jのフローベクトルu(i,j)は、その4近傍のフローベクトルから信頼度γに応じて重み付けを行って次式9のように計算できる。
【0060】
【数9】
【0061】
この処理を、しきい値処理されたすべての信頼度の低い領域が埋まるまで、繰り返す。この補完処理を、各階層において行う。なお、ある領域i,jのフローベクトルu(i,j)を、その8近傍のフローベクトルから信頼度γに応じて重み付けを行って算出するようにしてもよい。
【0062】
図6(a)は、ある階層の画像に対してしきい値処理されたオプティカルフローを示し、図6(b)は補完後のオプティカルフローを示している。図6(a)において、矢印はしきい値処理によって信頼度が高いと判定されたオプティカルフローベクトルであり、×印は信頼度が低いとされた部分を示している。
【0063】
〔2〕パノラマ画像合成装置の説明
【0064】
以下、図7に示すように、互いに重なり合う部分を有する3枚の画像A1、A2、A3を用いて、第2画像A2と第3画像A3とが重なり合っている部分を、第1画像A1に合成するためのパノラマ画像合成装置について説明する。
【0065】
第2画像A2と第3画像A3とが重なり合っている部分を、第1画像A1に合成する際には、第2画像A2における第3画像A3と重なっている部分を第1画像に合成してもよいし、第3画像A3における第2画像A2と重なっている部分を第1画像に合成してもよいが、ここでは、第2画像A2における第3画像A3と重なっている部分を第1画像に合成する場合について説明する。
【0066】
図8は、パノラマ画像合成装置の構成を示している。
【0067】
パーソナルコンピュータ10には、ディスプレイ21、マウス22およびキーボード23が接続されている。パーソナルコンピュータ10は、CPU11、メモリ12、ハードディスク13、CD−ROMのようなリムーバブルディスクのドライブ(ディスクドライブ)14を備えている。
【0068】
ハードディスク13には、OS(オペレーティングシステム)等の他、パノラマ画像合成プログラムが格納されている。パノラマ画像合成プログラムは、それが格納されたCD−ROM20を用いて、ハードディスク13にインストールされる。また、ハードディスク13には、デジタルカメラによって撮像された複数の画像が予め格納されているものとする。
【0069】
図9は、パノラマ画像合成ソフトが起動せしめられた場合にCPU11によって行われるパノラマ画像合成処理手順を示している。
【0070】
(I) まず、ユーザによって指定された3枚の画像(第1画像A1、第2画像A2及び第3画像A3)がメモリ12に読み込まれる(ステップ1)。
【0071】
(II)次に、第1画像A1と第2画像A2との重なり部および第2画像A2と第3画像A3との重なり部の抽出処理が行われる(ステップ2)。この重なり部の抽出処理は、たとえば、SSD法(Sum of Squared Difference)、正規化相互相関法に基づいて行われる。
【0072】
(a)SSD法の説明
SSD法では、まず、重なり部を抽出すべき2枚の画像それぞれについて、原画像より解像度の低い画像I1 ,I2 が生成される。2枚の低解像度画像I1 ,I2 の重なり部分ω(サイズ:M×N)が、次式10に示すように画素あたりの2乗誤差Eを用いて求められる。画像間の移動量(d)が可能な範囲で変化せしめられ、Eが最も小さい移動量(d)から、重なり部が抽出される。
【0073】
【数10】
【0074】
(b)正規化相互相関法の説明
正規化相互相関法では、まず、重なり部を抽出すべき2枚の画像それぞれについて、原画像より解像度の低い画像I1 ,I2 が生成される。2枚の低解像度画像I1 ,I2 の重なり部分ω(サイズ:M×N)が、次式11に示すように正規化相互相関係数Cを用いて求められる。画像間の移動量(d)が可能な範囲で変化せしめられ、Cが最も大きな移動量(d)から、重なり部が抽出される。
【0075】
【数11】
【0076】
式11において、I1  ̄、I2  ̄は、第1画像を固定させ、第2画像をdだけ移動させたときの、両画像の重なり部における各画像それぞれの濃淡値の平均である。また、σ1 、σ2 は、第1画像I1 を固定させ、第2画像I2 をdだけ移動させたときの、両画像の重なり部における各画像それぞれの濃淡値の分散である。
【0077】
(III) 次に、特徴点抽出が行われる(ステップ3)。つまり、まず、第2画像A2における第1画像A1との重なり部分から、追跡に有効な複数の部分画像(矩形領域)が第1特徴点として抽出される。ただし、各特徴点は互いに重ならないように抽出される。具体的には、上述した固有値λmin (式8参照)の高い部分が特徴点として抽出される。
【0078】
次に、第2画像A2における第3画像A3との重なり部分から、追跡に有効な複数の部分画像(矩形領域)が第2特徴点として抽出される。この際、第2画像A2における第1画像A1との重なり部分から抽出された第1特徴点のうち、第2画像A2と第3画像A3とが重なっている部分に存在する第1特徴点は、第2特徴点としても用いられる。
【0079】
(IV)次に、特徴点追跡処理が行われる(ステップ4)。つまり、抽出された第2画像A2上の第1特徴点に対する第1画像A1上の位置が追跡されるとともに、抽出された第2画像A2上の第2特徴点に対する第3画像A3上の位置が追跡される。
【0080】
具体的には、まず、〔1〕で説明したオプティカルフロー推定方法で、適当なサイズ(例えば、13×13)のパッチ毎のオプティカルフローベクトルが求められる。第2画像A2上の第1特徴点に対応する第1画像A1上の位置は、第2画像A2上の第1特徴点の4近傍のパッチのフローベクトルから線形補間により画素単位以下で求められる。同様に、第2画像A2上の第2特徴点に対応する第3画像A3上の位置は、第2画像A2上の第2特徴点の4近傍のパッチのフローベクトルから線形補間により画素単位以下で求められる。
【0081】
これにより、第1画像A1と第2画像A2との重なり部において、両画像の対応点の座標が得られる。また、第2画像A2と第3画像A3との重なり部において、両画像の対応点の座標が得られる。この結果、第1画像A1、第2画像A2および第3画像A3の重なり部において、3つの画像の対応点の座標が得られる。
【0082】
(V) 次に、trifocalテンソルの算出処理が行なわれる(ステップ5)。まず、trifocalテンソルの算出方法の概要について説明する。
【0083】
shashua は、静止物体を異なる3視点から撮像した透視投影の3画像ψ1 、ψ2 およびψ3 の間には、次式12のような線形な関係があることを示した(A.Shashua,"Algebraic functions for recognition," IEEE PAMI, Vol.17, No.8, pp.779-789, 1995参照) 。この関係は、Trilinearityと呼ばれている。
【0084】
【数12】
【0085】
すなわち、ある3次元空間上の点Xを撮像した各画像での座標を(x,y)∈ψ1 、(x’,y’)∈ψ2 および(x”,y”)∈ψ3 とすると、これらの座標値は、数式13〜数式16を満足する。
【0086】
【数13】
【0087】
【数14】
【0088】
【数15】
【0089】
【数16】
【0090】
ただし、係数αj は全ての点で固定であり、これらの比は唯一に定まる。これらの係数は、共通して観察している特徴点の対応関係から導出することが可能である。そして、この関係は、テンソルを用いて、コンパクトに記述され、trifocalテンソルと呼ばれる(R.Hartley," Lines and points in three views and the trifocal tensor, "Int'l J. Computer Vision, vol.22, no.2, pp. 125-140,
1997. 参照)。
【0091】
このように、Trilinearityを用いると、ある3次元空間上の点が2視点から撮像でき、その点の各画像での座標値がわかれば、もう一方の視点から観察した場合の座標を算出できる。すなわち、2画像の点の座標をそれぞれu’、u”およびtrifocalテンソルをTとすると、もう一つの画像での座標uは、次式17によって求められる。
【0092】
【数17】
【0093】
これを用いると、図10に示すように、視点C1 から観察できない部分であっても、他の2視点C2 およびC3 から観察され、それらの各画像での座標値が求まるなら、視点C1 から観察されたときの座標を計算することができる。この操作を他の画素についても繰り返すと、図10の点線のように仮想的にC1 の撮像面を拡大することができる。
【0094】
次に、trifocalテンソルの算出方法をより具体的に説明する。
trifocalテンソルは、第1画像A1、第2画像A2および第3画像A3が互いに重なる部分における3画像での特徴点(対応点)の組から算出される。そこで、まず、第1画像A1、第2画像A2および第3画像A3が互いに重なる部分における3画像の対応点の座標値を、数値演算を安定化させるために正規化する。そして、正規化された座標値と、数式13〜16とに基づいて、数式13〜16中の各係数αj (trifocalテンソル)を求める。
【0095】
trifocalテンソルは、少なくとも7組の特徴点の対応があれば、解くことができる。しかしながら、実画像では誤差を含むので、より多くの対応点の組を用いて最小2乗的に解くのが一般的である。ここでの問題は、特徴点の対応づけの正確さが完全でないことである。
【0096】
全ての特徴点を自動に正確に対応づけることは困難である。そこで、ロバスト推定を用いてこの問題を解決する。
【0097】
ロバスト推定法は、次の2つに分類できる。第1は、M推定と呼ばれ、誤差の大きさに従って重みを決定する重み付き最小2乗法である。第2は、ランダムサブサンプリングを繰り返し、外れ値を除去しながら、あらかじめ指定したコストが減少した場合に解を更新する方法である。
【0098】
何れのロバスト推定法を用いてtrifocalテンソルを算出してもよい。ここでは、ランダムサンプリングを繰り返す方法をさらに改良した方法を用いることにする。ランダムサンプリングを繰り返す方法では、中間値を最小化するように係数を更新するLMS(Least Median of Squares) が代表的であるが、ここでは、RANSAC(Randam Sample Consensus) と呼ばれる方法を改良して用いる。
【0099】
RANSACについては、M.A.Fishler and R.C.Bolles,"Randam sample consensus: A pradigm for model fitting with applications to image nalysis and automated cartography," Communications of the ACM, vol.24, no.6, pp.381-395.1981. を参照のこと。
【0100】
RANSACは、まず、サンプルの一部Jを用いて最小2乗法で係数αJ を求める。そして、予め設定したしきい値θ(たとえば3画素)以上に誤差がある対応点の組を外れ値(誤対応)として、しきい値以下の対応点の組の個数を求める。この個数が前の結果よりも多くなった場合、係数(trifocalテンソル)を更新する。ここで、しきい値以下の対応点の組の個数が同じ場合でも、しきい値以下の対応点の組の2乗誤差が少なくなった場合は、更新するように改良する。
【0101】
(VI)このようにして、trifocalテンソル(係数αj )が求められると、図11に示すように、第2画像A2のうち、第3画像A3と重なっている部分を、特徴点を頂点とする3角パッチに分割する(ステップ6)。
【0102】
(VII) 次に、第2画像A2上の3角パッチの各頂点それぞれに対応する、第2画像A2と第3画像A3の座標の組と、trifocalテンソルとに基づいて、第2画像A2の3角パッチの各頂点(特徴点)に対応する第1画像A1上の点の座標を求める(ステップ7)。
【0103】
つまり、上記ステップ5で求められたtrifocalテンソル(係数αj )を、数式13、14に代入することによって、第1画像A1、第2画像A2および第3画像A3との間の対応関係を示す関係式を得る。
【0104】
得られた関係式に、第2画像A2上の3角パッチの各頂点それぞれに対応する、第2画像A2と第3画像A3の座標の組をそれぞれ代入していくことにより、第2画像A2の3角パッチの各頂点(特徴点)に対応する第1画像A1上の座標を求める。
【0105】
(VIII)次に、第2画像A2上の各3角パッチ毎に、3角パッチ内の画素を第1画像A1に変換するための平面射影変換行列を算出する(ステップ8)。
【0106】
まず、シーンを単一平面と仮定した場合の平面射影変換行列の求め方について述べる。
【0107】
図12に示すように3次元空間中の単一平面の点Mを2つの異なる視点C1、C2から観察した時、これらの各画像面での座標m、m’の間の変換は、線形であることが射影幾何学において知られており、homography と呼ばれている(O.Faugeras,"Three-Dimentional Computer Vision: A Geometric Viewpoint",MIT Press, 1993.)。
【0108】
すなわち、画像座標を斉次座標で表した第2画像の点m’=(x’, y’, 1)t は、第1画像上で対応する点m=(x ,y, 1)t を持ち、それらの関係は次式18、より詳しくは次式19で定義される。
【0109】
【数18】
【0110】
【数19】
【0111】
この変換行列は、次式20のように書き換えることができる。
【0112】
【数20】
【0113】
また、式20は、次式21のように書き換えることができる。
【0114】
【数21】
【0115】
平面射影変換行列Hの未知パラメータ数は、8個であり、一組の対応点は、数式21に示すように、2つの式を与える。したがって、4組以上の対応点があれば、最小2乗法によりこの行列Hを求めることができる。
【0116】
上記は、シーンを単一平面と仮定した場合の平面射影変換行列Hの求め方について説明したが、室内などのシーンの場合には、シーンを単一平面で近似するには誤差が大きすぎる。なぜなら、カメラから対象物までの距離に対して、シーンの奥行きの方が深いからである。この結果、第1画像と第2画像とを合成した場合に、両画像の重なり部分において、重なるべき線が2重になったり、ぼけたりするという問題がある。
【0117】
そこで、この実施の形態では、奥行きの深いシーンを合成する場合に適した平面射影変換行列Hを獲得するために、図11を用いて既に説明したように、第2画像A2内の第3画像A3と重なる部分を、特徴点に基づいて3角パッチに分割し、各パッチ毎に平面射影変換行列を算出するようにした。
【0118】
各パッチ毎に平面射影変換行列を算出するには、エピポーラ拘束条件が利用される。各パッチ毎に平面射影変換行列を算出方法には、エピポーラ拘束条件を示す基礎行列を利用する方法と、エピポーラ拘束条件を示すエピポール(エピ極)の対応を利用する方法とがある。
【0119】
(a)基礎行列を利用する方法
カメラ間のエピポーラ拘束条件を示す基礎行列を利用する方法について説明する。平面射影変換行列の自由度は8であるので、4組の対応点の組が必要である。しかし、3角パッチの頂点は3つしかないので、一般では解けない。
【0120】
そこで、本発明者は、カメラ間のエピポーラ拘束を示す基礎行列Fと、3組の対応点を用いて、各3角パッチ毎の平面射影変換行列を算出することを開発した。
【0121】
以下、3角パッチ毎の平面射影変換行列を算出する方法について詳述する。
【0122】
図13は、エピポーラ拘束条件を示している。
【0123】
3次元の空間の点Mを異なる視点C1 およびC2 から観察したとき、それぞれのカメラの撮像面S1 、S2 上の座標m1 およびm2 は、M、C1 およびC2 で構成される平面上にある必要がある。これは、エピポーラ拘束条件と呼ばれる。また、視点C1 とC2 とを結ぶ直線と、各撮像面S1 、S2 との交点はe1 、e2 は、エピポールと呼ばれる。このエピポーラ拘束条件を示す基礎行列Fおよび対応するエピポールe1 、e2 は、2画像間で7組以上の対応点があれば、計算することができることが知られている。
【0124】
2画像間のエピポーラ拘束条件は、基礎行列Fと、対応点m、m’を用いて次式22で表される。
【0125】
【数22】
【0126】
この基礎行列Fを7組以上、たとえば、8組の対応点から求める。基礎行列Fの求め方は、良く知られているのでその説明を省略する(たとえば、1998年4月20日 共立出版発行の「3次元ビジョン」参照)。なお、最近では、キャリブレーションされていないステレオカメラの基礎行列を、対応づけられた特徴点対から、良好に獲得する手法が提案されているので、その手法を用いることが好ましい(Z.Zhang, "Determining the Epipolar Geometry and its Uncertainty; A Review", Int. Journal of Comuter Vision, Vol.27, No.2, pp. 161-195.,1988 ) 。
【0127】
上記式18に示すように、m=Hm’であるので、式18を式22に代入することにより、次式23が得られる。
【0128】
【数23】
【0129】
上記式23における行列HT Fは、ベクトルm’の外積であることを表すので、次式24に示すように非対称行列である必要がある。
【0130】
【数24】
【0131】
3組の対応点に基づいて上記式21から6個の方程式が得られる。また、上記式24から6個の方程式が得られる。つまり、12個の方程式が得られる。平面射影変換行列Hの未知数は、8個であるので、これらを連立させた最小2乗法により、3角パッチ毎の平面射影変換行列Hを算出することができる。
【0132】
つまり、3組の対応点を{(m1 ,m1 ’)、(m2 ,m2 ’)、(m3 ,m3 ’)とすると、上記式21に基づいて、次式25で表されるように、6個の方程式が得られる。
【0133】
【数25】
【0134】
上記式24は、次式26で表される。
【0135】
【数26】
【0136】
対角要素は0であるという条件から、次式27で表されるように3つの方程式が得られる。
【0137】
【数27】
【0138】
また、上記式26における非対称行列の−a1+a1=0であるという条件から、次式28で表されるように1つの方程式が得られる。
【0139】
【数28】
【0140】
また、上記式26における非対称行列のa2−a2=0であるという条件から、次式29で表されるように1つの方程式が得られる。
【0141】
【数29】
【0142】
また、上記式26における非対称行列の−a3+a3=0であるという条件から、次式30で表されるように1つの方程式が得られる。
【0143】
【数30】
【0144】
上記式27〜30から、次式31で表されるように、6個の方程式が得られる。
【0145】
【数31】
【0146】
上記式25と上記式31とを連立させると、次式32で表されるように、12個の方程式が得られる。
【0147】
【数32】
【0148】
平面射影変換行列Hの未知数は8個であるので、最小2乗法を用いて、3角パッチに対する平面射影変換行列Hが算出される。
【0149】
(b)エピポールの対応を利用する方法
エピポールの対応を利用する方法について説明する。エピポールの対応は、基礎行列Fから求められる。この方法は、2画像間における3角パッチの3頂点の対応点の組と、2画像間のエピポールの対応点から、3角パッチ毎の平面射影行列を求める方法である。
【0150】
図14は、N、M、Pを頂点とする3角パッチと、エピポールe1 、e2 とを示している。
【0151】
エピポールe1 、e2 は、3角パッチの位置および姿勢にかかわらず、常に同じである。2画像間における3角パッチの3頂点の対応点の組(3組の対応点)と、2画像間におけるエピポールの対応点(1組の対応点)とから合計4組の対応点が求まる。
【0152】
この4組の対応点(xi ,yi )、(xi ’,yi ’)(i=1,2,3,e)と、上記式21とに基づいて、次式33で表されるように、8個の方程式が得られる。
【0153】
【数33】
【0154】
平面射影行列の要素(h1 〜h8 )は8つであるので、8個の方程式から、これらの要素h1 〜h8 が求められる。
【0155】
(IX) 求められた各3パッチ毎の平面射影変換行列に基づいて、第2画像A2の各3角パッチ内の画像を第1画像に合成する(ステップ9)。
【0156】
つまり、第2画像A2における各3角パッチ内の各画素に対応する第1画像上の座標値が、当該3角パッチに対して算出された平面射影変換行列Hを用いて求められる。そして、第2画像A2の各3角パッチ内の各画素に対応する第1画像上の座標値を用いて、第2画像A2の各3角パッチ内の画像が第1画像に合成される。
【0157】
(X) この後、第1画像A1と第2画像A2とが互いに重なり合っている部分(以下、重合部という)に対して画素値調合が行われる(ステップ10)。つまり、第1画像A1と第2画像A2とは、撮影条件が同じでないので、一方に比べて他方が暗い場合がある。そこで、両画像の重合部において、両画像の画素値が調合せしめられる。
【0158】
画素値調合方法の一例について説明する。図15は、ステップ10において生成された画像を示している。図15の斜線部分は、第1画像A1と第2画像A2とが重なり合っている部分(重合部)である。図15において、G1は第1画像A1の重心位置を、G2は第3画像A2の重心位置をそれぞれ示している。
【0159】
重合部内の任意の点Pの第1画像A1の画素値をI1 とし、点Pの第2画像A2の画素値をI2 とし、点Pと第1画像A1の重心位置G1 との距離をd1 とし、点Pと第2画像A2の重心位置G2 との距離をd2 とすると、点Pの調合後の画素値Blenは、次式34で表される。
【0160】
【数34】
【0161】
上記実施の形態では、第2画像A2の各3角パッチ毎に平面射影変換行列Hを求め、第2画像A2の各3角パッチ内の各画素に対応する第1画像A2上の座標値を、当該3角パッチに対して算出された平面射影変換行列Hを用いて求めているが、各3角パッチ毎にアフィン変換行列Aを求め、第2画像A2における各3角パッチ内の各画素に対応する第1画像A1上の座標値を、当該3角パッチに対して算出されたアフィン変換行列Aを用いて求めるようにしてもよい。
【0162】
アフィン変換行列Aは、次式35で表される。アフィン変換行列Aの要素h1 〜h6 は6つであるので、2画像間における3角パッチの3頂点の対応点のみから、要素h1 〜h6 を算出することができる。
【0163】
【数35】
【0164】
アフィン変換行列Aの要素h1 〜h6 と、2画像間における3角パッチの3頂点の対応点(xi ,yi )、(xi ’,yi ’)(i=1,2,3)との関係は、次式36で表される。
【0165】
【数36】
【0166】
【発明の効果】
この発明によれば、奥行きの深いシーンを合成する際においても、精度の高い位置合わせが行えるようになる。
【0167】
この発明によれば、複数の画像から継目のないパノラマ画像を得ることができ、しかも複数の画像を撮像するためのカメラに自由な運動を許容し、焦点距離の測定が不要となる。
【図面の簡単な説明】
【図1】図1は、階層的推定法を説明するための図であって、階層1の画像を示す模式図である。
【図2】図2は、階層的推定法を説明するための図であって、階層2の画像を示す模式図である。
【図3】図3は、階層的推定法を説明するための図であって、階層3の画像を示す模式図である。
【図4】図4は、階層的推定法を説明するための図であって、階層4の画像を示す模式図である。
【図5】図5は、実施例で採用されたオプティカルフロー推定方法において行われる膨張処理を説明するための模式図である。
【図6】図6(a)は、ある階層の画像に対してしきい値処理されたオプティカルフローの例を示す模式図であり、図6(b)は、補完後のオプティカルフローを示す模式図である。
【図7】図7は、パノラマ画像合成に用いられる3枚の画像を示す模式図である。
【図8】図8は、パノラマ画像合成装置の構成を示すブロック図である。
【図9】図9は、パノラマ画像合成処理手順を示すフローチャートである。
【図10】図10は、Trilinearityを用いたパノラマ画像合成方法を示す模式図である。
【図11】図11は、第2画像のうち、第3画像とのみ重なり合う部分を3角パッチによって分割した様子を示す模式図である。
【図12】図12は、平面射影変換行列を説明するための説明図である。
【図13】図13は、エピポーラ拘束条件を示す模式図である。
【図14】図14は、N、M、Pを頂点とする3角パッチと、エピポールe1 、e2 とを示す模式図である。
【図15】図15は、画素値調合方法の一例を説明するための説明図である。
【符号の説明】
10 パーソナルコンピュータ
11 CPU
12 メモリ
13 ハードディスク
14 ディスクドライブ
Claims (18)
- 第1画像、第1画像と重なり合う部分を有する第2画像、ならびに第1画像および第2画像の両方に重なり合う部分を有する第3画像を用いて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する画像合成方法であって、
第1画像、第2画像および第3画像の重なり合う部分内において、複数の特徴点に対する3画像間の対応点の座標値を求めるとともに、第2画像と第3画像とが重なり合う部分内において、複数の特徴点に対する2画像間の対応点の座標値を求める第1ステップ、
第1ステップで求められた複数組の3画像間の対応点の座標値に基づいて、3画像間の関係を示すtrifocalテンソルを算出する第2ステップ、
第1ステップで求められた複数組の2画像間の対応点の座標値と、第2ステップで求められたtrifocalテンソルとに基づいて、上記2画像間の各対応点に対応する第1画像での座標値を求める第3ステップ、ならびに
上記2画像間の各対応点に対応する第1画像での座標値に基づいて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する第4ステップ、
を備えていることを特徴とする画像合成方法。 - 第1ステップは、
第1画像と第2画像との重なり部を抽出するステップ、
第2画像と第3画像との重なり部を抽出するステップ、
第2画像における第1画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第1特徴点として抽出するステップ、
第2画像における第3画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第2特徴点として抽出するステップ、
第2画像上の各第1特徴点に対応する第1画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第1特徴点に対応する第1画像上の点の座標値を求めるステップ、
第2画像上の各第2特徴点に対応する第3画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第2特徴点に対応する第3画像上の点の座標値を求めるステップ、ならびに
第2画像上の各第1特徴点に対応する第1画像上の点の座標値と、第2画像上の各第2特徴点に対応する第3画像上の点の座標値とに基づいて、上記複数組の3画像間の対応点の座標値を求めるとともに、上記複数組の2画像間の対応点の座標値を求めるステップ、
を備えていることを特徴とする請求項1に記載の画像合成方法。 - 第4ステップは、
第2画像内の第3画像と重なり合う部分および第3画像内の第2画像と重なり合う部分のうちから任意に選択された一方の部分の画像を第4画像とすると、第4画像を隣接する3つの特徴点を頂点とする3角パッチ毎に分割し、各3角パッチ毎に第4画像上の点に対応する第1画像上の位置を求めるための変換式を求めるステップ、
第4画像における各3角パッチ内の各画素に対応する第1画像上の座標値を、当該3角パッチに対して算出された変換式を用いて求めるステップ、ならびに
第4画像の各画素に対応する第1画像上の座標値を用いて、第4画像を第1画像に合成するステップ、
を備えていることを特徴とする請求項1および2のいずれかに記載の画像合成方法。 - 3角パッチ毎に求められる変換式は平面射影変換行列であり、平面射影変換行列は、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示す基礎行列とに基づいて求められることを特徴とする請求項3に記載の画像合成方法。
- 3角パッチ毎に求められる変換式は平面射影変換行列であり、平面射影変換行列は、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示すエピポールの対応とに基づいて求められることを特徴とする請求項3に記載の画像合成方法。
- 3角パッチ毎に求められる変換式はアフィン変換行列であり、アフィン変換行列は、3角パッチにおける3つの頂点の対応点に基づいて求められることを特徴とする請求項3に記載の画像合成方法。
- 第1画像、第1画像と重なり合う部分を有する第2画像、ならびに第1画像および第2画像の両方に重なり合う部分を有する第3画像を用いて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する画像合成装置であって、
第1画像、第2画像および第3画像の重なり合う部分内において、複数の特徴点に対する3画像間の対応点の座標値を求めるとともに、第2画像と第3画像とが重なり合う部分内において、複数の特徴点に対する2画像間の対応点の座標値を求める第1手段、
第1手段で求められた複数組の3画像間の対応点の座標値に基づいて、3画像間の関係を示すtrifocalテンソルを算出する第2手段、
第1手段で求められた複数組の2画像間の対応点の座標値と、第2手段で求められたtrifocalテンソルとに基づいて、上記2画像間の各対応点に対応する第1画像での座標値を求める第3手段、ならびに
上記2画像間の各対応点に対応する第1画像での座標値に基づいて、第2画像と第3画像とが重なり合う部分を、第1画像に合成する第4手段、
を備えていることを特徴とする画像合成装置。 - 第1手段は、
第1画像と第2画像との重なり部を抽出する手段、
第2画像と第3画像との重なり部を抽出する手段、
第2画像における第1画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第1特徴点として抽出する手段、
第2画像における第3画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第2特徴点として抽出する手段、
第2画像上の各第1特徴点に対応する第1画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第1特徴点に対応する第1画像上の点の座標値を求める手段、
第2画像上の各第2特徴点に対応する第3画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第2特徴点に対応する第3画像上の点の座標値を求める手段、ならびに
第2画像上の各第1特徴点に対応する第1画像上の点の座標値と、第2画像上の各第2特徴点に対応する第3画像上の点の座標値とに基づいて、上記複数組の3画像間の対応点の座標値を求めるとともに、上記複数組の2画像間の対応点の座標値を求める手段、
を備えていることを特徴とする請求項7に記載の画像合成装置。 - 第4手段は、
第2画像内の第3画像と重なり合う部分および第3画像内の第2画像と重なり合う部分のうちから任意に選択された一方の部分の画像を第4画像とすると、第4画像を隣接する3つの特徴点を頂点とする3角パッチ毎に分割し、各3角パッチ毎に第4画像上の点に対応する第1画像上の位置を求めるための変換式を求める手段、
第4画像における各3角パッチ内の各画素に対応する第1画像上の座標値を、当該3角パッチに対して算出された変換式を用いて求める手段、ならびに
第4画像の各画素に対応する第1画像上の座標値を用いて、第4画像を第1画像に合成する手段、
を備えていることを特徴とする請求項7および8のいずれかに記載の画像合成装置。 - 3角パッチ毎に求められる変換式は平面射影変換行列であり、平面射影変換行列は、3角パッチにおける3つの頂点の対応点と、第1画像と第2画像との間のエピポーラ拘束条件を示す基礎行列とに基づいて求められることを特徴とする請求項9に記載の画像合成装置。
- 3角パッチ毎に求められる変換式は平面射影変換行列であり、平面射影変換行列は、3角パッチにおける3つの頂点の対応点と、第1画像と第2画像との間のエピポーラ拘束条件を示すエピポールの対応とに基づいて求められることを特徴とする請求項9に記載の画像合成装置。
- 3角パッチ毎に求められる変換式はアフィン変換行列であり、アフィン変換行列は、3角パッチにおける3つの頂点の対応点に基づいて求められることを特徴とする請求項9に記載の画像合成装置。
- 第1画像、第1画像と重なり合う部分を有する第2画像、ならびに第1画像および第2画像の両方に重なり合う部分を有する第3画像を用いて、第1画像の外側にありかつ第2画像と第3画像とが重なり合う部分を、第1画像に合成する画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体であって、
第1画像、第2画像および第3画像の重なり合う部分内において、複数の特徴点に対する3画像間の対応点の座標値を求めるとともに、第2画像と第3画像とが重なり合う部分内において、複数の特徴点に対する2画像間の対応点の座標値を求める第1ステップ、
第1ステップで求められた複数組の3画像間の対応点の座標値に基づいて、3画像間の関係を示すtrifocalテンソルを算出する第2ステップ、
第1ステップで求められた複数組の2画像間の対応点の座標値と、第2ステップで求められたtrifocalテンソルとに基づいて、上記2画像間の各対応点に対応する第1画像での座標値を求める第3ステップ、ならびに
上記2画像間の各対応点に対応する第1画像での座標値に基づいて、第1画像の外側にありかつ第2画像と第3画像とが重なり合う部分を、第1画像に合成する第4ステップ、
を備えた画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体。 - 第1ステップは、
第1画像と第2画像との重なり部を抽出するステップ、
第2画像と第3画像との重なり部を抽出するステップ、
第2画像における第1画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第1特徴点として抽出するステップ、
第2画像における第3画像との重なり部分から、両画像間のオプティカルフローによる追跡に有効な複数の部分画像を第2特徴点として抽出するステップ、
第2画像上の各第1特徴点に対応する第1画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第1特徴点に対応する第1画像上の点の座標値を求めるステップ、
第2画像上の各第2特徴点に対応する第3画像上の点を、両画像間のオプティカルフローに基づいて追跡することにより、第2画像上の各第2特徴点に対応する第3画像上の点の座標値を求めるステップ、ならびに
第2画像上の各第1特徴点に対応する第1画像上の点の座標値と、第2画像上の各第2特徴点に対応する第3画像上の点の座標値とに基づいて、上記複数組の3画像間の対応点の座標値を求めるとともに、上記複数組の2画像間の対応点の座標値を求めるステップ、 を備えていることを特徴とする請求項13に記載の画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体。 - 第4ステップは、
第2画像内の第3画像と重なり合う部分および第3画像内の第2画像と重なり合う部分のうちから任意に選択された一方の部分の画像を第4画像とすると、第4画像を隣接する3つの特徴点を頂点とする3角パッチ毎に分割し、各3角パッチ毎に第4画像上の点に対応する第1画像上の位置を求めるための変換式を求めるステップ、
第4画像における各3角パッチ内の各画素に対応する第1画像上の座標値を、当該3角パッチに対して算出された変換式を用いて求めるステップ、ならびに
第4画像の各画素に対応する第1画像上の座標値を用いて、第4画像を第1画像に合成するステップ、
を備えていることを特徴とする請求項13および14のいずれかに記載の画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体。 - 3角パッチ毎に求められる変換式は平面射影変換行列であり、平面射影変換行列は、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示す基礎行列とに基づいて求められることを特徴とする請求項15に記載の画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体。
- 3角パッチ毎に求められる変換式は平面射影変換行列であり、平面射影変換行列は、3角パッチにおける3つの頂点の対応点と、第1画像と第4画像との間のエピポーラ拘束条件を示すエピポールの対応とに基づいて求められることを特徴とする請求項15に記載の画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体。
- 3角パッチ毎に求められる変換式はアフィン変換行列であり、アフィン変換行列は、3角パッチにおける3つの頂点の対応点に基づいて求められることを特徴とする請求項15に記載の画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP34645299A JP3540696B2 (ja) | 1999-12-06 | 1999-12-06 | 画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP34645299A JP3540696B2 (ja) | 1999-12-06 | 1999-12-06 | 画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001167249A JP2001167249A (ja) | 2001-06-22 |
JP3540696B2 true JP3540696B2 (ja) | 2004-07-07 |
Family
ID=18383537
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP34645299A Expired - Fee Related JP3540696B2 (ja) | 1999-12-06 | 1999-12-06 | 画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3540696B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4640032B2 (ja) * | 2005-08-11 | 2011-03-02 | カシオ計算機株式会社 | 画像合成装置、画像合成方法及びプログラム |
JP2009075825A (ja) * | 2007-09-20 | 2009-04-09 | Tokyo Univ Of Science | 画像幾何学的歪補正方法、プログラム、及び画像幾何学的歪補正装置 |
KR101016656B1 (ko) * | 2009-05-19 | 2011-02-25 | 주식회사신도리코 | 스캔 기능을 구비한 화상 형성 장치 및 이의 스캔 방법 |
US9147260B2 (en) * | 2010-12-20 | 2015-09-29 | International Business Machines Corporation | Detection and tracking of moving objects |
KR101792501B1 (ko) * | 2011-03-16 | 2017-11-21 | 한국전자통신연구원 | 특징기반의 스테레오 매칭 방법 및 장치 |
CN106504265B (zh) * | 2015-09-08 | 2019-08-16 | 株式会社理光 | 运动估计优化方法、设备和系统 |
CN111402136B (zh) * | 2020-03-19 | 2023-12-15 | 如你所视(北京)科技有限公司 | 全景图生成方法、装置、计算机可读存储介质及电子设备 |
-
1999
- 1999-12-06 JP JP34645299A patent/JP3540696B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2001167249A (ja) | 2001-06-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3435084B2 (ja) | オプティカルフロー推定方法および画像合成方法 | |
US6473536B1 (en) | Image synthesis method, image synthesizer, and recording medium on which image synthesis program is recorded | |
KR101195942B1 (ko) | 카메라 보정 방법 및 이를 이용한 3차원 물체 재구성 방법 | |
Shum et al. | Panoramic image mosaics | |
US6970591B1 (en) | Image processing apparatus | |
US5963664A (en) | Method and system for image combination using a parallax-based technique | |
CN109242873A (zh) | 一种基于消费级彩色深度相机对物体进行360度实时三维重建的方法 | |
Remondino | 3-D reconstruction of static human body shape from image sequence | |
JP3557168B2 (ja) | レンズ歪み係数算出装置および算出方法、レンズ歪み係数算出プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP2000155831A (ja) | 画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体 | |
Asai et al. | 3D modeling of outdoor environments by integrating omnidirectional range and color images | |
JP2001274973A (ja) | 顕微鏡画像合成装置、顕微鏡画像合成方法、顕微鏡画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP3540696B2 (ja) | 画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体 | |
Saito et al. | View interpolation of multiple cameras based on projective geometry | |
CN113763544A (zh) | 图像确定方法、装置、电子设备和计算机可读存储介质 | |
Zhao et al. | Alignment of continuous video onto 3D point clouds | |
JP3548071B2 (ja) | 中間画像合成方法、中間画像合成装置、中間画像合成プログラムを記録した記録媒体 | |
JP2004046573A (ja) | チルト角算出方法、円筒パノラマ画像合成方法、ならびに円筒パノラマ画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP2002094849A (ja) | 広視野画像撮像装置 | |
JP2001256492A (ja) | 画像合成装置、画像合成方法、画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP2002170111A (ja) | 画像合成装置、画像合成方法および画像合成プログラムを記録した記録媒体 | |
Kim et al. | An immersive free-viewpoint video system using multiple outer/inner cameras | |
JP3384764B2 (ja) | 画像の対応領域抽出方法、画像合成方法、画像合成装置、画像合成プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
Rawlinson | Design and implementation of a spatially enabled panoramic virtual reality prototype | |
Jarusirisawad et al. | 3DTV view generation using uncalibrated pure rotating and zooming cameras |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040316 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040325 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090402 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |