JP2007213161A - 画像処理装置、画像処理方法およびその方法をコンピュータに実行させるためのプログラム - Google Patents

画像処理装置、画像処理方法およびその方法をコンピュータに実行させるためのプログラム Download PDF

Info

Publication number
JP2007213161A
JP2007213161A JP2006030122A JP2006030122A JP2007213161A JP 2007213161 A JP2007213161 A JP 2007213161A JP 2006030122 A JP2006030122 A JP 2006030122A JP 2006030122 A JP2006030122 A JP 2006030122A JP 2007213161 A JP2007213161 A JP 2007213161A
Authority
JP
Japan
Prior art keywords
input
image plane
image
images
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006030122A
Other languages
English (en)
Inventor
Seigo Yanai
清剛 谷内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2006030122A priority Critical patent/JP2007213161A/ja
Publication of JP2007213161A publication Critical patent/JP2007213161A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Editing Of Facsimile Originals (AREA)
  • Image Processing (AREA)

Abstract

【課題】視点が一致する複数の撮像装置で撮像された画像を用い、つなぎ目なくかつ高速に合成処理を行えるようにする。
【解決手段】視点一致光学系を備える複数の撮像装置より入力された第1および第2入力画像の各々の入力画像平面を、画像の合成が行われる出力画像平面に投影し、出力画像平面における第1および第2入力画像の投影されるそれぞれの領域を算出し、出力画像平面上での前記第1および第2入力画像の重複部分の混合比を算出し、重複部分の混合比を前記入力画像平面に逆投影し、重複部分の混合比が逆投影された各々の入力画像平面において第1および第2入力画像の画素毎に混合比を算出し、画素毎の混合比により出力画像平面上で前記第1および第2入力画像を合成する。
【選択図】図2

Description

本発明は、視点一致光学系を備える複数の撮像装置より得られる複数の画像を合成するのに好適な画像処理装置、画像処理方法およびその方法をコンピュータに実行させるためのプログラムに関する。
従来、複数のカメラ(撮像装置)から入力された画像を1枚の画像に繋ぎ合わせる技術が知られている(例えば、特許文献1参照。)。例えば、2つのカメラで撮影した画像を合成する場合、各カメラの視点がずれている程、画像のつなぎ目で不連続が目立ってしまう。そのため、各カメラの視野の重複する画像部分において、相関計算を行い、画像に変形を加えたり、もしくは、つなぎ目で不連続がより小さい画像を選択するなどの複雑な処理を必要とし、実時間性に乏しいものであった。
そこで、上述のような複雑な処理を減らすために、視点一致光学系を備える複数の撮像装置で画像を撮像し、それにより得られる画像を用いて合成処理を行うことが考えられた(例えば、特許文献1参照。)。
特開2003−141562号公報
しかし、特許文献1に記載のように、視点一致光学系を備える複数の撮像装置で撮像した画像を用いて合成画像を生成した場合であっても、その合成画像内の一つの領域は、一つ撮像装置の画像領域のみから作られるため、すなわち領域毎に撮像装置が違い、撮像装置の色味の違いなどが目立ってしまう問題があった。
本発明は斯かる点に鑑みてなされたものであり、視点が一致する複数の撮像装置で撮像された画像を用い、つなぎ目なくかつ高速に合成処理を行えるようにすることを目的とする。
上記課題を解決するため、本発明の画像処理装置の一側面は、視点一致光学系を備える複数の撮像装置で撮像された複数の画像を合成する画像処理装置であって、入力された第1および第2入力画像の各々の入力画像平面を、画像の合成が行われる出力画像平面に投影し、出力画像平面における第1および第2入力画像の投影されるそれぞれの領域を算出し、出力画像平面上での第1および第2入力画像の重複部分の混合比を算出し、重複部分の混合比を入力画像平面に逆投影し、重複部分の混合比が逆投影された各々の入力画像平面において第1および第2入力画像の画素毎に混合比を算出し、この画素毎の混合比により出力画像平面上で第1および第2入力画像を合成することを特徴とする。
上記構成によれば、視点一致系の光学系を用いることで視差のない画像を取得し、重複する画像の適切な混合比を求めておく。そして、一旦求めた重複部分の混合比を入力画像平面に逆投影し、当該重複部分の混合比が逆投影された各々の入力画像平面において第1および第2入力画像の画素毎に混合比を算出するので、入力画像が重複する部分で入力画像間の画質、色味等のズレが抑えられる。また、所定数の画素を単位とした画像合成も実現可能になる。
また、本発明の画像処理装置の他の側面は、上記画像処理部が、上記第1および第2入力画像をそれぞれ複数の区画に分割し、各区画を構成する頂点の座標を出力画像平面上の座標に変換し、区画を単位として第1および第2入力画像の合成を行うことを特徴とする。
上記構成によれば、ピクセル単位ではなく所定の区画単位でまとめて、つまりパッチベースで合成処理が行えるので、高速な画像合成が可能になる。
本発明によれば、視点が一致する複数の撮像装置で撮像された複数の画像を、つなぎ目なく、高速に合成することができる。
以下、本発明を実施するための最良の形態の例を、図1〜図11を参照して説明する。
本発明の一実施形態に係る画像処理装置が適用されるシステムを図1に示す。図1に示すシステムにおいては、視点一致光学系を備える複数のカメラ(撮像装置)からの画像を入力として画像処理を行い、複数映像の高速な合成処理を実現する。
図1において、カメラ1,2,3は、それぞれ視点一致光学系を備えるカメラである。各カメラの視点(焦点)が略一致し、かつ隣り合うカメラの撮像領域の一部が重なるように配置されている。視点一致光学系に関しては、一例として本出願人が先に出願した特開2004−184862号公報などに記載されているものなどがある。このようなカメラ1〜3は、視点一致光学系を持つため、複数のカメラから入力される画像は視差を持たず、適切な投影中心を設定し、単一の画像平面(もしくは非平面画像)に対して入力画像を投影することでつなぎ目のない画像を合成することが可能である。画像の合成に関しては、例えば特開2004−184862号公報など、種々の方法が提案されている。
画像入力部4は、複数のカメラ1〜3で撮像された画像を受信し、後段の画像処理部へ出力する。
画像処理部5は、画像入力部4から入力された複数の画像を受信して、後述する画像処理を行い、画像を合成する。合成された画像は、後段の画像表示部6へ出力される。
画像表示部6は、画像処理部5より出力された画像をディスプレイ等の表示画面に表示する。
ここで、画像処理部5についてより詳細に説明する。
画像処理部5の構成例を図2に示す。図2に示すように、画像処理部5は、テクスチャ記憶部7、混合比記憶部8、座標変換演算部9、混合比計算部10、メッシュ分割部11、頂点座標演算部12、テクスチャレンダリング演算部13から構成される。
テクスチャ記憶部7は、画像入力部4から画像を受信するともに、受信した画像を処理可能な形式、テクスチャに変換して記憶する。
混合比記憶部8は、入力された複数の画像のうち、重複する画像部分の混合比を記憶するものである。この混合比は、入力画像の番号とともに、出力画像平面のピクセル座標と関連付けて記憶する。また、記憶された混合比に基づき選択した入力画像のピクセルにおける混合比が求められ、この混合比を入力画像のピクセルの座標値と関連付けて記憶する。なお、後述する座標変換演算部9の座標変換結果を一時的に混合比記憶部8で記憶するようにしてもよい。
座標変換演算部9は、入力された複数の画像の各々の入力画像平面を、画像の合成が行われる出力画像平面に投影(座標変換)し、出力画像平面における複数の入力画像の投影されるそれぞれの領域を算出する。算出された座標変換結果は図示しない記憶部もしくは混合比記憶部8に保存される。
混合比計算部10は、第1に、上記座標変換演算部9にて、画像を合成する出力画像平面における複数の入力画像の投影されるそれぞれの領域が算出された後、その結果に基づいて、出力画像平面上での複数の画像の重複部分の混合比を算出する。第2に、重複部分の混合比を入力画像平面に逆投影し、重複部分の混合比が逆投影された各々の入力画像平面において複数の入力画像の画素毎に混合比を算出する。混合比の算出結果は、混合比記憶部8に保存される。
メッシュ分割部11は、混合比計算部10にて混合比が計算された画像について、画像を複数の区画に分割する。
頂点座標演算部12は、分割された画像の各区画を構成する頂点の座標を出力画像平面上の座標に変換する処理を行う。
テクスチャレンダリング演算部13は合成処理部として機能し、メッシュ分割部11で分割された区画を単位として、頂点座標演算部12による座標変換結果に基づき所定の画像合成処理を行い、合成後の画像を、画像表示部6へ出力する。なお、この例ではテクスチャレンダリングとしたが、これに限るものではない。
各部の機能は、例えばCPU(Central Processing Unit)等に代表されるような演算処理装置が、図示しない半導体メモリ等からなる記憶装置に記憶された制御プログラムを読み出して実行することにより、機能する。
一般に、画像の合成は、例えば、特開2003−141562号公報にあるように、視点一致光学系の視点を原点とした、図3に示すような3次元空間を考え、y軸を中心軸として持つ円筒面に視点一致光学系を持つ複数のカメラからの入力画像21を投影し、円筒上をθ-φの極座標によるサンプリングをすることで得られるθφ平面22における画像合成などが挙げられる。
図3のような画像合成面への投影例として、一例として図4に示すような画像合成例を挙げる。図4は、画像I0とI1から、円筒面上での画像I2を合成する場合の、画像の3次元空間中での関係を示したものである。画像I0とI1は平面形状の画像面を持ち、画像I2は円筒型の画像面を持っている。なお図中、Wx,Wy,Wzはワールド座標系であり、φmin,θmax,およびφmin,φmaxはそれぞれ、円筒面を持つ画像I2のθφ平面の範囲(上限値、下限値)を示している。
画像I2を求めるには、一般的には、画像I2の画像面上のピクセル一つについて注目し、そのピクセルに対応する位置(方向)を撮影している画像を求め、その画像中の対応点の画素値からI2の画素値を決定する。その様子を図5に示す。
例えば、画像I2のWx−Wz平面上の画像がIPであるとき、画像IP上のピクセルP1に対応するのは画像I1であり、その対応点の座標23の画素値を取得する。また、画像IP上のピクセルP2には画像I1,I2の双方が対応し、それぞれの対応点の座標24,25の画素値を取得する。これらの画素値を画像I2の出力合成画像26の対応する座標に投影する。
上述した対応する点は、例えば以下の式に示すような周知の方法に従って求められる。
ここで、mは画像座標を表し、添え字のIは入力画像を、Oは出力画像の座標を表す。
そして、画像座標mは、
で表される。添え字のiは画像の意味である。
ここで挙げた例のように、カメラで撮影した複数の画像を1枚の画像に合成する場合には、変換d、f、gは、それぞれ、レンズ歪み変換、透視投影変換、極座標→デカルト座標変換にあたり、次の各式で表される。
この例の場合、gは円筒型の画像平面上のピクセルの座標をワールド座標系の座標に変換するための関数となる。ここで、θ、φはワールド座標系における極座標の方向成分であり、θmax、θmin、φmax、φminは、円筒形の画像面の存在範囲である。また、w、hはそれぞれ出力画像の縦、横サイズで、xはワールド座標を表す。
次に、式(7)のfはワールド座標系における点を透視投影で画像平面上へ射影する関数となる。ここで、TVは透視投影変換行列を表し、Rは3次元の回転行列を表す。
最後に、式(8)のdは歪み関数であり、上式中で、mcは画像中の歪み中心座標を表し、k1は歪み係数を表す。実際には、このdの逆関数を求めることはできないため、多項式の根を数値演算により求めたり、2分法などの探索法により解を求めたりする必要がある。
このとき、実際には、図6に示すフローチャートのような処理が行われる。まず、出力画像平面のピクセルを一つ選択する(ステップS1)。次に、入力画像を一つ選択する(ステップS2)。そして、入力画像平面に選択したピクセルを投影する(ステップS3)。投影後のピクセル位置に入力画像のレンズ歪みを付加する(ステップS4)。
ここで、歪み付加後のピクセル座標が入力画像の範囲内か否かを判定し、範囲内の場合はステップS6へ、それ以外はステップS8へ移行する(ステップS5)。
範囲内の場合、歪み付加後のピクセル座標の画素値を入力画像から補間により求める(ステップS6)。そして、求めた画素値を出力画像平面のピクセルに代入し(ステップS7)、ステップS9へ移行する。
一方、ステップS5の判断処理にて、歪み付加後のピクセルが入力画像の範囲内でない場合、ピクセルに対して選択されていない入力画像が存在するか否かを判定し、存在しない場合はステップS9へ移行し、存在する場合はステップS2へ戻る(ステップS8)。
存在しない場合、まだ選択されていない出力画像平面のピクセルは存在するか否かを判定し、存在しない場合は画像合成処理を終了し、存在する場合にはステップS1へ戻る(ステップS9)
このような処理を行うことで、視点一致光学系を持つ複数のカメラからの入力画像を1枚の画像に合成することができる。しかし、入力画像はカメラの個体差などで色味が違っていたり、光学系のわずかな視点のズレ(組み立て精度などに起因する)などにより、画像の重複部分でつなぎ目が認識できてしまう場合がある。そのため、画像重複部分では、重複している画像をブレンドすることで、つなぎ目を分かりにくくする処理が行われる。この処理はブレンド処理などと呼ばれる。
ブレンド処理を行う場合の画像合成処理のフローチャートを図7に示す。図7において、画像合成を開始後、まず出力画像平面のピクセルを一つ選択する(ステップS11)。次に、入力画像を一つ選択する(ステップS12)。そして、座標変換演算部9は入力画像平面に選択したピクセルを投影する(ステップS13)。この投影後のピクセル位置に入力画像のレンズ歪みを付加する(ステップS14)。
ここで、歪み付加後のピクセル座標が入力画像の範囲内か否かを判定し、範囲内の場合はステップS16へ、それ以外はステップS18へ移行する(ステップS15)。
範囲内の場合、歪み付加後のピクセル座標の画素値を入力画像から補間により求める(ステップS16)。そして、歪み付加後のピクセル座標と入力画像番号とを出力画像平面のピクセル座標と関連付けて記憶装置等の記憶手段へ記憶する(ステップS17)。記憶した後、ステップS18へ移行する。
ここで、出力画像平面のピクセルに対し選択されていない入力画像が存在するか否かを判定し、存在しない場合はステップS19へ移行し、存在する場合はステップS12へ戻る(ステップS18)。
存在しないと判断された場合、まだ選択されていない出力画像平面のピクセルは存在するか否かを判定し、存在しない場合はステップS20へ移行し、存在する場合にはステップS11へ戻る(ステップS19)
存在しないと判断された場合、出力画像平面のピクセルを一つ選択する(ステップS20)。
次に、ステップS17の処理でピクセル座標と関連付けられている入力画像番号が2つ以上あるか否かを判定し、2つ以上ある場合にはステップS22へ、それ以外の場合にはステップS25へ移行する(ステップS21)。
そして、入力画像番号が2つ以上あると判断された場合、混合比計算部10はその入力画像の混合比を求めて記憶されている画素値を使ってブレンド処理を行い画素値を求める(ステップS22)。
一方、ステップS21の判断処理において、ステップS17の処理でピクセル座標と関連付けられている入力画像番号が2つ以上はないと判断された場合、ステップS17の処理でピクセル座標と関連付けられている入力画像番号が一つか否かを判定し、一つの場合はステップS26へ、それ以外はステップS27へ移行する(ステップS25)。
ステップS25の判断処理で一つと判断された場合、予め記憶されている画素値を求める(ステップS26)。画素値が求められたらステップS23へ移行する。
ステップS22,S26で求めた出力画像平面のピクセルに求めた画素値を代入する(ステップS23)。画素値を代入後、ステップS24へ移行する。
また、ステップS25の判断処理でそれ以外と判断された場合、出力画像平面のピクセルに求めた画素値を代入する(ステップS27)。画素値を代入後、ステップS24に移行する。
そして、ステップS23,S27にて画素値の代入が終了後、まだ選択されていない出力画像平面のピクセルは存在するか否かを判定し、存在しない場合は画像合成処理を終了し、存在する場合はステップS20へ戻る(ステップS24)。
ここで、出力画像上のピクセルPoutにおけるn番目の入力画像Inの混合比αnは、以下の式(9)で表される(詳しくは、P.E.Danielsson著、Euclidean Distance Mapping、Computer Graphics and Image Processing 14、P.227-248、1980 などを参照)。
ここに、kは投影の結果Poutと関連付けされて記憶されている画像番号の集合、rnは、出力画像平面において、点Poutから最も近い、入力画像Inが投影されない画素までの出力画像平面上での距離である。一例を図8に示す。図8において、斜線部は画像の投影される範囲である。
図8に示されているマスが出力画像平面31上のピクセルを表し、斜線部のピクセルが入力画像Inが投影されるピクセルであることを表す。図8では一例として2つのピクセル32,34について距離rを計算してある。計算の結果、重複部分のピクセル32から重複部分でない最も近いピクセル33までの距離rは2である。また重複部分のピクセル34から重複部分でない最も近いピクセル35までの距離rは3.162である。
このようにして求めた混合比により、入力画像の画素値を混合することで、出力画像平面において入力画像が重複する部分で、入力画像間の色味のズレなどが分かりにくくなる。
しかし、このようにして出力画像の画素値を求める場合、処理は出力画像のピクセル毎の処理となり、入力画像数が多く、画像の解像度が高い場合には、非常に演算量の多い、重い処理となり、実時間性に問題がある。
そこで、こうして求められた混合比を再度入力画像平面に逆投影し、逆投影後の入力画像平面の画素毎に混合比を求め、その混合比を用いた加算ブレンディングを行うテクスチャマッピングにより、パッチベースの、つまりピクセルではなくまとまった画像領域を単位として高速に画像処理が実現できる画像合成方法を提案する。そのときの処理を示すフローチャートを、図9,図10に示す。
図9,図10は本発明によるバッチペースの画像合成処理を示すフローチャートであり、図11を参照して説明する。
図9において、画像合成を開始後、まず出力画像平面のピクセルを一つ選択する(ステップS31)。次に、入力画像を一つ選択する(ステップS32)。そして、座標変換演算部9は入力画像平面に選択したピクセルを投影する(ステップS33)。この投影後のピクセル位置に入力画像のレンズ歪みを付加する(ステップS34)。
ここで、歪み付加後のピクセル座標が入力画像の範囲内か否かを判定し、範囲内の場合はステップS36へ、それ以外はステップS37へ移行する(ステップS35)。
範囲内の場合、歪み付加後のピクセル座標と入力画像番号とを出力画像平面のピクセル座標と関連付けて記憶装置等の記憶手段へ記憶する(ステップS36)。記憶した後、ステップS37へ移行する。
ここで、出力画像平面のピクセルに対し選択されていない入力画像が存在するか否かを判定し、存在しない場合はステップS38へ移行し、存在する場合はステップS32へ戻る(ステップS37)。
存在しないと判断された場合、まだ選択されていない出力画像平面のピクセルは存在するか否かを判定し、存在しない場合はステップS39へ移行し、存在する場合にはステップS31へ戻る(ステップS38)。
存在しないと判断された場合、出力画像平面のピクセルを一つ選択する(ステップS39)。
次に、ステップS36の処理でピクセル座標と関連付けられている入力画像番号が2つ以上あるか否かを判定し、2つ以上ある場合にはステップS41へ、それ以外の場合にはステップS42へ移行する(ステップS40)。
そして、入力画像番号が2つ以上あると判断された場合、混合比計算部10はその入力画像の混合比を求める(ステップS41)。混合比が求められたらステップS44へ移行する。
一方、ステップS40の判断処理において、ステップS36の処理でピクセル座標と関連付けられている入力画像番号が2つ以上はないと判断された場合、ステップS36の処理でピクセル座標と関連付けられている入力画像番号が一つか否かを判定し、一つの場合はステップS43へ、それ以外はステップS45へ移行する(ステップS42)。
ステップS42の判断処理で入力画像番号が一つと判断された場合、混合比計算部10は混合比を1にする(ステップS43)。混合比が求められたらステップS44へ移行する。
ステップS41,S43で求めた混合比と入力画像番号とを出力画像平面のピクセル画像と関連付けて混合比記憶部8に記憶する(ステップS44)。記憶後、ステップS45へ移行する。
次に、まだ選択されていない出力画像平面のピクセルは存在するか否かを判定し、存在しない場合はステップS46へ移行し、存在する場合はステップS39へ戻る(ステップS45)。
ステップS45の判断処理にてまだ選択されていない出力画像平面のピクセルが存在すると判断された場合、入力画像を一つ選択する(ステップS46)。次に、選択された入力画像平面のピクセルを一つ選択する(ステップS47)。続いて、選択したピクセルの歪みを除去する(ステップS48)。そして、座標変換演算部9は歪みを除去した点を出力画像平面へ投影する(ステップS49)。
ここで、投影後のピクセル座標は出力画像の存在範囲内か否かを判定し、範囲内である場合はステップS51へ、範囲内でない場合はステップS52へ移行する(ステップS50)。
範囲内であると判断された場合、混合比計算部10はステップS44で記憶された混合比から選択した入力画像のピクセルにおける混合比を求める(ステップS51)。混合比を求めた後は、ステップS53へ移行する。
一方、範囲内でないと判断された場合、混合比計算部10は混合比を0とする(ステップS52)。混合比を0に設定後、ステップS53へ移行する。
そして、ステップS51,S52で算出された混合比を入力画像のピクセルの座標値と関連付けて混合比記憶部8に記憶する(ステップS53)。
ここで、まだ選択されていない出力画像平面のピクセルは存在するか否かを判定し、存在しない場合はステップS55へ移行し、存在する場合はステップS47へ戻る(ステップS54)。
次に、まだ選択されていない入力画像は存在するか否かを判定し、存在しない場合はステップS56へ移行し、存在する場合はステップS46へ戻る(ステップS55)。ここまでの処理を実行することで、混合比が投影された入力画像平面、すなわちαプレーン(α平面)を作っておく。
ステップS55の判断処理が終了後、入力画像を一つ選択する(ステップS56)。続いて、ステップS53で記憶された入力画像のピクセル毎の混合比をαプレーン(α平面)に対し設定する(ステップS57)。
次に、メッシュ分割部11は、入力画像をメッシュ(網目状)に、すなわち複数の区画に分割する(ステップS58)。続いて分割されたメッシュ(区画)の一つを選択する(ステップS59)。
頂点座標演算部12は、選択されたメッシュの頂点、すなわち区画を形成する頂点の歪みを除去し、出力画像平面へ投影した場合の座標を計算する(ステップS60)。
テクスチャレンダリング演算部13は、頂点座標演算部12で求められた座標を用いて、加算αブレンディングを行いながらテクスチャ記憶部7に記憶されているテクスチャに基づいてテクスチャレンダリングを行う(ステップS61)。
ここで、まだ選択されていないメッシュ(区画)は存在するか否かを判定し、存在しない場合はステップS63へ移行し、存在する場合はステップS59へ戻る(ステップS62)。
続いて、まだ選択されていない入力画像が存在するか否かを判定し、存在しない場合は画像合成処理を終了し、存在する場合はステップS56へ戻る(ステップS63)。
このような処理を行うことによって、パッチベースの処理を行うことが可能となり、PC(パーソナルコンピュータ)などで一般的に使われているビデオカードなどを用いることで、高速な処理が可能で、複数の視点一致光学系のカメラを用いてリアルタイムに画像合成、表示を行うことが可能となる。
図9,10の画像合成処理を模式図に表すと、一例として図11のように表される。カメラ1〜3のうちいずれか2つのカメラからの入力画像(1),(2)について合成処理を行う。入力画像(1),(2)はそれぞれオブジェクト41,51が存在し、このオブジェクト41,51は実際には様々な模様を持っているが、ここでは図を簡略化して白で表現している。
入力画像(1),(2)は、先に述べた方法で予め求められた混合比を設定(ステップS57参照)される。入力画像(1),(2)のオブジェクト42,52は混合比が階層的に設定された状態をグラデーション(濃淡)で表現されている。この設定された混合比に基づいて重複部分の加算αブレンディングを行う。
混合比を設定後、入力画像は、さらに適当な大きさのメッシュ(区画)に分割される(ステップS58)。分割されたメッシュ全てについて、メッシュ頂点の座標を、出力画像の対応する座標へ座標変換を行う。図11の例では一例として、入力画像(1),(2)のそれぞれのオブジェクト42,52に係るメッシュ43,53の頂点の座標を、出力画像60の対応する領域61の座標に変換する様子を示している。
座標変換する方法は、例えば、既述した式(1)の逆変換を行うなどすればよい。求めた座標を基に、出力画像60に対し、加算αブレンディングを行いながら、テクスチャレンダリング処理を行うことで、複数の画像が合成された出力画像を得ることができる。
テクスチャレンダリング処理に関しては、一般的に行われる処理であるため、詳細の説明は省略するが、一般にGPU(Graphics Processing Unit)を用いて計算させることで、非常に高速に処理を行うことができる。
次に、本発明の他の実施形態について説明する。図12は他の実施形態のシステム構成例を示したものである。図12は、図1に示した視点一致光学系カメラ1〜3からの複数の映像を受信する画像入力部4を、例えばPC(パーソナルコンピュータ)70内に設置されたビデオキャプチャボード71、画像処理部5をビデオカード72、画像表示部6をディスプレイ74としたものである。CPU73はPC70全体の制御を司るものであり、例えばビデオカード72に対して画像処理開始指令などを出力する。
視点一致光学系カメラ1〜3で撮像された映像を、ビデオキャプチャボード71でキャプチャし(取り込み)、その映像をビデオカード72に送信し、ビデオカード72上でαブレンディング、テクスチャレンダリング処理を行い、処理した結果をディスプレイ74に表示するシステムである。ビデオキャプチャボード71は動画の取り込み機能を有するが、視点一致光学系を備えるカメラおよび本発明の画像合成処理を適用することで動画の画像合成にも対応することができる。
以上説明したように、視点一致系の光学系を用いることで視差のない画像を取得し、取得した画像の適切な混合比を求めておくことで、パッチベースの処理(領域単位での処理)を行うことができる。これにより、高速な画像合成が可能となり、複数カメラからの入力画像をリアルタイムで合成することができる。
本発明は、上述した各実施形態の例に限定されるものではなく、本発明の要旨を逸脱しない範囲において、種々の変形、変更が可能であることは勿論である。
本発明の一実施形態に係るシステム構成例を示す図である。 本発明の一実施形態に係る画像処理部のブロック構成例を示す図である。 入力画像の画像合成面への投影例を示す図である。 画像合成の説明に供する図である。 一般的な画像合成処理例を示す図である。 画像合成処理を示すフローチャートである。 ブレンド処理をする場合の画像合成処理を示すフローチャートである。 ブレンド処理における距離rの説明に供する図である。 本発明の一実施形態に係る画像処理を示すフローチャート(前半)である。 本発明の一実施形態に係る画像処理を示すフローチャート(後半)である。 本発明の一実施形態に係る画像合成処理を示す模式図である。 本発明の他の実施形態に係るシステム構成例を示す図である。
符号の説明
1,2,3…カメラ、4…画像入力部、5…画像処理部、6…画像表示部、7…テクスチャ記憶部、8…混合比記憶部、9…座標変換演算部、10…混合比計算部、11…メッシュ分割部、12…頂点座標演算部、13…テクスチャレンダリング演算部、41,42,51,52,62…オブジェクト、43,53,61…区画、60…出力画像

Claims (5)

  1. 視点一致光学系を備える複数の撮像装置で撮像された複数の画像を合成する画像処理装置であって、
    入力された第1および第2入力画像の各々の入力画像平面を、画像の合成が行われる出力画像平面に投影し、前記出力画像平面における前記第1および第2入力画像の投影されるそれぞれの領域を算出し、前記出力画像平面上での前記第1および第2入力画像の重複部分の混合比を算出し、前記重複部分の混合比を前記入力画像平面に逆投影し、前記重複部分の混合比が逆投影された各々の入力画像平面において前記第1および第2入力画像の画素毎に混合比を算出し、前記画素毎の混合比により前記出力画像平面上で前記第1および第2入力画像を合成する画像処理部
    を備えることを特徴とする画像処理装置。
  2. 前記画像処理部は、
    前記第1および第2入力画像をそれぞれ複数の区画に分割し、各区画を構成する頂点の座標を前記出力画像平面上の座標に変換し、前記区画を単位として前記第1および第2入力画像の合成を行う
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 視点一致光学系を備える複数の撮像装置で撮像された複数の画像を合成する画像処理装置であって、
    前記複数の撮像装置から入力される画像を受信する画像入力部と、
    入力された第1および第2入力画像の各々の入力画像平面を、画像の合成が行われる出力画像平面に投影し、前記出力画像平面における前記第1および第2入力画像の投影されるそれぞれの領域を算出し、前記出力画像平面上での前記第1および第2入力画像の重複部分の混合比を算出し、前記重複部分の混合比を前記入力画像平面に逆投影し、前記重複部分の混合比が逆投影された各々の入力画像平面において前記第1および第2入力画像の画素毎に混合比を算出し、前記画素毎の混合比により前記出力画像平面上で前記第1および第2入力画像を合成する画像処理部と、
    前記第1および第2入力画像が合成された画像を外部へ出力する画像出力部と
    を備えることを特徴とする画像処理装置。
  4. 視点一致光学系を備える複数の撮像装置で撮像された複数の画像を合成する画像処理方法であって、
    入力された第1および第2入力画像の各々の入力画像平面を、画像の合成が行われる出力画像平面に投影する過程と、
    前記出力画像平面における前記第1および第2入力画像の投影されるそれぞれの領域を算出する過程と、
    前記出力画像平面上での前記第1および第2入力画像の重複部分の混合比を算出する過程と、
    前記重複部分の混合比を前記入力画像平面に逆投影する過程と、
    前記重複部分の混合比が逆投影された各々の入力画像平面において前記第1および第2入力画像の画素毎に混合比を算出する過程と、
    前記画素毎の混合比により前記出力画像平面上で前記第1および第2入力画像を合成する過程と
    を有することを特徴とする画像処理方法。
  5. 視点一致光学系を備える複数の撮像装置で撮像された複数の画像を合成する画像処理を行うものであって、
    入力された第1および第2入力画像の各々の入力画像平面を、画像の合成が行われる出力画像平面に投影する手順と、
    前記出力画像平面における前記第1および第2入力画像の投影されるそれぞれの領域を算出する手順と、
    前記出力画像平面上での前記第1および第2入力画像の重複部分の混合比を算出する手順と、
    前記重複部分の混合比を前記入力画像平面に逆投影する手順と、
    前記重複部分の混合比が逆投影された各々の入力画像平面において前記第1および第2入力画像の画素毎に混合比を算出する手順と、
    前記画素毎の混合比により前記出力画像平面上で前記第1および第2入力画像を合成する手順を
    コンピュータに実行させるためのプログラム。
JP2006030122A 2006-02-07 2006-02-07 画像処理装置、画像処理方法およびその方法をコンピュータに実行させるためのプログラム Pending JP2007213161A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006030122A JP2007213161A (ja) 2006-02-07 2006-02-07 画像処理装置、画像処理方法およびその方法をコンピュータに実行させるためのプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006030122A JP2007213161A (ja) 2006-02-07 2006-02-07 画像処理装置、画像処理方法およびその方法をコンピュータに実行させるためのプログラム

Publications (1)

Publication Number Publication Date
JP2007213161A true JP2007213161A (ja) 2007-08-23

Family

ID=38491560

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006030122A Pending JP2007213161A (ja) 2006-02-07 2006-02-07 画像処理装置、画像処理方法およびその方法をコンピュータに実行させるためのプログラム

Country Status (1)

Country Link
JP (1) JP2007213161A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106595873A (zh) * 2017-01-03 2017-04-26 哈尔滨工业大学 基于长波红外大气底层辐射和可见光波段线性混合模型的亚像元温度反演方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106595873A (zh) * 2017-01-03 2017-04-26 哈尔滨工业大学 基于长波红外大气底层辐射和可见光波段线性混合模型的亚像元温度反演方法
CN106595873B (zh) * 2017-01-03 2019-03-29 哈尔滨工业大学 基于长波红外大气底层辐射和可见光波段线性混合模型的亚像元温度反演方法

Similar Documents

Publication Publication Date Title
JP4832878B2 (ja) 画像合成処理装置及び方法
JP3450833B2 (ja) 画像処理装置及びその方法並びにプログラムコード、記憶媒体
JP3930898B2 (ja) 画像合成装置および画像合成方法
JP4065488B2 (ja) 3次元画像生成装置、3次元画像生成方法及び記憶媒体
JP4803594B2 (ja) 局所領域分割による自由視点画像の生成装置およびプログラム
JP2008083786A (ja) 画像生成装置および画像生成方法
JP2009037301A (ja) 局所領域分割による自由視点画像の生成方法
WO2005024723A1 (ja) 画像合成システム、画像合成方法及びプログラム
US20170061686A1 (en) Stage view presentation method and system
JP2007299062A (ja) 情報処理方法、情報処理装置
JP6846661B2 (ja) 3次元的な投影対象のための投影方法及び装置
JP4871820B2 (ja) 映像表示システム及び該システムのパラメータ生成方法
JP6719596B2 (ja) 画像生成装置、及び画像表示制御装置
JP4464773B2 (ja) 3次元モデル表示装置及び3次元モデル表示プログラム
JP2006350852A (ja) 画像生成システム
KR101819984B1 (ko) 실시간 영상 합성 방법
WO2018087856A1 (ja) 映像合成装置及び映像合成方法
JP2001052152A5 (ja)
JP5249733B2 (ja) 映像信号処理装置
JP2005063041A (ja) 3次元モデリング装置、方法、及びプログラム
JP6391356B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2821042B2 (ja) 画像合成装置
JPH11328443A (ja) 三次元パノラマ画像生成システム、三次元パノラマ画像生成方法及び記録媒体
JP2007213161A (ja) 画像処理装置、画像処理方法およびその方法をコンピュータに実行させるためのプログラム
JPH10108003A (ja) 画像合成装置および画像合成方法