JP3851384B2 - 画像合成装置および方法 - Google Patents
画像合成装置および方法 Download PDFInfo
- Publication number
- JP3851384B2 JP3851384B2 JP24664096A JP24664096A JP3851384B2 JP 3851384 B2 JP3851384 B2 JP 3851384B2 JP 24664096 A JP24664096 A JP 24664096A JP 24664096 A JP24664096 A JP 24664096A JP 3851384 B2 JP3851384 B2 JP 3851384B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- matching
- target
- search
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 177
- 239000000203 mixture Substances 0.000 title claims description 49
- 238000003384 imaging method Methods 0.000 claims description 57
- 238000006243 chemical reaction Methods 0.000 claims description 48
- 239000002131 composite material Substances 0.000 claims description 46
- 230000002194 synthesizing effect Effects 0.000 claims description 26
- 239000011159 matrix material Substances 0.000 claims description 8
- 238000006073 displacement reaction Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 description 60
- 238000010586 diagram Methods 0.000 description 22
- 230000015572 biosynthetic process Effects 0.000 description 13
- 238000003786 synthesis reaction Methods 0.000 description 13
- 238000001514 detection method Methods 0.000 description 7
- 238000013519 translation Methods 0.000 description 7
- 238000012937 correction Methods 0.000 description 6
- 230000000737 periodic effect Effects 0.000 description 6
- 238000003672 processing method Methods 0.000 description 5
- 238000001308 synthesis method Methods 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 238000012935 Averaging Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
Images
Classifications
-
- G06T5/80—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/387—Composing, repositioning or otherwise geometrically modifying originals
- H04N1/3876—Recombination of partial images to recreate the original image
Description
【発明の属する技術分野】
本発明は、撮像素子を用いた1回の撮像動作だけで得られる画像よりも画素数が多く、高解像度、または広画角および広範囲の画像を得るための画像合成装置および方法に関する。
【0002】
【従来の技術】
近年、いわゆるスキャナとして用いられる画像合成装置には、たとえばCCDラインセンサであるような、受光領域が直線状に配列された1次元の撮像素子が用いられる。この画像合成装置で出力画像を得るとき、まず、被写体に対して、2次元平面上で、受光領域の配列方向と直交する方向に撮像素子を移動させつつ、被写体からの画像光を複数の異なる位置で撮像する。次いで、2次元平面上に、各撮像動作で得られた画像を、各撮像動作時の撮像素子の位置と同じ位置関係を保って並ぶように合成して、出力画像を得る。
【0003】
また、本件出願人は、特開平5−260264号公開公報において、受光領域が行列状に配列された2次元の撮像素子を用いて、撮像素子の受光領域数よりも多い数の画素から成る出力画像を得る技術を提案している。本公報の画像処理装置では、いわゆるCCDカメラである画像入力手段を、装置のオペレータが水平移動させつつ画像光を撮像して、複数の画像を得る。処理回路は、新たな画像が得られるたびに、まず新たな画像と合成画像とをマッチングして、これら画像の差異を求める。次いで、求めた差異に基づいて新たな画像を変形し、最後に、変形後の画像と合成画像とを合成することによって、新たな合成画像を得る。
【0004】
上述の2つの装置で得られる画像は、撮像素子から直接得られる画像と比較して、撮像素子の移動方向に沿った方向に並ぶ画素数は増加するが、移動方向と直交する方向の画素数は変わらない。画像の該直交する方向の画素数を増加させる手法として、複数の上述の出力画像を、上述の直交する方向に沿って並べて、さらに合成する手法がある。
【0005】
特開昭63−64180号公開公報には、上述の手法のイメージ画像合成方式が開示される。この画像合成方式の装置では、1次元の撮像素子を備え手動で移動可能なハンドスキャナを用いる。本方式では、まず、入力対象の原画像を、ハンドスキャナを用いた1回の走査で読取り可能な大きさの領域に分け、ハンドスキャナを原画像の表面に接触させたまま、前記領域の中心軸線に沿って移動させつつ撮像し、各領域の画像を得る。各領域の画像は、上述した1次元の撮像素子を用いた装置の出力画像と等価であり、また原画像の同一の部分を読取った重複領域をそれぞれ有する。次いで、各領域の画像の重複領域をマッチングして、画像内の被写体の像が一致する領域を求める。最後に、これらの像が重なるように各画像を平行移動させた後に重ね合わせて、イメージ画像の合成画像を得る。
【0006】
【発明が解決するべき課題】
上述のイメージ画像合成方式では、撮像素子を含むハンドスキャナを装置の操作者が手動で移動させているので、移動時に、ハンドスキャナに操作者の手の振れが加わることがある。また、同じ理由から、ハンドスキャナ内の撮像素子と入力対象の原画像の前記領域の中心軸線との相対位置が傾くことがある。さらに、ハンドスキャナには、原画像の表面上をハンドスキャナが滑らかに移動するために、原画像と接触する部分に1対のローラが備えられるが、このローラの滑りが1対のローラのうちの一方および他方で異なるとき、ハンドスキャナの移動速度が、一方のローラ近傍の部分と他方のローラ近傍の部分とで異なることがある。
【0007】
これらのことが起こると、得られる画像内で、たとえば被写体の像のずれおよび像の部分的な圧縮であるような、像の歪みが生じる。このような歪みが生じた画像は、画像を水平移動させただけでは、複数の画像の被写体の像が滑らかにつながらないので、合成後の画像の被写体の像に歪みが生じる。
【0008】
また、上述の特開平5−260264号公開公報の画像処理装置では、画像入力手段は、被写体から予め定める距離だけ離反した位置から被写体の画像光を撮像する。この画像入力手段は、装置のオペレータの手だけに支持されて中空に保持されるので、被写体との相対位置がずれやすい。このように相対位置がずれると、得られた合成対象の画像の被写体の像に、たとえば像のずれ、傾き、および倍率変化であるような、像の歪みが生じる。該装置は、画像合成時に被写体の像の歪みを補正しながら画像を合成するが、たとえばマッチングの誤差および補正誤差によって、像の歪みを全て補正することができずに歪みが残ることがある。
【0009】
本発明の目的は、受光領域の数の少ない撮像素子を用いて、被写体の像の歪みが小さく、高解像度の画像、または広画角および広範囲の画像を得ることができる画像合成装置および方法を提供することである。
【0010】
【課題を解決するための手段】
本発明は、合成対象となる被写体の異なる部分からの対象画像を表す対象画像信号を、隣接する対象画像間に重複領域を含むようにして複数生成する対象画像生成手段と、
対象画像生成手段によって生成される対象画像信号のうち、隣接する対象画像の組合わせ毎に、重複領域間で被写体の像のマッチングを求め、マッチングに基づいて重複領域間の相対位置のずれを検出する第1マッチング手段と、
第1マッチング手段によって相対位置のずれの検出が行われる対象画像の一方の重複領域内に、予め定める大きさを有する参照領域を複数設定し、対象画像の他方内に、検出される相対位置のずれに基づいて、参照領域よりも大きい探索領域を各参照領域毎に設定し、各参照領域内と該参照領域に対応する探索領域内との間で被写体の像のマッチングを求め、マッチングに基づいて各被写体の像間の相対位置のずれを各探索領域毎に検出する第2マッチング手段と、
第2マッチング手段によって検出される各相対位置のずれをそれぞれ打消すように各対象画像を部分的に拡大縮小変換しながら、隣接する対象画像の組合わせ毎に参照領域と該参照領域に対応する探索領域とを重畳させるように、全ての対象画像信号を合成し、被写体に対する単一の合成画像を表す合成画像信号を生成する画像合成手段とを含むことを特徴とする画像合成装置である。
【0011】
本発明に従えば、画像合成装置は、複数の対象画像を、その重複領域の被写体の像が一致するように合成して、単一の合成画像を得る。合成対象の対象画像は、たとえばビデオカメラであるような撮像装置で撮像された原画像である。
この撮像装置は、たとえば該撮像装置の1回の撮像動作で撮像可能な有限領域を水平および垂直移動させながら、同一被写体の各有限領域からの画像光を撮像して、対象画像となるべき原画像を得る。このとき、得られた原画像内における被写体の或る部分の像の位置が異なると、同一被写体を撮像しているにも拘わらず、たとえば撮像装置の光学系のレンズの歪みによって、被写体の像の形状に差異が生じることがある。また、たとえば撮像装置を画像合成装置の使用者が手で保持して移動させるとき、被写体と撮像装置との相対距離が各撮像時に変化することによって、原画像の被写体の像の大きさに差異が生じることがある。さらに、対象画像が上述の原画像を複数合成した合成画像であるとき、各原画像の被写体の像の差異が累積されて、上述の差異が大きくなることがある。
この画像合成装置の画像合成手法では、まず、各対象画像の重複領域の被写体の像のずれを表す指標となるマッチングを求める。このマッチングは、たとえば隣接する対象画像の組合わせ毎に、重複領域内の被写体の像の位置のずれ、および被写体の像の形状の変形の度合を表す。次いで、求められたマッチングから、被写体の像の相対位置のずれを検出する。最後に、検出されたずれおよび変形を補正するために、各重複領域の各参照領域とそれに対応する探索領域とを一致させるように重畳させ、かつ各対象画像を部分的に拡大縮小変換させながら、全ての対象画像を合成する。
これによって、上述の差異を補正して、対象画像よりも広画角および広範囲の合成画像、または高解像度の合成画像を得ることができる。また、ずれの相殺手法として、隣接する組合わせの対象画像の相対的な平行移動だけでなく、画像の部分的な拡大縮小変換も行うので、たとえば対象画像の生成時における部分的な撮像装置の倍率変化も補正することができる。
また、被写体のずれを検出するマッチング処理は2段階に分けて行う。具体的には、第1マッチング手段における1回目のマッチング処理では、重複領域の平行移動量を定めるための被写体のずれを大まかに検出する。第2マッチング手段における2回目のマッチング処理では、画像の変形の変形量を定める為の被写体のずれ量を1回目よりも詳細に検出する。ゆえに、第1マッチング手段のマッチング処理は、たとえば第2マッチング手段と同様の手法であって、かつ参照領域を第2マッチング手段の参照領域よりも大きく設定することができる。これによって、第1マッチング手段の処理量を減少させることができる。
さらに、第2マッチング手段のマッチング処理動作では、探索対象となる探索領域の位置を、第1マッチング手段の検出結果に基づき、たとえば対象画像内で最良のマッチングが得られる位置をおおよそ予測して、その位置を含むように設定する。したがって、対象画像内に目安なく機械的に探索領域を設定するときと比較して、該探索領域の大きさを小さくしても、探索すべき被写体の像のある位置と探索領域の位置とを一致させやすい。したがって、探索領域を小さくして、第2マッチング手段の処理量を減少させることができる。
【0012】
また本発明は、前記第1マッチング手段は、
まず、前記各隣接する対象画像の組合わせのいずれか一方の重複領域内の予め定める位置に、予め定める大きさの第1参照領域を設定し、いずれか他方の対象画像の重複領域内と該第1参照領域内との間で被写体の像とのマッチングを求め、求めたマッチングに基づいて、各被写体の像の相対的な平行ずれを検出し、
次いで、いずれか一方の重複領域内に、第1参照領域よりも小さい第2参照領域を、検出された相対的な平行ずれの方向と平行に少なくとも2つ設定し、いずれか他方の対象領域の重複領域内に、検出される相対的な平行ずれに基づいてこの平行ずれの方向に相対的に平行移動した位置に、重複領域の大きさよりも小さい第2探索領域を、各第2参照領域毎に設定し、
各第2探索領域内と、該第2探索領域に対応する第2参照領域内との間で、被写体の像とのマッチングを求め、求めたマッチングに基づいて、前記重複領域間の相対的な回転ずれを検出することを特徴とする。
本発明に従えば、上述の第1マッチング手段におけるマッチング処理は、2段階に分けて行われる。或る被写体に対する複数の対象画像は、上述した対象画像生成手段で生成されるが、平行に配列されるべき隣接する1対の対象画像内の被写体の像の相対位置がどのようにずれているかを、画像撮像時に判断することは困難である。たとえば、重複領域内の被写体の像が一致するように重ねられて左右に並べられた1対の対象画像のうち、右側の対象画像の上辺が左側の対象画像の上辺よりも相対的に突出しているか、または左側の対象画像の上辺が右側の対象画像の上辺よりも相対的に突出しているかを、画像撮像時に判断することは困難である。このずれが不明であると、重複領域間の相対位置のずれを検出するための参照領域および探索領域を設定すべき該重複領域内の最適な位置を定めることが困難になる。
本発明の第1マッチング手段では、まず、第1参照領域を用いて、1対の対象画像間での被写体の像の相対的な平行ずれを検出し、検出された相対的な平行ずれに基づいて、第2参照領域と第2検索領域との配置可能な場所を定める。次いで、第2参照領域と第2検索領域とを上述の配置可能な場所に設定して、重複領域間の被写体の像の相対的な回転ずれを求める。このようにマッチング処理を2段階に分けて行うことによって、1対の対象画像のずれの状態が不明な場合にも、2回目のマッチング処理の第2参照領域と第2探索領域とを、重複領域間の相対的な回転ずれを検出するために最適な位置に定めることができる。
また、1回目のマッチング処理で、重複領域間の相対的な平行ずれが大まかに検出されるので、2回目のマッチング処理の探索領域は、重複領域よりも小さくすることができる。さらに、2回目のマッチング処理では、重複領域内の2箇所でマッチングを求めるので、被写体の像の相対的な平行ずれだけでなく、相対的な回転のずれを検出することができる。
また、マッチング処理では、参照領域を小さくするほどマッチングの精度を向上させることができるが、探索すべき領域内で参照領域内の被写体の像と対応していない点を誤って一致した点とみなす誤りが生じる可能性が高くなる。ゆえに、1回目のマッチング処理の第1参照領域よりも2回目のマッチング処理の第2参照領域を大きくすることによって、上述した誤りが生じることを防止することができる。
【0013】
また本発明は、前記画像合成装置は、前記各隣接する対象画像の組合わせ毎に、前記第1マッチング手段で検出された重複領域間の相対位置のずれに基づいて、隣接する対象画像間の相対回転角度を求め、求めた相対回転角度を打消す方向に各対象画像を相対的に角変位させるように、対象画像信号を回転変換する回転変換手段をさらに含み、
前記第2マッチング手段は、回転変換手段によって相対位置が回転変換された対象画像の組合わせに対して、前記探索領域のマッチングを求めることを特徴とする。
本発明に従えば、前記画像合成装置は、第1マッチング手段におけるマッチング処理の後、前記1対の対象画像毎に、その相対位置のずれのうち、相対回転角度が表す回転移動のずれだけを回転変換によって先に補正し、補正後の対象画像に対して第2マッチング手段におけるマッチング処理を施す。このような回転補正を行った対象画像を合成することによって、合成後の画像内で像の回転移動に基づく、ずれおよび歪みが生じることを防止し、滑らかに像をつなげることができる。
また、第2マッチング手段におけるマッチング処理では、基本的に、重複領域内の複数の位置における被写体の像のずれの平行移動量だけを検出すれば良い。この平行移動量は、第1マッチング手段で一度検出されているので、第2マッチング手段のマッチング処理の探索領域をさらに小さくして、マッチング処理の処理量を減少させることができる。また、回転変換後に回転移動のずれが残るときでも、そのずれは微小であるので、探索領域を小さくしても検出することができる。
【0014】
また本発明は、前記第2マッチング手段は、複数の前記探索領域毎に求められるマッチングのうち、被写体の像が予め定める比較対象の適格性を持つ探索領域に対するマッチングだけを前記画像合成手段に与えることを特徴とする。
本発明に従えば、上述の画像合成手法では、第2マッチング手段で得られる複数のマッチングのうち、たとえば信頼性が高いマッチングだけを、画像合成手段における画像変形処理に用いる。信頼性が高いマッチングが得られるのは、たとえば、設定される各探索領域内の被写体の像が、予め定める比較対象の適格性を持つときである。この比較対象の適格性の指標は、たとえばマッチング処理の処理手法に関連し、定量的に検出可能な指標が選ばれることが好ましい。これによって、たとえば誤ったマッチングを用いて合成処理を行い、合成画像の被写体の像の歪みを増大させることを防止することができる。
【0015】
また本発明は、前記各対象画像は、複数の画素からそれぞれ構成され、
前記参照領域の大きさは、単一の画素の大きさ以上であり、
各探索領域に対する前記マッチングは、各探索領域内で、大きさおよび形状が前記参照領域と等しい探索範囲であって、かつ該探索範囲内の全画素の輝度を表す画素値の総和値が参照領域の画素値の総和値に最も近い探索範囲の位置で表され、
前記比較対象の適格性は、マッチングの探索範囲の画素値の総和値と、前記参照領域の画素値の総和値との差分値が、予め定める基準値未満であることを特徴とする。
本発明に従えば、第2マッチング手段では、いわゆるテンプレートマッチングと称される処理手法でマッチングを求める。このとき、前述の比較対象の適格性は、上述の探索範囲の全画素の画素値の総和値と、参照領域の画素値の総和値との差分値を指標とする。この差分値が予め定める基準値以上のとき、マッチングとして得られる探索範囲内の被写体の像は、探索領域内において、参照領域内の被写体の像と最も類似しているが、被写体内で参照領域の像とは異なる部分の像である可能性が高くなる。ゆえに、このような探索範囲の位置を表すマッチングを除去することが好ましい。
【0016】
また本発明は、前記各対象画像は、複数の画素からそれぞれ構成され、
前記参照領域の大きさは、単一の画素の大きさ以上であり、
各探索領域に対する前記マッチングは、各探索領域内で、大きさおよび形状が前記参照領域と等しい探索範囲であって、かつ該探索範囲内の全画素の輝度を表す画素値の総和値が、参照領域の画素値の総和値に最も近い探索範囲の位置で表され、
前記比較対象の適格性は、マッチングの探索範囲内の画素値のうちの最大値と最小値との差分値が、予め定める基準値以上であることを特徴とする。
本発明に従えば、第2マッチング手段では、いわゆるテンプレートマッチングと称される処理手法で、マッチングを求める。このとき、前述の比較対象の適格性は、上述の探索領域の全画素の画素値のうち、最大値と最小値との差分値を指標とする。この差分値が予め定める基準値未満のとき、探索領域内の画像は、たとえば真っ白な像であるような、輝度変化の少ない像であると考えられる。このような探索領域内に位置を変えて探索範囲を複数設定しても、各探索範囲内の像がほとんど等しいので、正しいマッチングを得ることが困難になる。ゆえに、このような探索領域におけるマッチングは、除去することが好ましい。
【0017】
また本発明は、前記比較対象の適格性は、前記探索領域内の被写体の像が、同一の輝度変化で同一の形状の部分が周期的に複数回繰返さないことを特徴とする。
本発明に従えば、前述の比較対象の適格性は、上述の周期性を有する被写体の像を除くように定められる。このような被写体の像としては、たとえば、直線、および或るパターンの像が複数並べられる模様が挙げられる。探索領域内の像がこのような周期性を有するとき、複数の探索範囲のうち複数の該範囲内の像が等しくなるので、このうちどの探索範囲が参照領域の被写体の像と同一の部分であるのかを判断することが困難になる。ゆえに、このような探索領域におけるマッチングは、除去することが好ましい。
【0018】
また本発明は前記対象画像は、複数の画素が予め定める一方および他方方向に沿って行列状に配列されて形成され、
前記拡大縮小変換は、各対象画像毎に、重複領域内で一方方向に略平行な予め定める変換基準軸線と各画素との距離を拡大または縮小し、さらに他方方向に沿って直線状に並べられる複数の画素から成る画素群の相互の間隔を拡大または縮小して、画素配列を変換することを特徴とする。
本発明に従えば、前述の画像合成手段の拡大縮小変換手法では、上述したように、変換基準軸線を固定して、矩形の像が台形の像に変形されるような台形変換を行う。たとえば、拡大縮小変換において、前述の被写体の像のずれに応じて上述の画素群を平行移動させるだけの手法を用いると、該ずれが蓄積されて、合成画像全体の被写体の像に歪みが生じることがある。この歪みは、特に3枚以上の対象画像を合成するときに現れる。上述の台形変換を行えば、該ずれは各対象画像内の画素群単位で相殺されるので、他の対象画像に影響を及ぼさない。したがって、上述の平行移動と類似の手法で、かつずれの蓄積を防止することができる。また、各画素群単位でずれを相殺するので、画素の行列状の配列のうち、行または列のいずれかに関し、各行または列の間隔、および単一行または列の画素間隔以外の配列関係を保持することができる。
【0019】
また本発明は、前記変換基準軸線は、前記第2マッチング手段の各参照領域の中心を通過することを特徴とする。
本発明に従えば、少なくとも変換前に変換基準軸線上に配列された複数の画素は、一方方向に隣接する画素間の間隔は変化しても、変換後も変換基準軸線上に位置する。この変換軸線上に前述の第2マッチング手段の複数の参照領域を設定すると、3枚以上の対象画像を合成する場合であって、或る隣接する組合わせの対象画像の合成後、該合成結果の画像にさらに他の対象画像または合成結果の画像を合成するとき、参照領域の他方方向へのずれがないので、演算処理の処理量が減少する。したがって、合成処理の処理量が減少する。
【0020】
また本発明は、前記対象画像および合成画像は、複数の画素からそれぞれ形成され、
合成画像の全画素のうち、対象画像の前記重複領域に対応する部分の各画素の輝度を表す画素値は、該画素に対応する対象画像の2つの重複領域の各画素の画素値に、重複領域の予め定める合成基準軸線からの距離に対応して定める重みを付けて加重平均した値であることを特徴とする。
本発明に従えば、前述の画像合成装置で得られる合成画像のうち、各対象画像の重複部分に対応する部分は、各隣接する組合わせの対象画像が重ねられて形成される。この部分の画素値は、重ねられた2つの重複領域の各画素の画素値を加重平均して得る。これによって、各一対の対象画像において、一方および他方の対象画像全体の輝度が異なるときでも、一方の画像から他方の画像にわたって、被写体の像の輝度を滑らかに変化させることができる。したがって、輝度の違いが目立たなくなる。
【0021】
また本発明は、合成対象となる被写体の異なる部分からの対象画像を、隣接する対象画像間に重複領域を含むようにして複数生成し、
生成される対象画像のうち、隣接する対象画像の組合わせ毎に、重複領域間で被写体の像のマッチングを求め、マッチングに基づいて重複領域間の相対位置のずれを検出し、
重複領域間の相対位置のずれの検出が行われる対象画像の一方の重複領域内に、予め定める大きさを有する参照領域を複数設定し、対象画像の他方内に、検出される相対位置のずれに基づいて、参照領域よりも大きい探索領域を各参照領域毎に設定し、各参照領域内と対応する探索領域内との間で被写体の像のマッチングを求め、マッチングに基づいて各被写体の像間の相対位置のずれを各探索領域毎に検出し、
検出される各被写体の像間の各相対位置のずれをそれぞれ打消すように、各対象画像を部分的に拡大縮小変換しながら、隣接する対象画像を合成し、被写体に対する単一の合成画像を生成することを特徴とする画像合成方法である。
本発明に従えば、画像合成手法は、上述のような画像合成装置によって、被写体のずれを2段階のマッチング処理で検出する。これによって、マッチング処理の処理量を減少させて、高解像度または広範囲および広画角の合成画像を得ることができる。
【0022】
【発明の実施の形態】
図1は、本発明の実施の一形態である画像合成装置1の電気的構成を示すブロック図である。画像合成装置1は、一次元画像合成装置3、メモリ4、中央処理装置5、出力装置6を含んで構成される。これらの各構成部材3〜6は、バスライン7を介して相互に電気的に接続され、信号の授受が可能である。
【0023】
1次元画像合成装置3は、後述するように、被写体を分割して撮像して、合成対象となる対象画像を表す対象画像信号を複数出力する。対象画像は、白色から黒色まで段階的に輝度が変化するような、いわゆるグレースケール画像である。複数の対象画像信号は、メモリ4にストアされる。中央処理装置5は、メモリ4にストアされた複数の対象画像信号を読出し、後述する合成手法で合成することによって、単一の合成画像を表す合成画像信号を生成する。この合成画像信号は、メモリ4にストアされると共に、陰極線管(CRT)およびプリンタで実現される出力装置6に与えられる。出力装置6では、合成画像信号を合成画像として目視表示する。
【0024】
図2は、被写体11を示す模式図である。本実施形態では、被写体11は平板状の部材であり、その表面を撮像するものとする。勿論被写体11は、この形状のものに限らず、たとえばスチルカメラおよびビデオカメラのような撮像装置で撮像可能なものであれば、どのようなものであっても良い。一次元画像合成装置3は、この被写体11の表面を、複数の撮像領域に仮想的に分割して、それぞれ撮像する。本実施形態では、被写体11の表面を、並列に並べられた3つの矩形の撮像領域13〜15に分割している。このとき、各撮像領域13〜15は、それぞれ隣接する撮像領域と一部分が重複するように設定される。
【0025】
図3は、撮像領域13〜15をそれぞれ撮像して得た対象画像17〜19を表す図である。対象画像17〜19は、それぞれ重複領域21;22,23;24を有する。対象画像17の重複領域21、および対象画像18の重複領域22には、被写体11の部分25の像が写っている。同様に、対象画像18の重複領域23、および対象画像19の重複領域24には、被写体11の部分26の像が写っている。部分25,26は、前述の撮像領域13〜15の重複部分であり、図2では斜線を付して示す。これら対象画像17〜18は、撮像時の視差が小さいことが好ましい。視差が小さい撮像手法としては、パンおよびチルトと称されるような、水平および垂直移動撮像が挙げられる。
【0026】
図4は、1次元画像合成装置3の具体的な撮像動作を説明するための図である。1次元画像合成装置3は、たとえば、撮像装置として、いわゆるCCDエリアセンサを備えたビデオカメラ28を備える。CCDエリアセンサは、2次元平面である結像面に、受光領域が行列状に配列された2次元の撮像素子である。
【0027】
ビデオカメラ28の撮像動作の開始および終了は、たとえば画像合成装置1の操作者の指示によって定められる。操作者は、ビデオカメラ28が被写体11の撮像を開始すると、被写体11の表面から予め定める距離だけ離れた位置で、撮像領域13〜15に併せてその撮像可能範囲29が移動するように、ビデオカメラ28を手で保持して移動させる。この移動動作は、具体的には、たとえば操作者がビデオカメラ28のファインダ、または現在撮像される画像を目視表示する表示装置内の画像を目視して、撮像可能範囲29が既に撮像が終了した領域の一部を含むように該範囲29の移動方向および移動量を定め、定めた移動方向に移動量だけ該範囲29が移動するようにビデオカメラ28を動かす。このビデオカメラ28の移動は、上述した条件を満たすならば、操作者が手動で行う以外にも、機械的な移動装置を用いて行っても良い。
【0028】
これによって、たとえば図4を例とすると、撮像可能範囲29は、その中心点30が、まず撮像領域13の長手方向の一方端部から他方端部まで、長手方向の中心軸線に沿って移動するように、矢符32で示す方向に移動される。このとき、撮像領域13〜15の幅方向の幅は撮像可能範囲30の長手方向の幅と等しく、撮像可能範囲30は、その中心点30を通る中心軸線が撮像領域13〜15の中心軸線と平行な状態を保つように移動される。
【0029】
次いで、撮像可能範囲29を撮像領域14の長手方向の他方端部に至るように、撮像可能範囲29を矢符33が示す方向に横に移動される。続いて、撮像可能範囲29の中心点30が、撮像領域14の長手方向の他方端部から一方端部まで、矢符34で示す方向に、長手方向の中心軸線に沿って移動される。次いで、撮像領域15の一方端部に撮像可能範囲29が至るように、撮像可能範囲29を矢符33が示す方向に横に移動させ、移動後は撮像領域13での撮像とほぼ同等に移動させる。これによって、撮像可能範囲29は、その中心点30が軌跡35を描くように移動される。
【0030】
ビデオカメラ28は、操作者から撮像開始が指示されてから、たとえば、撮像可能範囲29内の被写体からの画像光を撮像素子の結像面に結像するように集光して、結像面の各受光領域に受光させる。撮像素子は、予め定める露光時間が経過する毎に、各受光領域に、露光時間内の受光量に対応する電荷を、画素データとして出力させる。これによって、ビデオカメラ28は、露光時間が経過するたびに、上述の画素データから構成される原画像信号を出力する。原画像信号は、撮像素子の結像面の受光領域の数と画素数が等しく、画素配列が受光領域の配列と相似である原画像を表す。この原画像は、ビデオカメラで得られる動画像のいわゆる1フレームの画像である。したがって、撮像可能範囲を29を移動させている間、ビデオカメラ28は、複数フレーム分の原画像信号を出力する。
【0031】
たとえば、撮像領域13に沿って撮像可能範囲29を移動させるとき、4フレーム分の原画像信号が連続して得られたとする。図5(A)は、これら原画像信号が表す原画像37〜40を、撮像順に並べて示す図である。原画像37〜40には、それぞれ同一の被写体を異なる位置から撮像した被写体の像41〜44が含まれる。これら像41〜44は、たとえば、撮像動作中に被写体が動くとき、ならびに撮像動作中にビデオカメラ28の視差および光学系の倍率に変化が生じたとき以外の残余のときには、被写体の同一の部分を撮像した部分を重ね合わせると一致する。
【0032】
ビデオカメラ28は、上述の撮像動作で得られる各フレームの原画像の被写体の像の相関を検出して、検出された相関から、撮像可能範囲29と被写体との相対位置の移動方向を検出する。この移動方向が切換わるとき、たとえば、矢符32,34の方向から、矢符33の方向に切換わるとき、撮像領域13,14の撮像が終了して、次の撮像領域14,15にそれぞれ移動したと判断する。これによって、撮像領域13〜15を連続して撮像するときも、各撮像領域13を撮像した原画像を自動的に選択することができる。
【0033】
これら原画像37〜40内の被写体の像と原画像37〜40の枠線との相対位置は、矢符32で表す撮像可能範囲29の本来の移動方向だけでなく、矢符33で表す方向およびその反対の方向にもずれる。これは、上述した手法でビデオカメラ28を移動させるとき、ビデオカメラ28は操作者の手だけに支持されるので、たとえば操作者の手のぶれによって、被写体11との相対位置がずれることがあるからだと考えられる。
【0034】
1次元合成画像装置3は、これら複数フレームの原画像信号を、原画像の被写体の像が一致するように重合わせるように合成して、前述の対象画像17の対象画像信号を生成する。対象画像18,19の対象画像信号の生成手法も、対象画像17と等しい。
【0035】
具体的には、まず、原画像37,38;38,39;39,40間で、それぞれ被写体の像をマッチング処理して、被写体の像の相対的な移動距離および移動方向を求める。この移動距離および移動方向は、ビデオカメラ28の撮像可能範囲29の相対的な移動距離および移動方向と一致する。
【0036】
次いで、1次元画像合成装置3は、原画像37〜40を、求めた移動距離だけ、移動方向と逆向きに相対的に移動させて重合わせる。図5(B)は、原画像37〜40を上述の手法で重合わせた状態を示す模式図である。上述の矢符33の方向のずれのために、重ねられた状態の画像45は、矢符33の方向およびその反対の方向に、部分的にはみ出す形状を取る。
【0037】
最後に、1次元画像装置3は、画像45の矢符33の方向側の端部に画像以外の情報が含まれないように、画像45の画像信号を加工して、対象画像17の対象画像信号を生成する。この手法としては、たとえば、図5(B)を例とすると、画像45の仮想線46よりも右側の部分を裁落とすように、この部分を構成する画素の画素データを画像45の画像信号から削除する手法が挙げられる。また、画像45の画像信号のうち、仮想線46よりも右側の画像以外の部分を表す画素データに、後述する探索ブロックの設定を禁止するデータを付加してもよい。これは、後述する対象画像の合成動作において、画像以外の部分に探索ブロックを設定することを防止するためである。
【0038】
また、1次元画像合成装置3は、受光領域が直線状に並べられる1次元の撮像素子を用いたいわゆるハンドスキャナであってもよい。このハンドスキャナを用いて対象画像17を得るとき、図6に示すように、撮像領域13の幅方向をハンドスキャナ48の受光領域の配列方向とほぼ一致させ、長手方向に沿って被写体11の表面にハンドスキャナ48を接触させた状態で移動させつつ、被写体11を撮像する。このとき、撮像素子は、ビデオカメラ28の撮像素子とほぼ同等に動くので、ハンドスキャナ48を撮像領域13の長手方向の一方端部から他方端部まで移動させると、画素が直線状に配列された原画像を表す原画像信号を複数得る。1次元画像合成装置3は、これら原画像が画素の配列方向をそれぞれ平行にして撮像した順で順次並べられるように、原画像信号を合成して、対象画像17を得る。
【0039】
このような手法によって、ビデオカメラ28を用いた1次元画像合成装置3によって、上述の図3の対象画像17〜19を生成する。対象画像17〜19の形状、および画像内の被写体の像は、それぞれ撮像領域13〜15の形状およびその表面とほぼ相似であるが、部分的に歪みが生じる。これは、たとえば、ビデオカメラ28を操作者が手動で移動させるので、これら被写体11とビデオカメラ28との距離を予め定める一定の距離に保つことが難しく、距離がばらつくためだと考えられる。また、ハンドスキャナ48は、被写体11の表面を滑らかに移動するための一対のローラを備えるが、この一対のローラの滑りにぶれがあって、ハンドスキャナ48の移動速度にばらつきが生じるためだとも考えられる。
【0040】
さらに、対象画像17〜19は、撮像領域13〜17の長手方向の中心軸線が相互に平行とならず或る角度をなすような、回転を含むことがある。これは、上述の歪みと同じ理由から、手のぶれが生じて、ビデオカメラ28およびハンドスキャナ48の移動方向が本来の移動方向からずれて移動するためだと考えられる。ゆえに、重複領域21,22;23,24内の被写体の像もまた、被写体の同一の部分25,26を撮像しているにも拘わらず、対象画像17〜19を平行移動させただけで重合わせても、像が一致しない。
【0041】
図7は、上述の画像合成装置における画像合成動作を説明するためのフローチャートである。たとえば、画像合成装置の使用者が、合成動作を指示すると、ステップa1からステップa2に進む。
【0042】
ステップa2では、中央処理装置5に、合成対象の複数の対象画像信号を入力する。この対象画像信号は、前述した手法で得られた該信号を1次元画像合成装置3から直接得ても良く、また、メモリ4にストアされる複数の対象画像信号のうちで、所望とする該信号を選択して読出すようにしても良い。1枚分の対象画像信号が入力されるたびに、ステップa2からステップa3に進む。
【0043】
ステップa3では、合成画像信号を得るために必要な全ての対象画像信号が得られたか否かが判断される。全ての対象画像信号が得られていないときは、ステップa2に戻り、次の対象画像信号を入力させる。対象画像信号が全て得られたとき、ステップa3からステップa4に進む。ステップa4以後のステップでは、上述の対象画像信号のうち、撮像領域が隣接し、被写体11の同一の部分を撮像した重複領域を有する一対の対象画像を合成するための合成処理を行う。
【0044】
ステップa4では、1対の対象画像内の被写体の像の相対的な平行移動量を検出するための中央ブロックマッチング処理を行い、次いでステップa5に進む。ステップa5では、1対の対象画像内の被写体の像の詳細な平行移動量、および相対的な回転角度を検出するための大ブロックマッチング処理を行い、ステップa6に進む。ステップa6では、大ブロックマッチング処理の検出結果に基づき、1対の対象画像信号に対して、画像の回転補正処理を施し、ステップa7に進む。ステップa7では、1対の対象画像の被写体の像の相対的な歪みを検出するための小ブロックマッチング処理を行い、ステップa8に進む。ステップa8では、小ブロックマッチング処理の検出結果に基づき、1対の対象画像信号に対して、画像の変形処理および合成処理を施して、これら一対の対象画像信号を合成し、ステップa9に進む。これら各ステップa4〜a8の処理動作の詳細は後述する。
【0045】
ステップa9では、全ての対象画像信号に関して上述の一連の合成処理を施して、単一の合成画像信号が得られたか否かが判断される。そうでないときは、ステップa9からステップa4に戻り、他の1対の対象画像信号に対して、ステップa4〜ステップa8の一連の合成処理を施す。他の1対の対象画像信号の組合わせは、被写体11の同一の部分を撮像した重複領域を有する組合わせであれば、どのような組合わせであっても良い。たとえば、既に合成された一対の対象画像信号のいずれか一方と、他の対象画像信号との組合わせである。または、既に合成された1対の対象画像信号同士の組合わせであっても良い。
【0046】
ステップa9で、全ての対象画像信号を合成したと判断されると、ステップa9からステップa10に進み、当該フローチャートの処理動作を終了する。
【0047】
上述のフローチャートのステップa4〜ステップa8における一対の対象画像信号の合成手法を、以下に詳細に説明する。以後の説明では、上述の対象画像17,18を表す1対の対象画像信号の合成処理を例として、各処理動作を説明する。この対象画像17,18は、上述の手法で生成され、それぞれ長手方向の両端部のはみ出した部分を切落とした矩形の画像である。また対象画像17,18は、図面で左上端部の頂点を原点とした2次元直交座標系が設定される。この座標系のxおよびy座標軸は、それぞれ対象画像17,18の幅方向および長手方向に平行であり、以後、x座標軸に平行な幅方向を「x方向」、y座標軸に平行な長手方向を「y方向」と称することがある。
【0048】
図8は、上述のフローチャートのステップa4における中央ブロックマッチング処理を説明するための模式図である。中央ブロックマッチング処理では、いわゆるテンプレートマッチング処理を用いて、対象画像17,18の被写体の像の相対的な平行移動量を検出する。
【0049】
まず、対象画像17の重複領域21内に、参照ブロックKを設定する。参照ブロックKは、たとえば、その基準点52が、対象画像17のy方向の辺を2等分する基準軸線53上に位置するように配置される。次いで、対象画像18の重複領域22内に、探索領域55を設定する。探索領域55は、重複領域22のほぼ全域を含むように設定され、本実施形態では、重複領域22と一致する。このように、参照ブロックKを重複領域21のy方向の中央部に設定することによって、対象画像17,18の被写体が、y方向のいずれの向きにずれているときでも、そのずれを検出することができる。
【0050】
続いて、対象画像17の参照ブロックKと対象画像18の探索領域55との間で、いわゆるテンプレートマッチング処理を行う。該処理では、探索領域55内で、参照ブロックK内の被写体の像と最も類似する像の位置を検索する。
【0051】
テンプレートマッチング処理を以下に詳細に説明する。
【0052】
該処理の処理動作では、まず、参照ブロックKと合同な探索ブロックLを、該ブロックLの基準点52が探索領域55内の或る点と一致するように重ねて設定する。次いで、探索領域55内の被写体の像のうちの探索ブロックLで区分された部分の像と、重複領域21内の被写体の像のうちで参照ブロックKで区分された部分の像との類似度を求める。この類似度は、たとえば、参照ブロックK内の或る画素の画素データkと、探索ブロックL内部で該画素と同じ位置の画素の画素データlとの差分値の絶対値|k−l|を、参照ブロックK内の全ての画素について求め、その総和を表す総和値d(kl)で表される。また、画素の画素データk,lの相関で表されることもある。
【0053】
或る点における類似度が検出されると、探索領域55内で基準点52を一致させる点を移動させ、移動後の点における類似度を同様の手法で検出する。このような類似度の検出動作は、探索ブロックLで区分される範囲が探索領域55内を網羅するように、上述の或る点を複数個定め、各点において繰返し実施される。定められた全ての点における類似度の検出動作が終了すると、各点を基準点52とする探索ブロックLの該総和値d(kl)が、点の数と同数得られる。このとき、探索領域55内の各画素の画素データは、少なくとも1回該総和値d(kl)の演算に用いられる。
【0054】
探索領域55内の全ての点における総和値d(kl)が求められると、続いて、求められた全ての総和値d(kl)のうちで、値が最小の総和値d(kl)が得られた点、およびその点を基準として設定される探索ブロックLを探索する。総和値d(kl)が最小であることは、その探索ブロックL内の被写体の像が、探索領域55内で、最も参照ブロックK内の被写体の像と類似することを意味する。総和値d(kl)が最小の探索ブロックLを、最小探索ブロックLaとして、図8に示す。最小探索ブロックLaを得ると、テンプレートマッチング処理を終了する。
【0055】
このテンプレートマッチング処理の精度は、参照ブロックKおよび探索ブロックLの大きさが小さいほど向上する。けれども、探索領域55の大きさを変更しないまま参照および探索ブロックK,Lを小さくすると、本来マッチングすべき対応の場所とは異なる場所に設定された探索ブロック内と参照ブロックとが類似して、全く誤ったところでマッチングする可能性が高くなる。中央ブロックマッチング処理の探索および参照ブロックK,Lの大きさは、後述する大ブロックおよび小ブロックマッチング処理の参照および探索ブロックf1,f2,g1,g2;ba,bbよりも大きいことが好ましい。これは、中央ブロックマッチング処理では、大ブロックおよび小ブロックマッチング処理で検出するべき被写体のずれよりも大まかな被写体の平行移動量だけを検出すればよいためである。勿論、これらブロックの大きさは、上述の大小関係に限らず、任意に設定することができる。
【0056】
上述した参照ブロックKと各探索ブロックLとのテンプレートマッチング処理では、類似度の検出動作では、探索ブロックLを探索領域55内に直接複数設定して、それぞれの点での該総和値d(kl)を求めている。このテンプレートマッチング処理では、いわゆる階層マッチング処理を用いても良い。
【0057】
階層マッチング処理では、まず、探索領域55を縮小して、探索領域55の画素数を減少させたのち、この縮小された領域に対して前述の探索ブロックLを設定する。たとえば、探索領域55をxおよびy方向でそれぞれ半分の長さに縮小したとすれば、縮小前の画像の2行2列の4画素が縮小後の1画素に対応する。これによって、探索領域55内を網羅するために設定すべき探索ブロックLの数は、縮小前の探索領域55に設定すべき探索ブロックLの数の4分の1になる。この状態で全ての探索ブロックLについて類似度を求め、最も類似度が高い最小探索ブロックLaの位置を得る。次いで、縮小された探索領域55の大きさを拡大し、最小探索ブロックLaおよびその近傍の被写体の像に関して、再度テンプレートマッチング処理を施す。この動作を、探索領域55が元の大きさに戻るまで順次的に繰返す。これによって、探索領域55全体の各探索ブロックの総和値d(kl)を求める演算処理の処理量を減少させることができる。
【0058】
このような手法で得られた最小探索ブロックLaと参照ブロックKとが重なり合うように対象画像17,18を重合わせると、重複領域21,22の被写体の像が平行移動しているとき、図9に示すように、対象画像17,18がy方向にずれて重合わされることが分かる。本実施形態の画像合成装置1の対象画像17,18:18,19は、この平行移動量が、多くても対象画像のy方向の幅の3分の1以下であることが好ましい。以後の説明では、対象画像17,18の被写体の像の平行移動がほとんどないものとする。
【0059】
このように、中央ブロックマッチング処理では、1対の対象画像内の被写体の像のy方向の平行移動量を検出することができる。中央処理装置5は、この中央マッチング処理のマッチング結果に基づいて、対象画像17,18の被写体の像の大まかな位置合わせを行う。
【0060】
続いて、図10を用いて大ブロックマッチング処理について、以下に詳細に説明する。大ブロックマッチング処理は、いわゆるテンプレートマッチング処理を用いて、対象画像17,18の被写体の像の位置合わせ、および対象画像17,18の相対的な回転角度を求めるために行われる。
【0061】
まず、対象画像17の重複領域21内に、参照ブロックf1,f2を設定する。参照ブロックf1,f2の設定位置は、参照ブロックf1,f2で区分された部分が、重複領域21内の被写体の像に特徴のある部分を含むように選ばれる。特徴のある部分とは、たとえば、いわゆるエッジであるような、画素の輝度変化が大きい部分である。このエッジの位置は、対象画像17の対象画像信号をソーベルフィルタを通過させて得られる画像信号から求めることができる。この参照ブロックf1,f2は、前述の中央ブロックマッチング処理の参照ブロックKよりも小さく設定される。たとえば、重複領域21内で参照ブロックf1,f2が区分する部分に、200行60列の行列状に並べられた画素が含まれるような形状および大きさに設定される。
【0062】
また、参照ブロックf1,f2の長手方向に沿った離反距離W2は、図9に示す対象画像17,18の重複部分の長手方向の幅W1以内の距離であって、できるだけ大きいことが好ましい。さらに、参照ブロックf1,f2は、対象画像17,18のy方向の被写体のずれに対応できなくなることを防止するために、重複領域21のy方向の両端部近傍を避けて設定されることが好ましい。これらのことから、以後の説明では、参照ブロックf1,f2は、y方向の基準軸線53の両側に設定され、その基準点p1,p2はy座標軸と平行に離反距離W2だけ離れるものとする。
【0063】
次いで、対象画像18の重複領域22内に、参照ブロックf1,f2にそれぞれ対応した探索領域58,59を設定する。探索領域58,59のy方向の設置位置は、対象画像17,18をxおよびy座標軸が平行になるように並べたとき、参照ブロックf1から見て、上述の中央ブロックマッチング処理で検出された平行移動量だけ、y方向に沿って相対的に平行移動した位置が選ばれる。
【0064】
探索領域58,59の大きさは、それぞれ対象画像17,18の被写体の像のy方向のずれの大きさ、重複領域20,21の大きさ、および被写体の像の細部の変化度合に基づいて決定される。たとえば、探索領域58,59のy方向の幅W3は、中央ブロックマッチング処理の探索領域55のy方向の幅W4よりも短い。また、x方向の幅は、重複領域22のx方向の幅とほぼ一致する。この探索領域58,59内には、参照ブロックf1,f2と大きさおよび形状が等しい探索ブロックg1,g2が設定される。
【0065】
続いて、中央処理装置5は、探索領域58に対する参照ブロックf1のテンプレートマッチング処理、および探索領域59に対する参照ブロックf2のテンプレートマッチング処理をそれぞれ個別的に実施する。テンプレートマッチング処理の処理手法は、上述の中央ブロックマッチング処理とほぼ等しく、類似度として、次式に示すような、画素値の差分値の総和値d1(fg),d2(fg)を求める。
【0066】
dn(fg)=Σ|fn−gn| …(1)
「f」,「g」は、それぞれ参照ブロックおよび探索ブロック内の画素の輝度を表す画素データの値を示す。「n」は、値1および値2のいずれかが代入される。値1が代入されたとき、「f」,「g」は、参照ブロックf1および探索ブロックg1の画素データに対応する。値2が入力されたとき、「f」,「g」は、参照ブロックf2および探索ブロックg2の画素の画素データに対応する。
【0067】
上述のテンプレートマッチング処理で探索領域58,59それぞれに最小探索ブロックg1a,g2aが得られると、この最小探索ブロックg1a,g2aの基準点q1,q2から、重複領域21,22内の被写体の像のxおよびy方向の詳細な平行移動量、および相対的な回転角αを求める。
【0068】
回転角αは、上述のように対象画像17,18を各xおよびy座標軸が平行となるように並べたときに、参照領域f1,f2の基準点p1,p2を両端とする線分z1と、最小探索ブロックg1a,g2aの基準点q1,q2を両端とする線分z2との成す角度である。この回転角αは、対象画像17のy座標軸と線分z1との成す角度、および対象画像18のy座標軸と線分z2との成す角度の和であると考えられる。本実施形態では、線分z1は対象画像17のy座標軸と平行であると見なすので、回転角αは対象画像18のy座標軸と線分z2との成す角度と等しい。
【0069】
次いで、対象画像の回転補正処理について、以下に詳細に説明する。回転補正処理では、上述の相対的な回転角αを打消し、線分z1,z2が平行になるように、対象画像17,18の画素の画素値に対応する代表点の座標を、相対的に回転変換する。たとえば、この回転変換は、最小探索ブロックg1aの基準点q1を中心として、対象画像18の各画素の代表点の座標(x,y)を、以下の式に基づいて変換する。
【0070】
【数1】
【0071】
「x」,「y」は、回転変換前の対象画像18内の画素の代表点のxおよびy座標の値である。「x*」,「y*」は、同じ画素の回転変換後の代表点のxおよびy座標の値である。回転変換前の代表点の座標(x,y)は、それぞれ各画素内の点であって、たとえば対象画像18のxy直交座標系のいわゆる格子点と一致する。回転変換後の代表点は、格子点と一致しないことが多い。
【0072】
このような座標変換を行うと、各画素の代表点の位置が、基準点q1を基準として、元の位置からそれぞれ回転角αだけ、元の対象画像17から見て逆向きに角変位する。これによって、対象画像17に対する対象画像18の相対位置を、回転角αだけ逆向きに回転させて、対象画像17,18の被写体の像を平行に並べることができる
続いて、対象画像17,18の小ブロックマッチング処理について、以下に詳細に説明する。小ブロックマッチング処理は、後述の画像の変形および合成処理動作において補正するべき被写体のずれを検出する。
【0073】
図11は、小ブロックマッチング処理の処理手順を説明するためのフローチャートである。図7のフローチャートで、ステップa6からステップa7に進むと、ステップb1からステップb2に進む。
【0074】
ステップb2では、対象画像17の重複領域21内に、複数の参照ブロックbaを設定する。たとえば、図12では、12個の参照ブロックba1〜ba12(総称するときは参照ブロックbaとする)を用意し、それらの中心点が前述の線分z1およびその延長線上に、各ブロックが重なることなく直線状に配列されるように設定する。これら参照ブロックba1〜ba12は、たとえば矩形のブロックであって、その中心点を基準とすると、隣接する2つの中心点が予め定める間隔W6をそれぞれ開けて、直線状に並ぶように配列される。
【0075】
各参照ブロックba1〜ba12は、上述の大ブロックマッチング処理の参照ブロックf1,f2よりも小さく、たとえば30行30列の画素を含む大きさにそれぞれ設定される。このとき、線分z1の両端である前述の基準点p1,p2は、それぞれy方向の一方端部から数えて2番目および10番目に並べられる参照ブロックba2,ba10内に含まれる。参照ブロックbaが配置されると、ステップb2からステップb3に進む。
【0076】
ステップb3では、対象画像18の重複領域22内に、探索ブロックbbを後述する配列で並べて設定する。この探索ブロックbbは、参照ブロックbaに個別的に対応して同数だけ準備される。図12では、12個の探索ブロックbb1〜bb12(総称するときは「探索ブロックbb」とする)が用意される。各探索ブロックbb1〜bb12は、それぞれ参照ブロックba1〜ba12と同一の大きさおよび形状のブロックであり、本実施形態では矩形のブロックである。
【0077】
この探索ブロックbbは、その中心点ma1〜ma12が前述の線分z2およびその延長線上に、直線状に配列されるように設定される。この探索ブロックbbのうち、参照ブロックba2,ba10に対応する探索ブロックbb2,bb10は、前述の基準点q1,q2を含む。探索ブロックbb2,bb10と基準点q1,q2との相対位置関係は、参照ブロックba2,ba10と基準点p1,p2との相対位置関係と等しい。
【0078】
また、探索ブロックbb1,bb3〜bb9、bb11,bb12は、たとえばその中心点を基準とすると、隣接する2つの中心点が間隔W7を開けるように、それぞれ配列される。間隔W7は、線分z2の長さW8を、基準点q1,q2の間に介在される探索ブロックbbの数で分割した長さと等しい。図12では、基準点q1,q2間の探索ブロックbbの数は8個であるので、間隔W7は長さW8を8等分した長さと等しい。間隔W7は、探索ブロックbbのy方向の幅W6よりも広いので、隣接する2つの探索ブロックbb間には隙間ができる。また逆に、間隔W7が幅W6よりも狭いときは、隣接する2つの探索ブロックbbの一部の領域が重なることがある。
【0079】
これら探索ブロックbbの周囲には、各探索ブロックbbをそれぞれ含む探索領域61がそれぞれ設定される。たとえば、探索ブロックbb1の探索領域61の中心点は、探索ブロックbb1の中心点と一致する。この探索領域61は、たとえば、探索ブロックbbよりも、xおよびy方向の両側に、それぞれ6画素分の空間が加えられ、全体として、42行42列に行列状に並べられた画素を含む大きさとなるように設定される。このように、探索ブロックbbが配置されると、ステップb3からステップb4に進む。ステップb4以後、各探索ブロックbbを含む探索領域61毎に、該探索領域61に対する各参照ブロックba1〜ba12のテンプレートマッチング処理を個別的に行う。
【0080】
ステップb4では、マッチング処理対象となる探索領域61に関して、探索領域61内の画素の輝度変化が少ない否かが判断される。たとえば、探索領域61内の複数の画素のうち、輝度を表す画素データの値の最大値および最小値の差分が、予め定める差分未満であるとき、輝度変化が少ないと判断する。この判定によって、たとえば真っ白な像であるような、被写体の像の画像変化が少なくマッチング処理が困難な探索領域61を、予めマッチング処理対象から除くことができる。画像の輝度変化が大きいと判断されたときだけ、ステップb4からステップb5に進む。ステップb5では、上述の判定を受けたマッチング処理対象の探索領域61に対して、該領域61に対応する参照ブロックbaのテンプレートマッチング処理動作を行う。該処理が終了すると、ステップb5からステップb6に進む。
【0081】
ステップb6では、マッチング処理対象の探索領域61内の被写体の像が、周期模様および直線であるような像であるか否かが判断される。具体的には、たとえば、探索領域61内で、上述の類似度の値が判定基準値よりも高くなる点が複数あるとき、被写体の像が周期模様および直線であると判断される。被写体の像が周期模様および直線であるとき、類似度の値がほとんど同じ点が複数検出されるので、上述のテンプレートマッチング処理で正しい結果が得られないことが多い。ゆえに、この小ブロックマッチング手段では、予め周期模様及び直線を含む被写体の像が含まれる探索領域を、後述の処理動作の対象から外す。被写体の像が、周期模様および直線でないときだけ、ステップb6からステップb7に進む。ステップb7では、ステップb5のテンプレートマッチング処理の処理結果から、各探索領域61内に最小探索ブロックbbaを定める。
【0082】
また、ステップb4でマッチング処理対象の探索領域61内の被写体の像の輝度変化が小さいと判断されたとき、およびステップb6で、被写体の像が周期模様および直線の像であると判断されたとき、ステップb4,b6からステップb8に進む。ステップb8では、そのマッチング処理対象の探索領域61、ならびに、それに対応する参照ブロックba、および探索ブロックbbを、削除する。これによって、テンプレートマッチング処理の処理結果が不良となることが分かっているものを予め取除くことができる。また、テンプレートマッチング処理を行った後、参照範囲と探索範囲とのそれぞれにおいて、上述の画素値の総和値を検出し、これら総和値の差分値を求め、この差分値が予め定める値以上であるときだけ、正しいマッチングであると判断して、その探索範囲を残すようにしても良い。
【0083】
このように、マッチング処理対象の探索領域61に対して、最小探索ブロックbbaを決定する処理、または、処理対象の探索領域61を除去する処理が終了すると、ステップb7またはステップb8から、ステップb9に進む。ステップb9では、重複領域22に設定された全ての探索領域61に関して、ステップb4〜ステップb8の一連の処理動作が終了したか否かが判断される。そうでないときには、ステップb9からステップb4に戻り、次の探索領域61に関して上述の処理動作を施す。全てのブロックについて、テンプレートマッチング処理が終了しているとき、ステップb9からステップb10に進み、当該フローチャートの処理動作を終了する。
【0084】
図13は、図12の対象画像17,18に対して図11の小ブロックマッチング処理動作を施した後の、対象画像17,18を示す図である。
【0085】
この対象画像17は、図12の対象画像17と比較して、参照ブロックbaのうち、上述のフローチャートのステップb4,b6の条件から外れるブロックとして、参照ブロックba3,ba6,ba7,ba10が削除されている。同様に、対象画像18は、これら参照ブロックba3,ba6,ba7,ba10に対応する最小探索ブロックbba3,bba6,bba7,bba10が削除されている。
【0086】
また、対象画像17内の残余の参照ブロックba1,ba2,ba4,ba5,ba8,ba9,ba11,ba12の中心点ma1,ma2,ma4,ma5,ma8,ma9,ma11,ma12は、前述の線分z1およびその延長線上にあるが、対象画像18内の残余の最小探索ブロックbba1,bba2,bba4,bba5,bba8,bba9,bba11,bba12の中心点mb1,mb2,mb4,mb5,mb8,mb9,mb11,mb12を順次的に結ぶ線分は、前述の線分z2およびその延長線上からはずれた折線となる。
【0087】
次いで、画像の変形処理を、以下に詳細に説明する。画像の変形処理では、対象画像17,18を重ね合わせるときに、上述の残された任意の参照ブロックbakの中心点makと、それに対応する最小探索ブロックbbakの中心点mbkとが一致するように、対象画像18に対して部分的に拡大縮小変換である幾何学的変換を行う。上述のkは、自然数1,2,4,5,8,9,11,12のいずれかである。
【0088】
変形処理では、まず対象画像17,18を重合た状態を仮想する。具体的には、対象画像17,18は、重複領域21内の1番目の参照ブロックba1の中心点ma1と、重複領域22内の1番目の最小探索ブロックbba1の中心点mb1とが一致し、かつ各対象画像17,18のxおよびy座標軸が平行になるように、重ね合わされる。
【0089】
図14は、上述した手法で重合わされた対象画像17,18の模式図である。この図で、中心点mb1,mb2を通る直線z3と、対象画像18のy方向の一方端部の辺との交点を、点mb0とする。同様に、中心点mb11,mb12を通る直線z4と、対象画像18のy方向の他方端部の辺との交点を、点mb13とする。
【0090】
この状態から、中心点mbk,mb(k+1)をそれぞれ通りx座標軸に平行な1対の線分と、中心点mbk,mb(k+1)を両端とする線分とによって区分された台形の領域単位で、対象画像18の各画素の代表点の位置座標を幾何学的変換する。
【0091】
以下に、台形領域63を例として、上述の幾何学的変換手法を模式的に説明する。この幾何学的変換手法では、台形領域63が矩形領域64と一致するように変形し、その変形に準じて、各代表点の位置座標を変換する。
【0092】
台形領域63は、中心点mb1,mb2を頂点に含み、点mb1,mc1を通る辺、および点ma2,mc2を通る辺が平行である。以後、或る2点を端部とする線分および辺または通る線分および辺を、その2点を表す参照符号を連続して付して示す。また矩形領域64は、中心点ma1,ma2を頂点とし、交点md1,md2を通る辺を有する。交点mc1,mc2;md1,md2は、中心点mb1,mb2;ma1,ma2をそれぞれ通りx座標軸に平行な直線と、対象画像18のx方向の一方端部の辺との交点である。台形領域63および矩形領域64を、図14では、右下がりおよび右上がりの斜線を付して示す。
【0093】
まず、図14から、台形領域63のy方向の幅W11は、矩形領域64のy方向の幅W12よりも広いことがわかる。ゆえに、台形領域63は、y方向に関し、x方向に沿って一律の変換率で圧縮変形される。この変換率は、以下の式で表される。
【0094】
(y方向の変換率)= W12/W11 …(3)
これによって、台形領域63の辺mb1mc1,mb2mc2が、矩形領域64の辺ma1md1,ma2md2と一致するように平行移動される。
【0095】
また、図14から、台形領域63の辺mb1mb2と矩形領域64の辺ma1ma2とは、辺の長さおよびy座標軸に対する角度が共に異なることが分かる。ゆえに、台形領域63は、x方向に関し、y座標軸に平行な基準軸線hを基準として、y方向に沿って連続的に変化する変換率で拡大変形される。たとえば、中心点ma1,ma2の間を通りx座標軸と平行な仮想線65上のx方向の変換率は、以下の式で表される。
【0096】
(x方向の変換率)= W13/W14 …(4)
W13は、基準軸線hと中心点mb1,mb2を両端とする線分との距離である。W14は、仮想線65上での、基準軸線hと直線z3との距離である。このように、x方向の領域の拡大率または縮小率は、中心点ma1,ma2間の間隔よりも短い予め定める間隔で設定される仮想線毎に定められる。これによって、台形領域63の辺mb1mb2,mc1mc2が、矩形領域64の辺ma1ma2,md1md2と一致するように、回転されかつ移動される。
【0097】
このように台形的に台形領域63を変形すると、変換後の台形領域63の辺mb1mb2,mb1mc1,mb2mc2が矩形領域64の辺ma1ma2,ma1md1,ma2md2と一致する。また、図14で台形領域63の右辺が2点鎖線で示すようにふくらむ。台形領域63内の各画素の代表点の座標は、xおよびy方向に隣接する2つの代表点間の間隔が、上述のxおよびy方向の変換率で縮小または拡大されるように変換される。したがって、各代表点のxおよび方向の位置が、間隔の変換分だけ順次的に移動される。
【0098】
以後、他の中心点mbを頂点とする台形領域を、上述の台形領域63の幾何学的変形手法と同様の手法によって、順次的に変形する。具体的には、上述の中心点mbkが中心点makと一致するように、各台形領域が幾何学的変形される。また、点mb0,mb1を頂点に含む台形領域、および点mb12,mb13を頂点に含む台形領域は、点mb0,mb13に対応する点を定めることができないので、上述の手法ではy方向の変換率が定められない。ゆえに、点mb0,mb1を頂点に含む矩形領域、および点mb12,mb13を頂点に含む台形領域のy方向の変換率は、上述の台形領域63、および点mb11,mb12を頂点に含む台形領域のy方向の変換率と等しいと見なして、変換処理を行う。
【0099】
上述の基準軸線hは、対象画像18内で、中心点mbよりも重複領域22から遠ざかる方向の領域であれば、どこに設定されても良い。この基準軸線hは、たとえば対象画像18の重複領域23側の一方端部の辺と一致する。また、対象画像18のx方向の中心軸線と一致する。さらに、対象画像18,19を合成処理対象とするときの小ブロックマッチング処理の全ての参照ブロックbaの中心点を通る仮想直線と一致してもよい。
【0100】
基準軸線を参照ブロックbaの中心点を通る仮想直線と一致させるとき、画像の幾何学的変換処理では、この基準軸線hと辺ma1ma2との距離に基づいて対象画像18のx方向の拡大率を定めるので、基準軸線h上の画素は、幾何学的変換後も、同一の基準軸線h上に直線状に配列される。このことから、対象画像17,18の画像合成を行った後に、合成後の画像と対象画像19とを画像合成するとき、後者の画像合成処理における小ブロックマッチング処理の演算処理が容易になることが分かる。
【0101】
このような手法によって、対象画像18の各画素の代表点の位置座標を、対象画像17に併せて変換する。この変換後の対象画像18と元の対象画像とを、中心点ma,mbが一致するように重ね合わせた重合画像を、合成画像の基礎とする。重合画像は、その生成時に、対象画像18のうち、該対象画像18の中心点mbを通る仮想線よりも対象画像17の中心に近い部分、図14では仮想線よりも左側の部分が裁落とされてる。この仮想線は、画像変形前では図14の太い実線で表され、画像変形後では合成基準軸線Hと一致する。またこの処理は、対象画像18の対象画像信号で、該部分を構成する画素の画素値を削除したことと等しい。ゆえに、重合画像では、対象画像17の全ての中心点maを通る合成基準軸線Hから対象画像18の中心側の端部だけが、対象画像18の端部と重なる。重合画像のうち、対象画像17,18が重なりある部分を、以後重複部分と称する。
【0102】
重合画像を構成する画素の代表点は、重合画像に設定されるxy直交座標系の格子点とはずれていることが多い。合成画像は、この重合画像とxy直交座標系の座標軸が等しく、該座標系の格子点を代表点とする画素から構成された画像である。合成画像の画素の画素値は、以下の決定手法に基づいて決定される。この画素値の決定動作は、上述の画像の幾何学的変換動作と並行して行われる。
【0103】
まず、合成画像の全画素のうち、重複部分以外の残余の画素の代表点の画素値は、該代表点の位置座標と同じ位置座標の重合画像内の格子点における画素値と等しいと見なされる。たとえば、該格子点に画素の代表点が一致するとき、この代表点に対応する画素値がそのまま用いられる。該格子点と重合画像の代表点とが一致しないとき、該格子点の画素値は、重合画像内で該格子点に近接する複数の画素の代表点の画素値から、いわゆる線形補間法を用いて補間して決定される。線形補間法では、格子点の周囲4箇所の画素の代表点の画素値に、格子点と各代表点との距離に応じた係数を乗算した値の平均値を、格子点の画素値とする。
【0104】
また、重複部分の画素の代表点の画素値は、該代表点の位置座標と同じ位置座標の重合画像内の格子点に近接する重合画像の画素の代表点の画素値の加重平均値から、上述の線形補間法を用いて決定される。この加重平均値の係数値は、重合画像の画素が元々対象画像17,18のどちらに属していたか、および該画素の代表点と合成基準軸線Hとの距離に基づいて決定される。
【0105】
図15は、上述の画素値の加重平均値の係数値と、重合画像のx座標値との関係を表すグラフである。重合画像および合成画像のxy直交座標系の原点は、たとえば画像の右上の頂点、すなわち対象画像17の原点と一致し、対象画像18に近付く程x座標の値は増加するものとする。この係数値は、重合画像のx座標値に応じて、値0から値1までの間の値を取る。
【0106】
対象画像17に属する画素の係数値を折線71で示す。この係数値は、原点から合成基準軸線Hまでの間、値1を保つ。この間の部分は、重合画像のうち対象画像17に属する画素だけで構成される部分であり、合成基準軸線Hは、上述の部分と重合部分との境界である。合成基準軸線からx座標値が増加する方向に離れるほど係数値は小さくなり、合成基準軸線Hから予め定める距離W16だけ離れた点で係数値は値0になる。さらに、x座標値が増加しても、係数値は値0を保つ。予め定める距離W16は、重複部分のx方向の幅よりも小さく設定され、たとえばx方向に重合画像の画素が15画素配列された長さと等しい。
【0107】
対象画像18に属する画素を折線72で示す。この係数値は、原点から合成基準軸線Hまでの間、値0を保つ。合成基準軸線Hからx座標値が増加する方向に離れるほど係数値は大きくなり、合成基準軸線Hから予め定める距離W16だけ離れた点で係数値は値1になる。さらに、x座標値が増加しても、係数値は値1を保つ。対象画像17,18の合成基準軸線H近傍の係数値の変化率の絶対値は等しいので、合成基準軸線Hから距離W16の半分だけ離れた点に対する対象画像17,18の画素値の係数値は等しい。
【0108】
したがって、上述の重合部分の画素値の決定動作では、重合部分の各画素の画素値に上述の加重平均の係数値を乗算した値を用い、線形補間を行う。これによって、対象画像17,18の被写体の像全体の輝度が異なるときでも、画像の重合部分で輝度変化が滑らかになるように画像を合成することができる。
【0109】
以上のような手法を用いて、対象画像17,18を合成することができる。対象画像17,18にさらに対象画像19を合成するとき、上述の合成画像と対象画像19とを、上述の画像合成手法で合成して、対象画像17〜19を合成した合成画像を得る。また、対象画像17〜19の画像合成手法としては、対象画像17,18;18,19に対する各マッチング処理をそれぞれ個別的に行い、その後に、対象画像17〜19の画像変形処理を行ってもよい。この画像変形処理では、対象画像17,18;18,19のいずれか一方の組合わせを先に画像合成し、その合成画像に残りの対象画像を合成する。残りの対象画像と合成画像とを合成するとき、小ブロックマッチング処理の参照ブロックbaの中心点maと最小探索ブロックbbaの中心点mbとの位置関係に、画像合成処理における参照ブロックmaの位置のずれをオフセットとして加味する。これによって、上述の手法と同様の画像変形手法で、画像合成を行うことができる。
【0110】
このような画像合成動作によって、対象画像よりも画素数の多い合成画像を得ることができる。この合成画像は、画素の大きさを対象画像の画素と一致させたとき、対象画像よりも広画角および広範囲の画像となる。また、画像の大きさを対象画像と一致させたとき、対象画像よりも解像度の高い画像となる。
【0111】
上述の画像合成装置では、白黒のグレースケール画像を対象画像としたが、対象画像には、カラー画像を用いることもできる。このとき、画像合成手法の画素値としては、たとえば各画素に対応する輝度信号の値を算出して用いる。また、各画素に対して赤青緑の3原色光の輝度を表す原色信号の値が個別に得られるとき、いずれか1つの原色信号の値だけを上述の画素値として、該原色信号に関してだけ上述の画像合成手法を行う。残余の原色信号は、いずれか1つの原色信号の画像合成処理の処理結果に基づいて変換する。このいずれか1つの原色信号としては、輝度信号への寄与が最も大きい緑の原色信号を用いることが好ましい。
【0112】
また、本実施形態の画像合成装置では、対象画像を3枚としたが、対象画像の数はこれに限らず、さらに増加させても良い。また、対象画像の配列を一方向だけとしたが、各対象画像が少なくとも1つの他の対象画像と重なる重複領域を有するならば、直交する2方向に行列状に配列されていても良い。さらに、対象画像は、他の対象画像との重複領域を有すれば、上述の原画像をそのまま用いても良い。この対象画像を得る1次元画像合成装置は、上述のビデオカメラ28に限らず、複写機およびスキャナであってもよい。また、対象画像は、画像信号として入力された画像を、パーソナルコンピュータで合成した画像であってもよい。
【0113】
さらに、上述の画像合成処理の各手法は、同様の結果を得ることができる手法であれば、上述の手法に限らず他の手法を用いても良い。たとえば、各ブロックマッチング処理のマッチング手法は、テンプレートマッチング処理以外のマッチング処理であってもよい。また参照ブロックおよび探索ブロックは、矩形ブロック以外の形状であっても良い。
【0114】
【発明の効果】
本発明に従えば、画像合成装置は、相互に重複する複数の対象画像を合成して、単一の合成画像を得る。この画像合成処理動作では、各対象画像内の被写体の像の相互のずれを2段階のマッチング処理で検出した後、各対象画像毎にずれを相殺させるように相対位置の移動および画像の拡大縮小変換を行って、各対象画像を合成する。これによって、対象画像のずれが累積されて、合成画像の被写体の像が歪むことを防止することができる。また、マッチング処理は2段階に分けて行うので、マッチング処理の処理量を減少させることができる。
【0115】
さらにまた本発明によれば、第1マッチング手段では、まず、1回目のマッチング処理において、1対の対象画像の重複領域内の中央付近で被写体の像の相対的な平行ずれの状態を求めるためのマッチングを求める。次いで、1回目のマッチングの結果に基づいて2回目のマッチング処理で2組の参照領域と探索領域とを設定し、各組ごとに像内の詳細な対応点の検出のためのマッチングを求める。これによって、1対の対象画像内の被写体の像のずれの状態が不明であるときでも、2回目のマッチング処理の参照領域と探索領域とを、該重複領域内の被写体の像の相対的な回転ずれを検出するために最適な位置に配置することができる。また、2組の領域を用いることによって、1対の対象画像の被写体の像の回転のずれを検出することができる。さらに、マッチング処理の参照領域の大きさを、1回目の領域よりも2回目の領域の方が小さくなるように設定しているので、大まかな像のずれの検出と、像内の詳細な対応点の検出とを、それぞれ最適な手法で実施することができる。
【0116】
また本発明によれば、前述の画像合成装置は、第2マッチング手段での処理の間に、マッチング対象の各隣接する組合わせの対象画像毎に、画素の代表点の回転変換を行う。これによって、対象画像の重複領域およびその近傍の部分を合成後の画像で被写体の像が自然につながるように合成することができる。
【0117】
さらにまた本発明によれば、第2マッチング手段は、予め定める指標を用い、被写体の像が比較対象の適格性を有する探索領域で得られるマッチングだけを、拡大縮小変換の変換量を求めるために用いる。また本発明によれば、この指標は、参照および探索範囲の画素値の総和値の差分値、探索領域内の画素値の最大値と最小値の差分値、および被写体の像の周期性の有無で表される。これによって、誤ったマッチングを用いて合成処理を行い、被写体の像の歪みを増大させることを防止することができる。したがって、合成画像の画質を向上させることができる。
【0118】
さらにまた本発明は、画像合成時に、変換基準軸線を基準として、各対象画像を部分的に台形状に拡大縮小変換する。これによって、特に3枚以上の対象画像を合成するとき、各対象画像の被写体の像のずれが蓄積されることを防止することができる、したがって、合成画像の画質を向上させることができる。
【0119】
また本発明は、変換基準軸線上に第2マッチング処理の参照領域を設定するので、特に3枚以上の対象画像を合成するとき、合成処理の演算処理量を減少させることができる。したがって、画像合成手段の負担を減少させることができる。
【0120】
さらにまた本発明は、合成画像のうちの対象画像の重複領域に当たる部分の画素の画素値を、1対の対象画像の各重複領域内の画素を加重平均して得る。これによって、複数の対象画像それぞれの輝度が異なるときでも、合成画像のつなぎ目を滑らかにすることができる。これによって、合成画像の画質を向上させることができる。
【図面の簡単な説明】
【図1】本発明の実施の一形態である画像合成装置1の電気的構成を示すブロック図である。
【図2】被写体11と撮像領域13〜15の関係を示す模式図である。
【図3】対象画像17〜19を表す模式図である。
【図4】1次元画像合成装置3のビデオカメラ28の移動手法を説明するための模式図である。
【図5】ビデオカメラ28で得られる原画像37〜40を表す図、および原画像37〜40の合成手法を説明するための模式図である。
【図6】1次元画像合成装置3のハンドスキャナ48の移動手法を説明するための模式図である。
【図7】画像合成装置1を用いた画像合成手法を説明するためのフローチャートである。
【図8】中央ブロックマッチング処理における参照ブロックK、探索領域55、および探索ブロックLの関係を表す模式図である。
【図9】1対の対象画像17,18について、中央ブロックマッチング処理の参照ブロックKおよび最小探索ブロックLaを一致させた状態を表す模式図である。
【図10】大ブロックマッチング処理における参照ブロックf1,f2、探索領域58,59、および最小探索ブロックg1a,g2aの関係を表す模式図である。
【図11】小ブロックマッチング処理手法を説明するためのフローチャートである。
【図12】小ブロックマッチング処理における参照ブロックba1〜ba12、探索領域61、および探索ブロックbb1〜bb12の関係を表す模式図である。
【図13】小ブロックマッチング処理における参照ブロックba1〜ba12、および最小探索ブロックbba1〜bba12の関係を表す模式図である。
【図14】画像の変形処理を説明するための対象画像17,18の模式図である。
【図15】画像の合成処理における画素値の加重平均の係数値と、画素の空間位置との関係を表すグラフである。
【符号の説明】
1 画像合成装置
3 1次元画像合成装置
4 メモリ
5 中央処理装置
6 出力装置
11 被写体
17,18,19 対象画像
21,22,23,24 重複領域
28 ビデオカメラ
37,38,39,40 原画像
41,42,43,44 被写体の像
55,58,59,61 探索領域
K,f1,f2,ba1〜ba12 参照ブロック
La、g1a,g2a,bba1〜bba12 最小探索ブロック
h 基準軸線
Claims (11)
- 合成対象となる被写体の異なる部分からの対象画像を表す対象画像信号を、隣接する対象画像間に重複領域を含むようにして複数生成する対象画像生成手段と、
対象画像生成手段によって生成される対象画像信号のうち、隣接する対象画像の組合わせ毎に、重複領域間で被写体の像のマッチングを求め、マッチングに基づいて重複領域間の相対位置のずれを検出する第1マッチング手段と、
第1マッチング手段によって相対位置のずれの検出が行われる対象画像の一方の重複領域内に、予め定める大きさを有する参照領域を複数設定し、対象画像の他方内に、検出される相対位置のずれに基づいて、参照領域よりも大きい探索領域を各参照領域毎に設定し、各参照領域内と該参照領域に対応する探索領域内との間で被写体の像のマッチングを求め、マッチングに基づいて各被写体の像間の相対位置のずれを各探索領域毎に検出する第2マッチング手段と、
第2マッチング手段によって検出される各相対位置のずれをそれぞれ打消すように各対象画像を部分的に拡大縮小変換しながら、隣接する対象画像の組合わせ毎に参照領域と該参照領域に対応する探索領域とを重畳させるように、全ての対象画像信号を合成し、被写体に対する単一の合成画像を表す合成画像信号を生成する画像合成手段とを含むことを特徴とする画像合成装置。 - 前記第1マッチング手段は、
まず、前記各隣接する対象画像の組合わせのいずれか一方の重複領域内の予め定める位置に、予め定める大きさの第1参照領域を設定し、いずれか他方の対象画像の重複領域内と該第1参照領域内との間で被写体の像とのマッチングを求め、求めたマッチングに基づいて、各被写体の像の相対的な平行ずれを検出し、
次いで、いずれか一方の重複領域内に、第1参照領域よりも小さい第2参照領域を、検出された相対的な平行ずれの方向と平行に少なくとも2つ設定し、いずれか他方の対象領域の重複領域内に、検出される相対的な平行ずれに基づいてこの平行ずれの方向に相対的に平行移動した位置に、重複領域の大きさよりも小さい第2探索領域を、各第2参照領域毎に設定し、
各第2探索領域内と、該第2探索領域に対応する第2参照領域内との間で、被写体の像とのマッチングを求め、求めたマッチングに基づいて、前記重複領域間の相対的な回転ずれを検出することを特徴とする請求項1記載の画像合成装置。 - 前記画像合成装置は、前記各隣接する対象画像の組合わせ毎に、前記第1マッチング手段で検出された重複領域間の相対位置のずれに基づいて、隣接する対象画像間の相対回転角度を求め、求めた相対回転角度を打消す方向に各対象画像を相対的に角変位させるように、対象画像信号を回転変換する回転変換手段をさらに含み、
前記第2マッチング手段は、回転変換手段によって相対位置が回転変換された対象画像の組合わせに対して、前記探索領域のマッチングを求めることを特徴とする請求項1記載の画像合成装置。 - 前記第2マッチング手段は、複数の前記探索領域毎に求められるマッチングのうち、被写体の像が予め定める比較対象の適格性を持つ探索領域に対するマッチングだけを前記画像合成手段に与えることを特徴とする請求項1記載の画像合成装置。
- 前記各対象画像は、複数の画素からそれぞれ構成され、
前記参照領域の大きさは、単一の画素の大きさ以上であり、
各探索領域に対する前記マッチングは、各探索領域内で、大きさおよび形状が前記参照領域と等しい探索範囲であって、かつ該探索範囲内の全画素の輝度を表す画素値の総和値が参照領域の画素値の総和値に最も近い探索範囲の位置で表され、
前記比較対象の適格性は、マッチングの探索範囲の画素値の総和値と、前記参照領域の画素値の総和値との差分値が、予め定める基準値未満であることを特徴とする請求項4記載の画像合成装置。 - 前記各対象画像は、複数の画素からそれぞれ構成され、
前記参照領域の大きさは、単一の画素の大きさ以上であり、
各探索領域に対する前記マッチングは、各探索領域内で、大きさおよび形状が前記参照領域と等しい探索範囲であって、かつ該探索範囲内の全画素の輝度を表す画素値の総和値が、参照領域の画素値の総和値に最も近い探索範囲の位置で表され、
前記比較対象の適格性は、マッチングの探索範囲内の画素値のうちの最大値と最小値との差分値が、予め定める基準値以上であることを特徴とする請求項4記載の画像合成装置。 - 前記比較対象の適格性は、前記探索領域内の被写体の像が、同一の輝度変化で同一の形状の部分が周期的に複数回繰返さないことを特徴とする請求項4記載の画像合成装置。
- 前記対象画像は、複数の画素が予め定める一方および他方方向に沿って行列状に配列されて形成され、
前記拡大縮小変換は、各対象画像毎に、重複領域内で一方方向に略平行な予め定める変換基準軸線と各画素との距離を拡大または縮小し、さらに他方方向に沿って直線状に並べられる複数の画素から成る画素群の相互の間隔を拡大または縮小して、画素配列を変換することを特徴とする請求項1記載の画像合成装置。 - 前記変換基準軸線は、前記第2マッチング手段の各参照領域の中心を通過することを特徴とする請求項8記載の画像合成装置。
- 前記対象画像および合成画像は、複数の画素からそれぞれ形成され、
合成画像の全画素のうち、対象画像の前記重複領域に対応する部分の各画素の輝度を表す画素値は、該画素に対応する対象画像の2つの重複領域の各画素の画素値に、重複領域の予め定める合成基準軸線からの距離に対応して定める重みを付けて加重平均した値であることを特徴とする請求項1記載の撮像装置。 - 合成対象となる被写体の異なる部分からの対象画像を、隣接する対象画像間に重複領域を含むようにして複数生成し、
生成される対象画像のうち、隣接する対象画像の組合わせ毎に、重複領域間で被写体の像のマッチングを求め、マッチングに基づいて重複領域間の相対位置のずれを検出し、
重複領域間の相対位置のずれの検出が行われる対象画像の一方の重複領域内に、予め定める大きさを有する参照領域を複数設定し、対象画像の他方内に、検出される相対位置のずれに基づいて、参照領域よりも大きい探索領域を各参照領域毎に設定し、各参照領域内と対応する探索領域内との間で被写体の像のマッチングを求め、マッチングに基づいて各被写体の像間の相対位置のずれを各探索領域毎に検出し、
検出される各被写体の像間の各相対位置のずれをそれぞれ打消すように、各対象画像を部分的に拡大縮小変換しながら、隣接する対象画像を合成し、被写体に対する単一の合成画像を生成することを特徴とする画像合成方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24664096A JP3851384B2 (ja) | 1996-09-18 | 1996-09-18 | 画像合成装置および方法 |
US09/269,031 US6292593B1 (en) | 1996-09-18 | 1997-03-27 | Image synthesizing device and method |
PCT/JP1997/001028 WO1998012866A1 (fr) | 1996-09-18 | 1997-03-27 | Dispositif et procede de synthese d'images |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24664096A JP3851384B2 (ja) | 1996-09-18 | 1996-09-18 | 画像合成装置および方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH1093808A JPH1093808A (ja) | 1998-04-10 |
JP3851384B2 true JP3851384B2 (ja) | 2006-11-29 |
Family
ID=17151425
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP24664096A Expired - Fee Related JP3851384B2 (ja) | 1996-09-18 | 1996-09-18 | 画像合成装置および方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US6292593B1 (ja) |
JP (1) | JP3851384B2 (ja) |
WO (1) | WO1998012866A1 (ja) |
Families Citing this family (46)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4510287B2 (ja) * | 1998-05-08 | 2010-07-21 | ギガセット コミュニケーションズ ゲーエムベーハー | パターン認識タスクのための基準画像の作成方法 |
DE10024028A1 (de) * | 2000-05-16 | 2001-11-22 | Heidelberger Druckmasch Ag | Verfahren zum Zusammenfügen abgetasteten Teilbilddaten |
JP4771504B2 (ja) * | 2000-09-13 | 2011-09-14 | キヤノン株式会社 | 分散画像生成装置及び分散画像生成方法及びコンピュータ読み取り可能な記憶媒体 |
JP2002181729A (ja) * | 2000-12-12 | 2002-06-26 | Saki Corp:Kk | 外観検査装置および外観検査方法 |
US20020131651A1 (en) * | 2001-01-12 | 2002-09-19 | Chandrashekhara Anantharamu | System and method for reducing images including graphs |
JP4551018B2 (ja) * | 2001-04-05 | 2010-09-22 | 富士通株式会社 | 画像結合装置 |
JP2003259110A (ja) * | 2002-02-28 | 2003-09-12 | Fujitsu Ltd | 画像結合装置、その方法、プログラム |
US7904826B2 (en) * | 2002-03-29 | 2011-03-08 | Microsoft Corporation | Peek around user interface |
US7623733B2 (en) * | 2002-08-09 | 2009-11-24 | Sharp Kabushiki Kaisha | Image combination device, image combination method, image combination program, and recording medium for combining images having at least partially same background |
US20050196070A1 (en) * | 2003-02-28 | 2005-09-08 | Fujitsu Limited | Image combine apparatus and image combining method |
WO2004077356A1 (ja) * | 2003-02-28 | 2004-09-10 | Fujitsu Limited | 画像結合装置、画像結合方法 |
WO2005041562A1 (ja) * | 2003-10-22 | 2005-05-06 | Matsushita Electric Industrial Co., Ltd. | 撮像装置とその製造方法、携帯機器、及び撮像素子とその製造方法 |
JP4454335B2 (ja) | 2004-02-12 | 2010-04-21 | Necインフロンティア株式会社 | 指紋入力装置 |
US8331723B2 (en) | 2004-03-25 | 2012-12-11 | Ozluturk Fatih M | Method and apparatus to correct digital image blur due to motion of subject or imaging device |
US10721405B2 (en) | 2004-03-25 | 2020-07-21 | Clear Imaging Research, Llc | Method and apparatus for implementing a digital graduated filter for an imaging apparatus |
US9826159B2 (en) | 2004-03-25 | 2017-11-21 | Clear Imaging Research, Llc | Method and apparatus for implementing a digital graduated filter for an imaging apparatus |
TWI422957B (zh) * | 2004-06-23 | 2014-01-11 | Pentax Ricoh Imaging Co Ltd | 照相設備 |
US20090021594A1 (en) * | 2004-10-26 | 2009-01-22 | Nikon Corporation | Digital Camera and Image Combination Device |
JP4506501B2 (ja) * | 2005-02-21 | 2010-07-21 | 株式会社日立製作所 | 画像合成装置及び撮像システム |
KR100790890B1 (ko) * | 2006-09-27 | 2008-01-02 | 삼성전자주식회사 | 파노라마 영상 생성장치 및 방법 |
CN101275831B (zh) * | 2007-03-26 | 2011-06-22 | 鸿富锦精密工业(深圳)有限公司 | 图像离线处理系统及方法 |
JP4924149B2 (ja) * | 2007-03-30 | 2012-04-25 | カシオ計算機株式会社 | 画像処理装置及びプログラム |
US8587659B1 (en) * | 2007-05-07 | 2013-11-19 | Equinox Corporation | Method and apparatus for dynamic image registration |
JP5092722B2 (ja) * | 2007-12-07 | 2012-12-05 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
US9495386B2 (en) | 2008-03-05 | 2016-11-15 | Ebay Inc. | Identification of items depicted in images |
US10936650B2 (en) | 2008-03-05 | 2021-03-02 | Ebay Inc. | Method and apparatus for image recognition services |
JP5342796B2 (ja) * | 2008-03-27 | 2013-11-13 | 株式会社東芝 | 三次元画像表示方法および装置 |
US8818978B2 (en) | 2008-08-15 | 2014-08-26 | Ebay Inc. | Sharing item images using a similarity score |
JP5127067B2 (ja) * | 2009-03-06 | 2013-01-23 | パナソニック株式会社 | 画像検索装置及び画像検索方法 |
US8825660B2 (en) * | 2009-03-17 | 2014-09-02 | Ebay Inc. | Image-based indexing in a network-based marketplace |
JP5379660B2 (ja) * | 2009-12-04 | 2013-12-25 | キヤノン株式会社 | 画像処理装置及びその制御方法 |
US9164577B2 (en) | 2009-12-22 | 2015-10-20 | Ebay Inc. | Augmented reality system, method, and apparatus for displaying an item image in a contextual environment |
US10127606B2 (en) | 2010-10-13 | 2018-11-13 | Ebay Inc. | Augmented reality system and method for visualizing an item |
EP2613290B1 (en) * | 2010-10-26 | 2019-05-08 | Morpho, Inc. | Image processing device, image processing method, and image processing program |
CN102855613B (zh) * | 2011-07-01 | 2016-03-02 | 株式会社东芝 | 图像处理设备和方法 |
US9449342B2 (en) | 2011-10-27 | 2016-09-20 | Ebay Inc. | System and method for visualization of items in an environment using augmented reality |
US9934522B2 (en) | 2012-03-22 | 2018-04-03 | Ebay Inc. | Systems and methods for batch- listing items stored offline on a mobile device |
JP5970970B2 (ja) * | 2012-06-13 | 2016-08-17 | 富士通株式会社 | 画像処理装置、方法及びプログラム |
US10846766B2 (en) | 2012-06-29 | 2020-11-24 | Ebay Inc. | Contextual menus based on image recognition |
WO2014010324A1 (ja) * | 2012-07-13 | 2014-01-16 | 富士フイルム株式会社 | 画像変形装置およびその動作制御方法 |
JP6467787B2 (ja) * | 2014-05-27 | 2019-02-13 | 株式会社リコー | 画像処理システム、撮像装置、画像処理方法およびプログラム |
JP6222205B2 (ja) * | 2015-11-20 | 2017-11-01 | 株式会社リコー | 画像処理装置 |
US9607365B1 (en) * | 2016-10-31 | 2017-03-28 | HDRlog SARL | Systems and methods for enhancing quality of image media |
JP6439845B2 (ja) * | 2017-10-05 | 2018-12-19 | 株式会社リコー | 画像処理装置 |
JP6680812B2 (ja) | 2018-01-30 | 2020-04-15 | ファナック株式会社 | ワーク画像生成装置 |
US10587821B2 (en) * | 2018-05-17 | 2020-03-10 | Lockheed Martin Corporation | High speed image registration system and methods of use |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6364180A (ja) | 1986-09-04 | 1988-03-22 | Alps Electric Co Ltd | ハンドスキヤナ入力によるイメ−ジ画像合成方式 |
JPH03265367A (ja) | 1990-03-15 | 1991-11-26 | Toshiba Corp | 縮小画像の表示処理方式 |
JPH04336677A (ja) | 1991-05-14 | 1992-11-24 | Canon Inc | 画像処理方法及びこれを用いたシステム |
JP2989364B2 (ja) | 1992-03-12 | 1999-12-13 | シャープ株式会社 | 画像処理装置及び画像処理方法 |
US6205259B1 (en) * | 1992-04-09 | 2001-03-20 | Olympus Optical Co., Ltd. | Image processing apparatus |
JP3333012B2 (ja) | 1993-09-10 | 2002-10-07 | オリンパス光学工業株式会社 | 画像合成装置 |
JPH08287218A (ja) * | 1995-04-10 | 1996-11-01 | Sharp Corp | 画像合成装置 |
-
1996
- 1996-09-18 JP JP24664096A patent/JP3851384B2/ja not_active Expired - Fee Related
-
1997
- 1997-03-27 US US09/269,031 patent/US6292593B1/en not_active Expired - Fee Related
- 1997-03-27 WO PCT/JP1997/001028 patent/WO1998012866A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
US6292593B1 (en) | 2001-09-18 |
WO1998012866A1 (fr) | 1998-03-26 |
JPH1093808A (ja) | 1998-04-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3851384B2 (ja) | 画像合成装置および方法 | |
JP4172554B2 (ja) | ステレオカメラの調整装置 | |
JP4699995B2 (ja) | 複眼撮像装置及び撮像方法 | |
US8279297B2 (en) | Image processing apparatus, image processing method, and storage medium | |
JP3192875B2 (ja) | 画像合成方法および画像合成装置 | |
US20030169918A1 (en) | Stereoscopic image characteristics examination system | |
JP3994217B2 (ja) | 画像処理による異常点位置検出システム | |
US20120147224A1 (en) | Imaging apparatus | |
JP3792832B2 (ja) | ステレオカメラの調整装置 | |
WO2004102478A1 (ja) | 画像処理装置 | |
JP2006287589A (ja) | 画像処理方法、画像処理装置 | |
JPH09294225A (ja) | 画像歪み補正用パラメータ決定方法及び撮像装置 | |
JP2004342067A (ja) | 画像処理方法、画像処理装置、及びコンピュータプログラム | |
JP2019215659A (ja) | 画像検査装置及び、その画像検出方法 | |
JPH11325890A (ja) | ステレオカメラの画像補正装置 | |
JP4340722B2 (ja) | 画像合成方法、画像入力装置、及び画像合成プログラムを記録した記録媒体 | |
JP6790038B2 (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム | |
JP4248212B2 (ja) | ステレオ画像処理装置およびステレオ画像処理方法 | |
JPH0969973A (ja) | 固体撮像素子の位置調整方法 | |
JP3786300B2 (ja) | 動きベクトル検出装置及び動きベクトル検出方法 | |
JPH1115951A (ja) | ずれ検出装置および画像合成装置 | |
JP2007036743A (ja) | 複数画像合成方法及び撮像装置 | |
JP5231331B2 (ja) | 映像合成方法、映像合成システム | |
JP2005210164A5 (ja) | ||
JP4003274B2 (ja) | 距離測定装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060530 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060731 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060829 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060901 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090908 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100908 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110908 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120908 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130908 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |