JP4120677B2 - 複数のフレーム画像からの静止画像の生成 - Google Patents
複数のフレーム画像からの静止画像の生成 Download PDFInfo
- Publication number
- JP4120677B2 JP4120677B2 JP2005505487A JP2005505487A JP4120677B2 JP 4120677 B2 JP4120677 B2 JP 4120677B2 JP 2005505487 A JP2005505487 A JP 2005505487A JP 2005505487 A JP2005505487 A JP 2005505487A JP 4120677 B2 JP4120677 B2 JP 4120677B2
- Authority
- JP
- Japan
- Prior art keywords
- frame image
- image
- region
- image region
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
Description
例えば、特開2000−244851号公報には、連続する(n+1)枚のフレーム画像から1枚のフレーム画像を基準画像として選択し、この基準画像に対する他のn枚のフレーム画像(対象画像)の動きベクトルをそれぞれ算出し、各動きベクトルに基づいて、(n+1)枚のフレーム画像を合成して静止画像を生成する技術が開示されている。
また、特開平6−350974号公報では、インタレース方式による動画像から静止画像を生成する技術において、インタレース方式で対になる2枚のフィールドのうち、1枚のフィールドを基準画像とし、他の1枚のフィールドを対象画像として、フィールドごとに対象画像が合成に適しているか否かを判別し、適していれば合成する技術が提案されている。一般に、合成するフレーム画像を増やせば、静止画像の画質が向上すると考えられているが、合成するフレーム画像を増やしても画質が向上するとは限らない。以下、その理由について説明する。
図1は、基準画像と合成対象画像との合成方法を示す説明図である。図1の上段に、基準画像と合成対象画像とを、ずれ量を補正して配置した様子を示した。図1の下段には、基準画像と、合成対象画像と、合成画像の各画素の位置関係を示した。図1の下段において、「○」は、基準画像の画素を表している。「●」は、合成対象画像の画素を表している。破線の格子上にハッチングを付した丸印は、合成画像の画素を表している。なお、この図では、基準画像および合成対象画像の解像度は同じであるものとし、フレーム画像の解像度をx軸方向およびy軸方向に1.5倍に増大する場合について示している。
ここで、合成画像の画素g1に着目する。この画素g1は、基準画像の画素t1と一致している。この場合、画素g1を囲む合成対象画像の4つの画素s1〜s4の階調値に基づいて、画素g1の位置における階調値をバイリニア法によって求め、この階調値と基準画像の画素t1の階調値とを平均することによって、画素g1の階調値を決定する。
また、合成画像の画素g2の階調値は、以下の手順で決定する。すなわち、まず、画素g2を囲む基準画像の4つの画素t2〜t5の階調値に基づいて、画像g2の位置における階調値をバイリニア法によって求める。次に、画素g2を囲む合成対象画像の4つの画素s4〜s7の階調値に基づいて、画素g2の位置における階調値をバイリニア法によって求める。そして、両者を平均することによって画素g2の階調値を決定する。
他の画素についても、以上説明したのと同様にして階調値を決定することができる。ここでは、理解を容易にするため、基準画像および対象画像の解像度が同じであるものとして説明したが、基準画像および合成対象画像の解像度が異なっている場合には、適宜、拡大または縮小して同様の処理を行えばよい。
図2は、基準画像と合成対象画像とのずれ量が0である場合の合成方法を示す説明図である。図2の上段に、基準画像と合成対象画像とを、ずれ量を補正して配置した様子を示した。ずれ量が0であるから、基準画像と合成対象画像は完全に重なっている。図2の下段には、基準画像と、合成対象画像と、合成画像の各画素の位置関係を示した。基準画像と合成対象画像が重なっているので、基準画像と合成対象画像の各画素は、同じ位置に存在している。
合成画像の画素g2の階調値は、以下の手順で決定する。すなわち、まず、画素g2を囲む基準画像の4つの画素t2〜t5の階調値に基づいて、画像g2の位置における階調値をバイリニア法によって求める。次に、画素g2を囲む合成対象画像の4つの画素s2〜s5の階調値に基づいて、画素g2の位置における階調値をバイリニア法によって求める。そして、両者を平均することによって画素g2の階調値を決定する。
画素t2〜t5の階調値と画素s2〜s5の階調値がそれぞれ同値であるから、画素t2〜t5の階調値に基づいて、バイリニア法によって求めた画像g2の位置における階調値と、画素s2〜s5の階調値に基づいて、バイリニア法によって求めた画素g2の位置における階調値は、同じ値となる。つまり、それらの平均値も、画素t2〜t5の階調値に基づいて、バイリニア法によって求めた画像g2の位置における階調値や、画素s2〜s5の階調値に基づいて、バイリニア法によって求めた画素g2の位置における階調値と同じとなる。
つまり、基準画像と合成対象画像のずれ量が0である場合は、合成処理を行なっても合成結果の画像と元の画像に差異がない。ずれ量が僅かな場合も同様に、合成結果の画像と元の画像にほとんど違いが現れない。これらの場合は、合成処理を行なっても、徒に処理時間を増やすだけで、画質を飛躍的に向上することは望めない。
上述の課題の少なくとも一部を解決するため、本発明の画像生成装置は、動画像に含まれる複数のフレーム画像から静止画像を生成する画像生成装置であって、前記複数のフレーム画像の中の基準フレーム画像以外のフレーム画像に含まれる領域のうち、少なくとも1以上を、前記基準フレーム画像内の基準フレーム画像領域との関係で設定された所定の規則に基づいて、合成対象フレーム画像領域に設定する合成対象設定部と、前記基準フレーム画像領域及び前記合成対象フレーム画像領域から、1つの比較基準フレーム画像領域を抽出する比較基準抽出部と、前記比較基準フレーム画像領域以外の合成対象フレーム画像領域から、1つの対象フレーム画像領域を抽出する対象抽出部と、前記比較基準フレーム画像領域と前記対象フレーム画像領域を比較し、所定のパラメータを求める比較部と、前記パラメータが所定の基準を満たさなければ、前記対象フレーム画像領域を合成対象フレーム画像領域から除外する除外部と、前記基準フレーム画像領域と前記合成対象フレーム画像領域を合成して合成画像領域を生成する合成画像生成部とを備えることを特徴とする。
ここで、フレーム画像とは、プログレッシブ方式(ノンインタレース方式ともいう)で表示可能な静止画像である。したがって、インタレース方式の場合は、ラスタの異なる複数のフィールド画像(奇数フィールドと偶数フィールド)から構成される画像が本発明のフレーム画像に相当する。
本発明によれば、所定の基準を満たさないフレーム画像の領域を合成の対象から除外し、なおかつ合成するフレーム画像領域の枚数を所定枚数以上確保することで、効率的に合成画像の画質を向上することができる。ここで言う所定の基準は、例えば比較部の求めたパラメータが画像ずれ量であれば、画像ずれ量が閾値以上であることなどである。詳しくは後述する。所定枚数は任意に設定可能であるが、2枚以上であることが望ましい。
合成対象設定部は、動画において基準フレーム画像に時系列的に連続しているフレーム画像の領域を、連続数枚合成対象フレーム画像領域に設定しても良いし、数枚おきに合成対象フレーム画像領域に設定しても良い。
合成画像生成部が行なう画像の合成処理には、ニアレストネイバ法や、バイリニア法や、バイキュービック法など、周知の種々の画像補間の手法を適用することができる。一般に、高速処理が可能な方法は、手順が簡素化されているため、手順が複雑な方法よりも補間精度が悪く、画質が劣る。例えば、ニアレストネイバ法と、バイリニア法と、バイキュービック法とは、この順序で手順が複雑になり、処理時間が長くなる。一方、補間精度が高くなり、画質が向上する。
合成画像生成部は、前記合成対象フレーム画像領域と前記基準フレーム画像領域の合計枚数が多い場合は、ニアレストネイバ法などにより高速の合成処理を行ない、少ない場合はバイキュービック法などにより補間精度の良い合成処理を行なうものとしても良い。
上記画像生成装置は、さらに、前記基準フレーム画像内に、合成の基準となる領域を前記基準フレーム画像領域として設定する設定部と、前記基準フレーム画像領域と、前記基準を満たす合成対象フレーム画像領域の合計数が所定の数以上になるまで、前記合成対象設定部と前記比較基準抽出部と前記対象抽出部と前記比較部と前記除外部の処理を繰り返させるフレーム数制御部と、を備えるようにしてもよい。
本発明の画像生成装置において、前記基準フレーム画像の指定を受ける指定受付部を備え、前記設定部は、指定を受けたフレーム画像を基準フレーム画像としても良い。
これにより、ユーザが、動画の中から静止画像としたいフレーム画像を選択して、基準フレーム画像とすることができる。
上記画像生成装置において、前記比較基準抽出部は、前記基準フレーム画像領域を前記比較基準フレーム画像領域とするものとしても良い。
基準フレーム画像領域は、合成の基準となる画像の領域なので、まず基準フレーム画像領域を比較基準フレーム画像領域とすることが望ましい。基準フレーム画像領域を比較基準フレーム画像領域として、合成対象フレーム画像領域について、合成に値するか否かを判断し、合成に値した合成対象フレーム画像領域のうちの1枚を、次に比較基準フレーム画像領域とすることができる。
例えば、フレーム画像領域1とフレーム画像領域2とフレーム画像領域3において、フレーム画像領域1が基準フレーム画像領域、フレーム画像領域2とフレーム画像領域3が合成対象フレーム画像領域であるとする。まずフレーム画像領域1を比較基準フレーム画像領域として、フレーム画像領域2とのずれ量と、フレーム画像領域3とのずれ量を求める。求めたずれ量が、それぞれ所定値以上であった場合、次にフレーム画像領域2を比較基準フレーム画像領域とする。
フレーム画像領域1とフレーム画像領域2のずれ量と、フレーム画像領域1とフレーム画像領域3のずれ量とが、それぞれ所定値以上であっても、フレーム画像領域2とフレーム画像領域3のずれ量が0であれば、フレーム画像領域1,2,3をすべて合成する必要はないからである。つまり、フレーム画像領域1,2またはフレーム画像領域1,3を合成すれば足りる。フレーム画像領域2を比較基準フレーム画像領域とし、フレーム画像領域3を対象フレーム画像領域とすることで、フレーム画像領域3を合成対象から除外することが可能となる。
上記画像生成装置において、前記合成対象フレーム画像領域から、1つのフレーム画像の領域としての特徴が所定の条件を満たすフレーム画像の領域を取り除く排除部を備えるものとしても良い。
所定の条件としては、例えば、ノイズが大きい、ピントがぼけている、手がレンズ前に被さるなどして色の階調が異常である、などがあげられる。排除部により、そのようなフレーム画像領域は、予め合成対象から取り除くことができる。
上記画像生成装置において、前記パラメータは、画像ずれ量であるものとしても良い。
画像ずれ量は、例えば手ぶれやカメラのターンで生ずる。画像ずれ量が小さすぎると、合成対象フレーム画像領域は合成画像領域の画質を殆どあげることができない。本発明では、合成画像領域の画質の向上にあまり役立たない合成対象フレーム画像領域を合成対象から除外することができる。画像ずれ量は、並進ずれ量および回転ずれ量の少なくとも一方を含むものとしても良い。並進ずれ量は、ブロックマッチング法や、勾配法や、これらを組み合わせた手法など、種々の手法によって、検出することができる。回転ずれ量も、また、幾何学的な計算によって検出することができる。パラメータが画像ずれ量であれば、先に述べた所定の基準は画像ずれ量が閾値以上であることなどである。
上記画像生成装置において、前記比較部は、前記対象フレーム画像領域を含む対象フレーム画像の、前記比較基準フレーム画像領域を含む比較基準フレーム画像からの画像ずれ量を求めるフレームずれ量算出部と、前記対象フレーム画像領域の、前記比較基準フレーム画像領域からの画像ずれ量を、前記フレームずれ量算出部が求めた画像ずれ量に基づいて求める領域ずれ量算出部とを備えるものとしても良い。
本発明によれば、領域のずれ量をフレーム画像の画像ずれ量をもとに、簡便に求めることができる。フレーム画像の画像ずれ量が、回転ずれ量を含んでいても、個々の領域のずれ量としては、並進ずれ量で近似可能な場合もある。また、フレーム画像全体としては合成に値しない画像も、領域に分割することで合成に使用できるようになる場合もある。フレーム画像の画像ずれ量を求めずに、領域のずれ量を直接計算しても良い。
上記画像生成装置において、前記パラメータは、前記対象フレーム画像領域と前記比較基準フレーム画像領域における同じ位置の画素の特徴量の比較によって得られる画像差分であるものとしても良い。
特徴量は、色の階調や輝度であっても良い。本発明では、比較基準フレーム画像領域と比較して、画像差分がほとんどないフレーム画像領域を合成対象から除外することができる。同じ内容のフレーム画像領域同士を合成しても、また同じ内容のフレーム画像領域が得られるだけで、画質が向上しないので、比較基準フレーム画像領域と同じ内容のフレーム画像領域を合成対象フレーム画像領域から除外する意図である。
本発明は、動画においてフレームレートを変換した場合など、同じ内容のフレーム画像が連続する場合に、同じ内容のフレーム画像領域は合成対象から除外するのに、特に有効である。そのような場合では、ずれ量を計算するまでもなく、画像差分があるか否かだけで、合成に値するか否か判別可能だからである。画像差分のみ求めれば良いので簡便となる。パラメータが画像差分であれば、先に述べた所定の基準は画像差分が0ではないことなどである。
上記画像生成装置において、前記パラメータは、前記対象フレーム画像領域と、前記比較基準フレーム画像領域における、画素の特徴量の平均値の比較であっても良い。
本発明では、比較基準フレーム画像領域と比較して、特徴に差異があるフレーム画像領域を合成対象から除外することができる。比較基準フレーム画像領域と比べて明らかに異常なフレーム画像領域を合成に使用すると、合成フレーム画像の画質も異常になってしまうので、明らかに異常なフレーム画像領域を合成対象フレーム画像領域から除外する意図である。
例えば、色調が明るい場面の静止画像領域を合成している際に、暗い色調のフレーム画像領域を合成対象から除外する場合などに特に有効である。そのような場合では、ずれ量を計算するまでもなく、特徴量の平均値の差を計算するだけで、合成に値するか否か判別可能だからである。特徴量の平均値の差のみ求めれば良いので簡便となる。パラメータが画素の特徴量の平均値の比較であれば、先に述べた所定の基準は画素の特徴量の平均値の比較が大きいことなどである。
上記画像生成装置において、前記基準フレーム画像領域と前記合成対象フレーム画像領域は、前記フレーム画像が、それぞれ同じ形式で分割された領域であって、前記対象抽出部は、前記比較基準フレーム画像領域に対応する同じ位置の対象フレーム画像領域を抽出するものとしても良い。
本発明によれば、フレーム画像が同じ形式で分割された領域毎に、合成対象とするか否か判別可能となる。領域毎に判別することで、一様に合成対象から除外されていたフレーム画像も、ある領域では合成対象とすることができる。その結果、合成画像の画質をあげることもできる。
本発明は、上述の画像生成装置としての構成の他、画像生成方法の発明として構成することもできる。また、これらを実現するコンピュータプログラム、およびそのプログラムを記録した記録媒体、そのプログラムを含み搬送波内に具現化されたデータ信号など種々の態様で実現することが可能である。なお、それぞれの態様において、先に示した種々の付加的要素を適用することが可能である。
本発明をコンピュータプログラムまたはそのプログラムを記録した記録媒体等として構成する場合には、画像生成装置の動作を制御するプログラム全体として構成するものとしてもよいし、本発明の機能を果たす部分のみを構成するものとしてもよい。また、記録媒体としては、フレキシブルディスクやCD−ROM、DVD−ROM、光磁気ディスク、ICカード、ROMカートリッジ、パンチカード、バーコードなどの符号が印刷された印刷物、コンピュータの内部記憶装置(RAMやROMなどのメモリ)および外部記憶装置などコンピュータが読み取り可能な種々の媒体を利用できる。
図2は、基準画像と対象画像とのずれ量が0である場合の合成方法を示す説明図である。
図3は、本発明の第1実施例としての画像生成装置100の概略構成を示す説明図である。
図4は、第1実施例において、複数のフレーム画像を合成して静止画像を生成する様子を概念的に示す説明図である。
図5は、比較基準画像と対象画像とのずれ量について示す説明図である。
図6は、勾配法による並進ずれ量の算出方法を示す説明図である。
図7は、回転ずれの算出方法を示す説明図である。
図8は、第1実施例における静止画像生成処理の流れを示すフローチャートである。
図9は、フレーム画像の入力処理を示したフローチャートである。
図10は、本発明の第2実施例としての画像生成装置100Aの概略構成を示す説明図である。
図11は、比較基準画像と対象画像とのブロックのずれ量について示す説明図である。
図12は、ブロックに分割したフレーム画像を示す説明図である。
図13は、第2実施例における静止画像生成処理の流れを示すフローチャートである。
図14は、パノラマ画像生成の様子を示す説明図である。
A.第1実施例:
A1.画像生成装置の構成:
A2.静止画像の生成:
A3.ずれ量の検出:
A4.静止画像生成処理:
B.第2実施例:
B1.画像生成装置の構成:
B2.ブロックのずれ量の検出:
B3.静止画像生成処理:
C.変形例:
A.第1実施例:
A1.画像生成装置の構成:
図3は、本発明の第1実施例としての画像生成装置100の概略構成を示す説明図である。この画像生成装置100は、動画像に含まれる複数のフレーム画像を合成して、フレーム画像よりも高解像度の静止画像を生成する装置である。画像生成装置100は、汎用のパーソナルコンピュータに所定のアプリケーションソフトをインストールすることによって構成されており、図示する各機能ブロックをソフトウェア的に備えている。
パーソナルコンピュータは、CPUや、ROMや、RAMの他、ハードディスクや、DVD−ROM、メモリカード等の記録媒体から動画像を入力するためのインタフェースなどを備えている。また、入力した動画像を再生する機能も有している。
制御部10は、各部の制御を行う。フレーム画像入力部20は、動画像に含まれるフレーム画像を入力する。本実施例では、フレーム画像入力部20は、動画像の再生中にユーザが一時停止の指示を、入力したタイミングから、時系列的に連続する4枚のフレーム画像を入力するものとした。ここで入力するフレーム画像の数が、静止画像の合成に使用されるフレーム画像の数となる。
フレーム画像入力部20は、4枚のフレーム画像を入力すると同時に、それに時系列的に連続する20枚のフレーム画像を入力し、フレーム画像記憶部30に別個に記憶させておく。その20枚のフレーム画像は、先の4枚のフレーム画像が静止画像の合成に適さない場合に、新たに合成の候補となる予備のフレーム画像である。以下、20枚のフレーム画像を予備フレーム画像と呼ぶ。また、先の4枚のフレーム画像は、選択フレーム画像と呼ぶ。フレーム画像入力部20は、予備フレーム画像を選択フレーム画像に変更する処理も行なう。
フレーム画像入力部20が入力するフレーム画像の数は、ユーザが任意に設定できるようにしてもよい。また、入力するフレーム画像は、時系列的に連続していなくてもよい。コマンド入力部に入力したタイミングにおけるフレーム画像を2枚目または3枚目のフレーム画像として、時系列的に連続してフレーム画像を入力してもよい。
フレーム画像記憶部30は、フレーム画像入力部20が入力した複数のフレーム画像を記憶する。排除部50は、フレーム画像記憶部30に記憶された選択フレーム画像のうち、フレーム単位で評価した場合に異常なフレーム画像を取り除く。例えば、ノイズが大きいフレーム画像や、ピントがぼけたフレーム画像や、手がレンズ前に被さるなどして色の階調が異常な選択フレーム画像を取り除く。
選択フレーム画像が取り除かれた場合は、フレーム画像入力部20が、新たに予備フレーム画像を選択フレーム画像に変更する。変更される予備フレーム画像は、先に選択フレーム画像となった画像に時系列的に連続する予備フレーム画像である。排除部50は、新たに選択フレーム画像となった画像を調べ、異常な選択フレーム画像を取り除く。最終的に排除部50により正常と判断された選択フレーム画像が4枚になるまで、選択フレーム画像の排除と、予備フレーム画像から選択フレーム画像への変更は繰り返す。
基準画像指定受付部25は、選択フレーム画像をモニタに表示する。ユーザは、表示された選択フレーム画像の中から基準画像としたいフレーム画像を指定する。基準画像指定受付部25は、その指定を受け付ける。基準画像設定部40は、基準画像指定受付部25が指定を受けた選択フレーム画像を基準画像に設定する。
なお、基準画像指定受付部25を備えずに、選択フレーム画像のうち、フレーム画像入力部20が最初に入力した選択フレーム画像を基準画像として設定するものとしてもよい。画像生成装置100内に、選択フレーム画像それぞれについて、その特徴量(例えば、エッジ強度等)の解析を行うための機能ブロックを設け、解析結果に基づいて、基準画像の設定を行うようにしてもよい。
比較対象設定部45は、選択フレーム画像のうち、基準画像以外の選択フレーム画像を、比較対象画像に設定する。比較基準画像設定部90は、基準画像または比較対象画像のうちの1枚を、比較基準画像に設定する。ただし、最初に基準画像を比較基準画像に設定する。比較対象再設定部85は、比較基準画像以外の比較対象画像を、比較対象画像に再設定する。対象画像設定部65は、比較対象画像のうち1枚を、次に比較基準画像とのずれ量を検出する対象として、対象画像に設定する。本実施例では、後述するように、比較対象画像を、フレーム画像入力部20が入力(変更)した順に、対象画像として設定していくものとした。
ずれ量検出部60は、基準画像に対する対象画像のずれ量を検出する。本実施例では、ずれ量として、並進ずれ量を検出するものとした。このずれ量の検出については、後述する。除外部80は、ずれ量検出部60が検出したずれ量が所定の基準を満たさなければ、対象画像を、比較対象画像から除外する。
判断部70は、比較基準画像と比較対象画像の合計数が4枚になっているかどうか判断する。4枚の場合は、合成画像生成部75は、解像度変換を行うとともに、ずれ量検出部60が検出したずれ量を補償するように、比較基準画像と比較対象画像とを合成して合成画像を生成する。合成の際の基準となるのは、基準画像で、合成方法は先に述べた通りである。ただし、4枚の画像の合成となるので、合成画像の各々の画素において4つの階調値の平均を求めることになる。4枚となっていない場合は、再度フレーム画像入力部が予備フレーム画像を選択フレーム画像に変更する。
A2.静止画像の生成:
図4は、第1実施例において、複数のフレーム画像を合成して静止画像を生成する様子を概念的に示す説明図である。先に説明したように、本実施例では、時系列的に連続するフレーム画像を用いて、静止画像を生成する。先頭のフレーム画像1が基準画像設定部40により設定された基準画像であり、フレーム画像2からフレーム画像4までが比較対象設定部45により設定された比較対象画像である。なお、いずれのフレーム画像も排除部50により排除されなかったフレーム画像である。
工程1について説明する。比較基準画像設定部90は、まず基準画像であるフレーム画像1を比較基準画像に設定する。比較対象再設定部85は、比較基準画像以外の比較対象画像、つまりフレーム画像2からフレーム画像4までを比較対象画像に再設定する。対象画像設定部65は、比較対象画像のうち、まずフレーム画像2を対象画像とする。ずれ量検出部60は、比較基準画像(フレーム画像1)と対象画像(フレーム画像2)のずれ量を検出する。除外部80は、そのずれ量が所定の基準を満たすかどうか判別する。ここでは、所定の基準を満たさなかったものとして「×」印を図示する。つまり、フレーム画像2は、除外部80により比較対象画像から除外される。
次に、対象画像設定部65は、フレーム画像3を対象画像とする。そして比較基準画像(フレーム画像1)と対象画像(フレーム画像3)のずれ量が検出され、ずれ量が所定の基準を満たすかどうか判別される。ここでは、所定の基準を満たすものとして「○」印を図示する。つまり、フレーム画像3は、除外部80により比較対象画像から除外されない。次に、フレーム画像4を対象画像として、比較基準画像(フレーム画像1)と対象画像(フレーム画像4)のずれ量が検出される。ずれ量が所定の基準を満たすものとして「○」印を図示する。
工程2について説明する。工程2は、工程1の次に行なわれる処理である。まず、比較基準画像設定部90が、除外部80により除外されなかった比較対象画像(フレーム画像3とフレーム画像4)のうちの1枚(フレーム画像3)を、比較基準画像に設定する。基準画像(フレーム画像1)は、工程1ですでに比較基準画像となったので、比較基準画像にはされない。区別のため、先のフレーム画像1を比較基準画像1、フレーム画像3を比較基準画像2と呼ぶ。
そして、比較対象再設定部85が、その比較基準画像(フレーム画像3)以外の比較対象画像(フレーム画像4)を、新たに比較対象画像とする。ここでは、新たな比較対象画像が1枚となったが、複数枚となる場合もある。
対象画像設定部65は、比較対象画像のうちの1枚を対象画像とする。必然的にフレーム画像4が対象画像となる。ずれ量検出部60は、比較基準画像2(フレーム画像3)と対象画像(フレーム画像4)のずれ量を検出する。除外部80は、そのずれ量が所定の基準を満たすかどうか判別する。所定の基準を満たさなかったものとして「×」印を図示した。つまり、フレーム画像4は、除外部80により比較対象画像から除外されることになる。
次に、判断部70が、比較基準画像と比較対象画像の合計数が4枚になっているかどうか判断する。判断部70は、ずれ量検出後に比較対象画像が1枚以下になった際に判断を行なう。比較基準画像はフレーム画像1とフレーム画像3の2枚、比較対象画像は0枚となったので、合計2枚である。よって、4枚ではないので、フレーム画像入力部20が、フレーム画像の合計数が4枚となるように予備フレーム画像を選択フレーム画像に変更する。つまり、2枚の予備フレーム画像を選択フレーム画像に変更する。2枚のうち、一方でも排除部50により排除されれば、再度フレーム画像の変更を行なう。
このように新たに入力したフレーム画像が、工程3に図示したフレーム画像5とフレーム画像6である。工程3について説明する。工程3は、工程2の次に行なわれる処理である。まず、比較対象設定部45が、フレーム画像5とフレーム画像を比較対象画像に設定する。比較基準画像設定部90は、フレーム画像1を比較基準画像1とし、比較対象再設定部85は、フレーム画像3、フレーム画像5、フレーム画像6を比較対象画像とする。
そして、フレーム画像3、フレーム画像5、フレーム画像6の順に対象画像に設定してずれ量を検出する。フレーム画像3、フレーム画像5、フレーム画像6のいずれも、ずれ量が所定の基準を満たすものとして「○」印を図示する。なお、フレーム画像1とフレーム画像3のずれ量検出結果は、工程1で示してあるので、工程3では図示を省略した。
次に、比較対象画像(フレーム画像3、フレーム画像5、フレーム画像6)のうちの1枚(フレーム画像3)を比較基準画像2として、残りの比較対象画像(フレーム画像5、フレーム画像6)を比較対象画像とする。そして、フレーム画像5、フレーム画像6の順に対象画像に設定してずれ量を検出する。フレーム画像5、フレーム画像6のいずれも、ずれ量が所定の基準を満たすものとして「○」印を図示する。
更に、比較対象画像(フレーム画像5、フレーム画像6)のうちの1枚(フレーム画像5)を比較基準画像3として、残りの比較対象画像(フレーム画像6)を比較対象画像とする。そして、フレーム画像6を対象画像に設定してずれ量を検出する。フレーム画像6のずれ量が所定の基準を満たすものとして「○」印を図示する。
ずれ量検出後に比較対象画像が1枚以下(フレーム画像6のみ)になったので、判断部70が判断を行なう。比較基準画像が3枚(フレーム画像1、フレーム画像3、フレーム画像5)と比較対象画像が1枚(フレーム画像6)で、合計4枚である。よって、比較基準画像と比較対象画像の合計数が4枚となったので、合成画像生成部75は、解像度変換を行うとともに、ずれ量検出部60が検出したずれ量を補償するように、比較基準画像と比較対象画像とを合成して静止画像を生成する。以下、比較基準画像と対象画像とのずれ量の検出について説明する。
A3.ずれ量の検出:
図5は、比較基準画像と対象画像とのずれ量について示す説明図である。比較基準画像の座標(x1,y1)が対象画像の座標(x2,y2)にずれているものとする。ここでは、ずれ量として並進ずれ量(u,v)と、回転ずれ量δとを用いる。
本実施例では、比較基準画像と対象画像との並進ずれ量を、勾配法によって求めるものとした。図6は、勾配法による並進ずれ量の算出方法を示す説明図である。図6(a)には、比較基準画像および対象画像の画素および輝度を示した。図6(a)において、例えば、(x1i,y1i)は、比較基準画像の画素の座標値を表しており、B1(x1i,y1i)は、その輝度を表している。また、図6(b)には、勾配法の原理を示した。
ここでは、対象画像の座標(x2i,y2i)の画素が、比較基準画像の座標(x1i〜x1i+1,y1i〜y1i+1)の間、すなわち、画素間の座標である(x1i+Δx,y1i+Δy)にあるものとして説明する。
図6(b)に示すように、
Px=B1(x1i+1,y1i)−B1(x1i,y1i) ・・・(1)
Py=B1(x1i,y1i+1)−B1(x1i,y1i) ・・・(2)
とし、
B1=B1(x1i,y1i) ・・・(3)
B2=B2(x2i,y2i) ・・・(4)
とすると、
Px・Δx=B2−B1 ・・・(5)
Py・Δy=B2−B1 ・・・(6)
の関係が成り立つ。したがって、
{Px・Δx−(B2−B1)}2=0 ・・・(7)
{Px・Δy−(B2−B1)}2=0 ・・・(8)
を満たすΔx、Δyを求めればよい。実際には、各画素についてΔx、Δyを算出し、全体で平均をとることになる。
そして、x方向およびy方向の両方向を考慮すると、
S2=Σ{Px・Δx+Py・Δy−(B2−B1)}2 ・・・(9)
を最小にするΔx、Δyを求めればよい。
なお、本実施例では、勾配法によって、並進ずれ量を算出するものとしたが、ブロックマッチング法や、反復勾配法や、これらを組み合わせた手法など、他の手法を用いるようにしてもよい。
図7は、回転ずれの算出方法を示す説明図である。ここでは、比較基準画像と対象画像との並進ずれが補正されているものとする。
比較基準画像の座標(x1,y1)の原点Oからの距離をrとし、x軸からの回転角度をθとすると、r、θは、
r=(x12+y12)1/2 ・・・(10)
θ=tan−1(x1/y1) ・・・(11)
となる。
ここで、原点Oを中心として、比較基準画像の座標(x1,y1)を角度δだけ回転させたときに、対象画像の座標(x2,y2)と一致するものとすると、この回転によるx軸方向およびy軸方法の移動量は、
によって求められる。
したがって、上記式(9)におけるΔx、Δyは、
Δx=u−δ・y1 ・・・(14)
Δy=v+δ・x1 ・・・(15)
と表すことができる。
これらを上記式(9)に代入すると、
S2=Σ{Px・(u−δ・y1)
+Py・(v+δ・x1)−(B2−B1)}2 ・・・(16)
が得られる。
上記式(16)のS2を最小にするu,v,δを最小二乗法によって求めることにより、比較基準画像と対象画像との1画素未満の並進ずれ量および回転ずれ量を精度よく検出することができる。なお、第1実施例では、フレーム間の時間
0として、
S2=Σ{Px・u+Py・v−(B2−B1)}2 ・・・(17)
を最小にするu,vを最小二乗法によって求めることにより、比較基準画像と対象画像との1画素未満の並進ずれ量を検出する。
A4.静止画像生成処理:
図8は、第1実施例における静止画像生成処理の流れを示すフローチャートである。画像生成装置100のCPUが実行する処理である。
まず、フレーム画像入力部20は、フレーム画像を入力する(ステップS20)。図9は、フレーム画像の入力処理を示したフローチャートである。フレーム画像入力部20は、まず動画像から選択フレーム画像4枚と予備フレーム画像20枚を入力し、フレーム画像記憶部30に記憶させる(ステップS21)。
次に、排除部50は、選択フレーム画像のうちの1枚に、ノイズが大きい、ピントがぼけている、手がレンズ前に被さるなどして色の階調が異常である、などの異常があるか否か判断する(ステップS23)。異常であれば(ステップS23)、その選択フレーム画像はフレーム画像記憶部30から削除して(ステップS24)、予備フレーム画像を1枚選択フレーム画像に変更する(ステップS25)。すべての選択フレーム画像が正常と判断されるまで、ステップS23からステップS25までを繰り返す。
基準画像指定受付部25は、すべての選択フレーム画像をモニタに表示して(ステップS27)、基準画像の指定をユーザから受け付ける(ステップS28)。基準画像の指定は1枚である。基準画像設定部40は、ユーザから指定を受けた1枚の選択フレーム画像を基準画像に設定する(ステップS29)。そして、比較対象設定部45は、基準画像以外の選択フレーム画像を比較対象画像に設定する(ステップS30)。以上でフレーム画像入力処理の説明は終わり、図8に戻って静止画像生成処理の流れを説明する。
次に、基準画像または比較対象画像のうちの1枚を比較基準画像に設定し(ステップS35)、比較基準画像以外の比較対象画像を、比較対象画像に再設定する(ステップS40)。そして、比較対象画像のうち1枚を、対象画像に設定し、比較基準画像に対する対象画像のずれ量を検出する(ステップS50)。
ただし、検出結果のずれ量が(u,v)であれば、ずれ量(Δu,Δv)は、(u,v)と最も近い整数と、(u,v)の差の絶対値として求める。例えば、(u,v)=(2.3,0.8)であれば、(u,v)と最も近い整数は、(2,1)であるから、ずれ量(Δu,Δv)=|(2,1)−(2.3,0.8)|=(0.3,0.2)となる。
次に、ずれ量(Δu,Δv)が閾値(0.1,0.1)以下であれば(ステップS55)、合成に値しないものとして、対象画像を比較対象画像から除外する(ステップS60)。全ての比較対象画像について比較基準画像とのずれ量を検出していなければ(ステップS65)、次の比較対象画像を対象画像に設定して、ステップS45からステップS60までを繰り返す。
全ての比較対象画像について比較基準画像とのずれ量を検出したら(ステップS65)、比較対象画像が1枚以下になっているかどうか判断する(ステップS70)。1枚以下になっていなければ、新たに比較対象画像を比較基準画像として、ステップS35からステップS65までを繰り返す。
1枚以下になっていれば(ステップS70)、比較基準画像と比較対象画像の合計が4枚となっているかどうか判断する(ステップS75)。4枚となっていなければ、足りない分だけ予備フレーム画像を選択フレーム画像に変更し(ステップS85)、新たに追加した選択フレーム画像について排除処理(図9のステップS31)を行なう。そして、新たに追加した選択フレーム画像を比較対象画像に設定する(ステップS86)。4枚となっていれば、比較基準画像と比較対象画像とを合成して合成画像を生成する(ステップS80)。
以上説明した第1実施例の画像生成装置によれば、比較基準画像とのずれ量が小さいフレーム画像を合成の対象から除外し、なおかつ合成するフレーム画像の枚数を4枚確保することで、効率的に合成画像の画質を向上することができる。
B.第2実施例:
B1.画像生成装置の構成:
図10は、本発明の第2実施例としての画像生成装置100Aの概略構成を示す説明図である。画像生成装置100Aの構成は、分割部95を備えていること以外は、第1実施例の画像生成装置100とほぼ同じである。なお、以下に説明するように、第2実施例では、対象画像を複数のブロックに分割して、ブロック単位で比較基準画像とのずれ量を求める。そして、比較基準画像とのずれ量が小さいブロックを合成の対象から除外する。このため、分割部95は、全ての選択フレーム画像を各ブロックが16×16画素になるように分割する。
B2.ブロックのずれ量の検出:
図11は、基準画像と対象画像とのブロックのずれ量について示す説明図である。比較基準画像の座標(x1,y1)が対象画像の座標(x2,y2)にずれているものとする。第2実施例においては、フレーム画像のずれ量は、並進ずれ量(u,v)と、回転ずれ量δの3つのパラメータからなる。
図12は、ブロックに分割したフレーム画像を示す説明図である。図のフレーム画像は、5×8のブロックに分割されている。全体のフレーム画像が、図の矢印に示すように回転している場合でも、ブロックのずれ量としては並進ずれ量(u,v)のみで表現できる。
具体的には、図11の(xb,yb)を中心とするブロックのずれ量(ub,vb)は、
(ub,vb)=(u−ybδ,v+xbδ)
となる。つまり、各ブロックのずれ量は、フレーム画像の並進ずれ量と回転ずれ量から計算すればよい。ここでは、各ブロックのずれ量をフレーム画像の並進ずれ量と回転ずれ量から計算するものとしたが、各ブロックのずれ量を直接検出しても構わない。
B3.静止画像生成処理:
図13は、第2実施例における静止画像生成処理の流れを示すフローチャートである。画像生成装置100AのCPUが実行する処理である。
第2実施例においては、まず全ての選択フレーム画像を各ブロックが16×16画素になるように分割する(ステップS92)。そして、各ブロックについて、第1実施例と同様の処理を行なう(ステップS95〜ステップS150)。つまり、各ブロックが独立したフレーム画像であるものとみなして処理を行なう。その際、選択フレーム画像内において同じ位置のブロック(選択フレーム画像1の第1ブロック,選択フレーム画像2の第1ブロック,選択フレーム画像3の第1ブロック,選択フレーム画像4の第1ブロック)同士で処理を行なう。第2ブロック、第3ブロック・・についても同様に、全てのブロックについて、ステップS95からステップS150までの処理を繰り返す(ステップS155)。
ただし、予備フレーム画像を選択フレーム画像に変更したら(ステップS155)、排除処理をして(ステップS30)、選択フレーム画像を比較対象画像に設定し(ステップS156)、その比較対象画像も各ブロックが16×16画素になるように分割する(ステップS158)。
以上説明した第2実施例の画像生成装置100Aによれば、ブロックのずれ量をフレーム画像の画像ずれ量をもとに、簡便に求めることができる。フレーム画像全体としては合成に使用できなかった画像も、ブロックに分割することで合成に使用できるようになる場合もある。
C.変形例:
以上、本発明のいくつかの実施の形態について説明したが、本発明はこのような実施の形態になんら限定されるものではなく、その要旨を逸脱しない範囲内において種々なる態様での実施が可能である。例えば、合成するフレーム画像の枚数や、ずれ量の閾値は、様々に設定可能である。更に、比較基準画像と対象画像における同じ位置の画素の特徴量の差の集合である画像差分や、画素の特徴量の平均値の差を、対象画像を合成に使用するか否かの判断基準としても良い。また、以下のような変形例が可能である。
上記第1実施例の画像生成装置100は、パノラマ画像の生成を行うこともできる。図14は、パノラマ画像生成の様子を示す説明図である。ここでは、実線で示した5枚のフレーム画像1〜5を合成し、その一部を抽出して、破線で示したパノラマ画像を生成する場合について示した。先に説明した従来の画像生成装置では、フレーム画像1を基準画像とした場合には、フレーム画像5と重なる領域がないため、合成画像の生成ができなかった。しかし、第1実施例の画像生成装置100によれば、比較基準画像をフレーム画像1→フレーム画像2→フレーム画像3→フレーム画像4と変更することにより、より多くのフレーム画像を合成してパノラマ画像を生成することが可能である。
Claims (21)
- 動画像に含まれる複数のフレーム画像から静止画像を生成する画像生成装置であって、
前記複数のフレーム画像の中の基準フレーム画像以外のフレーム画像に含まれる領域のうち、少なくとも1以上を、前記基準フレーム画像内の基準フレーム画像領域との関係で設定された所定の規則に基づいて、合成対象フレーム画像領域に設定する合成対象設定部と、
前記基準フレーム画像領域及び前記合成対象フレーム画像領域から、1つの比較基準フレーム画像領域を抽出する比較基準抽出部と、
前記比較基準フレーム画像領域以外の合成対象フレーム画像領域から、1つの対象フレーム画像領域を抽出する対象抽出部と、
前記比較基準フレーム画像領域と前記対象フレーム画像領域を比較し、所定のパラメータを求める比較部と、
前記パラメータが所定の基準を満たさなければ、前記対象フレーム画像領域を合成対象フレーム画像領域から除外する除外部と、
前記基準フレーム画像領域と前記合成対象フレーム画像領域を合成して合成画像領域を生成する合成画像生成部と
を備えた画像生成装置。 - 請求項1記載の画像生成装置であって、さらに、
前記基準フレーム画像内に、合成の基準となる領域を前記基準フレーム画像領域として設定する設定部と、
前記基準フレーム画像領域と、前記基準を満たす合成対象フレーム画像領域の合計数が所定の数以上になるまで、前記合成対象設定部と前記比較基準抽出部と前記対象抽出部と前記比較部と前記除外部の処理を繰り返させるフレーム数制御部と、
を備える画像生成装置。 - 請求項2記載の画像生成装置であって、さらに、
前記基準フレーム画像の指定を受ける指定受付部を備え、
前記設定部は、指定を受けたフレーム画像を前記基準フレーム画像とする
画像生成装置。 - 請求項1または2記載の画像生成装置であって、
前記比較基準抽出部は、前記基準フレーム画像領域を前記比較基準フレーム画像領域とする画像生成装置。 - 請求項1または2記載の画像生成装置であって、さらに、
前記合成対象フレーム画像領域から、1つのフレーム画像の領域としての特徴が所定の条件を満たすフレーム画像の領域を取り除く排除部を備えた画像生成装置。 - 請求項1または2記載の画像生成装置であって、
前記パラメータは、画像ずれ量である画像生成装置。 - 請求項6記載の画像生成装置であって、
前記比較部は、
前記対象フレーム画像領域を含む対象フレーム画像の、前記比較基準フレーム画像領域を含む比較基準フレーム画像からの画像ずれ量を求めるフレームずれ量算出部と、
前記対象フレーム画像領域の、前記比較基準フレーム画像領域からの画像ずれ量を、前記フレームずれ量算出部が求めた画像ずれ量に基づいて求める領域ずれ量算出部と
を備えた画像生成装置。 - 請求項1または2記載の画像生成装置であって、
前記パラメータは、前記対象フレーム画像領域と前記比較基準フレーム画像領域における同じ位置の画素の特徴量の比較によって得られる画像差分である画像生成装置。 - 請求項1または2記載の画像生成装置であって、
前記パラメータは、前記対象フレーム画像領域と、前記比較基準フレーム画像領域における、画素の特徴量の平均値の比較である画像生成装置。 - 請求項1または2記載の画像生成装置であって、
前記基準フレーム画像領域と前記合成対象フレーム画像領域は、前記フレーム画像が、それぞれ同じ形式で分割された領域であって、
前記対象抽出部は、前記比較基準フレーム画像領域に対応する同じ位置の対象フレーム画像領域を抽出する
画像生成装置。 - 動画像に含まれる複数のフレーム画像から静止画像を生成する画像生成方法であって、
(a)前記複数のフレーム画像の中の基準フレーム画像以外のフレーム画像に含まれる領域のうち、少なくとも1以上を、前記基準フレーム画像内の基準フレーム画像領域との関係で設定された所定の規則に基づいて、合成対象フレーム画像領域に設定する工程と、
(b)前記基準フレーム画像領域及び前記合成対象フレーム画像領域から、1つの比較基準フレーム画像領域を抽出する工程と、
(c)前記比較基準フレーム画像領域以外の合成対象フレーム画像領域から、1つの対象フレーム画像領域を抽出する工程と、
(d)前記比較基準フレーム画像領域と前記対象フレーム画像領域を比較し、所定のパラメータを求める工程と、
(e)前記パラメータが所定の基準を満たさなければ、前記対象フレーム画像領域を合成対象フレーム画像領域から除外する工程と、
(f)前記基準フレーム画像領域と前記合成対象フレーム画像領域を合成して合成画像領域を生成する工程と
を備えた画像生成方法。 - 請求項11記載の画像生成方法であって、さらに、
前記基準フレーム画像内に、合成の基準となる領域を前記基準フレーム画像領域として設定する工程と、
(g)前記基準フレーム画像領域と、前記基準を満たす合成対象フレーム画像領域の合計数が所定の数以上になるまで、前記工程(a)と前記工程(b)と前記工程(c)と前記工程(d)と前記工程(e)の処理を繰り返させる工程と、
を備える画像生成方法。 - 請求項12記載の画像生成方法であって、さらに、
前記基準フレーム画像の指定を受ける工程を備え、
前記基準フレーム画像領域を設定する工程は、指定を受けたフレーム画像を前記基準フレーム画像とする工程を含む、、
画像生成方法。 - 請求項11または12記載の画像生成方法であって、
前記工程(b)は、前記基準フレーム画像領域を前記比較基準フレーム画像領域とする工程を含む、画像生成方法。 - 請求項11または12記載の画像生成方法であって、さらに、
前記合成対象フレーム画像領域から、1つのフレーム画像の領域としての特徴が所定の条件を満たすフレーム画像の領域を取り除く工程を備えた画像生成方法。 - 請求項11または12記載の画像生成方法であって、
前記パラメータは、画像ずれ量である画像生成方法。 - 請求項16記載の画像生成方法であって、
前記工程(d)は、
前記対象フレーム画像領域を含む対象フレーム画像の、前記比較基準フレーム画像領域を含む比較基準フレーム画像からの画像ずれ量を求める工程と、
前記対象フレーム画像領域の、前記比較基準フレーム画像領域からの画像ずれ量を、前記フレームずれ量算出部が求めた画像ずれ量に基づいて求める工程と
を備えた画像生成方法。 - 請求項11または12記載の画像生成方法であって、
前記パラメータは、前記対象フレーム画像領域と前記比較基準フレーム画像領域における同じ位置の画素の特徴量の比較によって得られる画像差分である画像生成方法。 - 請求項11または12記載の画像生成方法であって、
前記パラメータは、前記対象フレーム画像領域と、前記比較基準フレーム画像領域における、画素の特徴量の平均値の比較である画像生成方法。 - 請求項11または12記載の画像生成方法であって、
前記基準フレーム画像領域と前記合成対象フレーム画像領域は、前記フレーム画像が、それぞれ同じ形式で分割された領域であって、
前記工程(c)は、前記比較基準フレーム画像領域に対応する同じ位置の対象フレーム画像領域を抽出する工程を含む、
画像生成方法。 - 動画像に含まれる複数のフレーム画像から静止画像を生成するためのコンピュータプログラムであって、
前記複数のフレーム画像の中の基準フレーム画像以外のフレーム画像に含まれる領域のうち、少なくとも1以上を、前記基準フレーム画像内の基準フレーム画像領域との関係で設定された所定の規則に基づいて、合成対象フレーム画像領域に設定する合成対象設定機能と、
前記基準フレーム画像領域及び前記合成対象フレーム画像領域から、1つの比較基準フレーム画像領域を抽出する比較基準抽出機能と、
前記比較基準フレーム画像領域以外の合成対象フレーム画像領域から、1つの対象フレーム画像領域を抽出する対象抽出機能と、
前記比較基準フレーム画像領域と前記対象フレーム画像領域を比較し、所定のパラメータを求める比較機能と、
前記パラメータが所定の基準を満たさなければ、前記対象フレーム画像領域を合成対象フレーム画像領域から除外する除外機能と、
前記基準フレーム画像領域と前記合成対象フレーム画像領域を合成して合成画像領域を生成する合成画像生成機能と
をコンピュータに実現させるコンピュータプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003112392 | 2003-04-17 | ||
JP2003112392 | 2003-04-17 | ||
PCT/JP2004/005514 WO2004093011A1 (ja) | 2003-04-17 | 2004-04-16 | 複数のフレーム画像からの静止画像の生成 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2004093011A1 JPWO2004093011A1 (ja) | 2006-07-06 |
JP4120677B2 true JP4120677B2 (ja) | 2008-07-16 |
Family
ID=33296055
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005505487A Expired - Fee Related JP4120677B2 (ja) | 2003-04-17 | 2004-04-16 | 複数のフレーム画像からの静止画像の生成 |
Country Status (5)
Country | Link |
---|---|
US (1) | US7672538B2 (ja) |
EP (1) | EP1538562A4 (ja) |
JP (1) | JP4120677B2 (ja) |
CN (1) | CN100351868C (ja) |
WO (1) | WO2004093011A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014112796A (ja) * | 2012-12-05 | 2014-06-19 | Samsung Electronics Co Ltd | 撮像装置および撮像方法 |
Families Citing this family (37)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007536861A (ja) * | 2004-05-05 | 2007-12-13 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 選択的なビデオブランキング |
JP4497001B2 (ja) * | 2005-03-22 | 2010-07-07 | 株式会社ニコン | 画像処理装置、電子カメラ、および画像処理プログラム |
JP4496537B2 (ja) * | 2005-03-24 | 2010-07-07 | カシオ計算機株式会社 | 画像合成装置および画像合成処理プログラム |
EP1744278B1 (en) * | 2005-07-13 | 2008-05-21 | LaserSoft Imaging AG | Providing a digital copy of a source image |
US20090119596A1 (en) * | 2005-11-10 | 2009-05-07 | Yuji Iwahara | Viewer device, slide show display method in viewer device, and program |
WO2007142109A1 (ja) * | 2006-05-31 | 2007-12-13 | Nec Corporation | 画像高解像度化装置及び画像高解像度化方法並びにプログラム |
US20080043259A1 (en) * | 2006-08-18 | 2008-02-21 | Roger Lee Triplett | Method and system for hardcopy output of snapshots and video |
WO2008047664A1 (fr) * | 2006-10-19 | 2008-04-24 | Panasonic Corporation | Dispositif de création d'image et procédé de création d'image |
US8717412B2 (en) * | 2007-07-18 | 2014-05-06 | Samsung Electronics Co., Ltd. | Panoramic image production |
JP4480760B2 (ja) * | 2007-12-29 | 2010-06-16 | 株式会社モルフォ | 画像データ処理方法および画像処理装置 |
US20090244301A1 (en) * | 2008-04-01 | 2009-10-01 | Border John N | Controlling multiple-image capture |
JP2010034964A (ja) * | 2008-07-30 | 2010-02-12 | Sharp Corp | 画像合成装置、画像合成方法及び画像合成プログラム |
EP2400461A4 (en) * | 2009-02-19 | 2017-08-02 | Nec Corporation | Image processing system, image processing method, and image processing program |
JP2010250612A (ja) * | 2009-04-16 | 2010-11-04 | Canon Inc | 画像処理装置及び画像処理方法 |
TWI401617B (zh) * | 2009-05-19 | 2013-07-11 | Ipanel Technologies Ltd | 獲取圖像偏移位置的方法及裝置 |
EP2309452A1 (en) | 2009-09-28 | 2011-04-13 | Alcatel Lucent | Method and arrangement for distance parameter calculation between images |
EP2483767B1 (en) | 2009-10-01 | 2019-04-03 | Nokia Technologies Oy | Method relating to digital images |
US8558913B2 (en) | 2010-02-08 | 2013-10-15 | Apple Inc. | Capture condition selection from brightness and motion |
SE534551C2 (sv) | 2010-02-15 | 2011-10-04 | Scalado Ab | Digital bildmanipulation innefattande identifiering av ett målområde i en målbild och sömlös ersättning av bildinformation utifrån en källbild |
JP5424930B2 (ja) * | 2010-02-19 | 2014-02-26 | キヤノン株式会社 | 画像編集装置およびその制御方法およびプログラム |
CN102075679A (zh) * | 2010-11-18 | 2011-05-25 | 无锡中星微电子有限公司 | 一种图像采集方法和装置 |
SE1150505A1 (sv) | 2011-05-31 | 2012-12-01 | Mobile Imaging In Sweden Ab | Metod och anordning för tagning av bilder |
EP2718896A4 (en) | 2011-07-15 | 2015-07-01 | Mobile Imaging In Sweden Ab | METHOD FOR PROVIDING ADJUSTED DIGITAL GRAPHIC REPRESENTATION OF VIEW AND APPROPRIATE APPARATUS |
AU2011253779A1 (en) * | 2011-12-01 | 2013-06-20 | Canon Kabushiki Kaisha | Estimation of shift and small image distortion |
WO2014010324A1 (ja) * | 2012-07-13 | 2014-01-16 | 富士フイルム株式会社 | 画像変形装置およびその動作制御方法 |
US20140152765A1 (en) * | 2012-12-05 | 2014-06-05 | Samsung Electronics Co., Ltd. | Imaging device and method |
US9304089B2 (en) * | 2013-04-05 | 2016-04-05 | Mitutoyo Corporation | System and method for obtaining images with offset utilized for enhanced edge resolution |
CN103699897A (zh) * | 2013-12-10 | 2014-04-02 | 深圳先进技术研究院 | 一种鲁棒人脸配准方法和装置 |
CN105865451B (zh) * | 2016-04-19 | 2019-10-01 | 深圳市神州云海智能科技有限公司 | 用于移动机器人室内定位的方法和设备 |
CN107483839B (zh) | 2016-07-29 | 2020-08-07 | Oppo广东移动通信有限公司 | 多帧图像合成方法和装置 |
US9940695B2 (en) * | 2016-08-26 | 2018-04-10 | Multimedia Image Solution Limited | Method for ensuring perfect stitching of a subject's images in a real-site image stitching operation |
CN106303292B (zh) * | 2016-09-30 | 2019-05-03 | 努比亚技术有限公司 | 一种视频数据的生成方法和终端 |
CN108063920A (zh) * | 2017-12-26 | 2018-05-22 | 深圳开立生物医疗科技股份有限公司 | 一种图像冻结方法、装置、设备及计算机可读存储介质 |
CN111131688B (zh) * | 2018-10-31 | 2021-04-23 | Tcl科技集团股份有限公司 | 一种图像处理方法、装置及移动终端 |
JP7247682B2 (ja) * | 2019-03-18 | 2023-03-29 | 株式会社リコー | 画像処理装置、画像処理方法、画像処理プログラム、電子機器及び撮影装置 |
JP6562492B1 (ja) * | 2019-05-16 | 2019-08-21 | 株式会社モルフォ | 画像処理装置、画像処理方法及びプログラム |
US11423224B2 (en) | 2019-06-14 | 2022-08-23 | Kyocera Document Solutions Inc. | Image-to-text recognition for a sequence of images |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0210680A (ja) | 1988-06-28 | 1990-01-16 | Sanyo Electric Co Ltd | 電気コタツ |
JPH0210680U (ja) | 1988-07-01 | 1990-01-23 | ||
JP3345980B2 (ja) | 1993-04-13 | 2002-11-18 | 松下電器産業株式会社 | フレーム画像生成装置 |
US6075905A (en) * | 1996-07-17 | 2000-06-13 | Sarnoff Corporation | Method and apparatus for mosaic image construction |
JP2828138B2 (ja) * | 1996-08-28 | 1998-11-25 | 日本電気株式会社 | 画像合成方法及び画像合成装置 |
US5987164A (en) * | 1997-08-01 | 1999-11-16 | Microsoft Corporation | Block adjustment method and apparatus for construction of image mosaics |
JP4250237B2 (ja) | 1998-11-10 | 2009-04-08 | キヤノン株式会社 | 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体 |
JP4371457B2 (ja) | 1999-02-18 | 2009-11-25 | キヤノン株式会社 | 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体 |
EP1008956A1 (en) | 1998-12-08 | 2000-06-14 | Synoptics Limited | Automatic image montage system |
JP3432212B2 (ja) * | 2001-03-07 | 2003-08-04 | キヤノン株式会社 | 画像処理装置及び方法 |
NL1019365C2 (nl) * | 2001-11-14 | 2003-05-15 | Tno | Bepaling van een beweging van een achtergrond in een reeks beelden. |
-
2004
- 2004-04-16 CN CNB2004800016127A patent/CN100351868C/zh not_active Expired - Fee Related
- 2004-04-16 WO PCT/JP2004/005514 patent/WO2004093011A1/ja active Application Filing
- 2004-04-16 EP EP04728040A patent/EP1538562A4/en not_active Withdrawn
- 2004-04-16 JP JP2005505487A patent/JP4120677B2/ja not_active Expired - Fee Related
- 2004-04-16 US US10/541,479 patent/US7672538B2/en not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014112796A (ja) * | 2012-12-05 | 2014-06-19 | Samsung Electronics Co Ltd | 撮像装置および撮像方法 |
Also Published As
Publication number | Publication date |
---|---|
CN1717702A (zh) | 2006-01-04 |
EP1538562A1 (en) | 2005-06-08 |
US7672538B2 (en) | 2010-03-02 |
EP1538562A4 (en) | 2005-08-10 |
CN100351868C (zh) | 2007-11-28 |
JPWO2004093011A1 (ja) | 2006-07-06 |
WO2004093011A1 (ja) | 2004-10-28 |
US20060171687A1 (en) | 2006-08-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4120677B2 (ja) | 複数のフレーム画像からの静止画像の生成 | |
JP4325625B2 (ja) | 画像処理装置、画像処理方法、そのプログラムおよび記録媒体 | |
JP4461937B2 (ja) | 低解像度の複数の画像に基づく高解像度の画像の生成 | |
US20100157107A1 (en) | Image Apparatus And Electronic Apparatus | |
US8289402B2 (en) | Image processing apparatus, image pickup apparatus and image processing method including image stabilization | |
US7548659B2 (en) | Video enhancement | |
JP4534172B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP4480760B2 (ja) | 画像データ処理方法および画像処理装置 | |
US6784927B1 (en) | Image processing apparatus and image processing method, and storage medium | |
JP4658223B2 (ja) | 画像生成方法、装置、およびそのプログラム並びにプログラムを記録した記録媒体 | |
JP2005354124A (ja) | 複数の低画素密度画像からの高画素密度画像の生成 | |
US7535497B2 (en) | Generation of static image data from multiple image data | |
JP2007226643A (ja) | 画像処理装置 | |
US8077923B2 (en) | Image processing apparatus and image processing method | |
JP2004234623A (ja) | 画像生成装置、画像ずれ量検出装置、画像生成方法、画像ずれ量検出方法、画像生成プログラムおよび画像ずれ量検出プログラム | |
JP5158262B2 (ja) | 画像処理方法および画像処理装置 | |
JP2004272751A (ja) | 複数のフレーム画像からの静止画像の生成 | |
JP2006221221A (ja) | 複数の低解像度画像を用いた高解像度画像の生成 | |
JP2006221220A (ja) | 複数の低解像度画像を用いた高解像度画像の生成 | |
JP2006033232A (ja) | 画像処理装置 | |
US8345157B2 (en) | Image processing apparatus and image processing method thereof | |
JP2005129996A (ja) | 低解像度の複数の画像に基づく高解像度の画像生成の効率向上 | |
JP2015079329A (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN110692235B (zh) | 图像处理装置、图像处理程序及图像处理方法 | |
JP2013126123A (ja) | 画像処理装置、撮像装置及び画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060629 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080129 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080311 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080401 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080414 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110509 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120509 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120509 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130509 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140509 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |