JP2012029014A - 画像処理装置及びその制御方法 - Google Patents

画像処理装置及びその制御方法 Download PDF

Info

Publication number
JP2012029014A
JP2012029014A JP2010165345A JP2010165345A JP2012029014A JP 2012029014 A JP2012029014 A JP 2012029014A JP 2010165345 A JP2010165345 A JP 2010165345A JP 2010165345 A JP2010165345 A JP 2010165345A JP 2012029014 A JP2012029014 A JP 2012029014A
Authority
JP
Japan
Prior art keywords
image
reference image
images
motion vector
setting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010165345A
Other languages
English (en)
Other versions
JP5643563B2 (ja
JP2012029014A5 (ja
Inventor
Atsushi Fujita
篤史 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010165345A priority Critical patent/JP5643563B2/ja
Priority to US13/173,186 priority patent/US8878946B2/en
Publication of JP2012029014A publication Critical patent/JP2012029014A/ja
Publication of JP2012029014A5 publication Critical patent/JP2012029014A5/ja
Application granted granted Critical
Publication of JP5643563B2 publication Critical patent/JP5643563B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • H04N23/6845Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by combination of a plurality of images sequentially taken

Abstract

【課題】複数の画像を合成することによって被写体象のずれが目立つ画像が生成されてしまうことを抑制する。
【解決手段】取得した複数の画像のうちの1つの画像を基準画像として設定し、基準画像に対する他の画像の動きベクトルをそれぞれ検出する。そして検出された動きベクトルのスカラ量と、基準画像と合成するための画像のずれの限界を表す閾値とを比較し、基準画像と合成する条件を満たすか否かを判断する。基準画像と合成する条件を満たす場合は、検出された動きベクトルを打ち消すように画像を移動して基準画像と合成することにより、画像間のずれを補正した画像を出力する。なお、基準画像と合成するための画像のずれの限界を表す閾値は、制御手段によって複数の画像が撮像された際の撮像設定や、撮像された複数の画像に含まれる被写体像の状態等に応じて変更される。
【選択図】図2

Description

本発明は、複数の画像から、当該画像間のずれを補正して合成する技術に関する。
今日、デジタルカメラ等の撮像装置には、撮像時のユーザの手ぶれ等による撮像装置の動きによって被写体像がぶれてしまうことを防ぐため、様々な手ぶれ補正機能が備えられていることが多い。手ぶれ補正機能には、大きく分けて光学式手ぶれ補正と電子式手ぶれ補正があり、電子式手ぶれ補正では撮像された複数の画像について被写体像のずれを画像処理によって補正している。具体的には電子式手ぶれ補正では、複数回の撮像により得られた複数の画像のそれぞれについて同一パターンの被写体像の位置を検出し、同一パターンの被写体像が重なるように複数の画像の合成位置を調整している。
このような手ぶれ補正機能は、例えば夜景等の暗所における撮像に有効である。夜景等の暗所の撮像では、適正露光を得るために撮像素子の受光感度を高くする方法も用いられるが、撮像された画像にノイズが目立つため、露光時間を長くしてノイズを低減して適正露光を得る方法もとられている。しかしながら、露光時間を長くすることにより、露光時間中の撮像装置を把持する撮像者の手ぶれの影響を受けやすくなる。このような状況において、例えば電子式手ぶれ補正を用いることにより、露光時間の短い複数の画像からノイズを低減し、かつ手ぶれを補正した画像を得ることが可能となる。
しかしながら、電子式手ぶれ補正を行う場合、同一パターンの被写体像が重なるように合成することが望ましいが、例えば手ぶれ量が大きすぎる場合や、画像が合焦していない場合等、パターンマッチングが困難な場合は、被写体像のずれ量を正確に検出できない。即ち、被写体像のずれ量が誤って検出された画像を合成しても、撮像者は所望の画像を得ることはできなかった。
特許文献1には、被写体像のずれ量が誤って検出された画像を合成することにより、所望の結果を得られないことを回避するために、撮像された複数の画像のうち、露光条件が適正な画像のみを抽出して合成する方法が開示されている。また特許文献2には、露光時間が長い場合には被写体像のずれ量が大きくなる可能性が高いため、露光時間が所定の時間以下の間に撮像された複数の画像の合成を行う方法が開示されている。
特開平8−307761号公報 特開2000−224470号公報
上述したような暗所における撮像ではなく、照明条件が整った明るいシーンにおいて電子式手ぶれ補正を行った場合、複数の画像それぞれにおいてエッジのコントラストが高い被写体像を得ることができる。しかしながら、このようにエッジのコントラストが高い画像を用いて電子式手ぶれ補正を行う際に被写体像のずれ量が誤って検出された画像が存在すると、合成して得られた画像において、被写体像が複数重なって見える、図4(a)のような所謂二重像が発生する。特に、特許文献1のように合成に用いる画像が選別され、少数の画像で合成を行う場合、二重像が発生した場合に目立ちやすくなってしまう問題があった。
本発明は、上述の問題点に鑑みてなされたものであり、複数の画像を合成することによって被写体象のずれが目立つ画像が生成されてしまうことを抑制することを目的とする。
前述の目的を達成するために、本発明の画像処理装置は、以下の構成を備える。
複数の画像を取得する画像取得手段と、複数の画像が撮像された際の、当該複数の画像を撮像した撮像装置の撮像設定を取得する設定取得手段と、取得手段により取得された複数の画像のうち、1つの画像を基準画像として設定する設定手段と、基準画像を除く複数の画像のそれぞれについて、基準画像に対する動きベクトルを検出する検出手段と、基準画像を除く複数の画像のそれぞれについて、検出手段により検出された動きベクトルのスカラ量と基準画像と合成する条件である閾値とを比較し、動きベクトルのスカラ量が閾値以下である場合に、基準画像と合成する条件を満たすと判断する判断手段と、判断手段により基準画像と合成する条件を満たすと判断された画像を、当該画像の動きベクトルを打ち消すように移動して基準画像と合成する合成手段と、基準画像と合成する条件を制御する制御手段と、を備え、制御手段は、設定取得手段により取得された複数の画像が撮像された際の感度設定の設定値が低いほど、閾値が低くなるように制御することを特徴とする。
このような構成により本発明によれば、複数の画像を合成することによって被写体象のずれが目立つ画像が生成されてしまうことを抑制することを可能とする。
本発明の実施形態に係るデジタルカメラの機能構成を示すブロック図。 実施形態に係る手ぶれ補正処理のフローチャート。 動きベクトルの検出方法を説明するための図。 二重像を説明するための図。
以下、本発明の好適な一実施形態について、図面を参照して詳細に説明する。なお、以下に説明する一実施形態は、画像処理装置の一例としての、撮像した複数の画像について、画像間のずれを補正して合成を行った画像を出力可能なデジタルカメラに、本発明を適用した例を説明する。しかし、本発明は、取得した複数の画像について、画像間のずれを補正して合成を行った画像を出力することが可能な任意の機器に適用可能である。
図1は、本発明の実施形態に係るデジタルカメラ100の機能構成を示すブロック図である。
制御部101は、例えばCPUであり、デジタルカメラ100が備える各ブロックの動作プログラムをROM102より読み出し、RAM103に展開して実行することによりデジタルカメラ100が備える各ブロックの動作を制御する。ROM102は、書き換え可能な不揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作プログラムに加え、例えば画像の分割数等、各ブロックの動作に必要なパラメータ等を記憶する。RAM103は、書き換え可能な揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作において出力されたデータの一時的な記憶領域として用いられる。本実施形態ではRAM103には、手ぶれ補正を行うために撮像された複数の画像が一時的に記憶される(画像取得)。
撮像部105は、例えばCCDやCMOSセンサ等の撮像素子であり、光学系104により撮像素子に結像された光学像を光電変換し、得られたアナログ画像信号をA/D変換部106に出力する。A/D変換部106は、入力されたアナログ画像信号にA/D変換処理を適用し、得られたデジタル画像データを画像処理部107に出力する。画像処理部107は、入力されたデジタル画像データに、例えば色調補正やゲイン調整等の所定の画像処理を適用しRAM103に記憶する。なお、撮像部105、A/D変換部106及び画像処理部107で行われる撮像処理は、例えば電子式手ぶれ補正を行うようにユーザにより選択されて撮像された場合には、所定の回数、または所定の期間繰り返し実行される。この場合、RAM103には複数回の撮像のそれぞれで出力された複数の画像が一時的に記憶される。
動きベクトル検出部108は、RAM103に記憶された複数の画像のうちの1つの画像を基準画像とし、基準画像を除く他の画像それぞれについて、基準画像に対する画像のずれの向き及び大きさを表す動きベクトルを検出するブロックである。具体的には、動きベクトル検出部108には、RAM103に記憶されている複数の画像のうち、基準画像及び当該基準画像と比較を行う対象画像が入力される。そして図3に示したように、各画像を複数の領域に分け、領域ごとに被写体像のパターンマッチングを行い、領域ごとの動きベクトルを検出する。さらに、動きベクトル検出部108は検出された領域ごとの動きベクトルから、対象画像全体の動きベクトル(グローバル動きベクトル)を算出する。この対象画像全体の動きベクトルが、後述する合成部109において当該対象画像の補正量を決定するために用いられる。なお、動きベクトル検出部108が検出した対象画像の動きベクトルの情報は、例えば当該対象画像に関連付けてRAM103に記憶されればよい。
なお、本実施形態において、動きベクトル算出の基準となる基準画像は、例えばRAM103に記憶された複数の画像のうち、例えば最初に撮像された画像を用いるものとして以下に説明する。しかしながら、本発明の実施はこれに限らず、基準画像は撮像された複数の画像のうちの1つの画像であればよく、例えば撮像された時間、撮像されている被写体像の状態等から決定されてもよい。
合成部109は、基準画像及び対象画像が入力され、基準画像に対し、動きベクトル検出部108で検出された動きベクトルとは反対方向に当該動きベクトルのスカラ量の分だけ対象画像を移動させて合成する。なお、本実施形態では合成部109は例えば内部メモリを備え、合成中の画像は当該内部メモリに保持される記憶されているものとして説明する。記録媒体110は、例えばデジタルカメラ100が備える内部メモリや、メモリカードやHDD等の、デジタルカメラ100に着脱可能に接続される記録装置であってよい。記録媒体110には、合成部109で画像のずれが補正された合成画像が合成部109より入力され、記録される。
(手ぶれ補正処理)
このような構成をもつ本実施形態のデジタルカメラ100の手ぶれ補正処理について、図2のフローチャートを用いて具体的な処理を説明する。当該フローチャートに対応する処理は、制御部101が、例えばROM102に記憶されている対応する処理プログラムを読み出し、RAM103に展開して実行することにより実現することができる。なお、本手ぶれ補正処理は、例えばユーザによりデジタルカメラ100の撮像設定が電子式手ぶれ補正を用いる設定に変更されている状態で、撮像が行われた際に開始されるものとして説明する。
S201で、制御部101は複数回の撮像を行い、それぞれの撮像で得られた画像をRAM103に記憶させる。そして制御部101は複数回の撮像が完了すると処理をS202に移し、RAM103に記憶されている複数の画像のうち、最初に撮像された画像を基準画像として選択する。
S203で、制御部101は、基準画像を除く撮像された複数の画像のそれぞれを、基準画像に合成するか否かを判断するための閾値を決定する。具体的には、制御部101は、基準画像と合成するための画像のずれの限界を表す、各画像において検出される基準画像に対する動きベクトルのスカラ量の閾値を決定する。
本発明は、上述したように画像のずれを補正して得られる合成画像において二重像の発生を避けるために、複数の画像が撮像された際の撮像設定や、撮像された複数の画像に含まれる被写体像の状態等により、閾値を異ならせる。即ち、制御部101は、二重像の発生しやすさに応じて、基準画像と合成するための画像のずれの限界を表す閾値を制御することにより、二重像の発生を回避して、かつ精度よく画像のずれを補正した合成画像を得ることができる。
(基準画像と合成するための画像のずれの閾値)
本実施形態では、制御部101は、少なくとも以下の6つの条件のいずれか1つで基準画像と合成するための画像のずれの限界を表す閾値を制御するものとする。
1.感度
制御部101は、複数の画像が撮像された際のデジタルカメラ100の感度設定の設定値によって閾値を変更する(設定取得)。一般的な撮像装置では、感度設定の設定値が高い場合(高感度撮像)に撮像されて得られる画像ではノイズが発生するため、被写体像のエッジのコントラストは弱くなる。これに対し、感度設定の設定値が低く設定されて撮像を行う場合、得られる画像ではノイズが少ない。また、従来の撮像装置において、低感度撮像で得られた画像では、解像感を向上させるためにエッジを強調する処理が適用されることも多く、感度設定の設定値が低く設定されて得られた画像では、被写体像のエッジのコントラストが強い。
即ち、被写体像のエッジのコントラストが強い画像では、被写体像のずれ量が誤って検出された場合には二重像が目立ちやすくなるため、感度設定の設定値が低い場合は閾値を小さくする必要がある。これに対し、被写体像のエッジコントラストが弱い画像では、被写体像のずれ量が誤って検出された画像が合成されても二重像は目立ちにくいため、感度設定の設定値が高い場合は閾値を大きくしてもよい。つまり、制御部101は、複数の画像が撮像された際の感度設定の設定値が低いほど、閾値を小さくするように制御する。
2.合成する画像数
制御部101は、撮像された複数の画像の数によって閾値を変更する。上述したように、画像間のずれを補正するために合成される画像が少ない場合、合成される画像のそれぞれの輝度等の信号強度が高い。即ち、被写体像のずれ量が誤って検出された画像が合成されると、当該画像により発生した二重像は目立ちやすくなるため、合成する画像の数が少ない場合は閾値を小さくする必要がある。これに対し、合成する画像の数が多い場合は、被写体像のずれ量が誤って検出された画像が合成されても、信号強度が低いため二重像は目立ちにくく、閾値を大きくしてもよい。つまり、制御部101は、合成する画像の数が少ないほど、閾値を小さくするように制御する。
3.撮像モード
制御部101は、複数の画像が撮像された際のデジタルカメラ100の撮像モードの設定が風景モードである場合に閾値を変更する。一般的な撮像装置では、撮像モードとして風景モードを有する場合、当該モードは、輝度がある程度確保された野外の環境を撮像することを想定し、焦点距離が無限遠に設定されている。このため、風景モードを使用して撮像された画像は、遠方の被写体を再現するため、解像感が高いことが要求され、被写体像のエッジを強調する処理が適用されることが多い。
即ち、風景モードを使用して撮像された画像では、被写体像のエッジのコントラストが強いため、被写体像のずれ量が誤って検出された場合には二重像が目立ちやすくなる。つまり、制御部101は、複数の画像が撮像された際の撮像モードの設定が風景モードである場合、撮像モードが風景モード以外の他のモードである場合よりも閾値を小さくするように制御する。
4.被写体との距離
制御部101は、複数の画像が撮像された際の、被写体とデジタルカメラ100の距離によって閾値を変更する。撮像装置と被写体との距離が異なる被写体が、撮像される範囲である視野範囲に存在する場合、手ぶれが発生すると、撮像された画像においてそれぞれの被写体像のずれ量は異なる。特に、被写体像のずれ量が異なる現象は、被写体と撮像装置との距離が短い場合(マクロ撮影時等)に顕著に現れる。即ち、このような画像を合成したとしても、図4のように一部の被写体像のずれは補正することができず、二重像が発生しやすいと考えられる。
しかしながら、マクロ撮影時のように焦点距離からのずれによって像がぼかされるような撮像では、合焦している被写体像については二重像が目立ちやすいが、焦点距離からずれた位置に存在する被写体の被写体像については二重像が目立ちにくい。即ち、制御部101は複数の画像が撮像された際に、焦点距離に近い位置に存在する被写体の被写体像が存在する画像内の領域で検出された動きベクトルのスカラ量の閾値を小さくするように制御する。
5.人物像の存在
制御部101は、撮像された複数の画像に人物像が存在するか否かによって閾値を変更する。人物のような静止している保証が少ない被写体像が撮像された画像内に存在する場合、検出される動きベクトルの信頼性は少ないと考えられる。即ち、撮像された画像において主被写体が人物であったとしても、人物像について検出された動きベクトルに従って画像間のずれを補正して合成を行うと、背景の画像がずれてしまうことがある。つまり、制御部101は、撮像された複数の画像に人物が存在すると判別された場合は、検出された動きベクトルが小さい、即ち、人物が静止しているとみなせる画像のみを合成に使用するために、閾値を小さくするように制御する。
6.像高
制御部101は、撮像された画像の領域ごとに動きベクトルを検出し、画像内の位置によって、当該領域における閾値を変更する。一般的な撮像において、撮像者は主被写体が画像の中心となるように撮像する傾向が高い。即ち、撮像された画像において、主被写体が存在する可能性が高い、像高が低い領域において二重像が発生した場合は目立ちやすい。これに対し、像高が高い領域において二重像が発生した場合、画像の閲覧者の注目度も低いと思われるため、二重像が発生したとしても目立ちにくいと考えることができる。つまり、制御部101は、撮像された画像のうち、像高が低い位置にある領域ほど閾値が小さくするように制御する。
このように、本実施形態では制御部101は、S203において基準画像と合成するための画像のずれの限界を表す、各画像において検出される基準画像に対する動きベクトルのスカラ量の閾値を決定する。なお、上記の6つの条件は、撮像された画像によって、適切な組み合わせが選択されてよい。
S204以降のステップでは、制御部101はRAM103に記憶されている複数の画像のうち、S202で基準画像として選択した画像を除いた画像について、1つずつ対象画像として選択して処理を行っていく。
S204で、制御部101は、RAM103から基準画像及び対象画像を読み出し、動きベクトル検出部108に出力して、対象画像の動きベクトルを検出させる。このとき制御部101は、動きベクトル検出部108により検出された対象画像の動きベクトルを、当該対象画像に関連付けてRAM103に記憶させる。
S205で、制御部101は、対象画像について検出された動きベクトルのスカラ量が、S203で決定した基準画像と合成するための画像のずれの限界を表す閾値を上回るか否かを判断する。制御部101は、検出された対象画像の動きベクトルのスカラ量が閾値を上回る場合は処理をS209に移し、閾値以下である場合は処理をS206に移す。
S206で、制御部101は、合成部109に対象画像を出力し、当該対象画像について検出された動きベクトルの分だけ画像のずれを補正して基準画像と合成させる。具体的には制御部101は、基準画像に対し、対象画像について検出された動きベクトルと反対方向に、動きベクトルのスカラ量の分だけ対象画像を移動させて基準画像と合成する。なお、本ステップの処理において基準画像と対象画像とを合成するとして説明したが、撮像された複数の画像が2つ以上である場合は、S206に処理が移った際に合成部109の内部メモリに記憶されている合成画像と対象画像とが合成されるものとする。
S207で、制御部101は、RAM103に、まだ基準画像と合成する条件を満たすか否かが判断されていない画像が存在するかを判断し、当該画像が存在する場合は処理をS204に戻す。また制御部101は、全ての画像について合成がなされた場合は処理をS208に移し、合成部109で合成された画像を、不図示の符号化部で符号化して記録媒体110に記録して手ぶれ補正処理を完了する。
S205で検出された対象画像の動きベクトルのスカラ量が閾値を上回ると判断された場合、制御部101はS209で、例えばRAM103に記憶されている画像のうち、合成がなされていない1つの画像を選択する。そして制御部101は、不図示の符号化部で選択された画像を符号化して、記録媒体110に記録して手ぶれ補正処理を完了する。なお、本ステップで選択される画像は、例えばまだ合成部109において合成処理がなされていない場合は基準画像が選択されればよい。
以上説明したように、本実施形態の画像処理装置は、複数の画像から、当該画像間のずれを精度よく補正した画像を得ることができる。具体的には画像処理装置は、取得した複数の画像のうちの1つの画像を基準画像として設定し、基準画像に対する他の画像の動きベクトルをそれぞれ検出する。そして検出された動きベクトルのスカラ量と、基準画像と合成するための画像のずれの限界を表す閾値とを比較し、基準画像と合成する条件を満たすか否かを判断する。基準画像と合成する条件を満たす場合は、検出された動きベクトルを打ち消すように画像を移動して基準画像と合成することにより、画像間のずれを補正した画像を出力する。なお、基準画像と合成するための画像のずれの限界を表す閾値は、制御手段によって複数の画像が撮像された際の撮像設定や、撮像された複数の画像に含まれる被写体像の状態等に応じて変更される。
このようにすることで、複数の画像から画像間のずれを補正した画像において、二重像が発生することをさけ、かつ好適にずれが補正された画像を得ることができる。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (11)

  1. 複数の画像を取得する画像取得手段と、
    前記複数の画像が撮像された際の、当該複数の画像を撮像した撮像装置の撮像設定を取得する設定取得手段と、
    前記取得手段により取得された前記複数の画像のうち、1つの画像を基準画像として設定する設定手段と、
    前記基準画像を除く前記複数の画像のそれぞれについて、前記基準画像に対する動きベクトルを検出する検出手段と、
    前記基準画像を除く前記複数の画像のそれぞれについて、前記検出手段により検出された動きベクトルのスカラ量と前記基準画像と合成するための画像のずれの限界を表す閾値とを比較し、前記動きベクトルのスカラ量が前記閾値以下である場合に、前記基準画像と合成する条件を満たすと判断する判断手段と、
    前記判断手段により前記基準画像と合成する条件を満たすと判断された画像を、当該画像の動きベクトルを打ち消すように移動して前記基準画像と合成する合成手段と、
    前記閾値を変更する制御手段と、を備え、
    前記制御手段は、前記設定取得手段により取得された前記複数の画像が撮像された際の感度設定の設定値が低いほど、前記閾値を小さくすることを特徴とする画像処理装置。
  2. 複数の画像を取得する画像取得手段と、
    前記取得手段により取得された前記複数の画像のうち、1つの画像を基準画像として設定する設定手段と、
    前記基準画像を除く前記複数の画像のそれぞれについて、前記基準画像に対する動きベクトルを検出する検出手段と、
    前記基準画像を除く前記複数の画像のそれぞれについて、前記検出手段により検出された動きベクトルのスカラ量と前記基準画像と合成するための画像のずれの限界を表す閾値とを比較し、前記動きベクトルのスカラ量が前記閾値以下である場合に、前記基準画像と合成する条件を満たすと判断する判断手段と、
    前記判断手段により前記基準画像と合成する条件を満たすと判断された画像を、当該画像の動きベクトルを打ち消すように移動して前記基準画像と合成する合成手段と、
    前記閾値を変更する制御手段と、を備え、
    前記制御手段は、前記画像取得手段により取得された前記複数の画像の数が少ないほど、前記閾値を小さくすることを特徴とする画像処理装置。
  3. 複数の画像を取得する画像取得手段と、
    前記複数の画像が撮像された際の、当該複数の画像を撮像した撮像装置の撮像設定を取得する設定取得手段と、
    前記取得手段により取得された前記複数の画像のうち、1つの画像を基準画像として設定する設定手段と、
    前記基準画像を除く前記複数の画像のそれぞれについて、前記基準画像に対する動きベクトルを検出する検出手段と、
    前記基準画像を除く前記複数の画像のそれぞれについて、前記検出手段により検出された動きベクトルのスカラ量と前記基準画像と合成するための画像のずれの限界を表す閾値とを比較し、前記動きベクトルのスカラ量が前記閾値以下である場合に、前記基準画像と合成する条件を満たすと判断する判断手段と、
    前記判断手段により前記基準画像と合成する条件を満たすと判断された画像を、当該画像の動きベクトルを打ち消すように移動して前記基準画像と合成する合成手段と、
    前記閾値を変更する制御手段と、を備え、
    前記制御手段は、前記設定取得手段により取得された前記複数の画像が撮像された際の撮像モードの設定が風景モードである場合、前記閾値を前記撮像モードの設定が風景モード以外の他の撮像モードである場合よりも小さくすることを特徴とする画像処理装置。
  4. 複数の画像を取得する画像取得手段と、
    前記複数の画像に人物像が含まれているか否かを判別する判別手段と、
    前記取得手段により取得された前記複数の画像のうち、1つの画像を基準画像として設定する設定手段と、
    前記基準画像を除く前記複数の画像のそれぞれについて、前記基準画像に対する動きベクトルを検出する検出手段と、
    前記基準画像を除く前記複数の画像のそれぞれについて、前記検出手段により検出された動きベクトルのスカラ量と前記基準画像と合成するための画像のずれの限界を表す閾値とを比較し、前記動きベクトルのスカラ量が前記閾値以下である場合に、前記基準画像と合成する条件を満たすと判断する判断手段と、
    前記判断手段により前記基準画像と合成する条件を満たすと判断された画像を、当該画像の動きベクトルを打ち消すように移動して前記基準画像と合成する合成手段と、
    前記閾値を変更する制御手段と、を備え、
    前記制御手段は、前記判別手段により前記複数の画像に人物像が含まれていると判断された場合、前記閾値を当該複数の画像に人物像が含まれていない場合よりも小さくすることを特徴とする画像処理装置。
  5. 複数の画像を取得する画像取得手段と、
    前記取得手段により取得された前記複数の画像のうち、1つの画像を基準画像として設定する設定手段と、
    前記基準画像を除く前記複数の画像のそれぞれについて、前記基準画像に対する動きベクトルを前記画像の領域ごとに検出する検出手段と、
    前記基準画像を除く前記複数の画像のそれぞれについて、前記検出手段により検出された前記領域ごとの動きベクトルのスカラ量と前記基準画像と合成するための画像のずれの限界を表す閾値とを比較し、前記領域ごとの動きベクトルのスカラ量が前記閾値以下である場合に、前記基準画像と合成する条件を満たすと判断する判断手段と、
    前記判断手段により前記基準画像と合成する条件を満たすと判断された画像を、当該画像の動きベクトルを打ち消すように移動して前記基準画像と合成する合成手段と、
    前記閾値を変更する制御手段と、を備え、
    前記制御手段は、前記画像の領域のうち、像高が低い位置にある領域ほど、前記閾値を小さくすることを特徴とする画像処理装置。
  6. 前記複数の画像が合成された1つの合成画像を出力する出力手段をさらに備え、
    前記判断手段が、前記基準画像を除く前記複数の画像を1つずつ判断するように構成される場合、
    前記出力手段は、前記判断手段により前記基準画像を除く複数の画像のうちの1つの画像が、前記基準画像と合成する条件を満たさないと判断された場合に、前記複数の画像のうち、前記基準画像と合成されていない1つの画像を、前記合成画像として出力することを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
  7. 画像取得手段が、複数の画像を取得する画像取得工程と、
    設定取得手段が、前記複数の画像が撮像された際の、当該複数の画像を撮像した撮像装置の撮像設定を取得する設定取得工程と、
    設定手段が、前記取得工程において取得された前記複数の画像のうち、1つの画像を基準画像として設定する設定工程と、
    検出手段が、前記基準画像を除く前記複数の画像のそれぞれについて、前記基準画像に対する動きベクトルを検出する検出工程と、
    判断手段が、前記基準画像を除く前記複数の画像のそれぞれについて、前記検出工程において検出された動きベクトルのスカラ量と前記基準画像と合成するための画像のずれの限界を表す閾値とを比較し、前記動きベクトルのスカラ量が前記閾値以下である場合に、前記基準画像と合成する条件を満たすと判断する判断工程と、
    合成手段が、前記判断工程において前記基準画像と合成する条件を満たすと判断された画像を、当該画像の動きベクトルを打ち消すように移動して前記基準画像と合成する合成工程と、
    制御手段が、前記閾値を変更する制御工程と、を備え、
    前記制御工程において前記制御手段は、前記設定取得工程において取得された前記複数の画像が撮像された際の感度設定の設定値が低いほど、前記閾値を小さくすることを特徴とする画像処理装置の制御方法。
  8. 画像取得手段が、複数の画像を取得する画像取得工程と、
    設定手段が、前記取得工程において取得された前記複数の画像のうち、1つの画像を基準画像として設定する設定工程と、
    検出手段が、前記基準画像を除く前記複数の画像のそれぞれについて、前記基準画像に対する動きベクトルを検出する検出工程と、
    判断手段が、前記基準画像を除く前記複数の画像のそれぞれについて、前記検出工程において検出された動きベクトルのスカラ量と前記基準画像と合成するための画像のずれの限界を表す閾値とを比較し、前記動きベクトルのスカラ量が前記閾値以下である場合に、前記基準画像と合成する条件を満たすと判断する判断工程と、
    合成手段が、前記判断工程において前記基準画像と合成する条件を満たすと判断された画像を、当該画像の動きベクトルを打ち消すように移動して前記基準画像と合成する合成工程と、
    制御手段が、前記閾値を変更する制御工程と、を備え、
    前記制御工程において前記制御手段は、前記画像取得工程において取得された前記複数の画像の数が少ないほど、前記閾値を小さくすることを特徴とする画像処理装置の制御方法。
  9. 画像取得手段が、複数の画像を取得する画像取得工程と、
    設定取得手段が、前記複数の画像が撮像された際の、当該複数の画像を撮像した撮像装置の撮像設定を取得する設定取得工程と、
    設定手段が、前記取得工程において取得された前記複数の画像のうち、1つの画像を基準画像として設定する設定工程と、
    検出手段が、前記基準画像を除く前記複数の画像のそれぞれについて、前記基準画像に対する動きベクトルを検出する検出工程と、
    判断手段が、前記基準画像を除く前記複数の画像のそれぞれについて、前記検出工程において検出された動きベクトルのスカラ量と前記基準画像と合成するための画像のずれの限界を表す閾値とを比較し、前記動きベクトルのスカラ量が前記閾値以下である場合に、前記基準画像と合成する条件を満たすと判断する判断工程と、
    合成手段が、前記判断工程において前記基準画像と合成する条件を満たすと判断された画像を、当該画像の動きベクトルを打ち消すように移動して前記基準画像と合成する合成工程と、
    制御手段が、前記閾値を変更する制御工程と、を備え、
    前記制御工程において前記制御手段は、前記設定取得工程において取得された前記複数の画像が撮像された際の撮像モードの設定が風景モードである場合、前記閾値を前記撮像モードの設定が風景モード以外の他の撮像モードである場合よりも小さくすることを特徴とする画像処理装置の制御方法。
  10. 画像取得手段が、複数の画像を取得する画像取得工程と、
    判別手段が、前記複数の画像に人物像が含まれているか否かを判別する判別工程と、
    設定手段が、前記取得工程において取得された前記複数の画像のうち、1つの画像を基準画像として設定する設定工程と、
    検出手段が、前記基準画像を除く前記複数の画像のそれぞれについて、前記基準画像に対する動きベクトルを検出する検出工程と、
    判断手段が、前記基準画像を除く前記複数の画像のそれぞれについて、前記検出工程において検出された動きベクトルのスカラ量と前記基準画像と合成するための画像のずれの限界を表す閾値とを比較し、前記動きベクトルのスカラ量が前記閾値以下である場合に、前記基準画像と合成する条件を満たすと判断する判断工程と、
    合成手段が、前記判断工程において前記基準画像と合成する条件を満たすと判断された画像を、当該画像の動きベクトルを打ち消すように移動して前記基準画像と合成する合成工程と、
    制御手段が、前記閾値を変更する制御工程と、を備え、
    前記制御工程において前記制御手段は、前記判別工程において前記複数の画像に人物像が含まれていると判断された場合、前記閾値を当該複数の画像に人物像が含まれていない場合よりも小さくすることを特徴とする画像処理装置の制御方法。
  11. 画像取得手段が、複数の画像を取得する画像取得工程と、
    設定手段が、前記取得工程において取得された前記複数の画像のうち、1つの画像を基準画像として設定する設定工程と、
    検出手段が、前記基準画像を除く前記複数の画像のそれぞれについて、前記基準画像に対する動きベクトルを前記画像の領域ごとに検出する検出工程と、
    判断手段が、前記基準画像を除く前記複数の画像のそれぞれについて、前記検出工程において検出された前記領域ごとの動きベクトルのスカラ量と前記基準画像と合成するための画像のずれの限界を表す閾値とを比較し、前記領域ごとの動きベクトルのスカラ量が前記閾値以下である場合に、前記基準画像と合成する条件を満たすと判断する判断工程と、
    合成手段が、前記判断工程において前記基準画像と合成する条件を満たすと判断された画像を、当該画像の動きベクトルを打ち消すように移動して前記基準画像と合成する合成工程と、
    制御手段が、前記閾値を変更する制御工程と、を備え、
    前記制御工程において前記制御手段は、前記画像の領域のうち、像高が低い位置にある領域ほど、前記閾値を小さくすることを特徴とする画像処理装置の制御方法。
JP2010165345A 2010-07-22 2010-07-22 画像処理装置及びその制御方法 Active JP5643563B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010165345A JP5643563B2 (ja) 2010-07-22 2010-07-22 画像処理装置及びその制御方法
US13/173,186 US8878946B2 (en) 2010-07-22 2011-06-30 Image processing apparatus and control method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010165345A JP5643563B2 (ja) 2010-07-22 2010-07-22 画像処理装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2012029014A true JP2012029014A (ja) 2012-02-09
JP2012029014A5 JP2012029014A5 (ja) 2013-09-12
JP5643563B2 JP5643563B2 (ja) 2014-12-17

Family

ID=45493296

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010165345A Active JP5643563B2 (ja) 2010-07-22 2010-07-22 画像処理装置及びその制御方法

Country Status (2)

Country Link
US (1) US8878946B2 (ja)
JP (1) JP5643563B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015041924A (ja) * 2013-08-22 2015-03-02 オリンパス株式会社 画像処理装置、画像処理方法およびプログラム
US9672608B2 (en) 2013-08-22 2017-06-06 Olympus Corporation Image processing device, endoscope apparatus, image processing method, and program

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5962092B2 (ja) * 2012-03-16 2016-08-03 ソニー株式会社 画像処理装置と画像処理方法
CN103576414B (zh) * 2012-07-31 2018-04-20 深圳众赢时代科技有限公司 影像稳定器及取像装置
JP6055332B2 (ja) * 2013-02-12 2016-12-27 キヤノン株式会社 画像処理装置、撮像装置、制御方法、及びプログラム
KR102229152B1 (ko) * 2014-10-16 2021-03-19 삼성전자주식회사 이미지 촬영 장치
US10547785B2 (en) 2015-03-31 2020-01-28 Huawei Technologies Co., Ltd. Photographing method including image registration based on reference image, shake information, and a motion vector table
JP6671994B2 (ja) * 2016-02-02 2020-03-25 キヤノン株式会社 撮像装置およびその制御方法、プログラム、記憶媒体
EP3429186B1 (en) * 2016-03-30 2022-08-24 Huawei Technologies Co., Ltd. Image registration method and device for terminal
US20200099862A1 (en) * 2018-09-21 2020-03-26 Qualcomm Incorporated Multiple frame image stabilization
US10977808B2 (en) * 2019-02-18 2021-04-13 Raytheon Company Three-frame difference target acquisition and tracking using overlapping target images
CN114586337B (zh) * 2019-11-29 2023-11-10 Oppo广东移动通信有限公司 视频防抖优化处理方法和装置、电子设备
JP2021164087A (ja) * 2020-04-01 2021-10-11 キヤノン株式会社 撮像装置およびその制御方法
JP2023065229A (ja) * 2021-10-27 2023-05-12 キヤノン株式会社 撮像装置及びその制御方法及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005160017A (ja) * 2003-10-30 2005-06-16 Canon Inc 画像動き検知装置、画像動き検知方法、プログラム及び記録媒体
JP2011239266A (ja) * 2010-05-12 2011-11-24 Ricoh Co Ltd 画像データ処理装置および画像データ処理方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6205259B1 (en) * 1992-04-09 2001-03-20 Olympus Optical Co., Ltd. Image processing apparatus
JP3304685B2 (ja) 1995-05-12 2002-07-22 ミノルタ株式会社 ディジタル式カメラ
JP2000224470A (ja) 1999-02-02 2000-08-11 Minolta Co Ltd カメラシステム
JP4893471B2 (ja) * 2007-05-24 2012-03-07 カシオ計算機株式会社 画像処理装置及びプログラム
JP4561845B2 (ja) * 2008-02-29 2010-10-13 カシオ計算機株式会社 撮像装置と画像処理プログラム
JP4483963B2 (ja) * 2008-03-25 2010-06-16 ソニー株式会社 撮像装置、撮像方法
JP4645746B2 (ja) * 2009-02-06 2011-03-09 ソニー株式会社 画像処理装置、画像処理方法および撮像装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005160017A (ja) * 2003-10-30 2005-06-16 Canon Inc 画像動き検知装置、画像動き検知方法、プログラム及び記録媒体
JP2011239266A (ja) * 2010-05-12 2011-11-24 Ricoh Co Ltd 画像データ処理装置および画像データ処理方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015041924A (ja) * 2013-08-22 2015-03-02 オリンパス株式会社 画像処理装置、画像処理方法およびプログラム
US9672608B2 (en) 2013-08-22 2017-06-06 Olympus Corporation Image processing device, endoscope apparatus, image processing method, and program

Also Published As

Publication number Publication date
JP5643563B2 (ja) 2014-12-17
US20120019678A1 (en) 2012-01-26
US8878946B2 (en) 2014-11-04

Similar Documents

Publication Publication Date Title
JP5643563B2 (ja) 画像処理装置及びその制御方法
US9473698B2 (en) Imaging device and imaging method
US8509482B2 (en) Subject tracking apparatus, subject region extraction apparatus, and control methods therefor
JP5791336B2 (ja) 画像処理装置及びその制御方法
JP6157242B2 (ja) 画像処理装置及び画像処理方法
JP6906947B2 (ja) 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム
JP2013106149A (ja) 撮像装置、その制御方法、及びプログラム
JP5729237B2 (ja) 画像処理装置、画像処理方法、及びプログラム
KR20070102395A (ko) 촬상장치, 그 제어방법, 화상처리장치, 및 화상처리방법
JP2010147786A (ja) 撮像装置及び画像処理方法
JP4487811B2 (ja) 撮影装置
JP2015231118A (ja) 画像合成装置、画像合成システム及び画像合成方法
JP2019101996A (ja) 複数の撮像画像を合成することによりノイズを低減する画像処理装置及び画像処理方法
WO2019124289A1 (ja) 装置、制御方法および記憶媒体
JP2010154306A (ja) 撮像制御装置、撮像制御プログラム及び撮像制御方法
JP7479831B2 (ja) 撮像装置およびその制御方法、プログラム
JP4807582B2 (ja) 画像処理装置、撮像装置及びそのプログラム
JP5446847B2 (ja) 画像処理装置及び方法、並びにプログラム
JP2011066827A (ja) 画像処理装置、画像処理方法及びプログラム
JP2018050149A (ja) 画像処理装置
JP2009017427A (ja) 撮像装置
JP2006030972A (ja) 撮像装置及び撮像方法
JP2011130384A (ja) 被写体追跡装置及びその制御方法
JP5179859B2 (ja) 撮像装置及び撮像方法
JP5541956B2 (ja) 画像合成方法、画像合成プログラムおよび画像合成装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130722

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130725

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141003

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141031

R151 Written notification of patent or utility model registration

Ref document number: 5643563

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151