JP4468598B2 - Image processing apparatus and recording medium storing image processing program - Google Patents

Image processing apparatus and recording medium storing image processing program Download PDF

Info

Publication number
JP4468598B2
JP4468598B2 JP2001037355A JP2001037355A JP4468598B2 JP 4468598 B2 JP4468598 B2 JP 4468598B2 JP 2001037355 A JP2001037355 A JP 2001037355A JP 2001037355 A JP2001037355 A JP 2001037355A JP 4468598 B2 JP4468598 B2 JP 4468598B2
Authority
JP
Japan
Prior art keywords
camera shake
image
correction
images
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001037355A
Other languages
Japanese (ja)
Other versions
JP2002247444A5 (en
JP2002247444A (en
Inventor
一仁 堀内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2001037355A priority Critical patent/JP4468598B2/en
Publication of JP2002247444A publication Critical patent/JP2002247444A/en
Publication of JP2002247444A5 publication Critical patent/JP2002247444A5/ja
Application granted granted Critical
Publication of JP4468598B2 publication Critical patent/JP4468598B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Cameras In General (AREA)
  • Adjustment Of Camera Lenses (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像処理装置及び画像処理プログラムを記録した記録媒体に関し、特に撮影画像の手ぶれを補正する場合に適用可能な画像処理装置及び記録媒体に関するものである。
【0002】
【従来の技術】
銀塩フィルムカメラを手で持って被写体を撮影する場合、カメラの手ぶれにより撮影された写真が不自然なものになることはよく見られる現象である。これはデジタルスチルカメラと呼ばれる電子カメラでも同様であり、電子カメラにおいても銀塩フィルムカメラと同様、手ぶれを抑制するための方法、機能の実現は大きな課題となっている。銀塩フィルムカメラにおいては撮影光学系を駆動することで手ぶれを抑制して撮影する方法がよく知られているが、電子カメラでは撮影光学系の駆動以外にも、電気信号処理により撮影時の制御や撮影後の電子画像(以下単に画像と述べる)の補正等で手ぶれの影響を抑えることが可能である。
【0003】
電気信号処理による方法で実用上効果的なものの一つとして、角速度センサ等に代表されるカメラの手ぶれの動きを検出するセンサ(手ぶれ検出センサ)を電子カメラに備え付けて手ぶれの動き(動き量、動き方向等)の検出や予測等を行い、手ぶれの時間的推移からあるタイミングで撮影するようにシャッタ制御を行うという方法がある。例えば特開平5−107622号公報では、角速度センサにより手ぶれを検出して、手ぶれが極大値を発生させてから所定時間後にシャッタをレリーズさせる旨の内容が開示されている。この方法は手ぶれの影響が比較的小さい時点で撮影されるため結果として得られる画像は比較的遜色ないものとなる。
【0004】
また電気信号処理による手ぶれの補正としては、撮影後の画像を処理して手ぶれ部分が本来持つべき情報を推定、復元する方法がよく知られている。一般的に用いられる画像処理としては、手ぶれ部分を回復させる回復フィルタ(例えば逆フィルタやウイーナフィルタ等)によるものや、画像の点広がり関数(PSF)から手ぶれ部分を復元するための情報を推定して適用するもの等がある。例えば特開平11−134481号公報では、手ぶれの軌跡データに基づき生成した点広がり関数を用いて手ぶれ画像を復元する際に、手ぶれ軌跡上の画素周辺の画素の輝度値も考慮して復元を行う旨の内容が開示されている。
【0005】
【発明が解決しようとする課題】
しかしながら、上記した特開平5−107622号公報に記載の方法では本来撮影者が意図するシャッタのタイミングから時間的にずれた状態で撮影が行われるため、実際には撮影者が撮ろうとしていたシーンとは異なるシーンを撮影することがあり得るという問題がある。
【0006】
また、上記した特開平11−134481号公報に記載の方法では、元々存在しない情報を推定、復元することから、手ぶれ部分を忠実に再現しようとすると、画像処理における計算の手間や時間の増大につながるという問題がある。
【0007】
本発明はこのような課題に着目してなされたものであり、その目的とするところは、手ぶれ補正を高速にかつ高い精度で行いながら撮影者が意図したシーンを撮影することができる画像処理装置を提供することにある。
【0008】
【課題を解決するための手段】
上記の目的を達成するために、本発明の第1の態様に係る画像処理装置は、撮像装置により撮影された画像の手ぶれを補正する画像処理装置であって、所定の時間間隔で連続的に被写体を撮影して複数の画像を取得する連写撮影部と、前記取得された複数の画像のそれぞれについて、前記撮像装置の手ぶれに関する手ぶれ情報を検出する手ぶれ検出部と、前記取得された複数の画像のうち手ぶれ補正の対象となる画像を補正対象画像として選択する選択部と、前記複数の画像のそれぞれについて検出された前記手ぶれ情報に基づいて、前記取得された複数の画像のうち手ぶれが最小となる画像を手ぶれ最小画像として選択するとともに、その選択した手ぶれ最小画像と前記補正対象画像とに基づいて、前記補正対象画像の手ぶれ部分の補正に供する手ぶれ補正情報を算出する補正情報算出部と、前記算出された手ぶれ補正情報を用いて、前記補正対象画像が有する手ぶれ部分を補正する手ぶれ補正部と、を具備する。
【0009】
また、本発明の第2の態様に係る画像処理装置は、第1の態様に係る画像処理装置において、前記手ぶれ検出部により検出された前記手ぶれ情報に基づき、前記連写撮影部による連写撮影を行うか否かを決定する連写撮影判定部をさらに有する。
【0010】
また、本発明の第3の態様に係る画像処理装置は、第1または第2の態様に係る画像処理装置において、前記連写撮影部により撮影された前記複数の画像に対応させて前記手ぶれ情報を検出して処理を行うように制御する手ぶれ情報制御部をさらに有する。
【0011】
また、本発明の第4の態様に係る画像処理装置は、第1から第3のいずれか1つの態様に係る画像処理装置において、前記選択部は、前記補正対象画像として、前記連写撮影部によって撮影された前記複数の画像のうち最初に撮影された画像を選択する
【0012】
また、本発明の第5の態様に係る画像処理装置は、第1から第3のいずれか1つの態様に係る画像処理装置において、前記選択部は、前記補正対象画像として、ユーザが自ら補正を望む画像を選択する。
【0013】
また、本発明の第6の態様に係る画像処理装置は、撮像装置により撮影された画像の手ぶれを補正する画像処理装置であって、所定の時間間隔で連続的に被写体を撮影して複数の画像を取得する連写撮影部と前記連続的な撮影のタイミングに従って、前記撮像装置の手ぶれに関する手ぶれ情報を検出する手ぶれ検出部と、前記手ぶれ検出部により検出された手ぶれ情報と、前記連写撮影部により得られた複数の画像とに基づき、前記複数の画像のうち少なくとも一つ以上の画像について当該画像が有する手ぶれ部分を補正する手ぶれ補正部と、を具備する。
また、本発明の第7の態様に係る画像処理装置は、撮像装置により撮影された画像の手ぶれを補正する画像処理方法であって、所定の時間間隔で連続的に被写体を撮影して複数の画像を取得するステップと、前記取得された複数の画像のそれぞれについて、前記撮像装置の手ぶれに関する手ぶれ情報を検出するステップと、前記取得された複数の画像のうち手ぶれ補正の対象となる画像を補正対象画像として選択するステップと、前記複数の画像のそれぞれについて検出された前記手ぶれ情報に基づいて、前記取得された複数の画像のうち手ぶれが最小となる画像を手ぶれ最小画像として選択するとともに、その選択した手ぶれ最小画像と前記補正対象画像とに基づいて、前記補正対象画像の手ぶれ部分の補正に供する手ぶれ補正情報を算出するステップと、前記算出された手ぶれ補正情報を用いて、前記補正対象画像が有する手ぶれ部分を補正するステップと、を具備する。
また、本発明の第8の態様に係るコンピュータプログラムは、撮像装置により撮影された画像の手ぶれを補正する画像処理方法をコンピュータに発揮せしめるコンピュータプログラムであって、当該画像処理方法は、所定の時間間隔で連続的に被写体を撮影して複数の画像を取得するステップと、前記取得された複数の画像のそれぞれについて、前記撮像装置の手ぶれに関する手ぶれ情報を検出するステップと、前記取得された複数の画像のうち手ぶれ補正の対象となる画像を補正対象画像として選択するステップと、前記複数の画像のそれぞれについて検出された前記手ぶれ情報に基づいて、前記取得された複数の画像のうち手ぶれが最小となる画像を手ぶれ最小画像として選択するとともに、その選択した手ぶれ最小画像と前記補正対象画像とに基づいて、前記補正対象画像の手ぶれ部分の補正に供する手ぶれ補正情報を算出するステップと、前記算出された手ぶれ補正情報を用いて、前記補正対象画像が有する手ぶれ部分を補正するステップと、を具備する。
また、本発明の第9の態様に係る記録媒体は、撮像装置により撮影された画像の手ぶれを補正する処理をコンピュータに実行させる命令を含むプログラムを格納した、コンピュータが読み取り可能な記録媒体であって、前記手ぶれを補正する処理は、所定の時間間隔で連続的に被写体を撮影して複数の画像を取得するステップと、前記取得された複数の画像のそれぞれについて、前記撮像装置の手ぶれに関する手ぶれ情報を検出するステップと、前記取得された複数の画像のうち手ぶれ補正の対象となる画像を補正対象画像として選択するステップと、前記複数の画像のそれぞれについて検出された前記手ぶれ情報に基づいて、前記取得された複数の画像のうち手ぶれが最小となる画像を手ぶれ最小画像として選択するとともに、その選択した手ぶれ最小画像と前記補正対象画像とに基づいて、前記補正対象画像の手ぶれ部分の補正に供する手ぶれ補正情報を算出するステップと、前記算出された手ぶれ補正情報を用いて、前記補正対象画像が有する手ぶれ部分を補正するステップと、を具備する。
【0014】
【発明の実施の形態】
まず本実施形態の概略を説明する。電子カメラで実現されている機能の一つに、短い時間間隔で連続して撮影を行い複数の画像を記録する「連写機能」がある。電子カメラでは画像処理により様々な加工が可能であり、この連写機能によって撮影された複数の画像から有意な情報を取り出し、これを用いて画質を向上させることが期待できる。このことは手ぶれの問題にも適用できる。即ち、手ぶれがある状態で同一シーンを連写機能により撮影することで得られる複数の画像から、本来撮影しようとしたシーンにおける手ぶれ部分を推定、復元するための情報を取り出し、この情報を元に画像の手ぶれ部分を推定、復元すれば撮影画像の手ぶれによる影響を最小限に抑えることができる。
【0015】
本実施形態の作用を以下に説明する。撮像装置には手ぶれによる撮像装置自体の動きを検出する手ぶれ検出部を有する。また撮像装置は撮影時において、上記手ぶれ検出部によって検出される手ぶれに関する情報(手ぶれ情報)に基づき連写撮影判定部によって撮影モードを連写撮影が可能なモード(連写撮影モード)に設定して連写撮影部を機能させる。連写撮影モードにより撮像装置のシャッタレリーズを開始すると、短い時間間隔に複数の画像が撮影されると同時に、手ぶれ情報制御部により撮影のタイミングに応じて手ぶれ検出部から検出される手ぶれ情報が取得される。撮影後取得された複数の画像及び各画像に対応した手ぶれ情報は手ぶれ補正部において、複数中最初に撮影された画像やユーザから指定された画像等、手ぶれが補正される画像として少なくとも一つ以上の画像に関して、複数の画像及び手ぶれ情報を基に算出される手ぶれ補正情報を用いて手ぶれ補正対象画像が有する手ぶれ部分を補正する。手ぶれ補正情報の算出に関しては、例えば複数の画像の中から手ぶれ情報により手ぶれが最小と判断される画像から補正を行うための情報を算出し、これに基づいて補正を行う。
【0016】
以下に図面を参照して上記した概略を詳細に説明する。図1は、本発明に係る画像処理装置としての電子カメラの基本的構成を示すブロック図である。この電子カメラは、電子シャッタ機能を有する単板式のカラーCCD撮像素子1を用いるもので、このCCD撮像素子1には、レンズ2および絞り・シャッタ機構3を経て被写体像が結像され、当該被写体像が光電変換されて画像信号として出力される。CCD撮像素子1からの被写体像の画像信号は、図示しない相関二重サンプリング回路等でノイズ成分が除去されたのち、アンプ4で増幅され、さらにA/D変換器5でデジタル信号に変換されてカメラ信号処理回路6に供給され、ここで画像データとして処理される。
【0017】
また、A/D変換器5の出力は、AF、AE、AWB検波回路7にも供給され、ここで本来の撮影に先立って、フォーカスを自動的に制御するためのAF情報を取り出すAE検波処理、露出を自動的に制御するためのAE情報を取り出すAE検波処理、およびホワイトバランスを自動的に設定するためのAWB情報を取り出すAWB検波処理が行われる。このAF、AE、AWB検波回路7からのAF情報、AE情報およびAWB情報は、それぞれCPU8を介してレンズ2、絞り・シャッタ機構3およびカメラ信号処理回路6に供給される。
【0018】
カメラ信号処理回路6およびCPU8は、バスライン9に接続され、このバスライン9には、メモリコントローラ10を介して、画像データの色処理等を行う際に作業用メモリとして用いられるDRAM11が接続されていると共に、カメラ信号処理回路6からの画像データを圧縮処理する圧縮回路(JPEG)12が接続されている。また、バスライン9には、圧縮回路12で圧縮処理された画像データをメモリカード13に記録するために、メモリカードI/F14が接続されていると共に、メモリカード13に記録された画像データを読み出して表示したり、撮影状態を表示するために表示回路15を介して液晶表示素子(LCD)16が接続されている。さらに、バスライン9には、メモリカード13に記録されている画像データをパソコン(PC)17へ転送するためのPCI/F18が接続されている。
【0019】
CPU8には、AF、AE、AWB検波回路7からのAE情報に基づいて制御されるストロボ装置19、および各種撮影モードの設定やトリガスイッチの駆動等を行う入力キー20がそれぞれ接続されている。なお、CCD撮像素子1は、CPU8の制御のもとにタイミングジェネレータ(TG)21からのタイミングパルスによって駆動されるようになっている。また、電子カメラの手ぶれを検出するための手ぶれ検出部たる手ぶれ検出センサ22を備え、この手ぶれ検出センサ22から検出される手ぶれに関する情報(手ぶれ情報:例えば手ぶれによる角速度、移動量、手ぶれ方向等の手ぶれを検知する情報)がCPU8及び後述する連写撮影判定部たる手ぶれ補正撮影モード判定回路23に伝送されて撮影の制御や手ぶれ補正処理等が行われる。
【0020】
図1に示す電子カメラでは、手ぶれ補正を行わず一つ分の画像を取得する通常撮影モードと、手ぶれ補正を行うために複数の画像を取得する連写撮影モードとを、入力キー20の操作あるいは手ぶれ検出センサ22から検出される手ぶれ情報により手ぶれ補正撮影モード判定回路23にて判定する。手ぶれ補正撮影モード判定回路23では、入力キー20からの撮影モードに関する情報及び手ぶれ検出センサ22からの手ぶれ情報に基づき後述する手ぶれ補正のための連写撮影を行うか否かを判断し、判定結果の出力として撮影モードを示す撮影モード判定信号をCPU8に伝送する。そして選択された撮影モードに応じてCPU8により撮影動作を制御する。
【0021】
即ち、通常撮影モードが選択された場合には、通常の撮影動作によって一回の撮影でCCD撮像素子1から一つ分の画像信号を得、連写撮影モードが選択された場合には、CCD撮像素子1の電子シャッタ機能、あるいはこの電子シャッタ機能と絞り・シャッタ機構3との組み合わせ等による公知の方法で一回の撮影でCCD撮像素子1から連写撮影により複数分(例えば四つ分、等)の画像信号を得て、カメラ信号処理回路6において撮影モードに応じた画像データ処理を行う。手ぶれ補正撮影モード判定回路23により連写撮影モードと設定される場合としては、入力キー20からの手動による撮影モード設定の他に、手ぶれ検出センサ22からの手ぶれ情報により手ぶれが大きい(例えば角速度が大きい、等)と判断される場合等があげられる。
【0022】
次に、図2は、カメラ信号処理回路6内のブロック図の一例を示す図である。CPU8から伝送される撮影モード判定信号は第1スイッチ31及び第2スイッチ32を駆動する。撮影モードが通常撮影モードの場合、A/D変換器5から第1スイッチ31に入る画像信号は第2スイッチ32を経てカメラ信号処理プロセス部39に伝送され、画像信号を画像として再現するための処理が施される。一方、撮影モードが連写撮影モードの場合、A/D変換器5から第1スイッチ31に入る画像信号(連写画像信号)は手ぶれ情報制御部たる連写撮影画像記録制御部34に伝送される。
【0023】
連写撮影画像記録制御部34では、入力される連写画像信号を連写撮影画像記憶バッファ33に記憶させる。また、CPU8から伝送される手ぶれ情報を示す信号は、手ぶれ情報制御部たる手ぶれ情報統合制御部35に伝送される。手ぶれ情報統合制御部35では、連写撮影画像記録制御部34において連写画像信号が入力されたことを受け、連写画像の撮影タイミング時における手ぶれ情報を読み込み記憶するようになっている。本実施形態では連写撮影画像を記憶する専用のバッファを設けているが、電子カメラに備え付けてあるDRAM11を連写撮影画像記憶バッファ33の代用として用いてもよい。
【0024】
連写画像信号及び手ぶれ情報がすべて伝送された後、連写撮影画像記録制御部34は連写撮影画像記録バッファ33から連写画像信号を逐次読み出す。同時に、手ぶれ情報統合制御部35からは連写撮影画像記録バッファ33から読み出される連写画像信号の撮影タイミングに対応した手ぶれ情報を連写画像信号の読み出しに合わせて逐次読み出す。
【0025】
読み出された連写画像信号及びそれに対応した手ぶれ情報は、手ぶれ補正部たる手ぶれ補正対象画像選択部36に伝送され、手ぶれ補正の対象となる画像を選択する。本実施形態では、連写画像群中で最初に撮影された画像を手ぶれ補正の対象画像とする。これは、シャッタレリーズを開始した瞬間の画像が、ユーザが本来撮影すべきタイミングの画像であることが多いためである。手ぶれ補正対象画像の選択はこれに限らず、例えば手ぶれ信号から判断して手ぶれが大きい(手ぶれが最大である等の)画像を選択してもよい。またCPU8からユーザの指示に関する制御信号を手ぶれ補正対象画像選択部36に伝送することでユーザが自ら補正を望む画像を選択できるようにしてもよい。
【0026】
読み出された連写画像信号及びそれに対応した手ぶれ情報は、さらに手ぶれ補正部たる手ぶれ補正情報算出部37に伝送され、手ぶれ補正を行うための情報を算出する。ここでは、手ぶれ補正対象画像選択部36から出力される手ぶれ補正対象画像信号も利用して、例えば撮影画像中手ぶれが最小となる画像に基づき、この画像からぶれ回復フィルタを構成する等により手ぶれ補正情報を算出する。
【0027】
手ぶれ補正対象画像選択部36で選択された手ぶれ補正対象画像信号及び手ぶれ補正情報算出部37で算出された手ぶれ補正情報は、手ぶれ補正部たる手ぶれ補正処理部38に伝送される。手ぶれ補正処理部38では手ぶれ補正情報に基づき、手ぶれ補正対象画像の手ぶれ部分を補正する処理を行う。例えば手ぶれ補正情報として手ぶれ最小画像の回復フィルタが伝送されると、手ぶれ補正対象画像信号に対して回復フィルタを基にした画像復元アルゴリズムを適用する、等により手ぶれ補正処理を行う。
【0028】
手ぶれ補正処理部38で手ぶれ補正された手ぶれ補正対象画像信号は第2スイッチ32を経てカメラ信号処理プロセス部39に伝送され、画像信号を画像として再現するための処理が施される。画像として再現された信号はバスライン9に伝送され、以後の処理を行う。本実施形態では手ぶれ補正の後に画像再現のための信号処理プロセスを組み入れているが、順序を逆にして、画像再現のための信号処理プロセスを行ってから手ぶれ補正を行うようにしてもよい。
【0029】
次に、図3は、本実施形態における手ぶれ補正処理アルゴリズムのフローの一例を示す図である。ここで言う手ぶれ補正処理アルゴリズムは、連写撮影モードの設定から手ぶれ補正済みの手ぶれ補正対象画像に対する画像信号処理までを表す。
【0030】
まず手ぶれ補正撮影モード判定回路23により連写撮影モードにする制御信号が出力されると、撮影モードを連写撮影(手ぶれ補正)モードに設定する(ステップS1)。次にシャッタレリーズが開始されるとシャッタが“開”状態になり連写撮影が開始される(ステップS2)。シャッタが“開”状態の間、連写撮影画像記録制御部34により、シャッタの制御タイミングに同期して連写撮影画像及び画像に対応した手ぶれ情報を取得する(ステップS3)。そしてシャッタを“閉”状態にして、連写撮影を終了する(ステップS4)。
【0031】
次に撮影された連写画像群に関して、手ぶれ補正対象画像選択部36において手ぶれ補正対象画像として、連写画像群中最初に撮影された画像を選択する(ステップS5)。その後手ぶれ補正情報算出部37において、手ぶれ補正情報の算出に用いる画像として、連写画像群中手ぶれ情報が最小となる画像(手ぶれ最小画像)を検出する(ステップS6)。ここで検出された手ぶれ最小画像について、手ぶれ補正対象画像と比較を行い(ステップS7)、両者が同一の画像である場合(Yes)は、以後の手ぶれ補正に関する処理は行わずにステップS10にスキップする。両者が異なる場合(No)は、次のステップに進む。
【0032】
次に手ぶれ補正情報算出部37において、ステップS5で選択された手ぶれ補正対象画像およびステップS6で検出された手ぶれ最小画像から手ぶれ補正情報を算出する(ステップS8)。その後算出された手ぶれ補正情報を用いて、手ぶれ補正処理部38において手ぶれ補正対象画像の手ぶれを補正する(ステップS9)。そして手ぶれが補正された手ぶれ補正対象画像もしくは手ぶれ最小画像であるため手ぶれ補正処理が行われなかった手ぶれ補正対象画像は、カメラ信号処理プロセス部39において画像信号処理が実行される(ステップS10)。
【0033】
次に、図4は、本実施形態における手ぶれ補正処理の手順の一例を示す図である。手ぶれ補正による連写撮影モードにおいて、時間に対する手ぶれ情報の時間推移が図4の(a)のような場合、一定の短い時間間隔でシャッタタイミングパルス(図4の(b))を発生させて撮影することで、四つの画像からなる連写画像群(図4の(c))が生成される。ここで本実施形態に基づく手ぶれ補正処理を行うことを考えると、手ぶれ補正対象画像として連写画像群中最初の画像(図4の(d1))が選択される。また手ぶれ補正情報を算出するための手ぶれ最小画像については、シャッタタイミングパルス発生時における手ぶれ情報の大きさから、連写画像群中最後の画像(図4の(d2))が選択される。そして手ぶれ補正対象画像信号に対して、手ぶれ補正対象画像信号および手ぶれ最小画像から算出される手ぶれ補正情報を表す信号により手ぶれ補正処理(図4の(e))が行われ、最終的に連写画像群中最初の画像に関する手ぶれ補正画像が生成される(図4の(f))。
【0034】
本実施形態で用いる手ぶれ補正方法としては、連写画像(即ち同一のシーン)中で手ぶれが最小となる画像から回復フィルタを生成し、これを基に補正対象となる手ぶれ画像に対して復元処理を行うことで実現可能である。回復フィルタの生成方法として、例えば手ぶれ最小画像と手ぶれ補正対象画像間で画像の位置が一致するよう補正(MPEG等で用いられる動きベクトル補正)を行った後、両者の画像の相関を基に生成する方法や、手ぶれ部分に関する両者の点広がり関数(PSF)を算出した後、手ぶれ最小画像のPSFを手ぶれ補正対象画像のPSFに置き換えることで生成する(局所部のみの処理を行うことで手ぶれ部分のPSFをキャンセルする)方法、等があるが、回復フィルタの生成方法については特に限定せず、他の一般的な方法を取り入れることも可能である。
【0035】
以上、本実施形態では、電子カメラの手ぶれの状態から手ぶれ補正を行うための連写撮影モードを設定し、手ぶれがある状態で連写撮影して同一シーンに関する複数の画像及び画像に対応した手ぶれ情報を取得して、それらから手ぶれを補正する対象の画像を選択すると同時に手ぶれを補正するための手ぶれ補正情報を算出する。そして手ぶれ補正情報に基づいて手ぶれ補正対象の画像に対して手ぶれ補正処理を行った画像を生成するので、結果として手ぶれの影響を抑えた画像を生成することができる。
【0036】
また、手ぶれ補正の対象画像は連写撮影された複数の画像中から最初の画像、即ちユーザがシャッタレリーズを開始した直後の本来撮るべきシーンの画像を選択することで、撮影者の意図するシーンにおいて手ぶれ補正がなされた画像を再現することができる。さらに手ぶれ補正情報の算出には連写撮影された複数の画像中から手ぶれが最小である画像を用いることで、同一シーンに関して信頼性の高い補正情報を生成することができる。従って、たとえ手ぶれがあってもユーザが撮影しようとしたシーンに対して手ぶれの影響が抑えられた画像を提供することができる。
【0037】
他の実施形態としては、前述した手ぶれ補正処理の動作を実行するためのプログラムを記録媒体に記録しておき、画像処理装置を含む撮像装置には記録媒体のドライバを付設して、記録媒体に記録されているプログラムをドライバを介して撮像装置本体(電子カメラ)のCPU8で読み取って実行するようにすることもできる。
【0038】
【発明の効果】
請求項1に記載の発明によれば、連写撮影部にて連写撮影される同一シーンの複数の画像及び手ぶれ検出部から検出される手ぶれ情報から手ぶれ補正部において補正対象となる少なくとも一つ以上の画像に対して手ぶれ補正を行う。即ち、補正対象画像と同一シーンである複数の画像から補正対象画像の手ぶれ部分を補正するための情報を算出して手ぶれの補正を行うので、手ぶれ補正を高速にかつ高い精度で行いながら撮影者が意図したシーンを撮影することができる。
【0039】
また、請求項2に記載の発明によれば、請求項1と同等の効果を奏すると共に、連写撮影判定部において手ぶれ検出部からの情報に基づき連写撮影を行うか否かを判定するので、手ぶれの状況に応じて連写撮影への切替を自動的に行うことができ、手ぶれ補正が必要な場合にのみ手ぶれ補正を行うように撮影を制御することができる。
【0040】
また、請求項3に記載の発明によれば、請求項1と同等の効果を奏すると共に、連写撮影された画像に対応させるように手ぶれ情報を検出する、処理する、記憶させる等の制御を行うので、撮影画像と手ぶれ情報の関係を適切にすることができ、以後の手ぶれ補正処理を適切に行うことができる。
【0041】
また、請求項4に記載の発明によれば、請求項1〜請求項3のいずれかと同等の効果を奏すると共に、連写撮影された複数の画像のうち最初に撮影された画像に対して手ぶれ補正を行うので、シャッタレリーズ直後のタイミングに対応したシーンに対して適切に手ぶれ補正を行うことができる。
【0042】
また、請求項5に記載の発明によれば、請求項1〜請求項3のいずれかと同等の効果を奏すると共に、手ぶれ補正部において複数の画像のうち手ぶれ情報が最小である画像からの情報に基づいて手ぶれ補正を行うので、信頼性の高い補正情報を手ぶれ補正部に与えることができる。
【0043】
また、請求項6に記載の発明によれば、撮影画像の手ぶれを補正する処理を制御するためのコンピュータにおいて、連写撮影を行う機能によって撮影された同一シーンの複数の画像及び手ぶれを検出する機能によって検出される手ぶれ情報から手ぶれを補正する機能によって補正対象となる少なくとも一つ以上の画像に対して手ぶれ補正を行うよう実現する画像処理プログラムを記録した記録媒体である。即ち、補正対象画像と同一シーンである複数の画像から補正対象画像の手ぶれ部分を補正するための情報を算出して手ぶれの補正を行うので、手ぶれ補正を高速にかつ高い精度で行いながら撮影者が意図したシーンを撮影することができる。
【図面の簡単な説明】
【図1】本発明に係る画像処理装置としての電子カメラの基本的構成を示すブロック図である。
【図2】カメラ信号処理回路6内のブロック図の一例を示す図である。
【図3】本実施形態における手ぶれ補正処理アルゴリズムのフローの一例を示す図である。
【図4】本実施形態における手ぶれ補正処理の手順の一例を示す図である。
【符号の説明】
1 CCD撮像素子
2 レンズ
3 絞り・シャッタ機構
4 アンプ
5 A/D変換器
6 カメラ信号処理回路
7 AF,AE,AWB検波回路
8 CPU
9 バスライン
10 メモリコントローラ
11 DRAM
12 圧縮回路
13 メモリカード
14 メモリカードI/F
15 表示回路
16 液晶表示素子(LCD)
17 パソコン(PC)
18 PCI/F
19 ストロボ装置
20 入力キー
21 タイミングジェネレータ(TG)
22 手ぶれ検出センサ
23 手ぶれ補正撮影モード判定回路
31 第1スイッチ
32 第2スイッチ
33 連写撮影画像記録バッファ
34 連写撮影画像記録制御部
35 手ぶれ情報統合制御部
36 手ぶれ補正対象画像選択部
37 手ぶれ補正情報算出部
38 手ぶれ補正処理部
39 カメラ信号処理プロセス部
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image processing apparatus and a recording medium on which an image processing program is recorded, and more particularly to an image processing apparatus and a recording medium that can be applied to correcting camera shake of a captured image.
[0002]
[Prior art]
When shooting a subject with a silver film camera in hand, it is a common phenomenon that photographs taken by camera shake become unnatural. This also applies to an electronic camera called a digital still camera. In the electronic camera as well as a silver halide film camera, the realization of a method and a function for suppressing camera shake is a major issue. In silver halide film cameras, there is a well-known method of taking pictures while suppressing camera shake by driving the photographic optical system, but in electronic cameras, in addition to driving the photographic optical system, control at the time of shooting by electric signal processing is also possible. In addition, it is possible to suppress the influence of camera shake by correcting electronic images after shooting (hereinafter simply referred to as images).
[0003]
As one of the practically effective methods using electric signal processing, an electronic camera is equipped with a sensor (camera shake detection sensor) that detects camera shake movement represented by an angular velocity sensor and the like. There is a method of performing shutter control so as to detect and predict a motion direction, etc.) and to take a picture at a certain timing based on the temporal transition of camera shake. For example, Japanese Patent Application Laid-Open No. 5-107622 discloses that the camera shake is detected by an angular velocity sensor, and the shutter is released a predetermined time after the camera shake generates a maximum value. Since this method is taken when the influence of camera shake is relatively small, the resulting image is relatively inferior.
[0004]
As a method of correcting camera shake by electric signal processing, a method of processing an image after photographing to estimate and restore information that should be originally included in the camera shake portion is well known. Commonly used image processing uses a recovery filter (for example, an inverse filter or a Wiener filter) that recovers the camera shake part, or estimates information for restoring the camera shake part from the image point spread function (PSF) There are some that apply. For example, in Japanese Patent Application Laid-Open No. 11-134481, when a camera shake image is restored using a point spread function generated based on camera shake locus data, the restoration is performed in consideration of luminance values of pixels around pixels on the camera shake locus. The content of the effect is disclosed.
[0005]
[Problems to be solved by the invention]
However, in the method described in Japanese Patent Laid-Open No. 5-107622 described above, shooting is performed in a state that is shifted in time from the shutter timing originally intended by the photographer. There is a problem that a scene different from that may be shot.
[0006]
Further, in the method described in Japanese Patent Laid-Open No. 11-134481, the information that originally does not exist is estimated and restored. Therefore, if it is attempted to faithfully reproduce the shake portion, calculation time and time in image processing are increased. There is a problem of being connected.
[0007]
The present invention has been made paying attention to such a problem, and an object of the present invention is to provide an image processing apparatus capable of photographing a scene intended by a photographer while performing camera shake correction at high speed and with high accuracy. Is to provide.
[0008]
[Means for Solving the Problems]
  To achieve the above objective,Of the present inventionFirstImage processing apparatus according to aspectAn image processing apparatus that corrects camera shake in an image captured by an imaging apparatusBecauseA continuous shooting unit that continuously captures a subject at a predetermined time interval and acquires a plurality of images;For each of the plurality of acquired images,A camera shake detection unit that detects camera shake information related to camera shake of the imaging device;A selection unit that selects, as a correction target image, an image to be subjected to camera shake correction among the plurality of acquired images, and the plurality of acquired plurality of images based on the camera shake information detected for each of the plurality of images. The image with the smallest camera shake among the images is selected as the smallest camera shake image, and the camera shake correction information used for correcting the camera shake portion of the correction target image is calculated based on the selected minimum camera shake image and the correction target image. The correction target using the correction information calculation unit and the calculated camera shake correction information.Image blurportionA camera shake correction unit that corrects
[0009]
  Also,Of the present inventionSecondImage processing apparatus according to aspectIs the firstAspectThe image processing apparatus according to the aspect of the invention further includes a continuous shooting determination unit that determines whether or not to perform continuous shooting by the continuous shooting unit based on the camera shake information detected by the camera shake detection unit.
[0010]
  Also,Of the present inventionThirdImage processing apparatus according to aspectIs the firstOr the second aspectThe image processing apparatus according to the aspect of the invention further includes a camera shake information control unit configured to detect and process the camera shake information corresponding to the plurality of images captured by the continuous shooting unit.
[0011]
  Also,Of the present invention4thImage processing apparatus according to aspectIs the firstTo the thirdAny oneAspectIn the image processing apparatus according toThe selection unit, as the correction target image,The first image taken out of the plurality of images taken by the continuous shooting unitselect.
[0012]
  Also,Of the present invention5thImage processing apparatus according to aspectIs the firstTo the thirdAny oneAspectIn the image processing apparatus according toThe selection unit selects an image that the user desires to correct as the correction target image.
[0013]
  Also,Of the present invention6thImage processing apparatus according to aspectCorrects camera shake in images taken by imaging devicesAn image processing deviceContinuous shooting that captures multiple images by capturing a subject continuously at predetermined time intervalsDepartment and,SaidAccording to the timing of continuous shooting,SaidCamera shake detection that detects camera shake information related to camera shakeDepartment and, Shake detectionBy partDetected camera shake information and continuous shootingBy partObtainedDoubleBased on the number of images, camera shake correction is performed to correct a camera shake portion of the image for at least one of the plurality of images.AndIt comprises.
  An image processing apparatus according to a seventh aspect of the present invention is an image processing method for correcting camera shake of an image captured by an imaging apparatus, and continuously captures a plurality of subjects at a predetermined time interval. A step of acquiring an image, a step of detecting camera shake information related to camera shake of the imaging device for each of the plurality of acquired images, and correcting an image to be subjected to camera shake correction among the plurality of acquired images Selecting a target image, and, based on the camera shake information detected for each of the plurality of images, selecting an image with the minimum camera shake as the minimum image among the plurality of acquired images, Based on the selected hand movement minimum image and the image to be corrected, camera shake correction information used for correcting the camera shake portion of the image to be corrected is calculated. A step that, by using the camera shake correction information the calculated comprises the steps of: correcting the shake portion having said correction target image.
  A computer program according to an eighth aspect of the present invention is a computer program for causing a computer to perform an image processing method for correcting camera shake of an image taken by an imaging device, and the image processing method is performed for a predetermined time. Capturing a plurality of images by continuously photographing a subject at intervals, detecting camera shake information relating to camera shake of the imaging device for each of the plurality of acquired images, and the plurality of acquired plurality of images A step of selecting an image to be subjected to camera shake correction as an image to be corrected among the images; and based on the camera shake information detected for each of the plurality of images, the camera shake is minimized among the plurality of acquired images. Selected as the image with minimum camera shake, the selected image with the minimum camera shake and the correction target Based on the image, calculating camera shake correction information used for correcting the camera shake portion of the correction target image, and correcting the camera shake portion of the correction target image using the calculated camera shake correction information; Are provided.
  A recording medium according to the ninth aspect of the present invention is a computer-readable recording medium that stores a program that includes a command for causing a computer to execute processing for correcting camera shake of an image taken by an imaging apparatus. The process of correcting the camera shake includes a step of capturing a plurality of images by continuously photographing a subject at a predetermined time interval, and a camera shake related to camera shake of the imaging device for each of the acquired plurality of images. A step of detecting information, a step of selecting an image to be subjected to camera shake correction among the plurality of acquired images as a correction target image, and the camera shake information detected for each of the plurality of images, The image having the minimum camera shake is selected as the minimum camera shake image from the plurality of acquired images, and the selection is performed. The correction target image has a step of calculating camera shake correction information used for correcting a camera shake portion of the correction target image based on the camera shake minimum image and the correction target image, and using the calculated camera shake correction information. Correcting a camera shake portion.
[0014]
DETAILED DESCRIPTION OF THE INVENTION
First, an outline of the present embodiment will be described. One of the functions realized by an electronic camera is a “continuous shooting function” that continuously captures images at short time intervals and records a plurality of images. The electronic camera can be processed in various ways by image processing, and it can be expected that significant information is extracted from a plurality of images taken by this continuous shooting function and used to improve the image quality. This can also be applied to the camera shake problem. In other words, information for estimating and restoring the camera shake portion in the originally intended scene is extracted from a plurality of images obtained by shooting the same scene with the continuous shooting function in the presence of camera shake, and based on this information. If the camera shake portion of the image is estimated and restored, the influence of camera shake on the captured image can be minimized.
[0015]
The operation of this embodiment will be described below. The imaging apparatus includes a camera shake detection unit that detects movement of the imaging apparatus itself due to camera shake. In addition, the imaging device sets the shooting mode to a mode (continuous shooting mode) in which continuous shooting is possible by the continuous shooting determination unit based on information related to camera shake (camera shake information) detected by the camera shake detection unit during shooting. To make the continuous shooting function work. When shutter release of the imaging device is started in the continuous shooting mode, a plurality of images are shot at short time intervals, and at the same time, camera shake information detected from the camera shake detection unit according to the shooting timing is acquired by the camera shake information control unit Is done. A plurality of images acquired after shooting and camera shake information corresponding to each image are at least one image as a camera shake correction unit, such as an image taken first or an image designated by the user, in the camera shake correction unit. With respect to this image, the camera shake portion of the image to be corrected is corrected using camera shake correction information calculated based on a plurality of images and camera shake information. Regarding the calculation of camera shake correction information, for example, information for performing correction from an image in which camera shake is determined to be minimum based on camera shake information is calculated from a plurality of images, and correction is performed based on this.
[0016]
Hereinafter, the outline described above will be described in detail with reference to the drawings. FIG. 1 is a block diagram showing a basic configuration of an electronic camera as an image processing apparatus according to the present invention. This electronic camera uses a single-plate color CCD image pickup device 1 having an electronic shutter function. A subject image is formed on the CCD image pickup device 1 through a lens 2 and an aperture / shutter mechanism 3, and the subject The image is photoelectrically converted and output as an image signal. The image signal of the subject image from the CCD image pickup device 1 is amplified by the amplifier 4 after being removed by a correlated double sampling circuit or the like (not shown) and further converted into a digital signal by the A / D converter 5. It is supplied to the camera signal processing circuit 6 where it is processed as image data.
[0017]
Further, the output of the A / D converter 5 is also supplied to the AF, AE, and AWB detection circuit 7, where an AE detection process for extracting AF information for automatically controlling the focus prior to actual photographing. Then, AE detection processing for extracting AE information for automatically controlling exposure and AWB detection processing for extracting AWB information for automatically setting white balance are performed. The AF information, AE information, and AWB information from the AF, AE, and AWB detection circuit 7 are supplied to the lens 2, the aperture / shutter mechanism 3 and the camera signal processing circuit 6 through the CPU 8, respectively.
[0018]
The camera signal processing circuit 6 and the CPU 8 are connected to a bus line 9, and a DRAM 11 used as a working memory when performing color processing of image data or the like is connected to the bus line 9 via a memory controller 10. In addition, a compression circuit (JPEG) 12 for compressing image data from the camera signal processing circuit 6 is connected. In addition, a memory card I / F 14 is connected to the bus line 9 in order to record the image data compressed by the compression circuit 12 in the memory card 13, and the image data recorded in the memory card 13 is stored in the bus line 9. A liquid crystal display element (LCD) 16 is connected via a display circuit 15 to read out and display or to display a photographing state. Further, a PCI / F 18 for transferring image data recorded on the memory card 13 to a personal computer (PC) 17 is connected to the bus line 9.
[0019]
Connected to the CPU 8 are a strobe device 19 that is controlled based on AE information from the AF, AE, and AWB detection circuit 7 and an input key 20 for setting various shooting modes, driving a trigger switch, and the like. The CCD image pickup device 1 is driven by a timing pulse from a timing generator (TG) 21 under the control of the CPU 8. In addition, a camera shake detection sensor 22 serving as a camera shake detection unit for detecting camera shake of the electronic camera is provided, and information relating to camera shake detected from the camera shake detection sensor 22 (camera shake information: for example, angular velocity due to camera shake, movement amount, camera shake direction, etc.) Information for detecting camera shake) is transmitted to the CPU 8 and a camera shake correction shooting mode determination circuit 23 which is a continuous shooting determination unit described later, and shooting control, camera shake correction processing, and the like are performed.
[0020]
In the electronic camera shown in FIG. 1, the operation of the input key 20 includes a normal shooting mode in which one image is acquired without performing camera shake correction, and a continuous shooting mode in which a plurality of images are acquired in order to perform camera shake correction. Alternatively, the camera shake correction shooting mode determination circuit 23 determines the camera shake information detected from the camera shake detection sensor 22. The camera shake correction shooting mode determination circuit 23 determines whether or not to perform continuous shooting for camera shake correction, which will be described later, based on the information regarding the shooting mode from the input key 20 and the camera shake information from the camera shake detection sensor 22. As an output, a shooting mode determination signal indicating the shooting mode is transmitted to the CPU 8. Then, the CPU 8 controls the shooting operation according to the selected shooting mode.
[0021]
That is, when the normal shooting mode is selected, one image signal is obtained from the CCD image pickup device 1 in one shooting by a normal shooting operation, and when the continuous shooting mode is selected, the CCD The electronic shutter function of the image sensor 1 or a known method such as a combination of the electronic shutter function and the aperture / shutter mechanism 3 can be used for a plurality of (for example, four, And the like, and the camera signal processing circuit 6 performs image data processing according to the shooting mode. When the continuous shooting mode is set by the camera shake correction shooting mode determination circuit 23, in addition to the manual shooting mode setting from the input key 20, camera shake is large due to camera shake information from the camera shake detection sensor 22 (for example, the angular velocity is high). Large), etc.
[0022]
Next, FIG. 2 is a diagram illustrating an example of a block diagram in the camera signal processing circuit 6. The shooting mode determination signal transmitted from the CPU 8 drives the first switch 31 and the second switch 32. When the shooting mode is the normal shooting mode, the image signal entering the first switch 31 from the A / D converter 5 is transmitted to the camera signal processing process unit 39 via the second switch 32, and the image signal is reproduced as an image. Processing is performed. On the other hand, when the shooting mode is the continuous shooting mode, the image signal (continuous shooting image signal) entering the first switch 31 from the A / D converter 5 is transmitted to the continuous shooting image recording control unit 34 which is a camera shake information control unit. The
[0023]
The continuous shot image recording control unit 34 stores the input continuous shot image signal in the continuous shot image storage buffer 33. A signal indicating camera shake information transmitted from the CPU 8 is transmitted to the camera shake information integrated control unit 35 serving as a camera shake information control unit. The camera shake information integration control unit 35 reads and stores camera shake information at the shooting timing of continuous shot images in response to the continuous shot image signal input from the continuous shot image recording control unit 34. In this embodiment, a dedicated buffer for storing continuous shot images is provided, but the DRAM 11 provided in the electronic camera may be used as a substitute for the continuous shot image storage buffer 33.
[0024]
After all the continuous shot image signals and camera shake information are transmitted, the continuous shot image recording control unit 34 sequentially reads the continuous shot image signals from the continuous shot image recording buffer 33. At the same time, camera shake information corresponding to the shooting timing of the continuous-shot image signal read from the continuous-shot image recording buffer 33 is sequentially read from the camera-shake information integration control unit 35 as the continuous-shot image signal is read.
[0025]
The read continuous image signal and the camera shake information corresponding to the read continuous image signal are transmitted to the camera shake correction target image selection unit 36 serving as a camera shake correction unit, and an image to be subjected to camera shake correction is selected. In the present embodiment, the first image captured in the group of continuously shot images is set as a target image for camera shake correction. This is because the image at the moment when the shutter release is started is often an image at the timing that the user should originally shoot. The selection of the image to be corrected is not limited to this. For example, an image having a large image blur (such as the maximum image blur) may be selected based on a camera shake signal. Alternatively, the CPU 8 may transmit a control signal related to the user's instruction to the camera shake correction target image selection unit 36 so that the user can select an image he / she desires to correct.
[0026]
The read continuous shot image signal and the camera shake information corresponding thereto are further transmitted to the camera shake correction information calculation unit 37 serving as a camera shake correction unit, and information for performing camera shake correction is calculated. Here, the image stabilization target image signal output from the image stabilization target image selection unit 36 is also used, for example, based on an image in which the image stabilization in the captured image is minimized, and the image stabilization is performed by configuring an image stabilization filter from this image. Calculate information.
[0027]
The camera shake correction target image signal selected by the camera shake correction target image selection unit 36 and the camera shake correction information calculated by the camera shake correction information calculation unit 37 are transmitted to the camera shake correction processing unit 38 serving as the camera shake correction unit. Based on the camera shake correction information, the camera shake correction processing unit 38 performs a process of correcting the camera shake portion of the image to be corrected. For example, when a camera shake minimum image restoration filter is transmitted as camera shake correction information, a camera shake correction process is performed by applying an image restoration algorithm based on the restoration filter to the camera shake correction target image signal.
[0028]
The camera shake correction target image signal whose camera shake has been corrected by the camera shake correction processing unit 38 is transmitted to the camera signal processing process unit 39 via the second switch 32, and a process for reproducing the image signal as an image is performed. The signal reproduced as an image is transmitted to the bus line 9 for subsequent processing. In the present embodiment, a signal processing process for image reproduction is incorporated after camera shake correction. However, the order may be reversed and the camera shake correction may be performed after performing the signal processing process for image reproduction.
[0029]
Next, FIG. 3 is a diagram illustrating an example of a flow of the camera shake correction processing algorithm in the present embodiment. Here, the camera shake correction processing algorithm represents from continuous shooting mode setting to image signal processing for a camera shake correction target image after camera shake correction.
[0030]
First, when a control signal for switching to the continuous shooting mode is output from the camera shake correction shooting mode determination circuit 23, the shooting mode is set to a continuous shooting (camera shake correction) mode (step S1). Next, when shutter release is started, the shutter is in an “open” state and continuous shooting is started (step S2). While the shutter is in the “open” state, the continuous shot image recording control unit 34 acquires the continuous shot image and camera shake information corresponding to the image in synchronization with the shutter control timing (step S3). Then, the shutter is closed and the continuous shooting is finished (step S4).
[0031]
Next, regarding the continuously shot image group that has been shot, the image that is first shot in the continuously shot image group is selected as the camera shake correction target image in the camera shake correction target image selection unit 36 (step S5). Thereafter, in the camera shake correction information calculation unit 37, an image (camera shake minimum image) in which the camera shake information in the continuous image group is minimized is detected as an image used for calculating the camera shake correction information (step S6). The camera shake minimum image detected here is compared with the camera shake correction target image (step S7). If both are the same images (Yes), the subsequent process for camera shake correction is not performed and the process skips to step S10. To do. When both are different (No), the process proceeds to the next step.
[0032]
  Next, in the camera shake correction information calculation unit 37,The image stabilization target image selected in step S5 andCamera shake correction information is calculated from the camera shake minimum image detected in step S6 (step S8). Then, using the calculated camera shake correction information, the camera shake correction processing unit 38 corrects the camera shake of the image to be corrected (step S9). Then, the camera signal processing target unit 39 performs image signal processing on the camera shake correction target image that has not been subjected to the camera shake correction processing because it is a camera shake correction target image or a camera shake minimum image that has been corrected for camera shake (step S10).
[0033]
  Next, FIG. 4 is a diagram illustrating an example of a procedure of camera shake correction processing in the present embodiment. In the continuous shooting mode with camera shake correction, when the time transition of camera shake information with respect to time is as shown in FIG. 4A, shooting is performed by generating shutter timing pulses (FIG. 4B) at regular short time intervals. As a result, a group of continuously shot images (FIG. 4C) consisting of four images is generated. Here, considering that the camera shake correction processing based on the present embodiment is performed, the first image ((d1) in FIG. 4) in the continuous-shot image group is selected as a camera shake correction target image. For the minimum camera shake image for calculating the camera shake correction information, the last image ((d2) in FIG. 4) in the group of continuous shot images is selected based on the size of the camera shake information when the shutter timing pulse is generated. And image stabilization target image signalImage stabilization target image signal andA camera shake correction process ((e) in FIG. 4) is performed by a signal representing the camera shake correction information calculated from the minimum camera shake image, and finally a camera shake correction image relating to the first image in the continuous shot image group is generated (FIG. 4). 4 (f)).
[0034]
As a camera shake correction method used in the present embodiment, a recovery filter is generated from an image that minimizes camera shake in a continuous shot image (that is, the same scene), and based on this, a restoration process is performed on the camera shake image to be corrected. It is feasible by performing. As a recovery filter generation method, for example, after performing correction (motion vector correction used in MPEG etc.) so that the position of the image is the same between the minimum image stabilization image and the image to be corrected, it is generated based on the correlation between the images. After calculating the point spread function (PSF) for both of the image blurring part and the camera shake part, the PSF of the minimum camera shake image is generated by replacing the PSF of the camera shake correction target image (the camera shake part by performing only the local part process) However, the method for generating the recovery filter is not particularly limited, and other general methods can be adopted.
[0035]
As described above, in the present embodiment, a continuous shooting mode for performing camera shake correction from the state of camera shake of the electronic camera is set, and continuous shooting is performed in the presence of camera shake, and a plurality of images related to the same scene and camera shake corresponding to the image are captured. Information is acquired, and an image to be corrected for camera shake is selected from them, and at the same time, camera shake correction information for correcting camera shake is calculated. Since an image obtained by performing the camera shake correction process on the image to be corrected based on the camera shake correction information is generated, it is possible to generate an image in which the influence of the camera shake is suppressed as a result.
[0036]
In addition, the image to be subjected to camera shake correction is selected by selecting a first image from a plurality of continuously shot images, that is, an image of a scene to be originally taken immediately after the user starts shutter release. It is possible to reproduce an image that has been subjected to camera shake correction. Further, for the calculation of the camera shake correction information, it is possible to generate highly reliable correction information for the same scene by using an image with the minimum camera shake from among a plurality of images taken continuously. Therefore, even if there is a camera shake, it is possible to provide an image in which the influence of the camera shake is suppressed on the scene that the user tried to shoot.
[0037]
As another embodiment, a program for executing the above-described camera shake correction processing operation is recorded on a recording medium, and a driver for the recording medium is attached to the imaging apparatus including the image processing apparatus, and the recording medium is attached to the recording medium. The recorded program may be read and executed by the CPU 8 of the imaging apparatus main body (electronic camera) via a driver.
[0038]
【The invention's effect】
According to the first aspect of the present invention, at least one of the images to be corrected in the camera shake correction unit based on the plurality of images of the same scene continuously shot by the continuous shooting unit and the camera shake information detected from the camera shake detection unit. Camera shake correction is performed on the above image. In other words, camera shake correction is performed by calculating information for correcting the camera shake portion of the correction target image from a plurality of images that are in the same scene as the correction target image, so that the photographer can perform the camera shake correction at high speed and with high accuracy. Can capture the intended scene.
[0039]
According to the second aspect of the present invention, the same effect as in the first aspect is obtained, and the continuous shooting determination unit determines whether or not to perform continuous shooting based on information from the camera shake detection unit. Switching to continuous shooting can be automatically performed according to the state of camera shake, and shooting can be controlled so that camera shake correction is performed only when camera shake correction is necessary.
[0040]
According to the invention described in claim 3, the same effects as in claim 1 can be obtained, and camera shake information can be detected, processed, and stored so as to correspond to a continuously shot image. Therefore, the relationship between the photographed image and the camera shake information can be made appropriate, and the subsequent camera shake correction processing can be performed appropriately.
[0041]
According to the invention described in claim 4, the same effect as in any one of claims 1 to 3 can be obtained, and camera shake is caused with respect to an image taken first among a plurality of images taken continuously. Since the correction is performed, it is possible to appropriately perform the camera shake correction for the scene corresponding to the timing immediately after the shutter release.
[0042]
According to the invention described in claim 5, the same effect as in any one of claims 1 to 3 can be obtained, and information from an image having the minimum camera shake information among a plurality of images can be obtained in the camera shake correction unit. Since camera shake correction is performed based on this, highly reliable correction information can be provided to the camera shake correction unit.
[0043]
According to the sixth aspect of the present invention, in the computer for controlling the processing for correcting the camera shake of the photographed image, a plurality of images and camera shake of the same scene photographed by the continuous photographing function are detected. The recording medium stores an image processing program for performing camera shake correction on at least one image to be corrected by a function for correcting camera shake from camera shake information detected by the function. In other words, camera shake correction is performed by calculating information for correcting the camera shake portion of the correction target image from a plurality of images that are in the same scene as the correction target image, so that the photographer can perform the camera shake correction at high speed and with high accuracy. Can capture the intended scene.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a basic configuration of an electronic camera as an image processing apparatus according to the present invention.
FIG. 2 is a diagram illustrating an example of a block diagram in a camera signal processing circuit 6;
FIG. 3 is a diagram illustrating an example of a flow of an image stabilization processing algorithm in the present embodiment.
FIG. 4 is a diagram illustrating an example of a procedure of camera shake correction processing in the present embodiment.
[Explanation of symbols]
1 CCD image sensor
2 Lens
3 Aperture / Shutter Mechanism
4 amplifiers
5 A / D converter
6 Camera signal processing circuit
7 AF, AE, AWB detection circuit
8 CPU
9 Bus line
10 Memory controller
11 DRAM
12 Compression circuit
13 Memory card
14 Memory card I / F
15 Display circuit
16 Liquid crystal display (LCD)
17 PC
18 PCI / F
19 Strobe device
20 Input key
21 Timing generator (TG)
22 Shake detection sensor
23 Camera shake correction shooting mode determination circuit
31 First switch
32 Second switch
33 Continuous shooting image recording buffer
34 Continuous Shooting Image Recording Control Unit
35 Camera shake information integrated control unit
36 Image selection unit for image stabilization
37 Image stabilization information calculation unit
38 Image stabilization processing unit
39 Camera signal processing section

Claims (9)

撮像装置により撮影された画像の手ぶれを補正する画像処理装置であって
所定の時間間隔で連続的に被写体を撮影して複数の画像を取得する連写撮影部と、
前記取得された複数の画像のそれぞれについて、前記撮像装置の手ぶれに関する手ぶれ情報を検出する手ぶれ検出部と、
前記取得された複数の画像のうち手ぶれ補正の対象となる画像を補正対象画像として選択する選択部と、
前記複数の画像のそれぞれについて検出された前記手ぶれ情報に基づいて、前記取得された複数の画像のうち手ぶれが最小となる画像を手ぶれ最小画像として選択するとともに、その選択した手ぶれ最小画像と前記補正対象画像とに基づいて、前記補正対象画像の手ぶれ部分の補正に供する手ぶれ補正情報を算出する補正情報算出部と、
前記算出された手ぶれ補正情報を用いて、前記補正対象画像が有する手ぶれ部分を補正する手ぶれ補正部と、
を具備することを特徴とする画像処理装置。
An image processing apparatus for correcting a shake of the image captured by the imaging device,
A continuous shooting unit that continuously captures a subject at predetermined time intervals and obtains a plurality of images;
For each of the plurality of acquired images, a camera shake detection unit that detects camera shake information related to camera shake of the imaging device;
A selection unit that selects, as a correction target image, an image to be subjected to camera shake correction among the plurality of acquired images;
Based on the camera shake information detected for each of the plurality of images, an image that minimizes camera shake is selected as the camera shake minimum image among the plurality of acquired images, and the selected camera shake minimum image and the correction A correction information calculation unit that calculates camera shake correction information used for correcting a camera shake part of the correction target image based on the target image;
A camera shake correction unit that corrects a camera shake part of the correction target image using the calculated camera shake correction information ;
An image processing apparatus comprising:
前記手ぶれ検出部により検出された前記手ぶれ情報に基づき、前記連写撮影部による連写撮影を行うか否かを決定する連写撮影判定部をさらに有することを特徴とする請求項1に記載の画像処理装置。  The continuous shooting determination unit for determining whether or not to perform continuous shooting by the continuous shooting unit based on the camera shake information detected by the camera shake detection unit. Image processing device. 前記連写撮影部により撮影された前記複数の画像に対応させて前記手ぶれ情報を検出して処理を行うように制御する手ぶれ情報制御部をさらに有することを特徴とする請求項1または2に記載の画像処理装置。 3. The camera shake information control unit further controls to detect and process the camera shake information in correspondence with the plurality of images taken by the continuous shooting unit. 4. Image processing apparatus. 前記選択部は、前記補正対象画像として、前記連写撮影部によって撮影された前記複数の画像のうち最初に撮影された画像を選択することを特徴とする請求項1から3のいずれか1つに記載の画像処理装置。 The selection unit, the as the correction target image, any one of claims 1 to 3, characterized by selecting the first picture recorded among the continuous shooting the plurality of images taken by the photographing unit An image processing apparatus according to 1. 前記選択部は、前記補正対象画像として、ユーザが自ら補正を望む画像を選択することを特徴とする請求項1から3のいずれかに記載の画像処理装置。The image processing apparatus according to claim 1, wherein the selection unit selects an image that the user desires to correct as the correction target image. 撮像装置により撮影された画像の手ぶれを補正する画像処理装置であって
所定の時間間隔で連続的に被写体を撮影して複数の画像を取得する連写撮影部と
前記連続的な撮影のタイミングに従って、前記撮像装置の手ぶれに関する手ぶれ情報を検出する手ぶれ検出部と
前記手ぶれ検出部により検出された手ぶれ情報と、前記連写撮影部により得られた複数の画像とに基づき、前記複数の画像のうち少なくとも一つ以上の画像について当該画像が有する手ぶれ部分を補正する手ぶれ補正部と、
を具備することを特徴とする画像処理装置
An image processing device for correcting camera shake of an image taken by an imaging device,
A continuous shooting unit that continuously captures a subject at predetermined time intervals and obtains a plurality of images;
In accordance with the timing of the continuous shooting, the shake detecting unit detects the camera shake information about the shake of the image pickup device,
And hand shake information detected by the shake detection unit, based on the multiple images obtained by the continuous shooting section, corrects the camera shake portions the image has for at least one image of the images An image stabilization unit to
An image processing apparatus comprising:
撮像装置により撮影された画像の手ぶれを補正する画像処理方法であって、  An image processing method for correcting camera shake of an image taken by an imaging device,
所定の時間間隔で連続的に被写体を撮影して複数の画像を取得するステップと、  Capturing a plurality of images by continuously photographing a subject at a predetermined time interval;
前記取得された複数の画像のそれぞれについて、前記撮像装置の手ぶれに関する手ぶれ情報を検出するステップと、  Detecting camera shake information related to camera shake of the imaging device for each of the plurality of acquired images;
前記取得された複数の画像のうち手ぶれ補正の対象となる画像を補正対象画像として選択するステップと、  Selecting an image to be subjected to camera shake correction as a correction target image among the plurality of acquired images;
前記複数の画像のそれぞれについて検出された前記手ぶれ情報に基づいて、前記取得された複数の画像のうち手ぶれが最小となる画像を手ぶれ最小画像として選択するとともに、その選択した手ぶれ最小画像と前記補正対象画像とに基づいて、前記補正対象画像の手ぶれ部分の補正に供する手ぶれ補正情報を算出するステップと、  Based on the camera shake information detected for each of the plurality of images, an image that minimizes camera shake is selected as the camera shake minimum image among the plurality of acquired images, and the selected camera shake minimum image and the correction Based on the target image, calculating camera shake correction information for correction of the camera shake portion of the correction target image;
前記算出された手ぶれ補正情報を用いて、前記補正対象画像が有する手ぶれ部分を補正するステップと、  Using the calculated camera shake correction information to correct a camera shake portion of the correction target image;
を具備することを特徴とする画像処理方法。  An image processing method comprising:
撮像装置により撮影された画像の手ぶれを補正する画像処理方法をコンピュータに発揮せしめるコンピュータプログラムであって、当該画像処理方法は、  A computer program for causing a computer to perform an image processing method for correcting camera shake of an image captured by an imaging device, the image processing method comprising:
所定の時間間隔で連続的に被写体を撮影して複数の画像を取得するステップと、  Capturing a plurality of images by continuously photographing a subject at a predetermined time interval;
前記取得された複数の画像のそれぞれについて、前記撮像装置の手ぶれに関する手ぶれ情報を検出するステップと、  Detecting camera shake information related to camera shake of the imaging device for each of the plurality of acquired images;
前記取得された複数の画像のうち手ぶれ補正の対象となる画像を補正対象画像として選択するステップと、  Selecting an image to be subjected to camera shake correction as a correction target image among the plurality of acquired images;
前記複数の画像のそれぞれについて検出された前記手ぶれ情報に基づいて、前記取得された複数の画像のうち手ぶれが最小となる画像を手ぶれ最小画像として選択するとともに、その選択した手ぶれ最小画像と前記補正対象画像とに基づいて、前記補正対象画像の手ぶれ部分の補正に供する手ぶれ補正情報を算出するステップと、  Based on the camera shake information detected for each of the plurality of images, an image that minimizes camera shake is selected as the camera shake minimum image from the plurality of acquired images, and the selected camera shake minimum image and the correction Based on the target image, calculating camera shake correction information for correction of the camera shake portion of the correction target image;
前記算出された手ぶれ補正情報を用いて、前記補正対象画像が有する手ぶれ部分を補正するステップと、  Using the calculated camera shake correction information to correct a camera shake portion of the correction target image;
を具備することを特徴とするコンピュータプログラム。  A computer program comprising:
撮像装置により撮影された画像の手ぶれを補正する処理をコンピュータに実行させる命令を含むプログラムを格納した、コンピュータが読み取り可能な記録媒体であって、前記手ぶれを補正する処理は、  A computer-readable recording medium storing a program including a command for causing a computer to execute a process for correcting camera shake of an image captured by an imaging apparatus, wherein the process for correcting the camera shake includes:
所定の時間間隔で連続的に被写体を撮影して複数の画像を取得するステップと、  Capturing a plurality of images by continuously photographing a subject at a predetermined time interval;
前記取得された複数の画像のそれぞれについて、前記撮像装置の手ぶれに関する手ぶれ情報を検出するステップと、  Detecting camera shake information related to camera shake of the imaging device for each of the plurality of acquired images;
前記取得された複数の画像のうち手ぶれ補正の対象となる画像を補正対象画像として選択するステップと、Selecting an image to be subjected to camera shake correction as a correction target image among the plurality of acquired images;
前記複数の画像のそれぞれについて検出された前記手ぶれ情報に基づいて、前記取得された複数の画像のうち手ぶれが最小となる画像を手ぶれ最小画像として選択するとともに、その選択した手ぶれ最小画像と前記補正対象画像とに基づいて、前記補正対象画像の手ぶれ部分の補正に供する手ぶれ補正情報を算出するステップと、Based on the camera shake information detected for each of the plurality of images, an image that minimizes camera shake is selected as the camera shake minimum image among the plurality of acquired images, and the selected camera shake minimum image and the correction Based on the target image, calculating camera shake correction information for correction of the camera shake portion of the correction target image;
前記算出された手ぶれ補正情報を用いて、前記補正対象画像が有する手ぶれ部分を補正するステップと、Using the calculated camera shake correction information to correct a camera shake portion of the correction target image;
を具備することを特徴とする記録媒体。A recording medium comprising:
JP2001037355A 2001-02-14 2001-02-14 Image processing apparatus and recording medium storing image processing program Expired - Fee Related JP4468598B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001037355A JP4468598B2 (en) 2001-02-14 2001-02-14 Image processing apparatus and recording medium storing image processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001037355A JP4468598B2 (en) 2001-02-14 2001-02-14 Image processing apparatus and recording medium storing image processing program

Publications (3)

Publication Number Publication Date
JP2002247444A JP2002247444A (en) 2002-08-30
JP2002247444A5 JP2002247444A5 (en) 2008-04-24
JP4468598B2 true JP4468598B2 (en) 2010-05-26

Family

ID=18900495

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001037355A Expired - Fee Related JP4468598B2 (en) 2001-02-14 2001-02-14 Image processing apparatus and recording medium storing image processing program

Country Status (1)

Country Link
JP (1) JP4468598B2 (en)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8331723B2 (en) 2004-03-25 2012-12-11 Ozluturk Fatih M Method and apparatus to correct digital image blur due to motion of subject or imaging device
JP4250583B2 (en) 2004-09-30 2009-04-08 三菱電機株式会社 Image capturing apparatus and image restoration method
JP4379918B2 (en) 2004-11-29 2009-12-09 富士フイルム株式会社 Imaging apparatus and imaging method
JP4783252B2 (en) 2006-04-18 2011-09-28 富士通株式会社 Image pickup apparatus with image stabilization function, image stabilization method, pre-processing program for image stabilization processing, and stored image determination program
JP4976160B2 (en) * 2007-02-22 2012-07-18 パナソニック株式会社 Imaging device
US8306348B2 (en) * 2007-04-24 2012-11-06 DigitalOptics Corporation Europe Limited Techniques for adjusting the effect of applying kernels to signals to achieve desired effect on signal
JP2009118434A (en) * 2007-11-09 2009-05-28 Sanyo Electric Co Ltd Blurring correction device and imaging apparatus
JP2009153046A (en) * 2007-12-21 2009-07-09 Sanyo Electric Co Ltd Blur correcting device and method, and imaging apparatus
WO2011155429A1 (en) 2010-06-07 2011-12-15 オリンパスメディカルシステムズ株式会社 Signal processing device and still image generation method
JP5395752B2 (en) * 2010-06-18 2014-01-22 富士フイルム株式会社 Target image generation system, operation control method thereof, and operation control program thereof
JP6083526B2 (en) * 2013-07-12 2017-02-22 富士通株式会社 Information processing apparatus, program, and method

Also Published As

Publication number Publication date
JP2002247444A (en) 2002-08-30

Similar Documents

Publication Publication Date Title
US8050464B2 (en) Image taking apparatus and image taking method
KR100871639B1 (en) Camera and image processing method for camera
JP4441919B2 (en) Imaging apparatus and program thereof
JP2008288975A (en) Imaging apparatus, imaging method and imaging program
JP2001111934A (en) Electronic camera system
JP2001103366A (en) Camera
JP4076148B2 (en) Digital camera
JP5158409B2 (en) Imaging apparatus and program thereof
JP4468598B2 (en) Image processing apparatus and recording medium storing image processing program
JP5434038B2 (en) Imaging device
JP2006067452A (en) Video recording apparatus, and electronic camera
JP2004147018A (en) Image processing method and digital camera
JP2007336394A (en) Imaging apparatus and image compositing method
JP2013110754A (en) Camera device, and photographing method and program of the same
JP2010193324A (en) Camera apparatus, photographing method thereof and program
JP4942572B2 (en) Image adding apparatus and method, and program
JP2009182880A (en) Imaging apparatus and its program
JP5179859B2 (en) Imaging apparatus and imaging method
JP2006324788A (en) Apparatus and method for processing video signal
JP2003069888A (en) Digital camera with multi-photographing function
JP2004186866A (en) Image recording apparatus
JP5300627B2 (en) Imaging apparatus, control method thereof, and program
JP2011018989A (en) Imaging device, image selection method, and program
JPH11224324A (en) Image signal processing method and device
JP2008271181A (en) Imaging apparatus and imaging method, reproducing device and reproducing method, and imaged image processing system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080306

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100114

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100202

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100225

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130305

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140305

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees