JP2002247444A - Image processor and recording medium for recording image processing program - Google Patents

Image processor and recording medium for recording image processing program

Info

Publication number
JP2002247444A
JP2002247444A JP2001037355A JP2001037355A JP2002247444A JP 2002247444 A JP2002247444 A JP 2002247444A JP 2001037355 A JP2001037355 A JP 2001037355A JP 2001037355 A JP2001037355 A JP 2001037355A JP 2002247444 A JP2002247444 A JP 2002247444A
Authority
JP
Japan
Prior art keywords
camera shake
image
camera
images
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001037355A
Other languages
Japanese (ja)
Other versions
JP2002247444A5 (en
JP4468598B2 (en
Inventor
Kazuhito Horiuchi
一仁 堀内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Optical Co Ltd filed Critical Olympus Optical Co Ltd
Priority to JP2001037355A priority Critical patent/JP4468598B2/en
Publication of JP2002247444A publication Critical patent/JP2002247444A/en
Publication of JP2002247444A5 publication Critical patent/JP2002247444A5/ja
Application granted granted Critical
Publication of JP4468598B2 publication Critical patent/JP4468598B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Studio Devices (AREA)
  • Cameras In General (AREA)
  • Adjustment Of Camera Lenses (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image processor that can photograph a scene intended by a photographer while quickly compensating a camera-shake with high accuracy. SOLUTION: The image processor that compensates a camera-shake of an image photographed by an image pick up device, is provide with a consecutive shot section (CPU 8) that consecutively photographs an object at a prescribed time interval to acquire a plurality of images, a camera-shake detection section (camera-shape sensor 22) that detects camera-shake information with respect to the camera-shake according to the consecutive photographing timings, and camera-shake compensation sections (a camera-shake compensation object image selection section 36, a camera-shake compensation information calculation section 37, and a camera-shake compensation processing section 38) that correct a camera-shake of at least one image or more among a plurality of the images.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、画像処理装置及び
画像処理プログラムを記録した記録媒体に関し、特に撮
影画像の手ぶれを補正する場合に適用可能な画像処理装
置及び記録媒体に関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image processing apparatus and a recording medium on which an image processing program is recorded, and more particularly to an image processing apparatus and a recording medium which can be used to correct camera shake of a captured image.

【0002】[0002]

【従来の技術】銀塩フィルムカメラを手で持って被写体
を撮影する場合、カメラの手ぶれにより撮影された写真
が不自然なものになることはよく見られる現象である。
これはデジタルスチルカメラと呼ばれる電子カメラでも
同様であり、電子カメラにおいても銀塩フィルムカメラ
と同様、手ぶれを抑制するための方法、機能の実現は大
きな課題となっている。銀塩フィルムカメラにおいては
撮影光学系を駆動することで手ぶれを抑制して撮影する
方法がよく知られているが、電子カメラでは撮影光学系
の駆動以外にも、電気信号処理により撮影時の制御や撮
影後の電子画像(以下単に画像と述べる)の補正等で手
ぶれの影響を抑えることが可能である。
2. Description of the Related Art When photographing a subject by holding a silver halide film camera by hand, it is a common phenomenon that a photographed image becomes unnatural due to camera shake.
The same applies to an electronic camera called a digital still camera, and realization of a method and a function for suppressing camera shake has become a major issue in an electronic camera, as in a silver halide film camera. In a silver halide film camera, it is well known that a method of driving a photographing optical system to suppress camera shake and perform photographing, but in an electronic camera, in addition to driving the photographing optical system, control during photographing by electric signal processing. In addition, the influence of camera shake can be suppressed by correcting an electronic image (hereinafter simply referred to as an image) after photographing.

【0003】電気信号処理による方法で実用上効果的な
ものの一つとして、角速度センサ等に代表されるカメラ
の手ぶれの動きを検出するセンサ(手ぶれ検出センサ)
を電子カメラに備え付けて手ぶれの動き(動き量、動き
方向等)の検出や予測等を行い、手ぶれの時間的推移か
らあるタイミングで撮影するようにシャッタ制御を行う
という方法がある。例えば特開平5−107622号公
報では、角速度センサにより手ぶれを検出して、手ぶれ
が極大値を発生させてから所定時間後にシャッタをレリ
ーズさせる旨の内容が開示されている。この方法は手ぶ
れの影響が比較的小さい時点で撮影されるため結果とし
て得られる画像は比較的遜色ないものとなる。
One of the practically effective methods based on electric signal processing is a sensor (camera shake detection sensor) for detecting camera shake movement represented by an angular velocity sensor or the like.
Is provided in an electronic camera to detect and predict the movement of a camera shake (movement amount, movement direction, etc.), and to control the shutter so as to take an image at a certain timing from the temporal change of the camera shake. For example, Japanese Patent Application Laid-Open No. 5-107622 discloses that a camera shake is detected by an angular velocity sensor, and a shutter is released a predetermined time after the camera shake generates a maximum value. In this method, the image is captured at a time when the influence of camera shake is relatively small, and the resulting image is relatively comparable.

【0004】また電気信号処理による手ぶれの補正とし
ては、撮影後の画像を処理して手ぶれ部分が本来持つべ
き情報を推定、復元する方法がよく知られている。一般
的に用いられる画像処理としては、手ぶれ部分を回復さ
せる回復フィルタ(例えば逆フィルタやウイーナフィル
タ等)によるものや、画像の点広がり関数(PSF)か
ら手ぶれ部分を復元するための情報を推定して適用する
もの等がある。例えば特開平11−134481号公報
では、手ぶれの軌跡データに基づき生成した点広がり関
数を用いて手ぶれ画像を復元する際に、手ぶれ軌跡上の
画素周辺の画素の輝度値も考慮して復元を行う旨の内容
が開示されている。
As a method of correcting camera shake by electric signal processing, a method of processing an image after photographing to estimate and restore information that the camera shake portion should originally have is well known. Commonly used image processing includes a method using a restoration filter (for example, an inverse filter or a Wiener filter) for restoring a blurred portion, and information for restoring a blurred portion from an image point spread function (PSF). There are some that apply. For example, in Japanese Patent Application Laid-Open No. 11-134481, when a camera shake image is restored using a point spread function generated based on camera shake trajectory data, restoration is performed in consideration of luminance values of pixels around pixels on the camera shake trajectory. To the effect.

【0005】[0005]

【発明が解決しようとする課題】しかしながら、上記し
た特開平5−107622号公報に記載の方法では本来
撮影者が意図するシャッタのタイミングから時間的にず
れた状態で撮影が行われるため、実際には撮影者が撮ろ
うとしていたシーンとは異なるシーンを撮影することが
あり得るという問題がある。
However, according to the method described in Japanese Patent Application Laid-Open No. 5-107622, the photographing is performed with a time lag from the shutter timing originally intended by the photographer. Has a problem that a scene different from the scene that the photographer was trying to photograph may be photographed.

【0006】また、上記した特開平11−134481
号公報に記載の方法では、元々存在しない情報を推定、
復元することから、手ぶれ部分を忠実に再現しようとす
ると、画像処理における計算の手間や時間の増大につな
がるという問題がある。
[0006] Also, the above-mentioned Japanese Patent Application Laid-Open No. 11-134481.
According to the method described in Japanese Patent Publication No.
Since the restoration is performed, if the camera shake portion is to be faithfully reproduced, there is a problem in that the computational effort and time in image processing are increased.

【0007】本発明はこのような課題に着目してなされ
たものであり、その目的とするところは、手ぶれ補正を
高速にかつ高い精度で行いながら撮影者が意図したシー
ンを撮影することができる画像処理装置を提供すること
にある。
The present invention has been made in view of such a problem, and an object of the present invention is to be able to photograph a scene intended by a photographer while performing camera shake correction at high speed and with high accuracy. An image processing device is provided.

【0008】[0008]

【課題を解決するための手段】上記の目的を達成するた
めに、第1の発明は、撮像装置により撮影された画像の
手ぶれを補正する画像処理装置において、所定の時間間
隔で連続的に被写体を撮影して複数の画像を取得する連
写撮影部と、上記連続的な撮影のタイミングに従って、
上記撮像装置の手ぶれに関する手ぶれ情報を検出する手
ぶれ検出部と、前記手ぶれ検出部により検出された手ぶ
れ情報と、前記連写撮影部により得られた複数の画像と
に基づき、前記複数の画像のうち少なくとも一つ以上の
画像について当該画像が有する手ぶれを補正する手ぶれ
補正部とを具備する。
According to a first aspect of the present invention, there is provided an image processing apparatus for correcting a camera shake of an image photographed by an image pickup apparatus. According to the timing of the continuous shooting, and a continuous shooting unit that obtains a plurality of images by shooting
A camera shake detection unit that detects camera shake information related to camera shake of the imaging device, camera shake information detected by the camera shake detection unit, and a plurality of images obtained by the continuous shooting unit; A camera shake correction unit for correcting camera shake of at least one or more images.

【0009】また、第2の発明は、第1の発明に係る画
像処理装置において、前記手ぶれ検出部により検出され
た前記手ぶれ情報に基づき、前記連写撮影部による連写
撮影を行うか否かを決定する連写撮影判定部をさらに有
する。
According to a second aspect of the present invention, in the image processing apparatus according to the first aspect, whether or not to perform continuous shooting by the continuous shooting unit based on the camera shake information detected by the camera shake detection unit. Is further provided.

【0010】また、第3の発明は、第1の発明に係る画
像処理装置において、前記連写撮影部により撮影された
前記複数の画像に対応させて前記手ぶれ情報を検出して
処理を行うように制御する手ぶれ情報制御部をさらに有
する。
According to a third aspect, in the image processing apparatus according to the first aspect, the camera shake information is detected and processed in correspondence with the plurality of images photographed by the continuous photographing unit. And a camera shake information control unit for controlling the camera shake information.

【0011】また、第4の発明は、第1〜第3のいずれ
か1つの発明に係る画像処理装置において、前記手ぶれ
補正部で補正を行う画像は、前記連写撮影部によって撮
影された前記複数の画像のうち最初に撮影された画像で
ある。
According to a fourth aspect of the present invention, in the image processing apparatus according to any one of the first to third aspects, the image to be corrected by the camera shake correction unit is captured by the continuous shooting unit. This is the first image captured among a plurality of images.

【0012】また、第5の発明は、第1〜第3のいずれ
か1つの発明に係る画像処理装置において、前記手ぶれ
補正部は、前記複数の画像のうち手ぶれが最小であると
判断された画像に関する情報を用いて補正対象画像の手
ぶれを補正することを特徴とする請求項1〜請求項3の
いずれか1つに記載の画像処理装置。
According to a fifth aspect of the present invention, in the image processing apparatus according to any one of the first to third aspects, the camera shake correction unit determines that the camera shake among the plurality of images is the smallest. The image processing apparatus according to claim 1, wherein camera shake of a correction target image is corrected using information about the image.

【0013】また、第6の発明は、撮像装置により撮影
された画像の手ぶれを補正する処理をコンピュータに実
行させる命令を含むプログラムを格納した、コンピュー
タが読み取り可能な記録媒体であって、上記手ぶれを補
正する処理は、所定の時間間隔で連続的に被写体を撮影
して複数の画像を取得する連写撮影工程と、上記連続的
な撮影のタイミングに従って、上記撮像装置の手ぶれに
関する手ぶれ情報を検出する手ぶれ検出工程と、前記手
ぶれ検出工程で検出された各画像に対応する手ぶれ情報
と、前記連写撮影工程で得られた前記複数の画像とに基
づき、前記複数の画像のうち少なくとも一つ以上の画像
について当該画像が有する手ぶれを補正する手ぶれ補正
工程とを具備する。
According to a sixth aspect of the present invention, there is provided a computer-readable recording medium storing a program including an instruction for causing a computer to execute a process of correcting a camera shake of an image photographed by an imaging device. The processing of correcting the camera shake includes a continuous shooting step of continuously shooting a subject at a predetermined time interval to obtain a plurality of images, and detecting camera shake information regarding camera shake of the imaging apparatus according to the timing of the continuous shooting. Camera shake detection step, and camera shake information corresponding to each image detected in the camera shake detection step, based on the plurality of images obtained in the continuous shooting step, at least one or more of the plurality of images And a camera shake correction step of correcting camera shake of the image.

【0014】[0014]

【発明の実施の形態】まず本実施形態の概略を説明す
る。電子カメラで実現されている機能の一つに、短い時
間間隔で連続して撮影を行い複数の画像を記録する「連
写機能」がある。電子カメラでは画像処理により様々な
加工が可能であり、この連写機能によって撮影された複
数の画像から有意な情報を取り出し、これを用いて画質
を向上させることが期待できる。このことは手ぶれの問
題にも適用できる。即ち、手ぶれがある状態で同一シー
ンを連写機能により撮影することで得られる複数の画像
から、本来撮影しようとしたシーンにおける手ぶれ部分
を推定、復元するための情報を取り出し、この情報を元
に画像の手ぶれ部分を推定、復元すれば撮影画像の手ぶ
れによる影響を最小限に抑えることができる。
DESCRIPTION OF THE PREFERRED EMBODIMENTS First, an outline of the present embodiment will be described. One of the functions realized by the electronic camera is a “continuous shooting function” that continuously captures images at short time intervals and records a plurality of images. The electronic camera can perform various processing by image processing, and it can be expected that significant information is extracted from a plurality of images photographed by the continuous shooting function and the image quality is improved using the extracted information. This also applies to camera shake problems. That is, information for estimating and restoring a camera shake portion in a scene originally intended to be taken is extracted from a plurality of images obtained by shooting the same scene by a continuous shooting function in a state where there is camera shake, and based on this information, By estimating and restoring the camera shake portion of the image, the influence of the camera shake of the captured image can be minimized.

【0015】本実施形態の作用を以下に説明する。撮像
装置には手ぶれによる撮像装置自体の動きを検出する手
ぶれ検出部を有する。また撮像装置は撮影時において、
上記手ぶれ検出部によって検出される手ぶれに関する情
報(手ぶれ情報)に基づき連写撮影判定部によって撮影
モードを連写撮影が可能なモード(連写撮影モード)に
設定して連写撮影部を機能させる。連写撮影モードによ
り撮像装置のシャッタレリーズを開始すると、短い時間
間隔に複数の画像が撮影されると同時に、手ぶれ情報制
御部により撮影のタイミングに応じて手ぶれ検出部から
検出される手ぶれ情報が取得される。撮影後取得された
複数の画像及び各画像に対応した手ぶれ情報は手ぶれ補
正部において、複数中最初に撮影された画像やユーザか
ら指定された画像等、手ぶれが補正される画像として少
なくとも一つ以上の画像に関して、複数の画像及び手ぶ
れ情報を基に算出される手ぶれ補正情報を用いて手ぶれ
補正対象画像が有する手ぶれ部分を補正する。手ぶれ補
正情報の算出に関しては、例えば複数の画像の中から手
ぶれ情報により手ぶれが最小と判断される画像から補正
を行うための情報を算出し、これに基づいて補正を行
う。
The operation of this embodiment will be described below. The imaging apparatus has a camera shake detection unit that detects a movement of the imaging apparatus itself due to camera shake. In addition, the imaging device, at the time of shooting,
The continuous shooting determination unit sets the shooting mode to a mode capable of continuous shooting (continuous shooting mode) based on the information on the camera shake (camera shake information) detected by the camera shake detection unit, and causes the continuous shooting unit to function. . When the shutter release of the imaging device is started in the continuous shooting mode, a plurality of images are captured at short time intervals, and at the same time, the camera shake information detected by the camera shake detection unit is obtained by the camera shake information control unit according to the shooting timing. Is done. The plurality of images acquired after the photographing and the camera shake information corresponding to each image are processed by the camera shake correction unit at least one or more as the image whose camera shake is to be corrected, such as the first photographed image or the image designated by the user. The image blur correction of the image to be corrected is performed using the image correction information calculated based on the plurality of images and the camera shake information. As for the calculation of the camera shake correction information, for example, information for performing the correction is calculated from an image in which the camera shake is determined to be the minimum based on the camera shake information from a plurality of images, and the correction is performed based on the information.

【0016】以下に図面を参照して上記した概略を詳細
に説明する。図1は、本発明に係る画像処理装置として
の電子カメラの基本的構成を示すブロック図である。こ
の電子カメラは、電子シャッタ機能を有する単板式のカ
ラーCCD撮像素子1を用いるもので、このCCD撮像
素子1には、レンズ2および絞り・シャッタ機構3を経
て被写体像が結像され、当該被写体像が光電変換されて
画像信号として出力される。CCD撮像素子1からの被
写体像の画像信号は、図示しない相関二重サンプリング
回路等でノイズ成分が除去されたのち、アンプ4で増幅
され、さらにA/D変換器5でデジタル信号に変換され
てカメラ信号処理回路6に供給され、ここで画像データ
として処理される。
Hereinafter, the outline described above will be described in detail with reference to the drawings. FIG. 1 is a block diagram showing a basic configuration of an electronic camera as an image processing device according to the present invention. This electronic camera uses a single-plate type color CCD image pickup device 1 having an electronic shutter function, and a subject image is formed on the CCD image pickup device 1 via a lens 2 and an aperture / shutter mechanism 3. The image is photoelectrically converted and output as an image signal. The image signal of the subject image from the CCD image pickup device 1 is subjected to noise removal by a correlated double sampling circuit or the like (not shown), then amplified by an amplifier 4 and further converted to a digital signal by an A / D converter 5. The data is supplied to the camera signal processing circuit 6, where it is processed as image data.

【0017】また、A/D変換器5の出力は、AF、A
E、AWB検波回路7にも供給され、ここで本来の撮影
に先立って、フォーカスを自動的に制御するためのAF
情報を取り出すAE検波処理、露出を自動的に制御する
ためのAE情報を取り出すAE検波処理、およびホワイ
トバランスを自動的に設定するためのAWB情報を取り
出すAWB検波処理が行われる。このAF、AE、AW
B検波回路7からのAF情報、AE情報およびAWB情
報は、それぞれCPU8を介してレンズ2、絞り・シャ
ッタ機構3およびカメラ信号処理回路6に供給される。
The output of the A / D converter 5 is AF, A
E, also supplied to the AWB detection circuit 7, where the AF for automatically controlling the focus prior to the original photographing
An AE detection process for extracting information, an AE detection process for extracting AE information for automatically controlling exposure, and an AWB detection process for extracting AWB information for automatically setting white balance are performed. This AF, AE, AW
The AF information, AE information, and AWB information from the B detection circuit 7 are supplied to the lens 2, the aperture / shutter mechanism 3, and the camera signal processing circuit 6 via the CPU 8, respectively.

【0018】カメラ信号処理回路6およびCPU8は、
バスライン9に接続され、このバスライン9には、メモ
リコントローラ10を介して、画像データの色処理等を
行う際に作業用メモリとして用いられるDRAM11が
接続されていると共に、カメラ信号処理回路6からの画
像データを圧縮処理する圧縮回路(JPEG)12が接
続されている。また、バスライン9には、圧縮回路12
で圧縮処理された画像データをメモリカード13に記録
するために、メモリカードI/F14が接続されている
と共に、メモリカード13に記録された画像データを読
み出して表示したり、撮影状態を表示するために表示回
路15を介して液晶表示素子(LCD)16が接続され
ている。さらに、バスライン9には、メモリカード13
に記録されている画像データをパソコン(PC)17へ
転送するためのPCI/F18が接続されている。
The camera signal processing circuit 6 and the CPU 8
A DRAM 11 used as a working memory when performing color processing of image data and the like is connected to the bus line 9 via a memory controller 10, and the camera signal processing circuit 6 is connected to the bus line 9. A compression circuit (JPEG) 12 for compressing image data from the camera is connected. The bus line 9 includes a compression circuit 12
A memory card I / F 14 is connected to record the image data compressed in step 3 on the memory card 13, and the image data recorded on the memory card 13 is read out and displayed, and the shooting state is displayed. For this purpose, a liquid crystal display (LCD) 16 is connected via a display circuit 15. Further, the memory card 13 is connected to the bus line 9.
Is connected to a personal computer (PC) 17 for transferring image data recorded in the personal computer (PC) 17.

【0019】CPU8には、AF、AE、AWB検波回
路7からのAE情報に基づいて制御されるストロボ装置
19、および各種撮影モードの設定やトリガスイッチの
駆動等を行う入力キー20がそれぞれ接続されている。
なお、CCD撮像素子1は、CPU8の制御のもとにタ
イミングジェネレータ(TG)21からのタイミングパ
ルスによって駆動されるようになっている。また、電子
カメラの手ぶれを検出するための手ぶれ検出部たる手ぶ
れ検出センサ22を備え、この手ぶれ検出センサ22か
ら検出される手ぶれに関する情報(手ぶれ情報:例えば
手ぶれによる角速度、移動量、手ぶれ方向等の手ぶれを
検知する情報)がCPU8及び後述する連写撮影判定部
たる手ぶれ補正撮影モード判定回路23に伝送されて撮
影の制御や手ぶれ補正処理等が行われる。
The CPU 8 is connected to a strobe device 19 controlled based on AE information from the AF, AE, and AWB detection circuits 7 and an input key 20 for setting various photographing modes and driving a trigger switch. ing.
Note that the CCD image pickup device 1 is driven by a timing pulse from a timing generator (TG) 21 under the control of the CPU 8. The electronic camera further includes a camera shake detection sensor 22 serving as a camera shake detection unit for detecting camera shake. Information for detecting camera shake) is transmitted to the CPU 8 and a camera shake correction shooting mode determination circuit 23, which is a continuous shooting determination unit to be described later, to perform shooting control and camera shake correction processing.

【0020】図1に示す電子カメラでは、手ぶれ補正を
行わず一つ分の画像を取得する通常撮影モードと、手ぶ
れ補正を行うために複数の画像を取得する連写撮影モー
ドとを、入力キー20の操作あるいは手ぶれ検出センサ
22から検出される手ぶれ情報により手ぶれ補正撮影モ
ード判定回路23にて判定する。手ぶれ補正撮影モード
判定回路23では、入力キー20からの撮影モードに関
する情報及び手ぶれ検出センサ22からの手ぶれ情報に
基づき後述する手ぶれ補正のための連写撮影を行うか否
かを判断し、判定結果の出力として撮影モードを示す撮
影モード判定信号をCPU8に伝送する。そして選択さ
れた撮影モードに応じてCPU8により撮影動作を制御
する。
In the electronic camera shown in FIG. 1, a normal photographing mode for acquiring one image without performing camera shake correction and a continuous photographing mode for acquiring a plurality of images for performing camera shake correction are set by input keys. The camera shake correction shooting mode determination circuit 23 makes a determination based on the operation of the camera 20 or the camera shake information detected by the camera shake detection sensor 22. The camera shake correction shooting mode determination circuit 23 determines whether or not to perform continuous shooting for camera shake correction, which will be described later, based on information about the shooting mode from the input key 20 and camera shake information from the camera shake detection sensor 22. The CPU 8 transmits a photographing mode determination signal indicating the photographing mode to the CPU 8 as an output of. Then, the CPU 8 controls the photographing operation according to the selected photographing mode.

【0021】即ち、通常撮影モードが選択された場合に
は、通常の撮影動作によって一回の撮影でCCD撮像素
子1から一つ分の画像信号を得、連写撮影モードが選択
された場合には、CCD撮像素子1の電子シャッタ機
能、あるいはこの電子シャッタ機能と絞り・シャッタ機
構3との組み合わせ等による公知の方法で一回の撮影で
CCD撮像素子1から連写撮影により複数分(例えば四
つ分、等)の画像信号を得て、カメラ信号処理回路6に
おいて撮影モードに応じた画像データ処理を行う。手ぶ
れ補正撮影モード判定回路23により連写撮影モードと
設定される場合としては、入力キー20からの手動によ
る撮影モード設定の他に、手ぶれ検出センサ22からの
手ぶれ情報により手ぶれが大きい(例えば角速度が大き
い、等)と判断される場合等があげられる。
That is, when the normal photographing mode is selected, one image signal is obtained from the CCD image sensor 1 in one photographing operation by a normal photographing operation, and when the continuous photographing mode is selected. A plurality of images (for example, four shots) are taken from the CCD image pickup device 1 in a single shot by a known method using the electronic shutter function of the CCD image pickup device 1 or a combination of the electronic shutter function and the aperture / shutter mechanism 3. , Etc.), and the camera signal processing circuit 6 performs image data processing according to the shooting mode. In the case where the continuous shooting mode is set by the camera shake correction shooting mode determination circuit 23, in addition to the manual shooting mode setting from the input key 20, the camera shake is large due to the camera shake information from the camera shake detection sensor 22 (for example, when the angular velocity is large). Large, etc.).

【0022】次に、図2は、カメラ信号処理回路6内の
ブロック図の一例を示す図である。CPU8から伝送さ
れる撮影モード判定信号は第1スイッチ31及び第2ス
イッチ32を駆動する。撮影モードが通常撮影モードの
場合、A/D変換器5から第1スイッチ31に入る画像
信号は第2スイッチ32を経てカメラ信号処理プロセス
部39に伝送され、画像信号を画像として再現するため
の処理が施される。一方、撮影モードが連写撮影モード
の場合、A/D変換器5から第1スイッチ31に入る画
像信号(連写画像信号)は手ぶれ情報制御部たる連写撮
影画像記録制御部34に伝送される。
FIG. 2 is a block diagram showing an example of the camera signal processing circuit 6. As shown in FIG. The shooting mode determination signal transmitted from the CPU 8 drives the first switch 31 and the second switch 32. When the shooting mode is the normal shooting mode, the image signal input from the A / D converter 5 to the first switch 31 is transmitted to the camera signal processing unit 39 via the second switch 32, and is used to reproduce the image signal as an image. Processing is performed. On the other hand, when the shooting mode is the continuous shooting mode, an image signal (continuously shot image signal) input from the A / D converter 5 to the first switch 31 is transmitted to the continuously shot image recording control unit 34 which is a camera shake information control unit. You.

【0023】連写撮影画像記録制御部34では、入力さ
れる連写画像信号を連写撮影画像記憶バッファ33に記
憶させる。また、CPU8から伝送される手ぶれ情報を
示す信号は、手ぶれ情報制御部たる手ぶれ情報統合制御
部35に伝送される。手ぶれ情報統合制御部35では、
連写撮影画像記録制御部34において連写画像信号が入
力されたことを受け、連写画像の撮影タイミング時にお
ける手ぶれ情報を読み込み記憶するようになっている。
本実施形態では連写撮影画像を記憶する専用のバッファ
を設けているが、電子カメラに備え付けてあるDRAM
11を連写撮影画像記憶バッファ33の代用として用い
てもよい。
The continuous shot image recording control section 34 stores the input continuous shot image signal in the continuous shot image storage buffer 33. The signal indicating the camera shake information transmitted from the CPU 8 is transmitted to the camera shake information integrated control unit 35 which is a camera shake information control unit. In the camera shake information integrated control unit 35,
In response to the input of the continuous shot image signal in the continuous shot image recording control unit 34, the camera shake information at the time of shooting the continuous shot images is read and stored.
In the present embodiment, a dedicated buffer for storing continuously shot images is provided, but a DRAM provided in the electronic camera is provided.
11 may be used as a substitute for the continuously shot image storage buffer 33.

【0024】連写画像信号及び手ぶれ情報がすべて伝送
された後、連写撮影画像記録制御部34は連写撮影画像
記録バッファ33から連写画像信号を逐次読み出す。同
時に、手ぶれ情報統合制御部35からは連写撮影画像記
録バッファ33から読み出される連写画像信号の撮影タ
イミングに対応した手ぶれ情報を連写画像信号の読み出
しに合わせて逐次読み出す。
After the continuous shot image signal and the camera shake information are all transmitted, the continuous shot image recording control section 34 sequentially reads the continuous shot image signal from the continuous shot image recording buffer 33. At the same time, the camera shake information integrated control unit 35 sequentially reads out the camera shake information corresponding to the shooting timing of the continuous shot image signal read from the continuous shot image recording buffer 33 in accordance with the reading of the continuous shot image signal.

【0025】読み出された連写画像信号及びそれに対応
した手ぶれ情報は、手ぶれ補正部たる手ぶれ補正対象画
像選択部36に伝送され、手ぶれ補正の対象となる画像
を選択する。本実施形態では、連写画像群中で最初に撮
影された画像を手ぶれ補正の対象画像とする。これは、
シャッタレリーズを開始した瞬間の画像が、ユーザが本
来撮影すべきタイミングの画像であることが多いためで
ある。手ぶれ補正対象画像の選択はこれに限らず、例え
ば手ぶれ信号から判断して手ぶれが大きい(手ぶれが最
大である等の)画像を選択してもよい。またCPU8か
らユーザの指示に関する制御信号を手ぶれ補正対象画像
選択部36に伝送することでユーザが自ら補正を望む画
像を選択できるようにしてもよい。
The read continuous image signal and the corresponding camera shake information are transmitted to a camera shake correction target image selector 36 which is a camera shake corrector, and selects an image to be subjected to camera shake correction. In the present embodiment, an image captured first in a group of continuously shot images is set as a target image for camera shake correction. this is,
This is because the image at the moment when the shutter release is started is often the image at the timing at which the user should originally shoot. The selection of the camera shake correction target image is not limited to this, and for example, an image having a large camera shake (such as a maximum camera shake) determined from a camera shake signal may be selected. Further, a control signal relating to a user's instruction may be transmitted from the CPU 8 to the image-blur correction target image selection unit 36 so that the user can himself select an image desired to be corrected.

【0026】読み出された連写画像信号及びそれに対応
した手ぶれ情報は、さらに手ぶれ補正部たる手ぶれ補正
情報算出部37に伝送され、手ぶれ補正を行うための情
報を算出する。ここでは、手ぶれ補正対象画像選択部3
6から出力される手ぶれ補正対象画像信号も利用して、
例えば撮影画像中手ぶれが最小となる画像に基づき、こ
の画像からぶれ回復フィルタを構成する等により手ぶれ
補正情報を算出する。
The read continuous-shot image signal and the corresponding hand-shake information are further transmitted to a hand-shake correction information calculation unit 37 which is a hand-shake correction unit, and calculates information for performing a hand-shake correction. Here, the camera shake correction target image selection unit 3
6, using the image signal for image stabilization output from
For example, based on an image in which a camera shake is minimized in a captured image, camera shake correction information is calculated from this image by forming a shake recovery filter or the like.

【0027】手ぶれ補正対象画像選択部36で選択され
た手ぶれ補正対象画像信号及び手ぶれ補正情報算出部3
7で算出された手ぶれ補正情報は、手ぶれ補正部たる手
ぶれ補正処理部38に伝送される。手ぶれ補正処理部3
8では手ぶれ補正情報に基づき、手ぶれ補正対象画像の
手ぶれ部分を補正する処理を行う。例えば手ぶれ補正情
報として手ぶれ最小画像の回復フィルタが伝送される
と、手ぶれ補正対象画像信号に対して回復フィルタを基
にした画像復元アルゴリズムを適用する、等により手ぶ
れ補正処理を行う。
The image signal for camera shake correction selected by the image selection unit for camera shake correction 36 and the camera shake correction information calculation unit 3
The camera shake correction information calculated in step 7 is transmitted to a camera shake correction processing unit 38 which is a camera shake correction unit. Camera shake correction processing unit 3
In step 8, based on the camera shake correction information, processing for correcting the camera shake portion of the image to be corrected is performed. For example, when the restoration filter for the minimum image of the camera shake is transmitted as the camera shake correction information, the camera shake correction process is performed by applying an image restoration algorithm based on the restoration filter to the image signal to be corrected.

【0028】手ぶれ補正処理部38で手ぶれ補正された
手ぶれ補正対象画像信号は第2スイッチ32を経てカメ
ラ信号処理プロセス部39に伝送され、画像信号を画像
として再現するための処理が施される。画像として再現
された信号はバスライン9に伝送され、以後の処理を行
う。本実施形態では手ぶれ補正の後に画像再現のための
信号処理プロセスを組み入れているが、順序を逆にし
て、画像再現のための信号処理プロセスを行ってから手
ぶれ補正を行うようにしてもよい。
The image signal subjected to camera shake correction, which has been corrected by the camera shake correction processing unit 38, is transmitted to the camera signal processing unit 39 via the second switch 32, and is subjected to processing for reproducing the image signal as an image. The signal reproduced as an image is transmitted to the bus line 9 to perform the subsequent processing. In the present embodiment, the signal processing process for image reproduction is incorporated after the camera shake correction. However, the camera shake correction may be performed after performing the signal processing process for image reproduction in the reverse order.

【0029】次に、図3は、本実施形態における手ぶれ
補正処理アルゴリズムのフローの一例を示す図である。
ここで言う手ぶれ補正処理アルゴリズムは、連写撮影モ
ードの設定から手ぶれ補正済みの手ぶれ補正対象画像に
対する画像信号処理までを表す。
Next, FIG. 3 is a diagram showing an example of the flow of the camera shake correction processing algorithm in the present embodiment.
The camera shake correction processing algorithm referred to here indicates from setting of a continuous shooting mode to image signal processing of a camera shake correction target image after camera shake correction.

【0030】まず手ぶれ補正撮影モード判定回路23に
より連写撮影モードにする制御信号が出力されると、撮
影モードを連写撮影(手ぶれ補正)モードに設定する
(ステップS1)。次にシャッタレリーズが開始される
とシャッタが“開”状態になり連写撮影が開始される
(ステップS2)。シャッタが“開”状態の間、連写撮
影画像記録制御部34により、シャッタの制御タイミン
グに同期して連写撮影画像及び画像に対応した手ぶれ情
報を取得する(ステップS3)。そしてシャッタを
“閉”状態にして、連写撮影を終了する(ステップS
4)。
First, when a control signal for setting the continuous shooting mode is output from the camera shake correction shooting mode determination circuit 23, the shooting mode is set to the continuous shooting (camera shake correction) mode (step S1). Next, when the shutter release is started, the shutter is opened and the continuous shooting is started (step S2). While the shutter is in the "open" state, the continuously shot image recording control unit 34 acquires continuously shot images and hand shake information corresponding to the images in synchronization with the shutter control timing (step S3). Then, the shutter is set to the "closed" state to end the continuous shooting (step S).
4).

【0031】次に撮影された連写画像群に関して、手ぶ
れ補正対象画像選択部36において手ぶれ補正対象画像
として、連写画像群中最初に撮影された画像を選択する
(ステップS5)。その後手ぶれ補正情報算出部37に
おいて、手ぶれ補正情報の算出に用いる画像として、連
写画像群中手ぶれ情報が最小となる画像(手ぶれ最小画
像)を検出する(ステップS6)。ここで検出された手
ぶれ最小画像について、手ぶれ補正対象画像と比較を行
い(ステップS7)、両者が同一の画像である場合(Y
es)は、以後の手ぶれ補正に関する処理は行わずにス
テップS10にスキップする。両者が異なる場合(N
o)は、次のステップに進む。
Next, with respect to the group of continuously shot images, the first image in the group of continuously shot images is selected as the image to be corrected by the camera shake correction image selecting unit 36 (step S5). After that, the camera shake correction information calculation unit 37 detects an image (minimum camera shake image) in which the camera shake information in the continuous shot image group is the smallest as the image used for calculating the camera shake correction information (step S6). The detected camera shake minimum image is compared with the camera shake correction target image (step S7), and when both images are the same image (Y
In step es), the process skips to step S10 without performing the subsequent process relating to camera shake correction. If the two are different (N
o) goes to the next step.

【0032】次に手ぶれ補正情報算出部37において、
ステップS6で検出された手ぶれ最小画像から手ぶれ補
正情報を算出する(ステップS8)。その後算出された
手ぶれ補正情報を用いて、手ぶれ補正処理部38におい
て手ぶれ補正対象画像の手ぶれを補正する(ステップS
9)。そして手ぶれが補正された手ぶれ補正対象画像も
しくは手ぶれ最小画像であるため手ぶれ補正処理が行わ
れなかった手ぶれ補正対象画像は、カメラ信号処理プロ
セス部39において画像信号処理が実行される(ステッ
プS10)。
Next, in the camera shake correction information calculating section 37,
Camera shake correction information is calculated from the camera shake minimum image detected in step S6 (step S8). Thereafter, using the calculated camera shake correction information, the camera shake correction processor 38 corrects the camera shake of the image to be corrected (step S).
9). Then, the image signal processing is performed by the camera signal processing unit 39 on the image subjected to the camera shake correction which has not been subjected to the camera shake correction processing because it is the image subjected to the camera shake correction with the camera shake corrected or the image having the minimum camera shake (step S10).

【0033】次に、図4は、本実施形態における手ぶれ
補正処理の手順の一例を示す図である。手ぶれ補正によ
る連写撮影モードにおいて、時間に対する手ぶれ情報の
時間推移が図4の(a)のような場合、一定の短い時間
間隔でシャッタタイミングパルス(図4の(b))を発
生させて撮影することで、四つの画像からなる連写画像
群(図4の(c))が生成される。ここで本実施形態に
基づく手ぶれ補正処理を行うことを考えると、手ぶれ補
正対象画像として連写画像群中最初の画像(図4の(d
1))が選択される。また手ぶれ補正情報を算出するた
めの手ぶれ最小画像については、シャッタタイミングパ
ルス発生時における手ぶれ情報の大きさから、連写画像
群中最後の画像(図4の(d2))が選択される。そし
て手ぶれ補正対象画像信号と、手ぶれ最小画像から算出
される手ぶれ補正情報を表す信号により手ぶれ補正処理
(図4の(e))が行われ、最終的に連写画像群中最初
の画像に関する手ぶれ補正画像が生成される(図4の
(f))。
Next, FIG. 4 is a diagram showing an example of the procedure of the camera shake correction processing in this embodiment. In the continuous shooting mode by the camera shake correction, when the time transition of the camera shake information with respect to time is as shown in FIG. 4A, the shutter timing pulse (FIG. 4B) is generated at a fixed short time interval. By doing so, a continuously shot image group ((c) in FIG. 4) including four images is generated. Here, considering that the camera shake correction processing based on the present embodiment is performed, the first image ((d in FIG.
1)) is selected. In addition, as for the camera shake minimum image for calculating the camera shake correction information, the last image ((d2) in FIG. 4) in the continuous shot image group is selected based on the size of the camera shake information when the shutter timing pulse is generated. Then, a camera shake correction process ((e) in FIG. 4) is performed using a signal representing the camera shake correction information calculated from the camera shake correction target image signal and the camera shake minimum image, and finally the camera shake relating to the first image in the continuous shot image group. A corrected image is generated ((f) in FIG. 4).

【0034】本実施形態で用いる手ぶれ補正方法として
は、連写画像(即ち同一のシーン)中で手ぶれが最小と
なる画像から回復フィルタを生成し、これを基に補正対
象となる手ぶれ画像に対して復元処理を行うことで実現
可能である。回復フィルタの生成方法として、例えば手
ぶれ最小画像と手ぶれ補正対象画像間で画像の位置が一
致するよう補正(MPEG等で用いられる動きベクトル
補正)を行った後、両者の画像の相関を基に生成する方
法や、手ぶれ部分に関する両者の点広がり関数(PS
F)を算出した後、手ぶれ最小画像のPSFを手ぶれ補
正対象画像のPSFに置き換えることで生成する(局所
部のみの処理を行うことで手ぶれ部分のPSFをキャン
セルする)方法、等があるが、回復フィルタの生成方法
については特に限定せず、他の一般的な方法を取り入れ
ることも可能である。
As a camera shake correction method used in the present embodiment, a recovery filter is generated from an image having a minimum camera shake in a continuous shot image (that is, the same scene), and a camera shake image to be corrected is generated based on the recovery filter. This can be realized by performing a restoration process. As a method of generating the restoration filter, for example, after performing correction (motion vector correction used in MPEG or the like) so that the image position is the same between the minimum image and the image to be corrected, generation is performed based on the correlation between the two images. And the point spread function (PS
After calculating F), there is a method of generating by replacing the PSF of the image with the minimum camera shake with the PSF of the image to be shake-corrected (cancelling the PSF of the camera-shake part by performing only the processing of the local part), and the like. The method of generating the recovery filter is not particularly limited, and other general methods can be adopted.

【0035】以上、本実施形態では、電子カメラの手ぶ
れの状態から手ぶれ補正を行うための連写撮影モードを
設定し、手ぶれがある状態で連写撮影して同一シーンに
関する複数の画像及び画像に対応した手ぶれ情報を取得
して、それらから手ぶれを補正する対象の画像を選択す
ると同時に手ぶれを補正するための手ぶれ補正情報を算
出する。そして手ぶれ補正情報に基づいて手ぶれ補正対
象の画像に対して手ぶれ補正処理を行った画像を生成す
るので、結果として手ぶれの影響を抑えた画像を生成す
ることができる。
As described above, in the present embodiment, the continuous shooting mode for performing the camera shake correction from the camera shake state of the electronic camera is set, and the continuous shooting is performed with the camera shake, and a plurality of images and images related to the same scene are obtained. The camera shake information corresponding to the camera shake information is acquired, and the camera shake correction information for correcting the camera shake is calculated at the same time as selecting the image for which the camera shake is to be corrected. Then, an image obtained by performing a camera shake correction process on the image to be corrected based on the camera shake correction information is generated. As a result, an image in which the influence of the camera shake is suppressed can be generated.

【0036】また、手ぶれ補正の対象画像は連写撮影さ
れた複数の画像中から最初の画像、即ちユーザがシャッ
タレリーズを開始した直後の本来撮るべきシーンの画像
を選択することで、撮影者の意図するシーンにおいて手
ぶれ補正がなされた画像を再現することができる。さら
に手ぶれ補正情報の算出には連写撮影された複数の画像
中から手ぶれが最小である画像を用いることで、同一シ
ーンに関して信頼性の高い補正情報を生成することがで
きる。従って、たとえ手ぶれがあってもユーザが撮影し
ようとしたシーンに対して手ぶれの影響が抑えられた画
像を提供することができる。
The image to be subjected to camera shake correction is selected from among a plurality of continuously shot images, that is, the first image, that is, the image of the scene to be originally shot immediately after the user starts the shutter release. It is possible to reproduce an image subjected to camera shake correction in an intended scene. Furthermore, by using the image with the least camera shake among a plurality of images shot continuously for calculating the camera shake correction information, highly reliable correction information can be generated for the same scene. Therefore, even if there is a camera shake, it is possible to provide an image in which the influence of the camera shake is suppressed for the scene that the user tried to shoot.

【0037】他の実施形態としては、前述した手ぶれ補
正処理の動作を実行するためのプログラムを記録媒体に
記録しておき、画像処理装置を含む撮像装置には記録媒
体のドライバを付設して、記録媒体に記録されているプ
ログラムをドライバを介して撮像装置本体(電子カメ
ラ)のCPU8で読み取って実行するようにすることも
できる。
In another embodiment, a program for executing the operation of the above-described camera shake correction processing is recorded on a recording medium, and an image pickup apparatus including an image processing apparatus is provided with a driver for the recording medium. The program recorded in the recording medium may be read and executed by the CPU 8 of the imaging apparatus main body (electronic camera) via the driver.

【0038】[0038]

【発明の効果】請求項1に記載の発明によれば、連写撮
影部にて連写撮影される同一シーンの複数の画像及び手
ぶれ検出部から検出される手ぶれ情報から手ぶれ補正部
において補正対象となる少なくとも一つ以上の画像に対
して手ぶれ補正を行う。即ち、補正対象画像と同一シー
ンである複数の画像から補正対象画像の手ぶれ部分を補
正するための情報を算出して手ぶれの補正を行うので、
手ぶれ補正を高速にかつ高い精度で行いながら撮影者が
意図したシーンを撮影することができる。
According to the first aspect of the present invention, a plurality of images of the same scene continuously photographed by the continuous photographing unit and a camera shake correction unit based on the camera shake information detected by the camera shake detecting unit. Is performed on at least one image. That is, since the camera shake correction is performed by calculating information for correcting the camera shake portion of the correction target image from a plurality of images that are the same scene as the correction target image,
A scene intended by the photographer can be photographed while performing camera shake correction at high speed and with high accuracy.

【0039】また、請求項2に記載の発明によれば、請
求項1と同等の効果を奏すると共に、連写撮影判定部に
おいて手ぶれ検出部からの情報に基づき連写撮影を行う
か否かを判定するので、手ぶれの状況に応じて連写撮影
への切替を自動的に行うことができ、手ぶれ補正が必要
な場合にのみ手ぶれ補正を行うように撮影を制御するこ
とができる。
According to the second aspect of the present invention, the same effects as those of the first aspect are obtained, and the continuous shooting determination section determines whether or not to perform continuous shooting based on information from the camera shake detection section. Since the determination is made, it is possible to automatically switch to continuous shooting in accordance with the state of camera shake, and it is possible to control shooting so that camera shake correction is performed only when camera shake correction is necessary.

【0040】また、請求項3に記載の発明によれば、請
求項1と同等の効果を奏すると共に、連写撮影された画
像に対応させるように手ぶれ情報を検出する、処理す
る、記憶させる等の制御を行うので、撮影画像と手ぶれ
情報の関係を適切にすることができ、以後の手ぶれ補正
処理を適切に行うことができる。
According to the third aspect of the present invention, the same effects as those of the first aspect are obtained, and the camera shake information is detected, processed, stored, etc. so as to correspond to the continuously shot image. Is performed, the relationship between the captured image and the camera shake information can be made appropriate, and the subsequent camera shake correction processing can be appropriately performed.

【0041】また、請求項4に記載の発明によれば、請
求項1〜請求項3のいずれかと同等の効果を奏すると共
に、連写撮影された複数の画像のうち最初に撮影された
画像に対して手ぶれ補正を行うので、シャッタレリーズ
直後のタイミングに対応したシーンに対して適切に手ぶ
れ補正を行うことができる。
According to the fourth aspect of the present invention, the same effects as those of any one of the first to third aspects can be obtained, and the first image among a plurality of continuously shot images can be obtained. Since the camera shake correction is performed for the scene, the camera shake correction can be appropriately performed on the scene corresponding to the timing immediately after the shutter release.

【0042】また、請求項5に記載の発明によれば、請
求項1〜請求項3のいずれかと同等の効果を奏すると共
に、手ぶれ補正部において複数の画像のうち手ぶれ情報
が最小である画像からの情報に基づいて手ぶれ補正を行
うので、信頼性の高い補正情報を手ぶれ補正部に与える
ことができる。
According to the fifth aspect of the present invention, the same effect as any one of the first to third aspects can be obtained, and the image blur correction unit can reduce the number of images having the minimum image blur information among the plurality of images. Is performed based on this information, highly reliable correction information can be provided to the camera shake correction unit.

【0043】また、請求項6に記載の発明によれば、撮
影画像の手ぶれを補正する処理を制御するためのコンピ
ュータにおいて、連写撮影を行う機能によって撮影され
た同一シーンの複数の画像及び手ぶれを検出する機能に
よって検出される手ぶれ情報から手ぶれを補正する機能
によって補正対象となる少なくとも一つ以上の画像に対
して手ぶれ補正を行うよう実現する画像処理プログラム
を記録した記録媒体である。即ち、補正対象画像と同一
シーンである複数の画像から補正対象画像の手ぶれ部分
を補正するための情報を算出して手ぶれの補正を行うの
で、手ぶれ補正を高速にかつ高い精度で行いながら撮影
者が意図したシーンを撮影することができる。
According to the sixth aspect of the present invention, in a computer for controlling a process of correcting a camera shake of a photographed image, a plurality of images of the same scene photographed by a function of performing continuous photographing and a camera shake are provided. A recording medium that stores an image processing program for realizing camera shake correction on at least one or more images to be corrected by a function for correcting camera shake from camera shake information detected by a function for detecting image blur. That is, since information for correcting the camera shake portion of the correction target image is calculated from a plurality of images that are the same scene as the correction target image and the camera shake is corrected, the photographer can perform the camera shake correction at high speed and with high accuracy. Can shoot the intended scene.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明に係る画像処理装置としての電子カメラ
の基本的構成を示すブロック図である。
FIG. 1 is a block diagram showing a basic configuration of an electronic camera as an image processing device according to the present invention.

【図2】カメラ信号処理回路6内のブロック図の一例を
示す図である。
FIG. 2 is a diagram showing an example of a block diagram in a camera signal processing circuit 6.

【図3】本実施形態における手ぶれ補正処理アルゴリズ
ムのフローの一例を示す図である。
FIG. 3 is a diagram illustrating an example of a flow of a camera shake correction processing algorithm according to the present embodiment.

【図4】本実施形態における手ぶれ補正処理の手順の一
例を示す図である。
FIG. 4 is a diagram illustrating an example of a procedure of a camera shake correction process according to the embodiment.

【符号の説明】[Explanation of symbols]

1 CCD撮像素子 2 レンズ 3 絞り・シャッタ機構 4 アンプ 5 A/D変換器 6 カメラ信号処理回路 7 AF,AE,AWB検波回路 8 CPU 9 バスライン 10 メモリコントローラ 11 DRAM 12 圧縮回路 13 メモリカード 14 メモリカードI/F 15 表示回路 16 液晶表示素子(LCD) 17 パソコン(PC) 18 PCI/F 19 ストロボ装置 20 入力キー 21 タイミングジェネレータ(TG) 22 手ぶれ検出センサ 23 手ぶれ補正撮影モード判定回路 31 第1スイッチ 32 第2スイッチ 33 連写撮影画像記録バッファ 34 連写撮影画像記録制御部 35 手ぶれ情報統合制御部 36 手ぶれ補正対象画像選択部 37 手ぶれ補正情報算出部 38 手ぶれ補正処理部 39 カメラ信号処理プロセス部 DESCRIPTION OF SYMBOLS 1 CCD imaging element 2 Lens 3 Aperture / shutter mechanism 4 Amplifier 5 A / D converter 6 Camera signal processing circuit 7 AF, AE, AWB detection circuit 8 CPU 9 Bus line 10 Memory controller 11 DRAM 12 Compression circuit 13 Memory card 14 Memory Card I / F 15 Display circuit 16 Liquid crystal display element (LCD) 17 Personal computer (PC) 18 PCI / F 19 Strobe device 20 Input key 21 Timing generator (TG) 22 Camera shake detection sensor 23 Camera shake correction shooting mode determination circuit 31 First switch 32 second switch 33 continuous shooting image recording buffer 34 continuous shooting image recording control unit 35 camera shake information integration control unit 36 image stabilization target image selection unit 37 camera shake correction information calculation unit 38 camera shake correction processing unit 39 camera signal processing unit

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 撮像装置により撮影された画像の手ぶれ
を補正する画像処理装置において、 所定の時間間隔で連続的に被写体を撮影して複数の画像
を取得する連写撮影部と、 上記連続的な撮影のタイミングに従って、上記撮像装置
の手ぶれに関する手ぶれ情報を検出する手ぶれ検出部
と、 前記手ぶれ検出部により検出された手ぶれ情報と、前記
連写撮影部により得られた複数の画像とに基づき、前記
複数の画像のうち少なくとも一つ以上の画像について当
該画像が有する手ぶれを補正する手ぶれ補正部と、 を具備することを特徴とする画像処理装置。
An image processing apparatus for correcting a camera shake of an image captured by an image capturing apparatus, comprising: a continuous shooting section configured to continuously capture an image of a subject at predetermined time intervals to obtain a plurality of images; In accordance with the timing of the appropriate shooting, a camera shake detection unit that detects camera shake information regarding camera shake of the imaging device, based on the camera shake information detected by the camera shake detection unit, and a plurality of images obtained by the continuous shooting unit, An image processing apparatus, comprising: a camera shake correction unit that corrects a camera shake of at least one image among the plurality of images.
【請求項2】 前記手ぶれ検出部により検出された前記
手ぶれ情報に基づき、前記連写撮影部による連写撮影を
行うか否かを決定する連写撮影判定部をさらに有するこ
とを特徴とする請求項1に記載の画像処理装置。
2. The apparatus according to claim 1, further comprising a continuous shooting determination unit that determines whether to perform continuous shooting by the continuous shooting unit based on the camera shake information detected by the camera shake detection unit. Item 2. The image processing device according to Item 1.
【請求項3】 前記連写撮影部により撮影された前記複
数の画像に対応させて前記手ぶれ情報を検出して処理を
行うように制御する手ぶれ情報制御部をさらに有するこ
とを特徴とする請求項1に記載の画像処理装置。
3. The apparatus according to claim 1, further comprising a camera shake information control unit that controls the camera shake information to be detected and processed in correspondence with the plurality of images shot by the continuous shooting unit. 2. The image processing device according to 1.
【請求項4】 前記手ぶれ補正部で補正を行う画像は、
前記連写撮影部によって撮影された前記複数の画像のう
ち最初に撮影された画像であることを特徴とする請求項
1〜3のいずれか1つに記載の画像処理装置。
4. An image to be corrected by the camera shake correction unit,
The image processing apparatus according to any one of claims 1 to 3, wherein the image is a first image captured among the plurality of images captured by the continuous shooting unit.
【請求項5】 前記手ぶれ補正部は、前記複数の画像の
うち手ぶれが最小であると判断された画像に関する情報
を用いて補正対象画像の手ぶれを補正することを特徴と
する請求項1〜請求項3のいずれか1つに記載の画像処
理装置。
5. The image stabilization unit according to claim 1, wherein the image stabilization unit corrects the image stabilization of the image to be corrected using information on an image determined to have a minimum image stabilization among the plurality of images. Item 4. The image processing device according to any one of Items 3.
【請求項6】 撮像装置により撮影された画像の手ぶれ
を補正する処理をコンピュータに実行させる命令を含む
プログラムを格納した、コンピュータが読み取り可能な
記録媒体であって、上記手ぶれを補正する処理は、 所定の時間間隔で連続的に被写体を撮影して複数の画像
を取得する連写撮影工程と、 上記連続的な撮影のタイミングに従って、上記撮像装置
の手ぶれに関する手ぶれ情報を検出する手ぶれ検出工程
と、 前記手ぶれ検出工程で検出された各画像に対応する手ぶ
れ情報と、前記連写撮影工程で得られた前記複数の画像
とに基づき、前記複数の画像のうち少なくとも一つ以上
の画像について当該画像が有する手ぶれ部分を補正する
手ぶれ補正工程と、 を具備することを特徴とする記録媒体。
6. A computer-readable recording medium storing a program including an instruction for causing a computer to execute a process of correcting a camera shake of an image captured by an imaging device, wherein the process of correcting the camera shake includes: A continuous shooting step of continuously photographing a subject at a predetermined time interval to obtain a plurality of images, and a camera shake detection step of detecting camera shake information regarding camera shake of the imaging apparatus according to the timing of the continuous shooting, Based on the camera shake information corresponding to each image detected in the camera shake detection step and the plurality of images obtained in the continuous shooting step, at least one image of the plurality of images is A camera shake correction step of correcting a camera shake portion of the recording medium.
JP2001037355A 2001-02-14 2001-02-14 Image processing apparatus and recording medium storing image processing program Expired - Fee Related JP4468598B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001037355A JP4468598B2 (en) 2001-02-14 2001-02-14 Image processing apparatus and recording medium storing image processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001037355A JP4468598B2 (en) 2001-02-14 2001-02-14 Image processing apparatus and recording medium storing image processing program

Publications (3)

Publication Number Publication Date
JP2002247444A true JP2002247444A (en) 2002-08-30
JP2002247444A5 JP2002247444A5 (en) 2008-04-24
JP4468598B2 JP4468598B2 (en) 2010-05-26

Family

ID=18900495

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001037355A Expired - Fee Related JP4468598B2 (en) 2001-02-14 2001-02-14 Image processing apparatus and recording medium storing image processing program

Country Status (1)

Country Link
JP (1) JP4468598B2 (en)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009118434A (en) * 2007-11-09 2009-05-28 Sanyo Electric Co Ltd Blurring correction device and imaging apparatus
JP2009153046A (en) * 2007-12-21 2009-07-09 Sanyo Electric Co Ltd Blur correcting device and method, and imaging apparatus
US7652689B2 (en) 2004-09-30 2010-01-26 Mitsubishi Electric Corporation Picture taking device and picture restoration method
US7680402B2 (en) 2006-04-18 2010-03-16 Fujitsu Limited Image shooting device with camera shake correction function
JP2010525470A (en) * 2007-04-24 2010-07-22 テセラ・テクノロジーズ・ハンガリー・ケイエフティー A technique for adjusting effects that apply a kernel to a signal to achieve the desired effect on the signal
US7995852B2 (en) 2004-11-29 2011-08-09 Fujifilm Corporation Imaging device and imaging method
WO2011155429A1 (en) * 2010-06-07 2011-12-15 オリンパスメディカルシステムズ株式会社 Signal processing device and still image generation method
JP2012004939A (en) * 2010-06-18 2012-01-05 Fujifilm Corp Target image generation system, operation control method thereof and operation control program therefor
US20140078319A1 (en) * 2007-02-22 2014-03-20 Panasonic Corporation Imaging apparatus
JP2015019327A (en) * 2013-07-12 2015-01-29 富士通株式会社 Information processing apparatus, program, and method
US10880483B2 (en) 2004-03-25 2020-12-29 Clear Imaging Research, Llc Method and apparatus to correct blur in all or part of an image

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11812148B2 (en) 2004-03-25 2023-11-07 Clear Imaging Research, Llc Method and apparatus for capturing digital video
US11490015B2 (en) 2004-03-25 2022-11-01 Clear Imaging Research, Llc Method and apparatus for capturing digital video
US11165961B2 (en) 2004-03-25 2021-11-02 Clear Imaging Research, Llc Method and apparatus for capturing digital video
US10880483B2 (en) 2004-03-25 2020-12-29 Clear Imaging Research, Llc Method and apparatus to correct blur in all or part of an image
US11627254B2 (en) 2004-03-25 2023-04-11 Clear Imaging Research, Llc Method and apparatus for capturing digital video
US11627391B2 (en) 2004-03-25 2023-04-11 Clear Imaging Research, Llc Method and apparatus for capturing digital video
US11595583B2 (en) 2004-03-25 2023-02-28 Clear Imaging Research, Llc Method and apparatus for capturing digital video
US11924551B2 (en) 2004-03-25 2024-03-05 Clear Imaging Research, Llc Method and apparatus for correcting blur in all or part of an image
US11589138B2 (en) 2004-03-25 2023-02-21 Clear Imaging Research, Llc Method and apparatus for using motion information and image data to correct blurred images
US11457149B2 (en) 2004-03-25 2022-09-27 Clear Imaging Research, Llc Method and apparatus for capturing digital video
US11800228B2 (en) 2004-03-25 2023-10-24 Clear Imaging Research, Llc Method and apparatus for capturing digital video
US7652689B2 (en) 2004-09-30 2010-01-26 Mitsubishi Electric Corporation Picture taking device and picture restoration method
US7995852B2 (en) 2004-11-29 2011-08-09 Fujifilm Corporation Imaging device and imaging method
US7680402B2 (en) 2006-04-18 2010-03-16 Fujitsu Limited Image shooting device with camera shake correction function
US20140078319A1 (en) * 2007-02-22 2014-03-20 Panasonic Corporation Imaging apparatus
JP2010525470A (en) * 2007-04-24 2010-07-22 テセラ・テクノロジーズ・ハンガリー・ケイエフティー A technique for adjusting effects that apply a kernel to a signal to achieve the desired effect on the signal
US8306348B2 (en) 2007-04-24 2012-11-06 DigitalOptics Corporation Europe Limited Techniques for adjusting the effect of applying kernels to signals to achieve desired effect on signal
JP2009118434A (en) * 2007-11-09 2009-05-28 Sanyo Electric Co Ltd Blurring correction device and imaging apparatus
JP2009153046A (en) * 2007-12-21 2009-07-09 Sanyo Electric Co Ltd Blur correcting device and method, and imaging apparatus
WO2011155429A1 (en) * 2010-06-07 2011-12-15 オリンパスメディカルシステムズ株式会社 Signal processing device and still image generation method
US8548235B2 (en) 2010-06-07 2013-10-01 Olympus Medical Systems Corp. Signal processing apparatus and still image generation method
JP5123443B2 (en) * 2010-06-07 2013-01-23 オリンパスメディカルシステムズ株式会社 Signal processing apparatus and still image generation method
JP2012004939A (en) * 2010-06-18 2012-01-05 Fujifilm Corp Target image generation system, operation control method thereof and operation control program therefor
JP2015019327A (en) * 2013-07-12 2015-01-29 富士通株式会社 Information processing apparatus, program, and method

Also Published As

Publication number Publication date
JP4468598B2 (en) 2010-05-26

Similar Documents

Publication Publication Date Title
US8345938B2 (en) Image taking apparatus and image taking method
US7817186B2 (en) Camera and image processing method for synthesizing plural images forming one image group to generate a synthesized image
JP2008288975A (en) Imaging apparatus, imaging method and imaging program
KR20090071471A (en) Imaging device and its shutter drive mode selection method
JP2001111934A (en) Electronic camera system
WO2006030819A1 (en) Imaging device having function for correcting image shake of acquired image
JP4076148B2 (en) Digital camera
JP2008035167A (en) Imaging apparatus
JP5158409B2 (en) Imaging apparatus and program thereof
JP5434038B2 (en) Imaging device
JP4468598B2 (en) Image processing apparatus and recording medium storing image processing program
JP2006067452A (en) Video recording apparatus, and electronic camera
JP2013110754A (en) Camera device, and photographing method and program of the same
JP2010193324A (en) Camera apparatus, photographing method thereof and program
JP4942572B2 (en) Image adding apparatus and method, and program
US11722788B2 (en) Image processing apparatus and method, and image capturing apparatus
JP4753856B2 (en) Motion detection apparatus and method, and imaging apparatus
JP2006324788A (en) Apparatus and method for processing video signal
JP2005039530A (en) Imaging apparatus
JP2009153046A (en) Blur correcting device and method, and imaging apparatus
JP5012656B2 (en) Image processing apparatus, imaging apparatus, image processing method, and program
JP2009100273A (en) Camera
JPH11224324A (en) Image signal processing method and device
JP5301690B2 (en) Imaging apparatus, method, and program
JP2007221710A (en) Image processing apparatus, photographing apparatus, image processing method and control program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080306

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100114

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100202

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100225

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130305

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140305

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees