JP2007013269A - Imaging apparatus - Google Patents
Imaging apparatus Download PDFInfo
- Publication number
- JP2007013269A JP2007013269A JP2005187903A JP2005187903A JP2007013269A JP 2007013269 A JP2007013269 A JP 2007013269A JP 2005187903 A JP2005187903 A JP 2005187903A JP 2005187903 A JP2005187903 A JP 2005187903A JP 2007013269 A JP2007013269 A JP 2007013269A
- Authority
- JP
- Japan
- Prior art keywords
- image
- frames
- unit
- shooting
- setting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
Description
本発明は、電子的に被写体の像を記録する撮像装置に関するものである。 The present invention relates to an imaging apparatus that electronically records an image of a subject.
露光量不足に起因するノイズを低減させる技術として、例えば、特開平10−174000号公報(特許文献1)に開示されている技術がある。この特許文献1には、AGC(Automatic Gain Control)のゲインアップにより適正な明るさを得て撮影を行う発明が開示されている。また、上記特許文献1に開示の発明では、被写体が暗く、AGCのゲインアップによっても適正な明るさが得られない場合には、シャッタ速を長くして長時間露光にすることにより、ノイズの低減を図っている。
また、複数枚の画像を使用してノイズの低減を実現するような技術として、例えば、国際公開第97/05745号パンフレット(特許文献2)に開示されている発明がある。この特許文献2には、撮像された複数枚のビデオデータを圧縮符号化するビットレートエンコーダに、ランダムノイズを除去するフィルタ回路を設けることにより、撮像されたビデオデータのゲインアップに連動して、フィルタリング特性をアップさせ、ランダムノイズを低減させる技術が開示されている。MPEGのようなビデオデータの場合は、圧縮符号化回路の中に適応フィルタを加えたり、または、フィルタリング処理やノイズ除去処理をするような回路を、圧縮符号化回路の前処理の回路としてつなぐことでノイズを除去することが可能である。
As a technique for reducing noise caused by insufficient exposure, for example, there is a technique disclosed in Japanese Patent Laid-Open No. 10-174000 (Patent Document 1). Japanese Patent Application Laid-Open No. H10-228561 discloses an invention for obtaining an image with appropriate brightness by increasing the gain of AGC (Automatic Gain Control). Further, in the invention disclosed in Patent Document 1, when the subject is dark and proper brightness cannot be obtained even by increasing the AGC gain, the shutter speed is increased and long exposure is performed. We are trying to reduce it.
Further, as a technique for realizing noise reduction using a plurality of images, there is an invention disclosed in, for example, International Publication No. 97/05745 (Patent Document 2). In this patent document 2, by providing a filter circuit for removing random noise in a bit rate encoder that compresses and encodes a plurality of captured video data, in conjunction with increasing the gain of the captured video data, A technique for improving filtering characteristics and reducing random noise is disclosed. In the case of video data such as MPEG, an adaptive filter is added to the compression coding circuit, or a circuit that performs filtering processing and noise removal processing is connected as a preprocessing circuit for the compression coding circuit. It is possible to remove noise.
また、例えば、特開2001−008087号公報(特許文献3)には、複数枚の画像を取り扱う発明が開示されている。上記特許文献3に開示されている発明は、シャッタ速度、フォーカス位置、露光を適正に変化させ、複数枚のフレームを撮影するブラケット撮影の一種を実現させるものであり、撮影時の状況に応じて、一枚撮影と連写撮影とを適応的に切り換えることにより、使用者に負担をかけることなく撮影時のミスを低減できるようにしている。 Further, for example, Japanese Patent Laid-Open No. 2001-008087 (Patent Document 3) discloses an invention that handles a plurality of images. The invention disclosed in Patent Document 3 realizes a kind of bracket photography in which a plurality of frames are photographed by appropriately changing the shutter speed, focus position, and exposure, depending on the situation at the time of photographing. In addition, by adaptively switching between single shooting and continuous shooting, mistakes during shooting can be reduced without placing a burden on the user.
更に、複数枚の画像から高品位な画像を生成する技術も提案されている。例えば、特許第2828138号公報(特許文献4)には、位置ずれを持つ複数枚の低解像度画像を用いて、高解像度画像を生成するという方法が開示されている。
また、画素混合読み出しにより高品位な画像を生成する技術が提案されており、例えば特開2000−253415号公報(特許文献5)には、露光時間が所定の時間よりも長い場合に、CCDの複数の画素から読み出される電荷を混合して、低ノイズの画像を生成するという方法が開示されている。
Furthermore, a technique for generating a high-quality image from a plurality of images has been proposed. For example, Japanese Patent No. 28828138 (Patent Document 4) discloses a method of generating a high-resolution image using a plurality of low-resolution images having positional deviation.
In addition, a technique for generating a high-quality image by pixel mixed readout has been proposed. For example, Japanese Patent Laid-Open No. 2000-253415 (Patent Document 5) discloses that a CCD has an exposure time longer than a predetermined time. A method is disclosed in which charges read from a plurality of pixels are mixed to generate a low noise image.
上記特許文献3に開示されている発明では、撮影条件や、撮影条件を求める過程の情報に基づいて連写を行うか否かの判断を行う。しかしながら、この発明では、連写撮影時の連写枚数が撮影条件に対して固定的に定められてしまい、連写枚数の最適化については考慮されていなかった。また、CCDの複数の画素から読み出される電荷を混合する際に撮影の状況が充分に考慮されていない。このため、撮影状況に応じて高画質の画像を得るには不十分である。
また、上記特許文献4、並びに特許文献5に開示されている発明によれば、高画質化を行うことができるが、高画質化の具体的処理内容に撮影の状況との関連性が充分に考慮されていないため、撮影状況に応じて高画質の画像を得ることができないという問題があった。
In the invention disclosed in Patent Document 3, it is determined whether or not to perform continuous shooting based on shooting conditions and information on a process for obtaining shooting conditions. However, in the present invention, the number of continuous shots at the time of continuous shooting is fixedly determined with respect to shooting conditions, and optimization of the number of continuous shots is not considered. In addition, when the charges read from the plurality of pixels of the CCD are mixed, the shooting situation is not fully considered. For this reason, it is insufficient to obtain a high-quality image according to the shooting situation.
In addition, according to the inventions disclosed in Patent Document 4 and
本発明は、このような事情に鑑みてなされたものであって、高画質化を図ることのできる撮像装置を提供することを目的とする。 The present invention has been made in view of such circumstances, and an object of the present invention is to provide an imaging apparatus capable of achieving high image quality.
上記課題を解決するために、本発明は以下の手段を採用する。
本発明は、被写体を撮影して、該被写体の像を電子的に記録する撮像装置において、撮影の条件を定める撮影パラメータを設定する撮影パラメータ設定手段と、撮影画像のフレーム数を、前記撮影パラメータに応じた数に設定するフレーム数設定手段と、前記被写体を連続的に撮影することにより、前記フレーム数の撮影画像を取得する撮像手段とを具備する撮像装置を提供する。
In order to solve the above problems, the present invention employs the following means.
The present invention provides an imaging apparatus that captures an image of an object and electronically records an image of the object, an imaging parameter setting unit that sets imaging parameters that determine imaging conditions, and the number of frames of the captured image. There is provided an imaging apparatus comprising: a frame number setting unit that sets a number corresponding to the number of frames; and an imaging unit that acquires a captured image of the number of frames by continuously shooting the subject.
この発明によれば、撮影パラメータ設定手段にて、撮影の条件を定める撮影パラメータが設定され、フレーム数設定手段にて、該撮影パラメータ設定手段により設定された撮影パラメータに応じた数に撮影画像のフレーム数が設定される。そして、撮像手段にて、被写体が連続的に撮影されることにより、撮影パラメータに応じたフレーム数の撮影画像が取得されることとなる。
このように、撮影状況に応じた枚数の撮影画像を得ることができるので、これら撮影画像を用いて適切な画像処理(例えば、超解像処理等)を実施することにより、高画質及び低ノイズの画像を得ることが可能となる。
According to the present invention, the shooting parameter setting means sets shooting parameters for determining shooting conditions, and the frame number setting means sets the number of shot images to the number according to the shooting parameters set by the shooting parameter setting means. The number of frames is set. Then, when the subject is continuously photographed by the imaging means, a photographed image having the number of frames corresponding to the photographing parameters is acquired.
As described above, since the number of captured images corresponding to the shooting situation can be obtained, by performing appropriate image processing (for example, super-resolution processing) using these captured images, high image quality and low noise can be obtained. Images can be obtained.
上記撮影パラメータ設定手段は、例えば、図1に示される撮像条件設定部120に該当する。フレーム数設定手段は、例えば、図1に示される連写判定部121に該当する。撮像手段は、連写を可能とする連写機能を備えており、例えば、図1に示される撮像部50及びこの撮像部を制御する撮像制御部110に該当する。撮像部50は、例えば、絞り101を内包するレンズ系100、分光ハーフミラー系102、シャッタ103、ローパスフィルタ104、CCD撮像素子105、A/D変換回路106等を備えている。なお、上記具体的構成は、一例であり、本発明の各構成要素は後述の実施形態に係る構成要素に限定されない。
The imaging parameter setting means corresponds to, for example, the imaging
本発明の撮像装置は、前記撮影パラメータから露光量を算出する露光量算出手段を備え、前記フレーム数設定手段は、前記露光量が予め設定されている第1閾値より小さい場合に、前記露光量に応じたフレーム数を設定することが好ましい。 The imaging apparatus according to the present invention further includes an exposure amount calculation unit that calculates an exposure amount from the shooting parameter, and the frame number setting unit includes the exposure amount when the exposure amount is smaller than a preset first threshold value. It is preferable to set the number of frames according to the above.
このような構成によれば、露光量算出手段により露光量が算出され、この露光量が予め設定されている第1閾値より小さい場合には、フレーム数設定手段により、該露光量に応じたフレーム数が設定される。これにより、露光量に応じた枚数の撮影画像を取得することが可能となる。この結果、低ノイズ化及び高画質化を達成するために好適な枚数の撮影画像を得ることが可能となるので、これら撮影画像を用いて適切な画像処理を実施することにより、高画質及び低ノイズの画像を得ることができる。 According to such a configuration, the exposure amount is calculated by the exposure amount calculation unit, and when the exposure amount is smaller than the preset first threshold, the frame number setting unit sets the frame corresponding to the exposure amount. Number is set. Thereby, it becomes possible to acquire the number of captured images corresponding to the exposure amount. As a result, it is possible to obtain a suitable number of photographed images to achieve low noise and high image quality. By performing appropriate image processing using these photographed images, high image quality and low image quality can be obtained. A noise image can be obtained.
上記露光量は、例えば、シャッタ速度と被写体の照度とから算出することが可能である。具体的には、露光量Hmは、被写体の照度とシャッタ速度(=露出時間)の積にて算出することが可能である。また、フレーム数は、例えば、露光量が減少するにつれて、段階的に増加するように設定される。
上記露光量算出手段は、上記撮影パラメータ設定手段が備えていても良いし、フレーム数設定手段が備えていても良い。或いは、独立した構成要素として撮像装置に設けられていても良い。
The exposure amount can be calculated from, for example, the shutter speed and the illuminance of the subject. Specifically, the exposure amount Hm can be calculated by the product of the illuminance of the subject and the shutter speed (= exposure time). Also, the number of frames is set to increase stepwise as the exposure amount decreases, for example.
The exposure amount calculating means may be provided in the photographing parameter setting means, or may be provided in a frame number setting means. Alternatively, the imaging device may be provided as an independent component.
本発明の撮像装置において、前記撮影パラメータ設定手段は、シャッタ速度を優先的に設定するためのシャッタ速優先モードを備え、前記フレーム数設定手段は、前記シャッタ速優先モードにおいてシャッタ速度が優先的に設定された結果、絞りが開放端の状態に設定された場合に、前記フレーム数をシャッタ速度に応じた数に設定することが好ましい。 In the imaging apparatus of the present invention, the shooting parameter setting unit includes a shutter speed priority mode for preferentially setting the shutter speed, and the frame number setting unit preferentially selects the shutter speed in the shutter speed priority mode. As a result of the setting, when the aperture is set to the open end state, the number of frames is preferably set to a number corresponding to the shutter speed.
このような構成によれば、フレーム数設定手段は、撮影パラメータ設定手段が備えるシャッタ速優先モードにおいて、優先的にシャッタ速が設定された結果、絞りが開放端の状態に設定された場合に、フレーム数をシャッタ速度に応じた数に設定する。これにより、絞りが開放端の状態にF値が小さく設定されることにより、露光量が少ないと予想される場合には、シャッタ速度に応じた複数の撮影画像を用いて1つの画像が生成されることとなるので、露光量の改善を図ることが可能となる。この結果、高画質且つ低ノイズの画像を得ることが可能となる。 According to such a configuration, the number-of-frames setting unit is configured such that when the shutter speed is set with priority in the shutter speed priority mode provided in the shooting parameter setting unit, the aperture is set to the open end state. The number of frames is set to a number corresponding to the shutter speed. As a result, if the exposure value is expected to be small by setting the F value to a small value when the aperture is at the open end, one image is generated using a plurality of captured images corresponding to the shutter speed. As a result, the exposure amount can be improved. As a result, an image with high image quality and low noise can be obtained.
本発明の撮像装置において、前記撮影パラメータ設定手段は、絞り優先モードを備え、
前記フレーム数設定手段は、前記絞り優先モードにおいて絞りが優先的に設定された結果、シャッタ速が所定の速度より遅く設定された場合に、シャッタ速度を前記所定の速度以上に設定し直すとともに、当該設定し直した速度に応じた数に前記フレーム数を設定することが好ましい。
In the imaging apparatus of the present invention, the shooting parameter setting means includes an aperture priority mode,
The number-of-frames setting means resets the shutter speed to be equal to or higher than the predetermined speed when the shutter speed is set slower than a predetermined speed as a result of the priority setting in the aperture priority mode. It is preferable to set the number of frames to a number corresponding to the reset speed.
このような構成によれば、フレーム数設定手段は、撮影パラメータ設定手段が備える絞り優先モードにおいて、優先的に絞りが設定された結果、シャッタ速度が所定の速度より遅く設定された場合に、シャッタ速度を前記所定の速度以上に設定し直すとともに、この設定し直した速度に応じた数にフレーム数を設定する。このように、シャッタ速度が所定速度よりも遅く設定された場合には、そのシャッタ速度を前記所定の速度以上に設定し直すので、シャッタ速の遅いことに起因するブレを解消させることが可能となる。また、シャッタ速度を所定の速度以上に設定し直したことにより、露光量が少ないと予想される場合には、この設定し直されたシャッタ速度に応じた複数の撮影画像を用いて1つの画像を生成するので、露光量の改善を図ることが可能となる。これにより、高画質且つ低ノイズの画像を得ることが可能となる。 According to such a configuration, the number-of-frames setting unit is configured to release the shutter when the shutter speed is set slower than a predetermined speed as a result of the priority setting of the aperture in the aperture priority mode included in the shooting parameter setting unit. The speed is reset to the predetermined speed or higher, and the number of frames is set to a number corresponding to the reset speed. As described above, when the shutter speed is set slower than the predetermined speed, the shutter speed is reset to the predetermined speed or more, so that it is possible to eliminate the blur caused by the slow shutter speed. Become. In addition, when it is predicted that the exposure amount is small by resetting the shutter speed to a predetermined speed or higher, one image is obtained using a plurality of captured images corresponding to the reset shutter speed. Therefore, the exposure amount can be improved. As a result, an image with high image quality and low noise can be obtained.
本発明の撮像装置において、前記撮影パラメータ設定手段は、前記撮影パラメータとして感度値を設定する感度値設定手段を備え、前記フレーム数設定手段は、前記感度値設定手段で設定された感度値が予め設定されている第1規定値以上の場合に、前記感度値に応じた枚数のフレーム数を設定することが好ましい。 In the imaging apparatus of the present invention, the shooting parameter setting unit includes a sensitivity value setting unit that sets a sensitivity value as the shooting parameter, and the frame number setting unit has a sensitivity value set in advance by the sensitivity value setting unit. It is preferable to set the number of frames corresponding to the sensitivity value when the set value is equal to or greater than the first specified value.
このような構成によれば、撮影パラメータ設定手段が備える感度値設定手段により感度値が予め設定された第1規定値以上の場合に、複数のフレーム数が設定される。このように、例えば、感度値が高い場合には、その感度値に応じた複数の撮影画像を用いて1つの画像を生成するので、感度値の増大に起因して生じるノイズの消去が可能となり、高画質化を達成することができる。
上記フレーム数は、例えば、感度値が増大するにつれて、段階的に増加するように設定される。感度値としては、例えば、一般的なISO感度等が挙げられる。
According to such a configuration, a plurality of frames are set when the sensitivity value is equal to or higher than the first predetermined value set in advance by the sensitivity value setting unit included in the imaging parameter setting unit. In this way, for example, when the sensitivity value is high, one image is generated using a plurality of captured images corresponding to the sensitivity value, so that it is possible to eliminate noise caused by an increase in sensitivity value. High image quality can be achieved.
The number of frames is set to increase stepwise as the sensitivity value increases, for example. Examples of the sensitivity value include general ISO sensitivity.
本発明の撮像装置は、画素混合読み出し後における撮影画像の画素数を、前記撮影パラメータに応じた数に設定する画素数設定手段と、前記画素数設定手段により設定された画素数になるように、前記撮像手段からの画像信号に対して画素混合読み出しを行う画素混合読み出し手段とを具備することが好ましい。 The image pickup apparatus according to the present invention has a pixel number setting unit that sets the number of pixels of a captured image after pixel mixture readout to a number corresponding to the shooting parameter, and a pixel number set by the pixel number setting unit. It is preferable to include a pixel mixture readout unit that performs pixel mixture readout with respect to the image signal from the imaging unit.
このような構成によれば、撮像手段により被写体が撮影され、画素混合読み出し手段にて、該撮像手段により取得された撮影画像の画像信号に対して画素混合読み出しが行われる。一方、画素数設定手段は、上記画素混合読み出し後における撮影画像の画素数を、該撮影パラメータに応じた数に設定する。上記「画素混合読み出し」とは、例えば、Bayer配列のCCD撮像素子等からの信号の読み出しにおいて、同じカラーチャンネルの複数の画素の信号を加算して読み出すことにより、画像の解像度は下がるが、感度を複数倍にして画像の信号を読み出すことができる方式をいう。
このように、画素混合読み出し後における撮影画像の画素数を撮影パラメータに応じた数とすることが可能となるので、撮影画像の感度を撮影状況に応じて変化させることができる。
According to such a configuration, the subject is photographed by the imaging unit, and the pixel mixture readout is performed on the image signal of the captured image acquired by the imaging unit by the pixel mixture readout unit. On the other hand, the pixel number setting means sets the number of pixels of the captured image after the pixel mixture reading to a number according to the imaging parameter. The above-mentioned “pixel mixture readout” means that, for example, in the readout of signals from a Bayer array CCD image sensor or the like, the signals of a plurality of pixels of the same color channel are added and read out. Is a method by which the signal of an image can be read out by multiplying the number of times.
As described above, the number of pixels of the photographed image after the pixel mixture readout can be set to a number according to the photographing parameter, so that the sensitivity of the photographed image can be changed according to the photographing situation.
上記撮像装置は、前記撮影パラメータから露光量を算出する露光量算出手段を備え、前記画素数設定手段は、前記露光量が予め設定されている第2閾値より小さい場合に、前記露光量に応じて、前記画素混合読み出し後における撮影画像の画素数を設定することが好ましい。 The imaging apparatus includes an exposure amount calculation unit that calculates an exposure amount from the imaging parameter, and the pixel number setting unit responds to the exposure amount when the exposure amount is smaller than a preset second threshold value. Thus, it is preferable to set the number of pixels of the captured image after the pixel mixture reading.
このような構成によれば、露光量算出手段により露光量が算出され、この露光量が予め設定されている第2閾値より小さい場合には、画素数設定手段により、該露光量に応じた画素数が設定される。これにより、画素混合読み出し後における撮影画像の画素数を露光量に応じた画素数とすることが可能となる。上記露光量は、例えば、シャッタ速度と被写体の照度とから算出することが可能である。具体的には、露光量Hmは、被写体の照度とシャッタ速度(=露出時間)の積にて算出することが可能である。また、画素数は、例えば、露光量が減少するにつれて、段階的に減少するように設定される。 According to such a configuration, the exposure amount is calculated by the exposure amount calculation unit, and when the exposure amount is smaller than the preset second threshold, the pixel number setting unit sets the pixel corresponding to the exposure amount. Number is set. This makes it possible to set the number of pixels of the captured image after pixel mixture readout to the number of pixels corresponding to the exposure amount. The exposure amount can be calculated from, for example, the shutter speed and the illuminance of the subject. Specifically, the exposure amount Hm can be calculated by the product of the illuminance of the subject and the shutter speed (= exposure time). The number of pixels is set so as to decrease stepwise as the exposure amount decreases, for example.
また、上記撮像装置において、前記撮影パラメータ設定手段は、前記撮影パラメータとして感度値を設定する感度値設定手段を備え、前記画素数設定手段は、前記感度値が予め設定されている第2規定値以上の場合に、前記感度値に応じて、前記画素混合読み出し後における撮影画像の画素数を設定することが好ましい。 In the imaging apparatus, the shooting parameter setting unit includes a sensitivity value setting unit that sets a sensitivity value as the shooting parameter, and the pixel number setting unit includes a second specified value in which the sensitivity value is set in advance. In the above case, it is preferable to set the number of pixels of the photographed image after the pixel mixture reading according to the sensitivity value.
このような構成によれば、撮影パラメータ設定手段が備える感度値設定手段により設定された感度値が、予め設定されている第2規定値以上の場合には、画素数設定手段にて、感度値に応じた画素数が設定される。これにより、画素混合読み出し後における撮影画像の画素数を感度値に応じた画素数とすることが可能となる。画素数は、例えば、感度値が増大するにつれて、段階的に減少するように設定される。 According to such a configuration, when the sensitivity value set by the sensitivity value setting unit included in the imaging parameter setting unit is equal to or more than the second predetermined value set in advance, the pixel number setting unit performs the sensitivity value setting. The number of pixels corresponding to is set. This makes it possible to set the number of pixels of the captured image after pixel mixture readout to the number of pixels corresponding to the sensitivity value. For example, the number of pixels is set to decrease stepwise as the sensitivity value increases.
本発明の撮像装置は、前記撮像手段により取得された複数のフレーム間における前記被写体の動きを推定することによって、前記フレーム間の相対的な位置関係を補償する動き補償手段と、前記動き補償手段で補償された複数のフレームを合成した像を生成する画像合成手段とを更に備えることが好ましい。 The imaging apparatus of the present invention includes a motion compensation unit that compensates for a relative positional relationship between the frames by estimating a motion of the subject between a plurality of frames acquired by the imaging unit, and the motion compensation unit. It is preferable to further comprise an image synthesis means for generating an image obtained by synthesizing a plurality of frames compensated in (1).
このような構成によれば、動き補償手段にて、撮像手段により取得された複数のフレーム間における被写体の動きが推定されて、各フレーム間の相対的な位置関係が補償され、画像合成手段にて、該動き補償手段により補償された複数のフレームを合成した像を生成することにより、高画質な画像が生成されることとなる。 According to such a configuration, the motion compensation unit estimates the motion of the subject between the plurality of frames acquired by the imaging unit, compensates for the relative positional relationship between the frames, and causes the image synthesis unit to Thus, by generating an image obtained by combining a plurality of frames compensated by the motion compensation means, a high-quality image is generated.
上述の動き補償手段は、前記複数のフレーム間の近似度の評価関数を求め、該評価関数に基づいて前記複数のフレーム間における前記被写体の動きを補償することが好ましい。 It is preferable that the motion compensation unit described above obtains an evaluation function of the degree of approximation between the plurality of frames, and compensates the motion of the subject between the plurality of frames based on the evaluation function.
このような構成によれば、動き補償手段においては、複数のフレーム間の近似度の評価関数が求められ、この評価関数に基づいて複数のフレーム間における被写体の動きが補償されることとなる。 According to such a configuration, the motion compensation means obtains an evaluation function of the degree of approximation between a plurality of frames, and the motion of the subject between the plurality of frames is compensated based on this evaluation function.
上述の動き補償手段は、前記複数のフレームから任意の1枚のフレームを基準画像として選択し、該基準画像と該基準画像以外のフレームとの近似度の評価関数を求め、該評価関数に基づいて前記複数のフレーム間における前記被写体の動きを補償することが好ましい。 The motion compensation means described above selects any one frame from the plurality of frames as a reference image, obtains an evaluation function of the degree of approximation between the reference image and a frame other than the reference image, and based on the evaluation function It is preferable to compensate for the movement of the subject between the plurality of frames.
このような構成によれば、動き補償手段においては、複数のフレームの中から任意の1枚のフレームが基準画像として選択され、基準画像と基準画像以外のフレームとの近似度の評価関数が求められる。そして、この評価関数に基づいて複数のフレーム間における被写体の動きが補償されることとなる。 According to such a configuration, in the motion compensation means, an arbitrary one frame is selected as a reference image from among a plurality of frames, and an evaluation function for the degree of approximation between the reference image and a frame other than the reference image is obtained. It is done. Based on this evaluation function, the movement of the subject between a plurality of frames is compensated.
本発明によれば、撮影状況に応じたフレーム数の撮影画像を得ることが可能となるので、これら撮影画像を用いて適切な画像処理(例えば、超解像処理等)を実施することにより、高画質及び低ノイズの画像を得ることができるという効果を奏する。 According to the present invention, it is possible to obtain a photographic image with the number of frames according to the photographing situation, and by performing appropriate image processing (for example, super-resolution processing) using these photographic images, There is an effect that an image with high image quality and low noise can be obtained.
以下、本発明に係る撮像装置を電子スチルカメラに適用した場合の実施形態について、図面を参照して説明する。
まず、本発明の実施形態に係る電子スチルカメラの具体的な説明を行う前に、加算平均処理と画像混合読み出しによるSN比の改善効果について説明する。
まず、本実施形態において、「画素混合読み出し」とは、例えば、図26に示すように、Bayer配列の撮像素子(例えばCCD)からの信号の読出しにおいて、隣接した同じカラーチャンネルの複数の画素(例えば4画素)の信号を混合することにより、解像度は下がるが、感度を4倍にすることが可能な信号の読出し方式のことをいう。
Hereinafter, an embodiment in which an imaging apparatus according to the present invention is applied to an electronic still camera will be described with reference to the drawings.
First, before the specific description of the electronic still camera according to the embodiment of the present invention, the effect of improving the SN ratio by the addition averaging process and the image mixed readout will be described.
First, in the present embodiment, “pixel mixed readout” means, for example, as shown in FIG. 26, in readout of signals from an image sensor (for example, CCD) having a Bayer array, a plurality of adjacent pixels of the same color channel ( For example, it is a signal readout method that can reduce the resolution but can increase the sensitivity by a factor of 4 by mixing signals of 4 pixels).
図24は、後述する加算平均法(図14参照)を用いたランダムノイズの低減結果の一例を示したものである。図24において、縦軸は、SN比、横軸は加算平均法に使用した画像の枚数を示している。図24では、画像として、1乃至100枚を使用して、加算平均した場合におけるSN比を示している。なお、複数枚の画像としては、正規分布状の確率分布を持つランダムノイズを予め付加させたものを採用している。 FIG. 24 shows an example of the result of random noise reduction using the after-mentioned averaging method (see FIG. 14). In FIG. 24, the vertical axis represents the SN ratio, and the horizontal axis represents the number of images used for the averaging method. FIG. 24 shows the SN ratio in the case where 1 to 100 images are used and averaged. In addition, as a plurality of images, an image to which random noise having a normal distribution probability distribution is added in advance is employed.
図25は、上述した図26の画素混合読み出しを行った画像におけるランダムノイズの低減結果の一例を示した図である。図25において、縦軸は、SN比、横軸はσ(sigma:なお、σが大きい程、評価画像のランダムノイズが多く付加されている。)を示している。図25において、破線(before)は、評価画像における画素混合前の特性を示しており、実線(after)は、画素混合読み出し後に、更に、解像度を上げる為の復元処理(単一画像の超解像)を行った画像の特性を示している。なお、ここでの評価画像には、正規分布状の確率分布を持つランダムノイズを予め付加させている。 FIG. 25 is a diagram illustrating an example of a result of reducing random noise in the image obtained by performing the pixel mixture reading of FIG. 26 described above. In FIG. 25, the vertical axis indicates the SN ratio, and the horizontal axis indicates σ (sigma: the larger σ is, the more random noise is added to the evaluation image). In FIG. 25, a broken line (before) indicates characteristics before pixel mixture in the evaluation image, and a solid line (after) indicates restoration processing (super solution of a single image) for further increasing the resolution after pixel mixture reading. The characteristic of the image which performed (image) was shown. Note that random noise having a normal distribution probability distribution is added in advance to the evaluation image.
上記図24及び図25に示されるSN比は、ランダムノイズを予め付加させた画像における全画素の平均値と結果画像における各画素との偏差の二乗を平均した値の平方根をデシベルに換算したものである。計算手順を以下の(1)乃至(5)に示す。 The S / N ratio shown in FIG. 24 and FIG. 25 is obtained by converting the square root of the value obtained by averaging the average value of all pixels in an image to which random noise has been added in advance and the square of the deviation from each pixel in the result image into decibels. It is. The calculation procedure is shown in the following (1) to (5).
図24におけるSN比の結果より、複数枚の加算平均法を使用することにより、ランダムノイズが低減する効果があり、また、使用する画素枚数を増やすほど、ランダムノイズが低減されることがわかる。また、図25におけるSN比の結果より、画素混合読み出しを行ってから画素復元することにより、ランダムノイズが低減する効果があることがわかる。 From the result of the SN ratio in FIG. 24, it can be seen that the use of a plurality of averaging methods has the effect of reducing random noise, and the random noise is reduced as the number of pixels used is increased. Further, from the result of the SN ratio in FIG. 25, it can be seen that there is an effect of reducing random noise by performing pixel reconstruction after performing pixel mixed readout.
〔第1の実施形態〕
次に、本発明の第1の実施形態に係る電子スチルカメラについて説明する。図1は、本発明の第1の実施形態に係る電子スチルカメラの概略構成を示すブロック図である。図1に示されるように、本実施形態に係る電子スチルカメラは、例えば、撮像部50、A/D変換回路106、AE用フォトセンサ107、撮像制御部110、第一画像処理部111、画像用バッファ115、圧縮部116、メモリカードI/F部117、メモリカード118、操作表示部119、撮像条件設定部(撮影パラメータ設定手段)120、連写判定部(フレーム数設定手段)121、読み出し画素判定部(画素数設定手段)122、切換部200、連写用バッファ201、第二画像処理部202を備えて構成されている。上記撮像部50は、絞り101を内包するレンズ系100、分光ハーフミラー系102、シャッタ103、ローパスフィルタ104、CCD撮像素子105、及びAFモータ108を備えて構成されている。
[First Embodiment]
Next, an electronic still camera according to the first embodiment of the present invention will be described. FIG. 1 is a block diagram showing a schematic configuration of an electronic still camera according to the first embodiment of the present invention. As shown in FIG. 1, the electronic still camera according to the present embodiment includes, for example, an
絞り101を内包するレンズ系100、分光ハーフミラー系102、シャッタ103、ローパスフィルタ104、及びCCD撮像素子105は、光軸に沿って配置されている。レンズ系100には、合焦作業時にレンズ系の一部を移動するためのAFモータ108が接続されている。レンズ系100を通過した光束は、分光ハーフミラー系102により2手に分岐され、一方の光束は、シャッタ103、ローパスフィルタ104を経由してCCD撮像素子105に導かれ、他方は、AE用フォトセンサ107に導かれるようになっている。本実施形態に係るCCD撮像素子105は、単板CCD撮像素子を前提としている。CCD撮像素子105からの出力は、A/D変換回路106に入力される。A/D変換回路106からの出力は、撮像条件設定部120及び第一画像処理部111へ入力される。
The
第一画像処理部111の出力は、切換部200を介して画像用バッファ115又は連写用バッファ201へ転送される。ここで、切換部200は、連写判定部121からの信号に基づいて接続先を切り替えることにより、第一画像処理部111からの信号を画像用バッファ115又は連写用バッファに転送する。上記画像用バッファ115の出力は、JPEGなどの圧縮を行う圧縮部116、及び液晶表示部やモード設定ボタンからなる操作表示部119へ入力される。圧縮部116からの出力は、メモリカードI/F部117を介して脱着可能なメモリカード118へ入力される。
The output of the first
撮像条件設定部(撮影パラメータ設定手段)120には、上記AE用フォトセンサ107及びA/D変換回路106から信号が入力される。撮像条件設定部120の出力信号は、連写判定部121及び読み出し画素判定部122へ入力される。連写判定部121からの信号は、撮像制御部110及び上記切替部200へ出力される。読み出し画素判定部122の出力は、撮像制御部110に入力される。
Signals are input from the
連写用バッファ201の出力は、第二画像処理部202及び操作表示部119へ入力される。第二画像処理部202は、モーション推定部202a、超解像処理部202b、及び加算平均処理部202cを備えている。第二画像処理部202の出力は、圧縮部116へ入力される。
The output of the
次に、図2に、本実施形態に係る電子スチルカメラの概略の外観構成図を示す。図2は、本実施形態に係る電子スチルカメラの外観構成図である。
図2に示すように、本実施形態の電子スチルカメラは、カメラ本体Z1と、カメラ本体Z1に備えられたモード選択ダイヤルZ2と、レリーズスイッチZ3と、撮影枚数モード切替スイッチZ4と、画素混合撮影モード切替スイッチZ7と、液晶表示パネルZ6とを有している。
Next, FIG. 2 shows a schematic external configuration diagram of the electronic still camera according to the present embodiment. FIG. 2 is an external configuration diagram of the electronic still camera according to the present embodiment.
As shown in FIG. 2, the electronic still camera of this embodiment includes a camera body Z1, a mode selection dial Z2 provided in the camera body Z1, a release switch Z3, a shooting number mode switch Z4, and a pixel mixture shooting. It has a mode switch Z7 and a liquid crystal display panel Z6.
次に、図1及び図2に示した構成を備える本実施形態に係る電子スチルカメラの作用について図を参照して説明する。
図3は、本実施形態に係る電子スチルカメラで行われる処理の概略を示したフローチャートである。
まず、プリ撮影においては、図3のステップB01において、撮影パラメータ設定処理による撮影パラメータの設定が行われる。次に、ステップB02において、撮影モード設定処理による撮影モードの設定が行われる。ここで、本実施形態に係る電子スチルカメラには、本撮影のための1度のレリーズスイッチZ3(図2参照)の操作によって、1枚の画像を撮影する「通常枚数撮影モード」と、本撮影のための1度のレリーズスイッチZ3の操作によって、複数枚の画像を連写する「連写撮影モード」と、画素混合読み出しを行う「画素混合読み出し撮影モード」と、画素混合読み出しを行わない「通常読み出し撮影モード」との4つの撮影モードがある。なお、「画素混合読出し撮影モード」では、前述したように、Bayer配列のCCD撮像素子105からの信号の読出しにおいて、同じカラーチャンネルの複数の画素の信号を加算して読出すことにより、画像の解像度は下がるが、感度を複数倍にして画像の信号を読み出す方式を採用する。これに対して、「通常画素モード」では、画素混合読出しを行わずに、Bayer配列のCCD撮像素子105からの信号の読出しにおいて、画素毎に信号を読み出す方式を採用する。
Next, the operation of the electronic still camera according to the present embodiment having the configuration shown in FIGS. 1 and 2 will be described with reference to the drawings.
FIG. 3 is a flowchart showing an outline of processing performed by the electronic still camera according to the present embodiment.
First, in pre-shooting, shooting parameters are set by shooting parameter setting processing in step B01 in FIG. Next, in step B02, the shooting mode is set by the shooting mode setting process. Here, the electronic still camera according to the present embodiment includes a “normal number shooting mode” in which one image is shot by operating the release switch Z3 (see FIG. 2) once for the main shooting, By operating the release switch Z3 for shooting once, “continuous shooting mode” in which a plurality of images are continuously shot, “pixel mixture reading shooting mode” in which pixel mixture reading is performed, and pixel mixture reading is not performed. There are four shooting modes, “normal readout shooting mode”. In the “pixel mixture readout photographing mode”, as described above, in the readout of signals from the Bayer-array
続くステップB03では、ステップB02にて設定された撮影モードにて撮影を行い、ステップB04において、撮影した画像の信号を画像用バッファ115又は連写用バッファ201に保存する。そして、ステップB05において、画像用バッファ115又は連写用バッファ201に保存された画像に対して所定の処理を施し、当該処理を終了する。ステップB05では、例えば、連写用バッファ201に保存された画像に対して、第二画像処理部202による高画質化の処理や加算平均処理などが行われる。
In the subsequent step B03, the image is shot in the shooting mode set in step B02. In step B04, the captured image signal is stored in the
次に、上述した各処理内容について具体的に説明する。
まず、図1に示した電子スチルカメラにおいて、使用者によりレリーズスイッチZ3(図2参照)が半押される、或いは電源スイッチ(不図示)がON状態にされると、撮影制御部110は、絞り101、シャッタ103、AFモータ108を制御し、プリ撮影を実施する。
Next, each processing content described above will be specifically described.
First, in the electronic still camera shown in FIG. 1, when the release switch Z3 (see FIG. 2) is half-pressed by the user or the power switch (not shown) is turned on, the photographing
プリ撮影では、CCD撮像素子105からの信号がA/D変換回路106にてデジタル信号に変換され、第一画像処理部111に転送される。第一の画像処理部111は、この画像信号に、公知のホワイトバランス、強調処理、補間処理などを施し、三板状態の画像信号を生成する。このようにして生成された三板状態の画像信号は、切替部200を介して画像用バッファ115に出力される。
In pre-photographing, a signal from the
続いて、プリ撮像では、撮像条件設定部120が、本撮像のための撮像条件(撮影パラメータを含む)を公知の技術により設定し、設定した撮影条件を撮影制御部110、連写判定部121及び読み出し画素判定部122に転送する。ここで、撮像条件とは、例えば、シャッタ速度、絞り値、合焦位置、ISO感度などの撮影時に要する各要素、すなわち撮影パラメータに対する設定値の組み合わせであり、これらの設定方法の詳細については、後述する。
Subsequently, in pre-imaging, the imaging
連写判定部121は、撮像条件設定部120により設定された上記撮影条件に基づいて、撮影フレーム数に係る撮影モードの設定を行い、設定した撮影モードの情報を撮影制御部110及び切換部200へ転送する。一方、読み出し画素判定部122は、撮像条件設定部120により設定された上記撮影条件に基づいて、画素混合読み出しにおける画素数に係る撮影モードを設定し、設定した撮影モードの情報を撮影制御部110へ転送する。
撮影制御部110は撮像条件設置得部120により設定された撮像条件並びに連写判定部121及び読み出し画素判定部122により設定された撮影モードに基づいて、撮像部50を制御する。具体的には、撮像部50を構成する絞り101、AFモータ108、シャッタ103などを制御する。
The continuous
The
次に、上記撮像条件設定部120にて設定される撮像条件について説明する。
露光量に関するシャッタ速度及び絞り値といった撮影パラメータは、AE用フォトセンサ107に入力された被写体の輝度の測定結果に基づいて設定される。光量測定の対象となる領域は、AE用フォトセンサ107前に配置された図示しない絞り機能などを用いることにより、切り換え可能である。上記光量測定では、スポット、中央重点、平均測光などが測定される。なお、本実施形態に係る電子スチルカメラでは、シャッタ速度と絞り値の組合せは、「自動露光方式」、「シャッタ速度優先方式」、「絞り優先方式」の中から適宜選択することが可能である。
Next, imaging conditions set by the imaging
Shooting parameters such as a shutter speed and an aperture value relating to the exposure amount are set based on the measurement result of the luminance of the subject input to the
上記「自動露光方式」は、予め定められているシャッタ速度と絞り値の複数の組み合わせからシャッタ速度と絞り値とを自動的に設定する方式である。「シャッタ速度優先方式」は、使用者が設定したシャッタ速度にあわせて、絞り値を自動的に設定する方式である。「絞り優先方式」は、使用者が設定した絞り値にあわせて、シャッタ速度を自動的に設定する方式である。なお、このシャッタ速度及び絞り値の設定については、詳細を後述する。 The “automatic exposure method” is a method for automatically setting the shutter speed and the aperture value from a plurality of combinations of predetermined shutter speed and aperture value. The “shutter speed priority method” is a method for automatically setting an aperture value in accordance with the shutter speed set by the user. The “aperture priority method” is a method for automatically setting the shutter speed in accordance with the aperture value set by the user. The setting of the shutter speed and the aperture value will be described later in detail.
合焦位置は、CCD撮像素子105からの出力信号をA/D変換回路106にてデジタル信号に変換し、この単板状態の画像からの輝度信号を算出し、その輝度信号中のエッジ強度から求める。すなわち、AFモータ108にてレンズ系100の合焦位置を段階的に変えることで、エッジ強度が最大となる合焦位置を推定し、これを設定する。
The in-focus position is obtained by converting an output signal from the
ISO感度の設定は、電子スチルカメラにおける感度モードの設定によって異なる。電子スチルカメラにおいて感度モードがマニュアル感度モードに設定されている場合には、使用者の設定値によって行う。電子スチルカメラにおいて感度モードが自動感度モードの場合には、AE用フォトセンサ107にて測定された被写体の光量に基づいて決定される。具体的には、AE用フォトセンサ107にて測定した光量が少ない場合には、高いISO感度に設定し、光量が多い場合には、低いISO感度に設定する。なお、本実施形態におけるISO感度とは、CCD撮像素子105からの信号に対する電気的増幅(ゲインアップ)の程度を表す値であり、この値が大きいほど電気的増幅の程度を高くしている。
The ISO sensitivity setting varies depending on the sensitivity mode setting in the electronic still camera. In the electronic still camera, when the sensitivity mode is set to the manual sensitivity mode, the setting is performed by the user. When the sensitivity mode of the electronic still camera is the automatic sensitivity mode, the sensitivity is determined based on the light amount of the subject measured by the
次に、撮像条件設定部120により実行される撮影パラメータ設定処理について、図4を参照して具体的に説明する。この撮影パラメータ設定処理は、図3に示したフローチャートにおけるステップB01に対応する処理である。本実施形態では、撮影パラメータとして、露光条件、具体的には、絞り値、シャッタ速度、及びISO感度の設定を行う場合について説明する。
Next, shooting parameter setting processing executed by the imaging
まず、図4のステップC01において、「絞り優先モード」、「シャッタ速度優先モード」、「自動化モード」の3つからなる自動露出モードのうち、どのモードが選択されているかを判定する。この結果、「絞り優先モード」が選択された場合には、ステップC02に移行し、使用者により設定された値を絞り値として設定する。続いて、ステップC04において、被写体の照度を検出し、続くステップC05にて、ステップC02において設定された絞り値及びステップS04にて検出された照度から、適正露出になるようなシャッタ速度を算出して、シャッタ速度として設定する。続いて、ステップC06にて、ISO感度の設定を行う。ISO感度の設定は、モードを使用者が選択できるようになっている。ここで、マニュアルのモードが選択された場合には、使用者による設定値をISO感度として設定し、一方、自動モードが選択された場合には、ステップC04にて検出された被写体の照度から適正な感度値を決定する。そして、上記ISO感度を設定し終わると、当該処理を終了する。 First, in step C01 of FIG. 4, it is determined which mode is selected from the three automatic exposure modes of “aperture priority mode”, “shutter speed priority mode”, and “automation mode”. As a result, if the “aperture priority mode” is selected, the process proceeds to step C02, and the value set by the user is set as the aperture value. Subsequently, in step C04, the illuminance of the subject is detected, and in the subsequent step C05, the shutter speed at which appropriate exposure is obtained is calculated from the aperture value set in step C02 and the illuminance detected in step S04. And set it as the shutter speed. Subsequently, ISO sensitivity is set in step C06. The ISO sensitivity is set so that the user can select a mode. Here, when the manual mode is selected, the setting value set by the user is set as the ISO sensitivity. On the other hand, when the automatic mode is selected, an appropriate value is determined from the illuminance of the subject detected in step C04. Determine the sensitivity value. Then, when the ISO sensitivity is set, the process is finished.
一方、上述のステップC01において、「シャッタ速度優先モード」が選択された場合には、ステップC03へ移行し、シャッタ速度として、使用者によって設定された値を設定する。続いて、ステップC04にて、被写体の照度を検出し、続くステップC05にて、ステップC03にて設定したシャッタ速度及びステップC04にて検出した照度から、適正露出になるような絞り値を算出して、絞り値に設定する。そして、上述と同様、ステップC06にてISO感度を設定し、当該処理を終了する。 On the other hand, if the “shutter speed priority mode” is selected in step C01 described above, the process proceeds to step C03, and the value set by the user is set as the shutter speed. Subsequently, in step C04, the illuminance of the subject is detected, and in the subsequent step C05, an aperture value for obtaining an appropriate exposure is calculated from the shutter speed set in step C03 and the illuminance detected in step C04. To set the aperture value. Then, in the same manner as described above, the ISO sensitivity is set in step C06, and the process ends.
また、上述したステップC01において、「自動化モード」が選択されていた場合には、ステップC04へ移行し、被写体の照度を検出する。そして、ステップC05において、ステップC04において検出された照度から適正露出になるような絞り値とシャッタ速度とを算出して、それぞれを設定する。そして、ステップC06においてISO感度を設定し、当該処理を終了する。 If the “automation mode” is selected in step C01 described above, the process proceeds to step C04, and the illuminance of the subject is detected. In step C05, an aperture value and a shutter speed are calculated from the illuminance detected in step C04 so that an appropriate exposure is obtained, and each is set. In step C06, the ISO sensitivity is set, and the process ends.
次に、撮像条件設定部120により上述した撮影パラメータ設定処理が行われた後に、連写判定部121及び読み出し画像判定部112において実行される撮影モード設定処理について、図5を参照して説明する。この撮影モード設定処理は、図3に示したフローチャートにおけるステップB02に対応する処理である。
図5のステップA01において、レリーズスイッチがオンされると、ステップA02に移行し、撮影枚数モード切替スイッチZ4(図2参照)がONかOFFかを判定する。この結果、撮影枚数モード切替スイッチZ4がOFFであった場合には、ステップA10へ移行し、撮影枚数を1枚と判断し、続く、ステップA11にて、撮影モードとして「通常枚数撮影モード」を設定して、ステップA12へ移行する。
Next, the shooting mode setting process executed in the continuous
When the release switch is turned on in step A01 in FIG. 5, the process proceeds to step A02, and it is determined whether the number-of-photographing mode switch Z4 (see FIG. 2) is ON or OFF. As a result, if the number-of-shooting mode switch Z4 is OFF, the process proceeds to step A10, where the number of shots is determined to be one, and in step A11, “normal number shooting mode” is set as the shooting mode. Set and move to step A12.
一方、ステップA02において、撮影枚数モード切替スイッチがONであった場合には、ステップA03へ移行し、シャッタ速度と被写体の照度とから露光量を算出する。露光量は、撮像面(CCD撮像素子)での照度とシャッタ速度(=露出時間)の積で算出することができる。Hmを露光量(lx×s)、Eを撮像面(CCD撮像素子)での照度(単位はlx)、Tをシャッタ速度(単位はs)とすると、下記の(6)式で求められる。なお、Eは、絞り値(F値)の2乗に反比例し、被写体の輝度に比例する値である。
Hm=E×T (6)
On the other hand, if the number-of-shots mode switch is ON in step A02, the process proceeds to step A03, and the exposure amount is calculated from the shutter speed and the illuminance of the subject. The exposure amount can be calculated by the product of the illuminance on the imaging surface (CCD imaging device) and the shutter speed (= exposure time). When Hm is the exposure amount (lx × s), E is the illuminance (unit is lx) on the imaging surface (CCD imaging device), and T is the shutter speed (unit is s), the following equation (6) is obtained. E is a value that is inversely proportional to the square of the aperture value (F value) and proportional to the luminance of the subject.
Hm = E × T (6)
続いて、ステップA04にて、上記ステップA03にて算出された露光量が、撮影枚数設定用の第1閾値(図6参照)より低いか否かを判定する。この結果、露光量が、第1閾値以上であった場合には、ステップA08へ移行し、撮影枚数を1枚と判断し、続く、ステップA09にて、撮影モードとして「通常枚数撮影モード」を設定して、後述のステップA12へ移行する。 Subsequently, in step A04, it is determined whether or not the exposure amount calculated in step A03 is lower than the first threshold value for setting the number of shots (see FIG. 6). As a result, if the exposure amount is greater than or equal to the first threshold value, the process proceeds to step A08, where the number of shots is determined to be one, and in step A09, “normal number shooting mode” is set as the shooting mode. After setting, the process proceeds to Step A12 described later.
一方、上記ステップA04において露光量が上記第1閾値未満であった場合には、ステップA05へ移行し、露光量に応じた数に撮影枚数(フレーム数)を決定する。これにより、露光量と撮影枚数を連動させる。撮影枚数に関しては、予め適正枚数を定めておき、その枚数を用いる。露光量と撮影枚数の関係は、例えば、図6のように、露光量が減少するにつれて、段階的に撮影枚数が多くなるように設定されている。このような、露光量と撮影枚数とが対応付けられたテーブルは、電子スチルカメラ内に記憶されており、この関係に基づいて撮影枚数が決定される。 On the other hand, if the exposure amount is less than the first threshold value in step A04, the process proceeds to step A05, and the number of shots (number of frames) is determined to be a number corresponding to the exposure amount. Thereby, the exposure amount and the number of shots are linked. Regarding the number of shots, an appropriate number is determined in advance, and that number is used. For example, as shown in FIG. 6, the relationship between the exposure amount and the number of shots is set so that the number of shots increases step by step as the exposure amount decreases. A table in which the exposure amount and the number of shots are associated with each other is stored in the electronic still camera, and the number of shots is determined based on this relationship.
続いて、ステップA06にて、上記ステップA05において決定された撮影枚数が2枚以上か否かを判定する。この結果、撮影枚数が2枚以上の場合には、ステップA07へ移行し、撮影モードを「連写撮影モード」に設定し、ステップA12へ移行する。
一方、上記ステップA06において決定された撮影枚数が1枚であった場合には、ステップA09へ移行し、撮影モードを「通常枚数撮影モード」に設定して、ステップA12へ移行する。なお、上述のステップA01乃至ステップA11の処理は、図1に示される連写判定部121により実行される。
Subsequently, in step A06, it is determined whether or not the number of shots determined in step A05 is two or more. As a result, if the number of shots is two or more, the process proceeds to step A07, the shooting mode is set to “continuous shooting mode”, and the process proceeds to step A12.
On the other hand, if the number of shots determined in step A06 is one, the process proceeds to step A09, the shooting mode is set to “normal number shooting mode”, and the process proceeds to step A12. Note that the processing in steps A01 to A11 described above is executed by the continuous
続いて、ステップA12にて、画素混合読み出し撮影モード切替スイッチZ7(図2参照)がONかOFFかを判定する。この結果、画素混合読み出し撮影モード切替スイッチZ7がOFFの場合には、ステップA19へ移行し、通常読み出し撮影と判断して、続く、ステップ20にて、撮影モードに「通常読み出し撮影モード」を設定し、続く、ステップA21にて、設定した各撮影モード、撮影枚数、及び画素混合読み出し後の画素数を液晶表示パネルZ6(図2参照)に表示して、本処理を終了する。
Subsequently, at step A12, it is determined whether the pixel mixture readout photographing mode changeover switch Z7 (see FIG. 2) is ON or OFF. As a result, if the pixel mixture readout photographing mode changeover switch Z7 is OFF, the process proceeds to step A19, where it is determined that the normal readout photographing is performed, and in
一方、上述のステップA12にて、画素混合読み出し撮影モード切替スイッチZ7(図2参照)がONであった場合には、ステップA13へ移行し、シャッタ速度と絞り値と被写体の輝度とから露光量を算出する。なお、ここで算出する露光量の変わりに、上述のステップA03にて算出した露光量を用いるようにしても良い。 On the other hand, if the pixel mixture readout photographing mode changeover switch Z7 (see FIG. 2) is ON in step A12, the process proceeds to step A13, where the exposure amount is determined from the shutter speed, aperture value, and subject brightness. Is calculated. Note that the exposure amount calculated in step A03 described above may be used instead of the exposure amount calculated here.
続いて、ステップA13において算出した露光量が読出し方式決定用の第2閾値(図7参照)より低いか否かを判定する。この結果、露光量が第2閾値以上であった場合は、ステップA17へ移行し、通常読み出し撮影と判断し、続く、ステップA18にて、撮影モードを「通常読み出し撮影モード」に設定した後、続く、ステップA21にて、設定した各撮影モード、撮影枚数、及び画素混合読み出し後の画素数を液晶表示パネルZ6(図2参照)に表示して、本処理を終了する。 Subsequently, it is determined whether or not the exposure amount calculated in step A13 is lower than a second threshold value for determining the reading method (see FIG. 7). As a result, if the exposure amount is greater than or equal to the second threshold value, the process proceeds to step A17, where it is determined that the image is normally read, and in step A18, after the shooting mode is set to “normal read shooting mode”, Subsequently, in step A21, each set shooting mode, the number of shots, and the number of pixels after pixel mixture reading are displayed on the liquid crystal display panel Z6 (see FIG. 2), and this processing is terminated.
一方、上述のステップA14において、露光量が第2閾値未満であった場合には、ステップA15へ移行し、露光量に応じた画素混合読み出し後の画素数を決定する。これにより、露光量と撮影枚数と画素混合読み出し後の画素数とを連動させる。ここで、画素混合読み出し後の画素数に関しては、予め適正な読み出し後の画素数を定めておき、その画素数を用いるとよい。 On the other hand, when the exposure amount is less than the second threshold value in step A14 described above, the process proceeds to step A15, and the number of pixels after the pixel mixture reading according to the exposure amount is determined. Thereby, the exposure amount, the number of shots, and the number of pixels after pixel mixture reading are linked. Here, with respect to the number of pixels after pixel mixture readout, an appropriate number of pixels after readout is determined in advance, and the number of pixels may be used.
露光量と画素混合読み出し後の画素数の関係は、例えば、図7のように、露光量が減少するにつれて、段階的に画素混合読み出し後の画素数が少なくなるように設定されている。このような、露光量と画素混合読み出し後の画素数とが対応付けられたテーブルは、電子スチルカメラ内に記憶されており、この関係に基づいて画素混合読み出し後の画素数が決定される。 For example, as shown in FIG. 7, the relationship between the exposure amount and the number of pixels after pixel mixture readout is set so that the number of pixels after pixel mixture readout gradually decreases as the exposure amount decreases. Such a table in which the exposure amount is associated with the number of pixels after pixel mixture reading is stored in the electronic still camera, and the number of pixels after pixel mixture reading is determined based on this relationship.
このようにして、露光量に応じた画素数が決定されると、続くステップA16にて、撮影モードを「画素混合読み出し撮影モード」に設定し、続く、ステップA21にて、設定した各撮影モード、撮影枚数、及び画素混合読み出し後の画素数を液晶表示パネルZ6に表示し、本処理を終了する。
なお、上述したステップA12乃至ステップA20の処理は、図1に示される読み出し画素判定部122において実行される。
When the number of pixels corresponding to the exposure amount is determined in this way, the shooting mode is set to “pixel mixture readout shooting mode” in the subsequent step A16, and each shooting mode set in the subsequent step A21. Then, the number of shots and the number of pixels after the pixel mixture reading are displayed on the liquid crystal display panel Z6, and this processing ends.
Note that the processing of step A12 to step A20 described above is executed in the readout
なお、上述した撮影モード設定処理は、上述のように露光量に応じたものだけでなく、ISO感度値に応じて行うことも可能である。以下、ISO感度に応じた撮影モード設定処理の手順について図8を参照して説明する。図8において、図5と同様の処理内容については、同一のステップ番号を付し、その説明を省略する。 Note that the above-described shooting mode setting process can be performed not only according to the exposure amount as described above but also according to the ISO sensitivity value. Hereinafter, the procedure of the shooting mode setting process according to the ISO sensitivity will be described with reference to FIG. In FIG. 8, the same processing numbers as those in FIG. 5 are denoted by the same step numbers, and the description thereof is omitted.
本処理では、図5に示したステップA03乃至A05に代わって、図8のステップA30及びA31を採用する。具体的には、図8のステップA02において撮影枚数モード切替スイッチがONであると判定された場合、ステップA30において、ISO感度が撮影枚数設定用の第1規定値(図9参照)以上であるか否かを判定する。この結果、ISO感度が第1規定値未満であった場合には、ステップA08へ移行し、撮影枚数を1枚と判断し、続く、ステップA09にて、撮影モードに「通常枚数撮影モード」を設定して、後述のステップA12へ移行する。 In this process, steps A30 and A31 of FIG. 8 are employed instead of steps A03 to A05 shown in FIG. Specifically, if it is determined in step A02 in FIG. 8 that the number-of-shooting mode switch is ON, in step A30, the ISO sensitivity is equal to or higher than the first specified value for setting the number of shots (see FIG. 9). It is determined whether or not. As a result, if the ISO sensitivity is less than the first specified value, the process proceeds to step A08, where the number of shots is determined to be one, and in step A09, “normal number shooting mode” is set as the shooting mode. After setting, the process proceeds to Step A12 described later.
一方、上記ステップA30において、ISO感度が第1規定値以上であった場合には、ステップA31へ移行し、ISO感度に応じた撮影枚数を決定する。これにより、ISO感度と撮影枚数を連動させる。撮影枚数に関しては、予め適正枚数を定めておき、その枚数を用いる。ISO感度と撮影枚数の関係は、例えば、図9のように、ISO感度が大きくなるにつれて、段階的に撮影枚数が多くなるように設定されている。このような、ISO感度と撮影枚数とが対応付けられたテーブルは、電子スチルカメラ内に記憶されており、この関係に基づいて撮影枚数が決定される。 On the other hand, if the ISO sensitivity is equal to or higher than the first specified value in step A30, the process proceeds to step A31, and the number of shots corresponding to the ISO sensitivity is determined. Thereby, the ISO sensitivity and the number of shots are linked. Regarding the number of shots, an appropriate number is determined in advance, and that number is used. For example, as shown in FIG. 9, the relationship between the ISO sensitivity and the number of shots is set so that the number of shots increases stepwise as the ISO sensitivity increases. Such a table in which the ISO sensitivity is associated with the number of shots is stored in the electronic still camera, and the number of shots is determined based on this relationship.
また、本処理では、図5に示したステップA13乃至A15に代わって、図8のステップA32及びA33を採用する。具体的には、図8のステップA12において画素混合読み出し撮影モード切替スイッチがONであると判定された場合、ステップA32において、ISO感度が読出し方式決定用の第2規定値(図10参照)以上であるか否かを判定する。この結果、ISO感度が第2規定値未満であった場合には、ステップA17へ移行し、通常読み出し撮影と判断し、続く、ステップA18にて、撮影モードとして「通常読み出し撮影モード」を設定する。 Further, in this process, steps A32 and A33 of FIG. 8 are employed instead of steps A13 to A15 shown in FIG. Specifically, when it is determined in step A12 in FIG. 8 that the pixel mixture readout photographing mode switch is ON, in step A32, the ISO sensitivity is equal to or higher than the second specified value for determining the readout method (see FIG. 10). It is determined whether or not. As a result, if the ISO sensitivity is less than the second specified value, the process proceeds to step A17, where it is determined that the image is normally read, and in step A18, “normal read image capturing mode” is set as the image capturing mode. .
一方、上記ステップA32において、ISO感度が第2規定値以上であった場合には、ステップA33へ移行し、ISO感度に応じた画素混合読み出し後の画素数を決定する。これにより、ISO感度と画素混合読み出し後の画素数とを連動させる。ここで、画素混合読み出し後の画素数に関しては、予め適正な読み出し後の画素数を定めておき、その画素数を用いるとよい。 On the other hand, when the ISO sensitivity is equal to or higher than the second specified value in step A32, the process proceeds to step A33, and the number of pixels after the pixel mixture reading according to the ISO sensitivity is determined. Thereby, the ISO sensitivity and the number of pixels after the pixel mixture reading are linked. Here, with respect to the number of pixels after pixel mixture readout, an appropriate number of pixels after readout is determined in advance, and the number of pixels may be used.
ISO感度と画素混合読み出し後の画素数との関係は、例えば、図10のようにISO感度が増加するにつれて、段階的に画素混合読み出し後の画素数が少なくなるように設定されている。このような、ISO感度と画素混合読み出し後の画素数とが対応付けられたテーブルは、電子スチルカメラ内に記憶されており、この関係に基づいて画素混合読み出し後の画素数が決定される。 The relationship between the ISO sensitivity and the number of pixels after pixel mixture readout is set so that the number of pixels after pixel mixture readout gradually decreases as the ISO sensitivity increases as shown in FIG. Such a table in which the ISO sensitivity is associated with the number of pixels after pixel mixture readout is stored in the electronic still camera, and the number of pixels after pixel mixture readout is determined based on this relationship.
次に、上述したような撮像条件及び各撮影モードが設定されたプリ撮影状態において、使用者によりレリーズスイッチZ3(図2参照)が完全に押下されると、本撮影が行われる。この本撮影は、図1に示した撮像条件設定部120で設定された撮影パラメータ、連写判定部121及び読み出し画素判定部122によって設定された撮影モードに基づいて、撮像制御部110の制御のもと行われる。この結果、設定されたシャッタ速度、絞り値、ISO感度にて被写体が撮影され、この撮影画像の画像信号は、第一画像処理部111を経由して画像用バッファ115又は連写用バッファ201へ出力される。このとき、撮影モードが「通常枚数撮影モード」に設定されていた場合には、一枚の撮影画像の画像信号が第一画像処理部111へ供給される。一方、撮影モードが「連写撮影モード」に設定されていた場合には、連写判定部121により設定された撮影枚数の撮影画像の画像信号が連写用バッファ201に供給される。
Next, when the release switch Z3 (see FIG. 2) is completely pressed by the user in the pre-shooting state in which the shooting conditions and the shooting modes are set as described above, the main shooting is performed. This actual shooting is controlled by the
画像用バッファ115へ供給された画像信号は、圧縮部116へ出力され、ここで公知のJPEGなどの圧縮処理が施された後、メモリカードI/F部117を介して着脱可能なメモリカード118等へ保存される。
The image signal supplied to the
一方、連写用バッファ201へ入力された画像信号は、第二画像処理部202へ供給され、ここで高画質化の処理が行われる。
以下、第二画像処理部202で行われる高画質化の処理、具体的には、モーション推定、及び、加算平均の処理の手順について、図11乃至図15を参照して説明する。
第二画像処理部202におけるモーション推定部202aは、連写撮影モードにより撮影されて連写用バッファ201へ入力された複数枚の画像の画像信号を用いて、各画像(フレーム)におけるフレーム間の動き推定を行う。図11に、動き推定の処理手順の一例を示す。
On the other hand, the image signal input to the
Hereinafter, the procedure of high image quality processing performed by the second
The
まず、図11のステップS1において、動き推定の基準となる画像を1枚読み込む。ステップS2において、基準画像を複数の動きで変形させる。ステップS3において、基準画像間の動き推定を行う参照画像を1枚読み込む。ステップS4において、基準画像を複数変形させたそれぞれの画像列と参照画像との間の類似度値を算出する。ステップS5において、変形させた動きのパラメータと算出した類似度値との関係を用いて、図12に示すような離散的な類似度マップを作成する。ステップS6において、上記ステップS5で作成した離散的な類似度マップを補完することで、類似度マップの極値を探索し、類似度マップの極値を求める。ここで、極値で定められる変形の動きが動き推定値となる。類似度マップの極値の探索法には、例えば、パラボラフィッティング、スプライン補間法等がある。 First, in step S1 of FIG. 11, one image serving as a reference for motion estimation is read. In step S2, the reference image is deformed by a plurality of movements. In step S3, one reference image for estimating the motion between the standard images is read. In step S4, a similarity value between each image sequence obtained by deforming a plurality of standard images and the reference image is calculated. In step S5, a discrete similarity map as shown in FIG. 12 is created using the relationship between the deformed motion parameter and the calculated similarity value. In step S6, by complementing the discrete similarity map created in step S5, the extreme value of the similarity map is searched to obtain the extreme value of the similarity map. Here, the deformation motion determined by the extreme value becomes the motion estimation value. Examples of methods for searching for extreme values in the similarity map include parabolic fitting and spline interpolation.
続いて、ステップS7において、全ての参照画像において動き推定を行ったか否かを判定する。この結果、全ての参照画像において動き推定を行っていない場合には、ステップS8へ移行し、参照画像のフレーム番号を1つ増加させて、上述のステップS3へ戻る。これにより、全ての参照画像において動き推定を行うまで、ステップS3乃至ステップS8の処理が繰り返し行われることとなる。そして、ステップS7において、対象となる全ての参照画像に対して動き推定が行われたと判定されると、当該処理を終了する。 Subsequently, in step S7, it is determined whether or not motion estimation has been performed on all reference images. As a result, when motion estimation is not performed for all reference images, the process proceeds to step S8, the frame number of the reference image is incremented by 1, and the process returns to step S3 described above. As a result, the processes in steps S3 to S8 are repeated until motion estimation is performed on all reference images. If it is determined in step S7 that motion estimation has been performed on all target reference images, the process ends.
次に、動き推定をパラボラフッティングで行う具体的方法の一例を図12を参照して説明する。図12において、縦軸は二乗偏差を表し、横軸は変形モーションパラメータを示している。この図において、縦軸の二乗偏差の値が小さいほど類似度が高いといえる。
ここで、図11のステップS2における基準画像の複数変形は、例えば、水平、垂直、回転方向に対して、±1ピクセルの動きパラメータで基準画像を19通り(なお、27通り中8通りは同じ変形パターン)に変形させる。また、図11のステップS5では、図12に示した横軸のモーションパラメータを水平方向、垂直方向、回転方向の組み合わせであると考えると、負の方から(−1、+1、−1)、(−1、+1、0)(−1、+1、+1)の各離散類似度値をプロットする。また、各変形方向を別々と考えると、負の方向から(−1)、(0)、(+1)となり水平方向、垂直方向、回転方向について別々にプロットする。
Next, an example of a specific method for performing motion estimation by parabolic fitting will be described with reference to FIG. In FIG. 12, the vertical axis represents the square deviation, and the horizontal axis represents the deformation motion parameter. In this figure, it can be said that the smaller the square deviation on the vertical axis is, the higher the similarity is.
Here, the plurality of deformations of the reference image in step S2 in FIG. 11 are, for example, 19 reference images with the motion parameter of ± 1 pixel in the horizontal, vertical, and rotation directions (8 out of 27 patterns are the same). (Deformation pattern). Further, in step S5 of FIG. 11, when considering the motion parameter of the horizontal axis shown in FIG. 12 as a combination of the horizontal direction, the vertical direction, and the rotation direction, (−1, +1, −1) Each discrete similarity value of (-1, +1, 0) (-1, +1, +1) is plotted. If each deformation direction is considered to be different, the negative direction is (−1), (0), (+1), and the horizontal direction, the vertical direction, and the rotation direction are plotted separately.
図13は、参照画像における基準画像への近似を示している。各参照画像は、動き推定値を符号反転した値であり、画像変形することにより基準画像に近似する。その後、図14に示す加算平均法を用いる場合は、基準画像と近似した全画像における各対応画素を全フレーム分、一度に加算平均した値を新画素値として画像生成する。一方、図15に示す加算平均法を用いる場合は、基準画像と近似した全画像における各対応画素位置をフレーム間ずつに加算平均した値を新画素値として加算平均画像を生成する。なお、図14に示す加算平均手法は、図15に示す加算平均手法に比べ、ノイズが残りにくい傾向がある点でよい。 FIG. 13 shows an approximation of the reference image to the standard image. Each reference image is a value obtained by inverting the sign of the motion estimation value, and approximates the reference image by deforming the image. After that, when the addition averaging method shown in FIG. 14 is used, an image is generated as a new pixel value by adding and averaging the corresponding pixels of all the frames in all images approximate to the reference image at once. On the other hand, when the addition averaging method shown in FIG. 15 is used, an addition average image is generated using a value obtained by adding and averaging the corresponding pixel positions in all images approximate to the reference image for each frame. Note that the addition averaging method shown in FIG. 14 may have a tendency that noise is less likely to remain than the addition averaging method shown in FIG.
そして、このようにして生成された加算平均画像は、第二画像処理部202から圧縮部116へ出力され、ここで公知のJPEGなどの圧縮処理が施された後、メモリカードI/F部117を介してメモリカード118へ保存される。
Then, the addition average image generated in this way is output from the second
以上、説明してきたように、本実施形態に係る電子スチルカメラによれば、撮影条件設定部120にて、設定された撮像条件(撮影パラメータ)に基づいて、連写判定部121にて本撮影時における撮影画像の枚数が設定され、また、読み出し画素判定部122にて画素混合読み出しを行った後における画素数が設定される。このように、撮影条件に応じて、撮影画像のフレーム数ならびに画素混合読み出しにおける画素数が設定されるので、これらの設定に基づいて撮影された撮影画像を高画質化の処理等することにより、低ノイズ化された高画質な画像を取得することが可能となる。画素混合読み出しによりノイズが低減される点、並びに、複数毎の撮像画像を加算平均して画像を生成することにより、低ノイズの画像が得られる点については、上述の図24及び図25に示したとおりである。
As described above, according to the electronic still camera according to the present embodiment, the continuous
なお、上述した第1の実施形態においては、第二画像処理部202で高画質化の処理を施した後に、圧縮部116にて圧縮しているが、これは一例であり、例えば、圧縮せずにメモリカードI/F部117等へ出力して、第二画像処理部202と同様の機能を有する外部の装置で上述の高画質化の処理を行うこともできる。また、他の例としては、第二画像処理部202にて処理をした後の画像を圧縮するのではなく、先に圧縮された画像に基づいて、第二画像処理部202による高画質化処理が行われるような構成としても良い。
また、第二画像処理部202において行われる画像処理については、上述した処理手順に限定されることなく、公知の高画質化処理等を採用することが可能である。
In the first embodiment described above, after the image quality enhancement processing is performed by the second
In addition, the image processing performed in the second
また、上記実施形態においては、撮影モード設定処理において、露光量を算出し、この露光量に基づいて撮影画像の枚数を設定していたが、以下のように撮影画像を設定することが可能である。
例えば、撮影条件設定部120により行われる撮影パラメータ設定処理では、図4に示されるように、絞り優先モードにおいては、図4のステップC02に示すように、使用者により設定された絞り値、並びに被写体の照度に基づいてシャッタ速度が設定される(ステップC05)。
このとき、設定されたシャッタ速度が所定の速度よりも遅くなるような場合には、手ぶれが発生しやすくなるため、シャッタ速度を所定の速度以上に設定し直すとともに、設定し直したシャッタ速度に応じた複数のフレーム数に撮影画像の枚数を設定する。このとき、設定し直したシャッタ速度が速いほど、撮影画像の枚数を多くする。
一方で、シャッタ速度優先モードでは、図4ステップC03に示すように、使用者により設定されたシャッタ速度、並びに被写体の照度に基づいて絞り値が設定される(ステップC05)。この場合、絞りが開放端の状態に設定された場合には、露光量が少ないと推定することができる。このため、使用者によって設定されたシャッタ速度に応じた複数のフレーム数に撮影画像の枚数を設定する。このとき、使用者によって設定されたシャッタ速度が速いほど、撮影画像の枚数を多くする。
In the above embodiment, the exposure amount is calculated in the shooting mode setting process, and the number of shot images is set based on the exposure amount. However, the shot image can be set as follows. is there.
For example, in the shooting parameter setting process performed by the shooting
At this time, if the set shutter speed is slower than the predetermined speed, camera shake is likely to occur. Therefore, the shutter speed is reset to a predetermined speed or higher, and the reset shutter speed is set to the reset speed. The number of captured images is set to a plurality of corresponding frame numbers. At this time, the faster the reset shutter speed, the larger the number of captured images.
On the other hand, in the shutter speed priority mode, as shown in step C03 in FIG. 4, the aperture value is set based on the shutter speed set by the user and the illuminance of the subject (step C05). In this case, when the aperture is set to the open end state, it can be estimated that the exposure amount is small. Therefore, the number of captured images is set to a plurality of frames according to the shutter speed set by the user. At this time, the faster the shutter speed set by the user, the greater the number of captured images.
このように、絞り優先モードにおいて設定し直したシャッタ速度に応じた複数のフレーム数に撮影画像の枚数を設定したり、シャッタ速度優先モードにおいて設定されたシャッタ速度に応じた複数のフレーム数に撮影画像の枚数を設定したりすると、露光量に応じて枚数を調整することは不可能であるが、そのような調整を行うことなく撮影枚数を設定できる点、また、露光量を算出する必要がない点において、処理の軽減を図ることができる等のメリットがある。 As described above, the number of captured images is set to a plurality of frames according to the shutter speed reset in the aperture priority mode, or the plurality of frames is captured according to the shutter speed set in the shutter speed priority mode. When the number of images is set, it is impossible to adjust the number according to the exposure amount. However, the number of shots can be set without making such adjustment, and it is necessary to calculate the exposure amount. There is an advantage that processing can be reduced in that there is no point.
〔第2の実施形態〕
次に、本発明の第2の実施形態に係る撮像装置について図を参照して説明する。上述した第1の実施形態においては、撮影モード設定処理において、連写判定部121によるフレーム数の設定と、読み出し画素判定部122による読み出し画素数の設定とが行われていたが、本実施形態における撮像装置では、連写判定部121によるフレーム数の設定のみを行い、読み出し画素判定部122による画素数の設定処理を省略する。これにより、処理の簡素化を図り、処理負担の軽減並びに処理時間の短縮を実現する。
図16及び図17に本実施形態に係る連写判定部121により実行される撮影モード設定処理の一例を示す。図16において、図5と同様の処理内容については、同一のステップ番号を付している。図17において、図8と同様の処理内容については、同一のステップ番号を付している。
[Second Embodiment]
Next, an imaging device according to a second embodiment of the present invention will be described with reference to the drawings. In the first embodiment described above, the setting of the number of frames by the continuous
FIGS. 16 and 17 show an example of the shooting mode setting process executed by the continuous
〔第3の実施形態〕
次に、本発明の第3の実施形態に係る撮像装置について図を参照して説明する。上述した第1の実施形態においては、撮影モード設定処理において、連写判定部121によるフレーム数の設定と、読み出し画素判定部122による読み出し画素数の設定とが行われていたが、本実施形態における撮像装置では、読み出し画素判定部122による画素数の設定のみを行い、処理連写判定部121によるフレーム数の設定を省略する。これにより、処理の簡素化を図り、処理負担の軽減並びに処理時間の短縮を実現する。
図18及び図19に本実施形態に係る読み出し画素判定部122により実行される撮影モード設定処理の一例を示す。図18において、図5と同様の処理内容については、同一のステップ番号を付している。図19において、図8と同様の処理内容については、同一のステップ番号を付している。
[Third Embodiment]
Next, an imaging device according to a third embodiment of the present invention will be described with reference to the drawings. In the first embodiment described above, the setting of the number of frames by the continuous
FIGS. 18 and 19 show an example of the shooting mode setting process executed by the readout
〔第4の実施形態〕
次に、本発明の第4の実施形態に係る撮像装置について図を参照して説明する。上述した第1の実施形態においては、撮影モード設定処理において、まず、連写判定部121によるフレーム数の設定を行い、その後、読み出し画素判定部122による読み出し画素数の設定を行っていた。本実施形態における撮像装置では、まず先に、読み出し画素判定部122による読み出し画素の設定を行い、その後、連写判定部121によるフレーム数の設定を行う。
図20及び図21に本実施形態に係る連写判定部121及び読み出し画素判定部122により実行される撮影モード設定処理の一例を示す。図20において、図5と同様の処理内容については、同一のステップ番号を付している。図21において、図8と同様の処理内容については、同一のステップ番号を付している。
[Fourth Embodiment]
Next, an imaging device according to a fourth embodiment of the present invention will be described with reference to the drawings. In the first embodiment described above, in the shooting mode setting process, first, the number of frames is set by the continuous
20 and 21 show an example of the shooting mode setting process executed by the continuous
〔第5の実施形態〕
次に、本発明の第5の実施形態に係る撮像装置について図を参照して説明する。本実施形態に係る撮像装置は、上述した第1の実施形態に係る撮像装置と構成を略同様とするが、第2の画像処理部202により実行される高画質化の処理が異なる。
以下、本実施形態に係る高画質化の処理手順、具体的には、複数枚の画像を使用して、高解像度の画像を復元する画像高画質化処理(超解像)について図を参照して説明する。
[Fifth Embodiment]
Next, an imaging device according to a fifth embodiment of the present invention will be described with reference to the drawings. The imaging apparatus according to the present embodiment has substantially the same configuration as the imaging apparatus according to the first embodiment described above, but the image quality enhancement process executed by the second
Hereinafter, referring to the drawing, the image quality enhancement processing procedure according to the present embodiment, specifically, the image quality enhancement processing (super-resolution) for restoring a high-resolution image using a plurality of images will be described. I will explain.
まず、図22に示されるように、ステップS11において、高解像度画像推定に用いるための複数枚の低解像度画像n(n≧1)枚を連写用バッファ201から読み込む。続く、S12において、ステップS11において読み込んだ複数枚の低解像度画像の中の任意の一枚をターゲットフレームと仮定し、補完処理を行うことで初期の高解像度画像を作成する。なお、このステップは場合により省略することができる。続いて、ステップS13では、予め何らかのモーション推定法(例えば、上述の第1の実施形態で説明したようにモーション推定部202aで動き推定値を求める手法)で求められた、ターゲットフレームとその他のフレームとの画像間のモーションにより、画像間の位置関係を明らかにする。
First, as shown in FIG. 22, in step S <b> 11, a plurality of low resolution images n (n ≧ 1) for use in high resolution image estimation are read from the
続くステップS14において、光学伝達関数(OTF:Optical
Transfer Function)、CCDアパーチャ等の撮像特性を考慮した点広がり関数(PSF:Point Spreading Function)を求める。PSFは例えばガウス(Gauss)関数を用いる。続く、ステップS15では、上記ステップS13及びS14において得た情報を元に、評価関数f(z)の最小化を行う。ただし、f(z)は以下の(7)式のような形となる。
In subsequent step S14, an optical transfer function (OTF: Optical)
A point spreading function (PSF) in consideration of imaging characteristics such as transfer function and CCD aperture is obtained. The PSF uses, for example, a Gauss function. In step S15, the evaluation function f (z) is minimized based on the information obtained in steps S13 and S14. However, f (z) becomes a form like the following (7) Formula.
上記(7)式において、yは低解像度画像、zは高解像度画像、Aは画像間モーション(例えば、図1におけるモーション推定部202aで求めた動き推定値)、PSF等を含めた撮像システムを表す画像変換行列である。g(z)は、画像の滑らかさや色相関を考慮した拘束項等が入る。λは重み係数である。評価関数の最小化には、例えば、最急降下法を用いる。
続いて、ステップS16において、上記ステップS15で求めたf(z)が最小化されたか否かを判定する。この結果、まだ最小化されていない場合には、ステップS17へ移行し、高解像度画像zをアップデートして、ステップS15に戻り、高解像度画像zが最小化されるまで、ステップS15乃至S17を繰り返し行う。そして、ステップS16において、上記ステップS15で求めたf(z)が最小化されると、当該処理を終了し、高解像度画像zを得る。
In the above equation (7), y is a low-resolution image, z is a high-resolution image, A is an inter-image motion (for example, a motion estimation value obtained by the
Subsequently, in step S16, it is determined whether or not f (z) obtained in step S15 is minimized. As a result, if not yet minimized, the process proceeds to step S17, the high-resolution image z is updated, the process returns to step S15, and steps S15 to S17 are repeated until the high-resolution image z is minimized. Do. In step S16, when f (z) obtained in step S15 is minimized, the processing is terminated and a high-resolution image z is obtained.
次に、図23に、図22に示した処理手順を実行するハードウェア構成の一例を示す。
図23に示すように、高解像度画像推定処理部は、初期画像記憶部1201、畳込み積分部1202、PSFデータ保持部1203、画像比較部1204、乗算部1205、貼り合せ加算部1206、蓄積加算部1207、更新画像生成部1208、画像蓄積部1209、反復演算判定部1210、反復判定値保持部1211から構成される。
Next, FIG. 23 shows an example of a hardware configuration for executing the processing procedure shown in FIG.
As shown in FIG. 23, the high-resolution image estimation processing unit includes an initial
このような構成において、連写用バッファ201(図1参照)からの補間拡大画像は、初期画像記憶部1201に与えられる。なお、この画像を初期画像とする。この初期画像は、畳込み積分部1202に与えられ、PSFデータ保持部1203より与えられるPSFデータと畳込み積分される。ここでのPSFデータは各フレームのモーションも考慮して与えられる。初期画像データは、同時に画像蓄積部1209に送られ、ここに蓄積される。畳込み積分部1202にて畳込み演算された画像データは、画像比較部1204に送られ、モーション推定部202a(図1参照)で求められた各フレーム毎のモーション(動き推定値)を元に適切な座標位置で連写用バッファ201(図1参照)より与えられる撮影画像と比較される。
In such a configuration, the interpolated enlarged image from the continuous shooting buffer 201 (see FIG. 1) is given to the initial
比較された残差は乗算部1205に送られ、PSFデータ保持部1203より与えられるPSFデータの各画素毎の値に掛け合わされる。この演算結果は貼り合せ加算部1206に送られ、それぞれ対応する座標位置に置かれる。ここで乗算部1205からの画像データは、重なりを持ちながら少しずつ座標位置がずれて行くことになるので、重なる部分については加算していく。撮影画像1枚分のデータの貼り合せ加算が終了すると、データは蓄積加算部1207に送られる。蓄積加算部1207では、フレーム数分の処理が終るまで順次送られてくるデータを蓄積し、推定されたモーションに合わせて各フレーム分の画像データを順次加算してゆく。
The compared residuals are sent to the
加算された画像データは、更新画像生成部1208に送られる。更新画像生成部1208には、これと同時に画像蓄積部1209に蓄積されていた画像データが与えられ、この2つの画像データに重みをつけて加算して更新画像データを生成する。生成された更新画像データは、反復演算判定部1210に与えられ、反復判定値保持部1211から与えられる反復判定値を元に演算を反復するか否かを判断する。演算を反復する場合には、データを畳込み積分部1202に送り、前記の一連の処理を繰り返す。一方、反復しない場合は、生成された画像データを高解像度画像として出力する。上記一連の処理が行われることにより、反復演算判定部1210から出力される画像は、撮影画像よりも高解像度のものとなっている。
The added image data is sent to the updated
また前記PSFデータ保持部1203で保持されるPSFデータには畳込み積分の際に適切な座標位置での計算が必要となるのでモーション推定部より各フレーム毎のモーションが与えられるようになっている。
Further, the PSF data held by the PSF
なお、上述した第1乃至第4の実施形態に係る撮像装置では、ハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、CCD105からの信号を未処理のままのRawデータとして、別途ソフトウェアにて処理する構成も可能である。
Note that the imaging apparatus according to the first to fourth embodiments described above is premised on processing by hardware, but is not necessarily limited to such a configuration. For example, a configuration is possible in which the signal from the
以上、本発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。 The embodiment of the present invention has been described in detail with reference to the drawings. However, the specific configuration is not limited to this embodiment, and includes design changes and the like within a scope not departing from the gist of the present invention.
50 撮像部
101 絞り
100 レンズ系
102 分光ハーフミラー系
103 シャッタ
104 ローパスフィルタ
105 CCD撮像素子
106 A/D変換回路
107 AE用フォトセンサ
108 AFモータ
110 撮像制御部
111 第一画像処理部
115 画像用バッファ
116 圧縮部
117 メモリカードI/F部
118 メモリカード
119 操作表示部
120 撮像条件設定部
121 連写判定部
122 読み出し画素判定部
200 切換部
201 連写用バッファ
202 第二画像処理部
50
Claims (11)
撮影の条件を定める撮影パラメータを設定する撮影パラメータ設定手段と、
撮影画像のフレーム数を、前記撮影パラメータに応じた数に設定するフレーム数設定手段と、
前記被写体を連続的に撮影することにより、前記フレーム数の撮影画像を取得する撮像手段と
を具備する撮像装置。 In an imaging device that photographs a subject and electronically records an image of the subject,
Shooting parameter setting means for setting shooting parameters for determining shooting conditions;
Frame number setting means for setting the number of frames of the photographed image to a number according to the photographing parameter;
An image pickup apparatus comprising: an image pickup unit that obtains the number of frames taken by continuously shooting the subject.
前記フレーム数設定手段は、前記露光量が予め設定されている第1閾値より小さい場合に、前記露光量に応じたフレーム数を設定する請求項1に記載の撮像装置。 Exposure amount calculating means for calculating an exposure amount from the photographing parameters;
The imaging apparatus according to claim 1, wherein the frame number setting unit sets the number of frames according to the exposure amount when the exposure amount is smaller than a preset first threshold value.
前記フレーム数設定手段は、前記シャッタ速優先モードにおいてシャッタ速度が優先的に設定された結果、絞りが開放端の状態に設定された場合に、前記フレーム数をシャッタ速度に応じた数に設定する請求項1に記載の撮像装置。 The shooting parameter setting means includes a shutter speed priority mode for preferentially setting the shutter speed,
The number-of-frames setting means sets the number of frames to a number corresponding to the shutter speed when the shutter speed is preferentially set in the shutter speed priority mode and, as a result, the aperture is set to the open end state. The imaging device according to claim 1.
前記フレーム数設定手段は、前記絞り優先モードにおいて絞りが優先的に設定された結果、シャッタ速が所定の速度より遅く設定された場合に、シャッタ速度を前記所定の速度以上に設定し直すとともに、当該設定し直した速度に応じた数に前記フレーム数を設定する請求項1に記載の撮像装置。 The shooting parameter setting means includes an aperture priority mode,
The number-of-frames setting means resets the shutter speed to be equal to or higher than the predetermined speed when the shutter speed is set slower than a predetermined speed as a result of the priority setting in the aperture priority mode. The imaging apparatus according to claim 1, wherein the number of frames is set to a number according to the reset speed.
前記フレーム数設定手段は、前記感度値が、予め設定されている第1規定値以上の場合に、前記感度値に応じた枚数のフレーム数を設定する請求項1に記載の撮像装置。 The shooting parameter setting means includes sensitivity value setting means for setting a sensitivity value as the shooting parameter,
The imaging apparatus according to claim 1, wherein the frame number setting unit sets the number of frames according to the sensitivity value when the sensitivity value is equal to or greater than a first predetermined value set in advance.
前記画素数設定手段により設定された画素数になるように、前記撮像手段からの画像信号に対して画素混合読み出しを行う画素混合読み出し手段と
を具備する請求項1に記載の撮像装置。 A pixel number setting means for setting the number of pixels of the photographed image after the pixel mixture readout to a number according to the photographing parameter;
The imaging apparatus according to claim 1, further comprising: a pixel mixture readout unit that performs pixel mixture readout on an image signal from the imaging unit so that the number of pixels set by the pixel number setting unit is obtained.
前記画素数設定手段は、前記露光量が予め設定されている第2閾値より小さい場合に、前記露光量に応じて、前記画素混合読み出し後における撮影画像の画素数を設定する請求項6に記載の撮像装置。 Exposure amount calculating means for calculating an exposure amount from the photographing parameters;
The said pixel number setting means sets the pixel number of the picked-up image after the said pixel mixture reading according to the said exposure amount, when the said exposure amount is smaller than the 2nd threshold value set beforehand. Imaging device.
前記画素数設定手段は、前記感度値が予め設定されている第2規定値以上の場合に、前記感度値に応じて、前記画素混合読み出し後における撮影画像の画素数を設定する請求項6に記載の撮像装置。 The shooting parameter setting means includes sensitivity value setting means for setting a sensitivity value as the shooting parameter,
The pixel number setting means sets the number of pixels of the photographed image after the pixel mixture reading according to the sensitivity value when the sensitivity value is equal to or greater than a second predetermined value set in advance. The imaging device described.
前記動き補償手段で補償された複数のフレームを合成した像を生成する画像合成手段と
を更に備える請求項1乃至請求項8のいずれかの項に記載の撮像装置。 Motion compensation means for compensating for the relative positional relationship between the frames by estimating the motion of the subject between a plurality of frames acquired by the imaging means;
The imaging apparatus according to claim 1, further comprising: an image synthesis unit that generates an image obtained by synthesizing a plurality of frames compensated by the motion compensation unit.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005187903A JP2007013269A (en) | 2005-06-28 | 2005-06-28 | Imaging apparatus |
PCT/JP2006/312040 WO2007000900A1 (en) | 2005-06-28 | 2006-06-15 | Imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005187903A JP2007013269A (en) | 2005-06-28 | 2005-06-28 | Imaging apparatus |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007013269A true JP2007013269A (en) | 2007-01-18 |
Family
ID=37751235
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005187903A Pending JP2007013269A (en) | 2005-06-28 | 2005-06-28 | Imaging apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007013269A (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008153167A1 (en) * | 2007-06-11 | 2008-12-18 | Olympus Corporation | Imaging system and imaging program |
JP2009194896A (en) * | 2008-01-18 | 2009-08-27 | Sanyo Electric Co Ltd | Image processing device and method, and imaging apparatus |
CN102151117A (en) * | 2010-01-25 | 2011-08-17 | 奥林巴斯株式会社 | Imaging apparatus, endoscope system, and method of controlling imaging apparatus |
JP2013219665A (en) * | 2012-04-11 | 2013-10-24 | Canon Inc | Imaging device, control method therefor, and program |
-
2005
- 2005-06-28 JP JP2005187903A patent/JP2007013269A/en active Pending
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008153167A1 (en) * | 2007-06-11 | 2008-12-18 | Olympus Corporation | Imaging system and imaging program |
JP2009194896A (en) * | 2008-01-18 | 2009-08-27 | Sanyo Electric Co Ltd | Image processing device and method, and imaging apparatus |
CN102151117A (en) * | 2010-01-25 | 2011-08-17 | 奥林巴斯株式会社 | Imaging apparatus, endoscope system, and method of controlling imaging apparatus |
US8786690B2 (en) | 2010-01-25 | 2014-07-22 | Olympus Corporation | Imaging apparatus, endoscope system, and method of controlling imaging apparatus |
JP2013219665A (en) * | 2012-04-11 | 2013-10-24 | Canon Inc | Imaging device, control method therefor, and program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101229600B1 (en) | Image capturing apparatus and camera shake correction method, and computer-readable medium | |
JP4210021B2 (en) | Image signal processing apparatus and image signal processing method | |
JP4567593B2 (en) | Imaging apparatus and imaging method | |
US7176962B2 (en) | Digital camera and digital processing system for correcting motion blur using spatial frequency | |
JP5347707B2 (en) | Imaging apparatus and imaging method | |
US8587671B2 (en) | Digital image processing apparatus, an image processing method, and a recording medium storing the image processing method for obtaining an out-of-focus image by using a plurality of images | |
JP2008306651A (en) | Imaging system and program | |
JP6333095B2 (en) | Imaging apparatus, control method therefor, and program | |
JP5223686B2 (en) | Imaging apparatus and imaging method | |
WO2019124289A1 (en) | Device, control method, and storage medium | |
JP5076650B2 (en) | Imaging apparatus and image processing program | |
JP2007013270A (en) | Imaging apparatus | |
JP2006345388A (en) | Imaging apparatus | |
JP2005236662A (en) | Imaging method, imaging device, and imaging system | |
JP2007013269A (en) | Imaging apparatus | |
JP2008109482A (en) | Imaging apparatus, image recording processing method and image recording processing program | |
US7839435B2 (en) | Image sensing apparatus and image sensing method | |
US9013597B2 (en) | Image pickup apparatus that carries out noise compensation, control method therefor, and storage medium | |
JP2010068046A (en) | Imaging apparatus | |
WO2015129479A1 (en) | Imaging device and method, and program | |
JP2013192121A (en) | Imaging apparatus and imaging method | |
JP4586578B2 (en) | Digital camera and program | |
JP5482428B2 (en) | Imaging apparatus, camera shake correction method, and program | |
JP5482427B2 (en) | Imaging apparatus, camera shake correction method, and program | |
JP2006295581A (en) | Photographic system and video signal processing program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080617 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20101005 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20110215 |