JP2009141702A - Imaging apparatus and control method for the same - Google Patents

Imaging apparatus and control method for the same Download PDF

Info

Publication number
JP2009141702A
JP2009141702A JP2007316354A JP2007316354A JP2009141702A JP 2009141702 A JP2009141702 A JP 2009141702A JP 2007316354 A JP2007316354 A JP 2007316354A JP 2007316354 A JP2007316354 A JP 2007316354A JP 2009141702 A JP2009141702 A JP 2009141702A
Authority
JP
Japan
Prior art keywords
data
image
frames
motion
accumulation time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2007316354A
Other languages
Japanese (ja)
Inventor
Taro Takita
太郎 滝田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007316354A priority Critical patent/JP2009141702A/en
Publication of JP2009141702A publication Critical patent/JP2009141702A/en
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To improve definition of a still image while controlling exposure. <P>SOLUTION: An imaging apparatus obtains an image of proper exposure by using images of N frames consecutively photographed at a shutter speed that is 1/N (M is a square of 2) of the shutter speed required for photographing an image of proper exposure, comprising: a detection means for detecting a still region that has no movement, and a motion region that has movement, an addition means for adding data in the still regions among the images of the N frames and adding data in the motion regions among the images of the M frames if there is no movement; an amplification means for amplifying the data in the motion regions to be N-fold if data are not added, and for amplifying the data in the motion regions after addition to be N/M-fold in the case that the data in the motion regions in the images of the M frames are added by the addition means; and a production means which combines the added data in the still regions and the amplified data in the motion regions to produce image data. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、撮像装置及び撮像装置の制御方法に関する。   The present invention relates to an imaging apparatus and a control method for the imaging apparatus.

レンズと撮像センサとの間にメカニカルシャッターが設けられず絞りのみが設けられる撮像装置では、撮像センサによる電荷の電荷蓄積時間と絞りの開度とを制御することにより、露出が制御される。
特開平2-179086号公報
In an image pickup apparatus in which no mechanical shutter is provided between the lens and the image sensor and only an aperture is provided, the exposure is controlled by controlling the charge accumulation time of the charge by the image sensor and the aperture of the aperture.
Japanese Patent Laid-Open No. 2-179086

上記のような撮像装置では、絞りの開度が固定値に制御された状態において被写体の明るさが暗くなると、露出を適正な状態に制御するために、撮像センサによる電荷の電荷蓄積時間を長く(電子シャッターのシャッター速度を遅く)する必要がある。   In the imaging apparatus as described above, when the brightness of the subject becomes dark in a state where the aperture of the diaphragm is controlled to a fixed value, in order to control the exposure to an appropriate state, the charge accumulation time of charges by the imaging sensor is lengthened. It is necessary to slow down the shutter speed of the electronic shutter.

電子シャッターのシャッター速度が遅くなると、被写体の動きや撮影者の手の動きによる被写体ブレや手ブレが発生しやすくなる。   When the shutter speed of the electronic shutter becomes slow, subject blur and camera shake due to the movement of the subject and the hand of the photographer tend to occur.

本発明の目的は、露出を制御しながら静止画像の品位を向上できる撮像装置及び撮像装置の制御方法を提供することにある。   An object of the present invention is to provide an imaging apparatus and an imaging apparatus control method capable of improving the quality of a still image while controlling exposure.

本発明の第1側面に係る撮像装置は、適正露出の画像を撮影するために必要なシャッター速度の1/N(Nは2のべき乗)のシャッター速度で連続的に撮影されたNフレームの画像を用い、適正露出の画像を得る撮像装置であって、前記Nフレームの画像を通じて動きのない静止領域と、前記Nフレームの画像における少なくとも2フレームの画像間で動きのある動き領域とを検出する検出手段と、前記Nフレームの画像の間で前記静止領域のデータを加算するとともに、前記NフレームのうちのM(Mは前記Nより小さい自然数)フレームの画像の前記動き領域において動きがない場合に前記Mフレームの画像の間で前記動き領域のデータを加算する加算手段と、前記加算手段により前記動き領域のデータが加算されなかった場合に前記動き領域のデータを前記N倍に増幅し、前記加算手段により前記Mフレームの画像の前記動き領域のデータが加算された場合に加算後の前記動き領域のデータをN/M倍に増幅する増幅手段と、前記加算手段により加算された前記静止領域のデータと、前記増幅手段により増幅された前記動き領域のデータとを合成することにより、画像データを生成する生成手段とを備えたことを特徴とする。   The imaging apparatus according to the first aspect of the present invention is an image of N frames continuously captured at a shutter speed 1 / N (N is a power of 2) of a shutter speed necessary for capturing an image with appropriate exposure. Is used to detect a stationary region that does not move through the N frame image and a moving region that moves between at least two frames of the N frame image. When the data of the still area is added between the detection means and the N frame image, and there is no motion in the motion area of the M frame image (M is a natural number smaller than N) of the N frames. And adding means for adding the motion region data between the M frame images, and the motion region data is not added by the adding means. Amplifying means for amplifying area data by N times and amplifying the motion area data after addition by N / M times when the motion area data of the M frame image is added by the adding means And generating means for generating image data by synthesizing the data of the still area added by the adding means and the data of the motion area amplified by the amplifying means, To do.

本発明の第2側面に係る撮像装置の制御方法は、適正露出の画像を撮影するために必要なシャッター速度の1/N(Nは2のべき乗)のシャッター速度で連続的に撮影されたNフレームの画像を用い、適正露出の画像を得る撮像装置の制御方法であって、前記Nフレームの画像を通じて動きのない静止領域と、前記Nフレームの画像における少なくとも2フレームの画像間で動きのある動き領域とを検出する検出ステップと、前記Nフレームの画像の間で前記静止領域のデータを加算するとともに、前記NフレームのうちのM(Mは前記Nより小さい自然数)フレームの画像の前記動き領域において動きがない場合に前記Mフレームの画像の間で前記動き領域のデータを加算する加算ステップと、前記加算ステップで前記動き領域のデータが加算されなかった場合に前記動き領域のデータを前記N倍に増幅し、前記加算ステップで前記Mフレームの画像の前記動き領域のデータが加算された場合に加算後の前記動き領域のデータをN/M倍に増幅する増幅ステップと、前記加算ステップで加算された前記静止領域のデータと、前記増幅ステップで増幅された前記動き領域のデータとを合成することにより、画像データを生成する生成ステップとを備えたことを特徴とする。   The control method of the image pickup apparatus according to the second aspect of the present invention is such that N is continuously captured at a shutter speed 1 / N (N is a power of 2) of the shutter speed necessary for capturing an image with appropriate exposure. A method of controlling an imaging apparatus that uses a frame image to obtain an image with appropriate exposure, wherein there is a motion between a static region where there is no movement through the N frame image and at least two frames of the N frame image. A detection step of detecting a motion region; adding the data of the still region between the images of the N frames; and the motion of an image of an M frame (M is a natural number smaller than the N) of the N frames An addition step of adding the data of the motion region between the images of the M frame when there is no motion in the region, and the data of the motion region in the addition step If not, the motion region data is amplified N times, and if the motion region data of the M frame image is added in the adding step, the motion region data after the addition is N Amplifying step for amplifying / M times, and a generating step for generating image data by combining the static region data added in the adding step and the motion region data amplified in the amplifying step It is characterized by comprising.

本発明によれば、露出を制御しながら静止画像の品位を向上できる。   According to the present invention, it is possible to improve the quality of a still image while controlling exposure.

本発明の第1実施形態に係る撮像装置1を説明する。図1は、本発明の第1実施形態に係る撮像装置1の構成図である。   An imaging apparatus 1 according to a first embodiment of the present invention will be described. FIG. 1 is a configuration diagram of an imaging apparatus 1 according to the first embodiment of the present invention.

撮像装置1は、適正露出の画像を撮影するために必要なシャッター速度の1/N(Nは2のべき乗)のシャッター速度で連続的に撮影されたNフレームの画像を用い、適正露出の画像を得るための装置である。撮像装置1は、例えば、スチル撮影機能を有するビデオカメラである。撮像装置1は、レンズ群100、絞り101、撮像素子(撮像手段)102、ドライバ部103、AFE(Analog Front Nd)部104を備える。撮像装置1は、画像処理部105、フレームメモリ106、記録部107、及びCPU108を備える。   The imaging apparatus 1 uses images of N frames continuously captured at a shutter speed 1 / N (N is a power of 2) of a shutter speed necessary for capturing an image with appropriate exposure, and uses an image with appropriate exposure. It is a device for obtaining. The imaging device 1 is, for example, a video camera having a still shooting function. The imaging apparatus 1 includes a lens group 100, a diaphragm 101, an imaging element (imaging unit) 102, a driver unit 103, and an AFE (Analog Front Nd) unit 104. The imaging apparatus 1 includes an image processing unit 105, a frame memory 106, a recording unit 107, and a CPU 108.

レンズ群100は、入射した光を収束するとともに撮像素子102の撮像面に像を形成させる。レンズ群100には、AF機構及びズーム機構が組み込まれている。   The lens group 100 converges incident light and forms an image on the imaging surface of the imaging element 102. The lens group 100 incorporates an AF mechanism and a zoom mechanism.

絞り101は、レンズ群100と撮像素子102との間に設けられ、レンズ群100から撮像素子102へ導かれる光の量を制限する。   The diaphragm 101 is provided between the lens group 100 and the image sensor 102 and limits the amount of light guided from the lens group 100 to the image sensor 102.

撮像素子102は、複数の画素が配列された画素配列(撮像面)に形成された被写体の像を画像信号に変換する。画素配列の各画素は、光に応じた信号を蓄積して画像信号を生成する。撮像素子102は、その画像信号を画素配列から読み出して出力する。撮像素子102は、例えば、CCDやCMOSセンサである。   The imaging element 102 converts an image of a subject formed on a pixel array (imaging surface) in which a plurality of pixels are arrayed into an image signal. Each pixel of the pixel array accumulates a signal corresponding to light and generates an image signal. The image sensor 102 reads out the image signal from the pixel array and outputs it. The image sensor 102 is, for example, a CCD or a CMOS sensor.

ドライバ部103は、撮像素子102を駆動するための駆動パルスを生成する。駆動信号は、例えば、垂直走査パルス、水平転送パルス、及び電子シャッターである。垂直走査パルスは、画素配列を垂直方向に走査して所定の行を選択するためのパルスである。水平転送パルスは、画素配列を水平方向に走査して各列の信号を順次に後段へ出力するためのパルスである。電子シャッターは、画素配列の各画素をリセットするためのパルスである。   The driver unit 103 generates a driving pulse for driving the image sensor 102. The drive signal is, for example, a vertical scanning pulse, a horizontal transfer pulse, and an electronic shutter. The vertical scanning pulse is a pulse for selecting a predetermined row by scanning the pixel array in the vertical direction. The horizontal transfer pulse is a pulse for scanning the pixel array in the horizontal direction and sequentially outputting the signals of each column to the subsequent stage. The electronic shutter is a pulse for resetting each pixel of the pixel array.

AFE部104は、撮像素子102から画像信号(アナログ信号)を受けて、CDS(Correlated Double Sampling)処理、増幅処理、及びA/D変換等を行い、画像信号(デジタル信号)を生成する。   The AFE unit 104 receives an image signal (analog signal) from the image sensor 102, performs CDS (Correlated Double Sampling) processing, amplification processing, A / D conversion, and the like to generate an image signal (digital signal).

画像処理部105は、AFE部104から画像信号(デジタル信号)を受けて、その画像信号にガンマ補正、輪郭強調処理、ホワイトバランス、カラーバランスなどの各種の画像処理を行い画像データを生成する。   The image processing unit 105 receives an image signal (digital signal) from the AFE unit 104, and performs various image processing such as gamma correction, contour enhancement processing, white balance, and color balance on the image signal to generate image data.

画像処理部105は、生成部(生成手段)105a、画像比較部(検出手段)105b、加算部(加算手段)105c、増幅部(増幅手段)105d、及び決定部(決定手段)105eを含む。生成部105aは、撮像素子102からAFE部104経由で画像信号を受けて、画像データをフレーム単位で生成する。画像比較部105bは、画像データにおける動き領域と静止領域とを検出する。加算部105cは、画像データにおける少なくとも一部の領域のデータを他のフレームとの間で加算する。増幅部105dは、画像データにおける少なくとも一部の領域のデータを増幅する。決定部105eは、増幅部105dがデータを増幅するための増幅率を決定する。   The image processing unit 105 includes a generation unit (generation unit) 105a, an image comparison unit (detection unit) 105b, an addition unit (addition unit) 105c, an amplification unit (amplification unit) 105d, and a determination unit (determination unit) 105e. The generation unit 105a receives an image signal from the image sensor 102 via the AFE unit 104, and generates image data in units of frames. The image comparison unit 105b detects a motion area and a still area in the image data. The adder 105c adds data of at least a part of the image data to other frames. The amplifying unit 105d amplifies data in at least a part of the image data. The determination unit 105e determines an amplification factor for the amplification unit 105d to amplify the data.

フレームメモリ106は、画像処理部105から画像データを受けて、その画像データを一時的に記憶する。フレームメモリ106は、例えば、SDRAMである。   The frame memory 106 receives image data from the image processing unit 105 and temporarily stores the image data. The frame memory 106 is, for example, an SDRAM.

記録部107は、画像処理部105から画像データを受けて、その画像データを保存等のために記録する。記録部107は、例えば、DVフォーマットで記録するための記録テープ、JPEGフォーマットで記録するための記録カードである。   The recording unit 107 receives image data from the image processing unit 105 and records the image data for storage or the like. The recording unit 107 is, for example, a recording tape for recording in the DV format or a recording card for recording in the JPEG format.

CPU108は、絞り101、ドライバ部103、AFE部104、及び画像処理部105に接続されており、絞り101、ドライバ部103、AFE部104、及び画像処理部105を全体的に制御する。   The CPU 108 is connected to the diaphragm 101, the driver unit 103, the AFE unit 104, and the image processing unit 105, and controls the diaphragm 101, the driver unit 103, the AFE unit 104, and the image processing unit 105 as a whole.

CPU108は、露出制御部(露出制御手段)108aを含む。露出制御部108aは、画像処理部105から画像データの輝度成分に関する情報を受ける。露出制御部108aは、輝度成分に関する情報に応じて、ドライバ部103を介して撮像素子102の電荷蓄積時間を制御するとともに、絞り101の開度を制御する。これにより、露出制御部108aは、撮像素子102の露光量を制御する。すなわち、露出制御部108aは、被写体の明るさに応じて自動的に露光を制御するAE(自動露出制御)処理を行う。   The CPU 108 includes an exposure control unit (exposure control means) 108a. The exposure control unit 108 a receives information related to the luminance component of the image data from the image processing unit 105. The exposure control unit 108a controls the charge accumulation time of the image sensor 102 via the driver unit 103 and the opening degree of the diaphragm 101 according to the information on the luminance component. Thereby, the exposure control unit 108 a controls the exposure amount of the image sensor 102. That is, the exposure control unit 108a performs AE (automatic exposure control) processing that automatically controls exposure according to the brightness of the subject.

次に、静止画撮影の準備が行われる際における撮像装置1の動作を説明する。   Next, the operation of the imaging apparatus 1 when preparation for still image shooting is performed will be described.

まず、撮像装置1のCPU108は、電源ボタン(図示せず)がオンされたことを認識すると、動作モードを初期動作モードにセットする。CPU108は、初期動作モードになったことに応じて、所定の初期動作を行うように各部を制御する。撮像装置1のCPU108は、初期動作を完了すると、動作モードを初期動作モードからモニタモードへ切り替える。モニタモードとは、撮像素子102により撮像された被写体の画像をLCDなどの表示パネル(図示せず)に表示するモードである。   First, when the CPU 108 of the imaging apparatus 1 recognizes that a power button (not shown) is turned on, it sets the operation mode to the initial operation mode. The CPU 108 controls each unit to perform a predetermined initial operation in response to the initial operation mode. When completing the initial operation, the CPU 108 of the imaging apparatus 1 switches the operation mode from the initial operation mode to the monitor mode. The monitor mode is a mode in which an image of a subject imaged by the image sensor 102 is displayed on a display panel (not shown) such as an LCD.

露出制御部108aは、モニタモードになったことに応じて、撮像素子102の電荷蓄積時間と絞り101の開度とをそれぞれ所定の初期値に制御する。   The exposure control unit 108a controls the charge accumulation time of the image sensor 102 and the opening of the diaphragm 101 to predetermined initial values in accordance with the monitor mode.

撮像素子102は、レンズ群100及び絞り101を通過した光を受けて、その光に応じた信号を初期値の電荷蓄積時間で蓄積して画像信号を生成する。その画像信号は、撮像素子102からAFE部104へ供給されて、AFE部104でアナログ信号処理された後、画像処理部105へ供給される。画像処理部105は、供給された画像信号に応じた画像データを生成する。露出制御部108aは、その画像データの輝度成分に関する情報を画像処理部105から受け取る。露出制御部108aは、その画像データの輝度成分の情報に応じて、撮像素子102の電荷蓄積時間Teと絞り101の開度とを制御することにより、露出を制御する。   The image sensor 102 receives light that has passed through the lens group 100 and the diaphragm 101, accumulates a signal corresponding to the light with an initial charge accumulation time, and generates an image signal. The image signal is supplied from the image sensor 102 to the AFE unit 104, subjected to analog signal processing by the AFE unit 104, and then supplied to the image processing unit 105. The image processing unit 105 generates image data corresponding to the supplied image signal. The exposure control unit 108 a receives information regarding the luminance component of the image data from the image processing unit 105. The exposure control unit 108a controls the exposure by controlling the charge accumulation time Te of the image sensor 102 and the opening of the diaphragm 101 according to the information of the luminance component of the image data.

例えば、露出制御部108aは、被写体が暗くなると、絞り101の開度が大きくなるように制御する。露出制御部108aは、被写体がさらに暗くなりかつ絞り101の開度が最大になると、撮像素子102の電荷蓄積時間Teを長くなるように制御する。   For example, the exposure control unit 108a performs control so that the opening degree of the diaphragm 101 increases when the subject becomes dark. The exposure control unit 108a controls the charge accumulation time Te of the image sensor 102 to be longer when the subject is further darkened and the aperture of the diaphragm 101 is maximized.

このように、撮像素子102により繰り返し画像信号を生成して、その画像信号に対する画像データの輝度成分に応じて、撮像素子102の電荷蓄積時間(露光時間)と絞り101の開度(絞り値)とが適正な値になるように制御する。これにより、自動的に露出を制御するAE処理を行う。   As described above, the image sensor 102 repeatedly generates an image signal, and the charge accumulation time (exposure time) of the image sensor 102 and the opening degree (aperture value) of the diaphragm 101 according to the luminance component of the image data corresponding to the image signal. And are controlled so as to be an appropriate value. Thereby, AE processing for automatically controlling exposure is performed.

なお、露出制御部108aは、さらに、画像データの輝度成分の情報に応じて、AFE部104の増幅処理におけるゲインを制御することにより、露出を制御しても良い。   Note that the exposure control unit 108a may further control the exposure by controlling the gain in the amplification process of the AFE unit 104 according to the information of the luminance component of the image data.

次に、静止画撮影が行われる際における撮像装置1の動作を、図2を用いて説明する。図2は、静止画撮影が行われる際の撮像装置1の動作を示すフローチャートである。   Next, the operation of the imaging apparatus 1 when still image shooting is performed will be described with reference to FIG. FIG. 2 is a flowchart illustrating the operation of the imaging apparatus 1 when still image shooting is performed.

ステップS200では、ユーザによりシャッターボタン(図示せず)が押されると、シャッターボタンが静止画撮影指令を受け付ける。CPU108は、その静止画撮影指令をシャッターボタンから受け取り、静止画撮影指令に応じて動作モードをモニタモードから静止画撮影モードへ切り替える。   In step S200, when a user presses a shutter button (not shown), the shutter button accepts a still image shooting command. The CPU 108 receives the still image shooting command from the shutter button, and switches the operation mode from the monitor mode to the still image shooting mode in accordance with the still image shooting command.

ステップS201では、露出制御部108aが、撮像素子102の露光量が予め定められた露出値になるように、絞り101の開度に応じて、撮像素子102の仮の電荷蓄積時間Tetmpを求める。例えば、露出制御部108aは、絞り101の開度がモニタモードにおいて直前に制御した値であることに応じて、モニタモードにおいて直前に求めた電荷蓄積時間の値を仮の電荷蓄積時間Tetmpとすることができる。   In step S201, the exposure control unit 108a obtains a temporary charge accumulation time Ttmp of the image sensor 102 according to the opening of the diaphragm 101 so that the exposure amount of the image sensor 102 becomes a predetermined exposure value. For example, the exposure control unit 108a sets the value of the charge accumulation time obtained immediately before in the monitor mode as the temporary charge accumulation time Ttmp in response to the opening degree of the diaphragm 101 being the value controlled immediately before in the monitor mode. be able to.

ステップS202では、露出制御部108aが、仮の電荷蓄積時間Tetmpと第1の閾値(最大露光時間)Tmaxとの比較を行い、仮の電荷蓄積時間Tetmpが第1の閾値Tmaxを超えているか否かを判断する。第1の閾値(最大露光時間)Tmaxは、所定の距離において所定の速度で移動する所定の大きさの被写体を所定の画角で撮像した場合に、被写体の画像において被写体ぶれや手ぶれが生じはじめることが肉眼で認識され始める時間である。この被写体ぶれや手ぶれは、被写体の動きや撮影者の手の動きによるものである。第1の閾値Tmaxは、予め実験又はシミュレーション等で求められる。   In step S202, the exposure control unit 108a compares the temporary charge accumulation time Ttmp with the first threshold (maximum exposure time) Tmax, and determines whether or not the temporary charge accumulation time Tetmp exceeds the first threshold Tmax. Determine whether. The first threshold value (maximum exposure time) Tmax starts to cause subject blur and camera shake in a subject image when a subject of a predetermined size moving at a predetermined speed at a predetermined distance is imaged at a predetermined angle of view. This is the time when it begins to be recognized with the naked eye. The subject shake and camera shake are caused by the movement of the subject and the movement of the photographer's hand. The first threshold Tmax is obtained in advance through experiments or simulations.

例えば、仮の電荷蓄積時間Tetmp=1/50[s]、第1の閾値Tmax=1/100[s]であるとすると、露出制御部108aは、仮の電荷蓄積時間Tetmpが第1の閾値Tmaxを超えていると判断する。   For example, assuming that the temporary charge accumulation time Ttmp = 1/50 [s] and the first threshold Tmax = 1/100 [s], the exposure control unit 108a determines that the temporary charge accumulation time Ttmp is the first threshold. It is determined that Tmax is exceeded.

露出制御部108aは、仮の電荷蓄積時間Tetmpが第1の閾値Tmaxを超えていると判断する場合、処理をステップS204へ進め、仮の電荷蓄積時間Tetmpが第1の閾値Tmaxを超えていないと判断する場合、処理をステップS203へ進める。   If the exposure control unit 108a determines that the provisional charge accumulation time Ttmp exceeds the first threshold Tmax, the process proceeds to step S204, where the provisional charge accumulation time Ttmp does not exceed the first threshold Tmax. If YES, the process proceeds to step S203.

ステップS203では、撮像装置1が、仮の電荷蓄積時間Tetmpが第1の閾値Tmaxを超えていないことに応じて、通常撮影処理を行う。   In step S <b> 203, the imaging apparatus 1 performs normal imaging processing in response to the provisional charge accumulation time Ttmp not exceeding the first threshold Tmax.

すなわち、露出制御部108aは、仮の電荷蓄積時間Tetmpを制御用の電荷蓄積時間Teとして確定する。露出制御部108aは、電荷蓄積時間Teで電荷蓄積動作を行うように、ドライバ部103経由で撮像素子102を制御する。撮像素子102は、レンズ群100及び絞り101を通過した光を受けて、その光に応じた信号を初期値の電荷蓄積時間で蓄積して画像信号を生成する。その画像信号は、撮像素子102からAFE部104へ供給されて、AFE部104でアナログ信号処理された後、画像処理部105へ供給される。画像処理部105は、供給された画像信号に応じた画像データを生成する。記録部107は、画像処理部105から画像データを受けて、その画像データを保存等のために記録する。   That is, the exposure control unit 108a determines the temporary charge accumulation time Ttmp as the control charge accumulation time Te. The exposure control unit 108a controls the image sensor 102 via the driver unit 103 so as to perform the charge accumulation operation with the charge accumulation time Te. The image sensor 102 receives light that has passed through the lens group 100 and the diaphragm 101, accumulates a signal corresponding to the light with an initial charge accumulation time, and generates an image signal. The image signal is supplied from the image sensor 102 to the AFE unit 104, subjected to analog signal processing by the AFE unit 104, and then supplied to the image processing unit 105. The image processing unit 105 generates image data corresponding to the supplied image signal. The recording unit 107 receives image data from the image processing unit 105 and records the image data for storage or the like.

ステップS204では、撮像装置1が、仮の電荷蓄積時間Tetmpが第1の閾値Tmaxを超えていることに応じて、複数露光撮影処理を行う。具体的には、撮像装置1は、ステップS205〜S209の処理を行う。   In step S <b> 204, the imaging apparatus 1 performs a multiple exposure shooting process in response to the provisional charge accumulation time Ttmp exceeding the first threshold Tmax. Specifically, the imaging apparatus 1 performs steps S205 to S209.

ステップS205では、露出制御部108aが、取得すべき画像データのフレーム数(撮影すべきフレームの数)Nを決定する。すなわち、露出制御部108aは、仮の電荷蓄積時間Tetmpを基準の電荷蓄積時間(最小露光時間)Tminで割った結果に基づいて、取得すべき画像データのフレーム数Nを決定する。基準の電荷蓄積時間(最小露光時間)Tminは、取得すべき画像データのフレーム数Nを決定する際の基準となる時間であり、第1の閾値Tmaxの半分以下の値に予め決められている。   In step S205, the exposure control unit 108a determines the number of frames of image data to be acquired (the number of frames to be captured) N. That is, the exposure control unit 108a determines the number N of frames of image data to be acquired based on the result of dividing the temporary charge accumulation time Ttmp by the reference charge accumulation time (minimum exposure time) Tmin. The reference charge accumulation time (minimum exposure time) Tmin is a time used as a reference when determining the number N of frames of image data to be acquired, and is determined in advance to a value equal to or less than half of the first threshold value Tmax. .

例えば、露出制御部108aは、仮の電荷蓄積時間Tetmpが基準の電荷蓄積時間Tminで割り切れれば、その商を、取得すべき画像データのフレーム数Nとする。ここで、仮の電荷蓄積時間Tetmp=1/50[s]、基準の電荷蓄積時間Tmin=1/200[s]であるとすると、露出制御部108aは、Tetmp÷Tmin=1/50÷1/200=4を、取得すべき画像データのフレーム数Nとする。   For example, if the temporary charge accumulation time Ttmp is divisible by the reference charge accumulation time Tmin, the exposure control unit 108a sets the quotient as the number N of frames of image data to be acquired. Here, assuming that the provisional charge accumulation time Ttmp = 1/50 [s] and the reference charge accumulation time Tmin = 1/200 [s], the exposure control unit 108a has the Ttmp / Tmin = 1/50/1. Let / 200 = 4 be the number N of frames of image data to be acquired.

例えば、露出制御部108aは、仮の電荷蓄積時間Tetmpが基準の電荷蓄積時間Tminで割り切れない場合、その商に1加えた値を、取得すべき画像データのフレーム数Nとする。   For example, when the temporary charge accumulation time Ttmp is not divisible by the reference charge accumulation time Tmin, the exposure control unit 108a sets the value obtained by adding 1 to the quotient as the number N of frames of image data to be acquired.

例えば、露出制御部108aは、仮の電荷蓄積時間Tetmpが基準の電荷蓄積時間Tminで割り切れない場合、割り切れるように基準の電荷蓄積時間Tminを短く調整する。露出制御部108aは、仮の電荷蓄積時間Tetmpを調整後の基準の電荷蓄積時間Tminで割った商を、取得すべき画像データのフレーム数Nとする。   For example, when the temporary charge accumulation time Ttmp is not divisible by the reference charge accumulation time Tmin, the exposure control unit 108a adjusts the reference charge accumulation time Tmin to be divisible. The exposure control unit 108a sets the quotient obtained by dividing the temporary charge accumulation time Ttmp by the adjusted reference charge accumulation time Tmin as the number N of frames of image data to be acquired.

例えば、露出制御部108aは、仮の電荷蓄積時間Tetmpが基準の電荷蓄積時間Tminで割り切れない場合、絞り101の開度(及びAFE部104のゲイン)を制御することにより、割り切れるように仮の電荷蓄積時間Tetmpを調整する。露出制御部108aは、調整後の仮の電荷蓄積時間Tetmpを基準の電荷蓄積時間Tminで割った商を、取得すべき画像データのフレーム数Nとする。   For example, when the temporary charge accumulation time Ttmp is not divisible by the reference charge accumulation time Tmin, the exposure control unit 108a controls the opening degree of the aperture 101 (and the gain of the AFE unit 104) so as to be divisible. The charge accumulation time Tetmp is adjusted. The exposure control unit 108a sets the quotient obtained by dividing the adjusted temporary charge accumulation time Ttmp by the reference charge accumulation time Tmin as the number N of frames of image data to be acquired.

ステップS206では、露出制御部108aが、仮の電荷蓄積時間TetmpをNフレームの数で分割した分割蓄積時間Tdで信号を蓄積するように撮像素子102を制御する。   In step S206, the exposure control unit 108a controls the image sensor 102 so as to accumulate a signal with a divided accumulation time Td obtained by dividing the temporary charge accumulation time Ttmp by the number of N frames.

例えば、露出制御部108aは、仮の電荷蓄積時間Tetmpが基準の電荷蓄積時間Tminで割り切れる場合又は割り切れるように調整した場合、基準の電荷蓄積時間Tminを分割蓄積時間Tdとする。   For example, when the temporary charge accumulation time Ttmp is divisible by the reference charge accumulation time Tmin or is adjusted to be divisible, the exposure control unit 108a sets the reference charge accumulation time Tmin as the divided accumulation time Td.

例えば、露出制御部108aは、仮の電荷蓄積時間Tetmpを基準の電荷蓄積時間Tminで割った商に1加えた値を画像データのフレーム数Nとした場合、仮の電荷蓄積時間Tetmpを画像データのフレーム数Nで割った値を分割蓄積時間Tdとする。   For example, when the value obtained by adding 1 to the quotient obtained by dividing the temporary charge accumulation time Ttmp by the reference charge accumulation time Tmin is set to the number of frames N of the image data, the exposure control unit 108a sets the temporary charge accumulation time Ttmp as the image data. The value divided by the number N of frames is defined as the divided accumulation time Td.

ドライバ部103は、フレーム数Nと分割蓄積時間Tdとの情報を露光制御部108aから受け取り、図3で示すようなスタートパルスを生成する。図3は、ドライバ部103は、スタートパルスの立ち下がりタイミング300に応じて、垂直走査パルスを生成するための値をカウントし始める。ドライバ部103は、垂直走査パルスを介して撮像素子102の画素配列の所定行を選択する。   The driver unit 103 receives information about the number of frames N and the divided accumulation time Td from the exposure control unit 108a, and generates a start pulse as shown in FIG. In FIG. 3, the driver unit 103 starts counting a value for generating a vertical scanning pulse in accordance with the start pulse falling timing 300. The driver unit 103 selects a predetermined row of the pixel array of the image sensor 102 via the vertical scanning pulse.

ドライバ部103は、垂直走査パルスを介して選択している所定行の画素を、タイミング301〜302に電子シャッターによりリセットする。ドライバ部103は、タイミング302にリセットを解除し、分割蓄積期間Td経過後のタイミング303までリセットを行わないことにより、垂直走査パルスを介して選択している所定行の画素に分割蓄積期間Tdで電荷蓄積動作を行わせる。   The driver unit 103 resets pixels in a predetermined row selected via the vertical scanning pulse at timings 301 to 302 by an electronic shutter. The driver unit 103 releases the reset at timing 302 and does not reset until timing 303 after the lapse of the divided accumulation period Td, so that the pixels in a predetermined row selected through the vertical scanning pulse are divided into the divided accumulation period Td. Charge accumulation operation is performed.

同様に、ドライバ部103は、タイミング303〜304、タイミング305〜306、タイミング307〜308、及びタイミング307〜308において、電子シャッターをアクティブにして撮像素子102の画素配列の各画素をリセットする。ドライバ部103は、タイミング304〜305、タイミング306〜307、及びタイミング308〜309において、選択している所定行の画素に分割蓄積期間Tdで電荷蓄積動作を行わせる。   Similarly, at timings 303 to 304, timings 305 to 306, timings 307 to 308, and timings 307 to 308, the driver unit 103 activates the electronic shutter and resets each pixel in the pixel array of the image sensor 102. The driver unit 103 causes the selected row of pixels to perform the charge accumulation operation in the divided accumulation period Td at timings 304 to 305, timings 306 to 307, and timings 308 to 309.

また、ドライバ部103は、水平転送信号を介して、タイミング302〜303、タイミング304〜305、タイミング306〜307、及びタイミング308〜309で取得された画素信号を、順次に後段へ出力させる(図3参照)。   Further, the driver unit 103 sequentially outputs the pixel signals acquired at timings 302 to 303, timings 304 to 305, timings 306 to 307, and timings 308 to 309 to the subsequent stage via the horizontal transfer signal (FIG. 3).

生成部105aは、撮像素子102により分割蓄積時間Tdで信号が蓄積されて生成されたNフレーム分の画像信号をAFE部104経由で受けて、仮の画像データをNフレームA〜Dについて順次に生成する(図3参照)。生成部105aは、NフレームA〜Dの仮の画像データをフレームメモリ106に記憶する。   The generation unit 105a receives image signals for N frames generated by signals accumulated by the image sensor 102 at the division accumulation time Td via the AFE unit 104, and sequentially receives temporary image data for N frames A to D. Generate (see FIG. 3). The generation unit 105 a stores temporary image data of N frames A to D in the frame memory 106.

ステップS207では、画像比較部105bが、NフレームA〜Dの仮の画像データを比較して、NフレームA〜Dの画像における動き領域と静止領域とを検出する。そして、画像比較部105bは、検出した結果に基づいて、NフレームA〜Dにおける動き領域が存在するか否かを判断する。   In step S207, the image comparison unit 105b compares the temporary image data of the N frames A to D, and detects the motion area and the still area in the images of the N frames A to D. Then, the image comparison unit 105b determines whether there is a motion region in the N frames A to D based on the detected result.

例えば、画像比較部105bは、フレームAとフレームBとで仮の画像データを構成する画素毎の輝度レベルの差分を算出し、ある閾値以上の画素位置(Dxy)を検出する。画像比較部105bは、検出された差分の大きい画素位置DxyがX方向またはY方向にある複数画素以上連続して存在する場合に、その領域を動き領域として検出する。また、画像比較部105bは、画像データにおいて動き領域以外の領域を静止領域として検出する。このようにして、画像比較部105bは、フレームAの画像とフレームBの画像とにおける動き領域と静止領域とを検出する。この場合、画像比較部105bは、Dxyが連続して分布するX位置の最大値及び最小値とY位置の最大値及び最小値とで囲まれる領域(例えば、図4に実線で示す領域400,401)を仮の動き領域としてその位置を記憶する。   For example, the image comparison unit 105b calculates a difference in luminance level for each pixel constituting the temporary image data between the frame A and the frame B, and detects a pixel position (Dxy) that is equal to or greater than a certain threshold value. When the detected pixel position Dxy having a large difference exists continuously for a plurality of pixels in the X direction or the Y direction, the image comparison unit 105b detects the region as a motion region. Further, the image comparison unit 105b detects an area other than the motion area in the image data as a still area. In this manner, the image comparison unit 105b detects the motion area and the still area in the frame A image and the frame B image. In this case, the image comparison unit 105b has a region surrounded by the maximum and minimum values of the X position and the maximum and minimum values of the Y position where Dxy is continuously distributed (for example, a region 400, indicated by a solid line in FIG. 4). 401) is stored as a temporary motion area.

同様にして、画像比較部105bは、フレームBとフレームCとの仮の画像データを比較して、フレームBの画像とフレームCの画像とにおける仮の動き領域を検出する。画像比較部105bは、フレームCとフレームDとの仮の画像データを比較して、フレームCの画像とフレームDの画像とにおける仮の動き領域を検出する。   Similarly, the image comparison unit 105b compares the temporary image data of the frame B and the frame C, and detects a temporary motion region in the image of the frame B and the image of the frame C. The image comparison unit 105b compares the temporary image data of the frame C and the frame D, and detects a temporary motion area in the image of the frame C and the image of the frame D.

このようにして、画像比較部105bは、フレームA,Bの画像間、フレームB,Cの画像間、及びフレームC,Dの画像間の仮の動き領域の論理和を演算し、NフレームA〜Dの画像における(図4に破線で示す)動き領域500,501等を検出する。また、画像比較部105bは、NフレームA〜Dにおける動き領域500,501等以外の領域を静止領域として検出する。画像比較部105bは、NフレームA〜Dにおける動き領域を検出した場合、NフレームA〜Dの画像における動き領域が存在すると判断する。   In this way, the image comparison unit 105b calculates a logical sum of temporary motion areas between the images of the frames A and B, between the images of the frames B and C, and between the images of the frames C and D. The motion regions 500, 501 and the like (indicated by broken lines in FIG. 4) in the images of. In addition, the image comparison unit 105b detects a region other than the motion regions 500, 501 and the like in the N frames A to D as a still region. When detecting the motion area in the N frames A to D, the image comparison unit 105b determines that there is a motion area in the images of the N frames A to D.

なお、画像比較部105bは、各フレームの被写体領域を検出し、各フレームの被写体領域の位置の違いから、各フレームにおける動き領域と静止領域とを検出してもよい。   Note that the image comparison unit 105b may detect the subject area of each frame and detect the motion area and the still area in each frame from the difference in the position of the subject area of each frame.

画像比較部105bは、NフレームA〜Dにおける動き領域が存在すると判断する場合、処理をステップS209へ進め、NフレームA〜Dにおける動き領域が存在しないと判断する場合、処理をステップS208へ進める。   If the image comparison unit 105b determines that there is a motion region in the N frames A to D, the process proceeds to step S209. If the image comparison unit 105b determines that there is no motion region in the N frames A to D, the process proceeds to step S208. .

ステップS208では、加算部105cが、NフレームA〜Dの仮の画像データを互いに加算することにより、画像データを生成する。   In step S208, the adding unit 105c generates the image data by adding the temporary image data of N frames A to D to each other.

ステップS209では、加算部105cが、NフレームA〜Dにおける静止領域のデータを互いに加算する。これにより、加算された静止領域のデータは、撮像素子102により仮の電荷蓄積時間Tetmpで仮の画像データにおける動き領域が撮像された場合の輝度レベルになる。   In step S209, the adding unit 105c adds the data of the still areas in the N frames A to D to each other. As a result, the data of the added still area becomes a luminance level when the moving area in the temporary image data is imaged by the image sensor 102 during the temporary charge accumulation time Ttmp.

例えば、NフレームA〜Dのそれぞれの仮の画像データが分割蓄積時間Td≒(仮の電荷蓄積時間Tetmp)/4で撮像して得られた場合を考える。この場合、各フレームA〜Dにおける静止領域の輝度レベルは、仮の電荷蓄積時間Tetmpで撮像された場合の静止領域の輝度レベルの1/4程度になる。それに対して、4つのフレームA〜Dの画像間で静止領域のデータを加算する(図5参照)ので、加算された静止領域のデータの輝度レベルは、仮の電荷蓄積時間Tetmpで撮像された場合の静止領域のデータの輝度レベルと同等になる。   For example, consider a case where temporary image data of each of the N frames A to D is obtained by imaging with a divided storage time Td≈ (temporary charge storage time Ttmp) / 4. In this case, the brightness level of the still area in each of the frames A to D is about ¼ of the brightness level of the still area when the image is captured in the temporary charge accumulation time Ttmp. On the other hand, since the data of the still area is added between the images of the four frames A to D (see FIG. 5), the luminance level of the data of the added still area is imaged during the temporary charge accumulation time Ttmp. In this case, the brightness level of the data in the still area is equivalent.

一方、決定部105eは、撮像素子102により仮の電荷蓄積時間Tetmpで仮の画像データにおける動き領域が撮像された場合の輝度レベルになるように、増幅部105dが動き領域のデータを増幅するための第1の増幅率を決定する。増幅部105dは、決定された第1の増幅率の情報を決定部105eから受け取る。増幅部105dは、NフレームA〜Dのいずれかにおける動き領域500,501,・・・のデータに、決定部105eにより決定された第1の増幅率Nを乗じる(N倍に増幅する)。   On the other hand, the determination unit 105e causes the amplification unit 105d to amplify the data in the motion region so that the luminance level is obtained when the motion region in the temporary image data is captured with the temporary charge accumulation time Ttmp by the imaging element 102. The first amplification factor is determined. The amplification unit 105d receives information about the determined first amplification factor from the determination unit 105e. The amplification unit 105d multiplies the data of the motion regions 500, 501,... In any one of the N frames A to D by the first amplification factor N determined by the determination unit 105e (amplifies the data by N times).

例えば、NフレームA〜Dのそれぞれの仮の画像データが分割蓄積時間Td≒(仮の電荷蓄積時間Tetmp)/4で撮像して得られた場合を考える。この場合、各フレームA〜Dにおける静止領域の輝度レベルは、仮の電荷蓄積時間Tetmpで撮像された場合の静止領域の輝度レベルの1/4程度になる。それに対して、決定部105eは、取得すべき画像データのフレーム数が「4」であることに応じて、第1の増幅率Nを「4」に決定する。増幅部105dは、NフレームA〜Dにおける動き領域500,501,・・・から、合成する対象となるフレームBにおける動き領域500,501を選択する。増幅部105dは、選択したフレームBにおける動き領域500,501のデータを、第1の増幅率N=「4」で増幅する。これにより、4倍に増幅された動き領域のデータの輝度レベルは、仮の電荷蓄積時間Tetmpで撮像された場合の静止領域のデータの輝度レベルと同等になる。   For example, consider a case where temporary image data of each of the N frames A to D is obtained by imaging with a divided storage time Td≈ (temporary charge storage time Ttmp) / 4. In this case, the brightness level of the still area in each of the frames A to D is about ¼ of the brightness level of the still area when the image is captured in the temporary charge accumulation time Ttmp. On the other hand, the determination unit 105e determines the first amplification factor N to be “4” in response to the number of frames of image data to be acquired being “4”. The amplifying unit 105d selects the motion regions 500, 501 in the frame B to be synthesized from the motion regions 500, 501,... In the N frames A to D. The amplification unit 105d amplifies the data of the motion regions 500 and 501 in the selected frame B with the first amplification factor N = “4”. As a result, the luminance level of the data in the motion region amplified four times becomes equal to the luminance level of the data in the still region when the image is captured in the temporary charge accumulation time Ttmp.

なお、増幅部105dは、合成する対象となる動き領域をフレームB以外のフレームから選択しても良く、複数の動き領域を互いに異なるフレームから選択しても良い。また、画像処理部105が各フレームの各動き領域に対してより高度な画像解析を行い、増幅部105dが、その結果を受けて、より動きの少ない動き領域を選択しても良い。   Note that the amplifying unit 105d may select a motion region to be synthesized from frames other than the frame B, or may select a plurality of motion regions from different frames. Further, the image processing unit 105 may perform more advanced image analysis on each motion region of each frame, and the amplification unit 105d may select a motion region with less motion in response to the result.

生成部105aは、増幅部105dにより第1の増幅率で増幅されたフレームBの動き領域500,501のデータと、加算部105cにより加算された静止領域のデータとを合成することにより、画像データを生成する。   The generation unit 105a combines the data of the motion regions 500 and 501 of the frame B amplified by the amplification unit 105d with the first amplification factor and the data of the still region added by the addition unit 105c, thereby generating image data. Is generated.

例えば、生成部105aは、図5に示すように、仮の画像データに代えて、増幅部105dにより増幅された動き領域500,501のデータと、加算部105cにより加算された静止領域のデータとを合成することにより、画像データを生成する。   For example, as illustrated in FIG. 5, the generation unit 105a replaces the temporary image data with the data of the motion areas 500 and 501 amplified by the amplification unit 105d and the data of the still area added by the addition unit 105c. Are combined to generate image data.

以上のように、それぞれ分割蓄積時間で撮像することにより取得されたNフレームの仮の画像データにおいて、仮の電荷蓄積時間Tetmpで撮像された場合と同等の輝度レベルが得られるように、加算又は増幅が行われる。これにより、分割蓄積時間で撮像した場合であっても、露出値が適正に調整された画像データを得ることができる。すなわち、所定の適正な露出値が得られるように、露出を制御することができる。   As described above, in the temporary image data of N frames acquired by imaging with each divided accumulation time, addition or so as to obtain a luminance level equivalent to the case of imaging with the temporary charge accumulation time Ttmp Amplification is performed. Thereby, even if it is a case where it image | photographs by division | segmentation accumulation | storage time, the image data by which the exposure value was adjusted appropriately can be obtained. That is, the exposure can be controlled so that a predetermined appropriate exposure value is obtained.

また、Nフレームにおける静止領域のデータを互いに加算するとともに、Nフレームのいずれかにおける動き領域のデータをN倍に増幅するので、静止領域の画質を向上することができるとともに動き領域の被写体ぶれや手ぶれを防ぐことができる。これにより、得られる静止画像の品位を向上できる。   In addition, since the data of the still area in the N frame is added to each other and the data of the motion area in any of the N frames is amplified N times, the image quality of the still area can be improved and the subject blur in the motion area can be improved. Camera shake can be prevented. Thereby, the quality of the obtained still image can be improved.

したがって、露出を制御しながら静止画像の品位を向上できる。   Therefore, the quality of the still image can be improved while controlling the exposure.

次に、本発明の第2実施形態に係る撮像装置1aを説明する。以下では、第1実施形態と異なる部分を中心に説明し、同様の部分の説明を省略する。   Next, an imaging apparatus 1a according to a second embodiment of the present invention will be described. Below, it demonstrates centering on a different part from 1st Embodiment, and abbreviate | omits description of the same part.

撮像装置1aは、その基本的な構成は第1実施形態と同様であるが、その動作が図6に示すように第1実施形態と異なる。図6は、静止画撮影が行われる際の第2実施形態に係る撮像装置1aの動作を示すフローチャートである。   The basic configuration of the imaging apparatus 1a is the same as that of the first embodiment, but its operation is different from that of the first embodiment as shown in FIG. FIG. 6 is a flowchart showing the operation of the imaging apparatus 1a according to the second embodiment when still image shooting is performed.

ステップS604では、撮像装置1aが、仮の電荷蓄積時間Tetmpが第1の閾値Tmaxを超えていることに応じて、複数露光撮影処理を行う。具体的には、撮像装置1aは、ステップS205〜S611の処理を行う。   In step S604, the imaging apparatus 1a performs the multiple exposure photographing process in response to the provisional charge accumulation time Ttmp exceeding the first threshold value Tmax. Specifically, the imaging device 1a performs the processes of steps S205 to S611.

ステップS610では、画像比較部105bが、NフレームA〜DのうちのMフレーム(MはNより小さい自然数)の画像の動き領域において動き量が第2の閾値未満であることを検出する。すなわち、画像比較部105bが、NフレームA〜DのうちのMフレームの画像の動き領域において動きがないことを検出する。   In step S610, the image comparison unit 105b detects that the motion amount is less than the second threshold in the motion region of the image of M frames (M is a natural number smaller than N) among the N frames A to D. That is, the image comparison unit 105b detects that there is no motion in the motion region of the M frame image among the N frames A to D.

例えば、画像比較部105bは、フレームAの動き領域707とフレームBの動き領域700とを比較することにより、動き領域707と動き領域700との間の動き量が第2の閾値未満であることを検出する。すなわち、画像比較部105bは、NフレームA〜DにうちのMフレームA,Bの動き領域707,700において動き量が第2の閾値未満であることを検出する。   For example, the image comparison unit 105b compares the motion region 707 of the frame A and the motion region 700 of the frame B, so that the motion amount between the motion region 707 and the motion region 700 is less than the second threshold. Is detected. That is, the image comparison unit 105b detects that the amount of motion is less than the second threshold in the motion regions 707 and 700 of the M frames A and B among the N frames A to D.

例えば、画像比較部105bは、フレームCの動き領域704とフレームDの動き領域706とを比較することにより、動き領域704と動き領域706との間の動き量が第2の閾値未満であることを検出する。すなわち、画像比較部105bは、NフレームA〜DのうちのMフレームC,Dの動き領域704,706において動き量が第2の閾値未満であることを検出する。   For example, the image comparison unit 105b compares the motion region 704 of the frame C and the motion region 706 of the frame D so that the motion amount between the motion region 704 and the motion region 706 is less than the second threshold. Is detected. That is, the image comparison unit 105b detects that the amount of motion is less than the second threshold in the motion regions 704 and 706 of the M frames C and D among the N frames A to D.

ステップS611では、加算部105cが、NフレームA〜Dにおける静止領域のデータを互いに加算する。これにより、加算された静止領域のデータは、撮像素子102により仮の電荷蓄積時間Tetmpで仮の画像データにおける動き領域が撮像された場合の輝度レベルになる。   In step S611, the adding unit 105c adds the data of the still areas in the N frames A to D to each other. As a result, the data of the added still area becomes a luminance level when the moving area in the temporary image data is imaged by the image sensor 102 during the temporary charge accumulation time Ttmp.

また、加算部105cは、ステップS610で動き量が第2の閾値未満であると検出された動き領域のデータを、Mフレームの画像の間で加算する。   In addition, the adding unit 105c adds the data of the motion area, in which the amount of motion is detected to be less than the second threshold value in step S610, between the M frame images.

例えば、加算部105cは、フレームAの動き領域707のデータとフレームBの動き領域700のデータとを加算する。すなわち、加算部105cは、MフレームA,Bにおける動き領域707,700のデータを互いに加算する。   For example, the adding unit 105c adds the data in the motion area 707 in frame A and the data in the motion area 700 in frame B. That is, the adding unit 105c adds the data of the motion areas 707 and 700 in the M frames A and B to each other.

例えば、加算部105cは、フレームCの動き領域704のデータとフレームDの動き領域706のデータとを加算する。すなわち、加算部105cは、MフレームC,Dにおける動き領域704,706のデータを互いに加算する。   For example, the adding unit 105c adds the data in the motion area 704 in frame C and the data in the motion area 706 in frame D. That is, the adding unit 105c adds the data of the motion areas 704 and 706 in the M frames C and D to each other.

一方、決定部105eは、撮像素子102により仮の電荷蓄積時間Tetmpで仮の画像データにおける動き領域が撮像された場合の輝度レベルになるように、増幅部105dが動き領域のデータを増幅するための増幅率(第2の増幅率;N/M)を決定する。増幅部105dは、第2の増幅率の情報を決定部105eから受け取る。増幅部105dは、加算部105cにより加算された動き領域のデータを、第2の増幅率N/Mで増幅する(N/M倍に増幅する)。   On the other hand, the determination unit 105e causes the amplification unit 105d to amplify the data in the motion region so that the luminance level is obtained when the motion region in the temporary image data is captured with the temporary charge accumulation time Ttmp by the imaging element 102. The second amplification factor (second amplification factor; N / M) is determined. The amplification unit 105d receives information on the second amplification factor from the determination unit 105e. The amplifying unit 105d amplifies the data of the motion region added by the adding unit 105c with the second amplification factor N / M (amplifies the data by N / M times).

例えば、NフレームA〜Dのそれぞれの仮の画像データが分割蓄積時間Td≒(仮の電荷蓄積時間Tetmp)/4で撮像して得られた場合を考える。この場合、各フレームA〜Dにおける静止領域の輝度レベルは、仮の電荷蓄積時間Tetmpで撮像された場合の静止領域の輝度レベルの1/4程度になる。それに対して、決定部105eは、取得すべき画像データのフレーム数が「4」であり、加算された画像データのフレーム数が「2」であることに応じて、増幅部105dが動き領域のデータに乗じるためのゲイン(第2の増幅率)を4÷2=2に決定する。増幅部105dは、2フレームA,Bにおいて加算された動き領域707,700のデータを第2の増幅率「2」で増幅する。また、増幅部105dは、2フレームC,Dにおいて加算された動き領域704,706のデータを第2の増幅率「2」で増幅する。これにより、加算されて増幅された動き領域のデータの輝度レベルは、仮の電荷蓄積時間Tetmpで撮像された場合の静止領域のデータの輝度レベルと同等になる。   For example, consider a case where temporary image data of each of the N frames A to D is obtained by imaging with a divided storage time Td≈ (temporary charge storage time Ttmp) / 4. In this case, the brightness level of the still area in each of the frames A to D is about ¼ of the brightness level of the still area when the image is captured in the temporary charge accumulation time Ttmp. On the other hand, in response to the number of frames of the image data to be acquired being “4” and the number of frames of the added image data being “2”, the determination unit 105e causes the amplification unit 105d to A gain (second amplification factor) for multiplying the data is determined to be 4/2 = 2. The amplification unit 105d amplifies the data of the motion regions 707 and 700 added in the two frames A and B with the second amplification factor “2”. Further, the amplification unit 105d amplifies the data of the motion regions 704 and 706 added in the two frames C and D with the second amplification factor “2”. As a result, the luminance level of the data in the motion region that has been added and amplified is equivalent to the luminance level of the data in the still region when the image is captured in the temporary charge accumulation time Ttmp.

生成部105aは、増幅部105dにより第2の増幅率N/Mで増幅された動き領域のデータと、加算部105cにより加算された静止領域のデータとを合成することにより、画像データを生成する。   The generation unit 105a generates image data by combining the motion region data amplified by the amplification unit 105d with the second amplification factor N / M and the still region data added by the addition unit 105c. .

例えば、生成部105aは、図8に示すように、第2の増幅率N/Mでそれぞれ増幅された動き領域707,700のデータ及び動き領域704,706のデータと、加算部105cによりNフレームの画像の間で加算された静止領域のデータとを合成する。これにより、生成部105aは、画像データを生成する。   For example, as illustrated in FIG. 8, the generation unit 105a uses the data of the motion regions 707 and 700 and the data of the motion regions 704 and 706 amplified by the second amplification factor N / M, and N frames by the addition unit 105c. The data of the still area added between the images is synthesized. Thereby, the generation unit 105a generates image data.

以上のように、Nフレームの動き領域において、動きが少ない動き領域のデータどうしを加算して増幅するので、動き領域のブレ・ボケを防ぎながら動き領域の画質を向上できる。この結果、得られる静止画像の品位をさらに向上できる。   As described above, in the motion region of N frames, the motion region data with less motion are added and amplified, so that the image quality of the motion region can be improved while preventing blurring and blurring of the motion region. As a result, the quality of the obtained still image can be further improved.

本発明の第1実施形態に係る撮像装置1の構成図。1 is a configuration diagram of an imaging apparatus 1 according to a first embodiment of the present invention. 静止画撮影が行われる際の撮像装置1の動作を示すフローチャート。6 is a flowchart showing the operation of the imaging apparatus 1 when still image shooting is performed. ドライバ部が生成する駆動パルスを示すタイミングチャート。The timing chart which shows the drive pulse which a driver part produces | generates. 取得される仮の画像データを示す図。The figure which shows the temporary image data acquired. 合成される画像データを示す図。The figure which shows the image data synthesize | combined. 静止画撮影が行われる際の第2実施形態に係る撮像装置1aの動作を示すフローチャート。The flowchart which shows operation | movement of the imaging device 1a which concerns on 2nd Embodiment at the time of still image photography. 取得される仮の画像データを示す図。The figure which shows the temporary image data acquired. 合成される画像データを示す図。The figure which shows the image data synthesize | combined.

符号の説明Explanation of symbols

1,1a 撮像装置
101 絞り
102 撮像素子
105a 生成部
105b 画像比較部
105c 加算部
105d 増幅部
105e 決定部
108a 露出制御部
DESCRIPTION OF SYMBOLS 1,1a Image pick-up device 101 Aperture 102 Imaging element 105a Generation part 105b Image comparison part 105c Addition part 105d Amplification part 105e Determination part 108a Exposure control part

Claims (7)

適正露出の画像を撮影するために必要なシャッター速度の1/N(Nは2のべき乗)のシャッター速度で連続的に撮影されたNフレームの画像を用い、適正露出の画像を得る撮像装置であって、
前記Nフレームの画像を通じて動きのない静止領域と、前記Nフレームの画像における少なくとも2フレームの画像間で動きのある動き領域とを検出する検出手段と、
前記Nフレームの画像の間で前記静止領域のデータを加算する加算手段と、
前記加算手段により前記動き領域のデータが加算されなかった場合に前記動き領域のデータを前記N倍に増幅する増幅手段と、
前記加算手段により加算された前記静止領域のデータと、前記増幅手段により増幅された前記動き領域のデータとを合成することにより、画像データを生成する生成手段と、
を備えたことを特徴とする撮像装置。
An imaging device that obtains an image with an appropriate exposure using images of N frames continuously captured at a shutter speed of 1 / N (N is a power of 2) of the shutter speed required for capturing an image with an appropriate exposure. There,
Detecting means for detecting a stationary region that does not move through the N frame image and a moving region that moves between at least two frames in the N frame image;
Adding means for adding the data of the still area between the images of the N frames;
Amplifying means for amplifying the motion area data N times when the motion area data is not added by the adding means;
Generating means for generating image data by combining the data of the still area added by the adding means and the data of the motion area amplified by the amplifying means;
An imaging apparatus comprising:
電荷蓄積時間に各画素で受けた光に応じた画像信号を生成する撮像手段と、
前記撮像手段が受ける光の量を調整する絞りと、
前記電荷蓄積時間と前記絞りの開度とを制御して、前記撮像手段の露光量を制御する露出制御手段と、
をさらに備え、
前記露出制御手段は、前記露光量が予め定められた露出値になるように、前記絞りの開度に応じた仮の電荷蓄積時間を求め、前記仮の電荷蓄積時間が第1の閾値を超えているか否かを判断し、前記仮の電荷蓄積時間が前記第1の閾値を超えている場合、前記仮の電荷蓄積時間を前記Nで分割した分割蓄積時間を前記電荷蓄積時間として前記撮像手段を制御し、
前記生成手段は、前記撮像手段により前記分割蓄積時間を前記電荷蓄積時間として生成された前記Nフレーム分の画像信号を受けて、仮の画像データを前記Nフレームについて生成し、
前記検出手段は、前記Nフレームの前記仮の画像データを比較して、前記Nフレームの画像に対する前記動き領域と前記静止領域とを検出し、
前記加算手段は、前記検出手段により検出された前記静止領域のデータを前記Nフレームの画像の間で加算し、
前記増幅手段は、前記検出手段により検出された前記動き領域のデータを前記N倍に増幅する
ことを特徴とする請求項1に記載の撮像装置。
Imaging means for generating an image signal corresponding to the light received by each pixel during the charge accumulation time;
An aperture for adjusting the amount of light received by the imaging means;
Exposure control means for controlling the charge accumulation time and the aperture of the diaphragm to control the exposure amount of the imaging means;
Further comprising
The exposure control means obtains a temporary charge accumulation time corresponding to the aperture of the diaphragm so that the exposure amount becomes a predetermined exposure value, and the temporary charge accumulation time exceeds a first threshold value. And when the provisional charge accumulation time exceeds the first threshold value, the image pickup means uses the divided accumulation time obtained by dividing the provisional charge accumulation time by N as the charge accumulation time. Control
The generation means receives the image signals for the N frames generated by the imaging means using the divided accumulation time as the charge accumulation time, and generates temporary image data for the N frames,
The detection means compares the temporary image data of the N frames, detects the motion region and the still region for the image of the N frames,
The adding means adds the data of the still area detected by the detecting means between the images of the N frames,
The imaging apparatus according to claim 1, wherein the amplification unit amplifies the data of the motion region detected by the detection unit N times.
前記検出手段は、前記NフレームのうちのM(Mは前記Nより小さい自然数)フレームの画像の前記動き領域において動きがないことを検出し、
前記加算手段は、前記Mフレームの画像の間で前記動き領域のデータを加算し、
前記増幅手段は、前記加算手段により前記Mフレームの画像の前記動き領域のデータが加算された場合に、加算された後の前記動き領域のデータをN/M倍に増幅する
ことを特徴とする請求項1に記載の撮像装置。
The detecting means detects that there is no motion in the motion region of an image of an M frame (M is a natural number smaller than N) of the N frames;
The adding means adds the data of the motion area between the images of the M frames,
The amplifying unit amplifies the data of the motion region after the addition by N / M times when the data of the motion region of the M frame image is added by the adding unit. The imaging device according to claim 1.
電荷蓄積時間に各画素で受けた光に応じた画像信号を生成する撮像手段と、
前記撮像手段が受ける光の量を調整する絞りと、
前記電荷蓄積時間と前記絞りの開度とを制御して、前記撮像手段の露光量を制御する露出制御手段と、
をさらに備え、
前記露出制御手段は、前記露光量が予め定められた露出値になるように、前記絞りの開度に応じた仮の電荷蓄積時間を求め、前記仮の電荷蓄積時間が第1の閾値を超えているか否か判断し、前記仮の電荷蓄積時間が前記第1の閾値を超えている場合、前記仮の電荷蓄積時間を前記Nで分割した分割蓄積時間を前記電荷蓄積時間として前記撮像手段を制御し、
前記生成手段は、前記撮像手段により前記分割蓄積時間を前記電荷蓄積時間として生成された前記Nフレーム分の画像信号を受けて、仮の画像データを前記Nフレームについて生成し、
前記検出手段は、前記Nフレームの前記仮の画像データを比較して、前記Nフレームの画像に対する前記動き領域と前記静止領域とを検出するとともに、前記NフレームのうちのMフレームの画像の間で前記動き領域における動き量が第2の閾値未満であることを検出し、
前記加算手段は、前記検出手段により検出された前記静止領域のデータを前記Nフレームの画像の間で加算し、前記検出手段により動き量が前記第2の閾値未満であることが検出された前記動き領域のデータを前記Mフレームの画像の間で加算し、
前記増幅手段は、前記加算手段により加算された前記動き領域のデータをN/M倍に増幅する
ことを特徴とする請求項3に記載の撮像装置。
Imaging means for generating an image signal corresponding to the light received by each pixel during the charge accumulation time;
An aperture for adjusting the amount of light received by the imaging means;
Exposure control means for controlling the charge accumulation time and the aperture of the diaphragm to control the exposure amount of the imaging means;
Further comprising
The exposure control means obtains a temporary charge accumulation time corresponding to the aperture of the diaphragm so that the exposure amount becomes a predetermined exposure value, and the temporary charge accumulation time exceeds a first threshold value. If the provisional charge accumulation time exceeds the first threshold value, the imaging means is configured to use the divided accumulation time obtained by dividing the provisional charge accumulation time by the N as the charge accumulation time. Control
The generation means receives the image signals for the N frames generated by the imaging means using the divided accumulation time as the charge accumulation time, and generates temporary image data for the N frames,
The detection means compares the provisional image data of the N frames to detect the motion region and the still region with respect to the N frame image, and between the M frame images of the N frames. And detecting that the amount of motion in the motion region is less than a second threshold,
The adding means adds the data of the still area detected by the detecting means between the images of the N frames, and the detecting means detects that the amount of movement is less than the second threshold value. Adding motion area data between the M frame images;
4. The imaging apparatus according to claim 3, wherein the amplifying unit amplifies the data of the motion region added by the adding unit by N / M times.
前記露出制御手段は、前記分割蓄積時間が、前記第1の閾値の半分以下に予め決められている基準の電荷蓄積時間になるように、前記Nを決定する
ことを特徴とする請求項2又は4に記載の撮像装置。
The said exposure control means determines the said N so that the said division | segmentation accumulation | storage time may become the reference | standard charge accumulation | storage time predetermined as half or less of the said 1st threshold value or, 5. The imaging device according to 4.
前記撮像手段により前記仮の電荷蓄積時間で前記仮の画像データにおける動き領域が撮像された場合の輝度レベルになるように、前記増幅手段が動き領域のデータを増幅するための増幅率を決定する決定手段をさらに備えた
ことを特徴とする請求項2、4、及び5のいずれか1項に記載の撮像装置。
The amplifying unit determines an amplification factor for amplifying the data in the motion region so that the luminance level is obtained when the motion region in the temporary image data is captured in the temporary charge accumulation time by the imaging unit. The imaging apparatus according to claim 2, further comprising a determination unit.
適正露出の画像を撮影するために必要なシャッター速度の1/N(Nは2のべき乗)のシャッター速度で連続的に撮影されたNフレームの画像を用い、適正露出の画像を得る撮像装置の制御方法であって、
前記Nフレームの画像を通じて動きのない静止領域と、前記Nフレームの画像における少なくとも2フレームの画像間で動きのある動き領域とを検出する検出ステップと、
前記Nフレームの画像の間で前記静止領域のデータを加算するとともに、前記NフレームのうちのM(Mは前記Nより小さい自然数)フレームの画像の前記動き領域において動きがない場合に前記Mフレームの画像の間で前記動き領域のデータを加算する加算ステップと、
前記加算ステップで前記動き領域のデータが加算されなかった場合に前記動き領域のデータを前記N倍に増幅し、前記加算ステップで前記Mフレームの画像の前記動き領域のデータが加算された場合に加算された後の前記動き領域のデータをN/M倍に増幅する増幅ステップと、
前記加算ステップで加算された前記静止領域のデータと、前記増幅ステップで増幅された前記動き領域のデータとを合成することにより、画像データを生成する生成ステップと、
を備えたことを特徴とする撮像装置の制御方法。
An imaging apparatus that obtains an image with an appropriate exposure using images of N frames continuously captured at a shutter speed of 1 / N (N is a power of 2) of the shutter speed necessary for capturing an image with an appropriate exposure. A control method,
A detection step of detecting a stationary region having no motion through the N frame image and a motion region having a motion between at least two frames of the N frame image;
When the data of the still region is added between the images of the N frames, and there is no motion in the motion region of the images of M (M is a natural number smaller than the N) of the N frames, the M frames An addition step of adding the motion region data between the images of
When the motion region data is not added in the addition step, the motion region data is amplified N times, and when the motion region data of the M frame image is added in the addition step. An amplification step of amplifying the motion region data after the addition by N / M times;
A step of generating image data by combining the data of the still region added in the adding step and the data of the motion region amplified in the amplification step;
An image pickup apparatus control method comprising:
JP2007316354A 2007-12-06 2007-12-06 Imaging apparatus and control method for the same Withdrawn JP2009141702A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007316354A JP2009141702A (en) 2007-12-06 2007-12-06 Imaging apparatus and control method for the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007316354A JP2009141702A (en) 2007-12-06 2007-12-06 Imaging apparatus and control method for the same

Publications (1)

Publication Number Publication Date
JP2009141702A true JP2009141702A (en) 2009-06-25

Family

ID=40871868

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007316354A Withdrawn JP2009141702A (en) 2007-12-06 2007-12-06 Imaging apparatus and control method for the same

Country Status (1)

Country Link
JP (1) JP2009141702A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9921643B2 (en) 2015-04-28 2018-03-20 Samsung Electronics Co., Ltd. Method and apparatus for extracting static pattern based on output of event-based sensor

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9921643B2 (en) 2015-04-28 2018-03-20 Samsung Electronics Co., Ltd. Method and apparatus for extracting static pattern based on output of event-based sensor
USRE48780E1 (en) 2015-04-28 2021-10-19 Samsung Electronics Co., Ltd. Method and apparatus for extracting static pattern based on output of event-based sensor

Similar Documents

Publication Publication Date Title
US8081220B2 (en) Digital still camera and method of controlling image combination
JP5167094B2 (en) Imaging apparatus and imaging method
JP6082274B2 (en) Imaging apparatus and control method thereof
JP4745851B2 (en) Imaging device
JP2010160311A (en) Imaging apparatus
JP4885902B2 (en) Imaging apparatus and control method thereof
KR20160044945A (en) Image photographing appratus
KR20090091597A (en) Apparatus and method for compensating backlight of camera
JP2005236662A (en) Imaging method, imaging device, and imaging system
JP2006245815A (en) Imaging apparatus
JP4898151B2 (en) Imaging apparatus and imaging method
JP2006148550A (en) Image processor and imaging device
JP5618765B2 (en) Imaging apparatus and control method thereof
JP2011087050A (en) Digital camera
JP2009118164A (en) Camera
JP5947625B2 (en) Imaging apparatus and control method thereof
JP5354879B2 (en) camera
JP2008301161A (en) Image processing device, digital camera, and image processing method
JP2009141702A (en) Imaging apparatus and control method for the same
JP2008283477A (en) Image processor, and image processing method
JP2007184787A (en) Digital camera
JP2010081422A (en) Photographing apparatus
JP5929362B2 (en) Imaging apparatus and imaging method
KR101710627B1 (en) Photographing apparatus and photographing method
JP2005333491A (en) Imaging apparatus

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20110301