JP2012239076A - Imaging device and method - Google Patents

Imaging device and method Download PDF

Info

Publication number
JP2012239076A
JP2012239076A JP2011107502A JP2011107502A JP2012239076A JP 2012239076 A JP2012239076 A JP 2012239076A JP 2011107502 A JP2011107502 A JP 2011107502A JP 2011107502 A JP2011107502 A JP 2011107502A JP 2012239076 A JP2012239076 A JP 2012239076A
Authority
JP
Japan
Prior art keywords
image data
exposure
imaging
sensitivity
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011107502A
Other languages
Japanese (ja)
Inventor
Yoshifumi Sasai
義史 笹井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2011107502A priority Critical patent/JP2012239076A/en
Publication of JP2012239076A publication Critical patent/JP2012239076A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To easily obtain a wide dynamic range image.SOLUTION: A control unit 20 shifts a photographing mode from a normal photographing mode to a composition photographing mode in response to detection of the stillness of a subject by a still subject detection unit 34 based on image data captured from an imaging element 14 to execute the composition photographing mode. When the composition photographing mode is executed, an image processing circuit 23 combines three images which are a short-time exposure image, a normal exposure image, and a long-time exposure image generated by imaging an identical subject by the imaging element 14 with different exposure amounts to generate one wide dynamic range image.

Description

本発明は、複数回の撮像により取得した複数枚の画像を合成して1枚の合成画像を得る撮像装置及び方法に関するものである。   The present invention relates to an imaging apparatus and method for obtaining a single synthesized image by synthesizing a plurality of images acquired by a plurality of times of imaging.

従来、ダイナミックレンジの広い画像(以下「広ダイナミックレンジ画像」と称す)を生成するために、露光量を変えて撮像した同一被写体の複数の画像を、例えば加算平均による合成をして1枚の合成画像を得る撮像装置が知られている(特許文献1)。この撮像装置の画像合成手段は、標準より多い露光量で得られた画像データを低輝度側のデータとし、標準の露光量で得られた画像データを高輝度側のデータとし、標準より少ない露光量で得られた画像データを超高輝度側のデータとして、全てもしくは任意の組み合わせで画像データを合成している。   Conventionally, in order to generate an image with a wide dynamic range (hereinafter referred to as a “wide dynamic range image”), a plurality of images of the same subject picked up with different exposure amounts are combined by, for example, addition averaging to form one image An imaging apparatus that obtains a composite image is known (Patent Document 1). The image synthesizing means of this image pickup device uses image data obtained with an exposure amount larger than the standard as data on the low luminance side, and image data obtained with the standard exposure amount as data on the high luminance side. The image data obtained by the amount is combined as the data on the ultra-high brightness side, or the image data is synthesized in any combination.

特開平7−135599号公報Japanese Unexamined Patent Publication No. 7-135599

ところで、広ダイナミックレンジ画像を得る撮影は、一般的に撮影モードを変えることで実行される。撮影モードの変更は、背面にあるメニューボタン、十字ボタン、及びその真中にある決定ボタン等を操作して撮影モードの一覧をLCDに表示し、その中から択一的に選択するものである。   By the way, shooting for obtaining a wide dynamic range image is generally performed by changing the shooting mode. To change the shooting mode, a menu button on the back, a cross button, a determination button in the middle of the shooting mode, and the like are operated to display a list of shooting modes on the LCD, and an alternative is selected from the list.

例えばメニューの中から撮影モード一覧を選択するためには、メニューボタンを押し、メニューの項目の中から十字ボタンの上又は下カーソルを押して撮影モード一覧の項目を選択した後に決定ボタンを押す。その後、撮影モード一覧の中から該当するモードを選択するために、上又は下カーソルを押して該当するモードを選択した後に決定ボタンを押す。そして、最後にメニューを終了するためのメニューボタンを押す、というようにメニューボタン、十字ボタン、及び決定ボタン等を何回も押す操作が必要になり手間が掛かる。   For example, in order to select a shooting mode list from the menu, the menu button is pressed, and the up or down cursor of the cross button is selected from the menu items to select an item in the shooting mode list, and then the enter button is pressed. Thereafter, in order to select a corresponding mode from the shooting mode list, the up or down cursor is pressed to select the corresponding mode, and then the enter button is pressed. Then, it is necessary to repeatedly press the menu button, the cross button, the enter button, and the like, such as pressing a menu button for ending the menu, which is troublesome.

特に、広ダイナミックレンジ画像の撮影では、被写体が静止していることが重要なポイントになる。モード変更の操作に手間がかかると、その撮影のタイミングを逃してしまうおそれがある。   In particular, in photographing a wide dynamic range image, it is important that the subject is stationary. If it takes time to change the mode, there is a risk of missing the timing of the shooting.

本発明は、上記課題を解決するために、撮影タイミングを逃すことなく広ダイナミックレンジ画像を簡便に得ることができる撮像装置及び方法を提供することを目的とする。   In order to solve the above-described problems, an object of the present invention is to provide an imaging apparatus and method that can easily obtain a wide dynamic range image without missing the imaging timing.

本発明では、静止被写体を検出する静止被写体検出手段と;撮像素子により同一被写体を異なる露光量で撮像して生成した複数枚の本処理用画像データを合成して1枚の広ダイナミックレンジ画像データを生成する本処理合成手段と;静止被写体を検出することに応答して、前記本処理合成手段を実行する合成撮影モードに移行するモード移行手段と;を備えたものである。   In the present invention, a stationary subject detection means for detecting a stationary subject; and a plurality of main processing image data generated by imaging the same subject with different exposure amounts by an image sensor, and a single wide dynamic range image data And a mode transition means for shifting to a composite photographing mode for executing the main processing composition means in response to detection of a stationary subject.

静止被写体検出手段としては、撮像素子から得られる画像データに基づいて被写体が静止していることを検出する。例えば連続する2つの画像データの全画素、あるいは顔画像等の特徴領域の画素を比較して被写体が静止していることを検出すればよい。また、ドライブモードとして連写モードが選択された時には、合成撮影モードをキャンセルし、通常撮影モードを実行するのが好適である。   The stationary subject detection means detects that the subject is stationary based on image data obtained from the image sensor. For example, it is only necessary to detect that the subject is stationary by comparing all the pixels of two consecutive image data or the pixels of a feature area such as a face image. When the continuous shooting mode is selected as the drive mode, it is preferable to cancel the composite shooting mode and execute the normal shooting mode.

合成撮影モードの時には、ランダムノイズを軽減することが望ましい。そこで、撮像素子の感度を設定する設定手段と;前記撮像素子により同一被写体を異なる露光量で撮像して生成した複数枚の本処理用画像データを合成して1枚の広ダイナミックレンジ画像データを生成する本処理合成手段と;前記設定手段で設定される感度が閾値未満の低感度の場合、前記被写体を標準露光よりも少ない露光量で複数回撮像して生成した複数枚の前処理用画像データを1枚のノイズ軽減用画像データとして合成し、合成した前記ノイズ軽減用画像データを前記本処理用画像データのうちの最も露光量が低い露光条件で撮像した画像データとして出力する前処理合成手段と;を備えるのが好適である。   It is desirable to reduce random noise during the composite shooting mode. Therefore, setting means for setting the sensitivity of the image sensor; and a plurality of main processing image data generated by imaging the same subject with different exposure amounts by the image sensor to synthesize one wide dynamic range image data. A main processing composition unit to be generated; and a plurality of preprocessing images generated by imaging the subject a plurality of times with an exposure amount smaller than a standard exposure when the sensitivity set by the setting unit is low and less than a threshold value Pre-processing composition for combining data as a single image data for noise reduction, and outputting the synthesized image data for noise reduction as image data captured under an exposure condition having the lowest exposure amount among the image data for main processing And means.

前処理用画像データを取得するための撮像回数としては、感度に応じて変更することができるように構成するのが望ましい。例えば設定感度が閾値未満である低感度の範囲のうちの低感度程、撮像回数を増やすのが望ましい。   It is desirable that the number of times of imaging for acquiring the preprocessing image data can be changed according to the sensitivity. For example, it is desirable to increase the number of times of imaging in the low sensitivity range of the low sensitivity range where the set sensitivity is less than the threshold.

また、前処理合成手段としては、設定手段で設定される感度が閾値を超える高感度の場合、複数枚の本処理用画像データを構成する、最も露光量が低い露光条件で撮像した短時間露光画像データ、標準の露光条件で撮像した標準露光画像データ、及び最も露光量が高い露光条件で撮像した長時間露光データのそれぞれを、複数枚の前処理用画像データを合成して作るのが、高感度撮影時に生じ易いランダムノイズを軽減することができるため好適である。   In addition, as the pre-processing synthesis means, when the sensitivity set by the setting means is high sensitivity exceeding the threshold value, the short-time exposure imaged under the exposure condition with the lowest exposure amount constituting a plurality of main processing image data Each of image data, standard exposure image data imaged under standard exposure conditions, and long-time exposure data imaged under the exposure conditions with the highest exposure amount is created by combining a plurality of preprocessing image data. This is preferable because random noise that is likely to occur during high-sensitivity imaging can be reduced.

この場合、短時間露光画像データ用の前処理用画像データを取得するための撮像回数を「A」、前記標準露光画像データ用の前処理用画像データを取得するための撮像回数を「B」、及び前記長時間露光データ用の前処理用画像データを取得するための撮像回数を「C」とすると、A>B>Cの関係を満足するのが望ましい。   In this case, the number of times of imaging for acquiring pre-processing image data for short-time exposure image data is “A”, and the number of times of imaging for acquiring pre-processing image data for standard exposure image data is “B”. If the number of times of imaging for acquiring the pre-processing image data for the long-time exposure data is “C”, it is desirable that the relationship of A> B> C is satisfied.

また、この場合、前処理合成手段は、前処理用画像データを取得するための撮像回数を、高感度と判定した範囲のうちの高感度程、撮像回数が増えるように、感度に応じて変更するのが好適である。   Further, in this case, the preprocessing combining unit changes the number of times of imaging for acquiring the preprocessing image data according to the sensitivity so that the number of times of imaging increases as the sensitivity increases in the range determined to be high sensitivity. It is preferable to do this.

本発明では、静止被写体を検出することで自動的に合成撮影モードに移行するため、ランダムノイズを軽減した広ダイナミックレンジ画像を瞬時に得ることができる。   In the present invention, since the transition to the composite shooting mode is automatically performed by detecting a stationary subject, a wide dynamic range image with reduced random noise can be obtained instantaneously.

本発明を用いた電子カメラの電気的概略を示すブロック図である。It is a block diagram which shows the electrical outline of the electronic camera using this invention. 画像処理回路の詳しい構成を示すブロック図である。It is a block diagram which shows the detailed structure of an image processing circuit. 位置合わせ処理の構成を示すブロック部である。It is a block part which shows the structure of the alignment process. 合成撮影モードの動作手順を示すフローチャートである。It is a flowchart which shows the operation | movement procedure of composite imaging | photography mode. 図4で説明した動作手順の続きを示すフローチャート図である。FIG. 5 is a flowchart showing a continuation of the operation procedure described in FIG. 4. 高感度時の動作手順を示すフローチャート図である。It is a flowchart figure which shows the operation | movement procedure at the time of high sensitivity. 図6で説明した動作手順の続きを示すフローチャート図である。FIG. 7 is a flowchart showing a continuation of the operation procedure described in FIG. 6. 低感度の範囲における短時間露光画像データの取得枚数を変えた例を示す説明図である。It is explanatory drawing which shows the example which changed the acquisition number of the short-time exposure image data in the range of a low sensitivity. 高感度の範囲における短時間露光、標準露光、及び長時間露光との各画像データの取得枚数をそれぞれ変えた例を示す説明図である。It is explanatory drawing which shows the example which each changed the acquisition number of each image data with the short time exposure in the range of high sensitivity, standard exposure, and long time exposure.

本発明の撮像装置の一実施形態として電子カメラを説明する。電子カメラは、1回のシャッタレリーズに応答して、撮像素子により異なる露光量で撮像して得た複数枚の画像データを合成して1枚の広ダイナミックレンジ画像データを生成する合成撮影モードを有する。   An electronic camera will be described as an embodiment of the imaging apparatus of the present invention. In response to a single shutter release, the electronic camera has a composite shooting mode in which a plurality of pieces of image data obtained by imaging with different exposure amounts are combined to generate one wide dynamic range image data. Have.

電子カメラ10は、図1に示すうに、レンズ光学系11、絞り12,メカシャッタ13、撮像素子14、AFETG(アナログフロントエンド・タイミングジェネレータ)15、レンズ駆動部16、絞り駆動部17、シャッタ駆動部18、静止被写体検出回路、AE・AF回路19、制御部20、操作部21、LCD22、画像処理回路23、RAM24、ROM25、VRAM26、不揮発生メモリ27、メモリスロット28、及び外部メモリ29等で構成される。   As shown in FIG. 1, the electronic camera 10 includes a lens optical system 11, an aperture 12, a mechanical shutter 13, an image sensor 14, an AFETG (analog front-end timing generator) 15, a lens driving unit 16, an aperture driving unit 17, and a shutter driving unit. 18, still object detection circuit, AE / AF circuit 19, control unit 20, operation unit 21, LCD 22, image processing circuit 23, RAM 24, ROM 25, VRAM 26, nonvolatile raw memory 27, memory slot 28, external memory 29, etc. Is done.

レンズ駆動部16は、レンズ光学系11の変倍及び合焦動作を行う。絞り駆動部17は、絞り12を駆動する。シャッタ駆動部18は、メカシャッタ13を駆動する。撮像素子14は、レンズ光学系11、及び絞り12を介して結像される被写体像を光電変換するCCDやCMOS等のイメージセンサである。   The lens driving unit 16 performs zooming and focusing operations of the lens optical system 11. The aperture driving unit 17 drives the aperture 12. The shutter drive unit 18 drives the mechanical shutter 13. The image sensor 14 is an image sensor such as a CCD or CMOS that photoelectrically converts a subject image formed through the lens optical system 11 and the diaphragm 12.

AFETG15は、TG(タイミングジェネレータ)30、V−driver(垂直駆動部)31、及びAFE(アナログフロントエンド)32で構成される。
TG30は、V−driver31を介して画像信号の読み出しタイミングを撮像素子14に与える。AFE32は、撮像素子14から読み出されるアナログの画像信号のノイズ除去やアナログゲインアップにより増幅を行った後、A/D変換してデジタルの画像データに変換し、変換した画像データを静止被写体検出回路、AE・AF回路19、及び画像処理回路23に出力する。
The AFET G15 includes a TG (timing generator) 30, a V-driver (vertical drive unit) 31, and an AFE (analog front end) 32.
The TG 30 gives the readout timing of the image signal to the image sensor 14 via the V-driver 31. The AFE 32 amplifies the analog image signal read from the image sensor 14 by removing noise or increasing the analog gain, and then A / D converts the digital image data into digital image data. The converted image data is a still subject detection circuit. , Output to the AE / AF circuit 19 and the image processing circuit 23.

静止被写体検出回路34は、デジタルの画像データに基づいて被写体が静止しているかを検出する。具体的には、画像データを連続的に取り込み、前後する画像データの同じ位置の画素の輝度差の絶対値を差分値とし、全画素のそれぞれについて差分値を計算し、差分値が予め決めた閾値以上になる画素を判別し、これら画素を多く含む一塊の領域が無い場合に、被写体が静止していると判断して、静止被写体である旨の情報を制御部20出力する。   The stationary subject detection circuit 34 detects whether the subject is stationary based on digital image data. Specifically, image data is continuously captured, the absolute value of the luminance difference between pixels at the same position in the preceding and following image data is set as a difference value, the difference value is calculated for each of all pixels, and the difference value is determined in advance. Pixels that are equal to or greater than the threshold value are discriminated, and when there is no cluster area containing many of these pixels, it is determined that the subject is stationary, and information indicating that the subject is a stationary subject is output to the control unit 20.

なお、静止被写体検出回路34の他の構成としては、例えば、顔検出回路を設け、顔検出回路で、比較する2つの画像データから画像中に含まれる人物の顔領域を顔テンプレートとのパターンマッチングによりそれぞれ検出し、人物の顔領域における画素の輝度差の絶対値を差分値として計算し、差分値が予め決めた閾値以上になる画素が予め決めた閾値未満の場合に被写体が静止していると判別してもよい。   As another configuration of the stationary subject detection circuit 34, for example, a face detection circuit is provided, and the face detection circuit uses the two image data to be compared to match the face area of the person included in the image with the face template. And the absolute value of the luminance difference of the pixels in the person's face area is calculated as a difference value, and the subject is stationary when the pixel whose difference value is equal to or greater than a predetermined threshold is less than the predetermined threshold May be determined.

AE・AF回路19は、画像データのコントラスト情報に基づいてフォーカスを制御するAF(オートフォーカス)情報、及び画像データに基づいて最適なAE(オートエクスポージャ)情報やホワイトバランス情報をそれぞれ取り出して制御部20に送る。制御部20は、AF情報、AE情報、及びホワイトバランス情報に基づいてレンズ駆動部16、絞り駆動部17、及び画像処理回路23等を制御する。
画像処理回路23は、ホワイトバランス処理、圧縮符号化、復号処理、画像合成処理等が含まれる。VRAM26は、LCD22に表示するための画像メモリである。LCD22には、撮像された画像の表示、カメラの各種設定のメニューや撮影モードの表示が行われる。
The AE / AF circuit 19 extracts and controls AF (autofocus) information for controlling focus based on contrast information of image data, and optimum AE (auto exposure) information and white balance information based on image data. Send to part 20. The control unit 20 controls the lens driving unit 16, the aperture driving unit 17, the image processing circuit 23, and the like based on the AF information, the AE information, and the white balance information.
The image processing circuit 23 includes white balance processing, compression encoding, decoding processing, image composition processing, and the like. The VRAM 26 is an image memory for displaying on the LCD 22. The LCD 22 displays a captured image, a menu of various camera settings, and a shooting mode.

メモリスロット28には、外部メモリ29が着脱自在に接続される。外部メモリ29には、画像処理回路23で生成される圧縮符号化された画像データが保存される。   An external memory 29 is detachably connected to the memory slot 28. The external memory 29 stores the compressed and encoded image data generated by the image processing circuit 23.

RAM24は、制御部20や画像処理回路23のワークエリアとして使用される。ROM25には、制御部20が実行するプログラムが格納されている。不揮発性メモリ27は、電子カメラ10の各種の調整データや、ユーザによって設定された撮影モードや感度(ISO感度)等を格納する。   The RAM 24 is used as a work area for the control unit 20 and the image processing circuit 23. The ROM 25 stores a program executed by the control unit 20. The non-volatile memory 27 stores various adjustment data of the electronic camera 10, a shooting mode and sensitivity (ISO sensitivity) set by the user, and the like.

制御部20は、ROM25に記憶されているプログラムに従って動作するCPU(中央演算処理部)を中心に構成され、電子カメラ10の各部を制御する。例えば、制御部20は、撮像素子14の画像信号を読み出す指示をAFETG15のTG30に与え、撮像素子14から読み出した画像信号を、AFE32を介して画像処理回路23に入力し、画像処理回路23で撮影モードに対応する処理等を実行した後に、処理済みの画像データを、バス33を介して外部メモリ29に記録するように制御する。   The control unit 20 is configured around a CPU (central processing unit) that operates according to a program stored in the ROM 25 and controls each unit of the electronic camera 10. For example, the control unit 20 gives an instruction to read the image signal of the image sensor 14 to the TG 30 of the AFETG 15, inputs the image signal read from the image sensor 14 to the image processing circuit 23 via the AFE 32, and the image processing circuit 23 After the processing corresponding to the shooting mode is executed, the processed image data is controlled to be recorded in the external memory 29 via the bus 33.

操作部21は、感度設定部、シャッタボタン、モード設定部、ドライブモード設定部、及び電源ボタン等で構成されており、これらは制御部20に操作信号や設定信号を送る。感度設定部は、撮像素子14の感度(ISO感度)を複数段階に変更するための操作部である。感度は、予め任意の感度に定められている。   The operation unit 21 includes a sensitivity setting unit, a shutter button, a mode setting unit, a drive mode setting unit, a power button, and the like, which send operation signals and setting signals to the control unit 20. The sensitivity setting unit is an operation unit for changing the sensitivity (ISO sensitivity) of the image sensor 14 in a plurality of stages. Sensitivity is set to an arbitrary sensitivity in advance.

制御部20は、AE・AF回路19から被写体輝度情報を得ると、感度と被写体輝度とで決まる適正露出に近づくように、その時点に設定されている感度に対応したプログラム線図に従って標準の露光量(絞り値とシャッター速度値で求まる露光量)を決定する。   When the control unit 20 obtains the subject luminance information from the AE / AF circuit 19, the standard exposure is performed according to the program diagram corresponding to the sensitivity set at that time so as to approach the appropriate exposure determined by the sensitivity and the subject luminance. The amount (exposure amount obtained from the aperture value and shutter speed value) is determined.

モード設定部は、通常撮影モード、及び再生モードを択一的に選択する操作部である。通常撮影モードでは、ドライブモード設定部を選択操作することで、連写撮影と1コマ撮影とを択一的に選択することができる。   The mode setting unit is an operation unit that selectively selects the normal shooting mode and the reproduction mode. In the normal shooting mode, continuous shooting and single-frame shooting can be alternatively selected by operating the drive mode setting unit.

通常撮影モードは、標準の露光量で撮像素子14により撮像して画像データを生成するモードである。1コマ撮影を選択時には、1回のシャッタレリーズに応答して1枚の画像データを外部メモリ29に記録し、また、連写撮影を選択時には、シャッタボタンを押している間だけ、実質的に同じ露出で撮像した複数枚の画像データを外部メモリ29に記録する。再生モードは、外部メモリ29に記録した画像データをLCD22に再生するモードである。   The normal shooting mode is a mode in which image data is generated by imaging with the image sensor 14 with a standard exposure amount. When single-frame shooting is selected, one image data is recorded in the external memory 29 in response to one shutter release, and when continuous shooting is selected, it is substantially the same as long as the shutter button is pressed. A plurality of image data picked up by exposure are recorded in the external memory 29. The reproduction mode is a mode in which image data recorded in the external memory 29 is reproduced on the LCD 22.

制御部20は、静止被写体検出回路34が静止被写体であると判断した場合、通常撮影モードから合成撮影モードに自動的に移行する。合成撮影モードは、撮像素子14により同一被写体を、異なる露光量で撮像して生成した複数枚の本処理用画像データを合成して1枚の広ダイナミックレンジ画像データを外部メモリ29に記録するモードである。   When the still subject detection circuit 34 determines that the subject is a still subject, the control unit 20 automatically shifts from the normal shooting mode to the composite shooting mode. The composite shooting mode is a mode in which a plurality of main processing image data generated by imaging the same subject with different exposure amounts are combined by the image sensor 14 and one wide dynamic range image data is recorded in the external memory 29. It is.

合成撮影モードの時には、撮像素子14の蓄積時間を可変する電子シャッタと絞り12の組み合わせで露光量を制御する。なお、シャッタ速度としては、電子シャッタの代わりに、例えばメカシャッタ13の開閉で決定してもよいし、露光の最初のタイミングを電子シャッタで取り、露光終了をメカシャッタ13で決定してもよい。   In the composite photographing mode, the exposure amount is controlled by a combination of an electronic shutter that changes the accumulation time of the image sensor 14 and the aperture 12. The shutter speed may be determined by, for example, opening / closing the mechanical shutter 13 instead of the electronic shutter, or the exposure timing may be determined by the electronic shutter, and the end of exposure may be determined by the mechanical shutter 13.

制御部20は、図2に示すように、合成撮影モード移行部42、感度判定部35、及びカウンタ36を有する。合成撮影モード移行部42は、静止被写体検出回路34から静止被写体である旨の信号を受け取ることに応答して撮影モードを通常撮影モードから合成撮影モードに移行する。なお、合成撮影モード移行部42は、連写撮影を選択している場合には、合成撮影モードへの移行をキャンセルする。   As illustrated in FIG. 2, the control unit 20 includes a composite shooting mode transition unit 42, a sensitivity determination unit 35, and a counter 36. The composite photographing mode transition unit 42 transitions the photographing mode from the normal photographing mode to the composite photographing mode in response to receiving a signal indicating that the subject is a stationary subject from the stationary subject detection circuit 34. The composite shooting mode transition unit 42 cancels the transition to the composite shooting mode when continuous shooting is selected.

感度判定部35は、撮影時に感度設定部に設定されている設定感度を認識するとともに、認識した感度を予め決められている閾値とを比較して高感度か低感度かを判定する。カウンタ36は、画像データの取り込み回数をカウントする。制御部20は、感度判定部35で判定した感度に応じて、アナログの画像データをAFE32のアナログゲインアップで増幅するときの度合いを変更する。   The sensitivity determination unit 35 recognizes the set sensitivity set in the sensitivity setting unit at the time of shooting and compares the recognized sensitivity with a predetermined threshold value to determine whether the sensitivity is high or low. The counter 36 counts the number of times image data has been captured. The control unit 20 changes the degree at which the analog image data is amplified by increasing the analog gain of the AFE 32 according to the sensitivity determined by the sensitivity determination unit 35.

画像処理回路23は、振分け部37、前処理合成部38、及び本処理合成部39を備えている。振分け部37は、画像データを前処理合成部38と本処理合成部39に振り分けるものであり、この振り分け処理は、高感度又は低感度の時の前処理用の画像データか本処理用の画像データかに基づいて制御部20により制御される。   The image processing circuit 23 includes a distribution unit 37, a preprocessing composition unit 38, and a main processing composition unit 39. The distribution unit 37 distributes the image data to the pre-processing synthesis unit 38 and the main-processing synthesis unit 39, and this distribution processing is either pre-processing image data at high sensitivity or low sensitivity or an image for main processing. It is controlled by the control unit 20 based on the data.

本処理合成部39は、合成撮影モードの時に、異なる露光量で撮像した複数枚の本処理用画像データを合成して1枚の広ダイナミックレンジ画像データを生成する処理を行う。本処理用画像データは、例えば、短時間露光画像データ、標準露光画像データ、及び長時間露光画像データで構成されている。   The main processing composition unit 39 performs processing for generating one wide dynamic range image data by combining a plurality of main processing image data captured with different exposure amounts in the composite photographing mode. The image data for processing is composed of, for example, short exposure image data, standard exposure image data, and long exposure image data.

短時間露光画像データは、撮像素子14により標準より少ない露光量で撮像して生成した画像データである。標準露光画像データは、撮像素子14により標準の露光量で撮像して生成した画像データである。長時間露光画像データは、撮像素子14により標準よりも多い露光量で撮像して生成した画像データである。   The short-time exposure image data is image data generated by capturing an image with an exposure amount smaller than the standard by the image sensor 14. The standard exposure image data is image data generated by imaging with a standard exposure amount by the image sensor 14. The long-exposure image data is image data generated by imaging with an exposure amount larger than the standard by the image sensor 14.

前処理合成部38は、合成撮影モードの時に低感度と判定した場合、ランダムノイズを軽減するために、撮像素子14により標準よりも少ない露光量で撮像して生成した複数枚の前処理用画像データを合成して1枚のノイズ軽減用画像データを生成し、ノイズ軽減用画像データを本処理用画像データのうちの短時間露光画像データとして本処理合成部39に出力する。   When the preprocessing composition unit 38 determines that the sensitivity is low in the composite photographing mode, a plurality of preprocessing images generated by imaging with an exposure amount smaller than the standard by the imaging device 14 in order to reduce random noise. The data is synthesized to generate one piece of noise reduction image data, and the noise reduction image data is output to the main processing synthesis unit 39 as short exposure image data of the main processing image data.

また、前処理合成部38は、合成撮影モードの時に高感度と判定した場合、撮像素子14により標準よりも少ない露光量で撮像して生成した複数枚の画像データを1枚の画像データに合成したものを短時間露光画像データとし、また、標準の露光量で撮像して生成した複数枚の画像データを1枚の画像データに合成したものを標準露光画像データとし、さらに、標準よりも多い露光量で撮像して生成した複数枚の画像データを1枚の画像データに合成したものを長時間露光画像データとしてそれぞれ本処理合成部39に出力する。   Further, when the pre-processing synthesis unit 38 determines that the sensitivity is high in the composite shooting mode, the pre-processing synthesis unit 38 synthesizes a plurality of pieces of image data generated by taking an image with an exposure amount smaller than the standard by the imaging device 14 into one piece of image data. The short-exposure image data is used as the short-exposure image data, and a plurality of pieces of image data generated by imaging with the standard exposure amount are combined into one image data, and the standard exposure image data is used. A combination of a plurality of pieces of image data generated by imaging with an exposure amount and one piece of image data is output to the processing composition unit 39 as long-time exposure image data.

前処理及び本処理合成部38,39は、バッファメモリ40,44、位置合わせ処理41,45、及び画像合成43,47をそれぞれ備えている。バッファメモリ40,44は、複数の画像データを一時的に記憶する。位置合わせ処理41,45は、各画像データを比較して、各画像データの位置が一致するように座標を修正する処理を行う。画像合成43,47は、修正した座標の情報に基づいて各画像データを加算した後に、画像データの枚数で除算する平均化処理を行って1枚の画像データを生成する。   The preprocessing and main processing synthesis units 38 and 39 include buffer memories 40 and 44, alignment processing 41 and 45, and image synthesis 43 and 47, respectively. The buffer memories 40 and 44 temporarily store a plurality of image data. The alignment processes 41 and 45 perform a process of comparing the image data and correcting the coordinates so that the positions of the image data match. The image compositing 43 and 47 add each image data based on the corrected coordinate information, and then perform an averaging process of dividing by the number of image data to generate one piece of image data.

位置合わせ処理41,45は、図3に示すように、評価部48、決定部49、及び位置合わせ部50で構成されている。評価部48は、所定の条件、例えば画像データのレベル(明るさ)、コントラスト、及び空間周波数の高周波成分とのうちの少なくとも1つを求めて各画像データを評価する。この場合、画像データの白黒レベルが飽和レベルに達していない画像データのうちの最も明るい画像データほど、又は最もコントラスト値が高い画像データほど、あるいは最も高周波成分が多い画像データほど評価値を高くする。   As shown in FIG. 3, the alignment processes 41 and 45 include an evaluation unit 48, a determination unit 49, and an alignment unit 50. The evaluation unit 48 evaluates each image data by obtaining at least one of a predetermined condition, for example, a level (brightness) of image data, a contrast, and a high frequency component of spatial frequency. In this case, the evaluation value is increased as the brightest image data among the image data whose monochrome level of the image data does not reach the saturation level, the image data with the highest contrast value, or the image data with the highest high-frequency component. .

なお、代わりに、各画像データから主要被写体を検出し、検出した主要被写体の動き量が小さい程評価値を高くする条件や、フォーカス状態、主要被写体の変形度合い等の評価で基準の画像データを決めても良い。   Instead, the main subject is detected from each image data, and the reference image data is obtained by evaluating the condition that the evaluation value is increased as the detected amount of movement of the main subject is smaller, the focus state, the degree of deformation of the main subject, etc. You can decide.

決定部49は、評価部48で求めた各画像データの評価値に基づいて最も合成に適した画像データを基準画像データとして決定する。位置合わせ部50は、基準画像データを基準として残りの画像データに対して座標位置が一致するように位置合わせ処理を行う。これにより、画像合成43,47で合成される画像データは、画質が向上する。なお、評価部48で、各画像データの評価をした後に、評価値が予め決めた閾値よりも低い場合には、その画像データを合成に使用しないように選択する処理を行うようにしてもよい。   The determination unit 49 determines the image data most suitable for synthesis based on the evaluation value of each image data obtained by the evaluation unit 48 as the reference image data. The alignment unit 50 performs alignment processing so that the coordinate position matches the remaining image data with reference to the reference image data. Thereby, the image quality of the image data synthesized by the image synthesis 43 and 47 is improved. Note that, after the evaluation unit 48 evaluates each image data, if the evaluation value is lower than a predetermined threshold value, a process of selecting the image data not to be used for composition may be performed. .

次に上記構成の作用を、図4及び図5を参照しながら説明する。撮像素子14の感度は、初期値、例えばISO感度「400」に予め設定されている。
制御部20は、1回のシャッヤレリーズ(S−1)に応答して撮像素子14で撮影して得た画像データをAE・AF回路19、及び静止被写体検出回路34に取り込み、取り込んだ画像データに基づいて、標準露光量を決定し(S−2)、また、被写体が静止しているか否かを判断する(S−3)。
Next, the operation of the above configuration will be described with reference to FIGS. The sensitivity of the image sensor 14 is set in advance to an initial value, for example, ISO sensitivity “400”.
The control unit 20 captures image data obtained by capturing with the image sensor 14 in response to one shutter release (S-1) into the AE / AF circuit 19 and the stationary subject detection circuit 34, and captures the captured image. Based on the data, the standard exposure amount is determined (S-2), and it is determined whether or not the subject is stationary (S-3).

制御部20は、静止被写体検出回路34で静止被写体と判断した場合、合成撮影モード移行部42で連写撮影モードが設定されているか否かを判定し(S−4)、連写撮影モードが設定されていない場合に合成撮影モードに移行する(S−5)。なお、制御部20は、動体と判断した場合、及び連写撮影モードと判断した場合には、通常撮影モードを実行する(S−6)。   When the stationary subject detection circuit 34 determines that the subject is a stationary subject, the control unit 20 determines whether or not the continuous shooting mode is set in the composite shooting mode transition unit 42 (S-4), and the continuous shooting mode is set. If it is not set, the process shifts to the composite shooting mode (S-5). Note that the control unit 20 executes the normal shooting mode when it is determined as a moving object and when it is determined as the continuous shooting mode (S-6).

合成撮影モードに移行すると、制御部20は、その時点で設定されている感度が閾値未満か否かを判定する(S−7)。例えば、設定感度がISO感度「400」で、閾値がISO感度「800」である場合には設定感度が低感度であると判定する。   When shifting to the composite shooting mode, the control unit 20 determines whether or not the sensitivity set at that time is less than the threshold (S-7). For example, when the set sensitivity is ISO sensitivity “400” and the threshold is ISO sensitivity “800”, it is determined that the set sensitivity is low.

制御部20は、低感度と判定した場合、標準より少ない露光量、例えば「−1EV」の露光補正をした露光量に設定して撮像素子14で連写的に撮像することで複数枚、例えば5枚の前処理用画像データを取得し(S−8)、振分け部37を制御して5枚の前処理用画像データを前処理合成部38のバッファメモリ40に取り込む。   When it is determined that the sensitivity is low, the control unit 20 sets an exposure amount that is smaller than the standard exposure amount, for example, an exposure amount that has been corrected for exposure of “−1 EV”, and continuously captures images by the image sensor 14, for example, Five pieces of preprocessing image data are acquired (S-8), and the distribution unit 37 is controlled to fetch the five pieces of preprocessing image data into the buffer memory 40 of the preprocessing composition unit 38.

前処理合成部38は、制御部20からカウントアップに応答する信号を受け取ることで、バッファメモリ40から5枚の前処理用画像データを順に読み出し、各前処理用画像データについて評価部48で予め決めた条件に基づいて評価を行い、評価結果に基づいて基準の画像データを決定部49で決定し(S−9)、位置合わせ部50で基準の画像データに基づいて残りの画像データに対して位置合わせ処理を行い(S−10)、その後に画像合成43で、基準画像データに対して位置合わせ処理済みの画像データを順に加算平均化処理により合成をして本処理用の短時間露光画像データを生成し(S−11)、短時間露光画像データを本処理合成部39のバッファメモリ44に出力する。   The preprocessing synthesis unit 38 receives a signal responding to the count-up from the control unit 20 and sequentially reads out the five preprocessing image data from the buffer memory 40, and the evaluation unit 48 preliminarily reads each preprocessing image data. Evaluation is performed based on the determined conditions, reference image data is determined by the determination unit 49 based on the evaluation result (S-9), and the alignment unit 50 determines the remaining image data based on the reference image data. Then, alignment processing is performed (S-10), and then image composition 43 synthesizes the image data that has undergone alignment processing with respect to the reference image data in order by addition averaging processing, and performs short exposure for this processing. Image data is generated (S-11), and the short-time exposure image data is output to the buffer memory 44 of the processing composition unit 39.

なお、5枚の前処理用画像データを取得する時には、制御部20は、カウンタ36を初期化し(S−12)、カウンタ36で短時間露光での撮像回数をカウントし(S−13)、その撮像回数が予め決められた回数に達したか否かを判定する(S−14)。   When acquiring five pre-processing image data, the control unit 20 initializes the counter 36 (S-12), and counts the number of times of imaging in short exposure with the counter 36 (S-13). It is determined whether or not the number of times of imaging has reached a predetermined number (S-14).

引き続き制御部20は、標準の露光量に変えて1枚撮像して本処理用の標準露光画像データを生成し(S−15)、振分け部37を制御して標準露光画像データを本処理合成部39のバッファメモリ44に取り込み、引き続き、露出を標準より多い露光量に、例えば「+1EV」の露光補正をした露光量に設定して1枚撮像して本処理用の長時間露光画像データを生成し(S−16)、長時間露光画像データをバッファメモリ44に取り込む。   Subsequently, the control unit 20 changes the standard exposure amount to capture one image and generates standard exposure image data for the main processing (S-15), and controls the distribution unit 37 to combine the standard exposure image data with the main processing composition. Then, the exposure is set to an exposure amount larger than the standard, for example, “+1 EV” exposure correction, and one image is captured to obtain long exposure image data for this processing. The long-time exposure image data is taken into the buffer memory 44 (S-16).

本処理合成部39は、短時間露光画像データ、標準露光画像データ、及び長時間露光画像データとの3つの本処理用画像データがバッファメモリ44に取り込まれることに応答して、位置合わせ処理45で前述した位置合わせ処理41と同じ処理を行って基準の画像データを決定し(S−17)、基準の画像データに対して残りの画像データについてそれぞれ位置合わせ処理を行って(S−18)、基準の画像データに対して位置合わせ処理済みの画像データを加算平均化処理により順に合成をして1枚の広ダイナミックレンジ画像データを生成し(S−19)、広ダイナミックレンジ画像データを外部メモリ29に記録する。低感度判定での合成撮影モードで得られる広ダイナミックレンジ画像は、白とびや黒つぶれの発生を抑えることに加えて、低感度撮影で生じ易いランダムノイズを低減した画像になる。   In response to the three main processing image data, that is, the short-exposure image data, the standard exposure image data, and the long-exposure image data, being fetched into the buffer memory 44, the main processing composition unit 39 performs the alignment processing 45. The reference image data is determined by performing the same process as the alignment process 41 described above (S-17), and the remaining image data is aligned with the reference image data (S-18). Then, the image data that has undergone alignment processing with respect to the reference image data is sequentially synthesized by the averaging process to generate one wide dynamic range image data (S-19), and the wide dynamic range image data is externally generated. Record in the memory 29. The wide dynamic range image obtained in the composite shooting mode with low sensitivity determination is an image in which random noise that is likely to occur in low sensitivity shooting is reduced in addition to suppressing the occurrence of overexposure and underexposure.

次に、感度判定部35が図4(S―7)で高感度であると判定した場合について、図6を参照しながら説明する。この場合、制御部20は、標準より少ない露光量、例えば「−1EV」の露出補正をした露光量に設定して撮像素子14で連写的に撮像することで複数枚、例えば6枚の前処理用画像データを取得し(S−20)、振分け部37を制御して6枚の前処理用画像データを前処理合成部38のバッファメモリ40に取り込む。   Next, the case where the sensitivity determination unit 35 determines that the sensitivity is high in FIG. 4 (S-7) will be described with reference to FIG. In this case, the control unit 20 sets the exposure amount that is smaller than the standard exposure amount, for example, an exposure amount that is corrected for exposure of “−1 EV”, and continuously captures images by the imaging device 14 to obtain a plurality of, for example, six images. The processing image data is acquired (S-20), the distribution unit 37 is controlled, and six pieces of preprocessing image data are taken into the buffer memory 40 of the preprocessing composition unit 38.

前処理合成部38は、制御部20から短時間露光での撮影回数がカウントアップすることに応答して、バッファメモリ40から6枚の前処理用画像データを順に読み出し、前述した同じ処理を位置合わせ処理41、及び画像合成43で行って(S−21)、本処理用の短時間露光画像データを生成し(S−22)、短時間露光画像データを本処理合成部39のバッファメモリ44に出力する。   The preprocessing composition unit 38 sequentially reads the six pieces of preprocessing image data from the buffer memory 40 in response to the increase in the number of shootings in the short exposure from the control unit 20, and performs the same processing as described above. This is performed in the alignment process 41 and the image composition 43 (S-21) to generate short-exposure image data for the main process (S-22), and the short-exposure image data is stored in the buffer memory 44 of the main process composition unit 39. Output to.

引き続き制御部20は、標準の露光量に設定して撮像素子14で連写的に撮像することで、短時間露光で撮像する枚数よりも少ない複数枚、例えば4枚の前処理用画像データを取得し(S−23)、振分け部37を制御して4枚の前処理用画像データを前処理合成部38のバッファメモリ40に取り込む。   Subsequently, the control unit 20 sets the standard exposure amount and continuously captures images with the image sensor 14, thereby obtaining a plurality of pre-processing image data, for example, four images, which are smaller than the number of images to be captured with short exposure. (S-23), the distribution unit 37 is controlled, and the four preprocessing image data are taken into the buffer memory 40 of the preprocessing composition unit 38.

前処理合成部38は、制御部20から標準露光での撮影回数がカウントアップすることに応答して、バッファメモリ40から4枚の前処理用画像データを順に読み出し、前述した同じ処理を位置合わせ処理41、及び画像合成43で行って(S−24)、本処理用の標準露光画像データを生成し(S−25)、標準露光画像データを本処理合成部39のバッファメモリ44に出力する。   In response to the increase in the number of shootings with standard exposure from the control unit 20, the preprocessing composition unit 38 sequentially reads four preprocessing image data from the buffer memory 40 and aligns the same processing described above. The processing 41 and the image composition 43 are performed (S-24) to generate standard exposure image data for the main processing (S-25), and the standard exposure image data is output to the buffer memory 44 of the main processing composition section 39. .

引き続き制御部20は、図7に示すように、標準よりも多い露光量、例えば「+1EV」の露出補正をした露光量に設定して撮像素子14で連写的に撮像することで、標準露光で撮像する枚数よりも少ない複数枚、例えば2枚の前処理用画像データを取得し(S−26)、振分け部37を制御して2枚の前処理用画像データを前処理合成部38のバッファメモリ40に取り込む。   Subsequently, as shown in FIG. 7, the control unit 20 sets the exposure amount larger than the standard, for example, the exposure amount corrected for exposure of “+1 EV”, and continuously captures images with the image sensor 14, thereby performing standard exposure. A plurality of preprocessing image data, for example, two sheets, which are smaller than the number of images to be captured in (2), are acquired (S-26), and the distribution unit 37 is controlled so that the two preprocessing image data are stored in the preprocessing composition unit 38. The data is taken into the buffer memory 40.

前処理合成部38は、制御部20から標準露光での撮影回数がカウントアップすることに応答して、バッファメモリ40から2枚の前処理用画像データを順に読み出し、前述した同じ処理を位置合わせ処理41、及び画像合成43で行って(S−27)、本処理用の長時間露光画像データを生成し(S−28)、長時間露光画像データを本処理合成部39のバッファメモリ44に出力する。   In response to the increase in the number of shootings with standard exposure from the control unit 20, the preprocessing composition unit 38 sequentially reads two preprocessing image data from the buffer memory 40 and aligns the same processing described above. The processing 41 and the image composition 43 are performed (S-27) to generate long exposure image data for the main processing (S-28), and the long exposure image data is stored in the buffer memory 44 of the main processing composition section 39. Output.

そして、図5(S−17〜S−19)で説明したように、本処理合成部39は、3つの本処理用画像データがバッファメモリ44に取り込まれることに応答して、位置合わせ処理45で基準の画像データを決定し(S−29)、基準の画像データに対して残りの画像データについてそれぞれ位置合わせ処理を行って(S−30)、基準の画像データに対して位置合わせ処理済みの画像データを加算平均化処理により順に合成をして広ダイナミックレンジ画像データを生成し(S−31)、広ダイナミックレンジ画像データを外部メモリ29に記録する。   Then, as described in FIG. 5 (S-17 to S-19), the main processing composition unit 39 responds to the acquisition of the three main processing image data into the buffer memory 44, and the alignment processing 45. In step S-29, the reference image data is determined (S-29), the remaining image data is aligned with the reference image data (S-30), and the reference image data is aligned. These image data are sequentially combined by the averaging process to generate wide dynamic range image data (S-31), and the wide dynamic range image data is recorded in the external memory 29.

これにより、高感度判定で生成した広ダイナミックレンジ画像は、白とびや黒つぶれの発生を抑えることに加えて、高感度撮影時に生じ易いランダムノイズを低減した画像になる。   As a result, the wide dynamic range image generated by the high sensitivity determination becomes an image in which random noise that is likely to occur during high sensitivity shooting is reduced in addition to suppressing the occurrence of overexposure and blackout.

なお、制御部20は、広ダイナミックレンジ画像データを記録した後に、バッファメモリ40,44をクリアする制御を行うことが望ましい。   Note that the control unit 20 desirably performs control to clear the buffer memories 40 and 44 after recording the wide dynamic range image data.

また、上記実施形態では、感度に応じて決められた撮影枚数、露出補正値は、前述した数値に限らないことはいうまでもない。例えば図8に示すように、設定感度が閾値未満の範囲において、設定感度が低感度程、短時間露光画像データの取得枚数を増やすのが好適である。また、例えば図9に示すように、設定感度が閾値を超える範囲において、設定感度が高感度程、短時間、標準、及び長時間との各露光画像データの取得枚数をそれぞれ増やすのが好適である。なお、短時間露光、標準露光、及び長時間露光との各画像データの取得枚数を順にA、B、Cとすると、A>B>Cの関係を保つように、各画像データの取得枚数を変更するのが好適である。   Further, in the above embodiment, it goes without saying that the number of shots and the exposure correction value determined according to the sensitivity are not limited to the above-described numerical values. For example, as shown in FIG. 8, it is preferable to increase the number of acquired short-time exposure image data as the setting sensitivity is lower in the range where the setting sensitivity is less than the threshold. Also, for example, as shown in FIG. 9, it is preferable to increase the number of pieces of exposure image data acquired for the short time, the standard, and the long time as the set sensitivity is higher in the range where the set sensitivity exceeds the threshold. is there. If the number of acquired image data for short-time exposure, standard exposure, and long-time exposure is A, B, and C in order, the acquired number of image data is set so as to maintain the relationship of A> B> C. It is preferable to change.

また、操作部にカーソルボタンやOKボタン等の変更操作部を設け、例えば低感度における短時間露光での撮影枚数、及び高感度における短時間露光での撮影枚数、標準露光での撮影枚数、長時間露光での撮影枚数をそれぞれ自由に設定することができるように構成してもよい。   In addition, a change operation unit such as a cursor button or an OK button is provided on the operation unit, and for example, the number of shots in short exposure at low sensitivity, the number of shots in short exposure at high sensitivity, the number of shots in standard exposure, and the length You may comprise so that the image | photographing number by time exposure can each be set freely.

上記実施形態では、短時間露光、標準露光、及び長時間露光との3つの画像データを合成して広ダイナミックレンジ画像を生成しているが、本発明ではこれに限らず、露光の異なる2つの画像データを合成して、又は超低時間露光や超長時間露光の画像データを追加した4つ以上の画像データを合成して広ダイナミックレンジ画像を生成してもよい。   In the embodiment described above, a wide dynamic range image is generated by synthesizing three image data of the short exposure, the standard exposure, and the long exposure. However, the present invention is not limited to this, and two exposures with different exposures are generated. A wide dynamic range image may be generated by synthesizing image data or by synthesizing four or more image data to which image data of ultra-low time exposure or ultra-long time exposure is added.

上記実施形態では、低感度と判定した時には、最初に前処理用画像を短時間露光で複数回撮像し、次に標準露光での撮像、最後に長時間露光での撮像の順としているが、本発明ではその順に限らず、例えば逆の順、あるいは最初に標準露光での撮像し、次に短時間露光で複数回撮像、最後に長時間露光での撮像の順にしてもよい。   In the above embodiment, when it is determined that the sensitivity is low, first the pre-processing image is imaged a plurality of times with short exposure, then imaging with standard exposure, and finally imaging with long exposure, In the present invention, the order is not limited to the above order. For example, imaging may be performed in the reverse order, or first in standard exposure, then multiple times in short exposure, and finally in long exposure.

また、高感度と判定した時も同様に、短時間露光画像データ用の前処理用画像データを取得するために撮像する期間、標準露光画像データ用の前処理用画像データを取得するための撮像期間、及び長時間露光データ用の前処理用画像データを取得するための撮像期間の順はいずれの順でもよい。   Similarly, when it is determined that the sensitivity is high, the imaging period for acquiring the preprocessing image data for the short exposure image data, the imaging period for acquiring the preprocessing image data for the standard exposure image data, The order of the period and the imaging period for acquiring the preprocessing image data for the long exposure data may be any order.

上記実施形態では、画像データを取得する毎に位置合わせ処理をして合成しているが、先に全ての撮像を行って画像データをRAMに記録しておき、撮影完了後にRAMから合成対象の画像データを読み出して合成していくように構成してもよい。 また、先に全ての撮像を行って画像データをフラッシュメモリ等に記録しておき、予め画像処理ソフトを電子カメラ等にインストールしておき、撮影後にそのソフトを実行して撮像した複数枚の画像データを合成するようにしてもよい。   In the above-described embodiment, each time image data is acquired, alignment processing is performed and combined. However, all imaging is performed first and image data is recorded in the RAM. You may comprise so that image data may be read and synthesize | combined. In addition, all images are taken first and image data is recorded in a flash memory or the like, and image processing software is installed in an electronic camera or the like in advance. You may make it synthesize | combine data.

さらに、上記実施形態では本発明を電子カメラ10に使用して説明しているが、本発明ではこれに限らず、ビデオカメラやテレビカメラ等に使用することができる。   Furthermore, although the present invention has been described using the electronic camera 10 in the above embodiment, the present invention is not limited to this and can be used for a video camera, a television camera, and the like.

14 撮像素子
12 絞り
13 メカシャッタ
15 AFETG
23 画像処理回路
38 前処理合成部
39 本処理合成部
14 Image sensor 12 Aperture 13 Mechanical shutter 15 AFETG
23 Image processing circuit 38 Pre-processing synthesis unit 39 Main processing synthesis unit

Claims (14)

静止被写体を検出する静止被写体検出手段と、
撮像素子により同一被写体を異なる露光量で撮像して生成した複数枚の本処理用画像データを合成して1枚の広ダイナミックレンジ画像データを生成する本処理合成手段と、
静止被写体を検出することに応答して、前記本処理合成手段を実行する合成撮影モードに移行するモード移行手段と、を備えたことを特徴とする撮像装置。
A stationary subject detection means for detecting a stationary subject;
A main processing composition unit configured to combine a plurality of main processing image data generated by imaging the same subject with different exposure amounts by using an imaging element to generate one wide dynamic range image data;
An image pickup apparatus comprising: a mode transition unit that shifts to a composite photographing mode that executes the processing composition unit in response to detecting a stationary subject.
請求項1に記載の撮像装置において、
モード移行手段は、連写撮影モードが設定されることに応じて、前記合成撮影モードから通常撮影モードに移行することを特徴とする撮像装置。
The imaging device according to claim 1,
The mode shift means shifts from the composite shooting mode to the normal shooting mode in response to the continuous shooting mode being set.
請求項1又は2記載の撮像装置において、
撮像素子の感度を設定する設定手段と、
前記設定手段で設定される感度が閾値未満の低感度の場合、前記被写体を標準露光よりも少ない露光量で複数回撮像して生成した複数枚の前処理用画像データを合成して1枚のノイズ軽減用画像データを生成し、前記ノイズ軽減用画像データを前記本処理用画像データのうちの最も露光量が低い露光条件で撮像した画像データとして出力する前処理合成手段と、
を備えていることを特徴とする撮像装置。
The imaging apparatus according to claim 1 or 2,
Setting means for setting the sensitivity of the image sensor;
When the sensitivity set by the setting means is low sensitivity less than a threshold value, a plurality of pre-processing image data generated by imaging the subject a plurality of times with an exposure amount smaller than the standard exposure are combined to generate a single image. Pre-processing synthesis means for generating image data for noise reduction, and outputting the image data for noise reduction as image data captured under an exposure condition having the lowest exposure amount among the image data for main processing;
An imaging apparatus comprising:
請求項3に記載の撮像装置において、
前記前処理用画像データを取得するための撮像回数を、前記感度が前記低感度と判定する範囲のうちの低感度程撮像回数が増えるように、前記感度に応じて変える撮像回数変更手段を備えていることを特徴とする撮像装置。
The imaging device according to claim 3.
An imaging frequency changing means is provided for changing the imaging frequency for acquiring the preprocessing image data according to the sensitivity so that the imaging frequency is increased as the sensitivity is lower in a range where the sensitivity is determined to be the low sensitivity. An imaging device characterized by comprising:
請求項3または4に記載の撮像装置において、
前記複数枚の本処理用画像データを、最も露光量が低い露光条件で撮像した短時間露光画像データ、標準の露光条件で撮像した標準露光画像データ、及び最も露光量が高い露光条件で撮像した長時間露光データとで構成し、
前記前処理合成手段は、前記設定手段で設定される感度が前記閾値を超える高感度の場合、前記短時間露光画像データ、標準露光画像データ、及び長時間露光データのそれぞれを、複数枚の前処理用画像データを合成して作ることを特徴とする撮像装置。
In the imaging device according to claim 3 or 4,
The plurality of pieces of main processing image data were imaged under the short-exposure image data imaged under the exposure condition with the lowest exposure amount, the standard exposure image data imaged under the standard exposure condition, and the exposure condition with the highest exposure amount. Consisting of long exposure data,
When the sensitivity set by the setting unit is high sensitivity that exceeds the threshold, the pre-processing composition unit converts each of the short-time exposure image data, the standard exposure image data, and the long-time exposure data to a plurality of front images. An image pickup apparatus characterized by combining image data for processing.
請求項5記載の撮像装置において、
前記短時間露光画像データを作るための前処理用画像データを取得する撮像回数を「A」、前記標準露光画像データを作るための前処理用画像データを取得する撮像回数を「B」、及び前記長時間露光データを作るための前処理用画像データを取得する撮像回数を「C」とすると、A>B>Cの関係を満足することを特徴とする撮像装置。
The imaging device according to claim 5.
“A” is the number of times of capturing preprocessing image data for creating the short-time exposure image data, “B” is the number of times of capturing preprocessing image data for creating the standard exposure image data, and An imaging apparatus characterized by satisfying a relationship of A>B> C, where “C” is the number of imaging times for acquiring preprocessing image data for creating the long-time exposure data.
請求項6に記載の撮像装置において、
前記撮像回数「A」,「B」,「C」のそれぞれを、前記感度が前記高感度の範囲のうちの高感度程撮像回数が増えるように、前記感度に応じて変える撮像回数変更手段を備えていることを特徴とする撮像装置。
The imaging device according to claim 6,
An imaging number changing means for changing the number of imaging times “A”, “B”, and “C” according to the sensitivity so that the number of imaging times increases as the sensitivity is higher in the high sensitivity range. An imaging apparatus comprising:
静止被写体を検出することに応答して、前記静止被写体を異なる露光量で撮像素子により撮像して生成した複数枚の本処理用画像データを合成して1枚の広ダイナミックレンジ画像データを生成する合成撮影モードに移行することを特徴とする撮像方法。   In response to detecting a stationary subject, a plurality of main processing image data generated by imaging the stationary subject with an image sensor with different exposure amounts are combined to generate a single wide dynamic range image data. An imaging method characterized by transitioning to a composite shooting mode. 請求項8に記載の撮像方法において、
連写撮影モードが設定されることに応じて、前記合成撮影モードから通常撮影モードに移行することを特徴とする撮像方法。
The imaging method according to claim 8,
An imaging method, wherein transition from the composite shooting mode to the normal shooting mode is performed in response to the setting of the continuous shooting mode.
請求項8または9記載の撮像方法において、
前記撮像素子の感度が閾値未満の低感度の場合、前記被写体を標準露光よりも少ない露光量で複数回撮像して生成した複数枚の前処理用画像データを1枚のノイズ軽減用画像データとして合成し、合成した前記ノイズ軽減用画像データを前記本処理用画像データのうちの最も露光量が低い露光条件で撮像した画像データとして出力することを特徴とする撮像方法。
The imaging method according to claim 8 or 9,
When the sensitivity of the image sensor is lower than a threshold value, a plurality of pre-processing image data generated by imaging the subject a plurality of times with an exposure amount smaller than the standard exposure is used as a single noise reduction image data. An image pickup method comprising: synthesizing and outputting the synthesized image data for noise reduction as image data picked up under an exposure condition having the lowest exposure amount among the image data for main processing.
請求項10に記載の撮像方法において、
前記ノイズ軽減用画像データを生成するための前記前処理用画像データの枚数を、前記感度が前記低感度と判定する範囲のうちの低感度程撮像回数が増えるように、前記感度に応じて変えるようにしたことを特徴とする撮像方法。
The imaging method according to claim 10.
The number of the pre-processing image data for generating the noise reduction image data is changed according to the sensitivity so that the number of times of imaging increases as the sensitivity is lower in the range where the sensitivity is determined as the low sensitivity. An imaging method characterized by the above.
請求項8ないし11いずれか1項記載の撮像方法において、
前記複数枚の本処理用画像データを、最も露光量が低い露光条件で撮像した短時間露光画像データ、標準の露光条件で撮像した標準露光画像データ、及び最も露光量が高い露光条件で撮像した長時間露光データとで構成し、
前記撮像素子の感度が閾値を超える高感度の場合、前記短時間露光画像データ、標準露光画像データ、及び長時間露光データのそれぞれを、複数枚の前処理用画像データを合成して作ることを特徴とする撮像方法。
The imaging method according to any one of claims 8 to 11,
The plurality of pieces of main processing image data were imaged under the short-exposure image data imaged under the exposure condition with the lowest exposure amount, the standard exposure image data imaged under the standard exposure condition, and the exposure condition with the highest exposure amount. Consisting of long exposure data,
When the sensitivity of the image sensor is higher than a threshold value, each of the short-time exposure image data, the standard exposure image data, and the long-time exposure data is created by combining a plurality of pre-processing image data. A characteristic imaging method.
請求項12記載の撮像方法において、
前記短時間露光画像データを作るための前処理用画像データを取得する撮像回数を「A」、前記標準露光画像データを作るための前処理用画像データを取得する撮像回数を「B」、及び前記長時間露光データを作るための前処理用画像データを取得する撮像回数を「C」とすると、A>B>Cの関係を満足することを特徴とする撮像方法。
The imaging method according to claim 12,
“A” is the number of times of capturing preprocessing image data for creating the short-time exposure image data, “B” is the number of times of capturing preprocessing image data for creating the standard exposure image data, and An imaging method characterized by satisfying a relationship of A>B> C, where “C” is the number of times of imaging for obtaining preprocessing image data for creating the long-time exposure data.
請求項13に記載の撮像方法において、
前記撮像回数「A」,「B」,「C」のそれぞれを、前記感度が前記高感度の範囲のうちの高感度程撮像回数が増えるように、前記感度に応じて変えることを特徴とする撮像方法。
The imaging method according to claim 13.
Each of the number of imaging times “A”, “B”, and “C” is changed according to the sensitivity so that the number of imaging times increases as the sensitivity is higher in the high sensitivity range. Imaging method.
JP2011107502A 2011-05-12 2011-05-12 Imaging device and method Pending JP2012239076A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011107502A JP2012239076A (en) 2011-05-12 2011-05-12 Imaging device and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011107502A JP2012239076A (en) 2011-05-12 2011-05-12 Imaging device and method

Publications (1)

Publication Number Publication Date
JP2012239076A true JP2012239076A (en) 2012-12-06

Family

ID=47461579

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011107502A Pending JP2012239076A (en) 2011-05-12 2011-05-12 Imaging device and method

Country Status (1)

Country Link
JP (1) JP2012239076A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110992284A (en) * 2019-11-29 2020-04-10 Oppo广东移动通信有限公司 Image processing method, image processing apparatus, electronic device, and computer-readable storage medium
CN112565622A (en) * 2016-07-01 2021-03-26 麦克赛尔株式会社 Image capturing apparatus
CN113327215A (en) * 2021-05-28 2021-08-31 浙江大华技术股份有限公司 Wide dynamic image synthesis method and device, electronic equipment and storage medium
US12081876B2 (en) 2020-12-17 2024-09-03 Beijing Bytedance Network Technology Co., Ltd. Method for determining photographing mode, electronic device and storage medium

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000050151A (en) * 1998-07-28 2000-02-18 Olympus Optical Co Ltd Image pickup device
JP2007049227A (en) * 2005-08-05 2007-02-22 Canon Inc Image processing apparatus and method thereof
JP2008178147A (en) * 2008-04-08 2008-07-31 Olympus Corp Imaging apparatus

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000050151A (en) * 1998-07-28 2000-02-18 Olympus Optical Co Ltd Image pickup device
JP2007049227A (en) * 2005-08-05 2007-02-22 Canon Inc Image processing apparatus and method thereof
JP2008178147A (en) * 2008-04-08 2008-07-31 Olympus Corp Imaging apparatus

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112565622A (en) * 2016-07-01 2021-03-26 麦克赛尔株式会社 Image capturing apparatus
CN110992284A (en) * 2019-11-29 2020-04-10 Oppo广东移动通信有限公司 Image processing method, image processing apparatus, electronic device, and computer-readable storage medium
US12081876B2 (en) 2020-12-17 2024-09-03 Beijing Bytedance Network Technology Co., Ltd. Method for determining photographing mode, electronic device and storage medium
CN113327215A (en) * 2021-05-28 2021-08-31 浙江大华技术股份有限公司 Wide dynamic image synthesis method and device, electronic equipment and storage medium

Similar Documents

Publication Publication Date Title
JP5857444B2 (en) Imaging device
US8368771B2 (en) Generating a synthesized image from a plurality of images
JP4404823B2 (en) Imaging device
KR101303410B1 (en) Image capture apparatus and image capturing method
US8982232B2 (en) Image processing apparatus and image processing method
JP5968068B2 (en) Imaging apparatus for controlling exposure, control method for imaging apparatus, program, and recording medium
US9210333B2 (en) Image capturing apparatus for generating composite image and control method thereof
JP6137792B2 (en) IMAGING DEVICE, CONTROL METHOD FOR IMAGING DEVICE, PROGRAM, AND STORAGE MEDIUM
JP2013258444A (en) Image processing device, image processing method, and program
JP2010136224A (en) Imaging apparatus and imaging method
US9892497B2 (en) Image processing apparatus, imaging apparatus, and image processing method
JP2008035167A (en) Imaging apparatus
JP2010147786A (en) Imaging device and image processing method
JP2012239076A (en) Imaging device and method
JP2022105715A (en) Image processor
JP2009213032A (en) Wide dynamic range image formation processing apparatus
JP6242129B2 (en) Imaging device, control method thereof, and control program
JP6519625B2 (en) Imaging device
JP6222335B2 (en) Imaging device
JP6769519B2 (en) Imaging device
JP6052379B2 (en) Imaging device
JP2015080157A (en) Image processing device, image processing method and program
JP6075829B2 (en) IMAGING DEVICE, CAMERA SYSTEM, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP5693647B2 (en) Image processing method, image processing apparatus, and imaging apparatus
JP5264695B2 (en) Image processing method, image processing apparatus, and imaging apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140512

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150203

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150721