JP6108854B2 - Imaging apparatus and control method thereof - Google Patents

Imaging apparatus and control method thereof Download PDF

Info

Publication number
JP6108854B2
JP6108854B2 JP2013022310A JP2013022310A JP6108854B2 JP 6108854 B2 JP6108854 B2 JP 6108854B2 JP 2013022310 A JP2013022310 A JP 2013022310A JP 2013022310 A JP2013022310 A JP 2013022310A JP 6108854 B2 JP6108854 B2 JP 6108854B2
Authority
JP
Japan
Prior art keywords
signal
image
pixel
correction
reading
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013022310A
Other languages
Japanese (ja)
Other versions
JP2014155002A (en
Inventor
茂 市川
茂 市川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013022310A priority Critical patent/JP6108854B2/en
Publication of JP2014155002A publication Critical patent/JP2014155002A/en
Application granted granted Critical
Publication of JP6108854B2 publication Critical patent/JP6108854B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、撮像装置及びその制御方法に関する。 The present invention relates to an imaging apparatus and a control method thereof .

静止画や動画を撮影するCCDイメージセンサやCMOSイメージセンサ等の撮像素子では、一般的に、ダイナミックレンジ(階調を識別可能な最小輝度と最大輝度の比率)が人間の目で感じられるものと比較して狭いことが知られている。そのため、実際に目で見た階調を写真としてそのまま再現することは難しい。そこで、異なる露出条件で撮影した複数の画像を重ね合わせて、通常撮影よりも広いダイナミックレンジ(以下「HDR」という)の画像を取得する技術が知られている(例えば、特許文献1参照)。   In an image sensor such as a CCD image sensor or a CMOS image sensor that captures a still image or a moving image, generally, the dynamic range (ratio between the minimum luminance and the maximum luminance capable of distinguishing gradations) can be perceived by human eyes. It is known that it is narrow in comparison. Therefore, it is difficult to reproduce the gradation actually seen with eyes as a photograph. Therefore, a technique is known in which a plurality of images shot under different exposure conditions are overlapped to acquire an image having a wider dynamic range (hereinafter referred to as “HDR”) than normal shooting (see, for example, Patent Document 1).

図14は、HDRを実現させる従来技術に係る撮影動作の一例を模式的に示す図である。撮影開始後に、露出条件を変えて、複数枚(例えば、暗いアンダー露出のL画像、適正露出のM画像、明るいオーバー露出のH画像の3枚)の撮影を行う。その後、撮影された各画像を合成することで、H画像とL画像の露出の差によるHDRを実現することができる。   FIG. 14 is a diagram schematically illustrating an example of a photographing operation according to the related art that realizes HDR. After the start of photographing, a plurality of images (for example, three images of a dark underexposed L image, a properly exposed M image, and a bright overexposed H image) are taken under different exposure conditions. After that, by synthesizing the captured images, it is possible to realize HDR by the difference in exposure between the H image and the L image.

特開平06−141229号公報Japanese Patent Laid-Open No. 06-141229

しかし、上記特許文献1は、露出条件の異なる画像を独立して撮影することを開示するのみであるため、画像毎に補正が必要であり、各画像に対して補正パラメータを作成して補正する処理を行う必要がある場合に対応することができない。その結果、フレーム間で無駄な期間が発生するという問題があり、また、動く被写体等に対しては被写体の軌跡が途切れる等の問題が生じる。また、HDRを得るための動作を動画撮影中に行う場合は、再生時のフレームレートとの関係から、補正パラメータ作成用の領域を十分に取ることができず、そのために十分な補正精度が得られずに、高い画質を確保することができないという問題もある。   However, since Patent Document 1 only discloses that images with different exposure conditions are independently photographed, correction is required for each image, and correction parameters are created and corrected for each image. It is not possible to cope with the case where processing is necessary. As a result, there is a problem that a useless period occurs between frames, and there is a problem that the locus of the subject is interrupted with respect to a moving subject or the like. In addition, when the operation for obtaining HDR is performed during moving image shooting, the correction parameter creation area cannot be sufficiently taken into account due to the relationship with the frame rate at the time of reproduction, and thus sufficient correction accuracy is obtained. In other words, there is a problem that high image quality cannot be ensured.

本発明は、HDRを得るための動作の際にフレーム間に発生する余分な時間を削減しながら、高い画質を確保することができる撮像装置を提供することを目的とする。   An object of the present invention is to provide an imaging apparatus capable of ensuring high image quality while reducing extra time generated between frames during an operation for obtaining HDR.

本発明に係る撮像装置は、受光量に応じた信号を出力する受光画素と前記受光画素から出力される信号を補正するための信号を出力する補正用画素を有する撮像素子を用いて、異なる露出設定で連続的に撮影を行って2枚以上の画像を取得する画像取得手段と、記2枚以上の画像を取得する際に前記2枚以上の画像の組み合わせ毎に一度だけ前記補正用画素から信号を読み出す第1の読み出し方法と、前記2枚以上の画像を取得する際に各画像を取得する毎に前記補正用画素から信号を読み出す第2の読み出し方法のいずれかの方法により信号を読み出す読み出し手段と、前記第1の読み出し方法により信号が読み出された場合は前記補正用画素から前記一度だけ読み出された信号から生成された補正値を用いて前記2枚以上の画像を補正し、前記第2の読み出し方法により信号が読み出された場合は前記補正用画素から画像毎に読み出された信号を用いて生成された各補正値を用いて各画像を補正する補正手段と前記補正手段によって補正された前記2枚以上の画像を合成して合成画像を生成する合成手段とを備えることを特徴とする。 Imaging device according to the present invention, the imaging device having the complement Tadashiyo pixel you output a signal for correcting the signals output from the light receiving pixels and prior Symbol receiving pixel you output a signal corresponding to the amount of received light once used, an image obtaining means for obtaining two or more images by performing continuous shooting at different exposure settings, for each combination of the two or more images when obtaining the prior SL 2 or more images Any one of a first reading method of reading a signal from the correction pixel and a second reading method of reading a signal from the correction pixel every time each image is acquired when acquiring the two or more images. A reading means for reading a signal by the above method, and when the signal is read by the first reading method, the two sheets using a correction value generated from the signal read only once from the correction pixel. Correct the above image A correction means for correcting the image using the correction values generated using a signal read out for each image from the correction pixel when the signal is read by the second read method, characterized in that it comprises a synthesizing means for generating a corrected said two or more synthesized and the synthesized image pictures by said correcting means.

本発明によれば、HDRを得るための動作の際に、フレーム間に発生する余分な時間を削減しながら、高い画質を確保することができる。   According to the present invention, it is possible to ensure high image quality while reducing extra time that occurs between frames during the operation for obtaining HDR.

本発明の実施形態に係る撮像装置の概略構成を示すブロック図である。1 is a block diagram illustrating a schematic configuration of an imaging apparatus according to an embodiment of the present invention. 図1の撮像装置が備える撮像部の有する撮像素子の概略構成を示す図である。It is a figure which shows schematic structure of the image pick-up element which the imaging part with which the imaging device of FIG. 1 is provided has. 図1の撮像装置による通常の画像取得のタイミングチャートである。2 is a timing chart of normal image acquisition by the imaging apparatus of FIG. 1. 図2の撮像素子からの出力信号に対して行われるOBクランプ動作を示す図と、OBクランプ回路の構成を示す図である。FIG. 3 is a diagram illustrating an OB clamp operation performed on an output signal from the image sensor of FIG. 2 and a diagram illustrating a configuration of an OB clamp circuit. 図2の撮像素子からの出力信号に列オフセット成分による縦筋が発生している状態を模式的に示す図である。It is a figure which shows typically the state in which the vertical stripe by the column offset component has generate | occur | produced in the output signal from the image pick-up element of FIG. 図5の画像に対する列オフセット補正の効果を示す図である。It is a figure which shows the effect of the column offset correction with respect to the image of FIG. 図1の撮像装置を用いてHDR動画を取得するための第1実施形態に係るタイミングチャートである。3 is a timing chart according to the first embodiment for acquiring an HDR video using the imaging apparatus of FIG. 1. HDR画像を生成する単位毎に1度だけOB画素信号とNULL画素信号を読み出した場合の補正精度の不足を模式的に示す図である。It is a figure which shows typically the lack of correction precision at the time of reading an OB pixel signal and a NULL pixel signal only once for every unit which produces | generates an HDR image. 第2実施形態で用いる、L画像とH画像の各画像の取得毎にOB画素信号とNULL画素信号を読み出す動作を示すタイミングチャートである。It is a timing chart which shows the operation | movement which reads an OB pixel signal and a NULL pixel signal for every acquisition of each image of L image and H image used by 2nd Embodiment. 第2実施形態に係るHDR画像の取得方法を示すフローチャートである。It is a flowchart which shows the acquisition method of the HDR image which concerns on 2nd Embodiment. 第3実施形態に係る、被写体輝度が低輝度になった際にHDR画像を取得するためのタイミングチャートである。12 is a timing chart for acquiring an HDR image when the subject brightness becomes low according to the third embodiment. 第3実施形態に係る、H画像の具体的な補正方法を示すフローチャートである。It is a flowchart which shows the specific correction method of H image based on 3rd Embodiment. 図12のフローチャートに従ってH画像を補正する、撮像装置が備える信号処理部の概略構成を示す図である。It is a figure which shows schematic structure of the signal processing part with which an imaging device corrects H image according to the flowchart of FIG. 通常撮影よりも広いダイナミックレンジの画像を取得するための従来技術に係る撮影動作の一例を模式的に示す図である。It is a figure which shows typically an example of imaging | photography operation | movement which concerns on the prior art for acquiring the image of a dynamic range wider than normal imaging | photography.

以下、本発明の実施形態について添付図面を参照して詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.

<第1実施形態>
図1は、本発明の第1実施形態に係る撮像装置100の概略構成を示すブロック図である。本実施形態では、撮像装置100は、具体的には、静止画撮影と動画撮影が可能なデジタルカメラであるとする。撮像装置100は、レンズ部101、光量調整部102、撮像部103、信号処理部104、撮像制御部105、全体制御部106、操作部110、記録部111及び表示部112を有する。全体制御部106は、記憶部107、被写体輝度検出部108及び露出演算部109を含む。
<First Embodiment>
FIG. 1 is a block diagram showing a schematic configuration of an imaging apparatus 100 according to the first embodiment of the present invention. In the present embodiment, specifically, the imaging device 100 is assumed to be a digital camera capable of still image shooting and moving image shooting. The imaging apparatus 100 includes a lens unit 101, a light amount adjustment unit 102, an imaging unit 103, a signal processing unit 104, an imaging control unit 105, an overall control unit 106, an operation unit 110, a recording unit 111, and a display unit 112. The overall control unit 106 includes a storage unit 107, a subject luminance detection unit 108, and an exposure calculation unit 109.

レンズ部101は、被写体からの反射光を撮像部103に結像させるための複数のレンズ群によって構成されており、焦点距離変更手段や入射光を遮る遮光手段等を含む。光量調整部102は、レンズ部101と撮像部103との間に配置されており、レンズ部101を透過する光量を、例えば3段で減光することができる減光フィルタ等である。但し、光量調整部102は、これに限定されるものではなく、減光量の設定値は3段分以外の値でもよいし、絞り機構を用いることで更に多段階的に減光できるようにしてもよい。   The lens unit 101 includes a plurality of lens groups for forming an image of reflected light from a subject on the imaging unit 103, and includes a focal length changing unit, a light blocking unit that blocks incident light, and the like. The light amount adjustment unit 102 is disposed between the lens unit 101 and the imaging unit 103, and is a neutral density filter or the like that can reduce the amount of light transmitted through the lens unit 101 in, for example, three stages. However, the light amount adjustment unit 102 is not limited to this, and the setting value of the light reduction amount may be a value other than three steps, or the light amount adjustment unit 102 can be dimmed in multiple steps by using a diaphragm mechanism. Also good.

撮像部103は、レンズ部101と光量調整部102を通して入射した光をアナログ電気信号に変換する撮像素子と、撮像素子から出力されるアナログ信号をデジタル信号(画素信号)に変換するA/D変換回路等を含む。信号処理部104は、撮像部103から入力される画素信号に対して、補正用のパラメータ生成や必要な画像信号補正処理を行う。撮像制御部105は、全体制御部106からの指令(入力信号)に基づいて、撮像部103及び信号処理部104等に必要なタイミング信号、映像信号を増幅するためのゲインの設定信号、露出時間を設定信号、その他の制御に必要な信号を生成する。全体制御部106は、CPU、プログラムを記憶したROM、RAM等を有し、ROMから読み出したプログラム等をRAMの作業エリアに展開、実行してすることにより、撮像装置100の全体的動作を統括制御するために必要な処理と演算を行う。   The imaging unit 103 is an imaging device that converts light incident through the lens unit 101 and the light amount adjustment unit 102 into an analog electrical signal, and A / D conversion that converts an analog signal output from the imaging device into a digital signal (pixel signal). Including circuits. The signal processing unit 104 performs correction parameter generation and necessary image signal correction processing on the pixel signal input from the imaging unit 103. The imaging control unit 105, based on a command (input signal) from the overall control unit 106, a timing signal necessary for the imaging unit 103 and the signal processing unit 104, a gain setting signal for amplifying the video signal, and an exposure time A setting signal and other signals necessary for control are generated. The overall control unit 106 includes a CPU, a ROM, a RAM, and the like that store programs. The overall control unit 106 controls the overall operation of the imaging apparatus 100 by developing and executing programs read from the ROM in the RAM work area. Performs the necessary processing and calculations for control.

全体制御部106に含まれる記憶部107は、信号処理部104等からの信号を一時的に記憶する。被写体輝度検出部108は、撮像部103からの信号に基づいて撮影中の被写体の輝度値を検出する。露出演算部109は、被写体輝度検出部108が検出した輝度値に基づいて、撮影画像の露出を決定する。全体制御部106は、露出演算部109の演算結果に基づき、光量調整部102を用いて光量を調整し、また、撮像制御部105を用いて露光時間や映像信号を増幅するためのゲインを調整する。本実施形態では、信号処理部104を全体制御部106から独立した構成としているが、信号処理部104は、全体制御部106の中に含まれていてもよいし撮像部103の中に含まれていてもよい。また、撮像制御部105は撮像部103の中に含まれていてもよい。   A storage unit 107 included in the overall control unit 106 temporarily stores a signal from the signal processing unit 104 or the like. The subject brightness detection unit 108 detects the brightness value of the subject being shot based on the signal from the imaging unit 103. The exposure calculation unit 109 determines the exposure of the captured image based on the luminance value detected by the subject luminance detection unit 108. The overall control unit 106 adjusts the amount of light using the light amount adjustment unit 102 based on the calculation result of the exposure calculation unit 109, and adjusts the exposure time and the gain for amplifying the video signal using the imaging control unit 105. To do. In the present embodiment, the signal processing unit 104 is independent from the overall control unit 106, but the signal processing unit 104 may be included in the overall control unit 106 or included in the imaging unit 103. It may be. In addition, the imaging control unit 105 may be included in the imaging unit 103.

操作部110は、機械的な各種ボタンやダイヤル、表示部112を用いたタッチパネル操作が可能なアイコン等のヒューマンIFによって構成されている。操作部110を通して入力された情報や指令は全体制御部106に伝達され、全体制御部106は受信した情報や指令に基づいて撮像装置100を動作させる。記録部111は、全体制御部106により生成される画像データを記録する。表示部112は、信号処理部104からの信号に基づいて全体制御部106が生成する画像データを表示し、また、操作部110から入力された操作に対応するアイコン等を表示する。   The operation unit 110 is configured by a human IF such as various mechanical buttons and dials, and an icon capable of touch panel operation using the display unit 112. Information and commands input through the operation unit 110 are transmitted to the overall control unit 106, and the overall control unit 106 operates the imaging apparatus 100 based on the received information and commands. The recording unit 111 records image data generated by the overall control unit 106. The display unit 112 displays image data generated by the overall control unit 106 based on a signal from the signal processing unit 104, and displays an icon corresponding to the operation input from the operation unit 110.

図2は、撮像部103が備える撮像素子の概略構成を示す図である。撮像素子は、本実施形態では、CMOS型のイメージセンサであるとする。撮像素子は、レンズ部101からの光を受光し、光電変換により受光量に応じた電気信号を出力する受光画素201を有する。受光画素201は、フォトダイオード202、転送トランジスタ203、信号増幅アンプ204、リセット用トランジスタ205を1ユニットとして構成されている。転送トランジスタ203及びリセット用トランジスタ205は、水平駆動回路206からの信号によって動作する。なお、水平駆動回路206は、受光画素201の各画素を駆動させるためのシフトレジスタや転送トランジスタ203等の信号生成回路等を含む。水平駆動回路206によって生成されたタイミング信号によって、転送トランジスタ203とリセット用トランジスタ205とが制御されることで、各画素のフォトダイオードの電荷のリセット/読み出しが行われ、露光時間が制御される。   FIG. 2 is a diagram illustrating a schematic configuration of an image sensor provided in the imaging unit 103. In the present embodiment, the imaging element is a CMOS image sensor. The image sensor includes a light receiving pixel 201 that receives light from the lens unit 101 and outputs an electric signal corresponding to the amount of light received through photoelectric conversion. The light receiving pixel 201 includes a photodiode 202, a transfer transistor 203, a signal amplification amplifier 204, and a reset transistor 205 as one unit. The transfer transistor 203 and the reset transistor 205 are operated by signals from the horizontal drive circuit 206. The horizontal drive circuit 206 includes a shift register for driving each pixel of the light receiving pixel 201, a signal generation circuit such as the transfer transistor 203, and the like. The transfer transistor 203 and the reset transistor 205 are controlled by the timing signal generated by the horizontal driving circuit 206, whereby the charge / reset of the photodiode charge of each pixel is performed, and the exposure time is controlled.

撮像素子は、遮光画素207(以下「OB画素207」と記す)とダミー画素208(以下「NULL画素208」と記す)と、垂直駆動回路209とを有する。OB画素207及びNULL画素208は、受光画素201から出力される電気信号を補正するための電気信号を出力する補正用画素である。   The imaging element includes a light-shielding pixel 207 (hereinafter referred to as “OB pixel 207”), a dummy pixel 208 (hereinafter referred to as “NULL pixel 208”), and a vertical drive circuit 209. The OB pixel 207 and the NULL pixel 208 are correction pixels that output an electric signal for correcting the electric signal output from the light receiving pixel 201.

OB画素207は、受光画素201とは異なり、その表面が遮光膜によって遮光されている。OB画素207から出力される信号は、後段の画像処理で画像の黒の基準を決める際等に使用される。NULL画素208は、受光画素201及びOB画素207と異なり、光電変換する機能を有しない。NULL画素208から出力される信号は、各画素を動作させる水平駆動回路206のオフセット成分を検出する際等に使用される。なお、NULL画素208は、受光画素201からフォトダイオード202を削除した構成と同等である。   Unlike the light receiving pixel 201, the surface of the OB pixel 207 is shielded from light by a light shielding film. The signal output from the OB pixel 207 is used when determining the black reference of the image in the subsequent image processing. Unlike the light receiving pixel 201 and the OB pixel 207, the NULL pixel 208 does not have a photoelectric conversion function. A signal output from the NULL pixel 208 is used when detecting an offset component of the horizontal drive circuit 206 that operates each pixel. Note that the NULL pixel 208 is equivalent to a configuration in which the photodiode 202 is omitted from the light receiving pixel 201.

垂直駆動回路209は、シフトレジスタ、列アンプ回路及びA/D変換回路210、信号出力選択スイッチ211及び外部への出力回路(不図示)等を含む。列アンプ回路及びA/D変換回路210の設定を撮像制御部105からの信号によって変化させることによって、各画素から読み出された信号を増幅することができる。   The vertical drive circuit 209 includes a shift register, a column amplifier circuit and A / D conversion circuit 210, a signal output selection switch 211, an output circuit (not shown) to the outside, and the like. By changing the settings of the column amplifier circuit and the A / D conversion circuit 210 according to the signal from the imaging control unit 105, the signal read from each pixel can be amplified.

図3は、撮像装置100による通常の画像取得のタイミングチャートである。全体制御部106又は撮像制御部105が生成する垂直同期信号によって、撮像部103に対する露光と撮像部103からの信号読み出しが行われる。本実施形態では、撮像制御部105によって設定された条件で、受光画素201、OB画素207及びNULL画素208の各信号を所定の順番で読み出す。   FIG. 3 is a timing chart of normal image acquisition by the imaging apparatus 100. Exposure to the image capturing unit 103 and signal readout from the image capturing unit 103 are performed by a vertical synchronization signal generated by the overall control unit 106 or the image capturing control unit 105. In the present embodiment, the signals of the light receiving pixel 201, the OB pixel 207, and the NULL pixel 208 are read in a predetermined order under the conditions set by the imaging control unit 105.

前述の通り、本実施形態ではCMOS型の撮像素子を用いている。そのため、水平駆動回路206のシフトレジスタの設定よって、どの行の転送トランジスタ203をどのような順序で駆動させるか選択することができ、また、同一行を繰り返し選択して信号を読み出すこともできる。更に、垂直駆動回路209のシフトレジスタの設定により、どの列の信号出力選択スイッチ211を動作させるかによって同一行の信号においてどの列の信号から出力するかを選択することができる。これによって、画面内のどの画素からどのような順番で信号を読み出すかを指定することができる。受光画素201から読み出した信号は、信号処理部104にてOB画素207とNULL画素208から読み出した信号から生成した補正値を用いて補正される。その後、全体制御部106において、最終的な画像が作成される。   As described above, the CMOS image sensor is used in the present embodiment. Therefore, it is possible to select which row of the transfer transistors 203 is driven in what order by setting the shift register of the horizontal driving circuit 206, and it is also possible to repeatedly select the same row and read a signal. Further, by setting the shift register of the vertical drive circuit 209, it is possible to select which column signal is output from the same row signal depending on which column signal output selection switch 211 is operated. In this way, it is possible to specify in what order the signal is read from which pixel in the screen. The signal read from the light receiving pixel 201 is corrected by using the correction value generated from the signal read from the OB pixel 207 and the NULL pixel 208 in the signal processing unit 104. Thereafter, the overall control unit 106 creates a final image.

次に、OB画素207から読み出した信号(以下「OB画素信号」という)とNULL画素208から読み出した信号(以下「NULL画素信号」という)を用いて受光画素201から読み出した信号(以下「受光画素信号」という)を補正する方法について説明する。   Next, a signal read from the light receiving pixel 201 (hereinafter referred to as “light receiving”) using a signal read from the OB pixel 207 (hereinafter referred to as “OB pixel signal”) and a signal read from the NULL pixel 208 (hereinafter referred to as “NULL pixel signal”). A method for correcting “pixel signal” will be described.

OB画素信号を用いた受光画素信号の補正方法の一例としては、撮像素子の温度上昇に伴って発生する暗電流成分を受光画素信号から減算するOBクランプ動作が挙げられる。即ち、受光画素201の出力信号値からOB画素207の出力信号値を減算する。図4(a)は、このOBクランプ動作を示す図である。OB画素207で発生する暗電流成分は、受光画素201で発生する暗電流成分と同レベルである。そのため、OBクランプ動作を行うことにより、撮影中に撮像素子の温度が上昇しても、暗電流成分の画質への影響を除去することができる。   As an example of the correction method of the light receiving pixel signal using the OB pixel signal, there is an OB clamping operation for subtracting the dark current component generated with the temperature rise of the image sensor from the light receiving pixel signal. That is, the output signal value of the OB pixel 207 is subtracted from the output signal value of the light receiving pixel 201. FIG. 4A is a diagram showing this OB clamping operation. The dark current component generated in the OB pixel 207 is at the same level as the dark current component generated in the light receiving pixel 201. Therefore, by performing the OB clamping operation, it is possible to remove the influence of the dark current component on the image quality even if the temperature of the image sensor rises during shooting.

図4(b)は、OBクランプ回路の概略構成を示す図である。受光画素201から信号を読み出す前に、OB画素207の信号が読み出されて信号処理部104に入力される。信号処理部104は補正値生成回路401を有し、補正値生成回路401は、入力されたOB画素信号から暗電流成分を算出する。その後、受光画素201から信号が読み出され、読み出された受光画素信号から暗電流成分が減算される。これにより、暗電流成分の画質への影響を低減させることができる。   FIG. 4B is a diagram showing a schematic configuration of the OB clamp circuit. Before reading a signal from the light receiving pixel 201, the signal of the OB pixel 207 is read and input to the signal processing unit 104. The signal processing unit 104 includes a correction value generation circuit 401, and the correction value generation circuit 401 calculates a dark current component from the input OB pixel signal. Thereafter, a signal is read from the light receiving pixel 201, and a dark current component is subtracted from the read light receiving pixel signal. Thereby, the influence of the dark current component on the image quality can be reduced.

一方、NULL画素信号を用いた受光画素信号の補正方法の一例としては、列アンプ回路又は列A/D変換回路にてトランジスタのばらつき等に起因して重畳されるオフセット成分(以下「列オフセット成分」という)を受光画素信号から減算する列オフセット補正動作が挙げられる。   On the other hand, as an example of a method for correcting a light receiving pixel signal using a NULL pixel signal, an offset component (hereinafter referred to as “column offset component”) that is superposed due to transistor variations in a column amplifier circuit or a column A / D conversion circuit. Column offset correction operation of subtracting “)” from the light receiving pixel signal.

図5は、列オフセット成分によって縦筋が発生している状態を模式的に示す図である。図6は、図5の画像に対する列オフセット補正の効果を示した図であり、列オフセット補正動作の前後(図6(a):補正前、図6(b):補正後)における、図5のA−A´間とB−B´間の出力を示す図である。   FIG. 5 is a diagram schematically illustrating a state in which vertical stripes are generated due to the column offset component. FIG. 6 is a diagram showing the effect of column offset correction on the image of FIG. 5, and FIG. 5 shows before and after the column offset correction operation (FIG. 6 (a): before correction, FIG. 6 (b): after correction). It is a figure which shows the output between A-A 'and between B-B'.

図5及び図6(a)に示すように、受光画素201は、A−A´間において暗電流とレンズ部101から入射する光による信号に加えて、列オフセット成分が重畳した出力を持っている。これに対して、NULL画素208は、B−B´間において光電変換する部分がないため、暗電流による影響を受け難く、列オフセット成分を良好に検出することができる。したがって、図6(b)に示すように、受光画素201の出力信号値から列毎にNULL画素208の出力信号値を減算することにより、列オフセット成分が除去された出力信号を得ることができる。なお、図6(b)に示した列オフセット補正値を得ることは、同一の信号に対してOBクランプ回路で使用した回路と同様の回路を列毎に列数の分だけ用いることにより実現することができる。   As shown in FIGS. 5 and 6A, the light receiving pixel 201 has an output in which a column offset component is superimposed in addition to a dark current and a signal due to light incident from the lens unit 101 between A and A ′. Yes. On the other hand, the NULL pixel 208 has no portion for photoelectric conversion between B and B ′, and thus is hardly affected by the dark current and can detect the column offset component satisfactorily. Therefore, as shown in FIG. 6B, an output signal from which the column offset component is removed can be obtained by subtracting the output signal value of the NULL pixel 208 for each column from the output signal value of the light receiving pixel 201. . It should be noted that obtaining the column offset correction value shown in FIG. 6B is realized by using the same circuit as the circuit used in the OB clamp circuit for the same signal by the number of columns for each column. be able to.

上述したOBクランプ動作や列オフセット補正動作の補正値は、ランダムノイズの影響を低減して補正精度を向上させるため、複数の画素の信号値を平均化し、又は、巡回フィルタ等の演算を行って算出される。そのため、補正精度は、補正値を算出する画素数に依存する。   The correction values of the OB clamp operation and the column offset correction operation described above are performed by averaging signal values of a plurality of pixels or performing operations such as a cyclic filter in order to improve the correction accuracy by reducing the influence of random noise. Calculated. Therefore, the correction accuracy depends on the number of pixels for calculating the correction value.

撮像装置100により通常撮影よりも広いダイナミックレンジを有する動画(以下「HDR動画」という)を取得する方法について、以下に説明する。   A method for acquiring a moving image having a wider dynamic range than normal shooting (hereinafter referred to as “HDR moving image”) by the imaging apparatus 100 will be described below.

図7は、撮像装置100を用いてHDR動画を取得するための第1実施形態に係るタイミングチャートである。全体制御部106は、例えば、1/60s毎の垂直同期信号を生成し、これにより60fpsの撮影周期で撮影を行う。また、ここでは、撮像制御部105によって設定された条件で、暗いアンダー露出のL画像と明るいオーバー露出のH画像の露光動作を交互に行うものとする。撮影されたL画像とH画像は記憶部107に一時的に記憶され、L画像とH画像とが揃った時点で全体制御部106が両画像を合成し、広いダイナミックレンジを有する合成画像であるHDR画像を作成する。HDR動画は、複数のHDR画像によって構成される。   FIG. 7 is a timing chart according to the first embodiment for acquiring an HDR video using the imaging apparatus 100. For example, the overall control unit 106 generates a vertical synchronization signal every 1/60 s, and thereby performs imaging at an imaging cycle of 60 fps. Here, it is assumed that the exposure operation of the dark underexposed L image and the bright overexposed H image are alternately performed under the conditions set by the imaging control unit 105. The captured L image and H image are temporarily stored in the storage unit 107, and when the L image and the H image are aligned, the overall control unit 106 combines the two images and is a combined image having a wide dynamic range. Create an HDR image. An HDR video is composed of a plurality of HDR images.

ここで、OB画素信号及びNULL画素信号は、HDR画像を生成するL画像とH画像の組み合わせ毎に一度だけ補正値生成のために読み出される。読み出されたOB画素信号及びNULL画素信号は信号処理部104に入力され、信号処理部104は補正値の生成を行う。信号処理部104は、その後、読み出されるL画像とH画像のそれぞれに対して生成された同一の補正値を用いて補正動作を行う。これにより、L画像とH画像を読み出す間隔を狭めることができ、動く被写体等に対しても良好なHDR画像を取得することができる。また、画像毎に読み出していたOB画素207又はNULL画素208の画素数よりも多くの画素数の信号を一度に纏めて読み出すことができ、生成する補正値に対するランダムノイズの影響を低減させることができる。   Here, the OB pixel signal and the NULL pixel signal are read out for generating a correction value only once for each combination of the L image and the H image for generating the HDR image. The read OB pixel signal and NULL pixel signal are input to the signal processing unit 104, and the signal processing unit 104 generates a correction value. Thereafter, the signal processing unit 104 performs a correction operation using the same correction value generated for each of the read L image and H image. Thereby, the interval for reading out the L image and the H image can be narrowed, and a good HDR image can be acquired even for a moving subject or the like. In addition, signals having a larger number of pixels than the number of OB pixels 207 or NULL pixels 208 that have been read for each image can be read at a time, and the influence of random noise on the generated correction value can be reduced. it can.

なお、本実施形態では60fpsで連続して撮影した2枚の画像を用いて30fpsの動画を作成するとしたが、これとは異なるフレームレートでも本実施形態と同様の動作を適用することにより同様の効果を得ることができる。また、L画像とH画像の取得順について、本実施形態ではL画像を先に取得するとしたが、H画像先に取得するようにしてもよい。更に、HDR画像の生成に用いる画像は2枚以上(例えば、3枚)であればよく、本実施形態と同様の動作を行うことによって同様の効果を得ることができる。   In this embodiment, a 30 fps movie is created using two images continuously shot at 60 fps. However, the same operation as in this embodiment can be applied even at a different frame rate. An effect can be obtained. Further, regarding the acquisition order of the L image and the H image, the L image is acquired first in the present embodiment, but may be acquired before the H image. Furthermore, the number of images used for generating the HDR image may be two or more (for example, three), and the same effect can be obtained by performing the same operation as in the present embodiment.

また、OB画素信号とNULL画素信号から生成する補正値は、HDR画像を生成する単位毎に新しく生成してもよいし、過去の複数フレームを跨いで生成するようにしてもよい。更に、図2に示したように、本実施形態では、撮像素子がNULL画素208をその内部に有する構成としたが、受光画素201から信号を読み出さない動作(空転送)を用いて本実施形態と同様の動作を行うことにより同様の効果を得ることもできる。   The correction value generated from the OB pixel signal and the NULL pixel signal may be newly generated for each unit for generating the HDR image, or may be generated across a plurality of past frames. Furthermore, as shown in FIG. 2, in this embodiment, the imaging device has a NULL pixel 208 inside, but this embodiment uses an operation that does not read a signal from the light receiving pixel 201 (empty transfer). The same effect can be obtained by performing the same operation as.

<第2実施形態>
第1実施形態では、HDR画像を生成する単位毎に1度だけOB画素信号とNULL画素信号を読み出す(第1の読み出し方法)構成とした。この場合、HDR画像を生成する特定のL画像及びH画像間ではゲインやシャッタスピード等の露出条件が異なるため、HDR画像を生成する単位毎に1度だけOB画素信号とNULL画素信号を読み出したのでは補正精度が不足する事態が生じるおそれがある。図8は、HDR画像を生成する単位毎に1度だけOB画素信号とNULL画素信号を読み出した場合の補正精度の不足を模式的に示す図である。このように、補正精度に着目した場合には、L画像とH画像の各画像の取得毎にOB画素信号とNULL画素信号を読み出す動作(第2の読み出し方法)を行う従来動作の方が好ましい。
Second Embodiment
In the first embodiment, an OB pixel signal and a NULL pixel signal are read out only once for each unit for generating an HDR image (first reading method). In this case, since the exposure conditions such as gain and shutter speed differ between the specific L image and the H image for generating the HDR image, the OB pixel signal and the NULL pixel signal are read only once for each unit for generating the HDR image. In such a case, there is a risk that the correction accuracy may be insufficient. FIG. 8 is a diagram schematically illustrating a lack of correction accuracy when an OB pixel signal and a NULL pixel signal are read only once for each unit for generating an HDR image. As described above, when attention is paid to the correction accuracy, the conventional operation in which the operation of reading the OB pixel signal and the NULL pixel signal (second reading method) is performed every time the images of the L image and the H image are acquired is preferable. .

第2実施形態における撮像装置、画像補正方法及びHDR画像の生成方法等は、第1実施形態と同様であるが、第2実施形態では、HDR画像を生成する際に、第1実施形態での動作(第1の読み出し方法)と前述の従来動作(第2の読み出し方法)とを切り換える構成とする。   The imaging device, the image correction method, the HDR image generation method, and the like in the second embodiment are the same as those in the first embodiment, but in the second embodiment, when generating an HDR image, The operation (first reading method) and the above-described conventional operation (second reading method) are switched.

図9は、L画像とH画像の各画像の取得毎にOB画素信号とNULL画素信号を読み出す動作(前述の従来動作)を示すタイミングチャートである。全体制御部106は1/60s毎の垂直同期信号を生成し、これにより60fpsの撮影周期での撮影が行われ、撮像制御部105によって設定された条件で、L画像とH画像の露光動作が交互に行われるものとする。撮影されたL画像とH画像は記憶部107に一時的に記憶され、L画像とH画像とが揃った時点で全体制御部106が両画像を合成してHDR画像を作成する。   FIG. 9 is a timing chart showing an operation of reading out the OB pixel signal and the NULL pixel signal (the above-described conventional operation) every time the L image and the H image are acquired. The overall control unit 106 generates a vertical synchronization signal every 1/60 s, thereby performing shooting at a shooting period of 60 fps. Under the conditions set by the imaging control unit 105, the exposure operation of the L image and the H image is performed. It shall be performed alternately. The captured L image and H image are temporarily stored in the storage unit 107, and when the L image and the H image are aligned, the overall control unit 106 combines both images to create an HDR image.

その際に、L画像とH画像の各画像の取得毎にOB画素信号及びNULL画素信号を読み出す動作を行う。読み出されたOB画素信号及びNULL画素信号は信号処理部104に入力され、信号処理部104は補正値の生成を行う。信号処理部104は、その後、読み出されるL画像とH画像のそれぞれに対して生成された補正値を用いて補正動作を行う。本実施形態では、図7に示したタイミングチャートによるHDR画像の合成と図9に示したタイミングチャートによるHDR画像の合成とを適時に切り換える。   At this time, an operation of reading out the OB pixel signal and the NULL pixel signal is performed every time the L image and the H image are acquired. The read OB pixel signal and NULL pixel signal are input to the signal processing unit 104, and the signal processing unit 104 generates a correction value. Thereafter, the signal processing unit 104 performs a correction operation using correction values generated for each of the read L image and H image. In the present embodiment, the HDR image synthesis based on the timing chart shown in FIG. 7 and the HDR image synthesis based on the timing chart shown in FIG. 9 are switched in a timely manner.

図10は、第2実施形態に係るHDR画像の取得方法を示すフローチャートである。全体制御部106は、撮像制御部105を制御して露出設定のための画像を取得する(ステップS1001)。そして、全体制御部106の被写体輝度検出部108が、ステップS1001で取得した画像から被写体輝度Bvを算出する(ステップS1002)。続いて、全体制御部106の露出演算部109が、ステップS1002で算出した被写体輝度BvからL画像取得用の露出設定EvLとH画像取得用の露出設定EvHとを決定する(ステップS1003)。ここで、露出設定方法には、露光時間、映像信号を増幅するためのゲイン設定及び減光フィルタの挿入の有無等が含まれる。   FIG. 10 is a flowchart illustrating an HDR image acquisition method according to the second embodiment. The overall control unit 106 controls the imaging control unit 105 to acquire an image for setting exposure (step S1001). Then, the subject brightness detection unit 108 of the overall control unit 106 calculates the subject brightness Bv from the image acquired in step S1001 (step S1002). Subsequently, the exposure calculation unit 109 of the overall control unit 106 determines an exposure setting EvL for acquiring an L image and an exposure setting EvH for acquiring an H image from the subject luminance Bv calculated in step S1002 (step S1003). Here, the exposure setting method includes exposure time, gain setting for amplifying the video signal, presence / absence of insertion of a neutral density filter, and the like.

全体制御部106は、ステップS1003で決定した各露出条件に応じて、撮像制御部105を通して光量調整部102及び撮像部103の設定を行う(ステップS1004)。次に、全体制御部106は、露出設定EvH,EvLのそれぞれにおけるゲイン設定値であるL画像取得用ゲイン設定値(Sv_L)とH画像取得用ゲイン設定値(Sv_H)にて、図7の動作と図9の動作のどちらを実施するかを切り換える(ステップS1005)。ステップS1005では、ここでは、“Sv_H=Sv_L”の関係式が成立するか否かを判断基準とする。   The overall control unit 106 sets the light amount adjustment unit 102 and the imaging unit 103 through the imaging control unit 105 according to each exposure condition determined in step S1003 (step S1004). Next, the overall control unit 106 performs the operation of FIG. 7 using the L image acquisition gain setting value (Sv_L) and the H image acquisition gain setting value (Sv_H), which are gain setting values in the exposure settings EvH and EvL, respectively. And switching between the operations shown in FIG. 9 (step S1005). In step S1005, here, the determination criterion is whether or not the relational expression “Sv_H = Sv_L” is satisfied.

“Sv_H=Sv_L”の場合(S1005でYES)、全体制御部106は、図7の動作を実施する(ステップS1006)。一方、“Sv_H≠Sv_L”の場合(S1005でNO)、全体制御部106は図9の動作を実施する(ステップS1007)。ステップS1006,1007の後、全体制御部106は撮影が終了したか否かを判定する(ステップS1008)。撮影が終了していない場合(S1008でNO)、全体制御部106は処理をステップS1001へ戻す。一方、撮影が終了した場合(S1008でYES)、全体制御部106は撮影を終了させる。   When “Sv_H = Sv_L” (YES in S1005), the overall control unit 106 performs the operation of FIG. 7 (step S1006). On the other hand, if “Sv_H ≠ Sv_L” (NO in S1005), the overall control unit 106 performs the operation of FIG. 9 (step S1007). After steps S1006 and 1007, the overall control unit 106 determines whether or not the photographing is finished (step S1008). If shooting has not ended (NO in step S1008), the overall control unit 106 returns the process to step S1001. On the other hand, when the shooting is completed (YES in S1008), the overall control unit 106 ends the shooting.

以上の動作を行うことによって、ゲインやシャッタスピード等の露出条件が異なる場合でも、高画質のHDR画像を取得することができる。なお、本実施形態では、図7の動作(第1実施形態の動作)と図9の動作(従来動作)との切り換えをゲイン設定値に基づいて行ったが、これに限られず、シャッタスピードや消費電力期間の増減、その他条件に応じて切り換える構成としてもよい。   By performing the above operations, high-quality HDR images can be acquired even when exposure conditions such as gain and shutter speed are different. In the present embodiment, switching between the operation of FIG. 7 (operation of the first embodiment) and the operation of FIG. 9 (conventional operation) is performed based on the gain setting value. The power consumption period may be switched according to increase / decrease or other conditions.

<第3実施形態>
第2実施形態では、HDR画像を生成する際に、図7の動作(第1実施形態の動作)と図9の動作(従来動作)とを切り換える構成とした。これに対して、第3実施形態では、補正精度が足りない場合に、従来動作とは異なる動作により補正精度を向上させる。なお、第3実施形態における撮像装置、画像補正方法及びHDR画像の生成方法等は、第1実施形態と同様である。
<Third Embodiment>
In the second embodiment, when generating an HDR image, the operation of FIG. 7 (operation of the first embodiment) and the operation of FIG. 9 (conventional operation) are switched. On the other hand, in the third embodiment, when the correction accuracy is insufficient, the correction accuracy is improved by an operation different from the conventional operation. Note that the imaging apparatus, the image correction method, the HDR image generation method, and the like in the third embodiment are the same as those in the first embodiment.

図11は、被写体輝度が低輝度になった際にHDR画像を取得するためのタイミングチャートである。HDR画像を生成する単位毎に先頭画像となるL画像の取得時にOB画素信号及びNULL画素信号の読み出しを行い、次のH画像の取得時にもOB画素信号及びNULL画素信号の読み出しを行う。その際、H画像取得時に読み出すOB画素信号及びNULL画素信号の画素数を、L画像取得時に読み出すOB画素信号及びNULL画素信号の画素数よりも少なくする。そして、L画像については、L画像取得時に読み出したOB画素信号及びNULL画素信号を用いて、第1実施形態と同様の補正を行う。また、H画像については、L画像取得時のOB画素信号及びNULL画素信号に加えて、H画像取得時に読み出したOB画素信号及びNULL画素信号を使用して補正を行う。   FIG. 11 is a timing chart for acquiring an HDR image when the subject brightness becomes low. For each unit for generating an HDR image, the OB pixel signal and the NULL pixel signal are read when the L image as the head image is acquired, and the OB pixel signal and the NULL pixel signal are also read when the next H image is acquired. At this time, the number of pixels of the OB pixel signal and the NULL pixel signal read when acquiring the H image is made smaller than the number of pixels of the OB pixel signal and the NULL pixel signal read when acquiring the L image. And about L image, the correction | amendment similar to 1st Embodiment is performed using the OB pixel signal and NULL pixel signal read at the time of L image acquisition. For the H image, correction is performed using the OB pixel signal and the NULL pixel signal read out at the time of acquiring the H image in addition to the OB pixel signal and the NULL pixel signal at the time of acquiring the L image.

図12は、H画像の具体的な補正方法を示すフローチャートである。図13は、図12のフローチャートに従ってH画像を補正する信号処理部104の概略構成を示す図である。なお、図13の信号処理部104はL画像の補正も行う。   FIG. 12 is a flowchart showing a specific method for correcting the H image. FIG. 13 is a diagram illustrating a schematic configuration of the signal processing unit 104 that corrects the H image according to the flowchart of FIG. 12. Note that the signal processing unit 104 in FIG. 13 also corrects the L image.

全体制御部106は、信号処理部104に入力されたOB画素信号及びNULL画素信号から、L画像補正用の補正値OFF_Lを算出する(ステップS1201)。続いて、全体制御部106は、H画像補正用の補正値を生成するために、補正値OFF_Lに所定のゲイン値Gを乗算する(ステップS1202)。なお、所定のゲイン値Gは、映像信号を増幅するためのゲインを調整するゲイン調整手段によってL画像とH画像の露出差を実現している場合のL画像とH画像のそれぞれに対するゲイン値の差分である。補正値OFF_Lに乗算される所定のゲイン値Gは、撮像制御部105から入力され、補正値生成回路1301において乗算される。   The overall control unit 106 calculates a correction value OFF_L for L image correction from the OB pixel signal and the NULL pixel signal input to the signal processing unit 104 (step S1201). Subsequently, the overall control unit 106 multiplies the correction value OFF_L by a predetermined gain value G in order to generate a correction value for H image correction (step S1202). The predetermined gain value G is a gain value for each of the L image and the H image when the exposure difference between the L image and the H image is realized by a gain adjusting unit that adjusts the gain for amplifying the video signal. It is a difference. A predetermined gain value G multiplied by the correction value OFF_L is input from the imaging control unit 105 and is multiplied by the correction value generation circuit 1301.

全体制御部106は、ステップS1202で算出した結果(OFF_L×G)を初期値OFF_Hに設定する(ステップS1203)。そして、残る誤差分に関して、H画像取得時に読み出した画素信号を用いて微調整を行う。具体的には、H画像取得時に読み出す画素数をM(M:自然数)として読み出す度に巡回フィルタを通すことにより、所望の補正値を算出する(ステップS1204〜S1208)。 The overall control unit 106 sets the result calculated in step S1202 the (OFF_L × G) to an initial value OFF_H 0 (step S1203). Then, the remaining error is finely adjusted using the pixel signal read out when the H image is acquired. Specifically, a desired correction value is calculated by passing through a recursive filter each time the number of pixels read out at the time of H image acquisition is read as M (M: natural number) (steps S1204 to S1208).

本実施形態における巡回フィルタの計算式は、“OFF_Hn+1=OFF_Hn−1×(n−1)/n+OFF_H×(1/n)”で与えられる。最初に“n=0(n:整数)”に設定され(ステップS1204)、次に、H画像用のNULL画素信号を取得してOFF_Hが決められる(ステップS1205)。そして、H画像用補正値OFF_Hn+1が前述の式により計算され(ステップS1206)、その後、nがインクリメントされ(ステップS1207)、nがMに達したか否かが判定される(ステップS1208)。nがMに達していない場合(S1208でNO)、処理はステップS1205に戻され、nがMに達した場合(S1208でYES)、H画像用補正値OFF_Hn+1でH画像が補正される。 The calculation formula of the recursive filter in this embodiment is given by “OFF_H n + 1 = OFF_H n−1 × (n−1) / n + OFF_H n × (1 / n)”. First "n = 0 (n: integer)" is set (step S1204), then, OFF_H n is determined to get a NULL pixel signals for H image (step S1205). Then, the H image correction value OFF_H n + 1 is calculated by the above formula (step S1206), and then n is incremented (step S1207), and it is determined whether or not n has reached M (step S1208). If n has not reached M (NO in S1208), the process returns to step S1205. If n has reached M (YES in S1208), the H image is corrected with the H image correction value OFF_H n + 1 .

以上の方法により、L画像とH画像の両画像でゲインやシャッタスピード等の露出条件が異なっていても、各画像において十分な補正精度を確保することができる。なお、図11に示したL画像とH画像の取得順について、本実施形態ではL画像を先に取得するとしたが、H画像先に取得するようにしてもよい。また、HDR画像の生成に用いる画像に3枚以上の画像を用いてもよく、本実施形態と同様の動作を行うことによって同様の効果を得ることができる。この場合、少なくとも1枚の画像と他の2枚以上の画像とでOB画素信号及びNULL画素信号を何画素分読み出すかを変えてもよいし、画像毎にOB画素信号及びNULL画素信号を何画素分読み出すかを変えてもよい。また、動画撮影中における露出条件の変化に応じてL画像及びH画像の取得時に読み出すOB画素信号及びNULL画素信号の画素数を変えるようにしてもよい。   With the above method, even if the exposure conditions such as the gain and the shutter speed are different between the L image and the H image, sufficient correction accuracy can be ensured for each image. In this embodiment, the L image is acquired first with respect to the acquisition order of the L image and the H image shown in FIG. 11, but may be acquired first. Also, three or more images may be used for the image used for generating the HDR image, and the same effect can be obtained by performing the same operation as in the present embodiment. In this case, how many pixels of the OB pixel signal and the NULL pixel signal are read out may be changed between at least one image and the other two or more images, and the OB pixel signal and the NULL pixel signal may be changed for each image. It may be changed whether to read out pixels. Further, the number of OB pixel signals and NULL pixel signals to be read when acquiring the L image and the H image may be changed in accordance with a change in exposure conditions during moving image shooting.

以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。本発明は、デジタルカメラに限定されず、デジタルビデオカメラ、撮像素子による撮影機能を備える携帯電話や携帯ゲーム機等の各種電子機器に適用が可能である。   Although the present invention has been described in detail based on preferred embodiments thereof, the present invention is not limited to these specific embodiments, and various forms within the scope of the present invention are also included in the present invention. included. Furthermore, each embodiment mentioned above shows only one embodiment of this invention, and it is also possible to combine each embodiment suitably. The present invention is not limited to a digital camera, and can be applied to various electronic devices such as a digital video camera and a mobile phone or a portable game machine having a photographing function using an imaging device.

100 撮像装置
101 レンズ部
102 光量調整部
103 撮像部(撮像素子)
105 撮像制御部
106 全体制御部
108 被写体輝度検出部
109 露出演算部
DESCRIPTION OF SYMBOLS 100 Imaging device 101 Lens part 102 Light quantity adjustment part 103 Imaging part (imaging element)
105 Imaging Control Unit 106 Overall Control Unit 108 Subject Brightness Detection Unit 109 Exposure Calculation Unit

Claims (4)

受光量に応じた信号を出力する受光画素と前記受光画素から出力される信号を補正するための信号を出力する補正用画素を有する撮像素子を用いて、異なる露出設定で連続的に撮影を行って2枚以上の画像を取得する画像取得手段と、
記2枚以上の画像を取得する際に前記2枚以上の画像の組み合わせ毎に一度だけ前記補正用画素から信号を読み出す第1の読み出し方法と、前記2枚以上の画像を取得する際に各画像を取得する毎に前記補正用画素から信号を読み出す第2の読み出し方法のいずれかの方法により信号を読み出す読み出し手段と、
前記第1の読み出し方法により信号が読み出された場合は前記補正用画素から前記一度だけ読み出された信号から生成された補正値を用いて前記2枚以上の画像を補正し、前記第2の読み出し方法により信号が読み出された場合は前記補正用画素から画像毎に読み出された信号を用いて生成された各補正値を用いて各画像を補正する補正手段と
前記補正手段によって補正された前記2枚以上の画像を合成して合成画像を生成する合成手段とを備えることを特徴とする撮像装置。
Using the imaging device having the complement Tadashiyo pixel you output a signal for correcting a signal output a signal corresponding to the amount of light received from you that the light receiving pixels and prior Symbol receiving pixel output, sequentially with different exposure settings Image acquisition means for taking a picture and acquiring two or more images ;
When acquiring a first reading method of reading a signal from only the correction pixel once for each combination of the two or more images when obtaining the prior SL 2 or more images, an image of the two or more Reading means for reading out signals by any one of the second reading methods for reading out signals from the correction pixels each time each image is acquired ;
When a signal is read by the first reading method, the two or more images are corrected using a correction value generated from the signal read only once from the correction pixel, and the second Correction means for correcting each image using each correction value generated using a signal read for each image from the correction pixel when the signal is read by the reading method ,
Imaging apparatus characterized by comprising a synthesizing means for generating a composite image by combining the two or more images corrected by said correction means.
前記読み出し手段は、前記第1の読み出し方法により信号を読み出す場合は、前記2枚以上の画像を取得する間は前記補正用画素から信号を読み出さないことを特徴とする請求項1に記載の撮像装置。2. The imaging according to claim 1, wherein when the signal is read by the first reading method, the reading unit does not read the signal from the correction pixel while the two or more images are acquired. apparatus. 前記合成画像を複数用いて動画を生成する動画生成手段を更に備えることを特徴とする請求項1または2に記載の撮像装置。The imaging apparatus according to claim 1, further comprising a moving image generation unit configured to generate a moving image using a plurality of the composite images. 受光量に応じた信号を出力する受光画素と前記受光画素から出力される信号を補正するための信号を出力する補正用画素を有する撮像素子を用いて、異なる露出設定で連続的に撮影を行って2枚以上の画像を取得する画像取得ステップと、Using an image sensor having a light receiving pixel that outputs a signal corresponding to the amount of received light and a correction pixel that outputs a signal for correcting the signal output from the light receiving pixel, continuous shooting is performed with different exposure settings. An image acquisition step of acquiring two or more images,
前記2枚以上の画像を取得する際に前記2枚以上の画像の組み合わせ毎に一度だけ前記補正用画素から信号を読み出す第1の読み出し方法と、前記2枚以上の画像を取得する際に各画像を取得する毎に前記補正用画素から信号を読み出す第2の読み出し方法のいずれかの方法により信号を読み出す信号読み出しステップと、A first reading method of reading a signal from the correction pixel only once for each combination of the two or more images when acquiring the two or more images; and each of the two or more images when acquiring the two or more images A signal reading step of reading a signal by any one of the second reading methods of reading a signal from the correction pixel every time an image is acquired;
前記第1の読み出し方法により信号を読み出した場合は前記補正用画素から前記一度だけ読み出された信号から生成された補正値を用いて前記2枚以上の画像を補正し、前記第2の読み出し方法により信号を読み出した場合は前記補正用画素から画像毎に読み出された信号を用いて生成された各補正値を用いて各画像を補正する補正ステップと、When the signal is read by the first reading method, the two or more images are corrected using a correction value generated from the signal read only once from the correction pixel, and the second reading is performed. A correction step of correcting each image using each correction value generated using the signal read for each image from the correction pixel when the signal is read by the method;
前記補正ステップで補正された前記2枚以上の画像を合成して合成画像を生成する合成ステップと、を有することを備えることを特徴とする撮像装置の制御方法。And a combining step of generating a combined image by combining the two or more images corrected in the correcting step.
JP2013022310A 2013-02-07 2013-02-07 Imaging apparatus and control method thereof Active JP6108854B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013022310A JP6108854B2 (en) 2013-02-07 2013-02-07 Imaging apparatus and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013022310A JP6108854B2 (en) 2013-02-07 2013-02-07 Imaging apparatus and control method thereof

Publications (2)

Publication Number Publication Date
JP2014155002A JP2014155002A (en) 2014-08-25
JP6108854B2 true JP6108854B2 (en) 2017-04-05

Family

ID=51576477

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013022310A Active JP6108854B2 (en) 2013-02-07 2013-02-07 Imaging apparatus and control method thereof

Country Status (1)

Country Link
JP (1) JP6108854B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018042089A (en) * 2016-09-07 2018-03-15 キヤノン株式会社 Imaging apparatus, control method therefor and program
CN108495055B (en) * 2018-04-10 2019-11-08 中国科学院长春光学精密机械与物理研究所 Obtain the method and system of more exposure images for high dynamic range imaging
JP7111007B2 (en) * 2019-01-29 2022-08-02 株式会社Jvcケンウッド Imaging device

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3642558B2 (en) * 1999-09-24 2005-04-27 株式会社日立国際電気 Signal processing method and apparatus
JP4532819B2 (en) * 2002-11-20 2010-08-25 キヤノン株式会社 Imaging device
JP4028396B2 (en) * 2003-01-17 2007-12-26 富士フイルム株式会社 Image composition method and digital camera
JP2007028339A (en) * 2005-07-19 2007-02-01 Canon Inc Imaging apparatus, control method and program thereof and storage medium

Also Published As

Publication number Publication date
JP2014155002A (en) 2014-08-25

Similar Documents

Publication Publication Date Title
JP4662880B2 (en) Imaging apparatus and imaging method
TWI390971B (en) Imaging apparatus, imaging processing method, and imaging control program
JP5889323B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
JP6278713B2 (en) Imaging apparatus and imaging method
JP5889324B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
JP6137792B2 (en) IMAGING DEVICE, CONTROL METHOD FOR IMAGING DEVICE, PROGRAM, AND STORAGE MEDIUM
JP6944846B2 (en) Imaging device, control method of imaging device
JP2010074813A (en) Imaging apparatus and imaging method
JP2017108309A (en) Imaging apparatus and imaging method
JP2009201094A (en) Imaging apparatus and imaging method
JP3999321B2 (en) Electronic camera
KR100819811B1 (en) Photographing apparatus, and photographing method
JP2008053931A (en) Imaging apparatus
JP6108854B2 (en) Imaging apparatus and control method thereof
JP2006148550A (en) Image processor and imaging device
JP2010103700A (en) Imaging device and imaging method
JP2020008886A (en) Focusing position detection device and focusing position detection method
JP2017169027A (en) Flash band determination device, control method therefor, and control program, and imaging device
JP5947625B2 (en) Imaging apparatus and control method thereof
JP2011087050A (en) Digital camera
JP7234015B2 (en) Imaging device and its control method
JP2014060578A (en) Image pick-up device
JP6075829B2 (en) IMAGING DEVICE, CAMERA SYSTEM, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP6090565B2 (en) Imaging apparatus, imaging method, and program
JP2008283477A (en) Image processor, and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160201

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170307

R151 Written notification of patent or utility model registration

Ref document number: 6108854

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151