JP5402223B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP5402223B2
JP5402223B2 JP2009114292A JP2009114292A JP5402223B2 JP 5402223 B2 JP5402223 B2 JP 5402223B2 JP 2009114292 A JP2009114292 A JP 2009114292A JP 2009114292 A JP2009114292 A JP 2009114292A JP 5402223 B2 JP5402223 B2 JP 5402223B2
Authority
JP
Japan
Prior art keywords
gain
unit
image
signal
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009114292A
Other languages
Japanese (ja)
Other versions
JP2010263533A5 (en
JP2010263533A (en
Inventor
淳史 山口
保 福島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2009114292A priority Critical patent/JP5402223B2/en
Publication of JP2010263533A publication Critical patent/JP2010263533A/en
Publication of JP2010263533A5 publication Critical patent/JP2010263533A5/ja
Application granted granted Critical
Publication of JP5402223B2 publication Critical patent/JP5402223B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、連続画像を撮像するデジタルカメラやビデオカメラなどの撮像装置に活用される技術であって、外部閃光などによる画像への悪影響を抑制する技術に関する。   The present invention relates to a technique used for an imaging apparatus such as a digital camera or a video camera that captures continuous images, and relates to a technique for suppressing an adverse effect on an image caused by an external flash or the like.

外部閃光などによる画像への悪影響を抑制する従来の信号処理装置(撮像装置)としては、例えば、特許文献1に記載されているようなものがある。図9は従来の撮像装置900のブロック図である。前記特許文献1では、記録部に画像記録する処理について記載されているが、ここでは、画像信号を外部出力する例について説明する。   As a conventional signal processing device (imaging device) that suppresses an adverse effect on an image due to an external flash or the like, for example, there is a device described in Patent Document 1. FIG. 9 is a block diagram of a conventional imaging apparatus 900. In Patent Document 1, a process for recording an image in a recording unit is described. Here, an example in which an image signal is externally output will be described.

図9に示すように、撮像装置900は、CMOSセンサ、センサ駆動回路、アナログ/デジタル変換器を有し、連続画像を撮像して垂直有効720ライン、水平有効1280画素、フレーム周波数60Hzのデジタル順次走査画像信号を出力する撮像部950と、撮像部950の出力に対しガンマ処理や輪郭強調を行う画像処理部951と、を備える。また、撮像装置900は、撮像部950の出力に対し連続するフレームの画像を比較し外部閃光の有無を検出する閃光検出部952と、閃光検出部952の出力信号(閃光検出信号)に基づいて、画像処理部951から出力される画像信号をそのまま出力するか、あるいは蓄積した画像を出力するかの切換制御を行う出力制御部953と、を備える。   As shown in FIG. 9, the imaging apparatus 900 includes a CMOS sensor, a sensor driving circuit, and an analog / digital converter, which captures a continuous image and performs digital effective sequential with vertical effective 720 lines, horizontal effective 1280 pixels, and frame frequency 60 Hz. An imaging unit 950 that outputs a scanning image signal and an image processing unit 951 that performs gamma processing and contour enhancement on the output of the imaging unit 950 are provided. In addition, the imaging apparatus 900 compares the output of the imaging unit 950 with continuous frame images and detects the presence or absence of external flash, and the output signal (flash detection signal) of the flash detection unit 952. An output control unit 953 that performs switching control of whether the image signal output from the image processing unit 951 is output as it is or whether the accumulated image is output.

図10に、従来の撮像装置900における出力制御部953のブロック図を示す。出力制御部953は、例えば、図10に示す回路で構成される。   FIG. 10 shows a block diagram of the output control unit 953 in the conventional imaging apparatus 900. The output control unit 953 includes, for example, the circuit shown in FIG.

図10に示すように、出力制御部953は、画像処理部951から出力される画像信号を1フレーム分記憶するメモリ回路954と、閃光検出部952の出力信号(閃光検出信号)に基づいて、メモリ回路954から出力される信号と画像処理部951からの入力信号とを切り換えて出力する切換回路955と、を備える。   As shown in FIG. 10, the output control unit 953 is based on a memory circuit 954 that stores the image signal output from the image processing unit 951 for one frame, and an output signal (flash detection signal) of the flash detection unit 952. A switching circuit 955 that switches and outputs a signal output from the memory circuit 954 and an input signal from the image processing unit 951.

以上のように構成された従来の撮像装置900について、その動作を説明する。   The operation of the conventional imaging apparatus 900 configured as described above will be described.

まず、撮像部950では、センサ駆動回路から駆動信号をCMOSセンサに供給し、CMOSセンサに入射した光信号(被写体からの光)を光電変換により電気信号に変換し、さらに、光電変換により取得した電気信号をアナログ/デジタル変換によりデジタル順次走査画像信号に変換する。そして、撮像部950により生成されたデジタル順次走査画像信号が、撮像部950から出力される。このデジタル順次走査画像信号は、画像処理部951と閃光検出部952とに供給(出力)される。   First, in the imaging unit 950, a drive signal is supplied from the sensor drive circuit to the CMOS sensor, and an optical signal (light from the subject) incident on the CMOS sensor is converted into an electrical signal by photoelectric conversion, and further acquired by photoelectric conversion. The electrical signal is converted into a digital progressive scanning image signal by analog / digital conversion. The digital progressive scanning image signal generated by the imaging unit 950 is output from the imaging unit 950. The digital progressive scanning image signal is supplied (output) to the image processing unit 951 and the flash detection unit 952.

画像処理部951では、入力されたデジタル順次走査画像信号に対して、ガンマ処理、輪郭強調処理等を施し、処理された画像信号は、出力制御部953に出力される。   The image processing unit 951 performs gamma processing, contour enhancement processing, and the like on the input digital progressive scanning image signal, and the processed image signal is output to the output control unit 953.

一方、閃光検出部952では、入力されたデジタル順次走査画像信号に対して、1フレーム分の平均輝度レベルを計算し、入力された信号のフレーム平均輝度レベルと直前のフレームの平均輝度レベルとを比較し、大幅に平均輝度レベルが増加した場合、フラッシュのような外部閃光が存在する環境下で撮像画像が撮像部950により取得されたと判断する。例えば、入力された信号のフレーム平均輝度レベルが直前のフレームの平均輝度レベルに対して100%以上増加した場合、閃光検出部952は、フラッシュのような外部閃光が検出された(外部閃光が存在する環境下で撮像された)と判定し、閃光検出信号の信号値を「1」にして、閃光検出信号を出力する。なお、閃光検出部952は、外部閃光を検出していないときは、閃光検出信号の信号値を「0」として、閃光検出信号を出力する。この閃光検出信号と画像処理部951から出力される画像信号とは、出力制御部953に入力される。   On the other hand, the flash detection unit 952 calculates an average luminance level for one frame with respect to the input digital progressive scanning image signal, and calculates the frame average luminance level of the input signal and the average luminance level of the previous frame. In comparison, when the average luminance level significantly increases, it is determined that the captured image is acquired by the imaging unit 950 in an environment where an external flash such as a flash exists. For example, when the frame average luminance level of the input signal increases by 100% or more with respect to the average luminance level of the previous frame, the flash detection unit 952 detects an external flash such as a flash (external flash exists). The flash detection signal is set to “1”, and the flash detection signal is output. When the external flash is not detected, the flash detection unit 952 sets the signal value of the flash detection signal to “0” and outputs a flash detection signal. The flash detection signal and the image signal output from the image processing unit 951 are input to the output control unit 953.

出力制御部953では、画像処理部951から出力される画像信号がメモリ回路954に入力される。メモリ回路954は、画像信号1フレーム分を書き込み記憶させ1フレームに相当する時間だけ遅延させて、画像信号を出力する。閃光検出部952から出力される閃光検出信号の信号値が「1」である場合、すなわち、閃光を検出している場合、メモリ回路954は、新たな画像信号の書き込みを行わず、前のフレームの画像信号を保持し、同じフレームの画像信号を繰り返し出力する。切換回路955は、画像処理部951から出力される画像信号とメモリ回路954から出力される画像信号とを、閃光検出信号に基づいて、切り換えて出力する。閃光検出部952から出力される閃光検出信号の信号値が「1」である場合、すなわち、閃光検出信号が閃光を検出していることを示している場合、切換回路955は、メモリ回路954から出力される画像信号を選択して出力し、閃光検出部952から出力される閃光検出信号の信号値が「0」の場合、すなわち、閃光検出信号が閃光を検出していないことを示している場合、切換回路955は、画像処理部951から出力される画像信号を選択して出力する。   In the output control unit 953, the image signal output from the image processing unit 951 is input to the memory circuit 954. The memory circuit 954 writes and stores one frame of the image signal, delays it by a time corresponding to one frame, and outputs the image signal. When the signal value of the flash detection signal output from the flash detection unit 952 is “1”, that is, when flash is detected, the memory circuit 954 does not write a new image signal and does not write the previous frame. The image signal of the same frame is repeatedly output. The switching circuit 955 switches between the image signal output from the image processing unit 951 and the image signal output from the memory circuit 954 based on the flash detection signal. When the signal value of the flash detection signal output from the flash detection unit 952 is “1”, that is, when the flash detection signal indicates that the flash is detected, the switching circuit 955 is switched from the memory circuit 954. When the output image signal is selected and output, and the signal value of the flash detection signal output from the flash detection unit 952 is “0”, that is, it indicates that the flash detection signal does not detect flash. In this case, the switching circuit 955 selects and outputs the image signal output from the image processing unit 951.

次に、図11を用いて、撮像装置900の動作を詳しく説明する。   Next, the operation of the imaging apparatus 900 will be described in detail with reference to FIG.

図11は、従来の撮像装置900において、外部閃光により画像(撮像装置900による撮像画像)が受ける悪影響を説明するための模式図である。   FIG. 11 is a schematic diagram for explaining the adverse effect that an image (image captured by the image capture device 900) is subjected to by external flash in the conventional image capture device 900. FIG.

図11の(1)〜(4)は、連続したフレームを示しており、CMOSセンサが受光しているタイミングを、垂直同期信号(図11の最上段)を基準にして、示している。   (1) to (4) in FIG. 11 show continuous frames, and the timing at which the CMOS sensor receives light is shown on the basis of the vertical synchronization signal (the uppermost stage in FIG. 11).

図11に示す「画像上側」とは、有効画面(撮像装置により取得された画像信号を表示装置に表示させた場合の実際に表示される画面(同期信号等の部分を除いた画面)に相当する画面)の上側を意味している。CMOSセンサにおいて、有効画面の1ライン目は、図11の中の矢印で示した期間受光している。CMOSセンサでは、ライン毎に受光タイミングが少しずつずれていくため、720ライン目では、1ライン目に対して、およそ1/60秒ずれている。ここで、図11の星印で示したタイミングで外部閃光があった場合、(2)のフレームの下方画面を構成するラインと(3)のフレームの上方画面を構成するラインで、閃光を受光することになる。このような状況で、撮像部950により取得された画像信号を表示装置に表示させた場合、表示画面(映像)において、連続した2フレームにわたって高輝度な横帯が発生することになる。この高輝度な横帯の発生は、視覚的に違和感をユーザに抱かせることになる。さらに、連続するフレームの相関を利用して圧縮する方式、例えば、MPEG(Moving Picture Experts Group)方式で圧縮する処理において、上記高輝度な横帯を発生させる画像信号を処理すると、ブロックノイズが発生したり、圧縮率が低下したりするという悪影響が発生する。   The “upper image” shown in FIG. 11 corresponds to an effective screen (a screen that is actually displayed when the image signal acquired by the imaging device is displayed on the display device (a screen excluding a portion such as a synchronization signal). It means the upper side of the screen. In the CMOS sensor, the first line of the effective screen receives light for the period indicated by the arrow in FIG. In the CMOS sensor, the light reception timing is slightly shifted for each line, so the 720th line is shifted by about 1/60 second with respect to the first line. Here, when there is an external flash at the timing indicated by the star in FIG. 11, the flash is received by the line constituting the lower screen of the frame (2) and the line constituting the upper screen of the frame (3). Will do. In such a situation, when the image signal acquired by the imaging unit 950 is displayed on the display device, a high-brightness horizontal band is generated over two consecutive frames on the display screen (video). The occurrence of this high-intensity horizontal band visually makes the user feel uncomfortable. Further, in a method of compressing using the correlation of consecutive frames, for example, in a process of compressing in the MPEG (Moving Picture Experts Group) method, block noise is generated when processing an image signal that generates the above-mentioned high luminance horizontal band. Or the compression rate is reduced.

そこで、図9で示した従来の撮像装置900では、外部閃光を検出した際には、閃光を受光したフレームの画像は出力せず、直前のフレームの画像を出力する。このため、撮像装置900では、高輝度な横帯の発生を防ぐことができる。   Therefore, in the conventional imaging device 900 shown in FIG. 9, when an external flash is detected, the image of the frame that received the flash is not output, but the image of the immediately preceding frame is output. For this reason, in the imaging apparatus 900, generation | occurrence | production of a high-intensity horizontal band can be prevented.

特開2007−306225号公報JP 2007-306225 A

しかしながら、上記従来の撮像装置では、連続する2フレームにわたって外部閃光を検出した場合、同じフレームの画像を3フレームにわたって出力することになり、動画として連続性が失われてしまうという課題がある。   However, in the conventional imaging device, when an external flash is detected over two consecutive frames, an image of the same frame is output over three frames, and there is a problem that continuity is lost as a moving image.

例えば、図11の場合、外部閃光により高輝度な横帯が発生するのは2フレーム(フレーム(2)とフレーム(3))であり、撮像装置900では、この2フレームの直前のフレーム(フレーム(1))の画像を繰り返し出力することになる。つまり、撮像装置900では、3フレームにわたって同じ画像(フレーム(1)に相当する画像)を出力することになるので、撮像装置900により取得された画像(映像)を表示装置に表示させた場合、一時的に静止した画像として表示されることになる。   For example, in the case of FIG. 11, a high-intensity horizontal band is generated by an external flash in two frames (frame (2) and frame (3)). The image of (1)) is repeatedly output. That is, since the imaging device 900 outputs the same image (an image corresponding to the frame (1)) over three frames, when the image (video) acquired by the imaging device 900 is displayed on the display device, It will be displayed as a temporarily stationary image.

本発明は、上記従来の課題を解決するもので、外部閃光による高輝度の横帯の悪影響を抑制し、かつ、動画としての連続性を確保した画像を出力する高性能な撮像装置を提供することを目的とする。   The present invention solves the above-described conventional problems, and provides a high-performance imaging device that suppresses the adverse effects of a high-brightness horizontal band caused by an external flash and outputs an image that ensures continuity as a moving image. For the purpose.

第1の発明は、光量センサ部と、撮像部と、ゲイン調整部と、駆動部と、ゲイン制御部と、を備える撮像装置である。   1st invention is an imaging device provided with a light quantity sensor part, an imaging part, a gain adjustment part, a drive part, and a gain control part.

光量センサ部は、外部閃光による光量変化を検出する。撮像部は、撮像素子を有し、撮像素子に入射する光信号を電気信号に変換して画像信号を取得する。ゲイン調整部は、撮像部からの画像信号のゲインを調整する。駆動部は、撮像素子の駆動パルスを生成するとともにタイミング情報をゲイン制御部に送る。ゲイン制御部は、光量センサ部の出力と駆動タイミングから、外部閃光の影響ラインを特定し、ライン単位で画像信号のゲインを制御するゲイン制御信号を出力する。   The light amount sensor unit detects a change in the amount of light due to an external flash. The imaging unit has an imaging element, converts an optical signal incident on the imaging element into an electrical signal, and acquires an image signal. The gain adjusting unit adjusts the gain of the image signal from the imaging unit. The drive unit generates drive pulses for the image sensor and sends timing information to the gain control unit. The gain control unit identifies the influence line of the external flash from the output of the light amount sensor unit and the drive timing, and outputs a gain control signal for controlling the gain of the image signal in units of lines.

この撮像装置では、外部閃光の影響ラインを特定し、そのラインのゲインを制御することで、高輝度な横帯映像となる悪影響を抑制することができ、かつ、同じフレーム画像が複数枚連続して出力されることもない。このため、この撮像装置により取得された画像信号を、表示装置に表示させた場合、動画としての連続性も保つことができる。   In this imaging device, the influence line of the external flash is specified and the gain of the line is controlled, so that the adverse effect of a high-brightness horizontal band image can be suppressed, and a plurality of the same frame images can be continuously displayed. Are not output. For this reason, when the image signal acquired by this imaging device is displayed on a display device, continuity as a moving image can be maintained.

第2の発明は、光量センサ部と、撮像部と、ゲイン調整部と、ノイズ抑制部と、駆動部と、ゲイン&ノイズ抑制制御部と、を備える撮像装置である。   2nd invention is an imaging device provided with a light quantity sensor part, an imaging part, a gain adjustment part, a noise suppression part, a drive part, and a gain & noise suppression control part.

光量センサ部は、外部閃光による光量変化を検出する。撮像部は、撮像素子を有し、撮像素子に入射する光信号を電気信号に変換して画像信号を取得する。ゲイン調整部は、撮像部からの画像信号のゲインを調整する。駆動部は、撮像素子の駆動パルスを生成するとともにタイミング情報をゲイン&ノイズ抑制制御部に送る。ノイズ抑制部は、ゲイン調整後の画像信号にノイズ抑制処理を行う。ノイズ抑制処理とは、例えば、上下左右の画素との相関をチェックし、最も相関の高い画素と加算平均するなどの処理を示す。ゲイン&ノイズ抑制制御部は、光量センサ部の出力と駆動タイミングから、外部閃光の影響ラインを特定し、ライン単位で画像信号のゲインおよびノイズ抑制度合いを制御する制御信号を出力する。すなわち、ゲインを低くする場合は、ノイズ抑制度合いを小さく制御し、ノイズ抑制効果を少なく制御する。   The light amount sensor unit detects a change in the amount of light due to an external flash. The imaging unit has an imaging element, converts an optical signal incident on the imaging element into an electrical signal, and acquires an image signal. The gain adjusting unit adjusts the gain of the image signal from the imaging unit. The drive unit generates drive pulses for the image sensor and sends timing information to the gain and noise suppression control unit. The noise suppression unit performs noise suppression processing on the image signal after gain adjustment. For example, the noise suppression process indicates a process of checking the correlation with the upper, lower, left, and right pixels and averaging the pixels with the highest correlation. The gain & noise suppression control unit specifies the influence line of the external flash from the output of the light amount sensor unit and the drive timing, and outputs a control signal for controlling the gain of the image signal and the noise suppression degree in units of lines. That is, when the gain is lowered, the noise suppression degree is controlled to be small and the noise suppression effect is controlled to be small.

これにより、第1の発明と同様の効果を奏するとともに、さらにゲイン可変によるノイズ感の変化を抑制することができるため、より自然な動画を得ることができる。   As a result, the same effects as those of the first invention can be obtained, and further, a change in noise feeling due to variable gain can be suppressed, so that a more natural moving image can be obtained.

本発明によれば、外部閃光による高輝度の横帯となる悪影響を抑制し、かつ、動画として連続性を確保した画像を出力することができる撮像装置を実現することができる。   ADVANTAGE OF THE INVENTION According to this invention, the imaging device which can suppress the bad influence which becomes a high-intensity horizontal band by an external flash, and can output the image which ensured continuity as a moving image is realizable.

また本発明によれば、外部閃光による高輝度の横帯となる悪影響を抑制し、かつ、動画として連続性を確保し、かつ、ノイズ感の変化を抑制したより自然な画像を出力することができる撮像装置を実現することができる。   Further, according to the present invention, it is possible to suppress the adverse effect of the external flash resulting in a high-brightness horizontal band, to ensure continuity as a moving image, and to output a more natural image with suppressed change in noise feeling. An imaging device that can be realized can be realized.

第1実施形態に係る撮像装置100のブロック図The block diagram of the imaging device 100 which concerns on 1st Embodiment. 第1実施形態に係るゲイン制御部5のブロック図Block diagram of gain control unit 5 according to the first embodiment 第1実施形態に係る撮像装置100の外部閃光が発生した場合の動作の様子を説明する模式図The schematic diagram explaining the mode of operation | movement when the external flash of the imaging device 100 which concerns on 1st Embodiment generate | occur | produces. 第1実施形態に係る撮像装置100の外部閃光が発生した場合の補正効果を説明するための模式図The schematic diagram for demonstrating the correction effect when the external flash of the imaging device 100 which concerns on 1st Embodiment generate | occur | produces. 第1実施形態に係る撮像装置100の外部閃光が複数回発生した場合の動作の様子を説明する模式図The schematic diagram explaining the mode of operation | movement when the external flash of the imaging device 100 which concerns on 1st Embodiment generate | occur | produces in multiple times. 第1実施形態に係る撮像装置100の外部閃光が複数回発生した場合の補正効果を説明するための模式図The schematic diagram for demonstrating the correction effect when the external flash of the imaging device 100 which concerns on 1st Embodiment generate | occur | produces in multiple times. 第2実施形態に係る撮像装置700のブロック図The block diagram of the imaging device 700 which concerns on 2nd Embodiment. 第2実施形態に係る撮像装置700の外部閃光が発生した場合の動作の様子を説明する模式図The schematic diagram explaining the mode of operation | movement when the external flash of the imaging device 700 which concerns on 2nd Embodiment generate | occur | produces. 従来の撮像装置900のブロック図Block diagram of a conventional imaging apparatus 900 従来の撮像装置900の出力制御部953のブロック図Block diagram of output control unit 953 of conventional imaging apparatus 900 従来の撮像装置900で外部閃光により画像が受ける悪影響を説明する模式図Schematic diagram for explaining the adverse effect of an image caused by external flash in the conventional imaging apparatus 900

以下、実施形態について、図面を参照しながら説明する。   Hereinafter, embodiments will be described with reference to the drawings.

[第1実施形態]
<1.1:撮像装置の構成>
図1は第1実施形態に係る撮像装置100のブロック図である。
[First Embodiment]
<1.1: Configuration of Imaging Device>
FIG. 1 is a block diagram of an imaging apparatus 100 according to the first embodiment.

図1に示すように、撮像装置100は、外部閃光などによる光量変化を検出する光量センサ部6と、被写体からの光を電気信号に変換する撮像部1と、撮像部1から出力される画像信号のゲインを調整するゲイン調整部2と、ゲイン調整部2からの出力信号にガンマ補正や、輪郭強調などの信号処理を実施する信号処理部3と、撮像部1の駆動パルスを生成し、さらに駆動タイミング情報をゲイン制御部5に出力する駆動部4と、光量センサ部6の出力と駆動タイミングとから外部閃光などによる光量変化の影響ラインを特定し、ライン単位で画像信号のゲインを制御するゲイン制御信号を出力するゲイン制御部5と、を備えている。   As illustrated in FIG. 1, the imaging apparatus 100 includes a light amount sensor unit 6 that detects a change in light amount due to an external flash, an imaging unit 1 that converts light from a subject into an electrical signal, and an image output from the imaging unit 1. A gain adjustment unit 2 that adjusts the gain of the signal, a signal processing unit 3 that performs signal processing such as gamma correction and contour enhancement on the output signal from the gain adjustment unit 2, and a drive pulse for the imaging unit 1; Further, the influence line of the light quantity change due to the external flash or the like is identified from the drive part 4 for outputting the drive timing information to the gain control part 5 and the output and the drive timing of the light quantity sensor part 6, and the gain of the image signal is controlled in line units. A gain control unit 5 that outputs a gain control signal to be output.

撮像部1は、CMOSセンサ(CMOS型イメージセンサ(撮像素子))およびアナログ/デジタル変換部を有し、被写体からの光を光電変換により電気信号に変換し、デジタルの画像信号として、ゲイン調整部2に出力する。撮像部1は、連続画像を撮像して、例えば、垂直有効720ライン、水平有効1280画素、フレーム周波数60[Hz]のデジタル順次走査画像信号を出力する。また、本実施形態ではCMOSセンサでの蓄積時間(受光時間)は、フレーム周波数で決まる1フレーム期間と同じ1/60秒とする。すなわち、撮像部1は、1フレーム期間全体に渡って電荷蓄積を行うものとする。   The imaging unit 1 includes a CMOS sensor (CMOS type image sensor (imaging device)) and an analog / digital conversion unit, converts light from a subject into an electrical signal by photoelectric conversion, and outputs a digital image signal as a gain adjustment unit. Output to 2. The imaging unit 1 captures continuous images and outputs, for example, a digital sequential scanning image signal having a vertical effective 720 lines, a horizontal effective 1280 pixels, and a frame frequency of 60 [Hz]. In this embodiment, the accumulation time (light reception time) in the CMOS sensor is set to 1/60 second, which is the same as one frame period determined by the frame frequency. That is, the imaging unit 1 performs charge accumulation over one frame period.

ゲイン調整部2は、撮像部1から出力される画像信号の遅延調整と全体のゲインをリニアに調整するもので、メモリおよび乗算器などで構成され、ゲイン制御部5からのゲイン制御信号で制御される。本実施形態では以後、ゲイン調整部2の信号処理におけるゲインを信号処理ゲインと呼ぶことにする。   The gain adjustment unit 2 linearly adjusts the delay adjustment of the image signal output from the imaging unit 1 and the overall gain, and is configured by a memory and a multiplier. The gain adjustment unit 2 is controlled by a gain control signal from the gain control unit 5. Is done. In the present embodiment, hereinafter, the gain in the signal processing of the gain adjusting unit 2 is referred to as a signal processing gain.

信号処理部3は、ガンマ補正処理や、輪郭強調処理、マトリクス処理などを実施し、映像規格に合致した画像信号に整形して出力する。   The signal processing unit 3 performs gamma correction processing, contour enhancement processing, matrix processing, and the like, and shapes and outputs the image signal that matches the video standard.

駆動部4は、CMOSを駆動するためのパルスを生成し、撮像部1に供給するとともに、現在の読み出しラインの番号および蓄積時間を駆動タイミング情報として、ゲイン制御部5に出力する。   The drive unit 4 generates a pulse for driving the CMOS, supplies the pulse to the imaging unit 1, and outputs the current readout line number and accumulation time to the gain control unit 5 as drive timing information.

光量センサ部6は、例えば光量に対応した電圧を出力するようなセンサなどで構成されており、外部閃光などによる光量の変化を刻々と出力するものである。   The light quantity sensor unit 6 is composed of, for example, a sensor that outputs a voltage corresponding to the light quantity, and outputs a change in the light quantity due to an external flash or the like.

ゲイン制御部5は、駆動部4からの駆動タイミング情報と光量センサ部6からの外部光量の変化から、ゲイン調整部2の信号処理ゲインをライン単位で算出し、信号処理ゲイン制御信号として出力する。   The gain control unit 5 calculates the signal processing gain of the gain adjusting unit 2 for each line from the drive timing information from the driving unit 4 and the change in the external light amount from the light amount sensor unit 6, and outputs it as a signal processing gain control signal. .

ゲイン制御部5の具体的構成の一例を図2に示す。図2に示すようにゲイン制御部5は、光量情報積算部50と、逆数化部51と、乗算部52と、出力画像ゲイン生成部53と、を有する。   An example of a specific configuration of the gain control unit 5 is shown in FIG. As shown in FIG. 2, the gain control unit 5 includes a light amount information integration unit 50, an inverse number unit 51, a multiplication unit 52, and an output image gain generation unit 53.

光量情報積算部50は、光量センサ部6の出力を一定期間、例えば蓄積時間分積算した結果を光量ゲイン情報として逆数化部51および出力画像ゲイン生成部53に出力する。光量ゲイン情報は、撮像部1が出力する一定期間毎の画像信号において、外部閃光の影響が無い画像信号の画像レベルを基準とした、外部閃光の影響を受けた画像信号の画像レベルの比を示すことになる(詳細については後述)。逆数化部51は、光量情報積算部50からの出力の逆数を算出し、出力する。出力画像ゲイン生成部53は、駆動タイミング情報である読み出しライン番号と、光量ゲイン情報とから、1画面単位で一定になるようなトータルゲインの波形を生成する。トータルゲインとは、撮像部1が出力する外部閃光の影響が無い画像信号の画像レベル(以後、基準画像レベルとする)を基準とした、ゲイン調整部2が出力する(外部閃光の影響を受けた画像信号も含めた)画像信号の画像レベルの比を示す。トータルゲインは、光量ゲイン情報と信号処理ゲインとを加算したものとなる。乗算部52は、トータルゲイン波形を光量ゲイン情報の逆数と乗算することで、刻々と変化する光量に対して、1画面単位でトータルゲインが一定になるような信号処理ゲイン制御信号を算出する(詳細については後述)。   The light amount information integration unit 50 outputs the result of integrating the output of the light amount sensor unit 6 for a certain period, for example, the accumulation time, to the reciprocalization unit 51 and the output image gain generation unit 53 as light amount gain information. The light amount gain information is a ratio of the image level of the image signal affected by the external flash with respect to the image level of the image signal not affected by the external flash in the image signal output by the imaging unit 1 for each fixed period. (Details will be described later). The reciprocalization unit 51 calculates and outputs the reciprocal of the output from the light quantity information integration unit 50. The output image gain generation unit 53 generates a total gain waveform that is constant for each screen from the read line number that is drive timing information and the light amount gain information. The total gain is output by the gain adjusting unit 2 (based on the influence of the external flash) based on the image level of the image signal that is not affected by the external flash output from the imaging unit 1 (hereinafter referred to as a reference image level). The image level ratio of the image signal (including the image signal) is also shown. The total gain is obtained by adding the light amount gain information and the signal processing gain. The multiplier 52 multiplies the total gain waveform by the reciprocal of the light amount gain information, thereby calculating a signal processing gain control signal that makes the total gain constant for each screen with respect to the light amount that changes every moment ( Details will be described later).

<1.2:撮像装置の動作>
以上のように構成された撮像装置100について、その動作を説明する。ここでは、ライン毎に順次読み出しされる結果、ライン毎に受光タイミングが少しずつずれていくタイプのCMOSセンサを用いた場合について説明する。
<1.2: Operation of Imaging Device>
The operation of the imaging apparatus 100 configured as described above will be described. Here, a case where a CMOS sensor of a type in which the light receiving timing is slightly shifted for each line as a result of sequentially reading for each line will be described.

まず、撮像部1では、駆動部4からの駆動パルスに従って、CMOSセンサに入射した光信号を光電変換し、さらに、アナログ/デジタル変換を行うことによってデジタル順次走査画像信号が出力される。CMOSセンサでは画面上側から順次出力し、ライン毎に少しずつ受光タイミングがずれていくため、1ライン目と720ライン目とでは、おおよそ1/60秒も受光タイミングがずれていることになる。   First, the imaging unit 1 photoelectrically converts an optical signal incident on the CMOS sensor in accordance with a driving pulse from the driving unit 4, and further performs analog / digital conversion to output a digital sequential scanning image signal. Since the CMOS sensor sequentially outputs from the upper side of the screen and the light reception timing is slightly shifted for each line, the light reception timing is shifted by about 1/60 second between the first line and the 720th line.

外部閃光が発生した場合について考えると、外部閃光が発生した時刻の直後に読み出されるラインの画像から明るくなり、次のフレームの前記ラインから、再び暗い画像が出力される結果となる。   Considering the case where an external flash occurs, the image of the line read immediately after the time when the external flash occurs is brightened, and a dark image is output again from the line of the next frame.

図3に360ラインの読み出し直前に外部閃光が発生した場合の動作の様子を説明する模式図を示す。   FIG. 3 is a schematic diagram for explaining the operation when an external flash is generated immediately before 360 lines are read.

例えば、フレーム(2)の360ラインの読み出し直前に外部閃光が発生したとする。直前の359ライン目に注目すると、359ライン目は既に読み出し中のため、外部閃光は次のフレームの359ライン目の読み出し時に影響を与える。すなわち、おおよそ1/60秒後の次のフレーム(3)の359ライン目が、明るい画像となる。フレーム(2)の360ライン目は、読み出し直前に外部閃光が発生しているので、外部閃光を受光した画像が出力される。すなわち、明るい画像となる。フレーム(2)の361ライン目は、読み出し少し前に外部閃光が発生しているので、同様に明るい画像となる。以降同様であるため、結果としてフレーム(2)の360ライン目から次のフレーム(3)の359ライン目までが明るい画像となる。従って、外部閃光が発生した前後のフレーム(1)から(4)をコマ送りで表示すると、全体に暗いフレーム(1)、画面上部1〜359ラインが暗く、画面下部の360〜720ラインが明るいフレーム(2)、画面上部1〜359ラインが明るく、画面下部360〜720ラインが暗いフレーム(3)、全体に暗いフレーム(4)が表示され、フレーム(2)、(3)に明るい横帯が発生した画像となる。   For example, it is assumed that an external flash is generated immediately before reading 360 lines of frame (2). Focusing on the immediately preceding 359th line, since the 359th line is already being read out, the external flash has an effect when reading the 359th line of the next frame. That is, a bright image is obtained at the 359th line of the next frame (3) after approximately 1/60 seconds. In the 360th line of the frame (2), an external flash is generated immediately before reading, so an image in which the external flash is received is output. That is, a bright image is obtained. In the 361st line of the frame (2), an external flash is generated slightly before reading, so that a bright image is similarly obtained. Since this is the same thereafter, the result is a bright image from the 360th line of the frame (2) to the 359th line of the next frame (3). Therefore, when frames (1) to (4) before and after the occurrence of the external flash are displayed by frame advance, the dark frame (1), the top 1 to 359 lines on the screen are dark, and the 360 to 720 lines on the bottom of the screen are bright. The frame (2), the upper 1 to 359 lines of the screen are bright, the lower 360 to 720 lines of the screen are dark (3), the entire frame is dark (4), and the frames (2) and (3) are bright horizontal bands Is generated.

図3に示すようなタイミングで外部閃光が発生した場合には、撮像部1から、フレーム(2)および(3)に明るい横帯のある画像信号が、ゲイン調整部2に出力される。   When an external flash occurs at the timing shown in FIG. 3, an image signal having a bright horizontal band in the frames (2) and (3) is output from the imaging unit 1 to the gain adjustment unit 2.

ゲイン調整部2では、ゲイン制御部5からの信号処理ゲイン制御信号に従って画像のゲイン調整を行い、フレーム(2)および(3)の横帯現象を補正して、信号処理部3へ出力する。   The gain adjusting unit 2 adjusts the gain of the image according to the signal processing gain control signal from the gain control unit 5, corrects the horizontal band phenomenon of the frames (2) and (3), and outputs it to the signal processing unit 3.

ゲイン制御部5からの信号処理ゲイン制御信号は、フレーム(2)および(3)の横帯現象を抑制するため、暗い部分には高いゲインを、また明るい部分には低いゲインを乗算することで、フレーム単位でのトータルゲインを一定にするものである。従って、ゲイン調整部2は、外部閃光が発生した場合の横帯現象を、信号処理ゲイン制御信号に基づいてゲインをライン単位で調整することにより、フレーム単位でトータルゲインが一定の画像レベルになるように補正して、信号処理部3へ出力する。   The signal processing gain control signal from the gain control unit 5 is obtained by multiplying a dark part by a high gain and a bright part by a low gain in order to suppress the horizontal band phenomenon of the frames (2) and (3). The total gain for each frame is made constant. Therefore, the gain adjustment unit 2 adjusts the gain in units of lines based on the signal processing gain control signal for the lateral band phenomenon when an external flash occurs, so that the total gain becomes a constant image level in units of frames. And output to the signal processing unit 3.

駆動部4では、撮像部1を駆動するための駆動パルスを生成し、撮像部1に供給する。同時に、CMOSセンサの駆動タイミング情報をゲイン制御部5に出力する。   In the drive unit 4, a drive pulse for driving the imaging unit 1 is generated and supplied to the imaging unit 1. At the same time, the drive timing information of the CMOS sensor is output to the gain controller 5.

光量センサ部6は、常に外部の光量を計測し、ゲイン制御部5に光量情報として出力しており、外部閃光などが発生した場合には、光量情報が大きく変化することになる。   The light amount sensor unit 6 always measures the external light amount and outputs it as light amount information to the gain control unit 5. When an external flash or the like occurs, the light amount information changes greatly.

ゲイン制御部5は、前記フレーム単位でのトータルゲインを一定にするための信号処理ゲイン制御信号を算出している。   The gain control unit 5 calculates a signal processing gain control signal for making the total gain in the frame unit constant.

フレーム(2)および(3)の横帯現象は、フレーム(2)および(3)の1〜359ラインが受光した光量と、フレーム(2)および(3)の360〜720ラインが受光した光量とが異なるために発生する。したがって、受光した光量変化を示す光量ゲイン情報の逆数とフレーム単位でのトータルゲイン波形とから、信号処理ゲイン制御信号を算出することができる。   The horizontal band phenomenon of frames (2) and (3) is the amount of light received by lines 1 to 359 of frames (2) and (3) and the amount of light received by lines 360 to 720 of frames (2) and (3). Occurs because of the difference. Therefore, the signal processing gain control signal can be calculated from the reciprocal of the light amount gain information indicating the received light amount change and the total gain waveform in units of frames.

具体的には、ゲイン制御部5では、光量センサ部6から光量情報を取得するとともに、光量情報が撮像部1のどの駆動タイミングで発生しているかを検出するため、駆動部4から蓄積時間や読み出しライン番号などの駆動タイミング情報を取得し、光量情報を積算、逆数化し、フレーム単位で画像レベルが一定な出力画像ゲインとの差を穴埋めするための信号処理ゲイン制御信号を算出している。   Specifically, the gain control unit 5 acquires light amount information from the light amount sensor unit 6 and detects at which driving timing of the imaging unit 1 the light amount information is generated. Drive timing information such as a readout line number is acquired, light amount information is integrated and inversed, and a signal processing gain control signal for filling in a difference from an output image gain having a constant image level in units of frames is calculated.

ゲイン制御部5の動作をふまえた補正動作の様子を図2から図4を用いて詳しく説明する。   The state of the correction operation based on the operation of the gain control unit 5 will be described in detail with reference to FIGS.

図2は、ゲイン制御部5の具体的構成の一例を示すブロック図である。   FIG. 2 is a block diagram illustrating an example of a specific configuration of the gain control unit 5.

図3は、360ラインの読み出し直前に外部閃光が発生した場合の各制御信号波形の様子を説明する模式図である。   FIG. 3 is a schematic diagram for explaining the state of each control signal waveform when an external flash is generated immediately before 360 lines are read.

図4は、補正の効果を説明するための出力画像を模式的に示した模式図である。図において、各フレームの出力画像の横に、各ラインに対応する光量情報積算結果を併記している。   FIG. 4 is a schematic diagram schematically showing an output image for explaining the effect of correction. In the figure, the light quantity information integration result corresponding to each line is shown alongside the output image of each frame.

図3に示すように、フレーム(2)の360ライン目が読み出される直前に外部閃光が発生したとする。   As shown in FIG. 3, it is assumed that an external flash occurs immediately before the 360th line of frame (2) is read.

図3に示すように、撮像部1の出力は、フレーム(2)の360ラインからフレーム(3)の359ラインまで明るくなり、横帯現象となっている。光量センサ部6の出力は、外部閃光が発生したときにインパルス的に大きくなるような変化が検出され、ゲイン制御部5に入力される。入力された光量情報は、光量情報積算部50に入力される。光量情報積算部50は、過去一定期間(蓄積時間に相当)の間に入力された光量情報を積算して光量ゲイン情報として出力する。ここで、外部閃光が発生したタイミングを含む一定期間における光量ゲイン情報が、外部閃光がない期間における光量ゲイン情報の2倍になったとすると、図3の光量情報積算結果に示すように、フレーム(2)の360ラインから一定期間、すなわちフレーム(3)の359ラインまでが、2倍の光量であるという出力結果になる。なおここでは便宜上、外部閃光が無い期間における光量ゲイン情報を1、外部閃光を含む光量ゲイン情報をその2倍の2として説明する。   As shown in FIG. 3, the output of the imaging unit 1 becomes brighter from the 360th line of the frame (2) to the 359th line of the frame (3), which is a horizontal band phenomenon. The output of the light quantity sensor unit 6 is detected as a change that increases in an impulse manner when an external flash occurs, and is input to the gain control unit 5. The input light amount information is input to the light amount information integrating unit 50. The light quantity information integration unit 50 integrates the light quantity information input during the past fixed period (corresponding to the accumulation time) and outputs it as light quantity gain information. Here, when the light amount gain information in a certain period including the timing at which the external flash occurs is double the light amount gain information in the period without the external flash, as shown in the light amount information integration result of FIG. The output result is that the light amount is doubled from 360 lines in 2) to a certain period, that is, from 359 lines in frame (3). For the sake of convenience, the light amount gain information in the period without external flash will be described as 1, and the light amount gain information including the external flash will be described as 2.

この光量ゲイン情報は、すなわち、各ラインがそれぞれずれた受光タイミングで受光した光量を示すことになるため、外部閃光の影響をなくしてフレーム(1)〜(4)まで一定のトータルゲインとするには、光量ゲイン情報を打ち消す逆数のゲインを用いてゲイン調整すればよい。   This light amount gain information indicates the amount of light received at the light receiving timing where each line is shifted, so that it is possible to obtain a constant total gain from frames (1) to (4) without the influence of the external flash. The gain adjustment may be performed using a reciprocal gain that cancels the light amount gain information.

出力画像ゲイン生成部53では、外部閃光が発生した場合に得たい理想画像のトータルゲイン波形を生成する。   The output image gain generation unit 53 generates a total gain waveform of an ideal image that is to be obtained when an external flash occurs.

例えば、外部閃光が発生した場合の補正後画像として、横帯現象の発生するフレームのみ全ラインとも横帯ラインと同様に明るい画像としたい場合は、図3のトータルゲイン波形に示すような、フレーム(2)およびフレーム(3)の全体のトータルゲインを、外部閃光の影響を受けた部分の光量ゲイン情報に相当する2.0倍になる画像とすればよい。出力画像ゲイン生成部53は、このトータルゲイン波形を、光量ゲイン情報と駆動タイミング情報とから生成する。   For example, as an image after correction when an external flash occurs, when it is desired to make all the lines bright in the same manner as the horizontal line only in the frame where the horizontal band phenomenon occurs, the frame as shown in the total gain waveform of FIG. The total gain of (2) and the entire frame (3) may be an image that is 2.0 times equivalent to the light amount gain information of the portion affected by the external flash. The output image gain generation unit 53 generates the total gain waveform from the light amount gain information and the drive timing information.

最終的に、基準画像レベルに対するゲイン調整部2が出力する画像信号の画像レベルがトータルゲインとなるように、ゲイン調整部2で調整するゲインとしては、光量ゲイン情報の逆数とトータルゲインとを乗算したものであるため、乗算部52で乗算した結果を信号処理ゲイン制御信号として出力する。   Finally, the gain adjusted by the gain adjusting unit 2 is multiplied by the reciprocal of the light amount gain information and the total gain so that the image level of the image signal output from the gain adjusting unit 2 with respect to the reference image level becomes the total gain. Therefore, the result of multiplication by the multiplication unit 52 is output as a signal processing gain control signal.

このように算出された信号処理ゲイン制御信号を用いて、ゲイン調整部2でゲイン調整を行うと、外部閃光による横帯現象の画像をフレーム単位で一定のトータルゲインである画像に補正することができる。すなわち、図4に示すように、補正前の画像は、フレーム(2)およびフレーム(3)に白い横帯が入った画像となっているが、補正後の画像は、フレーム(2)およびフレーム(3)のうち、横帯以外の部分のトータルゲインが2.0倍とされることにより、フレーム全体のトータルゲインが一定になり、横帯の妨害のない画像でかつ、時間的な連続性を確保した自然な画像出力を得ることができる。   When the gain adjustment unit 2 performs gain adjustment using the signal processing gain control signal calculated in this way, the image of the lateral band phenomenon caused by the external flash can be corrected to an image having a constant total gain for each frame. it can. That is, as shown in FIG. 4, the image before correction is an image with a white horizontal band in frames (2) and (3), but the image after correction is frames (2) and frames (2). In (3), when the total gain of the portion other than the horizontal band is set to 2.0 times, the total gain of the entire frame becomes constant, and the image has no horizontal band disturbance and is temporally continuous. A natural image output can be obtained.

また、外部閃光が複数回(2回)あった場合について、図5および図6を用いて説明する。   Further, the case where the external flash is performed a plurality of times (twice) will be described with reference to FIGS.

図5は、360ラインおよび540ラインの読み出し直前に2回外部閃光が発生した場合の各制御信号波形の様子を説明する模式図である。   FIG. 5 is a schematic diagram for explaining the state of each control signal waveform when external flash occurs twice just before reading out 360 lines and 540 lines.

図6は、2回外部閃光が発生した場合の補正の効果を説明するための出力画像を模式的に示した模式図である。   FIG. 6 is a schematic diagram schematically showing an output image for explaining the effect of correction when an external flash occurs twice.

図5に示すように、フレーム(2)の360ライン目が読み出される直前に1回目の外部閃光(1)(光量小)と540ライン目が読み出される直前に2回目の外部閃光(2)(光量大)が発生したとする。   As shown in FIG. 5, the first external flash (1) (small amount of light) just before the 360th line of frame (2) is read and the second external flash (2) (just before the 540th line is read). Suppose that a large amount of light is generated.

図5および図6に示すように、撮像部1の出力は、フレーム(2)の360ラインから539ラインまで、外部閃光(1)の影響で2倍に明るくなり、フレーム(2)の540ラインからフレーム(3)の359ラインまで、外部閃光(1)および(2)の影響で4倍に明るくなり、フレーム(3)の360ラインから539ラインまで、外部閃光(2)の影響で3倍に明るくなったものとし、補正前は、複数の横帯画像となっている。   As shown in FIGS. 5 and 6, the output of the imaging unit 1 is doubled from the 360 line to the 539 line of the frame (2) due to the external flash (1), and is 540 lines of the frame (2). From frame (3) to 359 lines, the effect of external flashes (1) and (2) is four times brighter, and from frame (3) is 360 to 539 lines, the effect of external flashes (2) is tripled. The image becomes a plurality of horizontal band images before correction.

光量センサ部6の出力は、同様に外部閃光が発生したときにインパルス的に大きくなるような変化が検出され、ゲイン制御部5に入力される。入力された光量情報は、光量情報積算部50に入力され、一定時間(蓄積時間分)積算され光量ゲイン情報として出力される。積算した結果、光量ゲイン情報が外部閃光がない場合の2倍、4倍、3倍になったとすると、図5の光量ゲイン情報に示すようにフレーム(2)の360ラインから539ラインまでが2倍、フレーム(2)の540ラインからフレーム(3)の359ラインまで4倍、フレーム(3)の360ラインから539ラインまで3倍であるという出力結果になる。   Similarly, the output of the light amount sensor unit 6 is detected to change so as to increase in an impulse manner when an external flash is generated, and is input to the gain control unit 5. The input light amount information is input to the light amount information integration unit 50, integrated for a predetermined time (accumulation time), and output as light amount gain information. As a result of the integration, if the light amount gain information is doubled, four times, or three times that when there is no external flash, as shown in the light amount gain information of FIG. The output result is 4 times from 540 lines of frame (2) to 359 lines of frame (3) and 3 times from 360 lines to 539 lines of frame (3).

この光量ゲイン情報は、すなわち、各ラインがそれぞれずれた受光タイミングで受光した光量を示すことになるため、同様に外部閃光の影響をなくしてフレーム(1)〜(4)まで一定のトータルゲインとするには、光量ゲイン情報を打ち消す逆数のゲインを用いてゲイン調整すればよい。   Since this light amount gain information indicates the amount of light received at the light receiving timing where each line is shifted, similarly, a constant total gain from frame (1) to (4) can be obtained without the influence of external flash. In order to achieve this, the gain may be adjusted using a reciprocal gain that cancels the light amount gain information.

出力画像ゲイン生成部53では、外部閃光が発生した場合に得たい理想画像のトータルゲイン波形を生成する。   The output image gain generation unit 53 generates a total gain waveform of an ideal image that is to be obtained when an external flash occurs.

同様に、外部閃光が発生した場合の補正後画像として、横帯現象の発生するフレームのみ全ラインとも外部閃光(1)のみの影響を受けた横帯ラインと同様の明るい画像とする場合は、図5のトータルゲインに示すような、フレーム(2)およびフレーム(3)が2.0倍になる画像となり、光量ゲイン情報と駆動タイミング情報とから出力画像ゲイン生成部53で生成される。   Similarly, as an image after correction when an external flash occurs, when making a bright image similar to the horizontal line affected only by the external flash (1) in all the lines where the horizontal band phenomenon occurs, As shown in the total gain of FIG. 5, the frame (2) and the frame (3) are images that are 2.0 times larger, and are generated by the output image gain generation unit 53 from the light amount gain information and the drive timing information.

最終的にトータルゲインになるように外部閃光の影響を受けた光量ゲイン情報に基づいた画像信号に調整するゲインとしては、光量ゲイン情報の逆数とトータルゲインを乗算したものであるため、乗算部52で乗算した結果を信号処理ゲイン制御信号として出力する。   The gain to be adjusted to the image signal based on the light amount gain information affected by the external flash so as to finally become the total gain is obtained by multiplying the reciprocal number of the light amount gain information by the total gain, so that the multiplying unit 52 The result of multiplication by is output as a signal processing gain control signal.

すなわち、図5の信号処理ゲイン制御信号に示すような、
1.0倍→2.0倍→1.0倍→1/2倍→2/3倍→2.0倍→1.0倍
となる信号処理ゲイン制御信号で、ゲイン調整部2でゲイン調整を行うと、外部閃光による横帯現象の画像をフレーム単位で一定のトータルゲインである画像に補正することができる。すなわち、図6に示すように、補正前の画像は、フレーム(2)およびフレーム(3)に複数の白い横帯が入った画像となっているが、補正後の画像は、フレーム(2)およびフレーム(3)のトータルゲインが2.0倍の一定になっている横帯の妨害のない画像でかつ、時間的な連続性を確保した自然な画像出力を得ることができる。
That is, as shown in the signal processing gain control signal of FIG.
1.0 times-> 2.0 times-> 1.0 times-> 1/2 times-> 2/3 times-> 2.0 times-> 1.0 times signal processing gain control signal, gain adjustment by gain adjustment unit 2 By performing the above, it is possible to correct the image of the horizontal band phenomenon caused by the external flash to an image having a constant total gain in units of frames. That is, as shown in FIG. 6, the image before correction is an image having a plurality of white horizontal bands in the frame (2) and the frame (3), but the image after correction is the frame (2). In addition, it is possible to obtain a natural image output in which temporal continuity is ensured with an image having no horizontal band interference in which the total gain of the frame (3) is constant 2.0 times.

また、さらに複雑な複数の外部閃光が発生した場合についても、同様で、高輝度の複数の横帯となる悪影響を抑制し、かつ、動画として連続性を確保した自然な画像出力を得る効果を発揮する。   In addition, even when a plurality of more complicated external flashes occur, similarly, the effect of suppressing the adverse effect of a plurality of high-brightness horizontal bands and obtaining a natural image output that ensures continuity as a moving image. Demonstrate.

以上のように、本実施形態における撮像装置100では、外部閃光による高輝度の横帯となる悪影響を抑制し、かつ、動画として連続性を確保した画像を出力することができる撮像装置を実現することができる。   As described above, the imaging apparatus 100 according to the present embodiment realizes an imaging apparatus that can suppress an adverse effect of a high-brightness horizontal band due to an external flash and can output an image that ensures continuity as a moving image. be able to.

また本実施形態における撮像装置100では、複数の外部閃光による高輝度の複数の横帯となる悪影響を抑制し、かつ、動画として連続性を確保した画像を出力することができる撮像装置を実現することができる。   In addition, the imaging apparatus 100 according to the present embodiment realizes an imaging apparatus that can suppress the adverse effect of a plurality of high-intensity horizontal bands due to a plurality of external flashes and can output an image that ensures continuity as a moving image. be able to.

なお、出力画像ゲイン生成部53のフレーム(2)およびフレーム(3)でのトータルゲインは、前記説明においては、光量ゲイン情報と同じ2.0倍としたが、フレーム単位で一定なトータルゲインであれば、どのような値でもよく、予め固定された値でも、メニュなどで決定される値でも、光量ゲイン情報から算出される値でもよい。光量ゲイン情報から算出される値としては、例えば、光量ゲイン情報の増加分を平均化した値などでもよい。すなわち、図3の場合であれば、光量ゲイン情報として、1.0倍→2.0倍に増加しているので、増加分を平均化し1.5倍のように決定する。従って、フレーム(2)およびフレーム(3)の暗い部分(1.0倍)と、明るい部分(2.0倍)をその中間レベル(1.5倍)で一定になるように補正することになる。   In the above description, the total gain in the frame (2) and the frame (3) of the output image gain generation unit 53 is 2.0 times the same as the light amount gain information. However, the total gain is constant for each frame. Any value may be used as long as it is fixed in advance, a value determined by a menu or the like, or a value calculated from light amount gain information. The value calculated from the light amount gain information may be, for example, a value obtained by averaging the increase in the light amount gain information. That is, in the case of FIG. 3, since the light amount gain information is increased from 1.0 times to 2.0 times, the increase is averaged and determined to be 1.5 times. Therefore, the dark portion (1.0 times) and the bright portion (2.0 times) of frame (2) and frame (3) are corrected to be constant at the intermediate level (1.5 times). Become.

またなお、前記説明においては、補正後の明るくなるフレームはフレーム(2)および(3)の2フレームとしたが、これに限定されることなく、例えばフレーム(2)のみ明るいフレームにしても、フレーム(1)〜(4)とも暗いままとしてもよい。これらは、全て出力画像ゲイン生成部53でのトータルゲイン波形を調整することで実現可能であることは、明らかである。   In the above description, the corrected bright frame is two frames (2) and (3). However, the present invention is not limited to this. For example, only the frame (2) may be a bright frame. The frames (1) to (4) may remain dark. It is obvious that all of these can be realized by adjusting the total gain waveform in the output image gain generation unit 53.

またなお、ゲイン制御信号は、乗算部52の出力にさらにLPFなどの処理を行ったものでもよい。   In addition, the gain control signal may be a signal obtained by further performing processing such as LPF on the output of the multiplier 52.

[第2実施形態]
<2.1:撮像装置の構成>
図7は第2実施形態に係る撮像装置700のブロック図である。
[Second Embodiment]
<2.1: Configuration of imaging apparatus>
FIG. 7 is a block diagram of an imaging apparatus 700 according to the second embodiment.

第2実施形態に係る撮像装置は、第1実施形態に係る撮像装置100にノイズ抑制部7を追加し、ゲイン制御部5をゲインおよびノイズ抑制を連動して制御するゲイン&ノイズ抑制制御部8に変更した構成である。   The imaging apparatus according to the second embodiment includes a noise suppression unit 7 added to the imaging apparatus 100 according to the first embodiment, and a gain & noise suppression control unit 8 that controls the gain control unit 5 in conjunction with gain and noise suppression. The configuration is changed to

すなわち、図7に示すように、撮像装置700は、外部閃光などによる光量変化を検出する光量センサ部6と、被写体からの光を電気信号に変換する撮像部1と、撮像部1から出力される画像信号のゲインを調整するゲイン調整部2と、ゲイン調整部2からの出力信号にノイズ抑制処理を施すノイズ抑制部7と、ノイズ抑制部7からの出力信号にガンマ補正や、輪郭強調などの信号処理を実施する信号処理部3と、撮像部1の駆動パルスを生成し、さらに駆動タイミング情報をゲイン&ノイズ抑制制御部8に出力する駆動部4と、光量センサ部6の出力と駆動タイミングとから外部閃光などによる光量変化の影響ラインを特定し、ライン単位で画像信号のゲインおよびノイズ抑制度合いを制御するゲイン&ノイズ抑制制御部8と、を備えている。   That is, as illustrated in FIG. 7, the imaging apparatus 700 is output from the light amount sensor unit 6 that detects a change in the amount of light due to an external flash, the imaging unit 1 that converts light from a subject into an electrical signal, and the imaging unit 1. A gain adjusting unit 2 that adjusts the gain of the image signal, a noise suppressing unit 7 that performs noise suppression processing on the output signal from the gain adjusting unit 2, gamma correction, contour enhancement, and the like on the output signal from the noise suppressing unit 7 The signal processing unit 3 that performs the signal processing, the drive unit 4 that generates the drive pulse of the imaging unit 1, and outputs the drive timing information to the gain & noise suppression control unit 8, and the output and drive of the light amount sensor unit 6 A gain & noise suppression control unit 8 that identifies an influence line of a light amount change caused by an external flash from the timing and controls the gain of the image signal and the noise suppression level in units of lines; .

ノイズ抑制部7は、ノイズ抑制度合いを調整可能なものであれば、どのようなノイズ抑制回路でもよい。また、ゲイン&ノイズ抑制制御部8は、ゲイン制御部5と同じ構成で作成された信号を、ゲイン制御信号およびノイズ抑制制御信号として2系統出力する構成である。   The noise suppression unit 7 may be any noise suppression circuit as long as the noise suppression degree can be adjusted. The gain & noise suppression control unit 8 is configured to output two systems of signals created with the same configuration as the gain control unit 5 as a gain control signal and a noise suppression control signal.

ノイズ抑制部7およびゲイン&ノイズ抑制制御部8以外は、第1実施形態に係る撮像装置100と同じものである。   Except for the noise suppression unit 7 and the gain & noise suppression control unit 8, the configuration is the same as that of the imaging apparatus 100 according to the first embodiment.

<2.2:撮像装置の動作>
以上のように構成された第2実施形態における撮像装置の動作について説明する。
<2.2: Operation of Imaging Device>
An operation of the imaging apparatus according to the second embodiment configured as described above will be described.

図8は、360ラインの読み出し直前に外部閃光が発生した場合の各制御信号波形の様子を説明する模式図であり、第1実施形態での模式図(図3)にゲイン制御信号と同じ波形のノイズ抑制制御信号が追加されている。   FIG. 8 is a schematic diagram for explaining the state of each control signal waveform when an external flash is generated just before reading 360 lines. The schematic diagram in the first embodiment (FIG. 3) shows the same waveform as the gain control signal. A noise suppression control signal has been added.

第1実施形態の動作と同様にゲイン制御信号波形が生成され、同じ波形の制御信号をノイズ抑制制御信号としても出力し、ゲインが高く制御されるラインに対してノイズ抑制が強く制御されるようにする。   Similar to the operation of the first embodiment, a gain control signal waveform is generated, and a control signal having the same waveform is also output as a noise suppression control signal, so that noise suppression is strongly controlled for a line with high gain control. To.

第2実施形態に係る撮像装置700の特筆すべき動作の特徴は、第1実施形態と同様のゲイン制御に加えて、大きくゲインアップするラインにはノイズ抑制を大きく効かせる制御を同時に行うという点である。すなわち、信号処理ゲイン制御信号と同様に生成されたノイズ抑制制御信号をノイズ抑制部7に出力し、ノイズ抑制効果を制御する。大きくゲインアップされたラインは、同時にノイズも増幅されているが、後段のノイズ抑制部7で、ノイズを強く抑制するように制御される。これにより、同一フレーム中のゲイン変化による出力画像の違和感を抑制するものである。   The remarkable operation feature of the imaging apparatus 700 according to the second embodiment is that, in addition to the gain control similar to that in the first embodiment, a control for greatly increasing noise suppression is simultaneously performed on a line with a large gain increase. It is. That is, the noise suppression control signal generated in the same manner as the signal processing gain control signal is output to the noise suppression unit 7 to control the noise suppression effect. The line whose gain has been greatly increased is also amplified in noise at the same time, but is controlled so as to strongly suppress noise by the noise suppression unit 7 in the subsequent stage. This suppresses the uncomfortable feeling of the output image due to the gain change in the same frame.

以上のように、本実施形態における撮像装置700では、外部閃光による高輝度の横帯となる悪影響を抑制し、かつ、動画として連続性を確保し、かつ、同一フレームのノイズ感の変化を抑制したより自然な画像を出力することができる撮像装置を実現することができる。   As described above, in the imaging apparatus 700 according to the present embodiment, the adverse effect of a high-brightness horizontal band caused by external flash light is suppressed, continuity is ensured as a moving image, and changes in the noise feeling of the same frame are suppressed. Thus, an imaging device capable of outputting a more natural image can be realized.

なお、ノイズ抑制部7は、ノイズ抑制度合いを調整可能なものであれば、どのようなノイズ抑制回路であってもよい。   The noise suppression unit 7 may be any noise suppression circuit as long as the noise suppression degree can be adjusted.

またなお、ノイズ抑制部7は、ゲイン調整部2の直後に配置した例について説明したが、信号処理部3の中に配置してもよい。   In addition, although the noise suppression unit 7 has been described as being disposed immediately after the gain adjustment unit 2, the noise suppression unit 7 may be disposed in the signal processing unit 3.

またなお、信号処理ゲイン制御信号およびノイズ抑制制御信号は、第1実施形態のゲイン制御部5の構成で作成された制御信号そのものを、信号処理ゲイン制御信号およびノイズ抑制制御信号の2系統に出力する構成で説明したが、さらにゲイン制御信号用LPFおよびノイズ抑制制御信号用LPGなどの処理を行った後に出力したものでもよい。   In addition, the signal processing gain control signal and the noise suppression control signal are output to the two systems of the signal processing gain control signal and the noise suppression control signal as the control signal created by the configuration of the gain control unit 5 of the first embodiment. However, it may be output after further processing such as a gain control signal LPF and a noise suppression control signal LPG.

本発明にかかる撮像装置は、外部閃光による高輝度の横帯を除外し、かつ動画として連続性を確保した画像を出力することが可能になるため、連続画像を撮像するデジタルカメラやビデオカメラ等にも大変有用である。   The image pickup apparatus according to the present invention can output a high-brightness horizontal band caused by an external flash, and can output an image that ensures continuity as a moving image. It is also very useful.

1、950 撮像部
2 ゲイン調整部
3 信号処理部
4 駆動部
5 ゲイン制御部
6 光量センサ部
7 ノイズ抑制部
8 ゲイン&ノイズ抑制制御部
50 光量情報積算部
51 逆数化部
52 乗算部
53 出力画像ゲイン生成部
100、700、900 撮像装置
951 画像処理部
952 閃光検出部
953 出力制御部
954 メモリ回路
955 切換回路
DESCRIPTION OF SYMBOLS 1,950 Image pick-up part 2 Gain adjustment part 3 Signal processing part 4 Drive part 5 Gain control part 6 Light quantity sensor part 7 Noise suppression part 8 Gain & noise suppression control part 50 Light quantity information integration part 51 Inverse part 52 Multiplication part 53 Output image Gain generation unit 100, 700, 900 Imaging device 951 Image processing unit 952 Flash detection unit 953 Output control unit 954 Memory circuit 955 Switching circuit

Claims (5)

光量変化を検出する光量センサ部と、
被写体の撮像信号を出力する撮像部と、
前記撮像信号のゲインを調整するゲイン調整部と、
前記撮像部を駆動し、その駆動タイミングを出力する駆動部と、
前記ゲイン調整部のゲインを制御するゲイン制御部とを備え、
前記ゲイン制御部は、前記光量センサ部の出力と前記駆動タイミングとから、外部閃光の影響ラインを特定し、特定した前記影響ラインに基づいてゲインを制御することを特徴とする撮像装置。
A light quantity sensor for detecting a change in light quantity;
An imaging unit that outputs an imaging signal of a subject;
A gain adjustment unit for adjusting the gain of the imaging signal;
A drive unit that drives the imaging unit and outputs the drive timing ;
A gain control unit for controlling the gain of the gain adjustment unit,
Wherein the gain control unit, and an output and the drive timing of the light amount sensor unit, to identify the impact line of the external flash, the imaging device and controls the gain based on the specified the affected lines.
前記ゲイン制御部は、前記光量センサ部で検出された光量を一定期間積算した値の逆数に基づいてゲインを決定することを特徴とする請求項1記載の撮像装置。 Wherein the gain control unit, an imaging apparatus according to claim 1, wherein the determining the gain based on the amount of light detected by the light amount sensor unit to the reciprocal of the predetermined period integration value. 前記ゲイン制御部は、予め設定された値と、前記光量センサ部で検出された光量を一定期間積算した値の逆数とを乗算した結果を制御ゲインとして用いることを特徴とする請求項1記載の撮像装置。 Wherein the gain controller includes a preset value, to claim 1, characterized by using the result of multiplying the inverse number of the light intensity sensor fixed period cumulative value of the detected light amount by the unit as a control gain The imaging device described. 光量変化を検出する光量センサ部と、
被写体の撮像信号を出力する撮像部と、
前記撮像信号のゲインを調整するゲイン調整部と、
前記撮像信号のノイズを抑制する信号処理を行うノイズ抑制部と、
前記撮像部を駆動し、その駆動タイミングを出力する駆動部と、
前記ゲイン調整部のゲインおよび前記ノイズ抑制部のノイズ抑制度合いを制御するゲイン&ノイズ抑制制御部とを備え、
前記ゲイン&ノイズ抑制制御部は、前記光量センサ部の出力と前記駆動タイミングとから、外部閃光の影響ラインを特定し、特定した前記影響ラインに基づいてゲインおよびノイズ抑制効果を制御することを特徴とする撮像装置。
A light quantity sensor for detecting a change in light quantity;
An imaging unit that outputs an imaging signal of a subject;
A gain adjustment unit for adjusting the gain of the imaging signal;
A noise suppression unit that performs signal processing to suppress noise of the imaging signal;
A drive unit that drives the imaging unit and outputs the drive timing ;
A gain and noise suppression control unit that controls the gain of the gain adjustment unit and the noise suppression degree of the noise suppression unit;
The gain & noise suppression control unit, characterized in that from the output and the drive timing of the light amount sensor unit, to identify the impact line of the external flash, controls the gain and noise suppression based on the identified the affected line An imaging device.
前記ゲイン&ノイズ抑制制御部は、ゲインが大きいほどノイズ抑制を強く実施するような制御信号を出力することを特徴とする請求項4に記載の撮像装置。 The image pickup apparatus according to claim 4, wherein the gain & noise suppression control unit outputs a control signal that performs stronger noise suppression as the gain increases.
JP2009114292A 2009-05-11 2009-05-11 Imaging device Active JP5402223B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009114292A JP5402223B2 (en) 2009-05-11 2009-05-11 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009114292A JP5402223B2 (en) 2009-05-11 2009-05-11 Imaging device

Publications (3)

Publication Number Publication Date
JP2010263533A JP2010263533A (en) 2010-11-18
JP2010263533A5 JP2010263533A5 (en) 2012-05-31
JP5402223B2 true JP5402223B2 (en) 2014-01-29

Family

ID=43361225

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009114292A Active JP5402223B2 (en) 2009-05-11 2009-05-11 Imaging device

Country Status (1)

Country Link
JP (1) JP5402223B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5991090B2 (en) * 2012-09-04 2016-09-14 株式会社Jvcケンウッド Image signal processing apparatus and method
JP2017225072A (en) * 2016-06-17 2017-12-21 キヤノン株式会社 Imaging apparatus, control method thereof, and program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3783238B2 (en) * 1995-07-31 2006-06-07 ソニー株式会社 Imaging system, image processing apparatus, encoding apparatus, encoding method, and method for removing random noise
JP3731584B2 (en) * 2003-03-31 2006-01-05 コニカミノルタフォトイメージング株式会社 Imaging apparatus and program
JP2006033749A (en) * 2004-07-21 2006-02-02 Konica Minolta Photo Imaging Inc Imaging apparatus
JP4760518B2 (en) * 2006-05-10 2011-08-31 ソニー株式会社 Imaging apparatus, imaging method, program, and image processing apparatus
JP2008079136A (en) * 2006-09-22 2008-04-03 Canon Inc Imaging device and its control method, program, and storage medium
JP4777266B2 (en) * 2007-01-19 2011-09-21 キヤノン株式会社 Imaging apparatus and control method thereof
JP5129182B2 (en) * 2009-03-12 2013-01-23 富士フイルム株式会社 Imaging apparatus and imaging control method

Also Published As

Publication number Publication date
JP2010263533A (en) 2010-11-18

Similar Documents

Publication Publication Date Title
KR101407849B1 (en) Image processing apparatus, image processing method and solid-state image pickup device
JP5715436B2 (en) Imaging apparatus and control method thereof
US8767095B2 (en) Imaging apparatus, external flash correction method, recording medium, and integrated circuit
JP2014154982A (en) Image pickup device and control method therefor
WO2016129405A1 (en) Image processing device, image processing method, and program
JP2006345368A (en) Image processing apparatus and imaging apparatus
US20180077397A1 (en) Image processing apparatus, image processing method, and program
US20080291298A1 (en) Image noise reduction apparatus and method
WO2010044227A1 (en) Imaging device
US8502893B2 (en) Imaging apparatus, flash determination method, and recording medium
JP2011234318A (en) Imaging device
US8248520B2 (en) Imaging apparatus and imaging method
WO2019225071A1 (en) Signal processing device, signal processing method, and imaging device
US20090002513A1 (en) Imaging apparatus, imaging method and integrated circuit
US8447131B2 (en) Image processing apparatus and image processing method
JP5320245B2 (en) Imaging apparatus, imaging method, program, and integrated circuit
JP5402223B2 (en) Imaging device
JP5381541B2 (en) Imaging device
JP5440245B2 (en) Imaging device
JP5106055B2 (en) Imaging apparatus and flicker detection method thereof
JP4693602B2 (en) Imaging apparatus and image signal processing method
JP5341536B2 (en) Imaging device
JP2007037103A (en) Imaging apparatus
JP2008085954A (en) Imaging apparatus, imaging method and integrated circuit
JP5207952B2 (en) Imaging device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120405

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120405

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20121217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131001

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131014

R151 Written notification of patent or utility model registration

Ref document number: 5402223

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151