JP5381541B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP5381541B2
JP5381541B2 JP2009213938A JP2009213938A JP5381541B2 JP 5381541 B2 JP5381541 B2 JP 5381541B2 JP 2009213938 A JP2009213938 A JP 2009213938A JP 2009213938 A JP2009213938 A JP 2009213938A JP 5381541 B2 JP5381541 B2 JP 5381541B2
Authority
JP
Japan
Prior art keywords
frame
flash
signal
image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009213938A
Other languages
Japanese (ja)
Other versions
JP2011066567A (en
Inventor
淳史 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2009213938A priority Critical patent/JP5381541B2/en
Publication of JP2011066567A publication Critical patent/JP2011066567A/en
Application granted granted Critical
Publication of JP5381541B2 publication Critical patent/JP5381541B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、連続画像を撮像するデジタルカメラやビデオカメラなどの撮像装置に関するものであって、特に外部閃光などによる画像への悪影響を抑制することが可能な撮像装置に関するものである。   The present invention relates to an imaging apparatus such as a digital camera or a video camera that captures continuous images, and more particularly to an imaging apparatus that can suppress an adverse effect on an image due to an external flash or the like.

外部閃光などによる画像への悪影響を抑制する従来の信号処理装置(撮像装置)としては、例えば、特許文献1に記載されているようなものがある。図9は従来の撮像装置900のブロック図である。特許文献1では、記録部に画像記録する処理について記載されているが、ここでは、画像信号を外部出力する例について説明する。   As a conventional signal processing device (imaging device) that suppresses an adverse effect on an image due to an external flash or the like, for example, there is a device described in Patent Document 1. FIG. 9 is a block diagram of a conventional imaging apparatus 900. Patent Document 1 describes a process of recording an image in a recording unit. Here, an example in which an image signal is externally output will be described.

図9に示すように、撮像装置900は、CMOSセンサ、センサ駆動回路及びアナログ/デジタル変換器を有し、連続画像を撮像して垂直有効720ライン、水平有効1280画素、フレーム周波数60Hzのデジタル順次走査画像信号を出力する撮像部950と、撮像部950の出力に対しガンマ処理や輪郭強調を行う画像処理部951と、を備える。また、撮像装置900は、撮像部950の出力に対し連続するフレームの画像を比較し外部閃光の有無を検出する閃光検出部952と、閃光検出部952の出力信号(閃光検出信号)に基づいて、画像処理部951から出力される画像信号をそのまま出力するか、あるいは蓄積した画像を出力するかの切換制御を行う出力制御部953と、を備える。   As shown in FIG. 9, the imaging apparatus 900 includes a CMOS sensor, a sensor driving circuit, and an analog / digital converter, which captures continuous images and performs digital sequential with vertical effective 720 lines, horizontal effective 1280 pixels, and frame frequency 60 Hz. An imaging unit 950 that outputs a scanning image signal and an image processing unit 951 that performs gamma processing and contour enhancement on the output of the imaging unit 950 are provided. In addition, the imaging apparatus 900 compares the output of the imaging unit 950 with continuous frame images and detects the presence or absence of external flash, and the output signal (flash detection signal) of the flash detection unit 952. An output control unit 953 that performs switching control of whether the image signal output from the image processing unit 951 is output as it is or whether the accumulated image is output.

図10に、従来の撮像装置900における出力制御部953のブロック図を示す。図10に示すように、出力制御部953は、画像処理部951から出力される画像信号を1フレーム分記憶するメモリ回路954と、閃光検出部952の出力信号(閃光検出信号)に基づいて、メモリ回路954から出力される信号と画像処理部951からの入力信号とを切り換えて出力する切換回路955と、を備える。   FIG. 10 shows a block diagram of the output control unit 953 in the conventional imaging apparatus 900. As shown in FIG. 10, the output control unit 953 is based on a memory circuit 954 that stores the image signal output from the image processing unit 951 for one frame, and an output signal (flash detection signal) of the flash detection unit 952. A switching circuit 955 that switches and outputs a signal output from the memory circuit 954 and an input signal from the image processing unit 951.

以上のように構成された従来の撮像装置900について、その動作を説明する。   The operation of the conventional imaging apparatus 900 configured as described above will be described.

まず、撮像部950では、センサ駆動回路から駆動信号をCMOSセンサに供給し、CMOSセンサに入射した光信号(被写体からの光)を光電変換により電気信号に変換し、さらに、光電変換により取得した電気信号をアナログ/デジタル変換によりデジタル順次走査画像信号に変換する。そして、撮像部950により生成されたデジタル順次走査画像信号が、撮像部950から出力される。このデジタル順次走査画像信号は、画像処理部951と閃光検出部952とに供給(出力)される。   First, in the imaging unit 950, a drive signal is supplied from the sensor drive circuit to the CMOS sensor, and an optical signal (light from the subject) incident on the CMOS sensor is converted into an electrical signal by photoelectric conversion, and further acquired by photoelectric conversion. The electrical signal is converted into a digital progressive scanning image signal by analog / digital conversion. The digital progressive scanning image signal generated by the imaging unit 950 is output from the imaging unit 950. The digital progressive scanning image signal is supplied (output) to the image processing unit 951 and the flash detection unit 952.

画像処理部951では、入力されたデジタル順次走査画像信号に対して、ガンマ処理、輪郭強調処理等を施し、処理された画像信号は、出力制御部953に出力される。   The image processing unit 951 performs gamma processing, contour enhancement processing, and the like on the input digital progressive scanning image signal, and the processed image signal is output to the output control unit 953.

一方、閃光検出部952では、入力されたデジタル順次走査画像信号に対して、1フレーム分の平均輝度レベルを計算し、入力された信号のフレーム平均輝度レベルと直前のフレームの平均輝度レベルとを比較し、大幅に平均輝度レベルが増加した場合、フラッシュのような外部閃光が存在する環境下で撮像画像が撮像部950により取得されたと判断する。例えば、入力された信号のフレーム平均輝度レベルが直前のフレームの平均輝度レベルより100%以上増加した場合、閃光検出部952は、フラッシュのような外部閃光が検出された(外部閃光が存在する環境下で撮像された)と判定し、閃光検出信号の信号値を「1」にして、閃光検出信号を出力する。なお、閃光検出部952は、外部閃光を検出していないときは、閃光検出信号の信号値を「0」として、閃光検出信号を出力する。この閃光検出信号と画像処理部951から出力される画像信号とは、出力制御部953に入力される。   On the other hand, the flash detection unit 952 calculates an average luminance level for one frame with respect to the input digital progressive scanning image signal, and calculates the frame average luminance level of the input signal and the average luminance level of the previous frame. In comparison, when the average luminance level significantly increases, it is determined that the captured image is acquired by the imaging unit 950 in an environment where an external flash such as a flash exists. For example, when the frame average luminance level of the input signal is increased by 100% or more from the average luminance level of the previous frame, the flash detection unit 952 detects an external flash such as a flash (an environment in which an external flash exists). The signal value of the flash detection signal is set to “1”, and the flash detection signal is output. When the external flash is not detected, the flash detection unit 952 sets the signal value of the flash detection signal to “0” and outputs a flash detection signal. The flash detection signal and the image signal output from the image processing unit 951 are input to the output control unit 953.

出力制御部953では、画像処理部951から出力される画像信号がメモリ回路954に入力される。メモリ回路954は、画像信号1フレーム分を書き込み記憶させ、1フレームに相当する時間だけ遅延させて、画像信号を出力する。閃光検出部952から出力される閃光検出信号の信号値が「1」である場合、すなわち、閃光を検出している場合、メモリ回路954は、新たな画像信号の書き込みを行わず、前のフレームの画像信号を保持し、同じフレームの画像信号を繰り返し出力する。切換回路955は、画像処理部951から出力される画像信号とメモリ回路954から出力される画像信号とを、閃光検出信号に基づいて、切り換えて出力する。閃光検出部952から出力される閃光検出信号の信号値が「1」である場合、すなわち、閃光検出信号が閃光を検出していることを示している場合、切換回路955は、メモリ回路954から出力される画像信号を選択し出力し、閃光検出部952から出力される閃光検出信号の信号値が「0」の場合、すなわち、閃光検出信号が閃光を検出していないことを示している場合、切換回路955は、画像処理部951から出力される画像信号を選択して出力する。   In the output control unit 953, the image signal output from the image processing unit 951 is input to the memory circuit 954. The memory circuit 954 writes and stores one frame of the image signal, delays it by a time corresponding to one frame, and outputs the image signal. When the signal value of the flash detection signal output from the flash detection unit 952 is “1”, that is, when flash is detected, the memory circuit 954 does not write a new image signal and does not write the previous frame. The image signal of the same frame is repeatedly output. The switching circuit 955 switches between the image signal output from the image processing unit 951 and the image signal output from the memory circuit 954 based on the flash detection signal. When the signal value of the flash detection signal output from the flash detection unit 952 is “1”, that is, when the flash detection signal indicates that the flash is detected, the switching circuit 955 is switched from the memory circuit 954. When the output image signal is selected and output, and the signal value of the flash detection signal output from the flash detection unit 952 is “0”, that is, the flash detection signal indicates that no flash is detected. The switching circuit 955 selects and outputs the image signal output from the image processing unit 951.

次に、図11を用いて、撮像装置900の動作を詳しく説明する。   Next, the operation of the imaging apparatus 900 will be described in detail with reference to FIG.

図11は、従来の撮像装置900において、外部閃光により画像(撮像装置900による撮像画像)が受ける悪影響を説明するための模式図である。   FIG. 11 is a schematic diagram for explaining the adverse effect that an image (image captured by the image capture device 900) is subjected to by external flash in the conventional image capture device 900. FIG.

図11の(1)〜(4)は、連続したフレームを示しており、CMOSセンサが受光しているタイミングを、垂直同期信号(図11の最上段)を基準にして、示している。   (1) to (4) in FIG. 11 show continuous frames, and the timing at which the CMOS sensor receives light is shown on the basis of the vertical synchronization signal (the uppermost stage in FIG. 11).

図11に示す「画像上側」とは、有効画面(撮像装置により取得された画像信号を表示装置に表示させた場合の実際に表示される画面(同期信号等の部分を除いた画面)に相当する画面)の上側を意味している。CMOSセンサにおいて、有効画面の1ライン目は、図11の中の矢印で示した期間受光している。CMOSセンサでは、ライン毎に受光タイミングが少しずつずれていくため、720ライン目では、1ライン目に対して、およそ1/60秒ずれている。ここで、図11の星印で示したタイミングで外部閃光があった場合、(2)のフレームの下方画面を構成するラインと(3)のフレームの上方画面を構成するラインでは、閃光を受光することになる。このような状況で、撮像部950により取得された画像信号を表示装置に表示させた場合、表示画面(映像)において、連続した2フレームにわたって高輝度な横帯が発生することになる。この高輝度な横帯の発生は、視覚的に違和感をユーザに抱かせることになる。さらに、連続するフレームの相関を利用して圧縮する方式、例えば、MPEG(Moving Picture Experts Group)方式で圧縮する処理において、上記高輝度な横帯の発生させる画像信号を処理すると、ブロックノイズが発生したり、圧縮率が低下したりするという悪影響が発生する。   The “upper image” shown in FIG. 11 corresponds to an effective screen (a screen that is actually displayed when the image signal acquired by the imaging device is displayed on the display device (a screen excluding a portion such as a synchronization signal). It means the upper side of the screen. In the CMOS sensor, the first line of the effective screen receives light for the period indicated by the arrow in FIG. In the CMOS sensor, the light reception timing is slightly shifted for each line, so the 720th line is shifted by about 1/60 second with respect to the first line. Here, when there is an external flash at the timing indicated by the star in FIG. 11, the flash is received by the line constituting the lower screen of the frame (2) and the line constituting the upper screen of the frame (3). Will do. In such a situation, when the image signal acquired by the imaging unit 950 is displayed on the display device, a high-brightness horizontal band is generated over two consecutive frames on the display screen (video). The occurrence of this high-intensity horizontal band visually makes the user feel uncomfortable. Further, in a method of compressing using the correlation of consecutive frames, for example, in a process of compressing using the MPEG (Moving Picture Experts Group) method, block noise is generated when the image signal generated by the high luminance horizontal band is processed. Or the compression rate is reduced.

そこで、図9で示した従来の撮像装置900では、外部閃光を検出した際には、閃光を受光したフレームの画像は出力せず、直前のフレームの画像を出力する。このため、撮像装置900では、高輝度な横帯の発生を防ぐことができる。   Therefore, in the conventional imaging device 900 shown in FIG. 9, when an external flash is detected, the image of the frame that received the flash is not output, but the image of the immediately preceding frame is output. For this reason, in the imaging apparatus 900, generation | occurrence | production of a high-intensity horizontal band can be prevented.

特開2007−306225号公報JP 2007-306225 A

しかしながら、上記従来の撮像装置では、連続する2フレームにわたって外部閃光を検出した場合、同じフレームの画像を3フレームにわたって出力することになり、動画として連続性が失われてしまうという課題がある。   However, in the conventional imaging device, when an external flash is detected over two consecutive frames, an image of the same frame is output over three frames, and there is a problem that continuity is lost as a moving image.

例えば、図11の場合、外部閃光により高輝度な横帯が発生するのは2フレーム(フレーム(2)とフレーム(3))であり、撮像装置900では、この2フレームの直前のフレーム(フレーム(1))の画像を繰り返し出力することになる。つまり、撮像装置900では、3フレームにわたって同じ画像(フレーム(1)に相当する画像)を出力することになるので、撮像装置900により取得された画像(映像)を表示装置に表示させた場合、一時的に静止した画像として表示されることになり、動画としてピクつき感が発生することになる。   For example, in the case of FIG. 11, a high-intensity horizontal band is generated by an external flash in two frames (frame (2) and frame (3)). The image of (1)) is repeatedly output. That is, since the imaging device 900 outputs the same image (an image corresponding to the frame (1)) over three frames, when the image (video) acquired by the imaging device 900 is displayed on the display device, It will be displayed as a still image temporarily, and a tingling sensation will occur as a moving image.

特に、被写体の移動や、カメラのパーン、チルトおよびズーム操作などを行っている場合、上記従来の撮像装置では、なめらかな動画の一部が静止画として表示されることにより、全体として滑らかな動きに、一瞬ピクつくようにみえて、違和感のある画像となってしまっていた。   In particular, when moving the subject or performing panning, tilting, and zooming operations on the camera, the conventional imaging device displays a part of the smooth video as a still image, resulting in smooth movement as a whole. However, it seemed to be tingling for a moment, and it became an uncomfortable image.

本発明は、上記従来の課題を解決するもので、外部閃光による高輝度の横帯の悪影響を抑制し、かつ、画像に動きがある場合などで顕著にあらわれる動画としてのピクつき感を軽減した画像を出力する撮像装置を提供することを目的とする。   The present invention solves the above-described conventional problems, suppresses the adverse effect of a high-brightness horizontal band caused by external flash, and reduces the tingling sensation as a moving image that appears prominently when there is movement in the image. An object of the present invention is to provide an imaging apparatus that outputs an image.

上記課題を解決するために、本発明の撮像装置は、被写体像を撮像し映像信号をフレーム単位で出力可能な撮像部と、外部閃光を検出するフラッシュ検出部と、前記撮像部が出力する1フレームの映像信号と、当該映像信号の前後同数の少なくとも1フレームの映像信号とを加算するフレーム平均化部と、前記フラッシュ検出部により外部閃光を検出した際に、前記撮像部が出力する映像信号と、前記フレーム平均化部が出力する映像信号とを、切り換えて出力する選択部と、を備える。   In order to solve the above problems, an imaging apparatus according to the present invention includes an imaging unit that can capture a subject image and output a video signal in units of frames, a flash detection unit that detects an external flash, and the imaging unit that outputs 1 A video signal output from the imaging unit when an external flash is detected by the flash detection unit, and a frame averaging unit that adds the video signal of the frame and the video signal of at least one frame of the same number before and after the video signal And a selection unit that switches and outputs the video signal output by the frame averaging unit.

本発明によれば、外部閃光による高輝度の横帯となる悪影響を抑制し、かつ、動画としての時間連続性を改善した画像を出力することができる。   According to the present invention, it is possible to suppress an adverse effect of a high luminance horizontal band caused by an external flash and to output an image with improved time continuity as a moving image.

第1実施形態に係る撮像装置のブロック図1 is a block diagram of an imaging apparatus according to a first embodiment. 第1実施形態に係るフラッシュ補正部のブロック図Block diagram of a flash correction unit according to the first embodiment 第1実施形態に係るフラッシュ検出部のブロック図Block diagram of a flash detection unit according to the first embodiment 第1実施形態に係る撮像装置の動作を説明する模式図Schematic diagram for explaining the operation of the imaging apparatus according to the first embodiment. 第1実施形態に係る撮像装置の補正の効果を説明する模式図Schematic diagram illustrating the effect of correction of the imaging apparatus according to the first embodiment 第2実施形態に係るフラッシュ補正部のブロック図Block diagram of a flash correction unit according to the second embodiment 第2実施形態に係るフラッシュ検出部のブロック図Block diagram of a flash detection unit according to the second embodiment 第2実施形態に係る撮像装置の動作を説明する模式図Schematic diagram illustrating the operation of the imaging apparatus according to the second embodiment 従来の撮像装置のブロック図Block diagram of a conventional imaging device 従来の撮像装置の出力制御部のブロック図Block diagram of output control unit of conventional imaging device 従来の撮像装置で外部閃光により画像が受ける悪影響を説明する模式図Schematic diagram for explaining the adverse effect of an image caused by external flash in a conventional imaging device

以下、本発明の実施形態について、図面を参照しながら説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

(第1実施形態)
<1.1:撮像装置の構成>
図1は第1実施形態に係る撮像装置100の要部を示すブロック図である。
(First embodiment)
<1.1: Configuration of Imaging Device>
FIG. 1 is a block diagram illustrating a main part of the imaging apparatus 100 according to the first embodiment.

図1に示すように、撮像装置100は、撮像部1と、フラッシュ補正部2と、外部閃光などの発生を検出するフラッシュ検出部3と、信号処理部4と、で構成されている。   As shown in FIG. 1, the imaging apparatus 100 includes an imaging unit 1, a flash correction unit 2, a flash detection unit 3 that detects the occurrence of external flash light, and a signal processing unit 4.

撮像部1は、撮像素子およびアナログ/デジタル変換部を有し、被写体からの光を光電変換により電気信号に変換し、デジタルの画像信号としてフラッシュ補正部2およびフラッシュ検出部3に出力する。撮像素子として、CMOSセンサ(CMOS型イメージセンサ)が用いられるが、これに限るものではない。撮像部1は、連続画像を撮像して、例えば、垂直有効720ライン、水平有効1280画素、フレーム周波数60[Hz]のデジタル順次走査画像信号を出力する。   The imaging unit 1 includes an imaging device and an analog / digital conversion unit, converts light from the subject into an electrical signal by photoelectric conversion, and outputs the signal as a digital image signal to the flash correction unit 2 and the flash detection unit 3. A CMOS sensor (CMOS type image sensor) is used as the imaging device, but is not limited thereto. The imaging unit 1 captures continuous images and outputs, for example, a digital sequential scanning image signal having a vertical effective 720 lines, a horizontal effective 1280 pixels, and a frame frequency of 60 [Hz].

フラッシュ補正部2は、フラッシュ検出部3からのフラッシュ検出信号に基づいて奇数フレーム(今回は3フレームで説明する)の画像信号を平均した信号に切換出力する(詳細については後述)。   Based on the flash detection signal from the flash detection unit 3, the flash correction unit 2 switches and outputs the image signal of the odd-numbered frame (this time will be described as 3 frames) to an averaged signal (details will be described later).

フラッシュ検出部3は、撮像部1からの画像信号より画面下部分の平均輝度レベルを算出し、そのフレーム間での変化により、外部閃光が発生したかどうかを検出する(詳細については後述)。   The flash detection unit 3 calculates the average luminance level of the lower portion of the screen from the image signal from the imaging unit 1, and detects whether or not an external flash has occurred due to a change between the frames (details will be described later).

信号処理部4は、フラッシュ補正部2の出力にガンマ処理、輪郭強調処理、マトリクス処理などを実施し、映像規格に合致した画像出力として出力する。   The signal processing unit 4 performs gamma processing, contour enhancement processing, matrix processing, and the like on the output of the flash correction unit 2 and outputs the result as an image output that conforms to the video standard.

フラッシュ補正部2の具体的構成の一例を図2に示す。   An example of a specific configuration of the flash correction unit 2 is shown in FIG.

図2に示すように、フラッシュ補正部2は、第1のフレームメモリ20と、第2のフレームメモリ21と、フレーム平均化処理部22と、セレクタ処理部23と、を有する。   As shown in FIG. 2, the flash correction unit 2 includes a first frame memory 20, a second frame memory 21, a frame averaging processing unit 22, and a selector processing unit 23.

撮像部1からの画像信号が、0V遅延信号として、第1のフレームメモリ20およびフレーム平均化処理部22に入力される。第1のフレームメモリ20では、画像信号の1フレーム分を書き込み記憶させ、1フレーム遅延の後、1V遅延信号として、第2のフレームメモリ21、フレーム平均化処理部22およびセレクタ処理部23に出力される。第2のフレームメモリ21では、第1のフレームメモリ20と同様に、1V遅延信号の1フレーム分を書き込み記憶させ、さらに1フレーム遅延の後、2V遅延信号として、フレーム平均化処理部22に出力される。   The image signal from the imaging unit 1 is input to the first frame memory 20 and the frame averaging processing unit 22 as a 0V delay signal. The first frame memory 20 writes and stores one frame of the image signal, and outputs it to the second frame memory 21, the frame averaging processing unit 22 and the selector processing unit 23 as a 1V delay signal after one frame delay. Is done. Similarly to the first frame memory 20, the second frame memory 21 writes and stores one frame of the 1V delay signal, and further outputs it to the frame averaging processing unit 22 as a 2V delay signal after one frame delay. Is done.

フレーム平均化処理部22では、入力される0V遅延信号、1V遅延信号および2V遅延信号を加算平均してフラッシュ補正信号を出力する。   The frame averaging processing unit 22 adds and averages the input 0V delay signal, 1V delay signal, and 2V delay signal, and outputs a flash correction signal.

セレクタ処理部23では、第1のフレームメモリ20の出力である1V遅延信号とフレーム平均化処理部22の出力であるフラッシュ補正信号をフラッシュ検出部3からのフラッシュ検出信号に従って切換出力する。すなわち、外部閃光が発生していない場合は、1V遅延信号を出力し、外部閃光が発生している場合は、フラッシュ補正信号を出力する。   The selector processing unit 23 switches and outputs the 1V delay signal output from the first frame memory 20 and the flash correction signal output from the frame averaging processing unit 22 in accordance with the flash detection signal from the flash detection unit 3. That is, when no external flash is generated, a 1V delay signal is output, and when an external flash is generated, a flash correction signal is output.

フラッシュ検出部3の具体的構成の一例を図3に示す。   An example of a specific configuration of the flash detection unit 3 is shown in FIG.

図3に示すように、フラッシュ検出部3は、画面下平均輝度レベル算出部30と、平均輝度レベル変更判定部31と、フラッシュ検出信号生成部32と、を有する。   As shown in FIG. 3, the flash detection unit 3 includes a screen lower average luminance level calculation unit 30, an average luminance level change determination unit 31, and a flash detection signal generation unit 32.

画面下平均輝度レベル算出部30では、入力された画像信号の画面下部分の平均輝度レベルを算出し、平均輝度レベル変更判定部31に出力する。   The screen lower average luminance level calculation unit 30 calculates the average luminance level of the lower screen portion of the input image signal and outputs it to the average luminance level change determination unit 31.

平均輝度レベル変更判定部31では、現在のフレームの画面下部分平均輝度レベルと直前のフレームの画面下部分平均輝度レベルとを比較し、大幅に増加した場合、外部閃光が開始されたと判断する。例えば、現在のフレームの画面下部分平均輝度レベルが直前のフレームの画面下部分平均輝度レベルより100%以上増加した場合、外部閃光が発生したと判定し、輝度レベル変更判定信号を「1」とし、フレーム間の平均輝度レベルの差が100%未満の場合には、外部閃光が発生していないと判定し、輝度レベル変更判定信号を「0」のままとする。さらに、一旦輝度レベル変更判定信号が「1」となった後は、前記画面下部分平均輝度レベルの直前フレームとの差が、減少した場合に、外部閃光フレームが終了したと判断する。例えば、現在のフレームの画面下部分平均輝度レベルが直前のフレームの画面下部分平均輝度レベルより外部閃光発生時と同様に100%以上減少した場合、外部閃光フレームが終了したと判定し、輝度レベル変更判定信号を「0」とし、100%以上減少しない場合は、連続的に外部閃光が発生していると判定し、「1」のままとする。また、外部閃光発生時の外部閃光発生前の平均輝度レベルと同じレベルになった場合に、外部閃光フレームが終了したと判定してもよい。   The average brightness level change determination unit 31 compares the screen lower part average brightness level of the current frame with the screen lower part average brightness level of the immediately preceding frame, and determines that external flashing has started when it significantly increases. For example, when the screen lower part average luminance level of the current frame is increased by 100% or more from the screen lower part average luminance level of the previous frame, it is determined that an external flash has occurred, and the luminance level change determination signal is set to “1”. If the difference in average luminance level between frames is less than 100%, it is determined that no external flash has occurred, and the luminance level change determination signal remains “0”. Further, once the luminance level change determination signal becomes “1”, it is determined that the external flash frame is completed when the difference between the lower average screen luminance level and the previous frame is decreased. For example, when the average luminance level at the lower part of the screen of the current frame is reduced by 100% or more from the average luminance level at the lower part of the screen of the previous frame as in the case of the external flash, it is determined that the external flash frame has ended, and the luminance level When the change determination signal is “0” and does not decrease by 100% or more, it is determined that the external flash is continuously generated and remains “1”. Further, it may be determined that the external flash frame has ended when the average luminance level before the external flash is generated when the external flash is generated is the same level.

輝度レベル変更判定信号は、フラッシュ検出信号生成部32に出力される。フラッシュ検出信号生成部32では、輝度レベル変更判定信号の立下り位置を1フレーム遅らせた信号を生成し、フラッシュ検出信号として出力する。   The luminance level change determination signal is output to the flash detection signal generation unit 32. The flash detection signal generation unit 32 generates a signal obtained by delaying the falling position of the luminance level change determination signal by one frame and outputs it as a flash detection signal.

<1.2:撮像装置の動作>
以上のように構成された撮像装置100について、その動作を説明する。ここでは、ライン毎に順次読み出しされる結果、ライン毎に受光タイミングが少しずつずれていくタイプのCMOSセンサを用いた場合について説明する。
<1.2: Operation of Imaging Device>
The operation of the imaging apparatus 100 configured as described above will be described. Here, a case where a CMOS sensor of a type in which the light receiving timing is slightly shifted for each line as a result of sequentially reading for each line will be described.

まず、撮像部1では、CMOSセンサに入射した光信号を光電変換し、さらに、アナログ・デジタル変換を行うことによってデジタル順次走査画像信号が出力される。CMOSセンサでは画面上側から順次出力し、ライン毎に少しずつ受光タイミングがずれていくため、1ライン目と720ライン目とでは、おおよそ1/60秒も受光タイミングがずれていることになる。   First, the imaging unit 1 photoelectrically converts an optical signal incident on the CMOS sensor, and further performs analog / digital conversion to output a digital sequential scanning image signal. Since the CMOS sensor sequentially outputs from the upper side of the screen and the light reception timing is slightly shifted for each line, the light reception timing is shifted by about 1/60 second between the first line and the 720th line.

外部閃光が発生した場合について考えると、外部閃光が発生した時刻の直後に読み出されるラインから画像が明るくなり、次のフレームの前記ラインから、再び暗い画像が出力される結果となる。   Considering the case where an external flash occurs, the image becomes brighter from the line read immediately after the time when the external flash occurs, and a dark image is output again from the line of the next frame.

図4に360ラインの読み出し直前に外部閃光が発生した場合の動作を説明する模式図を示す。   FIG. 4 is a schematic diagram for explaining the operation when an external flash is generated immediately before 360 lines are read.

例えば、フレーム(2)の360ラインの読み出し直前に外部閃光が発生したとすると、直前の359ライン目は、既に読み出し中のため、外部閃光は次のフレームの359ラインの読み出し時に影響を与える。すなわち、おおよそ1/60秒後の次のフレーム(3)の359ライン目が、明るい画像となる。フレーム(2)の360ライン目は、読み出し直前に外部閃光が発生しているので、外部閃光を受光した画像が出力される。すなわち、明るい画像となる。フレーム(2)の361ライン目は、読み出し少し前に外部閃光が発生しているので、同様に明るい画像となる。以降同様であるため、結果としてフレーム(2)の360ライン目から次のフレーム(3)の359ライン目までが明るい画像となる。従って、外部閃光が発生した前後のフレーム(1)から(4)をコマ送りで表示すると、全体に暗いフレーム(1)、画面上部1〜359ラインが暗く、画面下部の360〜720ラインが明るいフレーム(2)、画面上部1〜359ラインが明るく、画面下部360〜720ラインが暗いフレーム(3)、全体に暗いフレーム(4)が表示され、フレーム(2)、(3)に明るい横帯が発生した画像となる。   For example, if an external flash has occurred just before the 360th line of frame (2) is read, since the previous 359th line is already being read, the external flash has an effect when reading the 359th line of the next frame. That is, a bright image is obtained at the 359th line of the next frame (3) after approximately 1/60 seconds. In the 360th line of the frame (2), an external flash is generated immediately before reading, so an image in which the external flash is received is output. That is, a bright image is obtained. In the 361st line of the frame (2), an external flash is generated slightly before reading, so that a bright image is similarly obtained. Since this is the same thereafter, the result is a bright image from the 360th line of the frame (2) to the 359th line of the next frame (3). Therefore, when frames (1) to (4) before and after the occurrence of the external flash are displayed by frame advance, the dark frame (1), the top 1 to 359 lines on the screen are dark, and the 360 to 720 lines on the bottom of the screen are bright. The frame (2), the upper 1 to 359 lines of the screen are bright, the lower 360 to 720 lines of the screen are dark (3), the entire frame is dark (4), and the frames (2) and (3) are bright horizontal bands Is generated.

外部閃光が発生した場合には、撮像部1から、フレーム(2)および(3)に明るい横帯のある画像信号が、フラッシュ補正部2およびフラッシュ検出部3に出力される。   When an external flash occurs, an image signal having a bright horizontal band in the frames (2) and (3) is output from the imaging unit 1 to the flash correction unit 2 and the flash detection unit 3.

フラッシュ検出部3では、撮像部1からの画像信号より画面下部分の平均輝度レベルを算出し、そのフレーム間での変化により、外部閃光が発生したかどうかを検出する。すなわち、画面下平均輝度レベル算出部30では、平均輝度レベルを算出する。さらに、平均輝度レベル変更判定部31では、フレーム(3)のタイミングにおいて、フレーム(1)およびフレーム(2)の画面下部分の平均輝度レベルを比較し、その結果大幅に増加しているため、外部閃光が発生したと判定し、輝度レベル変更判定信号として「1」を出力する。さらに、平均輝度レベル変更判定部31では、次のフレーム(4)のタイミングにおいて、フレーム(2)およびフレーム(3)の画面下部分の平均輝度レベルを比較し、その結果減少しているため、外部閃光が終了したと判定し、輝度レベル変更判定信号を「0」にして出力する。フラッシュ検出信号生成部32では、輝度レベル変更判定信号の立下り位置を1フレーム遅らせた信号を生成し、フラッシュ検出信号として出力する。   The flash detection unit 3 calculates the average luminance level of the lower portion of the screen from the image signal from the imaging unit 1, and detects whether or not an external flash has occurred due to a change between the frames. That is, the screen lower average luminance level calculation unit 30 calculates the average luminance level. Further, the average luminance level change determination unit 31 compares the average luminance levels of the lower screen portions of the frames (1) and (2) at the timing of the frame (3), and as a result, the average luminance level change determination unit 31 significantly increases. It is determined that an external flash has occurred, and “1” is output as a luminance level change determination signal. Furthermore, the average luminance level change determination unit 31 compares the average luminance levels of the lower screen portions of the frames (2) and (3) at the timing of the next frame (4), and as a result, decreases. It is determined that the external flash has ended, and the luminance level change determination signal is set to “0” and output. The flash detection signal generation unit 32 generates a signal obtained by delaying the falling position of the luminance level change determination signal by one frame and outputs it as a flash detection signal.

フラッシュ補正部2では、撮像部1からの画像信号より、第1のフレームメモリ20、第2のフレームメモリ21およびフレーム平均化処理部22で、1V遅延信号とフラッシュ補正信号を生成し、セレクタ処理部23に出力する。セレクタ処理部23では、フラッシュ検出信号に従い、1V遅延信号のフレーム(2)およびフレーム(3)の出力画像をそれぞれフレーム(1)〜(3)の平均画像およびフレーム(2)〜(4)の平均画像に切換出力することで、横帯画像を補正する。   In the flash correction unit 2, a 1V delay signal and a flash correction signal are generated from the image signal from the imaging unit 1 by the first frame memory 20, the second frame memory 21, and the frame averaging processing unit 22, and selector processing is performed. To the unit 23. In the selector processing unit 23, in accordance with the flash detection signal, the output images of the frames (2) and (3) of the 1V delay signal are converted into the average images of the frames (1) to (3) and the frames (2) to (4), respectively. By switching to the average image, the horizontal band image is corrected.

ここで、横帯画像であるフレーム(2)およびフレーム(3)に替わって出力するフレーム(1)〜(3)の平均画像およびフレーム(2)〜(4)の平均画像について、詳しく説明する。   Here, the average image of the frames (1) to (3) and the average image of the frames (2) to (4) to be output in place of the frame (2) and the frame (3) which are horizontal band images will be described in detail. .

フレーム(2)および(3)の横帯現象は、360ラインの直前に発生した外部閃光が、ラインにより異なるフレームに影響を与えるために発生する。すなわち、360〜720ラインでは、フレーム(2)に、1〜359ラインでは、フレーム(3)に出力されている。しかしながら、フレーム(2)とフレーム(3)を合わせた光量は、ほぼ一致しているため、フレーム(2)およびフレーム(3)の画像信号を加算すると横帯現象はなくなる。   The horizontal band phenomenon of the frames (2) and (3) occurs because the external flash generated immediately before the 360 line affects different frames depending on the line. That is, 360 to 720 lines are output to frame (2), and 1 to 359 lines are output to frame (3). However, since the combined light amounts of the frame (2) and the frame (3) are substantially the same, the lateral band phenomenon disappears when the image signals of the frames (2) and (3) are added.

したがって、フレーム(1)〜(3)の平均画像は、フレーム(2)および(3)を加算しているため、横帯現象がない画像となる。同様に、フレーム(2)〜(4)の平均画像も、フレーム(2)および(3)を加算しているため、横帯現象がない画像となる。   Therefore, the average image of the frames (1) to (3) is an image having no horizontal band phenomenon because the frames (2) and (3) are added. Similarly, the average images of the frames (2) to (4) are also images having no horizontal band phenomenon because the frames (2) and (3) are added.

すなわち、フラッシュ補正部2の出力画像は、外部閃光による高輝度の横帯となる悪影響を抑制することができる。   In other words, the output image of the flash correction unit 2 can suppress the adverse effect of a high luminance horizontal band caused by external flash.

図5に、補正の効果を説明するための出力画像を模式的に示した模式図を示す。フレーム(2)および(3)の横帯が補正されている。   FIG. 5 is a schematic diagram schematically showing an output image for explaining the effect of correction. The horizontal bands of the frames (2) and (3) are corrected.

また、撮像装置100の特筆すべき特徴は、切換画像と元の画像の時間的な中心が等しいという点である。   A notable feature of the imaging apparatus 100 is that the temporal center of the switching image and the original image is equal.

すなわち、フレーム(1)〜(3)の平均画像は、時間的な中心がフレーム(2)であり、フレーム(2)〜(4)の平均画像は、時間的な中心がフレーム(3)である。   That is, the average image of frames (1) to (3) has a temporal center at frame (2), and the average image of frames (2) to (4) has a temporal center at frame (3). is there.

従って、それぞれ、フレーム(2)の横帯画像と、切換出力しているフレーム(1)〜(3)の平均画像の時間的な中心が等しく、またフレーム(3)の横帯画像と切換出力しているフレーム(2)〜(4)の平均画像の時間的な中心が等しい。   Accordingly, the horizontal center of the horizontal band image of the frame (2) and the average center of the average images of the frames (1) to (3) being switched are equal, and the horizontal band image of the frame (3) and the switching output are respectively. The temporal centers of the average images of the frames (2) to (4) are equal.

時間的な中心が等しい画像で切換出力をしている効果は、例えば、外部閃光が発生していないにも関わらず、フラッシュ検出部3が外部閃光の誤検出をした場合などに顕著に表れる。   The effect of performing switching output with images having the same temporal center appears remarkably, for example, when the flash detector 3 erroneously detects an external flash even though no external flash has occurred.

例えば、被写体が動いている画像を撮影している、または、カメラをパーン、チルトおよびズーム操作中である場合などにフラッシュ検出部3が外部閃光の誤検出をすると、従来の撮像装置では、フレーム(2)およびフレーム(3)の部分に時間的に異なるフレーム(1)の画像が出力されるため、動作が一瞬ピクつくようにみえ、違和感が発生してしまう。   For example, when the flash detection unit 3 erroneously detects an external flash when taking an image of a moving subject or when the camera is in panning, tilting, or zooming, a conventional imaging device uses a frame Since the image of the frame (1) that is temporally different is output in the portions (2) and (3), the operation seems to be jerky for a moment and a sense of incongruity occurs.

しかしながら、撮像装置100のフレーム(1)〜(3)の平均画像およびフレーム(2)〜(4)の平均画像で切換する場合は、時間的中心が等しいため、一瞬ピクつくようにみえる違和感を改善することができる。   However, when switching between the average image of the frames (1) to (3) and the average image of the frames (2) to (4) of the imaging apparatus 100, the temporal center is equal, so that the user feels a sense of discomfort that seems to be jerky for a moment. Can be improved.

以上のように、本実施形態における撮像装置100では、外部閃光による高輝度の横帯となる悪影響を抑制し、かつ、動画としての時間連続性を改善した画像を出力することで、特に外部閃光の誤検出が発生した場合における一瞬ピクつくような違和感を改善できる。   As described above, in the imaging apparatus 100 according to the present embodiment, an external flash is particularly effective by suppressing an adverse effect of a high luminance horizontal band caused by an external flash and outputting an image with improved time continuity as a moving image. It is possible to improve a sense of incongruity that causes a momentary flicker when an erroneous detection occurs.

なお、フラッシュ補正部2で平均化する奇数フレームを、上記説明においては、3フレームとして説明したが、奇数フレーム数であればよく、5フレームでもよい。   In the above description, the odd frames averaged by the flash correction unit 2 are described as three frames. However, the odd number of frames may be used, and five frames may be used.

なお、上記説明においては、フラッシュ検出部3は、画面下平均輝度レベルの変化より外部閃光の発生を検出する構成で説明したが、外部閃光の検出ができれば、どのような構成でもよく、光量センサなどを有した構成であってもよい。   In the above description, the flash detection unit 3 has been described as being configured to detect the occurrence of external flash based on a change in the average luminance level below the screen. However, any configuration may be used as long as external flash can be detected. The structure which has etc. may be sufficient.

(第2実施形態)
第2実施形態に係る撮像装置は、外部閃光が1フレームだけの場合と2フレーム以上連続で発生している場合とを区別し、外部閃光が1フレームだけの場合には、3フレーム平均信号を切換出力し、2フレーム以上連続で発生している場合は、5フレーム平均信号を切換出力する構成である。すなわち、単なる遅延信号、3フレーム平均信号、5フレーム平均信号の3種類で切換出力でき、第2のフラッシュ検出信号に従って3種類を切換出力する構成である。撮像装置の構成としては第1実施形態に係る撮像装置と同様で、フラッシュ補正部およびフラッシュ検出部の内部構成を変更する。
(Second Embodiment)
The imaging apparatus according to the second embodiment distinguishes between the case where the external flash is only one frame and the case where the external flash is continuously generated for two or more frames. In the case of switching output and when the signals are continuously generated for two frames or more, the five-frame average signal is switched and output. In other words, it is possible to switch and output only three types of delayed signal, three frame average signal, and five frame average signal, and to switch and output three types according to the second flash detection signal. The configuration of the imaging apparatus is the same as that of the imaging apparatus according to the first embodiment, and the internal configurations of the flash correction unit and the flash detection unit are changed.

<2.1:撮像装置の構成>
第2実施形態に係るフラッシュ補正部の具体的構成の一例を図6に示す。
<2.1: Configuration of imaging apparatus>
An example of a specific configuration of the flash correction unit according to the second embodiment is shown in FIG.

図6に示すように第2実施形態のフラッシュ補正部5は、第1のフレームメモリ20と、第2のフレームメモリ21と、第3のフレームメモリ52と、第4のフレームメモリ53と、第2のフレーム平均化処理部54と、第2のセレクタ処理部55と、を有し、単なる2V遅延信号と3フレーム平均信号(1V遅延信号、2V遅延信号および3V遅延信号の平均)と5フレーム平均信号(0V遅延信号、1V遅延信号、2V遅延信号、3V遅延信号、4V遅延信号の平均)との3種類を常に生成し、第2のフラッシュ検出信号により切換出力する構成である。   As shown in FIG. 6, the flash correction unit 5 of the second embodiment includes a first frame memory 20, a second frame memory 21, a third frame memory 52, a fourth frame memory 53, 2 frame averaging processing section 54 and second selector processing section 55, and a simple 2V delay signal and 3 frame average signal (average of 1V delay signal, 2V delay signal and 3V delay signal) and 5 frames Three types of average signals (average of 0V delay signal, 1V delay signal, 2V delay signal, 3V delay signal, 4V delay signal) are always generated and switched and output by the second flash detection signal.

第2実施形態に係るフラッシュ検出部の具体的構成の一例を図7に示す。   An example of a specific configuration of the flash detection unit according to the second embodiment is shown in FIG.

図7に示すように、第2実施形態に係るフラッシュ検出部6は、画面下平均輝度レベル算出部30と、平均輝度レベル変更判定部31と、フレーム長判定部60と、第2のフラッシュ検出信号生成部61と、を有する。   As shown in FIG. 7, the flash detection unit 6 according to the second embodiment includes a screen lower average luminance level calculation unit 30, an average luminance level change determination unit 31, a frame length determination unit 60, and a second flash detection. A signal generation unit 61.

画面下平均輝度レベル算出部30及び平均輝度レベル変更判定部31は、第1実施形態に係るフラッシュ検出部3と同じであるため、詳細な説明は省略する。   Since the screen lower average luminance level calculation unit 30 and the average luminance level change determination unit 31 are the same as the flash detection unit 3 according to the first embodiment, detailed description thereof is omitted.

フレーム長判定部60では、輝度レベル変更判定信号のフレーム長を判定し、外部閃光なし、1フレームの外部閃光、2フレーム以上連続の外部閃光の3種類に判定された第2の輝度レベル変更判定信号を出力する。   The frame length determination unit 60 determines the frame length of the luminance level change determination signal, and the second luminance level change determination determined as three types of no external flash, one external flash, and two or more continuous external flashes. Output a signal.

第2のフラッシュ検出信号生成部61では、外部閃光なしと、1フレームの外部閃光と、2フレーム以上連続の外部閃光と、を判定した第2の輝度レベル変更判定信号の立下り位置を1フレーム遅らせた信号を生成し、第2のフラッシュ検出信号として出力する。   In the second flash detection signal generation unit 61, the falling position of the second luminance level change determination signal that has determined that there is no external flash, one frame of external flash, and two or more consecutive external flashes is set to one frame. A delayed signal is generated and output as a second flash detection signal.

<2.2:撮像装置の動作>
以上のように構成された第2実施形態における撮像装置の動作について、特に第2のフラッシュ検出信号の生成時の撮像装置の動作について詳しく説明する。
<2.2: Operation of Imaging Device>
The operation of the image pickup apparatus according to the second embodiment configured as described above will be described in detail particularly about the operation of the image pickup apparatus when the second flash detection signal is generated.

図8(a)に外部閃光が1フレームだけの場合の第2のフラッシュ検出信号の生成過程を、図8(b)に外部閃光が2フレーム連続する場合の第2のフラッシュ検出信号の生成過程を説明する模式図を示す。   FIG. 8A shows the generation process of the second flash detection signal when the external flash is only one frame, and FIG. 8B shows the generation process of the second flash detection signal when the external flash is continuous for two frames. The schematic diagram explaining is shown.

フレーム(3)において外部閃光が1回だけ発生した場合の撮像装置の動作について、図8(a)を用いて説明する。   The operation of the imaging apparatus when an external flash is generated only once in the frame (3) will be described with reference to FIG.

フレーム(3)において外部閃光が1回だけ発生した場合、撮像部1は、横帯が発生しているフレーム(3)及び(4)を出力する。第1実施形態における撮像装置と同様に、撮像部1の出力における画面下部分の平均輝度レベルを算出し、輝度レベル変更判定信号を生成すると、フレーム(4)の1フレーム期間のみHの輝度レベル変更判定信号が得られる。   When the external flash occurs only once in the frame (3), the imaging unit 1 outputs the frames (3) and (4) in which the horizontal band is generated. Similar to the imaging device in the first embodiment, when the average luminance level of the lower part of the screen in the output of the imaging unit 1 is calculated and the luminance level change determination signal is generated, the luminance level of H is only in one frame period of the frame (4). A change determination signal is obtained.

フレーム長判定部60では、入力された輝度レベル変更判定信号を1フレーム期間遅延させ、遅延前と遅延後の輝度レベル変更判定信号から、Hの期間が2フレーム以上連続しているかどうかを判定し、第2の輝度レベル変更判定信号を出力する。   The frame length determination unit 60 delays the input luminance level change determination signal by one frame period, and determines whether or not the H period is continuous for two frames or more from the luminance level change determination signal before and after the delay. The second luminance level change determination signal is output.

すなわち、フレーム長判定部60は、入力された輝度レベル変更判定信号を、1フレーム期間遅延させ、Lの場合は、外部閃光なしを示す「0」を、Hの場合で1フレームだけの場合には1フレーム外部閃光を示す「1」を、2フレーム以上連続している場合には2フレーム以上の外部閃光を示す「2」を出力する制御を行い、第2の輝度レベル変更判定信号を出力する。図8(a)の場合には、Hの期間は、1フレームのみであるため、「1」が出力される。第2のフラッシュ検出信号生成部61では、第2の輝度レベル変更判定信号の立ち下がり位置を1フレーム遅らせた信号に整形し、第2のフラッシュ検出信号として出力する。第2実施形態のフラッシュ補正部5では、第2のフラッシュ検出信号による切換制御を行い、横帯が発生しているフレーム(3)および(4)が、それぞれ3フレーム平均画像で、切換出力される。   That is, the frame length determination unit 60 delays the input luminance level change determination signal by one frame period, and in the case of L, “0” indicating no external flash is displayed, and in the case of H, there is only one frame. Controls to output “1” indicating an external flash of one frame, and “2” indicating an external flash of two or more frames when two or more frames are continuous, and outputs a second luminance level change determination signal To do. In the case of FIG. 8A, since the period of H is only one frame, “1” is output. The second flash detection signal generation unit 61 shapes the falling position of the second luminance level change determination signal into a signal delayed by one frame and outputs it as a second flash detection signal. In the flash correction unit 5 of the second embodiment, switching control by the second flash detection signal is performed, and the frames (3) and (4) where the horizontal band is generated are switched and output as average images of three frames, respectively. The

同様に、フレーム(3)および(4)に2回連続して外部閃光が発生した場合の撮像装置の動作について、図8(b)を用いて説明する。   Similarly, the operation of the imaging apparatus when an external flash is generated twice consecutively in frames (3) and (4) will be described with reference to FIG.

フレーム(3)および(4)において2回連続して外部閃光が発生した場合、撮像部1は、横帯が発生しているフレーム(3)、フレーム(4)およびフレーム(5)を出力する。同様に、輝度レベル変更判定信号として、フレーム(4)および(5)でHとなる波形が得られる。   When the external flash occurs twice in frames (3) and (4), the imaging unit 1 outputs the frame (3), the frame (4), and the frame (5) in which the horizontal band is generated. . Similarly, a waveform that becomes H in frames (4) and (5) is obtained as the luminance level change determination signal.

フレーム長判定部60では、入力された輝度レベル変更判定信号を1フレーム期間遅延させ、遅延前と遅延後の輝度レベル変更判定信号から、Hの期間が2フレーム以上連続しているかどうかを判定し、第2の輝度レベル変更判定信号を出力する。   The frame length determination unit 60 delays the input luminance level change determination signal by one frame period, and determines whether or not the H period is continuous for two frames or more from the luminance level change determination signal before and after the delay. The second luminance level change determination signal is output.

すなわち、図8(b)の場合では、フレーム長判定部60は、入力された輝度レベル変更判定信号を、1フレーム期間遅延させ、Lの場合には、外部閃光なしを示す「0」を、Hの期間には、2フレーム以上の外部閃光を示す「2」を出力する。   That is, in the case of FIG. 8B, the frame length determination unit 60 delays the input luminance level change determination signal by one frame period, and in the case of L, “0” indicating no external flash is set. In the H period, “2” indicating an external flash of 2 frames or more is output.

第2のフラッシュ検出信号生成部61では、第2の輝度レベル変更判定信号の立ち下がり位置を1フレーム遅らせた信号に整形し、第2のフラッシュ検出信号として出力する。第2実施形態のフラッシュ補正部5では、第2のフラッシュ検出信号による切換制御を行い、横帯が発生しているフレーム(3)、(4)、および(5)を、それぞれ5フレーム平均画像に切換え、出力する。   The second flash detection signal generation unit 61 shapes the falling position of the second luminance level change determination signal into a signal delayed by one frame and outputs it as a second flash detection signal. In the flash correction unit 5 of the second embodiment, switching control is performed by the second flash detection signal, and the frames (3), (4), and (5) in which the horizontal band is generated are each averaged by 5 frames. To output.

2回連続して外部閃光が発生した場合のフレーム(3)、(4)および(5)の横帯現象は、フレーム(3)で発生した外部閃光がラインにより異なるフレームに影響し、フレーム(3)および(4)にまたがっており、さらに同様に、フレーム(4)で発生した外部閃光が、ラインにより異なるフレームに影響し、フレーム(4)および(5)にまたがっており、これらの重ね合わせにより発生している。したがって、フレーム(3)、(4)および(5)をすべて合わせた光量は、ほぼ一致しており、フレーム(3)、(4)および(5)の画像信号を加算すると横帯現象はなくなる。   The lateral band phenomenon of frames (3), (4), and (5) when external flashes are generated twice in succession causes the external flash generated in frame (3) to affect different frames depending on the line. 3) and (4), and similarly, the external flash generated in frame (4) affects different frames depending on the line, and extends over frames (4) and (5). It is caused by the combination. Therefore, the light amounts of all the frames (3), (4), and (5) are almost the same, and when the image signals of the frames (3), (4), and (5) are added, the lateral band phenomenon disappears. .

フレーム(3)、(4)および(5)と切換えて出力する5フレーム平均画像は、それぞれフレーム(1)〜(5)、(2)〜(6)、(3)〜(7)であるため、どの場合もフレーム(3)、(4)および(5)を含み、横帯現象がない画像である。さらに、それぞれの5フレーム平均画像の時間的な中心は、切換前のフレーム(3)、(4)および(5)と一致している。したがって、例えば、被写体が動いている画像を撮影している、または、カメラをパーン、チルトおよびズーム操作中である場合などにフラッシュ検出3が外部閃光の誤検出をした場合に顕著に発生していた一瞬ピクつくような違和感を改善することができる。   The five-frame average images output by switching to the frames (3), (4) and (5) are the frames (1) to (5), (2) to (6) and (3) to (7), respectively. Therefore, in any case, the image includes frames (3), (4), and (5) and has no horizontal band phenomenon. Further, the temporal center of each 5-frame average image coincides with the frames (3), (4) and (5) before switching. Therefore, for example, when the flash detection 3 erroneously detects an external flash, for example, when an image of a moving subject is being photographed, or when the camera is in a panning, tilting, or zooming operation, this phenomenon occurs remarkably. It is possible to improve the feeling of strangeness that can be felt for a moment.

第2実施形態に係る撮像装置100の特筆すべき特徴は、外部閃光が1フレームだけ発生した場合と、2回連続して発生した場合の両方にそれぞれもっとも適した補正画像で横帯現象を補正することができるという点である。すなわち、第1実施形態に係る撮像装置においても、平均するフレーム数を5フレームとすれば、2回連続で発生した外部閃光に対応できるが、1フレームだけ発生した場合にも、本来3フレーム平均画像で補正可能な画像を5フレーム平均画像で補正してしまい、補正画像の残像感が増す場合があるという課題がある。一方、第2実施形態に係る撮像装置100は、この課題を解決することができる。   A remarkable feature of the imaging apparatus 100 according to the second embodiment is that the lateral band phenomenon is corrected with a correction image that is most suitable for both the case where the external flash occurs only for one frame and the case where it occurs twice consecutively. Is that you can. That is, in the imaging apparatus according to the first embodiment, if the number of frames to be averaged is 5 frames, it is possible to deal with external flashes generated twice in succession. There is a problem that an image that can be corrected with an image is corrected with an average image of five frames, and the afterimage feeling of the corrected image may increase. On the other hand, the imaging device 100 according to the second embodiment can solve this problem.

以上のように、第2実施形態に係る撮像装置では、1フレームだけ発生する外部閃光および2回連続して発生する外部閃光による高輝度の横帯となる悪影響を最適に抑制し、かつ、動画としての時間連続性を改善した画像を出力することで、特に動きのある画像で外部閃光の誤検出が発生した場合に顕著になる一瞬ピクつくような違和感を改善できる。   As described above, the imaging apparatus according to the second embodiment optimally suppresses the adverse effect of a high-intensity horizontal band caused by an external flash that occurs only for one frame and an external flash that occurs twice consecutively, and a moving image. By outputting an image with improved time continuity as described above, it is possible to improve a sense of discomfort such as a momentary tingling that becomes noticeable particularly when an external flash is erroneously detected in a moving image.

なお、上記説明においては、フラッシュ検出部6は、画面下平均輝度レベルの変化より外部閃光の発生を検出する構成で説明したが、1フレームだけ発生する外部閃光と2回以上連続で発生する外部閃光の検出ができれば、どのような構成でもよく、光量センサなどを有した構成でもよい。   In the above description, the flash detection unit 6 has been described as being configured to detect the occurrence of an external flash based on a change in the average luminance level below the screen, but an external flash that occurs only one frame and an external flash that occurs continuously twice or more. Any configuration may be used as long as the flash can be detected, and a configuration having a light amount sensor or the like may be used.

本発明にかかる撮像装置は、外部閃光による高輝度の横帯を除外し、かつ動画として連続性を確保した画像を出力することが可能になるため、連続画像を撮像するデジタルカメラやビデオカメラなどに適用することができ、有用である。   The imaging apparatus according to the present invention can output a continuous image as a moving image, excluding a high-brightness horizontal band caused by an external flash, and thus a digital camera, a video camera, or the like that captures a continuous image Can be applied to and useful.

1、950 撮像部
2、5 フラッシュ補正部
3、6 フラッシュ検出部
4 信号処理部
20 第1のフレームメモリ
21 第2のフレームメモリ
22 フレーム平均化処理部
23 セレクタ処理部
30 画面下平均輝度レベル算出部
31 平均輝度レベル変更判定部
32 フラッシュ検出信号生成部
52 第3のフレームメモリ
53 第4のフレームメモリ
54 第2のフレーム平均化処理部
55 第2のセレクタ処理部
60 フレーム長判定部
61 第2のフラッシュ検出信号生成部
100、900 撮像装置
951 画像処理部
952 閃光検出部
953 出力制御部
954 メモリ回路
955 切換回路
DESCRIPTION OF SYMBOLS 1,950 Image pick-up part 2, 5 Flash correction | amendment part 3, 6 Flash detection part 4 Signal processing part 20 1st frame memory 21 2nd frame memory 22 Frame averaging process part 23 Selector process part 30 Bottom average brightness level calculation Unit 31 average luminance level change determination unit 32 flash detection signal generation unit 52 third frame memory 53 fourth frame memory 54 second frame averaging processing unit 55 second selector processing unit 60 frame length determination unit 61 second Flash detection signal generation unit 100, 900 imaging device 951 image processing unit 952 flash detection unit 953 output control unit 954 memory circuit 955 switching circuit

Claims (3)

被写体像を撮像し映像信号をフレーム単位で出力可能な撮像部と、
外部閃光を検出するフラッシュ検出部と、
前記撮像部が出力する1フレームの映像信号と、当該映像信号の前後同数の少なくとも1フレームの映像信号とを加算するフレーム平均化部と、
前記フラッシュ検出部により外部閃光を検出した際に、前記撮像部が出力する映像信号と、前記フレーム平均化部が出力する映像信号とを、切り換えて出力する選択部と、
を備える撮像装置。
An imaging unit capable of capturing a subject image and outputting a video signal in units of frames;
A flash detector for detecting external flashes;
A frame averaging unit that adds one frame of video signal output by the imaging unit and at least one frame of video signal of the same number before and after the video signal;
A selection unit that switches between a video signal output by the imaging unit and a video signal output by the frame averaging unit when an external flash is detected by the flash detection unit;
An imaging apparatus comprising:
前記フレーム平均化部は、
前記フラッシュ検出部が検出する外部閃光が継続する期間に応じて、加算する前後同数のフレームの数を変更する
請求項1に記載の撮像装置。
The frame averaging unit includes:
The imaging device according to claim 1, wherein the number of the same number of frames before and after the addition is changed according to a period in which the external flash detected by the flash detection unit continues.
前記フレーム平均化部は、
前記フラッシュ検出部が検出する外部閃光が、1フレームに相当する期間である場合には、前後それぞれ1フレームの映像信号を加算し、
2フレーム以上に相当する期間である場合には、前後それぞれ2フレームの映像信号を加算する
請求項2に記載の撮像装置。
The frame averaging unit includes:
When the external flash detected by the flash detection unit is a period corresponding to one frame, the video signal of one frame is added before and after,
The imaging apparatus according to claim 2, wherein in a period corresponding to two or more frames, video signals of two frames are added to the front and rear, respectively.
JP2009213938A 2009-09-16 2009-09-16 Imaging device Active JP5381541B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009213938A JP5381541B2 (en) 2009-09-16 2009-09-16 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009213938A JP5381541B2 (en) 2009-09-16 2009-09-16 Imaging device

Publications (2)

Publication Number Publication Date
JP2011066567A JP2011066567A (en) 2011-03-31
JP5381541B2 true JP5381541B2 (en) 2014-01-08

Family

ID=43952359

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009213938A Active JP5381541B2 (en) 2009-09-16 2009-09-16 Imaging device

Country Status (1)

Country Link
JP (1) JP5381541B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6156686B2 (en) * 2013-02-20 2017-07-05 パナソニックIpマネジメント株式会社 Image processing device
JP2016171519A (en) * 2015-03-13 2016-09-23 日本電気株式会社 Video processing apparatus, video output system, video processing method and video processing program
JP6789682B2 (en) 2016-06-13 2020-11-25 キヤノン株式会社 Imaging device, its control method, and program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06205374A (en) * 1992-03-31 1994-07-22 Toshiba Corp Picture interpolation circuit
JP4760518B2 (en) * 2006-05-10 2011-08-31 ソニー株式会社 Imaging apparatus, imaging method, program, and image processing apparatus

Also Published As

Publication number Publication date
JP2011066567A (en) 2011-03-31

Similar Documents

Publication Publication Date Title
JP4840578B2 (en) Flicker detection method and apparatus for imaging apparatus
WO2010044227A1 (en) Imaging device
JP5167405B2 (en) Imaging device for correcting the effect of flash
JP2007006021A (en) Imaging apparatus and image processing program
WO2016129405A1 (en) Image processing device, image processing method, and program
JP2011234318A (en) Imaging device
JP5520704B2 (en) Imaging apparatus, flash determination method, and program
JP2010136224A (en) Imaging apparatus and imaging method
CN101521785A (en) Video signal processing apparatus and method
US20090002513A1 (en) Imaging apparatus, imaging method and integrated circuit
US8248520B2 (en) Imaging apparatus and imaging method
JP5381541B2 (en) Imaging device
JP5617445B2 (en) Imaging apparatus, signal processing method, and program
JP5320245B2 (en) Imaging apparatus, imaging method, program, and integrated circuit
JP2007134805A (en) Electronic imaging apparatus
US9137427B2 (en) Imaging apparatus and image display method therefor
JP5440245B2 (en) Imaging device
JP5402223B2 (en) Imaging device
JP2008085954A (en) Imaging apparatus, imaging method and integrated circuit
JP4693602B2 (en) Imaging apparatus and image signal processing method
JP2007189639A (en) Digital camera
JP2013251877A (en) Imaging apparatus
JP3989112B2 (en) White scratch signal level suppression device for solid-state imaging device
WO2016113995A1 (en) Image capturing and processing device, and image capturing and processing method
JP7008513B2 (en) Imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120518

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20121217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130611

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130903

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130916

R151 Written notification of patent or utility model registration

Ref document number: 5381541

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151