JP2011101208A - Imaging apparatus - Google Patents

Imaging apparatus Download PDF

Info

Publication number
JP2011101208A
JP2011101208A JP2009254659A JP2009254659A JP2011101208A JP 2011101208 A JP2011101208 A JP 2011101208A JP 2009254659 A JP2009254659 A JP 2009254659A JP 2009254659 A JP2009254659 A JP 2009254659A JP 2011101208 A JP2011101208 A JP 2011101208A
Authority
JP
Japan
Prior art keywords
line
video signal
line position
frame
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009254659A
Other languages
Japanese (ja)
Inventor
Naoyuki Inoue
直幸 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2009254659A priority Critical patent/JP2011101208A/en
Publication of JP2011101208A publication Critical patent/JP2011101208A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To solve the following problem: a white band-shaped interference can not be properly corrected, the interference occurring in an imaging apparatus using a CMOS (Complementary Metal Oxide Semiconductor) imaging device under a flash of external light such as a flashing device. <P>SOLUTION: The imaging apparatus is equipped with: an imaging part 1 for imaging an object and outputting a video signal; a detecting part 5 which, for a video signal of one frame output by the imaging part 1, detects a video signal having a line position at which difference in line evaluation values of adjacent lines exceeds a predetermined value; a correction gain calculating part 8 which, for a video signal of one frame detected by the detecting part 5, calculates a correction gain amount by using average luminance levels before and after the line position and average luminance levels before and after a line position corresponding to the line position of a video signal one frame before the video signal of one frame detected by the detecting part; and a video signal correcting part 9 for correcting a video signal up to a line ahead of the line position of the video signal of one frame detected by the detecting part 5 or a video signal after the line position by using the calculated correction gain amount. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、ビデオカメラ等の撮像装置であって、スチルカメラ等のフラッシュによって、動画の撮影時に発生する白帯状の妨害を緩和できる撮像装置に関する。   The present invention relates to an imaging apparatus such as a video camera, which can alleviate white belt-like interference that occurs when shooting a moving image by using a flash such as a still camera.

近年、小型、低消費電力、高速撮像等の特徴をもつCMOS(Complementary Metal Oxide Semiconductor)撮像素子を用いた撮像装置が、民生用ビデオカメラ及び業務用ビデオカメラの分野で躍進してきている。   2. Description of the Related Art In recent years, imaging apparatuses using CMOS (Complementary Metal Oxide Semiconductor) imaging elements having features such as small size, low power consumption, and high-speed imaging have made great progress in the fields of consumer video cameras and commercial video cameras.

CMOS撮像素子は、CCD(Charge Coupled Device)に比べて種々の特徴をもつ。CMOS撮像素子は、フォトダイオード(Photo Diode:以降PDと記載)の電荷読み出しがCCDのように全画素で同一タイミング(所謂グローバルシャッター)でなく、ライン(画素)単位で読み出しタイミングがずれていく(所謂ローリングシャッター)為、CCDにない弊害も発生する。それは読み出しタイミングがずれる為、各画素の蓄積期間のタイミングがずれることに起因する。   A CMOS image sensor has various features compared to a CCD (Charge Coupled Device). In a CMOS image sensor, the readout timing of a photodiode (Photo Diode: hereinafter referred to as PD) is not the same timing (so-called global shutter) in all pixels as in a CCD, but the readout timing is shifted in units of lines (pixels) ( Because of the so-called rolling shutter, a problem that does not exist in the CCD also occurs. This is because the readout timing is shifted and the timing of the accumulation period of each pixel is shifted.

その問題の一つに、スチルカメラ等のフラッシュ光が焚かれている被写体をCMOS撮像素子のビデオカメラで撮像すると、白帯状の妨害が発生するという現象が挙げられる。白帯状の妨害とは、ここでは撮像した画像のあるフレームの一部だけがフラッシュ光の影響を受け、途中のラインから上、または下だけが明るくなる現象を指す。   One of the problems is a phenomenon that white band-like interference occurs when an image of a subject in which flash light is blown, such as a still camera, is captured by a video camera of a CMOS image sensor. Here, white-band interference refers to a phenomenon in which only a part of a frame of a captured image is affected by flash light, and only the upper or lower part of the line is brightened.

以下その現象について、図15および図16を用いて説明する。   Hereinafter, this phenomenon will be described with reference to FIGS.

図15は、ビデオカメラとスチルカメラが混在する撮影風景、例えば記者会見等の撮影風景を示す図である。   FIG. 15 is a diagram showing a shooting scene where a video camera and a still camera are mixed, for example, a shooting scene such as a press conference.

図15は、ビデオカメラ100と、その撮像信号を映すモニター101、スチルカメラ102、103、および被写体104より構成される撮影風景を示している。ビデオカメラ100はCMOS撮像素子を用いている。   FIG. 15 shows a shooting scene composed of a video camera 100, a monitor 101 that displays an image pickup signal thereof, still cameras 102 and 103, and a subject 104. The video camera 100 uses a CMOS image sensor.

このような撮影風景においてスチルカメラ102、103でフラッシュが焚かれると、ビデオカメラ100の撮像信号を映すモニター101の画面に白帯状の妨害が発生する。以下、その原理を説明する。   When the still camera 102 or 103 is used in such a shooting scene, a white belt-like interference occurs on the screen of the monitor 101 that displays the image signal of the video camera 100. The principle will be described below.

図16は、ビデオカメラ100の蓄積期間(露光期間)と、読み出し走査期間を模式化した図である。図16において、画面を構成する各走査ラインの電荷蓄積期間およびその電荷を読み出すための走査期間を、時間軸を横軸に取って表している。走査ラインの総数は、HDカメラを想定して1125ラインとする。また、モニター画面0期間とは、フレーム0の撮像信号をモニター画面等に出力する期間であり、ここでは1/60秒とする。モニター画面1期間等も同様である。   FIG. 16 is a diagram schematically showing the accumulation period (exposure period) and readout scanning period of the video camera 100. In FIG. 16, the charge accumulation period of each scanning line constituting the screen and the scanning period for reading out the charge are shown with the time axis as the horizontal axis. The total number of scanning lines is 1125 lines assuming an HD camera. The monitor screen 0 period is a period in which the imaging signal of frame 0 is output to the monitor screen or the like, and is 1/60 seconds here. The same applies to the monitor screen 1 period and the like.

例えば画面の一番上のラインであるライン1は、ちょうどモニター画面0期間の開始タイミングと共にフレーム1のPD蓄積を開始し、1フレーム期間、すなわちモニター画面0期間の終了タイミングと共にPD蓄積を終了する。蓄積されたライン1のPD信号はこの直後に読み出しの走査が開始され、これと同時に次のフレーム2のPD蓄積が開始される。PD信号の読み出し走査の期間は、1フレーム期間(1/60秒)に1125本のラインを走査することから、1/60/1125≒1.48×10-5秒となる。 For example, the line 1 which is the top line of the screen starts the PD accumulation of the frame 1 just at the start timing of the monitor screen 0 period, and ends the PD accumulation at the 1 frame period, that is, the end timing of the monitor screen 0 period. . The readout scan of the accumulated PD signal of line 1 is started immediately after this, and at the same time, the PD accumulation of the next frame 2 is started. The PD signal readout scanning period is 1/60 / 1125≈1.48 × 10 −5 seconds because 1125 lines are scanned in one frame period (1/60 seconds).

次にライン2は、ライン1のフレーム0に対するPD読み出し走査の期間終了タイミングにあわせてPD蓄積を開始する。すなわち、ライン2はライン1に対してPD読み出し走査期間分遅れてPD蓄積および読み出しの動作を行うことになる。ライン3以降も同様となる。   Next, line 2 starts PD accumulation in synchronization with the PD read scan period end timing for frame 0 of line 1. That is, the line 2 performs the PD accumulation and readout operation with a delay from the line 1 by the PD readout scanning period. The same applies to the line 3 and subsequent lines.

このようにローリングシャッター方式においては、1フレームを構成する各ラインの蓄積期間が図16に示すように上から下へと少しずつずれている。これに伴い、各ラインの走査期間、すなわちPD信号の読み出しタイミングも図16のように各ラインの蓄積期間の直後となり、ライン1のPD信号を読み出したら次にライン2のPD信号を読み出すというように、順次行われる。   Thus, in the rolling shutter system, the accumulation period of each line constituting one frame is slightly shifted from the top to the bottom as shown in FIG. Accordingly, the scanning period of each line, that is, the PD signal readout timing is immediately after the accumulation period of each line as shown in FIG. 16, and when the PD signal of line 1 is read out, the PD signal of line 2 is read out next. It is performed sequentially.

ここで図16に示すように、モニター画面1期間の中央付近でフラッシュが焚かれると、フレーム1後半のラインの蓄積期間とフレーム2前半のラインの蓄積期間にフラッシュの明るい光が影響する。モニター画面1の期間に光ったフラッシュは図16に示す様に、ラインXおよびラインYでフレーム1とフレーム2の蓄積、読み出しタイミングを跨ぐ。つまりフレーム1ではラインXより前のラインa1の部分はフラッシュ光の影響は受けない(蓄積期間はすでに終わっている)。ラインXとラインYの間の期間のラインa2部分は、フレーム1ではフラッシュ光の影響を受け、徐々に蓄積光量が増える。そしてラインY以降のラインa3の部分ではフラッシュ光の全光量の影響を受ける。フレーム2では逆に、ラインXより前のラインb1の部分では、フラッシュ光の全光量の影響を受け、ラインXとラインYの間の期間のラインb2の部分は徐々にフラッシュ光の影響が小さくなる。そして、ラインY以降のラインb3の部分ではまだ蓄積期間が始まっていないので、フラッシュ光の影響は受けない。   Here, as shown in FIG. 16, when the flash is fired near the center of the monitor screen 1 period, bright light of the flash affects the accumulation period of the second half of the frame 1 and the accumulation period of the first half of the frame 2. As shown in FIG. 16, the flash lit during the period of the monitor screen 1 straddles the accumulation and readout timings of the frames 1 and 2 on the line X and the line Y. That is, in the frame 1, the portion of the line a1 before the line X is not affected by the flash light (the accumulation period has already ended). The line a2 portion in the period between the line X and the line Y is affected by the flash light in the frame 1, and the accumulated light quantity gradually increases. The portion of line a3 after line Y is affected by the total amount of flash light. On the contrary, in the frame 2, the portion of the line b 1 before the line X is affected by the total amount of flash light, and the portion of the line b 2 in the period between the lines X and Y is gradually less affected by the flash light. Become. Then, since the accumulation period has not yet started in the portion of the line b3 after the line Y, it is not affected by the flash light.

故に、フラッシュ光の発光期間が一瞬であり、a2、b2部分のトランジェント期間が存在しないものとするとモニター画面は、概略として図16の下部に示すようにモニター画面1(フレーム1の撮像信号)の下半分が明るく、そしてモニター画面2(フレーム2の撮像信号)の上半分が明るくなり、これが白帯状の妨害として映し出される。CCDによる撮像装置の場合は、CMOSとは異なり1フレームを構成する全ラインの蓄積タイミングが同じであるためにこのような問題は発生せず、フラッシュ発光時には常に全体が明るくなった自然な画像が映し出されていた。以上のように、CMOS撮像装置では、フラッシュ光等の外部の閃光が入ると、撮像信号に白帯状の妨害が発生するという課題があった。   Therefore, assuming that the flash light emission period is momentary and there is no transient period of the a2 and b2 portions, the monitor screen generally shows the monitor screen 1 (imaging signal of frame 1) as shown in the lower part of FIG. The lower half is bright, and the upper half of the monitor screen 2 (imaging signal of frame 2) is bright, and this is displayed as white-band interference. In the case of an imaging device using a CCD, unlike the CMOS, since the accumulation timing of all the lines constituting one frame is the same, such a problem does not occur. It was projected. As described above, the CMOS imaging device has a problem in that when an external flash light such as a flash light enters, a white belt-like interference occurs in the imaging signal.

この課題を解決する従来の撮像装置として、特許文献1に記載された撮像装置がある。   As a conventional imaging device that solves this problem, there is an imaging device described in Patent Document 1.

図17は、従来の撮像装置の構成例を示すブロック図である。この撮像装置は所謂静止画像を主に記録するデジタルスチルカメラである。図17において、撮像装置は、撮像部113、画像処理部114、記録表示処理部116、バッファ117、評価部120、記憶部121および制御部123を備えている。   FIG. 17 is a block diagram illustrating a configuration example of a conventional imaging device. This imaging apparatus is a digital still camera that mainly records so-called still images. 17, the imaging apparatus includes an imaging unit 113, an image processing unit 114, a recording / display processing unit 116, a buffer 117, an evaluation unit 120, a storage unit 121, and a control unit 123.

従来の撮像装置ではこのような構成により、例えば、ユーザの操作に応じて撮像部113により静止画像または動画像が撮像された場合において、撮像された画像は画像処理部114にて所定の画像処理が施された後、記録表示処理部116および評価部120に供給される。記録表示処理部116ではこの画像をバッファ117にバッファリングし、評価部120では検波回路によりこの画像に対する評価値を生成して制御部123に供給し、制御部123はこの評価値を記憶部121に一時的に記憶させる。制御部123の演算回路ではこの評価値と記憶部121に既に記憶されていた評価値、即ち、1フレーム前の画像から生成された評価値との差分値を算出する。そしてこの差分値が予め設定されている基準値以上であれば、外部閃光による悪影響を受けた画像と判断し、基準値未満であれば外部閃光による影響がない画像と判断する。その結果に応じて制御部123は、撮像装置の各部を制御し、外部の閃光による悪影響を受けた画像と判断したらその画像を排除し、外部の閃光による悪影響を受けていない画像であればその画像を出力させることにより、外部の閃光による白帯状の妨害の課題を解決している。   In the conventional imaging apparatus, with such a configuration, for example, when a still image or a moving image is captured by the imaging unit 113 in accordance with a user operation, the captured image is processed by the image processing unit 114 with predetermined image processing. Is applied to the record display processing unit 116 and the evaluation unit 120. The recording display processing unit 116 buffers this image in the buffer 117, and the evaluation unit 120 generates an evaluation value for this image by the detection circuit and supplies it to the control unit 123, and the control unit 123 stores the evaluation value in the storage unit 121. Memorize temporarily. The arithmetic circuit of the control unit 123 calculates a difference value between the evaluation value and the evaluation value already stored in the storage unit 121, that is, the evaluation value generated from the image one frame before. If the difference value is greater than or equal to a preset reference value, it is determined that the image has been adversely affected by the external flash, and if the difference value is less than the reference value, it is determined that the image is not affected by the external flash. In response to the result, the control unit 123 controls each unit of the imaging device, and if it is determined that the image has been adversely affected by the external flash, the image is excluded. By outputting an image, the problem of white band interference caused by an external flash is solved.

特開2007−306225号公報JP 2007-306225 A

上記従来の撮像装置では、撮像された画像が外部閃光による悪影響をうけていると判断した場合に、その画像を過去に撮像された外部閃光の影響を受けていない画像で置換し、外部閃光による白帯状の妨害を含むフレーム自体を排除することにより補正を実現している。   In the conventional imaging device, when it is determined that the captured image is adversely affected by the external flash, the image is replaced with an image that has not been affected by the external flash captured in the past, and the external flash is used. The correction is realized by eliminating the frame itself including white belt-like interference.

しかしながらこの方法では、少なくとも2フレーム以上に亘って、過去のフレームをフリーズした状態となり、特に動画を撮影している場合などには一瞬動きが止まるような、違和感のある映像となる。   However, with this method, the past frame is frozen for at least two frames, and when the moving image is shot, the video is uncomfortable and stops moving for a moment.

また、外部閃光の影響のある画像を全て排除するため、外部閃光が発光された場面を撮像したにもかかわらず、出力される映像に本来存在するべきである、明るくなった画像が含まれていないことになり、不自然な映像となる。   In addition, in order to eliminate all images affected by external flash, it contains a brightened image that should be present in the output video even though the scene where the external flash was emitted was captured. It will be unnatural and the image will be unnatural.

本発明は上記従来の問題点を解決するもので、任意のタイミングで発光される外部閃光による撮像信号への影響を、元画像に含まれる情報を残しつつ、違和感なく補正することが可能な撮像装置を提供することを目的とする。   The present invention solves the above-described conventional problems, and can capture the influence of an external flash emitted at an arbitrary timing on an imaging signal without leaving a sense of incongruity while leaving information included in the original image. An object is to provide an apparatus.

上記問題点を解決するために本発明の撮像装置は、被写体像を撮像し映像信号を出力する撮像部と、前記撮像部が出力する1フレームの映像信号について、隣接ラインのライン評価値の差が所定の値を超えるライン位置を有する映像信号を検出する検出部と、前記検出部で検出した1フレームの映像信号について、少なくとも前記ライン位置より前のラインまでの平均輝度レベル、前記ライン位置以降の平均輝度レベル、当該映像信号の1フレーム前の映像信号における前記ライン位置に対応するライン位置より前のラインまでの平均輝度レベル、及び当該映像信号の1フレーム前の映像信号における前記ライン位置に対応するライン位置以降の平均輝度レベルのいずれかを用いて、補正ゲイン量を算出する補正ゲイン算出部と、前記補正ゲイン量を用いて、前記検出部で検出した1フレームの映像信号における前記ライン位置より前のラインまでの映像信号、又は前記ライン位置以降の映像信号を補正する映像信号補正部と、を備える。   In order to solve the above problems, an imaging apparatus according to the present invention provides a difference in line evaluation values of adjacent lines between an imaging unit that captures a subject image and outputs a video signal, and a one-frame video signal output by the imaging unit. A detection unit that detects a video signal having a line position exceeding a predetermined value, and at least an average luminance level up to a line before the line position for the one-frame video signal detected by the detection unit, after the line position The average luminance level of the video signal, the average luminance level up to the line before the line position corresponding to the line position in the video signal one frame before the video signal, and the line position in the video signal one frame before the video signal. A correction gain calculation unit that calculates a correction gain amount using any one of the average luminance levels after the corresponding line position, and the correction gain. Using down amount, and a video signal correction unit that corrects the video signal of the video signal from the line position to the front of the line, or after the line position in the video signal of one frame detected by the detection unit.

上記の構成によって、任意のタイミングで発光される外部閃光に対して、外部閃光の影響を受ける前後の輝度レベルの平均値の比から補正ゲイン量を算出して、該ゲイン係数を用いて外部閃光の影響を補正することにより、映像をフリーズさせないため、元画像に含まれる情報が欠落することなく、本来あるべき外部閃光により明るくなった画像も含んだ自然な映像を取得できるという効果が得られる。   With the above configuration, the correction gain amount is calculated from the ratio of the average brightness level before and after being affected by the external flash with respect to the external flash emitted at an arbitrary timing, and the external flash is calculated using the gain coefficient. By correcting the influence of the image, the video is not frozen, so that the natural image including the image brightened by the external flash should be acquired without missing the information included in the original image. .

実施の形態1における撮像装置の概略構成を示す図FIG. 3 is a diagram illustrating a schematic configuration of an imaging device according to Embodiment 1. 実施の形態1および2における撮像装置のライン判定部の概略構成を示す図FIG. 3 is a diagram illustrating a schematic configuration of a line determination unit of the imaging device according to Embodiments 1 and 2. 実施の形態1および3における撮像装置のブロック加算平均算出部の概略構成を示す図FIG. 4 is a diagram illustrating a schematic configuration of a block addition average calculation unit of the imaging apparatus according to Embodiments 1 and 3; 実施の形態1から4における撮像装置の動作を示すフローチャートFlowchart showing the operation of the imaging apparatus in the first to fourth embodiments 実施の形態1および2における撮像装置のゲイン調整部の動作を説明する図FIG. 6 is a diagram for explaining the operation of the gain adjustment unit of the imaging device according to the first and second embodiments. CMOS撮像素子を用いた撮像装置における外部閃光による撮像信号への影響を説明する図The figure explaining the influence on the image pick-up signal by the external flash in the image pick-up device using a CMOS image sensor 実施の形態2における撮像装置の概略構成を示す図FIG. 6 is a diagram illustrating a schematic configuration of an imaging device according to Embodiment 2. 実施の形態2における撮像装置のブロック加算平均算出部の概略構成を示す図FIG. 10 is a diagram illustrating a schematic configuration of a block addition average calculation unit of an imaging apparatus according to Embodiment 2. 実施の形態3における撮像装置の概略構成を示す図FIG. 6 is a diagram illustrating a schematic configuration of an imaging device according to Embodiment 3. 実施の形態3および4における撮像装置のライン判定部の概略構成を示す図FIG. 5 is a diagram illustrating a schematic configuration of a line determination unit of an imaging apparatus according to Embodiments 3 and 4 実施の形態3および4における撮像装置のゲイン調整部の動作を説明する図FIG. 6 is a diagram for explaining the operation of the gain adjustment unit of the imaging apparatus according to Embodiments 3 and 4; 実施の形態4における撮像装置の概略構成を示す図FIG. 6 is a diagram illustrating a schematic configuration of an imaging device according to Embodiment 4. 実施の形態4における撮像装置のブロック加算平均算出部の概略構成を示す図FIG. 10 is a diagram illustrating a schematic configuration of a block addition average calculation unit of an imaging apparatus according to Embodiment 4. CMOS撮像素子を用いた撮像装置における外部閃光による撮像信号への影響を説明する図The figure explaining the influence on the image pick-up signal by the external flash in the image pick-up device using a CMOS image sensor 外部閃光により撮像信号に妨害が発生し得る撮影シーンを説明する図The figure explaining the photography scene which can interfere with an image pick-up signal by an external flash CMOS撮像素子を用いた撮像装置における外部閃光による白帯状の妨害発生原理を説明する図The figure explaining the principle of white-band interference caused by an external flash in an imaging device using a CMOS image sensor 従来の撮像装置の概略構成を示す図The figure which shows schematic structure of the conventional imaging device

以下、実施の形態について、図1から図14を用いて説明する。   Hereinafter, embodiments will be described with reference to FIGS.

(実施の形態1)
(1−1.撮像装置の構成)
図1は、実施の形態1における撮像装置の概略構成を示す図である。
(Embodiment 1)
(1-1. Configuration of Imaging Device)
FIG. 1 is a diagram illustrating a schematic configuration of the imaging apparatus according to the first embodiment.

図1に示す撮像装置は、撮像部1と、フレームメモリ2と、第1のライン加算平均算出部3と、第2のライン加算平均算出部4と、第1のライン判定部5と、第1のブロック加算平均算出部6と、第2のブロック加算平均算出部7と、第1のゲイン算出部8と、第1のゲイン調整部9とを有する。   The imaging apparatus shown in FIG. 1 includes an imaging unit 1, a frame memory 2, a first line addition average calculation unit 3, a second line addition average calculation unit 4, a first line determination unit 5, and a first line determination unit 5. 1 block addition average calculation unit 6, second block addition average calculation unit 7, first gain calculation unit 8, and first gain adjustment unit 9.

撮像部1は、図示しない撮像素子、CDS(Correlated Double Sampling)回路、A/D(Analog/Digital)回路、シグナルジェネレータ(SG)およびタイミングジェネレータ(TG)を備え、被写体を撮像し、その結果得られる画像を出力する。   The imaging unit 1 includes an imaging element (not shown), a correlated double sampling (CDS) circuit, an A / D (Analog / Digital) circuit, a signal generator (SG), and a timing generator (TG), and captures an image of the subject. Output the image.

撮像素子は、例えばCMOSセンサやCCD等で構成され、入射する被写体からの光を受光して光電変換することにより、電気信号としての画像信号を出力する。撮像素子は、受光した光の量に応じて電荷を蓄積する複数の画素が、格子状の配置で平面状に敷き詰められて構成されており、タイミングジェネレータから供給される水平駆動信号と垂直駆動信号にしたがって、所定の露光時間だけ光を受光する。撮像素子の各画素には受光した光の量に応じた電荷が蓄積され、撮像素子は、その電荷をアナログの画像信号としてCDS回路に供給する。   The image sensor is composed of, for example, a CMOS sensor or a CCD, and outputs an image signal as an electric signal by receiving light from an incident subject and performing photoelectric conversion. The imaging device is composed of a plurality of pixels that accumulate charges according to the amount of received light, which are laid out in a flat pattern in a grid-like arrangement, and a horizontal drive signal and a vertical drive signal supplied from a timing generator Accordingly, light is received for a predetermined exposure time. A charge corresponding to the amount of received light is accumulated in each pixel of the image sensor, and the image sensor supplies the charge as an analog image signal to the CDS circuit.

CDS回路は、撮像素子から供給されたアナログの画像信号のノイズ成分を、相関2重サンプリングを施すことによって除去する。CDS回路は、ノイズ成分を除去した画像信号をA/D回路に供給する。   The CDS circuit removes the noise component of the analog image signal supplied from the image sensor by performing correlated double sampling. The CDS circuit supplies the image signal from which the noise component has been removed to the A / D circuit.

A/D回路は、CDS回路からのアナログの画像信号をA/D変換し、その結果得られるデジタルの画像データを第1の撮像信号として出力する。シグナルジェネレータは、制御部(図示せず)の制御に基づいて、水平同期信号と垂直同期信号をそれぞれ発生し、タイミングジェネレータに出力する。タイミングジェネレータは、シグナルジェネレータから供給された水平同期信号と垂直同期信号に基づいて、撮像素子を駆動させるための水平駆動信号と垂直駆動信号をそれぞれ発生し、撮像素子に供給する。   The A / D circuit performs A / D conversion on the analog image signal from the CDS circuit, and outputs the resulting digital image data as the first imaging signal. The signal generator generates a horizontal synchronization signal and a vertical synchronization signal based on control of a control unit (not shown), and outputs them to the timing generator. The timing generator generates a horizontal drive signal and a vertical drive signal for driving the image pickup device based on the horizontal synchronization signal and the vertical synchronization signal supplied from the signal generator, and supplies them to the image pickup device.

フレームメモリ2は、撮像部1が出力する第1の撮像信号を1フレーム遅延させて、第2の撮像信号として出力する。   The frame memory 2 delays the first imaging signal output from the imaging unit 1 by one frame and outputs it as a second imaging signal.

第1のライン加算平均算出部3は各フレームにおいて第1の撮像信号のライン毎に輝度レベルの加算平均値を算出し、第1のライン評価値L1x(xはライン位置)を算出する。   The first line addition average calculation unit 3 calculates the addition average value of the luminance levels for each line of the first imaging signal in each frame, and calculates a first line evaluation value L1x (x is a line position).

同様に第2のライン加算平均算出部4は各フレームにおいて第2の撮像信号のライン毎に輝度レベルの加算平均値を算出し、第2のライン評価値L2x(xはライン位置)を算出する。   Similarly, the second line addition average calculation unit 4 calculates the addition average value of the luminance levels for each line of the second imaging signal in each frame, and calculates the second line evaluation value L2x (x is the line position). .

第1のライン判定部5は第1のライン評価値を入力とし、外部閃光の影響により現在のラインのライン評価値が、1ライン前のライン評価値と比較して予め設定された所定量以上変化するラインm(mはライン位置)を検出してライン位置mを一時的に記憶する。   The first line determination unit 5 receives the first line evaluation value, and the line evaluation value of the current line is greater than or equal to a predetermined amount set in advance compared to the previous line evaluation value due to the influence of external flash. A changing line m (m is a line position) is detected, and the line position m is temporarily stored.

図2は図1の第1のライン判定部5の概略構成を示す図である。   FIG. 2 is a diagram showing a schematic configuration of the first line determination unit 5 of FIG.

図2に示すライン判定部は、評価値シフトレジスタ部51と、評価値判定部52と、ラインカウンタ53と、ライン位置記憶部54とを有する。   The line determination unit illustrated in FIG. 2 includes an evaluation value shift register unit 51, an evaluation value determination unit 52, a line counter 53, and a line position storage unit 54.

評価値シフトレジスタ部51はフリップフロップ等で構成されたシフトレジスタであり、図1の第1のライン加算平均算出部3において算出された各ラインの第1のライン評価値L1x(xはライン位置)が入力され、水平同期パルスに従って1ライン毎に次段のレジスタに転送される。評価値判定部52はライン毎に1ライン前のライン評価値と比較して所定量以上大きければトリガパルスを発生する。ラインカウンタ53は水平同期パルスに従ってライン数をカウントする。ライン位置記憶部54は評価値判定部52が発生したトリガパルスに従ってラインカウンタ53のカウンタ値、すなわちラインmが前述の条件を満たすライン位置mを一時的に記憶する。   The evaluation value shift register unit 51 is a shift register composed of a flip-flop or the like, and the first line evaluation value L1x (x is a line position) of each line calculated by the first line addition average calculation unit 3 of FIG. ) Is input and transferred to the next-stage register line by line in accordance with the horizontal synchronization pulse. The evaluation value determination unit 52 generates a trigger pulse if it is larger than a predetermined amount by comparison with the line evaluation value of one line before each line. The line counter 53 counts the number of lines according to the horizontal synchronization pulse. The line position storage unit 54 temporarily stores the counter value of the line counter 53 according to the trigger pulse generated by the evaluation value determination unit 52, that is, the line position m where the line m satisfies the above-described condition.

図1において、第1のブロック加算平均算出部6は第1のライン判定部5に記憶されたライン位置mに対して、N−1番目のフレームのラインmからラインn(nは最終ラインのライン位置)までの第1のライン評価値であるL1mからL1nまでを加算した値をn−m+1で除算することでラインmからラインnまでの第1のライン評価値の加算平均値を第1のブロック加算平均値Bm,nとして算出する。   In FIG. 1, the first block addition average calculation unit 6 performs a line position m stored in the first line determination unit 5 from a line m of the (N−1) th frame to a line n (n is the last line). The value obtained by adding the first line evaluation values L1m to L1n up to the line position) is divided by nm + 1 to obtain the first average value of the first line evaluation values from line m to line n. The block addition average value Bm, n is calculated.

同様に、第2のブロック加算平均算出部7は第1のライン判定部5に記憶されたライン位置mに対して、N−2番目のフレームのラインmからラインn(nは最終ラインのライン位置)までの第2のライン評価値であるL2mからL2nまでを加算した値をn−m+1で除算することでラインmからラインnまでの第2のライン評価値の加算平均値を第2のブロック加算平均値Am,nとして算出する。   Similarly, the second block addition average calculating unit 7 applies the line m to the line n (n is the line of the last line) with respect to the line position m stored in the first line determination unit 5. The value obtained by adding the second line evaluation values L2m to L2n up to (position) is divided by n−m + 1 to obtain the addition average value of the second line evaluation values from line m to line n. The block addition average value Am, n is calculated.

図3は図1における第1のブロック加算平均算出部6および第2のブロック加算平均算出部7の概略構成を示す図である。   FIG. 3 is a diagram showing a schematic configuration of the first block addition average calculation unit 6 and the second block addition average calculation unit 7 in FIG.

図3に示すブロック加算平均算出部は、ラインカウンタ61と、カウンタ値比較部63および65と、遅延部66と、ライン評価値加算部67と、ブロック加算平均値記憶部69とを有する。   The block addition average calculation unit illustrated in FIG. 3 includes a line counter 61, counter value comparison units 63 and 65, a delay unit 66, a line evaluation value addition unit 67, and a block addition average value storage unit 69.

以下、第1のブロック加算平均算出部6の場合を例に説明する。   Hereinafter, the case of the first block addition average calculation unit 6 will be described as an example.

ラインカウンタ61は水平同期パルスに従ってライン数をカウントする。カウンタ値比較部63および65は図1における第1のライン判定部5に記憶されているライン位置mに対して、ラインカウンタ61のカウンタ値が各々mおよびn(nは最終ラインのライン位置)となるタイミングでトリガパルスを発生する。遅延部66は図1における第1のライン加算平均算出部3において算出された各ラインのライン評価値Lx(xはライン位置)が入力され、第1のライン判定部5によりラインmが前述の条件を満たすライン位置mを記憶したタイミング以降に、ラインmのライン評価値Lmがライン評価値加算部67に入力される様に、水平同期パルスに従ってライン評価値を遅延させる。ライン評価値加算部67はカウンタ値比較部63がトリガパルスを発生するタイミング、すなわちライン評価値加算部67にラインmのライン評価値Lmが入力されるタイミングでは入力されるライン評価値に0を加算し、それ以外の場合には入力されるライン評価値にそれまでのライン評価値の合計値を加算した値を、水平同期パルスに従って出力する。ブロック加算平均値記憶部69はライン評価値加算部67により出力される値が入力され、カウンタ値比較部65がトリガパルスを発生するタイミングで取り込み、n−m+1で除算して記憶する。すなわちブロック加算平均値記憶部69はライン評価値加算部67により算出されたラインmからラインnまでのライン評価値の加算値をn−m+1で除算して平均化した値を第1のブロック加算平均値Bm,n(第2のブロック加算平均算出部7の場合は第2のブロック加算平均値Am,n)として記憶する。   The line counter 61 counts the number of lines according to the horizontal synchronization pulse. The counter value comparison units 63 and 65 have the counter values of the line counter 61 set to m and n (n is the line position of the final line) with respect to the line position m stored in the first line determination unit 5 in FIG. A trigger pulse is generated at the timing. The delay unit 66 receives the line evaluation value Lx (x is the line position) of each line calculated by the first line addition average calculation unit 3 in FIG. 1, and the line m is input by the first line determination unit 5 as described above. The line evaluation value is delayed according to the horizontal synchronization pulse so that the line evaluation value Lm of the line m is input to the line evaluation value adding unit 67 after the timing when the line position m satisfying the condition is stored. The line evaluation value adding unit 67 sets the input line evaluation value to 0 at the timing when the counter value comparing unit 63 generates a trigger pulse, that is, when the line evaluation value Lm of the line m is input to the line evaluation value adding unit 67. In other cases, a value obtained by adding the total value of the line evaluation values so far to the input line evaluation value is output according to the horizontal synchronization pulse. The block addition average value storage unit 69 receives the value output from the line evaluation value addition unit 67, takes it in at the timing when the counter value comparison unit 65 generates a trigger pulse, and divides and stores it by n−m + 1. That is, the block addition average value storage unit 69 divides the addition value of the line evaluation values from the line m to the line n calculated by the line evaluation value addition unit 67 by n−m + 1 and averages the first block addition value. The average value Bm, n (second block addition average value Am, n in the case of the second block addition average calculation unit 7) is stored.

第1のゲイン算出部8は第2のブロック加算平均値Am,nと第1のブロック加算平均値Bm,nを入力とし、ゲイン係数k(k=Bm,n/Am,n)を算出して記憶する。すなわちゲイン係数kは、外部閃光の影響を受けた画像下部の領域の輝度レベルが増加する前後の平均輝度レベルの比を表すことになる。   The first gain calculation unit 8 receives the second block addition average value Am, n and the first block addition average value Bm, n and calculates a gain coefficient k (k = Bm, n / Am, n). Remember. That is, the gain coefficient k represents the ratio of the average luminance level before and after the luminance level of the area under the image affected by the external flash increases.

第1のゲイン調整部9はこのゲイン係数kを用いて、フレームメモリ2から出力される第1の撮像信号を適切なタイミングでゲイン調整することにより補正する。   The first gain adjusting unit 9 corrects the gain of the first image pickup signal output from the frame memory 2 at an appropriate timing using the gain coefficient k.

(1−2.撮像装置の動作)
以下、本実施の形態1における撮像装置の動作を図4のフローチャート及び図5、図6を用いて説明する。
(1-2. Operation of Imaging Device)
Hereinafter, the operation of the imaging apparatus according to the first embodiment will be described with reference to the flowchart of FIG. 4 and FIGS. 5 and 6.

図6は、撮像中にスチルカメラのフラッシュなどの外部閃光が発光された場合の撮像信号および表示画像への影響を示す図である。   FIG. 6 is a diagram illustrating an influence on an imaging signal and a display image when an external flash such as a flash of a still camera is emitted during imaging.

図6に示すように、N番目のフレームを撮像している途中に外部閃光が発光された場合には、撮像部1から出力される撮像信号にはN−1番目のフレームの画像の下部およびN番目のフレームの画像の上部に白帯状の妨害が発生する。図6においてN−1番目のフレームでは、m−1ライン目までは外部閃光の影響を受けず、mライン目以降は外部閃光の影響を受け、N番目のフレームでは、m−1ライン目までは外部閃光の影響を受け、mライン目以降は外部閃光の影響を受けないものとする。   As shown in FIG. 6, when an external flash is emitted during imaging of the Nth frame, the imaging signal output from the imaging unit 1 includes the lower part of the image of the N−1th frame and A white belt-like disturbance occurs at the top of the image of the Nth frame. In FIG. 6, in the (N-1) th frame, it is not affected by the external flash until the (m-1) th line, and is affected by the external flash in the mth and subsequent lines. Is affected by an external flash, and is not affected by an external flash after the m-th line.

撮像部1は、被写体を撮像し、第1の撮像信号として出力する(ステップ401)。最初に、撮像部1が、フレームN−1の撮像信号を出力している場合について、説明する。   The imaging unit 1 images a subject and outputs it as a first imaging signal (step 401). First, the case where the imaging unit 1 outputs the imaging signal of the frame N-1 will be described.

第1のライン加算平均算出部3は、第1の撮像信号のライン毎に輝度レベルの加算平均値を算出し、第1のライン評価値L1x(xはライン位置)を算出する。第1のライン判定部5は第1のライン評価値を入力とし、外部閃光の影響により現在のラインのライン評価値が、1ライン前のライン評価値と比較して予め設定された所定量以上増加するラインm(mはライン位置)を検出した場合、白帯が発生したと判断し、そのライン位置mを一時的に記憶する(ステップ402でYes)。   The first line addition average calculation unit 3 calculates an addition average value of luminance levels for each line of the first imaging signal, and calculates a first line evaluation value L1x (x is a line position). The first line determination unit 5 receives the first line evaluation value, and the line evaluation value of the current line is greater than or equal to a predetermined amount set in advance compared to the previous line evaluation value due to the influence of external flash. When an increasing line m (m is a line position) is detected, it is determined that a white band has occurred, and the line position m is temporarily stored (Yes in step 402).

1フレーム前の撮像信号(この場合、フレームN−2)について、算出したゲイン係数が存在するか否かを確認し、存在しない場合は(ステップ403でNo)、以下の処理を実行する。   It is confirmed whether or not the calculated gain coefficient exists for the imaging signal one frame before (in this case, the frame N-2). If it does not exist (No in step 403), the following processing is executed.

第1のブロック加算平均算出部6は、第1の撮像信号におけるライン位置mから、フレームの最終ラインであるライン位置nまでのライン評価値を加算し、その加算値をn−m+1で除算して平均化した値を第1のブロック加算平均値Bm,nとして算出する(ステップ404)。   The first block addition average calculation unit 6 adds the line evaluation values from the line position m in the first image pickup signal to the line position n that is the final line of the frame, and divides the addition value by n−m + 1. The averaged value is calculated as the first block addition average value Bm, n (step 404).

同様に、第2のブロック加算平均算出部7は、第1の撮像信号の1フレーム前の撮像信号である第2の撮像信号について、上記で記憶したライン位置mからライン位置nまでのライン評価値を加算し、その加算値をn−m+1で除算して平均化した値を第2のブロック加算平均値Bm,nとして記憶する(ステップ405)。   Similarly, the second block addition average calculation unit 7 performs line evaluation from the line position m to the line position n stored above for the second image pickup signal which is the image pickup signal one frame before the first image pickup signal. The value is added, and the value obtained by dividing and averaging the added value by nm + 1 is stored as the second block addition average value Bm, n (step 405).

第1のゲイン算出部8は、第2のブロック加算平均値Am,nと第1のブロック加算平均値Bm,nを用いてゲイン係数k(k=Bm,n/Am,n)を算出して記憶する(ステップ406)。   The first gain calculation unit 8 calculates a gain coefficient k (k = Bm, n / Am, n) using the second block addition average value Am, n and the first block addition average value Bm, n. (Step 406).

第1のゲイン調整部9はこのゲイン係数kを用いて、フレームメモリ2から出力される第2の撮像信号を補正する(ステップ407)。ゲイン係数kは、フレームN−1の第1の撮像信号の最終ライン位置nまでの輝度レベルを用いて算出される値である。したがって、ゲイン係数kを算出した際には、撮像部1は、第1の撮像信号として、次のフレームであるフレームNの撮像信号の出力を開始している。第1のゲイン調整部9は、撮像部1が第1の撮像信号としてフレームNの撮像信号を出力し、フレームメモリ2が出力する1フレーム遅延させたフレームN−1の第2の撮像信号に対して、補正を行う。   The first gain adjustment unit 9 corrects the second imaging signal output from the frame memory 2 using the gain coefficient k (step 407). The gain coefficient k is a value calculated using the luminance level up to the final line position n of the first imaging signal of the frame N-1. Therefore, when the gain coefficient k is calculated, the imaging unit 1 starts outputting the imaging signal of the next frame, frame N, as the first imaging signal. The first gain adjustment unit 9 outputs the image pickup signal of the frame N as the first image pickup signal from the image pickup unit 1, and outputs the second image pickup signal of the frame N−1 delayed by one frame output from the frame memory 2. On the other hand, correction is performed.

第1のゲイン調整部9が行う補正を、図5を用いて説明する。第1のゲイン調整部9は、フレームN−1に対して、図5(a)に示すように外部閃光の影響により輝度レベルが増加しているラインmからラインnまでの撮像信号の輝度レベルを1/k倍とすることにより、N−1番目のフレームにおける外部閃光の影響により生じる白帯を含む画像を補正する。   The correction performed by the first gain adjustment unit 9 will be described with reference to FIG. As shown in FIG. 5A, the first gain adjustment unit 9 performs the luminance level of the imaging signal from line m to line n, where the luminance level increases due to the influence of the external flash, as shown in FIG. Is 1 / k times to correct an image including a white band generated by the influence of the external flash in the (N-1) th frame.

なお、本実施の形態1では、外部閃光の影響により輝度レベルが増加しているラインmからラインnまでの撮像信号の輝度レベルを1/k倍することで、外部閃光の影響を受けない画像となるように補正したが、外部閃光の影響を受けていないライン1からラインm−1までの撮像信号の輝度レベルをk倍することにより、外部閃光の影響により全面が白く光った画像となるように補正しても良い。   In the first embodiment, an image that is not affected by the external flash is obtained by multiplying the luminance level of the imaging signal from line m to line n by 1 / k, where the luminance level is increased due to the external flash. However, by multiplying the luminance level of the imaging signal from line 1 to line m−1 that is not affected by the external flash by k, an image in which the entire surface is lit white by the influence of the external flash is obtained. You may correct | amend as follows.

次に、撮像部1が、次のフレームであるフレームNの撮像信号を出力している場合について、説明する。   Next, the case where the imaging unit 1 outputs an imaging signal of the next frame, which is a frame N, will be described.

第1のライン加算平均算出部3は、第1の撮像信号のライン毎に輝度レベルの加算平均値を算出し、第1のライン評価値L1x(xはライン位置)を算出する。第1のライン判定部5は第1のライン評価値を入力とし、外部閃光の影響により現在のラインのライン評価値が、1ライン前のライン評価値と比較して予め設定された所定量以上減少するラインm(mはライン位置)を検出した場合、白帯が終了したと判断し、そのライン位置mを一時的に記憶する(ステップ402)。   The first line addition average calculation unit 3 calculates an addition average value of luminance levels for each line of the first imaging signal, and calculates a first line evaluation value L1x (x is a line position). The first line determination unit 5 receives the first line evaluation value, and the line evaluation value of the current line is greater than or equal to a predetermined amount set in advance compared to the previous line evaluation value due to the influence of external flash. If a decreasing line m (m is a line position) is detected, it is determined that the white belt has ended, and the line position m is temporarily stored (step 402).

1フレーム前の撮像信号(この場合、フレームN−1)について、算出したゲイン係数が存在するか否かを確認する(ステップ403)。フレームN−1に対して算出したゲイン係数kが存在するため(ステップ403でYes)、ゲイン係数kを新たに算出せずに、ステップ407の処理に移行する。   It is checked whether or not the calculated gain coefficient exists for the image signal one frame before (in this case, frame N-1) (step 403). Since the gain coefficient k calculated for the frame N-1 exists (Yes in Step 403), the process proceeds to Step 407 without newly calculating the gain coefficient k.

第1のゲイン調整部9は、第1の撮像部1が第1の撮像信号として次のフレームであるフレームN+1の撮像信号を出力し、フレームメモリ2により1フレーム遅延させたフレームNの第2の撮像信号を出力しているタイミングで、補正を行う(ステップ407)。第1のゲイン調整部9は、フレームNに対して、図5(b)に示すように外部閃光の影響が終了した直後のラインmからラインnまでの撮像信号の輝度レベルをk倍とすることにより、N番目のフレームの外部閃光の影響により生じる白帯を含む画像を補正することができる。   The first gain adjustment unit 9 outputs the image pickup signal of the next frame, frame N + 1, as the first image pickup signal by the first image pickup unit 1, and the second gain of the frame N delayed by one frame by the frame memory 2. Correction is performed at the timing when the imaging signal is output (step 407). For the frame N, the first gain adjustment unit 9 increases the luminance level of the imaging signal from line m to line n immediately after the influence of the external flash is finished, as shown in FIG. Thus, it is possible to correct an image including a white band caused by the influence of the external flash of the Nth frame.

なお、本実施の形態1では、外部閃光の影響が終了した直後のラインmからラインnまでの撮像信号の輝度レベルをk倍とすることにより、N番目のフレームは外部閃光の影響により全面が白く光った画像となるように補正したが、外部閃光の影響を受けたライン1からラインm−1までの撮像信号の輝度レベルを1/k倍することで、外部閃光の影響を受けない画像となるように補正しても良い。   In the first embodiment, the luminance level of the imaging signal from line m to line n immediately after the influence of the external flash is finished is multiplied by k times, so that the entire Nth frame is affected by the external flash. An image that has been corrected to be a white-lighted image, but is not affected by the external flash by multiplying the luminance level of the imaging signal from line 1 to line m-1 affected by the external flash by 1 / k. You may correct | amend so that it may become.

なお、本実施の形態1では、ステップ403で、1フレーム前の撮像信号について、算出したゲイン係数が存在するか否かを確認し、存在する場合はそのゲイン係数を用いる形態について説明したが、全てのフレームに対してゲイン係数を算出し、算出したゲイン数を用いて補正する形態であっても良い。   In the first embodiment, in step 403, it is confirmed whether or not the calculated gain coefficient exists for the imaging signal one frame before, and if it exists, the form using the gain coefficient has been described. A mode may be employed in which gain coefficients are calculated for all frames and correction is performed using the calculated gain number.

なお、本実施の形態1の撮像装置、ライン判定部およびブロック加算平均算出部について、図1、図2および図3を用いて説明したが、発明の要旨を逸脱しない範囲で適宜他の構成をとり得ることは言うまでもない。   In addition, although the imaging apparatus, the line determination unit, and the block addition average calculation unit of the first embodiment have been described with reference to FIGS. 1, 2, and 3, other configurations are appropriately configured without departing from the gist of the invention. Needless to say, it can be taken.

なお、本実施の形態1において、各ラインの評価値を撮像信号の輝度レベルとしたが、第1のライン判定部5で外部閃光の影響の有無を判定するためのライン評価値は、外部閃光の影響の有無により変化するものであれば、例えば撮像信号の色成分や周波数成分およびSN比(Signal to Noise Ratio)など、他の信号成分や値を評価値としても構わない。また、第1のブロック加算平均算出部6および第2のブロック加算平均算出部7で算出するブロック加算平均値は、輝度レベルに比例して変化するものであれば他の信号成分や値を評価値としても構わない。   In the first embodiment, the evaluation value of each line is set as the luminance level of the imaging signal. However, the line evaluation value for determining the presence or absence of the influence of the external flash by the first line determination unit 5 is the external flash. Other signal components and values such as color components, frequency components and SN ratio (Signal to Noise Ratio) of the imaging signal may be used as evaluation values as long as they change depending on the presence or absence of the influence of. In addition, if the block addition average value calculated by the first block addition average calculation unit 6 and the second block addition average calculation unit 7 changes in proportion to the luminance level, other signal components and values are evaluated. It does not matter as a value.

以上のように本実施の形態1によれば、最初にライン方向の評価値の急峻な変化を検出して、画面内の外部閃光の影響を受けた領域の平均輝度レベルと、同領域の外部閃光の影響を受ける前の平均輝度レベルとの比からゲイン係数を算出し、該ゲイン係数を用いて補正することで、外部閃光が発光されるタイミングによってどのラインから影響があった場合にも補正可能であり、また、補正の際に正常な画像をフリーズしたりせずに元画像の情報を生かすことで被写体の動きも不自然にならず、補正後の画像には本来存在すべき明るくなった画像も含まれるため違和感なく外部閃光の影響を補正することができる。   As described above, according to the first embodiment, a steep change in the evaluation value in the line direction is first detected, and the average luminance level of the area affected by the external flash in the screen and the outside of the same area are detected. By calculating the gain coefficient from the ratio to the average brightness level before being affected by the flash, and correcting using the gain coefficient, any line affected by the timing of the external flash is corrected. It is possible, and by making use of the information of the original image without freezing the normal image at the time of correction, the movement of the subject does not become unnatural, and the image that has been corrected should be bright. Since the image is also included, the influence of the external flash can be corrected without a sense of incongruity.

(実施の形態2)
図7は、実施の形態2の撮像装置の概略構成を示す図である。
(Embodiment 2)
FIG. 7 is a diagram illustrating a schematic configuration of the imaging apparatus according to the second embodiment.

図7に示す撮像装置は、撮像部1と、フレームメモリ2と、第1のライン加算平均算出部3と、第2のライン加算平均算出部4と、第1のライン判定部5と、第3のブロック加算平均算出部60と、第4のブロック加算平均算出部70と、第2のゲイン算出部80と、第1のゲイン調整部9とを有する。   The imaging apparatus illustrated in FIG. 7 includes an imaging unit 1, a frame memory 2, a first line addition average calculation unit 3, a second line addition average calculation unit 4, a first line determination unit 5, and a first line determination unit 5. 3 block addition average calculation unit 60, fourth block addition average calculation unit 70, second gain calculation unit 80, and first gain adjustment unit 9.

撮像部1、フレームメモリ2、第1のライン加算平均算出部3、第2のライン加算平均算出部4、第1のライン判定部5および第1のゲイン調整部9は実施の形態1の撮像装置と同様であるため説明を省略する。   The imaging unit 1, the frame memory 2, the first line addition average calculation unit 3, the second line addition average calculation unit 4, the first line determination unit 5, and the first gain adjustment unit 9 are the same as those in the first embodiment. Since it is the same as that of an apparatus, description is abbreviate | omitted.

第3のブロック加算平均算出部60は第1のライン判定部5に記憶されたライン位置mに対して、N−1番目のフレームのラインmからラインn(nは最終ラインのライン位置)までの第1のライン評価値であるL1mからL1nまでを加算した値をn−m+1で除算することでラインmからラインnまでの第1のライン評価値の加算平均値を第1のブロック加算平均値Bm,nとして算出すると共に、ライン1からラインm−1までの第1のライン評価値であるL11からL1m−1までを加算した値をm−1で除算することでライン1からラインm−1までの第1のライン評価値の加算平均値を第3のブロック加算平均値B1,m−1として算出する。   From the line position m stored in the first line determination unit 5, the third block addition average calculation unit 60 extends from the line m of the (N−1) th frame to the line n (n is the line position of the last line). The first block evaluation average of the first line evaluation values from line m to line n is obtained by dividing the value obtained by adding the first line evaluation values L1m to L1n by n−m + 1. A value Bm, n is calculated, and a value obtained by adding the first line evaluation values L11 to L1m-1 from the line 1 to the line m-1 is divided by the m-1, thereby dividing the line 1 to the line m. The average addition value of the first line evaluation values up to −1 is calculated as the third block addition average value B1, m−1.

同様に、第4のブロック加算平均算出部70は第1のライン判定部5に記憶されたライン位置mに対して、N−2番目のフレームのラインmからラインn(nは最終ラインのライン位置)までの第2のライン評価値であるL2mからL2nまでを加算した値をn−m+1で除算することでラインmからラインnまでの第2のライン評価値の加算平均値を第2のブロック加算平均値Am,nとして算出すると共に、ライン1からラインm−1までの第2のライン評価値であるL21からL2m−1までを加算した値をm−1で除算することでライン1からラインm−1までの第2のライン評価値の加算平均値を第4のブロック加算平均値A1,m−1として算出する。   Similarly, the fourth block addition average calculating unit 70 applies the line m to the line n (n is the line of the last line) with respect to the line position m stored in the first line determination unit 5. The value obtained by adding the second line evaluation values L2m to L2n up to (position) is divided by n−m + 1 to obtain the addition average value of the second line evaluation values from line m to line n. The block addition average value Am, n is calculated, and the value obtained by adding the second line evaluation values L21 to L2m-1 from line 1 to line m-1 is divided by m-1 to obtain line 1 To the line m−1 is calculated as a fourth block addition average value A1, m−1.

図8は図7における第3のブロック加算平均算出部60および第4のブロック加算平均算出部70の概略構成を示す図である。   FIG. 8 is a diagram showing a schematic configuration of the third block addition average calculation unit 60 and the fourth block addition average calculation unit 70 in FIG.

図8に示すブロック加算平均算出部は、ラインカウンタ61と、カウンタ値比較部62、63および65と、遅延部66と、ライン評価値加算部67と、ブロック加算平均値記憶部68および69とを有する。   The block addition average calculation unit shown in FIG. 8 includes a line counter 61, counter value comparison units 62, 63, and 65, a delay unit 66, a line evaluation value addition unit 67, and block addition average value storage units 68 and 69. Have

以下、第3のブロック加算平均算出部60の場合を例に説明する。   Hereinafter, the case of the third block addition average calculation unit 60 will be described as an example.

ラインカウンタ61は水平同期パルスに従ってライン数をカウントする。カウンタ値比較部62、63および65は図7の第1のライン判定部5に記憶されているライン位置mに対して、ラインカウンタ61のカウンタ値が各々1、mおよびn(nは最終ラインのライン位置)となるタイミングでトリガパルスを発生する。遅延部66は図7の第1のライン加算平均算出部3において算出された各ラインのライン評価値Lx(xはライン位置)が入力され、第1のライン判定部5によりラインmが前述の条件を満たすライン位置mを記憶したタイミング以降に、ラインmのライン評価値Lmがライン評価値加算部67に入力される様に、水平同期パルスに従ってライン評価値を遅延させる。ライン評価値加算部67はカウンタ値比較部62および63がトリガパルスを発生するタイミング、すなわちライン評価値加算部67にライン1およびラインmのライン評価値L1およびLmが入力されるタイミングで入力されるライン評価値に0を加算し、それ以外の場合には入力されるライン評価値にそれまでのライン評価値の合計値を加算した値を、水平同期パルスに従って出力する。ブロック加算平均値記憶部68および69はライン評価値加算部67が出力する値が入力され、カウンタ値比較部63および65がトリガパルスを発生するタイミングで取り込み、各々m−1およびn−m+1で除算して記憶する。すなわちブロック加算平均値記憶部68はライン評価値加算部67により算出されたライン1からラインm−1までのライン評価値の加算値をm−1で除算して平均化した値を第3のブロック加算平均値B1,m−1(第4のブロック加算平均算出部70の場合は第4のブロック加算平均値A1,m−1)として記憶する。また、ブロック加算平均値記憶部69はライン評価値加算部67により算出されたラインmからラインnまでのライン評価値の加算値をn−m+1で除算して平均化した値を第3のブロック加算平均値Bm,n(第4のブロック加算平均算出部70の場合は第4のブロック加算平均値Am,n)として記憶する。   The line counter 61 counts the number of lines according to the horizontal synchronization pulse. The counter value comparison units 62, 63, and 65 have a counter value of 1, m, and n (n is the final line) for the line position m stored in the first line determination unit 5 of FIG. The trigger pulse is generated at the timing of (line position). The delay unit 66 receives the line evaluation value Lx (x is the line position) of each line calculated by the first line addition average calculation unit 3 in FIG. 7, and the first line determination unit 5 sets the line m to the above-described line evaluation value Lx. The line evaluation value is delayed according to the horizontal synchronization pulse so that the line evaluation value Lm of the line m is input to the line evaluation value adding unit 67 after the timing when the line position m satisfying the condition is stored. The line evaluation value adding unit 67 is input at the timing when the counter value comparing units 62 and 63 generate the trigger pulse, that is, at the timing when the line evaluation values L1 and Lm of the line 1 and line m are input to the line evaluation value adding unit 67. In this case, a value obtained by adding the total value of the line evaluation values so far to the input line evaluation value is output in accordance with the horizontal synchronization pulse. The block addition average value storage units 68 and 69 receive the values output from the line evaluation value addition unit 67, and the counter value comparison units 63 and 65 take in at the timing when the trigger pulse is generated, respectively, at m−1 and n−m + 1. Divide and store. That is, the block addition average value storage unit 68 divides the addition value of the line evaluation values from the line 1 to the line m−1 calculated by the line evaluation value addition unit 67 by m−1 and averages the third value. Stored as the block addition average value B1, m-1 (fourth block addition average value A1, m-1 in the case of the fourth block addition average calculation unit 70). The block addition average value storage unit 69 divides the addition value of the line evaluation values from the line m to the line n calculated by the line evaluation value addition unit 67 by n−m + 1 and averages the third block. The addition average value Bm, n (fourth block addition average value Am, n in the case of the fourth block addition average calculation unit 70) is stored.

第2のゲイン算出部80は第4のブロック加算平均値A1,m−1および第4のブロック加算平均値Am,nと第3のブロック加算平均値B1,m−1および第3のブロック加算平均値Bm,nを入力とし、ゲイン係数k(k=(Bm,n×A1,m−1)/(Am,n×B1,m−1))を算出して記憶する。   The second gain calculation unit 80 includes the fourth block addition average value A1, m-1, the fourth block addition average value Am, n, the third block addition average value B1, m-1, and the third block addition. Using the average value Bm, n as an input, the gain coefficient k (k = (Bm, n × A1, m−1) / (Am, n × B1, m−1)) is calculated and stored.

本実施の形態2における撮像装置の動作は図4に示す実施の形態1のフローチャートと同様である。以下、実施の形態1との相違点について説明する。本実施の形態2では、ゲイン係数kを算出するにあたって、Bm,n/Am,nについては実施の形態1の場合と同様であるが、さらにA1,m−1/B1,m−1の比が含まれている。これは外部閃光の影響を受けていない画像上部の領域の平均輝度レベルの比であり、2フレーム間のアイリスの変化などによる輝度レベルの変化を表すものと考えることができる。すなわちゲイン係数kは、外部閃光の発光に無関係なアイリスなどの撮影条件による変化分を考慮に入れた、外部閃光の影響を受けた画像下部の領域の輝度レベルが増加する前後の平均輝度レベルの比を表すことになる。   The operation of the imaging apparatus in the second embodiment is the same as the flowchart of the first embodiment shown in FIG. Hereinafter, differences from the first embodiment will be described. In the second embodiment, when calculating the gain coefficient k, Bm, n / Am, n are the same as those in the first embodiment, but the ratio of A1, m−1 / B1, m−1 is further increased. It is included. This is the ratio of the average luminance level of the area above the image that is not affected by the external flash, and can be considered to represent a change in luminance level due to an iris change between two frames. That is, the gain coefficient k is an average luminance level before and after the luminance level of the lower region of the image affected by the external flash is increased, taking into account changes due to imaging conditions such as iris that are not related to the emission of the external flash. Will represent the ratio.

第1のゲイン調整部9はこのゲイン係数kを用いて、実施の形態1と同様に、フレームメモリ2から出力される第2の撮像信号を適切なタイミングでゲイン調整することにより補正して、順次各フレームの撮像信号を出力する。   The first gain adjustment unit 9 uses the gain coefficient k to correct the second imaging signal output from the frame memory 2 by adjusting the gain at an appropriate timing, as in the first embodiment. The imaging signal of each frame is output sequentially.

なお、本実施の形態2の撮像装置、ライン判定部およびブロック加算平均算出部について、図7および図8を用いて説明したが、発明の要旨を逸脱しない範囲で適宜他の構成をとり得ることは言うまでもない。   In addition, although the imaging apparatus, the line determination unit, and the block addition average calculation unit according to the second embodiment have been described with reference to FIGS. 7 and 8, other configurations can be appropriately employed without departing from the gist of the invention. Needless to say.

なお、本実施の形態2において、各ラインの評価値を撮像信号の輝度レベルとしたが、第1のライン判定部5で外部閃光の影響の有無を判定するためのライン評価値は、外部閃光の影響の有無により変化するものであれば、例えば撮像信号の色成分や周波数成分およびSN比(Signal to Noise Ratio)など、他の信号成分や値を評価値としても構わない。また、第3のブロック加算平均算出部60および第4のブロック加算平均算出部70で算出するブロック加算平均値は、輝度レベルに比例して変化するものであれば他の信号成分や値を評価値としても構わない。   In the second embodiment, the evaluation value of each line is used as the luminance level of the imaging signal. However, the line evaluation value for determining the presence or absence of the influence of the external flash in the first line determination unit 5 is the external flash. Other signal components and values such as color components, frequency components and SN ratio (Signal to Noise Ratio) of the imaging signal may be used as evaluation values as long as they change depending on the presence or absence of the influence of. In addition, if the block addition average value calculated by the third block addition average calculation unit 60 and the fourth block addition average calculation unit 70 changes in proportion to the luminance level, other signal components and values are evaluated. It does not matter as a value.

以上のように本実施の形態2によれば、最初にライン方向の評価値の急峻な変化を検出して、画面内の外部閃光の影響を受けた領域の平均輝度レベルと、同領域の外部閃光の影響を受ける前の平均輝度レベルとの比と、各フレームの外部閃光の影響を受けていない領域の平均輝度レベルの比からゲイン係数を算出することでアイリス設定など撮影条件の変化を考慮した、より正確なゲイン係数を算出し、該ゲイン係数を用いて補正することで、外部閃光が発光されるタイミングによってどのラインから影響があった場合にも補正可能であり、また、補正の際に正常な画像をフリーズしたりせずに元画像の情報を生かすことで被写体の動きも不自然にならず、補正後の画像には本来存在すべき明るくなった画像も含まれるため違和感なく外部閃光の影響を補正することができる。   As described above, according to the second embodiment, first, a steep change in the evaluation value in the line direction is detected, and the average luminance level of the area affected by the external flash in the screen and the outside of the same area are detected. Changes in shooting conditions such as iris settings are taken into account by calculating the gain coefficient from the ratio of the average brightness level before being affected by the flash and the ratio of the average brightness level of the area not affected by the external flash in each frame. By calculating a more accurate gain coefficient and correcting using the gain coefficient, it is possible to correct any line affected by the timing of external flash emission. By using the information of the original image without freezing the normal image, the movement of the subject does not become unnatural, and the corrected image includes a brightened image that should exist originally. Flash It is possible to correct the influence.

(実施の形態3)
図14は撮像中にスチルカメラのフラッシュなどの外部閃光が発光された場合の撮像信号および表示画像への影響を示す図である。実施の形態3では外部閃光の発光が一瞬ではなく、ある程度の期間継続している場合について説明する。
(Embodiment 3)
FIG. 14 is a diagram showing an influence on an image signal and a display image when an external flash such as a still camera flash is emitted during imaging. In the third embodiment, a case will be described in which light emission of an external flash is not instantaneous but continues for a certain period.

図14に示すように、N番目のフレームを撮像している途中に外部閃光が発光された場合には、撮像部1から出力される撮像信号にはN−1番目のフレームの画像の下部およびN番目のフレームの画像の上部に白帯状の妨害が発生する。図14においてN−1番目のフレームでは、m−1ライン目までは殆ど外部閃光の影響を受けず、m+aライン目以降は外部閃光のほぼ全光量の影響を受け、その間のラインは外部閃光の発光期間に依存し、ライン番号が増加するに従ってほぼ線形に蓄積光量が増加するトランジェント期間となっている。N番目のフレームでは、m−1ライン目までは外部閃光のほぼ全光量の影響を受け、m+aライン目以降は殆ど外部閃光の影響を受けず、その間のラインはライン番号が増加するに従ってほぼ線形に蓄積光量が減少するトランジェント期間となっている。   As shown in FIG. 14, when an external flash is emitted during imaging of the Nth frame, the imaging signal output from the imaging unit 1 includes the lower part of the image of the (N−1) th frame and A white belt-like disturbance occurs at the top of the image of the Nth frame. In FIG. 14, in the (N-1) th frame, there is almost no influence from the external flash until the (m-1) th line, and from the (m + a) th line, it is influenced by almost the total light quantity of the external flash, and the line between them is the external flash. Depending on the light emission period, it is a transient period in which the accumulated light quantity increases almost linearly as the line number increases. In the Nth frame, up to the (m-1) th line, it is affected by almost the total light intensity of the external flash, and after the m + a line, it is hardly affected by the external flash, and the line between them is almost linear as the line number increases. The transient period during which the accumulated light quantity decreases.

図9は、実施の形態3の撮像装置の概略構成を示す図である。   FIG. 9 is a diagram illustrating a schematic configuration of the imaging apparatus according to the third embodiment.

図9に示す撮像装置は、撮像部1と、フレームメモリ2と、第1のライン加算平均算出部3と、第2のライン加算平均算出部4と、第2のライン判定部50と、第5のブロック加算平均算出部600と、第6のブロック加算平均算出部700と、第1のゲイン算出部8と、第2のゲイン調整部90とを有する。   The imaging apparatus shown in FIG. 9 includes an imaging unit 1, a frame memory 2, a first line addition average calculation unit 3, a second line addition average calculation unit 4, a second line determination unit 50, 5 block addition average calculation unit 600, sixth block addition average calculation unit 700, first gain calculation unit 8, and second gain adjustment unit 90.

撮像部1、フレームメモリ2、第1のライン加算平均算出部3、第2のライン加算平均算出部4は実施の形態1の撮像装置と同様であるため説明を省略する。   The imaging unit 1, the frame memory 2, the first line addition average calculation unit 3, and the second line addition average calculation unit 4 are the same as those of the imaging apparatus according to the first embodiment, and thus description thereof is omitted.

第2のライン判定部50は第1のライン評価値を入力とし、外部閃光の影響によりラインm+aのライン評価値が、ラインm−1のライン評価値と比較して予め設定された所定量以上増加し、その間のラインはラインm、ラインm+1、・・・、ラインm+a−1と段階的にライン番号の増加にほぼ比例してライン評価値が増加するようなライン位置mおよびライン位置m+aを検出して一時的に記憶する。図14の場合には、撮像部1から出力される第1の撮像信号がN−1番目のフレームの撮像信号であるタイミングで、ライン位置mおよびライン位置m+aを検出して記憶することになる。   The second line determination unit 50 receives the first line evaluation value as an input, and the line evaluation value of the line m + a is greater than a predetermined amount set in advance by comparison with the line evaluation value of the line m−1 due to the influence of the external flash. The line position m and the line position m + a are increased so that the line evaluation value increases in line with the line m, the line m + 1,. Detect and store temporarily. In the case of FIG. 14, the line position m and the line position m + a are detected and stored at the timing when the first image pickup signal output from the image pickup unit 1 is the image pickup signal of the (N−1) th frame. .

図10は図9の第2のライン判定部50の概略構成を示す図である。   FIG. 10 is a diagram showing a schematic configuration of the second line determination unit 50 of FIG.

図10に示すライン判定部は、評価値シフトレジスタ部501と、評価値判定部502と、ラインカウンタ部53と、ライン位置記憶部504とを有する。   The line determination unit illustrated in FIG. 10 includes an evaluation value shift register unit 501, an evaluation value determination unit 502, a line counter unit 53, and a line position storage unit 504.

評価値シフトレジスタ部501はフリップフロップ等で構成されたシフトレジスタであり、図9の第1のライン加算平均算出部3において算出された各ラインの第1のライン評価値L1x(xはライン位置)が入力され、水平同期パルスに従って1ライン毎に次段のレジスタに転送される。評価値判定部502はライン毎にa+1ライン前のライン評価値と比較して所定量以上大きく、その前後はライン評価値にあまり変化がなく、その間のラインはライン番号の増加に比例してほぼ線形にライン評価値が増加することを検出すればトリガパルスを発生する。図10の場合では、ライン評価値Lm+aがa+1ライン前のライン評価値Lm−1よりも所定量以上大きく、Lm−2はLm−1と、Lm+a+1はLm+aとほぼ同等であり、Lm−1、Lm、・・・、Lm+a−1、Lm+aとほぼ線形にライン評価値が増加することを検出すればトリガパルスを発生する。ラインカウンタ53は水平同期パルスに従ってライン数をカウントする。ライン位置記憶部504は評価値判定部502が発生したトリガパルスに従ってラインカウンタ53のカウンタ値、すなわち前述の条件を満たす場合のライン位置mおよびライン位置m+aを一時的に記憶する。ここでaの値は1ライン目からm−1ライン目までの間のライン評価値の変化が所定量より小さく、m+aライン目からnライン目までの間のライン評価値の変化が所定量より小さく、m−1ライン目とm+aライン目のライン評価値の差が所定量よりも大きく、その間はライン評価値が線形に変化するというライン評価値のプロファイルから判断して決定してもよいし、予め適切な値を固定値として決定しておいてもよい。後者の場合は設定したaの値に対して、実際の外部閃光の発光期間によっては、ライン評価値が線形に変化するライン数がm−1ラインからm+aラインの間のa+2ラインよりも少なくなる、または多くなる場合もあるが、1ラインで輝度レベルが変化するものとして処理する場合と比較すると、トランジェント期間の輝度レベルの補正を段階的に行うことができるため、より自然な補正が可能となる。   The evaluation value shift register unit 501 is a shift register composed of a flip-flop or the like, and the first line evaluation value L1x (x is a line position) of each line calculated by the first line addition average calculation unit 3 in FIG. ) Is input and transferred to the next-stage register line by line in accordance with the horizontal synchronization pulse. The evaluation value determination unit 502 is larger than a predetermined amount for each line compared with the line evaluation value before the line a + 1, and the line evaluation value does not change much before and after the line evaluation value. If it is detected that the line evaluation value increases linearly, a trigger pulse is generated. In the case of FIG. 10, the line evaluation value Lm + a is larger than the line evaluation value Lm−1 before the a + 1 line by a predetermined amount or more, Lm−2 is Lm−1, Lm + a + 1 is substantially equal to Lm + a, Lm−1, When it is detected that the line evaluation value increases almost linearly as Lm,..., Lm + a−1, Lm + a, a trigger pulse is generated. The line counter 53 counts the number of lines according to the horizontal synchronization pulse. The line position storage unit 504 temporarily stores the counter value of the line counter 53, that is, the line position m and the line position m + a when the above-described conditions are satisfied, according to the trigger pulse generated by the evaluation value determination unit 502. Here, the value of a is such that the change in the line evaluation value from the first line to the (m-1) th line is smaller than a predetermined amount, and the change in the line evaluation value from the m + a line to the nth line is from the predetermined amount. The difference between the line evaluation values of the (m−1) -th line and the (m + a) -th line is larger than a predetermined amount, and it may be determined by judging from the line evaluation value profile during which the line evaluation value changes linearly. An appropriate value may be determined as a fixed value in advance. In the latter case, the number of lines in which the line evaluation value changes linearly is smaller than the a + 2 line between the m-1 line and the m + a line, depending on the actual value of the external flash emission, with respect to the set value of a. In some cases, however, the luminance level in the transient period can be corrected in a step-by-step manner compared to the case where the luminance level changes in one line, so that more natural correction is possible. Become.

第5のブロック加算平均算出部600は第2のライン判定部50に記憶されたライン位置m+aに対して、N−1番目のフレームのラインm+aからラインn(nは最終ラインのライン位置)までの第1のライン評価値であるL1m+aからL1nまでを加算した値をn−(m+a)+1で除算することでラインm+aからラインnまでの第1のライン評価値の加算平均値を第5のブロック加算平均値Bm+a,nとして算出する。   For the line position m + a stored in the second line determination unit 50, the fifth block addition average calculation unit 600 performs from the line m + a of the (N−1) th frame to the line n (n is the line position of the last line). A value obtained by adding the first line evaluation values L1m + a to L1n is divided by n− (m + a) +1 to obtain an average addition value of the first line evaluation values from the line m + a to the line n. The block addition average value Bm + a, n is calculated.

同様に、第6のブロック加算平均算出部700は第2のライン判定部50に記憶されたライン位置m+aに対して、N−2番目のフレームのラインm+aからラインn(nは最終ラインのライン位置)までの第2のライン評価値であるL2m+aからL2nまでを加算した値をn−(m+a)+1で除算することでラインm+aからラインnまでの第2のライン評価値の加算平均値を第6のブロック加算平均値Am+a,nとして算出する。   Similarly, for the line position m + a stored in the second line determination unit 50, the sixth block addition average calculation unit 700 uses the line m + a to the line n (n is the line of the last line). The value obtained by adding the second line evaluation values L2m + a to L2n up to (position) is divided by n− (m + a) +1 to obtain the addition average value of the second line evaluation values from line m + a to line n. The sixth block addition average value Am + a, n is calculated.

第5のブロック加算平均算出部600および第6のブロック加算平均算出部700は、図3の実施の形態1の第1のブロック加算平均算出部6および第2のブロック加算平均算出部7において、ライン位置mの代わりにライン位置m+aが入力された場合と同様であるため、説明を省略する。   The fifth block addition average calculation unit 600 and the sixth block addition average calculation unit 700 are the same as those in the first block addition average calculation unit 6 and the second block addition average calculation unit 7 of the first embodiment shown in FIG. Since this is the same as when the line position m + a is input instead of the line position m, the description is omitted.

第1のゲイン算出部8は第6のブロック加算平均値Am+a,nと第5のブロック加算平均値Bm+a,nを入力とし、ゲイン係数k(k=Bm+a,n/Am+a,n)を算出して記憶する。すなわちゲイン係数kは、外部閃光の影響を受けた画像下部のトランジェント期間を除く領域の輝度レベルが増加する前後の平均輝度レベルの比を表すことになる。   The first gain calculation unit 8 receives the sixth block addition average value Am + a, n and the fifth block addition average value Bm + a, n, and calculates a gain coefficient k (k = Bm + a, n / Am + a, n). Remember. That is, the gain coefficient k represents the ratio of the average luminance level before and after the luminance level in the region excluding the transient period under the image affected by the external flash increases.

第2のゲイン調整部90はこのゲイン係数kを用いて、フレームメモリ2から出力される第2の撮像信号を適切なタイミングでゲイン調整することにより補正する。   Using the gain coefficient k, the second gain adjustment unit 90 corrects the second imaging signal output from the frame memory 2 by adjusting the gain at an appropriate timing.

本実施の形態3における撮像装置の動作は図4に示す実施の形態1のフローチャートと同様である。以下、実施の形態1との相違点について説明する。   The operation of the imaging apparatus in the third embodiment is the same as the flowchart in the first embodiment shown in FIG. Hereinafter, differences from the first embodiment will be described.

図11は図9における第2のゲイン調整部90の動作を説明する図である。   FIG. 11 is a diagram for explaining the operation of the second gain adjusting unit 90 in FIG.

第1の撮像信号がN−1番目のフレームの撮像信号、第2の撮像信号がN−2番目のフレームの撮像信号であるタイミングで、第2のライン判定部50はライン位置mおよびライン位置m+aを検出し、第5のブロック加算平均算出部600および第6のブロック加算平均算出部700は各々第5のブロック加算平均値Bm+a,nおよび第6のブロック加算平均値Am+a,nを算出し、第1のゲイン算出部8はゲイン係数kを算出する。第2のゲイン調整部90は1フレーム後、すなわち、第2の撮像信号がN−1番目のフレームの撮像信号であるタイミングで、図11に示すように外部閃光の影響により輝度レベルが増加しているラインm+aからラインnまでの撮像信号の輝度レベルを1/k倍とする。一方、トランジェント期間であるラインmからラインm+a−1についてはライン毎に個別のゲイン調整を行う。すなわち、外部閃光の影響によりライン番号の増加に比例して輝度レベルが増加しているものと見なして、ラインmは(a+2)/(2×k)倍、ラインm+1は(a+2)/(3×k)倍、ラインm+2は(a+2)/(4×k)倍、・・・、ラインLは(a+2)/((L−m+2)×k)倍(Lはライン位置)、・・・、ラインm+a−1は(a+2)/((a+1)×k)倍とし、段階的にゲイン量を変化させて調整を行う。これより、N−1番目のフレームは外部閃光の影響を受けない画像となるように補正する。さらに1フレーム後、すなわち、第2の撮像信号がN番目のフレームの撮像信号であるタイミングで、図11に示すように、外部閃光の影響が終了した直後のラインm+aからラインnまでの撮像信号の輝度レベルをk倍とする。一方、トランジェント期間であるラインmからラインm+a−1についてはライン毎に個別のゲイン調整を行う。すなわち、外部閃光の影響によりライン番号の増加に比例して輝度レベルが減少しているものと見なして、ラインmからラインm+a−1は輝度レベルを、ラインmはk/(a+1)倍、ラインm+1はk/a倍、ラインm+2はk/(a−1)倍、・・・、ラインLはk/(a−L+m+1)倍(Lはライン位置)、・・・、ラインm+a−1はk/2倍とし、段階的にゲイン量を変化させて調整を行う。これより、N番目のフレームは外部閃光の影響により全面が白く光った画像となるように補正する。上記以外のフレームについては、第2のゲイン調整部90では補正を行わず、順次各フレームの撮像信号を出力する。   At the timing when the first image pickup signal is the image pickup signal of the (N-1) th frame and the second image pickup signal is the image pickup signal of the (N-2) th frame, the second line determination unit 50 detects the line position m and the line position. m + a is detected, and the fifth block addition average calculation unit 600 and the sixth block addition average calculation unit 700 calculate the fifth block addition average value Bm + a, n and the sixth block addition average value Am + a, n, respectively. The first gain calculation unit 8 calculates the gain coefficient k. The second gain adjuster 90 increases the luminance level after one frame, that is, at the timing when the second imaging signal is the (N−1) th frame imaging signal, due to the influence of the external flash as shown in FIG. The luminance level of the imaging signal from the line m + a to the line n is 1 / k times. On the other hand, for the line m to line m + a−1, which is a transient period, individual gain adjustment is performed for each line. That is, assuming that the luminance level increases in proportion to the increase of the line number due to the influence of the external flash, the line m is (a + 2) / (2 × k) times, and the line m + 1 is (a + 2) / (3 × k) times, line m + 2 is (a + 2) / (4 × k) times,..., Line L is (a + 2) / ((L−m + 2) × k) times (L is line position),. The line m + a−1 is (a + 2) / ((a + 1) × k) times, and adjustment is performed by changing the gain amount stepwise. Accordingly, the N-1th frame is corrected so as to be an image not affected by the external flash. Further one frame later, that is, at the timing when the second imaging signal is the N-th frame imaging signal, as shown in FIG. 11, the imaging signals from line m + a to line n immediately after the influence of the external flashing ends. Is set to k times. On the other hand, for the line m to line m + a−1, which is a transient period, individual gain adjustment is performed for each line. That is, assuming that the luminance level decreases in proportion to the increase of the line number due to the influence of the external flash, the luminance level from line m to line m + a-1 is multiplied by k / (a + 1) times, and the line m is multiplied by k / (a + 1) times. m + 1 is k / a times, line m + 2 is k / (a-1) times,..., line L is k / (a-L + m + 1) times (L is a line position),. Adjustment is made by changing the gain amount step by step to k / 2 times. As a result, the Nth frame is corrected so as to be an image in which the entire surface shines white due to the influence of the external flash. For frames other than those described above, the second gain adjustment unit 90 does not perform correction, but sequentially outputs the imaging signals of each frame.

なお、本実施の形態3の撮像装置、ライン判定部およびブロック加算平均算出部について、図9、図10を用いて説明したが、発明の要旨を逸脱しない範囲で適宜他の構成をとり得ることは言うまでもない。   In addition, although the imaging apparatus, the line determination unit, and the block addition average calculation unit of the third embodiment have been described with reference to FIGS. 9 and 10, other configurations can be appropriately employed without departing from the gist of the invention. Needless to say.

なお、本実施の形態3において、各ラインの評価値を撮像信号の輝度レベルとしたが、第2のライン判定部50で外部閃光の影響の有無を判定するためのライン評価値は、外部閃光の影響の有無により変化するものであれば、例えば撮像信号の色成分や周波数成分およびSN比(Signal to Noise Ratio)など、他の信号成分や値を評価値としても構わない。また、第5のブロック加算平均算出部600および第6のブロック加算平均算出部700で算出するブロック加算平均値は、輝度レベルに比例して変化するものであれば他の信号成分や値を評価値としても構わない。   In the third embodiment, the evaluation value of each line is used as the luminance level of the imaging signal. However, the line evaluation value used by the second line determination unit 50 to determine whether or not there is an external flash influence is the external flash. Other signal components and values such as color components, frequency components and SN ratio (Signal to Noise Ratio) of the imaging signal may be used as evaluation values as long as they change depending on the presence or absence of the influence of. Further, if the block addition average value calculated by the fifth block addition average calculation unit 600 and the sixth block addition average calculation unit 700 changes in proportion to the luminance level, other signal components and values are evaluated. It does not matter as a value.

以上のように本実施の形態3によれば、最初にライン方向の評価値の急峻な変化を検出して、画面内の外部閃光の影響を受けた領域のトランジェント期間を除く領域の平均輝度レベルと、同領域の外部閃光の影響を受ける前の平均輝度レベルとの比からゲイン係数を算出し、該ゲイン係数を用いて補正することで、外部閃光が発光されるタイミングによってどのラインから影響があった場合にも補正可能であり、また、補正の際に正常な画像をフリーズしたりせずに元画像の情報を生かすことで被写体の動きも不自然にならず、補正後の画像には本来存在すべき明るくなった画像も含まれるため違和感なく、さらにトランジェント期間については適切にゲイン量を変化させて補正することで、補正の有無を切替える境界ライン付近は段階的に外部閃光の影響を補正することができる。   As described above, according to the third embodiment, first, a steep change in the evaluation value in the line direction is detected, and the average luminance level of the region excluding the transient period of the region affected by the external flash in the screen The gain coefficient is calculated from the ratio of the average brightness level before being affected by the external flash in the same area, and the gain coefficient is used to correct the gain coefficient. If the image is corrected, it is possible to correct the image, and the image of the subject is not unnatural by using the information of the original image without freezing the normal image at the time of correction. Bright images that should originally exist are also included, so there is no sense of incongruity, and for the transient period, by changing the gain amount appropriately and correcting, the vicinity of the boundary line that switches whether correction is performed is stepwise The influence of the Department flash can be corrected.

(実施の形態4)
図12は、実施の形態4の撮像装置の概略構成を示す図である。
(Embodiment 4)
FIG. 12 is a diagram illustrating a schematic configuration of the imaging apparatus according to the fourth embodiment.

図12に示す撮像装置は、撮像部1と、フレームメモリ2と、第1のライン加算平均算出部3と、第2のライン加算平均算出部4と、第2のライン判定部50と、第7のブロック加算平均算出部601と、第8のブロック加算平均算出部701と、第2のゲイン算出部80と、第2のゲイン調整部90とを有する。   The imaging device shown in FIG. 12 includes an imaging unit 1, a frame memory 2, a first line addition average calculation unit 3, a second line addition average calculation unit 4, a second line determination unit 50, 7 block addition average calculation unit 601, eighth block addition average calculation unit 701, second gain calculation unit 80, and second gain adjustment unit 90.

撮像部1、フレームメモリ2、第1のライン加算平均算出部3、第2のライン加算平均算出部4、第2のライン判定部50および第2のゲイン調整部90は実施の形態3の撮像装置と同様であるため説明を省略する。   The imaging unit 1, the frame memory 2, the first line addition average calculation unit 3, the second line addition average calculation unit 4, the second line determination unit 50, and the second gain adjustment unit 90 are the same as those in the third embodiment. Since it is the same as that of the apparatus, the description is omitted.

第7のブロック加算平均算出部601は第2のライン判定部50に記憶されたライン位置mおよびライン位置m+aに対して、N−1番目のフレームのラインm+aからラインn(nは最終ラインのライン位置)までの第1のライン評価値であるL1m+aからL1nまでを加算した値をn−(m+a)+1で除算することでラインm+aからラインnまでの第1のライン評価値の加算平均値を第7のブロック加算平均値Bm+a,nとして算出すると共に、ライン1からラインm−1までの第1のライン評価値であるL11からL1m−1までを加算した値をm−1で除算することでライン1からラインm−1までの第1のライン評価値の加算平均値を第7のブロック加算平均値B1,m−1として算出する。   The seventh block addition average calculation unit 601 performs the line position m and the line position m + a stored in the second line determination unit 50 from the line m + a to the line n (n is the last line). The sum of the first line evaluation values from line m + a to line n is obtained by dividing the value obtained by adding the first line evaluation values from L1m + a to L1n up to line position) by n− (m + a) +1. Is calculated as the seventh block addition average value Bm + a, n, and the value obtained by adding the first line evaluation values L11 to L1m−1 from line 1 to line m−1 is divided by m−1. Thus, the addition average value of the first line evaluation values from line 1 to line m−1 is calculated as the seventh block addition average value B1, m−1.

同様に、第8のブロック加算平均算出部701は第2のライン判定部50に記憶されたライン位置mおよびライン位置m+aに対して、N−2番目のフレームのラインm+aからラインn(nは最終ラインのライン位置)までの第2のライン評価値であるL2m+aからL2nまでを加算した値をn−(m+a)+1で除算することでラインm+aからラインnまでの第2のライン評価値の加算平均値を第8のブロック加算平均値Am+a,nとして算出すると共に、ライン1からラインm−1までの第2のライン評価値であるL21からL2m−1までを加算した値をm−1で除算することでライン1からラインm−1までの第2のライン評価値の加算平均値を第8のブロック加算平均値A1,m−1として算出する。   Similarly, the eighth block addition average calculating unit 701 performs the line m + a to the line n (n is the n−2th frame) for the line position m and the line position m + a stored in the second line determination unit 50. The value of the second line evaluation value from the line m + a to the line n is divided by n− (m + a) +1 by dividing the value obtained by adding the second line evaluation value from the second line evaluation value (the line position of the last line) to L2n by n− (m + a) +1. The addition average value is calculated as the eighth block addition average value Am + a, n, and a value obtained by adding the second line evaluation values L21 to L2m−1 from line 1 to line m−1 is m−1. Then, the addition average value of the second line evaluation values from line 1 to line m−1 is calculated as the eighth block addition average value A1, m−1.

図13は図12における第7のブロック加算平均算出部601および第8のブロック加算平均算出部701の概略構成を示す図である。   FIG. 13 is a diagram showing a schematic configuration of the seventh block addition average calculation unit 601 and the eighth block addition average calculation unit 701 in FIG.

図13に示すブロック加算平均算出部は、ラインカウンタ61と、カウンタ値比較部62、63、64および65と、遅延部66と、ライン評価値加算部67と、ブロック加算平均値記憶部68および69とを有する。   13 includes a line counter 61, counter value comparison units 62, 63, 64, and 65, a delay unit 66, a line evaluation value addition unit 67, a block addition average value storage unit 68, and 69.

以下、第7のブロック加算平均算出部601の場合を例に説明する。   Hereinafter, the case of the seventh block addition average calculation unit 601 will be described as an example.

ラインカウンタ61は水平同期パルスに従ってライン数をカウントする。カウンタ値比較部62、63、64および65は図12における第2のライン判定部50に記憶されているライン位置mおよびライン位置m+aに対して、ラインカウンタ61のカウンタ値が各々1、m、m+aおよびn(nは最終ラインのライン位置)となるタイミングでトリガパルスを発生する。遅延部66は図12における第1のライン加算平均算出部3において算出された各ラインのライン評価値Lx(xはライン位置)が入力され、第2のライン判定部50によりラインm+aが前述の条件を満たすライン位置m+aを記憶したタイミング以降に、ラインm+aのライン評価値Lm+aがライン評価値加算部67に入力される様に、水平同期パルスに従ってライン評価値を遅延させる。ライン評価値加算部67はカウンタ値比較部62および64がトリガパルスを発生するタイミング、すなわちライン評価値加算部67にライン1およびラインm+aのライン評価値L1およびLm+aが入力されるタイミングで入力されるライン評価値に0を加算し、それ以外の場合には入力されるライン評価値にそれまでのライン評価値の合計値を加算した値を、水平同期パルスに従って出力する。ブロック加算平均値記憶部68および69はライン評価値加算部67が出力する値を入力され、カウンタ値比較部63および65がトリガパルスを発生するタイミングで取り込んで、各々m−1およびn−(m+a)+1で除算して記憶する。すなわちブロック加算平均値記憶部68はライン評価値加算部67により算出されたライン1からラインm−1までのライン評価値の加算値をm−1で除算して平均化した値を第7のブロック加算平均値B1,m−1(第8のブロック加算平均算出部701の場合は第8のブロック加算平均値A1,m−1)として記憶する。また、ブロック加算平均値記憶部69はライン評価値加算部67により算出されたラインm+aからラインnまでのライン評価値の加算値をn−(m+a)+1で除算して平均化した値を第7のブロック加算平均値Bm+a,n(第8のブロック加算平均算出部701の場合は第8のブロック加算平均値Am+a,n)として記憶する。   The line counter 61 counts the number of lines according to the horizontal synchronization pulse. The counter value comparison units 62, 63, 64, and 65 have the counter values of the line counter 61 of 1, m, respectively, with respect to the line position m and the line position m + a stored in the second line determination unit 50 in FIG. A trigger pulse is generated at the timing of m + a and n (n is the line position of the last line). The delay unit 66 receives the line evaluation value Lx (x is a line position) of each line calculated by the first line addition average calculation unit 3 in FIG. 12, and the second line determination unit 50 sets the line m + a to the above-described line m + a. The line evaluation value is delayed according to the horizontal synchronization pulse so that the line evaluation value Lm + a of the line m + a is input to the line evaluation value adding unit 67 after the timing at which the line position m + a satisfying the condition is stored. The line evaluation value adding unit 67 is input at the timing when the counter value comparing units 62 and 64 generate the trigger pulse, that is, at the timing when the line evaluation values L1 and Lm + a of the line 1 and the line m + a are input to the line evaluation value adding unit 67. In this case, a value obtained by adding the total value of the line evaluation values so far to the input line evaluation value is output in accordance with the horizontal synchronization pulse. The block addition average value storage units 68 and 69 receive the values output from the line evaluation value addition unit 67, and the counter value comparison units 63 and 65 take in the timing at which the trigger pulse is generated, respectively, and m−1 and n− ( m + a) Divide by +1 and store. In other words, the block addition average value storage unit 68 divides the addition value of the line evaluation values from the line 1 to the line m−1 calculated by the line evaluation value addition unit 67 by m−1 and averages the seventh value. Stored as the block addition average value B1, m-1 (in the case of the eighth block addition average calculation unit 701, the eighth block addition average value A1, m-1). Further, the block addition average value storage unit 69 divides the addition value of the line evaluation values from the line m + a to the line n calculated by the line evaluation value addition unit 67 by n− (m + a) +1 and averages the value. 7 as the block addition average value Bm + a, n (in the case of the eighth block addition average calculation unit 701, the eighth block addition average value Am + a, n).

第2のゲイン算出部80は第8のブロック加算平均値A1,m−1および第8のブロック加算平均値Am+a,nと第7のブロック加算平均値B1,m−1および第7のブロック加算平均値Bm+a,nを入力とし、ゲイン係数k(k=(Bm+a,n×A1,m−1)/(Am+a,n×B1,m−1))を算出して記憶する。ここで、Bm+a,n/Am+a,nについては実施の形態3の場合と同様であるが、さらにA1,m−1/B1,m−1の比が含まれている。これは外部閃光の影響を受けていない画像上部の領域の平均輝度レベルの比であり、2フレーム間のアイリスの変化などによる輝度レベルの変化を表すものと考えることができる。すなわちゲイン係数kは、外部閃光の発光に無関係なアイリスなどの撮影条件による変化分を考慮に入れた、外部閃光の影響を受けた画像下部のトランジェント期間を除く領域の輝度レベルが増加する前後の平均輝度レベルの比を表すことになる。   The second gain calculation unit 80 includes the eighth block addition average value A1, m−1 and the eighth block addition average value Am + a, n, the seventh block addition average value B1, m−1, and the seventh block addition. Using the average value Bm + a, n as an input, a gain coefficient k (k = (Bm + a, n × A1, m−1) / (Am + a, n × B1, m−1)) is calculated and stored. Here, Bm + a, n / Am + a, n is the same as in the third embodiment, but further includes a ratio of A1, m−1 / B1, m−1. This is the ratio of the average luminance level of the area above the image that is not affected by the external flash, and can be considered to represent a change in luminance level due to an iris change between two frames. That is, the gain coefficient k takes into account changes due to imaging conditions such as iris that are unrelated to the emission of the external flash, and before and after the increase of the luminance level in the region excluding the transient period under the influence of the external flash. It represents the ratio of the average luminance level.

第2のゲイン調整部90はこのゲイン係数kを用いて、実施の形態3と同様に、フレームメモリ2から出力される第2の撮像信号を適切なタイミングでゲイン調整することにより補正して、順次各フレームの撮像信号を出力する。   The second gain adjustment unit 90 uses the gain coefficient k to correct the second imaging signal output from the frame memory 2 by adjusting the gain at an appropriate timing, as in the third embodiment. The imaging signal of each frame is output sequentially.

なお、本実施の形態4の撮像装置、ライン判定部およびブロック加算平均算出部について、図12および図13を用いて説明したが、発明の要旨を逸脱しない範囲で適宜他の構成をとり得ることは言うまでもない。   In addition, although the imaging device, the line determination unit, and the block addition average calculation unit of the fourth embodiment have been described with reference to FIGS. 12 and 13, other configurations can be appropriately employed without departing from the gist of the invention. Needless to say.

なお、本実施の形態4において、各ラインの評価値を撮像信号の輝度レベルとしたが、第2のライン判定部50で外部閃光の影響の有無を判定するためのライン評価値は、外部閃光の影響の有無により変化するものであれば、例えば撮像信号の色成分や周波数成分およびSN比(Signal to Noise Ratio)など、他の信号成分や値を評価値としても構わない。また、第7のブロック加算平均算出部601および第8のブロック加算平均算出部701で算出するブロック加算平均値は、輝度レベルに比例して変化するものであれば他の信号成分や値を評価値としても構わない。   In the fourth embodiment, the evaluation value of each line is used as the luminance level of the imaging signal. However, the line evaluation value for determining the presence or absence of the influence of the external flash by the second line determination unit 50 is the external flash. Other signal components and values such as color components, frequency components and SN ratio (Signal to Noise Ratio) of the imaging signal may be used as evaluation values as long as they change depending on the presence or absence of the influence of. Also, if the block addition average value calculated by the seventh block addition average calculation unit 601 and the eighth block addition average calculation unit 701 changes in proportion to the luminance level, other signal components and values are evaluated. It does not matter as a value.

以上のように本実施の形態4によれば、最初にライン方向の評価値の急峻な変化を検出して、画面内の外部閃光の影響を受けた領域のトランジェント期間を除く領域の平均輝度レベルと、同領域の外部閃光の影響を受ける前の平均輝度レベルとの比と、各フレームの外部閃光の影響を受けていない領域の平均輝度レベルの比からゲイン係数を算出することでアイリス設定など撮影条件の変化を考慮した、より正確なゲイン係数を算出し、該ゲイン係数を用いて補正することで、外部閃光が発光されるタイミングによってどのラインから影響があった場合にも補正可能であり、また、補正の際に正常な画像をフリーズしたりせずに元画像の情報を生かすことで被写体の動きも不自然にならず、補正後の画像には本来存在すべき明るくなった画像も含まれるため違和感なく、さらにトランジェント期間については適切にゲイン量を変化させて補正することで、補正の有無を切替える境界ライン付近は段階的に外部閃光の影響を補正することができる。   As described above, according to the fourth embodiment, first, a steep change in the evaluation value in the line direction is detected, and the average luminance level of the region excluding the transient period in the region affected by the external flash in the screen Iris setting, etc. by calculating the gain coefficient from the ratio of the average brightness level of the same area before being affected by the external flash and the average brightness level of the area not affected by the external flash of each frame By calculating a more accurate gain coefficient that takes into account changes in shooting conditions and correcting using the gain coefficient, it is possible to correct any line affected by the timing of external flash emission. Also, by making use of the information of the original image without freezing the normal image during correction, the movement of the subject does not become unnatural, and the brightened image that should originally exist in the corrected image Without discomfort because it contains further by correcting properly changing the amount of gain for transient period, the border lines around switching the presence or absence of correction can correct stepwise influence of an external flash.

本実施の形態にかかる撮像装置は、近年ビデオカメラでも使われるようになってきたCMOS撮像素子を用いた撮像装置に特有の、フラッシュ等が焚かれた被写体を撮影することにより発生する白帯状の妨害を検出して補正する撮像装置として有用である。   The imaging apparatus according to the present embodiment has a white belt-like shape generated by photographing a subject with a flash or the like, which is peculiar to an imaging apparatus using a CMOS image sensor that has recently been used in video cameras. It is useful as an imaging device that detects and corrects interference.

1、113 撮像部
2 フレームメモリ
3、4 ライン加算平均算出部
5、50 ライン判定部
6、7、60、70、600、601、700、701 ブロック加算平均算出部
8、80 ゲイン算出部
9、90 ゲイン調整部
51、501 評価値シフトレジスタ部
52、502 評価値判定部
53、61 ラインカウンタ
54、504 ライン位置記憶部
62、63、64、65 カウンタ値比較部
66 遅延部
67 ライン評価値加算部
68、69 ブロック加算平均値記憶部
100 ビデオカメラ
101 モニター
102、103 スチルカメラ
104 被写体
114 画像処理部
116 記録表示処理部
117 バッファ
120 評価部
121 記憶部
123 制御部
DESCRIPTION OF SYMBOLS 1,113 Image pick-up part 2 Frame memory 3, 4 line addition average calculation part 5, 50 Line determination part 6, 7, 60, 70, 600, 601, 700, 701 Block addition average calculation part 8, 80 Gain calculation part 9, 90 Gain adjustment unit 51, 501 Evaluation value shift register unit 52, 502 Evaluation value determination unit 53, 61 Line counter 54, 504 Line position storage unit 62, 63, 64, 65 Counter value comparison unit 66 Delay unit 67 Line evaluation value addition Unit 68, 69 Block addition average value storage unit 100 Video camera 101 Monitor 102, 103 Still camera 104 Subject 114 Image processing unit 116 Recording display processing unit 117 Buffer 120 Evaluation unit 121 Storage unit 123 Control unit

Claims (9)

被写体像を撮像し映像信号を出力する撮像部と、
前記撮像部が出力する1フレームの映像信号について、隣接ラインのライン評価値の差が所定の値を超えるライン位置を有する映像信号を検出する検出部と、
前記検出部で検出した1フレームの映像信号について、少なくとも前記ライン位置より前のラインまでの平均輝度レベル、前記ライン位置以降の平均輝度レベル、当該映像信号の1フレーム前の映像信号における前記ライン位置に対応するライン位置より前のラインまでの平均輝度レベル、及び当該映像信号の1フレーム前の映像信号における前記ライン位置に対応するライン位置以降の平均輝度レベルのいずれかを用いて、補正ゲイン量を算出する補正ゲイン算出部と、
前記補正ゲイン量を用いて、前記検出部で検出した1フレームの映像信号における前記ライン位置より前のラインまでの映像信号、又は前記ライン位置以降の映像信号を補正する映像信号補正部と、
を備える撮像装置。
An imaging unit that captures a subject image and outputs a video signal;
A detection unit for detecting a video signal having a line position in which a difference in line evaluation values of adjacent lines exceeds a predetermined value for one frame of video signal output by the imaging unit;
For one frame of video signal detected by the detection unit, at least the average luminance level up to the line before the line position, the average luminance level after the line position, and the line position in the video signal one frame before the video signal Correction gain amount using either of the average luminance level up to the line before the line position corresponding to, and the average luminance level after the line position corresponding to the line position in the video signal one frame before the video signal A correction gain calculation unit for calculating
A video signal correction unit that corrects a video signal up to the line before the line position in the video signal of one frame detected by the detection unit, or a video signal after the line position, using the correction gain amount;
An imaging apparatus comprising:
前記補正ゲイン算出部は、
前記検出部で検出した1フレームの映像信号について、前記ライン位置以降の平均輝度レベルと、当該映像信号の1フレーム前の映像信号における前記ライン位置に対応するライン位置以降の平均輝度レベルとの比率を基に、前記補正ゲイン量を算出する
請求項1に記載の撮像装置。
The correction gain calculator is
The ratio between the average luminance level after the line position and the average luminance level after the line position corresponding to the line position in the video signal one frame before the video signal for one frame of video signal detected by the detection unit The imaging device according to claim 1, wherein the correction gain amount is calculated on the basis of the information.
前記補正ゲイン算出部は、
前記検出部で検出した1フレームの映像信号について、前記ライン位置より前のラインまでの平均輝度レベルと、当該映像信号の1フレーム前の映像信号における前記ライン位置に対応するライン位置より前のラインまでの平均輝度レベルとの比率を算出し、当該比率も考慮して、前記補正ゲイン量を算出する
請求項2に記載の撮像装置。
The correction gain calculator is
For the video signal of one frame detected by the detection unit, the average luminance level up to the line before the line position and the line before the line position corresponding to the line position in the video signal one frame before the video signal The imaging apparatus according to claim 2, wherein a ratio with the average luminance level up to and including the ratio is calculated in consideration of the ratio.
前記補正ゲイン算出部は、
前記検出部で検出した1フレームの映像信号に対する補正ゲイン量として、当該映像信号の1フレーム前の映像信号において算出した前記補正ゲイン量が存在している場合に、存在する当該補正ゲイン量を用いる
請求項1から3のいずれかに記載の撮像装置。
The correction gain calculator is
When the correction gain amount calculated in the video signal one frame before the video signal exists as the correction gain amount for the video signal of one frame detected by the detection unit, the correction gain amount that exists is used. The imaging device according to claim 1.
被写体像を撮像し映像信号を出力する撮像部と、
前記撮像部が出力する1フレームの映像信号について、隣接ラインのライン評価値の差が段階的に変化する映像信号を検出する検出部と、
前記検出部で検出した1フレームの映像信号について、前記検出部で検出した1フレームの映像信号について、少なくとも段階的に平均輝度レベルが変化する変化の開始ライン位置より前のラインまでの平均輝度レベル、変化の終了ライン位置以降の平均輝度レベル、当該映像信号の1フレーム前の映像信号における前記開始ライン位置に対応するライン位置より前のラインまでの平均輝度レベル、及び当該映像信号の1フレーム前の映像信号における前記終了ライン位置に対応するライン位置以降の平均輝度レベルのいずれかを用いて、補正ゲイン量を算出する補正ゲイン算出部と、
前記補正ゲイン量を用いて、少なくとも前記検出部で検出した1フレームの映像信号における前記開始ライン位置より前のラインまでの映像信号、前記開始ライン位置以降で前記終了ライン位置までの映像信号、及び前記終了ライン位置以降の映像信号のいずれかを補正する映像信号補正部と、
を備える撮像装置。
An imaging unit that captures a subject image and outputs a video signal;
A detection unit that detects a video signal in which a difference in line evaluation values of adjacent lines changes stepwise for one frame of video signal output by the imaging unit;
Regarding the one-frame video signal detected by the detection unit, the average luminance level of the one-frame video signal detected by the detection unit up to the line before the start line position at which the average luminance level changes at least in steps. The average luminance level after the end line position of the change, the average luminance level up to the line before the line position corresponding to the start line position in the video signal one frame before the video signal, and one frame before the video signal A correction gain calculation unit that calculates a correction gain amount using any one of the average luminance levels after the line position corresponding to the end line position in the video signal;
Using the correction gain amount, at least a video signal to a line before the start line position in a video signal of one frame detected by the detection unit, a video signal to the end line position after the start line position, and A video signal correction unit for correcting any of the video signals after the end line position;
An imaging apparatus comprising:
前記映像信号補正部は、
前記開始ライン位置以降で前記終了ライン位置までの映像信号について、前記補正ゲイン量を段階的に変化させた補正ゲイン量を用いて補正する
請求項5に記載の撮像装置。
The video signal correction unit is
The imaging apparatus according to claim 5, wherein a video signal from the start line position to the end line position is corrected using a correction gain amount obtained by changing the correction gain amount in a stepwise manner.
前記補正ゲイン算出部は、
前記検出部で検出した1フレームの映像信号について、前記終了ライン位置以降の平均輝度レベルと、当該映像信号の1フレーム前の映像信号における前記終了ライン位置に対応するライン位置以降の平均輝度レベルとの比率を基に、前記補正ゲイン量を算出する
請求項5又は6に記載の撮像装置。
The correction gain calculator is
For an image signal of one frame detected by the detection unit, an average luminance level after the end line position, and an average luminance level after the line position corresponding to the end line position in the video signal one frame before the video signal, The imaging device according to claim 5, wherein the correction gain amount is calculated based on a ratio of
前記補正ゲイン算出部は、
前記検出部で検出した1フレームの映像信号について、前記開始ライン位置より前のラインまでの平均輝度レベルと、当該映像信号の1フレーム前の映像信号における前記開始ライン位置に対応するライン位置より前のラインまでの平均輝度レベルとの比率を算出し、当該比率も考慮して、前記補正ゲイン量を算出する
請求項7に記載の撮像装置。
The correction gain calculator is
For the video signal of one frame detected by the detection unit, the average luminance level up to the line before the start line position and the line position corresponding to the start line position in the video signal one frame before the video signal. The imaging device according to claim 7, wherein a ratio with an average luminance level up to a line is calculated, and the correction gain amount is calculated in consideration of the ratio.
前記補正ゲイン算出部は、
前記検出部で検出した1フレームの映像信号に対する補正ゲイン量として、当該映像信号の1フレーム前の映像信号において算出した前記補正ゲイン量が存在している場合に、存在する当該補正ゲイン量を用いる
請求項5から8のいずれかに記載の撮像装置。
The correction gain calculator is
When the correction gain amount calculated in the video signal one frame before the video signal exists as the correction gain amount for the video signal of one frame detected by the detection unit, the correction gain amount that exists is used. The imaging device according to claim 5.
JP2009254659A 2009-11-06 2009-11-06 Imaging apparatus Pending JP2011101208A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009254659A JP2011101208A (en) 2009-11-06 2009-11-06 Imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009254659A JP2011101208A (en) 2009-11-06 2009-11-06 Imaging apparatus

Publications (1)

Publication Number Publication Date
JP2011101208A true JP2011101208A (en) 2011-05-19

Family

ID=44192028

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009254659A Pending JP2011101208A (en) 2009-11-06 2009-11-06 Imaging apparatus

Country Status (1)

Country Link
JP (1) JP2011101208A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2629508A2 (en) 2012-02-14 2013-08-21 JVC Kenwood Corporation Image processing device, image processing method, image processing program for flash detection
EP2739035A1 (en) 2012-12-03 2014-06-04 JVC KENWOOD Corporation Image processing device and method for correction of artefacts due to external flash
JP2014187673A (en) * 2013-02-20 2014-10-02 Panasonic Corp Image processing unit

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2629508A2 (en) 2012-02-14 2013-08-21 JVC Kenwood Corporation Image processing device, image processing method, image processing program for flash detection
US8947588B2 (en) 2012-02-14 2015-02-03 JVC Kenwood Corporation Image processing device, image processing method, image processing program
EP2739035A1 (en) 2012-12-03 2014-06-04 JVC KENWOOD Corporation Image processing device and method for correction of artefacts due to external flash
US8964109B2 (en) 2012-12-03 2015-02-24 JVC Kenwood Corporation Image processing device and method
JP2014187673A (en) * 2013-02-20 2014-10-02 Panasonic Corp Image processing unit

Similar Documents

Publication Publication Date Title
US9794493B2 (en) Image capturing apparatus, image capturing method, and control method
JP5410510B2 (en) Imaging device, external flash detection method, program, and integrated circuit
JP5634901B2 (en) Imaging apparatus, external flash correction method, program, and integrated circuit
JP2006245784A (en) Solid-state imaging apparatus and driving method thereof, and imaging system
US8634003B2 (en) Image sensing apparatus that estimates dark current and control method therefor
JP2014154982A (en) Image pickup device and control method therefor
US8502893B2 (en) Imaging apparatus, flash determination method, and recording medium
US8248520B2 (en) Imaging apparatus and imaging method
JP2015111252A (en) Imaging device, imaging device control method, program, and storage medium
CN107205123B (en) Flash band determination device, control method thereof, storage medium, and image pickup apparatus
JP2011101208A (en) Imaging apparatus
JP5947625B2 (en) Imaging apparatus and control method thereof
JP2008113237A (en) Flicker detecting method and device in imaging apparatus
JP2016005250A (en) Imaging apparatus, control method thereof, program and storage medium
JP6145746B2 (en) Imaging device
US11102423B2 (en) Image pickup apparatus that performs flicker detection, control method for image pickup apparatus, and storage medium
JP2010273147A (en) Imaging signal specific state detector, imaging apparatus, detection method for imaging signal specific state, program and integrated circuit
JP5225932B2 (en) Imaging apparatus, integrated circuit, image processing method, and program
JP2011193194A (en) Imaging apparatus
JP5533059B2 (en) Imaging device
JP6223166B2 (en) Image composition device, image composition method, imaging device, program, and storage medium
JP2011097204A (en) Imaging apparatus
JP2008103928A (en) Imaging apparatus
JP2017169026A (en) Flash band determination device, control method therefor, and control program, and imaging device
JP2016134900A (en) Imaging device