JP2008011226A - Method and device for detecting flicker of imaging apparatus - Google Patents

Method and device for detecting flicker of imaging apparatus Download PDF

Info

Publication number
JP2008011226A
JP2008011226A JP2006180018A JP2006180018A JP2008011226A JP 2008011226 A JP2008011226 A JP 2008011226A JP 2006180018 A JP2006180018 A JP 2006180018A JP 2006180018 A JP2006180018 A JP 2006180018A JP 2008011226 A JP2008011226 A JP 2008011226A
Authority
JP
Japan
Prior art keywords
flicker
flicker detection
imaging
frames
image pickup
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006180018A
Other languages
Japanese (ja)
Other versions
JP4840578B2 (en
Inventor
Shigeru Mesaki
茂 目崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2006180018A priority Critical patent/JP4840578B2/en
Publication of JP2008011226A publication Critical patent/JP2008011226A/en
Application granted granted Critical
Publication of JP4840578B2 publication Critical patent/JP4840578B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a method and device for detecting a flicker of an imaging apparatus that use an imaging device having an imaging element using a CMOS and can securely detect a flicker under even any photographic condition. <P>SOLUTION: The method uses the imaging apparatus which accumulates electric charges in respective pixels arrayed in a matrix form and reads them out by scanning in pixel row units, divides one-frame image data vertically into a plurality of frames to calculate mean luminances by the frames, finds differences in mean luminance between corresponding frames of successive frame image data, and performs flicker detection for extracting a flicker component to detect whether there is a flicker included in the image data and its frequency. When the flicker detection is performed, the charge accumulation time of the imaging device is made shorter than blinking cycles of a light source which generates the flicker. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、例えば蛍光灯のように電源周波数に起因して明るさが変化する光源で照明した被写体を、CMOS(Complementary Metal Oxide Semiconducter)で構成した撮像装置のように、個々の撮像素子における画像データとしての電荷の蓄積と読み出しを画素行単位の走査で行う撮像装置で撮像したときに画像に生じるフリッカを、確実に検出できるようにした撮像装置のフリッカ検出方法と装置に関するものである。   The present invention, for example, an image in an individual imaging element, such as an imaging device in which a subject illuminated with a light source whose brightness changes due to a power supply frequency such as a fluorescent lamp is configured with a complementary metal oxide semiconductor (CMOS). The present invention relates to a flicker detection method and apparatus for an image pickup apparatus that can reliably detect flicker generated in an image when an image pickup apparatus that performs accumulation and reading of charge as data by scanning in units of pixel rows is used.

ビデオカメラやデジタルカメラの撮像装置を構成する撮像素子には、従来から、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconducter)が用いられている。このうちCMOSを用いた撮像素子は、CCDを用いた撮像素子に較べてLSIと同様の製造プロセスが使用できるために量産性に優れ、増幅器を始め様々な機能を画素毎に設けることも可能で、回路全体のサイズを小さくできると共にコスト的にも有利になる。また、電源が低電圧の単一電源で済み、CCDでは問題となるスミアが無視できるほど小さい上に、データの読み出しが高速に行える等の利点がある。   Conventionally, CCDs (Charge Coupled Devices) and CMOSs (Complementary Metal Oxide Semiconductors) have been used as imaging elements that constitute imaging devices of video cameras and digital cameras. Of these, CMOS-based image sensors can be used in the same manufacturing process as LSIs compared to CCD-based image sensors, making them more mass-productive and providing various functions for each pixel, including amplifiers. The size of the entire circuit can be reduced, and the cost is advantageous. In addition, a single power source with a low voltage is sufficient, and there is an advantage that smear, which is a problem in the CCD, is so small that it can be ignored, and that data can be read at high speed.

しかしながらCMOSを用いた撮像素子は、ノイズが多いということと、各画素を構成する撮像素子からの撮像データをCCDと異なって個別に取り出すため、撮像に際し、電荷露光を行うタイミングがライン毎に異なると共に画像データを時系列に読み出すことになり、走査線ごとに走査に要する時間だけ蓄積時間がずれてしまう、という欠点がある。この欠点のため、CMOSを用いた撮像装置では、高速で動いている被写体を撮像した場合に走査方向に曲がった画像が出力されたり、被写体の照明に、例えば蛍光灯のように、電源周波数に起因して明るさが変化する光源を用いた場合、図7に誇張して示したようにフリッカと呼ばれる画像に明暗のある縞模様が発生する。   However, an image pickup device using CMOS has a lot of noise, and since the image pickup data from the image pickup device constituting each pixel is taken out separately from the CCD, the timing of performing charge exposure differs for each line at the time of image pickup. At the same time, the image data is read out in time series, and there is a drawback that the accumulation time is shifted by the time required for scanning for each scanning line. Due to this drawback, in an imaging device using CMOS, when a subject moving at high speed is imaged, an image bent in the scanning direction is output, or the illumination frequency of the subject is set to the power frequency such as a fluorescent lamp. When a light source whose brightness changes due to this is used, as shown in an exaggerated manner in FIG.

このフリッカは、電源周波数によって蛍光灯が1秒間に100回(50Hzの場合)、あるいは120回(60Hzの場合)点滅を繰り返すことにより生じるもので、例えば撮像装置のフレームレートを15回/秒とすると、1フレーム中にこの点滅が50Hzの場合で約6.7回、60Hzの場合は8回起こることになり、各撮像素子における電荷蓄積時間がこの光源の点滅周期の整数倍でない場合、図7に示したような縞模様が画像に発生するわけである。   This flicker occurs when the fluorescent lamp repeats blinking 100 times per second (in the case of 50 Hz) or 120 times (in the case of 60 Hz) depending on the power supply frequency. For example, the frame rate of the imaging device is set to 15 times / second. Then, this blinking occurs in one frame about 6.7 times at 50 Hz, and 8 times at 60 Hz. If the charge accumulation time in each image sensor is not an integral multiple of the blinking period of this light source, The stripe pattern as shown in FIG. 7 is generated in the image.

それに対してCCDでは、光の照射によって同一時刻に蓄積した電荷をそのままの状態で転送機能を用いて増幅器に運ぶため、データ全体の読み出しはCMOSに較べて遅くなるが画面内に明暗のムラが生じるといったことはなく、また、CCD自体の感度がCMOSに対して高い上にノイズも少ない。   On the other hand, in the CCD, since the charge accumulated at the same time by light irradiation is conveyed to the amplifier using the transfer function as it is, the reading of the entire data is slower than the CMOS, but unevenness of light and dark in the screen. It does not occur, the sensitivity of the CCD itself is higher than that of CMOS, and there is little noise.

しかしながら、例えば一眼レフ型のデジタルカメラなどにおいてはセンサのサイズを大きくできるため、感度やノイズの改善が容易である。さらにCMOSを用いた撮像素子は、その高速性によって一眼レフ型のデジタルカメラ等に要求される連写機能を容易に実現することができ、前記したCMOSを用いた撮像素子の利点と相俟って、最近の一眼レフ型デジタルカメラではこのCMOSを用いた撮像素子を備えたものが多くなっている。また、前記したフリッカの問題についても、シャッタ時間、すなわちCMOSにおける個々の撮像素子の電荷蓄積時間を明暗の生じる間隔、すなわち電源周波数による光源の点滅周期の倍数とすることで防ぐことができる。   However, for example, in a single-lens reflex digital camera, the size of the sensor can be increased, so that the sensitivity and noise can be easily improved. Furthermore, an image sensor using CMOS can easily realize the continuous shooting function required for a single-lens reflex digital camera or the like due to its high speed, and this is combined with the advantages of the image sensor using CMOS described above. Many recent single-lens reflex digital cameras are equipped with an image sensor using this CMOS. The above-mentioned flicker problem can also be prevented by setting the shutter time, that is, the charge accumulation time of each image pickup device in the CMOS, to a multiple of the interval of light and dark, that is, the blinking cycle of the light source depending on the power supply frequency.

しかしながら前記したように、フリッカによる縞模様を無くすか目立たないようにするためには、電源周波数に起因する光源の点滅周期を正確に検出する必要がある。こういった技術に関しては例えば特許文献1に、CCDを用いた単板式テレビカメラに関するものではあるが、蛍光灯などのフリッカを持つ照明下でちらつきを生じさせないよう、蓄積時間を1/30秒とすることが示され、さらにこのように蓄積時間を1/30秒とした場合、移動する車などを撮像すると画像がボケてしまう(被写体ブレ)という問題が生じるのを防止するため、蓄積時間をフレーム周期とフィールド周期に切り換え可能とし、且つ、切り換え時における信号のレベル変化を無くし、さらに、撮像している被写体の状態、例えば光量が充分か否か、フリッカが多いか少ないか、また、被写体の動きが多いか少ないかなどを判断して自動的に蓄積時間を切り換え、再生画像のS/N、フリッカの量、及び蓄積時間による動的解像度が最良の状態となるような制御を行う、蓄積時間切り換え固体撮像装置が示されている。   However, as described above, it is necessary to accurately detect the blinking cycle of the light source caused by the power supply frequency in order to eliminate or make the stripe pattern due to flicker disappear or inconspicuous. Regarding such technology, for example, Patent Document 1 relates to a single-panel television camera using a CCD, but the accumulation time is 1/30 seconds so as not to cause flicker under illumination with flicker such as a fluorescent lamp. Furthermore, when the accumulation time is set to 1/30 seconds in this way, the accumulation time is reduced to prevent the problem that the image is blurred (subject blurring) when a moving car is imaged. It is possible to switch between the frame period and the field period and eliminate the signal level change at the time of switching. Further, the state of the subject being imaged, for example, whether the light quantity is sufficient, whether the flicker is large or small, and the subject The storage time is automatically switched by determining whether there is a lot of movement, and the S / N of the playback image, the amount of flicker, and the dynamic depending on the storage time Zodo performs control such that the best condition, the storage time switching the solid-state imaging device is shown.

また、特許文献2には、画像を垂直走査方向に分割して複数のフリッカ検波枠を設定すると共に、各フリッカ検波枠毎に輝度データの検波を行ない、さらに各フリッカ検波枠毎に前後の2つのフレームの輝度データとの差分をとってフリッカ成分を抽出することで、フリッカの周波数を算出する方法が示されている。なお、この特許文献2に示されたフリッカ検出方法では、前後のフレームの差分をとった場合にフリッカ成分が消えないよう、撮像信号のフレームレートとフリッカ周波数とを同期させないように調整している。   In Patent Document 2, a plurality of flicker detection frames are set by dividing an image in the vertical scanning direction, luminance data is detected for each flicker detection frame, and the front and rear two frames are detected for each flicker detection frame. A method of calculating a flicker frequency by extracting a flicker component by taking a difference from luminance data of one frame is shown. In the flicker detection method disclosed in Patent Document 2, adjustment is made so that the frame rate of the imaging signal and the flicker frequency are not synchronized so that the flicker component does not disappear when the difference between the previous and subsequent frames is taken. .

特開昭63−20977号公報JP-A 63-20977 特開2003−189129号公報JP 2003-189129 A

しかしながら特許文献1に示された蓄積時間切り換え固体撮像装置は、光量、フリッカの量、被写体の動き、再生画像のS/Nなどによって蓄積時間をフレーム周期とフィールド周期に切り換え、それによって動的解像度が最良の状態となるような制御しているだけで、フリッカの周波数を検出することについては記載が無く、また、特許文献2のフリッカ検出方法では、被写体が高速で動くために生じる像ブレや、撮像装置を完全に固定せずに手で持っているためにフレーム間で画像のブレ(手ブレ)が発生すると、フリッカ成分を抽出するため、各フリッカ検波枠毎に前後の2つのフレームの輝度データとの差分をとる処理に際し、検出の精度が落ちてフリッカ成分抽出がうまくできない場合があるという問題が生じる。   However, the accumulation time switching solid-state imaging device disclosed in Patent Document 1 switches the accumulation time between the frame period and the field period depending on the light amount, the amount of flicker, the movement of the subject, the S / N of the reproduced image, etc. In the flicker detection method disclosed in Patent Document 2, there is no description about detecting the flicker frequency only by controlling so that the image becomes the best state. If the image blurring occurs between the frames because the image pickup apparatus is held by the hand without being completely fixed, the flicker component is extracted. Therefore, the two frames before and after each flicker detection frame are extracted. In the process of obtaining the difference from the luminance data, there is a problem that the detection accuracy is lowered and flicker component extraction may not be performed properly.

そのため本発明においては、CMOSを用いた撮像素子を有する撮像装置を用い、どのような撮影条件に於いても、確実にフリッカを検出できるようにした撮像装置のフリッカ検出方法と装置を提供することが課題である。   Therefore, the present invention provides a flicker detection method and apparatus for an image pickup apparatus that uses an image pickup apparatus having an image pickup element using CMOS and can reliably detect flicker under any shooting conditions. Is an issue.

上記課題を解決するため本発明になる撮像装置のフリッカ検出方法は、
マトリクス状に配列された各画素への電荷の蓄積及び読み出しを画素行単位の走査で行う撮像素子を備えた撮像装置であって、時間的に連続する複数フレーム間の蓄積電荷量の差分を取り、点滅する光源下で発生するフリッカ成分を検出する撮像装置のフリッカ検出方法において、
前記フリッカ検出のための前記複数フレームにおける電荷蓄積時間を、前記光源の点滅周期より短かくしてフリッカを検出することを特徴とする。
In order to solve the above problems, a flicker detection method for an imaging apparatus according to the present invention is as follows.
An image pickup apparatus including an image pickup device that performs charge accumulation and readout to each pixel arranged in a matrix by scanning in units of pixel rows, and calculates a difference in accumulated charge amount between a plurality of temporally continuous frames. In the flicker detection method of the imaging apparatus for detecting the flicker component generated under the blinking light source,
The flicker is detected by making the charge accumulation time in the plurality of frames for flicker detection shorter than the blinking cycle of the light source.

また、この方法を実施する撮像装置のフリッカ検出装置は、
各画素がマトリクス状に配列され、電荷の蓄積及び読み出しを画素行単位の走査で行う撮像素子を備えた撮像装置と、該撮像装置からの画像データに含まれるフリッカの有無と周波数とを検出するフリッカ検出状態において、時間的に連続する複数フレーム間の蓄積電荷量の差分を取り、点滅する光源下で発生するフリッカ成分を検出するフリッカ検出部とからなる撮像装置のフリッカ検出装置において、
前記フリッカ検出状態において、前記複数フレームにおける電荷蓄積時間を光源の点滅周期より短くする指示を前記撮像装置に送る制御手段を備えたことを特徴とする。
In addition, the flicker detection device of the imaging device that implements this method is:
Each pixel is arranged in a matrix, and an imaging device including an imaging device that performs charge accumulation and readout by scanning in units of pixel rows, and the presence / absence and frequency of flicker included in image data from the imaging device are detected. In the flicker detection state of the imaging apparatus including a flicker detection unit that detects a flicker component generated under a blinking light source by taking a difference in accumulated charge amount between a plurality of temporally continuous frames in a flicker detection state.
In the flicker detection state, there is provided control means for sending an instruction to the image pickup apparatus to make the charge accumulation time in the plurality of frames shorter than the blinking cycle of the light source.

このようにフリッカ検出にあたり、電荷蓄積時間をフリッカを生じさせる光源の点滅周期より短くすることで、撮像した画像のデータは光源のフリッカに起因する明暗を顕著に反映したデータとなり、フリッカをより高い精度で検出できるようになると共に、電荷蓄積時間を短くしたことにより、被写体ブレや手ブレに対しても画像データに対する影響が少なくなり、より効果的にフリッカ検出を行うことができる。   Thus, in detecting flicker, by making the charge accumulation time shorter than the blinking cycle of the light source that causes flicker, the data of the captured image becomes data that remarkably reflects the light and darkness caused by the flicker of the light source, and the flicker is higher. In addition to being able to detect with accuracy, the charge accumulation time is shortened, so that subject blur and camera shake have less influence on image data, and flicker detection can be performed more effectively.

そして、前記時間的に連続する複数フレーム間の蓄積電荷量の差分は、前記フレームを垂直方向に複数の枠に分割して枠毎の平均輝度を算出し、前記時間的に連続するフレームにおける対応する枠の平均輝度との間で差分を取って算出するよう、フリッカ検出方法と装置を構成することで、フリッカを顕著に反映したデータが得られ、フリッカをより高い精度で検出できる。   Then, the difference in accumulated charge amount between the plurality of temporally continuous frames is calculated by dividing the frame into a plurality of frames in the vertical direction and calculating an average luminance for each frame, and corresponding to the temporally continuous frames. By configuring the flicker detection method and apparatus so as to calculate the difference between the average luminance of the frames to be calculated, data that significantly reflects the flicker can be obtained, and flicker can be detected with higher accuracy.

また、前記フリッカ検出時、前記撮像装置における撮像フレームレートを高くしてフリッカを検出するようフリッカ検出方法と装置を構成することで、被写体ブレや手ブレの画像データに対する影響がさらに少なくなり、より高い精度でフリッカ検出を行うことができる。   Further, by configuring the flicker detection method and apparatus so as to detect flicker by increasing the imaging frame rate in the imaging apparatus at the time of detecting the flicker, the influence on the image data of subject blur and camera shake is further reduced. Flicker detection can be performed with high accuracy.

さらに、前記フリッカ検出は、被写体の明るさを定期的に確認し、被写体の明るさが予め定められた値を下回った場合に実施するようフリッカ検出方法と装置を構成することで、例えば明るさ検出手段として撮像装置からの画像データ、若しくは別途設けた測光センサなどを用い、その出力で被写体の明るさ、すなわち照度が一般的な蛍光灯の照度(約300Luxから700Lux)よりも明らかに大きいと判断されたきは、屋外と判断してフリッカ検出を行わないようにすることで、誤検出を防ぐこともできる。   Further, the flicker detection is performed by periodically checking the brightness of the subject and configuring the flicker detection method and apparatus so as to be performed when the brightness of the subject falls below a predetermined value. When image data from an imaging device or a photometric sensor provided separately is used as a detection means, and the output of the subject, that is, the brightness of the subject, that is, the illuminance is clearly larger than the illuminance of a general fluorescent lamp (about 300 Lux to 700 Lux) If the judgment is made, it is possible to prevent false detection by judging that it is outdoors and not performing flicker detection.

そして、前記フリッカ検出のために取得したフレームは、表示または記憶に使わないようフリッカ検出方法と装置を構成することで、フリッカ検出時には通常より電荷蓄積時間を短くし、画像データの増幅ゲインを大きくするからその分ノイズが増えるが、このように表示または記憶に使わないようにすることで、画質の悪化を防ぐことが可能となる。   The flicker detection method and apparatus are configured so that the frames acquired for flicker detection are not used for display or storage, so that when the flicker is detected, the charge accumulation time is shorter than usual and the amplification gain of the image data is increased. As a result, the noise increases accordingly, but it is possible to prevent deterioration of the image quality by not using it for display or storage.

また、前記フリッカ検出時は、前記フリッカを生じさせる光源の点滅周期より短くした撮像素子における電荷蓄積時間に対応させて、撮像素子からの画像データの増幅ゲインを上げるようフリッカ検出方法と装置を構成することで、フリッカの検出が容易に行える。   Further, at the time of detecting the flicker, the flicker detection method and apparatus are configured to increase the amplification gain of the image data from the image sensor corresponding to the charge accumulation time in the image sensor that is shorter than the blinking cycle of the light source causing the flicker. By doing so, flicker can be easily detected.

本発明によれば、何らかの特別な装置を付加することなく、フリッカ成分の検出精度を高め、確実にフリッカを検出することができる。   According to the present invention, the flicker component detection accuracy can be improved and flicker can be reliably detected without adding any special device.

以下、図面を参照して本発明の好適な実施例を例示的に詳しく説明する。但しこの実施例に記載されている構成部品の寸法、材質、形状、その相対的配置等は、この発明の範囲をそれに限定する趣旨ではなく、単なる説明例に過ぎない。   Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the drawings. However, the dimensions, materials, shapes, relative arrangements, and the like of the component parts described in this embodiment are not intended to limit the scope of the present invention, but are merely illustrative examples.

図1は、本発明になるフリッカ検出装置を有する撮像装置における一実施形態の概略構成を示すブロック図である。図中10はCMOSを撮像素子として用い、その撮像素子からの出力信号を増幅するゲインアンプや、アナログ画像信号をデジタルの画像信号に変換するA/Dコンバータなどを有し、撮像した画像の信号を出力する撮像部、11は撮像部10からの画像信号に対し、カラー調整、ガンマ補正、輝度信号生成等の演算を施す画像処理部、12は被写体が電源周波数などに起因する光量変化を有する光源で照明されたことで生じるフリッカを検出するフリッカの検出部で、このフリッカ検出部12は、後記するように連続する複数フレーム間の蓄積電荷量の差分を取るため、1フレームの画像信号を垂直方向に複数の枠に分割し、枠毎の平均輝度を算出して連続するフレームにおける対応する枠の平均輝度の差分を取る機能を有し、これら平均輝度と差分の算出手段、記憶装置などを有している。また、フリッカの検出以外に撮像部10から送られてくる画像信号中の輝度信号を用いたり、別途設けた測光センサなどを用いて被写体の明るさを検出し、その明るさ、すなわち照度が一般的な蛍光灯の照度(約300Luxから700Lux)よりも明らかに大きいと判断されたきは、屋外と判断してフリッカ検出を行わないようにするため、上記照度値を下回っている場合、システム制御部13にその旨の信号を出力する機能も有する。   FIG. 1 is a block diagram showing a schematic configuration of an embodiment of an imaging apparatus having a flicker detection apparatus according to the present invention. Reference numeral 10 in the figure uses a CMOS as an image sensor, and has a gain amplifier that amplifies an output signal from the image sensor, an A / D converter that converts an analog image signal into a digital image signal, and the like. 11 is an image processing unit that performs operations such as color adjustment, gamma correction, and luminance signal generation on the image signal from the imaging unit 10, and 12 has a light amount change caused by the power source frequency of the subject. This flicker detection unit 12 detects flicker generated by illumination with a light source. The flicker detection unit 12 takes an image signal of one frame in order to take a difference in accumulated charge amount between a plurality of consecutive frames as will be described later. Dividing into multiple frames in the vertical direction, calculating the average brightness for each frame, and taking the difference of the average brightness of the corresponding frames in consecutive frames. Degrees and the difference calculation means, and a like storage device. In addition to detecting flicker, the brightness of the subject is detected using a luminance signal in the image signal sent from the imaging unit 10 or using a photometric sensor provided separately, and the brightness, that is, the illuminance is generally When it is determined that the illuminance of a typical fluorescent lamp is clearly larger than the illuminance (about 300 Lux to 700 Lux), it is determined that the illumination is outside and flicker detection is not performed. 13 also has a function of outputting a signal to that effect.

13は撮像部10を撮像部制御信号18により制御すると共に、フリッカ検出部12からの明るさが予め定められた値を下回っている旨の信号を受け、フリッカ有り/無しの判定、フリッカ周波数の判定を行うためのフリッカ検出を撮像部10とフリッカ検出部12に指示し、フリッカ検出部12からの評価値に基づいて、フリッカ有り/無しの判定、フリッカ周波数の判定を行うと共に、画像データ格納用の画像メモリ16の制御、LCD等の画像表示部17の制御などを行うCPUを有したシステム制御部、14はキースイッチやダイヤル等を有し、フリッカ検出を行わないときに撮像した画像データをフリッカ検出部12を通過させ、そのスルー画像を画像表示部17に表示させたり、画像メモリ16に記録等を行わせるモードを選択させるための手段等を有する操作部、15はメモリバスである。   13 controls the image pickup unit 10 with an image pickup unit control signal 18 and receives a signal from the flicker detection unit 12 indicating that the brightness is below a predetermined value. Flicker detection for performing determination is instructed to the imaging unit 10 and the flicker detection unit 12, and based on the evaluation value from the flicker detection unit 12, the presence / absence of flicker and the flicker frequency are determined, and image data is stored. System control unit having a CPU for controlling the image memory 16 and the image display unit 17 such as an LCD, etc. 14 has a key switch, a dial, etc., and image data captured when flicker detection is not performed A mode in which the flicker detection unit 12 is passed and the through image is displayed on the image display unit 17 or recorded in the image memory 16. Operation unit having means such as for, 15 is a memory bus.

本発明になるフリッカ検出装置を有する撮像装置は、フリッカ検出を行わない通常の状態では、システム制御部13からの指示により、撮像部10で撮像素子からの画像信号をゲインアンプで増幅した後、このアナログ画像信号をA/Dコンバータでデジタル画像信号に変換し、画像処理部11でカラー調整、ガンマ補正、輝度信号生成等の演算を施す。そして、システム制御部13からフリッカ検出部12にフリッカ検出指示信号が来ていないから、このフリッカ検出部12においては何も処理をせずに画像信号をメモリバス15を介して画像表示部17に送り、表示させる。また、操作部14からシステム制御部13に画像データを画像メモリ16に記憶させる旨の指示が来ている場合、画像メモリ16に指示を送って画像信号を記憶させる。   In a normal state in which flicker detection is not performed, the image pickup apparatus having the flicker detection device according to the present invention amplifies an image signal from the image pickup element by a gain amplifier in the image pickup unit 10 in accordance with an instruction from the system control unit 13. The analog image signal is converted into a digital image signal by an A / D converter, and the image processing unit 11 performs operations such as color adjustment, gamma correction, and luminance signal generation. Since no flicker detection instruction signal is received from the system control unit 13 to the flicker detection unit 12, the flicker detection unit 12 does not perform any processing and sends the image signal to the image display unit 17 via the memory bus 15. Send and display. When the operation unit 14 instructs the system control unit 13 to store the image data in the image memory 16, the instruction is sent to the image memory 16 to store the image signal.

このように構成した撮像装置において、被写体が電源周波数などに起因する光量変化を有する光源で照明されたことで前記したように被写体の明るさが予め定められた値を下回り、フリッカを生じる可能性があると判断された場合、フリッカの有無、フリッカ周波数の判定が行われる。   In the imaging apparatus configured as described above, the brightness of the subject may fall below a predetermined value and flicker may occur as described above, because the subject is illuminated with a light source having a light amount change caused by a power frequency or the like. If it is determined that there is a flicker, the presence / absence of flicker and the flicker frequency are determined.

図2はフリッカ検出部12によるフリッカ検出の概略を説明するための図で、(A)はフリッカ検出を行うときに1フレーム分の画像データを分割した状態を示した図、(B)は(A)のように分割した各枠内における輝度信号の平均値を示した図、(C)はフリッカの周波数を検出するためのバンドパスフィルタ(BPF)を示した図、図3は本発明のフリッカ検出方法のフロー図である。また、図4乃至図6は、本発明のフリッカ検出方法を説明するための図であり、図4は、CMOSを用いた撮像素子における電荷蓄積時間を短くして画像上にフリッカにより生じる縞模様が明確に現れるようにした場合、図5は通常フレームの間に、周期的にフリッカ検出を行うためにフレームレートを上げたフレームを挿入し、また、そのフレームで取り込んだ画像はスルー像として用いないことを説明するための図、図6は電荷蓄積時間を短くせず、フレームレートも上げなかった場合のフリッカにより生じる縞模様の状態を示した図である。   2A and 2B are diagrams for explaining the outline of flicker detection by the flicker detection unit 12. FIG. 2A shows a state in which image data for one frame is divided when flicker detection is performed, and FIG. A diagram showing the average value of the luminance signal in each frame divided as in A), (C) a diagram showing a band-pass filter (BPF) for detecting the flicker frequency, and FIG. It is a flowchart of a flicker detection method. FIGS. 4 to 6 are diagrams for explaining the flicker detection method of the present invention. FIG. 4 is a striped pattern generated by flicker on an image by shortening the charge accumulation time in an image sensor using a CMOS. In FIG. 5, a frame with an increased frame rate is inserted between normal frames to detect flicker periodically, and an image captured in that frame is used as a through image. FIG. 6 is a diagram showing a state of a striped pattern generated by flicker when the charge accumulation time is not shortened and the frame rate is not increased.

本発明になる撮像装置におけるフリッカの検出方法では、周期的(例えば5秒または10秒毎)にシステム制御部13からフリッカ検出部12に、図3に示したフローによるフリッカ検出を行うよう指示が出される。その指示により図3のステップS61でこの処理がスタートすると、まずステップS62で、フリッカ検出部12が撮像部10から送られてくる画像信号中の輝度信号、または別途設けた測光センサにより被写体の明るさを検出し、その信号を受けたシステム制御部13が、ステップS63でその明るさが予め定められた値を下回っているか否かを判断する。下回っていない場合はフリッカ検出の必要がないとしてステップS76に行き、処理が終了する。   In the flicker detection method in the imaging apparatus according to the present invention, the system control unit 13 instructs the flicker detection unit 12 to perform flicker detection according to the flow shown in FIG. 3 periodically (for example, every 5 seconds or 10 seconds). Is issued. When this process is started in step S61 of FIG. 3 according to the instruction, first, in step S62, the brightness of the subject is detected by the luminance signal in the image signal sent from the imaging unit 10 by the flicker detection unit 12 or by a separately provided photometric sensor. The system control unit 13 receiving the signal determines whether or not the brightness is below a predetermined value in step S63. If not, it is determined that it is not necessary to detect flicker, and the process goes to step S76 to end the process.

このように例えば5秒から10秒に1回の割でフリッカ検出の実施指示を出すのは、被写体を照明している光源が変化する可能性があるからである。また、被写体の明るさを検出してフリッカ検出を実施するか否かを判断するのは、不要なフリッカ検出を実施することで誤検知が行われるのを防止するためであるが、フリッカ検出をこのように被写体の明るさを検出して実施するか否か判断するのではなく、システム制御部13からフリッカ検出実施の指示が出た場合は、必ず実施するようにしても良い。   The reason why the flicker detection execution instruction is issued once every 5 to 10 seconds, for example, is that the light source that illuminates the subject may change. The reason for detecting whether or not to perform flicker detection by detecting the brightness of the subject is to prevent false detection by performing unnecessary flicker detection. In this way, instead of determining whether or not to detect the brightness of the subject, the system control unit 13 may always execute when flicker detection is instructed.

そして、ステップS63で明るさが規定値以下と判断された場合、処理がステップS64に進んでフリッカ検出のための用意を行う。すなわちシステム制御部13は、まず、撮像部10から画像処理部11を介して送られてくる1フレーム分の画像データをフリッカ検出部12で、図2(A)に示したように検出枠[0]、検出枠[1]、……、検出枠[15]と垂直方向に等分割する。この1フレーム分の画像データの分割数は、それぞれの枠内の走査に要する合計時間が検出対象とすべき光源点滅周期より短くなるようにする。すなわち前記したように、例えば撮像部のフレームレートを15回/秒とすると、1フレーム中にこの点滅が50Hzの場合で約6.7回、60Hzの場合は8回起こることになるから、最小輝度部と最大輝度部を別々の枠とするためには、少なくとも16分割以上にする必要がある。枠の分割数はより大きい方が周波数検出精度に対しては有利となるが、演算処理の負荷が増大することになるので、その点を考慮して決める。なお、以下の説明では、一例として1フレーム分の画像データを16分割した場合を例に説明するが、これは16分割に限らず、上記した16分割以上であれば任意の数に分割しても良いことは自明である。   If it is determined in step S63 that the brightness is equal to or less than the specified value, the process proceeds to step S64 to prepare for flicker detection. That is, the system control unit 13 first uses the flicker detection unit 12 to detect one frame of image data sent from the imaging unit 10 via the image processing unit 11, as shown in FIG. 0], detection frame [1],..., And detection frame [15] are equally divided in the vertical direction. The number of divisions of image data for one frame is set so that the total time required for scanning within each frame is shorter than the light source blinking cycle to be detected. That is, as described above, for example, if the frame rate of the imaging unit is set to 15 times / second, this blinking occurs approximately 6.7 times in the case of 50 Hz and 8 times in the case of 60 Hz in one frame. In order to make the luminance part and the maximum luminance part separate frames, it is necessary to make at least 16 divisions or more. A larger number of frame divisions is advantageous for frequency detection accuracy, but the calculation processing load increases, and is determined in consideration of this point. In the following description, a case where image data for one frame is divided into 16 as an example will be described as an example. However, this is not limited to 16 divisions. It is obvious that it is good.

そして、次にシステム制御部13はステップS65で、撮像部10を構成するCMOSを用いた撮像素子の電荷蓄積時間を図4に33で示したように、フリッカによる明暗が明確に現れるような値に設定し、それによる蓄積電荷量の低下を、撮像部10が有するアンプのゲインを上げて補うよう指示する。なお、この図4において31は垂直同期信号であり、32は電源周波数による光源の明るさの変化状態を示したもの、33はそれぞれの黒線がCMOSを用いた撮像素子の各水平行毎の電荷蓄積時間の長さを示したもの、34は撮像された画像データによって生じるフリッカによる明暗を表している。なお、以下で説明する図5、図6に於いて上記と同一の番号が付けられたものは同じものである。   Next, in step S65, the system control unit 13 sets the charge accumulation time of the image pickup device using the CMOS constituting the image pickup unit 10 to a value that clearly shows the light and darkness caused by flicker, as indicated by 33 in FIG. And instructing the increase in the gain of the amplifier included in the imaging unit 10 to compensate for the decrease in the accumulated charge amount. In FIG. 4, 31 is a vertical synchronizing signal, 32 shows the change in brightness of the light source depending on the power supply frequency, and 33 shows each black line for each horizontal line of the image sensor using CMOS. The length of charge accumulation time 34 indicates the light and darkness caused by flicker generated by the captured image data. In FIG. 5 and FIG. 6 described below, the same reference numerals as those described above are the same.

この図4からわかるように、フリッカ検出処理において、撮像部10を構成するCMOSを用いた撮像素子の電荷蓄積時間33を短くする程、各水平素子間の光量積分値の相対比が大きくなる。この場合は、34で示したようにフリッカによる明るさの変化が顕著に現れたデータが得られるため、フリッカ検出の精度が高くなる。また、電荷蓄積時間33を短くしたことにより、被写体ブレや手ブレに対しても画像データに対する影響が少なくなり、より効果的にフリッカ検出を行うことができる。   As can be seen from FIG. 4, in the flicker detection process, the shorter the charge accumulation time 33 of the image sensor using the CMOS that constitutes the imaging unit 10, the greater the relative ratio of the integrated light quantity between the horizontal elements. In this case, as shown at 34, data in which the brightness change due to flicker appears remarkably is obtained, and therefore the accuracy of flicker detection is increased. In addition, since the charge accumulation time 33 is shortened, the influence of the image data on the subject blur and camera shake is reduced, and flicker detection can be performed more effectively.

それに反し、図6に示したように撮像部10を構成するCMOSを用いた撮像素子の電荷蓄積時間を、光源の明るさの変化周期32よりも51のように長くすると、各素子は、被写体におけるフリッカにより変化した明るさを積分して撮像するから、得られる画像データは、被写体を照明する光源の明るさ変化を平均した値が記録されることになり、52に示したように、フリッカによる画像への影響は比較的小さなものとなる。従って、この場合はフリッカ検出が困難になる。   On the other hand, as shown in FIG. 6, when the charge accumulation time of the image pickup device using the CMOS constituting the image pickup unit 10 is made longer than the light source brightness change period 32 by 51, each device becomes a subject. Since the image data obtained by integrating the brightness changed due to the flicker in the image is obtained, the average value of the brightness change of the light source that illuminates the subject is recorded as the obtained image data. The effect on the image due to is relatively small. Therefore, in this case, flicker detection becomes difficult.

再度図3に戻って、次にステップS66でシステム制御部13は、フリッカ検出を容易にするため、図5に示したように、フレームレートを上げるよう撮像部10に指示する。この図5の場合、31で示した垂直同期信号が時間tとtの中間のtにも入り、通常の1フレーム間隔である時間tとtの間に2フレーム分の画像を取得する。こうすると、フレーム間の時間差が小さくなり、被写体ブレや手ブレの発生確率・影響が小さくなって、フリッカ検出精度が向上する。なお、この図5に示したフリッカ検出用のフレームレートは通常の2倍としたが、これは一例であり、もっと高いレートに設定しても良いことは自明である。 Returning to FIG. 3 again, in step S66, the system control unit 13 instructs the imaging unit 10 to increase the frame rate as shown in FIG. 5 in order to facilitate flicker detection. In the case of FIG. 5, also enter the vertical synchronizing signal is time t 3 and t intermediate t 4 of 5 shown in 31, two frames of the image during the time a normal one frame interval t 3 and t 5 To get. This reduces the time difference between frames, reduces the probability and influence of subject blur and camera shake, and improves flicker detection accuracy. Although the flicker detection frame rate shown in FIG. 5 is twice the normal frame rate, this is merely an example, and it is obvious that a higher rate may be set.

またこのステップS66でシステム制御部13は、このフリッカ検出を行うためのフレームレートを、1フレーム毎に画面上のフリッカによる明暗の縞模様が現れる位置が異なるようなフレームレート(1秒間のコマの数)に設定し、撮像部10に撮像部制御信号18を介して信号を送る。   In step S66, the system control unit 13 sets the frame rate for performing the flicker detection to a frame rate at which the position where the light and dark stripes due to the flicker appear on the screen differs for each frame (frames for 1 second). The signal is sent to the imaging unit 10 via the imaging unit control signal 18.

なお、この図4、図5において33、43で示したフリッカ検出用の短くした電荷蓄積時間は、前記したように画像データ出力を小さくするから、それを補うため、撮像部10が有するゲインアンプのゲインを上げる。しかしこの場合、ゲインを上げたフレームは、それだけノイズも増え、また、このフレームは、意図的にフリッカが強調された画像だから、この間の画像データはシステム制御部13からの指示により、画像表示部17への表示、若しくは画像メモリ16への記憶をさせないようにする。この処理により、フリッカ検出時は、周期的(例えば5秒毎)に画像表示のフレームレートが下がることになるが、ドロップするフレーム数の割合から、実使用上全く障害にならないと考えられる。   In addition, since the shortened charge accumulation time for flicker detection indicated by 33 and 43 in FIGS. 4 and 5 reduces the image data output as described above, the gain amplifier included in the imaging unit 10 is used to compensate for this. Increase the gain. However, in this case, the frame with the increased gain also increases noise, and since this frame is an image in which flicker is intentionally emphasized, the image data during this period is displayed in accordance with an instruction from the system control unit 13. 17 is not displayed or stored in the image memory 16. By this processing, when flicker is detected, the frame rate of image display is periodically decreased (for example, every 5 seconds), but it is considered that there is no obstacle in practical use from the ratio of the number of frames to be dropped.

この図5における42は、この間の様子を示したもので、フリッカ検出でない通常のフレームレートで、41で示したように通常の電荷蓄積時間で撮像が行われた画像データは、更新(N)、更新(N+1)、更新(N+2)として示された時間tとtの間、時間tとtの間、時間tとtの間はデータが更新されて、画像表示部17への表示、若しくは画像メモリ16への記憶が行われるが、31における時間tとtの間のフリッカ検出時には、電荷蓄積時間が43で示したように短時間でゲインアンプのゲインが上げられているため、この間のデータはフリッカ検出のみに用いられ、42の時間tとtの間、時間tとtの間のように、更新(N+2)がそのまま保持されて画像表示部17への表示、若しくは画像メモリ16への記憶が行われることを示している。 Reference numeral 42 in FIG. 5 shows a state during this period, and the image data captured in the normal charge accumulation time as indicated by 41 is updated (N) at a normal frame rate without flicker detection. , Update (N + 1), update (N + 2), the data is updated between times t 1 and t 2 , between times t 2 and t 3 , and between times t 3 and t 5. 17 or storage in the image memory 16, but when flicker is detected between times t 3 and t 5 at 31, the gain accumulation gain is reduced in a short time as indicated by 43. since the raised, during this period of the data is used only in the flicker detection, between times t 5 and t 6 of 42, as between the times t 6 and t 7, update (N + 2) is held as it is an image Display on display unit 17 Indicates that storage into the image memory 16 is performed.

また、この図5に示したようにフレームレートを上げることで、そのフレームレートに合わせて撮像部10を構成するCMOSを用いた撮像素子の電荷蓄積時間を短くするが、電荷蓄積時間をさらに短くしても良い。こうすると、前記したように被写体ブレや手ブレの画像データに対する影響が少なくなり、より高精度にフリッカ検出を行うことができる。   In addition, by increasing the frame rate as shown in FIG. 5, the charge accumulation time of the image sensor using the CMOS that constitutes the imaging unit 10 is shortened according to the frame rate, but the charge accumulation time is further shortened. You may do it. In this way, as described above, the influence of subject shake and camera shake on the image data is reduced, and flicker detection can be performed with higher accuracy.

再度図3に戻って次にシステム制御部13は、ステップS67でフリッカ検出部12に指示し、撮像部10から画像処理部11を介して送られてくる1フレーム分の画像データを、図2(A)に示したように検出枠[0]、検出枠[1]、……、検出枠[15]と垂直方向に等分割し、それぞれの枠内における輝度信号の平均値を図2(B)に、Y[0]、Y[1]、……、Y[15]で示したように算出して記憶する。   Returning to FIG. 3 again, next, the system control unit 13 instructs the flicker detection unit 12 in step S67, and the image data for one frame sent from the imaging unit 10 via the image processing unit 11 is displayed in FIG. As shown in FIG. 2A, the detection frame [0], the detection frame [1],..., The detection frame [15] are equally divided in the vertical direction, and the average value of the luminance signal in each frame is shown in FIG. B) is calculated and stored as indicated by Y [0], Y [1],..., Y [15].

そして次のステップS68でシステム制御部13は、フリッカ検出部12に次のフレームを取得させて同様にして検出枠[0]、検出枠[1]、……、検出枠[15]に分割すると共に、それぞれの枠内における輝度信号の平均値を図2(B)に、Y[0]、Y[1]、……、Y[15]で示したように算出し、さらに次のステップS69で、先に記憶した最初のフレームの輝度信号の平均値との差分を算出させる。   In the next step S68, the system control unit 13 causes the flicker detection unit 12 to acquire the next frame and similarly divides it into the detection frame [0], the detection frame [1],..., And the detection frame [15]. In addition, the average value of the luminance signal in each frame is calculated as indicated by Y [0], Y [1],..., Y [15] in FIG. Then, the difference from the average value of the luminance signal of the first frame stored previously is calculated.

この差分算出処理は、画像データに含まれる被写体のデータ分を消去し、フリッカによる明暗の縞模様(フリッカ成分)だけを抽出するためである。また、このとき、前記したように差を取る2つのフレームにおけるフリッカの現れる位置を異ならせているが、これは、差分をとったときに、フリッカによる明暗だけが残るようにするためで、このとき、フレームレートとフリッカ周波数(蛍光灯の電源周波数)とを同期させてしまうと、フリッカが発生する位置が画面上で固定されてしまうこととなり、差分を取った時にフリッカ成分も消えてしまう。フリッカ周波数と同期してしまうフレームレートは蛍光灯の電源周波数を正整数で割った値、若しくは正整数倍した値であり、例えば電源周波数が50Hzの場合、100フレーム/秒、50フレーム/秒、25フレーム/秒、………となり、60Hzの場合、120フレーム/秒、60フレーム/秒、30フレーム/秒、………となる。そこで、それを回避するため、フレームレートがこのフリッカ周波数と同期する値より遅くなった値、又は早くなった値となるよう、水平同期周期を長く又は短くとるような操作をシステム制御部13で行い、フリッカ成分を浮き上がらせるようにしている。   This difference calculation process is for erasing the subject data included in the image data and extracting only the light and dark stripe pattern (flicker component) due to flicker. At this time, as described above, the flicker appearing positions in the two frames that take the difference are made different. This is because only the light and dark due to the flicker remains when the difference is taken. If the frame rate and the flicker frequency (the fluorescent lamp power supply frequency) are synchronized, the position where the flicker occurs is fixed on the screen, and the flicker component disappears when the difference is taken. The frame rate that is synchronized with the flicker frequency is a value obtained by dividing the power supply frequency of the fluorescent lamp by a positive integer or a value obtained by multiplying the positive integer by a positive integer. For example, when the power supply frequency is 50 Hz, 100 frames / second, 50 frames / second, In the case of 60 Hz, 120 frames / second, 60 frames / second, 30 frames / second,... Therefore, in order to avoid this, the system control unit 13 performs an operation to make the horizontal synchronization period longer or shorter so that the frame rate becomes a value slower or faster than a value synchronized with the flicker frequency. To flicker the flicker component.

こうしてフリッカ成分が抽出されるとシステム制御部13は、このフリッカ成分を含む図2(B)にY[0]、Y[1]、……、Y[15]で示した輝度信号平均値を、ステップS70で図2(C)に示したバンドパスフィルタにおける輝度信号平均値入力端子21に入力する。バンドパスフィルタ22、23は、フリッカの原因となる被写体を照明する光源の電源周波数を検出するためのもので、光源の明るさは電源周波数の2倍のサイクルで変化するため、22は100Hzに対応させ、23は120Hzに対応させて設けられている。   When the flicker component is extracted in this way, the system control unit 13 uses the luminance signal average values indicated by Y [0], Y [1],..., Y [15] in FIG. In step S70, the signal is input to the luminance signal average value input terminal 21 in the band-pass filter shown in FIG. The band-pass filters 22 and 23 are for detecting the power supply frequency of the light source that illuminates the subject that causes flicker. Since the brightness of the light source changes in a cycle that is twice the power supply frequency, 22 is set to 100 Hz. Correspondingly, 23 is provided corresponding to 120 Hz.

そのため、このバンドパスフィルタ22、23からは、入力した輝度信号平均値の周波数に対応した周波数の波が出力されるから、システム制御部13は、出力端子24、25に出た出力によってステップS71で、フリッカの有無、周波数の判定を行う。そして、次のステップS72でシステム制御部13は、フリッカがない場合は処理をステップS74に進めて撮像素子の電荷蓄積時間をフリッカ検出用設定前の値に再設定し、フリッカが有る場合はステップS73に進んで検出したフリッカ周波数に基づき、撮像部10におけるCMOSを用いた撮像素子の電荷蓄積時間(シャッタ時間)を、フリッカ間隔の整数倍とするフリッカ対応蓄積時間に設定するよう、図1における撮像部制御信号18を撮像部10に送る。そしてステップS75で、撮像部10のフレームレートをフリッカ検出用設定前の値に再設定し、ステップS76で終了する。   Therefore, since the band-pass filters 22 and 23 output a wave having a frequency corresponding to the frequency of the input luminance signal average value, the system control unit 13 performs step S71 based on the output from the output terminals 24 and 25. Then, the presence / absence of flicker and the frequency are determined. In step S72, if there is no flicker, the system control unit 13 advances the process to step S74 to reset the charge accumulation time of the image sensor to the value before setting for flicker detection. In step S73, based on the flicker frequency detected, the charge accumulation time (shutter time) of the image pickup device using the CMOS in the image pickup unit 10 is set to a flicker corresponding accumulation time that is an integral multiple of the flicker interval in FIG. The imaging unit control signal 18 is sent to the imaging unit 10. In step S75, the frame rate of the imaging unit 10 is reset to the value before the flicker detection setting, and the process ends in step S76.

なお、このフリッカの有無、周波数の判定は、図2(B)に示した輝度信号平均値によって行っても良い。すなわち、フリッカは、図2(B)に示した各枠の輝度信号平均値に差が生じている場合にフリッカがあると判定できるから、1つの枠における輝度をその隣、1つ置いた更に隣、更にその隣……と比較することを全ての枠の輝度信号平均値について行い、明暗の差が一定間隔で生じている場合にフリッカがあると判定し、さらにその間隔により、フリッカ周波数を算出する。つまり前記したように、撮像部のフレームレートを15回/秒とすると、1フレーム中にこの点滅が50Hzの場合で約6.7回、60Hzの場合は8回起こることになるから、分割数を16とした場合、50Hzの場合で2つか3つおきに、60Hzの場合は2つおきに暗部、または明部が来ることになるから、それによって周波数を決定すればよい。   Note that the presence / absence of flicker and the frequency may be determined based on the average luminance signal value shown in FIG. That is, flicker can be determined to be flicker when there is a difference in the luminance signal average value of each frame shown in FIG. 2 (B). Next, it is compared with the next to the luminance signal average value of all the frames, and it is determined that there is flicker when a difference in brightness occurs at a constant interval. Further, the flicker frequency is determined by the interval. calculate. In other words, as described above, if the frame rate of the imaging unit is 15 times / second, this blinking will occur approximately 6.7 times in the case of 50 Hz and 8 times in the case of 60 Hz in one frame. When 16 is set to 16, a dark portion or a bright portion comes every two or three in the case of 50 Hz, and every two in the case of 60 Hz.

このようにフリッカ検出にあたり、電荷蓄積時間をフリッカを生じさせる光源の点滅周期より短くすることで、撮像した画像のデータは光源のフリッカに起因する明暗を顕著に反映したデータとなり、フリッカをより高い精度で検出できるようになると共に、電荷蓄積時間を短くしたり、フレームレートを高くしたことで、被写体ブレや手ブレに対しても画像データに対する影響が少なくなり、より効果的にフリッカ検出を行うことができる。   Thus, in detecting flicker, by making the charge accumulation time shorter than the blinking cycle of the light source that causes flicker, the data of the captured image becomes data that remarkably reflects the light and darkness caused by the flicker of the light source, and the flicker is higher. In addition to being able to detect with accuracy, the charge accumulation time has been shortened and the frame rate has been increased, so subject blur and camera shake are less affected by image data, and flicker detection is performed more effectively. be able to.

本発明によれば、CMOSを用いた撮像素子を有する撮像装置を用いても、高精度にフリッカを検出できるから、フリッカの発生を押さえた画像を得ることのできる撮像装置を提供することができる。   According to the present invention, flicker can be detected with high accuracy even using an image pickup device having an image pickup element using CMOS, and therefore an image pickup device capable of obtaining an image with reduced occurrence of flicker can be provided. .

本発明になる撮像装置の一実施形態の概略構成を示すブロック図である。It is a block diagram which shows schematic structure of one Embodiment of the imaging device which becomes this invention. フリッカ検出部12によるフリッカ検出の概略を説明するための図で、(A)はフリッカ検出を行うときに1フレーム分の画像データを分割した状態を示した図、(B)は(A)のように分割した各枠内における輝度信号の平均値を示した図、(C)はフリッカの周波数を検出するためのバンドパスフィルタ(BPF)を示した図である。FIGS. 4A and 4B are diagrams for explaining an outline of flicker detection by the flicker detection unit 12, in which FIG. 5A shows a state in which image data for one frame is divided when performing flicker detection, and FIG. The figure which showed the average value of the luminance signal in each frame divided | segmented in this way, (C) is the figure which showed the band pass filter (BPF) for detecting the frequency of a flicker. 本発明のフリッカ検出方法のフロー図である。It is a flowchart of the flicker detection method of this invention. 本発明のフリッカ検出方法を説明するための図で、CMOSを用いた撮像素子における電荷蓄積時間を短くして画像上にフリッカにより生じる縞模様が明確に現れるようにした場合である。It is a figure for demonstrating the flicker detection method of this invention, and is a case where the charge accumulation time in the image pick-up element using CMOS is shortened, and the stripe pattern produced by flicker appears clearly on an image. 本発明のフリッカ検出方法を説明するための図で、通常フレームの間に、周期的にフリッカ検出を行うためにフレームレートを上げたフレームを挿入し、また、そのフレームで取り込んだ画像はスルー画像として用いないことを説明するための図である。FIG. 4 is a diagram for explaining the flicker detection method of the present invention, in which a frame with an increased frame rate is periodically inserted between normal frames to detect flicker, and an image captured in that frame is a through image. It is a figure for demonstrating not using as. 電荷蓄積時間を短くせず、フレームレートも上げなかった場合のフリッカにより生じる縞模様の状態を示した図である。FIG. 5 is a diagram showing a state of a stripe pattern caused by flicker when the charge accumulation time is not shortened and the frame rate is not increased. CMOSを撮像素子として使い、被写体の照明に、電源周波数に起因して明るさが変化する光源を用いたことにより生じるフリッカを誇張して示した図である。It is a figure which exaggerated and showed the flicker which arises by using CMOS as an image pick-up element, and using the light source from which brightness changes according to a power supply frequency for illumination of a to-be-photographed object.

符号の説明Explanation of symbols

10 撮像部
11 画像処理部
12 フリッカ検出部
13 システム制御部
14 操作部
15 メモリバス
16 画像メモリ
17 画像表示部
18 撮像部制御信号
20 1フレームの画像信号
21 輝度信号平均値入力端子
22 100Hzに対応したバンドパスフィルタ
23 120Hzに対応したバンドパスフィルタ
24、25 検出出力の出力端子
DESCRIPTION OF SYMBOLS 10 Image pick-up part 11 Image processing part 12 Flicker detection part 13 System control part 14 Operation part 15 Memory bus 16 Image memory 17 Image display part 18 Image pick-up part control signal 20 Image signal 21 of 1 frame Luminance signal average value input terminal 22 Corresponding to 100 Hz Bandpass filter 23 Bandpass filters 24 and 25 corresponding to 120 Hz Output terminal for detection output

Claims (12)

マトリクス状に配列された各画素への電荷の蓄積及び読み出しを画素行単位の走査で行う撮像素子を備えた撮像装置であって、時間的に連続する複数フレーム間の蓄積電荷量の差分を取り、点滅する光源下で発生するフリッカ成分を検出する撮像装置のフリッカ検出方法において、
前記フリッカ検出のための前記複数フレームにおける電荷蓄積時間を、前記光源の点滅周期より短かくしてフリッカを検出することを特徴とする撮像装置のフリッカ検出方法。
An image pickup apparatus including an image pickup device that performs charge accumulation and readout to each pixel arranged in a matrix by scanning in units of pixel rows, and calculates a difference in accumulated charge amount between a plurality of temporally continuous frames. In the flicker detection method of the imaging apparatus for detecting the flicker component generated under the blinking light source,
A flicker detection method for an imaging apparatus, wherein a flicker is detected by setting a charge accumulation time in the plurality of frames for flicker detection to be shorter than a blinking cycle of the light source.
前記時間的に連続する複数フレーム間の蓄積電荷量の差分は、前記フレームを垂直方向に複数の枠に分割して枠毎の平均輝度を算出し、前記時間的に連続するフレームにおける対応する枠の平均輝度との間で差分を取って算出することを特徴とする請求項1に記載した撮像装置のフリッカ検出方法。   The difference in accumulated charge amount between the plurality of temporally consecutive frames is calculated by dividing the frame into a plurality of frames in the vertical direction and calculating an average luminance for each frame, and corresponding frames in the temporally consecutive frames. The flicker detection method for an image pickup apparatus according to claim 1, wherein the calculation is performed by taking a difference from the average luminance of the image pickup apparatus. 前記フリッカ検出時、前記撮像装置における撮像フレームレートを高くしてフリッカを検出することを特徴とする請求項1または2に記載した撮像装置のフリッカ検出方法。   3. The flicker detection method for an image pickup apparatus according to claim 1, wherein the flicker is detected by increasing an image pickup frame rate in the image pickup apparatus when the flicker is detected. 前記フリッカ検出は、被写体の明るさを定期的に確認し、被写体の明るさが予め定められた値を下回った場合に実施することを特徴とする請求項1乃至3のいずれかに記載した撮像装置のフリッカ検出方法。   The imaging according to any one of claims 1 to 3, wherein the flicker detection is performed when the brightness of the subject is periodically checked and the brightness of the subject falls below a predetermined value. Device flicker detection method. 前記フリッカ検出のために取得したフレームは、表示または記憶に使わないことを特徴とする請求項1乃至4のいずれかに記載した撮像装置のフリッカ検出方法。   5. The flicker detection method for an imaging apparatus according to claim 1, wherein the frame acquired for flicker detection is not used for display or storage. 前記フリッカ検出時は、前記フリッカを生じさせる光源の点滅周期より短くした撮像素子における電荷蓄積時間に対応させて、撮像素子からの画像データの増幅ゲインを上げることを特徴とする請求項1乃至5のいずれかに記載した撮像装置のフリッカ検出方法。   6. When the flicker is detected, an amplification gain of image data from the image sensor is increased in accordance with a charge accumulation time in the image sensor that is shorter than a blinking period of a light source that causes the flicker. The flicker detection method of the imaging device described in any of the above. 各画素がマトリクス状に配列され、電荷の蓄積及び読み出しを画素行単位の走査で行う撮像素子を備えた撮像装置と、該撮像装置からの画像データに含まれるフリッカの有無と周波数とを検出するフリッカ検出状態において、時間的に連続する複数フレーム間の蓄積電荷量の差分を取り、点滅する光源下で発生するフリッカ成分を検出するフリッカ検出部とからなる撮像装置のフリッカ検出装置において、
前記フリッカ検出状態において、前記複数フレームにおける電荷蓄積時間を光源の点滅周期より短くする指示を前記撮像装置に送る制御手段を備えたことを特徴とする撮像装置のフリッカ検出装置。
Each pixel is arranged in a matrix, and an imaging device including an imaging device that performs charge accumulation and readout by scanning in units of pixel rows, and the presence / absence and frequency of flicker included in image data from the imaging device are detected. In the flicker detection state of the imaging apparatus, which includes a flicker detection unit that detects a flicker component generated under a blinking light source by taking a difference in accumulated charge amount between a plurality of temporally continuous frames in a flicker detection state.
A flicker detection apparatus for an image pickup apparatus, comprising: control means for sending, to the image pickup apparatus, an instruction to make the charge accumulation time in the plurality of frames shorter than a blinking cycle of a light source in the flicker detection state.
前記フリッカ検出装置は、前記フレームを垂直方向に複数の枠に分割して算出した枠毎の平均輝度を記憶する記憶手段と、前記枠毎の平均輝度の算出及び、前記記憶手段に記憶した時間的に連続するフレームにおけるそれぞれ対応する枠の平均輝度との差を取って蓄積電荷量の差分の算出を行い、フリッカ成分を抽出する算出手段とからなることを特徴とする請求項7に記載した撮像装置のフリッカ検出装置。   The flicker detection device stores storage means for storing the average brightness for each frame calculated by dividing the frame into a plurality of frames in the vertical direction, and calculates the average brightness for each frame and the time stored in the storage means. The calculation means for calculating the difference of the accumulated charge amount by taking the difference from the average luminance of the corresponding frames in consecutive frames, and extracting the flicker component. Flicker detection device for imaging device. 前記制御手段は前記フリッカ検出状態において、前記撮像装置における撮像フレームレートを高くする指示を前記撮像装置に送ることを特徴とする請求項7または8に記載した撮像装置のフリッカ検出装置。   9. The flicker detection apparatus for an imaging apparatus according to claim 7, wherein the control means sends an instruction for increasing an imaging frame rate in the imaging apparatus to the imaging apparatus in the flicker detection state. 前記フリッカ検出部は被写体の明るさを定期的に確認する明るさ検出手段を有し、前記制御手段は、前記明るさ検出手段により被写体の明るさが予め定められた値を下回ったという信号を受けて、フリッカ検出を前記撮像装置と前記フリッカ検出部に指示することを特徴とする請求項7乃至9のいずれかに記載した撮像装置のフリッカ検出装置。   The flicker detection unit has brightness detection means for periodically checking the brightness of the subject, and the control means outputs a signal that the brightness of the subject has fallen below a predetermined value by the brightness detection means. The flicker detection apparatus for an image pickup apparatus according to claim 7, wherein flicker detection is instructed to the image pickup apparatus and the flicker detection unit. 前記制御手段は前記フリッカ検出状態で取得したフレームを、表示または記憶に使わない指示を行うことを特徴とする請求項7乃至10のいずれかに記載した撮像装置のフリッカ検出装置。   11. The flicker detection apparatus for an image pickup apparatus according to claim 7, wherein the control means gives an instruction not to display or store the frame acquired in the flicker detection state. 前記制御手段は前記フリッカ検出状態において、前記フリッカを生じさせる光源の点滅周期より短くした撮像素子における電荷蓄積時間に対応させ、前記撮像素子からの画像データの増幅ゲインを上げるよう前記撮像装置に指示することを特徴とする請求項7乃至11のいずれかに記載した撮像装置のフリッカ検出装置。   In the flicker detection state, the control unit instructs the imaging apparatus to increase the amplification gain of the image data from the imaging element in correspondence with the charge accumulation time in the imaging element that is shorter than the blinking cycle of the light source causing the flicker. The flicker detection apparatus for an imaging apparatus according to claim 7, wherein the flicker detection apparatus is used.
JP2006180018A 2006-06-29 2006-06-29 Flicker detection method and apparatus for imaging apparatus Expired - Fee Related JP4840578B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006180018A JP4840578B2 (en) 2006-06-29 2006-06-29 Flicker detection method and apparatus for imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006180018A JP4840578B2 (en) 2006-06-29 2006-06-29 Flicker detection method and apparatus for imaging apparatus

Publications (2)

Publication Number Publication Date
JP2008011226A true JP2008011226A (en) 2008-01-17
JP4840578B2 JP4840578B2 (en) 2011-12-21

Family

ID=39069023

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006180018A Expired - Fee Related JP4840578B2 (en) 2006-06-29 2006-06-29 Flicker detection method and apparatus for imaging apparatus

Country Status (1)

Country Link
JP (1) JP4840578B2 (en)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008067132A (en) * 2006-09-08 2008-03-21 Casio Comput Co Ltd Imaging apparatus
JP2010103746A (en) * 2008-10-23 2010-05-06 Hoya Corp Imaging apparatus
JP2011049685A (en) * 2009-08-25 2011-03-10 Canon Inc Imaging apparatus, and method for controlling the same
JP2011176622A (en) * 2010-02-24 2011-09-08 Nikon Corp Imaging apparatus
JP2012129972A (en) * 2010-11-25 2012-07-05 Casio Comput Co Ltd Imaging device, imaging control method, and program
JP2012227893A (en) * 2011-04-22 2012-11-15 Olympus Imaging Corp Camera and control method therefor
JP2012235325A (en) * 2011-05-02 2012-11-29 Nikon Corp Imaging apparatus
JP2013042298A (en) * 2011-08-12 2013-02-28 Nikon Corp Imaging apparatus and flicker generation frequency detection method
JP2013042297A (en) * 2011-08-12 2013-02-28 Nikon Corp Imaging apparatus and flicker generation frequency detection method
CN103051843A (en) * 2011-10-13 2013-04-17 奥林巴斯映像株式会社 Camera device and flickering detecting method for camera device
JP2015023577A (en) * 2013-07-19 2015-02-02 富士通株式会社 Flicker detection method and flicker detection apparatus
JP2015023576A (en) * 2013-07-19 2015-02-02 富士通株式会社 Flicker detection method and flicker detection apparatus
JP2015088917A (en) * 2013-10-30 2015-05-07 キヤノン株式会社 Imaging device, imaging method, program, and recording medium
JP2015231095A (en) * 2014-06-04 2015-12-21 キヤノン株式会社 Imaging device, control method for the same and control program
CN111131667A (en) * 2018-10-31 2020-05-08 佳能株式会社 Image pickup apparatus that performs flicker detection, control method therefor, and storage medium
WO2021192459A1 (en) * 2020-03-23 2021-09-30 ソニーセミコンダクタソリューションズ株式会社 Image capturing device
CN113542454A (en) * 2020-04-13 2021-10-22 北京小米移动软件有限公司 Ranging apparatus, ranging signal transmission control method, ranging apparatus, device, and medium
CN113840090A (en) * 2021-09-27 2021-12-24 维沃移动通信有限公司 Shutter adjusting method, device, equipment and storage medium
WO2024041245A1 (en) * 2022-08-24 2024-02-29 万有引力(宁波)电子科技有限公司 Mr apparatus, and method for eliminating image flicker of mr apparatus

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002152604A (en) * 2000-11-10 2002-05-24 Toshiba Corp Device for eliminating flicker
JP2002330350A (en) * 2001-04-26 2002-11-15 Fujitsu Ltd Method for reducing flicker noise in xy address type solid-state image pickup device
JP2004007402A (en) * 2002-03-25 2004-01-08 Seiko Epson Corp Flicker detecting device, flicker correcting device, imaging device, flicker detecting program, and flicker correcting program
JP2004222228A (en) * 2002-11-18 2004-08-05 Sony Corp Flicker reduction method, image pickup device and flicker reduction circuit

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002152604A (en) * 2000-11-10 2002-05-24 Toshiba Corp Device for eliminating flicker
JP2002330350A (en) * 2001-04-26 2002-11-15 Fujitsu Ltd Method for reducing flicker noise in xy address type solid-state image pickup device
JP2004007402A (en) * 2002-03-25 2004-01-08 Seiko Epson Corp Flicker detecting device, flicker correcting device, imaging device, flicker detecting program, and flicker correcting program
JP2004222228A (en) * 2002-11-18 2004-08-05 Sony Corp Flicker reduction method, image pickup device and flicker reduction circuit

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4687620B2 (en) * 2006-09-08 2011-05-25 カシオ計算機株式会社 Imaging device
JP2008067132A (en) * 2006-09-08 2008-03-21 Casio Comput Co Ltd Imaging apparatus
JP2010103746A (en) * 2008-10-23 2010-05-06 Hoya Corp Imaging apparatus
JP2011049685A (en) * 2009-08-25 2011-03-10 Canon Inc Imaging apparatus, and method for controlling the same
US8848070B2 (en) 2009-08-25 2014-09-30 Canon Kabushiki Kaisha Image capturing apparatus and method of controlling the apparatus
JP2011176622A (en) * 2010-02-24 2011-09-08 Nikon Corp Imaging apparatus
US8804004B2 (en) 2010-11-25 2014-08-12 Casio Computer Co., Ltd. Imaging apparatus, image control method, and storage medium storing program
JP2012129972A (en) * 2010-11-25 2012-07-05 Casio Comput Co Ltd Imaging device, imaging control method, and program
JP2012227893A (en) * 2011-04-22 2012-11-15 Olympus Imaging Corp Camera and control method therefor
JP2012235325A (en) * 2011-05-02 2012-11-29 Nikon Corp Imaging apparatus
JP2013042298A (en) * 2011-08-12 2013-02-28 Nikon Corp Imaging apparatus and flicker generation frequency detection method
JP2013042297A (en) * 2011-08-12 2013-02-28 Nikon Corp Imaging apparatus and flicker generation frequency detection method
CN103051843A (en) * 2011-10-13 2013-04-17 奥林巴斯映像株式会社 Camera device and flickering detecting method for camera device
CN103051843B (en) * 2011-10-13 2015-09-02 奥林巴斯映像株式会社 The flicker detection method of camera head and camera head
JP2015023577A (en) * 2013-07-19 2015-02-02 富士通株式会社 Flicker detection method and flicker detection apparatus
JP2015023576A (en) * 2013-07-19 2015-02-02 富士通株式会社 Flicker detection method and flicker detection apparatus
US9794493B2 (en) 2013-10-30 2017-10-17 Canon Kabushiki Kaisha Image capturing apparatus, image capturing method, and control method
JP2015088917A (en) * 2013-10-30 2015-05-07 キヤノン株式会社 Imaging device, imaging method, program, and recording medium
US9756258B2 (en) 2013-10-30 2017-09-05 Canon Kabushiki Kaisha Image capturing apparatus, image capturing method, and control method for reducing the influence of flicker on still image exposure
JP2015231095A (en) * 2014-06-04 2015-12-21 キヤノン株式会社 Imaging device, control method for the same and control program
CN111131667A (en) * 2018-10-31 2020-05-08 佳能株式会社 Image pickup apparatus that performs flicker detection, control method therefor, and storage medium
WO2021192459A1 (en) * 2020-03-23 2021-09-30 ソニーセミコンダクタソリューションズ株式会社 Image capturing device
CN113542454A (en) * 2020-04-13 2021-10-22 北京小米移动软件有限公司 Ranging apparatus, ranging signal transmission control method, ranging apparatus, device, and medium
CN113542454B (en) * 2020-04-13 2024-01-30 北京小米移动软件有限公司 Ranging device, ranging signal emission control method, device, equipment and medium
CN113840090A (en) * 2021-09-27 2021-12-24 维沃移动通信有限公司 Shutter adjusting method, device, equipment and storage medium
WO2024041245A1 (en) * 2022-08-24 2024-02-29 万有引力(宁波)电子科技有限公司 Mr apparatus, and method for eliminating image flicker of mr apparatus

Also Published As

Publication number Publication date
JP4840578B2 (en) 2011-12-21

Similar Documents

Publication Publication Date Title
JP4840578B2 (en) Flicker detection method and apparatus for imaging apparatus
JP4948090B2 (en) Imaging apparatus and drive control method
JP4979369B2 (en) Flicker detection circuit and method for image sensor
JP5215262B2 (en) Imaging device
US7952621B2 (en) Imaging apparatus having temperature sensor within image sensor wherin apparatus outputs an image whose quality does not degrade if temperature increases within image sensor
JP2006005520A (en) Imaging apparatus
WO2010044227A1 (en) Imaging device
JP4745851B2 (en) Imaging device
KR20080095084A (en) Method and apparatus for reducing noise of image
JP2009017213A (en) Imaging apparatus
JP2011030207A (en) Imaging device, and flash determining method and program
CN107205123B (en) Flash band determination device, control method thereof, storage medium, and image pickup apparatus
JP2008113237A (en) Flicker detecting method and device in imaging apparatus
JP2009100283A (en) Imaging apparatus and control method for imaging apparatus
JP2009124238A (en) Imaging device and its flicker detecting method
JP4908939B2 (en) Imaging device
JP4047000B2 (en) Imaging apparatus and imaging method
JP7234015B2 (en) Imaging device and its control method
JP2003324748A (en) Television camera
JP4847281B2 (en) Imaging apparatus, control method therefor, and imaging system
JP2007215062A (en) Flicker suppressing imaging apparatus
JP3989112B2 (en) White scratch signal level suppression device for solid-state imaging device
JP3681138B2 (en) Fire detection equipment
JP5485680B2 (en) Imaging apparatus and imaging method
JP2013251877A (en) Imaging apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090316

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110520

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110623

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110719

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110916

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110920

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141014

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees