JPH10145670A - Electronic image pickup device with flicker correction function - Google Patents

Electronic image pickup device with flicker correction function

Info

Publication number
JPH10145670A
JPH10145670A JP8296728A JP29672896A JPH10145670A JP H10145670 A JPH10145670 A JP H10145670A JP 8296728 A JP8296728 A JP 8296728A JP 29672896 A JP29672896 A JP 29672896A JP H10145670 A JPH10145670 A JP H10145670A
Authority
JP
Japan
Prior art keywords
signal
screen
average luminance
multiplying
input terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP8296728A
Other languages
Japanese (ja)
Other versions
JP3410911B2 (en
Inventor
Junichi Hosokawa
純一 細川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba AVE Co Ltd
Original Assignee
Toshiba Corp
Toshiba AVE Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba AVE Co Ltd filed Critical Toshiba Corp
Priority to JP29672896A priority Critical patent/JP3410911B2/en
Publication of JPH10145670A publication Critical patent/JPH10145670A/en
Application granted granted Critical
Publication of JP3410911B2 publication Critical patent/JP3410911B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

PROBLEM TO BE SOLVED: To conduct flicker correction properly corresponding to even an image pickup signal that is obtained under the occurrence of a large change in a storage time for each field. SOLUTION: An integration device 102 integrates an image pickup signal at an input terminal in the unit of one image to obtain a mean luminance signal in the unit of patterns. Delay devices 103-107 delay sequentially the image mean luminance signal in the unit of one pattern to obtain a pattern mean luminance signal from a plurality of image patterns. A computing element 108 adds three pattern mean luminance signals corresponding to a time apart by two image patterns to obtain a numerator signal. A computing element 109 obtains a denominator signal that is thrice of one pattern mean luminance signal. A divider 110 divides the denominator signal by the numerator signal to obtain a correction signal. The correction signal is given to a delay device 111, in which the time is adjusted and the result is multiplied with an image pickup signal received at the input terminal to correct flickers.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】この発明は、フリッカ補正機
能を有した電子撮像装置に関し、特にフリッカ補正機能
を改善したものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an electronic image pickup apparatus having a flicker correction function, and more particularly, to an improved flicker correction function.

【0002】[0002]

【従来の技術】ビデオカメラや電子スチルカメラとして
用いられる固体撮像装置は、大きくわけると、被写体か
らの光学像を導入する光学系、光学系からの被写体像が
結像される固体撮像素子部、固体撮像素子部を駆動する
駆動回路、固体撮像素子部から読み出された撮像信号を
所望の放送方式の映像信号に変換する信号処理部から構
成されている。
2. Description of the Related Art A solid-state imaging device used as a video camera or an electronic still camera can be roughly divided into an optical system for introducing an optical image from a subject, a solid-state imaging device for forming a subject image from the optical system, It comprises a drive circuit for driving the solid-state image sensor, and a signal processor for converting an image signal read from the solid-state image sensor into a video signal of a desired broadcast system.

【0003】一般に、放送方式は商用電源周波数にフレ
ームあるいはフィールド周波数を合わせて設定されてい
ることが多い。例えば商用電源周波数が60Hzの地域
で採用されているNTSC方式は、フィールド周波数が
60Hzとなっており、また商用電源周波数が50Hz
の地域で採用されているPAL方式は、フィールド周波
数が50Hzとなっている場合が多い。
In general, the broadcasting system is often set in accordance with the frame frequency or the field frequency with the commercial power frequency. For example, in the NTSC system adopted in a region where the commercial power frequency is 60 Hz, the field frequency is 60 Hz, and the commercial power frequency is 50 Hz.
In many cases, the PAL system adopted in the region has a field frequency of 50 Hz.

【0004】しかしながら東日本地域のように、一部の
地域では商用電源の周波数(50Hz)とフィールド周
波数(60Hz)が異なる場合もある。このような地域
において、蛍光灯のような点滅照明のもとで、ビデオカ
メラによる撮影を行うとフリッカが発生する。
However, the frequency of the commercial power supply (50 Hz) and the field frequency (60 Hz) may be different in some areas, such as the eastern Japan area. In such an area, flickering occurs when an image is taken by a video camera under blinking illumination such as a fluorescent light.

【0005】図7においてフリッカの発生原因を述べ
る。今、商用電源により周期的に発光する照明があり、
その発光周期が1/100(秒)であるものとする(図
7(7A))。これに対して、フィールド周波数が、1
/60(秒)の固体撮像装置を用いたビデオカメラによ
り電荷蓄積(撮像)が行われるものとする。このような
場合、発光周期と蓄積周期との違いにより、フィールド
間で電荷の蓄積量が変化し、画面の明るさにばらつき
(フリッカ)が生じる(図7(7B))。上記の発光周
期とフィールド周期との間には(1/100)×5=
(1/60)×3=1/20の関係があり、フリッカの
変化は3フィールドで一巡する20Hzフリッカと呼ば
れる。この周波数であると点滅速度が遅いので充分に視
覚される。
FIG. 7 shows the cause of flicker. Now, there is a lighting that periodically emits light from commercial power,
It is assumed that the light emission cycle is 1/100 (second) (FIG. 7 (7A)). On the other hand, if the field frequency is 1
Assume that charge accumulation (imaging) is performed by a video camera using a solid-state imaging device of / 60 (seconds). In such a case, due to the difference between the light emission cycle and the accumulation cycle, the charge accumulation amount changes between fields, and the brightness of the screen varies (flicker) (FIG. 7 (7B)). (1/100) × 5 = between the above light emission cycle and field cycle
There is a relationship of (1/60) × 3 = 1/20, and the change of flicker is called 20 Hz flicker which makes one cycle in three fields. At this frequency, the blinking speed is slow, so that it is sufficiently visible.

【0006】近年の固体撮像装置は、電子シャッターと
呼ばれる電荷蓄積時間可変機能を備えている。この機能
は、固体撮像素子にまず電荷掃き出しパルスを与え、そ
れまで蓄積されている電荷を一旦掃き捨て、設定してい
るシャッター時間分の電荷蓄積(露光)を行い、このシ
ャッター時間に蓄積された電荷を取り出すものである。
そこで、この蓄積時間を先の発光周期(1/100秒)
に合わせれば、フリッカを押さえることができる。
[0006] Recent solid-state imaging devices have a charge accumulation time variable function called an electronic shutter. In this function, first, a charge sweep pulse is given to the solid-state imaging device, the charge accumulated so far is once discarded, charge accumulation (exposure) for a set shutter time is performed, and the charge accumulated during this shutter time. This is to extract electric charge.
Therefore, this accumulation time is set to the previous light emission cycle (1/100 second)
By adjusting to, flicker can be suppressed.

【0007】一方、上記の電子シャッター機能をレンズ
の絞り機能として活用するカメラも開発されている。即
ち、蓄積時間が被写体によって変化(1/60〜1/数
万秒)するようになっている。このような機能があるカ
メラの場合は、絞りのために変化する蓄積時間によっ
て、フリッカが発生する。
On the other hand, a camera utilizing the electronic shutter function as a lens aperture function has been developed. That is, the accumulation time varies depending on the subject (1/60 to 1 / tens of thousands of seconds). In the case of a camera having such a function, flicker occurs due to the accumulation time that changes due to the aperture.

【0008】また、電子カメラには、フィールド毎に蓄
積時間を大きく変化させて、2フィールドの映像からダ
イナミックレンジ大きな映像信号を得るカメラも開発さ
れている。仮に、低速のシャッター速度を1/100秒
とすればフリッカは高速シャッターによる撮像信号に対
して生じる。
Further, as an electronic camera, a camera that obtains a video signal having a large dynamic range from a video of two fields by greatly changing an accumulation time for each field has been developed. Assuming that the low shutter speed is 1/100 second, flicker is generated for an image signal by the high shutter.

【0009】即ち、図8(8A)、図8(8B)に示す
ように、1/100秒の低速のシャッターによる撮像信
号B、D、Fに対してはフリッカは生じないが、高速シ
ャッターによる撮像信号A、C、Eに対してフリッカが
生じている。
That is, as shown in FIGS. 8 (A) and 8 (B), flicker does not occur for imaging signals B, D and F by a 1/100 second low-speed shutter, but a high-speed shutter does. Flicker has occurred for the imaging signals A, C, and E.

【0010】図9は、従来のフリッカ補正回路である。
入力端子11には、固体撮像素子からの撮像信号が供給
される。入力端子11の撮像信号(デジタル化されてい
る)は、1垂直期間積分器12、乗算器21に供給され
る。1垂直期間積分器12から得られた平均輝度信号
は、遅延器(シフトレジスタ)13、14、15に順次
入力される。遅延器13、14の出力は加算器16で加
算され、この加算出力は、加算器17に入力されてレジ
スタ15の出力と加算される。これにより、3フィール
ド分の平均輝度信号が得られ、割算器19に入力され
る。またこの割算器19には、遅延器14の出力を3フ
ィールド分加算する加算器18の出力が入力されてい
る。
FIG. 9 shows a conventional flicker correction circuit.
An imaging signal from a solid-state imaging device is supplied to the input terminal 11. The imaging signal (digitized) at the input terminal 11 is supplied to the one vertical period integrator 12 and the multiplier 21. The average luminance signal obtained from one vertical period integrator 12 is sequentially input to delay units (shift registers) 13, 14, and 15. The outputs of the delay units 13 and 14 are added by an adder 16, and the added output is input to an adder 17 and added to the output of the register 15. Thus, an average luminance signal for three fields is obtained and input to the divider 19. The output of the adder 18 for adding the output of the delay unit 14 for three fields is input to the divider 19.

【0011】今、各遅延器13、14、15の出力を
C、B、Aとすると、割算器19では(A+B+C)/
3Bの演算が行われる。この割算器19の出力kBは、
タイミング調整用の遅延器20に入力される。そしてこ
の遅延器20の出力が、乗算器21に入力されて、フリ
ッカ補正値として入力信号に乗算される。
Assuming that the outputs of the delay units 13, 14, and 15 are C, B, and A, the divider 19 calculates (A + B + C) /
The operation of 3B is performed. The output kB of the divider 19 is
It is input to the delay unit 20 for timing adjustment. The output of the delay unit 20 is input to the multiplier 21 and is multiplied by the input signal as a flicker correction value.

【0012】先に説明した入力した撮像信号に20Hz
フリッカが生じているものとすると、この20Hzフリ
ッカは3フィールドで一巡している。よって、1フィー
ルドの平均輝度信号を3フィールド分加算すると、一定
となるはずである。この加算値は分子となる。そして、
各フィールドにおける平均輝度信号を3倍し、分母と
し、割り算を行うことで、各フィールドの補正値を順次
得ることができる。
The input imaging signal described above has a frequency of 20 Hz.
Assuming that flicker has occurred, this 20 Hz flicker makes one cycle in three fields. Therefore, if the average luminance signal of one field is added for three fields, it should be constant. This sum is the numerator. And
By multiplying the average luminance signal in each field by 3, multiplying the average luminance signal by the denominator and performing division, it is possible to sequentially obtain correction values for each field.

【0013】[0013]

【発明が解決しようとする課題】上記したように、フリ
ッカをなくす方法としては、固体撮像素子の電荷蓄積時
間を照明の発光周期(1/100秒)に合わせる方法
と、上記したフリッカ補正回路を設ける方法がある。
As described above, as a method for eliminating flicker, there are a method of adjusting the charge accumulation time of the solid-state imaging device to a light emission cycle (1/100 second) of illumination, and a method of eliminating the above-mentioned flicker correction circuit. There is a method of providing.

【0014】しかしながら、電荷蓄積時間を照明の発光
周期に合わせる方法は、どのような場合も発光周期に合
わせるので、感度が低下する点、シャッター速度が固定
になるという問題がある。また電子シャッターを利用し
た絞り機能を活用できないという問題がある。
However, the method of adjusting the charge accumulation time to the light emission cycle of the illumination in any case has the problem that the sensitivity is reduced and the shutter speed is fixed because the light emission cycle is adjusted in any case. There is also a problem that the aperture function using an electronic shutter cannot be used.

【0015】次に、フリッカ補正回路を設ける方法で
は、フィールド毎に電荷蓄積時間が大きく変化するよう
な場合には対応できないという問題がある。つまり、1
フィールド分の平均輝度信号のレベルとして、大きな差
があるために、割り算結果の補正信号が適切とならない
場合がある。また割算器が必要であり回路規模が大きく
なる。
Next, the method of providing the flicker correction circuit has a problem that it cannot cope with a case where the charge accumulation time greatly changes for each field. That is, 1
Since there is a large difference in the level of the average luminance signal for the field, the correction signal resulting from the division may not be appropriate. Further, a divider is required, and the circuit scale becomes large.

【0016】そこでこの発明の目的は、フィールド毎に
蓄積時間が大きく変化して得られた撮像信号にも適切に
対応することができるフリッカ補正回路を有した電子撮
像装置を提供することにある。
It is therefore an object of the present invention to provide an electronic image pickup apparatus having a flicker correction circuit capable of appropriately coping with an image pickup signal obtained by greatly changing an accumulation time for each field.

【0017】またこの発明の目的は、回路規模の小さい
フリッカ補正回路を有した電子撮像装置を提供すること
にある。またこの発明の目的は、フィールド毎に蓄積時
間が大きく変化して得られた撮像信号にも適切に対応す
ることができ、かつ回路規模の小さいフリッカ補正回路
を有した電子撮像装置を提供することにある。
Another object of the present invention is to provide an electronic image pickup apparatus having a flicker correction circuit having a small circuit scale. It is another object of the present invention to provide an electronic imaging apparatus having a flicker correction circuit which can appropriately cope with an imaging signal obtained by greatly changing an accumulation time for each field and has a small circuit scale. It is in.

【0018】[0018]

【課題を解決するための手段】この発明は、固体撮像素
子から得られる撮像信号が入力される入力端子と、前記
入力端子の撮像信号を1画面単位で積算し、画面単位の
平均輝度信号を得る積分手段と、前記画面平均輝度信号
を1画面単位ずつ順次遅延し、複数M(≧5)の画面分
の画面平均輝度信号を得る遅延手段と、前記遅延手段か
ら得られている複数の画面分の画面平均輝度信号のう
ち、2画面分離れた時間に対応する画面平均輝度信号を
N(3≦N<M)個導出して加算し、分子信号を得る第
1演算手段と、前記N個の画面平均輝度信号のうち1つ
をN倍した分母信号を得る第2の演算手段とを有する。
According to the present invention, an input terminal to which an imaging signal obtained from a solid-state imaging device is input, and an imaging signal of the input terminal are integrated for each screen, and an average luminance signal for each screen is obtained. An integrating means for obtaining, a delay means for sequentially delaying the screen average luminance signal by one screen unit to obtain a screen average luminance signal for a plurality of M (≧ 5) screens, and a plurality of screens obtained from the delay means A first calculating means for deriving and adding N (3 ≦ N <M) screen average luminance signals corresponding to a time separated by two screens out of the screen average luminance signals for two minutes to obtain a numerator signal; Second calculating means for obtaining a denominator signal obtained by multiplying one of the screen average luminance signals by N.

【0019】そして前記分母信号を分子信号で割算し、
その結果を補正信号とする割算手段と、前記割算手段で
得られた補正信号を前記入力端子に入力する撮像信号に
乗算する乗算手段とを備える。
Then, the denominator signal is divided by the numerator signal,
A division unit that uses the result as a correction signal; and a multiplication unit that multiplies the imaging signal input to the input terminal by the correction signal obtained by the division unit.

【0020】上記の手段により、例えば20Hzフリッ
カが存在し、フィールド毎に蓄積時間が大きく変化され
て得られた撮像信号に対しても、適切なフリッカ補正を
行うことができる。これは、蓄積時間に応じた信号に対
する補正信号の演算処理を行うからである。
By the above means, an appropriate flicker correction can be performed even for an image pickup signal obtained by, for example, a 20 Hz flicker and having an accumulation time greatly changed for each field. This is because calculation processing of a correction signal for a signal corresponding to the accumulation time is performed.

【0021】またこの発明は、固体撮像素子から得られ
る撮像信号が入力される入力端子と、前記入力端子の撮
像信号を1画面単位で積算し、画面単位の平均輝度信号
を得る積分手段と、前記画面平均輝度信号を1画面単位
ずつ順次遅延し、3つの画面分の画面平均輝度信号を得
る遅延手段と、前記遅延手段から得られている3つの画
面分の画面平均輝度信号を加算し、第1の比較信号を得
る第1の演算手段と、前記3つの画面平均輝度信号のう
ち1つを3倍した3倍信号を得る第2の演算手段とを有
する。
According to the present invention, there is provided an input terminal to which an image pickup signal obtained from a solid-state image pickup device is inputted, and an integrating means for integrating the image pickup signal of the input terminal for each screen to obtain an average luminance signal for each screen. Delay means for sequentially delaying the screen average luminance signal by one screen unit to obtain a screen average luminance signal for three screens, and a screen average luminance signal for three screens obtained from the delay means; The image processing apparatus includes a first arithmetic unit for obtaining a first comparison signal and a second arithmetic unit for obtaining a triple signal obtained by triple one of the three screen average luminance signals.

【0022】そして1画面の期間で1巡以上カウントす
る高速カウンタと、前記高速カウンタの出力と前記3倍
信号を乗算し、第2の比較信号を得る第1の乗算手段
と、前記第1の比較信号の値と第2の比較信号の値を比
較し、前記第1の比較信号の値を前記第2の比較信号の
値が越えたときに、前記高速カウンタ出力をラッチする
比較及びラッチ手段と、前記比較及びラッチ手段から得
られたラッチ出力を、時間調整して前記入力端子の撮像
信号に乗算する第2の乗算手段とを備える。上記の手段
により割算器は不要であり小規模の回路構成で実現する
ことが可能となる。
A high-speed counter that counts one or more rounds during one screen period; first multiplication means for multiplying the output of the high-speed counter by the triple signal to obtain a second comparison signal; Comparison and latch means for comparing the value of the comparison signal with the value of the second comparison signal, and latching the output of the high-speed counter when the value of the second comparison signal exceeds the value of the first comparison signal And second multiplying means for time-adjusting the latch output obtained from the comparing and latching means and multiplying the image signal of the input terminal. By the above means, a divider is not required and can be realized with a small-scale circuit configuration.

【0023】[0023]

【発明の実施の形態】以下、この発明の実施の形態を図
面を参照して説明する図1はこの発明の一実施の形態で
ある。入力端子101には、固体撮像素子で撮像されフ
リッカを含む撮像信号が入力される。この撮像信号はデ
ジタル化されているものとする。
DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, an embodiment of the present invention will be described with reference to the drawings. FIG. 1 shows an embodiment of the present invention. To the input terminal 101, an imaging signal which is captured by a solid-state imaging device and includes flicker is input. This imaging signal is assumed to be digitized.

【0024】この撮像信号は、1垂直期間積分器10
2、乗算器112に供給される。1垂直期間積分器10
2から得られた1画面分の平均輝度信号は、遅延器(シ
フトレジスタ)103、104、105、106、10
7に順次入力される。各遅延器103、104、10
5、106、107は、入力信号に対して1フィールド
期間の遅延を施す。
This image signal is supplied to one vertical period integrator 10.
2. It is supplied to the multiplier 112. 1 vertical period integrator 10
The average luminance signal for one screen obtained from the second unit is a delay unit (shift register) 103, 104, 105, 106, 10
7 are sequentially input. Each delay device 103, 104, 10
5, 106 and 107 delay the input signal by one field period.

【0025】遅延器103、105、107の出力、つ
まり遅延器103、104、105、106、107か
ら得られている複数の画面分の画面平均輝度信号のう
ち、1画面分離れた時間に対応する画面平均輝度信号の
N(この場合3)個が導出され、第1の演算器108に
入力される。第1の演算器108は、入力した画面平均
輝度信号を加算して出力する。この第1の演算器108
の出力は、分子信号とされる。
The output of the delay units 103, 105, and 107, that is, the time corresponding to one screen-separated time among the screen average luminance signals for a plurality of screens obtained from the delay units 103, 104, 105, 106, and 107 N (3 in this case) of the screen average luminance signals to be obtained are derived and input to the first computing unit 108. The first arithmetic unit 108 adds and outputs the input screen average luminance signal. This first computing unit 108
Is a molecular signal.

【0026】また先の遅延器105から出力される画面
平均輝度信号、つまり前記複数の平均輝度信号のうち1
つは、演算器109に入力されて3倍にされる。この3
倍となった信号は、分母信号とされる。
The screen average luminance signal output from the delay unit 105, that is, one of the plurality of average luminance signals
One is input to the arithmetic unit 109 and tripled. This 3
The doubled signal is used as a denominator signal.

【0027】上記の分子信号と分母信号とは、割算器1
10に入力されて、分子信号が分母信号により割算され
る。そして、割算器110で得られた割算結果は、補正
信号としてタイミング調整用の遅延器111に入力され
る。この遅延器111の出力が、乗算器21に入力され
て、入力信号に乗算される。出力端子113からはフリ
ッカの除去された撮像信号を得ることができる。
The numerator signal and the denominator signal are divided by a divider 1
At 10 the numerator signal is divided by the denominator signal. Then, the result of division obtained by the divider 110 is input to the delay unit 111 for timing adjustment as a correction signal. The output of the delay unit 111 is input to the multiplier 21 and is multiplied by the input signal. An image signal from which flicker has been removed can be obtained from the output terminal 113.

【0028】図2には、上記の回路の動作を説明するた
めの信号波形例を示している。図2(2A)は、発光周
期が1/100秒の照明光量であり、図2(2B)はこ
の照明環境のもとで撮像された撮像信号を示している。
この撮像信号は、電荷蓄積時間を1/100秒と1/4
00秒とにフィールド毎に切り換えて撮像し、ダイナミ
ックレンジを拡大した撮像信号である。
FIG. 2 shows an example of signal waveforms for explaining the operation of the above circuit. FIG. 2 (2A) shows the amount of illumination light with a light emission cycle of 1/100 second, and FIG. 2 (2B) shows an image signal captured under this illumination environment.
This imaging signal has a charge accumulation time of 1/100 second and 1/4
This is an image pickup signal obtained by switching and imaging every field at 00 seconds and expanding the dynamic range.

【0029】図2(2B)の撮像信号からもわかるよう
に、この補正回路が補正信号を得るための対象とする信
号は、電荷蓄積時間に対応する3画面分の画面平均輝度
信号である。つまり、信号A、C、E、G、…のグルー
プと、信号B、D、F、H、…のグループとで別々に補
正信号を作成している。言い換えれば、電荷蓄積時間を
同じくする画面平均輝度信号のグループ毎に、フリッカ
補正信号を得るようにしている。この結果、各画面毎の
信号に対して適切なフリッカ補正信号が得られることに
なる。
As can be seen from the image pickup signal shown in FIG. 2B, the signal to be obtained by the correction circuit for obtaining a correction signal is a screen average luminance signal for three screens corresponding to the charge accumulation time. That is, correction signals are separately created for the group of signals A, C, E, G,... And the group of signals B, D, F, H,. In other words, a flicker correction signal is obtained for each group of screen average luminance signals having the same charge accumulation time. As a result, an appropriate flicker correction signal can be obtained for the signal for each screen.

【0030】入力した撮像信号に20Hzフリッカが生
じているものとすると、この20Hzフリッカは3フィ
ールドで一巡しているので6フィールドでも一巡してい
るものとみることができる。よって、第1の演算器10
8の加算出力(A+C+E)は、フリッカが現れない一
定値とみることができる。一方第2の演算器109から
は3Cが得られる。割算器110では(A+C+E)/
3Cの演算が行われ補正信号が得られる。
If it is assumed that a 20 Hz flicker has occurred in the input image signal, the 20 Hz flicker has made one cycle in three fields, so that it can be regarded as having made one cycle in six fields. Therefore, the first computing unit 10
The addition output (A + C + E) of 8 can be regarded as a constant value at which flicker does not appear. On the other hand, 3C is obtained from the second computing unit 109. In the divider 110, (A + C + E) /
The operation of 3C is performed to obtain a correction signal.

【0031】今、入力端子101に入力している撮像信
号が信号Fのサイクルの信号であり、遅延器111から
出力された補正信号がnFであるものとする。この補正
信号は、nF=(B+D+F)/3Fの計算から得られ
ている。ここで、乗算器112において演算された結果
は、F×nF=F×(B+D+F)/3F=(B+D+
F)/3=一定値となりフリッカ成分が除去されてい
る。
Now, it is assumed that the imaging signal input to the input terminal 101 is a signal of the cycle of the signal F, and the correction signal output from the delay unit 111 is nF. This correction signal is obtained from the calculation of nF = (B + D + F) / 3F. Here, the result calculated by the multiplier 112 is F × nF = F × (B + D + F) / 3F = (B + D +
F) / 3 = constant value, and the flicker component has been removed.

【0032】図3はこの発明の他の実施の形態である。
入力端子201には、固体撮像素子で撮像されフリッカ
を含む撮像信号が入力される。この撮像信号はデジタル
化されているものとする。
FIG. 3 shows another embodiment of the present invention.
To the input terminal 201, an imaging signal which is captured by the solid-state imaging device and includes flicker is input. This imaging signal is assumed to be digitized.

【0033】この撮像信号は、1垂直期間積分器20
2、乗算器213に供給される。1垂直期間積分器20
2から得られた1画面分の平均輝度信号は、遅延器(シ
フトレジスタ)203、204、205に順次入力され
る。各遅延器203、204、205は、入力信号に対
して1フィールド期間の遅延を施す。遅延器203の出
力と遅延器204の出力は加算器206で加算され、こ
の加算器206の出力は、加算器207において遅延器
205の出力と加算される。
This image signal is supplied to one vertical period integrator 20.
2, is supplied to the multiplier 213. 1 vertical period integrator 20
2 are sequentially input to delay units (shift registers) 203, 204, and 205. Each of the delay units 203, 204, and 205 delays the input signal by one field period. The output of the delay unit 203 and the output of the delay unit 204 are added by an adder 206, and the output of the adder 206 is added by an adder 207 to the output of the delay unit 205.

【0034】加算器207の出力は比較器210の一方
に入力される。先の遅延器203の出力は、加算器20
8において3倍とされる。この加算器208の出力は乗
算器209において、後述するカウント値が乗算されて
出力され、比較器210の他方に供給される。
The output of the adder 207 is input to one of the comparators 210. The output of the delay unit 203 is
At 8, it is tripled. The output of the adder 208 is multiplied by a count value, which will be described later, in a multiplier 209 and output, and is supplied to the other side of the comparator 210.

【0035】比較器210は2入力を比較し、その比較
結果に応じてローレベル“L”またはハイレベル“H”
の出力Pを得る。例えば加算器207の出力(A+B+
C)が乗算器290の出力(n×3B)と比較される。
そして(n×3B)<(A+B+C)のときは比較器出
力P=“L”(n×3B)≧(A+B+C)のときは比
較器出力P=“H”である。そして、P=“H”となっ
たときにカウンタ221の値がラッチ回路211にラッ
チされるようになっている。カウンタ221は例えば水
平周期でリセットされるカウンタであり、このカウンタ
221の出力は、デコーダ222に入力されて固体撮像
素子の各種駆動パルスを生成するために利用されてい
る。
The comparator 210 compares the two inputs, and outputs a low level “L” or a high level “H” according to the result of the comparison.
Is obtained. For example, the output of the adder 207 (A + B +
C) is compared with the output of the multiplier 290 (n × 3B).
When (n × 3B) <(A + B + C), the comparator output P = “L”, and when (n × 3B) ≧ (A + B + C), the comparator output P = “H”. Then, when P = “H”, the value of the counter 221 is latched by the latch circuit 211. The counter 221 is a counter that is reset, for example, in a horizontal cycle. The output of the counter 221 is input to the decoder 222 and used to generate various drive pulses for the solid-state imaging device.

【0036】ラッチ回路211の出力は、遅延器212
を介して乗算器213に供給される。この実施の形態に
おいては、ラッチ回路211の出力が先の実施の形態の
割り算結果と同様な役割を持つことになる。
The output of the latch circuit 211 is
Is supplied to the multiplier 213 via the. In this embodiment, the output of the latch circuit 211 has the same role as the result of the division in the previous embodiment.

【0037】図4を参照して、上記の実施の形態の動作
を説明する。図4(4A)はフリッカを有する撮像信号
である。図4(4B)は、カウンタ211の出力と比較
器210の出力である。カウンタ221の出力の例とし
ては、2つの例を示している。1つの例は、画面平均輝
度信号(A、B、C)の加算が終了した次の水平期間で
ある。この図のフリッカであると、画面平均輝度信号B
のレベルは小さいから、n×3Bが(n×3B)≧(A
+B+C)の関係になるまでには、時間がかかる(n2
のカウントが必要である)。
The operation of the above embodiment will be described with reference to FIG. FIG. 4A shows an image pickup signal having flicker. FIG. 4 (4B) shows the output of the counter 211 and the output of the comparator 210. Two examples of the output of the counter 221 are shown. One example is the next horizontal period after the addition of the screen average luminance signals (A, B, C) is completed. In the case of the flicker shown in FIG.
Is small, so that n × 3B is (n × 3B) ≧ (A
+ B + C) takes time (n2
Count is required).

【0038】もう一つの例は、画面平均輝度信号(B、
C、D)の加算が終了した次の水平期間の例を示してい
る。この図のフリッカであると、画面平均輝度信号Cの
レベルは大きいから、n×3Cが(n×3C)≧(B+
C+D)の関係になるまでには、さほど時間がかからな
い(n1のカウントでよい)。
Another example is a screen average luminance signal (B,
9 shows an example of the next horizontal period after the addition of C and D) is completed. In the case of the flicker shown in this figure, the level of the screen average luminance signal C is large, so that n × 3C is (n × 3C) ≧ (B +
It does not take much time until the relationship of (C + D) is reached (the count of n1 is sufficient).

【0039】上記のように、カウント値は、フリッカの
レベルに応じた補正値として得られる。この実施の形態
であると、規模が大きくなりがちな割算器を用いる必要
がなく、小規模、低コストを実現できる。
As described above, the count value is obtained as a correction value according to the level of flicker. According to this embodiment, it is not necessary to use a divider which tends to be large, and a small-scale and low-cost can be realized.

【0040】図5はさらにこの発明の他の実施の形態で
ある。この実施の形態は、図3に示した回路と図1に示
した回路とを組み合わせたものである。したがって各図
に対応する部分には同一符号を付している。即ち、第1
の演算器108の出力が第1の比較信号として比較器2
10に入力される。また、第2の演算器208の出力
(3倍信号)が、乗算器209に入力されカウンタ22
1の出力と乗算される。そしてこの乗算器209の出力
が第2の比較信号として比較器210に入力される。
FIG. 5 shows still another embodiment of the present invention. This embodiment is a combination of the circuit shown in FIG. 3 and the circuit shown in FIG. Therefore, portions corresponding to the respective drawings are denoted by the same reference numerals. That is, the first
Is output as the first comparison signal by the comparator 2
10 is input. The output (triple signal) of the second arithmetic unit 208 is input to the multiplier 209 and
Multiplied by the output of 1. Then, the output of the multiplier 209 is input to the comparator 210 as a second comparison signal.

【0041】図6はさらにまたこの発明の他の実施の形
態である。この実施の形態は、図5に示した回路の動作
と図3に示した回路の動作とが選択的に得られるように
したものである。したがって各図に対応する部分には同
一符号を付している。この実施の形態の場合、スイッチ
300を設けている。そしてこのスイッチ300の一方
にはレジスタ107の出力が供給され、他方にはレジス
タ104の出力が供給されるように構成されている。そ
してスイッチ300は端子301に供給される切替え信
号に応じていずれか一方を導出し、第1の演算器108
及び第2の演算器208に供給するようになっている。
FIG. 6 shows still another embodiment of the present invention. In this embodiment, the operation of the circuit shown in FIG. 5 and the operation of the circuit shown in FIG. 3 can be selectively obtained. Therefore, portions corresponding to the respective drawings are denoted by the same reference numerals. In the case of this embodiment, a switch 300 is provided. The output of the register 107 is supplied to one of the switches 300, and the output of the register 104 is supplied to the other of the switches 300. The switch 300 derives one of them according to the switching signal supplied to the terminal 301, and
And the second arithmetic unit 208.

【0042】したがって、図示の画面平均輝度信号Bが
選択された場合には、図3の回路と全く同じ回路動作を
得ることができ、画面平均輝度信号Eが選択された場合
には、図5の回路と全く同じ回路動作を得ることができ
る。
Therefore, when the screen average luminance signal B shown in the figure is selected, the same circuit operation as that of the circuit shown in FIG. 3 can be obtained. When the screen average luminance signal E is selected, the circuit operation shown in FIG. The same circuit operation as that of the circuit can be obtained.

【0043】[0043]

【発明の効果】以上説明したようにこの発明によれば、
フィールド毎に蓄積時間が大きく変化して得られた撮像
信号にも適切に対応することができる。またまたこの発
明によれば、回路規模の小さいフリッカ補正回路を得る
ことができ。またこの発明によれば、フィールド毎に蓄
積時間が大きく変化して得られた撮像信号にも適切に対
応でき、かつ回路規模の小さいフリッカ補正回路を得る
ことができる。
As described above, according to the present invention,
It is possible to appropriately cope with an imaging signal obtained by greatly changing the accumulation time for each field. Further, according to the present invention, a flicker correction circuit having a small circuit scale can be obtained. Further, according to the present invention, it is possible to appropriately cope with an image pickup signal obtained by greatly changing the accumulation time for each field, and to obtain a flicker correction circuit having a small circuit scale.

【図面の簡単な説明】[Brief description of the drawings]

【図1】この発明の一実施の形態を示す図。FIG. 1 is a diagram showing an embodiment of the present invention.

【図2】図1の回路の動作を説明するために示した波形
図。
FIG. 2 is a waveform chart shown for explaining the operation of the circuit of FIG. 1;

【図3】この発明の他の実施の形態を示す図。FIG. 3 is a diagram showing another embodiment of the present invention.

【図4】図3の回路の動作を説明するために示した波形
図。
FIG. 4 is a waveform chart shown for explaining the operation of the circuit of FIG. 3;

【図5】この発明のさらに他の実施の形態を示す図。FIG. 5 is a diagram showing still another embodiment of the present invention.

【図6】この発明のさらにまた他の実施の形態を示す
図。
FIG. 6 is a diagram showing still another embodiment of the present invention.

【図7】フリッカの発生原因を説明するために示した
図。
FIG. 7 is a diagram for explaining the cause of flicker generation.

【図8】同じくフリッカの他の発生原因を説明するため
に示した図。
FIG. 8 is a diagram for explaining another cause of occurrence of flicker.

【図9】従来考えられたフリッカ補正回路を示す図。FIG. 9 is a diagram showing a flicker correction circuit considered conventionally.

【符号の説明】[Explanation of symbols]

102、202…1垂直期間積分器 103〜107、203〜205…遅延器 108…第1の演算器 109…第2の演算器 110…割算器 111、212…遅延器 112、209、213…乗算器 206、207…加算器 210…比較器 211…ラッチ回路 221…カウンタ 222…デコーダ 300…スイッチ。 102, 202 ... 1 vertical period integrators 103-107, 203-205 ... delay unit 108 ... first computing unit 109 ... second computing unit 110 ... dividers 111, 212 ... delay units 112, 209, 213 ... Multipliers 206, 207 Adder 210 Comparator 211 Latch circuit 221 Counter 222 Decoder 300 Switch.

Claims (5)

【特許請求の範囲】[Claims] 【請求項1】 固体撮像素子から得られる撮像信号が入
力される入力端子と、 前記入力端子の撮像信号を1画
面単位で積算し、画面単位の平均輝度信号を得る積分手
段と、 前記画面平均輝度信号を1画面単位ずつ順次遅延し、複
数M(≧5)の画面分の画面平均輝度信号を得る遅延手
段と、 前記遅延手段から得られている複数の画面分の画面平均
輝度信号のうち、2画面分離れた時間に対応する画面平
均輝度信号をN(3≦N<M)個導出して加算し、分子
信号を得る第1演算手段と、 前記N個の画面平均輝度信号のうち1つをN倍した分母
信号を得る第2の演算手段と、 前記分母信号を分子信号で割算し、その結果を補正信号
とする割算手段と、 前記割算手段で得られた補正信号を前記入力端子に入力
する撮像信号に乗算する乗算手段とを具備したことを特
徴とするフリッカ補正機能を有した電子撮像装置。
An input terminal to which an imaging signal obtained from a solid-state imaging device is input; an integration means for integrating the imaging signal of the input terminal for each screen to obtain an average luminance signal for each screen; Delay means for sequentially delaying the luminance signal by one screen unit to obtain a screen average luminance signal for a plurality of M (≧ 5) screens, and among the screen average luminance signals for the plurality of screens obtained from the delay means First calculating means for deriving and adding N (3 ≦ N <M) screen average luminance signals corresponding to a time separated by two screens to obtain a numerator signal, among the N screen average luminance signals Second computing means for obtaining a denominator signal obtained by multiplying one by N, dividing means for dividing the denominator signal by a numerator signal, and using the result as a correction signal, and a correction signal obtained by the division means Multiplying means for multiplying the imaging signal input to the input terminal by An electronic imaging apparatus having a flicker correction function, comprising:
【請求項2】 固体撮像素子から得られる撮像信号が入
力される入力端子と、 前記入力端子の撮像信号を1画
面単位で積算し、画面単位の平均輝度信号を得る積分手
段と、 前記画面平均輝度信号を1画面単位ずつ順次遅延し、3
つの画面分の画面平均輝度信号を得る遅延手段と、 前記遅延手段から得られている3つの画面分の画面平均
輝度信号を加算し、第1の比較信号を得る第1の演算手
段と、 前記3つの画面平均輝度信号のうち1つを3倍した3倍
信号を得る第2の演算手段と、 1画面期間で1巡以上カウントする高速カウンタと、 前記高速カウンタの出力と前記3倍信号を乗算し、第2
の比較信号を得る第1の乗算手段と、 前記第1の比較信号の値と第2の比較信号の値を比較
し、前記第1の比較信号の値を前記第2の比較信号の値
が越えたときに、前記高速カウンタ出力をラッチする比
較及びラッチ手段と、 前記比較及びラッチ手段から得られたラッチ出力を、時
間調整して前記入力端子の撮像信号に乗算する第2の乗
算手段とを具備したことを特徴とするフリッカ補正機能
を有した電子撮像装置。
2. An input terminal to which an imaging signal obtained from a solid-state imaging device is input; an integration unit that integrates the imaging signal of the input terminal in units of one screen to obtain an average luminance signal in units of a screen; The luminance signal is sequentially delayed by one screen unit, and 3
Delay means for obtaining a screen average luminance signal for three screens; first calculating means for adding the screen average luminance signals for three screens obtained from the delay means to obtain a first comparison signal; A second calculating means for obtaining a triple signal obtained by tripled one of the three screen average luminance signals; a high-speed counter for counting one or more times in one screen period; an output of the high-speed counter and the triple signal Multiply by the second
A first multiplying means for obtaining a comparison signal of the following formulas: a value of the first comparison signal is compared with a value of the second comparison signal, and the value of the first comparison signal is Comparing and latching means for latching the high-speed counter output when exceeding, and second multiplying means for adjusting the time of the latched output obtained from the comparing and latching means and multiplying the imaged signal of the input terminal by the time. An electronic imaging apparatus having a flicker correction function, comprising:
【請求項3】 固体撮像素子から得られる撮像信号が入
力される入力端子と、 前記入力端子の撮像信号を1画面単位で積算し、画面単
位の平均輝度信号を得る積分手段と、 前記画面平均輝度信号を1画面単位ずつ順次遅延し、複
数M(≧5)の画面分の画面平均輝度信号を得る遅延手
段と、 前記遅延手段から得られている複数の画面分の画面平均
輝度信号のうち、2画面分離れた時間に対応する画面平
均輝度信号をN(3≦N<M)個導出して加算し、第1
の比較信号を得る第1演算手段と、 前記N個の画面平均輝度信号のうち1つをN倍したN倍
信号を得る第2の演算手段と、 1画面の期間で1巡以上カウントする高速カウンタと、 前記高速カウンタの出力と前記N倍信号を乗算し、第2
の比較信号を得る第1の乗算手段と、 前記第1の比較信号の値と第2の比較信号の値を比較
し、前記第1の比較信号の値を前記第2の比較信号の値
が越えたときに、前記高速カウンタ出力をラッチする比
較及びラッチ手段と、 前記比較及びラッチ手段から得られたラッチ出力を、時
間調整して前記入力端子の撮像信号に乗算する第2の乗
算手段とを具備したことを特徴とするフリッカ補正機能
を有した電子撮像装置。
3. An input terminal to which an image signal obtained from a solid-state image sensor is input; an integrating means for integrating the image signal of the input terminal for each screen to obtain an average luminance signal for each screen; Delay means for sequentially delaying the luminance signal by one screen unit to obtain a screen average luminance signal for a plurality of M (≧ 5) screens, and among the screen average luminance signals for the plurality of screens obtained from the delay means Derive and add N (3 ≦ N <M) screen average luminance signals corresponding to the time separated by two screens,
A first calculating means for obtaining a comparison signal of the following; a second calculating means for obtaining an N-fold signal obtained by multiplying one of the N screen average luminance signals by N; a high-speed counting means for counting one or more times in one screen period Multiplying the output of the high-speed counter by the N-times signal;
A first multiplying means for obtaining a comparison signal of the following formulas: a value of the first comparison signal is compared with a value of the second comparison signal, and the value of the first comparison signal is Comparing and latching means for latching the high-speed counter output when exceeding, and second multiplying means for adjusting the time of the latched output obtained from the comparing and latching means and multiplying the imaged signal of the input terminal by the time. An electronic imaging apparatus having a flicker correction function, comprising:
【請求項4】 固体撮像素子から得られる撮像信号が入
力される入力端子と、 前記入力端子の撮像信号を1画面単位で積算し、画面単
位の平均輝度信号を得る積分手段と、 前記画面平均輝度信号を1画面単位ずつ順次遅延し、複
数M(≧5)の画面分の画面平均輝度信号を得る遅延手
段と、 前記遅延手段から得られている複数の画面分の画面平均
輝度信号のうち、2画面分離れた時間に対応する画面平
均輝度信号をN(3≦N<M)個導出して加算するか、
または、1画面分離れた時間に対応する画面平均輝度信
号をN(3≦N<M)個導出して加算するか、いずれか
一方が選択可能であり、当該加算結果を第1の比較信号
として得る第1演算手段と、 前記N個の画面平均輝度信号のうち1つをN倍したN倍
信号を得る第2の演算手段と、 1画面の期間で1巡以上カウントする高速カウンタと、 前記高速カウンタの出力と前記N倍信号を乗算し、第2
の比較信号を得る第1の乗算手段と、 前記第1の比較信号の値と第2の比較信号の値を比較
し、前記第1の比較信号の値を前記第2の比較信号の値
が越えたときに、前記高速カウンタ出力をラッチする比
較及びラッチ手段と、 前記比較及びラッチ手段から得られたラッチ出力を、時
間調整して前記入力端子の撮像信号に乗算する第2の乗
算手段とを具備したことを特徴とするフリッカ補正機能
を有した電子撮像装置。
4. An input terminal to which an imaging signal obtained from a solid-state imaging device is input; an integration means for integrating the imaging signal of the input terminal for each screen to obtain an average luminance signal for each screen; Delay means for sequentially delaying the luminance signal by one screen unit to obtain a screen average luminance signal for a plurality of M (≧ 5) screens, and among the screen average luminance signals for the plurality of screens obtained from the delay means Deriving and adding N (3 ≦ N <M) screen average luminance signals corresponding to the time separated by two screens,
Alternatively, N (3 ≦ N <M) screen average luminance signals corresponding to the time separated by one screen may be derived and added, or either of them may be selected, and the result of the addition may be selected as a first comparison signal. A first calculating means for obtaining an N-fold signal obtained by multiplying one of the N screen average luminance signals by N; a high-speed counter for counting one or more times in one screen period; Multiplying the output of the high-speed counter by the N-times signal,
A first multiplying means for obtaining a comparison signal of the following formulas: a value of the first comparison signal is compared with a value of the second comparison signal, and the value of the first comparison signal is Comparing and latching means for latching the high-speed counter output when exceeding, and second multiplying means for adjusting the time of the latched output obtained from the comparing and latching means and multiplying the imaged signal of the input terminal by the time. An electronic imaging apparatus having a flicker correction function, comprising:
【請求項5】 前記入力端子の撮像信号は、デジタル化
されていることを特徴とする請求項1又は2又は3又は
4のいずれかに記載されたフリッカ補正機能を有した電
子撮像装置。
5. The electronic image pickup apparatus having a flicker correction function according to claim 1, wherein the image pickup signal of the input terminal is digitized.
JP29672896A 1996-11-08 1996-11-08 Electronic imaging device having flicker correction function Expired - Fee Related JP3410911B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP29672896A JP3410911B2 (en) 1996-11-08 1996-11-08 Electronic imaging device having flicker correction function

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP29672896A JP3410911B2 (en) 1996-11-08 1996-11-08 Electronic imaging device having flicker correction function

Publications (2)

Publication Number Publication Date
JPH10145670A true JPH10145670A (en) 1998-05-29
JP3410911B2 JP3410911B2 (en) 2003-05-26

Family

ID=17837332

Family Applications (1)

Application Number Title Priority Date Filing Date
JP29672896A Expired - Fee Related JP3410911B2 (en) 1996-11-08 1996-11-08 Electronic imaging device having flicker correction function

Country Status (1)

Country Link
JP (1) JP3410911B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7042524B2 (en) * 2000-10-31 2006-05-09 Nec Corporation Video data correction device and video data correction method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7042524B2 (en) * 2000-10-31 2006-05-09 Nec Corporation Video data correction device and video data correction method

Also Published As

Publication number Publication date
JP3410911B2 (en) 2003-05-26

Similar Documents

Publication Publication Date Title
US7471315B2 (en) Apparatus and method for detecting and compensating for illuminant intensity changes within an image
JP4856765B2 (en) Imaging apparatus and flicker detection method
EP1324598A2 (en) Flicker correction apparatus, method and recording medium storing flicker correction program
EP1091571A2 (en) Apparatus and methods for detection and compensation of illumination flicker, detection and measurement of AC line frequency
KR20060129954A (en) Image-processing apparatus and image-pickup apparatus
JP4207922B2 (en) Flicker correction method, flicker correction apparatus, and imaging apparatus
US20080101721A1 (en) Device and method for image correction, and image shooting apparatus
JP2002314873A (en) Circuit for imaging device and signal processing method for imaging
JPH042278A (en) Movement detection circuit and hand blur correction device
JP3476400B2 (en) Flicker detection / correction apparatus and flicker detection / correction method
WO2021111873A1 (en) Signal processing device, signal processing method, and detection sensor
JP2015119483A (en) Method and apparatus for acquiring set of images illuminated by flash
JP2000224468A (en) Video signal processor
JPH11326770A (en) Confocal microscope
JPH11252446A (en) Flicker correction device
JPS63105580A (en) Television camera
JP2001061105A (en) Image pickup unit
US7133075B2 (en) Image capturing apparatus and method for reducing a flicker effect
JPH10145670A (en) Electronic image pickup device with flicker correction function
JP2005229353A (en) Image pickup device and flicker detection method
JP2010063169A (en) Image processing apparatus and image pick-up apparatus
JP2004032517A (en) Image pickup system and image processing apparatus
JP3454369B2 (en) Imaging device
JPH0620276B2 (en) Fluorescent light flickering correction circuit for solid-state TV cameras
JP2002232746A (en) Flicker canceler

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080320

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090320

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100320

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees