JP3985325B2 - 映像信号処理回路およびその処理方法、並びにこれらを用いたカメラシステム - Google Patents
映像信号処理回路およびその処理方法、並びにこれらを用いたカメラシステム Download PDFInfo
- Publication number
- JP3985325B2 JP3985325B2 JP03089798A JP3089798A JP3985325B2 JP 3985325 B2 JP3985325 B2 JP 3985325B2 JP 03089798 A JP03089798 A JP 03089798A JP 3089798 A JP3089798 A JP 3089798A JP 3985325 B2 JP3985325 B2 JP 3985325B2
- Authority
- JP
- Japan
- Prior art keywords
- detection
- output
- video signal
- circuit
- signal processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Picture Signal Circuits (AREA)
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
Description
【発明の属する技術分野】
本発明は、映像信号処理回路およびその処理方法、並びにこれらを用いたカメラシステムに関する。
【0002】
【従来の技術】
カメラシステムでは、画像の鮮鋭度を改善・強調する技術として、高域が低下する開口歪を回路的に補正して輪郭を強調するアパーチャコレクション(aperture correction;以下、アパコンと略称する)が用いられている。このアパコンには、垂直(V)方向のアパコン(以下、Vアパコンと称する)と水平(H)方向のアパコン(以下、Hアパコンと称する)の各回路がある。そのうちのVアパコン回路の従来例を図10に示す。
【0003】
このVアパコン回路には、CCD(Charge Coupled Device) 撮像素子から出力されるある1ライン分の映像信号を1H(Hは水平走査期間)遅延して得られる映像信号1HDと、その前後の2ライン分の映像信号0HD,2HDを加算し、その加算出力を1/2倍して得られる映像信号(0HD+2HD)/2とが入力される。
【0004】
これらの映像信号1HD,(0HD+2HD)/2は、減算器101で減算されてその減算出力がVアパコン部102に供給される。また、映像信号1HD,(0HD+2HD)/2は共にVアパコンリミッター信号作成部103にも供給される。
【0005】
Vアパコン部102は、減算器101の減算出力をある一定のゲインで増幅するVアパコンゲイン部104と、このVアパコンゲイン部104の増幅出力中に含まれる低照度時のノイズ成分をカットするVアパコンスライス部105と、このVアパコンスライス部105のスライス出力に対して高輝度時にリミッターをかけるVアパコンリミッター部106とから構成され、Vアパコンリミッター部106でのリミット期間がVアパコンリミッター信号作成部103から与えられるリミッター信号によって設定されるようになっている。
【0006】
Vアパコンリミッター信号作成部103は、映像信号1HDを検波レベル設定回路107で設定された検波レベルと比較することによって1HDの輝度レベルを検波するコンパレータ108と、映像信号(0HD+2HD)/2を上記検波レベルと比較することによって(0HD+2HD)/2の輝度レベルを検波するコンパレータ109と、これらコンパレータ108,109の各比較出力の論理和をとるOR回路110と、このOR回路110の出力に基づいてVアパコンリミッター部106のリミット期間を設定するリミット期間設定回路111とから構成されている。
【0007】
【発明が解決しようとする課題】
ところで、高輝度時にはCCD撮像素子の各画素のデータの比率が大きく変わるため、輝度信号処理におけるVアパコン検波に達して擬似的にVアパコンが付加され、画質が劣化する。この擬似Vアパコンを抑制するためには、上記構成の従来のVアパコン回路では、輝度の検波レベルを相当下げなければならず、検波レベルを下げ過ぎると、高輝度時に垂直方向の階調を含む被写体を撮像した際にVアパコンが付かないという問題があった。
【0008】
本発明は、上記課題に鑑みてなされたものであり、その目的とするところは、高輝度に階調を持つ被写体のVアパコンを消すことなく擬似的なVアパコンを削除することが可能な映像信号処理回路およびその処理方法、並びにこれらを用いたカメラシステムを提供することにある。
【0009】
【課題を解決するための手段】
本発明による映像信号処理回路は、所定のカラーコーディングのカラーフィルタを持つ固体撮像素子を用いたカメラシステムにおいて、当該固体撮像素子から出力されるある1ライン分の第1の映像信号と、その前後の2ライン分の映像信号を平均化して得られる第2の映像信号とに基づいて上記カラーコーディングに基づく複数の画素データのレベルを検波する検波手段と、この検波手段から検波信号が断続的に出力されるとき、これを連続化して出力する連続化手段と、この連続化手段で連続化された検波信号に基づいてVアパコンに対するリミット期間を設定するリミット期間設定手段とを備えた構成となっている。
【0010】
上記構成の映像信号処理回路において、検波手段で断続的にレベル検波が行われ、間欠的な検波信号が出力されても、連続化手段によって間欠的な検波信号が連続化される。これにより、輝度レベルの検波を行う場合であっても、検波レベルを高く設定できることになる。その結果、高輝度時に垂直方向に階調を含む被写体を撮像した際に、Vアパコンを消すことなく、擬似的なVアパコンを削除できる。
【0011】
本発明による他の映像信号処理回路は、所定のカラーコーディングのカラーフィルタを持つ固体撮像素子を用いたカメラシステムにおいて、当該固体撮像素子から出力されるある1ライン分の第1の映像信号と、その前後の2ライン分の映像信号を平均化して得られる第2の映像信号とに基づいて上記カラーコーディングに基づく複数の画素データについて水平方向の隣り合う画素間のレベル差を検波する水平方向検波手段と、この水平方向検波手段から出力される検波信号に基づいてVアパコンに対するリミット期間を設定するリミット期間設定手段とを備えた構成となっている。また、好ましくは、水平方向のレベル差検波に加えて、輝度レベルの検波または垂直方向のレベル差検波を併用する。
【0012】
上記構成の他の映像信号処理回路では、輝度レベルの検波ではなく、水平方向検波手段によって水平方向の隣り合う画素間のレベル差の検波を行う。また、高輝度の状態になると、画素間のレベル差が縮むため、輝度レベルの検波または垂直方向のレベル差検波を併用して高輝度時の検波を行う。これにより、高輝度時に垂直方向に階調を含む被写体を撮像した際に、Vアパコンを消すことなく、擬似的なVアパコンを削除できる。
【0013】
【発明の実施の形態】
以下、本発明の実施の形態について図面を参照して詳細に説明する。図1は、本発明が適用されるカメラシステムの構成の一例を示すブロック図である。
【0014】
図1において、固体撮像素子、例えばCCD撮像素子1の撮像面上には、被写体(図示せず)からの像光が、レンズ2を含む光学系によって結像される。CCD撮像素子1は、タイミングジェネレータ(図示せず)から与えられる各種のタイミング信号によって露光時間(シャッタスピード)、信号電荷の読み出し、垂直転送、水平転送などの制御が行われることにより、入射光を画素単位で電気信号に変換して出力する。
【0015】
このCCD撮像素子1から出力されるアナログ映像信号は、プリアンプ3に供給されて信号成分がサンプルホールドされるとともに、適正なレベルに合わせるためにゲインコントロール(AGC)処理が行われる。プリアンプ3を経たアナログ映像信号は、A/Dコンバータ4でデジタル化された後、ディレイライン5に供給される。
【0016】
ディレイライン5からは、1H(Hは水平走査期間)相当期間および2H相当期間だけ遅延されたデジタル映像信号1HD,2HDが出力される。そして、デジタル映像信号1HDは、輝度(Y)信号処理回路6およびC(クロマ)信号処理回路7の双方に供給される。一方、デジタル映像信号2HDは加算器8で2ライン前のデジタル映像信号0HDと加算され、その加算信号(0HD+2HD)は、1/2倍回路9で1/2倍されて、デジタル映像信号(0HD+2HD)/2としてY信号処理回路6およびC信号処理回路7の双方に供給される。
【0017】
Y信号処理回路6において、入力されるデジタル映像信号1HDは、LPF(ローパスフィルタ)601で帯域制限されることによってC信号成分がカットされ、Y信号データとしてVHアパコン部(アパコン加算器)602およびHアパコン回路603に供給される。デジタル映像信号1HDはさらに、デジタル映像信号(0HD+2HD)/2と共にVアパコン回路604にも供給される。
【0018】
HアパコンおよびVアパコンが付加されたY信号データは、ガンマ補正回路605でガンマ補正がなされた後、CCD撮像素子1の飽和領域でリミッターをかけるホワイトクリップ回路606において一定レベル以上のY信号レベルがホワイトクリップレベルにクリップされる。そして、ブランキング(BLK)付加回路607でブランキング信号が付加され、さらにシンク(SYNC)付加回路608で同期信号が付加された後、位相調整回路609で位相調整が行われる。
【0019】
C信号処理回路7において、入力されるデジタル映像信号1HD,(0HD+2HD)/2は、帯域制限のLPF701を通った後、RGB変換回路702でR,G,Bの3原色信号データに変換される。このR,G,Bのデータは、ホワイトバランス回路703てホワイトバランスがとられた後、ガンマ補正回路703でガンマ補正処理がなされる。
【0020】
ガンマ補正されたR,G,Bのデータから色差信号生成回路705でR−Y,B−Yの色差信号の生成が行われるが、このときの計算に基づいて位相とゲインも同時に調整される。R−Y,B−Yの色差信号が生成された後、ブランキング/バースト付加回路706でブランキング信号が付加され、続いてバースト信号が付加される。そして、エンコーダ707でNTSC/PALそれぞれのモードにあった変調が行われ、さらに位相調整回路708で位相調整が行われる。
【0021】
Y信号処理回路6でガンマ補正や位相調整などの信号処理が行われたY信号データは、D/Aコンバータ10でアナログY信号に変換されて後段の回路へ供給される。C信号処理回路7でホワイトバランスやガンマ補正などの信号処理が行われたC信号データは、D/Aコンバータ11でアナログC信号に変換されて後段の回路へ供給される。なお、Y信号処理回路6およびC信号処理回路7の各々における信号処理のための各種パラメータの設定は、マイコン(マイクロコンピュータ)12によって行われる。
【0022】
上記構成のカメラシステムにおいて、Y信号処理回路6におけるVアパコン回路604に本発明が適用される。以下、本発明の具体的な実施形態について説明する。
【0023】
なお、CCD撮像素子1には、色配列が水平2繰返しのカラーフィルタ、例えば図3に示す補色市松カラーフィルタが装備されているものとする。このとき、CCD撮像素子1がフィールド読み出し方式であるとすると、その出力信号としては、S1R,S2R,S1B,S2Bの4種類の画素データが存在し、Rライン(S1R,S2R)とBライン(S1B,S2B)とがそれぞれ交互に出力される。
【0024】
ここで、各画素データS1R,S2R,S1B,S2Bを、R,G,Bに簡易的に置き直すと以下のようになる。
S1R=G +Cy=B+2G ……(1)
S2R=Mg+Ye=2R+B+G ……(2)
S1B=Mg+Cy=R+2B+G ……(3)
S2B=G +Ye=R+2G ……(4)
【0025】
図2は、本発明の第1実施形態を示すブロック図である。図2において、入力されるデジタル映像信号1HD,(0HD+2HD)/2は、減算器21で減算される。この減算器21の減算出力は垂直方向の隣り合うライン間の差であり、Vアパコン部22およびVアパコンリミッター信号作成部23に供給される。Vアパコンリミッター信号作成部23には、デジタル映像信号1HD,(0HD+2HD)/2が直接供給されるとともに、検波レベル設定回路24,25でそれぞれ設定される第1,第2の検波レベルが与えられる。
【0026】
Vアパコン部22は、減算器21の減算出力をある一定のゲインで増幅するVアパコンゲイン部26と、このVアパコンゲイン部26の増幅出力中に含まれる低照度時のノイズ成分をカットするVアパコンスライス部27と、このVアパコンスライス部27のスライス出力に対して高輝度時にリミッターをかけるVアパコンリミッター部28とから構成され、Vアパコンリミッター部28でのリミット期間がVアパコンリミッター信号作成部23から与えられるリミッター信号によって調整されるようになっている。
【0027】
Vアパコンリミッター信号作成部23は、垂直方向のライン間のレベル差の検波を行う垂直方向検波部29と、輝度レベルの検波を行う輝度レベル検波部30と、これら両検波部29,30の各検波出力の論理積をとるAND回路31と、このAND回路31の出力に基づいてVアパコンリミッター部28のリミット期間を設定するためのリミッター信号を出力するリミット期間設定回路32とを有し、このリミット期間設定回路32から出力されるリミッター信号をVアパコンリミッター部28に与える構成となっている。
【0028】
このVアパコンリミッター信号作成部23において、垂直方向検波部29は、減算器21の減算出力を絶対値化する絶対値回路291と、この絶対値回路291の絶対値出力を検波レベル設定回路24で設定される第1の検波レベルと比較することによって垂直方向のレベル差を検波するコンパレータ292と、AND回路31を介して与えられるコンパレータ292の比較出力をマスタークロックMCKの1クロック分遅延する遅延回路293と、コンパレータ292の比較出力と遅延回路293の遅延出力との論理和をとるOR回路294とから構成されている。
【0029】
一方、輝度レベル検波部30は、デジタル映像信号1HDを検波レベル設定回路25で設定された第2の検波レベルと比較することによって1HDの輝度レベルを検波するコンパレータ301と、デジタル映像信号(0HD+2HD)/2を上記第2の検波レベルと比較することによって(0HD+2HD)/2の輝度レベルを検波するコンパレータ302と、これらコンパレータ301,302の各比較出力の論理和をとるOR回路303と、このOR回路303の出力をマスタークロックMCKの1クロック分遅延する遅延回路304と、OR回路303の出力と遅延回路304の遅延出力との論理和をとるOR回路305とから構成されている。
【0030】
次に、上記構成の第1実施形態に係るVアパコン回路の回路動作について、赤(R)の被写体を撮像したときの各部の信号状態を示す図4〜図7の各波形図を用いて説明する。なお、図4および図5はVアパコンリミッターがかかり始めるとき、図6および図7はさらに輝度レベルが上がり画素データが飽和してきたときの各部の信号状態をそれぞれ示している。これらの図において、波形(a)〜(k)は、図2の各部(a)〜(k)の波形をそれぞれ対応して示している。
【0031】
CCD撮像素子1の色コーディングが補色市松で、読み出し方式がフィールド読み出し方式の場合、(1)式〜(4)式から明らかなように、Rの成分が同じS1BとS2Bは、図4(b)に示すように、入力の信号レベルが上昇したとしても同じレベルであるが、S1RとS2Rでは2Rの差が生じているので、図4(a)に示すように、信号レベルが上昇するほど差が大きくなってくる。
【0032】
ただし、信号レベルが大きくなり過ぎると、図6(a)に示すように、S2Rが最初に飽和するのでそれ以降はS1RとS2Rのレベル差は縮む方向に働く。このとき、検波の際の注意点としては、S2Rのレベルによって輝度レベルを検波し、飽和レベルを越えたときに垂直方向の検波を連続的に行うことである。青(B)を撮像したときは、この現象はS1BとS2Bで発生する。以下に、具体的な回路動作について説明する。
【0033】
先ず、輝度レベル検波部30において、コンパレータ301でデジタル映像信号1HD(a)を検波レベル設定回路25で設定された第2の検波レベルと比較することによって1HDの輝度レベルを検波し、またコンパレータ302でデジタル映像信号(0HD+2HD)/2(b)を上記第2の検波レベルと比較することによって(0HD+2HD)/2の輝度レベルを検波する。
【0034】
ここで、デジタル映像信号1HD(a)およびデジタル映像信号(0HD+2HD)/2(b)の各々には、Rラインの信号とBラインの信号が交互に現れることになる。そこで、1HD(a),(0HD+2HD)/2(b)のどちらかが検波レベルにかかれば、輝度検波有りとするために、OR回路303で両検波出力(c),(d)の論理和をとるようにしている。
【0035】
また、図4(a)のような信号が入力されたとき、S2R部が検波有り、S1R部が検波無しの状態となり、OR回路303の出力として、画素周期で間欠的な検波信号(e)が出力される。その結果、検波が画素周期で断続的に行われることになり、好ましくない。そこで、本実施形態においては、OR回路303の出力(e)とこれを遅延回路304で1クロック分遅延した遅延出力との論理和をOR回路305でとることで、連続的な検波信号(f)を得て連続的な検波を実現している。
【0036】
一方、垂直方向検波部29においては、減算器21の減算出力(g)は絶対値回路291で絶対値化され、その絶対値化出力(h)をコンパレータ292で第1の検波レベルと比較することで、垂直方向のレベル差を検波する。このコンパレータ292の出力である垂直方向のレベル検波信号(i)は、OR回路305の出力である輝度検波信号(f)とAND回路31で論理積がとられる。これにより、垂直方向のレベル差検波と輝度レベル検波の両方が検波されたときに、検波信号(j)が得られる。
【0037】
ところで、CCD撮像素子1の飽和状態では、図6(a)および(b)に示すようなデジタル映像信号1HDおよびデジタル映像信号(0HD+2HD)/2が入力される。このとき、S2R信号の飽和により、減算器21の減算出力が図7(g)に、絶対値回路291の絶対値化出力が図7(h)にそれぞれ示すような波形となるため、コンパレータ292の出力は図7(i)に示すような波形になる。その結果、検波が画素周期で断続的に行われることになるため、好ましくない。
【0038】
そこで、本実施形態では、AND回路31の出力(j)とこれを遅延回路293で1クロック分遅延した遅延出力との論理和をOR回路294でとることで、連続的な検波信号(k)を得て連続的な検波を実現している。なお、本実施形態においては、遅延回路293およびOR回路294をAND回路31とリミット幅設定回路32の間に設けた構成を採っているが、その機能からしてコンパレータ292とAND回路31の間に設けることも可能である。
【0039】
このようにして得られた検波信号(k)は、リミット期間設定回路32に供給されて当該検波信号(k)の幅の調整、即ちリミット期間の設定が行われる。具体的には、一例として、1回の検波についてマスタークロックMCKの4クロック分の幅が検波信号(k)に付加される。そして、4クロック分の幅が付加された検波信号(k)は、Vアパコン部22のVアパコンリミッター部28に、そのリミット期間を設定するリミッター信号として供給される。
【0040】
上述したように、第1実施形態に係るVアパコン回路では、輝度レベル検波部30において、1HDの輝度レベルの検波または(0HD+2HD)/2の輝度レベルの検波が断続的に行われても、OR回路303の後段に遅延回路304およびOR回路305からなる連続化手段を配したことにより、連続的に検波信号を出力することができるため、輝度に対する検波レベルを高く設定できる。これにより、高輝度時に垂直方向の階調を含む被写体を撮像した際に、Vアパコンを消すことがなく、擬似信号のVアパコンを削除することができる。
【0041】
しかも、輝度レベルの検波と垂直方向のレベル差の検波とを併用し、垂直方向のレベル差がかなり大きいことを条件として検波信号を出力するようにしていることにより、高輝度時に普通の被写体を撮像した際に、Vアパコンが消えるようなことがなく、より確実なVアパコンが行えることになる。
【0042】
なお、本実施形態では、輝度レベルの検波と垂直方向のレベル差の検波とを併用する場合を例に採って説明したが、輝度レベルの検波単独でも、高輝度時に垂直方向の階調を含む被写体を撮像した際に、Vアパコンを消すことがなく、擬似的なVアパコンを削除できるという効果を得ることができる。また、垂直方向のレベル差の検波単独でも可能である。この場合、遅延回路293およびOR回路294からなる連続化手段の作用によって連続的な検波が可能となる。
【0043】
図8は、本発明の第2実施形態を示すブロック図である。図8において、入力されるデジタル映像信号1HD,(0HD+2HD)/2は、減算器41で減算される。この減算器41の減算出力は垂直方向の隣り合うライン間の差であり、Vアパコン部42およびVアパコンリミッター信号作成部43に供給される。Vアパコンリミッター信号作成部43には、デジタル映像信号1HD,(0HD+2HD)/2が直接供給されるとともに、検波レベル設定回路44,45でそれぞれ設定される第1,第2の検波レベルが与えられる。
【0044】
Vアパコン部42は、減算器41の減算出力をある一定のゲインで増幅するVアパコンゲイン部46と、このVアパコンゲイン部46の増幅出力中に含まれる低照度時のノイズ成分をカットするVアパコンスライス部47と、このVアパコンスライス部47のスライス出力に対して高輝度時にリミッターをかけるVアパコンリミッター部48とから構成され、Vアパコンリミッター部48でのリミット期間がVアパコンリミッター信号作成部43から与えられるリミッター信号によって設定されるようになっている。
【0045】
Vアパコンリミッター信号作成部43は、水平方向の隣り合う画素間のレベル差の検波を行う水平方向検波部49と、輝度レベルの検波を行う輝度レベル検波部50と、これら両検波部49,50の各検波出力の論理和をとるOR回路51と、このOR回路51の出力に基づいてVアパコンリミッター部48のリミット期間を設定するためのリミッター信号を出力するリミット期間設定回路52とを有し、このリミット期間設定回路52から出力されるリミッター信号をVアパコンリミッター部48に与える構成となっている。
【0046】
このVアパコンリミッター信号作成部43において、水平方向検波部49は、デジタル映像信号1HDをマスタークロックMCKの1クロック分遅延する遅延回路491と、その遅延出力からデジタル映像信号1HDを減算する減算器492と、その減算出力を絶対値化する絶対値回路493と、その絶対値化出力を検波レベル設定回路44で設定された第1の検波レベルと比較するコンパレータ494と、デジタル映像信号(0HD+2HD)/2を1クロック分遅延する遅延回路495と、その遅延出力からデジタル映像信号(0HD+2HD)/2を減算する減算器496と、その減算出力を絶対値化する絶対値回路497と、その絶対値化出力を上記第1の検波レベルと比較するコンパレータ498と、コンパレータ494,498の各比較出力の論理和をとるOR回路499とから構成されている。
【0047】
一方、輝度レベル検波部50は、デジタル映像信号1HDを検波レベル設定回路25で設定された第2の検波レベルと比較することによって1HDの輝度レベルを検波するコンパレータ501と、デジタル映像信号(0HD+2HD)/2を上記第2の検波レベルと比較することによって(0HD+2HD)/2の輝度レベルを検波するコンパレータ502と、これらコンパレータ501,502の各比較出力の論理和をとるOR回路503と、このOR回路503の出力をマスタークロックMCKの1クロック分遅延する遅延回路504と、OR回路503の出力と遅延回路504の遅延出力との論理和をとるOR回路505とから構成されている。
【0048】
上記構成の第2実施形態に係るVアパコン回路では、先ず、水平方向検波部49において、コンパレータ494,498でS1信号とS2信号のレベル差を、検波レベル設定回路44で設定された第1の検波レベルと比較することにより、水平方向でデータのバランスが崩れたときを検波する。なお、飽和レベルに近づきS1信号とS2信号のレベル差が縮まったときには、水平方向の検波が行えなくなる。そのため、飽和レベルに近づいたときには、輝度レベル検波部50で輝度レベルの検波を行う。
【0049】
すなわち、輝度レベル検波部50において、コンパレータ501でデジタル映像信号1HDを検波レベル設定回路45で設定された第2の検波レベルと比較することによって1HDの輝度レベルを検波し、またコンパレータ502でデジタル映像信号(0HD+2HD)/2を上記第2の検波レベルと比較することによって(0HD+2HD)/2の輝度レベルを検波する。
【0050】
ここで、デジタル映像信号1HDおよびデジタル映像信号(0HD+2HD)/2の各々には、Rラインの信号とBラインの信号が交互に現れることになる。そこで、デジタル映像信号1HD,(0HD+2HD)/2のどちらかが検波レベルにかかれば、輝度検波有りとするために、OR回路503でコンパレータ501,502の両比較出力の論理和をとるようにしている。
【0051】
また、第1実施形態の場合と同様に、図4(a)のような信号が入力されたとき、S2R部が検波有り、S1R部が検波無しの状態となるため、OR回路503の出力として、画素周期で間欠的な検波信号が出力され、検波が画素周期で断続的に行われることになる。これを回避し、連続的な検波を実現するために、OR回路503の出力とこれを遅延回路504で1クロック分遅延した遅延出力との論理和をOR回路505でとるようにしている。
【0052】
上述したように、第2実施形態に係るVアパコン回路においては、輝度レベルの検波ではなく、水平方向検波部49によって水平方向の隣り合う画素間のレベル差を検波するようにしているので、高輝度時に垂直方向の階調を含む被写体を撮像した際に、Vアパコンを消すことがなく、擬似的なVアパコンを削除することができる。
【0053】
また、水平方向検波部49では、高輝度の状態になると、キャリア差(レベル差)が縮むため、検波できないことになる。ところが、本実施形態においては、輝度レベル検波部50によって高輝度時の検波を行う構成を採っているので、高輝度になってキャリア差が縮んだ場合であっても検波信号を発生することができる。しかも、この輝度レベル検波部50は、遅延回路504およびOR回路505からなる連続化手段の作用によって連続的に輝度検波を行える構成となっているので、連続して検波信号を発生することができる。
【0054】
なお、本実施形態では、水平方向のレベル差の検波と輝度レベルの検波を併用する場合を例に採って説明したが、各検波レベルを適当に設定することにより、水平方向のレベル差検波単独でも、また輝度レベル検波単独でも、高輝度時に垂直方向の階調を含む被写体を撮像した際に、Vアパコンを消すことがなく、擬似的なVアパコンを削除することができる。
【0055】
図9は、本発明の第3実施形態を示すブロック図である。図9において、入力されるデジタル映像信号1HD,(0HD+2HD)/2は、減算器61で減算される。この減算器61の減算出力は垂直方向の隣り合うライン間の差であり、Vアパコン部62およびVアパコンリミッター信号作成部63に供給される。Vアパコンリミッター信号作成部63には、デジタル映像信号1HD,(0HD+2HD)/2が直接供給されるとともに、検波レベル設定回路64,65でそれぞれ設定される第1,第2の検波レベルが与えられる。
【0056】
Vアパコン部62は、減算器61の減算出力をある一定のゲインで増幅するVアパコンゲイン部66と、このVアパコンゲイン部66の増幅出力中に含まれる低照度時のノイズ成分をカットするVアパコンスライス部67と、このVアパコンスライス部67のスライス出力に対して高輝度時にリミッターをかけるVアパコンリミッター部68とから構成され、Vアパコンリミッター部68でのリミット期間がVアパコンリミッター信号作成部63から与えられるリミッター信号によって設定されるようになっている。
【0057】
Vアパコンリミッター信号作成部63は、垂直方向のライン間のレベル差の検波を行う垂直方向検波部69と、水平方向の隣り合う画素間のレベル差の検波を行う水平方向検波部70と、これら両検波部69,70の各検波出力の論理和をとるOR回路71と、このOR回路71の出力に基づいてVアパコンリミッター部68のリミット期間を設定するためのリミッター信号を出力するリミット期間設定回路72とを有し、このリミット期間設定回路72から出力されるリミッター信号をVアパコンリミッター部68に与える構成となっている。
【0058】
このVアパコンリミッター信号作成部43において、垂直方向検波部69は、減算器61の減算出力を絶対値化する絶対値回路691と、この絶対値回路691の絶対値出力を検波レベル設定回路64で設定される第1の検波レベルと比較することによって垂直方向のレベル差を検波するコンパレータ692と、このコンパレータ692の比較出力をマスタークロックMCKの1クロック分遅延する遅延回路693と、コンパレータ692の比較出力と遅延回路693の遅延出力との論理和をとるOR回路694とから構成されている。
【0059】
一方、水平方向検波部70は、デジタル映像信号1HDをマスタークロックMCKの1クロック分遅延する遅延回路701と、その遅延出力からデジタル映像信号1HDを減算する減算器702と、その減算出力を絶対値化する絶対値回路703と、その絶対値化出力を検波レベル設定回路65で設定された第2の検波レベルと比較するコンパレータ704と、デジタル映像信号(0HD+2HD)/2を1クロック分遅延する遅延回路705と、その遅延出力からデジタル映像信号(0HD+2HD)/2を減算する減算器706と、その減算出力を絶対値化する絶対値回路707と、その絶対値化出力を上記第2の検波レベルと比較するコンパレータ708と、コンパレータ704,708の各比較出力の論理和をとるOR回路709とから構成されている。
【0060】
上記構成の第3実施形態に係るVアパコン回路では、先ず、水平方向検波部70において、コンパレータ704,708でS1信号とS2信号のレベル差を、検波レベル設定回路65で設定された第2の検波レベルと比較することにより、水平方向でデータのバランスが崩れたときを検波する。なお、飽和レベルに近づきS1信号とS2信号のレベル差が縮まったときには、水平方向の検波が行えなくなる。そのため、飽和レベルに近づいたときには、垂直方向検波部69で垂直方向のレベル差の検波を行う。
【0061】
すなわち、垂直方向検波部69において、減算器61の減算出力は絶対値回路691で絶対値化され、その絶対値化出力を検波レベル設定回路64で設定される第1の検波レベルとコンパレータ692で比較することで、垂直方向のレベル差を検波する。この垂直方向検波部69では、第1実施形態における垂直方向検波部29(図2を参照)の場合と同様に、CCD撮像素子1の飽和状態では、S2R信号の飽和により、検波が画素周期で断続的に行われることになる。
【0062】
そこで、本実施形態においても、コンパレータ692の比較出力、即ち垂直方向のレベル差の検波出力と、これを遅延回路693でマスタークロックMCKの1クロック分遅延した遅延出力との論理和をOR回路694でとるようにすることにより、連続的な検波信号を出力して連続的な検波を実現している。
【0063】
上述したように、第3実施形態に係るVアパコン回路においては、第2実施形態の場合と同様に、輝度レベルの検波ではなく、水平方向検波部49によって水平方向の隣り合う画素間のレベル差を検波するようにしているので、高輝度時に垂直方向の階調を含む被写体を撮像した際に、Vアパコンを消すことがなく、擬似的なVアパコンを削除することができる。
【0064】
また、水平方向検波部49では、高輝度の状態になると、キャリア差が縮むため、検波できないことになる。ところが、本実施形態においては、垂直方向検波部69によって垂直方向の隣り合うライン間のレベル差の検波を行う構成を採っているので、高輝度になってキャリア差が縮んだ場合であっても検波信号を発生することができる。しかも、この垂直方向検波部69は、遅延回路693およびOR回路694からなる連続化手段の作用によって連続的に輝度検波を行える構成となっているので、連続して検波信号を発生することができる。
【0065】
なお、本実施形態では、水平方向のレベル差の検波と垂直方向のレベル差の検波を併用する場合を例に採って説明したが、各検波レベルを適当に設定することにより、水平方向のレベル差検波単独でも、また垂直方向のレベル差検波単独でも、高輝度時に垂直方向の階調を含む被写体を撮像した際に、Vアパコンを消すことがなく、擬似信号のVアパコンを削除することができる。
【0066】
以上説明した各実施形態においては、補色市松のカラーコーディングCCD撮像素子を撮像デバイスとして用いたカメラシステムの信号処理系に適用した場合について説明したが、これに限定されるものではなく、補色以外のカラーコーディングCCD撮像素子を用いたカメラシステムの信号処理系にも同様に適用し得るものである。
【0067】
【発明の効果】
以上説明したように、本発明によれば、所定のカラーコーディングのカラーフィルタを持つ固体撮像素子を用いたカメラシステムにおいて、上記カラーコーディングに基づく複数の画素データのレベル検波を行う際に、その検波が断続的に行われても連続的な検波信号を出力するようにしたことにより、輝度レベルの検波を行う場合であっても、検波レベルを高く設定できることになるため、高輝度時に垂直方向に階調を含む被写体を撮像した際に、Vアパコンを消すことなく、擬似的なVアパコンを削除できる。
【0068】
また、所定のカラーコーディングのカラーフィルタを持つ固体撮像素子を用いたカメラシステムにおいて、上記カラーコーディングに基づく複数の画素データについて水平方向の隣り合う画素間のレベル差の検波を行うようにし、好ましくは、水平方向のレベル差検波に加えて、輝度レベルの検波または垂直方向のレベル差検波を併用して高輝度時の検波を行うようにしたことにより、主体が輝度レベルの検波ではないため、高輝度時に垂直方向に階調を含む被写体を撮像した際に、Vアパコンを消すことなく、擬似的なVアパコンを削除できる。
【図面の簡単な説明】
【図1】本発明が適用されるカメラシステムの構成の一例を示すブロック図である。
【図2】本発明の第1実施形態を示すブロック図である。
【図3】補色市松のカラーフィルタのカラーコーディング図である。
【図4】Vアパコンリミッターがかかり始めるときの各部の信号状態を示す波形図(その1)である。
【図5】Vアパコンリミッターがかかり始めるときの各部の信号状態を示す波形図(その2)である。
【図6】輝度レベルが上がり画素データが飽和してきたときの各部の信号状態を示す波形図(その1)である。
【図7】輝度レベルが上がり画素データが飽和してきたときの各部の信号状態を示す波形図(その2)である。
【図8】本発明の第2実施形態を示すブロック図である。
【図9】本発明の第3実施形態を示すブロック図である。
【図10】従来例を示すブロック図である。
【符号の説明】
21,41,61,101…減算器、22,42,62,102…Vアパコン部、23,43,63,103…Vアパコンリミッター信号作成部、24,25,44,45,64,65,107…検波レベル設定回路、29,69…垂直方向検波部、30,50…輝度レベル検波部、32,53,72,111…リミット期間設定回路、49,70…水平方向検波部、108,109,292,301,302,494,498,501,502,692,704,708…コンパレータ、291,493,497,691,703,707…絶対値回路
Claims (19)
- 所定のカラーコーディングのカラーフィルタを持つ固体撮像素子から出力されるある1ライン分の第1の映像信号と、その前後の2ライン分の映像信号を平均化して得られる第2の映像信号との差を求める減算手段と、前記減算手段の減算出力を所定のゲインで増幅する増幅手段と、前記増幅手段の増幅出力に対してリミッターをかけるリミッター手段とを有する映像信号処理回路であって、
前記第1,第2の映像信号に基づいて前記カラーコーディングに基づく複数の画素データのレベルを検波する検波手段と、
前記検波手段から検波信号が断続的に出力されるとき、これを連続化して出力する連続化手段と、
前記連続化手段で連続化された検波信号に基づいて前記リミッター手段のリミット期間を設定するリミット期間設定手段と
を備えたことを特徴とする映像信号処理回路。 - 前記検波手段は、輝度レベルを検波する輝度レベル検波手段からなり、
前記連続化手段は、前記輝度レベル検波手段の検波出力をマスタークロックの1クロック分遅延する遅延回路と、前記輝度レベル検波手段の検波出力と前記遅延回路の遅延出力との論理和をとるOR回路とからなる
ことを特徴とする請求項1記載の映像信号処理回路。 - 前記検波手段は、垂直方向の隣り合うライン間のレベル差を検波する垂直方向検波手段からなり、
前記連続化手段は、前記垂直方向検波手段の検波出力をマスタークロックの1クロック分遅延する遅延回路と、前記垂直方向検波手段の検波出力と前記遅延回路の遅延出力との論理和をとるOR回路とからなる
ことを特徴とする請求項1記載の映像信号処理回路。 - 前記検波手段は、輝度レベルを検波する輝度レベル検波手段と、垂直方向の隣り合うライン間のレベル差を検波する垂直方向検波手段と、前記輝度レベル検波手段および前記垂直方向検波手段の各検波出力の論理積をとるAND回路とからなり、
前記連続化手段は、前記輝度レベル検波手段から検波信号が断続的に出力されるとき、これを連続化して出力する第1の連続化手段と、前記垂直方向検波手段から検波信号が断続的に出力されるとき、これを連続化して出力する第2の連続化手段とからなり、
前記第1の連続化手段は、前記輝度レベル検波手段の検波出力をマスタークロックの1クロック分遅延する第1の遅延回路と、前記輝度レベル検波手段の検波出力と前記第1の遅延回路の遅延出力との論理和をとる第1のOR回路とからなり、
前記第2の連続化手段は、前記垂直方向検波手段の検波出力をマスタークロックの1クロック分遅延する第2の遅延回路と、前記垂直方向検波手段の検波出力と前記第2の遅延回路の遅延出力との論理和をとる第2のOR回路とからなる
ことを特徴とする請求項1記載の映像信号処理回路。 - 所定のカラーコーディングのカラーフィルタを持つ固体撮像素子から出力されるある1ライン分の第1の映像信号と、その前後の2ライン分の映像信号を平均化して得られる第2の映像信号との差を求める減算手段と、前記減算手段の減算出力を所定のゲインで増幅する増幅手段と、前記増幅手段の増幅出力に対してリミッターをかけるリミッター手段とを有する映像信号処理回路であって、
前記第1,第2の映像信号に基づいて前記カラーコーディングに基づく複数の画素データについて水平方向の隣り合う画素間のレベル差を検波する水平方向検波手段と、
前記水平方向検波手段から出力される検波信号に基づいて前記リミッター手段のリミット期間を設定するリミット期間設定手段と
を備えたことを特徴とする映像信号処理回路。 - 請求項5記載の映像信号処理回路においてさらに、
前記第1,第2の映像信号に基づいて輝度レベルを検波する輝度レベル検波手段と、
前記輝度レベル検波手段から検波信号が断続的に出力されるとき、これを連続化して出力する連続化手段と、
前記水平方向検波手段の検波出力と前記連続化手段の連続化出力との論理和をとって前記リミット期間設定手段に供給するOR回路と
を備えたことを特徴とする映像信号処理回路。 - 請求項5記載の映像信号処理回路においてさらに、
前記減算手段の減算出力に基づいて垂直方向の隣り合うライン間のレベル差を検波する垂直方向検波手段と、
前記垂直方向検波手段から検波信号が断続的に出力されるとき、これを連続化して出力する連続化手段と、
前記水平方向検波手段の検波出力と前記連続化手段の連続化出力との論理和をとって前記リミット期間設定手段に供給するOR回路と
を備えたことを特徴とする映像信号処理回路。 - 所定のカラーコーディングのカラーフィルタを持つ固体撮像素子から出力されるある1ライン分の第1の映像信号と、その前後の2ライン分の映像信号を平均化して得られる第2の映像信号との差を求める減算手段と、前記減算手段の減算出力を所定のゲインで増幅する増幅手段と、前記増幅手段の増幅出力に対してリミッターをかけるリミッター手段とを有する映像信号処理回路において、
前記第1,第2の映像信号に基づいて前記カラーコーディングに基づく複数の画素データのレベルを検波し、
その検波信号が断続的に出力されるときこれを連続化し、
その連続化された検波結果に基づいて前記リミッター手段のリミット期間を設定する
ことを特徴とする映像信号処理方法。 - 前記画素データのレベル検波において、輝度レベルの検波を行う
ことを特徴とする請求項8記載の映像信号処理方法。 - 前記画素データのレベル検波において、垂直方向の隣り合うライン間のレベル差の検波を行う
ことを特徴とする請求項8記載の映像信号処理方法。 - 前記画素データのレベル検波において、輝度レベルの検波と、垂直方向の隣り合うライン間のレベル差の検波を行う
ことを特徴とする請求項8記載の映像信号処理方法。 - 所定のカラーコーディングのカラーフィルタを持つ固体撮像素子から出力されるある1ライン分の第1の映像信号と、その前後の2ライン分の映像信号を平均化して得られる第2の映像信号との差を求める減算手段と、前記減算手段の減算出力を所定のゲインで増幅する増幅手段と、前記増幅手段の増幅出力に対してリミッターをかけるリミッター手段とを有する映像信号処理回路において、
前記第1,第2の映像信号に基づいて前記カラーコーディングに基づく複数の画素データについて水平方向の隣り合う画素間のレベル差を検波し、
その検波結果に基づいて前記リミッター手段のリミット期間を設定する
ことを特徴とする映像信号処理方法。 - 請求項12記載の映像信号処理方法においてさらに、
前記第1,第2の映像信号に基づいて輝度レベルを検波し、
その検波信号が断続的に出力されるときこれを連続化し、
その連続化された検波結果または前記水平方向の隣り合う画素間のレベル差の検波結果に基づいて前記リミッター手段のリミット期間を設定する
ことを特徴とする映像信号処理方法。 - 請求項12記載の映像信号処理方法においてさらに、
前記減算手段の減算出力に基づいて垂直方向の隣り合うライン間のレベル差を検波し、
その検波信号が断続的に出力されるときこれを連続化し、
その連続化された検波結果または前記水平方向の隣り合う画素間のレベル差の検波結果に基づいて前記リミッター手段のリミット期間を設定する
ことを特徴とする映像信号処理方法。 - 所定のカラーコーディングのカラーフィルタを持つ固体撮像素子と、
前記固体撮像素子から出力されるある1ライン分の第1の映像信号と、その前後の2ライン分の映像信号を平均化して得られる第2の映像信号との差を求める減算手段と、前記減算手段の減算出力を所定のゲインで増幅する増幅手段と、前記増幅手段の増幅出力に対してリミッターをかけるリミッター手段とを有する映像信号処理回路とを具備し、
前記信号処理回路は、
前記第1,第2の映像信号に基づいて前記カラーコーディングに基づく複数の画素データのレベルを検波する検波手段と、
前記検波手段から検波信号が断続的に出力されるとき、これを連続化して出力する連続化手段と、
前記連続化手段で連続化された検波信号に基づいて前記リミッター手段のリミット期間を設定するリミット期間設定手段とを備えた
ことを特徴とするカメラシステム。 - 前記検波手段は、輝度レベルを検波する輝度レベル検波手段と、垂直方向の隣り合うライン間のレベル差を検波する垂直方向検波手段と、前記輝度レベル検波手段および前記垂直方向検波手段の各検波出力の論理積をとるAND回路とからなり、
前記連続化手段は、前記輝度レベル検波手段から検波信号が断続的に出力されるとき、これを連続化して出力する第1の連続化手段と、前記垂直方向検波手段から検波信号が断続的に出力されるとき、これを連続化して出力する第2の連続化手段とからなり、
前記第1の連続化手段は、前記輝度レベル検波手段の検波出力をマスタークロックの1クロック分遅延する第1の遅延回路と、前記輝度レベル検波手段の検波出力と前記第1の遅延回路の遅延出力との論理和をとる第1のOR回路とからなり、
前記第2の連続化手段は、前記垂直方向検波手段の検波出力をマスタークロックの1クロック分遅延する第2の遅延回路と、前記垂直方向検波手段の検波出力と前記第2の遅延回路の遅延出力との論理和をとる第2のOR回路とからなる
ことを特徴とする請求項15記載のカメラシステム。 - 所定のカラーコーディングのカラーフィルタを持つ固体撮像素子と、
前記固体撮像素子から出力されるある1ライン分の第1の映像信号と、その前後の2ライン分の映像信号を平均化して得られる第2の映像信号との差を求める減算手段と、前記減算手段の減算出力を所定のゲインで増幅する増幅手段と、前記増幅手段の増幅出力に対してリミッターをかけるリミッター手段とを有する映像信号処理回路とを具備し、
前記映像信号処理回路は、 前記第1,第2の映像信号に基づいて前記カラーコーディングに基づく複数の画素データについて水平方向の隣り合う画素間のレベル差を検波する水平方向検波手段と、
前記水平方向検波手段から出力される検波信号に基づいて前記リミッター手段のリミット期間を設定するリミット期間設定手段とを備えた
ことを特徴とするカメラシステム。 - 請求項17記載のカメラシステムにおいて、
前記映像信号処理回路はさらに、
前記第1,第2の映像信号に基づいて輝度レベルを検波する輝度レベル検波手段と、
前記輝度レベル検波手段から検波信号が断続的に出力されるとき、これを連続化して出力する連続化手段と、
前記水平方向検波手段の検波出力と前記連続化手段の連続化出力との論理和をとって前記リミット期間設定手段に供給するOR回路とを備えた
ことを特徴とするカメラシステム。 - 請求項17記載のカメラシステムにおいて、
前記映像信号処理回路はさらに、
前記減算手段の減算出力に基づいて垂直方向の隣り合うライン間のレベル差を検波する垂直方向検波手段と、
前記垂直方向検波手段から検波信号が断続的に出力されるとき、これを連続化して出力する連続化手段と、
前記水平方向検波手段の検波出力と前記連続化手段の連続化出力との論理和をとって前記リミット期間設定手段に供給するOR回路とを備えた
ことを特徴とするカメラシステム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP03089798A JP3985325B2 (ja) | 1998-02-13 | 1998-02-13 | 映像信号処理回路およびその処理方法、並びにこれらを用いたカメラシステム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP03089798A JP3985325B2 (ja) | 1998-02-13 | 1998-02-13 | 映像信号処理回路およびその処理方法、並びにこれらを用いたカメラシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11234689A JPH11234689A (ja) | 1999-08-27 |
JP3985325B2 true JP3985325B2 (ja) | 2007-10-03 |
Family
ID=12316533
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP03089798A Expired - Fee Related JP3985325B2 (ja) | 1998-02-13 | 1998-02-13 | 映像信号処理回路およびその処理方法、並びにこれらを用いたカメラシステム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3985325B2 (ja) |
-
1998
- 1998-02-13 JP JP03089798A patent/JP3985325B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH11234689A (ja) | 1999-08-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6278490B1 (en) | Exposure control for an image pickup apparatus that uses an electronic flash | |
US20080192131A1 (en) | Image pickup apparatus and method for extending dynamic range thereof | |
JP2000101909A (ja) | 固体撮像装置 | |
JP2004023605A (ja) | 画像処理装置、カメラ装置、及びその自動露光制御方法 | |
JP2722784B2 (ja) | カラー撮像装置 | |
KR910006858B1 (ko) | 칼러 카메라의 영상신호처리회로 | |
JP3985325B2 (ja) | 映像信号処理回路およびその処理方法、並びにこれらを用いたカメラシステム | |
JP3748031B2 (ja) | 映像信号処理装置及び映像信号処理方法 | |
JP2005176115A (ja) | 撮像装置 | |
JP3596860B2 (ja) | 撮像装置 | |
JP4178571B2 (ja) | 画像処理装置および画像処理方法、並びにカメラ | |
JP3841584B2 (ja) | 撮像装置 | |
JP2893914B2 (ja) | カラー撮像装置 | |
JP2006279812A (ja) | 輝度信号処理装置 | |
JP2004032583A (ja) | 撮像装置 | |
JP3733182B2 (ja) | 撮像装置および縦縞除去方法 | |
JP2008109468A (ja) | 色信号処理回路およびカメラ装置 | |
JP2698404B2 (ja) | 輝度信号処理装置 | |
JP4214558B2 (ja) | 撮像装置 | |
JP2698406B2 (ja) | 撮像装置 | |
JPH0316494A (ja) | オートホワイトバランス回路 | |
JP2007104222A (ja) | 撮像装置および撮像方法 | |
JP3094231B2 (ja) | 信号処理装置 | |
KR100306645B1 (ko) | 카메라의불요칼라억압장치 | |
JP4348789B2 (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050114 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070226 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070403 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070521 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070619 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070702 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100720 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100720 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110720 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110720 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120720 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |