JP4227222B2 - Signal processing apparatus, signal processing method, and storage medium - Google Patents
Signal processing apparatus, signal processing method, and storage medium Download PDFInfo
- Publication number
- JP4227222B2 JP4227222B2 JP19855498A JP19855498A JP4227222B2 JP 4227222 B2 JP4227222 B2 JP 4227222B2 JP 19855498 A JP19855498 A JP 19855498A JP 19855498 A JP19855498 A JP 19855498A JP 4227222 B2 JP4227222 B2 JP 4227222B2
- Authority
- JP
- Japan
- Prior art keywords
- output
- selector
- signal
- suppression
- signal processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003672 processing method Methods 0.000 title claims description 10
- 230000001629 suppression Effects 0.000 claims description 61
- 238000001514 detection method Methods 0.000 claims description 15
- 238000000034 method Methods 0.000 claims description 11
- 238000010586 diagram Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 11
- 230000000694 effects Effects 0.000 description 5
- 239000003086 colorant Substances 0.000 description 4
- 230000007423 decrease Effects 0.000 description 4
- 230000000295 complement effect Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000000630 rising effect Effects 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000002238 attenuated effect Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は信号処理装置、信号処理方法及び記憶媒体に関し、特に、固体撮像素子を用いてカラー画像を得る信号処理装置に関するものである。
【0002】
【従来の技術】
図4に、従来の補色タイプの単板CCD カラーセンサを用いた信号処理装置の構成を示す。以下、図4を使って従来の信号処理装置の動作を順番に説明する。
【0003】
図4に示したように、レンズ等の光学系401 通って入射した被写体からの光は、CCD402で電気信号に変換され、A/D コンバータ403 でデジタル信号に変換される。ここで、色処理系は、色補間回路404 で各画素補色の4色で出力され、マトリックス回路405 でRGB の純色の3色に変換されてγ補正回路406 に与えられ、ここでγ補正される。そして、上記色差マトリックス回路407 で色差信号に変換され、最後に色抑圧回路408 により高輝度時の偽色の抑圧を行い、色差信号U,V を出力する。
【0004】
一方、輝度処理系は、帯域(解像度)を確保するために、色差の変調成分を抑圧するローパスフィルタ(LPF)409を通し、次にレンズ光学系401 等で減衰した特性を補正するアパーチャ補正器410 を通して画像にメリハリをつける。その後、γ補正器411 によりγ補正を行い輝度信号Yを生成して出力する。
【0005】
また、ローパスフィルタLPF409の出力はローパスフィルタLPF412に与えられ、このローパスフィルタLPF412によって帯域を輝度信号の半分以下に制限された狭帯域輝度信号Ysとして色抑圧回路408 に入力され、色抑圧処理に用いられる。
【0006】
ここで、図5を用いて、上記色抑圧回路408 を説明する。図中、501 は色差信号Uを抑圧するための乗算器、502 は色差信号Vを抑圧するための乗算器、503 は引き算器、504 は設定値Aを与える端子である。また、505 は係数1の係数器、506 は係数1/2 の係数器、507 は係数1/4 の係数器である。
【0007】
508 は、128 以上の入力があるとフラグ1を発生する128 以上検出器である。同様に、509 は256 以上検出器、510 は512 以上検出器である。さらに、511 、512 、514 、516 はセレクタ、513 は0以上検出器、515 は遅延線、517 は完全色抑圧範囲制御回路である。
【0008】
次に、上述のように構成された色抑圧回路408 の動作を説明する。上記狭帯域輝度信号Ysは引き算器503 に与えられ、ここで上記設定値Aと狭帯域輝度信号Ysとの差が求められる。この設定値Aは、例えば、輝度の100%レベル、500LSB(10 ビット) に設定されているとする。
【0009】
A−Ysの信号は、0以上検出器513 と係数がそれぞれ1 、1/2 、1/4 の係数器505 、506 、507 と、128 以上検出器508 、256 以上検出器509 、512 以上検出検出器510 にそれぞれ入力される。
【0010】
これらの係数器505 、506 、507 の出力は、次に第1のセレクタ511 に入力される。また、128 以上検出器508 、検出器509 、検出器510 の出力は第2のセレクタ512 に入力される。第1及び第2のセレクタ511 、512 はそれぞれMODE信号によって選択されるが、第1のセレクタ511 において 1係数器505 が選択されているときには、セレクタ512 において128 以上検出器508 が選択される(以下、モード0と呼ぶ)。
【0011】
同様に、1/2 係数器506 と256 以上検出器509(以下、モード1と呼ぶ)、1/4 係数器507 と512 以上検出器510(以下、モード2と呼ぶ)というようにして連動して選択される。仮に、今、モード0に設定されているとする。第1のセレクタ511 の出力は、0以上検出器513 の出力によって制御される第3のセレクタ514 に入力される。0以上検出器513 はA−Ys信号が0以上の場合はフラグ1を発生する。
【0012】
すなわち、狭帯域輝度信号YsがAより小さい場合には第3のセレクタ514 において、「0x80」を選択して固定値とする。なお、この場合の「0x80」は、色抑圧用の乗算器501 、502 においてゲイン1を表している。
【0013】
一方、A−Ys信号が0以下の場合、すなわち狭帯域輝度信号Ysが500LSB以上の時は、第3のセレクタ514 において、1 係数器505 の出力が選択される。そして、狭帯域輝度信号Ysが大きくなるに従って乗算器501 、502 のゲインを小さくしていく。
【0014】
上記 1係数器505 の出力は狭帯域輝度信号Ysが設定値Aを超えてから減少するが、係数1であるので狭帯域輝度信号Ys=500LSB+128LSB、すなわち、628LSB以上において、セレクタ516 で「0x00」を選択して固定値を発生する。ここで、セレクタ516 の制御は128 以上検出器508 において、A−Ysの絶対値が128LSB以上、すなわち、ゲインを0として完全色抑圧を行う画素を検出し、フラグ1を完全色抑圧範囲制御回路517 に入力する。
【0015】
そして、MODE信号より決まる隣接画素分だけゲイン0の範囲を広げるための制御信号を出力し、第4のセレクタ516 を制御する。なお、 1係数器505 と128 以上検出器508 を選択しているモード0の設定では、ゲイン0の範囲は128 以上検出器508 により検出された画素のみである。上記遅延線515 は完全色抑圧範囲制御回路17との処理時間を合わせ込むために用いられる。
【0016】
以上説明した例をまとめると、色差信号U 、V は、狭帯域輝度信号Ysのレベルによって、上記の例では設定値Aを500LSBにし、係数を1とした場合、狭帯域輝度信号Ysが500LSBまでは乗算器01、02のゲインが1で、それ以上ではリニアに減少する。そして、色差信号を徐々に抑圧し、628LSB以上ではゲインを0に固定して色を完全に抑圧した特性となる。また、MODE信号の設定により、完全に色抑圧する範囲を制御する。
【0017】
図6に、設定値A=500LSBの場合について、係数を1 、1/2 、1/4 とそれぞれ変えた場合の乗算器501 、502 におけるゲインを示す。なお、この図6において、色抑圧範囲制御回路517 による色抑圧範囲の制御の影響は省略している。
【0018】
ここで、図5の完全色抑圧範囲制御回路517 について、図7を用いて説明する。図中、端子701 は図5のセレクタ512 の出力につながる端子、702 〜705 はD-フリップフロップ回路、706 及び707 は3入力0Rゲート、708 はセレクタ、709 は図5のMODE入力端子、710 は図5の第4のセレクタ516 の制御信号となる制御信号出力端子である。
【0019】
次に、図8のタイミングチャートを参照しながら図7の完全色抑圧範囲制御回路517 の回路動作を説明する。
先ず、図5における第2のセレクタ512 の出力が端子701 に入力される。第2のセレクタ512 の出力は、色抑圧のゲインが0 になったことを示す信号であり、この出力はD-フリップフロップ回路702 、703 、704 、705 へと、1クロック毎に順次送られて行く。次に、D-フリップフロップ回路702 、703 、704 、の出力はOR回路706 に与えられる。
【0020】
また、OR回路706 の出力とD-フリップフロップ回路705 の出力、及び入力端子701 はOR回路707 に与えられる。D-フリップフロップ回路703 とOR回路706 の出力、及びOR回路707 の出力はセレクタ708 に入力され、MODE信号709 によって選択できるようになっている。
【0021】
今、1点だけが高輝度と判断され、色抑圧のゲインを0にしなければならない場合について、図8のタイミングチャートを用いて説明する。図8は、t=0 〜7 までの時間における入力されたフラグの様子と、セレクタ708 の入力信号を示している。セレクタ708 の端子0 には、入力端子701 と同じ時間間隔クロック1個分のフラグが入力されるが、端子1 にはクロック3個分、端子2 にはクロック5個分が入力される。
【0022】
これらは、図8においてそれぞれ、上記モード0 、上記モード1 、上記モード2 に対応する、これにより、セレクタ708 から幅の広がったフラグを出力することが可能になり1点だけの高輝度部分の前後の色を抑圧することが可能となり、高輝度部分前後への偽色の伝播を防ぐことができる。
【0023】
【発明が解決しようとする課題】
しかしながら、上記従来例では色信号が一定で輝度信号が直線的に変化しているような被写体の場合は、ある明るさから急激に色信号が抑圧されるので、それほど明るくない部分でも色が抜け落ちて無彩色になってしまう問題があった。
【0024】
図9は、上記従来例の色抑圧の効果を表した図である。色抑圧特性は、図6に従い、ゲインの傾きは1/2 、設定値A=500LSBとしている。また、図5のMODE信号は上記モード1になるように設定され、0ゲインが隣接1画素に広がるように設定されている。
【0025】
今、画素A 、B 、C 、D 、E 、F 、G はそれぞれ輝度信号500LSB、500LSB、628LSB、756LSB、628LSB、500LSB、500LSBを有し、色差信号は全て200LSBで一定であるとする。この時、図6の特性より画素A 、B 、C 、D 、E 、F 、G に対するゲインは上述のように「0x80」を図5の色抑圧用の乗算器01、02においてゲイン1であるとした場合、それぞれ1 、1 、1/2 、0 、1/2 、1 、1 となる。これらのゲインに対して完全色抑圧範囲制御回路517 の制御により、実際の各画素のゲインは画素D のゲイン0 が隣接1画素に拡張されて、それぞれ1 、1 、0 、0 、0 、1 、1 となる。
【0026】
よって、色抑圧後の色差信号は、それぞれ200LSB、200LSB、0LSB、0LSB、0LSB、200LSB、200LSBとなり、図9の画素Bから画素C、及び画素EからFにおいて色差信号が輝度信号の直線的な変化と比べて急峻に変化し、不自然な色抑圧となってしまう。
【0027】
本発明は上述の問題点にかんがみ、輝度信号の直線的な変化と比べて色差信号が急峻に変化するのを防止して、輝度信号の変化に対応した色抑圧処理を実現できるようにすることを目的とする。
【0028】
【課題を解決するための手段】
本発明の信号処理装置は、輝度情報を用いて色差信号を抑圧するようにした信号処理装置において、抑圧の対象画素に隣接した複数画素の輝度情報の中から最大値を検出する最大値検出手段と、上記最大値検出手段によって検出された輝度情報に基づいて抑圧ゲインを算出するゲイン算出手段と、上記ゲイン算出手段によって算出された抑圧ゲインで上記抑圧の対象画素に対して色抑圧を行う色抑圧手段とを具備することを特徴としている。
【0030】
また、本発明の信号処理装置の他の特徴とするところは、上記最大値検出手段は、参照する隣接画素の数を設定により変えることが可能であることを特徴としている。
【0031】
本発明の信号処理方法は、輝度情報を用いて色差信号を抑圧するようにした信号処理方法において、抑圧の対象画素に隣接した複数画素の輝度情報の中から最大値を検出する最大値検出処理と、上記最大値検出処理によって検出された輝度情報に基づいて抑圧ゲインを算出するゲイン算出処理と、上記ゲイン算出処理によって算出された抑圧ゲインで上記抑圧の対象画素に対して色抑圧を行う色抑圧処理とを行うことを特徴としている。
【0032】
また、本発明の信号処理方法の他の特徴とするところは、上記最大値検出処理は、参照する隣接画素の数を設定により変えることが可能であることを特徴としている。
【0033】
本発明の記憶媒体は、上記各手段としてコンピュータを機能させるためのプログラムを格納したことを特徴としている。
また、本発明の記憶媒体の他の特徴とするところは、上記信号処理方法の手順をコンピュータに実行させるためのプログラムを格納したことを特徴としている。
【0034】
【作用】
本発明によれば、輝度情報を用いて色差信号を抑圧するゲインの算出を、対象画素に隣接した複数画素から検出された輝度情報の最大値を用いて行なうことにより、輝度信号が直線的に変化した場合でも、色差信号の抑圧を輝度信号の変化に追従して行わせることが可能となり、ある明るさから急激に色信号が抑圧される不都合が防止される。
【0035】
【発明の実施の形態】
図1は、本発明の特徴とする色抑圧回路の実施の形態を示す。図中、101 は色差信号U を抑圧するための乗算器であり、102 は色差信号Vを抑圧するための乗算器である。103 は最大値検出回路、104 は引き算器、105 は設定値Aを与える端子である。
【0036】
また、106 は係数1の係数器、107 は係数1/2 の係数器、108 は係数1/4 の係数器、109 は128 以上の入力があるとフラグ1を発生する128 以上検出器である。同様に、110 は256 以上検出器、111 は512 以上検出器である。さらに、112 、116 はセレクタ、114 は0以上検出器である。
【0037】
次に、上述のように構成された本実施の形態の色抑圧回路の動作を説明する。狭帯域輝度信号Ysは、最大値検出回路103 に入力され、MODE信号で選択された数(1、3 、5 個) の狭帯域輝度信号Ysから最大値を検出する。以下、最大値を得る狭帯域輝度信号Ysを狭帯域最大輝度信号Ysmax と呼ぶ。狭帯域最大輝度信号Ysmax は、引き算器104 に与えられ、ここで上記設定値Aと狭帯域最大輝度信号Ysmax との差が求められる。この値Aは、例えば、輝度の100%レベル、500LSB(10 ビット) に設定されている。
【0038】
A−Ysmax の信号は係数がそれぞれ1 、1/2 、1/4 の係数器106 、107 、108 と、128 以上、256 以上、512 以上を検出する検出器109 、110 、111 及び、0 以上検出器114 に入力される。これらの係数器106 、107 、108 の出力は、次に、セレクタ112 に入力され、検出器109 、110 、111 の出力はセレクタ113 に入力される。セレクタ112 、113 はそれぞれMODE信号によって選択されるが、セレクタ112 において係数器106 が選択されているときには、セレクタ113 において検出器109 が選択される( 以下、モード0 と呼ぶ) 。
【0039】
同様に、係数器107 と検出器110(以下、モード1と呼ぶ)、係数器108 と検出器111(以下、モード2と呼ぶ)というようにして連動して選択される。また、最大値検出回路103 において狭帯域最大輝度信号Ysmax を得るために参照する狭帯域輝度信号Ysの数は、モード0 の時は処理中の狭帯域輝度信号Ys1個、モード1の時は処理中の狭帯域輝度信号Ysとその前後1つの狭帯域輝度信号Ysの計3個、モード2の時は、処理中の狭帯域輝度信号Ysとその前後2つのYs信号の計5個である。
【0040】
仮に今、モード0に設定されているとする。セレクタ112 の出力は、0 以上検出器114 の出力によって制御されるセレクタ115 に入力される。0 以上検出器114 はA−Ysmax 信号が0 以上の場合はフラグ1を発生する。すなわち、最大値検出回路103 において設定値Aより小さい狭帯域最大輝度信号Ysmax が最大値として検出された場合にはセレクタ112 において、「0x80」を選択して固定値とする。なお、この場合の「0x80」は、色抑圧用の乗算器101 、102 においてゲイン1を表している。
【0041】
一方、A−Ysmax 信号が0 以下の場合、すなわち、狭帯域最大輝度信号Ysmax が500LSB以上の時は、セレクタ115 において、係数器106 の出力が選択される。そして、狭帯域最大輝度信号Ysmax が大きくなるに従って乗算器101 、102 のゲインを小さくしていく。また、係数器106 の出力は狭帯域最大輝度信号Ysmax が設定値Aを超えてから減少するが、係数1であるので狭帯域最大輝度信号Ysmax=500LSB+128LSB 、すなわち、628LSB以上において、セレクタ116 で0x00を選択して固定値を発生する。
【0042】
以上説明した例をまとめると、先ず、色差信号U 、V は、狭帯域最大輝度信号Ysmax のレベルによって、上記の例では、設定値Aを500LSBにし、係数を1とした場合、狭帯域最大輝度信号Ysmax が500LSBまでは乗算器101 、102 のゲインが1で、それ以上ではリニアに減少する。そして、色差信号を徐々に抑圧し、628LSB以上ではゲインを0に固定して色を完全に抑圧した特性となる。この特性は、図6の特性と同等である。但し、Ysmax=Ysとしている。
【0043】
次に、図2に、図1の最大値検出回路103 の実施の形態を示す。図2において、219 は狭帯域輝度信号Ysが入力される端子、201 、202 、203 はD-フリップフロップ等で構成されるディレイ回路である。また、204 、205 、206 、207 はコンパレータである。さらに、208 、209 、210 、211 及び212 はセレクタであり、213 、214 はAND ゲートであり、215 はD-フリップフロップである。また、216 はデコーダであり、(0) 、(1) の信号はそれぞれ、201 、202 の出力であり、セレクタ212 に入力される。
【0044】
また、狭帯域輝度信号Ysもセレクタ212 に入力される。220 は引き算器104 に対して狭帯域最大輝度信号Ysmax を与える端子である。そして、218 は図1のMODE信号が与えられる端子である。
【0045】
ここで、端子218 に与えられるMODE信号について説明する。デコーダ216 は、MODE信号をデコードしてデコード値を、AND ゲート213 、AND ゲート214 及びセレクタ212 に出力する。以下、このデコード値をそれぞれZ0、Z1と呼ぶことにする。上記モード0 の時は(Z0,Z1)=(0,0) となり、セレクタ212 では第2のD-フリップフロップ202 の出力(0) が選択される。
【0046】
同様に、上記モ−ド1の時は(Z0,Z1)=(0,1) となり、セレクタ212 では第1のD-フリップフロップ201 の出力(1) が選択され、上記モード2の時は(Z0,Z1)=(1,1) となり、セレクタ212 では狭帯域輝度信号Ysが選択される。
【0047】
次に、図2の回路動作を説明する。今、設定はモード1とし、セレクタ212 の出力は、第1のD-フリップフロップ201 の出力(1) が選択されているものとする、狭帯域輝度信号Ysは第1のD-フリップフロップ201 に入力され、その出力は第2のD-フリップフロップ202 、第3のD-フリップフロップ203 と順に転送される。そして、第1のD-フリップフロップ201 の出力(1) と第2のD-フリップフロップ202 の出力(0) は、コンパレータ204 とセレクタ208 に入力され、コンパレータ204 において比較された結果がAND ゲート213 に入力される。
【0048】
ここで、コンパレータ204 の出力は(0) ≧(1) の時フラグ1を発生する。今、設定はモード1であるため、AND ゲート213 の一方の入力は1である。よって、コンパレータ204 の出力はセレクタ208 の選択端子に入力され、(0) または(1) のうち、大きい方が選択されてその出力がコンパレータ206 及びセレクタ210 に入力される。
【0049】
また、狭帯域輝度信号YsとD-フリップフロップ203 の出力はコンパレータ205 とセレクタ209 入力され、コンパレータ205 において比較した結果がセレクタ209 の選択端子に入力される。ここで、コンパレータ205 はD-フリップフロップ203 の出力≧Ysの時フラグ1を発生する。そして、セレクタ209 において、狭帯域輝度信号YsまたはD-フリップフロップ203 の出力のうち大きい方が選択されてその出力がAND ゲート214 に入力される。今、設定はモード1であるため、AND ゲート214 の一方の入力は0 である。よって、AND ゲート214 の出力は0 となり、この0 出力がコンパレータ206 及びセレクタ210 に入力される。
【0050】
以上の説明より、コンパレータ206 の入力は(+)側の入力端子にはセレクタ208 の出力が入力されており、(−)側の入力端子には0 が入力されている。(0) 及び(1) は常に正の値を取るので、コンパレータ206 の出力はフラグ1が出力され、セレクタ210 の選択端子に入力される。
【0051】
そして、セレクタ210 では、セレクタ208 の出力の方が選択され、次のクロックの立ち上がりでD-フリップフロップ215 に入力されラッチされる。同時に、D-フリップフロップ201 、202 、203 のデータ転送も行われる。
【0052】
D-フリップフロップ215 の出力は、コンパレータ207 及びセレクタ211 に入力される。また、セレクタ212 の出力はコンパレータ207 及びセレクタ211 に入力される。今、設定はモード1であるため、セレクタ212 の出力はD-フリップフロップ202 の出力(1) が選択されている。
【0053】
ここで、セレクタ212 の出力は上記データ転送後のものである。そしてコンパレ−タ207 によりD-フリップフロップ215 の出力、つまり前のクロック周期での(0) または(1) のうちどちらか大きい方とセレクタ212 の出力、つまり次のクロック周期で(1) との比較が行われる。
【0054】
ここで、コンパレータ207 の出力はD-フリップフロップ215 の出力≧セレクタ212 の出力の時フラグ1を発生する。そして、セレクタ211 において、D-フリップフロップ215 の出力またはセレクタ212 の出力のどちらかが選択されてその出力が狭帯域最大輝度信号Ysmax として出力される。以上の動作により、モード1においてD-フリップフロップ202 の出力(0) とその前後1画素から狭帯域輝度信号Ysの狭帯域最大輝度信号Ysmax を検出することが可能となる。
【0055】
同様に、モード0、モード2の場合について、簡単に説明する。モード0においては、上述のようにデコーダ216 からAND ゲート213 、214 の片方の入力に対して0 が与えられるのでAND ゲート213 、214 の出力はともに0 となり、セレクタ208 、210 に対してともにフラグ0 が与えられる。その結果、D-フリップフロップ201 の出力(1) がセレクタ208 、210 を通過し、次のクロックの立ち上がりでD-フリップフロップ215 にラッチされる。
【0056】
同時に、D-フリップフロップ201 、202 、203 のデータ転送も行われる。D-フリップフロップ215 の出力はコンパレータ207 及びセレクタ211 に入力される。また、セレクタ212 の出力はコンパレータ207 及びセレクタ211 に入力される。今、設定はモード0 であるため、セレクタ212 の出力はD-フリップフロップ202 の出力(0) が選択されている。
【0057】
ここで、セレクタ212 の出力は上記データ転送後のものである。そして、コンパレータ207 によりD-フリップフロップ215 の出力つまり前のクロック周期での(1) と、セレクタ212 の出力つまり次のクロック周期での(0) との比較が行われる。要するに、この比較は、同じ物同士での比較であるので、コンパレータ207 はフラグ1を発生する。そしてセレクタ211 において、D-フリップフロップ215 出力つまり次クロック周期でのD-フリップフロップ202 の出力(0) が狭帯域最大輝度信号Ysmax として出力される。
【0058】
また、モード2においては、上述のようにデコーダ216 からAND ゲート213 、214 の片方の入力に対して1が与えられるので、D-フリップフロップ202 の出力(0) 、D-フリップフロップ201 の出力(1) 、狭帯域輝度信号Ysの大小比較が、コンパレータ204 、205 、206 で行われ、次のクロックの立ち上がりでD-フリップフロップ215 に入力されラッチされる。
【0059】
同時に、D-フリップフロップ201 、202 、203 のデータ転送も行われる。D-フリップフロップ215 の出力はコンパレータ207 及びセレクタ211 に入力される。また、セレクタ212 の出力はコンパレータ207 及びセレクタ211 に入力される。今、設定はモード2であるため、セレクタ212 の出力は狭帯域輝度信号Ysが選択されている。
【0060】
ここで、セレクタ212 の出力は上記データ転送後のものである。そして、コンパレータ207 によりD-フリップフロップ215 の出力、つまり前のクロック周期での(0) 、(1) 及び狭帯域輝度信号Ysのうちどちらか大きい方と、セレクタ212 の出力、つまり次のクロック周期で狭帯域輝度信号Ysとの比較が行われる。
【0061】
ここで、コンパレータ207 の出力はD-フリップフロップ215 の出力≧セレクタ212 の出力の時フラグ1を発生する。そして、セレクタ211 において、D-フリップフロップ215 の出力またはセレクタ212 の出力のどちらかが選択されてその出力が狭帯域最大輝度信号Ysmax として出力される。以上の動作により、モード2においてD-フリップフロップ202 の出力(0) とその前後2画素から狭帯域輝度信号Ysの狭帯域最大輝度信号Ysmax を検出することが可能となる。
【0062】
図3は、上述した実施の形態の色抑圧の効果を表した図である。色抑圧特性はYsmax=Ysとした場合、図6に従い、ゲインの傾きは1/2 、設定値A=500LSB としている。また、図1のMODE信号は上記モード1になるように設定されている。今、画素A 、B 、C 、D 、E 、F 、G はそれぞれ輝度信号500LSB、500LSB、628LSB、756LSB、628LSB、500LSB、500LSBを有し、色差信号は全て200LSBで一定であるとする。
【0063】
この時、Ysmax=Ys、つまり最大値検出回路103 の効果を考えない場合、画素A 、B 、C 、D 、E 、F 、G に対するゲインは上述のように、「0x80」を図1の色抑圧用の乗算器101 、102 においてゲイン1であるとすると、それぞれ1 、1 、1/2 、0 、1/2 、1 、1 となる。
【0064】
これに対し、本実施の形態の場合は最大値検出回路103 を設けたので、実際の各画素のゲインは隣接1画素の最大値のゲインが用いられて、それぞれ1 、1/2 、0 、0 、0 、1/2 、1 となる。したがって、本実施の形態においては、輝度信号が直線的に変化した場合でも、色差信号の抑圧を輝度信号の変化に追従して行わせることが可能となる。
【0065】
すなわち、色抑圧後の色差信号は、それぞれ200LSB、100LSB、0LSB、0LSB、0LSB、100LSB、200LSBとなり、図3の画素Bから画素C、及び画素EからFにおいて色差信号が輝度信号の直線的な変化に従って自然に変化させることができる。これにより、ある明るさから色信号が急激に抑圧されてしまい、それほど明るくない部分でも色が抜け落ちて無彩色になる不都合を防止することができ、自然な色抑圧処理を行うことができる。
【0066】
(本発明の他の実施形態)
本発明は複数の機器(例えば、ホストコンピュータ、インタフェース機器、リーダ、プリンタ等)から構成されるシステムに適用しても1つの機器からなる装置に適用しても良い。
【0067】
また、上述した実施形態の機能を実現するように各種のデバイスを動作させるように、上記各種デバイスと接続された装置あるいはシステム内のコンピュータに対し、上記実施形態の機能を実現するためのソフトウェアのプログラムコードを供給し、そのシステムあるいは装置のコンピュータ(CPUあるいはMPU)に格納されたプログラムに従って上記各種デバイスを動作させることによって実施したものも、本発明の範疇に含まれる。
【0068】
また、この場合、上記ソフトウェアのプログラムコード自体が上述した実施形態の機能を実現することになり、そのプログラムコード自体、およびそのプログラムコードをコンピュータに供給するための手段、例えばかかるプログラムコードを格納した記憶媒体は本発明を構成する。かかるプログラムコードを記憶する記憶媒体としては、例えばフロッピーディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
【0069】
また、コンピュータが供給されたプログラムコードを実行することにより、上述の実施形態の機能が実現されるだけでなく、そのプログラムコードがコンピュータにおいて稼働しているOS(オペレーティングシステム)あるいは他のアプリケーションソフト等の共同して上述の実施形態の機能が実現される場合にもかかるプログラムコードは本発明の実施形態に含まれることは言うまでもない。
【0070】
さらに、供給されたプログラムコードがコンピュータの機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに格納された後、そのプログラムコードの指示に基づいてその機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行い、その処理によって上述した実施形態の機能が実現される場合にも本発明に含まれることは言うまでもない。
【0071】
【発明の効果】
以上説明したように、本発明は輝度情報を用いて色差信号を抑圧する際に、抑圧の対象画素に隣接した複数画素の輝度情報の中から最大値を検出し、上記検出した最大値を用いて抑圧ゲインを求めるようにしたので、輝度信号が直線的に変化した場合でも、色差信号の抑圧を輝度信号の変化に追従して行わせることが可能となる。
【0072】
これにより、従来技術で問題であった、ある明るさから急激に色信号が抑圧されることにより、それほど明るくない部分でも色が抜け落ちて無彩色になるのを防止することができ、より自然な色抑圧処理を行うようにすることができる。
【図面の簡単な説明】
【図1】実施の形態の信号処理装置における色抑圧回路の構成を示す図である。
【図2】実施の形態の色抑圧回路における最大値検出回路の構成を示す図である。
【図3】実施の形態の色抑圧回路の効果を示す図である。
【図4】補色系単板CCD カラーセンサを用いた信号処理装置の構成を示す図である。
【図5】従来技術の色抑圧回路の構成例を示す図である。
【図6】従来の色抑圧回路の特性を示す図である。
【図7】従来の色抑圧回路における完全色抑圧範囲制御回路の例を示す図である。
【図8】従来技術の色抑圧回路の動作タイミングを示す図である。
【図9】従来技術の色抑圧回路の効果を示す図である。
【符号の説明】
101 色差信号U を抑圧するための乗算器
102 色差信号Vを抑圧するための乗算器
103 最大値検出回路
104 引き算器
105 設定値Aを与える端子
106 係数1の係数器
107 係数1/2 の係数器
108 係数1/4 の係数器
109 128 以上検出器
110 256 以上検出器
111 512 以上検出器
112 セレクタ
113 セレクタ
114 0以上検出器
116 セレクタ[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a signal processing device, a signal processing method, and a storage medium, and more particularly to a signal processing device that obtains a color image using a solid-state imaging device.
[0002]
[Prior art]
FIG. 4 shows a configuration of a signal processing apparatus using a conventional complementary color type single-plate CCD color sensor. Hereinafter, the operation of the conventional signal processing apparatus will be described in order with reference to FIG.
[0003]
As shown in FIG. 4, light from a subject incident through an
[0004]
On the other hand, the luminance processing system passes through a low-pass filter (LPF) 409 that suppresses the color difference modulation component to secure the band (resolution), and then corrects the characteristics attenuated by the lens
[0005]
The output of the low-pass filter LPF409 is given to the low-pass filter LPF412 and is input to the
[0006]
Here, the
[0007]
508 is a detector of 128 or more that generates
[0008]
Next, the operation of the
[0009]
A-Ys signal is 0 or more detector 513,
[0010]
The outputs of these
[0011]
Similarly, 1/2
[0012]
That is, when the narrow-band luminance signal Ys is smaller than A, the
[0013]
On the other hand, when the A-Ys signal is 0 or less, that is, when the narrowband luminance signal Ys is 500 LSB or more, the
[0014]
The output of the 1
[0015]
Then, a control signal for expanding the range of
[0016]
Summarizing the above-described examples, the color difference signals
[0017]
FIG. 6 shows the gains in the
[0018]
Here, the complete color suppression range control circuit 517 of FIG. 5 will be described with reference to FIG. In the figure, terminal 701 is a terminal connected to the output of
[0019]
Next, the circuit operation of the complete color suppression range control circuit 517 of FIG. 7 will be described with reference to the timing chart of FIG.
First, the output of the
[0020]
The output of the
[0021]
Now, a case where only one point is determined to be high luminance and the color suppression gain must be zero will be described with reference to the timing chart of FIG. FIG. 8 shows the state of the input flag and the input signal of the
[0022]
These correspond to the
[0023]
[Problems to be solved by the invention]
However, in the above conventional example, in the case of a subject whose color signal is constant and whose luminance signal changes linearly, the color signal is suddenly suppressed from a certain brightness, so that the color is lost even in a portion that is not so bright. There was a problem of becoming achromatic.
[0024]
FIG. 9 is a diagram showing the color suppression effect of the conventional example. According to FIG. 6, the color suppression characteristic has a gain slope of 1/2 and a set value A = 500 LSB. Further, the MODE signal in FIG. 5 is set so as to be in the
[0025]
Now, it is assumed that the pixels A, B, C, D, E, F, and G have luminance signals 500LSB, 500LSB, 628LSB, 756LSB, 628LSB, 500LSB, and 500LSB, respectively, and the color difference signals are all constant at 200LSB. At this time, the gain for the pixels A, B, C, D, E, F, and G is “0x80” as described above from the characteristics shown in FIG. 6 and the gain is 1 in the color suppression multipliers 01 and 02 shown in FIG. , 1, 1, 1/2, 0, 1/2, 1, 1 respectively. By controlling the complete color suppression range control circuit 517 with respect to these gains, the actual gain of each pixel is expanded from the
[0026]
Therefore, the color difference signals after color suppression are 200LSB, 200LSB, 0LSB, 0LSB, 0LSB, 200LSB, and 200LSB, respectively, and the color difference signal is a linear luminance signal from pixel B to pixel C and pixels E to F in FIG. It changes abruptly compared to the change, resulting in unnatural color suppression.
[0027]
In view of the above-mentioned problems, the present invention prevents a color difference signal from changing sharply compared to a linear change in luminance signal, and realizes color suppression processing corresponding to the change in luminance signal. With the goal.
[0028]
[Means for Solving the Problems]
The signal processing apparatus of the present invention is a signal processing apparatus that suppresses a color difference signal using luminance information, and a maximum value detecting unit that detects a maximum value from luminance information of a plurality of pixels adjacent to a pixel to be suppressed. A gain calculating unit that calculates a suppression gain based on the luminance information detected by the maximum value detecting unit, and a color that performs color suppression on the pixel to be suppressed with the suppression gain calculated by the gain calculating unit. And suppression means.
[0030]
Another feature of the signal processing apparatus according to the present invention is that the maximum value detecting means can change the number of adjacent pixels to be referred to by setting.
[0031]
The signal processing method of the present invention is a signal processing method for suppressing a color difference signal using luminance information, and a maximum value detection process for detecting a maximum value from luminance information of a plurality of pixels adjacent to a pixel to be suppressed. A gain calculation process for calculating a suppression gain based on the luminance information detected by the maximum value detection process, and a color for performing color suppression on the pixel to be suppressed with the suppression gain calculated by the gain calculation process It is characterized by performing suppression processing.
[0032]
Another feature of the signal processing method according to the present invention is that the maximum value detection process can change the number of adjacent pixels to be referred to by setting.
[0033]
The storage medium of the present invention is characterized in that a program for causing a computer to function as each of the above means is stored.
Another feature of the storage medium of the present invention is that a program for causing a computer to execute the procedure of the signal processing method is stored.
[0034]
[Action]
According to the present invention, the luminance signal is linearly calculated by calculating the gain for suppressing the color difference signal using the luminance information using the maximum value of the luminance information detected from a plurality of pixels adjacent to the target pixel. Even in the case of a change, the color difference signal can be suppressed following the change in the luminance signal, and the inconvenience that the color signal is rapidly suppressed from a certain brightness can be prevented.
[0035]
DETAILED DESCRIPTION OF THE INVENTION
FIG. 1 shows an embodiment of a color suppression circuit that is a feature of the present invention. In the figure, 101 is a multiplier for suppressing the color difference signal U and 102 is a multiplier for suppressing the color difference signal V. 103 is a maximum value detection circuit, 104 is a subtractor, and 105 is a terminal for supplying a set value A.
[0036]
Further, 106 is a coefficient unit with a coefficient of 1, 107 is a coefficient unit with a coefficient of 1/2, 108 is a coefficient unit with a coefficient of 1/4, and 109 is a detector of 128 or more that generates a
[0037]
Next, the operation of the color suppression circuit of the present embodiment configured as described above will be described. The narrowband luminance signal Ys is input to the maximum
[0038]
The A-Ysmax signal has coefficient
[0039]
Similarly, the
[0040]
It is assumed that
[0041]
On the other hand, when the A-Ysmax signal is 0 or less, that is, when the narrowband maximum luminance signal Ysmax is 500 LSB or more, the
[0042]
To summarize the above-described examples, first, the color difference signals
[0043]
Next, FIG. 2 shows an embodiment of the maximum
[0044]
The narrowband luminance signal Ys is also input to the
[0045]
Here, the MODE signal applied to the terminal 218 will be described. The
[0046]
Similarly, in the
[0047]
Next, the circuit operation of FIG. 2 will be described. Now, it is assumed that the setting is
[0048]
Here, the output of the
[0049]
The narrowband luminance signal Ys and the output of the D-
[0050]
From the above description, as for the input of the
[0051]
In the
[0052]
The output of the D-
[0053]
Here, the output of the
[0054]
Here, the output of the
[0055]
Similarly,
[0056]
At the same time, the data transfer of the D-
[0057]
Here, the output of the
[0058]
In
[0059]
At the same time, the data transfer of the D-
[0060]
Here, the output of the
[0061]
Here, the output of the
[0062]
FIG. 3 is a diagram showing the effect of color suppression according to the above-described embodiment. When the color suppression characteristic is Ysmax = Ys, the gain slope is 1/2 and the setting value A = 500 LSB according to FIG. Further, the MODE signal in FIG. 1 is set to be in the
[0063]
At this time, if Ysmax = Ys, that is, if the effect of the maximum
[0064]
On the other hand, in the present embodiment, since the maximum
[0065]
That is, the color difference signals after color suppression are 200 LSB, 100 LSB, 0 LSB, 0 LSB, 0 LSB, 100 LSB, and 200 LSB, respectively, and the color difference signal is a linear luminance signal from pixel B to pixel C and pixels E to F in FIG. It can change naturally according to changes. As a result, the color signal is suddenly suppressed from a certain brightness, and it is possible to prevent the inconvenience that the color is lost even in a portion that is not so bright, resulting in an achromatic color, and natural color suppression processing can be performed.
[0066]
(Other embodiments of the present invention)
The present invention may be applied to a system composed of a plurality of devices (for example, a host computer, an interface device, a reader, a printer, etc.) or an apparatus composed of one device.
[0067]
In addition, software for realizing the functions of the above-described embodiments is provided to an apparatus or a computer in the system connected to the various devices so that the various devices are operated so as to realize the functions of the above-described embodiments. What is implemented by supplying the program code and operating the various devices according to the program stored in the computer (CPU or MPU) of the system or apparatus is also included in the scope of the present invention.
[0068]
In this case, the program code of the software itself realizes the functions of the above-described embodiments, and the program code itself and means for supplying the program code to the computer, for example, the program code is stored. The storage medium constitutes the present invention. As a storage medium for storing the program code, for example, a floppy disk, a hard disk, an optical disk, a magneto-optical disk, a CD-ROM, a magnetic tape, a nonvolatile memory card, a ROM, or the like can be used.
[0069]
Further, by executing the program code supplied by the computer, not only the functions of the above-described embodiments are realized, but also the OS (operating system) or other application software in which the program code is running on the computer, etc. It goes without saying that the program code is also included in the embodiment of the present invention even when the functions of the above-described embodiment are realized jointly.
[0070]
Further, after the supplied program code is stored in the memory provided in the function expansion board of the computer or the function expansion unit connected to the computer, the CPU provided in the function expansion board or function expansion unit based on the instruction of the program code Needless to say, the present invention includes a case where the functions of the above-described embodiment are realized by performing part or all of the actual processing.
[0071]
【The invention's effect】
As described above, when suppressing color difference signals using luminance information, the present invention detects the maximum value from the luminance information of a plurality of pixels adjacent to the pixel to be suppressed, and uses the detected maximum value. Therefore, even when the luminance signal changes linearly, it is possible to suppress the color difference signal following the change of the luminance signal.
[0072]
As a result, the color signal is abruptly suppressed from a certain brightness, which was a problem in the prior art, so that it is possible to prevent the color from dropping out and becoming achromatic even in areas that are not so bright. Color suppression processing can be performed.
[Brief description of the drawings]
FIG. 1 is a diagram illustrating a configuration of a color suppression circuit in a signal processing device according to an embodiment.
FIG. 2 is a diagram illustrating a configuration of a maximum value detection circuit in the color suppression circuit according to the embodiment.
FIG. 3 is a diagram illustrating an effect of the color suppression circuit according to the embodiment.
FIG. 4 is a diagram showing a configuration of a signal processing apparatus using a complementary color single-plate CCD color sensor.
FIG. 5 is a diagram illustrating a configuration example of a conventional color suppression circuit.
FIG. 6 is a diagram illustrating characteristics of a conventional color suppression circuit.
FIG. 7 is a diagram illustrating an example of a complete color suppression range control circuit in a conventional color suppression circuit.
FIG. 8 is a diagram illustrating an operation timing of a conventional color suppression circuit.
FIG. 9 is a diagram illustrating an effect of a conventional color suppression circuit.
[Explanation of symbols]
101 Multiplier for suppressing color difference signal U
102 Multiplier for suppressing color difference signal V
103 Maximum value detection circuit
104 Subtractor
105 Terminal that provides setting value A
106 Coefficient unit of
107 Coefficient unit with a factor of 1/2
108 Coefficient unit with a factor of 1/4
109 128 or more detector
110 256 or more detectors
111 512 or more detectors
112 selector
113 selector
114 Zero or more detector
116 selector
Claims (6)
抑圧の対象画素に隣接した複数画素の輝度情報の中から最大値を検出する最大値検出手段と、
上記最大値検出手段によって検出された輝度情報に基づいて抑圧ゲインを算出するゲイン算出手段と、
上記ゲイン算出手段によって算出された抑圧ゲインで上記抑圧の対象画素に対して色抑圧を行う色抑圧手段とを具備することを特徴とする信号処理装置。In a signal processing apparatus that suppresses a color difference signal using luminance information,
Maximum value detecting means for detecting a maximum value from luminance information of a plurality of pixels adjacent to a target pixel of suppression;
Gain calculating means for calculating a suppression gain based on the luminance information detected by the maximum value detecting means;
A signal processing apparatus comprising: color suppression means for performing color suppression on a pixel to be suppressed with the suppression gain calculated by the gain calculation means.
抑圧の対象画素に隣接した複数画素の輝度情報の中から最大値を検出する最大値検出処理と、
上記最大値検出処理によって検出された輝度情報に基づいて抑圧ゲインを算出するゲイン算出処理と、
上記ゲイン算出処理によって算出された抑圧ゲインで上記抑圧の対象画素に対して色抑圧を行う色抑圧処理とを行うことを特徴とする信号処理方法。In a signal processing method for suppressing color difference signals using luminance information,
A maximum value detection process for detecting a maximum value from luminance information of a plurality of pixels adjacent to a target pixel of suppression;
A gain calculation process for calculating a suppression gain based on the luminance information detected by the maximum value detection process;
A signal processing method comprising: performing color suppression processing for performing color suppression on a pixel to be suppressed with the suppression gain calculated by the gain calculation processing.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP19855498A JP4227222B2 (en) | 1998-07-14 | 1998-07-14 | Signal processing apparatus, signal processing method, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP19855498A JP4227222B2 (en) | 1998-07-14 | 1998-07-14 | Signal processing apparatus, signal processing method, and storage medium |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000032482A JP2000032482A (en) | 2000-01-28 |
JP4227222B2 true JP4227222B2 (en) | 2009-02-18 |
Family
ID=16393118
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP19855498A Expired - Fee Related JP4227222B2 (en) | 1998-07-14 | 1998-07-14 | Signal processing apparatus, signal processing method, and storage medium |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4227222B2 (en) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7836477B2 (en) | 2001-08-21 | 2010-11-16 | Sony Corporation | Information processing system, information processing apparatus and method |
JP4341526B2 (en) | 2004-03-31 | 2009-10-07 | セイコーエプソン株式会社 | Image processing device |
KR20070026571A (en) * | 2004-06-10 | 2007-03-08 | 소니 가부시끼 가이샤 | Image processing device, method, and program |
JP4539280B2 (en) * | 2004-10-19 | 2010-09-08 | ソニー株式会社 | Image processing apparatus, image processing method, and computer program |
JP4539299B2 (en) * | 2004-11-08 | 2010-09-08 | ソニー株式会社 | Image processing apparatus, image processing method, and computer program |
JP5211521B2 (en) * | 2007-03-26 | 2013-06-12 | 株式会社ニコン | Image processing apparatus, image processing method, image processing program, and camera |
JP5664261B2 (en) * | 2011-01-18 | 2015-02-04 | 株式会社ニコン | Image processing apparatus and image processing program |
-
1998
- 1998-07-14 JP JP19855498A patent/JP4227222B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000032482A (en) | 2000-01-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101247646B1 (en) | Image combining apparatus, image combining method and recording medium | |
US7646930B2 (en) | Edge enhancement system and method and imaging system | |
US20020037101A1 (en) | Image processing apparatus, image processing method and computer program product for correcting image obtained by shooting subject | |
US8280162B2 (en) | Image processing apparatus and recording medium recording image processing program | |
JP2000236473A (en) | Image processing circuit for image input device | |
US7262795B2 (en) | Image processing method for generating weighted interpolated pixel data | |
JP2007088543A (en) | Image processor and processing method | |
JP2001320722A (en) | Signal processor and signal processing method | |
JP2008311874A (en) | Image processor, image processing program and image processing method | |
JP2002300590A (en) | Signal-processing apparatus and method | |
JP4227222B2 (en) | Signal processing apparatus, signal processing method, and storage medium | |
US7215365B2 (en) | System and method for effectively calculating destination pixels in an image data processing procedure | |
WO2004023796A1 (en) | Method of signal reconstruction, imaging device and computer program product | |
EP1763257B1 (en) | Chrominance signal processing apparatus and method | |
US9460492B2 (en) | Apparatus and method for image processing | |
JP2010021952A (en) | Apparatus and method for image processing and program | |
JP2009004966A (en) | Imaging apparatus | |
JP2003230051A (en) | Electronic camera | |
JPH1117984A (en) | Image processor | |
JP2005260675A (en) | Image processor and program | |
JP4175587B2 (en) | Image processing apparatus and method, imaging apparatus, and memory medium | |
US10701328B2 (en) | Image processing device, image processing method, and image processing program | |
JP2004040371A (en) | Signal processor and signal processing method and program, and storage medium | |
JP4478258B2 (en) | Image processing device | |
JP5056006B2 (en) | Imaging apparatus and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050706 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070921 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071002 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071128 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081111 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081128 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111205 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121205 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131205 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |