JP3663862B2 - カラービデオカメラ用輝度信号処理回路 - Google Patents

カラービデオカメラ用輝度信号処理回路 Download PDF

Info

Publication number
JP3663862B2
JP3663862B2 JP33454897A JP33454897A JP3663862B2 JP 3663862 B2 JP3663862 B2 JP 3663862B2 JP 33454897 A JP33454897 A JP 33454897A JP 33454897 A JP33454897 A JP 33454897A JP 3663862 B2 JP3663862 B2 JP 3663862B2
Authority
JP
Japan
Prior art keywords
signal
processing circuit
color
filter
circuit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP33454897A
Other languages
English (en)
Other versions
JPH11168739A (ja
Inventor
弘之 宮原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP33454897A priority Critical patent/JP3663862B2/ja
Priority to US09/203,718 priority patent/US6559886B1/en
Priority to DE69842015T priority patent/DE69842015D1/de
Priority to EP98122565A priority patent/EP0921691B1/en
Publication of JPH11168739A publication Critical patent/JPH11168739A/ja
Priority to US10/386,461 priority patent/US7307657B2/en
Application granted granted Critical
Publication of JP3663862B2 publication Critical patent/JP3663862B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、カラービデオカメラの信号処理回路、特に輝度の補正を含む輝度信号処理回路に関する。
【0002】
【従来の技術】
カラービデオカメラは、固体撮像素子、特にCCD固体撮像素子を用いたものが主流となっている。その基本的な処理過程は、固体撮像素子で画像イメージを光電変換素子に蓄積された電荷として検出する処理と、電荷量を量子化したデジタル信号をローパスフィルタ等により、アナログの画像信号に変換するという処理が含まれている。
【0003】
一方、CCD固体撮像素子の持つ画素数によって実質的な解像度が決まるが、サンプリングと復元過程を経た後には、本質的に高い空間周波数成分に起因する偽信号の発生が避けられない。
【0004】
【発明が解決しようとする課題】
図3に、従来のカラーフィルタアレイの1例を示す。ここでは、W(白)、Gr(緑),Cy(シアン),Ye(黄)からなる色配列のものが用いられ、この4画素を基本単位とする。図3において、Pxは水平方向の画素ピッチを、Pyは垂直方向の画素ピッチをそれぞれ表わす。
【0005】
ここで、水平方向に関しては、1/Pxの空間周波数に対応する輝度解像度が期待できる。しかし、例えば、W,Grの強度の違いにより、fsを搬送波周波数として、以下の様な偽信号が生じる。
【0006】
(π/2)・(WーGr)sin(2π・fs・t)
本発明は、このような偽信号を低減することを目的とする。
【0007】
【課題を解決するための手段】
前記目的を達成する為に、本発明は、カラーフィルタを備えた1対の画素の繰り返しからなるラインを複数備えた固体撮像素子からの映像信号から輝度信号を生成する回路において、上記映像信号に前記カラーフィルタの光透過率に応じた係数を乗算して上記映像信号から前記カラーフィルタの光透過率の相違に起因して発生する偽信号を除去するメイン信号処理回路と、上記映像信号のコアリング処理後の垂直方向の輪郭成分、上記メイン信号処理回路よりの前記偽信号を除去したメイン信号、および上記映像信号から前記カラーフィルタの相関を用いて低域成分を抽出するモアレ処理を施した後の水平方向高周波成分を混合して、輪郭補償の施された輝度信号をえる輪郭補償回路と、を有することを特徴とする。
また、前記メイン信号処理回路では、前記1対の画素の一方の光透過率をT1、他方の光透過率をT2として、予め前記1対の画素の一方からの光検出信号に(T1+T2)/(2・T1)を乗算し、前記1対の画素の他方からの光検出信号に(T1+T2)/(2・T2)を乗算し、それらを合わせた信号の低周波数成分から前記輝度信号を生成している。
【0008】
又、本発明は、前記固体撮像素子が、CCD固体撮像素子であることを特徴とする。
【0009】
更に、本発明は、前記1対の画素のカラーフィルタの組み合わせは、色温度の変動の少ない組み合わせであることを特徴とする。
【0010】
更に、本発明は、前記カラーフィルタの組み合わせは、透明又は透明に近い分光を持つフィルタと緑のフィルタの組み合わせであることを特徴とする。
【0011】
更に、本発明は、前記カラーフィルタの組み合わせは、マゼンダのフィルタと緑のフィルタの組み合わせであることを特徴とする。
【0012】
【発明の実施の形態】
以下,本発明の実施の形態につき好ましい実施例により図面を参照しながら説明する。
【0013】
図1は本発明の回路をカラービデオカメラに採用した場合の実施例の概略構成図である。なお、この図1では、図示を簡略化するため、レンズ光学系や記録媒体への記録系、各種信号処理系、操作系など、カラービデオカメラに一般的に備えられているものについては省略している。
【0014】
まず,全体の概略構成につき説明する。
【0015】
この図1において、固体操像素子(以下CCD1とする)上には、図示しないレンズ光学系を介し、さらに補色系の色フィルタを介した被写体等からの光が入射されて結像される。このCCD1では、入射光を光電変換し、得られた撮像信号を相関二重サンプリング回路(correlated double sampling;CDS)2に供給する。
【0016】
この相関二重サンプリング回路2では、CCDのランダム雑音(信号と暗電流のショット雑音)を除く雑音低減手法の1つである、いわゆる相関二重サンプリング処理を行う回路であつで、具体的には、信号期間レベルからフィールドスルー期間のレベルを差し引くことによってリセット雑音を抑圧するような処理が行われる。該相関二重サンプリング回路2の出力は、アナログ/デジタル(A/D)変換器3に送られる。
【0017】
このアナログ/デジタル変換器3は、入力側にサンプルホールド回路を含み、相関二重サンプリング回路2を介し、さらに該サンプルホールド回路にてサンプルホールドされたアナログ撮像信号を、所定のサンプル周波数にてサンプリングしてデジタル信号(以下、デジタル映像信号と呼ぶ)に変換する。該アナログ/デジタル変換器3から出力されたデジタル映像信号は、垂直フィルタ回路4及び詳細に後述する本発明の要部となるメイン信号処理回路6、画素分離回路8に送られる。
【0018】
垂直フィルタ回路4は、デジタル映像信号から垂直方向の所定周波数帯域成分を抽出する垂直バンドパスフィルタ(V−BPF)と、デジタル映像信号から垂直方向の高周波数帯域成分を抽出する垂直ハイパスフィルタ(V―HPF)とを少なくとも有してなり、デジタル映像信号から垂直方向の輪郭成分を抽出するものである。なお、垂直バンドパスフィルタと垂直ハイパスフィルタは、共に巡回型(IIR)或いは非巡回型(FIR)のデジタルフィルタであり、垂直ハイパスフィルタは例ぇは5タップのフィルタ係数が設定され、垂直バンドパスフィルタは例えば3タップのフィルタ係数が設定されている。該垂直フィルタ回路4からの出力信号、すなわちデジタル映像信号から抽出された垂直方向の輪郭成分は、コアリング処理回路5に送られる。
【0019】
コアリング処理回路5は、映像の輪郭成分に含まれる雑音成分を抑圧し、信号対雑音比(S/N)を改善する、いわゆるコアリング処理を行うものである。このコアリング処理回路5によってコアリング処理がなされた後の信号は,後述するγ(ガンマ)前輪郭補償回路12及び、γ後輪郭補償回路14に送られる。
【0020】
一方、後述するメイン信号処理回路6において偽信号が除去されたデジタル映像信号(以下、メイン信号と呼ぶ)は、垂直ローパスフィルタ(V−LPF)7a及び水平ローパスフィルタ(H−LPF)7bに順次供給される。
【0021】
この垂直ローパスフイルタ7a及び水平ローパスフィルタ7bは、後段のγ前輪郭補償回路12においてメイン信号に輪郭成分すなわち高周波数成分を加算することになるので、その前段の処理として該メイン信号から高周波数成分を除去する。当該垂直ローパスフイルタ7aは巡回型若しくは非巡回型のデジタルフイルタであり、例えば5タップのフィルタ係数が設定されていろものである。この垂直ローパスフイルタ7a及び水平ローパスフィルタ7bにて高周波数成分が除去されたメイン信号は、γ前輪郭補償回路12に供給される。
【0022】
次に、画素分離回路8は、アナログ/デジタル変換器3から供給されるデジタル映像信号が、W(白)、Gr(緑),Cy(シアン),Ye(黄)の補色フィルタの配列に応じて順次供給される信号であるため、これら順次供給される信号からW,G,Cy,Yeにそれぞれ対応する画素の信号を各々分離するものである。また、この画素分離回路8では、当該画素分離を行うことにより抜けた画素に対応する部分を補問するために(すなわち抜けた部分に補色信号が存在するように)に、例えば水平方向の画素補間を行うことも可能である。この画素分離回路8から出力された信号は、モアレ処理回路9に供給される。
【0023】
このモアレ処理回路9は、画素分離回路8から供給されたW,G,Cy,Yeの補色俳号の各レベルバランスをとってモアレを抑圧するモアレ処理を行う。すなわち、デジタル映像信号から固体撮像素子のカラーフィルタの相関を用いて低域成分を抽出する。該モアレ処理回路9からの出力信号は、水平ハイパスフィルタ(H−HPF)10に供給される。また、該モアレ処理回路9からは、コアリング処理回路5にて使用する前述した制御信号yf1も出力される。
【0024】
水平ハイパスフィルタ10では、供給された信号から高周波数帯域成分を抽出する。すなわち、この水平ハイパスフィルタ10からはモアレ処理後の水平方向の高周波数成分が出力されることになる。該水平ハイパスフィルタ10からの出力信号は、コアリング処理回路11に供給される。
【0025】
当該コアリング処理回路11は、コアリング処理回路5と略々同様の構成を有してなるものであり、水平ハイパスフィルタ10から供給された信号の高周波数成分に含まれる雑音成分を抑圧し、信号対雑音比(S/N)を改善するコアリング処理を行うものである。このコアリング処理回路11にてコアリング処理が施されたモアレ処理後の水平方向高周波数成分は、γ前輪郭補償回路12に送られる。
【0026】
γ前輪郭補償回路12は、垂直フィルタ回路4及びコアリング処理回路5にて得られた垂直方向の輪郭成分と、メイン信号処理回路6、垂直ローパスフイルタ7a及び水平ローパスフィルタ7bにて得られた高周波数成分が除去されたメイン信号と、画素分離回路8からコアリング処理回路11までの構成により得られたモアレ処理及びコアリング処理後の水平方向高周波数成分とを混合し、輝度信号を構成すると共に、該輝度信号の輪郭補償を行う。該γ前輪郭補償回路12にて輪郭補償が施された映像信号は、ガンマ処理回路13に供給される。
【0027】
該ガンマ処理回路13は、表示デバイスとして使用されることになるCRT(陰極線管)のガンマ特性を補正するためのγ(ガンマ)補正処理を、γ前輪郭補償回路12から供給されたデジタル映像信号に施す。このガンマ処理回路13にてガンマ補正処理された映像信号は、γ後輪郭補償回路14と水平アパコン回路16とに送られる。
【0028】
水平アパコン回路16では、ガンマ処理回路13にてガンマ補正処理された映像信号に対して、水平方向(及び垂直方向)のアパーチャ補正を行い、該アパーチャ補正後の映像信号をコアリング処理回路15に供給する。
【0029】
該コアリング処理回路15も、コアリング処理回路11やコアリング処理回路5と略々同様の構成を有するものであり、映像信号の高周波数帯域成分に含まれる雑音成分を抑圧し、信号対雑音比(S/N)を改善するコアリング処理を行うものである。このコアリング処理回路5の出力信号は、γ後輪郭補償回路14に送られる。
【0030】
γ後輪郭補償回路14は、垂直フィルタ回路4及びコアリング処理にて得られた垂直方向の輪郭成分と、ガンマ処理回路13からのガンマ補正処理後の映像信号と、水平方向のアパ−チャ補正後の信号とを混合し、ガンマ補正処理後の輝度信号の輪郭補償を行う。
【0031】
このγ後輪郭補償回路14の出力信号が、本実施の形態のカラービデオカメラのデジタル映像信号として出力、若しくは記録媒体に記録される。本実施例のビデオカメラは,以上の様な構成となっている。
【0032】
次に、本発明の要部となるメイン信号処理回路6の処理につき詳述する。
【0033】
このカメラに使用されているCCD1のカラーフィルタアレイは、図3に示すように、W、Gr,Cy,Yeの4画素を1単位とした色配列のものが用いられている。図2において、Pxは水平方向の画素ピッチを、Pyは垂直方向の画素ピッチをそれぞれ表わす。
【0034】
又、CCD1では、図2に示したように、各画素に設けられた光電変換素子18に蓄積されている電荷は、全画素分、垂直CCD19に転送され、ライン毎に水平CCD20によって読出される。又、1行おきに読出すインターリーブ方式や、水平CCDを2本用いる方式等もあるが、何れも全く同様の処理が可能である。
【0035】
従って、W、Gr、W、Gr・・・という系列と、Cy、Ye、Cy、Ye・・・という系列の信号が得られる。本実施の形態ではWGr系列の信号に対して、変換処理を行う。
【0036】
ここで、水平方向に関しては、一般に1/Pxの空間周波数に対応する輝度解像度が期待できる。しかし、ローパスフィルタを経ることにより、WGr系列の信号Sは、W信号とGr信号の強度の差分により偽信号を含み、fsを搬送波周波数として、次の様なものとなる。
【0037】
【数1】
S=(W+Gr)/2 + (π/2)・(WーGr)sin(2π・fs・t)・・・・・・(1)
ここで、第1項は本来の輝度信号であり、第2項は偽信号である。一方、W信号とGr信号の強度の違いは、カラーフィルタの光透過率の違いによる部分が大きい。従って、次の様な変換を行う。
【0038】
Kw=(Tw+Tg)/2Tw
Kg=(Tw+Tg)/2Tg
W’=Kw・W
Gr’=Kg・Gr
この変換は、アナログ/デジタル変換器3から供給されるデジタル映像信号に所定の定数Kw、Kgを乗算するものであり、メイン信号処理回路6内に設けられている乗算器で行われる。
【0039】
ここで、TwはW画素の光透過率であり、TgはGr画素の光透過率である。尚、ここで、W画素では、基本的に入射した光を全て透過するので、実質的にカラーフィルタは存在しない。即ち、W画素のカラーフィルタは、透明又は透明に近い分光を持つ。
【0040】
しかし、ここでは便宜上、W画素のカラーフィルタの光透過率を、通常のカラーフィルタと同様に、定義しておく。即ち、W画素の光透過率は、通常1と考えられる。この場合、平坦な白色光を入射した場合には、次の関係がある。
【0041】
W’+Gr’=Kw・W+Kg・Gr
Kw・W’=Kg・Gr’
この様にして、W、GrをW’、Gr’に変換し、これを式(1)に代入すると、以下の様に偽信号を含まない信号S’が得られる。
【0042】
【数2】
Figure 0003663862
一般の場合でも、(W’ーGr’)は(WーGr)よりも大幅に縮小されるので、偽信号が低減されることが分かる。
【0043】
この様にして,メイン信号処理回路6において,偽信号が低減された信号は,後段部のローパスフィルタ7a,7bにおいて所定の高域成分が除去されて輝度信号とされる。
【0044】
尚、W、Gr以外のフィルタでも、W、Grと同様に色温度の影響が小さい場合には入射光スペクトルへの依存度が小さいので、前記変換は有効である。例えば、図4に示した様なMg(マゼンダ)、Gr(緑),Cy(シアン),Ye(黄)の4画素を1単位とした色配列を持ったCCD固体撮像素子でも、同様の処理が効果的である。この場合、変換処理は、次の様なものとなる。
【0045】
Km=(Tm+Tg)/2Tm
Kg=(Tm+Tg)/2Tg
Mg’=Km・Mg
Gr’=Kg・Gr
ここで、TmはMg画素の光透過率であり、TgはGr画素の光透過率である。
【0046】
【発明の効果】
以上説明したように、この発明によって、カラービデオカメラ用輝度信号処理において発生していた偽信号の大幅な抑制が可能となる。
【図面の簡単な説明】
【図1】本発明の実施形態によるカラービデオカメラ用輝度信号処理回路を用いたシステムのブロック図。
【図2】本発明の実施形態によるカラービデオカメラ用輝度信号処理回路を備えたカラービデオカメラのCCD固体撮像素子における電荷の転送を説明する図。
【図3】本発明の実施形態によるカラービデオカメラ用輝度信号処理回路を備えたカラービデオカメラのCCD固体撮像素子のカラーフィルタアレイを示す図。
【図4】本発明の実施形態によるカラービデオカメラのCCD固体撮像素子で用いられるカラーフィルタアレイの別の例を示す図。
【符号の説明】
1 固体撮像素子
2 相関二重サンプリング回路
3 デジタル変換器
4 垂直フィルタ回路
5 コアリング処理回路
6 メイン信号処理回路
7a 垂直ローパスフイルタ
7b 水平ローパスフィルタ
8 水平ローパスフィルタ
9 モアレ処理回路
10 水平ハイパスフィルタ
11 コアリング処理回路
12 前輪郭補償回路
13 ガンマ処理回路
14 後輪郭補償回路
15 コアリング処理回路
16 水平アパコン回路
18 光電変換素子
19 垂直CCD
20 水平CCD

Claims (4)

  1. カラーフィルタを備えた1対の画素の繰り返しからなるラインを複数備えた固体撮像素子からの映像信号から輝度信号を生成する回路において、
    上記映像信号に前記カラーフィルタの光透過率に応じた係数を乗算して上記映像信号から前記カラーフィルタの光透過率の相違に起因して発生する偽信号を除去するメイン信号処理回路と、
    上記映像信号のコアリング処理後の垂直方向の輪郭成分、上記メイン信号処理回路よりの前記偽信号を除去したメイン信号、および上記映像信号から前記カラーフィルタの相関を用いて低域成分を抽出するモアレ処理を施した後の水平方向高周波成分を混合して、輪郭補償の施された輝度信号をえる輪郭補償回路と、を有することを特徴とするカラービデオカメラ用輝度信号処理回路。
  2. 前記固体撮像素子は、CCD固体撮像素子であることを特徴とする請求項1に記載のカラービデオカメラ用輝度信号処理回路。
  3. 前記カラーフィルタの組み合わせは、透明又は透明に近い分光を持つフィルタと緑のフィルタの組み合わせであることを特徴とする請求項に記載のカラービデオカメラ用輝度信号処理回路。
  4. 前記カラーフィルタの組み合わせは、マゼンダのフィルタと緑のフィルタの組み合わせであることを特徴とする請求項に記載のカラービデオカメラ用輝度信号処理回路。
JP33454897A 1997-12-04 1997-12-04 カラービデオカメラ用輝度信号処理回路 Expired - Lifetime JP3663862B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP33454897A JP3663862B2 (ja) 1997-12-04 1997-12-04 カラービデオカメラ用輝度信号処理回路
US09/203,718 US6559886B1 (en) 1997-12-04 1998-12-02 Video signal processing method and device
DE69842015T DE69842015D1 (de) 1997-12-04 1998-12-02 Verfahren und Vorrichtung zur Verarbeitung von Videosignalen
EP98122565A EP0921691B1 (en) 1997-12-04 1998-12-02 Video signal processing method and device
US10/386,461 US7307657B2 (en) 1997-12-04 2003-03-13 Video signal processing method and device for processing luminance signal

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33454897A JP3663862B2 (ja) 1997-12-04 1997-12-04 カラービデオカメラ用輝度信号処理回路

Publications (2)

Publication Number Publication Date
JPH11168739A JPH11168739A (ja) 1999-06-22
JP3663862B2 true JP3663862B2 (ja) 2005-06-22

Family

ID=18278654

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33454897A Expired - Lifetime JP3663862B2 (ja) 1997-12-04 1997-12-04 カラービデオカメラ用輝度信号処理回路

Country Status (1)

Country Link
JP (1) JP3663862B2 (ja)

Also Published As

Publication number Publication date
JPH11168739A (ja) 1999-06-22

Similar Documents

Publication Publication Date Title
EP2178305B1 (en) Image processing device, imaging device, image processing method, imaging method, and image processing program
US8619143B2 (en) Image sensor including color and infrared pixels
US8125543B2 (en) Solid-state imaging device and imaging apparatus with color correction based on light sensitivity detection
US6559886B1 (en) Video signal processing method and device
WO2007145373A2 (en) Solid-state image sensor
JP4420917B2 (ja) 撮像装置
JP2011010108A (ja) 撮像制御装置、撮像装置及び撮像制御方法
KR20090087811A (ko) 촬상 장치, 화상 처리 장치, 화상 처리 방법, 화상 처리방법의 프로그램 및 화상 처리 방법의 프로그램을 기록한기록 매체
JP2751254B2 (ja) 固体撮像装置の信号処理回路
WO2018198766A1 (ja) 固体撮像装置および電子機器
JP2008141658A (ja) 電子カメラおよび画像処理装置
JP4379006B2 (ja) 撮像装置
JP2004297807A (ja) 画像情報におけるノイズを補償するシステム及び方法
JP3663862B2 (ja) カラービデオカメラ用輝度信号処理回路
JP3591256B2 (ja) カラービデオカメラ用輝度信号処理回路
JP2003101815A (ja) 信号処理装置及び信号処理方法
Theuwissen Image processing chain in digital still cameras
JP4135197B2 (ja) 画像処理装置および画像処理方法、並びにカメラ
JP4178571B2 (ja) 画像処理装置および画像処理方法、並びにカメラ
JP3337962B2 (ja) 映像信号処理方法及び映像信号処理装置
JP3591257B2 (ja) 映像信号処理方法及び映像信号処理装置
JP2954437B2 (ja) ディジタル電子カメラ用ad変換装置
JP4348789B2 (ja) 撮像装置
JP2000050290A (ja) カラー固体撮像装置
DiBella et al. Improved sensitivity high-definition interline CCD using the KODAK TRUESENSE Color Filter Pattern

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040412

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041001

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050321

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090408

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090408

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100408

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110408

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120408

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120408

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120408

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130408

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140408

Year of fee payment: 9

EXPY Cancellation because of completion of term