JP4023267B2 - カラー画像処理装置及びカラー画像処理方法 - Google Patents

カラー画像処理装置及びカラー画像処理方法 Download PDF

Info

Publication number
JP4023267B2
JP4023267B2 JP2002266263A JP2002266263A JP4023267B2 JP 4023267 B2 JP4023267 B2 JP 4023267B2 JP 2002266263 A JP2002266263 A JP 2002266263A JP 2002266263 A JP2002266263 A JP 2002266263A JP 4023267 B2 JP4023267 B2 JP 4023267B2
Authority
JP
Japan
Prior art keywords
matrix
color system
coefficient
circuit
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002266263A
Other languages
English (en)
Other versions
JP2004102861A (ja
Inventor
勝巳 南野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Murata Machinery Ltd
Original Assignee
Murata Machinery Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Murata Machinery Ltd filed Critical Murata Machinery Ltd
Priority to JP2002266263A priority Critical patent/JP4023267B2/ja
Publication of JP2004102861A publication Critical patent/JP2004102861A/ja
Application granted granted Critical
Publication of JP4023267B2 publication Critical patent/JP4023267B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、カラー画像を表示する各種電子機器に使用されるカラー画像処理装置及びカラー画像処理方法に関する。
【0002】
【従来の技術】
カラー画像を表示する電子機器では、カラー画像の表示に様々な表色系が用いられる。その表色系としては、RGB、YMCK、XYZ、Lab、YCbCrなどがある。これらの表色系には、行列演算で変換できる表色系がある。例えば、RGB表色系とXYZ表色系を行列で相互に変換している(例えば、特許文献1参照)。
【0003】
例えばXYZ表色系からRGB表色系に変換する場合には、
|R| |X|
|G|=A|Y|
|B| |Z|
なる行列演算により変換する。但し、| |は行列を表している(以下も同様)。ここに、Aは係数行列であり、次のような小数点を含む数値で表される。
【0004】
Figure 0004023267
但し、この行列Aの各数値はD65の光源を用いた場合であり、それほど大きな相違はないが、光源に何を使用するかによって異なる。
【0005】
【特許文献1】
特開平7−334139号公報
【0006】
【発明が解決しようとする課題】
上記係数行列Aを用いた行列演算をハードウェアで実現する場合、小数点を含む係数からなる行列Aをそのまま用いると、演算回路(乗算回路)のビット数が大幅に増加し、その回路規模も大きくなり、延いては画像処理装置のコストも増加する問題点がある。
【0007】
この発明は、そのような問題点に着目してなされたものであって、或る表色系を別の表色系に行列演算により変換する場合に演算に要するビット数を減らすことにより回路規模を大きくしなくても精度良く表色系変換演算を行えるカラー画像処理装置及びカラー画像処理方法を提供することを目的としている。
【0008】
【課題を解決するための手段】
前記目的を達成するために、本発明の請求項1記載のカラー画像処理装置(請求項記載のカラー画像処理方法も同様)は、第1の表色系から第2の表色系にQ=A・P(Aは係数行列、Pは第1の表色系に係る行列、Qは第2の表色系に係る行列)なる行列演算により変換するものにおいて、前記係数行列Aは3×3(i,j=1,2,3)の正方行列であり、この行列Aの主対角線上の係数mijを+bij/2 (b,m,nは整数)、他の係数mijをbij/2で表し、この行列Aの各数値bijと前記行列Pの各成分とを乗算する乗算回路群と、この乗算回路群の出力を行列Qの各成分について加算する第1の加算回路群と、各第1の加算回路群の出力をそれぞれ行列Aの2に係るシフト処理により除算する第1のシフト回路群と、行列Pの各成分を行列Aの2に係るシフト処理により乗算する第2のシフト回路群と、行列Qの各成分について前記第1及び第2のシフト回路群の出力を加算する第2の加算回路群とを備えたことを特徴とする。
【0011】
この装置では、3×3(i,j=1,2,3)の正方行列である係数行列Aの主対角線上の係数mijを2+bij/2 で、他の係数mijをbij/2 (b,m,nは整数)で近似的に表している。この場合、2に係る演算(乗算)と2に係る演算(除算)は単にビットをシフトさせればよい。しかも、数値bijと行列Pの各成分との乗算では、必要とされるビット数がより減少する。つまり、この装置では、行列Aの主対角線上の係数mijを+bij/2というように2つの部分に分解したので、換言すると行列演算を分解して行うようにしたので、数値bijをより小さくすることができる。これにより、演算に要するビット数を増やさなくても、より高精度の表色系変換演算を低コストで行うことができる。
なお、以下の実施形態では、bはbijを表している。同様にaはaijを表している。
【0012】
【発明の実施の形態】
以下、実施の形態により、この発明を更に詳細に説明する。
【0013】
第1の表色系から第2の表色系にQ=A・P(Aは係数行列、Pは第1の表色系に係る行列、Qは第2の表色系に係る行列)なる行列演算により変換する場合の具体例として、XYZ表色系をRGB表色系に変換する場合を取り上げる。
【0014】
3×3の係数行列Aを用いて変換する場合、行列Aの各成分mij(i=1,2,3、j=1,2,3)の値は定まった値である。すなわち、行列演算は
|R| |m11 m12 m13| |X|
|G|=|m21 m22 m23|*|Y| ・・・(1)
|B| |m31 m32 m33| |Z|
となり、各mijの値はD65の光源を用いた場合には、次のように表される。
【0015】
|R| | 3.2410 -1.5374 -0.4986 | |X|
|G|=|-0.9692 1.8760 0.0416 |*|Y|
|B| | 0.0556 -0.2040 1.0570 | |Z|
ここで、係数行列Aの各係数をa/2n (a,nは整数)で表すとし、XYZ正数8ビットと係数行列Aの各係数mijを符号付8ビットとして、符号付13ビットの出力を得る場合、各係数mijは次のように近似的に表される。
【0016】
|R| |103/32 -50/32 -16/32| |X|
|G|=|-32/32 60/32 1/32|*|Y| ・・・(2)
|B| | 1/32 -7/32 33/32| |Z|
つまり、各係数mijは以下の数値である。
【0017】
|R| | 3.21875 -1.56250 -0.5000 | |X|
|G|=|-1.00000 1.87500 0.03125|*|Y|
|B| | 0.03125 -0.21875 1.03125| |Z|
上記演算式(2)の回路は具体的に図1に示すようなブロック図になる。
【0018】
この演算回路は、係数行列Aの各数値aと行列P|XYZ|の各成分とを乗算する乗算回路群1〜9と、この乗算回路群1〜9の出力を行列Q|RGB|の各成分について加算する加算回路群10,11,12と、各加算回路群10,11,12の出力をそれぞれ行列Aの2n に係るシフト処理により除算するシフト回路群13,14,15とを備える。
【0019】
この演算回路において、乗算回路1,4,7は行列Q|RGB|のR成分について、乗算回路1で数値a(103)*X、乗算回路4で同(−50)*Y、乗算回路7で同(−16)*Zをそれぞれ行う。同様に、乗算回路2,5,8はG成分について、乗算回路2で同(−32)*X、乗算回路5で同(60)*Y、乗算回路8で同(1)*Zをそれぞれ行う。乗算回路3,6,9はB成分について、乗算回路3で同(1)*X、乗算回路6で同(−7)*Y、乗算回路9で同(33)*Zをそれぞれ行う。
【0020】
加算回路10は、行列Q|RGB|のR成分について、乗算回路1,4,7の出力を加算する。つまり、(103X)+(−50Y)+(−16Z)を行う。同様に、加算回路11は、G成分について乗算回路2,5,8の出力を加算し、加算回路12は、B成分について乗算回路3,6,9の出力を加算する。
【0021】
シフト回路13は、行列Q|RGB|のR成分について、加算回路10の出力をそれぞれ行列Aの2n (32,n=5)に係るシフト処理により除算する。つまり、〔(103X)+(−50Y)+(−16Z)〕の値に対して5ビット分シフトすることにより除算する。同様に、シフト回路14はG成分について、加算回路11の出力を2n に係るシフト処理により除算し、シフト回路15はB成分について、加算回路12の出力を2n に係るシフト処理により除算する。
【0022】
以上の処理により、XYZ表色系を行列演算でRGB表色系に変換することができる。この演算に関し、係数行列Aの各係数をa/2n (a,nは整数)で近似的に表しているので、2のべき乗2n に係る演算(除算)は単にビットをシフトさせればよいだけでなく、数値aと行列P|XYZ|の各成分との乗算では、必要とされるビット数が減少する。従って、回路規模を上げることなく、高精度の表色系変換演算を低コストで行うことができる。
【0023】
次に、上記具体例において、演算誤差を小さくするために、係数行列Aの各係数mijを符号付9ビットとして、符号付13ビットの出力を得る場合、各係数mijは次のように近似的に表される。
【0024】
|R| |207/64 -99/64 -32/64 | |X|
|G|=|-63/64 120/64 2/64 |*|Y| ・・・(3)
|B| | 3/64 -14/64 67/64 | |Z|
つまり、各係数mijは以下の数値である。
【0025】
|R| | 3.234375 -1.54688 -0.50000 | |X|
|G|=|-0.98438 1.875 0.03125 |*|Y|
|B| | 0.046875 -0.21875 1.046875| |Z|
上記演算式(3)の回路は具体的には図2に示すようなブロック図になる。この演算回路は図1に示すものと全く同じであるので説明は省略する。
【0026】
この場合、上記演算式(3)において、演算式(2)に比べて数値aが大きくなっていることから、演算誤差を減らすためには、乗算回路のビット数を上げる必要がある。これは、回路規模の拡大になるので、コスト削減からは好ましくない。
【0027】
そこで、係数行列Aの主対角線上の係数を2m +b/2n (b,m,nは整数)とし、その他の係数をb/2n (b,nは整数)で表すとし、XYZ正数8ビットとすると共に係数行列Aの各係数mijを2m とbの符号付8ビットに分けて演算し、符号付13ビットの出力を得る場合、各係数mijは次のように近似的に表される。
【0028】
Figure 0004023267
この演算式(4)の第1項において、各行と各列についてそれぞれ1個のみ2m としたのは、表色系変換のための係数行列は、1行の3個の係数において、いずれか1個の値が大きく、他の値が小さく、その値の大きい係数の位置が行毎且つ列毎に異なるという特徴を有するからである。すなわち、上記演算式(3)における係数行列Aの各係数mijの中では、m11,m22,m33のb(207,120,67)が該当する。言い換えれば、行列Aは係数を2m とする3×3の対角行列と、b/2n を係数とする3×3の正方行列とに分解することができる。
【0029】
この演算式(4)は行列分解により表されており、各係数mijは以下の数値である。
【0030】
|R| |4-0.765625 -1.54688 -0.50000 | |X|
|G|=|-0.98438 2-0.125 0.03125 |*|Y|
|B| | 0.046875 -0.21875 1+0.046875| |Z|
|R| | 3.234375 -1.54688 -0.50000 | |X|
|G|=|-0.98438 1.875 0.03125 |*|Y|
|B| | 0.046875 -0.21875 1.046875| |Z|
上記演算式(4)の回路は具体的に図3に示すようなブロック図になる。
【0031】
この演算回路は、基本的に図1及び図2に示す回路と同じであるが、新たに加算回路とシフト回路が追加されている。すなわち、この演算回路は、係数行列Aの各数値bと行列P|XYZ|の各成分とを乗算する乗算回路群1〜9と、この乗算回路群1〜9の出力を行列Q|RGB|の各成分について加算する第1の加算回路群10,11,12と、各第1の加算回路群10,11,12の出力をそれぞれ行列Aの2n に係るシフト処理により除算する第1のシフト回路群13,14,15と、行列Pの各成分を行列Aの2m に係るシフト処理により乗算する第2のシフト回路群16,17,18と、行列Qの各成分について前記第1及び第2のシフト回路群13〜15,16〜18の出力を加算する第2の加算回路群19,20,21とを備える。
【0032】
この演算回路において、乗算回路1,4,7、乗算回路2,5,8、乗算回路3,6,9は前記したとおりである。また、加算回路10,11,12及びシフト回路13,14,15も前記したとおりである。
【0033】
乗算回路1,4,7、加算回路10及びシフト回路13により行列Q|RGB|のR成分について、上記演算式(4)の第2項の演算が行われる。同様に、乗算回路2,5,8、加算回路11及びシフト回路14によりG成分について、乗算回路3,6,9、加算回路12及びシフト回路15によりB成分について、それぞれ演算式(4)の第2項の演算が行われる。
【0034】
シフト回路16は行列Q|RGB|のR成分について、シフト回路17はG成分について、シフト回路18はB成分について、それぞれ行列Pの各成分を行列Aの2m に係るシフト処理により乗算する。つまり、演算式(4)の第1項の演算が行われる。
【0035】
加算回路19は、行列Q|RGB|のR成分について、シフト回路13の出力とシフト回路16の出力を加算する。同様に、加算回路20はG成分について、シフト回路14の出力とシフト回路17の出力を加算し、加算回路21はB成分について、シフト回路15の出力とシフト回路18の出力を加算する。
【0036】
以上の処理により、XYZ表色系を行列演算でRGB表色系に変換することができる。この演算に関しては、係数行列Aの主対角線上の係数を2m +b/2n (b,m,nは整数)とし、その他の係数をb/2n (b,nは整数)で表しているので、2m に係る演算(乗算)と2n に係る演算(除算)は単にビットをシフトさせればよい。しかも、数値bと行列Pの各成分との乗算では、各係数をa/2n とする場合に比べて必要とされるビット数が更に減少する。つまり、行列Aの主対角線上の係数を2m +b/2n というように2つの部分に分解したので、言い換えると行列演算を分解して行うようにしたので、数値bを数値aよりも更に小さくすることができる。これにより、演算に要するビット数を増やすことなく、シフト回路群16〜18と加算回路群19〜21を追加するだけで、乗算回路群1〜9での演算精度を向上させることができる。
【0037】
次に、RGB表色系からXYZ表色系に変換するときの行列演算は、次のようになる。但し、係数行列Aの各数値はD50の光源を用いた場合である。
【0038】
|X| |0.4339 0.3760 0.1886| |R|
|Y|=|0.2126 0.7151 0.0715|*|G|
|Z| |0.0177 0.1095 0.8728| |B|
ここで、図1及び図2に示す演算回路において、乗算回路群1〜9での入力を8ビット、符号付8ビットとし、出力を符号付16ビットとする場合の演算式は次のようになる。
【0039】
|X| |55/128 48/128 24/128 | |R|
|Y|=|27/128 91/128 9/128 |*|G|
|Z| | 2/128 14/128 111/128 | |B|
これを更に図3に示す演算回路に当てはめると次のようになる。
【0040】
|X| |1/2 0 0| |R| |-17/256 96/256 48/256 | |R|
|Y|=| 0 1/2 0|*|G|+|-54/256 55/256 18/256 |*|G|
|Z| | 0 0 1| |B| | 4/256 28/256 -33/256 | |B|
また、RGB表色系からJPEG(Joint Picture Expert Group)による圧縮に適したYCrCb表色系に変換するときの行列演算は、次のようになる。但し、係数行列Aの各数値はD50の光源を用いた場合である。
【0041】
|Cb| | 0.5000 -0.4187 0.0813 | |R|
|Y |=| 0.2990 0.5870 0.1140 |*|G|
|Cr| |-0.1687 -0.3313 0.5000 | |B|
ここで、図1及び図2に示す演算回路において、乗算回路群1〜9での入力を8ビット、符号付8ビットとし、出力を符号付16ビットとする場合の演算式は次のようになる。
【0042】
|Cb| | 64/128 -54/128 10/128 | |R|
|Y |=| 38/128 75/128 14/128 |*|G|
|Cr| |-22/128 -43/128 64/128 | |B|
これを更に図3に示す演算回路に当てはめると次のようになる。
【0043】
|Cb| |1/2 0 0 | |R| | 0/256 -108/256 20/256| |R|
|Y |=| 0 1/2 0 |*|G|+| 76/256 22/256 29/256|*|G|
|Cr| | 0 0 1/2 | |B| |-44/256 -85/256 0/256| |B|
なお、図1〜図3に示すブロック図は、XYZ表色系をRGB表色系に変換する場合を示しているが、その反対にRGB表色系をXYZ表色系に変換する場合、或いはRGB表色系をYCbCr表色系に変換する場合なども、係数行列Aを対応のものに変えた上で、全く同様に行えばよい。
【0044】
【発明の効果】
以上説明したように、請求項1,記載の発明によれば、3×3(i,j=1,2,3)の正方行列である係数行列Aの主対角線上の係数mijを+bij/2 (b,m,nは整数)、他の係数mijをbij/2で表しているので、2のべき乗2に係る演算(乗算)と2に係る演算(除算)は単にビットをシフトさせればよい。しかも、数値bijと行列Pの各成分との乗算では、必要とされるビット数がより減少する。これにより、演算に要するビット数を増やさなくても、より高精度の表色系変換演算を低コストで行うことができる。
【図面の簡単な説明】
【図1】一実施形態に係るカラー画像処理装置における演算回路のブロック図である。
【図2】図1の演算回路の変形(入出力のビット数の変更)例を示すブロック図である。
【図3】別実施形態に係るカラー画像処理装置における演算回路のブロック図である。
【符号の説明】
1〜9 乗算回路群
10〜12 (第1の)加算回路群
13〜15 (第1の)シフト回路群
16〜18 第2のシフト回路群
19〜21 第2の加算回路群

Claims (2)

  1. 第1の表色系から第2の表色系にQ=A・P(Aは係数行列、Pは第1の表色系に係る行列、Qは第2の表色系に係る行列)なる行列演算により変換するカラー画像処理装置において、
    前記係数行列Aは3×3(i,j=1,2,3)の正方行列であり、この行列Aの主対角線上の係数mijを+bij/2 (b,m,nは整数)、他の係数mijをbij/2で表し、この行列Aの各数値bijと前記行列Pの各成分とを乗算する乗算回路群と、この乗算回路群の出力を行列Qの各成分について加算する第1の加算回路群と、各第1の加算回路群の出力をそれぞれ行列Aの2に係るシフト処理により除算する第1のシフト回路群と、行列Pの各成分を行列Aの2に係るシフト処理により乗算する第2のシフト回路群と、行列Qの各成分について前記第1及び第2のシフト回路群の出力を加算する第2の加算回路群とを備えたことを特徴とするカラー画像処理装置。
  2. 第1の表色系から第2の表色系にQ=A・P(Aは係数行列、Pは第1の表色系に係る行列、Qは第2の表色系に係る行列)なる行列演算により変換するカラー画像処理方法において、
    前記係数行列Aは3×3(i,j=1,2,3)の正方行列であり、この行列Aの主対角線上の係数mijを+bij/2 (b,m,nは整数)、他の係数mijをbij/2で表し、この行列Aの各数値bijと前記行列Pの各成分とを乗算し、この乗算結果を行列Qの各成分について加算し、各加算値をそれぞれ行列Aの2に係るシフト処理により除算する一方、行列Pの各成分を行列Aの2に係るシフト処理により乗算し、行列Qの各成分について前記シフト処理による除算値と乗算値とを加算することを特徴とするカラー画像処理方法。
JP2002266263A 2002-09-12 2002-09-12 カラー画像処理装置及びカラー画像処理方法 Expired - Fee Related JP4023267B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002266263A JP4023267B2 (ja) 2002-09-12 2002-09-12 カラー画像処理装置及びカラー画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002266263A JP4023267B2 (ja) 2002-09-12 2002-09-12 カラー画像処理装置及びカラー画像処理方法

Publications (2)

Publication Number Publication Date
JP2004102861A JP2004102861A (ja) 2004-04-02
JP4023267B2 true JP4023267B2 (ja) 2007-12-19

Family

ID=32265121

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002266263A Expired - Fee Related JP4023267B2 (ja) 2002-09-12 2002-09-12 カラー画像処理装置及びカラー画像処理方法

Country Status (1)

Country Link
JP (1) JP4023267B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5757108B2 (ja) * 2011-03-09 2015-07-29 富士ゼロックス株式会社 画像処理装置およびプログラム

Also Published As

Publication number Publication date
JP2004102861A (ja) 2004-04-02

Similar Documents

Publication Publication Date Title
KR100834605B1 (ko) 색조 보정 회로, 색상 보정 회로 및 색 보정 회로
JP3432414B2 (ja) 色変換装置および色変換方法
JP3432468B2 (ja) 色変換装置および色変換方法
EP0924925A1 (en) Method and apparatus for reversible color conversion
US7813003B2 (en) Method and apparatus of color conversion
US20050249406A1 (en) Method and apparatus for RGB color conversion that can be used in conjunction with lossless and lossy image compression
JP4023267B2 (ja) カラー画像処理装置及びカラー画像処理方法
JP2001111855A (ja) 色変換装置及び色変換方法
JP2007226444A (ja) 画像合成装置及びその画像合成方法
JP2964923B2 (ja) 画像処理装置および画像処理方法
JP5206573B2 (ja) 画像処理装置、集積回路装置及び電子機器
US5861926A (en) Device and method for calculating a brightness signal
Dumonteix et al. A family of redundant multipliers dedicated to fast computation for signal processing
JPH05508519A (ja) 数個の線形センサからの信号についてパイプライン式行列乗算を行うための信号処理回路
JPS6258378A (ja) 高速色デ−タ変換方式
JP2658089B2 (ja) カラー画像処理方法
JPH0619686A (ja) 乗算回路及び乗算回路を有する画像処理装置
KR100416229B1 (ko) 컬러 영상 처리 시스템에서의 알.지.비 변환 회로
JP3434814B2 (ja) 色変換装置および色変換方法
KR910008454B1 (ko) 변환 회로
KR960012599B1 (ko) 디지탈 색 공간 변환 회로
JP2005020137A (ja) 映像信号処理装置
JP3952804B2 (ja) データ処理方法およびデータ処理装置
JP3494599B2 (ja) カラーマトリクス変換装置
JP2658087B2 (ja) カラー画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040419

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070410

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070510

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070619

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070723

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070911

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070924

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101012

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111012

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111012

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121012

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131012

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131012

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141012

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees