JP3585710B2 - カラー撮像装置及び記録媒体 - Google Patents
カラー撮像装置及び記録媒体 Download PDFInfo
- Publication number
- JP3585710B2 JP3585710B2 JP29986997A JP29986997A JP3585710B2 JP 3585710 B2 JP3585710 B2 JP 3585710B2 JP 29986997 A JP29986997 A JP 29986997A JP 29986997 A JP29986997 A JP 29986997A JP 3585710 B2 JP3585710 B2 JP 3585710B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- color
- luminance signal
- signal
- original image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、単一の撮像素子を用いて、カラー画像を得ることができるカラー撮像装置及び記録媒体に関する。
【0002】
【従来の技術】
従来から、単一の撮像素子を用いてカラー画像を撮像する単板式のカラー撮像装置が動画像および静止画像の撮像に用いられている。
【0003】
図2は、従来より知られている撮像素子の色フィルタの配列構成を示す図である。ここで、Rは赤色光透過フィルタ、Gは緑色光透過フィルタ、Bは青色光透過フィルタである。また、Rフィルタと同じ行上のGフィルタをG1、Bフィルタと同じ行上のGフィルタをG2として、Gフィルタを区別して示している。この色フィルタ配列は、一般にベイヤー配列と呼ばれている。
【0004】
これらの色フィルタとともに、撮像素子が、水平および垂直方向H,Vに沿って、配列周期PH,PVで行列状に配列される。水平および垂直方向H,Vは、相互に直交する。この撮像装置において、水平および垂直方向H,Vのサンプリング周波数fH,fVは、水平および垂直方向H,Vの配列周期の逆数であり、以下の式で示される。
fH=1/PH
fV=1/PV (1)
以上示した色フィルタ配列を有する撮像素子を用いると、モアレが少なく解像度の高い画像が得られることが従来より知られている。
【0005】
図10は、図2に示した色フィルタの撮像素子を用いたカラー撮像装置で得られる輝度信号の基底帯域、及び色差信号のモアレ(以下、色モアレと云う)のキャリア周波数を示す空間周波数平面図である。図10では、輝度信号の基底帯域をハッチングを付して示す。図10の輝度信号の基底帯域は、以下の4カ所を頂点とする矩形領域である。
(−fH/2, 0)
( fH/2, 0)
(−fH/2,fV/2)
( fH/2,fV/2) (2)
そして、この輝度信号の基底帯域内において、色モアレのキャリア周波数の存在する位置は、5カ所である。図10では、これらの位置を白丸で表している。ここから、空間周波数平面上の(fH/2,0)および(0,fV/2)に色差信号のモアレが発生していることがわかる。すなわち、ベイヤー配列を有する撮像素子の場合であっても、サンプリング周波数の1/2の周波数に色モアレのキャリア周波数が発生するため、サンプリング周波数の1/2の周波数までを解像することができない。
【0006】
この課題を解決するカラー撮像装置として、図11に示す特開平4−278791号公報(以下、従来例1と記す)に記載されたカラー撮像装置が知られている。このカラー撮像装置では、色差信号R−Y,B−Yは、次式で計算される。
【0007】
【数1】
【0008】
ここで、周波数空間上(fH/2,0)にある白黒の被写体が撮像される場合について考える。この被写体は、周期2PHの縦縞であり、白黒であるため、R=G2,B=G1となる。したがって、R−G2、B−G1はいずれも零となる。ゆえに、色差信号R−Y,B−Yも零となり出力されない。このことは、空間周波数(fH/2,0)での色差信号のモアレ(図10中の50)が消滅することを意味している。
【0009】
また、この従来例1の第2実施例では、色差信号R−Y,B−Yは、次式で計算される。
【0010】
【数2】
【0011】
ここで、周波数空間上(0,fV/2)にある白黒の被写体が撮像される場合について考える。この被写体は、周期2PVの横縞であり、白黒であるためR=G1、B=G2となる。したがって、R−G1、B−G2はいずれも零となる。ゆえに、色差信号R−Y,B−Yも零となり出力されない。このことは、空間周波数(0,fV/2)での色差信号のモアレ(図10中の51)が消滅することを意味している。
【0012】
このように、式(3)または(4)に基づき色差信号を生成することによって、空間周波数(fH/2,0)または空間周波数(0,fV/2)の色モアレを消滅させることができ、水平または垂直解像度を向上させることができる。
【0013】
次に、図11のカラー撮像装置における輝度信号の生成について説明する。
【0014】
ここでは、G信号は、スイッチ128により図に示したようなG1信号とG2信号に分離される。このように分離されたG1信号、G2信号は、R信号、B信号とともに補間フィルタ106、107、108、109に入力され、各々同時化される。同時化されたR,G1,G2,B信号は輝度信号生成回路127に入力され、ここで次式により低域輝度信号YLが計算される。
【0015】
YL=0.30R+0.59(αG1+βG2)+0.11B (5)
ただし、α+β=1である。つまり、低域輝度信号は、次式で示す理想的な混合比率によって生成される。
【0016】
R:G:B=0.30:0.59:0.11 (6)
しかしながら、この低域輝度信号の生成においては、補間回路106、107、108、109で生成した補間信号を用いるので解像度は低いものとなっている。
【0017】
そこで、この低域輝度信号YLは、後述する手法で得られる高域輝度信号信号YHと加算器117で加算される。
【0018】
高域輝度信号信号YHは、スイッチ回路(SWY)126によりスイッチングされることにより、センサ101からの読み出し順に再び並べ直され、バンドパスフィルタ116で高域輝度信号YHとして取り出される。すなわち、図2に示した色フィルタのように配列された画素データを2次元バンドパスフィルタを施している。この原理について詳しく説明する。
【0019】
無着色(白黒)被写体を撮像する場合では、図2に示した色フィルタのように配列された画素データは、異なる色フィルタの画素データもほぼ等しくなる。つまり、R=G1=G2=Bとなる。従って、図2に示した色フィルタのように配列された画素データをそのまま輝度信号として用いても良い。更に、この画素データは、補間処理されていないため、高解像度となっている。なお、この輝度信号は、式(6)に示した理想的な混合比率ではない。
【0020】
しかしながら、着色(カラー)被写体を撮像する場合、異なる色フィルタの画素データ間にレベル差が生じる。例えば緑色の被写体を撮像する場合では、RおよびBのレベルは、G1およびG2に比べて低くなるので、市松模様の輝度信号となってしまう。つまり、輝度信号に偽信号(輝度モアレ)が発生する。
【0021】
ベイヤー配列の色フィルタは、水平方向に2画素周期、垂直方向に2画素周期に配列されているので、この輝度モアレの空間周波数は、輝度信号の基底帯域の境界線に位置することになる。従って、この輝度モアレを除去するために、スイッチ回路(SWY)126から出力された信号に輝度信号の基底帯域の境界線の周波数成分を除去するローパスフィルタ(LPF)を施す。また、輝度信号において上述の理想的な混合比率によって生成された低域輝度信号YLを使うため、スイッチ回路(SWY)126から出力された信号から、低域輝度信号YLに相当する周波数帯域を除去するハイパスフィルタ(HPF)を施す。結局、スイッチ回路(SWY)126から出力された信号は、低域成分と、基底帯域付近の高域成分が除かれることになるので、図12に示すようなバンドパスフィルタ116が施されることになる。
【0022】
図12において、バンドパスフィルタ116は、横縞領域HRを通過帯域とし縦縞領域TRを制限帯域とする。さらに、破線部分HBのゲインを零としている。2次元フィルタであるバンドパスフィルタ116の水平方向の特性は、図13の模式図に示す白塗り領域のようになる。また、垂直方向のフィルタ特性は、図14の模式図に示す白塗り領域のようになる。なお、図13,14はそれぞれ、図12における水平軸上の周波数特性,垂直軸上の周波数特性を表している。
【0023】
このように、従来例1では、高域輝度信号YHが別途生成され、これが低域輝度信号YLと加算器117で加算されることで輝度信号Yが生成される。これにより、高解像度画像が実現される。
【0024】
【発明が解決しようとする課題】
しかしながら、この色モアレ抑圧処理を施したベイヤー配列を有する撮像素子を用いたカラー撮像装置でも、輝度信号の解像度は、理論的な限界から考えられる値よりも低いという問題点があった。このことについて、以下に説明する。
【0025】
上述したように、従来例1では、高域輝度信号YHが、色フィルタのように配列された画素データを2次元バンドパスフィルタを施すことで生成されている。すなわち、低周波数成分と、折り返し周波数付近の高周波数成分を除去することで生成されている。
【0026】
このうち、低周波数成分は、低域輝度信号YLにより補完される。すなわち、図13,14における縦縞領域は、低域輝度信号YLにより補完される。
【0027】
一方、折り返し周波数付近の高周波数成分は、補完されることはなく、カラー撮像装置が出力する画像信号の輝度信号には、この折り返し周波数付近の高周波数成分は失われたままである。
【0028】
つまり、図13においては水平方向の空間周波数fH/2の成分は零である。この周波数成分は、画像としては、水平方向に2PH周期の縦縞、要するに水平方向に白列と黒列が交互に並んだ縦縞を表しているが、上記従来のカラー撮像装置ではその周波数成分が零であるため、上記画像を再現できない。
【0029】
また、図14においては垂直方向の空間周波数fV/2の成分は零である。この周波数成分は、画像としては、水平方向に2PV周期の横縞、要するに水平方向に白行と黒行が交互に並んだ横縞を表しているが、上記従来のカラー撮像装置ではその周波数成分が零であるため、上記画像を再現できない。
【0030】
以上のように折り返し周波数付近の高周波成分が失われると、再現不能な画像が生じることになり、実際の自然画像を撮像した場合、エッジがぼやけ、画質が損なわれてしまう。
【0031】
本発明は、上記課題を解決するためになされたものであって、輝度信号における折り返し周波数成分を補償することにより、高解像度化を実現するカラー撮像装置及び記録媒体を提供することを目的とする。
【0032】
【課題を解決するための手段】
請求項1に記載のカラー撮像装置は、3種類の色彩光にそれぞれ対応し、入射される被写体からの画像光のうちの対応する色彩光だけを個別的に通過させる複数の透光領域が2次元平面上に予め定める配列で配列される色フィルタであって、第1及び第2透光領域が第1方向に沿って第1周期で直線上に配列された第1群と、第1及び第3透光領域が第1方向に沿って第1周期で直線上に配列された第2群とが、第1方向と直交する第2方向に沿って第2周期で交互に配列されるとともに、第1群の第1透光領域に第2群の第3透光領域が第2方向に隣接している色フィルタと、該色フィルタにおける2次元平面上に配列された透光領域の個々に対応して配置され、前記各透光領域を通過した各色彩光をそれぞれ受光する複数の受光領域を備え、各受光領域での色彩光の受光量に対応する受光データから構成される原画像信号を出力する撮像素子と、前記原画像信号から高域輝度信号を生成する高域輝度信号生成手段と、前記原画像信号から低域輝度信号を生成する低域輝度信号生成手段と、を備えたカラー撮像装置において、第1透光領域に対応して配置された受光領域からの原画像信号に基づき、少なくとも第1方向における第1周期の2倍周期に相当する空間周波数成分の折り返し周波数輝度信号を生成する折り返し周波数輝度信号生成手段、を備えたものである。
【0033】
請求項2に記載のカラー撮像装置は、請求項1に記載のカラー撮像装置において、前記折り返し周波数輝度信号生成手段は、第1透光領域に対応して配置された受光領域からの原画像信号より、第1周期の2倍周期に相当する空間周波数成分を抽出するフィルタを備えたものである。
【0034】
請求項3に記載のカラー撮像装置は、請求項1または請求項2に記載のカラー撮像装置において、前記撮像素子からの前記原画像信号中に第1周期の2倍周期に相当する空間周波数成分が存在するか否かを判定する判定手段と、該判定手段の判定結果に基づき、前記折り返し周波数輝度信号を調整するゲイン調整手段を備えたものである。
【0035】
請求項4に記載のカラー撮像装置は、請求項3に記載のカラー撮像装置において、前記ゲイン調整手段が、前記原画像信号の着色の程度が大きいほど前記折り返し周波数輝度信号が小さくなるよう調整するものである。
【0036】
請求項5に記載のカラー撮像装置は、請求項4に記載のカラー撮像装置において、前記判定手段が、前記第2周期の2倍周期に相当する空間周波数成分を抽出するフィルタと、該フィルタの出力の振幅の絶対値を検出する第1絶対値回路と、を備えており、前記ゲイン調整手段は、前記絶対値が大きいほど前記折り返し周波数輝度信号を小さくするものである。
【0037】
請求項6に記載のカラー撮像装置は、請求項4に記載のカラー撮像装置において、前記判定手段が、第2方向に互いに隣接する受光領域からの原画像信号の差を検出する第2絶対値回路を備えており、前記ゲイン調整手段は、前記差が大きいほど前記折り返し周波数輝度信号を小さくするものである。
【0038】
請求項7に記載の記録媒体は、3種類の色彩光にそれぞれ対応し、入射される被写体からの画像光のうちの対応する色彩光だけを個別的に通過させる複数の透光領域が2次元平面上に予め定める配列で配列される色フィルタであって、第1及び第2透光領域が第1方向に沿って第1周期で直線上に配列された第1群と、第1及び第3透光領域が第1方向に沿って第1周期で直線上に配列された第2群とが、第1方向と直交する第2方向に沿って第2周期で交互に配列されるとともに、第1群の第1透光領域に第2群の第3透光領域が第2方向に隣接している色フィルタと、該色フィルタにおける2次元平面上に配列された透光領域の個々に対応して配置され、前記各透光領域を通過した各色彩光をそれぞれ受光する複数の受光領域を備え、各受光領域での色彩光の受光量に対応する受光データから構成される原画像信号を出力する撮像素子と、を備えたカラー撮像装置からの前記原画像信号に基づいて、コンピュータに輝度信号を生成させるプログラムを記録した記録媒体であって、前記原画像信号から高域輝度信号を生成するステップと、前記原画像信号から低域輝度信号を生成するステップと、第1透光領域に対応して配置された受光領域からの原画像信号に基づき、少なくとも第1方向における第1周期の2倍周期に相当する空間周波数成分の折り返し周波数輝度信号を生成するステップと、を含む輝度信号の生成方法をコンピュータに実行させるためのプログラムであるものである。
【0039】
【発明の実施の形態】
(実施の形態1)
図1は、本発明の実施の形態1のカラー撮像装置の構成を示す概略ブロック図である。このカラー撮像装置は、いわゆる単板式のカラー撮像装置である。
【0040】
被写体からの画像光Lは、光学系1の集光レンズで集光された後、後述する色フィルタを通過して、撮像素子2の結像面上に結像される。撮像素子2の結像面には、複数の受光領域が後述する予め定める配列で並べられる。
【0041】
色フィルタは、各受光領域に個別的に対応して予め定める色彩光だけを通過させる透光領域を、受光領域と同数だけ並べられる。色フィルタは、撮像素子2の光入射側に設置され、各受光領域に入射するべき画像光のうち、予め定める色彩光だけを通過させる。予め定める色彩光は単一の色フィルタで複数準備され、各透光領域はそれぞれ異なる色彩光に対応する。各透光領域は、個別的に画像光を色分解して、その透光領域に対応した色彩光だけを通過させる。各透光領域を通過した各色彩光は、各透光領域と対応する受光領域にそれぞれ受光される。この色フィルタは、例えば撮像素子2と一体的に形成される。
【0042】
図2は、色フィルタの具体的な配列を示す平面図である。色フィルタは、水平方向および垂直方向H,Vに沿って、配列周期PH,PVで行列状に配列される。水平および垂直方向H,Vは、相互に直交する。
【0043】
この撮像素子2において、画像光に対する水平および垂直方向H,Vのサンプリング周波数fH,fVは、水平および垂直方向H,Vの配列周期の逆数であり、以下の式で示される。
【0044】
fH=1/PH
fV=1/PV
以後、水平方向Hに沿って直線上に並べられる1群の構成要素を「行」と称する。同様に垂直方向Vに沿って直線上に並べられる1群の構成要素を「列」と称する。
【0045】
なお、図2において、Rは赤色光透過フィルタ、Gは緑色光透過フィルタ、Bは青色光透過フィルタである。また、Rフィルタと同じ行上のGフィルタをG1、Bフィルタと同じ行上のGフィルタをG2として、Gフィルタを区別して示している。この図に示すとおり、色フィルタは、RとG1が水平方向に沿ってPHの周期で直線上に配列された第1群と、BとG2とが水平方向に沿ってPHの周期で配列された第2群とが、垂直方向に沿ってPVの周期で交互に配列されており、また、垂直方向にはG1とBが隣接している。別の言い方をすれば、G1とBが垂直方向に沿ってPVの周期で直線上に配列された第1群と、G2とRが垂直方向に沿ってPVの周期で直線上に配列された第2群とが水平方向に沿ってPHの周期で交互に配列されており、また、水平方向にはG1とRが隣接している。
【0046】
この色フィルタ配列は、一般にベイヤー配列と呼ばれている。
【0047】
撮像素子2は、予め定める露光時間だけ、各受光領域に画像光の色彩光を受光させることによって、画像光を撮像する。露光時間が経過すると、撮像素子2は、各受光領域からの受光データを、原画像信号として、順次、A/D変換器3に導出する。原画像信号は、各受光領域での色彩光の受光量に対応する受光データから構成される。撮像素子2から出力された段階では、各受光データは受光量に対応するレベルのアナログ電気信号である。
【0048】
A/D変換器3は上記原画像信号をデジタル信号に変換した後、前処理回路4に出力する。
【0049】
前処理回路4では、デジタル信号となった原画像信号に予め定める処理を施す。予め定める処理とは、例えばホワイトバランス補正およびガンマ補正である。前処理回路4により前処理された原画像信号は、バンドパスフィルタ(図面ではBPFと略称する)5、スイッチ7、および水平ハイパスフィルタ(図面では水平HPFと略称する)19に入力される。
【0050】
BPF5は、前処理回路4により前処理された原画像信号をフィルタリングすることにより高輝度信号YHを取り出す。この高域輝度信号YHは、後述する手法で得られる低域輝度信号YLおよび調整済み折り返し輝度信号YEと加算器22で加算されることにより、輝度信号Yを生成する。
【0051】
スイッチ7は、3種類の色フィルタR、G、Bごとに画像信号を分離する。G信号は、スイッチ8に入力されて、さらに図2に示すような位置にあるG1信号、G2信号に分離される。これはスイッチ8を例えば1水平走査期間ごとに切り換えることで可能である。このように分離されたR信号、G1信号、G2信号、B信号は、それぞれ補間フィルタ9、10、11、12に入力され、同時化される。
【0052】
同時化されたR信号、G1信号は加算器13でR−G1信号となる。また、同時化されたB信号、G2信号は加算器14でB−G2信号となる。R−G1信号とB−G2信号は、色差マトリックス回路に入力され、
【0053】
【数3】
【0054】
という変換が行われ、色差信号R−Y,B−Yが生成される。
【0055】
このようにして生成された色差信号では、キャリア周波数(0,fV/2)の色モアレが消滅している。周波数空間上(0,fV/2)にある白黒の被写体(すなわち、周期2PVの横縞)が撮像される場合について考えると、このような被写体に対してはR=G1、B=G2となるため、R−G1、B−G2はいずれも零となる。ゆえに、色差信号R−Y,B−Yも零となり出力されない。要するに、空間周波数(0,fV/2)での色差信号のモアレが消滅している。
【0056】
低域輝度信号生成回路6は、同時化されたR信号、G1信号、G2信号、B信号を受信して、次式の計算を行い低域輝度信号YLを生成する。
YL=0.30R+0.59(αG1+βG2)+0.11B (8)
ただし、α+β=1。
【0057】
つまり、低域輝度信号は、次式で示す理想的な混合比率によって生成されることとなる。
R:G:B=0.30:0.59:0.11 (9)
生成された低域輝度信号YLは、加算器22に入力される。
【0058】
水平ローパスフィルタ(水平LPF)16、垂直ハイパスフィルタ(垂直HPF)17は、スイッチ7から出力されたG信号にフィルタリングを施して、折り返し輝度信号YNを生成する。この折り返し輝度信号YNは乗算器18に入力される。
【0059】
水平HPF19、絶対値回路20、ゲイン・オフセット調整回路21は、前処理された原画像信号からゲイン信号Mを生成し、乗算器18に出力する。ここでの処理については後に詳細に説明する。
【0060】
乗算器18は、折り返し輝度信号YNとゲイン信号Mを乗算して調整済み折り返し輝度信号YEを生成する。つまり、折り返し輝度信号YNは、ゲイン信号Mによりゲインを調整される。
【0061】
加算器22は、調整済み折り返し輝度信号YE、高域輝度信号YH、低域輝度信号YLを加算することで、折り返し周波数成分の補償された輝度信号Yを生成する。
【0062】
生成された輝度信号Y、色差信号R−Y、B−Yは、図示しない記録媒体にストアされる。または、伝送路を通じて、外部に伝送される。または、図示しないD/A変換器によりアナログ信号に変換されて、図示しないディスプレイに表示され、目視される。
【0063】
以上が、本実施の形態1のカラー撮像装置の構成である。次に、本発明の特徴部分である調整済み折り返し輝度信号YE生成する過程について、詳細に説明する。なお、本実施の形態のカラー撮像装置では、調整済み折り返し輝度信号YEにより空間周波数(0,fV/2)の成分を補償する。
【0064】
図2に示したように、緑の色フィルタG(G1およびG2)は、市松模様上に配列されている。従って、この緑の色フィルタの空間周波数上の基底帯域は、図3に示すハッチング領域となる。つまり、以下の3カ所を頂点とする三角領域である。
(−fH/2, 0)
( fH/2, 0)
( 0 ,fV/2)
従って、緑の色フィルタGからの信号は、水平方向の折り返し輝度信号の周波数成分(fH/2,0)(以下YNHと云う)および垂直方向の折り返し輝度信号の周波数成分(0,fV/2)(以下YNVと云う)を保有する。本実施の形態では、このことを利用してBPF5により失われた折り返し輝度信号を補償する。
【0065】
しかしながら、緑色の色フィルタGの信号だけでは、YNHまたはYNVの成分が含まれていることはわかっても、どちらが含まれているのかどうかを判別できない。このことについて図4、5を使って説明する。
【0066】
図4は、水平方向に2PH周期の縦縞、つまり水平方向に白列と黒列が交互に並んだ縦縞を撮像した例を示している。この縦縞の空間周波数は、(fH/2,0)である。白列に相当する色フィルタが受光したデータを100とし、黒列に相当する色フィルタが受光したデータを10とすると、G1=10、G2=100となる。
【0067】
図5は、垂直方向に2PV周期の横縞、つまり垂直方向に白列と黒列が交互に並んだ横縞を撮像した例を示している。この横縞の空間周波数は、(0,fV/2)である。図4と同様に白列に相当する色フィルタが受光したデータを100とし、黒列に相当する色フィルタが受光したデータを10とすると、G1=10、G2=100となる。
【0068】
このように、図4に示した縦縞を撮像した場合も、図5に示した横縞を撮像した場合もG1=10、G2=100となり、区別が付かない。
【0069】
そこで、上記のごとく空間周波数成分(0,fV/2)を補償する本実施の形態では、▲1▼横縞が存在すると仮定して、緑の色フィルタGからの信号から空間周波数成分(0,fV/2)だけを取り出し、▲2▼横縞の存在を判断し、その判断結果に基づきゲインMを生成する。そして、それらを乗算することで折り返し輝度信号YEを生成する。このようにすれば、横縞の存在に応じて横縞の輝度信号成分を補償することができ、画質の向上を実現できる。以下に、さらに詳細に説明する。
【0070】
空間周波数(0,fV/2)だけの取り出しは、G信号に、水平方向の空間周波数を零付近だけに限定する水平LPF16を施すとともに、さらに垂直方向の空間周波数をfV/2付近だけに限定する垂直HPF17を施すことで行える。こうして得られた折り返し輝度信号YNは、図5のような空間周波数(0,fV/2)の成分だけを含む信号となる。
【0071】
また、横縞が存在するか否かは、前処理を施した原画像信号(以下、前処理画像信号と記す)に基づき判断することができる。例えば、図5に示したような白行と黒行が交互に並んだ横縞を撮像した場合、R=G1、B=G2となるため、原画像信号に水平HPFを施し、その結果が零になるか否かにより、横縞があるか否かを判断することができる。
【0072】
しかしながら、原画像が着色されたものとなると、無着色の白行と黒行が交互に並んでいる場合におけるR=G1、B=G2という条件が満たされなくなくなり、前処理画像信号は(fH/2,0)の成分を含むようになる。すなわち、水平HPFにより零とならなくなる。例えば、垂直方向に暗い紫行(G1=5、R=10)と明るい紫行(G2=50、B=100)が交互に並んだ横縞を撮像した場合では、G1とRの色フィルタのある行では、前処理された原画像信号は、10,5,10,5,……となるし、BとG2の色フィルタのある行では、前処理された原画像信号は、50,100,50,100,……となる。どちらの行でも、水平方向に2PH周期の信号成分であり、この空間周波数は水平方向にfH/2となる。
【0073】
以上のように、原画像が着色された画像となりR=G1、B=G2が満たされなくなると、実際の画像が横縞であることを判断できなくなる。
【0074】
そこで、本実施の形態では、前処理画像信号に水平HPFを施したときに、白黒画像であればその値が零に近くなり、着色された画像となるとその値の振幅が大きくなることに着目して、図1に示すようにしてゲインMを調整する。すなわち、前処理画像信号を、水平HPF19により空間周波数成分(fH/2,0)だけを取り出し、その成分の振幅の絶対値Pを絶対値回路20により検知し、ゲイン・オフセット調整回路21により絶対値Pが小さければゲインMを大きくし、絶対値Pが大きければゲインMを小さくする。ゲイン・オフセット調整回路21は、例えば、以下の式により、ゲインとオフセットを調整する。
M=o−g・P (10)
ここで、gはゲイン(正の値)、oはオフセットである。ただし、式(10)によりMが負の値になった場合、ゲイン・オフセット調整回路21は、Mを零に制限する。
【0075】
そして、このようにして生成したゲイン信号Mを、乗算器18において、折り返し輝度信号YNと乗算することで調整済み折り返し輝度信号YEが生成される。この調整済み折り返し輝度信号YEは、原画像が無着色に近いほど空間周波数(0,fV/2)における輝度信号を正確に補償することができる。一方、原画像が大きく着色されたものだと輝度信号の補償がされなくなる。着色されている場合には、無着色の場合に比べて画像のエッジのぼやけは余り気にならないため大きな問題ではない。
【0076】
以上説明した本実施の形態のカラー撮像装置では、無着色に近い場合に空間周波数(0,fV/2)での色差信号のモアレが消滅しており、かつ空間周波数(0,fV/2)での輝度信号も無着色に近い場合に向上している。従って、特に、無着色に近い場合に垂直解像度の向上が目覚ましい。
【0077】
なお、ここではゲイン・オフセット調整回路21を用いることで原画像が無着色に近いか否かに応じてゲインを調整したが、これに限らず、例えば、絶対値回路20の出力と所定のしきい値を比較し、しきい値以下の場合にのみ調整済み折り返し輝度信号YEを生成するようにしても良い。
【0078】
(実施の形態2)
図6は、本発明の実施の形態2のカラー撮像装置の構成を示す概略ブロック図である。
【0079】
ここでは、実施の形態1の構成における水平HPF19の代わりにスイッチ26を備える構成であり、加算器13の出力であるR−G1信号と、加算器14の出力であるB−G2信号を、スイッチ26に入力させる。
【0080】
スイッチ26は、図2に示す色フィルタ配列のように、RとG1の色フィルタのある行の場合はR−G1を選択し、BとG2の色フィルタのある行の場合はB−G2を選択して、出力する。これはスイッチ26を例えば1水平走査期間ごとに切り換えることで可能である。
【0081】
本実施の形態では、絶対値回路20がRとG1の差またはBとG2の差の絶対値を取り出し、ゲイン・オフセット調整回路21が上記差が大きい場合にはゲインを小さくし、差が小さい場合にはゲインを大きくする。これにより、原画像が着色されるほど小さくなるゲインを生成することができ、このゲインと実施の形態1で説明した折り返し輝度信号YNを乗算器18で掛け合わせて調整済み折り返し輝度信号YEを生成できる。
【0082】
このように、本実施形態では水平HPFを用いないため、回路規模を縮小できる。
【0083】
(実施の形態3)
図7は、本発明の実施の形態3のカラー撮像装置の構成を示す概略ブロック図である。図7において、実施の形態1と同じブロックは、同符号を付して説明を省略する。なお、本実施の形態においても実施の形態と同様に、図2に示した色フィルタを用いる。
【0084】
本実施の形態は、実施の形態1,2と異なり、水平解像度を向上させるために、調整済み折り返し輝度信号YEにより空間周波数(fH/2,0)の成分を補償する。具体的には、実施の形態1とは、加算器13および加算器14への入力信号、垂直LPF23、水平HPF24、垂直HPF25が相違している。
【0085】
ここでは、同時化されたR信号、G2信号は加算器13でR−G2信号となる。また、同時化されたB信号、G1信号は加算器14でB−G1信号となる。R−G2信号とB−G1信号は、色差マトリックス回路に入力され、
【0086】
【数4】
【0087】
という変換が行われ、色差信号R−Y,B−Yが生成される。
【0088】
ここで、周波数空間上(fH/2,0)にある白黒の被写体が撮像されるとする。この被写体は、周期2PHの縦縞であり、このような被写体に対してはR=G2、B=G1となるため、R−G2、B−G1はいずれも零となる。ゆえに、色差信号R−Y,B−Yも零となり出力されない。つまり、空間周波数(fH/2,0)での色差信号のモアレが消滅している。
【0089】
スイッチ7から出力されたG信号は、順に垂直ローパスフィルタ(垂直LPF)23、水平ハイパスフィルタ(水平HPF)24を施され、折り返し輝度信号YNとなり、乗算器18に入力される。また、前処理された原画像信号は、順に垂直HPF25、絶対値回路20、ゲイン・オフセット調整回路21を施されて、ゲイン信号Mとなり、乗算器18に入力される。乗算器18は、折り返し輝度信号YNとゲイン信号Mを乗算する。つまり、折り返し輝度信号YNは、ゲイン信号Mによりゲインを調整されて、調整済み折り返し輝度信号YEを生成する。
【0090】
前述のように、緑の色フィルタGの信号だけでは、YNHまたはYNVの成分が含まれていることは判断できても、どちらが含まれているのかどうかを判別できない。
【0091】
そこで、上記のごとく空間周波数成分(fH/2,0)を補償する本実施の形態では、▲1▼縦縞が存在すると仮定して、緑の色フィルタGからの信号から空間周波数成分(fH/2)だけを取り出し、▲2▼縦縞の存在を判断し、その判断結果に基づきゲインMを生成する。そして、それらを乗算することで折り返し輝度信号YEを生成する。このようにすれば、縦縞の存在に応じて縦縞の輝度信号成分を補償することができ、画質の向上を実現できる。以下に、さらに詳細に説明する。
【0092】
空間周波数(fH/2,0)だけの取り出しは、G信号に、垂直方向の空間周波数を零付近だけに限定する垂直LPF23を施すとともに、さらに水平方向の空間周波数をfH/2付近だけに限定する水平HPF24を施すことで行える。こうして得られた折り返し輝度信号YNは、図4のような空間周波数(fH/2,0)の成分だけを含む信号となる。
【0093】
また、縦縞が存在するか否かは、前処理画像信号に基づき判断することができる。例えば、図4に示したような白列と黒列が交互に並んだ縦縞を撮像した場合、R=G2、B=G1となるため、原画像信号に垂直HPFを施し、その結果がか零となるか否かにより判断することができる。
【0094】
しかしながら、原画像が着色されたものであるほど、白黒画像におけるR=G2、B=G1の条件が満たされなくなくなり、前処理画像信号は(0,fV/2)の成分を含むようになる。例えば、水平方向に暗い紫列(G1=5、B=10)と明るい紫列(G2=50、R=100)が交互に並んだ縦縞を撮像した場合では、G1とBの色フィルタのある列では、前処理された原画像信号は、10,5,10,5,……となるし、RとG2の色フィルタのある列では、前処理された原画像信号は、50,100,50,100,……となる。どちらの列でも、垂直方向に2PV周期の信号成分であり、この空間周波数は垂直方向にfV/2となる。
【0095】
以上のように、原画像が着色された画像となりR=G2、B=G1が満たされなくなると、実際の画像が縦縞であることを判断できなくなる。
【0096】
そこで、本実施の形態では、前処理画像信号に垂直HPFを施したときに、白黒画像であればその値が零に近くなり、着色された画像となるとその値の振幅が大きくなることに着目して、図7に示すようにしてゲインMを調整する。すなわち、前処理画像信号を、垂直HPF25により空間周波数成分(0,fV/2)だけを取り出し、その成分の振幅の絶対値Pを絶対値回路20により検知し、ゲイン・オフセット調整回路21により絶対値Pが小さければゲインMを大きくし、絶対値Pが大きければゲインMを小さくする。ゲイン・オフセット調整回路21は、例えば、以下の式により、ゲインとオフセットを調整する。
M=o−g・P (10)
ここで、gはゲイン(正の値)、oはオフセットである。ただし、式(10)によりMが負の値になった場合、ゲイン・オフセット調整回路21は、Mを零に制限する。
【0097】
そして、このようにして生成したゲイン信号Mを、乗算器18において、折り返し輝度信号YNと乗算することで調整済み折り返し輝度信号YEが生成される。この調整済み折り返し輝度信号YEは、原画像が無着色に近いほど空間周波数(fH/2,0)における輝度信号を正確に補償することができる。一方、原画像が大きく着色されたものだと輝度信号の補償がされなくなる。着色されている場合には、無着色の場合に比べて、画像のエッジのぼやけは余り気にならないため大きな問題ではない。
【0098】
以上説明した本実施の形態のカラー撮像装置では、無着色に近い場合に空間周波数(fH/2,0)での色差信号のモアレが消滅しており、かつ空間周波数(fH/2,0)での輝度信号も無着色に近い場合に向上している。従って、特に、無着色に近い場合に水平解像度の向上が目覚ましい。
【0099】
(実施の形態4)
図8は、本発明の実施の形態4のカラー撮像装置の構成を示す概略ブロック図である。
【0100】
ここでは、実施の形態3の構成における垂直HPF25の代わりにスイッチ27を備える構成である。具体的には、実施の形態3の構成における垂直HPF25の代わりにスイッチ27を備えており、加算器13の出力であるR−G2信号と、加算器14の出力であるB−G1信号を、スイッチ27に入力させる。
【0101】
スイッチ27は、図2に示す色フィルタ配列のように、RとG2の色フィルタのある列の場合はR−G2を選択し、BとG1の色フィルタのある列の場合はB−G1を選択して、出力する。これはスイッチ27を1画素ごとに切り換えることが可能である。
【0102】
本実施の形態では、絶対値回路20がRとG2の差またはBとG1の差の絶対値を取り出し、ゲイン・オフセット調整回路21が上記差が大きい場合にはゲインを小さくし、差が小さい場合にはゲインを大きくする。これにより、原画像が着色されるほど小さくなるゲインを生成することができ、このゲインと実施の形態3で説明した折り返し輝度信号YNを乗算器18で掛け合わせて調整済み折り返し輝度信号YEを生成できる。
【0103】
このような構成では、垂直HPF25を使用しないため回路規模を縮小できる。
【0104】
(実施の形態5)
以上説明した実施の形態1〜4のカラー撮像装置は、輝度信号に空間周波数(0,fV/2)の成分または空間周波数(fH/2,0)の成分を補償するものであった。本実施の形態のカラー撮像装置は、水平,垂直の両方の解像度を向上させるために、調整済み折り返し輝度信号YEにより空間周波数(0,fV/2)及び(fH/2,0)の成分の両方を補償する。
【0105】
図9は、本実施の形態のカラー撮像装置の主要部(輝度信号生成部)の構成を示すブロック図である。なお、ここでは、実施の形態1〜4と同一部分については同一符号を付している。
【0106】
この図に示すように、本カラー撮像装置は図1と図7の構成を組み合わせたものである。
【0107】
すなわち、水平LPF16と垂直HPF17を用いることでG信号から空間周波数(0,fV/2)成分の折り返し輝度信号YN1を取り出す。また、水平HPF19,絶対値回路20a,ゲイン・オフセット調整回路21aにより、原画像が白黒画像に近いか否かに応じたゲインM1を生成する。そして、乗算器18aにより上記折り返し輝度信号YN1とゲインM1とを掛け合わせ、空間周波数(0,fV/2)成分の調整済み折り返し輝度信号YE1を生成する。
【0108】
また、垂直LPF23と水平HPF24を用いることでG信号から空間周波数(fH/2,0)成分の折り返し輝度信号YN2を取り出す。また、垂直HPF25,絶対値回路20b,ゲイン・オフセット調整回路21bにより、原画像が白黒画像に近いか否かに応じたゲインM2を生成する。そして、乗算器18bにより上記折り返し輝度信号YN2とゲインM2とを掛け合わせ、空間周波数(fH/2,0)成分の調整済み折り返し輝度信号YE2を生成する。
【0109】
そして、加算器22が、高域輝度信号YH,低域輝度信号YL,調整済み折り返し輝度信号YE1と調整済み折り返し輝度信号YE2を加算して、水平垂直の両方向の折り返し輝度信号の補償された輝度信号Yを生成する。
【0110】
このように本実施の形態では、水平垂直の両方向の折り返し輝度信号が補償されるため、両方向における解像度を向上させることができる。
【0111】
なお、ここでは実施の形態1と3を組み合わせた例について説明したが、もちろん、実施の形態2と実施の形態4を組み合わせても同様の効果を得ることができる。
【0112】
また、本実施の形態では、色差信号の生成については説明しなかったが、色差信号は例えば特開平6−339145号公報に記載された手法により生成でき、これによれば3カ所の色モアレ((fH/2,0)、(−fH/2)、(0,fV/2))の発生の抑制することができる。
【0113】
以上の実施の形態1〜5では、輝度信号の生成を図1,6,7,8,9に示した回路により行ったが、上述の輝度信号の生成方法を実行するためのコンピュータプログラムにより行ってもよい。
【0114】
【発明の効果】
以上説明したように、本発明の請求項1,2,7によれば、輝度信号の折り返し周波数成分を補償することにより、画像の解像度を向上させることができる。
【0115】
また、請求項3に記載のカラー撮像装置では、該当する空間周波数の画像信号中での存在に基づいて折り返し周波数輝度信号を生成するため、確実な輝度信号の補正を行うことができる。
【0116】
更に、請求項4,5,6に記載のカラー撮像装置では、画像の着色度に応じた輝度信号を生成するため、より好ましい輝度信号を生成できる。
【図面の簡単な説明】
【図1】実施の形態1のカラー撮像装置の構成を示す概略ブロック図である。
【図2】本発明におけるカラー撮像装置の色フィルタ配列を示す図である。
【図3】図2における緑の色フィルタ配列の基底帯域を示す空間周波数平面図である。
【図4】縦縞撮像時の様子を説明する図である。
【図5】横縞撮像時の様子を説明する図である。
【図6】実施の形態2のカラー撮像装置の構成を示す概略ブロック図である。
【図7】実施の形態3のカラー撮像装置の構成を示す概略ブロック図である。
【図8】実施の形態4のカラー撮像装置の構成を示す概略ブロック図である。
【図9】実施の形態5のカラー撮像装置の構成を示す概略ブロック図である。
【図10】図2の色フィルタ配列の輝度の基底帯域、および色差信号のモアレのキャリア周波数を示す空間周波数平面図である。
【図11】従来のカラー撮像装置の構成を示す概略ブロック図である。
【図12】図11のカラー撮像装置のBPF116の空間周波数特性を示す図である。
【図13】図11のカラー撮像装置のBPF116の水平方向の空間周波数軸上の周波数特性を示す図である。
【図14】図13のカラー撮像装置のBPF116の垂直方向の空間周波数軸上の周波数特性を示す図である。
【符号の説明】
1 光学系
2 撮像素子
3 A/D変換器
4 前処理回路
5 バンドパスフィルタ
6 低域輝度信号生成回路
7,8 スイッチ
9,10,11,12 補間フィルタ
13,14,22 加算器
15 色差マトリックス回路
16 水平ローパスフィルタ
17 垂直ハイパスフィルタ
18 乗算器
19 水平ハイパスフィルタ
20 絶対値回路
21 ゲイン・オフセット調整回路
Claims (7)
- 3種類の色彩光にそれぞれ対応し、入射される被写体からの画像光のうちの対応する色彩光だけを個別的に通過させる複数の透光領域が2次元平面上に予め定める配列で配列される色フィルタであって、第1及び第2透光領域が第1方向に沿って第1周期で直線上に配列された第1群と、第1及び第3透光領域が第1方向に沿って第1周期で直線上に配列された第2群とが、第1方向と直交する第2方向に沿って第2周期で交互に配列されるとともに、第1群の第1透光領域に第2群の第3透光領域が第2方向に隣接している色フィルタと、
該色フィルタにおける2次元平面上に配列された透光領域の個々に対応して配置され、前記各透光領域を通過した各色彩光をそれぞれ受光する複数の受光領域を備え、各受光領域での色彩光の受光量に対応する受光データから構成される原画像信号を出力する撮像素子と、
前記原画像信号から高域輝度信号を生成する高域輝度信号生成手段と、
前記原画像信号から低域輝度信号を生成する低域輝度信号生成手段と、を備えたカラー撮像装置において、
第1透光領域に対応して配置された受光領域からの原画像信号に基づき、少なくとも第1方向における第1周期の2倍周期に相当する空間周波数成分の折り返し周波数輝度信号を生成する折り返し周波数輝度信号生成手段、を備えたことを特徴とするカラー撮像装置。 - 請求項1に記載のカラー撮像装置において、
前記折り返し周波数輝度信号生成手段は、第1透光領域に対応して配置された受光領域からの原画像信号より、第1周期の2倍周期に相当する空間周波数成分を抽出するフィルタを備えたことを特徴とするカラー撮像装置。 - 請求項1または請求項2に記載のカラー撮像装置において、
前記撮像素子からの前記原画像信号中に第1周期の2倍周期に相当する空間周波数成分が存在するか否かを判定する判定手段と、
該判定手段の判定結果に基づき、前記折り返し周波数輝度信号を調整するゲイン調整手段を備えたことを特徴とするカラー撮像装置。 - 請求項3に記載のカラー撮像装置において、
前記ゲイン調整手段は、前記原画像信号の着色の程度が大きいほど前記折り返し周波数輝度信号が小さくなるよう調整することを特徴とするカラー撮像装置。 - 請求項4に記載のカラー撮像装置において、
前記判定手段は、前記第2周期の2倍周期に相当する空間周波数成分を抽出するフィルタと、該フィルタの出力の振幅の絶対値を検出する第1絶対値回路と、を備えており、
前記ゲイン調整手段は、前記絶対値が大きいほど前記折り返し周波数輝度信号を小さくすることを特徴とするカラー撮像装置。 - 請求項4に記載のカラー撮像装置において、
前記判定手段は、第2方向に互いに隣接する受光領域からの原画像信号の差を検出する第2絶対値回路を備えており、
前記ゲイン調整手段は、前記差が大きいほど前記折り返し周波数輝度信号を小さくすることを特徴とするカラー撮像装置。 - 3種類の色彩光にそれぞれ対応し、入射される被写体からの画像光のうちの対応する色彩光だけを個別的に通過させる複数の透光領域が2次元平面上に予め定める配列で配列される色フィルタであって、第1及び第2透光領域が第1方向に沿って第1周期で直線上に配列された第1群と、第1及び第3透光領域が第1方向に沿って第1周期で直線上に配列された第2群とが、第1方向と直交する第2方向に沿って第2周期で交互に配列されるとともに、第1群の第1透光領域に第2群の第3透光領域が第2方向に隣接している色フィルタと、該色フィルタにおける2次元平面上に配列された透光領域の個々に対応して配置され、前記各透光領域を通過した各色彩光をそれぞれ受光する複数の受光領域を備え、各受光領域での色彩光の受光量に対応する受光データから構成される原画像信号を出力する撮像素子と、を備えたカラー撮像装置からの前記原画像信号に基づいて、コンピュータに輝度信号を生成させるプログラムを記録した記録媒体であって、
前記プログラムは、
前記原画像信号から高域輝度信号を生成するステップと、
前記原画像信号から低域輝度信号を生成するステップと、
第1透光領域に対応して配置された受光領域からの原画像信号に基づき、少なくとも第1方向における第1周期の2倍周期に相当する空間周波数成分の折り返し周波数輝度信号を生成するステップと、を含む輝度信号の生成方法をコンピュータに実行させるためのプログラムであることを特徴とする記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP29986997A JP3585710B2 (ja) | 1997-10-31 | 1997-10-31 | カラー撮像装置及び記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP29986997A JP3585710B2 (ja) | 1997-10-31 | 1997-10-31 | カラー撮像装置及び記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11136690A JPH11136690A (ja) | 1999-05-21 |
JP3585710B2 true JP3585710B2 (ja) | 2004-11-04 |
Family
ID=17877949
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP29986997A Expired - Fee Related JP3585710B2 (ja) | 1997-10-31 | 1997-10-31 | カラー撮像装置及び記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3585710B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001174696A (ja) * | 1999-12-15 | 2001-06-29 | Olympus Optical Co Ltd | カラー撮像装置 |
JP3727012B2 (ja) * | 2000-11-28 | 2005-12-14 | シャープ株式会社 | カラー固体撮像装置 |
-
1997
- 1997-10-31 JP JP29986997A patent/JP3585710B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH11136690A (ja) | 1999-05-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6456324B1 (en) | Image shifting image pickup apparatus using filter for removing spatial frequency component | |
US7065246B2 (en) | Image processing apparatus | |
JP2001268582A (ja) | 固体撮像装置および信号処理方法 | |
WO1999004555A2 (en) | Color sample interpolation | |
KR100381496B1 (ko) | 화상 신호 처리 장치 | |
EP2031881B1 (en) | Image pickup device and signal processing method | |
JP4566974B2 (ja) | 光量差補正方法 | |
JP3585710B2 (ja) | カラー撮像装置及び記録媒体 | |
EP2680590B1 (en) | Color image pick-up element | |
JP2677550B2 (ja) | 固体撮像装置 | |
JP3576600B2 (ja) | カラー撮像装置 | |
JP3115123B2 (ja) | 画像信号処理装置 | |
JP4253095B2 (ja) | 画像データ・フィルタリング装置および方法 | |
JP3515585B2 (ja) | 2板式撮像装置 | |
JPH089395A (ja) | カラー撮像装置 | |
JP2698404B2 (ja) | 輝度信号処理装置 | |
JPS6129287A (ja) | カラ−固体撮像装置 | |
JPS60263592A (ja) | 固体撮像装置 | |
JPH0523114B2 (ja) | ||
JP3406674B2 (ja) | 2板式撮像装置 | |
JP2655436B2 (ja) | カラー固体撮像装置 | |
JPH0156593B2 (ja) | ||
JPS58179083A (ja) | カラ−固体撮像装置 | |
JPS639791B2 (ja) | ||
JPH04329788A (ja) | カラー撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040803 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040804 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20070813 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080813 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080813 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090813 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090813 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100813 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110813 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |