JP3658012B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP3658012B2
JP3658012B2 JP13434194A JP13434194A JP3658012B2 JP 3658012 B2 JP3658012 B2 JP 3658012B2 JP 13434194 A JP13434194 A JP 13434194A JP 13434194 A JP13434194 A JP 13434194A JP 3658012 B2 JP3658012 B2 JP 3658012B2
Authority
JP
Japan
Prior art keywords
signal
output
signals
color
primary color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP13434194A
Other languages
English (en)
Other versions
JPH089410A (ja
Inventor
勉 普勝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP13434194A priority Critical patent/JP3658012B2/ja
Publication of JPH089410A publication Critical patent/JPH089410A/ja
Application granted granted Critical
Publication of JP3658012B2 publication Critical patent/JP3658012B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【産業上の利用分野】
本発明は、色信号を得るマトリクス演算手段を有したビデオカメラ等の撮像装置に関するものである。
【0002】
【従来の技術】
従来より、光学レンズ系と撮像部間の撮像素子上に異なる色光を透過させる色フィルタを2次元幾何学状に順次配し、被写体像を光学レンズ系により上記撮像素子上に結像させてカラー映像信号を得るようにしたビデオカメラ等が知られている。
【0003】
また、上記色フィルタの配列としては、補色と原色(マゼンタMg,グリーンG,シアンCy,イエローYe)をモザイク上に配列したものが知られている。
【0004】
このような補色モザイクのカラーフィルタが前面に配された撮像素子を有するビデオカメラ等の撮像装置においては、撮像素子を以下のように制御することによって、上述の各色フィルタから得られる所定の撮像(画素)出力を加算処理して読み出させている。
【0005】
すなわち、偶数フィールドにおいては、垂直方向に隣接したn列とn+1列、及びn+2列とn+3列の画素出力を各行ごとに各々加算して読み出し、奇数フィールドにおいては、偶数フィールドとは一列ずらしてn+1列とn+2列、及びn+3列とn+4列の画素出力を各行ごとに各々加算して読み出す。
【0006】
これによって、偶数フィールドの
n列 m行では WB=Mg+Cy=R+G+2Bが得られ、
n列m+1行では GR=G+Ye=2G+R、
n+1列 m行では GB=G+Cy=2G+B、
n+1列m+1行では WR=Mg+Ye=2R+G+Bが得られる。
【0007】
一方、奇数フィールドの
n列 m行では GB=G+Cy=2G+B、
n列m+1行では WR=Mg+Ye=2R+G+B、
n+1列 m行では WB=Cy+Mg=R+G+2B、
n+1列m+1行では GR=G+Ye=2G+Rが得られる。
【0008】
更に、上記撮像素子より後段に設けられた信号処理回路により、上述の4種類の撮像素子の出力信号を加減算することによって以下の輝度成分信号及び色差成分信号を得る。
【0009】
輝度成分信号 y=WB+GRまたはWR+GB
色差成分信号cr=WR−GB,cb=WB−GR
また従来の撮像装置においては、上記撮像信号からテレビジョン信号を生成する場合、上述の処理で得られた輝度成分信号及び色差成分信号をテレビジョン信号を生成する過程で輝度信号及び色差信号として利用している。
【0010】
【発明が解決しようとする課題】
しかしながら、上記のような従来の撮像装置にあっては、テレビジョン信号規格で定められている信号組成とは異なった色差成分信号を色差信号として利用しているため、正確な色信号が得られず、色再現性が劣化するという問題点があった。
【0011】
本発明は、上記のような問題点に着目してなされたもので、正確な色信号を得ることができ、色再現性が良好な撮像装置を提供することを目的としている。
【0012】
【課題を解決するための手段】
本発明の撮像装置は、次のように構成したものである。
【0014】
(1)被写体からの撮像光を光電変換する撮像手段と、前記撮像手段の出力から第1、第2、第3、第4の信号を読み出し、前記第1、第2の信号を加算または前記第3、第4の信号を加算して得られる信号と前記第1の信号から第2の信号を減算して得られる信号前記第3の信号から第4の信号を減算して得られる信号を生成する信号処理手段と、前記信号処理手段により得られた信号から原色信号を生成するための色分離マトリクス演算手段と、前記原色信号から得られた二つの色差信号を積分する積分手段と、前記積分手段の出力に基づいて前記色分離マトリクス演算手段におけるマトリクス係数を可変させる制御手段とを備えた。
【0015】
(2)被写体からの撮像光を光電変換する撮像手段と、前記撮像手段の出力から第1、第2、第3、第4の信号を読み出し、前記第1、第2、第3、第4の信号のいずれか1つの信号で前記第1、第2、第3、第4の信号を除算することによって信号レベル比を得る信号処理手段と、前記信号処理手段により得られた信号から原色信号を生成するための色分離マトリクス演算手段と、前記信号処理手段によって生成された前記信号のレベル比に応じて被写体の原色信号が存在する領域を検出する検出手段と、検出された原色信号の存在する領域及びその領域に該当する前記マトリクス演算手段の色分離出力に基づいて前記色分離マトリクス演算手段におけるマトリクス係数を可変させる制御手段とを備えた。
【0016】
【作用】
本発明の撮像装置においては、色分離処理を行うマトリクス演算手段におけるマトリクス係数が被写体に応じて可変され、正確な色信号が得られ、色再現性が良好となる。
【0017】
【実施例】
図1は本発明の一実施例の構成を示すブロック図であり、ビデオカメラに適用した場合の電気的回路構成を示している。本実施例は、前述のようにして得られた輝度成分信号及び色差成分信号を所定の色分離マトリクス係数を用いてマトリクス演算を行うことにより色信号を生成し、この色信号に基づいて色差信号を形成するものである。
【0018】
被写体からの撮像光は、レンズ1及びアイリス2等から構成される光学系を通過して、前述のフィルタを配した撮像手段であるCCD3等の撮像素子の受光面に結像し、ここで電気信号に光電変換される。また、上記レンズ1,アイリス2,CCD3は、各々レンズ駆動手段4,絞り駆動手段5,CCD駆動回路6によってそれぞれ駆動されるようになっている。
【0019】
上記CCD3から出力された撮像信号は、相関2重サンプル回路(CDS)7でノイズを抑圧され、AGC回路8にて振幅を調整された後、クランプ回路9でクランプされ、A/D変換器10によってディジタル信号に変換されてディジタル信号処理回路(信号処理手段)11に供給される。このディジタル信号処理回路11は、上記の操作により得られたディジタル信号に基づいて各原色信号R,G,B及び輝度信号Yを生成する。
【0020】
上記生成された各原色信号は、マトリクス演算手段12に供給され、ここで色差信号R−Y(=.7R−.59G−.11G),B−Y(=−.3R−.59G+.89B)が得られる。この色差信号は、エンコーダ13に供給され、所定の放送規格の搬送色信号に変調された後、D/A変換器14によりアナログ信号に変換され、搬送色信号出力端子15より出力される。
【0021】
また、上記ディジタル信号処理回路11から出力された輝度信号は、加算器16によって複合同期信号を付加された後、D/A変換器17によりアナログ信号に変換され、輝度信号出力端子18から出力される。
【0022】
ここで、上述の各回路、手段等はマイクロコンピュータ等を用いた制御回路(制御手段)19,タイミング制御信号発生回路20,クロック発生手段21,22から出力される各種信号により制御、駆動されるようになっている。
【0023】
すなわち、制御回路19は不図示の内蔵プログラム及び上記ディジタル信号処理回路11から得られた輝度成分信号及び色差成分信号に基づいて、マトリクス係数信号を信号処理回路11に、利得制御信号AGC回路8に、レンズ駆動信号をレンズ駆動手段4に、アイリス駆動信号をアイリス2の絞り駆動手段5にそれぞれ発生、供給する。
【0024】
またタイミング制御信号発生回路20は、CCD撮像信号を読み出すための垂直・水平同期タイミングを表すVD,HDをCCD駆動回路6に、VDを積分器70に、CCD3から読み出されてCDS処理を施された信号をクランプするためのクランプ信号clampをクランプ回路9に、CCD3から読み出された信号のフィールド・ライン・画素を識別するための信号pix−idを信号処理回路11に、複合同期信号を付加するタイミングを表す信号Csyncを輝度信号へ複合同期信号を付加するための加算器16に、ブランクタイミング信号BLK、カラーバーストタイミング信号BF、PAL方式の搬送色信号を生成する時のためのライン極性信号ALT、及び変調方式を指定するための信号N/Pをエンコーダ13にそれぞれ供給する。
【0025】
またクロック発生手段21から出力されるクロックMCLKは、CCD駆動回路6、CDS回路7、A/D変換器10、信号処理回路11、D/A変換器14,17、制御回路19、タイミング制御信号発生回路20、及び積分器70に供給される。クロック発生器22から出力されるクロックSCは、エンコーダ13及びD/A変換器14に供給され、PAL方式の変調が選択された場合にMCLKの代わりに用いられる。
【0026】
次に、ディジタル処理回路11の動作について説明する。このディジタル信号処理回路11は、図2に示すように、遅延部30と前処理部40とマトリクス演算部50、及び後処理部60とから概略構成され、遅延部30にて所定の画素の撮像信号を抽出した後、前処理部40にてそれら撮像信号からカメラ輝度信号cyとカメラ色差信号cry,cbyを生成し、その信号cy,cry,cbyに基づいてマトリクス演算部50はRGB信号を生成するようになっている。
【0027】
以下、図2を用いて詳細を説明する。
【0028】
上記遅延部30は、1画素遅延手段31,32,33,34,35,36と、(1水平ライン−2画素)遅延手段37,38から構成されており、各遅延手段31,32,37,33,34,38,35,36が直列に接続されている。したがって、各々の遅延手段からの出力は、遅延手段33の出力を中心とした3*3の正方格子上の各点に相当する信号となり、遅延手段33の出力に対し、撮像画面上
遅延手段31の入力は1垂直画素右で且つ 1水平ライン下、
遅延手段31の出力は同一垂直ライン上で且つ 1水平ライン下、
遅延手段32の出力は1垂直画素左で且つ 1水平ライン下、
遅延手段37の出力は1垂直画素右で且つ 同一ライン上、
遅延手段34の出力は1垂直画素左で且つ 同一ライン上、
遅延手段38の出力は1垂直画素右で且つ 1水平ライン上、
遅延手段35の出力は同一垂直ライン上且つ 1水平ライン上、
遅延手段36の出力は垂直1画素左で且つ 1水平ライン上、
そして、(遅延手段31の入力、遅延手段32の出力、遅延手段38の出力、遅延手段36の出力)、(遅延手段31の出力、遅延手段35の出力)、(遅延手段37の出力、遅延手段34の出力)、(遅延手段33の出力)の各出力グループには、前述のCCD3の4種の出力信号WB,WR,GR,GBのいずれかが必ず全種類出力されている。また、上記各画素出力は、上記前処理部40に供給され、ここでカメラ輝度成分信号cy及びカメラ色差成分信号cry,cbyが生成される。
【0029】
すなわち、この前処理部40は、加算平均回路41,42,43、切換え回路44、平滑化回路45、及び減算器46,47より構成されており、平滑化回路45には遅延手段37,33,34の出力が供給され、カメラ輝度成分信号cyが生成される。
【0030】
また上記加算平均回路41,42,43には、(遅延手段31の入力、遅延手段32の出力、遅延手段38の出力、遅延手段36の出力)、(遅延手段31の出力、遅延手段35の出力)、(遅延手段37の出力、遅延手段34の出力)の各出力グループが供給され、その出力は遅延手段33の出力とともに切換え回路44に供給されている。この切換え回路44には、フィールド・ライン・画素順次シーケンスを表す信号pix−idが供給され、これにより切換え回路44の出力端子には常時WB,WR,GR,GBが出力されている、。
【0031】
上記切換え回路44の出力から得られたWB,WR,GR,GBの信号は減算器46,47に供給され、WR−GB,WB−GRの演算が行われ、カメラ色差成分信号cry,cbyが出力される。この減算器46,47から出力されたカメラ色差成分信号cry,cby及び平滑化回路45から出力されたカメラ輝度成分信号cyはマトリクス演算部50に供給され、所定の色分離マトリクス演算が行われる。
【0032】
マトリクス演算部50は、複数の乗算器51〜59、加算器5a,5b,5cから構成されており、各乗算器のマトリクス係数は制御回路19から供給されるマトリクス係数信号mat−coefに基づいて設定され、上記の各信号cy,cry,cbyにマトリクス演算を施して原色信号R,G,Bを生成する。この原色信号は、γ・ニー処理回路60,61,62からなる後処理部60にて処理され、出力端子64,65,66からそれぞれ出力される。
【0033】
また、上記カメラ輝度成分信号cyより広帯域の輝度信号Yが生成されるが、これは、上記遅延部30の遅延手段33の出力ccが輝度信号抽出用のフィルタ80を介してγ・ニー処理回路81に供給されることにより生成される。そして、この輝度信号Yは出力端子82より出力される。
【0034】
次に、上記マトリクス演算部50で使用されるマトリクス係数の生成方法について述べる。
【0035】
上記それぞれ色分離した後のRGB出力が
(X,0,0),(0,Y,0),(0,0,Z)
のようになるようにしたい被写体像を撮像し、その結果、CCD3からWB,WR,GR,GBの4信号の値としてそれぞれ次の信号
sigx=(WBx,WRx,GRx,GBx),sigy=(WBy,WRy,GRy,GBy),sigz=(WBz,WRz,GRz,GBz)
が得られた時、色分離マトリクスA=[βi αij](i=0,1,2 、j=0,1,2)は以下のように定められる。
【0036】
【数1】
Figure 0003658012
【0037】
ここで、
Figure 0003658012
である。
【0038】
そして制御回路19は、上述の手法で算出されたマトリクス係数をマトリクス演算部50に設定し、色分離処理を実行する。
【0039】
また本実施例における前記制御回路19は、上述のようにして得られたマトリクス係数α0,α1を異なる色温度k0,k1において求め、内部の記憶手段に保持しておき、撮影時の環境により次の式からマトリクス係数を設定し、信号処理部11に設定する。
【0040】
αij=kα0ij+(1−k)α1ij
次に、上式におけるマトリクス混合係数kの決定方法について述べる。
【0041】
図1のマトリクス演算手段12から出力された色差信号ry,byは、積分器70に入力されており、その演算出力wbvalは制御回路19へ供給されている。図3に積分器70の構成例を示す。
【0042】
上記積分器70への色差信号は、まず加算器71に入力される。この加算器71の出力端子は加算器72の一方の入力端子に接続されており、加算器72の出力は、MCLKをクロックとし、VDをリセット信号とするラッチ回路73に供給されている。またラッチ回路73の出力は、VDをクロックとするラッチ回路74に供給されている。これによって、ラッチ回路74からは1フィールド区間の色差信号の積分値が制御回路19に供給される。そして制御回路19は、その積分器70の出力に応じてマトリクス係数kを可変させる。
【0043】
このように、本実施例においては、撮像出力を色分離マトリクスに基づいて各原色信号に色分離し、この原色信号に基づいて本来の色差信号を得るように構成し、更に、上記色分離マトリクスは、各色の被写体を予め撮影して最適な色信号を得られるように設定されたものであるため、極めて正確な色信号を得ることができ、良好な色再現性を実現することができる。
【0044】
また、本実施例においては、撮影条件に応じて上記色分離マトリクス係数を適宜補正することによって、色温度の影響を受けることなく正確な色信号を得ることができ、これによっても良好な色再現性を実現することができる。
【0045】
図4は本発明の他の実施例の構成を示すブロック図であり、また図5はそのディジタル信号処理回路11の具体的構成を示す図である。これらの図において、図1,図2と同一符号は同一構成部分を示している。
【0046】
前述の実施例では色差信号を積分する積分器70を設け、この積分器70の出力に基づいてマトリクス演算手段12におけるマトリクス係数を制御回路19により可変させるようにしたが、本実施例では、被写体の原色信号が存在する領域を検出する原色信号検出器(検出手段)90を設け、検出された原色信号の存在する領域及びその領域に該当するマトリクス演算手段12の色分離出力に基づいて該マトリクス演算手段12におけるマトリクス係数を可変させるようにしている。
【0047】
すなわち、制御回路19内には予めR,G,Bの3原色で他の色成分の混入がないように色分離したい映像のWB,WR,GR,GB信号の比の許容値が記憶されており、信号PRMCLRSとして信号処理回路11に入力されている。この信号PRMCLRSは、該信号処理回路11内の原色信号検出器90に入力され、検出器90には他に切換え回路44より出力されたWB,WR,GR,GB信号が入力されている。図6にこの原色信号検出器90の具体的構成を示す。
【0048】
前述のCCD出力の4種類の信号は、そのうち1つの信号で除されることにより正規化され、信号比の信号として除算器から出力される。図6の例では、WB信号が除数として、他の3種類の信号が比除数として除算器90,91,92に入力されており、これによってCCD出力のWB:WR:GR:GB=1:X:Y:Zの比が算出される。この除算器で算出された信号レベル比は、レンジ内検出器93,94,95,96,97,98,99,100,101に1入力として供給されている。
【0049】
上記レンジ内検出器は、入力された信号レベル比があるレンジ内の値か否かを検出する機能を有しており、そのレンジとして上、下限となる値の入力端子を有している。この上、下限値の入力端子には、上記制御回路19に予め記憶された原色信号に色分離する時のCCD出力信号の比が供給されている。また、レンジ内検出器93,94,95の出力がアンドゲート102に、検出器96,97,98の出力がアンドゲート103に、供給器99,100,101の出力がアンドゲート104にそれぞれ入力され、これらのアンドゲート102,103,104の出力が上記制御回路19に供給されている。そして、制御回路19は、上記アンドゲート出力が原色信号を検出した時の信号処理回路11のR,G,B出力をR,G,B原色信号の他の成分が小さくなるようにマトリクス係数kを可変させる。
【0050】
このような構成としても、前述の実施例と同等の作用効果が得られ、正確な色信号を得ることができ、被写体の原色部分の彩度が向上し、良好な色再現性を実現させることができる。
【0051】
【発明の効果】
以上説明したように、本発明によれば、色分離処理を行うマトリクス演算手段におけるマトリクス係数を被写体に応じて可変するようにしたので、正確な色信号を得ることができ、良好な色再現性が得られるという効果がある。
【図面の簡単な説明】
【図1】 本発明の一実施例の構成を示すブロック図
【図2】 図1のディジタル信号処理回路の具体的構成を示すブロック図
【図3】 図1の積分器の具体的構成を示すブロック図
【図4】 本発明の他の実施例の構成を示すブロック図
【図5】 図4のディジタル信号処理回路の具体的構成を示すブロック図
【図6】 図5の原色信号検出器の具体的構成を示すブロック図
【符号の説明】
3 CCD(撮像手段)
11 ディジタル信号処理回路(信号処理手段)
12 マトリクス演算手段
19 制御回路(制御手段)
70 積分器(積分手段)
71 原色信号検出器(検出手段)

Claims (2)

  1. 被写体からの撮像光を光電変換する撮像手段と、
    前記撮像手段の出力から第1、第2、第3、第4の信号を読み出し、前記第1、第2の信号を加算または前記第3、第4の信号を加算して得られる信号と前記第1の信号から第2の信号を減算して得られる信号前記第3の信号から第4の信号を減算して得られる信号を生成する信号処理手段と、
    前記信号処理手段により得られた信号から原色信号を生成するための色分離マトリクス演算手段と、
    前記原色信号から得られた二つの色差信号を積分する積分手段と、
    前記積分手段の出力に基づいて前記色分離マトリクス演算手段におけるマトリクス係数を可変させる制御手段と
    を備えたことを特徴とする撮像装置。
  2. 被写体からの撮像光を光電変換する撮像手段と、
    前記撮像手段の出力から第1、第2、第3、第4の信号を読み出し、前記第1、第2、第3、第4の信号のいずれか1つの信号で前記第1、第2、第3、第4の信号除算することによって信号レベル比を得る信号処理手段と、
    前記信号処理手段により得られた信号から原色信号を生成するための色分離マトリクス演算手段と、
    前記信号処理手段によって生成された前記信号のレベル比に応じて被写体の原色信号が存在する領域を検出する検出手段と、
    検出された原色信号の存在する領域及びその領域に該当する前記マトリクス演算手段の色分離出力に基づいて前記色分離マトリクス演算手段におけるマトリクス係数を可変させる制御手段とを備えたことを特徴とする撮像装置。
JP13434194A 1994-06-16 1994-06-16 撮像装置 Expired - Fee Related JP3658012B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP13434194A JP3658012B2 (ja) 1994-06-16 1994-06-16 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP13434194A JP3658012B2 (ja) 1994-06-16 1994-06-16 撮像装置

Publications (2)

Publication Number Publication Date
JPH089410A JPH089410A (ja) 1996-01-12
JP3658012B2 true JP3658012B2 (ja) 2005-06-08

Family

ID=15126092

Family Applications (1)

Application Number Title Priority Date Filing Date
JP13434194A Expired - Fee Related JP3658012B2 (ja) 1994-06-16 1994-06-16 撮像装置

Country Status (1)

Country Link
JP (1) JP3658012B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007136067A1 (ja) 2006-05-23 2007-11-29 Shiseido Company Ltd. 皮膚外用剤

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003198860A (ja) 2001-10-18 2003-07-11 Seiko Epson Corp 色変換方法、色変換装置、色変換行列生成方法および色変換行列生成プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007136067A1 (ja) 2006-05-23 2007-11-29 Shiseido Company Ltd. 皮膚外用剤

Also Published As

Publication number Publication date
JPH089410A (ja) 1996-01-12

Similar Documents

Publication Publication Date Title
JP3242515B2 (ja) 撮像装置
US5077810A (en) Distributed digital signal processing system using standard resolution processors for a high resolution sensor
KR930002120B1 (ko) 촬상장치의 디지탈신호 처리장치
KR920001009B1 (ko) 촬상장치
JPH04170882A (ja) ディジタル・カメラ信号処理装置
JPH0884348A (ja) 撮像装置
KR910006858B1 (ko) 칼러 카메라의 영상신호처리회로
JP3658012B2 (ja) 撮像装置
JP3576600B2 (ja) カラー撮像装置
JP4178571B2 (ja) 画像処理装置および画像処理方法、並びにカメラ
JP2557620B2 (ja) 撮像装置
US5517240A (en) Image pickup apparatus including matrix computing process which uses coefficients from image pick-up output of solid state imager to generate primary color components
JPH11177997A (ja) 相関値算出回路およびその算出方法
JP3525445B2 (ja) ディジタル信号処理カメラ
JP3147056B2 (ja) 撮像装置
JPH06125565A (ja) 固体撮像装置
JP3422027B2 (ja) カラーカメラ及びその信号処理回路における輝度バランス回路
JPS6342478B2 (ja)
JP4137654B2 (ja) 輪郭信号生成装置および方法
JP2585461B2 (ja) 固体カラーカメラ
JPS59201595A (ja) 撮像機
JPH08251606A (ja) 撮像装置
Wang et al. New color image processor for the video camera
JP2001177767A (ja) 画像データ・フィルタリング装置および方法
JPH089395A (ja) カラー撮像装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041005

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050311

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080318

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090318

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100318

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100318

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110318

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120318

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130318

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140318

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees