JP3986877B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP3986877B2
JP3986877B2 JP2002126278A JP2002126278A JP3986877B2 JP 3986877 B2 JP3986877 B2 JP 3986877B2 JP 2002126278 A JP2002126278 A JP 2002126278A JP 2002126278 A JP2002126278 A JP 2002126278A JP 3986877 B2 JP3986877 B2 JP 3986877B2
Authority
JP
Japan
Prior art keywords
line
filter
scanning direction
pixel
sub
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002126278A
Other languages
English (en)
Other versions
JP2003319150A (ja
Inventor
尚弘 安田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2002126278A priority Critical patent/JP3986877B2/ja
Publication of JP2003319150A publication Critical patent/JP2003319150A/ja
Application granted granted Critical
Publication of JP3986877B2 publication Critical patent/JP3986877B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Input (AREA)
  • Image Processing (AREA)
  • Storing Facsimile Image Data (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、線順次走査方式のカラーイメージセンサを利用した画像読み取り装置に関し、モノクロ読み取り時およびカラー読み取り時におけるフィルタ処理回路を共通ないし簡略化することができる画像処理装置に関する。
【0002】
【従来の技術】
カラーイメージセンサを利用した画像読み取り装置では、フィルタ処理を、カラーの場合とモノクロの場合とで共用することで、画像処理装置のフィルタを単一とし、装置全体の製造コストを低減したものが知られている(特開平10−136154号公報等参照)。
【0003】
この種の画像読み取り装置ではLEDのような応答性のよい光源をR(赤)、G(緑)、B(青)3色分備えており、カラー読み取り時には、1ライン分のラインセンサに対して、走査ラインごとにRGBを順次点灯させて読み取りを行うとともに、モノクロ読み取り時には、たとえばG(緑)光源のみを用いて読み取り動作を行っている。
【0004】
画像処理装置へのライン単位のデータ入力形態に着目すると、モノクロ読み取り時には、再生画像に対して空間的に連続するラインが入力される。一方、カラー読み取り時にはラインごとに前ラインとは異なる色成分が入力される。このため、カラー読み取り時には、画像処理装置は、たとえば、シェーディング補正等の歪み補正処理におけるように、各種画像処理を色成分ごとに分別した処理を行う必要がある。
【0005】
特開平10−136154号公報記載の画像処理方法では、処理回路自体を同一として、参照する補正ラインメモリだけを色ごとに切り換える構成により、シンプルで低コストのカラー画像読み取り装置を提案している。
【0006】
しかし、特開平10−136154号公報記載の画像処理装置では、シェーディング補正やγ補正といった、参照するラインメモリが基準データとなるものを対象としており、原稿読み取り中に随時更新する、フィルタ処理向けマトリクス構成用途のメモリに対しては使用条件が異なるため色毎の切り換え構成が必ずしも最適とは言えない。
【0007】
ラインメモリを用いて副走査方向のフィルタ処理を実現する際に、モノクロ読み取り時は入力ラインと、過去に入力したラインメモリに保存されている隣接ラインの全てを用いてフィルタを構成すればよいが、カラー読み取り時は同じ色成分のデータだけを参照ラインとして演算しなければならないため、ラインメモリに格納されているデータの色成分を意識してフィルタ演算回路を構成する必要がある。この実現方法として、各色成分毎にアクセスするラインメモリ群を切り換える方式が一般に知られている。
【0008】
シェーディング補正と同じように各色成分に対してモノクロと同じ機能を単純なラインメモリの切換動作で実現するためには、マトリクス構成用ラインメモリが3倍必要となる。たとえは、モノクロ読み取りのマトリクス構成用として6本のラインメモリを確保すると、カラー読み取りで同じ機能を実現するためには、18本のラインメモリが必要となる。これでは回路規模的に大きな負担となってしまう。
【0009】
また、このような方式はマトリクス形成用ラインメモリの本数によっては、切り換え回路の規模が増加するだけでなく、異なる動作モードとして設計段階での機能検証も独自に行う必要が生じ、開発期間の短縮化の妨げとなる。
【0010】
本発明は、モノクロ読み取り時およびカラー読み取り時におけるフィルタ処理回路を簡略化することができ、フィルタ処理におけるマトリクス構成用ラインメモリのアクセスを、モノクロ読み取り時、カラー読み取り時で同一とすることを目的とする。
【0011】
【課題を解決するための手段】
本発明の画像処理装置は、6本の FIFO ラインメモリと7本のシフトレジスタとフィルタ処理部とを備え、線順次入力する画素信号を1番目のシフトレジスタを介して1番目の FIFO ラインメモリに入力させ、その出力を2番目のシフトレジスタを介して2番目の FIFO ラインメモリに入力させる構成を繰り返し、6番目の FIFO ラインメモリからの出力を7番目のシフトレジスタに入力させると共に、各シフトレジスタから順次出力される画素信号をフィルタ処理部に入力させるように接続構成し、前記フィルタ処理部には、線順次入力する画素信号がモノクロ信号の場合は、副走査方向4ライン目と、主走査方向4ライン目とにそれぞれ所定の係数値を配置したフィルタ係数を選択する手段と、線順次入力する画素信号が RGB カラー信号の場合は、副走査方向4ライン目と、副走査方向1ライン目かつ主走査方向4画素目と、副走査方向7ライン目かつ主走査方向4画素目にそれぞれ所定の係数値を配置したフィルタ係数を選択する手段と、各係数を対応する画素値に乗算し、その積の全てを加算することで注目画素の補正値を求めて注目画素に加算するフィルタ処理手段とを設けた、ことを特徴とする。
【0017】
【発明の実施の形態】
以下、本発明の実施形態を説明する。ここでは、イメージスキャナで読み取ったRGB線順次に入力するカラー信号、あるいはG成分を連続して入力するモノクロ信号を、多値画像データとして装置本体あるいは装置外部へ出力する例を示す。
【0018】
図1において画像処理装置1は、カラーイメージスキャナ(CIS)101と、ADコンバータ(ADC)102と、シェーディング補正部103と、γ補正部104と、変倍補正部105と、フィルタ処理部106と、シェーディング補正用ラインメモリ201と、γ補正テーブル202と、変倍処理用ラインメモリ203と、フィルタ処理用ラインメモリ205とを含んで構成されている。
【0019】
CIS101により読み取られたアナログビデオ信号は、ADC102で多ビットのデジタル値に量子化され、デジタル画像処理が可能な信号形態に変換される。
【0020】
ラインメモリ(FIFO)201には、予め白基準板を読み取ることにより、白波形の歪みデータが格納されており、原稿画像の読み取り時には、シェーディング補正部103では、この白波形の歪みデータを参照して主走査の歪みを補正する。白波形の歪みは、イメージセンサのチップ感度ばらつきの他に、光源の照度ばらつきが大きく寄与するので、個別の光源をもつ線順次読み取り方式のCIS101の場合、RGB別に白波形の歪みデータを格納する必要ある。このことから、図1では、シェーディング補正部103に接続されたラインメモリ201には3ライン分(FIFO−R,FIFO−G,FIFO−B)の記憶領域が用意されている。シェーディング補正部103では、原稿画像の読み取り時に、入力する色成分と同じ色成分の白波形歪みデータを参照してシェーディング補正を施すことになる。
【0021】
γ補正部102は、シェーディング補正された画像データに対して、SRAMに用意された補正テーブル(LUT:Look Up Table)202を参照してγ特性の補正処理を施す。画像データのγ特性も、イメージセンサの分光特性によってはRGBで差異が生じることが十分考えられるので、各色成分(RGB)ごとに独立の補正テーブル(LUT−R,LUT−G,LUT−B)が用意されている。
【0022】
γ補正された画像データは、変倍処理部105により主走査方向についての変倍処理が施される。変倍は、大別すると拡大と縮小の2種類があるが、共に処理前後のデータレートを同一とする。このため、2ライン分のラインメモリ203を交互にリード/ライトするトグルメモリが必要となる。これは主走査だけの処理が基本であるため、カラー読み取り時においてもモノクロ読み取り時と同じ構成および動作で差し支えない。但し、カラー読み取りの場合には、変倍の前後で1ライン分の遅延が発生するので、処理する色成分が異なることに注意しなければならない。
【0023】
また、変倍処理により副走査方向の変倍も可能とする構成の場合、副走査方向に演算処理が必要となるケースもあるが、その場合は色成分毎のラインメモリが必要となる。この副走査方向の変倍処理は、周知であり、後述するフィルタ処理と同様に処理できるので説明は省略する。
【0024】
変倍処理された画データは、フィルタ処理部106によりフィルタ処理が施される。フィルタ処理は、ラインメモリ204と、フィルタ処理部106に付属のFF(シフトレジスタ)を利用して空間的に2次元の画データを一度に扱えるようにし、主走査方向や副走査方向のボケを補正したり(エッジ強調)、逆に平滑化したりする処理である。FF(シフトレジスタ)は、フィルタ処理部106に内蔵していてもよいし、当該処理部の外部に設けられていてもよい。2次元の画像データを扱うためにはラインメモリは必須であり、図1ではラインメモリ204は、6ライン分の記憶領域(FIFO1〜FIFO6)を備えている。フィルタ処理部106では、1ライン分の画データを格納するメモリを備えており、変倍処理部105から入力する画データを含めた7ライン分の画データによりフィルタ処理を行うことができる。主走査方向のフィルタは各ラインメモリからの読み出しデータをシフトレジスタに入力することで構成できる。
【0025】
本発明は、このフィルタ処理用のラインメモリ(FIFO)の数(本実施形態では6つ)、およびフィルタ処理における副走査方向のフィルタ係数に関わるものである。なお、これら一連の画像処理は、本発明を説明するために例示したものであり、本発明の技術的範囲を限定するものではない。本発明が従来技術と異なる部分は、フィルタ処理部106である。したがって、フィルタ処理部106以外の構成としては種々の構成を採用できる。
【0026】
図2はフィルタ処理部106と、ラインメモリ204の動作を模式的に示す図である。図2(a)では、モノクロでの動作を示しており、変倍処理部105から送出された画データがシフトレジスタFFを経由後、FIFO1に書き込まれる。このとき、もともとFIFO1に格納されていた画データは、FIFO2にシフトされる。このシフト動作が全てのFIFOにわたって同様に行われることで、6ライン分のFIFOを使って7ラインのマトリクスが構成される。この場合には、7ライン中の中心のラインに属する画素を注目画素として処理する。
【0027】
図2(b)は、色毎に参照するラインメモリ(FIFO1〜FIFO6)を切り換える方式により、6本のFIFOをRGB各色で2本ずつ振り分けている。図2(b)ではRGB各色の3ライン分のマトリクスを構成する場合を示している。
【0028】
この場合、変倍処理部105から送出される画データの色に応じてデータを更新するシフトレジスタ(FF0〜FF6)、RGB各色を2本ずつに振り分ける切換回路2061およびマトリクスとして利用するデータを選択する切換回路2062,2063が必要となる。なお、モノクロ/カラーの両読み取りモードに応じた回路としては、2図(a)および(b)の動作が必要となるため、回路構成として切換回路が必要である。
【0029】
つぎに、図2(b)に示したような構成を必要とせずに同様の機能を達成する実施形態を説明する。
【0030】
図3にフィルタ処理部106でのモノクロ読み取り時のマトリクス構成例を空間的にイメージした模式図を表す。マトリクスはA1〜A7,B1〜B7,C1〜C7,D1〜D7,E1〜E7,F1〜F7,G1〜G7まで計49画素で構成され、その注目画素は中央のD4である。
【0031】
最下段の現ラインデータは、FIFO1に格納されるが、FIFO1の読み出しデータは下から2段目の前ラインデータとして構成される。FIFOへの格納(書き込み)に際しては、保存されている同じ主走査位置の画データが読み出された後に書き込むことが条件となる。他のFIFOに対しても同様な動作が条件である。
【0032】
このように構成されたマトリクスに対して図4に例示するような係数を各画素に乗算し、その積全てを加算することで注目画素の補正値を求め、注目画素の画データレベルに補正値を加算することがフィルタ処理のアルゴリズムである。
【0033】
フィルタ処理の特性は、その参照画素の選択と、フィルタ係数の設定で決まることになる。たとえはハードウェアで実現する場合、図5にブロック図で示すように、主走査方向の補正係数と、副走査方向の補正係数を別々の演算し、演算結果を加算して補正値を求める構成が一般的である。なぜなら、1次元ラインセンサによる原稿読み取り方式の場合、主走査方向と副走査方向でMTF特性に影響する要因が異なるため、主走査と副走査のフィルタ係数を独立に切り換える要求があるためである。つまり、多様なフィルタ特性を実現しようとした場合、主走査方向のフィルタ係数と副走査方向のフィルタ係数を独立に数種類用意し、組合せて演算する方式が最も一般的な方式となる。
【0034】
図5では、主走査フィルタ係数選択コマンドと副走査フィルタ係数選択コマンドを入力し、各々独立にフィルタ係数を選択できる構成となっている。すなわち、図5では、フィルタ処理部106は、主走査フィルタ係数選択コマンドを入力する主走査フィルタ係数1061と、主走査フィルタ係数1061の出力およびフィルタ構成画素のデータ(A1〜G7)を入力する主走査積和演算部1062と、副走査フィルタ係数選択コマンドを入力する副走査フィルタ係数1063と、副走査フィルタ係数1063の出力およびフィルタ構成画素のデータ(A1〜G7)を入力する副走査積和演算部1064と、主走査積和演算部1062および副走査積和演算部1064の出力を入力する加算部1065と、注目画素(D5)および加算部106の出力を入力し、フィルタ補正結果D4’を出力する補正値加算部1066とからなる。
【0035】
フィルタ処理部106は、フィルタ処理に関してはモノクロ/カラーの各読み取りモードに応じて副走査方向のフィルタ係数のみを切り換えることができる。この場合には、フィルタ処理をソフトウェアで構成する方式を対象としているが、その場合は図5のようなブロック図は同等なフローチャートで説明できる。
【0036】
図6(a),(b)は、図4に示したフィルタ係数を、主走査と副走査に分離して表示する説明図である。図4に示すフィルタ係数は、モノクロ読み取りを意識しているもので、副走査方向に対して注目画素の上下画素が全て演算に寄与しているので、線順次のカラー読み取りに対して適用できない。
【0037】
図7に、図2の(a)のモノクロ時と同様なマトリクス構成のまま、カラー読み取り時のフィルタ処理を可能とするフィルタ係数例を示す。図7のマトリクスでは、図4における係数のうち副走査方向の係数のみを変更してある。注目画素の係数を32から24に変更しているのは、副走査方向のゲインを1とするべく、図6(b)における注目画素の係数を8としているためである。
【0038】
図7では、たとえは、変倍処理から送られてくる画データがRの場合、フィルタを構成するRGB各色成分の配置は同図左に示されるような配置となり、注目画素はRとなる。これに対して、副走査方向のフィルタ係数のG,Bのラインに対しては、全て0(ゼロ)であり、Rラインだけ有効な係数が設定されている。つまり、図5に示されるような演算回路あるいはこれに相当するプログラムによって副走査方向のフィルタ演算をモノクロ時と全く同じ積和演算としても、注目画素と同じR成分しか演算結果に反映されないことになる。処理するラインが順次移行すると、注目画素はG→B→・・となるが、全く同じ理由でG成分だけあるいはB成分だけのフィルタ演算が可能になり、全ての色成分に対して同じようにフィルタ処理される。
【0039】
また、注目画素のフィルタ内における相対的な位置もモノクロと同じであるため、フィルタ処理後のライン遅延もモノクロ/カラーで変化せず、後段の画像処理装置および画像処理システムが動作モードによる違いを意識しないですむことになる。
【0040】
本発明では、(2N+4)(N:正の整数)個とし、フィルタ処理部16は、モノクロ読み取り時には(2N+5)ラインのモノクロフィルタとして動作させ、カラー読み取り時には{(2N+4)/3+1:余りは切り捨て}ラインのカラーフィルタとして動作させるものであり、図1〜図7の例では、N=1の場合にあたる。これ以外の場合も含め、Nに対するフィルタ構成ライン数を下表にまとめる。Nが2,3,4のいずれの場合でも上述した本発明の基本的な特徴は同様に当てはまる。
【0041】
Figure 0003986877
【0042】
【発明の効果】
以上説明したように本願発明によれば、フィルタ処理回路の参照ライン切り替え回路やカラー専用演算回路を追加することなく、モノクロ信号と RGB カラー信号とのフィルタ処理をフィルタ係数の変更だけで対応することができ、カラー処理のためだけのハードウェアを極力排除することができる。
【0044】
さらに、本発明の画像処理装置は、フィルタ処理に関してはモノクロ読み取り時とカラー読み取り時でフィルタ係数だけを切り換えるので、フィルタ処理をソフトウェアで構成する場合において、制御フローのほとんどを共通化することができ、シンプルなプログラムを構成することができる。
【図面の簡単な説明】
【図1】画像処理装置の一実施形態を示すブロック図である。
【図2】マトリクス構成のためのラインメモリ動作を示す図であり(a)はモノクロ時の動作時において、7ラインマトリクスによる処理を示す図、(b)はカラー時の一般的な3ラインマトリクスによる処理を示す図である。
【図3】マトリクス構成の一例を示す図である。
【図4】モノクロフィルタの係数例を示す図である。
【図5】フィルタ演算回路の構成例を示す図である。
【図6】主走査と副走査のフィルタ係数分離例を示す図であり、(a)は主走査の係数の一例を示す図、(b)は副走査の係数の一例(図3の係数に対する例)を示す図である。
【図7】カラーフィルタの係数例を示す図である。
【符号の説明】
1 画像処理装置
101 カラーイメージスキャナ(CIS)
102 ADコンバータ(ADC)
103 シェーディング補正部
104 γ補正部
105 変倍補正部
106 フィルタ処理部
201 シェーディング補正用ラインメモリ
202 γ補正テーブル
203,204,205 ラインメモリ
1061 主走査フィルタ係数
1062 主走査積和演算部
1063 副走査フィルタ係数
1064 副走査積和演算部
1065 加算部
1066 補正値加算部

Claims (1)

  1. 6本の FIFO ラインメモリと7本のシフトレジスタとフィルタ処理部とを備え、
    線順次入力する画素信号を1番目のシフトレジスタを介して1番目の FIFO ラインメモリに入力させ、その出力を2番目のシフトレジスタを介して2番目の FIFO ラインメモリに入力させる構成を繰り返し、6番目の FIFO ラインメモリからの出力を7番目のシフトレジスタに入力させると共に、各シフトレジスタから順次出力される画素信号をフィルタ処理部に入力させるように接続構成し、
    前記フィルタ処理部には、
    線順次入力する画素信号がモノクロ信号の場合は、副走査方向4ライン目と、主走査方向4ライン目とにそれぞれ所定の係数値を配置したフィルタ係数を選択する手段と、
    線順次入力する画素信号が RGB カラー信号の場合は、副走査方向4ライン目と、副走査方向1ライン目かつ主走査方向4画素目と、副走査方向7ライン目かつ主走査方向4画素目にそれぞれ所定の係数値を配置したフィルタ係数を選択する手段と、
    各係数を対応する画素値に乗算し、その積の全てを加算することで注目画素の補正値を求めて注目画素に加算するフィルタ処理手段とを設けた、ことを特徴とする画像処理装置。
JP2002126278A 2002-04-26 2002-04-26 画像処理装置 Expired - Fee Related JP3986877B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002126278A JP3986877B2 (ja) 2002-04-26 2002-04-26 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002126278A JP3986877B2 (ja) 2002-04-26 2002-04-26 画像処理装置

Publications (2)

Publication Number Publication Date
JP2003319150A JP2003319150A (ja) 2003-11-07
JP3986877B2 true JP3986877B2 (ja) 2007-10-03

Family

ID=29540742

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002126278A Expired - Fee Related JP3986877B2 (ja) 2002-04-26 2002-04-26 画像処理装置

Country Status (1)

Country Link
JP (1) JP3986877B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021151098A1 (en) * 2020-01-24 2021-07-29 Reliance Memory Inc. Kernel stacking and kernel partial sum accumulation in memory array for neural network inference acceleration

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007013932A (ja) 2005-06-02 2007-01-18 Ricoh Co Ltd 画像読取装置
JP2009130596A (ja) 2007-11-22 2009-06-11 Brother Ind Ltd 画像処理装置及びプログラム
JP4934654B2 (ja) * 2008-09-29 2012-05-16 京セラミタ株式会社 フィルタマトリクス生成装置およびこれを用いたフィルタ装置
JP5821563B2 (ja) * 2011-11-21 2015-11-24 三菱電機株式会社 画像読取装置および画像読取方法、並びにmtf補正パラメータ決定方法
JP5899918B2 (ja) * 2011-12-27 2016-04-06 株式会社リコー 画像処理装置、画像処理方法
WO2013136458A1 (ja) * 2012-03-14 2013-09-19 富士機械製造株式会社 画像補正処理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021151098A1 (en) * 2020-01-24 2021-07-29 Reliance Memory Inc. Kernel stacking and kernel partial sum accumulation in memory array for neural network inference acceleration

Also Published As

Publication number Publication date
JP2003319150A (ja) 2003-11-07

Similar Documents

Publication Publication Date Title
US9202292B2 (en) Image processing apparatus having a plurality of image processing blocks that are capable of real-time processing of an image signal
US7139022B1 (en) Edge enhancer for RGB-Beyer to YUV 4:2:0 converter with sharpened-Y feedback to U, V transformer
JP4610930B2 (ja) 画像処理装置、画像処理プログラム
JP3771054B2 (ja) 画像処理装置及び画像処理方法
JPS61154357A (ja) カラ−画像入力装置
WO2006054607A1 (ja) 映像処理装置
EP2141911A2 (en) Imaging apparatus
JP2009188840A (ja) プログレッシブ・インタレース変換方法、画像処理装置及び画像撮像装置
WO2001027780A1 (en) System and method for digital color image processing
JP4317624B2 (ja) 画像処理装置
JP3986877B2 (ja) 画像処理装置
US6967660B2 (en) Image processing apparatus and image processing system
JP5335566B2 (ja) 高精細映像信号処理装置
JP3951993B2 (ja) 撮像装置及びこの撮像装置に用いられるカラーデータ計測方法
US6801671B1 (en) Controlled image deterioration correction device with reduction/enlargement
JP3748446B2 (ja) 画像入力装置の画像処理回路
JP2004153848A (ja) 画像入力装置の画像処理回路
JP3006522B2 (ja) 減色処理装置
JPH09200550A (ja) 画像処理システム
JP4238529B2 (ja) 画像処理装置
JP4748702B2 (ja) 輝度ノイズフィルタリング方法及び輝度ノイズフィルタリングシステム
JP3671428B2 (ja) 色出力用画像処理方法及び装置
JPH11127325A (ja) 画像処理装置
JPH0983823A (ja) 画像処理装置
JP4249909B2 (ja) 信号処理装置および信号処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061204

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070710

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070711

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100720

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110720

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120720

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120720

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130720

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees