JP3762019B2 - 画像処理方法 - Google Patents

画像処理方法 Download PDF

Info

Publication number
JP3762019B2
JP3762019B2 JP03236697A JP3236697A JP3762019B2 JP 3762019 B2 JP3762019 B2 JP 3762019B2 JP 03236697 A JP03236697 A JP 03236697A JP 3236697 A JP3236697 A JP 3236697A JP 3762019 B2 JP3762019 B2 JP 3762019B2
Authority
JP
Japan
Prior art keywords
pixels
dust
pixel
processing method
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP03236697A
Other languages
English (en)
Other versions
JPH10228536A (ja
Inventor
泰司 森本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP03236697A priority Critical patent/JP3762019B2/ja
Priority to US09/024,273 priority patent/US6125213A/en
Publication of JPH10228536A publication Critical patent/JPH10228536A/ja
Application granted granted Critical
Publication of JP3762019B2 publication Critical patent/JP3762019B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、ディジタル画像処理技術に属するものであり、更に詳しくはディジタル画像中にゴミがある場合に該ゴミを取除いた様に画像を修正する方法及びそこで好適に用いられる画像処理方法に関するものである。
【0002】
【従来の技術】
従来、ディジタル画像中にゴミがある場合には、ゴミを含む適宜の領域を操作者が処理対象領域として指定し、該処理対象領域内の全画素に対して一様に平滑化フィルタをかけ、ゴミを含む前記処理対象領域の全画素の信号を平均化された信号で置き換える(ぼかす)ことによって、画像中のゴミを取除いた様に修正する処理を行っていた。
【0003】
【発明が解決しようとする課題】
しかしながら、上記従来例では、指定された領域内の全ての画素に対して、一様に平滑化フィルタをかけてゴミを含む領域全体をぼかす手法であったため、ゴミでない領域にもフィルタ処理をかけてしまい、そのゴミでない領域の画像を劣化させてしまうといった問題点があった。
【0004】
本発明は、上述の問題点に鑑みてなされたものであり、ゴミ以外の領域は原画像のまま劣化させることなく、ゴミを取除いた様に画像を修正するのに有効な画像処理方法を提供することを目的とする。
【0005】
【課題を解決するための手段及びその作用】
本発明によれば、上記目的を達成するものとして、
多数の画素からなるディジタル画像中の隣接する画素について画素信号の2次微分値が正の第1閾値を越える値から負の第2閾値未満の値へと変化する場所を検出し、それらの集合を輪郭としてゴミ領域候補を設定することを特徴とする画像処理方法、
が提供される。
【0006】
前記画素信号の2次微分値として前記ディジタル画像の信号を明度成分、彩度成分及び色相成分に分けたうちの明度成分の2次微分値を考慮することができる。
【0007】
前記ゴミ領域候補のうちその内部の近接画素どうしの間での信号の変化が所定範囲内のものをゴミ領域として抽出処理することができる。
【0008】
前記ゴミ領域候補の内部の近接画素どうしの間での信号の変化として、前記ディジタル画像の信号を明度成分、彩度成分及び色相成分に分けたうちの明度成分及び彩度成分の変化を考慮することができる。
【0009】
前記ゴミ領域候補の設定に際して、前記画素信号の2次微分値が負の第2閾値未満の画素の集合を求めた後に、該画素の集合により囲まれる領域の周囲の画素のうちで前記画素信号の2次微分値が正の第1閾値を越える画素が占める割合を求め、該割合が所定値以上の場合に前記ゴミ領域候補と判定することができる。
【0010】
あるいは、前記ゴミ領域候補の設定に際して、前記画素信号の2次微分値が正の第1閾値を越える画素の集合を求めた後に、該画素の集合により囲まれる領域の周囲の画素のうちで前記画素信号の2次微分値が負の第2閾値未満の画素が占める割合を求め、該割合が所定値以上の場合に前記ゴミ領域候補と判定することもできる。
【0011】
前記ゴミ領域抽出処理においてゴミ領域が1つも抽出されなかった場合には、前記第1閾値、前記第2閾値及び前記所定範囲のうちの少なくとも1つを変えた上で、再び前記ゴミ領域抽出処理を行うことができる。
【0012】
前記ゴミ領域抽出処理において抽出されたゴミ領域を提示し、提示された抽出ゴミ領域のうちの所望以外のものをゴミ領域の指定から解除することができる。
【0013】
更に、本発明によれば、
ゴミ領域内の画素の信号を当該画素の周囲の有効な画素の信号を用いて補間処理し、該補間処理を前記ゴミ領域内の外側の画素から内側の画素へと進行させることを特徴とする画像処理方法、
が提供される。
【0014】
また、本発明によれば、
ゴミ領域内の画素の信号を当該画素の周囲の有効な画素の信号を用いて補間処理し、該補間処理の際に、既に補間処理された画素を新たな有効画素として扱うことによって前記ゴミ領域内の画素を順次補間していくことを特徴とする画像処理方法、
が提供される。
【0015】
前記補間処理の際に、隣接する有効画素の数の多い画素から順に補間することができる。
【0016】
前記補間処理の際に、前記隣接する有効画素の数が同じである画素については、それらの全ての画素の補間値だけを求めた後にそれらの画素を補間することができる。
【0017】
前記補間処理の前に、該補間処理を受ける前の画像の画素信号を記憶することができる。
【0018】
前記補間処理後に、該補間処理により補間された画像の画素信号を前記記憶された補間処理を受ける前の画像の画素信号に置き換えることができる。
【0019】
即ち、以上の様な本発明の一態様においては、指定されたディジタル画像領域の明度成分画像中に含まれる明度変化の激しい輪郭を検出し、検出した輪郭により囲まれる領域をゴミ領域の候補とする。前記ゴミ領域の候補のうち、領域内の画素の明度、彩度成分が平坦であるものをゴミ領域と判断する。次に、前記ゴミ領域内にあって、ゴミ領域外の周辺画素と隣接しているゴミ領域の境界上にある画素から補間を始め、補間し終わった画素も周辺画素と同様に有効画素として用いながら順次ゴミ領域の内側の画素を補間していき、ゴミを取り除くようにディジタル画像を修正する。
【0020】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。
【0021】
図1は、本発明による画像処理方法の実施される画像処理装置の概略構成を示すブロック図である。
【0022】
CPU101、記憶装置103及びRAM102は、パーソナルコンピュータ108内にあり、CPU101は記憶装置103に格納されたプログラムをRAM102にコピーし、前記プログラムに従ってディジタル画像を修正処理する。また、CPU101は、読取装置104によって画像データを読み込み、記憶装置103に記憶する。
【0023】
操作部105は、画像データに対して修正処理を加える操作者の操作命令を受けつけ、CPU101に前記操作命令を送る。
【0024】
表示装置106は、操作者が前記画像修正処理の前後の画像を実際に目で確認できるように、前記操作者の操作に応じて未処理画像および処理済画像を提示する。操作者は、表示装置106に提示された画像中にゴミを見つけた場合、操作部105を操作して取除きを希望するゴミを含む大まかな矩形領域(画素はx−y直交座標系に従って2次元に配列されているものとする)を処理対象として指定する。
【0025】
また、印字装置107は、前記操作者の操作に応じて、RAM102あるいは記憶装置103に蓄積されている画像データを記録紙にプリント出力する。
【0026】
図2は操作者により指定された前記処理対象の画像領域内からゴミ領域を抽出する処理の流れを示すフローチャートである。このフローチャートは前記記憶装置103に格納されたプログラムに基づきCPU101が行なう処理の流れを示すものである。
【0027】
まず、S201では、操作者がゴミを除去したいと望んだ部分の画像(処理対象画像)から明度成分の画像を取り出す。
【0028】
次に、S202では、明度成分のみの画像f(x,y)に対して、エッジを強調するためにラプラシアン演算を施して、ラプラシアン画像∇2 f(x,y)を得る。
【0029】
S203では、S202で強調したエッジのうち、ラプラシアン演算による2次微分値(以下、単に「2次微分値」という)が負で絶対値の大きい或る閾値(−T)未満(または以下)となる画素を抽出し、その集合を輪郭として該輪郭を含みそれで囲まれる画素集合をゴミ領域の候補とする。
【0030】
S204では、S203で求めたゴミ領域候補のうち、ゴミ領域であるか否かの判定を行なっていない領域があるかどうかを調べて、あればS205に進み、なければS209に進む。
【0031】
S205では、S204で調べたゴミ領域判定を行なっていない或るゴミ領域候補について、S203で抽出したゴミ領域候補の境界(輪郭)の外側に隣接する画素のうち2次微分値が正で絶対値の大きい或る閾値(S)を越える(または以上となる)画素の数の割合が一定割合(A%)以上であれば当該領域を続けてゴミ領域候補として扱いS206に進み、そうでなければS208に進む。つまり、S203とS205では、ゴミ領域の境界においては明度値の変化が急激であるとの前提から、2次微分値が近傍において正から負へと大きく変わる画素対の集合であることをゴミ領域の境界となる条件として用いている。なお、S203、S204及びS205で行なった操作は、周囲の画素よりも明度の高い白ゴミについてのものであるが、検出条件で用いた閾値の正負及び不等号を逆転させることにより、周囲の画素よりも明度の低い黒ゴミについても検出することが可能となる。
【0032】
S206では、前記ゴミ領域候補の領域内の画素について、各画素の近傍内で平坦(変化が少ない)かどうかを下記の基準によって調べ、この基準を満たせばS207に進み、満たさなければS208に進む。この基準は、ゴミ領域候補の領域内の点(x0 ,y0 )について、その近傍(x,y)に対して
|f(x,y)−f(x0 ,y0 )|≦U
且つ
|g(x,y)−g(x0 ,y0 )|≦V
を満たすかどうかである。ここで、f(x,y),g(x,y)は点(x,y)での明度と彩度であり、U,Vは適当な閾値である。
【0033】
S207では、前記ゴミ領域候補はゴミ領域であるとの判定がなされ、ゴミ領域判定を行なったことを記録し、S204に戻る。
【0034】
S208では、前記ゴミ領域候補はゴミ領域でないとの判定がなされ、ゴミ領域判定を行なったことを記録し、S204に戻る。
【0035】
S209では、ゴミ領域が1つ以上見つかったかどうかによって、見つかっていればS210に進み、1つも該当する領域が見つかっていない場合はS211に進む。
【0036】
S210では、抽出したゴミ領域を表示装置106により表示して操作者に通知し、ゴミ領域抽出処理を終了する。操作者の望みどおりにゴミと検出した部分に対しては本抽出処理ではこれ以上操作をする必要はなく、一方、操作者の望みでないものをゴミと検出した部分に対しては、操作部105により入力して指示することで、ゴミ領域の指定を解除することが可能である。
【0037】
S211では、S203、S205及びS206において使用しているパラメータ(閾値)を適宜変化させて、検出条件を緩くし(検出しやすくする)、S203に戻る。
【0038】
以上の如く、操作者が指定したゴミを含む矩形領域画像は処理され、その中のゴミ領域と判定された部分は、次に行われるゴミ領域補間処理の対象となる。
【0039】
図3は、図2のようにして求めたゴミ領域のうち、1つのゴミ領域を補間する処理の流れを示すフローチャートである。このフローチャートも、図2と同様に、記憶装置103に格納されたプログラムに基づきCPU101が行なう処理の流れを示すものである。
【0040】
まず、S301では、補間しようとしているゴミ領域全体の画素値(明度成分、彩度成分、色相成分等の信号値)をRAM102または記憶装置103に記憶させる。これは、ゴミ領域補間処理が全て終わった後に、操作者による補間の取り消しの指示を受けた場合、原画像に戻す際に利用されるものである。
【0041】
次に、S302では、1つのゴミ領域内において、補間処理が終わっていない画素があるかどうかを調べ、ある場合にはS303に進み、ない場合には該ゴミ領域の補間処理を終了し、必要な場合には他のゴミ領域についての同様な補間処理を開始する。
【0042】
S303では、まず、ゴミ領域内の補間しようとする各画素(被補間画素)について、補間するための有効な周辺画素がいくつ存在しているかを調べる。
【0043】
補間するための有効な周辺画素数を数える例を、図4により説明する。ここでは、有効な周辺領域範囲を8近傍とした場合(即ち、8つの方向[右方、左方、上方、下方、斜め右上方、斜め左上方、斜め右下方、及び斜め左下方]に隣接画素が存在する場合)について説明する。図4において、白抜きの画素(a1,b1,b2,c1,c2,c3)がゴミ領域内の画素を表しており、塗りつぶした画素がゴミ領域の周囲の画像を表している。図4(a)においては、画素a1のみによりゴミ領域が形成されており、8近傍の全ての画素はゴミ領域に属さない画素であるので、補間するための有効周辺画素数は8となる。図4(b)においては、画素b1,b2ともに有効周辺画素数は7となる。図4(c)においては、画素c1,c3の有効周辺画素数は7となるが、画素c2については有効周辺画素数は6となる。尚、画素c1と画素c3とが補間処理された後には、これらの画素c1,c3をも画素c2についての有効周辺画素として扱うことができ、かくして画素c2の有効周辺画素数は8となる。
【0044】
さらに、S303では、以上の例のようにして求めた有効周辺画素数が多い順に、ゴミ領域内の画素をソートする。
【0045】
そして、S304において、有効周辺画素の信号の平均値を被補間画素の信号値として求め、記憶する。
【0046】
S305においては、S304で補間した画素と有効周辺画素数が同数でソート結果が同順位であった被補間画素があるかどうかを調べる。もし、あればS304に進み、なければS306に進む。
【0047】
S306においては、S304で求めておいた補間値を対応する各被補間画素の信号値に代入して補間し、S302に戻る。尚、S306において補間した画素は、次のループにおいては、まだ補間されていない画素の有効周辺画素として機能する。
【0048】
上述したアルゴリズムにおいて、補間済の画素も有効周辺画素に含めることにより、有効周辺画素数の多いゴミ領域境界部分から有効周辺画素数の少ないゴミ領域中心部分に向かって、順に補間処理される。そのため、比較的大きなゴミ領域に対しても、ゴミ領域以外の領域との間に目立った境界を作ることなく、また、ゴミ領域内の画素同士についても平滑化される様に補間処理を行うことができる。
【0049】
【発明の効果】
以上説明したように、本発明によれば、ゴミが含まれているディジタル画像のゴミ領域を抽出してから、その領域のみを周辺の画素を使って補間することにより、ゴミ領域以外は原画像のまま劣化させることなく、ゴミを除去した画像に修正することができる。
【図面の簡単な説明】
【図1】本発明による画像修正処理方法の実施される画像修正処理装置の概略構成を示すブロック図である。
【図2】本発明による画像修正処理方法の一実施形態に係るゴミ領域抽出処理の流れを示すフローチャートである。
【図3】本発明による画像修正処理方法の一実施形態に係るゴミ領域補間処理の流れを示すフローチャートである。
【図4】本発明による画像修正処理方法の一実施形態に係る有効周辺画素数の説明のための模式図である。

Claims (13)

  1. 多数の画素からなるディジタル画像中の隣接する画素について画素信号の2次微分値が正の第1閾値を越える値から負の第2閾値未満の値へと変化する場所を検出し、それらの集合を輪郭としてゴミ領域候補を設定し、前記ゴミ領域候補のうちその内部の近接画素どうしの間での信号の変化が所定範囲内のものをゴミ領域として抽出処理することを特徴とする画像処理方法。
  2. 前記画素信号の2次微分値として前記ディジタル画像の信号を明度成分、彩度成分及び色相成分に分けたうちの明度成分の2次微分値を考慮することを特徴とする、請求項1に記載の画像処理方法。
  3. 前記ゴミ領域候補の内部の近接画素どうしの間での信号の変化として、前記ディジタル画像の信号を明度成分、彩度成分及び色相成分に分けたうちの明度成分及び彩度成分の変化を考慮することを特徴とする、請求項1〜2のいずれかに記載の画像処理方法。
  4. 前記ゴミ領域候補の設定に際して、前記画素信号の2次微分値が負の第2閾値未満の画素の集合を求めた後に、該画素の集合により囲まれる領域の周囲の画素のうちで前記画素信号の2次微分値が正の第1閾値を越える画素が占める割合を求め、該割合が所定値以上の場合に前記ゴミ領域候補と判定することを特徴とする、請求項1〜3のいずれかに記載の画像処理方法。
  5. 前記ゴミ領域候補の設定に際して、前記画素信号の2次微分値が正の第1閾値を越える画素の集合を求めた後に、該画素の集合により囲まれる領域の周囲の画素のうちで前記画素信号の2次微分値が負の第2閾値未満の画素が占める割合を求め、該割合が所定値以上の場合に前記ゴミ領域候補と判定することを特徴とする、請求項1〜3いずれかに記載の画像処理方法。
  6. 前記ゴミ領域抽出処理においてゴミ領域が1つも抽出されなかった場合には、前記第1閾値、前記第2閾値及び前記所定範囲のうちの少なくとも1つを変えた上で、再び前記ゴミ領域抽出処理を行うことを特徴とする、請求項1〜5のいずれかに記載の画像処理方法。
  7. 前記ゴミ領域抽出処理において抽出されたゴミ領域を提示し、提示された抽出ゴミ領域のうちの所望以外のものをゴミ領域の指定から解除することを特徴とする、請求項1〜6のいずれかに記載の画像処理方法。
  8. ゴミ領域内の画素の信号を当該画素の周囲の有効な画素の信号を用いて補間処理し、該補間処理を前記ゴミ領域内の外側の画素から内側の画素へと進行させ、前記補間処理の際に、隣接する有効画素の数の多い画素から順に補間することを特徴とする画像処理方法。
  9. ゴミ領域内の画素の信号を当該画素の周囲の有効な画素の信号を用いて補間処理し、該補間処理の際に、既に補間処理された画素を新たな有効画素として扱うことによって前記ゴミ領域内の画素を順次補間していき、前記補間処理の際に、隣接する有効画素の数の多い画素から順に補間することを特徴とする画像処理方法。
  10. 前記ゴミ領域として請求項1〜7のいずれかの方法により抽出されたものを用いることを特徴とする、請求項8〜9のいずれかに記載の画像処理方法。
  11. 前記補間処理の際に、前記隣接する有効画素の数が同じである画素については、それらの全ての画素の補間値だけを求めた後にそれらの画素を補間することを特徴とする、請求項8〜10のいずれかに記載の画像処理方法。
  12. 前記補間処理の前に、該補間処理を受ける前の画像の画素信号を記憶することを特徴とする、請求項8〜11のいずれかに記載の画像処理方法。
  13. 前記補間処理後に、該補間処理により補間された画像の画素信号を前記記憶された補間処理を受ける前の画像の画素信号に置き換えることを特徴とする、請求項12に記載の画像処理方法。
JP03236697A 1997-02-17 1997-02-17 画像処理方法 Expired - Fee Related JP3762019B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP03236697A JP3762019B2 (ja) 1997-02-17 1997-02-17 画像処理方法
US09/024,273 US6125213A (en) 1997-02-17 1998-02-17 Image processing method, an image processing apparatus, and a storage medium readable by a computer

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP03236697A JP3762019B2 (ja) 1997-02-17 1997-02-17 画像処理方法

Publications (2)

Publication Number Publication Date
JPH10228536A JPH10228536A (ja) 1998-08-25
JP3762019B2 true JP3762019B2 (ja) 2006-03-29

Family

ID=12356961

Family Applications (1)

Application Number Title Priority Date Filing Date
JP03236697A Expired - Fee Related JP3762019B2 (ja) 1997-02-17 1997-02-17 画像処理方法

Country Status (1)

Country Link
JP (1) JP3762019B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000051337A1 (fr) * 1999-02-25 2000-08-31 Fujitsu Limited Dispositif de traitement d'images et procede de traitement d'images
JP4111181B2 (ja) 2004-09-30 2008-07-02 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置
JP4265517B2 (ja) 2004-09-30 2009-05-20 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置
JP4244899B2 (ja) 2004-09-30 2009-03-25 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置
JP4244898B2 (ja) 2004-09-30 2009-03-25 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置
JP4165488B2 (ja) 2004-09-30 2008-10-15 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置
JP3918844B2 (ja) 2004-09-30 2007-05-23 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置
JP4075881B2 (ja) 2004-09-30 2008-04-16 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置
JP4305369B2 (ja) 2004-11-10 2009-07-29 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置
JP5402131B2 (ja) * 2009-03-19 2014-01-29 株式会社ニコン 画像処理装置および撮像装置
US8665347B2 (en) 2009-07-21 2014-03-04 Nikon Corporation Image processing device, image processing program, and imaging device computing brightness value and color phase value
JP5304529B2 (ja) 2009-08-17 2013-10-02 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
JP5750934B2 (ja) * 2011-02-21 2015-07-22 株式会社ニコン 画像処理装置および画像処理プログラム
JP5316662B2 (ja) * 2012-03-08 2013-10-16 株式会社ニコン 画像処理装置、画像処理プログラムおよび撮像装置

Also Published As

Publication number Publication date
JPH10228536A (ja) 1998-08-25

Similar Documents

Publication Publication Date Title
JP3762019B2 (ja) 画像処理方法
JPH02162475A (ja) 画像輪郭修正方法
JP3862621B2 (ja) 画像処理装置、画像処理方法、及びそのプログラム
JP2003283878A (ja) 画質改善方法
JPH1132236A (ja) 画像処理装置
CN115578294B (zh) 图像增强方法、装置、设备及存储介质
KR101089902B1 (ko) 디지털 이미지의 에지 영역 판단 장치 및 방법
JP3804906B2 (ja) 線画像処理方法及び記録媒体
JP3909604B2 (ja) 画像処理装置および画像処理方法
JP2790604B2 (ja) 画像処理装置
JP3881119B2 (ja) モアレ除去装置
JP4084719B2 (ja) 画像処理装置および該画像処理装置を備える画像形成装置、ならびに画像処理方法、画像処理プログラムおよびコンピュータ読み取り可能な記録媒体
JPH08317255A (ja) 画質改善方法および画質改善装置
JP3007102B2 (ja) 画像処理装置
JPH0816773A (ja) 画像処理方法
JP4013491B2 (ja) 画像処理のための装置、方法及びプログラム
JP2004148704A (ja) 画像処理方法,画像処理装置
JP4215225B2 (ja) 画像処理装置と画像処理方法
JP2002354253A (ja) 画像処理装置およびそのプログラム
JPH02128575A (ja) 画像処理装置
KR100213027B1 (ko) 영상신호 잡음제거기
JP3935648B2 (ja) 孤立点除去装置
JP2001052159A (ja) 画像処理装置および方法、ならびに画像フィルタおよび画像フィルタリング方法
JP2010004130A (ja) 画像処理プログラム及び画像処理装置
JPH11328386A (ja) 画像処理装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050620

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050817

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060112

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100120

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110120

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120120

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130120

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140120

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees