JP3941403B2 - 画像濃淡ムラ検出方法及びこの検査装置 - Google Patents

画像濃淡ムラ検出方法及びこの検査装置 Download PDF

Info

Publication number
JP3941403B2
JP3941403B2 JP2001054908A JP2001054908A JP3941403B2 JP 3941403 B2 JP3941403 B2 JP 3941403B2 JP 2001054908 A JP2001054908 A JP 2001054908A JP 2001054908 A JP2001054908 A JP 2001054908A JP 3941403 B2 JP3941403 B2 JP 3941403B2
Authority
JP
Japan
Prior art keywords
captured image
image
reduced
area
original
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001054908A
Other languages
English (en)
Other versions
JP2002259971A (ja
Inventor
純一 斉藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toppan Inc
Original Assignee
Toppan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toppan Inc filed Critical Toppan Inc
Priority to JP2001054908A priority Critical patent/JP3941403B2/ja
Publication of JP2002259971A publication Critical patent/JP2002259971A/ja
Application granted granted Critical
Publication of JP3941403B2 publication Critical patent/JP3941403B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Testing Of Optical Devices Or Fibers (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は本来検査領域内全域において一定濃度であることが期待される検査対象物に生じた部分的な濃淡ムラを撮像画像から解析、検出する画像処理方法に関するものであり、特にカラーフィルターなどのムラ検査において用いられる画像処理方法に関するものである。
【0002】
【従来の技術】
カラー液晶表示装置の色表示用のカラーフィルターやカラービデオカメラ等の色分解用カラーフィルターの製品検査として画像解析装置を用いたムラの検査が行われている。この画像解析装置は通常、画像入力装置、コンピュータ、照明および付属装置類からなり、カラーフィルターを透過光撮影することによって画像データを得た後、コンピュータによって画像処理を行い、ムラ領域を特定している。
これに用いられる画像処理方法としては、撮像画像データの1画素毎にデジタルフィルタ、2次微分処理等を施した後、別途設定した閾値と比較して閾値を越えた部分をムラ領域として特定するというものである。
【0003】
しかしながら、製造プロセス上の避けられない要因からカラーフィルターには液ハネや粉塵に起因する小さな点状のムラからレジストコーティング装置に起因するスジ状、同心円状の大きなムラまで様々な大きさのムラが発生するのが現実である。また、人間の視覚特性上、サイズの大きなムラは輝度差が小さくても目立ちやすくなることが解っている。
【0004】
従来の方法では検出しようとするムラのサイズ、形状毎にデジタルフィルタを複数用意し、それらを繰り返し適用することによってあらゆる種類のムラを検出しようとするものであった。この場合特に大きいサイズのムラを検出するデジタルフィルタはマトリックスのサイズも大きくなるため計算量が膨大となり、時間上の制約からある程度以上のサイズのデジタルフィルタを適用することは現実的ではなかった。また、サイズの大きなムラは検出すべき輝度差が小さいため画像に重畳されたノイズ等の影響を受け、誤検出が発生しがちであった。
【0005】
【発明が解決しようとする課題】
本発明はこのような従来の課題に鑑みなされたものであり、従来の技術で説明した製品検査の画像処理部分に対する解決手段を提供するものである。本発明の目的とするところは、カラーフィルターなどの検査に適用してあらゆるサイズのムラを要求品質に合わせて感度良く検出すること、特にサイズが大きく、濃度差の小さいムラを誤検出を抑えつつ感度良く高速に検出させることにある。
【0006】
【課題を解決するための手段】
上記課題を解決するためになされた請求項1に記載の発明は、検査対象物を撮影して得られた2次元濃淡画像を解析し、部分的に濃度が高いあるいは低い領域(ムラ領域)を特定する画像解析において、
(1)検査対象物を撮像装置で、原撮像画像と原撮像画像に対し縮尺の異なる1つ以上の縮小撮像画像とを作成する工程と、
(2)原撮像画像および縮小撮像画像のそれぞれに別途設定した受光光量値閾値との比較結果に基づいて、閾値範囲外の受光光量値を持つ撮像画像を構成するドットに図(例えば黒ドットとして1)、それ以外のドットに背景(例えば白ドットとして0)を割り当てて2値化処理をする工程と、
(3)原撮像画像及び縮小撮像画像の図(黒ドットとして1)であるドットが互いに隣接してなる領域を求めて各領域の面積を演算する工程と
(4)さらに前記(3)に記載する工程で算出した原撮影画像及び縮小撮像画像の各領域の面積が、別途設定した面積閾値以下のものは除外して、背景(例えば白として0)とする2値化処理をする工程と、
(5)(4)の工程で面積閾値以下のものが除外され2値化処理された縮小撮像画像を、面積閾値以下のものが除外され2値化処理された原撮像画像に論理和としてマッピングする工程と、
(6)マッピングして得られる2値画像において図(黒ドットとして1)である領域をムラ領域であるとする工程と、
を少なくとも有することを特徴とする画像濃淡ムラ検出方法である。
【0007】
また請求項2に記載の発明は、原撮像画像および縮小撮像画像のそれぞれにデジタルフィルタ等の画像処理を適用した後、請求項1に記載した処理工程を行なうことを特徴とする画像濃淡ムラ検出方法である。
この方法は、必要に応じて撮像画像にノイズ除去、アンシャープ、強調処理等の画像処理を施し、目的とするムラのコントラストを高めておくことで後の処理がし易くなる。
【0008】
また請求項3に記載の発明は、(a)検査対象物を照射する光源と、(b)透過光或いは反射光で、検査対象物の原撮像画像、および原撮像画像とは縮尺の異なる1つ以上の縮小撮像画像を撮像する撮像装置と、(c)撮像装置から得られた原撮像画像および縮小撮像画像原撮像画像および縮小撮像画像を受光光量値閾値及び面積閾値で2値化処理したデータ、及びマッピングされたデータをそれぞれ記憶するメモリと、原撮像画像および縮小撮像画像を受光光量値閾値及び面積閾値で2値化処理する2値化処理手段と、受光光量値閾値及び面積閾値で2値化処理された縮小撮像画像を、受光光量値閾値及び面積閾値で2値化処理された原撮像画像に論理和としてマッピングするマッピング手段と、これらを制御・管理するCPUとを少なくとも具備する演算処理コンピュータと、(d)受光光量値閾値及び面積閾値を入力する入力装置と(e)演算処理された画像を表示する表示装置と、から構成されていることを特徴とする画像濃淡ムラ検出装置である。
【0009】
【発明の実施の形態】
以下、本発明を図面に基づいて詳細に説明する。
図1は、2個の撮像倍率の異なる撮像画像において、画像濃度ムラ検出方法を示すフローチャートであり、図2〜図5は、この方法によって処理・表示される画像を示す平面図である。
【0010】
検査対象物を撮像装置で撮像し、原撮像画像と縮小撮像画像を得る。(step1)
図2は原撮像画像を原寸(等)倍率、縮小撮像画像を縮小倍率60%で検査対象物を撮像した画像であり、(a)は原寸(等)倍率の原撮像画像、(b)は縮小撮像画像をそれぞれ示す平面図である。
図2(a)に示す如く、原撮像画像(10)には、濃度が高く面積が大きい領域(11a)、濃度が高く面積が小さい領域(11b)、濃度が低く面積が大きい領域(12a、13)、濃度が低く面積が小さい領域(12b)が混在した画像が得られたとする。
同様に、図2(b)に示す如く、縮小撮像画像(20)にも、それそれが縮小された状態で、濃度が高く面積が大きい領域(21a)、濃度が高く面積が小さい領域(21b)、濃度が低く面積が大きい領域(22a、23)、濃度が低く面積が小さい領域(22b)が混在した画像が得られる。
【0011】
検査対象物を撮像して得られる画素(ドット)受光光量値を、設定された下限及び上限の受光光量値閾値で2値化する。(step2)
図6に示すように検査対象物を透過光で撮像すると、濃度の高い領域は受光光量値が小さく、反対に濃度の低い領域は受光光量値が大きくなる。この撮像して得られた受光光量値を前記閾値で2値化すると、図3(a)(b)に示すように上限の閾値より濃度の高い領域(11a、11b、21a、21b)及び下限の閾値より濃度の低い領域(12a、12b、22a、22b、13)に対応するドッドが図(以下1−ドットと記す)となり、これ以外の領域に対応するドッドが背景(以下0−ドットと記す)となる。
【0012】
次に図3(a)、(b)に示す受光量値閾値で2値化された1―ドットの領域(11a、11b、12a、12b、13,21a、21b、22a、22b、23)でドットが互いに隣接している領域の面積を演算し算出する。(step3)
【0013】
この図3(a)、(b)に対して、別途入力された面積閾値より小さい領域を0−ドットに割り当て2値化し、背景として消去する。(step4)
この背景として消去した画像が図4(a)、(b)である。
図4(a)において、図3(a)に示した面積閾値より小さい領域(11b)は消去されており、図4(b)において、図3(b)に示した面積閾値より小さい領域(21b、23)は消去されている。
このように、図4(a)と、図(b)とは、相似形にならない現象は、上記の受光光量値閾値、面積閾値をムラとして検出する感度に応じて、(すなわち、どの程度の濃度差をムラとするのか、どの位の大きさをムラとするのか、要求される製品の品質基準に応じて)、撮像画像毎に設定されるために起こり得ることである。
この例では、図4(a)で図3(a)の1−ドッドである13の領域が残り、図4(b)では、図3(b)の23の領域が消去されているが、当然のことながら閾値の設定によっては反対に図4(a)の13の領域が消去され、図4(b)の23の領域が残ることもある。
【0014】
step4で作成された図4(a)、(b)の2値化された画像を論理和としてマッピングする。(step5)
すなわち、図4(b)の縮小撮像画像を図4(a)の原撮像画像の大きさに拡大し、両者を重ね合わせで、図5に示すように論理和が1−ドット(黒)となる領域がムラであると検出されることになる。(step6)
【0015】
上述のムラ検出方法において、縮小画像を作成することにより画像に重畳したノイズも同時に縮小され、ノイズ成分を減少させることが可能となる。また、1つ以上ある縮小画像のうち、発生したムラのサイズに適合した縮小率の縮小画像においてはムラ部分のコントラストを向上させることが可能になるが、この作用は縮小率が高い画像、すなわちサイズの大きなムラに関して特に効果が大きい。
続いて原撮像画像および各縮小撮像画像についてそれぞれ2値化を行ない、しかる後に面積閾値以下の領域を除外することによってさらにノイズの誤検出を減少させることが可能となる。最後に原撮像2値化画像および各縮小撮像2値化画像の論理和をとることによってあらゆるサイズのムラを感度良く検出することが可能となる。また、縮小撮像画像を作成し、その縮小撮像画像に対して処理を行なうことにより計算の負荷が少なく、高速な処理が可能となる。
本発明の処理方法は上記各作用の結果として、あらゆるサイズのムラを感度良く検出すること、特にサイズが大きく、輝度差の小さいムラを誤検出を抑えつつ感度良く高速に検出することが可能になるという作用をもたらす。
【0016】
図6に、このムラ検出方法を実現する装置をブロック図で示す。
光源(1)から検査対象物(2)に照射し、透過光或いは反射光によりCCD撮像素子、フォトマル撮像素子等を用いた撮像装置(3)で受光光量を電気信号に変換し、この受光光量値データを演算処理コンピュータ(4)に入力し処理する。演算処理コンピュータ(4)には受光光量値データを例えば8ビット、256階調に変換してメモリ(4a)に記憶させる。
この受光光量値データをキーボード等の入力装置(6)で入力された受光光量値閾値(6a)によって、受光光量値閾値の上限値より大きい受光光量値、及び下限値より小さい受光光量値が1−ドット、これ以外の受光光量値は0−ドットとする2値化手段(4b)によって2値化されメモリ(4a)に記憶させる。
【0017】
更に、受光光量値閾値で2値化されたデータを、入力装置(6)で入力された面積閾値(6b)より小さい領域を0−ドット、面積閾値より大きい領域を1−ドットとする2値化手段(4b)によって2値化されメモリ(4a)に記憶させる。
【0018】
この面積閾値で2値化された原撮像画像と縮小撮像画像を論理和としてマッピング手段(4c)でマッピングしてメモリ(4a)に記憶させると同時に、CRTや液晶ディスプレイ或いはプリンター等の表示手段(7)で表示させる。
【0019】
ムラ検出は上記の受光光量値閾値、面積閾値に依存するので、検査対象物の要求品質によって変化させれば良い。全く検査対象物にムラがなければ何も表示されない。
また、上記の説明では、縮小撮像画像が1個であるが、検査対象物の要求品質によって2個以上であってもよい。縮小画像を得るにはレンズの拡大率、レンズー被写体間の距離を変える方法や原画像の画像処理によって縮小してもよい。
【0020】
【実施例】
以下に、 本発明の実施例を説明する。
[実施例1]
検査対象物を撮像装置で撮像し800×600ドット、256階調の原撮像画像(図7(a))、及び図7(b)、(c)、(d)に示すように1/2縮小(400×300ドット)、1/4縮小(200×150ドット)、1/8縮小(100×75ドット)の縮小撮像画像を作成した。
【0021】
これらに対して受光光量値閾値として、原撮像画像に対して下限50、上限205、
1/2縮小撮像画像に対して、下限65、上限190、
1/4縮小撮像画像に対して、下限80、上限175、
1/8縮小撮像画像に対して、下限95、上限160
をそれぞれ設定し2値化処理を行なった。この2値化処理された画像を図8にそれぞれ示す。
【0022】
得られた図8に示す2値化画像に対し、原撮像画像に対して面積閾値3ドット、1/2縮小撮像画像に対して面積閾値10ドット、1/8縮小撮像画像に対して面積閾値20ドット、1/8縮小撮像画像に対して面積閾値30ドットを設定し、それそれ閾値以下の面積を持つ領域を除外した。この面積閾値で2値化した画像を図9に示す。
【0023】
上記の受光光量閾値及び面積閾値で2値化された図9に示す各縮小撮像2値化画像を原撮像2値化画像に論理和をとってマッピングした結果が図10であり、黒く表示された部分がムラであると判定されたことになる。
【0024】
図7に示す画像に輪郭強調させるデジタルフィルタをかけた画像に対して、上記の実施例1のごとき処理を行ない、各縮小撮像2値化画像を原撮像2値化画像に論理和をとってマッピングすることによりムラを検出してもよい。
【0025】
【発明の効果】
以上詳細に説明したように、本発明の処理によれば、縮小画像を作成することにより画像に重畳したノイズを減少させることが可能となるという効果が得られる。
また、1つ以上ある縮小画像のうち、発生したムラのサイズに適合した縮小率の縮小画像においてはムラ部分のコントラストを向上させることが可能になるという効果が得られるが、この作用は縮小率が高い画像、すなわちサイズの大きなムラに関して特に高い効果を奏する。続いて原画像および各縮小画像についてそれぞれ2値化を行ない、しかる後に面積閾値以下の領域を除外することによってさらにノイズの誤検出を減少させることが可能となるという効果が得られる。
最後に原撮像2値化画像および各縮小撮像2値化画像の論理和をとることによってあらゆるサイズのムラを感度良く検出することが可能となるという効果が得られる。また、縮小撮像画像を作成し、その縮小画像に対して処理を行なうことにより計算の負荷が少なく、高速な処理が可能となるという効果も得られる。
本発明の処理方法は上記各効果の結果として、あらゆるサイズのムラを要求品質に応じて感度良く検出すること、特にサイズが大きく、輝度差の小さいムラを誤検出を抑えつつ感度良く高速に検出することが可能になるという効果を奏する。
【図面の簡単な説明】
【図1】本発明の画像濃淡ムラ検出方法を示すフローチャートである。
【図2】検査対象物を撮像した画像を示す図である。
【図3】図2を受光光量値閾値で2値化した図である。
【図4】図3を面積閾値で2値化した図である。
【図5】画像濃淡ムラを検出した図である。
【図6】画像濃淡ムラ検出装置のブロック図である。
【図7】実施例1の検査対象物を撮像した図であり、
(a)は原撮像画像、(b)は1/2縮小画像、(c)は1/4縮小画像、(d)は1/8縮小画像を、それぞれ示す。
【図8】図7を受光光量値閾値で2値化した図であり、
(a)は原撮像画像、(b)は1/2縮小画像、(c)は1/4縮小画像、(d)は1/8縮小画像を、それぞれ受光光量値で2値化した図である。
【図9】図8を面積閾値で2値化した図であり、
(a)は原撮像画像、(b)は1/2縮小画像、(c)は1/4縮小画像、(d)は1/8縮小画像を、それぞれ面積閾値で2値化した図である。
【図10】実施例1の画像濃淡ムラを検出した図である。
【符号の説明】
1…光源 2…検査対象物
3…撮像装置 4…演算処理コンピュータ
4a…メモリ 4b…2値化手段
4c…マッピング手段 5…CPU
6…入力装置 6a…受光光量値閾値
6b…面積閾値 7…表示装置
10…原撮像画像
11a…濃度が高く面積が大きいムラ領域
11b…濃度が高く面積が小さいムラ領域
12a…濃度が低く面積が大きいムラ領域
12b…濃度が低く面積が小さいムラ領域
13…濃度が高く面積が大きいムラ領域
20…縮小撮像画像
21a…濃度が高く面積が大きいムラ領域
21b…濃度が高く面積が小さいムラ領域
22a…濃度が低く面積が大きいムラ領域
22b…濃度が低く面積が小さいムラ領域
23…濃度が高く面積が大きいムラ領域
30…ムラ表示画面

Claims (3)

  1. 検査対象物を撮影して得られた2次元濃淡画像を解析し、部分的に濃度が高いあるいは低い領域(ムラ領域)を特定する画像解析において、
    (1)検査対象物を撮像装置で、原撮像画像と原撮像画像に対し縮尺の異なる1つ以上の縮小撮像画像とを作成する工程と、
    (2)原撮像画像および縮小撮像画像のそれぞれに別途設定した受光光量値閾値との比較結果に基づいて、閾値範囲外の受光光量値を持つ撮像画像を構成するドットに図(例えば黒ドットとして1)、それ以外のドットに背景(例えば白ドットとして0)を割り当てて2値化処理をする工程と、
    (3)原撮像画像及び縮小撮像画像の図(黒ドットとして1)であるドットが互いに隣接してなる領域を求めて各領域の面積を演算する工程と
    (4)さらに前記(3)に記載する工程で算出した原撮影画像及び縮小撮像画像の各領域の面積が、別途設定した面積閾値以下のものは除外して、背景(例えば白として0)とする2値化処理をする工程と、
    (5)(4)の工程で面積閾値以下のものが除外され2値化処理された縮小撮像画像を、面積閾値以下のものが除外され2値化処理された原撮像画像に論理和としてマッピングする工程と、
    (6)マッピングして得られる2値画像において図(黒ドットとして1)である領域をムラ領域であるとする工程と、を少なくとも有することを特徴とする画像濃淡ムラ検出方法。
  2. 原撮像画像および縮小撮像画像のそれぞれにデジタルフィルタ等の画像処理を適用した後、請求項1に記載した処理工程を行なうことを特徴とする画像濃淡ムラ検出方法。
  3. (a)検査対象物を照射する光源と、
    (b)透過光或いは反射光で、検査対象物の原撮像画像、および原撮像画像とは縮尺の異なる1つ以上の縮小撮像画像を撮像する撮像装置と、
    (c)撮像装置から得られた原撮像画像および縮小撮像画像原撮像画像および縮小撮像画像を受光光量値閾値及び面積閾値で2値化処理したデータ、及びマッピングされたデータをそれぞれ記憶するメモリと、原撮像画像および縮小撮像画像を受光光量値閾値及び面積閾値で2値化処理する2値化処理手段と、受光光量値閾値及び面積閾値で2値化処理された縮小撮像画像を、受光光量値閾値及び面積閾値で2値化処理された原撮像画像に論理和としてマッピングするマッピング手段と、これらを制御・管理するCPUとを少なくとも具備する演算処理コンピュータと、
    (d)受光光量値閾値及び面積閾値を入力する入力装置と
    (e)演算処理された画像を表示する表示装置と、
    から構成されていることを特徴とする画像濃淡ムラ検出装置。
JP2001054908A 2001-02-28 2001-02-28 画像濃淡ムラ検出方法及びこの検査装置 Expired - Fee Related JP3941403B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001054908A JP3941403B2 (ja) 2001-02-28 2001-02-28 画像濃淡ムラ検出方法及びこの検査装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001054908A JP3941403B2 (ja) 2001-02-28 2001-02-28 画像濃淡ムラ検出方法及びこの検査装置

Publications (2)

Publication Number Publication Date
JP2002259971A JP2002259971A (ja) 2002-09-13
JP3941403B2 true JP3941403B2 (ja) 2007-07-04

Family

ID=18915172

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001054908A Expired - Fee Related JP3941403B2 (ja) 2001-02-28 2001-02-28 画像濃淡ムラ検出方法及びこの検査装置

Country Status (1)

Country Link
JP (1) JP3941403B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4822468B2 (ja) * 2010-03-19 2011-11-24 レーザーテック株式会社 欠陥検査装置、欠陥検査方法、及びパターン基板の製造方法
CN104297258B (zh) * 2014-09-18 2016-11-30 景德镇陶瓷大学 一种圆形日用陶瓷器件的缺口检测方法
CN107807135B (zh) * 2017-07-31 2020-05-01 水利部交通运输部国家能源局南京水利科学研究院 一种透明材料内置裂纹起裂预警及扩展实时监测的方法

Also Published As

Publication number Publication date
JP2002259971A (ja) 2002-09-13

Similar Documents

Publication Publication Date Title
JP4160258B2 (ja) 勾配ベースの局部輪郭線検出のための新しい知覚的しきい値決定
JP2005331929A (ja) 画像解析方法、画像解析プログラム、及びそれらを有する画素評価システム
JP2005172559A (ja) パネルの線欠陥検出方法及び装置
JP2009036582A (ja) 平面表示パネルの検査方法、検査装置及び検査プログラム
JP2004212311A (ja) ムラ欠陥の検出方法及び装置
JP2005165387A (ja) 画面のスジ欠陥検出方法及び装置並びに表示装置
JP2004239733A (ja) 画面の欠陥検出方法及び装置
JP4244046B2 (ja) 画像処理方法および画像処理装置
JP3941403B2 (ja) 画像濃淡ムラ検出方法及びこの検査装置
JP4520880B2 (ja) しみ検査方法及びしみ検査装置
JP3695120B2 (ja) 欠陥検査方法
JP2008070242A (ja) ノイズ除去方法および装置、ムラ欠陥検査方法および装置
KR20140082333A (ko) 평판디스플레이의 얼룩 검사 방법 및 장치
JP2004219291A (ja) 画面の線欠陥検出方法及び装置
JP2004219176A (ja) 画素ムラ欠陥の検出方法及び装置
JP2001028059A (ja) 色ムラ検査方法及び装置
JP3912063B2 (ja) 画像濃淡ムラの検出方法
JP2004226272A (ja) シミ欠陥の検出方法及び装置
JP3433333B2 (ja) 欠陥検査方法
JP4491922B2 (ja) 表面欠陥検査方法
JP2004286708A (ja) 欠陥検出装置、方法及びプログラム
JPH0624014B2 (ja) 濃淡画像の処理方法
JP2004219072A (ja) 画面のスジ欠陥検出方法及び装置
JP4084257B2 (ja) プリント基板検査装置
JP2007198850A (ja) むら検査方法及びむら検査装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070313

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070326

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100413

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110413

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120413

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120413

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130413

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees