JP2006058024A - 画像の一致度判定方法および装置 - Google Patents

画像の一致度判定方法および装置 Download PDF

Info

Publication number
JP2006058024A
JP2006058024A JP2004237251A JP2004237251A JP2006058024A JP 2006058024 A JP2006058024 A JP 2006058024A JP 2004237251 A JP2004237251 A JP 2004237251A JP 2004237251 A JP2004237251 A JP 2004237251A JP 2006058024 A JP2006058024 A JP 2006058024A
Authority
JP
Japan
Prior art keywords
image
product
coincidence
degree
contour
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004237251A
Other languages
English (en)
Other versions
JP4410635B2 (ja
Inventor
Tasuku Yuguchi
翼 湯口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Optex FA Co Ltd
Original Assignee
Optex FA Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Optex FA Co Ltd filed Critical Optex FA Co Ltd
Priority to JP2004237251A priority Critical patent/JP4410635B2/ja
Publication of JP2006058024A publication Critical patent/JP2006058024A/ja
Application granted granted Critical
Publication of JP4410635B2 publication Critical patent/JP4410635B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】 撮影画像と基準となる画像とに位置ずれがあっても、短時間で正常な判定が可能な撮影画像の一致度判定方法および装置を提供する。
【解決手段】 ライン搬送中の製品を撮影した画像の濃淡を微分し、輪郭を抽出した画像を生成し、さらに当該輪郭を走査後の境界画素を用いて片側だけ膨張させる第1太線化処理した撮影処理画像と、登録基準画像との一致度を判定する。これにより、ライン搬送中に撮影画像の輪郭を太線化処理して一致度を判定するので、短時間で判定可能で、かつ、撮影画像の位置ずれがあっても、正常に判定できる。
【選択図】 図1

Description

本発明は、ライン搬送中の製品を撮影した画面と登録した基準画像とから、製品の形状や製品の表面に表れた製品の欠点を検出して、撮影画像の一致度を判定する方法および装置に関する。
図4は、従来における例えば生産ラインで次々に搬送される製品の良/不良(OK/NG)を判断するために、製品の形状や製品表面の文字または図形などを撮影した撮影画像と予め登録した基準画像との一致度を判定する方法を示す。図4(A)のように判定対象となる製品を撮影した画像について、図4(B)のようにその画像の濃淡(濃度信号)を微分し、輪郭情報を抽出して処理画像を生成する。一方、図4(C)のように予め基準となる製品を撮影した画像の濃淡を微分して、輪郭情報を抽出して登録基準画像を生成しておく。そして、図4(D)のように処理画像と登録基準画像とを重ね合わせることにより、両画像の一致度を判定し、製品の良、不良を判断する。
上記のように、撮影画像の濃淡を微分することにより、製品の形状や、製品表面に表れた傷や汚れ、文字や図形の欠けなどの製品の欠点があれば、撮影画像の輪郭の形状が変化した処理画像が得られるので、図4(D)のように、この処理画像と登録基準画像とを重ね合わせると違いの部分(例えば傷)が残るから、撮影画像のわずかな違いも検出できる。しかし、図4(E)のように、例えば撮影画像が少し傾くなど登録基準画像に対して位置ずれがあると、大部分が一致しないと認識され、正常に判定できなくなる。このずれをなくすために、撮影した画像の位置、角度、拡大率を微調整して、登録した画像に最も一致するようにサーチする必要がある。
この従来方法として、登録した基準画像の輪郭部分の画像を生成し、それをマスクデータとして、その領域を比較しない方法が知られている(例えば、特許文献1)。また、撮影した画像をサーチした後に、撮影した画像の位置の微調整をして登録した基準画像とのずれを少なくする方法も知られている(例えば、特許文献2)。
特開2001−216470号公報 特開平7−325882号公報
しかし、特許文献1では、撮影した画像の文字や図形の輪郭自体については何ら考慮されていないので、輪郭に欠けている部分がある場合、当該部分を検出できず正常な判定が困難となる。また、特許文献2では、撮影した画像を登録した基準画像に一致するように上下左右に少しずつずらして調整するので、時間がかかる。
本発明は、前記の問題点を解決して、撮影画像と基準となる画像とに位置ずれがあっても、短時間で正常な判定が可能な画像の一致度判定方法および装置を提供することを目的としている。
前記目的を達成するために、本発明にかかる撮影画像の一致度判定方法および装置は、ライン搬送中の製品を撮影した画像と登録した基準画像とから、製品の形状や製品の表面に表れた製品の欠点を検出して、撮影画像の一致度を判定するものであって、基準となる製品を撮影した画像の濃淡(濃度信号)を微分し、輪郭を抽出して生成した登録基準画像を予め記憶しておき、ライン搬送中の製品を撮影した画像の濃淡を微分して、輪郭を抽出した画像を生成し、さらにこの輪郭を当該画素の走査後方の境界(隣接)画素を用いて片側だけ膨張させる第1太線化処理した撮影処理画像を生成して、前記撮影処理画像と登録基準画像とを比較して、両画像の一致度を判定する。
ここで、第1太線化処理の「当該画素の走査後方の境界画素を用いて片側だけ膨張させる」とは、輪郭の当該画素について既に走査し終わった走査後方の境界(隣接)画素、つまり直前と直横に隣接する画素を用いて輪郭の片側だけ太線化させることをいう。
この構成によれば、ライン搬送中の製品を撮影した画像の濃淡を微分し、輪郭を抽出した画像を生成し、さらにこの輪郭を当該画素の走査後方の境界画素を用いて片側だけ膨張させる第1太線化処理した撮影処理画像と、登録基準画像との一致度を判定する。これにより、ライン搬送中に撮影画像の輪郭を太線化処理して一致度を判定するので、短時間で判定可能で、かつ、撮影画像の位置ずれがあっても、正常に判定できる。
好ましくは、前記製品の欠点が製品の形状や製品表面に表れた文字または図形の欠けである。したがって、従来検出が困難であった文字や図形の欠け部分を検出でき、短時間でより正常な判定が可能となる。
好ましくは、前記製品の欠点が製品表面に表れた傷または汚れであって、前記登録基準画像は、さらに前記登録基準画像の輪郭を当該画素の走査前後方の境界画素を用いて全体に膨張させる第2太線化処理して生成した登録基準太線化処理画像であり、さらに、前記撮影処理画像と前記登録基準太線化処理画像とを比較して、両画像の一致度を判定する。したがって、さらに製品表面に表れた傷または汚れを検出して、短時間かつ正常な検出が可能となる。
以下、本発明の実施形態を図面にしたがって説明する。図1は、本発明の一実施形態に係る撮影画像の一致度判定装置を示すブロック図である。本装置は、例えば生産ラインで次々に搬送される製品の良/不良(OK/NG)を判定するために、ライン搬送中の製品を撮影した画像と登録した基準画像とから、製品の形状や製品の表面に表れた製品の欠点を検出して、撮影画像の一致度を判定するものである。
図1のように、本装置は、イメージセンサ1、画像メモリ2、微分画像生成回路3、上下左右太線化処理手段4、領域反転手段5、欠け検出用メモリ6Aと汚れ検出用メモリ6Bを有する登録画像メモリ6、下右太線化処理手段7、画像重ね合わせ手段8、9、欠け画素数カウント手段10、汚れ画素数カウント手段11、しきい値超過判定手段12、13、および論理和回路14を備えている。
前記イメージセンサ1は、ライン搬送中の製品を撮影するもので、例えばCMOSイメージセンサが用いられが、CCDイメージセンサなどを用いてもよい。撮影した画像は画像メモリ2に記憶される。微分画像生成回路3は撮影した画像の濃淡(濃度信号)を微分して、輪郭を抽出した画像を生成する。
登録指示により、前記微分画像生成回路3で、基準となる製品を撮影した画像の濃淡を微分して、輪郭を抽出した画像が生成されると、登録基準画像として、登録画像メモリ(基準画像記憶手段)6の欠け検出用メモリ6Aに記憶される。この欠け検出用メモリ6Aに記憶された登録基準画像は製品表面に表れた文字または図形の欠けのような製品の欠点を検出するのに用いられる。この例では製品表面に表れた文字または図形の欠けを検出しているが、製品の形状のような製品の欠点を検出するようにしてもよい。
前記微分画像生成回路3で、基準となる製品を撮影した画像の濃淡を微分して、輪郭を抽出した画像が生成されると、上下左右太線化処理回路4は、画像の輪郭を走査前後方の境界画素を用いて全体に膨張させる第2太線化処理した画像を生成する。この画像は領域反転手段5により領域が反転されて、登録画像メモリ(基準画像記憶手段)6の傷汚れ検出用メモリ6Bに記憶される。この傷汚れ検出用メモリ6Bに記憶された登録基準画像は製品表面に表れた傷または汚れのような製品の欠点を検出するのに用いられる。この例では製品表面に表れた汚れを検出しているが、製品表面に表れた傷を検出するようにしてもよい。
前記微分画像生成回路3で、ライン搬送中の製品を撮影した画像の濃淡を微分して、輪郭を抽出した画像が生成されると、下右太線化処理回路4は、この輪郭を当該画素の走査後方の境界画素を用いて片側(下右)だけ膨張させる第1太線化処理した撮影処理画像を生成する。この実施形態では、画像の右上から上下方向に順次左方向へ走査しているので、輪郭の当該画素について既に走査し終わった走査後方の境界(隣接)画素を用いて輪郭の下右が太線化される。前記微分画像生成回路3および下右太線化処理回路4により、本発明の撮影処理画像生成手段20が構成される。
画像重ね合わせ手段8は、撮影処理画像の欠けを検出するように、撮影処理画像と登録基準画像とを比較するため、両画像を重ね合わせる。撮影処理画像の欠け画素数が欠け画素数カウント手段10によりカウントされ、当該欠け画素数が所定のしきい値を超過しているか否か、しきい値超過判定手段12による判定される。その一方、画像重ね合わせ手段9は、撮影処理画像の汚れを検出するように、撮影処理画像と登録基準画像とを比較するため、両画像を重ね合わせる。撮影処理画像の汚れ画素数が汚れ画素数カウント手段11によりカウントされ、当該汚れ画素数が所定のしきい値を超過しているか否か、しきい値超過判定手段13による判定される。そして、判定結果の論理和(OR)が論理和回路14で演算されて、OK/NG出力されて、撮影画像の一致度が判定される。前記画像重ね合わせ手段8、9、欠け画素数カウント手段10、汚れ画素数カウント手段11、しきい値超過判定手段12、13、および論理和回路14により、本発明の判定手段30が構成される。
以下に、上記構成の撮影画像の一致度判定装置の動作について説明する。
(1)登録基準画像の生成
図2に、予め基準画像記憶手段6に記憶される登録基準画像の生成過程を示す。まず、図2(A)のように、基準となる製品が撮影され、図2(B)のように、この撮影画像の濃淡を微分して、輪郭を抽出した画像が生成される。この微分画像が、撮影画像の欠けを検出するための登録基準画像として、欠け検出用メモリ6Aに予め記憶される。そして、図2(C)〜(E)のように、図2(B)の微分画像の輪郭が、当該画素の走査前後方の境界画素を用いて上下左右の全体に膨張させる第2太線化処理される。この太線化された画像は反転されて、撮影画像の汚れを検出するための登録基準太線化処理画像として、汚れ検出用メモリ6Aに予め記憶される。
(2)撮影処理画像の生成
図3に、撮影処理画像の生成過程を示す。図3(A)のように、ライン搬送中の製品を撮影した画像の濃淡を微分して、輪郭を抽出した画像が生成される。この微分画像の輪郭が、図3(B)のように、当該画素の走査後方の境界画素を用いて片側(下右)に膨張させる第1太線化処理される。この第1太線化処理は、第2太線化処理が走査前後方の境界画素を用いるので、画像の全データを一旦メモリに記憶させる必要があるのに対して、走査後方の境界画素を用いて太線化するので、全データをメモリに記憶させる必要がなく、ライン搬送中に製品を撮影しながら太線化を行うので、短時間で撮影画像の一致度を判定することができる。
(3)判定
撮影画像に欠けがある場合、図3(C)のように、撮影画像が第1太線化処理されている撮影処理画像と、図2(B)の第2太線化処理されていない(微分画像の)登録基準画像とを重ね合わせる。なお、図3(C)では図形中の輪郭部分のみを示している。図3(C)において、登録基準画像の輪郭の領域に、撮影処理画像の太線化していない部分、つまり、欠けの存在を示す微分された部分40の画素数(欠け画素数)を数える。登録基準画像の輪郭の領域に、撮影処理画像の太線化した部分が重なる場合には欠け部分は存在しない。そして、欠け画素数が所定のしきい値を超過しているか否かが判断される。この欠け画素数が小さいほど一致度が高いと判断される。
その一方、図3(B)のように、撮影画像に汚れがあって撮影処理画像に汚れの存在を示す微分された部分41がある場合、この撮影処理画像と図2(E)の反転させた第2太線化処理されている登録基準太線化処理画像とを重ね合わせて、登録基準太線化処理画像の輪郭以外の領域に、撮影処理画像の太線化した部分、つまり、汚れ部分41の画素数(汚れ画素数)を数える。登録基準太線化処理画像の輪郭以外の領域に、撮影処理画像の太線化していない部分が重なる場合には、および登録基準太線化処理画像の輪郭の領域には、汚れ部分は存在しない。そして、汚れ画素数が所定のしきい値を超過しているか否かが判断される。この汚れ画素数が小さいほど一致度が高いと判断される。第2太線化処理により登録基準画像の輪郭が太線化されているので、太線化した部分以外の領域は小さくなり、汚れ画素数のカウント範囲も狭くなって、処理を速くできる。
両方の判定結果の論理和(OR)が論理和回路14で演算されて、両方がしきい値を超過していない場合にOK出力され、少なくともいずれか1つがしきい値を超過しているとNG出力されて、撮影画像の一致度が判定される。
このように、本発明は、ライン搬送中の製品を撮影した画像の濃淡を微分し、輪郭を抽出した画像を生成し、さらに当該輪郭を走査後の境界画素を用いて片側だけ膨張させる第1太線化処理した撮影処理画像と、登録基準画像との一致度を判定する。これにより、ライン搬送中に撮影画像の輪郭を太線化処理して一致度を判定するので、短時間で判定可能で、かつ、撮影画像の位置ずれがあっても、正常に判定できる。
また、本発明は製品の形状や、製品表面に表れた傷や汚れ、文字や図形の欠けなどの製品の欠点を検出することができ、特に、従来検出が困難であった製品表面に表れた文字や図形の欠けの検出を可能とした。
なお、この実施形態では、製品表面に表れた文字または図形の欠け(または製品の形状)、および製品表面に表れた汚れ(または傷)の両方を検出しているが、いずれか一方を省略してもよい。
本発明の一実施形態に係る撮影画像の一致度判定装置を示すブロック図である。 登録基準画像の生成過程を示す図である。 撮影処理画像の生成過程を示す図である。 従来の撮影画像の一致度判定方法を示す図である。
符号の説明
1:イメージセンサ
6:基準画像記憶手段
20:撮影処理画像生成手段
30:判定手段

Claims (6)

  1. ライン搬送中の製品を撮影した画像と登録した基準画像とから、製品の形状や製品の表面に表れた製品の欠点を検出して、撮影画像の一致度を判定する方法であって、
    基準となる製品を撮影した画像の濃淡を微分し、輪郭を抽出して生成した登録基準画像を予め記憶しておき、
    ライン搬送中の製品を撮影した画像の濃淡を微分して、輪郭を抽出した画像を生成し、さらにこの輪郭を当該画素の走査後方の境界画素を用いて片側だけ膨張させる第1太線化処理した撮影処理画像を生成して、
    前記撮影処理画像と登録基準画像とを比較して、両画像の一致度を判定する、撮影画像の一致度判定方法。
  2. 請求項1において、
    前記製品の欠点が製品の形状や製品表面に表れた文字または図形の欠けである、撮影画像の一致度判定方法。
  3. 請求項1において、
    前記製品の欠点が製品表面に表れた傷または汚れであって、
    前記登録基準画像は、さらに前記登録基準画像の輪郭を当該画素の走査前後方の境界画素を用いて全体に膨張させる第2太線化処理して生成した登録基準太線化処理画像であり、
    さらに、前記撮影処理画像と前記登録基準太線化処理画像とを比較して、両画像の一致度を判定する、撮影画像の一致度判定方法。
  4. ライン搬送中の製品を撮影した画像と登録した基準画像とから、製品の形状や製品の表面に表れた製品の欠点を検出して、撮影画像の一致度を判定する装置であって、
    基準となる製品を撮影した画像の濃淡を微分し、輪郭を抽出して生成した登録基準画像を予め記憶する基準画像記憶手段と、
    ライン搬送中の製品を撮影した画像の濃淡を微分して、輪郭を抽出した画像を生成し、さらにこの輪郭を当該画素の走査後方の境界画素を用いて片側だけ膨張させる第1太線化処理した撮影処理画像を生成する撮影処理画像生成手段と、
    前記撮影処理画像と登録基準画像とを比較して、両画像の一致度を判定する判定手段と、
    を備えた撮影画像の一致度判定装置。
  5. 請求項4において、
    前記製品の欠点が製品の形状や製品表面に表れた文字または図形の欠けである、撮影画像の一致度判定装置。
  6. 請求項4において、
    前記製品の欠点が製品表面に表れた傷または汚れであって、
    前記基準画像記憶手段は、さらに前記登録基準画像の輪郭を当該画素の走査前後方の境界画素を用いて全体に膨張させる第2太線化処理して生成した登録基準太線化処理画像を予め記憶し、
    前記判定手段は、さらに前記撮影処理画像と前記登録基準太線化処理画像とを比較して、両画像の一致度を判定する、撮影画像の一致度判定装置。
JP2004237251A 2004-08-17 2004-08-17 画像の一致度判定方法および装置 Expired - Fee Related JP4410635B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004237251A JP4410635B2 (ja) 2004-08-17 2004-08-17 画像の一致度判定方法および装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004237251A JP4410635B2 (ja) 2004-08-17 2004-08-17 画像の一致度判定方法および装置

Publications (2)

Publication Number Publication Date
JP2006058024A true JP2006058024A (ja) 2006-03-02
JP4410635B2 JP4410635B2 (ja) 2010-02-03

Family

ID=36105621

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004237251A Expired - Fee Related JP4410635B2 (ja) 2004-08-17 2004-08-17 画像の一致度判定方法および装置

Country Status (1)

Country Link
JP (1) JP4410635B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021192371A1 (ja) * 2020-03-27 2021-09-30 日本電産株式会社 画像処理システムおよびコンピュータプログラム

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06152929A (ja) * 1992-11-04 1994-05-31 Ricoh Co Ltd 画像形成装置
JPH06290300A (ja) * 1993-03-31 1994-10-18 Toshiba Corp 像域識別装置
JPH07175926A (ja) * 1993-12-20 1995-07-14 Toppan Printing Co Ltd 絵柄検査装置
JPH08272965A (ja) * 1995-03-30 1996-10-18 Sanyo Electric Co Ltd 文字・図形品質検査装置
JPH0965118A (ja) * 1995-06-16 1997-03-07 Ricoh Co Ltd 画像処理装置
JP2000168260A (ja) * 1998-12-04 2000-06-20 Dainippon Printing Co Ltd 乱丁検出方法
JP2001338304A (ja) * 1999-08-26 2001-12-07 Nano Geometry Kenkyusho:Kk パターン検査装置、パターン検査方法および記録媒体
JP2003270162A (ja) * 2002-03-13 2003-09-25 Kanto Auto Works Ltd 車両塗面の微小欠陥検査装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06152929A (ja) * 1992-11-04 1994-05-31 Ricoh Co Ltd 画像形成装置
JPH06290300A (ja) * 1993-03-31 1994-10-18 Toshiba Corp 像域識別装置
JPH07175926A (ja) * 1993-12-20 1995-07-14 Toppan Printing Co Ltd 絵柄検査装置
JPH08272965A (ja) * 1995-03-30 1996-10-18 Sanyo Electric Co Ltd 文字・図形品質検査装置
JPH0965118A (ja) * 1995-06-16 1997-03-07 Ricoh Co Ltd 画像処理装置
JP2000168260A (ja) * 1998-12-04 2000-06-20 Dainippon Printing Co Ltd 乱丁検出方法
JP2001338304A (ja) * 1999-08-26 2001-12-07 Nano Geometry Kenkyusho:Kk パターン検査装置、パターン検査方法および記録媒体
JP2003270162A (ja) * 2002-03-13 2003-09-25 Kanto Auto Works Ltd 車両塗面の微小欠陥検査装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021192371A1 (ja) * 2020-03-27 2021-09-30 日本電産株式会社 画像処理システムおよびコンピュータプログラム

Also Published As

Publication number Publication date
JP4410635B2 (ja) 2010-02-03

Similar Documents

Publication Publication Date Title
JP2009294027A (ja) パターン検査装置及び方法
JP4410635B2 (ja) 画像の一致度判定方法および装置
JP2003057190A (ja) 外観検査装置
JP2005043235A (ja) 印刷物検査装置、及び印刷物検査プログラム
JP2002008029A (ja) 画像検査装置
JP5190619B2 (ja) 被検査物の検査方法及びその検査装置
JP2006035505A (ja) 印刷物の検査方法及び装置
JPH09161056A (ja) 円形容器内面検査方法
JP2021190515A (ja) ワーク取り残し判定システム
JP2004276476A (ja) 印刷物検査装置、印刷物検査方法、印刷物検査処理プログラム及び当該プログラムが記録された記録媒体
JP2007249526A (ja) 撮像装置及びその顔領域抽出方法
JPH06147855A (ja) 画像検査方法
JP2003203218A (ja) 外観検査装置および方法
JPH09288037A (ja) Lcdパネルの検査方法
JPH05342414A (ja) テンプレート作成装置及びパターン認識装置
JPH0735699A (ja) 表面欠陥検出方法およびその装置
JP3134280B2 (ja) 絵柄検査方法
JP2002318997A (ja) 2次元コード読取装置
JP4639140B2 (ja) 画像処理装置
JP2005038178A (ja) 検査対象物の基準マーク検査装置
JP2676990B2 (ja) 配線パターン検査装置
JP2004310396A (ja) 画像処理装置
JP3267372B2 (ja) パターンマッチング検査におけるマッチングパターン信号生成方法とその装置
JP3485975B2 (ja) 特定色領域抽出方式および特定色領域除去方式
JP2008170198A (ja) 輪郭部の欠け検査方法およびその装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070427

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090828

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091005

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091110

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091113

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151120

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees