JP4860452B2 - テンプレートマッチングを用いたマーク位置決め方法及び装置 - Google Patents

テンプレートマッチングを用いたマーク位置決め方法及び装置 Download PDF

Info

Publication number
JP4860452B2
JP4860452B2 JP2006339050A JP2006339050A JP4860452B2 JP 4860452 B2 JP4860452 B2 JP 4860452B2 JP 2006339050 A JP2006339050 A JP 2006339050A JP 2006339050 A JP2006339050 A JP 2006339050A JP 4860452 B2 JP4860452 B2 JP 4860452B2
Authority
JP
Japan
Prior art keywords
mark
peak
matching
template
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006339050A
Other languages
English (en)
Other versions
JP2008151607A (ja
Inventor
公子 藤江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Juki Corp
Original Assignee
Juki Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Juki Corp filed Critical Juki Corp
Priority to JP2006339050A priority Critical patent/JP4860452B2/ja
Publication of JP2008151607A publication Critical patent/JP2008151607A/ja
Application granted granted Critical
Publication of JP4860452B2 publication Critical patent/JP4860452B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、認識画像上を、マークを含むテンプレート画像を逐次移動させ、最大相関位置を求めるテンプレートマッチングを用いたマーク位置決め方法及び装置に係り、特に、部品実装機でマークを位置決めする際に、円形や多角形のマークの中心位置を精度良く検出することが可能なマーク位置決め方法及び装置に関する。
プリント基板上に配置された各種アライメントマークの位置決め方法として、マークをカメラで撮像し、何らかの画像処理を施してマーク位置を検出する手法が一般的である。
マークの位置決め手法として、例えばテンプレートマッチングを用いた手法がある。これは、認識画像上を、マークを含むテンプレート画像を逐次移動させ、最大相関位置を求める手法であるが、画素単位でしか相関を求められないため、画素より小さなサブピクセル単位で位置決めを行なうための手法が数多く提案されている(特許文献1、2、3)。
マーク等の図形をテンプレートマッチングによって位置決めする場合、認識したい画像と同じ形状・サイズのテンプレート画像を作成する必要がある。認識しようとする図形と、テンプレート画像上の図形にずれがある場合、相関位置のピークが出難い。
例えば円形のマークで、認識マークとテンプレート上のマークが同じサイズの場合と、サイズにずれがある場合との相関分布の違いを図1に例示する。図1(A)に示す如く、認識マークとテンプレート上のマークのサイズが一致している場合は、最大相関位置で高く尖ったピークとなるのに対して、図1(B)に示す如く、マークサイズが一致していない場合は、低く平坦なピークとなる。更に、図1(B)の下段に拡大して示すように、認識画像の濃度ムラやノイズの影響によって、平坦部には小さな凹凸が存在している。この状態で最大相関位置を検出し、先の手法によりサブピクセル精度で位置決めを行なっても、それは局所的な小さなピークを検出しているだけであって、実際に求めたいマーク位置とは大きく異なっている。又、濃度ムラやノイズの有無は撮影画像によって異なるので、検出位置が大きくばらつく原因にもなる。
部品実装機のマーク位置決めの場合、基板によってマークサイズにばらつきが大きかったり、同一マークを複数のカメラで認識したりするため、同一マークの認識であっても、認識の都度マークサイズが変動する場合がある。そのため、マークの位置決め精度が安定せず問題であった。
このような問題に対し、特許文献4では、テンプレートマッチングでの位置決めを粗位置決めとし、粗位置決めした周辺でマークエッジを検出し、検出したエッジの良否判定を行ない、良エッジのみからマークのサイズや位置を求める手法が提案されている。
又、特許文献5には、1段階前の解像度で検出したピーク情報から、次の解像度とのマッチング領域を設定することにより、等倍画像になるまで解像度を段階的に高めていくピラミッドマッチングを行なうことが記載されている。
特開平4−115376号公報 特許第2943257号公報 特開昭61−260235号公報 特許第3520758号公報 特開2001−148014号公報(段落[0005]図8)
しかしながら、特許文献4の手法では、エッジの良否判定、マークサイズの取得、マーク位置検出の各アルゴリズムを、マーク形状によって切換える必要がある。又、テンプレートマッチングの他に、詳細位置決めのための処理が必要なため、処理時間がかかってしまうという問題点がある。
又、特許文献5の手法のみでは、特許文献1〜3と同様の問題を解決できない。
本発明は、前記従来の問題点を解決するべくなされたもので、認識したいマークとテンプレート画像上のマークのサイズが異なっていても、テンプレートマッチングの他に詳細位置決めのための処理を必要とすることなく、精度良く位置決め可能とすることを課題とする。
本発明は、認識画像上を、マークを含むテンプレート画像を逐次移動させ、最大相関位置を求めるテンプレートマッチングを用いたマーク位置決め方法において、ピーク全体形状を把握し、尖ったピークであればピーク頂上部周辺の狭い範囲、平坦なピークであれば頂上の平坦部を全て含む広い範囲をサンプリング領域として、該サンプリング領域内で、座標に対して相関値の重みを付ける相関分布の加重平均から検出位置を算出するようにして、前記課題を解決したものである。
又、前記テンプレートマッチングに際して、1段階前の解像度で検出したピーク情報から、次の解像度でのマッチング領域を設定することにより、等倍画像になるまで解像度を段階的に高めていくピラミッドマッチングを行なうことができる。
本発明は、又、認識画像上を、マークを含むテンプレート画像を逐次移動させ、最大相関位置を求めるテンプレートマッチングを用いたマーク位置決め装置において、ピーク全体形状を把握する手段と、尖ったピークであればピーク頂上部周辺の狭い範囲、平坦なピークであれば頂上の平坦部を全て含む広い範囲をサンプリング領域とする手段と、該サンプリング領域内で、座標に対して相関値の重みを付ける相関分布の加重平均から検出位置を算出する手段と、を備えたことを特徴とするテンプレートマッチングを用いたマーク位置決め装置を提供するものである。
本発明によれば、認識したいマークとテンプレート画像上のマークのサイズが異なっていても、テンプレートマッチングの他に詳細位置決めのための処理を必要とすることなく、精度良く位置決めすることが可能となる。
以下図面を参照して、本発明の実施形態を詳細に説明する。
本発明の適用対象の一例である部品実装機を図2に示す。図において、吸着ヘッド1の吸着ノズル1aは、XY駆動機構(図示せず)により駆動されて、フィーダ2の位置に移動し、該フィーダ2から供給される部品3を吸着した後、認識カメラ6の上方に移動する。そこで部品3が下方から撮像され、その画像が処理されて、部品3の吸着ノズル1aにおける吸着位置ずれが補正され、搬送路11を介して搬送されてくる基板10上の所定位置に部品が実装される。部品3の正確な実装には、基板10が基準位置にあることが前提となるので、基板10の所定位置に基板マーク10a、10b、10cを形成し、これを吸着ヘッド1に取り付けたCCDカメラ(画像読取手段)12で上方から撮像して画像認識し、基板10の基準位置からのずれを求め、これを補正して部品搭載が行なわれている。
前記CCDカメラ12で撮像される基板マークの画像を処理する画像処理装置20の構成を図3に示す。CCDカメラ12からのアナログの画像信号は、画像処理装置20のA/D変換器20aにより、所定フォーマットのデジタル画像データに変換される。A/D変換器20aの出力する画像データは、画像メモリ20bに一旦記憶され、必要に応じて(あるいは所定の画像処理を経た後)D/A変換器20cを介してアナログデータに戻され、モニタ21で表示できるようになっている。
前記画像処理装置20の各部は、CPU20dにより制御され、CPU20dには、各種プログラム等を格納したROM20e、CPU20dのワークエリア等として使用されるRAM20f、認識対象となるマークの形状やサイズ等を記憶するマークデータ領域20g、生産用テンプレートメモリ20hが接続されている。又、CPU20dは、各部のコントローラ22を介して、他の装置、例えば部品実装機の基板10を搬送する搬送系、部品を吸着する吸着ヘッド1等を画像処理した結果に応じて制御できるようになっている。
このような構成において、図4及び図5のフローチャートを参照して、基板マークに適するモデルテンプレートの取得(ティーチング)及びマーク認識の手順を説明する。
ティーチングに際しては、図4に示す如く、まず、吸着ヘッド1を、例えば基板マーク10aの領域に移動させ、吸着ヘッド1に取り付けられたCCDカメラ12により、基板マーク10aを読み取り、A/D変換器20aでデジタルデータに変換して、画像メモリ20bに格納する(ステップS1)。続いて、画像メモリ20b内の画像データに対してマッチング処理を行なうべき領域、即ち、マッチングウィンドウWを設定する(ステップS2)。このマッチングウィンドウWの設定は、基板上のマーク領域から、濃度情報の検索等により基板マーク10aの位置等を粗く検出し、マッチング処理領域を特定するものであるので、その設定には、それ程の精度を必要とするものではない。
続いて、マッチングウィンドウW内の画像データから、濃度変化カーブ、その変極点、あるいは、これらの情報のマッチングウィンドウW内での位置等の特徴が抽出される(ステップS3)。ここでは、後述の生成されるモデルテンプレートを用いて基板マーク10aを認識するのに、少なくとも最低限必要な特徴部分が取り出され、例えば、基板マーク10aの射影データ、サイズ、濃度情報の最大/最小値の特徴が抽出される。
次にステップS4において、モデルテンプレートを作成する。例えば図6の31〜39の形状に対応している場合、ステップS3で抽出した画像の特徴、即ち、画像の最大濃度、最小濃度や、マークサイズに基づいて、まず31の形状で階調濃淡データを有する2次元のモデルテンプレートを生成する。
このようにして生成したモデルテンプレートと、マッチングウィンドウWの画像データと相関演算を行ない(ステップS5)、マッチング結果、例えばマッチング係数(相関係数)を、生成したモデルテンプレート、形状名と共にRAM20fに保存する(ステップS6)。
次いで、他のモデル形状32〜39でもモデルテンプレートを作成し、上記処理を繰り返す。全ての形状に対してモデルテンプレートを生成して、上記処理が終了した場合(ステップS7のYES)には、基板マーク10aに適するモデルテンプレートがあったかどうかを検索する(ステップS8)。これは、マッチング結果をモニタ21上に表示し、マッチング係数が設定値よりも大きいモデルテンプレートがあったかどうかを調べることにより行なわれる。設定値よりも大きいモデルテンプレートがあった場合(ステップS8のYES)には、そのうちマッチング係数が最大なものを基板マーク10a用のモデルテンプレートとして選択する(ステップS9)。
一方、ステップS8において、マッチング係数が設定値よりも大きいものが無く、適するテンプレートが無い場合には、モニタ21上にテンプレート一覧を表示し、その中からオペレータの確認作業によって、基板マーク10aに対するモデルテンプレートを選択する(ステップS10)。
次に、以上の処理を基板マーク10b、10cに対して行なう(ステップS12)。これにより、基板10の全ての基板マークのティーチングが行われたことになる。
ティーチング動作により得られたマーク形状やマークサイズは、マークの探索範囲や期待するマッチング係数等と共に、認識マーク毎にIDが付され、マークデータ領域20gに格納される(ステップS13)。
基板生産時には、図5に示す如く、まず生産(搭載)すべき基板種類(ID)が入力される(ステップS20)。続いて、この基板種の各基板マークに対応するモデルテンプレートを、マークデータ領域20gに格納されたマークデータから、それぞれ生成する(ステップS21)。なお、生成したモデルテンプレートは生産用テンプレートメモリ20hに格納しておく。ここでRAM20fに余裕がある場合は、図4のステップS13でマークデータを格納した段階でモデルテンプレートを生成し、RAM20fに予め格納しておくこともできる。
基板10が搬送路11に入って沿って搬入される(ステップS22)と、吸着ヘッド1は、基板マークが形成されているマーク領域にそれぞれ移動し、CCDカメラ12により、各基板マークの画像がそれぞれ読み取られる(ステップ23)。続いて、ステップS21で生成された該基板マークに対応するモデルテンプレートを用いて、テンプレートマッチングを行ない、各基板マークがそれぞれ認識される(ステップS24)。本発明は、この工程でのテンプレートマッチングを精度良く行なうためのものであり、詳細は後述する。
このマーク認識の結果に従って、基板の補正値が演算され(ステップS25)、コントローラ22を介して搬送路11を制御し、基板10の位置を補正し、基板10の位置決めが行なわれ(ステップS26)、続いて、部品搭載が行なわれる(ステップS27)。
本発明では、図1(A)のような高く尖ったピークに対しても、図1(B)のような低く平坦なピークに対しても有効で、しかも精度良く位置決めできるテンプレートマッチングを提供する。その位置決め手法の模式図(2次元表現)を図7に示す。
要は、最大相関位置周辺の局所演算を用いてサブピクセル演算を行なうのではなく、ピーク全体形状を把握し、尖ったピークであればピーク頂上部の狭い範囲、平坦なピークであれば、頂上の平坦部を含む広い範囲をサンプリング領域として、該サンプリング領域内の相関値の加重平均から検出位置を算出するというものである。
テンプレートマッチングでは、処理時間の短縮のため、一般的にピラミッドマッチングが用いられる。これは、特許文献5に記載されているように、等倍画像でテンプレートマッチングを行なう前に、解像度を何段階か落として、まず解像度が最も粗い画像で候補位置を絞り込み、この絞り込んだ領域内のみを対象として、次段階の解像度画像でマッチング演算を行ない、最終的に等倍画像で位置決めを行なうという手法である。
本実施形態では、このピラミッド演算と組合せて本発明を説明する。図8に本実施形態の手順を示す。
まず、認識画像、テンプレート画像共、解像度を落としたピラミッド画像を生成する(ステップS30)。最粗解像度をどこまで落とすかは、画像の大きさや認識マークサイズに応じて決めるようにする。
次に、解像度を最も落とした認識画像とテンプレート画像とでマッチング演算を行なう(ステップS31)。ここで求まる相関値の分布は、例えば図9(A)のようになっており、ある適当な閾値を設けることにより、図9(B)に黒色で示すように、この閾値を超えるピークを抜き出すことができる(ステップS32)。このとき用いる閾値は、最大相関値の何%かで求めても良いし、ユーザが期待するマークの相関値が分かっている場合は、この値を基準に閾値を定めても良い。ここで検出したピークの外接矩形を、図10に例示するように求めておく。
以降は、等倍画像になるまで解像度を段階的に上げていき(ステップS33)、前の階層で検出した各ピーク付近のみにマッチング演算を行なう。即ち、1段階前の解像度で検出したピーク情報から、次のマッチング領域を設定し(ステップS34)、ピークを囲む矩形(ピーク算出時に求めた外接矩形又は1段階前のマッチング領域)内で、ピークの中心位置、ピークの尖度(ピークの広がり量)を算出し、これを用いて、マッチング領域を設定し、このようにして求めたマッチング領域内でテンプレートマッチングを行なう(ステップS35)。
具体的には、図11に2次元で例示した如く、ピークを囲む矩形Aの境界4辺上(Sp上、Ep上)の最大相関値thrを閾値として得られる塊の外接矩形を、中心演算矩形Bとして設定する。
次いで、該中心演算矩形B内で、次式に示す如く、座標xに対して相関値V(x)の重みを付ける相関分布の加重平均を行ない、ピーク中心位置Cpを算出する。

Figure 0004860452
これにより、ピーク平坦部の凹凸に影響を受けず、ピーク中心が算出できる。
次いで、ピーク中心位置Cpから放射線状に周辺の相関分布を調査して、ピーク中心部の相関値に対して大きく変動する(例えばピーク相関位置の5%変動等)位置を算出する。このとき、相関分布を平滑化しても良い。
次いで、先に求めた変動位置を囲む矩形Dを、次のマッチング領域とする。
最粗層で検出した全てのピークに対してマッチングを終えたら(ステップS36でYES)、解像度を上げ(ステップS33)、ステップS34とS35を繰り返す。
等倍画像でのマッチングを終えたら(ステップS37でYES)、検出したピークの中で最も高いピークを選択し(ステップS38)、ピーク中心位置を算出し(ステップS39)、これを最終的な検出位置とする。
本実施形態においては、ピラミッドマッチングを併用しているので、簡単な計算で、ピーク中心位置を正確に求めることができる。なお、ピラミッドマッチングを行うことなく、等倍画像で直接、本発明によるテンプレートマッチングを行うこともできる。
前記実施形態においては、本発明が部品実装機に適用されていたが、本発明の適用対象は、これに限定されない。
従来の問題点を説明するための図 本発明の適用対象の一例である部品実装機の要部構成を示す斜視図 同じく画像処理装置の構成を示すブロック図 同じく基板マークに適するモデルテンプレートの取得(ティーチング)の手順を示す流れ図 同じくマーク認識の手順を示す流れ図 同じく基板マークの例を示す平面図 本発明によるテンプレートマッチングの概念を示す図 本発明の実施形態における処理手順を示す流れ図 同じく相関値の分布の例を示す図 同じく外接矩形を示す平面図 本発明による処理手順の詳細を示す図
符号の説明
1…吸着ヘッド
2…フィーダ
3…部品
10…基板
10a、10b、10c…基板マーク
11…搬送路
12…CCDカメラ
20…画像処理装置
22…コントローラ

Claims (3)

  1. 認識画像上を、マークを含むテンプレート画像を逐次移動させ、最大相関位置を求めるテンプレートマッチングを用いたマーク位置決め方法において、
    ピーク全体形状を把握し、
    尖ったピークであればピーク頂上部周辺の狭い範囲、平坦なピークであれば頂上の平坦部を全て含む広い範囲をサンプリング領域として、
    該サンプリング領域内で、座標に対して相関値の重みを付ける相関分布の加重平均から検出位置を算出することを特徴とするテンプレートマッチングを用いたマーク位置決め方法。
  2. 前記テンプレートマッチングに際して、1段階前の解像度で検出したピーク情報から、次の解像度でのマッチング領域を設定することにより、等倍画像になるまで解像度を段階的に高めていくピラミッドマッチングを行なうことを特徴とする請求項1に記載のテンプレートマッチングを用いたマーク位置決め方法。
  3. 認識画像上を、マークを含むテンプレート画像を逐次移動させ、最大相関位置を求めるテンプレートマッチングを用いたマーク位置決め装置において、
    ピーク全体形状を把握する手段と、
    尖ったピークであればピーク頂上部周辺の狭い範囲、平坦なピークであれば頂上の平坦部を全て含む広い範囲をサンプリング領域とする手段と、
    該サンプリング領域内で、座標に対して相関値の重みを付ける相関分布の加重平均から検出位置を算出する手段と、
    を備えたことを特徴とするテンプレートマッチングを用いたマーク位置決め装置。
JP2006339050A 2006-12-15 2006-12-15 テンプレートマッチングを用いたマーク位置決め方法及び装置 Expired - Fee Related JP4860452B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006339050A JP4860452B2 (ja) 2006-12-15 2006-12-15 テンプレートマッチングを用いたマーク位置決め方法及び装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006339050A JP4860452B2 (ja) 2006-12-15 2006-12-15 テンプレートマッチングを用いたマーク位置決め方法及び装置

Publications (2)

Publication Number Publication Date
JP2008151607A JP2008151607A (ja) 2008-07-03
JP4860452B2 true JP4860452B2 (ja) 2012-01-25

Family

ID=39653924

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006339050A Expired - Fee Related JP4860452B2 (ja) 2006-12-15 2006-12-15 テンプレートマッチングを用いたマーク位置決め方法及び装置

Country Status (1)

Country Link
JP (1) JP4860452B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011158346A (ja) * 2010-02-01 2011-08-18 Furuno Electric Co Ltd 画像処理装置、レーダ装置、画像処理方法および画像処理プログラム
JP5639797B2 (ja) * 2010-07-01 2014-12-10 株式会社日立ハイテクノロジーズ パターンマッチング方法,画像処理装置、及びコンピュータプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0812050B2 (ja) * 1991-06-07 1996-02-07 ジューキ株式会社 基板マーク位置検出方式
JPH0755429A (ja) * 1993-08-17 1995-03-03 Toshiba Corp 位置認識装置
JPH1021389A (ja) * 1996-07-03 1998-01-23 Mitsubishi Electric Corp テンプレートマッチング方法およびその装置
JPH11161795A (ja) * 1997-12-01 1999-06-18 Tani Denki Kogyo Kk 画像認識による計測方法および記録媒体
JP2001052167A (ja) * 1999-08-09 2001-02-23 Murata Mfg Co Ltd 画像処理方法
JP2001148014A (ja) * 1999-11-22 2001-05-29 Matsushita Electric Ind Co Ltd テンプレートパターンの自動決定方法
JP2002310618A (ja) * 2001-04-19 2002-10-23 Murata Mfg Co Ltd 寸法計測装置、寸法計測方法および電子部品の検査装置
JP2003075114A (ja) * 2001-08-31 2003-03-12 Juki Corp マーク検出装置

Also Published As

Publication number Publication date
JP2008151607A (ja) 2008-07-03

Similar Documents

Publication Publication Date Title
US6798925B1 (en) Method and apparatus for calibrating an image acquisition system
US7406191B2 (en) Inspection data producing method and board inspection apparatus using the method
JP5926881B2 (ja) 画像処理用部品データ作成方法及び画像処理用部品データ作成装置
KR100647750B1 (ko) 화상 처리 장치
JP4860452B2 (ja) テンプレートマッチングを用いたマーク位置決め方法及び装置
JP3974445B2 (ja) マーク認識方法および装置
JP2010147401A (ja) 電子部品装着装置及び画像歪補正方法
US20080008381A1 (en) Coordinate acquisition apparatus for test of printed board, and coordinate acquisition method and program for test thereof
JP4451192B2 (ja) 検査用データの作成方法、スクリーン印刷用検査装置、及び、検査機能付きスクリーン印刷機
JP2004118467A (ja) 部材傾き認識方法、部材傾き認識制御プログラム、可読記録媒体および外形認識装置、
JP2974794B2 (ja) 多角形部品の多視野認識方法
JP4008722B2 (ja) 電子部品の電極浮き検出方法及び装置
US7724940B2 (en) Method of accurately determining similarity between target image and reference image
JP2006112930A (ja) 対象物の形状判別方法及び装置
JPH10260016A (ja) 画像認識装置
JP2006196625A (ja) 部品データ作成方法
JP2008181261A (ja) 対象物の輪郭線抽出方法及び装置
JP2002216130A (ja) 画像認識方法と画像認識装置、及び部品実装装置
JPH08167800A (ja) 部品実装装置
JP2006200900A (ja) 対象物の認識方法及び装置
JPH01251176A (ja) パターン位置認識装置
KR20000056739A (ko) Pcb검사장치와 pcb 검사장치의 티칭방법 및 라이브러리 수정방법
JPH07286819A (ja) 部品の位置認識方法および位置認識装置
KR100326256B1 (ko) 와이어본딩을 위한 정렬패턴의 탐색 방법
JPH05215513A (ja) 画像中心計測装置およびその装置が用いられた嵌め合い装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110802

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110930

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111018

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111102

R150 Certificate of patent or registration of utility model

Ref document number: 4860452

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141111

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees