JP2009259983A - 自動焦点調整方法 - Google Patents

自動焦点調整方法 Download PDF

Info

Publication number
JP2009259983A
JP2009259983A JP2008106242A JP2008106242A JP2009259983A JP 2009259983 A JP2009259983 A JP 2009259983A JP 2008106242 A JP2008106242 A JP 2008106242A JP 2008106242 A JP2008106242 A JP 2008106242A JP 2009259983 A JP2009259983 A JP 2009259983A
Authority
JP
Japan
Prior art keywords
substrate
value
recognition device
luminance
focal position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008106242A
Other languages
English (en)
Other versions
JP5100484B2 (ja
Inventor
Hide Serizawa
英 芹沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Juki Corp
Original Assignee
Juki Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Juki Corp filed Critical Juki Corp
Priority to JP2008106242A priority Critical patent/JP5100484B2/ja
Publication of JP2009259983A publication Critical patent/JP2009259983A/ja
Application granted granted Critical
Publication of JP5100484B2 publication Critical patent/JP5100484B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Supply And Installment Of Electrical Components (AREA)
  • Automatic Focus Adjustment (AREA)

Abstract

【課題】被撮像物の表面にコントラスト値の高い傷部分があっても高精度に焦点位置を合焦位置に調整できるようにする。
【解決手段】電子部品を基板に実装する電子部品実装装置が備えている基板認識装置により、その焦点位置を光軸方向に移動させながら認識対象物を撮像し、取得された撮像画像に基づいて合焦位置を算出し、該基板認識装置の焦点位置を算出された合焦位置に自動的に設定する自動焦点調整方法において、前記撮像画像における認識対象物を越える第一の所定領域の輝度値を算出すると共に、該領域から所定の閾値以上の輝度値のみを抽出し、抽出された輝度値の合計値に基づいて前記基板認識装置の合焦位置を算出する。
【選択図】図5

Description

本発明は、自動焦点調整方法、特に電子部品をプリント基板や液晶等のディスプレイパネル基板等に自動的に実装する電子部品実装装置が備えている搭載ヘッド上に設けられた基板認識装置に適用して好適な自動焦点調整方法に関する。
一般に、電子部品実装装置ではプリント基板を搬送装置により搬入し、所定位置に位置決めした後、該基板上に搭載ヘッドにより吸着した電子部品を実装している。
この電子部品の実装は、予め設定されている基板上の座標位置に正確に行なう必要がある。そのため、位置決めされた基板については、所定位置の基板マークを搭載ヘッドに取り付けられている基板認識カメラにより撮像し、その撮像マークに基づいて装置上の目標位置からのずれを補正している。
それ故に、従来の電子部品実装装置では、撮像した基板マークから、例えばその中心を正確に画像処理により特定する必要があり、そのためには基板マークの高さに基板認識カメラの焦点位置を一致させる(合焦させる)必要がある。
このような用途に適用可能な基板(被撮像物)の所定領域における合焦位置を正確に特定する技術としては、例えば特許文献1に開示されているものがある。
この特許文献1では、対物レンズを被撮像物の設置面に対して垂直方向に予め設定された移動速度で移動させながら、予め定められたサンプリング間隔毎に、テレビカメラにより被撮像物の画像を撮影し、その撮影画像から所定の領域を抽出し、この抽出画像のコントラスト値を算出するとともに対物レンズの位置を検出し、算出されたコントラスト値の中から最大コントラスト値を検索する。
次いで、この値に基づいて図8に示すような第1及び第2の閾値を設定し、サンプリング間隔毎のコントラスト値の中から第1の閾値以上でかつ第2の閾値以下のものを抽出し、これを所定の関数により近似することによりサンプリング間隔毎のコントラスト値のピーク位置を算出し、このピーク位置に基づいて対物レンズの合焦位置を算出し、この合焦位置に対物レンズの焦点を自動的に設定している。
特開平10−232343号公報
しかしながら、被撮像物のエッジ部分に、撮像した場合に不鮮明となるだれ等がある場合には、コントラスト値算出の為に設定した走査線が被撮像物表面の傷にかかってしまうと、エッジ部分よりも表面の傷部分のコントラスト値の方が大きくなってしまうことがある。
又、図9(A)に示すように合焦位置付近では走査線が表面の傷にかかっていない場合は正常となるが、同図(B)に示すようにある撮像位置が合焦位置から外れる場合には、表面の傷の像が徐々にボケてしまうことがある。この図9(B)の場合にも、走査線が傷にかかると、エッジ部分よりも表面の傷部分のコントラスト値の方が大きくなることがあるため、前記特許文献1の方式では、前記図8のコントラストカーブの形状が途中から崩れてしまうので、2本の閾値を通る直線とコントラストカーブとの交点がずれてしまうことになり、焦点調整精度が悪化することになるという問題があった。
本発明は、前記従来の問題点を解決するためのもので、被撮像物の撮像画像に設定した走査線上に、他の表面部分よりコントラスト値が大きい傷等がある場合でも、焦点調整精度を向上することが出来る基板認識装置の自動焦点調整方法を提供することを課題とする。
本発明は、電子部品を基板に実装する電子部品実装装置が備えている基板認識装置により、その焦点位置を光軸方向に移動させながら認識対象物を撮像し、取得された撮像画像に基づいて合焦位置を算出し、該基板認識装置の焦点位置を算出された合焦位置に自動的に設定する自動焦点調整方法において、前記撮像画像における認識対象物を越える第一の所定領域の輝度値を算出すると共に、該領域から所定の閾値以上の輝度値のみを抽出し、抽出された輝度値の合計値に基づいて前記基板認識装置の合焦位置を算出することにより、前記課題を解決したものである。
本発明においては、前記第一の所定領域の輝度値から所定の閾値以上の輝度値のみを抽出する際に、合焦位置で撮像される前記撮像画像における認識対象物より狭い第二の所定領域の輝度値について得られる平均値と標準偏差とに基づいて、前記所定の閾値を設定するようにしてもよい。
本発明によれば、撮像画像から第一の所定領域の輝度値を算出すると共に、所定の閾値以上の輝度値のみを抽出し、その抽出された輝度値の合計値に基づいて認識装置の合焦位置を算出するようにしたので、被撮像物の表面にコントラスト値の大きい傷があったとしても、コントラストカーブに影響されないため高精度に焦点調整を行うことが可能となる。
以下、図面を参照して、本発明の実施の形態について詳細に説明する。
図1は、本発明に係る第1実施形態の電子部品実装装置全体を一部破断して示す概略斜視図である。
本実施形態の電子部品実装装置1は、同図に示すように、中央部から少し後方で左右方向に延在する基板搬送路15と、図示の下側に配設され、基板10に実装される部品を供給する部品供給部11と、X方向及びY方向にそれぞれ配設されたX軸移動機構12及びY軸移動機構14を備えている。
X軸移動機構12は、部品を吸着する吸着ノズル13aを備えた搭載ヘッド部13をX軸方向に移動させ、またY軸移動機構14は、X軸移動機構12並びに搭載ヘッド部13をY軸方向に移動させる。また搭載ヘッド部13は、吸着ノズル13aを垂直方向(Z軸方向)に昇降可能に移動させるZ軸移動機構を備えていると共に、吸着ノズル13aをノズル軸(吸着軸)を中心に回転させるθ軸回転機構を備えている。また、搭載ヘッド部13には、基板10上に形成された基板マークを撮像する基板認識カメラ17が、支持部材に取付けるようにして搭載されている。また、部品供給部11の側部には、吸着ノズル13aに吸着された部品を下方から撮像する部品認識カメラ(撮像手段)16が配置されている。
図2は、電子部品実装装置1の制御系の構成を示している。符号20は、装置全体を制御するマイクロコンピュータ(CPU)、並びにRAM、ROMなどからなるコントローラ(制御手段)であり、これに接続されている以下に説明する21〜31の符号で示す各構成部をそれぞれ制御している。
X軸モータ21は、X軸移動機構12の駆動源で、搭載ヘッド部13をX軸方向に移動させ、また、Y軸モータ22は、Y軸移動機構14の駆動源で、X軸移動機構12をY軸方向に移動させ、それにより搭載ヘッド部13はX軸方向とY軸方向に移動可能となっている。
Z軸モータ23は、吸着ノズル13aを昇降させるZ軸駆動機構(不図示)の駆動源で、吸着ノズル13aをZ軸方向(高さ方向)に昇降させる。また、θ軸モータ24は、吸着ノズル13aのθ軸回転機構(不図示)の駆動源で、吸着ノズル13aをそのノズル中心軸(吸着軸)を中心にして回転させる。
画像認識装置27は、吸着ノズル13aに吸着された部品18の画像認識を行なうもので、A/D変換器27a、メモリ27b及びCPU27cから構成される。そして、吸着された部品18を撮像した部品認識カメラ16から出力されるアナログの画像信号をA/D変換器27aによりデジタル信号に変換してメモリ27bに格納し、CPU27cがその画像データに基づいて吸着された部品の認識を行なう。
即ち、画像認識装置27は、部品中心と吸着角度を演算し、部品の吸着姿勢を認識する。また、画像認識装置27は、基板認識カメラ17で撮像された基板マークの画像を処理して基板マーク位置を演算する。
また、画像認識装置27は、部品認識カメラ16で撮像された部品18の画像データと基板認識カメラ17で撮像された基板マークデータを処理して、両方の補正データを制御手段20へ転送する。
キーボード28とマウス29は、部品データなどのデータを入力するために用いられる。
記憶装置30は、フラッシュメモリなどで構成され、キーボード28とマウス29により入力された部品データ、及び不図示のホストコンピュータから供給される部品データなどを格納するのに用いられる。
表示装置(モニタ)31は、部品データ、演算データ、及び部品認識カメラ16で撮像した部品18の画像などをその表示画面31aに表示する。
次に、前記基板認識装置(カメラ)17について説明する。図3に示す様に、基板認識装置17の下部には照明装置32が取付けられている。この照明装置32の上方には移動プリズム33が配置されており、その2つの傾斜面を介して光路が180°折り返され、固定プリズム34に向けて基板10からの反射光が入光するようになっている。固定プリズム34によっても同様に光路が180°折り返され、基板認識装置17上部に配置されている撮像レンズ35を介して撮像装置36に前記反射光が入光されるようになっている。
前記移動プリズム33はステー37に固定されており、該ステー37は直動軸受のリニアガイド38に案内されて、上下方向に移動可能になっていると共に、上方に配設された直動モータ39に取付けられ、該直動モータ39により移動プリズム33を任意の高さに移動・停止が可能となっている。
従って、図4に示す基板10上の基板マーク40の高さが変動しても、移動プリズム33を移動させることにより、常に基板マーク40の高さに焦点を合わせることが出来る。
以上の構成において電子部品の搭載動作の流れを図1〜図6を使用すると共に、図7のフローチャートを参照して説明する。
まず、基板搬送路15上に基板10が搬送され、位置決めされる。その後、搭載ヘッド13は基板認識装置(カメラ)17を基板10上の基板マーク40直上となるように移動する。この時、基板認識装置17の焦点位置は予め設定された基板マーク40の計算高さよりも所定の高さ、例えば2mm低い位置に設定する(ステップ1)。
次に、基板認識装置17内部の直動モータ39を駆動させ、移動プリズム33を移動させることにより、基板認識装置17の焦点位置を予め設定された範囲、例えば4mmだけ上昇させる。その際、予め設定された所定間隔、例えば0.5mm毎に撮像装置36によって基板マーク40の撮像を行う(ステップ2、3)。
続いて、基板認識装置17の合焦位置を求める動作を行う。以下の動作は上記所定間隔毎の撮像動作と並行して連続的に行う。
まず、図4に示したように、基板マーク(認識対象物)40を撮像することで得られた画像の第一の所定領域(略中心を通る直線に沿った、基板マーク40の全体を横断する該マークを越える領域)に走査線を設定し、該走査線上の各画素の輝度値を求める。以下、走査線上の各画素に対する輝度値のプロットを「輝度値曲線」と呼ぶ(ステップ4)。
次に、輝度値曲線の高輝度部分の輝度値のみを抽出する動作を行う。そのため、適切な閾値を設定し、この閾値以上の輝度値を抽出する(ステップ5)。
図5(A)、(C)に示す前記図4と同様の輝度値と基板10に対応させて、同図(B)に破線で示すように、基板認識装置17の焦点位置が合焦位置から離れている場合には、輝度値曲線の高輝度部分のばらつきは小さいが、基板認識装置17の焦点位置が合焦位置に近づくほど輝度値曲線の高輝度部分のばらつきは大きくなる。
そこで、閾値を一定の値(例えば輝度値曲線の最大値の90%)として設定すると、基板認識装置17の焦点位置が合焦位置から離れている場合は、ばらつきが小さいために高輝度部分の輝度値の全てを抽出出来るが、基板認識装置17の焦点位置が合焦位置に近づくにつれて、高輝度部分のばらつきが大きくなり、高輝度部分であっても閾値を下回る輝度値が出現し、高輝度部分の全てを閾値を使って抽出することが困難となる。
逆に閾値の値を小さく設定すれば、基板認識装置17の焦点位置が合焦位置付近にある場合にも高輝度部分の輝度値を全て抽出することが可能となるが、高輝度部分以外の輝度値も抽出してしまうことになる。
そこで、前記図4に併記したように、それぞれの撮像画像について第二の所定領域を設定し、該領域の輝度値を抽出するようにする。この第二の所定領域としては、合焦位置で撮像したとすると基板マーク40より狭い、その中央部付近の高輝度部分のみを含む領域とする。具体的には最初に設定する基板認識装置17の焦点位置(この例では基板マーク40の計算高さより2mm低い位置)で撮像した場合の、図5(B)に示した高輝度部分の寸法以下に設定する。
この第二の所定領域の輝度値を抽出し、その領域の輝度値の平均値μと標準偏差σの3倍を引いた値(μ−3σ)を前記閾値とする。このように設定した閾値を用いることで、全ての輝度値曲線について高輝度部分の輝度値のみを抽出することが出来る。
次に、抽出した閾値以上の値を全て合計する。以下、この合計値を「焦点評価値」と呼ぶ(ステップ6)。
以上の処理動作を0.5mm間隔で入力した全ての撮像画像について行い(ステップ7)、各焦点位置に対する焦点評価値をプロットして図6に示すような「焦点評価値曲線」を作成する。
基板認識装置17の焦点位置が合焦位置から離れている場合には、前述したように基板マーク40のエッジ部分の像がボケるため、前記図5(B)に点線のグラフで示したように、高輝度の範囲が狭くなり、前記焦点評価値も小さくなる。一方、基板認識装置17の焦点位置が合焦位置に近づくにつれて、基板マーク40のエッジ部分の像が鮮明になるため、前記図5(A)に実線のグラフで示したように、高輝度部分の範囲が広くなり、焦点評価値も大きくなる。
よって、図6に示すように焦点評価値曲線のピーク位置を算出し(ステップ8)、そのピーク位置、つまり合焦位置に基板認識装置17の焦点位置を移動プリズム33を移動することにより一致させる(ステップ9)。なお、このピーク位置は、予め作成した所定の関数からなる近似式を用いて算出してもよい。
以上のように合焦位置に基板認識装置17の焦点位置を一致させた後、最後に、再度基板マーク40の認識を行うことにより、基板マーク40の位置を高精度に算出する。
以上詳述した本実施形態によれば、エッジ部分の不安定な輝度データを用いずに合焦位置を算出するため、エッジ部分よりもコントラスト値が大きい傷等が被測定物の表面にある場合にも、精度良く合焦位置を算出することが可能となる。
なお、本発明は、前記実施形態に示したものに限定されない。
例えば、前記実施形態では、基板10上の基板マーク40の認識に主眼を置いているが、搭載後の部品位置の検査等に使用しても良い。
又、基板認識装置17の焦点位置を調整する為に、基板認識装置17の焦点位置を基板マーク40の高さより下方に移動させた後、基板認識装置17の焦点位置を予め設定された範囲(例えば4mm)だけ上昇させ、その際に予め設定された間隔(例えば0.5mm)毎に撮像装置36によって基板マーク40の撮像を行ったが、基板認識装置17の焦点位置を基板マーク高さより上方に移動させた後、基板認識装置17の焦点位置を下降させることで焦点調整を行っても良い。
又、基板マーク40全体を横断する走査線を設定して、輝度曲線を取得したが、基板マーク40のエッジ部分を含む一部分に走査線を設定して、輝度曲線を求めても良い。
又、焦点評価値曲線全体を近似式にて近似してピーク位置を求める説明をしたが、焦点評価曲線の一部分を用いてピーク位置を求めても良い。
又、直角プリズムを使用したが、ハーフミラーやその他のプリズムの使用や複数ミラー構成等にしても良く、斜方照明ではなく、他の照明を使用しても良い。
又、直動モータを使用したが、回転モータにボールネジやベルト機構など利用して直線駆動ができる機構を使用しても良く、また超音波モータやピエゾ素子などの微小駆動装置等を使用しても良い。
更に、直角プリズムを移動させて焦点位置の変更を行ったが、特許文献1と同様にカメラ自体を移動させて焦点位置の変更を行っても良い。
本発明に係る一実施形態に適用される電子部品実装装置を示す斜視図 上記電子部品実装装置の制御系の概要を示すブロック図 搭載ヘッドに取り付けられている基板認識装置の内部構造を模式的に示す説明図 基板上の基板マークと撮像した画像上の輝度値との関係を示す説明図 合焦位置付近と合焦位置から離れた位置の輝度値曲線の関係を示す説明図 焦点評価値曲線とそのピーク位置との関係を示す説明図 本実施形態の作用を示すフローチャート 従来の合焦位置の算出方法を示す説明図 従来の問題点を示す説明図
符号の説明
10…電子部品実装装置
13…搭載ヘッド
13a…吸着ノズル
12…X軸移動機構
14…Y軸移動機構
17…基板認識装置(カメラ)

Claims (2)

  1. 電子部品を基板に実装する電子部品実装装置が備えている基板認識装置により、その焦点位置を光軸方向に移動させながら認識対象物を撮像し、取得された撮像画像に基づいて合焦位置を算出し、該基板認識装置の焦点位置を算出された合焦位置に自動的に設定する自動焦点調整方法において、
    前記撮像画像における認識対象物を越える第一の所定領域の輝度値を算出すると共に、該領域から所定の閾値以上の輝度値のみを抽出し、抽出された輝度値の合計値に基づいて前記基板認識装置の合焦位置を算出することを特徴とする自動焦点調整方法。
  2. 前記第一の所定領域の輝度値から所定の閾値以上の輝度値のみを抽出する際に、合焦位置で撮像される前記撮像画像における認識対象物より狭い第二の所定領域の輝度値について得られる平均値と標準偏差とに基づいて、前記所定の閾値を設定することを特徴とする請求項1に記載の自動焦点調整方法。
JP2008106242A 2008-04-15 2008-04-15 自動焦点調整方法 Active JP5100484B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008106242A JP5100484B2 (ja) 2008-04-15 2008-04-15 自動焦点調整方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008106242A JP5100484B2 (ja) 2008-04-15 2008-04-15 自動焦点調整方法

Publications (2)

Publication Number Publication Date
JP2009259983A true JP2009259983A (ja) 2009-11-05
JP5100484B2 JP5100484B2 (ja) 2012-12-19

Family

ID=41387049

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008106242A Active JP5100484B2 (ja) 2008-04-15 2008-04-15 自動焦点調整方法

Country Status (1)

Country Link
JP (1) JP5100484B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020183698A1 (ja) * 2019-03-14 2020-09-17 株式会社Fuji 対象体判定方法、対象体判定装置
JP2022044688A (ja) * 2015-10-19 2022-03-17 モレキュラー デバイシーズ, エルエルシー フォトルミネセンス撮像のための徹照ベースの自動フォーカシングを備えた顕微鏡システム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107643578A (zh) * 2016-07-21 2018-01-30 中兴通讯股份有限公司 一种自动对焦方法、装置和移动终端

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06209425A (ja) * 1992-08-27 1994-07-26 Sony Electron Inc カメラ自動焦点制御方式

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06209425A (ja) * 1992-08-27 1994-07-26 Sony Electron Inc カメラ自動焦点制御方式

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022044688A (ja) * 2015-10-19 2022-03-17 モレキュラー デバイシーズ, エルエルシー フォトルミネセンス撮像のための徹照ベースの自動フォーカシングを備えた顕微鏡システム
JP7248833B2 (ja) 2015-10-19 2023-03-29 モレキュラー デバイシーズ, エルエルシー フォトルミネセンス撮像のための徹照ベースの自動フォーカシングを備えた顕微鏡システム
WO2020183698A1 (ja) * 2019-03-14 2020-09-17 株式会社Fuji 対象体判定方法、対象体判定装置
JPWO2020183698A1 (ja) * 2019-03-14 2021-12-02 株式会社Fuji 対象体判定方法、対象体判定装置
JP7097504B2 (ja) 2019-03-14 2022-07-07 株式会社Fuji 対象体判定方法、対象体判定装置

Also Published As

Publication number Publication date
JP5100484B2 (ja) 2012-12-19

Similar Documents

Publication Publication Date Title
JP5174589B2 (ja) 電子部品実装装置の自動焦点調整方法
US10237482B2 (en) Monitoring camera and swing correction method
JPH07115296A (ja) 部品実装機の制御装置
KR20160002160A (ko) 카메라의 보정 시스템 및 그 보정방법
JP2009206354A (ja) 電子部品実装機の画像認識装置及び画像認識方法
JP5299379B2 (ja) 部品実装装置および部品検出方法
JP2005049221A (ja) 検査装置および検査方法
JP5100484B2 (ja) 自動焦点調整方法
JP2011082506A (ja) 部品検査装置及び部品実装装置
JP2007048921A (ja) 電子部品の画像取得方法及び装置
JP4315752B2 (ja) 電子部品実装装置
JP4298473B2 (ja) 表面実装機
JP2007033202A (ja) 外観検査装置および外観検査方法
JP2007115820A (ja) 部品搭載方法及び装置
JP5339884B2 (ja) 撮像装置の焦点調整方法および焦点調整装置
JP2007334423A (ja) 自動撮影装置
JP5254106B2 (ja) 電子部品実装装置
JP2007225431A (ja) 外観検査装置
JP4901451B2 (ja) 部品実装装置
JP5930284B2 (ja) 照明装置、撮像装置、スクリーン印刷装置、位置合わせ方法、及び基板の製造方法
JP2010165892A (ja) 電子部品実装装置および搭載方法
WO2022269912A1 (ja) 認識装置及び認識方法
US11146767B2 (en) Projection position detection device, image projection system, and projection position detection method
CN113228847B (zh) 元件安装机
KR102280184B1 (ko) 위상 오토포커스 픽셀을 이용한 렌즈 모듈 액티브 얼라인 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110401

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120612

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120828

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120925

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151005

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5100484

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150