JP5064265B2 - 画像処理システム及び画像処理方法 - Google Patents

画像処理システム及び画像処理方法 Download PDF

Info

Publication number
JP5064265B2
JP5064265B2 JP2008055071A JP2008055071A JP5064265B2 JP 5064265 B2 JP5064265 B2 JP 5064265B2 JP 2008055071 A JP2008055071 A JP 2008055071A JP 2008055071 A JP2008055071 A JP 2008055071A JP 5064265 B2 JP5064265 B2 JP 5064265B2
Authority
JP
Japan
Prior art keywords
image data
optical
dimensional image
measurement object
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008055071A
Other languages
English (en)
Other versions
JP2009210471A (ja
Inventor
淳 光藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Machinery Inc
Original Assignee
Canon Machinery Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Machinery Inc filed Critical Canon Machinery Inc
Priority to JP2008055071A priority Critical patent/JP5064265B2/ja
Publication of JP2009210471A publication Critical patent/JP2009210471A/ja
Application granted granted Critical
Publication of JP5064265B2 publication Critical patent/JP5064265B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、計測対象物の形状を検出する画像処理システム及び画像処理方法に関するものである。
計測対象物を3次元的に解析して形状検出を行う場合、合焦点法や共焦点法を用いることがある。合焦点法とは、同一の視野において焦点が移動した2次元画像データを複数撮像し、焦点ぼけの変化を分析することで計測対象物表面の奥行き位置情報を求める方法である。共焦点法とは、測定光が通過するレンズによる焦点付近に計測対象物を配置して、計測対象物の表面と焦点の位置とが一致した場合に、計測対象物の表面で反射される反射光の強度が大きくなることを利用した形状測定の方法である。
前記のように、合焦点法や共焦点法により形状測定を行う際には、一定の撮像視野において、焦点の移動した複数の2次元画像データを取得する必要がある。このため、従来はカメラ及びレンズと、計測対象物とを相対的に離間又は近接させることにより、焦点の移動を実現していた(特許文献1)。すなわち、計測対象物を固定した状態で、カメラ及びレンズを上下動させたり、カメラ及びレンズを固定した状態で、計測対象物を載置した設置ステージを上下動させたりしていた。また、焦点移動機構を組み込んだ特殊な焦点移動光学系を使用して、焦点の移動した複数の2次元画像データを取得する方法もある(特許文献2)。すなわち、レンズを移動機構により光軸方向に移動させることにより、焦点位置を光軸方向に移動させる。
特開2002−168800号公報 特開2001−51200号公報
合焦点法や共焦点法にて形状検出を行うため、前記のようにカメラ及びレンズと、計測対象物とを相対的に離間又は近接させる方法では、カメラ及びレンズを高速に上下動させるか、又は計測対象物を載置した設置ステージを高速に上下動させる必要がある。カメラ及びレンズは重量が大きく、また、計測対象物及び設置ステージも重量が大きい。このため、重量の大きな構造物を高速移動させる必要があるため、駆動力を大とする必要があり、駆動機構が大となっていた。しかも、重量の大きな構造物を移動させることにより、大きな振動が発生していた。また、レンズを光軸方向に移動させ、焦点位置を光軸方向に移動させる移動機構を組み込んだ特殊な光学系を用いる方法では、光学系は複雑な機構を有し、かつ、高精度を必要とする。このため、レンズを通過した光が1点に集光しない、像が歪む、像が不鮮明である等の光学収差の問題を排除することが困難であった。
さらに、合焦点法及び共焦点法は、狭い視野では前記したような従来の方法で十分であるが、大視野で達成しようとすれば、機構が大きく複雑なものとなり、コスト高となる。
本発明は、上記課題に鑑みて、高速、高精度に複数の定置視野焦点移動画像データを取得して合焦点法や共焦点法にて形状検出ができ、しかもコンパクトな画像処理システム及び画像処理方法を提供する。
本発明の画像処理システムは、計測対象物の光学像を結像する光学系と、前記光学系からの計測対象物の光学像の焦点を移動可能とする1つの反射手段と、前記反射手段を移動させつつ反射手段から反射された光学像を撮像する撮像手段とを備え、定置視野の焦点のみ移動した光学像が写し出される複数の2次元画像データを取得するものである。
本発明の画像処理システムによれば、軽量な反射手段のみを操作することによって、焦点が移動し、かつ、視野の中で光学像の位置がシフトした複数枚の2次元画像データを取得する。この複数の2次元画像データに基づいて、定置視野の焦点のみ移動した複数枚の2次元画像データを取得することができる。ここで、視野とは、取得した2次元画像データの範囲をいう。
前記反射手段を移動させつつ反射手段から反射された光学像を撮像し、焦点が異なり、かつ、計測対象物の光学像の位置が光軸直交方向にシフトした複数の2次元画像データを得る撮像手段と、前記複数の2次元画像データを、定置視野の焦点のみ移動した光学像が写し出される複数枚の2次元画像データとなるように修正して修正2次元画像データとする修正手段とを備えることができる。ここで、光軸とは撮像手段の光学的な中心軸を意味するものとする。
前記修正手段により修正された複数の修正2次元画像データを記憶する記憶手段と、複数の修正2次元画像データに基づいて計測対称物の形状の検出を行う画像処理手段とを備えることができる。
前記修正手段は、2次元画像データの一部を切り取るものとすることができる。
前記光学系は、両側テレセントリック光学系とすることができる。テレセントリック光学系とは、主光軸がレンズ光軸に対して平行となるように設計されたレンズであり、画像処理に特に最適な光学系である。ディストーション(歪曲収差)が小さいため、計測対象物の寸法や位置を正確に捉えることが可能である。物体側にのみ主光線がレンズ光軸と平行であるものを、物体側テレセントリック光学系、像側にのみ主光線がレンズ光軸と平行であるものを、像側テレセントリック光学系、物体側と像側との両方で主光線がレンズ光軸と平行なものを両側テレセントリック光学系という。
本発明の画像処理方法は、計測対象物の光学像を結像し、前記光学系を透過した光学像を反射手段にて反射させ、前記反射手段から反射された光学像を撮像して計測対象物の光学像が写し出される2次元画像データを取得して、出力される2次元画像データにて計測対象物の形状を検出する画像処理方法であって、前記反射手段を、計測対象物に対して近接・離間するように移動させて、焦点が異なり、かつ、計測対象物の光学像の位置が光軸直交方向にシフトした複数の2次元画像データを取得して、焦点の異なる計測対象物の光学像が撮像視野内の定位置となるように2次元画像データを修正した後、修正された複数の修正2次元画像データに基づいて計測対称物の形状の検出を行うものである。
本発明では、軽量な反射手段のみを操作させるものであるため、複数の定置視野焦点移動画像データを取得することができ、合焦点法や共焦点法にて計測対象物の形状検出を行うことができる。また、焦点を移動させるための駆動力を小とすることができるため、駆動機構を小とすることができて、装置のコンパクト化を図ることができる。さらには、作動中の振動も小とすることができ、高速、高精度に複数の定置視野焦点移動画像データを取得することができる。
撮像手段と修正手段を備えることにより、容易に定置視野焦点移動画像データを取得することができる。また、記憶手段と画像処理手段とを備えると、容易かつ高精度に計測対象物の形状検出を行うことができる。
2次元画像データの一部を切り取ると、容易に修正2次元画像データを取得することができる。
両側テレセントリック光学系を用いると、広視野観察を行う場合でも、歪曲収差をはじめ収差を抑えることができ、計測対象物の形状や寸法を正確に測定することができる。
本発明の画像処理方法を用いれば、焦点の移動した複数の定置視野焦点移動画像データを確実に取得することができる。
以下本発明の実施の形態を図1〜図4に基づいて説明する。
図1は本発明の画像処理システムを示し、本発明の画像処理システムは、凹凸を有する計測対象物1について、定置視野の焦点のみ移動した光学像が写し出される複数の2次元画像データを取得して、合焦点法や共焦点法にて計測対象物1の形状測定を行うものである。画像処理システムは、計測対象物1の光学像を結像する光学系2と、光学系2を透過した光学像を反射する反射手段3と、反射手段3から反射された光学像を撮像して計測対象物1の2次元画像データを得る撮像手段4と、複数の2次元画像データを、定置視野の焦点のみ移動した複数の画像データとなるように修正して修正2次元画像データとして修正2次元画像データとする修正手段7と、修正手段7により修正された複数の修正2次元画像データを記憶する記憶手段8と、複数の修正2次元画像データに基づいて計測対称物1の形状の検出を行う画像処理手段5とを備えている。
光学系2は、計測対象物1の光学像を結像するものであり、両側テレセントリック光学系を用いている。両側テレセントリック光学系とは、物体側と像側との両方で主光線がレンズ光軸と平行となるように設計されたレンズであり、画像処理に特に最適な光学系である。ディストーション(歪曲収差)が小さいため、計測対象物の寸法や位置を正確に捉えることが可能である。これにより、広視野観察を行う場合でも、歪曲収差をはじめ収差を抑えることができ、計測対象物1の形状や寸法を正確に測定することができる。
反射手段3は、光学系2の反計測対象物1側に配設されている。反射手段3は、光学系2を透過した光学像を反射するものであり、ミラーを用いている。ミラーを水平方向に対して所定角度(本実施形態では45°)傾斜させている。このミラーは、図示省略のアクチュエータによって、計測対象物1に対して近接・離間するように移動可能となっている。
撮像手段4は、反射手段3にて反射された光学像を撮像するものであり、例えばCCDカメラを用いている。このCCDカメラにて、ミラー位置の異なる複数箇所P、P、Pにおいて、計測対象物1の光学像を取得することができる。これにより、撮像視野内に写る計測対象物1の光学像の位置が、光軸直交方向にシフトした複数(n枚)の2次元画像データI、I、I・・・Iを取得することが可能となる。撮像視野とは、撮像手段4に写る範囲、すなわち取得した2次元画像データの範囲をいい、光軸とは撮像手段4の光学的な中心軸を意味するものとする。
修正手段7は、撮像手段4にて取得した複数の2次元画像データについて、焦点の異なる計測対象物1の光学像の位置が撮像視野内の定位置となるように修正し、修正2次元画像データとするものである。すなわち、計測対象物1の中心が撮像手段4の光軸上に位置するように、2次元画像データの一端部及び/又は他端部を切り取る。本実施形態では、撮像手段4にマイクロコンピュータ機能を有するものとし、修正手段7を撮像手段内に設けている。
画像処理手段5は、例えばマイクロコンピュータにて構成されるものであり、撮像手段4から出力される画像信号を用いて画像処理するものである。すなわち、撮像手段4及び修正手段7にて得られた修正2次元画像データを、画像処理手段内に設けられた記憶手段8に記憶させて、このデータに基づいて計測対象物1の形状の検出を行うものである。
次に、画像処理システムを使用して凹凸を有する計測対象物1の形状の検出を行う方法を説明する。まず、図2に示すように、ミラー3の位置を初期状態Pに位置させる。そして、図示省略のアクチュエータにて、ミラー3の位置をPにまで移動させて、ミラー3を計測対象物1から連続的に離間させる。このミラー3の移動により、焦点平面はFからFに移動する。なお、図2において、Fはミラー3がPに位置するときの焦点平面であり、Fはミラー3がPに位置するときの焦点平面であり、Fはミラー3がPに位置するときの焦点平面である。
前記のように、ミラー3がPからPまで移動する間、複数箇所(図示例では3箇所)で、計測対象物1の光学像が写し出される2次元画像データをカメラ4にて取得する。すなわち、ミラー3がPの位置における2次元画像データI1a、ミラー3がPの位置における2次元画像データI2a、ミラー3がPの位置における2次元画像データI3aをカメラ4にて取得する。なお、PからPまでのミラー3の移動量はl−lであり、PからPまでのミラー3の移動量はl−lである。
での2次元画像データI1aは焦点平面がFであり、図3(a)に示すように、計測対象物1の光学像6が、カメラ4の撮像視野9aの光軸Oに対して左側にずれている。Pでの計測対象物1の2次元画像データI2aは焦点平面がFであり、図3(b)に示すように、計測対象物1の光学像6の中心が、カメラ4の撮像視野9aの光軸O上に位置することになる。すなわち、I2aは、I1aと焦点が異なり、かつ、計測対象物1の光学像6の位置がI1aの位置から光軸直交方向に右側へシフトしている。このシフト量は、PからPまでのミラー3の移動量l−lに対応する。
での計測対象物1の2次元画像データI3aは焦点平面がFであり、図3(c)に示すように、計測対象物1の光学像6が、カメラ4の撮像視野9aの光軸Oに対して右側にずれている。すなわち、I3aは、I1aやI2aと焦点が異なり、かつ、計測対象物1の光学像6の位置がI2aから光軸直交方向にさらに右側へシフトしている。このシフト量は、PからPまでのミラー3の移動量l−lに対応する。
このようにして得られた複数の2次元画像データI1a、I2a、I3aを、修正手段7にて処理を行う。すなわち、2次元画像データI1a、I2a、I3aにおける光学像6が、撮像視野9a内の定位置となるように、2次元画像データI1a、I2a、I3aの一端部10及び/又は他端部11を切り取る。具体的には、I1aについて、図4(a)の点線から他端部11までを切り取ってPの位置における修正2次元画像データI1bを得る。I2aについては、図4(b)の左側の点線から一端部10までを切り取るとともに、右側の点線から他端部11までを切り取ってPの位置における修正2次元画像データI2bを得る。I3aについては、図4(c)の左側の点線から一端部10までを切り取ってPの位置における修正2次元画像データI3bを得る。これにより、修正2次元画像データI1b、I2b、I3bにおいて、計測対象物1の光学像6の位置が撮像視野9b内で定位置となる。本実施形態では、修正2次元画像データI1b、I2b、I3bの光学像6の中心が、光軸O上に位置するようにしている。
このようにして得られた修正2次元画像データI1b、I2b、I3bを、画像処理手段5の記憶手段8に記憶させる。
次に、記憶手段8に記憶されている複数の修正2次元画像データI1b、I2b、I3bに基づいて、画像処理手段5により例えば合焦点法にて計測対称物1の形状の検出を行う。すなわち、修正2次元画像データI1b、I2b、I3bの合焦度の検出を行い、各画像の合焦度を比較する。そして、各画像で、合焦度の最も高い画素での輝度値を画像として取得する。これにより、焦点距離を3段階で取得した全焦点画像を得ることができる。そして、計測対象物1の形状の検出を行うことができる。
本発明では、軽量な反射手段3のみを操作させるものであるため、複数の定置視野焦点移動画像データを取得することができ、合焦点法や共焦点法にて計測対象物1の形状検出を行うことができる。また、焦点を移動させるための駆動力を小とすることができるため、駆動機構を小とすることができて、装置のコンパクト化を図ることができる。さらには、作動中の振動も小とすることができ、高速、高精度に複数の定置視野焦点移動画像データを取得することができる。
撮像手段4と修正手段7を備えることにより、容易に定置視野焦点移動画像データを取得することができる。また、記憶手段8と画像処理手段5とを備えると、容易かつ高精度に計測対象物1の形状検出を行うことができる。
2次元画像データの一部を切り取ると、容易に修正2次元画像データを取得することができる。
両側テレセントリック光学系を用いると、広視野観察を行う場合でも、歪曲収差をはじめ収差を抑えることができ、計測対象物1の形状や寸法を正確に測定することができる。
以上、本発明の実施形態につき説明したが、本発明は前記実施形態に限定されることなく種々の変形が可能であって、例えば、修正手段7を撮像手段内に設けたが、画像処理手段5に設けてもよく、さらには、撮像手段4や画像処理手段5とは別体のコンピュータに設けてもよい。ミラー3の角度は、45°に限られず水平方向に対して0°より大であって、90°より小であれば、種々の角度に配置することができる。ミラー3を計測対象物1に対して離間させつつ2次元画像データの取得を行ったが、ミラー3を計測対象物1に対して近接させつつ2次元画像データの取得を行ってもよい。すなわち、ミラー3を初期段階でPに位置させ、次いでP、Pに位置させるようにしてもよい。実施形態では、説明を簡単にするため、P〜Pの3枚の2次元画像データを取得したが、2枚以上であれば、さらに多数の2次元画像データを取得して解析を行ってもよい。この場合、シャッタースピードを速くして撮像回数を増やす。実施形態では、ミラー3を連続的に移動させつつ2次元画像データの取得を行うものであったが、画像取得位置でミラー3を停止させてもよい。撮像手段4は、CCD方式に限られず、撮像管、CMOS方式の等種々のものを用いることができる。撮像手段4の撮像視野は、矩形状に限られず円形、楕円形等種々の形状であってよい。この場合も、2次元画像データの一部を切り取ることにより、定置視野の焦点のみ移動した複数枚の画像データを取得することができる。
本発明の画像処理システムの簡略図である。 本発明の画像処理システムを作動させる状態を示す簡略図である。 本発明の画像処理システムを用いて取得した2次元画像データの平面図であって、(a)はミラー位置がPの2次元画像データ、(b)はミラー位置がPの2次元画像データ、(c)はミラー位置がPの2次元画像データである。 本発明の画像処理システムを用いて取得した2次元画像データを処理して修正2次元画像データを得る方法を示す2次元画像データの平面図であって、(a)はミラー位置がPの2次元画像データ、(b)はミラー位置がPの2次元画像データ、(c)はミラー位置がPの2次元画像データである。
符号の説明
1 計測対象物
2 光学系
3 反射手段
4 撮像手段
5 画像処理手段
6 光学像
7 修正手段
9 撮像視野
F 焦点

Claims (6)

  1. 計測対象物の光学像を結像する光学系と、
    前記光学系からの計測対象物の光学像の焦点を移動可能とする1つの反射手段と、前記反射手段を移動させつつ反射手段から反射された光学像を撮像する撮像手段とを備え、
    定置視野の焦点のみ移動した光学像が写し出される複数の2次元画像データを取得することを特徴とする画像処理システム。
  2. 前記反射手段を移動させつつ反射手段から反射された光学像を撮像し、焦点が異なり、かつ、計測対象物の光学像の位置が光軸直交方向にシフトした複数の2次元画像データを得る撮像手段と、
    前記複数の2次元画像データを、定置視野の焦点のみ移動した光学像が写し出される複数の2次元画像データとなるように修正して修正2次元画像データとする修正手段とを備えたことを特徴とする請求項1の画像処理システム。
  3. 前記修正手段により修正された複数の修正2次元画像データを記憶する記憶手段と、複数の修正2次元画像データに基づいて計測対称物の形状の検出を行う画像処理手段とを備えたことを特徴とする請求項2の画像処理システム。
  4. 前記修正手段は、2次元画像データの一部を切り取るものであることを特徴とする請求項2又は請求項3の画像処理システム。
  5. 前記光学系は、両側テレセントリック光学系であることを特徴とする請求項1〜4のいずれか1項の画像処理システム。
  6. 計測対象物の光学像を結像し、前記光学系を透過した光学像を反射手段にて反射させ、前記反射手段から反射された光学像を撮像して計測対象物の光学像が写し出される2次元画像データを取得して、出力される2次元画像データにて計測対象物の形状を検出する画像処理方法であって、
    前記反射手段を、計測対象物に対して近接・離間するように移動させて、焦点が異なり、かつ、計測対象物の光学像の位置が光軸直交方向にシフトした複数の2次元画像データを取得して、
    焦点の異なる計測対象物の光学像が撮像視野内の定位置となるように2次元画像データを修正した後、
    修正された複数の修正2次元画像データに基づいて計測対称物の形状の検出を行うことを特徴とする画像処理方法。
JP2008055071A 2008-03-05 2008-03-05 画像処理システム及び画像処理方法 Expired - Fee Related JP5064265B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008055071A JP5064265B2 (ja) 2008-03-05 2008-03-05 画像処理システム及び画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008055071A JP5064265B2 (ja) 2008-03-05 2008-03-05 画像処理システム及び画像処理方法

Publications (2)

Publication Number Publication Date
JP2009210471A JP2009210471A (ja) 2009-09-17
JP5064265B2 true JP5064265B2 (ja) 2012-10-31

Family

ID=41183771

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008055071A Expired - Fee Related JP5064265B2 (ja) 2008-03-05 2008-03-05 画像処理システム及び画像処理方法

Country Status (1)

Country Link
JP (1) JP5064265B2 (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0663752B2 (ja) * 1988-03-25 1994-08-22 三菱電機株式会社 線状物体の認識方法
JP3201396B2 (ja) * 1988-12-23 2001-08-20 株式会社日立製作所 半導体デバイスの製造方法
JP3457047B2 (ja) * 1994-02-25 2003-10-14 三菱電機株式会社 共焦点型三次元計測装置
JP2000275027A (ja) * 1999-03-23 2000-10-06 Takaoka Electric Mfg Co Ltd スリット共焦点顕微鏡とそれを用いた表面形状計測装置
JP2001165625A (ja) * 1999-12-14 2001-06-22 Nikon Corp 高さ測定装置、焦点検出装置、焦点検出ユニット、および、合焦機能を備えた光学装置
JP2006162462A (ja) * 2004-12-08 2006-06-22 Nikon Corp 画像測定装置

Also Published As

Publication number Publication date
JP2009210471A (ja) 2009-09-17

Similar Documents

Publication Publication Date Title
JP5043629B2 (ja) レーザ走査型顕微鏡及びその表面形状の測定方法
KR102408322B1 (ko) 자동-초점 시스템
JP5941395B2 (ja) 画像取得装置及び画像取得装置のフォーカス方法
CN108291854B (zh) 光学检查装置、透镜以及光学检查方法
JP5307221B2 (ja) 画像取得装置及び画像取得装置のフォーカス方法
KR102238388B1 (ko) 투명판 표면 검사 장치, 투명판 표면 검사 방법, 및 유리판의 제조 방법
JP5053691B2 (ja) 標本スキャナ装置、該装置による標本位置検出方法
JP5951793B2 (ja) 撮像素子位置検出装置
KR100679643B1 (ko) 자동초점 조절패턴을 채택하는 자동초점 조절장치 및그것을 사용한 자동초점 조절방법
JP2010032471A (ja) 画像計測装置及びコンピュータプログラム
JP2010256530A (ja) 顕微鏡装置
JP2015108582A (ja) 3次元計測方法と装置
JP2010181317A (ja) 欠陥検査装置
WO2014112084A1 (ja) 画像取得装置及び画像取得装置のフォーカス方法
JP5064265B2 (ja) 画像処理システム及び画像処理方法
JP2013088570A (ja) 顕微鏡装置
JP2008256483A (ja) 形状測定装置
JP2009222449A (ja) レンズ系を用いた距離計測装置
WO2014112083A1 (ja) 画像取得装置及び画像取得装置のフォーカス方法
JP2008128770A (ja) レンズ性能検査装置及びレンズ性能検査方法
JP2016080517A (ja) 表面検査装置
JP2007155472A (ja) 形状測定装置,形状測定方法
JP2013174709A (ja) 顕微鏡装置およびバーチャル顕微鏡装置
KR101391837B1 (ko) 웨이퍼의 워프(Warp) 인스펙션 장치
JP6155924B2 (ja) 寸法測定装置、及び寸法測定方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120511

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120705

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120725

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120808

R150 Certificate of patent or registration of utility model

Ref document number: 5064265

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150817

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees