JP5611022B2 - 三次元計測装置及び三次元計測方法 - Google Patents

三次元計測装置及び三次元計測方法 Download PDF

Info

Publication number
JP5611022B2
JP5611022B2 JP2010283730A JP2010283730A JP5611022B2 JP 5611022 B2 JP5611022 B2 JP 5611022B2 JP 2010283730 A JP2010283730 A JP 2010283730A JP 2010283730 A JP2010283730 A JP 2010283730A JP 5611022 B2 JP5611022 B2 JP 5611022B2
Authority
JP
Japan
Prior art keywords
pattern light
light
imaging
measurement object
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010283730A
Other languages
English (en)
Other versions
JP2012132727A (ja
Inventor
智美 露木
智美 露木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010283730A priority Critical patent/JP5611022B2/ja
Priority to US13/314,577 priority patent/US8708497B2/en
Publication of JP2012132727A publication Critical patent/JP2012132727A/ja
Application granted granted Critical
Publication of JP5611022B2 publication Critical patent/JP5611022B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/363Image reproducers using image projection screens
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination

Description

明部と暗部が任意の幅で配置されたパターン光を投影して空間変調を生成する空間符号化法を用いた三次元計測装置及び方法に関するものである。
三次元計測では、投影装置と撮像装置を既知の関係に配置し、投影装置からパターン光を投影した被写体を撮像装置により撮像し、投影装置と撮像装置の関係から三角測量の原理を用いて被写体までの距離を求めるという測定方法がよく知られている。例えば、特許文献1のように明部と暗部とを任意の幅で交互に配置する第1の明暗パターン光と、第1の明暗パターン光の位相をずらした第2の明暗パターン光とを投影して、各々撮像した画像の階調分布を取得し、第1と第2のパターン光の交点の撮像素子上の位置を算出することで三次元計測を行う方法がある。
特開2007−192608号公報
前述した第1と第2のパターン光から算出した交点が撮像素子上のどの位置に存在するかを算出することが測距において基本であるが、第1と第2の明暗パターン光の交点位置の絶対値以上に、その交点間隔を正しく求めることが重要である。なぜならば交点の絶対値は、被検物の絶対的位置を算出する場合に必要であるが、三次元計測においては被検物形状を計測することが主体であり、この場合は各交点の相対的位置関係が正確に求まれば良いからである。被検物絶対値が必要な場合は、絶対位置の既知な指標を用意し、これとの被検物の相対関係を計測等、即ちキャリブレーションで達成される。
一般的な交点検出手法では、第1と第2の明暗パターン光の撮像素子上の階調分布を撮像画素でサンプリングし、各々のパターン光のサンプリング点を直線近似して交点を求めている。測定対象物に投影したパターンの1周期を比較的少ない撮像素子画素でサンプリングする場合、従来の方法で交点を求めると、交点には直線近似によるサンプリング誤差が含まれる。そのため、その交点から交点間隔を算出すると、交点間隔には誤差が発生する。
パターン光の1周期を撮像素子の多くの画素でサンプリングすれば交点の誤差を小さくすることができ、交点間隔の誤差も抑えることができるが、解像力が高い撮像素子が必要となり、装置が大型化しコストが高くなるという課題が発生する。
本発明は、上記の課題に鑑みてなされもので、パターン光の1周期あたりのサンプリングが撮像素子の少ない画素数で行われても精度良く三次元計測を行える三次元計測装置及び方法を提供することを目的とする。
上記の目的を達成するための本発明の一態様による三次元計測装置は以下の構成を備える。すなわち、
明部と暗部を交互に配置する第1のパターン光と、前記第1のパターン光の位相をずらした第2のパターン光とを測定対象物に投影する投影手段と、
前記第1または第2のパターン光が投影された前記測定対象物を画像データとして撮像する撮像手段を有し、
前記撮像手段により得られた前記第1のパターン光の画像データの階調値と前記第2のパターン光の階調値から、階調値の交点位置を算出して三次元位置を計算する計算手段とを備え、
前記第1または第2のパターン光の明部と暗部の繰り返しの周期を1周期とし、前記撮像手段が有する1画素が前記測定対象物面上において撮像する範囲を撮像間隔とし、投影された前記第1のパターン光もしくは前記第2のパターン光の前記測定対象物面上での1周期の長さを前記撮像間隔のM倍としたときに、
2×N−0.2≦M≦2×N+0.2 ただし、Nは2以上の整数値
を満たすように前記投影手段と前記撮像手段が配置されている。
本発明によれば、サンプリング数を偶数近傍とすることで、交点の間隔を正しく求めることができ、精度良く三次元計測を行えるようになる。
実施形態による三次元計測装置の基本構成を示す図。 測定対象物面上の明暗パターン光とCCDの画素の関係を表した図。 明暗パターン光の1周期中に存在するCCDの画素数が偶数になるように設定して得られた画像データから取得した階調値を表した図。 実施形態による条件を満たさない場合の例を示す図。 測定対象物面上における明暗パターン光の1周期と、CCDカメラの画素でサンプリングしたときの交点間隔の誤差量を示す図。
以下、添付の図面を参照して本発明の好適な実施形態の一例を説明する。
図1の(a)は、実施形態による三次元計測装置の構成例を示した図である。図1の(a)において、101は測定対象物、102は投影手段の一例としてのプロジェクタ、103は撮像手段の一例としてのCCDカメラである。105はプロジェクタ102に画像(投影すべきパターン)を入力するコンピュータ(以下、PC105)、106はCCDカメラ103により撮像した画像データの階調値を取得し測定対象物の位置を計算するコンピュータ(以下、PC106)である。PC105とPC106は互いに通信可能に接続されている。なお、PC105とPC106が1台のコンピュータにより実現されてもよいことは明らかである。
図1の(b)は、本実施形態で使用されるパターン光の1例を示している。本実施形態では、明部と暗部が交互に配置された第1のパターン光と、第1のパターン光の明部と暗部の位相をずらした第2のパターン光とが用いられる。第1の明暗パターン光110aは第1のパターン光の一例であり、第1の明暗パターン光110aの位相をずらした第2の明暗パターン光110bは第2のパターン光の一例である。第1及び第2のパターン光としては、図示の例に限られるものではなく、以下に説明する要件を満たしたパターン光であれば如何なるものでも使用可能である。
次に、PC105とPC106によって測定対象物101の位置が算出される。まず、第1取得処理で、PC105は第1の明暗パターン光110aをプロジェクタ102に投影させ、PC106は第1の明暗パターン光110aが投影された測定対象物101をCCDカメラ103に撮影させて第1の画像データを取得する。続いて、第2取得処理で、PC105は第2の明暗パターン光110bをプロジェクタ102に投影させ、PC106は第2の明暗パターン光110bが投影された測定対象物101をCCDカメラ103に撮影させて第2の画像データを取得する。
こうして、プロジェクタ102を通して第1の明暗パターン光110a、第2の明暗パターン光110bが投影された測定対象物101上の輝度分布をCCDカメラ103で撮影し、デジタルな画像データとしてPC106に取り込む。以降、第1、第2の明暗パターン光の各々の画像データの値を階調値と呼ぶ。三次元計測装置は、CCDカメラ103により得られた第1の明暗パターン光の画像データ(第1の画像データ)の階調値と第2の明暗パターン光の画像データ(第2の画像データ)の階調値とから、以下に説明するように階調値の交点位置を算出する。そして、これら算出された交点位置に基づいて三次元位置が計算される。
第1と第2の画像データのうち、あるCCD画素列を通る断面を取り、その断面において第1と第2の明暗パターン光110a,bの階調値を結ぶと、図3で後述するように各々の階調を結んだ線が交差する。なお、断面をとるCCD画素列は、明暗パターン光における明暗の並びに直交する方向にとることが好ましい。
図2は図1に示した測定対象物101上の一部を拡大したもので、測定対象物に投影した明暗パターン光とCCD画素の関係を表している。図2において、CCDカメラ103の各画素が測定対象物上において撮像する範囲が実線で示されている。CCDカメラ103の1画素が測定対象物101上において撮影する範囲を撮像間隔Sとし、測定対象物101上における投影された明暗パターン光の1周期(距離)をPとすると、P=M×S(M>0)が成り立つ。本実施形態では、M=4(偶数)、即ちP=4×Sが成り立つようにプロジェクタ102とCCDカメラ103が構成されている。
第1の明暗パターン光110aと第2の明暗パターン光110b下での撮影を行い、画像データから階調値を取得して、第1と第2の明暗パターン光から階調の境界を検出した様子を図3に示す。曲線V、Wは測定対象物101に投影された第1と第2の明暗パターン光の撮像素子上の強度分布であり、D(白四角)は該強度分布V,Wの交点の列である。点A(黒丸)、点B(黒三角)は、強度分布V,Wのそれぞれを撮像画素でサンプリングして得られた階調分布の点列である。
点C(黒星)は、点列Aを直線で結んで得られる線と、同じく点列Bを直線で結んで得られる線の交点で構成される点列である。本実施形態では、明暗パターン光の1周期内を撮像素子の偶数画素4画素でサンプリングしているため、交点間隔の真値はその半分の2.0である。点Dと点Cが異なっていても、本実施形態のように明暗パターン光の1周期を撮像素子の偶数画素でサンプリングすることで、点Cから求める交点間隔は真値の2.0となる。
測定対象物101の面上における明暗パターン光の1周期が、測定対象物101の面上における撮像間隔のM倍(Mは偶数)になるように構成することで各交点間隔の誤差量を抑えることができる。なお、実装上、上記Mの値を正確に整数とするのは困難であるが、Mが偶数値±0.2であれば精度の良い交点位置の検出が可能である。即ちサンプリング数がMのとき、
2×N−0.2≦M≦2×N+0.2(N:2以上の整数値) … 式(1)
を満たすように測定対象物101、プロジェクタ102、CCDカメラ103を配置することで、各交点間隔を真値に近づけることができる。交点間隔を正しく求めることで、精度良く交点位置を検出することが可能になり、ひいては高精度な三次元測定を実現できる。
図4に、測定対象物面上における明暗パターン光の1周期が、測定対象物面上における撮像間隔の偶数倍にならない例を示す。図4の例では、M=4.5で、プロジェクタ102から投影される明暗パターン光の1周期がCCDカメラ103の撮像間隔Sの4.5倍(P=4.5×S)になっている。このように、上述した式(1)の条件を満たしていない場合、撮像によってサンプリングされた階調値から交点間隔を求めると、各交点間隔が真値から大きく外れ、精度良く交点位置を検出するのが難しくなる。
図5は、定対象物に投影した明暗パターン光の1周期を撮像素子のM画素でサンプリングを行った場合の交点間隔の誤差量を計算した結果である。横軸は、明暗パターン光の1周期あたりのサンプリング数(M)、縦軸は明暗パターン光の1周期の幅に対して三次元計測から求めた交点間隔がサンプリングによって発生する誤差量(単位:%)である。サンプリング数Mが式(1)を満たすとき、交点間隔が真値に近い値を取得することができ、精度良く三次元計測の検出することができる。式(1)から外れた場合は、取得される交点間隔が真値から外れてしまうため、精度良く三次元計測の検出することが難しい。
特に、サンプリング数Mが、
2×N−0.1≦M≦2×N+0.1(N:2以上の整数値) … 式(2)
を満たすとき、三次元計測から隣り合う交点との交点間隔を求めた場合、各箇所において求めた交点間隔がより真値に近くなり、正確な測定物の位置を求めることが出来る。
なお、サンプリング数Mが10より大きいときは、プロジェクタ102の投影画像の1周期を多くのCCD画素で撮影していることになる。そのため、Mの値が大きくなればなるほど式(1)を満たさなくても各交点間隔の誤差量が小さくなる。しかしながら、サンプリング数Mが10以下の場合、式(1)或いは式(2)の条件を満たさないと交点間隔の誤差が大きく、真値から外れる。そのため、式(1)或いは式(2)のMが10以下を満たすように投影手段と撮像手段構成することで、位置検出精度を向上させ三次元計測を精度良く行うことができる。
以上のように、本実施形態によれば、測定対象物に投影された明暗パターン光の1周期の幅を、撮像手段の撮像素子の偶数前後の画素数(サンプリング数)で測定対象物を撮影するように、投影手段と撮像手段を構成する。
撮像手段で明暗パターン光を撮像して得たデジタルな画像データから階調値を取得すると、撮像素子の画素単位に階調値がサンプリングされる。第1の明暗パターン光と第2の明暗パターン光の画像から取得した階調値を用いて明暗パターン光の境界を検出すると、検出する境界位置にはサンプリングを直線近似することに起因したサンプリング誤差が発生する。そのため、その交点から交点間隔を算出すると、交点間隔には誤差が発生する。したがって、本実施形態では、測定対象物に投影された明暗パターン光の1周期の幅が撮像素子の1画素が測定対象物を撮影する幅の偶数倍前後となるように構成することで、交点間隔を真値に近づけることができ、精度良く三次元計測を行うことができる。

Claims (4)

  1. 明部と暗部を交互に配置する第1のパターン光と、前記第1のパターン光の位相をずらした第2のパターン光とを測定対象物に投影する投影手段と、
    前記第1または第2のパターン光が投影された前記測定対象物を画像データとして撮像する撮像手段を有し、
    前記撮像手段により得られた前記第1のパターン光の画像データの階調値と前記第2のパターン光の画像データの階調値から、階調値の交点位置を算出して三次元位置を計算する計算手段とを備え、
    前記第1または第2のパターン光の明部と暗部の繰り返しの周期を1周期とし、前記撮像手段が有する1画素が前記測定対象物面上において撮像する範囲を撮像間隔とし、投影された前記第1のパターン光もしくは前記第2のパターン光の前記測定対象物面上での1周期の長さを前記撮像間隔のM倍としたときに、
    2×N−0.2≦M≦2×N+0.2 ただし、Nは2以上の整数値
    を満たすように前記投影手段と前記撮像手段が配置されていることを特徴とする三次元計測装置。
  2. 前記Nは10以下の整数値であることを特徴とする請求項1に記載の三次元計測装置。
  3. 前記Mが、
    2×N−0.1≦M≦2×N+0.1
    を満たすことを特徴とする請求項1または2に記載の三次元計測装置。
  4. 明部と暗部を交互に配置する第1のパターン光と、前記第1のパターン光の位相をずらした第2のパターン光とを測定対象物に投影する投影手段と、
    前記第1または第2のパターン光が投影された前記測定対象物を撮像する撮像手段とを備えた三次元計測装置による三次元計測方法であって、
    第1取得手段が、前記投影手段に前記第1のパターン光を投影させて前記撮像手段に前記測定対象物を撮像させることで第1の画像データを取得する第1取得工程と、
    第2取得手段が、前記投影手段に前記第2のパターン光を投影させて前記撮像手段に前記測定対象物を撮像させることで第2の画像データを取得する第2取得工程と、
    計算手段が、前記第1の画像データにおける前記第1のパターン光の階調値と前記第2の画像データにおける前記第2のパターン光の階調値との交点位置を算出して三次元位置を計算する計算工程とを有し、
    前記第1及び第2取得工程では、前記第1または第2のパターン光の明部と暗部の繰り返しの周期を1周期とし、前記撮像手段が有する1画素が前記測定対象物面上において撮像する範囲を撮像間隔とし、投影された前記第1のパターン光もしくは前記第2のパターン光の前記測定対象物面上での1周期の長さを前記撮像間隔のM倍としたときに、
    2×N−0.2≦M≦2×N+0.2 ただし、Nは2以上の整数値
    を満たすように前記投影手段と前記撮像手段とが配置されていることを特徴とする三次元計測方法。
JP2010283730A 2010-12-20 2010-12-20 三次元計測装置及び三次元計測方法 Expired - Fee Related JP5611022B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010283730A JP5611022B2 (ja) 2010-12-20 2010-12-20 三次元計測装置及び三次元計測方法
US13/314,577 US8708497B2 (en) 2010-12-20 2011-12-08 Three dimensional measurement apparatus and three dimensional measurement method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010283730A JP5611022B2 (ja) 2010-12-20 2010-12-20 三次元計測装置及び三次元計測方法

Publications (2)

Publication Number Publication Date
JP2012132727A JP2012132727A (ja) 2012-07-12
JP5611022B2 true JP5611022B2 (ja) 2014-10-22

Family

ID=46233863

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010283730A Expired - Fee Related JP5611022B2 (ja) 2010-12-20 2010-12-20 三次元計測装置及び三次元計測方法

Country Status (2)

Country Link
US (1) US8708497B2 (ja)
JP (1) JP5611022B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6170281B2 (ja) 2011-05-10 2017-07-26 キヤノン株式会社 三次元計測装置、三次元計測装置の制御方法、およびプログラム
JP5918984B2 (ja) 2011-12-06 2016-05-18 キヤノン株式会社 情報処理装置、情報処理装置の制御方法、およびプログラム
JP6161276B2 (ja) 2012-12-12 2017-07-12 キヤノン株式会社 測定装置、測定方法、及びプログラム
JP6320051B2 (ja) * 2014-01-17 2018-05-09 キヤノン株式会社 三次元形状計測装置、三次元形状計測方法
US9881235B1 (en) 2014-11-21 2018-01-30 Mahmoud Narimanzadeh System, apparatus, and method for determining physical dimensions in digital images
KR101795690B1 (ko) 2016-09-29 2017-11-08 이화여자대학교 산학협력단 프로젝션 영상의 고속 생성 방법
KR102464368B1 (ko) * 2017-11-07 2022-11-07 삼성전자주식회사 메타 프로젝터 및 이를 포함하는 전자 장치

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0264403A (ja) * 1988-08-31 1990-03-05 Fanuc Ltd スリット光画像生成方法
JPH0656616B2 (ja) * 1988-10-29 1994-07-27 オージー情報システム株式会社 撮像された画像情報の2値化方法
JP3370418B2 (ja) * 1994-03-18 2003-01-27 株式会社資生堂 3次元形状測定システム
JP3411829B2 (ja) * 1997-07-02 2003-06-03 旭硝子株式会社 表面形状の評価方法および評価装置
JP3871963B2 (ja) * 2002-05-16 2007-01-24 住友化学株式会社 表面検査装置及び表面検査方法
EP1517117A1 (de) * 2003-09-22 2005-03-23 Leica Geosystems AG Verfahren und System zur Bestimmung einer Aktualposition eines Positionierungsgerätes
WO2005096126A1 (ja) * 2004-03-31 2005-10-13 Brother Kogyo Kabushiki Kaisha 画像入出力装置
JP4701948B2 (ja) * 2005-09-21 2011-06-15 オムロン株式会社 パタン光照射装置、3次元形状計測装置、及びパタン光照射方法
JP4874657B2 (ja) 2006-01-18 2012-02-15 ローランドディー.ジー.株式会社 三次元形状の測定方法およびその装置
JP2008122628A (ja) * 2006-11-10 2008-05-29 Fuji Xerox Co Ltd 縦縞干渉模様投影レンズ
JP4931728B2 (ja) * 2007-08-08 2012-05-16 シーケーディ株式会社 三次元計測装置及び基板検査機
JP5907596B2 (ja) * 2010-10-12 2016-04-26 キヤノン株式会社 三次元計測装置、三次元計測方法及びプログラム

Also Published As

Publication number Publication date
US8708497B2 (en) 2014-04-29
JP2012132727A (ja) 2012-07-12
US20120154540A1 (en) 2012-06-21

Similar Documents

Publication Publication Date Title
JP5611022B2 (ja) 三次元計測装置及び三次元計測方法
EP2588836B1 (en) Three-dimensional measurement apparatus, three-dimensional measurement method, and storage medium
JP6170281B2 (ja) 三次元計測装置、三次元計測装置の制御方法、およびプログラム
JP2011017700A (ja) 対象物の3次元座標の決定方法
JP6296477B2 (ja) 対象物の三次元座標を決定する方法および装置
TWI573984B (zh) 圖像匹配系統及方法
CN106447733B (zh) 颈椎活动度及活动轴线位置的确定方法、系统及装置
JP2007071769A (ja) モアレ縞を用いたずれ、パタ−ンの回転、ゆがみ、位置ずれ検出方法
CN110268221B (zh) 线绳测量装置和线绳测量方法
JP3629532B2 (ja) 連続移動物体のリアルタイム形状計測方法及びシステム
JP5481862B2 (ja) パンタグラフ高さ測定装置及びそのキャリブレーション方法
JP6035031B2 (ja) 複数の格子を用いた三次元形状計測装置
JP2008145209A (ja) 三次元形状計測装置及び三次元形状計測方法
JP2008281481A (ja) 解像測定装置及び方法
JP2018112476A (ja) 微小変位測定装置および微小変位測定方法
JP2010151842A (ja) 三次元形状計測装置及び三次元形状計測方法
JP2008216039A (ja) 形状測定方法および形状測定装置
JP2020193820A5 (ja)
JP2008170281A (ja) 形状測定装置及び形状測定方法
KR101750883B1 (ko) 비전 검사 시스템의 3차원 형상 측정 방법
KR101437920B1 (ko) 카메라 이미지를 이용한 진동변위 측정 시 카메라 흔들림 보정방법
JP5968370B2 (ja) 三次元計測装置、三次元計測方法、及びプログラム
JP2008170282A (ja) 形状測定装置
JP2012013592A (ja) 3次元形状測定機の校正方法及び3次元形状測定機
JP2006330772A (ja) 撮影画像における歪曲収差補正方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140625

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140804

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140902

R151 Written notification of patent or utility model registration

Ref document number: 5611022

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees