JP5544942B2 - 物体情報検出システム、情報検出方法、及びプログラム - Google Patents

物体情報検出システム、情報検出方法、及びプログラム Download PDF

Info

Publication number
JP5544942B2
JP5544942B2 JP2010054290A JP2010054290A JP5544942B2 JP 5544942 B2 JP5544942 B2 JP 5544942B2 JP 2010054290 A JP2010054290 A JP 2010054290A JP 2010054290 A JP2010054290 A JP 2010054290A JP 5544942 B2 JP5544942 B2 JP 5544942B2
Authority
JP
Japan
Prior art keywords
marker
orientation
shape
information
coordinate system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010054290A
Other languages
English (en)
Other versions
JP2011185897A (ja
Inventor
祐人 服部
絢子 渡辺
克也 犬塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2010054290A priority Critical patent/JP5544942B2/ja
Publication of JP2011185897A publication Critical patent/JP2011185897A/ja
Application granted granted Critical
Publication of JP5544942B2 publication Critical patent/JP5544942B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、対象物とその対象物に配置されたマーカとの相対位置及び姿勢を検出する物体情報検出システム、情報検出方法、及びプログラムに関するものである。
対象物の形状を、計測センサ等を用いて計測し、その計測値に基づいて対象物の位置及び姿勢を求める場合に、その計測精度が対象物の形状に大きく左右されることがある。これに対し、対象物に配置されたマーカを撮影し、そのマーカの撮影画像に基づいて、対象物の位置及び姿勢を推定する3次元位置姿勢センシング装置が知られている(例えば、特許文献1参照)。
特開2000−227309号公報
ところで、上記3次元位置姿勢センシング装置は、予め測定された対象物とマーカとの相対位置及び姿勢を用いて、上記対象物の位置及び姿勢を推定している。しかしながら、測定時に対象物とマーカとの相対位置及び姿勢に誤差が生じる可能性があり、これにより、その相対位置及び姿勢に基づいて推定された対象物の位置及び姿勢の精度も低下する虞がある。
本発明は、このような問題点を解決するためになされたものであり、高精度に対象物とマーカとの相対位置及び姿勢を検出できる物体情報検出システム、情報検出方法、及びプログラムを提供することを主たる目的とする。
上記目的を達成するための本発明の一態様は、複数の姿勢における対象物の形状情報を夫々検出する形状検出手段と、前記対象物に配置されたマーカの位置及び姿勢情報を夫々検出するマーカ検出手段と、前記形状検出手段により検出された前記対象物の形状情報と、前記マーカ検出手段により検出された前記マーカの位置及び姿勢情報と、に基づいて、前記対象物と前記マーカとの相対位置及び姿勢を算出する位置姿勢算出手段と、を備える、ことを特徴とする物体情報検出システムである。
また、この一態様において、前記対象物を移動させる移動手段と、前記移動手段により移動する前記対象物の形状を計測する計測手段と、前記移動手段により移動する前記対象物を撮影する撮影手段と、を更に備え、前記形状検出手段は、前記計測手段により計測された前記対象物の計測結果に基づいて、前記対象物の形状情報を検出し、前記マーカ検出手段は、前記撮影手段により撮影された前記マーカの撮影画像に基づいて、前記マーカの位置及び姿勢情報を検出してもよい。
さらに、この一態様において、前記位置姿勢算出手段により算出された前記対象物とマーカとの相対位置及び姿勢を記憶する記憶手段を更に備えていてもよい。
他方、上記目的を達成するための本発明の一態様は、複数の姿勢における対象物の形状情報を夫々検出する工程と、前記対象物に配置されたマーカの位置及び姿勢情報を夫々検出する工程と、前記検出された対象物の形状情報と、前記検出されたマーカの位置及び姿勢情報と、に基づいて、前記対象物と前記マーカとの相対位置及び姿勢を算出する工程と、を含む、ことを特徴とする情報検出方法であってもよい。
また、上記目的を達成するための本発明の一態様は、複数の姿勢における対象物の形状情報を夫々検出する処理と、前記対象物に配置されたマーカの位置及び姿勢情報を夫々検出する処理と、前記検出された対象物の形状情報と、前記検出されたマーカの位置及び姿勢情報と、に基づいて、前記対象物と前記マーカとの相対位置及び姿勢を算出する処理と、をコンピュータに実行させるプログラムであってもよい。
さらに、上記目的を達成するための本発明の一態様は、複数の姿勢における対象物の形状情報を夫々検出する3次元形状検出処理部と、前記対象物に配置されたコードマーカの位置及び姿勢情報を夫々検出するコードマーカ検出処理部と、前記3次元形状検出処理部により検出された前記対象物の形状情報と、前記コードマーカ検出処理部により検出された前記コードマーカの位置及び姿勢情報と、に基づいて、前記対象物と前記コードマーカとの相対位置及び姿勢を算出する相対位置姿勢算出部と、を備える、ことを特徴とする物体情報検出システムであってもよい。
本発明によれば、高精度に対象物とマーカとの相対位置及び姿勢を検出する物体情報検出システム、情報検出方法、及びプログラムを提供することができる。
本発明の一実施の形態に係る物体情報検出システムの概略的な構成を示すブロック図である。 対象物の3次元形状及び各コードマーカの位置及び姿勢を表現する3次元座標系の一例を示す図である。 本発明の一実施の形態に係る物体情報検出システムの処理フローの一例を示すフローチャートである。
以下、図面を参照して本発明の実施の形態について、説明する。図1は、本発明の一実施の形態に係る物体情報検出システムの概略的な構成を示すブロック図である。本実施の形態に係る物体情報検出システム1は、任意の形状の対象物10と、対象物10に配置された複数のコードマーカ等のマーカ11と、の相対位置及び姿勢を高精度に検出できるものである。物体情報検出システム1は、回転装置2と、3次元形状計測装置3と、3次元形状検出処理部4と、撮影装置5と、コードマーカ検出処理部6と、相対位置姿勢算出部7と、物体情報記憶部8と、を備えている。
また、物体情報検出システム1は、例えば、制御処理、演算処理等を行うCPU(Central Processing Unit)と、CPUによって実行される制御プログラム、演算プログラム等が記憶されたROM(Read Only Memory)と、処理データ等を記憶するRAM(Random Access Memory)と、を有する、マイクロコンピュータを中心にハードウェア構成されている。
回転装置2は、移動手段の一具体例であり、計測する対象物10がその上面に載置され、対象物10を時計方向あるいは反時計方向へ回転移動させることができる。なお、回転装置2は、対象物10を時計方向あるいは反時計方向へ回転移動させているが、これに限らず、後述の撮影あるいは計測が可能であれば、任意の方向へ移動させてもよい。
ここで、対象物10としては、例えば、直方体の物体が用いられ、直方体の各側面にコードマーカ11が夫々配置されているが、これに限らず、対象物10の形状は任意形状でよく、また、対象物10に配置されるコードマーカ11の位置及び数も任意でよい。さらに、コードマーカ11は、例えば、長方形状となっており、コードが格子パターンで形成されているが、これに限らず、コードマーカ11を適切に認識できれば、円形状や正方形状などの任意形状でよく、コードも任意のパターンで形成してもよい。
3次元形状計測装置3は、計測手段の一具体例であり、回転装置2に載置され回転移動することで複数の姿勢をとる対象物10の3次元形状を計測することができる。3次元形状計測装置3は、例えば、レーザセンサ、レーダセンサ、超音波センサ等の計測センサを用いて対象物10の外面を走査し、対象物10の3次元形状を計測することができる。なお、本実施の形態において、3次元形状計測装置3を用いる代わりに撮影装置5を用いて、対象物10の3次元形状を計測してもよい。3次元形状計測装置3は、計測した対象物10の3次元形状の計測データを、3次元形状検出処理部4に対して出力する。
3次元形状検出処理部4は、形状検出手段の一具体例であり、3次元形状計測装置3により計測された対象物10の3次元形状の計測データに基づいて、周知の演算処理を行い複数の姿勢における対象物10の3次元形状を検出することができる。ここで、3次元形状検出処理部4は、対象物10の3次元形状を、所定位置(例えば、対象物10の角部や計測センサの位置など)を原点Oとした3次元座標系(x、y、z)において検出する(図2)。3次元形状検出処理部4は、3次元座標系で表現された対象物10の3次元形状を、相対位置姿勢算出部7に対して出力する。
撮影装置5は、撮影手段の一具体例であり、回転装置2に載置され回転移動する対象物10に配置された複数のコードマーカ11を撮影することができる。撮影装置5は、例えば、ステレオカメラ等を用いて、対象物10の各コードマーカ11を撮影し、その撮影画像をコードマーカ検出処理部6に対して出力する。なお、本実施の形態において、撮影装置5を用いる代わりに3次元形状計測装置3を用いて、各対象物10上の各コードマーカ11を計測し、コードマーカ検出処理部6は、後述の如く、計測されたコードマーカ11の計測値に基づいて、各コードマーカ11の位置及び姿勢を夫々検出してもよい。
コードマーカ検出処理部6は、マーカ検出手段の一具体例であり、撮影装置5により撮影された各コードマーカ11の撮影画像に対して周知の画像処理を行うことで、対象物10に配置された各コードマーカ11の位置及び姿勢を夫々検出することができる。ここで、コードマーカ検出処理部6は、上記対象物10の3次元形状と同様に、各コードマーカ11の位置及び姿勢を、所定位置(例えば、各コードマーカ11の角部や撮影装置5の位置)を原点Oとした3次元座標系(x、y、z)において検出する。コードマーカ検出処理部6は、3次元座標系で表現された各コードマーカ11の位置及び姿勢を、相対位置姿勢算出部7に対して出力する。
相対位置姿勢算出部7は、位置姿勢算出手段の一具体例であり、3次元形状検出処理部4により検出された対象物10の3次元形状と、コードマーカ検出処理部6により検出された各コードマーカ11の位置及び姿勢と、に基づいて、対象物10と各コードマーカ11との相対位置及び姿勢を算出する。
相対位置姿勢算出部7は、例えば、対象物10の3次元形状を表現する3次元座標系と、各コードマーカ11の位置及び姿勢を表現する3次元座標系と、を整合させた3次元座標系における、対象物10と各コードマーカ11との相対位置及び姿勢を算出する。これにより、対象物10とこの対象物10に配置された各コードマーカ11との相対位置及び姿勢を高精度に検出することができる。また、対象物10の3次元形状と各コードマーカ11の位置及び姿勢とを同時に取得して、対象物10と各コードマーカ11との相対位置及び姿勢を自動的に算出することで、計測対象となる対象物10の数が増加した場合でも、その算出にかかる処理量を効率的に低減することができる。相対位置姿勢算出部7は、算出した対象物10と各コードマーカ11との相対位置及び姿勢を物体情報記憶部8に対して逐次出力する。
物体情報記憶部8は、記憶手段の一具体例であり、例えば、磁気ディスク装置、光ディスク装置、RAMなどにより構成されている。物体情報記憶部8は、相対位置姿勢算出部7から出力される対象物10と各コードマーカ11との相対位置及び姿勢を、データベース化して記憶する。これにより、ユーザは、物体情報記憶部8のデータベースから、必要な対象物10と各コードマーカ11との相対位置及び姿勢を、高精度かつ高速に取得することができる。
ところで、従来、対象物とコードマーカとの相対位置及び姿勢を測定する際に、測定誤差等により精度低下を招く可能性がある。また、対象物とコードマーカとの相対位置及び姿勢をコードマーカ毎に計測する必要が生じるため、処理効率が低下する可能性があり、さらに、対象物の数が増加するに従ってその測定の処理量が増加する可能性もある。
そこで、本実施の形態に係る物体情報検出システム1において、上述の如く、相対位置姿勢算出部7は、3次元形状検出処理部4により検出された対象物10の3次元形状と、コードマーカ検出処理部6により検出された各コードマーカ11の位置及び姿勢と、に基づいて、対象物10と各コードマーカ11との相対位置及び姿勢を算出する。これにより、対象物10と各コードマーカ11との相対位置及び姿勢を高精度に検出することができる。また、一回の処理で対象物10と各コードマーカ11との相対位置及び姿勢を検出することができ、処理効率の向上も期待できる。
本実施の形態に係る物体情報検出システムの検出方法について詳細に説明する。図3は、本実施の形態に係る物体情報検出システムの処理フローの一例を示すフローチャートである。
まず、3次元形状計測装置3は、回転装置2に載置され回転移動する対象物10の3次元形状を計測し(ステップS101)、計測した対象物10の3次元形状の計測データを、3次元形状検出処理部4に対して出力する。
次に、3次元形状検出処理部4は、3次元形状計測装置3により計測された対象物10の3次元形状の計測データに基づいて周知の演算処理を行い、対象物10の3次元形状を3次元座標系(x、y、z)において検出し(ステップS102)、相対位置姿勢算出部7に対して出力する。
また、撮影装置5は、回転装置2に載置され回転移動する対象物10に配置された各コードマーカ11を撮影し(ステップS103)、その撮影画像をコードマーカ検出処理部6に対して出力する。
次に、コードマーカ検出処理部6は、撮影装置5により撮影された各コードマーカ11の撮影画像に対して周知の画像処理を行うことで、対象物10に配置された各コードマーカ11の位置及び姿勢を、3次元座標系(x、y、z)において検出し(ステップS104)、相対位置姿勢算出部7に対して出力する。なお、上記(ステップS101)及び(ステップS102)と、(ステップS103)及び(ステップS104)と、は同時並行で処理が行われている。
その後、相対位置姿勢算出部7は、3次元形状検出処理部4により検出された対象物10の3次元形状と、コードマーカ検出処理部6により検出された各コードマーカ11の位置及び姿勢と、に基づいて、対象物10の3次元形状を表現する3次元座標系と、各コードマーカ11の位置及び姿勢を表現する3次元座標系と、を整合させた3次元座標系における、対象物10と各コードマーカ11との相対位置及び姿勢を算出し(ステップS105)、物体情報記憶部8に対して逐次出力する。
そして、物体情報記憶部8は、相対位置姿勢算出部7から出力される対象物10と各コードマーカ11との相対位置及び姿勢をデータベースに記憶する(ステップS106)。
以上、本実施の形態に係る物体情報検出システム1において、相対位置姿勢算出部7は、3次元形状検出処理部4により検出された対象物10の3次元形状と、コードマーカ検出処理部6により検出された各コードマーカ11の位置及び姿勢と、に基づいて、対象物10と各コードマーカ11との相対位置及び姿勢を算出する。これにより、対象物10と各コードマーカ11との相対位置及び姿勢を高精度に検出することができる。
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
例えば、上記一実施の形態において、3次元形状計測装置3及び撮影装置5を固定し対象物10を回転装置2により移動させているが、これに限らず、対象物10を固定し3次元形状計測装置3及び撮影装置5を移動させてもよい。
また、上記一実施の形態において、上述の図3に示す処理を、CPUにコンピュータプログラムを実行させることにより実現することも可能である。この場合、コンピュータプログラムは、記録媒体に記録して提供することも可能であり、また、インターネットその他の通信媒体を介して伝送することにより提供することも可能である。
さらに、記憶媒体には、例えば、フレキシブルディスク、ハードディスク、磁気ディスク、光磁気ディスク、CD−ROM、DVD、ROMカートリッジ、バッテリバックアップ付きRAMメモリカートリッジ、フラッシュメモリカートリッジ、不揮発性RAMカートリッジ等が含まれる。さらにまた、通信媒体には、電話回線等の有線通信媒体、マイクロ波回線等の無線通信媒体等が含まれる。
本発明は、例えば、計測対象物と、計測対象物に配置された複数のコードマーカとの相対位置及び姿勢を算出する物体情報検出システム、情報検出方法、及びプログラムに利用可能である。
1 物体情報検出システム
2 回転装置
3 3次元形状計測装置
4 3次元形状検出処理部
5 撮影装置
6 コードマーカ検出処理部
7 相対位置姿勢算出部
8 物体情報記憶部

Claims (6)

  1. 複数の姿勢における対象物の3次元形状を夫々検出する形状検出手段と、
    前記対象物に配置されたマーカの位置及び姿勢情報を夫々検出するマーカ検出手段と、
    前記形状検出手段により検出された前記対象物の3次元形状と、前記マーカ検出手段により検出された前記マーカの位置及び姿勢情報と、に基づいて、前記対象物の3次元形状を表現する3次元座標系と、前記マーカの位置及び姿勢を表現する3次元座標系と、を整合させた3次元座標系における、前記対象物と前記マーカとの相対位置及び姿勢を算出する位置姿勢算出手段と、を備える、ことを特徴とする物体情報検出システム。
  2. 請求項1記載の物体情報検出システムであって、
    前記対象物を移動させる移動手段と、
    前記移動手段により移動する前記対象物の形状を計測する計測手段と、
    前記移動手段により移動する前記対象物を撮影する撮影手段と、を更に備え、
    前記形状検出手段は、前記計測手段により計測された前記対象物の計測結果に基づいて、前記対象物の形状情報を検出し、
    前記マーカ検出手段は、前記撮影手段により撮影された前記マーカの撮影画像に基づいて、前記マーカの位置及び姿勢情報を検出する、ことを特徴とする物体情報検出システム。
  3. 請求項1又は2記載の物体情報検出システムであって、
    前記位置姿勢算出手段により算出された前記対象物とマーカとの相対位置及び姿勢を記憶する記憶手段を更に備える、ことを特徴とする物体情報検出システム。
  4. 複数の姿勢における対象物の3次元形状を夫々検出する工程と、
    前記対象物に配置されたマーカの位置及び姿勢情報を夫々検出する工程と、
    前記検出された対象物の3次元形状と、前記検出されたマーカの位置及び姿勢情報と、に基づいて、前記対象物の3次元形状を表現する3次元座標系と、前記マーカの位置及び姿勢を表現する3次元座標系と、を整合させた3次元座標系における、前記対象物と前記マーカとの相対位置及び姿勢を算出する工程と、を含む、ことを特徴とする情報検出方法。
  5. 複数の姿勢における対象物の3次元形状を夫々検出する処理と、
    前記対象物に配置されたマーカの位置及び姿勢情報を夫々検出する処理と、
    前記検出された対象物の3次元形状と、前記検出されたマーカの位置及び姿勢情報と、に基づいて、前記対象物の3次元形状を表現する3次元座標系と、前記マーカの位置及び姿勢を表現する3次元座標系と、を整合させた3次元座標系における、前記対象物と前記マーカとの相対位置及び姿勢を算出する処理と、をコンピュータに実行させるプログラム。
  6. 複数の姿勢における対象物の3次元形状を夫々検出する3次元形状検出処理部と、
    前記対象物に配置されたコードマーカの位置及び姿勢情報を夫々検出するコードマーカ検出処理部と、
    前記3次元形状検出処理部により検出された前記対象物の3次元形状と、前記コードマーカ検出処理部により検出された前記コードマーカの位置及び姿勢情報と、に基づいて、前記対象物の3次元形状を表現する3次元座標系と、前記マーカの位置及び姿勢を表現する3次元座標系と、を整合させた3次元座標系における、前記対象物と前記コードマーカとの相対位置及び姿勢を算出する相対位置姿勢算出部と、を備える、ことを特徴とする物体情報検出システム。
JP2010054290A 2010-03-11 2010-03-11 物体情報検出システム、情報検出方法、及びプログラム Expired - Fee Related JP5544942B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010054290A JP5544942B2 (ja) 2010-03-11 2010-03-11 物体情報検出システム、情報検出方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010054290A JP5544942B2 (ja) 2010-03-11 2010-03-11 物体情報検出システム、情報検出方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2011185897A JP2011185897A (ja) 2011-09-22
JP5544942B2 true JP5544942B2 (ja) 2014-07-09

Family

ID=44792345

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010054290A Expired - Fee Related JP5544942B2 (ja) 2010-03-11 2010-03-11 物体情報検出システム、情報検出方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP5544942B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6429240B2 (ja) * 2015-08-10 2018-11-28 日本電信電話株式会社 形状検出装置、形状検出方法、及びプログラム
KR101837269B1 (ko) 2016-04-27 2018-03-09 한국과학기술원 다중 마커 기반의 정합 가이드 방법 및 시스템
KR101826486B1 (ko) * 2017-09-20 2018-02-07 김성은 증강현실기능을 적용한 모형장난감 및 그 어플리케이션
CN107990841A (zh) * 2017-11-20 2018-05-04 中国科学院长春光学精密机械与物理研究所 一种用于三维扫描测量的辅助装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6973202B2 (en) * 1998-10-23 2005-12-06 Varian Medical Systems Technologies, Inc. Single-camera tracking of an object
JP2002098521A (ja) * 2000-09-26 2002-04-05 Minolta Co Ltd 3次元形状データ生成装置
JP4533193B2 (ja) * 2004-05-14 2010-09-01 キヤノン株式会社 情報処理装置および情報処理方法
JP4599184B2 (ja) * 2005-02-02 2010-12-15 キヤノン株式会社 指標配置計測方法、指標配置計測装置
JP2008046749A (ja) * 2006-08-11 2008-02-28 Canon Inc 画像処理方法および装置

Also Published As

Publication number Publication date
JP2011185897A (ja) 2011-09-22

Similar Documents

Publication Publication Date Title
EP2416113B1 (en) Position and orientation measurement apparatus and position and orientation measurement method
EP2825841B1 (en) Method, device and computer programme for extracting information about a staircase
JP6703812B2 (ja) 3次元物体検査装置
JP2020172401A (ja) 倉庫保管マップの高速確定方法、機器、記憶媒体及びロボット
JP2013232195A5 (ja)
JP2012021958A5 (ja)
KR20170053585A (ko) 로봇 제어 장치 및 로봇 제어 방법
KR20160003776A (ko) 자세 추정 방법 및 로봇
JP5544942B2 (ja) 物体情報検出システム、情報検出方法、及びプログラム
JP2012221261A5 (ja)
JP4766269B2 (ja) 物体検出方法、物体検出装置、及びそれを備えたロボット
JP5477658B2 (ja) キャリブレーション用校正治具、校正治具を備えた3次元計測システム
JP2010071743A (ja) 物体検出方法と物体検出装置およびロボットシステム
JP2009186288A5 (ja)
JP6525148B2 (ja) 軌跡推定方法、軌跡推定装置及び軌跡推定プログラム
JP2014153294A5 (ja)
CN110825079A (zh) 一种地图构建方法及装置
CN102881040A (zh) 一种数码相机移动拍摄三维重建方法
JP5858773B2 (ja) 3次元計測方法、3次元計測プログラム及びロボット装置
KR101735325B1 (ko) 점군 정합 장치
JP4889576B2 (ja) マーク作製装置およびマーク作製方法
TW201621273A (zh) 行動定位裝置及其定位方法
JP2011203148A (ja) 推定装置、推定方法、及び推定プログラム
JP6486083B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP2015224949A (ja) 対象物計測装置及び対象物計測方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120608

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140415

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140428

R151 Written notification of patent or utility model registration

Ref document number: 5544942

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees