JP2012068736A - 移動体 - Google Patents

移動体 Download PDF

Info

Publication number
JP2012068736A
JP2012068736A JP2010211005A JP2010211005A JP2012068736A JP 2012068736 A JP2012068736 A JP 2012068736A JP 2010211005 A JP2010211005 A JP 2010211005A JP 2010211005 A JP2010211005 A JP 2010211005A JP 2012068736 A JP2012068736 A JP 2012068736A
Authority
JP
Japan
Prior art keywords
image
point group
moving body
feature point
enlargement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010211005A
Other languages
English (en)
Other versions
JP5500449B2 (ja
Inventor
Kenji Matsukuma
研司 松熊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yaskawa Electric Corp
Original Assignee
Yaskawa Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yaskawa Electric Corp filed Critical Yaskawa Electric Corp
Priority to JP2010211005A priority Critical patent/JP5500449B2/ja
Publication of JP2012068736A publication Critical patent/JP2012068736A/ja
Application granted granted Critical
Publication of JP5500449B2 publication Critical patent/JP5500449B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

【課題】少ない画像記憶量で、走行中の自己の位置を認識することができ、教示された走行経路に沿って安定して走行することが可能な移動体を提供する。
【解決手段】外環境を撮像する撮像装置15と、複数の教示位置にて撮像装置が撮像した画像をそれぞれ記憶画像として記憶する記憶装置16と、撮像装置15が撮像する現在の画像から第1の特徴点群の位置を抽出し、記憶画像のそれぞれから第2の特徴点群を抽出し、現在の画像に最も近似する記憶画像を近似画像として選択し、現在位置よりも前方の教示位置にて撮像された記憶画像を目標記憶画像として設定し、第1の特徴点群に対して平行移動処理及び拡大縮小処理を行い、第1の特徴点群の位置を目標記憶画像の第2の特徴点群の位置に予め決められた誤差範囲で一致させ、その際の横方向の平行移動量及び拡大縮小率αを求める画像処理装置と、換算結果から走行を制御する制御装置とを有する。
【選択図】図1

Description

本発明は、移動体に関する。
特許文献1には、移動方向の画像を一定の時間間隔で撮影するカメラと、記憶装置と演算装置を有しカメラの画像に基づき移動体を制御する制御装置とを備えた移動体が開示されている。この制御装置は、教示走行時において移動体が所定の走行経路を移動する際に所定のセンサ情報を記憶する。制御装置は、自律走行時において記憶したセンサ情報と現時点のセンサ情報とを比較して、移動体が走行経路を移動するように移動体を制御している。
特開2008−146197号公報
本発明は、少ない画像記憶量で、走行中の自己の位置を認識することができ、教示された走行経路に沿って安定して走行することが可能な移動体を提供することを目的とする。
前記目的に沿う第1の発明に係る移動体は、(1)本体と、(2)前記本体に搭載され外環境を撮像する撮像装置と、(3)複数の教示位置にて前記撮像装置が撮像した画像をそれぞれ記憶画像として記憶する記憶装置と、(4)前記撮像装置が撮像する現在の画像から第1の特徴点群を抽出する第1の特徴点抽出部と、前記各記憶画像から第2の特徴点群を抽出する第2の特徴点抽出部と、前記現在の画像に最も近似する記憶画像を近似画像として選択し、現在位置よりも前方の教示位置にて撮像された前記記憶画像を目標記憶画像として設定し、前記第1の特徴点群に対して平行移動処理及び拡大縮小処理を行い、該第1の特徴点群の位置を前記目標記憶画像の前記第2の特徴点群の位置に予め決められた誤差範囲で一致させ、その際の横方向の平行移動量及び拡大縮小率αを求める照合部とを有する画像処理装置と、(5)前記横方向の平行移動量を、該移動体の進行方向に対する角度ずれ量及び左右方向の位置ずれ量に相当する第1の大きさに換算する第1の換算処理部と、前記拡大縮小率αを、該移動体の前後方向の位置ずれ量に相当する第2の大きさに換算する第2の換算処理部と、前記第1の換算処理部及び前記第2の換算処理部が換算した結果に基づいて走行を制御する走行制御部とを有する制御装置とを備える。
第1の発明に係る移動体において、前記第1の換算処理部は、前記横方向の平行移動量に調整ゲインを乗じることによって、前記横方向の平行移動量を前記第1の大きさに換算することができる。
第1の発明に係る移動体において、前記第2の換算処理部は、前記近似画像に対する目標記憶画像の拡大縮小率βを求め、前記拡大縮小率αを前記拡大縮小率βで除することにより、前記拡大縮小率αを前記第2の大きさに換算することができる。
本発明に係る移動体においては、本発明の構成を有しない場合よりも、少ない画像記憶量で、走行中の自己の位置を認識することができ、教示された走行経路に沿って安定して走行することが可能である。
本発明の一実施の形態に係る移動体の説明図である。 同移動体が有する画像処理装置及び制御装置の機能ブロック図である。 同移動体が有する画像処理装置の処理内容を示す説明図である。 同移動体が自律走行する際の位置と記憶画像を示す説明図である。
続いて、添付した図面を参照しつつ、本発明を具体化した実施の形態につき説明し、本発明の理解に供する。
本発明の一実施の形態に係る移動体10は、事前に教示された複数の位置(教示位置)を通る走行経路に沿って自律走行するものである。この移動体10の車体をなす本体10Aは、平面視して略矩形状の車体(不図示)の角に4つの車輪11を備えている。これら4つの車輪11のうち、前2輪の向きを変えることで本体10Aの進行方向に対する角度ずれ(姿勢のずれ)及び左右方向の位置が制御され、後ろ2輪の回転速度を変えることで本体10Aの移動速度が制御される。以下、本体10Aを含み移動体10という。
移動体10は、図1に示すように、撮像装置15と、記憶装置16と、画像処理装置17と、制御装置18とを備えている。
撮像装置15は、本体10Aに搭載され、移動体10が走行する外環境を予め決められた周期(例えば100〜500msec)で撮像するものである。この撮像装置15は、例えばCCDカメラやCMOSカメラである。撮像装置15は、USBインターフェースを介して後述する記憶装置16及び画像処理装置17に接続されている。
記憶装置16は、移動体10を教示走行させる際に、複数の教示位置にて撮像された画像を記憶画像として記憶する。この記憶装置16は、例えばフラッシュメモリやハードディスクドライブにより構成される。
画像処理装置17は、図2に示すように、第1の特徴点抽出部21と、第2の特徴点抽出部22と、照合部23とを備えている。
第1の特徴点抽出部21は、撮像装置15が撮像する現在の画像(現画像)から第1の特徴点群を抽出する。
第2の特徴点抽出部22は、記憶装置16に記憶された記憶画像から第2の特徴点群を抽出する。特徴点は、公知の方法で抽出することができる。例えば記憶画像がグレースケールで表現されている場合には、白黒の濃淡の変化が大きい点を特徴点とすることができる。
照合部23は、第1の特徴点群の位置と第2の特徴点群の位置とを照合して、記憶装置16に記憶された記憶画像(例えば、現在位置よりも後方側の教示位置で撮像された記憶画像)の中から現画像に最も近い画像を近似画像として選択する。照合部23は、更に、近似画像を撮像した教示位置よりも進行方向の一つ先の教示位置(前方の教示位置)の記憶画像を目標記憶画像として設定する。
照合部23は、第1の特徴点群に対して平行移動処理及び拡大縮小処理を行い、第1の特徴点群の位置を目標記憶画像の第2の特徴点群の位置に予め決められた誤差範囲で一致させる。照合部23は、平行移動処理した際の横方向の平行移動量と、拡大縮小処理した際の拡大縮小率とを求める。
ここで、現画像は、照合対象となる目標記憶画像に対して、1)移動体の進行方向に対する角度ずれ、2)左右方向の位置ずれ、及び3)前後方向の位置ずれの情報を含んでいる。
これら情報は、図3(a)に示す進行方向に対する角度ずれ及び左右方向の位置ずれの第1の情報と図3(b)に示す前後方向の位置ずれの第2の情報に分解することができる。進行方向に対する角度ずれ量及び左右方向の位置ずれ量は、第1の特徴点群の第2の特徴点群に対する横方向の平行移動量として表れる。前後方向の位置ずれ量は、第1の特徴点群の第2の特徴点群に対する拡大縮小率として表れる。
制御装置18は、図2に示すように、第1の換算処理部31と、第2の換算処理部32と、走行制御部33とを備えている。
第1の換算処理部31は、照合部23が求めた平行移動量を移動体の進行方向に対する角度ずれ量及び左右方向の位置ずれ量に相当する大きさに換算することができる。
ここで、第1の換算処理部31の具体的な換算処理について説明する。
現画像に含まれる角度ずれ及び左右方向の位置ずれの情報は、角度ずれの情報と左右方向の位置ずれの情報にそれぞれ分離して扱うことができない。また、角度ずれ量及び左右方向の位置ずれ量を正確に求めることができない。しかし、角度ずれ及び左右方向の位置ずれを全体として1つのずれとして扱い、このずれが小さくなるように前輪の向きを変えて移動体10の進行方向を修正すれば、移動体10は予め決められた走行経路に沿って移動することができる。そこで、横方向の平行移動量を移動体10の進行方向に対する角度ずれ量及び左右方向の位置ずれ量に相当する第1の大きさ(ここでは即ち、前2輪の舵角に相当する)に換算し、この換算された大きさを横方向の位置の補正量として扱うことで、移動体10は予め決められた走行経路に沿って移動することができる。
第1の換算処理部31は、次式(1)に基づいて、横方向の平行移動量(DSI)を第1の大きさ(D)に換算する。
= G × DSI 式(1)
ここで、G:調整ゲインである。この調整ゲイン(G)は、事前に適切な値を実験的に求めておく必要がある。
第2の換算処理部32は、照合部23が求めた拡大縮小率(α)を移動体10の前後方向の位置ずれ量に相当する第2の大きさに換算することができる。
ここで、第2の換算処理部32の具体的な換算処理について説明する。
第2の換算処理部32は、近似画像を基準とする目標記憶画像の拡大縮小率(β)を求める。第2の換算処理部32は、次式(2)に基づいて、拡大縮小率(α)を第2の大きさ(D)に換算する。
= α/β 式(2)
このDは、近似画像を撮像した教示位置X1から目標記憶画像を撮像した教示位置X2までの距離を1とした場合の、移動体10から教示位置X2までの距離(前後方向の距離として近似される)を表している。
走行制御部33は、前輪の向きを変更するためのモータと、後輪を駆動するためのモータと、これらモータに駆動電流を供給するためのモータドライバとで主として構成される。
走行制御部33は、第1の換算処理部31が換算した第1の大きさ(D)に基づいて、予め決められた経路を走行するように前輪の向きを修正する。走行制御部33は、第2の換算処理部32が換算した第2の大きさ(D)に基づいて、車輪11の回転速度を調整する。
次に、移動体10の動作(走行制御方法)について図4に基づいて説明する。
1)事前に走行経路を教示するために、移動体10の教示走行を行う。この教示走行は、作業者が移動体10を操作することによって行われる。撮像装置15により教示位置P1〜P8における外環境が撮像され、それぞれの画像が記憶装置16に記憶される。図4中、教示位置P1は、移動体10の自律走行開始位置である。教示位置P8は、移動体10の走行終了位置である。
2)第2の特徴点抽出部22が教示位置P1〜P8における記憶画像から第2の特徴点群をそれぞれ抽出する。教示走行後、移動体10は自律走行を行う。
3)撮像装置15が、予め決められた周期で画像を撮像する。撮像ごとに画像処理装置17の第1の特徴点抽出部21が現画像から第1の特徴点群を抽出する。
4)照合部23が第1の特徴点群の位置と第2の特徴点群の位置とを照合し、近似画像を選択する。照合部23は、更に、目標記憶画像を設定する。図4に示すように、移動体10の現在位置が、教示位置P4と教示位置P5の間の位置P45である場合、近似画像は、教示位置P4における記憶画像である(教示位置P4は現在位置P45よりも後方に位置し、この教示位置P4における記憶画像が現画像に最も近似している)。目標記憶画像は、教示位置P5における記憶画像である。更に、照合部23は、第1の特徴点群に対して平行移動処理及び拡大縮小処理を行い、第1の特徴点群の位置を、教示位置P5における記憶画像に関する第2の特徴点群の位置に一致させる。この際、照合部23は、第1の特徴点群の位置を第2の特徴点群の位置に予め決められた誤差範囲で一致させれば良い。照合部23は、平行移動処理した際の横方向の平行移動量と、拡大縮小処理した際の拡大縮小率(α)とを求め、出力する。
5)制御装置18の第1の換算処理部31が、式(1)に基づいて、横方向の平行移動量(DSI)を第1の大きさ(D)に換算する。
6)制御装置18の第2の換算処理部32が、近似画像に対する目標記憶画像の拡大縮小率(β)を求める。制御装置18の第2の換算処理部32は、式(2)に基づいて、拡大縮小率(α)を第2の大きさ(D)に換算する。
7)制御装置18の走行制御部33は、第1の換算処理部31が換算した第1の大きさ(D)に基づいて、予め決められた経路を走行するように前輪の向きを修正する。走行制御部33は、前輪の向きを操作することにより、移動体の走行経路を制御する。
8)制御装置18の走行制御部33は、第2の換算処理部32が換算した第2の大きさ(D)に基づいて、車輪11の回転速度を調整する。走行制御部33は、車輪11の回転速度を調整することにより、移動体10の移動速度を制御する。例えば、教示位置P5にて一時停止する場合には、第2の大きさ(D)に基づいて、走行制御部33は、移動体10を減速するように制御する。
9)前述の3)〜8)を繰り返して前進する。移動体10が教示位置P7まで到達した場合には、近似画像は教示位置P7における記憶画像であり、目標記憶画像は教示位置P8における記憶画像となる。移動体10が教示位置P7から教示位置P8の間を走行中は、制御装置18の第2の換算処理部32により、移動体10の現在位置から教示位置P8(走行終了位置)までの相対的な距離が求められる。従って、走行制御部33は走行終了位置P8に向けて徐々に減速するように移動体10の移動速度を制御することができる。
このように、照合部23は、前方に位置する教示位置の記憶画像を目標記憶画像として設定するので、移動体10はこの目標記憶画像を撮像した教示位置までの距離を相対距離として認識する。即ち、移動体10は少ない画像記憶量で、走行中の自己の位置を認識することができ、教示された走行経路に沿って安定して走行する。
なお、本発明は、前述の実施の形態に限定されるものではなく、本発明の要旨を変更しない範囲での変更は可能である。例えば、前述のそれぞれ実施の形態や変形例の一部又は全部を組み合わせて本発明を構成する場合も本発明の技術的範囲に含まれる。
前述の実施の形態においては、照合部23は、近似画像を撮像した教示位置よりも進行方向の一つ先の教示位置の記憶画像を目標記憶画像として設定している。これに代えて、照合部23は、近似画像を撮像した教示位置よりも進行方向の予め決められた数だけ先の教示位置の記憶画像を目標記憶画像として設定してもよい。図4において一例を示すと、近似画像を撮像した教示位置がP4の場合、このP4の2つ先の教示位置P6の記憶画像を目標記憶画像として設定することができる。即ち、目標記憶画像が撮像された教示位置が、現在位置よりも前方にあればよい。
10:移動体、10A:本体、11:車輪、15:撮像装置、16:記憶装置、17:画像処理装置、18:制御装置、21:第1の特徴点抽出部、22:第2の特徴点抽出部、23:照合部、31:第1の換算処理部、32:第2の換算処理部、33:走行制御部

Claims (3)

  1. (1)本体と、
    (2)前記本体に搭載され外環境を撮像する撮像装置と、
    (3)複数の教示位置にて前記撮像装置が撮像した画像をそれぞれ記憶画像として記憶する記憶装置と、
    (4)前記撮像装置が撮像する現在の画像から第1の特徴点群を抽出する第1の特徴点抽出部と、前記記憶画像のそれぞれから第2の特徴点群を抽出する第2の特徴点抽出部と、前記現在の画像に最も近似する記憶画像を近似画像として選択し、現在位置よりも前方の教示位置にて撮像された前記記憶画像を目標記憶画像として設定し、前記第1の特徴点群に対して平行移動処理及び拡大縮小処理を行い、該第1の特徴点群の位置を前記目標記憶画像の前記第2の特徴点群の位置に予め決められた誤差範囲で一致させ、その際の横方向の平行移動量及び拡大縮小率αを求める照合部とを有する画像処理装置と、
    (5)前記横方向の平行移動量を、該移動体の進行方向に対する角度ずれ量及び左右方向の位置ずれ量に相当する第1の大きさに換算する第1の換算処理部と、前記拡大縮小率αを、該移動体の前後方向の位置ずれ量に相当する第2の大きさに換算する第2の換算処理部と、前記第1の換算処理部及び前記第2の換算処理部が換算した結果に基づいて走行を制御する走行制御部とを有する制御装置とを備えた移動体。
  2. 請求項1記載の移動体において、前記第1の換算処理部は、前記横方向の平行移動量に調整ゲインを乗じることによって、前記横方向の平行移動量を前記第1の大きさに換算する移動体。
  3. 請求項1又は2記載の移動体において、前記第2の換算処理部は、前記近似画像に対する目標記憶画像の拡大縮小率βを求め、前記拡大縮小率αを前記拡大縮小率βで除することにより、前記拡大縮小率αを前記第2の大きさに換算する移動体。
JP2010211005A 2010-09-21 2010-09-21 移動体 Expired - Fee Related JP5500449B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010211005A JP5500449B2 (ja) 2010-09-21 2010-09-21 移動体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010211005A JP5500449B2 (ja) 2010-09-21 2010-09-21 移動体

Publications (2)

Publication Number Publication Date
JP2012068736A true JP2012068736A (ja) 2012-04-05
JP5500449B2 JP5500449B2 (ja) 2014-05-21

Family

ID=46165987

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010211005A Expired - Fee Related JP5500449B2 (ja) 2010-09-21 2010-09-21 移動体

Country Status (1)

Country Link
JP (1) JP5500449B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017146775A (ja) * 2016-02-17 2017-08-24 東芝ライフスタイル株式会社 電気掃除機
CN107451593A (zh) * 2017-07-07 2017-12-08 西安交通大学 一种基于图像特征点的高精度gps定位方法
WO2019049197A1 (ja) * 2017-09-05 2019-03-14 日本電気株式会社 飛行体、飛行体制御装置、飛行体制御方法および飛行体制御プログラム
WO2020039656A1 (ja) * 2018-08-23 2020-02-27 日本精工株式会社 自走装置、自走装置の走行制御方法及び走行制御プログラム
JP2021103421A (ja) * 2019-12-25 2021-07-15 株式会社日立製作所 移動体、および、そのナビゲーションシステム
JPWO2022219722A1 (ja) * 2021-04-13 2022-10-20

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008146197A (ja) * 2006-12-07 2008-06-26 Ihi Corp ナビゲーション装置とその制御方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008146197A (ja) * 2006-12-07 2008-06-26 Ihi Corp ナビゲーション装置とその制御方法

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017146775A (ja) * 2016-02-17 2017-08-24 東芝ライフスタイル株式会社 電気掃除機
CN107451593A (zh) * 2017-07-07 2017-12-08 西安交通大学 一种基于图像特征点的高精度gps定位方法
CN107451593B (zh) * 2017-07-07 2020-05-15 西安交通大学 一种基于图像特征点的高精度gps定位方法
WO2019049197A1 (ja) * 2017-09-05 2019-03-14 日本電気株式会社 飛行体、飛行体制御装置、飛行体制御方法および飛行体制御プログラム
JPWO2019049197A1 (ja) * 2017-09-05 2020-09-24 日本電気株式会社 飛行体、飛行体制御装置、飛行体制御方法および飛行体制御プログラム
JP7028248B2 (ja) 2017-09-05 2022-03-02 日本電気株式会社 飛行体、飛行体制御装置、飛行体制御方法および飛行体制御プログラム
US11531344B2 (en) 2018-08-23 2022-12-20 Nsk Ltd. Autonomous running device, running control method for autonomous running device, and running control program of autonomous running device
WO2020039656A1 (ja) * 2018-08-23 2020-02-27 日本精工株式会社 自走装置、自走装置の走行制御方法及び走行制御プログラム
TWI808210B (zh) * 2018-08-23 2023-07-11 日商日本精工股份有限公司 自走裝置、自走裝置的行駛控制方法以及行駛控制程式
JP2021103421A (ja) * 2019-12-25 2021-07-15 株式会社日立製作所 移動体、および、そのナビゲーションシステム
WO2022219722A1 (ja) * 2021-04-13 2022-10-20 三菱電機ビルテクノサービス株式会社 エレベーターの昇降路の内部を点検する飛翔体、飛翔体の制御装置および飛翔体の飛行方法
JPWO2022219722A1 (ja) * 2021-04-13 2022-10-20
JP7444334B2 (ja) 2021-04-13 2024-03-06 三菱電機ビルソリューションズ株式会社 エレベーターの昇降路の内部を点検する飛翔体、飛翔体の制御装置および飛翔体の飛行方法

Also Published As

Publication number Publication date
JP5500449B2 (ja) 2014-05-21

Similar Documents

Publication Publication Date Title
JP5500449B2 (ja) 移動体
JP5645769B2 (ja) 画像処理装置
CN108454694B (zh) 车辆的驾驶辅助装置
JP5088074B2 (ja) 駐車支援装置及び方法
CN1793785A (zh) 停车辅助装置
JP6587172B2 (ja) 操舵制御装置および旋回状態推定方法
US20150329140A1 (en) Steering system
JP2010250469A (ja) 移動体及び移動体の教示方法
JP2017124744A (ja) 車線変更支援装置
KR101512784B1 (ko) 자동주차 지원방법 및 자동주차 지원시스템
EP1783573A3 (en) Apparatus and method for controlling camera of robot cleaner
JP2005290813A (ja) 駐車誘導ロボット
JP6732379B2 (ja) 駐車支援方法及び駐車支援装置
JP2012253906A5 (ja) 電気駆動ダンプトラック
JPWO2005108171A1 (ja) 駐車支援装置
JP2015077908A (ja) 自動操舵制御装置
JP2007055378A (ja) 駐車支援装置及び駐車支援方法
JP4297087B2 (ja) 道路曲率検出装置およびこれを用いた操舵支援装置
JP5254737B2 (ja) 車両運動制御装置及びプログラム
US11505186B2 (en) Vehicle control device
JP5298959B2 (ja) 移動体
JP2014210456A (ja) 車両の操舵制御装置
JP2007302040A (ja) 駐車支援装置
JP2015141673A (ja) 自動走行車両
JP2010076573A (ja) 操舵制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121019

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20130408

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131030

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140227

R150 Certificate of patent or registration of utility model

Ref document number: 5500449

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees