JP5998591B2 - 情報出力装置および情報検出装置 - Google Patents

情報出力装置および情報検出装置 Download PDF

Info

Publication number
JP5998591B2
JP5998591B2 JP2012084580A JP2012084580A JP5998591B2 JP 5998591 B2 JP5998591 B2 JP 5998591B2 JP 2012084580 A JP2012084580 A JP 2012084580A JP 2012084580 A JP2012084580 A JP 2012084580A JP 5998591 B2 JP5998591 B2 JP 5998591B2
Authority
JP
Japan
Prior art keywords
information
code pattern
display surface
output device
information output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012084580A
Other languages
English (en)
Other versions
JP2013214223A (ja
Inventor
洋紀 矢澤
洋紀 矢澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2012084580A priority Critical patent/JP5998591B2/ja
Publication of JP2013214223A publication Critical patent/JP2013214223A/ja
Application granted granted Critical
Publication of JP5998591B2 publication Critical patent/JP5998591B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、情報出力装置および情報検出装置に関する。
従来より、ボコードと呼ばれる光学タグが知られている(例えば非特許文献1参照。)。ボコードは、コードを表示する装置にフォーカスを合わせた場合には読み取ることはできないが、フォーカスを無限遠に合わせると検出可能となるコードである。
[先行技術文献]
[非特許文献]
[非特許文献1]Ankit Mohan, Grace Woo, Shinsaku Hiura, Quinn Smithwick, Ramesh Raskar、"Imperceptible Visual tags for Camera Based Interaction from a Distance"、[online]、[2012年3月21日検索]、インターネット<URL:http://web.media.mit.edu/~ankit/bokode/>
ところで、ボコードは情報出力装置から平行光で出力されるので視野が狭かった。このため、ボコードを斜め方向から検出することができなかった。
本発明の第1の態様においては、出力すべき情報を表すコードパターンを表示する表示面と、焦点が前記表示面上に一致するように配置され、前記表示面からの光を外部へと放射する魚眼レンズと、を備える情報出力装置を提供する。
本発明の第2の態様においては、第1の態様に係る情報出力装置を撮像し、フォーカスを無限遠に設定した画像データを生成する撮像部と、前記撮像部により生成された前記画像データから、前記情報出力装置から出力された前記コードパターンを抽出して情報を検出する情報検出部と、を備える情報検出装置を提供する。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
本実施形態に係る情報提供システム10を示す。 本実施形態に係る情報出力装置100および情報検出装置200の機能構成を示す。 本実施形態に係る表示面104が表示する複数のコードパターン110の一例を示す。 本実施形態に係る情報検出装置200が表示するコードパターンが示す情報の一例を示す。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、本実施形態に係る情報提供システム10を示す。情報提供システム10は、情報出力装置100と、情報検出装置200−1,200−2,200−3とを備える。なお、情報検出装置200−1,200−2,200−3をまとめて情報検出装置200と表す場合もある。
情報出力装置100は、ボコードと呼ばれる光学タグであり、情報を表すコードパターンを表示する。コードパターンは、一例として、バーコードおよびQR(Quick Response)等の幾何学的な図形の組み合わせである。また、コードパターンは、文字および数字等であってもよい。
また、情報出力装置100は、1種類のコードパターンを表示してもよいし、複数種類のコードパターンを同時に表示してもよい。また、情報出力装置100は、複数のコードパターンを定期的に切り換えて表示してもよい。
情報出力装置100は、フォーカスを略無限遠に設定して撮像した場合において撮像画像にコードパターンが表れる光学系により、コードパターンを表示する。即ち、情報出力装置100は、フォーカスを無限遠より手前の被写体距離に設定して撮像した場合には、撮像画像にボケた状態のコードパターンが表れる光学系により、コードパターンを表示する。なお、情報出力装置100の構成の一例については図2を参照して更に説明する。
情報検出装置200は、情報出力装置100を撮像して、情報出力装置100により提供される情報を検出する。情報検出装置200は、撮像機能および画像処理機能を備えれば、どのような機器であってもよい。情報検出装置200は、情報出力装置100により提供される情報を検出する専用の機器であってもよいし、ユーザにより持ち運ばれる情報機器(携帯電話機、タブレット型情報端末、小型コンピュータ等)あるいはデジタルカメラであってもよい。なお、焦点距離が短いレンズを有する場合には、情報検出装置200は、レンズのF値を小さくするコンバータレンズを取り付け可能として、コードパターンを明るく撮像できるようにしてもよい。
情報検出装置200は、一例として、情報出力装置100を撮像して検出した情報をユーザに対して表示する。情報検出装置200は、一例として、検出した情報に応じた処理を行ってもよい。より具体的には情報検出装置200は、検出した情報に関連付けられた追加情報を、ネットワークを介して取得してもよいし、検出した情報に関連付けられた音楽および動画像等を再生してもよい。なお、情報検出装置200の構成についても、図2を参照して更に説明する。
このような情報提供システム10によれば、例えば商品に情報出力装置100を取り付けることにより、当該商品に関連付けられた情報を、当該商品を参照しているユーザの情報検出装置200に提供することができる。また、このような情報提供システム10によれば、例えば野外の建築物および標識等に情報出力装置100を取り付けることにより、当該建築物に関連付けられた情報およびその場所に関連付けられた情報等をユーザの情報検出装置200に提供することができる。
図2は、本実施形態に係る情報出力装置100および情報検出装置200の機能構成の一例を示す。情報出力装置100は、発光部102と、表示面104と、魚眼レンズ106と、制御部108とを備える。
発光部102は、表示面104に対して光を発光する。発光部102は、表示面104の裏面側から光を照射する。これに代えて、発光部102は、ビームスプリッタ等を介して、表示面104の表面側から光を照射してもよい。
表示面104は、発光部102からの光に応じて、出力すべき情報を表すコードパターンを表示する。表示面104は、一例として、透過型の表示装置であって、発光部102により裏面側から照射された光を透過してコードパターンを表示する。また、表示面104は、一例として、反射型の表示装置であってもよく、発光部102により表面側から照射された光を反射してコードパターンを表示してもよい。なお、表示面104は、固定のコードパターンがプリントされたフィルムであってもよいし、制御部108からの指示に応じてコードパターンを変更可能な液晶表示装置等であってもよい。また、発光部102および表示面104は一体の構成であってもよい。
魚眼レンズ106は、半球面を平面に写像するレンズである。魚眼レンズ106は、表示面104からの光を外部へと放射する。さらに、魚眼レンズ106は、焦点が表示面104上に一致するような位置に配置される。即ち、魚眼レンズ106は、表示面104までの距離が、焦点距離に一致するように配置される。これにより、魚眼レンズ106は、表示面104からの光を無限遠からの光と同様な略平行光として外部に放射することができる。魚眼レンズ106の射影方式は、一例として、等距離射影方式、等立体角射影方式、あるいは正射影方式等である。
制御部108は、発光部102および表示面104の動作を制御する。制御部108は、一例として、電源から電力を受けて、発光部102を発光させる。制御部108は、一例として、外部からコードパターンの供給を受けて表示面104にコードパターンを表示させてもよい。制御部108は、一例として、外部からの制御に応じて、表示面104に表示させるべきコードパターンを変更してもよい。制御部108は、一例として、ワイヤレス通信によりコードパターンデータを取得して表示面104に表示させてもよい。
これにより、情報出力装置100は、フォーカスを無限遠に設定した情報検出装置200によりコードパターンを撮像させることができるとともに、魚眼レンズ106を介してコードパターンを放射することにより視野を広くすることができる。
情報検出装置200は、撮像部202と、操作部210と、情報検出部212と、画像表示部214とを備える。撮像部202は、通常動作、すなわち被写体を撮像する場合、操作部210からの撮像指示信号を受けたことに応じて、被写体の画像データを生成する。また、撮像部202は、情報出力装置100を撮像する場合、操作部210からの撮像指示信号を受けたことに応じて、フォーカスを無限遠に設定した画像データ、すなわちコードパターン以外がボケた画像データを生成する。
撮像部202は、レンズ部204と、撮像素子206と、画像処理部208とを有する。レンズ部204は、被写体からの光(被写体光)を集光する。撮像素子206は、レンズ部204により集光された被写体光を撮像面により受光して、被写体光に応じたRAW画像データを生成する。
画像処理部208は、一例として、撮像素子206により生成されたRAW画像データに対してホワイトバランス処理、ガンマ補正、画像圧縮処理などの画像処理をし、画像データを生成する。画像処理部208は、情報出力装置100を撮像した場合、生成した画像データを画像表示部214に出力し、情報出力装置100以外を撮像した場合、生成した画像データを情報検出部212に出力する。
情報検出部212は、撮像部202により生成された画像データから、情報出力装置100から出力されたコードパターンを抽出して情報を検出する。情報検出部212は、一例として、例えば特定の幾何学的な図形を検出することにより、画像データからコードパターンを抽出する。情報検出部212は、一例として、抽出したコードパターンを解析し、解析したコードパターンが示すデータ列等を検出する。
画像表示部214は、画像処理部208により画像処理された画像データを出力画像として表示する。さらに、画像表示部214は、情報検出部212によりコードパターンから検出された情報を表示する。この場合において、画像表示部214は、出力画像に、情報検出部212が抽出した情報に応じた画像を重畳して表示してもよい。
図3は、本実施形態に係る表示面104が表示する複数のコードパターン110の一例を示す。情報出力装置100が有する表示面104は、一例として、それぞれ個別の情報を表す複数のコードパターン110を配列して表示する。表示面104は、複数のコードパターン110を、例えば図3に示すように、縦と横との行列状に配列して表示する。また、表示面104は、複数のコードパターン110を魚眼レンズ106の光軸を中心に円周状に配列して表示してもよい。このように複数のコードパターン110を表示する場合、表示面104は、1つ1つのコードパターン110を、情報検出装置200が少なくとも1つのコードパターン110を画角内に収めて撮像できるサイズで表示する。
情報出力装置100は、魚眼レンズ106を介して放射することにより視野を広くしているとともに、表示面104の像を略平行に外部に放射して出力する。このため、情報検出装置200は、画角内に表示面104の全体を収めて撮像することはできず、表示面104のうちの一部分の領域しか撮像することができない。従って、例えば情報出力装置100が、表示面104の全表示領域に1つのコードパターンを表示した場合、情報検出装置200は、コードパターンの一部分しか取得できず、コードパターンが示す情報を検出できなかった。
しかし、情報出力装置100は、表示面104に複数のコードパターン110を配列して表示する。更に、情報出力装置100は、複数のコードパターン110のそれぞれの大きさを、情報検出装置200の画角に対応する大きさ以下として表示する。これにより、情報出力装置100は、情報検出装置200に、複数のコードパターン110のうちの少なくとも1つのコードパターンから情報を検出させることができる。
また、この場合において、情報出力装置100は、それぞれが同一の情報を表す複数のコードパターン110を表示してもよい。これにより、情報出力装置100は、視野の全範囲から同一の情報を検出させることができる。また、情報出力装置100は、それぞれが異なる情報を表す複数のコードパターン110を表示してもよい。これにより、情報出力装置100は、検出する位置毎に異なる情報を検出させることができる。
また、複数のコードパターン110を表示する場合において表示面104は、魚眼レンズ106により屈折する方向に対応した情報を表すコードパターン110を表示してもよい。表示面104は、一例として、表示面104上の位置(例えば、右端、左端、上、下、中央の位置)に応じて異なるコードパターンを表示してもよい。
例えば、表示面104の右端の位置に表示されたコードパターンは情報出力装置100に対して左側にある情報検出装置200−3に与えられる。また、表示面104の中央の位置に表示されたコードパターンは情報出力装置100に対して前側にある情報検出装置200−1に与えられる。また、表示面104の左端の位置に表示されたコードパターンは情報出力装置100に対して右側にある情報検出装置200−2に与えられる。これにより、情報出力装置100は、当該情報出力装置100を撮像する方向に応じて異なる情報を情報検出装置200に取得させることができる。
また、表示面104は、一部分から情報を抽出できるコードパターンを表示してもよい。情報出力装置100は、魚眼レンズ106を介して放射することにより視野を広くしているとともに、表示面104の像を平行に外部に放射して出力する。このため、情報検出装置200は、情報出力装置100が表示面104の全表示領域に1つのコードパターンを表示した場合、コードパターンの一部分しか画角内に収めることができず、コードパターンの全体を撮像できない。
しかし、一部分のみから情報を検出できるコードパターンを表示面104に表示することにより、情報出力装置100は、少なくとも情報検出装置200の画角に対応する部分から情報を検出できるコードパターンを表示することができる。これにより、情報出力装置100は、情報検出装置200に、コードパターンの少なくとも一部分から情報を検出させることができる。
また、表示面104は、魚眼レンズ106により屈折する方向に対応した色のコードパターンを表示してもよい。情報出力装置100は、一例として、表示面104の領域毎に異なる色のフィルタを備え付け、発光部102により白色光を発光させる。または、情報出力装置100は、制御部108により表示面104の領域毎に異なる色でコードパターンを発光表示させてもよい。これにより、コードパターンが表示面104の領域毎に異なる色で表示されるので、情報出力装置100は、情報検出装置200に当該情報出力装置100を撮像している方向を認識させることができる。
また、表示面104は、魚眼レンズ106により生じる歪を予め逆補正したコードパターンを表示してもよい。例えば、制御部108は、レンズ情報として魚眼レンズ106の屈折率を取得し、当該レンズ情報から魚眼レンズ106により生じる歪を演算する。制御部108は、当該演算結果に基づいて、コードパターンを魚眼レンズ106により生じる歪とは逆方向に歪ませる逆補正し、当該逆補正したコードパターンを表示面104に表示させる。
これにより、情報出力装置100は、情報検出装置200に魚眼レンズ106により生じる歪を補正させずに情報を検出させることができる。この結果、情報出力装置100は、情報検出装置200の構成を簡易にさせることができる。
また、魚眼レンズ106を介して得られる像の周縁は、像の中心に比べて暗い。このため、制御部108は、発光部102の光を表示面104の周縁に行くほど強くしてもよい。これにより、情報出力装置100は、表示面104の周縁に表示されるコードパターンと表示面104の中心に表示されるコードパターンとの明るさを均等にすることができる。
図4は、本実施形態に係る情報検出装置200が表示するコードパターンが示す情報の一例を示す。情報検出装置200は、一例として、コードパターンから抽出した情報216を、被写体の画像218に重畳して画像表示部214に表示する。これにより、情報検出装置200は、コードパターンから抽出した情報216が、被写体の画像218で示された被写体に関する情報であることを示すことができる。
また、情報検出装置200は、情報検出部212がコードパターンから抽出した情報216のみを画像表示部214に表示させてもよい。これにより、情報検出装置200は、重畳させる処理を実行しない分、コードパターンから抽出した情報216の表示処理を簡素にすることができる。
また、情報検出装置200は、情報出力装置100以外を撮像した被写体の画像218と、情報出力装置100を撮像して検出したコードパターンから抽出した情報216とを組み合わせる。そして、情報検出装置200は、コードパターンから抽出した情報216に、被写体に関連する情報を加えて画像表示部214に表示してもよい。
例えば、情報検出装置200は、被写体の画像218が光学メディア再生装置であった場合、情報検出部212によりコードパターンから抽出した情報216に、同メーカの異なるグレードの光学メディア再生装置の情報を加えて画像表示部214に表示する。これにより、情報検出装置200は、1つのコードパターンと被写体画像とを組み合わせることにより、1つのコードパターンで多様な情報を取得できる。
また、撮像部202は、情報出力装置100を複数回撮像して複数の画像データを生成する。そして、この場合、情報検出部212は、複数の画像データから1つのコードパターンを抽出して情報を検出してもよい。一例として、情報検出装置200は、撮像部202により情報出力装置100を複数回撮像した複数の画像データを生成して情報検出部212に出力し、情報検出部212により複数の画像データを組み合わせて新たな1つのコードパターンとし、当該コードパターンから抽出した情報を画像表示部214に表示する。
これにより、情報検出装置200は、それぞれの画像データの品質が悪い場合であっても、コードパターンを確実に抽出して情報を検出することができる。この結果、情報検出装置200は、解像度が低い情報検出装置200であってもコードパターンを確実に抽出して情報を検出することができる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 情報提供システム、100 情報出力装置、102 発光部、104 表示面、106 魚眼レンズ、108 制御部、110 コードパターン、200 情報検出装置、202 撮像部、204 レンズ部、206 撮像素子、208 画像処理部、210 操作部、212 情報検出部、214 画像表示部、216 コードパターンから抽出した情報、218 被写体の画像

Claims (8)

  1. 出力すべき情報を表すコードパターンを表示する表示面と、
    焦点が前記表示面上に一致するように配置され、前記表示面からの光を外部へと放射する魚眼レンズと、
    を備え
    前記表示面は、前記魚眼レンズにより生じる歪を予め逆補正したコードパターンを表示する情報出力装置。
  2. 前記表示面に対して光を発光する発光部を更に備え、
    前記表示面は、前記発光部からの光に応じて前記コードパターンを表示する
    請求項1に記載の情報出力装置。
  3. 前記表示面は、それぞれ個別の情報を表す複数のコードパターンを配列して表示する
    請求項1または2に記載の情報出力装置。
  4. 前記表示面は、前記魚眼レンズにより屈折する方向に対応した情報を表すコードパターンを表示する
    請求項3に記載の情報出力装置。
  5. 前記表示面は、一部分から情報を抽出できるコードパターンを表示する
    請求項1または2に記載の情報出力装置。
  6. 前記表示面は、前記魚眼レンズにより屈折する方向に対応した色のコードパターンを表示する
    請求項1から5の何れか1項に記載の情報出力装置。
  7. 請求項1からの何れか1項に記載の前記情報出力装置を撮像し、フォーカスを無限遠に設定した画像データを生成する撮像部と、
    前記撮像部により生成された前記画像データから、前記情報出力装置から出力された前記コードパターンを抽出して情報を検出する情報検出部と、
    を備える情報検出装置。
  8. 前記撮像部は、前記情報出力装置を複数回撮像して複数の前記画像データを生成し、
    前記情報検出部は、前記複数の画像データから1つのコードパターンを抽出して情報を検出する
    請求項に記載の情報検出装置。
JP2012084580A 2012-04-03 2012-04-03 情報出力装置および情報検出装置 Expired - Fee Related JP5998591B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012084580A JP5998591B2 (ja) 2012-04-03 2012-04-03 情報出力装置および情報検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012084580A JP5998591B2 (ja) 2012-04-03 2012-04-03 情報出力装置および情報検出装置

Publications (2)

Publication Number Publication Date
JP2013214223A JP2013214223A (ja) 2013-10-17
JP5998591B2 true JP5998591B2 (ja) 2016-09-28

Family

ID=49587499

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012084580A Expired - Fee Related JP5998591B2 (ja) 2012-04-03 2012-04-03 情報出力装置および情報検出装置

Country Status (1)

Country Link
JP (1) JP5998591B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024135789A1 (ja) * 2022-12-22 2024-06-27 株式会社Nttドコモ カメラ制御装置およびこれを備えた装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3876783B2 (ja) * 2002-07-19 2007-02-07 株式会社デンソーウェーブ 情報コード読取方法
JP2006229330A (ja) * 2005-02-15 2006-08-31 Canon Inc 撮像装置及びその制御方法
JP2008026236A (ja) * 2006-07-24 2008-02-07 Olympus Corp 位置姿勢測定装置および位置姿勢測定方法
JP2009157507A (ja) * 2007-12-25 2009-07-16 B-Core Inc 光学的自動認識コード読み取り装置及び方法並びにそれに用いる反射鏡
JP2009265162A (ja) * 2008-04-22 2009-11-12 Ricoh Co Ltd 表示装置
US8366003B2 (en) * 2009-07-23 2013-02-05 Massachusetts Institute Of Technology Methods and apparatus for bokeh codes

Also Published As

Publication number Publication date
JP2013214223A (ja) 2013-10-17

Similar Documents

Publication Publication Date Title
US10152634B2 (en) Methods and systems for contextually processing imagery
JP5912059B2 (ja) 情報処理装置、情報処理方法及び情報処理システム
CN102221879A (zh) 用户接口设备以及使用其识别用户交互的方法
RU2016140636A (ru) Автоматизированное определение поведения системы или опыта пользователя посредством записи, совместного использования и обработки информации, ассоциированной с широкоугольным изображением
KR20160073866A (ko) 홍채 인식 장치, 이를 포함하는 홍채 인식 시스템 및 상기 홍채 인식 시스템의 동작 방법
JP2015159524A5 (ja)
JP2007163367A (ja) カメラ情報解析装置
US20140267781A1 (en) Digital Schlieren Imaging
JP2016142988A (ja) 表示装置及び表示制御プログラム
CN104735378B (zh) 投影装置以及投影方法
US9998661B1 (en) Panoramic camera enclosure
JP2011009805A (ja) 光無線通信端末装置、光無線通信システム、光無線通信方法、およびプログラム
JP5998591B2 (ja) 情報出力装置および情報検出装置
JP2011009803A (ja) 光無線通信装置、光無線通信携帯端末、送信装置、光無線通信方法、およびプログラム
JP2020039082A (ja) 表示装置、表示システムおよび表示装置の制御方法
JP5414379B2 (ja) 光無線通信装置、光無線通信方法、およびプログラム
JP7228112B2 (ja) 投影制御装置、投影装置、投影方法及びプログラム
CN110443750A (zh) 检测视频序列中的运动的方法
JP7416231B2 (ja) 設置支援装置、設置支援方法、およびプログラム
JP2006284596A (ja) 撮影装置
JP2013130415A (ja) 放射線測定装置
US11875757B2 (en) Information processing system
JP6508730B2 (ja) 発光マーカ装置、マーカ検出装置、伝送システム、マーカ発光方法、マーカ検出方法、及びプログラム
JP2016157458A (ja) 情報処理装置
JP5294100B1 (ja) ドットパターン読み取り用レンズユニット、ドットパターン読み取り用レンズユニットを台座に装着されたフィギュア、ドットパターン読み取り用レンズユニットに載置するカード、情報処理装置、情報処理システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150403

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160815

R150 Certificate of patent or registration of utility model

Ref document number: 5998591

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees