JP2019139516A - Movement control system and movement control method for robot - Google Patents
Movement control system and movement control method for robot Download PDFInfo
- Publication number
- JP2019139516A JP2019139516A JP2018022348A JP2018022348A JP2019139516A JP 2019139516 A JP2019139516 A JP 2019139516A JP 2018022348 A JP2018022348 A JP 2018022348A JP 2018022348 A JP2018022348 A JP 2018022348A JP 2019139516 A JP2019139516 A JP 2019139516A
- Authority
- JP
- Japan
- Prior art keywords
- robot
- server
- movement
- movement control
- current position
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 15
- 239000003550 marker Substances 0.000 abstract description 8
- 238000004891 communication Methods 0.000 description 23
- 230000006870 function Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000002265 prevention Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 210000001061 forehead Anatomy 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Landscapes
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
Description
本発明は、ロボットの現在位置を推定し、ロボットの移動制御を行う移動制御システム及び移動制御方法に関する。 The present invention relates to a movement control system and a movement control method for estimating a current position of a robot and performing movement control of the robot.
従来、ロボット等の移動装置の移動を制御する技術が知られている。ロボット等の移動装置の現在位置を確認するために、従来は、対象となる場所の床面にマーカやRFID(Radio Frequency Identification System)等を設置し、それらによる情報に従い、移動装置の現在位置の確認や移動制御を行っている(例えば特許文献1)。 Conventionally, a technique for controlling movement of a moving device such as a robot is known. In order to confirm the current position of a mobile device such as a robot, conventionally, a marker, an RFID (Radio Frequency Identification System), or the like is installed on the floor surface of the target location, and the current position of the mobile device is determined according to the information from them. Confirmation and movement control are performed (for example, Patent Document 1).
しかしながら、対象となる場所の床面にマーカやRFIDを設置する場合、これらを設置するために手間がかかり、また追加費用が必要でありコストがかさむ。また床面にマーカを設置する場合、経年劣化によりマーカが磨耗した際には、移動装置の現在位置を推定することが困難になるためマーカを張り替えなければならず、手間であるとともにコストがさらにかさむ。加えてマーカは、移動装置が画像認識できる態様のものでなければならず、床面の美観に影響を及ぼす可能性もある。 However, when markers and RFIDs are installed on the floor surface of the target location, it takes time to install them, and additional costs are required, increasing costs. In addition, when installing a marker on the floor, it becomes difficult to estimate the current position of the moving device when the marker is worn out due to deterioration over time. It is bulky. In addition, the marker must be in such a manner that the moving device can recognize the image, and may affect the aesthetics of the floor surface.
従って、上記のような問題点に鑑みてなされた本発明の目的は、RFIDやマーカ等を設置しなくても、ロボットの現在位置の推定及び移動制御を行うことができる移動制御システム及び移動制御方法を提供することにある。 Therefore, an object of the present invention made in view of the above problems is to provide a movement control system and a movement control that can perform estimation and movement control of the current position of the robot without installing an RFID or a marker. It is to provide a method.
上記課題を解決するために本発明の一実施形態に係る移動制御システムは、サーバと、フロア内を移動するロボットと、前記フロアの天井等の上層部に設けられた複数の固定カメラとを備え、前記サーバは、
前記複数の固定カメラによって撮影された複数の画像に基づき、前記ロボットの現在位置を推定し、
推定した現在位置に基づき、前記ロボットを現在位置と異なる第1の位置に移動させる移動指示を前記ロボットに送信する。
In order to solve the above problems, a movement control system according to an embodiment of the present invention includes a server, a robot that moves in a floor, and a plurality of fixed cameras provided in an upper layer portion such as a ceiling of the floor. The server is
Based on a plurality of images taken by the plurality of fixed cameras, the current position of the robot is estimated,
Based on the estimated current position, a movement instruction for moving the robot to a first position different from the current position is transmitted to the robot.
また、本発明の一実施形態に係る移動制御システムは、前前記ロボットが待機状態において、前記ロボットは現在位置を基準とした所定範囲内において自律移動可能である。 Further, in the movement control system according to an embodiment of the present invention, when the previous robot is in a standby state, the robot can autonomously move within a predetermined range based on the current position.
また、本発明の一実施形態に係る移動制御システムは、前記サーバは、前記複数の固定カメラにより撮影された画像に基づき、前記ロボットを移動させるためのマップを作成する。 In the movement control system according to an embodiment of the present invention, the server creates a map for moving the robot based on images taken by the plurality of fixed cameras.
また、本発明の一実施形態に係る移動制御システムは、前記ロボットが同時に撮影された1以上の画像に写っていない場合、過去の移動指示に基づき、前記ロボットが存在する現在位置を推定する。 In addition, the movement control system according to an embodiment of the present invention estimates a current position where the robot is present based on a past movement instruction when the robot is not captured in one or more images taken at the same time.
また、本発明の一実施形態に係る移動制御システムは、前記ロボットが同時に撮影された1以上の画像に写っていない場合、前記複数の固定カメラにより同時に写る撮影範囲に前記ロボットを移動させる移動指示を送信する。 In addition, the movement control system according to an embodiment of the present invention provides a movement instruction for moving the robot to an imaging range simultaneously captured by the plurality of fixed cameras when the robot is not captured in one or more images captured simultaneously. Send.
また、本発明の一実施形態に係る移動制御システムは、前記移動指示に基づいて移動している途中に、所定イベントが生じた場合、前記ロボットを待機状態に移行させる。 In addition, the movement control system according to an embodiment of the present invention shifts the robot to a standby state when a predetermined event occurs during movement based on the movement instruction.
また、本発明の一実施形態に係る移動制御システムは、前記サーバが、前記ロボットが待機状態である場合、前記第1の位置へ移動する移動指示を送信する。 In the movement control system according to an embodiment of the present invention, the server transmits a movement instruction to move to the first position when the robot is in a standby state.
また、本発明の一実施形態に係る移動制御システムは、前記第1の位置へ移動する移動指示を所定回数送信しても前記ロボットが前記第1の位置へ移動しない場合、前記第1の位置とは異なる第2の位置へ移動する移動指示を送信する。 The movement control system according to an embodiment of the present invention may be configured such that the first position is determined when the robot does not move to the first position even if a movement instruction to move to the first position is transmitted a predetermined number of times. The movement instruction | indication which moves to the 2nd position different from is transmitted.
また、本発明の一実施形態に係る移動制御システムは、前記第1の位置へ移動する移動指示を所定回数送信しても前記ロボットが前記第1の位置へ移動しない場合、前記ロボットと前記第1の位置との間に障害物があると推定する。 The movement control system according to an embodiment of the present invention may further include the robot and the first robot when the robot does not move to the first position even if a movement instruction to move to the first position is transmitted a predetermined number of times. It is estimated that there is an obstacle between the position of 1.
また、本発明の一実施形態に係る移動制御方法は、サーバと、フロア内を移動するロボットと、前記フロアの天井等の上層部に設けられた複数の固定カメラとを備えた移動制御システムにおける移動制御方法であって、前記複数の固定カメラによって撮影された複数の画像に基づき、前記ロボットの現在位置を推定するステップと、
推定した現在位置に基づき、前記ロボットを現在位置と異なる第1の位置に移動させる移動指示を前記ロボットに送信するステップと、
を含む。
A movement control method according to an embodiment of the present invention is a movement control system including a server, a robot that moves in a floor, and a plurality of fixed cameras provided in an upper layer portion such as a ceiling of the floor. A movement control method for estimating a current position of the robot based on a plurality of images taken by the plurality of fixed cameras;
Transmitting a movement instruction to move the robot to a first position different from the current position based on the estimated current position;
including.
本発明における移動制御システム及び移動制御方法によれば、RFIDやマーカ等を設置しなくても、ロボットの現在位置の推定及び移動制御を行うことができる。 According to the movement control system and movement control method of the present invention, it is possible to perform estimation and movement control of the current position of the robot without installing an RFID or a marker.
以下、本発明の実施の形態について説明する。 Embodiments of the present invention will be described below.
(実施の形態)
図1は本発明の一実施形態に係る移動制御システム10の概要図である。移動制御システム10は、書店、コンビニエンスストア、ドラッグストア等の店舗や、ショッピングモール等において用いることが可能であり、以下では書店にて用いられる場合について説明する。本発明の一実施形態に係る移動制御システム10は、ロボット1と、サーバ2と、複数の固定カメラ3とを備える。ロボット1は、フロア内を巡回し、万引き防止のための監視、追尾、及び声かけや、来店者に対する広告情報の提供等を行う。サーバ2は、例えば移動制御システム10の運営者等が管理するサーバ装置等の情報処理装置であり、ロボット1に移動指示を送信する。複数の固定カメラ3は、書店のフロアの天井等の上層部に設けられている。複数の固定カメラ3は常時フロア内を撮影し、撮影した画像をサーバ2に送信する。ロボット1、サーバ2、及び複数の固定カメラ3は、例えばイントラネットやインターネット等のネットワークNにより接続される。なお図1では、ロボット1を1台例示しているが、ロボット1の台数はこれに限られず、複数のロボット1が備えられてもよい。また図1では、サーバ2を5台示しているが、サーバ2の台数はこれに限られず、任意の台数のサーバ2が備えられてもよく、例えばサーバの台数は1台であってもよい。また固定カメラ3を3台例示しているが、固定カメラの台数は2台以上であれば、これに限られない。
(Embodiment)
FIG. 1 is a schematic diagram of a
本実施形態に係る移動制御システム10の概略について説明する。本実施形態に係る移動制御システム10は、複数の固定カメラ3を用いてフロア内のロボット1を撮影し、撮影された複数の画像に基づき、ロボットが撮影時に存在する位置(以下、現在位置という。)を推定する。サーバ2は、フロアのマップと推定した現在位置とに基づき、フロア内をロボット1が移動するための移動指示を作成し、当該移動指示をロボット1に送信する。ロボット1は、サーバ2から送信された移動指示を受信し、当該移動指示に基づきフロア内を移動する。またロボット1は、移動指示に基づきフロア内を移動しながら、例えば周囲の映像を常時撮影し、万引き防止のための監視、追尾、及び声かけや、来店者に対する広告情報の提供等の動作を行う。このようにロボット1、サーバ2、及び複数の固定カメラ3が協働して、移動制御システム10が実現される。以下、移動制御システム10の各構成要素について説明する。
An outline of the
(ロボット1の構成)
はじめにロボット1の構成について説明する。好適にはロボット1は、図1に図示するような人型のロボットであり、顔を含む頭部、胴体部、腕部を備える。図2に、ロボット1のブロック図を示す。ロボット1は、通信部11と、移動手段12と、撮影部13と、入力部14と、出力部15と、記憶部16と、制御部17とを備える。通信部11と、移動手段12と、撮影部13と、入力部14と、出力部15と、記憶部16と、制御部17とは、バス18によりそれぞれ接続されている。
(Configuration of robot 1)
First, the configuration of the
通信部11は、外部装置と無線又は有線によって通信し、情報の送受信を行うインターフェースである。本実施形態において通信部11は、ネットワークNを介して、サーバ2との間で情報を相互に送受信可能である。なお通信部11は、サーバ2と通信する際に、ロボット1の固体認証の処理(ログイン処理等)を適宜行う。これにより複数のロボットが存在する場合、複数のロボットの中のどのロボットからのアクセスであるかをサーバ2が把握する。また正規のログインでない場合は、サーバ2へのアクセスを適切に遮断する。
The
移動手段12は、ロボット1本体を全方向(前後左右)に移動及び回転させるものであり、例えばオムニホイールである。オムニホイールは全方向に移動可能なタイヤであり、複数個の回転可能なローラを有している。当該ローラの回転を制御することにより、任意の方向に移動することが可能であり、また回転動作をすることも可能である。本実施の形態において、ロボット1は書店にて用いられているため、来店者等と衝突しないように、ゆっくりと移動することが好ましい。例えば移動手段12による移動速度の最大値を2km/hとする。なお移動手段12はオムニホイールに限らず、任意の移動手段を採用することができる。
The moving means 12 moves and rotates the main body of the
撮影部13は、来店者等を撮影するものであり、例えば少なくとも1つの2Dカメラを含み、所定の画面解像度及びフレームレートにて映像を撮影する。画面解像度は例えばフルハイビジョン(1920×1080ピクセル)である。またフレームレートは例えば30fpsである。例えば2Dカメラの台数は2台であり、ロボット1の顔部の異なる位置(例えば額の位置及び口元)にそれぞれ設けられる。異なる位置に2Dカメラを配置することで、片方の2Dカメラが来店者等を撮影できない場合(例えば額のすぐ前に遮蔽物が存在し、遮蔽物により撮影範囲の一部又は全部が遮られる場合)においても、もう一方の2Dカメラにより来店者等を撮影することができる。
The photographing
ロボット1は、2Dカメラで撮影した映像に基づき、来店者の存在を検知する。具体的には2Dカメラにより店内の映像を常時撮影し、撮影した映像を通信部11によりサーバ2に送信する。なお映像は静止画でも動画であってもよい。好適には撮影部13は、圧縮した映像をサーバ2に送信する。例えば映像の縦横を各々1/4に圧縮し、出力映像を480×270ピクセルとする。またフレームレートを1/2に圧縮し、15fpsにする。これにより映像送信に係る通信リソース及びサーバ2の記憶容量の効率化を図ることができる。
The
さらに撮影部13により、対象物までの距離を計測可能である。例えば撮影部13は、少なくとも1つの3Dカメラを含んでもよい。3Dカメラは、赤外視線を照射して反射光を検出することにより、対象物までの距離を取得することができる。3Dカメラは、所定の画面解像度(例えば320×240ピクセル)及び所定フレームレート(例えば20fps)にて3Dの映像(距離情報を含む映像)を取得する。例えば3Dカメラの台数は2台であり、ロボット1の顔部の異なる位置(例えば両目の位置)にそれぞれ設けられる。異なる位置に3Dカメラを配置することで、片方の3Dカメラが来店者を撮影できない場合(例えば右目の前に遮蔽物が存在し、撮影範囲が遮蔽物により遮られる場合)においても、もう一方の3Dカメラ(左目の位置に設けられた3Dカメラ)により来店者を撮影することができる。ロボット1は、3Dカメラにより対象物までの距離を検知し、検知した距離に基づいて、移動手段12により自律移動する。
Furthermore, the distance to the object can be measured by the photographing
入力部14は、音声入力及び操作入力を受け付けるデバイスである。例えば入力部14は、来店者の会話の音声を集音する。また入力部14は、来店者によるタッチ等の入力操作を受け付ける。例えば入力部14は、マイクと、タッチセンサ等の入力センサとを含んで構成される。
The
出力部15は、音声出力及び画面、画像、映像等を表示するデバイスである。例えば出力部15は、スピーカと、ディスプレイとを含んで構成される。ディスプレイは、例えば液晶ディスプレイ、有機ELディスプレイ等である。出力部15は、サーバ2から通信部11を介して受信した広告情報等を出力する。広告情報は、商品CM、商品説明、告知情報等である。広告情報の対象商品は、ロボット1が配置された場所で取り扱う商品を含む。また対象商品はこれに限らず、他店舗の商品又はサービスであってもよい。例えば、ロボット1が配置された書店に隣接する、別の店舗の商品・サービスに関するものであってもよく、書店に隣接して喫茶店が併設されている場合、当該喫茶店のメニューやサービスを広告情報の対象としてもよい。このようにすることで、異なる店舗間、業種間等におけるサービスの連携を図ることもできる。
The
本実施の形態では、ロボット1の胸部にタッチパネルが備えられている。タッチパネルは、来店者の入力操作を受け付ける入力デバイスであり、かつ、多様な画面、画像、映像等を表示する出力デバイスである。本実施の形態では、タッチパネル及びマイクにより入力部14の機能を実現し、当該タッチパネルとスピーカにより出力部15の機能を実現している。
In the present embodiment, a touch panel is provided on the chest of the
記憶部16は、例えば一次記憶装置及び二次記憶装置を含み、サーバ2から提供される種々の情報及び情報処理に必要なプログラムを記憶する。例えば、記憶部16は、移動制御システム10のロボット用のアプリケーション(以下、ロボ用アプリという。)を記憶する。ロボ用アプリは、例えばネットワークNを介して所定の配信サーバから取得可能である。ロボ用アプリが実行(起動)された状態で、ロボット1の本実施形態に係る動作が実現される。
The
制御部17は、専用又は汎用のプロセッサを含む。制御部17は、ロボット1全体の動作をロボ用アプリにより制御する。例えば制御部17は、通信部11により情報の送受信を行う。具体的には例えば制御部17は、撮影部13により撮影した映像を、通信部11によりサーバ2に送信する。また制御部17は、入力部14により集音した来店者の音声をサーバ2に送信する。
The
また制御部17は、ロボット1の移動に係る制御を行う。制御部17は、サーバ2からの移動指示に基づき、移動手段12によりロボット1を移動させる。移動指示は、例えば現在位置と異なる第1の位置にロボット1を移動させる命令である。移動指示は、ロボット1の前後左右方向への移動、回転に係る命令を含む。移動指示は具体的には例えば、「前方へ3m進め」との命令である。この場合、現在位置と異なる第1の位置は、ロボットの現在位置から見て、ロボットの正面方向の3m先の地点である。移動指示はこれに限られず他にも「時計回りに90度回転し、回転後に前方へ4m進め」等でもよい。あるいは移動指示は、移動方向、距離による命令ではなく、移動手段12の制御を直接指定する命令であってもよい。例えば移動指示は、オムニホイールのローラの回転数を指定する命令等でもよい。
The
ここでロボット1の状態は、サーバ2からの移動指示を待っている状態(以下、待機状態ともいう。)と、サーバ2からの移動指示に基づき移動している状態(以下、アクティブ状態ともいう。)との2つのいずれかである。ロボット1が待機状態又はアクティブ状態のいずれであるかは、例えばロボット1の記憶部16に記憶される。なおロボット1の状態をサーバ2に送信し、サーバ2において記憶しておいてもよい。ロボット1が待機状態でない場合(ロボット1がアクティブ状態である場合)、制御部17は、サーバ2から受信した移動指示に基づいて、移動手段12によりロボット1を移動させる。他方、ロボット1が待機状態である場合、制御部17はロボット1の現在位置を基準とした所定範囲内においてロボット1を自律移動させる。つまり制御部17は、移動指示に基づかずにロボット1のセンサ(カメラ等)に基づきロボット1を移動させる。ここで現在位置を基準とした所定範囲は、例えば現在位置を中心とした半径50cmの範囲である。
Here, the
また制御部17は、移動指示に基づく移動が完了した場合、ロボット1を待機状態に移行させる。待機状態に移行した場合、上述のように制御部17は、ロボット1の現在位置を基準とした所定範囲内においてロボット1を自律移動させる。
In addition, when the movement based on the movement instruction is completed, the
また制御部17は、移動指示に基づきロボット1が移動中において、所定イベントが発生した場合、移動指示をキャンセルして待機状態に移行させる。所定イベントは、例えばロボット1の進行方向の、固定カメラ3で撮影できない位置に、障害物が存在している等のイベントである。例えば障害物は、荷物、買い物カゴ等の障害物が置かれている場合や、立ち止まっている人がいる場合である。所定イベントが発生したか否かは、撮影部13又は入力部14の少なくとも一方からの入力に基づき、制御部17が判定する。所定イベントが生じた場合、制御部17はサーバ2からの移動指示をキャンセルして、ロボット1を待機状態に移行させる。ロボット1が待機状態に移行した場合、上述のように制御部17は、ロボット1の現在位置を基準とした所定範囲内においてロボット1を自律移動させる。
Further, when a predetermined event occurs while the
(サーバ2の構成)
図3は、本発明の一実施形態に係るサーバのブロック図である。サーバ2は、サーバ通信部21と、サーバ記憶部22と、サーバ制御部23とを備える。サーバ通信部21と、サーバ記憶部22と、サーバ制御部23とは、バス24によりそれぞれ接続されている。
(Configuration of server 2)
FIG. 3 is a block diagram of a server according to an embodiment of the present invention. The
サーバ通信部21は、外部装置と無線又は有線によって通信し、情報の送受信を行うインターフェースである。本実施形態において、サーバ通信部21は、ネットワークNを介してロボット1及び複数の固定カメラ3と情報を相互に送受信可能である。
The
サーバ記憶部22は、例えば一次記憶装置及び二次記憶装置を含み、移動制御システム10の提供及び制御に必要な種々の情報及びプログラムを記憶する。
The
サーバ制御部23は、専用又は汎用のプロセッサを含み、種々の処理を行う。サーバ制御部23は、サーバ2全体の動作を制御する。例えばサーバ制御部23は、サーバ通信部21により情報の送受信を行う。具体的にはサーバ制御部23は、ロボット1及び複数の固定カメラ3から送信された映像及び音声を、サーバ通信部21により受信する。またサーバ制御部23は、受信した情報(映像及び音声)をサーバ記憶部22に記憶させる。記憶した情報は、記憶してから一定期間保存し、その後削除する。一定期間は例えば1ヶ月である。1ヶ月間でのデータ保存量は、1台のロボット1又は固定カメラ3からの映像を記憶する場合、約1TBである(10時間/日、30日の稼動の場合)。サーバ記憶部22は必要な記憶容量を備える。
The
またサーバ制御部23は、受信した映像に基づき、来店者の認証を行う。受信した映像に基づき来店者を認証する場合、サーバ制御部23は、映像に含まれる来店者の顔画像を抽出して、データベースに基づく顔認証を行う。顔認証には人工知能の技術を適宜用い、機械学習により認証の精度を向上させる。データベースには、来店者に係る情報(以下、ユーザ情報ともいう。)が格納されており、サーバ記憶部22に記憶されている。当該データベースは、ユーザID、氏名、顔画像、性別、年齢、会員カードID、嗜好等のユーザ情報を含む。ユーザIDとは、来店者を一意に特定するための識別子である。データベースには、ユーザIDに対応付けて、当該IDに係る来店者の氏名、顔画像、性別、年齢、会員カードID、嗜好等のユーザ情報が格納されている。ユーザ情報には他の情報が含まれてもよく、例えば携帯電話の電話番号を含んでもよい。また携帯電話の情報に基づき他の店の購入履歴等の情報を適宜関連付けてもよく、この場合、他店舗における購入履歴等、来店者に関する各種情報を用いることが可能となる。サーバ制御部23は、サーバ記憶部22にアクセスして、ロボット1から受信した映像に含まれる来店者の顔画像に一致又は類似するレコードがあるか否かを検索し、顔認証を行なう。好適には、かかるデータベースは暗号化される。暗号化することにより、外部に情報が万一漏れても顔画像や指名、年齢等の情報が実質的に復元不可能とすることができ、プライバシーを適切に保護することができる。
Further, the
またサーバ制御部23は、複数の固定カメラ3により撮影された複数の画像に基づき、ロボット1の現在位置を推定する。図4に、ロボットが店内に配置され、複数の固定カメラ3により撮影されている様子を示す。図4では3つの固定カメラ3の鉛直方向の視野角はαであり、各固定カメラ3により撮影された画像にロボット1が写っている様子を示している。なお図4では全ての固定カメラ3の鉛直方向の視野角をαとしているが、固定カメラ毎に視野角を変えてもよい。なお図4に示すように、ロボット1は、書棚4の間の通路を移動する。したがって、複数の固定カメラ3に写るように、書棚4の高さに応じて、ロボット1の高さを設定することが好ましい。
The
サーバ制御部23は、ロボット1が1以上の画像に写っている場合、ロボット1が写っている当該1以上の画像に基づき、ロボット1の現在位置を推定する。固定カメラ3の設置位置は予め定まっている。ロボット1が2以上の画像に写っている場合、当該2以上の画像は、異なる固定カメラ3により、異なる方向から略同時に撮影されたものである。したがって2以上の画像におけるロボット1の場所が定まれば、ロボット1の現在位置を高精度で推定することができる。すなわち、各固定カメラ3の視野角の中で、ロボット1を検出できる画像から、それぞれ水平方向及び垂直方向の角度を測定することによりロボット1の現在位置を推定できる。なおロボット1が画像に写っているか否かの検出は、任意の画像認識手法を用いることができる。また、ロボットが1の画像に写っている場合も、当該1の画像からロボット1の現在位置を推定できる。具体的には、ロボット1が写っている当該画像からロボット1の方向を検出し、また固定カメラ3の床からの高さが既知であることから、画像の画角のどの位置にロボット1が移っているかに基づき、固定カメラ3からロボット1までの距離を計算することができる。当該方向及び距離に基づき、ロボット1の現在位置を推定することができる。
When the
他方、ロボット1が1以上の画像に写っていない場合、サーバ制御部23は、過去の移動指示に基づき、ロボット1の現在位置を推定する。つまり過去に移動指示を出した時間と、現在の時刻とに基づき、ロボット1の現在位置を推定する。
On the other hand, when the
またサーバ制御部23は、ロボット1が待機状態であるか否かを判定し、ロボット1が待機状態である場合に、ロボット1に移動指示を送信する。他方、ロボット1が待機状態でない場合は、サーバ制御部23は、ロボット1に移動指示を送信しない。ロボット1が待機状態であるか否かは、例えばロボット1から状態に係る情報を受信して判定する。当該判定は、移動指示に基づく第1の位置に所定時間内に移動しているか否かにより行ってもよい。あるいは当該判定は、ロボット1が現在位置を基準とした所定範囲内での移動を行っているか否かにより判定してもよい。
The
上述のように、複数の固定カメラ3の位置は予め定まっており、それぞれフロアの天井等の上層部の所定位置に設けられている。図5は、店内を上方から見た場合の書棚4等のレイアウト及び複数の固定カメラ3の配置を示す平面図の一例である。図5に示すように、固定カメラ3をロボット1の移動経路の上方の天井等の上層部に設置し、また、近接する固定カメラ3の撮影方向がそれぞれ異なるように調整している。各固定カメラ3の水平方向の視野角はβである。このような固定カメラ3の配置及び調整により、フロア内の大部分において、1以上の固定カメラ3でロボット1を撮影でき、高精度にロボット1の位置を推定できる。なお固定カメラ3の配置、撮影方向、及び視野角はこれに限られず、フロアの各場所をそれぞれ1以上の固定カメラ3で撮影できるように固定カメラ3の配置、及び撮影角度、視野角を適宜設定できる。また全ての固定カメラ3の水平方向の視野角をβとしているが、カメラ毎に視野角を変えてもよい。
As described above, the positions of the plurality of fixed
またサーバ制御部23は、複数の固定カメラ3により撮影した画像により、ロボット1を移動させるためのフロア全体のマップを作成可能である。マップの作成は、サーバ2がマップ作成指示を受信した場合に行う。マップ作成指示は、管理者によるサーバ2への入力でも、サーバ2とは異なる管理者端末からの指示であってもよい。あるいはマップ作成指示は、サーバ2が移動制御システム10の初期起動時や、定期的に自動的に生成してもよい。マップ作成指示を受信するとサーバ制御部23は、フロア内に設置された全ての固定カメラ3から、各固定カメラ3により撮影した画像を受信し、当該画像に基づき、マップを作成する。サーバ制御部23は、当該マップに基づき、ロボット1が移動可能な場所及び経路にて、移動指示を生成する。
Further, the
またサーバ制御部23は、移動指示の生成において、ロボット1周囲の画像に基づき移動指示を生成してもよい。すなわち、サーバ制御部23は、ロボット1の周辺に障害物や人がいるか否かを、固定カメラ3の画像から判定する。ロボット1の周辺に障害物や人がいると判定した場合、サーバ制御部23は、当該障害物や人を避けるように移動指示を生成する。つまり当該障害物や人にぶつかる移動指示は生成しない。これによりロボット1が障害物や人を避けて移動することが可能となる。
The
(固定カメラ3の構成)
複数の固定カメラ3は、上述のようにフロアの天井等の上層部の所定位置に設けられる。複数の固定カメラ3として、従来からフロアの天井等の上層部に設けられている防犯カメラ等を用いてもよい。なお複数の固定カメラ3は、防犯カメラ設置用のパイプに取り付けられてもよい。この場合も、フロアの上層部から、フロア内の画像を撮影することができる。あるいは複数の固定カメラ3は、フロアの側壁の上層部に設けられていてもよい。固定カメラ3は、所定の画面解像度(例えば1920×1080ピクセル)及び所定の時間間隔にて画像を取得し、取得した画像をサーバ2に送信する。
(Configuration of the fixed camera 3)
As described above, the plurality of fixed
(移動制御システム10の動作)
次に、本発明の一実施形態に係る移動制御システム10について、図6から図9に示すフローチャートによりその動作を説明する。
(Operation of the movement control system 10)
Next, the operation of the
図6は、本発明の一実施形態に係る移動制御システム10によるマップ作成の動作を示すフローチャートである。はじめに、サーバ2は、サーバ通信部21を介してマップ作成指示を受信する(ステップS10)。マップ作成指示を受信すると、サーバ制御部23は、フロア内に設置された全ての固定カメラ3から、サーバ通信部21を介して、各固定カメラ3により撮影された画像を受信する(ステップS20)。続いてサーバ制御部23は、受信した複数の画像に基づき、マップを作成する(ステップS30)。このように、本実施形態に係る移動制御システム10によれば、ロボット1を動作させずともフロアのマップを作成できるため、従来のロボットにおけるSLAM(Simultaneously Localization and Mapping)と比較して高速にマップを作成することができる。また、複数の固定カメラ3の設置位置が予め分かっているため、高精度のマップを作成することができる。
FIG. 6 is a flowchart showing a map creation operation by the
図7は、本発明の一実施形態に係る移動制御システム10による、ロボット1の現在位置推定及び移動制御に係る動作を示すフローチャートである。
FIG. 7 is a flowchart showing operations related to the current position estimation and movement control of the
はじめにサーバ2は、サーバ通信部21により、複数の固定カメラ3により撮影された複数の画像を受信する(ステップS100)。
First, the
次にサーバ制御部23は、複数の固定カメラ3により撮影された複数の画像に基づき、ロボット1の現在位置を推定する。まずサーバ制御部23は、ロボット1が1以上の画像に写っているか否かを判定する(ステップS110)。ロボット1が1以上の画像に写っている場合(ステップS110:はい)、サーバ制御部23は、ロボット1が写っている当該1以上の画像に基づき、ロボット1の現在位置を推定する(ステップS120)。他方で、ロボット1が1以上の画像に写っていない場合(ステップS110:いいえ)、サーバ制御部23は、過去の移動指示に基づき、ロボット1の現在位置を推定する(ステップS130)。
Next, the
ロボット1の現在位置を推定した後、サーバ制御部23は、ロボット1の移動制御を行う(ステップS140)。移動制御は主に、サーバ制御部23からロボット1に送信する移動指示により行う。移動指示は、サーバ2により作成したマップ及び推定したロボット1の現在位置に基づき作成する。
After estimating the current position of the
図8及び図9は、ロボット1の移動制御に係る動作を示すフローチャートである。図8は、サーバ2の動作を示すフローチャートであり、図9は、ロボット1の動作を示すフローチャートである。まずサーバ2の動作について、図8により説明する。
8 and 9 are flowcharts showing operations related to movement control of the
はじめにサーバ制御部23は、ロボット1が待機状態であるか否かを判定する(ステップS200)。ロボット1が待機状態であると判定した場合、サーバ制御部23は、サーバ通信部21によりロボット1に移動指示を送信する(ステップS210)。他方で、ロボット1が待機状態でないと判定した場合、サーバ制御部23は、サーバ通信部21によりロボット1に移動指示を送信しない。
First, the
続いてロボット1の動作について、図9により説明する。はじめにロボット1の制御部17は、自己の状態が待機状態であるか否かを判定する(ステップS300)。待機状態ではない場合(ステップS300:いいえ)、制御部17は、サーバ2からの移動指示に基づき、移動手段12によりロボット1を移動させる(ステップS310)。
Next, the operation of the
次に制御部17は、移動指示に基づきロボット1が移動中において、所定イベントが発生したか否かを判定する(ステップS320)。所定イベントが発生していないと判定した場合(ステップS320:いいえ)、ステップS330に進む。
Next, the
移動指示に基づく移動が完了した場合(ステップS330)、制御部17は、ロボット1を待機状態に移行させる(ステップS340)。そして制御部17は、ロボット1の現在位置を基準とした所定範囲内においてロボット1を自律移動させる(ステップS350)。
When the movement based on the movement instruction is completed (step S330), the
ステップS300において、ロボット1が待機状態であると判定した場合、ステップS350に進み、制御部17は、ロボット1の現在位置を基準とした所定範囲内においてロボット1を自律移動させる。
In step S300, when it is determined that the
またステップS320において、所定イベントが発生したと判定した場合、ステップS340に進み、ロボット1を待機状態に移行し、その後制御部17は、ロボット1の現在位置を基準とした所定範囲内においてロボット1を自律移動させる(ステップS350)。
If it is determined in step S320 that a predetermined event has occurred, the process proceeds to step S340, the
このように本発明の一実施形態に係る移動制御システム10によれば、複数の固定カメラ3によって撮影した複数の画像によりロボット1の現在位置を推定し、推定した現在位置に基づき移動指示をロボット1に送信してロボット1の移動制御を行うため、RFIDやマーカ等を設置しなくても、ロボット1の現在位置の推定及び移動制御を行うことができる。
As described above, according to the
また、本発明の一実施形態に係る移動制御システム10によれば、複数の固定カメラ3によりフロアの大半の領域の状況を把握した上でロボット1の移動制御を行うため、より適した位置にロボット1を移動及び配置することができ、ロボット1による万引き防止のための監視、追尾、声かけ、来店者に対する広告情報の提供等の動作の効果を高めることが期待できる。また、複数のロボット1をフロアにて移動制御する場合にも、フロア全体の状況を考慮しながら、複数のロボットの配置及び移動制御を行うことができる。
Further, according to the
また、本発明の一実施形態に係る移動制御システム10では、ロボット1が待機状態、すなわち移動指示を受けていない状態において、現在位置を基準とした所定範囲内でロボット1が自律移動する。このためロボット1が常時自律移動しているように見え、万引き防止や広告提供の効果を高めることができる。また常時ロボット1が移動することで、ロボット1の周囲の映像等をより広範囲に取得することができる。
Further, in the
なお、ロボット1が複数の固定カメラ3により撮影された画像のうち、1以上の画像に写っていない場合、サーバ2のサーバ制御部23は、複数の固定カメラ3により同時に写る撮影範囲にロボット1を移動させる移動指示を送信するようにしてもよい。このようにすることで、当該移動指示に基づいて移動した後のロボット1は複数の固定カメラ3により撮影されるため、ロボット1の現在位置を高精度で推定することができる。
If the
なお、ロボット1に第1の位置へ移動する移動指示を所定回数送信してもロボット1が第1の位置へ移動しない場合、サーバ2は、第1の位置とは異なる第2の位置へ移動する移動指示を送信するようにしてもよい。例えばロボット1の進行方向に障害物がある場合には、ロボット1が移動指示に基づき移動しようとしても、毎回同一の所定イベントが生じ、第1の位置に移動できない可能性がある。当該事象によりロボット1が移動できなくなることを防止するために、同一の移動指示の再送回数を所定回数に制限する。そして、所定回数送信しても移動指示に基づく移動が行われない場合、移動先を第1の位置とは異なる第2の位置に変更する。これにより、ロボット1が移動できない状態を抑制し、ロボット1を効率よく移動制御することができる。
If the
さらに、サーバ2が第1の位置へ移動する移動指示を所定回数送信してもロボット1が第1の位置へ移動しない場合、サーバ制御部23は、ロボット1と第1の位置との間に障害物があると推定してもよい。またサーバ制御部23は、当該推定に基づき、フロアのマップ内に、障害物が存在するとの情報を含めるよう、マップを更新してもよい。マップを更新することにより、サーバ制御部23は、当該障害物の存在を考慮してロボット1への移動指示を作成でき、ロボット1が移動できない状態を抑制し、ロボット1を効率よく移動制御することができる。
Further, if the
なお、本実施の形態では、ロボット1が待機状態において、現在位置を基準とした所定範囲内において自律移動させるとしたがこれに限られず、ロボット1は待機状態において停止するようにしてもよい。ロボット1に自律移動の機能を持たせない場合には、ロボット1の機能を簡素化することができる。
In the present embodiment, the
なお、本実施の形態では、ロボット1の位置の推定、移動制御のための移動指示の作成を、サーバ2にて行う例について説明したが、例えばロボット1が、サーバ2の機能の一部又は全部を備えてもよい。例えばサーバ2にてロボット1の現在位置の推定を行い、サーバ2がロボット1に現在位置の情報を送信し、ロボット1が、現在位置の情報に基づき自己の移動制御を行ってもよい。ロボット1がサーバ2の機能を全部備える場合は、サーバ2を設けなくともロボット1及び複数の固定カメラ3により、移動制御システムを構成することができる。
In the present embodiment, the example in which the
以上、本発明を諸図面や実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。従って、これらの変形や修正は本発明の範囲に含まれることに留意されたい。例えば、各手段、各ステップ等に含まれる機能等は論理的に矛盾しないように再配置可能であり、複数の手段やステップ等を1つに組み合わせたり、或いは分割したりすることが可能である。 Although the present invention has been described based on the drawings and examples, it should be noted that those skilled in the art can easily make various modifications and corrections based on the present disclosure. Therefore, it should be noted that these variations and modifications are included in the scope of the present invention. For example, the functions included in each means, each step, etc. can be rearranged so that there is no logical contradiction, and a plurality of means, steps, etc. can be combined or divided into one. .
1 ロボット
2 サーバ
3 固定カメラ
4 書棚
10 移動制御システム
11 通信部
12 移動手段
13 撮影部
14 入力部
15 出力部
16 記憶部
17 制御部
18、24 バス
21 サーバ通信部
22 サーバ記憶部
23 サーバ制御部
DESCRIPTION OF
Claims (10)
前記複数の固定カメラによって撮影された複数の画像に基づき、前記ロボットの現在位置を推定し、
推定した現在位置に基づき、前記ロボットを現在位置と異なる第1の位置に移動させる移動指示を前記ロボットに送信する移動制御システム。 A server, a robot that moves in the floor, and a plurality of fixed cameras provided in an upper layer such as a ceiling of the floor,
Based on a plurality of images taken by the plurality of fixed cameras, the current position of the robot is estimated,
A movement control system that transmits a movement instruction to move the robot to a first position different from the current position based on the estimated current position.
前記複数の固定カメラによって撮影された複数の画像に基づき、前記ロボットの現在位置を推定するステップと、
推定した現在位置に基づき、前記ロボットを現在位置と異なる第1の位置に移動させる移動指示を前記ロボットに送信するステップと、
を含む移動制御方法。 A movement control method in a movement control system comprising a server, a robot that moves in a floor, and a plurality of fixed cameras provided in an upper layer such as a ceiling of the floor,
Estimating a current position of the robot based on a plurality of images taken by the plurality of fixed cameras;
Transmitting a movement instruction to move the robot to a first position different from the current position based on the estimated current position;
A movement control method including:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018022348A JP6402266B1 (en) | 2018-02-09 | 2018-02-09 | Robot movement control system and movement control method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018022348A JP6402266B1 (en) | 2018-02-09 | 2018-02-09 | Robot movement control system and movement control method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6402266B1 JP6402266B1 (en) | 2018-10-10 |
JP2019139516A true JP2019139516A (en) | 2019-08-22 |
Family
ID=63788213
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018022348A Expired - Fee Related JP6402266B1 (en) | 2018-02-09 | 2018-02-09 | Robot movement control system and movement control method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6402266B1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021039525A (en) * | 2019-09-03 | 2021-03-11 | 廣美 畑中 | Guidance and handling of suspicious person using artificially intelligent robot, and method thereof |
JP2021160071A (en) * | 2020-04-03 | 2021-10-11 | Telexistence株式会社 | Robot control device, robot control system and robot control method |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114413901A (en) * | 2020-10-28 | 2022-04-29 | 光宝电子(广州)有限公司 | Floor positioning and map construction system and method thereof |
JP7563267B2 (en) | 2021-03-24 | 2024-10-08 | トヨタ自動車株式会社 | Item recovery system, item recovery robot, item recovery method, and item recovery program |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003170376A (en) * | 2001-12-06 | 2003-06-17 | Sharp Corp | Autonomously acting robot and autonomously acting robot system |
JP2003295951A (en) * | 2002-03-29 | 2003-10-17 | Sogo Keibi Hosho Co Ltd | Autonomous mobile-body patrolling system and method for compensating for position of autonomous mobile-body |
JP2007216381A (en) * | 2004-07-13 | 2007-08-30 | Matsushita Electric Ind Co Ltd | Robot |
JP2011022157A (en) * | 2000-05-26 | 2011-02-03 | Honda Motor Co Ltd | Position detection apparatus, position detection method and position detection program |
JP2011108056A (en) * | 2009-11-19 | 2011-06-02 | Hitachi Industrial Equipment Systems Co Ltd | Mobile robot |
US20120158282A1 (en) * | 2010-12-15 | 2012-06-21 | Electronics And Telecommunications Research Institute | Camera-based indoor position recognition apparatus and method |
JP2013114500A (en) * | 2011-11-29 | 2013-06-10 | Hitachi Ltd | Service control system and service system |
JP2015035139A (en) * | 2013-08-09 | 2015-02-19 | トヨタ自動車株式会社 | Autonomous mobile body, obstacle discrimination method, and obstacle avoidance method |
JP2017021791A (en) * | 2015-07-09 | 2017-01-26 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | Map generation method, mobile robot, and map generation system |
-
2018
- 2018-02-09 JP JP2018022348A patent/JP6402266B1/en not_active Expired - Fee Related
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011022157A (en) * | 2000-05-26 | 2011-02-03 | Honda Motor Co Ltd | Position detection apparatus, position detection method and position detection program |
JP2003170376A (en) * | 2001-12-06 | 2003-06-17 | Sharp Corp | Autonomously acting robot and autonomously acting robot system |
JP2003295951A (en) * | 2002-03-29 | 2003-10-17 | Sogo Keibi Hosho Co Ltd | Autonomous mobile-body patrolling system and method for compensating for position of autonomous mobile-body |
JP2007216381A (en) * | 2004-07-13 | 2007-08-30 | Matsushita Electric Ind Co Ltd | Robot |
JP2011108056A (en) * | 2009-11-19 | 2011-06-02 | Hitachi Industrial Equipment Systems Co Ltd | Mobile robot |
US20120158282A1 (en) * | 2010-12-15 | 2012-06-21 | Electronics And Telecommunications Research Institute | Camera-based indoor position recognition apparatus and method |
JP2013114500A (en) * | 2011-11-29 | 2013-06-10 | Hitachi Ltd | Service control system and service system |
JP2015035139A (en) * | 2013-08-09 | 2015-02-19 | トヨタ自動車株式会社 | Autonomous mobile body, obstacle discrimination method, and obstacle avoidance method |
JP2017021791A (en) * | 2015-07-09 | 2017-01-26 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | Map generation method, mobile robot, and map generation system |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021039525A (en) * | 2019-09-03 | 2021-03-11 | 廣美 畑中 | Guidance and handling of suspicious person using artificially intelligent robot, and method thereof |
JP2021160071A (en) * | 2020-04-03 | 2021-10-11 | Telexistence株式会社 | Robot control device, robot control system and robot control method |
JP7454161B2 (en) | 2020-04-03 | 2024-03-22 | Telexistence株式会社 | Robot control device, robot control system, and robot control method |
Also Published As
Publication number | Publication date |
---|---|
JP6402266B1 (en) | 2018-10-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6402266B1 (en) | Robot movement control system and movement control method | |
JP6402219B1 (en) | Crime prevention system, crime prevention method, and robot | |
US11756307B2 (en) | Vehicle video system | |
US9796093B2 (en) | Customer service robot and related systems and methods | |
JP5003731B2 (en) | Patrol security support system, method and program | |
JP6440327B2 (en) | Crime prevention system, crime prevention method, and robot | |
US20180241938A1 (en) | Robotic Camera System | |
US11979685B2 (en) | System and method for remote observation in a non-networked production facility | |
JP6609588B2 (en) | Autonomous mobility system and autonomous mobility control method | |
US20210142045A1 (en) | Method Of And System For Recognising A Human Face | |
JP6393377B1 (en) | Robot, information providing method and information providing system | |
KR101821159B1 (en) | System for tracking moving path of objects using multi-camera | |
KR101696243B1 (en) | Virtual reality system and method for realizing virtual reality therof | |
US20220152836A1 (en) | Robot | |
JP2020154569A (en) | Display device, display control method, and display system | |
US12078989B2 (en) | Systems and methods for remote viewing of self-driving vehicles | |
CN112788443A (en) | Interaction method and system based on optical communication device | |
CN112291701B (en) | Positioning verification method, positioning verification device, robot, external equipment and storage medium | |
CN112055034B (en) | Interaction method and system based on optical communication device | |
CN112055033B (en) | Interaction method and system based on optical communication device | |
JP7109141B2 (en) | SHOPPING SUPPORT SYSTEM AND SHOPPING SUPPORT METHOD | |
CN110502170B (en) | Position-based adjustment of display content | |
JP2017167985A (en) | Notification control program, notification control method and notification control device | |
JP7572517B1 (en) | DISPLAY CONTROL DEVICE, DISPLAY CONTROL METHOD, INFORMATION PROCESSING TERMINAL, AND PROGRAM | |
WO2023162016A1 (en) | Monitoring system, monitoring device, monitoring method, and recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180209 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20180209 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20180402 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180410 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180604 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180626 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180810 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180904 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180910 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6402266 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |