JP7067130B2 - 自律移動装置、メモリ整理方法及びプログラム - Google Patents

自律移動装置、メモリ整理方法及びプログラム Download PDF

Info

Publication number
JP7067130B2
JP7067130B2 JP2018040393A JP2018040393A JP7067130B2 JP 7067130 B2 JP7067130 B2 JP 7067130B2 JP 2018040393 A JP2018040393 A JP 2018040393A JP 2018040393 A JP2018040393 A JP 2018040393A JP 7067130 B2 JP7067130 B2 JP 7067130B2
Authority
JP
Japan
Prior art keywords
data
storage unit
image
mobile device
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018040393A
Other languages
English (en)
Other versions
JP2019159354A (ja
Inventor
光康 中嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2018040393A priority Critical patent/JP7067130B2/ja
Publication of JP2019159354A publication Critical patent/JP2019159354A/ja
Application granted granted Critical
Publication of JP7067130B2 publication Critical patent/JP7067130B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Description

本発明は、自律移動装置、メモリ整理方法及びプログラムに関する。
用途に応じて自律的に移動する自律移動装置が普及してきている。例えば、屋内の掃除のために自律的に移動する自律移動装置が知られている。一般的に、このような自律移動装置は、実空間の地図の作成と、実空間内での自己位置の推定を行う必要がある。
実空間の地図を作成するための手法としては、例えばSLAM(Simultaneous Localization And Mapping)手法が知られている。SLAM手法では、カメラの撮影する動画像中の複数のフレームから、同一の特徴点を追跡することによって、自己位置(自機の3次元位置)と特徴点の3次元位置とを交互に推定する処理を行う。例えば特許文献1には、SLAM手法を用いて周囲の地図を作成しながら移動することができる移動式ロボットが開示されている。
特開2016-52515号公報
SLAM手法では、カメラで撮影した画像(フレーム)のうち3次元位置の推定に用いるフレーム(キーフレーム)や、3次元位置を推定した特徴点(Map点)をメモリに記憶しておくことによって、移動後の自己位置や新たな特徴点の3次元位置を推定可能にしている。そのため、SLAM手法を用いると、時間の経過と共にメモリに記憶しているキーフレームやMap点のデータが増えていき、自律移動装置のメモリ空間を圧迫してしまう。したがって、従来の自律移動装置では、メモリ空間が圧迫される場合の対応に改善の余地がある。なお、SLAM手法に限らず、自律移動装置がカメラで撮影した画像を用いて自己位置推定する技術には同様の課題がある。
本発明は、上記問題を解決するためになされたものであり、メモリ空間が圧迫される場合の対応を改善することを目的とする。
上記目的を達成するため、本発明の自律移動装置は、
撮像部で撮影された画像を用いて地図の作成及び位置の推定を行う自律移動装置であって、
記撮像部で撮影された画像に関するデータが保存されるとともに、保存された画像に関するデータを複数用いて推定された前記画像中の特徴点の位置に関するデータが保存される記憶部と
前記画像中の特徴点の位置を推定する制御部であって、前記記憶部のメモリ使用量が基準容量よりも多いと判定されたときに前記特徴点の位置を推定する処理を停止する制御部と
を備え、
前記制御部は、前記記憶部に保存されている前記特徴点の位置に関するデータのうち削除可能なデータを選出するとともに、前記特徴点の位置を推定する処理が行われていないときに前記削除可能なデータを削除する。
また、本発明のメモリ整理方法は、
撮像部で撮影された画像を用いて地図の作成及び位置の推定を行う自律移動装置の記憶部に記憶されているデータを整理するメモリ整理方法であって、
前記撮像部で撮影された画像に関するデータを前記記憶部に保存し、
前記保存した画像に関するデータを複数用いて前記画像中の特徴点の3次元位置を推定し、
前記推定した特徴点の3次元位置に関するデータを前記記憶部に保存し、
前記保存した画像に関するデータ又は特徴点の3次元位置に関するデータのうち削除可能なデータを選出し、
前記記憶部のメモリ使用量が基準容量よりも多いと判定されたときに前記特徴点の3次元位置を推定する処理を停止し、
前記特徴点の3次元位置を推定する処理が行われていないときに前記選出したデータを前記記憶部から削除する。
また、本発明のプログラムは、
撮像部で撮影された画像を用いて地図の作成及び位置の推定を行う自律移動装置のコンピュータに、
前記撮像部で撮影された画像に関するデータを記憶部に保存し、
前記保存した画像に関するデータを複数用いて前記画像中の特徴点の3次元位置を推定し、
前記推定した特徴点の3次元位置に関するデータを前記記憶部に保存し、
前記保存した画像に関するデータ又は特徴点の3次元位置に関するデータのうち削除可能なデータを選出し、
前記記憶部のメモリ使用量が基準容量よりも多いと判定されたときに前記特徴点の3次元位置を推定する処理を停止し、
前記特徴点の3次元位置を推定する処理が行われていないときに前記選出したデータを前記記憶部から削除する、
処理を実行させる。
本発明によれば、メモリ空間が圧迫される場合の対応を改善することができる。
本発明の実施形態1に係る自律移動装置の機能構成を示す図である。 実施形態1に係る環境地図の一例を示す図である。 実施形態1に係るSLAM処理のフローチャートである。 実施形態1に係る自機位置推定スレッドのフローチャートである。 実施形態1に係る地図作成スレッドのフローチャートである。 実施形態1に係るループクロージングスレッドのフローチャートである。 実施形態1に係るメモリ整理処理のフローチャートである。 実施形態1に係るメモリ監視スレッドのフローチャートである。 実施形態1に係る上位アプリケーションプログラムのフローチャートである。 本発明の実施形態2に係るメモリ監視スレッドのフローチャートである。 実施形態2に係る上位アプリケーションプログラムのフローチャートである。 実施形態2に係る上位アプリケーションプログラムの充電器帰還モードのフローチャートである。 本発明の実施形態3に係る上位アプリケーションプログラムのフローチャートである。
以下、本発明の実施形態に係る自律移動装置について、図表を参照して説明する。なお、図中同一又は相当部分には同一符号を付す。
(実施形態1)
本発明の実施形態1に係る自律移動装置100は、周囲の地図を作成しながら、用途に応じて自律的に移動する装置である。この用途とは、例えば、警備監視用、屋内掃除用、ペット用、玩具用等である。
図1に示すように、本発明の実施形態1に係る自律移動装置100は、制御部10、記憶部20、センサ部30、撮像部41、駆動部42、通信部43、を備える。
制御部10は、CPU(Central Processing Unit)等で構成され、記憶部20に記憶されたプログラムを実行することにより、後述する各部(SLAM処理部11、環境地図作成部12、削除可能データ選出部13、メモリ整理部14、メモリ監視部15、移動制御部16)の機能を実現する。また、制御部10は、タイマー(図示せず)を備え、経過時間をカウントすることができる。
記憶部20は、ROM(Read Only Memory)、RAM(Random Access Memory)等で構成され、機能的に、フレームDB(DataBase)21、Map点DB22及び環境地図記憶部23を含む。ROMには制御部10のCPUが実行するプログラム及びプログラムを実行する上で予め必要なデータが記憶されている。RAMには、プログラム実行中に作成されたり変更されたりするデータが記憶される。
フレームDB21には、撮像部41により撮影された画像(フレーム)が記憶される。ただし、記憶容量を節約するために、撮影された全ての画像を記憶しなくてもよい。自律移動装置100は、フレームDB21に記憶された複数の画像を用いて、SLAM処理により、SLAM処理用のデータ(後述するMap点のデータ)の生成及び自機位置の推定を行う。自機位置の推定に用いる画像はキーフレームと呼ばれ、フレームDB21には、キーフレームの画像の情報と共に、そのキーフレームを撮影した時の自機位置(自機の位置及び向き)の情報等も記憶される。
Map点DB22には、フレームDB21に記憶されたキーフレームに含まれている特徴点のうち、3次元位置(X,Y,Z)が求められた特徴点(Map点と言う)の情報が記憶される。特徴点とは画像中の、エッジ部分やコーナー部分等、画像内の特徴的な部分の点のことを言う。特徴点は、SIFT(Scale-Invariant Feature Transform)やSURF(Speeded Up Robust Features)等のアルゴリズムを用いて取得することができる。Map点DB22には、特徴点の情報として、その3次元位置と、その特徴点の特徴量(例えばSIFT等で得た特徴量)と、が紐付けられて記憶される。
SLAM処理では、フレームDB21に記憶されている複数のキーフレーム間で、同一の特徴点の対応を取得し、取得した対応特徴点の3次元位置をMap点DB22から取得することによって、自機位置の推定を行う。
環境地図記憶部23には、センサ部30からの情報に基づいて環境地図作成部12が作成した環境地図が記憶される。環境地図は、図2に示すように、床面を例えば5cm×5cmのグリッドに分割し、グリッド単位でそのグリッドに対応する環境(床面、障害物等)の状態を記録したものである。環境の状態としては、例えば、障害物がなく自由に通過できる自由空間303、通過できない障害物302、状態が不明な不明空間304等がある。また、環境地図には、充電器301の位置も記録されている。
センサ部30は、障害物センサ31を備える。障害物センサ31は、周囲に存在する物体(障害物)を検出し、該物体(障害物)までの距離を測定することができる距離センサであって、例えば、赤外線距離センサ、超音波センサである。なお、独立した障害物センサ31を搭載せずに、撮像部41を用いて障害物を検出するようにしても良い。この場合、撮像部41が障害物センサ31を兼ねることになる。また、障害物センサ31として、距離センサではなく、他の物体に衝突したことを検知するバンパーセンサを備えても良い。この場合、自律移動装置100は、バンパーセンサにより衝突を検知した位置に障害物が存在することを検出できる。
撮像部41は、単眼の撮像装置(カメラ)を備える。撮像部41は、例えば、30fps(frames per second)で画像(フレーム)を取得する。自律移動装置100は、撮像部41が逐次取得した画像に基づいて、SLAM処理により、自機位置と周囲環境とをリアルタイムに認識しながら、自律移動を行う。
駆動部42は、独立2輪駆動の車輪とモータとを備え、制御部10からの指示(制御)により自律移動装置100を移動させる。自律移動装置100は、2つの車輪の同一方向駆動により前後の平行移動(並進移動)を、2つの車輪の逆方向駆動によりその場での回転(向き変更)を、2つの車輪のそれぞれ速度を変えた駆動により旋回移動(並進+回転(向き変更)移動)を、行うことができる。また、各々の車輪にはロータリエンコーダが備えられており、ロータリエンコーダで車輪の回転数を計測し、車輪の直径、車輪間の距離等の幾何学的関係を利用することによって並進移動量及び回転量を計算できる。
例えば、車輪の直径をD、回転数をCとすると、その車輪の接地部分での並進移動量はπ・D・Cとなる。ここで、回転数Cは、駆動部に備えられたロータリエンコーダにより測定可能である。また、車輪の直径をD、車輪間の距離をI、右車輪の回転数をC、左車輪の回転数をCとすると、向き変更の回転量は(右回転を正とすると)360°×D×(C-C)/(2×I)となる。この並進移動量及び回転量をそれぞれ逐次足し合わせていくことで、駆動部42は、メカオドメトリとして機能し、自機位置(移動開始時の位置及び向きを基準とした位置及び向き)を計測することができる。駆動部42に備えられたロータリエンコーダは、距離計測部として機能する。
なお、車輪の代わりにクローラを備えるようにしても良いし、複数(例えば二本)の足を備えて足で歩行することによって移動を行うようにしても良い。これらの場合も、二つのクローラの動き、足の動き等に基づいて、車輪の場合と同様に自機の位置及び向きの計測が可能である。
通信部43は、外部装置と通信するためのモジュールであり、外部装置と無線通信する場合にはアンテナを含む無線モジュールである。例えば、通信部43は、Bluetooth(登録商標)に基づく近距離無線通信を行うための無線モジュールである。通信部43を用いることにより、自律移動装置100は、外部とデータの受け渡し等を行うことができる。また、自律移動装置100は、外部のサーバ(図示せず)と通信部43で通信することによって、制御部10の機能の一部を外部のサーバで実行させるようにしてもよい。
次に、自律移動装置100の制御部10の機能的構成について説明する。制御部10は、SLAM処理部11、環境地図作成部12、削除可能データ選出部13、メモリ整理部14、メモリ監視部15、移動制御部16、の機能を実現し、自律移動装置100の移動制御等を行う。また、制御部10は、マルチスレッド機能に対応しており、複数のスレッド(異なる処理の流れ)を並行して実行することができる。
SLAM処理部11は、撮像部41が撮影しフレームDB21に記憶された画像を複数用いて、それらの画像から得られる特徴点の情報に基づき、SLAM処理により自機の姿勢(位置及び向き)を推定する。このSLAM処理を行う際には、画像に含まれる特徴点を抽出し、3次元位置を計算できた特徴点(Map点)について、Map点DB22に該Map点の情報を記憶させる。なお、自律移動装置100の姿勢(位置及び向き)の推定には、駆動部42から取得できるメカオドメトリの情報を用いることもできる。したがって、SLAM処理を行える状況では主にSLAM処理で推定された自機の位置及び向きの情報(これをビジュアルオドメトリとも言う)を用い、SLAM処理を行えない状況ではメカオドメトリの情報を用いる。
環境地図作成部12は、SLAM処理部11が推定した自機の位置及び向きの情報と、センサ部30からの情報と、を用いて障害物302の位置を記録した環境地図を作成し、作成した環境地図の情報を環境地図記憶部23に書き込む。
削除可能データ選出部13は、フレームDB21及びMap点DB22に記録されているデータのうち、削除可能なものを選出する。例えば、フレームDB21に記録されているキーフレームの中に撮影した時の自機の姿勢(位置及び向き)が近いキーフレームが複数ある場合、そのようなキーフレームは1つを残してそれ以外を削除してもSLAM処理に支障は生じない。また、Map点DB22に記録されているMap点の中で3次元位置の誤差が大きいものは、削除しないとSLAM処理に悪影響を及ぼす。削除可能データ選出部13は、このような、削除してもSLAM処理に支障が生じないデータ及び、削除しないとSLAM処理に悪影響を及ぼすデータを選出する。
メモリ整理部14は、削除可能データ選出部13が選出したデータをフレームDB21やMap点DB22から削除する。メモリ整理部14は、これらのデータを削除する際には、これらのデータがSLAM処理で使用されないようにしてから削除する。このようにすることによって、メモリ整理部14は、これらのデータを削除してもSLAM処理に支障を来さないようにしている。
メモリ監視部15は、フレームDB21及びMap点DB22のメモリ使用量が基準容量を超えた場合や、メモリ整理部14によって削除可能なデータを削除してから基準時間を超える時間が経過した場合に、メモリ整理部14にメモリ整理要求(削除可能なデータの削除要求)を出す。
移動制御部16は、後述する上位アプリケーションプログラムから目的地の指示を受けて、経路及び移動速度を設定し、設定した経路に沿って、自機を移動させるように駆動部42を制御する。移動制御部16が経路を設定する際には、環境地図作成部12が作成した環境地図に基づき、自機の現在位置から目的地までの経路を設定する。
以上、自律移動装置100の機能構成について説明した。次に、自律移動装置100のSLAM処理について、図3を参照して説明する。自律移動装置100は、電源オフ時は充電器301(充電ステーション)に接続して充電されており、電源が投入されると、充電器301に接続された位置で、SLAM処理が開始される。なお、自律移動装置100は電源が投入されると、このSLAM処理以外に、用途に応じた上位アプリケーションプログラムが別途(別スレッドで)起動し、SLAM処理は、この上位アプリケーションプログラムから目的地の指示を受ける。上位アプリケーションプログラムについては後述する。
まず、自律移動装置100の制御部10は、記憶部20に記憶されている各種データ(フレームDB21、Map点DB22、環境地図記憶部23)を初期化する(ステップS101)。環境地図の初期化については、自律移動装置100は起動すると充電器301の位置から移動を開始するので、この時点では、環境地図は「自機が充電器の位置に存在する」ということを示す情報で初期化される。
次に、制御部10は、SLAM処理のための各種スレッドを起動する(ステップS102)。具体的には、自機位置推定スレッド、地図作成スレッド、ループクロージングスレッドを起動する。これらのスレッドが並行して動作することにより、SLAM処理部11は、撮像部41が撮影した画像から特徴点を抽出して、自機位置の推定を行う。SLAM処理のための各スレッドの詳細の説明は後述する。
次に、制御部10は、メモリ監視スレッドを起動する(ステップS103)。メモリ監視スレッドの詳細の説明は後述する。
次に、制御部10は、動作終了(上位アプリケーションプログラムから動作終了指示を受けた)か否かを判定する(ステップS104)。動作終了(動作終了指示を受けた)なら(ステップS104;Yes)、SLAM処理を終了する。動作終了でない(動作終了指示を受けていない)なら(ステップS104;No)、環境地図作成部12は、センサ部30を用いて、環境地図の作成と更新を行う(ステップS105)。
次に、移動制御部16は、上位アプリケーションプログラムから目的地の指示を受け、自機を移動させる(ステップS106)。次に、メモリ整理部14は、メモリ整理を行う(ステップS107)。メモリ整理の詳細については、後述する。そして、SLAM処理は、ステップS104に戻る。
以上がSLAM処理の流れである。次に、SLAM処理のステップS102で起動されるSLAM処理のための各種スレッド(自機位置推定スレッド、地図作成スレッド、ループクロージングスレッド)について、順に説明する。
まず、自機位置推定スレッドについて図4を参照して説明する。このスレッドでは、SLAM処理部11が、最初に自機位置推定の初期化処理を行い、その後自機位置推定(撮像部41で取得した画像を用いてビジュアルオドメトリにより自機の姿勢(位置及び向き)を推定する)を行い続ける。
まず、SLAM処理部11は、動作終了か否かを判定する(ステップS201)。動作終了なら(ステップS201;Yes)終了し、動作終了でないなら(ステップS201;No)、SLAM処理の停止が指示されているか否かを判定する(ステップS202)。SLAM処理の停止が指示されているなら(ステップS202;Yes)、ステップS201に戻る。SLAM処理の停止が指示されていないなら(ステップS202;No)、自機位置推定処理が初期化済であるか否かを判定する(ステップS203)。
初期化済でないなら(ステップS203;No)、次に述べる初期化処理を行う。初期化処理ではSLAM処理部11は、まず、撮像部41で画像を取得し、取得した画像内から特徴点を取得する(ステップS204)。次に、SLAM処理部11は、再度、撮像部41で画像を取得し、取得した画像内から特徴点を取得する(ステップS205)。そして、SLAM処理部11は、2つの画像(ステップS204で取得した画像とステップS205で取得した画像)の間で特徴点の対応(実環境上の同一の点がそれぞれの画像中に存在し、その対応が取れるもの)を取得する(ステップS206)。そして、特徴点の対応数が5未満か否かを判定する(ステップS207)。
特徴点対応数が5未満であれば(ステップS207;Yes)、後述する相対姿勢の推定ができないため、初期画像を取得し直すために、ステップS204に戻る。特徴点の対応数が5点未満でなければ(ステップS207;No)、Two-view Structure from Motion法を用いることによって、相対姿勢を推定する(ステップS208)。ここで推定されるのは、実際には、2つの画像間の姿勢(それぞれの画像を取得した位置の差分(並進ベクトルt)及び向きの差分(回転行列R))であるが、これは、最初の画像を取得した時の自機の位置及び向きを基準にした場合の、2枚目の画像を取得した時の自機の位置(並進ベクトルt)及び向き(回転行列R))であり、最初の画像を取得した時の自機の姿勢を基準にした場合の相対姿勢と考えることができる。ただし、ここで得られる並進ベクトルtの各要素の値は実環境上での値とは異なるため、これらをSLAM空間上での値とみなし、以下ではSLAM空間上での座標(SLAM座標)を用いて説明する。
次に、SLAM処理部11は、この2つの画像間で対応が取れている特徴点(対応特徴点)のSLAM座標での3次元位置を求める(ステップS209)。この3次元位置の求め方は次の通りである。まず、ある1つの対応特徴点に着目する。ある特徴点の画像中の座標(フレーム座標:既知)を(u,v)とし、SLAM座標での3次元位置(未知)を(X,Y,Z)とすると、以下の関係式(1)で表すことができる。
(u v 1)’~P(X Y Z 1)’…(1)
ここで、「~」記号は「非零の定数倍を除いて等しい」(つまり、等しいか又は定数(非零)倍になっている)ことを表し、「’」記号は「転置」を表す。
また、Pは3×4の透視投影行列で、撮像部41のカメラの内部パラメータを示す3×3の行列A(焦点距離と撮像素子サイズで決まる定数)と、その画像の姿勢を示す回転行列R及び並進ベクトルtとから、以下の式(2)で表される。
P=A(R|t)…(2)
ここで、(R|t)は、回転行列Rの右に並進列ベクトルtを並べた行列を表す。
すると、着目した対応特徴点の1つ目の画像中の座標(u,v)とSLAM座標での3次元位置(X,Y,Z)との関係式を式(1)に基づいて立てると式(3)となる。
(u 1)’~A(I|0)(X Y Z 1)’…(3)
ここで、Iは単位行列、0はゼロベクトル、(I|0)は、単位行列Iの右に列ベクトルで表したゼロベクトルを並べた行列を表す。
また、該対応特徴点の2つ目の画像中の座標(u,v)とSLAM座標での3次元位置(X,Y,Z)との関係式を式(1)に基づいて立てると式(4)となる。
(u 1)’~A(R|t)(X Y Z 1)’…(4)
上記の式(3)及び式(4)において、対応特徴点のSLAM座標での3次元位置(X,Y,Z)は同一であるから、u,v,u,vそれぞれについて、4つの式ができ、未知数はX,Y,Zの3つなので、これらは、過剰条件の連立一次方程式となる。過剰条件の連立一次方程式は、一般には解が存在しないが、SLAM処理部11は、最小二乗法を用いることにより、該対応特徴点の最も確からしいSLAM座標での3次元位置(X,Y,Z)を求めることができる。
SLAM処理部11は、対応特徴点のSLAM座標での3次元位置(X,Y,Z)が求まったら、それをMap点として、Map点DB22に登録する(ステップS210)。Map点DB22に登録する要素には、少なくとも、「特徴点のSLAM座標での3次元位置であるX,Y,Z」と、「その特徴点の特徴量」(例えばSIFT等で得た特徴量)と、「マーキングフラグ」(後述する地図作成スレッドの処理において、削除可能なMap点をマーキングする際に用いる。例えば初期値は0で、マーキングされると1になる。)が含まれる。また、「タイムスタンプ」(後述するキーフレーム番号NKFの、Map点DB22への登録時点での値等)をMap点DB22への登録要素に含めてもよい。
対応特徴点は5点以上存在するため、SLAM処理部11は、各対応特徴点について、ステップS209及びステップS210を繰り返す。
次にSLAM処理部11は、キーフレーム(SLAM処理用の各種スレッドでの処理対象となるフレーム)の番号を表す変数NKFを0に初期化し(ステップS211)、初期化済フラグをセットする(ステップS212)。そして、SLAM処理部11は、SLAM座標と実環境座標とのスケール対応を得るために、メカオドメトリによる並進距離(実環境での座標で求められる)を、上記の処理で推定したSLAM座標での並進距離dで除することによって、スケールSを求める(ステップS213)。
次にSLAM処理部11は、2つ目の画像をキーフレームとしてフレームDB21に登録する(ステップS214)。フレームDB21に登録する要素は、「キーフレーム番号」(登録時点でのNKFの値)、「姿勢」(その画像撮影時の自機のSLAM座標での位置(並進ベクトルt)及び向き(回転行列R))、「メカオドメトリで計測した実環境上での姿勢」(実環境での駆動部42による移動距離に基づいて求められる自機の位置及び向き)、「抽出した全ての特徴点」、「特徴点の中で3次元位置が既知となったMap点の3次元位置」、「キーフレーム自体の特徴」、「マーキングフラグ」である。
上記中、「メカオドメトリで計測した実環境上での姿勢」は、並進ベクトルtと回転行列Rとで表すこともできるが、通常、本自律移動装置100は2次元平面上を動くので、2次元データに単純化して、移動開始時の位置(原点)及び向きを基準にした2次元座標(X,Y)及び向きφとして表しても良い。また、「キーフレーム自体の特徴」とは、キーフレーム間の画像類似度を求める処理を効率化するためのデータであり、例えば画像中の特徴点のヒストグラム等を用いることができるが、画像自体を「キーフレーム自体の特徴」としても良い。また、「マーキングフラグ」は、後述する地図作成スレッドの処理において、削除可能なキーフレームをマーキングする際に用いるもので、例えば初期値は0で、マーキングされると1になる。
次に、SLAM処理部11は、キーフレームが生成された事を地図作成スレッドに知らせるために、地図作成スレッドのキーフレームキューに、キーフレームカウンタNKFをセットする(ステップS215)。なお、キュー(Queue)は、先入れ先出しのデータ構造になっている。
そして、自機位置推定スレッドの処理は、ステップS201に戻り、ステップS202を経由して、ステップS203で初期化済であることが判定され(ステップS203;Yes)、SLAM処理部11は、初期化済の場合の処理へ進む。
次に、初期化済の場合の処理を説明する。この処理が、自機位置推定スレッドの通常時の処理であり、逐次現在の自機の位置及び向き(SLAM座標内での並進ベクトルtと回転行列R)を推定する処理である。
SLAM処理部11は、撮像部41で画像を撮影し、撮影した画像に含まれている特徴点を取得する(ステップS221)。次に、フレームDB21に登録されている以前のキーフレーム(例えばキーフレーム番号がNKFである画像)の情報から、その画像の情報に含まれている特徴点のうち、3次元位置が既知である(Map点DB22に登録されているMap点になっている)特徴点を取得し、今撮影した画像との間で対応が取れる特徴点(対応特徴点)を抽出する(ステップS222)。
そして、SLAM処理部11は、対応特徴点の個数(特徴点対応数)が基準対応特徴点数(例えば10)未満か否かを判定し(ステップS223)、基準対応特徴点数未満なら(ステップS223;Yes)、位置の推定は行わずにステップS221に戻る。ここで、すぐにステップS221に戻るのではなく、ステップS222に戻って、フレームDB21に登録されているキーフレームの中から対応特徴点の個数が基準対応特徴点数以上になるものを検索するようにしても良い。この場合は、フレームDB21に登録されているキーフレームの中に対応特徴点の個数が基準対応特徴点数以上のものが見つからなかった場合にステップS221に戻る。
SLAM処理部11は、対応特徴点数が基準対応特徴点数以上なら(ステップS223;No)、対応特徴点それぞれの3次元位置(X,Y,Z)をMap点DB22から取得する(ステップS224)。すると、ステップS221で取得した画像に含まれているi番目(iは1から対応特徴点数までの値を取る)の対応特徴点の該画像中の座標(u,v)は、以下の式(5)で表される(ux,vx)と理想的には一致するはずである。
(ux,vx,1)’~A(R|t)(X1)’…(5)
ここで、(X,Y,Z)は、該対応特徴点の3次元位置であり、R及びtはステップS221で画像を取得した時の自律移動装置100の姿勢(回転行列R及び並進ベクトルt)である。
実際には(X,Y,Z)にも(u,v)にも誤差が含まれているため、(ux,vx)と(u,v)とが一致することはほとんどない。そして、未知数は姿勢を表す回転行列R及び並進ベクトルt(3次元空間ではRもtも3次元となり、未知数の個数は3+3=6である)であるが、数式は対応特徴点の個数の2倍存在する(対応特徴点1つに対して、フレーム座標のu,vそれぞれに対する式が存在するため)ことになるため、過剰条件の連立一次方程式になる。したがって、SLAM処理部11は、最小二乗法を用いることにより、最も確からしい自律移動装置100の姿勢(SLAM座標での並進ベクトルt及び回転行列R)を求めることができる(ステップS225)。
SLAM座標での現在の自機の姿勢(並進ベクトルt及び回転行列R)が求められたので、SLAM処理部11は、これにスケールSを乗算することで、VO(ビジュアルオドメトリ)を求める(ステップS226)。VOは実環境での自機の位置及び向きとして利用できる。
次に、SLAM処理部11は、自律移動装置100の現在位置が、フレームDB21に登録されている直前のキーフレーム(キーフレーム番号がNKFである画像)を撮影した時の位置から基準距離(例えば1m)以上移動しているか否かを判定する(ステップS227)。基準距離以上移動しているなら(ステップS227;Yes)、NKFに1を加算する(ステップS228)。そして、SLAM処理部11は、現フレームをキーフレームとしてフレームDB21に登録し(ステップS229)、ステップS215に進む。
自律移動装置100が基準距離未満しか移動していないなら(ステップS227;No)、ステップS201に戻る。なお、基準距離と比較する自律移動装置100の移動距離は、直前のキーフレームから現フレームまでの並進距離(両フレームの並進ベクトルの差の絶対値)をメカオドメトリから取得しても良いし、上述したVO(ビジュアルオドメトリ)から求めても良い。また、キーフレーム番号を示す変数NKF、スケールを示す変数S、フレームDB21及びMap点DB22はスレッドをまたいで値を参照することができるように記憶部20に記憶されている。
次に、地図作成スレッドについて、図5を参照して説明する。このスレッドでは、SLAM処理部11が、自機位置推定スレッドによってフレームDB21に登録されたキーフレームの中の対応特徴点の3次元位置を計算して、Map点DB22に登録する処理を行い続ける。
まず、SLAM処理部11は、動作終了か否かを判定する(ステップS301)。動作終了なら(ステップS301;Yes)終了する。動作終了でないなら(ステップS301;No)、キーフレームキューが空か否かを判定する(ステップS302)。キーフレームキューが空なら(ステップS302;Yes)、ステップS301に戻る。キーフレームキューが空でなければ(ステップS302;No)、キーフレームキューからデータを取り出してMKF(地図作成スレッドで処理するキーフレームのキーフレーム番号を示す変数)にセットする(ステップS303)。次にSLAM処理部11は、MKFが0より大きいか否かを判定する(ステップS304)。MKFが0であるなら(ステップS304;No)、ステップS301に戻ってキーフレームキューにデータが入るのを待つ。そして、MKFが0より大きいなら(ステップS304;Yes)、以下の処理を行う。
SLAM処理部11は、フレームDB21を参照し、前キーフレーム(キーフレーム番号がMKF-1のキーフレーム)の特徴点と現キーフレーム(キーフレーム番号がMKFのキーフレーム)の特徴点とで対応が取れる特徴点(対応特徴点)を抽出する(ステップS305)。フレームDB21にはそれぞれのキーフレームの姿勢(並進ベクトルtと回転行列R)も登録されているので、自機位置推定スレッドの初期化時の処理の時と同様の方法で対応特徴点の3次元位置を計算できる。SLAM処理部11は、3次元位置が計算できた対応特徴点をMap点としてMap点DB22に登録する(ステップS306)。そして、SLAM処理部11は、フレームDB21に登録されているキーフレームのデータに対しても今回3次元位置を計算できた特徴点について3次元位置を登録する(ステップS307)。
なお、SLAM処理部11が抽出した対応特徴点がすでにMap点DB22に登録済だった場合は、3次元位置の計算をスキップして次の対応特徴点(Map点DBに未登録のもの)に対する処理に進んでもよいし、改めて3次元位置の計算を行って、Map点DB22に登録済の3次元位置や、フレームDB21中の対応特徴点に対する3次元位置を更新するようにしてもよい。
次に、SLAM処理部11は、キーフレームキューが空かどうかを判定する(ステップS308)。キーフレームキューが空でなければ(ステップS308;No)、SLAM処理部11は、ループクロージングスレッドのキーフレームキューにMKFをセットして(ステップS312)、ステップS301に戻る。
キーフレームキューが空なら(ステップS308;Yes)、SLAM処理部11は、全キーフレームの姿勢と全Map点の3次元位置に対して、バンドルアジャストメント処理を行って、精度向上を図る(ステップS309)。
バンドルアジャストメント処理とは、カメラ姿勢(キーフレーム姿勢)とMap点の3次元位置とを同時に推定する非線形最適化法であり、Map点をキーフレーム上に投影させたときに発生する誤差が最小になるような最適化を行うものである。このバンドルアジャストメントの処理を行うことで、キーフレーム姿勢とMap点の3次元位置の精度向上を図ることができる。
次に、削除可能データ選出部13は、複数のキーフレームの姿勢と、そのキーフレーム上のMap点と、そのMap点の3次元位置と、に基づいてMap点の3次元位置の誤差を求め、誤差が基準誤差よりも大きなMap点をマーキングする(ステップS310)。姿勢と特徴点とを推定しないように固定させると、上述のバンドルアジャストメント処理等により該Map点の3次元位置のみを推定できるので、推定した3次元位置と、Map点DB22に登録されている3次元位置とに基づいて、誤差を計算できる。なお、ステップS310は必ずしもステップS309と別個に行う必要はなく、ステップS309で行われるバンドルアジャストメント処理の中で、誤差の大きいMap点に対してマーキングするようにしてもよい。
次に削除可能データ選出部13は、フレームDB21内で、姿勢が近いキーフレームが複数存在する場合、そのようなキーフレームのうちの1つを残してそれ以外のキーフレームをマーキングし(S311)、ステップS312に進む。
ここで、姿勢が近いキーフレームの判定について説明する。例えば、判定対象となる2つのキーフレームについて、それらのキーフレームを撮影した時の自律移動装置100の位置の差(並進ベクトルt間の距離)が基準類似判定距離(例えば1m)未満であり、かつ、その時の向きの差(回転行列Rから求まる角度の差)が基準類似判定角度(例えば5度)未満である場合に、それらのキーフレームは姿勢が近いと判定する。
また、2つのキーフレームの姿勢が近い場合、それらのキーフレームには、同じMap点が多数存在することになる。したがって、姿勢が近いキーフレームの判定は、それらのキーフレームを撮影した時の自律移動装置100の位置及び向きの差の代わりに(又は、位置若しくは向きの差に加えて)、それらのキーフレームに存在する共通のMap点の個数を用いて判定してもよい。例えば、「同じMap点が基準類似判定点数(例えば100個)存在し、位置の差(並進ベクトルの差)が基準類似判定距離(例えば1m)未満」なら「姿勢が近い」と判定してもよい。
次にループクロージングスレッドについて、図6を参照して説明する。このスレッドでは、SLAM処理部11が、ループクロージング処理が可能か否かをチェックし続け、可能な場合にはループクロージング処理を行う。なお、ループクロージング処理とは、以前来たことのある同じ場所に戻ってきたことを認識した場合に、以前この同じ場所にいた時の姿勢の値と現在の姿勢の値とのずれを用いて、以前来た時から今までの軌跡中のキーフレームや、関連するMap点の3次元位置を修正することを言う。
まず、SLAM処理部11は、動作終了か否かを判定する(ステップS401)。動作終了なら(ステップS401;Yes)、終了する。動作終了でないなら(ステップS401;No)、キーフレームキューが空か否かを判定する(ステップS402)。キーフレームキューが空なら(ステップS402;Yes)、ステップS401に戻る。キーフレームキューが空でないなら(ステップS402;No)、キーフレームキューからデータを取り出してLKF(ループクロージングスレッドで処理するキーフレームのキーフレーム番号を示す変数)にセットする(ステップS403)。次にSLAM処理部11は、LKFが1より大きいかを判定する(ステップS404)。LKFが0又は1であるなら(ステップS404;No)、ステップS401に戻ってキーフレームキューにデータが入るのを待つ。そして、LKFが1より大きいなら(ステップS404;Yes)、以下の処理を行う。
SLAM処理部11は、フレームDB21を参照し、現キーフレーム(キーフレーム番号がLKFのキーフレーム)と「キーフレーム自体の特徴」の類似度が基準画像類似度以上になるキーフレームをフレームDB21から検索する(ステップS405)。ここで、この類似度は、画像(キーフレーム)の特徴を特徴ベクトルで表している場合は、比較対象の2つの画像の特徴ベクトルのノルムを1に正規化したもの同士の内積を、その2つの画像の類似度とすることができる。また、2つの画像の特徴ベクトルの距離(各要素の差の二乗和の平方根)の逆数を類似度としてもよい。
そして、SLAM処理部11は、「キーフレーム自体の特徴」の類似度が基準画像類似度以上になるキーフレームが発見されたか否かを判定する(ステップS406)。発見されなければ(ステップS406;No)、ステップS401に戻り、発見されたら(ステップS406;Yes)、発見されたキーフレームから現キーフレームまでの軌跡中のキーフレームの姿勢と、軌跡中のキーフレームに含まれるMap点の3次元位置を修正し(ステップS407)、ステップS401に戻る。ステップS407では、例えば、SLAM処理部11は、現キーフレームの姿勢を、発見されたキーフレームの姿勢と同じ姿勢に修正する。そして、発見されたキーフレームの姿勢と現キーフレームの姿勢との差分を用いて、発見されたキーフレームから現キーフレームまでの軌跡中の各キーフレームの姿勢に線形的に補正を加える。さらにこれらの各キーフレームに含まれるMap点の3次元位置についても各キーフレームの姿勢の補正量に応じて修正する。
次に、SLAM処理(図3)のステップS107で実行されるメモリ整理処理について図7を参照して説明する。この処理は、上述の地図作成スレッドでマーキングされたキーフレーム及びMap点を、SLAM処理に支障を与えずに削除する処理である。
まず、メモリ整理部14は、上位アプリケーションプログラムからメモリ整理指示があったか否かを判定する(ステップS501)。メモリ整理指示が無ければ(ステップS501;No)、処理を終了する。メモリ整理指示があったら(ステップS501;Yes)、SLAM処理部11にSLAM処理の停止を指示する(ステップS502)。
次に、メモリ整理部14は、SLAM処理が停止しているか否かを判定する(ステップS503)。上述したように、SLAM処理の各種スレッド(自機位置推定スレッド、地図作成スレッド、ループクロージングスレッド)は、自機位置推定スレッドがキーフレーム番号をキーフレームキューにセットすることによって並行動作している。そして、自機位置推定スレッドがSLAM処理の停止の指示を受けてステップS202からステップS201に戻るようになると、新たなキーフレームが登録されることはなくなる。すると、地図作成スレッドはキーフレームキューが空の状態でステップS302からステップS301に戻るようになり、ループクロージングスレッドもキーフレームキューが空の状態でステップS402からステップS401に戻るようになる。この状態が、SLAM処理が停止している状態である。メモリ整理部14は、SLAM処理部11によるSLAM処理がこのような停止状態になっているか否かを判定する。
SLAM処理が停止していないなら(ステップS503;No)、ステップS503に戻って停止状態になるまで待つ。SLAM処理が停止しているなら(ステップS503;Yes)、メモリ整理部14は、フレームDB21から、マーキングされたキーフレームを削除する(ステップS504)。そして、メモリ整理部14は、Map点DB22から、マーキングされたMap点を削除する(ステップS505)。これらのデータが削除されたことによって、メモリの断片化が生じる可能性があるため、この断片化に対する対策として、メモリ整理部14は、メモリのガーベジコレクションを行う(ステップS506)。そして、メモリ整理部14は、メモリ整理が完了したことを上位アプリケーションプログラムに通知して(ステップS507)、処理を終了する。
メモリのガーベジコレクションは、例えば、以下のように行う。まず、全てのキーフレームをフレームDB21から記憶部20内の空き領域に待避させた後に、フレームDB21をクリアする。その後、待避させたキーフレームのデータに基づいて、フレームDB21を再度構築する。Map点についても同様に、まず、全てのMap点をMap点DB22から記憶部20内の空き領域に待避させた後に、Map点DB22をクリアする。その後、待避させたMap点のデータに基づいて、Map点DB22を再度構築する。このようにすることにより、メモリの断片化を解消でき、メモリを有効利用できるようになる。
次に、SLAM処理(図3)のステップS103で起動されるメモリ監視スレッドについて図8を参照して説明する。このスレッドでは、SLAM処理のメモリ使用量を監視し、必要に応じてメモリ整理を指示する。なお、SLAM処理のメモリ使用量とは、フレームDB21及びMap点DB22に登録されているデータ(マーキングされているものも含む)の量である。
まず、メモリ監視部15は、動作終了か否かを判定する(ステップS601)。動作終了なら(ステップS601;Yes)、終了する。動作終了でないなら(ステップS601;No)、SLAM処理のメモリ使用量が基準容量より大きいか否かを判定する(ステップS602)。SLAM処理のメモリ使用量が基準容量より大きければ(ステップS602;Yes)、上位アプリケーションプログラムにメモリ整理を要求する(ステップS603)。
SLAM処理のメモリ使用量が基準容量より大きくないなら(ステップS602;No)、メモリ監視部15は、前回メモリ整理を行ってから基準時間を超える時間が経過したか否かを判定する(ステップS604)。前回メモリ整理を行ってから基準時間を超える時間が経過したなら(ステップS604;Yes)、ステップS603に進む。前回メモリ整理を行ってから基準時間を超える時間が経過していないなら(ステップS604;No)、ステップS601に戻る。メモリ監視部15がこの判定を行えるようにするために、制御部10は、メモリ整理処理(図7)でメモリ整理完了を通知(ステップS507)する際に、その時点の時刻を記録するようにしてもよい。そうすれば、メモリ監視部15は、記録された時刻と現在時刻との差分を求めることによって、前回メモリ整理を行ってから基準時間を超える時間が経過したか否かを判定することができる。
次に、上位アプリケーションプログラムについて説明する。上位アプリケーションプログラムとは、自律移動装置100の用途に応じて決まるソフトウェアであり、例えば屋内掃除用アプリケーションプログラムである。上位アプリケーションプログラムは、用途に応じて様々なものが考えられるが、一般には状況に応じて動作モードを変更して、動作モードに基づいて自律移動装置100を制御する。動作モードとは、自律移動装置100の行動様式を定めるものであり、自律移動装置100は、ランダムに移動する「お散歩モード」、充電器に帰還する「充電器帰還モード」、充電器に接続して充電を行う「充電モード」、環境地図の作成範囲を広げていく「地図作成モード」、移動を停止してユーザと会話を行う「会話モード」等の動作モードを持つ。
そして、自律移動装置100は、状況に応じて動作モードを変更する。例えば、初期値は地図作成モードで、地図がある程度作成されたら(例えば地図作成モードで10分経過したら)お散歩モードになり、電池残量が少なくなったら充電器帰還モードになるというように、予め動作モードを変更する条件が設定されていてもよいし、外部(ユーザ、外部サーバ等)からの指示により、設定されてもよい。
上位アプリケーションプログラムは、自律移動装置100の主要な動作を制御するプログラムであり、様々な処理を含むが、ここでは、上位アプリケーションプログラムの処理のうち、メモリ整理が関連する部分に絞って、図9を参照して説明する。上位アプリケーションプログラムは、SLAM処理(図3)と同様に、自律移動装置100の電源が投入されると開始される。
まず、制御部10は、自律移動装置100の動作を終了させるか否かを判定する(ステップS701)。例えば、自律移動装置100は、ユーザから動作終了の指示を受けたり、外部のサーバ等から動作終了の指示を受けたりすると、動作を終了させる。動作を終了させるなら(ステップS701;Yes)、SLAM処理等の他のスレッドの処理に対して、終了を指示し(ステップS702)、処理を終了する。
動作を終了させないなら(ステップS701;No)、制御部10は、メモリ監視スレッドからメモリ整理の要求があるか否かを判定する(ステップS703)。メモリ整理の要求があるなら(ステップS703;Yes)、動作モードを「充電器帰還モード」に設定し(ステップS704)、ステップS705に進む。メモリ整理の要求がなければ(ステップS703;No)、そのままステップS705に進む。
ステップS705では、制御部10は、動作モードが「お散歩モード」であるか否かを判定する。「お散歩モード」であるなら(ステップS705;Yes)、目的地をランダムに設定し(ステップS706)、ステップS701に戻る。「お散歩モード」でないなら(ステップS705;No)、動作モードが「充電器帰還モード」であるか否かを判定する(ステップS707)。
動作モードが「充電器帰還モード」でないなら(ステップS707;No)、制御部10は、動作モードに応じて目的地を設定し(ステップS708)、ステップS701に戻る。動作モードに応じた目的地設定には様々なものがあるため、具体例をいくつか説明する。例えば、動作モードが「地図作成モード」なら、環境地図を徐々に広げていくような場所(例えば、環境地図が作成できているところと作成できていないところの境目)を目的地に設定する。動作モードが「会話モード」なら、移動を停止してユーザと会話するので、自律移動装置100の現在位置を目的地に設定する。
動作モードが「充電器帰還モード」なら(ステップS707;Yes)、制御部10は、充電器の位置を目的地に設定する(ステップS709)。そして、制御部10は、自律移動装置100が、充電器に到着したか否かを判定する(ステップS710)。充電器に到着していなければ(ステップS710;No)、ステップS701に戻り、充電器に到着するまでステップS710の判定を繰り返す。充電器に到着したら(ステップS710;Yes)、制御部10は、動作モードを「充電モード」に設定し(ステップS711)、SLAM処理部11にメモリ整理を指示し(ステップS712)、SLAM処理部11からメモリ整理完了の通知を受けるまで待つ。その後、制御部10は、メモリ監視スレッドから受けたメモリ整理の要求を消去し(ステップS713)、ステップS701に戻る。
以上説明した各種処理により、自律移動装置100は、SLAM処理のメモリ使用量が基準容量を超えた場合等に、削除可能なデータを削除することができる。したがって、自律移動装置100のメモリリソースが少ない場合でも、長時間、あるいは広い領域で使用することが可能となる。
(実施形態1の変形例)
実施形態1では、メモリ整理処理(図7)は、充電モード時のみ行われるようになっているが、自律移動装置100が移動しない動作モードになっているなら、充電モード時以外でメモリ整理処理を行ってもよい。このような実施形態1の変形例においては、上位アプリケーションプログラムは、メモリ監視スレッドからメモリ整理の要求を受けた場合、無条件に動作モードを「充電器帰還モード」に設定することはしない。例えば、その時点で動作モードが「会話モード」に設定されていた場合は、会話モードを維持したままメモリ整理処理を行う。自律移動装置100は、会話モードでは、移動せずにユーザとの会話を行っているため、わざわざ充電器の位置まで移動しなくても、その場でメモリ整理を行うことが可能だからである。
また、既に十分に充電されていて、充電器に帰還するのが不自然な状況の場合には、動作モードを会話のためにユーザに接近するためのモード(「ユーザ接近モード」)に設定し、ユーザのそばに到着したら「会話モード」に設定して、メモリ整理を行ってもよい。また、その場ですぐにメモリ整理を行える動作モードとして、移動せずにその場で(例えば上体で)踊る「停止踊りモード」や、メモリ整理のために停止する「メモリ整理モード」を用意することも考えられる。
また、上位アプリケーションプログラム(図9)は、充電器の位置に移動する充電器帰還コスト(帰還するまでに要する予想時間及び予想メモリ使用量)や、会話するためにユーザに接近するユーザ接近コスト(接近するまでに要する予想時間及び予想メモリ使用量)を計算した上で、ユーザにできるだけ違和感を持たせない動作モードに移行してからメモリ整理を指示してもよい。
この場合、制御部10はステップS704で、動作モードを、充電器帰還コストがユーザ接近コストよりも所定の基準コスト差以上小さければ充電器帰還モードに設定し、ユーザ接近コストが充電器帰還コストよりも所定の基準コスト差以上小さければユーザ接近モードに設定し、どちらのコストも所定の基準コスト閾値より大きければ、停止踊りモード又はメモリ整理モードに設定する。そして、動作モードをユーザ接近モードに設定した場合は、ユーザと接近したら動作モードを会話モードに設定し、その後メモリ整理を指示する。動作モードを停止踊りモード又はメモリ整理モードに設定した場合は、その場ですぐにメモリ整理を指示する。
また、例えば、センサ部30が路面の穴や崖を検知するクリフセンサを備えている場合は、自律移動装置100は移動すると危険な状況であるか否かを判断できる。この場合、上位アプリケーションプログラムは、自律移動装置100が現在移動可能な状況か否かを判断し、移動可能な状況でない場合には、動作モードをメモリ整理モードに設定して、その場ですぐにメモリ整理を指示してもよい。
(実施形態2)
実施形態1では、メモリ整理処理(図7)は、充電モード時のみ行われるようになっているが、この場合、メモリ監視スレッドで上位アプリケーションプログラムにメモリ整理を要求してから、充電器に帰還するまでの間はメモリ整理が行われない。したがって、メモリ監視スレッドでは、少なくとも充電器に帰還するまでの間はメモリ使用量が限界値を超えないように、メモリ使用量に十分余裕がある状態で上位アプリケーションプログラムにメモリ整理を要求する必要がある。そこで、メモリ整理(緊急メモリ整理)を要求するとすぐにメモリ整理を行うことができる実施形態2について説明する。
実施形態2に係る自律移動装置101の構成は、自律移動装置100と同じであるが、メモリ監視スレッドと上位アプリケーションプログラムの処理内容が一部異なるため、これらの処理について説明する。
自律移動装置101のメモリ監視スレッドの処理内容は図10に示すように、自律移動装置100のメモリ監視スレッド(図8)の処理内容に、ステップS605及びステップS606の処理を追加したものになっている。
ステップS605では、メモリ監視部15は、SLAM処理のメモリ使用量が第2の基準容量より大きいか否かを判定する。ここで、第2の基準容量とは、ステップS602での基準容量より大きく、メモリ使用量の限界値により近い値である。メモリ監視部15は、SLAM処理のメモリ使用量が第2の基準容量より大きければ(ステップS605;Yes)、上位アプリケーションプログラムに緊急メモリ整理を要求し(ステップS606)、ステップS601に戻る。SLAM処理のメモリ使用量が第2の基準容量以下なら(ステップS605;No)、ステップS602に進む。
自律移動装置101の上位アプリケーションプログラムの処理内容は図11及び図12に示すように、自律移動装置100の上位アプリケーションプログラム(図9)の処理内容に、ステップS720、ステップS721、ステップS722及びステップS723の処理を追加したものになっている。
ステップS720では、制御部10は、メモリ監視スレッドから緊急メモリ整理の要求があるか否かを判定する。緊急メモリ整理の要求がなければ(ステップS720;No)、ステップS703に進む。緊急メモリ整理の要求があるなら(ステップS720;Yes)、制御部10は駆動部42を停止させることにより移動を停止させ、動作モードをメモリ整理モードに設定する(ステップS721)。そして、制御部10は、SLAM処理部11にメモリ整理を指示し(ステップS722)、SLAM処理部11からメモリ整理完了の通知を受けるまで待つ。その後、制御部10は、メモリ監視スレッドから受けた緊急メモリ整理の要求やメモリ整理の要求を消去し(ステップS723)、ステップS701に戻る。
以上の処理により、自律移動装置101は、メモリ使用量が限界値に近づいた場合に、上位アプリケーションプログラムに「緊急メモリ整理」を要求することができる。そして、緊急メモリ整理の要求を受けた上位アプリケーションプログラムは、自律移動装置101をその場で停止させてメモリ整理モードに移行する。したがって、自律移動装置101は、すぐにメモリ整理を実行することでき、メモリリソースが少ない場合でも、長時間、あるいは広い領域で使用することが可能となる。
(実施形態3)
上記実施形態1及び実施形態2においては、自律移動装置100,101は、メモリ整理処理を行う場合には、移動を停止させている。そこで、移動を停止せずにメモリ整理処理を行うことができる実施形態3について説明する。
実施形態3に係る自律移動装置102は、上述した動作モードとは別に自機位置推定モードとして、SLAMモードとメカオドメトリモードの2つの自機位置推定モードを持つ。SLAMモードは、自律移動装置100と同様にSLAM処理によって自機位置を推定するモードであり、メカオドメトリモードは、駆動部42から得られるメカオドメトリに基づいて自機位置を推定する(ロータリエンコーダ等により自機位置を計測する)モードである。メカオドメトリモードではメカオドメトリによって自機位置を推定するので、SLAM処理による自機位置の推定の処理を停止させることができる。自機位置推定モードの初期値はSLAMモードになっている。また、自律移動装置102の構成は、自律移動装置100と同じであるが、上位アプリケーションプログラムの処理内容が一部異なるので、この処理について説明する。
自律移動装置102の上位アプリケーションプログラムの処理内容は図13に示すように、自律移動装置100の上位アプリケーションプログラム(図9)の処理内容に、ステップS730、ステップS731、ステップS732、ステップS733及びステップS734の処理を追加し、ステップS704、ステップS712及びステップS713の処理を削除したものになっている。
自律移動装置102では、制御部10は、ステップS703におけるメモリ整理の要求の有無の判定で、メモリ整理の要求がないなら(ステップS703;No)、ステップS733に進む。メモリ整理の要求があるなら(ステップS703;Yes)、制御部10は、自機位置推定モードをメカオドメトリモードに変更し(ステップS730)、SLAM処理部11にメモリ整理を指示する(ステップS731)。そして、制御部10は、メモリ監視スレッドから受けたメモリ整理の要求を消去し(ステップS732)、ステップS733に進む。
ステップS733では、制御部10は、SLAM処理部11からメモリ整理完了の通知を受けたか否かを判定する。メモリ整理完了の通知を受けたら(ステップS733;Yes)、制御部10は、自機位置推定モードをSLAMモードに変更し(ステップS734)、ステップS705に進む。そして、制御部10は、ステップS711の後は、ステップS701に戻る。
メカオドメトリモードでは、SLAM処理による自機位置推定を行わなくても自機位置を推定(計測)できるので、以上の処理により、実施形態3に係る自律移動装置102は、移動を停止させることなく、メモリ整理を行うことができる。
なお、自律移動装置100,101,102の各機能は、通常のPC(Personal Computer)等のコンピュータによっても実施することができる。具体的には、上記実施形態では、自律移動装置100,101,102が行う自律移動制御処理のプログラムが、記憶部20のROMに予め記憶されているものとして説明した。しかし、プログラムを、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)、DVD(Digital Versatile Disc)及びMO(Magneto-Optical Disc)等のコンピュータ読み取り可能な記録媒体に格納して配布し、そのプログラムをコンピュータに読み込んでインストールすることにより、上述の各機能を実現することができるコンピュータを構成してもよい。
以上、本発明の好ましい実施形態について説明したが、本発明は係る特定の実施形態に限定されるものではなく、本発明には、特許請求の範囲に記載された発明とその均等の範囲が含まれる。以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
(付記1)
撮像部で撮影された画像を用いて地図の作成及び位置の推定を行う自律移動装置であって、
自機を移動させる駆動部と、
記憶部と、
制御部と、
を備え、
前記記憶部には、前記撮像部で撮影された画像に関するデータが保存されるとともに、該記憶部に保存された画像に関するデータを複数用いて前記制御部により推定された前記画像中の特徴点の位置に関するデータが保存され、
前記制御部は、
前記駆動部を制御して自機を移動させ、
所定のタイミングで、前記記憶部に保存されている削除可能な前記データを削除する、
自律移動装置。
(付記2)
前記制御部は、
前記撮像部で撮影された画像に関するデータを前記記憶部に保存し、
前記特徴点の位置に関するデータとして、前記特徴点の3次元位置に関するデータを前記記憶部に保存し、
前記記憶部に保存した画像に関するデータ及び特徴点の3次元位置に関するデータを用いて自機の位置の推定を行い、
前記記憶部に保存した画像に関するデータ又は特徴点の3次元位置に関するデータのうち削除可能なデータを選出し、
前記選出したデータを前記記憶部から削除する、
付記1に記載の自律移動装置。
(付記3)
前記選出したデータを削除する処理は、当該自律移動装置が動いていないときに行う、
付記2に記載の自律移動装置。
(付記4)
前記制御部は複数のスレッドの処理を並列して処理し、前記選出したデータを削除する処理を実行するスレッドは、他のスレッドで前記記憶部を使用していないときに前記削除する処理を実行する、
付記2又は3に記載の自律移動装置。
(付記5)
前記制御部は、
前記記憶部に保存した特徴点の3次元位置に関するデータの中から、前記3次元位置の誤差が基準誤差よりも大きな前記特徴点の3次元位置に関するデータを削除可能なデータとして選出する、
付記2から4のいずれか1つに記載の自律移動装置。
(付記6)
前記制御部は、
前記記憶部に保存した画像に関するデータの中から、前記画像を撮影した時の自機の姿勢が近い画像に関するデータを抽出し、
前記抽出した画像に関するデータの中の1つ以外を削除可能なデータとして選出する、
付記2から5のいずれか1つに記載の自律移動装置。
(付記7)
前記制御部は、
前記記憶部に保存した画像に関するデータの中から、前記画像を撮影した時の自機の、位置の差が基準類似判定距離未満かつ向きの差が基準類似判定角度未満の画像に関するデータを、自機の姿勢が近い画像に関するデータとして抽出する、
付記6に記載の自律移動装置。
(付記8)
前記制御部は、
前記記憶部に保存した画像に関するデータの中から、前記画像を撮影した時の自機の位置の差が基準類似判定距離未満であり、かつ、3次元位置が同一の特徴点が基準類似判定点数以上存在する画像に関するデータを、自機の姿勢が近い画像に関するデータとして抽出する、
付記6に記載の自律移動装置。
(付記6)
前記駆動部は移動した距離を計測する距離計測部を備え、
前記制御部は、
前記選出したデータを前記記憶部から削除している間は、前記記憶部に保存した画像に関するデータ及び特徴点の3次元位置に関するデータを用いた自機の位置の推定は行わず、前記距離計測部を用いて自機の位置を計測する、
付記2から8のいずれか1つに記載の自律移動装置。
(付記10)
前記自律移動装置は移動を伴わない動作モードを含む複数の動作モードを持ち、
前記制御部は、
前記選出したデータを前記記憶部から削除する前に、前記動作モードを前記移動を伴わない動作モードに変更する、
付記2から9のいずれか1つに記載の自律移動装置。
(付記11)
前記移動を伴わない動作モードは、充電器に接続して充電を行う充電モードである、
付記10に記載の自律移動装置。
(付記12)
前記自律移動装置は一定の時間後に停止する動作モードを含む複数の動作モードを持ち、
前記制御部は、
前記選出したデータを前記記憶部から削除する前に、前記動作モードを前記一定の時間後に停止する動作モードに変更する、
付記2から11のいずれか1つに記載の自律移動装置。
(付記13)
前記一定の時間後に停止する動作モードは、充電器に帰還する充電器帰還モードである、
付記12に記載の自律移動装置。
(付記14)
前記制御部は、
前記選出したデータを前記記憶部から削除している間は、前記駆動部を停止させて、移動しないようにする、
付記2から13のいずれか1つに記載の自律移動装置。
(付記15)
前記制御部は、
前記選出したデータを前記記憶部から削除した後に、前記記憶部の断片化を解消する、
付記2から14のいずれか1つに記載の自律移動装置。
(付記16)
撮像部で撮影された画像を用いて地図の作成及び位置の推定を行う自律移動装置の記憶部に記憶されているデータを整理するメモリ整理方法であって、
前記撮像部で撮影された画像に関するデータを前記記憶部に保存し、
前記保存した画像に関するデータを複数用いて前記画像中の特徴点の3次元位置を推定し、
前記推定した特徴点の3次元位置に関するデータを前記記憶部に保存し、
前記保存した画像に関するデータ又は特徴点の3次元位置に関するデータのうち削除可能なデータを選出し、
前記選出したデータを前記記憶部から削除する、
メモリ整理方法。
(付記17)
撮像部で撮影された画像を用いて地図の作成及び位置の推定を行う自律移動装置のコンピュータに、
前記撮像部で撮影された画像に関するデータを記憶部に保存し、
前記保存した画像に関するデータを複数用いて前記画像中の特徴点の3次元位置を推定し、
前記推定した特徴点の3次元位置に関するデータを前記記憶部に保存し、
前記保存した画像に関するデータ又は特徴点の3次元位置に関するデータのうち削除可能なデータを選出し、
前記選出したデータを前記記憶部から削除する、
処理を実行させるためのプログラム。
10…制御部、11…SLAM処理部、12…環境地図作成部、13…削除可能データ選出部、14…メモリ整理部、15…メモリ監視部、16…移動制御部、20…記憶部、21…フレームDB、22…Map点DB、23…環境地図記憶部、30…センサ部、31…障害物センサ、41…撮像部、42…駆動部、43…通信部、100,101,102…自律移動装置、301…充電器、302…障害物、303…自由空間、304…不明空間

Claims (18)

  1. 撮像部で撮影された画像を用いて地図の作成及び位置の推定を行う自律移動装置であって、
    記撮像部で撮影された画像に関するデータが保存されるとともに、保存された画像に関するデータを複数用いて推定された前記画像中の特徴点の位置に関するデータが保存される記憶部と
    前記画像中の特徴点の位置を推定する制御部であって、前記記憶部のメモリ使用量が基準容量よりも多いと判定されたときに前記特徴点の位置を推定する処理を停止する制御部と
    を備え、
    前記制御部は、前記記憶部に保存されている前記特徴点の位置に関するデータのうち削除可能なデータを選出するとともに、前記特徴点の位置を推定する処理が行われていないときに前記削除可能なデータを削除する、
    自律移動装置。
  2. 前記制御部は、
    前記撮像部で撮影された画像に関するデータを前記記憶部に保存し、
    前記特徴点の位置に関するデータとして、前記特徴点の3次元位置に関するデータを前記記憶部に保存し、
    前記記憶部に保存した画像に関するデータ及び特徴点の3次元位置に関するデータを用いて自機の位置の推定を行い、
    前記記憶部に保存した画像に関するデータ又は特徴点の3次元位置に関するデータのうち削除可能なデータを選出し、
    前記選出したデータを前記記憶部から削除する、
    請求項1に記載の自律移動装置。
  3. 前記選出したデータを削除する処理は、当該自律移動装置が動いていないときに行う、
    請求項2に記載の自律移動装置。
  4. 前記制御部は複数のスレッドの処理を並列して処理し、前記選出したデータを削除する処理を実行するスレッドは、他のスレッドで前記記憶部を使用していないときに前記削除する処理を実行する、
    請求項2又は3に記載の自律移動装置。
  5. 前記制御部は、
    前記記憶部に保存した特徴点の3次元位置に関するデータの中から、前記3次元位置の誤差が基準誤差よりも大きな前記特徴点の3次元位置に関するデータを削除可能なデータとして選出する、
    請求項2から4のいずれか1項に記載の自律移動装置。
  6. 前記制御部は、
    前記記憶部に保存した画像に関するデータの中から、前記画像を撮影した時の自機の姿勢が近い画像に関するデータを抽出し、
    前記抽出した画像に関するデータの中の1つ以外を削除可能なデータとして選出する、
    請求項2から5のいずれか1項に記載の自律移動装置。
  7. 前記制御部は、
    前記記憶部に保存した画像に関するデータの中から、前記画像を撮影した時の自機の、位置の差が基準類似判定距離未満かつ向きの差が基準類似判定角度未満の画像に関するデータを、自機の姿勢が近い画像に関するデータとして抽出する、
    請求項6に記載の自律移動装置。
  8. 前記制御部は、
    前記記憶部に保存した画像に関するデータの中から、前記画像を撮影した時の自機の位置の差が基準類似判定距離未満であり、かつ、3次元位置が同一の特徴点が基準類似判定点数以上存在する画像に関するデータを、自機の姿勢が近い画像に関するデータとして抽出する、
    請求項6に記載の自律移動装置。
  9. 前記自律移動装置は移動を伴わない動作モードを含む複数の動作モードを持ち、
    前記制御部は、
    前記選出したデータを前記記憶部から削除する前に、前記動作モードを前記移動を伴わない動作モードに変更する、
    請求項2からのいずれか1項に記載の自律移動装置。
  10. 前記移動を伴わない動作モードは、充電器に接続して充電を行う充電モードである、
    請求項に記載の自律移動装置。
  11. 前記自律移動装置は一定の時間後に停止する動作モードを含む複数の動作モードを持ち、
    前記制御部は、
    前記選出したデータを前記記憶部から削除する前に、前記動作モードを前記一定の時間後に停止する動作モードに変更する、
    請求項2から1のいずれか1項に記載の自律移動装置。
  12. 前記一定の時間後に停止する動作モードは、充電器に帰還する充電器帰還モードである、
    請求項1に記載の自律移動装置。
  13. 前記制御部は、
    前記選出したデータを前記記憶部から削除した後に、前記記憶部の断片化を解消する、
    請求項2から1のいずれか1項に記載の自律移動装置。
  14. 自機を移動させる駆動部を更に備え、
    前記制御部は、前記駆動部を制御する、
    請求項1から13のいずれか1項に記載の自律移動装置。
  15. 前記駆動部は移動した距離を計測する距離計測部を備え、
    前記制御部は、
    前記選出したデータを前記記憶部から削除している間は、前記記憶部に保存した画像に関するデータ及び特徴点の3次元位置に関するデータを用いた自機の位置の推定は行わず、前記距離計測部を用いて自機の位置を計測する、
    請求項14に記載の自律移動装置。
  16. 前記制御部は、
    前記選出したデータを前記記憶部から削除している間は、前記駆動部を停止させて、移動しないようにする、
    請求項14又は15に記載の自律移動装置。
  17. 撮像部で撮影された画像を用いて地図の作成及び位置の推定を行う自律移動装置の記憶部に記憶されているデータを整理するメモリ整理方法であって、
    前記撮像部で撮影された画像に関するデータを前記記憶部に保存し、
    前記保存した画像に関するデータを複数用いて前記画像中の特徴点の3次元位置を推定し、
    前記推定した特徴点の3次元位置に関するデータを前記記憶部に保存し、
    前記保存した画像に関するデータ又は特徴点の3次元位置に関するデータのうち削除可能なデータを選出し、
    前記記憶部のメモリ使用量が基準容量よりも多いと判定されたときに前記特徴点の3次元位置を推定する処理を停止し、
    前記特徴点の3次元位置を推定する処理が行われていないときに前記選出したデータを前記記憶部から削除する、
    メモリ整理方法。
  18. 撮像部で撮影された画像を用いて地図の作成及び位置の推定を行う自律移動装置のコンピュータに、
    前記撮像部で撮影された画像に関するデータを記憶部に保存し、
    前記保存した画像に関するデータを複数用いて前記画像中の特徴点の3次元位置を推定し、
    前記推定した特徴点の3次元位置に関するデータを前記記憶部に保存し、
    前記保存した画像に関するデータ又は特徴点の3次元位置に関するデータのうち削除可能なデータを選出し、
    前記記憶部のメモリ使用量が基準容量よりも多いと判定されたときに前記特徴点の3次元位置を推定する処理を停止し、
    前記特徴点の3次元位置を推定する処理が行われていないときに前記選出したデータを前記記憶部から削除する、
    処理を実行させるためのプログラム。
JP2018040393A 2018-03-07 2018-03-07 自律移動装置、メモリ整理方法及びプログラム Active JP7067130B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018040393A JP7067130B2 (ja) 2018-03-07 2018-03-07 自律移動装置、メモリ整理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018040393A JP7067130B2 (ja) 2018-03-07 2018-03-07 自律移動装置、メモリ整理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2019159354A JP2019159354A (ja) 2019-09-19
JP7067130B2 true JP7067130B2 (ja) 2022-05-16

Family

ID=67992574

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018040393A Active JP7067130B2 (ja) 2018-03-07 2018-03-07 自律移動装置、メモリ整理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7067130B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7144491B2 (ja) * 2020-08-19 2022-09-29 三菱ロジスネクスト株式会社 フォークリフト、位置推定方法、及びプログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040167667A1 (en) 2002-12-17 2004-08-26 Goncalves Luis Filipe Domingues Systems and methods for filtering potentially unreliable visual data for visual simultaneous localization and mapping
JP2013164754A (ja) 2012-02-10 2013-08-22 Fujitsu Ltd 画像処理装置、事前情報更新方法及びプログラム
JP2013537995A (ja) 2010-09-24 2013-10-07 エボリューション・ロボティクス・インコーポレイテッド Vslam最適化のためのシステムおよび方法
JP2014016831A (ja) 2012-07-09 2014-01-30 Fujitsu Ltd 更新装置、更新方法、および更新プログラム
JP2017503246A (ja) 2014-09-15 2017-01-26 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 航空機の飛行制御方法及び関連装置
WO2018013754A1 (en) 2016-07-13 2018-01-18 Irobot Corporation Autonomous robot auto-docking and energy management systems and methods
JP2018032105A (ja) 2016-08-22 2018-03-01 富士通株式会社 ストレージシステム、ストレージ制御装置及びデータ格納方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040167667A1 (en) 2002-12-17 2004-08-26 Goncalves Luis Filipe Domingues Systems and methods for filtering potentially unreliable visual data for visual simultaneous localization and mapping
JP2013537995A (ja) 2010-09-24 2013-10-07 エボリューション・ロボティクス・インコーポレイテッド Vslam最適化のためのシステムおよび方法
JP2014222551A (ja) 2010-09-24 2014-11-27 アイロボット・コーポレーション Vslam最適化のための方法
JP2013164754A (ja) 2012-02-10 2013-08-22 Fujitsu Ltd 画像処理装置、事前情報更新方法及びプログラム
JP2014016831A (ja) 2012-07-09 2014-01-30 Fujitsu Ltd 更新装置、更新方法、および更新プログラム
JP2017503246A (ja) 2014-09-15 2017-01-26 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 航空機の飛行制御方法及び関連装置
WO2018013754A1 (en) 2016-07-13 2018-01-18 Irobot Corporation Autonomous robot auto-docking and energy management systems and methods
JP2018032105A (ja) 2016-08-22 2018-03-01 富士通株式会社 ストレージシステム、ストレージ制御装置及びデータ格納方法

Also Published As

Publication number Publication date
JP2019159354A (ja) 2019-09-19

Similar Documents

Publication Publication Date Title
US10108199B2 (en) Autonomous movement device, autonomous movement method and non-transitory recording medium
US11097416B2 (en) Mobile robot system, mobile robot, and method of controlling the mobile robot system
JP7139762B2 (ja) 自律移動装置、自律移動方法及びプログラム
CN107053166B (zh) 自主移动装置、自主移动方法以及存储介质
EP3002656B1 (en) Robot cleaner and control method thereof
KR101776622B1 (ko) 다이렉트 트래킹을 이용하여 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법
JP6323439B2 (ja) 自律移動装置、自律移動方法及びプログラム
US10296002B2 (en) Autonomous movement device, autonomous movement method, and non-transitory recording medium
JP5222971B2 (ja) 歩行ロボット装置及びその制御プログラム
JP6724439B2 (ja) 自律移動装置、自律移動システム、自律移動方法及びプログラム
JP2003269937A (ja) 障害物認識装置、障害物認識方法、及び障害物認識プログラム並びに移動型ロボット装置
KR20180070932A (ko) 이동체 및 이동체의 제어 방법
JP6870574B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP6638753B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP7067130B2 (ja) 自律移動装置、メモリ整理方法及びプログラム
JP7354528B2 (ja) 自律移動装置、自律移動装置のレンズの汚れ検出方法及びプログラム
JP2018156538A (ja) 自律移動装置、画像処理方法及びプログラム
US11865724B2 (en) Movement control method, mobile machine and non-transitory computer readable storage medium
WO2019202878A1 (en) Recording medium, information processing apparatus, and information processing method
JP7225647B2 (ja) 自律移動装置、自律移動方法及びプログラム
JP7327596B2 (ja) 自律移動装置、自律移動装置のレンズの汚れ検出方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220411

R150 Certificate of patent or registration of utility model

Ref document number: 7067130

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150