JP2019185378A - Mobile device and program - Google Patents
Mobile device and program Download PDFInfo
- Publication number
- JP2019185378A JP2019185378A JP2018075242A JP2018075242A JP2019185378A JP 2019185378 A JP2019185378 A JP 2019185378A JP 2018075242 A JP2018075242 A JP 2018075242A JP 2018075242 A JP2018075242 A JP 2018075242A JP 2019185378 A JP2019185378 A JP 2019185378A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- image
- data
- change
- replacement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000008859 change Effects 0.000 claims abstract description 57
- 238000003860 storage Methods 0.000 claims abstract description 38
- 238000000034 method Methods 0.000 claims description 80
- 230000008569 process Effects 0.000 claims description 76
- 238000012795 verification Methods 0.000 claims description 52
- 238000004458 analytical method Methods 0.000 claims description 3
- 238000003384 imaging method Methods 0.000 abstract description 21
- 230000007423 decrease Effects 0.000 description 18
- 238000004140 cleaning Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 9
- 230000002441 reversible effect Effects 0.000 description 9
- 230000002427 irreversible effect Effects 0.000 description 8
- 238000012545 processing Methods 0.000 description 7
- 239000003550 marker Substances 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000006866 deterioration Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000032683 aging Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000001000 micrograph Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 208000036829 Device dislocation Diseases 0.000 description 1
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 239000000428 dust Substances 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 229910001416 lithium ion Inorganic materials 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000004745 nonwoven fabric Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 229910001220 stainless steel Inorganic materials 0.000 description 1
- 239000010935 stainless steel Substances 0.000 description 1
Images
Landscapes
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
Description
本発明は、移動装置及びプログラムに関する。 The present invention relates to a mobile device and a program.
自走する装置が知られている。例えば特許文献1には、予め設定された走行エリアの種類に応じて、認識用マーカを画像認識して移動するマーカモードと、教示経路に沿って移動する経路モードとを切り替えるとともに、経路モードからマーカモードに切り替える際に、認識用マーカを撮像したカメラフレームの中心に認識用マーカが位置するように教示経路の終端を位置調整することが記載されている。
Self-propelled devices are known. For example, in
本発明は、構造体の表面に沿って自走する装置において、構造体の表面が経年劣化した場合であっても、位置特定のために用いられる照合用データを差し替えない場合に比べて、自走における位置の特定を行い易くすることを目的とする。 The present invention is a self-propelled device along the surface of the structure, even when the surface of the structure has deteriorated over time, compared to the case where the verification data used for position identification is not replaced. The purpose is to make it easier to specify the position in running.
本発明の請求項1に係る移動装置は、構造体の表面に沿って自装置を移動させる移動手段と、前記表面のうち自装置と特定の位置関係がある部分を撮影する撮影手段と、前記撮影手段から出力される画像データを、予め登録された位置毎の照合用データと比較することにより、自装置の位置を特定する特定手段と、前記撮影手段から出力された画像データの前記照合用データに対する画像の変化の態様が予め定められた条件を満たす場合に、前記照合用データを該画像データで差し替える差替手段とを有することを特徴とする。
The moving device according to
本発明の請求項2に係る移動装置は、請求項1に記載の構成において、前記撮影手段から出力される画像データの履歴を位置毎に蓄積する蓄積手段を更に有し、前記差替手段は、前記画像データの履歴を解析し、解析結果により特定される前記表面の画像の変化の態様が予め定められた条件を満たす場合に、差替処理を行うことを特徴とする。 According to a second aspect of the present invention, there is provided a mobile apparatus according to the first aspect, further comprising a storage unit that stores, for each position, a history of image data output from the photographing unit, and the replacement unit includes: The image data history is analyzed, and the replacement process is performed when the change state of the surface image specified by the analysis result satisfies a predetermined condition.
本発明の請求項3に係る移動装置は、請求項1又は2に記載の構成において、前記差替手段は、前記表面の画像の変化の態様が予め定められた条件を満たす場合、直前の比較処理で用いられた第1画像データの表す画像内の異なる部分、又は当該第1画像データが撮影された位置と異なる位置に自装置が移動した後に撮影された第2画像データと前記異なる部分又は位置の照合用データとの比較処理を再度実行し、該比較処理の結果が該条件を満たさない場合、前記第1画像データを用いて差替処理を行うことを特徴とする。 According to a third aspect of the present invention, there is provided the mobile device according to the first or second aspect, wherein the replacement means compares the immediately preceding comparison when the mode of change of the image on the surface satisfies a predetermined condition. A different part in the image represented by the first image data used in the process, or the different part from the second image data photographed after the device moved to a position different from the position where the first image data was photographed, or The comparison process with the position collation data is executed again, and if the result of the comparison process does not satisfy the condition, the replacement process is performed using the first image data.
本発明の請求項4に係る移動装置は、請求項1又は2に記載の構成において、前記撮影手段から出力される画像データの履歴を位置毎に蓄積する蓄積手段を更に有し、前記差替手段は、前記画像データの履歴を解析し、該画像データの表す画像の予め定められた時間における変化量が予め定められた閾値より大きい場合、前記照合用データの差替処理を行わないことを特徴とする。 According to a fourth aspect of the present invention, there is provided the mobile apparatus according to the first or second aspect, further comprising an accumulation unit that accumulates, for each position, a history of image data output from the photographing unit, and the replacement The means analyzes the history of the image data, and if the amount of change in the image represented by the image data at a predetermined time is larger than a predetermined threshold, the replacement processing of the verification data is not performed. Features.
本発明の請求項5に係る移動装置は、請求項1、2又は4に記載の構成において、前記
撮影手段から出力される画像データの履歴を位置毎に蓄積する蓄積手段を更に有し、前記差替手段は、前記画像データの履歴を解析し、該画像データの表す画像の変化が予め定められた時間経過しても戻らなかった場合に、前記照合用データの差替処理を行うことを特徴とする。
A mobile device according to a fifth aspect of the present invention is the mobile device according to the first, second, or fourth aspect, further comprising storage means for storing the history of the image data output from the photographing means for each position, The replacement means analyzes the history of the image data, and performs a replacement process of the verification data when the change in the image represented by the image data does not return even after a predetermined time has elapsed. Features.
本発明の請求項6に係るプログラムは、コンピュータに、構造体の表面に沿って自装置を移動させるステップと、前記表面のうち自装置と特定の位置関係がある部分を撮影する撮影手段から出力される画像データを、予め登録された位置毎の照合用データと比較することにより、自装置の位置を特定するステップと、前記撮影手段から出力された画像データの前記照合用データに対する画像の変化の態様が予め定められた条件を満たす場合に、前記照合用データを該画像データで差し替えるステップとを実行させるためのプログラムであることを特徴とする。
The program according to
請求項1及び6に係る発明によれば、構造体の表面に沿って自走する装置において、構造体の表面が経年劣化した場合であっても、位置特定のために用いられる照合用データを差し替えない場合に比べて、自走における位置の特定を行い易い。
請求項2に係る発明によれば、移動装置が走行する構造体の表面が経年劣化した場合であっても、照合用データを差し替えない場合に比べて、自走における位置把握を行い易い。
請求項3に係る発明によれば、位置ズレが生じているのではなく構造体の表面が経年劣化により変化していることにより画像が変化している旨が把握される。
請求項4に係る発明によれば、構造体の表面の変化が可逆変化である場合等における照合用データの不要な差し替えを抑制することができる。
請求項5に係る発明によれば、構造体の表面が経年劣化している場合等であっても、自走における位置把握の精度の低下を抑制することができる。
According to the invention which concerns on
According to the second aspect of the present invention, even when the surface of the structure on which the mobile device travels deteriorates over time, it is easier to grasp the position in self-running than when the verification data is not replaced.
According to the third aspect of the present invention, it can be understood that the image has changed because the surface of the structure has changed due to aging rather than the occurrence of positional deviation.
According to the invention which concerns on
According to the invention which concerns on
[1]構成
図1は、一実施形態に係る移動装置10の機能構成を例示する図である。移動装置10は、自律して移動する(自走する)装置である。移動装置10は、自走するものであればその形状はどのようなものであってもよく、例えば人間型であってもよいし、人間とは異なる形状を有していてもよい。移動装置10は、移動手段11、撮影手段12、特定手段13、差替手段14、及び蓄積手段15を有する。
[1] Configuration FIG. 1 is a diagram illustrating a functional configuration of a
移動手段11は、構造体の表面に沿って移動装置10を自律移動させる。自律移動とは、人間からの詳細な命令無しに装置自身が判断をして移動することをいう。構造体は、移動装置10がその表面に沿って移動可能な物体を示し、例えば、建物、道路、又は地面である。構造体の表面は、移動装置10が走行する面(以下「走行面」という)であり、例えば、屋内の床面、屋外の道路、及び屋内の壁面である。移動手段11は、例えば、車輪、ホバリング、及びプロペラである。この実施形態では、移動手段11は移動装置10を自律移動させる。
The moving means 11 autonomously moves the
撮影手段12は、構造体の表面のうち移動装置10と特定の位置関係がある部分を撮影する。特定手段13は、撮影手段12から出力される画像データを、予め記憶手段16に記憶された位置毎の照合用データと比較することにより、移動装置10の位置を特定する。照合用データは、構造体の表面の位置毎の画像又は画像の特徴を表すデータである。照合用データは、例えば、床の表面の微細な凹凸のパターン(以下「ランダムパターン」という)を表すデータである。ランダムパターンを用いた照合処理としては、例えば、特開2005−10581号公報に記載されている手法が用いられる。
The imaging unit 12 images a portion of the surface of the structure that has a specific positional relationship with the
ランダムパターンは、例えば、不織布表面の顕微鏡写真により確認される、繊維が複雑に絡み合ってできたパターン、又は、ステンレス鋼材表面の顕微鏡写真により確認されるパターンである。ランダムパターンは、意図的に作られたものではなく、物品そのものの成り立ち、製造工程、或いは製造後などに不作為にできたものであり、そのパターンが全く同じである物品が複数存在するとは考え難い。また、同一のものを故意に作り出すことは困難と思われる。すなわち、同一の工程を経て製造・物流された物品であっても、微視的には、物品毎にランダムパターンが異なる。この実施形態では、ランダムパターンを用いた照合処理により、自律移動における位置把握が行われる。 The random pattern is, for example, a pattern formed by intertwining fibers in a complex manner confirmed by a micrograph on the surface of the nonwoven fabric, or a pattern confirmed by a micrograph on the surface of the stainless steel material. Random patterns are not intentionally created, but are randomized in the formation of the product itself, in the manufacturing process, or after manufacturing, and it is unlikely that there are multiple products with the same pattern. . Also, it seems difficult to deliberately create the same thing. That is, even if the article is manufactured and distributed through the same process, the random pattern is microscopically different for each article. In this embodiment, the position grasp in autonomous movement is performed by the collation process using a random pattern.
差替手段14は、撮影手段12から出力された画像データの照合用データに対する画像の変化の態様が予め定められた条件を満たす場合に、照合用データを撮影手段12から出力された画像データで差し替える処理を行う。
The
蓄積手段15は、撮影手段12から出力される画像データの履歴を位置毎に記憶手段16に蓄積する。記憶手段16はまた、マップ情報を記憶する。マップ情報は、移動装置10が移動可能な範囲の地図を示す情報である。
The accumulating
図2は、移動装置10のハードウェア構成を例示する図である。プロセッサ101は、移動装置10の他の要素を制御するプロセッサである。メモリ102は、プロセッサ101がプログラムを実行するためのワークエリアとして機能する記憶装置であり、例えばRAM(Random Access Memory)を含む。ストレージ103は各種のプログラム及びデータを記憶する記憶装置であり、例えば、SSD(Solid State Drive)又はHDD(Hard Disk Drive)を含む。通信IF104は、予め定められた無線又は有線の通信規格(例えば、Wi−Fi(登録商標)、Bluetooth(登録商標)、又はイーサネット(登録商標))に従って他の装置と通信を行う。
FIG. 2 is a diagram illustrating a hardware configuration of the
駆動系105は、構造体の表面(床面、道路、等)に沿って移動装置10を移動させるための機構である。駆動系105は例えば、複数のホイール、これらのホイールに取り付けられたタイヤ、これらのホイールを駆動するためのモーター、これらのホイールの向きを変える機構を含む。撮影部106は、移動装置10が走行する走行面を撮影する。撮影部106は例えば、ステレオカメラ及び熱画像カメラの少なくとも1つを含む。電池107は、プロセッサ101及び駆動系105等の他の要素を駆動するための電力を供給するものであり、例えばリチウムイオン電池である。光源109は撮影部106により撮影される走行面に光を照射する。筐体108はプロセッサ101〜電池107、光源109等
の他の要素を収容及び保持するものである。
The
また、この例で、ストレージ103は、駆動系105を制御して移動装置10を自律移動させるためのプログラム(以下「自律移動プログラム」という)を記憶する。プロセッサ101がこのプログラムを実行することにより、図1に示した機能が移動装置10に実装される。ストレージ103は記憶手段16の一例である。駆動系105は移動手段11の一例である。撮影部106は撮影手段12の一例である。移動制御プログラムを実行しているプロセッサ101は、特定手段13、差替手段14、及び蓄積手段15の一例である。
In this example, the
さらに、この例で、ストレージ103は、移動装置10が移動可能な領域や指定された移動経路を示すマップ情報を記憶する。自律移動プログラムは、このマップ情報を参照して自律移動を行う。また、ストレージ103は、画像データの照合処理における一致率の履歴を示す履歴データが蓄積される。この照合処理については後述する。
Further, in this example, the
図3は、撮影部106の設置位置を例示する図である。図3の例で、撮影部106は、移動装置10の底面に設けられ、移動装置10が移動する走行面のうち、移動装置10と特定の位置関係がある部分を撮影する。例えば、移動装置10の真下に位置する走行面が撮影部106により撮影される。光源109は走行面に対し斜め方向(垂直でない方向)から光を照射する位置に設けられている。例えば、光源109は走行面に対し入射角が20度〜80度の範囲内となる方向で光を照射する。
FIG. 3 is a diagram illustrating the installation position of the
図4は、移動装置10の本実施形態に係る機能構成を例示する図である。図において、位置特定部111は、オドメトリ情報及びマップ情報を用いて自装置の位置及び方位(向き)を特定する。蓄積画像検索部112は、画像蓄積部113から、位置特定部111により特定された位置及び方位に対応する照合用データを検索する。画像蓄積部113には、走行面の画像に対応する照合用データが蓄積されている。
FIG. 4 is a diagram illustrating a functional configuration according to this embodiment of the
画像比較部114は、撮影部106により撮影された画像を表す画像データと、蓄積画像検索部112により検索された照合用データとを比較し、予定位置に対するずれ情報(位置/方向)を、走行制御部115に供給する。走行制御部115は、画像比較部114から供給されるずれ情報にしたがって、駆動系105にモーター制御情報を供給し、駆動系105による移動装置10の走行を制御する。走行制御部115は例えば、自装置の実際の位置が予定位置からずれている場合、駆動系105を制御し、自装置の位置と予定位置とのずれがなくなる方向に自装置をずれ情報の示す距離だけ移動させたり、自装置の移動速度を変更したりする。
The
画像比較部114はまた、判定結果を走行履歴管理部116に供給する。走行履歴管理部116は、画像比較部114から供給される判定結果に従い、画像更新部117に更新要求を供給する。画像更新部117は、走行履歴管理部116から供給される更新要求に従い、画像蓄積部113に蓄積されている照合用データを更新する。
The
移動装置10のプロセッサ101(図2参照)がストレージ103に記憶されたプログラムを実行することにより、図4に示される、位置特定部111、蓄積画像検索部112、画像比較部114、走行制御部115、走行履歴管理部116、及び画像更新部117が移動装置10に実装される。また、位置特定部111、蓄積画像検索部112、及び画像比較部114は、図1の特定手段13の例である。走行履歴管理部116及び画像更新部117は、図1の差替手段14及び蓄積手段15の例である。
When the processor 101 (see FIG. 2) of the
2.動作
図5は、移動装置10の動作の流れを例示するフローチャートである。ステップS101において、移動装置10のプロセッサ101は、ストレージ103に記憶されているマップ情報の表す経路に沿って移動するよう駆動系105を制御することにより、ルート走行を行う。
2. Operation FIG. 5 is a flowchart illustrating an operation flow of the
図6は、マップ情報の内容を例示する図である。マップ情報は、複数の地点(図6のA地点、B地点、及びC地点)を示す情報を含む。複数の地点は、自律移動のスタート地点(A地点)、及び最終目的地(C地点)に加えて、1又は複数の目的地(B地点)を含む。図6の例では、移動装置10は、A地点、B地点、C地点の順に走行面上を移動する。
FIG. 6 is a diagram illustrating the contents of the map information. The map information includes information indicating a plurality of points (A point, B point, and C point in FIG. 6). The plurality of points include one or more destinations (points B) in addition to the start point (point A) and the final destination (point C) of autonomous movement. In the example of FIG. 6, the moving
移動装置10は、オドメトリ情報とマップ情報とを組み合わせて自装置の位置を推定しつつ移動する。オドメトリは、車輪型移動ロボットにおける車輪やステアリングの回転角度の計算から、それぞれの移動量を求め、その累積計算からロボットの位置を推定する手法の総称である。オドメトリ情報は、オドメトリにおいて位置を推定するために用いられる情報の総称である。
The moving
図5の説明に戻る。移動装置10はオドメトリ情報とマップ情報とを組み合わせて自装置の位置を推定しつつ移動する。移動装置10は、オドメトリ情報とマップ情報とにより推定される自装置の位置が、経路の途中に設定されている目的地に到達すると(ステップS102)、ステップS103の処理に進む。
Returning to the description of FIG. The moving
ステップS103において、移動装置10は、撮影部106から出力される画像データ(撮影された走行面の画像を表す画像データ)を、ストレージ103に登録されている照合用データと照合する。この例で、移動装置10のプロセッサ101は、撮影部106により読み取られたランダムパターンの特徴量を抽出し、抽出された特徴量をストレージ103に記憶された位置毎の照合用データと照合する。ランダムパターンの特徴抽出には、従来公知の技術を採用することができ、例えば、特開2005−10581号公報に記載の手法が用いられる。ステップS103の照合結果(抽出された特徴量と照合用データの特徴量との一致率)を示すデータが、履歴データとしてストレージ103に蓄積される。
In step S <b> 103, the
ステップS104において、プロセッサ101は、抽出された特徴量と照合用データの特徴量との一致率が予め定められた閾値より高いかを判定する。一致率が閾値よりも高い場合(ステップS104;Y)、プロセッサ101はステップS105の処理に進む。一方、一致率が閾値以下である場合(ステップS104;N)、プロセッサ101はステップS111の処理に進む。
In step S104, the
ステップS105において、プロセッサ101は、照合結果から現在位置を算出する。このように、撮影部106から出力される画像データが、予め登録された位置毎の照合用データと比較されることにより、移動装置10の位置が特定される。ステップS106において、プロセッサ101は、ストレージ103に蓄積されている一致率の履歴を参照し、一致率の低下の度合い(傾き)が予め定められた閾値よりも大きいかを判定する。一致率の傾きが閾値より大きい(一致率の低下の度合いが小さい)場合(ステップS106;Y)、プロセッサ101はステップS107の処理に進む。一方、一致率の低下の度合いが閾値以下である(一致率が極端に低下している)場合(ステップS106;N)、プロセッサ101はステップS110の処理に進む。
In step S105, the
ステップS107において、プロセッサ101は最終目的地に到達したかを判定する。最終目的地に到達した場合(ステップS107;Y)、プロセッサ101は処理を終了する。一方、最終目的地に到達していない場合(ステップS107;N)、プロセッサ101はステップS101の処理に戻り、ルート走行を継続する。
In step S107, the
また、上述したように、ステップS106において、一致率の低下の度合いが閾値以下である場合(ステップS106;N)、プロセッサ101はステップS110の処理に進む。ステップS110において、プロセッサ101は撮影部106により撮影されたランダムパターンを照合用データの置換候補として保持する。ステップS110の処理を終えると、プロセッサ101はステップS116の処理に進む。
Further, as described above, when the degree of decrease in the matching rate is equal to or smaller than the threshold value in step S106 (step S106; N), the
また、上述したように、ステップS104において、撮影された画像データから抽出された特徴量と照合用データの特徴量との一致率が閾値以下である場合(ステップS104;N)、プロセッサ101はステップS111の処理に進む。ステップS111において、プロセッサ101は、撮影部106により撮影された画像データを、照合用データの置換候補として保持する。
Further, as described above, when the matching rate between the feature amount extracted from the captured image data and the feature amount of the verification data is equal to or less than the threshold value (step S104; N), the
ステップS112において、プロセッサ101は駆動系105を制御して次の目的地まで移動する。次の目的地に到着すると、ステップS113において、プロセッサ101は、撮影部106を制御して走行面を撮影させる。ステップS114において、撮影部106により撮影された画像データの特徴量とその位置(目的地)に対応付けられた照合用データの特徴量とを照合する。
In step S112, the
ステップS115において、プロセッサ101は、ステップS114の照合における一致率が閾値より大きいかを判定する。一致率が閾値より大きい場合(ステップS115;Y)、プロセッサ101はステップS116の処理に進む。一方、一致率が閾値以下である場合(ステップS115;N)、プロセッサ101はステップS118の処理に進む。
In step S115, the
ステップS116において、プロセッサ101は、予め定められた判定条件に従い、照合用データの差替処理を行う。この実施形態では、プロセッサ101は、撮影部106から出力された画像データの照合用データに対する画像の変化の態様が予め定められた条件を満たす場合に、照合用データを、撮影部106から出力された画像データで差し替える処理を行う。
In step S116, the
図7は、照合用データの再登録処理(差替処理)の内容を例示する図である。図7では、「Case1」から「Case6」の6つのケースが例示されている。図において、「No.」の項目は、「Case1」から「Case6」の6つのケースを識別する項目である。「画像一致率の閾値に対する判定結果」の項目は、図5のステップS104又はステップS115の判定結果を示す項目である。この項目において「OK」は、ステップS104又はステップS115の判定結果が「Y」である旨を示す。一方、この項目において「NG」は、ステップS104又はステップS115の判定結果が「N」である旨を示す。
FIG. 7 is a diagram illustrating the contents of the re-registration process (replacement process) of the verification data. In FIG. 7, six cases “
「傾きの閾値に対する判定結果」の項目は、図5のステップS106の判定結果を示す項目である。この項目において「OK」は、ステップS106の判定結果が「Y」である旨を示す。一方、この項目において「NG」は、ステップS106の判定結果が「N」である旨を示す。 The item “judgment result for inclination threshold” is an item indicating the judgment result of step S106 in FIG. In this item, “OK” indicates that the determination result in step S106 is “Y”. On the other hand, “NG” in this item indicates that the determination result in step S106 is “N”.
「清掃した場合の画像一致率」の項目は、走行面が清掃されるタイミングで一致率が上昇した(復帰した)かを示す。この動作例では、予め定められたタイミング(例えば、毎日6時、12時、18時、の1日3回、等)で走行面の清掃が行われ、清掃が行われるタイミングが移動装置10に予め登録されている。「一致率低下の要因」の項目は、一致率が低下した要因として考えられる事項を示す。「処理」の項目は、それぞれのケースにおいて実行される処理を示す。「備考」の項目には、補足説明が記載されている。
The item “image coincidence rate when cleaned” indicates whether the coincidence rate has increased (returned) at the timing when the traveling surface is cleaned. In this operation example, the traveling surface is cleaned at a predetermined timing (for example, every day at 6 o'clock, 12 o'clock, 18 o'clock, 3 times a day, etc.), and the timing at which the cleaning is performed is given to the
図5のステップS106の判定結果が「Y」である場合は、図7の「Case1」が該当する。すなわち、「Case1」の場合、照合における特徴量の一致率は閾値以上であり、かつ、一致率の傾きが閾値以上である。一方、図5のステップS106の判定結果が「N」である場合は、図7の「Case2」、「Case3」又は「Case4」が該当する。すなわち、「Case2」、「Case3」又は「Case4」の場合、照合における特徴量の一致率は閾値以上であり、かつ一致率の傾きが閾値未満である。
When the determination result of step S106 in FIG. 5 is “Y”, “
図8は、「Case1」の場合の一致率の変化のパターンを例示するグラフである。図において、横軸は時刻を示し、縦軸は一致率を示す。図8の例では、一致率は時間が経過するにつれて低下していくものの、走行面が清掃される毎に上昇しており、一致率が閾値を下回ることはない。一致率が時間の経過に伴って低下するのは、例えば、走行面がゴミで汚れる場合等がある。「Case1」の場合、照合用データの再登録処理(図5のステップS116の処理)は行われない。
FIG. 8 is a graph illustrating a pattern of change in the match rate in the case of “
図9及び図10は、「Case2」の場合の一致率の変化のパターンを例示するグラフである。図において、横軸は時刻を示し、縦軸は一致率を示す。図9の例では、一致率は徐々に低下し、清掃後にも一致率が上昇しない(復帰しない)。また、図10の例では、一致率は徐々に低下し、清掃のタイミングにおいて復帰するが、長期的にみて徐々に一致率が低下している。図9又は図10のように一致率が徐々に低下していく例としては、例えば、少しずつ走行面が計時変化していることが考えられる。「Case2」の場合、プロセッサ101は、一致率が(1+閾値)/2 以下となったタイミングT91又はT101(以下「半減期」という)で、照合用データを新たに撮影された走行面の画像データで差し替える処理(図5のステップS116の処理)を行う。
FIG. 9 and FIG. 10 are graphs illustrating the change pattern of the matching rate in the case of “
図11は「Case3」又は「Case4」の場合の一致率の変化のパターンを例示するグラフである。図において、横軸は時刻を示し、縦軸は一致率を示す。図11の例では、一致率は時刻が経過するにつれて低下し、また、一致率の傾きの値が小さく(傾きの絶対値が大きく)、次の清掃タイミングまでに一致率が閾値を下回ってしまうと推定される。この動作例で、一致率の傾きは例えば、図11のタイミングT111の一致率から現在時刻T112の一致率を減算した値を、タイミングT111から現在時刻T112までの経過時間で除算することにより求められる。また、この動作例で、傾きの閾値は例えば、タイミングT111の一致率から一致率の閾値を減算した値を、清掃間隔の時間で除算することにより求められる。
FIG. 11 is a graph exemplifying a change pattern of the coincidence rate in the case of “
「Case3」は、走行面が清掃されると一致率が復帰するケースを示す。一方、「Case4」は、走行面が清掃されても一致率が復帰しないケースを示す。「Case3」又は「Case4」の場合、プロセッサ101は、一致率が(1+閾値)/2 以下となったタイミングで、照合用データを新たに撮影された走行面の画像データで差し替える処理を行う。このように、この動作例では、一致率の傾きがNGとなった時点では、清掃後に、画像の一致率が復帰するかどうかは分からないため、一致率が次の清掃タイミングまでに閾値を下回ってしまうと予測されるタイミング(例えば、半減期)で、照合用データの再登録処理(差替処理)が行われる。
“
図12は、「Case5」の場合の一致率の変化のパターンを例示するグラフである。図において、横軸は時刻を示し、縦軸は一致率を示す。図12の例では、一致率は時刻が経過するにつれて低下し、かつ、時刻T51において急に低下して閾値を下回っている。しかしながら、低下した一致率は、清掃のタイミングにおいて復帰し、閾値以上の値に戻っている。このように一致率があるタイミングで低下するのは、例えば、走行面が著しくゴミで汚れた、等が考えられる。「Case5」の場合、照合用データの再登録処理(図
5のステップS116の処理)が行われる。
FIG. 12 is a graph exemplifying a change pattern of the matching rate in the case of “
図13は「Case6」の場合の一致率の変化のパターンを例示するグラフである。図において、横軸は時刻を示し、縦軸は一致率を示す。図13の例では、一致率は時刻が経過するにつれて低下し、かつ、時刻T61において低下して閾値を下回っている。また、低下した一致率は、清掃のタイミングでも復帰していない。「Case6」は例えば、走行面に大きなキズがついた場合等、走行面が変化(劣化)したことが考えられる。「Case6」の場合、照合用データの再登録処理(図5のステップS116の処理)が行われる。
FIG. 13 is a graph illustrating an example of a change rate of the matching rate in the case of “
図5の説明に戻る。ステップS116において、プロセッサ101は、図7に例示した判定条件に従い、ステップS103の照合処理で用いられた画像データで、ステップS102の位置に対応する照合用データを差し替える処理を行う。ステップS116の処理を終えると、プロセッサ101はステップS117の処理に進む。ステップS117において、プロセッサ101は、照合用データの変更履歴をストレージ103に保存する。ステップS117の処理を終えると、プロセッサ101はステップS107の処理に進む。
Returning to the description of FIG. In step S116, the
図14は、変更履歴の内容を例示する図である。図14の例では、変更履歴は、「目的地」、「位置情報」、「更新日時」、及び「照合用データ」の各項目が互いに関連付けて記憶される。これらの項目のうち、「目的地」の項目は、「目的地1」、「目的地2」など、目的地を識別する識別情報が格納される。「位置情報」の項目には、その照合用データに対応する走行面の位置情報が格納される。「更新日時」の項目には、照合用データが変更された日時を示す情報が格納される。「照合用データ」の項目には、照合用データの変更履歴として、変更された照合用データ(又は照合用データの格納先アドレス)が格納される。
FIG. 14 is a diagram illustrating the contents of the change history. In the example of FIG. 14, the change history stores items of “Destination”, “Position information”, “Update date / time”, and “Verification data” in association with each other. Among these items, the “destination” item stores identification information for identifying the destination such as “
図5の説明に戻る。ステップS115において、一致率が閾値以下である場合(ステップS115;N)、プロセッサ101はステップS118の処理に進む。ステップS118において、プロセッサ101は移動装置10(自装置)を停止させる。ステップS119において、プロセッサ101は照合用データの再登録をユーザに推奨する処理を実行する。この処理は、例えば、音声メッセージや警告音が出力されてもよい。ステップS119の処理を終えるとプロセッサ101は処理を終了する。
Returning to the description of FIG. In step S115, when the coincidence rate is equal to or less than the threshold (step S115; N), the
ところで、走行面が経年劣化等により変化した場合、予め撮影されて登録されている照合用データと、移動装置10の撮影部106により撮影された走行面の画像データとの一致率が低いと、走行位置が認識されない場合がある。食い違いの原因としては、例えば、通常の清掃で復帰可能な汚れである場合もあり、また、通常の清掃では復帰できない汚れや、床へのダメージによる場合もある。この実施形態では、照合結果を示す一致率が閾値よりも低い場合等に、新たに撮影された走行面の画像データが照合用データとして再登録される。これにより、走行面の経年劣化等により照合がなされなくなってしまうことが抑制される。
By the way, when the running surface has changed due to aging or the like, if the matching rate between the pre-photographed and registered verification data and the running surface image data taken by the photographing
また、この実施形態では、図5のステップS104、ステップS111乃至S116に示されるように、不可逆または可逆変化が予め定められた値より大きい場合は(図5のステップS104;N)、移動装置10は、他の位置(次の目的地)へ移動し(ステップS112)、移動後の位置の画像データ(第2画像データ)を取得し直してから(ステップS113)、照合処理(比較処理)を再度実行し(ステップS114)、移動後の照合処理に成功した場合(ステップS115;Y)、直前の照合処理(ステップS103)で用いられた画像データ(第1画像データ)で、その画像データに対応する位置の照合用データの差替処理を行う(ステップS116)。
In this embodiment, as shown in Step S104 and Steps S111 to S116 in FIG. 5, when the irreversible or reversible change is larger than a predetermined value (Step S104; N in FIG. 5), the
ここで、図6を参照しつつ具体的な動作例を説明する。図6の例において、A地点、B地点、C地点の照合用データが予め登録されており、移動装置10がA→B→Cの順に移動する場合を考える。A地点では、A地点で撮影された画像とデータベースに登録されているA地点の照合用データとの一致率は、閾値を上回っている。一方、B地点では、B地点で撮影された画像とデータベースに登録されているB地点の照合用データの一致率が低下し、閾値を下回っている。また、C地点で撮影された画像とデータベースに登録されているC地点の照合用データとの一致率は、閾値を上回っている。この場合、通過点であるB地点の走行面は、経年変化していると判断され、今回撮影された画像に置き換えられる。
B地点での一致率の低下の要因としては、(1)位置ズレ、以外に、(2)走行面の経年劣化等によるものが考えられる。その先のC地点での一致率の結果を用いることで、前者(1)の要因がないことが示された場合に、後者(2)の要因であることが分かる。例えば、移動装置10は、B地点において照合用データとの一致率が低い場合、B地点にいるという確証が得られない。この場合であっても前述のとおり、オドメトリ情報を用いてさらにC地点と想定される地点に移動し、C地点の照合用データとの一致率が高いという結果が得られれば、事後的に、B地点にいるという認識は正しかったということが分かる。つまりB地点において一致率が低かったのは、位置を誤ったことによるものではなく、走行面の経年劣化等により照合がなされなくなってしまったということが分かる。
なお、移動装置10は、A地点からB地点に移動する場合もオドメトリ情報を用いて移動している。
Here, a specific operation example will be described with reference to FIG. In the example of FIG. 6, a case is considered in which data for collation of points A, B, and C is registered in advance, and the
As a factor of the decrease in the coincidence rate at the point B, in addition to (1) positional deviation, (2) aged deterioration of the running surface, etc. can be considered. By using the result of the coincidence rate at the point C ahead, if it is shown that there is no cause for the former (1), it can be seen that it is the cause for the latter (2). For example, the
Note that the moving
このように、前回の照合処理(図5のステップS103の照合処理)で一致率が閾値以下であったものの、今回の照合処理(図5のステップS114の照合処理)で一致率が閾値より大きかった場合、経路は正しかったとみなされ、前回の照合処理で用いられたランダムパターンに対応する走行面に、経年劣化が生じているとみなされる。そのため、照合用データが新たに撮影されたランダムパターンのデータに差し替えられ(ステップS116)、次回以降の照合処理においては、このランダムパターンのデータが照合用データとして用いられる。このように複数の位置の照合結果を用いて差替を行うか否かの判定が行われることにより、差替処理が不要に行われることが抑制される。 Thus, although the matching rate was equal to or less than the threshold in the previous matching process (the matching process in step S103 in FIG. 5), the matching rate was greater than the threshold in the current matching process (the matching process in step S114 in FIG. 5). In this case, the route is considered to be correct, and it is considered that the running surface corresponding to the random pattern used in the previous matching process has deteriorated over time. For this reason, the verification data is replaced with newly captured random pattern data (step S116), and the random pattern data is used as verification data in the subsequent verification processing. As described above, the determination as to whether or not to perform replacement is performed using the collation results of a plurality of positions, thereby suppressing the replacement process from being performed unnecessarily.
[3]変形例
上述した実施形態は、本発明の実施の一例に過ぎず、以下のように変形させてもよい。また、上述した実施形態及び以下に示す各変形例は、必要に応じて組み合わせて実施されてもよい。
[3] Modifications The above-described embodiments are merely examples of the present invention, and may be modified as follows. Moreover, embodiment mentioned above and each modification shown below may be combined and implemented as needed.
(1)上述の実施形態において、走行面に生じた変化が不可逆変化であるか可逆変化であるかによって差替処理を行うか否かを判定してもよい。例えば、撮影部106により撮影された画像データの履歴(又は照合結果を示す一致率の履歴)がストレージ103に蓄積され、プロセッサ101が、蓄積された画像データの履歴(又は一致率の履歴)を解析してもよい。この場合、プロセッサ101は、解析結果により特定される走行面の画像の変化の態様が予め定められた条件を満たす場合に、照合用データの差替処理を行う。例えば、履歴を解析することにより走行面に不可逆変化が起きたと推定される場合には差替処理が行われる一方、可逆変化の場合は差替処理が行われないように制御されてもよい。走行面に生じた変化が不可逆変化であるか可逆変化であるかは、例えば、走行面の清掃のタイミングで一致率が向上した(復帰した)か否かにより判定されてもよい。すなわち、走行面の清掃のタイミングで一致率が復帰した場合、可逆変化であったと判定される一方、清掃のタイミングでも一致率が復帰しなかった場合、不可逆変化であると判定されてもよい。
(1) In the above-described embodiment, whether or not the replacement process is performed may be determined based on whether the change that has occurred on the traveling surface is an irreversible change or a reversible change. For example, a history of image data captured by the imaging unit 106 (or a history of matching rate indicating a matching result) is stored in the
また、画像データの履歴(又は一致率の履歴)がストレージに蓄積される場合において、複数の移動装置10の履歴が共通のストレージに蓄積されてもよい。すなわち、複数の移動装置10の自走において撮影された画像データ(又は照合結果)が、走行面の位置毎に共通のストレージに蓄積され、蓄積された画像データが解析されることにより、照合用データの差替処理を行うか否かが判定されてもよい。
Further, when image data histories (or coincidence rate histories) are accumulated in the storage, histories of a plurality of
(2)また、上述の実施形態において、プロセッサ101が、走行面に生じた変化が不可逆変化であるか可逆変化であるかを推定し、可逆変化であると推定される場合に、差替処理を行わないように制御してもよい。可逆変化であるかの判定は、例えば、プロセッサ101が、過去の履歴に基づいて、時間に対して想定される変化よりも実際の変化量が大きい場合に、可逆変化であると推定してもよい。可逆変化である場合に照合用データの差替処理が行われないことにより、照合用データが不要に差し替えられることが抑制される。
(2) Further, in the above-described embodiment, the
(3)また、上述の実施形態において、プロセッサ101が、走行面に生じた変化が不可逆変化であると推定される場合に差替処理を行ってもよい。不可逆変化であるかの判定は、例えば、プロセッサ101が、画像データの履歴を解析し、画像データの表す画像の変化が予め定められた時間経過しても(例えば、走行面が清掃されたタイミングでも)元に戻らなかった場合に、不可逆変化であると推定してもよい。
(3) In the above-described embodiment, the
(4)上述の実施形態では、移動装置10の形状として図3を例示したが、移動装置10は図3で例示した形状に限られない。例えば、移動装置10は人型の形状であってもよく、また、例えば、移動装置10は円盤形状であってもよい。
また、上述の実施形態において、移動装置10が光源109を備えない構成であってもよい。
(4) In the above-described embodiment, FIG. 3 is illustrated as the shape of the moving
In the above-described embodiment, the moving
(5)上述の実施形態では、「Case5」の場合、照合用データの再登録処理が行われたが、「Case5」の場合に照合用データの再登録処理が行われないように制御されてもよい。
(5) In the above-described embodiment, in the case of “
(6)上述の実施形態において、照合用データの更新頻度が予め定められた閾値より高い場合、プロセッサ101が走行ルートを再設定したり、ユーザに別ルートを設定するよう依頼したりする等の制御を行ってもよい。
(6) In the above-described embodiment, when the update frequency of the verification data is higher than a predetermined threshold, the
(7)上述の実施形態において、移動装置10のプロセッサ101により実行されるプログラムは、インターネットなどの通信回線を介してダウンロードされてもよい。また、これらのプログラムは、磁気記録媒体(磁気テープ、磁気ディスクなど)、光記録媒体(光ディスクなど)、光磁気記録媒体、半導体メモリなどの、コンピュータが読取可能な記録媒体に記録した状態で提供されてもよい。
(7) In the above-described embodiment, the program executed by the
10…移動装置、11…移動手段、12…撮影手段、13…特定手段、14…差替手段、15…蓄積手段、16…記憶手段、101…プロセッサ、102…メモリ、103…ストレージ、104…通信IF、105…駆動系、106…撮影部、107…電池、108…筐体、109…光源。
DESCRIPTION OF
Claims (6)
前記表面のうち自装置と特定の位置関係がある部分を撮影する撮影手段と、
前記撮影手段から出力される画像データを、予め登録された位置毎の照合用データと比較することにより、自装置の位置を特定する特定手段と、
前記撮影手段から出力された画像データの前記照合用データに対する画像の変化の態様が予め定められた条件を満たす場合に、前記照合用データを該画像データで差し替える差替手段と
を有する移動装置。 Moving means for moving the device along the surface of the structure;
Photographing means for photographing a part of the surface having a specific positional relationship with the device;
A specifying means for specifying the position of the own device by comparing the image data output from the photographing means with the data for collation registered in advance for each position;
A moving device comprising: replacement means for replacing the verification data with the image data when a mode of image change of the image data output from the photographing means with respect to the verification data satisfies a predetermined condition.
を更に有し、
前記差替手段は、前記画像データの履歴を解析し、解析結果により特定される前記表面の画像の変化の態様が予め定められた条件を満たす場合に、差替処理を行う
請求項1に記載の移動装置。 A storage means for storing the history of image data output from the photographing means for each position;
The replacement unit analyzes the history of the image data, and performs a replacement process when a change mode of the image on the surface specified by the analysis result satisfies a predetermined condition. Mobile device.
請求項1又は2に記載の移動装置。 In the case where the mode of change of the image on the surface satisfies a predetermined condition, the replacement means is a different part in the image represented by the first image data used in the immediately preceding comparison process, or the first image data A comparison process between the second image data photographed after the device has moved to a position different from the position where the image was photographed and the comparison data of the different part or position is executed again, and the result of the comparison process satisfies the condition. The moving apparatus according to claim 1, wherein if the condition is not satisfied, a replacement process is performed using the first image data.
を更に有し、
前記差替手段は、前記画像データの履歴を解析し、該画像データの表す画像の予め定められた時間における変化量が予め定められた閾値より大きい場合、前記照合用データの差替処理を行わない
請求項1又は2に記載の移動装置。 A storage means for storing the history of image data output from the photographing means for each position;
The replacement unit analyzes the history of the image data, and performs a replacement process of the verification data when the change amount of the image represented by the image data at a predetermined time is larger than a predetermined threshold. The moving device according to claim 1 or 2.
を更に有し、
前記差替手段は、前記画像データの履歴を解析し、該画像データの表す画像の変化が予め定められた時間経過しても戻らなかった場合に、前記照合用データの差替処理を行う
請求項1、2又は4に記載の移動装置。 A storage means for storing the history of image data output from the photographing means for each position;
The replacement unit analyzes the history of the image data, and performs a replacement process of the verification data when the change in the image represented by the image data does not return even after a predetermined time has elapsed. Item 5. The moving device according to Item 1, 2, or 4.
構造体の表面に沿って自装置を移動させるステップと、
前記表面のうち自装置と特定の位置関係がある部分を撮影する撮影手段から出力される画像データを、予め登録された位置毎の照合用データと比較することにより、自装置の位置を特定するステップと、
前記撮影手段から出力された画像データの前記照合用データに対する画像の変化の態様が予め定められた条件を満たす場合に、前記照合用データを該画像データで差し替えるステップと
を実行させるためのプログラム。 On the computer,
Moving the device along the surface of the structure;
The position of the own device is specified by comparing image data output from a photographing means for photographing a portion of the surface having a specific positional relationship with the own device with comparison data for each position registered in advance. Steps,
A program for executing the step of replacing the verification data with the image data when the image change mode of the image data output from the photographing unit with respect to the verification data satisfies a predetermined condition.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018075242A JP7131042B2 (en) | 2018-04-10 | 2018-04-10 | mobile device and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018075242A JP7131042B2 (en) | 2018-04-10 | 2018-04-10 | mobile device and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019185378A true JP2019185378A (en) | 2019-10-24 |
JP7131042B2 JP7131042B2 (en) | 2022-09-06 |
Family
ID=68341322
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018075242A Active JP7131042B2 (en) | 2018-04-10 | 2018-04-10 | mobile device and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7131042B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024143037A1 (en) * | 2022-12-27 | 2024-07-04 | 京セラドキュメントソリューションズ株式会社 | Mobile body control system |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016166853A (en) * | 2015-03-04 | 2016-09-15 | パナソニックIpマネジメント株式会社 | Location estimation device and location estimation method |
JP2017146662A (en) * | 2016-02-15 | 2017-08-24 | トヨタ自動車株式会社 | Moving body monitor system |
-
2018
- 2018-04-10 JP JP2018075242A patent/JP7131042B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016166853A (en) * | 2015-03-04 | 2016-09-15 | パナソニックIpマネジメント株式会社 | Location estimation device and location estimation method |
JP2017146662A (en) * | 2016-02-15 | 2017-08-24 | トヨタ自動車株式会社 | Moving body monitor system |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024143037A1 (en) * | 2022-12-27 | 2024-07-04 | 京セラドキュメントソリューションズ株式会社 | Mobile body control system |
Also Published As
Publication number | Publication date |
---|---|
JP7131042B2 (en) | 2022-09-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11119496B1 (en) | Methods and systems for robotic surface coverage | |
US11402850B2 (en) | Robotic cleaning device with operating speed variation based on environment | |
CA2952355C (en) | Adaptive mapping with spatial summaries of sensor data | |
JP6430944B2 (en) | Robot and method for autonomously inspecting or processing floor surfaces | |
CN112805647B (en) | Path planning | |
US9483051B2 (en) | Automated guided vehicle, system having a computer and an automated guided vehicle, and method for operating an automated guided vehicle | |
JP7063066B2 (en) | Route planning device, route planning method and program | |
CN111427357A (en) | Robot obstacle avoidance method and device and storage medium | |
JP7459277B2 (en) | Semantic map management in mobile robots | |
CN111721280B (en) | Area identification method, self-moving equipment and storage medium | |
KR100962593B1 (en) | Method and apparatus for area based control of vacuum cleaner, and recording medium thereof | |
CN110833361A (en) | Cleaning robot and multi-zone cleaning method thereof | |
US20210369068A1 (en) | Robotic cleaner and controlling method therefor | |
CN108151760B (en) | Robot positioning recovery method based on odometer | |
JP2019185465A (en) | Mobile device and program | |
JP2010160735A (en) | Mobile robot, running plan map generation method and management system | |
CN113031616B (en) | Cleaning robot return path planning method and system and cleaning robot | |
CN111714028A (en) | Method, device and equipment for escaping from restricted zone of cleaning equipment and readable storage medium | |
JP7131042B2 (en) | mobile device and program | |
CN108363391B (en) | Robot and control method thereof | |
TW202014819A (en) | A mobile robot and method of controlling thereof | |
JP7144491B2 (en) | FORKLIFT, POSITION ESTIMATION METHOD, AND PROGRAM | |
WO2021245796A1 (en) | Cleaning system and program | |
KR20200046161A (en) | Indoor position recognition system of transpotation robot | |
JP2018077635A (en) | Autonomous mobile body and control program of autonomous mobile body |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210319 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220119 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220125 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220325 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220726 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220808 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7131042 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |