WO2022014322A1 - 情報処理システム、及び情報処理装置 - Google Patents
情報処理システム、及び情報処理装置 Download PDFInfo
- Publication number
- WO2022014322A1 WO2022014322A1 PCT/JP2021/024631 JP2021024631W WO2022014322A1 WO 2022014322 A1 WO2022014322 A1 WO 2022014322A1 JP 2021024631 W JP2021024631 W JP 2021024631W WO 2022014322 A1 WO2022014322 A1 WO 2022014322A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- information
- information processing
- processing device
- processor
- image
- Prior art date
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 292
- 238000001514 detection method Methods 0.000 claims abstract description 35
- 230000015654 memory Effects 0.000 claims abstract description 34
- 230000005540 biological transmission Effects 0.000 claims abstract description 9
- 238000003384 imaging method Methods 0.000 claims description 9
- 238000000034 method Methods 0.000 description 75
- 238000012545 processing Methods 0.000 description 43
- 230000008569 process Effects 0.000 description 42
- 238000004891 communication Methods 0.000 description 32
- 230000006870 function Effects 0.000 description 16
- 230000014509 gene expression Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 230000001133 acceleration Effects 0.000 description 9
- 238000000605 extraction Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 239000004065 semiconductor Substances 0.000 description 5
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000005375 photometry Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/02—Control of position or course in two dimensions
Landscapes
- Engineering & Computer Science (AREA)
- Aviation & Aerospace Engineering (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
実施形態の情報処理システムは、第1の情報処理装置と第2の情報処理装置とを備える。第1の情報処理装置は、少なくとも1つの第1のメモリと少なくとも1つの第1のプロセッサとを備え、少なくとも1つの第1のプロセッサは、第1の情報処理装置の位置に関する検知結果と、撮像部によって撮像された第1の情報処理装置の周囲の環境を示した画像情報と、を取得することと、画像情報に基づいて地図情報の生成に用いる中間情報を生成することと、検知結果に基づいた検知情報と中間情報とを第2の情報処理装置に送信することと、を実行可能に構成され、第2の情報処理装置は、少なくとも1つの第2のメモリと少なくとも1つの第2のプロセッサとを備え、少なくとも1つの第2のプロセッサは、第1の情報処理装置から検知情報と中間情報とを受信することと、検知情報と中間情報とに基づいて地図情報を生成することと、を実行可能に構成される。
Description
本発明の実施形態は、情報処理システム、及び情報処理装置に関する。
従来、センサによるセンシング結果や撮像画像から周囲の物体の位置および形状を認識することによって、自己位置を推定すると共に地図情報を生成するロボット等が知られている。
さらには、ロボットに接続するサーバをさらに備え、当該サーバが、複数のロボット等の各々から、各ロボットが生成した地図情報を取得し、複数のロボット等の各々で生成された複数の地図情報に基づいて、精度が高い地図情報を生成する技術も提案されている。
しかしながら、従来技術においては、サーバとロボットとを組み合わせた情報処理システムにおいては、サーバと比べて、ロボット等の処理負担が大きいため、適切な処理負担を分散するのが望ましい。
実施形態の情報処理システムは、第1の情報処理装置と、第2の情報処理装置と、を備える情報処理システムにおいて、前記第1の情報処理装置は、少なくとも1つの第1のメモリと、少なくとも1つの第1のプロセッサと、を備え、前記少なくとも1つの第1のプロセッサは、前記第1の情報処理装置の位置に関する検知結果と、撮像部によって撮像された前記第1の情報処理装置の周囲の環境を示した画像情報と、を取得することと、前記画像情報に基づいて、地図情報の生成に用いる中間情報を生成することと、前記検知結果に基づいた検知情報と、前記中間情報と、を前記第2の情報処理装置に送信することと、を実行可能に構成され、前記第2の情報処理装置は、少なくとも1つの第2のメモリと、少なくとも1つの第2のプロセッサと、を備え、前記少なくとも1つの第2のプロセッサは、前記第1の情報処理装置から前記検知情報と、前記中間情報と、を受信することと、前記検知情報と、前記中間情報と、に基づいて、地図情報を生成することと、を実行可能に構成される。
(第1の実施形態)
図1は、第1の実施形態に係る情報処理システムを構成する情報処理装置のハードウェア構成の一例を示すブロック図である。図1に示されるように、情報処理システムは、第1の情報処理装置1と、第2の情報処理装置2と、で構成されている。
図1は、第1の実施形態に係る情報処理システムを構成する情報処理装置のハードウェア構成の一例を示すブロック図である。図1に示されるように、情報処理システムは、第1の情報処理装置1と、第2の情報処理装置2と、で構成されている。
第1の情報処理装置1は、一例として、本体部10と、移動装置16と、撮像装置17と、IMU(Inertial Measurement Unit)センサ18とを備える。
移動装置16は、第1の情報処理装置1を移動させることが可能な装置である。移動装置16は、一例として、複数の車輪と、これらの車輪を駆動させるモータとを有し、本体部10を支持するように本体部10の下部に連結される。
第1の情報処理装置1は、移動装置16によって、地図情報の生成対象となる領域を移動可能とする。地図情報の生成対象となる領域としては、例えば、建設中の建物、建設されたビル、駅のホーム、または工場などが考えられるが、特に制限を設けるものではない。
なお、第1の情報処理装置1の移動手段は車輪に限定されるものではなく、キャタピラや、プロペラ等であってもよい。第1の情報処理装置1は、例えば、ロボットや、ドローン等である。なお、本実施形態においては、第1の情報処理装置1は、自律移動をするものとするが、これに限定されるものではない。
撮像装置17は、第1の情報処理装置1の周囲の環境を示した画像情報を生成する撮像部の一例であって、例えば、左右に並んだ2台のカメラが1セットになったステレオカメラである。撮像装置17は、2台のカメラでそれぞれ撮像した、第1の情報処理装置1の周囲の環境を示した撮像画像データを、対応付けて本体部10に送出する。
IMUセンサ18は、ジャイロセンサおよび加速度センサ等が統合されたセンサである。IMUセンサ18は、第1の情報処理装置1の位置に関する検知結果を取得するためのセンサであって、第1の情報処理装置1の角速度と加速度とを計測する。IMUセンサ18は、計測した角速度と加速度とを本体部10に送出する。本実施形態は、IMUセンサ18が測定した、第1の情報処理装置1の角速度と加速度を、第1の情報処理装置1の位置、姿勢を特定するために用いる。換言すれば、本実施形態では、第1の情報処理装置の位置に関する検知結果として、角速度と加速度とを用いることとする。
なお、IMUセンサ18は、ジャイロセンサと加速度センサだけではなく、第1の情報処理装置1の位置に関する情報を特定するためのセンサとして、磁気センサやGPS(Global Positioning System)装置等をさらに包含してもよい。また、第1の情報処理装置1の位置に関する情報を特定するためのセンサとして、超音波センサやレーザスキャナ等の測距センサをさらに備えてもよい。
本体部10は、一例として、プロセッサ11と、主記憶装置12(メモリ)と、補助記憶装置14(メモリ)と、ネットワークインタフェース13と、デバイスインタフェース15と、を備え、これらがバス19を介して接続されたコンピュータとして実現されてもよい。なお、撮像装置17およびIMUセンサ18が本体部10に内蔵される構成を採用してもよい。
プロセッサ11は、コンピュータの制御装置及び演算装置を含む電子回路(処理回路、Processing circuit、Processing circuitry、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、FPGA(Field Programmable Gate Array)、又はASIC(Application Specific Integrated Circuit)等)であってもよい。また、プロセッサ11は、専用の処理回路を含む半導体装置等であってもよい。プロセッサ11は、電子論理素子を用いた電子回路に限定されるものではなく、光論理素子を用いた光回路により実現されてもよい。また、プロセッサ11は、量子コンピューティングに基づく演算機能を含むものであってもよい。
プロセッサ11は、第1の情報処理装置1の内部構成の各装置等から入力されたデータやソフトウェア(プログラム)に基づいて演算処理を行い、演算結果や制御信号を各装置等に出力することができる。プロセッサ11は、第1の情報処理装置1のOS(Operating System)や、アプリケーション等を実行することにより、第1の情報処理装置1を構成する各構成要素を制御してもよい。
主記憶装置12は、プロセッサ11が実行する命令及び各種データ等を記憶する記憶装置であり、主記憶装置12に記憶された情報がプロセッサ11により読み出される。補助記憶装置14は、主記憶装置12以外の記憶装置である。なお、これらの記憶装置は、電子情報を格納可能な任意の電子部品を意味するものとし、半導体のメモリでもよい。半導体のメモリは、揮発性メモリ、不揮発性メモリのいずれでもよい。本実施形態における第1の情報処理装置1において各種データを保存するための記憶装置は、主記憶装置12又は補助記憶装置14により実現されてもよく、プロセッサ11に内蔵される内蔵メモリにより実現されてもよい。なお、主記憶装置12または補助記憶装置14を、記憶部ともいう。
記憶装置(メモリ)1つに対して、複数のプロセッサが接続(結合)されてもよいし、単数のプロセッサが接続されてもよい。プロセッサ1つに対して、複数の記憶装置(メモリ)が接続(結合)されてもよい。本実施形態における第1の情報処理装置1が、少なくとも1つの記憶装置(メモリ)とこの少なくとも1つの記憶装置(メモリ)に接続(結合)される複数のプロセッサで構成される場合、複数のプロセッサのうち少なくとも1つのプロセッサが、少なくとも1つの記憶装置(メモリ)に接続(結合)される構成を含んでもよい。また、複数台のコンピュータに含まれる記憶装置(メモリ)とプロセッサによって、この構成が実現されてもよい。さらに、記憶装置(メモリ)がプロセッサと一体になっている構成(例えば、L1キャッシュ、L2キャッシュを含むキャッシュメモリ)を含んでもよい。
ネットワークインタフェース13は、第1の通信部の一例であって、無線又は有線により、通信ネットワーク3に接続するためのインタフェースである。ネットワークインタフェース13は、既存の通信規格に適合したもの等、適切なインタフェースを用いればよい。ネットワークインタフェース13は、通信ネットワーク3を介して接続された第2の情報処理装置2との間で情報の通信が可能となる。
デバイスインタフェース15は、移動装置16、撮像装置17、およびIMUセンサ18と直接接続するインタフェースである。デバイスインタフェース15は、例えばUSB(Universal Serial Bus)等の標準規格に準拠するインタフェースとするが、これに限定されるものではない。また、デバイスインタフェース15は、図1に示した各種装置以外の外部装置とさらに接続するものとしてもよい。
第2の情報処理装置2は、例えばサーバ装置等とする。第2の情報処理装置2は、第1の情報処理装置1と通信ネットワーク3を介して接続されている。本実施形態の第2の情報処理装置2は、主記憶装置21(メモリ)と、プロセッサ22と、補助記憶装置23(メモリ)と、ネットワークインタフェース24と、これらがバス25を介して接続されたコンピュータとして実現されてもよい。
プロセッサ22は、第1の情報処理装置1のプロセッサ11と同様の構成でも良いが、プロセッサ11と比べて高性能であることが望ましい。プロセッサ22は、第2の情報処理装置2の内部構成の各装置等から入力されたデータやソフトウェア(プログラム)に基づいて演算処理を行い、演算結果や制御信号を各装置等に出力することができる。プロセッサ22は、第2の情報処理装置2のOS(Operating System)や、アプリケーション等を実行することにより、第2の情報処理装置2を構成する各構成要素を制御してもよい。
主記憶装置21及び補助記憶装置23は、第1の情報処理装置1の主記憶装置12及び補助記憶装置14と同様の構成でも良い。
主記憶装置21は、プロセッサ22が実行する命令及び各種データ等を記憶する記憶装置であり、主記憶装置21に記憶された情報がプロセッサ22により読み出される。補助記憶装置23は、主記憶装置21以外の記憶装置である。なお、これらの記憶装置は、電子情報を格納可能な任意の電子部品を意味するものとし、半導体のメモリでもよい。半導体のメモリは、揮発性メモリ、不揮発性メモリのいずれでもよい。本実施形態における第2の情報処理装置2において各種データを保存するための記憶装置は、主記憶装置21又は補助記憶装置23より実現されてもよく、プロセッサ22に内蔵される内蔵メモリにより実現されてもよい。なお、主記憶装置12または補助記憶装置14を、記憶部ともいう。
ネットワークインタフェース24は、第2の通信部の一例であって、無線又は有線により、通信ネットワーク3に接続するためのインタフェースである。ネットワークインタフェース24は、既存の通信規格に適合したもの等、適切なインタフェースを用いればよい。ネットワークインタフェース24は、通信ネットワーク3を介して接続された第1の情報処理装置1との間で情報の通信が可能となる。
本実施形態の第2の情報処理装置2は、複数の第1の情報処理装置1が収集した情報に基づいて、計測対象となる環境に存在する物体の三次元情報を含む地図情報を示した環境マップを生成する。
本実施形態の環境マップは、地図情報の一例であって、第1の情報処理装置1の周囲の環境を三次元空間における物体の位置座標を示した情報とする。例えば、環境マップは、少なくとも、第1の情報処理装置1が走行する建物に関する情報、第1の情報処理装置1の周囲に存在する物体に関する情報を含んでいる。
なお、本実施形態において「物体」という場合は、壁や柱等の構造物、什器、家具、移動体、仮設物、および人物等を含むものとする。
なお、本実施形態においては、第1の情報処理装置1と第2の情報処理装置2とは無線接続するものとするが、第1の情報処理装置1と第2の情報処理装置2とが有線接続してもよい。また、第1の情報処理装置1は、と第2の情報処理装置2と常時接続していなくともよい。
ところで、移動可能なロボットが存在する環境においては、精度の良い環境マップを利用することが重要となる。そこで、近年、SLAM(Simultaneous Localization And Mapping)という技術が提案されている。当該技術を用いることで、工場や建設現場などの移動可能なロボット(第1の情報処理装置1の一例)が、稼働している環境で自己位置推定と環境マップ生成とを同時に行うことができる。
しかしながら、ロボットでSLAM全ての処理を行うと、ロボットの処理負担が大きく、当該ロボットに当該処理負担に耐えられるプロセッサを搭載する必要が生じることでコストも高くなるという問題が生じる。
そこで、本実施形態においては、第1の情報処理装置1(本実施形態ではエッジとも称する)側で、撮像や、SLAMにおける初期の処理であるトラッキング処理を行い、第2の情報処理装置2(本実施形態ではサーバとも称する)側で、SLAMにおけるその後の処理であるバンドル調整(Bundle Adjustment)処理を行うこととした。これにより、エッジ側、換言すれば、第1の情報処理装置1の処理負担を軽減できる。
さらに、本実施形態においては、第2の情報処理装置2と通信可能な第1の情報処理装置1を複数備えることとする。そして、第2の情報処理装置2は、複数の第1の情報処理装置1から送信される情報を統合することで、生成される環境マップの精度を向上させることができる。
本実施形態においては、複数の第1の情報処理装置1を用いる。これにより、環境マップを取得可能な範囲を容易に広げることができる。また、複数の第1の情報処理装置1の性能を異ならせることができる。例えば、情報処理装置の大きさ、移動手段、給電方法(コード有りとコードレス)などを異ならせることができる。これにより、適切に情報を取得することができる。
本実施形態における他の例としては、複数の第1の情報処理装置1がそれぞれ異なる種類の情報を取得できるセンサを備える例が考えられる。これにより、外部パラメータのキャリブレーションを行うことなく、複数種類のセンサが取得した情報を統合できる場合がある。例えば、第1の種類のセンサとしてLiDAR(Light Detection and Ranging)を備える第1の情報処理装置が点群に関するデータを収集し、第2の情報処理装置2において当該第1の種類のセンサの位置姿勢を復元する。その後、第1の種類のセンサと異なる種類の第2の種類のセンサ、例えばLiDARよりも安価であるRGBカメラを備えた別の第1の情報処理装置が同じ箇所を撮影し、同様に第2の種類のセンサの位置姿勢を第2の情報処理装置2により復元させる。その際に、第2の情報処理装置2が、第1の種類のセンサの情報と、第2の種類のセンサの情報と、を統合することで、LiDARで取得した点群にRGB値を付与した、環境マップを生成できる。このように、複数の種類が異なるセンサを備えられた第1の情報処理装置1を用いることにより、異なる情報を容易に統合可能な情報処理システムを実現できる。また、例えば、情報処理システムにおいて、安価なセンサを備える第1の情報処理装置の数を、高価なセンサを備える第1の処理装置の数より多くすることで、コストと性能を両立させることが可能になる。
通信ネットワーク3は、第1の情報処理装置1と第2の情報処理装置2との間で通信可能なネットワークであれば良いが、例えば、5Gやローカル5Gなどの通信環境を用いることが考えられる。5Gやローカル5Gを用いることで、高速大容量なデータ通信を実現できる。つまり、本実施形態では、第1の情報処理装置1のトラッキング処理の処理結果を、第2の情報処理装置2に受け渡すことで高速にバンドル調整処理が可能となる。換言すれば、第2の情報処理装置2と第1の情報処理装置1とによるSLAM処理の分担が容易となる。また、5Gやローカル5Gには、従来の通信環境と比べて、高信頼低遅延という効果がある。つまり、本実施形態においては、このような通信環境を用いることで、第2の情報処理装置2と第1の情報処理装置1とでSLAM処理を分散させたとしても大きな遅延が生じることを抑止できる。また、本実施形態は、5Gやローカル5Gなどの通信環境を用いることに制限するものではなく、例えば、WAN(Wide Area Network)、LAN(Local Area Network)、PAN(Personal Area Network)等の何れか、又は、それらの組み合わせであってよい。
次に、第1の情報処理装置1及び第2の情報処理装置2が有する機能について説明する。図2は、第1の実施形態に係る第1の情報処理装置1及び第2の情報処理装置2が備える機能の一例を示すブロック図である。
図2に示すように、第1の情報処理装置1は、取得部101と、トラッキング部102と、キーフレーム判定部103と、特徴抽出部104と、送信制御部105と、移動制御部106と、を備える。
取得部101は、IMUセンサ18から、第1の情報処理装置1の位置に関する検知結果である角速度及び加速度と、撮像装置17からによって撮像された第1の情報処理装置1の周囲の環境を示した画像情報と、を取得する。画像情報とは、撮像装置17で示されるステレオカメラで撮像された左右の撮像画像データとする。このように、本実施形態の取得部101は、SLAM処理に必要な情報を取得する。
トラッキング部102は、撮像装置17によって異なる時刻に撮像された複数の画像を追跡することによって、撮像装置17の位置および姿勢を特定する。
本実施形態のトラッキング部102は、異なる時刻に撮像された複数の画像の輝度値から、当該複数の画像間の変換を直接推定することで、各フレームのカメラの位置・姿勢を推定するDirect手法(直接法)を用いる例について説明するが、当該手法に制限するものではなく、他の手法(例えば、Indirect手法)を用いても良い。
図3は、第1の実施形態に係るトラッキング部102によるトラッキング処理の一例を示すイメージ図である。参照フレーム41と、対象フレーム42とは、撮像装置17によって異なる時刻に撮像された撮像画像である。参照フレーム41は、対象フレーム42よりも前に撮像された撮像画像であり、撮像装置17は、参照フレーム41を撮像した時点における位置Tiから、対象フレーム42を撮像した時点における位置Tjに移動したものとする。
この場合、トラッキング部102は、参照フレーム41に描出された点pが、対象フレーム42に描出された場合における測光誤差を算出することにより、位置Tiから位置Tjへ撮像装置17が移動した場合における相対的な移動量を算出する。点pは、例えば、参照フレーム41上の所定の輝度を表した点とする。撮像装置17の移動とは、撮像装置17の位置の変化と、姿勢(向き)の変化との両方を含むものとする。
図3に示す点50aは、参照フレーム41に描出された点pが3次元空間上に逆投影された位置を表す。
トラッキング部102は、一例として、以下の(1)式を用いて、参照フレーム41と対象フレーム42との間の測光誤差Epjを算出する。
Iiは参照フレーム41を表し、Ijは対象フレーム42を表す。また、Npは、参照フレーム41上の点pを含むピクセルの近傍パターンである。また、tiは参照フレーム41の露光時間、tjは対象フレーム42の露光時間を表す。また、p´は、逆深度dpによる、対象フレーム42におけるpの投影点である。また、(1)式に示すように、トラッキング部102は、Huberノルム(norm)を用いて、測光誤差Epjを算出している。また、重み係数Wpは、画素の輝度勾配によって事前に算出される。例えば、勾配が大きいピクセルに関しては重み係数Wpの値を小さくすることにより、ノイズを低減させることができる。重み係数Wpの算出の手法は、公知の手法を適用することができる。また、輝度変換用ハイパーパラメータai,aj,bi,bjは、参照フレーム41と対象フレーム42との輝度を変換するパラメータである。輝度変換用ハイパーパラメータai,aj,bi,bjは、例えば管理者によって手動でチューニングされても良い。
また、以下の(2)式は、(1)式で用いられている点pの投影点である点p´の制約条件である。点p´の算出には、参照フレーム41に描出された点pを3次元空間上に点50aとして逆投影する逆投影関数と、3次元空間上の点50aを対象フレーム42に投影する投影関数とが用いられる。なお、以下の(2)式における逆投影関数と投影関数とを示す記号は、総積ではなく、逆投影関数と投影関数とを象徴的に示すものである。点pから点50aまでの距離が、参照フレーム41における点50aの深度(dp)である。
また、(2)式に含まれる係数Rは、撮像装置17の回転量を表す。また、係数tは、撮像装置17の並進量を表す。係数Rおよび係数tは、以下の制約条件(3)式によって、撮像装置17の相対位置によって定義される。
トラッキング部102は、上述の式(1)~式(3)に示す参照フレームIiと対象フレームIj間の測光誤差Epjのモデルを解くことにより、対象フレームIjを撮像した時点における撮像装置17の位置Tjを特定する。なお、(3)式および図3に示す位置Tiおよび位置Tjは、撮像装置17の位置及び向きを含む。このように、トラッキング部102は、撮像装置17によって時系列に撮像される複数の撮像画像に対して、このようなトラッキング処理を繰り返し実行することにより、撮像装置17の位置および姿勢の変化を追跡する。
なお、トラッキングの手法は、上述の例に限定されるものではない。例えば、トラッキングの手法としては、撮像画像(後述するキーフレームと、現在のフレーム画像と)の特徴点を取得してからその特徴点のマッチング問題を解くことで各フレームの撮像時における撮像装置17の位置および姿勢を取得するIndirect手法(間接法)を用いても良い。また、トラッキング部102は、撮像画像だけではなく、IMUセンサ18の検出結果も加味して、撮像装置17の位置および向きを特定してもよい。
例えば、本実施形態においては、撮像装置17は、第1の情報処理装置1の移動に伴って、移動しながら周囲を撮像している。トラッキング部102は、ある撮像画像に描出された点を、異なる時刻に撮像された他の撮像画像上で追跡することにより、撮像装置17の位置および姿勢の変化を算出する。トラッキング部102は、撮像開始時における撮像装置17の位置および姿勢に、トラッキング処理によって特定した位置および姿勢の変化を追加することにより、撮像装置17の現在の位置および姿勢を特定する。
そして、トラッキング部102は、特定した撮像装置17の現在の位置および姿勢から、第1の情報処理装置1の自己位置推定を行う。
また、トラッキング部102は、撮像画像(現在のフレーム画像)と共に、当該撮像画像において特定された、撮像装置17の現在の位置および姿勢を、キーフレーム判定部103に受け渡す。
図2に戻り、キーフレーム判定部103は、トラッキング部102によって推定された、撮像装置17の現在の位置および姿勢に基づいて、当該位置及び姿勢の推定に用いた撮像画像が、キーフレームに該当するか否かを判定する。キーフレームとは、サーバ(第2の情報処理装置2)側で環境マップの生成に用いるための画像データとする。キーフレームとは、前回キーフレームと判定された撮像画像から、大きくシーンが変化している場合に環境マップの生成に用いるものとして判定される。
キーフレームの判定手法としては、どのような手法を用いても良いが、例えば、以下の様な判定手法がある。例えば、オプティカルフローの長さ(画像上で変化量)に基づいた判定、トラッキング部102によるトラッキング処理で得られた撮像装置17の移動・回転量に基づいた判定、トラッキング処理したときのエラーの大きさに基づいた判定が考えられる。
さらには、撮像装置17による露光時間等の設定が変化した場合にキーフレームと判定する手法を用いても良いし、BoVWスコア(シーン特徴)など前回のキーフレームとの間の画像の類似度(ORB-SLAM)に基づいた判定を用いても良いし、前回のキーフレームとの間で、共通で識別可能な特徴点の数(ORB-SLAM)に基づいた判定を行っても良い。
また、上述したような判定基準を用いるのではなく、例えば、n秒毎などの予め定められた間隔でサンプリングするように、キーフレームを判定してもよい。さらには、第2の情報処理装置2からの要求に基づいてキーフレームを定めても良い。例えば、第2の情報処理装置2がバンドル調整等の処理が完了したタイミングで取得した撮像画像を、キーフレームとする等が考えられる。
特徴抽出部104は、キーフレーム判定部103によってキーフレームと判定された画像データに基づいて、第2の情報処理装置2に送信する地図情報の生成に用いる中間情報を生成する抽出部として機能する。
本実施形態においては、キーフレームと判定された画像データ全体を、第2の情報処理装置2に送信するのではなく、キーフレームと判定された画像データから生成された中間情報を送信することとした。これにより、第2の情報処理装置2の処理負担を軽減すると共に、第2の情報処理装置2に送信するデータ量を軽減する。すなわち、中間情報は、画像情報よりデータ量が小さい。これにより、データ通信で生じる遅延を軽減できる。本実施形態では、特徴抽出部104は、キーフレームから、中間情報として、画像データに表されていた、第1の情報処理装置1の周囲の環境を表した特徴点、及び特徴量を抽出する。
本実施形態においては、トラッキング部102によるトラッキング処理として、各フレームのカメラの位置・姿勢を推定するDirect手法(直接法)を用い、第2の情報処理装置2がIndirect手法を用いるために、特徴抽出部104が、特徴点、及び特徴量を抽出する例とする。
なお、変形例として、第1の情報処理装置1のトラッキング部102でIndirect手法を用いた場合、トラッキング部102によるトラッキング処理の結果等を第2の情報処理装置2に送信すれば良く、特徴抽出部104による特徴点、及び特徴量の抽出は、行われないものとする。
送信制御部105は、第1の情報処理装置1の検知結果として、キーフレームから得られた位置及び姿勢を示した情報と、キーフレームの中間情報である特徴点及び特徴量と、をネットワークインタフェース13を介して第2の情報処理装置2に送信する。
移動制御部106は、トラッキング部102によって特定された、第1の情報処理装置1の自己位置(第1の情報処理装置1の位置および姿勢)に基づいて、移動装置16の制御を行う。
なお、本実施形態は、移動制御の手法を制限するものではなく、第2の情報処理装置2から環境マップを受信可能な場合には、環境マップと、トラッキング部102により特定された位置及び姿勢に基づいて、移動装置16の移動制御を行っても良い。このような場合には、環境マップに基づいて、移動可能な経路の探索等が行われる。
また、第1の情報処理装置1が、超音波センサやレーザスキャナ等の測距センサを備える場合は、移動制御部106は、これらのセンサによる障害物等の検出結果に基づいて、障害物を回避する移動経路を生成してもよい。なお、第1の情報処理装置1の移動制御の手法はこれらに限定させるものではなく、各種の自律移動の手法を適用することができる。
図2に示すように、第2の情報処理装置2は、受信制御部201と、バンドル調整部202と、環境マップ生成部203と、環境マップ記憶部211と、を備える。
環境マップ記憶部211は、環境マップを記憶する。環境マップ記憶部211は、第2の情報処理装置2の補助記憶装置23に設けられている。本実施形態の環境マップ記憶部211は、複数の第1の情報処理装置1から送信される情報に基づいて生成された環境マップを記憶している。
また、環境マップとは、第1の情報処理装置1の移動軌跡に沿って、周囲の構造物の形状を表した地図情報の一例とする。本実施形態の環境マップは、第1の情報処理装置1が走行する領域(例えば、建物の内部)の構造を、第1の情報処理装置1の移動軌跡に沿って3次元で表す。本実施形態の環境マップは、例えば、第1の情報処理装置1が走行する建物の内部の構造が3次元座標をもつ点群として表される点群地図とする。本実施形態は、地図情報の種類を制限するものではなく、点群の代わりに3次元図形の集合によって地図が表されてもよい。
受信制御部201は、第1の情報処理装置1の検知結果である位置及び姿勢を示した情報と、中間情報として、第1の情報処理装置1の周囲の環境を表した特徴点及び特徴量と、ネットワークインタフェース24を受信する。
バンドル調整部202は、受信した第1の情報処理装置1の位置および姿勢を示した情報を初期値として用いた上で、中間情報である特徴点及び特徴量に基づいて、第1の情報処理装置1の位置及び姿勢を補正すると共に、周囲の物体の3次元空間における位置を算出する。本実施形態においては、第1の情報処理装置1によるトラッキング処理の結果である、位置及び姿勢を初期値として用い、当該初期値を補正することでより高精度に位置及び姿勢の推定を実現できる。なお、バンドル調整部202は、撮像装置17の姿勢やデプスの高精度化も行う。
本実施形態のバンドル調整部202は、キーフレーム間の特徴点のマッチング問題を解くことで、各フレームのカメラ位置・姿勢を取得するIndirect手法(間接法)を用いて、周囲の物体の3次元空間における位置を算出する。しかしながら、本実施形態は、Indirect手法(間接法)を用いる手法に制限するものではなく、Direct手法(直接法)を用いても良い。この場合、第1の情報処理装置1からは特徴点及び特徴量の代わりに、撮像画像を取得する。
図4は、第1の実施形態に係る第1の情報処理装置1と周囲の物体との位置関係の一例を示すイメージ図である。図4に示す例では、第1の情報処理装置1は、柱90a~90cが設置された建物9の中を移動するものとする。柱90a~90cは、物体の一例である。図4における距離dは、撮像装置17から、柱90cの第1の情報処理装置1の側を向いた平面901上の点52までの距離である。
例えば、環境マップ記憶部211が、平面901上の点52の3次元座標の初期値を記憶しているものとする。バンドル調整部202は、トラッキング部102によって特定された撮像装置17の位置および姿勢と、撮像画像とに基づいて、第1の情報処理装置1の位置および点52の位置の誤差を調整する。例えば、バンドル調整部202は、第1の情報処理装置1の位置および点52の位置の誤差を調整することで、点52の3次元座標を補正し、より精度の高い3次元座標を得る。当該調整処理によって、バンドル調整部202は、第1の情報処理装置1の位置と、点52の3次元座標とを推定する。
図5は、第1の実施形態に係るバンドル調整の一例を示すイメージ図である。例えば、バンドル調整部202は、以下の(4)式によって、図5に示す2枚の撮像画像43,44上の、3次元空間上の点52が投影された投影点401a,401bと、撮像画像43,44(例えば、今回受信したキーフレームと前回受信したキーフレーム)上に描出された点52に相当する特徴点402a,402bとの誤差を最小化するように、撮像装置17の位置と、点52の3次元座標とを推定する。以下、撮像画像43と撮像画像44とを区別する場合には、便宜的に、撮像画像43を第1の画像、撮像画像44を第2の画像という。また、本実施形態においては、撮像装置17の内部パラメータは、予めキャリブレーション済みであるものとし、(4)式における最適化対象のパラメータには含めていない。なお、本実施形態は、一例として示したものであって、最適化対象のパラメータに、撮像装置17の内部パラメータを含めても良い。
また、上述の環境マップ記憶部211に記憶された初期値は、点52として示す世界座標点(3次元空間上の点Xi)の初期値として、(4)式で使用される。また、図5において撮像装置17の位置を表す基準点170a,170bと、点52とを結ぶ線を、光線束(Bundle)6a,6bという。また、環境マップ記憶部211に記憶された初期値の範囲が設定された場合には、(4)式において、3次元空間上の点Xiに、当該範囲に含まれる世界座標が設定されて演算が開始される。なお、初期値の範囲内の演算で誤差が最小化しない場合は、該初期値の範囲を超えて、最適な3次元空間上の点Xiの値が求められてもよい。
また、バンドル調整部202は、撮像画像43,44(例えば、今回受信したキーフレームと前回受信したキーフレーム)に基づいて、周囲の物体の平面または曲面の位置を推定し、周囲に存在する複数の点が平面上または曲面上に位置するという制約条件に基づいて、撮像装置17から周囲の物体までの距離を調整してもよい。
このように、バンドル調整部202は、バンドル調整処理において、周囲の物体の位置を、3次元空間上の複数の点の空間座標として算出し、算出した複数の点の空間座標を、環境マップ生成部203に出力する。
本実施形態の環境マップ生成部203は、バンドル調整部202によって算出された周囲の物体3次元空間における位置(バンドル調整後の点毎の3次元座標)に基づいて、環境マップ記憶部211に記憶されている環境マップの生成、修正(例えば、物体の追加や削除等)を行う。
環境マップ生成部203は、環境マップに新たに点等を追加または削除することにより、環境マップを更新する。
本実施形態の第2の情報処理装置2は、複数の第1の情報処理装置1から送信された情報に基づいて、環境マップを更新することで、精度の高い環境マップの生成を実現できる。
次に、以上のように構成された本実施形態の第1の情報処理装置1で実行される処理について説明する。
図6は、第1の実施形態に係る第1の情報処理装置1が実行する処理の流れの一例を示すフローチャートである。
まず、移動制御部106は、移動装置16を制御することにより、第1の情報処理装置1の移動を開始する(S601)。
次に、取得部101は、撮像装置17から撮像画像を取得する。また、取得部101は、IMUセンサ18から、角速度および加速度等センシング結果を取得する(S602)。
次に、トラッキング部102は、トラッキング処理によって、撮像画像に基づいて、撮像装置17の現在の位置および姿勢を特定する(S603)。
キーフレーム判定部103は、トラッキング部102によって推定された、撮像装置17の現在の位置および姿勢に基づいて、当該位置及び姿勢の推定に用いた撮像画像が、キーフレームに該当するか否かを判定する(S604)。
特徴抽出部104は、キーフレーム判定部103によってキーフレームと判定された画像データに基づいて、キーフレームにおける特徴点、及び特徴量を抽出する(S605)。
送信制御部105は、キーフレームを取得したときの第1の情報処理装置1の位置、且つ姿勢を示した情報、及び特徴抽出部104によって抽出されたキーフレームの特徴点、且つ特徴量を、第2の情報処理装置2に送信する(S606)。
そして、移動制御部106は、位置、及び姿勢を示した情報に基づいて、移動装置16を制御することにより、第1の情報処理装置1の移動を制御する(S607)。
移動制御部106は、第1の情報処理装置1の移動を終了するか否かを判定する(S608)。移動制御部106は、例えば、予め定められた終了地点に第1の情報処理装置1が到着した場合に、移動制御部106は、第1の情報処理装置1の移動を終了すると判定する。なお、移動の終了の判定条件は特に限定されるものではなく、例えば、移動制御部106は、通信ネットワーク3を介して、外部から移動の終了の指示が入力された場合に、第1の情報処理装置1の移動を終了すると判定してもよい。
移動制御部106が移動を終了すると判定しない場合(S608:No)、S602から処理を再開する。また、移動制御部106が移動を終了すると判定した場合(S608:Yes)、当該フローチャートによる処理は終了する。
次に、以上のように構成された本実施形態の第2の情報処理装置2で実行される処理について説明する。
図7は、第1の実施形態に係る第2の情報処理装置2が実行する処理の流れの一例を示すフローチャートである。
まず、受信制御部201は、キーフレームを取得したときの第1の情報処理装置1の位置、且つ姿勢を示した情報、及び当該キーフレームの特徴点、且つ特徴量を、第1の情報処理装置1から受信する(S701)。
次に、バンドル調整部202は、バンドル調整処理を実行する(S702)。具体的には、環境マップ記憶部211に記憶された点の3次元座標の初期値と、撮像装置17の位置および姿勢と、キーフレームの特徴点、及び特徴量とに基づいて、撮像装置17から周囲の物体までの距離を算出するとともに、撮像装置17の位置および姿勢の修正と、周囲の物体の3次元座標の推定と、を行う。
環境マップ生成部203は、推定した周囲の物体の3次元座標に基づいて、環境マップに新たに点等を追加または削除することにより、環境マップを更新する(S703)。更新された環境マップは、各第1の情報処理装置1に送信しても良い。
このように、本実施形態の情報処理システムは、上述した構成を備えることで、第1の情報処理装置1による自己位置の推定と、第2の情報処理装置2による環境マップの更新と、を実行する。このため、本実施形態の情報処理システムによれば、第1の情報処理装置1の自己位置の推定および、環境マップの精度を向上させることができる。
なお、第1の情報処理装置1は、監視、警備、清掃、または荷物の配送等の機能を備えるロボット等であってもよい。この場合、第1の情報処理装置1は、推定した自己位置および地図情報に基づいて、地図情報の生成対象となる領域を移動することにより、種々の機能を実現する。また、第1の情報処理装置1によって生成された環境マップ(地図情報の一例)は、どのような態様に用いられても良く、例えば、第1の情報処理装置1自体の移動経路の生成に利用されてもよいし、遠隔地から当該領域を監視または管理する際に使用されてもよい。また、環境マップは、第1の情報処理装置1以外のロボットまたはドローンの移動経路の生成に利用されてもよい。
なお、撮像装置17はステレオカメラに限定されるものではない。例えば、撮像装置17は、RGB(Red Blue Green)カメラと3次元計測カメラ(Depthカメラ)とを有するRGB-Dカメラ、または単眼カメラ等であってもよい。
また、第1の情報処理装置1が備えるセンサは、IMUセンサ18に限定されるものではなく、ジャイロセンサ、加速度センサ、磁気センサ等が個別に設けられてもよい。
また、本実施形態では、撮像画像を用いた画像SLAM(Visual SLAM)を実行するものとしたが、撮像画像を用いないSLAMが採用されてもよい。例えば、第1の情報処理装置1は、撮像装置17ではなく、LiDAR(Light Detection and Ranging)等によって周囲の構造物を検出してもよい。この場合、トラッキング部102は、LiDARによる測距結果に基づいて、第1の情報処理装置1の位置および向きを特定してもよい。
また、本実施形態では、3次元の地図情報を生成するとしたが、2次元の地図情報を生成するものとしてもよい。
また、本実施形態で例示した(1)式~(4)式は一例であり、トラッキング処理またはバンドル調整処理で用いられる数式は、これらに限定されるものではない。
また、SLAM処理には、本実施形態で例示した処理以外に、自己位置推定または地図情報の精度を向上させるための各種の処理が追加されてもよい。
なお、上述した本実施形態における第1の情報処理装置1及び第2の情報処理装置2の各々の一部又は全部は、ハードウェアで構成されていてもよいし、CPU、又はGPU等が実行するソフトウェア(プログラム)の情報処理で構成されてもよい。ソフトウェアの情報処理で構成される場合には、上述した実施形態における各装置の少なくとも一部の機能を実現するソフトウェアを、フレキシブルディスク、CD-ROM(Compact Disc-Read Only Memory)、又はUSB(Universal Serial Bus)メモリ等の非一時的な記憶媒体(非一時的なコンピュータ可読媒体)に収納し、コンピュータに読み込ませることにより、ソフトウェアの情報処理を実行してもよい。また、通信ネットワークを介して当該ソフトウェアがダウンロードされてもよい。さらに、ソフトウェアがASIC、又はFPGA等の回路に実装されることにより、情報処理がハードウェアにより実行されてもよい。
ソフトウェアを収納する記憶媒体の種類は限定されるものではない。記憶媒体は、磁気ディスク、又は光ディスク等の着脱可能なものに限定されず、ハードディスク、又はメモリ等の固定型の記憶媒体であってもよい。また、記憶媒体は、コンピュータ内部に備えられてもよいし、コンピュータ外部に備えられてもよい。
上述した実施形態における第2の情報処理装置2の各種演算は、ネットワークを介した複数台のコンピュータを用いて、並列処理で実行されてもよい。また、各種演算が、プロセッサ内に複数ある演算コアに振り分けられて、並列処理で実行されてもよい。
上述した実施形態における第1の情報処理装置1は、1又は複数のプロセッサ11により実現されてもよい。ここで、プロセッサ11は、1チップ上に配置された1又は複数の電子回路を指してもよいし、2つ以上のチップあるいは2つ以上のデバイス上に配置された1又は複数の電子回路を指してもよい。複数の電子回路を用いる場合、各電子回路は有線又は無線により通信してもよい。
また、自己位置推定処理および地図情報の生成処理を実行している間、第1の情報処理装置1は、第2の情報処理装置2と通信ネットワーク3を介して常時接続していても良いが、これに限定されるものではない。例えば、第1の情報処理装置1は、自己位置推定処理および地図情報の生成処理を実行している間、第2の情報処理装置2との接続をオフラインにしていても良い。
本実施形態の情報処理システムにおいては、SLAM処理を、エッジ(第1の情報処理装置1)側と、サーバ(第2の情報処理装置2)側と、で効果的に処理を分割することとした。これにより、第2の情報処理装置2において高性能のワークステーションを配備することで、第1の情報処理装置1の処理負担が軽減されるため、第1の情報処理装置1において、性能(コスト)が低いプロセッサ11を適用してもよくなり、安価に精度の高いシステムを実現できる。
本実施形態においては、第1の情報処理装置1と第2の情報処理装置2との間に高速な通信環境(例えば、5Gやローカル5G)を実現することとした。これにより、第2の情報処理装置2と第1の情報処理装置1との間の、位置及び姿勢の特定にズレが生じることを抑止できる。
さらに、第1の情報処理装置1でバンドル調整を行わなくて良いため、トラッキング処理の処理負担を大きくできる。つまり、本実施形態の第1の情報処理装置1は、高フレームレートでトラッキング処理を行うことができるため、自己位置推定(カメラトラッキング処理)のロストが起きにくくなりロバストなシステムが可能になる。
(第2の実施形態)
上述の第1の実施形態においては、第1の情報処理装置1の移動制御について考慮しない例について説明した。これに対して、第2の実施形態では、第2の情報処理装置2が、第1の情報処理装置1の位置及び姿勢について計画を行う場合について説明する。なお、第1の実施形態と同様の構成については、同一の符号を割り当て、説明を省略する。
上述の第1の実施形態においては、第1の情報処理装置1の移動制御について考慮しない例について説明した。これに対して、第2の実施形態では、第2の情報処理装置2が、第1の情報処理装置1の位置及び姿勢について計画を行う場合について説明する。なお、第1の実施形態と同様の構成については、同一の符号を割り当て、説明を省略する。
図8は、第2の実施形態に係る第1の情報処理装置801及び第2の情報処理装置802が備える機能の一例を示すブロック図である。
図8に示すように、第1の情報処理装置801は、取得部101と、トラッキング部102と、キーフレーム判定部103と、特徴抽出部104と、送信制御部105と、受信制御部811と、移動制御部812と、を備える。
受信制御部811は、指示情報を、第2の情報処理装置2から受信する。指示情報とは、第1の情報処理装置1の移動先を指示した情報とする。
移動制御部812は、指示情報に基づいて、移動装置16を制御することにより、第1の情報処理装置1の移動を制御する。
第2の情報処理装置802は、受信制御部201と、バンドル調整部202と、環境マップ生成部203と、プランニング部821と、送信制御部822と、環境マップ記憶部211と、を備える。
プランニング部721は、環境マップ記憶部211に記憶されている環境マップに基づいて、第1の情報処理装置1の移動先(位置、及び姿勢)を示した指示情報を生成する。
例えば、プランニング部721は、第2の情報処理装置2と通信可能な複数の第1の情報処理装置1のうち、環境マップ記憶部211に記憶されている環境マップの玄群の疎密度に応じて、疎な領域の近傍に存在する第1の情報処理装置1に対して、疎な領域を撮影可能な移動先(位置、及び姿勢)を示した指示情報を生成する。これにより環境マップの精度を向上させることができる。
他の例としては、プランニング部721は、最も新しく受信したキーフレームと、当該キーフレームと視野領域が大きく変化しない撮像装置17の位置、及び姿勢を次のキーフレームするための、移動先を示した指示情報を生成する。本実施形態では、このような指示情報を生成することで、第1の情報処理装置1の位置の推定精度を向上させることができる。これにより第1の情報処理装置1の位置がロストすることを抑止できる。
送信制御部722は、プランニング部721が生成した指示情報を、第1の情報処理装置1に送信する。
図9は、第2の実施形態に係る第2の情報処理装置802が実行する処理の流れの一例を示すフローチャートである。
なお、S901~S903までの処理は、第1の実施形態の図7のS701~S703と同様として、説明を省略する。
プランニング部721は、第1の情報処理装置1の移動先(位置、及び姿勢)を示した指示情報を生成する(S904)。送信制御部722は、指示情報を、第1の情報処理装置1に送信する(S905)。これにより、第1の情報処理装置1は、指示情報に基づいた移動制御を開始する。
本実施形態においては、プランニング部721が指示情報を生成することで、第2の情報処理装置2が記憶している環境マップ、及び第1の情報処理装置1の撮像装置17の位置・姿勢のうち、いずれか一つ以上に基づいて、第1の情報処理装置1の撮像装置17が撮像すべき自己位置・姿勢を設定できる。これにより、第1の情報処理装置1の自己位置推定処理がロストすることを抑止できる。または、環境マップの精度を向上させることができる。
(変形例)
変形例としては、第1の情報処理装置と第2の情報処理装置の間の情報の通信は、情報処理装置間の接続の品質等に応じて、通信の頻度を変更すること、例えば通信の頻度を下げることやある時間の間通信を行わないことができる。当該通信の頻度の変更は、第1の情報処理装置における通信状況のモニタリング結果に基づいて判断してもよい。これにより、本変形例の情報処理システムでは、第1の情報処理装置における通信状況のモニタリング結果に基づいて、通信量を削減できるとともに、第1の情報処理装置が、通信品質が比較的悪い場所(例えば山間部、地下、建物内、海上、天災等の被災地等)であっても、第1の情報処理装置を適切に動作させることができる。さらに、第1の情報処理装置が、オドメトリ等の自己位置の推定または環境マップ情報に関する一部の処理を行うことで、中間情報等を送信できない場合、または中間情報等に基づいて第2の情報処理装置により生成された情報を受信できない場合であっても、自装置(第1の情報処理装置)を動作させることができる。
変形例としては、第1の情報処理装置と第2の情報処理装置の間の情報の通信は、情報処理装置間の接続の品質等に応じて、通信の頻度を変更すること、例えば通信の頻度を下げることやある時間の間通信を行わないことができる。当該通信の頻度の変更は、第1の情報処理装置における通信状況のモニタリング結果に基づいて判断してもよい。これにより、本変形例の情報処理システムでは、第1の情報処理装置における通信状況のモニタリング結果に基づいて、通信量を削減できるとともに、第1の情報処理装置が、通信品質が比較的悪い場所(例えば山間部、地下、建物内、海上、天災等の被災地等)であっても、第1の情報処理装置を適切に動作させることができる。さらに、第1の情報処理装置が、オドメトリ等の自己位置の推定または環境マップ情報に関する一部の処理を行うことで、中間情報等を送信できない場合、または中間情報等に基づいて第2の情報処理装置により生成された情報を受信できない場合であっても、自装置(第1の情報処理装置)を動作させることができる。
なお、本明細書(請求項を含む)において、「a、b及びcの少なくとも1つ(一方)」又は「a、b又はcの少なくとも1つ(一方)」の表現(同様な表現を含む)が用いられる場合は、a、b、c、a-b、a-c、b-c、又はa-b-cのいずれかを含む。また、a-a、a-b-b、a-a-b-b-c-c等のように、いずれかの要素について複数のインスタンスを含んでもよい。さらに、a-b-c-dのようにdを有する等、列挙された要素(a、b及びc)以外の他の要素を加えることも含む。
本明細書(請求項を含む)において、「データを入力として/データに基づいて/に従って/に応じて」等の表現(同様な表現を含む)が用いられる場合は、特に断りがない場合、各種データそのものを入力として用いる場合や、各種データに何らかの処理を行ったもの(例えば、ノイズ加算したもの、正規化したもの、各種データの中間表現等)を入力として用いる場合を含む。また「データに基づいて/に従って/に応じて」何らかの結果が得られる旨が記載されている場合、当該データのみに基づいて当該結果が得られる場合を含むとともに、当該データ以外の他のデータ、要因、条件、及び/又は状態等にも影響を受けて当該結果が得られる場合をも含み得る。また、「データを出力する」旨が記載されている場合、特に断りがない場合、各種データそのものを出力として用いる場合や、各種データに何らかの処理を行ったもの(例えば、ノイズ加算したもの、正規化したもの、各種データの中間表現等)を出力とする場合も含む。
本明細書(請求項を含む)において、「接続される(connected)」及び「結合される(coupled)」との用語が用いられる場合は、直接的な接続/結合、間接的な接続/結合、電気的(electrically)な接続/結合、通信的(communicatively)な接続/結合、機能的(operatively)な接続/結合、物理的(physically)な接続/結合等のいずれをも含む非限定的な用語として意図される。当該用語は、当該用語が用いられた文脈に応じて適宜解釈されるべきであるが、意図的に或いは当然に排除されるのではない接続/結合形態は、当該用語に含まれるものして非限定的に解釈されるべきである。
本明細書(請求項を含む)において、「AがBするよう構成される(A configured to B)」との表現が用いられる場合は、要素Aの物理的構造が、動作Bを実行可能な構成を有するとともに、要素Aの恒常的(permanent)又は一時的(temporary)な設定(setting/configuration)が、動作Bを実際に実行するように設定(configured/set)されていることを含んでよい。例えば、要素Aが汎用プロセッサである場合、当該プロセッサが動作Bを実行可能なハードウェア構成を有するとともに、恒常的(permanent)又は一時的(temporary)なプログラム(命令)の設定により、動作Bを実際に実行するように設定(configured)されていればよい。また、要素Aが専用プロセッサ又は専用演算回路等である場合、制御用命令及びデータが実際に付属しているか否かとは無関係に、当該プロセッサの回路的構造が動作Bを実際に実行するように構築(implemented)されていればよい。
本明細書(請求項を含む)において、含有又は所有を意味する用語(例えば、「含む(comprising/including)」及び有する「(having)等)」が用いられる場合は、当該用語の目的語により示される対象物以外の物を含有又は所有する場合を含む、open-endedな用語として意図される。これらの含有又は所有を意味する用語の目的語が数量を指定しない又は単数を示唆する表現(a又はanを冠詞とする表現)である場合は、当該表現は特定の数に限定されないものとして解釈されるべきである。
本明細書(請求項を含む)において、ある箇所において「1つ又は複数(one or more)」又は「少なくとも1つ(at least one)」等の表現が用いられ、他の箇所において数量を指定しない又は単数を示唆する表現(a又はanを冠詞とする表現)が用いられているとしても、後者の表現が「1つ」を意味することを意図しない。一般に、数量を指定しない又は単数を示唆する表現(a又はanを冠詞とする表現)は、必ずしも特定の数に限定されないものとして解釈されるべきである。
本明細書において、ある実施例の有する特定の構成について特定の効果(advantage/result)が得られる旨が記載されている場合、別段の理由がない限り、当該構成を有する他の1つ又は複数の実施例についても当該効果が得られると理解されるべきである。但し当該効果の有無は、一般に種々の要因、条件、及び/又は状態等に依存し、当該構成により必ず当該効果が得られるものではないと理解されるべきである。当該効果は、種々の要因、条件、及び/又は状態等が満たされたときに実施例に記載の当該構成により得られるものに過ぎず、当該構成又は類似の構成を規定したクレームに係る発明において、当該効果が必ずしも得られるものではない。
本明細書(請求項を含む)において、「最大化(maximize)」等の用語が用いられる場合は、グローバルな最大値を求めること、グローバルな最大値の近似値を求めること、ローカルな最大値を求めること、及びローカルな最大値の近似値を求めることを含み、当該用語が用いられた文脈に応じて適宜解釈されるべきである。また、これら最大値の近似値を確率的又はヒューリスティックに求めることを含む。同様に、「最小化(minimize)」等の用語が用いられる場合は、グローバルな最小値を求めること、グローバルな最小値の近似値を求めること、ローカルな最小値を求めること、及びローカルな最小値の近似値を求めることを含み、当該用語が用いられた文脈に応じて適宜解釈されるべきである。また、これら最小値の近似値を確率的又はヒューリスティックに求めることを含む。同様に、「最適化(optimize)」等の用語が用いられる場合は、グローバルな最適値を求めること、グローバルな最適値の近似値を求めること、ローカルな最適値を求めること、及びローカルな最適値の近似値を求めることを含み、当該用語が用いられた文脈に応じて適宜解釈されるべきである。また、これら最適値の近似値を確率的又はヒューリスティックに求めることを含む。
本明細書(請求項を含む)において、複数のハードウェアが所定の処理を行う場合、各ハードウェアが協働して所定の処理を行ってもよいし、一部のハードウェアが所定の処理の全てを行ってもよい。また、一部のハードウェアが所定の処理の一部を行い、別のハードウェアが所定の処理の残りを行ってもよい。本明細書(請求項を含む)において、「1又は複数のハードウェアが第1の処理を行い、前記1又は複数のハードウェアが第2の処理を行う」等の表現が用いられている場合、第1の処理を行うハードウェアと第2の処理を行うハードウェアは同じものであってもよいし、異なるものであってもよい。つまり、第1の処理を行うハードウェア及び第2の処理を行うハードウェアが、前記1又は複数のハードウェアに含まれていればよい。なお、ハードウェアは、電子回路、又は電子回路を含む装置等を含んでよい。
本明細書(請求項を含む)において、複数の記憶装置(メモリ)がデータの記憶を行う場合、複数の記憶装置(メモリ)のうち個々の記憶装置(メモリ)は、データの一部のみを記憶してもよいし、データの全体を記憶してもよい。
以上説明したとおり、第1から第2の実施形態によれば、移動可能な第1の情報処理装置(エッジ)側の処理負担を軽減させることができる。また、画像データから生成された中間情報を送信することで、画像データを送信する場合と比べて、通信負担を軽減すると共に、通信時間を短縮することができる。これにより、第1の情報処理装置と第2の情報処理装置との間で認識している、第1の情報処理装置の位置がずれることを抑止できる。
以上、本開示の実施形態について詳述したが、本開示は上記した個々の実施形態に限定されるものではない。請求の範囲に規定された内容及びその均等物から導き出される本発明の概念的な思想と趣旨を逸脱しない範囲において種々の追加、変更、置き換え及び部分的削除等が可能である。例えば、前述した全ての実施形態において、数値又は数式を説明に用いている場合は、一例として示したものであり、これらに限られるものではない。また、実施形態における各動作の順序は、一例として示したものであり、これらに限られるものではない。
Claims (15)
- 第1の情報処理装置と、第2の情報処理装置と、を備える情報処理システムにおいて、
前記第1の情報処理装置は、
少なくとも1つの第1のメモリと、
少なくとも1つの第1のプロセッサと、を備え、
前記少なくとも1つの第1のプロセッサは、
前記第1の情報処理装置の位置に関する検知結果と、撮像部によって撮像された前記第1の情報処理装置の周囲の環境を示した画像情報と、を取得することと、
前記画像情報に基づいて、地図情報の生成に用いられる中間情報を生成することと、
前記検知結果に基づいた検知情報と、前記中間情報と、を前記第2の情報処理装置に送信することと、
を実行可能に構成され、
前記第2の情報処理装置は、
少なくとも1つの第2のメモリと、
少なくとも1つの第2のプロセッサと、を備え、
前記少なくとも1つの第2のプロセッサは、
前記第1の情報処理装置から前記検知情報と、前記中間情報と、を受信することと、
前記検知情報と、前記中間情報と、に基づいて、前記地図情報を生成することと、
を実行可能に構成された、
情報処理システム。 - 前記中間情報は、前記第1の情報処理装置の周囲の特徴を表した特徴点及び特徴量である、
請求項1に記載の情報処理システム。 - 前記中間情報は、前記画像情報よりデータ量が小さい、請求項1または2に記載の情報処理システム。
- 前記少なくとも1つの第1のプロセッサは、
取得した位置に関する前記検知結果と、撮像された複数の前記画像情報と、に基づいて、前記撮像部の位置および姿勢を推定することと、
推定された前記撮像部の前記位置及び前記姿勢を前記検知情報として、前記第2の情報処理装置に送信することと、
推定された前記撮像部の位置及び姿勢に基づいて、前記第1の情報処理装置の移動制御を行うことと、
をさらに実行可能に構成された、
請求項1乃至3のいずれか一つに記載の情報処理システム。 - 前記少なくとも1つの第1のプロセッサは、
取得された複数の前記画像情報から、所定の条件を満たす、前記画像情報を抽出することと、
抽出された前記画像情報に基づいて、前記中間情報を生成することと、
を実行可能に構成された、
請求項1乃至4のいずれか一つに記載の情報処理システム。 - 前記少なくとも1つの第2のプロセッサは、
前記地図情報に基づいて、前記第1の情報処理装置の移動先を示した指示情報を、前記第1の情報処理装置に送信することと、
を実行可能に構成され、
前記少なくとも1つの第1のプロセッサは、
前記指示情報を受信することと、
前記指示情報に基づいて、前記第1の情報処理装置の移動制御を行うことと、
を実行可能に構成された、
請求項1乃至5のいずれか一つに記載の情報処理システム。 - 前記第1の情報処理装置と前記第2の情報処理装置とは無線接続される、
請求項1乃至6のいずれか一つに記載の情報処理システム。 - 少なくとも1つのメモリと、
少なくとも1つのプロセッサと、を備え、
前記少なくとも1つのプロセッサは、
自装置の位置に関する検知結果と、撮像部によって撮像された前記自装置の周囲の環境を示した画像情報と、を取得することと、
前記画像情報に基づいて、地図情報の生成に用いる中間情報を生成することと、
前記検知結果に基づいた検知情報と、前記中間情報と、を他の情報処理装置に送信することと、
を実行可能に構成された、
情報処理装置。 - 前記中間情報は、前記自装置の周囲の特徴を表した特徴点及び特徴量である、
請求項8に記載の情報処理装置。 - 前記少なくとも1つのプロセッサは、
取得した位置に関する検知結果と、撮像された複数の前記画像情報と、に基づいて、前記撮像部の位置および姿勢を推定することと、
推定された前記撮像部の前記位置及び前記姿勢を前記検知情報として、前記他の情報処理装置に送信することと、
推定された前記撮像部の位置及び姿勢に基づいて、前記自装置の移動制御を行うことと、
をさらに実行可能に構成された、
請求項8または9に記載の情報処理装置。 - 前記少なくとも1つのプロセッサは、
取得された複数の前記画像情報から、所定の条件を満たす、前記画像情報を抽出することと、
抽出された前記画像情報に基づいて、前記中間情報を生成することと、
を実行可能に構成された、
請求項8乃至10のいずれか一つに記載の情報処理装置。 - 前記他の情報処理装置によって前記検知情報と、前記中間情報と、に基づいて生成された前記地図情報または前記自装置の移動制御に関する指示情報を受信することと、
を実行可能に構成された、
請求項8乃至11のいずれか一つに記載の情報処理装置。 - 少なくとも1つのメモリと、
少なくとも1つのプロセッサと、を備え、
前記少なくとも1つのプロセッサは、他の情報処理装置から、前記他の情報処理装置の位置に関する検知結果に基づいた検知情報と、前記他の情報処理装置に設けられた撮像部によって撮像された前記他の情報処理装置の周囲の環境を示した画像情報に基づいて生成された中間情報と、を受信することと、
前記検知情報と、前記中間情報と、に基づいて、地図情報を生成することと、
を実行可能に構成された、
情報処理装置。 - 前記中間情報は、前記他の情報処理装置の周囲の特徴を表した特徴点及び特徴量である、
請求項13に記載の情報処理装置。 - 前記少なくとも1つのプロセッサは、さらに、
前記地図情報に基づいて、前記他の情報処理装置の移動先を示した指示情報を、前記他の情報処理装置に送信すること、
を実行可能に構成され、
前記他の情報処理装置は、さらに、前記指示情報に基づいて移動制御を行うこと、
を実行可能に構成された、
請求項13または14に記載の情報処理装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020-120944 | 2020-07-14 | ||
JP2020120944 | 2020-07-14 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2022014322A1 true WO2022014322A1 (ja) | 2022-01-20 |
Family
ID=79555448
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2021/024631 WO2022014322A1 (ja) | 2020-07-14 | 2021-06-29 | 情報処理システム、及び情報処理装置 |
Country Status (1)
Country | Link |
---|---|
WO (1) | WO2022014322A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023218826A1 (ja) * | 2022-05-13 | 2023-11-16 | ソニーグループ株式会社 | 移動体制御装置、および移動体制御方法、並びにプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019053391A (ja) * | 2017-09-13 | 2019-04-04 | 日本電産シンポ株式会社 | 移動体 |
US20200018608A1 (en) * | 2017-03-22 | 2020-01-16 | Robert Bosch Gmbh | Method and device for operating a vehicle |
JP2020017198A (ja) * | 2018-07-27 | 2020-01-30 | パイオニア株式会社 | 情報処理装置 |
JP2020080147A (ja) * | 2018-11-13 | 2020-05-28 | 株式会社東芝 | 保全活動サポートシステムおよび保全活動サポート方法 |
-
2021
- 2021-06-29 WO PCT/JP2021/024631 patent/WO2022014322A1/ja active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200018608A1 (en) * | 2017-03-22 | 2020-01-16 | Robert Bosch Gmbh | Method and device for operating a vehicle |
JP2019053391A (ja) * | 2017-09-13 | 2019-04-04 | 日本電産シンポ株式会社 | 移動体 |
JP2020017198A (ja) * | 2018-07-27 | 2020-01-30 | パイオニア株式会社 | 情報処理装置 |
JP2020080147A (ja) * | 2018-11-13 | 2020-05-28 | 株式会社東芝 | 保全活動サポートシステムおよび保全活動サポート方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023218826A1 (ja) * | 2022-05-13 | 2023-11-16 | ソニーグループ株式会社 | 移動体制御装置、および移動体制御方法、並びにプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11567201B2 (en) | Laser scanner with real-time, online ego-motion estimation | |
JP7141403B2 (ja) | 実時間オンライン自己運動推定を備えたレーザスキャナ | |
KR101725060B1 (ko) | 그래디언트 기반 특징점을 이용한 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법 | |
US20190346271A1 (en) | Laser scanner with real-time, online ego-motion estimation | |
KR101776622B1 (ko) | 다이렉트 트래킹을 이용하여 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법 | |
TWI827649B (zh) | 用於vslam比例估計的設備、系統和方法 | |
US10068344B2 (en) | Method and system for 3D capture based on structure from motion with simplified pose detection | |
KR101776621B1 (ko) | 에지 기반 재조정을 이용하여 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법 | |
TWI544781B (zh) | 具有功率有效深度感測器運用之即時三維重建 | |
WO2018071416A1 (en) | Laser scanner with real-time, online ego-motion estimation | |
JP6782903B2 (ja) | 自己運動推定システム、自己運動推定システムの制御方法及びプログラム | |
CN108496201A (zh) | 图像处理方法和设备 | |
WO2019191288A1 (en) | Direct sparse visual-inertial odometry using dynamic marginalization | |
CN105844692A (zh) | 基于双目立体视觉的三维重建装置、方法、系统及无人机 | |
Zhang et al. | An indoor navigation aid for the visually impaired | |
TW202214487A (zh) | 協同3d測繪及表面套合技術 | |
CN110260866A (zh) | 一种基于视觉传感器的机器人定位与避障方法 | |
WO2022014322A1 (ja) | 情報処理システム、及び情報処理装置 | |
CN111105467A (zh) | 一种图像标定方法、装置及电子设备 | |
EP3678822A1 (en) | System and method for estimating pose of robot, robot, and storage medium | |
WO2020019175A1 (zh) | 图像处理方法和设备、摄像装置以及无人机 | |
WO2021210492A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
WO2019127192A1 (zh) | 图像处理方法和设备 | |
WO2021106436A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP7354528B2 (ja) | 自律移動装置、自律移動装置のレンズの汚れ検出方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 21842842 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 21842842 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: JP |