JP2024031744A - 地図表示システム - Google Patents
地図表示システム Download PDFInfo
- Publication number
- JP2024031744A JP2024031744A JP2023009453A JP2023009453A JP2024031744A JP 2024031744 A JP2024031744 A JP 2024031744A JP 2023009453 A JP2023009453 A JP 2023009453A JP 2023009453 A JP2023009453 A JP 2023009453A JP 2024031744 A JP2024031744 A JP 2024031744A
- Authority
- JP
- Japan
- Prior art keywords
- map
- robot
- superimposed
- button
- telepresence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000005259 measurement Methods 0.000 claims abstract description 40
- 230000007613 environmental effect Effects 0.000 claims abstract description 23
- 238000000034 method Methods 0.000 description 12
- 230000010354 integration Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 8
- 238000003825 pressing Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000004378 air conditioning Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000002485 combustion reaction Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Processing Or Creating Images (AREA)
Abstract
【課題】複数の施設の環境形状計測、CADデータ、あるいはBIMデータから生成された複数の重畳地図を1つの電子ディスプレイ上に表示することを実現するシステムを提供する。
【解決手段】複数の施設の内部を三次元環境形状計測センサー40によって計測してそれぞれの施設の内部のVR地図を生成するか、あるいはCADデータやBIMデータのVR地図を利用し、前記VR地図上を、環境形状計測センサー20を備えたテレプレゼンスロボット10が走行することによってSLAM地図を生成し、前記VR地図と前記SLAM地図を重畳した重畳地図をそれぞれの施設に対して生成し、生成された複数の前記重畳地図を一台の電子ディスプレイ装置30に表示する。
【選択図】図1
【解決手段】複数の施設の内部を三次元環境形状計測センサー40によって計測してそれぞれの施設の内部のVR地図を生成するか、あるいはCADデータやBIMデータのVR地図を利用し、前記VR地図上を、環境形状計測センサー20を備えたテレプレゼンスロボット10が走行することによってSLAM地図を生成し、前記VR地図と前記SLAM地図を重畳した重畳地図をそれぞれの施設に対して生成し、生成された複数の前記重畳地図を一台の電子ディスプレイ装置30に表示する。
【選択図】図1
Description
本発明は、テレプレゼンスロボット(以下、単にロボットとも称する)に備えられた環境形状計測センサーにより生成された自己位置推定地図において複数施設の自己位置推定地図を1つの電子ディスプレイ上に集約的に表示するシステムに関する。
近年、自分自身が現場に居ない代わりにロボットを現場に送り込むことにより、ロボットが送信する映像や音声を遠隔地で視聴できるテレプレゼンスロボットが活躍している。例えば、病気で入院している子供が、テレプレゼンスロボットを学校に待機させることによって、テレプレゼンスロボットが送信してくる授業をその場に居るかのように受講することができるようになる。加えて、テレプレゼンスロボットは車輪で走行することが可能なため、テレプレゼンスロボットの電子ディスプレイに自身の顔をリアルタイムに表示しながら学校内を移動し、ロボットを通じて様々な場所に居る先生や同級生と相互に会話することもできる。
特許文献1には、この様なテレプレゼンスロボットを利用したシステムが開示され、テレプレゼンスロボットと遠隔操作端末の映像表示部への映像の表示が対話者それぞれに適した表示となる様に、テレプレゼンスロボットを移動させることができ、また表示を制御することができるとしている。
しかしながら、従来のテレプレゼンスロボットシステムでは、複数のテレプレゼンスロボットの自己位置推定地図を1つの電子ディスプレイ上に表示することができないという課題があった。例えば、同じ建物の1階と5階における自己位置推定地図の生成を考えてみる。1階と5階はエレベーターで繋がっているが、現在のテレプレゼンスロボットでは自身でエレベーターに乗り込み、階数のエレベーターボタンを押し、さらに目的の階に到着したらエレベーターを降りるといった作業をこなすことは困難である。そのため、1階に居るテレプレゼンスロボットAが1階の自己位置推定地図を生成し、5階は別のテレプレゼンスロボットBが自己位置推定地図を生成することになるため、結果として、テレプレゼンスロボットAおよびテレプレゼンスロボットBが生成した2つの自己位置推定地図は別々の電子ディスプレイ上に表示されることになる。
本発明は、このような事情に鑑みてなされたもので、複数の施設のそれぞれに装備されたテレプレゼンスロボットにより、各施設の自己位置推定地図を生成し、施設が互いに離れた場所であった場合でも1台の電子ディスプレイ上に各施設での自己位置推定地図を集約して表示する地図表示システムを提供する。
すなわち本発明の一態様は、複数の施設内部に係る情報を生成して一台のディスプレイ装置に表示するシステムであって、
前記複数の施設の内部を三次元環境形状計測センサーによって計測してそれぞれの施設の内部のVR地図を生成するか、あるいは前記複数の施設のCADデータやBIM(Bui
lding Information Modeling)データのVR地図を利用し、前記VR地図上を、環境形状計測センサーを備えたテレプレゼンスロボットが走行することによってSLAM地図を生成し、
前記VR地図と前記SLAM地図を重畳した重畳地図をそれぞれの施設に対して生成し、生成された複数の前記重畳地図を一台の電子ディスプレイ装置に表示することを特徴とする地図表示システムである。
前記複数の施設の内部を三次元環境形状計測センサーによって計測してそれぞれの施設の内部のVR地図を生成するか、あるいは前記複数の施設のCADデータやBIM(Bui
lding Information Modeling)データのVR地図を利用し、前記VR地図上を、環境形状計測センサーを備えたテレプレゼンスロボットが走行することによってSLAM地図を生成し、
前記VR地図と前記SLAM地図を重畳した重畳地図をそれぞれの施設に対して生成し、生成された複数の前記重畳地図を一台の電子ディスプレイ装置に表示することを特徴とする地図表示システムである。
また本発明の他の一態様は、上述の地図表示システムであって、前記テレプレゼンスロボットが仮想のものであり、仮想の環境形状計測センサーを備え、前記VR地図のデジタルデータ上で仮想的に走行して前記SLAM地図を生成するものである。
また本発明の他の一態様は、上述の地図表示システムであって、前記複数の施設の前記重畳地図の原点間に、一台の電子ディスプレイ装置に表示できるように距離のオフセットが設定されているものである。
また本発明の他の一態様は、上述の地図表示システムであって、前記テレプレゼンスロボットが走行を開始するスタート位置を、前記VR地図における直交座標の原点、および前記重畳地図における直交座標の原点としたものである。
本発明によれば、複数の施設の三次元環境形状計測センサー、あるいはCADデータやBIMデータから生成された複数の重畳地図を一台の電子ディスプレイ装置に表示することを実現して、互いに遠隔の施設であっても1台の電子ディスプレイ装置で確認することができる。
以下、本発明の実施形態について図1を参照しながら説明する。
図1は本実施形態に係る地図表示システムを模式的に示す図である。地図表示システム1は、複数の施設である施設Aと施設Bに装備されたテレプレゼンスロボット10、環境形状計測センサー20、三次元画像計測センサー40、およびこれらとネットワーク70を介して接続された情報端末30、重畳地図統合サーバ50、および記憶部60で構成されている。
テレプレゼンスロボット10は、走行するための車輪を備えている。車輪は動力源に繋がっており、動力源が発生する動力によって車輪に力を伝える。動力源としては、電磁石モーターが好適で、例えば、DCモーター、ブラシレスDCモーター、ステッピングモーター、サーボモーター、誘導モーター、PMモーター、ACモーター、インホイールモーターおよび超音波モーター等が挙げられる。内燃機関も動力源として使用できる。車輪の数と設置位置はテレプレゼンスロボット10が安定に走行できる数と位置であれば特に限定しない。
テレプレゼンスロボット10は、無線通信で遠隔制御が可能である。無線通信の手段としては、無線LAN(Local Area Network)、Wi-Fi(登録商標)、第3世代、第4世代、第5世代などの移動通信システム、およびLPWA(Low Power Wide Area)等が使える。
テレプレゼンスロボット10は、電子ディスプレイ、ビデオカメラ,マイク、スピーカーを備えている。電子ディスプレイに関しては、マイクロメーターオーダーの微細なセルで区切られた画像表示用画素を備えているものであれば限定しないが、例えば、液晶ディスプレイ、有機EL(OLED)ディスプレイ、マイクロLEDディスプレイなど、公知の各種構造のものを選択できる。電子ディスプレイの表示色はカラーでもモノクロでも使用できる。ビデオカメラに関しては、電子ディスプレイに内蔵されているWebカメラでも、Webカメラとは別に設置する一眼レフビデオカメラでも所望の性能の物を採用できるが、例えば、画質、重量、サイズおよび価格の観点で適宜選択することが好ましい。マイクやスピーカーに関しては、PCに内蔵されている一般的な物を適宜使用できる。
テレプレゼンスロボット10は、環境形状計測センサー20を備えている。環境形状計測センサー20に関しては、テレプレゼンスロボット10の自己位置推定を実現するために使用される。自己位置推定とは、環境形状計測センサー20を用いて取得したテレプレゼンスロボット10の周囲の地図を作成しながら、同時に、テレプレゼンスロボット10の現在の位置情報を推定する方法のことで、テレプレゼンスロボット10が走行することで新たな計測領域を拡大させながら全体の地図を完成させる手法である。自己位置推定を計算する手法としては、ICP(Iterative Closest Point)やNDT(Normal Distributions Transform)等のスキャンマッチング法、ベイズフィルター法が挙げられ、何れの手法も本発明に使用できる。環境形状計測センサー20としては、例えば、レーザーレンジスキャナーを用いたLiDAR(Light Detection And Ranging)、ToF(Time of Flight)センサー、超音波を用いたToFセンサーが好適であり、所望のセンサーを適宜選択できる。
テレプレゼンスロボット10を物理的に実在する装置とした場合は、上述のような構成のものとなるが、テレプレゼンスロボット10は仮想のものとすることができる。後述する三次元画像計測センサー40が生成したVR地図の画像、あるいはCADデータやBIMデータを利用したVR地図の画像は、当然にデジタルデータにより生成された仮想的な
三次元空間として構成されているので、この仮想的な空間を計測して内部地図を作成することも可能であり、その場合はデジタルデータをスキャニングして内部地図を作成することになるのであるから、テレプレゼンスロボット10はデジタルデータ上のソフトウェアとして存在する仮想的なものとしても実現できるからである。
三次元空間として構成されているので、この仮想的な空間を計測して内部地図を作成することも可能であり、その場合はデジタルデータをスキャニングして内部地図を作成することになるのであるから、テレプレゼンスロボット10はデジタルデータ上のソフトウェアとして存在する仮想的なものとしても実現できるからである。
情報端末30は、電子ディスプレイ、ビデオカメラ、マイク、およびスピーカーを備えた情報処理装置であれば特に限定しない。例えば、汎用のデスクトップ型コンピュータ、ノート型コンピュータ、タブレット、スマートフォン等が好適である。
三次元画像計測センサー40は、複数枚の写真とその写真を撮影した位置情報を取得することによってVR地図の画像を生成する。三次元画像計測センサー40としては、例えば、LiDAR(Light Detection and Ranging)やToF(Time of Flight)等のレーザーレンジスキャナーを用いたセンサー(以下レーザーレンジセンサーとも記す)と、現場の環境画像を撮像する4眼撮像カメラなどのセンサーとを組み合わせた三次元スキャナー計測装置が好適である。三次元スキャナー計測装置の場合、前後、左右、上下を検出する加速度センサーと、東西南北を検出できる地磁気センサーを備えていることによって、6方向の位置計測が可能であるものが好ましい。三次元画像計測センサー40は、例えば上記のようなセンサーを組み合わせて図14の例の様に人が肩に担ぐなどして持ち運べるように構成することもできる。そしてその人が施設内を歩いてLiDARセンサーで位置情報を取得し、4眼撮像カメラなどのセンサーで環境画像を取得する。なおVR地図の取得は三次元画像計測センサー40によってだけなされるものではなく、CADデータやBIMデータをVR地図として利用することも可能である。CADデータやBIMデータをVR地図として利用することの利点としては、施設を建設するときに予め準備されていた既存の地図を使えることである。
重畳地図統合サーバ50は、2つ以上の重畳地図をゲームエンジンに読み込ませ、1つの電子ディスプレイに同時に2つ以上の重畳地図が表示できるように距離オフセットの量を調整するゲームエンジンを備えたサーバである。重畳地図統合サーバ50は、2つ以上の重畳地図のそれぞれの原点に距離オフセットを自動で設定し、様々な距離オフセット値に変更および調整を行いながら、1つの電子ディスプレイ上に同時に2つ以上の重畳地図が表示できるまで、距離オフセットの設定値を更新し続ける。このとき、施設の床面積、2つ以上の施設の原点のそれぞれの位置関係、および電子ディスプレイのサイズ等が設定値を更新するときのパラメータになる。ゲームエンジンとしては、Unity(登録商標)、Unreal Engine(登録商標)、CRYENGINE(登録商標)、OROCHI(登録商標)等が選択できる。
記憶部60は、三次元画像センサー40が取得した情報、仮想あるいは現実のテレプレゼンスロボット10が取得した情報、およびそれらを用いて新たに生成した情報等を記憶したり、呼び出したりを行う。記憶部60としては、ハードディスク、SSD(Solid State Drive)、不揮発性メモリ等を用いることができる。記憶部60は情報端末30に内蔵された態様とすることもできる。
ネットワーク70は、各機器に繋がったインターネットの通信回線網である。ネットワーク70の回線網は、有線であっても無線であっても、その両方の併用でも構わない。
続いて、図2~図4を参照しながら、遠隔地にある少なくとも2つ以上の施設の前記重畳地図を1つの電子ディスプレイ上に表示する方法について説明する。
例えば、北海道と沖縄県の間のような遠方に離れてある施設Aと施設Bにおける2施設の重畳地図を生成および統合する方法について説明する。北海道にある施設Aにはテレプ
レゼンスロボットAが1台、沖縄県にある施設BにはテレプレゼンスロボットBが1台配置されている。2つの施設にあるテレプレゼンスロボットの管理・運用は東京の中央監視センターで行うとする。前述の様に、テレプレゼンスロボットA、Bは実体的に設置されるものでも、仮想的なものでも良い。
レゼンスロボットAが1台、沖縄県にある施設BにはテレプレゼンスロボットBが1台配置されている。2つの施設にあるテレプレゼンスロボットの管理・運用は東京の中央監視センターで行うとする。前述の様に、テレプレゼンスロボットA、Bは実体的に設置されるものでも、仮想的なものでも良い。
VR地図は、前記三次元画像計測センサーで生成して取得する場合、あるいはCADデータやBIMデータを利用して取得する場合が存在するが、以下では前者の場合で説明する。
先ず、施設Aについて、前記三次元画像計測センサーで計測を開始するスタート地点を決める。このスタート地点が前記三次元画像計測センサーの三次元直交座標系での原点とする。前記スタート地点は施設内の特徴のある位置を選ぶのが好ましい。例えば、施設内の柱や固定家具の角、あるいは部屋の隅から何cm離れているか計測された位置等が好適である。
原点から計測をスタートした前記三次元画像計測センサーは、自身が備えている前記レーザーレンジセンサーによって自己位置推定地図Aの生成を始めるとともに、特徴点となり得そうな形状が存在するポイントポイントで前記環境画像Aを撮像する。前記三次元画像計測センサーが施設内を様々なルートで走行することによって自己位置推定地図Aが拡大し、時間が経つとやがて施設内の前記自己位置推定地図Aと地図上の位置情報を持つ多数の前記環境画像Aが取得される。
前記自己位置推定地図Aに前記環境画像AをSfM(Structure from Motion)ソフトウェアを用いることによって貼り付けて図3の上段の図の様にVR地図Aを生成する。図では表示の制約上2次元画像として示されているが、実際には3次元の画像データとして生成されている。VR地図Aは施設Aの室内の位置情報と環境形状の視覚情報を持ち合わせており、人の眼でもどの位置にどんな物体が存在しているかを視覚的に確認できる。SfMソフトウェアとしては、写真測量ソフトウェアを用いることができ、例えば、Metashape(登録商標、Agisoft LLC社製)、Pix4Dmapper(Pix4D社製)、TerraMapper(テラドローン社製)等が選択できる。
続いて、VR地図Aの床面上を、仮想の環境形状計測センサーを備えた仮想のテレプレゼンスロボットを、前記原点をスタート地点として様々なルートで走行させることによって、図3の中段の図の様にSLAM(Simultaneous Localization and Mapping,自己位置推定と環境地図作成の同時実行)地図Aを生成する。SLAMを活用することで、テレプレゼンスロボットの様な移動体が未知の環境下での環境地図を作成し、自分がどこにいるのか、周辺がどうなっているのかを把握することができる。
あるいは、現実の施設Aの床面上を、現実の環境形状計測センサーを備えた現実の実体的なテレプレゼンスロボットを前記原点をスタート地点として様々なルートで走行させることによって、SLAM地図Aを取得しても良い。
次に、前記VR地図AとSLAM地図Aを、ゲームエンジンを用いて、前記VR地図Aと、SLAM地図Aで得た施設Aの外形形状が一致するように重畳して、図3の下段の図の様に重畳地図Aを完成させる。このとき、前記VR地図Aの原点と、仮想あるいは現実のテレプレゼンスロボットのスタート地点の原点とは一致している。ゲームエンジンとしては、Unity、Unreal Engine、CRYENGINE、OROCHI等が選択できる。
施設Bについても同様の手順で施設Bの重畳地図Bを完成させる。
続いて、前記重畳地図Aと前記重畳地図Bを重畳地図統合サーバに読み込み、1つの電子ディスプレイで同時に前記重畳地図Aと前記重畳地図Bが表示されるように距離オフセットの量を調整して、図4の下段の図の様に統合して表示する。重畳地図統合サーバに備えるゲームエンジンとしては、Unity、Unreal Engine、CRYENGINE、OROCHI等が選択できる。
ここで本発明の地図表示システムにおけるPC上での運用管理画面の一例について図5から図13を用いて説明する。
前記運用管理画面では、図5に示した通り先ず屋内施設で動作させるテレプレゼンスロボットと屋内施設の内部形状の組み合わせを記載したロボット・屋内施設登録画面が表示される。前記ロボット・屋内施設登録画面では、最上部に最後に稼働させたときの情報ボタンが配置される。このボタンを最後稼働履歴情報ボタンと呼ぶ。前記最後稼働履歴情報ボタンの下には、以前登録したテレプレゼンスロボットと屋内施設の組み合わせを記載したボタン群が配置される。前記ボタン群をロボット・屋内施設登録ボタン群と呼ぶ。前記ロボット・屋内施設登録画面を閉じるには、右上の×ボタンを押下する。前記最後稼働履歴情報ボタンを押下、あるいは前記ロボット・屋内施設登録ボタン群のうちの一つを押下すると、テレプレゼンスロボットを稼働させるために必要な情報が記述されたデータファイルが読み込まれる。
前記最後稼働履歴情報ボタンにおいては、前回使用したデータ/Last used dataとして、最後にデータを保存した年月日、テレプレゼンスロボット名(Robo)、およびテレプレゼンスロボットを稼働させた屋内施設の名称(場所)が掲示される。更に、Editボタンを押下すると、前記データファイルがポップアップし、データファイルを編集することができる。加えて、稼働中ロボットに接続のON/OFF切り替えボタンが配置され、ONの場合は、本運用管理システムとテレプレゼンスロボットの間が通信回路で接続される。一方、稼働中ロボットに接続がOFFの場合、本運用管理システムとテレプレゼンスロボットの間の通信回路が切断された状態になる。図5では例として2台のテレプレゼンスロボットの運用管理画面を図面として掲示するが、実際はテレプレゼンスロボットの台数は限定されない。
前記ロボット・屋内施設登録ボタン群においては、最後にデータを登録した年月日、テレプレゼンスロボット名、およびテレプレゼンスロボットを稼働させた屋内施設の名称が掲示される。加えて、Editボタンを押下すると、前記ロボット稼働データファイルがポップアップし、データファイルを編集することができる。
前記最後稼働履歴情報ボタンを押下、あるいはロボット・屋内施設登録ボタン群のうちの一つを押下すると、図6に示したように屋内施設(サイトA)の内部形状の3次元図絵が表示される。前記3次元図絵は、マウスで摘まみながら動かすことによって、上下左右に移動させることができる。更に、PCのキーボードにおけるAltキーを押しながら、かつ前記3次元図絵を摘まみながらマウスを動かすことによって、前記3次元図絵を傾けることができる。加えて、マウスのホイールを回転させることによって、前記3次元図絵を拡大縮小することができる。屋内施設の内部図絵の表示は、CG(Computer Graphics)、CAD、BIM(Building Information Modeling)、およびVR(Vartual Reality)等で描画されてよい。前記3次元図絵の左上に配置される矢印を押下すると、図7に示すようにロボット操縦管理画面に遷移する。前記3次元図絵の画面の右下には、視点切替、Navmesh、およびスキャンの3つのボタンが配置される。
前記視点切替ボタンは、屋内施設の内部形状を3次元図絵から2次元図絵に、あるいはその逆の切り替えを行う。前記3次元図絵と同様に、2次元図絵もマウスのホイールを回転させることによって拡大縮小することができる。前記Navmeshボタンは、テレプレゼンスロボットが走行する床の範囲を表示する。前記スキャンボタンは、事前に屋内施設の内部形状をLiDAR(Light Detection and Ranging)やToF(Time of Flight)等のレーザーレンジスキャナーを用いたセンサーで計測した結果を表示する。前記3次元図絵を閉じるには、右上の×ボタンを押下する。
前記ロボット操縦管理画面においては、画面右側に配置されるポジション図面表示エリアと、画面左上に配置される撮像シーン表示エリアと、画面左下に配置されるロボットコントロールエリアとが設けられている。前記ロボット操縦管理画面の上部中央に配置された矢印を押下すると、前記3次元図絵の表示に戻ることができる。
前記ポジション図面表示エリアは、屋内施設の内部形状を表示することによって、複数台の遠隔操作テレプレゼンスロボットが屋内施設内のどこに居り、どの方角を向いており、かつ、走行しているか否かを図絵として表示するエリアである。更に、表示されるテレプレゼンスロボットには、ロボット毎にロボット名(OH52,OH66)が明示され、かつ、ロボットを中心に周囲を円形の図形で囲むことにより、ロボット同士の距離感の視認性を向上させている。
前記撮像シーン表示エリアは、複数台の遠隔操作ロボットのそれぞれに備えられたカメラで撮像されたシーンを表示するエリアである。前記撮像シーン表示エリアには、テレプレゼンスロボットが備えるカメラで撮像された映像を表示する枠がそれぞれのロボット毎に用意される。前記映像表示枠の左側には、テレプレゼンスロボットの台数を表す正の整数番号、ロボット名、ロボットのルートボタン、ロボットが備える電子ディスプレイの電源のON/OFF切り替えボタン、およびロボットが備えるマイクとスピーカーの電源のON/OFF切り替えボタンが配置される。前記映像表示枠の右下には虫眼鏡マークが配置され、これを押下することで前記映像表示枠内の映像が拡大される。もう一度、前記虫眼鏡マークを押下することで、映像が最初の枠のサイズに戻る。
前記ルートボタンを押下すると、図8に示すようにロボットの走行ルートの作成・読み込みを行うポップアップ画面が出現する。前記走行ルートの作成・読み込みを行うポップアップ画面においては、画面の上部に、ロボットの台数を表す正の整数番号、およびロボット名が表示される。また、ルート作成タブおよびルート読み込みタブが表示される。前記ルート作成タブにおいては、上部にはルート設定ボタン、中央部には待機時間設定枠、その場で待機ボタン、一時停止ボタン、角度入力枠、角度をセットボタン、およびリセットボタンが配置される。前記角度入力枠の直下には、入力した角度値を変化させることができるスライダーが配置される。更に、下部にはこの設定ルートを保存するボタン、および前記角度入力枠に入力した数値に応じて方角を変化させる矢印が配置される。前記ルート読み込みタブにおいては、図9に示すようにファイル名表示欄、および以前保存した走行ルートのデータファイルを読み出すための、ファイルを参照ボタンが配置される。前記走行ルートの作成・読み込みを行うポップアップ画面を閉じるには、右上の×ボタンを押下する。
前記ロボットコントロールエリアには、SelectエリアおよびAllエリアが設けられている。
ロボットを手動走行させる場合、前記撮像シーン表示エリアあるいは前記ポジション図面表示エリアで任意のロボットをマウスで押下することにより選択し、続いて、前記Selectエリアにおいて、ロボットの前後左右の進行方向を制御するコントロールボタン、ロボットの上下首振りを制御するコントロールボタンを操作する。
一方、ロボットを自動走行させる場合は、前記撮像シーン表示エリアあるいは前記ポジション図面表示エリアで任意のロボットをマウスで押下することにより選択し、次に、前記ポジション図面表示エリアで、PCのキーボードにおけるCtrlキーを押しながら、かつマウスで走行ルートの線を引くことによってロボットの走行ルート(Start地点とGoal地点)を設定する。続いて、前記Selectエリアにおいて、前記ルートが片道あるいはリピート(ルート走行の往復と繰り返し)を選択するボタンを押下し、スタートボタンで自動走行を開始させる。自動走行中のロボットを停止させる場合は、動作停止ボタンを押下する。自動走行のルート(Start地点とGoal地点)を削除する場合は、ルート削除ボタンを押下する。ロボットを自動走行で充電器を設置した場所に戻すには、ホームボタンを押下する。探知ボタンは、ホームボタンを押下してもロボットが充電器の近傍までしか到達しなかったときに操作するボタンで、充電器の位置を検知してその位置まで戻る機能を有する。
前記Selectエリアは、図10に示すように隠しタブを備えている。前記隠しタブを開くと、前記Selectエリアの左側に画像表示、音声再生、およびムービー再生の3つのボタンが表示される。
前記画像表示ボタンを押下した場合、図11に示すようにロボットが備える電子ディスプレイ上に表示したい図絵・文字情報のボタンの一覧が表示される。複数の前記図絵・文字情報のうちの一つを選択すると、その図絵・文字情報が任意のロボットの電子ディスプレイ上に静止画として表示される。
前記音声再生ボタンを押下した場合、図12に示すようにロボットが備えるスピーカーに出音したい音源情報のボタンの一覧が表示される。Listeningボタンは、ロボットが備えるスピーカーに出音する前に、確認のためPCのスピーカーに出音させて、音源を事前確認するためのボタンである。Send BGMボタンは、実際に任意のロボットの備えるスピーカーから出音を指示するボタンである。更に、前記音源情報のボタン一覧の上部に配置されたALL STOPボタンを押下すると、任意のロボットにおけるスピーカーからの出音を中止することができる。
前記ムービー再生ボタンを押下した場合、図13に示したようにロボットが備える電子ディスプレイ上に出力したいムービー情報のボタンの一覧が表示される。それぞれのムービーには、ビデオ名とそのデータ容量が明記される。複数の前記ムービー情報のボタンのうちの一つを選択すると、そのムービーが任意のロボットの電子ディスプレイ上に映像として出力される。更に、前記ムービー情報のボタン一覧の上部に配置されたALL STOPボタンを押下すると、任意のロボットにおける電子ディスプレイからの映像表示を中止することができる。
前記図絵・文字情報のボタンの一覧、前記音源情報のボタンの一覧、および前記ムービー情報のボタンの一覧を閉じるには、右上の×ボタンを押下する。
前記Allエリアにおいて、ロボット走行時の最高・最低速度を設定するエリア速度設定のスライダーは、ロボットの手動および自動の両運転時に使用する。更に、前記Allエリアにおいて、自動走行中および手動走行中の全ロボットの走行を停止させるには、全ロボット停止ボタンを押下する。加えて、図7に示される様に、ロボットに搭載されたス
ピーカーおよびマイクを通じた音声通話において、任意のロボットの音声通話を一斉にON/OFFを行う切り替えスイッチボタンが配置される。更に、ロボットを用いて電気器具、ここでは一例として、空調、照明、および3Dプリンターの電源のON/OFFを行う切り替えスイッチボタンを備える。前記ロボット操縦管理画面を閉じるには、右上の×ボタンを押下する。
ピーカーおよびマイクを通じた音声通話において、任意のロボットの音声通話を一斉にON/OFFを行う切り替えスイッチボタンが配置される。更に、ロボットを用いて電気器具、ここでは一例として、空調、照明、および3Dプリンターの電源のON/OFFを行う切り替えスイッチボタンを備える。前記ロボット操縦管理画面を閉じるには、右上の×ボタンを押下する。
以上説明したように、本実施形態に係る地図表示システムは、遠隔にある複数施設に居るテレプレゼンスロボットが生成した自己位置推定地図を同時に1つの電子ディスプレイに表示することが可能になるため、テレプレゼンスロボットにおける視覚的に統合監視・運用体制を構築できる。更に、テレプレゼンスロボットの生成した自己位置推定地図毎に電子ディスプレイを用意する必要がないという利点も生じる。
本発明に係る地図表示システムについて、応用シナリオを用いて更に説明する。本発明の技術的範囲は、応用シナリオの具体的内容のみを根拠として限定されることはない。
(応用シナリオ1:遠隔地間の事務所)
北海道の事務所Cの1階と沖縄県の事務所Dの1階のそれぞれにテレプレゼンスロボットを1台ずつ配置することにより、事務所内の巡回および警備を行っている。北海道の事務所の出入り口脇にある柱の角を原点として、三次元画像計測センサーNavVis VLX(登録商標、独NavVis社製)を用いて自己位置推定地図Cと環境画像Cを取得した。更に、写真測量ソフトウェアMetashapeを用いて自己位置推定地図Cに環境画像Cを貼り付けることによって、VR地図Cを作成した。
北海道の事務所Cの1階と沖縄県の事務所Dの1階のそれぞれにテレプレゼンスロボットを1台ずつ配置することにより、事務所内の巡回および警備を行っている。北海道の事務所の出入り口脇にある柱の角を原点として、三次元画像計測センサーNavVis VLX(登録商標、独NavVis社製)を用いて自己位置推定地図Cと環境画像Cを取得した。更に、写真測量ソフトウェアMetashapeを用いて自己位置推定地図Cに環境画像Cを貼り付けることによって、VR地図Cを作成した。
加えて、VR地図Cの中を仮想のLiDARを備えた仮想のテレプレゼンスロボットを走行させてSLAM地図Cを作成した。このとき、仮想のテレプレゼンスロボットの走行開始の原点を前記の北海道にある事務所Cの出入り口脇にある柱の角とした。
次に、VR地図CとSLAM地図Cを、ゲームエンジンUnityを用いて重畳し、重畳地図Cを作成した。
同様に、沖縄県の事務所Dのお客様案内所のデスクの角を原点として、三次元画像計測センサーNavVis VLXを用いて自己位置推定地図Dと環境画像Dを取得した。更に、写真測量ソフトウェアMetashapeを用いて自己位置推定地図Dに環境画像Dを貼り付けることによって、VR地図Dを作成した。
加えて、VR地図Dの中を仮想のLiDARを備えた仮想のテレプレゼンスロボットを走行させてSLAM地図Dを作成した。このとき、仮想のテレプレゼンスロボットの走行開始の原点を前記の沖縄県にある事務所のお客様案内所のデスクの角とした。
次に、VR地図DとSLAM地図Dを、ゲームエンジンUnityを用いて重畳し、重畳地図Dを作成した。
続いて、重畳地図Cと重畳地図Dを重畳地図統合サーバに読み込み、事務所Cの原点と事務所Dの原点の間で距離オフセットを自動設定しながら、重畳地図Cと重畳地図Dが同時に1つの電子ディスプレイ上に表示できるように距離オフセットの値を調整して完成させた。重畳地図統合サーバに備えられたゲームエンジンとしてはUnityを用いた。
(応用シナリオ2:階数の違う事務所)
同じビルの1階と5階の事務所のそれぞれにテレプレゼンスロボットを1台ずつ配置することにより、事務所内の巡回および警備を行っている。テレプレゼンスロボットを監視す
る中央監視センターは1階に設置した。1階の事務所Eの出入り口脇にある柱の角を原点として、三次元画像計測センサーNavVis VLXを用いて自己位置推定地図Eと環境画像Eを取得した。更に、写真測量ソフトウェアPix4Dmapperを用いて自己位置推定地図Eに環境画像Eを貼り付けることによって、VR地図Eを作成した。
同じビルの1階と5階の事務所のそれぞれにテレプレゼンスロボットを1台ずつ配置することにより、事務所内の巡回および警備を行っている。テレプレゼンスロボットを監視す
る中央監視センターは1階に設置した。1階の事務所Eの出入り口脇にある柱の角を原点として、三次元画像計測センサーNavVis VLXを用いて自己位置推定地図Eと環境画像Eを取得した。更に、写真測量ソフトウェアPix4Dmapperを用いて自己位置推定地図Eに環境画像Eを貼り付けることによって、VR地図Eを作成した。
加えて、1階の事務所Eの中を現実のLiDARを備えた現実のテレプレゼンスロボットを走行させてSLAM地図Eを作成した。このとき、現実のテレプレゼンスロボットの走行開始の原点を前記の1階の事務所Eの出入り口脇にある柱の角とした。
次に、VR地図EとSLAM地図EをゲームエンジンUnreal Engineを用いて重畳し、重畳地図Eを作成した。
同様に、同ビルの5階の事務所Fの出入り口脇にある柱の角を原点として、三次元画像計測センサーNavVis VLXを用いて自己位置推定地図Fと環境画像Fを取得した。更に、写真測量ソフトウェアPix4Dmapperを用いて自己位置推定地図Fに環境画像Fを貼り付けることによって、VR地図Fを作成した。
加えて、VR地図Fの中を現実のLiDARを備えた現実のテレプレゼンスロボットを走行させてSLAM地図Fを作成した。このとき、現実のテレプレゼンスロボットの走行開始の原点を前記の5階の事務所Fの出入り口脇にある柱の角とした。
次に、VR地図FとSLAM地図FをゲームエンジンUnreal Engineを用いて重畳し、重畳地図Fを作成した。
続いて、重畳地図Eと重畳地図Fを重畳地図統合サーバに読み込み、1階の事務所Eの原点と5階の事務所Fの原点の間で距離オフセットを自動設定しながら、重畳地図Eと重畳地図Fが同時に1つの電子ディスプレイ上に表示できるように距離オフセットの値を調整して完成させた。重畳地図統合サーバに備えられたゲームエンジンとしてはUnreal Engineを用いた。
(応用シナリオ3:遠隔地間の事務所)
北海道の事務所Gの1階と沖縄県の事務所Hの1階のそれぞれにテレプレゼンスロボットを1台ずつ配置することにより、事務所内の巡回および警備を行っている。北海道の事務所の1階のCADデータをVR地図Gとし、VR地図Gにおける事務所の出入り口脇にある柱の角を原点とした。VR地図Gの中を仮想のLiDARを備えた仮想のテレプレゼンスロボットを走行させてSLAM地図Gを作成した。
北海道の事務所Gの1階と沖縄県の事務所Hの1階のそれぞれにテレプレゼンスロボットを1台ずつ配置することにより、事務所内の巡回および警備を行っている。北海道の事務所の1階のCADデータをVR地図Gとし、VR地図Gにおける事務所の出入り口脇にある柱の角を原点とした。VR地図Gの中を仮想のLiDARを備えた仮想のテレプレゼンスロボットを走行させてSLAM地図Gを作成した。
次に、VR地図GとSLAM地図Gを、ゲームエンジンCRYENGINEを用いて重畳し、重畳地図Gを作成した。
同様に、沖縄県の事務所Dの1階のBIMデータをVR地図Hとし、VR地図Hにおけるお客様案内所のデスクの角を原点とした。VR地図Hの中を仮想のLiDARを備えた仮想のテレプレゼンスロボットを走行させてSLAM地図Hを作成した。
次に、VR地図HとSLAM地図HをゲームエンジンCRYENGINEを用いて重畳し、重畳地図Hを作成した。
続いて、重畳地図Gと重畳地図Hを重畳地図統合サーバに読み込み、事務所Gの原点と事務所Hの原点の間で距離オフセットを自動設定しながら、重畳地図Gと重畳地図Hが同時に1つの電子ディスプレイ上に表示できるように距離オフセットの値を調整して完成さ
せた。重畳地図統合サーバに備えられたゲームエンジンとしてはCRYENGINEを用いた。
せた。重畳地図統合サーバに備えられたゲームエンジンとしてはCRYENGINEを用いた。
以上、本発明の各応用シナリオについて説明したが、具体的なシナリオはこれらの応用シナリオに限られるものではなく、本発明の要旨を逸脱しない範囲のシナリオの変更、組み合わせなども含まれる。
複数施設で走行稼働しているテレプレゼンスロボットの現在位置を1つの電子ディスプレイ上で表示するにあたり、電子ディスプレイからより遠く離れた施設にあるテレプレゼンスロボットの場合、より近くの施設にあるテレプレゼンスロボットと比べて現在位置の地図の更新時刻が古くなる可能性がある。しかし、第5世代の高速大容量移動通信システムを利用することによって各施設の地図更新時刻を低遅延で電子ディスプレイ上に表示できる。
本発明に係る地図表示システムにおいては、本来2台以上の電子ディスプレイを用いて表示しなければならなかった地図を1台の電子ディスプレイだけで表示することができるようになることから、頭を左右に振って電子ディスプレイを視認する角度が小さくなることによって1度に対象物(テレプレゼンスロボット)の現在位置を確認できる。加えて、電子ディスプレイの台数も節約することができるためコストを節約できるメリットも生じる。
1・・・地図表示システム
10・・・テレプレゼンスロボット
20・・・環境形状計測センサー
30・・・情報端末
40・・・三次元画像計測センサー
50・・・重畳地図統合サーバ
60・・・記憶部
70・・・ネットワーク
10・・・テレプレゼンスロボット
20・・・環境形状計測センサー
30・・・情報端末
40・・・三次元画像計測センサー
50・・・重畳地図統合サーバ
60・・・記憶部
70・・・ネットワーク
Claims (4)
- 複数の施設内部に係る情報を生成して一台のディスプレイ装置に表示するシステムであって、
前記複数の施設の内部を三次元環境形状計測センサーによって計測してそれぞれの施設の内部のVR地図を生成するか、あるいは前記複数の施設のCADデータやBIM(Building Information Modeling)データのVR地図を利用し、前記VR地図上を、環境形状計測センサーを備えたテレプレゼンスロボットが走行することによってSLAM地図を生成し、
前記VR地図と前記SLAM地図を重畳した重畳地図をそれぞれの施設に対して生成し、生成された複数の前記重畳地図を一台の電子ディスプレイ装置に表示することを特徴とする地図表示システム。 - 前記テレプレゼンスロボットが仮想のものであり、仮想の環境形状計測センサーを備え、前記VR地図のデジタルデータ上で仮想的に走行して前記SLAM地図を生成することを特徴とする請求項1に記載の地図表示システム。
- 前記複数の施設の前記重畳地図の原点間に、一台の電子ディスプレイ装置に表示できるように距離のオフセットが設定されていることを特徴とする請求項1に記載の地図表示システム。
- 前記テレプレゼンスロボットが走行を開始するスタート位置を、前記VR地図における直交座標の原点、および前記重畳地図における直交座標の原点としたことを特徴とする請求項1に記載の地図表示システム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022133161 | 2022-08-24 | ||
JP2022133161 | 2022-08-24 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2024031744A true JP2024031744A (ja) | 2024-03-07 |
Family
ID=90105603
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023009453A Pending JP2024031744A (ja) | 2022-08-24 | 2023-01-25 | 地図表示システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2024031744A (ja) |
-
2023
- 2023-01-25 JP JP2023009453A patent/JP2024031744A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20190041972A1 (en) | Method for providing indoor virtual experience based on a panorama and a 3d building floor plan, a portable terminal using the same, and an operation method thereof | |
JP7344974B2 (ja) | マルチ仮想キャラクターの制御方法、装置、およびコンピュータプログラム | |
CN105659170B (zh) | 用于向远程用户传送视频的方法及视频通信装置 | |
KR101770648B1 (ko) | 파노라마와 3차원 건물평면도 기반 실내 가상체험 제공 방법, 이를 이용한 휴대용 단말기 및 그 동작 방법 | |
US20200394841A1 (en) | Information processing apparatus, information processing method, and storage medium | |
US20210255328A1 (en) | Methods and systems of a handheld spatially aware mixed-reality projection platform | |
CN111951374B (zh) | 房屋装修数据的处理方法、装置、电子设备及存储介质 | |
JP6348732B2 (ja) | 情報処理システム、情報処理装置、情報処理プログラム、および情報処理方法 | |
JP6090321B2 (ja) | 情報処理装置及びプログラム | |
CN111968247B (zh) | 三维房屋空间的构建方法、装置、电子设备及存储介质 | |
US11657085B1 (en) | Optical devices and apparatuses for capturing, structuring, and using interlinked multi-directional still pictures and/or multi-directional motion pictures | |
US20220124288A1 (en) | Output control apparatus, display terminal, remote control system, control method, and non-transitory computer-readable medium | |
EP2974509A1 (en) | Personal information communicator | |
US20240087157A1 (en) | Image processing method, recording medium, image processing apparatus, and image processing system | |
JPWO2019069575A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN111028566A (zh) | 直播教学的方法、装置、终端和存储介质 | |
EP4252195A1 (en) | Real world beacons indicating virtual locations | |
US20220129228A1 (en) | Synchronizing positioning systems and content sharing between multiple devices | |
CN113677412B (zh) | 信息处理装置、信息处理方法和程序 | |
JP2024031744A (ja) | 地図表示システム | |
US20240118703A1 (en) | Display apparatus, communication system, display control method, and recording medium | |
KR20200041877A (ko) | 정보 처리 장치, 정보 처리 방법 및 프로그램 | |
US20240323240A1 (en) | Communication control server, communication system, and communication control method | |
CN105928533B (zh) | 导航方法及装置、电子设备 | |
US20240053746A1 (en) | Display system, communications system, display control method, and program |