JP2020086628A - 制御装置、プログラムおよびシステム - Google Patents
制御装置、プログラムおよびシステム Download PDFInfo
- Publication number
- JP2020086628A JP2020086628A JP2018216239A JP2018216239A JP2020086628A JP 2020086628 A JP2020086628 A JP 2020086628A JP 2018216239 A JP2018216239 A JP 2018216239A JP 2018216239 A JP2018216239 A JP 2018216239A JP 2020086628 A JP2020086628 A JP 2020086628A
- Authority
- JP
- Japan
- Prior art keywords
- information
- unit
- display
- display device
- keyword
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Processing Or Creating Images (AREA)
Abstract
Description
例えば、当該制御装置では、仮想的なキーボードおよび仮想的なマウスによって文字などの入力を受け付ける。この際、当該制御装置では、当該表示装置を装着したユーザーの頭部の向きの変化に応じて仮想的なキーボードあるいは仮想的なマウスに対する動作を判定し、当該動作に応じて文字などの入力を受け付ける。このように、当該ユーザーは頭部を動かして文字などを入力するため、多大な労力を要する場合があった。
一構成例として、制御装置において、前記キーワードは、前記表示装置の状況に応じて、階層的に変化する。
一構成例として、制御装置において、前記キーワードを用いて検索を行う検索部を備え、前記表示制御部は、前記検索部によって検索された情報を前記表示装置によって表示させる。
一構成例として、制御装置において、前記表示制御部は、前記ユーザーによって行われる指示に応じて、前記キーワードまたは前記検索部によって検索された情報のうちの少なくとも一方を所定の箇所に貼り付けた表示を行う。
第1実施形態を説明する。
<MRシステム>
図1は、本発明の一実施形態に係るMRシステム1の概略的な構成を示す図である。
MRシステム1は、表示装置11と、携帯装置12と、サーバ装置21と、情報処理装置22と、ディスプレイ装置23と、データベース24と、ルータ装置25と、ネットワーク31を備える。
また、図1には、ユーザー51およびオペレーター61を示してある。本実施形態では、ユーザー51およびオペレーター61は、それぞれ、人間である。
また、表示装置11は、例えば、透過型の表示機能を有する。透過型の表示機能では、外界の光をユーザー51の両目の部分を覆う表示部に透過させつつ、仮想的な画像を当該表示部に表示させることが可能である。これにより、透過型の表示機能では、現実の世界と仮想的な画像とが組み合わされた視覚情報をユーザー51に与えることが可能である。仮想的な画像は、例えば、ホログラム画像と呼ばれてもよい。
このように、表示装置11は、ユーザー51に装着されて、実空間の光を表示部に透過させて、仮想的な画像を当該表示部に表示することが可能である。
情報処理装置22は、例えば、コンピュータである。
情報処理装置22は、ディスプレイ装置23を備える。
また、情報処理装置22とサーバ装置21とが接続されている。この接続は、例えば、有線の回線を用いて行われてもよく、あるいは、無線の回線を用いて行われてもよい。
また、ルータ装置25は、例えば、Wi−Fi(登録商標)に対応している。
本実施形態では、この接続は、無線の回線を介して行われるが、他の例として、この接続は、有線の回線を介して行われてもよい。
本実施形態では、サーバ装置21において、制御装置41は、ネットワーク31およびルータ装置25を介して、表示装置11および携帯装置12と通信する。制御装置41は、表示装置11を制御して、表示装置11によってMRの表示を行わせる。制御装置41は、表示装置11あるいは携帯装置12から受信された情報をMRの表示に使用することが可能である。
また、制御装置41は、ネットワーク31を介して、データベース24と通信する。データベース24は、各種の情報を記憶する。制御装置41は、データベース24に記憶された情報を検索して、得られた情報を受信する。制御装置41は、検索により得られた情報をMRの表示に使用することが可能である。
データベース24に記憶される情報は、任意の情報であってもよく、例えば、監視対象が監視された結果の情報であってもよい。監視対象は、例えば、所定の設備あるいは機器などの温度あるいは圧力などであってもよい。
情報処理装置22は、サーバ装置21の制御装置41と通信する。情報処理装置22は、制御装置41に指示などの信号を送信し、制御装置41から送信される信号を受信する。情報処理装置22は、ディスプレイ装置23の画面に情報を表示する。本実施形態では、中央管理場所にいるオペレーター61が、情報処理装置22を操作し、ディスプレイ装置23の画面に表示される情報を見る。本実施形態では、例えば、オペレーター61が情報処理装置22を操作することで制御装置41を制御し、これにより、表示装置11から遠隔に離れた場所で遠隔制御を行い、表示装置11が存在する現場を支援することが行われてもよい。また、情報処理装置22は、例えば、ディスプレイ装置23の画面に、表示装置11を装着したユーザー51によって見られる実空間の画像と仮想的な画像とのうちの一方または両方を表示させてもよく、これにより、ユーザー51によって行われる作業の監視が行われてもよい。
なお、それぞれの信号には、各種の情報が含まれてもよい。
携帯装置12は、当該携帯装置12の位置を検出して、検出された位置の情報を制御装置41に送信する。
本実施形態では、表示装置11はユーザー51によって装着されており、携帯装置12はユーザー51によって携帯されており、表示装置11の位置と携帯装置12の位置とユーザー51の位置とが同じであるとみなす。つまり、実際には、表示装置11の位置と携帯装置12の位置とユーザー51の位置とは異なり得るが、本実施形態では、これらがほぼ同じ位置に存在する状態が維持されるとしている。このため、以下の説明では、表示装置11の位置と携帯装置12の位置とユーザー51の位置はいずれも同じ位置であるとみなすが、他の例として、それぞれの位置が区別される処理(本実施形態では詳細な説明を省略する。)が行われる場合には、それぞれの位置が別の位置として検出される。
なお、表示装置11と携帯装置12とは、例えば、直接的に有線または無線で通信してもよく、あるいは、ルータ装置25を介して通信してもよい。
また、情報処理装置22、データベース24、およびルータ装置は、必ずしもサーバ装置21と別体でなくてもよく、情報処理装置22、データベース24、およびルータ装置のうちの任意の1以上の装置が、サーバ装置21と一体化されていてもよい。
また、本実施形態に係るMRシステム1では、オペレーター61により使用される情報処理装置22およびディスプレイ装置23が備えられるが、他の例として、これらの装置が備えられなくてもよい。
また、本実施形態では、制御装置41がMRの表示のための画像を生成して当該画像を表示装置11に送信し、表示装置11は当該情報を受信して表示する。
図2は、本発明の一実施形態に係る表示装置11の概略的な構成を示す図である。
表示装置11は、通信部111と、記憶部112と、表示部113と、検出部114と、制御部115を備える。
通信部111は、ルータ装置25およびネットワーク31を介して、サーバ装置21の制御装置41と通信する。
記憶部112は、各種の情報を記憶する。
表示部113は、情報を表示する。表示部113は、例えば、ユーザー51の右目用の表示部分と左目用の表示部分を有していてもよい。
本実施形態では、検出部114は、周囲の情報を取得する周囲情報取得装置を備えており、当該周囲情報取得装置によって、表示装置11の周囲の情報を検出して、当該情報を取得する。
また、本実施形態では、周囲情報取得装置は、撮像装置を含んでおり、当該撮像装置によって、表示装置11の外界の画像を撮像して、当該画像の情報を取得する。
本実施形態では、表示装置11において、当該撮像装置は、表示装置11を装着したユーザー51の視線の方向の周囲の画像を外界の画像として撮像する位置に備えられている。具体的には、当該撮像装置は、表示装置11がユーザー51によって装着された状態において、ユーザー51の両目の中央にあたる位置に備えられており、ユーザー51の頭部とは反対方向の画像を撮像するように配置されている。
例えば、周囲情報取得装置は、画像を撮像する撮像装置を含まずに、画像以外の超音波あるいは温度などのうちの1以上の情報を取得する装置を含んでもよい。この場合、周囲の情報としては、画像以外の情報が用いられる。
また、他の例として、検出部114は、表示装置11とは別体で備えられてもよい。例えば、検出部114が複数の情報取得装置を含む場合、これら複数の情報取得装置のうちの一部が別体で備えられてもよい。なお、情報取得装置としては、例えば、周囲情報取得装置に含まれる各種の情報を取得する装置(例えば、画像の情報を取得する撮像装置、超音波の情報を取得する装置、温度の情報を取得する装置など)であると捉えられてもよく、または、周囲情報取得装置の全体であると捉えられてもよく、あるいは、その他の各種のセンサであると捉えられてもよい。
制御部115は、機能部の例として、表示制御部131と、検出情報送信制御部132を備える。
表示制御部131は、表示部113による画像の表示を制御する。本実施形態では、表示装置11では、制御装置41から送信される画像の情報を通信部111によって受信し、表示制御部131が受信された画像の情報に基づいて表示部113によって当該画像を表示させる制御を行う。
検出情報送信制御部132は、検出部114によって検出された情報を通信部111によって制御装置41に対して送信する。本実施形態では、当該情報は、検出部114が有する周囲情報取得装置によって取得された情報を含む。
図3は、本発明の一実施形態に係る携帯装置12の概略的な構成を示す図である。
携帯装置12は、入力部211と、出力部212と、通信部213と、記憶部214と、位置検出部215と、制御部216を備える。
入力部211は、ユーザー51によって行われる操作の内容を受け付けて入力する機能、および有線で接続された外部の装置から出力される情報を入力する機能を有する。
出力部212は、情報を表示画面に出力する機能、および有線で接続された外部の装置に情報を出力する機能を有する。
ここで、外部の装置は、例えば、USBメモリなどの携帯可能な記録媒体であってもよい。
記憶部214は、各種の情報を記憶する。
位置検出部215は、携帯装置12の位置を検出する。本実施形態では、位置検出部215は、GPS(Global Positioning System)の機能を有しており、GPS衛星から無線送信される信号を受信し、受信された信号に基づいて位置を検出する。
制御部216は、機能部の例として、位置情報送信制御部231を備える。
位置情報送信制御部231は、位置検出部215によって検出された位置の情報を通信部213によって制御装置41に対して送信する。
図4は、本発明の一実施形態に係る制御装置41の概略的な構成を示す図である。
制御装置41は、入力部311と、出力部312と、通信部313と、記憶部314と、制御部315を備える。
入力部311は、制御装置41を操作する者によって行われる操作の内容を受け付けて入力する機能、および有線で接続された外部の装置から出力される情報を入力する機能を有する。
出力部312は、情報を表示画面に出力する機能、および有線で接続された外部の装置に情報を出力する機能を有する。
記憶部314は、各種の情報を記憶する。本実施形態では、記憶部314は、地図情報331を記憶する。
地図情報331には、様々な領域の情報、設備あるいは機器などの情報が含まれてもよい。
なお、「設備」あるいは「機器」といった語は、例示であって、他の任意の名称で呼ばれてもよい。また、「設備」と「機器」は、必ずしも区別されなくてもよく、両者が同様なものを表すと捉えられてもよい。
例えば、本実施形態では、地図情報331には、あらかじめ定められた1個以上の設備あるいは機器などの識別情報および当該設備あるいは機器などの配置の情報が含まれている。当該設備あるいは機器などの識別情報としては、例えば、当該設備あるいは機器などの名称などの情報が用いられる。
また、地図情報331において、設備あるいは機器などは、例えば、直方体あるいは円柱などのように、簡易化された立体を用いて表されてもよい。仮想空間における簡易化された立体と、実空間における該当する箇所とが、位置合わせされてもよい。
地図情報331は、例えば、あらかじめ人間または装置によって作成されて記憶部314に記憶させられる。一例として、地図情報331は、情報処理装置22あるいはサーバ装置21において生成されてもよい。
なお、本実施形態では、制御装置41が地図情報331に基づいてキーワードを取得することが可能な場合を示すが、他の例として、制御装置41が領域あるいは機器などに関連するキーワードを取得するための情報が、地図情報331とは別の情報として記憶部314に記憶されてもよい。
制御部315は、機能部の例として、空間認識部351と、地図取得部352と、機器配置対応付け部353と、位置姿勢取得部354と、キーワード取得部355と、検索部356と、表示制御部357を備える。
本実施形態では、地図取得部352は、表示装置11から送信されて通信部313によって受信された情報に含まれる所定のマーカーの情報を検出する。例えば、表示装置11の周囲の情報に表示装置11の外界の画像の情報が含まれる場合、当該マーカーの情報としては、当該画像に含まれる視覚的に認識可能な情報であってもよい。当該マーカーとしては、例えば、ARマーカーが用いられてもよい。
本実施形態では、地図情報331には、空間認識部351によって認識された空間の地図の情報が含まれている。
本実施形態では、地図情報331は、所定のマーカーと対応付けられている。そして、地図取得部352は、検出されたマーカーに対応付けられた地図情報331を取得する。
なお、空間認識部351によって認識される空間があらかじめ定められていて、当該空間に対応する地図情報331があらかじめ特定されている場合には、所定のマーカーは用いられなくてもよい。
一例として、地図取得部352は、所定のマーカーが検出された空間においては当該マーカーに基づいて当該空間に対応する地図情報331を取得し、所定のマーカーが検出されない空間においては位置の情報に基づいて当該位置に対応する地図情報331を取得してもよい。
また、例えば、携帯装置12により検出される位置の情報が使用されない場合には、MRシステム1に携帯装置12が備えられなくてもよく、また、制御装置41に当該位置の情報を取得する機能が備えられなくてもよい。
ここで、機器の配置の情報では、それぞれの機器の寸法の情報が設定されている。当該寸法としては、例えば、3次元直交座標系であるXYZ座標系のうちの1個、2個、または3個の軸方向の寸法が用いられてもよい。一例として、寸法が幅、奥行き、および高さで規定される場合に、例えば、幅のみ、幅と奥行き、幅と高さ、または、幅と奥行きと高さ、などが用いられてもよい。
一例として、機器配置対応付け部353は、表示装置11を装着したユーザー51が所定の機器の所定の位置を指したときの指の位置を検出して、その検出結果に基づいて、空間と機器の配置との対応付けを微調整してもよい。
ここで、位置姿勢取得部354は、例えば、機器配置対応付け部353によって行われた対応付けの結果と、表示装置11から送信されて通信部313によって受信された情報に基づいて、表示装置11の位置の情報を取得する。
また、位置姿勢取得部354は、表示装置11から送信されて通信部313によって受信された情報に基づいて、表示装置11の姿勢の情報を取得する。つまり、ユーザー51の頭部の姿勢の変化によって表示装置11の姿勢が変化する。
ここで、実空間とは現実の空間のことであり、仮想空間とは現実の空間に基づいて捉えられた仮想的な空間のことである。
例えば、制御部315では、ユーザー51の視線の方向、当該方向の変化、あるいはユーザー51の頭部の動きに基づいて、文字あるいは指示などの情報の入力の受け付けなどを行ってもよい。
また、本実施形態では、表示装置11において取得された情報に基づいて表示装置11の姿勢を判定する。一例として、表示装置11において撮像された画像に基づいて表示装置11の姿勢を判定する構成が用いられてもよい。他の例として、表示装置11にジャイロセンサなどのように姿勢を検出することが可能なセンサを備えて、当該センサの検出結果に基づいて表示装置11の姿勢を判定する構成が用いられてもよい。
なお、表示装置11の姿勢の情報が使用されない場合には、制御装置41に当該姿勢の情報を取得する機能が備えられなくてもよい。
なお、キーワード取得部355は、位置姿勢取得部354によって検出された位置と地図情報331に基づいて、キーワードを取得してもよい。つまり、キーワードを取得するために、姿勢の情報が用いられなくてもよい。
また、キーワード取得部355は、領域の名称あるいは機器の名称などを用いて、キーワードを取得してもよい。
他の例として、キーワード取得部355は、表示装置11を装着しているユーザー51が所定の領域に存在するか否かを判定することなく、ユーザー51の視線あるいは視界の向きに存在する機器などに関連するキーワードを取得してもよい。
他の例として、キーワード取得部355は、表示装置11を装着しているユーザー51の位置と所定の機器などの位置との距離が所定の閾値以下である場合に、当該所定の機器などに関連するキーワードを検出してもよい。
ここで、検索部356は、キーワード取得部355によって取得されたキーワードのなかから、ユーザー51によって選択されたキーワードを検索用のキーワードとして受け付けてもよい。この場合、例えば、キーワード取得部355によって取得されたキーワードが表示装置11によって表示されて、表示されたキーワードのなかから、ユーザー51の動作などに応じて1個以上のキーワードの選択を受け付ける。
本実施形態では、検索部356は、通信部313によってネットワーク31を介して、キーワードを用いてデータベース24に記憶された情報を検索する。
そして、検索部356は、検索された結果の情報を取得する。
表示制御部357は、例えば、地図情報331、キーワード取得部355によって取得されたキーワード、あるいは、検索部356によって検索された結果などのうちの1以上に基づいて、表示装置11によって表示させる画像の情報を生成する。つまり、表示制御部357は、例えば、地図、キーワード、検索結果などのうちの任意の1以上の情報を表示装置11に表示させる機能を有する。
他の例として、1個の制御装置41によって複数の異なる表示装置11を監視する場合には、例えば、それぞれの表示装置11に識別情報が設定され、制御装置41とそれぞれの表示装置11とはそれぞれの識別情報を用いて通信する。また、情報処理装置22およびサーバ装置21では、例えば、それぞれの表示装置11に関する情報を、それぞれの識別情報を用いて、管理する。
図5〜図10を参照して、MRシステム1における動作の例を示す。
図5は、本発明の一実施形態に係るフロア411の配置の例を示す図である。
フロア411は、発電所がある建物の2階のフロアを表している。図5の例では、1つの階のフロア411を示すが、建物が2以上の階数を有する場合には、それぞれの階についても同様なフロアが認識されてもよい。
8号機には、3個の軸である1軸431、2軸432、3軸433が配置されている。ここで、1軸431〜3軸433は一例であり、軸の数は1、2、あるいは、4以上であってもよい。また、「軸」は名称の例であり、他の任意の名称であってもよい。
1軸431の領域には、2個の機器451、452が配置されている。2軸432の領域には1個の機器453が配置されている。3軸433の領域には2個の機器454、455が配置されている。なお、各軸に配置される機器の数あるいは種類は任意であってもよい。
1軸431には、1軸431の領域であると判定される1軸領域441が設定されている。
2軸432には、2軸432の領域であると判定される2軸領域442が設定されている。
3軸433には、3軸433の領域であると判定される3軸領域443が設定されている。
それぞれの機器451〜455には、それぞれの機器451〜455の領域であると判定される機器領域461〜465が設定されている。
また、号機領域421、1軸領域441、2軸領域442、3軸領域443、機器領域461〜465は、制御装置41が実空間に対応付けた仮想空間におけるものである。
これらの仮想空間におけるものは、地図情報331によって規定されている。
図5の例では、表示装置11を装着したユーザー51がフロア411に入ったときにいる位置に近いところに、ARマーカー471が設置されている。
制御装置41では、ARマーカー471を検出したことに基づいて、フロア411の空間に地図情報331を重ねることで、フロア411の状況を把握する。
つまり、階層の大きい方から小さい方へ向かって、「号機」、「軸」、「機器」といった順に階層化されている。
ここで、本実施形態では、広い領域から次第に詳細な領域に行く場合に、AND条件でキーワードを絞り込むことが行われるが、他の条件でキーワードが設定されてもよい。
また、ここではユーザー51の移動を規定したが、ユーザー51がどのように移動するかに関わらず、ユーザー51が存在する位置に応じて、当該位置を含む領域に応じてキーワードが絞り込まれた状態となる。
例えば、ユーザー51がフロア411に存在してそれよりも詳細な領域には存在しない状態では、制御装置41は、地図情報331に基づいて、フロア411に関するキーワードを設定する。
例えば、ユーザー51が、フロア411における8号機の号機領域421に存在してそれよりも詳細な領域には存在しない状態では、制御装置41は、地図情報331に基づいて、フロア411にある8号機に関するキーワードを設定する。なお、この状態において、制御装置41は、より広い領域であるフロア411に関するキーワードについても設定してもよく、あるいは、設定しなくてもよい。
例えば、ユーザー51が、号機領域421と1軸領域441と機器領域461に存在する状態では、制御装置41は、地図情報331に基づいて、フロア411にある8号機にある1軸431にある機器451に関するキーワードを設定する。なお、この状態において、制御装置41は、より広い領域であるフロア411に関するキーワード、フロア411にある8号機に関するキーワード、あるいはフロア411にある8号機にある1軸431に関するキーワードのうちの1以上についても設定してもよく、あるいは、設定しなくてもよい。
図6(A)は、フロアに関するキーワードを示してある。本例では、1階を表す「1FL」、2階を表す「2FL」、および3階を表す「3FL」がある。
図6(B)は、2階にある号機に関するキーワードを示してある。本例では、2階の7号機を表す「2FL 7号機」、および2階の8号機を表す「2FL 8号機」がある。
図6(C)は、軸に関するキーワードを示してある。本例では、「1軸」、「2軸」、「3軸」、およびすべての軸に共通であることを表す「共通」がある。
図6(D)は、機器に関するキーワードを示してある。本例では、「グランド蒸気コンデンサのファン」、「ST主要弁」、「電源盤」、「その他」がある。
本実施形態では、制御装置41は、表示装置11を装着したユーザー51の位置および姿勢に基づいてキーワードを自動的に設定して、設定されたキーワードの情報を表示装置11によって表示させる。このようなキーワードの情報は、例えば、ユーザー51が空間に階層的に設けられた領域あるいは機器などのところを移動していくことなどに応じて、階層的に変化していく。
また、制御装置41は、表示装置11によって検出されたユーザー51の頭部の動きなどに基づいて、ユーザー51によって選択されたキーワードを取得する。そして、制御装置41は、取得されたキーワードを用いてデータベース24を検索し、検索された結果の情報を表示装置11によって表示させる。
本例では、ユーザー51が、表示装置11によって表示されたキーワードとは別のキーワードを選択する場合を示す。
例えば、このとき、ユーザー51が、図7(A)に表示されたキーワードとは異なるキーワードを設定することを希望したとする。本例では、ユーザー51は、頭部の動きなどによって、図7(B)に示される情報を表示させることを指示する。
図7(B)は、ユーザー51の指示に応じて表示されるキーワードを示してある。本例では、「タービン建屋」、「HRSG」、「屋外」がある。
図7(C)は、ユーザー51の指示に応じて表示されるキーワードを示してある。本例では、1階のタービンを表す「1FL タービン」、1階の他のものを表す「1FL その他」、2階のタービンを表す「2FL タービン」、2階の他のものを表す「2FL その他」、3階のタービンを表す「3FL タービン」、3階の他のものを表す「3FL その他」がある。
図7(D)は、ユーザー51の指示に応じて表示されるキーワードを示してある。本例では、「グランド蒸気コンデンサのファン」、「ST主要弁」、「電源盤」、「その他」がある。
図7(E)は、指示されたキーワードを用いて検索された情報が表示される状態を示してある。
本実施形態では、制御装置41は、表示装置11を装着したユーザー51の頭部の動きなどによってキーワードの選択が行われた場合には、選択されたキーワードを用いてデータベース24を検索し、検索された結果の情報を表示装置11によって表示させる。
表示情報1011は、例えば、キーワードが絞り込まれていく場合に、任意の時点で表示されてもよい。
本例では、説明の便宜上、図面を見たときの上下左右を用いて、説明する。
表示情報1011では、最も左の上下の欄には、各種の指示に対応付けられたワードが表示されている。図8の例では、所望の情報を選択することを指示する「えらぶ」、別の装置を選択することを指示する「別の装置」、所望の情報の選択を解除することを指示する「はがす」、1つ前の状態に戻ることを指示する「もどる」、最初の状態に戻ることを指示する「さいしょへ」がある。
ここで、ユーザー51によって「別の装置」が選択されると、例えば、図7に示されるように、制御装置41は、表示情報1011に含まれるキーワード以外のキーワードをユーザー51によって設定することを可能とする。
本例では、識別子と、名称と、数値と、単位とが一組になった情報が、上下方向に、複数格納されている。具体的には、識別子である「1A0000」と、名称である「給水温度」と、数値である「40」と、単位である「°C」とが一組になった情報、識別子である「1A0001」と、名称である「給水圧力」と、数値である「4」と、単位である「MPa」とが一組になった情報、などがある。
図9には、給水管2011と、選択情報2021を示してある。
まず、表示装置11を装着しているユーザー51には、現実世界に存在する給水管2011が見えているとする。なお、給水管2011は、現実世界に存在するものでなくてもよく、他の例として、仮想世界に存在するものであってもよい。
なお、選択情報2021を給水管2011あるいはその付近に貼り付けるためにユーザー51によって行われる動作としては、任意の動作が用いられてもよい。
本例では、説明の便宜上、図面を見たときの上下左右を用いて、説明する。
検索結果情報1021は、あるキーワードを用いて検索された結果の情報を表す。
本例では、識別子と、名称と、単位と、日付および数値とが一組になった情報が、左右方向に、複数格納されている。
具体的には、識別子である「2B0000」と、名称である「ファン入口流量」と、単位である「%」と、日付である「2018/8/26 17:00」および数値である「70.1」のように日付と数値とが対応付けられた1以上の上下方向の欄が含まれる一組になった情報などがある。
図11は、本発明の一実施形態に係る制御装置41において行われる処理の手順の例を示す図である。
本フローでは、空間認識および機器配置との対応付けの処理を行う。
制御装置41は、空間認識部351によって、表示装置11によって取得された周囲の情報に基づいて、表示装置11の周囲の3次元空間を認識する。そして、ステップS2の処理へ移行する。
なお、表示装置11によって撮像された3次元空間の画像の情報が周囲の情報として用いられる場合には、例えば、空間認識部351によって、当該3次元空間を認識することが行われる。
制御装置41は、地図情報331に基づいて、機器配置対応付け部353によって、認識された3次元空間と機器の配置とを対応付ける。そして、本フローの処理を終了する。
本フローでは、キーワードを用いた処理を行う。
制御装置41は、位置姿勢取得部354によって、表示装置11を装着しているユーザー51の位置と姿勢を取得する。そして、ステップS12の処理へ移行する。
制御装置41は、ユーザー51の位置と姿勢に基づいて、キーワード取得部355によって、キーワードを取得する。そして、ステップS13の処理へ移行する。
ここで、取得されたキーワードは、表示制御部357によって、表示装置11によって表示させてもよい。また、検索部356によって、表示されたキーワードのなかから、ユーザー51によって選択されたキーワードを検索用のキーワードとして受け付けてもよい。
制御装置41は、取得されたキーワードを用いて、検索部356によって、データベース24を検索する。そして、ステップS14の処理へ移行する。
制御装置41は、検索の結果に基づいて、表示制御部357によって、情報を表示する。そして、ステップS15の処理へ移行する。
制御装置41は、表示された情報に関して、所定の処理を実行する。そして、本フローの処理を終了する。
ここで、当該所定の処理は、任意の処理であってもよい。また、当該所定の処理は、例えば、あらかじめ定められた処理であってもよく、あるいは、ユーザー51によって指示された処理であってもよい。
以上のように、本実施形態に係るMRシステム1では、例えば、ユーザー51によって装着される表示装置11によってMRの表示が行われる場合に、データ検索のキー(本実施形態では、キーワード)を受け付けることを、当該ユーザー51にとって簡易に、行うことができる。本実施形態に係るMRシステム1では、例えば、広大な領域などにMR技術が適用される場合に、監視用の情報などの検索を簡素化することが可能である。
また、本実施形態に係るMRシステム1では、表示装置11を装着したユーザー51によって簡易な操作が行われるだけで、自動的なキーワードの絞り込み、および、キーワードを用いた自動的な検索などが可能である。また、本実施形態に係るMRシステム1では、表示装置11を装着したユーザー51によって操作が行われなくても、自動的にキーワードを絞り込んで検索を行うように構成することも可能である。
また、本実施形態に係るMRシステム1では、例えば、機器などのそれぞれごとにARマーカーを設置しなくてもよいため、ARマーカーの数を低減させることができる。
第2実施形態を説明する。
本実施形態では、説明の便宜上、第1実施形態に係る図1に示される符号と同じ符号を用いて説明する。
第1実施形態では、表示装置11と制御装置41とを別体で備え、制御装置41が表示装置11を制御することで、表示装置11においてMRの表示が行われるMRシステム1を示した。
本実施形態では、第1実施形態に係る制御装置41の機能の一部または全部と同様な機能を表示装置11に備えることで、表示装置11が単独でMRの表示を行うことが可能な構成とする。
また、本実施形態に係る表示装置11では、地図情報331と同様な情報を記憶部112に記憶している。他の例として、地図情報331は、表示装置11以外の場所の記憶部(図示せず)に記憶されてもよく、この場合、表示装置11は、必要に応じて、当該記憶部に記憶された情報を取得する。
ただし、第1実施形態において行われる表示装置11と制御装置41との通信を行う機能は、本実施形態では、表示装置11に備えられなくてよい。
第3実施形態を説明する。
本実施形態では、説明の便宜上、第1実施形態に係る図1に示される符号と同じ符号を用いて説明する。
本実施形態に係るMRシステム1では、全体としては、第1実施形態に係るMRシステム1と同様な処理が行われる。
本実施形態では、第1実施形態に係る表示装置11、携帯装置12、およびサーバ装置21の制御装置41などのそれぞれに備えられた機能部のそれぞれが、MRシステム1における任意の装置に備えられてもよい。つまり、MRシステム1において、それぞれの機能部が任意のところに備えられていても、全体として、第1実施形態に係るMRシステム1と同様な処理を行うことができればよい。なお、複数の異なる装置に備えられた機能部の間で通信を行うことが必要であれば、これら複数の異なる装置の間で必要な情報を通信する。
一構成例として、制御装置41は、ユーザー51に装着されて実空間の光を表示部に透過させて仮想的な画像を当該表示部に表示することが可能な表示装置11の周囲の情報を取得する周囲情報取得装置(本実施形態では、検出部114に含まれる周囲情報取得装置)によって取得された情報に基づいて空間を認識する空間認識部351と、空間認識部351によって認識された空間と所定の地図情報331とを対応付ける対応付け部(本実施形態では、機器配置対応付け部353)と、対応付け部による対応付けの結果および表示装置11の状況に基づいてキーワードを取得するキーワード取得部355と、キーワード取得部355によって取得されたキーワードを表示装置11によって表示させる表示制御部357と、を備える。
一構成例として、制御装置41では、キーワードは、表示装置11の状況に応じて、階層的に変化する。
一構成例として、制御装置41では、キーワードを用いて検索を行う検索部356を備え、表示制御部357は、検索部356によって検索された情報を表示装置11によって表示させる。
一構成例として、制御装置41では、表示制御部357は、ユーザー51によって行われる指示に応じて、キーワードまたは検索部356によって検索された情報(図9の例では、選択情報2021)のうちの少なくとも一方を所定の箇所(図9の例では、給水管2011)に貼り付けた表示を行う。
すなわち、プログラムは、ユーザー51に装着されて実空間の光を表示部に透過させて仮想的な画像を当該表示部に表示することが可能な表示装置11の周囲の情報を取得する周囲情報取得装置によって取得された情報に基づいて空間を認識する機能と、認識された空間と所定の地図情報331とを対応付ける機能と、対応付けの結果および表示装置11の状況に基づいてキーワードを取得する機能と、取得されたキーワードを表示装置11によって表示させる機能と、をコンピュータに実現させるためのプログラムである。
当該システムは、表示装置11の周囲の情報を取得する周囲情報取得装置によって取得された情報に基づいて空間を認識する空間認識部(本実施形態では、空間認識部351)と、空間認識部によって認識された空間と所定の地図情報331とを対応付ける対応付け部(本実施形態では、機器配置対応付け部353)と、対応付け部による対応付けの結果および表示装置11の状況に基づいてキーワードを取得するキーワード取得部(本実施形態では、キーワード取得部355)と、キーワード取得部によって取得されたキーワードを表示装置11によって表示させる表示制御部(本実施形態では、表示制御部357)と、を備える。
なお、当該システムに備えられる各機能部は、例えば、表示装置11とサーバ装置21とのいずれに備えられてもよい。例えば、一部の機能部が表示装置11に備えられて、他の機能部がサーバ装置21に備えられてもよい。
ここで、以上に示した実施形態に係る各装置(例えば、表示装置11、携帯装置12、サーバ装置21、情報処理装置22、ルータ装置25、制御装置41など)の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録(記憶)して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、処理を行ってもよい。
なお、ここでいう「コンピュータシステム」とは、オペレーティング・システム(OS:Operating System)あるいは周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、フラッシュメモリ等の書き込み可能な不揮発性メモリ、DVD(Digital Versatile Disc)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
また、コンピュータ読み取り可能な記録媒体は、例えば、非一時的記録媒体である。
また、上記のプログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)あるいは電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記のプログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、上記のプログラムは、前述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
Claims (7)
- ユーザーに装着されて実空間の光を表示部に透過させて仮想的な画像を前記表示部に表示することが可能な表示装置の周囲の情報を取得する周囲情報取得装置によって取得された前記情報に基づいて空間を認識する空間認識部と、
前記空間認識部によって認識された前記空間と所定の地図情報とを対応付ける対応付け部と、
前記対応付け部による対応付けの結果および前記表示装置の状況に基づいてキーワードを取得するキーワード取得部と、
前記キーワード取得部によって取得された前記キーワードを前記表示装置によって表示させる表示制御部と、
を備える制御装置。 - 前記表示装置の状況は、前記表示装置の位置、前記表示装置の姿勢、あるいは、前記周囲情報取得装置によって取得される前記情報のうちの1以上を含む、
請求項1に記載の制御装置。 - 前記キーワードは、前記表示装置の状況に応じて、階層的に変化する、
請求項1または請求項2のいずれか1項に記載の制御装置。 - 前記キーワードを用いて検索を行う検索部を備え、
前記表示制御部は、前記検索部によって検索された情報を前記表示装置によって表示させる、
請求項1から請求項3のいずれか1項に記載の制御装置。 - 前記表示制御部は、前記ユーザーによって行われる指示に応じて、前記キーワードまたは前記検索部によって検索された情報のうちの少なくとも一方を所定の箇所に貼り付けた表示を行う、
請求項4に記載の制御装置。 - ユーザーに装着されて実空間の光を表示部に透過させて仮想的な画像を前記表示部に表示することが可能な表示装置の周囲の情報を取得する周囲情報取得装置によって取得された前記情報に基づいて空間を認識する機能と、
認識された前記空間と所定の地図情報とを対応付ける機能と、
前記対応付けの結果および前記表示装置の状況に基づいてキーワードを取得する機能と、
取得された前記キーワードを前記表示装置によって表示させる機能と、
をコンピュータに実現させるためのプログラム。 - ユーザーに装着されて実空間の光を表示部に透過させて仮想的な画像を前記表示部に表示することが可能な表示装置と、サーバ装置と、を有するシステムであって、
前記表示装置の周囲の情報を取得する周囲情報取得装置によって取得された前記情報に基づいて空間を認識する空間認識部と、
前記空間認識部によって認識された前記空間と所定の地図情報とを対応付ける対応付け部と、
前記対応付け部による対応付けの結果および前記表示装置の状況に基づいてキーワードを取得するキーワード取得部と、
前記キーワード取得部によって取得された前記キーワードを前記表示装置によって表示させる表示制御部と、
を備える、
システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018216239A JP7247532B2 (ja) | 2018-11-19 | 2018-11-19 | 制御装置、プログラムおよびシステム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018216239A JP7247532B2 (ja) | 2018-11-19 | 2018-11-19 | 制御装置、プログラムおよびシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020086628A true JP2020086628A (ja) | 2020-06-04 |
JP7247532B2 JP7247532B2 (ja) | 2023-03-29 |
Family
ID=70909949
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018216239A Active JP7247532B2 (ja) | 2018-11-19 | 2018-11-19 | 制御装置、プログラムおよびシステム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7247532B2 (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010118019A (ja) * | 2008-11-14 | 2010-05-27 | Sharp Corp | 端末装置、配信装置、端末装置の制御方法、配信装置の制御方法、制御プログラムおよび記録媒体 |
JP2017027206A (ja) * | 2015-07-17 | 2017-02-02 | キヤノン株式会社 | 情報処理装置、仮想オブジェクトの操作方法、コンピュータプログラム、及び記憶媒体 |
-
2018
- 2018-11-19 JP JP2018216239A patent/JP7247532B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010118019A (ja) * | 2008-11-14 | 2010-05-27 | Sharp Corp | 端末装置、配信装置、端末装置の制御方法、配信装置の制御方法、制御プログラムおよび記録媒体 |
JP2017027206A (ja) * | 2015-07-17 | 2017-02-02 | キヤノン株式会社 | 情報処理装置、仮想オブジェクトの操作方法、コンピュータプログラム、及び記憶媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP7247532B2 (ja) | 2023-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6231362B2 (ja) | プラント監視サーバーおよびプラント監視方法 | |
CN107402000B (zh) | 用于将显示装置相对于测量仪器相互关联的方法和系统 | |
US9746913B2 (en) | Secured mobile maintenance and operator system including wearable augmented reality interface, voice command interface, and visual recognition systems and related methods | |
US20140225814A1 (en) | Method and system for representing and interacting with geo-located markers | |
US20170193302A1 (en) | Task management system and method using augmented reality devices | |
JP6071746B2 (ja) | 情報提供装置及び情報提供システム | |
US20130010068A1 (en) | Augmented reality system | |
US20160154547A1 (en) | Task support terminal apparatus, task support method, program, and recording medium | |
JP2017167992A (ja) | ヘッドマウント装置、プログラム、作業支援システム及び情報処理装置 | |
JP2017062685A (ja) | 点検作業支援装置、システム、及び方法 | |
JP6248985B2 (ja) | 情報検索システム及び情報検索方法 | |
JP2021018710A (ja) | 現場連携システムおよび管理装置 | |
FR3032544A1 (fr) | Procede de gestion de l'affichage, produit programme d'ordinateur et dispositif electronique associes | |
JP2017167978A (ja) | 画像表示システム、情報処理装置、画像表示方法及びコンピュータプログラム | |
JP2017167991A (ja) | ヘッドマウント装置、プログラム及び作業支援システム | |
JP2020086628A (ja) | 制御装置、プログラムおよびシステム | |
KR20200124622A (ko) | 실내 위치 확인 경로들 맵핑 툴 | |
JP6815290B2 (ja) | 物体識別システム | |
JP6976474B1 (ja) | 情報表示装置、情報表示方法及びプログラム | |
US20200242797A1 (en) | Augmented reality location and display using a user-aligned fiducial marker | |
JP7045863B2 (ja) | 情報管理システム、情報管理方法、及びプログラム | |
JP2019002747A (ja) | 目的地特定システム | |
JP2022136542A (ja) | ガスの移動検出装置 | |
JP2022014758A (ja) | 情報処理装置及びプログラム | |
JP7243691B2 (ja) | 装置、システム、方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211019 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220906 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221102 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230214 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230227 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7247532 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |