JP2016157435A - 表示管理方法および関連するコンピュータプログラム製品および電子デバイス - Google Patents

表示管理方法および関連するコンピュータプログラム製品および電子デバイス Download PDF

Info

Publication number
JP2016157435A
JP2016157435A JP2016020603A JP2016020603A JP2016157435A JP 2016157435 A JP2016157435 A JP 2016157435A JP 2016020603 A JP2016020603 A JP 2016020603A JP 2016020603 A JP2016020603 A JP 2016020603A JP 2016157435 A JP2016157435 A JP 2016157435A
Authority
JP
Japan
Prior art keywords
information
electronic device
image
data
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016020603A
Other languages
English (en)
Other versions
JP6896364B2 (ja
Inventor
ドニ、モーラン
Morand Denis
テウフィク、メフタ
Meftah Tewfik
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Schneider Electric Industries SAS
Original Assignee
Schneider Electric Industries SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Schneider Electric Industries SAS filed Critical Schneider Electric Industries SAS
Publication of JP2016157435A publication Critical patent/JP2016157435A/ja
Application granted granted Critical
Publication of JP6896364B2 publication Critical patent/JP6896364B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G05B19/4069Simulating machining process on screen
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/32Operator till task planning
    • G05B2219/32014Augmented reality assists operator in maintenance, repair, programming, assembly, use of head mounted display with 2-D 3-D display and voice feedback, voice and gesture command
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20101Interactive definition of point of interest, landmark or seed

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】装置に関する情報の少なくとも1つの項目を電子デバイスの画面に表示することを管理するための方法を提供する。
【解決手段】装置の画像と前記装置の複数の注目点とを含む、装置の補強画像を提供するステップaと、1組の選ばれた注目点を取得するために、複数の注目点の中から少なくとも1つの注目点を選ぶステップbと、表示される情報を選択するステップcと、装置に利用可能な、装置の1組の図形を提供するステップdと、少なくとも1つの補強概略表現を取得するために、表示される情報のプレビューを装置の図形に挿入することにより、利用可能な装置の各図形を、あらかじめ定められた基準に従って最適化するステップeと、あらかじめ定められた基準に従って、補強概略表現を分類するステップfと、補強画像の代わりに、取得された前記補強概略表現のうちの少なくとも1つを表示するステップhとを含む。
【選択図】図5

Description

本発明は、機器または装置の部品に関する情報の少なくとも1つの項目を電子デバイスの画面に表示することを管理するための方法に関する。本発明はまた、そのような方法を実施するコンピュータプログラム製品、およびそのようなコンピュータプログラム製品を実装する電子デバイスに関する。
複数の産業分野において、電子デバイスにより収集された産業機器または産業装置の部品の画像に仮想モデルを重ね合わせることが知られている。そのような重ね合わせは、産業装置に関する情報がその上に重ね合わされたか、またはそれに関連付けられた新しい画像の形式で、電子デバイスの画面に表示可能である。したがって、そのような画像は補強画像(enriched image)と呼ばれる。そのような表示方法は、一般に、拡張現実の名称で知られる。
この点について、たとえば、仏国特許出願公開第2990286号明細書は、それに関する情報の項目が存在する装置の構成要素を示す注目点(interest point)を開示する。この文書はまた、装置の構成要素に関して収集された画像上の注目点を測位する可能性を明らかにする。
以下の文書も知られている:米国特許第2011/0115816号明細書、およびSanghoon Leeらにより書かれた記事:「Augmented reality-based computational fieldwork support for equipment operations and maintenance」、Automation In Construction、第20巻、第4号、2010年11月4日、338〜352ページ、DOI:10.1016/J.AUTCON.2010.11.004、およびHugo Alvarezらによる:「Providing guidance for maintenance operations using automatic markerless Augmented Reality system」、複合現実および拡張現実に関する第10回IEEE国際シンポジウム、2011年10月26日、181〜190ページ、DOI:10.1109/ISMAR.2011.6092385。
拡張現実内の表示モードから補強画像上で識別される構成要素および情報の一覧表に移ることも知られている。そのような手法では、情報はリスト形式で簡単に作成される。しかしながら、考慮中の産業装置の視覚表現が提供されず、それにより、表示されるデータを考慮に入れ、分析することが容易にならない。
仏国特許出願公開第2990286号明細書 米国特許第2011/0115816号明細書
Sanghoon Leeらにより書かれた記事:「Augmented reality-based computational fieldwork support for equipment operations and maintenance」、Automation In Construction、第20巻、第4号、2010年11月4日、338〜352ページ、DOI:10.1016/J.AUTCON.2010.11.004 Hugo Alvarezらによる:「Providing guidance for maintenance operations using automatic markerless Augmented Reality system」、複合現実および拡張現実に関する第10回IEEE国際シンポジウム、2011年10月26日、181〜190ページ、DOI:10.1109/ISMAR.2011.6092385
ユーザに関する情報にアクセスすることを容易にする表示管理方法が必要である。
この目的のために、本発明の主題は、装置に関する情報の少なくとも1つの項目を電子デバイスの画面に表示することを管理するための方法であり、前記方法は、
a)前記装置の画像と前記装置の複数の注目点とを含む、前記装置の補強画像を提供するステップであって、各注目点は、前記装置の要素(element)に固有の情報の項目に関連付けられている、ステップと、
b)1組の選ばれた注目点を取得するために、前記複数の注目点の中からの少なくとも1つの注目点を選ぶステップと、
c)表示される情報を選択するステップであって、表示される情報は、選ばれた注目点に関連付けられた情報である、ステップと、
d)前記装置に利用可能な(available)、前記装置の1組の図形(diagram)を提供するステップと、
e)前記補強画像と区別され(distinct)、前記装置の図形と、表示される情報の前記項目の1つの少なくとも1つのプレビューとを含む補強概略表現(enriched schematic representation)を取得するために、表示される情報のプレビューを前記装置の図形に挿入することにより、利用可能な前記装置の各図形を、あらかじめ定められた基準に従って最適化するステップであって、表示される情報の前記プレビューは、前記装置の前記図形に適合する(compatible)、ステップと、
f)前記あらかじめ定められた基準に従って、前記補強概略表現を分類するステップと、
h)前記補強画像の代わりに、取得された前記補強概略表現のうちの少なくとも1つを表示するステップと、
を含む。
本発明のおかげで、表示管理方法は、装置上で識別される情報の少なくとも1つの補強概略表現を提供する。そのような表現は、特により図式化され、したがって識別された情報の分析に対する簡略化された手法を提供する。
本発明の有利ではあるが必須ではない態様によれば、そのような表示管理方法は、すべての技術的に許容できる組合せに従って取られる、以下の特徴のうちの1つまたは複数を含む。
−前記方法はさらに、データを選択するステップg)を含み、前記データは、選ばれた注目点に関連付けられた情報ではなく、前記データは、前記電子デバイスにとってアクセス可能であり、表示される情報は、前記選択されたデータも含む。
−前記選択されたデータは、前記電子デバイスの少なくとも1つのセンサから生じる。
−最適化のステップe)は、表示される情報を格子の形式で順序付けることを含む。
−最適化のステップe)は、複数の選択フィルタを使用することを含む。
−最適化のステップe)は、前記注目点が関連付けられた情報の固有のプレビューを各注目点と関連付ける連想配列(associative array)を使用することを含む。
−表示のステップh)は、前記あらかじめ定められた基準の値に従って順序付けられた複数の補強概略表現を表示することを含む。
−前記方法はさらに、前記あらかじめ定められた基準の最も高い値を提示する前記補強概略表現を表示することを含む。
−少なくとも1つのステップは、ユーザの動作によりトリガされる。
−前記ユーザの動作は、前記電子デバイスの画面に垂直な軸のまわりの前記電子デバイスの回転であり、前記電子デバイスは、少なくとも1つの作動ボタンまたはタッチボタンを備え、前記ユーザの動作は、前記作動ボタンまたは前記タッチボタンを押すことである。
本発明の主題はまた、電子デバイスに組み込まれた情報処理ユニットにより実施されたとき、上述された方法を実施するソフトウェア命令を備える、コンピュータプログラム製品である。
本発明の主題はまた、検出器と、1組のセンサと、画面と、前記画面にデータを表示するユニットと、前述されたコンピュータプログラム製品が実装された情報処理ユニットと、を備える電子デバイスである。
添付の図面を参照しながら、非限定的な例としてのみ与えられる以下の発明を実施するための形態に照らして、本発明はより良く理解され、その他の利点はより明確になる。
電子デバイスの一例の概略表現である。 装置の一例の概略図である。 図1の電子デバイスおよびコンピュータプログラム製品の一例の概略図である。 図3に表されたコンピュータプログラム製品の詳細概略図である。 表示管理方法の一例のフローチャートである。 図2の装置の補強画像の提供後得られた結果の概略図である。 ユーザの動作の概略図である。 補強概略表現の表示後得られた結果の概略図である。
電子デバイス2および装置4が、それぞれ図1および図2に表される。
電子デバイス2はユーザを対象とする。
電子デバイス2は、好ましくは、携帯型電子デバイス、たとえば、モバイルフォンまたは電子タブレットである。
変形形態として、電子デバイス2はコンピュータである。
電子デバイス2は、表示管理方法を実行するためのソフトウェア命令を備えるコンピュータプログラム製品を実装することが可能である。
電子デバイス2は、検出器20、1組のセンサ21、ディスプレイユニット22、画面24、情報処理ユニット26、トランシーバ28、および電源ユニット30を含む。
検出器20は、たとえば、装置4の1つまたは複数の連続画像を収集することに適した画像センサである。
たとえば、検出器20は、CCD(電荷結合素子)センサまたはCMOS(相補型金属酸化膜半導体)センサなどのマトリックスセンサである。
検出器20は、装置4の収集された画像Iを処理ユニット26に配信すること、または前記装置4の連続画像の映像を供給することに適している。
1組のセンサ21は、たとえば、ジオポジショニングユニット211、加速度計212、ジャイロスコープ213、タッチセンサ214、眼球運動センサ(eye movement sensor)215、およびマイクロフォン216を含む。
変形形態として、1組のセンサ21は、前述されたセンサの任意の組合せを備える。
さらに別の変形形態によれば、1組のセンサ21は、ユーザにとって関心があり得る他の情報へのアクセスを可能にするための他のセンサを備える。
ジオポジショニングユニット211、加速度計212、およびジャイロスコープ213は、電子デバイス2に位置データを提供することに適している。電子デバイス2に関する位置データは、説明の残りにおいてデータD2と表記される。
ジオポジショニングユニット211は、たとえば、ジオポジショニングシステム、たとえば、それ自体知られているGPSシステム(全地球測位システム)などの、屋内測位システムまたは屋外測位システムと通信するために構成される。
加速度計212は、少なくとも1つの方向における電子デバイス2の加速度を測定するために使用される。一変形形態によれば、加速度計212は、3つの別々の方向における電子デバイス2の加速度を測定するための複数のセンサを備える。
ジャイロスコープ213は、少なくとも1つの軸に沿った電子デバイス2の回転を測定するために使用される。一変形形態によれば、ジャイロスコープ213は、3つの別々の軸に沿った電子デバイス2の回転を測定するための複数のセンサを備える。
タッチセンサ214、眼球運動センサ215、およびマイクロフォン216は、ユーザのコマンドに関する情報の少なくとも1つの項目を処理ユニット26に送信することに適している。
タッチセンサ214は、画面24がタッチボタンおよび/またはタッチキーボードを表示することが可能なタッチ画面であるように、画面24の下に配置される。
眼球運動センサ215は、たとえば、ユーザの眼球運動を追うことを可能にする眼球運動測定器である。
マイクロフォン216は、ユーザの音声を記録するために使用される。
ディスプレイユニット22は、画面24にデータを表示することが可能である。詳細には、ディスプレイユニット22は、電子デバイス2の画面24に任意のタイプの画像、特に検出器20により収集された画像I、または収集され、次いで処理ユニット26により修正された画像を表示することに適している。ディスプレイユニット22は、たとえば、画面24に画像Iを表示するためのソフトウェアプログラムまたはグラフィックスカードである。
画面24は、特に、検出器20および/またはディスプレイユニット22と対話して、1つまたは複数の連続画像を表示するために構成される。
説明の残りとして、画面24の表面に垂直な軸が垂直軸X2として表記される。
画面24は、5インチよりも大きく、好ましくは7インチよりも大きく、好ましくは9インチよりもさらに大きい長さを有する対角線などの、収集された画像Iの容易な表示を可能にする寸法を有する。
処理ユニット26は、情報のコンピュータ処理に適している。詳細には、処理ユニット26は、収集された画像Iに修正、変換、および分析を実施することに適している。
処理ユニット26は、プロセッサ260と、プロセッサ260に関連付けられたメモリ262とを備える。
プロセッサ260は、メモリ262に記憶された1つまたは複数のソフトウェア命令を実施することが可能である。
電子デバイス2の処理ユニット26のメモリ262は、データおよびコンピュータプログラム製品27を記憶することが可能である。
メモリ262により記憶されるデータは、たとえば、装置4に関し、ファイル、数値、および/またはテキスト値の形式で記録されるデータD4である。メモリ262により記憶されるデータは、1組のセンサ21により供給された電子デバイス2の位置データD2でもあり得る。
コンピュータプログラム製品27はソフトウェア命令を備え、ソフトウェア命令は、処理ユニット26により実施されると、装置4に関する情報I4の項目を表示する方法を実施する。
図3から分かるように、コンピュータプログラム製品27は、第1のソフトウェア命令272、第2のソフトウェア命令274、および第3のソフトウェア命令275を備える。
第1のソフトウェア命令272は、たとえば、拡張現実内で表示するソフトウェア命令である。
第1の拡張現実ソフトウェア命令272は、複数の注目点Pの収集された画像Iとの関連による装置4の補強画像Iを供給することが可能である。各注目点Pは、装置4の要素を示し、該当する要素に固有の情報Iの項目に関連付けられる。注目点Pは、たとえば、テキスト値、測定値、画像、グラフィカルウィジェット(graphical widget)(グラフィカルインターフェースコンポーネント、グラフィカルインターフェースの視覚要素、またはボタン、スクロールバー、ドロップダウンリストなど)、ハイパーテキスト、または拡張現実内の表示用の任意の他の関連データなどの、デジタルデータDの項目である。
第2のソフトウェア命令274は、たとえば、従来のモードで表示するソフトウェア命令である。
第2のソフトウェア命令274は、装置4の補強画像Iの補強概略表現Rを供給することが可能である。
補強概略表現Rは、たとえば、図形、グラフ、モデル、マンマシンインターフェース、または、SCADA(Supervisory Control And Data Acquisition:監視制御およびデータ収集)模擬図形などの模擬図形(mimic diagram)である。補強概略表現Rは、複数のオブジェクトOを含む。
変形形態として、補強概略表現Rがマンマシンインターフェースまたは模擬図形である場合、オブジェクトOを含まない場合もある。
各オブジェクトOは、装置4の要素を示し、補強画像Iのそれぞれの注目点Pに関連付けられる。したがって、各オブジェクトOは、該当する要素に固有の情報Iの項目に関連付けられる。
オブジェクトOは、たとえば、テキスト値、測定値、画像、ハイパーテキスト、または従来のモードでの表示用の任意の他の関連データなどの、デジタルデータDの項目である。
図4から分かるように、第2のソフトウェア命令274は、選択ソフトウェア命令276、準備ソフトウェア命令277、分類ソフトウェア命令278、およびプレビューソフトウェア命令279を備える。
選択ソフトウェア命令276は、表示される注目点Pに関連付けられた情報Iを取り出すために構成される。
準備ソフトウェア命令277は、装置4の1組の図形を供給することが可能である。
装置4の図形は、装置4を記述する2次元または3次元のビューである。各図形は、表示される情報I4のプレビューを備える。
準備ソフトウェア命令277は、補強概略表現Rを取得するために、あらかじめ定められた基準Cに従って装置4の各図形を最適化することも可能である。
あらかじめ定められた基準Cは、たとえば、ユーザにより選ばれる。次いで、あらかじめ定められた基準Cは、補強概略表現Rに関する、ユーザにより表現されるコマンドを表す。次いで、あらかじめ定められた基準Cは、「最大の注目点P’を提示する図形」または「表示される最多の情報を有する注目点Pを提示する図形」であり得る。他の基準Cがユーザにより考えられる場合がある。
分類ソフトウェア命令278は、同じ基準Cに従って、補強概略表現Rを分類または順序付けするために構成される。
プレビューソフトウェア命令279は、あらかじめ定められた基準Cの最も高い値を提示する補強概略表現Rを表示することが可能である。
変形形態として、プレビューソフトウェア命令279は、ユーザにより選択された補強概略表現Rを表示することが可能である。
第3のソフトウェア命令275は、補強画像Iの注目点Pを補強概略表現Rの各オブジェクトOと関連付けるために構成された実行ソフトウェア命令である。第3のソフトウェア命令275は、第2のソフトウェア命令274により制御される。
トランシーバ28は、たとえばアンテナである。アンテナ28は、電子デバイス2と電子デバイス2の外部にある少なくとも1つのユニットとの間の双方向無線通信を確立するために構成される。そのような外部ユニットは、装置4に関する情報I4を通信することが可能である。
外部ユニットは、たとえば、装置4とは別の場所に配置され、リモートサーバとも呼ばれるサーバ6である。サーバ6は、特に図1に表される。
変形形態として、サーバ6は、たとえば、ローカルエリアネットワークがサーバ6を装置4に接続するように、装置4の近傍に配置される。
さらなる変形形態として、複数の外部ユニットが、装置4に関する情報I4を通信することが可能である。外部ユニットは、たとえば、リモートサーバおよび/またはローカルサーバである。
電源ユニット30は、検出器20、1組のセンサ21、ディスプレイユニット22、画面24、処理ユニット26、およびトランシーバ28に電気エネルギーを供給するために構成される。
電源ユニット30は、たとえば電池である。そのようなバッテリは、好ましくは充電可能である。
装置4は、たとえばポンプ場である。ポンプ場4は、パイプ40、ポンプ42、電気モータ、センサ(図示せず)、および、可変速ドライブ、コントローラ、およびアクチュエータを含む保護キャビネット(図示せず)を含む。
サーバ6は、データベース60と、電子デバイス2にデータを送信するためのユニット62とを備える。
データベース60は、装置4に関するデータD4、特に各々のパイプ40、ポンプ42、および図に表されていない他の構成要素の状態および動作に関するデータを記憶することに適している。記憶されたデータD4は、たとえば、各電気モータにより消費された電力、各パイプ40の温度、各ポンプ42の圧力、および構成要素の各々についての動作不良の存在または不在である。
加えて、記憶されたデータD4は、SCADA模擬図形、マンマシンインターフェース、またはインターネットページなどの補強概略表現Rの形式で表示される。
送信ユニット62は、データベース60に記憶された装置4に関するデータD4を電子デバイス2に送るために構成される。
表示方法の実施の一例の以下の記述において、電子デバイス2およびコンピュータプログラム製品27の動作が説明される。
以下に記述されるように、表示管理方法の各ステップは、ユーザの動作によりトリガされる。ユーザの動作は、たとえば、垂直軸X2のまわりの電子デバイス2の回転、または電子デバイス2の作動ボタンの押下、またはタッチセンサ214の助けを借りる画面24上のタッチボタンの押下である。
ユーザは、装置4に関する複数の情報を抽出するために電子デバイス2を使用する。次いで、コンピュータプログラム製品27が、ユーザにより電子デバイス2上で起動される。製品27は、表示管理方法を実施する。そのような方法は、図5に示され、以下の記述において説明される複数のステップを含む。
表示方法は、装置4の収集された画像Iおよび装置4の注目点Pを備える装置4の補強画像Iを供給する第1のステップa)を含む。
ステップa)は処理ユニット26により実施される。
変形形態として、ステップa)において、装置4の補強画像Iが処理ユニット26に供給され、次いで、処理ユニット26が注目点Pを分析する。そのような分析は、モードが変更されたときに動的に実行されるか、または静的に実行され、特に画面24が凍結した後実行される。
詳細には、ステップa)の間、処理ユニット26は第1のソフトウェア命令272を起動する。
一実施形態によれば、電子デバイス2は、ジオポジショニングにより装置4を識別する。電子デバイス2は、ジオポジショニングユニット211を使用して、装置4の方向とともに装置4の座標を算出する。例として、算出された座標はGPS座標である。次いで、電子デバイス2は、そのアンテナ28を経由して、送信ユニット62を介してサーバ6のデータベース60との無線通信を確立する。
次いで、電子デバイス2のGPS座標および方向が、装置4を識別するサーバ6に送られる。
変形形態として、装置4は、装置4の画像の認識により識別される。言い換えれば、電子デバイス2は、検出器20を使用して装置4の画像I、または画像の連続を収集する。次いで、1つまたは複数の画像は、装置4を識別するサーバ6に送られる。
さらなる変形形態として、装置4は、装置4に存在する固有のコードを使用して識別される。固有のコードは、たとえば、2次元識別コード、バーコード、識別画像または識別シンボル、マトリックスコードとも呼ばれるQR(クイックレスポンス)コード、または装置4の明白な識別を可能にする任意の他の手段である。言い換えれば、電子デバイス2は、検出器20を使用して固有のコードの画像を収集し、次いで、画像は装置4を識別するためにサーバ6に送られる。
サーバ6が装置4を識別したとき、サーバ6は、識別された装置4に存在する注目点Pに関する情報Iを電子デバイス2に送る。次いで、複数の注目点Pは、補強画像Iになる収集された画像I上にディスプレイユニット22により表示される。上記で説明されたように、各注目点Pは、ユーザがアクセスすることができる、装置4の要素に固有の情報Iの項目に関連付けられる。
変形形態として、ステップa)において、装置4の収集された画像の連続および装置4の注目点Pを備える、装置4の補強画像の連続、たとえば映像が供給される。次いで、装置4は前に説明されたように識別される。詳細には、サーバ6が注目点Pに関する情報Iを送ったとき、複数の注目点Pは、補強画像の連続になる収集された画像の連続上にディスプレイユニット22により表示される。
ステップa)の終わりに、コンピュータプログラム製品27は、拡張現実内の装置4のビューを提供している。たとえば、図6に表されたように、補強画像Iは、ディスプレイユニット22の助けを借りて、電子デバイス2の画面24に表示される。補強画像Iは、装置4の一部の収集された画像I、および装置4のそのような一部で識別された注目点Pを備える。詳細には、2つのポンプ42、パイプ40、および4つの注目点Pが補強画像I上に見える。この場合、注目点Pは、故障メッセージ、装置4のセンサにより作成された測定値を含む2つのメッセージ、および装置4の構成要素の動作に関するテキストメッセージである。
しかしながら、ユーザは拡張現実内のビューから従来のモードにおけるビューに変更することを望む。これを行うために、ユーザは、図7に表されたように、電子デバイス2を垂直軸X2のまわりに、たとえば90度だけ回転させる。ユーザのそのような動作は、第3のソフトウェア命令274を起動する。
この方法は、次いで、1組の選ばれた注目点を取得するために、複数の注目点Pの中から少なくとも1つの注目点Pを選ぶステップb)を含む。
選ぶステップb)は、電子デバイス2と対話するユーザにより実施される。
詳細には、ユーザは、ユーザが保持することを望む注目点Pを選択する。たとえば、図6を参照すると、ユーザは、故障メッセージおよび測定値を有するメッセージに関係する注目点Pを選ぶ。そのようなユーザの選択は、たとえば画面24上のタッチセンサ214を使用して、または音声認識用のマイクロフォン216を使用して、または手動選択の任意の他の手段を介して手動で、または注目点Pを含んでいる画面24のエリアを選択することにより、または自動選択の任意の他の手段により自動的に、実行される場合がある。
ステップb)の終わりに、ユーザは、装置4の最も関連し、最も関心のある要素に対応する1組の注目点Pを取得する。
この方法は、次いで、表示される情報を選択するステップc)を含み、表示される情報は、選ばれた注目点に関連付けられた情報Iである。
ステップc)は、選択ソフトウェア命令276により実施される。より正確には、ソフトウェア命令276は、選ばれた注目点Pに関連付けられた情報Iをサーバ6から取り出す。たとえば、図6を参照すると、選択ソフトウェア命令276は、故障、および該当する装置4の要素で実行された測定に関する情報Iをサーバ6から取り出す。実例として、情報Iは、パイプ40の各々の圧力に関する。
この方法は、次いで、データを選択するステップg)を含む。ステップg)において選択されたデータは、表示される対象である。
ステップg)は、選択ソフトウェア命令276により実施される。
一般に、ステップg)では、ユーザは、ユーザが関係すると考える情報に対する他の要求により、ステップc)の選択を完了させる。そのようなさらなる情報源は、電子デバイス2から得られるか、または電子デバイス2により生成される。例として、上記データは、GPS座標、ファイルから抽出されたデータ、数値入力、またはテキストデータから構成される。代替または追加として、上記データは、1つまたは複数のリモートサーバ上のデータのリモートアクセスおよびリモート取出しを用いて、電子デバイス2により求められる。
したがって、上記データは、選ばれた注目点Pに関連付けられた情報Iではないが、電子デバイス2にアクセス可能なデータである。そのようなデータへのアクセスは、一般に、選択ソフトウェア命令276により可能にされる。
より正確には、図示された例によれば、選択ソフトウェア命令276は、検出器20および1組のセンサ21から上記データを取り出す。
たとえば、選択ソフトウェア命令276は、電子デバイス2の位置データD2を取り出す。
選択ソフトウェア命令276は、処理ユニット26のメモリ262から装置4に関するデータD4も取り出す。思い出されるように、データD4は、装置4に関する数値およびテキスト値である。
たとえば、図6を参照すると、選択ソフトウェア命令276は、検出器20から画像を取り出し、メモリ262から故障を修正するために実行される修正行動(corrective action)のリストを取り出す。ステップg)の終わりに、表示される情報は、ステップc)において取り出された情報I、およびステップg)において取り出されたデータを含む。
この方法は、次いで、装置4に利用可能な装置4の1組の図形を提供するステップd)を含む。
変形形態として、1つの図形のみが装置4に利用可能である。
たとえば、準備ソフトウェア命令277は、2次元図形、3次元図形などを含む利用可能な図形のリストを提供する。
ステップd)は、従来のモードで表示するソフトウェア命令274の準備ソフトウェア命令277により実施される。
ステップd)の終わりに、装置4について、1組の図形がこのようにして取得される。これらの図形は、表示される情報を含まない。
この方法は、次いで、補強概略表現Rを取得するために利用可能な装置4の各図形を最適化するステップe)を含む。最適化のステップe)は、準備ソフトウェア命令277により実施される。最適化は、あらかじめ定められた基準Cに従って実施される。
最適化は、表示される情報I4のプレビューの、装置4の図形への挿入を含む。プレビューは図形に適合する。
ステップe)の終わりに、1組の補強概略表現Rが取得され、各補強概略表現Rは、装置4の図形および表示される情報I4のプレビューを備える。補強画像I上でユーザにより選ばれた注目点Pに関連付けられたオブジェクトOは、各補強概略表現Rに重ね合わされる。
この方法は、次いで、あらかじめ定められた基準Cに従って補強概略表現Rを分類するステップf)を含む。
実際には、分類は、ユーザにより要求されたコマンドおよび/または情報に従って、補強概略表現Rを順序付ける。
この分類の終わりに、この方法は、最良の補強概略表現Rを決定することが可能である。
ステップf)は、分類ソフトウェア命令278により実施される。
ステップe)およびf)を、特に同時に実施するために、いくつかの実施形態が提供される。
第1の実施形態によれば、表示される情報I4のプレビュー図形への挿入のために、最適化ステップe)は、たとえば、連想配列の使用を含む。そのような配列は、装置4のすべての注目点Pを含み、URI(Uniform Resource Identifier)文字列などのテキスト値を各注目点Pと関連付ける。URIは、表示される情報のプレビューなどのリソースを示す。そのような情報のプレビューは、たとえば、SCADA模擬図形、またはマンマシンインターフェース、またはインターネットページである。言い換えれば、配列は、情報Iの固有のプレビューを各注目点Pと関連付ける。
最適化の間、ユーザは、ある特定の図形に最も関連する注目点Pを選ぶ。準備ソフトウェア命令277は、連想配列を介してプレビューを抽出し、そのようなプレビューの当該図形への挿入に進む。
第2の実施形態によれば、最適化のステップe)は、少なくとも1つの選択フィルタの使用を含む。
各選択フィルタは、たとえば、LDAP(Lightweight Directory Access Protocol)フィルタである。
LDAPフィルタは、階層ツリーに従って構築されたデータを取得することを可能にする。
LDAPフィルタは、たとえば近似フィルタである。「そのスペルがPeterに近い名前」のタイプのクエリが近似フィルタの例示である。
別の例によれば、LDAPフィルタは、均等フィルタ、すなわち「Peterに全く等しい」タイプのクエリである。
さらに別の例によれば、LDAPフィルタは、比較フィルタ、またはAND、OR、排他的ORなどのタイプの論理演算である。
各LDAPフィルタは、通常、フィルタに適したシンタックスにより表される。
最適化の間、タッチセンサ214を使用する画面24は、タッチキーボードを表示する。ユーザは、LDAPフィルタに対応するシンタックスを入力する。
変形形態として、画面24は、LDAPフィルタに対応するタッチボタンを表示する。ユーザは所望のフィルタを選択する。
準備ソフトウェア命令277は、そのようなフィルタに関連付けられた注目点Pのみを抽出する。次いで、連想配列は、URI文字列などのキスト値を、LDAPフィルタにより識別された各注目点Pと関連付ける。URIすなわちユニフォームリソースアイデンティファイアは、ネットワーク上の物理リソースまたは抽象リソース(たとえば、ウェブリソース)を識別する短い文字列であり、そのシンタックスは、ワールドワイドウェブ用のインターネット規格の設定に準拠する。
上記で説明されたように、URIはプレビューを示す。ユーザは、このようにして、ある特定の図形に最も関連する注目点Pを選ぶことができる。準備ソフトウェア命令277は、連想配列を介してプレビューを抽出し、そのようなプレビューの当該図形への挿入に進む。
LDAPフィルタの使用は、複数の注目点Pを選択するために使用することができる。
さらなる変形形態として、最適化のステップe)は、格子の形式で表示される情報を順序付けることを含む。そのような順序付けは、たとえば、より一般的に頭文字FCAで知られる、形式概念分析を使用して実行される。
FCA分析は、概念が形式的に記述されたとき、すなわちコンテキストおよび概念が完全かつ正確に定められたとき、概念を調査することに着手する。そのような分析は、格子理論におけるソフトウェア命令として、1982年にRudolf Willeにより導入された。概念がその内包およびその外延により定められ得ることが思い出され、外延は概念に属する1組のオブジェクトであり、内包はこれらのオブジェクトにより共有される1組の属性である。
その結果、FCA分析は、その目的が形式概念とも呼ばれるオブジェクトまたは属性のグループ化を識別することである、1組のデータ分析技法である。
FCA分析は格子に基づき、数学では、格子は対偶が上限および下限を有する半順序集合である。
各FCA分析技法は、考えられる形式概念を各々のオブジェクトおよび属性と関連付ける配列の使用に基づく。分析が実施された後、格子は順序付けられた要素の出力である。
ステップe)の特定のケースでは、形式概念のオブジェクトは、拡張現実ビュー内に存在するオブジェクトであり、形式概念の属性は、プレビューを示すURI文字列である。
代替として、属性は拡張現実ビュー内に存在するオブジェクトの性状、またはグラフィカルオブジェクトの性状である。
前に説明されたように、図示された例では、1組の選ばれた注目点PがFCA分析において考慮に入れられる入力であるように、オブジェクトは注目点Pである。
FCA分析を実施すると、注目点Pおよび対応するプレビューを備える配列が作成される。1つの注目点Pが複数のプレビューに関連付けられる場合があるので、FCA分析は格子を定め、格子内の形式概念を順序付ける。実際には、格子を介して、分析は最も適切なプレビューを提供する。
したがって、FCA分析を使用すると、順序付けられたプレビューをユーザに提示することが可能になる。特に、FCA分析は、「少なくともXであり多くともYである」タイプのフィルタを表すため、および、その関係が「符号化」されず、したがって事前に知られているビューを提示するために使用される。
次いで、準備ソフトウェア命令277はこのプレビューを抽出し、そのようなプレビューの当該図形への挿入に進む。
この方法は、次いで、補強画像Iの代わりに、あらかじめ定められた基準Cの値に従って順序付けられた補強概略表現Rを表示するステップh)を含む。ステップh)は、プレビューソフトウェア命令279およびディスプレイユニット22により実施される。次いで、ユーザは、自分の要求に最も適すると考える補強概略表現Rを選択することができる。次いで、選択された補強概略表現Rは、補強画像Iの代わりに、かつ、補強画像Iに完全にとって代わり、ディスプレイユニット22の助けを借りて画面24に表示される。
たとえば、図8に表されたように、ユーザは、あらかじめ定められた基準Cの最も高い値を提示する補強概略表現Rを選択する。この補強概略表現Rは、装置4の構成要素の2次元図形およびプレビューを備える。詳細には、ポンプ42およびパイプ40、および補強画像Iの注目点Pに関連付けられたオブジェクトOが、補強概略表現R上に見られる。
補強概略表現Rがインターネットページである場合、プレビューソフトウェア命令279は、ウェブブラウザを調べるために使用することができる。選ばれた補強概略表現Rがマンマシンインターフェースまたは模擬図形である場合、プレビューソフトウェア命令279は、該当するインターフェースまたは模擬図形を表示することが可能な特定のソフトウェア命令を実行するために使用することができる。
加えて、表示管理方法は、従来のモードで表示することから拡張現実内で表示することに変更するためのステップを含む。これら後のステップは図に表されておらず、以下の記述において説明される。
実際には、ユーザの動作、たとえば垂直軸X2のまわりの電子デバイス2の90°の回転、または作動ボタンまたはタッチボタンの押下に続いて、ユーザは、拡張現実内の表示の補強画像Iまたは補強画像の連続への補強概略表現Rの変換をトリガすることができる。
次いで、ディスプレイユニット22は、ユーザが補強概略表現Rの一部分を選択することを可能にするタッチボタンを、画面24に表示する。詳細には、ユーザは、少なくとも1つのオブジェクトOを備える部分を選択しなければならない。この例では、ユーザは、複数のオブジェクトOを備える補強概略表現Rの所望の部分を選択する。
変形形態として、ユーザは、補強概略表現R全体を選択する。
次いで、実行ソフトウェア命令275を使用して、この方法は、選択されたオブジェクトOに関連付けられた注目点Pを識別する。
この方法は、次いで、新しい補強画像Iまたは新しい補強画像の連続への選択された部分または補強概略表現R全体の変換を含む。
前述されたように、電子デバイス2は、サーバ6を介して、ジオポジショニングにより、画像認識により、固有のコードを使用して、または装置4を一意に識別するための任意の他の機構を使用して、装置4を識別する。電子デバイス2は、1組のセンサ21を使用して、そのGPS座標、その方向、および検出器20の相対位置を算出する。言い換えれば、このステップの終わりに、表示管理方法は、電子デバイス2が認識されるように位置する環境を可能にしている。
次いで、コンピュータプログラム製品27は、装置4の画像または画像の連続に、識別された注目点Pを配置し表示する。
より正確には、この方法は、注目点Pが選択された補強概略表現Rの一部分に位置する場合、注目点Pを配置し、注目点Pを表示するか、または注目点Pが選択された補強概略表現Rの一部分に属さないとき、それらの相対位置を示し、それらを見つけるようにユーザを導く。
変形形態として、新しい補強画像Iまたは新しい画像の連続が、選択された部分または補強概略表現R全体に対応しないとき、かつ注目点Pが画像I上で直接見えないとき、コンピュータプログラム製品27は、注目点Pの相対位置を示すマーカを画面24に表示する。
表示管理方法は、拡張現実内の表示と従来のモードでの表示との間の流動的かつ平滑な遷移を実行することに適している。この方法は、ユーザにより選択されたモードにおける正しいビジュアルインターフェースを探索するために使用することができる。この方法は、次いで、順序付けられた適合率でインターフェースまたはインターフェースのリストを提示する。複数の満足するインターフェースが存在する場合、ユーザは最も適切なインターフェースを選ぶ。
ユーザは、このようにして、2つの表示において同じ情報を見つけることができる。第1の拡張現実表示は、地理的空間および実空間に対応し、第2の従来のモードにおける表示は、専門的なビュー、すなわち、より容易にユーザに理解できる論理空間および抽象空間に対応する。
したがって、表示管理方法は、識別された情報のより簡略化され、図式化され、効果的な分析を実行するために、ユーザが従来のモードでの表示を取得するためのツールである。上述された表示管理方法は、ポンプ場4などの産業環境、および非産業環境、たとえば第3次活動が実践される環境、または病院環境において使用される場合がある。

Claims (12)

  1. 装置(4)に関する情報(I4)の少なくとも1つの項目を電子デバイス(2)の画面(24)に表示することを管理するための方法であって、
    a)前記装置(4)の画像(I)と前記装置(4)の複数の注目点(P)とを含む、前記装置(4)の補強画像(I)を提供するステップであって、各注目点(P)は、前記装置(4)の要素に固有の情報(I)の項目に関連付けられている、ステップと、
    b)1組の選ばれた注目点(P)を取得するために、前記複数の注目点(P)の中から少なくとも1つの注目点(P)を選ぶステップと、
    c)表示される情報を選択するステップであって、表示される情報は、前記選ばれた注目点(P)に関連付けられた情報(I)である、ステップと、
    d)前記装置(4)に利用可能な、前記装置(4)の1組の図形を提供するステップと、
    e)前記補強画像(I)と区別され、前記装置(4)の図形と、表示される情報の前記項目の1つの少なくとも1つのプレビューとを含む少なくとも1つの補強概略表現(R)を取得するために、表示される情報のプレビューを前記装置(4)の図形に挿入することにより、利用可能な前記装置(4)の各図形を、あらかじめ定められた基準(C)に従って最適化するステップであって、表示される情報の前記プレビューは、前記装置(4)の前記図形に適合する、ステップと、
    f)前記あらかじめ定められた基準(C)に従って、前記補強概略表現(R)を分類するステップと、
    h)前記補強画像(I)の代わりに、取得された前記補強概略表現(R)のうちの少なくとも1つを表示するステップと、
    を含む方法。
  2. さらに、データ(D2、D4)を選択するステップg)を含み、前記データ(D2、D4)は、前記選ばれた注目点(P)に関連付けられた情報(I)ではなく、前記データ(D2、D4)は、前記電子デバイス(2)にとってアクセス可能であり、表示される情報は、前記選択されたデータ(D2、D4)も含む、請求項1に記載の方法。
  3. 前記選択されたデータ(D2、D4)は、前記電子デバイス(2)の少なくとも1つのセンサ(20、21)から生じる、請求項2に記載の方法。
  4. 最適化のステップe)は、表示される情報を格子の形式で順序付けることを含む、請求項1から3のいずれか一項に記載の方法。
  5. 最適化のステップe)は、複数の選択フィルタを使用することを含む、請求項1から3のいずれか一項に記載の方法。
  6. 最適化のステップe)は、前記注目点(P)が関連付けられた情報(I)の固有のプレビューを各注目点(P)と関連付ける連想配列を使用することを含む、請求項1から3のいずれか一項に記載の方法。
  7. 表示のステップh)は、前記あらかじめ定められた基準(C)の値に従って順序付けられた複数の補強概略表現(R)を表示することを含む、請求項1から6のいずれか一項に記載の方法。
  8. さらに、前記あらかじめ定められた基準(C)の最も高い値を提示する前記補強概略表現(R)を表示することを含む、請求項7に記載の方法。
  9. 少なくとも1つのステップは、ユーザの動作によりトリガされる、請求項1から8のいずれか一項に記載の方法。
  10. 前記ユーザの動作は、前記電子デバイス(2)の画面(24)に垂直な軸(X2)のまわりの前記電子デバイス(2)の回転であり、前記電子デバイス(2)は、少なくとも1つの作動ボタンまたはタッチボタンを備え、前記ユーザの動作は、前記作動ボタンまたは前記タッチボタンを押すことである、請求項9に記載の方法。
  11. 電子デバイス(2)に組み込まれた処理ユニット(26)により実施されたとき、請求項1から10のいずれか一項に記載の方法を実施する複数のソフトウェア命令(272、274、275、276、277、278、279)を備える、コンピュータプログラム製品(27)。
  12. 検出器(20)と、1組のセンサ(21)と、画面(24)と、前記画面にデータを表示するユニット(22)と、請求項11に記載のコンピュータプログラム製品(27)が実装された処理ユニット(26)と、を備える電子デバイス(2)。
JP2016020603A 2015-02-05 2016-02-05 表示管理方法および関連するコンピュータプログラム製品および電子デバイス Active JP6896364B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1550907 2015-02-05
FR1550907A FR3032544B1 (fr) 2015-02-05 2015-02-05 Procede de gestion de l'affichage, produit programme d'ordinateur et dispositif electronique associes

Publications (2)

Publication Number Publication Date
JP2016157435A true JP2016157435A (ja) 2016-09-01
JP6896364B2 JP6896364B2 (ja) 2021-06-30

Family

ID=53404658

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016020603A Active JP6896364B2 (ja) 2015-02-05 2016-02-05 表示管理方法および関連するコンピュータプログラム製品および電子デバイス

Country Status (5)

Country Link
US (1) US9805477B2 (ja)
EP (1) EP3054426A1 (ja)
JP (1) JP6896364B2 (ja)
CN (1) CN105867612B (ja)
FR (1) FR3032544B1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018088065A (ja) * 2016-11-28 2018-06-07 株式会社Nttファシリティーズ 情報可視化システム、情報可視化方法、及びプログラム
JP2020510915A (ja) * 2017-02-24 2020-04-09 ゼネラル・エレクトリック・カンパニイ ヘルスケア処置およびシステムパフォーマンスに関する補助情報の拡張現実を用いた提供

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11474496B2 (en) * 2017-04-21 2022-10-18 Rockwell Automation Technologies, Inc. System and method for creating a human-machine interface
EP3425468B1 (en) * 2017-07-05 2021-09-01 ABB Schweiz AG Method and systems for facilitaing user navigation among a plurality of operator workstation screens
EP3483104B1 (en) 2017-11-10 2021-09-01 Otis Elevator Company Systems and methods for providing information regarding elevator systems

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0886615A (ja) * 1994-09-19 1996-04-02 Mitsubishi Electric Corp 映像表示装置及び映像表示システム
JP2002092647A (ja) * 2000-09-19 2002-03-29 Olympus Optical Co Ltd 情報呈示システム及びモデル誤差検出システム
JP2012252477A (ja) * 2011-06-02 2012-12-20 Hitachi Ltd 画像検索装置及び画像検索システム
JP2013149042A (ja) * 2012-01-18 2013-08-01 Hitachi Plant Technologies Ltd 設備保守管理システム
JP2014191367A (ja) * 2013-03-26 2014-10-06 Mitsubishi Electric Information Systems Corp 建造物表示装置及び建造物表示システム及び建造物表示方法及び建造物表示プログラム
WO2014170471A1 (en) * 2013-04-17 2014-10-23 Tomtom International B.V. Methods, devices and computer software for facilitating searching and display of locations relevant to a digital map

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9658271B2 (en) * 2008-09-11 2017-05-23 The Boeing Company Wire fault illumination and display
US8830267B2 (en) * 2009-11-16 2014-09-09 Alliance For Sustainable Energy, Llc Augmented reality building operations tool
US20110279446A1 (en) * 2010-05-16 2011-11-17 Nokia Corporation Method and apparatus for rendering a perspective view of objects and content related thereto for location-based services on mobile device
CN102663448B (zh) * 2012-03-07 2016-08-10 北京理工大学 一种基于网络的增强现实物体识别分析方法
FR2990286B1 (fr) * 2012-05-07 2019-09-06 Schneider Electric Industries Sas Procede d'affichage en realite augmentee d'une information relative a un equipement cible sur un ecran d'un dispositif electronique, produit programme d'ordinateur, dispositif electronique et equipement electrique associes

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0886615A (ja) * 1994-09-19 1996-04-02 Mitsubishi Electric Corp 映像表示装置及び映像表示システム
JP2002092647A (ja) * 2000-09-19 2002-03-29 Olympus Optical Co Ltd 情報呈示システム及びモデル誤差検出システム
JP2012252477A (ja) * 2011-06-02 2012-12-20 Hitachi Ltd 画像検索装置及び画像検索システム
JP2013149042A (ja) * 2012-01-18 2013-08-01 Hitachi Plant Technologies Ltd 設備保守管理システム
JP2014191367A (ja) * 2013-03-26 2014-10-06 Mitsubishi Electric Information Systems Corp 建造物表示装置及び建造物表示システム及び建造物表示方法及び建造物表示プログラム
WO2014170471A1 (en) * 2013-04-17 2014-10-23 Tomtom International B.V. Methods, devices and computer software for facilitating searching and display of locations relevant to a digital map

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018088065A (ja) * 2016-11-28 2018-06-07 株式会社Nttファシリティーズ 情報可視化システム、情報可視化方法、及びプログラム
JP2020510915A (ja) * 2017-02-24 2020-04-09 ゼネラル・エレクトリック・カンパニイ ヘルスケア処置およびシステムパフォーマンスに関する補助情報の拡張現実を用いた提供
US10991461B2 (en) 2017-02-24 2021-04-27 General Electric Company Assessing the current state of a physical area of a healthcare facility using image analysis
US11250947B2 (en) 2017-02-24 2022-02-15 General Electric Company Providing auxiliary information regarding healthcare procedure and system performance using augmented reality

Also Published As

Publication number Publication date
CN105867612B (zh) 2020-06-19
FR3032544B1 (fr) 2018-03-09
JP6896364B2 (ja) 2021-06-30
CN105867612A (zh) 2016-08-17
EP3054426A1 (fr) 2016-08-10
FR3032544A1 (fr) 2016-08-12
US9805477B2 (en) 2017-10-31
US20160232687A1 (en) 2016-08-11

Similar Documents

Publication Publication Date Title
JP6896364B2 (ja) 表示管理方法および関連するコンピュータプログラム製品および電子デバイス
Yew et al. Towards a griddable distributed manufacturing system with augmented reality interfaces
US10679337B2 (en) System and method for tool mapping
US8751969B2 (en) Information processor, processing method and program for displaying a virtual image
JP5942456B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN104111812A (zh) 显示控制方法和装置
EP3259679B1 (en) An automatically invoked unified visualization interface
JP2014238819A5 (ja)
JP2011504853A (ja) 技術データのナビゲーションのためのシステムと方法
US20130120450A1 (en) Method and apparatus for providing augmented reality tour platform service inside building by using wireless communication device
EP2819071A1 (en) Systems and methods for displaying and analyzing employee history data
CN108604256B (zh) 零件信息检索装置、零件信息检索方法以及程序
US10964104B2 (en) Remote monitoring and assistance techniques with volumetric three-dimensional imaging
Eiriksson et al. Augmented reality interfaces for additive manufacturing
WO2017116883A1 (en) Gestures visual builder tool
CN104316948A (zh) 建筑物内导航系统及其应用系统
GB2598986A (en) Quick activation techniques for industrial augmented reality applications
JP2021018710A (ja) 現場連携システムおよび管理装置
US11062523B2 (en) Creation authoring point tool utility to recreate equipment
CN106250384A (zh) 信息检索系统及信息检索方法
CN110689614B (zh) 基于电子地图的设备信息收集方法、介质、设备及系统
JP5525497B2 (ja) プラント作業支援装置およびプラント作業支援方法
US9547943B2 (en) Framework and method for creating virtual model of three-dimensional space
JP5266416B1 (ja) テストシステム及びテストプログラム
WO2019194697A1 (en) Instrumentation overview device and method for a machine instrumented with a plurality of sensors

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180829

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190913

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191008

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200130

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200130

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200206

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200207

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20200228

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20200303

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20201002

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20201218

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20210115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210402

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20210416

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210514

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210609

R150 Certificate of patent or registration of utility model

Ref document number: 6896364

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150