JP2020535536A - プロセス制御環境における仮想x線視角 - Google Patents
プロセス制御環境における仮想x線視角 Download PDFInfo
- Publication number
- JP2020535536A JP2020535536A JP2020517566A JP2020517566A JP2020535536A JP 2020535536 A JP2020535536 A JP 2020535536A JP 2020517566 A JP2020517566 A JP 2020517566A JP 2020517566 A JP2020517566 A JP 2020517566A JP 2020535536 A JP2020535536 A JP 2020535536A
- Authority
- JP
- Japan
- Prior art keywords
- node
- real
- mobile device
- user
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004886 process control Methods 0.000 title claims abstract description 83
- 230000015654 memory Effects 0.000 claims abstract description 24
- 230000003190 augmentative effect Effects 0.000 claims abstract description 18
- 230000004044 response Effects 0.000 claims abstract description 14
- 238000000034 method Methods 0.000 claims description 96
- 230000004438 eyesight Effects 0.000 claims description 21
- 238000005259 measurement Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 description 45
- 230000000007 visual effect Effects 0.000 description 41
- 238000004891 communication Methods 0.000 description 36
- 238000005516 engineering process Methods 0.000 description 12
- 238000012423 maintenance Methods 0.000 description 11
- 238000013507 mapping Methods 0.000 description 9
- 239000003550 marker Substances 0.000 description 9
- 230000008859 change Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000012544 monitoring process Methods 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000013500 data storage Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 238000012369 In process control Methods 0.000 description 3
- 230000004888 barrier function Effects 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 238000010965 in-process control Methods 0.000 description 3
- 230000002085 persistent effect Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 239000004984 smart glass Substances 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 238000012800 visualization Methods 0.000 description 3
- 230000001413 cellular effect Effects 0.000 description 2
- 238000011217 control strategy Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 238000012015 optical character recognition Methods 0.000 description 2
- 230000003863 physical function Effects 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 231100000331 toxic Toxicity 0.000 description 2
- 230000002588 toxic effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000002730 additional effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000010923 batch production Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 238000010924 continuous production Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000002405 diagnostic procedure Methods 0.000 description 1
- 229910003460 diamond Inorganic materials 0.000 description 1
- 239000010432 diamond Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- -1 smartphones Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 230000004382 visual function Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/20—Instruments for performing navigational calculations
- G01C21/206—Instruments for performing navigational calculations specially adapted for indoor navigation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/10—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
- G01C21/12—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
- G01C21/16—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
- G05B19/4185—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by the network communication
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/163—Wearable computers, e.g. on a belt
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1694—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a single or a set of motion sensors for pointer control or gesture input obtained by sensing movements of the portable computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Human Computer Interaction (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- Automation & Control Theory (AREA)
- General Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Manufacturing & Machinery (AREA)
- Quality & Reliability (AREA)
- User Interface Of Digital Computer (AREA)
- Processing Or Creating Images (AREA)
- Geometry (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
本明細書は、2017年9月27日に出願され、「Augmented Reality Platform」と題された米国仮特許出願第62/564,074号の利益を主張するものであり、その開示は、参照によりその全体が本明細書に組み込まれる。
図1は、環境(例えば、プロセス制御環境)においてAR体験を提供するためのARプラットフォームを一般に提供し得る拡張現実(AR)システム10の例を描画する。ARシステム10は、ユーザのARモバイルデバイス12と、ネットワーク16を介してARモバイルデバイス12に通信可能に結合され得るバックエンドサーバ14と、を含む。ARモバイルデバイス12は、好適な処理および検知機能を有し、着用可能であるか、または別の方法でユーザが携帯することができる任意のコンピューティングデバイスであってもよい。例えば、ARモバイルデバイス12は、ARヘルメット(例えば、DAQRI(登録商標)によって開発されたSmARt Helmet(登録商標))またはARゴーグルなど、AR専用に構成されたデバイスであってもよい。あるいは、ARモバイルデバイス12は、非ARアプリケーション(例えば、タブレット、スマートフォン、スマートグラス、スマートウォッチなど)も有するが、デバイス12をAR機能を有するように構成するソフトウェアアプリケーションを実行するデバイスであってもよい。図1は、1つのARモバイルデバイス12のみを描画しているが、ARモバイルデバイス12と同一またはそれとは異なるより多数のARモバイルデバイスがARシステム10において同様の方法で使用され得ることが理解される。
図2は、図1のARシステム10が利用され得る例示的なプロセス制御環境100のブロック図である。プロセス制御環境100(本明細書においては、同義でプロセス制御システム100またはプロセスプラント100とも称される)は、プラント100内のプロセスの動作を制御するために、フィールドデバイスによって行われたプロセス測定値を示す信号を受信し、この情報を処理して制御ルーチンを実装し、有線および/もしくは無線プロセス制御通信リンクまたはネットワークによって他のフィールドデバイスへに送信される制御信号を生成する、1つ以上のプロセスコントローラを含む。典型的には、少なくとも1つのフィールドデバイスは、物理的機能(例えば、バルブの開閉、コンベアによる物質の移動、温度の上昇または減少、測定値の取得、状態の検知など)を実施して、プロセスの動作を制御する。フィールドデバイスのうちのいくつかのタイプは、I/Oデバイスを使用してコントローラと通信する。プロセスコントローラ、フィールドデバイス、およびI/Oデバイスは、有線または無線であってもよく、任意の数および組み合わせの有線および無線プロセスコントローラ、フィールドデバイス、およびI/Oデバイスが、プロセスプラント環境またはシステム100内に含まれてもよい。
上記の図1の説明から、ARシステム10の3D「マップ」は環境の完全なモデルである必要はなく、その環境内のノードの3D位置のみを含み得ることが理解されるべきである。4つのオブジェクト/ノードのみを含む非常に単純化された例示的な3Dマップ200が図3に示される。図3において、z軸は仰角(例えば、地上レベル)に対応する。上述されたように、ランドマーク位置202は、環境内の他の全ての位置(例えば、ノードおよびユーザ/ARデバイスの位置)について基準点を提供し得る。
ARディスプレイ(例えば、図1のARモバイルデバイス12のディスプレイ22)上に重ね合わされ得る1セットの例示的なユーザインターフェースが、図4A〜図4Hに関連してここで説明される。説明を簡単にするために、図1のARシステム10についても参照するが、図示されるユーザインターフェースは代わりに他のシステムで使用されてもよい。ユーザの選択が行われ得るユーザインターフェースについて、選択は、特定のメニューオプションを直接見るユーザによって行われてもよい(例えば、ユーザインターフェースが、ディスプレイ22の中心に対する固定位置ではなく、環境に対する固定位置を有する場合)。他の実施形態では、選択は、ユーザが適切な音声コマンドを発すること、キーボードまたはタッチスクリーン上にデータを入力すること、または別の好適な方法で行われてもよい。
図5Aおよび図5Bは、(例えば、図2のプロセス制御環境100で使用される場合の)図1のARデータベース72によって利用され得るデータベース構造400を集合的に描画する。データベース構造400において、各ボックスは、ARデータベース72に記憶され得るテーブルを表現し、各ボックスの最上部の行はテーブル名(例えば、「ノード」、「ノードステータス」など)である。テーブルは主キーを使用してリンクされ、各キーは図5Aおよび5Bにキーアイコンおよび文字「PK」で示されている。
図6および図7は、ARプラットフォーム(例えば、図1のARシステム10によって提供される)が、ユーザの「仮想視覚」を強化する機能を提供する実施形態に関する。図6は、プロセス制御環境内(例えば、図2のプロセス制御環境100内)の閉じたキャビネット内に「見る」ために使用される「仮想X線視覚」機能(図1に関連して上述された)を描画する一方で、図7Aおよび図7Bは、プロセス制御環境のエリアのアクセス制限された(例えば、届きにくい、または危険な)エリアにあり、かつ/または、ユーザの現在の位置から離れている「アバター」(図1に関連しても上述された)がセンサ/送信機デバイスに対して提供される特定のシナリオを描画する。
図8は、モバイルデバイスを使用して現実世界のプロセス制御環境(例えば、図2のプロセス制御環境100)をマッピングする例示的な方法600を描画する。方法600は、例えば、図1のARモバイルデバイス12または別の好適なモバイルデバイスを使用して実施され得る。いくつかの実施形態では、AR機能のないモバイルデバイスが使用されてもよい。
図9は、現実世界のプロセス制御環境(例えば、図2のプロセス制御環境100)において、ARモバイルデバイスのユーザに仮想強化視覚(例えば仮想「X線視覚」)を提供するための例示的な方法620を描画する。方法620は、例えば、図1のバックエンドサーバ14などのコンピューティングシステムまたはデバイスの1つ以上のプロセッサ、および/または図1のARモバイルデバイス12などのARモバイルデバイスによって実施されてもよい。
図10は、ARモバイルデバイスのユーザと、プロセス制御環境(例えば、図2のプロセス制御環境100)のアクセス制限された(例えば、危険な、バリケードなど)エリアに存在し得る、現実世界オブジェクト(「第1のオブジェクト」)との間の対話を容易にする例示的な方法640を描画する。方法640は、例えば、図1のバックエンドサーバ14などのコンピューティングシステムまたはデバイスの1つ以上のプロセッサ、および/または図1のARモバイルデバイス12などのARモバイルデバイスによって実施されてもよい。
ソフトウェアに実装する場合、本明細書に記載されるアプリケーションおよび機能のいずれかは、コンピュータまたはプロセッサのRAMまたはROM内で、磁気ディスク、レーザーディスク、半導体メモリデバイス、分子メモリ記憶デバイス、または他の記憶媒体などの任意の有形の非一過性のコンピュータ可読メモリ内に命令として、記憶されてもよい。本明細書で開示される例示的なシステムは、ハードウェア上で実行される他のコンポーネント、ソフトウェアおよび/またはファームウェアを含むものとして開示されるが、このようなシステムは、単なる例示であり、限定するものではないということに留意するべきである。例えば、これらのハードウェア、ソフトウェア、およびファームウェア構成要素のうちのいずれかまたは全てが、ハードウェアにのみ、ソフトウェアにのみ、あるいはハードウェアおよびソフトウェアの任意の組み合わせで、埋め込まれ得ることが企図される。したがって、本明細書に記載される例示的なシステムは、1つ以上のコンピュータデバイスのプロセッサで実行されるソフトウェアで実装されるものとして記載されているが、提供される例がかかるシステムを実装する唯一の方法ではないことを当業者は容易に理解するであろう。
Claims (20)
- 現実世界プロセス制御環境内で拡張現実(AR)モバイルデバイスのユーザに仮想強化視角を提供する方法であって、前記方法が、
ARシステムの1つ以上のプロセッサによって、前記プロセス制御環境のマップに関連付けられている第1のノードが、現在前記ARモバイルデバイスのカメラの視野内にある第1の現実世界オブジェクトに対応することを判定することと、
前記1つ以上のプロセッサによって、前記第1のノードと前記マップに関連付けられている1つ以上の他のノードとの間の関係を判定することであって、前記関係が、前記1つ以上の他のノードに対応する1つ以上の他の現実世界オブジェクトが、前記第1の現実世界オブジェクトによって少なくとも部分的に不明瞭であることを示す、判定することと、
少なくとも部分的に前記第1のノードと前記他のノードとの間の前記関係を判定することに応答して、前記1つ以上のプロセッサによって、メモリから前記1つ以上の他の現実世界オブジェクトを描画する1つ以上のデジタルモデルまたはデジタル画像を取得することと、
前記1つ以上のプロセッサによって、前記ARモバイルデバイスのディスプレイに、前記第1の現実世界オブジェクトが前記カメラの前記視野内にある間に、前記取得されたデジタルモデルまたはデジタル画像を前記ユーザに提示させることと、を含む、方法。 - 前記第1のノードが現在前記カメラの視野内にある第1の現実世界オブジェクトに対応することを判定することが、
前記ARモバイルデバイスの少なくとも現在の配向を検出することと、
前記現在の配向および前記マップによって示される前記第1のノードの位置に少なくとも基づいて、前記第1の現実世界オブジェクトが現在前記カメラの前記視野内にあることを判定することと、を含む、請求項1に記載の方法。 - 前記第1のノードが現在前記カメラの視野内にある第1の現実世界オブジェクトに対応することを判定することが、
前記第1のノードが、(i)現在前記カメラの視野内にあり、かつ(ii)現在前記ARモバイルデバイスの閾値距離内にある、第1の現実世界オブジェクトに対応することを判定することを含む、請求項1に記載の方法。 - 前記第1のノードと前記1つ以上の他のノードとの間の関係を判定することが、
前記関係を指定するノードデータベースにアクセスすることを含む、請求項1に記載の方法。 - 前記第1のノードと前記1つ以上の他のノードとの間の関係を判定することが、
前記第1の現実世界オブジェクトから前記ARモバイルデバイスによって得られたノード識別子を判定することと、
前記ノード識別子を使用して前記関係を判定することと、を含む、請求項1に記載の方法。 - ノード識別子を判定することが、
前記第1の現実世界オブジェクト上でQRコードをスキャンして、前記ARモバイルデバイスによって得られたノード識別子を判定することを含む、請求項5に記載の方法。 - メモリから前記1つ以上の他の現実世界オブジェクトを描画する1つ以上のデジタルモデルまたはデジタル画像を取得することが、
前記メモリから前記1つ以上の現実世界オブジェクトを描画する1つ以上の3次元(3D)デジタルモデルを取得することを含む、請求項1に記載の方法。 - 前記メモリから前記1つ以上の現実世界オブジェクトを描画する1つ以上のデジタルモデルまたはデジタル画像を取得することが、
前記1つ以上の現実世界オブジェクトを描画する前記1つ以上のデジタル画像を取得することを含む、請求項1に記載の方法。 - 前記第1のノードと前記マップに関連付けられている1つ以上の他のノードとの間の関係を判定することが、
前記第1の現実世界オブジェクトが、前記1つ以上の他の現実世界オブジェクトが位置しているキャビネットであると判定することを含む、請求項1に記載の方法。 - 現実世界プロセス制御環境内で拡張現実(AR)モバイルデバイスのユーザに仮想強化視角を提供するためのサーバであって、前記サーバが、
前記プロセス制御環境のマップに関連付けられている第1のノードが、現在前記ARモバイルデバイスのカメラの視野内にある第1の現実世界オブジェクトに対応することを判定することと、
前記第1のノードと前記マップに関連付けられている1つ以上の他のノードとの間の関係を判定することであって、前記関係が、前記1つ以上の他のノードに対応する1つ以上の他の現実世界オブジェクトが、前記第1の現実世界オブジェクトによって少なくとも部分的に不明瞭であることを示す、判定することと、
少なくとも部分的に前記第1ノードと前記他のノードとの間の前記関係を判定することに応答して、メモリから前記1つ以上の他の現実世界オブジェクトを描画する1つ以上のデジタルモデルまたはデジタル画像を取得することと、
前記ARモバイルデバイスのディスプレイに、前記第1の現実世界オブジェクトが前記カメラの前記視野内にある間に、前記取得されたデジタルモデルまたはデジタル画像を前記ユーザに提示させることと、を行うように構成されている、サーバ。 - 前記サーバが、少なくとも、
前記ARモバイルデバイスの現在の配向および前記マップによって示される前記第1のノードの位置に少なくとも基づいて、第1の現実世界オブジェクトが現在前記カメラの視野内にあることを判定することによって、前記第1のノードが、現在前記カメラの前記視野内にある前記第1の現実世界オブジェクトに対応することを判定するように構成されている、請求項10に記載のサーバ。 - 前記サーバが、少なくとも、
前記第1のノードが、(i)現在前記カメラの視野内にあり、かつ(ii)現在前記ARモバイルデバイスの閾値距離内にある、第1の現実世界オブジェクトに対応することを判定することによって、前記第1のノードが、現在前記カメラの視野内にある第1の現実世界オブジェクトに対応することを判定するように構成されている、請求項10に記載のサーバ。 - 前記サーバが、少なくとも、
前記第1の現実世界オブジェクトから前記ARモバイルデバイスによって得られたノード識別子を判定することと、
前記ノード識別子を使用して前記関係を判定することと、によって、前記第1のノードと前記1つ以上の他のノードとの間の関係を判定するように構成されている、請求項10に記載のサーバ。 - 前記サーバが、少なくとも、
前記第1の現実世界オブジェクトが、前記1つ以上の他の現実世界オブジェクトが位置しているキャビネットであると判定することによって、前記第1のノードと前記マップに関連付けられている1つ以上の他のノードとの間の関係を判定するように構成されている、請求項10に記載のサーバ。 - 現実世界プロセス制御環境内で仮想強化視覚をユーザに提供するための拡張現実(AR)モバイルデバイスであって、前記ARモバイルデバイスが、カメラおよびディスプレイを含み、前記ARモバイルデバイスが、
前記プロセス制御環境のマップに関連付けられている第1のノードが、現在前記カメラの視野内にある第1の現実世界オブジェクトに対応することを判定することと、
前記第1のノードと前記マップに関連付けられている1つ以上の他のノードとの間の関係を判定することであって、前記関係が、前記1つ以上の他のノードに対応する1つ以上の他の現実世界オブジェクトが、前記第1の現実世界オブジェクトによって少なくとも部分的に不明瞭であることを示す、判定することと、
少なくとも部分的に前記第1ノードと前記他のノードとの間の前記関係を判定することに応答して、メモリから前記1つ以上の他の現実世界オブジェクトを描画する1つ以上のデジタルモデルまたはデジタル画像を取得することと、
前記第1の現実世界オブジェクトが前記カメラの前記視野内にある間に、前記取得されたデジタルモデルまたはデジタル画像を前記ディスプレイを介してユーザに前記提示することと、を行うように構成されている、ARモバイルデバイス。 - 前記ARモバイルデバイスが、慣性測定ユニットをさらに含み、前記ARモバイルデバイスが、少なくとも、
前記慣性測定ユニットを使用して、前記ARモバイルデバイスの少なくとも現在の配向を検出することと、
前記ARモバイルデバイスの前記現在の配向および前記マップによって示される前記第1のノードの位置に少なくとも基づいて、第1の現実世界オブジェクトが現在前記カメラの視野内にあることを判定することと、によって、前記第1のノードが、現在前記カメラの前記視野内にある前記第1の現実世界オブジェクトに対応することを判定するように構成されている、請求項15に記載のARモバイルデバイス。 - 前記ARモバイルデバイスが、少なくとも、
前記第1のノードが、(i)現在前記カメラの視野内にあり、かつ(ii)現在前記ARモバイルデバイスの閾値距離内にある、第1の現実世界オブジェクトに対応することを判定することによって、前記第1のノードが、現在前記カメラの視野内にある第1の現実世界オブジェクトに対応することを判定するように構成されている、請求項15に記載のARモバイルデバイス。 - 前記ARモバイルデバイスが、少なくとも、
前記第1の現実世界オブジェクトから前記ARモバイルデバイスによって得られたノード識別子を判定することと、
前記ノード識別子を使用して前記関係を判定することと、によって、前記第1のノードと前記1つ以上の他のノードとの間の関係を判定するように構成されている、請求項10に記載のサーバ。 - 前記ARモバイルデバイスが、前記カメラを使用して前記第1の現実世界オブジェクト上のQRコードをスキャンすることによって、前記ノード識別子を判定するように構成されている、請求項18に記載のARモバイルデバイス。
- 前記ARモバイルデバイスが、少なくとも、
前記第1の現実世界オブジェクトが、前記1つ以上の他の現実世界オブジェクトが位置しているキャビネットであると判定することによって、前記第1のノードと前記マップに関連付けられている1つ以上の他のノードとの間の関係を判定するように構成されている、請求項15に記載のARモバイルデバイス。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201762564074P | 2017-09-27 | 2017-09-27 | |
US62/564,074 | 2017-09-27 | ||
US16/036,379 US11080931B2 (en) | 2017-09-27 | 2018-07-16 | Virtual x-ray vision in a process control environment |
US16/036,379 | 2018-07-16 | ||
PCT/US2018/052894 WO2019067570A1 (en) | 2017-09-27 | 2018-09-26 | VIRTUAL X-RAY VISION IN A PROCESS CONTROL ENVIRONMENT |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2020535536A true JP2020535536A (ja) | 2020-12-03 |
JP2020535536A5 JP2020535536A5 (ja) | 2021-10-14 |
JP7209704B2 JP7209704B2 (ja) | 2023-01-20 |
Family
ID=65807773
Family Applications (4)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018179420A Active JP7315313B2 (ja) | 2017-09-27 | 2018-09-25 | プロセス制御環境の3dマッピング |
JP2020517557A Active JP7198276B2 (ja) | 2017-09-27 | 2018-09-26 | アクセス制限されたオブジェクトへの仮想アクセス |
JP2020517566A Active JP7209704B2 (ja) | 2017-09-27 | 2018-09-26 | プロセス制御環境における仮想x線視角 |
JP2023115085A Pending JP2023153815A (ja) | 2017-09-27 | 2023-07-13 | プロセス制御環境の3dマッピング |
Family Applications Before (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018179420A Active JP7315313B2 (ja) | 2017-09-27 | 2018-09-25 | プロセス制御環境の3dマッピング |
JP2020517557A Active JP7198276B2 (ja) | 2017-09-27 | 2018-09-26 | アクセス制限されたオブジェクトへの仮想アクセス |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023115085A Pending JP2023153815A (ja) | 2017-09-27 | 2023-07-13 | プロセス制御環境の3dマッピング |
Country Status (6)
Country | Link |
---|---|
US (4) | US11080931B2 (ja) |
JP (4) | JP7315313B2 (ja) |
CN (3) | CN109559380A (ja) |
DE (2) | DE112018004347T5 (ja) |
GB (3) | GB2607819B (ja) |
WO (2) | WO2019067573A1 (ja) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10650597B2 (en) * | 2018-02-06 | 2020-05-12 | Servicenow, Inc. | Augmented reality assistant |
US10977867B2 (en) * | 2018-08-14 | 2021-04-13 | Goodrich Corporation | Augmented reality-based aircraft cargo monitoring and control system |
US11244509B2 (en) | 2018-08-20 | 2022-02-08 | Fisher-Rosemount Systems, Inc. | Drift correction for industrial augmented reality applications |
US10547974B1 (en) * | 2019-03-19 | 2020-01-28 | Microsoft Technology Licensing, Llc | Relative spatial localization of mobile devices |
JP2020197836A (ja) * | 2019-05-31 | 2020-12-10 | ファナック株式会社 | 産業用機械のデータ収集確認装置 |
US11307647B2 (en) * | 2019-09-11 | 2022-04-19 | Facebook Technologies, Llc | Artificial reality triggered by physical object |
CN110718043B (zh) * | 2019-10-17 | 2021-07-30 | 辽宁中航信诺科技有限公司 | 基于ar人工智能设备的危险区域的检查报警方法 |
US11250624B2 (en) * | 2020-04-24 | 2022-02-15 | Trimble Inc. | Methods of displaying an augmented reality model on an augmented reality device |
WO2021227082A1 (en) * | 2020-05-15 | 2021-11-18 | Beijing Xiaomi Mobile Software Co., Ltd. | Method and device for positioning internet of things devices |
US11120093B1 (en) * | 2020-06-02 | 2021-09-14 | Capital One Services, Llc | System and method for providing a content item based on computer vision processing of images |
US11816887B2 (en) | 2020-08-04 | 2023-11-14 | Fisher-Rosemount Systems, Inc. | Quick activation techniques for industrial augmented reality applications |
WO2022035910A1 (en) * | 2020-08-10 | 2022-02-17 | Orcana Inc. | Method and platform for portable remote support during medical device implantation using augmented reality devices |
CN112287928A (zh) * | 2020-10-20 | 2021-01-29 | 深圳市慧鲤科技有限公司 | 一种提示方法、装置、电子设备及存储介质 |
CN116917847A (zh) | 2021-03-01 | 2023-10-20 | 昕诺飞控股有限公司 | 根据图像中到最近设备的距离显示数据的聚合 |
WO2023009864A2 (en) * | 2021-07-30 | 2023-02-02 | Vuzix Corporation | Interactive reticle |
TWI808669B (zh) * | 2022-03-04 | 2023-07-11 | 國眾電腦股份有限公司 | 多點同步指導偕同作業系統及其方法 |
CN115468560B (zh) * | 2022-11-03 | 2023-03-24 | 国网浙江省电力有限公司宁波供电公司 | 基于多传感信息融合的质检方法、机器人、设备及介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013149042A (ja) * | 2012-01-18 | 2013-08-01 | Hitachi Plant Technologies Ltd | 設備保守管理システム |
JP2014123193A (ja) * | 2012-12-20 | 2014-07-03 | Kddi Corp | フィールド作業支援装置 |
Family Cites Families (61)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2000052536A1 (de) | 1999-03-02 | 2000-09-08 | Siemens Aktiengesellschaft | Bedien- und beobachtungssystem mit augmented reality-techniken |
US7079990B2 (en) | 2001-02-08 | 2006-07-18 | Solidworks Corporation | Automated connections of computer-aided design components |
US7092974B2 (en) | 2003-03-12 | 2006-08-15 | Right Hemisphere Limited | Digital asset server and asset management system |
DE102005061211B4 (de) | 2004-12-22 | 2023-04-06 | Abb Schweiz Ag | Verfahren zum Erzeugen einer Mensch-Maschine-Benutzer-Oberfläche |
US7920071B2 (en) | 2006-05-26 | 2011-04-05 | Itt Manufacturing Enterprises, Inc. | Augmented reality-based system and method providing status and control of unmanned vehicles |
US20090322671A1 (en) * | 2008-06-04 | 2009-12-31 | Cybernet Systems Corporation | Touch screen augmented reality system and method |
US8397181B2 (en) * | 2008-11-17 | 2013-03-12 | Honeywell International Inc. | Method and apparatus for marking a position of a real world object in a see-through display |
US8839121B2 (en) * | 2009-05-06 | 2014-09-16 | Joseph Bertolami | Systems and methods for unifying coordinate systems in augmented reality applications |
US20140063055A1 (en) | 2010-02-28 | 2014-03-06 | Osterhout Group, Inc. | Ar glasses specific user interface and control interface based on a connected external device type |
US9710554B2 (en) * | 2010-09-23 | 2017-07-18 | Nokia Technologies Oy | Methods, apparatuses and computer program products for grouping content in augmented reality |
US9424371B2 (en) * | 2010-11-05 | 2016-08-23 | Autodesk, Inc. | Click to accept as built modeling |
US9865125B2 (en) * | 2010-11-15 | 2018-01-09 | Bally Gaming, Inc. | System and method for augmented reality gaming |
US8509483B2 (en) | 2011-01-31 | 2013-08-13 | Qualcomm Incorporated | Context aware augmentation interactions |
KR101199290B1 (ko) | 2011-03-31 | 2012-11-09 | 전자부품연구원 | 증강현실을 이용한 플랜트 관리 방법 및 시스템 |
US20120306850A1 (en) | 2011-06-02 | 2012-12-06 | Microsoft Corporation | Distributed asynchronous localization and mapping for augmented reality |
US20150153181A1 (en) | 2011-07-27 | 2015-06-04 | Google Inc. | System and method for providing indoor navigation services |
CA2754225A1 (en) * | 2011-08-29 | 2013-02-28 | Clover Point Cartographics Ltd. | Geographic asset management system and method |
US9268406B2 (en) | 2011-09-30 | 2016-02-23 | Microsoft Technology Licensing, Llc | Virtual spectator experience with a personal audio/visual apparatus |
US8948456B2 (en) | 2012-05-11 | 2015-02-03 | Bosch Automotive Service Solutions Llc | Augmented reality virtual automotive X-ray having service information |
US9147221B2 (en) | 2012-05-23 | 2015-09-29 | Qualcomm Incorporated | Image-driven view management for annotations |
US9420275B2 (en) | 2012-11-01 | 2016-08-16 | Hexagon Technology Center Gmbh | Visual positioning system that utilizes images of a working environment to determine position |
CN102981616B (zh) * | 2012-11-06 | 2017-09-22 | 中兴通讯股份有限公司 | 增强现实中对象的识别方法及系统和计算机 |
US9730029B2 (en) | 2012-11-08 | 2017-08-08 | Duke University | Unsupervised indoor localization and heading directions estimation |
US9336629B2 (en) | 2013-01-30 | 2016-05-10 | F3 & Associates, Inc. | Coordinate geometry augmented reality process |
US9959674B2 (en) * | 2013-02-26 | 2018-05-01 | Qualcomm Incorporated | Directional and X-ray view techniques for navigation using a mobile device |
US20140267234A1 (en) | 2013-03-15 | 2014-09-18 | Anselm Hook | Generation and Sharing Coordinate System Between Users on Mobile |
US10139623B2 (en) * | 2013-06-18 | 2018-11-27 | Microsoft Technology Licensing, Llc | Virtual object orientation and visualization |
US9129430B2 (en) | 2013-06-25 | 2015-09-08 | Microsoft Technology Licensing, Llc | Indicating out-of-view augmented reality images |
US20150062123A1 (en) | 2013-08-30 | 2015-03-05 | Ngrain (Canada) Corporation | Augmented reality (ar) annotation computer system and computer-readable medium and method for creating an annotated 3d graphics model |
US10209955B2 (en) * | 2013-11-15 | 2019-02-19 | Kopin Corporation | Automatic speech recognition (ASR) feedback for head mounted displays (HMD) |
US9383816B2 (en) * | 2013-11-15 | 2016-07-05 | Kopin Corporation | Text selection using HMD head-tracker and voice-command |
US9530250B2 (en) * | 2013-12-10 | 2016-12-27 | Dassault Systemes | Augmented reality updating of 3D CAD models |
US20150169597A1 (en) | 2013-12-17 | 2015-06-18 | Qualcomm Incorporated | Methods and Systems for Locating Items and Determining Item Locations |
US9629774B2 (en) | 2014-01-14 | 2017-04-25 | Toyota Motor Engineering & Manufacturing North America, Inc. | Smart necklace with stereo vision and onboard processing |
FR3019333B1 (fr) | 2014-03-26 | 2016-03-11 | Schneider Electric Ind Sas | Procede de generation d'un contenu en realite augmentee |
US20150302650A1 (en) * | 2014-04-16 | 2015-10-22 | Hazem M. Abdelmoati | Methods and Systems for Providing Procedures in Real-Time |
US9754167B1 (en) | 2014-04-17 | 2017-09-05 | Leap Motion, Inc. | Safety for wearable virtual reality devices via object detection and tracking |
US9723109B2 (en) | 2014-05-28 | 2017-08-01 | Alexander Hertel | Platform for constructing and consuming realm and object feature clouds |
FR3023948B1 (fr) * | 2014-07-21 | 2017-12-22 | Airbus Operations Sas | Procede d'aide a la maintenance d'un aeronef par realite augmentee. |
US10416760B2 (en) * | 2014-07-25 | 2019-09-17 | Microsoft Technology Licensing, Llc | Gaze-based object placement within a virtual reality environment |
US9865089B2 (en) * | 2014-07-25 | 2018-01-09 | Microsoft Technology Licensing, Llc | Virtual reality environment with real world objects |
US20160140868A1 (en) * | 2014-11-13 | 2016-05-19 | Netapp, Inc. | Techniques for using augmented reality for computer systems maintenance |
JP6540108B2 (ja) * | 2015-03-09 | 2019-07-10 | 富士通株式会社 | 画像生成方法、システム、装置、及び端末 |
US10950051B2 (en) | 2015-03-27 | 2021-03-16 | Rockwell Automation Technologies, Inc. | Systems and methods for presenting an augmented reality |
WO2016157193A1 (en) | 2015-04-01 | 2016-10-06 | Snapback S.R.L. | Methods and systems foe electronic device interactions |
EP3281403A4 (en) * | 2015-04-06 | 2018-03-07 | Scope Technologies US Inc. | Methods and apparatus for augmented reality applications |
US10007413B2 (en) * | 2015-04-27 | 2018-06-26 | Microsoft Technology Licensing, Llc | Mixed environment display of attached control elements |
US10083544B2 (en) * | 2015-07-07 | 2018-09-25 | Google Llc | System for tracking a handheld device in virtual reality |
US10206068B2 (en) | 2015-07-09 | 2019-02-12 | OneMarket Network LLC | Systems and methods to determine a location of a mobile device |
US10037627B2 (en) | 2015-08-14 | 2018-07-31 | Argis Technologies Llc | Augmented visualization system for hidden structures |
US20170053042A1 (en) * | 2015-08-19 | 2017-02-23 | Benjamin John Sugden | Holographic building information update |
US10395116B2 (en) | 2015-10-29 | 2019-08-27 | Hand Held Products, Inc. | Dynamically created and updated indoor positioning map |
EP3171302A1 (en) | 2015-11-18 | 2017-05-24 | F. Hoffmann-La Roche AG | A method for generating an entry for an electronic laboratory journal |
US10489981B2 (en) | 2015-12-10 | 2019-11-26 | Sony Corporation | Information processing device, information processing method, and program for controlling display of a virtual object |
JP6687835B2 (ja) | 2016-02-10 | 2020-04-28 | 株式会社Jvcケンウッド | 移動端末装置およびプログラム |
US10176641B2 (en) | 2016-03-21 | 2019-01-08 | Microsoft Technology Licensing, Llc | Displaying three-dimensional virtual objects based on field of view |
US10198874B2 (en) | 2016-05-13 | 2019-02-05 | Google Llc | Methods and apparatus to align components in virtual reality environments |
US10802147B2 (en) | 2016-05-18 | 2020-10-13 | Google Llc | System and method for concurrent odometry and mapping |
CN109478091A (zh) * | 2016-07-12 | 2019-03-15 | 富士胶片株式会社 | 图像显示系统、以及头戴式显示器的控制装置及其工作方法和工作程序 |
US10685489B2 (en) * | 2017-03-02 | 2020-06-16 | Daqri, Llc | System and method for authoring and sharing content in augmented reality |
US10878240B2 (en) | 2017-06-19 | 2020-12-29 | Honeywell International Inc. | Augmented reality user interface on mobile device for presentation of information related to industrial process, control and automation system, or other system |
-
2018
- 2018-07-16 US US16/036,379 patent/US11080931B2/en active Active
- 2018-07-16 US US16/036,384 patent/US11062517B2/en active Active
- 2018-07-16 US US16/036,358 patent/US10796487B2/en active Active
- 2018-08-31 GB GB2212775.7A patent/GB2607819B/en active Active
- 2018-09-25 JP JP2018179420A patent/JP7315313B2/ja active Active
- 2018-09-26 WO PCT/US2018/052897 patent/WO2019067573A1/en active Application Filing
- 2018-09-26 GB GB2004547.2A patent/GB2580825B/en active Active
- 2018-09-26 CN CN201811124251.5A patent/CN109559380A/zh active Pending
- 2018-09-26 DE DE112018004347.9T patent/DE112018004347T5/de active Pending
- 2018-09-26 GB GB2004546.4A patent/GB2580824B/en active Active
- 2018-09-26 CN CN201880063496.3A patent/CN111149134A/zh active Pending
- 2018-09-26 CN CN201880063431.9A patent/CN111149133B/zh active Active
- 2018-09-26 JP JP2020517557A patent/JP7198276B2/ja active Active
- 2018-09-26 DE DE112018004395.9T patent/DE112018004395T5/de active Pending
- 2018-09-26 JP JP2020517566A patent/JP7209704B2/ja active Active
- 2018-09-26 WO PCT/US2018/052894 patent/WO2019067570A1/en active Application Filing
-
2020
- 2020-09-08 US US17/014,294 patent/US11244515B2/en active Active
-
2023
- 2023-07-13 JP JP2023115085A patent/JP2023153815A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013149042A (ja) * | 2012-01-18 | 2013-08-01 | Hitachi Plant Technologies Ltd | 設備保守管理システム |
JP2014123193A (ja) * | 2012-12-20 | 2014-07-03 | Kddi Corp | フィールド作業支援装置 |
Also Published As
Publication number | Publication date |
---|---|
DE112018004347T5 (de) | 2020-05-07 |
CN109559380A (zh) | 2019-04-02 |
DE112018004395T5 (de) | 2020-05-14 |
JP7315313B2 (ja) | 2023-07-26 |
CN111149133B (zh) | 2023-12-15 |
JP2020535534A (ja) | 2020-12-03 |
US11244515B2 (en) | 2022-02-08 |
GB2580824A (en) | 2020-07-29 |
GB202004547D0 (en) | 2020-05-13 |
JP7198276B2 (ja) | 2022-12-28 |
CN111149134A (zh) | 2020-05-12 |
US20190096131A1 (en) | 2019-03-28 |
US20200402320A1 (en) | 2020-12-24 |
WO2019067573A1 (en) | 2019-04-04 |
JP2023153815A (ja) | 2023-10-18 |
GB2580825B (en) | 2022-09-28 |
GB2580825A (en) | 2020-07-29 |
GB2607819B (en) | 2023-04-12 |
JP7209704B2 (ja) | 2023-01-20 |
US11080931B2 (en) | 2021-08-03 |
US20190096133A1 (en) | 2019-03-28 |
GB202004546D0 (en) | 2020-05-13 |
US10796487B2 (en) | 2020-10-06 |
US20190096132A1 (en) | 2019-03-28 |
GB2580824B (en) | 2022-08-17 |
GB202212775D0 (en) | 2022-10-19 |
GB2607819A (en) | 2022-12-14 |
CN111149133A (zh) | 2020-05-12 |
WO2019067570A1 (en) | 2019-04-04 |
US11062517B2 (en) | 2021-07-13 |
JP2019067383A (ja) | 2019-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7209704B2 (ja) | プロセス制御環境における仮想x線視角 | |
US11783553B2 (en) | Systems and methods for facilitating creation of a map of a real-world, process control environment | |
US11887312B2 (en) | Fiducial marker patterns, their automatic detection in images, and applications thereof | |
US11816887B2 (en) | Quick activation techniques for industrial augmented reality applications | |
RU2557468C2 (ru) | Переносной полевой инструмент для технического обслуживания с улучшенной функцией базовой информированности | |
US20210263168A1 (en) | System and method to determine positioning in a virtual coordinate system | |
GB2568138A (en) | 3D Mapping of a process control environment | |
GB2606650A (en) | Drift correction for industrial augmented reality applications | |
KR20170089575A (ko) | 증강 현실을 이용한 물류 관리 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210903 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210903 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220726 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220830 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221129 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221213 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230110 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7209704 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |