JP5553405B2 - 閉ざされた構造内の人員およびセンサの位置を示し、状況認識の増進を提供する、拡張現実ベース型システムおよび方法 - Google Patents

閉ざされた構造内の人員およびセンサの位置を示し、状況認識の増進を提供する、拡張現実ベース型システムおよび方法 Download PDF

Info

Publication number
JP5553405B2
JP5553405B2 JP2009552743A JP2009552743A JP5553405B2 JP 5553405 B2 JP5553405 B2 JP 5553405B2 JP 2009552743 A JP2009552743 A JP 2009552743A JP 2009552743 A JP2009552743 A JP 2009552743A JP 5553405 B2 JP5553405 B2 JP 5553405B2
Authority
JP
Japan
Prior art keywords
environment
information
personnel
graphics
real
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009552743A
Other languages
English (en)
Other versions
JP2010520559A (ja
Inventor
ヨハン バイヨ,
Original Assignee
エクセリス インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by エクセリス インコーポレイテッド filed Critical エクセリス インコーポレイテッド
Publication of JP2010520559A publication Critical patent/JP2010520559A/ja
Application granted granted Critical
Publication of JP5553405B2 publication Critical patent/JP5553405B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • G08B25/01Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium
    • G08B25/016Personal emergency signalling and security systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19617Surveillance camera constructional details
    • G08B13/19621Portable camera
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • G08B25/14Central alarm receiver or annunciator arrangements

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)
  • Alarm Systems (AREA)
  • Fire-Extinguishing By Fire Departments, And Fire-Extinguishing Equipment And Control Thereof (AREA)

Description

(関連出願の引用)
本発明は次の同時係属中の米国特許出願に関し、該出願の各々の内容の全体が本明細書に参考として援用される。
1.2006年5月26日に出願された、名称が「System and Method to Display Maintenance and Operation Instructions of an Apparatus Using Augmented Reality」である米国特許出願第11/441,241号、および
2.2007年3月8日に出願された、名称が「Augmented Reality−Based System and Method Providing Status and Control of Unmanned Vehicles」である米国特許出願第11/715,339号。
3.2006年9月7日に出願された、名称が「Method and System for Geo−Referencing and Visualization of Detected Contaminants」である米国特許出願第11/516,545号。
(開示の分野)
本発明は、環境内の人員およびセンサについての位置および関連データを環境の視界の上に示すことに関する。
(導入)
質の高い状況認識を第1の応答者に提供することが長い間望まれていた。例えば、第1の応答者に彼らの周囲の環境についてのより多くの情報を提供することは、救助活動を向上させ得る。先行技術の装置は、環境の仮想表現(例えば、マップまたは建物の3D表現)を第1の応答者から受信された状態情報と組み合わせ、ユーザに、該組み合わせとの関連性を解釈させ、該関連性を第1の応答者に通信させることによって、質の高い状況認識を第1の応答者に提供することを試みた。
図1は、先行技術のシステムが第1の応答者に情報を提供する最も単純な方法のうちの1つを示す。図1において、第1の応答者100およびユーザ102は、それぞれの通信装置104aおよび104bを用いて通信チャネル106を介して通信する。通信装置104aおよび104bは典型的には無線トランシーバであり、通信チャネル106は通信装置がそれを介してリンクされる物理的媒体である。通信装置104aおよび104bが無線トランシーバである場合において、通信チャネル106は単に空気である。ユーザ102は、応答者100からある距離だけ離れて位置を定められ、応答者100にとってすぐに利用可能ではない、応答者の環境108について情報をユーザ102が応答者100に提供することを可能にする第1の応答者の周囲環境108の眺めを有する。
図2は、ユーザ102がディスプレイ114上で見得るマップ112を提供するコンピュータ110を組み込むことによって図1の先行技術のシステムの質の高い先行技術のシステムを示す。マップ112は、環境108についてのより多くの情報をユーザ102に提供する。この情報は、ユーザ102によって第1の応答者100に通信され得る。マップ112は、典型的には環境108の一部分の静止の2Dまたは3Dの表現である。
図3は、第1の応答者の位置が監視されることを可能にするセンサ116を第1の応答者100に装備することによって、図2の先行技術のシステムを高める先行技術のシステムを示す。これは、コンピュータ110がマップ112に第1の応答者の位置をプロットすることを可能にする。従って、ディスプレイ114は、第1の応答者の位置がマップ112に重ねられた第1の応答者の位置についての情報をユーザ102に提供する。
図1および図2に示される先行技術のシステムは、環境の動的表現を第1の応答者から受信された情報と組み合せない。その結果、ユーザ102は、典型的には、各応答者または応答者のチームから受信された通信を用いることによって、環境108に関して各第1の応答者100の位置を頭の中で理解しなければならない。環境の仮想視界のマップまたは3Dディスプレイが図3に示されるシステムにおけるように用いられる場合でも、この視界は、現実の環境108と位置合せされないで、従って、環境108との関連において受信された情報を関連/関係づけ、頭の中での統合を必要とする。さらに、大都市地域における多数の建物がある場合は、あらゆる建物に対してマップまたは3Dモデルが利用可能であることは非常に珍しい。
次の例は、例示的な先行技術のシステムの実例を提供する。1階建ての建物が火災の場合、消防士(すなわち、第1の応答者)は、建物に到着しそして建物内に入る。消防士があちこちと動くとき、消防士は、分隊長(すなわち、ユーザ)に彼らが建物内のどこにいるかを概略知らせる(例えば、「私は北東コーナーから入っている」)。建物内の応答者の位置を感知することが可能であるセンサがある場合には、分隊長は、建物のマップを用い、建物内の消防士の位置をプロットし得るか、またはより近代的なシステムは自動的にマップ上に位置をプロットし得る。分隊長は次いで、マップからの情報および/または分隊長の建物の視界からの情報に基づいて、消防士の位置についての情報を消防士と通信し得る。あるいは分隊長は、消防士と情報の通信をしないで自分自身の使用のために、自分の建物の視界を用い得る。この例において、建物についての動的情報(例えば、どの部分に、火がついていて、かつ/または火が弱まっているか)は、消防士から受信された情報(例えば、位置)とは組み合わされない。すなわち、分隊長は、消防士が位置する場所を決定するためにマップを見、どの部分に火がついているかを見るために建物を見、そして危険に陥っている消防士がいるかどうかを決定するために両方の種類の情報を統合しなければならない。そのような統合の後にのみ、分隊長は消防士が危険に陥っているかどうかを消防士と通信し得る。
本明細書に説明されるシステムは、拡張現実感を用い、第1の応答者から受信された情報を第1の応答者の環境の実況の視界の上に示す。環境の動的/実況/リアルタイムの視界の上に、第1の応答者から受信された情報を有することによって、システムは、環境の質の高い表現を提供し得る。この質の高い表現は、第1の応答者のために、質の高い状況認識を提供するために用いられ得る。例えば、上記のシナリオにおいて、建物の一部が火によって弱くなっていると見られ得る場合、分隊長は、環境の動的視界の上に重ねられる情報を見ることによって、消防士の誰かが危険に陥っているかどうかを直ちに決定することが可能である。分隊長は次いで、この位置にいる人に建物のその領域から離れるように呼びかける。さらに応答者が倒れている場合、実際の建物に対する応答者の位置を見ることも可能であり、このことは、建物の現在の状態が与えられると、応答者に到達する最善の方法を決定するのに有用であり得る。システムはまた、環境のリアルタイムの視界の上に重ねられ、環境内に配置されたセンサの位置および値を示し得る。例えば、温度センサが消防士によって落とされたとき、センサ自体の追跡システム(または消防士がセンサを落とした時点の消防士の最後の位置)が、センサの位置を提供する。環境のリアルタイムの視界の上にセンサから来たデータを示すことによって、分隊長は、センサ読取りを環境における位置に直接に関係づけ得る。
(項目1)
環境内に位置する人員に質の高い状況情報を提供する方法であって、
該環境内に位置する1つ以上のセンサから情報を受信するステップであって、該情報は該環境および該環境内にいる人員についてのセンサ位置情報および状態情報を含む、ステップと、
該環境の外からのリアルタイムの視界に対応する視点情報を得るステップと、
該センサ位置情報および視点情報を用いてグラフィックスを生成するステップであって、該グラフィックスは該状態情報の視覚的表現を含む、ステップと、
該生成されたグラフィックスが該リアルタイムの視界に重ねられるように、該環境の外にある管理者ステーションのディスプレイに該生成されたグラフィックスを表示する、ステップと
を包含する、方法。
(項目2)
前記ディスプレイに視覚的に表現された情報に基づき、前記管理者ステーションから前記人員に状況情報を通信するステップをさらに包含する、項目1に記載の方法。
(項目3)
環境内に位置する前記人員は、前記外からのリアルタイムの眺めから閉ざされる、項目1に記載の方法。
(項目4)
前記人員は消防士であり、前記環境は建物である、項目1に記載の方法。
(項目5)
前記人員は兵士であり、前記環境は戦闘区域である、項目1に記載の方法。
(項目6)
前記状況情報を通信するステップは、管理者ステーションの前記ディスプレイ上の映像を前記環境内に位置する前記人員に送ることを含む、項目2に記載の方法。
(項目7)
前記視覚的表現は、前記人員を表す記号を含む、項目1に記載の方法。
(項目8)
環境内に位置する人員に質の高い状況情報を提供する拡張現実システムであって、
該環境内に位置する1つ以上のセンサと、
該環境のリアルタイムの視界に対応する視点情報を得る追跡システムと、
該1つ以上のセンサから情報を受信する処理システムであって、該情報は、該環境および該環境内の人員についてのセンサ位置情報および状態情報を含み、該センサ位置情報および該視点情報を用いてグラフィックスを生成し、該グラフィックスは該状態情報の視覚的表現を含む、処理システムと、
該環境の外にある管理者ステーションに、該生成されたグラフィックスが該リアルタイムの視界に重ねられるように、該生成されたグラフィックスを表示する、ディスプレイと
を備えている、システム。
(項目9)
前記ディスプレイに視覚的に表現された情報に基づき、前記管理者ステーションから前記人員に状況情報を通信する通信装置をさらに備えている、項目8に記載の拡張現実システム。
(項目10)
前記人員は消防士であり、前記環境は建物である、項目8に記載の方法。
(項目11)
前記人員は兵士であり、前記環境は戦闘区域である、項目8に記載の方法。
(項目12)
前記状況情報は、前記環境内に位置する前記人員への管理者ステーションの前記ディスプレイ上の映像を含む、項目8に記載の拡張現実システム。
(項目13)
前記視覚的表現は、前記人員を表す記号を含む、項目8に記載の方法。
(項目14)
環境内に位置する人員に質の高い状況情報を提供する方法であって、
該環境内に位置する1つ以上のセンサから情報を受信するステップであって、該情報は該環境および該環境内にいる人員についてのセンサ位置情報および状態情報を含む、ステップと、
該環境のリアルタイムの視界に対応する視点情報を得るステップと、
該センサ位置情報および視点情報を用いてグラフィックスを生成するステップであって、該グラフィックスは該状態情報の視覚的表現を含む、ステップと、
該生成されたグラフィックスが該リアルタイムの視界に重ねられるように、ディスプレイに該生成されたグラフィックスを表示する、ステップと
を包含する、方法。
(項目15)
前記人員は消防士であり、前記環境は建物である、項目14に記載の方法。
(項目16)
前記人員は兵士であり、前記環境は戦闘区域である、項目14に記載の方法。
(項目17)
環境ついての質の高い状況情報を提供する方法であって、
該環境内に位置する1つ以上のセンサから情報を受信するステップであって、該情報は該環境についてのセンサ位置情報および状態情報を含む、ステップと、
該環境のリアルタイムの視界に対応する視点情報を得るステップと、
該センサ位置情報および視点情報を用いてグラフィックスを生成するステップであって、該グラフィックスは該状態情報の視覚的表現を含む、ステップと、
該生成されたグラフィックスが該リアルタイムの視界に重ねられるように、ディスプレイに該生成されたグラフィックスを表示する、ステップと
を包含する、方法。
(項目18)
前記環境は建物であり、前記1つ以上のセンサは、該建物内の1つ以上のアラームに対応し、前記状態情報はアラームが駆動されたかどうかを示す、項目17に記載の方法。


(図面の簡単な説明)
添付の図面に関して与えられる次の説明は、図面の非限定の例を参照してより良く理解され得、図面は以下のように示す。
図1:先行技術の室内人員位置情報システム 図2:先行技術の室内人員位置情報システム 図3:先行技術の室内人員位置情報システム 図4:例示的室内人員位置情報システム 図5:光学シースルーディスプレイを組み込んだ例示的室内人員位置情報システム 図6:ビデオディスプレイを組み込んだ例示的室内人員位置情報システム 図7:ビデオディスプレイを組み込んだ例示的室内人員位置情報システム 図8:ビデオディスプレイを組み込んだ例示的室内人員位置情報システム 図9:環境外の応答者の眺めからの環境の視界の上に重ねられた情報の例示的図 図10:例示的室内人員位置システム 図11:環境内の応答者の眺めからの環境の視界の上に重ねられた情報の例示的図
(現在好ましい例示的実施形態)
本明細書に説明される状況認識システムは、拡張現実感(AR)技術を利用し、必要な視界をユーザに提供する。ARは、仮想現実感に似ているが、完全に人工の画像(例えば、マップまたは3Dモデル)を用いる代わりに、ARは、現実の世界の図に3Dのグラフィックスを重ねる。ARの非常に単純な例は、黄色の線によってファーストダウンを示すフットボールゲームに用いられる。用いられ得るARシステムの例は、本開示と組み合せて米国特許出願第11/441,241号の例に説明されるシステムである。
AR可視化システムは、空間データベースと、グラフィカルコンピュータと、視点追跡装置と、ディスプレイ装置とを備えている。
拡張現実システムの動作原理は下記に説明される。ユーザの視界に対応する動的画像を表示するディスプレイ装置が追跡される。すなわちディスプレイの位置および方向は、視点追跡装置によって計測される。空間データベースおよびグラフィカルコンピュータは、現実の世界の環境に情報を関係づける。関係づけられた情報は、ディスプレイの位置および方向に従って動的表示画像の上に重ねられ、それによって拡張画像を作る。
図4は、応答者100に質の高い状況認識を提供するために用いられるARシステムの例示的実施形態を示す。
コンピュータ110は、第1の応答者100によって着用されるセンサ116aおよび周囲環境108の全体に配置されたセンサ116bからの情報を収集する。センサ116aは、第1の応答者の位置が監視されることを可能にするセンサを含み、第1の応答者の健康状態(例えば、体温、心拍数など)、第1の応答者の機器(例えば、機器の能力および/または出力レベル)、および第1の応答者のすぐ近くの状態(例えば、温度、空気含有量)についての情報を提供するセンサを含み得る。センサ116bは、環境108の状態についての情報を集め得る任意のセンサを含み得る。そのようセンサ116bの例は、温度センサ、放射能センサ、煙検出器、ガスセンサ、風センサ、圧力センサ、湿度センサなどを含む。図4は単一の第1の応答者100を示すが、そのような表現に限定することは意図されず、任意の数の第1の応答者100が環境108内に位置を定められ得ることは留意すべきである。センサ116aおよび116bは、通信媒体106に類似した通信媒体を用いてコンピュータ110と通信する。
コンピュータ110は、センサ116aおよび116bから受信された情報によってデータベース118を更新する。データベース118は、センサ116aおよび116bからの情報を記憶する。データベース118は、建物の3Dモデルなどの環境108についてのモデル情報をさらに含み得る。モデル情報は、システムにおける高機能を提供するために用いられ得るが、基本的なシステムの実装にとって必要ではない。グラフィカルコンピュータ110は、データベース118からの情報を連続してレンダリングし、それによって環境108内の第1の応答者を示し、センサ116aおよび116bから受信された現在の情報からグラフィックスを生成する。各センサが追跡装置を有さず、一旦センサが消防士によって設置されると、センサは動かないので、センサが落とされた(または作動された)ときの、消防士の位置をセンサの位置として用いることが可能である。グラフィカルコンピュータ110は、データベース118からの情報を連続してレンダリングし、それによってセンサ116aおよび116bからの現在の情報をデータベース118に配置する。
コンピュータ110はまた、追跡装置122によって捕獲されたディスプレイ装置124の視点についての情報を受信する。コンピュータ110は、データベース118からの情報およびディスプレイ装置124の視点についての追跡情報を取り、一般的な3D投影プロセスを用いることによって、ディスプレイ装置124の現在の視界に関するセンサ116aおよび116bからの現在の情報をレンダリングする。ディスプレイ124の位置および方向をリアルタイムで計測する(すなわち、ユーザの視点を決定する)ことによって、空間データベース118からレンダリングされた情報を対応する視点に位置合せすることが可能である。
ディスプレイ装置124は、ディスプレイ装置124によってまたはディスプレイ装置124を通って「見られる」周囲の環境108の視界に重ね、グラフィカルコンピュータ110によって生成された画像を示すことが可能である。従って、ユーザ102は、情報がそれに重ねられた、環境108の全体の眺めを有し、この質の高い環境108の全体の眺めを用い、第1の応答者100に情報を通信することが可能である。それによって、他の方法では第1の応答者102にとって利用可能ではない、環境108についての情報を第1の応答者102に効率的に提供する。
図5は、光学シースルーディスプレイを用いて実装されるディスプレイ装置124を示す。光学シースルーディスプレイは、光学ビームスプリッタを用いることによって、周囲の環境108の視界に重ねられた、グラフィカルコンピュータ110によって生成された画像を示し、該光学ビームスプリッタは、前方の環境108から来る光の半分を通過させ、ディスプレイ124から来る光の半分を反射し、現実世界の環境118とグラフィックスとを組み合せた効果の中で、グラフィカルコンピュータ110によって生成される画像を示す。光学シースルーディスプレイは、典型的にはユーザ102によって着用されるゴーグルの形態であるが、ジェット戦闘機において用いられるヘッドアップディスプレイでもあり得る。
図6は、映像シースルーディスプレイを用いて実装されるディスプレイ装置124を示す。映像シースルーディスプレイは、ビデオカメラ126を用いることによって、環境108の視界に重ねられ、グラフィカルコンピュータ110によって生成された画像を示すことを達成し、ビデオカメラ126は、環境108の映像をとり、ビデオレンダリング装置128を用いて、グラフィカルコンピュータ110からの画像が映像の上にオーバレイされた後に、ディスプレイ124に映像を示す。映像シースルーディスプレイの場合において、現実世界の環境108の視界を獲得するカメラおよびこの映像を示すディスプレイが、図6に示されるように、単一のディスプレイに共に位置を定められ得るか、または図7に示されるように異なる位置に配置され得る。映像ディスプレイは、様々なタイプの表示技術を用いて実装され得、ユーザ102の近くのどこにでも位置を定められ得る。消防士の例において、ディスプレイ124は、トラック内のスクリーン、トラック外のタブレットコンピュータまたはPDAであり得る。
上記の3つの例示的構成(光学シースルー、共に位置するカメラおよびディスプレイ、ならびに異なる位置におけるカメラおよびディスプレイ)は、ARシステムの実装を理解するために言及されるのであって、限定することは意図されない。現実の世界に付随されたように見えるグラフィックスを重ねることが可能な任意のARシステムが用いられ得る。
図8は、ユーザ102および第1の応答者100が各々ディスプレイ124を有する例示的実施形態である。これは、第1の応答者100がユーザ102の映像シースルーディスプレイに表示された拡張映像を受信することを可能にする。複数の第1の応答者100がいる場合において、各応答者100は、他の応答者100によって用いられる任意のARシステムから生成される映像を受信し得る。複数の映像源が、任意の公知の方法、すなわち、スプリットスクリーン、マルチプルディスプレイ、映像源スイッチングなどを用いるユーザ102および各第1の応答者100に提供され得る。応答者が、図7におけるようにユーザディスプレイおよびカメラが共に位置を定められない場合の実装においてディスプレイ上に映像を受信し得ることは留意すべきである。
図4〜図8に示される要素は、適切な場合、任意の数の方法で組み合わせられ得る(例えば、トラッキング122およびコンピュータ110は、同じ物理的装置内で組み合わされ得る)ことは留意すべきである。さらに、示される要素は、任意の適切な方法で互いに通信する別個の物理的装置であり得る。例えば、センサ116aおよび116bは、ネットワークプロトコルを用いるネットワークを介して無線通信によって、または電子通信の任意の他の適切な方法を用いて、コンピュータ110と通信し得る。
図9は、燃えている建物内の消防士の例を用いる現実の世界の建物の外観情報を重ねる概念を示す。この例において、建物の視界は、建物の近くのトラックに取り付けられ得るか、カメラマンによって扱われ得るか、またはそれが分隊長の視界を表すような方法で分隊長に取り付けられ得るビデオカメラから提供され得る。映像はまた、光学シースルーディスプレイを用いることによって生成され得る。図9における映像は、実際の環境の外からの環境の眺めを提供する。示されるように、「ジョン」および「ジョー」と呼ばれる応答者の位置は、建物の実際の生きた視界の上に重ねられる。ジョンおよびジョーが同じ記号(すなわち、十字形)によって表されるが、そのような表現は、限定することであることを意図されず、各応答者が固有の記号によって表され得ることは留意すべきである。
またジョンおよびジョーの名前の隣に表示されるものは、各人の状態に関する情報である。この例において、パーセンテージは、各人が自分の酸素タンクに有する酸素のレベルを表す。ここでジョンの酸素タンクは満タンの80%であり、ジョーのタンクは満タンの90%である。このことは、ジョンおよびジョーが建物内で活動する時間がどのくらい有するかという考えを分隊長に提供し得る。第1の応答者または彼らから受信された任意の情報を表すために、アバターが代わりに用いられ得る。システムに組み込まれ得る電子ゲーム技術において多くの公知のアバターがある。さらにグラフィカル情報は、ジョンとジョーの結合された状態、例えば、結合された酸素レベルを表すインジケータを表し得る。あるいは、両方が集合した記号を用いて示され得る(近くで活動する応答者のチーム、表示が煩雑になるのを減らすため)。
上記のジョンおよびジョーの表現は、建物内で落とされたセンサから来るデータである。この例示的実施形態において、センサは、燃えている建物内のどこかに落ちた温度センサである。そのようなセンサの1つは、示されるように435度の温度表示を提供している。他のタイプのセンサおよびさらなる温度センサが、建物全体に配置され得る。
例示的システムの原理が消防士のための状況認識システムとしての例を用いることによって示されるが、例示的システムはまた、次の用途におけるシステムとしても実装され得る。すなわち、都市環境における軍事作戦において「友軍(blue force)(友好的)」を示すシステム、建物内の労働者の位置を示すシステム、駆動されたアラームセンサの位置を示し、セキュリティ要員によって用いられるシステム、工場/建物内のセンサまたはセンサ一式についての位置およびデータを示すための、保守要員によって用いられるシステムである。
図10は、拡張視界を有する第1の応答者100の原理を示す。図10におけるシステムは、図4〜図8のシステムと異なることなく実装される。相違は、環境108の拡張視界を有する人の位置である。図4〜図8において、この人(ユーザ102)は環境108の外にいる。図10において、この人(第1の応答者100)は環境内にいる。第1の応答者100が拡張視界を有するとき、拡張視界は、第1の応答者100が、ユーザの視界から固有である、第1の応答者100の環境の視界に重ねられたセンサからの情報を有することを可能にする。そのような視界の例は図11に示され、図11において、消防士の部屋の視界は、誰が部屋にいるか、彼らはどこにいるか、ならびに環境に配置されているセンサから来る値などの情報によって重ねられる。
第1の応答者100がその個人の視界に重ねられるグラフィックスを見るこの例において、第1の応答者100は、ヘルメットか手首に取り付けられたディスプレイまたはPDA/タブレットのディスプレイを用いて、現実の世界の環境108と位置合せされた情報を見る。ディスプレイ124は、応答者100およびセンサ116bについての位置およびデータなどの同じ情報、または任意の他の有用な情報を示す。応答者100が援助を必要とする場合、他の応答者が助けに行くことが今や容易になる。なぜなら、彼らは、環境108に関して応答者100がどこにいるかが分かり、障害物を避けながら応答者100に到達する方法が分かり得るからである。
本発明が現在最も実際的で好ましい実施形態であると考えられるものに関連して説明されたが、本発明が、開示された実施形態に限定されるべきではなく、それどころか、添付の特許請求の範囲の精神および範囲内に含まれる様々な修正および均等な構成を含むように意図されることは理解すべきである。

Claims (13)

  1. 環境内に位置する人員に質の高い状況情報を提供する方法であって、
    該環境内に位置する1つ以上のセンサから情報を受信するステップであって、該情報は該環境および該環境内にいる人員についてのセンサ位置情報および状態情報を含む、ステップと、
    該環境の外からのリアルタイムの視界に対応する視点情報を得るステップであって、該環境の該外からのリアルタイムの視界は、該環境の外にある管理者ステーションのディスプレイ装置に表示され、該視点情報は、該ディスプレイ装置の位置および方向を計測することにより得られる、ステップと、
    該センサ位置情報および視点情報を用いてグラフィックスを生成するステップであって、該グラフィックスは該状態情報の視覚的表現を含む、ステップと、
    該生成されたグラフィックスが該環境の該外からのリアルタイムの視界に重ねられるように、該環境の外にある管理者ステーションのディスプレイ装置に該生成されたグラフィックスを表示するステップと
    を包含する、方法。
  2. 前記ディスプレイ装置に視覚的に表現された情報に基づき、前記管理者ステーションから前記人員に状況情報を通信するステップをさらに包含する、請求項1に記載の方法。
  3. 前記環境内に位置する前記人員は、前記外からのリアルタイムの眺めから閉ざされる、請求項1に記載の方法。
  4. 前記人員は消防士であり、前記環境は建物である、請求項1に記載の方法。
  5. 前記人員は兵士であり、前記環境は戦闘区域である、請求項1に記載の方法。
  6. 前記状況情報を通信するステップは、前記管理者ステーションの前記ディスプレイ装置上の映像を前記環境内に位置する前記人員に送ることを含む、請求項2に記載の方法。
  7. 前記視覚的表現は、前記人員を表す記号を含む、請求項1に記載の方法。
  8. 環境内に位置する人員に質の高い状況情報を提供する拡張現実システムであって、
    該環境内に位置する1つ以上のセンサと、
    該環境の外からのリアルタイムの視界に対応する視点情報を得る追跡システムと、
    該1つ以上のセンサから情報を受信する処理システムであって、該情報は、該環境および該環境内の人員についてのセンサ位置情報および状態情報を含み、該センサ位置情報および該視点情報を用いてグラフィックスを生成し、該グラフィックスは該状態情報の視覚的表現を含む、処理システムと、
    該環境の外にある管理者ステーションに、該生成されたグラフィックスが該環境の該外からのリアルタイムの視界に重ねられるように、該生成されたグラフィックスおよび該環境の該外からのリアルタイムの視界を表示するディスプレイ装置
    を備えており、該視点情報は、該追跡システムが該ディスプレイ装置の位置および方向を計測することにより得られる、システム。
  9. 前記ディスプレイ装置に視覚的に表現された情報に基づき、前記管理者ステーションから前記人員に状況情報を通信する通信装置をさらに備えている、請求項8に記載の拡張現実システム。
  10. 前記人員は消防士であり、前記環境は建物である、請求項8に記載のシステム。
  11. 前記人員は兵士であり、前記環境は戦闘区域である、請求項8に記載のシステム。
  12. 前記状況情報は、前記管理者ステーションの前記ディスプレイ装置上の映像を含み、該状況情報は、前記環境内に位置する前記人員へ送信される、請求項8に記載の拡張現実システム。
  13. 前記視覚的表現は、前記人員を表す記号を含む、請求項8に記載のシステム。
JP2009552743A 2007-03-08 2008-03-07 閉ざされた構造内の人員およびセンサの位置を示し、状況認識の増進を提供する、拡張現実ベース型システムおよび方法 Expired - Fee Related JP5553405B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US11/715,338 US20080218331A1 (en) 2007-03-08 2007-03-08 Augmented reality-based system and method to show the location of personnel and sensors inside occluded structures and provide increased situation awareness
US11/715,338 2007-03-08
PCT/US2008/003038 WO2008112149A2 (en) 2007-03-08 2008-03-07 Augmented reality-based system and method to show the location of personnel and sensors inside occluded structures and provide increased situation awareness

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014061266A Division JP2014123406A (ja) 2007-03-08 2014-03-25 閉ざされた構造内の人員およびセンサの位置を示し、状況認識の増進を提供する、拡張現実ベース型システムおよび方法

Publications (2)

Publication Number Publication Date
JP2010520559A JP2010520559A (ja) 2010-06-10
JP5553405B2 true JP5553405B2 (ja) 2014-07-16

Family

ID=39741080

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2009552743A Expired - Fee Related JP5553405B2 (ja) 2007-03-08 2008-03-07 閉ざされた構造内の人員およびセンサの位置を示し、状況認識の増進を提供する、拡張現実ベース型システムおよび方法
JP2014061266A Withdrawn JP2014123406A (ja) 2007-03-08 2014-03-25 閉ざされた構造内の人員およびセンサの位置を示し、状況認識の増進を提供する、拡張現実ベース型システムおよび方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2014061266A Withdrawn JP2014123406A (ja) 2007-03-08 2014-03-25 閉ざされた構造内の人員およびセンサの位置を示し、状況認識の増進を提供する、拡張現実ベース型システムおよび方法

Country Status (6)

Country Link
US (2) US20080218331A1 (ja)
EP (1) EP2126866A4 (ja)
JP (2) JP5553405B2 (ja)
AU (1) AU2008226932B2 (ja)
CA (1) CA2679427A1 (ja)
WO (1) WO2008112149A2 (ja)

Families Citing this family (101)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7503007B2 (en) * 2006-05-16 2009-03-10 International Business Machines Corporation Context enhanced messaging and collaboration system
US8185101B1 (en) 2008-04-10 2012-05-22 Sandia Corporation Handheld portable real-time tracking and communications device
US8732592B2 (en) * 2009-06-08 2014-05-20 Battelle Energy Alliance, Llc Methods and systems relating to an augmented virtuality environment
CN103124991A (zh) * 2010-08-16 2013-05-29 斯图尔特·格雷厄姆·爱德华兹 一种有紧急情况信息功能的建筑物
DE102011009952A1 (de) * 2011-02-01 2012-08-02 Deutsches Zentrum für Luft- und Raumfahrt e.V. Verfahren zum Bestimmen der Position und Lage eines Astronauten
US8644673B2 (en) 2011-03-22 2014-02-04 Fmr Llc Augmented reality system for re-casting a seminar with private calculations
US10114451B2 (en) 2011-03-22 2018-10-30 Fmr Llc Augmented reality in a virtual tour through a financial portfolio
US9424579B2 (en) 2011-03-22 2016-08-23 Fmr Llc System for group supervision
US9600933B2 (en) 2011-07-01 2017-03-21 Intel Corporation Mobile augmented reality system
US10108783B2 (en) 2011-07-05 2018-10-23 Saudi Arabian Oil Company Systems, computer medium and computer-implemented methods for monitoring health of employees using mobile devices
US10307104B2 (en) 2011-07-05 2019-06-04 Saudi Arabian Oil Company Chair pad system and associated, computer medium and computer-implemented methods for monitoring and improving health and productivity of employees
US9492120B2 (en) 2011-07-05 2016-11-15 Saudi Arabian Oil Company Workstation for monitoring and improving health and productivity of employees
CA2840804C (en) 2011-07-05 2018-05-15 Saudi Arabian Oil Company Floor mat system and associated, computer medium and computer-implemented methods for monitoring and improving health and productivity of employees
US8872640B2 (en) 2011-07-05 2014-10-28 Saudi Arabian Oil Company Systems, computer medium and computer-implemented methods for monitoring health and ergonomic status of drivers of vehicles
US9962083B2 (en) 2011-07-05 2018-05-08 Saudi Arabian Oil Company Systems, computer medium and computer-implemented methods for monitoring and improving biomechanical health of employees
US9710788B2 (en) 2011-07-05 2017-07-18 Saudi Arabian Oil Company Computer mouse system and associated, computer medium and computer-implemented methods for monitoring and improving health and productivity of employees
US9526455B2 (en) 2011-07-05 2016-12-27 Saudi Arabian Oil Company Systems, computer medium and computer-implemented methods for monitoring and improving health and productivity of employees
US9256711B2 (en) 2011-07-05 2016-02-09 Saudi Arabian Oil Company Systems, computer medium and computer-implemented methods for providing health information to employees via augmented reality display
US9844344B2 (en) 2011-07-05 2017-12-19 Saudi Arabian Oil Company Systems and method to monitor health of employee when positioned in association with a workstation
US20150150641A1 (en) * 2011-10-28 2015-06-04 Navigate Surgical Technologies, Inc. System and method for determining the three-dimensional location and orientation of identification markers
US20130137076A1 (en) * 2011-11-30 2013-05-30 Kathryn Stone Perez Head-mounted display based education and instruction
US9096920B1 (en) 2012-03-22 2015-08-04 Google Inc. User interface method
FR2990286B1 (fr) * 2012-05-07 2019-09-06 Schneider Electric Industries Sas Procede d'affichage en realite augmentee d'une information relative a un equipement cible sur un ecran d'un dispositif electronique, produit programme d'ordinateur, dispositif electronique et equipement electrique associes
WO2013181749A1 (en) * 2012-06-08 2013-12-12 Thales Canada Inc. Integrated combat resource management system
US9349218B2 (en) 2012-07-26 2016-05-24 Qualcomm Incorporated Method and apparatus for controlling augmented reality
US9129429B2 (en) 2012-10-24 2015-09-08 Exelis, Inc. Augmented reality on wireless mobile devices
TWI486629B (zh) 2012-11-21 2015-06-01 Ind Tech Res Inst 穿透型頭部穿戴式顯示系統與互動操作方法
US9483875B2 (en) 2013-02-14 2016-11-01 Blackberry Limited Augmented reality system with encoding beacons
CN104981833A (zh) * 2013-03-14 2015-10-14 英特尔公司 替代现实角色的异步显示
US9607584B2 (en) * 2013-03-15 2017-03-28 Daqri, Llc Real world analytics visualization
US9460561B1 (en) 2013-03-15 2016-10-04 Bentley Systems, Incorporated Hypermodel-based panorama augmentation
US9761045B1 (en) 2013-03-15 2017-09-12 Bentley Systems, Incorporated Dynamic and selective model clipping for enhanced augmented hypermodel visualization
US10262462B2 (en) 2014-04-18 2019-04-16 Magic Leap, Inc. Systems and methods for augmented and virtual reality
US9129430B2 (en) 2013-06-25 2015-09-08 Microsoft Technology Licensing, Llc Indicating out-of-view augmented reality images
US9892489B1 (en) * 2013-08-20 2018-02-13 Rockwell Collins, Inc. System for and method of providing a virtual cockpit, control panel, or dashboard using augmented reality
US9286791B2 (en) * 2013-10-08 2016-03-15 HYPERION S.r.l. Protection and security system including three-dimensional virtual reality
US9740935B2 (en) 2013-11-26 2017-08-22 Honeywell International Inc. Maintenance assistant system
US9530057B2 (en) * 2013-11-26 2016-12-27 Honeywell International Inc. Maintenance assistant system
US9722472B2 (en) 2013-12-11 2017-08-01 Saudi Arabian Oil Company Systems, computer medium and computer-implemented methods for harvesting human energy in the workplace
US20160342839A1 (en) * 2014-03-20 2016-11-24 Hewlett Packard Enterprise Development Lp Identifying electronic components for augmented reality
US10802582B1 (en) * 2014-04-22 2020-10-13 sigmund lindsay clements Eye tracker in an augmented reality glasses for eye gaze to input displayed input icons
US9826297B2 (en) 2014-10-29 2017-11-21 At&T Intellectual Property I, L.P. Accessory device that provides sensor input to a media device
US9955059B2 (en) * 2014-10-29 2018-04-24 Kabushiki Kaisha Toshiba Electronic device, method, and computer program product
US9508248B2 (en) 2014-12-12 2016-11-29 Motorola Solutions, Inc. Method and system for information management for an incident response
US10065750B2 (en) * 2015-02-10 2018-09-04 Honeywell International Inc. Aircraft maintenance systems and methods using wearable device
US10382746B1 (en) 2015-09-22 2019-08-13 Rockwell Collins, Inc. Stereoscopic augmented reality head-worn display with indicator conforming to a real-world object
US10528021B2 (en) 2015-10-30 2020-01-07 Rockwell Automation Technologies, Inc. Automated creation of industrial dashboards and widgets
WO2017083420A1 (en) * 2015-11-10 2017-05-18 Thales Visionix, Inc. Robust vision-inertial pedestrian tracking with heading auto-alignment
US10475351B2 (en) 2015-12-04 2019-11-12 Saudi Arabian Oil Company Systems, computer medium and methods for management training systems
DE102015015695A1 (de) * 2015-12-04 2017-06-08 Audi Ag Anzeigesystem und Verfahren zum Betreiben eines Anzeigesystems
US10642955B2 (en) 2015-12-04 2020-05-05 Saudi Arabian Oil Company Devices, methods, and computer medium to provide real time 3D visualization bio-feedback
US9889311B2 (en) 2015-12-04 2018-02-13 Saudi Arabian Oil Company Systems, protective casings for smartphones, and associated methods to enhance use of an automated external defibrillator (AED) device
US10628770B2 (en) 2015-12-14 2020-04-21 Saudi Arabian Oil Company Systems and methods for acquiring and employing resiliency data for leadership development
US10313281B2 (en) 2016-01-04 2019-06-04 Rockwell Automation Technologies, Inc. Delivery of automated notifications by an industrial asset
US20170344121A1 (en) * 2016-05-26 2017-11-30 Motorola Solutions, Inc System and method for completing a call utilizing a head-mounted display and a communication device
US10318570B2 (en) 2016-08-18 2019-06-11 Rockwell Automation Technologies, Inc. Multimodal search input for an industrial search platform
US10545492B2 (en) 2016-09-26 2020-01-28 Rockwell Automation Technologies, Inc. Selective online and offline access to searchable industrial automation data
US10319128B2 (en) 2016-09-26 2019-06-11 Rockwell Automation Technologies, Inc. Augmented reality presentation of an industrial environment
US10401839B2 (en) 2016-09-26 2019-09-03 Rockwell Automation Technologies, Inc. Workflow tracking and identification using an industrial monitoring system
US10354350B2 (en) 2016-10-18 2019-07-16 Motorola Solutions, Inc. Method and system for information management for an incident response
DE102016120081A1 (de) * 2016-10-21 2018-04-26 Minimax Gmbh & Co. Kg Verfahren zur Inbetriebnahme und/oder Wartung einer Brandmelder- und/oder Löschsteuerzentrale sowie Vorrichtung dafür
WO2018080552A1 (en) 2016-10-24 2018-05-03 Carrington Charles C System for generating virtual building plan data based upon stored and scanned building data and related methods
US10735691B2 (en) 2016-11-08 2020-08-04 Rockwell Automation Technologies, Inc. Virtual reality and augmented reality for industrial automation
US10388075B2 (en) * 2016-11-08 2019-08-20 Rockwell Automation Technologies, Inc. Virtual reality and augmented reality for industrial automation
US10866631B2 (en) 2016-11-09 2020-12-15 Rockwell Automation Technologies, Inc. Methods, systems, apparatuses, and techniques for employing augmented reality and virtual reality
CN108241142B (zh) * 2016-12-26 2021-05-11 宏达国际电子股份有限公司 追踪系统及追踪方法
CN108303698B (zh) * 2016-12-29 2021-05-04 宏达国际电子股份有限公司 追踪系统、追踪装置及追踪方法
US10410422B2 (en) * 2017-01-09 2019-09-10 Samsung Electronics Co., Ltd. System and method for augmented reality control
EP3593227B1 (en) * 2017-03-10 2021-09-15 Brainlab AG Augmented reality pre-registration
US10748443B2 (en) 2017-06-08 2020-08-18 Honeywell International Inc. Apparatus and method for visual-assisted training, collaboration, and monitoring in augmented/virtual reality in industrial automation systems and other systems
US10902536B2 (en) 2017-06-14 2021-01-26 International Business Machines Corporation Cognitive emergency task coordination
US10325409B2 (en) * 2017-06-16 2019-06-18 Microsoft Technology Licensing, Llc Object holographic augmentation
US10930709B2 (en) 2017-10-03 2021-02-23 Lockheed Martin Corporation Stacked transparent pixel structures for image sensors
US10510812B2 (en) 2017-11-09 2019-12-17 Lockheed Martin Corporation Display-integrated infrared emitter and sensor structures
US10445944B2 (en) 2017-11-13 2019-10-15 Rockwell Automation Technologies, Inc. Augmented reality safety automation zone system and method
US10824132B2 (en) 2017-12-07 2020-11-03 Saudi Arabian Oil Company Intelligent personal protective equipment
DE102017222534B3 (de) 2017-12-12 2019-06-13 Volkswagen Aktiengesellschaft Verfahren, computerlesbares Speichermedium mit Instruktionen, Vorrichtung und System zum Einmessen einer Augmented-Reality-Brille in einem Fahrzeug, für das Verfahren geeignetes Fahrzeug und für das Verfahren geeignete Augmented-Reality-Brille
US10678238B2 (en) * 2017-12-20 2020-06-09 Intel IP Corporation Modified-reality device and method for operating a modified-reality device
US10838250B2 (en) 2018-02-07 2020-11-17 Lockheed Martin Corporation Display assemblies with electronically emulated transparency
US10979699B2 (en) 2018-02-07 2021-04-13 Lockheed Martin Corporation Plenoptic cellular imaging system
US10652529B2 (en) 2018-02-07 2020-05-12 Lockheed Martin Corporation In-layer Signal processing
US10951883B2 (en) 2018-02-07 2021-03-16 Lockheed Martin Corporation Distributed multi-screen array for high density display
US10690910B2 (en) 2018-02-07 2020-06-23 Lockheed Martin Corporation Plenoptic cellular vision correction
US11616941B2 (en) 2018-02-07 2023-03-28 Lockheed Martin Corporation Direct camera-to-display system
US10594951B2 (en) 2018-02-07 2020-03-17 Lockheed Martin Corporation Distributed multi-aperture camera array
US20190042843A1 (en) * 2018-04-05 2019-02-07 Intel Corporation Cable detection for ar/vr computing method and apparatus
US10853014B2 (en) 2018-04-17 2020-12-01 Rockwell Collins, Inc. Head wearable device, system, and method
US10922881B2 (en) * 2018-11-02 2021-02-16 Star Global Expert Solutions Joint Stock Company Three dimensional/360 degree (3D/360°) real-time full information smart management integrated mapping system (SMIMS) and process of generating the same
US10866413B2 (en) 2018-12-03 2020-12-15 Lockheed Martin Corporation Eccentric incident luminance pupil tracking
FR3089672B1 (fr) * 2018-12-05 2021-12-03 Thales Sa Procédé et système d’affichage et d’interaction embarqué dans une cabine de pilotage
US10698201B1 (en) 2019-04-02 2020-06-30 Lockheed Martin Corporation Plenoptic cellular axis redirection
US10461421B1 (en) * 2019-05-07 2019-10-29 Bao Tran Cellular system
US10498029B1 (en) * 2019-07-15 2019-12-03 Bao Tran Cellular system
US11486961B2 (en) * 2019-06-14 2022-11-01 Chirp Microsystems Object-localization and tracking using ultrasonic pulses with reflection rejection
WO2021054941A1 (en) * 2019-09-17 2021-03-25 Hewlett-Packard Development Company, L.P. Notification delivery
DE102020105196A1 (de) * 2020-02-27 2021-09-02 Audi Aktiengesellschaft Verfahren zum Betreiben einer Datenbrille in einem Kraftfahrzeug sowie System mit einem Kraftfahrzeug und einer Datenbrille
EP3885818A1 (de) * 2020-03-25 2021-09-29 Siemens Aktiengesellschaft Vorrichtung und verfahren zur spektroskopischen oberflächenanalyse
US20220060877A1 (en) * 2020-08-19 2022-02-24 Cade Robertson Emergency gps signal system
JP7040827B1 (ja) 2021-01-14 2022-03-23 株式会社ロックガレッジ 捜索支援システムおよび救助支援プログラム
US11892624B2 (en) 2021-04-27 2024-02-06 Microsoft Technology Licensing, Llc Indicating an off-screen target
US11994675B2 (en) 2022-05-16 2024-05-28 Google Llc Head-mounted device for tracking screen time

Family Cites Families (84)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US706214A (en) * 1894-09-08 1902-08-05 Avery Mfg Company Straw-stacker.
US5381446A (en) * 1993-06-25 1995-01-10 Digital Wireless Corp. Digital implementation of spread spectrum communications system
JP3208939B2 (ja) 1993-08-09 2001-09-17 日産自動車株式会社 頭部搭載型ディスプレイ装置を備えたモニタリング装置
EP0724743A1 (en) * 1993-10-22 1996-08-07 Kopin Corporation Head-mounted display system
US7310072B2 (en) * 1993-10-22 2007-12-18 Kopin Corporation Portable communication display device
JPH0923449A (ja) * 1995-07-05 1997-01-21 Hitachi Ltd 実写映像及び3次元モデル合成装置
DE19639615C5 (de) 1996-09-26 2008-11-06 Brainlab Ag Reflektorenreferenzierungssystem für chirurgische und medizinische Instrumente
US5739642A (en) * 1995-12-04 1998-04-14 Industrial Technology Research Institute Low power consumption driving method for field emitter displays
US6317127B1 (en) * 1996-10-16 2001-11-13 Hughes Electronics Corporation Multi-user real-time augmented reality system and method
US6112015A (en) * 1996-12-06 2000-08-29 Northern Telecom Limited Network management graphical user interface
JPH10207394A (ja) * 1997-01-16 1998-08-07 Shimadzu Corp 頭部装着型表示システム
US6064335A (en) * 1997-07-21 2000-05-16 Trimble Navigation Limited GPS based augmented reality collision avoidance system
AU9068698A (en) 1997-07-23 1999-02-16 Horst Jurgen Duschek Method for controlling an unmanned transport vehicle and unmanned transport vehicle system therefor
US6522312B2 (en) 1997-09-01 2003-02-18 Canon Kabushiki Kaisha Apparatus for presenting mixed reality shared among operators
US6166744A (en) * 1997-11-26 2000-12-26 Pathfinder Systems, Inc. System for combining virtual images with real-world scenes
FR2775814B1 (fr) * 1998-03-06 2001-01-19 Rasterland Sa Systeme de visualisation d'images tridimensionnelles realistes virtuelles en temps reel
US6697103B1 (en) * 1998-03-19 2004-02-24 Dennis Sunga Fernandez Integrated network for monitoring remote objects
US6215498B1 (en) * 1998-09-10 2001-04-10 Lionhearth Technologies, Inc. Virtual command post
JP2000102036A (ja) 1998-09-22 2000-04-07 Mr System Kenkyusho:Kk 複合現実感提示システム、複合現実感提示方法、マン・マシーンインタフェース装置、およびマン・マシーンインタフェース方法
JP4101951B2 (ja) * 1998-11-10 2008-06-18 オリンパス株式会社 手術用顕微鏡
US6466232B1 (en) * 1998-12-18 2002-10-15 Tangis Corporation Method and system for controlling presentation of information to a user based on the user's condition
US6708142B1 (en) 1999-01-14 2004-03-16 University Of Central Florida Automatic motion modeling of rigid bodies using collision detection
JP4550184B2 (ja) * 1999-07-02 2010-09-22 オリンパス株式会社 観察光学系
EP1157314B1 (de) * 1999-03-02 2004-09-22 Siemens Aktiengesellschaft Nutzung von augmented reality-basistechnologien zur situationsgerechten unterstützung des facharbeiters durch entfernte experten
US7324081B2 (en) * 1999-03-02 2008-01-29 Siemens Aktiengesellschaft Augmented-reality system for situation-related support of the interaction between a user and an engineering apparatus
US6500008B1 (en) * 1999-03-15 2002-12-31 Information Decision Technologies, Llc Augmented reality-based firefighter training system and method
US6348877B1 (en) * 1999-06-17 2002-02-19 International Business Machines Corporation Method and system for alerting a pilot to the location of other aircraft
GB2352289B (en) * 1999-07-14 2003-09-17 Dennis Majoe Position and orientation detection system
US6453168B1 (en) * 1999-08-02 2002-09-17 Itt Manufacturing Enterprises, Inc Method and apparatus for determining the position of a mobile communication device using low accuracy clocks
US6917288B2 (en) * 1999-09-01 2005-07-12 Nettalon Security Systems, Inc. Method and apparatus for remotely monitoring a site
US6281790B1 (en) * 1999-09-01 2001-08-28 Net Talon Security Systems, Inc. Method and apparatus for remotely monitoring a site
EP1250701B1 (de) * 2000-01-27 2004-11-17 Siemens Aktiengesellschaft System und verfahren zur blickfokussierten sprachverarbeitung
WO2001056018A1 (de) * 2000-01-27 2001-08-02 Siemens Aktiengesellschaft System und verfahren zur blickfokussierten sprachverarbeitung mit erzeugung eines visuellen feedbacksignals
US6757068B2 (en) * 2000-01-28 2004-06-29 Intersense, Inc. Self-referenced tracking
US6607038B2 (en) * 2000-03-15 2003-08-19 Information Decision Technologies, Llc Instrumented firefighter's nozzle and method
US7110013B2 (en) * 2000-03-15 2006-09-19 Information Decision Technology Augmented reality display integrated with self-contained breathing apparatus
US6616454B2 (en) * 2000-03-15 2003-09-09 Information Decision Technologies, Llc Method of simulating nozzle spray interaction with fire, smoke and other aerosols and gases
US6474159B1 (en) * 2000-04-21 2002-11-05 Intersense, Inc. Motion-tracking
US7000469B2 (en) * 2000-04-21 2006-02-21 Intersense, Inc. Motion-tracking
JP3423676B2 (ja) 2000-07-19 2003-07-07 キヤノン株式会社 仮想対象物操作装置および仮想対象物操作方法
US6903707B2 (en) * 2000-08-09 2005-06-07 Information Decision Technologies, Llc Method for using a motorized camera mount for tracking in augmented reality
DE10041104C1 (de) * 2000-08-22 2002-03-07 Siemens Ag Einrichtung und Verfahren zur Kommunikation zwischen einer mobilen Datenverarbeitungsvorrichtung und einer stationären Datenverarbeitungsvorrichtung
JP2004538538A (ja) 2000-10-05 2004-12-24 シーメンス コーポレイト リサーチ インコーポレイテツド 強化現実可視化付きの、手術中にイメージガイドされる神経外科手術法及び手術用装置
US6962277B2 (en) * 2000-12-18 2005-11-08 Bath Iron Works Corporation Apparatus and method for using a wearable computer in testing and diagnostic applications
DE10103922A1 (de) * 2001-01-30 2002-08-01 Physoptics Opto Electronic Gmb Interaktives Datensicht- und Bediensystem
US7605826B2 (en) * 2001-03-27 2009-10-20 Siemens Corporate Research, Inc. Augmented reality guided instrument positioning with depth determining graphics
US7176936B2 (en) * 2001-03-27 2007-02-13 Siemens Corporate Research, Inc. Augmented reality guided instrument positioning with modulated guiding graphics
US6856324B2 (en) * 2001-03-27 2005-02-15 Siemens Corporate Research, Inc. Augmented reality guided instrument positioning with guiding graphics
US6822648B2 (en) * 2001-04-17 2004-11-23 Information Decision Technologies, Llc Method for occlusion of movable objects and people in augmented reality scenes
US7215322B2 (en) * 2001-05-31 2007-05-08 Siemens Corporate Research, Inc. Input devices for augmented reality applications
US6673243B2 (en) * 2001-08-01 2004-01-06 Board Of Supervisors Of Louisiana State University And Agricultural And Mechanical College Plug flow anaerobic digester
US7262747B2 (en) * 2001-08-09 2007-08-28 Information Decision Technologies, Llc Method and apparatus for using thermal imaging and augmented reality
US7046214B2 (en) * 2003-12-17 2006-05-16 Information Decision Technologies, Llc Method and system for accomplishing a scalable, multi-user, extended range, distributed, augmented reality environment
US7071898B2 (en) * 2002-07-18 2006-07-04 Information Decision Technologies, Llc Method for using a wireless motorized camera mount for tracking in augmented reality
US7379077B2 (en) * 2001-08-23 2008-05-27 Siemens Corporate Research, Inc. Augmented and virtual reality guided instrument positioning using along-the-line-of-sight alignment
US7126558B1 (en) * 2001-10-19 2006-10-24 Accenture Global Services Gmbh Industrial augmented reality
US6675091B2 (en) * 2001-11-20 2004-01-06 Siemens Corporate Research, Inc. System and method for tracking, locating, and guiding within buildings
WO2003079672A1 (en) 2002-03-12 2003-09-25 Menache, Llc Motion tracking system and method
JP2003337963A (ja) 2002-05-17 2003-11-28 Seiko Epson Corp 画像処理装置および画像処理方法、ならびに、画像処理プログラムおよびその記録媒体
US6873256B2 (en) * 2002-06-21 2005-03-29 Dorothy Lemelson Intelligent building alarm
US7138963B2 (en) * 2002-07-18 2006-11-21 Metamersion, Llc Method for automatically tracking objects in augmented reality
WO2004015369A2 (en) * 2002-08-09 2004-02-19 Intersense, Inc. Motion tracking system and method
US7002551B2 (en) * 2002-09-25 2006-02-21 Hrl Laboratories, Llc Optical see-through augmented reality modified-scale display
US6867753B2 (en) * 2002-10-28 2005-03-15 University Of Washington Virtual image registration in augmented display field
JP4381767B2 (ja) * 2003-10-10 2009-12-09 能美防災株式会社 防災総合システム
US7774044B2 (en) * 2004-02-17 2010-08-10 Siemens Medical Solutions Usa, Inc. System and method for augmented reality navigation in a medical intervention procedure
JP4566786B2 (ja) 2004-05-14 2010-10-20 キヤノン株式会社 位置姿勢計測方法および情報処理装置
JP4367926B2 (ja) * 2004-05-17 2009-11-18 キヤノン株式会社 画像合成システムおよび画像合成方法、および画像合成装置
JP2006000999A (ja) * 2004-06-21 2006-01-05 Nec Fielding Ltd 監視システム、その方法、監視ロボットおよびプログラム
US7439524B2 (en) * 2004-09-02 2008-10-21 Abraham Katzir Thermoluminescence measurements and dosimetry with temperature control of the thermoluminescence element
US7397368B2 (en) * 2004-09-22 2008-07-08 Kevin L Otto Remote field command post
US7654826B2 (en) * 2004-10-04 2010-02-02 Solid Terrain Modeling Three-dimensional cartographic user interface system
US8665087B2 (en) * 2004-11-10 2014-03-04 Bae Systems Information And Electronic Systems Integration Inc. Wearable or portable device including sensors and an image input for establishing communications interoperability and situational awareness of events at an incident site
DE102005061211B4 (de) * 2004-12-22 2023-04-06 Abb Schweiz Ag Verfahren zum Erzeugen einer Mensch-Maschine-Benutzer-Oberfläche
KR100687737B1 (ko) * 2005-03-19 2007-02-27 한국전자통신연구원 양손 제스쳐에 기반한 가상 마우스 장치 및 방법
JP2007018173A (ja) * 2005-07-06 2007-01-25 Canon Inc 画像処理方法、画像処理装置
KR101350888B1 (ko) * 2005-07-14 2014-01-14 찰스 디. 휴스턴 Gps를 기초로 하는 관중 및 참가자 스포츠 시스템 및방법
US20070016372A1 (en) * 2005-07-14 2007-01-18 Gm Global Technology Operations, Inc. Remote Perspective Vehicle Environment Observation System
EP1772110B1 (de) 2005-10-07 2010-03-17 BrainLAB AG Medizintechnische Markereinrichtung
US20070098238A1 (en) * 2005-10-31 2007-05-03 Pere Obrador Imaging methods, imaging systems, and articles of manufacture
US7599789B2 (en) * 2006-05-24 2009-10-06 Raytheon Company Beacon-augmented pose estimation
US9323055B2 (en) * 2006-05-26 2016-04-26 Exelis, Inc. System and method to display maintenance and operational instructions of an apparatus using augmented reality
US9229230B2 (en) * 2007-02-28 2016-01-05 Science Applications International Corporation System and method for video image registration and/or providing supplemental data in a heads up display
US8217856B1 (en) * 2011-07-27 2012-07-10 Google Inc. Head-mounted display that displays a visual representation of physical interaction with an input interface located outside of the field of view

Also Published As

Publication number Publication date
AU2008226932A1 (en) 2008-09-18
CA2679427A1 (en) 2008-09-18
WO2008112149A2 (en) 2008-09-18
US20080218331A1 (en) 2008-09-11
US9324229B2 (en) 2016-04-26
AU2008226932A2 (en) 2009-11-19
JP2014123406A (ja) 2014-07-03
EP2126866A4 (en) 2011-06-01
AU2008226932B2 (en) 2011-09-22
US20120120070A1 (en) 2012-05-17
WO2008112149A3 (en) 2009-12-23
JP2010520559A (ja) 2010-06-10
EP2126866A2 (en) 2009-12-02

Similar Documents

Publication Publication Date Title
JP5553405B2 (ja) 閉ざされた構造内の人員およびセンサの位置を示し、状況認識の増進を提供する、拡張現実ベース型システムおよび方法
US11282248B2 (en) Information display by overlay on an object
US20210043007A1 (en) Virtual Path Presentation
US20020196202A1 (en) Method for displaying emergency first responder command, control, and safety information using augmented reality
US10650600B2 (en) Virtual path display
CN104660995B (zh) 一种救灾救援可视系统
US20080023002A1 (en) Head safety device with integrated display
US20060232499A1 (en) Method and Apparatus for Using Thermal Imaging and Augmented Reality
US20030210228A1 (en) Augmented reality situational awareness system and method
US20120218080A1 (en) System for representing locations of persons in a structure
CN108765872B (zh) 一种受困对象环境参数的推测方法、系统和智能穿戴设备
KR20160070503A (ko) 무선 통신을 이용한 협업 소방관의 위치 제공 방법 및 그 시스템과, 협업 소방관의 위치 표시 방법 및 이를 수행하기 위한 소방 헬멧
CN211705663U (zh) 一种消防用ar单兵可视化面罩及智能作战指挥面罩系统
CN107807575A (zh) 一种消防员红外定位ar显示头盔及消防指挥系统
EP3062297A1 (en) Emergency guidance system and method
TWI755834B (zh) 視覺圖資定位系統
GB2535728A (en) Information system and method
Bretschneider et al. Head mounted displays for fire fighters
Streefkerk et al. Evaluating a multimodal interface for firefighting rescue tasks
KR20160140464A (ko) 재난안전정보를 표시하는 방법 및 포터블 디바이스
WO2023286115A1 (ja) 表示制御装置、表示システム、表示方法及びコンピュータ可読媒体
CN211323223U (zh) 基于分布式网络的ar消防头盔
CN219515404U (zh) Ar智能消防头盔
KR102296927B1 (ko) 소방 교육 시스템
Van Der Meer et al. EFFECTIVE CARTOGRAPHIC METHODS FOR ASSISTING TACTICS CHOICE AND INDOOR DEPLOYMENTS DURING BUILDING FIRES–A CASESTUDY THE DUTCH FIRE BRIGADE

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110210

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120131

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20120628

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130215

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20131129

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140325

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20140403

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140522

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140523

R150 Certificate of patent or registration of utility model

Ref document number: 5553405

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees