JP7105996B2 - 拡張現実環境内の使い捨てステッカー - Google Patents

拡張現実環境内の使い捨てステッカー Download PDF

Info

Publication number
JP7105996B2
JP7105996B2 JP2021517551A JP2021517551A JP7105996B2 JP 7105996 B2 JP7105996 B2 JP 7105996B2 JP 2021517551 A JP2021517551 A JP 2021517551A JP 2021517551 A JP2021517551 A JP 2021517551A JP 7105996 B2 JP7105996 B2 JP 7105996B2
Authority
JP
Japan
Prior art keywords
sticker
hmd
determining
registration information
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021517551A
Other languages
English (en)
Other versions
JP2021526701A (ja
JPWO2019231849A5 (ja
Inventor
ケー.サウスワース マイケル
ブルーメ ヴァルター
エヌ.アヴァリ シルヴァ ジェニファー
アール.シルヴァ ジョナサン
Original Assignee
センティエーアール インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by センティエーアール インコーポレイテッド filed Critical センティエーアール インコーポレイテッド
Publication of JP2021526701A publication Critical patent/JP2021526701A/ja
Publication of JPWO2019231849A5 publication Critical patent/JPWO2019231849A5/ja
Application granted granted Critical
Publication of JP7105996B2 publication Critical patent/JP7105996B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/08Key distribution or management, e.g. generation, sharing or updating, of cryptographic keys or passwords
    • H04L9/0861Generation of secret information including derivation or calculation of cryptographic keys or passwords
    • H04L9/0866Generation of secret information including derivation or calculation of cryptographic keys or passwords involving user or device identifiers, e.g. serial number, physical or biometrical information, DNA, hand-signature or measurable physical characteristics
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/12Synchronisation between the display unit and other units, e.g. other display units, video-disc players
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • G06K19/06009Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking
    • G06K19/06037Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking multi-dimensional coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • G06K19/06009Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking
    • G06K19/06046Constructional details
    • G06K19/06103Constructional details the marking being embedded in a human recognizable image, e.g. a company logo with an embedded two-dimensional code
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/10544Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation by scanning of the records by radiation in the optical part of the electromagnetic spectrum
    • G06K7/10712Fixed beam scanning
    • G06K7/10722Photodetector array or CCD scanning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404Methods for optical code recognition
    • G06K7/1408Methods for optical code recognition the method being specifically adapted for the type of code
    • G06K7/14172D bar codes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/08Key distribution or management, e.g. generation, sharing or updating, of cryptographic keys or passwords
    • H04L9/0861Generation of secret information including derivation or calculation of cryptographic keys or passwords
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/04Key management, e.g. using generic bootstrapping architecture [GBA]
    • H04W12/041Key generation or derivation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/30Security of mobile devices; Security of mobile applications
    • H04W12/33Security of mobile devices; Security of mobile applications using wearable devices, e.g. using a smartwatch or smart-glasses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/50Secure pairing of devices
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/08Biomedical applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L2209/00Additional information or applications relating to cryptographic mechanisms or cryptographic arrangements for secret or secure communication H04L9/00
    • H04L2209/80Wireless
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L2209/00Additional information or applications relating to cryptographic mechanisms or cryptographic arrangements for secret or secure communication H04L9/00
    • H04L2209/88Medical equipments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/06Network architectures or network communication protocols for network security for supporting key management in a packet data network
    • H04L63/067Network architectures or network communication protocols for network security for supporting key management in a packet data network using one-time keys
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/60Context-dependent security
    • H04W12/69Identity-dependent
    • H04W12/77Graphical identity

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Toxicology (AREA)
  • Artificial Intelligence (AREA)
  • Computer Hardware Design (AREA)
  • Multimedia (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Description

本開示は、一般に、拡張現実(AR)環境内のデバイスの登録に用いられることができる使い捨てステッカー、またはパッチに関する。
本出願は、2018年5月29日に出願された米国仮出願第62/677,544号の優先権の利益を主張し、これは、あらゆる目的のためにその全体が参照により本明細書に組み込まれる。
治療介入医療処置は、それぞれが独自の特定のセットアップメカニズムを有するさまざまな段階で導入されている多様な医療デバイスを用いる複雑な作業環境を有することが可能である。拡張現実(AR)デバイスは、治療介入室において用いるために開発されている。使用および高信頼システムのセットアップをトラッキングするためのユーザーフレンドリーなメカニズムを提供することが望ましい。このような環境内で動作するデバイスは、サイバーセキュリティおよび患者の秘密保持に対する厳格な要件を有する場合があり、工学上のトレードオフを要求し、且つデバイスを登録する従来のシステムにおける使い易さを犠牲にする場合がある。
本明細書に開示されるのは、例えば、治療介入医療処置アプリケーションにおいてステッカーを用いるシステムおよび方法である。さらに、ステッカーは、システムセキュリティ、デバイス登録、または拡張現実(AR)環境におけるグラフィックまたは他のデータの表示に用いられることができる。AR環境における有用なグラフィックを提供するために、空間的な位置は、不明瞭ではない方法でマーキングされ、且つトラッキングされるべきである。基準グラフィックは、基準としているオブジェクトに対して、正確且つ動的に配置されるべきである。
一態様において、ステッカーシステムは、画像センサーによって取得されたステッカーの画像を受信し、その画像は、ステッカーの基準マーカーを示す。ステッカーシステムは、画像の中のステッカーの基準マーカーを処理することによって、登録情報を判断する。ステッカーシステムは、ユーザーによって着用されるヘッドマウントデバイス(HMD)の位置情報を判断する。ステッカーシステムは、登録情報および位置情報を用いて、HMDに対するステッカーの位置を判断する。ステッカーシステムは、ステッカーの位置に基づいてユーザーに提示するグラフィックをHMDに提供する。
ある実施形態において、HMD(またはステッカーシステム)は、登録情報を用いて暗号化キーを生成し、暗号化キーは、ステッカーに固有である。HMDは、暗号化キーを用いて別のデバイスと通信する。
ある実施形態において、HMD(またはステッカーシステム)は、医療処置のために登録情報を用いて暗号化キーを生成し、暗号化キーは、ステッカーに固有である。暗号化キーが以前に別のデバイスによって異なる医療処置に用いられたと判断することに応答して、ステッカーシステムは、暗号化キーを医療処置に用いないと判断する。
ある実施形態において、ステッカーシステムは、ステッカーの基準マーカーを示す追加の画像を処理することによって追加の登録情報を判断し、ここで、追加の画像は、追加のHMDによって取得される。ステッカーシステムは、登録情報と追加の登録情報とを比較することによって、HMDおよび追加のHMDが同一の医療処置に用いられていることを判断する。
ある実施形態において、ステッカーシステムは、ステッカーとHMDとの間の3次元における距離および角度を判断することによって、HMDに対するステッカーの位置を判断する。ある実施形態において、グラフィックのサイズまたは向きは、距離および角度を用いて判断される。
ある実施形態において、ステッカーシステムは、拡張現実のコンテンツをグラフィックとして生成し、HMDは、拡張現実のコンテンツを提示するよう構成されるディスプレイを含む。ある実施形態において、画像センサーは、HMDに結合されている。ある実施形態において、基準マーカーは、QRコードまたはバーコードである。
ある実施形態において、非一時的なコンピュータ可読記憶媒体は、1つまたは複数のプロセッサによって実行された場合に、1つまたは複数のプロセッサに、本明細書に説明される方法のうちのいずれかを含むステップを実行させる命令を格納する。
開示された実施形態は、詳細な説明、添付の特許請求の範囲、および添付の図(または図面)からより容易に明らかとなる利点、および特徴を有する。図の簡単な紹介を以下に示す。
本発明のさまざまな実施形態によるシステム環境の図である。 本発明のさまざまな実施形態によるステッカーシステムのデータフロー図である。 本発明のさまざまな実施形態による例示的なステッカーの図である。 本発明のさまざまな実施形態によるステッカーを用いるデバイス登録のプロセスのフロー図である。
(I.システム概要の例示)
図1は、本発明のさまざまな実施形態によるシステム環境の図である。図1に図示されるシステム環境は、ステッカーシステム100と、ユーザー105のヘッドマウントデバイス(HMD)110と、例えば、1つまたは複数のネットワークアクセスポイント145を用いて、ネットワーク130を介して互いに通信可能に接続することが可能であるコンピューティングデバイス120とを含む。ネットワーク130は、無線および/または有線接続を含むことができる。他の実施形態において、システム環境は、任意の数のユーザーおよびHMDを含むことができる。図1のさまざまなエンティティによって実行される機能は、異なる実施形態において変化する場合がある。
(I.A.デバイス)
HMD110は、画像センサーを用いて、ステッカー160を含むシーン140の画像を取得することができる。さらに、HMD110は、物理空間(例えば、2次元または3次元)におけるHMD110の位置または向きを判断する情報を取得するセンサー、ユーザーの音声入力を取得するマイクロフォン、音声出力を生成するスピーカー、ステッカー160において符号化されるデジタル情報を含む画像を取得する画像センサー、HMD110または他のタイプのデバイス間の情報(例えば、音声データまたは、位置もしくは向き情報などの他のセンサーデータ)と通信する無線手段、情報を格納する手段、およびHMD110間で通信される音声を計算または制御する1つまたは複数のプロセッサのうち、1つまたは複数を有する。ある実施形態において、1つまたは複数のHMD110は、MICROSOFT HOLOLENSであってよいが、医療環境用にカスタム設計されるHMD110を含むさまざまな他のタイプのHMD110も用いられることが可能である。センサーの例示は、とりわけ、加速度計、ジャイロスコープ、慣性計測装置(IMU)(HMD110の位置情報の判断用など)、深度カメラ、グローバルポジショニングシステム(GPS)センサー、超音波センサー、赤外線センサー、および近接センサーを含む。
ある実施形態において、HMD110は、ステッカーシステム100、別のHMD110、または別のソースから受信したデータに従ってユーザー105に画像を表示する電子ディスプレイを含む。電子ディスプレイの例示は、液晶ディスプレイ(LCD)、有機発光ダイオード(OLED)ディスプレイ、アクティブマトリックス有機発光ダイオードディスプレイ(AMOLED)、シリコンディスプレイ上の液晶(LCOS)、他のディスプレイ、またはそれらのいくつかの組み合わせを含む。ある実施形態において、電子ディスプレイは、1つまたは複数の光学レンズ、光導波路、または光学コンバイナを含むことができる。ある実施形態において、HMD110は、必ずしも電子ディスプレイを含むわけではない。
コンピューティングデバイス120は、任意の数のディスプレイ、キーボード、タッチスクリーン、光学カメラ、ネットワーク通信デバイス、またはプロセッサを含むことができる。コンピューティングデバイス120は、画像センサーを用いて、ステッカー160において符号化されるデジタル情報を含む画像を取得することができる。また、コンピューティングデバイス120は、ステッカー160において符号化されるデジタル情報を取得する他の手段(例えば、タッチスクリーン、キーボード、RFIDなど)を用いることができる。コンピューティングデバイス120は、ステッカー160において符号化される取得されたデジタル情報を用いて、ネットワークアクセスポイント145に無線暗号化キーを設定することができる。コンピューティングデバイス120は、HMD110で画像センサーから取得された画像情報を受信することができる。コンピューティングデバイス120は、例えば、受信した画像情報を処理または分析することが可能であり、1つまたは複数のHMD110にグラフィックを提供する。
(I.B.ステッカー)
ステッカー160は、1つまたは複数の応用のためにステッカーシステム100によって検出および使用されることが可能である情報を含む。ステッカー160は、1回限りの使用、使い捨て、および/または印刷タイプのステッカーであってよい。ステッカー160は、ステッカー160を表面に固定する接着剤を含むことができる。他の実施形態において、ステッカーは、必ずしも接着剤を有する必要はなく、むしろパッチに似ており、他のタイプの取り付け機構の中で、磁石、ベルクロ、おもり、ピン、クリップ、またはボタンなどの他の手段を用いて表面に固定されることができる。ステッカー160は、画像センサーに対するステッカー160の向きを確立するための1つまたは複数の手段と、例えば、QRコードまたはバーコードなどの基準マーカーである光学的に(例えば、デジタル)情報を符号化する手段とを含む。
(I.C.ステッカーシステム)
ステッカーシステム100は、環境の中に存在する1つまたは複数のステッカー160を識別することができる。ステッカーシステム100は、センサーを用いてステッカー160を検出することが可能である、HMD110またはコンピューティングデバイス120からステッカー160に関連付けられる情報を受信することができる。情報は、ステッカー160において符号化されるデジタル情報、および/または取得されたシーン140についての他の情報、例えば、ステッカー160に近接する他のオブジェクトの存在、サイズ、および位置を含むことができる。一例示として、ステッカーシステム100は、受信した情報を用いることが可能であり、HMD110の位置からステッカー160の位置までの位置オフセット135を算定する。ステッカーシステム100は、オフセット135を用いることができ、HMD110および/またはステッカー160の位置に対するデジタルコンテンツ150を生成、修正、または表示する。
ステッカーシステム100は、ARシステム、仮想現実(VR)システム、複合現実システム、または必ずしもARデバイスもしくはVRデバイスを含まない他のタイプのシステム環境において動作することができる。AR環境において、ステッカー160の(例えば、動的に)検出された位置は、HMD110のユーザー105に提示するARグラフィックに対して配置される基準として用いられることができる。ステッカーシステム100は、医療処置が実行される部屋の外にあってもよいサーバーなどのHMD110または異なるコンピューティングデバイス120で実行することができる。
ある実施形態において、ステッカーシステム100は、システムの設置または較正の間に利用可能、収集され、または確立された既存のマッピングデータを用いる。ステッカーシステム100は、HMD110からの情報を用いることができ、異なるマッピングデータセット間の補正を確立する。例えば、HMD110からのマッピングデータを用いて判断されたステッカー160の位置が、(例えば、別のコンピューティングデバイス120の)画像センサーによって感知される観察された位置(または方向)よりも(例えば、位置または方向の少なくとも閾値の相違によって)逸脱しているという判断に応答し、ステッカーシステム100は、1つまたは複数のデータセットにオフセットを適用することができ、例えば、デカルト座標系におけるX、Y、またはZ座標を修正する。
ある実施形態において、ステッカー160の感知された位置および/または向きに応答し、ステッカーシステム100(またはHMD110)は、AR情報を表示することに用いられる独立した座標系を確立することができる。一態様において、ステッカー160からの感知データに応答し、ステッカーシステム100は、他のデータソース(例えば、プライベートデータ)を感知されたデータと組み合わせることができ、例えば、外科的、または別のタイプの医学的もしくは治療介入処置である1回限りの使用手順データセットを生成する。別の態様において、HMD110または他のコンピューティングデバイス120は、人間の入力を用いることができ、1回限りの使用手順データセットを生成するプライベートデータと組み合わされたデジタル情報を取得する。ある実施形態において、ステッカーシステム100は、ステッカー160の検出された位置に対する基準グラフィックを配置する人間の入力を用いて、グラフィックに適用される基準オフセットを判断し、ステッカー160の次の動きを補償する。
(I.D.システムセキュリティ)
ある実施形態において、(例えば、HMD110によって)ステッカーシステム100は、ステッカー160に関連付けられる情報を用いることができ、暗号化キーを生成し、ネットワークアクセスポイント145と通信する。ある実施形態において、ステッカーシステム100は、対称鍵交換を含む公開鍵暗号の例示的なクラスである楕円曲線暗号(ECC)を用いる。ステッカーシステム100は、ECCを用いて暗号化キーを生成し、これは、ネットワークアクセスポイント145、または他のセキュリティデバイスもしくはシステムによって用いられることができ、HMD110またはコンピューティングデバイス120の真正性を検証する。ある実施形態において、ステッカー160は、ステッカーシステム100によって用いられる追加のトークンを提供することが可能であり、例えば、ECCの検証の後に、真正性を検証する。さまざまな実施形態において、ステッカー160が強化されたセキュリティを提供するのは、ステッカー160がHMD110に隣接して物理的に存在する必要があるためであり、それによって、HMD110がステッカー160の画像、例えば、具体的にステッカー160のQRコードを取得することが可能である。
さまざまな実施形態において、ステッカーシステム100は、1回限りの使用手順データセットを実装し、ステッカー160の再利用を防止する。1回限りの使用ステッカー160が一度用いられると、ステッカー160は廃棄されてよい。ステッカーシステム100は、以前に使用された1回限りの使用ステッカー160をトラッキングすることによって、ステッカー160の不正使用を判断することができる。ステッカーシステム100は、手順データセットを用いることができ、有線または無線ネットワーク通信の1回限りの使用の暗号化キーを確立する。また、ステッカーシステム100は、トランスポート層暗号化として交換される対称鍵の構成要素として、ステッカー160の符号化された情報を検出し、用いることが可能である。ある実施形態において、ステッカーシステム100は、ステッカーに関連付けられる情報を無線鍵交換におけるハードウェア層の暗号化鍵として、または無線暗号化鍵のネゴシエーションのシードとして用いる。一実施形態において、ステッカーシステム100は、アプリケーション層暗号化スキームの構成要素としてステッカー160に関連付けられる情報を用いることができる。一実施形態では、ステッカーシステム100は、ステッカー160に関連付けられる情報を暗号化キーとして、またはネットワーク130を介してアプリケーションデータを送信する暗号化キーのシードとして用いる。
(I.E.マルチユーザーの例示)
あらゆる実施形態において、ステッカーシステム100は、例えば、医者および/または医療処置を実行する他の要員など、多様なHMD110および/またはユーザー105を含む使用例において、ステッカー160に関連付けられる情報を用いることができる。例えば、HMD110は、多様なHMD110間の共有座標系におけるネットワーク130を介して算定されたオフセット135をやりとりすることができ、他のHMD110のうちの1つもしくは複数(またはすべて)の補正を確立する。この態様において、1つまたは複数のHMD110は、少なくとも1つのHMD110がステッカー160を検出し、関連する符号化情報を取得したと判断するステッカーシステム100に応答して、デジタルコンテンツ150を表示または変更することができる。別の態様において、特定のHMD110は、位置または向きセンサーを用いて、ステッカー160のうちの少なくとも一部がHMD110の画像センサーの視野外にあるという判断に応答して、デジタルコンテンツ150を表示することができる。
ある実施形態において、ステッカーシステム100は、1つまたは複数のHMD110から情報を用いることができ、具体的なステッカー160に対するHMD110のうちの所与の1つの位置をマッピングする。ある実施形態において、多様なHMD110のうちのそれぞれは、デジタルコンテンツ150を表示するステッカー160の位置にオフセット135を独立して算定することができる。ステッカーシステム100は、対応するオフセット135に基づいて特定のHMD110のグラフィックをカスタマイズすることができる。
(II.データフローの例示)
図2は、本発明のさまざまな実施形態によるステッカーシステム100のデータフロー図である。ステッカーシステム100は、ステッカー160から取得されたデジタル情報を用いることができ、またはユーザーによって入力されることができ、1つまたは複数の位置および/または向きデータ、暗号化キー、および1回限りの使用手順コードを生成する。さまざまな実施形態において、(例えば、HMD110またはコンピューティングデバイス120の)画像センサー200は、ステッカー160によって符号化された情報を含む画像を取得する。ステッカーシステム100は、画像センサー200の較正パラメーター205、およびコード認識アルゴリズム210の座標系を用いることが可能であり、例えば、1つまたは複数のスケール、距離、および3次元までの角度情報である位置情報215を抽出する。距離および角度は、画像センサー200とステッカー160との間の相対位置を示すことができる。スケールは、画像センサー200、または別の基準によって取得された画像に対するステッカー160のサイズを示すことができる。ステッカーシステム100は、例えば、HMD110または他のディスプレイに3次元のARコンテンツを表示するために、位置情報215を用いることができ、(例えば、3次元)座標系220の原点を判断する。
ステッカーシステム100は、コード認識アルゴリズム210を用いることが可能であり、1回限りの使用手順コード225を生成する。あるいは、1回限りの使用手順コード25は、ユーザー入力230によってステッカーシステム100に提供されることができる。ステッカーシステム100は、手順特殊コーディング235において、インストール特殊データ230と共に1回限りの使用手順コード225を用いることができ、1つまたは複数の固有暗号化キー240、および固有手順コード245を生成する。ステッカーシステム100は、手順検証250において、固有手順コード22を用いることができ、一回限りの使用手順コード225の真正性、および単一使用を検証する。
一実施形態において、それぞれのネットワーク化されたデバイスは、独立して、図2に図示されるプロセスを完了することによって、例えば、ステッカーシステム100におけるすべてのデバイスがそれぞれのキーを有し、ネットワーク通信を確立する。しかしながら、セキュリティ上の理由から、キー自体も、キーの生成に用いられるいかなる情報も、デバイス間に無線で伝送されない。
(III.ステッカーの例示)
図3は、本発明のさまざまな実施形態による例示的なステッカーの図である。ステッカー300は、QRコードに隣接する解剖学的用語を含むQRコードを含み、(例えば、外科的手術)台または別のオブジェクト上の患者に対するステッカー300を配置するためのヒントまたは指示として役立つ。ステッカー310は、ステッカー配置の正しい方向を示す人型、または(患者を表現する)漫画のアイコンを含むQRコードを含む。
ある実施形態において、ステッカーは、回転が固有であり、且つ既知のスケールの基準マーカーまたは光学パターンを含む。基準マーカーは、位置算定またはセキュリティアプリケーションに用いられることができるデータのビットを符号化することができる。QRコードはスケールが不変であり、既知のサイズに生成(例えば、印刷)されることができる。QRコードまたはQRコードの他の属性の既知のサイズに基づいて、ステッカーシステム100は、QRコードの同一のインスタンス、または固有基準マーカーの別のタイプにおける1つまたは複数のスケール、回転、および追加のデータを符号化することができる。また、ステッカーは、例えば、バーコードもしくは英数字および/または16進文字のシーケンスである、別個のマーカーにおける追加のデータビットからのスケールおよび回転を独立して符号化することができる。文字のシーケンスは、既知のスケールの回転が固有の光学マーカーに隣接している場合がある。
(IV.方法の例示)
図4は、本発明のさまざまな実施形態によるステッカーを用いるデバイス登録のプロセス400のフロー図である。さまざまな実施形態において、ステッカーシステム100は、HMD110(またはコンピューティングデバイス120)などのデバイスを登録することができ、医療または治療介入処置に関連付けられる情報を受信または提供するHMD110を許可する。追加的または代替的に、登録は、部屋または別の基準の境界に対して登録されたデバイスの位置を判断(または再較正)することに用いられることが可能である。ステッカーシステム100は、図1に図示されるシステム環境における方法400を実行することができる。
ステッカーシステム100は、(例えば、HMD110またはコンピューティングデバイス120の)画像センサーによって取得されたステッカー160の画像を受信し410、ここで画像は、例えば、図3に図示される例示的なQRコードに類似する、ステッカー160の基準マーカーを示す。ステッカーシステム100は、画像の中のステッカー160の基準マーカーを処理することによって、登録情報を判断する420。ステッカー基準マーカーを検出する方法は、文献において既知である。一実施形態において、ステッカー基準マーカーは、QRコードなどの高コントラストの白黒グラフィックを含む。登録情報は、QRコードのサイズまたは向きなど、基準マーカーの属性を任意の数だけ含むことができる。登録情報は、例えば、処置が実行されることとなる部屋、(配置のための基準として用いられてよい)部屋の中のオブジェクトの位置または寸法、患者、ユーザー、または医療処置を伴うデバイス情報(例えば、HMD)である医療処置に関連する他のタイプの情報を含むことができる。
ステッカーシステム100は、ユーザー105によって着用されるHMD110の位置情報を判断する430。画像センサーは、HMD110に結合されることができる。ステッカーシステム100は、登録情報および位置情報を用いてHMDに対するステッカー160の位置を判断する。ステッカーシステム100は、ステッカー160の位置に基づいてユーザー105に提示するために、HMD110に対するグラフィックおよび適切な3次元位置情報を提供する450。図1に図示される例示を参照すると、グラフィックは、患者の生理学の3次元レンダリングなどのARコンテンツを含むことができる。例えば、心臓のグラフィック(または別の生理学的な身体部分のモデル)は、心臓病学手順のHMD110によって表示される。グラフィックは、身体部分に対する医療機器の位置を示すことができる。例えば、グラフィックは、医師によって患者の体内へと誘導されているカテーテルを図示することができる。
さまざまな実施形態において、ステッカー160は、処置中に、患者に近接した手術台、または別の(例えば、静止した)オブジェクトに取り付けられることができる。他の実施形態において、ステッカー160は、非静止オブジェクト(例えば、可動テーブル、椅子、または機器)に貼付され、ステッカーシステム100は、ステッカー160の新しい画像が受信されると、登録情報を更新することが可能である。したがって、AR環境において、ステッカーシステム100は、移動しているオブジェクトに取り付けられることで、ユーザー105によって知覚されるグラフィックを提供することができる。
ある実施形態において、ステッカーシステム100は、HMD110に対するステッカー160の位置を用いて、グラフィックのサイズまたは向きを判断する。一例示として、HMD110のユーザー105が患者またはステッカー160の周りを歩くと、ステッカーシステム100は、グラフィックを更新することができ、例えば、患者の心臓の3次元モデルの異なる視点または角度を図示する。さらに、ステッカーシステム100は、ユーザー105が患者またはステッカー160に近づいたり遠ざかったりすると、グラフィックのサイズを更新することが可能である。
ある実施形態において、ステッカーシステム100は、ユーザー105がジェスチャーをしていること、またはそうでなければ、例えば、ステッカー160の位置に向けてまたはその位置を指している、ステッカー160と相互作用していることを検出することに応答してグラフィックを更新する。ある実施形態において、ステッカーシステム100は、(例えば、医療処置のために)登録情報を用いて暗号化キーを生成し、ここで、暗号化キーは、ステッカー160に固有である。
一使用例において、ステッカーシステム100は、HMD110で実行され、暗号化キーを用いて別のデバイスと通信することができる。異なる例示において、暗号化キーが以前に別のデバイスによって異なる医療処置に用いられたと判断することに応答して、ステッカーシステム100は、暗号化キーを現在の医療処置に用いないと判断する。したがって、ステッカーシステム100は、例えば、具体的な手順のために、1回限りの使用のステッカーを保持する。
ある実施形態において、ステッカーシステムは、多様なHMDを有する環境の中でステッカーを用いることができる。例えば、ステッカーシステム100は、追加の画像を処理し、HMD110および別のHMDがそれらの関連する登録情報を比較することによって同一の医療処置に用いられていることを判断する。この判断に応答することで、ステッカーシステム100は、HMDに提示するために提供される情報を調整することができる。例えば、ステッカーシステム100は、HMDに表示されるグラフィックの注釈を同期することができ、HMD間でメッセージを通信し、またはHMD間で医療処置について他のデータを共有する。
(V.追加の検討事項)
本発明の実施形態の前述の説明は、例示の目的で提示されており、網羅的であること、または開示された正確な形態に限定することは、意図されていない。関連技術分野における当業者は、上記の開示を考慮すると、多くの修正例および変形例が可能となることを理解することが可能である。
この説明のある部分は、情報に対するオペレーションのアルゴリズムおよび記号表現の観点から見ると本発明の実施形態を説明している。これらのアルゴリズムの説明および表現は、データ処理技術における当業者によって一般的に用いられ、彼らの仕事の趣旨を効果的に他の当業者に伝える。これらのオペレーションは、機能的、計算的、または論理的に説明されている一方で、コンピュータプログラム、または等価電気回路、マイクロコードなどによって実装されると理解される。さらに、普遍性を失うことなく、これらのオペレーションの配列をモジュールと呼ぶことが便利な場合もある。説明されるオペレーションおよびそれらに関連するモジュールは、ソフトウェア、ファームウェア、ハードウェア、またはそれらの任意の組み合わせで具現化されてよい。
本明細書で説明される任意のステップ、オペレーション、またはプロセスは、単独または他のデバイスと組み合わせることで、1つもしくは複数のハードウェアまたはソフトウェアモジュールで実行または実装されてよい。一実施形態において、ソフトウェアモジュールは、説明される任意またはすべてのステップ、オペレーション、またはプロセスを実行するコンピュータプロセッサによって実行されることが可能であるコンピュータプログラムコードを含む非一時的なコンピュータ可読媒体を含むコンピュータプログラム製品で実装される。
また、本発明の実施形態は、本明細書で説明されるコンピューティングプロセスによって生成される製品に関する場合がある。このような製品は、コンピューティングプロセスから生じる情報を含むことができ、ここで、この情報は、非一時的で有形のコンピュータ可読記憶媒体に格納され、本明細書で説明されるコンピュータプログラム製品、または他のデータの組み合わせの任意の実施形態を含むことができる。
本明細書で用いられるように、「一実施形態」、または「実施形態」への参照は、この実施形態に関連して記載される具体的な要素、特徴、構造、または特性が少なくとも1つの実施形態において含まれることを意味する。本明細書におけるさまざまな場所において、「一実施形態において」という表現の説明は、必ずしもすべてが同一の実施形態を参照しているわけではない。
本明細書で用いられるように、「備える」、「備えている」、「含む」、「含んでいる」、「有する」、「有している」、またはそれらの任意の他の変形例は、非排他的な包含を含むことが意図されている。例えば、要素のリストを備えるプロセス、方法、条項、もしくは装置は、必ずしもそれらの要素のみに限定されるのではなく、そのようなプロセス、方法、条項、もしくは装置に明示的に記載されていない、または内在する他の要素を含む場合がある。さらに、そうではないと明示的に述べられていない限り、「または」は、包括的な「または」を参照し、排他的な「または」を参照しない。例えば、条件AまたはBは、以下のいずれか1つによって満たされ、Aは真(または存在する)およびBは偽(または存在しない)、Aは偽(または存在しない)およびBは真(または存在する)、ならびにAおよびBの両方が真(または存在する)である。
最後に、明細書で用いられる文言は、主に読み易さおよび教育目的のために選択されており、本発明の主題を描写または制限するために選択されていない場合がある。したがって、本発明の範囲は、この詳細な説明によってではなく、本明細書に基づいた出願で発行される任意の請求項によって制限されることが意図されている。故に、本発明の実施形態の開示は、例示することを意図しており、以下の請求項に記載される本発明の範囲を限定しない。

Claims (14)

  1. コンピューティングデバイスと、
    ユーザーによって着用されるヘッドマウントデバイス(HMD)と、
    基準マーカーを含むステッカーと、
    命令を格納する非一時的なコンピュータ可読記憶媒体とを備え、前記命令が1つまたは複数のプロセッサによって実行された場合に、前記1つまたは複数のプロセッサに、
    前記HMDの画像センサーによって取得された前記ステッカーの画像を受信するステップであって、前記画像は、前記基準マーカーを示しているステップと、
    前記画像の中の前記基準マーカーを処理することによって登録情報を判断するステップと、
    前記HMDの位置情報を判断するステップと、
    前記登録情報および前記位置情報を用いて、前記HMDに対する前記ステッカーの位置を判断するステップと、
    前記ステッカーの位置に基づいて前記ユーザーに提示するために前記HMDにグラフィックを提供するステップと、
    医療処置のために前記登録情報を用いて暗号化キーを生成するステップであって、前記暗号化キーは、前記ステッカーに固有であるステップと、
    前記HMDおよび前記コンピューティングデバイスが前記医療処置に用いられていることを判断するステップと、
    前記HMDおよび前記コンピューティングデバイスが前記医療処置に用いられていることを判断するステップに応答して、前記位置情報を前記HMDから前記コンピューティングデバイスに前記暗号化キーを用いて無線ネットワーク通信を介して送信するステップとを含むステップを実行させる、
    システム。
  2. 前記非一時的なコンピュータ可読記憶媒体は、前記1つまたは複数のプロセッサによって実行された場合に、前記1つまたは複数のプロセッサに、
    前記ステッカーの前記基準マーカーを示す追加の画像を処理することによって追加の登録情報を判断するステップであって、前記追加の画像は、追加のHMDによって取得された、ステップと、
    前記登録情報と前記追加の登録情報とを比較することによって、前記HMDおよび前記追加のHMDが前記医療処置に用いられていることを判断するステップとを含むステップを実行させるさらなる命令を格納する、
    請求項1に記載のシステム。
  3. 前記非一時的なコンピュータ可読記憶媒体は、前記1つまたは複数のプロセッサによって実行された場合に、前記1つまたは複数のプロセッサに、
    前記ステッカーと前記HMDとの間の距離および角度を3次元で判断することによって、前記HMDに対する前記ステッカーの位置を判断するステップを実行させるさらなる命令を格納する、
    請求項1に記載のシステム。
  4. 前記グラフィックのサイズまたは向きは、前記距離および角度を用いて判断される、
    請求項3に記載のシステム。
  5. 前記非一時的なコンピュータ可読記憶媒体は、前記1つまたは複数のプロセッサによって実行された場合に、前記1つまたは複数のプロセッサに、
    前記グラフィックとして拡張現実のコンテンツを生成するステップであって、前記HMDは、前記拡張現実のコンテンツを提示するよう構成されるディスプレイを含むステップを実行させるさらなる命令を格納する、
    請求項1に記載のシステム。
  6. 前記基準マーカーは、QRコードまたはバーコードである、
    請求項1に記載のシステム。
  7. 画像センサーによって取得されたステッカーの画像を受信するステップであって、前記画像は、前記ステッカーの基準マーカーを示しているステップと、
    前記画像の中の前記ステッカーの前記基準マーカーを処理することによって登録情報を判断するステップと、
    ユーザーによって着用されるヘッドマウントデバイス(HMD)の位置情報を判断するステップと、
    前記登録情報および前記位置情報を用いて、前記HMDに対する前記ステッカーの位置を判断するステップと、
    前記ステッカーの位置に基づいて前記HMDによって前記ユーザーに提示するためにグラフィックを提供するステップと、
    医療処置のために前記登録情報を用いて暗号化キーを生成するステップであって、前記暗号化キーは、前記ステッカーに固有であるステップと、
    前記HMDおよびコンピューティングデバイスが前記医療処置に用いられていることを判断するステップと、
    前記HMDおよび前記コンピューティングデバイスが前記医療処置に用いられていることを判断するステップに応答して、前記位置情報を前記HMDから前記コンピューティングデバイスに前記暗号化キーを用いて無線ネットワーク通信を介して送信するステップと
    を備える、
    方法。
  8. 前記ステッカーの前記基準マーカーを示す追加の画像を処理することによって、追加の登録情報を判断するステップであって、前記追加の画像は、追加のHMDによって取得された、ステップと、
    前記登録情報と前記追加の登録情報とを比較することによって、前記HMDおよび前記追加のHMDが前記医療処置に用いられていることを判断するステップとをさらに備える、
    請求項7に記載の方法。
  9. 前記HMDに対する前記ステッカーの位置を判断するステップは、
    前記ステッカーと前記HMDとの間の距離および角度を3次元で判断するステップを含む、
    請求項7に記載の方法。
  10. 前記グラフィックのサイズまたは向きは、前記距離および角度を用いて判断される、
    請求項9に記載の方法。
  11. 前記グラフィックとして拡張現実のコンテンツを生成するステップであって、前記HMDは、前記拡張現実のコンテンツを提示するよう構成されるディスプレイを含むステップをさらに備える、
    請求項7に記載の方法。
  12. 前記画像センサーは、前記HMDに結合されている、
    請求項7に記載の方法。
  13. 前記基準マーカーは、QRコードまたはバーコードである、
    請求項7に記載の方法。
  14. 非一時的なコンピュータ可読記憶媒体に格納される命令であって、前記命令が1つまたは複数のプロセッサによって実行された場合に、前記1つまたは複数のプロセッサに、
    画像センサーによって取得されたステッカーの画像を受信するステップであって、前記画像は、前記ステッカーの基準マーカーを示しているステップと、
    前記画像の中の前記ステッカーの前記基準マーカーを処理することによって登録情報を判断するステップと、
    ユーザーによって着用されるヘッドマウントデバイス(HMD)の位置情報を判断するステップと、
    前記登録情報および前記位置情報を用いて、前記HMDに対する前記ステッカーの位置を判断するステップと、
    前記ステッカーの位置に基づいて前記ユーザーに提示するために前記HMDにグラフィックを提供するステップと、
    医療処置のために前記登録情報を用いて暗号化キーを生成するステップであって、前記暗号化キーは、前記ステッカーに固有であるステップと、
    前記HMDおよびコンピューティングデバイスが前記医療処置に用いられていることを判断するステップと、
    前記HMDおよび前記コンピューティングデバイスが前記医療処置に用いられていることを判断するステップに応答して、前記位置情報を前記HMDから前記コンピューティングデバイスに前記暗号化キーを用いて無線ネットワーク通信を介して送信するステップとを含むステップを実行させる、
    非一時的なコンピュータ可読記憶媒体。
JP2021517551A 2018-05-29 2019-05-24 拡張現実環境内の使い捨てステッカー Active JP7105996B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862677544P 2018-05-29 2018-05-29
US62/677,544 2018-05-29
PCT/US2019/033974 WO2019231849A1 (en) 2018-05-29 2019-05-24 Disposable sticker within augmented reality environment

Publications (3)

Publication Number Publication Date
JP2021526701A JP2021526701A (ja) 2021-10-07
JPWO2019231849A5 JPWO2019231849A5 (ja) 2022-06-01
JP7105996B2 true JP7105996B2 (ja) 2022-07-25

Family

ID=68694117

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021517551A Active JP7105996B2 (ja) 2018-05-29 2019-05-24 拡張現実環境内の使い捨てステッカー

Country Status (6)

Country Link
US (2) US10733960B2 (ja)
EP (1) EP3801344A4 (ja)
JP (1) JP7105996B2 (ja)
AU (1) AU2019277064A1 (ja)
CA (1) CA3101798A1 (ja)
WO (1) WO2019231849A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11373742B2 (en) * 2019-08-23 2022-06-28 Change Healthcare Holdings Llc Augmented reality pharmacy system and method
US11538265B2 (en) * 2020-03-11 2022-12-27 Universal City Studios Llc Orientation tag for providing orientation information
KR102479477B1 (ko) * 2021-09-07 2022-12-20 주식회사 한컴위드 실물 상품에 인쇄된 2차원 코드와의 연동을 통해 상기 실물 상품에 매칭되는 아이템을 메타버스 환경 상에 제공할 수 있는 메타버스 서비스를 운영하기 위한 블록체인 기반의 메타버스 서비스 운영 서버 및 그 동작 방법

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006121497A (ja) 2004-10-22 2006-05-11 Nec Corp 近接する端末間における認証方法、秘匿情報の配送方法、装置、システム、及び、プログラム
US20170354342A1 (en) 2014-11-30 2017-12-14 Elbit Systems Ltd. Model registration system and method
WO2018012207A1 (ja) 2016-07-12 2018-01-18 富士フイルム株式会社 画像表示システム、並びにヘッドマウントディスプレイの制御装置とその作動方法および作動プログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3558104B2 (ja) * 1996-08-05 2004-08-25 ソニー株式会社 3次元仮想物体表示装置および方法
JP4537104B2 (ja) * 2004-03-31 2010-09-01 キヤノン株式会社 マーカ検出方法、マーカ検出装置、位置姿勢推定方法、及び複合現実空間提示方法
US20070244825A1 (en) * 2006-04-14 2007-10-18 Gilbert Semmer Item, accessory kit, and method for software based medical resource activation
US9483677B2 (en) * 2010-09-20 2016-11-01 Hid Global Corporation Machine-readable symbols
US9886552B2 (en) 2011-08-12 2018-02-06 Help Lighting, Inc. System and method for image registration of multiple video streams
US9143402B2 (en) 2012-02-24 2015-09-22 Qualcomm Incorporated Sensor based configuration and control of network devices
US20130267838A1 (en) * 2012-04-09 2013-10-10 Board Of Regents, The University Of Texas System Augmented Reality System for Use in Medical Procedures
US9105210B2 (en) 2012-06-29 2015-08-11 Microsoft Technology Licensing, Llc Multi-node poster location
US8990914B2 (en) 2012-09-28 2015-03-24 Intel Corporation Device, method, and system for augmented reality security
KR20150096948A (ko) * 2014-02-17 2015-08-26 엘지전자 주식회사 증강 현실 사진 촬영 가이드를 디스플레이 하는 헤드 마운티드 디스플레이 디바이스 및 그 제어 방법
US9804813B2 (en) * 2014-11-26 2017-10-31 The United States Of America As Represented By Secretary Of The Navy Augmented reality cross-domain solution for physically disconnected security domains
KR102347827B1 (ko) * 2015-02-12 2022-01-07 삼성전자주식회사 보안 메시지 전송 장치 및 그 처리 방법
JP6328579B2 (ja) * 2015-03-13 2018-05-23 富士フイルム株式会社 仮想オブジェクト表示システムおよびその表示制御方法並びに表示制御プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006121497A (ja) 2004-10-22 2006-05-11 Nec Corp 近接する端末間における認証方法、秘匿情報の配送方法、装置、システム、及び、プログラム
US20170354342A1 (en) 2014-11-30 2017-12-14 Elbit Systems Ltd. Model registration system and method
WO2018012207A1 (ja) 2016-07-12 2018-01-18 富士フイルム株式会社 画像表示システム、並びにヘッドマウントディスプレイの制御装置とその作動方法および作動プログラム

Also Published As

Publication number Publication date
JP2021526701A (ja) 2021-10-07
AU2019277064A1 (en) 2021-01-21
US10964291B2 (en) 2021-03-30
US20200342832A1 (en) 2020-10-29
US10733960B2 (en) 2020-08-04
EP3801344A1 (en) 2021-04-14
WO2019231849A1 (en) 2019-12-05
EP3801344A4 (en) 2022-03-09
US20190371272A1 (en) 2019-12-05
CA3101798A1 (en) 2019-12-05

Similar Documents

Publication Publication Date Title
US10964291B2 (en) Disposable sticker within augmented reality environment
US11836284B2 (en) Sensor fusion for electromagnetic tracking
US11829526B2 (en) Gaze based interface for augmented reality environment
Harders et al. Calibration, registration, and synchronization for high precision augmented reality haptics
Andrews et al. Registration techniques for clinical applications of three-dimensional augmented reality devices
TW201911133A (zh) 用於多個自由度之控制器追蹤
US11265721B1 (en) Secure device attestation and mutual authentication of artificial reality devices
JP2020523102A (ja) 滅菌野及び他の作業環境のためのユーザインターフェースシステム
EP2962237A1 (en) Systems and methods for authenticating a user based on a biometric model associated with the user
TW202113594A (zh) 具有處理器間通訊(ipc)的人工實境系統
US20210200498A1 (en) Method for information display, processing device, and display system
EP3142588B1 (en) Method for determining the spatial position of objects
Bannis et al. IDIoT: Multimodal framework for ubiquitous identification and assignment of human-carried wearable devices
US11238159B1 (en) Artificial reality system with verified boot sequences
Plopski et al. Tracking systems: Calibration, hardware, and peripherals
De Luca et al. Accurate Registration of 3D Models with Organs in Augmented Reality Through Inertial Sensors
KR20220056702A (ko) 증강 현실 장치 및 증강 현실 장치의 동작 방법
JP2021063922A (ja) 情報処理装置、情報処理方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220524

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220524

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220524

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220614

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220712

R150 Certificate of patent or registration of utility model

Ref document number: 7105996

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150