JP2021532464A - 左および右ディスプレイとユーザの眼との間の垂直整合を決定するためのディスプレイシステムおよび方法 - Google Patents

左および右ディスプレイとユーザの眼との間の垂直整合を決定するためのディスプレイシステムおよび方法 Download PDF

Info

Publication number
JP2021532464A
JP2021532464A JP2021502899A JP2021502899A JP2021532464A JP 2021532464 A JP2021532464 A JP 2021532464A JP 2021502899 A JP2021502899 A JP 2021502899A JP 2021502899 A JP2021502899 A JP 2021502899A JP 2021532464 A JP2021532464 A JP 2021532464A
Authority
JP
Japan
Prior art keywords
user
eye
display
head
horizontal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021502899A
Other languages
English (en)
Other versions
JPWO2020023672A5 (ja
JP7456995B2 (ja
Inventor
ビョルン ニコラース セルヴァティウス ブラスカンプ，
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Magic Leap Inc
Original Assignee
Magic Leap Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Magic Leap Inc filed Critical Magic Leap Inc
Publication of JP2021532464A publication Critical patent/JP2021532464A/ja
Publication of JPWO2020023672A5 publication Critical patent/JPWO2020023672A5/ja
Application granted granted Critical
Publication of JP7456995B2 publication Critical patent/JP7456995B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B27/0172—Head mounted characterised by optical features
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00—Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/0001—Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems
    • G02B6/0011—Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems the light guides being planar or of plate-like form
    • G02B6/0075—Arrangements of multiple light guides
    • G02B6/0076—Stacked arrangements of multiple light guides of the same or different cross-sectional area
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/38—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/327—Calibration thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344—Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/366—Image reproducers using viewer tracking
    • H04N13/383—Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00—Control of display operating conditions
    • G09G2320/06—Adjustment of display parameters
    • G09G2320/0606—Manual adjustment
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00—Control of display operating conditions
    • G09G2320/06—Adjustment of display parameters
    • G09G2320/0693—Calibration of display systems
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00—Aspects of interface with display user
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2356/00—Detection of the display position w.r.t. other display screens

Abstract

ウェアラブルデバイスは、ディスプレイのユーザの周囲環境内に位置するように現れる、３次元（３Ｄ）仮想オブジェクトをレンダリングするための、頭部搭載型ディスプレイ（ＨＭＤ）を含み得る。ＨＭＤおよびユーザの片眼または両眼の相対的位置は、ＨＭＤによって出力された画像情報を受信するために所望の位置にない場合がある。例えば、ＨＭＤ／眼垂直整合は、左眼と右眼との間で異なり得る。ウェアラブルデバイスは、ＨＭＤがユーザの頭部上で水平であるかどうかを決定し得、次いで、ユーザに、左眼整合マーカおよび右眼整合マーカを提供し得る。ユーザフィードバックに基づいて、ウェアラブルデバイスは、任意の左右垂直不整合が存在するかどうかを決定し得、任意の不整合の影響を低減または最小限にするための措置を講じ得る。

Description

（参照による組み込み）
本願は、参照することによって、以下の特許出願、すなわち、２０１８年８月３日に出願された米国仮出願第６２／７１４，６４９号、２０１９年７月１７日に出願された米国仮出願第６２／８７５，４７４号、２０１９年７月１７日に出願された米国特許出願第１６／２５１，０１７号、および２０１９年７月２３日に出願されたＰＣＴ出願第ＰＣＴ／ＵＳ２０１９／０４３０９６号のそれぞれの全体を組み込む。
本開示は、仮想現実および拡張現実ディスプレイシステムを含む、ディスプレイシステムに関し、より具体的には、ウェアラブルディスプレイシステム内の左および右ディスプレイを整合させるためのシステムおよび方法に関する。
現代のコンピューティングおよびディスプレイ技術は、いわゆる「仮想現実」、「拡張現実」、または「複合現実」体験のためのシステムの開発を促進しており、デジタル的に再現された画像またはその一部が、現実であるように見える、もしくはそのように知覚され得る様式でユーザに提示される。仮想現実、すなわち、「ＶＲ」シナリオは、典型的には、他の実際の実世界の視覚的入力に対する透過性を伴わずに、デジタルまたは仮想画像情報の提示を伴う。拡張現実または「ＡＲ」シナリオは、典型的には、ユーザの周囲の実際の世界の可視化に対する拡張としてのデジタルまたは仮想画像情報の提示を伴う。複合現実または「ＭＲ」は、物理的および仮想オブジェクトが、共存し、リアルタイムで相互作用する、新しい環境を生成するための実世界と仮想世界の融合に関連する。結論から述べると、ヒトの視知覚系は、非常に複雑であって、他の仮想または実世界画像要素間における仮想画像要素の快適で、自然のような感覚で、かつ豊かな提示を促進する、ＶＲ、ＡＲ、またはＭＲ技術の生産は、困難である。本明細書に開示されるシステムおよび方法は、ＶＲ、ＡＲ、ならびにＭＲ技術に関連する種々の課題に対処する。
複合現実システム内のディスプレイ整合の種々の実施例が、開示される。
いくつかの実施形態では、拡張現実システムが、提供される。拡張現実システムは、光をユーザに出力することによって仮想コンテンツを提示するように構成される、頭部搭載型ディスプレイと、ユーザの眼の画像を捕捉するように構成される、結像デバイスと、頭部搭載型ディスプレイおよび結像デバイスに通信可能に結合される、少なくとも１つのプロセッサとを備える。少なくとも１つのプロセッサは、左眼ディスプレイを用いて、左眼整合マーカを提供し、右眼ディスプレイを用いて、右眼整合マーカを提供し、ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節し、受信されたユーザ入力に基づいて、左眼および右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節するように構成される。いくつかの実施形態では、少なくとも１つのプロセッサは、頭部搭載型ディスプレイシステムがユーザの左および右眼に対して水平であるかどうかを決定し、左または右眼整合マーカを提供する前に、ユーザに、頭部搭載型ディスプレイシステムがユーザの左および右眼に対して水平であるかどうかに関するフィードバックを提供するように構成される。
いくつかの他の実施形態では、ユーザの左および右眼を用いて、頭部搭載型ディスプレイシステムの左眼ディスプレイおよび右眼ディスプレイの表示されるコンテンツを垂直に整合させるための方法が、提供される。本方法は、左眼ディスプレイを用いて、左眼整合マーカを提供するステップと、右眼ディスプレイを用いて、右眼整合マーカを提供するステップと、ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節し、受信されたユーザ入力に基づいて、左眼および右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節するステップとを含む。いくつかの実施形態では、本方法はさらに、ユーザの左および右眼に対する頭部搭載型ディスプレイシステムの水平度を決定するステップと、左または右眼整合マーカを提供する前に、ユーザに、頭部搭載型ディスプレイシステムがユーザの左および右眼に対して水平であるかどうかに関するフィードバックを提供するステップとを含む。
いくつかの実施形態では、拡張現実システムが、提供される。拡張現実システムは、光をユーザに出力することによって、仮想コンテンツを提示するように構成される、頭部搭載型ディスプレイ（ＨＭＤ）と、ＨＭＤに通信可能に結合される、少なくとも１つのプロセッサとを備える。ＨＭＤは、仮想コンテンツをユーザの左眼に提示するように構成される、左眼ディスプレイと、仮想コンテンツをユーザの右眼に提示するように構成される、右眼ディスプレイとを備える。少なくとも１つのプロセッサは、左眼ディスプレイを用いて、左眼整合マーカを提供し、右眼ディスプレイを用いて、右眼整合マーカを提供し、ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節し、受信されたユーザ入力に基づいて、左眼および右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節するように構成される。
いくつかの実施形態では、拡張現実システムが、提供される。拡張現実システムは、光をユーザに出力することによって仮想コンテンツを提示するように構成される、頭部搭載型ディスプレイ（ＨＭＤ）と、ユーザの眼の画像を捕捉するように構成される、結像システムと、ＨＭＤおよび結像デバイスに通信可能に結合される、少なくとも１つのプロセッサとを備える。少なくとも１つのプロセッサは、少なくとも部分的に、結像システムによって捕捉された１つ以上の画像に基づいて、ユーザの左眼と右眼との間に延在する、ユーザの眼球間軸を決定し、ユーザの眼球間軸に対するＨＭＤの配向を決定し、ユーザに、ユーザの眼球間軸に対するＨＭＤの決定された配向に基づいて、フィードバックを提供するように構成される。
付加的実施例が、下記に列挙される。
（実施例１）
拡張現実システムであって、
光をユーザに出力することによって仮想コンテンツを提示するように構成される、頭部搭載型ディスプレイと、
ユーザの眼の画像を捕捉するように構成される、結像デバイスと、
頭部搭載型ディスプレイおよび結像デバイスに通信可能に結合される、少なくとも１つのプロセッサであって、
左眼ディスプレイを用いて、左眼整合マーカを提供し、
右眼ディスプレイを用いて、右眼整合マーカを提供し、
ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節し、
受信されたユーザ入力に基づいて、左眼および右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節する、
ように構成される、少なくとも１つのプロセッサと、
を備える、システム。
（実施例２）
プロセッサは、
頭部搭載型ディスプレイシステムがユーザの左および右眼に対して水平であるかどうかを決定し、
ユーザに、左眼ディスプレイを用いて左眼整合マーカを提供する前に、頭部搭載型ディスプレイシステムがユーザの左および右眼に対して水平であるかどうかに関するフィードバックを提供する、
ように構成される、実施例１に記載の拡張現実システム。
（実施例３）
プロセッサは、ユーザに、ユーザの左および右眼に対する頭部搭載型ディスプレイの配向に関連して変化する配向を有する、水平マーカを提示することによって、頭部搭載型ディスプレイがユーザの左および右眼に対して水平であるかどうかに関するフィードバックを提供するように構成される、実施例１に記載の拡張現実システム。
（実施例４）
眼追跡システムをさらに備え、プロセッサは、眼追跡システムからの眼追跡データに基づいて、頭部搭載型ディスプレイシステムがユーザの左および右眼に対して水平であるかどうかを決定するように構成される、実施例１に記載の拡張現実システム。
（実施例５）
眼追跡システムをさらに備え、プロセッサはさらに、眼追跡システムからの眼追跡データに基づいて、ユーザの左眼と右眼との間に延在する、ユーザの眼球間軸を決定するように構成される、実施例１に記載の拡張現実システム。
（実施例６）
プロセッサはさらに、ユーザの眼球間軸に対する眼追跡システムの配向を決定することによって、頭部搭載型ディスプレイシステムがユーザの左および右眼に対して水平であるかどうかを決定するように構成される、実施例５に記載の拡張現実システム。
（実施例７）
プロセッサは、ユーザに、ユーザの眼球間軸に対する眼追跡システムの配向に関連して変化する配向を有する、水平マーカを提示することによって、頭部搭載型ディスプレイがユーザの左および右眼に対して水平であるかどうかに関するフィードバックを提供するように構成される、実施例５に記載の拡張現実システム。
（実施例８）
プロセッサは、ユーザに、頭部搭載型ディスプレイの配向と関連付けられる静的水平マーカを提示し、眼球間軸の配向と関連付けられる動的水平マーカを提示することによって、頭部搭載型ディスプレイがユーザの左および右眼に対して水平であるかどうかに関するフィードバックを提供するように構成され、動的水平マーカは、眼球間軸の配向が頭部搭載型ディスプレイに対して変化するにつれて、静的水平マーカに対して移動する、実施例５に記載の拡張現実システム。
（実施例９）
動的水平マーカは、頭部搭載型ディスプレイが眼球間軸に対して水平であるとき、静的水平マーカとマージする、実施例８に記載の拡張現実システム。
（実施例１０）
左眼整合マーカは、第１の水平線を備え、右眼整合マーカは、第２の水平線を備える、実施例１に記載の拡張現実システム。
（実施例１１）
プロセッサは、第１および第２の水平線のうちの少なくとも１つを上昇または降下させるためのユーザ入力の形態において、ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節するように構成される、実施例１０に記載の拡張現実システム。
（実施例１２）
プロセッサは、第１および第２の水平線がユーザの視点から水平になるまで、第１および第２の水平線のうちの少なくとも１つを上昇または降下させるためのユーザ入力の形態において、ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節するように構成される、実施例１０に記載の拡張現実システム。
（実施例１３）
頭部搭載型ディスプレイは、世界からの光をユーザの左眼の中に通過させるように構成される、第１の導波管スタックと、世界からの光をユーザの右眼の中に通過させるように構成される、第２の導波管スタックとを備え、各導波管スタックは、複数の導波管を備える、実施例１に記載の拡張現実システム。
（実施例１４）
頭部搭載型ディスプレイは、世界からの光をユーザの左眼の中に通過させるように構成される、第１の導波管スタックと、世界からの光をユーザの右眼の中に通過させるように構成される、第２の導波管スタックとを備え、
各導波管スタックは、複数の導波管を備え、その導波管スタックの１つ以上の導波管は、ユーザに、その導波管スタックの１つ以上の他の導波管と異なる量の波面発散を伴う光を出力するように構成され、
異なる量の波面発散は、眼による異なる遠近調節と関連付けられ、
異なる量の波面発散を伴う出力された光は、仮想オブジェクトをユーザから離れた異なる知覚される深度に形成する、
実施例１に記載の拡張現実システム。
（実施例１５）
ユーザの左および右眼を用いて、頭部搭載型ディスプレイシステムの左眼ディスプレイおよび右眼ディスプレイの表示されるコンテンツを垂直に整合させるための方法であって、
左眼ディスプレイを用いて、左眼整合マーカを提供するステップと、
右眼ディスプレイを用いて、右眼整合マーカを提供するステップと、
ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節するステップと、
受信されたユーザ入力に基づいて、左眼および右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節するステップと、
を含む、方法。
（実施例１６）
ユーザの左および右眼に対する頭部搭載型ディスプレイシステムの水平度を決定するステップと、
左または右眼整合マーカを提供する前に、ユーザに、頭部搭載型ディスプレイシステムがユーザの左および右眼に対して水平であるかどうかに関するフィードバックを提供するステップと、
をさらに含む、実施例１５に記載の方法。
（実施例１７）
頭部搭載型ディスプレイシステムは、眼追跡システムを備え、ユーザの左および右眼に対する頭部搭載型ディスプレイシステムの水平度を決定するステップは、眼追跡システムを利用して、ユーザの左眼と右眼との間に延在する、ユーザの眼球間軸を決定し、眼球間軸に対する頭部搭載型ディスプレイシステムの水平度を決定するステップを含む、実施例１５に記載の方法。
（実施例１８）
眼追跡システムを利用して、ユーザの眼球間軸を決定するステップは、
眼追跡システムを用いて、ユーザの左眼の回転中心を決定するステップと、
眼追跡システムを用いて、ユーザの右眼の回転中心を決定するステップと、
ユーザの左および右眼の回転中心間に延在する線の位置を決定するステップであって、線は、眼球間軸を構成する、ステップと、
を含む、実施例１７に記載の方法。
（実施例１９）
左眼整合マーカを提供するステップは、左眼ディスプレイを用いて、第１の垂直整合マーカおよび第１の水平整合マーカを提供するステップを含み、右眼整合マーカを提供するステップは、右眼ディスプレイを用いて、第２の垂直整合マーカおよび第２の水平整合マーカを提供するステップを含む、実施例１５に記載の方法。
（実施例２０）
ユーザによって視認されると、第１および第２の垂直整合マーカは、ユーザの視覚内でともに融合し、第１および第２の水平整合マーカは、ユーザの視覚内で融合されないままである、実施例１９に記載の方法。
（実施例２１）
左眼および右眼整合マーカのうちの少なくとも１つを調節するためのユーザ入力を受信するステップは、第１および第２の水平整合マーカのうちの少なくとも１つを垂直に移動させるためのユーザ入力を受信するステップを含む、実施例１９に記載の方法。
（実施例２２）
左眼および右眼整合マーカのうちの少なくとも１つを調節するためのユーザ入力を受信するステップは、第１および第２の水平整合マーカがユーザの視覚内で相互に垂直に整合されるまで、第１および第２の水平整合マーカのうちの少なくとも１つを垂直に移動させるためのユーザ入力を受信するステップを含む、実施例１９に記載の方法。
（実施例２３）
ユーザが所与の閾値時間にわたって頭部搭載型ディスプレイシステムを装着していることを決定するステップと、
ユーザが所与の閾値時間にわたって頭部搭載型ディスプレイシステムを装着していることの決定に応答して、頭部搭載型ディスプレイシステムの水平度を決定するステップを実施するステップと、
をさらに含む、実施例１５に記載の方法。
（実施例２４）
拡張現実システムであって、
光をユーザに出力することによって仮想コンテンツを提示するように構成される、頭部搭載型ディスプレイであって、仮想コンテンツをユーザの左眼に提示するように構成される、左眼ディスプレイと、仮想コンテンツをユーザの右眼に提示するように構成される、右眼ディスプレイとを備える、頭部搭載型ディスプレイと、
頭部搭載型ディスプレイに通信可能に結合される、少なくとも１つのプロセッサであって、
左眼ディスプレイを用いて、左眼整合マーカを提供し、
右眼ディスプレイを用いて、右眼整合マーカを提供し、
ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節し、
受信されたユーザ入力に基づいて、左眼および右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節する、
ように構成される、少なくとも１つのプロセッサと、
を備える、拡張現実システム。
（実施例２５）
左眼整合マーカは、第１の水平線を備え、右眼整合マーカは、第２の水平線を備える、実施例２４に記載の拡張現実システム。
（実施例２６）
プロセッサは、第１および第２の水平線のうちの少なくとも１つを上昇または降下させるためのユーザ入力の形態において、ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節するように構成される、実施例２５に記載の拡張現実システム。
（実施例２７）
プロセッサは、第１および第２の水平線がユーザの視点から水平になるまで、第１および第２の水平線のうちの少なくとも１つを上昇または降下させるためのユーザ入力の形態において、ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節するように構成される、実施例２５に記載の拡張現実システム。
（実施例２８）
左眼ディスプレイは、世界からの光をユーザの左眼の中に通過させるように構成される、第１の導波管スタックを備え、右眼ディスプレイは、世界からの光をユーザの右眼の中に通過させるように構成される、第２の導波管スタックを備え、各導波管スタックは、複数の導波管を備える、実施例２４に記載の拡張現実システム。
（実施例２９）
左眼ディスプレイは、世界からの光をユーザの左眼の中に通過させるように構成される、第１の導波管スタックを備え、右眼ディスプレイは、世界からの光をユーザの右眼の中に通過させるように構成される、第２の導波管スタックを備え、
各導波管スタックは、複数の導波管を備え、その導波管スタックの１つ以上の導波管は、ユーザに、その導波管スタックの１つ以上の他の導波管と異なる量の波面発散を伴う光を出力するように構成され、
異なる量の波面発散は、眼による異なる遠近調節（ａｃｃｏｍｍｏｄａｔｉｏｎ）と関連付けられ、
異なる量の波面発散を伴う出力された光は、仮想オブジェクトをユーザから離れた異なる知覚される深度に形成する、
実施例２４に記載の拡張現実システム。
（実施例３０）
左眼ディスプレイおよび右眼ディスプレイを用いて、それぞれ、左眼整合マーカおよび右眼整合マーカを提供するために、少なくとも１つのプロセッサは、
左眼ディスプレイを用いて、第１の垂直整合マーカおよび第１の水平整合マーカを提供し、
右眼ディスプレイを用いて、第２の垂直整合マーカおよび第２の水平整合マーカを提供する、
ように構成される、実施例２４に記載の拡張現実システム。
（実施例３１）
ユーザによって視認されると、第１および第２の垂直整合マーカは、ユーザの視覚内でともに融合し、第１および第２の水平整合マーカは、ユーザの視覚内で融合されないままである、実施例３０に記載の拡張現実システム。
（実施例３２）
ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節するために、少なくとも１つのプロセッサは、
第１および第２の水平整合マーカのうちの少なくとも１つを垂直に移動させるためのユーザ入力を受信するように構成される、実施例３０に記載の拡張現実システム。
（実施例３３）
ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節するために、少なくとも１つのプロセッサは、
第１および第２の水平整合マーカがユーザの視覚内で相互に垂直に整合されるまで、第１および第２の水平整合マーカのうちの少なくとも１つを垂直に移動させるためのユーザ入力を受信するように構成される、実施例３０に記載の拡張現実システム。
（実施例３４）
少なくとも１つのプロセッサはさらに、
左眼整合マーカを提示するための第１の垂直位置を選択し、
右眼整合マーカを提示するための第２の垂直位置を選択する、
ように構成され、左眼ディスプレイおよび右眼ディスプレイを用いて、それぞれ、左眼整合マーカおよび右眼整合マーカを提供するために、少なくとも１つのプロセッサは、
左眼ディスプレイを用いて、左眼整合マーカを第１の垂直位置に提供し、
右眼ディスプレイを用いて、右眼整合マーカを第２の垂直位置に提供する、
ように構成される、実施例２４に記載の拡張現実システム。
（実施例３５）
左眼整合マーカを提示するための第１の垂直位置を選択し、右眼整合マーカを提示するための第２の垂直位置を選択するために、少なくとも１つのプロセッサは、
擬似または準ランダムに、左眼整合マーカを提示するための第１の垂直位置を選択し、
擬似または準ランダムに、右眼整合マーカを提示するための第２の垂直位置を選択する、
ように構成される、実施例２４に記載の拡張現実システム。
（実施例３６）
受信されたユーザ入力に基づいて、左眼および右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節するために、少なくとも１つのプロセッサは、
受信されたユーザ入力、選択された第１の垂直位置、および選択された第２の垂直位置に基づいて、左眼および右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節するように構成される、実施例２４に記載の拡張現実システム。
（実施例３７）
受信されたユーザ入力に基づいて、左眼および右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節するために、少なくとも１つのプロセッサは、
左眼ディスプレイと関連付けられる第１のレンダリングカメラおよび右眼ディスプレイと関連付けられる第２のレンダリングカメラのうちの少なくとも１つの１つ以上の付帯パラメータを調節するように構成される、実施例２４に記載の拡張現実システム。
（実施例３８）
１つ以上の付帯パラメータは、位置および配向のうちの少なくとも１つを含む、実施例３７に記載の拡張現実システム。
（実施例３９）
ユーザの眼の画像を捕捉するように構成される、結像システムをさらに備え、
少なくとも１つのプロセッサは、結像システムに通信可能に結合され、少なくとも１つのプロセッサはさらに、
少なくとも部分的に、結像システムによって捕捉された１つ以上の画像に基づいて、頭部搭載型ディスプレイがユーザの左および右眼に対して水平であるかどうかを決定するように構成される、実施例２４に記載の拡張現実システム。
（実施例４０）
少なくとも１つのプロセッサは、頭部搭載型ディスプレイがユーザの左および右眼に対して水平であることの決定に応答して、左眼ディスプレイおよび右眼ディスプレイを用いて、それぞれ、左眼整合マーカおよび右眼整合マーカを提供するように構成される、実施例３９に記載の拡張現実システム。
（実施例４１）
左眼ディスプレイは、第１の導波管スタックを備え、右眼ディスプレイは、第２の導波管スタックを備え、そのそれぞれは、光をユーザに出力するように構成される、複数の導波管を備え、
左眼ディスプレイおよび右眼ディスプレイを用いて、それぞれ、左眼整合マーカおよび右眼整合マーカを提供するために、少なくとも１つのプロセッサは、
第１の導波管スタック内の複数の導波管のうちの単一のものを用いて、左眼整合マーカを提供し、
第２の導波管スタック内の複数の導波管のうちの単一のものを用いて、右眼整合マーカを提供する、
ように構成される、実施例２４に記載の拡張現実システム。
（実施例４２）
拡張現実システムであって、
光をユーザに出力することによって仮想コンテンツを提示するように構成される、頭部搭載型ディスプレイと、
ユーザの眼の画像を捕捉するように構成される、結像システムと、
頭部搭載型ディスプレイおよび結像システムに通信可能に結合される、少なくとも１つのプロセッサであって、
少なくとも部分的に、結像システムによって捕捉された１つ以上の画像に基づいて、ユーザの左眼と右眼との間に延在する、ユーザの眼球間軸を決定し、
ユーザの眼球間軸に対する頭部搭載型ディスプレイの配向を決定し、
ユーザに、ユーザの眼球間軸に対する頭部搭載型ディスプレイの決定された配向に基づいて、フィードバックを提供する、
ように構成される、少なくとも１つのプロセッサと、
を備える、拡張現実システム。
（実施例４３）
ユーザに、ユーザの眼球間軸に対する頭部搭載型ディスプレイの決定された配向に基づいて、フィードバックを提供するために、少なくとも１つのプロセッサは、
ユーザの左および右眼に対する頭部搭載型ディスプレイの決定された配向に関連して変化する配向を有する、水平マーカを提示するように構成される、実施例４２に記載の拡張現実システム。
（実施例４４）
ユーザに、ユーザの眼球間軸に対する頭部搭載型ディスプレイの決定された配向に基づいて、フィードバックを提供するために、少なくとも１つのプロセッサは、
頭部搭載型ディスプレイの配向と関連付けられる、静的水平マーカを提示し、
眼球間軸の配向と関連付けられる、動的水平マーカを提示し、動的水平マーカは、眼球間軸の配向が頭部搭載型ディスプレイに対して変化するにつれて、静的水平マーカに対して移動する、
ように構成される、実施例４２に記載の拡張現実システム。
（実施例４５）
動的水平マーカは、頭部搭載型ディスプレイが眼球間軸に対して水平であるとき、静的水平マーカとマージする、実施例４４に記載の拡張現実システム。
（実施例４６）
少なくとも部分的に、結像システムによって捕捉された１つ以上の画像に基づいて、ユーザの左眼と右眼との間に延在する、ユーザの眼球間軸を決定するために、少なくとも１つのプロセッサは、
少なくとも部分的に、結像システムによって捕捉されたユーザの左眼の１つ以上の画像に基づいて、ユーザの左眼の回転中心を決定し、
少なくとも部分的に、結像システムによって捕捉されたユーザの右眼の１つ以上の画像に基づいて、ユーザの右眼の回転中心を決定し、
ユーザの左および右眼の回転中心間に延在する、線の位置を決定し、線は、ユーザの眼球間軸を構成する、
ように構成される、実施例４２に記載の拡張現実システム。
（実施例４７）
少なくとも１つのプロセッサはさらに、
ユーザが少なくとも閾値時間量にわたって頭部搭載型ディスプレイを装着しているかどうかを決定するように構成され、
少なくとも１つのプロセッサは、ユーザが少なくとも閾値時間量にわたって頭部搭載型ディスプレイを装着していることの決定に応答して、少なくとも部分的に、結像システムによって捕捉された１つ以上の画像に基づいて、ユーザの左眼と右眼との間に延在する、ユーザの眼球間軸を決定するように構成される、
実施例４２に記載の拡張現実システム。
（実施例４８）
少なくとも１つのプロセッサはさらに、
ユーザの眼球間軸に対する頭部搭載型ディスプレイの決定された配向に基づいて、頭部搭載型ディスプレイがユーザの左および右眼に対して水平であるかどうかを決定するように構成される、実施例４２に記載の拡張現実システム。
（実施例４７）
少なくとも１つのプロセッサはさらに、頭部搭載型ディスプレイがユーザの左および右眼に対して水平であることの決定に応答して、
頭部搭載型ディスプレイの左眼ディスプレイを用いて、左眼整合マーカを提供し、
頭部搭載型ディスプレイの右眼ディスプレイを用いて、右眼整合マーカを提供し、
ユーザ入力を受信し、左眼および右眼整合マーカのうちの少なくとも１つを調節し、
受信されたユーザ入力に基づいて、左眼および右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節する、
ように構成される、実施例４６に記載の拡張現実システム。
（実施例４８）
ユーザに、ユーザの眼球間軸に対する頭部搭載型ディスプレイの決定された配向に基づいて、フィードバックを提供するために、少なくとも１つのプロセッサは、
ユーザに、頭部搭載型ディスプレイがユーザの左および右眼に対して水平であるかどうかを示すフィードバックを提供するように構成される、実施例４６に記載の拡張現実システム。
本明細書に説明される主題の１つ以上の実施形態の詳細が、付随の図面および以下の説明に記載される。他の特徴、側面、および利点は、説明、図面、ならびに請求項から明白となるであろう。本概要または以下の発明を実施するための形態のいずれも、本発明の主題の範囲を定義または限定することを主張するものではない。
図１は、人物によって視認されるある仮想現実オブジェクトおよびある物理的オブジェクトを伴う、複合現実シナリオの例証を描写する。
図２は、ウェアラブルシステムの実施例を図式的に図示する。
図３は、ウェアラブルシステムの例示的コンポーネントを図式的に図示する。
図４は、画像情報をユーザに出力するためのウェアラブルデバイスの導波管スタックの実施例を図式的に図示する。
図５は、眼の実施例を図式的に図示し、眼の眼姿勢を決定するための例示的座標系を図式的に図示する。
図６は、眼追跡システムを含む、ウェアラブルシステムの概略図である。
図７Ａは、眼追跡システムを含み得る、ウェアラブルシステムのブロック図である。
図７Ｂは、ウェアラブルシステム内のレンダリングコントローラのブロック図である。
図７Ｃは、頭部搭載型ディスプレイシステム内の位置合わせオブザーバのブロック図である。
図８Ａは、眼の角膜球面を示す、眼の概略図である。
図８Ｂは、眼追跡カメラによって検出される、例示的角膜閃光を図示する。
図８Ｃ−８Ｅは、ウェアラブルシステム内の眼追跡モジュールを用いてユーザの角膜中心を位置特定する、例示的段階を図示する。 図８Ｃ−８Ｅは、ウェアラブルシステム内の眼追跡モジュールを用いてユーザの角膜中心を位置特定する、例示的段階を図示する。 図８Ｃ−８Ｅは、ウェアラブルシステム内の眼追跡モジュールを用いてユーザの角膜中心を位置特定する、例示的段階を図示する。
図９Ａ−９Ｃは、眼追跡画像の座標系の例示的正規化を図示する。 図９Ａ−９Ｃは、眼追跡画像の座標系の例示的正規化を図示する。 図９Ａ−９Ｃは、眼追跡画像の座標系の例示的正規化を図示する。
図９Ｄ−９Ｇは、ウェアラブルシステム内の眼追跡モジュールを用いてユーザの瞳孔中心を位置特定する、例示的段階を図示する。 図９Ｄ−９Ｇは、ウェアラブルシステム内の眼追跡モジュールを用いてユーザの瞳孔中心を位置特定する、例示的段階を図示する。 図９Ｄ−９Ｇは、ウェアラブルシステム内の眼追跡モジュールを用いてユーザの瞳孔中心を位置特定する、例示的段階を図示する。 図９Ｄ−９Ｇは、ウェアラブルシステム内の眼追跡モジュールを用いてユーザの瞳孔中心を位置特定する、例示的段階を図示する。
図１０は、眼の光学軸および視軸ならびに眼の回転中心を含む、眼の実施例を図示する。
図１１は、コンテンツをレンダリングする際、眼追跡を使用して、ウェアラブルデバイス内の位置合わせに関するフィードバックを提供するための方法の実施例のプロセスフロー図である。
図１２Ａおよび１２Ｂは、ユーザの眼に対するディスプレイ要素の公称位置を図示し、相互に対するディスプレイ要素およびユーザの眼の位置を説明するための座標系を図示する。 図１２Ａおよび１２Ｂは、ユーザの眼に対するディスプレイ要素の公称位置を図示し、相互に対するディスプレイ要素およびユーザの眼の位置を説明するための座標系を図示する。
図１３は、頭部搭載型ディスプレイシステムのユーザに、頭部搭載型ディスプレイシステムをユーザの頭部上で水平にするステップの一部として提供され得る、例示的ディスプレイ画面を図示する。
図１４は、ユーザが頭部搭載型ディスプレイシステムをその頭部上で水平にした後、図１３の頭部搭載型ディスプレイシステムのユーザに提供され得る、例示的ディスプレイ画面を図示する。
図１５は、ディスプレイシステムの左眼ディスプレイと右眼ディスプレイとの間の垂直整合を調節するステップの一部として頭部搭載型ディスプレイシステムのユーザに提供され得る、例示的ディスプレイ画面を図示する。
図１６は、ディスプレイシステムの左ディスプレイと右ディスプレイとの間の垂直整合を調節するステップの一部として図１５のユーザに提供され得る、左眼、右眼、および融合された画像の実施例を図示する。
図１７は、種々の入力デバイスを含む、ユーザの手およびコントローラの斜視図である。
図１８は、頭部搭載型ディスプレイシステムをユーザの頭部上に水平にし、ディスプレイシステムの左および右ディスプレイの垂直整合を調節する実施形態を例証する、フロー図である。
図面全体を通して、参照番号は、参照される要素間の対応を示すために再使用され得る。図面は、本明細書に説明される例示的実施形態を図示するために提供され、本開示の範囲を限定することを意図するものではない。
ディスプレイシステムは、オブジェクトがユーザの周囲環境内に位置するように現れるように仮想オブジェクトを表示し得る、頭部搭載型ディスプレイ（ＨＭＤ）を含んでもよい。いくつかの実施形態では、仮想オブジェクトは、ユーザによって３次元（３Ｄ）であるように知覚され得る。
ＨＭＤは、２つ以上の明確に異なるディスプレイもしくは単一の連続的ディスプレイを含んでもよい。いずれの場合も、異なる画像が、左および右ユーザの眼に出力され得る。本明細書で使用されるように、左眼および右眼ディスプレイまたは視認者の右および左眼と関連付けられるディスプレイの言及は、異なる画像を視認者の左および右眼に出力するように構成される、ディスプレイデバイスを示すと理解され得る。したがって、左眼および右眼ディスプレイは、物理的に分離される、ディスプレイ、または異なる画像を各眼に出力するように構成される、単一ディスプレイを示し得る。いくつかの実施形態では、異なる画像は、同一オブジェクトまたは場面の若干異なるビューを提示する、立体視画像であってもよく、異なるビューは、ヒト視覚系によってともに融合され、これは、深度の知覚を作成することができる。
いくつかの状況では、左および右ディスプレイは、相互およびユーザの眼に対して適切に垂直に整合されない場合がある。種々の要因が、相互およびユーザの眼に対して左および右眼ディスプレイの位置を決定するように組み合わせられ得る。例えば、ＨＭＤは、経時的に変形または偏曲され、左眼ディスプレイと右眼ディスプレイの垂直不整合につながり得る。ＨＭＤは、熱循環、物理的衝撃（例えば、落下されることに起因して）、手荒な取扱からの弾性または非弾性屈曲、材料の劣化等を含む、多数の要因の結果として、変形または偏曲され得る。ある場合には、左または右眼ディスプレイのうちの一方は、左または右眼ディスプレイの他方に対して回転および／または垂直に平行移動され得る。
そのような垂直不整合は、ユーザ体験を劣化させ、可能性として、ユーザ不快感を生じさせ得る。理論によって限定されるわけではないが、ヒト視覚系は、対応する左および右眼立体視画像を形成するために、垂直に不整合された光を受光することに順応せず、一方の眼に向かって伝搬する光は、他方の眼に向かって伝搬する光から垂直にオフセットされ、対応する立体視画像を形成し得ることが考えられる。各眼に向かって伝搬する光は、それらの眼に特有の立体視画像を形成し得ることを理解されたい。実施例として、１つのディスプレイからの光が、水平に指向され、片眼に到達し、別のディスプレイからの光が、下向きに指向され、他方の眼に到達する場合、これらのディスプレイは、垂直に不整合されると見なされ得る。左眼と右眼との間の比較的にわずかな垂直不整合でさえ、有害な眼精疲労および頭痛等の不快感を生じさせ得ることが考えられる。
垂直不整合に起因して視認者不快感を低減させるために、左眼ディスプレイと右眼ディスプレイとの間の垂直整合における差異が、低減され得る。例えば、左眼ディスプレイおよび右眼ディスプレイは、それらのディスプレイを物理的に移動させることによって垂直に整合され得る。ある場合には、ディスプレイのそのような物理的移動は、実践的ではない、または望ましくない。有利なこととして、いくつかの実施形態では、左眼ディスプレイと右眼ディスプレイとの間の垂直整合は、事実上、ディスプレイに、画像コンテンツをディスプレイの一方または両方上で垂直に上または下に偏移させることによって達成される。いくつかの実施形態では、画像偏移は、左眼および右眼ディスプレイが、その対応する左および右眼と類似垂直関係を有することを可能にし得る。
本明細書に説明される種々のシステムおよび技法は、少なくとも部分的に、視認者が画像コンテンツを快適に視認することを可能にし得る、左眼および右眼ディスプレイの適切な垂直整合に関連する問題を解決することを対象とする。いくつかの実施形態では、頭部搭載型ディスプレイシステムは、ユーザの眼の位置を決定するように構成されてもよい（例えば、眼追跡システムであり得る、内向きに面した結像システム等のコンポーネントを使用して）。眼の位置を決定するステップは、眼の個別の回転中心ならびにユーザの眼球間軸の位置および／または配向（例えば、ユーザの左眼の回転中心とユーザの右眼の回転中心との間の軸等のユーザの左眼と右眼の対応する部分間に延在する軸）等の眼と関連付けられる代表的点の位置を決定するステップを含んでもよい。ディスプレイシステムは、次いで、ＨＭＤがユーザの眼に対して水平である（例えば、ユーザの眼球間軸と水平である）かどうかを決定してもよい。水平にした後、ディスプレイシステムは、ユーザの左眼に、左眼整合マーカを、ユーザの右眼に、右眼整合マーカを提示してもよい。好ましくは、整合マーカは、ヒト視覚系によって融合されず、左眼ディスプレイと右眼ディスプレイとの間の垂直不整合において明白となる、水平コンポーネントを含む。ディスプレイシステムは、次いで、左眼ディスプレイと右眼ディスプレイとの間の垂直整合差を識別および／または調節する、フィードバックをユーザから求めてもよい（例えば、ユーザに、左眼および右眼整合マーカを整合させるように求めることによって）。そのようなフィードバックを使用して、ディスプレイシステムは、ユーザによって識別される任意の垂直整合差を補償することによって、システムを通して表示されるコンテンツを調節し、したがって、ＨＭＤを視認するときのユーザの快適性を改良し得る。
いくつかの実施形態では、ディスプレイシステムは、画像情報をユーザに出力するためのスタック内に形成される複数の導波管を含む。整合プロセスは、本明細書に議論されるように、導波管毎に行われてもよい。例えば、異なる導波管は、異なる深度平面に対応する、異なる原色および／または異なる量の波面発散を出力するように構成されてもよく、整合は、各原色（対応する原色導波管毎に）および／または各深度平面（対応する波面発散量を伴う導波管毎に）を用いて実施されてもよい。
ここで、図面を参照するが、同様の参照番号は、全体を通して同様の部分を指す。別様に示されない限り、図面は、概略であって、必ずしも、正確な縮尺で描かれていない。
（ウェアラブルシステムの３Ｄディスプレイの実施例）
ウェアラブルシステム（本明細書では、頭部搭載型ディスプレイシステムまたは拡張現実（ＡＲ）システムとも称される）は、２Ｄまたは３Ｄ仮想画像をユーザに提示するために構成されてもよい。画像は、組み合わせまたは同等物における、静止画像、ビデオのフレーム、またはビデオであってもよい。ウェアラブルシステムの少なくとも一部は、ユーザ相互作用のために、単独で、または組み合わせて、ＶＲ、ＡＲ、またはＭＲ環境を提示し得る、ウェアラブルデバイス上に実装されてもよい。ウェアラブルデバイスは、ＡＲデバイス（ＡＲＤ）と同義的に使用されることができる。さらに、本開示の目的のために、用語「ＡＲ」は、用語「ＭＲ」と同義的に使用される。
図１は、人物によって視認される、ある仮想現実オブジェクトおよびある物理的オブジェクトを伴う、複合現実シナリオの例証を描写する。図１では、ＭＲ場面１００が、描写され、ＭＲ技術のユーザには、人々、木々、背景における建物、およびコンクリートプラットフォーム１２０を特徴とする、実世界公園状設定１１０が見える。これらのアイテムに加え、ＭＲ技術のユーザはまた、実世界プラットフォーム１２０上に立っているロボット像１３０と、マルハナバチの擬人化のように見える、飛んでいる漫画のようなアバタキャラクタ１４０とが「見える」と知覚するが、これらの要素は、実世界には存在しない。
３Ｄディスプレイが、真の深度感覚、より具体的には、表面深度のシミュレートされた感覚を生成するために、ディスプレイの視野内の点毎に、その仮想深度に対応する遠近調節応答を生成することが望ましくあり得る。ディスプレイ点に対する遠近調節応答が、収束および立体視の両眼深度キューによって決定されるようなその点の仮想深度に対応しない場合、ヒトの眼は、遠近調節衝突を体験し、不安定な結像、有害な眼精疲労、頭痛、および遠近調節情報の不在下では、表面深度のほぼ完全な欠如をもたらし得る。
ＶＲ、ＡＲ、およびＭＲ体験は、複数の深度平面に対応する画像が視認者に提供されるディスプレイを有する、ディスプレイシステムによって提供されてもよい。画像は、深度平面毎に異なってもよく（例えば、場面またはオブジェクトの若干異なる提示を提供する）、視認者の眼によって別個に集束され、それによって、異なる深度平面上に位置する場面に関する異なる画像特徴に合焦させるために要求される眼の遠近調節に基づいて、または合焦からずれている異なる深度平面上の異なる画像特徴を観察することに基づいて、ユーザに深度キューを提供することに役立ち得る。本明細書のいずれかに議論されるように、そのような深度キューは、信用できる深度の知覚を提供する。
図２は、ウェアラブルシステム２００の実施例を図示し、これは、ＡＲ／ＶＲ／ＭＲ場面を提供するように構成されてもよい。ウェアラブルシステム２００はまた、ＡＲシステム２００と称され得る。ウェアラブルシステム２００は、ディスプレイ２２０と、ディスプレイ２２０の機能をサポートするための種々の機械的ならびに電子的モジュールおよびシステムとを含む。ディスプレイ２２０は、ユーザ、装着者、または視認者２１０によって装着可能である、フレーム２３０に結合されてもよい。ディスプレイ２２０は、ユーザ２１０の眼の正面に位置付けられてもよい。ディスプレイ２２０は、ＡＲ／ＶＲ／ＭＲコンテンツをユーザに提示してもよい。ディスプレイ２２０は、ユーザ２１０の頭部上に装着される得るため、頭部搭載型ディスプレイ（ＨＭＤ）とも称され得、ディスプレイ２２０を備える、ウェアラブルシステム２００は、頭部搭載型ディスプレイシステムとも称され得る。
いくつかの実施形態では、スピーカ２４０が、フレーム２３０に結合され、ユーザの外耳道に隣接して位置付けられる（いくつかの実施形態では、示されない別のスピーカが、ユーザの他方の外耳道に隣接して位置付けられ、ステレオ／成形可能音響制御を提供する）。ディスプレイ２２０は、環境からオーディオストリームを検出し、周囲音を捕捉するために、オーディオセンサ（例えば、マイクロホン）２３２を含んでもよい。いくつかの実施形態では、示されない１つ以上の他のオーディオセンサが、ステレオ音受信を提供するために位置付けられる。ステレオ音受信は、音源の場所を決定するために使用されてもよい。ウェアラブルシステム２００は、音声または発話認識をオーディオストリームに実施してもよい。
ウェアラブルシステム２００は、ユーザの周囲の環境内の世界を観察する、外向きに面した結像システム４６４（図４に示される）を含んでもよい。ウェアラブルシステム２００はまた、ユーザの眼移動を追跡し得る、内向きに面した結像システム４６２（図４に示される）を含んでもよい。内向きに面した結像システムは、一方の眼の移動または両方の眼の移動のいずれかを追跡することができる。内向きに面した結像システム４６２は、フレーム２３０に取り付けられてもよく、内向きに面した結像システムによって入手された画像情報を処理し、例えば、ユーザ２１０の眼の瞳孔直径または配向、眼の移動、もしくは眼姿勢を決定し得る、処理モジュール２６０または２７０と電気通信してもよい。内向きに面した結像システム４６２は、１つ以上のカメラを含んでもよい。例えば、少なくとも１つのカメラは、各眼を結像するために使用されてもよい。カメラによって入手された画像は、眼毎に、別個に、瞳孔サイズまたは眼姿勢を決定し、それによって、各眼への画像情報の提示がその眼に対して動的に調整されることを可能にするために使用されてもよい。
実施例として、ウェアラブルシステム２００は、外向きに面した結像システム４６４または内向きに面した結像システム４６２を使用して、ユーザの姿勢の画像を入手してもよい。画像は、静止画像、ビデオのフレーム、またはビデオであってもよい。
ディスプレイ２２０は、有線導線または無線接続等によって、フレーム２３０に固定して取り付けられる、ユーザによって装着されるヘルメットもしくは帽子に固定して取り付けられる、ヘッドホンに内蔵される、または別様にユーザ２１０に除去可能に取り付けられる（例えば、リュック式構成において、ベルト結合式構成において）等、種々の構成において搭載され得る、ローカルデータ処理モジュール２６０に動作可能に結合されてもよい（２５０）。
ローカル処理およびデータモジュール２６０は、ハードウェアプロセッサならびに不揮発性メモリ（例えば、フラッシュメモリ）等のデジタルメモリを備えてもよく、その両方とも、データの処理、キャッシュ、および記憶を補助するために利用され得る。データは、（ａ）画像捕捉デバイス（例えば、内向きに面した結像システムおよび／または外向きに面した結像システム内のカメラ）、オーディオセンサ（例えば、マイクロホン）、慣性測定ユニット（ＩＭＵ）、加速度計、コンパス、全地球測位システム（ＧＰＳ）ユニット、無線デバイス、もしくはジャイロスコープ等の（例えば、フレーム２３０に動作可能に結合される、または別様にユーザ２１０に取り付けられ得る）センサから捕捉されるデータ、または、（ｂ）場合によっては処理もしくは読出後にディスプレイ２２０への通過のために、遠隔処理モジュール２７０もしくは遠隔データリポジトリ２８０を使用して入手もしくは処理されるデータを含んでもよい。ローカル処理およびデータモジュール２６０は、これらの遠隔モジュールがローカル処理およびデータモジュール２６０へのリソースとして利用可能であるように、有線または無線通信リンク等を介して、通信リンク２６２または２６４を遠隔処理モジュール２７０または遠隔データリポジトリ２８０に動作可能に結合されてもよい。加えて、遠隔処理モジュール２８０および遠隔データリポジトリ２８０は、相互に動作可能に結合されてもよい。
いくつかの実施形態では、遠隔処理モジュール２７０は、データまたは画像情報を分析および処理するように構成される、１つもしくはそれを上回るプロセッサを備えてもよい。いくつかの実施形態では、遠隔データリポジトリ２８０は、デジタルデータ記憶設備を備え得、これは、インターネットまたは「クラウド」リソース構成における他のネットワーキング構成を通して利用可能であってもよい。いくつかの実施形態では、全てのデータが、記憶され、全ての算出が、ローカル処理およびデータモジュールにおいて実施され、遠隔モジュールからの完全に自律的な使用を可能にする。
（ウェアラブルシステムの例示的コンポーネント）
図３は、ウェアラブルシステムの例示的コンポーネントを図式的に図示する。図３は、ウェアラブルシステム２００を示し、これは、ディスプレイ２２０と、フレーム２３０とを含むことができる。引き伸ばし図２０２は、ウェアラブルシステム２００の種々のコンポーネントを図式的に図示する。ある実装では、図３に図示されるコンポーネントのうちの１つ以上のものは、ディスプレイ２２０の一部であってもよい。種々のコンポーネントは、単独で、または組み合わせて、ウェアラブルシステム２００のユーザまたはユーザの環境と関連付けられた種々のデータ（例えば、聴覚的または視覚的データ等）を収集してもよい。他の実施形態は、ウェアラブルシステムが使用される用途に応じて、付加的またはより少ないコンポーネントを有してもよいことを理解されたい。なお、図３は、種々のコンポーネントのうちのいくつかと、ウェアラブルシステムを通して収集、分析、および記憶され得る、データのタイプの基本概念とを提供する。
図３は、例示的ウェアラブルシステム２００を示し、これは、ディスプレイ２２０を含んでもよい。ディスプレイ２２０は、ユーザの頭部、またはフレーム２３０に対応する、筐体もしくはフレーム２３０に搭載され得る、ディスプレイレンズ２２６を備えてもよい。ディスプレイレンズ２２６は、筐体２３０によって、ユーザの眼３０２、３０４の正面に位置付けられる、１つ以上の透明ミラーを備えてもよく、投影された光３３８を眼３０２、３０４の中にバウンスさせ、ビーム成形を促進しながら、また、ローカル環境からの少なくとも一部の光の透過を可能にするように構成されてもよい。投影された光ビーム３３８の波面は、投影された光の所望の焦点距離と一致するように屈曲または集束されてもよい。図示されるように、２つの広視野マシンビジョンカメラ３１６（世界カメラとも称される）が、筐体２３０に結合され、ユーザの周囲の環境を結像してもよい。これらのカメラ３１６は、二重捕捉式可視光／非可視（例えば、赤外線）光カメラであってもよい。カメラ３１６は、図４に示される外向きに面した結像システム４６４の一部であってもよい。世界カメラ３１６によって入手された画像は、姿勢プロセッサ３３６によって処理されてもよい。例えば、姿勢プロセッサ３３６は、１つ以上のオブジェクト認識装置７０８（例えば、図７に示される）を実装し、ユーザまたはユーザの環境内の別の人物の姿勢を識別する、またはユーザの環境内の物理的オブジェクトを識別してもよい。
図３を継続して参照すると、光３３８を眼３０２、３０４の中に投影するように構成される、ディスプレイミラーおよび光学系を伴う、一対の走査式レーザ成形波面（例えば、深度のために）光プロジェクタモジュールが、示される。描写される図はまた、ユーザの眼３０２、３０４を追跡し、レンダリングおよびユーザ入力をサポート可能であるように構成される、赤外線光源３２６（発光ダイオード「ＬＥＤ」等）とペアリングされる、２つの小型赤外線カメラ３２４を示す。カメラ３２４は、図４に示される、内向きに面した結像システム４６２の一部であってもよい。ウェアラブルシステム２００はさらに、センサアセンブリ３３９を特徴とし得、これは、Ｘ、Ｙ、およびＺ軸加速度計能力ならびに磁気コンパスおよびＸ、Ｙ、およびＺ軸ジャイロスコープ能力を備え、好ましくは、２００Ｈｚ等の比較的に高周波数でデータを提供し得る。センサアセンブリ３３９は、図２Ａを参照して説明される、ＩＭＵの一部であってもよい。描写されるシステム２００はまた、ＡＳＩＣ（特定用途向け集積回路）、ＦＰＧＡ（フィールドプログラマブルゲートアレイ）、またはＡＲＭプロセッサ（高度縮小命令セット機械）等の頭部姿勢プロセッサ３３６を備えてもよく、これは、リアルタイムまたは近リアルタイムユーザ頭部姿勢を捕捉デバイス３１６から出力された広視野画像情報から計算するように構成されてもよい。頭部姿勢プロセッサ３３６は、ハードウェアプロセッサであってもよく、図２Ａに示されるローカル処理およびデータモジュール２６０の一部として実装されてもよい。
ウェアラブルシステムはまた、１つ以上の深度センサ２３４を含んでもよい。深度センサ２３４は、環境内のオブジェクトとウェアラブルデバイスとの間の距離を測定するように構成されてもよい。深度センサ２３４は、レーザスキャナ（例えば、ＬＩＤＡＲ）、超音波深度センサ、または深度感知カメラを含んでもよい。カメラ３１６が深度感知能力を有する、ある実施形態では、カメラ３１６はまた、深度センサ２３４と見なされ得る。
また、示されるのは、デジタルまたはアナログ処理を実行し、姿勢をセンサアセンブリ３３９からのジャイロスコープ、コンパス、または加速度計データから導出するように構成される、プロセッサ３３２である。プロセッサ３３２は、図２に示される、ローカル処理およびデータモジュール２６０の一部であってもよい。ウェアラブルシステム２００はまた、図３に示されるように、例えば、ＧＰＳ３３７（全地球測位システム）等の測位システムを含み、姿勢および測位分析を補助してもよい。加えて、ＧＰＳはさらに、ユーザの環境についての遠隔ベース（例えば、クラウドベース）の情報を提供してもよい。本情報は、ユーザの環境内のオブジェクトまたは情報を認識するために使用されてもよい。
ウェアラブルシステムは、ＧＰＳ３３７および遠隔コンピューティングシステム（例えば、遠隔処理モジュール２７０、別のユーザのＡＲＤ等）によって入手されたデータを組み合わせてもよく、これは、ユーザの環境についてのより多くの情報を提供してもよい。一実施例として、ウェアラブルシステムは、ＧＰＳデータに基づいて、ユーザの場所を決定し、ユーザの場所と関連付けられた仮想オブジェクトを含む、世界マップを読み出してもよい（例えば、遠隔処理モジュール２７０と通信することによって）。別の実施例として、ウェアラブルシステム２００は、世界カメラ３１６（図４に示される外向きに面した結像システム４６４の一部であってもよい）を使用して、環境を監視してもよい。世界カメラ３１６によって入手された画像に基づいて、ウェアラブルシステム２００は、環境内のオブジェクトを検出してもよい（例えば、図７に示される１つ以上のオブジェクト認識装置７０８を使用することによって）。ウェアラブルシステムはさらに、ＧＰＳ３３７によって入手されたデータを使用して、キャラクタを解釈してもよい。
ウェアラブルシステム２００はまた、レンダリングエンジン３３４を備えてもよく、これは、世界のユーザのビューのために、ユーザにローカルなレンダリング情報を提供し、スキャナの動作およびユーザの眼の中への結像を促進するように構成されてもよい。レンダリングエンジン３３４は、ハードウェアプロセッサ（例えば、中央処理ユニットまたはグラフィック処理ユニット等）によって実装されてもよい。いくつかの実施形態では、レンダリングエンジンは、ローカル処理およびデータモジュール２６０の一部である。レンダリングエンジン３３４は、ウェアラブルシステム２００の他のコンポーネントに通信可能に結合されてもよい（例えば、有線または無線リンクを介して）。例えば、レンダリングエンジン３３４は、通信リンク２７４を介して、眼カメラ３２４に結合され、通信リンク２７２を介して、投影サブシステム３１８（網膜走査ディスプレイに類似する様式において、走査レーザ配列を介して、光をユーザの眼３０２、３０４の中に投影してもよい）に結合されてもよい。レンダリングエンジン３３４はまた、それぞれ、リンク２７６および２９４を介して、例えば、センサ姿勢プロセッサ３３２および画像姿勢プロセッサ３３６等の他の処理ユニットと通信してもよい。
カメラ３２４（例えば、小型赤外線カメラ）は、眼姿勢を追跡し、レンダリングおよびユーザ入力をサポートするために利用されてもよい。いくつかの例示的眼姿勢は、ユーザが見ている場所または合焦させている深度（眼の輻輳・開散運動(vergence)を用いて推定されてもよい）を含んでもよい。ＧＰＳ３３７、ジャイロスコープ、コンパス、および加速度計３３９は、大まかなまたは高速姿勢推定を提供するために利用されてもよい。カメラ３１６のうちの１つ以上のものは、画像および姿勢を入手してもよく、これは、関連付けられたクラウドコンピューティングリソースからのデータと併せて、ローカル環境をマッピングし、ユーザビューを他者と共有するために利用されてもよい。
図３に描写される例示的コンポーネントは、例証目的のためだけのものである。複数のセンサおよび他の機能モジュールが、例証および説明の容易性のために、ともに示される。いくつかの実施形態は、これらのセンサまたはモジュールの１つのみまたはサブセットを含んでもよい。さらに、これらのコンポーネントの場所は、図３に描写される位置に限定されない。いくつかのコンポーネントは、ベルト搭載型コンポーネント、ハンドヘルドコンポーネント、またはヘルメットコンポーネント等、他のコンポーネント内に搭載または格納されてもよい。一実施例として、画像姿勢プロセッサ３３６、センサ姿勢プロセッサ３３２、およびレンダリングエンジン３３４は、ベルトパック内に位置付けられ、超広帯域、Ｗｉ−Ｆｉ、Ｂｌｕｅｔｏｏｔｈ（登録商標）等の無線通信を介して、または有線通信を介して、ウェアラブルシステムの他のコンポーネントと通信するように構成されてもよい。描写される筐体２３０は、好ましくは、ユーザによって頭部搭載可能かつ装着可能である。しかしながら、ウェアラブルシステム２００のいくつかのコンポーネントは、ユーザの身体の他の部分に装着されてもよい。例えば、スピーカ２４０が、ユーザの耳の中に挿入され、音をユーザに提供してもよい。
ユーザの眼３０２、３０４の中への光３３８の投影に関して、いくつかの実施形態では、カメラ３２４は、一般に、眼の焦点の位置または「焦点深度」と一致する、ユーザの眼の中心が幾何学的に輻輳される場所を測定するために利用されてもよい。眼が輻輳する全ての点の３次元表面は、「単視軌跡」と称され得る。焦点距離は、有限数の深度をとり得る、または無限に変動し得る。輻輳・開散運動距離から投影された光は、対象の眼３０２、３０４に集束されるように現れる一方、輻輳・開散運動距離の正面または背後の光は、ぼかされる。本開示のウェアラブルシステムおよび他のディスプレイシステムの実施例はまた、米国特許公開第２０１６／０２７０６５６号（参照することによってその全体として本明細書に組み込まれる）に説明される。
ヒト視覚系は、複雑であって、深度の現実的知覚を提供することは、困難である。オブジェクトの視認者は、輻輳・開散運動移動と遠近調節の組み合わせに起因して、オブジェクトを３次元として知覚し得る。相互に対する２つの眼の輻輳・開散運動移動（例えば、瞳孔が、相互に向かって、またはそこから離れるように移動し、眼の視点を収束させ、オブジェクトを固視するような瞳孔の回転）は、眼の水晶体の合焦（または「遠近調節」）と緊密に関連付けられる。通常条件下、焦点を１つのオブジェクトから異なる距離における別のオブジェクトに変化させるための眼のレンズの焦点の変化または眼の遠近調節は、「遠近調節−輻輳・開散運動反射」として知られる関係下、輻輳・開散運動の整合変化を自動的に同一距離に生じさせるであろう。同様に、輻輳・開散運動の変化は、通常条件下、遠近調節の整合変化を誘起するであろう。遠近調節と輻輳・開散運動との間のより良好な整合を提供するディスプレイシステムは、３次元画像のより現実的かつ快適なシミュレーションを形成し得る。
さらに、約０．７ミリメートル未満のビーム直径を伴う、空間的にコヒーレントな光は、眼が合焦している場所にかかわらず、ヒトの眼によって正しく解決され得る。したがって、適切な焦点深度の錯覚を作成するために、眼の輻輳・開散運動が、カメラ３２４を用いて追跡されてもよく、レンダリングエンジン３３４および投影サブシステム３１８は、単視軌跡上またはそれに近接する全てのオブジェクトを合焦させてレンダリングし、全ての他のオブジェクトを可変程度に焦点をずらしてレンダリングするために利用されてもよい（例えば、意図的に作成されたぼけを使用して）。好ましくは、システム２２０は、ユーザに、約６０フレーム／秒以上のフレームレートでレンダリングする。上記に説明されるように、好ましくは、カメラ３２４は、眼追跡のために利用されてもよく、ソフトウェアは、輻輳・開散運動幾何学形状だけではなく、また、ユーザ入力としての役割を果たすための焦点場所キューも取り上げるように構成されてもよい。好ましくは、そのようなディスプレイシステムは、昼間または夜間の使用のために好適な明度およびコントラストを用いて構成される。
いくつかの実施形態では、ディスプレイシステムは、好ましくは、視覚的オブジェクト整合のために約２０ミリ秒未満の待ち時間、約０．１度未満の角度整合、および約１弧分の分解能を有し、これは、理論によって限定されるわけではないが、ヒトの眼のほぼ限界であると考えられる。ディスプレイシステム２２０は、位置特定システムと統合されてもよく、これは、ＧＰＳ要素、光学追跡、コンパス、加速度計、または他のデータソースを伴い、位置および姿勢決定を補助し得る。位置特定情報は、関連世界のユーザのビュー内における正確なレンダリングを促進するために利用されてもよい（例えば、そのような情報は、眼鏡が実世界に対する場所を把握することを促進するであろう）。
いくつかの実施形態では、ウェアラブルシステム２００は、ユーザの眼の遠近調節に基づいて、１つ以上の仮想画像を表示するように構成される。ユーザに画像が投影されている場所に合焦させるように強制する、従来の３Ｄディスプレイアプローチと異なり、いくつかの実施形態では、ウェアラブルシステムは、投影された仮想コンテンツの焦点を自動的に変動させ、ユーザに提示される１つ以上の画像のより快適な視認を可能にするように構成される。例えば、ユーザの眼が、１ｍの現在の焦点を有する場合、画像は、ユーザの焦点と一致するように投影されてもよい。ユーザが、焦点を３ｍに偏移させる場合、画像は、新しい焦点と一致するように投影される。したがって、ユーザに所定の焦点を強制するのではなく、いくつかの実施形態のウェアラブルシステム２００は、ユーザの眼がより自然な様式において機能することを可能にする。
そのようなウェアラブルシステム２００は、仮想現実デバイスに対して典型的に観察される、眼精疲労、頭痛、および他の生理学的症状の発生率を排除または低減させ得る。これを達成するために、ウェアラブルシステム２００の種々の実施形態は、１つ以上の可変焦点要素（ＶＦＥ）を通して、仮想画像を可変焦点距離に投影するように構成される。１つ以上の実施形態では、３Ｄ知覚は、画像をユーザから固定された焦点面に投影する、多平面焦点システムを通して達成されてもよい。他の実施形態は、可変平面焦点を採用し、焦点面は、ユーザの焦点の現在の状態と一致するように、ｚ−方向に往復して移動される。
多平面焦点システムおよび可変平面焦点システムの両方において、ウェアラブルシステム２００は、眼追跡を採用し、ユーザの眼の輻輳・開散運動を決定し、ユーザの現在の焦点を決定し、仮想画像を決定された焦点に投影してもよい。他の実施形態では、ウェアラブルシステム２００は、ファイバスキャナまたは他の光生成源を通して、網膜を横断して、可変焦点の光ビームをラスタパターンで可変に投影する、光変調器を備える。したがって、画像を可変焦点距離に投影するウェアラブルシステム２００のディスプレイの能力は、ユーザがオブジェクトを３Ｄにおいて視認するための遠近調節を容易にするだけではなく、また、米国特許公開第２０１６／０２７０６５６号（参照することによってその全体として本明細書に組み込まれる）にさらに説明されるように、ユーザの眼球異常を補償するために使用されてもよい。いくつかの他の実施形態では、空間光変調器は、種々の光学コンポーネントを通して、画像をユーザに投影してもよい。例えば、以下にさらに説明されるように、空間光変調器は、画像を１つ以上の導波管上に投影してもよく、これは、次いで、画像をユーザに伝送する。
（導波管スタックアセンブリ）
図４は、画像情報をユーザに出力するための導波管スタックの実施例を図示する。ウェアラブルシステム４００は、複数の導波管４３２ｂ、４３４ｂ、４３６ｂ、４３８ｂ、４４００ｂを使用して、３次元知覚を眼／脳に提供するために利用され得る、導波管のスタックまたはスタックされた導波管アセンブリ４８０を含む。いくつかの実施形態では、ウェアラブルシステム４００は、図２のウェアラブルシステム２００に対応してもよく、図４Ａは、そのウェアラブルシステム２００のいくつかの部分をより詳細に概略的に示す。例えば、いくつかの実施形態では、導波管アセンブリ４８０は、図２のディスプレイ２２０の中に統合されてもよい。
図４を継続して参照すると、導波管アセンブリ４８０はまた、複数の特徴４５８、４５６、４５４、４５２を導波管間に含んでもよい。いくつかの実施形態では、特徴４５８、４５６、４５４、４５２は、レンズであってもよい。他の実施形態では、特徴４５８、４５６、４５４、４５２は、レンズではなくてもよい。むしろ、それらは、単に、スペーサであってもよい（例えば、空気間隙を形成するためのクラッディング層または構造）。
導波管４３２ｂ、４３４ｂ、４３６ｂ、４３８ｂ、４４０ｂまたは複数のレンズ４５８、４５６、４５４、４５２は、種々のレベルの波面曲率または光線発散を用いて、画像情報を眼に送信するように構成されてもよい。各導波管レベルは、特定の深度平面と関連付けられてもよく、その深度平面に対応する画像情報を出力するように構成されてもよい。画像投入デバイス４２０、４２２、４２４、４２６、４２８は、それぞれ、眼４１０に向かって出力するために、各個別の導波管を横断して入射光を分散させるように構成され得る、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂの中に画像情報を投入するために利用されてもよい。光は、画像投入デバイス４２０、４２２、４２４、４２６、４２８の出力表面から出射し、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂの対応する入力縁の中に投入される。いくつかの実施形態では、光の単一ビーム（例えば、コリメートされたビーム）が、各導波管の中に投入され、特定の導波管と関連付けられた深度平面に対応する特定の角度（および発散量）において眼４１０に向かって指向される、クローン化されたコリメートビームの場全体を出力してもよい。
いくつかの実施形態では、画像投入デバイス４２０、４２２、４２４、４２６、４２８は、それぞれ、それぞれの対応する導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂの中への投入のための画像情報を生成する、離散ディスプレイである。いくつかの他の実施形態では、画像投入デバイス４２０、４２２、４２４、４２６、４２８は、例えば、画像情報を１つ以上の光学導管（光ファイバケーブル等）を介して、画像投入デバイス４２０、４２２、４２４、４２６、４２８のそれぞれに送り得る、単一の多重化されたディスプレイの出力端である。
コントローラ４６０が、スタックされた導波管アセンブリ４８０および画像投入デバイス４２０、４２２、４２４、４２６、４２８の動作を制御する。コントローラ４６０は、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂへの画像情報のタイミングおよび提供を調整する、プログラミング（例えば、非一過性コンピュータ可読媒体内の命令）を含む。いくつかの実施形態では、コントローラ４６０は、単一一体型デバイスまたは有線もしくは無線通信チャネルによって接続される分散型システムであってもよい。コントローラ４６０は、いくつかの実施形態では、処理モジュール２６０または２７０（図２に図示される）の一部であってもよい。
導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂは、全内部反射（ＴＩＲ）によって各個別の導波管内で光を伝搬するように構成されてもよい。導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂはそれぞれ、主要上部表面および主要底部表面ならびにそれらの主要上部表面と主要底部表面との間に延在する縁を伴う、平面である、または別の形状（例えば、湾曲）を有してもよい。図示される構成では、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂはそれぞれ、光を再指向させ、各個別の導波管内で伝搬させ、導波管から画像情報を眼４１０に出力することによって、光を導波管から抽出するように構成される、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａを含んでもよい。抽出された光はまた、外部結合光と称され得、光抽出光学要素はまた、外部結合光学要素と称され得る。抽出された光のビームは、導波管によって、導波管内で伝搬する光が光再指向要素に衝打する場所において出力される。光抽出光学要素（４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａ）は、例えば、反射または回折光学特徴であってもよい。説明を容易にし、図面を明確性にするために、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂの底部主要表面に配置されて図示されるが、いくつかの実施形態では、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、上部または底部主要表面に配置されてもよい、または導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂの容積内に直接配置されてもよい。いくつかの実施形態では、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、透明基板に取り付けられ、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂを形成する、材料の層内に形成されてもよい。いくつかの他の実施形態では、導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂは、モノリシック材料部品であってもよく、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、その材料部品の表面上および／または内部に形成されてもよい。
図４を継続して参照すると、本明細書に議論されるように、各導波管４４０ｂ、４３８ｂ、４３６ｂ、４３４ｂ、４３２ｂは、光を出力し、特定の深度平面に対応する画像を形成するように構成される。例えば、眼の最近傍の導波管４３２ｂは、そのような導波管４３２ｂの中に投入されるにつれて、コリメートされた光を眼４１０に送達するように構成されてもよい。コリメートされた光は、光学無限遠焦点面を表し得る。次の上方の導波管４３４ｂは、眼４１０に到達し得る前に、第１のレンズ４５２（例えば、負のレンズ）を通して通過する、コリメートされた光を送出するように構成されてもよい。第１のレンズ４５２は、眼／脳が、その次の上方の導波管４３４ｂから生じる光を光学無限遠から眼４１０に向かって内向きにより近い第１の焦点面から生じるように解釈するように、若干の凸面波面曲率を生成するように構成されてもよい。同様に、第３の上方の導波管４３６ｂは、眼４１０に到達する前に、その出力光を第１のレンズ４５２および第２のレンズ４５４の両方を通して通過させる。第１および第２のレンズ４５２ならびに４５４の組み合わせられた屈折力は、眼／脳が、第３の導波管４３６ｂから生じる光が次の上方の導波管４３４ｂからの光であったよりも光学無限遠から人物に向かって内向きにさらに近い第２の焦点面から生じるように解釈するように、別の漸増量の波面曲率を生成するように構成されてもよい。
他の導波管層（例えば、導波管４３８ｂ、４４０ｂ）およびレンズ（例えば、レンズ４５６、４５８）も同様に構成され、スタック内の最高導波管４４０ｂを用いて、人物に最も近い焦点面を表す集約焦点力のために、その出力をそれと眼との間のレンズの全てを通して送出する。スタックされた導波管アセンブリ４８０の他側の世界４７０から生じる光を視認／解釈するとき、レンズ４５８、４５６、４５４、４５２のスタックを補償するために、補償レンズ層４３０が、スタックの上部に配置され、下方のレンズスタック４５８、４５６、４５４、４５２の集約力を補償してもよい。（補償レンズ層４３０およびスタックされた導波管アセンブリ４８０は、全体として、世界４７０から生じる光が、最初にスタックされた導波管アセンブリ４８０によって受光されたときに光が有していたものと実質的に同一レベルの発散（またはコリメーション）で眼４１０に伝達されるように構成され得る。）そのような構成は、利用可能な導波管／レンズ対と同じ数の知覚される焦点面を提供する。導波管の光抽出光学要素およびレンズの集束側面は両方とも、静的であってもよい（例えば、動的または電気活性ではない）。いくつかの代替実施形態では、一方または両方とも、電気活性特徴を使用して動的であってもよい。
図４を継続して参照すると、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、導波管と関連付けられた特定の深度平面のために、光をその個別の導波管から再指向し、かつ本光を適切な量の発散またはコリメーションを伴って出力するように構成されてもよい。その結果、異なる関連付けられた深度平面を有する導波管は、関連付けられた深度平面に応じて、異なる量の発散を伴う光を出力する、異なる構成の光抽出光学要素を有してもよい。いくつかの実施形態では、本明細書に議論されるように、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、光を具体的角度で出力するように構成され得る、立体または表面特徴であってもよい。例えば、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、立体ホログラム、表面ホログラム、および／または回折格子であってもよい。回折格子等の光抽出光学要素は、２０１５年６月２５日に公開された米国特許公開第２０１５／０１７８９３９号（参照することによってその全体として本明細書に組み込まれる）に説明される。
いくつかの実施形態では、光抽出光学要素４４０ａ、４３８ａ、４３６ａ、４３４ａ、４３２ａは、回折パターンを形成する回折特徴または「回折光学要素」（本明細書では、「ＤＯＥ」とも称される）である。好ましくは、ＤＯＥは、ビームの光の一部のみがＤＯＥの各交差部で眼４１０に向かって偏向される一方、残りが、全内部反射を介して、導波管を通して移動し続けるように、比較的に低回折効率を有する。画像情報を搬送する光は、したがって、複数の場所において導波管から出射する、いくつかの関連出射ビームに分割され、その結果、導波管内でバウンスする本特定のコリメートされたビームに関して、眼３０４に向かって非常に均一なパターンの出射放出となり得る。
いくつかの実施形態では、１つ以上のＤＯＥは、能動的に回折する「オン」状態と有意に回折しない「オフ」状態との間で切替可能であってもよい。例えば、切替可能なＤＯＥは、ポリマー分散液晶の層を備えてもよく、その中で微小液滴は、ホスト媒体中に回折パターンを備え、微小液滴の屈折率は、ホスト材料の屈折率に実質的に整合するように切り替えられてもよい（その場合、パターンは、入射光を著しく回折させない）、または微小液滴は、ホスト媒体のものに整合しない屈折率に切り替えられてもよい（その場合、パターンは、入射光を能動的に回折させる）。
いくつかの実施形態では、深度平面または被写界深度の数および分布は、視認者の眼の瞳孔サイズまたは配向に基づいて、動的に変動されてもよい。被写界深度は、視認者の瞳孔サイズと反比例して変化してもよい。その結果、視認者の眼の瞳孔のサイズが減少するにつれて、被写界深度は、その平面の場所が眼の焦点深度を越えるため判別不能である１つの平面が、判別可能となり、瞳孔サイズの低減および被写界深度の相当する増加に伴って、より合焦して現れ得るように増加する。同様に、異なる画像を視認者に提示するために使用される、離間される深度平面の数は、減少された瞳孔サイズに伴って減少されてもよい。例えば、視認者は、一方の深度平面から他方の深度平面への眼の遠近調節を調節せずに、第１の深度平面および第２の深度平面の両方の詳細を１つの瞳孔サイズにおいて明確に知覚することが可能ではない場合がある。しかしながら、これらの２つの深度平面は、同時に、遠近調節を変化させずに、別の瞳孔サイズにおいてユーザに合焦するには十分であり得る。
いくつかの実施形態では、ディスプレイシステムは、瞳孔サイズまたは配向の決定に基づいて、もしくは特定の瞳孔サイズまたは配向を示す電気信号の受信に応じて、画像情報を受信する導波管の数を変動させてもよい。例えば、ユーザの眼が、２つの導波管と関連付けられた２つの深度平面間を区別不能である場合、コントローラ４６０（ローカル処理およびデータモジュール２６０の実施形態であり得る）は、これらの導波管のうちの１つへの画像情報の提供を停止するように構成またはプログラムされてもよい。有利なこととして、これは、システムへの処理負担を低減させ、それによって、システムの応答性を増加させ得る。導波管のためのＤＯＥがオンおよびオフ状態間で切替可能である実施形態では、ＤＯＥは、導波管が画像情報を受信するとき、オフ状態に切り替えられてもよい。
いくつかの実施形態では、出射ビームに視認者の眼の直径未満の直径を有するという条件を満たさせることが望ましくあり得る。しかしながら、本条件を満たすことは、視認者の瞳孔のサイズの変動性に照らして、困難であり得る。いくつかの実施形態では、本条件は、視認者の瞳孔のサイズの決定に応答して出射ビームのサイズを変動させることによって、広範囲の瞳孔サイズにわたって満たされる。例えば、瞳孔サイズが減少するにつれて、出射ビームのサイズもまた、減少し得る。いくつかの実施形態では、出射ビームサイズは、可変開口を使用して変動されてもよい。
ウェアラブルシステム４００は、世界４７０の一部を結像する、外向きに面した結像システム４６４（例えば、デジタルカメラ）を含んでもよい。世界４７０の本部分は、世界カメラの視野（ＦＯＶ）と称され得、結像システム４６４は、時として、ＦＯＶカメラとも称される。世界カメラのＦＯＶは、視認者２１０のＦＯＶと同一である場合とそうではない場合があり、これは、視認者２１０が所与の時間に知覚する、世界４７０の一部を包含する。例えば、いくつかの状況では、世界カメラのＦＯＶは、ウェアラブルシステム４００の視認者２１０の視野より大きくあり得る。視認者による視認または結像のために利用可能な領域全体は、動眼視野（ＦＯＲ）と称され得る。ＦＯＲは、装着者が、その身体、頭部、または眼を移動させ、空間内の実質的に任意の方向を知覚し得るため、ウェアラブルシステム４００を囲繞する４πステラジアンの立体角を含んでもよい。他のコンテキストでは、装着者の移動は、より抑制されてもよく、それに応じて、装着者のＦＯＲは、より小さい立体角に接し得る。外向きに面した結像システム４６４から得られた画像は、ユーザによって行われるジェスチャ（例えば、手または指のジェスチャ）を追跡し、ユーザの正面における世界４７０内のオブジェクトを検出する等のために、使用されてもよい。
ウェアラブルシステム４００は、オーディオセンサ２３２、例えば、マイクロホンを含み、周囲音を捕捉してもよい。上記に説明されるように、いくつかの実施形態では、１つ以上の他のオーディオセンサが、発話源の場所の決定に有用なステレオ音受信を提供するために位置付けられてもよい。オーディオセンサ２３２は、別の実施例として、指向性マイクロホンを備えてもよく、これはまた、オーディオ源が位置する場所に関するそのような有用な指向性情報を提供してもよい。ウェアラブルシステム４００は、発話源を位置特定する際、または特定の瞬間におけるアクティブ話者を決定するために等、外向きに面した結像システム４６４およびオーディオセンサ２３０の両方からの情報を使用してもよい。例えば、ウェアラブルシステム４００は、単独で、または話者の反射された画像（例えば、鏡に見られるように）と組み合わせて、音声認識を使用して、話者の識別を決定してもよい。別の実施例として、ウェアラブルシステム４００は、指向性マイクロホンから入手された音に基づいて、環境内の話者の位置を決定することができる。ウェアラブルシステム４００は、発話認識アルゴリズムを用いて、話者の位置から生じる音を解析し、発話のコンテンツを決定し、音声認識技法を使用して、話者の識別（例えば、名前または他の人口統計情報）を決定してもよい。
ウェアラブルシステム４００はまた、眼移動および顔移動等のユーザの移動を観察する、内向きに面した結像システム４６６（例えば、デジタルカメラ）を含んでもよい。内向きに面した結像システム４６６は、眼４１０の画像を捕捉し、眼３０４の瞳孔のサイズおよび／または配向を決定するために使用されてもよい。内向きに面した結像システム４６６は、ユーザが見ている方向（例えば、眼姿勢）を決定する際に使用するため、またはユーザのバイオメトリック識別のため（例えば、虹彩識別を介して）、画像を得るために使用されてもよい。いくつかの実施形態では、少なくとも１つのカメラが、眼毎に、独立して、各眼の瞳孔サイズまたは眼姿勢を別個に決定し、それによって、各眼への画像情報の提示がその眼に対して動的に調整されることを可能にするために利用されてもよい。いくつかの他の実施形態では、単一眼４１０のみの瞳孔直径または配向（例えば、対の眼あたり単一カメラのみを使用して）が、決定され、ユーザの両眼に関して類似すると仮定された。内向きに面した結像システム４６６によって得られる画像は、ユーザに提示されるべきオーディオまたは視覚的コンテンツを決定するためにウェアラブルシステム４００によって使用され得る、ユーザの眼姿勢または気分を決定するために分析されてもよい。ウェアラブルシステム４００はまた、ＩＭＵ、加速度計、ジャイロスコープ等のセンサを使用して、頭部姿勢（例えば、頭部位置または頭部配向）を決定してもよい。
ウェアラブルシステム４００は、ユーザが、コマンドをコントローラ４６０に入力し、ウェアラブルシステム４００と相互作用し得る、ユーザ入力デバイス４６６を含んでもよい。例えば、ユーザ入力デバイス４６６は、トラックパッド、タッチスクリーン、ジョイスティック、多自由度（ＤＯＦ）コントローラ、容量感知デバイス、ゲームコントローラ、キーボード、マウス、指向性パッド（Ｄパッド）、ワンド、触知デバイス、トーテム（例えば、仮想ユーザ入力デバイスとして機能する）等を含んでもよい。マルチＤＯＦコントローラは、コントローラの一部または全部の可能性として考えられる平行移動（例えば、左／右、前方／後方、もしくは上／下）または回転（例えば、ヨー、ピッチ、もしくはロール）におけるユーザ入力を感知してもよい。平行移動をサポートする、マルチＤＯＦコントローラは、３ＤＯＦと称され得る一方、平行移動および回転をサポートする、マルチＤＯＦコントローラは、６ＤＯＦと称され得る。ある場合には、ユーザは、指（例えば、親指）を使用して、タッチセンサ式入力デバイスを押下またはその上でスワイプし、入力をウェアラブルシステム４００に提供してもよい（例えば、ユーザ入力をウェアラブルシステム４００によって提供されるユーザインターフェースに提供するために）。ユーザ入力デバイス４６６は、ウェアラブルシステム４００の使用の間、ユーザの手によって保持されてもよい。ユーザ入力デバイス４６６は、ウェアラブルシステム４００と有線または無線通信してもよい。
（ウェアラブルシステムの他のコンポーネント）
多くの実施形態では、ウェアラブルシステムは、上記に説明されるウェアラブルシステムのコンポーネントに加えて、またはその代替として、他のコンポーネントを含んでもよい。ウェアラブルシステムは、例えば、１つ以上の触知デバイスまたはコンポーネントを含んでもよい。触知デバイスまたはコンポーネントは、触覚をユーザに提供するように動作可能であってもよい。例えば、触知デバイスまたはコンポーネントは、仮想コンテンツ（例えば、仮想オブジェクト、仮想ツール、他の仮想構造）に触れると、圧力またはテクスチャの触覚を提供してもよい。触覚は、仮想オブジェクトが表す物理的オブジェクトの感覚を再現してもよい、または仮想コンテンツが表す想像上のオブジェクトもしくはキャラクタ（例えば、ドラゴン）の感覚を再現してもよい。いくつかの実施形態では、触知デバイスまたはコンポーネントは、ユーザによって装着されてもよい（例えば、ユーザウェアラブルグローブ）。いくつかの実施形態では、触知デバイスまたはコンポーネントは、ユーザによって保持されてもよい。
ウェアラブルシステムは、例えば、ユーザによって操作可能であって、ウェアラブルシステムへの入力またはそれとの相互作用を可能にする、１つ以上の物理的オブジェクトを含んでもよい。これらの物理的オブジェクトは、本明細書では、トーテムと称され得る。いくつかのトーテムは、例えば、金属またはプラスチック片、壁、テーブルの表面等、無生物オブジェクトの形態をとってもよい。ある実施形態では、トーテムは、実際には、任意の物理的入力構造（例えば、キー、トリガ、ジョイスティック、トラックボール、ロッカスイッチ）を有していなくてもよい。代わりに、トーテムは、単に、物理的表面を提供してもよく、ウェアラブルシステムは、ユーザにトーテムの１つ以上の表面上にあるように見えるように、ユーザインターフェースをレンダリングしてもよい。例えば、ウェアラブルシステムは、トーテムの１つ以上の表面上に常駐するように見えるように、コンピュータキーボードおよびトラックパッドの画像をレンダリングしてもよい。例えば、ウェアラブルシステムは、トーテムとしての役割を果たす、アルミニウムの薄い長方形プレートの表面上に見えるように、仮想コンピュータキーボードおよび仮想トラックパッドをレンダリングしてもよい。長方形プレート自体は、任意の物理的キーまたはトラックパッドもしくはセンサを有していない。しかしながら、ウェアラブルシステムは、仮想キーボードまたは仮想トラックパッドを介して行われた選択または入力として、長方形プレートを用いたユーザ操作または相互作用もしくはタッチを検出し得る。ユーザ入力デバイス４６６（図４に示される）は、トラックパッド、タッチパッド、トリガ、ジョイスティック、トラックボール、ロッカもしくは仮想スイッチ、マウス、キーボード、多自由度コントローラ、または別の物理的入力デバイスを含み得る、トーテムの実施形態であってもよい。ユーザは、単独で、または姿勢と組み合わせて、トーテムを使用し、ウェアラブルシステムまたは他のユーザと相互作用してもよい。
本開示のウェアラブルデバイス、ＨＭＤ、およびディスプレイシステムと使用可能な触知デバイスおよびトーテムの実施例は、米国特許公開第２０１５／００１６７７７号（参照することによってその全体として本明細書に組み込まれる）に説明される。
（眼画像の実施例）
図５は、眼瞼５０４と、強膜５０８（「白眼」）と、虹彩５１２と、瞳孔５１６とを伴う、眼５００の画像を図示する。曲線５１６ａは、瞳孔５１６と虹彩５１２との間の瞳孔境界を示し、曲線５１２ａは、虹彩５１２と強膜５０８との間の辺縁境界を示す。眼瞼５０４は、上側眼瞼５０４ａと、下側眼瞼５０４ｂとを含む。眼５００は、自然静置姿勢（例えば、ユーザの顔および視線の両方が、ユーザの真正面の遠距離オブジェクトに向かうであろうように配向される）に図示される。眼５００の自然静置姿勢は、自然静置姿勢（例えば、図５に示される眼５００に関しては、すぐ面外）にあって、本実施例では、瞳孔５１６内に心合されるときの眼５００の表面に直交する方向である、自然静置方向５２０によって示され得る。
眼５００が、異なるオブジェクトに向かって見るように移動するにつれて、眼姿勢は、自然静置方向５２０に対して変化するであろう。現在の眼姿勢は、眼の表面に直交する（かつ瞳孔５１６内に心合される）方向であるが、眼が現在指向されているオブジェクトに向かって配向される、眼姿勢方向５２４を参照して決定されてもよい。図５に示される例示的座標系を参照すると、眼５００の姿勢は、両方とも眼の自然静置方向５２０に対する、眼の眼姿勢方向５２４の方位角偏向および天頂偏向を示す、２つの角度パラメータとして表され得る。例証目的のために、これらの角度パラメータは、θ（基点方位角から決定される、方位角偏向）およびφ（時として、極性偏向とも称される、天頂偏向）として表され得る。いくつかの実施形態では、眼姿勢方向５２４の周囲の眼の角度ロールが、眼姿勢の決定に含まれてもよく、角度ロールは、以下の分析に含まれてもよい。いくつかの他の実施形態では、眼姿勢を決定するための他の技法が、例えば、ピッチ、ヨー、および随意に、ロール系が、使用されてもよい。
眼画像は、任意の適切なプロセスを使用して、例えば、画像を１つ以上のシーケンシャルフレームから抽出し得る、ビデオ処理アルゴリズムを使用して、ビデオから取得されてもよい。眼の姿勢は、種々の眼追跡技法を使用して、眼画像から決定されてもよい。例えば、眼姿勢は、提供される光源に及ぼす角膜のレンズ効果を検討することによって決定されてもよい。任意の好適な眼追跡技法が、本明細書に説明される眼瞼形状推定技法において眼姿勢を決定するために使用されてもよい。
（眼追跡システムの実施例）
図６は、眼追跡システムを含む、ウェアラブルまたは頭部搭載型ディスプレイシステム６００の概略図を図示する。頭部搭載型ディスプレイシステム６００は、少なくともいくつかの実施形態では、頭部搭載型ユニット６０２内に位置するコンポーネントと、非頭部搭載型ユニット６０４内に位置するコンポーネントとを含んでもよい。非頭部搭載型ユニット６０４は、実施例として、ベルト搭載型コンポーネント、ハンドヘルドコンポーネント、リュック内のコンポーネント、遠隔コンポーネント等であってもよい。頭部搭載型ディスプレイシステム６００のコンポーネントのうちのいくつかを非頭部搭載型ユニット６０４内に組み込むことは、頭部搭載型ユニット６０２のサイズ、重量、複雑性、およびコストを低減させることに役立ち得る。いくつかの実施形態では、頭部搭載型ユニット６０２および／または非頭部搭載型６０４の１つ以上のコンポーネントによって実施されているように説明される機能性の一部または全部は、頭部搭載型ディスプレイシステム６００内のいずれかに含まれる１つ以上のコンポーネントを用いて提供されてもよい。例えば、頭部搭載型ユニット６０２のＣＰＵ６１２と関連して下記に説明される機能性の一部または全部は、非頭部搭載型ユニット６０４のＣＰＵ６１６を用いて提供されてもよく、その逆も同様である。いくつかの実施例では、そのような機能性の一部または全部は、頭部搭載型ディスプレイシステム６００の周辺デバイスを用いて提供されてもよい。さらに、いくつかの実施形態では、そのような機能性の一部または全部は、図２を参照して上記に説明されたものに類似する様式において、１つ以上のクラウドコンピューティングデバイスまたは他の遠隔に位置するコンピューティングデバイスを用いて提供されてもよい。
図６に示されるように、頭部搭載型ディスプレイシステム６００は、ユーザの眼６１０の画像を捕捉する、カメラ３２４を含む、眼追跡システムを含んでもよい。所望に応じて、眼追跡システムはまた、光源３２６ａおよび３２６ｂ（発光ダイオード「ＬＥＤ」等）を含んでもよい。光源３２６ａおよび３２６ｂは、閃光（すなわち、カメラ３２４によって捕捉された眼の画像内に現れる、ユーザの眼からの反射）を生成し得る。カメラ３２４に対する光源３２６ａおよび３２６ｂの位置は、既知であり得、その結果、カメラ３２４によって捕捉された画像内の閃光の位置が、ユーザの眼を追跡する際に使用されてもよい（図７−１１に関連して下記により詳細に議論されるであろうように）。少なくとも一実施形態では、１つの光源３２６と、ユーザの眼６１０の片方と関連付けられた１つのカメラ３２４とが存在してもよい。別の実施形態では、１つの光源３２６と、ユーザの眼６１０のそれぞれと関連付けられた１つのカメラ３２４とが存在してもよい。さらに他の実施形態では、１つ以上のカメラ３２４と、ユーザの眼６１０の一方またはそれぞれと関連付けられた１つ以上の光源３２６とが存在してもよい。具体的実施例として、２つの光源３２６ａおよび３２６ｂと、ユーザの眼６１０のそれぞれと関連付けられた１つ以上のカメラ３２４とが存在してもよい。別の実施例として、光源３２６ａおよび３２６ｂ等の３つ以上の光源と、ユーザの眼６１０のそれぞれと関連付けられた１つ以上のカメラ３２４とが存在してもよい。
眼追跡モジュール６１４は、画像を眼追跡カメラ３２４から受信してもよく、画像を分析し、種々の情報を抽出してもよい。実施例として、眼追跡モジュール６１４は、ユーザの眼姿勢、眼追跡カメラ３２４（および頭部搭載型ユニット６０２）に対するユーザの眼の３次元位置、合焦されているユーザの眼６１０の一方または両方の方向、ユーザの輻輳・開散運動深度（すなわち、ユーザが合焦しているユーザからの深度）、ユーザの瞳孔の位置、ユーザの角膜および角膜球面の位置、ユーザの眼のそれぞれの回転中心、およびユーザの眼のそれぞれの視点の中心を検出してもよい。眼追跡モジュール６１４は、図７−１１に関連して下記に説明される技法を使用して、そのような情報を抽出してもよい。図６に示されるように、眼追跡モジュール６１４は、頭部搭載型ユニット６０２内のＣＰＵ６１２を使用して実装される、ソフトウェアモジュールであってもよい。
眼追跡モジュール６１４からのデータは、ウェアラブルシステム内の他のコンポーネントに提供されてもよい。実施例として、そのようなデータは、頭部搭載型ディスプレイシステムの６００ディスプレイがユーザの眼と適切に位置合わせされているかどうかを評価するように構成され得る、ライトフィールドレンダリングコントローラ６１８および位置合わせオブザーバ６２０のためのソフトウェアモジュールを含む、ＣＰＵ６１６等の非頭部搭載型ユニット６０４内のコンポーネントに伝送されてもよい。
レンダリングコントローラ６１８は、レンダリングエンジン６２２（例えば、ＧＰＵ６２１内のソフトウェアモジュールであり得、画像をディスプレイ２２０に提供し得る、レンダリングエンジン）によって、眼追跡モジュール６１４からの情報を使用して、ユーザに表示される画像を調節してもよい。実施例として、レンダリングコントローラ６１８は、ユーザの回転中心または視点の中心に基づいて、ユーザに表示される画像を調節してもよい。特に、レンダリングコントローラ６１８は、ユーザの視点の中心に関する情報を使用して、レンダリングカメラをシミュレートしてもよく（すなわち、ユーザの視点からの画像の収集をシミュレートする）、シミュレートされたレンダリングカメラに基づいて、ユーザに表示される画像を調節してもよい。
時として、「ピンホール透視投影カメラ」（または単に、「透視投影カメラ」）または「仮想ピンホールカメラ」（または単に、「仮想カメラ」）とも称される、「レンダリングカメラ」は、可能性として、仮想世界内のオブジェクトのデータベースからの仮想画像コンテンツをレンダリングする際に使用するためのシミュレートされたカメラである。オブジェクトは、ユーザまたは装着者に対する、および可能性として、ユーザまたは装着者を囲繞する環境内の実オブジェクトに対する、場所および配向を有してもよい。言い換えると、レンダリングカメラは、そこからユーザまたは装着者がレンダリング空間の３Ｄ仮想コンテンツ（例えば、仮想オブジェクト）を視認すべきである、レンダリング空間内の視点を表し得る。レンダリングカメラは、レンダリングエンジンによって管理され、眼に提示されるべき仮想オブジェクトのデータベースに基づいて、仮想画像をレンダリングしてもよい。仮想画像は、ユーザまたは装着者の視点から撮影されたかのようにレンダリングされ得る。例えば、仮想画像は、固有のパラメータの具体的セット（例えば、焦点距離、カメラピクセルサイズ、主点座標、歪／歪曲パラメータ等）と、付帯パラメータの具体的セット（例えば、仮想世界に対する平行移動成分および回転成分）とを有する、ピンホールカメラ（「レンダリングカメラ」に対応する）によって捕捉されたかのようにレンダリングされ得る。仮想画像は、レンダリングカメラの位置および配向（例えば、レンダリングカメラの付帯パラメータ）を有する、そのようなカメラの視点から撮影される。システムは、固有のおよび付帯レンダリングカメラパラメータを定義および／または調節し得るということになる。例えば、システムは、仮想画像が、ユーザまたは装着者の視点からであるように現れる画像を提供するように、ユーザまたは装着者の眼に対する具体的場所を有する、カメラの視点から捕捉されたかのようにレンダリングされるように、特定のセットの付帯レンダリングカメラパラメータを定義してもよい。システムは、後に、具体的場所との位置合わせを維持するように、付帯レンダリングカメラパラメータをオンザフライで動的に調節してもよい。同様に、固有のレンダリングカメラパラメータも、定義され、経時的に動的に調節されてもよい。いくつかの実施形態では、画像は、開口（例えば、ピンホール）をユーザまたは装着者の眼に対する具体的場所（視点の中心または回転中心もしくは他の場所等）に有するカメラの視点から捕捉されたかのようにレンダリングされる。
いくつかの実施形態では、システムは、ユーザの眼が、相互から物理的に分離され、したがって、一貫して異なる場所に位置付けられるにつれて、ユーザの左眼のための１つのレンダリングカメラおよびユーザの右眼のために別のレンダリングカメラを作成もしくは動的に再位置付および／または再配向してもよい。少なくともいくつかの実施形態では、視認者の左眼と関連付けられたレンダリングカメラの視点からレンダリングされた仮想コンテンツは、頭部搭載型ディスプレイ（例えば、頭部搭載型ユニット６０２）の左側の接眼レンズを通してユーザに提示され得、ユーザの右眼と関連付けられたレンダリングカメラの視点からレンダリングされた仮想コンテンツは、そのような頭部搭載型ディスプレイの右側の接眼レンズを通してユーザに提示され得るということになる。レンダリングプロセスにおけるレンダリングカメラの作成、調節、および使用について議論するさらなる詳細は、「ＭＥＴＨＯＤＳ ＡＮＤ ＳＹＳＴＥＭＳ ＦＯＲ ＤＥＴＥＣＴＩＮＧ ＡＮＤ ＣＯＭＢＩＮＩＮＧ ＳＴＲＵＣＴＵＲＡＬ ＦＥＡＴＵＲＥＳ ＩＮ ３Ｄ ＲＥＣＯＮＳＴＲＵＣＴＩＯＮ」と題された米国特許出願第１５／２７４，８２３号（あらゆる目的のために、参照することによってその全体として本明細書に明示的に組み込まれる）に提供される。
いくつかの実施例では、システム６００の１つ以上のモジュール（またはコンポーネント）（例えば、ライトフィールドレンダリングコントローラ６１８、レンダリングエンジン６２２等）は、ユーザの頭部および眼の位置および配向（例えば、それぞれ、頭部姿勢および眼追跡データに基づいて決定されるように）に基づいて、レンダリング空間内のレンダリングカメラの位置および配向を決定してもよい。すなわち、システム６００は、事実上、ユーザの頭部および眼の位置および配向を３Ｄ仮想環境内の特定の場所および角位置にマッピングし、レンダリングカメラを３Ｄ仮想環境内の特定の場所および角位置に設置および配向し、レンダリングカメラによって捕捉されるであろうにつれて、仮想コンテンツをユーザのためにレンダリングし得る。実世界／仮想世界マッピングプロセスについて議論するさらなる詳細は、「ＳＥＬＥＣＴＩＮＧ ＶＩＲＴＵＡＬ ＯＢＪＥＣＴＳ ＩＮ Ａ ＴＨＲＥＥ−ＤＩＭＥＮＳＩＯＮＡＬ ＳＰＡＣＥ」と題された米国特許出願第１５／２９６，８６９号（あらゆる目的のために、参照することによってその全体として本明細書に明示的に組み込まれる）に提供される。実施例として、レンダリングコントローラ６１８は、画像が、画像を表示するために任意の所与の時間に利用される深度平面（または複数の深度平面）を選択することによって表示される、深度を調節してもよい。いくつかの実施形態では、そのような深度平面切替は、１つ以上の固有のレンダリングカメラパラメータの調節を通して、行われてもよい。
位置合わせオブザーバ６２０は、眼追跡モジュール６１４からの情報を使用して、頭部搭載型ユニット６０２がユーザの頭部上に適切に位置付けられているかどうかを識別してもよい。実施例として、眼追跡モジュール６１４は、カメラ３２４に対するユーザの眼の３次元位置を示す、ユーザの眼の回転中心の位置等の眼場所情報を提供してもよく、頭部搭載型ユニット６０２および眼追跡モジュール６１４は、場所情報を使用して、ディスプレイ２２０がユーザの視野内に適切に整合されているかどうか、または頭部搭載型ユニット６０２（またはヘッドセット）が滑脱している、もしくは別様にユーザの眼と不整合状態であるかどうかを決定してもよい。実施例として、位置合わせオブザーバ６２０は、頭部搭載型ユニット６０２が、ユーザの鼻梁から滑脱しており、したがって、ディスプレイ２２０をユーザの眼から離れさせ、そこから下方に移動させている（望ましくあり得ない）かどうか、頭部搭載型ユニット６０２が、ユーザの鼻梁の上方に移動しており、したがって、ディスプレイ２２０をユーザの眼により近づけ、そこから上方に移動させているかどうか、頭部搭載型ユニット６０２が、ユーザの鼻梁に対して左または右に偏移されているかどうか、頭部搭載型ユニット６０２が、ユーザの鼻梁の上方に持ち上げられているかどうか、または頭部搭載型ユニット６０２が、これらまたは他の方法において、所望の位置または位置の範囲から離れて移動されているかどうかを決定することが可能であり得る。一般に、位置合わせオブザーバ６２０は、一般に、頭部搭載型ユニット６０２、特に、ディスプレイ２２０が、ユーザの眼の正面に適切に位置付けられているかどうかを決定することが可能であり得る。言い換えると、位置合わせオブザーバ６２０は、ディスプレイシステム２２０内の左眼ディスプレイが、ユーザの左眼と適切に整合されており、ディスプレイシステム２２０内の右眼ディスプレイが、ユーザの右眼と適切に整合されているかどうかを決定し得る。位置合わせオブザーバ６２０は、頭部搭載型ユニット６０２が、ユーザの眼に対する位置および／または配向の所望の範囲内に位置付けられ、配向されているかどうかを決定することによって、頭部搭載型ユニット６０２が適切に位置付けられているかどうかを決定してもよい。
少なくともいくつかの実施形態では、位置合わせオブザーバ６２０は、アラート、メッセージ、または他のコンテンツの形態におけるユーザフィードバックを生成してもよい。そのようなフィードバックは、ユーザに提供され、ユーザに、頭部搭載型ユニット６０２の任意の不整合を、不整合を補正する方法に関する随意のフィードバック（頭部搭載型ユニット６０２を特定の様式において調節するための提案等）とともに知らせてもよい。
位置合わせオブザーバ６２０によって利用され得る、例示的位置合わせ観察およびフィードバック技法は、２０１７年９月２７日に出願された、米国特許出願第１５／７１７，７４７号（弁理士整理番号ＭＬＥＡＰ．０５２Ａ２）（参照することによってその全体として本明細書に組み込まれる）に説明される。
（眼追跡モジュールの実施例）
例示的眼追跡モジュール６１４の詳細なブロック図が、図７Ａに示される。図７Ａに示されるように、眼追跡モジュール６１４は、種々の異なるサブモジュールを含んでもよく、種々の異なる出力を提供してもよく、ユーザの眼を追跡する際に、種々の利用可能なデータを利用してもよい。実施例として、眼追跡モジュール６１４は、光源３２６および頭部搭載型ユニット６０２に対する眼追跡カメラ３２４の幾何学的配列、ユーザの角膜曲率の中心とユーザの眼の平均回転中心との間の約４．７ｍｍの典型的距離またはユーザの回転中心と視点の中心との間の典型的距離等の仮定された眼寸法７０４、および特定のユーザの瞳孔間距離等のユーザ毎の較正データ７０６等の眼追跡の付帯性質および固有性質を含む、利用可能なデータを利用してもよい。眼追跡モジュール６１４によって採用され得る、付帯性質、固有性質、および他の情報の付加的実施例は、２０１７年４月２６日に出願された、米国特許出願第１５／４９７，７２６号（弁理士整理番号ＭＬＥＡＰ．０２３Ａ７）（参照することによってその全体として本明細書に組み込まれる）に説明される。
画像前処理モジュール７１０は、画像を眼カメラ３２４等の眼カメラから受信してもよく、１つ以上の前処理（すなわち、調整）動作を受信された画像上に実施してもよい。実施例として、画像前処理モジュール７１０は、ガウスぼけを画像に適用してもよい、画像をより低い分解能にダウンサンプリングしてもよい、アンシャープマスクを適用してもよい、縁シャープニングアルゴリズムを適用してもよい、または後の検出、位置特定、および眼カメラ３２４からの画像内の閃光、瞳孔、または他の特徴の標識化を補助する、他の好適なフィルタを適用してもよい。画像前処理モジュール７１０は、高周波数雑音を瞳孔境界５１６ａ（図５参照）等から除去し、それによって瞳孔および閃光決定を妨害し得る、雑音を除去し得る、オープンフィルタ等の低域通過フィルタまたは形態学的フィルタを適用してもよい。画像前処理モジュール７１０は、前処理された画像を瞳孔識別モジュール７１２および閃光検出および標識化モジュール７１４に出力してもよい。
瞳孔識別モジュール７１２は、前処理された画像を画像前処理モジュール７１０から受信してもよく、ユーザの瞳孔を含む、それらの画像の領域を識別してもよい。瞳孔識別モジュール７１２は、いくつかの実施形態では、カメラ３２４からの眼追跡画像内のユーザの瞳孔の位置の座標、すなわち、中心または重心の座標を決定してもよい。少なくともいくつかの実施形態では、瞳孔識別モジュール７１２は、眼追跡画像内の輪郭（例えば、瞳孔虹彩境界の輪郭）を識別し、輪郭モーメント（すなわち、質量中心）を識別し、スターバースト瞳孔検出および／またはＣａｎｎｙ縁検出アルゴリズムを適用し、強度値に基づいて外れ値を除外し、サブピクセル境界点を識別し、眼カメラ歪曲（すなわち、眼カメラ３２４によって捕捉された画像内の歪曲）を補正し、ランダムサンプルコンセンサス（ＲＡＮＳＡＣ）反復アルゴリズムを適用し、楕円形を眼追跡画像内の境界に適合させ、追跡フィルタを画像に適用し、ユーザの瞳孔重心のサブピクセル画像座標を識別してもよい。瞳孔識別モジュール７１２は、ユーザの瞳孔を示すと識別された前処理画像モジュール７１２の領域を示し得る、瞳孔識別データを、閃光検出および標識化モジュール７１４に出力してもよい。瞳孔識別モジュール７１２は、各眼追跡画像内のユーザの瞳孔の２Ｄ座標（すなわち、ユーザの瞳孔重心の２Ｄ座標）を閃光検出モジュール７１４に提供してもよい。少なくともいくつかの実施形態では、瞳孔識別モジュール７１２はまた、同一種類の瞳孔識別データを座標系正規化モジュール７１８に提供してもよい。
瞳孔識別モジュール７１２によって利用され得る、瞳孔検出技法は、２０１７年２月２３日に公開された米国特許公開第２０１７／００５３１６５号および２０１７年２月２３日に公開された米国特許公開第２０１７／００５３１６６号（それぞれ、参照することによってその全体として本明細書に組み込まれる）に説明される。
閃光検出および標識化モジュール７１４は、前処理された画像をモジュール７１０から、瞳孔識別データをモジュール７１２から受信してもよい。閃光検出モジュール７１４は、本データを使用して、閃光（すなわち、光源３２６からの光のユーザの眼からの反射）をユーザの瞳孔を示す前処理された画像の領域内で検出および／または識別してもよい。実施例として、閃光検出モジュール７１４は、ユーザの瞳孔の近傍にある、時として、本明細書では、「ブロブ」または局所強度最大値とも称される、眼追跡画像内の明るい領域を検索してもよい。少なくともいくつかの実施形態では、閃光検出モジュール７１４は、瞳孔楕円形を再スケーリング（例えば、拡大）し、付加的閃光を包含してもよい。閃光検出モジュール７１４は、サイズおよび／または強度によって、閃光をフィルタリングしてもよい。閃光検出モジュール７１４はまた、眼追跡画像内の閃光のそれぞれの２Ｄ位置を決定してもよい。少なくともいくつかの実施例では、閃光検出モジュール７１４は、瞳孔−閃光ベクトルとも称され得る、ユーザの瞳孔に対する閃光の２Ｄ位置を決定してもよい。閃光検出および標識化モジュール７１４は、閃光を標識化し、標識された閃光を伴う前処理画像を３Ｄ角膜中心推定モジュール７１６に出力してもよい。閃光検出および標識化モジュール７１４はまた、モジュール７１０からの前処理された画像およびモジュール７１２からの瞳孔識別データ等のデータを伝達してもよい。
モジュール７１２および７１４等のモジュールによって実施されるような瞳孔および閃光検出は、任意の好適な技法を使用してもよい。実施例として、縁検出が、眼画像に適用され、閃光および瞳孔を識別してもよい。縁検出は、種々の縁検出器、縁検出アルゴリズム、またはフィルタによって適用されてもよい。例えば、Ｃａｎｎｙ縁検出器が、画像に適用され、画像の線等の縁を検出してもよい。縁は、局所最大導関数に対応する、線に沿って位置する点を含んでもよい。例えば、瞳孔境界５１６ａ（図５参照）が、Ｃａｎｎｙ縁検出器を使用して、位置特定されてもよい。瞳孔の場所が決定されると、種々の画像処理技法が、瞳孔１１６の「姿勢」を検出するために使用されてもよい。眼画像の眼姿勢の決定は、眼画像の眼姿勢の検出とも称され得る。姿勢は、視線、向いている方向、または眼の配向とも称され得る。例えば、瞳孔は、オブジェクトに向かって左を見ている場合があり、瞳孔の姿勢は、左向き姿勢として分類され得る。他の方法も、瞳孔または閃光の場所を検出するために使用されてもよい。例えば、同心リングが、Ｃａｎｎｙ縁検出器を使用した眼画像内に位置し得る。別の実施例として、積分微分演算子が、瞳孔または虹彩の角膜輪部境界を見出すために使用されてもよい。例えば、Ｄａｕｇｍａｎ積分微分演算子、Ｈｏｕｇｈ変換、または他の虹彩セグメント化技法が、瞳孔または虹彩の境界を推定する、曲線を返すために使用されてもよい。
３Ｄ角膜中心推定モジュール７１６は、検出された閃光データおよび瞳孔識別データを含む、前処理された画像を、モジュール７１０、７１２、７１４から受信してもよい。３Ｄ角膜中心推定モジュール７１６は、これらのデータを使用して、ユーザの角膜の３Ｄ位置を推定してもよい。いくつかの実施形態では、３Ｄ角膜中心推定モジュール７１６は、眼の角膜曲率またはユーザの角膜球面の中心、すなわち、概して、ユーザの角膜と同延の表面部分を有する、想像上の球面の中心の３Ｄ位置を推定してもよい。３Ｄ角膜中心推定モジュール７１６は、角膜球面および／またはユーザの角膜の推定された３Ｄ座標を示すデータを、座標系正規化モジュール７１８、光学軸決定モジュール７２２、および／またはライトフィールドレンダリングコントローラ６１８に提供してもよい。３Ｄ角膜中心推定モジュール７１６の動作のさらなる詳細は、図８Ａ−８Ｅに関連して本明細書に提供される。３Ｄ角膜中心推定モジュール７１６および本開示のウェアラブルシステム内の他のモジュールによって利用され得る、角膜または角膜球面等の眼特徴の位置を推定するための技法は、２０１７年４月２６日に出願された、米国特許出願第１５／４９７，７２６号（弁理士整理番号ＭＬＥＡＰ．０２３Ａ７）（参照することによってその全体として本明細書に組み込まれる）に議論される。
座標系正規化モジュール７１８は、随意に、（その破線輪郭によって示されるように）眼追跡モジュール６１４内に含まれてもよい。座標系正規化モジュール７１８は、ユーザの角膜の中心（および／またはユーザの角膜球面の中心）の推定された３Ｄ座標を示すデータを、３Ｄ角膜中心推定モジュール７１６から受信してもよく、また、データを他のモジュールから受信してもよい。座標系正規化モジュール７１８は、眼カメラ座標系を正規化してもよく、これは、ウェアラブルデバイスの滑脱（例えば、位置合わせオブザーバ６２０によって識別され得る、ユーザの頭部上のその正常静置位置からの頭部搭載型コンポーネントの滑脱）を補償することに役立ち得る。座標系正規化モジュール７１８は、座標系を回転させ、座標系のｚ−軸（すなわち、輻輳・開散運動深度軸）と角膜中心（例えば、３Ｄ角膜中心推定モジュール７１６によって示されるように）を整合させてもよく、カメラ中心（すなわち、座標系の原点）を３０ｍｍ等の角膜中心から離れた所定の距離に平行移動させてもよい（すなわち、モジュール７１８は、眼カメラ３２４が所定の距離より近くまたは遠くにあるように決定されるかどうかに応じて、眼追跡画像を拡大または収縮し得る）。本正規化プロセスを用いることで、眼追跡モジュール６１４は、比較的に、ユーザの頭部上に位置付けられるヘッドセットの変動から独立して、眼追跡データ内の一貫した配向および距離を確立することが可能であり得る。座標系正規化モジュール７１８は、角膜（および／または角膜球面）の中心の３Ｄ座標、瞳孔識別データ、および前処理された眼追跡画像を３Ｄ瞳孔中心ロケータモジュール７２０に提供してもよい。座標系正規化モジュール７１８の動作のさらなる詳細は、図９Ａ−９Ｃに関連して本明細書に提供される。
３Ｄ瞳孔中心ロケータモジュール７２０は、正規化または非正規化座標系内において、ユーザの角膜（および／または角膜球面）の中心の３Ｄ座標、瞳孔場所データ、および前処理された眼追跡画像を含む、データを受信してもよい。３Ｄ瞳孔中心ロケータモジュール７２０は、そのようなデータを分析して、正規化または非正規化眼カメラ座標系内のユーザの瞳孔の中心の３Ｄ座標を決定してもよい。３Ｄ瞳孔中心ロケータモジュール７２０は、瞳孔重心の２Ｄ位置（モジュール７１２によって決定されるように）、角膜中心の３Ｄ位置（モジュール７１６によって決定されるように）、典型的ユーザの角膜球面のサイズおよび角膜中心から瞳孔中心までの典型的距離等の仮定された眼寸法７０４、および角膜の屈折率（空気の屈折率に対する）等の眼の光学性質、または任意のこれらの組み合わせに基づいて、３次元におけるユーザの瞳孔の場所を決定してもよい。３Ｄ瞳孔中心ロケータモジュール７２０の動作のさらなる詳細は、図９Ｄ−９Ｇに関連して本明細書に提供される。３Ｄ瞳孔中心ロケータモジュール７２０および本開示のウェアラブルシステム内の他のモジュールによって利用され得る、瞳孔等の眼特徴の位置を推定するための技法は、２０１７年４月２６日に出願された、米国特許出願第１５／４９７，７２６（弁理士整理番号ＭＬＥＡＰ．０２３Ａ７）（参照することによってその全体として本明細書に組み込まれる）に議論される。
光学軸決定モジュール７２２は、ユーザの角膜およびユーザの瞳孔の中心の３Ｄ座標を示すデータを、モジュール７１６および７２０から受信してもよい。そのようなデータに基づいて、光学軸決定モジュール７２２は、角膜中心の位置から（すなわち、角膜球面の中心から）、ユーザの眼の光学軸を定義し得る、ユーザの瞳孔の中心までのベクトルを識別してもよい。光学軸決定モジュール７２２は、実施例として、ユーザの光学軸を規定する出力をモジュール７２４、７２８、７３０、および７３２に提供してもよい。
回転中心（ＣｏＲ）推定モジュール７２４は、ユーザの眼の光学軸のパラメータ（すなわち、頭部搭載型ユニット６０２に対して既知の関係を伴う座標系内の光学軸の方向を示すデータ）を含むデータを、モジュール７２２から受信してもよい。ＣｏＲ推定モジュール７２４は、ユーザの眼の回転中心（すなわち、ユーザの眼が左、右、上、および／または下に回転するとき、その周囲でユーザの眼が回転する、点）を推定し得る。眼が、単点の周囲で完璧に回転し得ない場合でも、単点が十分であり得ると仮定する。少なくともいくつかの実施形態では、ＣｏＲ推定モジュール７２４は、瞳孔の中心（モジュール７２０によって識別される）または角膜の曲率中心（モジュール７１６によって識別されるように）を網膜に向かって光学軸（モジュール７２２によって識別される）に沿って特定の距離だけ移動させることによって、眼の回転中心を推定し得る。本特定の距離は、仮定された眼寸法７０４であってもよい。一実施例として、角膜の曲率中心とＣｏＲとの間の特定の距離は、約４．７ｍｍであってもよい。本距離は、ユーザの年齢、性別、視覚処方箋、他の関連特性等を含む、任意の関連データに基づいて、特定のユーザのために変動され得る。
少なくともいくつかの実施形態では、ＣｏＲ推定モジュール７２４は、ユーザの眼のそれぞれの回転中心のその推定値を経時的に精緻化してもよい。実施例として、時間が経過するにつれて、ユーザは、最終的に、その眼を回転させ（他の場所、より近く、より遠くの何らかのもの、またはある時に左、右、上、もしくは下を見るため）、その眼のそれぞれの光学軸において偏移させるであろう。ＣｏＲ推定モジュール７２４は、次いで、モジュール７２２によって識別される２つ（以上の）光学軸を分析し、それらの光学軸の交点の３Ｄ点を位置特定してもよい。ＣｏＲ推定モジュール７２４は、次いで、その交点の３Ｄ点にある回転中心を決定してもよい。そのような技法は、経時的に改良する正確度を伴う、回転中心の推定値を提供し得る。種々の技法が、ＣｏＲ推定モジュール７２４ならびに左および右眼の決定されたＣｏＲ位置の正確度を増加させるために採用されてもよい。実施例として、ＣｏＲ推定モジュール７２４は、種々の異なる眼姿勢に関して経時的に決定された光学軸の交点の平均点を見出すことによって、ＣｏＲを推定してもよい。付加的実施例として、モジュール７２４は、推定されたＣｏＲ位置を経時的にフィルタリングまたは平均化してもよく、推定されたＣｏＲ位置の移動平均を経時的に計算してもよく、および／またはカルマンフィルタならびに眼および眼追跡システムの既知の動態を適用し、ＣｏＲ位置を経時的に推定してもよい。具体的実施例として、モジュール７２４は、決定されたＣｏＲが、ユーザに関する眼追跡データが取得されるにつれて、仮定されたＣｏＲ位置（すなわち、眼の角膜曲率の中心の４．７ｍｍ背後）からユーザの眼内の若干異なる場所に経時的にゆっくりと移り、それによって、ＣｏＲ位置のユーザ毎精緻化を可能にし得るように、光学軸交点の決定された点および仮定されたＣｏＲ位置（眼の角膜曲率の中心から４．７ｍｍ等）の加重平均を計算してもよい。
瞳孔間距離（ＩＰＤ）推定モジュール７２６は、ユーザの左および右眼の回転中心の推定された３Ｄ位置を示すデータを、ＣｏＲ推定モジュール７２４から受信してもよい。ＩＰＤ推定モジュール７２６は、次いで、ユーザの左および右眼の回転中心間の３Ｄ距離を測定することによって、ユーザのＩＰＤを推定してもよい。一般に、ユーザの左眼の推定されたＣｏＲとユーザの右眼の推定されたＣｏＲとの間の距離は、ユーザが光学無限遠を見ている（すなわち、ユーザの眼の光学軸が、相互に略平行である）とき、ユーザの瞳孔の中心間の距離と概ね等しくあり得、これは、瞳孔間距離（ＩＰＤ）の典型的定義である。ユーザのＩＰＤは、ウェアラブルシステム内の種々のコンポーネントおよびモジュールによって使用されてもよい。実施例として、ユーザのＩＰＤは、位置合わせオブザーバ６２０に提供され、ウェアラブルデバイスがユーザの眼と整合されている程度（例えば、左および右ディスプレイレンズが、ユーザのＩＰＤに従って適切に離間されているかどうか）を査定する際に使用されてもよい。別の実施例として、ユーザのＩＰＤは、輻輳・開散運動深度推定モジュール７２８に提供され、ユーザの輻輳・開散運動深度を決定する際に使用されてもよい。モジュール７２６は、ＣｏＲ推定モジュール７２４に関連して議論されるもの等の種々の技法を採用し、推定されたＩＰＤの正確度を増加させてもよい。実施例として、ＩＰＤ推定モジュール７２４は、正確な様式におけるユーザのＩＰＤの推定の一部として、フィルタリング、経時的平均、仮定されたＩＰＤ距離を含む、加重平均、カルマンフィルタ等を適用してもよい。
眼球間軸推定モジュール７４０は、ＩＰＤ推定モジュール７２６、光学軸決定モジュール７２２、３Ｄ角膜中心推定モジュール７１６、３Ｄ瞳孔中心ロケータモジュール７２０、ＣｏＲ推定モジュール７２４、およびＣｏＰ推定モジュール７２３等の１つ以上のモジュールからのデータを受信してもよい。特に、眼球間軸推定モジュール７４０は、左および右眼回転中心、視点の中心、瞳孔位置、虹彩位置、光学軸、瞳孔間距離等のユーザの左および右眼の１つ以上の特徴の推定される３Ｄ位置を示すデータを受信してもよい。眼球間軸推定モジュール７４０は、そのような情報を使用して、ユーザの眼球間軸の場所を決定してもよい。眼球間軸は、ユーザの左眼の特徴およびユーザの右眼の対応する特徴との間に延在してもよい。実施例として、眼球間軸は、左眼の回転中心と右眼の回転中心との間に延在してもよい。別の実施例として、眼球間軸は、左眼瞳孔と右眼瞳孔との間に延在してもよい。眼球間軸推定モジュール７４０は、眼カメラ３２４に対するユーザの眼（またはその中のいくつかの特徴）の位置を決定すること等によって、ウェアラブルシステムに対する眼球間軸の位置および／または配向を決定することが可能であり得る。
輻輳・開散運動深度推定モジュール７２８は、データを眼追跡モジュール６１４内の種々のモジュールおよびサブモジュール（図７Ａに関連して示されるように）から受信してもよい。特に、輻輳・開散運動深度推定モジュール７２８は、瞳孔中心の推定された３Ｄ位置（例えば、上記に説明されるモジュール７２０によって提供されるように）、光学軸の１つ以上の決定されたパラメータ（例えば、上記に説明されるモジュール７２２によって提供されるように）、回転中心の推定された３Ｄ位置（例えば、上記に説明されるモジュール７２４によって提供されるように）、推定されたＩＰＤ（例えば、回転中心の推定された３Ｄ位置間のユークリッド距離）（例えば、上記に説明されるモジュール７２６によって提供されるように）、および／または光学軸ならびに／もしくは視軸の１つ以上の決定されたパラメータ（例えば、下記に説明されるモジュール７２２および／またはモジュール７３０によって提供されるように）を示すデータを採用してもよい。輻輳・開散運動深度推定モジュール７２８は、ユーザの眼が合焦されるユーザからの距離であり得る、ユーザの輻輳・開散運動深度の測定値を検出または別様に取得してもよい。実施例として、ユーザが、彼らの正面から３フィートのオブジェクトを見ているとき、ユーザの左および右眼は、３フィートの輻輳・開散運動深度を有する一方、ユーザが遠距離の景観を見ている（すなわち、ユーザの眼の光学軸が、ユーザの瞳孔の中心間の距離が、ユーザの左および右眼の回転中心間の距離と概ね等しくあり得るように、相互に略平行である）とき、ユーザの左および右眼は、無限遠の輻輳・開散運動深度を有する。いくつかの実施形態では、輻輳・開散運動深度推定モジュール７２８は、ユーザの瞳孔の推定された中心（例えば、モジュール７２０によって提供されるように）を示すデータを利用し、ユーザの瞳孔の推定された中心間の３Ｄ距離を決定してもよい。輻輳・開散運動深度推定モジュール７２８は、瞳孔中心間のそのような決定された３Ｄ距離と推定されたＩＰＤ（例えば、回転中心の推定された３Ｄ位置間のユークリッド距離）（例えば、上記に説明されるモジュール７２６によって示されるように）を比較することによって、輻輳・開散運動深度の測定値を取得してもよい。瞳孔中心間の３Ｄ距離および推定されたＩＰＤに加え、輻輳・開散運動深度推定モジュール７２８は、既知の、仮定された、推定された、および／または決定された幾何学形状を利用して、輻輳・開散運動深度を計算してもよい。実施例として、モジュール７２８は、瞳孔中心間の３Ｄ距離、推定されたＩＰＤ、および三角法計算における３Ｄ ＣｏＲ位置を組み合わせて、ユーザの輻輳・開散運動深度を推定（すなわち、決定）してもよい。実際、推定されたＩＰＤに対する瞳孔中心間のそのような決定された３Ｄ距離の評価は、光学無限遠に対するユーザの現在の輻輳・開散運動深度の測定値を示す役割を果たし得る。いくつかの実施例では、輻輳・開散運動深度推定モジュール７２８は、単に、輻輳・開散運動深度のそのような測定値を取得する目的のために、ユーザの瞳孔の推定された中心間の推定された３Ｄ距離を示すデータを受信する、またはそれにアクセスしてもよい。いくつかの実施形態では、輻輳・開散運動深度推定モジュール７２８は、ユーザの左および右光学軸を比較することによって、輻輳・開散運動深度を推定してもよい。特に、輻輳・開散運動深度推定モジュール７２８は、ユーザの左および右光学軸が交差する（または水平平面等の平面上のユーザの左および右光学軸の投影が交差する）、ユーザからの距離を位置特定することによって、輻輳・開散運動深度を推定してもよい。モジュール７２８は、ゼロ深度をユーザの左および右光学軸が、ユーザのＩＰＤによって分離される深度であると設定することによって、本計算において、ユーザのＩＰＤを利用してもよい。少なくともいくつかの実施形態では、輻輳・開散運動深度推定モジュール７２８は、眼追跡データを、既知のまたは導出された空間関係とともに三角測量することによって、輻輳・開散運動深度を決定してもよい。
いくつかの実施形態では、輻輳・開散運動深度推定モジュール７２８は、ユーザが合焦している距離のより正確なインジケーションを提供し得る、ユーザの視軸の交点に基づいて（その光学軸の代わりに）、ユーザの輻輳・開散運動深度を推定してもよい。少なくともいくつかの実施形態では、眼追跡モジュール６１４は、光学軸／視軸マッピングモジュール７３０を含んでもよい。図１０に関連してさらに詳細に議論されるように、ユーザの光学軸および視軸は、概して、整合されない。視軸は、それに沿って人物が見ている軸である一方、光学軸は、その人物の水晶体および瞳孔の中心によって定義され、人物の網膜の中心を通して進み得る。特に、ユーザの視軸は、概して、ユーザの網膜の中心からオフセットされ、それによって、異なる光学および視軸をもたらし得る、ユーザの中心窩の場所によって定義される。これらの実施形態のうちの少なくともいくつかでは、眼追跡モジュール６１４は、光学軸／視軸マッピングモジュール７３０を含んでもよい。光学軸／視軸マッピングモジュール７３０は、ユーザの光学軸と視軸との間の差異を補正し、輻輳・開散運動深度推定モジュール７２８およびライトフィールドレンダリングコントローラ６１８等のウェアラブルシステム内の他のコンポーネントに対するユーザの視軸に関する情報を提供してもよい。いくつかの実施例では、モジュール７３０は、光学軸と視軸との間の内向きの（鼻側に、ユーザの鼻に向かって）約５．２°の典型的オフセットを含む、仮定された眼寸法７０４を使用してもよい。言い換えると、モジュール７３０は、ユーザの左および右光学軸の方向を推定するために、ユーザの左光学軸を５．２°鼻に向かって（鼻側に）右に、ユーザの右光学軸を５．２°鼻に向かって（鼻側に）左に偏移させ得る。他の実施例では、モジュール７３０は、光学軸（例えば、上記に説明されるモジュール７２２によって示されるように）を視軸にマッピングする際、ユーザ毎較正データ７０６を利用してもよい。付加的実施例として、モジュール７３０は、ユーザの光学軸を鼻側に４．０°〜６．５°、４．５°〜６．０°、５．０°〜５．４°等、またはこれらの値のいずれかによって形成される任意の範囲だけ偏移させてもよい。いくつかの配列では、モジュール７３０は、少なくとも部分的に、その年齢、性別、視覚処方箋、または他の関連特性等の特定のユーザの特性に基づいて、偏移を適用してもよく、および／または少なくとも部分的に、特定のユーザのための較正プロセス（すなわち、特定のユーザの光学軸−視軸オフセットを決定するため）に基づいて、偏移を適用してもよい。少なくともいくつかの実施形態では、モジュール７３０はまた、左および右光学軸の原点を偏移させ、ユーザのＣｏＲの代わりに、ユーザのＣｏＰ（モジュール７３２によって決定されるように）に対応させてもよい。
随意の視点中心（ＣｏＰ）推定モジュール７３２が、提供されるとき、ユーザの左および右視点中心（ＣｏＰ）の場所を推定してもよい。ＣｏＰは、ウェアラブルシステムのための有用な場所であって、少なくともいくつかの実施形態では、瞳孔の真正面の位置であり得る。少なくともいくつかの実施形態では、ＣｏＰ推定モジュール７３２は、ユーザの瞳孔中心の３Ｄ場所、ユーザの角膜曲率の中心の３Ｄ場所、またはそのような好適なデータ、もしくはそれらの任意の組み合わせに基づいて、ユーザの左および右視点中心の場所を推定してもよい。実施例として、ユーザのＣｏＰは、角膜曲率の中心の正面の約５．０１ｍｍ（すなわち、角膜球面中心から、眼の角膜に向かい、光学軸に沿った方向に５．０１ｍｍ）にあり得、光学または視軸に沿ってユーザの角膜の外側表面の約２．９７ｍｍ背後にあり得る。ユーザの視点中心は、その瞳孔の中心の真正面にあり得る。実施例として、ユーザのＣｏＰは、ユーザの瞳孔から約２．０ｍｍ未満、ユーザの瞳孔から約１．０ｍｍ未満、またはユーザの瞳孔から約０．５ｍｍ未満、またはこれらの値のいずれか間の任意の範囲であり得る。別の実施例として、視点中心は、眼の前房内の場所に対応し得る。他の実施例として、ＣｏＰは、１．０ｍｍ〜２．０ｍｍ、約１．０ｍｍ、０．２５ｍｍ〜１．０ｍｍ、０．５ｍｍ〜１．０ｍｍ、または０．２５ｍｍ〜０．５ｍｍにあり得る。
（レンダリングカメラのピンホールの潜在的に望ましい位置およびユーザの眼内の解剖学的位置としての）本明細書に説明される視点中心は、望ましくない視差偏移を低減および／または排除する役割を果たす、位置であり得る。特に、ユーザの眼の光学系は、レンズの正面のピンホールが画面上に投影することによって形成される理論的システムにほぼ概ね匹敵し、ピンホール、レンズ、および画面は、それぞれ、ユーザの瞳孔／虹彩、水晶体、および網膜に概ね対応する。さらに、ユーザの眼から異なる距離における２つの点光源（またはオブジェクト）が、ピンホールの開口部を中心として厳密に回転する（例えば、ピンホールの開口部からのその個別の距離と等しい曲率半径に沿って回転される）とき、殆どまたは全く視差偏移が存在しないことが望ましくあり得る。したがって、ＣｏＰは、眼の瞳孔の中心に位置するはずであると考えられるであろう（およびそのようなＣｏＰが、いくつかの実施形態では、使用されてもよい）。しかしながら、ヒトの眼は、水晶体および瞳孔のピンホールに加え、付加的屈折力を網膜に向かって伝搬する光に付与する、角膜を含む。したがって、本段落に説明される理論的システム内のピンホールの解剖学的均等物は、ユーザの眼の角膜の外側表面とユーザの眼の瞳孔または虹彩の中心との間に位置付けられる、ユーザの眼の領域であり得る。例えば、ピンホールの解剖学的均等物は、ユーザの眼の前房内の領域に対応し得る。本明細書で議論される種々の理由から、ＣｏＰをユーザの眼の前房内のそのような位置に設定することが所望され得る。
上記に議論されるように、眼追跡モジュール６１４は、左および右眼回転中心（ＣｏＲ）の推定された３Ｄ位置、輻輳・開散運動深度、左および右眼光学軸、ユーザの眼の３Ｄ位置、ユーザの角膜曲率の左および右中心の３Ｄ位置、ユーザの左および右瞳孔中心の３Ｄ位置、ユーザの左および右視点中心の３Ｄ位置、ユーザのＩＰＤ等のデータを、ウェアラブルシステム内のライトフィールドレンダリングコントローラ６１８および位置合わせオブザーバ６２０等の他のコンポーネントに提供してもよい。眼追跡モジュール６１４はまた、ユーザの眼の他の側面と関連付けられたデータを検出および生成する、他のサブモジュールを含んでもよい。実施例として、眼追跡モジュール６１４は、ユーザが瞬目する度に、フラグまたは他のアラートを提供する、瞬目検出モジュールと、ユーザの眼がサッカードする（すなわち、焦点を別の点に迅速に偏移させる）度に、フラグまたは他のアラートを提供する、サッカード検出モジュールとを含んでもよい。
（レンダリングコントローラの実施例）
例示的ライトフィールドレンダリングコントローラ６１８の詳細なブロック図が、図７Ｂに示される。図６および７Ｂに示されるように、レンダリングコントローラ６１８は、眼追跡情報を眼追跡モジュール６１４から受信してもよく、出力をレンダリングエンジン６２２に提供してもよく、これは、ウェアラブルシステムのユーザによって視認するために表示されるべき画像を生成し得る。実施例として、レンダリングコントローラ６１８は、輻輳・開散運動深度、左および右眼回転中心（および／または視点中心）、および瞬目データ、サッカードデータ等の他の眼データに関する情報を受信してもよい。
深度平面選択モジュール７５０は、輻輳・開散運動深度情報を受信してもよく、そのようなデータに基づいて、レンダリングエンジン６２２に、コンテンツが特定の深度平面（すなわち、特定の遠近調節または焦点距離）上に位置するように現れる状態で、コンテンツをユーザに提供させてもよい。図４に関連して議論されるように、ウェアラブルシステムは、それぞれ、可変レベルの波面曲率を伴う画像情報を伝達する、複数の導波管によって形成される、複数の離散深度平面を含んでもよい。いくつかの実施形態では、ウェアラブルシステムは、経時的に変動するレベルの波面曲率を伴う画像情報を伝達する、光学要素等の１つ以上の可変深度平面を含んでもよい。これらおよび他の実施形態では、深度平面選択モジュール７５０が、レンダリングエンジン６２２に、部分的に、ユーザの輻輳・開散運動深度に基づいて、コンテンツを選択された深度においてユーザに伝達させてもよい（すなわち、レンダリングエンジン６２２に、ディスプレイ２２０に深度平面を切り替えるように指示させる）。少なくともいくつかの実施形態では、深度平面選択モジュール７５０およびレンダリングエンジン６２２は、コンテンツを異なる深度にレンダリングし、また、深度平面選択データを生成し、および／またはディスプレイ２２０等のディスプレイハードウェアに提供してもよい。ディスプレイ２２０等のディスプレイハードウェアは、深度平面選択モジュール７５０およびレンダリングエンジン６２２等のモジュールによって生成および／または提供される深度平面選択データ（制御信号であり得る）に応答して、電気深度平面切替を実施してもよい。
一般に、深度平面選択モジュール７５０が、ユーザが正確な遠近調節キューを提供されるように、ユーザの現在の輻輳・開散運動深度に合致する深度平面を選択することが望ましくあり得る。しかしながら、また、慎重かつ目立たない様式において深度平面を切り替えることが望ましくあり得る。実施例として、深度平面間の過剰な切替を回避することが望ましくあり得、および／または瞬目もしくは眼サッカードの間等のユーザが切替に気付く可能性が低い時間に深度平面を切り替えることが望ましくあり得る。
ヒステリシス帯交点検出モジュール７５２は、特に、ユーザの輻輳・開散運動深度が、２つの深度平面間の中点または遷移点で変動するとき、深度平面間の過剰な切替を回避することに役立ち得る。特に、モジュール７５２は、深度平面選択モジュール７５０に、ヒステリシスを深度平面のその選択に呈させてもよい。実施例として、モジュール７５２は、深度平面選択モジュール７５０に、ユーザの輻輳・開散運動深度が第１の閾値を通過した後のみ、第１のより遠い深度平面から第２のより近い深度平面に切り替えさせてもよい。同様に、モジュール７５２は、深度平面選択モジュール７５０に（ひいては、ディスプレイ２２０等のディスプレイに指示し得る）、ユーザの輻輳・開散運動深度が第１の閾値よりユーザから遠い第２の閾値を通過した後のみ、第１のより遠い深度平面に切り替えさせてもよい。第１の閾値と第２の閾値との間の重複領域では、モジュール７５０は、深度平面選択モジュール７５０に、いずれかの深度平面が選択された深度平面として現在選択されているように維持させ、したがって、深度平面間の過剰な切替を回避してもよい。
眼球イベント検出モジュール７５０は、他の眼データを図７Ａの眼追跡モジュール６１４から受信してもよく、深度平面選択モジュール７５０に、眼球イベントが生じるまで、いくつかの深度平面切替を遅延させてもよい。実施例として、眼球イベント検出モジュール７５０は、深度平面選択モジュール７５０に、ユーザ瞬目が検出されるまで、計画された深度平面切替を遅延させてもよく、眼追跡モジュール６１４内の瞬目検出コンポーネントから、ユーザが現在瞬目していることを示す、データを受信してもよく、それに応答して、深度平面選択モジュール７５０に、瞬目イベントの間、計画された深度平面切替を実行させてもよい（モジュール７５０に、瞬目イベントの間、ディスプレイ２２０に深度平面切替を実行するように指示させることによって等）。少なくともいくつかの実施形態では、ウェアラブルシステムは、ユーザが偏移を知覚する可能性が低いように、瞬目イベントの間、コンテンツを新しい深度平面上に偏移させることが可能であり得る。別の実施例として、眼球イベント検出モジュール７５０は、眼サッカードが検出されるまで、計画された深度平面切替を遅延させてもよい。眼瞬目に関連して議論されるように、そのような配列は、深度平面の離散偏移を促進し得る。
所望に応じて、深度平面選択モジュール７５０は、眼球イベントの不在下であっても、深度平面切替を実行する前に、限定された時間周期にわたってのみ、計画された深度平面切替を遅延させてもよい。同様に、深度平面選択モジュール７５０は、眼球イベントの不在下であっても、ユーザの輻輳・開散運動深度が、現在選択されている深度平面外に実質的にあるとき（すなわち、ユーザの輻輳・開散運動深度が、深度平面切替のための通常閾値を超える所定の閾を超えたとき）、深度平面切替を実行してもよい。これらの配列は、眼球イベント検出モジュール７５４が、深度平面切替を無限に遅延させず、大遠近調節誤差が存在するとき、遅延深度平面切替を遅延させないことを確実にすることに役立ち得る。
レンダリングカメラコントローラ７５８は、ユーザの左および右眼の場所を示す情報を、レンダリングエンジン６２２に提供してもよい。レンダリングエンジン６２２は、次いで、カメラをユーザの左および右眼の位置においてシミュレートし、シミュレートされたカメラの視点に基づいて、コンテンツを生成することによって、コンテンツを生成してもよい。上記に議論されるように、レンダリングカメラは、可能性として、仮想世界内のオブジェクトのデータベースから仮想画像コンテンツをレンダリングする際に使用するためのシミュレートされたカメラである。オブジェクトは、ユーザまたは装着者に対する、可能性として、ユーザまたは装着者を囲繞する環境内の実オブジェクトに対する、場所および配向を有してもよい。レンダリングカメラは、レンダリングエンジン内に含まれ、眼に提示されるべき仮想オブジェクトのデータベースに基づいて、仮想画像をレンダリングしてもよい。仮想画像は、ユーザまたは装着者の視点から撮影されたかのようにレンダリングされてもよい。例えば、仮想画像は、仮想世界内のオブジェクトを視認する、開口、レンズ、および検出器を有する、カメラ（「レンダリングカメラ」に対応する）によって捕捉されたかのようにレンダリングされてもよい。仮想画像は、「レンダリングカメラ」の位置を有する、そのようなカメラの視点から撮影される。例えば、仮想画像は、ユーザまたは装着者の視点からであるように現れる画像を提供するように、ユーザまたは装着者の眼に対する具体的場所を有する、カメラ視点から捕捉されたかのようにレンダリングされてもよい。いくつかの実施形態では、画像は、ユーザまたは装着者の眼に対する具体的場所（本明細書に議論されるような視点中心または回転中心もしくは他の場所等）に開口を有する、カメラ視点から捕捉されたかのようにレンダリングされてもよい。
レンダリングカメラコントローラ７５８は、ＣｏＲ推定モジュール７２４によって決定された左および右眼回転中心（ＣｏＲ）に基づいて、および／またはＣｏＰ推定モジュール７３２によって決定された左および右眼視点中心（ＣｏＰ）に基づいて、左および右カメラの位置を決定してもよい。いくつかの実施形態では、レンダリングカメラコントローラ７５８は、種々の要因に基づいて、ＣｏＲ場所とＣｏＰ場所との間で切り替えてもよい。実施例として、レンダリングカメラコントローラ７５８は、種々のモードでは、レンダリングカメラをＣｏＲ場所に常時位置合わせする、レンダリングカメラをＣｏＰ場所に常時位置合わせする、種々の要因に基づいて、経時的に、ＣｏＲ場所へのレンダリングカメラの位置合わせとＣｏＰ場所へのレンダリングカメラの位置合わせとの間でトグルする、または離散的に切り替える、または種々の要因に基づいて、経時的に、ＣｏＲ場所とＣｏＰ場所との間で光学（または視）軸に沿った異なる位置の範囲のいずれかにレンダリングカメラを動的に位置合わせしてもよい。ＣｏＲおよびＣｏＰ位置は、随意に、平滑フィルタ７５６を通して通過し得（レンダリングカメラ位置付けのための前述のモードのいずれかにおいて）、これは、ＣｏＲおよびＣｏＰ場所を経時的に平均し、これらの位置における雑音を低減させ、シミュレートされたレンダリングカメラをレンダリングする際のジッタを防止し得る。
少なくともいくつかの実施形態では、レンダリングカメラは、眼追跡モジュール６１４によって識別される推定されたＣｏＲまたはＣｏＰの位置に配置されるピンホールを伴うピンホールカメラとしてシミュレートされてもよい。ＣｏＰは、ＣｏＲからオフセットされるため、レンダリングカメラの位置がユーザのＣｏＰに基づくときは常時、レンダリングカメラおよびそのピンホールの両方の場所が、ユーザの眼が回転するにつれて偏移する。対照的に、レンダリングカメラの位置が、ユーザのＣｏＲに基づくときは常時、レンダリングカメラのピンホールの場所は、眼回転に伴って移動しないが、レンダリングカメラ（ピンホールの背後）は、いくつかの実施形態では、眼回転に伴って移動し得る。レンダリングカメラの位置がユーザのＣｏＲに基づく、他の実施形態では、レンダリングカメラは、ユーザの眼に伴って移動（すなわち、回転）しなくてもよい。
（位置合わせオブザーバの実施例）
例示的位置合わせオブザーバ６２０のブロック図が、図７Ｃに示される。図６、７Ａ、および７Ｃに示されるように、位置合わせオブザーバ６２０は、眼追跡情報を眼追跡モジュール６１４（図６および７Ａ）から受信してもよい。実施例として、位置合わせオブザーバ６２０は、ユーザの左および右眼回転中心（例えば、共通座標系上にある、または頭部搭載型ディスプレイシステム６００との基準共通フレームを有し得る、ユーザの左および右眼回転中心の３次元位置）に関する情報を受信してもよい。他の実施例として、位置合わせオブザーバ６２０は、ディスプレイ付帯性質、フィット感公差、および眼追跡有効インジケータを受信してもよい。ディスプレイ付帯性質は、ディスプレイの視野、１つ以上のディスプレイ表面のサイズ、および頭部搭載型ディスプレイシステム６００に対するディスプレイ表面の位置等のディスプレイ（例えば、図２のディスプレイ２００）に関する情報を含んでもよい。フィット感公差は、ユーザの左および右眼が、ディスプレイ性能が影響される前に公称位置から移動し得る距離を示し得る、ディスプレイ位置合わせ体積に関する情報を含んでもよい。加えて、フィット感公差は、ユーザの眼の位置の関数として予期される、ディスプレイ性能影響の量を示してもよい。
図７Ｃに示されるように、位置合わせオブザーバ６２０は、３Ｄ位置フィット感モジュール７７０を含んでもよい。位置フィット感モジュール７７０は、実施例として、左眼回転中心３Ｄ位置（例えば、ＣｏＲ左）、右眼回転中心３Ｄ位置（例えば、ＣｏＲ右）、ディスプレイ付帯性質、およびフィット感公差を含む、種々のデータを取得および分析してもよい。３Ｄ位置フィット感モジュール７７０は、個別の左および右眼公称位置からのユーザの左および右眼の距離を決定してもよく（例えば、３Ｄ左誤差および３Ｄ右誤差を計算してもよく）、誤差距離（例えば、３Ｄ左誤差および３Ｄ右誤差）をデバイス３Ｄフィット感モジュール７７２に提供してもよい。
３Ｄ位置フィット感モジュール７７０はまた、ディスプレイ付帯性質およびフィット感公差までの誤差距離を比較してユーザの眼が、公称体積、部分的に劣化された体積（例えば、その中でディスプレイ２２０の性能が部分的に劣化された体積）、または完全に劣化されたまたはほぼ完全に劣化された体積（例えば、その中でディスプレイ２２０がコンテンツをユーザの眼に提供することが実質的に不可能である体積）内にあるかどうかを決定してもよい。少なくともいくつかの実施形態では、３Ｄ位置フィット感モジュール７７０または３Ｄフィット感モジュール７７２は、図７Ｃに示されるフィット感の品質出力等のユーザ上のＨＭＤのフィット感を定質的に説明する出力を提供してもよい。実施例として、モジュール７７０は、ユーザ上のＨＭＤの現在のフィット感が、良好、許容内、または失敗であるかどうかを示す、出力を提供してもよい。良好なフィット感は、ユーザが画像の少なくともあるパーセンテージ（９０％等）を視認することを可能にするフィット感に対応し得、許容内フィット感は、ユーザが画像の少なくともより低いパーセンテージ（８０％等）を視認することを可能にし得る一方、失敗フィット感は、画像のさらにより低いパーセンテージのみがユーザに可視である、フィット感であり得る。
別の実施例として、３Ｄ位置フィット感モジュール７７０および／またはデバイス３Ｄフィット感モジュール７７２は、ユーザに可視のディスプレイ２２０によって表示される画像の全体的エリア（またはピクセル）のパーセンテージであり得る、可視エリアメトリックを計算してもよい。モジュール７７０および７７２は、１つ以上のモデル（例えば、数学的または幾何学的モデル）、１つ以上のルックアップテーブル、またはユーザの眼の位置の関数としてユーザに可視の画像のパーセンテージを決定するための他の技法、もしくはこれらおよび他の技法の組み合わせを使用して、ディスプレイ２２０に対するユーザの左および右眼の位置（例えば、ユーザの眼の回転中心に基づき得る）を評価することによって、可視エリアメトリックを計算してもよい。加えて、モジュール７７０および７７２は、ユーザの眼の位置の関数としてユーザに可視であることが予期される、ディスプレイ２２０によって表示される画像の領域または部分を決定してもよい。
位置合わせオブザーバ６２０はまた、デバイス３Ｄフィット感モジュール７７２を含んでもよい。モジュール７７２は、データを３Ｄ位置フィット感モジュール７７０から受信してもよく、また、眼追跡モジュール６１４によって提供され得、眼追跡システムがユーザの眼の位置を現在追跡しているかどうか、または眼追跡データが利用不可能である、もしくはエラー条件下にある（例えば、信頼性がないと決定された）かどうかを示し得る、眼追跡有効インジケータを受信してもよい。デバイス３Ｄフィット感モジュール７７２は、所望に応じて、眼追跡有効データの状態に応じて、３Ｄ位置フィット感モジュール７７０から受信されたフィット感の質データを修正してもよい。例えば、眼追跡システムからのデータが、利用可能ではない、またはエラーを有することが示される場合、デバイス３Ｄフィット感モジュール７７２は、エラーが存在することの通知を提供し、および／またはフィット感の質またはフィット感誤差に関する出力をユーザに提供しなくてもよい。
少なくともいくつかの実施形態では、位置合わせオブザーバ６２０は、フィット感の質ならびに誤差の性質および大きさの詳細に関するフィードバックをユーザに提供してもよい。実施例として、頭部搭載型ディスプレイシステムは、較正またはフィッティングプロセスの間、フィードバックをユーザに提供してもよく（例えば、設定プロシージャの一部として）、動作の間もフィードバックを提供してもよい（例えば、フィット感が、滑脱に起因して劣化する場合、位置合わせオブザーバ６２０は、頭部搭載型ディスプレイシステムを再調節するようにユーザにプロンプトしてもよい）。いくつかの実施形態では、位置合わせ分析は、自動的に実施されてもよく（例えば、頭部搭載型ディスプレイシステムの使用の間）、フィードバックは、ユーザ入力を伴わずに提供されてもよい。これらは、単に、例証的実施例である。
（眼追跡システムを用いてユーザの角膜を位置特定する実施例）
図８Ａは、眼の角膜球面を示す、眼の概略図である。図８Ａに示されるように、ユーザの眼８１０は、角膜８１２と、瞳孔８２２と、水晶体８２０とを有し得る。角膜８１２は、角膜球面８１４によって示される、略球状形状を有し得る。角膜球面８１４は、角膜中心とも称される、中心点８１６と、半径８１８とを有し得る。ユーザの眼の半球状角膜は、角膜中心８１６の周囲に湾曲し得る。
図８Ｂ−８Ｅは、３Ｄ角膜中心推定モジュール７１６および眼追跡モジュール６１４を使用してユーザの角膜中心８１６を位置特定する、実施例を図示する。
図８Ｂに示されるように、３Ｄ角膜中心推定モジュール７１６は、角膜閃光８５４を含む、眼追跡画像８５２を受信してもよい。３Ｄ角膜中心推定モジュール７１６は、次いで、光線８５６を眼カメラ座標系内に投射するために、眼カメラ座標系８５０内において、眼カメラ３２４および光源３２６の既知の３Ｄ位置（眼追跡付帯性質および固有性質データベース７０２、仮定された眼寸法データベース７０４、および／またはユーザ毎較正データ７０６内のデータに基づき得る）をシミュレートしてもよい。少なくともいくつかの実施形態では、眼カメラ座標系８５０は、その原点を眼追跡カメラ３２４の３Ｄ位置に有してもよい。
図８Ｃでは、３Ｄ角膜中心推定モジュール７１６は、第１の位置における角膜球面８１４ａ（データベース７０４からの仮定された眼寸法に基づき得る）および角膜曲率中心８１６ａをシミュレートする。３Ｄ角膜中心推定モジュール７１６は、次いで、角膜球面８１４ａが、光を光源３２６から閃光位置８５４に適切に反射させるであろうかどうかをチェックしてもよい。図８Ｃに示されるように、第１の位置は、光線８６０ａが光源３２６と交差しないため、合致しない。
図８Ｄと同様に、３Ｄ角膜中心推定モジュール７１６は、第２の位置における角膜球面８１４ｂおよび角膜曲率中心８１６ｂをシミュレートする。３Ｄ角膜中心推定モジュール７１６は、次いで、角膜球面８１４ｂが、光を光源３２６から閃光位置８５４に適切に反射させるかどうかをチェックする。図８Ｄに示されるように、第２の位置もまた、合致しない。
図８Ｅに示されるように、３Ｄ角膜中心推定モジュール７１６は、最終的に、角膜球面の正しい位置が角膜球面８１４ｃおよび角膜曲率中心８１６ｃであることを決定することが可能である。３Ｄ角膜中心推定モジュール７１６は、源３２６からの光が、角膜球面から適切に反射し、カメラ３２４によって画像８５２上の閃光８５４の正しい場所に結像されるであろうことをチェックすることによって、図示される位置が正しいことを確認する。本配列、および光源３２６、カメラ３２４の既知の３Ｄ位置、ならびにカメラの光学性質（焦点距離等）を用いることで、３Ｄ角膜中心推定モジュール７１６は、角膜の曲率の中心８１６の３Ｄ場所（ウェアラブルシステムに対する）を決定し得る。
少なくとも図８Ｃ−８Ｅに関連して本明細書に説明されるプロセスは、事実上、ユーザの角膜中心の３Ｄ位置を識別するための反復、繰り返し、または最適化プロセスであり得る。したがって、複数の技法（例えば、反復、最適化技法等）のいずれかが、効率的かつ迅速に選別する、または可能性として考えられる位置の検索空間を低減させるために使用されてもよい。さらに、いくつかの実施形態では、システムは、光源３２６等の２つ、３つ、４つ、またはそれよりも多い光源を含んでもよく、これらの光源の全てのうちのいくつかは、異なる位置に配置され、画像８５２上の異なる位置に位置する、閃光８５４等の複数の閃光ならびに異なる原点および方向を有する、光線８５６等の複数の光線をもたらしてもよい。そのような実施形態は、モジュール７１６が、閃光および光線の一部または全部がその個別の光源と画像８５２上のその個別の位置との間に適切に反射される結果をもたらす、角膜位置を識別することを模索し得るため、３Ｄ角膜中心推定モジュール７１６の正確度を向上させ得る。言い換えると、これらの実施形態では、光源の一部または全部の位置が、図８Ｂ−８Ｅの３Ｄ角膜位置決定（例えば、反復、最適化技法等）プロセスに依拠し得る。
（眼追跡画像の座標系を正規化する実施例）
図９Ａ−９Ｃは、図７Ａの座標系正規化モジュール７１８等のウェアラブルシステム内のコンポーネントによる、眼追跡画像の座標系の例示的正規化を図示する。ユーザの瞳孔場所に対する眼追跡画像の座標系の正規化は、ユーザの顔に対するウェアラブルシステムの滑脱（すなわち、ヘッドセット滑脱）を補償し得、そのような正規化は、眼追跡画像とユーザの眼との間の一貫した配向および距離を確立し得る。
図９Ａに示されるように、座標系正規化モジュール７１８は、ユーザの角膜の回転中心の推定された３Ｄ座標９００を受信してもよく、画像８５２等の非正規化眼追跡画像を受信してもよい。眼追跡画像８５２および座標９００は、実施例として、眼追跡カメラ３２４の場所に基づく、非正規化座標系８５０内にあってもよい。
第１の正規化ステップでは、座標系正規化モジュール７１８は、図９Ｂに示されるように、座標系のｚ−軸（すなわち、輻輳・開散運動深度軸）が、座標系の原点と角膜曲率中心座標９００との間のベクトルと整合され得るように、座標系８５０を回転座標系９０２の中に回転させてもよい。特に、座標系正規化モジュール７１８は、ユーザの角膜曲率中心の座標９００が、回転画像９０４の平面に対して法線となるまで、眼追跡画像８５０を回転眼追跡画像９０４の中に回転させてもよい。
第２の正規化ステップとして、座標系正規化モジュール７１８は、図９Ｃに示されるように、角膜曲率中心座標９００が、正規化された座標系９１０の原点から標準的正規化された距離９０６にあるように、回転座標系９０２を正規化された座標系９１０の中に平行移動させてもよい。特に、座標系正規化モジュール７１８は、回転眼追跡画像９０４を正規化された眼追跡画像９１２の中に平行移動させてもよい。少なくともいくつかの実施形態では、標準的正規化された距離９０６は、約３０ミリメートルであってもよい。所望に応じて、第２の正規化ステップは、第１の正規化ステップに先立って実施されてもよい。
（眼追跡システムを用いてユーザの瞳孔重心を位置特定する実施例）
図９Ｄ−９Ｇは、３Ｄ瞳孔中心ロケータモジュール７２０および眼追跡モジュール６１４を使用してユーザの瞳孔中心（すなわち、図８Ａに示されるように、ユーザの瞳孔８２２の中心）を位置特定する、実施例を図示する。
図９Ｄに示されるように、３Ｄ瞳孔中心ロケータモジュール７２０は、瞳孔重心９１３（すなわち、瞳孔識別モジュール７１２によって識別されるようなユーザの瞳孔の中心）を含む、正規化された眼追跡画像９１２を受信してもよい。３Ｄ瞳孔中心ロケータモジュール７２０は、次いで、眼カメラ３２４の正規化された３Ｄ位置９１０をシミュレートし、瞳孔重心９１３を通して、光線９１４を正規化された座標系９１０内に投射してもよい。
図９Ｅでは、３Ｄ瞳孔中心ロケータモジュール７２０は、３Ｄ角膜中心推定モジュール７１６からのデータに基づいて（および図８Ｂ−８Ｅに関連してより詳細に議論されるように）、曲率中心９００を有する角膜球面９０１等の角膜球面をシミュレートしてもよい。実施例として、角膜球面９０１は、図８Ｅに関連して識別された曲率中心８１６ｃの場所に基づいて、および図９Ａ−９Ｃの正規化プロセスに基づいて、正規化された座標系９１０内に位置付けられてもよい。加えて、３Ｄ瞳孔中心ロケータモジュール７２０は、図９Ｅに示されるように、光線９１４（すなわち、正規化された座標系９１０の原点とユーザの瞳孔の正規化された場所との間の光線）とシミュレートされた角膜との間の第１の交点９１６を識別してもよい。
図９Ｆに示されるように、３Ｄ瞳孔中心ロケータモジュール７２０は、角膜球面９０１に基づいて、瞳孔球面９１８を決定してもよい。瞳孔球面９１８は、角膜球面９０１と共通曲率中心を共有するが、小半径を有し得る。３Ｄ瞳孔中心ロケータモジュール７２０は、角膜中心と瞳孔中心との間の距離に基づいて、角膜中心９００と瞳孔球面９１８との間の距離（すなわち、瞳孔球面９１８の半径）を決定してもよい。いくつかの実施形態では、瞳孔中心と角膜曲率中心との間の距離は、図７Ａの仮定された眼寸法７０４から、眼追跡付帯性質および固有性質データベース７０２から、および／またはユーザ毎較正データ７０６から決定されてもよい。他の実施形態では、瞳孔中心と角膜曲率中心との間の距離は、図７Ａのユーザ毎較正データ７０６から決定されてもよい。
図９Ｇに示されるように、３Ｄ瞳孔中心ロケータモジュール７２０は、種々の入力に基づいて、ユーザの瞳孔中心の３Ｄ座標を位置特定してもよい。実施例として、３Ｄ瞳孔中心ロケータモジュール７２０は、瞳孔球面９１８の３Ｄ座標および半径、シミュレートされた角膜球面９０１と正規化された眼追跡画像９１２内の瞳孔重心９１３と関連付けられた光線９１４との間の交点９１６の３Ｄ座標、角膜の屈折率に関する情報、および空気の屈折率等の他の関連情報（眼追跡付帯性質および固有性質データベース７０２内に記憶されてもよい）を利用して、ユーザの瞳孔の中心の３Ｄ座標を決定してもよい。特に、３Ｄ瞳孔中心ロケータモジュール７２０は、シミュレーションにおいて、空気（約１．００の第１の屈折率における）と角膜材料（約１．３８の第２の屈折率における）との間の屈折差に基づいて、光線９１６を屈折された光線９２２の中に屈曲させてもよい。角膜によって生じる屈折を考慮後、３Ｄ瞳孔中心ロケータモジュール７２０は、屈折された光線９２２と瞳孔球面９１８との間の第１の交点９２０の３Ｄ座標を決定してもよい。３Ｄ瞳孔中心ロケータモジュール７２０は、ユーザの瞳孔中心９２０が屈折された光線９２２と瞳孔球面９１８との間のおおよそ第１の交点９２０に位置することを決定してもよい。本配列を用いることで、３Ｄ瞳孔中心ロケータモジュール７２０は、瞳孔中心９２０の３Ｄ場所（ウェアラブルシステムに対する）を正規化された座標系９１０内で決定し得る。所望に応じて、ウェアラブルシステムは、瞳孔中心９２０の座標をオリジナル眼カメラ座標系８５０の中に正規化解除してもよい。瞳孔中心９２０は、角膜曲率中心９００とともに使用され、とりわけ、光学軸決定モジュール７２２を使用して、ユーザの光学軸と、輻輳・開散運動深度推定モジュール７２８によって、ユーザの輻輳・開散運動深度とを決定してもよい。
（光学軸と視軸との間の差異の実施例）
図７Ａの光学軸／視軸マッピングモジュール７３０に関連して議論されるように、ユーザの光学軸および視軸は、部分的に、ユーザの視軸がその中心窩によって定義され、中心窩が概して人物の網膜の中心にないことに起因して、概して、整合されない。したがって、人物が、特定のオブジェクトに集中することを所望するとき、人物は、その視軸をそのオブジェクトと整合させ、その光学軸（その瞳孔の中心およびその角膜の曲率中心によって定義される）が、実際には、そのオブジェクトから若干オフセットされる間、オブジェクトからの光がその中心窩上に当たることを確実にする。図１０は、眼の光学軸１００２と、眼の視軸１００４と、これらの軸間のオフセットとを図示する、眼１０００の実施例である。加えて、図１０は、眼の瞳孔中心１００６と、眼の角膜曲率の中心１００８と、眼の平均回転中心（ＣｏＲ）１０１０とを図示する。少なくともいくつかの母集団では、眼の角膜曲率の中心１００８は、寸法１０１２によって示されるように、眼の平均回転中心（ＣｏＲ）１０１０の正面の約４．７ｍｍにあり得る。加えて、眼の視点中心１０１４は、眼の角膜曲率の中心１００８の正面の約５．０１ｍｍ、ユーザの角膜の外側表面１０１６の約２．９７ｍｍ背後、および／またはユーザの瞳孔中心１００６の真正面（例えば、眼１０００の前房内の場所に対応する）にあり得る。付加的実施例として、寸法１０１２は、３．０ｍｍ〜７．０ｍｍ、４．０〜６．０ｍｍ、４．５〜５．０ｍｍ、または４．６〜４．８ｍｍ、もしくははこれらの範囲のいずれか内の任意の値と任意の値との間の任意の範囲であってもよい。眼の視点中心（ＣｏＰ）１０１４は、少なくともいくつかの実施形態では、レンダリングカメラをＣｏＰに位置合わせすることが、視差アーチファクトを低減または排除することに役立ち得るため、ウェアラブルシステムのための有用な場所であり得る。
図１０はまた、それとレンダリングカメラのピンホールが整合され得る、ヒトの眼１０００内のそのような場所を図示する。図１０に示されるように、レンダリングカメラのピンホールは、ヒトの眼１０００の（ａ）瞳孔または虹彩１００６の中心および（ｂ）角膜曲率の中心１００８の両方より角膜の外側表面に近い、ヒトの眼１０００の光学軸１００２または視軸１００４に沿った場所１０１４と位置合わせされてもよい。例えば、図１０に示されるように、レンダリングカメラのピンホールは、角膜１０１６の外側表面から後方に約２．９７ミリメートルおよび角膜曲率の中心１００８から前方に約５．０１ミリメートルにある、ヒトの眼１０００の光学軸１００２に沿った場所１０１４と位置合わせされてもよい。レンダリングカメラのピンホールの場所１０１４および／またはそれに対して場所１０１４が対応するヒトの眼１０００の解剖学的領域は、ヒトの眼１０００の視点中心を表すと見なされ得る。図１０に示されるようなヒトの眼１０００の光学軸１００２は、角膜曲率の中心１００８および瞳孔または虹彩１００６の中心を通る最短線を表す。ヒトの眼１０００の視軸１００４は、ヒトの眼１０００の中心窩から瞳孔または虹彩１００６の中心まで延在する線を表すため、光学軸１００２と異なる。
（コンテンツをレンダリングし、眼追跡に基づいて位置合わせをチェックする例示的プロセス）
図１１は、コンテンツをレンダリングする際、眼追跡を使用して、ウェアラブルデバイス内の位置合わせに関するフィードバックを提供するための例示的方法１１００のプロセスフロー図である。方法１１００は、本明細書に説明されるウェアラブルシステムによって実施されてもよい。方法１１００の実施形態は、ウェアラブルシステムによって、コンテンツをレンダリングし、眼追跡システムからのデータに基づいて、位置合わせ（すなわち、ユーザとのウェアラブルデバイスのフィット感）に関するフィードバックを提供するために使用されてもよい。
ブロック１１１０では、ウェアラブルシステムは、ユーザの片眼または両眼の画像を捕捉してもよい。ウェアラブルシステムは、少なくとも図３の実施例に示されるように、１つ以上の眼カメラ３２４を使用して、眼画像を捕捉してもよい。所望に応じて、ウェアラブルシステムはまた、ＩＲ光をユーザの眼上で光輝させ、対応する閃光を眼カメラ３２４によって捕捉された眼画像内に生産するように構成される、１つ以上の光源３２６を含んでもよい。本明細書に議論されるように、閃光は、眼追跡モジュール６１４によって、眼が見ている場所を含む、ユーザの眼についての種々の情報を導出するために使用されてもよい。
ブロック１１２０では、ウェアラブルシステムは、ブロック１１１０において捕捉された眼画像内で閃光および瞳孔を検出してもよい。実施例として、ブロック１１２０は、閃光検出および標識化モジュール７１４によって、眼画像を処理し、眼画像内の閃光の２次元位置を識別するステップと、瞳孔識別モジュール７１２によって、眼画像を処理し、眼画像内の瞳孔の２次元位置を識別するステップとを含んでもよい。
ブロック１１３０では、ウェアラブルシステムは、ウェアラブルシステムに対するユーザの左および右角膜の３次元位置を推定してもよい。実施例として、ウェアラブルシステムは、ユーザの左および右角膜の曲率中心の位置ならびにそれらの曲率中心とユーザの左および右角膜との間の距離を推定してもよい。ブロック１１３０は、少なくとも図７Ａおよび８Ａ−８Ｅに関連して本明細書に説明されるように、曲率中心の位置を識別する３Ｄ角膜中心推定モジュール７１６を伴ってもよい。
ブロック１１４０では、ウェアラブルシステムは、ウェアラブルシステムに対するユーザの左および右瞳孔中心の３次元位置を推定してもよい。実施例として、ウェアラブルシステムおよび３Ｄ瞳孔中心ロケータモジュール７２０は、特に、少なくとも図７Ａおよび９Ｄ−９Ｇに関連して説明されるように、ブロック１１４０の一部として、ユーザの左および右瞳孔中心の位置を推定してもよい。
ブロック１１５０では、ウェアラブルシステムは、ウェアラブルシステムに対するユーザの左および右中心または回転（ＣｏＲ）の３次元位置を推定してもよい。実施例として、ウェアラブルシステムおよびＣｏＲ推定モジュール７２４は、特に、少なくとも図７Ａおよび１０に関連して説明されるように、ユーザの左および右眼に関するＣｏＲの位置を推定してもよい。特定の実施例として、ウェアラブルシステムは、角膜の曲率中心から網膜に向かう光学軸に沿って逆行することによって、眼のＣｏＲを見出し得る。
ブロック１１６０では、ウェアラブルシステムは、ユーザのＩＰＤ、輻輳・開散運動深度、視点中心（ＣｏＰ）、光学軸、視軸、および他の所望の属性を眼追跡データから推定してもよい。実施例として、ブロック１１６０の一部として、ＩＰＤ推定モジュール７２６は、左および右ＣｏＲの３Ｄ位置を比較することによって、ユーザのＩＰＤを推定してもよく、輻輳・開散運動深度推定モジュール７２８は、左光学軸と右光学軸の交点（または近交点）または左視軸と右視軸の交点を見出すことによって、ユーザの深度を推定してもよく、光学軸決定モジュール７２２は、左および右光学軸を経時的に識別してもよく、光学軸／視軸マッピングモジュール７３０は、左および右視軸を経時的に識別してもよく、ＣｏＰ推定モジュール７３２は、左および右視点中心を識別してもよい。
ブロック１１７０では、ウェアラブルシステムは、コンテンツをレンダリングしてもよく、随意に、ブロック１１２０−１１６０において識別された眼追跡データに部分的に基づいて、位置合わせに関するフィードバック（すなわち、ユーザの頭部とのウェアラブルシステムのフィット感）を提供してもよい。実施例として、ウェアラブルシステムは、ライトフィールドレンダリングコントローラ６１８（図７Ｂ）およびレンダリングエンジン６２２に関連して議論されるように、レンダリングカメラのための好適な場所を識別し、次いで、レンダリングカメラの場所に基づいて、ユーザのためのコンテンツを生成してもよい。別の実施例として、ウェアラブルシステムは、位置合わせオブザーバ６２０に関連して議論されるように、ユーザに適切にフィットされているか、またはユーザに対するその適切な場所から滑脱しているかどうかを決定してもよく、デバイスのフィット感が調節の必要があるかどうかを示す、随意のフィードバックをユーザに提供してもよい。いくつかの実施形態では、ウェアラブルシステムは、不適切なまたはずれた位置合わせの影響を低減させる、最小限にする、または補償する試みにおいて、不適切なまたは準理想的位置合わせに基づいて、レンダリングされたコンテンツを調節してもよい。
（デバイス位置合わせの概要）
本明細書に説明されるウェアラブルシステム２００が、高知覚画質の画像を出力するために、ウェアラブルシステム２００（図２）のディスプレイ２２０は、好ましくは、ユーザに適切にフィットされる（例えば、システム２００の入力および出力が、ユーザの頭部の対応する部分と適切にインターフェースをとるように、かつデバイスが、装着および使用するために安定かつ快適であるように、ユーザの頭部に対して位置付けられ、配向されている）。実施例として、ディスプレイ２２０が、視覚的コンテンツをユーザの眼に提供するために、ディスプレイ２２０は、好ましくは、ユーザの眼の正面に位置し、ディスプレイ２２０の関連性質に応じて、ユーザの眼は、好ましくは、特定の体積内に位置する。付加的実施例として、スピーカ２４０が、好ましくは、ユーザの耳の近傍、その上、またはその中に位置し、高品質オーディオコンテンツをユーザに提供し、オーディオセンサ（例えば、マイクロホン）２３２が、好ましくは、特定のエリア内に位置し、音をユーザから受信し、内向きに面した結像システム４６２（１つ以上のカメラ３２４と、１つ以上の赤外線光源３２６とを含んでもよい）が、好ましくは、ユーザの眼の鮮明な妨害のない画像を取得するための位置および配向に適切に位置する（眼追跡システムの一部であってもよい）。これらは、単に、ウェアラブルシステム２００が、好ましくは、ユーザに適切にフィットされる、種々の理由の実施例である。
ウェアラブルシステム２００が、ユーザに適切に位置合わせされていることを確実にするために、ウェアラブルシステム２００は、図６の位置合わせオブザーバ６２０等の位置合わせオブザーバを含んでもよい。いくつかの実施形態では、適切に位置合わせされているウェアラブルシステム２００は、ユーザの片眼または両眼が、十分な画像光を受光し、ウェアラブルディスプレイシステム２００のディスプレイ２２０によって提供される視野の実質的に全体を見ることが可能であるように位置付けられる、ディスプレイを含む。例えば、適切に位置合わせされているディスプレイは、８０％以上の、約８５％以上の、約９０％以上の、または約９５％以上の明度均一性を伴って、ディスプレイの視野の約８０％以上の、約８５％以上の、約９０％以上の、または約９５％以上の割合を横断して、画像が見えることを可能にし得る。明度均一性は、ディスプレイが視野全体を通して同一コンテンツを表示するとき、ディスプレイの視野の全体を横断した最大輝度によって除算される最小輝度に１００％を乗算したもの（１００％×Ｌｍｉｎ／Ｌｍａｘ）と等しくあり得ることを理解されたい。
位置合わせオブザーバ６２０は、種々のセンサを使用して、ウェアラブルシステム２００がユーザ上にフィットされている程度（例えば、ウェアラブルシステム２００のディスプレイ２２０がユーザ上に適切に位置付けられているかどうか）を決定してもよい。実施例として、位置合わせオブザーバ６２０は、眼追跡システムを含み得る、内向きに面した結像システム４６２を使用して、ウェアラブルシステム２００の関連部分が、ユーザ、特に、ユーザの眼、耳、口、またはウェアラブルシステム２００とインターフェースをとる他の部分に対して空間的に配向される程度を決定してもよい。
位置合わせオブザーバ６２０は、特定のユーザのためのウェアラブルシステム２００の初期または後続構成もしくは設定等の較正プロセスを補助してもよい。実施例として、位置合わせオブザーバ６２０は、その特定のユーザのためのウェアラブルシステム２００の構成または設定の間、フィードバックをユーザに提供してもよい。加えて、または代替として、位置合わせオブザーバ６２０は、持続的または断続的に、ユーザ上のウェアラブルシステム２００の位置合わせを監視し、使用の間の継続的適切な位置合わせをチェックしてもよく、ユーザフィードバックをオンザフライで提供してもよい。位置合わせオブザーバ６２０は、構成プロセスの一部として、または使用の間の位置合わせ監視の一部としてのいずれかにおいて、ウェアラブルシステム２００が適切に位置合わせされているとき、およびウェアラブルシステム２００が適切に位置合わせされていないときを示す、ユーザフィードバックを提供してもよい。位置合わせオブザーバ６２０はまた、ユーザが、任意の位置合わせずれを補正し、適切な位置合わせを達成し得る方法のための特定の推奨を提供してもよい。実施例として、位置合わせオブザーバ６２０が、（ユーザの鼻梁から下方に等の）ウェアラブルデバイスの滑脱を検出後、ユーザにウェアラブルデバイスを上方に押し戻すように推奨し得ること、ユーザがウェアラブルデバイスのいくつかの調節可能コンポーネントを調節することを推奨し得ること等が挙げられる。
（位置合わせ座標系の実施例）
図１２Ａ−１２Ｂは、本明細書に説明されるウェアラブルシステムのディスプレイに対するユーザの左および右眼の３次元位置を定義するために使用され得る、例示的眼位置座標系を図示する。実施例として、座標系は、軸ｘ、ｙ、およびｚを含んでもよい。座標系の軸ｚは、ユーザの眼がある平面とディスプレイ２２０がある平面との間の距離等の深度（例えば、ユーザの顔の正面の平面に対して法線の方向）に対応し得る。座標系の軸ｘは、ユーザの左眼と右眼との間の距離等の左右方向に対応し得る。言い換えると、軸ｘは、概して、眼球間軸（例えば、回転中心等の合致する左および右眼特徴間の線）と平行であり得る。座標系の軸ｙは、ユーザが直立しているときの垂直方向であり得る、上下方向に対応し得る。
図１２Ａは、ユーザの眼１２００の側面図およびディスプレイ表面１２０２（図２のディスプレイ２２０の一部であり得る）を図示する一方、図１２Ｂは、ユーザの眼１２００の上下図およびディスプレイ表面１２０２を図示する。ディスプレイ表面１２０２は、ユーザの眼の正面に位置してもよく、画像光をユーザの眼に出力してもよい。実施例として、ディスプレイ表面１２０２は、１つ以上の外部結合光要素、アクティブまたはピクセルディスプレイ要素を備えてもよく、図４のスタックされた導波管アセンブリ４８０等の導波管のスタックの一部であってもよい。いくつかの実施形態では、ディスプレイ表面１２０２は、平面であってもよい。いくつかの他の実施形態では、ディスプレイ表面１２０２は、他のトポロジを有してもよい（例えば、湾曲される）。ディスプレイ表面１２０２は、ディスプレイの物理的表面、または単に、そこから、画像光がディスプレイ２２０からユーザの眼に伝搬すると理解される、平面もしくは他の想像上の表面であってもよいことを理解されたい。
図１２Ａに示されるように、ユーザの眼１２００は、公称位置１２０６からオフセットされた実際の位置１２０４を有し得、ディスプレイ表面１２０２は、位置１２１４にあってもよい。図１２Ａはまた、ユーザの眼１２００の角膜頂点１２１２を図示する。ユーザの通視線（例えば、その光学軸および／または視軸）は、実際の位置１２０４と角膜頂点１２１２との間の線に実質的に沿ってあり得る。図１２Ａおよび１２Ｂに示されるように、実際の位置１２０４は、ｚ−オフセット１２１０、ｙ−オフセット１２０８、およびｘ−オフセット１２０９だけ公称位置１２０６からオフセットされ得る。公称位置１２０６は、ディスプレイ表面１２０２に対するユーザの眼１２００のための好ましい位置（時として、所望の体積内に概して心合され得る、設計位置とも称される）を表し得る。ユーザの眼１２００が、公称位置１２０６から離れるように移動するにつれて、ディスプレイ表面１２０２の性能は、劣化され得る。
ユーザの眼１２００と関連付けられた点または体積が、本明細書の位置合わせの分析におけるユーザの眼の位置を表すために使用され得ることを理解されたい。代表的点または体積は、好ましくは、一貫して使用される、眼１２００と関連付けられた任意の点または体積であり得る。例えば、点または体積は、眼１２００上または内にあってもよい、もしくは眼１２００から離れるように配置されてもよい。いくつかの実施形態では、点または体積は、眼１２００の回転中心である。回転中心は、本明細書に説明されるように決定され得、眼１２００内の種々の軸上に概ね対称的に配置され、光学軸と整合される単一ディスプレイ位置合わせ体積が分析のために利用されることを可能にするため、位置合わせ分析を簡略化するための利点を有し得る。
図１２Ａはまた、ディスプレイ表面１２０２が、（ユーザがその光学軸が地面と平行な状態で真っ直ぐ見ているときにｙ−軸に沿って見られるような）ユーザの水平線の下方に心合され得、（ｙ−軸に対して）傾斜され得ることを図示する。特に、ディスプレイ表面１２０２は、ユーザが、眼１２００が位置１２０６にあるとき、ディスプレイ表面１２０２の中心を見るために、おおよそ角度１２１６において見下ろす必要があるであろうように、ユーザの水平線の若干下方に配置され得る。これは、ユーザがその水平線の上方よりその水平線の下方のコンテンツを視認することがより快適であり得るため、特に、より短い深度（またはユーザからの距離）にレンダリングされたコンテンツを視認するとき、ディスプレイ表面１２０２とのより自然かつ快適な相互作用を促進し得る。加えて、ディスプレイ表面１２０２は、ユーザがディスプレイ表面１２０２の中心を見ている（例えば、下記のユーザの水平線の若干下方を見ている）とき、ディスプレイ表面１２０２が、ユーザの通視線と略垂直であるように、（ｙ−軸に対して）角度１２１８等で傾斜され得る。少なくともいくつかの実施形態では、ディスプレイ表面１２０２はまた、ユーザの眼の公称位置に対して（例えば、ｘ−軸に沿って）左または右に偏移されてもよい。実施例として、ユーザの通視線が、無限遠未満のある距離に合焦されるとき、ディスプレイ表面の中心に衝打するように、左眼ディスプレイ表面は、右に偏移されてもよく、右眼ディスプレイ表面は、左に偏移されてもよい（例えば、ディスプレイ表面１２０２は、相互に向かって偏移されてもよく）、これは、ウェアラブルデバイス上での典型的使用の間のユーザ快適性を増加させ得る。
（左および右眼ディスプレイをユーザの頭部上で垂直に整合させる実施例）
前述のように、頭部搭載型ディスプレイ（ＨＭＤ）（例えば、図３のウェアラブルシステム２００内のディスプレイ２２０）の左眼および右眼ディスプレイとユーザの眼との間の適切な整合は、望ましいユーザ体験を確実にするために、重要であり得る。例えば、左眼ディスプレイが、経時的な本デバイスの通常の摩耗から、または他の変形手段によって等、ユーザの左眼から、右眼ディスプレイがユーザの右眼から垂直にオフセットされる場合と異なる量で垂直にオフセットされるとき、ユーザは、不快感および眼精疲労を被り得る。
いくつかの実施形態では、頭部搭載型ディスプレイシステムは、左眼および右眼ディスプレイを通して投影された画像が眼間の眼球間軸と水平であるように、左または右ディスプレイ下位システム（対応する左または右接眼レンズのためのプロジェクタ入力等）の較正メトリックを補正することを最終目標として、その左眼および右眼ディスプレイがユーザの眼（例えば、その眼球間軸）と水平であるかどうかを決定し、適切なユーザフィードバックを提供し、ユーザに、左または右接眼レンズ上に表示される画像を調節するように促すように構成されてもよい。
ディスプレイシステムは、次いで、ユーザに、整合マーカを有する、左眼および右眼画像を提供してもよい。整合マーカは、左眼ディスプレイと右眼ディスプレイとの間の任意の垂直オフセットがユーザに可視であるように提供されてもよい。言い換えると、左眼ディスプレイおよび右眼ディスプレイ垂直オフセットが存在する（例えば、左眼ディスプレイが、右眼ディスプレイに対して垂直にオフセットされる）場合、ユーザは、左眼および右眼ディスプレイからの画像を垂直に不整合され、画像を適切に融合させることが不可能であることを知覚し得る（例えば、オフセットは、相互に整列していない整合マーカの水平部分の形態において可視であり得る）。整合マーカの水平部分は、垂直に不整合されるときに完全に重複しない、線の他の鏡像形状または配列の形態であってもよいことを理解されたい。
図１３および１４は、ユーザの眼（例えば、その眼球間軸）に対してＨＭＤを水平にする（例えば、ＨＭＤの左眼および右眼ディスプレイを通して延在する、水平軸を水平にする）ステップの一部として頭部搭載型ディスプレイ（ＨＭＤ）（例えば、ディスプレイ２２０、図３）のユーザに提供され得る、例示的ディスプレイ画面を図示する。特に、図１３は、ユーザがＨＭＤを水平にすることを補助するために提供され得る、例示的ガイドを含む、ディスプレイ画面１３００を図示する。
ディスプレイ画面１３００はまた、ユーザの眼に対するＨＭＤの現在の配向に関するフィードバックを含んでもよい。そのようなフィードバックは、アバタ１３０４（例えば、ユーザの仮想表現）およびＨＭＤの仮想描写１３０２の形態をとってもよい。アバタ１３０４は、垂直配向に描写され得る（眼球間軸が水平配向にあるように）一方、ＨＭＤの仮想描写１３０２の配向は、水平に対して傾斜され得る。仮想描写１３０２の傾斜の量および方向は、ＨＭＤに対する眼球間軸の推定された配向（例えば、図７Ａのモジュール７４０によって決定されるように）に基づき得る。他の実施形態では、アバタ１３０２および１３０４は、省略されてもよい、または静的であってもよい。種々の実施形態では、ＨＭＤの傾斜の量および方向は、整合マーカ１３０６および１３０８等の他の印を介して、ユーザに伝達されてもよい。整合マーカ１３０６は、ユーザの眼球間軸（例えば、水平線として提示される）に対応し得る一方、整合マーカ１３０８は、眼球間軸に対するＨＭＤの傾斜を示し得る。一実施例では、マーク１３０６は、静的なままであり得る一方、マーク１３０８は、ユーザがその頭部上のＨＭＤを水平に向かって調節するにつれて偏移する。いくつかの実施形態では、ＨＭＤの配向は、外部環境内の１つ以上の基準点を結像し、それらの基準点に基づいて、ＨＭＤの配向を決定する、ジャイロスコープ、加速度計、および／または結像システムを含む、ＨＭＤに取り付けられる種々のセンサを使用して決定されてもよい。一般に、整合マーカは、任意の好適な形状または形態をとってもよい。整合マーカを使用することで、ユーザは、方向および量を含め、ＨＭＤがその頭部上で傾斜されているかどうかを迅速に知覚することが可能であり得る。したがって、ユーザは、ＨＭＤが適切に水平にされるまで、ＨＭＤの傾斜を補正することができる。
図１４に示されるように、ユーザが、ＨＭＤがその頭部上で水平であるように、ＨＭＤの傾斜を正常に調節すると（例えば、眼球間軸またはその一部が、ＨＭＤの左眼ディスプレイと右眼ディスプレイとの間に延在する水平軸と平行であるとき、眼球間軸またはその一部が、ＨＭＤに対して定義された所定の体積内に該当するとき等）、ユーザは、ＨＭＤを水平することの成功を示す、画面１４００等のディスプレイ画面を提示されてもよい。図１４の実施例では、ユーザは、ＨＭＤを正常に水平にし、マーカ１４０２を示される。マーカ１４０２は、実施例として、図１３のマーク１３０６および１３０８が重複すると現れ得る。
ＨＭＤをユーザ上で水平にすることに続き、システムは、左眼および右眼ディスプレイ整合プロトコルを実施し、それ自体は垂直に整合しない、剛性ディスプレイを通して、画像のディスプレイを適切に水平にしてもよい。特に、ディスプレイ整合プロセスは、左および右ディスプレイとその個別の眼との間の垂直整合における任意の差異をチェックおよび識別してもよい（例えば、自動的に、またはユーザフィードバックに基づいて）。言い換えると、ディスプレイ整合プロセスは、ユーザの左眼が、ＨＭＤの左眼ディスプレイとの第１の垂直整合（図１２ＡのＹ−軸に沿った第１のオフセット等）を有する一方、ユーザの右眼が、ＨＭＤの右眼ディスプレイとの第２の異なる垂直整合（図１２のＹ−軸に沿った異なる大きさの第２のオフセット等）を有するかどうかをチェックしてもよい（例えば、自動的に、または、ユーザに、任意の不整合をユーザに対してハイライトする、整合マーカを提供し、任意の不整合に関するユーザフィードバックを受信することによって）。左側と右側との間の垂直整合における差異は、ＨＭＤがユーザの眼の眼球間軸と水平であると決定されるときでも同一垂直高さにないように左眼および右眼ディスプレイの一方または両方を偏移させ得る、ＨＭＤに対する偏曲または損傷等の種々の要因に起因して、ＨＭＤは、ユーザの頭部に水平に装着されるときでも生じ得ることを理解されたい。
図１５および１６は、水平にした後に残っている垂直不整合を識別するステップの一部として頭部搭載型ディスプレイ（ＨＭＤ）（例えば、ディスプレイ２２０、図３）のユーザに提供され得る、例示的ディスプレイ画面を図示する。図１５に示されるように、画面１５００等のディスプレイ画面は、ユーザ指示と、任意の垂直不整合をユーザに対してハイライトする、マーカ１５０２、１５０４、および１５０６等の整合マーカとを含んでもよい。いくつかの実施形態では、整合マーカは、側方に延びる文字「Ｔ」の形態をとってもよい。しかしながら、整合マーカは、他の形状または形態をとってもよいことを理解されたい。
図１６に示されるように、ＨＭＤは、任意の左右垂直不整合を実証するために、異なる個別の整合マーカをユーザの左および右眼に提供してもよい。例えば、ＨＭＤは、画面１６００ａをユーザの左眼に表示してもよく、画面１６００ｂをユーザの右眼に表示してもよい。画面１６００ａは、左眼水平整合マーカ１５０２および垂直整合マーカ１５０６を含んでもよい一方、画面１６００ｂは、右眼水平整合マーカ１５０４および垂直整合マーカ１５０６を含んでもよい。いくつかの実施形態では、画面１６００ａは、右眼水平整合マーカ１５０４を含まなくてもよく、画面１６００ｂは、左眼水平整合マーカ１５０２を含まなくてもよい。
ＨＭＤを装着しているユーザが、画面１６００ａおよび１６００ｂを同時に視認するとき（例えば、それぞれ、その左および右眼を用いて）、垂直整合マーカ１５０６ａおよび１５０６ｂは、ともに融合されているようにユーザに現れ得る（例えば、マーク１５０６として）。しかしながら、少なくとも、左眼および右眼水平整合マーカ１５０２ならびに１５０４は、相互に空間的に整合されないため、ユーザは、マーク１５０２および１５０４をともに融合されていると知覚しない。代わりに、ユーザは、マーク１５０２および１５０４が相互に垂直に整合されるかどうか（または左右垂直不整合が存在するかどうか）を決定することが可能であろう。言い換えると、正しくなく整合されるシステムは、１６０４の意図される画像を例示的不整合画像１６０２として表示するであろう。
少なくともいくつかの実施形態では、整合マーカ１５０２および１５０４は、最初に、左および右眼ディスプレイの同一位置に提示されるが、変形は、位置の知覚を非整合として促し得る。いくつかの実施形態では、システムは、垂直オフセットを整合マーカ１５０２と１５０４との間に意図的に導入してもよい。そのような実施形態では、マーカ１５０２および１５０４の整合は、必ずしも、左および右眼ディスプレイの整合を表すとは限らない。例えば、左および右眼ディスプレイは、比較的に殆どまたは全く不整合を呈さない場合があるが、これらの実施形態では、システムによって提示されるマーカ１５０２および１５０４は、比較的に多量の不整合を呈し得る。そのように行うことは、ディスプレイ整合プロセスにおけるユーザ関与を助長する役割を果たし得る。すなわち、一部のユーザは、システムによって提示されるようなマーカ１５０２および１５０４が比較的に高不整合度を呈するとき、ディスプレイ整合プロセスに能動的に関わるようにより強制されるように感じ得る。いくつかの実施例では、整合マーカ１５０２および１５０４の垂直位置は、ランダム化される、擬似ランダム化される、または準ランダム化されてもよい。例えば、システムは、ランダムに、擬似ランダムに、または準ランダムに、垂直位置の所定の範囲から整合マーカ１５０２および１５０４の垂直位置を選択してもよい。いくつかの実施形態では、システムは、ランダムに、擬似ランダムに、または準ランダムに、オフセットの所定の範囲から整合マーカ１５０２と１５０４との間のオフセットを選択してもよい。いくつかの実施形態では、ディスプレイシステムは、Ｍｅｒｓｅｎｎｅ Ｔｗｉｓｔｅｒ、Ｘｏｒｓｈｉｆｔ等の擬似乱数生成器に基づいて、ランダムに、擬似ランダムに、または準ランダムに、オフセットを選択するように構成されてもよい。いくつかの実施形態では、擬似乱数生成器は、直接、オフセット値を生成してもよい。いくつかの他の実施形態では、各オフセットは、数または数のセットと関連付けられてもよく、擬似乱数生成器による数の生成は、その生成された数またはその生成された数が属するセットと関連付けられる、オフセットを選択するために使用されてもよい（例えば、各オフセットは、１つ以上の一意の数または数のセットと関連付けられてもよく、数は、擬似ランダム生成器を使用して生成されてもよく、適用されるべきオフセットは、その生成された数（または数が属するセット）とオフセットと関連付けられる数（または数のセット）との間の対応に基づいて、選択されてもよい）。
システムは、ユーザがマーカ１５０２および１５０４を垂直に整合させるための入力を提供するとき、マーカ１５０２および１５０４の選択された垂直位置および／またはマーカ１５０２と１５０４との間の選択されたオフセットを考慮してもよい。ユーザが、マーク１５０２および１５０４を垂直に整合させるための入力を提供した後、システムは、ユーザ入力の大きさおよび方向に基づいて、左右垂直不整合の大きさおよび方向を決定することが可能であり得る。好ましくは、垂直整合の調節は、一度に１つのみのディスプレイ上で実施される。
ＨＭＤが導波管のスタックを含む、実施形態に関して、垂直整合の調節は、一度に１つのみの導波管上で実施されてもよい。したがって、いくつかの実施形態では、システムは、ＨＭＤの導波管スタック内に含まれる導波管毎に、ディスプレイ整合プロセスを行ってもよい。いくつかの実施例では、ＨＭＤの導波管スタックは、複数の導波管、例えば、深度平面毎に３つの導波管を含んでもよい。導波管の数は、ディスプレイシステムによって使用される原色の数に対応し、フルカラーコンテンツを形成してもよい。例えば、ＲＧＢ（赤色、緑色、青色）ディスプレイシステムに関して、深度平面毎に提供される３つの導波管は、赤色光を出力するように構成される導波管と、緑色光を出力するように構成される導波管と、青色光を出力するように構成される導波管とを含んでもよい。システムは、マーカ１５０２および１５０４を各原色で、例えば、赤色光を出力するように構成される導波管のためのディスプレイ整合を行うときは赤色で、緑色光を出力するように構成される導波管のためのディスプレイ整合を行うときは緑色で、青色光を出力するように構成される導波管のためのディスプレイ整合を行うときは青色で提示してもよい。いくつかの実施形態では、システムは、連続して、導波管毎にディスプレイ整合を行ってもよい（例えば、整合は、異なる原色に対応する異なる導波管および／または異なる深度平面に対応する異なる波面発散量を提供する異なる導波管のために、順次、行われてもよい）。いくつかの他の実施形態では、システムは、ＨＭＤの導波管スタック内の導波管のいくつかまたは全てに関して、同時に、ディスプレイ整合を行ってもよい。そのような実施形態では、マーカ１５０２および１５０４は、種々の色（例えば、マーカ１５０２および１５０４の赤色、緑色、および青色バージョン）および／または種々の深度（異なる波面発散量を提供する導波管を用いて）で同時に提示されてもよく、ユーザは、１つのマーカを一度に垂直に偏移させるための入力を提供することが可能であり得る。
ユーザ入力は、ユーザに利用可能な任意の入力デバイスを使用して提供されてもよいことを理解されたい。例えば、ジェスチャ、音声アクティブ化コマンド、物理的トグル等が、入力を提供するために利用されてもよい。特定の実施例として、図１７は、ユーザの手１７００と、種々の入力デバイス１７０２、１７０４、１７０６を含む、コントローラ１７０１との斜視図である。入力デバイス１７０２、１７０４、１７０６のいずれかは、整合マーカ１５０２および１５０４を整合させるために所望される垂直偏移に関する入力を提供するように構成されてもよい。
（左および右眼ディスプレイをユーザの頭部上で垂直に整合させる例示的プロセス）
図１８は、頭部搭載型ディスプレイシステムをユーザの頭部上で水平にし、ディスプレイシステムの左および右ディスプレイの垂直整合を調節するための例示的方法１８００のプロセスフロー図である。方法１８００は、本明細書に説明されるウェアラブルシステムによって実施されてもよい。
ブロック１８０２では、ウェアラブルシステムは、頭部搭載型ディスプレイ（ＨＭＤ）（例えば、ディスプレイ２２０、図３）の較正を調節するための潜在的必要性を決定してもよい。ウェアラブルシステムは、ＨＭＤの始動に応じて、アプリケーションをＨＭＤ上で立ち上げることに応じて、ＨＭＤがユーザの頭部上に設置されたことを決定することに応じて等、個々に、または組み合わせて、最後の較正以降の時間数、ＨＭＤの潜在的または実際の変形の検出（例えば、加速度計または他のセンサとの衝撃イベントの検出）、ＨＭＤの位置合わせずれの検出（例えば、眼追跡コンポーネントによる、ユーザの眼の一方または両方がＨＭＤに対して設計位置にないことの決定）を含む、種々の要因に基づいて、ＨＭＤを較正する必要があることを決定してもよい。付加的オプションとして、較正プロセスは、ユーザマニュアル、顧客サービス、または他のソースによって、ユーザに推奨されてもよく、ブロック１８０２は、較正プロセスを実施するためのユーザ要求を受信することを伴ってもよい。
ブロック１８０４では、ウェアラブルシステムは、デバイス水平化フローを実施してもよく、これは、ブロック１８０６および１８０８等のブロックを含んでもよい。ブロック１８０６では、ＨＭＤは、ＨＭＤの左眼および右眼ディスプレイ間に延びるディスプレイ間軸である、またはＨＭＤの世界座標フレームの重力ベクトルに対して測定され得る、ユーザの眼球間軸および本デバイスの水平軸を決定してもよい。ブロック１８０６は、眼球間軸および本デバイスの水平軸が平行であるかどうか、または２つの軸間に傾斜が存在するかどうかを決定するステップを伴ってもよい。いくつかの実施例では、ブロック１８０６は、眼球間軸またはその一部がＨＭＤに対して定義された所定の体積内に該当するかどうかを決定するステップを伴ってもよい。ブロック１８０８では、ＨＭＤは、ＨＭＤの水平化に関するフィードバックをユーザに提供してもよい。そのようなフィードバックは、図１３の整合マーカ１３０６および１３０８を表示する形態をとってもよい。ブロック１８０６および１８０８は、ユーザが整合プロセスを終了する、またはＨＭＤをその頭部上で正常に水平にする（例えば、マーク１３０８とマーク１３０６を整合させる）まで、継続し得る。
ブロック１８１０では、ウェアラブルシステムは、ディスプレイ整合フローを実施してもよく、これは、ブロック１８１２および１８１４等のブロックを含んでもよい。ブロック１８１２では、ＨＭＤは、融合されない左眼および右眼整合マーカを提供してもよい。実施例として、ＨＭＤは、本明細書に議論されるように、図１５および１６の整合マーカ１５０２を左眼ディスプレイ上に表示してもよく、図１５および１６の整合マーカ１５０４を右眼ディスプレイ上に表示してもよい。上記に説明されるように、いくつかの実施例では、ＨＭＤは、整合マーカ１５０２および１５０４の一方または両方をランダムに、擬似ランダムに、または準ランダムに選択された垂直位置に表示してもよい。ブロック１８１４では、ウェアラブルシステムは、左眼または右眼ディスプレイ垂直整合調節に関するユーザフィードバックを受信してもよい。特に、図１５−１７に関連して議論されるように、ウェアラブルシステムは、マーカがユーザの視点から相互に垂直に整合されるまで、整合マーカ１５０２および１５０４のうちの少なくとも１つを偏移させる、ユーザ入力を受信してもよい。ブロック１８１２および１８１４は、ユーザが、整合プロセスを終了する、または整合マーカに行った任意の垂直調節を承認するまで、継続し得る。上記に説明されるように、いくつかの実施例では、ウェアラブルシステムは、ＨＭＤ内に含まれる導波管あたり１つのディスプレイ整合プロセスを行ってもよい。これらの実施例では、ウェアラブルシステムは、ＨＭＤ内に含まれる導波管毎に、ブロック１８１０、１８１２、および１８１４のうちの１つ以上のものと関連付けられる動作を実施してもよい。
ブロック１８１６では、ウェアラブルシステムは、ユーザによって左右垂直整合に提供される、任意の調節を実装してもよい。実施例として、ユーザフィードバックが、右眼ディスプレイが左眼ディスプレイより所与の量だけ低いことを示した場合、ウェアラブルシステムは、右眼ディスプレイを介して表示される（例えば、図１８の整合プロセスの完了に続いて表示される）画像コンテンツを所与の量だけ上向きに偏移させることによって、左眼ディスプレイを介して表示される画像コンテンツを所与の量だけ下向きに偏移させることによって、または右および左眼コンテンツの適切な組み合わせの偏移によって、その不整合を補償してもよい
いくつかの実施形態では、ブロック１８１６では、ウェアラブルシステムは、左眼ディスプレイと関連付けられるレンダリングカメラの１つ以上の付帯パラメータと、右眼ディスプレイと関連付けられるレンダリングカメラの１つ以上の付帯パラメータとに、調節を行なってもよい。例えば、これらの実施形態では、ウェアラブルシステムは、少なくとも部分的に、ユーザによって提供される入力に基づいて、２つのディスプレイ（例えば、左眼ディスプレイおよび右眼ディスプレイ）と関連付けられる２つのレンダリングカメラの一方または両方の位置および／または配向を調節してもよい。いくつかの実施形態では、ウェアラブルシステムは、ブロック１８０４、１８０６、および／または１８０８と関連付けられる動作をスキップしてもよい。これらの実施形態では、ウェアラブルシステムは、ブロック１８０２と関連付けられる動作を実施直後に、ブロック１８１０に進み得る。
（周囲環境内のオブジェクトを検出するためのコンピュータビジョン）
上記に議論されるように、ディスプレイシステムは、ユーザを囲繞する環境内のオブジェクトまたはその性質を検出するように構成されてもよい。検出は、本明細書に議論されるように、種々の環境センサ（例えば、カメラ、オーディオセンサ、温度センサ等）を含む、種々の技法を使用して遂行されてもよい。
いくつかの実施形態では、環境内に存在するオブジェクトは、コンピュータビジョン技法を使用して、検出されてもよい。例えば、本明細書に開示されるように、ディスプレイシステムの前向きに面したカメラは、周囲環境を結像するように構成されてもよく、ディスプレイシステムは、画像分析を画像上で実施し、周囲環境内のオブジェクトの存在を決定するように構成されてもよい。ディスプレイシステムは、外向きに面した結像システムによって入手された画像を分析し、場面再構成、イベント検出、ビデオ追跡、オブジェクト認識、オブジェクト姿勢推定、学習、インデックス化、運動推定、または画像復元等を実施してもよい。他の実施例として、ディスプレイシステムは、顔および／または眼認識を実施し、ユーザの視野内の顔および／またはヒトの眼の存在および場所を決定するように構成されてもよい。１つ以上のコンピュータビジョンアルゴリズムが、これらのタスクを実施するために使用されてもよい。コンピュータビジョンアルゴリズムの非限定的実施例は、スケール不変特徴変換（ＳＩＦＴ）、スピードアップロバスト特徴（ＳＵＲＦ）、配向ＦＡＳＴおよび回転ＢＲＩＥＦ（ＯＲＢ）、バイナリロバスト不変スケーラブルキーポイント（ＢＲＩＳＫ）、高速網膜キーポイント（ＦＲＥＡＫ）、Ｖｉｏｌａ−Ｊｏｎｅｓアルゴリズム、Ｅｉｇｅｎｆａｃｅｓアプローチ、Ｌｕｃａｓ−Ｋａｎａｄｅアルゴリズム、Ｈｏｒｎ−Ｓｃｈｕｎｋアルゴリズム、Ｍｅａｎ−ｓｈｉｆｔアルゴリズム、視覚的同時位置推定およびマッピング（ｖＳＬＡＭ）技法、シーケンシャルベイズ推定器（例えば、カルマンフィルタ、拡張カルマンフィルタ等）、バンドル調節、適応閾値化（および他の閾値化技法）、反復最近傍点（ＩＣＰ）、セミグローバルマッチング（ＳＧＭ）、セミグローバルブロックマッチング（ＳＧＢＭ）、特徴点ヒストグラム、種々の機械学習アルゴリズム（例えば、サポートベクトルマシン、ｋ最近傍アルゴリズム、単純ベイズ、ニューラルネットワーク（畳み込みまたは深層ニューラルネットワークを含む）、または他の教師あり／教師なしモデル等）等を含む。
これらのコンピュータビジョン技法のうちの１つ以上のものはまた、他の環境センサ（例えば、マイクロホン等）から入手されたデータと併用され、センサによって検出されたオブジェクトの種々の性質を検出および決定してもよい。
本明細書に議論されるように、周囲環境内のオブジェクトは、１つ以上の基準に基づいて、検出されてもよい。ディスプレイシステムが、コンピュータビジョンアルゴリズムを使用して、もしくは１つ以上のセンサアセンブリ（ディスプレイシステムの一部である場合とそうではない場合がある）から受信されたデータを使用して、周囲環境内の基準の存在または不在を検出するとき、ディスプレイシステムは、次いで、オブジェクトの存在を信号伝達してもよい。
（機械学習）
種々の機械学習アルゴリズムは、周囲環境内のオブジェクトの存在を識別するように学習するために使用されてもよい。いったん訓練されると、機械学習アルゴリズムは、ディスプレイシステムによって記憶されてもよい。機械学習アルゴリズムのいくつかの実施例は、教師ありまたは教師なし機械学習アルゴリズムを含み得、回帰アルゴリズム（例えば、通常の最小２乗回帰等）、インスタンスベースのアルゴリズム（例えば、学習ベクトル量子化等）、決定ツリーアルゴリズム（例えば、分類および回帰ツリー等）、ベイズアルゴリズム（例えば、単純ベイズ等）、クラスタリングアルゴリズム（例えば、ｋ−平均クラスタリング等）、関連付けルール学習アルゴリズム（例えば、アプリオリアルゴリズム等）、人工ニューラルネットワークアルゴリズム（例えば、Ｐｅｒｃｅｐｔｒｏｎ等）、深層学習アルゴリズム（例えば、Ｄｅｅｐ Ｂｏｌｔｚｍａｎｎ Ｍａｃｈｉｎｅ、すなわち、深層ニューラルネットワーク等）、次元削減アルゴリズム（例えば、主成分分析等）、アンサンブルアルゴリズム（例えば、Ｓｔａｃｋｅｄ Ｇｎｅｒａｌｉｚａｔｉｏｎ等）、および／または他の機械学習アルゴリズムを含む。いくつかの実施形態では、個々のモデルは、個々のデータセットのためにカスタマイズされてもよい。例えば、ウェアラブルデバイスは、ベースモデルを生成または記憶してもよい。ベースモデルは、開始点として使用され、データタイプ（例えば、特定のユーザ）、データセット（例えば、取得される付加的画像のセット）、条件付き状況、または他の変形例に特有の付加的モデルを生成してもよい。いくつかの実施形態では、ディスプレイシステムは、複数の技法を利用して、集約されたデータの分析のためのモデルを生成するように構成されることができる。他の技法は、事前に定義された閾値またはデータ値を使用することを含んでもよい。
オブジェクトを検出するための基準は、１つ以上の閾値条件を含んでもよい。環境センサによって入手されたデータの分析が、閾値条件に達したことを示す場合、ディスプレイシステムは、周囲環境内のオブジェクトの存在の検出を示す信号を提供してもよい。閾値条件は、定量的および／または定質的測定値を伴ってもよい。例えば、閾値条件は、反射および／またはオブジェクトが環境内に存在する尤度と関連付けられたスコアまたはパーセンテージを含んでもよい。ディスプレイシステムは、環境センサのデータから計算されるスコアと閾値スコアを比較してもよい。スコアが、閾値レベルより高い場合、ディスプレイシステムは、反射および／またはオブジェクトの存在を検出し得る。いくつかの他の実施形態では、ディスプレイシステムは、スコアが閾値より低い場合、環境内のオブジェクトの存在を信号伝達してもよい。いくつかの実施形態では、閾値条件は、ユーザの感情状態および／またはユーザの周囲環境との相互作用に基づいて決定されてもよい。
いくつかの実施形態では、閾値条件、機械学習アルゴリズム、またはコンピュータビジョンアルゴリズムは、具体的コンテキストのために特殊化されてもよい。例えば、診断コンテキストでは、コンピュータビジョンアルゴリズムは、刺激に対するある応答を検出するために特殊化されてもよい。別の実施例として、ディスプレイシステムは、本明細書に議論されるように、顔認識アルゴリズムおよび／またはイベントトレーシングアルゴリズムを実行し、刺激に対するユーザの反応を感知してもよい。
本明細書に説明される、ならびに／または添付される図に描写されるプロセス、方法、およびアルゴリズムはそれぞれ、具体的かつ特定のコンピュータ命令を実行するように構成される、１つ以上の物理的コンピューティングシステム、ハードウェアコンピュータプロセッサ、特定用途向け回路、および／もしくは電子ハードウェアによって実行される、コードモジュールにおいて具現化され、それによって完全もしくは部分的に自動化され得ることを理解されたい。例えば、コンピューティングシステムは、具体的コンピュータ命令とともにプログラムされた汎用コンピュータ（例えば、サーバ）または専用コンピュータ、専用回路等を含むことができる。コードモジュールは、実行可能プログラムにコンパイルおよびリンクされ得る、動的リンクライブラリ内にインストールされ得る、またはインタープリタ型プログラミング言語において書き込まれ得る。いくつかの実施形態では、特定の動作および方法が、所与の機能に特有の回路によって実施され得る。
さらに、本開示の機能性のある実施形態は、十分に数学的、コンピュータ的、または技術的に複雑であるため、（適切な特殊化された実行可能命令を利用する）特定用途向けハードウェアまたは１つもしくはそれを上回る物理的コンピューティングデバイスは、例えば、関与する計算の量もしくは複雑性に起因して、または結果を実質的にリアルタイムで提供するために、機能性を実施する必要があり得る。例えば、ビデオは、多くのフレームを含み、各フレームは、数百万のピクセルを有し得、具体的にプログラムされたコンピュータハードウェアは、商業的に妥当な時間量において所望の画像処理タスクまたは用途を提供するようにビデオデータを処理する必要がある。
コードモジュールまたは任意のタイプのデータは、ハードドライブ、ソリッドステートメモリ、ランダムアクセスメモリ（ＲＡＭ）、読取専用メモリ（ＲＯＭ）、光学ディスク、揮発性もしくは不揮発性記憶装置、同一物の組み合わせ、および／または同等物を含む、物理的コンピュータ記憶装置等の任意のタイプの非一過性コンピュータ可読媒体上に記憶され得る。いくつかの実施形態では、非一過性コンピュータ可読媒体は、ローカル処理およびデータモジュール（１４０）、遠隔処理モジュール（１５０）、および遠隔データリポジトリ（１６０）のうちの１つ以上のものの一部であってもよい。本方法およびモジュール（またはデータ）はまた、無線ベースおよび有線／ケーブルベースの媒体を含む、種々のコンピュータ可読伝送媒体上で生成されたデータ信号として（例えば、搬送波または他のアナログもしくはデジタル伝搬信号の一部として）伝送され得、種々の形態（例えば、単一もしくは多重化アナログ信号の一部として、または複数の離散デジタルパケットもしくはフレームとして）をとり得る。開示されるプロセスまたはプロセスステップの結果は、任意のタイプの非一過性有形コンピュータ記憶装置内に持続的もしくは別様に記憶され得る、またはコンピュータ可読伝送媒体を介して通信され得る。
本明細書に説明される、および／または添付される図に描写されるフロー図における任意のプロセス、ブロック、状態、ステップ、もしくは機能性は、プロセスにおいて具体的機能（例えば、論理もしくは算術）またはステップを実装するための１つもしくはそれを上回る実行可能命令を含む、コードモジュール、セグメント、またはコードの一部を潜在的に表すものとして理解されたい。種々のプロセス、ブロック、状態、ステップ、または機能性は、組み合わせられる、再配列される、追加される、削除される、修正される、または別様に本明細書に提供される例証的実施例から変更されることができる。いくつかの実施形態では、付加的または異なるコンピューティングシステムもしくはコードモジュールが、本明細書に説明される機能性のいくつかまたは全てを実施し得る。本明細書に説明される方法およびプロセスはまた、任意の特定のシーケンスに限定されず、それに関連するブロック、ステップ、または状態は、適切な他のシーケンスで、例えば、連続して、並行して、またはある他の様式で実施されることができる。タスクまたはイベントが、開示される例示的実施形態に追加される、またはそれから除去され得る。さらに、本明細書に説明される実施形態における種々のシステムコンポーネントの分離は、例証を目的とし、全ての実施形態においてそのような分離を要求するものとして理解されるべきではない。説明されるプログラムコンポーネント、方法、およびシステムは、概して、単一のコンピュータ製品においてともに統合される、または複数のコンピュータ製品にパッケージ化され得ることを理解されたい。
（他の考慮点）
本明細書に説明される、ならびに／または添付される図に描写されるプロセス、方法、およびアルゴリズムはそれぞれ、具体的かつ特定のコンピュータ命令を実行するように構成される、１つ以上の物理的コンピューティングシステム、ハードウェアコンピュータプロセッサ、特定用途向け回路、および／もしくは電子ハードウェアによって実行される、コードモジュールにおいて具現化され、それによって完全もしくは部分的に自動化され得る。例えば、コンピューティングシステムは、具体的コンピュータ命令とともにプログラムされた汎用コンピュータ（例えば、サーバ）または専用コンピュータ、専用回路等を含んでもよい。コードモジュールは、実行可能プログラムにコンパイルおよびリンクされ得る、動的リンクライブラリ内にインストールされ得る、またはインタープリタ型プログラミング言語において書き込まれ得る。いくつかの実施形態では、特定の動作および方法が、所与の機能に特有の回路によって実施され得る。
さらに、本開示の機能性のある実施形態は、十分に数学的、コンピュータ的、または技術的に複雑であるため、（適切な特殊化された実行可能命令を利用する）特定用途向けハードウェアまたは１つもしくはそれを上回る物理的コンピューティングデバイスは、例えば、関与する計算の量もしくは複雑性に起因して、または結果を実質的にリアルタイムで提供するために、機能性を実施する必要があり得る。例えば、動画またはビデオは、多くのフレームを含み、各フレームは、数百万のピクセルを有し得、具体的にプログラムされたコンピュータハードウェアは、商業的に妥当な時間量において所望の画像処理タスクまたは用途を提供するようにビデオデータを処理する必要がある。
コードモジュールまたは任意のタイプのデータは、ハードドライブ、ソリッドステートメモリ、ランダムアクセスメモリ（ＲＡＭ）、読取専用メモリ（ＲＯＭ）、光学ディスク、揮発性もしくは不揮発性記憶装置、同一物の組み合わせ、および／または同等物を含む、物理的コンピュータ記憶装置等の任意のタイプの非一過性コンピュータ可読媒体上に記憶され得る。本方法およびモジュール（またはデータ）はまた、無線ベースおよび有線／ケーブルベースの媒体を含む、種々のコンピュータ可読伝送媒体上で生成されたデータ信号として（例えば、搬送波または他のアナログもしくはデジタル伝搬信号の一部として）伝送され得、種々の形態（例えば、単一もしくは多重化アナログ信号の一部として、または複数の離散デジタルパケットもしくはフレームとして）をとり得る。開示されるプロセスまたはプロセスステップの結果は、任意のタイプの非一過性有形コンピュータ記憶装置内に持続的もしくは別様に記憶され得る、またはコンピュータ可読伝送媒体を介して通信され得る。
本明細書に説明される、および／または添付される図に描写されるフロー図における任意のプロセス、ブロック、状態、ステップ、もしくは機能性は、プロセスにおいて具体的機能（例えば、論理もしくは算術）またはステップを実装するための１つもしくはそれを上回る実行可能命令を含む、コードモジュール、セグメント、またはコードの一部を潜在的に表すものとして理解されたい。種々のプロセス、ブロック、状態、ステップ、または機能性は、組み合わせられる、再配列される、追加される、削除される、修正される、または別様に本明細書に提供される例証的実施例から変更されてもよい。いくつかの実施形態では、付加的または異なるコンピューティングシステムもしくはコードモジュールが、本明細書に説明される機能性のいくつかまたは全てを実施し得る。本明細書に説明される方法およびプロセスはまた、任意の特定のシーケンスに限定されず、それに関連するブロック、ステップ、または状態は、適切な他のシーケンスで、例えば、連続して、並行して、またはある他の様式で実施されることができる。タスクまたはイベントが、開示される例示的実施形態に追加される、またはそれから除去され得る。さらに、本明細書に説明される実施形態における種々のシステムコンポーネントの分離は、例証を目的とし、全ての実施形態においてそのような分離を要求するものとして理解されるべきではない。説明されるプログラムコンポーネント、方法、およびシステムは、概して、単一のコンピュータ製品においてともに統合される、または複数のコンピュータ製品にパッケージ化され得ることを理解されたい。多くの実施形態変形例が、可能である。
本プロセス、方法、およびシステムは、ネットワーク（または分散）コンピューティング環境において実装され得る。ネットワーク環境は、企業全体コンピュータネットワーク、イントラネット、ローカルエリアネットワーク（ＬＡＮ）、広域ネットワーク（ＷＡＮ）、パーソナルエリアネットワーク（ＰＡＮ）、クラウドコンピューティングネットワーク、クラウドソースコンピューティングネットワーク、インターネット、およびワールドワイドウェブを含む。ネットワークは、有線もしくは無線ネットワークまたは任意の他のタイプの通信ネットワークであり得る。
本開示のシステムおよび方法は、それぞれ、いくつかの革新的側面を有し、そのうちのいかなるものも、本明細書に開示される望ましい属性に単独で関与しない、またはそのために要求されない。上記に説明される種々の特徴およびプロセスは、相互に独立して使用され得る、または種々の方法で組み合わせられ得る。全ての可能な組み合わせおよび副次的組み合わせが、本開示の範囲内に該当することが意図される。本開示に説明される実施形態の種々の修正が、当業者に容易に明白であり得、本明細書に定義される一般原理は、本開示の精神または範囲から逸脱することなく、他の実施形態に適用され得る。したがって、請求項は、本明細書に示される実施形態に限定されることを意図されず、本明細書に開示される本開示、原理、および新規の特徴と一貫する最も広い範囲を与えられるべきである。
別個の実装の文脈において本明細書に説明されるある特徴はまた、単一の実施形態における組み合わせにおいて実装されてもよい。逆に、単一の実施形態の文脈において説明される種々の特徴もまた、複数の実施形態において別個に、または任意の好適な副次的組み合わせにおいて実装されてもよい。さらに、特徴がある組み合わせにおいて作用するものとして上記に説明され、さらに、そのようなものとして最初に請求され得るが、請求される組み合わせからの１つ以上の特徴は、いくつかの場合では、組み合わせから削除されてもよく、請求される組み合わせは、副次的組み合わせまたは副次的組み合わせの変形例を対象とし得る。いかなる単一の特徴または特徴のグループも、あらゆる実施形態に必要もしくは必須ではない。
とりわけ、「〜できる（ｃａｎ）」、「〜し得る（ｃｏｕｌｄ）」、「〜し得る（ｍｉｇｈｔ）」、「〜し得る（ｍａｙ）」、「例えば（ｅ．ｇ．）」、および同等物等、本明細書で使用される条件文は、別様に具体的に記載されない限り、または使用されるような文脈内で別様に理解されない限り、概して、ある実施形態がある特徴、要素、またはステップを含む一方、他の実施形態がそれらを含まないことを伝えることが意図される。したがって、そのような条件文は、概して、特徴、要素、および／またはステップが、１つもしくはそれを上回る実施形態に対していかようにも要求されること、もしくは１つもしくはそれを上回る実施形態が、著者の入力または促しの有無を問わず、これらの特徴、要素、および／またはステップが任意の特定の実施形態において含まれる、もしくは実施されるべきかどうかを決定するための論理を必然的に含むことを示唆することを意図されない。用語「〜を備える」、「〜を含む」、「〜を有する」、および同等物は、同義語であり、非限定的方式で包括的に使用され、付加的要素、特徴、行為、動作等を除外しない。また、用語「または」は、その包括的意味において使用され（およびその排他的意味において使用されず）、したがって、例えば、要素のリストを接続するために使用されると、用語「または」は、リスト内の要素のうちの１つ、いくつか、または全てを意味する。加えて、本願および添付される請求項で使用されるような冠詞「ａ」、「ａｎ」、および「ｔｈｅ」は、別様に規定されない限り、「１つ以上の」もしくは「少なくとも１つ」を意味するように解釈されるべきである。
本明細書で使用されるように、項目のリスト「〜のうちの少なくとも１つ」を指す語句は、単一の要素を含む、それらの項目の任意の組み合わせを指す。ある実施例として、「Ａ、Ｂ、またはＣのうちの少なくとも１つ」は、Ａ、Ｂ、Ｃ、ＡおよびＢ、ＡおよびＣ、ＢおよびＣ、ならびにＡ、Ｂ、およびＣを網羅することが意図される。語句「Ｘ、Ｙ、およびＺのうちの少なくとも１つ」等の接続文は、別様に具体的に記載されない限り、概して、項目、用語等がＸ、Ｙ、またはＺのうちの少なくとも１つであり得ることを伝えるために使用されるような文脈で別様に理解される。したがって、そのような接続文は、概して、ある実施形態が、Ｘのうちの少なくとも１つ、Ｙのうちの少なくとも１つ、およびＺのうちの少なくとも１つがそれぞれ存在するように要求することを示唆することを意図されない。
同様に、動作は、特定の順序で図面に描写され得るが、これは、望ましい結果を達成するために、そのような動作が示される特定の順序で、もしくは連続的順序で実施される、または全ての図示される動作が実施される必要はないと認識されるべきである。さらに、図面は、フローチャートの形態で１つ以上の例示的プロセスを図式的に描写し得る。しかしながら、描写されない他の動作も、図式的に図示される例示的方法およびプロセス内に組み込まれてもよい。例えば、１つ以上の付加的動作が、図示される動作のいずれかの前に、その後に、それと同時に、またはその間に実施されてもよい。加えて、動作は、他の実施形態において再配列される、または再順序付けられ得る。ある状況では、マルチタスクおよび並列処理が、有利であり得る。さらに、上記に説明される実施形態における種々のシステムコンポーネントの分離は、全ての実施形態におけるそのような分離を要求するものとして理解されるべきではなく、説明されるプログラムコンポーネントおよびシステムは、概して、単一のソフトウェア製品においてともに統合される、または複数のソフトウェア製品にパッケージ化され得ることを理解されたい。加えて、他の実施形態も、以下の請求項の範囲内である。いくつかの場合では、請求項に列挙されるアクションは、異なる順序で実施され、依然として、望ましい結果を達成し得る。

Claims (23)

  1. 拡張現実システムであって、
    光をユーザに出力することによって仮想コンテンツを提示するように構成される頭部搭載型ディスプレイと、
    前記ユーザの眼の画像を捕捉するように構成される結像デバイスと、
    前記頭部搭載型ディスプレイおよび前記結像デバイスに通信可能に結合される少なくとも１つのプロセッサであって、前記少なくとも１つのプロセッサは、
    左眼ディスプレイを用いて、左眼整合マーカを提供することと、
    右眼ディスプレイを用いて、右眼整合マーカを提供することと、
    ユーザ入力を受信し、前記左眼整合マーカおよび前記右眼整合マーカのうちの少なくとも１つを調節することと、
    前記受信されたユーザ入力に基づいて、前記左眼ディスプレイおよび右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節することと
    を行うように構成される、少なくとも１つのプロセッサと
    を備える、拡張現実システム。
  2. 前記プロセッサは、
    前記頭部搭載型ディスプレイシステムがユーザの左眼および右眼に対して水平であるかどうかを決定することと、
    前記左眼整合マーカまたは右眼整合マーカを提供する前に、前記ユーザに、前記頭部搭載型ディスプレイシステムがユーザの左眼および右眼に対して水平であるかどうかに関するフィードバックを提供することと
    を行うように構成される、請求項１に記載の拡張現実システム。
  3. 前記プロセッサは、前記ユーザに、ユーザの左眼および右眼に対する前記頭部搭載型ディスプレイの配向に関連して変化する配向を有する水平マーカを提示することによって、前記頭部搭載型ディスプレイがユーザの左眼および右眼に対して水平であるかどうかに関するフィードバックを提供するように構成される、請求項１に記載の拡張現実システム。
  4. 眼追跡システムをさらに備え、前記プロセッサは、前記眼追跡システムからの眼追跡データに基づいて、前記頭部搭載型ディスプレイシステムがユーザの左眼および右眼に対して水平であるかどうかを決定するように構成される、請求項１に記載の拡張現実システム。
  5. 眼追跡システムをさらに備え、前記プロセッサはさらに、前記眼追跡システムからの眼追跡データに基づいて、前記ユーザの左眼と右眼との間に延在する前記ユーザの眼球間軸を決定するように構成される、請求項１に記載の拡張現実システム。
  6. 前記プロセッサはさらに、前記ユーザの眼球間軸に対する前記眼追跡システムの配向を決定することによって、前記頭部搭載型ディスプレイシステムがユーザの左眼および右眼に対して水平であるかどうかを決定するように構成される、請求項５に記載の拡張現実システム。
  7. 前記プロセッサは、前記ユーザに、前記ユーザの眼球間軸に対する前記眼追跡システムの配向に関連して変化する配向を有する水平マーカを提示することによって、前記頭部搭載型ディスプレイがユーザの左眼および右眼に対して水平であるかどうかに関するフィードバックを提供するように構成される、請求項５に記載の拡張現実システム。
  8. 前記プロセッサは、前記ユーザに、前記頭部搭載型ディスプレイの配向と関連付けられる静的水平マーカを提示し、前記眼球間軸の配向と関連付けられる動的水平マーカを提示することによって、前記頭部搭載型ディスプレイがユーザの左眼および右眼に対して水平であるかどうかに関するフィードバックを提供するように構成され、前記動的水平マーカは、前記眼球間軸の配向が前記頭部搭載型ディスプレイに対して変化するにつれて、前記静的水平マーカに対して移動する、請求項５に記載の拡張現実システム。
  9. 前記動的水平マーカは、前記頭部搭載型ディスプレイが前記眼球間軸に対して水平であるとき、前記静的水平マーカとマージする、請求項８に記載の拡張現実システム。
  10. 前記左眼整合マーカは、第１の水平線を備え、前記右眼整合マーカは、第２の水平線を備える、請求項１に記載の拡張現実システム。
  11. 前記プロセッサは、前記第１および第２の水平線のうちの少なくとも１つを上昇または降下させるためのユーザ入力の形態において、ユーザ入力を受信し、前記左眼整合マーカおよび右眼整合マーカのうちの少なくとも１つを調節するように構成される、請求項１０に記載の拡張現実システム。
  12. 前記プロセッサは、前記第１および第２の水平線が前記ユーザの視点から水平になるまで、前記第１および第２の水平線のうちの少なくとも１つを上昇または降下させるためのユーザ入力の形態において、ユーザ入力を受信し、前記左眼整合マーカおよび右眼整合マーカのうちの少なくとも１つを調節するように構成される、請求項１０に記載の拡張現実システム。
  13. 前記頭部搭載型ディスプレイは、前記世界からの光を前記ユーザの左眼の中に通過させるように構成される第１の導波管スタックと、前記世界からの光を前記ユーザの右眼の中に通過させるように構成される第２の導波管スタックとを備え、各導波管スタックは、複数の導波管を備える、請求項１に記載の拡張現実システム。
  14. 前記頭部搭載型ディスプレイは、前記世界からの光を前記ユーザの左眼の中に通過させるように構成される第１の導波管スタックと、前記世界からの光を前記ユーザの右眼の中に通過させるように構成される第２の導波管スタックとを備え、
    各導波管スタックは、複数の導波管を備え、その導波管スタックの１つ以上の導波管は、ユーザに、その導波管スタックの１つ以上の他の導波管と異なる量の波面発散を伴う光を出力するように構成され、
    異なる量の波面発散は、前記眼による異なる遠近調節と関連付けられ、
    前記異なる量の波面発散を伴う出力された光は、仮想オブジェクトを前記ユーザから離れた異なる知覚される深度に形成する、
    請求項１に記載の拡張現実システム。
  15. ユーザの左眼および右眼を用いて、頭部搭載型ディスプレイシステムの左眼ディスプレイおよび右眼ディスプレイの表示されるコンテンツを垂直に整合させるための方法であって、前記方法は、
    前記左眼ディスプレイを用いて、左眼整合マーカを提供することと、
    前記右眼ディスプレイを用いて、右眼整合マーカを提供することと、
    ユーザ入力を受信し、前記左眼整合マーカおよび前記右眼整合マーカのうちの少なくとも１つを調節することと、
    前記受信されたユーザ入力に基づいて、前記左眼ディスプレイおよび右眼ディスプレイのうちの少なくとも１つ内の画像コンテンツを垂直に調節することと
    を含む、方法。
  16. ユーザの左眼および右眼に対する前記頭部搭載型ディスプレイシステムの水平度を決定することと、
    前記左眼整合マーカまたは右眼整合マーカを提供する前に、前記ユーザに、前記頭部搭載型ディスプレイシステムがユーザの左眼および右眼に対して水平であるかどうかに関するフィードバックを提供することと
    をさらに含む、請求項１５に記載の方法。
  17. 前記頭部搭載型ディスプレイシステムは、眼追跡システムを備え、ユーザの左眼および右眼に対する前記頭部搭載型ディスプレイシステムの水平度を決定することは、前記眼追跡システムを利用して、前記ユーザの左眼と右眼との間に延在する前記ユーザの眼球間軸を決定し、前記眼球間軸に対する前記頭部搭載型ディスプレイシステムの水平度を決定することを含む、請求項１５に記載の方法。
  18. 前記眼追跡システムを利用して、前記ユーザの眼球間軸を決定することは、
    前記眼追跡システムを用いて、前記ユーザの左眼の回転中心を決定することと、
    前記眼追跡システムを用いて、前記ユーザの右眼の回転中心を決定することと、
    前記ユーザの左眼および右眼の回転中心間に延在する線の位置を決定することであって、前記線は、前記眼球間軸を構成する、ことと
    を含む、請求項１７に記載の方法。
  19. 前記左眼整合マーカを提供することは、前記左眼ディスプレイを用いて、第１の垂直整合マーカおよび第１の水平整合マーカを提供することを含み、前記右眼整合マーカを提供することは、前記右眼ディスプレイを用いて、第２の垂直整合マーカおよび第２の水平整合マーカを提供することを含む、請求項１５に記載の方法。
  20. ユーザによって視認されると、前記第１および第２の垂直整合マーカは、前記ユーザの視覚内でともに融合し、前記第１および第２の水平整合マーカは、前記ユーザの視覚内で融合されないままである、請求項１９に記載の方法。
  21. 前記左眼整合マーカおよび右眼整合マーカのうちの少なくとも１つを調節するためのユーザ入力を受信することは、前記第１および第２の水平整合マーカのうちの少なくとも１つを垂直に移動させるためのユーザ入力を受信することを含む、請求項１９に記載の方法。
  22. 前記左眼整合マーカおよび右眼整合マーカのうちの少なくとも１つを調節するためのユーザ入力を受信することは、前記第１および第２の水平整合マーカが前記ユーザの視覚内で相互に垂直に整合されるまで、前記第１および第２の水平整合マーカのうちの少なくとも１つを垂直に移動させるためのユーザ入力を受信することを含む、請求項１９に記載の方法。
  23. 前記ユーザが所与の閾値時間にわたって前記頭部搭載型ディスプレイシステムを装着していることを決定することと、
    前記ユーザが所与の閾値時間にわたって前記頭部搭載型ディスプレイシステムを装着していることの決定に応答して、前記頭部搭載型ディスプレイシステムの水平度を決定することを実施することと
    をさらに含む、請求項１５に記載の方法。
JP2021502899A 2018-07-24 2019-07-24 左および右ディスプレイとユーザの眼との間の垂直整合を決定するためのディスプレイシステムおよび方法 Active JP7456995B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862702865P 2018-07-24 2018-07-24
US62/702,865 2018-07-24
PCT/US2019/043302 WO2020023672A1 (en) 2018-07-24 2019-07-24 Display systems and methods for determining vertical alignment between left and right displays and a user's eyes

Publications (3)

Publication Number Publication Date
JP2021532464A true JP2021532464A (ja) 2021-11-25
JPWO2020023672A5 JPWO2020023672A5 (ja) 2022-08-01
JP7456995B2 JP7456995B2 (ja) 2024-03-27

Family

ID=69181195

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021502899A Active JP7456995B2 (ja) 2018-07-24 2019-07-24 左および右ディスプレイとユーザの眼との間の垂直整合を決定するためのディスプレイシステムおよび方法

Country Status (5)

Country Link
US (3) US11422620B2 (ja)
EP (1) EP3827585A4 (ja)
JP (1) JP7456995B2 (ja)
CN (1) CN112655204A (ja)
WO (1) WO2020023672A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11181977B2 (en) * 2017-11-17 2021-11-23 Dolby Laboratories Licensing Corporation Slippage compensation in eye tracking
WO2020023672A1 (en) * 2018-07-24 2020-01-30 Magic Leap, Inc. Display systems and methods for determining vertical alignment between left and right displays and a user's eyes
GB2588774A (en) * 2019-11-05 2021-05-12 Arspectra Sarl Augmented reality headset for medical imaging
CN113010125B (zh) 2019-12-20 2024-03-19 托比股份公司 方法、计算机程序产品和双目式头戴装置控制器
GB2597533B (en) * 2020-07-28 2022-11-23 Sony Interactive Entertainment Inc Gaze tracking system and method
US20230119633A1 (en) * 2021-10-20 2023-04-20 Microsoft Technology Licensing, Llc Enhanced eye tracking systems utilizing joint biological and hardware estimations

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011221235A (ja) * 2010-04-08 2011-11-04 Sony Corp 頭部装着型ディスプレイにおける光学的位置調整方法
WO2012172719A1 (ja) * 2011-06-16 2012-12-20 パナソニック株式会社 ヘッドマウントディスプレイおよびその位置ずれ調整方法
WO2014017348A1 (ja) * 2012-07-24 2014-01-30 ソニー株式会社 画像表示装置および画像表示方法
WO2018067357A2 (en) * 2016-10-05 2018-04-12 Magic Leap, Inc. Periocular test for mixed reality calibration

Family Cites Families (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6222525B1 (en) 1992-03-05 2001-04-24 Brad A. Armstrong Image controllers with sheet connected sensors
US5670988A (en) 1995-09-05 1997-09-23 Interlink Electronics, Inc. Trigger operated electronic device
US6684007B2 (en) * 1998-10-09 2004-01-27 Fujitsu Limited Optical coupling structures and the fabrication processes
US11428937B2 (en) 2005-10-07 2022-08-30 Percept Technologies Enhanced optical and perceptual digital eyewear
US8696113B2 (en) 2005-10-07 2014-04-15 Percept Technologies Inc. Enhanced optical and perceptual digital eyewear
US20070081123A1 (en) 2005-10-07 2007-04-12 Lewis Scott W Digital eyewear
US9304319B2 (en) 2010-11-18 2016-04-05 Microsoft Technology Licensing, Llc Automatic focus improvement for augmented reality displays
KR101997845B1 (ko) 2010-12-24 2019-10-01 매직 립, 인코포레이티드 인체공학적 머리 장착식 디스플레이 장치 및 광학 시스템
US10156722B2 (en) 2010-12-24 2018-12-18 Magic Leap, Inc. Methods and systems for displaying stereoscopy with a freeform optical system with addressable focus for virtual and augmented reality
CN107656615B (zh) 2011-05-06 2021-09-14 奇跃公司 大量同时远程数字呈现世界
EP2760363A4 (en) 2011-09-29 2015-06-24 Magic Leap Inc TACTILE GLOVE FOR HUMAN COMPUTER INTERACTION
EP3666352B1 (en) 2011-10-28 2021-12-01 Magic Leap, Inc. Method and device for augmented and virtual reality
US9116545B1 (en) * 2012-03-21 2015-08-25 Hayes Solos Raffle Input detection
KR102028732B1 (ko) 2012-04-05 2019-10-04 매직 립, 인코포레이티드 능동 포비에이션 능력을 갖는 와이드-fov(field of view) 이미지 디바이스들
US9671566B2 (en) 2012-06-11 2017-06-06 Magic Leap, Inc. Planar waveguide apparatus with diffraction element(s) and system employing same
KR20150054967A (ko) 2012-09-11 2015-05-20 매직 립, 인코포레이티드 인체공학적 헤드 마운티드 디스플레이 디바이스 및 광학 시스템
US20140240842A1 (en) * 2013-02-22 2014-08-28 Ian Nguyen Alignment-insensitive image input coupling
KR102271198B1 (ko) 2013-03-15 2021-06-29 매직 립, 인코포레이티드 디스플레이 시스템 및 방법
US9874749B2 (en) 2013-11-27 2018-01-23 Magic Leap, Inc. Virtual and augmented reality systems and methods
US20140375540A1 (en) 2013-06-24 2014-12-25 Nathan Ackerman System for optimal eye fit of headset display device
US9094677B1 (en) * 2013-07-25 2015-07-28 Google Inc. Head mounted display device with automated positioning
EP4321915A3 (en) 2013-10-16 2024-05-01 Magic Leap, Inc. Virtual or augmented reality headsets having adjustable interpupillary distance
CN107219628B (zh) 2013-11-27 2020-05-01 奇跃公司 虚拟和增强现实系统与方法
US9857591B2 (en) 2014-05-30 2018-01-02 Magic Leap, Inc. Methods and system for creating focal planes in virtual and augmented reality
US20150193980A1 (en) * 2014-01-06 2015-07-09 Qualcomm Incorporated Calibration of augmented reality (ar) optical see-through display using shape-based alignment
US10203762B2 (en) 2014-03-11 2019-02-12 Magic Leap, Inc. Methods and systems for creating virtual and augmented reality
US20160187651A1 (en) * 2014-03-28 2016-06-30 Osterhout Group, Inc. Safety for a vehicle operator with an hmd
AU2015297035B2 (en) 2014-05-09 2018-06-28 Google Llc Systems and methods for biomechanically-based eye signals for interacting with real and virtual objects
TWI577172B (zh) 2014-09-10 2017-04-01 鈺立微電子股份有限公司 影像校正系統和立體照相機的校正方法
JP6887953B2 (ja) * 2015-03-16 2021-06-16 マジック リープ，インコーポレイティド 健康を損う疾病を診断して治療する方法及びシステム
US10271042B2 (en) * 2015-05-29 2019-04-23 Seeing Machines Limited Calibration of a head mounted eye tracking system
WO2017079333A1 (en) 2015-11-04 2017-05-11 Magic Leap, Inc. Light field display metrology
AU2017246901B2 (en) * 2016-04-08 2022-06-02 Magic Leap, Inc. Augmented reality systems and methods with variable focus lens elements
US10133071B2 (en) * 2016-09-28 2018-11-20 Intel Corporation Replaceable optical element for near eye display
US10521662B2 (en) * 2018-01-12 2019-12-31 Microsoft Technology Licensing, Llc Unguided passive biometric enrollment
WO2020023672A1 (en) 2018-07-24 2020-01-30 Magic Leap, Inc. Display systems and methods for determining vertical alignment between left and right displays and a user's eyes
US11042034B2 (en) * 2018-12-27 2021-06-22 Facebook Technologies, Llc Head mounted display calibration using portable docking station with calibration target
US10650785B1 (en) * 2019-02-21 2020-05-12 Microsoft Technology Licensing, Llc Color management of display device
US11099384B2 (en) * 2019-03-27 2021-08-24 Lenovo (Singapore) Pte. Ltd. Adjusting display settings of a head-mounted display
US10678059B1 (en) * 2019-04-02 2020-06-09 Microsoft Technology Licensing, Llc Concealed shock protector for head-mounted device display
US20220082739A1 (en) * 2020-09-17 2022-03-17 Facebook Technologies, Llc Techniques for manufacturing variable etch depth gratings using gray-tone lithography

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011221235A (ja) * 2010-04-08 2011-11-04 Sony Corp 頭部装着型ディスプレイにおける光学的位置調整方法
WO2012172719A1 (ja) * 2011-06-16 2012-12-20 パナソニック株式会社 ヘッドマウントディスプレイおよびその位置ずれ調整方法
WO2014017348A1 (ja) * 2012-07-24 2014-01-30 ソニー株式会社 画像表示装置および画像表示方法
WO2018067357A2 (en) * 2016-10-05 2018-04-12 Magic Leap, Inc. Periocular test for mixed reality calibration

Also Published As

Publication number Publication date
EP3827585A1 (en) 2021-06-02
US11822718B2 (en) 2023-11-21
EP3827585A4 (en) 2022-04-27
US20220391013A1 (en) 2022-12-08
US20210181840A1 (en) 2021-06-17
US20240036645A1 (en) 2024-02-01
US11422620B2 (en) 2022-08-23
WO2020023672A1 (en) 2020-01-30
CN112655204A (zh) 2021-04-13
JP7456995B2 (ja) 2024-03-27

Similar Documents

Publication Publication Date Title
JP7415077B2 (ja) ディスプレイとユーザの眼との間の位置合わせを決定するためのディスプレイシステムおよび方法
JP7443332B2 (ja) ユーザカテゴリ化による多深度平面ディスプレイシステムのための深度平面選択
JP7291708B2 (ja) ディスプレイとユーザの眼との間の位置合わせを決定するためのディスプレイシステムおよび方法
JP2021511723A (ja) 眼の回転中心決定、深度平面選択、およびディスプレイシステム内のレンダリングカメラ位置付け
JP2022523021A (ja) 異なる露光時間を有する画像を使用した眼追跡
JP7456995B2 (ja) 左および右ディスプレイとユーザの眼との間の垂直整合を決定するためのディスプレイシステムおよび方法
CN115053270A (zh) 用于基于用户身份来操作头戴式显示系统的系统和方法
CN114424147A (zh) 利用一个或多个眼睛跟踪相机确定眼睛旋转中心
CN116033864A (zh) 使用非球形角膜模型的眼睛跟踪

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220722

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220722

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230727

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20231026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240314

R150 Certificate of patent or registration of utility model

Ref document number: 7456995

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150