JP2023101505A - 光走査プロジェクタと連動した眼移動の追跡のための方法およびシステム - Google Patents

光走査プロジェクタと連動した眼移動の追跡のための方法およびシステム Download PDF

Info

Publication number
JP2023101505A
JP2023101505A JP2023074415A JP2023074415A JP2023101505A JP 2023101505 A JP2023101505 A JP 2023101505A JP 2023074415 A JP2023074415 A JP 2023074415A JP 2023074415 A JP2023074415 A JP 2023074415A JP 2023101505 A JP2023101505 A JP 2023101505A
Authority
JP
Japan
Prior art keywords
eye
eyepiece
optical
light
scanning projector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023074415A
Other languages
English (en)
Inventor
ティー. ショーウェンゲルト ブライアン
T Schowengerdt Brian
ディー. ワトソン マシュー
D Watson Matthew
フランク スコット
Frank Scott
デイビッド メルヴィル チャールズ
David Melville Charles
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Magic Leap Inc
Original Assignee
Magic Leap Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Magic Leap Inc filed Critical Magic Leap Inc
Publication of JP2023101505A publication Critical patent/JP2023101505A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/383Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/08Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light
    • G02B26/10Scanning systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0081Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. enlarging, the entrance or exit pupil
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/02Viewing or reading apparatus
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/28Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/24Coupling light guides
    • G02B6/26Optical coupling means
    • GPHYSICS
    • G02OPTICS
    • G02CSPECTACLES; SUNGLASSES OR GOGGLES INSOFAR AS THEY HAVE THE SAME FEATURES AS SPECTACLES; CONTACT LENSES
    • G02C11/00Non-optical adjuncts; Attachment thereof
    • GPHYSICS
    • G02OPTICS
    • G02CSPECTACLES; SUNGLASSES OR GOGGLES INSOFAR AS THEY HAVE THE SAME FEATURES AS SPECTACLES; CONTACT LENSES
    • G02C11/00Non-optical adjuncts; Attachment thereof
    • G02C11/10Electronic devices other than hearing aids
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/02Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes by tracing or scanning a light beam on a screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/334Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using spectral multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/64Constructional details of receivers, e.g. cabinets or dust covers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3129Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM] scanning a light beam on the display screen
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0123Head-up displays characterised by optical features comprising devices increasing the field of view
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Abstract

【課題】好適な光走査プロジェクタと連動した眼移動の追跡のための方法およびシステムを提供すること。【解決手段】本発明は、概して、ウェアラブルディスプレイを含む投影ディスプレイシステムに関連する方法およびシステムに関する。より具体的には、光走査プロジェクタシステムに関連して眼移動を追跡する方法およびシステムを提供し得る。時間の関数としての眼配向および運動を決定するための方法およびシステム(すなわち、眼追跡)が、ファイバ走査プロジェクタによって駆動される導波管ディスプレイと併せて実装され得る。本発明は、コンピュータビジョンおよび画像ディスプレイシステムにおける種々の用途に適用可能である。眼追跡システムは、光走査プロジェクタと、光走査プロジェクタに光学的に結合される接眼レンズとを含む。眼追跡システムはまた、光学センサと、光走査プロジェクタおよび光学センサに結合されるプロセッサとを含む。【選択図】図6

Description

(関連出願の相互参照)
本願は、2017年3月21日に出願され”Method and System for Tracking Eye Movement in Conjunction with a Fiber Scanning Projector”と題された米国仮特許出願第62/474,497号に対する優先権を主張するものであり、該米国仮特許出願の開示は、あらゆる目的のためにその全体が本明細書中に援用される。
現代のコンピューティングおよびディスプレイ技術は、いわゆる「仮想現実」または「拡張現実」体験のためのシステムの開発を促進しており、デジタル的に再現された画像またはその一部が、現実であるように見える、またはそのように知覚され得る様式で視認者に提示される。仮想現実または「VR」シナリオは、典型的には、他の実際の実世界の視覚的入力に対する透過性を伴わずに、デジタルまたは仮想画像情報の提示を伴い、拡張現実、すなわち、「AR」シナリオは、典型的には、視認者の周囲の実際の世界の可視化に対する拡張のデジタルまたは仮想画像情報の提示を伴う。
これらのディスプレイ技術において成された進歩にもかかわらず、当技術分野において、拡張現実システム、特に、ディスプレイシステムに関連する改良された方法およびシステムの必要性がある。
本発明は、概して、ウェアラブルディスプレイを含む投影ディスプレイシステムに関連する方法およびシステムに関する。より具体的には、本発明の実施形態は、光走査プロジェクタシステムに関連して眼移動を追跡する方法およびシステムを提供する。特定の実施形態では、時間の関数としての眼配向および運動を決定するための方法およびシステム(すなわち、眼追跡)が、ファイバ走査プロジェクタによって駆動される導波管ディスプレイと併せて実装される。本発明は、コンピュータビジョンおよび画像ディスプレイシステムにおける種々の用途に適用可能である。
本発明のある実施形態によると、眼追跡システムが、提供される。眼追跡システムは、2つのフレームを含む眼鏡と、眼鏡に結合され、光のビームを走査するように動作可能な光走査プロジェクタとを含む。眼追跡システムはまた、2つのフレームのうちの1つの中に搭載され、光走査プロジェクタに光学的に結合される、接眼レンズを含む。接眼レンズは、光のビームの少なくとも一部をユーザの眼に向かって指向するように動作可能な射出瞳エキスパンダを含む。眼追跡システムはさらに、眼鏡に結合される1つ以上の光検出器と、光走査プロジェクタおよび1つ以上の光検出器に結合されるプロセッサとを含む。
本発明の具体的実施形態によると、眼追跡システムが、提供される。眼追跡システムは、光走査プロジェクタと、光走査プロジェクタに光学的に結合される接眼レンズとを含む。眼追跡システムはまた、光学センサと、光走査プロジェクタおよび光学センサに結合されるプロセッサとを含む。
本発明の別の実施形態によると、光走査プロジェクタと、接眼レンズと、光学センサとを含む、眼追跡システムを動作させる方法が、提供される。本方法は、光走査プロジェクタを使用して、光学信号を生成するステップと、光学信号の少なくとも一部を接眼レンズの中に結合するステップとを含む。本方法はまた、接眼レンズから、ユーザの眼によって視認可能な画像を投影するステップと、光学センサを使用して、ユーザの眼から反射された光を検出するステップと、ユーザの眼の位置を追跡するステップとを含む。
本発明の別の具体的実施形態によると、第1の配向から第2の配向への眼移動を追跡する方法が、提供される。本方法は、ビデオ画像の第1の画像フレームを形成するために、導波管走査プロジェクタの導波管を走査するステップを含む。第1の一連のピクセルが、第1の画像フレームを定義する。本方法はまた、第1の画像フレームを複数の平面導波管を含む接眼レンズの中に結合するステップと、第1の画像フレームの少なくとも一部をユーザの眼に透過するステップと、第1の一連の反射強度を検出するステップであって、第1の一連のものはそれぞれ、第1の一連のピクセルのあるピクセルと関連付けられる、ステップとを含む。本方法はさらに、第1の一連の検出された反射強度を第1の一連のピクセルと相関させるステップと、眼の第1の配向を決定するステップと、ビデオ画像の第2の画像フレームを形成するために、導波管を走査するステップとを含む。第2の一連のピクセルが、第2の画像フレームを定義する。加えて、本方法は、第2の画像フレームを接眼レンズの中に結合するステップと、第2の画像フレームの少なくとも一部をユーザの眼に透過するステップと、第2の一連の反射強度を検出するステップであって、第2の一連のものはそれぞれ、第2の一連のピクセルのあるピクセルと関連付けられる、ステップとを含む。本方法はさらに、第2の一連の検出された反射強度を第2の一連のピクセルと相関させるステップと、眼の第2の配向を決定するステップとを含む。
本発明の別の具体的実施形態によると、眼配向を特性評価する方法が、提供される。本方法は、ビデオ画像の画像フレームの第1の部分を形成するために、ファイバ走査プロジェクタのファイバを走査するステップを含む。第1の一連のピクセルが、画像フレームの第1の部分を定義する。本方法はまた、画像フレームの第1の部分を複数の平面導波管を含む接眼レンズの中に結合するステップと、画像フレームの第1の部分の少なくとも一部をユーザの眼に透過するステップと、複数の光学検出器のそれぞれにおいて、時間的反射信号を検出するステップとを含む。本方法はさらに、複数の時間的反射信号を第1の一連のピクセルと相関させるステップと、ビデオ画像の画像フレームの第2の部分を形成するために、ファイバを走査するステップとを含む。第2の一連のピクセルが、画像フレームの第2の部分を定義する。加えて、本方法は、画像フレームの第2の部分を接眼レンズの中に結合するステップと、画像フレームの第2の部分の少なくとも一部をユーザの眼に透過するステップとを含む。本方法はさらに、複数の光学検出器のそれぞれにおいて、第2の時間的反射信号を検出するステップと、複数の第2の時間的反射信号を第2の一連のピクセルと相関させるステップと、眼配向を決定するステップとを含む。
本発明の特定の実施形態によると、眼追跡を実施する方法が、提供される。本方法は、光走査プロジェクタ、フレーム内に搭載される接眼レンズ、およびフレームの周辺の周囲に整列される複数の光学検出器を提供するステップを含む。本方法はまた、光走査プロジェクタおよび接眼レンズを使用して、第1の画像フレームを眼に投影するステップと、複数の光学検出器を使用して、複数の時変反射信号を検出するステップと、第1の眼配向を決定するステップとを含む。本方法はさらに、光走査プロジェクタおよび接眼レンズを使用して、第2の画像フレームを眼に投影するステップと、複数の光学検出器を使用して、第2の複数の時変反射信号を検出するステップと、第2の眼配向を決定するステップとを含む。
従来の技法に優る多数の利益が、本発明の方法によって達成される。例えば、本発明の実施形態は、小型形状因子を有する導波管ディスプレイと併せて眼追跡を可能にする方法およびシステムを提供する。加えて、いくつかの実施形態は、入力放射としてディスプレイを駆動するために提供される光を利用し、本表示光の反射に基づいて眼を追跡し、それによって、システム複雑性を低減させる。本発明のこれらおよび他の実施形態は、その利点および特徴の多くとともに、下記のテキストおよび添付される図と併せてより詳細に説明される。
本願明細書は、例えば、以下の項目も提供する。
(項目1)
眼追跡システムであって、
光走査プロジェクタと、
前記光走査プロジェクタに光学的に結合される接眼レンズと、
光学センサと、
前記光走査プロジェクタおよび前記光学センサに結合されるプロセッサと
を備える、眼追跡システム。
(項目2)
前記光走査プロジェクタは、走査点光源を備える、項目1に記載の眼追跡システム。
(項目3)
前記光走査プロジェクタは、走査導波管プロジェクタを備える、項目2に記載の眼追跡システム。
(項目4)
前記走査導波管プロジェクタは、ファイバ走査プロジェクタを備える、項目3に記載の眼追跡システム。
(項目5)
フレームを有する眼鏡をさらに備え、前記光走査プロジェクタ、前記接眼レンズ、および前記光学センサは、前記フレーム内に搭載される、項目1に記載の眼追跡システム。
(項目6)
前記接眼レンズは、複数の平面導波管を備える、項目1に記載の眼追跡システム。
(項目7)
前記複数の平面導波管は、4つの平面導波管を備える、項目6に記載の眼追跡システム。
(項目8)
前記光学センサは、光検出器を備える、項目1に記載の眼追跡システム。
(項目9)
前記光走査プロジェクタは、表示信号および特性評価信号を出力するように動作可能である、項目1に記載の眼追跡システム。
(項目10)
前記表示信号は、1つ以上の可視波長を含み、前記特性評価信号は、1つ以上の不可視波長を含む、項目9に記載の眼追跡システム。
(項目11)
前記1つ以上の可視波長は、赤色、緑色、および青色波長を含み、前記1つ以上の不可視波長は、赤外波長を含む、項目10に記載の眼追跡システム。
(項目12)
前記接眼レンズは、複数の平面導波管を備え、
前記複数の平面導波管は、
赤色波長に対応する第1の平面導波管と、
緑色波長に対応する第2の平面導波管と、
青色波長に対応する第3の平面導波管と、
赤外波長に対応する第4の平面導波管と
を含む、項目11に記載の眼追跡システム。
(項目13)
光走査プロジェクタと、接眼レンズと、光学センサとを含む、眼追跡システムを動作させる方法であって、前記方法は、
前記光走査プロジェクタを使用して、光学信号を生成することと、
前記光学信号の少なくとも一部を前記接眼レンズの中に結合することと、
前記接眼レンズから、ユーザの眼によって視認可能な画像を投影することと、
前記光学センサを使用して、前記ユーザの眼から反射された光を検出することと、
前記ユーザの眼の位置を追跡することと
を含む、方法。
(項目14)
前記光走査プロジェクタは、ファイバ走査プロジェクタを備える、項目13に記載の方法。
(項目15)
前記光学信号は、表示信号と、特性評価信号とを含む、項目13に記載の方法。
(項目16)
前記表示信号は、1つ以上の可視波長を含み、前記特性評価信号は、1つ以上の不可視波長を含む、項目15に記載の方法。
(項目17)
前記1つ以上の可視波長は、赤色、緑色、および青色波長を含み、前記1つ以上の不可視波長は、赤外波長を含む、項目16に記載の方法。
(項目18)
前記接眼レンズは、複数の平面導波管を備える、項目13に記載の方法。
(項目19)
前記複数の平面導波管は、4つの平面導波管を備える、項目18に記載の方法。
(項目20)
前記光学センサは、光検出器を備える、項目13に記載の方法。
(項目21)
前記ユーザの眼の位置を追跡することは、前記画像の一連のピクセルの位置を前記ユーザの眼から反射された前記光の一連の強度と相関させることを含む、項目13に記載の方法。
(項目22)
第1の配向から第2の配向への眼移動を追跡する方法であって、前記方法は、
ビデオ画像の第1の画像フレームを形成するために、光走査プロジェクタの出力ビームを走査することであって、第1の一連のピクセルが、前記第1の画像フレームを定義する、ことと、
前記第1の画像フレームを複数の平面導波管を含む接眼レンズの中に結合することと、
前記第1の画像フレームの少なくとも一部をユーザの眼に透過することと、
第1の一連の反射強度を検出することであって、前記第1の一連のものはそれぞれ、前記第1の一連のピクセルのうちのピクセルと関連付けられる、ことと、
前記第1の一連の反射強度を前記第1の一連のピクセルと相関させることと、
前記眼の第1の配向を決定することと、
前記ビデオ画像の第2の画像フレームを形成するために、前記出力ビームを走査することであって、第2の一連のピクセルが、前記第2の画像フレームを定義する、ことと、
前記第2の画像フレームを前記接眼レンズの中に結合することと、
前記第2の画像フレームの少なくとも一部を前記ユーザの眼に透過することと、
第2の一連の反射強度を検出することであって、前記第2の一連のものはそれぞれ、前記第2の一連のピクセルのうちのピクセルと関連付けられる、ことと、
前記第2の一連の反射強度を前記第2の一連のピクセルと相関させることと、
前記眼の第2の配向を決定することと
を含む、方法。
(項目23)
前記第1の配向および前記第2の配向に関連する軌道を出力することをさらに含む、項目22に記載の方法。
(項目24)
前記複数の平面導波管は、
赤色波長に対応する第1の平面導波管と、
緑色波長に対応する第2の平面導波管と、
青色波長に対応する第3の平面導波管と、
赤外波長に対応する第4の平面導波管と
を含む、項目22に記載の方法。
(項目25)
前記第1の画像フレームおよび前記第2の画像フレームは、前記ビデオ画像の連続フレームである、項目22に記載の方法。
(項目26)
1つ以上の付加的画像フレームが、前記第1の画像フレームと前記第2の画像フレームとの間に位置付けられる、項目22に記載の方法。
(項目27)
前記第1の画像フレームを前記接眼レンズの中に結合することおよび前記第2の画像フレームを前記接眼レンズの中に結合することは、回折光学要素を使用して、前記第1の画像フレームおよび前記第2の画像フレームを回折することを含む、項目22に記載の方法。
(項目28)
前記第1の画像フレームの少なくとも一部を前記ユーザの眼に透過することおよび前記第2の画像フレームの少なくとも一部を前記ユーザの眼に透過することは、1つ以上の回折光学要素を使用して、前記第1の画像フレームの少なくとも一部および前記第2の画像フレームの少なくとも一部を回折することを含む、項目22に記載の方法。
(項目29)
前記1つ以上の回折光学要素は、前記接眼レンズの平面内で光を回折するように動作可能な第1の回折光学要素と、前記接眼レンズの平面から光を回折するように動作可能な第2の回折光学要素とを備える、項目28に記載の方法。
(項目30)
眼配向を特性評価する方法であって、前記方法は、
ビデオ画像の画像フレームの第1の部分を形成するために、ファイバ走査プロジェクタのファイバを走査することであって、第1の一連のピクセルが、前記画像フレームの第1の部分を定義する、ことと、
前記画像フレームの第1の部分を複数の平面導波管を含む接眼レンズの中に結合することと、
前記画像フレームの第1の部分の少なくとも一部をユーザの眼に透過することと、
複数の光学検出器のそれぞれにおいて、時間的反射信号を検出することと、
前記複数の時間的反射信号を前記第1の一連のピクセルと相関させることと、
前記ビデオ画像の画像フレームの第2の部分を形成するために、前記ファイバを走査することであって、第2の一連のピクセルが、前記画像フレームの第2の部分を定義する、ことと、
前記画像フレームの第2の部分を前記接眼レンズの中に結合することと、
前記画像フレームの第2の部分の少なくとも一部を前記ユーザの眼に透過することと、
前記複数の光学検出器のそれぞれにおいて、第2の時間的反射信号を検出することと、
前記複数の第2の時間的反射信号を前記第2の一連のピクセルと相関させることと、
前記眼配向を決定することと
を含む、方法。
(項目31)
前記複数の光学検出器は、複数の光検出器を備える、項目30に記載の方法。
(項目32)
前記複数の光検出器は、前記眼の周辺領域の周囲に整列される、項目31に記載の方法。
(項目33)
前記接眼レンズは、周辺を有するフレーム内に搭載される、項目31に記載の方法。
(項目34)
前記複数の光検出器は、前記フレームの周辺に配置される、項目33に記載の方法。
(項目35)
前記複数の光検出器は、前記フレームに結合されるテンプル内に配置される、項目33に記載の方法。
(項目36)
前記複数の平面導波管は、
赤色波長に対応する第1の平面導波管と、
緑色波長に対応する第2の平面導波管と、
青色波長に対応する第3の平面導波管と、
赤外波長に対応する第4の平面導波管と
を含む、項目30に記載の方法。
(項目37)
眼追跡システムであって、
2つのフレームを含む眼鏡と、
前記眼鏡に結合され、光のビームを走査するように動作可能である光走査プロジェクタと、
前記2つのフレームのうちの1つの中に搭載され、前記光走査プロジェクタに光学的に結合される接眼レンズであって、前記接眼レンズは、前記光のビームの少なくとも一部をユーザの眼に向かって指向するように動作可能な射出瞳エキスパンダを含む、接眼レンズと、
前記眼鏡に結合される1つ以上の光検出器と、
前記光走査プロジェクタおよび前記1つ以上の光検出器に結合されるプロセッサと
を備える、眼追跡システム。
(項目38)
前記光走査プロジェクタは、ファイバ走査プロジェクタを備える、項目37に記載の眼追跡システム。
(項目39)
前記眼鏡は、テンプルを含み、前記光走査プロジェクタは、前記2つのフレームのうちの1つの中に搭載され、前記1つ以上の光検出器は、前記テンプル内に搭載される、項目37に記載の眼追跡システム。
(項目40)
前記1つ以上の光検出器は、前記接眼レンズと前記ユーザの眼との間の縦方向位置において前記テンプル内に搭載される、項目39に記載の眼追跡システム。
(項目41)
前記接眼レンズは、複数の平面導波管を備える、項目37に記載の眼追跡システム。
(項目42)
前記光走査プロジェクタは、表示信号および特性評価信号を出力するように動作可能である、項目37に記載の眼追跡システム。
(項目43)
前記表示信号は、1つ以上の可視波長を含み、前記特性評価信号は、1つ以上の不可視波長を含む、項目42に記載の眼追跡システム。
(項目44)
眼追跡を実施する方法であって、前記方法は、
光走査プロジェクタ、フレーム内に搭載される接眼レンズ、および前記フレームの周辺の周囲に整列される1つ以上の光学検出器を提供することと、
前記光走査プロジェクタおよび前記接眼レンズを使用して、第1の画像フレームを眼に投影することと、
前記1つ以上の光学検出器を使用して、複数の時変反射信号を検出することと、
第1の眼配向を決定することと、
前記光走査プロジェクタおよび前記接眼レンズを使用して、第2の画像フレームを前記眼に投影することと、
前記1つ以上の光学検出器を使用して、第2の複数の時変反射信号を検出することと、
第2の眼配向を決定することと
を含む、方法。
(項目45)
前記1つ以上の光学検出器は、前記接眼レンズと前記眼との間の縦方向位置に配置される、項目44に記載の方法。
(項目46)
前記1つ以上の光学検出器は、前記フレームに機械的に結合されるテンプル内に搭載される、項目45に記載の方法。
(項目47)
前記第1の眼配向および前記第2の眼配向に関連する軌道を出力することをさらに含む、項目44に記載の方法。
(項目48)
前記複数の時変反射信号は、前記第1の画像フレームの間の前記光走査プロジェクタの増加する走査角度と関連付けられる、項目44に記載の方法。
(項目49)
前記第2の複数の時変反射信号は、前記第2の画像フレームの間の前記光走査プロジェクタの増加する走査角度と関連付けられる、項目44に記載の方法。
(項目50)
前記接眼レンズは、複数の平面導波管を含む、項目44に記載の方法。
(項目51)
前記第1の画像フレームを前記眼に投影することは、
前記第1の画像フレームの一部を前記複数の平面導波管のそれぞれの中に結合することと、
前記結合された部分の少なくとも一部を前記眼に透過することと
を含む、項目50に記載の方法。
(項目52)
前記第2の画像フレームを前記眼に投影することは、
前記第2の画像フレームの一部を前記複数の平面導波管のそれぞれの中に結合することと、
前記結合された部分の少なくとも一部を前記眼に透過することと
を含む、項目50に記載の方法。
(項目53)
前記第1の画像フレームおよび前記第2の画像フレームは、ビデオ画像の連続フレームである、項目44に記載の方法。
(項目54)
1つ以上の付加的画像フレームが、前記第1の画像フレームと前記第2の画像フレームとの間に位置付けられる、項目44に記載の方法。
図1は、本発明のある実施形態による、デジタルまたは仮想画像を視認者に提示するために使用され得る、視認光学アセンブリ(VOA)における光路を図式的に図示する。
図2は、本発明のある実施形態による、眼追跡システムを組み込む眼鏡を図示する、簡略化された概略図である。
図3は、本発明のある実施形態による、いくつかのスペクトルプロファイルを図示する、簡略化された図である。
図4は、本発明のある実施形態による、接眼レンズ層を図示する、簡略化された側面図である。
図5は、本発明の別の実施形態による、接眼レンズ層を図示する、簡略化された側面図である。
図6は、本発明のある実施形態による、眼追跡システムの簡略化された概略図である。
図7は、本発明のある実施形態による、眼追跡システムを動作させる方法を図示する、簡略化されたフローチャートである。
図8は、本発明のある実施形態による、第1の配向から第2の配向への眼移動を追跡する方法を図示する、簡略化されたフローチャートである。
図9は、本発明のある実施形態による、角膜閃光を使用する眼追跡システムの側面図を図示する、簡略化された概略図である。
図10は、本発明のある実施形態による、眼配向を特性評価する方法を図示する、簡略化されたフローチャートである。
図11は、本発明のある実施形態による、眼追跡を実施する方法を図示する、簡略化されたフローチャートである。
図12Aは、本発明のある実施形態による、眼追跡システムの側面図を図示する、簡略化された概略図である。
図12Bは、本発明の代替実施形態による、眼追跡システムの側面図を図示する、簡略化された概略図である。
図12Cは、本発明の別の代替実施形態による、眼追跡システムの側面図を図示する、簡略化された概略図である。
本発明は、概して、ウェアラブルディスプレイを含む投影ディスプレイシステムに関連する方法およびシステムに関する。より具体的には、本発明の実施形態は、光走査プロジェクタシステム(ビーム走査プロジェクタシステムとも称される)に関連して眼移動を追跡する方法およびシステムを提供する。特定の実施形態では、時間の関数としての眼配向および運動を決定するための方法およびシステム(すなわち、眼追跡)が、ファイバ走査プロジェクタによって駆動される導波管ディスプレイと併せて実装される。本発明は、コンピュータビジョンおよび画像ディスプレイシステムにおける種々の用途に適用可能である。
本明細書に説明されるように、本発明の実施形態は、眼追跡を可能にするために、光走査プロジェクタ(例えば、ファイバ走査プロジェクタ)の要素を活用する。例えば、光のビームが、眼に時間的に走査されることができる。眼の角膜または網膜のいずれかから反射された光が、1つ以上の検出器を使用して検出される。時間の関数としての光のビームの位置が把握されるため、反射における時間的変動は、眼位置と相関され、注視検出を可能にすることができる。
図1は、本発明のある実施形態による、デジタルまたは仮想画像を視認者に提示するために使用され得る、視認光学アセンブリ(VOA)における光路を図式的に図示する。VOAは、プロジェクタ101と、視認者の眼の周囲または正面に装着され得る接眼レンズ100とを含む。本明細書で議論されるように、VOAは、眼鏡のフレームと統合され、デジタルまたは仮想画像をこれらの眼鏡を装着する視認者に提示することができる。
図1を参照すると、ファイバ走査プロジェクタ101が、図示される。約2mm×2mm×7mmの寸法を有し得る、ファイバ走査プロジェクタ101は、ファイバ入力110と、ファイバ発振領域120と、光学アセンブリ区分130とを含む。圧電アクチュエータ150が、保定カラー152によって支持され、ワイヤ(図示せず)からの電気信号によって駆動される。走査ファイバとも称される、光ファイバ154が、圧電アクチュエータ150に機械的に結合され、ファイバ発振領域120内で、例えば、所与のフレーム時間にわたる光の投影の間に増加する各偏向を伴う螺旋構成において発振する。ファイバ走査プロジェクタへの入力光が、ファイバ入力110を通して提供され、ファイバ走査プロジェクタ101からの出力光が、光学アセンブリ区分130の表面のうちの1つ以上のものを通して提供される。ファイバ走査プロジェクタの種々の要素は、2018年3月21日に出願された米国特許出願第__号(弁護士整理番号第101782-1075067(003310US)号)(その開示は、あらゆる目的のために、参照することによってその全体として本明細書に組み込まれる)により完全に説明されている。
図1は、接眼レンズ100の中に直接指向されるようなファイバ走査プロジェクタ101からの光を図示するが、他の実施形態では、随意のプロジェクタリレー103が、これが本発明によって要求されないが利用され、他の光学構成も、本発明の実施形態に従って利用されることができる。図示される実施形態では、光は、ファイバ走査プロジェクタ101の機械的封入体156の縦方向軸に略垂直な方向において光学アセンブリ区分から出射する。
図1を参照すると、ファイバ走査プロジェクタ101が、図示される。しかしながら、例えば、走査導波管システムとして実装され得る、他の走査光システムまたは走査ビームシステムも、本発明の実施形態と併用され得ることを理解されたい。したがって、光を導波するための1つの実装としての光ファイバが図示されるが、いくつかの実施形態では、本発明は、ファイバ走査システムに限定されず、他の導波管走査システムも、他の実施形態に従って利用されることができる。他の導波管システムの実施例は、導波管特徴、例えば、カンチレバー式ビームと統合されたシリコン導波管を光走査システムに統合する、微小電気機械システム(MEMS)を含む。さらに、光のビームがプロジェクタによって操作される走査ミラーシステムが、本明細書に説明されるような本発明の実施形態と併用されることができる。さらに、走査点源、例えば、発光ダイオード(LED)または有機LED(OLED)が、本発明の実施形態において利用されることができる。
動作の間、圧電アクチュエータ150に機械的に取り付けられる光ファイバ154は、ファイバ発振領域120内で発振する。ある実施形態では、圧電アクチュエータ150は、相互に対して90°に偏移される円周位置に分散される4つの電極を含む。故に、圧電アクチュエータの対向する側に印加される正および負の電圧は、電極の平面内でアクチュエータおよび走査ファイバを撓曲させることができる。全ての4つの電極を同期して駆動することによって、ファイバの発振が、遂行されることができる。光が走査する際に光ファイバ154から出射する際、これは、光学アセンブリ区分130の中に結合され、これは、光を接眼レンズ100に向かって再指向する。
ファイバ走査プロジェクタ101は、フルカラーディスプレイを形成するために、3つの原色である赤色、緑色、および青色(RBG)を含む、複数の色を提供することができる。故に、接眼レンズ100は、1つ以上の接眼レンズ層を含んでもよい。一実施形態では、接眼レンズ100は、3つの接眼レンズ層、すなわち、3つの原色である赤色、緑色、および青色毎に1つの接眼レンズ層を含む。別の実施形態では、接眼レンズ100は、6つの接眼レンズ層、すなわち、1つの深度平面において仮想画像を形成するように構成される、3つの原色毎の接眼レンズ層の1つのセットと、別の深度平面において仮想画像を形成するように構成される、3つの原色毎の接眼レンズ層の別のセットとを含んでもよい。他の実施形態では、接眼レンズ100は、3つ以上の異なる深度形面に関する3つの原色毎の3つ以上の接眼レンズ層を含んでもよい。各接眼レンズ層は、平面導波管を備え、内部結合格子107と、直交瞳エキスパンダ(OPE)領域108と、射出瞳エキスパンダ(EPE)領域109とを含んでもよい。
依然として図1を参照すると、プロジェクタ101は、画像光を接眼レンズ層100における内部結合格子107上に投影する。内部結合格子107は、プロジェクタ101からの画像光を、OPE領域108に向かう方向に伝搬する平面導波管の中に結合する。導波管は、画像光を全内部反射(TIR)によって水平方向に伝搬する。接眼レンズ層100のOPE領域108はまた、導波管内で伝搬する画像光の一部をEPE領域109に向かって結合および再指向する回折要素を含む。EPE領域109は、導波管内で伝搬する画像光の一部を接眼レンズ層100の平面に略垂直な方向において視認者の眼102に向かって結合および指向する回折要素を含む。このように、プロジェクタ101によって投影された画像が、視認者の眼102によって視認され得る。
上記に説明されるように、プロジェクタによって生成される画像光は、3つの原色、すなわち、青色(B)、緑色(G)、および赤色(R)の光を含んでもよい。そのような画像光は、各構成色の画像光が接眼レンズ内の個別の導波管に結合され得るように、例えば、時間的または空間的に、構成色に分離されることができる。
図2は、本発明のある実施形態による、眼追跡システムを組み込む眼鏡を図示する、簡略化された概略図である。本明細書により完全に説明されるように、標準的眼鏡に匹敵する小型形状因子が、本発明の実施形態によって可能にされる。本発明の実施形態を利用することによって、所望の視野、分解能の深度、統合された慣性運動ユニット(IMU)、カメラ、オーディオコンポーネント、および同等物を伴うディスプレイが、提供される。図2は、眼鏡210およびフレーム212を図示する。図2に図示されるように、ファイバ走査プロジェクタ101は、投影光が内部結合格子107に向かって指向されるように、フレーム212内に搭載されることができる。他の実施形態では、プロジェクタは、眼鏡のテンプル内に搭載されることができる。図1に関連して議論されるように、ファイバ走査プロジェクタ101は、投影光をユーザの眼に向かって指向するために、フレーム212内に配置される接眼レンズ100と組み合わせて機能する。ファイバ走査プロジェクタ101の小さいサイズは、光を視認者の眼に向かって指向し得る複数のファイバ走査プロジェクタの統合を可能にするが、これは、本発明によって要求されず、眼あたり単一のプロジェクタが、利用されることができる。眼追跡システムは、右眼に関連してのみ議論されるが、類似するシステムが、他方の眼と併用され得ることを理解されたい。当業者は、多くの変形例、修正、および代替を認識するであろう。
本発明の実施形態によると、フレーム212へのプロジェクタ101の統合に加えて、1つ以上のセンサが、視認者の眼の運動の追跡のために好適な眼追跡システムの付加的要素として眼鏡に統合されることができる。図2に図示されるように、光検出器220が、ファイバ走査プロジェクタ101と対向してフレーム内に搭載される。下記により完全に説明されるように、接眼レンズ100から放出された光は、眼から反射され、光検出器220に入射することができ、これは、例えば、数キロヘルツ速度で、数十キロヘルツ速度で、またはより高い周波数で動作する高速光検出器であり得る。フレーム内に搭載される光学センサに加えて、反射光を1つ以上の光学センサに指向する反射器または折り畳みミラーを含む、他の光学構成も、本発明の範囲内に含まれる。代替実施形態では、屈折要素が、反射光を捕捉し、光学センサに経路指定するために利用される。さらに別の代替実施形態では、光ファイバ、例えば、多モード光ファイバが、反射光を捕捉するために使用されることができる。これらの実施形態の全てでは、本明細書に説明される方法およびシステムを実装するために、複数の光学センサが、使用されることができ、複数の光学要素(例えば、反射器、折り畳みミラー、屈折要素、ファイバ、または同等物)が、使用されることができる。したがって、単一の光学要素に関連する上記の説明およびフレーム内に搭載される単一の光検出器220の例証は、限定ではなく、例示にすぎない。
ファイバ走査プロジェクタが投影経路内に光を放出する際、時間の関数としての放出光の位置が、把握される。例えば、ビデオのフレームと関連付けられる螺旋走査パターンの走査の間、時間の関数としての放出光の空間的位置が、決定および記録されることができる。実施例として、30Hzにおける表示フレームの提示と関連付けられる33ミリ秒フレーム時間内で、ファイバは、数十キロヘルツの範囲内の速度で走査され、33ミリ秒フレーム時間内に表示フレームの中心部分から周辺部分に移動することができる。光が眼から反射され、光検出器において受光される際、光検出器は、(例えば、数十キロヘルツの速度における)時間の関数としての反射光の強度を測定するために使用されることができる。時間の関数としての放出光の空間的位置および時間の関数としての測定された光検出器強度を相関させることによって、反射光と関連付けられる空間的位置が、決定されることができる。故に、所与の時間における放出光の位置が把握されるため、本所与の時間に反射された光は、位置と相関されることができる。その結果、反射光の空間マップが、生成されることができ、光を反射する構造の光学性質と相関されることができる。眼の場合に関して、反射光の空間マップは、眼の位置および/または配向と相関されることができる。ファイバによって放出された光を走査し、異なる時間における空間マップを形成することによって、本システムは、時間の関数としての眼の位置を追跡することが可能である。
本明細書に説明されるように、本発明の実施形態は、ピクセルが1つずつ眼に走査される走査ビームシステムを利用する。言い換えると、ピクセルは、角度の関数としてエンコードされる。網膜を検討すると、画像は、網膜を横断して投影される。下記に説明されるように、走査光をユーザの眼に指向するように接眼レンズを使用することによって、可視光および特性評価光の両方が、重畳様式で出力される。特性評価光の反射は、網膜または眼の他の要素の画像を生産するために使用されることができる。眼の要素、例えば、中心窩が所定のピクセルと整合されることを前提として、眼の配向が、決定されることができる。本配向が経時的に変化する際、眼の追跡が、実施される。
いくつかの実装では、光走査プロジェクタは、画像をユーザに表示するためだけではなく、また、ユーザの眼から反射された光を受光するためにも使用され、これは、次いで、接眼レンズを通して戻り経路内を伝搬し、光学アセンブリ区分130に衝突する。したがって、これらの実施形態では、光走査プロジェクタ(例えば、ファイバ走査プロジェクタ)は、光走査プロジェクタによって生産された光が反射され、眼追跡計算における後続使用のために光走査プロジェクタによって受光される、眼追跡システムの要素である。
眼から反射された光がファイバ走査プロジェクタのファイバの中に戻るように結合される実施形態では、光は、ファイバのコアの中だけではなく、ファイバのクラッディングにも同様に結合されることができる。
図3は、本発明のある実施形態による、いくつかのスペクトルプロファイルを図示する、簡略化された図である。図3では、放出光と関連付けられる赤色(R)、緑色(G)、および青色(B)スペクトルプロファイルが、曲線310、312、および314として図示される。これらの放出プロファイルは、ユーザのためのフルカラーディスプレイ体験を提供する。図3はまた、眼に可視ではないが、角膜、網膜、またはユーザの眼の他の部分から反射する、赤外線(IR)スペクトルプロファイル320を図示する。電磁スペクトルのIR領域内の光は、ファイバ走査プロジェクタがディスプレイの視野を通して走査する際、RGB信号とともに投影されることができる。いくつかの実施形態では、接眼レンズの中に投影された光は、表示光(例えば、RGB光)および特性評価光(例えば、IR光)として分類されることができる。特定の実施形態では、表示光は、可視光であり、特性評価光は、不可視光である。他の実装では、異なる波長の可視光が、表示光および特性評価光の両方のために使用されることができる。網膜を含む、眼の眼底は、位置の関数としての異なる反射率によって特徴付けられる。したがって、投影光が眼の異なる部分を横断して走査される際、光学センサ(例えば、1つ以上の高速フォトダイオード)を使用して測定された反射光強度の変動は、ユーザの眼の眼底マップを生成するために使用されることができる。
図3に図示されるような単一のIR帯域に加えて、他の波長も、角膜からの反射率を提供するために利用されることができる。加えて、例えば、IRにおける複数の帯域が、特定の用途に対して適宜利用され得る。
図4は、本発明のある実施形態による、接眼レンズ層を図示する、簡略化された側面図である。表示光および特性評価光を接眼レンズの中に結合するために、付加的接眼レンズ層が、RGB層に加えて提供されることができる。図4では、整合された内部結合格子(すなわち、回折光学要素)を伴う接眼レンズが、側面図において図示される。
画像を視認者の眼に投影するために使用され得る、接眼レンズ400は、第1の側方平面内に(すなわち、z軸に沿って配置される第1の縦方向位置に)位置付けられる第1の平面導波管410を含む。第1の平面導波管410は、第1の側方位置(すなわち、第1のx-y座標位置)に配置される第1の回折光学要素(DOE)412を備える。第1のDOE412は、第1の波長範囲(例えば、赤色波長)と関連付けられ、本実施例では赤色光を第1の平面導波管の中に回折するように動作可能である。第1のDOE412は、第1の波長を第1の平面導波管の中に結合するが、第1の波長範囲外の波長を実質的に通過させる、透過格子を使用して実装されることができる。
接眼レンズはまた、第1の側方平面に隣接する第2の側方平面内に位置付けられる第2の平面導波管420を含む。第2の平面導波管は、第1のDOE412の下方の第1の側方位置に配置される第2のDOE422を含む。第2のDOE422は、第2の波長範囲(例えば、緑色波長)と関連付けられ、本実施例では緑色光を第2の平面導波管の中に回折するように動作可能である。第2のDOE422は、第2の波長を第2の平面導波管の中に結合するが、第2の波長範囲外の波長を実質的に通過させる、透過格子を使用して実装されることができる。
第3の平面導波管430が、第2の側方平面に隣接する第3の側方平面内に位置付けられる。第3の平面導波管は、第1のDOEおよび第2のDOEの下方の第1の側方位置に配置され、縦方向に沿って整合される(すなわち、z軸と整合される)、第3のDOE432を含む。第3のDOE422は、第3の波長範囲(例えば、青色波長)と関連付けられ、本実施例では青色光を第3の平面導波管の中に回折するように動作可能である。第3のDOE432は、第3の波長を第3の平面導波管の中に結合するが、第3の波長範囲外の波長を実質的に通過させる、透過格子を使用して実装されることができる。第1の3つの平面導波管を使用して、可視放射が、視認者に向かって指向される。
可視表示光をユーザに指向するために使用され得る3つの平面導波管410、420、および430に加えて、第4の平面導波管440が、図4に図示される。第4の平面導波管440は、第3の側方平面に隣接する第4の側方平面内に位置付けられる。第4の平面導波管は、第1のDOE、第2のDOE、および第3のDOEの下方の第1の側方位置に配置され、縦方向に沿って整合される(すなわち、z軸と整合される)、第4のDOE442を含む。第4のDOE442は、ユーザに可視ではない第4の波長範囲(例えば、IR波長)と関連付けられ、本実施例ではIR光を第4の平面導波管の中に回折するように動作可能である。第4のDOE432は、第4の波長を第4の平面導波管の中に結合するが、第4の波長範囲外の波長を実質的に通過させる、透過格子を使用して実装されることができる、またはより高い回折効率のためにミラーコーティングを伴う反射格子として実装されることができる。
全ての4つのDOEが、図4に図示される実施形態において整合されるが、これは、本発明によって要求されず、DOEは、異なる側方位置において空間的に分離されることができる。さらに、平面導波管が整列される順序は、特定の用途に対して適宜変動されることができる。実施例として、(例えば、緑色光を回折するための)第2のDOEは、整合され得る第1および第3のDOEから空間的に分離されることができる。本実施例では、緑色光は、可視スペクトルの中間にあるため、これは、他の色に関するDOE内で強く回折されない青色および赤色光から空間的に分離され、青色および赤色DOEが空間的に整合されることを可能にする。同様に、第4のDOEは、赤色波長と関連付けられるDOEから空間的に分離される、例えば、青色または緑色DOEと整合されることができる。当業者は、多くの変形例、修正、および代替を認識するであろう。
上記に議論されるように、画像フレームのピクセル場所と関連付けられる、時間の関数としてのファイバ走査プロジェクタによって放出される光の空間的場所を前提として、例えば、IRスペクトル内の眼から反射された光の強度は、ピクセル位置と相関され、反射強度のマップを形成することができる。反射率は、眼の上の位置の関数として変動するため、眼のフィンガプリントが、各眼位置または配向に関して形成されることができる。したがって、本発明の実施形態は、時間の関数としての眼移動を追跡することができ、これは、次いで、仮想コンテンツが表示される様式または同等物を修正するために使用されることができる。いくつかの実施形態は、ビデオ信号の画像フレーム(すなわち、ビデオフレーム)の観点から議論されるが、画像フレームは、本発明によって要求されないことを理解されたい。フレームに合成される画像に加えて、本発明の実施形態は、より一般的に、ファイバ位置および光出力の既知のシーケンスに適用可能である。例えば、本発明の実施形態は、フレームをレンダリングするのではなく、時間tにおける仮想点群を利用し、走査装置の現在の位置を前提として所望のピクセル強度を算出する、走査ディスプレイに適用可能である。時間の関数としての位置および強度を把握することは、本明細書に説明されるような眼追跡センサ信号の解釈を可能にする。
図5は、本発明の代替実施形態による、接眼レンズ層を図示する、簡略化された側面図である。図5は、図4に図示される要素と共通要素を共有し、図4に関連して提供される説明は、適宜、図5に適用可能である。図5に図示される接眼レンズでは、表示光および特性評価光の一部が、回折光学要素を通して平面導波管のうちの1つの中に結合される。図5に図示される特定の実施形態では、可視波長範囲(例えば、赤色波長範囲)のうちの1つの中の光および不可視波長範囲(例えば、IR波長範囲)内の光は、ユーザの眼への透過のために第1の平面導波管の中に結合される。
図5を参照すると、第1の平面導波管510は、第1の波長範囲(例えば、赤色波長)および特性評価波長範囲(例えば、IR波長)と関連付けられる第1の側方位置に配置される第1の回折光学要素(DOE)512を備え、第1の波長範囲および特性評価波長範囲内の光を第1の平面導波管の中に回折するように動作可能である。第1のDOE512は、第1の波長内の光および特性評価波長範囲内の光を第1の平面導波管の中に結合するが、第1の波長範囲および特性評価波長範囲外の波長を実質的に通過させる、透過格子を使用して実装されることができる。
接眼レンズはまた、第1の側方平面に隣接する第2の側方平面内に位置付けられる第2の平面導波管520を含む。第2の平面導波管は、第1のDOE512の下方の第1の側方位置に配置される第2のDOE522を含む。第2のDOE522は、第2の波長範囲(例えば、緑色波長)と関連付けられ、本実施例では緑色光を第2の平面導波管の中に回折するように動作可能である。第2のDOE522は、第2の波長を第2の平面導波管の中に結合するが、第2の波長範囲外の波長を実質的に通過させる、透過格子を使用して実装されることができる。
第3の平面導波管530が、第2の側方平面に隣接する第3の側方平面内に位置付けられる。第3の平面導波管は、第1のDOEおよび第2のDOEの下方の第1の側方位置に配置され、縦方向に沿って整合される(すなわち、z軸と整合される)、第3のDOE532を含む。第3のDOE522は、第3の波長範囲(例えば、青色波長)と関連付けられ、本実施例では青色光を第3の平面導波管の中に回折するように動作可能である。第3のDOE532は、第3の波長を第3の平面導波管の中に結合するが、第3の波長範囲外の波長を実質的に通過させる、透過格子を使用して実装されることができる。
これらの3つの平面導波管を使用して、可視放射および特性評価波長範囲内の放射の両方が、視認者に向かって指向される。特性評価波長範囲内の光は、視認者の眼から反射し、上記に議論されるような1つ以上の光検出器によって捕捉されることができる。故に、本実施形態における3つの平面導波管を使用して、表示光および特性評価光が、視認者に送達される。
図6は、本発明のある実施形態による、眼追跡システムの簡略化された概略図である。眼追跡システム600は、画像プロセッサ610と、少なくとも1つのファイバ走査プロジェクタ620と、接眼レンズ630と、光学センサ640とを含む。画像プロセッサは、ファイバ走査プロジェクタ620を駆動するための駆動回路612と、眼追跡サブシステム614と、プロセッサ616と、入力/出力デバイス618とを含むことができる。接眼レンズ630は、複数の平面導波管632を含み、そのそれぞれは、回折光学要素634を組み込むことができる。図示される実施形態では、接眼レンズ630は、眼鏡のフレーム内に搭載され、3つの表示波長範囲(例えば、RGB)および1つの特性評価波長範囲(例えば、赤外線)と併せて動作する4つの平面導波管を含む。
図6に図示されるように、駆動回路612は、ファイバ走査プロジェクタと通信する電子機器を含んでもよい。画像プロセッサ610は、最終的にユーザに表示される仮想コンテンツを生成することが可能である。画像プロセッサ610は、仮想コンテンツと関連付けられる画像またはビデオを、複数の深度平面を提供する接眼レンズの使用を通して3Dにおいてユーザに投影され得るフォーマットに変換してもよい。コンテンツは、入力/出力デバイス616を通して受信され、画像プロセッサ610のプロセッサ616を使用して処理されることができる。
いくつかの実施形態では、眼追跡システム600は、ファイバ走査プロジェクタ620から接眼レンズ630に光を指向するために、結合光学系650を利用する。結合光学系650は、光を接眼レンズ、例えば、各平面導波管の回折光学要素の中に指向するために使用される1つ以上の従来のレンズを指し得る。
動作時、ファイバ走査プロジェクタ650からの光出力は、表示光622および特性評価光624の両方を含むことができる。結合光学系650を利用する実施形態では、結合された表示光626および結合された特性評価光628は、平面導波管層632の回折光学要素634に衝突する。接眼レンズ630の出力は、ユーザの眼605に伝搬する、画像表示光636および接眼レンズ特性評価光638の両方を含む。画像表示光636および接眼レンズ特性評価光638の両方が、単一の光線によって図6に図示されるが、本光は、発散する光の円錐として接眼レンズ630から出射し得ることを理解されたい。当業者は、多くの変形例、修正、および代替を認識するであろう。
眼から反射する接眼レンズ特性評価光は、反射光642として図示され、眼鏡のフレーム内に搭載され得る光学センサ640に衝突する。眼の形状のため、眼から、例えば、角膜から反射する光は、画像表示光636または接眼レンズ特性評価光638のいずれかと関連付けられる光の円錐よりも大きい角度範囲を有する光の円錐によって特徴付けられる。光検出器を使用する用途では、光検出器によって出力される電気信号が、これが眼追跡サブシステム614または他の好適なプロセッサによって処理され得るように、画像プロセッサ610に伝送される。
眼追跡は、眼が経時的に移動する際に実施されることができる。実施例として、ビデオ画像の第1のフレームの間の眼の第1の配向が、決定され、ビデオ画像の後続の第2のフレームの間の眼の第2の配向と比較されることができる。したがって、経時的に、眼の配向は、以下のように決定されることができる。
ファイバ走査プロジェクタのファイバは、ビデオ画像の第1の画像フレームを形成するために走査される。本走査は、時間の関数としての中心軸からの増加する偏向を伴う螺旋パターンによって特徴付けられ得る。ファイバが走査パターンを掃引する際、第1の画像フレームを定義する、第1の一連のピクセルが、生成される。本第1の画像フレームは、複数の平面導波管を含む接眼レンズの中に結合される。いくつかの実施形態では、表示光(例えば、可視光)および特性評価光(例えば、赤外光)の両方が、ファイバ走査プロジェクタを使用して生成され、異なる平面導波管が、ユーザの眼に光を指向するために使用されることができる。したがって、実施形態は、第1の画像フレームの少なくとも一部をユーザの眼に透過する。光学センサを使用して、第1の一連の反射強度が、検出される。本一連の反射強度はそれぞれ、第1の一連のピクセルのあるピクセルと関連付けられる。
ファイバを検討すると、これが画像フレームのピクセルを通して走査する際、最初の時間に、第1のピクセルが、照射されるであろう。本第1のピクセルが表示される際、ある量の光が、眼から反射され、反射強度に関する第1の測定値をもたらすであろう。後の時間における第2のピクセルに関して、反射強度に関する第2の測定値が、もたらされるであろう。したがって、経時的に、一連の反射強度が、測定され、それぞれ、異なるピクセルと関連付けられるであろう。一連のものにおける反射の量および反射強度の値は、ピクセルが表示される角膜の形状(例えば、半径)、ピクセルが角膜上で位置する位置、および同等物に依存するであろう。
したがって、ファイバが第1の画像フレームのピクセルを定義するパターンを通して掃引する際、ピクセル生成のタイミングは、把握される。これは、時間の関数としてのピクセルの空間マッピングを提供する。一連の反射強度の検出のタイミングは、反射強度の空間マップを生成するために、ピクセル生成のタイミングと相関されることができる。本空間マップは、第1の画像フレームの間に眼の配向を特性評価するために使用されることができる。
後続画像フレーム(すなわち、第2の画像フレーム)に関して、本プロセスは、第2の画像フレームの間に測定された反射強度の第2の空間マップを生成するために繰り返されることができる。空間マップは、眼位置とともに変動するであろうため、ビデオが進行する際に2つの異なる時間において収集された空間マップを比較することによって、眼位置は、時間の関数として追跡されることができる。いくつかの実施形態では、画像が表示され、ユーザに視野の異なる部分を見るように指図するために使用される場合に、較正プロセスが、使用される。異なる眼配向のそれぞれにおける反射強度の測定値が、異なる眼配向のそれぞれと関連付けられる空間マップを生成するために使用されることができる。空間マップの本ライブラリは、次いで、ビデオ表示の間の任意の時間に眼を位置特定するために使用されることができる。当業者は、多くの変形例、修正、および代替を認識するであろう。
図7は、本発明のある実施形態による、眼追跡システムを動作させる方法である。眼追跡システムは、ファイバ走査プロジェクタと、接眼レンズと、光学センサとを含む。方法700は、ファイバ走査プロジェクタを使用して、光学信号を生成するステップを含む(710)。ファイバ走査プロジェクタは、図6および本明細書の他の図に図示されるような要素を利用することができる。光学信号は、ユーザに表示される光を生成するために使用される表示信号(例えば、赤色、緑色、および青色波長等の1つ以上の可視波長)と、眼追跡において使用するための信号を提供するために使用される特性評価信号(例えば、赤外線波長等の1つ以上の不可視波長)とを含むことができる。図4および5に図示されるような接眼レンズは、複数の平面導波管、例えば、3つの可視色および赤外線特性評価信号のための4つの平面導波管を含んでもよい。いくつかの実施形態では、複数の深度平面が、異なる特性を伴う接眼レンズのセットを組み合わせることによって提供される。
本方法はまた、光学信号の少なくとも一部を接眼レンズの中に結合するステップ(712)と、接眼レンズから、ユーザの眼によって視認可能な画像を投影するステップ(714)とを含む。本方法はさらに、光学センサ(例えば、光検出器)を使用して、ユーザの眼から反射された光を検出するステップ(716)と、ユーザの眼の位置を追跡するステップ(718)とを含む。単一の光検出器がいくつかの実施形態において利用されることができるが、他の実施形態は、複数の光検出器を利用し、本発明は、単一の光検出器の使用に限定されない。ユーザの眼の位置を追跡するステップは、画像の一連のピクセルの位置をユーザの眼から反射された光の一連の強度と相関させるステップを含むことができる。
ある実施形態では、光学信号は、表示信号(例えば、1つ以上の可視波長から構成される)と、特性評価信号(例えば、1つ以上の不可視波長、例えば、赤外線波長から構成される)とを含む。相互に隣接して配置される複数の平面導波管を備える接眼レンズを使用して、種々の波長は、波長の関数として平面導波管の中に結合されることができる。例えば、赤色、緑色、青色、および赤外線波長に対応する4つの平面導波管が、利用されることができる。
図7に図示される具体的ステップは、本発明のある実施形態による、眼追跡システムを動作させる特定の方法を提供することを理解されたい。他のステップのシーケンスもまた、代替実施形態に従って実施されてもよい。例えば、本発明の代替実施形態は、上記に概説されたステップを異なる順序で実施してもよい。さらに、図7に図示される個々のステップは、個々のステップに対して適宜、種々のシーケンスで実施され得る、複数のサブステップを含んでもよい。さらに、付加的ステップが、特定の用途に応じて、追加または除去されてもよい。当業者は、多くの変形例、修正、および代替を認識するであろう。
図8は、本発明のある実施形態による、第1の配向から第2の配向への眼移動を追跡する方法を図示する、簡略化されたフローチャートである。方法800は、ビデオ画像の第1の画像フレームを形成するために、ファイバ走査プロジェクタのファイバを走査するステップを含む(810)。第1の一連のピクセルが、第1の画像フレームを定義する。本方法はまた、第1の画像フレームを複数の平面導波管を含む接眼レンズの中に結合するステップ(812)と、第1の画像フレームの少なくとも一部をユーザの眼に透過するステップ(814)とを含む。一実施例では、複数の平面導波管は、赤色波長に対応する第1の平面導波管と、緑色波長に対応する第2の平面導波管と、青色波長に対応する第3の平面導波管と、赤外線波長に対応する第4の平面導波管とを含むことができる。接眼レンズの中への第1の画像フレームの結合は、回折光学要素、例えば、内部結合格子を使用して、第1の画像フレームを平面導波管のうちの1つ以上のものの中に回折することによって遂行されることができる。
本方法はさらに、第1の一連の反射強度を検出するステップを含む(816)。第1の一連のものはそれぞれ、第1の一連のピクセルのあるピクセルと関連付けられる。加えて、本方法は、第1の一連の検出された反射強度を第1の一連のピクセルと相関させるステップ(818)と、眼の第1の配向を決定するステップ(820)とを含む。
本方法はまた、ビデオ画像の第2の画像フレームを形成するために、ファイバを走査するステップ(822)であって、第2の一連のピクセルが、第2の画像フレームを定義する、ステップと、第2の画像フレームを接眼レンズの中に結合するステップ(824)と、第2の画像フレームの少なくとも一部をユーザの眼に透過するステップ(826)とを含む。接眼レンズの中への第2の画像フレームの結合は、回折光学要素、例えば、内部結合格子を使用して、第2の画像フレームを平面導波管のうちの1つ以上のものの中に回折することによって遂行されることができる。
第1の画像フレームの少なくとも一部をユーザの眼に透過するステップおよび第2の画像フレームの少なくとも一部をユーザの眼に透過するステップは、1つ以上の回折光学要素、例えば、接眼レンズの平面内で光を回折するように動作可能な第1の回折光学要素(例えば、直交瞳エキスパンダ)および接眼レンズの平面から光を回折するように動作可能な第2の回折光学要素(例えば、射出瞳エキスパンダ)を使用して、第1の画像フレームの少なくとも一部および第2の画像フレームの少なくとも一部を回折することによって遂行されることができる。
本方法はさらに、第2の一連の反射強度を検出するステップ(828)であって、第2の一連のものはそれぞれ、第2の一連のピクセルのあるピクセルと関連付けられる、ステップと、第2の一連の検出された反射強度を第2の一連のピクセルと相関させるステップ(830)と、眼の第2の配向を決定するステップ(832)とを含む。代替実施形態では、本方法はさらに、第1の配向および第2の配向に関連する軌道を出力するステップを含む(834)。
第1の画像フレームおよび第2の画像フレームは、ビデオ画像の連続フレームであり得る。代替として、1つ以上の付加的画像フレームが、第1の画像フレームと第2の画像フレームとの間に位置付けられることができ、これらは、複数のフレーム周期によって時間において時間的に分離されることができる。
図8に図示される方法の実装の一部として、訓練プロセスが、利用されることができ、ディスプレイは、視認される一連のオブジェクトをユーザに提示する。ユーザは、一連のオブジェクトを見るタスクを課され、そのそれぞれは、異なる眼注視と関連付けられる。ユーザが一連のオブジェクトのそれぞれを見る際、所定の眼運動をもたらし、光のビームの走査および検出される対応する反射が、本システムを訓練するために使用され、それによって、眼注視毎の時間の関数としての時変反射のデータベースを蓄積する。機械学習および他の好適な技法が、そのような訓練プロセスを実装する際に利用されることができる。ユーザが静的オブジェクトを見ている間に行われる測定に加えて、ユーザによる移動するオブジェクトの追跡が、訓練プロセスの構成要素として利用されることができる。
図8に図示される具体的ステップは、本発明のある実施形態による、第1の配向から第2の配向への眼移動を追跡する特定の方法を提供することを理解されたい。他のステップのシーケンスもまた、代替実施形態に従って実施されてもよい。例えば、本発明の代替実施形態は、上記に概説されたステップを異なる順序で実施してもよい。さらに、図8に図示される個々のステップは、個々のステップに対して適宜、種々のシーケンスで実施され得る、複数のサブステップを含んでもよい。さらに、付加的ステップが、特定の用途に応じて、追加または除去されてもよい。当業者は、多くの変形例、修正、および代替を認識するであろう。
図9は、本発明のある実施形態による、角膜閃光を使用する眼追跡システムの側面図を図示する、簡略化された概略図である。図9に図示されるように、本発明の実施形態は、高輝度用途、例えば、眼からの反射光に関する信号対雑音比が所望よりも低くあり得るときの屋外においてロバストである方法およびシステムを提供する。
図9を参照すると、眼905の角膜910は、接眼レンズ920に隣接して位置付けられる。接眼レンズ920は、図5に図示される接眼レンズ500と共通要素を共有することができる。ファイバ走査プロジェクタが、接眼レンズを駆動するために使用され、接眼レンズ920から放出される光は、ビームレットとも称され得る、出力光線922として図示される。図9に図示される側面図では、眼鏡のフレーム930は、接眼レンズを支持するように示される。明確化の目的のために、角膜910に衝突する出力光線922は、実線を用いて図示され、角膜から反射する反射光線924は、破線を用いて図示される。
フレーム930は、高速光検出器であり得る、複数の光学検出器932を支持する。複数の光学検出器932は、フレームの周辺の周囲に整列され、フレーム930の対向する縁に位置付けられる検出器932aおよび932bとして図9に図示される。検出器932aおよび932bは、フレームの上部および底部において図示されるが、それらは、眼鏡のテンプルの近傍を含む、他の周辺部分において統合され得ることを理解されたい。出力光線またはビームレットが、略球形である角膜に衝突する際、光は、角膜表面から異なる角度において接眼レンズ/フレーム/光学検出器に向かって戻るように反射されるであろう。順に、反射光の一部は、フレーム930内に埋設または別様に搭載され得る、複数の光学検出器に到達するであろう。一実施形態では、複数の光学検出器は、周辺の周囲に固定間隔において整列される一方、他の実施形態では、アレイパターンは、特定の用途に対して適宜、非固定間隔を使用することができる。光学検出器は、それらが高効率で眼から反射される光を収集するように配向されることができる。高速光検出器が、本明細書において光学検出器として議論されるが、本発明は、光検出器に限定されず、光ファイバ、多モード光ファイバ、および他の光学要素が、種々の光学検出器の代わりに、またはそれと併せて利用されることができる。
移動しない眼を検討する。第1の時間の間、例えば、ビデオデータのフレームの第1の部分の間、出力光線によって定義される、ユーザに提示される画像の第1の部分は、反射の第1の量が複数の光学検出器において検出されることをもたらすであろう。第2の時間の間、例えば、ビデオデータのフレームの第2の部分の間、ユーザに提示される画像の部分および対応する出力光線は、画像の第1の部分を定義する出力光線に関して変化されるであろう。これは、走査ファイバプロジェクタが接眼レンズを駆動するために利用され、走査ファイバによって掃引される角度が時間の関数として変動するという事実からもたらされる。故に、第2の時間の間、複数の光学検出器において検出される反射の量は、複数の光学検出器によって検出される反射の第1の量に関して変化するであろう。したがって、フレームの周辺の周囲に整列される複数の光学検出器に関して、移動しない眼であっても、光の時変量が、走査角度の関数として検出されるであろう。走査ビームの動的性質は、時間の関数として変動する角膜からの反射が、時間の関数として変動する閃光と見なされ得るため、事実上、動的閃光発生器を提供する。注視検出は、眼注視を時間の関数として検出される反射/閃光のパターンと相関させることによって可能にされる。
本システムは、較正され、図8に関連して上記に議論されるように、いくつかの眼注視または配向に関して、指紋と類似する一意の特性評価を提供することができる。ユーザに第1の方向を見させることによって、複数の光学検出器のそれぞれにおける検出される強度の時変変化が、本第1の方向と関連付けられる一意の特性評価を定義するために特性評価されることができる。ユーザが第2の異なる方向を見るとき、検出される強度の異なる時変変化が、測定され、本第2の方向と関連付けられる第2の一意の特性評価を定義するために使用されることができる。較正プロセスは、いくつかの眼配向に関するこれらの特性評価を実施することができ、これは、ルックアップテーブルまたは一意の特性評価の眼注視または配向を相関させるための他の好適なパターン識別子の形成を促進することができる。上記に言及されるように、ルックアップテーブルに加えて、よりコンピュータ的に効率的であり得る、機械学習技法が、採用されることができる。
動作時、検出される強度の時変変化は、眼追跡を提供するために、測定され、一連の時間における所与の配向に関する一意の特性評価に合致されることができる。
図10は、本発明のある実施形態による、角膜閃光を使用して眼追跡を実施する方法を図示する、簡略化されたフローチャートである。方法1000は、ビデオ画像の画像フレームの第1の部分を形成するために、光走査プロジェクタ(例えば、ファイバ走査プロジェクタ)のビームを走査するステップを含む(1010)。第1の一連のピクセルが、画像フレームの第1の部分を定義する。本方法はまた、画像フレームの第1の部分を複数の平面導波管を含む接眼レンズの中に結合するステップ(1012)と、画像フレームの第1の部分の少なくとも一部をユーザの眼に透過するステップ(1014)と、複数の光学検出器のそれぞれにおいて、時間的反射信号を検出するステップ(1016)とを含む。いくつかの実施形態では、複数の光学検出器ではなく、単一の検出器が、利用され、例えば、接眼レンズを含むフレームに隣接するテンプル上に搭載される。
複数の平面導波管は、赤色波長に対応する第1の平面導波管と、緑色波長に対応する第2の平面導波管と、青色波長に対応する第3の平面導波管と、赤外線波長に対応する第4の平面導波管とを含むことができる。複数の光学検出器は、眼の周辺領域の周囲に整列され得る、複数の光検出器であり得る。図2に図示されるように、接眼レンズは、フレーム内に搭載されることができ、複数の光検出器は、フレームの周辺の周囲に配置されることができる。他の実施形態では、1つ以上の検出器が、フレームに接続されるテンプル内に搭載される。本方法はさらに、複数の時間的反射信号を第1の一連のピクセルと相関させるステップを含む(1018)。
加えて、本方法は、ビデオ画像の画像フレームの第2の部分を形成するために、ビームを走査するステップを含む(1020)。第2の一連のピクセルが、画像フレームの第2の部分を定義する。本方法はまた、画像フレームの第2の部分を接眼レンズの中に結合するステップ(1022)と、画像フレームの第2の部分の少なくとも一部をユーザの眼に透過するステップ(1024)と、複数の光学検出器のそれぞれにおいて、第2の時間的反射信号を検出するステップ(1026)とを含む。さらに、本方法は、複数の第2の時間的反射信号を第2の一連のピクセルと相関させるステップ(1028)と、眼配向を決定するステップ(1030)とを含む。上記に議論されるように、複数の光学検出器は、接眼レンズあたり単一の検出器、例えば、高速光検出器と置換されることができる。当業者は、多くの変形例、修正、および代替を認識するであろう。
図10に図示される具体的ステップは、本発明のある実施形態による、眼配向を特性評価する特定の方法を提供することを理解されたい。他のステップのシーケンスもまた、代替実施形態に従って実施されてもよい。例えば、本発明の代替実施形態は、上記に概説されたステップを異なる順序で実施してもよい。さらに、図10に図示される個々のステップは、個々のステップに対して適宜、種々のシーケンスで実施され得る、複数のサブステップを含んでもよい。さらに、付加的ステップが、特定の用途に応じて、追加または除去されてもよい。当業者は、多くの変形例、修正、および代替を認識するであろう。
図11は、本発明のある実施形態による、眼追跡を実施する方法を図示する、簡略化されたフローチャートである。方法1100は、ファイバ走査プロジェクタ、フレーム内に搭載される接眼レンズ、およびフレームの周辺の周囲に整列される複数の光学検出器を提供するステップを含む。接眼レンズは、複数の平面導波管を含むことができる。
本方法はまた、ファイバ走査プロジェクタおよび接眼レンズを使用して、第1の画像フレームを眼に投影するステップ(1110)と、複数の光学検出器を使用して、複数の時変反射信号を検出するステップ(1112)と、第1の眼配向を決定するステップ(1114)とを含む。第1の画像フレームを眼に投影するステップは、第1の画像フレームの一部を複数の平面導波管のそれぞれの中に結合するステップと、結合された部分の少なくとも一部をユーザの眼に透過するステップとを含むことができる。
本方法はさらに、ファイバ走査プロジェクタおよび接眼レンズを使用して、第2の画像フレームを眼に投影するステップ(1116)と、複数の光学検出器を使用して、第2の複数の時変反射信号を検出するステップ(1118)と、第2の眼配向を決定するステップ(1120)とを含む。第2の画像フレームを眼に投影するステップは、第2の画像フレームの一部を複数の平面導波管のそれぞれの中に結合するステップと、結合された部分の少なくとも一部をユーザの眼に透過するステップとを含むことができる。代替実施形態では、本方法はさらに、第1の眼配向および第2の眼配向に関連する軌道を出力するステップを含む。
図10に関連して議論されるように、複数の時変反射信号は、例えば、フレームの間のより大きい角度において、ファイバが走査する際の第1の画像フレームの間のファイバ走査プロジェクタの増加する走査角度と関連付けられることができる。第2の複数の時変反射信号もまた、第2の画像フレームの間のファイバ走査プロジェクタの増加する走査角度と関連付けられることができる。第1の画像フレームおよび第2の画像フレームは、ビデオ画像の連続フレームであり得る。代替として、1つ以上の付加的画像フレームが、第1の画像フレームと第2の画像フレームとの間に位置付けられることができる。
図11に図示される具体的ステップは、本発明のある実施形態による、眼追跡を実施する特定の方法を提供することを理解されたい。他のステップのシーケンスもまた、代替実施形態に従って実施されてもよい。例えば、本発明の代替実施形態は、上記に概説されたステップを異なる順序で実施してもよい。さらに、図11に図示される個々のステップは、個々のステップに対して適宜、種々のシーケンスで実施され得る、複数のサブステップを含んでもよい。さらに、付加的ステップが、特定の用途に応じて、追加または除去されてもよい。当業者は、多くの変形例、修正、および代替を認識するであろう。
図12Aは、本発明のある実施形態による、眼追跡システムの側面図を図示する、簡略化された概略図である。図12Aに図示されるように、本発明の実施形態は、高輝度用途、例えば、眼からの反射光に関する信号対雑音比が所望よりも低くあり得るときの屋外においてロバストである方法およびシステムを提供する。本発明の実施形態および図12に図示される要素は、走査レーザ検眼鏡に照らして検討されることができる。
図12Aを参照すると、眼1205は、接眼レンズ1220に隣接して位置付けられる。接眼レンズ1220は、図5に図示される接眼レンズ500と共通要素を共有することができる。ファイバ走査プロジェクタが、接眼レンズを駆動するために使用され、接眼レンズ1220から放出される光は、ビームレットとも称され得る、出力光線1222として図示される。図12に図示される側面図では、眼鏡のフレーム1230は、接眼レンズを支持するように示される。明確化の目的のために、角膜1208を通過し、角膜1210に衝突する出力光線1222は、実線を用いて図示され、網膜から反射する反射光線1224は、破線を用いて図示される。図12Aに図示されるように、水晶体および角膜(図示せず)による屈折は、ビームレットが網膜上のある点に集束されることをもたらし、これは、ディスプレイのピクセルと相関される。出力光線1222が、網膜が高度に反射性である波長、例えば、赤外線波長を含む場合、これらの波長における反射光は、網膜からの反射後、眼および角膜を通して実質的に軸上で伝搬する傾向があるであろう。実質的に逆の光学経路に続いて、反射光線1224は、明確化の目的のために、わずかに発散するように図示される。反射光線1224は、出力光線1222と実質的に同一の軸である経路に沿って伝搬するため、検出器は、好ましくは、視野の周辺ではなく、視野内にある。
網膜1210からの反射後、反射光線1224は、接眼レンズ1220に衝突し、(例えば、回折によって)接眼レンズの中に結合され、それらは、全内部反射によって接眼レンズの内側に伝搬する。図示される実施形態では、フレーム1230は、高速光検出器であり得る1つ以上の光学検出器1232を支持する。1つ以上の光学検出器1232は、いくつかの角度において反射される光を捕捉するために、接眼レンズおよびフレームの周辺の周囲に整列されることができる。光は、直交結合要素、例えば、外部結合格子の使用を伴わずに接眼レンズから光学検出器に結合されることができるが、図12Aに示されるように、接眼レンズの縁を通して光学検出器に通過することができる。接眼レンズから光学検出器への結合の効率は、したがって、典型的には、直交結合要素を使用して達成されるものよりも高くあり得る。本実施形態では、接眼レンズは、したがって、接眼レンズと統合される1つ以上の光学検出器と結合され、ユーザの視野の外側に設置される反射光を検出するように動作可能であり得る収集要素として使用される。検出器の動作は、本明細書の他の実施形態に関連して議論される検出器と類似する機能性を共有することができる。
図12Bは、本発明の代替実施形態による、眼追跡システムの側面図を図示する、簡略化された概略図である。本代替実施形態では、付加的回折構造1221が、網膜から反射された光を1つ以上の検出器1252に回折するために、接眼レンズ1220と統合される。実施例として、赤外線波長において効率的である付加的回折構造1221が、反射光1224を検出器1252aおよび1252bに指向するために、接眼レンズ1220と統合され得る(例えば、接眼レンズの後部に積層される)。検出器1252aおよび1252bは、フレームの上部および底部において図示されるが、それらは、眼鏡のテンプルの近傍を含む、他の周辺部分において統合され得ることを理解されたい。当業者は、多くの変形例、修正、および代替を認識するであろう。
図12Aに関連して議論されるように、TIRによって付加的回折構造1221内で伝搬する光は、直交結合要素、例えば、外部結合格子の使用を伴わずに付加的回折構造から光学検出器に結合されることができるが、図12Bに示されるように、付加的回折構造の縁を通して光学検出器に通過することができる。その結果、付加的回折構造から光学検出器1252a/1252bへの結合の効率は、したがって、典型的には、直交結合要素を使用して達成されるものよりも高くあり得る。
図12Aおよび12Bに図示されないが、光学検出器は、接眼レンズ920の右(すなわち、正面)に設置され、網膜から反射された光を検出するために使用され得る。加えて、赤外光を優先的に反射するビームスプリッタまたはミラー(すなわち、ホットミラー)が、他の波長帯域内の反射光から反射赤外光を分離するために利用されることができる。当業者は、多くの変形例、修正、および代替を認識するであろう。
接眼レンズまたは付加的回折構造のいずれかの回折性質は、本システムを使用して利用可能な情報コンテンツを増加させるために、空間的に変動されることができる。回折構造は、画像中継(すなわち、画像保存)であり得るか、または結像効果を保存しないであろうかのいずれかであることに留意されたい。実施例として、検出器に結合される多モードファイバが、非画像保存用途のために周辺場所において接眼レンズに光学的に結合され得る。別の実施例として、上記に議論される空間的変動に関連して、空間的に分離されるファイバのアレイが、接眼レンズに光学的に結合され得る。眼/角膜が回転する際、空間的に分離されたアレイに衝突する反射光の分布は、変動し、眼/角膜が回転する際の本時間的/空間的変動は、眼の配向をエンコードするために使用されることができる。
例えば、付加的回折構造の接眼レンズの空間的変動は、それぞれ、周辺に搭載され、半径断面のそれぞれと関連付けられる検出器に向かって光を回折する、半径断面のセットとして実装され得る。当業者は、多くの変形例、修正、および代替を認識するであろう。
図12Cは、本発明の別の代替実施形態による、眼追跡システムの側面図を図示する、簡略化された概略図である。図12Cに図示される実施形態は、図12Aおよび12Bに図示される実施形態と共通要素を共有し、図12Aおよび12Bに関連して提供される説明は、適宜、図12Cに適用可能である。図12Cに図示される実施形態では、回折反射器1240が、回折を通して、網膜から反射された光を1つ以上の検出器1252に反射するために、接眼レンズ1220と統合される。実施例として、赤外線波長を反射することに効率的であり得る回折反射器1240が、周辺に、かつ接眼レンズと眼との間の縦方向位置に(すなわち、z軸に沿って)位置付けられ得る、検出器1252aおよび1252bに光1224を反射するために、接眼レンズ1220と統合され得る(例えば、接眼レンズの後部に積層される)。例えば、検出器1252aおよび1252bは、眼鏡のテンプル内に搭載され得る。当業者は、多くの変形例、修正、および代替を認識するであろう。
故に、図12Cに図示される回折反射器は、図12Aおよび12Bに図示される導波実装の代替を提供する。加えて、回折反射器の使用は、検出器が、眼鏡のフレームから離れるように、例えば、眼鏡のテンプルに沿った1つ以上の所定の位置に移動され得るため、検出器設置における柔軟性を可能にする。上記に議論されるように、検出器は、画像を保存する必要はなく、高速フォトダイオードとして実装され、システム複雑性および費用を低減させることができる。
また、本明細書に説明される実施例および実施形態は、例証目的のためだけのものであり、それに照らして、種々の修正または変更が、当業者に示唆され、本願の精神および権限および添付される請求項の範囲内に含まれるものであることを理解されたい。

Claims (20)

  1. 光走査プロジェクタと、
    前記光走査プロジェクタに光学的に結合される接眼レンズと、
    光学センサと、
    前記光走査プロジェクタおよび前記光学センサに結合される画像プロセッサと
    を含む眼追跡システムであって、
    前記接眼レンズは、前記接眼レンズの上に重なる回折反射器を含み、前記回折反射器は、1つ以上の時変反射信号を前記光学センサへと回折させるように動作可能である、眼追跡システム。
  2. 前記光走査プロジェクタは、画像フレームの走査時間の間における時間の関数としての増加する角偏向を伴う螺旋パターンにおいて走査するように構成されたファイバ走査プロジェクタを含む、請求項1に記載の眼追跡システム。
  3. フレームを有する眼鏡をさらに含み、前記光走査プロジェクタ、前記接眼レンズ、および前記光学センサは、前記フレームの中に搭載される、請求項1に記載の眼追跡システム。
  4. 前記接眼レンズは、複数の平面導波管を含む、請求項1に記載の眼追跡システム。
  5. 前記複数の平面導波管は、4つの平面導波管を含む、請求項4に記載の眼追跡システム。
  6. 前記光学センサは、光検出器を含む、請求項1に記載の眼追跡システム。
  7. 前記光走査プロジェクタは、表示信号および特性評価信号を出力するように動作可能である、請求項1に記載の眼追跡システム。
  8. 前記表示信号は、1つ以上の可視波長を含み、前記特性評価信号は、1つ以上の不可視波長を含む、請求項7に記載の眼追跡システム。
  9. 前記1つ以上の可視波長は、赤色、緑色、および青色波長を含み、前記1つ以上の不可視波長は、赤外線波長を含む、請求項8に記載の眼追跡システム。
  10. 前記接眼レンズは、
    赤色波長に対応する第1の平面導波管と、
    緑色波長に対応する第2の平面導波管と、
    青色波長に対応する第3の平面導波管と、
    赤外線波長に対応する第4の平面導波管と
    を含む複数の平面導波管を含む、請求項9に記載の眼追跡システム。
  11. 光走査プロジェクタと接眼レンズと光学センサとを含む眼追跡システムを動作させる方法であって、前記方法は、
    前記光走査プロジェクタを使用して、時変光学信号を生成することと、
    前記時変光学信号の少なくとも一部を前記接眼レンズの中に結合することと、
    前記接眼レンズから、ユーザの眼によって視認可能な画像を投影することと、
    前記接眼レンズの上に重なる回折反射器を使用して、前記ユーザの眼によって反射された1つ以上の時変信号を前記光学センサへと回折させることと、
    前記光学センサを使用して、前記1つ以上の時変信号を検出することと、
    前記ユーザの眼の位置を追跡することと
    を含む、方法。
  12. 前記光走査プロジェクタは、前記画像の走査時間の間における時間の関数としての増加する角偏向を伴う螺旋パターンにおいて走査するように構成されたファイバ走査プロジェクタを含む、請求項11に記載の方法。
  13. 前記時変光学信号は、表示信号および特性評価信号を含む、請求項11に記載の方法。
  14. 前記表示信号は、1つ以上の可視波長を含み、前記特性評価信号は、1つ以上の不可視波長を含む、請求項13に記載の方法。
  15. 前記1つ以上の可視波長は、赤色、緑色、および青色波長を含み、前記1つ以上の不可視波長は、赤外線波長を含む、請求項14に記載の方法。
  16. 前記接眼レンズは、複数の平面導波管を含む、請求項11に記載の方法。
  17. 前記複数の平面導波管は、4つの平面導波管を含む、請求項16に記載の方法。
  18. 前記光学センサは、光検出器を含む、請求項11に記載の方法。
  19. 前記ユーザの眼の位置を追跡することは、前記画像の一連のピクセルの位置を前記ユーザの眼から反射された前記1つ以上の時変信号の一連の強度と相関させることを含む、請求項11に記載の方法。
  20. 前記回折反射器は、前記光学センサに隣接する前記接眼レンズの側面に積層される、請求項1に記載の眼追跡システム。
JP2023074415A 2017-03-21 2023-04-28 光走査プロジェクタと連動した眼移動の追跡のための方法およびシステム Pending JP2023101505A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201762474497P 2017-03-21 2017-03-21
US62/474,497 2017-03-21
JP2019551616A JP7273720B2 (ja) 2017-03-21 2018-03-21 光走査プロジェクタと連動した眼移動の追跡のための方法およびシステム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019551616A Division JP7273720B2 (ja) 2017-03-21 2018-03-21 光走査プロジェクタと連動した眼移動の追跡のための方法およびシステム

Publications (1)

Publication Number Publication Date
JP2023101505A true JP2023101505A (ja) 2023-07-21

Family

ID=63583782

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019551616A Active JP7273720B2 (ja) 2017-03-21 2018-03-21 光走査プロジェクタと連動した眼移動の追跡のための方法およびシステム
JP2023074415A Pending JP2023101505A (ja) 2017-03-21 2023-04-28 光走査プロジェクタと連動した眼移動の追跡のための方法およびシステム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2019551616A Active JP7273720B2 (ja) 2017-03-21 2018-03-21 光走査プロジェクタと連動した眼移動の追跡のための方法およびシステム

Country Status (9)

Country Link
US (3) US10715794B2 (ja)
EP (2) EP3602178B1 (ja)
JP (2) JP7273720B2 (ja)
KR (2) KR20230151053A (ja)
CN (2) CN114755824A (ja)
AU (1) AU2018239359A1 (ja)
CA (1) CA3056657A1 (ja)
IL (2) IL269101B2 (ja)
WO (1) WO2018175548A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018175548A1 (en) 2017-03-21 2018-09-27 Magic Leap, Inc. Method and system for tracking eye movement in conjunction with a light scanning projector
US10698204B1 (en) * 2017-10-16 2020-06-30 Facebook Technologies, Llc Immersed hot mirrors for illumination in eye tracking
JP2020071429A (ja) * 2018-11-01 2020-05-07 セイコーエプソン株式会社 表示装置
US10886702B2 (en) * 2018-11-09 2021-01-05 Facebook Technologies, Llc Vertical-cavity surface-emitting laser for near-field illumination of an eye
US11435584B2 (en) * 2019-03-13 2022-09-06 Hong Kong Applied Science And Technology Research Institute Co., Ltd. Large field of view see through head mounted display having magnified curved intermediate image
JP7163230B2 (ja) * 2019-03-25 2022-10-31 株式会社日立製作所 視線検出装置、視線検出方法、及び表示装置
CN112130321B (zh) * 2019-06-24 2023-06-27 成都理想境界科技有限公司 一种波导模组及基于波导的近眼显示模组及设备
US11120258B1 (en) * 2019-07-18 2021-09-14 Facebook Technologies, Llc Apparatuses, systems, and methods for scanning an eye via a folding mirror
JP7379021B2 (ja) * 2019-08-29 2023-11-14 株式会社東芝 距離計測装置、距離計測方法、及び速度計測装置
CN114761859A (zh) * 2019-11-26 2022-07-15 奇跃公司 用于增强或虚拟现实显示系统的增强眼睛跟踪
CN110989166A (zh) * 2019-12-25 2020-04-10 歌尔股份有限公司 一种近眼显示设备的眼球追踪系统及近眼显示设备
KR20220130138A (ko) * 2020-02-04 2022-09-26 소니그룹주식회사 영상 추종 정보 검출 장치, 영상 추종 장치, 영상 추종 정보 검출 방법 및 영상 추종 방법
WO2022196650A1 (ja) * 2021-03-15 2022-09-22 富士フイルム株式会社 視線追跡システムおよび虚像表示装置
US11669159B2 (en) 2021-03-22 2023-06-06 Microsoft Technology Licensing, Llc Eye tracker illumination through a waveguide
WO2023215112A1 (en) * 2022-05-04 2023-11-09 Apple Inc. Retinal reflection tracking for gaze alignment
US11892638B2 (en) 2022-06-03 2024-02-06 Meta Platforms Technologies, Llc Scanning near-eye imaging and sensing system

Family Cites Families (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5309272A (en) 1992-12-11 1994-05-03 Xerox Corporation Dual pass binary diffractive optical element scanner
US5416876A (en) * 1994-01-28 1995-05-16 Hughes Training, Inc. Fiber optic ribbon subminiature display for head/helmet mounted display
US5727098A (en) * 1994-09-07 1998-03-10 Jacobson; Joseph M. Oscillating fiber optic display and imager
US5694230A (en) 1995-06-07 1997-12-02 Digital Optics Corp. Diffractive optical elements as combiners
JP4372891B2 (ja) * 1999-06-22 2009-11-25 オリンパス株式会社 映像表示装置
US6307995B1 (en) 2000-04-05 2001-10-23 James T. Veligdan Planar optical waveguides for optical panel having gradient refractive index core
WO2002097511A1 (de) * 2001-05-22 2002-12-05 Physoptics Opto-Electronic Gmbh Verfahren und vorrichtung zur anpassung eines optischen systems an die blickrichtung des menschlichen auges
JP4772204B2 (ja) * 2001-04-13 2011-09-14 オリンパス株式会社 観察光学系
US7197165B2 (en) * 2002-02-04 2007-03-27 Canon Kabushiki Kaisha Eye tracking using image data
US7110180B2 (en) 2002-10-09 2006-09-19 Ricoh Company, Ltd. Diffraction grating, method of fabricating diffraction optical element, optical pickup device, and optical disk drive
US7145722B2 (en) 2003-04-24 2006-12-05 Banpil Photonics, Inc. Optical filter and method of manufacturing thereof
US7206107B2 (en) 2004-12-13 2007-04-17 Nokia Corporation Method and system for beam expansion in a display device
US20090128911A1 (en) 2005-09-14 2009-05-21 Moti Itzkovitch Diffraction Grating With a Spatially Varying Duty-Cycle
US7817176B2 (en) 2005-12-26 2010-10-19 Ricoh Company, Ltd. Light source device, optical scanning device, and image forming apparatus
US20090268045A1 (en) 2007-08-02 2009-10-29 Sudipto Sur Apparatus and methods for configuration and optimization of image sensors for gaze tracking applications
US20100149073A1 (en) * 2008-11-02 2010-06-17 David Chaum Near to Eye Display System and Appliance
US8248178B2 (en) 2009-12-03 2012-08-21 The Aerospace Corporation High power waveguide polarizer with broad bandwidth and low loss, and methods of making and using same
US8467643B2 (en) 2010-08-13 2013-06-18 Toyota Motor Engineering & Mfg. North America, Inc. Optical device using double-groove grating
US20120057235A1 (en) 2010-09-03 2012-03-08 Massachusetts Institute Of Technology Method for Antireflection in Binary and Multi-Level Diffractive Elements
US8998414B2 (en) * 2011-09-26 2015-04-07 Microsoft Technology Licensing, Llc Integrated eye tracking and display system
US9297996B2 (en) * 2012-02-15 2016-03-29 Microsoft Technology Licensing, Llc Laser illumination scanning
US8736963B2 (en) * 2012-03-21 2014-05-27 Microsoft Corporation Two-dimensional exit-pupil expansion
WO2013167864A1 (en) * 2012-05-11 2013-11-14 Milan Momcilo Popovich Apparatus for eye tracking
US9671566B2 (en) * 2012-06-11 2017-06-06 Magic Leap, Inc. Planar waveguide apparatus with diffraction element(s) and system employing same
US9040923B2 (en) * 2012-09-04 2015-05-26 Innovega, Inc. Eye tracking system and related methods
US9418480B2 (en) * 2012-10-02 2016-08-16 Augmented Reailty Lab LLC Systems and methods for 3D pose estimation
CN103793045B (zh) 2012-10-31 2016-12-28 原相科技股份有限公司 瞳孔追踪装置
JP6057743B2 (ja) * 2013-01-29 2017-01-11 オリンパス株式会社 光走査装置
AU2014248874B2 (en) * 2013-03-11 2019-07-11 Magic Leap, Inc. System and method for augmented and virtual reality
US9737209B2 (en) * 2013-05-15 2017-08-22 The Johns Hopkins University Eye tracking and gaze fixation detection systems, components and methods using polarized light
US10262462B2 (en) * 2014-04-18 2019-04-16 Magic Leap, Inc. Systems and methods for augmented and virtual reality
RU2682798C2 (ru) 2013-07-19 2019-03-21 Сони Корпорейшн Устройство обнаружения и способ
CN107300769B (zh) * 2013-11-27 2019-12-13 奇跃公司 虚拟和增强现实系统与方法
US10191279B2 (en) * 2014-03-17 2019-01-29 Osterhout Group, Inc. Eye imaging in head worn computing
JP6270674B2 (ja) * 2014-02-27 2018-01-31 シチズン時計株式会社 投影装置
US9389424B1 (en) * 2014-04-02 2016-07-12 Magic Leap, Inc. Methods and systems for implementing a high resolution color micro-display
US9477079B2 (en) * 2014-06-25 2016-10-25 Thalmic Labs Inc. Systems, devices, and methods for wearable heads-up displays
US20160231567A1 (en) 2015-02-09 2016-08-11 Pasi Saarikko Display System
US9513480B2 (en) 2015-02-09 2016-12-06 Microsoft Technology Licensing, Llc Waveguide
EP3062142B1 (en) * 2015-02-26 2018-10-03 Nokia Technologies OY Apparatus for a near-eye display
CN107710048A (zh) * 2015-05-28 2018-02-16 赛尔米克实验室公司 在可穿戴式平视显示器中集成眼睛追踪和扫描激光投射的系统、设备和方法
JP6598269B2 (ja) * 2015-10-05 2019-10-30 ディジレンズ インコーポレイテッド 導波管ディスプレイ
US10983340B2 (en) * 2016-02-04 2021-04-20 Digilens Inc. Holographic waveguide optical tracker
US10067344B2 (en) * 2016-07-01 2018-09-04 Intel Corporation Variable transmissivity virtual image projection system
WO2018039273A1 (en) 2016-08-22 2018-03-01 Magic Leap, Inc. Dithering methods and apparatus for wearable display device
KR102541862B1 (ko) 2016-10-26 2023-06-13 매직 립, 인코포레이티드 증강 현실 시스템을 위한 아웃커플링 격자
WO2018175548A1 (en) 2017-03-21 2018-09-27 Magic Leap, Inc. Method and system for tracking eye movement in conjunction with a light scanning projector

Also Published As

Publication number Publication date
US10715794B2 (en) 2020-07-14
EP3602178A4 (en) 2020-04-08
EP3602178B1 (en) 2023-05-10
US20180278924A1 (en) 2018-09-27
CN110446965A (zh) 2019-11-12
EP3602178A1 (en) 2020-02-05
CN114755824A (zh) 2022-07-15
US11838496B2 (en) 2023-12-05
IL269101A (en) 2019-11-28
WO2018175548A1 (en) 2018-09-27
CN110446965B (zh) 2022-05-03
US20200366887A1 (en) 2020-11-19
KR20230151053A (ko) 2023-10-31
EP4235258A2 (en) 2023-08-30
KR20190126880A (ko) 2019-11-12
CA3056657A1 (en) 2018-09-27
US20210344897A1 (en) 2021-11-04
JP2020514831A (ja) 2020-05-21
US11025897B2 (en) 2021-06-01
JP7273720B2 (ja) 2023-05-15
KR102594058B1 (ko) 2023-10-24
AU2018239359A1 (en) 2019-10-03
IL301719A (en) 2023-05-01
EP4235258A3 (en) 2023-09-27
IL269101B1 (en) 2023-05-01
IL269101B2 (en) 2023-09-01

Similar Documents

Publication Publication Date Title
JP7273720B2 (ja) 光走査プロジェクタと連動した眼移動の追跡のための方法およびシステム
US11914160B2 (en) Augmented reality head-mounted display with a focus-supporting projector for pupil steering
CN108882845B (zh) 基于经由光导光学元件的视网膜成像的眼动追踪器
CA2863754C (en) Image generation systems and image generation methods
JPWO2015012280A1 (ja) 視線検出装置
US20220357583A1 (en) Optical Systems and Methods for Eye Tracking Based on Redirecting Light from Eye Using an Optical Arrangement Associated with a Light-Guide Optical Element
CN117043658A (zh) 通过波导的眼睛跟踪器照明
CN109983393A (zh) 平铺波导显示器
US20240146897A1 (en) Method and system for tracking eye movement in conjunction with a light scanning projector
US20230314716A1 (en) Emission of particular wavelength bands utilizing directed wavelength emission components in a display system
US11927758B1 (en) Multi-laser illuminated mixed waveguide display with volume Bragg grating (VBG) and mirror

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230428