JP2020101831A - 仮想/拡張現実システムにおけるビーム角度センサ - Google Patents

仮想/拡張現実システムにおけるビーム角度センサ Download PDF

Info

Publication number
JP2020101831A
JP2020101831A JP2020041077A JP2020041077A JP2020101831A JP 2020101831 A JP2020101831 A JP 2020101831A JP 2020041077 A JP2020041077 A JP 2020041077A JP 2020041077 A JP2020041077 A JP 2020041077A JP 2020101831 A JP2020101831 A JP 2020101831A
Authority
JP
Japan
Prior art keywords
angle
light
ray
item
light beam
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020041077A
Other languages
English (en)
Other versions
JP7219242B2 (ja
JP2020101831A5 (ja
Inventor
エル. ヨー イヴァン
Yeoh Ivan
エル. ヨー イヴァン
アーネスト エドウィン ライオネル
Ernest Edwin Lionel
アーネスト エドウィン ライオネル
デール テコルステ ロバート
Tekolste Robert Dale
デール テコルステ ロバート
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Magic Leap Inc
Original Assignee
Magic Leap Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Magic Leap Inc filed Critical Magic Leap Inc
Publication of JP2020101831A publication Critical patent/JP2020101831A/ja
Publication of JP2020101831A5 publication Critical patent/JP2020101831A5/ja
Priority to JP2021182425A priority Critical patent/JP7394817B2/ja
Application granted granted Critical
Publication of JP7219242B2 publication Critical patent/JP7219242B2/ja
Priority to JP2023200415A priority patent/JP2024026190A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/26Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes
    • G01B11/27Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes for testing the alignment of axes
    • G01B11/272Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes for testing the alignment of axes using photoelectric detection means
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/08Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light
    • G02B26/10Scanning systems
    • G02B26/103Scanning systems having movable or deformable optical fibres, light guides or waveguides as scanning elements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0081Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. enlarging, the entrance or exit pupil
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/10Beam splitting or combining systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/30Collimators
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/0001Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems
    • G02B6/0011Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems the light guides being planar or of plate-like form
    • G02B6/0013Means for improving the coupling-in of light from the light source into the light guide
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/0001Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems
    • G02B6/0011Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems the light guides being planar or of plate-like form
    • G02B6/0013Means for improving the coupling-in of light from the light source into the light guide
    • G02B6/0015Means for improving the coupling-in of light from the light source into the light guide provided on the surface of the light guide or in the bulk of it
    • G02B6/0016Grooves, prisms, gratings, scattering particles or rough surfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/50Lighting effects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/011Head-up displays characterised by optical features comprising device for correcting geometrical aberrations, distortion
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0123Head-up displays characterised by optical features comprising devices increasing the field of view
    • G02B2027/0125Field-of-view increase by wavefront division
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/24Coupling light guides
    • G02B6/26Optical coupling means
    • G02B6/34Optical coupling means utilising prism or grating

Abstract

【課題】エンドユーザによる使用のための仮想画像生成システムを提供すること。【解決手段】仮想画像生成システムは、コリメートされた光ビームを生成するために構成される投影サブシステムと、コリメートされた光ビームに応答して、光線を放出し、画像フレームのピクセルをエンドユーザに表示するように構成されるディスプレイとを備えている。ピクセルは、放出される光線の角度でエンコードされた場所を有する。仮想画像生成システムは、放出される光線角度のうちの少なくとも1つを示す少なくとも1つのパラメータを感知するために構成される感知アセンブリと、ピクセルの場所を定義する画像データを生成し、ピクセルの定義された場所および感知されたパラメータに基づいて、ディスプレイに対する光ビームの角度を制御するために構成される制御サブシステムとをさらに備えている。【選択図】図3

Description

(関連出願の引用)
本願は、米国仮特許出願第62/277,865号(2016年1月12日出願、名称「BEAM ANGLE SENSOR IN VIRTUAL/AUGMENTED REALITY SYSTEM」、代理人事件番号ML.30053.00.)からの優先権を主張する。上記特許出願の内容は、その全体が参照により本明細書に引用される。
(発明の分野)
本発明は、概して、1人以上のユーザのための双方向仮想もしくは拡張現実環境を促進するように構成されるシステムおよび方法に関する。
現代のコンピューティングおよびディスプレイ技術は、いわゆる「仮想現実」または「拡張現実」体験のためのシステムの開発を促進しており、デジタル的に再現された画像またはその一部が、現実であるように見え得る様式、もしくはそのように知覚され得る様式でユーザに提示される。仮想現実(VR)シナリオは、典型的には、他の実際の実世界の視覚的入力に対する透明性を伴わずに、デジタルまたは仮想画像情報の提示を伴う一方、拡張現実(AR)シナリオは、典型的には、エンドユーザの周囲の実際の世界の可視化に対する拡張としてのデジタルまたは仮想画像情報の提示を伴う。
例えば、図1を参照すると、拡張現実場面4が、描写されており、AR技術のユーザは、背景における人々、木々、建物を特徴とする実世界公園状設定6と、コンクリートプラットフォーム8とを見る。これらのアイテムに加え、AR技術のエンドユーザは、実世界プラットフォーム8上に立っているロボット像10と、マルハナバチの擬人化のように見える、飛んでいる漫画のようなアバタキャラクタ12とを「見ている」と知覚するが、これらの要素10、12は、実世界には存在しない。結論からいうと、ヒトの視知覚系は、非常に複雑であり、他の仮想または実世界画像要素間における仮想画像要素の快適で、自然のような感覚で、かつ豊かな提示を促進するVRまたはAR技術の生成は、困難である。
VRおよびARシステムは、典型的には、エンドユーザの頭部に少なくとも緩く装着され、したがって、ユーザの頭部が移動すると移動する頭部装着型ディスプレイ(またはヘルメット搭載型ディスプレイもしくはスマートグラス)を採用する。エンドユーザの頭部の運動が、ディスプレイサブシステムによって検出される場合、表示されているデータは、頭部の姿勢(すなわち、ユーザの頭部の向きおよび/または場所)の変化を考慮するように更新されることができる。
例として、頭部装着型ディスプレイを装着しているユーザが、3次元(3D)オブジェクトの仮想表現をディスプレイ上で視認し、3Dオブジェクトが現れる面積の周囲を歩く場合、その3Dオブジェクトは、各視点に対して再レンダリングされ、エンドユーザに、実空間を占有するオブジェクトの周囲を歩いているという知覚を与えることができる。頭部装着型ディスプレイが、複数のオブジェクトを仮想空間内に提示するために使用される場合(例えば、豊かな仮想世界)、場面を再レンダリングして、エンドユーザの動的に変化する頭部の場所および向きを合わせ、仮想空間で増加した没入感を提供するために、頭部の姿勢の測定を使用することができる。
AR(すなわち、実および仮想要素の同時視認)を可能にする頭部装着型ディスプレイは、いくつかの異なるタイプの構成を有することができる。多くの場合、「ビデオシースルー」ディスプレイと称される1つのそのような構成では、カメラが、実際の場面の要素を捕捉し、コンピューティングシステムが、仮想要素を捕捉された実場面上に重ね、非透明ディスプレイが、複合画像を眼に提示する。別の構成は、多くの場合、「光学シースルー」ディスプレイと称され、エンドユーザは、ディスプレイサブシステム内の透明(または半透明)要素を通して見て、環境内の実オブジェクトからの光を直接視認することができる。多くの場合、「結合器」と称される、透明要素は、実世界のエンドユーザの視点の上にディスプレイからの光を重ねる。
VRおよびARシステムは、典型的には、投影サブシステムと、エンドユーザの視野の正面に位置付けられ、投影サブシステムが画像フレームを連続して投影するディスプレイ表面とを有するディスプレイサブシステムを採用する。真の3次元システムでは、ディスプレイ表面の深度は、フレームレートまたはサブフレームレートにおいて制御されることができる。投影サブシステムは、その中に1つ以上の光源からの光が異なる色の光を定義されたパターンで放出する1つ以上の光ファイバと、光ファイバを所定のパターンで走査し、エンドユーザに連続して表示される画像フレームを作成する走査デバイスとを含み得る。
一実施形態では、ディスプレイサブシステムは、ユーザの視野と略平行であり、その中に光ファイバからの光が投入される1つ以上の平面光学導波管を含む。1つ以上の線形回折格子が、導波管内に埋設され、導波管に沿って伝搬する入射光の角度を変化させる。光の角度を全内部反射(TIR)の閾値を超えて変化させることによって、光は、導波管の1つ以上の側方面から脱出する。線形回折格子は、低回折効率を有し、したがって、光が線形回折格子に遭遇する度に、一部の光エネルギーのみが、導波管の外に向かわせられる。格子に沿った複数の場所において光を外部結合することによって、ディスプレイサブシステムの射出瞳は、効果的に増加させられる。ディスプレイサブシステムはさらに、光ファイバから生じる光をコリメートする1つ以上のコリメート要素と、コリメートされた光を導波管の縁にまたはそこから光学的に結合する光学入力装置とを備え得る。
図2を参照すると、ディスプレイサブシステム20の一実施形態は、光を生成する1つ以上の光源22と、光を放出する光ファイバ24と、光ファイバ24の遠位端から出射する光を光ビーム36にコリメートするコリメート要素26とを備えている。ディスプレイサブシステム20は、それに対して、またはその中に光ファイバ24が固定−自由可撓性カンチレバーとして搭載される圧電要素28と、駆動電子機器30とをさらに備え、駆動電子機器は、圧電要素22に電気的に結合され、圧電要素28を活性化し、電気的に刺激し、それによって、光ファイバ24の遠位端に支点34の周りに偏向32を作成する所定の走査パターンで振動させ、それによって、走査パターンに従ってコリメートされた光ビーム36を走査する。
ディスプレイサブシステム20は、エンドユーザの視野と略平行である平面光学導波管40と、平面光学導波管40に関連付けられる回折光学要素(DOE)42と、平面光学導波管40の端部内に統合される、内部結合要素(ICE)42(DOEの形態をとる)とを含む導波管装置38を備えている。ICE42は、コリメート要素26からコリメートされた光36を平面光学導波管40の中に内部結合し、その光の方向を向け直す。コリメート要素26からのコリメートされた光ビーム36は、平面光学導波管40に沿って伝搬し、DOE42と交差し、DOEは、平面光学導波管40のレンズ効果係数に応じた視認距離で集中させられる光線46として、光の一部を導波管装置38の面からエンドユーザの眼に向かって出射させる。したがって、光源22は、駆動電子機器30と併せて、空間的および/または時間的に変動する光の形態でエンコードされた画像データを生成する。
エンドユーザによって可視化される各ピクセルの場所は、平面光学導波管40から出射する光線48の角度に非常に依存する。したがって、異なる角度で導波管40から出射する光線48は、エンドユーザの視野内の異なる場所にピクセルを作成するであろう。例えば、ピクセルをエンドユーザの視野の右上に位置させることが所望される場合、コリメートされた光ビーム36は、ある角度において、導波管装置38の中に入力され得、ピクセルをエンドユーザの視野の中心に位置させることが所望される場合、コリメートされた光ビーム36は、第2の異なる角度において、導波管装置38の中に入力され得る。したがって、光ファイバ24が、走査パターンに従って走査されるにつれて、光ファイバ24から生じる光ビーム36は、異なる角度で導波管装置38の中に入力され、それによって、ピクセルをエンドユーザの視野内の異なる場所に作成するであろう。したがって、エンドユーザの視野内の各ピクセルの場所は、平面光学導波管40から出射する光線48の角度に非常に依存し、したがって、これらのピクセルの場所は、ディスプレイサブシステム20によって生成された画像データ内にエンコードされる。
導波管装置38に入射する光ビーム36の角度、したがって、平面光学導波管40に入射する光ビーム36の角度は、平面光学導波管40から出射する光線48の角度と異なるであろうが、導波管装置38に入射する光ビーム36の角度と平面光学導波管40から出射する光線48の角度との間の関係は、周知かつ予測可能であり、したがって、平面光学導波管40から出射する光線48の角度は、導波管装置38に入射するコリメートされた光ビーム36の角度から容易に予測されることができる。
前述から、光ファイバ24から導波管装置38に入射する光ビーム36の実際の角度、したがって、エンドユーザに向かって導波管40から出射する光線48の実際の角度は、出射光線48の設計される角度と同じもしくはほぼ同じまたは1対1の関係であり、それによって、エンドユーザによって可視化されるピクセルの場所がディスプレイサブシステム20によって生成された画像データ内に適切にエンコードされることが理解され得る。しかしながら、異なるスキャナ間の製造公差だけではなく、ディスプレイサブシステム20を一緒に統合するために使用される接合材料の一貫性を変化させ得る温度の変動等の変化する環境条件にも起因して、出射光線48の実際の角度は、補償を伴わない場合、出射光線48の設計された角度から変動し、それによって、エンドユーザの視野内の正しくない場所にあるピクセルを作成し、画像歪みをもたらすであろう。
したがって、仮想現実または拡張現実環境におけるディスプレイサブシステムの導波管から出射する光線の実際の角度が、ディスプレイサブシステムによって生成された画像データ内にエンコードされた設計された角度とほぼ同じであることを確実にする必要がある。
本発明の実施形態は、1人以上のユーザのために、仮想現実および/または拡張現実相互作用を促進するためのデバイス、システム、および方法を対象とする。
本発明の第1の側面によると、エンドユーザによって使用される仮想画像生成システムのためのディスプレイサブシステムが、提供される。ディスプレイサブシステムは、平面導波管装置を備えている。一実施形態では、導波管装置は、エンドユーザの眼の正面に位置付けられるために構成される。別の実施形態では、導波管装置は、エンドユーザの眼と周囲環境との間で視野内に位置付けられるために構成される部分的に透明なディスプレイ表面を有する。さらに別の実施形態では、ディスプレイサブシステムは、エンドユーザによって装着されるために構成されるフレーム構造を備えている。その場合、フレーム構造は、平面導波管装置を支持する。
ディスプレイサブシステムは、光を放出するために構成されるイメージング要素と、イメージング要素からの光を光ビームにコリメートするために構成されるコリメート要素とをさらに備えている。一実施形態では、イメージング要素は、光を生成するために構成される、少なくとも1つの光源と、光を放出するために構成される光ファイバと、光ファイバが搭載されている機械的駆動アセンブリとを備えている。機械的駆動アセンブリは、走査パターンに従って光ファイバの開口を変位させるために構成される。一実施形態では、機械的駆動アセンブリは、光ファイバが搭載されている圧電要素と、電気信号を圧電要素に伝達し、それによって、走査パターンに従って光ファイバに振動させるために構成される、駆動電子機器とを備えている。
ディスプレイサブシステムは、光線が導波管装置から出射し、画像フレームのピクセルをエンドユーザに表示するように、コリメート要素からの光ビームを導波管装置に向かわせるために構成される内部結合要素(ICE)をさらに備えている。ピクセルは、出射光線の角度でエンコードされた場所を有する。一実施形態では、導波管装置は、平面光学導波管(例えば、光学的に透明な材料の単一板から形成されるもの)を備え、その場合、ICEは、イメージング要素からコリメートされた光ビームを平面光学導波管の中に内部結合された光ビームとして光学的に結合するために構成される。導波管装置はさらに、内部結合された光ビームを複数の直交光ビームに分けるために平面光学導波管に関連付けられている直交瞳拡張(OPE)要素と、複数の直交光ビームを平面光学導波管から出射する光線に分けるために平面光学導波管に関連付けられている射出瞳拡張(EPE)要素とを備え得る。
ディスプレイサブシステムは、出射光線角度のうちの少なくとも1つを示す少なくとも1つのパラメータを感知するために構成される感知アセンブリをさらに備えている。一実施形態では、感知されるパラメータは、導波管装置の外部表面と一致する平面に直交する少なくとも1つの平面(例えば、互いに直交する2つの直交平面)に投影された出射光線角度を示す。
別の実施形態では、感知されるパラメータは、複数の出射光線を代表する少なくとも1つの光線の強度を備えている。代表光線は、複数の出射光線と異なり得る。この場合、代表光線は、エンドユーザの視野外の複数の出射光線と異なる場所において導波管装置から出射し得る。代替として、複数の出射光線は、代表光線を備え得る。
いずれの場合も、感知アセンブリは、少なくとも1つの角度センサを備え得、それらの各々は、光強度センサと、導波管装置と光強度センサとの間に搭載されている角度選択層とを含む。一実施形態では、角度センサは、一対の直交センサを備え、代表光線の第1および第2の直交強度成分を感知するためにそれぞれ構成される。対の直交センサは、代表光線の第1および第2の直交強度成分をそれぞれ通すために構成される第1および第2の円筒形レンズをそれぞれ備え得る。または、対の直交センサは、代表光線の第1および第2の直交強度成分をそれぞれ通すために構成される第1および第2の回折光学要素をそれぞれ備え得る。または、対の直交センサは、代表光線の各々を直交偏光された光線にそれぞれ偏光させるために構成される第1および第2の偏光要素をそれぞれ備え得る。または、角度選択層は、直交した向きにおいて歪まされ得る。
さらに別の実施形態では、感知されるパラメータは、第1および第2の直交強度成分が正規化されることができるように、少なくとも1つの代表光線の絶対強度を備え得る。この場合、感知アセンブリは、少なくとも1つの代表光線の絶対強度を測定するために構成される別の光強度センサを備え得る。さらに別の実施形態では、感知されるパラメータは、複数の出射光線の相対角度を示す。例えば、感知されるパラメータは、コリメートされた光ビームが平面に投影される象限を備え得る。この場合、感知アセンブリは、基準平面の象限の中で間隔を置かれた複数のセンサまたは象限位置感知検出器(PSD)を備え得る。
本発明の第2の側面によると、仮想画像生成システムは、前述のディスプレイサブシステムと、ピクセルの場所を定義する画像データを生成し、ピクセルの定義された場所および感知されたパラメータに基づいて、ICEに対する光ビームの角度を制御するために構成される制御サブシステムとを備えている。仮想画像生成システムは、3次元場面を記憶しているメモリをさらに備え得、その場合、制御サブシステムは、3次元場面の複数の合成画像フレームをレンダリングするために構成され得、ディスプレイサブシステムは、複数の画像フレームをエンドユーザに連続して表示するために構成され得る。制御サブシステムは、グラフィック処理ユニット(GPU)を備え得る。
本発明の第3の側面によると、エンドユーザによる使用のための仮想画像生成システムが、提供される。仮想画像生成システムは、コリメートされた光ビームを生成するために構成される投影サブシステムを備えている。一実施形態では、投影サブシステムは、光を生成するために構成される少なくとも1つの光源と、光を放出するために構成される光ファイバと、光ファイバからの光をコリメートされた光ビームにコリメートするために構成されるコリメート要素と、光ファイバが搭載されている機械的駆動アセンブリとを備えている。機械的駆動アセンブリは、走査パターンに従って光ファイバを変位させるために構成される。一実施形態では、機械的駆動アセンブリは、光ファイバが搭載されている圧電要素と、電気信号を圧電要素に伝達し、それによって、走査パターンに従って光ファイバを振動させるために構成される駆動電子機器とを備え得る。
仮想画像生成システムは、コリメートされた光ビームに応答して、光線を放出し、画像フレームのピクセルをエンドユーザに表示するように構成されるディスプレイをさらに備えている。ピクセルは、放出される光線の角度でエンコードされた場所を有する。一実施形態では、ディスプレイは、画像フレームのピクセルを複数の異なる焦点のうちの1つにおいてエンドユーザに選択的に表示するために構成される。ディスプレイは、エンドユーザの眼の正面に位置付けられるために構成され得る。ディスプレイは、エンドユーザの眼と周囲環境との間で視野内に位置付けられるために構成される部分的に透明なディスプレイ表面を有し得る。別の実施形態では、仮想画像生成システムは、エンドユーザによって装着されるために構成されるフレーム構造をさらに備え、フレーム構造は、ディスプレイを支持する。
仮想画像生成システムは、放出された光線角度を示す少なくとも1つのパラメータを感知するために構成される感知アセンブリをさらに備えている。一実施形態では、感知アセンブリによって感知されるパラメータは、導波管装置の外部表面と一致する平面に直交する少なくとも1つの平面(例えば、互いに直交する2つの直交平面)に投影された出射光線角度を示す。
別の実施形態では、感知されるパラメータは、導波管装置の外部表面と一致する平面に直交する少なくとも1つの平面(例えば、互いに直交する2つの直交平面)に投影された放出される光線角度を示す。
さらに別の実施形態では、感知されるパラメータは、複数の放出される光線を表す少なくとも1つの光線の強度を備えている。代表光線は、複数の放出される光線と異なり得る。この場合、代表光線は、エンドユーザの視野外の複数の放出される光線と異なる場所において導波管装置から出射し得る。代替として、複数の放出される光線は、代表光線を備え得る。
いずれの場合も、感知アセンブリは、少なくとも1つの角度センサを備え得、それらの各々は、光強度センサと、導波管装置と光強度センサとの間に搭載されている角度選択層とを含む。一実施形態では、角度センサは、一対の直交センサを備え、代表光線の第1および第2の直交強度成分を感知するためにそれぞれ構成される。対の直交センサは、代表光線の第1および第2の直交強度成分をそれぞれ通すために構成される第1および第2の円筒形レンズをそれぞれ備え得る。または、対の直交センサは、代表光線の第1および第2の直交強度成分をそれぞれ通すために構成される第1および第2の回折光学要素をそれぞれ備え得る。または、対の直交センサは、代表光線の各々を直交偏光された光線にそれぞれ偏光させるために構成される第1および第2の偏光要素をそれぞれ備え得る。または、角度選択層は、直交した向きにおいて歪まされ得る。
さらに別の実施形態では、感知されるパラメータは、第1および第2の直交強度成分が正規化されることができるように、少なくとも1つの代表光線の絶対強度を備え得る。この場合、感知アセンブリは、少なくとも1つの代表光線の絶対強度を測定するために構成される別の光強度センサを備え得る。さらに別の実施形態では、感知されるパラメータは、複数の放出される光線の相対角度を示す。例えば、感知されるパラメータは、コリメートされた光ビームが平面に投影される象限を備え得る。この場合、感知アセンブリは、基準平面の象限の中で間隔を置かれた複数のセンサまたは象限位置感知検出器(PSD)を備え得る。
仮想画像生成システムは、ピクセルの場所を定義する画像データを生成し、ピクセルの定義された場所および感知されたパラメータに基づいて、ディスプレイに対する光ビームの角度を制御するために構成される制御サブシステムをさらに備えている。仮想画像生成システムは、3次元場面を記憶しているメモリをさらに備え得、その場合、制御サブシステムは、3次元場面の複数の合成画像フレームをレンダリングするために構成され得、ディスプレイは、複数の画像フレームをエンドユーザに連続して表示するために構成され得る。制御サブシステムは、グラフィック処理ユニット(GPU)を備え得る。
本発明の追加のおよび他のオブジェクト、特徴、ならびに利点は、発明を実施するための形態、図、および請求項に説明される。
本願明細書は、例えば、以下の項目も提供する。
(項目1)
エンドユーザによって使用される仮想画像生成システムのためのディスプレイサブシステムであって、前記ディスプレイサブシステムは、
導波管装置と、
光を放出するために構成されているイメージング要素と、
前記イメージング要素からの光を光ビームにコリメートするために構成されているコリメート要素と、
内部結合要素(ICE)であって、前記内部結合要素は、前記コリメート要素からコリメートされた光ビームを前記導波管装置に向かわせるために構成されており、それによって、複数の光線が、前記導波管装置から出射し、画像フレームのピクセルを前記エンドユーザに表示し、前記ピクセルは、前記複数の出射光線の角度でエンコードされた場所を有する、内部結合要素と、
前記出射光線角度を示す少なくとも1つのパラメータを感知するために構成されている感知アセンブリと
を備えている、ディスプレイサブシステム。
(項目2)
前記イメージング要素は、
前記光を生成するために構成されている少なくとも1つの光源と、
前記光を放出するために構成されている光ファイバと、
前記光ファイバが搭載されている機械的駆動アセンブリと
を備え、
前記機械的駆動アセンブリとは、走査パターンに従って前記光ファイバを変位させるために構成されている、項目1に記載のディスプレイサブシステム。
(項目3)
前記機械的駆動アセンブリは、前記光ファイバが搭載されている圧電要素と、電気信号を前記圧電要素に伝達し、それによって、前記光ファイバに前記走査パターンに従って振動させるために構成されている駆動電子機器とを備えている、項目2に記載のディスプレイサブシステム。
(項目4)
前記導波管装置は、前記エンドユーザの眼の正面に位置付けられるために構成されている、項目1に記載のディスプレイサブシステム。
(項目5)
前記導波管装置は、前記エンドユーザの眼と周囲環境との間で視野内に位置付けられるために構成されている部分的に透明なディスプレイ表面を有する、項目1に記載のディスプレイサブシステム。
(項目6)
前記エンドユーザによって装着されるために構成されているフレーム構造をさらに備え、前記フレーム構造は、前記導波管装置を支持している、項目1に記載のディスプレイサブシステム。
(項目7)
前記導波管装置は、
平面光学導波管であって、前記ICEは、前記イメージング要素からコリメートされた光ビームを前記平面光学導波管の中に内部結合された光ビームとして光学的に結合するために構成されている、平面光学導波管と、
前記内部結合された光ビームを複数の直交光ビームに分けるために前記平面光学導波管に関連付けられている直交瞳拡張(OPE)要素と、
前記複数の直交光ビームを前記平面光学導波管から出射する光線に分けるために前記平面光学導波管に関連付けられている射出瞳拡張(EPE)要素と
を備えている、項目1に記載のディスプレイサブシステム。
(項目8)
前記平面光学導波管は、光学的に透明な材料の単一板から形成される単一基板を備えている、項目7に記載のディスプレイサブシステム。
(項目9)
前記少なくとも1つの感知されるパラメータは、前記導波管装置の外部表面と一致する平面に直交する少なくとも1つの平面に投影される出射光線角度を示す、項目1に記載のディスプレイサブシステム。
(項目10)
前記少なくとも1つの平面は、互いに直交する2つの平面を備えている、項目9に記載のディスプレイサブシステム。
(項目11)
前記少なくとも1つの感知されるパラメータは、前記複数の出射光線を代表する少なくとも1つの光線の強度を備えている、項目9に記載のディスプレイサブシステム。
(項目12)
前記少なくとも1つの代表光線は、前記複数の出射光線と異なる、項目11に記載のディスプレイサブシステム。
(項目13)
前記少なくとも1つの代表光線は、前記エンドユーザの視野外の前記複数の出射光線と異なる場所において前記導波管装置から出射する、項目12に記載のディスプレイサブシステム。
(項目14)
前記複数の出射光線は、前記少なくとも1つの代表光線を備えている、項目11に記載のディスプレイサブシステム。
(項目15)
前記感知アセンブリは、少なくとも1つの角度センサを備え、それらの各々は、光強度センサと、前記導波管装置と前記光強度センサとの間に搭載されている角度選択層とを含む、項目11に記載のディスプレイサブシステム。
(項目16)
前記少なくとも1つの角度センサは、一対の直交センサを備え、前記一対の直交センサは、前記少なくとも1つの代表光線の第1および第2の直交強度成分を感知するためにそれぞれ構成されている、項目15に記載のディスプレイサブシステム。
(項目17)
前記対の直交センサは、前記少なくとも1つの代表光線の第1および第2の直交強度成分をそれぞれ通すために構成されている第1および第2の円筒形レンズをそれぞれ備えている、項目16に記載のディスプレイサブシステム。
(項目18)
前記対の直交センサは、前記少なくとも1つの代表光線の第1および第2の直交強度成分をそれぞれ通すために構成されている第1および第2の回折光学要素をそれぞれ備えている、項目16に記載のディスプレイサブシステム。
(項目19)
前記対の直交センサは、前記少なくとも1つの代表光線の各々を直交偏光された光線に偏光させるためにそれぞれ構成されている第1および第2の偏光要素をそれぞれ備えている、項目16に記載のディスプレイサブシステム。
(項目20)
前記角度選択層は、直交した向きにおいて歪まされている、項目16に記載のディスプレイサブシステム。
(項目21)
前記少なくとも1つの感知されるパラメータは、前記第1および第2の直交強度成分が正規化されることができるように、前記少なくとも1つの代表光線の絶対強度を備えている、項目16に記載のディスプレイサブシステム。
(項目22)
前記感知アセンブリは、前記少なくとも1つの代表光線の絶対強度を測定するために構成されている別の光強度センサを備えている、項目21に記載のディスプレイサブシステム。
(項目23)
前記少なくとも1つの感知されるパラメータは、前記複数の出射光線の相対角度を示す、項目16に記載のディスプレイサブシステム。
(項目24)
前記少なくとも1つの感知されるパラメータは、前記コリメートされた光ビームが平面に投影される象限をさらに備えている、項目23に記載のディスプレイサブシステム。
(項目25)
前記感知アセンブリは、基準平面の前記象限の中で間隔を置かれた複数のセンサを備えている、項目24に記載のディスプレイサブシステム。
(項目26)
前記感知アセンブリは、象限位置感知検出器(PSD)を備えている、項目24に記載のディスプレイサブシステム。
(項目27)
仮想画像生成システムであって、前記仮想画像生成システムは、
項目1に記載のディスプレイサブシステムと、
制御サブシステムと
を備え、
前記制御サブシステムは、前記ピクセルの場所を定義する画像データを生成することと、前記ピクセルの定義された場所と前記少なくとも1つの感知されるパラメータとに基づいて、前記ICEに対する前記光ビームの角度を制御することとを行うために構成されている、仮想画像生成システム。
(項目28)
3次元場面を記憶しているメモリをさらに備え、前記制御サブシステムは、前記3次元場面の複数の合成画像フレームをレンダリングするために構成され、前記ディスプレイサブシステムは、前記複数の画像フレームを前記エンドユーザに連続して表示するために構成されている、項目27に記載の仮想画像生成システム。
(項目29)
前記制御サブシステムは、グラフィック処理ユニット(GPU)を備えている、項目27に記載の仮想画像生成システム。
(項目30)
エンドユーザによる使用のための仮想画像生成システムであって、前記仮想画像生成システムは、
コリメートされた光ビームを生成するために構成されている投影サブシステムと、
前記コリメートされた光ビームに応答して、光線を放出し、画像フレームのピクセルを前記エンドユーザに表示するように構成されているディスプレイであって、前記ピクセルは、前記放出される光線の角度でエンコードされた場所を有する、ディスプレイと、
前記放出される光線角度のうちの少なくとも1つを示す少なくとも1つのパラメータを感知するために構成されている感知アセンブリと、
制御サブシステムと
を備え、
前記制御サブシステムは、前記ピクセルの場所を定義する画像データを生成することと、前記ピクセルの定義された場所と前記少なくとも1つの感知されるパラメータとに基づいて、前記ディスプレイに対する前記光ビームの角度を制御することとを行うために構成されている、仮想画像生成システム。
(項目31)
前記投影サブシステムは、
光を生成するために構成されている少なくとも1つの光源と、
前記光を放出するために構成されている光ファイバと、
前記光ファイバからの光をコリメートされた光ビームにコリメートするために構成されているコリメート要素と、
前記光ファイバが搭載されている機械的駆動アセンブリと
を備え、
前記機械的駆動アセンブリは、走査パターンに従って前記光ファイバを変位させるために構成されている、項目30に記載の仮想画像生成システム。
(項目32)
前記機械的駆動アセンブリは、前記光ファイバが搭載されている圧電要素と、駆動電子機器とを備え、前記駆動電子機器は、電気信号を前記圧電要素に伝達し、それによって、走査パターンに従って前記光ファイバに振動させるために構成されている、項目30に記載の仮想画像生成システム。
(項目33)
前記ディスプレイは、前記画像フレームのピクセルを複数の異なる焦点のうちの1つにおいて前記エンドユーザに選択的に表示するために構成されている、項目30に記載の仮想画像生成システム。
(項目34)
前記ディスプレイは、前記エンドユーザの眼の正面に位置付けられるために構成されている、項目30に記載の仮想画像生成システム。
(項目35)
前記ディスプレイは、前記エンドユーザの眼と周囲環境との間で視野内に位置付けられるために構成されている部分的に透明なディスプレイ表面を有する、項目30に記載の仮想画像生成システム。
(項目36)
前記エンドユーザによって装着されるために構成されているフレーム構造をさらに備え、前記フレーム構造は、前記ディスプレイを支持している、項目30に記載の仮想画像生成システム。
(項目37)
3次元場面を記憶しているメモリをさらに備え、前記制御サブシステムは、前記3次元場面の複数の合成画像フレームをレンダリングするために構成され、前記ディスプレイは、前記複数の画像フレームを前記エンドユーザに連続して表示するために構成されている、項目30に記載の仮想画像生成システム。
(項目38)
前記制御サブシステムは、グラフィック処理ユニット(GPU)を備えている、項目30に記載の仮想画像生成システム。
(項目39)
前記導波管装置は、
平面光学導波管であって、前記ICEは、前記イメージング要素からコリメートされた光ビームを前記平面光学導波管の中に内部結合された光ビームとして光学的に結合するために構成されている、平面光学導波管と、
前記内部結合された光ビームを複数の直交光ビームに分けるために前記平面光学導波管に関連付けられている直交瞳拡張(OPE)要素と、
前記複数の直交光ビームを前記平面光学導波管から放出される光線に分けるために前記平面光学導波管に関連付けられている射出瞳拡張(EPE)要素と
を備えている、項目30に記載の仮想画像生成システム。
(項目40)
前記平面光学導波管は、光学的に透明な材料の単一板から形成される単一基板を備えている、項目39に記載の仮想画像生成システム。
(項目41)
前記少なくとも1つの感知されるパラメータは、前記導波管装置の外部表面と一致する平面に直交する少なくとも1つの平面に投影された前記放出される光線角度を示す、項目30に記載の仮想画像生成システム。
(項目42)
前記少なくとも1つの平面は、互いに直交する2つの平面を備えている、項目41に記載の仮想画像生成システム。
(項目43)
前記少なくとも1つの感知されるパラメータは、前記複数の出射光線を代表する少なくとも1つの光線の強度を備えている、項目41に記載の仮想画像生成システム。
(項目44)
前記少なくとも1つの代表光線は、前記放出される光線と異なる、項目43に記載の仮想画像生成システム。
(項目45)
前記少なくとも1つの代表光線は、前記エンドユーザの視野外の前記複数の出射光線と異なる場所において前記導波管装置によって放出される、項目44に記載の仮想画像生成システム。
(項目46)
前記複数の放出される光線は、前記少なくとも1つの代表光線を備えている、項目43に記載の仮想画像生成システム。
(項目47)
前記感知アセンブリは、少なくとも1つの角度センサを備え、それらの各々は、光強度センサと、前記導波管装置と前記光強度センサとの間に搭載されている角度選択層とを含む、項目43に記載の仮想画像生成システム。
(項目48)
前記少なくとも1つの角度センサは、一対の直交センサを備え、前記一対の直交センサは、前記少なくとも1つの代表光線の第1および第2の直交強度成分を感知するためにそれぞれ構成されている、項目47に記載の仮想画像生成システム。
(項目49)
前記対の直交センサは、前記少なくとも1つの代表光線の第1および第2の直交強度成分をそれぞれ通すために構成されている第1および第2の円筒形レンズをそれぞれ備えている、項目48に記載の仮想画像生成システム。
(項目50)
前記対の直交センサは、前記少なくとも1つの代表光線の第1および第2の直交強度成分をそれぞれ通すために構成されている第1および第2の回折光学要素をそれぞれ備えている、項目48に記載の仮想画像生成システム。
(項目51)
前記対の直交センサは、前記少なくとも1つの代表光線の各々を直交偏光された光線に偏光させるためにそれぞれ構成されている第1および第2の偏光要素をそれぞれ備えている、項目48に記載の仮想画像生成システム。
(項目52)
前記角度選択層は、直交した向きにおいて歪まされている、項目48に記載の仮想画像生成システム。
(項目53)
前記少なくとも1つの感知されるパラメータは、前記第1および第2の直交強度成分が正規化されることができるように、前記少なくとも1つの代表光線の絶対強度を備えている、項目48に記載の仮想画像生成システム。
(項目54)
前記感知アセンブリは、前記少なくとも1つの代表光線の絶対強度を測定するために構成されている別の光強度センサをさらに備えている、項目53に記載の仮想画像生成システム。
(項目55)
前記少なくとも1つの感知されるパラメータは、前記放出される光線の相対角度を示す、項目48に記載の仮想画像生成システム。
(項目56)
前記少なくとも1つの感知されるパラメータは、前記コリメートされた光ビームが平面に投影される象限をさらに備えている、項目55に記載の仮想画像生成システム。
(項目57)
前記感知アセンブリは、基準平面の前記象限の中で間隔を置かれた複数のセンサを備えている、項目56に記載の仮想画像生成システム。
(項目58)
前記感知アセンブリは、象限位置感知検出器(PSD)を備えている、項目56に記載の仮想画像生成システム。
図面は、本発明の好ましい実施形態の設計および有用性を図示し、類似要素は、共通参照番号によって参照される。本発明の前述および他の利点ならびに目的が得られる方法をより深く理解するために、簡単に前述された本発明のより詳細な説明が、付随の図面に図示されるその具体的実施形態を参照することによって与えられるであろう。これらの図面は、本発明の典型的実施形態のみを描写し、したがって、その範囲の限定と見なされるべきではないことを理解した上で、本発明は、付随の図面の使用を通して追加の具体性および詳細とともに説明ならびに記載されるであろう。
図1は、従来技術の拡張現実生成デバイスによってエンドユーザに表示され得る3次元拡張現実場面の写真である。 図2は、拡張現実生成デバイス内で使用され得る従来技術のディスプレイサブシステムの一実施形態の平面図である。 図3は、本発明の一実施形態に従って構築される仮想画像生成システムのブロック図である。 図4aは、図4の仮想画像生成システムを装着するために使用され得る1つの技法の平面図である。 図4bは、図3の仮想画像生成システムを装着するために使用され得る別の技法の平面図である。 図4cは、図3の仮想画像生成システムを装着するために使用され得るさらに別の技法の平面図である。 図4dは、図3の仮想画像生成システムを装着するために使用され得るさらに別の技法の平面図である。 図5は、図3の仮想画像生成システムにおいて使用するためのディスプレイサブシステムの一実施形態の平面図である。 図は、図5のディスプレイサブシステムにおいて使用するための一次平面導波管の一実施形態である。 図7は、図3の仮想画像生成システムによって生成された例示的フレームの平面図である。 図8は、図7の例示的フレームを生成するために使用され得る1つの走査パターンの平面図である。 図9は、別の例示的フレームを生成するために使用され得る別の走査パターンの平面図である。 図10は、さらに別の例示的フレームを生成するために使用され得るさらに別の走査パターンの平面図である。 図11は、さらに別の例示的フレームを生成するために使用され得るさらに別の走査パターンの平面図である。 図12は、図5のディスプレイサブシステムにおいて使用するための導波管装置の一実施形態の平面図であり、特に、光線角度感知アセンブリの1つの配列を示す。 図13は、線13−13に沿って得られた図12の導波管装置の断面図である。 図14は、線14−14に沿って得られた図12の導波管装置の断面図である。 図15は、図5のディスプレイサブシステムにおいて使用するための導波管装置の別の実施形態の平面図である。 図16は、図5のディスプレイサブシステムにおいて使用するための導波管装置のさらに別の実施形態の平面図である。 図17aは、図12の導波管装置の斜視図であり、特に、無限視認距離に集中させられる出射光線を示す。 図17bは、図12の導波管装置の斜視図であり、特に、第1の非無限視認距離に集中させられる出射光線を示す。 図17cは、図12の導波管装置の斜視図であり、特に、第2の非無限視認距離に集中させられる出射光線を示す。 図18aは、ディスプレイ画面の斜視図であり、コリメートされた光ビームの1つのビーム角度とエンドユーザの視野(FOV)内のピクセルとの間の対応を示す。 図18bは、ディスプレイ画面の斜視図であり、コリメートされた光ビームの別のビーム角度とエンドユーザの視野(FOV)内のピクセルとの間の対応を示す。 図19は、x−z平面およびy−z平面上に投影された、図18aのディスプレイ画面から出射する光線の角度の投影の斜視図である 図20aは、図12の感知アセンブリの直交センサの一実施形態の平面図である。 図20bは、図12の感知アセンブリの直交センサの別の実施形態の平面図である。 図20cは、図12の感知アセンブリの直交センサのさらに別の実施形態の平面図である。 図21aは、例示的誘電層伝送−角度関係の略図である。 図21bは、光検出器強度−電圧関係の略図である。 図22aは、x−y平面に対して平面光学導波管装置から出射する光線を図示する略図の斜視図である。 図22bは、x−y平面上に投影された図23aの光線を図示する略図の平面図である。 図23aは、図12の感知アセンブリの4つの象限センサの一実施形態の平面図である。 図23bは、図12の感知アセンブリの位置感知検出器(PSD)の一実施形態の平面図である。 図24は、図5のディスプレイサブシステムにおいて使用するための導波管装置の一実施形態の投影図であり、特に、光線角度感知アセンブリの別の配列を示す。
続く説明は、仮想現実および/または拡張現実システムにおいて使用されるべきディスプレイサブシステムおよび方法に関する。しかしながら、本発明は、仮想または拡張現実システムにおける用途に有用であるが、本発明は、その最も広範な側面では、そのように限定されないこともあることを理解されたい。
図3を参照して、本発明に従って構築された仮想画像生成システム100の一実施形態が、ここで説明されるであろう。仮想画像生成システム100は、拡張現実サブシステムとして動作させられ、エンドユーザ50の視野内の物理的オブジェクトと混合された仮想オブジェクトの画像を提供し得る。仮想画像生成システム100を動作させるときの2つの基本アプローチが存在する。第1のアプローチは、1つ以上の撮像機(例えば、カメラ)を採用し、周囲環境の画像を捕捉する。仮想画像生成システム100は、仮想画像を周囲環境の画像を表すデータの中に混合させる。第2のアプローチは、1つ以上の少なくとも部分的に透明な表面を採用し、それを通して周囲環境が見られ、その上に仮想画像生成システム100が、仮想オブジェクトの画像を生成する。
仮想画像生成システム100および本明細書に教示される種々の技法は、拡張現実および仮想現実サブシステム以外の用途でも採用され得る。例えば、種々の技法は、任意の投影もしくはディスプレイサブシステムに適用され得るか、または移動が、頭部ではなく、エンドユーザの手によって行われ得るピコプロジェクタに適用され得る。したがって、多くの場合、拡張現実サブシステムまたは仮想現実サブシステムの観点から本明細書に説明されるが、本教示は、そのような使用のそのようなサブシステムに限定されるべきではない。
少なくとも拡張現実用途のために、種々の仮想オブジェクトをエンドユーザ50の視野内のそれぞれの物理的オブジェクトに対して空間的に位置付けることが望ましくあり得る。仮想オブジェクトは、本明細書では、仮想タグまたはコールアウトとも称され、多種多様な形態、基本的に、画像として表されることが可能な任意の種々のデータ、情報、概念、または論理構造のいずれかをとり得る。仮想オブジェクトの非限定的例として、仮想テキストオブジェクト、仮想数字オブジェクト、仮想英数字オブジェクト、仮想タグオブジェクト、仮想フィールドオブジェクト、仮想チャートオブジェクト、仮想マップオブジェクト、仮想器具類オブジェクト、または物理的オブジェクトの仮想視覚表現が挙げられ得る。
仮想画像生成システム100は、エンドユーザ50によって装着されるフレーム構造102と、それがエンドユーザ50の眼52の正面に位置付けられるように、フレーム構造102によって支持されるディスプレイサブシステム104と、それがエンドユーザ50の外耳道に隣接して位置付けられる(随意に、別のスピーカ(図示せず)がエンドユーザ50の他方の外耳道に隣接して位置付けられ、ステレオ/成形可能音制御を提供する)ように、フレーム構造102によって支持されるスピーカ106とを備えている。ディスプレイサブシステム104は、エンドユーザ50の眼52に光ベースの放射パターンを提示するように設計され、光ベースの放射パターンは、高レベルの画質および3次元知覚を伴って、物理的現実に対する拡張として快適に知覚され、かつ2次元コンテンツを提示可能であり得る。ディスプレイサブシステム104は、一連のフレームを高周波数で提示し、単一コヒーレント場面の知覚を提供する。
図示される実施形態では、ディスプレイサブシステム104は、それを通してユーザが光を実オブジェクトから透明(または半透明)要素を介して直接光を視認することができる「光学シースルー」ディスプレイを採用する。透明要素は、多くの場合、「結合器」と称され、ディスプレイからの光を実世界のユーザの視野の上に重ねる。この目的を達成するために、ディスプレイサブシステム104は、投影サブシステム108と、その上に投影サブシステム108が画像を投影する部分的に透明なディスプレイ画面110とを備えている。ディスプレイ画面110は、エンドユーザ50の眼52と周囲環境との間でエンドユーザ50の視野に位置付けられ、周囲環境からの直接光がディスプレイ画面110を通してエンドユーザ50の眼52へ伝送されるようなものである。
図示される実施形態では、投影アセンブリ108は、走査される光を部分的に透明なディスプレイ画面110に提供し、それによって、走査される光が、周囲環境からの直接光と組み合わさり、ディスプレイ画面110からユーザ50の眼52に伝送される。図示される実施形態では、投影サブシステム108は、光ファイバ走査ベースの投影デバイスの形態をとり、ディスプレイ画面110は、導波管ベースのディスプレイの形態をとり、投影サブシステム108からの走査された光が、その中に投入され、例えば、無限遠より近い単一光学視認距離(例えば、腕の長さ)における画像、複数の個別的な光学視認距離もしくは焦点面における画像、および/または、立体3Dオブジェクトを表すための複数の視認距離もしくは焦点面にスタックされる画像層を生成する。明視野内のこれらの層は、ヒト視覚副系に連続して現れるように十分に一緒に近接してスタックされ得る(すなわち、一方の層は、隣接する層の乱信号円錐域内にある)。加えて、または代替として、写真要素が、2つ以上の層を横断して混成され、それらの層がより疎らにスタックされる場合でも、明視野内の層間の遷移の知覚される連続性を増加させ得る(すなわち、一方の層は隣接する層の乱信号円錐域外にある)。ディスプレイサブシステム104は、単眼または双眼用であり得る。
仮想画像生成システム100は、エンドユーザ50の頭部54の位置および移動ならびに/またはエンドユーザ50の眼の位置および眼間距離を検出するために、フレーム構造102に搭載される1つ以上のセンサ(図示せず)をさらに備えている。そのようなセンサは、画像捕捉デバイス(カメラ等)、マイクロホン、慣性測定ユニット、加速度計、コンパス、GPSユニット、無線デバイス、および/またはジャイロスコープ)を含み得る。
仮想画像生成システム100は、ユーザの向き検出モジュール112をさらに備えている。ユーザの向き検出モジュール112は、エンドユーザ50の頭部54の瞬時位置を検出し、センサから受信された位置データに基づいて、エンドユーザ50の頭部54の位置を予測し得る。エンドユーザ50の頭部54の瞬時位置の検出は、エンドユーザ50が見ている特定の実際のオブジェクトの決定を促進し、それによって、その実際のオブジェクトのために生成されるべき特定のテキストメッセージの指示を提供し、さらに、テキストメッセージがストリーミングされるべきテキスト領域の指示を提供する。ユーザの向きモジュール112は、センサから受信された追跡データに基づいて、エンドユーザ50の眼52を追跡することも行う。
仮想画像生成システム100は、多種多様な形態のいずれかをとり得る制御サブシステムをさらに備えている。制御サブシステムは、いくつかのコントローラ、例えば、1つ以上のマイクロコントローラ、マイクロプロセッサまたは中央処理ユニット(CPU)、デジタル信号プロセッサ、グラフィック処理ユニット(GPU)、他の集積回路コントローラ、例えば、特定用途向け集積回路(ASIC)、プログラマブルゲートアレイ(PGA)、例えば、フィールドPGA(FPGAS)、および/またはプログラマブル論理コントローラ(PLU)を含む。
仮想画像生成システム100の制御サブシステムは、中央処理ユニット(CPU)114と、グラフィック処理ユニット(GPU)116と、1つ以上のフレームバッファ118と、3次元データを記憶するための3次元データベース120とを備えている。CPU114は、全体的動作を制御する一方、GPU116は、3次元データベース120内に記憶される3次元データからフレームをレンダリングし(すなわち、3次元場面を2次元画像に変換し)、これらのフレームをフレームバッファ116内に記憶する。図示されないが、1つ以上の追加の集積回路が、フレームのフレームバッファ116の中への読み込みおよび/またはそこからの読み取りならびにディスプレイサブシステム104の投影アセンブリ108の動作を制御し得る。
本発明により重要なこととして、仮想画像生成システム100は、エンドユーザ50の眼52に向かってディスプレイ画面100から出射する1つ以上の光線の角度を直接または間接的に感知する光線角度感知アセンブリ122をさらに備えている。以下にさらに詳細に説明されるであろうように、エンドユーザの視野50内の画像フレームの各ピクセルの所望の場所は、ディスプレイ画面110から出射する光線の角度に非常に相関し、したがって、出射光線の感知された角度は、出射光線の実際の角度が、ディスプレイサブシステム104によって生成された画像データ内でエンコードされた出射光線の設計された角度とほぼ同じであることを確実にするために、ディスプレイサブシステム104を較正するために使用され得る。
仮想画像生成システム100の種々の処理コンポーネントは、分散型サブシステム内に物理的に含まれ得る。例えば、図4a−4dに図示されるように、仮想画像生成システム100は、有線導線または無線接続性136等によって、ディスプレイサブシステム104およびセンサに動作可能に結合される、ローカル処理およびデータモジュール130を備えている。ローカル処理およびデータモジュール130は、フレーム構造102に固定して取り付けられる構成(図4a)、ヘルメットもしくは帽子56に固定して取り付けられる構成(図4b)、ヘッドホン内に埋設される構成、エンドユーザ50の胴体58に除去可能に取り付けられる構成(図4c)、またはベルト結合式構成においてエンドユーザ50の腰60に除去可能に取り付けられる構成(図4d)等、種々の構成で搭載され得る。仮想画像生成システム100は、有線導線または無線接続性138、140等によって、ローカル処理およびデータモジュール130に動作可能に結合される遠隔処理モジュール132および遠隔データリポジトリ134をさらに備え、これらの遠隔モジュール132、134は、互いに動作可能に結合され、ローカル処理およびデータモジュール130に対してリソースとして利用可能である。
ローカル処理およびデータモジュール130は、電力効率的プロセッサまたはコントローラと、フラッシュメモリ等のデジタルメモリとを備え得、それらの両方は、データの処理、キャッシュ、および記憶を補助するために利用され得、データは、センサから捕捉され、および/または、遠隔処理モジュール132および/または遠隔データリポジトリ134を使用して取得ならびに/もしくは処理され、それらは、おそらく、そのような処理もしくは読み出し後、ディスプレイサブシステム104への通過のためである。遠隔処理モジュール132は、データおよび/または画像情報を分析ならびに処理するように構成される、1つ以上の比較的に強力なプロセッサもしくはコントローラを備え得る。遠隔データリポジトリ134は、比較的に大規模なデジタルデータ記憶設備を備え得、それは、インターネットまたは「クラウド」リソース構成における他のネットワーキング構成を通して利用可能であり得る。一実施形態では、ローカル処理およびデータモジュール130において、全データが記憶され、全計算が行われ、任意の遠隔モジュールからの完全に自律的使用を可能にする。
前述の種々のコンポーネント間の結合136、138、140は、有線もしくは光学通信を提供するための1つ以上の有線インターフェースもしくはポート、または無線通信を提供するためのRF、マイクロ波、およびIR等を介した1つ以上の無線インターフェースもしくはポートを含み得る。いくつかの実装では、全ての通信は、有線であり得る一方、他の実装では、全ての通信は、無線であり得る。なおもさらなる実装では、有線および無線通信の選択肢は、図4a−4dに図示されるものと異なり得る。したがって、有線または無線通信の特定の選択肢は、限定と見なされるべきではない。
図示される実施形態では、ユーザの向きモジュール112は、ローカル処理およびデータモジュール130内に含まれる一方、CPU112およびGPU116は、遠隔処理モジュール132内に含まれるが、代替実施形態では、CPU114、GPU114、またはその一部は、ローカル処理およびデータモジュール130内に含まれ得る。3Dデータベース120は、遠隔データリポジトリ134に関連付けられることができる。
ここで図5を参照すると、投影アセンブリ108は、光を生成する(例えば、異なる色の光を定義されたパターンで放出する)1つ以上の光源150を含む。光源150は、多種多様な形態のいずれかをとり、例えば、ピクセル情報またはデータのそれぞれのフレーム内で規定された定義されたピクセルパターンに従って、赤色、緑色、および青色のコヒーレントなコリメートされた光をそれぞれ生成するように動作可能なRGBレーザの組(例えば、赤色、緑色、および青色光を出力可能なレーザダイオード)であり得る。レーザ光は、高色飽和を提供し、非常にエネルギー効率的である。
投影アセンブリ108は、制御信号に応答して、所定の走査パターンで光を走査する、走査デバイス152をさらに備えている。走査デバイス152は、1つ以上の光ファイバ154(例えば、単一モード光ファイバ)を備え、それらの各々は、その中に光が光源150から受け取られる近位端154aと、そこから光がディスプレイ画面110に提供される遠位端154bとを有する。走査デバイス152は、光ファイバ154が搭載される機械的駆動アセンブリ156をさらに備えている。駆動アセンブリ156は、走査パターンに従って支点158の周りに各光ファイバ154の遠位端154bを変位させるために構成される。
この目的を達成するために、駆動アセンブリ156は、光ファイバ154が搭載される圧電要素160を備え、駆動電子機器162は、電気信号を圧電要素160に伝達し、それによって、光ファイバ154の遠位端154bを走査パターンに従って振動させるために構成される。したがって、光源150および駆動電子機器162の動作は、空間的および/または時間的に変動する光の形態でエンコードされる画像データを生成する様式で調整される。光ファイバ走査技法の説明は、米国特許第2015/0309264号(参照することによって明示的に本明細書に組み込まれる)に提供される。
投影アセンブリ108は、走査デバイス152からの光をディスプレイ画面110の中に結合する光学結合アセンブリ164をさらに備えている。光学結合アセンブリ164は、走査デバイス152によって放出される光をコリメートされた光ビーム200にコリメートするコリメート要素166を備えている。コリメート要素166は、光ファイバ154から物理的に分離されるように図5に図示されるが、コリメート要素は、「Microlens Collimator for Scanning Optical Fiber in Virtual/Augmented Reality System」と題された米国特許出願第15/286,215号(参照することによって明示的に本明細書に組み込まれる)に説明されるように、「マイクロレンズ」配列において、各光ファイバ154の遠位端154bに物理的に搭載され得る。光学結合サブシステム164は、内部結合要素(ICE)168、例えば、1つ以上の反射表面、回折格子、ミラー、ダイクロイックミラー、またはプリズムをさらに備え、光をディスプレイ画面110の端部の中に光学的に結合する。
ディスプレイ画面110は、平面光学導波管172と、平面光学導波管172に関連付けられる1つ以上の回折光学要素(DOE)174とを含む導波管装置170の形態をとる。代替実施形態では、導波管装置170は、複数の平面光学導波管172と、平面光学導波管172にそれぞれ関連付けられるDOE174とを備え得る。図6に最良に図示されるように、平面光学導波管172は、第1の端部176aと、第2の端部176bとを有し、第2の端部176bは、平面光学導波管172の長さ178に沿って第1の端部176aに対向する。平面光学導波管172は、第1の面180aと、第2の面180bとを有し、少なくとも第1および第2の面180a、180b(集合的に、180)は、平面光学導波管172の長さ178の少なくとも一部に沿って、少なくとも部分的に、内部反射光学経路(実線矢印182aおよび破線矢印182bによって図示され、集合的に、182)を形成する。平面光学導波管172は、定義された臨界角未満において面180に衝打する光に対して実質的全内部反射(TIR)を提供する種々の形態をとり得る。
DOE174(二重鎖線によって図5および6に図示される)は、TIR光学経路182を中断し、平面光学導波管172の内部186と外部188との間の複数の光学経路(実線矢印184aおよび破線矢印184bによって図示され、集合的に、184)を提供する多種多様な形態をとり得、平面光学導波管172の長さ176の少なくとも一部に沿って延びている。図示される実施形態では、DOE174は、1つ以上の回折格子を備え、それらの各々は、光を異なる方向に進行するいくつかのビームに分け、回折するほぼ光波長の周期的構造を伴う光学コンポーネントとして特徴付けられることができる。回折格子は、例えば、基板上にフォトリソグラフ印刷され得る表面ナノ隆起、ナノパターン、細隙等から成ることができる。DOE174は、見掛けオブジェクトの位置付けおよび見掛けオブジェクトの焦点面を可能にし得る。これは、フレーム毎、サブフレーム毎、またはさらにピクセル毎に達成され得る。
図6に図示されるように、光は、TIR伝搬から生じる少なくともいくつかの反射または「バウンス」を伴って、平面光学導波管172に沿って伝搬する。いくつかの実装は、反射を促進し得る1つ以上の反射体(例えば、薄膜、誘電コーティング、金属コーティング等)を内部光学経路内に採用し得ることに留意されたい。光は、平面光学導波管172の長さ178に沿って伝搬し、長さ178に沿って種々の位置においてDOE174と交差する。DOE174は、平面光学導波管172内に組み込まれるか、または平面光学導波管172の面180のうちの1つ以上のものに当接もしくは隣接し得る。DOE174は、少なくとも2つの機能を遂行する。DOE174は、光の角度をシフトさせ、光の一部にTIRから脱出させ、内部216から平面光学導波管172の面180の外部に出現させる。DOE174は、外部結合される光を視認距離に集中させる。したがって、平面光学導波管172の面180を通して見ると、1つ以上の視認距離においてデジタル画像が見える。
2つの異なる角度のうちの1つにおいて導波管172に入射するコリメートされた光ビーム200は、2つのTIR光学経路182a、182bのうちの1つを辿り、外部光学経路の2つの組のうちの1つに沿って、平面光学導波管172から出射する光線202をもたらすであろう。すなわち、TIR光学経路182aによって表される角度において導波管172に入射するコリメートされた光ビーム200aは、外部光学経路の組に沿って平面光学導波管172から出射する光線202aをもたらし、TIR光学経路182bによって表される角度において導波管172に入射するコリメートされた光ビーム200bは、外部光学経路の組に沿って平面光学導波管172から出射する光線202bをもたらすであろう。図5に示されるように、光線角度感知アセンブリ122は、導波管装置170から出射する光線202の角度を直接または間接的に感知するために、ICE168とDOE174との間に位置するが、感知アセンブリ122は、コリメートされた光ビーム200の光学経路に沿った任意の場所に位置し得る。感知アセンブリ122について議論するさらなる詳細は、以下にさらに詳細に説明されるであろう。
前述から、ディスプレイサブシステム104が、1つ以上の仮想オブジェクトの画像をユーザに提示するピクセル情報の一連の合成画像フレームを生成することが理解され得る。例えば、図7を参照すると、合成画像フレーム250は、水平行または線254a−254nに分割されるセル252a−252mを用いて図式的に図示される。フレーム250の各セル252は、セル252が応答するそれぞれのピクセルのための複数の色および/または強度の各々のために、値を規定し得る。例えば、フレーム250は、各ピクセルのために、赤色256aのための1つ以上の値と、緑色256bのための1つ以上の値と、青色256cのための1つ以上の値とを規定し得る。値256は、色の各々のためのバイナリ表現、例えば、各色のためのそれぞれの4ビット数として規定され得る。フレーム250の各セル252は、加えて、振幅を規定する、値256dを含み得る。
フレーム250は、1つ以上のフィールド、集合的に、258を含み得る。フレーム250は、単一フィールドから成り得る。代替として、フレーム250は、2つまたはさらにより多くのフィールド258a−258bを備え得る。フレーム250の完全な第1のフィールド258aのためのピクセル情報は、完全な第2のフィールド258bのためのピクセル情報の前に規定され、例えば、アレイ、順序付けられたリスト、または他のデータ構造(例えば、記録、リンクされたリスト)において第2のフィールド258bのためのピクセル情報の前に生じ得る。提示サブシステムが3つ以上のフィールド258a−258bを取り扱うように構成されると仮定すると、第3またはさらに第4のフィールドが、第2のフィールド258bに続き得る。
ここで図8を参照すると、フレーム250は、ラスタ走査パターン260を使用して生成される。ラスタ走査パターン260では、ピクセル268(1つのみ取り上げられる)は、連続して提示される。ラスタ走査パターン260は、典型的には、左から右に(矢印262a、262bによって示される)、次いで、上から下に(矢印264によって示される)ピクセル268を提示する。したがって、提示は、右上角から開始し、線の終了に到達するまで、第1の線266aを横断して左にトラバースし得る。ラスタ走査パターン260は、典型的には、次いで、下の次の線における左から開始する。提示は、1つの線の終了から次の線の開始まで戻るとき、一時的に、ブラックアウトまたはブランクにされ得る。このプロセスは、最下線266nが、例えば、最右下ピクセル268において完了するまで、線毎に繰り返される。フレーム250が完成すると、新しいフレームが、開始され、再び、次のフレームの最上線の右に戻る。再び、提示は、次のフレームを提示するために左下から右上に戻る間、ブランクにされ得る。
ラスタ走査の多くの実装は、インタレース走査パターンと称されるものを採用する。インタレースラスタ走査パターンでは、第1および第2のフィールド258a、258bからの線は、インタレースされる。例えば、第1のフィールド258aの線を提示するとき、第1のフィールド258aのためのピクセル情報が、奇数線のみのために使用され得る一方、第2のフィールド258bのためのピクセル情報は、偶数線のみのために使用され得る。したがって、フレーム250(図7)の第1のフィールド258aの線は全て、典型的には、第2のフィールド258bの線の前に提示される。第1のフィールド258aは、第1のフィールド258aのピクセル情報を使用して提示され、線1、線3、線5等を連続して提示し得る。次いで、フレーム250(図7)の第2のフィールド258bは、第2のフィールド258bのピクセル情報を使用することによって、第1のフィールド258aに続いて提示され、線2、線4、線6等を連続して提示し得る。
図9を参照すると、スパイラル走査パターン270が、ラスタ走査パターン260の代わりに使用され、フレーム250を生成し得る。スパイラル走査パターン270は、コイルまたはループと命名され得る1つ以上の完全な角度サイクル(例えば、360度)を含み得る単一スパイラル走査線272から成り得る。図8に図示されるラスタ走査パターン260と同様に、スパイラル走査パターン270内のピクセル情報は、角度インクリメントとして、各連続ピクセルの色および/または強度を規定するために使用される。振幅または半径方向値274は、スパイラル走査線272の開始点276からの半径方向寸法を規定する。
図10を参照すると、リサジュー走査パターン280が、代替として使用され、フレーム250を生成し得る。リサジュー走査パターン280は、コイルまたはループと命名され得る、1つ以上の完全な角度サイクル(例えば、360度)を含み得る単一リサジュー走査線282から成り得る。代替として、リサジュー走査パターン280は、2つ以上のリサジュー走査線282を含み得、各位相は、互いに対してシフトされ、リサジュー走査線282をネスト化する。ピクセル情報は、角度インクリメントとして、各連続ピクセルの色および/または強度を規定するために使用される。振幅または半径方向値は、リサジュー走査線282の開始点286からの半径方向寸法284を規定する。
図11を参照すると、マルチフィールドスパイラル走査パターン290が、代替として使用され、フレーム250を生成し得る。マルチフィールドスパイラル走査パターン290は、2つ以上の異なるスパイラル走査線、集合的に、160、具体的には、4つのスパイラル走査線292a−160dを含む。各スパイラル走査線292のためのピクセル情報は、フレームのそれぞれのフィールドによって規定され得る。有利には、複数のスパイラル走査線292は、単に、スパイラル走査線292の各連続するもの間の位相をシフトさせることによってネスト化され得る。スパイラル走査線292間の位相差は、採用されるであろうスパイラル走査線292の総数の関数となるべきである。例えば、4つのスパイラル走査線292a−292dは、90−度位相シフトによって分離され得る。例示的実施形態は、10の異なるスパイラル走査線(すなわち、サブスパイラル)を伴って、100Hzリフレッシュレートで動作し得る。図9の実施形態と同様に、1つ以上の振幅または半径方向値は、スパイラル走査線292の開始点296からの半径方向寸法294を規定する。
ディスプレイサブシステムを説明するさらなる詳細は、「Display Subsystem and Method」と題された米国特許出願第14/212,961号と、「Planar Optical Waveguide Apparatus With Diffraction Elements(s) and Subsystem Employing Same」と題された米国特許出願第14/696,347号(参照することによって明示的に本明細書に組み込まれる)とに提供される。
ここで図12−14を参照すると、ディスプレイ画面110および関連付けられた光線角度感知アセンブリ122の1つの具体的実施形態が、説明されるであろう。導波管装置170の平面光学導波管172は、光学的に透明な平面基板の形態をとる。図12に示されるように、基板172は、例えば、ガラス、溶融シリカ、アクリル、またはポリカーボネート等の光学的に透明な材料の単一の一体型基板または平面であるが、代替実施形態では、基板172は、同一平面または異なる平面において一緒に接合される、光学的に透明な材料の別個の異なる板から成り得る。ICE168は、投影アセンブリ108からコリメートされた光ビーム200を面180bを介して基板172の中に受け取るために、基板172の面180b内に埋設されるが、代替実施形態では、ICE168は、コリメートされた光ビーム200を基板172の中に内部結合される光ビームとして結合するために、基板172の他の面180aまたはさらに縁に埋設され得る。
DOE174は、基板172の中に光学的に結合されるコリメートされた光ビーム200の有効射出瞳を2次元拡張させるために、基板172に関連付けられる(例えば、基板172内に組み込まれる、または基板172の面180a、180bのうちの1つ以上のものに当接もしくは隣接する)。この目的を達成するために、DOE174は、内部結合された光ビーム200を直交光ビーム201に分けるために基板172の面180bに隣接する1つ以上の直交瞳拡張(OPE)要素174a(1つのみが図12に示される)と、各直交光ビーム201をエンドユーザ50の眼52に向かって基板172の面180bから出射する外部結合される光線202に分けるために基板172に関連付けられる射出瞳拡張(EPE)要素174bとを備えている。基板172が異なる板から成る代替実施形態では、OPE要素174およびEPE要素174bは、基板172の異なる板の中に組み込まれ得る。
OPE要素174aは、光を第1の軸(図5における水平またはx−軸)に沿って中継し、第2の軸(図5における垂直またはy−軸)に沿って光の有効射出瞳を拡張させる。特に、ICE168は、TIRを介した内部反射光学経路204aに沿った(この場合、垂直またはy−軸に沿った)基板172内の伝搬のために、コリメートされた光ビーム200を光学的に内部結合し、そうすることによって、OPE要素174aと繰り返し交差する。図示される実施形態では、OPE要素174aは、比較的に低回折効率(例えば、50%未満)を有し、一連の対角線回折要素(x−軸に対して45度)を備え、それによって、OPE要素174aとの各交差点において、内部結合された光ビーム200の一部(例えば、90%を上回る)が、TIRを介して内部反射光学経路204aに沿って基板172内を伝搬し続け、内部結合された光ビーム200の残りの部分(例えば、10%未満)が、TIRを介して内部反射光学経路204bに沿って(この場合、水平またはx−軸に沿って)EPE要素174bに向かって基板172内を伝搬する直交光ビーム201として回折される。光学経路204bは、光学経路204aに垂直または直交するように説明されるが、光学経路204bは、代替として、光学経路204aに対して斜めに向けられ得ることを理解されたい。したがって、内部結合された光ビーム200を平行内部反射光学経路204bに沿って伝搬する複数の直交ビーム201に分割することによって、導波管装置170の中に内部結合されたコリメートされた光ビーム200の射出瞳は、OPE要素174aによってy−軸に沿って垂直に拡張される。
EPE要素174bは、順に、第1の軸(図12における水平x−軸)に沿って光の有効射出瞳をさらに拡張させる。特に、EPE要素174bは、OPE要素174aのように、図13および14に図示されるように、EPE要素174bとの各交差点において、各直交光ビーム201の一部(例えば、90%を上回る)が、それぞれの内部反射光学経路204bに沿って伝搬し続け、各直交光ビーム201の残りの部分が、基板172の面180bから出射する(z−軸に沿って)外部結合される光線202として回折されるように、比較的に低回折効率(例えば、50%未満)を有する。すなわち、光ビームがEPE要素174bに衝突する度に、その一部は、基板172の面180bに向かって回折されるであろう一方、残りの部分は、それぞれの内部反射光学経路204bに沿って伝搬し続けるであろう。
したがって、各直交光ビーム201を複数の外部結合される光線202に分割することによって、内部結合された光ビーム200の射出瞳は、EPE要素174bによってx−軸に沿って水平にさらに拡張され、オリジナルの内部結合された光ビーム200のより大きいバージョンに類似する外部結合される光線202の2次元アレイをもたらす。OPE要素174aおよびEPE要素174bは、x−y平面において重複しないように図12に図示されるが、OPE要素174aおよびEPE要素174bは、図15に図示されるように、x−y平面において互いに完全に重複し得るか、または図16に図示されるように、x−y平面において互いに部分的に重複し得ることに留意されたい。これらの場合、OPE要素174aおよびEPE要素174bは、それぞれ、基板172の反対面180a、180b上に配置される必要があるであろう。
基板172の面180bからの光ビームレットを外部結合する機能に加え、EPE要素174bは、画像の一部または仮想オブジェクトが焦点面に一致する視認距離においてエンドユーザ50によって見られるように、光ビームレットの出力組を所与の焦点面に沿って集中させる役割を果たす。例えば、EPE要素174bが、線形回折パターンのみを有する場合、エンドユーザ50の眼52に向かって基板172の面180bから出射する外部結合される光線202は、図17aに示されるように、略平行であり、これは、光学無限遠における視認距離(焦点面)からの光として、エンドユーザ50の脳によって解釈されるであろう。しかしながら、EPE要素174bが、線形回折パターン成分と放射対称の回折パターン成分との両方を有する場合、基板172の面180bから出射する外部結合される光線202は、エンドユーザ50の眼52の視点からより発散してレンダリングされ(すなわち、凸面曲率が、光波面上に加えられ)、眼52がより近い距離に遠近調節し、結果として生じる画像を網膜上の焦点の中にもたらすことを要求し、図17bに示されるように、光学無限遠より眼52に近い視認距離(例えば、4つのメートル)からの光としてエンドユーザ50の脳によって解釈されるであろう。基板172の面180bから出射する外部結合される光線202は、エンドユーザ50の眼52の視点からさらに発散されてレンダリングされ(すなわち、より凸面曲率が、光波面上に加えられるであろう)、眼52がさらに近い距離に遠近調節し、結果として生じる画像を網膜上の焦点の中にもたらすことを要求し得、図17cに示されるように、眼52により近い視認距離(例えば、0.5メートル)からの光としてエンドユーザ50の脳によって解釈されるであろう。
導波管装置170は、1つのみの焦点面を有するように本明細書に説明されるが、関連付けられたOPE178およびEPE180を伴う複数の平面光学導波管172が、米国特許公開第2015/0309264号および第2015/0346490号(参照することによって明示的に本明細書に組み込まれる)に議論されるように、同時に、または並行して、複数の焦点面に画像を生成するために使用されることができることを理解されたい。
簡潔に前述されたように、ディスプレイサブシステム104は、導波管装置170から出射する光線202のうちの少なくとも1つの角度を示す少なくとも1つのパラメータを感知するために構成される感知アセンブリ122を備えている。図示される実施形態では、感知アセンブリ122は、1つ以上の基準平面に対する光線202の角度を示すパラメータを感知する。例えば、これらの基準平面は、以下にさらに詳細に説明されるように、x−z平面、y−z平面、およびx−y平面を備え得る。着目すべきこととして、これらの基準平面は、平坦であり得るが、導波管装置の外部表面170は、代替として、ユーザ50の頭部54に一致するように湾曲させられ得るので、これらの基準平面も、湾曲させられ得る。
上でも簡潔に議論されたように、出射光線の角度は、画像フレーム内のピクセルの位置と非常に相関する。例えば、図18aおよび18bに図示されるように、投影サブシステム108からのコリメートされた光ビーム200は、ICE168を介して、導波管装置170に入射し、平面光学導波管172内を伝搬する。伝搬する光ビーム200の射出瞳は、例えば、図12−14の平面光学導波管172の面180bから出射する光線202に関して上で説明されるように、DOE174によってx−軸およびy−軸に沿って拡張される。導波管装置170の中に入力されるコリメートされた光ビーム200に対応する、1つのみの光線202が、簡潔目的のために示されるが、典型的には、単一のコリメートされた光ビーム200に対応して導波管装置170から出射する多くの光線202が存在し、出射光線202の全てのあらゆる角度がコリメートされた光ビーム200の走査角度に関連するであろうことを理解されたい。
コリメートされた光ビーム200は、投影サブシステム108によって走査され、光210aの入力円錐を生成し、この円錐内の各ビーム角度は、ユーザの視野(FOV)214内のピクセル212に対応する。図18aに示されるように、コリメートされた光ビーム200が、1つの特定のビーム角度を有する場合、対応するピクセル212aがFOV214の左下領域内で生成される一方、コリメートされた光ビーム200が別の特定のビーム角度を有する場合、対応するピクセル212bがFOV214の右上領域内に生成される。導波管装置170は、入力光円錐210aを平面光学導波管172の放出面180bおよび光210bの出力円錐に伝送することによって、x−y画像平面をユーザに提示する。
CPU114(図3に示される)は、ピクセルの定義された場所に対応する出射光線202の設計された角度と感知アセンブリ122によって感知された出射光線202の実際の角度に基づいて、ピクセルの色および強度を定義することに加え、ピクセルの場所を定義し、したがって、ディスプレイ画面110に対する投影サブシステム108によって生成される光ビーム200の角度を制御する画像データを生成し、それによって、出射光線202の実際の角度が出射光線202の設計された角度と可能な限り同じであることを確実にする。
例えば、図19を参照すると、3次元空間内の原点からの出射光線202の向きは、x−z平面216a上のものと、y−z平面216b上の別のものとの2つの角度によって定義され得、それらは、FOV214のx−y平面内のピクセル212のx−座標およびy−座標に緊密にそれぞれ対応する。CPU114は、感知アセンブリ122によって感知されるパラメータに基づいて、x−z平面216aおよびy−z平面216bにおける出射光線202の実際の角度を決定し、ピクセル212に対して、出射光線202の実際の角度と対応する出射光線202の設計通りの角度との間の偏差を算出し、投影サブシステム108の動作を修正し、出射光線202の実際の角度と出射光線202の設計通りの角度との間の相違を補償し得る。
例えば、CPU114は、投影サブシステム108に、コリメートされた光ビーム200の走査位置を調節するように命令し得る。図示される実施形態では、コリメートされた光ビーム200の走査位置は、走査デバイス156の機械的応答が、所望のピクセル位置のための所望の機械的応答により一致するように、走査デバイス156(図5参照)の作動/駆動プロファイル(例えば、圧電要素160の駆動電子機器162によって提供される駆動電圧、駆動信号、駆動パターン等)を修正することによって調節され得る。別の例として、CPU114は、画像データを修正し(例えば、ピクセル変調/ピクセル同期を修正することによって)、走査デバイス156の機械的走査応答と所望の走査応答との間の既知の不整合を補償し得る。この場合、出射光線202の「正しくない角度」が、測定されるが、補正されない。さらに別の例として、コリメートされた光ビーム200の走査位置の修正および画像データの修正の組み合わせが、CPU114によって採用され得る。
コリメートされた光ビーム200の走査位置および/または画像データは、角度測定をリアルタイムで監視し、可能な限り迅速に投影サブシステム108への調節をもたらし、処理および因果関係に起因する遅延を最小化するソフトウェア/ハードウェアコントローラ(例えば、比例−積分−微分(PID)に類似する)を採用することによって、修正され、出射光線202の実際の角度と出射光線202の所望の角度との間の不整合を補償することができる。代替として、ディスプレイサブシステム104は、同じ標的走査パターンが各画像フレームを生成するために使用される反復システムであるので、前の画像フレームのために取得された角度測定が、算出および記憶されることができ、次いで、補正が、後続画像フレームに適用されることができる。高画像フレームレートが存在する場合、約数ミリ秒の遅延を被り得る。
感知アセンブリ122によって検出されるパラメータは、x−zおよびy−z平面216a、216bに対する光線202のうちの少なくとも1つの強度を備えている。図12−14に図示される実施形態では、感知アセンブリ122は、導波管装置170から出射または放出される光線202を表す少なくとも1つの光線203(1つのみが本明細書に説明される)の強度を測定する。本実施形態では、代表光線203は、出射光線202と異なり、好ましくは、エンドユーザ50のFOV214外の出射光線202と異なる場所において導波管装置170から出射するであろう。この目的を達成するために、導波管装置170は、図12−14に図示されるように、代表光線203として導波管装置170からの光を感知アセンブリ122に外部結合するための追加のDOE190をさらに備えている。
図14に最良に示されるように、感知アセンブリ122は、導波管装置170から出射する代表光線203の直交成分を感知するために構成される一対の直交角度センサ220aおよび220b(集合的に、220)と、直交角度センサ220からの読み取り値が平面光学導波管172内の光の強度に対して正規化され得るように、代表光線203の絶対強度を感知するために構成される正規化センサ222とを備えている。すなわち、画像が生成される場合、ピクセル強度は、異なるピクセルの色に対応して変調される。したがって、光強度センサ222によって測定されたピクセル強度変調は、角度センサ220の測定値を解釈するときに考慮されることができる。
図示される実施形態では、角度センサ220および正規化センサ222は、DOE190を通過する光線202がセンサ220、222に入射するように、DOE190に近接して関連付けて導波管装置170の平面光学導波管172に搭載される。センサ220、222は、好ましくは、エンドユーザ50によって体験される画像に干渉しないように、エンドユーザ50のFOV214外に位置する。
さらに図20aを参照すると、対の角度センサ220a、220bは、それぞれ、一対の光強度センサ224a、224b(集合的に、306)と、一対の角度選択誘電層226a、226b(集合的に、226)と、一対の円筒形レンズ(例えば、GRINレンズ)228a、228b(集合的に、228)とを備えている。GRINレンズ228は、DOE190の外向きに面する表面に直接搭載され、誘電層226の各々は、GRINレンズ228の外向きに面する表面に直接搭載され、光強度センサ224の各々は、誘電層226の外向きに面する表面に直接搭載される。
重要なこととして、各誘電層226の方向性は、光エネルギーが誘電層226(x−y平面に位置する)の平面に入射する角度の既知の関数として、光エネルギーを伝送する。例えば、図21aに図示される例示的誘電層伝送−角度関係から分かるように、代表光線203の角度が、誘電層226の平面の法線(0度)に近いほど、光強度センサ224に伝送される代表光線203のエネルギーは、大きくなる。さらに、各光強度センサ224は、それぞれの誘電層226の平面に対して直角の角度において入射する光エネルギーの強度の既知の関数である電圧を生成するであろう。例えば、図21bに図示される例示的光検出器強度−電圧関係から分かるように、誘電層226に入射する光エネルギーの強度が高いほど、誘電層226によって生成される電圧は、大きくなる。その結果、代表光線203が光強度センサ224の平面に入射する角度は、以下にさらに詳細に説明されるであろうように、これらの関係曲線から決定されることができる。図21aおよび21bに図示される関係曲線は、分析的に生成され得るか、または単位あたり関連値を測定もしくは較正し、それによって、より正確かつ較正された関係曲線をもたらすことによって、生成され得ることに留意されたい。
入射光に対して垂直な平面に対するセンサ開口の投影が、入射光の入射角が大きいほど面積が減少する「コサイン減衰」と、光センサの光学物理的特性とに起因して、代表光線203の角度を感知する一次手段として利用され得る光強度センサ224自体が、ある程度の角度依存を有し、その場合、角度センサ220が、誘電層226を含まないこともあるか、または、角度センサ220内の誘電層226の使用に加え、代表光線203の角度を感知する二次または補助手段として利用されることができることにも留意されたい。いずれの場合も、それぞれの光強度センサ224によって感知される電圧をある範囲の光入射角度と相関させる光検出器強度−角度関係(図示せず)が、生成され得る。この光検出器強度−角度関係自体が、代表光線203の角度を決定するために使用されることができるか、または、それは、誘電層伝送−角度関係(図21a)および光検出器強度−電圧関係(図21b)から決定された代表光線203の角度を確認するために使用され得る。
着目すべきこととして、誘電層226は、同一入射角であるが異なる放射方向の代表光線203からのエネルギーを等しく伝送するであろうという点において、性質上等方性であるので、感知アセンブリ122は、誘電層226の円対称性を壊し、それによって、代表光線203の向きがx−zおよびy−z平面216a、216bに投影されることを可能にする。この目的を達成するために、円筒形レンズ228a、228bの各々は、代表光線203の第1および第2の直交成分(x−zおよびy−z平面216a、216bに対応する)をそれぞれの誘電層226a、226bに通すために構成される。
したがって、一方のレンズ228aは、代表光線203aのエネルギーを水平(x−)成分に分離し、他方のレンズ228bは、代表光線203bのエネルギーを垂直(y−)成分に分離する。したがって、一方の光強度センサ224aは、DOE190から出射する代表光線203aの水平エネルギー成分のみを受信し、他方の光強度センサ224bは、DOE190を介して、代表光線203bの垂直エネルギー成分のみを受信するであろう。x−zおよびy−z平面216a、216b上に投影された代表光線202の角度は、次いで、以下に議論されるように、代表光線203のこれらの水平および垂直成分から決定されることができる。
着目すべきこととして、各角度センサ220は、例証における簡潔性および明確性の目的のために、1つの代表光線203を検出するように説明されるが、角度センサ220の各々は、実際には、多くの光線を検出し、したがって、角度センサ220の電圧出力は、代表光線203の水平成分203aまたは垂直成分203bの合成を表すであろう。しかしながら、DOE190は、好ましくは、DOE190から出射する代表光線203の角度が内部結合されたコリメートされたビーム200の特定の角度を前提として均一であるように、線形回折パターンを有する。
図20bに図示される代替実施形態では、既に存在するDOE190に関連付けて円筒形レンズ310を使用するのではなく、DOE190自体が、上で説明される円筒形レンズ228と同一様式において、1つの直交成分を角度センサ220aに通す部分と、他の直交成分を角度センサ220bに通す別の部分とに区画化され得る。図20cに図示されるさらに別の代替実施形態では、角度センサ220の各々は、代表光線203を直交偏光された光線に偏光させ、次いで、誘電層226a、226bを介して、それぞれの光強度センサ224a、224bに通すために構成される一対の偏光要素230a、230b(集合的に、230)を備えている。
さらに別の代替実施形態では、円筒形レンズまたは上で説明される他のデバイスのいずれかの代わりに、誘電層226a、226b自体が、直交した向きにおいて歪まされることができ、それによって、誘電層226は、もはや等方性ではなく、むしろ、異方性であり、1つの直交方向において他の直交方向においてより代表光線203を通し、かつその逆も同様である傾向になる。異方性誘電層226は、直交様式において代表光線203を完璧には伝送しないが、代表光線203の角度は、x−zおよびy−z平面216a、216b上に投影されると、依然として、誘電層226の既知の直交伝送係数(すなわち、他の直交方向に対する1つの直交方向において各誘電層226によって伝送される光エネルギーの比率)に照らして決定されることができる。
角度センサ220の各々は、DOE190と緊密に関連付けられるように説明されるが、角度センサ220の一方または両方は、平面光学導波管172が構成される材料と異なる屈折率を伴う格子または材料の形態をとる任意のインターフェースにおいて導波管装置170内に搭載され、それによって、光線がセンサ220から脱出し、かつその中に入射することを可能にすることができることを理解されたい。しかしながら、DOE190から出射する代表光線203の角度は、内部結合されたコリメートされたビーム200の任意の所与の走査角度に対して、EPE要素174bから出射する光線202の名目的な角度に緊密に一致するであろう。
前述にかかわらず、角度センサ220は、代替として、EPE要素174bと緊密に関連付けられ得る。この場合、導波管装置170から出射する光線202は、角度センサ220によって感知される代表光線を備えているであろう。この場合、角度センサ220によって感知される光線202は、EPE要素174bが、光学無限遠ではない焦点面を作成する放射対称の回折パターンを有し得るので、内部結合されたコリメートされたビーム200の任意の特定の角度を前提として、発散され、したがって、幾分、非均一であり得る。この場合、角度センサ220のサイズは、好ましくは、比較的に小さく、したがって、角度センサ220に衝打する光線間の角度相違は、有意ではないであろう。
同様に、角度センサ220が、EPE要素174bと緊密に関連付けられる場合、角度センサ220a、220bによって検出される出射光線202の水平および垂直光成分が、本質的に、導波管装置170から出射する名目上の光線の成分としての役割を果たすであろうように、それぞれの角度センサ220間の間隔が比較的に小さいことが所望される。最終的に、x−zおよびy−z平面216a、216b上に投影される光線202a、202bの角度の関数は、本質的に、角度間の小相違に起因して角度センサ220に衝打する全ての光線202の角度の平均に近く、導波管装置170から出射する光線202の名目上の角度を表す。代替実施形態では、角度センサ220は、光学無限遠(すなわち、レンズ効果なし)に画像を生成する導波管302上に、またはレンズ効果を伴わずに導波管装置170上の特殊なエリアに設置され得、それによって、光線の角度が互いに平行である。
着目すべきこととして、開示されるような角度センサ220は、x−z平面216aまたはy−z平面216bにおける出射光線202の絶対角度が得られ得る情報しか感知できない(例えば、30°の絶対角度は、+30°または−30°であり得る)。したがって、感知アセンブリ122は、x−z平面216aまたはy−z平面216bにおける出射光線202の相対角度を示す別のパラメータを感知する。図示される実施形態では、この感知されるパラメータは、x−zおよびy−z平面216a、216b上に投影された光線202の角度の符号が決定され得るように、コリメートされた光ビーム200が平面に投影される象限を備えている。
例えば、図22aに図示されるように、1つの出射光線202は、x−y平面216cに対してある角度を形成する。すなわち、x−y平面216c上に投影されると、出射光線202は、図22bに図示されるように、x−y平面216cに角度を形成し得る。そこに示されるように、出射光線202の角度は、x−y平面216cの第2の象限内に投影され、したがって、出射光線202がx−z平面216aにおいて成す角度が負の符号を有し、出射光線202がy−z平面216bにおいて成す角度が正の符号を有するはずであることが決定され得る。
感知アセンブリ122は、コリメート要素274からICE168に入射するコリメートされた光ビーム200が向けられる象限を検出することによって、出射光線202が投影される象限を間接的に検出するために構成される(図5に示される)。特に、図13および14に戻って参照すると、感知アセンブリ122は、ICE168に搭載される1つ以上の象限センサ232を備えている。図23aに図示されるように、4つの象限センサ232は、コリメートされた光ビーム200によるセンサ232のうちの1つの活性化が光ビーム200が現在向けられている象限を示すであろうように基準平面234の象限内で間隔を置かれる。代替として、図23bに図示されるように、感知アセンブリ122は、象限の交差点に中心を置いた象限位置感知検出器(PSD)236を備え得る。いずれの場合も、コリメートされた光ビーム200の角度位置が、導波管装置170から出射する光線202の角度と相関性があるので、光線202がx−y平面216cの中に投影される象限は、コリメートされた光ビーム200が向けられる基準平面234の象限から導出されることができる。
代替実施形態では、光線202がx−y平面216cの中に投影される象限は、単に、出射光線202の強度が感知アセンブリ122によって感知されるとき、走査パターンにおける現在の走査位置の象限から推測されることができる。
出射光線202の角度を検出するセンサは、平面光学導波管200と緊密に関連付けられるように説明されるが、1つ以上の角度を検出するセンサが、導波管装置170から出射する光線の角度と相関性がある光線またはビームが検出され得るディスプレイサブシステム104の任意の部分の中に組み込まれることができる。例えば、x−zおよびy−z平面216a、216b上に投影されたコリメートされた光ビーム200の角度ならびにコリメートされた光ビーム200が投影されるx−y平面216cの象限の両方を検出するPSD236が、図25に図示されるように、ICE168に搭載されることができる。
PSD236は、導波管装置170から出射する光線202ではなく、直接、コリメートされたビーム200の角度を感知する。しかしながら、コリメートされたビーム200の角度は、導波管装置170から出射する光線202の角度と非常に相関性があるので、PSD236は、コリメートされたビーム200の角度を直接感知することによって、導波管装置170から出射する光線202の角度を間接的に感知する。
x−z平面216aおよびy−z平面216b上に投影された光線202の角度を決定する1つの方法が、ここで説明されるであろう。光強度センサ222が、90mVの電圧を測定すると仮定する。図22bに図示される例示的光検出器強度−電圧関係に従って、代表光線203の絶対強度が、次いで、100nitsであると決定されることができる。
角度センサ220aが、70mVの電圧を測定すると仮定する。図21bに図示される例示的光検出器強度−電圧関係に従って、角度選択誘電層226aによって光強度センサ224aに伝送される代表光線203の強度が、次いで、80nitsであると決定されることができる。したがって、100nitsの光線の既知の強度に基づいて、誘電層226aは、光エネルギーの80/100=80%を光強度センサ224aに伝送すると決定されることができる。図21aに図示される例示的誘電層伝送−角度関係に従って、x−z平面216aに投影された代表光線203の絶対角度が、次いで、20度であると決定されることができる。
同様に、角度センサ220bが、65mVの電圧を測定すると仮定する。図21bに図示される例示的光検出器強度−電圧関係に従って、角度選択誘電層226bによって光強度センサ224bに伝送される代表光線203の強度が、次いで、75nitsであると決定されることができる。したがって、100nitsの光線の既知の強度に基づいて、誘電層226bは、光エネルギーの75/100=75%を光強度センサ224bに伝送すると決定されることができる。図21aに図示される例示的誘電層伝送−角度関係に従って、y−z平面216aに投影された代表光線203の絶対角度が、次いで、35度であると決定されることができる。
センサ232またはPSD236が、x−y平面216c上に投影された代表光線203の角度が、第3の象限内にあることを検出する場合、または別様に、x−y平面216c上に投影された代表光線203の角度が、コリメートされたビーム200の既知の走査角度の情報から導出される第3の象限内にあることが既知である場合、それぞれ、x−z平面216aおよびy−z平面216bの中に投影される代表光線203の角度は両方とも、負であり、したがって、−20度および−35度であるはずであると決定されることができる。
本発明の特定の実施形態が、図示および説明されたが、本発明を好ましい実施形態に限定することを意図するものではなく、種々の変化および修正が本発明の精神ならびに範囲から逸脱することなく成され得ることが、当業者に明白となるであろうことを理解されたい。したがって、本発明は、請求項によって定義された本発明の精神および範囲内に含まれ得る、代替、修正、ならびに均等物を網羅することが意図される。

Claims (1)

  1. 本願明細書に記載の発明。
JP2020041077A 2016-01-12 2020-03-10 仮想/拡張現実システムにおけるビーム角度センサ Active JP7219242B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021182425A JP7394817B2 (ja) 2016-01-12 2021-11-09 仮想/拡張現実システムにおけるビーム角度センサ
JP2023200415A JP2024026190A (ja) 2016-01-12 2023-11-28 仮想/拡張現実システムにおけるビーム角度センサ

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201662277865P 2016-01-12 2016-01-12
US62/277,865 2016-01-12

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018536142A Division JP7029399B2 (ja) 2016-01-12 2017-01-12 仮想/拡張現実システムにおけるビーム角度センサ

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021182425A Division JP7394817B2 (ja) 2016-01-12 2021-11-09 仮想/拡張現実システムにおけるビーム角度センサ

Publications (3)

Publication Number Publication Date
JP2020101831A true JP2020101831A (ja) 2020-07-02
JP2020101831A5 JP2020101831A5 (ja) 2020-08-20
JP7219242B2 JP7219242B2 (ja) 2023-02-07

Family

ID=59275567

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2018536142A Active JP7029399B2 (ja) 2016-01-12 2017-01-12 仮想/拡張現実システムにおけるビーム角度センサ
JP2020041077A Active JP7219242B2 (ja) 2016-01-12 2020-03-10 仮想/拡張現実システムにおけるビーム角度センサ
JP2021182425A Active JP7394817B2 (ja) 2016-01-12 2021-11-09 仮想/拡張現実システムにおけるビーム角度センサ
JP2023200415A Pending JP2024026190A (ja) 2016-01-12 2023-11-28 仮想/拡張現実システムにおけるビーム角度センサ

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018536142A Active JP7029399B2 (ja) 2016-01-12 2017-01-12 仮想/拡張現実システムにおけるビーム角度センサ

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2021182425A Active JP7394817B2 (ja) 2016-01-12 2021-11-09 仮想/拡張現実システムにおけるビーム角度センサ
JP2023200415A Pending JP2024026190A (ja) 2016-01-12 2023-11-28 仮想/拡張現実システムにおけるビーム角度センサ

Country Status (10)

Country Link
US (6) US10042166B2 (ja)
EP (2) EP3403133B1 (ja)
JP (4) JP7029399B2 (ja)
KR (1) KR20180102119A (ja)
CN (2) CN113777789B (ja)
AU (2) AU2017207827B2 (ja)
CA (1) CA3008032A1 (ja)
IL (3) IL308786A (ja)
NZ (2) NZ743790A (ja)
WO (1) WO2017123793A1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IL308786A (en) 2016-01-12 2024-01-01 Magic Leap Inc A beam angle sensor in a virtual/augmented reality system
AU2017316667B2 (en) 2016-08-22 2022-01-27 Magic Leap, Inc. Multi-layer diffractive eyepiece
KR20190082303A (ko) 2016-11-18 2019-07-09 매직 립, 인코포레이티드 교차 격자를 이용한 도파관 광 멀티플렉서
KR20230053724A (ko) 2017-01-23 2023-04-21 매직 립, 인코포레이티드 가상, 증강, 또는 혼합 현실 시스템들을 위한 접안렌즈
EP3635456A4 (en) * 2017-06-13 2021-01-13 Vuzix Corporation IMAGE LIGHT GUIDE WITH OVERLAPPING GRIDS WITH EXTENDED LIGHT DISTRIBUTION
US10338400B2 (en) 2017-07-03 2019-07-02 Holovisions LLC Augmented reality eyewear with VAPE or wear technology
US10859834B2 (en) 2017-07-03 2020-12-08 Holovisions Space-efficient optical structures for wide field-of-view augmented reality (AR) eyewear
US10534176B1 (en) * 2017-10-09 2020-01-14 Facebook Technologies, Llc Waveguide display with gratings for improved diffraction efficiency
CN111683584A (zh) * 2017-12-15 2020-09-18 奇跃公司 用于增强现实显示系统的目镜
US10572731B1 (en) * 2018-03-13 2020-02-25 Facebook Technologies, Llc Infrared transparent backlight device for eye tracking applications
WO2020014700A1 (en) * 2018-07-13 2020-01-16 Magic Leap, Inc. Systems and methods for display binocular deformation compensation
US11141645B2 (en) 2018-09-11 2021-10-12 Real Shot Inc. Athletic ball game using smart glasses
US11103763B2 (en) 2018-09-11 2021-08-31 Real Shot Inc. Basketball shooting game using smart glasses
US10890770B2 (en) * 2018-11-15 2021-01-12 Facebook Technologies, Llc Waveguide having partial reflector
WO2020106824A1 (en) 2018-11-20 2020-05-28 Magic Leap, Inc. Eyepieces for augmented reality display system
CN114286962A (zh) 2019-06-20 2022-04-05 奇跃公司 用于增强现实显示系统的目镜
EP4100784A4 (en) * 2020-02-06 2024-03-06 Valve Corp POSITION TRACKING SYSTEM FOR HEAD-MOUNTED DISPLAY SYSTEMS
KR102544150B1 (ko) * 2020-08-31 2023-06-15 한국전자기술연구원 시역 확장을 위한 프리즘 접합형 도파관 디스플레이 구조체 및 방법
TW202311705A (zh) * 2021-07-26 2023-03-16 以色列商魯姆斯有限公司 內部小平面之間的平行度的基於光學的驗證

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010197864A (ja) * 2009-02-26 2010-09-09 Hitachi Ltd 光軸調整装置、光軸調整方法及び投射型表示装置
JP2010271554A (ja) * 2009-05-22 2010-12-02 Konica Minolta Opto Inc ホログラム光学素子を用いた映像表示装置
JP2012037761A (ja) * 2010-08-09 2012-02-23 Sony Corp 表示装置組立体
US20150241619A1 (en) * 2014-02-24 2015-08-27 Google Inc. Lightguide device with outcoupling structures

Family Cites Families (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5880461A (en) * 1996-06-12 1999-03-09 The Regents Of The University Of California Low noise optical position sensor
US6721053B1 (en) * 1999-05-19 2004-04-13 Corning Intellisense Corporation System for high resolution chemical and biological sensing
WO2004027499A1 (en) * 2002-09-18 2004-04-01 Koninklijke Philips Electronics N.V. Display apparatus with scanning backlight
EP1639394A2 (en) 2003-06-10 2006-03-29 Elop Electro-Optics Industries Ltd. Method and system for displaying an informative image against a background image
JP2006039271A (ja) 2004-07-28 2006-02-09 Brother Ind Ltd 画像表示装置、その反射鏡及び画像表示方法
WO2006041452A1 (en) 2004-10-01 2006-04-20 University Of Washington Remapping methods to reduce distortions in images
WO2006064334A1 (en) * 2004-12-13 2006-06-22 Nokia Corporation General diffractive optics method for expanding an exit pupil
US7206107B2 (en) 2004-12-13 2007-04-17 Nokia Corporation Method and system for beam expansion in a display device
US20060126181A1 (en) * 2004-12-13 2006-06-15 Nokia Corporation Method and system for beam expansion in a display device
JP2007219106A (ja) 2006-02-16 2007-08-30 Konica Minolta Holdings Inc 光束径拡大光学素子、映像表示装置およびヘッドマウントディスプレイ
US9423397B2 (en) * 2006-03-10 2016-08-23 Indx Lifecare, Inc. Waveguide-based detection system with scanning light source
KR20100030022A (ko) * 2008-09-09 2010-03-18 삼성전기주식회사 광 터치 스크린
US20130181896A1 (en) * 2009-01-23 2013-07-18 Qualcomm Mems Technologies, Inc. Integrated light emitting and light detecting device
US8072686B2 (en) * 2009-04-02 2011-12-06 GM Global Technology Operations LLC UV laser beamlett on full-windshield head-up display
WO2010141453A2 (en) * 2009-06-01 2010-12-09 Han Jefferson Y Touch sensing
JP2011217326A (ja) 2010-04-02 2011-10-27 Seiko Epson Corp 画像処理装置、プロジェクター、画像処理方法
US8582209B1 (en) * 2010-11-03 2013-11-12 Google Inc. Curved near-to-eye display
DE102011109999A1 (de) * 2011-08-11 2013-02-14 Lavision Biotec Gmbh Laseranordnung
US20140140091A1 (en) * 2012-11-20 2014-05-22 Sergiy Victorovich Vasylyev Waveguide illumination system
JP5867186B2 (ja) * 2012-03-09 2016-02-24 セイコーエプソン株式会社 虚像表示装置
US9274338B2 (en) * 2012-03-21 2016-03-01 Microsoft Technology Licensing, Llc Increasing field of view of reflective waveguide
JP5998578B2 (ja) * 2012-03-29 2016-09-28 日本精機株式会社 ヘッドアップディスプレイ装置
TWI636283B (zh) * 2012-05-18 2018-09-21 美商瑞爾D斯帕克有限責任公司 定向背光源、定向顯示裝置及其光源陣列的控制方法
US9671566B2 (en) 2012-06-11 2017-06-06 Magic Leap, Inc. Planar waveguide apparatus with diffraction element(s) and system employing same
JP2015528634A (ja) * 2012-08-31 2015-09-28 コーニンクレッカ フィリップス エヌ ヴェ 光散乱粒子を有するライトガイド及び光角度選択モジュールに基づいた照明デバイス
FI128503B (en) * 2013-02-27 2020-06-30 Teknologian Tutkimuskeskus Vtt Oy Sample plate and assay procedure
JP6123365B2 (ja) * 2013-03-11 2017-05-10 セイコーエプソン株式会社 画像表示システム及び頭部装着型表示装置
JP2015015563A (ja) * 2013-07-04 2015-01-22 セイコーエプソン株式会社 画像表示装置
WO2015006784A2 (en) 2013-07-12 2015-01-15 Magic Leap, Inc. Planar waveguide apparatus with diffraction element(s) and system employing same
US20150049122A1 (en) * 2013-08-19 2015-02-19 Pixtronix, Inc. Display Apparatus Configured For Image Formation With Variable Subframes
JP6150253B2 (ja) * 2013-09-26 2017-06-21 アルプス電気株式会社 映像表示装置
US8879858B1 (en) * 2013-10-01 2014-11-04 Gopro, Inc. Multi-channel bit packing engine
US9164290B2 (en) * 2013-11-06 2015-10-20 Microsoft Corporation Grating configurations for a tiled waveguide display
KR102493498B1 (ko) * 2013-11-27 2023-01-27 매직 립, 인코포레이티드 가상 및 증강 현실 시스템들 및 방법들
JP6295635B2 (ja) 2013-12-18 2018-03-20 株式会社リコー 画像投影装置、画像投影システムおよび画像投影方法
JP6314518B2 (ja) 2014-02-10 2018-04-25 ソニー株式会社 画像表示装置及び表示装置
US9465215B2 (en) * 2014-03-28 2016-10-11 Google Inc. Lightguide with multiple in-coupling holograms for head wearable display
WO2015167492A1 (en) * 2014-04-30 2015-11-05 Hewlett-Packard Development Company, L.P. Imaging appratus and methods using diffraction-based illumination
AU2015266586B2 (en) * 2014-05-30 2020-07-23 Magic Leap, Inc. Methods and systems for generating virtual content display with a virtual or augmented reality apparatus
JP6197955B2 (ja) * 2014-07-01 2017-09-20 株式会社リコー 表示装置、車両
CN104076519B (zh) * 2014-07-14 2016-08-24 中国科学院自动化研究所 一种方向性背光产生方法和系统
US9927614B2 (en) * 2015-12-29 2018-03-27 Microsoft Technology Licensing, Llc Augmented reality display system with variable focus
IL308786A (en) 2016-01-12 2024-01-01 Magic Leap Inc A beam angle sensor in a virtual/augmented reality system
EP3523783A4 (en) * 2016-10-05 2019-10-16 Magic Leap, Inc. SYSTEMS AND METHOD FOR SURFACE MODELING

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010197864A (ja) * 2009-02-26 2010-09-09 Hitachi Ltd 光軸調整装置、光軸調整方法及び投射型表示装置
JP2010271554A (ja) * 2009-05-22 2010-12-02 Konica Minolta Opto Inc ホログラム光学素子を用いた映像表示装置
JP2012037761A (ja) * 2010-08-09 2012-02-23 Sony Corp 表示装置組立体
US20150241619A1 (en) * 2014-02-24 2015-08-27 Google Inc. Lightguide device with outcoupling structures

Also Published As

Publication number Publication date
JP7394817B2 (ja) 2023-12-08
NZ743790A (en) 2023-01-27
EP3403133A4 (en) 2019-01-23
CN108463767B (zh) 2021-10-01
IL302232A (en) 2023-06-01
US10042166B2 (en) 2018-08-07
US20200333602A1 (en) 2020-10-22
NZ784100A (en) 2023-01-27
JP7219242B2 (ja) 2023-02-07
US10359634B2 (en) 2019-07-23
AU2021286374A1 (en) 2022-01-20
IL260048A (en) 2018-07-31
US20190293941A1 (en) 2019-09-26
US11366322B2 (en) 2022-06-21
IL260048B2 (en) 2023-09-01
US20170199384A1 (en) 2017-07-13
US20180341112A1 (en) 2018-11-29
JP7029399B2 (ja) 2022-03-03
US10520737B2 (en) 2019-12-31
JP2022010172A (ja) 2022-01-14
CN113777789A (zh) 2021-12-10
US20210116709A1 (en) 2021-04-22
CN113777789B (zh) 2023-05-05
EP4043944A1 (en) 2022-08-17
US10649218B2 (en) 2020-05-12
AU2017207827B2 (en) 2021-09-30
CA3008032A1 (en) 2017-07-20
WO2017123793A9 (en) 2017-10-05
US10901223B2 (en) 2021-01-26
US20200081258A1 (en) 2020-03-12
IL260048B1 (en) 2023-05-01
WO2017123793A1 (en) 2017-07-20
EP3403133B1 (en) 2022-05-11
EP3403133A1 (en) 2018-11-21
JP2024026190A (ja) 2024-02-28
IL302232B1 (en) 2024-01-01
IL308786A (en) 2024-01-01
AU2017207827A1 (en) 2018-07-12
KR20180102119A (ko) 2018-09-14
CN108463767A (zh) 2018-08-28
JP2019503509A (ja) 2019-02-07

Similar Documents

Publication Publication Date Title
JP7394817B2 (ja) 仮想/拡張現実システムにおけるビーム角度センサ
EP3821289B1 (en) Systems and methods for display binocular deformation compensation
JP7216547B2 (ja) 逆角度回折格子を有する仮想/拡張現実システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200408

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200708

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200708

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200908

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200911

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210507

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210714

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211109

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20211109

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20211116

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20211117

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20220128

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20220201

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220329

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220406

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20220527

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220819

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20220909

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20221018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221206

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20221216

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20230117

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20230117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230126

R150 Certificate of patent or registration of utility model

Ref document number: 7219242

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150