JP7320057B2 - 観察者に対する正しい単眼奥行き手がかりを持つライトフィールド複合現実システム - Google Patents

観察者に対する正しい単眼奥行き手がかりを持つライトフィールド複合現実システム Download PDF

Info

Publication number
JP7320057B2
JP7320057B2 JP2021519564A JP2021519564A JP7320057B2 JP 7320057 B2 JP7320057 B2 JP 7320057B2 JP 2021519564 A JP2021519564 A JP 2021519564A JP 2021519564 A JP2021519564 A JP 2021519564A JP 7320057 B2 JP7320057 B2 JP 7320057B2
Authority
JP
Japan
Prior art keywords
light field
light
virtual
combiner
mixed reality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021519564A
Other languages
English (en)
Other versions
JP2022526054A (ja
Inventor
スルカ・トマシュ
キルシェ・ルシオ
Original Assignee
クリアル・ソシエテ・アノニム
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by クリアル・ソシエテ・アノニム filed Critical クリアル・ソシエテ・アノニム
Publication of JP2022526054A publication Critical patent/JP2022526054A/ja
Application granted granted Critical
Publication of JP7320057B2 publication Critical patent/JP7320057B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0075Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. increasing, the depth of field or depth of focus
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0127Head-up displays characterised by optical features comprising devices increasing the depth of field
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/013Head-up displays characterised by optical features comprising a combiner of particular shape, e.g. curvature
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • G02B2027/0174Head mounted characterised by optical features holographic
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本開示は、人工的に作成されたライトフィールドと現実世界のライトフィールドを混合する光コンバイナーに関する。本開示は、さらに、ニアアイライトフィールド複合現実システムに関するものである。
複合現実(混合現実)ハードウェアは、現実世界の画像と人工的に生成された画像を人間の目に届けることを前提としていて、これらはいわゆるコンバイナーによって結合される必要がある。このようなコンバイナーは、現実世界からの光に対して透明な光学素子で構成されている。すなわち、外光を観察者の目の瞳孔に通過させる一方で、画像作成要素から人工的に作成された仮想画像のライトフィールドを観察者の瞳孔に導く。このような画像作成要素は、表示装置又はプロジェクタであり得る。現実のライトフィールドと人工的ライトフィールドは、観察者が実像と仮想像を視覚的な問題なく見られるように理想的に組み合わせる必要がある。そのためには、人工的に作られた画像内の異なる仮想物体を、異なる任意の焦点距離で表示する必要がある。この機能は、現在はまだきちんと解決されていない。
目は可変レンズを含んでいて、実際の世界では、目の網膜上にはっきりとした画像を投影するために、観察される物体の距離に焦点を合わせる必要がある。他の距離にある物体は焦点が合わず、網膜上のそのイメージはぼやけてしまう。しかし、従来の3D(三次元)表示装置やプロジェクタでは、平面的なスクリーンから両眼に画像を投影するか、走査型レーザービームや射出瞳孔の開口数がほぼゼロのライトフィールドを用いて網膜に直接投影していた。前者の場合、光学系で平面スクリーンの光学像の距離に目の焦点を合わせる必要がある。
ここでそして以下、「光学像」という用語は、光学系を通して見た物体の見かけの位置を意味するものである。平面スクリーン上に表示された写真は、全てがはっきりとしてるか、又はボケがすでに存在していて、目の調節ではボケを解消できない。目が表示装置の光学像の距離以外に焦点を合わせると、表示された写真の網膜像がぼやけてしまう。網膜投影では、網膜上に投影された絵の常に焦点の合った画像が作られ、眼球の調節は画像のサイズと位置にのみ影響を与える。常時焦点が合っているライトフィールドには、光路上のチリやホコリ、まつ毛、目の浮きなど、あらゆる欠陥の影が映る。
人工的に投影された3Dシーンのライトフィールドに正しい単眼奥行きキュー(手がかり)を作るためのいくつかの概念が提案されていた。それらには、
(i)ホログラフィック表示装置、
(ii)可変レンズやベンディングミラーのような高速バリフォーカル光学素子と、デジタルマイクロミラーデバイス(DMD)のような高速ディスプレイを組み合わせたニアアイプロジェクタ、
(iii)表示装置の光学像の距離を能動的に制御し、目の焦点距離の測定値又は推定値に応じて表示画像に対応するボケを作り出す光学系を備えた表示装置、
(iv)マイクロレンズアレイ又はポイントライトアレイのバックライトによって表示画像を空間的に多重化する表示装置、あるいは
(v)2つ又は3つの焦点距離の画像を提供する、光路長拡張器のコンバイナー又は多層導波路
が含まれる。
これらの概念はそれぞれ、なんらかの長所と短所を持っている。(i)ホログラフィック表示装置は、理論的には、人工的な3Dシーンの完全な正しいライトフィールドを提供する性能を持つが、回折や色のアーチファクトに悩まされ、また、大量の入力データ、コヒーレントな光源、光の高解像度の位相及び振幅変調を必要とする。(ii)高速可変焦点レンズとミラーは繊細な部品であり、その光学特性には光学的不完全性がある。(iii)スクリーンの光学像の距離を能動的に制御し、表示される画像に人工的なボケを加える表示装置には、目の焦点距離の測定又は推定と、その結果としてのプロジェクタの光学系及びデジタルのボケの適合が必要である。この概念は、個人の目の違いによる複雑な測定誤差があり、実際には正しいライトフィールドを提供するものではなく、ライトフィールドの効果を模倣しているに過ぎない。例えば、急速に動く眼に対しては正しい微小視差効果を与えられない。(iv)マイクロレンズアレイや透明な空間光変調器を用いた点光源バックライトによる画像の空間多重化の概念で商業的に魅力的な画像解像度を達成するには、特別な小ピッチの高解像度表示装置が必要となる。これは、目の焦点距離に応じて網膜画像にボケを正しくするために、人工的なシーンの各画像点が同じ瞬間に複数回表示されるためである。マイクロレンズアレイの概念は非透過型表示を含むものであり、点光源アレイは大型であるため、拡張現実(AR)用途でのシースルー表示装置としての利用は複雑である。(v)光路拡張器や多層膜導波路は、2つや3つの少ない焦点面で画像を作成するため、表示画像を焦点面間で意図的に切り替える必要があり、目に見えるアーチファクトが発生する。
ネマティック液晶や有機発光ダイオードを用いた画像の時間的多重化に基づく他の複数の概念は、これらの表示装置の短いリフレッシュタイムに悩まされる。
最も使用されているタイプの複合現実コンバイナーは、固定された焦点面に画像を提供するホログラフィック回折格子を備えた導波路(導波路を積み重ねたものが、複数の焦点面の提供に使用可能である)、ビームスプリッターを備えたドーム形状の半透明ミラー、又は楕円体コンバイナーに基づいている。楕円体コンバイナーは、これまでライトフィールドには使用されていない。これらのコンバイナーの共通の特徴は、平坦な表示装置の画像をある一定の距離に配置することである。
特許文献1(WO2018091984A1)は、人工ライトフィールドと実世界の光を混合する可能なコンバイナーのいくつかの実施形態とともに、逐次的なライトフィールド投影の基本的機構を開示している。
国際公開第2018/091984号
本開示は、デジタル処理された情報をユーザの眼に投影し、現実世界の光と混合する電子装置及び光学装置に関するものである。より具体的には、仮想シーンのピンライトアレイを作成し、対応する仮想ライトフィールドを眼の至近距離から眼に投影し、投影仮想ライトフィールドが現実世界から眼に入る自然光と重畳するライトフィールド複合現実システムに関するものである。ここでいう近接とは、投影された対応する仮想ライトフィールドと眼の間の距離が15cm未満であることとみてよい。
投影された仮想ライトフィールドは、受像眼が、現実世界と同様に、投影された視覚シーン内の異なる距離の物体に自然に焦点を変え、その現実的なボケと被写界奥行きを観察できるような特性を有する。ライトフィールド複合現実システムによって生成された投影された仮想ライトフィールドは、正しい単眼的な奥行きの手がかりを持つ画像を観察者に提供する。
ライトフィールド複合現実システムは、常に合焦している複数のライトフィールド成分を時間的に多重化し、観察者の瞳孔に順次投影することで、投影された仮想ライトフィールドを生成する。観察者は、自然な視覚の遅延により、構成されたライトフィールドを知覚し、正しい眼球の調節やそれに伴う画像のボケのような現実的な単眼的な奥行きの手がかりを体験する。これにより、仮想的な物体と現実の物体を視覚的に混合可能である。
特に、本開示は、観察者が着用するライトフィールド複合現実システムであって、光学光変調器を照らす入射ライトフィールドを生成するピンライトアレイと、入射ライトフィールドを変調して変調された仮想ライトフィールドを生成するように構成された光変調器と、変調された仮想ライトフィールドを反射して、投影軸線に沿ってアイボックス領域を定義する投影仮想ライトフィールドを投影するように構成されたコンバイナーと、を備えるシステムに関するものである。
投影された仮想ライトフィールドは、投影軸線に沿って、
ピンライトアレイの出射瞳をアイボックスと光学光変調器の仮想画像との内側に形成し、
光学光変調器の仮想画像を、出射瞳の前に、すなわちコンバイナーと出射瞳の間に、出射瞳から15cmより短い距離で、又は出射瞳の後ろに、すなわちコンバイナーに対向する方向において出射瞳から離れて、さらに形成する。
コンバイナーはさらに、現実世界からアイボックスに向けて自然光を透過するように構成されていて、投影された仮想ライトフィールドと自然光の両方が、コンバイナーを介してアイボックス内に投影される。
コンバイナーは、人工的に生成された3Dシーンにおいて、現実的な有限の被写界奥行きの観察者の知覚と正しい視覚的調節を作り出す、現実的な単眼奥行き手がかりを有する仮想ライトフィールドを、現実世界の光と組み合わせる。このライトフィールドの複合現実システムは、実質的に無限でほぼ連続した奥行きの範囲、高い画像解像度、低い画像持続性を提供し、信頼性の高い現在大量生産されている部品で実現可能であり、複合現実の適用(アプリケーション)用の小型フォームファクターの眼鏡に組み込めるものである。
ライトフィールド型複合現実システムは、あらゆる人間、動物、カメラの眼に複合現実の体験を提供可能である。
ライトフィールドの複合現実システムのユーザは、現実と仮想の3Dシーンのリアルな混合を体験可能である。ライトフィールド複合現実システムは、3Dの仮想現実及び拡張現実の情報を、正しい眼調節の快適さで伝えるのに適している。
本開示はさらに、ライトフィールド複合現実システムを構成する着用可能な装置にも関し、この着用可能な装置は、小さなフォームファクタを有し、自然に観察される現実世界に文脈上のデジタル情報を重ね合わせる日常的な着用可能なアイウェアとして使用可能である。
図1は、一実施形態による、コンバイナーを備える複合現実アプリケーション用のライトフィールド複合現実システムを示す。 図2aは、別の実施形態による、ライトフィールド複合現実システムを描いたものである。 図2bは、図2aの実施形態の変形形態による、ライトフィールド複合現実システムを描いたものである。 図2cは、別の実施形態による、ライトフィールド複合現実システムを示す図である。 図3は、さらに別の実施形態による、ライトフィールド複合現実システムを示す。 図4aは、図3のライトフィールド複合現実システムの構成の変形形態を描いたものである。 図4bは、一実施形態によるコンバイナーが備えるミラーアレイを表す。 図5は、さらに別の実施形態による、ライトフィールド複合現実システムを示す。 図6は、図5のライトフィールド複合現実システムの構成の変形形態を示す。 図7は、図5のライトフィールド複合現実システムの構成の別の変形形態を示す。 図8は、図3のライトフィールド複合現実システムの構成の別の変形形態を表している。 図9は、図5のライトフィールド複合現実システムの構成のさらに別の変形形態を示す。 図10は、別の実施形態によるライトフィールド複合現実システムを備える複合現実メガネの構成を描いたものである。 図11は、別の実施形態によるライトフィールド複合現実システムを備える複合現実メガネの構成を描いたものである。 図12は、一実施形態によるライトフィールド複合現実システムを備える複合現実メガネの構成を描いたものである。 図13は、さらに別の実施形態による、ライトフィールド複合現実システムを描いたものである。 図14aは、一実施形態による、視線追跡装置を備えるライトフィールド複合現実システムの図表示である。 図14bは、観察者の眼が下向きでライトフィールド複合現実システムに近いときの、ライトフィールド複合現実システムを示す。 図14cは、観察者の眼が下向きでライトフィールド複合現実システムからより離れているときの、ライトフィールド複合現実システムを示す。 図14dは、観察者の眼が上向きでライトフィールド複合現実システムに近いときの、ライトフィールド複合現実システムを示す。 図14eは、観察者の眼が上向きでライトフィールド複合現実システムにより離れているときの、ライトフィールド複合現実システムを示す。 図14fは、図14aから図14dを組み合わせたものを示す。 図15aは、観察者の視野を考慮に入れるように構成された視線追跡装置を備えるライトフィールド複合現実システムを示す。 図15bは、観察者の視野を考慮に入れるように構成された視線追跡装置を備えるライトフィールド複合現実システムを示す。 図15cは、観察者の視野を考慮に入れるように構成された視線追跡装置を備えるライトフィールド複合現実システムを示す。 図15dは、観察者の視野を考慮に入れるように構成された視線追跡装置を備えるライトフィールド複合現実システムを示す。 図15eは、観察者の視野を考慮に入れるように構成された視線追跡装置を備えるライトフィールド複合現実システムを示す。 図16aは、コンバイナーがマイクロミラーを持つ移動アイボックスを備える、ライトフィールド複合現実システムを示す。 図16bは、コンバイナーがマイクロミラーを持つ移動アイボックスを備える、ライトフィールド複合現実システムを示す。 図16cは、コンバイナーがマイクロミラーを持つ移動アイボックスを備える、ライトフィールド複合現実システムを示す。
図1は、一実施形態による、複合現実の適用(アプリケーション)のために観察者が着用するライトフィールド複合現実システムを示す。ライトフィールド複合現実システムは、空間光変調器(SLM)20を照らす入射ライトフィールド100を生成するピンライトアレイ10を備える。入射ライトフィールド100は、典型的には、複数の入射ピンホール開口ライトフィールド(図1では、3つの入射ピンホール開口ライトフィールド101、101’、101’’が表されている)で構成される。空間光変調器20は、入射ライトフィールド100を変調して、変調仮想ライトフィールド111を生成するように構成されている。
ピンライトアレイ10は、電磁スペクトルの可視範囲の光を放つが、電磁スペクトルの可視範囲外の光、例えば、電磁スペクトルの近赤外(NIR)又は紫外(UV)範囲の光を放出可能でもある。ピンライトアレイ10は、干渉性光又は非干渉性光を発光可能である。ピンライトアレイ10に使用できる代表的な光源には、LED、VCSEL又はLDが含まれる。ピンライトアレイ10は、単一の発光部又は行列構成として予め定義された空間構成でグループ化された複数の発光部があり得る。ピンライトアレイ10は、定義された発散又は開口数(NA)を有する光を放出できる。
ライトフィールド型複合現実システムは、オプションのフーリエフィルタ30をさらに備えてもよい。偏光フィルタは、偏光プリズムに替えて、ソリッドステートフィルタによっても同様に提供可能である。
フーリエフィルタ30は、SLM20上で反射及び回折される、変調仮想ライトフィールド111から0次よりも高い回折成分を除去し、変調及びフィルタリングされた仮想ライトフィールド112を生成するように構成可能である。
ライトフィールド複合現実システムは、変調及びフィルタリングされた仮想ライトフィールド112を反射して、投影軸線170に沿ってアイボックス領域121を規定する投影仮想ライトフィールド110を投影するように構成されたコンバイナー40をさらに備える。投影仮想ライトフィールド110は、アイボックス121内に、出射瞳122に対応するピンライトの仮想画像開口を形成する。出射瞳122は、入射ピンホール開口ライトフィールド101に対応する複数のピンライト仮想像120(図2では3つのピンライト仮想像120、120’、120’’が表されている)で構成されている。出射瞳122は、ピンライト仮想像120の配列の位置によって規定される。出射瞳122は、投影仮想ライトフィールド110が少なくとも部分的に眼の瞳孔に入る程度の広さであることが望ましい。瞳孔がコンバイナー40に対して相対的に動いている場合であっても、投影仮想ライトフィールド110の少なくとも一部を瞳孔に投影するために、出射瞳122は瞳孔よりも大きくできる。
投影仮想ライトフィールド110は、投影軸線170に沿ってSLM20の仮想画像114をさらに形成する。
アイボックス121内の出射瞳122は、所与のピンライト仮想画像120又はピンライトアレイ10内の所与のピンライト仮想画像120を選択することによって、横方向に、すなわち投影軸線170に垂直な方向に変位可能である。
SLM20は、デジタルマイクロミラーデバイス(DMD)、シリコン上の強誘電性液晶(FLCOS)、又は他の適切な光の強度と位相の空間変調器を使用して構成可能である。
図1の実施形態では、ライトフィールド型複合現実システムは、仮想画像114が、投影軸線170に沿って、コンバイナー40に対向する方向に出射瞳122から離れて形成されるように構成されている。
図1では、観察者の眼90がさらに表されている。ライトフィールド型複合現実システムが観察者に装着されると、出射瞳122は観察者の眼90の中に形成され、仮想画像114は観察者の眼90の収容範囲外に形成される。例えば、図1では、仮想画像114は、観察者の眼90の後方遠くに形成されている。
コンバイナー40は、投影仮想ライトフィールド110と自然光80の両方が、コンバイナー40を介して、アイボックス121内に投影されるように、現実世界80からアイボックス121に向けて自然光を透過させるようにさらに構成されている。
ライトフィールド型複合現実システムが観察者に装着されると、コンバイナー40は、現実世界80からの自然光を観察者の眼90に向けて透過させる。コンバイナー40は、このようにして、投影仮想ライトフィールド110と現実世界からの光80の両方が網膜92上に投影されるように、投影仮想ライトフィールド110と自然光80の両方を、観察者の眼90に向かって、例えば観察者の眼90の瞳孔130に向かって投影できる。
一実施形態では、コンバイナー40は、凹状かつ楕円形の形状を持つ第1の反射面43を備える半透明の第1の要素41を備えてもよい。そのような構成では、変調及びフィルタリングされた仮想ライトフィールド112が第1の焦点で入射し、投影仮想ライトフィールド110が第2の焦点で反射される。第2焦点では、投影仮想ライトフィールド110が観察者の眼90に向かって反射できる。
コンバイナー40は、2D平面で描かれているが、具体的な実現では、3次元全てにおいての折り畳みを使用してもよい。コンバイナー40は、一般的な自由形状の表面を備えられる。
図1の実施形態では、ライトフィールド型複合現実システムは、コリメータ50、例えば、コリメートレンズ又は部分的コリメートレンズ、ビームスプリッター60、及び再結像レンズ70を備えてもよい。ビームスプリッター60は、SLM20がDMDを使用する場合には全内部反射プリズム(TIR)を備えてもよく、SLM20がFLCOSを使用する場合には偏光プリズムを備えてもよい。再結像レンズ70は、投影軸線170に沿って、コンバイナー40に対向する方向に出射瞳122から離れた位置に、換言すると、コンバイナー40に対向する方向に出射瞳120から離れた位置に、仮想画像114)を形成するように構成されている。ライトフィールド型複合現実システムが観察者に装着されると、仮想画像114は、観察者の眼球90の収容範囲から外れた位置に配置される。
図1では、観察者の眼90の位置のみが描かれていることに留意されたい。眼のレンズ91上の投影仮想ライトフィールド110の歪みは図示されていない。光学系、すなわちコンバイナー40の位置と焦点距離、場合によってはコリメータ50の位置と焦点距離、再結像レンズ70、さらにはSLM20の位置が、SLM20の像を置くことで、仮想像114の位置が決定される。例えば、仮想画像114は、観察者の眼90の後方遠く(図1の描図に対応)に存在することがあるし、又は、観察者の眼90の前方約15cm未満(図2b参照)のように、眼90の近くに存在することがある。仮想画像114は、観察者のいる範囲から外れていなければならず、そうでなければ、画像が他の距離にある画像と異なって見える明確な平面を作り出すことになる。
光学系はピンライトアレイ10の出射瞳122を、観察者の眼から瞳孔130の近く、理想的には観察者の眼90の内側に、置く。
コンバイナー40は、赤、緑、青の色の波長のような変調及びフィルタリングされた仮想ライトフィールド112の狭いスペクトル帯を反射する一方で、現実世界80からの他の可視波長の全て又は大部分を透過するように調整可能である。
図2aは、別の実施形態によるライトフィールド複合現実システムを示していて、ニアアイライトフィールドプロジェクタは、ビームスプリッター60を持たない。ビームスプリッター60に替えて、レンズ52が、コリメータとピンライトアレイ再結像素子の同時機能を結合するように構成されている。ニアアイライトフィールドプロジェクタは、任意選択のフーリエフィルタ30と、SLM再結像レンズ32とをさらに備えている。SLM再結像レンズ32は、コンバイナー40の前(SLM20とコンバイナー40の間)に、SLM20の第1仮想像114’を形成するように構成されている。楕円体状のコンバイナー40の第1焦点は、仮想画像114の中心に位置する。この構成では、SLM再結像レンズ32は、出射瞳122を観察者の眼90の内部に配置する。仮想像は、投影軸線170に沿って、コンバイナー40に対向する方向に出射瞳122から離れて形成される。仮想像は、図2aには表されていないが、(図1のような)投影仮想ライトフィールド110の投影で見られるはずである。
ライトフィールド型複合現実システムが観察者に装着されると、仮想画像は、観察者の眼90の収容範囲外の後方遠くに形成される。
図2bは、図2aの実施形態の変形例によるライトフィールド複合現実システムを描いていて、ニアアイライトフィールドプロジェクタは、SLM再結像レンズ32を備えていない。ライトフィールド複合現実システムは、コリメータとピンライトアレイの再結像素子の機能を組み合わせたレンズ52を備えていて、観察者の眼90の収容範囲外に仮想画像114を形成するように構成されている。この構成では、仮想像114は、投影軸線170に沿って、コンバイナー40と出射瞳122の間に形成される。例えば、仮想像114は、投影軸線170に沿って、出射瞳122から15cm未満の距離、好ましくは10cm未満の距離で形成可能である。
ライトフィールド型複合現実システムが観察者に装着されると、仮想画像114は、観察者の眼90の近くかつ前方に、例えば観察者の眼の5cm未満に、観察者の眼90の収容範囲外に位置する。
図2cは、ライトフィールド複合現実システムの別の実施形態を示していて、コンバイナー40は、実質的に平坦な半透明の反射面45を有する半透明の第2要素42をさらに備えている。SLM再結像レンズ32から来る変調及びフィルタリングされた仮想ライトフィールド112は、第2要素42の反射面45上で、凹状かつ楕円形の第1要素41の第1反射面43に向かって反射される。コンバイナー40のこの構成により、現実世界80からの光を透過させ、反射した投影仮想ライトフィールド110を、出射瞳122を形成するような変調フィルタリングされた仮想ライトフィールド112から反射可能である。この構成では、第2要素42の近くに第1仮想像114’が形成される。この仮想像は、投影軸線170に沿って、コンバイナー40に対向する方向に出射瞳122から離れて形成される(仮想像は、図2cには表されていないが、投影仮想ライトフィールド110の投影の中で見られるはずである)。ライトフィールド型複合現実システムが観察者に装着されると、投影仮想ライトフィールド110は、観察者の眼90の瞳孔130に反射され、投影仮想ライトフィールド110と現実世界80からの光の両方が観察者の眼の網膜92に投影されるようになる。
図3は、ライトフィールド複合現実システムのさらに別の実施形態を示していて、コンバイナー40はミラー44のアレイを備える。ミラー44のアレイは、投影仮想ライトフィールド110のピンライトの出射瞳122と一致する。ミラー44は、観察者の眼90の瞳孔130が動ける領域を包含するアイボックス121内に、投影仮想ライトフィールド110を投影できるように傾斜している。この構成では、仮想画像114は、投影軸線170に沿って、コンバイナー40に対向する方向に出射瞳122から離れて形成される。ライトフィールド型複合現実システムが観察者に装着されると、観察者の眼90の近くに第1の仮想画像114’が形成され、仮想画像114は、観察者の眼90内、網膜上に形成される。
この構成では、ライトフィールド複合現実システムは、部分的なコリメータとして、また、(フーリエ変換レンズのような)ピンライト再結像素子として機能するように構成されたレンズ52を備えてもよい。ライトフィールド複合現実システムは、SLM20がFLCOSを使用する場合には、偏光フィルタをさらに備えてもよい。
図4aは、図3のライトフィールド型複合現実システムの構成の変形態様を示し、後者は、(フーリエ変換レンズのような)ピンライト再結像素子として機能する再結像レンズ70を備えている。
図4bでは、コンバイナー40のミラー44のアレイは、格子44aに配置されたサブミラーのアレイによって、又は単一の大きなミラー44bとして、表されている。いずれの場合も、ミラー44、44a、44bのアレイは、透明な板に刻印されている。より一般的には、ミラーのアレイは、他の任意の適切な手段によって作成された透明板内の反射面を備えることがある。
ライトフィールドプロジェクタは、許容可能な出射瞳122を実現するフーリエフィルタ30を必ずしも必要としない。これは、SLM20の仮想画像114が観察者の眼90の収容範囲外に配置されている場合である。例えば、SLM20の仮想像114が観察者の眼の後ろにある場合や、観察者の眼90の前に近い(例えば15cm未満の)場合である。このような構成では、SLM20によって変調された光の0次よりも高い回折成分は、主要ではない役割をしている。
高次の回折成分の強度は、SLM20上の変調画像の「ランダム化」によって低減できる。SLM20上に現れる各バイナリサブフレームの画像は、画像内の明確な周波数の出現を低減し、したがって、出射瞳122の位置におけるそのフーリエ変換画像内の回折衛星の強度を低減するように、具体的に変換できる。回折フィルタは、以下でさらに説明するように、コンバイナー40自体にも実装できる。
図5は、ライトフィールド複合現実システムが、ピンライトアレイ10と、SLM20と、くぼんていて楕円体形状又は自由形状のコンバイナー40とを備える別の実施形態を示す。図1の構成と比較して、ライトフィールド複合現実システムは、コリメータ50と、ビームスプリッター60と、再結像レンズ70とを備えていない。また、ライトフィールド複合現実システムは、変調仮想ライトフィールド111がコンバイナー40上で反射されるようなフーリエフィルタ30も備えていない。
光路からの「黒」すなわち「オフ」の画素の排除は、SLM20へ及びSLM20からの、入射変調仮想ライトフィールド111と、反射投影仮想ライトフィールド110とをフィルタリングする偏光フィルタによって実現できる。
反射光路におけるSLM20によって変調された光のフィルタリングは、コンバイナー40によって、又は、SLM20がFLCOSを使用する場合には、SLM20の表面に配置された単一の偏光フィルタ(図示せず)によって実施可能である。SLM20がDMDを用いている場合、反射光路においてSLM20で変調された光のフィルタリングは、コンバイナー40の選択的角度反射性により、DMDでのオフ画素に対応する比較的高角度の光線を光路から排除することで実施可能である。
コンバイナー40の選択角度反射率は、コンバイナー40の表面で特定の波長を有する入射ライトフィールド100の限られた範囲の入射角度を反射するように調整されたブラッググレーティングによって得られる。ブラッググレーティングは、屈折率の異なる材料の多層蒸着や、ホログラム記録媒体の露光によって形成できる。また、ブラッググレーティングは、コンバイナー40の第1反射面43上、コンバイナー40の内部、又はコンバイナー40の反対側の表面に形成できる。
図6は、図5の実施形態の変形例態様を示し、ライトフィールド複合現実システムは、ピンライトアレイ10と、SLM20とを備え、コンバイナー40は、ホログラフィックパターンを備えるホログラフィック反射器46を備えている。ホログラフィック反射器46は、コンバイナー40の第1の反射面での反射時に、変調仮想ライトフィールド111の回折角が拒絶されるように構成可能である。例えば、ここでは、ホログラフィック反射器46は、回折フィルタとして機能する。
ライトフィールド生成は前の実施形態と同じであるが、コンバイナー40は、反射器46のホログラフィックパターンによる反射を提供する。ホログラフィックパターン46は、SLM20がDMDを使用する場合に、高次の回折角の反射及び「オフ状態」の角度の反射を拒絶するフィルタリングを実行可能である。
図7は、図5の実施形態の別の変形態様を示し、コンバイナー40はフレネル型素子48を備える。フレネル型素子48は、コンバイナー40の第1反射面43での反射の際に、変調仮想ライトフィールド111の回折角が拒絶されるように構成可能である。
フレネル反射器48は、概ね、楕円体の1つの焦点から別の焦点へと、変調仮想ライトフィールド111を反射する楕円体の半透明又は選択的に透明な表面を持つおろしのような(grated)面にできる。おろしのような面48は、可視光の大部分を透過し、ピンライトアレイ10及び投影仮想ライトフィールド110の波長を反射する2つの透明材料(図7に示すような)の間の境界面として埋め込み可能である。
代替的に又は組み合わせて、投影仮想ライトフィールド110の0次よりも高い回折成分が眼の瞳孔130に入らないように、SLM20の十分に小さいピッチを使用することで、ライトフィールド110の回折角を低減できる。
図8は、図3のライトフィールド型複合現実システムの構成の別の変形態様を示し、傾斜したマイクロミラー44の位置にピンライト10のピンライト仮想像120を形成する光学素子として機能する自由形状の反射器54を備えている。
図9は、図5のライトフィールド複合現実システムの構成のさらに別の変形例を示す図であり、コンバイナー40は、ホログラフィック又はフレネル型の選択的反射器46を備える。このライトフィールド複合現実システムは、投影仮想ライトフィールド100をSLM20に導き、それからコンバイナー40のフレネル型の選択反射器46に導く光学素子として機能する自由形状の反射器54をさらに備えている。反射器54とコンバイナー40のフレネル型の選択反射器46は、鑑賞者の瞳孔130の近くにピンライトの仮想画像120を形成する。
図3から図9の実施形態では、ピンライトアレイ10及びコンバイナー40は、投影軸線170に垂直な軸線171の一方の側に配置されている。空間光変調器20は、軸線171の対向する側に配置されている。この構成は、軽量小型のフォームファクターの着用可能な光フィールド複合現実システムに適している。
図10及び図11は、複合現実アプリケーション用の小型のフォームファクターの眼鏡に特に適したライトフィールド複合現実システムの別の実施形態を示す。この構成では、ピンライトアレイ10は、コンバイナー40を直接照らす。そして、ピンライトアレイ10は、ユースケースに応じて観察者の眼90の前又は後ろに配置可能な出射瞳122内でコンバイナー40によって画像化される。ピンライトアレイ10は、好ましくはコンバイナー40と出射瞳122との間に配置される。
本実施形態では、コンバイナー40は、第1反射面43を有するガラス基板47と、第1反射面43上に配置された光学光変調器20とを備えている。光変調器20は、その特定のピンライトアレイ10の位置から表示されなければならない画像に応じて、投影仮想ライトフィールド110の伝搬の局所的変更を可能にする。好ましくは、ピンライトアレイ10は、光変調器20を完全に照射する。
光学光変調器20は、所望のセルに電気信号を与えることによって、透過状態(図10の数字2aで表される)又は遮断状態(図10の数字2bで表される)に個別に設定可能なマイクロメートルサイズのセルの行列を備えることがある。各セルの透過状態又は遮断状態は、通常、数マイクロ秒以内に変化する。
光学光変調器20は、ゲルマニウムアンチモンテルル合金(Ge2Se2Te5)のように、結晶からアモルファス、及びその逆に、その相状態が電気的に可変な光学的相変化材料(O-PCM)で作られていることがある。また、光学光変調器20は、その位相状態が液体から結晶、及びその逆に電気的に可変な液晶材料で作られていることもある。
セルの透過状態では、ピンライトアレイ10から来る入射ライトフィールド100は、光学光変調器20を通過可能で、そしてガラス基板47によってアイボックス領域121に向かって反射可能であり、ライトフィールド複合現実システムが観察者に装着されている場合には、観察者の眼90に向かって反射可能である。セルの遮断状態では、ピンライトアレイ10から来る入射ライトフィールド100は、光変調器20を通過不能で、ガラス基板47によってアイボックス領域121に向かって反射不能である。
ガラス基板47の光学特性は、第1反射面43上又はコンバイナー40自体に微細構造パターンを用いることで達成できる。ガラス基板47の光学特性は、さらに、ピンライトアレイ10から来る入射ライトフィールド100を、アイボックス領域121(観察者の眼90の前)に位置するピンライト仮想像120に方向転換するために記録された体積ホログラムを使用することによって達成できる。
図11には、ピンライトアレイ10の3つの入射ライトフィールドピンライト100、100’及び100’’と、対応するピンライト仮想画像120、120’及び120’’が示されている。
ピンライトアレイ10で発生した複数の入射ライトフィールド100について、ガラス基板47と光変調器20とを備えるコンバイナー40での上述の反射(又は無反射)を合計することで、複数のピンライト仮想像121からなる出射瞳122が形成される。ライトフィールド型複合現実システムが観察者に装着された場合、出射瞳122は、観察者の眼球内、網膜上に位置する。
一実施形態では、ライトフィールド型複合現実システムは、着用可能な装置に備えられるものとなり得る。図12は、ライトフィールド型複合現実システムを構成する複合現実眼鏡25の可能な構成を示す。例えば、コンバイナー40は、レンズ24の一方に備えられてもよく、それぞれのレンズに備えられてもよい。ピンライトアレイ10及びSLM20は、テンプルのヒンジ部分又は別の部分に備えられてもよい。図示の例では、電池とサポート電子機器を備える追加ユニット81が、アイウェアコード23に設けられている。本発明のライトフィールド型複合現実システムは、度付きメガネや補正メガネなどの任意のメガネが備えるものにしてよい。
ピンライトアレイ10は、それぞれが入射ライトフィールドピンライト100を放つように構成された複数のピンライトを備えることがある。作動サブセットは、それぞれが入射ライトフィールドピンライト100を放出する複数の作動する点光源を備えることがある。非作動サブセットは、作動せず、入射ライトフィールドピンライト100を出さない他の点光源からなる。ピンライトアレイ10の点光源が作動サブセットにあることと、非作動サブセットにあることは、時間的に可変である。
ピンライトアレイ10において入射ライトフィールド100を発する作動点光源のサブセットを空間的かつ一時的に変更することによって、ピンライトアレイ10からの作動している入射ライトフィールド100のピンライト仮想像120が現れる出射瞳122の位置の移動、あるいはサイズの変更が可能である。任意の種類の視線追跡と組み合わせて、投影された情報の最大値が観察者の瞳孔91に入るように、出射瞳122を常に投影できる。
図13は、図1のものと同様のライトフィールド複合現実システムを示し、画像成分53は、投影仮想ライトフィールド110が、仮想シーンにおいて異なる光学的距離に配置された複数の物体によって生成されたかのように生成されるように、(SLMのような)光学光変調器20に表示される。例えば、投影仮想ライトフィールド110は、投影軸線170に沿って、出射瞳120からコンバイナー40に対向する方向(光学的に観察者の眼の後方)に離れて配置された仮想物体点54によって生成されたかのように生成される。仮想物体点54は、出射瞳120から異なる距離に配置されることがある。光学的変換は、(投影光線111の方向を決定する)作動しているピンライトに同期して順次表示される光学光変調器20の対応する位置に、仮想物体点54の(複数の)画像成分53を表示することによって行われる。
投影仮想ライトフィールド110は、したがって、光学光変調器20に表示された画像成分53のデジタル変換によって、仮想補正点58のような現実的なシーンから仮想補正ライトフィールド57に実行される任意の光学的変換の効果をシミュレート可能である。このように投影仮想ライトフィールド110により、アイボックス121と仮想補正点58を有する現実世界80(real word)の領域との間に配置された補正(及び処方の)レンズ56の効果をシミュレートできる。数字55は、コンバイナー40を介して投影された、入射した仮想補正ライトフィールド57の補正された光線に対応する。
図14aは、実施形態によるライトフィールド型複合現実システムの図示である。コリメートレンズ又は部分コリメートレンズ50と、ビームスプリッター60と、再結像レンズとのような複数の光学素子は、「光学」の箱(の絵)及び数字140で表現されている。光学140及び光変調器20は、入射ライトフィールド100を変調仮想ライトフィールド111及び/又は変調されてフィルタリングされた仮想ライトフィールド112に誘導し、光学的に変換する。ライトフィールド型複合現実システムは、光学光変調器20上に画像を作成する信号を、生成し、フォーマットし、エクスポートする表示制御電子機器141を備える。照明制御電子機器142は、ピンライトアレイ10の特定の点光源に特定の時間に依存した方法で電力を供給する信号を生成、フォーマット、及びエクスポートする。表示制御電子機器141と点光源制御電子機器142の間で送信される同期信号143は、どの画像成分が光変調器20上で照明されるかと、ピンライトアレイ10のどの特定の点光源によって照明されるかとを制御する。画像信号144は、光変調器20上に画像成分のシーケンスを作成する条件付きの電子信号を持つ。照明信号145は、点光源アレイ10の点光源からの発光のシーケンスを引き起こす条件付きの電子信号を持つ。
ライトフィールド型複合現実システムは、表示制御電子機器141を制御する視線追跡装置146をさらに備える。視線追跡装置146は、観察者の眼90の向きに関する情報を提供する一方で、表示制御電子機器141は、観察者の眼90の向きに応じた画像を提供する。投影仮想ライトフィールド110は、このようにして、観察者の眼90の向きに応じて、アイボックス(図14aには図示せず)内に投影される。
例えば、図14b及び図14cは、眼90と光学系140との間の2つの異なる距離について、観察者の眼90が下向きになっているときのライトフィールド複合現実システムを示している。図14d及び図14eは、眼90と光学系140との間の2つの異なる距離に対して、観察者の眼90が上向きになっているときのライトフィールド複合現実システムを示す。視線追跡装置146は、観察者の眼90の向きを検出し、表示制御電子機器141は、観察者の眼の向きに応じて、投影仮想ライトフィールド110の1部分をアイボックス(図示せず)内に提供するように光学系140を制御する。図14fは、視線追跡機能を備えたライトフィールド型複合現実システムの図14aから図14dを組み合わせた表現を示し、これにより、投影される情報の最大値が常にアイボックス121内にあるような方法で出射瞳122を投影可能である。
図15aから図15eはライトフィールド複合現実システムを示し、ここでは、視線追跡装置146は、移動するアイボックス及び観察者の視野(FOV)(実視野サイズ)を考慮するために表示制御電子機器141を制御するように、さらに構成されている。そのために、ライトフィールド複合現実システムは、狭いFOVでは高い角度解像度の画像を、広いFOVでは低い角度解像度の画像を用いて、投影仮想ライトフィールド110を生成するように構成されている。ライトフィールド複合現実システムは、仮想画像114の平面内で、また場合によっては投影軸線170に沿って、投影仮想ライトフィールド110の少なくとも1部分を空間的にずらすことによって、投影仮想ライトフィールド110と相互作用ように構成されたFOV光学装置(図示せず)を備えることがある。FOV光学装置は、偏向プリズム及び/又はオフセットレンズを備え、投影仮想ライトフィールド110を所定の角度だけ偏向可能である。FOV光学装置は、投影仮想ライトフィールド110の少なくとも1部分の仮想像114を投影軸線170に沿ってずらすように構成された結像レンズをさらに備えることがある。
図15aから図15cは、観察者の眼90が下向きの場合に、狭いFOVで高角解像度画像を有する投影仮想ライトフィールド110(図15c)、広いFOVで低角解像度画像を有する投影仮想ライトフィールド110(図15b)、及びその2つの組み合わせ(図15a)を生成するライトフィールド複合現実システムを示す。図15d及び図15eは、ライトフィールド型複合現実システムが、観察者の眼90が上向きの場合に、狭いFOVでは高角解像度の画像で(図15e)、高角解像度の画像と低角解像度の画像の組み合わせで(図15f)、投影仮想ライトフィールド110を投影している様子を示す。
狭いFOVを移動する部分を「中心窩で捉えたこと」と呼ぶ。これは、高解像度のライトフィールドを眼の焦点に投影する。投影仮想ライトフィールド110を順次投影すれば、広いFOV部分でもライトフィールドを提供できる。順次投影することで、狭いFOVと広いFOVの画像をつなぎ合わせられるようになる。広いFOV部分は、角度分解能や色分解能が低く、2色分解能のみの場合もある。
図16Aから図16Cは、ライトフィールド複合現実システムの例示的な構成を示し、コンバイナー40は、マイクロミラー44を持つ移動アイボックスを備える。移動アイボックス40は、視線追跡装置146によって制御され、投影仮想ライトフィールド110の1部分をアイボックス(図示せず)内に提供するように、観察者の眼90の向きに応じて移動する。
次に、本発明による別の観点からの実施形態を列挙する。
(1)光学光変調器を照らす入射ライトフィールドを生成する、ピンライトアレイと、
入射ライトフィールドを変調して変調仮想ライトフィールドを生成するように構成されている光学光変調器と、
変調仮想ライトフィールドを反射するように構成されていて、観察者の眼のアイボックス領域を投影軸線に沿って画定する、投影仮想ライトフィールドを投影するように構成されているコンバイナーと
を備える、観察者に着用されるライトフィールド複合現実システムにおいて、
投影仮想ライトフィールドが、投影軸線に沿って、
前記ピンライトアレイの出射瞳をアイボックスと光学光変調器の仮想画像との内側に形成し、
前記光学光変調器の仮想画像を、前記出射瞳の前に、すなわちコンバイナーと出射瞳の間に、出射瞳から15cmより短い距離で、又は出射瞳の後ろに、すなわちコンバイナーに対向する方向において出射瞳から離れて、さらに形成して、そして
投影仮想ライトフィールドと自然光との両方が、コンバイナーを経由してアイボックス内に投影されるように、現実世界からの自然光をアイボックスに透過するように、コンバイナーがさらに構成されている、ライトフィールド複合現実システム。
(2)光学光変調器は空間光変調器を備える、(1)に記載のライトフィールド複合現実システム。
(3)コンバイナーは、投影仮想ライトフィールドが複数の焦点の1つにて反射されるくぼんだ楕円体形状を持つ第1反射面を備える半透明な第1要素を備える、(1)に記載のライトフィールド複合現実システム。
(4)空間光変調器と組み合わせで仮想画像の位置を決定する、
コリメータと、ビームスプリッターと、再結像レンズとを備える(3)に記載のライトフィールド複合現実システム。
(5)仮想画像は、出射瞳の後ろである、(4)に記載のライトフィールド複合現実システム。
(6)仮想画像を出射瞳の前に形成するように構成されていて、コリメータの機能とピンライトアレイ再結像要素の機能とを組み合わせるレンズをさらに備える、(2)に記載のライトフィールド複合現実システム。
(7)仮想画像を光学光変調器とコンバイナーとの間に形成するように構成されているSLM再結像レンズを備える、(6)に記載のライトフィールド複合現実システム。
(8)投影仮想ライトフィールドを第1要素の第1反射面に向かって反射する実質的に平らな半透明の反射面を持つ半透明な第2要素をコンバイナーがさらに備える、(2)に記載のライトフィールド複合現実システム。
(9)第1要素と第2要素とは、自然光を観察者の眼に向かって透過する、(8)に記載のライトフィールド複合現実システム。
(10)コンバイナーは、第1反射面上の反射の間は仮想ライトフィールドの回折角度が拒絶されるように構成されているホログラフィ要素を備える、(2)に記載のライトフィールド複合現実システム。
(11)コンバイナーは、第1反射面上の反射の間は仮想ライトフィールドの回折角度が拒絶されるように構成されているフレネル型要素を備える、(2)に記載のライトフィールド複合現実システム。
(12)コンバイナーは、ピンライト仮想画像と一致するミラーのアレイを備え、ミラーは、傾斜されていて投影仮想ライトフィールドをアイボックス内に投影する、(2)に記載のライトフィールド複合現実システム。
(13)部分コリメータ及びピンライト再結像要素として機能するレンズを備える、(12)に記載のライトフィールド複合現実システム。
(14)ピンライト再結像要素として作用する再結像レンズを備える、(12)に記載のライトフィールド複合現実システム。
(15)コンバイナーは、自然光の全て又は大半の他の可視波長を透過しながら、仮想ライトフィールドの狭いスペクトラル帯を反射するように構成されている、(1)に記載のライトフィールド複合現実システム。
(16)ピンライトアレイとコンバイナーとは、投影軸線に垂直な軸線の一側に配置されていて、
光学光変調器は、軸線の前記一側に対向する側に配置されている、(1)に記載のライトフィールド複合現実システム。
(17)光学変調器は、コンバイナーの第1反射面上に備えられている、(3)に記載のライトフィールド複合現実システム。
(18)光学光変調器は、入射ライトフィールドが光学光変調器によってアイボックス領域に向かって反射される透過状態と、入射ライトフィールドが反射されない遮断状態とに各セルを設定可能である、セルの行列を備える、(17)に記載のライトフィールド複合現実システム。
(19)ピンライトアレイは、入射ライトフィールドピンライトを発する複数の作動点光源と、複数の非作動点光源とを備え、
ピンライトアレイにおける作動点光源及び非作動点光源の空間配置は、出射瞳の位置又はサイズを変えるように、時間で可変である、(1)に記載のライトフィールド複合現実システム。
(20)仮想補正点のような現実シーンからの仮想補正ライトフィールド上で、光学光変調器上に表示されている画像成分のデジタル変調によって実施される光学変調の効果を投影仮想ライトフィールドがシミュレートするように、画像成分は光学光変調器上に表示される、(1)に記載のライトフィールド複合現実システム。
(21)投影仮想ライトフィールドは、アイボックスと現実世界の領域との間に配置された補正レンズの効果をシミュレートできるようにする、(20)に記載のライトフィールド複合現実システム。
(22)投影仮想ライトフィールドが観察者の眼の向きに応じてアイボックス内に投影されるように、観察者の眼の向きについての情報を提供する視線追跡装置をさらに備える、(1)に記載のライトフィールド複合現実システム。
(23)視線追跡装置は、仮想画像の平面内にて、投影仮想ライトフィールドの少なくとも1部分を空間的にずらすようにさらに構成されている、(22)に記載のライトフィールド複合現実システム。
(24)視線追跡装置は、投影軸線に沿った投影仮想ライトフィールドの仮想画像の1部分をずらすようにさらに構成されている、(23)に記載のライトフィールド複合現実システム。
(25)光学光変調器を照らす入射ライトフィールドを生成するピンライトアレイと、
入射ライトフィールドを変調して変調仮想ライトフィールドを生成するように構成されている光学光変調器と、
変調仮想ライトフィールドを反射するように構成されていて、アイボックス領域を投影軸線に沿って画定する、投影仮想ライトフィールドを投影するように構成されているコンバイナーと
を備える、ライトフィールド複合現実システムにおいて、
投影仮想ライトフィールドが、投影軸線に沿って、
前記ピンライトアレイの出射瞳をアイボックスと光学光変調器の仮想画像との内側に形成し、
前記光学光変調器の仮想画像を、前記出射瞳の前に、すなわちコンバイナーと出射瞳の間に、出射瞳から15cmより短い距離で、又は出射瞳の後ろに、すなわちコンバイナーに対向する方向において出射瞳から離れて、さらに形成して、そして
投影仮想ライトフィールドと自然光との両方が、コンバイナーを経由してアイボックス内に投影されるように、現実世界からの自然光をアイボックスに透過するように、コンバイナーがさらに構成されている、ライトフィールド複合現実システムを備える、着用可能な装置。
(26)コンバイナーが少なくとも1つのレンズに備えられていて、ピンライトアレイと光学光変調器とが、テンプルのヒンジ又は別の部分に備えられている、複合現実メガネを備える、(25)に記載の着用可能な装置。
10 ピンライトアレイ
2a 透過状態
2b 遮断状態
20 光学光変調器、空間光変調器(SLM),
21 テンプル
22 ヒンジ
23 アイウェアコード
24 レンズ
25 複合現実メガネ
30 フーリエフィルタ
32 SLM再結像レンズ
40 コンバイナー
41 第1要素
42 第2要素
43 第1反射面
44 ミラーのアレイ
45 第2反射面
46 ホログラフィック又はフレネル反射器
47 ガラス基板
48 フレネル型のコンバイナー
50 コリメート又はコリメートレンズ
52 レンズ
53 画像成分
54 仮想物体点
55 補正された光線
56 仮想補正レンズv
57 仮想補正ライトフィールド
58 仮想補正点
60 ビームスプリッター
70 再結像レンズ
80 現実世界から来るライトフィールド
81 追加ユニット
90 観察者の眼
91 眼のレンズ
92 網膜
100 入射ライトフィールド
101、101’、101’’ ピン開口ライトフィールド
110 投影仮想ライトフィールド
111 変調仮想ライトフィールド
112 変調及びフィルタリングされた仮想ライトフィールド
114 仮想画像
114’ 第1仮想画像
120 ピンライト仮想画像
121 アイボックス領域
122 ピンライト仮想画像開口、出射瞳
130 瞳孔
140 光学
141 表示制御電子装置
142 照明制御電子装置
143 同期信号
144 画像信号
145 照明信号
146 視線追跡装置
170 投影軸線
171 投影軸線に直交する軸線

Claims (18)

  1. 光学光変調器を照らす入射ライトフィールドを生成する、ピンライトアレイと、
    入射ライトフィールドを変調して変調仮想ライトフィールドを生成するように構成されている光学光変調器と、
    変調仮想ライトフィールドを反射するように構成されていて、観察者の眼のアイボックス領域を投影軸線に沿って画定する、投影仮想ライトフィールドを投影するように構成されているコンバイナーと
    を備える、観察者に着用されるライトフィールド複合現実システムにおいて、
    投影仮想ライトフィールドが、投影軸線に沿って、
    前記ピンライトアレイの出射瞳をアイボックスと光学光変調器の仮想画像との内側に形成し、
    前記光学光変調器の仮想画像を、前記出射瞳の前に、すなわちコンバイナーと出射瞳の間に、出射瞳から15cmより短い距離で、又は出射瞳の後ろに、すなわちコンバイナーに対向する方向において出射瞳から離れて、さらに形成して、そして
    投影仮想ライトフィールドと自然光との両方が、コンバイナーを経由してアイボックス内に投影されるように、現実世界からの自然光をアイボックスに透過するように、前記コンバイナーがさらに構成されていて、
    前記コンバイナーは、投影仮想ライトフィールドが複数の焦点の1つにて反射されるくぼんだ楕円体形状を持つ第1反射面を備える半透明な第1要素を備え、
    前記ライトフィールド複合現実システムが、前記ピンライトアレイをコリメートそして再結像し、かつ仮想画像を出射瞳の前に形成するように構成されているレンズを備えているか、又は
    前記ライトフィールド複合現実システムが、前記ピンライトアレイをコリメートそして再結像するレンズと、仮想画像を出射瞳の後ろに形成するように構成されているSLM再結像レンズとを備えている、
    ライトフィールド複合現実システム。
  2. 前記光学光変調器が空間光変調器であって、前記空間光変調器と組み合わせで、出射瞳の後ろの仮想画像の位置を決定する、コリメータと、ビームスプリッターと、再結像レンズとを備える、請求項1に記載のシステム。
  3. 前記投影仮想ライトフィールドを前記第1要素の第1反射面に向かって反射する実質的に平らな半透明の反射面を持つ半透明な第2要素を前記コンバイナーがさらに備える、請求項1に記載のシステム。
  4. 前記第1要素と前記第2要素とは、自然光を観察者の眼に向かって透過する、請求項3に記載のシステム。
  5. 前記コンバイナーは、前記第1反射面上で反射がある間は、所定の回折角度の仮想ライトフィールドが遮断されるように構成されているホログラフィ要素を備える、請求項1に記載のシステム。
  6. 前記コンバイナーは、前記第1反射面上で反射がある間は、所定の回折角度の仮想ライトフィールドが遮断されるように構成されているフレネル型要素を備える、請求項1に記載のシステム。
  7. 前記コンバイナーは、自然光の全て又は大半の他の可視波長を透過しながら、仮想ライトフィールドの狭いスペクトラル帯を反射するように構成されている、請求項1に記載のシステム。
  8. 前記ピンライトアレイと前記コンバイナーとは、前記投影軸線に垂直な軸線の一側に配置されていて、
    前記光学光変調器は、前記軸線の前記一側に対向する側に配置されている、請求項1に記載のシステム。
  9. 前記光学変調器は、前記コンバイナーの前記第1反射面上に備えられている、請求項1に記載のシステム。
  10. 前記光学光変調器は、入射ライトフィールドが光学光変調器によって前記アイボックス領域(121)に向かって反射される透過状態と、入射ライトフィールドが反射されない遮断状態とに各セルを設定可能である、セルの行列を備える、請求項9に記載のシステム。
  11. 前記ピンライトアレイは、入射ライトフィールドピンライトを発する複数の作動点光源と、複数の非作動点光源とを備え、
    前記ピンライトアレイにおける作動点光源及び非作動点光源の空間配置は、出射瞳の位置又はサイズを変えるように、時間で可変である、請求項1に記載のシステム。
  12. 仮想補正点のような現実シーンからの仮想補正ライトフィールド上で、前記光学光変調器上に表示されている画像成分のデジタル変調によって実施される光学変調の効果を投影仮想ライトフィールドがシミュレートするように、画像成分は前記光学光変調器上に表示される、請求項1に記載のシステム。
  13. 投影仮想ライトフィールドは、アイボックスと現実世界の領域との間に配置された補正レンズの効果をシミュレートできるようにする、請求項12に記載のシステム。
  14. 投影仮想ライトフィールドが観察者の眼の向きに応じて前記アイボックス内に投影されるように、観察者の眼の向きについての情報を提供する視線追跡装置をさらに備える、請求項1に記載のシステム。
  15. 観察者の眼の向きに応じて、仮想画像の平面内にて、投影仮想ライトフィールドの少なくとも1部分を空間的にずらすため、前記投影仮想ライトフィールドと相互作用するようにさらに構成されているFOV光学装置を備える、請求項14に記載のシステム。
  16. 前記FOV光学装置は、観察者の眼の向きに応じて、投影軸線に沿った投影仮想ライトフィールドの仮想画像の少なくとも1部分をずらすようにさらに構成されている、請求項15に記載のシステム。
  17. 光学光変調器を照らす入射ライトフィールドを生成するピンライトアレイと、
    入射ライトフィールドを変調して変調仮想ライトフィールドを生成するように構成されている光学光変調器と、
    変調仮想ライトフィールドを反射するように構成されていて、観察者の眼のアイボックス領域を投影軸線に沿って画定する、投影仮想ライトフィールドを投影するように構成されているコンバイナーと
    を備える、ライトフィールド複合現実システムにおいて、
    投影仮想ライトフィールドが、投影軸線に沿って、
    前記ピンライトアレイの出射瞳をアイボックスと光学光変調器の仮想画像との内側に形成し、
    前記光学光変調器の仮想画像を、前記出射瞳の前に、すなわちコンバイナーと出射瞳の間に、出射瞳から15cmより短い距離で、又は出射瞳の後ろに、すなわちコンバイナーに対向する方向において出射瞳から離れて、さらに形成して、そして
    投影仮想ライトフィールドと自然光との両方が、コンバイナーを経由してアイボックス内に投影されるように、現実世界からの自然光をアイボックスに透過するように、前記コンバイナーがさらに構成されていて、
    前記コンバイナーは、投影仮想ライトフィールドが複数の焦点の1つにて反射されるくぼんだ楕円体形状を持つ第1反射面を備える半透明な第1要素を備え、
    前記ライトフィールド複合現実システムが、前記ピンライトアレイをコリメートそして再結像し、かつ仮想画像を出射瞳の前に形成するように構成されているレンズを備えているか、又は
    前記ライトフィールド複合現実システムが、前記ピンライトアレイをコリメートそして再結像するレンズと、仮想画像を出射瞳の後ろに形成するように構成されているSLM再結像レンズとを備えている
    ライトフィールド複合現実システムを備える、着用可能な装置。
  18. 前記コンバイナーが少なくとも1つのレンズに備えられていて、前記ピンライトアレイと前記光学光変調器とが、テンプルのヒンジ又は別の部分に備えられている、複合現実メガネを備える、請求項17に記載の着用可能な装置。
JP2021519564A 2019-01-31 2019-12-20 観察者に対する正しい単眼奥行き手がかりを持つライトフィールド複合現実システム Active JP7320057B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP19154832.0 2019-01-31
EP19154832 2019-01-31
PCT/IB2019/061156 WO2020157562A1 (en) 2019-01-31 2019-12-20 Light-field mixed reality system with correct monocular depth cues to a viewer

Publications (2)

Publication Number Publication Date
JP2022526054A JP2022526054A (ja) 2022-05-23
JP7320057B2 true JP7320057B2 (ja) 2023-08-02

Family

ID=65276039

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021519564A Active JP7320057B2 (ja) 2019-01-31 2019-12-20 観察者に対する正しい単眼奥行き手がかりを持つライトフィールド複合現実システム

Country Status (7)

Country Link
US (1) US20210382307A1 (ja)
EP (1) EP3918408A1 (ja)
JP (1) JP7320057B2 (ja)
KR (1) KR102603552B1 (ja)
CN (1) CN113383260B (ja)
IL (1) IL283806A (ja)
WO (1) WO2020157562A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11500460B2 (en) 2018-10-22 2022-11-15 Evolution Optiks Limited Light field device, optical aberration compensation or simulation rendering
US11966507B2 (en) 2018-10-22 2024-04-23 Evolution Optiks Limited Light field vision testing device, adjusted pixel rendering method therefor, and vision testing system and method using same
US11852813B2 (en) * 2019-04-12 2023-12-26 Nvidia Corporation Prescription augmented reality display
US12112665B2 (en) 2019-11-01 2024-10-08 Evolution Optiks Limited Light field device, variable perception pixel rendering method therefor, and variable perception system and method using same
US11823598B2 (en) 2019-11-01 2023-11-21 Evolution Optiks Limited Light field device, variable perception pixel rendering method therefor, and variable perception system and method using same
CN115956218A (zh) 2020-08-20 2023-04-11 见真实股份有限公司 近眼图像投影系统和包括所述近眼图像投影系统的可穿戴装置
US11880164B2 (en) 2021-01-04 2024-01-23 Electronics And Telecommunications Research Institute Module controlling viewing window, device for hologram display and method for displaying hologram
US11493773B2 (en) 2021-06-07 2022-11-08 Panamorph, Inc. Near-eye display system
CN115728947A (zh) * 2021-11-30 2023-03-03 华为技术有限公司 显示装置、电子设备以及交通工具
TW202403392A (zh) * 2021-12-04 2024-01-16 兆輝光電股份有限公司 用於近眼光場擴增實境顯示裝置
TWI812406B (zh) * 2022-08-16 2023-08-11 張朝凱 左右眼可分別微調出清晰的人工生成影像的增強現實裝置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001021853A (ja) 1999-07-06 2001-01-26 Fuji Xerox Co Ltd 映像表示装置
JP2008511874A (ja) 2004-09-01 2008-04-17 アプティカル リサーチ アソシエイツ 傾斜/偏心レンズ素子を有する小形ヘッド取付け表示装置
JP2012013908A (ja) 2010-06-30 2012-01-19 Konica Minolta Opto Inc 映像表示装置およびヘッドマウントディスプレイ
WO2012132289A1 (ja) 2011-03-25 2012-10-04 パナソニック株式会社 表示装置
US20160077336A1 (en) 2014-09-15 2016-03-17 Rolf R. Hainich Device and Method for the near-eye display of computer generated images
JP2016517036A (ja) 2013-03-25 2016-06-09 エコール・ポリテクニーク・フェデラル・ドゥ・ローザンヌ(ウペエフエル)Ecole Polytechnique Federale de Lausanne (EPFL) 多射出瞳頭部装着型ディスプレイのための方法および装置
US20170208314A1 (en) 2016-01-18 2017-07-20 Beijing Zhigu Rui Tuo Tech Co., Ltd. Light field display control method and apparatus, and light field display device
WO2018091984A1 (en) 2016-11-15 2018-05-24 Creal3D Sa Near-eye sequential light-field projector with correct monocular depth cues
CN108803295A (zh) 2018-06-14 2018-11-13 杭州光粒科技有限公司 大视场全息图的制作方法、显示系统及点阵光源

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5537253A (en) * 1993-02-01 1996-07-16 Honeywell Inc. Head mounted display utilizing diffractive optical elements
CN107329259B (zh) * 2013-11-27 2019-10-11 奇跃公司 虚拟和增强现实系统与方法
US10274731B2 (en) * 2013-12-19 2019-04-30 The University Of North Carolina At Chapel Hill Optical see-through near-eye display using point light source backlight
CN107438796B (zh) * 2014-12-26 2020-07-03 Cy视觉公司 头戴式显示装置、近眼显示装置和方法
US9964768B2 (en) * 2016-03-04 2018-05-08 Sharp Kabushiki Kaisha Head mounted display using spatial light modulator to generate a holographic image
WO2018057660A2 (en) * 2016-09-20 2018-03-29 Apple Inc. Augmented reality system
IL269042B2 (en) * 2017-03-09 2024-06-01 Univ Arizona Light field display is integrated in the head with integral imaging and relay optics
US11175505B2 (en) * 2018-09-24 2021-11-16 Intel Corporation Holographic optical elements for augmented reality devices and methods of manufacturing and using the same

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001021853A (ja) 1999-07-06 2001-01-26 Fuji Xerox Co Ltd 映像表示装置
JP2008511874A (ja) 2004-09-01 2008-04-17 アプティカル リサーチ アソシエイツ 傾斜/偏心レンズ素子を有する小形ヘッド取付け表示装置
JP2012013908A (ja) 2010-06-30 2012-01-19 Konica Minolta Opto Inc 映像表示装置およびヘッドマウントディスプレイ
WO2012132289A1 (ja) 2011-03-25 2012-10-04 パナソニック株式会社 表示装置
JP2016517036A (ja) 2013-03-25 2016-06-09 エコール・ポリテクニーク・フェデラル・ドゥ・ローザンヌ(ウペエフエル)Ecole Polytechnique Federale de Lausanne (EPFL) 多射出瞳頭部装着型ディスプレイのための方法および装置
US20160077336A1 (en) 2014-09-15 2016-03-17 Rolf R. Hainich Device and Method for the near-eye display of computer generated images
US20170208314A1 (en) 2016-01-18 2017-07-20 Beijing Zhigu Rui Tuo Tech Co., Ltd. Light field display control method and apparatus, and light field display device
WO2018091984A1 (en) 2016-11-15 2018-05-24 Creal3D Sa Near-eye sequential light-field projector with correct monocular depth cues
CN108803295A (zh) 2018-06-14 2018-11-13 杭州光粒科技有限公司 大视场全息图的制作方法、显示系统及点阵光源

Also Published As

Publication number Publication date
KR20210068047A (ko) 2021-06-08
US20210382307A1 (en) 2021-12-09
CN113383260B (zh) 2023-08-25
CN113383260A (zh) 2021-09-10
JP2022526054A (ja) 2022-05-23
WO2020157562A1 (en) 2020-08-06
EP3918408A1 (en) 2021-12-08
KR102603552B1 (ko) 2023-11-17
IL283806A (en) 2021-07-29

Similar Documents

Publication Publication Date Title
JP7320057B2 (ja) 観察者に対する正しい単眼奥行き手がかりを持つライトフィールド複合現実システム
JP7311581B2 (ja) 正しい単眼奥行き手がかりを持つニアアイシーケンシャルライトフィールドプロジェクタ
CN108700751B (zh) 使用空间光调制器生成全息图像的头戴式显示器
JP6769974B2 (ja) ウェアラブルヘッドアップディスプレイにおけるアイボックス拡張のためのシステム、機器、及び方法
CN105492957B (zh) 采用成对眼镜形式的图像显示设备
US20180084232A1 (en) Optical See-Through Head Worn Display
JP7569451B2 (ja) 高解像度ライトフィールド投影装置
EP3812827A1 (en) Display apparatus having wide viewing window
JP7437498B2 (ja) 中心窩投影を備えるライトフィールド仮想及び複合現実システム
CN110121671A (zh) 数据眼镜、用于数据眼镜的眼镜片和用于在视网膜上生成图像的方法
TW202235955A (zh) 具有注視點投影之光場虛擬及混合實境系統

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210803

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230320

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230626

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230721

R150 Certificate of patent or registration of utility model

Ref document number: 7320057

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150