JP2018526726A - 動的領域分解能を有する仮想/拡張現実システム - Google Patents

動的領域分解能を有する仮想/拡張現実システム Download PDF

Info

Publication number
JP2018526726A
JP2018526726A JP2018501878A JP2018501878A JP2018526726A JP 2018526726 A JP2018526726 A JP 2018526726A JP 2018501878 A JP2018501878 A JP 2018501878A JP 2018501878 A JP2018501878 A JP 2018501878A JP 2018526726 A JP2018526726 A JP 2018526726A
Authority
JP
Japan
Prior art keywords
generation system
resolution
end user
image generation
virtual image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018501878A
Other languages
English (en)
Other versions
JP6821646B2 (ja
JP2018526726A5 (ja
Inventor
ブライアン ティー. ショーウェンゲルト,
ブライアン ティー. ショーウェンゲルト,
ライオネル アーネスト エドウィン,
ライオネル アーネスト エドウィン,
イヴァン エル. ヨー,
イヴァン エル. ヨー,
アーロン シュエルケ,
アーロン シュエルケ,
サムエル エー. ミラー,
サムエル エー. ミラー,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Magic Leap Inc
Original Assignee
Magic Leap Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Magic Leap Inc filed Critical Magic Leap Inc
Publication of JP2018526726A publication Critical patent/JP2018526726A/ja
Publication of JP2018526726A5 publication Critical patent/JP2018526726A5/ja
Application granted granted Critical
Publication of JP6821646B2 publication Critical patent/JP6821646B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/08Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light
    • G02B26/10Scanning systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/50Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images the image being built up from image elements distributed over a 3D volume, e.g. voxels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • G06T15/205Image-based rendering
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0147Head-up displays characterised by optical features comprising a device modifying the resolution of the displayed image

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Human Computer Interaction (AREA)
  • Architecture (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Geometry (AREA)
  • Processing Or Creating Images (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

仮想画像生成システムおよび方法が、提供される。3次元場面の複数の合成画像フレームが、レンダリングされ、エンドユーザに連続して表示される。表示される画像フレームの各々は、非均一分解能分布を有する。一実施形態において、画像フレームを表示することは、画像フレームを走査することを含み、画像フレームの各々は、スパイラルパターンで走査され、非均一分解能分布は、半径方向に変動し、表示される画像フレームの各々は、異なる分解能を有する複数の個別領域を有する。

Description

本発明は、概して、1人以上のユーザのための双方向仮想または拡張現実環境を促進するように構成されるシステムおよび方法に関する。
現代のコンピューティングおよびディスプレイ技術は、いわゆる「仮想現実」または「拡張現実」体験のためのシステムの開発を促進しており、デジタル的に再現された画像またはその一部が、現実であるように見える様式、もしくはそのように知覚され得る様式でユーザに提示される。仮想現実(VR)シナリオは、典型的には、他の実際の実世界の視覚的入力に対する透明性を伴わずに、デジタルまたは仮想画像情報の提示を伴う一方、拡張現実(AR)シナリオは、典型的には、エンドユーザの周囲の実際の世界の可視化に対する拡張としてのデジタルまたは仮想画像情報の提示を伴う。
例えば、図1を参照すると、拡張現実場面4が、描写されており、AR技術のユーザは、背景における人々、木々、建物を特徴とする実世界公園状設定6と、コンクリートのプラットフォーム8とを見る。これらのアイテムに加え、AR技術のエンドユーザは、実世界プラットフォーム8上に立っているロボット像10と、マルハナバチの擬人化のように見え、飛んでいる漫画のようなアバタキャラクタ12とをエンドユーザが「見ている」と知覚するが、これらの要素10、12は、実世界には存在しない。結論からいうと、ヒトの視知覚系は、非常に複雑であり、他の仮想または実世界画像要素間における仮想画像要素の快適で、自然のような感覚で、かつ豊かな提示を促進するVRまたはAR技術を生成することは、困難である。
VRおよびARシステムは、典型的には、エンドユーザの頭部に少なくとも緩く装着され、したがって、ユーザの頭部が移動すると移動する頭部装着型ディスプレイ(またはヘルメット搭載型ディスプレイもしくはスマートグラス)を採用する。エンドユーザの頭部の運動が、ディスプレイシステムによって検出される場合、表示されているデータは、頭部の姿勢(すなわち、ユーザの頭部の向きおよび/または場所)の変化を考慮するように更新されることができる。
例として、頭部装着型ディスプレイを装着しているユーザが、3次元(3D)オブジェクトの仮想表現をディスプレイ上で視認し、3Dオブジェクトが現れるエリアの周囲を歩く場合、その3Dオブジェクトは、各視点に対して再レンダリングされ、エンドユーザに、実空間を占有するオブジェクトの周囲を歩いているという知覚を与えることができる。頭部装着型ディスプレイが、仮想空間内の複数のオブジェクト(例えば、豊かな仮想世界)を提示するために使用される場合、場面を再レンダリングして、エンドユーザの動的に変化する頭部の場所および向きに一致させ、仮想空間において増加した没入感を提供するために、頭部の姿勢の測定が使用されることができる。
AR(すなわち、実および仮想要素の同時視認)を可能にする頭部装着型ディスプレイは、いくつかの異なるタイプの構成を有することができる。多くの場合、「ビデオシースルー」ディスプレイと称される、1つのそのような構成では、カメラが、実際の場面の要素を捕捉し、コンピューティングシステムが、仮想要素を捕捉された実場面上に重ね、非透明ディスプレイが、複合画像を眼に提示する。別の構成は、多くの場合、「光学シースルー」ディスプレイと称され、エンドユーザは、ディスプレイシステム内の透明(または半透明)要素を通して見ることにより、環境内の実オブジェクトからの光を直接視認する
ことができる。多くの場合、「結合器」と称される透明要素は、実世界のエンドユーザのビューの上にディスプレイからの光を重ねる。
VRおよびARシステムは、典型的には、投影サブシステムと、エンドユーザの視野の正面に位置付けられ、投影サブシステムが画像フレームを連続して投影する、ディスプレイ表面とを有する、ディスプレイシステムを採用する。真の3次元システムでは、ディスプレイ表面の深度は、フレームレートまたはサブフレームレートにおいて制御されることができる。投影サブシステムは、その中に1つ以上の光源からの光が異なる色の光を定義されたパターンで放出する、1つ以上の光ファイバと、光ファイバを所定のパターンで走査し、エンドユーザに連続して表示される画像フレームを作成する、走査デバイスとを含み得る。
VRまたはARシステムは、ヒト視覚系と密接にインターフェースをとるので、各画像フレームの分解能は、正しい視覚的刺激を提供するために、ヒトの眼の分解能に一致することのみ必要である。この目的を達成するために、各画像フレームの分解能は、典型的には、ヒトの眼の最大分解能に設定される。しかしながら、任意の特定のシステムの走査周波数は、ソフトウェアおよびハードウェア限界の両方に起因して、画像フレーム分解能の関数であるので(すなわち、それぞれの画像フレームにおける周波数は、グラフィック的にレンダリングされ(ソフトウェア)、実際に、スキャナを介してエンドユーザに提示される(ハードウェア))、画像フレーム分解能をヒトの眼の最大分解能に一致させる試みは、エンドユーザの視聴体験を最適化しないこともある走査周波数をもたらすか、および/またはより高い分解能画像フレームを生成および提示するために要求される増加された処理および走査速度を実装するために必要なARまたはVRシステムの法外に高価なコンポーネント類を要求するかのいずれかであり得る制約をARおよびVRシステムに課す。
したがって、仮想現実または拡張現実環境において生成され、エンドユーザに提示する画像フレームの全体的分解能および/またはハードウェア/ソフトウェア処理コストを削減する必要性がある。
本発明の実施形態は、1人以上のユーザのために、仮想現実および/または拡張現実相互作用を促進するためのデバイス、システム、および方法を対象とする。
本発明の一実施形態によると、仮想画像生成システムを動作させる方法が、提供される。方法は、3次元場面の複数の合成画像フレームをレンダリングすることと、複数の画像フレームをエンドユーザに連続して表示することとを含む。
重要なこととして、表示される画像フレームの各々は、非均一分解能分布を有する。1つの方法では、画像フレームの各々は、非均一分解能分布を伴ってレンダリングされる。別の方法では、表示される画像フレームの各々は、均一分解能分布を伴ってレンダリングされ、その場合、それぞれの画像フレームを表示することは、非均一分解能分布をすでにレンダリングされた画像フレームの中に組み込むことを含む。表示される画像フレームの各々の分解能分布は、エンドユーザの眼の視力分布の傾きに一致する、またはさらにそれより大きい傾きを有し得る。それぞれの画像フレームは、例えば、非均一分解能分布が半径方向に変動するようにスパイラルパターンで、または非均一分解能分布が直線的に変動するようにラスタパターンで、画像フレームを走査することによって表示され得る。
1つの方法では、表示される画像フレームのうちの少なくとも2つは、異なる非均一分解能分布を有する。別の方法では、表示される画像フレームの各々は、異なる分解能を有する複数の個別領域(例えば、少なくとも3つ)を有する。個別領域は、例えば、環状、長方形、または扇形であり得る。さらに別の方法では、複数の個別領域は、最高分解能の領域を含み、その場合、方法はさらに、最高分解能の領域を互いに重複し得る複数の個別領域を有する視野テンプレートから選択することを含み得る。随意の実施形態では、複数の個別領域は、最高分解能の領域およびより低い分解能の領域を含み得、その場合、方法はさらに、より低い分解能の領域内で表示される画像フレームをぼかすことを含み得る。表示される画像フレームは、例えば、より低い分解能の領域内で隣接して表示される画像フレーム内の走査線をディザリングすることによって、またはより低い分解能の領域内で表示される画像フレームの焦点をぼかすことによって、ぼかされ得る。
随意の方法は、エンドユーザの視野内の眼の焦点を推定すること(例えば、エンドユーザの焦点を検出すること、またはエンドユーザの視野内の着目オブジェクトを識別することによって)と、推定される焦点に基づいて、表示される画像フレームの各々のための非均一分解能分布を生成することとを含む。非均一分解能分布の各々は、推定される焦点と一致する最高分解能の領域を有する。エンドユーザの推定される焦点は、エンドユーザの視野内の焦点範囲を提供する許容誤差を有し得、その場合、最高分解能の領域は、焦点範囲と交差し得る。
本発明の第2の実施形態によると、エンドユーザによる使用のための仮想画像生成システムが、提供される。仮想画像生成システムは、3次元場面を記憶しているメモリと、3次元場面の複数の合成画像フレームをレンダリングするために構成されている制御サブシステム(グラフィック処理ユニット(GPU)を備え得る)と、複数の画像フレームをエンドユーザに連続して表示するために構成されているディスプレイサブシステムとを備えている。
一実施形態では、ディスプレイサブシステムは、エンドユーザの眼の正面に位置付けられるために構成される。別の実施形態では、ディスプレイサブシステムは、投影サブシステムと、部分的に透明なディスプレイ表面とを含む。投影サブシステムは、画像フレームを部分的に透明なディスプレイ表面上に投影するために構成され、部分的に透明なディスプレイ表面は、エンドユーザの眼と周囲環境との間で視野内に位置付けられるために構成される。随意の実施形態では、仮想画像生成システムはさらに、エンドユーザによって装着されるために構成されているフレーム構造を備え、その場合、フレーム構造は、ディスプレイサブシステムを支持する。
重要なこととして、表示される画像フレームの各々は、非均一分解能分布を有する。一実施形態では、制御サブシステムは、画像フレームの各々を非均一分解能分布を伴ってレンダリングするために構成される。別の実施形態では、制御サブシステムは、画像フレームの各々を均一分解能分布を伴ってレンダリングするために構成され、その場合、ディスプレイサブシステムは、非均一分解能分布をすでにレンダリングされた画像フレームの中に組み込むことによって、それぞれの画像フレームを表示するために構成されるであろう。表示される画像フレームの各々の分解能分布は、エンドユーザの眼の視力分布の傾きに一致するか、またはさらにそれより大きい傾きを有し得る。ディスプレイサブシステムは、画像フレームを走査することによって、画像フレームを表示するために構成され得る。例えば、ディスプレイサブシステムは、スパイラルパターンで画像フレームの各々を走査するために構成され得、その場合、非均一分解能分布は、半径方向に変動する、またはラスタパターンで画像フレームを走査するために構成され得、その場合、非均一分解能分布は、直線的に変動する。
一実施形態では、表示される画像フレームのうちの少なくとも2つは、異なる非均一分解能分布を有する。別の実施形態では、表示される画像フレームの各々は、異なる分解能を有する複数の個別領域(例えば、少なくとも3つ)を有する。個別領域の形状は、例えば、環状、長方形、または扇形であり得る。複数の個別領域は、最高分解能の領域を含み得、その場合、制御サブシステムは、最高分解能の領域を互いに重複し得る複数の個別領域を有する視野テンプレートから選択するために構成され得る。複数の個別領域はまた、より低い分解能の領域を含み得、その場合、制御サブシステムは、より低い分解能の領域内で表示される画像フレームをぼかすために構成され得る。例えば、ディスプレイサブシステムが、表示される画像フレームの各々を走査するために構成される場合、ディスプレイサブシステムは、より低い分解能の領域内で隣接して表示される画像フレーム内の走査線をディザリングすることによって、表示される画像フレームをぼかすために構成され得る。または、ディスプレイサブシステムは、より低い分解能の領域内で表示される画像フレームの焦点をぼかすことによって、表示される画像フレームをぼかすために構成され得る。
随意の実施形態では、制御サブシステムは、エンドユーザの視野内の眼の焦点を推定し、推定される焦点に基づいて、表示される画像フレームの各々のための非均一分解能分布を生成するために構成される。非均一分解能分布の各々は、推定される焦点と一致する最高分解能の領域を有し得る。エンドユーザの推定される焦点は、エンドユーザの視野内の焦点範囲を提供する許容誤差を有し得、その場合、最高分解能の領域は、焦点範囲と交差するであろう。仮想画像生成システムはさらに、エンドユーザの焦点を検出するために構成されている1つ以上のセンサを備え得、その場合、制御サブシステムは、検出された焦点から焦点を推定するために構成され得る。または、制御サブシステムは、エンドユーザの視野内の着目オブジェクトを識別することによって、焦点を推定するために構成され得る。
本発明の追加のおよび他の目的、特徴、ならびに利点が、発明を実施するための形態、図、および請求項で説明される。
図面は、本発明の実施形態の設計および有用性を図示し、類似要素は、共通参照番号によって参照される。本発明の前述および他の利点ならびに目的が得られる方法をより深く理解するために、簡単に前述された本発明のより詳細な説明が、付随の図面に図示されるその具体的実施形態を参照することによって与えられるであろう。これらの図面は、本発明の典型的実施形態のみを描写し、したがって、その範囲の限定と見なされるべきではないことを理解した上で、本発明は、付随の図面の使用を通して追加の具体性および詳細とともに説明ならびに記載されるであろう。
図1は、従来技術の拡張現実生成デバイスによってエンドユーザに表示され得る3次元拡張現実場面の写真である。 図2は、本発明の一実施形態に従って構築される仮想画像生成システムのブロック図である。 図3は、図2の仮想画像生成システムによって生成される例示的フレームの平面図である。 図4は、フレームを生成するために使用され得る1つの走査パターンである。 図5は、フレームを生成するために使用され得る別の走査パターンである。 図6は、フレームを生成するために使用され得るさらに別の走査パターンの平面図である。 図7は、フレームを生成するために使用され得るさらに別の走査パターンである。 図8Aは、図2の仮想画像生成システムを装着するために使用され得る1つの技法の図である。 図8Bは、図2の仮想画像生成システムを装着するために使用され得る別の技法の図である。 図8Cは、図2の仮想画像生成システムを装着するために使用され得るさらに別の技法の図である。 図8Dは、図2の仮想画像生成システムを装着するために使用され得るさらに別の技法の図である。 図9aは、ヒトの眼の中心窩からの角度の関数としての桿体受容体および錐体受容体の数のプロットである。 図9bは、ヒトの眼の中心窩からの角度の関数としてのヒトの眼の視力のプロットである。 図10は、走査原点からの角度の関数としての従来の走査線密度分布のプロットである。 図11は、走査原点からの角度の関数としての走査線密度分布のプロットであり、走査線密度分布は、図2の仮想画像生成システムによって、図9bのヒトの視力分布に一致させられる。 図12aは、走査原点からの角度の関数としての従来の走査線密度分布およびスパイラル走査線密度分布のプロットであり、スパイラル走査線密度分布は、焦点が走査エリアの中心にあるとき、図2の仮想画像生成システムによって生成される。 図12bは、走査原点からの角度の関数としての従来の走査線密度分布およびスパイラル走査線密度分布のプロットであり、スパイラル走査線密度分布は、焦点が走査エリアの中心と走査エリアの外側縁との間の途中にあるとき、図2の仮想画像生成システムによって生成される。 図13は、走査原点からの角度の関数としての従来の走査線密度分布およびスパイラル走査線密度分布のプロットであり、スパイラル走査線密度分布は、焦点が走査エリアの中心と走査エリアの外側縁との間の途中にあるとき、図2の仮想画像生成システムによって5°の許容誤差を伴って生成される。 図14は、走査原点からの角度の関数としての従来の走査線密度分布、第1の走査線密度分布、および第2の走査線密度分布のプロットであり、第1の走査線密度分布は、図2の仮想画像生成システムによって図9bのヒトの視力分布に一致させられ、第2の走査線密度分布は、図9bのヒトの視力分布より急峻にされる。 図15は、走査原点からの角度の関数としての従来の走査線密度分布、第1の走査線密度分布、第2の走査線密度分布、および第3の走査線密度分布のプロットであり、第1の走査線密度分布は、許容誤差を有しておらず、図2の仮想画像生成システムによって図9bのヒトの視力分布に一致させられ、第2の走査線密度分布は、5°の許容誤差を有し、図9bのヒトの視力分布に一致させられ、第3の走査線密度分布は、5°の許容誤差を有し、図9bのヒトの視力分布より急峻にされる。 図16aは、図2の仮想画像生成システムによって走査エリアの1つの半径方向場所に高密度分解能領域を伴って生成されるスパイラル走査パターンのプロットである。図16bは、図2の仮想画像生成システムによって走査エリアの別の半径方向場所に高密度分解能領域を伴って生成されるスパイラル走査パターンのプロットである。 図17aは、焦点が走査エリアの中心にあるとき、図2の仮想画像生成システムによって個別走査線分解能領域を伴って生成されるスパイラル走査パターンのプロットである。 図17bは、焦点が走査エリアの周縁にあるとき、図2の仮想画像生成システムによって個別走査線分解能領域を伴って生成されるスパイラル走査パターンのプロットである。 図18aは、焦点が走査エリアの中心にあるとき、図2の仮想画像生成システムによって個別走査線分解能領域を伴って生成されるラスタ走査パターンのプロットである。 図18bは、焦点が走査エリアの周縁にあるとき、図2の仮想画像生成システムによって個別走査線分解能領域を伴って生成されるラスタ走査パターンのプロットである。 図19は、図2の仮想画像生成システムが焦点の場所に基づいて選択し得る、個別領域を有する視野テンプレートのプロットである。 図20aは、焦点が図19の視野テンプレートの中心にあるとき、図2の仮想画像生成システムによって個別走査線分解能領域を伴って生成されるスパイラル走査パターンのプロットである。 図20bは、焦点が図19の視野テンプレートの周縁にあるとき、図2の仮想画像生成システムによって個別走査線分解能領域を伴って生成されるスパイラル走査パターンのプロットである。 図21は、焦点が図19の視野テンプレートの周縁にあるとき、図2の仮想画像生成システムによって個別走査線分解能領域を伴って生成されるスパイラル走査パターンのプロットであり、高分解能領域は、扇形である。 図22は、図2の仮想画像生成システムを動作させ、非均一密度分布を伴う合成画像フレームをレンダリングし、エンドユーザに表示する方法のフロー図である。
続く説明は、仮想現実および/または拡張現実システムにおいて使用されるべきディスプレイシステムおよび方法に関する。しかしながら、本発明は、仮想または拡張現実システムにおける用途に有用であるが、本発明は、その最も広範な側面では、そのように限定されないこともあることを理解されたい。
図2を参照して、本発明に従って構築された仮想画像生成システム100の一実施形態が、ここで説明されるであろう。仮想画像生成システム100は、拡張現実サブシステムとして動作させられ、エンドユーザ50の視野内の物理的オブジェクトと混合された仮想オブジェクトの画像を提供し得る。仮想画像生成システム100を動作させるときの2つの基本アプローチが存在する。第1のアプローチは、1つ以上の撮像機(例えば、カメラ)を採用し、周囲環境の画像を捕捉する。仮想画像生成システム100は、仮想画像を周囲環境の画像を表すデータの中に混合させる。第2のアプローチは、1つ以上の少なくとも部分的に透明な表面を採用し、それを通して周囲環境が見られることができ、その上に仮想画像生成システム100が、仮想オブジェクトの画像を生成する。
仮想画像生成システム100および本明細書に教示される種々の技法は、拡張現実ならびに仮想現実サブシステム以外の用途でも採用され得る。例えば、種々の技法は、任意の投影もしくはディスプレイサブシステムに適用され得る。例えば、本明細書に説明される種々の技法は、移動が、頭部ではなく、エンドユーザの手によって行われ得るピコプロジェクタに適用され得る。したがって、多くの場合、拡張現実サブシステムまたは仮想現実サブシステムの観点から本明細書に説明されるが、本教示は、そのような使用のそのようなサブシステムに限定されるべきではない。
少なくとも拡張現実用途のために、種々の仮想オブジェクトをエンドユーザ50の視野内のそれぞれの物理的オブジェクトに対して空間的に位置付けることが望ましくあり得る。仮想オブジェクトは、本明細書では、仮想タグまたはコールアウトとも称され、多種多様な形態、基本的に、画像として表されることが可能な任意の種々のデータ、情報、概念、または論理構造のいずれかをとり得る。仮想オブジェクトの非限定的例として、仮想テキストオブジェクト、仮想数字オブジェクト、仮想英数字オブジェクト、仮想タグオブジェクト、仮想フィールドオブジェクト、仮想チャートオブジェクト、仮想マップオブジェクト、仮想計装オブジェクト、または物理的オブジェクトの仮想視覚表現が挙げられ得る。
この目的を達成するために、仮想画像生成システム100は、エンドユーザ50によって装着されるフレーム構造102と、ディスプレイサブシステム104がエンドユーザ50の眼52の正面に位置付けられるように、フレーム構造102によって支持されるディスプレイサブシステム104と、スピーカ106がエンドユーザ50の外耳道に隣接して位置付けられる(随意に、別のスピーカ(図示せず)がエンドユーザ50の他方の外耳道に隣接して位置付けられ、ステレオ/成形可能音制御を提供する)ように、フレーム構造102によって支持されるスピーカ106とを備えている。ディスプレイサブシステム104は、光ベースの放射パターンを提示するように設計され、光ベースの放射パターンは、エンドユーザ50の眼52に、高レベルの画質および3次元知覚を伴って、物理的現実に対する拡張として快適に知覚されることができ、かつ2次元コンテンツを提示可能であり得る。ディスプレイサブシステム104は、一続きの合成画像フレームを高周波数で提示し、単一コヒーレント場面の知覚を提供する。
図示される実施形態では、ディスプレイサブシステム104は、投影サブシステム108と、投影サブシステム108が画像を投影する部分的に透明なディスプレイ表面110とを備えている。ディスプレイ表面110は、エンドユーザ50の眼52と周囲環境との間のエンドユーザ50の視野内に位置付けられる。図示される実施形態では、投影サブシステム108は、1つ以上の光ファイバ112(例えば、単一モード光ファイバ)を含み、それらの各々がその中に光が受け取られる一端112aと、そこから光が部分的に透明なディスプレイ表面110に提供される別の端部112bとを有する。投影サブシステム108は、光を生成し(例えば、異なる色の光を定義されたパターンで放出し)、光を光ファイバ112の他端112aに通信可能に結合する1つ以上の光源114も含み得る。光源114は、多種多様な形態のいずれかをとり得、例えば、RGBレーザの組(例えば、赤色、緑色、および青色光を出力可能なレーザダイオード)であり、RGBレーザの組は、ピクセル情報またはデータのそれぞれのフレーム内に規定された定義されたピクセルパターンに従って、赤色、緑色、および青色のコヒーレントなコリメートされた光をそれぞれ生成するように動作可能である。レーザ光は、高色飽和を提供し、非常にエネルギー効率的である。
図示される実施形態では、ディスプレイ表面110は、導波管ベースのディスプレイの形態をとり、その中に光ファイバ112からの光が、光学結合配列(図示せず)を介して投入され、例えば、無限遠より近い単一光学視認距離(例えば、腕の長さ)における画像、複数の離散光学視認距離もしくは焦点面における画像、および/または複数の視認距離もしくは焦点面にスタックされ、立体3Dオブジェクトを表す画像層を生成する。明視野内のこれらの層は、ヒト視覚副系に一緒に連続して現れるように十分に近接してスタックされ得る(すなわち、一方の層は、隣接する層の乱信号円錐域内にある)。加えて、または代替として、写真要素が、2つ以上の層を横断して混成され、それらの層がより疎らにスタックされる場合(すなわち、一方の層は隣接する層の乱信号円錐域外にある)でも、明視野内の層間の遷移の知覚される連続性を増加させ得る。ディスプレイサブシステムは、単眼または双眼であり得る。
ディスプレイサブシステム104はさらに、制御信号に応答して、光ファイバ112を所定のパターンで走査する走査デバイス116を備え得る。例えば、図3を参照すると、ピクセル情報またはデータの合成画像フレーム118は、1つの図示される実施形態によると、画像、例えば、1つ以上の仮想オブジェクトの画像を提示するためのピクセル情報またはデータを規定する。フレーム118は、図式的に図示され、セル120a−120mが、水平行または列122a−122nに分割される。フレーム118の各セル120は、セル120が対応するそれぞれのピクセルのための複数の色および/または強度の各々のための値を規定し得る。例えば、フレーム118は、各ピクセルのために、赤色のための1つ以上の値124a、緑色のための1つ以上の値124b、および青色のための1つ以上の値124cを規定し得る。値124は、各色のためにバイナリ表現、例えば、各色のためにそれぞれの4ビット数として規定され得る。フレーム118の各セル120は、加えて、振幅を規定する値124dを含み得る。
フレーム118は、1つ以上のフィールド(集合的に126)を含み得る。フレーム118は、単一フィールドから成り得る。代替として、フレーム118は、2つまたはさらにより多くのフィールド126a−126bを備え得る。フレーム118の完全な第1のフィールド126aのためのピクセル情報は、完全な第2のフィールド126bのためのピクセル情報の前に規定され得、例えば、アレイ、順序付けられたリスト、または他のデータ構造(例えば、記録、リンクされたリスト)において第2のフィールド126bのためのピクセル情報の前に生じる。提示サブシステムが3つ以上のフィールド126a−126bをハンドリングするように構成されると仮定すると、第3またはさらに第4のフィールドが、第2のフィールド126bに続き得る。
ここで図4を参照すると、フレーム118は、ラスタ走査パターン128を使用して生成される。ラスタ走査パターン128では、ピクセル130(1つのみ指図されている)が、連続して提示される。ラスタ走査パターン128は、典型的には、左から右に、(矢印132a、132bによって示される)、そして、上から下に(矢印134によって示される)ピクセルを提示する。したがって、提示は、右上角から開始し、ラインの終了に到達するまで第1のライン136aを横断して左にトラバースし得る。ラスタ走査パターン128は、典型的には、次いで、次の下のラインにおいて左から開始する。提示は、1つのラインの終了から次のラインの開始まで戻るとき、一時的にブラックアウトまたはブランクにされ得る。このプロセスは、最下ライン136nが、例えば、最右下ピクセルにおいて完了するまで、ライン毎に繰り返される。フレーム118が完了すると、新しいフレームが、再び開始され、次のフレームの最上ラインの右に戻る。再び、提示は、次のフレームを提示するために左下から右上に戻る間、ブランクにされ得る。
ラスタ走査の多くの実装は、インターレース走査パターンと称されるものを採用する。インターレースラスタ走査パターンでは、第1および第2のフィールド126a、126bからのラインは、インターレースされる。例えば、第1のフィールド126aのラインを提示するとき、第1のフィールド126aのためのピクセル情報は、奇数ラインのためにのみ使用され得る一方、第2のフィールド126bのためのピクセル情報は、偶数ラインのためにのみ使用され得る。したがって、フレーム118(図3)の第1のフィールド126aのラインは全て、典型的には、第2のフィールド126bのラインの前に提示される。第1のフィールド126aは、第1のフィールド126aのピクセル情報を使用して提示され、ライン1、ライン3、ライン5等を連続して提示し得る。次いで、フレーム118(図3)の第2のフィールド126bは、第2のフィールド126bのピクセル情報を使用することによって、第1のフィールド126aに続いて提示され、ライン2、ライン4、ライン6等を連続して提示し得る。
図5を参照すると、スパイラル走査パターン140が、ラスタ走査パターン128の代わりに使用され、フレーム118を生成し得る。スパイラル走査パターン140は、単一のスパイラル走査ライン142から成り得、単一のスパイラル走査ライン142は、1つ以上の完全な角度サイクル(例えば、360度)を含み得、完全な角度サイクルは、コイルまたはループとして実証され得る。図4に図示されるラスタ走査パターン128と同様に、スパイラル走査パターン140におけるピクセル情報は、角度が増えるにつれて、各連続的なピクセルの色および/または強度を規定するために使用される。振幅または半径方向値146は、スパイラル走査ライン142の開始点148からの半径方向寸法を規定する。
図6を参照すると、リサージュ走査パターン150が、代替として、使用され、フレーム118を生成し得る。リサージュ走査パターン150は、単一のリサージュ走査ライン152から成り得、単一のリサージュ走査ライン152は、1つ以上の完全な角度サイクル(例えば、360度)を含み得、完全な角度サイクルは、コイルまたはループとして実証され得る。代替として、リサージュ走査パターン150は、各々がリサージュ走査ライン152をネスト化するように互いに対して位相シフトされる2つ以上のリサージュ走査ライン152を含み得る。ピクセル情報は、角度が増えるにつれて、各連続的なピクセルの色および/または強度を規定するために使用される。振幅または半径方向値は、リサージュ走査ライン152の開始点156からの半径方向寸法154を規定する。
図7を参照すると、マルチフィールドスパイラル走査パターン158が、代替として、使用され、フレーム118を生成し得る。マルチフィールドスパイラル走査パターン158は、2つ以上の異なるスパイラル走査ライン(集合的に、160)、具体的には、4つのスパイラル走査ライン160a−160dを含む。各スパイラル走査ライン160のためのピクセル情報は、フレームのそれぞれのフィールドによって規定され得る。有利には、複数のスパイラル走査ライン160は、スパイラル走査ライン160の各連続するもの間の位相を単にシフトさせることによってネスト化され得る。差異スパイラル走査ライン160間の位相は、採用されるであろうスパイラル走査ライン160の総数の関数となるはずである。例えば、4つのスパイラル走査ライン160a−160dは、90度位相シフトによって分離され得る。例示的実施形態は、10の異なるスパイラル走査ライン(すなわち、サブスパイラル)を伴って、100Hzリフレッシュレートで動作し得る。図5の実施形態と同様に、1つ以上の振幅または半径方向値は、スパイラル走査ライン160の開始点164からの半径方向寸法162を規定する。
図2に戻って参照すると、仮想画像生成システム100はさらに、エンドユーザ50の頭部54の位置および移動ならびに/またはエンドユーザ50の眼の位置および眼間距離を検出するために、フレーム構造102に搭載される1つ以上のセンサ(図示せず)を備えている。そのようなセンサは、画像捕捉デバイス(カメラ等)、マイクロホン、慣性測定ユニット、加速度計、コンパス、GPSユニット、無線デバイス、および/またはジャイロスコープ)を含み得る。
図2に戻って参照すると、仮想画像生成システム100はさらに、エンドユーザ50の頭部54の位置および移動ならびに/またはエンドユーザ50の眼の位置および眼間距離を検出するために、フレーム構造102に搭載される1つ以上のセンサ(図示せず)を備えている。そのようなセンサは、画像捕捉デバイス(カメラ等)、マイクロホン、慣性測定ユニット、加速度計、コンパス、GPSユニット、無線デバイス、および/またはジャイロスコープ)を含み得る。
例えば、一実施形態では、仮想画像生成システム100は、1つ以上の慣性変換器を含み、エンドユーザ50の頭部54の移動を示す慣性尺度を捕捉する、頭部装着型変換器サブシステム126を備えている。そのようなものは、エンドユーザ50の頭部の移動についての情報を感知、測定、または収集するために使用され得る。例えば、そのようなものは、エンドユーザ50の頭部54の測定移動、速度、加速度、および/または位置を検出するために使用され得る。
仮想画像生成システム100はさらに、1つ以上の前向きカメラ128を備え、これは、エンドユーザ50が位置する環境についての情報を捕捉するために使用され得る。前向きカメラ128は、その環境およびその環境内の特定のオブジェクト、に対するエンドユーザ50の距離および向きを示す情報を捕捉するために使用され得る。頭部装着型であるとき、前向きカメラ128は、特に、エンドユーザ50が位置する環境およびその環境内の特定のオブジェクト、に対するエンドユーザ50の頭部54の距離および向きを示す情報を捕捉するために好適である。前向きカメラ128は、例えば、頭部の移動、頭部の移動の速度、および/または加速を検出するために採用され得る。前向きカメラ128は、例えば、少なくとも部分的に、エンドユーザ50の頭部54の向きに基づいて、例えば、エンドユーザ50の注意の中心を検出または推測するために採用され得る。向きは、任意の方向(例えば、エンドユーザ50の基準フレームに対して上/下、左、右)に検出され得る。
仮想画像生成システム100はさらに、一対の後向きカメラ129を備え、エンドユーザ50の眼52の移動、瞬き、および焦点深度を追跡する。そのような眼追跡情報は、例えば、光をエンドユーザの眼に投影し、その投影された光の少なくとも一部の戻りまたは反射を検出することによって、判別され得る。仮想画像生成システム100はさらに、患者の向き検出モジュール130を備えている。患者の向きモジュール130は、エンドユーザ50の頭部54の瞬時位置を検出し、センサから受信された位置データに基づいて、エンドユーザ50の頭部54の位置を予測し得る。有意には、エンドユーザ50の頭部54の瞬時位置の検出は、エンドユーザ50が見ている特定の実際のオブジェクトの決定を促進し、それによって、その実際のオブジェクトのために生成されるべき具体的テキストメッセージの指示を提供し、さらに、テキストメッセージがストリーミングされるべきテキスト領域の指示を提供する。患者の向きモジュール130はまた、センサから受信された追跡データに基づいて、エンドユーザ50の眼52を追跡する。
仮想画像生成システム100はさらに、多種多様な形態のいずれかをとり得る制御サブシステムを備えている。制御サブシステムは、いくつかのコントローラ、例えば、1つ以上のマイクロコントローラ、マイクロプロセッサまたは中央処理ユニット(CPU)、デジタル信号プロセッサ、グラフィック処理ユニット(GPU)、他の集積回路コントローラ、例えば、特定用途向け集積回路(ASIC)、プログラマブルゲートアレイ(PGA)、例えば、フィールドPGA(FPGAS)、および/またはプログラマブル論理コントローラ(PLU)を含む。
図示される実施形態では、仮想画像生成システム100は、中央処理ユニット(CPU)132と、グラフィック処理ユニット(GPU)134と、1つ以上のフレームバッファ136とを備えている。CPU132は、全体的動作を制御する一方、GPU134は、遠隔データリポジトリ150内に記憶される3次元データからフレームをレンダリングし(すなわち、3次元場面を2次元画像に変換し)、これらのフレームをフレームバッファ136内に記憶する。図示されないが、1つ以上の追加の集積回路が、フレームのフレームバッファ136の中への読み込みおよび/またはそこからの読み取りならびにディスプレイサブシステム104の走査デバイスの動作を制御し得る。フレームバッファ146の中への読み込みおよび/またはそこからの読み取りは、動的アドレス指定を採用し得、例えば、フレームは、オーバーレンダリングされる。仮想画像生成システム100はさらに、読み取り専用メモリ(ROM)138と、ランダムアクセスメモリ(RAM)140とを備えている。仮想画像生成システム100はさらに、3次元データベース142を備え、そこからGPU134は、フレームをレンダリングするために1つ以上の場面の3次元データにアクセスすることができる。
仮想画像生成システム100の種々の処理コンポーネントは、分散型サブシステム内に物理的に含まれ得る。例えば、図8a−8dに図示されるように、仮想画像生成システム100は、有線導線または無線接続性146等によって、ディスプレイサブシステム104およびセンサに動作可能に結合されるローカル処理およびデータモジュール144を備えている。ローカル処理およびデータモジュール144は、フレーム構造102に固定して取り付けられ(図8a)、ヘルメットもしくは帽子56に固定して取り付けられ(図8b)、ヘッドホン内に埋設され、エンドユーザ50の胴体58に除去可能に取り付けられ(図8c)、またはベルト結合式構成においてエンドユーザ50の腰60に除去可能に取り付けられる(図8d)等、種々の構成で搭載され得る。仮想画像生成システム100はさらに、有線導線または無線接続性150、152等によって、ローカル処理およびデータモジュール144に動作可能に結合される遠隔処理モジュール148および遠隔データリポジトリ150を備え、これらの遠隔モジュール148、150は、互いに動作可能に結合され、ローカル処理およびデータモジュール144に対してリソースとして利用可能である。
ローカル処理およびデータモジュール144は、電力効率的プロセッサまたはコントローラとフラッシュメモリ等のデジタルメモリとを備え得、両方とも、センサから捕捉されたデータ、および/または、おそらく、そのような処理または読み出し後、ディスプレイサブシステム104への通過のために遠隔処理モジュール148および/または遠隔データリポジトリ150を使用して取得ならびに/もしくは処理されたデータの処理、キャッシュ、および記憶を補助するために利用され得る。遠隔処理モジュール148は、データおよび/または画像情報を分析ならびに処理するように構成される1つ以上の比較的に強力なプロセッサまたはコントローラを備え得る。遠隔データリポジトリ150は、比較的に大規模なデジタルデータ記憶設備を備え得、これは、インターネットまたは「クラウド」リソース構成における他のネットワーキング構成を通して利用可能であり得る。一実施形態では、全データが記憶され、ローカル処理およびデータモジュール144において全計算が行われ、任意の遠隔モジュールからの完全に自律的使用を可能にする。
前述の種々のコンポーネント間の結合146、152、154は、有線もしくは光学通信を提供するための1つ以上の有線インターフェースもしくはポート、または無線通信を提供するためのRF、マイクロ波、およびIR等を介した1つ以上の無線インターフェースもしくはポートを含み得る。いくつかの実装では、全ての通信は、有線であり得る一方、他の実装では、全ての通信は、無線であり得る。なおもさらなる実装では、有線および無線通信の選択は、図8a−8dに図示されるものと異なってもよい。したがって、有線または無線通信の特定の選択は、限定と見なされるべきではない。
図示される実施形態では、患者の向きモジュール130は、ローカル処理およびデータモジュール144内に含まれる一方、CPU132およびGPU134は、遠隔処理モジュール148内に含まれるが、代替実施形態では、CPU132、GPU124、またはその一部は、ローカル処理およびデータモジュール144内に含まれ得る。3Dデータベース142は、遠隔データリポジトリ150に関連付けられることができる。
本発明に重要なこととして、仮想画像生成システム100は、3次元場面の複数の合成画像フレームをレンダリングし、非均一分解能分布を伴うそれらをエンドユーザ50に連続して表示する、動的分解能領域技法を行う。例証される実施形態では、表示される画像フレームの各々の分解能分布は、エンドユーザ50の眼54の視力分布に一致する、またはさらにそれより急峻である。例えば、図9a−9bを参照すると、ヒトの眼の網膜上では、光受容体細胞の分布は、桿体細胞55に対する光受容体曲線、および錐体細胞57に対する光受容体曲線によって表されるように、非常に非均一である。図9aに図示されるように、網膜の中心領域(中心窩)(0°)は、錐体細胞の最高密度を含み、網膜の中心領域は、図9bにおける視力曲線59によって図示されるように、最高視力を提供する。錐体細胞の密度、したがって、視力は、中心窩から離れるにつれて領域内で急速に低下する。
故に、仮想画像生成システム100によって行われる動的分解能領域技法は、エンドユーザ50の眼54の予期または推測される焦点と一致するフレームの各々において最高分解能の領域を配置することを試みる。したがって、ハードウェア(スキャナ速度)および/またはソフトウェア制約(フレームレンダリング速度)に起因して、エンドユーザ50の視野全体を高密度に取り込むフレームを出力することができない仮想画像生成システムのためにも、システムは、エンドユーザ50の眼54の焦点が、常時、最高分解能の領域内にあるように、各フレームのプロファイルの分解能を動的に変化させることによって高画質を提供することができることを理解されたい。走査デバイスが各フレームをエンドユーザ50に提示するために使用される図示される実施形態では、フレーム内の任意の特定の領域の分解能は、その領域内の走査線密度を調節することによって調節され、それによって、画質に実質的損失を伴わずに、フレームをより効率的に表示するであろう。
例えば、均一走査線密度分布61が図10におけるように仮定される場合、眼が集中させられない高走査線密度は、無駄となる。特に、集中眼中心窩視力を前提として、眼が75度視野(±35度)内の0度に集中させられる場合、走査エリアの中心から離れた周辺領域(例えば、±10−35度)における走査線密度は、必要なものより高くなり、フレームの表示に非効率性をもたらすであろう。
代わりに、走査線密度分布63が、図11に図示されるように、ヒトの視力分布59に一致させられる場合、走査エリアの中心から離れた周辺領域における走査線密度は、実質的に低下させられ、それによって、走査線/フレーム要件の制約が有意に緩和されることを可能にすることができる。曲線が図11におけるヒトの眼の視力分布グラフに適合される場合、結果として生じる方程式は、
となり、fは、分布密度であり、θは、中心窩中心からの度単位における角度偏心である。
眼が走査エリアの中心に集中させられる場合、スパイラル走査パターンを仮定すると、走査線密度分布65は、図12aに図示されるように、ヒトの視力分布59に一致し、眼が走査エリアの中心と走査エリアの外側縁との間の途中に集中させられる場合、スパイラル走査の円対称性に起因して、走査線密度分布67は、図12bに図示されるように、ヒトの視力分布59に一致するであろう。着目すべきこととして、図12aおよび12bにおけるグラフのY−軸上の線密度は、線数/度の「単位」として表される。フレームあたり必要とされる総線は、走査エリアにわたって走査線分布曲線下面積を積分することによって計算されることができる。
したがって、走査線密度分布を動的に変化させる目的は、エンドユーザ52の眼54の中心窩を高密度走査領域内に維持することであることを理解されたい。一実施形態では、視野内の眼の焦点が、検出され、高密度走査領域は、それが検出された焦点と一致したままであり、それによって、眼の中心窩を高密度走査領域の中心に維持するように動的に変化させられる。別の実施形態では、高密度走査領域は、それがエンドユーザ50の視野内で着目オブジェクト(仮想または実際のいずれか)と一致したままであるように動的に変化させられる。この場合、エンドユーザの焦点50は、着目オブジェクト上にあり、および/またはエンドユーザ50の視野内の任意の他のオブジェクトは、重要ではないか、または存在しないかのいずれかであり、したがって、これらのエリア内の低下させられた走査分解能で十分となるであろうと仮定される。
中心窩を走査線密度分布の高分解能部分下に保つために、許容誤差が、走査線密度分布内に含まれ、例えば、眼追跡における不正確性および/または眼追跡における待ち時間、頭部姿勢、レンダリング、およびリフレッシュレートを考慮し得る。300°/秒の最大頭部角速度および60フレーム/秒更新(眼追跡更新、姿勢、レンダリング、またはリフレッシュレート間で最低速)に対して、10°の許容誤差(左右5°)が、眼中心窩を走査線密度分布の高分解能部分下に保つために必要とされる。150°/秒の最大頭部角速度および60フレーム/秒更新(眼追跡更新、姿勢、レンダリング、またはリフレッシュレート間で最低速)に対して、5°の許容誤差(左右2.5°)が、眼中心窩を走査線密度分布の高分解能部分下に保つために必要とされる。10°の許容誤差が図12bの走査線分布グラフ内に含まれる場合、走査線密度分布曲線67は、図13に示されるように拡張するであろう。
着目すべきこととして、許容誤差が大きくなるほど、動的領域分解能技法は、あまり効率的ではなくなる。したがって、動的領域分解能技法の効率を最大化するために、仮想画像生成システム100は、異なる使用例、用途、および/または期間で変動し得る仮定された眼角速度プロファイルに基づいて、許容誤差を動的に変化させ得る。例えば、書籍を読んでいるとき、眼の移動は、300°/秒よりはるかにゆっくりであり、デジタル絵画を鑑賞しているとき、眼は、その期間にわたってほぼ静止している。許容誤差を動的にすることによって、許容誤差は、時々ゼロに低減させられ、最高有効分解能をもたらすことができる。例えば、以下でさらに議論されるように、許容誤差が0であるとき、動的領域分解能技法が採用されるときの分解能は、動的領域分解能技法が採用されないときの分解能の約2.8倍であり得る。
動的分解能領域技法は、ヒトの視力分布59に正確に一致させる代わりに、図14に図示されるように、走査密度分解能分布曲線69をヒトの視力分布曲線59より急峻にすることによって、より効率的にされ得る。この方法において、網膜分解能が、中心領域に得られる一方、サブ網膜分解能は、周辺領域に得られる。したがって、非常に高い分解能が、視野内の他の場所におけるより低い分解能を犠牲として、視野の焦点領域内で達成される。
ここで図15を参照すると、異なる走査線分解能プロファイルを使用するときの動的分解能領域技法の効率が、比較されることができる。ここで示されるように、均一走査線密度を使用する従来の走査技法から生じる走査曲線170a、許容誤差を伴わずにヒトの視力分布曲線172に一致する動的分解能領域技法から生じる走査曲線170b、10°許容誤差を伴ってヒトの視力分布曲線172に一致する動的分解能領域技法から生じる走査曲線170c、10°許容誤差を伴ってヒトの視力分布曲線172より急峻な動的分解能領域技法から生じる走査曲線170dが比較される。走査曲線170b−170dのピークまたはプラトーは、ヒトの視力分布曲線172のピーク未満であるが、走査曲線170b−170cは、走査曲線170b−170cの傾きが視力分解能曲線の傾きに等しいという点において、ヒトの視力分布曲線172に一致し、走査曲線170dは、走査曲線170dの傾きがヒトの視力分布曲線172の傾きを上回るという点において、ヒトの視力分布曲線172より急峻であることに留意されたい。
70°走査エリアを横断して走査曲線170下を積分することは、走査曲線170aに対して70線数/フレーム、走査曲線170bに対して25.2線数/フレーム、走査曲線170cに対して41.3線数/フレーム、および走査曲線170dに対して20.1線数/フレームをもたらす。これは、動的分解能領域技法のための増加したフレーム/秒(FPS)になり、特に、許容誤差を伴わない視力分解能に一致する動的分解能領域技法のためのFPS(走査曲線170b)は、従来の走査技法のためのFPS(走査曲線170a)の2.8倍に等しく、10°許容誤差を伴う視力分解能に一致する動的分解能領域技法のためのFPS(走査曲線170c)は、従来の走査技法のためのFPS(走査曲線170a)の1.7倍に等しく、10°許容誤差を伴う視力分解能より急峻である動的分解能領域技法のためのFPS(走査曲線170d)は、従来の走査技法のためのFPS(走査曲線170a)の3.5倍に等しい。
前述に基づいて、動的分解能領域技法を利用することによって、フレームを表示するために要求される要求走査線は、実質的に低減させられ、フレーム走査レートを増加させ、および/または要求されるスキャナ周波数を低下させる潜在性を提供し、それによって、利用可能な機械/光学スキャナ設計オプションを増加させることができることを理解されたい。前述から、フレームレンダリング速度も低減させられることができることも理解されたい。例えば、各フレームは、非均一分解能分布(例えば、視力分解能に一致するもの)を用いてレンダリングされ、次いで、レンダリングされた通りにエンドユーザ50に正確に表示されることができる。フレームをレンダリングするために要求されるピクセルの数が減少されたので、フレームをレンダリングするために要求される時間の量も、それに応じて、フレーム走査レートの増加および/またはスキャナ周波数の低下を伴い、短縮されることができる。代替として、各フレームは、均一分解能分布を伴ってレンダリングされることができ、その場合、非均一分解能分布は、走査プロセス中、レンダリングされたフレーム内のあるピクセルを無視することによって、フレームの中に組み込まれることができる。
いくつかの動的分解能領域技法の理論および利点が説明されたので、ここで、動的分解能領域技法の実装が、説明されるであろう。
一実施形態では、スパイラル走査パターンが画像フレーム内で使用されると仮定すると、走査線は、図16a−16bに図示されるように、同心線200として単純に表されることができる。簡略化および明確化の目的のために、6つの同心走査線200のみが図示されるが、実際は、より多くの走査線が使用され得ることを理解されたい。エンドユーザ50が視野内の点202aに集中させられていると推測される場合、フレーム内の最高走査線密度は、より高密度に間隔を置かれる走査線200b−dによって表されるように、点202aに隣接して使用され、フレーム内のより低い走査密度は、より疎らに間隔を置かれる走査線200aおよび200e−fによって表されるように、点202aから離れた領域で使用されるであろう(図16a)。エンドユーザ50が、今度は、点202bに集中させられていると推測される場合、フレーム内の最高走査線密度は、より高密度に間隔を置かれる走査線200d−fによって表されるように、隣接する点202bに隣接する領域内で使用され、フレーム内のより低い走査密度は、より疎らに間隔を置かれる走査線200a−cによって表されるように、点202bから離れた領域内で使用されるであろう(図16b)。したがって、最高線密度の領域を動的に移動させ、エンドユーザ50の焦点に従うことによって、画像フレームの品質は、概して、同一走査線数を使用して増加され得ることを理解されたい。
一実施形態では、走査線密度の相違は、視野にわたり連続的である(すなわち、隣接する対の走査線間の間隔は、互いから異なるであろう)。しかしながら、1つの望ましい実施形態では、視野にわたる走査線密度の相違は、個別的である。すなわち、各画像フレームは、異なる分解能を有する複数の個別領域を有する。
例えば、スパイラル走査パターンを仮定すると、画像フレームは、図17a−17bに図示されるように、5つの環状の個別領域204a−204eを有し得る。エンドユーザ50が点206aによって示される視野の中心に集中させられていると推測される場合、最高分解能領域は、例えば、204aであり、残りの周辺領域204b−204eは、204bから開始し、次いで、204c、次いで、204d、最後に、204eとなる、低下分解能を有するであろう(図17a)。対照的に、エンドユーザ50が点206dによって示される視野の周縁に集中させられていると推測される場合、最高分解能領域は、例えば、204dであり(図17b)、残りの周辺領域204b−204eは、204cおよび204eから開始し、次いで、204b、最後に、204aとなる、低下分解能を有するであろう。着目すべきこととして、図17aおよび17bに図示される個別領域204の分解能プロファイルは、図9bに図示される視力分布に従っている。すなわち、個別領域の分解能は、プロファイルの中心からの視力の量に実質的に一致するレートで焦点に関連付けられた最高分解能個別領域から低下するであろう。
別の実施例として、ラスタ走査パターンを仮定すると、画像フレームは、図18a−18bに図示されるように、5つの長方形個別領域208a−208iを有し得る。エンドユーザ50が点210aによって示される視野の中心に集中させられていると推測される場合、最高分解能領域は、例えば、208eであり、残りの周辺領域208a−208dおよび208f−208iは、208dおよび208fから開始し、次いで、208cおよび208g、次いで、208bおよび208h、最後に、208aおよび208iとなるように、低下する分解能(図18a)を有するであろう。対照的に、エンドユーザ50が点208cによって示される視野の周縁に集中させられていると推測される場合、最高分解能領域は、例えば、208cであり(図18b)、残りの周辺領域204a−204bおよび204d−204iは、204bおよび204dから開始し、次いで、204aおよび204e、次いで、204f、次いで、204g、次いで、204h、最後に、204iとなる低下する分解能を有するであろう。再び、図18aおよび18bに図示される個別領域208の分解能プロファイルは、図9bに図示される視力分布に従っている。すなわち、個別領域の分解能は、プロファイルの中心からの視力の量に実質的に一致するレートで焦点に関連付けられた最高分解能個別領域から低下するであろう。
一実施形態では、最高分解能の個別領域は、エンドユーザの焦点に基づいて、視野テンプレートから選択され得る。例えば、図19を参照すると、スパイラル走査パターンをとる視野テンプレート212は、5つの環状の個別領域214a−214eを含む。図示される実施形態では、個別領域214a−214eの各々は、前述の許容誤差を考慮するために、公称サイズ(実線によって表される)から、例えば、10パーセント拡張されたサイズ(破線によって表される)まで選択的に拡張されることができる。
例えば、エンドユーザ50の推定される焦点が点216aにおける公称個別領域214aの周縁の近傍にあると仮定すると、拡張される個別領域214aは、図20aに図示されるように、最高分解能を伴う領域として選択および表示されるであろう。エンドユーザ50の実際の焦点が、点216bにおける公称個別領域214aの周縁のすぐ外側にある場合、焦点216bは、拡張される個別領域214aが点216bを覆っているという事実によって、依然として、最高分解能内に含まれるであろう。また、図20aに図示されるように、拡張される個別領域212aと重複しない個別領域214bの部分は、低下させられた分解能において表示されるであろう。言い換えると、公称個別領域214bの一部(個別領域212aの破線と実線とによって定義される)は、この領域が高分解能個別領域214aの拡張された部分にすでに覆われているので無視されるであろう。残りの個別領域212c−212eは、低下する分解能を伴ってその公称(非拡張)形態で表示されるであろう。
拡張される個別領域214aは、エンドユーザ50の推定される焦点が視野テンプレート210内の公称個別領域212aの外になるまで、最高分解能を伴って表示され続けるであろう。例えば、エンドユーザ50の推定される焦点が視野テンプレート210の個別領域212b内の点214cに変化する場合、拡張される個別領域212bは、図20bに図示されるように、最高分解能を伴って個別領域として表示されるであろう。また、図20bに図示されるように、拡張される個別領域212bと重複しない個別領域214aおよび214cの部分は、低下させられた分解能で表示されるであろう。言い換えると、公称個別領域214aの一部(個別領域212aの破線と実線とによって定義される)および個別領域214cの一部(個別領域212cの破線と実線とによって定義される)は、これらの領域が高分解能個別領域214bの拡張される部分によってすでに覆われているので、無視されるであろう。残りの個別領域212d−212eは、低下する分解能を伴って、その公称(非拡張)形態で表示されるであろう。
随意の実施形態では、表示されるフレームのより低い分解能領域は、エンドユーザ50に対して視覚的アーチファクトを生成し得る(例えば、エンドユーザ50が、走査線間の比較的に大きな間隔に起因して、個々の走査線を別々に見ることが可能であり得る)ので、これらのより低い分解能領域は、ぼかされ得る。ぼかしの量は、フレームのより低い分解能領域における分解能低下の量に相応することができる。例えば、低分解能領域の分解能が、最高分解能領域の分解能の4分の1(25%)である場合、低分解能領域内に表示されるピクセルは、ピクセルのオリジナルサイズの4倍までぼかされることができる。一実施形態では、より低い分解能領域は、隣接する表示されるフレームにおける走査線をディザリングすることによってぼかされることができる。例えば、2つのフィールドがフレーム内でインターレースされる場合、1つのフレームでは、偶数フィールドの走査線が、表示され得、次のフレームでは、奇数フィールドの走査線が、表示され得る。別の実施形態では、より低い分解能領域は、より低い分解能領域内の表示されるフレームの焦点をぼかすことよってぼかされることができる。これは、例えば、エンドユーザ50の焦点面と異なる焦点面内においてより低い分解能領域の走査線を表示することによって遂行されることができる。
別の随意の実施形態では、スパイラル走査パターンによって生成されるフレームの周縁におけるより高い分解能領域は、フレームの周縁上に、高線密度の可視化帯の形態でアーチファクトを生成し得る。これらのアーチファクトを最小化するために、高分解能環状形の代わりに、高分解能扇状形が、走査されることができる。例えば、図17bに図示されるような高分解能環状領域202dを走査する代わりに、高分解能扇状領域202fが、図21に図示されるような推定される焦点206bを覆うように走査されることができる。走査デバイス116の限界が、より低い分解能で環状領域202dの残りの扇状領域202g(すなわち、高分解能扇状領域202fの外の扇状領域)を走査することを妨げる場合、走査デバイス116は、所望のより低い分解能扇状領域内の走査線の全てを表示することが妨げられ得る。例えば、環状領域202d内の特定の360度走査線に対して、走査デバイス116は、低分解能扇状内の走査線のための光の出力を停止し、高分解能扇状領域202f内の同一走査線のための光を出力することができる。次いで、環状領域202d内の別の隣接する360度走査線に対して、走査デバイス116は、360度範囲全体にわたって走査線のための光の出力を維持することができる。
仮想画像生成システム100の構造および機能が説明されたので、合成画像フレームをエンドユーザ50に表示するために仮想画像生成システム100によって行われる1つの方法300が、ここで、図21に関して説明されるであろう。
この目的を達成するために、CPU132は、エンドユーザ50の焦点を推定し(例えば、患者の向き検出モジュール130を介して検出するか、または焦点がエンドユーザ50の視野内の識別された着目オブジェクトと一致すると仮定することのいずれかによって)(ステップ302)、推定される焦点と一致する視野テンプレートの個別領域を選択する(ステップ304)。仮想画像生成システム100は、次いで、エンドユーザ50が、3次元場面を周囲環境内に可視化することを可能にする(ステップ306)。これは、例えば、CPU132が、正面カメラ128に、3次元場面の画像データを捕捉するように指示し、ディスプレイサブシステム104に、捕捉された画像データをエンドユーザ50に表示するように指示する、「ビデオシースルー」ディスプレイ、またはエンドユーザが、単に、3次元場面からの光を直接視認することを可能にされる、「光学シースルー」ディスプレイにおいて遂行されることができる。
CPU132はまた、GPU134に、エンドユーザ50の視点からの仮想画像データを生成し、本実施形態では、2次元仮想画像データを3次元仮想場面から合成画像フレームとしてレンダリングするように命令する(ステップ308)。一実施形態では、フレームは、例えば、仮想画像データをレンダリングし、ワーピングすることによる任意の待ち時間問題を最小化するために、予測頭部位置に基づいて、レンダリングされ得る。
CPU132は、次いで、ディスプレイサブシステム104に、周囲3次元場面とともに、合成画像フレームをエンドユーザ50に表示し、それによって、3次元拡張場面を生成するように命令する(ステップ310)。1つの方法では、合成画像フレームは、非均一分解能分布を伴って表示され、特に、合成画像フレームは、視野テンプレートから選択された個別領域に対応する、最高分解能領域を伴って表示される。合成画像フレームは、最高分解能領域からのその距離に従って分解能が徐々に低下する個別領域を伴って表示され得る。個別領域の分解能は、例えば、ヒトの眼の視力分布に一致するか、またはさらにそれより急峻であり得る。着目すべきこととして、合成画像フレームが、レンダリングされるとき、均一分解能分布を有する場合、CPU132は、例えば、ディスプレイサブシステム104に、低分解能が所望されるフレームの領域内のあるピクセルを無視するように命令することによって、非均一分解能分布をレンダリングされたフレームの中に組み込むであろう。一方、合成画像フレームが、レンダリングされるとき、視野テンプレートの選択された個別領域に対応する高分解能領域を伴うフレームをレンダリングすることによって非分解能分布を有する場合、CPU132は、レンダリングされたようにフレームを表示するであろう。
図示される方法では、ディスプレイサブシステム104は、例えば、非均一分解能分布が半径方向に変動するようにスパイラルパターンで、または非均一分解能分布が直線的に変動するようにラスタパターンで、合成画像フレームを走査する。個別領域は、スパイラル走査パターンの場合、環状もしくはさらに扇形であるか、またはラスタ走査パターンの場合、長方形であり得る。CPU132はまた、ディスプレイサブシステム104に、より低い分解能領域内の合成画像フレームをぼかすように命令する(例えば、走査線をディザリングする、またはより低い分解能領域の焦点をぼかすことによって)(ステップ312)。より低い分解能領域内の合成画像フレームをぼかすステップは、レンダリングおよび表示ステップ後に生じるように、フロー図に図示されるが、ぼかすステップは、レンダリングまたは表示ステップと並行して行われることができることを理解されたい。CPU132は、次いで、ステップ302に戻り、エンドユーザ50の新しく推定される焦点に応じて、前の合成画像フレーム内の非均一分布と同じまたは異なり得る非均一分布を有する別の合成画像フレームを生成および表示する。
前述の明細書では、本発明は、その具体的実施形態を参照して説明された。しかしながら、種々の修正および変更が、本発明のより広範な精神および範囲から逸脱することなく、本明細書に成され得ることが明白となるであろう。例えば、前述のプロセスフローは、特定の順序のプロセスアクションを参照して説明される。しかしながら、説明されるプロセスアクションの多くの順序は、本発明の範囲または動作に影響を及ぼすことなく変更され得る。明細書および図面は、故に、限定的意味ではなく、例証と見なされるものとする。
本発明の追加のおよび他の目的、特徴、ならびに利点が、発明を実施するための形態、図、および請求項で説明される。
本発明はさらに、例えば、以下を提供する。
(項目1)
仮想画像生成システムを動作させる方法であって、前記方法は、
3次元場面の複数の合成画像フレームをレンダリングすることと、
前記複数の画像フレームを前記エンドユーザに連続して表示することと
を含み、
前記表示される画像フレームの各々は、非均一分解能分布を有する、方法。
(項目2)
前記画像フレームの各々は、前記非均一分解能分布を伴ってレンダリングされる、項目1に記載の方法。
(項目3)
前記画像フレームの各々は、均一分解能分布を有するようにレンダリングされ、前記それぞれの画像フレームを表示することは、前記非均一分解能分布をすでにレンダリングされた画像フレームの中に組み込むことを含む、項目1に記載の方法。
(項目4)
前記画像フレームを表示することは、前記画像フレームを走査することを含む、項目1に記載の方法。
(項目5)
前記画像フレームの各々は、スパイラルパターンで走査される、項目4に記載の方法。
(項目6)
前記非均一分解能分布は、半径方向に変動する、項目5に記載の方法。
(項目7)
前記画像フレームの各々は、ラスタパターンで走査される、項目4に記載の方法。
(項目8)
前記非均一分解能分布は、直線的に変動する、項目7に記載の方法。
(項目9)
前記表示される画像フレームのうちの少なくとも2つは、異なる非均一分解能分布を有する、項目1に記載の方法。
(項目10)
前記表示される画像フレームの各々は、異なる分解能を有する複数の個別領域を有する、項目1に記載の方法。
(項目11)
前記複数の個別領域は、少なくとも3つである、項目10に記載の方法。
(項目12)
前記個別領域の各々は、環状である、項目11に記載の方法。
(項目13)
前記個別領域の各々は、長方形である、項目11に記載の方法。
(項目14)
前記個別領域の各々は、扇形である、項目11に記載の方法。
(項目15)
前記複数の個別領域は、最高分解能の領域を含み、前記方法は、前記最高分解能の領域を複数の個別領域を有する視野テンプレートから選択することをさらに含む、項目11に記載の方法。
(項目16)
前記視野テンプレート内の複数の個別領域は、互いに重複している、項目15に記載の方法。
(項目17)
前記複数の個別領域は、最高分解能の領域およびより低い分解能の領域を含み、前記方法は、前記より低い分解能の領域内で前記表示される画像フレームをぼかすことをさらに含む、項目11に記載の方法。
(項目18)
前記表示される画像フレームの各々は、走査され、前記表示される画像フレームをぼかすことは、前記より低い分解能の領域内で隣接して表示される画像フレーム内の走査線をディザリングすることを含む、項目17に記載の方法。
(項目19)
前記表示される画像フレームをぼかすことは、前記より低い分解能の領域内で表示される画像フレームの焦点をぼかすことを含む、項目17に記載の方法。
(項目20)
前記表示される画像フレームの各々の分解能分布は、前記エンドユーザの眼の視力分布の傾きに一致する傾きを有する、項目1に記載の方法。
(項目21)
前記表示される画像フレームの各々の分解能分布は、前記エンドユーザの眼の視力分布の傾きより大きい傾きを有する、項目1に記載の方法。
(項目22)
前記エンドユーザの視野内の眼の焦点を推定することと、
前記推定される焦点に基づいて、前記表示される画像フレームの各々のための前記非均一分解能分布を生成することと
をさらに含む、項目1に記載の方法。
(項目23)
前記非均一分解能分布の各々は、前記推定される焦点と一致する最高分解能の領域を有する、項目22に記載の方法。
(項目24)
前記エンドユーザの前記推定される焦点は、前記エンドユーザの視野内の焦点範囲を提供する許容誤差を有し、前記最高分解能の領域は、前記焦点範囲と交差する、項目23に記載の方法。
(項目25)
前記焦点を推定することは、前記エンドユーザの焦点を検出することを含む、項目22に記載の方法。
(項目26)
前記焦点を推定することは、前記エンドユーザの視野内の着目オブジェクトを識別することを含む、項目22に記載の方法。
(項目27)
エンドユーザによる使用のための仮想画像生成システムであって、前記システムは、
3次元場面を記憶しているメモリと、
前記3次元場面の複数の合成画像フレームをレンダリングするために構成されている制御サブシステムと、
前記複数の画像フレームを前記エンドユーザに連続して表示するために構成されているディスプレイサブシステムと
を備え、
前記表示される画像フレームの各々は、非均一分解能分布を有する、仮想画像生成システム。
(項目28)
前記ディスプレイサブシステムは、前記エンドユーザの眼の正面に位置付けられるために構成されている、項目27に記載の仮想画像生成システム。
(項目29)
前記ディスプレイサブシステムは、投影サブシステムと、部分的に透明なディスプレイ表面とを含み、前記投影サブシステムは、前記画像フレームを前記部分的に透明なディスプレイ表面上に投影するために構成され、前記部分的に透明なディスプレイ表面は、前記エンドユーザの眼と周囲環境との間で視野内に位置付けられるために構成されている、項目27に記載の仮想画像生成システム。
(項目30)
前記エンドユーザによって装着されるために構成されているフレーム構造をさらに備え、前記フレーム構造は、前記ディスプレイサブシステムを支持している、項目27に記載の仮想画像生成システム。
(項目31)
前記制御サブシステムは、グラフィック制御サブシステムユニット(GPU)を備えている、項目27に記載の仮想画像生成システム。
(項目32)
前記制御サブシステムは、前記画像フレームの各々を前記非均一分解能分布を伴ってレンダリングするために構成されている、項目27に記載の仮想画像生成システム。
(項目33)
前記制御サブシステムは、前記画像フレームの各々を均一分解能分布を伴ってレンダリングするために構成され、前記ディスプレイサブシステムは、すでにレンダリングされた画像フレームの中に前記非均一分解能分布を組み込むことによって、前記それぞれの画像フレームを表示するために構成されている、項目27に記載の仮想画像生成システム。
(項目34)
前記ディスプレイサブシステムは、前記画像フレームを走査することによって、前記画像フレームを表示するために構成されている、項目27に記載の仮想画像生成システム。
(項目35)
前記ディスプレイサブシステムは、スパイラルパターンで前記画像フレームの各々を走査するために構成されている、項目34に記載の仮想画像生成システム。
(項目36)
前記非均一分解能分布は、半径方向に変動する、項目35に記載の仮想画像生成システム。
(項目37)
前記ディスプレイサブシステムは、ラスタパターンで前記画像フレームを走査するために構成されている、項目34に記載の仮想画像生成システム。
(項目38)
前記非均一分解能分布は、直線的に変動する、項目37に記載の仮想画像生成システム。
(項目39)
前記表示される画像フレームのうちの少なくとも2つは、異なる非均一分解能分布を有する、項目27に記載の仮想画像生成システム。
(項目40)
前記表示される画像フレームの各々は、異なる分解能を有する複数の個別領域を有する、項目27に記載の仮想画像生成システム。
(項目41)
前記複数の個別領域は、少なくとも3つである、項目40に記載の仮想画像生成システム。
(項目42)
前記個別領域の各々は、環状である、項目40に記載の仮想画像生成システム。
(項目43)
前記個別領域の各々は、長方形である、項目40に記載の仮想画像生成システム。
(項目44)
前記個別領域の各々は、扇形である、項目40に記載の仮想画像生成システム。
(項目45)
前記複数の個別領域は、最高分解能の領域を含み、前記制御サブシステムは、前記最高分解能の領域を複数の個別領域を有する視野テンプレートから選択するために構成されている、項目40に記載の仮想画像生成システム。
(項目46)
前記視野テンプレート内の複数の個別領域は、互いに重複している、項目45に記載の仮想画像生成システム。
(項目47)
前記複数の個別領域は、最高分解能の領域およびより低い分解能の領域を含み、前記制御サブシステムは、前記より低い分解能の領域内で前記表示される画像フレームをぼかすために構成されている、項目40に記載の仮想画像生成システム。
(項目48)
前記ディスプレイサブシステムは、前記表示される画像フレームの各々を走査するために構成され、前記より低い分解能の領域内で隣接して表示される画像フレーム内の走査線をディザリングすることによって、前記表示される画像フレームをぼかすために構成されている、項目47に記載の仮想画像生成システム。
(項目49)
前記ディスプレイサブシステムは、前記より低い分解能の領域内で前記表示される画像フレームの焦点をぼかすことによって、前記表示される画像フレームをぼかすために構成されている、項目47に記載の仮想画像生成システム。
(項目50)
前記表示される画像フレームの各々の分解能分布は、前記エンドユーザの眼の視力分布の傾きに一致する傾きを有する、項目27に記載の仮想画像生成システム。
(項目51)
前記表示される画像フレームの各々の分解能分布は、前記エンドユーザの眼の視力分布の傾きより大きい傾きを有する、項目27に記載の仮想画像生成システム。
(項目52)
前記制御サブシステムは、前記エンドユーザの視野内の眼の焦点を推定し、前記推定される焦点に基づいて、前記表示される画像フレームの各々のための前記非均一分解能分布を生成するために構成されている、項目27に記載の仮想画像生成システム。
(項目53)
前記非均一分解能分布の各々は、前記推定される焦点と一致する最高分解能の領域を有する、項目52に記載の仮想画像生成システム。
(項目54)
前記エンドユーザの前記推定される焦点は、前記エンドユーザの視野内の焦点範囲を提供する許容誤差を有し、前記最高分解能の領域は、前記焦点範囲と交差する、項目53に記載の仮想画像生成システム。
(項目55)
前記エンドユーザの前記焦点を検出するために構成されている1つ以上のセンサをさらに備え、前記制御サブシステムは、前記検出された焦点から前記焦点を推定するために構成されている、項目52に記載の仮想画像生成システム。
(項目56)
前記制御サブシステムは、前記エンドユーザの視野内の着目オブジェクトを識別することによって、前記焦点を推定するために構成されている、項目52に記載の仮想画像生成システム。

Claims (56)

  1. 仮想画像生成システムを動作させる方法であって、前記方法は、
    3次元場面の複数の合成画像フレームをレンダリングすることと、
    前記複数の画像フレームを前記エンドユーザに連続して表示することと
    を含み、
    前記表示される画像フレームの各々は、非均一分解能分布を有する、方法。
  2. 前記画像フレームの各々は、前記非均一分解能分布を伴ってレンダリングされる、請求項1に記載の方法。
  3. 前記画像フレームの各々は、均一分解能分布を有するようにレンダリングされ、前記それぞれの画像フレームを表示することは、前記非均一分解能分布をすでにレンダリングされた画像フレームの中に組み込むことを含む、請求項1に記載の方法。
  4. 前記画像フレームを表示することは、前記画像フレームを走査することを含む、請求項1に記載の方法。
  5. 前記画像フレームの各々は、スパイラルパターンで走査される、請求項4に記載の方法。
  6. 前記非均一分解能分布は、半径方向に変動する、請求項5に記載の方法。
  7. 前記画像フレームの各々は、ラスタパターンで走査される、請求項4に記載の方法。
  8. 前記非均一分解能分布は、直線的に変動する、請求項7に記載の方法。
  9. 前記表示される画像フレームのうちの少なくとも2つは、異なる非均一分解能分布を有する、請求項1に記載の方法。
  10. 前記表示される画像フレームの各々は、異なる分解能を有する複数の個別領域を有する、請求項1に記載の方法。
  11. 前記複数の個別領域は、少なくとも3つである、請求項10に記載の方法。
  12. 前記個別領域の各々は、環状である、請求項11に記載の方法。
  13. 前記個別領域の各々は、長方形である、請求項11に記載の方法。
  14. 前記個別領域の各々は、扇形である、請求項11に記載の方法。
  15. 前記複数の個別領域は、最高分解能の領域を含み、前記方法は、前記最高分解能の領域を複数の個別領域を有する視野テンプレートから選択することをさらに含む、請求項11に記載の方法。
  16. 前記視野テンプレート内の複数の個別領域は、互いに重複している、請求項15に記載の方法。
  17. 前記複数の個別領域は、最高分解能の領域およびより低い分解能の領域を含み、前記方法は、前記より低い分解能の領域内で前記表示される画像フレームをぼかすことをさらに含む、請求項11に記載の方法。
  18. 前記表示される画像フレームの各々は、走査され、前記表示される画像フレームをぼかすことは、前記より低い分解能の領域内で隣接して表示される画像フレーム内の走査線をディザリングすることを含む、請求項17に記載の方法。
  19. 前記表示される画像フレームをぼかすことは、前記より低い分解能の領域内で表示される画像フレームの焦点をぼかすことを含む、請求項17に記載の方法。
  20. 前記表示される画像フレームの各々の分解能分布は、前記エンドユーザの眼の視力分布の傾きに一致する傾きを有する、請求項1に記載の方法。
  21. 前記表示される画像フレームの各々の分解能分布は、前記エンドユーザの眼の視力分布の傾きより大きい傾きを有する、請求項1に記載の方法。
  22. 前記エンドユーザの視野内の眼の焦点を推定することと、
    前記推定される焦点に基づいて、前記表示される画像フレームの各々のための前記非均一分解能分布を生成することと
    をさらに含む、請求項1に記載の方法。
  23. 前記非均一分解能分布の各々は、前記推定される焦点と一致する最高分解能の領域を有する、請求項22に記載の方法。
  24. 前記エンドユーザの前記推定される焦点は、前記エンドユーザの視野内の焦点範囲を提供する許容誤差を有し、前記最高分解能の領域は、前記焦点範囲と交差する、請求項23に記載の方法。
  25. 前記焦点を推定することは、前記エンドユーザの焦点を検出することを含む、請求項22に記載の方法。
  26. 前記焦点を推定することは、前記エンドユーザの視野内の着目オブジェクトを識別することを含む、請求項22に記載の方法。
  27. エンドユーザによる使用のための仮想画像生成システムであって、前記システムは、
    3次元場面を記憶しているメモリと、
    前記3次元場面の複数の合成画像フレームをレンダリングするために構成されている制御サブシステムと、
    前記複数の画像フレームを前記エンドユーザに連続して表示するために構成されているディスプレイサブシステムと
    を備え、
    前記表示される画像フレームの各々は、非均一分解能分布を有する、仮想画像生成システム。
  28. 前記ディスプレイサブシステムは、前記エンドユーザの眼の正面に位置付けられるために構成されている、請求項27に記載の仮想画像生成システム。
  29. 前記ディスプレイサブシステムは、投影サブシステムと、部分的に透明なディスプレイ表面とを含み、前記投影サブシステムは、前記画像フレームを前記部分的に透明なディスプレイ表面上に投影するために構成され、前記部分的に透明なディスプレイ表面は、前記エンドユーザの眼と周囲環境との間で視野内に位置付けられるために構成されている、請求項27に記載の仮想画像生成システム。
  30. 前記エンドユーザによって装着されるために構成されているフレーム構造をさらに備え、前記フレーム構造は、前記ディスプレイサブシステムを支持している、請求項27に記載の仮想画像生成システム。
  31. 前記制御サブシステムは、グラフィック制御サブシステムユニット(GPU)を備えている、請求項27に記載の仮想画像生成システム。
  32. 前記制御サブシステムは、前記画像フレームの各々を前記非均一分解能分布を伴ってレンダリングするために構成されている、請求項27に記載の仮想画像生成システム。
  33. 前記制御サブシステムは、前記画像フレームの各々を均一分解能分布を伴ってレンダリングするために構成され、前記ディスプレイサブシステムは、すでにレンダリングされた画像フレームの中に前記非均一分解能分布を組み込むことによって、前記それぞれの画像フレームを表示するために構成されている、請求項27に記載の仮想画像生成システム。
  34. 前記ディスプレイサブシステムは、前記画像フレームを走査することによって、前記画像フレームを表示するために構成されている、請求項27に記載の仮想画像生成システム。
  35. 前記ディスプレイサブシステムは、スパイラルパターンで前記画像フレームの各々を走査するために構成されている、請求項34に記載の仮想画像生成システム。
  36. 前記非均一分解能分布は、半径方向に変動する、請求項35に記載の仮想画像生成システム。
  37. 前記ディスプレイサブシステムは、ラスタパターンで前記画像フレームを走査するために構成されている、請求項34に記載の仮想画像生成システム。
  38. 前記非均一分解能分布は、直線的に変動する、請求項37に記載の仮想画像生成システム。
  39. 前記表示される画像フレームのうちの少なくとも2つは、異なる非均一分解能分布を有する、請求項27に記載の仮想画像生成システム。
  40. 前記表示される画像フレームの各々は、異なる分解能を有する複数の個別領域を有する、請求項27に記載の仮想画像生成システム。
  41. 前記複数の個別領域は、少なくとも3つである、請求項40に記載の仮想画像生成システム。
  42. 前記個別領域の各々は、環状である、請求項40に記載の仮想画像生成システム。
  43. 前記個別領域の各々は、長方形である、請求項40に記載の仮想画像生成システム。
  44. 前記個別領域の各々は、扇形である、請求項40に記載の仮想画像生成システム。
  45. 前記複数の個別領域は、最高分解能の領域を含み、前記制御サブシステムは、前記最高分解能の領域を複数の個別領域を有する視野テンプレートから選択するために構成されている、請求項40に記載の仮想画像生成システム。
  46. 前記視野テンプレート内の複数の個別領域は、互いに重複している、請求項45に記載の仮想画像生成システム。
  47. 前記複数の個別領域は、最高分解能の領域およびより低い分解能の領域を含み、前記制御サブシステムは、前記より低い分解能の領域内で前記表示される画像フレームをぼかすために構成されている、請求項40に記載の仮想画像生成システム。
  48. 前記ディスプレイサブシステムは、前記表示される画像フレームの各々を走査するために構成され、前記より低い分解能の領域内で隣接して表示される画像フレーム内の走査線をディザリングすることによって、前記表示される画像フレームをぼかすために構成されている、請求項47に記載の仮想画像生成システム。
  49. 前記ディスプレイサブシステムは、前記より低い分解能の領域内で前記表示される画像フレームの焦点をぼかすことによって、前記表示される画像フレームをぼかすために構成されている、請求項47に記載の仮想画像生成システム。
  50. 前記表示される画像フレームの各々の分解能分布は、前記エンドユーザの眼の視力分布の傾きに一致する傾きを有する、請求項27に記載の仮想画像生成システム。
  51. 前記表示される画像フレームの各々の分解能分布は、前記エンドユーザの眼の視力分布の傾きより大きい傾きを有する、請求項27に記載の仮想画像生成システム。
  52. 前記制御サブシステムは、前記エンドユーザの視野内の眼の焦点を推定し、前記推定される焦点に基づいて、前記表示される画像フレームの各々のための前記非均一分解能分布を生成するために構成されている、請求項27に記載の仮想画像生成システム。
  53. 前記非均一分解能分布の各々は、前記推定される焦点と一致する最高分解能の領域を有する、請求項52に記載の仮想画像生成システム。
  54. 前記エンドユーザの前記推定される焦点は、前記エンドユーザの視野内の焦点範囲を提供する許容誤差を有し、前記最高分解能の領域は、前記焦点範囲と交差する、請求項53に記載の仮想画像生成システム。
  55. 前記エンドユーザの前記焦点を検出するために構成されている1つ以上のセンサをさらに備え、前記制御サブシステムは、前記検出された焦点から前記焦点を推定するために構成されている、請求項52に記載の仮想画像生成システム。
  56. 前記制御サブシステムは、前記エンドユーザの視野内の着目オブジェクトを識別することによって、前記焦点を推定するために構成されている、請求項52に記載の仮想画像生成システム。
JP2018501878A 2015-07-17 2016-07-15 動的領域分解能を有する仮想/拡張現実システム Active JP6821646B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201562194113P 2015-07-17 2015-07-17
US62/194,113 2015-07-17
PCT/US2016/042649 WO2017015162A1 (en) 2015-07-17 2016-07-15 Virtual/augmented reality system having dynamic region resolution

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021000728A Division JP7135123B2 (ja) 2015-07-17 2021-01-06 動的領域分解能を有する仮想/拡張現実システム

Publications (3)

Publication Number Publication Date
JP2018526726A true JP2018526726A (ja) 2018-09-13
JP2018526726A5 JP2018526726A5 (ja) 2019-08-29
JP6821646B2 JP6821646B2 (ja) 2021-01-27

Family

ID=57834575

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018501878A Active JP6821646B2 (ja) 2015-07-17 2016-07-15 動的領域分解能を有する仮想/拡張現実システム
JP2021000728A Active JP7135123B2 (ja) 2015-07-17 2021-01-06 動的領域分解能を有する仮想/拡張現実システム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021000728A Active JP7135123B2 (ja) 2015-07-17 2021-01-06 動的領域分解能を有する仮想/拡張現実システム

Country Status (9)

Country Link
EP (2) EP4016250A1 (ja)
JP (2) JP6821646B2 (ja)
KR (1) KR102386764B1 (ja)
CN (2) CN113156649B (ja)
AU (2) AU2016296579B2 (ja)
CA (1) CA2991322C (ja)
IL (1) IL256802B (ja)
NZ (1) NZ739054A (ja)
WO (1) WO2017015162A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022526182A (ja) * 2019-09-27 2022-05-23 アップル インコーポレイテッド 追加のディスプレイを有するデバイスの管理

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11222397B2 (en) 2016-12-23 2022-01-11 Qualcomm Incorporated Foveated rendering in tiled architectures
US10565964B2 (en) * 2017-04-24 2020-02-18 Intel Corporation Display bandwidth reduction with multiple resolutions
US10885607B2 (en) 2017-06-01 2021-01-05 Qualcomm Incorporated Storage for foveated rendering
JP7308268B2 (ja) * 2018-12-21 2023-07-13 マジック リープ, インコーポレイテッド アーチファクト軽減を組み込む接眼レンズアーキテクチャ
CN117853642A (zh) * 2019-12-06 2024-04-09 奇跃公司 虚拟、增强和混合现实系统和方法

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4479784A (en) * 1981-03-03 1984-10-30 The Singer Company Eye line-of-sight responsive wide angle visual system
JPH07182512A (ja) * 1993-12-22 1995-07-21 Nec Corp グラフィックス表示処理装置
JPH099253A (ja) * 1995-06-19 1997-01-10 Toshiba Corp 画像圧縮通信装置
JPH11161814A (ja) * 1997-11-25 1999-06-18 Namco Ltd 画像生成装置、シミュレーション装置及び情報記憶媒体
JP2003153263A (ja) * 2001-11-19 2003-05-23 Hitachi Ltd 映像表示システムおよびその方法
JP2003202850A (ja) * 2001-10-04 2003-07-18 Eastman Kodak Co 画像表示方法及びシステム
JP2004056335A (ja) * 2002-07-18 2004-02-19 Sony Corp 情報処理装置および方法、表示装置および方法、並びにプログラム
US6734916B1 (en) * 2000-10-04 2004-05-11 Karl Sims Video field artifact removal
JP2013542462A (ja) * 2010-09-21 2013-11-21 マイクロソフト コーポレーション 透過頭部装着ディスプレイ用不透明フィルター
JP2014057732A (ja) * 2012-09-18 2014-04-03 Olympus Corp 走査型内視鏡システム
WO2015081313A2 (en) * 2013-11-27 2015-06-04 Magic Leap, Inc. Virtual and augmented reality systems and methods

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04302381A (ja) * 1991-03-29 1992-10-26 Koudo Eizou Gijutsu Kenkyusho:Kk 高速画像生成装置
US5422653A (en) * 1993-01-07 1995-06-06 Maguire, Jr.; Francis J. Passive virtual reality
US5872572A (en) * 1995-12-08 1999-02-16 International Business Machines Corporation Method and apparatus for generating non-uniform resolution image data
US6477553B1 (en) * 1999-01-13 2002-11-05 Philip Druck Measurement scale for non-uniform data sampling in N dimensions
US7679622B2 (en) * 2000-07-28 2010-03-16 Alcatel-Lucent Usa Inc. Foveation-based error resilience algorithm
CA2347493A1 (en) * 2001-05-14 2002-11-14 James H. Elder Attentive panoramic sensing for visual telepresence
AU2002257442A1 (en) * 2001-05-14 2002-11-25 Fadi Dornaika Attentive panoramic visual sensor
US7495638B2 (en) * 2003-05-13 2009-02-24 Research Triangle Institute Visual display with increased field of view
EP1639394A2 (en) * 2003-06-10 2006-03-29 Elop Electro-Optics Industries Ltd. Method and system for displaying an informative image against a background image
JP5304380B2 (ja) * 2008-07-23 2013-10-02 株式会社リコー 光走査装置、これを用いた画像投影装置、ヘッドアップディスプレイ装置および携帯電話機
US7924441B1 (en) * 2008-08-08 2011-04-12 Mirrorcle Technologies, Inc. Fast and high-precision 3D tracking and position measurement with MEMS micromirrors
US8208026B2 (en) * 2009-03-02 2012-06-26 Flir Systems, Inc. Systems and methods for processing infrared images
JP5104820B2 (ja) * 2009-07-10 2012-12-19 株式会社島津製作所 表示装置
JP5689637B2 (ja) * 2010-09-28 2015-03-25 任天堂株式会社 立体視表示制御プログラム、立体視表示制御システム、立体視表示制御装置、および、立体視表示制御方法
US9897805B2 (en) * 2013-06-07 2018-02-20 Sony Interactive Entertainment Inc. Image rendering responsive to user actions in head mounted display
US9727991B2 (en) * 2013-03-01 2017-08-08 Microsoft Technology Licensing, Llc Foveated image rendering
JP5689910B2 (ja) * 2013-03-12 2015-03-25 本田技研工業株式会社 ヘッドアップディスプレイ装置
NZ751593A (en) * 2013-03-15 2020-01-31 Magic Leap Inc Display system and method
US9874749B2 (en) * 2013-11-27 2018-01-23 Magic Leap, Inc. Virtual and augmented reality systems and methods

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4479784A (en) * 1981-03-03 1984-10-30 The Singer Company Eye line-of-sight responsive wide angle visual system
JPH07182512A (ja) * 1993-12-22 1995-07-21 Nec Corp グラフィックス表示処理装置
JPH099253A (ja) * 1995-06-19 1997-01-10 Toshiba Corp 画像圧縮通信装置
JPH11161814A (ja) * 1997-11-25 1999-06-18 Namco Ltd 画像生成装置、シミュレーション装置及び情報記憶媒体
US6734916B1 (en) * 2000-10-04 2004-05-11 Karl Sims Video field artifact removal
JP2003202850A (ja) * 2001-10-04 2003-07-18 Eastman Kodak Co 画像表示方法及びシステム
JP2003153263A (ja) * 2001-11-19 2003-05-23 Hitachi Ltd 映像表示システムおよびその方法
JP2004056335A (ja) * 2002-07-18 2004-02-19 Sony Corp 情報処理装置および方法、表示装置および方法、並びにプログラム
JP2013542462A (ja) * 2010-09-21 2013-11-21 マイクロソフト コーポレーション 透過頭部装着ディスプレイ用不透明フィルター
JP2014057732A (ja) * 2012-09-18 2014-04-03 Olympus Corp 走査型内視鏡システム
WO2015081313A2 (en) * 2013-11-27 2015-06-04 Magic Leap, Inc. Virtual and augmented reality systems and methods

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
青竹 雄介, 福島 省吾, 吉川 榮和: "視覚特性を利用したCG作成アルゴリズムの検討", 電子情報通信学会技術研究報告, vol. 98, no. 100, JPN6020031248, 6 June 1998 (1998-06-06), JP, pages 1 - 6, ISSN: 0004330313 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022526182A (ja) * 2019-09-27 2022-05-23 アップル インコーポレイテッド 追加のディスプレイを有するデバイスの管理
JP7387756B2 (ja) 2019-09-27 2023-11-28 アップル インコーポレイテッド 追加のディスプレイを有するデバイスの管理
US11907420B2 (en) 2019-09-27 2024-02-20 Apple Inc. Managing devices having additive displays

Also Published As

Publication number Publication date
CN113156649B (zh) 2023-04-28
EP3326048B1 (en) 2022-03-23
JP7135123B2 (ja) 2022-09-12
CN107850934B (zh) 2021-04-20
EP3326048A1 (en) 2018-05-30
KR102386764B1 (ko) 2022-04-13
CA2991322A1 (en) 2017-01-26
CN113156649A (zh) 2021-07-23
IL256802A (en) 2018-03-29
AU2016296579B2 (en) 2021-07-01
AU2016296579A1 (en) 2018-02-08
KR20180030881A (ko) 2018-03-26
NZ739054A (en) 2020-05-29
EP3326048A4 (en) 2018-07-18
AU2021240200A1 (en) 2021-10-28
WO2017015162A1 (en) 2017-01-26
IL256802B (en) 2022-06-01
EP4016250A1 (en) 2022-06-22
CA2991322C (en) 2023-07-04
JP2021073561A (ja) 2021-05-13
JP6821646B2 (ja) 2021-01-27
CN107850934A (zh) 2018-03-27

Similar Documents

Publication Publication Date Title
US10176639B2 (en) Virtual/augmented reality system having dynamic region resolution
JP7135123B2 (ja) 動的領域分解能を有する仮想/拡張現実システム
AU2017232179B2 (en) Display system and method
US10313661B2 (en) Wide baseline stereo for low-latency rendering
IL287369B2 (en) Direct light compensation technique for an augmented reality system
KR102410449B1 (ko) 가상 이미지 생성 시스템에서 텍스트를 더 효율적으로 디스플레이하기 위한 기법
JP2021532469A (ja) フィールド順次ディスプレイにおけるフィールド内サブコードタイミング

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190712

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190712

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200806

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210106

R150 Certificate of patent or registration of utility model

Ref document number: 6821646

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250