JP2022519431A - マルチプロジェクタ表示アーキテクチャ - Google Patents
マルチプロジェクタ表示アーキテクチャ Download PDFInfo
- Publication number
- JP2022519431A JP2022519431A JP2021532935A JP2021532935A JP2022519431A JP 2022519431 A JP2022519431 A JP 2022519431A JP 2021532935 A JP2021532935 A JP 2021532935A JP 2021532935 A JP2021532935 A JP 2021532935A JP 2022519431 A JP2022519431 A JP 2022519431A
- Authority
- JP
- Japan
- Prior art keywords
- display device
- headset display
- projector
- integrated circuits
- μled
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 claims abstract description 53
- 238000012545 processing Methods 0.000 claims abstract description 38
- 230000003287 optical effect Effects 0.000 claims abstract description 17
- 230000008569 process Effects 0.000 claims abstract description 17
- 238000009877 rendering Methods 0.000 claims description 79
- 238000003860 storage Methods 0.000 claims description 30
- 238000012937 correction Methods 0.000 claims description 11
- 238000006243 chemical reaction Methods 0.000 claims description 10
- 230000033001 locomotion Effects 0.000 claims description 6
- 230000009466 transformation Effects 0.000 claims description 6
- 230000004075 alteration Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 abstract description 3
- 239000011159 matrix material Substances 0.000 description 43
- 230000015654 memory Effects 0.000 description 42
- 238000004891 communication Methods 0.000 description 19
- 238000004519 manufacturing process Methods 0.000 description 17
- 229910052710 silicon Inorganic materials 0.000 description 17
- 239000010703 silicon Substances 0.000 description 17
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 16
- 230000008878 coupling Effects 0.000 description 14
- 238000010168 coupling process Methods 0.000 description 14
- 238000005859 coupling reaction Methods 0.000 description 14
- 238000003491 array Methods 0.000 description 10
- 239000003086 colorant Substances 0.000 description 9
- 230000006870 function Effects 0.000 description 9
- 239000004973 liquid crystal related substance Substances 0.000 description 9
- 230000004048 modification Effects 0.000 description 9
- 238000012986 modification Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 8
- 230000008901 benefit Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 7
- 238000004806 packaging method and process Methods 0.000 description 7
- 238000013461 design Methods 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- 230000003190 augmentative effect Effects 0.000 description 5
- 239000000872 buffer Substances 0.000 description 4
- 230000004907 flux Effects 0.000 description 4
- 238000013507 mapping Methods 0.000 description 4
- 239000000463 material Substances 0.000 description 4
- 230000000644 propagated effect Effects 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 3
- 230000004424 eye movement Effects 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 210000001747 pupil Anatomy 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 239000000758 substrate Substances 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 230000004886 head movement Effects 0.000 description 2
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 238000002156 mixing Methods 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 239000010409 thin film Substances 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 241000699670 Mus sp. Species 0.000 description 1
- 241000542420 Sphyrna tudes Species 0.000 description 1
- 241000246358 Thymus Species 0.000 description 1
- 235000007303 Thymus vulgaris Nutrition 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000002730 additional effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 206010025482 malaise Diseases 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 229920001690 polydopamine Polymers 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000005469 synchrotron radiation Effects 0.000 description 1
- 239000001585 thymus vulgaris Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3179—Video signal processing therefor
- H04N9/3182—Colour adjustment, e.g. white balance, shading or gamut
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/363—Graphics controllers
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/001—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
- G09G3/003—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
- G09G3/2007—Display of intermediate tones
- G09G3/2018—Display of intermediate tones by time modulation using two or more time intervals
- G09G3/2022—Display of intermediate tones by time modulation using two or more time intervals using sub-frames
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
- G09G3/22—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources
- G09G3/30—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels
- G09G3/32—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels semiconductive, e.g. using light-emitting diodes [LED]
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/14—Display of multiple viewports
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3179—Video signal processing therefor
- H04N9/3185—Geometric adjustment, e.g. keystone or convergence
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/011—Head-up displays characterised by optical features comprising device for correcting geometrical aberrations, distortion
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0112—Head-up displays characterised by optical features comprising device for genereting colour display
- G02B2027/0116—Head-up displays characterised by optical features comprising device for genereting colour display comprising devices for correcting chromatic aberration
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0118—Head-up displays characterised by optical features comprising devices for improving the contrast of the display / brillance control visibility
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B2027/0178—Eyeglass type
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/02—Improving the quality of display appearance
- G09G2320/0233—Improving the luminance or brightness uniformity across the screen
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2330/00—Aspects of power supply; Aspects of display protection and defect management
- G09G2330/10—Dealing with defective pixels
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2360/00—Aspects of the architecture of display systems
- G09G2360/06—Use of more than one graphics processor to process data before displaying to one or more screens
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2360/00—Aspects of the architecture of display systems
- G09G2360/08—Power processing, i.e. workload management for processors involved in display operations, such as CPUs or GPUs
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2380/00—Specific applications
- G09G2380/14—Electronic books and readers
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
- G09G3/2007—Display of intermediate tones
- G09G3/2044—Display of intermediate tones using dithering
- G09G3/2051—Display of intermediate tones using dithering with use of a spatial dither pattern
Abstract
一実施形態では、ヘッドセットディスプレイデバイスは、中央処理装置と、中央処理装置にそれぞれ結合され、画像データを処理するように構成された複数のプロジェクタ集積回路とを含む。各プロジェクタ集積回路は、光エミッタアレイをそれぞれ含む複数の第1の集積回路を含む。各プロジェクタ集積回路は、複数の第1の集積回路に結合された第2の集積回路を含む。第2の集積回路は、幾何学的歪曲または輝度歪曲を補正する、変換された画像データを生成するように構成されたグラフィックスプロセッサを含み、(2)変換された画像データを表示のために複数の第1の集積回路に提供するように構成される。【選択図】図1
Description
優先権
本出願は、2019年2月14日に出願された米国出願第62/805,923号、および2020年2月7日に出願された米国出願第16/785,305号による優先権を主張する。米国出願第62/805,923号および米国出願第16/785,305号の内容は、あらゆる目的のため、その全体を参照により本明細書に組み込む。
本出願は、2019年2月14日に出願された米国出願第62/805,923号、および2020年2月7日に出願された米国出願第16/785,305号による優先権を主張する。米国出願第62/805,923号および米国出願第16/785,305号の内容は、あらゆる目的のため、その全体を参照により本明細書に組み込む。
本開示は、一般に、画像を電子ディスプレイに表示することに関する。
ポータブルディスプレイの使用は劇的に増加しており、軽量で電力効率が良いディスプレイの需要が増加している。しかしながら、かかるディスプレイの一部は、出力要件の低減を可能にするため、また身に付けるタイプのディスプレイの場合、より快適に着用できるようにするため、明瞭性、フレーム率、または視野が犠牲になることがある。しかしながら、これらの犠牲によってユーザ体験が損なわれる場合が多い。ディスプレイは、輝度を低減するか、または解像度、色の深み、最大表示フレーム率、もしくは視野を低下させることがあり、それによってかかるディスプレイを使用することの魅力が低減される。フレーム率が低く視野が狭いディスプレイは、特定の用途には全く実用的でないこともある。特に、人工現実体験をユーザに提供するのにディスプレイが使用される場面では、ディスプレイの品質は体験自体の品質の知覚に影響を及ぼす。問題を更に複雑にしているのは、ユーザ体験を高品質にし、それをサポートするのに、高いコンピューティングコストが求められることである。
特定の実施形態では、ヘッドマウントディスプレイシステムのディスプレイは、ディスプレイの導波路構成を通して画像をユーザに提供することによって動作してもよい。画像は、ディスプレイと関連付けられた1つまたは複数のプロジェクタ集積回路によって提供されてもよい。特定の実施形態では、1つまたは複数のプロジェクタがユーザの目のそれぞれと関連付けられる、複数のプロジェクタ集積回路が使用されてもよい。プロジェクタ集積回路は、何らかのレンダリングデータおよび命令をプロジェクタにディスパッチする、中央ヘッドセットCPUによって連係されてもよい。
特定の実施形態では、プロジェクタ集積回路(本明細書では、単に「プロジェクタ」とも呼ばれる)は、いくつかの構成要素を備えてもよい。構成要素は、集積回路であってもよく、また集積回路の形で具体化されてもよい。構成要素は、ワープエンジン、ディスプレイドライバ、およびバックプレーンコントローラを含んでもよい。ワープエンジンは、レンダリングエンジンから受信した特殊なオブジェクトプリミティブとして格納されたフレームデータに対して、初期視認性決定を実施し、フレームデータに適用する幾何学的ワープを決定し、適用するテクスチャマッピングおよびフィルタリングを計算し、他の場合は表示するフレームデータを準備してもよい。ディスプレイドライバは、ワープエンジンから出力される画像に対する処理を実施してもよい。例えば、ディスプレイドライバは、必要に応じて不均一性補正およびディザリングを実施してもよい。バックプレーンコントローラは、画像データを受信し、画像データを表示するように光源に命令してもよい。
特定の実施形態では、プロジェクタの構成要素は、高品質画像を依然として提供しながら、ヘッドマウントディスプレイのディスプレイの性能および電力効率を最適化するように選択された、様々なアーキテクチャで組み合わされてもよい。例えば、ワープエンジンは、ヘッドセット中央処理装置に組み込まれ、いくつかのディスプレイドライバおよびバックプレーンコントローラと関連付けられてもよい。ワープエンジンは、共有集積回路の1つまたは複数のディスプレイドライバに組み込まれてもよい。ワープエンジンは更に、集積回路を共有する、1つまたは複数のバックプレーンコントローラに組み込まれてもよい。プロジェクタを構成する集積回路は、様々なプロセスで製造されてもよく、特定の実施形態では、いわゆる「スタック型」三次元集積回路、または「サイドバイサイド型」2.5次元集積回路であってもよい。
特定の実施形態では、プロジェクタに対して選択されたアーキテクチャは、プロジェクタを構成する集積回路および他の構成要素に対してパッケージングの選択を通知してもよい。例えば、エミッタアレイは、回路基板に搭載される集積回路に接合されてもよい。回路基板は、他の類似の回路とともに、導波路結合器に対するエミッタアレイの位置を調節する機械的アライナに搭載されてもよい。別の例として、エミッタアレイは、他のいくつかの類似の集積回路と回路基板を共有する、集積回路に接合されてもよい。別の例として、エミッタアレイは、いくつかの類似の集積回路の間で共有されるインターポーザに接合される、集積回路に接合されてもよい。インターポーザは回路基板に接合されてもよい。別の例として、エミッタアレイはそれ自体のインターポーザに接合されてもよく、それが、いくつかの類似のインターポーザが接合された集積回路に接合される。別の例として、いくつかのエミッタアレイが集積回路に接合されてもよい。集積回路は、1つまたは複数のワープエンジン、ディスプレイドライバ、またはバックプレーンコントローラを具体化してもよい。
本発明の実施形態は、人工現実システムを含んでもよく、または人工現実システムと併せて実現されてもよい。人工現実は、ユーザに提示する前に何らかの形で調節されている1つの形態の現実であり、例えば、仮想現実(VR)、拡張現実(AR)、複合現実(MR)、ハイブリッド現実、あるいはそれらの何らかの組合せおよび/または派生物を含んでもよい。人工現実コンテンツは、全て生成されたコンテンツ、またはキャプチャされたコンテンツ(例えば、実世界写真)と組み合わされた生成されたコンテンツを含んでもよい。人工現実コンテンツは、映像、音声、触覚フィードバック、またはそれらの何らかの組合せを含んでもよく、それらのいずれかが、単一チャネルまたは複数チャネルで提示されてもよい(閲覧者に対する三次元効果を作成するステレオ映像など)。それに加えて、いくつかの実施形態では、人工現実は、例えば、人工現実でコンテンツを作り出すのに使用される、および/または人工現実で使用される(例えば、アクティビティを実施する)、アプリケーション、製品、アクセサリ、サービス、またはそれらの何らかの組合せと関連付けられてもよい。人工現実コンテンツを提供する人工現実システムは、ホストコンピュータシステムに接続されたヘッドマウントディスプレイ(HMD)、スタンドアロンHMD、モバイルデバイスもしくはコンピューティングシステム、または人工現実コンテンツを1人または複数の閲覧者に提供することができる他の任意のハードウェアプラットフォームを含む、様々なプラットフォームで実現されてもよい。
本明細書に開示する実施形態は単なる例であり、本開示の範囲はそれらに限定されない。特定の実施形態は、本明細書に開示する実施形態の構成要素、要素、特徴、機能、動作、またはステップの全てもしくは一部を含むか、あるいはいずれも含まないことがある。本発明による実施形態は、特に、方法、記憶媒体、システム、およびコンピュータプログラム製品を対象とした添付の特許請求の範囲に開示され、1つのクレーム分類、例えば方法において言及される任意の特徴が、別のクレーム分類、例えばシステムにおいても請求される場合がある。添付の特許請求の範囲における従属または後方参照は、形式上の理由でのみ選択される。しかしながら、任意の先行クレームに対する意図的な後方参照(特に、多項従属)の結果による任意の主題も同様に請求することができ、それによってクレームおよびその特徴の任意の組合せが開示され、添付の特許請求の範囲において選択される従属にかかわらずそれらを請求することができる。請求することができる主題は、添付の特許請求の範囲に提示されるような特徴の組合せだけではなく、特許請求の範囲における特徴の他の任意の組合せも備え、特許請求の範囲で言及される各特徴を、特許請求の範囲における他の任意の特徴または他の特徴の組合せと組み合わせることができる。更に、本明細書に記載または描写する実施形態および特徴のいずれも、別個のクレームで、および/あるいは本明細書に記載もしくは描写する任意の実施形態もしくは特徴との、または添付の特許請求の範囲の特徴のうち任意のものとの任意の組合せで、請求することができる。
人工現実
上述したように、人工現実は、専用に構成されたデバイスによってユーザに対して提示する前に何らかの形で調節される、1つの形態の現実である。本明細書に記載する特定の実施形態の要素は、人工現実デバイスの機能性、効率、および信頼性を改善するのに使用されてもよい。人工現実デバイスは、デジタルシーンを作り出すか、またはコンピュータで生成されたイメージを実世界の視像に重畳してもよい。したがって、人工現実デバイスは、設計者および技術者が、新しい形態の情報、娯楽、または提携方法を提供するためのプラットフォームを提供する。例えば、人工現実デバイスは、ユーザが、見かけ上は直に長距離で通信することを可能にするか、または邪魔にならない形で周囲の環境を通知することによってユーザを支援してもよい。人工現実体験はカスタマイズされる場合が多いので、ユーザの人工現実体験は、十分な明瞭性および利便性を伴って提示された場合、非常に個人的で非常に魅力的なことがある。
上述したように、人工現実は、専用に構成されたデバイスによってユーザに対して提示する前に何らかの形で調節される、1つの形態の現実である。本明細書に記載する特定の実施形態の要素は、人工現実デバイスの機能性、効率、および信頼性を改善するのに使用されてもよい。人工現実デバイスは、デジタルシーンを作り出すか、またはコンピュータで生成されたイメージを実世界の視像に重畳してもよい。したがって、人工現実デバイスは、設計者および技術者が、新しい形態の情報、娯楽、または提携方法を提供するためのプラットフォームを提供する。例えば、人工現実デバイスは、ユーザが、見かけ上は直に長距離で通信することを可能にするか、または邪魔にならない形で周囲の環境を通知することによってユーザを支援してもよい。人工現実体験はカスタマイズされる場合が多いので、ユーザの人工現実体験は、十分な明瞭性および利便性を伴って提示された場合、非常に個人的で非常に魅力的なことがある。
人工現実体験が人間の能力を増強することができる1つの手法は、拡張現実または複合現実のように、実世界に追加されたコンピュータ生成画像および/またはテキストを用いるものである。この単純な原理から、様々な説得力がある使用例を考慮することができる。実世界オブジェクトを記述するラベル(例えば、テキスト、グリフなど)または画像は、世界空間内で固定されてもよく(例えば、道路標識として作用する、もしくは自転車専用道路のライブマップを提供する、位置認識ラベル)、または画像は、空間を移動する際に実世界オブジェクトに固定されてもよい(例えば、経路もしくは定員に関する詳細情報を提供する、経路を進行する際のバスに付加されるラベル)。ラベルはまた、ユーザが馴染みのない都市を通行するのを助ける(例えば、最も近いトイレのウェイポイントを作り出す)か、または人混みの中で友人(例えば、別のユーザに固定された社会的認識ウェイポイント)を見つけるのを助けるのに使用することができる。考慮するに値する他の体験は、実世界オブジェクトとの対話に基づいてもよい。例えば、ユーザは、映像を壁またはスクリーン上に「投影」して、映像を再生し、自身または共有拡張空間にアクセスできる他者のみが見ることを可能にすることができる。別の例として、ユーザは、コンピュータ生成テキストを物理的オブジェクトに固定して、拡張現実の本または雑誌として作用するようにすることができる。コンテンツは、オブジェクトに対して表示させることができ(拡張現実外の有形資産をユーザに許可する)、またはユーザに対して固定の関係で表示させることができる(例えば、視像の隅で常に再生されるチュートリアル映像)。提示される媒体は、同じコンテンツ表示空間が同じ物理空間を見ている各個人に関連するコンテンツであることができるように、ユーザに合わせてカスタマイズすることができる。別の例として、ユーザは、アイコンに「触れること」、またはコンピュータ生成画像を手動で「操作すること」によって、コンピュータ生成グラフィックスと対話することができる。これらのグラフィックスは、プロジェクトに取り組んでいる複数のユーザに示して、チームが提携する機会を可能にする(例えば、複数の建築家がともにリアルタイムで三次元デジタル模型製作に取り組む)ことができる。
ヘッドマウントディスプレイ
人工現実デバイスの1つの便利な形状因子はヘッドマウントディスプレイ(HMD)である。コンピュータ生成グラフィックスを出力するディスプレイは、直感的で、簡単にアクセス可能で、邪魔にならないものであるべきである。高解像度人工現実グラフィックスをユーザに表示する1つの方策は、ニアアイディスプレイ(NED)を備えるHMDである。ユーザは、コンピュータグラフィックスを表示することができる、バイザー、ヘッドセット、または眼鏡などの装置を着用する。拡張現実または複合現実体験では、コンピュータグラフィックスは、物理的世界の横または上に見えることが可能である。しかしながら、これらのコンピュータグラフィックスのレンダリングは計算集約的である。したがって、ほとんどの場合、レンダリングは、(例えば、ケーブル、もしくはブルートゥースなどの無線通信プロトコルを介して)HMDに通信可能に取り付けられた高出力コンピュータによって実施される。かかる構成では、HMDは、嵩張るコード、帯域幅および出力の限定、熱的制限、および他の関連する制約によって限定される。また、これらの制約の限定は強制である。一日中着用するのに十分に快適で効率的であって、更に高度なグラフィックスを表示するのに十分に高出力である、HMDが望ましい。
人工現実デバイスの1つの便利な形状因子はヘッドマウントディスプレイ(HMD)である。コンピュータ生成グラフィックスを出力するディスプレイは、直感的で、簡単にアクセス可能で、邪魔にならないものであるべきである。高解像度人工現実グラフィックスをユーザに表示する1つの方策は、ニアアイディスプレイ(NED)を備えるHMDである。ユーザは、コンピュータグラフィックスを表示することができる、バイザー、ヘッドセット、または眼鏡などの装置を着用する。拡張現実または複合現実体験では、コンピュータグラフィックスは、物理的世界の横または上に見えることが可能である。しかしながら、これらのコンピュータグラフィックスのレンダリングは計算集約的である。したがって、ほとんどの場合、レンダリングは、(例えば、ケーブル、もしくはブルートゥースなどの無線通信プロトコルを介して)HMDに通信可能に取り付けられた高出力コンピュータによって実施される。かかる構成では、HMDは、嵩張るコード、帯域幅および出力の限定、熱的制限、および他の関連する制約によって限定される。また、これらの制約の限定は強制である。一日中着用するのに十分に快適で効率的であって、更に高度なグラフィックスを表示するのに十分に高出力である、HMDが望ましい。
図1は、例示のHMDの図を提供している。特に、図1は、いくつかの実施形態による、HMD100およびディスプレイデバイス110の断面である。ディスプレイデバイス110は、少なくとも1つの導波路構成115を含んでもよい。図1は、ユーザがディスプレイデバイス110を着用したときに目120が位置付けられる位置である、アイボックス130を示している。目120がアイボックス130と位置合わせされている限り、ユーザは、導波路構成115によってアイボックス130に向かって方向付けられたフルカラー画像または瞳複製を見ることができる。導波路構成115は、多くの瞳複製を作成し、アイボックス130に方向付けてもよい。例示の目的のため、図1は、単一の目120および単一の導波路構成115と関連付けられた断面を示している。いくつかの実施形態では、別の導波路構成が、ユーザの別の目120に位置するアイボックスに画像光を提供してもよい。
導波路構成115は、図1に示されるように、目120に近接して位置するアイボックスに画像光を方向付けるように構成されてもよい。導波路構成115は、効率的にディスプレイデバイス110の重量を最小限に抑えるとともに視野(FOV)を拡幅する、1つまたは複数の屈折率を有する、1つまたは複数の材料(例えば、プラスチック、ガラスなど)で構成されてもよい。代替の構成では、ディスプレイデバイス110は、導波路構成115と目120との間に1つまたは複数の光学素子を含んでもよい。光学素子は、例えば、導波路構成110から放射される画像光の収差を補正するか、導波路構成115から放射される画像光を拡大するか、導波路構成115から放射される画像光の他の何らかの光学的調節を行うか、またはそれらの何らかの組合せを実施するように作用してもよい。光学素子の例は、アパーチャ、フレネルレンズ、屈折(例えば、凸および/または凹)レンズ、反射面、フィルタ、あるいは画像光に影響を及ぼす他の任意の好適な光学素子を含んでもよい。導波路構成115は、例えば、一組または複数組のブラッグ格子を有する導波路を含んでもよい。
HMDに使用されてもよいディスプレイの一例の形態は、走査線または一次元(「1D」)導波路ディスプレイと呼ばれることがある。このディスプレイでは、光源の行がディスプレイの垂直空間(または適切な場合、水平空間)全体を照明するのに使用される光源を生成してもよい。複数の小さい画像が組み合わされて、閲覧者によって知覚される大きい複合画像を形成する。走査素子は、導波路構成要素によって処理される光源光を、表示描画速度(display draw rate)を最適化するのにエミッタによって使用される生成パターンに対応する特定のパターンで、ユーザの目に対して出力させてもよい。例えば、光源は最初に、表示画像の上部に沿った単一の行のピクセルに対応する色値を提供されてもよい。光は、微小電気機械システム(MEMS)駆動式の振動ミラーによって支援される導波路ベースのプロセスを使用して、アイボックスの適切な区画に伝達されてもよい。短い時間の後、光源は、次の行(例えば、第1行の下)のピクセルに対応する色値を提供されてもよい。画像のこの区画に対する光は、次に、同じプロセスを使用して、色値を適切な位置に位置付けてもよい。走査ディスプレイは、同じエミッタで構成された従来のディスプレイよりも、実行に要する出力が少なくてもよく、熱の発生が少なくてもよい。該ディスプレイは、一部には、走査素子および光学系に使用される材料の品質により、軽量でもあってもよい。ディスプレイのフレーム率はミラーの振動速度に基づいて制限される。
HMDに使用されてもよいディスプレイの別の例示の形態は、2D即ち二次元導波路ディスプレイであってもよい。かかるディスプレイでは、(例えば、アレイ状の)垂直および水平成分を含む光源が使用されてもよいので、振動ミラーは不要である。1Dの変形例が行ごとにディスプレイを照らさなければならない場合、2Dの変形例は、画像の垂直成分を提供するのに振動ミラーに依存しないので、大幅に改善されたフレーム率を提供することができてもよい。フレーム率を更に改善するため、2D導波路ディスプレイの光源は、ディスプレイシステムに対する駆動命令を提供するコントローラおよび/またはメモリに接合されてもよい。例えば、ディスプレイおよび/またはドライバトランジスタに対する色命令を保持するメモリに接合されてもよい。かかる構成の結果、かかるディスプレイに対する光源は、大幅に高速のフレーム率で動作可能であってもよい。いくつかの実施形態では、HMDは、特定の色を放射するようにそれぞれ構成された複数の光源を備えてもよい。液晶ディスプレイ(LCD)、液晶オンシリコン(LCOS)、発光ダイオード(LED)、有機LED(OLED)、マイクロLED(μLED)、デジタルマイクロミラーデバイス(DMD)、他の任意の好適なディスプレイ技術、またはそれらの任意の組合せを含むがそれらに限定されない、多くの好適なディスプレイ光源技術が想到される。色は、全内反射経路に沿って光をユーザの目に方向付ける、導波路システムの結合構成要素によって組み合わされてもよい。更に、投影された光は、最初に光源と導波路との間の小さい空気ギャップを通過してから、導波路に組み込まれた結合素子と相互作用することができる。経路は、いくつかの例では、光の部分を全内反射経路からデカップリングして、異なる場所で画像の複数のインスタンス(「瞳複製」)を導波路外に方向付け、HMDのアイボックスに向ける、格子構造または他のタイプの光デカップリング構造を含むことができる。
ニアアイディスプレイおよび導波路
図1は、例示のNEDの図を提供している。図2は、いくつかの実施例による、ニアアイディスプレイシステム(NED)200の等角図を示している。いくつかの実施形態では、NED200はHMD100の構成要素であってもよい。代替実施形態では、NED200は、別のHMDまたは画像光を特定の場所に方向付ける他のシステムの一部であってもよい。
図1は、例示のNEDの図を提供している。図2は、いくつかの実施例による、ニアアイディスプレイシステム(NED)200の等角図を示している。いくつかの実施形態では、NED200はHMD100の構成要素であってもよい。代替実施形態では、NED200は、別のHMDまたは画像光を特定の場所に方向付ける他のシステムの一部であってもよい。
NED200は、少なくとも1つのプロジェクタ210と、導波路220と、コントローラ230とを含んでもよい。例示の目的のため、図2は、単一の目120と関連付けられたNED200を示しているが、いくつかの実施形態では、NED200とは完全に別個の、もしくは部分的に別個の別のプロジェクタ、導波路、またはコントローラが、画像光をユーザの別の目に提供してもよい。部分的に別個のシステムでは、1つまたは複数の構成要素がそれぞれの目に対する導波路の間で共有されてもよい。いくつかの例では、単一の導波路220がユーザの両目に画像光を提供してもよい。また、いくつかの例では、導波路220は導波路構成の複数の導波路の1つであってもよい。
プロジェクタ210は、1つまたは複数の二次元画像を含む光を生成してもよい。プロジェクタ210は、1つまたは複数の光源と、光学系と、光源、光学系、またはプロジェクタ210もしくは導波路220の他の任意の構成要素によって引き起こされる不均一性および他の誤差に関して放射光を補正する回路とを含んでもよい。プロジェクタ210は、少なくとも1つの二次元画像を含む画像光255を生成し、導波路220の上面270上に位置する結合エリア250に投影してもよい。画像光255は、結合エリア250に向かう次元または軸線に沿って伝播してもよい。例えば、プロジェクタ210は1つまたは複数のアレイ光源を備えてもよい。本開示は、μLEDのアレイに基づいたディスプレイに言及するが、本明細書に記載される技術およびアーキテクチャは、他の多くの好適なタイプのディスプレイ(例えば、液晶オンシリコン(LCOS)、液晶ディスプレイ(LCD)、有機発光ダイオード(OLED)、またはデジタルマイクロミラーデバイス(DMD))に適用可能であってもよい。
導波路220は、ユーザの目120に方向付けられた画像光240の形で二次元画像を出力する光導波路であってもよい。導波路220は、導波路220の上面270上および/または本体内に位置する1つもしくは複数の結合要素を含んでもよい、結合エリア250で画像光255を受信してもよく、受信した画像光255を導波路220の伝播エリアにガイドしてもよい。結合エリア250の結合要素は、例えば、回折格子、ホログラフィック回折格子、1つもしくは複数のカスケード接続された反射器、1つもしくは複数の角柱面要素、ホログラフィック反射器のアレイ、メタ材料表面、またはそれらの何らかの組合せであってもよい。いくつかの構成では、結合エリア250の結合要素のそれぞれは、X軸およびY軸寸法に沿って実質的に同じ面積を有してもよく、Z軸に沿ってある距離で分離されてもよい(例えば、上面270および下面280上にある、または両方とも上面270上であるが界面層(図示せず)によって分離される、または下面280上にあって界面層で分離される、または両方とも導波路220の本体に埋め込まれるが界面層で分離される)。結合エリア250は、上面270から下面280まで延在するものとして理解されてもよい。結合エリア250は、第1の格子ベクトルに従って、デカップリング要素の間で導波路220の本体に形成される導波路220の伝播エリア内へと、受信した画像光を再び方向付けてもよい。
デカップリング要素260Aは、デカップリング要素260Bを通してデカップリングすることができるように、全内反射された画像光を導波路220から再び方向付けてもよい。デカップリング要素260Aは、導波路220の上面270の一部であるか、それに固着されるか、またはその中に形成されてもよい。デカップリング要素260Bは、導波路220の下面280の一部であるか、それに固着されるか、またはその中に形成されてもよく、デカップリング要素260Aはデカップリング要素260Bに対向し、間に伝播エリアが延在する。デカップリング要素260Aおよび260Bは、例えば、回折格子、ホログラフィック回折格子、ホログラフィック反射器のアレイなどであってもよく、ともにデカップリングエリアを形成してもよい。いくつかの実施形態では、デカップリング要素260Aおよび260Bのそれぞれは、X軸およびY軸寸法に沿って実質的に同じ面積を有してもよく、Z軸に沿ってある距離で分離されてもよい。
いくつかの実施形態では、1つまたは複数のコントローラ(コントローラ230など)は、プロジェクタ210の動作を制御してもよい。コントローラ230は、プロジェクタ210のディスプレイシステムに対する表示命令を生成してもよい。表示命令は、1つもしくは複数の画像を投影または放射する命令を含んでもよい。いくつかの実施形態では、表示命令はフレーム画像色データを含んでもよい。表示命令は、例えば、図1のHMD100に含まれる処理デバイスから、またはそれとの無線もしくは有線通信で受信されてもよい。表示命令は更に、作動システムを活性化させることによって、プロジェクタ210を移動させる、または導波路220を移動させる命令を含んでもよい。コントローラ230は、本開示の他の態様を分かりにくくしないように、本明細書には明示的に示されないハードウェア、ソフトウェア、および/またはファームウェアの組合せを含んでもよい。
マルチプロジェクタヘッドマウントディスプレイ
図3は、HMD300の特定の構成要素の配置を含む、HMD300の一例を示している。例えば、図3は、それぞれの目に対して複数のプロジェクタを有するHMD300の配置を示している。上述したように、また本明細書に更に詳細に記載するように、HMDは、ヘッドセットCPUによって連係される複数のプロジェクタ集積回路(内部構成要素をそれぞれ備える)を備えてもよい。図示される実施形態では、HMD300は、1つのヘッドセットCPU310と4つのプロジェクタ330とを含み、各プロジェクタ330は1つのワープエンジン320を含む。後述するように、ワープエンジン330は、迅速に更新されたフレームを生成し、ユーザに対して投影する、NEDとともに使用されるディスプレイシステムの構成要素であってもよい。特定の実施形態では、HMD300を構成するヘッドセットCPU310およびプロジェクタ330は、1つまたは複数の集積回路を通して実現されてもよい。例えば、ヘッドセットCPU310とは別個のプロジェクタ330と統合されるものとして示されるが、ワープエンジン320は、ヘッドセットCPU310と同じICによって実施される一連の動作として具体化されてもよい。図3に示されるHMD300の構成要素の多くの好適な配置が可能であってもよい。
図3は、HMD300の特定の構成要素の配置を含む、HMD300の一例を示している。例えば、図3は、それぞれの目に対して複数のプロジェクタを有するHMD300の配置を示している。上述したように、また本明細書に更に詳細に記載するように、HMDは、ヘッドセットCPUによって連係される複数のプロジェクタ集積回路(内部構成要素をそれぞれ備える)を備えてもよい。図示される実施形態では、HMD300は、1つのヘッドセットCPU310と4つのプロジェクタ330とを含み、各プロジェクタ330は1つのワープエンジン320を含む。後述するように、ワープエンジン330は、迅速に更新されたフレームを生成し、ユーザに対して投影する、NEDとともに使用されるディスプレイシステムの構成要素であってもよい。特定の実施形態では、HMD300を構成するヘッドセットCPU310およびプロジェクタ330は、1つまたは複数の集積回路を通して実現されてもよい。例えば、ヘッドセットCPU310とは別個のプロジェクタ330と統合されるものとして示されるが、ワープエンジン320は、ヘッドセットCPU310と同じICによって実施される一連の動作として具体化されてもよい。図3に示されるHMD300の構成要素の多くの好適な配置が可能であってもよい。
HMD300は、閲覧者のそれぞれの目が、複数のプロジェクタ330によって放射される画像を受信するように構成されてもよい。閲覧者のFOV(および各プロジェクタ330の関与の範囲)は分割されてもよい。FOVは、均等に分割されてもよく、またはいくつかの実施形態では、閲覧者が画像を見るのに時間を費やす可能性が高い範囲に対するバイアスを有して分割されてもよい。更に、各プロジェクタ330の関与の範囲は1つまたは複数の他のプロジェクタ330と重なり合ってもよい。それぞれの目に2つのプロジェクタ330がある場合(図3に図示)、視野は、様々な構成要素の位置およびプロジェクタによって放射される光をユーザに方向付けるのに関与する導波路の構成に基づいて、(図示される実施形態のように)垂直に分割されるか、または水平に分割されてもよい。特定の実施形態では、各ワープエンジン320は複数のプロジェクタ330に対応してもよい。詳細に後述するように、各プロジェクタは1つまたは複数の色を放射してもよい。例えば、それぞれの目に対して単一のワープエンジン320が、または更にはHMD300全体に対して単一のワープエンジンがあってもよい。特定の実施形態では、複数のヘッドセットCPU310があってもよい。例えば、ユーザのそれぞれの目に対する画像を処理する1つのヘッドセットCPU310があってもよい。
人工現実に対するレンダリングフレーム
人工現実(例えば、AR、VR、MR)技術は、その始まり以来、AR/VR/MRシーンのユーザ視点における急激な変化に応答して、AR/VR/MRオブジェクトをレンダリングする際のレイテンシの問題に悩まされてきた。没入型環境を作り出すため、ユーザは、シーンを見るときに目または頭部を諸所に動かせることが必要なことがあり、環境は、ユーザに提示される視像を調節することによって即時に応答するのが必要なことがある。それぞれの目の動きまたは頭部の動きは、シーンのユーザ視点をわずかに変化させることがある。これらの動きは小さいが散発性で、予測が困難なことがある。解決すべき問題は、目/頭部の動きが急に起こることがあり、動きとともに起こる視点の変化を計算に入れるようにシーンの視像を素早く修正する必要があることである。これが十分に素早く行われなかった場合、結果として生じるレイテンシによってユーザが感覚的な不協和を体験し、それが仮想現実酔いもしくは不快感に結び付くか、または少なくとも体験の没入性を損なう場合がある。
人工現実(例えば、AR、VR、MR)技術は、その始まり以来、AR/VR/MRシーンのユーザ視点における急激な変化に応答して、AR/VR/MRオブジェクトをレンダリングする際のレイテンシの問題に悩まされてきた。没入型環境を作り出すため、ユーザは、シーンを見るときに目または頭部を諸所に動かせることが必要なことがあり、環境は、ユーザに提示される視像を調節することによって即時に応答するのが必要なことがある。それぞれの目の動きまたは頭部の動きは、シーンのユーザ視点をわずかに変化させることがある。これらの動きは小さいが散発性で、予測が困難なことがある。解決すべき問題は、目/頭部の動きが急に起こることがあり、動きとともに起こる視点の変化を計算に入れるようにシーンの視像を素早く修正する必要があることである。これが十分に素早く行われなかった場合、結果として生じるレイテンシによってユーザが感覚的な不協和を体験し、それが仮想現実酔いもしくは不快感に結び付くか、または少なくとも体験の没入性を損なう場合がある。
したがって、人工現実体験の品質は、人工現実シーンをレンダリングし表示するのに使用される技術の制限によって限定される。ユーザの視点の変化を計算に入れた視像全体の再レンダリング(例えば、ポリゴンから仮想オブジェクトを生成する)は資源集約的なことがあり、比較的低いフレーム率(例えば、60Hz、即ち1/60秒ごとに1回)でしか実行できないことがあり、一部のユーザにとっては検出して現実と判別するのに十分な低速である。例えば、視像は数十の仮想オブジェクトを含んでもよく、それぞれが数百または数千の個々のポリゴンによって提示されてもよい。視点のシフトの影響を適切に決定するには、閲覧者の位置に関する新しい入力情報を用いて数千のポリゴンを再びレンダリングしなければならない。この処理は、相当量の計算能力を要し、30~60Hzに限定される場合が多い、レンダラの最大出力を限定する。高フレーム率に達するのに十分な出力を有するレンダラは、商業的に実現不可能な場合が多いか、または消費電力を注意深くモニタリングするのが必要なことがある、ラップトップシステムもしくはHMDを含む可搬型の操作など、特定の使用例に適さない。
より迅速に更新しなければならない(例えば、目の小さい動きに対して調節する)レンダリングプロセスのステップが、HMDの特殊なASICで、場合によっては目自体のより近くで実施される、仮想シーンのレンダリングおよび再レンダリングの作業負荷を分割するのが有益なことがある。他のより計算集約的なタスク(例えば、ポリゴンから仮想オブジェクトをレンダリングする)は、1つまたは複数の他のレンダリング構成要素によって実施され、更にHMDから除去されてもよい。レンダリング構成要素はHMDと無線または有線通信してもよい。本明細書に記載される実施形態は、作業負荷の分割、ならびに主要レンダリングエンジン、ヘッドマウントディスプレイ、およびそれらの下位構成要素を含む、人工現実システムの特殊な構成要素の設計および実現に関連する。
主要レンダリングエンジン
特定の実施形態では、レンダリングエンジンは閲覧者に対して表示される画像を作成してもよい。レンダリングエンジンは、主要画像フレームを生成する任意の好適な構成要素であってもよい。例えば、レンダリングエンジンは、ラップトップもしくはデスクトップコンピュータ、ビデオゲームコンソール、または他の任意の好適なローカルグラフィックスレンダリングシステムなど、スタンドアロンデバイスのグラフィックス処理装置を備えてもよい。レンダリングエンジンは、携帯電話、タブレット、または他の任意の好適なコンパクトグラフィックスレンダリングシステムなど、ユーザの身体に簡単に着用されるデバイスを備えてもよい。特定の実施形態では、レンダリングエンジンは、複数のポリゴン(もしくはポリゴンの頂点)ならびに関連する色データおよびレンダリング命令によって規定される三次元(「3D」)モデルに基づいて、インタラクティブグラフィックスのリアルタイムレンダリングが可能であってもよい。レンダリングエンジンは更に、仮想シーンへの閲覧者の視点(例えば、仮想シーンの残りに対するユーザが着用しているHMDの場所)に関する情報を受信してもよい。レンダリングエンジンは、ポリゴンおよび色データを処理し、レンダリングデータを作成してもよい。高品質で複雑な仮想オブジェクトのレンダリングの高い処理要件により、レンダリングエンジンは、比較的低速、例えば30~60Hzでフレームをレンダリングすることができてもよい。特定の実施形態では、レンダリングエンジンによって生成されるレンダリングデータは、ピクセル色値、ピクセル色位置、または画像フレームと関連付けられた1つもしくは複数の他のデータプライマリを含んでもよい。
特定の実施形態では、レンダリングエンジンは閲覧者に対して表示される画像を作成してもよい。レンダリングエンジンは、主要画像フレームを生成する任意の好適な構成要素であってもよい。例えば、レンダリングエンジンは、ラップトップもしくはデスクトップコンピュータ、ビデオゲームコンソール、または他の任意の好適なローカルグラフィックスレンダリングシステムなど、スタンドアロンデバイスのグラフィックス処理装置を備えてもよい。レンダリングエンジンは、携帯電話、タブレット、または他の任意の好適なコンパクトグラフィックスレンダリングシステムなど、ユーザの身体に簡単に着用されるデバイスを備えてもよい。特定の実施形態では、レンダリングエンジンは、複数のポリゴン(もしくはポリゴンの頂点)ならびに関連する色データおよびレンダリング命令によって規定される三次元(「3D」)モデルに基づいて、インタラクティブグラフィックスのリアルタイムレンダリングが可能であってもよい。レンダリングエンジンは更に、仮想シーンへの閲覧者の視点(例えば、仮想シーンの残りに対するユーザが着用しているHMDの場所)に関する情報を受信してもよい。レンダリングエンジンは、ポリゴンおよび色データを処理し、レンダリングデータを作成してもよい。高品質で複雑な仮想オブジェクトのレンダリングの高い処理要件により、レンダリングエンジンは、比較的低速、例えば30~60Hzでフレームをレンダリングすることができてもよい。特定の実施形態では、レンダリングエンジンによって生成されるレンダリングデータは、ピクセル色値、ピクセル色位置、または画像フレームと関連付けられた1つもしくは複数の他のデータプライマリを含んでもよい。
レンダリングエンジンは、レンダリング要求に対する主要レンダリングデータを受信してもよい。主要レンダリングデータは、二次元もしくは三次元モデル、テクスチャ、コンピュータ生成画像をレンダリングする命令、および他の好適な情報を含んでもよい。レンダリングエンジンは、受信した主要レンダリングデータに基づいて、人工現実シーンの態様をレンダリングするステップを実施してもよい。例えば、レンダリングエンジンは、レイトレーシング、ラスタ化、または他の好適な技術を使用して、仮想シーンにおける仮想オブジェクトのどの3Dモデルのどのポリゴンがディスプレイのどのピクセルを通して見えるかを決定する、視認性計算を実施してもよい。視認性決定に基づいて、レンダリングエンジンは、シェーディング計算を実施して、各ピクセルに適切な色を決定してもよい。特定の実施形態では、レンダリングエンジンは、圧縮または復元されたストリーミング映像データを処理してもよい。レンダリングエンジンは、ユーザに対して表示する画像を生成するのに人工現実システムの他の構成要素によって使用されてもよい、画像フレームまたは他のデータを作成してもよい。
表面
特定の実施形態では、レンダリングエンジンの出力は、ワープエンジンまたはディスプレイシステムによって使用される、1つまたは複数の特殊なオブジェクトプリミティブ、例えば「表面」を含んでもよい。表面は、人工現実シーンの1つまたは複数の仮想オブジェクトをレンダリングするのに使用される情報を含んでもよい。一例として、レンダリングエンジンは、一般的なレンダリングパイプラインのように、最初に3Dモデルから2D画像をレンダリングすることによって、表面を生成してもよい。レンダリングエンジンは次に、追加の後処理方法を使用して、2D画像から表面を生成してもよい。別の例として、レンダリングエンジンは、2D画像のレンダリングのみを対象とした追加ステップを排除して、3Dモデルから表面を直接出力してもよい。別の例として、レンダリングエンジンは、3Dモデルからワープエンジンに2D画像を出力してもよい。ワープエンジンは、2D画像に基づいて、追加の後処理方法を使用して表面を生成してもよい。
特定の実施形態では、レンダリングエンジンの出力は、ワープエンジンまたはディスプレイシステムによって使用される、1つまたは複数の特殊なオブジェクトプリミティブ、例えば「表面」を含んでもよい。表面は、人工現実シーンの1つまたは複数の仮想オブジェクトをレンダリングするのに使用される情報を含んでもよい。一例として、レンダリングエンジンは、一般的なレンダリングパイプラインのように、最初に3Dモデルから2D画像をレンダリングすることによって、表面を生成してもよい。レンダリングエンジンは次に、追加の後処理方法を使用して、2D画像から表面を生成してもよい。別の例として、レンダリングエンジンは、2D画像のレンダリングのみを対象とした追加ステップを排除して、3Dモデルから表面を直接出力してもよい。別の例として、レンダリングエンジンは、3Dモデルからワープエンジンに2D画像を出力してもよい。ワープエンジンは、2D画像に基づいて、追加の後処理方法を使用して表面を生成してもよい。
表面は、人工現実シーンの1つまたは複数の仮想オブジェクトをレンダリングするのに有用な情報を含んでもよい。情報は、仮想カメラ/閲覧者に対する視像空間の座標系において指定される、シーンにおける表面の場所および/または位置データを含んでもよい。あるいは、表面の場所は、世界空間座標系など、他の任意の好適な座標系で指定されてもよい。表面は更に、1つまたは複数のテクセルアレイによって提示されるテクスチャデータを含んでもよい。したがって、特定の実施形態では、「表面」は、シーン内におけるその場所を指定する変換行列を有する長方形のテクスチャと見なされてもよい。テクセルアレイの各テクセルは、色情報およびテクセルアレイ内の2D座標(例えば、(u,v)座標で指定される)を有してもよい。特定の実施形態では、各テクセルの色情報は、いくつかの色チャネル(例えば、赤、緑、および青)の強度と、テクセルの透明度(例えば、完全透明、完全不透明、またはそれらの間のどこか)を示すアルファ情報とを示してもよい。他の実施形態では、テクセルの色情報は、透明度を別個に指定することなく、赤、緑、および青の強度を示してもよい。この場合、各色の値は、テクセルの関連する透明度によって前乗算されてもよい(例えば、テクセルが完全に透明でアルファレベルが0の場合、そのテクセルの赤、緑、および青の値は0アルファレベルで乗算することによって全てゼロにされる)。
表面のテクスチャデータは、グラフィックスレンダリングパイプラインの結果に基づいて生成されて、三次元シーンの閲覧者の視点に基づいて、ディスプレイまたは画像のピクセルによって表示されるべき色を最適に決定する技術が具体化されてもよい。特定の実施形態では、性能需要を満たすことができるように(例えば、ワープエンジンが適切な速度でフレームを出力してもよいように)シーンの十分な単純性を確保するため、表面は限定されてもよい(例えば、最大16の表面または他の任意の好適な数の表面)。したがって、人工現実シーンの特定の仮想オブジェクトがグループ化されてもよい。各表面は、(例えば、ユーザ頭部のHMDが別の位置および/または向きに動くことによって)シーンのユーザ視点が変化した結果として、1つのユニットとして、ともに移動/並進、斜行、拡大縮小、歪曲、または別の形で外見が変化することが予期される、シーン内の1つもしくは複数のオブジェクトまたはポイントのセットの表現であってもよい。
レンダリングエンジンは、1つもしくは複数の有線または無線接続を通してHMDと通信してもよい。特定の実施形態では、ユーザは、ユーザの必要性に基づいて、レンダリングエンジンおよびHMD100がどのように通信するかを選択することができてもよい。特定の実施形態では、ワープエンジン(例えば、ワープエンジン320)はHMDに組み込まれてもよい。ワープエンジンは、表面および他のレンダリング命令などのデータを、レンダリングエンジンから受信するように構成されてもよい。特定の実施形態では、ワープエンジンおよびディスプレイシステムは、単一の集積回路または集積回路のセットによって動作が共有される、論理ブロックであってもよい。HMDは更に、追加の画像処理構成要素、移動検出構成要素、配向検出構成要素、アイトラッキング構成要素、熱検出構成要素、他の任意の好適な構成要素、またはそれらの任意の組合せを含む、人工シーンのレンダリングおよび表示を容易にする、追加の構成要素を備えてもよい。
プロジェクタアーキテクチャ
上述したように、本開示は、HMDの構成要素の設計および配置に関する。1つのかかる構成要素は、本明細書では、「プロジェクタ集積回路」または「プロジェクタ」として記載される。プロジェクタは、主要レンダリングエンジンから受信した画像データをユーザ(例えば、HMDの着用者)に表示される画像に変換するのに必要な、タスクを取り扱う構成要素を備えてもよい。これらのタスクは、仮想シーンに対するユーザの位置の変化を考慮に入れるように画像データに修正を加えること、画像データの表面をサンプリングしてピクセル色を決定すること、様々な画像処理技術を適用してピクセル色を補正し拡張すること、ピクセル色を光エミッタのアレイに対する命令に変換すること、および(例えば、導波路構成を通して)着用者に光を放射することを含んでもよいが、必ずしもそれらに限定されない。
上述したように、本開示は、HMDの構成要素の設計および配置に関する。1つのかかる構成要素は、本明細書では、「プロジェクタ集積回路」または「プロジェクタ」として記載される。プロジェクタは、主要レンダリングエンジンから受信した画像データをユーザ(例えば、HMDの着用者)に表示される画像に変換するのに必要な、タスクを取り扱う構成要素を備えてもよい。これらのタスクは、仮想シーンに対するユーザの位置の変化を考慮に入れるように画像データに修正を加えること、画像データの表面をサンプリングしてピクセル色を決定すること、様々な画像処理技術を適用してピクセル色を補正し拡張すること、ピクセル色を光エミッタのアレイに対する命令に変換すること、および(例えば、導波路構成を通して)着用者に光を放射することを含んでもよいが、必ずしもそれらに限定されない。
図4は、HMDに組み込まれてもよい、プロジェクタ400(例えば、プロジェクタ330)の例示のアーキテクチャを示している。プロジェクタ400は、ワープおよびバックプレーン制御IC405と、1つまたは複数のバックプレーンコントローラ、例えばμLEDバックプレーンIC450、460、および470とを含んでもよい。図4に示されるアーキテクチャは、単色μLEDアクティブマトリックス457をそれぞれ備えた3つのμLEDバックプレーンIC450、460、および470にデータを提供する、単一のワープおよびバックプレーン制御IC405を特徴とする。加えて、または代わりに、他のいくつかの好適な表示技術が使用されてもよい(例えば、LED、OLED、LCD、LCOS、DMDなど)。μLEDバックプレーンICは、単色μLEDマトリックスの色によって特定されてもよい。例えば、μLEDバックプレーンIC450は赤のμLEDマトリックス457を備えてもよく、μLEDバックプレーンIC460は緑のμLEDマトリックスを備えてもよく、μLEDバックプレーンIC470は緑のμLEDマトリックスを備えてもよい。μLEDアクティブマトリックス457の色の違い以外は、μLEDバックプレーンICは同一の構成要素を備えてもよい。異なる色のμLEDマトリックスが機能するのを可能にするため、構成の何らかの違いが求められる場合、図示されない場合であっても含まれることが理解されるべきである。
ワープおよびバックプレーン制御IC
ワープおよびバックプレーン制御IC405は、ワープエンジン410とディスプレイドライバIC420とを備えてもよい。ワープエンジン410は、(例えば、ビットマップファイル形式の形態の)RGB色データ411入力ストリームを30~90Hzの速度(例えば、毎秒30~90フレーム)で受信するように構成されてもよい。ワープエンジン410によって受信される各フレームに対して、ワープエンジン410は数十のサブフレームを準備し出力してもよい。ワープエンジン410は、色データを処理し、120Hz~10kHz(例えば、120~10,000sFPS)の速度で表示される画像のサブフレームを作成してもよい。各サブフレームは、元のフレームをベースとして使用し、フレームの表面に幾何学的ワープを実施して、フレームが作成されてからの仮想シーンに対する閲覧者の位置の変化に合わせて調節してもよい。ワープエンジン410によって作成されるサブフレームは、ディスプレイドライバIC420に提供されてもよい。ディスプレイドライバIC420は、ワープエンジン410とμLEDバックプレーンIC450、460、および470との間にインターフェースを提供する。ディスプレイドライバIC420はまた、μLEDバックプレーンICの特殊性を考慮に入れて、ディザリングおよび不均一性補正動作を実施してもよい。
ワープおよびバックプレーン制御IC405は、ワープエンジン410とディスプレイドライバIC420とを備えてもよい。ワープエンジン410は、(例えば、ビットマップファイル形式の形態の)RGB色データ411入力ストリームを30~90Hzの速度(例えば、毎秒30~90フレーム)で受信するように構成されてもよい。ワープエンジン410によって受信される各フレームに対して、ワープエンジン410は数十のサブフレームを準備し出力してもよい。ワープエンジン410は、色データを処理し、120Hz~10kHz(例えば、120~10,000sFPS)の速度で表示される画像のサブフレームを作成してもよい。各サブフレームは、元のフレームをベースとして使用し、フレームの表面に幾何学的ワープを実施して、フレームが作成されてからの仮想シーンに対する閲覧者の位置の変化に合わせて調節してもよい。ワープエンジン410によって作成されるサブフレームは、ディスプレイドライバIC420に提供されてもよい。ディスプレイドライバIC420は、ワープエンジン410とμLEDバックプレーンIC450、460、および470との間にインターフェースを提供する。ディスプレイドライバIC420はまた、μLEDバックプレーンICの特殊性を考慮に入れて、ディザリングおよび不均一性補正動作を実施してもよい。
ワープエンジン
特定の実施形態では、ワープエンジン410は、人工現実システム(例えば、HMD)のユーザに示される画像を決定してもよい。特定の実施形態では、ワープエンジン410は、画像データおよび他の受信情報に基づいて、画像の1つまたは複数の三次元幾何学的ワープを計算してもよい。これらの動作は、ユーザに表示される画像の品質および/または精度を改善(例えば、空間におけるユーザの物理的位置に対する画像の配置を改善)してもよい。ワープエンジン410は4つの上位ブロックを備えてもよい。図4に示されるように、これらのブロックは、制御ブロック413、変換ブロック415、ピクセルブロック417、および表示ブロック419を含んでもよい。ワープエンジン410の構成要素のうちの1つまたは複数は、1つもしくは複数の高速バス、共有メモリ(例えば、テクスチャメモリ414)を介して、または他の任意の好適な方法を通して、通信するように構成されてもよい。特定の実施形態では、ワープエンジン410の制御ブロック413は、2つ以上の鏡映パイプライン(図示せず)の変換ブロック415、ピクセルブロック417、および表示ブロック419と通信するように構成されてもよい。特定の実施形態では、ワープエンジン410の各パイプラインは、ユーザの左目および右目、またはその一部分に対応する別個の表示のために画像を準備する専用のものであってもよい。この通信は、データならびに制御信号、割込み、および他の命令を含んでもよい。パイプラインは、他のものとは独立して動作することができてもよい。
特定の実施形態では、ワープエンジン410は、人工現実システム(例えば、HMD)のユーザに示される画像を決定してもよい。特定の実施形態では、ワープエンジン410は、画像データおよび他の受信情報に基づいて、画像の1つまたは複数の三次元幾何学的ワープを計算してもよい。これらの動作は、ユーザに表示される画像の品質および/または精度を改善(例えば、空間におけるユーザの物理的位置に対する画像の配置を改善)してもよい。ワープエンジン410は4つの上位ブロックを備えてもよい。図4に示されるように、これらのブロックは、制御ブロック413、変換ブロック415、ピクセルブロック417、および表示ブロック419を含んでもよい。ワープエンジン410の構成要素のうちの1つまたは複数は、1つもしくは複数の高速バス、共有メモリ(例えば、テクスチャメモリ414)を介して、または他の任意の好適な方法を通して、通信するように構成されてもよい。特定の実施形態では、ワープエンジン410の制御ブロック413は、2つ以上の鏡映パイプライン(図示せず)の変換ブロック415、ピクセルブロック417、および表示ブロック419と通信するように構成されてもよい。特定の実施形態では、ワープエンジン410の各パイプラインは、ユーザの左目および右目、またはその一部分に対応する別個の表示のために画像を準備する専用のものであってもよい。この通信は、データならびに制御信号、割込み、および他の命令を含んでもよい。パイプラインは、他のものとは独立して動作することができてもよい。
特定の実施形態では、制御ブロック413は、入力データストリームをレンダリングエンジンから受信し、ワープエンジン410のパイプラインを初期化してフレームを表示に合わせて調節してもよい。特定の実施形態では、入力データストリームは、RGBデータ411および主要レンダリング構成要素からの制御パケットなどのデータを含んでもよい。RGBデータ411および制御パケットは、テクスチャデータおよび位置データを含む1つまたは複数の表面ならびに追加のレンダリング命令などの情報を含んでもよい。制御ブロック413は、制御ブロック413のテクスチャバッファ414を通して、必要に応じてワープエンジン410の1つまたは複数の他のブロックにデータを分配してもよい。制御ブロック413は、表示される1つまたは複数のフレームに対するパイプライン処理を開始してもよい。特定の実施形態では、HMDは複数のワープエンジン410を備えてもよく、それぞれが独自の制御ブロック413を備えてもよい。
特定の実施形態では、ワープエンジン410の変換ブロック415は、人工現実シーンで表示される表面に対する初期視認性情報を決定してもよい。一般に、変換ブロック415は、ディスプレイ上のピクセル位置から光線をキャストし、フィルタコマンド(例えば、双線形または他のタイプの補間技術に基づいたフィルタ処理)を作成して、ピクセルブロック417に送ってもよい。変換ブロック415は、(例えば、慣性測定ユニット、アイトラッカー、ならびに/または同時ローカリゼーションおよびマッピングなど、任意の好適な追跡/ローカリゼーションアルゴリズムを使用して決定される)ユーザの現在の視点から、表面が位置付けられる人工シーンへのレイキャスティングを実施してもよく、結果を作成してピクセルブロック417に送ってもよい。
一般に、変換ブロック415は、特定の実施形態に従って、4段階のパイプラインを備えてもよい。変換ブロック415の段階は次のように進んでもよい。レイキャスタは、1つまたは複数の整列されたピクセルのアレイ、即ち「タイル」に対応する光束を発行してもよい。光束は、1つまたは複数のディストーションメッシュに従って、人工現実シーンに入る前にワープさせてもよい。ディストーションメッシュは、少なくとも、HMDのディスプレイまたは導波路から生じる、幾何学的歪曲の影響を補正するように構成されてもよい。変換ブロック415は、各タイルの境界ボックスを各表面に対する境界ボックスと比較することによって、各光束がシーンの表面と交差するか否かを決定してもよい。光束が表面と交差しない場合、破棄してもよい。タイル・表面間の交差が検出され、対応するタイル・表面対がピクセルブロック417に渡されてもよい。
一般に、ピクセルブロック417は、特定の実施形態に従って、タイル・表面対から色値を決定して、ピクセル色値を作成してもよい。各ピクセルの色値は、(例えば、入力データストリームの一部として)制御ブロック413によって受信され格納された表面のテクスチャデータからサンプリングされてもよい。ピクセルブロック417は、タイル・表面対を変換ブロック415から受信し、双線形フィルタ処理をスケジューリングしてもよい。各タイル・表面対に対して、ピクセルブロック417は、投影されたタイルが表面と交差する場所に対応する色値を使用して、タイル内のピクセルの色情報をサンプリングしてもよい。特定の実施形態では、ピクセルブロック417は、各ピクセルに対して別個に、赤、緑、および青の色成分を処理してもよい。ピクセルブロック417は次に、ピクセル色値をワープエンジン410の表示ブロック419に出力してもよい。
一般に、表示ブロック419は、ピクセル色値をピクセルブロック417から受信し、データのフォーマットをディスプレイドライバIC420に出力するのにより適したものに変換し、1つまたは複数の輝度補正をピクセル色値に適用し、ディスプレイドライバIC420に出力するようにピクセル色値を準備してもよい。特定の実施形態では、表示ブロック419は、ピクセルブロック417によって生成されたタイル順ピクセル色値を、ディスプレイによって必要とされることがある走査線または行順のデータに変換してもよい。輝度補正は、輝度補正、ガンママッピング、および特定のディザリング動作を含んでもよい。特定の実施形態では、表示ブロック419は、補正されたピクセル色値を、より高速(例えば、120~10,000sFPSに対応する120Hz~10kHz)でディスプレイドライバIC420に提供してもよい。
ディスプレイドライバ集積回路-ディザリングおよび不均一性補正
ワープおよびバックプレーン制御IC405は、様々な画像処理技術を実施するディスプレイドライバ集積回路420を備えてもよい。理解を容易にするため、ディスプレイドライバIC420は別個の集積回路として考察されるが、ディスプレイドライバIC420の要素および機能は、ワープおよびバックプレーン制御IC405に直接組み込まれた類似の構造によって実施されてもよいことに留意されたい。表示ブロック419の出力は、ワープおよびバックプレーン制御IC405のディスプレイドライバIC420の画像処理ブロック430に提供されてもよい。画像処理ブロック430は、ワープエンジン405の表示ブロック419からディスプレイドライバIC420に渡されたサブフレーム画像に対して、ディザリングおよび不均一性補正動作を実施してもよい。
ワープおよびバックプレーン制御IC405は、様々な画像処理技術を実施するディスプレイドライバ集積回路420を備えてもよい。理解を容易にするため、ディスプレイドライバIC420は別個の集積回路として考察されるが、ディスプレイドライバIC420の要素および機能は、ワープおよびバックプレーン制御IC405に直接組み込まれた類似の構造によって実施されてもよいことに留意されたい。表示ブロック419の出力は、ワープおよびバックプレーン制御IC405のディスプレイドライバIC420の画像処理ブロック430に提供されてもよい。画像処理ブロック430は、ワープエンジン405の表示ブロック419からディスプレイドライバIC420に渡されたサブフレーム画像に対して、ディザリングおよび不均一性補正動作を実施してもよい。
画像処理ブロック430は、サブフレーム内のピクセル色値に対するディザリングを実施してもよい。サブフレームの各ピクセル(それぞれ、場合によってはμLEDアレイのμLEDに対応する)に対して、画像処理ブロック430は、ディスプレイに利用可能な正確さ(例えば、μLEDアレイのμLEDによって再現可能な色の正確さ)と一致するように、デジタルピクセル色値を量子化してもよい。量子化された色は、量子化された値と指定のピクセル色値との違いである誤差を生じることがある。誤差は、μLEDの周りの1つまたは複数のμLEDに伝播されてもよい。この伝播された誤差は、周囲のμLEDの最終色に組み込まれてもよい。特定の実施形態では、誤差は、ワープエンジン410から受信される1つもしくは複数の今後のフレームまたはサブフレームに伝播されてもよい。
高いサブフレーム率は、人間の目が通常判別できるよりもはるかに高い速度で作成される個々のサブフレームを含むことがあるので、閲覧者の目は、表示画像を見るときに複数の表示されたサブフレームを統合してもよい。これにより、知覚されるフレームは複合される。例えば、2つ以上のサブフレーム間における(例えば、同じピクセル位置の色の)小さい差は、閲覧者の目によって統合されてもよい。画像処理ブロック430は、この解釈プロセスを利用して、1つもしくは複数のピクセル色(例えば、固定のμLEDのアレイ内)の表示の位置および/または時間(例えば、サブフレームの数)を調節して、特定の視覚効果を作成してもよい。かかる効果は、例えば、μLEDアレイのμLEDに物理的に利用可能なものよりも精細なグラデーションで色を表示することを含んでもよい。したがって、単一フレームの空間ディザリングに加えて、ディザリングブロック345は、「三次元ディザリング」を実施することができてもよい。三次元ディザリングでは、誤差は、(水平および垂直軸に沿った)2つの空間的次元、および(第1のサブフレームと1つもしくは複数の後続のサブフレームとの間の)時間的次元で伝播されてもよい。
画像処理ブロック430はまた、ディスプレイの不均一性を補正してもよい。不均一性は、例えば、非限定的に、1つまたは複数の誤動作するμLED(例えば、駆動電流に応答して限定された光しか作成しないかもしくは光を作成しないμLED)、ディスプレイの色歪(例えば、駆動電流が増加および/または減少する際に色歪を表示するμLED)、ディスプレイの製造誤差、色特異的なμLEDの間で変動するピクセル幾何学形状、色特異的なμLEDの間のピクセル間隔、ならびに他の潜在的な不均一性のホストを含んでもよい。高いサブフレーム率は、ユーザが知覚することなく不均一性を補正する機会を提供してもよい。
特定の実施形態では、一部のタイプの不均一性はワープエンジン410によって補正されてもよく、一部のタイプの不均一性は画像処理ブロック430によって補正されてもよい。サブフレーム間でのばらつきが少ないことが予期される不均一性は、ワープエンジン410によって補正されてもよい。例えば、ディスプレイの導波路または発光構成要素と関連付けられた光学部品によって導入される不均一性は、ワープエンジン410によって補正されてもよい。これらの不均一性は、フレームの指定されたピクセル色値にかかわらず一貫して測定されてもよいので、より高出力のワープエンジン410によって補正されてもよい。μLEDアレイの誤動作するμLEDによって導入される不均一性は、画像処理ブロック430によって補正されてもよい。
特定の実施形態では、様々な不均一性を補正し、色値誤差を伝播するのに必要なマスクは、ディスプレイドライバIC420の不均一性メモリ433および誤差伝播メモリ435にそれぞれ格納されてもよい。特定の実施形態では、不均一性メモリ433は、各サブフレーム変換のジャストインタイム計算の必要性を低減する、事前計算されたマスクを格納する7.5MBのバッファであってもよい。特定の実施形態では、誤差伝播メモリ435は、以前に計算された誤差伝播値を格納する、ディスプレイドライバIC420の5MBのバッファであってもよい。例えば、各ピクセル位置に関して、誤差値の一部分は時間誤差伝播に対して指定されてもよい。次のサブフレームの画像を処理しながら、画像処理ブロック430は、いくつかまたは全てのピクセル位置の誤差値を検索してもよい。この指定された過去の誤差値は、現在のサブフレームのディザリングとともに使用されてもよい。時間ディザリングに対して指定された現在のサブフレームからの任意の誤差値は、画像処理ブロック430が次のサブフレームをディザリングしている間にアクセスされる、誤差伝播メモリに再び格納されてもよい。画像処理ブロック430の出力は、サブフレームに対する1つまたは複数の個々のμLED色命令であってもよい。特定の実施形態では、ワープエンジン410から受信した画像がまだ単色成分に分割されていない場合、画像処理ブロック430、またはディスプレイドライバIC420の別の構成要素は、画像が単色μLEDアクティブマトリックス457に対応するμLEDバックプレーンIC(例えば、450、460、または470)に渡されてもよいように、色を2つ以上の単色部分に分離してもよい。
画像処理ブロック430の出力がディスプレイドライバIC420から送られる前に、ディスプレイインターフェースシリアライザ440を通過してもよい。ディスプレイインターフェースシリアライザ440は、画像処理ブロック430から受信した並列化データを、μLEDバックプレーンIC450により簡単に送信されてもよい直列化フォーマットに変換してもよい。データを送信前に直列化することで、例えば、ワープおよびバックプレーン制御IC405を各μLEDバックプレーンIC450、460、および470に接続する信号線(例えば、ピン)の数を低減することによって、チップ設計全体の複雑さが低減されてもよい。これは次に、製造誤差の機会を減少させることによって、コストを低減し、歩留まりを増加させる助けとなってもよい。μLEDバックプレーンIC450のデシリアライザ453は、直列化データストリームを受信し、それを、μLEDバックプレーンIC450の残りの構成要素によって使用するのに適した並列化ストリームに戻してもよい。
μLEDバックプレーン集積回路
プロジェクタのμLED集積回路は、データおよび制御信号をワープおよびバックプレーン制御IC405から受信し、データおよび制御信号をユーザに表示される光に変換する要素を備えてもよい。図4は、プロジェクタ400のワープおよびバックプレーン制御IC405ならびにμLEDバックプレーンIC450、460、および470の1つの潜在的な配置を示している。いくつかの実施形態では、図4に示されるように、1つのワープおよびバックプレーン制御IC405は、いくつかのμLEDバックプレーンIC450、460、および470とインターフェース接続するように構成されてもよい。プロジェクタ400の場合、各μLEDバックプレーンICは異なる単色μLEDアクティブマトリックス457を備える(μLEDバックプレーンIC450は赤のμLEDアクティブマトリックスを備え、μLEDバックプレーンIC460は緑のμLEDアクティブマトリックスを備え、μLEDバックプレーンIC470は青のμLEDアクティブマトリックスを備える)。上述したように、これらのμLEDマトリックスから放射された光は、閲覧者のアイボックスに送られる前に導波路システムを通して組み合わされてもよい。いくつかの実施形態では、単一のワープおよびバックプレーン制御IC405が単一のμLEDバックプレーンIC450とインターフェース接続してもよい。μLEDバックプレーンIC450は次に、単一のμLEDアクティブマトリックスを備えてもよく、それが次いで単色または多色性(例えば、いくつかの層状μLEDアクティブマトリックスで構成される)であってもよい。本明細書で説明するのと同じ原理が全ての想到される組合せに当てはまってもよい。
プロジェクタのμLED集積回路は、データおよび制御信号をワープおよびバックプレーン制御IC405から受信し、データおよび制御信号をユーザに表示される光に変換する要素を備えてもよい。図4は、プロジェクタ400のワープおよびバックプレーン制御IC405ならびにμLEDバックプレーンIC450、460、および470の1つの潜在的な配置を示している。いくつかの実施形態では、図4に示されるように、1つのワープおよびバックプレーン制御IC405は、いくつかのμLEDバックプレーンIC450、460、および470とインターフェース接続するように構成されてもよい。プロジェクタ400の場合、各μLEDバックプレーンICは異なる単色μLEDアクティブマトリックス457を備える(μLEDバックプレーンIC450は赤のμLEDアクティブマトリックスを備え、μLEDバックプレーンIC460は緑のμLEDアクティブマトリックスを備え、μLEDバックプレーンIC470は青のμLEDアクティブマトリックスを備える)。上述したように、これらのμLEDマトリックスから放射された光は、閲覧者のアイボックスに送られる前に導波路システムを通して組み合わされてもよい。いくつかの実施形態では、単一のワープおよびバックプレーン制御IC405が単一のμLEDバックプレーンIC450とインターフェース接続してもよい。μLEDバックプレーンIC450は次に、単一のμLEDアクティブマトリックスを備えてもよく、それが次いで単色または多色性(例えば、いくつかの層状μLEDアクティブマトリックスで構成される)であってもよい。本明細書で説明するのと同じ原理が全ての想到される組合せに当てはまってもよい。
単一のμLEDバックプレーンIC450に関するアーキテクチャについて記載する。同じ概念が、必要に応じて、プロジェクタ400の残りのμLEDバックプレーンIC(例えば、μLEDバックプレーンプロジェクタIC460および470)に容易に使用されてもよいことが理解されるべきである。画像データ(例えば、ピクセル色値)は、μLEDバックプレーンIC450に送信されてもよい。データが(例えば、ワープおよびバックプレーン制御IC405のシリアライザ440によって)直列化されている場合、データは、μLEDバックプレーンIC450のデシリアライザ453によって逆直列化されてもよい。上述したように、直列化は、データを送信するのに必要なアクティブな信号線の数を低減してもよく、ピン数の観点からより効率的であってもよい。しかしながら、データは次に、逆直列化を要することがあるので、パルス幅変調制御ブロック455およびμLEDアクティブマトリックス457を含む、μLEDバックプレーンIC450の残りの構成要素によって使用されることがある。逆直列化データは、パルス幅変調(PWM)制御ブロック455に渡されてもよい。
PWM制御ブロック455は、色データを解釈し、μLEDアクティブマトリックス457のμLEDを使用してパルス幅変調を実施するのに必要な制御命令を提供してもよい。特定の実施形態では、PWM制御ブロック455は、ピクセル色値および他の制御命令を、μLEDアクティブマトリックス457によってアクセスされるメモリにロードしてもよい。データがロードされた後、色データおよび命令に従って、μLEDアクティブマトリックス457のμLEDが照明されてもよい。例えば、PWM制御ブロック455は、閲覧者の目が照明されたディスプレイのみを知覚する(例えば、μLEDの明滅は知覚しない)ような十分な高速でμLEDが照明されてもよいように、タイミングおよび色命令を提供してもよい。本開示はPWMを表示規制技術として使用することを記載しているが、光源の照明を制御する他の方策も使用されてもよい。特定の実施形態では、μLEDアクティブマトリックス457は、データがワープエンジン410によって出力される速度(例えば、120Hz~10kHz、または120~10,000sFPS)に合わせてサブフレームを受信し表示するように構成されてもよい。
フレームおよびサブフレームのタイミング
本開示は、2つの異なるフレーム率で画像フレームデータを生成し受信する構成要素を想到しているので、以下は、ディスプレイシステム内におけるサブフレーム率(例えば、アップサンプリングされたフレーム)の効果の簡単な説明および例である。図5は、ディスプレイシステムによって受信され表示される、2つのフレームの例示のレンダリングタイムラインを示している。タイムライン500は、単一のフレームに対する時間量を示す。示されるように、ディスプレイは、毎秒30~90フレームの入力フレーム率(30~90Hz)でフレームを受信してもよい。入力フレーム率は、更新またはリフレッシュされたフレームデータが受信される頻度を示してもよい。例えば、フレーム(またはフレームのレンダリングを許可するデータ)は、レンダリングエンジンによってレンダリングされ、HMDに送られて表示されてもよい。入力フレーム率は、レンダリングされたデータがHMDによって受信される頻度を表してもよい。
本開示は、2つの異なるフレーム率で画像フレームデータを生成し受信する構成要素を想到しているので、以下は、ディスプレイシステム内におけるサブフレーム率(例えば、アップサンプリングされたフレーム)の効果の簡単な説明および例である。図5は、ディスプレイシステムによって受信され表示される、2つのフレームの例示のレンダリングタイムラインを示している。タイムライン500は、単一のフレームに対する時間量を示す。示されるように、ディスプレイは、毎秒30~90フレームの入力フレーム率(30~90Hz)でフレームを受信してもよい。入力フレーム率は、更新またはリフレッシュされたフレームデータが受信される頻度を示してもよい。例えば、フレーム(またはフレームのレンダリングを許可するデータ)は、レンダリングエンジンによってレンダリングされ、HMDに送られて表示されてもよい。入力フレーム率は、レンダリングされたデータがHMDによって受信される頻度を表してもよい。
タイムライン510は、標準的なディスプレイで受信されたフレームに対応して、1つまたは複数の光エミッタ(例えば、LED)が光を放射してもよい時間量を示し、これは光エミッタのオンタイムと呼ばれることがある。LEDのオンタイムは、電流がLEDによって受信された後に、指定された輝度閾値を超える光をLEDが出力している時間を指すことがある。したがって、タイムライン510は、LEDが光を放射し始めているが指定された輝度では放射していない時間を含まないことがある。特定の実施形態では、標準的なディスプレイにおけるLEDのオンタイムは、6~28ms(35~167Hzに対応する)であってもよい。タイムライン520は、LEDのオフタイムを示す。LEDのオフタイムは、電流がLEDに供給されなくなっているなどの理由で、LEDが光を放射していない時間を指すことがある。特定の実施形態では、標準的なディスプレイにおけるLEDのオフタイムは、約5msであってもよい。LEDのオフタイムの間、レンダリングエンジンからの更新が受信されてもよく、その後のフレームデータが表示のために準備されてもよい。やはりオフタイムの間、フレームデータに対する更新がレンダリングエンジンまたはHMDによって適用されてもよい。これらの更新は、テクスチャデータに対する更新、または可変焦点レンズをシミュレートするのを可能にする調節を含んでもよい(もしくは物理的可変焦点レンズの場合、レンズは適宜動かされてもよい)。
タイムライン530は、特定の実施形態によるサブフレームディスプレイに割り当てられる時間量を示す。特定の実施形態では、ディスプレイシステムは、入力フレーム率(例えば、30~90Hz)でフレームを受信し、フレームをいくつかのサブフレームにアップサンプリングしてもよい。サブフレームをアップサンプリングし表示することによって、ディスプレイは、有効なまたは知覚されるフレーム率を増加させてもよい。特定の実施形態では、サブフレーム率は120Hz~10kHzであってもよい。サブフレーム率は、具体的には、ディスプレイの光エミッタの応答時間を利用するように構成されてもよい。特定の実施形態では、ディスプレイのLEDは、供給された入力フレーム率でフレームを表示するのに要する時間をはるかに下回る、パワーサイクル時間(例えば、オフからオンになり、再びオフになるまでの時間)を有してもよい。これに基づいて、ディスプレイシステムは、LEDによって表示される入力フレーム更新の間(例えば、30~90Hzよりも高速)に、フレーム画像データを修正するように構成されてもよい。例えば、入力フレーム更新の間には、タイムライン540によって示されるように、レンダリングエンジンによって提供されるデータに対して、(例えば、ワープエンジン410によって)幾何学的ワーピングが実施されてもよい。幾何学的ワーピングの効果は、アップサンプリングされたサブフレーム率で表示されてもよい。オフタイム(タイムライン550によって示される)の間に新しいデータがレンダリングエンジンから受信されてもよいので、ディスプレイシステムによって追加の効果は適用されなくてもよい。
例示の集積回路
本開示は、ワープおよびバックプレーン制御IC405とμLEDバックプレーンIC(例えば、450)で使用されてもよい集積回路、ならびに前記集積回路の構成要素の様々な可能な設計を想到する。図6~図7は、バックプレーン制御ICおよびプロジェクタICの例示のアーキテクチャを示している。
本開示は、ワープおよびバックプレーン制御IC405とμLEDバックプレーンIC(例えば、450)で使用されてもよい集積回路、ならびに前記集積回路の構成要素の様々な可能な設計を想到する。図6~図7は、バックプレーン制御ICおよびプロジェクタICの例示のアーキテクチャを示している。
バックプレーン制御IC
図6は、パルス幅変調を用いる、シリコンベースのバックプレーン制御ICおよびアクティブμLEDアレイ(例えば、μLEDバックプレーンIC450、460、および470)の、例示のブロックレベルレイアウト600を示している。ブロック610は、直列化されたデータ(ワープおよびバックプレーン制御IC405のシリアライザブロック440によって直列化されたデータなど)を並列データへと逆直列化するデシリアライザである。逆直列化ブロック610は、シリアライザ440によって指定されたフォーマットからデータを逆直列化するように特別に構成されてもよい。したがって、逆直列化ブロック610およびシリアライザ440は、対にされるかまたはコデザインされたものと言うことができる。バックプレーン制御IC600は、PWMを使用して、μLEDアレイ660の出力を変調してもよい。タイミングコントローラ(TCON)基板650は、列ドライバ基板620およびスキャニング行基板630に対するタイミング命令を提供してもよい。TCON基板650は、例えば、ディスプレイドライバから受信した色データストリームによって命令されたような色を提供するのに、特定の光エミッタ(例えば、LED、OLED、μLEDなど)が照明されなければならない色および/または時間量に関する情報を提供してもよい。特定の実施形態では、タイミングコントローラ(TCON)基板650はいくつかの個々のTCONチップを備えてもよい。
図6は、パルス幅変調を用いる、シリコンベースのバックプレーン制御ICおよびアクティブμLEDアレイ(例えば、μLEDバックプレーンIC450、460、および470)の、例示のブロックレベルレイアウト600を示している。ブロック610は、直列化されたデータ(ワープおよびバックプレーン制御IC405のシリアライザブロック440によって直列化されたデータなど)を並列データへと逆直列化するデシリアライザである。逆直列化ブロック610は、シリアライザ440によって指定されたフォーマットからデータを逆直列化するように特別に構成されてもよい。したがって、逆直列化ブロック610およびシリアライザ440は、対にされるかまたはコデザインされたものと言うことができる。バックプレーン制御IC600は、PWMを使用して、μLEDアレイ660の出力を変調してもよい。タイミングコントローラ(TCON)基板650は、列ドライバ基板620およびスキャニング行基板630に対するタイミング命令を提供してもよい。TCON基板650は、例えば、ディスプレイドライバから受信した色データストリームによって命令されたような色を提供するのに、特定の光エミッタ(例えば、LED、OLED、μLEDなど)が照明されなければならない色および/または時間量に関する情報を提供してもよい。特定の実施形態では、タイミングコントローラ(TCON)基板650はいくつかの個々のTCONチップを備えてもよい。
ドライバ620は、μLEDアクティブアレイ660のどのμLED列が所与のサブフレームに対して照明されたμLEDを含むかを示す、命令を受信してもよい。スキャニング行基板630は、μLEDアクティブアレイ660の行を接地する命令(例えば、どの列のどのμLEDを点灯させるかの命令)を受信してもよい。特定の実施形態では、アレイ660にはM列のμLEDおよびN行が存在してもよく、MおよびNは任意の好適な整数であってもよい。例えば、ディスプレイは、3840列のμLEDと2160行のμLED(例えば、4Kディスプレイ解像度)を備えてもよい。ディスプレイにとって有利であるとみなされる、より多数または少数のμLEDが含まれてもよい。TCON基板650は、スキャニング行ドライバ630にμLEDアレイの行を循環させて、アレイの全てのμLEDが適切な時間に発光することを確保する、タイミング命令を提供してもよい。バイアス電流ミラー640は、変動する駆動電流を受信し、ドライバ620および630によって変調される、μLEDを駆動するのに適切なベース電流を出力してもよい。特定の実施形態では、バックプレーン制御ICおよびアクティブμLEDアレイ660は、ガラスベースの薄膜トランジスタバックプレーンとは対照的に、シリコンベースの薄膜トランジスタバックプレーンを用いて実現されてもよい。シリコンベースのバックプレーンは、μLEDバックプレーンIC600がより小さい形状因子を有して、ディスプレイ品質を犠牲にすることなく製造の効率を向上しコストを低下させることを可能にしてもよい。
プロジェクタ-2.5Dおよび3D IC
図7は、ディスプレイシステムのプロジェクタ(例えば、プロジェクタ400)の2つの配置700および710を示している。配置700および710は、機械的に支持し、IC同士の電気的接続に対応するためにプリント回路基板(PCB)に搭載された、ワープおよびバックプレーン制御IC(例えば、ワープおよびバックプレーン制御IC405)と、いくつかのバックプレーン制御IC740、750、および760(例えば、μLEDバックプレーンIC450、460、および470)とを特徴とする。図4と同様に、バックプレーン制御ICはそれぞれ単色μLEDアレイに対応し、したがってそれぞれ、提供する色(例えば、赤、緑、または青)によって指定されてもよい。
図7は、ディスプレイシステムのプロジェクタ(例えば、プロジェクタ400)の2つの配置700および710を示している。配置700および710は、機械的に支持し、IC同士の電気的接続に対応するためにプリント回路基板(PCB)に搭載された、ワープおよびバックプレーン制御IC(例えば、ワープおよびバックプレーン制御IC405)と、いくつかのバックプレーン制御IC740、750、および760(例えば、μLEDバックプレーンIC450、460、および470)とを特徴とする。図4と同様に、バックプレーン制御ICはそれぞれ単色μLEDアレイに対応し、したがってそれぞれ、提供する色(例えば、赤、緑、または青)によって指定されてもよい。
配置700は、3つのバックプレーン制御IC740、750、および760がワープおよびバックプレーン制御IC730の上に物理的に搭載されている、変形例を示している。ICの垂直スタックが更にPCB720aに搭載される。このスタック型の変形例は、従来のICと比較して垂直プロファイルが増加しているので、3D構造と呼ばれることもある。3D構造では、バックプレーン制御IC740、750、および760がワープおよびバックプレーン制御IC730と通信し、PCB720aに接続することを可能にするため、貫通シリコンビアが使用されてもよい。3Dの変形例は、ICのフットプリントを大幅に低減することができるので、従来の2Dの変形例(例えば、全てのICが単一面に搭載される)よりも空間効率が良くてもよい。3Dの変形例はまた、個々のICが高効率の貫通シリコンビアを通してスタックの他のICと直接通信してもよいので、相互接続の複雑さを低減してもよい。
配置710は、3つのバックプレーン制御IC740、750、および760がインターポーザ770上でワープおよびバックプレーン制御IC730の隣に搭載されている、変形例を示している。インターポーザ770(ICを有する)が更にPCB720bに搭載される。インターポーザ770は、2.5D構成と呼ばれることがある、ICのシミュレートされた3D構成を可能にしてもよい。インターポーザ770は、その上およびPCB720bに搭載されたICの接続点を接続する、貫通シリコンビアを有するシリコンインターポーザであってもよい。インターポーザ770は、別の例の2D構成において達成可能であろう速度よりも高速のIC間通信を可能にしてもよい。例えば、使用される製造技術に応じて、インターポーザはより精密な(例えば、ノイズが少ない)接続を可能にしてもよい。インターポーザ770のIC間の接続は、IC自体と同じ材料(シリコンなど)およびプロセスを使用して行われてもよい。インターポーザ770とPCB720bとの間の接続は、一般的な技術を使用して行われてもよい。2.5D、即ち「サイドバイサイド型」の変形例は、2D技術と比較したとき、IC間の通信の速度を改善し、低減されたフットプリントを有してもよい。2.5Dの変形例はまた、純粋な3Dの変形例と比較すると、より高い製造歩留まり率を有してもよい。更に、個々のアクティブICは依然として分離することができるので、当然ながら、ICからの熱は2Dの変形例と同様の方法で散逸させることができ、大きな問題にはならない。
プロジェクタアーキテクチャ
図7はプロジェクタの構成要素の配置に関する変形を示しているが、図8A~図8Dは、異なる集積回路で具体化されるプロジェクタの異なる構成要素に関する変形を含む、HMDの構成要素の配置に関する変形を示している。図8A~図8Dは、HMDのプロジェクタ(例えば、プロジェクタ400)およびヘッドセットCPU(例えば、ヘッドセットCPU310)に対する可能なアーキテクチャを示している。図8A~図8Dに示される各構成は、ヘッドセットCPU、ワープエンジン(例えば、ワープエンジン410)、ディスプレイドライバIC(DDI)(例えば、ディスプレイドライバIC420)、ならびにμLEDバックプレーン制御およびマトリックス(例えば、μLEDバックプレーンIC450、460、または470)といった構成要素のそれぞれのうち少なくとも1つを含む。図8A~図8Dに表される選択肢は、必要な別個のICの数、DDIがμLEDバックプレーン制御およびマトリックスとICを共有するか否か、ならびに他の構成要素に対するワープエンジン(例えば、ワープエンジン410)の場所という3つの指標に従った、それらの特性の説明によって要約することができる。
図7はプロジェクタの構成要素の配置に関する変形を示しているが、図8A~図8Dは、異なる集積回路で具体化されるプロジェクタの異なる構成要素に関する変形を含む、HMDの構成要素の配置に関する変形を示している。図8A~図8Dは、HMDのプロジェクタ(例えば、プロジェクタ400)およびヘッドセットCPU(例えば、ヘッドセットCPU310)に対する可能なアーキテクチャを示している。図8A~図8Dに示される各構成は、ヘッドセットCPU、ワープエンジン(例えば、ワープエンジン410)、ディスプレイドライバIC(DDI)(例えば、ディスプレイドライバIC420)、ならびにμLEDバックプレーン制御およびマトリックス(例えば、μLEDバックプレーンIC450、460、または470)といった構成要素のそれぞれのうち少なくとも1つを含む。図8A~図8Dに表される選択肢は、必要な別個のICの数、DDIがμLEDバックプレーン制御およびマトリックスとICを共有するか否か、ならびに他の構成要素に対するワープエンジン(例えば、ワープエンジン410)の場所という3つの指標に従った、それらの特性の説明によって要約することができる。
図8Aでは、アーキテクチャ800aは3つの別個のタイプのICを含む。1つのICはヘッドセットCPU805である。第2のIC815は、ワープエンジン(例えば、ワープエンジン410)およびDDI制御(例えば、ディスプレイドライバIC420)を含む。第3のICタイプ820a、820b、および820cは、μLEDバックプレーン制御およびアクティブマトリックス(例えば、μLEDバックプレーンIC450、460、および470)を含む。この構成では、プロジェクタ810(例えば、プロジェクタ400)は、単一のチップに統合された、ワープエンジンおよびDDI制御ASIC815と、3つのμLEDバックプレーン制御およびアクティブマトリックスIC820a、820b、および820cとを備える。したがって、この構成は任意の数のプロジェクタ810に対応してもよいが、構成800aに示されるヘッドセットCPU805は4つのプロジェクタ810に対応している。例えば、それぞれの目が、スクリーンを垂直または水平に分ける、2つの指定されたプロジェクタ810を有してもよい。各プロジェクタの作業負荷を分割することで、(より少数のプロジェクタで同じ視野を達成する潜在的なコストまたは複雑さと比較して)コストまたは複雑さを劇的に増加させることなく、ユーザの視野を改善してもよい。
図8Aに示される各プロジェクタ810は、専用のワープエンジンを有する。これは、フレーム/サブフレームのサブセットに対する幾何学的ワープを決定するだけでよいので、ワープエンジンの予期される作業負荷を低減してもよい。別の利点は、ワープエンジンおよびDDI制御ASIC815をμLEDアクティブマトリックス820a、820b、および820cから分けることによる。ワープエンジンおよびDDI制御の動作は、上述したように、各ブロックが任意のアナログ構成要素とインターフェース接続する固有の必要性がないので、「デジタルオンリー」と呼ばれることがある。対照的に、μLEDマトリックスはアナログ構成要素であり、そのコントローラはそれと適宜インターフェース接続しなければならない。ワープエンジンおよびDDI制御ASIC815はデジタルオンリー動作に対応するので、ASIC自体は最も適切な製造プロセスを使用して製造されてもよい。例えば、ワープエンジンおよびDDI制御ASIC815は、より小さい構成要素を使用して製造して、アナログ構成要素とのインターフェース接続を含んだ場合よりもICを高出力および/または高電力効率にしてもよい。特定の実施形態では、プロジェクタ810は、図7に関して上述したような、2.5Dまたは3DのASICとして具体化されてもよい。したがって、ワープエンジンおよびDDI制御ASIC815とμLED制御およびマトリックスIC820a、820b、および820cとの間のアクティブ信号接続は、サイドバイサイド型またはスタック型設計のアーキテクチャによって可能にされる短い直接接続を利用してもよい。
多くの標準的なディスプレイ(例えば、ガラスベースのバックプレーンを有するもの)では、DDIコントローラの動作はディスプレイマトリックスに密接に結び付けられる場合が多いので、DDIコントローラおよびμLEDコントローラおよびアクティブマトリックスを単一のICに組み込まなければならない。上述したように、特定の実施形態では、μLEDマトリックスはシリコンベースのバックプレーンを使用してもよい。これは、特に2.5Dまたは3D構成の可能性と併せて考慮した場合、μLEDディスプレイに対応する動作ブロックをほぼ任意に分割できる可能性を有する。例えば、アーキテクチャ800aに関して示されるように、ワープエンジンおよびDDIコントローラは、μLEDコントローラおよびマトリックスから分離されてもよい。
図8Bでは、アーキテクチャ800bも3つの別個のタイプのICを含む。1つのASIC825は、ヘッドセットCPUおよびワープエンジン(例えば、ワープエンジン410)を含む。第2のASIC835は、DDI制御(例えば、ディスプレイドライバIC420)を含む。また、第3のASICタイプ840a、840b、および840cは、μLEDバックプレーン制御およびアクティブマトリックス(例えば、μLEDバックプレーンIC450、460、および470)を含む。図8Aに示されるアーキテクチャのように、アーキテクチャ800bは、ICの専用化を強化し、最も適切な製造プロセスをICに使用する(例えば、ハイブリッドICと比べてデジタルオンリーICの速度を改善する)のを可能にする。
アーキテクチャ800aとは異なり、アーキテクチャ800bは、ヘッドセットCPUと同じIC825に組み込まれる、区分されたワープエンジンを特徴とする。アーキテクチャ800bは、単一のワープエンジンを示しているが、同じASIC855で動作する複数のワープエンジン(例えば、それぞれの目に1つ、プロジェクタごとに1つなど)に対応することができる。したがって、この構成では、プロジェクタ830はDDIコントローラおよびμLEDアクティブマトリックスを含む。区分されたワープエンジンは、ヘッドセットCPUに提供される増加した計算能力へのアクセスを利用してもよい。これは、高速のサブフレーム生成および表示率(例えば、120Hz~10kHz)という目標に対応してもよい。アーキテクチャ800bはまた、製造がより単純、簡単で、より安価なプロジェクタ830用のICを可能にしてもよい。更に、アーキテクチャ800bは、上述したように、DDIコントローラをμLEDバックプレーン制御およびμLEDアクティブマトリックスから区分することの利点の多くを更に提供してもよい。
図8Cでは、アーキテクチャ構成800cは2つの別個のASICタイプを含む。1つのASICはヘッドセットCPU 845を含む。第2のASIC850a、850b、および850cは、ワープエンジン(例えば、ワープエンジン410)と、DDI制御(例えば、ディスプレイドライバIC420)と、μLEDバックプレーン制御およびアクティブマトリックス(例えば、μLEDバックプレーンIC450、460、および470)とを含む。したがって、このアーキテクチャ構成下のプロジェクタは、単一のチップ上にこれらの構成要素3つ全てを含む。図8Cは、独自の単色性μLEDマトリックスをそれぞれ有する別個のプロジェクタを示している。したがって、この構成は、それぞれの目に対して6つのプロジェクタを有するHMDに対応して、FOVを分割する2つのフルカラーディスプレイを作り出すであろう。
各プロジェクタは、専用ワープエンジンを有し、個々のワープエンジン構成要素の精度および効率を増加させる可能性がある。特定の実施形態では、各ワープエンジンは、それが対応する単色μLEDマトリックスの色チャネルに基づいて最適化されてもよい。例えば、画像の赤色チャネルのみに対して最初の視認性チェックを実施するワープエンジンは、緑色チャネルに対して同じことを行うワープエンジンとは別個に最適化されてもよい。更に、かかるワープエンジンのピクセルブロックによって実施される色混合は、緑色または青色チャネルを考慮しなくてもよいように、高度に最適化されてもよい。アーキテクチャ800cは、製造要件を単純にする2つの別個のタイプのICのみを必要とし、これら2つのタイプのICのみを作り出すことに製造を集中させることができるので、最終的に実行可能ICのより高い歩留まりが促進されてもよい。これはまた、HMDに統合しなければならないICのタイプを限定するので、統合を単純化することができる。
図8Dでは、アーキテクチャ800dはやはり2つの別個のタイプのICを含む。1つのASIC855は、ヘッドセットCPUおよびワープエンジン(例えば、ワープエンジン410)を含む。第2のASICタイプ860a、860b、および860cは、ワープエンジン(例えば、ワープエンジン410)と、DDI制御(例えば、ディスプレイドライバIC420)と、μLEDバックプレーン制御およびアクティブマトリックス(例えば、μLEDバックプレーンIC450、460、および470)とを含む。この構成は、単一のワープエンジンを示しているが、同じASIC855で動作する複数のワープエンジン(例えば、それぞれの目に1つ、プロジェクタごとに1つなど)に対応することができる。
2つの別個のICのみを組み込むことの利益に加えて、アーキテクチャ800dは、プロジェクタASIC860a、860b、および860cが、概念的にひとまとめにすることが最も分かりやすい場合がある、DDIコントローラおよびμLEDマトリックスという構成要素を含むという、更なる利益を有してもよい。各DDIコントローラは単色μLEDマトリックスと対にされ、DDIコントローラは、使用される特定のμLED色の色チャネルに対応するように最適化されてもよい。例えば、赤のμLEDマトリックスに対応するDDIコントローラは、青のμLEDに対応するように最適化されたDDIコントローラとは別個の、赤のμLEDの色バランスを改善する最適化を有してもよい。配置800dはまた、ヘッドセットCPUと、ワープエンジンASIC855と、それぞれ個々のプロジェクタASIC860a、860b、および860cとの間のデータルーティングの複雑さを低減してもよい。単一の色チャネルのみが各DDIコントローラに送られるので、アクティブ信号チャネルを通して一度に送られる情報は少ないが、単一のDDIコントローラが複数の単色μLEDアレイに対応する配置に匹敵するスループット速度は依然として達成される。
どのアーキテクチャが特定の用途に最も適しているかの選択は、様々な考慮点によって決まってもよい。例えば、アーキテクチャで使用されてもよい特定のICは、使用されてもよい他のICよりも製造にコストがかかることがある。したがって、所与の構成で使用される高価なICの総数を減少させるのが好ましいことがある。別の例として、上記で考察したように、所与の構成で必要になる固有のASICの数を低減するのが有益なことがある。機能ブロックの役割を実施する追加のASICを設計するのは、困難でコストがかかることがある。2つの別個のICの信頼性が高いサンプルの歩留まりを改善することに労力を集中させることができるように、それらのICのみを設計し製造するのが、よりコスト効率が良いことがある。別の例として、特定のICが他のものよりも高い出力を引き出すことができると判断されてもよい。例えば、4つのワープエンジンを有する構成に必要な出力は、12個を有する構成よりも少ないと判断されてもよい。更に、単一のICに対するブロックの特定の組合せが、出力要件に影響を及ぼすことがあると判断されてもよい。例えば、ワープエンジンおよびヘッドセットCPUが組み合わされた構成は、ワープエンジンがDDI制御ならびに/またはμLEDバックプレーン制御およびアクティブマトリックスと組み合わされた構成よりも、高い出力要件を有すると判断されてもよい。別の例として、特定のICによって生じる熱の量が考慮されてもよい。これらの因子全て、および他の任意の好適な因子は、プロジェクタアーキテクチャを設計する際に、また特に、特定の用途に対して別のアーキテクチャではなくあるアーキテクチャを選択する際に考慮されてもよい。
プロジェクタICのパッケージング
図9A~図9Eは、上述したプロジェクタの論理構成に対するいくつかのパッケージングの選択肢を示している。更に詳細に記載するように、アーキテクチャ構成800a~800dの選択は、特定のパッケージングの選択肢の選択を通知するか、または要してもよい。図9Aは、機械的アライナ901がHMDの導波路905に対して構成要素のスタックの位置を調節することができる、構成を示している。図9Aは、それぞれ独自の単色性μLEDアレイ912を有する、3つのASIC913を示している。例えば、図9Aに示されるパッケージングの選択肢は、単一のプロジェクタに対して、赤色チャネルを表示する1つのASIC913および単色性μLEDアレイ912と、緑色チャネルを表示する1つのASIC913および単色性μLEDアレイ912と、青色チャネルを表示する1つのASIC913および単色性μLEDアレイ912とに対応することができる。μLEDアレイに対する任意の好適な色チャネルが使用されてもよい。同様に、多色性μLEDアレイも使用されてもよい。各単色性μLEDアレイ912は、様々なμLEDアレイ912から放射される光を単一の画像へと結合する、関連する結合構成要素911を有する。ASIC913はそれぞれ回路基板904に接合され、それが次に機械的アライナ901に搭載される。特定の実施形態では、回路基板914は、回路914が機械的アライナ901の制御下で必要に応じて移動することを可能にする、リジッドフレックス回路基板であってもよい。機械的アライナ901は、HMDのコントローラ(例えば、ヘッドセットCPU)によって制御されてもよい。この実施形態では、機械的アライナ901は、各ASIC913およびμLEDアレイ912を、他のASIC913およびμLEDアレイ912とは独立して位置付けてもよい。
図9A~図9Eは、上述したプロジェクタの論理構成に対するいくつかのパッケージングの選択肢を示している。更に詳細に記載するように、アーキテクチャ構成800a~800dの選択は、特定のパッケージングの選択肢の選択を通知するか、または要してもよい。図9Aは、機械的アライナ901がHMDの導波路905に対して構成要素のスタックの位置を調節することができる、構成を示している。図9Aは、それぞれ独自の単色性μLEDアレイ912を有する、3つのASIC913を示している。例えば、図9Aに示されるパッケージングの選択肢は、単一のプロジェクタに対して、赤色チャネルを表示する1つのASIC913および単色性μLEDアレイ912と、緑色チャネルを表示する1つのASIC913および単色性μLEDアレイ912と、青色チャネルを表示する1つのASIC913および単色性μLEDアレイ912とに対応することができる。μLEDアレイに対する任意の好適な色チャネルが使用されてもよい。同様に、多色性μLEDアレイも使用されてもよい。各単色性μLEDアレイ912は、様々なμLEDアレイ912から放射される光を単一の画像へと結合する、関連する結合構成要素911を有する。ASIC913はそれぞれ回路基板904に接合され、それが次に機械的アライナ901に搭載される。特定の実施形態では、回路基板914は、回路914が機械的アライナ901の制御下で必要に応じて移動することを可能にする、リジッドフレックス回路基板であってもよい。機械的アライナ901は、HMDのコントローラ(例えば、ヘッドセットCPU)によって制御されてもよい。この実施形態では、機械的アライナ901は、各ASIC913およびμLEDアレイ912を、他のASIC913およびμLEDアレイ912とは独立して位置付けてもよい。
図9Bは、図9Aに示されるのと同様であるが、機械的アライナ901を有さない構成を示している。図9Bでは、機械的および電気的支持のため、ASIC913はそれぞれ同じ回路基板914に搭載される。したがって、図9Bは、図9Aに示される構成に対するより単純な変形を示している。図9Bは、上述のASICのパッケージングに対する2Dアプローチを示していると言うことができる。ASIC913は全て同じ面に、また同じ回路基板914に搭載される。したがって、構成は、十分に理解されている製造プロセスを使用して作られて、コストを低減するとともに歩留まりを増加させることができる。しかしながら、2D構成は、結果として得られる回路がより広い水平空間を占めることを少なくとも含む、多数の知られている制限を有する。手持ち型デバイスおよびHMDでは、この空間が重視されることがあり、したがって2Dの解決策は全ての使用例に対して実行可能ではないことがある。更に、ASIC913は、配線の複雑さを増加させずに、他のASIC913と直接通信することはできない。
図9Cは、ASIC913をPCBに取り付けるのにインターポーザ920が使用される構成を示している。インターポーザ920の使用によって、各ASIC913が他のASIC913とより直接的に通信することが可能になって、配線の複雑さを劇的に増加させることなく通信効率が向上してもよい。この構成では、各μLEDアレイ912はASIC913と接合される。ASIC913は次に、共通のインターポーザ920と接合される。共通のインターポーザ920は、追加の配線を必要とせずにASIC913が直接通信することを可能にする材料で構成されてもよい。インターポーザ920は、ASIC913が必要に応じて回路基板914に直接接続することも可能にする、1つまたは複数の貫通シリコンビア925を含んでもよい。この構成は、他の構成よりも更なる構造的支持をASIC913に提供してもよく、それによって回路基板の更なる移動が可能になる。図9A~図9Cに示される構成は、最も自然には、図8Cに示されるアーキテクチャとともに使用されてもよい。その構成では、ワープエンジンおよびDDI制御は、単一のASIC850a、850b、および850cの単色μLEDマトリックスに割り当てられる。単一のμLEDマトリックス912に接合される、図9A~図9CのそれぞれのASIC913は、想到されるプロジェクタICを実現してもよい。
図9Dは、単一のASIC930が複数のμLEDアレイ912に接続される構成を示している。上記のように、構成は、特定のμLEDアレイ912をHMDの導波路905に結合する、各μLEDアレイ912の結合構成要素911を含む。しかしながら、(例えば、図9Cに示される構成のように)μLEDアレイ912ごとに割り当てられるASICの代わりに、単一のASIC930が複数のμLEDアレイ912と関連付けられる。図9Dに示される例では、1つのASIC930が3つのμLEDアレイ912(それぞれが単色性μLEDアレイであってもよい)と関連付けられる。ASIC930は、シリコンインターポーザ935をそれぞれ通して、μLEDアレイ912のそれぞれに結合される。図9Dに示される構成は、図8Aに示されるアーキテクチャとともに使用されたとき、特に有益であってもよい。その構成では、単一のワープエンジンおよびDDI制御ASIC815が、複数のμLED制御およびマトリックスIC820a、820b、および820cとともに使用される。図9Dに示される構成は、各色チャネルに対して実施される作業のほとんどを共有し再使用することができるので、ワープエンジンに対する出力要件が最小限で、図8Aの構成を実現してもよい。これはまた、メモリアクセス時間を減少させ、処理速度を改善する。
図9Eは、(図9Dのように)シリコンインターポーザを使用することなく、単一のASIC930が複数のμLEDアレイ912に接合される構成を示している。ASIC930は次に、電気的および機械的支持のため、回路基板914に接合される。この構成は、上述の構成のいくつかよりも製造が単純であってもよい。したがって、製造コストおよび歩留まりがより簡単に制御されてもよい。特定の実施形態では、より単純な構成は、より高度な製造技術の使用を可能にして、ASIC930およびμLEDアレイ912の性能を向上させてもよい。
図9A~図9Eに関して例証し記載した構成は全て、図8A~図8Dに示されるアーキテクチャの構成の特定のものにおいて使用することによって利益を得てもよい。例えば、全ての構成において、ワープエンジンは中央ヘッドセットCPUに含まれてもよい。これにより、ワープエンジンがその規定の動作の多くを実施しているときのメモリ共有を最大にすることが可能であってもよい。例えば、多くのプロジェクタが共有することができる、テクスチャマッピングおよびブレンディング効果が重なり合うことがある。単一のASICまたはASICのレイヤが図9A~図9Eに示される場合、(3Dの実現例のような)ASICのスタックも適切な修正を含めて使用されてもよいことに留意されたい。更に、追加のASIC、IC、μLEDアレイ、またはインターポーザなどの追加の構成要素が、図示される構成の能力を更に拡大するため、任意の所与のレイヤに追加されてもよい。例えば、図9Dに示される構成では、1つまたは複数の追加の構成要素は、シリコンインターポーザ935の上に追加されてもよい。これは、例えば、追加のASICを構成に追加して、μLEDアレイ912と通信することを可能にしてもよい。図8A~図8Dに示されるアーキテクチャと同様に、様々な考慮点が、別の構成ではなくある構成を選択することに影響してもよい。かかる考慮点は、パッケージングサイズ、製造および組立てコスト、熱分布および散逸、使用電力、弾性、他の任意の好適な考慮点、またはそれらの任意の組合せを含んでもよい。
修正されたサブフレームを生成し表示する例示の方法
図10は、修正されたサブフレームを生成し表示する例示の方法1000を示している。方法は、ステップ1010で始まってもよく、レンダリングエンジン300は、主要レンダリング命令に基づいて、表示する仮想オブジェクトを生成してもよい。主要レンダリング命令は、表示するポリゴンのセットおよび関連する色を含んでもよい。レンダリングエンジンは、仮想シーンに対する閲覧者の場所に関する情報に基づいて、初期視認性決定を実施してもよい。レンダリングエンジンは、プロジェクタ400に組み込まれてもよいワープエンジン410によって使用される、上述の表面などの、特殊なオブジェクトプリミティブを作成してもよい。表面は、3D仮想シーンを表す2D画像を備えてもよい。レンダリングエンジンは、例えば、30~90Hzの速度で、ワープエンジン410に表面を提供してもよい。ステップ1020で、ワープエンジン410は、レンダリングエンジンから受信された仮想オブジェクト(例えば、表面)に基づいて、レンダリングされるフレームに対する画像フレームデータを生成してもよい。ワープエンジン410は、仮想シーンを見るユーザの場所に基づいて、表面に対して視認性決定を実施し、1つまたは複数の幾何学的ワープを計算し適用し、色補間および輝度補正を実施し、また別の方法で表示される画像フレームデータを準備してもよい。ワープエンジン410は、例えば、120Hz~10kHzの速度で、画像フレームデータをディスプレイドライバ420に提供してもよい。
図10は、修正されたサブフレームを生成し表示する例示の方法1000を示している。方法は、ステップ1010で始まってもよく、レンダリングエンジン300は、主要レンダリング命令に基づいて、表示する仮想オブジェクトを生成してもよい。主要レンダリング命令は、表示するポリゴンのセットおよび関連する色を含んでもよい。レンダリングエンジンは、仮想シーンに対する閲覧者の場所に関する情報に基づいて、初期視認性決定を実施してもよい。レンダリングエンジンは、プロジェクタ400に組み込まれてもよいワープエンジン410によって使用される、上述の表面などの、特殊なオブジェクトプリミティブを作成してもよい。表面は、3D仮想シーンを表す2D画像を備えてもよい。レンダリングエンジンは、例えば、30~90Hzの速度で、ワープエンジン410に表面を提供してもよい。ステップ1020で、ワープエンジン410は、レンダリングエンジンから受信された仮想オブジェクト(例えば、表面)に基づいて、レンダリングされるフレームに対する画像フレームデータを生成してもよい。ワープエンジン410は、仮想シーンを見るユーザの場所に基づいて、表面に対して視認性決定を実施し、1つまたは複数の幾何学的ワープを計算し適用し、色補間および輝度補正を実施し、また別の方法で表示される画像フレームデータを準備してもよい。ワープエンジン410は、例えば、120Hz~10kHzの速度で、画像フレームデータをディスプレイドライバ420に提供してもよい。
ステップ1030で、プロジェクタ405に組み込まれてもよいディスプレイドライバ420は、受信された画像フレームデータに対して画像処理を実施してもよい。例えば、ディスプレイドライバ420の画像処理ブロック430は、一次元もしくは二次元空間ディザリングまたは時間空間ディザリングを含む、1つまたは複数のディザリング動作を計算し適用してもよい。画像処理ブロック430は、μLEDアレイの1つまたは複数のμLEDに対して、色の深みの精度誤差を計算してもよい。画像処理ブロック430は、色の深みの精度誤差を、1つもしくは複数の隣接するμLEDおよび/またはフレームの1つもしくは複数の今後のサブフレームに伝播してもよい。別の例として、ディスプレイドライバ420の画像処理ブロック430は、μLEDアレイにおいて分かっている不均一性に基づいて、フレームデータに対して1つまたは複数の不均一性補正を計算し適用してもよい。ディスプレイドライバ420は、処理された画像フレームデータをバックプレーンコントローラに提供して表示させてもよい。
ステップ1040で、バックプレーンコントローラ450は、命令を生成しμLEDアレイに提供して、μLEDアレイに画像フレームデータを表示させてもよい。特定の実施形態では、PWMコントローラ455は、120Hz~10kHzの速度で、μLEDアレイのμLEDを照明させるタイミング命令を生成してもよい。
特定の実施形態は、適切な場合、図10の方法の1つまたは複数のステップを繰り返してもよい。本開示は、特定の順序で起こるものとして図10の方法の特定のステップを記載し例証しているが、本開示は、任意の好適な順序で起こる図10の方法の任意の好適なステップを想到する。更に、本開示は、図10の方法の特定のステップを含む、表示フレームをアップサンプリングする例示の方法を記載し例証しているが、本開示は、適切な場合、図10の方法のステップの全てもしくはいくつかを含んでもよい、またはいずれも含まなくてもよい、任意の好適なステップを含む、表示フレームをアップサンプリングする任意の好適な方法を想到する。更に、本開示は、図10の方法の特定のステップを実施する特定の構成要素、デバイス、またはシステムを記載し例証しているが、本開示は、図10の方法の任意の好適なステップを実施する、任意の好適な構成要素、デバイス、またはシステムの任意の好適な組合せを想到する。
例示のコンピュータシステム
図11は、例示のコンピュータシステム1100を示している。特定の実施形態では、1つまたは複数のコンピュータシステム1100は、本明細書に記載または例証される1つまたは複数の方法の1つもしくは複数のステップを実施する。特定の実施形態では、1つまたは複数のコンピュータシステム1100は、本明細書に記載または例証される機能性を提供する。特定の実施形態では、1つまたは複数のコンピュータシステム1100で稼働するソフトウェアは、本明細書に記載または例証される1つまたは複数の方法の1つもしくは複数のステップを実施するか、あるいは本明細書に記載または例証される機能性を提供する。特定の実施形態は、1つまたは複数のコンピュータシステム1100の1つもしくは複数の部分を含む。本明細書では、コンピュータシステムに対する言及は、適切な場合、コンピューティングデバイスを包含してもよく、その逆もまた真である。更に、コンピュータシステムに対する言及は、適切な場合、1つまたは複数のコンピュータシステムを包含してもよい。
図11は、例示のコンピュータシステム1100を示している。特定の実施形態では、1つまたは複数のコンピュータシステム1100は、本明細書に記載または例証される1つまたは複数の方法の1つもしくは複数のステップを実施する。特定の実施形態では、1つまたは複数のコンピュータシステム1100は、本明細書に記載または例証される機能性を提供する。特定の実施形態では、1つまたは複数のコンピュータシステム1100で稼働するソフトウェアは、本明細書に記載または例証される1つまたは複数の方法の1つもしくは複数のステップを実施するか、あるいは本明細書に記載または例証される機能性を提供する。特定の実施形態は、1つまたは複数のコンピュータシステム1100の1つもしくは複数の部分を含む。本明細書では、コンピュータシステムに対する言及は、適切な場合、コンピューティングデバイスを包含してもよく、その逆もまた真である。更に、コンピュータシステムに対する言及は、適切な場合、1つまたは複数のコンピュータシステムを包含してもよい。
本開示は、任意の好適な数のコンピュータシステム1100を想到する。本開示は、任意の好適な物理的形態を取るコンピュータシステム1100を想到する。一例として、限定ではないが、コンピュータシステム1100は、組込み型コンピュータシステム、システムオンチップ(SOC)、シングルボードコンピュータシステム(SBC)(例えば、コンピュータオンモジュール(COM)もしくはシステムオンモジュール(SOM)など)、デスクトップコンピュータシステム、ラップトップまたはノートブックコンピュータシステム、インタラクティブキオスク、メインフレーム、コンピュータシステムのメッシュ、移動電話、携帯情報端末(PDA)、サーバ、タブレットコンピュータシステム、拡張/仮想現実デバイス、あるいはこれらのうちの2つ以上の組合せであってもよい。適切な場合、コンピュータシステム1100は、1つもしくは複数のコンピュータシステム1100を含むか、一体型または分散型であるか、複数の場所にまたがるか、複数の機械にまたがるか、複数のデータセンタにまたがるか、あるいは1つもしくは複数のクラウドコンポーネントを1つまたは複数のネットワークに含んでもよい、クラウドに常駐してもよい。適切な場合、1つまたは複数のコンピュータシステム1100は、実質的に空間的または時間的な限定なしに、本明細書に記載または例証される1つまたは複数の方法の1つもしくは複数のステップを実施してもよい。一例として、限定ではないが、1つまたは複数のコンピュータシステム1100は、リアルタイムまたはバッチモードで、本明細書に記載または例証される1つまたは複数の方法の1つもしくは複数のステップを実施してもよい。1つまたは複数のコンピュータシステム1100は、適切な場合、異なる時間または異なる場所で、本明細書に記載または例証される1つまたは複数の方法の1つもしくは複数のステップを実施してもよい。
特定の実施形態では、コンピュータシステム1100は、プロセッサ1102と、メモリ1104と、記憶装置1106と、入力/出力(I/O)インターフェース1108と、通信インターフェース1110と、バス1112とを含む。本開示は、特定の配置で特定の数の特定の構成要素を有する、特定のコンピュータシステムを記載し例証しているが、本開示は、任意の好適な配置で任意の好適な数の任意の好適な構成要素を有する、任意の好適なコンピュータシステムを想到する。
特定の実施形態では、プロセッサ1102は、コンピュータプログラムを構成するものなど、命令を実行するためのハードウェアを含む。一例として、限定ではないが、命令を実行するには、プロセッサ1102は、内部レジスタ、内部キャッシュ、メモリ1104、または記憶装置1106から命令を検索し(もしくは取り出し)、それらを復号し実行し、次に1つまたは複数の結果を、内部レジスタ、内部キャッシュ、メモリ1104、または記憶装置1106に書き込んでもよい。特定の実施形態では、プロセッサ1102は、データ、命令、またはアドレスのための1つもしくは複数の内部キャッシュを含んでもよい。本開示は、適切な場合、任意の好適な数の任意の好適な内部キャッシュを含むプロセッサ1102を想到する。一例として、限定ではないが、プロセッサ1102は、1つまたは複数の命令キャッシュと、1つまたは複数のデータキャッシュと、1つまたは複数のトランスレーションルックアサイドバッファ(TLB)とを含んでもよい。命令キャッシュ内の命令は、メモリ1104または記憶装置1106内の命令のコピーであってもよく、命令キャッシュは、プロセッサ1102によるそれらの命令の検索を高速化してもよい。データキャッシュ内のデータは、プロセッサ1102で実行する命令が動作するメモリ1104もしくは記憶装置1106内のデータのコピー、プロセッサ1102で実行する後続の命令がアクセスするための、またはメモリ1104もしくは記憶装置1106に書き込むためのプロセッサ1102で実行された以前の命令の結果、あるいは他の好適なデータであってもよい。データキャッシュは、プロセッサ1102による読出しまたは書込み動作を高速化してもよい。TLBは、プロセッサ1102のための仮想アドレス変換を高速化してもよい。特定の実施形態では、プロセッサ1102は、データ、命令、またはアドレスのための1つもしくは複数の内部レジスタを含んでもよい。本開示は、適切な場合、任意の好適な数の任意の好適な内部レジスタを含むプロセッサ1102を想到する。適切な場合、プロセッサ1102は、1つもしくは複数の論理演算装置(ALU)を含むか、マルチコアプロセッサであるか、または1つもしくは複数のプロセッサ1102を含んでもよい。本開示は、特定のプロセッサを記載し例証しているが、本開示は、任意の好適なプロセッサを想到する。
特定の実施形態では、メモリ1104は、プロセッサ1102が実行する命令、またはプロセッサ1102が操作するデータを格納するための、メインメモリを含む。一例として、限定ではないが、コンピュータシステム1100は、命令を記憶装置1106または別のソース(例えば、別のコンピュータシステム1100など)からメモリ1104にロードしてもよい。プロセッサ1102は次に、命令をメモリ1104から内部レジスタまたは内部キャッシュにロードしてもよい。命令を実行するため、プロセッサ1102は、命令を内部レジスタまたは内部キャッシュから検索し、それらを復号してもよい。命令の実行中または実行後、プロセッサ1102は、1つまたは複数の結果(中間結果もしくは最終結果であってもよい)を内部レジスタまたは内部キャッシュに書き込んでもよい。プロセッサ1102は次に、それらの結果のうちの1つまたは複数をメモリ1104に書き込んでもよい。特定の実施形態では、プロセッサ1102は、1つもしくは複数の内部レジスタまたは内部キャッシュ内、あるいはメモリ1104内(記憶装置1106または他の場所ではない)の命令のみを実行し、1つもしくは複数の内部レジスタまたは内部キャッシュ内、あるいはメモリ1104内(記憶装置1106または他の場所ではない)のデータのみを操作する。1つまたは複数のメモリバス(それぞれアドレスバスおよびデータバスを含んでもよい)は、プロセッサ1102をメモリ1104に結合してもよい。バス1112は、後述するように、1つまたは複数のメモリバスを含んでもよい。特定の実施形態では、1つまたは複数のメモリ管理ユニット(MMU)は、プロセッサ1102とメモリ1104との間に常駐し、プロセッサ1102の要求によってメモリ1104にアクセスするのを容易にする。特定の実施形態では、メモリ1104はランダムアクセスメモリ(RAM)を含む。このRAMは、適切な場合、揮発性メモリであってもよい。適切な場合、このRAMはダイナミックRAM(DRAM)またはスタティックRAM(SRAM)であってもよい。更に、適切な場合、このRAMはシングルポートまたはマルチポートRAMであってもよい。本開示は、任意の好適なRAMを想到する。メモリ1104は、適切な場合、1つまたは複数のメモリ1104を含んでもよい。本開示は、特定のメモリを記載し例証しているが、本開示は、任意の好適なメモリを想到する。
特定の実施形態では、記憶装置1106は、データまたは命令のための大容量記憶装置を含む。一例として、限定ではないが、記憶装置1106は、ハードディスクドライブ(HDD)、フロッピーディスクドライブ、フラッシュメモリ、光学ディスク、光磁気ディスク、磁気テープ、またはユニバーサルシリアルバス(USB)ドライブ、あるいはこれらのうちの2つ以上の組合せを含んでもよい。記憶装置1106は、適切な場合、取外し可能または取外し不能(または固定)の媒体を含んでもよい。記憶装置1106は、適切な場合、コンピュータシステム1100の内部または外部であってもよい。特定の実施形態では、記憶装置1106は不揮発性固体メモリである。特定の実施形態では、記憶装置1106は読出し専用メモリ(ROM)を含む。適切な場合、このROMは、マスクプログラムROM、プログラマブルROM(PROM)、消去可能PROM(EPROM)、電気消去可能PROM(EEPROM)、電気的に書き換え可能なROM(EAROM)、またはフラッシュメモリ、あるいはこれらのうちの2つ以上の組合せであってもよい。本開示は、任意の好適な物理的形態を取る大容量記憶装置1106を想到する。記憶装置1106は、適切な場合、プロセッサ1102と記憶装置1106との間の通信を容易にする、1つまたは複数の記憶装置制御ユニットを含んでもよい。適切な場合、記憶装置1106は、1つまたは複数の記憶装置1106を含んでもよい。本開示は、特定の記憶装置を記載し例証しているが、本開示は、任意の好適な記憶装置を想到する。
特定の実施形態では、I/Oインターフェース1108は、コンピュータシステム1100と1つまたは複数のI/Oデバイスとの間で通信するための、1つまたは複数のインターフェースを提供する、ハードウェア、ソフトウェア、または両方を含む。コンピュータシステム1100は、適切な場合、これらのI/Oデバイスのうちの1つまたは複数を含んでもよい。これらのI/Oデバイスのうちの1つまたは複数は、人とコンピュータシステム1100との間で通信できるようにしてもよい。一例として、限定ではないが、I/Oデバイスは、キーボード、キーパッド、マイクロフォン、モニタ、マウス、プリンタ、スキャナ、スピーカー、スチールカメラ、スタイラス、タブレット、タッチスクリーン、トラックボール、ビデオカメラ、別の好適なI/Oデバイス、またはこれらのうちの2つ以上の組合せを含んでもよい。I/Oデバイスは1つまたは複数のセンサを含んでもよい。本開示は、任意の好適なI/Oデバイス、および該デバイスのための任意の好適なI/Oインターフェース1108を想到する。適切な場合、I/Oインターフェース1108は、プロセッサ1102がこれらのI/Oデバイスのうちの1つまたは複数を駆動できるようにする、1つもしくは複数のデバイスまたはソフトウェアドライバを含んでもよい。I/Oインターフェース1108は、適切な場合、1つまたは複数のI/Oインターフェース1108を含んでもよい。本開示は、特定のI/Oインターフェースを記載し例証しているが、本開示は、任意の好適なI/Oインターフェースを想到する。
特定の実施形態では、通信インターフェース1110は、コンピュータシステム1100と1つもしくは複数の他のコンピュータシステム1100または1つもしくは複数のネットワークとの間で通信(例えば、パケットベースの通信など)するための、1つまたは複数のインターフェースを提供する、ハードウェア、ソフトウェア、または両方を含む。一例として、限定ではないが、通信インターフェース1110は、イーサネットまたは他の有線ベースのネットワークと通信するための、ネットワークインターフェースコントローラ(NIC)またはネットワークアダプタ、あるいはWI-FIネットワークなどの無線ネットワークと通信するための、無線NIC(WNIC)または無線アダプタを含んでもよい。本開示は、任意の好適なネットワーク、およびそのための任意の好適な通信インターフェース1110を想到する。一例として、限定ではないが、コンピュータシステム1100は、アドホックネットワーク、パーソナルエリアネットワーク(PAN)、ローカルエリアネットワーク(LAN)、広域ネットワーク(WAN)、メトロポリタンエリアネットワーク(MAN)、またはインターネットの1つもしくは複数の部分、あるいはこれらのうちの2つ以上の組合せを用いて通信してもよい。これらのネットワークのうちの1つまたは複数の1つもしくは複数の部分は、有線または無線であってもよい。一例として、コンピュータシステム1100は、無線PAN(WPAN)(例えば、ブルートゥースWPANなど)、WI-FIネットワーク、WI-MAXネットワーク、セルラー電話ネットワーク(例えば、汎欧州デジタル移動体通信システム(GSM)ネットワークなど)、または他の好適な無線ネットワーク、あるいはこれらのうちの2つ以上の組合せを用いて通信してもよい。コンピュータシステム1100は、適切な場合、これらのネットワークのうち任意のものに対する、任意の好適な通信インターフェース1110を含んでもよい。通信インターフェース1110は、適切な場合、1つまたは複数の通信インターフェース1110を含んでもよい。本開示は、特定の通信インターフェースを記載し例証しているが、本開示は、任意の好適な通信インターフェースを想到する。
特定の実施形態では、バス1112は、コンピュータシステム1100の構成要素を互いに結合する、ハードウェア、ソフトウェア、または両方を含む。一例として、限定ではないが、バス1112は、アクセラレイテッドグラフィックスポート(AGP)または他のグラフィックスバス、拡張業界標準アーキテクチャ(EISA)バス、フロントサイドバス(FSB)、ハイパートランスポート(HT)相互接続、業界標準アーキテクチャ(ISA)バス、インフィニバンド相互接続、低ピン数(LPC)バス、メモリバス、マイクロチャネルアーキテクチャ(MCA)バス、周辺構成要素相互接続(PCI)バス、PCIエクスプレス(PCIe)バス、シリアルアドバンストテクノロジーアタッチメント(SATA)バス、ビデオエレクトロニクススタンダーズアソシエーションローカル(VLB)バス、または別の好適なバス、あるいはこれらのうちの2つ以上の組合せを含んでもよい。バス1112は、適切な場合、1つまたは複数のバス1112を含んでもよい。本開示は、特定のバスを記載し例証しているが、本開示は、任意の好適なバスまたは相互接続を想到する。
本明細書では、コンピュータ可読非一時的記憶媒体は、適切な場合、1つもしくは複数の半導体ベースまたは他の集積回路(IC)(例えば、フィールドプログラマブルゲートアレイ(FPGA)もしくは特定用途向けIC(ASIC)など)、ハードディスクドライブ(HDD)、ハイブリッドハードドライブ(HHD)、光学ディスク、光学ディスクドライブ(ODD)、光磁気ディスク、光磁気ドライブ、フロッピーディスケット、フロッピーディスクドライブ(FDD)、磁気テープ、固体ドライブ(SSD)、RAMドライブ、セキュアデジタルカードもしくはドライブ、他の任意の好適なコンピュータ可読非一時的記憶媒体、あるいはこれらのうちの2つ以上の任意の好適な組合せを含んでもよい。コンピュータ可読非一時的記憶媒体は、適切な場合、揮発性、不揮発性、または揮発性と不揮発性との組合せであってもよい。
本明細書の特定の実施形態は、特定用途向け集積回路を使用するものとして記載されることがあるが、これは単に例示のためであることが理解されるべきである。記載する機能が可能である、または各ASICによる機能を完了するようにプログラムされている、標準的な構成要素または他の集積回路に置き換えられてもよい。
本明細書では、「または」は、文脈による別段の明示または別段の指示がない限り、包括的であって排他的ではない。したがって、本明細書では、「AまたはB」は、文脈による別段の明示または別段の指示がない限り、「A、B、または両方」を意味する。更に、「および」は、文脈による別段の明示または別段の指示がない限り、共同および個別の両方である。したがって、本明細書では、「AおよびB」は、文脈による別段の明示または別段の指示がない限り、「共同的または個別的に、AおよびB」を意味する。
本開示の範囲は、当業者であれば理解するであろう、本明細書に記載または例証する例示的実施形態に対する全ての変更、置換、変形、改変、および修正を包含する。本開示の範囲は、本明細書に記載または例証する例示的実施形態に限定されない。更に、本開示は、特定の構成要素、要素、特徴、機能、動作、またはステップを含むものとして、本明細書のそれぞれの実施形態を記載し例証しているが、これらの実施形態はいずれも、当業者であれば理解するであろう、本明細書の任意の箇所に記載または例証される構成要素、要素、特徴、機能、動作、またはステップのうちいずれかの任意の組合せもしくは並べ替えを含んでもよい。更に、添付の特許請求の範囲における、特定の機能を実施するように適合された、配置された、可能である、構成された、可能にされた、動作可能な、または動作する、装置もしくはシステム、あるいは装置もしくはシステムの構成要素に対する言及は、装置、システム、または構成要素がそのように適合されるか、配置されるか、可能であるか、構成されるか、可能にされるか、動作可能であるか、または動作する限り、それもしくはその特定の機能が活性化されるか、始動されるか、またはロック解除されるか否かにかかわらず、装置、システム、構成要素を包含する。更に、本開示は、特定の利点を提供するものとして特定の実施形態を記載または例証しているが、特定の実施形態は、これらの利点を全く提供しなくても、または一部もしくは全てを提供してもよい。
Claims (20)
- 中央処理装置と、前記中央処理装置にそれぞれ結合され、画像データを処理するように構成された、複数のプロジェクタ集積回路とを備える、ヘッドセットディスプレイデバイスであって、各プロジェクタ集積回路が、
光エミッタアレイをそれぞれ備える複数の第1の集積回路と、
前記複数の第1の集積回路に結合され、(1)幾何学的歪曲または輝度歪曲を補正する、変換された画像データを生成するように構成されたグラフィックスプロセッサを備え、(2)前記変換された画像データを表示のために前記複数の第1の集積回路に提供するように構成された、第2の集積回路と、を備える、ヘッドセットディスプレイデバイス。 - 前記中央処理装置が、第1のレンダリングデバイスから、前記ヘッドセットディスプレイデバイスによって表示される画像のデータを受信するように構成され、
前記ヘッドセットディスプレイデバイスが、前記複数のプロジェクタ集積回路を使用して、受信された前記データを処理するように構成され、
前記複数のプロジェクタ集積回路が、各プロジェクタ集積回路の前記光エミッタアレイを使用して、処理された前記データに基づいて光を作成するように構成された、請求項1に記載のヘッドセットディスプレイデバイス。 - 前記ヘッドセットディスプレイデバイスが、導波路構成を更に備え、
各プロジェクタ集積回路の前記光エミッタアレイによって作成された前記光が、前記導波路構成を通して前記ヘッドセットディスプレイデバイスの着用者に向けられる、請求項2に記載のヘッドセットディスプレイデバイス。 - 前記ヘッドセットディスプレイデバイスによって表示される画像の前記データが、第1の速度で前記第1のレンダリングデバイスから受信され、受信された前記データが、第2の速度で前記複数のプロジェクタ集積回路を使用して処理され、前記第2の速度が前記第1の速度よりも速い、請求項2に記載のヘッドセットディスプレイデバイス。
- 前記第1のレンダリングデバイスが前記ヘッドセットディスプレイデバイスと無線通信する、請求項2に記載のヘッドセットディスプレイデバイス。
- 前記第2の集積回路が更に、
受信された画像データに対して、前記変換された画像データを表示のために前記複数の第1の集積回路に提供する前に、ディザリングまたは不均一性の補正を実施するように構成された、請求項1に記載のヘッドセットディスプレイデバイス。 - 前記第2の集積回路が、前記ディザリングまたは前記不均一性の補正を実施するように構成されたディスプレイドライバを更に備える、請求項6に記載のヘッドセットディスプレイデバイス。
- 前記第1の集積回路が、前記変換された画像データに基づいて、前記光エミッタアレイに電力供給する命令を生成して、前記光エミッタアレイの光エミッタに光を作成させるように構成された、前記光エミッタアレイのためのバックプレーンを更に備える、請求項1に記載のヘッドセットディスプレイデバイス。
- 前記グラフィックスプロセッサが更に、現在の視点に基づいて、変換された画像データを生成するように更に構成された、請求項1に記載のヘッドセットディスプレイデバイス。
- 前記ヘッドセットディスプレイデバイスが、移動センサまたは配向センサを更に備え、
前記現在の視点が、前記移動センサまたは前記配向センサから受信されたデータに基づいて決定される、請求項9に記載のヘッドセットディスプレイデバイス。 - 前記幾何学的歪曲または前記輝度歪曲が、前記ヘッドセットディスプレイデバイスのニアアイディスプレイ光学システムから生じるものである、請求項1に記載のヘッドセットディスプレイデバイス。
- 前記グラフィックスプロセッサが更に、幾何学的変換を受信された画像データに適用して色収差を補正するように構成された、請求項1に記載のヘッドセットディスプレイデバイス。
- 前記グラフィックスプロセッサが、
現在の視点に基づいて、人工現実シーンに表示される仮想オブジェクトの視認性情報を決定するように構成された、変換ブロック、
決定された視認性情報に基づいて、色値を決定するように構成された、ピクセルブロック、または、
決定された色値をディスプレイドライバに出力するように準備するように構成された、表示ブロック、を備える、請求項1に記載のヘッドセットディスプレイデバイス。 - 各光エミッタアレイが単色光エミッタで構成された、請求項1に記載のヘッドセットディスプレイデバイス。
- 各光エミッタアレイがμLEDを備える、請求項1に記載のヘッドセットディスプレイデバイス。
- 前記ヘッドセットディスプレイデバイスが4つのプロジェクタ集積回路を備える、請求項1に記載のヘッドセットディスプレイデバイス。
- 前記ヘッドセットディスプレイデバイスが、前記ヘッドセットディスプレイデバイスの着用者のそれぞれの目に対して複数のプロジェクタ集積回路を備える、請求項1に記載のヘッドセットディスプレイデバイス。
- 各プロジェクタ集積回路が、前記ヘッドセットディスプレイデバイスの前記着用者の視野の一部分に対して光を生成する、請求項17に記載のヘッドセットディスプレイデバイス。
- 第1のレンダリングデバイスから、ヘッドセットディスプレイデバイスによって表示される画像のデータを受信することと、
各プロジェクタ集積回路の光エミッタアレイを使用して、受信された前記データに基づいて光を作成することと、を含み、
前記ヘッドセットディスプレイデバイスが、
中央処理装置と、前記中央処理装置にそれぞれ結合され、画像データを処理するように構成された、複数のプロジェクタ集積回路とを備え、各プロジェクタ集積回路が、
前記光エミッタアレイをそれぞれ備える複数の第1の集積回路と、
前記複数の第1の集積回路に結合され、(1)幾何学的歪曲または輝度歪曲を補正する、変換された画像データを生成するように構成されたグラフィックスプロセッサを備え、(2)前記変換された画像データを表示のために前記複数の第1の集積回路に提供するように構成された、第2の集積回路と、を備える、方法。 - 実行されると、
第1のレンダリングデバイスから、ヘッドセットディスプレイデバイスによって表示される画像のデータを受信し、
各プロジェクタ集積回路の光エミッタアレイを使用して、受信された前記データに基づいて光を作成するように、動作可能なソフトウェアを具体化する、1つまたは複数のコンピュータ可読非一時的記憶媒体であって、
前記ヘッドセットディスプレイデバイスが、
中央処理装置と、前記中央処理装置にそれぞれ結合され、画像データを処理するように構成された、複数のプロジェクタ集積回路とを備え、各プロジェクタ集積回路が、
前記光エミッタアレイをそれぞれ備える複数の第1の集積回路と、
前記複数の第1の集積回路に結合され、(1)幾何学的歪曲または輝度歪曲を補正する、変換された画像データを生成するように構成されたグラフィックスプロセッサを備え、(2)前記変換された画像データを表示のために前記複数の第1の集積回路に提供するように構成された、第2の集積回路と、を備える、1つまたは複数のコンピュータ可読非一時的記憶媒体。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962805923P | 2019-02-14 | 2019-02-14 | |
US62/805,923 | 2019-02-14 | ||
US16/785,305 | 2020-02-07 | ||
US16/785,305 US11070778B2 (en) | 2019-02-14 | 2020-02-07 | Multi-projector display architecture |
PCT/US2020/017911 WO2020167935A1 (en) | 2019-02-14 | 2020-02-12 | Multi-projector display architecture |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022519431A true JP2022519431A (ja) | 2022-03-24 |
Family
ID=72043420
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021532935A Pending JP2022519431A (ja) | 2019-02-14 | 2020-02-12 | マルチプロジェクタ表示アーキテクチャ |
Country Status (7)
Country | Link |
---|---|
US (2) | US11070778B2 (ja) |
EP (1) | EP3924958A1 (ja) |
JP (1) | JP2022519431A (ja) |
KR (1) | KR20210129673A (ja) |
CN (1) | CN113454702A (ja) |
TW (1) | TW202040222A (ja) |
WO (1) | WO2020167935A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11528953B2 (en) * | 2020-05-19 | 2022-12-20 | Rockwell Collins, Inc. | Display embedded visor helmet mounted display |
KR20220019153A (ko) * | 2020-08-06 | 2022-02-16 | 삼성디스플레이 주식회사 | 표시 장치를 검사하는 검사 장치, 얼룩 보상을 수행하는 표시 장치 및 얼룩 보상 방법 |
US11741863B2 (en) * | 2021-04-16 | 2023-08-29 | Tectus Corporation | Eyeglass-integrated display device using multiple embedded projectors and display windows |
WO2022251030A1 (en) * | 2021-05-24 | 2022-12-01 | Meta Platforms Technologies, Llc | Actuator aligned multichannel projector assembly |
US11688333B1 (en) * | 2021-12-30 | 2023-06-27 | Microsoft Technology Licensing, Llc | Micro-LED display |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4923863B2 (ja) * | 2005-10-07 | 2012-04-25 | セイコーエプソン株式会社 | 画像表示システム、画像表示装置、画像補正処理プログラム |
US9137504B2 (en) | 2006-06-16 | 2015-09-15 | Hewlett-Packard Development Company, L.P. | System and method for projecting multiple image streams |
EP2893388B1 (en) * | 2012-09-03 | 2016-08-03 | SensoMotoric Instruments Gesellschaft für innovative Sensorik mbH | Head mounted system and method to compute and render a stream of digital images using a head mounted system |
US9720231B2 (en) * | 2012-09-26 | 2017-08-01 | Dolby Laboratories Licensing Corporation | Display, imaging system and controller for eyewear display device |
TW201516467A (zh) * | 2013-10-25 | 2015-05-01 | Quanta Comp Inc | 頭戴式顯示裝置及其成像方法 |
US20160131904A1 (en) * | 2014-11-07 | 2016-05-12 | Osterhout Group, Inc. | Power management for head worn computing |
US20160238852A1 (en) | 2015-02-13 | 2016-08-18 | Castar, Inc. | Head mounted display performing post render processing |
EP3349475B1 (en) * | 2015-09-07 | 2023-11-15 | Sony Interactive Entertainment Inc. | Information processing system, information processing device, output device, program and recording medium |
US9829710B1 (en) * | 2016-03-02 | 2017-11-28 | Valve Corporation | Display with stacked emission and control logic layers |
KR102496347B1 (ko) * | 2016-04-20 | 2023-02-06 | 삼성전자주식회사 | 디스플레이 구동 회로 및 이를 포함하는 전자 장치 |
WO2018183405A1 (en) | 2017-03-27 | 2018-10-04 | Avegant Corp. | Steerable foveal display |
US10901027B2 (en) * | 2017-07-12 | 2021-01-26 | Facebook Technologies, Llc | Substrate for mounting light emitting diodes with testing capabilities |
US11122256B1 (en) * | 2017-08-07 | 2021-09-14 | Apple Inc. | Mixed reality system |
JP7207809B2 (ja) * | 2018-01-18 | 2023-01-18 | バルブ コーポレーション | センサ集積回路を含むヘッドマウントディスプレイのためのポジショントラッキングシステム |
CN112567287A (zh) * | 2018-06-18 | 2021-03-26 | 奇跃公司 | 具有帧调制功能的增强现实显示 |
-
2020
- 2020-02-07 US US16/785,305 patent/US11070778B2/en active Active
- 2020-02-12 KR KR1020217028634A patent/KR20210129673A/ko not_active Application Discontinuation
- 2020-02-12 JP JP2021532935A patent/JP2022519431A/ja active Pending
- 2020-02-12 WO PCT/US2020/017911 patent/WO2020167935A1/en unknown
- 2020-02-12 CN CN202080014584.1A patent/CN113454702A/zh active Pending
- 2020-02-12 EP EP20712420.7A patent/EP3924958A1/en active Pending
- 2020-02-13 TW TW109104543A patent/TW202040222A/zh unknown
-
2021
- 2021-06-16 US US17/349,769 patent/US11743435B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20200267359A1 (en) | 2020-08-20 |
TW202040222A (zh) | 2020-11-01 |
US20220006987A1 (en) | 2022-01-06 |
US11070778B2 (en) | 2021-07-20 |
EP3924958A1 (en) | 2021-12-22 |
WO2020167935A1 (en) | 2020-08-20 |
CN113454702A (zh) | 2021-09-28 |
US11743435B2 (en) | 2023-08-29 |
KR20210129673A (ko) | 2021-10-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11743435B2 (en) | Multi-projector display architecture | |
US11176901B1 (en) | Pan-warping and modifying sub-frames with an up-sampled frame rate | |
KR20190042644A (ko) | 가상, 증강, 및 혼합 현실 시스템들 및 방법들 | |
KR20210087052A (ko) | 사후-렌더링 프로세스를 위한 디스플레이 엔진 | |
JP2022511273A (ja) | 拡張現実または仮想現実のシーンにおけるオブジェクトの表現の生成および修正 | |
US11120770B2 (en) | Systems and methods for hiding dead pixels | |
US11942009B2 (en) | Display non-uniformity correction | |
EP4004900A1 (en) | Systems and methods for spatio-temporal dithering | |
US11011123B1 (en) | Pan-warping and modifying sub-frames with an up-sampled frame rate | |
US11710467B2 (en) | Display artifact reduction | |
US11551636B1 (en) | Constrained rendering | |
US10950199B1 (en) | Systems and methods for hiding dead pixels | |
US11056040B1 (en) | Systems and methods for mask-based temporal dithering | |
US11710212B1 (en) | Display non-uniformity correction | |
US11754846B2 (en) | Display non-uniformity correction | |
US11494883B1 (en) | Image correction | |
EP4198873A1 (en) | Sparse rgb filter hardware accelerator | |
CN117522752A (zh) | 受约束的颜色抖动 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221118 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230829 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231129 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20240305 |