KR20220106770A - 비디오 게임 및 e스포츠를 위한 라이트필드 디스플레이 시스템 - Google Patents
비디오 게임 및 e스포츠를 위한 라이트필드 디스플레이 시스템 Download PDFInfo
- Publication number
- KR20220106770A KR20220106770A KR1020227018840A KR20227018840A KR20220106770A KR 20220106770 A KR20220106770 A KR 20220106770A KR 1020227018840 A KR1020227018840 A KR 1020227018840A KR 20227018840 A KR20227018840 A KR 20227018840A KR 20220106770 A KR20220106770 A KR 20220106770A
- Authority
- KR
- South Korea
- Prior art keywords
- game
- holographic
- display
- content
- video game
- Prior art date
Links
- 230000000007 visual effect Effects 0.000 claims abstract description 27
- 238000012545 processing Methods 0.000 claims description 115
- 238000000034 method Methods 0.000 claims description 59
- 230000033001 locomotion Effects 0.000 claims description 28
- 239000000463 material Substances 0.000 claims description 17
- 230000000712 assembly Effects 0.000 claims description 7
- 238000000429 assembly Methods 0.000 claims description 7
- 230000004438 eyesight Effects 0.000 claims description 6
- 230000001360 synchronised effect Effects 0.000 claims 2
- 230000001419 dependent effect Effects 0.000 claims 1
- 230000001953 sensory effect Effects 0.000 abstract description 83
- 230000003993 interaction Effects 0.000 abstract description 37
- 238000004880 explosion Methods 0.000 abstract description 14
- 238000002604 ultrasonography Methods 0.000 abstract description 8
- 230000035939 shock Effects 0.000 abstract description 2
- 230000004044 response Effects 0.000 description 42
- 230000009471 action Effects 0.000 description 37
- 230000002776 aggregation Effects 0.000 description 31
- 238000004220 aggregation Methods 0.000 description 31
- 238000013473 artificial intelligence Methods 0.000 description 30
- 239000003795 chemical substances by application Substances 0.000 description 29
- 230000006870 function Effects 0.000 description 25
- 238000003384 imaging method Methods 0.000 description 22
- 238000009877 rendering Methods 0.000 description 20
- 230000002787 reinforcement Effects 0.000 description 18
- 238000006243 chemical reaction Methods 0.000 description 16
- 230000008569 process Effects 0.000 description 15
- 230000008859 change Effects 0.000 description 14
- 238000004422 calculation algorithm Methods 0.000 description 12
- 230000005540 biological transmission Effects 0.000 description 10
- 241001481833 Coryphaena hippurus Species 0.000 description 9
- 230000002452 interceptive effect Effects 0.000 description 9
- 238000012546 transfer Methods 0.000 description 9
- 230000009466 transformation Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 8
- 230000003190 augmentative effect Effects 0.000 description 7
- 230000006399 behavior Effects 0.000 description 7
- 238000004590 computer program Methods 0.000 description 6
- 238000004088 simulation Methods 0.000 description 6
- 230000000295 complement effect Effects 0.000 description 5
- 230000035807 sensation Effects 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 230000002457 bidirectional effect Effects 0.000 description 4
- 230000007423 decrease Effects 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 238000013507 mapping Methods 0.000 description 4
- 239000002304 perfume Substances 0.000 description 4
- 238000003860 storage Methods 0.000 description 4
- 238000012937 correction Methods 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 238000005474 detonation Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 230000009977 dual effect Effects 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 230000008447 perception Effects 0.000 description 3
- 230000002829 reductive effect Effects 0.000 description 3
- 241000282320 Panthera leo Species 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000036461 convulsion Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000003111 delayed effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 230000008921 facial expression Effects 0.000 description 2
- 238000010304 firing Methods 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 239000007788 liquid Substances 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000013439 planning Methods 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 238000001454 recorded image Methods 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 230000004083 survival effect Effects 0.000 description 2
- 238000000844 transformation Methods 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- UPLPHRJJTCUQAY-WIRWPRASSA-N 2,3-thioepoxy madol Chemical compound C([C@@H]1CC2)[C@@H]3S[C@@H]3C[C@]1(C)[C@@H]1[C@@H]2[C@@H]2CC[C@](C)(O)[C@@]2(C)CC1 UPLPHRJJTCUQAY-WIRWPRASSA-N 0.000 description 1
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical compound [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 description 1
- 241001023788 Cyttus traversi Species 0.000 description 1
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 1
- 206010039740 Screaming Diseases 0.000 description 1
- 229920006328 Styrofoam Polymers 0.000 description 1
- WDLRUFUQRNWCPK-UHFFFAOYSA-N Tetraxetan Chemical compound OC(=O)CN1CCN(CC(O)=O)CCN(CC(O)=O)CCN(CC(O)=O)CC1 WDLRUFUQRNWCPK-UHFFFAOYSA-N 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 229910052799 carbon Inorganic materials 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- AEJIMXVJZFYIHN-UHFFFAOYSA-N copper;dihydrate Chemical compound O.O.[Cu] AEJIMXVJZFYIHN-UHFFFAOYSA-N 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000002996 emotional effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 239000010408 film Substances 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 239000003205 fragrance Substances 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000007654 immersion Methods 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- -1 lighting Substances 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 210000003141 lower extremity Anatomy 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 210000000412 mechanoreceptor Anatomy 0.000 description 1
- 108091008704 mechanoreceptors Proteins 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000000465 moulding Methods 0.000 description 1
- 230000036963 noncompetitive effect Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000012788 optical film Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000704 physical effect Effects 0.000 description 1
- 239000004033 plastic Substances 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 239000011435 rock Substances 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000037152 sensory function Effects 0.000 description 1
- 230000003238 somatosensory effect Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000004326 stimulated echo acquisition mode for imaging Methods 0.000 description 1
- 239000008261 styrofoam Substances 0.000 description 1
- 238000012384 transportation and delivery Methods 0.000 description 1
- 230000004304 visual acuity Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/25—Output arrangements for video game devices
- A63F13/27—Output arrangements for video game devices characterised by a large display in a public venue, e.g. in a movie theatre, stadium or game arena
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/25—Output arrangements for video game devices
- A63F13/28—Output arrangements for video game devices responding to control signals received from the game device for affecting ambient conditions, e.g. for vibrating players' seats, activating scent dispensers or affecting temperature or light
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/30—Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
- A63F13/35—Details of game servers
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/30—Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
- A63F13/35—Details of game servers
- A63F13/355—Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an encoded video stream for transmitting to a mobile phone or a thin client
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/40—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
- A63F13/42—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
- A63F13/428—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle involving motion or position input signals, e.g. signals representing the rotation of an input controller or a player's arm motions sensed by accelerometers or gyroscopes
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/50—Controlling the output signals based on the game progress
- A63F13/52—Controlling the output signals based on the game progress involving aspects of the displayed game scene
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B30/00—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
- G02B30/10—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images using integral imaging methods
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B30/00—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
- G02B30/20—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
- G02B30/26—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
- G02B30/27—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays
- G02B30/28—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays involving active lenticular arrays
-
- G—PHYSICS
- G02—OPTICS
- G02F—OPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
- G02F1/00—Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
- G02F1/01—Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour
- G02F1/13—Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour based on liquid crystals, e.g. single liquid crystal display cells
- G02F1/133—Constructional arrangements; Operation of liquid crystal cells; Circuit arrangements
- G02F1/1333—Constructional arrangements; Manufacturing methods
- G02F1/1335—Structural association of cells with optical devices, e.g. polarisers or reflectors
- G02F1/133524—Light-guides, e.g. fibre-optic bundles, louvered or jalousie light-guides
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H3/00—Holographic processes or apparatus using ultrasonic, sonic or infrasonic waves for obtaining holograms; Processes or apparatus for obtaining an optical image from them
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Nonlinear Science (AREA)
- Human Computer Interaction (AREA)
- Mathematical Physics (AREA)
- Chemical & Material Sciences (AREA)
- Crystallography & Structural Chemistry (AREA)
- Holo Graphy (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
라이트필드(LF) 디스플레이 시스템은 홀로그래픽 비디오 게임을 구현한다. LF 디스플레이 시스템은 홀로그래픽 게임 콘텐츠를 디스플레이하는 LF 디스플레이 어셈블리를 포함한다. LF 디스플레이 시스템은 또한 초음파를 투사함으로써 사용자들에게 촉각 피드백을 제공하는 감각 피드백 어셈블리, 사용자의 하나 이상의 신체 부위들을 추적할 수 있는 추적 시스템, 및 게임 애플리케이션을 실행하고 LF 디스플레이 어셈블리를 위한 디스플레이 명령들을 생성하는 컨트롤러를 포함할 수 있다. LF 디스플레이 시스템은 플레이어의 신체 부분을 추적하는 반응형 비디오 게임을 구현할 수 있고, 폭발 또는 충격과 같은 게임 내 상호작용을 묘사하기 위해 플레이어에게 시각적 및 햅틱 피드백을 제공할 수 있다. 비디오 게임은 LF 게임 네트워크의 일부로서 구현될 수 있다.
Description
관련 출원의 교차 참조
본 출원은 국제출원들 PCT/US2017/042275, PCT/US2017/042276, PCT/US2017/042418, PCT/US2017/042452, PCT/US2017/042462, PCT/US2017/042466, PCT/US2017/042467, PCT/US2017/042468, PCT/US2017/042469, PCT/US2017/042470, 및 PCT/US2017/042679에 관련되며, 이들 모두는 그 전체 내용이 본원에 인용되어 포함된다.
본 개시내용은 비디오 게임에 관한 것이며, 보다 구체적으로는 비디오 게임을 위한 라이트필드 디스플레이들에 관한 것이다.
통상적인 비디오 게임은 대개, 게임 세계의 일부를 플레이어에게 나타내는, 컴퓨터 또는 텔레비전 스크린과 같은, 편평한 2차원 디스플레이 표면을 위한 콘텐츠를 생성한다. 디스플레이된 게임 콘텐츠는 대개, 플레이어가 제어하는 게임 캐릭터에 의해 관찰되는 게임 세계의 부분과 같은 특정 관점으로 제한된다. 2차원 스크린 상에서 이런 식으로 게임 콘텐츠를 디스플레이하는 것은 플레이어 및 관찰자에 대한 몰입형 및 반응형 경험을 제공함에 있어서 제한된 능력을 제공한다. 유사하게, 많은 수의 관중들이 경기장 내에서 시청할 수 있는 대형 스크린과 같은 2차원 표면 상에 e스포츠(eSports)에 대한 게임 콘텐츠를 디스플레이하는 것도 또한, 게임 콘텐츠의 관찰자의 몰입형 경험을 제한한다.
본 개시내용은 프리젠테이션 공간(예를 들어, 영역, 홈 시어터, 게임 아케이드 또는 바와 같은 공공 장소 등)에서 게임 애플리케이션의 홀로그래픽 콘텐츠를 디스플레이하기 위한 라이트필드(LF: light field) 디스플레이 시스템을 도입한다. LF 디스플레이 시스템은 프리젠테이션 공간 내의 표면(예를 들어, 벽, 바닥, 테이블 상부 등)을 형성하는 LF 디스플레이 모듈들을 포함하고, LF 디스플레이 모듈들 각각은 디스플레이 영역을 가지되, 개별적인 모듈의 영역보다 더 큰 유효 디스플레이 영역을 갖는 이음매 없는 디스플레이 표면을 형성하도록 함께 타일링된다. LF 디스플레이 모듈들은, 프리젠테이션 공간 내의 관찰자들이 게임 애플리케이션을 인지할 수 있도록 게임 애플리케이션의 홀로그래픽 콘텐츠를 디스플레이한다.
일부 실시예들에서, 홀로그래픽 콘텐츠는 다른 프리젠테이션 공간에서 게임 애플리케이션에 의해 생성되고, 콘텐츠 생성 시스템에 의해 프리젠테이션 공간에 디스플레이하기 위해 생성되고/되거나 데이터 저장부로부터 프레젠테이션 공간에 디스플레이를 위해 접근되는, 비디오 게임 데이터의 재생산, 재방송, 또는 시뮬레이션일 수 있다. 홀로그래픽 콘텐츠는 홀로그래픽 콘텐츠의 디지털 저작권을 관리하는 네트워크 시스템에 의해 관리될 수 있다. 예를 들어, 프리젠테이션 공간 내의 관찰자들은 프리젠테이션 공간 내의 디스플레이를 위한 홀로그래픽 콘텐츠에 접근하기 위해 트랜잭션 비용을 지불할 수 있다.
일부 실시예들에서, LF 디스플레이 시스템은 홀로그래픽 콘텐츠에 대한 관찰자 신체 움직임 또는 관찰자 반응을 추적할 수 있는 추적 시스템을 포함한다. 일부 실시예들에서, LF 디스플레이 시스템은 홀로그래픽 콘텐츠의 관찰자의 특성들을 저장할 수 있는 관찰자 프로파일링 시스템을 포함한다. 추적 시스템 및 프로파일링 시스템은 함께 프레젠테이션 공간 내의 관찰자들의 특성을 모니터링하고 저장할 수 있다. 프리젠테이션 공간에서의 디스플레이를 위해 생성된 홀로그래픽 콘텐츠는 모니터링되거나 저장된 임의의 정보에 기초할 수 있다. 일부 실시예들에서, LF 디스플레이 시스템은 홀로그래픽 콘텐츠를 증강시키는, 초음파 에너지를 사용하는 촉각 표면들 또는 압력파의 투사와 같은 다른 감각 자극들을 제공하는 감각 피드백 시스템들을 포함할 수 있다.
일부 실시예들에서, 사용자는 홀로그래픽 콘텐츠와 상호작용할 수 있고, 상호작용은 홀로그래픽 콘텐츠 생성 시스템에 대한 입력으로서 동작할 수 있다. 예를 들어, LF 디스플레이 시스템은 홀로그래픽 비디오 게임을 구현하는 데 사용될 수 있다. 추적 시스템은 사용자의 몸 또는 손과 같은 사용자의 신체 부분들 중 하나 이상의 실제 위치를 추적하고, 비디오 게임 애플리케이션은 추적되는 신체 부분의 실제 위치에 기초하여 게임 세계에서의 게임 내 위치를 결정한다. 비디오 게임 애플리케이션은 게임 세계에서의 게임 내 위치에서 발생하는 게임 내 상호작용을 처리한다. 게임 내 상호작용은, 예를 들어, 게임 내 위치에서의 게임 내 객체와 게임 캐릭터 간의 충돌, 또는 폭발 반경이 게임 내 위치를 포함하는 폭발일 수 있다. LF 디스플레이 어셈블리는 게임 내 상호작용을 묘사하는 홀로그래픽 콘텐츠를 디스플레이하고, 감각 피드백 어셈블리는 게임 내 상호작용을 나타내는 초음파 압력파를 방출한다.
도 1은 하나 이상의 실시예들에 따른 홀로그래픽 객체를 제공하는 라이트필드 디스플레이 모듈의 도면이다.
도 2a는 하나 이상의 실시예들에 따른, 라이트필드 디스플레이 모듈의 일부분의 단면도이다.
도 2b는 하나 이상의 실시예들에 따른, 라이트필드 디스플레이 모듈의 일부분의 단면도이다.
도 3a는 하나 이상의 실시예들에 따른, 라이트필드 디스플레이 모듈의 사시도이다.
도 3b는 하나 이상의 실시예들에 따른, 인터리빙(interleaved)된 에너지 중계 장치들을 포함하는 라이트필드 디스플레이 모듈의 단면도이다.
도 4a는 하나 이상의 실시예들에 따른, 단일 측면의 이음매 없는 표면 환경을 형성하기 위해 2차원으로 타일링(tiled)되는 라이트필드 디스플레이 시스템의 일부의 사시도이다.
도 4b는 하나 이상의 실시예들에 따른, 다중-측면의 이음매 없는 표면 환경에서의 라이트필드 디스플레이 시스템의 일부의 사시도이다.
도 4c는 하나 이상의 실시예들에 따른, 날개형 구성의 집합 표면을 갖는 라이트필드 디스플레이 시스템의 평면도이다.
도 4d는 하나 이상의 실시예들에 따른, 경사진 구성의 집합 표면을 갖는 라이트필드 디스플레이 시스템의 측면도이다.
도 4e는 하나 이상의 실시예들에 따른, 방의 전면 벽 상에 집합 표면을 갖는 라이트필드 디스플레이 시스템의 평면도이다.
도 4f는 하나 이상의 실시예들에 따른, 방의 전면 벽 상에 집합 표면을 갖는 LF 디스플레이 시스템의 측면도이다.
도 5a는 하나 이상의 실시예들에 따른, 라이트필드 디스플레이 시스템의 블록도이다.
도 5b는 하나 이상의 실시예들에 따른, 예시적인 LF 필름 게임 네트워크를 도시한다.
도 6a 및 도 6b는 일부 예시적인 실시예들에 따른, 방에 내장된 LF 게임 시스템들을 도시한다.
도 7은 하나 이상의 실시예들에 따른, 테이블 상부의 LF 게임 시스템을 도시한다.
도 8은 하나 이상의 실시예들에 따른, LF 디스플레이 시스템을 이용하는 홀로그래픽 비디오 게임을 구현하기 위한 방법을 예시하는 흐름도이다.
도 9는 하나 이상의 실시예들에 따른, 홀로그래픽 비디오 게임 콘텐츠를 디스플레이하기 위한 LF 디스플레이 시스템을 포함하는, 경기장의 단면도를 도시한다.
도 10은 하나 이상의 실시예들에 따른, 테이블에 내장된 LF 디스플레이 시스템을 도시한다.
도 11은 하나 이상의 실시예들에 따른, 홀로그래픽 e스포츠 경기를 구현하기 위한 프로세스를 예시하는 흐름도이다.
도 2a는 하나 이상의 실시예들에 따른, 라이트필드 디스플레이 모듈의 일부분의 단면도이다.
도 2b는 하나 이상의 실시예들에 따른, 라이트필드 디스플레이 모듈의 일부분의 단면도이다.
도 3a는 하나 이상의 실시예들에 따른, 라이트필드 디스플레이 모듈의 사시도이다.
도 3b는 하나 이상의 실시예들에 따른, 인터리빙(interleaved)된 에너지 중계 장치들을 포함하는 라이트필드 디스플레이 모듈의 단면도이다.
도 4a는 하나 이상의 실시예들에 따른, 단일 측면의 이음매 없는 표면 환경을 형성하기 위해 2차원으로 타일링(tiled)되는 라이트필드 디스플레이 시스템의 일부의 사시도이다.
도 4b는 하나 이상의 실시예들에 따른, 다중-측면의 이음매 없는 표면 환경에서의 라이트필드 디스플레이 시스템의 일부의 사시도이다.
도 4c는 하나 이상의 실시예들에 따른, 날개형 구성의 집합 표면을 갖는 라이트필드 디스플레이 시스템의 평면도이다.
도 4d는 하나 이상의 실시예들에 따른, 경사진 구성의 집합 표면을 갖는 라이트필드 디스플레이 시스템의 측면도이다.
도 4e는 하나 이상의 실시예들에 따른, 방의 전면 벽 상에 집합 표면을 갖는 라이트필드 디스플레이 시스템의 평면도이다.
도 4f는 하나 이상의 실시예들에 따른, 방의 전면 벽 상에 집합 표면을 갖는 LF 디스플레이 시스템의 측면도이다.
도 5a는 하나 이상의 실시예들에 따른, 라이트필드 디스플레이 시스템의 블록도이다.
도 5b는 하나 이상의 실시예들에 따른, 예시적인 LF 필름 게임 네트워크를 도시한다.
도 6a 및 도 6b는 일부 예시적인 실시예들에 따른, 방에 내장된 LF 게임 시스템들을 도시한다.
도 7은 하나 이상의 실시예들에 따른, 테이블 상부의 LF 게임 시스템을 도시한다.
도 8은 하나 이상의 실시예들에 따른, LF 디스플레이 시스템을 이용하는 홀로그래픽 비디오 게임을 구현하기 위한 방법을 예시하는 흐름도이다.
도 9는 하나 이상의 실시예들에 따른, 홀로그래픽 비디오 게임 콘텐츠를 디스플레이하기 위한 LF 디스플레이 시스템을 포함하는, 경기장의 단면도를 도시한다.
도 10은 하나 이상의 실시예들에 따른, 테이블에 내장된 LF 디스플레이 시스템을 도시한다.
도 11은 하나 이상의 실시예들에 따른, 홀로그래픽 e스포츠 경기를 구현하기 위한 프로세스를 예시하는 흐름도이다.
개요
라이트필드(LF: light field) 디스플레이 시스템은 게임 애플리케이션을 위한 프리젠테이션 공간에서 구현된다. LF 디스플레이 시스템은 게임 애플리케이션에 의해 생성된 비디오 게임 데이터를 홀로그래픽 콘텐츠로서 제공하도록 구성된다. 예를 들어, 게임 애플리케이션은 제3자 액션 어드벤처 비디오 게임, 스포츠 비디오 게임, 보드 게임의 디지털 구현, 또는 어떤 다른 게임 애플리케이션일 수 있다. LF 디스플레이 시스템은, LF 디스플레이 시스템의 가시 부피 내의 하나 이상의 관찰자들에게 보이게 될 하나 이상의 홀로그래픽 객체들을 포함하는 홀로그래픽 콘텐츠를 제공하도록 구성된 LF 디스플레이 어셈블리를 포함한다. 홀로그래픽 객체들은 비디오 게임 데이터 및/또는 비디오 게임 콘텐츠일 수 있고, 가상 플레이어, 설정, 장면, 그래픽 정보, 게임 상태 정보 등을 포함할 수 있다. LF 디스플레이 어셈블리는 프리젠테이션 공간 내의 하나 이상의 표면들(예를 들어, 코트)의 일부 또는 전부 위에 여러 면의 이음매 없는 표면을 형성할 수 있다. LF 디스플레이 시스템은 프리젠테이션 공간 내의 관찰자들에게 홀로그래픽 콘텐츠를 제공할 수 있다. 관찰자는 일반적으로 프레젠테이션 공간에 위치하지만, 프리젠테이션 공간에서 홀로그래픽 콘텐츠를 볼 수 있는 위치에 있는 임의의 사람일 수 있다. 또한, 일반적으로 본원에서 "관찰자"로서 지칭되지만, 관찰자는 프리젠테이션 공간에서 홀로그래픽 콘텐츠로서 표현될 수 있는 비디오 게임 데이터를 생성하는 게임 애플리케이션과 상호작용하는(예를 들어, 관찰, 실행, 입력, 출력 수신 등) 임의의 사람일 수도 있다.
홀로그래픽 콘텐츠의 홀로그래픽 객체는 또한 다른 감각 자극(예를 들어, 촉각 및/또는 청각)으로 증강될 수 있다. 예를 들어, LF 디스플레이 시스템 내의 초음파 방출기들은 홀로그래픽 객체의 일부 또는 전부에 대한 촉각 표면을 제공하는 초음파 압력파를 방출할 수 있다. 홀로그래픽 콘텐츠는 추가적인 시각적 콘텐츠(즉, 2D 또는 3D 시각 콘텐츠)를 포함할 수 있다. 결맞은(cohesive) 경험이 인에이블되는 것을 보장하기 위한 방출기들의 조정은 다수의 방출기 구현들에서의 시스템의 일부이다(즉, 정확한 햅틱 느낌 및 감각 자극들을 임의의 주어진 시점에 제공하는 홀로그래픽 객체들).
일부 실시예들에서, LF 디스플레이 시스템은 프리젠테이션 공간의 게임 디스플레이 영역(예를 들어, 게임 설정, 가상 세계의 표현, 플레이어에 의해 경험되는 장면, 또는 게임 내의 플레이어 또는 관찰자가 경험하는 장면 등)을 형성하는 복수의 LF 디스플레이 모듈들을 포함한다. 게임 디스플레이 영역을 형성하는 LF 디스플레이 모듈들은, 프레젠테이션 공간 내의 상기 LF 디스플레이의 가시 부피 내의 관찰자들에게 게임 애플리케이션의 홀로그래픽 콘텐츠를 투사하도록 구성될 수 있다. 본 개시내용에서, '프레젠테이션 공간 내의 관찰자'는 프레젠테이션 공간 내의 LF 디스플레이 시스템의 가시 부피들 중 하나에 있는 관찰자를 지칭한다고 가정된다. 가시 부피는 아래에 자세히 설명되어 있다. 이런 식으로, 프리젠테이션 공간 내의 관찰자는 게임 디스플레이 영역에서 게임 애플리케이션에 의해 생성된 홀로그래픽 비디오 게임 데이터를 인지할 수 있다. 예를 들어, LF 디스플레이 시스템은 멀티플레이어 온라인 전투 경기장 게임, 서바이벌 전투 게임, 실시간 전략 게임, 시뮬레이션 게임의 인물, 또는 게임 애플리케이션과 관련된 임의의 다른 콘텐츠를 디스플레이할 수 있다. 일부 실시예들에서, LF 디스플레이 시스템은 프리젠테이션 공간 내의 관찰자들에게 디스플레이하기 위한 홀로그래픽 콘텐츠를 생성할 수 있다. 예를 들어, LF 디스플레이 시스템은 게임 디스플레이 영역에서 제공하는 홀로그래픽 비디오 게임 데이터의 경험에 추가되는 프레젠테이션 공간에서의 확장된 가상 설정을 생성할 수 있다. 일 실시예에서, 프레젠테이션 공간은 스포츠 경기장의 일부를 재생성한다. 일 실시예에서, 프레젠테이션 공간은 경기장 내에 위치될 수 있거나, 또는 바, 홈 엔터테인먼트 시스템, 테이블 상부 프레젠테이션 시스템, 또는 공개 프레젠테이션 시스템에 위치될 수 있다.
일부 실시예들에서, LF 디스플레이 시스템은 해당 시스템이 적어도 하나의 유형의 에너지를 방출할 수 있게 하는 동시에, (홀로그래픽 콘텐츠를 생성하기 위한) 적어도 하나의 유형의 에너지를 흡수할 수 있게 하는 구성요소들을 포함할 수 있다. 예를 들어, LF 디스플레이 시스템은 시각적으로 볼 수 있는 홀로그래픽 객체들뿐만 아니라 햅틱 지각을 위한 촉각 표면의 생성을 위한 초음파를 모두 방출할 수 있다. 동시에, LF 디스플레이 시스템은 관찰자들 및 다른 장면 분석의 추적을 위한 이미징 정보 및 사용자들에 의한 터치 응답을 검출하기 위한 초음파를 모두 흡수할 수 있다. 일 예로서, 이러한 시스템은 프레젠테이션 공간 내의 관중에게 던져지는 홀로그래픽 공을 투사할 수 있다. 홀로그래픽 공이 관찰자에 의해 가상으로 "터치"될 때, LF 디스플레이 시스템은 관찰자에게 공이 그들의 손에 있다는 환상을 제공하고, 동시에 공의 표면과 일치하는 촉각 표면을 투사하여 관찰자가 홀로그래픽 공의 존재를 느낄 수 있게 할 수 있다. 주변 환경의 에너지 감지를 수행하는 디스플레이 시스템 구성요소들은 에너지를 방출하고 흡수하는 양방향 에너지 구성요소를 통해 디스플레이 표면에 통합될 수 있거나, 디스플레이 표면과 분리되어 있는 전용 센서들일 수 있다. 예를 들어, LF 디스플레이 시스템은 디스플레이 표면으로부터 분리된 전용 초음파 변환기 및 이미지 캡처 장치를 포함할 수 있다.
LF 디스플레이 시스템은 LF 게임 애플리케이션 네트워크의 일부일 수 있다. LF 게임 애플리케이션 네트워크는 LF 데이터가 하나의 위치(예를 들어, 제1 경기장)에서 기록되고, 인코딩되어, 상이한 위치(예를 들어, 제2 경기장)로 전송되고, 디코딩되어, 해당 상이한 위치의 프리젠테이션 공간 내의 관찰자들에게 홀로그래픽 콘텐츠로서 디스플레이될 수 있게 한다. 이는 여러 위치들의 관찰자들이 상이한 위치에서 발생하는 실시간 게임 애플리케이션을 인지할 수 있게 한다. 일부 실시예들에서, LF 디스플레이 시스템은 홀로그래픽 콘텐츠의 디지털 저작권을 관리하는 네트워크 시스템을 포함한다.
라이트필드 디스플레이 시스템
도 1은 하나 이상의 실시예들에 따른, 홀로그래픽 객체(120)를 나타내는 라이트필드(LF, light field) 디스플레이 모듈(110)의 도면(100)이다. LF 디스플레이 모듈(110)은 라이트필드(LF) 디스플레이 시스템의 일부이다. LF 디스플레이 시스템은 하나 이상의 LF 디스플레이 모듈들을 사용하여 적어도 하나의 홀로그래픽 객체를 포함하는 홀로그래픽 콘텐츠를 제공한다. LF 디스플레이 시스템은 하나 또는 다수의 관찰자들에게 홀로그래픽 콘텐츠를 제공할 수 있다. 일부 실시예들에서, LF 디스플레이 시스템은 또한 다른 감각 콘텐츠(예를 들어, 터치, 오디오, 냄새, 온도 등)로 홀로그래픽 콘텐츠를 증강시킬 수 있다. 예를 들어, 이하에서 설명되는 바와 같이, 포커싱된 초음파 음파의 투사는 홀로그래픽 객체의 일부 또는 전부의 표면을 시뮬레이션할 수 있는 중간-공기(mid-air)의 촉감을 생성할 수 있다. LF 디스플레이 시스템은 하나 이상의 LF 디스플레이 모듈들(110)을 포함하고, 이는 도 2 내지 도 4와 관련하여 아래에서 상세히 설명된다.
LF 디스플레이 모듈(110)은 홀로그래픽 객체들(예를 들어, 홀로그래픽 객체(120))을 하나 이상의 관찰자들(예를 들어, 관찰자(140))에 제공하는 홀로그래픽 디스플레이이다. LF 디스플레이 모듈(110)은 에너지 장치층(예를 들어, 방출형 전자적 디스플레이 또는 음향 투사 장치) 및 에너지 도파층(예를 들어, 광학 렌즈 어레이)을 포함한다. 추가적으로, LF 디스플레이 모듈(110)은 다수의 에너지 소스들 또는 검출기들을 함께 조합하여 단일 표면을 형성하기 위해, 에너지 중계(relay) 층을 포함할 수 있다. 높은 레벨에서, 에너지 장치(device) 층은 에너지(예를 들어, 홀로그래픽 콘텐츠)를 생성한 다음, 에너지 도파층을 이용하여 하나 이상의 4차원(4D) 라이트필드 기능들에 따른 공간 내의 영역으로 이를 유도한다. LF 디스플레이 모듈(110)은 또한 하나 이상의 유형의 에너지를 동시에 투사 및/또는 감지할 수 있다. 예를 들어, LF 디스플레이 모듈(110)은 가시 부피 내의 초음파 촉각 표면뿐만 아니라 홀로그래픽 이미지를 투사할 수 있는 한편, 동시에 가시 부피로부터 이미징 데이터를 검출할 수 있다. LF 디스플레이 모듈(110)의 동작은 도 2 및 도 3과 관련하여 아래에서 더 상세히 설명된다.
LF 디스플레이 모듈(110)은 하나 이상의 4D 라이트필드 기능들(예를 들어, 플렌옵틱(plenoptic) 기능으로부터 도출된)을 이용하여 홀로그래픽 객체 부피(160) 내에 홀로그래픽 객체들을 생성한다. 홀로그래픽 객체는 3차원(3D), 2차원(2D), 또는 이들의 일부 조합일 수 있다. 또한, 홀로그래픽 객체들은 다색(예를 들어, 풀(full) 컬러)일 수 있다. 홀로그래픽 객체는 스크린 평면의 전방에, 스크린 평면 뒤에 투사되거나, 스크린 평면에 의해 분할될 수 있다. 홀로그래픽 객체(120)는 홀로그래픽 객체 부피(160) 내의 어디에서나 인식되도록 제공될 수 있다. 홀로그래픽 객체 부피(160) 내의 홀로그래픽 객체는 관찰자(140)에게 공간 내에 떠있는 것처럼 보일 수 있다.
홀로그래픽 객체 부피(160)는 홀로그래픽 객체가 관찰자(140)에 의해 인지될 수 있는 부피를 나타낸다. 홀로그래픽 객체 부피(160)는 홀로그래픽 객체가 디스플레이 영역(150)의 평면 앞에 표시될 수 있도록 디스플레이 영역(150)의 표면 앞에서(즉, 관찰자(140)를 향하여) 연장될 수 있다. 또한, 홀로그래픽 객체 부피(160)는 디스플레이 영역(150)의 표면 뒤에(즉, 관찰자(140)로부터 멀어지게) 연장될 수 있어서, 홀로그래픽 객체가 마치 디스플레이 영역(150)의 평면 뒤에 있는 것처럼 표시될 수 있다. 즉, 홀로그래픽 객체 부피(160)는 디스플레이 영역(150)으로부터 기원하는(예를 들어, 투사되는) 그리고 홀로그래픽 객체를 생성하도록 수렴하는 모든 광선을 포함할 수 있다. 여기서, 광선은 디스플레이 표면의 전방에, 디스플레이 표면에, 또는 디스플레이 표면 뒤에 있는 지점에서 수렴할 수 있다. 보다 단순하게, 홀로그래픽 객체 부피(160)는 홀로그래픽 객체가 관찰자에 의해 인식될 수 있는 모든 부피를 내포한다.
가시 부피(130)는 LF 디스플레이 시스템에 의해 홀로그래픽 객체 부피(160) 내에 표시되는 홀로그래픽 객체들(예를 들어, 홀로그래픽 객체(120))이 완전히 보일 수 있는 공간의 부피이다. 홀로그래픽 객체들은 실제 객체들과 구별할 수 없도록 홀로그래픽 객체 부피(160) 내에 표시될 수 있고, 가시 부피(130) 내에서 보일 수 있다. 홀로그래픽 객체는 물리적으로 존재할 경우에 해당 객체의 표면으로부터 생성되는 것과 동일한 광선을 투사함으로써 형성된다.
도 10 및 도 11와 관련하여 상세히 후술하는 바와 같이, 일부 경우에, 홀로그래픽 객체 부피(160) 및 대응하는 가시 부피(130)는 단일 관찰자를 위해 설계되도록 상대적으로 작을 수 있다. 다른 실시예들에서, 예를 들어, 도 4a 내지 도 4f, 도 6a 및 도 6b, 도 7a 및 도 7b, 도 8, 및 도 9a 및 도 9b와 관련하여 상세히 후술하는 바와 같이, LF 디스플레이 모듈들은 대규모 관찰자들(예컨대, 1명 내지 수천 명)을 수용할 수 있는 더 큰 홀로그래픽 객체 부피 및 대응하는 가시 부피들을 생성하도록 확장 및/또는 타일링될 수 있다. 본 개시에서 제공된 LF 디스플레이 모듈들은, LF 디스플레이의 전체 표면이 홀로그래픽 이미징 광학부(holographic imaging optics)를 포함하고, 비활성 또는 데드(dead) 공간이 없으며, 베젤(bezel)이 필요하지 않도록 제조될 수 있다. 이러한 실시예들에서, LF 디스플레이 모듈들은 이미징 영역이 LF 디스플레이 모듈들 사이의 이음매(seam)에 걸쳐 연속적이도록 타일링될 수 있고, 타일형 모듈들 사이의 연결 지점들은 눈의 시력으로는 실질적으로 검출될 수 없다. 특히, 일부 구성들에서, 디스플레이 표면의 일부는 홀로그래픽 이미징 광학부를 포함하지 않을 수 있지만, 이들은 본원에서 상세히 설명되지 않는다.
가시 부피(130)의 플렉시블한 크기 및/또는 형상은 관찰자로 하여금 가시 부피(130) 내에 제한되지 않게 할 수 있다. 예를 들어, 관찰자(140)는 가시 부피(130) 내에서 다른 위치로 이동할 수 있고, 대응하는 관점으로부터 홀로그래픽 객체(120)의 상이한 뷰를 볼 수 있다. 예를 들어, 도 1을 참조하면, 관찰자(140)는 홀로그래픽 객체(120)가 돌고래의 정면인 것처럼 보이도록 홀로그래픽 객체(120)에 대해 제1 위치에 있다. 관찰자(140)는 돌고래의 상이한 뷰를 보기 위해 홀로그래픽 객체(120)에 대해 다른 위치로 이동할 수 있다. 예를 들어, 관찰자(140)는 마치 관찰자(140)가 실제 돌고래를 보고 있고, 돌고래의 상이한 뷰를 보기 위해 실제 돌고래에 대한 자신의 상대적인 위치를 변경하는 것과 매우 유사하게, 돌고래의 좌측면, 돌고래의 우측면 등을 볼 수 있도록 이동할 수 있다. 일부 실시예들에서, 홀로그래픽 객체(120)는 홀로그래픽 객체(120)에 대해 시야에서 차단되지 않은 선(즉, 객체/사람에 의해 차단되지 않음)을 갖는, 가시 부피(130) 내의 모든 관찰자들에게 보일 수 있다. 이들 관찰자는 홀로그래픽 객체(120)의 상이한 관점을 보기 위해 가시 부피 내에서 움직일 수 있도록, 제한되지 않을 수 있다. 따라서, LF 디스플레이 시스템은 마치 홀로그래픽 객체들이 물리적으로 존재하는 것처럼 복수의 제한되지 않은 관찰자들이 실세계 공간에서 홀로그래픽 객체들의 상이한 관점들을 동시에 볼 수 있도록, 홀로그래픽 객체들을 제공할 수 있다.
이와 달리, 일반적으로, 통상적인 디스플레이(예를 들어, 입체, 가상 현실, 증강 현실 또는 혼합 현실)에서는 콘텐츠를 보기 위해서 각각의 관찰자가 특정 종류의 외부 장치(예를 들어, 3-D 안경, 근안(near-eye) 디스플레이, 또는 헤드마운트형 디스플레이)를 착용할 필요가 있다. 추가적으로 및/또는 대안적으로, 통상적인 디스플레이들은 관찰자가(예를 들어, 디스플레이에 대해 고정된 위치를 갖는 의자에서) 특정 가시 위치로 제한될 것을 필요로 할 수도 있다. 예를 들어, 스테레오스코픽 디스플레이에 의해 도시된 객체를 관찰할 때, 관찰자는 객체 상에서보다는 디스플레이 표면 상에 항상 초점을 맞추고, 디스플레이는 항상 그 인식된 객체 주위를 이동하려고 시도하는 관찰자를 따르는 객체의 두 개의 뷰들만을 제공할 것인데, 이는 그 객체에 대한 인식의 왜곡을 초래할 것이다. 그러나, 라이트필드 디스플레이를 이용하면, LF 디스플레이 시스템에 의해 제공된 홀로그래픽 객체의 관찰자들은 홀로그래픽 객체를 보기 위해서 외부 장치를 착용할 필요가 없고, 특정 위치에 국한될 필요도 없다. LF 디스플레이 시스템은, 특별한 아이웨어(eyewear), 안경, 또는 헤드마운트형 액세서리에 대한 어떠한 요건도 없이, 물리적 객체가 관찰자들에게 보일 수 있는 것과 거의 동일한 방식으로 관찰자들에게 보이는 방식으로 홀로그래픽 객체를 제공한다. 또한, 관찰자는 가시 부피 내의 임의의 위치로부터 홀로그래픽 콘텐츠를 볼 수 있다.
특히, 홀로그래픽 객체 부피(160) 내의 홀로그래픽 객체들에 대한 잠재적인 위치들은 부피의 크기에 의해 제한된다. 홀로그래픽 객체 부피(160)의 크기를 증가시키기 위해서, LF 디스플레이 모듈(110)의 디스플레이 영역(150)의 크기가 증가될 수 있고/있거나, 다수의 LF 디스플레이 모듈들이 이음매 없는 디스플레이 표면을 형성하는 방식으로 함께 타일링될 수 있다. 이음매 없는 디스플레이 표면은 개별적인 LF 디스플레이 모듈들의 디스플레이 영역들보다 더 큰 유효 디스플레이 영역을 갖는다. 타일링된 LF 디스플레이 모듈들에 관한 일부 실시예들은 도 4a 내지 도 4f, 도 6a 및 도 6b, 도 7a 및 도 7b, 도 8, 및 도 9a 및 도 9b와 관련하여 이하에서 설명된다. 도 1에 도시된 바와 같이, 디스플레이 영역(150)은 예를 들어, 피라미드인 홀로그래픽 객체 부피(160)를 야기하는 직사각형이다. 다른 실시예들에서, 디스플레이 영역은 소정의 다른 형상(예를 들어, 육각형)을 가질 수 있으며, 이는 또한 대응하는 가시 부피의 형상에 영향을 미친다.
또한, 상기 설명은 LF 디스플레이 모듈(110)과 관찰자(140) 사이에 있는 홀로그래픽 객체 부피(160)의 일부 내에 홀로그래픽 객체(120)를 제공하는 것에 초점을 맞추지만, LF 디스플레이 모듈(110)은 디스플레이 영역(150)의 평면 뒤에서 홀로그래픽 객체 부피(160)에 콘텐츠를 추가적으로 제공할 수 있다. 예를 들어, LF 디스플레이 모듈(110)은, 디스플레이 영역(150)이 홀로그래픽 객체(120)가 점프하고 있는 바다의 표면인 것으로 보이게 할 수 있다. 그리고 디스플레이된 콘텐츠는 물 아래에 있는 해양 생물을 보기 위해 관찰자(140)가 디스플레이된 표면을 관통하여 볼 수 있도록 할 수 있다. 또한, LF 디스플레이 시스템은 디스플레이 영역(150)의 평면의 후방 및 전방을 포함하는 홀로그래픽 객체 부피(160) 주위로 이음매 없이 이동하는 콘텐츠를 생성할 수 있다.
도 2a는 하나 이상의 실시예들에 따른, LF 디스플레이 모듈(210)의 일 부분의 일 단면(200)을 도시한다. LF 디스플레이 모듈(210)은 LF 디스플레이 모듈(110)일 수 있다. 다른 실시예들에서, LF 디스플레이 모듈(210)은 디스플레이 영역(150)과 다른 디스플레이 영역 형상을 갖는 다른 LF 디스플레이 모듈일 수 있다. 예시된 실시예에서, LF 디스플레이 모듈(210)은 에너지 장치층(220), 에너지 중계층(230), 및 에너지 도파층(240)을 포함한다. LF 디스플레이 모듈(210)의 일부 실시예들은 여기에서 설명되는 것들과는 상이한 구성요소들을 갖는다. 예를 들어, 일부 실시예들에서, LF 디스플레이 모듈(210)은 에너지 중계층(230)을 포함하지 않는다. 유사하게, 기능들은 본원에 설명된 것과 다른 방식으로 구성요소들 중에 분배될 수 있다.
여기에서 설명되는 디스플레이 시스템은 실세계에서 일반적으로 물체를 둘러싸고 있는 에너지를 복제하는 에너지의 방출을 제공한다. 여기서, 방출된 에너지는 디스플레이 표면 상의 모든 좌표로부터 특정 방향을 향해 지향된다. 즉, 디스플레이 표면 상의 다양한 좌표들은 방출된 에너지에 대한 투사(projection) 위치들로서 작용한다. 디스플레이 표면으로부터 지향된 에너지는 많은 광선들이 수렴될 수 있게 하며, 이에 의해, 홀로그래픽 객체들을 생성할 수 있다. 가시광의 경우, 예를 들어, LF 디스플레이는 홀로그래픽 객체 부피 내의 임의의 지점에서 수렴할 수 있는 투사 위치들로부터 매우 많은 수의 광선들을 투사할 것이고, 따라서 광선들은 투사되는 객체보다 더 멀리 위치한 관찰자의 관점으로부터 이 공간의 영역에 위치된 실세계 객체의 표면으로부터 나오는 것처럼 보일 것이다. 이런 식으로, LF 디스플레이는 관찰자의 관점으로부터 그러한 물체의 표면을 벗어나는 반사된 광의 광선들을 생성하고 있다. 관찰자 관점은 임의의 주어진 홀로그래픽 객체 상에서 변할 수 있고, 관찰자는 해당 홀로그래픽 객체의 상이한 뷰를 볼 것이다.
에너지 장치층(220)은 하나 이상의 전자 디스플레이(예를 들어, OLED와 같은 발광 디스플레이) 및 본원에 설명된 바와 같은 하나 이상의 다른 에너지 투사 및/또는 에너지 수신 장치를 포함한다. 하나 이상의 전자 디스플레이들은 (예를 들어, LF 디스플레이 시스템의 컨트롤러로부터) 디스플레이 명령들에 따른 콘텐츠를 디스플레이하도록 구성된다. 하나 이상의 전자 디스플레이는 각각 개별적으로 제어되는 강도(intensity)를 갖는 복수의 픽셀을 포함한다. 발광 LED 및 OLED 디스플레이와 같은 여러 유형의 상업용 디스플레이가 LF 디스플레이에 사용될 수 있다.
에너지 장치층(220)은 또한, 하나 이상의 음향 투사 장치 및/또는 하나 이상의 음향 수신 장치를 포함할 수 있다. 음향 투사 장치는 홀로그래픽 객체(250)를 보완하는 하나 이상의 압력파를 생성한다. 생성된 압력파는 예를 들어, 가청, 초음파, 또는 이들의 일부 조합일 수 있다. 초음파 압력파들의 어레이는 (예를 들어, 홀로그래픽 객체(250)의 표면에서) 부피 촉각 감각을 위해 사용될 수 있다. 가청 압력파는 홀로그래픽 객체(250)를 보완할 수 있는 오디오 콘텐츠(예를 들어, 몰입형 오디오)를 제공하기 위해 사용된다. 예를 들어, 홀로그래픽 객체(250)가 돌고래라고 가정하면, 하나 이상의 음향 투사 장치는 (1) 관찰자가 홀로그래픽 객체(250)를 터치할 수 있도록 돌고래의 표면과 동일하게 위치하는 촉각 표면을 생성하고, (2) 클릭, 처핑(chirpping) 또는 채터(chatter)와 같은 돌고래의 소리에 대응하는 오디오 콘텐츠를 제공하기 위해 사용될 수 있다. 음향 수신 장치(예를 들어, 마이크 또는 마이크 어레이)는 LF 디스플레이 모듈(210)의 로컬 영역 내의 초음파 및/또는 가청 압력파를 모니터링하도록 구성될 수 있다.
에너지 장치층(220)은 또한, 하나 이상의 이미징 센서들을 포함할 수 있다. 이미징 센서는 가시광 대역에서의 광에 민감할 수 있고, 일부 경우에는 다른 대역(예를 들어, 적외선)에서의 광에 민감할 수 있다. 이미징 센서는 예를 들어 시모스(CMOS, complementary metal oxide semi-conductor) 어레이, 전하 결합 소자(CCD), 광검출기들의 어레이, 광을 포획하는 몇몇 다른 센서, 또는 이들의 일부 조합일 수 있다. LF 디스플레이 시스템은 관찰자들의 위치 추적을 위해 하나 이상의 이미징 센서에 의해 캡처된 데이터를 사용할 수 있다.
일부 구성들에서, 에너지 중계층(230)은 에너지 장치층(220)과 에너지 도파층(240) 사이의 에너지(예를 들어, 전자기 에너지, 기계적 압력파 등)를 중계(relay)한다. 에너지 중계층(230)은 하나 이상의 에너지 중계 요소들(260)을 포함한다. 각각의 에너지 중계 요소는 제1 표면(265) 및 제2 표면(270)을 포함하고, 이는 2개의 표면들 사이의 에너지를 중계한다. 각각의 에너지 중계 요소의 제1 표면(265)은 하나 이상의 에너지 장치들(예를 들어, 전자 디스플레이 또는 음향 투사 장치)에 연결될 수 있다. 에너지 중계 요소는 예를 들어, 유리, 탄소, 광섬유, 광학 필름, 플라스틱, 폴리머, 또는 이들의 일부 조합으로 구성될 수 있다. 추가적으로, 일부 실시예들에서, 에너지 중계 요소는 제1 표면(265)과 제2 표면(270) 사이를 통과하는 에너지의 확대(증가 또는 감소)를 조절할 수 있다. 중계부가 확대를 제공하는 경우, 중계부는 테이퍼(taper)라고 불리는 접합된 테이퍼형(tapered) 중계부들의 어레이의 형태를 취할 수 있으며, 테이퍼의 일 단부의 영역은 반대쪽 단부보다 실질적으로 클 수 있다. 테이퍼의 큰 단부는 이음매 없는 에너지 표면(275)을 형성하기 위해 함께 접합할 수 있다. 하나의 장점은 다수의 디스플레이의 베젤과 같은 다수의 에너지 소스의 기계적인 엔벨로프(envelope)를 수용하기 위해, 각각의 테이퍼의 다수의 작은 단부들 상에 공간이 생성된다는 것이다. 이러한 여분의 공간은 에너지 소스가 작은 테이퍼 면 위에 나란히 배치될 수 있게 하며, 각각의 에너지 소스는 작은 테이퍼 표면으로 에너지를 지향시키고 큰 이음매 없는 에너지 표면으로 중계되도록 하는 활성(active) 영역을 가진다. 테이퍼형 중계를 사용하는 또 다른 장점은 테이퍼들의 큰 단부에 의해 형성된 조합된 이음매 없는 에너지 표면 상에 비-이미징 데드(dead) 공간이 존재하지 않는다는 점이다. 테두리 또는 베젤이 존재하지 않으며, 따라서 이음매 없는 에너지 표면이 함께 타일링되어, 눈의 시력에 따라서는 실질적으로 이음매가 없는 더 큰 표면을 형성할 수 있다.
인접한 에너지 중계 요소들의 제2 표면들은 함께 모여서 에너지 표면(275)을 형성한다. 일부 실시예들에서, 인접한 에너지 중계 요소들의 엣지들 사이의 분리는, 예를 들어, 20/40 비전을 갖는 인간의 눈의 시력에 의해 정의되는 바와 같은 인지 가능한 최소 윤곽보다 더 작고, 따라서 에너지 표면(275)은 가시 부피(285) 내의 관찰자(280)의 관점으로부터 효과적으로 매끄럽게(seamless) 된다.
일부 실시예들에서, 인접한 에너지 중계 요소들의 제2 표면들은 그들 사이에 이음매가 존재하지 않는 방식으로, 하나 이상의 압력, 열 및 화학 반응을 포함할 수 있는 처리 단계들과 함께 융합된다. 그리고 또 다른 실시예들에서, 에너지 중계 요소들의 어레이는 중계 물질의 연속 블록의 일 측면을 작은 테이퍼 단부들의 어레이로 몰딩함으로써 형성되고, 각각은, 작은 테이퍼형 단부에 부착된 에너지 장치로부터의 에너지를 결코 세분화되지 않는 더 큰 면적을 갖는 단일의 조합된 표면으로 전달하도록 구성된다.
일부 실시예들에서, 하나 이상의 에너지 중계 요소들은 에너지 국소화(energy localization)를 나타내며, 여기서 표면들(265, 270)에 실질적으로 수직한 세로(longitudinal) 방향에서의 에너지 전달 효율은 수직한 가로(transverse) 평면에서의 전달 효율보다 훨씬 더 높고, 에너지 밀도는 에너지 파동이 표면(265)과 표면(270) 사이에서 전파될 때 이 가로 평면 내에 매우 국소화된다. 이러한 에너지의 국소화는 이미지와 같은 에너지 분배가 해상도에서의 어떠한 큰 손실 없이도 이들 표면들 사이에서 효율적으로 중계될 수 있게 한다.
에너지 도파층(240)은 에너지 도파층(240) 내의 도파(waveguide) 요소들을 사용하여 에너지 표면(275) 상의 위치(예를 들어, 좌표)로부터, 디스플레이 표면으로부터 홀로그래픽 가시 부피(285)까지의 바깥으로의 특정 에너지 전파 경로로 에너지를 지향시킨다. 에너지 전파 경로는 상기 도파에 대해 에너지 표면 좌표 위치에 의해 적어도 결정되는 2개의 각도(angular) 치수에 의해 정의된다. 도파는 공간적 2D 좌표와 연관된다. 이들 4개의 좌표들은 함께 4차원(4D) 에너지 필드를 형성한다. 일 예로서, 전자기 에너지의 경우, 에너지 도파층(240) 내의 도파 요소들은 가시 부피(285)를 관통하여 상이한 전파 방향들을 따라 이음매 없는 에너지 표면(275) 상의 위치들로부터 광을 지향시킨다. 다양한 예들에서, 광은 홀로그래픽 객체 부피(255) 내에 홀로그래픽 객체(250)를 형성하기 위해 4D 라이트필드 기능에 따라 지향된다.
에너지 도파층(240) 내의 각각의 도파 요소는, 예를 들어, 하나 이상의 구성요소들로 구성된 렌즈릿(lenslet)일 수 있다. 일부 구성들에서, 렌즈릿은 볼록 렌즈일 수 있다. 볼록 렌즈는 구면, 비구면 또는 자유 형태인 표면 프로파일을 가질 수 있다. 추가적으로, 일부 실시예들에서, 도파 요소들의 일부 또는 전부는 하나 이상의 추가적인 광학 요소들을 포함할 수 있다. 추가적인 광학 요소는 예를 들어, 배플(baffle), 볼록 렌즈, 오목 렌즈, 구면 렌즈, 비구면 렌즈, 자유 형태 렌즈, 액정 렌즈, 액체 렌즈, 굴절 요소, 회절 요소, 또는 이들의 일부 조합과 같은 에너지-억제 구조일 수 있다. 일부 실시예들에서, 렌즈릿 및/또는 추가적인 광학 요소들 중 적어도 하나는 자신의 광학 출력을 동적으로 조절할 수 있다. 예를 들어, 렌즈릿은 액정 렌즈 또는 액체 렌즈일 수 있다. 렌즈릿 및/또는 적어도 하나의 추가적인 광학 요소의 표면 프로파일의 동적 조정은 도파 요소로부터 투사되는 광의 추가적인 지향성 제어를 제공할 수 있다.
도시된 예에서, LF 디스플레이의 홀로그래픽 객체 부피(255)는 광선(256) 및 광선(257)에 의해 형성되는 경계를 갖지만, 다른 광선에 의해 형성될 수도 있다. 홀로그래픽 객체 부피(255)는 에너지 도파층(240)의 전방(즉, 관찰자(280) 쪽으로) 및 후방으로(즉, 관찰자(280)로부터 멀리) 연장되는 연속적인 부피이다. 도시된 예에서, 광선(256) 및 광선(257)은 사용자에 의해 인지될 수 있는 디스플레이 표면(277)의 법선에 대해 가장 높은 각도로 LF 디스플레이 모듈(210)의 서로 반대되는 엣지들로부터 투사되지만, 이들은 다른 투사된 광선들일 수 있다. 광선들은 디스플레이의 시야를 정의하고, 따라서 홀로그래픽 가시 부피(285)에 대한 경계를 정의한다. 일부 경우에, 광선들은 전체 디스플레이가 비네팅(vignetting) 없이 관찰될 수 있는 홀로그래픽 가시 부피(예를 들어, 이상적인 가시 부피)를 정의한다. 디스플레이의 시야가 증가함에 따라, 광선(256)과 광선(257)의 수렴 지점이 디스플레이에 더 근접할 것이다. 따라서, 더 큰 시야를 갖는 디스플레이는 관찰자(280)가 더 가까운 가시 거리에서 전체 디스플레이를 볼 수 있게 한다. 또한, 광선(256, 257)은 이상적인 홀로그래픽 객체 부피를 형성할 수 있다. 이상적인 홀로그래픽 객체 부피 내에 제공된 홀로그래픽 객체는 가시 부피(285)의 임의의 위치에서 볼 수 있다.
일부 예들에서, 홀로그래픽 객체들은 가시 부피(285)의 일부에만 제공될 수 있다. 즉, 홀로그래픽 객체 부피는 임의의 수의 가시 서브부피(예를 들어, 가시 서브부피(290))로 분할될 수 있다. 또한, 홀로그래픽 객체는 홀로그래픽 객체 부피(255)의 외부에 투사될 수 있다. 예를 들어, 홀로그래픽 객체(251)는 홀로그래픽 객체 부피(255)의 외부에 제공된다. 홀로그래픽 객체(251)가 홀로그래픽 객체 부피(255)의 외부에 제공되기 때문에, 이는 가시 부피(285)의 모든 위치에서 보이지 않는다. 예를 들어, 홀로그래픽 객체(251)는 가시 서브부피(290)의 위치에서 보일 수 있지만, 관찰자(280)의 위치에서는 보이지 않을 수 있다.
예를 들어, 도 2b를 참조하면, 상이한 가시 서브부피들로부터의 홀로그래픽 콘텐츠를 보는 것이 예시된다. 도 2b는 하나 이상의 실시예들에 따른 LF 디스플레이 모듈의 일 부분의 단면(200)을 도시한다. 도 2b의 단면은 도 2a의 단면과 동일하다. 그러나, 도 2b는 LF 디스플레이 모듈(210)로부터 투사된 상이한 광선들의 세트를 도시한다. 광선(256)과 광선(257)은 여전히 홀로그래픽 객체 부피(255) 및 가시 부피(285)를 형성한다. 그러나, 도시된 바와 같이, LF 디스플레이 모듈(210)의 상부 및 LF 디스플레이 모듈(210)의 하부로부터 투사된 광선들은 가시 부피(285) 내에서 다양한 가시 서브부피들(예를 들어, 가시 서브부피들(290A, 290B, 290C, 및 290D))을 형성하도록 오버랩된다. 제1 가시 서브부피(예를 들어, 290A) 내의 관찰자는 다른 가시 서브부피들(예를 들어, 290B, 290C, 및 290D) 내의 관찰자들이 인지할 수 없는 홀로그래픽 객체 부피(255) 내에 제공된 홀로그래픽 콘텐츠를 인지할 수 있다.
더 간단히, 도 2a에 도시된 바와 같이, 홀로그래픽 객체 부피(255)는 홀로그래픽 객체들이 가시 부피(285) 내의 관찰자들(예를 들어, 관찰자(280))에 의해 인지될 수 있도록 LF 디스플레이 시스템에 의해 제공될 수 있는 부피이다. 이런 식으로, 가시 부피(285)는 이상적인 가시 부피의 일 예이고, 홀로그래픽 객체 부피(255)는 이상적인 객체 부피의 일 예이다. 그러나, 다양한 구성들에서, 관찰자들은 다른 예시적인 홀로그래픽 객체 부피들 내의 LF 디스플레이 시스템(200)에 의해 제공되는 홀로그래픽 객체들을 인지할 수 있다. 보다 일반적으로, "눈-선(eye-line) 가이드라인"은 LF 디스플레이 모듈로부터 투사된 홀로그래픽 콘텐츠를 볼 때 적용된다. 눈-선(eye-line) 가이드라인은 관찰자의 눈 위치 및 보고 있는 홀로그래픽 객체에 의해 형성되는 선이 LF 디스플레이 표면과 교차해야 한다고 강조한다.
LF 디스플레이 모듈(210)에 의해 제공되는 홀로그래픽 콘텐츠를 보는 경우, 관찰자(280)의 각각의 눈은 홀로그래픽 객체(250)의 상이한 관점을 보게 되는데, 그 이유는 홀로그래픽 콘텐츠가 4D 라이트필드 기능에 따라 제공되기 때문이다. 또한, 관찰자(280)가 가시 부피(285) 내에서 이동함에 따라, 그는 또한 가시 부피(285) 내의 다른 관찰자들과 마찬가지로 홀로그래픽 객체(250)의 상이한 관점들을 볼 수 있다. 통상의 기술자에 의해 이해되는 바와 같이, 4D 라이트필드 기능은 당업계에 잘 알려져 있으며, 본원에서는 더 상세히 설명되지 않을 것이다.
본원에 더 상세하게 설명되는 바와 같이, 일부 실시예들에서, LF 디스플레이는 하나 이상의 유형의 에너지를 투사할 수 있다. 예를 들어, LF 디스플레이는 예를 들어, 기계적 에너지 및 전자기 에너지와 같은 2가지 유형의 에너지를 투사할 수 있다. 이러한 구성에서, 에너지 중계층(230)은, 에너지 표면(275)에서 함께 인터리빙(interleaved)되되 에너지가 2개의 상이한 에너지 장치층들(220)로 중계되도록 분리되는, 2개의 개별적인 에너지 중계부들을 포함할 수 있다. 여기서, 하나의 중계부는 전자기 에너지를 전달하도록 구성될 수 있는 반면, 다른 중계부는 기계적 에너지를 수송하도록 구성될 수 있다. 일부 실시예들에서, 기계적 에너지는 에너지 도파층(240) 상의 전자기 도파 요소들 사이의 위치들로부터 투사될 수 있고, 하나의 전자기 도파 요소로부터 다른 전자기 도파 요소로 광이 전송되는 것을 억제하는 구조들의 형성을 돕는다. 일부 실시예들에서, 에너지 도파층(240)은 또한 컨트롤러로부터의 디스플레이 명령들에 따른 특정 전파 경로들을 따라서 집속된 초음파를 수송하는 도파 요소들을 포함할 수 있다.
다른 실시예들(도시되지 않음)에서, LF 디스플레이 모듈(210)은 에너지 중계층(230)을 포함하지 않음에 유의해야 한다. 이 경우에, 에너지 표면(275)은 에너지 장치층(220) 내에 하나 이상의 인접한 전자 디스플레이를 사용하여 형성된 방출 표면이다. 그리고 일부 실시예들에서, 에너지 중계층이 없는 경우, 인접한 전자 디스플레이들의 엣지들 사이의 분리는 20/40 비전을 갖는 인간의 눈의 시력에 의해 정의되는 바와 같이 인지 가능한 최소의 윤곽보다 더 작으며, 이에 따라 에너지 표면은 가시 부피(285) 내의 관찰자(280)의 관점에서 효과적으로 매끄럽게 된다.
LF 디스플레이 모듈
도 3a는 하나 이상의 실시예들에 따른 LF 디스플레이 모듈(300A)의 사시도이다. LF 디스플레이 모듈(300A)은 LF 디스플레이 모듈(110) 및/또는 LF 디스플레이 모듈(210)일 수 있다. 다른 실시예들에서, LF 디스플레이 모듈(300A)은 일부 다른 LF 디스플레이 모듈일 수 있다. 예시된 실시예들에서, LF 디스플레이 모듈(300A)은 에너지 장치층(310), 에너지 중계층(320), 및 에너지 도파층(330)을 포함한다. LF 디스플레이 모듈(300A)은 본원에 기술된 바와 같이 디스플레이 표면(365)으로부터 홀로그래픽 콘텐츠를 제공하도록 구성된다. 편의상, 디스플레이 표면(365)은 LF 디스플레이 모듈(300A)의 프레임(390) 상의 점선으로 도시되지만, 보다 정확하게는, 프레임(390)의 내부 림(rim)에 의해 한정된 도파 요소들의 전방에 직접 위치된다. 디스플레이 표면(365)은 에너지가 투사될 수 있는 복수의 투사 위치들을 포함한다. LF 디스플레이 모듈(300A)의 일부 실시예들은 여기에서 설명되는 것들과는 상이한 구성요소들을 갖는다. 예를 들어, 일부 실시예들에서, LF 디스플레이 모듈(300A)은 에너지 중계층(320)을 포함하지 않는다. 유사하게, 기능들은 본원에 설명된 것과 다른 방식으로 구성요소들 중에 분배될 수 있다.
에너지 장치층(310)은 에너지 장치층(220)의 일 실시예이다. 에너지 장치층(310)은 4개의 에너지 장치들(340)(도면에는 3개가 도시됨)을 포함한다. 에너지 장치들(340)은 모두 동일한 유형(예를 들어, 모두 전자 디스플레이들)일 수 있거나, 하나 이상의 상이한 유형들을 포함(예를 들어, 전자 디스플레이들 및 적어도 하나의 음향 에너지 장치를 포함)할 수 있다.
에너지 중계층(320)은 에너지 중계층(230)의 일 실시예이다. 에너지 중계층(320)은 4개의 에너지 중계 장치들(350)(도면에는 3개가 도시됨)을 포함한다. 에너지 중계 장치들(350)은 모두 동일한 유형의 에너지(예를 들어, 광)를 중계하거나, 하나 이상의 상이한 유형들(예를 들어, 광 및 소리)을 중계할 수 있다. 중계 장치들(350) 각각은 제1 표면 및 제2 표면을 포함하고, 에너지 중계 장치들(350)의 제2 표면은 단일의 이음매 없는 에너지 표면(360)을 형성하도록 배열된다. 도시된 실시예에서, 에너지 중계 장치들(350) 각각은 제1 표면이 제2 표면보다 더 작은 표면 영역을 갖도록 테이퍼화되며, 이는 테이퍼들의 작은 단부 상에 에너지 장치들(340)의 기계적인 엔벨로프들을 수용하게 한다. 이는 또한, 전체 영역이 에너지를 투사할 수 있기 때문에, 이음매 없는 에너지 표면에 경계가 없어지게 한다. 이는, 전체적으로 조합된 표면에 이음매가 없도록, 데드 스페이스(dead space) 또는 베젤 없이 LF 디스플레이 모듈(300A)의 다수의 인스턴스들을 함께 배치함으로써, 이러한 이음매 없는 에너지 표면이 타일링(tiled)될 수 있다는 것을 의미한다. 다른 실시예들에서, 제1 표면 및 제2 표면은 동일한 표면적을 갖는다.
에너지 도파층(330)은 에너지 도파층(240)의 일 실시예이다. 에너지 도파층(330)은 복수의 도파 요소들(370)을 포함한다. 도 2와 관련하여 위에서 설명된 바와 같이, 에너지 도파층(330)은 홀로그래픽 객체를 형성하기 위해 4D 라이트필드 기능에 따른 특정 전파 경로를 따라서 이음매 없는 에너지 표면(360)으로부터 에너지를 지향시키도록 구성된다. 도시된 실시예에서, 에너지 도파층(330)은 프레임(390)에 의해 한정되는 것에 유의해야 한다. 다른 실시예들에서는, 프레임(390)이 없고/없거나, 프레임(390)의 두께가 감소된다. 프레임(390)의 두께의 제거 또는 감소는 LF 디스플레이 모듈(300A)을 추가적인 LF 디스플레이 모듈과 함께 타일링하는 것을 용이하게 할 수 있다.
도시된 실시예에서, 이음매 없는 에너지 표면(360) 및 에너지 도파층(330)은 평면형(planar)이다. 다른 실시예들에서, 도시되지는 않았지만, 이음매 없는 에너지 표면(360) 및 에너지 도파층(330)은 하나 이상의 차원들에서 만곡될 수 있다.
LF 디스플레이 모듈(300A)은 이음매 없는 에너지 표면의 표면 상에 상주하는 추가적인 에너지 소스들로 구성될 수 있고, 라이트필드에 대해 에너지 필드의 추가적인 투사를 허용한다. 일 실시예에서, 음향 에너지 필드는 이음매 없는 에너지 표면(360) 상의 임의의 수의 위치들에 장착된 정전기 스피커들(도시되지 않음)로부터 투사될 수 있다. 또한, LF 디스플레이 모듈(300A)의 정전기 스피커들은 듀얼 에너지 표면이 동시에 소리 필드들 및 홀로그래픽 콘텐츠를 투사하도록, 라이트필드 디스플레이 모듈(300A) 내에 위치된다. 예를 들어, 정전기 스피커들은 전자기 에너지의 일부 파장에 대해 투과성인 하나 이상의 다이어프램 요소들로 형성될 수 있고, 하나 이상의 전도성 요소들(예를 들어, 하나 이상의 다이어프램 요소들을 샌드위치화하는 평면들)에 의해 구동될 수 있다. 정전기 스피커들은 다이어프램 요소들이 도파 요소들의 일부를 덮도록 이음매 없는 에너지 표면(360)에 장착될 수 있다. 스피커들의 전도성 전극들은 전자기 도파들 사이의 광 전송을 억제하도록 설계되고/되거나 전자기 도파 요소들(예를 들어, 프레임(390)) 사이의 위치들에 위치하는 구조물들과 함께 배치될 수 있다. 다양한 구성들에서, 스피커들은 가청 소리를 투사하고/하거나 햅틱 표면을 생성하는 집속된 초음파 에너지의 여러 소스들을 투사할 수 있다.
일부 구성들에서, 에너지 장치(340)는 에너지를 감지할 수 있다. 예를 들어, 에너지 장치는 마이크, 광 센서, 음향 트랜스듀서 등일 수 있다. 이와 같이, 에너지 중계 장치들은 또한 이음매 없는 에너지 표면(360)으로부터 에너지 장치층(310)으로 에너지를 중계할 수 있다. 즉, 에너지 장치들 및 에너지 중계 장치들(340)이 에너지를 방출하고 동시에 감지(예를 들어, 라이트필드들을 방출하고 소리를 감지)하도록 구성될 때, LF 디스플레이 모듈의 이음매 에너지 표면(360)은 양방향성 에너지 표면을 형성한다.
보다 넓게, LF 디스플레이 모듈(340)의 에너지 장치(340)는 에너지 소스 또는 에너지 센서일 수 있다. LF 디스플레이 모듈(300A)은 사용자에게 고품질 홀로그래픽 콘텐츠의 투사를 용이하게 하기 위해 에너지 소스들 및/또는 에너지 센서들로서 작용하는 다양한 유형들의 에너지 장치들을 포함할 수 있다. 다른 소스들 및/또는 센서들은 열 센서들 또는 소스들, 적외선 센서들 또는 소스들, 이미지 센서들 또는 소스들, 음향 에너지를 생성하는 기계적 에너지 트랜스듀서들, 피드백 소스들 등을 포함할 수 있다. 많은 다른 센서들 또는 소스들이 가능하다. 또한, LF 디스플레이 모듈들은, LF 디스플레이 모듈이 커다란 집합된 이음매 없는 에너지 표면으로부터 여러 유형의 에너지를 투사하고 감지하는 어셈블리를 형성할 수 있도록 타일링(tiled)될 수 있다.
LF 디스플레이 모듈(300A)의 다양한 실시예들에서, 이음매 없는 에너지 표면(360)은 다양한 표면 부분들을 가질 수 있으며, 각각의 표면 부분은 특정 유형의 에너지를 투사 및/또는 방출하도록 구성된다. 예를 들어, 이음매 없는 에너지 표면이 듀얼-에너지 표면일 때, 이음매 없는 에너지 표면(360)은 전자기 에너지를 투사하는 하나 이상의 표면 부분들, 및 초음파 에너지를 투사하는 하나 이상의 다른 표면 부분들을 포함한다. 초음파 에너지를 투사하는 표면 부분들은 전자기 도파 요소들 사이의 이음매 없는 에너지 표면(360) 상에 위치될 수 있고/있거나, 전자기 도파 요소들 사이의 광 전송을 억제하도록 설계된 구조물들과 함께 위치될 수 있다. 이음매 없는 에너지 표면이 양방향 에너지 표면인 예에서, 에너지 중계층(320)은 이음매 없는 에너지 표면(360)에서 인터리빙되는 2개의 유형의 에너지 중계 장치들을 포함할 수 있다. 다양한 실시예들에서, 이음매 없는 에너지 표면(360)은 임의의 특정한 도파 요소(370) 아래의 표면의 부분들이 모두 에너지 소스들, 모두 에너지 센서들, 또는 에너지 소스들 및 에너지 센서들의 혼합이 되도록, 구성될 수 있다.
도 3b는 하나 이상의 실시예들에 따른, 인터리빙된 에너지 중계 장치들을 포함하는 LF 디스플레이 모듈(300B)의 단면도이다. 에너지 중계 장치(350A)는 에너지 장치(340A)에 연결된 에너지 중계 제1 표면(345A)과 이음매 없는 에너지 표면(360) 사이에서 에너지를 전달한다. 에너지 중계부(350B)는 에너지 장치(340B)에 연결된 에너지 중계 제1 표면(345B)과 이음매 없는 에너지 표면(360) 사이에서 에너지를 전달한다. 두 중계 장치들은 이음매 없는 에너지 표면(360)에 연결된 인터리빙된 에너지 중계 장치(352)에서 인터리빙(interleaved)된다. 이러한 구성에서, 표면(360)은 에너지 소스 또는 에너지 센서일 수 있는 두 에너지 장치들(340A 및 340B)의 인터리빙된 에너지 위치들을 포함한다. 따라서, LF 디스플레이 모듈(300B)은 둘 이상의 유형의 에너지를 투사하기 위한 듀얼 에너지 투사 장치로서, 또는 한 유형의 에너지를 투사하고 동시에 다른 유형의 에너지를 감지하기 위한 양방향 에너지 장치로서, 구성될 수 있다. LF 디스플레이 모듈(300B)은 LF 디스플레이 모듈(110) 및/또는 LF 디스플레이 모듈(210)일 수 있다. 다른 실시예들에서, LF 디스플레이 모듈(300B)은 몇몇 다른 LF 디스플레이 모듈일 수 있다.
LF 디스플레이 모듈(300B)은 도 3a의 LF 디스플레이 모듈(300A)의 것들과 유사하게 구성된 많은 구성요소들을 포함한다. 예를 들어, 예시된 실시예에서, LF 디스플레이 모듈(300B)은 적어도 도 3a에 관해 기술된 것들의 동일한 기능을 포함하는, 에너지 장치층(310), 에너지 중계층(320), 이음매 없는 에너지 표면(360), 및 에너지 도파층(330)을 포함한다. 추가적으로, LF 디스플레이 모듈(300B)은 디스플레이 표면(365)으로부터 에너지를 제공 및/또는 수신할 수 있다. 특히, LF 디스플레이 모듈(300B)의 구성요소들은 대안적으로, 도 3a의 LF 디스플레이 모듈(300A)의 구성요소들과 연결되고/되거나 지향(orient)된다. LF 디스플레이 모듈(300B)의 일부 실시예들은 여기에서 설명되는 것들과는 상이한 구성요소들을 갖는다. 유사하게, 기능들은 본원에 설명된 것과 다른 방식으로 구성요소들 중에 분배될 수 있다. 도 3b는 더 큰 면적을 갖는 양방향 에너지 표면 또는 듀얼 에너지 투사 표면을 생성하도록 타일링될 수 있는 단일 LF 디스플레이 모듈(300B)의 설계를 예시한다.
일 실시예에서, LF 디스플레이 모듈(300B)은 양방향 LF 디스플레이 시스템의 LF 디스플레이 모듈이다. 양방향 LF 디스플레이 시스템은 디스플레이 표면(365)으로부터 에너지를 투사함과 동시에 에너지를 감지할 수 있다. 이음매 없는 에너지 표면(360)은 이음매 없는 에너지 표면(360) 상에 근접하게 인터리빙되는 에너지 투사 위치 및 에너지 감지 위치 모두를 포함한다. 따라서, 도 3b의 예에서, 에너지 중계층(320)은 도 3a의 에너지 중계층과는 상이한 방식으로 구성된다. 편의상, LF 디스플레이 모듈(300B)의 에너지 중계층은 본원에서 "인터리빙된 에너지 중계층"으로 지칭될 것이다.
인터리빙된 에너지 중계층(320)은 두 개의 레그들, 즉, 제1 에너지 중계 장치(350A) 및 제2 에너지 중계 장치(350B)를 포함한다. 각각의 레그들은 도 3b에서 약간 음영이 있는 영역으로서 도시되어 있다. 각각의 레그들은 플렉시블 중계 물질로 제조될 수 있고, 다양한 크기들 및 형상들의 에너지 장치들과 함께 사용하기에 충분한 길이로 형성될 수 있다. 인터리빙된 에너지 중계층의 일부 영역들에서, 두 개의 레그들은 이음매 없는 에너지 표면(360)에 접근함에 따라 함께 조밀하게(tightly) 인터리빙(interleaved)된다. 도시된 예에서, 인터리빙된 에너지 중계 장치들(352)은 어두운 음영 영역으로 도시되어 있다.
이음매 없는 에너지 표면(360)에서 인터리빙되는 동안, 에너지 중계 장치들은 상이한 에너지 장치들로부터/그에 대해 에너지를 중계하도록 구성된다. 에너지 장치들은 에너지 장치층(310)에 존재한다. 도시된 바와 같이, 에너지 장치(340A)는 에너지 중계 장치(350A)에 연결되고, 에너지 장치(340B)는 에너지 중계 장치(350B)에 연결된다. 다양한 실시예들에서, 각각의 에너지 장치는 에너지 소스 또는 에너지 센서일 수 있다.
에너지 도파층(330)은 일련의 수렴 지점들을 향하여 투사된 경로들을 따라 이음매 없는 에너지 표면(360)으로부터 에너지 파들을 조향(steer)하기 위한 도파 요소들(370)을 포함한다. 이 예에서, 홀로그래픽 객체(380)는 일련의 수렴 지점들에 형성된다. 특히, 도시된 바와 같이, 홀로그래픽 객체(380)에서의 에너지의 수렴은 디스플레이 표면(365)의 관찰자측(즉, 전면) 상에서 발생한다. 그러나, 다른 예에서, 에너지의 수렴은, 디스플레이 표면(365)의 전방 및 디스플레이 표면(365)의 후방 둘 모두에서 연장되는, 홀로그래픽 객체 부피 내의 어느 곳에도 존재할 수 있다. 도파 요소들(370)은 후술하는 바와 같이 에너지 장치(예를 들어, 에너지 센서)로 들어오는 에너지를 동시에 조향할 수 있다.
LF 디스플레이 모듈(300B)의 일 예시적인 실시예에서, 방출형 디스플레이는 에너지 소스(예를 들어, 에너지 장치(340A))로서 사용되고, 이미징 센서는 에너지 센서(예를 들어, 에너지 장치(340B))로서 사용된다. 이런 식으로, LF 디스플레이 모듈(300B)은 홀로그래픽 콘텐츠를 투사함과 동시에 디스플레이 표면(365)의 전방에서 해당 부피로부터 광을 검출할 수 있다. 이런 식으로, LF 디스플레이 모듈(300B)의 이 실시예는 LF 디스플레이 및 LF 센서 모두로서 기능한다.
일 실시예에서, LF 디스플레이 모듈(300B)은 디스플레이 표면 상의 투사 위치들로부터 디스플레이 표면의 전방으로 라이트필드(light field)를 투사함과 동시에, 투사 위치들에서 디스플레이 표면의 전방으로부터 라이트필드를 캡처하도록 구성된다. 이 실시예에서, 에너지 중계 장치(350A)는 도파 요소들(370) 아래에 위치된 이음매 없는 에너지 표면(360)에서의 제1 세트의 위치들을 에너지 장치(340A)에 연결한다. 일 예에서, 에너지 장치(340A)는 소스 픽셀들의 어레이를 갖는 방출형(emissive) 디스플레이이다. 에너지 중계 장치(340B)는 도파 요소들(370) 아래에 위치된 이음매 없는 에너지 표면(360)에서의 제2 세트의 위치들을 에너지 장치(340B)에 연결한다. 일 예에서, 에너지 장치(340B)는 센서 픽셀들의 어레이를 갖는 이미징 센서이다. LF 디스플레이 모듈(300B)은 특정 도파 요소들(370) 아래에 있는 이음매 없는 에너지 표면(365)에서의 위치들이 모든 방출형 디스플레이 위치들, 모든 이미징 센서 위치들, 또는 이들 위치들의 어떤 조합이 되도록 구성될 수 있다. 다른 실시예들에서, 양방향 에너지 표면은 다양한 다른 형태의 에너지를 투사하고 수신할 수 있다.
LF 디스플레이 모듈(300B)의 다른 예시적인 실시예에서, LF 디스플레이 모듈은 2개의 상이한 유형의 에너지를 투사하도록 구성된다. 예를 들어, 일 실시예에서, 에너지 장치(340A)는 전자기 에너지를 방출하도록 구성된 방출형 디스플레이이고, 에너지 장치(340B)는 기계적 에너지를 방출하도록 구성된 초음파 트랜스듀서이다. 이와 같이, 광 및 소리는 이음매 없는 에너지 표면(360)에서의 다양한 위치들로부터 투사될 수 있다. 이러한 구성에서, 에너지 중계 장치(350A)는 에너지 장치(340A)를 이음매 없는 에너지 표면(360)에 연결하고 전자기 에너지를 중계한다. 에너지 중계 장치는 전자기 에너지를 수송하는 데에 효율적인 특성들(예를 들어, 가변 굴절률)을 갖도록 구성된다. 에너지 중계 장치(350B)는 에너지 장치(340B)를 이음매 없는 에너지 표면(360)에 연결하고 기계적 에너지를 중계한다. 에너지 중계 장치(350B)는 초음파 에너지의 효율적인 수송(예를 들어, 상이한 음향 임피던스를 갖는 물질들의 분포)을 위한 특성들을 갖도록 구성된다. 일부 실시예들에서, 기계적 에너지는 에너지 도파층(330) 상의 도파 요소들(370) 사이의 위치들로부터 투사될 수 있다. 기계적 에너지를 투사하는 위치들은 광이 하나의 전자기 도파 요소로부터 다른 전자기 도파 요소로 전송되는 것을 억제하는 역할을 하는 구조물들을 형성할 수 있다. 일 예에서, 초음파 기계적 에너지를 투사하는 공간적으로 분리된 위치들의 어레이는 공중(mid-air)의 3차원 햅틱 형상들 및 표면들을 생성하도록 구성될 수 있다. 표면들은 투사된 홀로그래픽 객체(예를 들어, 홀로그래픽 객체(380))와 일치할 수 있다. 일부 예들에서, 어레이에 걸친 위상 지연들 및 진폭 변동들은 햅틱 형상들의 생성을 보조할 수 있다.
다양한 실시예들에서, 인터리빙된 에너지 중계 장치들을 갖는 LF 디스플레이 모듈(300B)은 특정 유형의 에너지 장치를 포함하는 각각의 에너지 장치층을 갖는 다수의 에너지 장치층들을 포함할 수 있다. 이러한 예들에서, 에너지 중계층들은 이음매 없는 에너지 표면(360)과 에너지 장치층(310) 사이에서 적절한 유형의 에너지를 중계하도록 구성된다.
타일형 LF 디스플레이 모듈
도 4a는 하나 이상의 실시예들에 따른, 단일-측면의 이음매 없는 표면 환경을 형성하기 위해 2차원으로 타일링(tiled)되는 LF 디스플레이 시스템(400)의 일 부분의 사시도이다. LF 디스플레이 시스템(400)은 어레이(410)를 형성하도록 타일링되는 복수의 LF 디스플레이 모듈들을 포함한다. 보다 명시적으로, 어레이(410) 내의 작은 사각형들 각각은 타일형 LF 디스플레이 모듈(412)을 나타낸다. LF 디스플레이 모듈(412)은 LF 디스플레이 모듈(300A또는 300B)과 동일할 수 있다. 어레이(410)는 예를 들어, 방의 표면(예를 들어, 벽)의 일부 또는 전부를 커버할 수 있다. LF 어레이는, 예를 들어, 테이블 상판, 게시판, 로툰다(rotunda) 등과 같은 다른 표면들을 커버할 수 있다.
어레이(410)는 하나 이상의 홀로그래픽 객체들을 투사할 수 있다. 예를 들어, 도시된 실시예에서, 어레이(410)는 홀로그래픽 객체(420) 및 홀로그래픽 객체(422)를 투사한다. LF 디스플레이 모듈들(412)의 타일링은 훨씬 더 큰 가시 부피뿐만 아니라, 객체들이 어레이(410)로부터 더 먼 거리로 투사될 수 있게 한다. 예를 들어, 도시된 실시예에서, 가시 부피는 근사적으로, LF 디스플레이 모듈(412)의 전방(및 후방)의 국소화된 부피가 아니라, 어레이(410)의 전방 및 후방에 있는 전체 영역이다.
일부 실시예들에서, LF 디스플레이 시스템(400)은 홀로그래픽 객체(420)를 관찰자(430) 및 관찰자(434)에 제공한다. 관찰자(430) 및 관찰자(434)는 홀로그래픽 객체(420)의 상이한 관점들을 수신한다. 예를 들어, 관찰자(430)에게는 홀로그래픽 객체(420)의 직접적인 뷰가 제공되는 반면, 관찰자(434)에게는 홀로그래픽 객체(420)의 더 경사진 뷰가 제공된다. 관찰자(430) 및/또는 관찰자(434)가 이동함에 따라, 그들은 홀로그래픽 객체(420)의 상이한 관점들을 제공받는다. 이는 관찰자가 홀로그래픽 객체에 대해 이동함으로써 홀로그래픽 객체와 시각적으로 상호작용할 수 있게 한다. 예를 들어, 관찰자(430)가 홀로그래픽 객체(420) 주위를 걸어갈 때, 관찰자(430)는 홀로그래픽 객체(420)가 어레이(410)의 홀로그래픽 객체 부피 내에 남아 있는 한, 홀로그래픽 객체(420)의 상이한 측면들을 보게 된다. 따라서, 관찰자(430) 및 관찰자(434)는 마치 실제로 존재하는 것처럼 실제 공간에서 홀로그래픽 객체(420)를 동시에 볼 수 있다. 또한, 홀로그래픽 객체(420)는 물리적 객체가 보이는 것과 거의 동일한 방식으로 관찰자들에게 보이기 때문에 관찰자(430) 및 관찰자(434)는 홀로그래픽 객체(420)를 보기 위해 외부 장치를 착용할 필요가 없다. 또한, 여기에서, 홀로그래픽 객체(422)는 어레이의 가시 부피가 어레이의 표면 뒤로 연장되기 때문에, 어레이 뒤에 도시되어 있다. 이런 식으로, 홀로그래픽 객체(422)는 관찰자(430) 및/또는 관찰자(434)에 제공될 수 있다.
일부 실시예들에서, LF 디스플레이 시스템(400)은 관찰자(430) 및 관찰자(434)의 위치들을 추적하는 추적 시스템을 포함할 수 있다. 일부 실시예들에서, 추적되는 위치는 관찰자의 위치이다. 다른 실시예들에서, 추적되는 위치는 관찰자의 눈의 위치이다. 눈의 위치 추적은 눈이 어디를 보고 있는지를 추적하는 시선 추적(예를 들어, 응시 위치를 결정하기 위해 방향을 사용함)과는 상이하다. 관찰자(430)의 눈과 관찰자(434)의 눈은 서로 다른 위치에 있다.
다양한 구성들에서, LF 디스플레이 시스템(400)은 하나 이상의 추적 시스템들을 포함할 수 있다. 예를 들어, 도 4a의 예시된 실시예에서, LF 디스플레이 시스템은 어레이(410) 외부에 있는 추적 시스템(440)을 포함한다. 여기서, 추적 시스템은 어레이(410)에 연결된 카메라 시스템일 수 있다. 외부의 추적 시스템들은 도 5a와 관련하여 더 상세히 설명된다. 다른 예시적인 실시예들에서, 추적 시스템은 본원에 기술된 바와 같이 어레이(410) 내에 통합될 수 있다. 예를 들어, 어레이(410) 내에 포함된 양방향 에너지 표면을 포함하는 하나 이상의 LF 디스플레이 모듈들(412)의 에너지 장치(예를 들어, 에너지 장치(340))는 어레이(410)의 전방에서 관찰자들의 이미지들을 캡처하도록 구성될 수 있다. 어느 경우든, LF 디스플레이 시스템(400)의 추적 시스템(들)은 어레이(410)에 의해 제공되는 홀로그래픽 콘텐츠를 보는 관찰자(예를 들어, 관찰자(430) 및/또는 관찰자(434))에 관한 추적 정보를 결정한다.
추적 정보는 관찰자의 위치에 대한(예를 들어, 추적 시스템에 대한) 공간 내의 위치, 또는 관찰자의 일 부분의 위치(예를 들어, 관찰자의 한쪽 또는 양쪽 눈, 또는 관찰자의 말단부들)를 기술한다. 추적 시스템은 추적 정보를 결정하기 위해 임의의 수의 깊이 결정 기술들을 이용할 수 있다. 깊이 결정 기술들은 예를 들어, 구조화된 광, 비행 시간, 스테레오 이미징, 일부 다른 깊이 결정 기술, 또는 이들의 몇몇 조합을 포함할 수 있다. 추적 시스템은 추적 정보를 결정하도록 구성된 다양한 시스템들을 포함할 수 있다. 예를 들어, 추적 시스템은 하나 이상의 적외선 소스들(예를 들어, 구조화된 광원들), 적외선에서의 이미지들을 캡처할 수 있는 하나 이상의 이미징 센서들(예를 들어, 적-청-녹-적외선 카메라), 및 추적 알고리즘을 실행하는 프로세서를 포함할 수 있다. 추적 시스템은 관찰자들의 위치들을 결정하기 위해 깊이 추정 기술들을 사용할 수 있다. 일부 실시예들에서, LF 디스플레이 시스템(400)은 본원에 설명된 바와 같이 관찰자(430) 및/또는 관찰자(434)의 추적된 위치들, 동작들, 또는 제스처들에 기초하여 홀로그래픽 객체들을 생성한다. 예를 들어, LF 디스플레이 시스템(400)은 어레이(410) 및/또는 특정 위치의 임계 거리 내에 들어오는 관찰자에 응답하여 홀로그래픽 객체를 생성할 수 있다.
LF 디스플레이 시스템(400)은 추적 정보에 부분적으로 기초하여 각각의 관찰자에 맞춤화된 하나 이상의 홀로그래픽 객체들을 제공할 수 있다. 예를 들어, 관찰자(430)에게는 홀로그래픽 객체(420)가 제공될 수 있지만, 홀로그래픽 객체(422)는 제공되지 않을 수 있다. 유사하게, 관찰자(434)에게는 홀로그래픽 객체(422)가 제공될 수 있지만, 홀로그래픽 객체(420)는 제공되지 않을 수 있다. 예를 들어, LF 디스플레이 시스템(400)은 관찰자(430) 및 관찰자(434) 각각의 위치를 추적한다. LF 디스플레이 시스템(400)은 홀로그래픽 객체가 제공될 위치에 대한 관찰자들의 위치에 기초하여 관찰자에게 보이는 홀로그래픽 객체의 관점을 결정한다. LF 디스플레이 시스템(400)은 결정된 관점에 대응하는 특정 픽셀들로부터 광을 선택적으로 투사한다. 따라서, 관찰자(434) 및 관찰자(430)는 동시에, 잠재적으로 완전히 상이한 경험을 가질 수 있다. 즉, LF 디스플레이 시스템(400)은 가시 부피의 서브 부피(즉, 도 2b에 도시된 가시 서브 부피(290A, 290B, 290C, 및 290D)와 유사함)를 보기 위해 홀로그래픽 콘텐츠를 제공할 수 있다. 예를 들어, 도시된 바와 같이, LF 디스플레이 시스템(400)이 관찰자(430)의 위치를 추적할 수 있기 때문에, LF 디스플레이 시스템(400)은 관찰자(430)를 둘러싸는 가시 서브 부피에 공간 콘텐츠(예를 들어, 홀로그래픽 객체(420))를, 그리고 관찰자(434)를 둘러싸는 가시 서브 부피에 사파리 콘텐츠(예를 들어, 홀로그래픽 객체(422))를 제공할 수 있다. 이와 달리, 통상적인 시스템들은 유사한 경험을 제공하기 위해 개별 헤드셋을 사용해야 한다.
일부 실시예들에서, LF 디스플레이 시스템(400)은 하나 이상의 감각 피드백 시스템들을 포함할 수 있다. 감각 피드백 시스템들은 홀로그래픽 객체들(420, 422)을 증강시키는 다른 감각 자극들(예를 들어, 촉각, 청각, 또는 후각)을 제공한다. 예를 들어, 도 4a의 예시된 실시예에서, LF 디스플레이 시스템(400)은 어레이(410) 외부의 감각 피드백 시스템(442)을 포함한다. 일 예에서, 감각 피드백 시스템(442)은 어레이(410)에 연결된 정전기 스피커일 수 있다. 외부 감각 피드백 시스템은 도 5a와 관련하여 더욱 상세히 설명된다. 다른 예시적인 실시예들에서, 감각 피드백 시스템은 본원에 기술된 바와 같이 어레이(410) 내에 통합될 수 있다. 예를 들어, 어레이(410)에 포함된 LF 디스플레이 모듈(412)의 에너지 장치(예를 들어, 도 3b의 에너지 장치(340A))는 어레이의 전방에서 관찰자들에게 초음파 에너지를 투사하고 및/또는 어레이의 전방에서 관찰자들로부터 이미징 정보를 수신하도록 구성될 수 있다. 어느 경우든, 감각 피드백 시스템은 어레이(410)에 의해 제공되는 홀로그래픽 콘텐츠(예를 들어, 홀로그래픽 객체(420) 및/또는 홀로그래픽 객체(422))를 보는 관찰자(예를 들어, 관찰자(430) 및/또는 관찰자(434))에게 감각 콘텐츠를 제공하고/하거나 그로부터 감각 콘텐츠를 수신한다.
LF 디스플레이 시스템(400)은 어레이 외부의 하나 이상의 음향 투사 장치를 포함하는 감각 피드백 시스템(442)을 포함할 수 있다. 대안적으로 또는 추가적으로, LF 디스플레이 시스템(400)은 본원에 기술된 바와 같이 어레이(410) 내에 통합된 하나 이상의 음향 투사 장치들을 포함할 수 있다. 음향 투사 장치들은 부피 촉각 표면을 투사하도록 구성된 초음파 소스들의 어레이로 구성될 수 있다. 일부 실시예들에서, 촉각 표면은 관찰자의 일부분이 하나 이상의 표면들의 임계 거리 내에 있는 경우 홀로그래픽 객체의 하나 이상의 표면들에 대해 홀로그래픽 객체와 일치(예를 들어, 홀로그래픽 객체(420)의 표면에서)될 수 있다. 부피 촉각 감각은 사용자가 홀로그래픽 객체의 표면들을 만지고 느낄 수 있게 할 수 있다. 또한, 복수의 음향 투사 장치들은 관찰자들에게 오디오 콘텐츠(예를 들어, 몰입형 오디오)를 제공하는 가청 압력파를 투사할 수 있다. 따라서, 초음파 압력파 및/또는 가청 압력파는 홀로그래픽 객체를 보완하는 작용을 할 수 있다.
다양한 실시예들에서, LF 디스플레이 시스템(400)은 관찰자의 추적된 위치에 부분적으로 기초하여 다른 감각 자극들을 제공할 수 있다. 예를 들어, 도 4a에 도시된 홀로그래픽 객체(422)는 사자이고, LF 디스플레이 시스템(400)은 시각적으로(즉, 홀로그래픽 객체(422)가 으르렁거리는(roar) 것으로 보임) 및 청각적으로(즉, 하나 이상의 음향 투사 장치들은 관찰자(430)가 홀로그래픽 객체(422)로부터 나오는 사자의 으르렁거림으로서 인지하는 압력파를 투사함) 으르렁거리는 홀로그래픽 객체(422)를 가질 수 있다.
도시된 구성에서, 홀로그래픽 가시 부피는 도 2의 LF 디스플레이 시스템(200)의 가시 부피(285)와 유사한 방식으로 제한될 수 있음에 유의해야 한다. 이는 관찰자가 단일의 벽면 디스플레이 유닛으로 경험하게 될 인식된 몰입의 정도를 제한할 수 있다. 이를 해결하기 위한 한 가지 방법은 도 4b 내지 도 4f와 관련하여 아래에서 설명되는 바와 같이 다수의 측면들을 따라 타일링되는 다수의 LF 디스플레이 모듈들을 사용하는 것이다.
도 4b는 하나 이상의 실시예들에 따른, 다중-측면의 이음매 없는 표면 환경에서의 LF 디스플레이 시스템(402)의 일 부분의 사시도이다. LF 디스플레이 시스템(402)은 복수의 LF 디스플레이 모듈들이 다중 측면의 이음매 없는 표면 환경을 생성하도록 타일링되는 것을 제외하고는, LF 디스플레이 시스템(400)과 실질적으로 유사하다. 보다 구체적으로, LF 디스플레이 모듈들은 6개의 면의 집합된(aggregated) 이음매 없는 표면 환경인 어레이를 형성하도록 타일링된다. 도 4b에서, 복수의 LF 디스플레이 모듈들은 방의 모든 벽들, 천장 및 바닥을 커버한다. 다른 실시예들에서, 복수의 LF 디스플레이 모듈들은 벽, 바닥, 천장, 또는 이들의 일부 조합의 전부가 아닌 일부를 커버할 수 있다. 다른 실시예들에서, 복수의 LF 디스플레이 모듈들은 일부 다른 집합된 이음매 없는 표면을 형성하도록 타일링된다. 예를 들어, 벽들은 원통형의 집합된 에너지 환경이 형성되도록 만곡될 수 있다. 또한, 도 6 내지 도 9와 관련하여 후술하는 바와 같이, 일부 실시예들에서, LF 디스플레이 모듈들은 프리젠테이션 공간에 표면(예를 들어, 벽 등)을 형성하도록 타일링될 수 있다.
LF 디스플레이 시스템(402)은 하나 이상의 홀로그래픽 객체들을 투사할 수 있다. 예를 들어, 도시된 실시예에서, LF 디스플레이 시스템(402)은 홀로그래픽 객체(420)를 6개의 면의 집합된 이음매 없는 표면 환경에 의해 둘러싸인 영역으로 투사한다. 이 예에서, LF 디스플레이 시스템의 가시 부피는 또한, 6개의 면의 집합된 이음매 없는 표면 환경 내에 포함된다. 도시된 구성에서, 관찰자(434)는 홀로그래픽 객체(420)와, 홀로그래픽 객체(420)를 형성하기 위해 사용되는 에너지(예를 들어, 광 및/또는 압력파)를 투사하는 LF 디스플레이 모듈(414)의 사이에 위치될 수 있음에 유의해야 한다. 따라서, 관찰자(434)의 위치로 인해, 관찰자(430)는 LF 디스플레이 모듈(414)로부터의 에너지로부터 형성된 홀로그래픽 객체(420)를 인지하는 것을 방해받을 수 있다. 그러나, 도시된 구성에서, 적어도 하나의 다른 LF 디스플레이 모듈, 예를 들어, LF 디스플레이 모듈(416)은 (예를 들어, 관찰자(434)에 의해) 방해받지 않고, 홀로그래픽 객체(420)를 형성하도록 에너지를 투사하여 관찰자(430)에 의해 관찰될 수 있다. 이런 식으로, 공간 내의 관찰자들에 의한 막힘(occlusion)은 홀로그래픽 투사들의 일부 부분이 사라지게 할 수 있지만, 그 효과는 부피의 단지 한쪽 면만 홀로그래픽 디스플레이 패널들로 채워지는 경우보다는 훨씬 더 작다. 홀로그래픽 객체(422)는 홀로그래픽 객체 부피가 집합된 표면 뒤로 연장되기 때문에 6개의 면의 집합된 이음매 없는 표면 환경의 벽들 "외부에" 도시되어 있다. 따라서, 관찰자(430) 및/또는 관찰자(434)는 홀로그래픽 객체(422)를 그들이 관통하여 이동할 수 있는, 둘러싸인 6개의 면의 환경의 "외부에" 있는 것으로서 인지할 수 있다.
도 4a를 참조하여 전술한 바와 같이, 일부 실시예들에서, LF 디스플레이 시스템(402)은 관찰자들의 위치들을 능동적으로 추적하고, 추적된 위치들에 기초하여 홀로그래픽 콘텐츠를 제공하도록 상이한 LF 디스플레이 모듈들에 동적으로 지시할 수 있다. 따라서, 다중-측면의 구성은 제한되지 않은 관찰자들이 다중-측면의 이음매 없는 표면 환경에 의해 둘러싸인 영역을 관통하여 자유롭게 이동할 수 있는 홀로그래픽 객체들을 제공하기 위한 보다 강건한(robust)(예를 들어, 도 4a에 비해) 환경을 제공할 수 있다.
특히, 다양한 LF 디스플레이 시스템들은 상이한 구성들을 가질 수 있다. 또한, 각각의 구성은, 집합적으로, 이음매 없는 디스플레이 표면("집합 표면")을 형성하는, 표면들의 특정 배향을 가질 수 있다. 즉, LF 디스플레이 시스템의 LF 디스플레이 모듈들은 다양한 집합 표면들을 형성하도록 타일링될 수 있다. 예를 들어, 도 4b에서, LF 디스플레이 시스템(402)은 방의 벽들을 근사화하는 6개의 면의 집합 표면을 형성하도록 타일링된 LF 디스플레이 모듈들을 포함한다. 일부 다른 예들에서, 집합 표면은 전체 표면(예를 들어, 전체 벽)이 아니라 표면의 일부(예를 들어, 벽의 절반)에서만 발생할 수 있다. 일부 예들은 본원에서 설명된다.
일부 구성들에서, LF 디스플레이 시스템의 집합 표면은 국소화된 가시 부피를 향해 에너지를 투사하도록 구성된 집합 표면을 포함할 수 있다. 국소화된 가시 부피에 에너지를 투사하는 것은, 예를 들어, 특정 가시 부피 내의 투사된 에너지의 밀도를 증가시키고, 그 부피 내의 관찰자들에 대한 FOV를 증가시키며, 가시 부피를 디스플레이 표면에 더 가깝게 하는 것에 의해, 더 높은 품질의 가시 경험을 가능하게 한다.
예를 들어, 도 4c는 "날개형(winged)" 구성으로 집합 표면을 갖는 LF 디스플레이 시스템(450A)의 평면도를 도시한다. 이 예에서, LF 디스플레이 시스템(450A)은 전면 벽(452), 후면 벽(454), 제1 측벽(456), 제2 측벽(458), 천장(도시되지 않음), 및 바닥(도시되지 않음)을 갖는 방에 위치된다. 제1 측벽(456), 제2 측벽(458), 후면 벽(454), 바닥 및 천장은 모두 수직한다. LF 디스플레이 시스템(450A)은 전면 벽을 덮는 집합 표면(460)을 형성하도록 타일링된 LF 디스플레이 모듈들을 포함한다. 전면 벽(452), 및 따라서 집합 표면(460)은 3개의 부분들, 즉, (i) 후면 벽(454)과 근사적으로 평행한 제1 부분(462)(즉, 중앙 표면), (ii) 제1 부분(462)을 제1 측벽(456)에 연결하고 방의 중심을 향해 에너지를 투사하기 위한 각도에 위치되는 제2 부분(464)(즉, 제1 측면), 및 (iii) 제1 부분(462)을 제2 측벽(458)에 연결하고 방의 중심을 향해 에너지를 투사하기 위한 각도에 위치되는 제3 부분(466)(즉, 제2 측면)을 포함한다. 제1 부분은 방 안의 수직한 평면이고, 수평 및 수직 축을 가진다. 제2 부분 및 제3 부분은 수평 축을 따라 방의 중심을 향해 각진다.
이 예에서, LF 디스플레이 시스템(450A)의 가시 부피(468A)는 방의 중앙에 있고, 집합 표면(460)의 세 부분들에 의해 부분적으로 둘러싸인다. 관찰자를 적어도 부분적으로 둘러싸는 집합 표면("주위 표면")은 관찰자들의 몰입적 경험을 증가시킨다.
설명을 위해, 예를 들어, 단지 중앙 표면만을 갖는 집합 표면을 고려한다. 도 2a를 참조하면, 디스플레이 표면의 어느 한쪽 단부로부터 투사되는 광선들은 전술한 바와 같이 이상적인 홀로그래픽 부피 및 이상적인 가시 부피를 생성한다. 이제, 예를 들어, 중앙 표면이 관찰자를 향해 각진 2개의 측면들을 포함하는 경우를 고려한다. 이 경우에, 광선(256) 및 광선(257)은 중앙 표면의 법선으로부터 더 큰 각도로 투사될 것이다. 따라서, 가시 부피의 시야는 증가할 것이다. 유사하게, 홀로그래픽 가시 부피는 디스플레이 표면에 더 가까울 것이다. 추가적으로, 2개의 제2 부분 및 제3 부분이 가시 부피에 더 가까이 경사지기 때문에, 디스플레이 표면으로부터 고정된 거리에 투사되는 홀로그래픽 객체들은 해당 가시 부피에 더 가깝다.
단순화를 위해, 단지 중앙 표면만을 갖는 디스플레이 표면은 평면형의(planar) 시야, (중앙의) 디스플레이 표면과 가시 부피 사이의 평면형의 임계 간격, 및 홀로그래픽 객체와 가시 부피 사이의 평면형의 근접성을 갖는다. 관찰자를 향해서 각진 하나 이상의 측면들을 추가하는 것은 평면형의 시야에 비해 시야를 증가시키고, 평면형의 간격에 비해 디스플레이 표면과 가시 부피 사이의 간격을 감소시키며, 평면형의 근접성에 비해 디스플레이 표면과 홀로그래픽 객체 사이의 근접성을 증가시킨다. 관찰자를 향해 측면들을 더 경사지게 하는 것은 시야를 더 증가시키고, 간격을 더 감소시키며, 근접성을 더 증가시킨다. 즉, 측면들의 각진 배치는 관찰자들에 대한 몰입적 경험을 증가시킨다.
또한, 도 6과 관련하여 아래에서 설명되는 바와 같이, 편향 광학계는 LF 디스플레이 파라미터들(예를 들어, 치수들 및 FOV)에 대한 가시 부피의 크기 및 위치를 최적화하기 위해 사용될 수 있다.
도 4d를 참조하면, 유사한 예에서, 도 4d는 "경사진" 구성으로 집합 표면을 갖는 LF 디스플레이 시스템(450B)의 측면도를 도시한다. 이 예에서, LF 디스플레이 시스템(450B)은 전면 벽(452), 후면 벽(454), 제1 측벽(도시되지 않음), 제2 측벽(도시되지 않음), 천장(472), 및 바닥(474)을 갖는 방에 위치된다. 제1 측벽, 제2 측벽, 후면 벽(454), 바닥(474), 및 천장(472)은 모두 수직이다. LF 디스플레이 시스템(450B)은 전면 벽을 커버하는 집합 표면(460)을 형성하도록 타일링된 LF 디스플레이 모듈들을 포함한다. 전면 벽(452) 및 이에 따른 집합 표면(460)은 3개의 부분들, 즉, (i) 후면 벽(454)(즉, 중앙 표면)과 거의 평행한 제1 부분(462), (ii) 제1 부분(462)을 천장(472)에 연결하고 방의 중심을 향해 에너지를 투사하도록 각진 제2 부분(464)(즉, 제1 측면), 및 (iii) 제1 부분(462)을 바닥(474)으로 연결하고 방의 중심을 향해 에너지를 투사하도록 각진 제3 부분(464)(즉, 제2 측면)을 포함한다. 제1 부분은 방 안의 수직한 평면이고, 수평 및 수직 축을 가진다. 제2 부분 및 제3 부분은 수직축을 따라 방의 중심을 향하여 각진다.
이 예에서, LF 디스플레이 시스템(450B)의 가시 부피(468B)는 방의 중심에 있고 집합 표면(460)의 세 부분들에 의해 부분적으로 둘러싸인다. 도 4c에 도시된 구성과 유사하게, 2개의 측면 부분들(예를 들어, 제2 부분(464) 및 제3 부분(466))은 관찰자를 둘러싸고 주위 표면을 형성하도록 각진다. 주위 표면은 홀로그래픽 가시 부피(468B) 내의 임의의 관찰자의 관점으로부터 가시 FOV를 증가시킨다. 추가적으로, 주위 표면은 투사된 객체들이 더 가깝게 보이도록 가시 부피(468B)가 디스플레이의 표면에 더 가깝게 되게 한다. 즉, 측면들의 각진 배치는 시야를 증가시키고, 간격을 감소시키며, 집합 표면의 근접성을 증가시키며, 그에 따라 관찰자들에 대한 몰입형 경험을 증가시킨다. 또한, 아래에서 설명되는 바와 같이, 가시 부피(468B)의 크기 및 위치를 최적화하기 위해 편향 광학계가 사용될 수 있다.
집합 표면(460)의 측면 부분들의 경사진 구성은, 제3 부분(466)이 경사지지 않은 경우보다, 홀로그래픽 콘텐츠가 가시 부피(468B)에 더 가깝게 제공될 수 있게 한다. 예를 들어, 경사진 구성에서 LF 디스플레이 시스템으로부터 제공된 캐릭터의 하단 말단부들(예를 들어, 다리)은, 평평한 전면 벽을 갖는 LF 디스플레이 시스템이 사용된 경우보다, 더 가깝고 더 현실적으로 보일 수 있다.
또한, LF 디스플레이 시스템의 구성 및 그것이 위치되는 환경은 가시 부피들 및 가시 서브 부피들의 형태 및 위치들을 알려줄 수 있다.
예를 들어, 도 4e는 방의 전면 벽(452) 상에 집합 표면(460)을 갖는 LF 디스플레이 시스템(450C)의 평면도를 도시한다. 이 예에서, LF 디스플레이 시스템(450D)은 전면 벽(452), 후면 벽(454), 제1 측벽(456), 제2 측벽(458), 천장(도시되지 않음), 및 바닥(도시되지 않음)을 갖는 방 안에 위치된다.
LF 디스플레이 시스템(450C)은 집합 표면(460)으로부터 다양한 광선들을 투사한다. 디스플레이 표면 상의 각각의 위치로부터, 광선들은 가시 부피에 중심을 두는 각도 범위로 투사된다. 집합 표면(460)의 좌측으로부터 투사된 광선들은 수평 각도 범위(481)를 가지며, 집합 표면의 우측으로부터 투사된 광선들은 수평 각도 범위(482)를 가지며, 집합 표면(460)의 중심으로부터 투사된 광선들은 수평 각도 범위(483)를 가진다. 이러한 지점들 사이에서, 도 6과 관련하여 아래 설명되는 바와 같이, 투사된 광선들은 각도 범위의 중간 값을 취할 수 있다. 이런 식으로 디스플레이 표면에 걸쳐 투사된 광선들에서 경사진 편향 각도를 갖는 것은 가시 부피(468C)를 생성한다. 또한, 이러한 구성은 측면 벽들(456, 458)로 광선을 투사하여 디스플레이의 해상도를 낭비하는 것을 방지한다.
도 4f는 방의 전면 벽(452) 상에 집합 표면(460)을 갖는 LF 디스플레이 시스템(450D)의 일 측면도를 도시한다. 이 예에서, LF 디스플레이 시스템(450E)은 전면 벽(452), 후면 벽(454), 제1 측벽(도시되지 않음), 제2 측벽(도시되지 않음), 천장(472), 및 바닥(474)을 갖는 방 안에 위치된다. 이 예에서, 바닥에는 각각의 층이 전면 벽으로부터 후면 벽으로 이동함에 따라 계단 상승하도록 층이 형성된다. 여기서, 바닥의 각각의 층은 가시 서브 부피(예를 들어, 가시 서브 부피(470A 및 470B))를 포함한다. 계단형 바닥은 가시 서브 부피들이 오버랩되지 않게 한다. 즉, 각각의 가시 서브 부피는 해당 가시 서브 부피로부터, 다른 가시 서브 부피를 통과하지 않는 집합 표면(460)으로의 시야 라인(line of sight)을 갖는다. 즉, 이러한 배향은, 계단들 사이의 수직 오프셋이, 각각의 계단이 다른 계단들의 가시 서브 부피들 "너머를 볼 수 있게" 하는 방해되지 않는 시야 라인을 허용하는, "스타디움 좌석" 효과를 생성한다. 오버랩되지 않는 가시 서브 부피들을 포함하는 LF 디스플레이 시스템들은 오버랩되는 가시 부피들을 갖는 LF 디스플레이 시스템들보다 더 높은 품질의 가시 경험을 제공할 수 있다. 예를 들어, 도 4f에 도시된 구성에서, 가시 서브 부피들(470A 및 470B)의 관찰자들에게 상이한 홀로그래픽 콘텐츠가 투사될 수 있다.
LF 디스플레이 시스템의 제어
도 5a는 하나 이상의 실시예들에 따른, LF 디스플레이 시스템(500)의 블록도이다. LF 디스플레이 시스템(500)은 LF 디스플레이 어셈블리(510) 및 컨트롤러(520)를 포함한다. LF 디스플레이 어셈블리(510)는 라이트필드(light field)를 투사하는 하나 이상의 LF 디스플레이 모듈들(512)을 포함한다. LF 디스플레이 모듈(512)은 다른 유형의 에너지를 투사 및/또는 감지하는 통합된 에너지 소스(들) 및/또는 에너지 센서(들)를 포함하는 소스/센서 시스템(514)을 포함할 수 있다. 컨트롤러(520)는 데이터 저장부(522), 네트워크 인터페이스(524), 및 LF 처리 엔진(530)을 포함한다. 컨트롤러(520)는 또한, 추적 모듈(526), 및 관찰자 프로파일링 모듈(528)을 포함할 수 있다. 일부 실시예들에서, LF 디스플레이 시스템(500)은 또한, 감각 피드백 시스템(570) 및 추적 시스템(580)을 포함한다. 도 1, 도 2, 도 3 및 도 4와 관련하여 설명된 LF 디스플레이 시스템들은 LF 디스플레이 시스템(500)의 실시예들이다. 다른 실시예들에서, LF 디스플레이 시스템(500)은 본원에 설명된 것들보다 더 많은 또는 더 적은 모듈들을 포함한다. 유사하게, 기능들은 본원에 설명된 것과 다른 방식으로 모듈들 및/또는 다른 엔티티들 중에 분배될 수 있다. LF 디스플레이 시스템(500)의 응용예들은 또한 도 6 내지 도 9와 관련하여 아래에서 상세히 설명된다.
LF 디스플레이 어셈블리(510)는 가시 부피 내에 위치된 관찰자들에게 보일 수 있는 홀로그래픽 객체 부피 내에 홀로그래픽 콘텐츠를 제공한다. LF 디스플레이 어셈블리(510)는 컨트롤러(520)로부터 수신된 디스플레이 명령들을 실행함으로써 홀로그래픽 콘텐츠를 제공할 수 있다. 홀로그래픽 콘텐츠는, LF 디스플레이 어셈블리(510)의 집합 표면의 전방에, LF 디스플레이 어셈블리(510)의 집합 표면 뒤에, 또는 이들의 일부 조합에 투사되는, 하나 이상의 홀로그래픽 객체들을 포함할 수 있다. 컨트롤러(520)를 이용하여 디스플레이 명령들을 생성하는 것은 이하에서 더 상세히 설명된다.
LF 디스플레이 어셈블리(510)는 LF 디스플레이 어셈블리(510)에 포함된 하나 이상의 LF 디스플레이 모듈들(예를 들면, LF 디스플레이 모듈(110), LF 디스플레이 시스템(200), 및 LF 디스플레이 모듈(300) 중 임의의 것)을 사용하여 홀로그래픽 콘텐츠를 제공한다. 편의상, 하나 이상의 LF 디스플레이 모듈들은 본원에서 LF 디스플레이 모듈(512)로 설명될 수 있다. LF 디스플레이 모듈(512)은 LF 디스플레이 어셈블리(510)를 형성하도록 타일링될 수 있다. LF 디스플레이 모듈들(512)은 다양한 이음매 없는 표면 환경들(예를 들어, 한 면, 여러 면, 프리젠테이션 공간의 벽, 만곡된 표면 등)로서 구조화될 수 있다. 즉, 타일형 LF 디스플레이 모듈들은 집합 표면을 형성한다. 전술한 바와 같이, LF 디스플레이 모듈(512)은 홀로그래픽 콘텐츠를 제공하는 에너지 장치층(예를 들어, 에너지 장치층(220)) 및 에너지 도파층(예를 들어, 에너지 도파층(240))을 포함한다. 또한, LF 디스플레이 모듈(512)은 홀로그래픽 콘텐츠를 제공할 때 에너지 장치층과 에너지 도파층 간에 에너지를 전달하는 에너지 중계층(예를 들어, 에너지 중계층(230))을 포함할 수 있다.
또한, LF 디스플레이 모듈(512)은 전술한 바와 같이 에너지 투사 및/또는 에너지 감지를 위해 구성된 다른 통합 시스템들을 포함할 수 있다. 예를 들어, 라이트필드 디스플레이 모듈(512)은 에너지를 투사 및/또는 감지하도록 구성된 임의의 수의 에너지 장치들(예를 들어, 에너지 장치(340))을 포함할 수 있다. 편의상, LF 디스플레이 모듈(512)의 통합된 에너지 투사 시스템들 및 통합된 에너지 감지 시스템들은, 본원에서 집합적으로, 소스/센서 시스템(514)으로서 기술될 수 있다. 소스/센서 시스템(514)은 소스/센서 시스템(514)이 LF 디스플레이 모듈(512)과 동일한 이음매 없는 에너지 표면을 공유하도록LF 디스플레이 모듈(512) 내에 통합된다. 즉, LF 디스플레이 어셈블리(510)의 집합 표면은 LF 디스플레이 모듈(512) 및 소스/센서 모듈(514) 모두의 기능을 포함한다. 즉, 소스/센서 시스템(514)을 갖는 LF 디스플레이 모듈(512)을 포함하는 LF 어셈블리(510)는 라이트필드를 투사하면서 동시에 에너지를 투사 및/또는 감지할 수 있다. 예를 들어, LF 디스플레이 어셈블리(510)는 전술한 바와 같이 듀얼-에너지 표면 또는 양방향 에너지 표면으로서 구성된 LF 디스플레이 모듈(512) 및 소스/센서 시스템(514)을 포함할 수 있다.
일부 실시예들에서, LF 디스플레이 시스템(500)은 감각 피드백 시스템(570)을 이용하여, 생성된 홀로그래픽 콘텐츠를 다른 감각 콘텐츠(예를 들어, 조정된 촉각, 청각, 또는 후각)로 증강한다. 감각 피드백 시스템(570)은 컨트롤러(520)로부터 수신된 디스플레이 명령들을 실행함으로써 홀로그래픽 콘텐츠의 투사를 증강시킬 수 있다. 일반적으로, 감각 피드백 시스템(570)은 LF 디스플레이 어셈블리(510)(예를 들어, 감각 피드백 시스템(442)) 외부에 있는 임의의 개수의 감각 피드백 장치를 포함한다. 일부 예시적인 감각 피드백 장치들은 조정된 음향 투사 및 수신 장치, 방향제 투사 장치, 온도 조절 장치, 힘 작동 장치, 압력 센서, 변환기 등을 포함할 수 있다. 일부 경우에, 감각 피드백 시스템(570)은 라이트필드 디스플레이 어셈블리(510)와 유사한 기능을 가질 수 있고, 그 반대도 가능하다. 예를 들어, 감각 피드백 시스템(570) 및 라이트필드 디스플레이 어셈블리(510) 모두는 소리 필드를 생성하도록 구성될 수 있다. 또 다른 예로서, 감각 피드백 시스템(570)은, 라이트필드 디스플레이(510) 어셈블리가 햅틱 표면을 생성하도록 구성되지 않는 동안, 햅틱 표면을 생성하도록 구성될 수 있다.
예를 들어, 라이트필드 디스플레이 시스템(500)의 예시적인 실시예에서, 감각 피드백 시스템(570)은 하나 이상의 음향 투사 장치들을 포함할 수 있다. 하나 이상의 음향 투사 장치들은 컨트롤러(520)로부터 수신된 디스플레이 명령들을 실행할 때 홀로그래픽 콘텐츠를 보완하는 하나 이상의 압력파들을 생성하도록 구성된다. 생성된 압력파들은 예를 들어, 가청(소리의 경우), 초음파(터치의 경우), 또는 이들의 일부 조합일 수 있다. 유사하게, 감각 피드백 시스템(570)은 방향제 투사 장치를 포함할 수 있다. 방향제 투사 장치는 컨트롤러로부터 수신된 디스플레이 명령들을 실행할 때 타겟 영역의 일부 또는 전부에 향기를 제공하도록 구성될 수 있다. 방향제 장치들은 공기 순환 시스템(예를 들어, 덕트, 팬(fan), 또는 벤트)에 연결되어 타겟 영역 내의 기류를 조정할 수 있다. 또한, 감각 피드백 시스템(570)은 온도 조절 장치를 포함할 수 있다. 온도 조절 장치는 컨트롤러(520)로부터 수신된 디스플레이 명령들을 실행할 때 타겟 영역의 일부 또는 전부에서 온도를 증가 또는 감소시키도록 구성된다.
일부 실시예들에서, 감각 피드백 시스템(570)은 LF 디스플레이 시스템(500)의 관찰자들로부터 입력을 수신하도록 구성된다. 이러한 경우에, 감각 피드백 시스템(570)은 관찰자들로부터 입력을 수신하기 위한 다양한 감각 피드백 장치들을 포함한다. 감각 피드백 장치들은 음향 수신 장치들(예를 들어, 마이크), 압력 센서, 조이스틱, 모션 검출기, 트랜스듀서 등과 같은 장치를 포함할 수 있다. 감각 피드백 시스템은 홀로그래픽 콘텐츠 및/또는 감각 피드백을 조정하기 위해 검출된 입력을 컨트롤러(520)에 전송할 수 있다.
예를 들어, 라이트필드 디스플레이 어셈블리의 예시적인 실시예에서, 감각 피드백 시스템(570)은 마이크를 포함한다. 마이크는 하나 이상의 관찰자들에 의해 생성된 오디오(예를 들어, 구두 명령, 대화, 숨 막힘, 비명, 웃음 등)를 녹음하도록 구성된다. 감각 피드백 시스템(570)은 녹음된 오디오를 관찰자 입력으로서 컨트롤러(520)에 제공한다. 컨트롤러(520)는 홀로그래픽 콘텐츠를 생성하기 위해 관찰자 입력을 사용할 수 있다. 유사하게, 감각 피드백 시스템(570)은 압력 센서를 포함할 수 있다. 압력 센서는 관찰자에 의해 압력 센서로 인가되는 힘을 측정하도록 구성된다. 감각 피드백 시스템(570)은 측정된 힘을 관찰자 입력으로서 컨트롤러(520)에 제공할 수 있다.
일부 실시예들에서, LF 디스플레이 시스템(500)은 추적 시스템(580)을 포함한다. 추적 시스템(580)은 타겟 영역 내의 관찰자들의 위치, 이동 및/또는 특성들을 결정하도록 구성된 임의의 수의 추적 장치들을 포함한다. 일반적으로, 추적 장치들은 LF 디스플레이 어셈블리(510)의 외부에 있다. 일부 예시적인 추적 장치들은 카메라 어셈블리("카메라"), 깊이 센서, 구조화된 광, LIDAR 시스템, 카드 스캐닝 시스템, 또는 타겟 영역 내의 관찰자를 추적할 수 있는 임의의 다른 추적 장치를 포함한다.
추적 시스템(580)은 타겟 영역의 일부 또는 전부에 빛을 비추는 하나 이상의 에너지 소스들을 포함할 수 있다. 그러나, 일부 경우에, 타겟 영역은 홀로그래픽 콘텐츠를 제공할 때 LF 디스플레이 어셈블리(510)로부터의 자연 광 및/또는 주변광으로 조명된다. 에너지 소스는 컨트롤러(520)로부터 수신된 명령들을 실행할 때 광을 투사한다. 광은 예를 들어, 구조화된 광 패턴, 빛의 펄스(예를 들어, IR 플래시), 또는 이들의 일부 조합일 수 있다. 추적 시스템은 가시 대역(~380 nm 내지 750 nm), 적외선(IR) 대역(~750 nm 내지 1700 nm), 자외선 대역(10 nm 내지 380 nm), 전자기 스펙트럼의 일부 다른 부분, 또는 이들의 일부 조합의 광을 투사할 수 있다. 소스는 예를 들어, 발광 다이오드(LED), 마이크로 LED, 레이저 다이오드, TOF 깊이 센서, 튜닝가능한 레이저 등을 포함할 수 있다.
추적 시스템(580)은 컨트롤러(520)로부터 수신된 명령들을 실행할 때 하나 이상의 방출 파라미터를 조절할 수 있다. 방출 파라미터는 추적 시스템(580)의 소스로부터 광이 어떻게 투사되는지에 영향을 주는 파라미터이다. 방출 파라미터는 예를 들어, 밝기, 펄스 속도(연속적인 조명을 포함하기 위함), 파장, 펄스 길이, 광이 소스 어셈블리로부터 어떻게 투사되는지에 영향을 주는 일부 다른 파라미터, 또는 이들의 일부 조합을 포함할 수 있다. 일 실시예에서, 소스는 비행 시간(time-of-flight) 동작으로 광의 펄스들을 투사한다.
추적 시스템(580)의 카메라는 타겟 영역으로부터 반사된 광(예를 들어, 구조화된 광 패턴)의 이미지들을 캡처한다. 카메라는 컨트롤러(520)로부터 수신된 추적 명령들을 실행할 때 이미지들을 캡처한다. 전술한 바와 같이, 광은 추적 시스템(580)의 소스에 의해 투사될 수 있다. 카메라는 하나 이상의 카메라들을 포함할 수 있다. 즉, 카메라는 예를 들어, 포토다이오드들의 어레이(1D 또는 2D), CCD 센서, CMOS 센서, 추적 시스템(580)에 의해 광 투사의 일부 또는 전부를 검출하는 일부 다른 장치, 또는 이들의 일부 조합일 수 있다. 일 실시예에서, 추적 시스템(580)은 LF 디스플레이 어셈블리(510)의 외부에 있는 라이트필드 카메라를 포함할 수 있다. 다른 실시예들에서, 카메라들은 LF 디스플레이 어셈블리(510)에 포함된 LF 디스플레이 소스/센서 모듈(514)의 일부로서 포함된다. 예를 들어, 전술한 바와 같이, 라이트필드 모듈(512)의 에너지 중계 요소가 에너지 장치층(220)에서 발광 디스플레이 및 이미징 센서 모두를 인터리빙하는 양방향 에너지 층인 경우, LF 디스플레이 어셈블리(510)는 라이트필드를 투사하고 동시에 디스플레이 전방의 가시 영역으로부터의 이미징 정보를 기록하도록 구성될 수 있다. 일 실시예에서, 양방향 에너지 표면으로부터의 캡처된 이미지들은 라이트필드 카메라를 형성한다. 카메라는 캡처된 이미지들을 컨트롤러(520)에 제공한다.
추적 시스템(580)의 카메라는 컨트롤러(520)로부터 수신된 추적 명령들을 실행할 때 하나 이상의 이미징 파라미터들을 조절할 수 있다. 이미징 파라미터는 카메라가 이미지를 어떻게 캡처하는지에 영향을 주는 파라미터이다. 이미징 파라미터는 예를 들어, 프레임 레이트, 구경(aperture), 이득, 노출 길이, 프레임 타이밍, 롤링 셔터 또는 전역 셔터 캡처 모드들, 카메라가 이미지들을 어떻게 캡처하는지에 영향을 주는 일부 다른 파라미터, 또는 이들의 일부 조합을 포함할 수 있다.
컨트롤러(520)는 LF 디스플레이 어셈블리(510) 및 LF 디스플레이 시스템(500)의 임의의 다른 구성요소를 제어한다. 컨트롤러(520)는 데이터 저장부(522), 네트워크 인터페이스(524), 추적 모듈(526), 관찰자 프로파일링 모듈(528), 및 라이트필드 처리 엔진(530)을 포함한다. 다른 실시예들에서, 컨트롤러(520)는 본원에 설명된 것들보다 더 많은 또는 더 적은 모듈들을 포함한다. 유사하게, 기능들은 본원에 설명된 것과 다른 방식으로 모듈들 및/또는 다른 엔티티들 중에 분배될 수 있다. 예를 들어, 추적 모듈(526)은 LF 디스플레이 어셈블리(510) 또는 추적 시스템(580)의 일부일 수 있다.
데이터 저장부(522)는 LF 디스플레이 시스템(500)에 대한 정보를 저장하는 메모리이다. 저장되는 정보는 디스플레이 명령들, 추적 명령들, 방출 파라미터들, 이미징 파라미터들, 타겟 영역의 가상 모델, 추적 정보, 카메라에 의해 캡처된 이미지들, 하나 이상의 관찰자 프로파일들, 라이트필드 디스플레이 어셈블리(510)를 위한 보정 데이터, LF 모듈들(512)의 해상도 및 배향을 포함하는 LF 디스플레이 시스템(510)을 위한 구성 데이터, 원하는 가시 부피 기하학, 3D 모델들, 장면들 및 환경들을 포함하는 그래픽 생성을 위한 콘텐츠, 재료들 및 텍스쳐들, LF 디스플레이 시스템(500)에 의해 사용될 수 있는 다른 정보, 또는 이들의 일부 조합을 포함할 수 있다. 데이터 저장부(522)는 읽기 전용 메모리(ROM), 동적 랜덤 접근 메모리(DRAM), 정적 랜덤 접근 메모리(SRAM), 또는 이들의 몇몇 조합과 같은 메모리이다.
네트워크 인터페이스(524)는 라이트필드 디스플레이 시스템이 네트워크를 통해 다른 시스템들 또는 환경들과 통신하게 한다. 일 예에서, LF 디스플레이 시스템(500)은 네트워크 인터페이스(524)를 통해 원격 라이트필드 디스플레이 시스템으로부터 홀로그래픽 콘텐츠를 수신한다. 다른 예에서, LF 디스플레이 시스템(500)은 네트워크 인터페이스(524)를 사용하여 홀로그래픽 콘텐츠를 원격 데이터 저장부에 전송한다.
추적 모듈(526)은 LF 디스플레이 시스템(500)에 의해 제공되는 콘텐츠를 관찰하는 관찰자들을 추적한다. 이를 위해, 추적 모듈(526)은 추적 시스템(580)의 소스(들) 및/또는 카메라(들)의 동작을 제어하는 추적 명령들을 생성하고, 추적 시스템(580)에 추적 명령들을 제공한다. 추적 시스템(580)은 추적 명령들을 실행하고 추적 모듈(526)에 추적 입력을 제공한다.
추적 모듈(526)은 타겟 영역 내의 하나 이상의 관찰자들(예를 들어, 프리젠테이션 공간의 좌석에 앉아 있음)의 위치를 결정할 수 있다. 결정된 위치는 예를 들어, 일부 기준점(예를 들어, 디스플레이 표면)에 대해 상대적일 수 있다. 다른 실시예들에서, 결정된 위치는 타겟 영역의 가상 모델 내에 있을 수 있다. 추적되는 위치는, 예를 들어, 관찰자의 추적된 위치 및/또는 관찰자의 일 부분의 추적된 위치(예를 들어, 눈 위치, 손 위치 등)일 수 있다. 추적 모듈(526)은 추적 시스템(580)의 카메라들로부터 하나 이상의 캡처된 이미지들을 사용하여 위치를 결정한다. 추적 시스템(580)의 카메라들은 LF 디스플레이 시스템(500) 주위에 분포될 수 있고, 스테레오 내의 이미지들을 캡처할 수 있으며, 추적 모듈(526)이 관찰자들을 수동적으로 추적할 수 있게 한다. 다른 실시예들에서, 추적 모듈(526)은 관찰자들을 능동적으로 추적한다. 즉, 추적 시스템(580)은 타겟 영역의 일부 부분을 비추고, 타겟 영역을 이미징하며, 추적 모듈(526)은 비행시간 및/또는 구조화된 광 깊이 결정 기술들을 이용하여 위치를 결정한다. 추적 모듈(526)은 결정된 위치들을 이용하여 추적 정보를 생성한다.
추적 모듈(526)은 또한, LF 디스플레이 시스템(500)의 관찰자들로부터의 입력들로서 추적 정보를 수신할 수 있다. 추적 정보는 관찰자가 LF 디스플레이 시스템(500)에 의해 제공되는 다양한 입력 옵션들에 대응하는 신체 움직임들을 포함할 수 있다. 예를 들어, 추적 모듈(526)은 관찰자의 신체 움직임을 추적하고, LF 처리 엔진(530)에 대한 입력으로서 임의의 다양한 이동을 할당할 수 있다. 추적 모듈(526)은 추적 정보를 데이터 저장부(522), LF 처리 엔진(530), 관찰자 프로파일링 모듈(528), LF 디스플레이 시스템(500)의 임의의 다른 구성요소, 또는 이들의 일부 조합에 제공할 수 있다.
추적 모듈(526)에 대한 맥락을 제공하기 위해, 어느 팀이 기지를 파괴함으로써 적 팀을 패배시키는 비디오 게임을 디스플레이하는 LF 디스플레이 시스템(500)의 예시적인 실시예를 고려한다. 해당 콘텐츠에 반응하여, 관찰자는 흥분을 나타내기 위해 주먹을 뻗어 올린다. 추적 시스템(580)은 관찰자의 손의 움직임을 기록하고, 이 기록을 추적 모듈(526)에 전송할 수 있다. 이것은 라이트필드 디스플레이 어셈블리(510)의 외부에 있는 카메라, 깊이 센서, 또는 다른 장치들로 구성된 추적 시스템(580)으로 달성되거나, 광 필드 이미지를 투사하고 동시에 이미지를 기록하는 디스플레이 표면으로 달성될 수 있으며, 여기서 디스플레이 표면으로부터 기록된 이미지는 전술한 바와 같이, 광 필드 이미지, 또는 이들 장치의 임의의 조합일 수 있다. 추적 모듈(526)은 이 기록에서 관찰자의 손의 움직임을 추적하고, 해당 입력을 LF 처리 엔진(530)으로 전송한다. 후술하는 바와 같이, 관찰자 프로파일링 모듈(528)은 관찰자의 손의 움직임이 긍정 반응과 연관되어 있는 것으로 이미지 내의 정보가 나타내는 것으로 결정한다. 따라서, 충분한 관찰자들이 긍정 반응을 갖는 것으로 인식되는 경우, LF 처리 엔진(530)은 승리를 기념하기 위해 적절한 홀로그래픽 콘텐츠를 생성한다. 예를 들어, LF 처리 엔진(530)은 해당 장면에서 컨페티(confetti)를 투사할 수 있다.
LF 디스플레이 시스템(500)은 관찰자들을 식별하고 프로파일링하도록 구성된 관찰자 프로파일링 모듈(528)을 포함한다. 관찰자 프로파일링 모듈(528)은 LF 디스플레이 시스템(500)에 의해 디스플레이되는 홀로그래픽 콘텐츠를 관찰하는 관찰자(또는 관찰자들)의 프로파일을 생성한다. 관찰자 프로파일링 모듈(528)은 관찰자 입력 및 모니터링된 관찰자 행동, 동작, 및 반응에 부분적으로 기초하여 관찰자 프로파일을 생성한다. 관찰자 프로파일링 모듈(528)은 추적 시스템(580)(예를 들어, 기록된 이미지, 비디오, 소리 등)으로부터 획득된 정보에 접근하고, 해당 정보를 처리하여 다양한 정보를 결정할 수 있다. 다양한 예들에서, 관찰자 프로파일링 모듈(528)은 관찰자 행동, 동작들, 및 반응들을 결정하기 위해 임의의 수의 머신 비전 알고리즘 또는 머신 히어링(hearing) 알고리즘을 사용할 수 있다. 모니터링된 관찰자 행동은, 예를 들어, 미소, 응원, 박수, 웃음, 두려움, 비명, 흥분 레벨, 움츠림, 제스처의 다른 변화, 또는 관찰자들의 움직임 등을 포함할 수 있다.
보다 일반적으로, 관찰자 프로파일은 LF 디스플레이 시스템으로부터의 홀로그래픽 콘텐츠를 보는 관찰자에 대해 수신 및/또는 결정된 임의의 정보를 포함할 수 있다. 예를 들어, 각각의 관찰자 프로파일은 LF 디스플레이 시스템(500)에 의해 디스플레이되는 콘텐츠에 대해 해당 관찰자의 동작들 또는 반응들을 기록(log)할 수 있다. 관찰자 프로파일에 포함될 수 있는 일부 예시적인 정보는 아래에서 제공된다.
일부 실시예들에서, 관찰자 프로파일은 프리젠테이션 공간에 디스플레이되는 비디오 게임 콘텐츠(예를 들어, 팀, 콘텐츠의 유형, 결과 등)에 관하여 프리젠테이션 공간 내의 관찰자의 반응을 기술할 수 있다. 예를 들어, 관찰자 프로파일은 관찰자가 일반적으로 청색 방패 상에 있는 말 머리의 마스코트를 갖는 특정 e스포츠 팀에 대해 긍정적인 반응을 갖는다는 것을 나타낼 수 있다.
일부 실시예들에서, 관찰자 프로파일은 게임 애플리케이션을 플레이하는 플레이어를 관찰하거나 게임 애플리케이션을 관찰하는 관찰자의 특성들을 나타낼 수 있다. 예를 들어, 프레젠테이션 공간 내의 사용자는 특정 의상을 착용하고 있다. 이 경우, 관찰자 프로파일은 해당 특정 의상을 정확하게 표현하는 가상 아바타를 생성할 수 있다. 또한, 해당 특정 의상은 관찰자에 대한 일부 특징을 나타낼 수 있다. 보다 넓게, 관찰자에 대해 저장된 관찰자 특성은, 예를 들어, 나이, 성별, 인종, 의복, 프레젠테이션 공간 내의 가시 위치 등일 수 있다.
일부 실시예들에서, 관찰자 프로파일은 게임 애플리케이션 콘텐츠, 프리젠테이션 공간 특성, 또는 이들 모두와 관련한 관찰자에 대한 선호도를 나타낼 수 있다. 예를 들어, 관찰자 프로파일은 관찰자가 그들의 가족 구성원 모두에게 적합한 나이 대의 홀로그래픽 콘텐츠만을 보기를 선호함을 나타낼 수 있다. 다른 예에서, 관찰자 프로파일은 (예를 들어, 벽 위에) 홀로그래픽 콘텐츠를 디스플레이하기 위한 홀로그래픽 객체 부피들 및 (예를 들어, 그들의 머리 위에) 홀로그래픽 콘텐츠를 디스플레이하지 않기 위한 홀로그래픽 객체 부피들을 나타낼 수 있다. 관찰자 프로파일은 또한 관찰자가 그들 가까이에 제공된 햅틱 인터페이스를 선호하거나, 이들을 회피하는 것을 선호함을 나타낼 수 있다.
다른 예에서, 관찰자 프로파일은 특정 관찰자에 대한 게임 애플리케이션의 이력을 나타낸다. 예를 들어, 관찰자 프로파일링 모듈(528)은 관찰자, 또는 관찰자들의 그룹이 이전에 게임 애플리케이션을 실행했다고 결정한다. 이러한 LF 디스플레이 시스템(500)은 게임 애플리케이션을 실행하는 동안 취해진 이전의 액션들을 참조하는 홀로그래픽 콘텐츠를 디스플레이할 수 있다. 일 예로서, 홀로그래픽 콘텐츠를 포함하는 게임 애플리케이션은 승리를 트리거하는데 어려움을 증가시키는 일련의 4개의 미션들을 포함할 수 있다. 관찰자 프로파일은 관찰자가 이전 4개의 미션들 중 두 개를 완료했음을 표시한다. 이에 따라, 게임 애플리케이션은 관찰자들에게 제3 미션을 위한 홀로그래픽 비디오 게임 콘텐츠를 제공한다. 비디오 게임 콘텐츠는 제1 또는 제2 미션에서 취해진 동작들을 참조할 수 있다.
일부 실시예들에서, 관찰자 프로파일은 또한 특정 관찰자가 아니라 관찰자들의 그룹에 대한 특성들 및 선호도들을 기술할 수 있다. 예를 들어, 관찰자 프로파일링 모듈(528)은 프리젠테이션 공간 내에서 게임 애플리케이션에 의해 생성된 비디오 게임 콘텐츠를 관찰하는 관찰자들에 대한 관찰자 프로파일을 생성할 수 있다. 일 예에서, 관찰자 프로파일링 모듈(528)은 게임 애플리케이션의 경기를 방송하는 e스포츠 이벤트를 관찰하는 관찰자들에 대한 관찰자 프로파일을 생성한다. 이 프로파일은 관찰자들의 54.3%가 20세에서 35세 사이의 남성이며, 게임 애플리케이션에 대해 긍정적인 반응을 보이고 있는 것을 나타낸다. 또한, 프로파일은 관찰자들의 나머지 46.7%가 게임 애플리케이션에 대해 그저 그런 반응을 갖고 있다는 것을 나타낸다. 전술한 정보 및 특성들 중 임의의 것이 관찰자들의 그룹에 적용될 수 있다.
관찰자 프로파일링 모듈(528)은 또한 관찰자 프로파일을 구현하기 위해 제3자 시스템(또는 시스템들)으로부터 특정 관찰자(또는 관찰자들)와 연관된 프로파일에 접근할 수 있다. 예를 들어, 관찰자는 해당 관찰자의 소셜 미디어 계정에 링크된 제3자 벤더를 사용하여 e스포츠 이벤트에 대한 티켓을 구매한다. 관찰자가 티켓을 사용하여 게임 애플리케이션을 위한 프리젠테이션 공간에 들어갈 때, 관찰자 프로파일링 모듈(528)은 관찰자 프로파일을 생성(또는 증강)하기 위해 그의 소셜 미디어 계정으로부터의 정보에 접근할 수 있다.
일부 실시예들에서, 데이터 저장부(522)는 관찰자 프로파일링 모듈(528)에 의해 생성되고, 업데이트되고, 및/또는 유지되는 관찰자 프로파일들을 저장하는 관찰자 프로파일 저장부를 포함한다. 관찰자 프로파일은 관찰자 프로파일링 모듈(528)에 의해 임의의 시간에 데이터 저장부에서 업데이트될 수 있다. 예를 들어, 일 실시예에서, 관찰자 프로파일 저장부는 특정 관찰자가 LF 디스플레이 시스템(500)에 의해 제공되는 홀로그래픽 콘텐츠를 볼 때 그들의 관찰자 프로파일에 있는 특정 관찰자에 관한 정보를 수신 및 저장한다. 이 예에서, 관찰자 프로파일링 모듈(528)은 관찰자들을 인식할 수 있는 얼굴 인식 알고리즘을 포함하고, 그들이 제공된 홀로그래픽 콘텐츠를 볼 때 그들을 긍정적으로(positively) 식별할 수 있다. 예를 들어, 관찰자가 LF 디스플레이 시스템(500)의 타겟 영역에 진입함에 따라, 추적 시스템(580)은 관찰자의 이미지를 획득한다. 관찰자 프로파일링 모듈(528)은 캡처된 이미지를 입력하고, 얼굴 인식 알고리즘을 이용하여 관찰자의 얼굴을 식별한다. 식별된 얼굴은 프로파일 저장부 내의 관찰자 프로파일과 연관되며, 그에 따라, 해당 관찰자에 대해 획득된 모든 입력 정보가 그들의 프로파일에 저장될 수 있다. 관찰자 프로파일링 모듈은 또한, 관찰자를 긍정적으로 식별하기 위해 카드 식별 스캐너, 음성 식별자, 무선-주파수 식별(RFID) 칩 스캐너, 바코드 스캐너 등을 이용할 수 있다.
관찰자 프로파일링 모듈(528)이 관찰자들을 긍정적으로 식별할 수 있는 실시예들에서, 관찰자 프로파일링 모듈(528)은 LF 디스플레이 시스템(500)에 대한 각각의 관찰자의 각각의 방문을 판단할 수 있다. 그 후, 관찰자 프로파일링 모듈(528)은 각각의 관찰자에 대한 관찰자 프로파일 내의 각각의 방문의 시간 및 날짜를 저장할 수 있다. 유사하게, 관찰자 프로파일링 모듈(528)은 관찰자로부터 수신된 감각 피드백 시스템(570), 추적 시스템(580) 및/또는 LF 디스플레이 어셈블리(510)의 임의의 조합으로부터의 입력들이 발생할 때마다 그들을 저장할 수 있다. 관찰자 프로파일 시스템(528)은 또한, 이후에 관찰자 프로파일과 함께 저장될 수 있는 컨트롤러(520)의 다른 모듈들 또는 구성요소들로부터 관찰자에 관한 추가적인 정보를 수신할 수 있다. 그 후, 컨트롤러(520)의 다른 구성요소들은 또한 해당 관찰자에게 제공될 후속 콘텐츠를 결정하기 위해, 저장된 관찰자 프로파일들에 접근할 수 있다.
LF 처리 엔진(530)은, LF 디스플레이 시스템(500)에 의해 지원되는 모든 센서 도메인들에 대한 데이터뿐만 아니라, 라이트필드 데이터로 구성된 홀로그래픽 콘텐츠를 생성한다. 예를 들어, LF 처리 엔진(530)은, LF 디스플레이 어셈블리(510)에 의해 실행될 때, LF 디스플레이 어셈블리(510)로 하여금 홀로그래픽 콘텐츠를 제공하게 하는 래스터화된(rasterized) 포맷("래스터화된 데이터")으로 4D 좌표들을 생성할 수 있다. LF 처리 엔진(530)은 데이터 저장부(522)로부터 래스터화된 데이터에 접근할 수 있다. 추가적으로, LF 처리 엔진(530)은 벡터화된 데이터 세트로부터 래스터화된 데이터를 구성할 수 있다. 벡터화된 데이터는 이하에 설명된다. LF 처리 엔진(530)은 또한, 홀로그래픽 객체들을 증강시키는 감각 콘텐츠를 제공하기 위해 필요한 감각 명령들을 생성할 수 있다. 전술한 바와 같이, 감각 명령들은 LF 디스플레이 시스템(500)에 의해 실행될 때, 햅틱 표면들, 소리 필드들, 및 LF 디스플레이 시스템(500)에 의해 지원되는 다른 형태의 감각 에너지를 생성할 수 있다. LF 처리 엔진(530)은 데이터 저장부(522)로부터의 감각 명령들에 접근하거나, 감각 명령들을 구성하여 벡터화된 데이터 세트를 형성할 수 있다. 집합적으로, 4D 좌표들 및 감각 데이터는 홀로그래픽 및 감각 콘텐츠를 생성하기 위해 LF 디스플레이 시스템에 의해 실행가능한 디스플레이 명령들로서 홀로그래픽 콘텐츠를 표현한다. 보다 일반적으로, 홀로그래픽 콘텐츠는 이상적인 라이트필드 좌표들, 라이브 액션 콘텐츠, 래스터화된 데이터, 벡터화된 데이터, 중계부들의 세트에 의해 전송된 전자기 에너지, 에너지 장치들의 그룹에 전송된 명령들, 하나 이상의 에너지 표면들 상의 에너지 위치들, 디스플레이 표면으로부터 투사되는 에너지 전파 경로들의 세트, 관찰자 또는 관중에게 보이는 홀로그래픽 객체, 및 다른 많은 유사한 형태들을 갖는 CG 콘텐츠의 형태를 취할 수 있다.
LF 디스플레이 시스템(500) 내의 다양한 에너지 소스들을 통한 에너지의 흐름을 기술하는 래스터화된 데이터의 양은 매우 크다. 데이터 저장부(522)로부터 접근될 때 LF 디스플레이 시스템(500) 상에 래스터화된 데이터를 디스플레이할 수 있지만, LF 디스플레이 시스템(500) 상에서 효율적으로 전송하고 수신하며(예를 들어, 네트워크 인터페이스(524)를 통해), 이어서 래스터화된 데이터를 디스플레이할 수는 없다. 예를 들어, LF 디스플레이 시스템(500)에 의한 홀로그래픽 투사를 위한 게임 애플리케이션에 의해 생성된 소량의 데이터를 나타내는 래스터화된 데이터를 예로 들 수 있다. 이 예에서, LF 디스플레이 시스템(500)은 수 기가비트 픽셀들을 포함하는 디스플레이를 포함하고, 래스터화된 데이터는 디스플레이 상의 각각의 픽셀 위치에 대한 정보를 포함한다. 래스터화된 데이터의 대응하는 크기는 방대하며(예를 들어, 홀로그래픽 콘텐츠의 초당 수 기가바이트), 네트워크 인터페이스(524)를 통해 상용 네트워크 상에서 효율적으로 전송되도록 관리될 수 없다. 효율적인 전송의 문제는 홀로그래픽 콘텐츠의 라이브 스트리밍을 포함하는 응용들에서 증폭될 수 있다. 데이터 저장부(522) 상에 래스터화된 데이터를 단지 저장하는 추가적인 문제점은, 감각 피드백 시스템(570) 또는 추적 모듈(526)로부터의 입력들을 이용하여 반응형 경험이 요구될 때 발생한다. 반응형 경험을 가능하게 하기 위해, LF 처리 엔진(530)에 의해 생성된 라이트필드 콘텐츠는 감각 또는 추적 입력에 응답하여 실시간으로 변경될 수 있다. 즉, 일부 경우에, LF 콘텐츠는 단순히 데이터 저장부(522)로부터 판독되지 못할 수 있다.
따라서, 일부 구성들에서, LF 디스플레이 시스템(500)에 의해 디스플레이하기 위한 홀로그래픽 콘텐츠를 나타내는 데이터는 벡터화된 데이터 포맷("벡터화된 데이터")으로 LF 처리 엔진(530)에 전송될 수 있다. 벡터화된 데이터는 래스터화된 데이터보다 여러 배(order)만큼 더 작을 수 있다. 또한, 벡터화된 데이터는 데이터의 효율적인 공유를 가능하게 하는 데이터 세트 크기를 가지면서 높은 이미지 품질을 제공한다. 예를 들어, 벡터화된 데이터는 보다 밀도 높은 데이터 세트로부터 도출된 희소 데이터 세트일 수 있다. 따라서, 벡터화된 데이터는, 조밀한 래스터화된 데이터로부터 얼마나 희소한 벡터화된 데이터가 샘플링되는지에 기초하여, 이미지 품질과 데이터 전송 크기 사이에 조정 가능한 균형을 가질 수 있다. 벡터화된 데이터를 생성하기 위한 조정 가능한 샘플링은 주어진 네트워크 속도에 대한 이미지 품질의 최적화를 가능하게 한다. 결과적으로, 벡터화된 데이터는 네트워크 인터페이스(524)를 통해 홀로그래픽 콘텐츠의 효율적인 전송을 가능하게 한다. 벡터화된 데이터는 또한 홀로그래픽 콘텐츠가 상용 네트워크를 통해 라이브 스트리밍될 수 있게 한다.
요약하면, LF 처리 엔진(530)은 데이터 저장부(522)로부터 접근된 래스터화된 데이터, 데이터 저장부(522)로부터 접근된 벡터화된 데이터, 또는 네트워크 인터페이스(524)를 통해 수신된 벡터화된 데이터로부터 도출된 홀로그래픽 콘텐츠를 생성할 수 있다. 다양한 구성에서, 벡터화된 데이터는 데이터 송신 전에 인코더에 의해 인코딩될 수 있고, 수신 후에 LF 컨트롤러(520) 내의 디코더에 의해 디코딩될 수 있다. 인코더 및 디코더 쌍은 동일한 전용 시스템 코덱의 일부일 수 있다. 일부 예들에서, 벡터화된 데이터는 데이터 압축과 관련된 추가된 데이터 보안 및 게임 애플리케이션 향상을 위해 인코딩된다. 예를 들어, 네트워크 인터페이스에 의해 수신된 벡터화된 데이터는 홀로그래픽 스트리밍 애플리케이션으로부터 수신된 인코딩된 벡터화된 데이터일 수 있다. 일부 예들에서, 벡터화된 데이터 내의 인코딩된 정보 콘텐츠에 접근하기 위해, 벡터화된 데이터는 디코더, LF 처리 엔진(530), 또는 이들 모두를 필요로 할 수 있다. 인코더 및/또는 디코더 시스템들은 고객들에게 이용 가능하거나 제3자 벤더들에게 라이센스 부여될 수 있다. 홀로그래픽 콘텐츠를 전송 및/또는 제공하기 위해 다른 예시적인 인코딩 및/또는 디코딩 방식들이 이용될 수 있다.
벡터화된 데이터는, 반응형 경험을 지원할 수 있는 방식으로 LF 디스플레이 시스템(500)에 의해 지원되는 각각의 감각 도메인에 대한 모든 정보를 포함한다. 예를 들어, 반응형 홀로그래픽 경험을 위한 벡터화된 데이터는 LF 디스플레이 시스템(500)에 의해 지원되는 각각의 감각 도메인에 대한 정확한 물리적 특성을 제공할 수 있는 임의의 벡터화된 속성들을 포함할 수 있다. 벡터화된 속성들은 합성적으로 프로그램되고, 캡처되며, 컴퓨터로 평가되는 등일 수 있는 임의의 속성들을 포함할 수 있다. LF 처리 엔진(530)은 벡터화된 데이터 내의 벡터화된 속성들을 래스터화된 데이터로 변환하도록 구성될 수 있다. 그 후, LF 처리 엔진(530)은 LF 디스플레이 어셈블리(510)를 사용하여, 벡터화된 데이터로부터 변환된 홀로그래픽 콘텐츠를 투사할 수 있다. 다양한 구성들에서, 벡터화된 속성들은 하나 이상의 적색/녹색/청색/알파 채널(RGBA) + 깊이 이미지, 하나의 고해상도 중심 이미지 및 더 낮은 해상도의 다른 뷰들을 포함할 수 있는 다양한 해상도에서 깊이 정보를 갖거나 갖지 않는 다중 뷰 이미지들, 알베도 및 반사도와 같은 재료 특성, 표면 법선, 다른 광학적 효과, 표면 식별, 기하학적 객체 좌표, 가상 카메라 좌표, 디스플레이 평면 위치, 조명 좌표, 표면에 대한 촉각적 강성(stiffness), 촉각적 연성, 촉각적 강도, 소리 필드의 진폭 및 좌표, 환경 조건, 텍스처에 대한 기계 수용체와 관련된 체성감각 에너지 벡터, 또는 온도, 청각 및 임의의 다른 감각 도메인 속성을 포함할 수 있다. 많은 다른 벡터화된 속성들이 또한 가능하다.
LF 디스플레이 시스템(500)은 또한, 반응형 가시 경험을 생성할 수 있다. 즉, 홀로그래픽 콘텐츠는 관찰자 위치, 제스처, 상호작용, 홀로그래픽 콘텐츠와의 상호작용, 또는 관찰자 프로파일링 모듈(528) 및/또는 추적 모듈(526)로부터 도출된 다른 정보를 포함하는 입력 자극에 응답할 수 있다. 예를 들어, 일 실시예에서, LF 처리 시스템(500)은 게임 애플리케이션에 의해 생성되고 네트워크 인터페이스(524)를 통해 수신된 실시간 비디오 게임 데이터의 벡터화된 데이터를 이용하여 반응형 가시 경험을 생성한다. 다른 예에서, 홀로그래픽 객체가 관찰자 상호작용에 응답하여 즉시 특정 방향으로 이동할 필요가 있는 경우, LF 처리 엔진(530)은 장면의 렌더링을 업데이트하여 홀로그래픽 객체가 그 요구된 방향으로 이동하게 할 수 있다. 이는 LF 처리 엔진(530)으로 하여금 관찰자 상호작용에 정확하게 응답하기 위해 벡터화된 데이터 세트를 사용하여 적절한 객체 배치 및 이동, 충돌 검출, 폐색(occlusion), 컬러, 음영, 조명 등을 갖는 3D 그래픽 장면에 기초하여 실시간으로 라이트필드를 렌더링하도록 요구할 수 있다. LF 처리 엔진(530)은 벡터화된 데이터를 LF 디스플레이 어셈블리(510)에 의한 표시를 위해 래스터화된 데이터로 변환한다. LF 디스플레이 시스템(500)은 LF 디스플레이 시스템이 근사적으로 실시간으로 홀로그래픽 콘텐츠를 제공하게 하는 다양한 다른 인코딩/디코딩 기술들을 이용할 수 있다.
래스터화된 데이터는 실시간 게임 애플리케이션 데이터를 나타내는 홀로그래픽 콘텐츠 명령들 및 감각 명령들(디스플레이 명령들)을 포함한다. LF 디스플레이 어셈블리(510)는 디스플레이 명령들을 실행함으로써 실시간 게임 애플리케이션 데이터의 홀로그래픽 및 감각 콘텐츠를 동시에 투사한다. LF 디스플레이 시스템(500)은 추적 모듈(526) 및 관찰자 프로파일링 모듈(528)을 이용하여 제공된 실시간 게임 애플리케이션 데이터와의 관찰자 상호작용(예를 들어, 음성 응답, 터치 등)을 모니터링한다. 관찰자 상호작용에 응답하여, LF 처리 엔진은 관찰자에게 디스플레이하기 위해 추가적인 홀로그래픽 및/또는 감각 콘텐츠를 생성함으로써 상호작용 경험을 생성할 수 있다.
설명을 위해, 게임 애플리케이션의 실행 중에 프리젠테이션 공간의 천장으로부터 떨어지는 풍선들을 나타내는 복수의 홀로그래픽 객체들을 생성하는, LF 처리 엔진(530)을 포함하는 LF 디스플레이 시스템(500)의 예시적인 실시예를 고려한다. 관찰자는 풍선을 나타내는 홀로그래픽 객체를 터치하기 위해 이동할 수 있다. 이에 대응하여, 추적 시스템(580)은 홀로그래픽 객체에 대한 관찰자의 손의 움직임을 추적한다. 관찰자의 움직임은 추적 시스템(580)에 의해 기록되고 컨트롤러(520)로 전송된다. 추적 모듈(526)은 관찰자의 손의 움직임을 연속적으로 판단하고 판단된 움직임들을 LF 처리 엔진(530)에 전송한다. LF 처리 엔진(530)은 장면 내의 관찰자의 손의 배치를 결정하고, 홀로그래픽 객체의 임의의 필요한 변화(위치, 색, 또는 폐색)를 포함하도록 그래픽의 실시간 렌더링을 조절한다. LF 처리 엔진(530)은 (예를 들어, 초음파 스피커를 사용하여) 부피 햅틱 투사 시스템을 사용하여 촉각 표면을 생성하도록 LF 디스플레이 어셈블리(510)(및/또는 감각 피드백 시스템(570))에 명령한다. 생성된 촉각 표면은 홀로그래픽 객체의 적어도 일부에 대응하고, 홀로그래픽 객체의 외부 표면의 일부 또는 전부와 실질적으로 동일한 공간을 점유한다. LF 처리 엔진(530)은 추적 정보를 사용하여, 관찰자가 풍선을 터치하는 시각적 및 촉각적 감각 모두를 인지하도록, 렌더링된 홀로그래픽 객체의 위치와 함께 촉각 표면의 위치를 이동시키도록 LF 디스플레이 어셈블리(510)에 동적으로 명령한다. 보다 단순하게, 관찰자가 자신의 손이 홀로그래픽 풍선을 터치하는 것을 볼 때, 관찰자는 그들의 손이 홀로그래픽 풍선을 터치하는 것을 나타내는 햅틱 피드백을 느끼고, 동시에 풍선은 터치에 응답하여 위치 또는 움직임을 변경한다. 일부 예들에서, 데이터 저장부(522)로부터 접근된 게임 애플리케이션에 의해 생성된 콘텐츠 내의 반응형 풍선을 제공하는 것이 아니라, 반응형 풍선은 네트워크 인터페이스(524)를 통해 라이브 스트리밍 애플리케이션으로부터 수신된 홀로그래픽 콘텐츠의 일부로서 수신될 수 있다. 즉, LF 디스플레이 시스템(500)에 의해 디스플레이되는 홀로그래픽 콘텐츠는 홀로그래픽 콘텐츠 라이브 스트림일 수 있다.
LF 처리 엔진(530)은 프리젠테이션 공간 경험을 증강시키기 위해 게임 애플리케이션의 실행 이전, 도중 및/또는 이후에 프리젠테이션 공간 내의 관찰자들에게 디스플레이하기 위한 홀로그래픽 콘텐츠를 제공할 수 있다. 홀로그래픽 콘텐츠는 게임 애플리케이션의 발행자에 의해, 프리젠테이션 공간에 의해, 광고주에 의해 제공되거나, LF 처리 엔진(530) 등에 의해 생성될 수 있다. 홀로그래픽 콘텐츠는 게임 애플리케이션, 게임 애플리케이션의 장르, 프리젠테이션 공간의 위치, 광고 등과 관련된 콘텐츠일 수 있다. 어느 경우에, 홀로그래픽 콘텐츠는 데이터 저장부(522)에 저장될 수 있거나, 또는 네트워크 인터페이스(524)를 통해 벡터화된 포맷으로 LF 디스플레이 시스템(500)으로 스트리밍될 수 있다. 예를 들어, 게임 애플리케이션에 의해 생성된 비디오 게임 콘텐츠는 벽 위에 LF 디스플레이 모듈들로 증강된 프리젠테이션 공간에 나타날 수 있다. 게임 애플리케이션의 배포자는 게임 애플리케이션의 실행이 시작되기 전에 벽 디스플레이 위에 홀로그램 콘텐츠를 제공할 수 있다. LF 처리 엔진(530)은 홀로그래픽 콘텐츠에 접근하고, 게임 애플리케이션의 실행이 시작되기 전에 프리젠테이션 공간의 벽 위의 디스플레이들로부터 접근된 콘텐츠를 제공한다. 다른 예에서, LF 디스플레이 시스템(500)을 갖는 프리젠테이션 공간은 샌프란시스코에 위치한다. 프리젠테이션 공간의 LF 디스플레이 시스템은 게임 애플리케이션에 특이적인 콘텐츠가 제공되지 않는 경우 게임 애플리케이션의 실행 전에 금문교의 홀로그래픽 표현을 저장하여 제공한다. 여기서, 게임 애플리케이션에 특이적인 홀로그래픽 콘텐츠가 제공되지 않았기 때문에, LF 처리 엔진(530)은 프리젠테이션 공간 내에서 금문교를 접근하고 제공한다. 다른 예에서, 광고주는 게임 애플리케이션의 실행 후에 디스플레이하기 위해 그의 제품들의 홀로그래픽 콘텐츠를 광고로서 프리젠테이션 공간에 제공하였다. 게임 애플리케이션의 실행이 종료된 후에, LF 처리 엔진(530)은 그들이 프리젠테이션 공간을 떠날 때 관찰자들에게 광고들을 제공한다. 다른 예들에서, 후술하는 바와 같이, LF 처리 엔진은 영화관의 벽들 위에 디스플레이하기 위해 홀로그래픽 콘텐츠를 동적으로 생성할 수 있다.
LF 처리 엔진(500)은 또한 홀로그래픽 콘텐츠를 제공하는 프리젠테이션 공간에 맞게 홀로그래픽 콘텐츠를 변경할 수 있다. 예를 들어, 모든 프리젠테이션 공간이 동일한 크기인 것은 아니며, 동일한 수의 좌석을 갖지는 않고, 동일한 기술적 구성을 갖지는 않는다. 이와 같이, LF 처리 엔진(530)은 프리젠테이션 공간 내에 적절히 디스플레이될 수 있도록 홀로그래픽 콘텐츠를 변경할 수 있다. 일 실시예에서, LF 처리 엔진(530)은 프리젠테이션 공간의 레이아웃, 해상도, 시야, 다른 기술 사양들 등을 포함하는 프리젠테이션 공간의 구성 파일에 접근할 수 있다. LF 처리 엔진(530)은 구성 파일에 포함된 정보에 기초하여 홀로그래픽 콘텐츠를 렌더링 및 제공할 수 있다.
LF 처리 엔진(530)은 또한, LF 디스플레이 시스템(500)에 의해 디스플레이하기 위한 홀로그래픽 콘텐츠를 생성할 수 있다. 여기서 중요한 것은, 디스플레이를 위한 홀로그래픽 콘텐츠를 생성하는 것이 디스플레이를 위한 홀로그래픽 콘텐츠에 접근하거나, 수신하는 것과는 다르다는 것이다. 즉, 콘텐츠를 생성할 때, LF 처리 엔진(530)은 이전에 생성된 및/또는 수신된 콘텐츠에 접근하는 것과 달리, 디스플레이를 위해 완전히 새로운 콘텐츠를 생성한다. LF 처리 엔진(530)은 추적 시스템(580), 감각 피드백 시스템(570), 관찰자 프로파일링 모듈(528), 추적 모듈(526), 또는 이들의 일부 조합으로부터의 정보를 이용하여, 디스플레이를 위한 홀로그래픽 콘텐츠를 생성할 수 있다. 일부 예들에서, LF 처리 엔진(530)은 LF 디스플레이 시스템(500)의 구성요소들(예를 들어, 추적 정보 및/또는 관찰자 프로파일)로부터 정보를 접근하고, 그 정보에 기초하여 홀로그래픽 콘텐츠를 생성하며, LF 디스플레이 시스템(500)을 사용하여 생성된 홀로그래픽 콘텐츠를 응답으로서 디스플레이할 수 있다. 생성된 홀로그래픽 콘텐츠는 LF 디스플레이 시스템(500)에 의해 디스플레이될 때 다른 감각 콘텐츠(예를 들어, 터치, 오디오 또는 냄새)로 증강될 수 있다. 또한, LF 디스플레이 시스템(500)은 나중에 디스플레이될 수 있도록, 생성된 홀로그래픽 콘텐츠를 저장할 수 있다.
LF 디스플레이 시스템을 위한 동적 콘텐츠 생성
일부 실시예들에서, LF 처리 엔진(530)은 LF 디스플레이 시스템(500)에 의해 디스플레이하기 위한 홀로그래픽 콘텐츠를 생성하기 위해 인공지능(artificial intelligence, AI) 모델을 포함한다. AI 모델은 회귀 모델, 신경망, 분류기, 또는 임의의 다른 AI 알고리즘을 포함하지만 이에 제한되지 않는, 지도 또는 비-지도 학습 알고리즘을 포함할 수 있다. AI 모델은, 관찰자의 행동에 대한 정보를 포함할 수 있는, LF 디스플레이 시스템(500)에 의해(예를 들어, 추적 시스템(580)에 의해) 기록된 관찰자 정보에 기초하여 관찰자 선호도를 결정하는 데에 사용될 수 있다.
AI 모델은 홀로그래픽 콘텐츠를 생성하기 위해 데이터 저장부(522)로부터의 정보에 접근할 수 있다. 예를 들어, AI 모델은 데이터 저장부(522) 내의 관찰자 프로파일 또는 프로파일들로부터 관찰자 정보에 접근할 수 있거나, 또는 LF 디스플레이 시스템(500)의 다양한 구성요소들로부터 관찰자 정보를 수신할 수 있다. 예시를 위해, AI 모델은 공연자가 나비넥타이를 매고 있는 홀로그래픽 콘텐츠를 보는 것을 즐기는 관찰자를 결정할 수 있다. AI 모델은 앞서 관람한 나비 넥타이를 착용한 배우를 포함한 홀로그래픽 콘텐츠에 대한 관찰자의 긍정 반응 또는 반응들의 그룹에 기초하여 선호도를 결정할 수 있다. 즉, AI 모델은 그러한 관찰자들의 학습된 선호도들에 따라 일 세트의 관찰자들에게 맞춘 개인화된 홀로그래픽 콘텐츠를 생성할 수 있다. 따라서, 예를 들어, AI 모델은 LF 디스플레이 시스템(500)을 사용하여 관찰자들의 그룹에 의해 관람되는 홀로그래픽 콘텐츠에 디스플레이되는 배우들을 위한 나비 넥타이들을 생성할 수 있다. AI 모델은 또한, 데이터 저장부(522)의 관찰자 프로파일 저장부 내의 각각의 관찰자의 학습된 선호도들을 저장할 수 있다. 일부 예들에서, AI 모델은 관찰자들의 그룹이 아니라 개별 관찰자에 대한 홀로그래픽 콘텐츠를 생성할 수 있다.
관찰자들의 특성들을 식별하고, 반응을 식별하며, 및/또는 식별된 정보에 기초하여 홀로그래픽 콘텐츠를 생성하는 데에 사용될 수 있는 AI 모델의 일 예는 노드 계층들을 갖는 콘볼루션(convolutional) 신경망 모델이며, 여기서 현재 층의 노드들에서의 값들은 이전 층의 노드들에서의 값들의 변환이다. 모델의 변환은 현재 계층과 이전 계층을 연결하는 가중치 및 파라미터 세트를 통해 결정된다. 예를 들어, AI 모델은 5개 층의 노드들, 즉, A, B, C, D, 및 E층들을 포함할 수 있다. A층으로부터 B층으로의 변환은 함수(W1)에 의해 주어지고, B층으로부터 C층으로의 변환은 W2에 의해 주어지며, C층으로부터 D층으로의 변환은 W3에 의해 주어지고, D층으로부터 E층으로의 변환은 W4에 의해 주어진다. 일부 예들에서, 변환은 또한, 모델의 이전 계층들 사이에서 변환하는 데 사용된 가중치들 및 파라미터들의 세트를 통해 결정될 수 있다. 예를 들어, D층으로부터 E층으로의 변환 W4는 A층으로부터 B층으로의 변환 W1을 달성하기 위해 사용되는 파라미터들에 기초할 수 있다.
모델에 대한 입력은 콘볼루션 층(A) 상에 인코딩되는 시스템(580) 추적에 의해 얻어진 이미지일 수 있고, 모델의 출력은 출력 층(E)으로부터 디코딩되는 홀로그래픽 콘텐츠이다. 대안적으로 또는 추가적으로, 출력은 이미지 내의 관찰자의 결정된 특성일 수 있다. 이 예에서, AI 모델은 식별 계층(C) 내의 관찰자 특성을 나타내는 이미지 내의 잠재 정보를 식별한다. AI 모델은 이미지 내의 임의의 특성, 동작, 반응 등을 식별하기 위해 콘볼루션 층(A)의 차원을 식별 층(C)의 차원으로 감소시킨다. 일부 예들에서, AI 모델은 그 다음에 홀로그래픽 콘텐츠를 생성하기 위해 식별 층(C)의 차원을 증가시킨다.
추적 시스템(580)으로부터의 이미지는 콘볼루션 층(A)으로 인코딩된다. 콘볼루션 층(A) 내의 이미지들은 식별 층(C) 내의 다양한 특성들 및/또는 반응 정보 등과 관련될 수 있다. 이러한 요소들 간의 관련성 정보는 대응하는 계층들 간에 일 세트의 변환들을 적용하여 인출될 수 있다. 즉, AI 모델의 콘볼루션 층(A)은 인코딩된 이미지를 나타내고, 모델의 식별 층(C)은 미소짓는 관찰자를 나타낸다. 주어진 이미지 내의 미소짓는 관찰자들은, 콘볼루션 층(A)의 공간에서 이미지의 픽셀 값들에 변환들(W1 및 W2)을 적용함으로써 식별될 수 있다. 변환들을 위한 가중치들 및 파라미터들은 이미지에 포함된 정보와, 미소짓는 관찰자의 식별 사이의 관계를 나타낼 수 있다. 예를 들어, 가중치들 및 파라미터들은 이미지 내의 미소짓는 관찰자를 나타내는 정보에 포함된 형상, 색상, 크기 등의 양자화(quantization)일 수 있다. 가중치들 및 파라미터들은 이력 데이터(예를 들어, 이전에 추적된 관찰자들)에 기초할 수 있다.
이미지 내의 미소짓는 관찰자들은 식별 층(C)에서 식별된다. 식별 층(C)은 이미지 내의 미소짓는 관찰자들에 대한 잠재적인 정보에 기초하여 미소짓는 관찰자들을 식별한다.
이미지 내의 미소짓는 관찰자들을 식별하는 것은 홀로그래픽 콘텐츠를 생성하는 데에 사용될 수 있다. 홀로그래픽 콘텐츠를 생성하기 위해, AI 모델은 식별 층(C)에서 시작하고, 식별 층(C) 내의 주어진 식별된 미소짓는 관찰자들의 값에 변환들(W2 및 W3)을 적용한다. 변환들로 인해 출력 층(E)에서의 노드들의 세트가 생성된다. 변환들에 대한 가중치들 및 파라미터들은 식별된 미소짓는 관찰자들 및 특정 홀로그래픽 콘텐츠 및/또는 선호도들 사이의 관계들을 나타낼 수 있다. 일부 경우에, 홀로그래픽 콘텐츠는 출력 층(E)의 노드들로부터 직접 출력되는 반면, 다른 경우에, 콘텐츠 생성 시스템은 출력 층(E)의 노드들을 홀로그래픽 콘텐츠로 디코딩한다. 예를 들어, 출력이 식별된 특성들의 세트이면, LF 처리 엔진은 그 특성들을 이용하여 홀로그래픽 콘텐츠를 생성할 수 있다.
추가적으로, AI 모델은 중간 층들로 알려진 층들을 포함할 수 있다. 중간 층들은 이미지, 특성/반응의 식별 등, 또는 홀로그래픽 콘텐츠의 생성에 대응하지 않는 층들이다. 예를 들어, 주어진 예에서, B층은 콘볼루션 층(A)과 식별 층(C) 사이의 중간 층이다. D층은 식별 층(C)과 출력 층(E) 사이의 중간 층이다. 은닉 층들은, 데이터에서 관찰되지는 않지만 특성들을 식별하고 홀로그래픽 콘텐츠를 생성할 때 이미지의 구성요소들 사이의 관계들을 지배할 수 있는 상이한 식별의 측면들에 대한 잠재적인 표현들이다. 예를 들어, 은닉 층 내의 노드는 "미소 짓고 웃는 사람들"의 공통점을 공유하는 입력 값들 및 식별 값들에 대해 강한 연결들(예를 들어, 큰 가중치 값들)을 가질 수 있다. 다른 예로서, 은닉 층 내의 다른 노드는 "소리지르고 겁먹은 사람들"의 공통점을 공유하는 입력 값들 및 식별 값들에 대해 강한 연결들을 가질 수 있다. 물론, 신경망에는 임의의 수의 연결이 존재한다. 추가적으로, 각각의 중간 층은, 예를 들어, 잔여 블록들, 콘볼루션 층들, 풀링 동작들, 연결들 건너뛰기, 뒤에 이어붙이기(concatenation) 등과 같은 기능들의 조합이다. 임의의 수의 중간 층들(B)이 식별 층에 대한 콘볼루션 층의 연결을 감소시키는 기능을 할 수 있고, 임의의 수의 중간 층들(D)이 출력 층에 대한 식별 층의 연결을 증가시키는 기능을 할 수 있다.
일 실시예에서, AI 모델은 강화 학습으로 훈련된 결정론적 방법들을 포함한다(따라서, 강화 학습 모델을 생성한다). 모델은 입력들로서 추적 시스템(580)으로부터의 측정들 및 출력들로서 생성된 홀로그래픽 콘텐츠에 대한 변화들을 사용하여 게임 애플리케이션의 실행 도중의 경험의 질을 증가시키도록 훈련된다.
강화 학습은 기계가 수치적 보상 신호를 최대화하기 위해 '무엇을 할 것인가'(상황을 동작에 어떻게 매핑하는지)를 학습하는 머신러닝 시스템이다. 학습자(예를 들어, LF 처리 엔진(530))는 어떤 동작(예를 들어, 기술된 홀로그래픽 콘텐츠를 생성)을 취하도록 지시되지 않고, 대신에 동작들을 시도하여 어떤 동작들이 가장 많은 보상을 산출하는지를 발견(예를 들어, 더 많은 사람들을 응원함으로써 홀로그래픽 콘텐츠의 품질을 증가시킴)한다. 일부 경우에, 동작들은 즉각적인 보상뿐만 아니라 그 다음 상황에도 영향을 미칠 수 있으며, 그 결과, 모든 후속 보상들에 영향을 줄 수 있다. 이러한 두 가지 특성(시행착오 검색 및 지연된 보상)은 강화 학습의 2개의 주된 특징들이다.
강화 학습은 학습 방법을 특징짓는 것이 아니라 학습 문제를 특징 지음으로써 정의된다. 기본적으로, 강화 학습 시스템은 목표를 달성하기 위해 그 환경과 상호작용하는 학습 에이전트가 직면하는 문제의 중요한 측면들을 포착한다. 즉, 공연자를 위한 노래를 생성하는 예에서, 강화 학습 시스템은 프리젠테이션 공간 내의 관찰자들에 대한 정보(예를 들어, 나이, 성향 등)를 캡처한다. 이러한 에이전트는 환경의 상태를 감지하고, 목표 또는 목표들을 달성하기 위해 상태에 영향을 주는(예를 들어, 관찰자들이 환호하는 팝송을 생성하는) 동작을 취한다. 가장 기본적인 형태에서, 강화 학습의 공식은 학습자에 대한 세 가지 측면들, 즉, 감지, 동작, 목표를 포함한다. 노래의 예를 계속하면, LF 처리 엔진(530)은 추적 시스템(580)의 센서들을 이용하여 환경의 상태를 감지하고, 환경 내의 관찰자들에게 홀로그래픽 콘텐츠를 디스플레이하며, 그 노래에 대한 관찰자들의 인지의 척도인 목표를 달성한다.
강화 학습에서 발생하는 과제들 중 하나는 탐색(exploration)과 이용(exploitation) 간의 트레이드오프이다. 시스템에서 보상을 증가시키기 위해, 강화 학습 에이전트는 과거에 시도했고 보상을 생산하는 데에 효과적인 것으로 밝혀졌던 동작들을 선호한다. 그러나 보상을 생성하는 동작들을 발견하기 위해 학습 에이전트는 이전에 선택하지 않은 동작들을 선택한다. 에이전트는 보상을 획득하기 위해 이미 알고 있는 정보를 '이용'하지만, 미래에 더 나은 동작 선택들을 하기 위해서 정보를 '탐색' 한다. 학습 에이전트는 다양한 동작들을 시도하고, 새 동작들을 시도하는 동안 최상으로 보이는 것을 점진적으로 선호한다. 확률적 태스크에서, 각각의 동작은 일반적으로, 예상되는 보상에 대한 신뢰할 수 있는 추정을 얻기 위해 여러 번 시도된다. 예를 들어, LF 처리 엔진이, 긴 시간 주기 후에 관찰자가 웃는 결과를 초래할 것을 이미 알고 있는 홀로그래픽 콘텐츠를 생성하는 경우, LF 처리 엔진은 관찰자가 웃을 때까지의 시간이 감소하도록 홀로그래픽 콘텐츠를 변경할 수 있다.
또한, 강화 학습은 불확실한 환경과 상호작용하는 목표 지향적 에이전트의 전체 문제를 고려한다. 강화 학습 에이전트는 명확한 목표를 갖고 있으며, 자신들의 환경의 측면들을 감지할 수 있고, 높은 보상(즉, 환호하는 군중)을 받을 수 있는 동작들을 선택할 수 있다. 또한, 에이전트들은 일반적으로, 그들이 직면하는 환경 주위에서 상당한 불확실성에도 불구하고 동작한다. 강화 학습이 계획을 포함하는 경우, 시스템은 환경 요소들이 어떻게 획득되고 개선되는지에 대한 질문뿐만 아니라, 계획 및 실시간 동작 선택 간의 상호작용을 해결한다. 강화 학습이 진행되도록 하려면, 중요한 하위 문제들을 분리하고 연구해야 하는데, 하위 문제들은 완벽한 반응형의 목표를 추구하는 에이전트에서 명확한 역할을 수행한다.
강화 학습 문제는 상호작용들이 처리되고 목표를 달성하기 위해 동작들이 수행되는 머신러닝 문제의 프레임을 작성하는 것이다. 학습자 및 의사 결정자는 에이전트(예를 들어, LF 처리 엔진(530))로 불린다. 에이전트 외부의 모든 것을 포함하여 상호작용하는 것은 환경(예를 들어, 프리젠테이션 공간 내의 관찰자 등)이라고 불린다. 이들 둘은 연속적으로 상호작용하며, 에이전트는 동작들(예를 들어, 홀로그래픽 콘텐츠를 생성)을 선택하고, 환경은 이러한 동작들에 응답하여 에이전트에게 새로운 상황들을 제공한다. 환경은 또한, 에이전트가 시간 경과에 따라 최대화하려고 시도하는 특별한 숫자 값인 보상을 제공한다. 특정 상황에서, 보상은 홀로그래픽 콘텐츠에 대한 관찰자의 긍정적인 반응을 최대화하도록 작용한다. 환경의 전체적인 사양은 강화 학습 문제점의 한 인스턴스인 태스크를 정의한다.
더 많은 컨텍스트를 제공하기 위해, 에이전트(예를 들어, LF 처리 엔진(530)) 및 환경은 이산적인 시간 단계들의 시퀀스, 즉, t = 0, 1, 2, 3 등의 각각에서 상호작용한다. 각각의 시간 단계 t에서, 에이전트는 환경의 상태 st의 일부 표현(예를 들어, 추적 시스템(580)으로부터의 측정치들)을 수신한다. 상태들 st는 S 내에 있고, 여기서 S는 가능한 상태들의 세트이다. 상태 st 및 시간 단계 t에 기초하여, 에이전트는 (예를 들어, 공연자가 다리찢기를 하도록 하는) 동작을 선택한다. 동작은 A(st) 내에 있으며, 여기서 A(st)는 가능한 동작들의 세트이다. 하나의 시간 상태 후에, 자신의 동작의 결과로서 부분적으로, 에이전트는 수치적 보상 rt+1을 수신한다. 상태 rt+1은 R 내에 있으며, 여기서 R은 가능한 보상들의 집합이다. 에이전트가 보상을 수신하면, 에이전트는 새로운 상태 st+1에서 선택한다.
각각의 시간 단계에서, 에이전트는 상태들로부터 각각의 가능한 동작을 선택하는 확률들로의 매핑을 구현한다. 이 매핑은 에이전트의 정책이라고 부르며, πt로 표시되는데, 여기서 πt(s, a)는 st = s인 경우에 at = a일 확률이다. 강화 학습 방법은 에이전트가 에이전트 동작들로 인해 발생한 상태들 및 보상들의 결과로서 자신의 정책을 변경하는 방법을 지시할 수 있다. 에이전트의 목표는 시간이 경과함에 따라 수신하는 총 보상의 양을 최대화하는 것이다.
이러한 강화 학습 프레임워크는 플렉시블하며, 여러 상이한 방식으로 많은 상이한 문제점들에 적용될 수 있다(예를 들어 홀로그래픽 콘텐츠의 생성). 이 프레임워크는 센서, 메모리 및 제어 장치의 세부사항이 무엇이든 간에, 목표 지향 행동을 학습하는 임의의 문제(또는 목적)가 에이전트와 그의 환경 사이를 오가는 세 개의 신호, 즉, 에이전트에 의해 행해진 선택을 나타내는 하나의 신호(동작), 선택이 이루어지는 기초를 나타내는 하나의 신호(상태), 및 에이전트의 목표를 정의하기 위한 하나의 신호(보상)로 감소될 수 있음을 제안한다.
물론, AI 모델은 임의의 개수의 머신 러닝 알고리즘을 포함할 수 있다. 사용될 수 있는 일부 다른 AI 모델들은 선형 회귀 및/또는 로지스틱 회귀, 분류 트리 및 회귀 트리, k-평균 클러스터링, 벡터 양자화, 적대적 생성 신경망 등이다. 어떤 경우든, 일반적으로, LF 처리 엔진(530)은 추적 모듈(526) 및/또는 관찰자 프로파일링 모듈(528)로부터 입력을 받고, 머신 러닝 모델은 응답으로서 홀로그래픽 콘텐츠를 생성한다. 유사하게, AI 모델은 홀로그래픽 콘텐츠의 렌더링을 지시할 수 있다.
일 예에서, LF 처리 엔진(530)은 게임 애플리케이션의 가상 캐릭터를 증강시킨다. LF 처리 엔진(530)은 데이터 저장부(522)에 저장된 관찰자 프로파일에 포함된 정보를 이용하여 가상 캐릭터를 증강시킨다. 예를 들어, 저장된 관찰자 프로파일들에 포함된 정보는 다수의 관찰자들이 모호크족들과 함께 있는 여성 전사 사제에게 끌려와 있음을 나타낸다. 이에 따라, LF 처리 엔진(530)은 LF 디스플레이 시스템(500)에 의해 주황색 모호크족과 함께 있는 여성 야만인 샤먼으로서 디스플레이되도록 가상 캐릭터를 증강시킨다. 보다 명시적으로, LF 처리 엔진(530)은 프리젠테이션 공간 내의 관찰자들의 관찰자 프로파일들에 접근한다. LF 처리 엔진(530)은 각각의 관찰자 프로파일 내의 정보를 파라미터화(예를 들어, 정량화)한다. 예를 들어, LF 처리 엔진(530)은 관찰자의 나이, 위치, 성별, 선호도 등과 같은 특성들을 정량화할 수 있다. 또한, LF 처리 엔진(530)은 관찰자 프로파일에 포함된 다른 정보를 파라미터화할 수 있다. 예를 들어, 관찰자 프로파일은 관찰자가 4명의 강한 여성 리더들을 포함하는 게임 애플리케이션을 실행하였고, 마법사 수업을 플레이하는 것을 선호하며, 일반적으로 그들의 캐릭터에 대해 미치광이 머리 스타일을 선호한다는 것을 나타낼 수 있다. 관찰자 프로파일은 이러한 경향을 정량화할 수 있다(예를 들어, 여성 선수에 대한 관찰자의 관심을 나타내는 점수를 생성함). LF 처리 엔진(530)은 입력 파라미터들에 기초하여 가상 운동선수의 특성들을 생성하도록 구성된 AI 모델(예를 들어, 신경망)에 파라미터화된 사용자 프로파일들을 입력하고, 이에 반응하여 가상 캐릭터에 대한 특성들을 수신한다. 그 후, LF 처리 엔진(530)은 신체 특징들의 세트가 주어진 운동선수를 생성하도록 구성된 AI 모델(예를 들어, 절차 생성 알고리즘)에 가상 운동선수에 대한 특징을 입력하고, 가상 여성 운동선수를 생성한다. 본 개시내용은 사용자가 게임 애플리케이션에서 제어하고 있는 엔티티로서 캐릭터들의 예를 빈번하게 사용하지만, (퍼즐게임 또는 인디 게임과 같은) 일부 게임에서, 제어된 엔티티는 감성적이지 않은 객체일 수 있다. 예를 들어, 퍼즐 게임은 홀로그래픽 비디오 게임에서 일부 3D 커서에 의해 이동된 블록들을 가질 수 있다.
LF 처리 엔진(530)은 프리젠테이션 공간에 표시되고 있는 게임 애플리케이션에 기초하여 홀로그래픽 콘텐츠를 생성할 수 있다. 예를 들어, 프리젠테이션 공간에 표시되고 있는 게임 애플리케이션은 게임 애플리케이션의 특성들을 기술하는 메타데이터의 세트와 연관될 수 있다. 메타데이터는 예를 들어, 설정, 장르, 게임 애플리케이션 유형, 테마, 제목, 플레이 시간 등을 포함할 수 있다. LF 처리 엔진(530)은 게임 애플리케이션을 기술하는 임의의 메타데이터에 접근할 수 있고, 그에 응답하여 해당 프리젠테이션 공간에 제공할 홀로그래픽 콘텐츠를 생성할 수 있다. 예를 들어, LF 디스플레이 시스템(500)으로 증강된 프레젠테이션 공간에서 재생될 게임은 "훌륭한 볼링(The Excellent Bowl)"이라는 게임 애플리케이션이다. LF 처리 엔진(530)은 게임 애플리케이션이 시작되기 전에 프리젠테이션 공간의 벽들에 대한 홀로그래픽 콘텐츠를 생성하기 위해 게임 애플리케이션의 메타데이터에 접근한다. 여기서, 메타데이터는 훌륭한 볼링에 적합한 진동 경기장 설정을 포함한다. LF 처리 엔진(530)은 메타데이터를 AI 모델로 입력하고, 이에 반응하여 프리젠테이션 공간의 벽들 위에 디스플레이하기 위해 홀로그래픽 콘텐츠를 수신한다. 이 예에서, LF 처리 엔진(530)은 게임 애플리케이션이 시작되기 전에 프리젠테이션 공간의 벽 위에 디스플레이하기 위해 해변 일몰을 생성한다.
일 예에서, LF 처리 엔진(530)은 LF 디스플레이 시스템(500)을 포함하는 프리젠테이션 공간에 존재하는 관찰자들에 기초하여 홀로그래픽 콘텐츠를 생성한다. 예를 들어, 관찰자들의 그룹은 LF 디스플레이 시스템(500)에 의해 디스플레이되는 홀로그래픽 콘텐츠에 의해 증강될 게임 애플리케이션의 e스포츠 이벤트를 보기 위해 프리젠테이션 공간에 들어간다. 관찰자 프로파일링 모듈(528)은 프리젠테이션 공간 내의 관찰자들에 대한 관찰자 프로파일, 및 프리젠테이션 공간 내의 모든 관찰자들을 나타내는 집합 관찰자 프로파일을 생성한다. LF 처리 엔진(530)은 집합 관찰자 프로파일에 접근하고, 프리젠테이션 공간 내의 관찰자들에게 디스플레이하기 위해 홀로그래픽 콘텐츠를 생성한다. 예를 들어, 프레젠테이션 공간 내의 관찰자들은 우승하기 위해 협력하는 팀을 관찰하는 e스포츠 팬들의 그룹이며, 따라서, 집합 관찰자 프로파일은 (예를 들어, AI 모델로의 파라미터 및 입력을 통해) 그들이 스포츠 팀을 위한 최고의 팬들에 대응하는 홀로그래픽 콘텐츠를 즐길 수 있음을 나타내는 정보를 포함한다. 이에 따라, LF 프로세싱 엔진(530)은 프리젠테이션 공간이 더 소란스러운 분위기(예를 들어, 스티로폼 손가락, 구호, 소음 유발자 등)가 되도록 홀로그래픽 콘텐츠를 생성한다.
일 예에서, LF 처리 엔진(530)은 게임 애플리케이션의 실행을 관찰하는 관찰자들의 반응에 기초하여 홀로그래픽 콘텐츠를 생성한다. 예를 들어, 프레젠테이션 공간 내의 관찰자들은 게임 애플리케이션에 의해 생성되고 LF 디스플레이 시스템(500)에 의해 증강된 프레젠테이션 공간에서 홀로그래픽 콘텐츠로서 제공되는 비디오 게임 데이터를 보고 있다. 추적 모듈(526) 및 관찰자 프로파일링 모듈(528)은 비디오 게임 데이터를 관찰하는 관찰자들의 반응을 모니터링한다. 예를 들어, 추적 모듈(526)은 관찰자들이 비디오 게임 데이터를 볼 때 관찰자들의 이미지들을 획득할 수 있다. 추적 모듈(526)은 관찰자를 식별하고, 관찰자 프로파일링 모듈(528)은 이미지에 포함된 정보에 기초하여 관찰자의 반응을 결정하기 위해 머신 비전 알고리즘을 사용할 수 있다. 예를 들어, AI 모델은 비디오 게임 데이터를 보는 관찰자가 미소짓고 있는지를 식별하기 위해 사용될 수 있고, 그에 따라, 관찰자 프로파일 모듈(528)은 미소에 기초하여, 비디오 게임 데이터에 대해 관찰자가 긍정적인 또는 부정적인 응답을 갖는 경우 관찰자 프로파일에 이를 나타낼 수 있다. 다른 반응이 또한 결정될 수 있다. 추적 모듈은 관찰자의 위치, 관찰자의 움직임, 관찰자의 제스처, 관찰자의 표정, 관찰자의 나이, 관찰자의 성별, 관찰자의 인종, 또는 관찰자가 착용한 옷을 포함하는 관찰자에 관한 정보를 결정할 수 있다. 이 정보는 관찰자 프로파일을 생성하기 위해 관찰자 프로파일링 모듈(528)과 공유될 수 있다.
LF 처리 엔진(530)은 이미 존재하거나 제공된 광고 콘텐츠에 기초하여 홀로그래픽 콘텐츠를 생성할 수 있다. 즉, 예를 들어, LF 처리 엔진(530)은 네트워크 인터페이스(524)를 통해 네트워크 시스템으로부터 광고를 요청할 수 있고, 네트워크 시스템은 응답으로서 홀로그래픽 콘텐츠를 제공하며, LF 처리 엔진(530)은 광고를 포함하는 디스플레이를 위한 홀로그래픽 콘텐츠를 생성한다. 광고의 일부 예들은 제품들, 텍스트들, 비디오들 등을 포함할 수 있다. 광고들은 그 가시 부피 내의 관찰자들에 기초하여 특정 가시 부피들에 제공될 수 있다. 유사하게, 홀로그래픽 콘텐츠는 광고(예를 들어, 제품 배치)로 비디오 게임 데이터를 증강시킬 수 있다. 가장 일반적으로, LF 처리 엔진(530)은 이전에 설명된 바와 같이 프리젠테이션 공간 내의 관찰자들의 특성들 및/또는 반응들 중 임의의 것에 기초하여 광고 콘텐츠를 생성할 수 있다.
콘텐츠를 생성하는 이전 실시예들은 제한적이지 않다. 가장 광범위하게, LF 처리 엔진(530)은 LF 디스플레이 시스템(500)의 관찰자들에게 디스플레이하기 위한 홀로그래픽 콘텐츠를 생성한다. 홀로그래픽 콘텐츠는 LF 디스플레이 시스템(500)에 포함된 임의의 정보에 기초하여 생성될 수 있다.
게임 네트워크
도 5b는 하나 이상의 게임 시스템들(예를 들어, 게임 시스템(560A, 560B, 560C) 등)을 포함하는, 하나 이상의 실시예들에 따른 예시적인 LF 게임 네트워크(550)를 도시한다. 각각의 게임 시스템은 LF 디스플레이 시스템(예를 들어, LF 디스플레이 시스템(500A, 500B) 등) 및 게임 애플리케이션을 포함할 수 있거나, 또는 게임 애플리케이션을 갖는 독립형 게임 시스템(예를 들어, 게임 시스템(560C))일 수 있다. LF 디스플레이 시스템은 본원에 설명된 LF 디스플레이 시스템들(예를 들어, LF 디스플레이 시스템(100, 400, 500))과 유사하게 구성될 수 있다. 게임 애플리케이션은 홀로그래픽 비디오 게임 데이터를 생성할 수 있는 비디오 게임을 실행하도록 구성된 소프트웨어의 일부이다. 일부 실시예들에서, 게임 애플리케이션은 홀로그래픽 비디오 게임 데이터 및 2D 데이터 모두를 생성할 수 있거나, 게임 애플리케이션의 개별 버전들이 있을 수 있으며, 이 버전들 중 하나만이 홀로그래픽 비디오 게임 데이터를 생성한다.
LF 디스플레이 시스템은 홀로그래픽 비디오 게임 데이터를 사용하여, 비디오 게임 데이터를 제공하기 위한 홀로그래픽 비디오 게임 콘텐츠를 생성할 수 있다. 또한, LF 게임 네트워크(550)는 게임 서버(554), 네트워크 시스템(556), 및 네트워크(552)를 포함한다. 이하 더 상세히 설명되는 바와 같이, 게임 서버는 게임을 관리하기 위해(즉, 게임 애플리케이션(590)을 관리 및/또는 조정하기 위해) 이용될 수 있다. 네트워크 시스템은 게임 애플리케이션, 비디오 게임 데이터, 및 홀로그래픽 비디오 게임 콘텐츠의 디지털 권한 및 배포를 관리하도록 구성될 수 있다. 네트워크(552)는 정보가 LF 게임 네트워크(550) 내의 엔티티들 사이에 전달될 수 있게 하는 네트워크이다. 다른 실시예들에서, LF 게임 네트워크(550)는 본원에 설명된 것들보다 더 많은 또는 더 적은 엔티티들을 포함한다. 유사하게, 기능들은 본원에 설명되는 것과는 상이한 방식으로 상이한 엔티티들 사이에 배포될 수 있다.
보다 넓게, 게임 서버(554)는 비디오 게임 데이터를 생성한다. 일부 실시예들에서, 이 비디오 게임 데이터는 홀로그래픽 비디오 게임 콘텐츠일 수 있다. 다른 실시예들에서, 게임 서버(554)는 하나 이상의 게임 애플리케이션 인스턴스들에 대한 비디오 게임을 관리한다. 게임 서버는 규칙들을 시행하고, 게임 상태를 추적하며, 그리고/또는 다수의 게임 애플리케이션들 간에 게임 상태를 동기화할 수 있다. 이러한 실시예들에서, 각각의 비디오 게임 애플리케이션(590)은 대응하는 LF 디스플레이 시스템(500A 또는 500B)에 의해 제공하기 위한 홀로그래픽 비디오 게임 콘텐츠를 생성할 수 있다. 홀로그래픽 비디오 게임 콘텐츠는 비디오 게임을 나타낼 때 LF 디스플레이 시스템에 의해 투사될 수 있는, 이벤트의 임의의 기록된 감각 데이터 또는 합성 데이터와 함께, 홀로그래픽 비디오 콘텐츠를 포함할 수 있다. 예를 들어, 감각 데이터는 기록된 오디오, 기록된 이미지, 물체들과의 기록된 상호작용 등을 포함할 수 있다. 많은 다른 유형의 감각 데이터가 사용될 수 있다. 예시를 위해, 기록된 시각적 콘텐츠는 3D 그래픽 장면, 3D 모델, 객체 배치, 텍스처, 색상, 음영, 및 조명, AI 모델을 사용하여 홀로그래픽 형태로 변환될 수 있는 2D 비디오 게임 데이터, 및 유사한 비디오 게임 변환의 대량 데이터 세트, 깊이 채널을 갖거나 갖지 않는 다수의 카메라를 갖는 카메라 장비로부터의 다중 시점 카메라 데이터, 플렌옵틱 카메라 데이터, CG 콘텐츠, 또는 본원에 설명된 바와 같은 이벤트의 기록된 감각 데이터의 다른 유형을 포함할 수 있다.
일부 구성들에서, 홀로그래픽 비디오 게임 콘텐츠는, 전술한 바와 같이 비디오 게임용 홀로그래픽 비디오 게임 콘텐츠를 벡터화된 데이터 포맷으로 감소시키는 인코딩 동작을 수행하기 위해, 전용 인코더를 통해 인코딩될 수 있다. 일부 예에서, 게임 서버(554)는, 전술한 바와 같이, 네트워크(554)를 통해 전송되기 전에, 홀로그래픽 비디오 게임 콘텐츠를 생성하고 이를 벡터화된 포맷으로 인코딩한다. 벡터화된 데이터로의 데이터 인코딩은 이미지 프로세싱, 오디오 프로세싱, 또는 네트워크(552)를 통해 전송하기 쉬운 감소된 데이터 세트를 초래할 수 있는 임의의 다른 계산들을 포함할 수 있다. 인코더는 비디오 게임 제작 산업 전문가들에 의해 사용되는 포맷들을 지원할 수 있다. 다른 구성들에서, 게임 서버(554)는 콘텐츠를 인코딩하지 않고 홀로그래픽 비디오 게임 콘텐츠를 네트워크 시스템(556) 및 또는 LF 디스플레이 시스템으로 전송할 수 있다. 다른 구성들에서, 게임 서버(554)는 보통의 비디오 게임 데이터를 비디오 게임 애플리케이션(590)에 전송하고, 비디오 게임 애플리케이션은 나중에 LF 디스플레이 시스템(500A 또는 500B)을 위한 벡터화된 포맷으로 인코딩될 수 있는 홀로그래픽 비디오 게임 데이터를 생성한다.
각각의 게임 시스템(예를 들어, 560A, 560B, 560C)은 네트워크 인터페이스(예를 들어, 네트워크 인터페이스(524))를 통해 네트워크(552)로부터 비디오 게임 데이터를 수신할 수 있다. 일부 실시예들에서, 전술한 바와 같이, 비디오 게임 데이터는, 가능하게는 벡터화된 포맷으로 인코딩되는 홀로그래픽 비디오 게임 데이터일 수 있고, 각각의 LF 디스플레이 시스템(500)의 LF 처리 엔진(530)은 인코딩된 홀로그래픽 비디오 게임 콘텐츠를 디코딩하기 위한 디코더를 포함한다. 다른 실시예들에서, 보통의 비디오 게임 데이터는 게임 애플리케이션(590)에 의해 수신되고, 게임 애플리케이션은 LF 처리 엔진(530)으로 전송되기 전에 인코딩될 수 있거나 인코딩되지 않을 수 있는 홀로그래픽 비디오 게임 데이터를 생성한다. 인코딩된 데이터를 수신하면, LF 처리 엔진(530)은 디코더에 의해 제공되는 디코딩 알고리즘들을 수신된 인코딩된 홀로그래픽 게임 콘텐츠에 적용함으로써 LF 디스플레이 어셈블리(510)에 대한 래스터화된 데이터를 생성한다. 일부 예들에서, LF 처리 엔진은 추적 모듈, 관찰자 프로파일링 모듈, 및 본원에 설명된 바와 같은 LF 디스플레이 시스템의 감각 피드백 시스템으로부터의 입력을 사용하여 LF 디스플레이 시스템을 위한 래스터화된 데이터를 추가로 생성할 수 있다. 일부 실시예들에서, LF 디스플레이 어셈블리(510)를 위해 생성된 래스터화된 데이터는 게임 서버(554)에 의해 나중에 관리되는, 게임 애플리케이션(590)에 의해 생성된 게임 콘텐츠를 재생성한다. 중요하게, 각각의 LF 디스플레이 시스템(500A 및 500B)은 게임 시스템이 위치하는 곳에 대한 기하학적 형상, 해상도 등의 관점에서 LF 디스플레이 어셈블리의 특정 구성에 적합한 래스터화된 데이터를 생성한다. 일부 구성들에서, 인코딩 및 디코딩 프로세스는 관람객들에게 디스플레이하도록 제공될 수 있거나 제3자에 의해 허가될 수 있는, 전용 인코딩/디코딩 시스템 쌍(또는 '코덱')의 일부이다. 일부 경우에, 인코딩/디코딩 시스템 쌍은 콘텐츠 제작자들에게 공통의 프로그래밍 인터페이스를 제공할 수 있는 사설 API로서 구현될 수 있다.
일부 구성들에서, LF 게임 네트워크(550) 내의 다양한 LF 게임 시스템들(560A, 560B)은 각각, 대응하는 LF 디스플레이 시스템들(500A, 500B)의 상이한 LF 디스플레이 어셈블리들(510)에 대응하는 상이한 하드웨어 구성들을 가질 수 있다. 하드웨어 구성들은 물리적 시스템, 에너지 소스, 에너지 센서, 햅틱 인터페이스, 감각 기능, 해상도, 시야, LF 디스플레이 모듈 구성, 또는 LF 게임 네트워크(550) 내의 시스템의 임의의 다른 하드웨어 사양의 배열을 포함할 수 있다. 각각의 하드웨어 구성은 상이한 데이터 포맷들로 감각 데이터를 생성하거나 이용할 수 있다. 이와 같이, 디코더 시스템은 데이터가 제공될 LF 디스플레이 시스템을 위한 인코딩된 게임 콘텐츠를 디코딩하도록 구성될 수 있다. 예를 들어, LF 게임 시스템(560A)은 대응하는 LF 디스플레이 시스템(500A)에 대한 입력으로서 홀로그래픽 게임 콘텐츠를 생성하는 게임 애플리케이션(590)을 실행한다. LF 디스플레이 시스템(500A)은 제1 하드웨어 구성을 가지며, 디코딩 시스템은 게임 시스템(560A)의 이러한 제1 하드웨어 구성을 기술하는 정보에 접근한다. 디코딩 시스템은, 디코딩된 게임 콘텐츠가 수신 LF 디스플레이 시스템(500A)의 LF 처리 엔진(530)에 의해 처리될 수 있도록, 접근된 하드웨어 구성을 사용하여 인코딩된 게임 콘텐츠를 디코딩한다. LF 처리 엔진(530)은 임의의 특정 하드웨어 구성의 해상도, 시야, 각도당 투사된 광선 등에 무관한 포맷으로 생성되었음에도 불구하고 제1 하드웨어 구성을 위한 래스터화된 게임 콘텐츠를 생성하고 제공한다. 유사한 방식으로, LF 게임 시스템(560B)의 게임 애플리케이션(590)에 의해 생성된 유사한 홀로그래픽 게임 콘텐츠는 제2 하드웨어 구성에 의해 제공될 수 있다. 일반적으로, 홀로그래픽 게임 콘텐츠는 대응하는 LF 디스플레이 시스템(500A, 500B)의 LF 디스플레이 어셈블리의 하드웨어 구성이 무엇이든 간에 임의의 게임 시스템(예를 들어, 게임 시스템(560A, 560B))을 위해 생성될 수 있다. 하드웨어 구성에 포함될 수 있는 다양한 다른 측면들은 해상도, 각도당 투사된 광선들의 수, 시야, 디스플레이 표면 상의 편향 각도, 및 디스플레이 표면의 치수 등을 포함할 수 있다. 부가적으로, 하드웨어 구성은 또한, LF 디스플레이 어셈블리의 디스플레이 패널들의 수, 디스플레이 패널들의 상대적인 방향, 디스플레이 패널들의 높이, 디스플레이 패널들의 폭, 및 디스플레이 패널들의 레이아웃을 포함할 수 있다.
유사하게, LF 게임 네트워크(550) 내의 다양한 게임 시스템들은 상이한 기하학적 방향을 가질 수 있다. 기하학적 방향은 게임 시스템의 LF 디스플레이 시스템에 포함된 다양한 모듈 및 시스템의 물리적 크기, 레이아웃 및 배열을 반영한다. 따라서, 디코더 시스템은 LF 디스플레이 시스템을 위해 인코딩된 게임 콘텐츠를 그것이 제공될 기하학적 구성으로 디코딩하도록 구성될 수 있다. 예를 들어, 제1 기하학적 구성을 갖는 LF 디스플레이 시스템(예를 들어, LF 디스플레이 시스템(500A))을 포함하는 게임 시스템(예를 들어, 게임 시스템(560A))은 임의의 특정한 기하학적 구성에 무관한 게임 콘텐츠를 생성하는 게임 서버(예를 들어, 게임 서버(554))로부터 인코딩된 게임 콘텐츠를 수신한다. 디코딩 시스템은 LF 게임 시스템(560A)의 제1 기하학적 구성을 기술하는 정보에 접근한다. 디코딩 시스템은, 디코딩된 게임 콘텐츠가 수신 LF 디스플레이 시스템(500A)의 LF 처리 엔진(530)에 의해 처리될 수 있도록, 접근된 기하학적 구성을 사용하여 인코딩된 게임 콘텐츠를 디코딩한다. LF 처리 엔진(530)은 특정 기하학적 구성에 무관한 포맷으로 기록되었음에도 불구하고 제1 기하학적 구성에 대한 콘텐츠를 생성하고 제공한다. 유사한 방식으로, 게임 서버(554)에 의해 생성된 홀로그래픽 콘텐츠는 기하학적 구성들이 무엇이든지 임의의 LF 게임 시스템(예를 들어, LF 디스플레이 시스템(560B))에 의해 제공될 수 있다. 기하학적 구성에 포함될 수 있는 다양한 다른 측면들은, LF 디스플레이 어셈블리의 디스플레이 패널들(또는 표면들)의 수, 디스플레이 패널들의 상대적 방향을 포함할 수 있다.
유사하게, LF 게임 네트워크(550) 내의 다양한 게임 디스플레이 영역 공간들은 상이한 구성을 가질 수 있다. 프리젠테이션 공간 구성은 홀로그래픽 객체 부피들의 수 및/또는 위치, 가시 부피의 수 및/또는 위치, 및 LF 디스플레이 시스템에 대한 가시 위치의 수 및/또는 위치 중 임의의 것을 반영한다. 이와 같이, 디코더 시스템은 데이터가 제공될 게임 디스플레이 영역을 위한 인코딩된 게임 콘텐츠를 디코딩하도록 구성될 수 있다. 예를 들어, 제1 게임 디스플레이 영역 공간을 갖는 LF 디스플레이 어셈블리(510)를 구비한 LF 디스플레이 시스템(예를 들어, LF 디스플레이 시스템(500A))을 갖는 게임 시스템(예를 들어, 게임 시스템(560A))은 일반적인 게임 디스플레이 영역(또는 일부 다른 공간)을 위해 생성된 게임 애플리케이션(590)으로부터의 인코딩된 게임 콘텐츠를 수신한다. 디코딩 시스템은 LF 디스플레이 시스템(500A)에 특이적인 게임 디스플레이 영역 공간을 기술하는 정보에 접근한다. 디코딩 시스템은, 디코딩된 데이터가 게임 디스플레이 영역에 내장된 LF 처리 엔진(530)에 의해 처리될 수 있도록 적절한 게임 디스플레이 영역을 위한 인코딩된 비디오 게임 콘텐츠를 디코딩한다. LF 처리 엔진(530)은 일반적인 게임 디스플레이 영역에 제공하기 위해 생성되었음에도 불구하고 해당 게임 디스플레이 영역을 위한 콘텐츠를 생성하고 제공한다.
네트워크 시스템(556)은 LF 게임 네트워크(550) 내의 시스템들 간의 게임 콘텐츠의 전송을 관리하도록 구성된 임의의 시스템이다. 예를 들어, 네트워크 시스템(556)은 게임 시스템(560A)으로부터 게임 콘텐츠에 대한 요청을 수신할 수 있고, 게임 서버(554)로부터 디스플레이 시스템(500A)으로의 게임 콘텐츠의 전송을 용이하게 할 수 있다. 네트워크 시스템(556)은 또한, LF 게임 네트워크(550) 내의 다른 게임 시스템(560)으로의 송신 및/또는 그에 저장하기 위한 게임 콘텐츠, 관찰자 프로파일, 추가적인 홀로그래픽 또는 감각 콘텐츠 등을 저장할 수 있다. 네트워크 시스템(556)은 또한 전술한 바와 같이 홀로그래픽 콘텐츠를 생성할 수 있는 LF 처리 엔진(530)을 포함할 수 있다.
네트워크 시스템(556)은 게임 콘텐츠의 디지털 저작권을 관리하기 위한 디지털 저작권 관리(digital rights management, DRM) 모듈을 포함할 수 있다. 앞서 설명된 바와 같이, 일부 경우에, 게임 서버는 하나 이상의 게임 애플리케이션들(590)과 보통의 비-홀로그래픽 게임 상태 데이터만을 교환한다. 다른 예에서, 게임 서버(554)는 홀로그래픽 콘텐츠를 네트워크 시스템(556)에 전송할 수 있고, DRM 모듈은 디지털 암호화 포맷을 사용하여 홀로그래픽 콘텐츠를 암호화할 수 있다. 다른 예들에서, 게임 서버(554)는 기록된 라이트필드 데이터를 DRM 모듈에 의해 관리될 수 있는 홀로그래픽 콘텐츠 포맷으로 인코딩한다. 네트워크 시스템(556)은, 각각의 대응하는 LF 디스플레이 시스템(500A 또는 500B)이 각각, 복호화하고 이어서 관찰자들에게 홀로그래픽 콘텐츠를 디스플레이할 수 있도록, LF 게임 시스템(560A 또는 560B)의 LF 디스플레이 시스템에 대한 디지털 암호화 키에 대한 키를 제공할 수 있다. 가장 일반적으로, 네트워크 시스템(556) 및/또는 게임 서버(554)는 비디오 게임 데이터를 인코딩하고, LF 디스플레이 시스템은 비디오 게임 데이터를 디코딩할 수 있다.
네트워크 시스템(556)은 이전에 기록된 및/또는 생성된 홀로그래픽 콘텐츠(예를 들어, 게임 콘텐츠)에 대한 저장소로서 동작할 수 있다. 홀로그래픽 콘텐츠의 각각의 조각은, 수신될 때, 네트워크 시스템(556)으로 하여금 트랜잭션 비용을 제공하는 LF 디스플레이 시스템(500)에 홀로그래픽 콘텐츠를 전송하게 하는 트랜잭션 수수료와 연관될 수 있다. 예를 들어, LF 디스플레이 시스템(500A)은 네트워크(552)를 통해 홀로그래픽 콘텐츠에 대한 접근을 요청할 수 있다. 상기 요청은 홀로그래픽 콘텐츠에 대한 트랜잭션 비용을 포함한다. 이에 응답하여, 네트워크 시스템(556)은 관찰자들에게 디스플레이하기 위한 홀로그래픽 콘텐츠를 LF 디스플레이 시스템에 전송한다. 다른 예들에서, 네트워크 시스템(556)은 또한 네트워크 시스템에 저장된 홀로그래픽 콘텐츠에 대한 가입 서비스로서 기능할 수 있다. 다른 예에서, 게임 서버(554)는 실시간으로 게임 데이터를 처리하고, 비디오 게임을 표현하는 홀로그래픽 콘텐츠를 생성한다. 게임 시스템(560A)은 게임 콘텐츠에 대한 요청을 게임 서버(554)에 전송한다. 상기 요청은 게임 콘텐츠에 대한 트랜잭션 비용을 포함한다. 이에 응답하여, 게임 서버(554)는 게임 시스템 상에 디스플레이하기 위한 게임 콘텐츠를 전송한다. 일 예로서, 게임 시스템(560A)의 사용자는 게임 애플리케이션(590)에서 그들의 캐릭터에 대한 특정한 의상에 접근하기 위해 네트워크 시스템(556)에 대한 지불을 전송할 수 있다. 보다 일반적으로, 네트워크 시스템(556)은 네트워크(552)를 통해 트랜잭션 비용을 교환하고 및/또는 홀로그래픽 콘텐츠 데이터 흐름을 관리하는 중개자로서 작용할 수 있다. 추가적으로, 일부 경우에, 네트워크 시스템은 홀로그래픽 콘텐츠를 수신하는 LF 디스플레이 시스템에 의해 제공될 수 있도록 홀로그래픽 콘텐츠를 수정할 수 있다.
일부 예들에서, 네트워크 시스템(556)은 게임 애플리케이션들을 위한 플랫폼(예를 들어, STEAM)으로서 동작할 수 있다. 이 경우에, 네트워크 시스템은 저장 파일들, 프로파일들, 디지털 저작권, 지불 정보, 게임 시스템 구성 정보 등을 저장할 수 있다. 또한, 네트워크 시스템은 게임 네트워크(550) 내의 게임 시스템들이 추가적인 게임 애플리케이션들을 접근 및 다운로드할 수 있도록 상이한 게이밍 애플리케이션들을 저장할 수 있다. 네트워크 시스템(550)은 또한, 특정 게임 애플리케이션들과 연관된 전술한 정보 중 임의의 것을 저장할 수 있다. 예를 들어, 네트워크 시스템은 네트워크 내의 특정 게임 시스템에 내장된 제1 게임 애플리케이션 및 제2 게임 애플리케이션에 대한 디지털 저작권을 저장할 수 있다. 또 다른 예에서, 네트워크 시스템은 사용자가 LF 게임 네트워크(556) 내의 상이한 게임 시스템들로부터 저장 파일들에 접근할 수 있도록 다수의 게임 애플리케이션들에 대한 저장 파일들을 저장할 수 있다.
네트워크(552)는 LF 게임 네트워크(550) 내의 시스템들 사이의 통신 경로들을 나타낸다. 일 실시예에서, 네트워크는 인터넷이지만, LAN(local area network), MAN(Metropolitan Area Network), WAN(wide area network), 모바일, 유선 또는 무선 네트워크, 클라우드 컴퓨팅 네트워크, 사설 네트워크, 또는 가상 사설 네트워크, 및 이들의 임의의 조합을 포함하지만 이에 제한되지 않는 임의의 네트워크일 수 있다. 또한, 링크들의 전부 또는 일부는 SSL(secure sockets layer), 보안 HTTP 및/또는 VPN(virtual private network)과 같은 통상적인 암호화 기술을 사용하여 암호화될 수 있다. 다른 실시예에서, 엔티티들은 전술한 것들 대신에 또는 이에 추가하여 커스텀 및/또는 전용 데이터 통신 기술들을 사용할 수 있다.
게임 네트워크의 게임 애플리케이션들
전술한 바와 같이, 게임 시스템들은 각각 대응하는 LF 디스플레이 시스템(500A, 500B)을 갖는 다양한 LF 게임 시스템들(560A, 560B)을 포함할 수 있고, 게임 시스템들은 함께 네트워킹되어 LF 게임 네트워크(550)를 형성할 수 있다. 게임 네트워크(550) 내에서, 게임 시스템들은 게임 애플리케이션들을 실행한다. 게임 애플리케이션들은 독립형 하드웨어에서 실행되거나, 또는 LF 디스플레이 시스템에 통합될 수 있다. 어느 경우든지, 게임 애플리케이션들은 사용자가 비디오 게임에 참여할 수 있게 하는 소프트웨어 프로그램들이다. 비디오 게임은, 예를 들어, 시뮬레이션, 전략, 서바이벌 전투 등을 포함하는 광범위한 카테고리를 포함한다. 비디오 게임은 게임 애플리케이션을 실행하는 사용자에게 즐거움을 제공할 수 있는 콘텐츠를 생성한다.
게임 애플리케이션(예를 들어, 게임 애플리케이션(590))에 의해 생성된 비디오 게임 콘텐츠는 LF 디스플레이 시스템(예를 들어, LF 디스플레이 시스템(500A)) 상에 홀로그래픽 콘텐츠로서 디스플레이될 수 있다. 게임 애플리케이션(590)은 비디오 게임 콘텐츠를 표현하는 여러 데이터 포맷들 중 하나를 컨트롤러(예를 들어, 컨트롤러(520))에게 제공하고, LF 처리 엔진(예를 들어, LF 처리 엔진(530))은 비디오 게임 콘텐츠로부터 홀로그래픽 콘텐츠를 생성한다.
일 실시예에서, 컨트롤러(520)에 입력된 데이터("입력 데이터")는 게임 애플리케이션(590)으로부터 기원한다. 예를 들어, 입력 데이터는 컴퓨터로 생성된("CG": computer generated) 게임 애플리케이션 내로부터의 장면을 나타낼 수 있다. 장면은, 예를 들어, 기하학적 형상, 재질, 조명 및 재료 특성을 포함할 수 있다. 장면은 여러 방법에 따라 렌더링될 수 있다. 예를 들어, 장면은 깊이 채널과 함께 또는 깊이 채널 없이 여러 관점들에 대응하는 다수의 뷰들로, 4D 또는 5D(4D + 깊이) 라이트필드로서, 깊은 이미지(즉, X-Y 에너지 소스 위치 좌표당 다수의 RGBAZ(적색, 녹색, 청색, 알파, 및 Z)를 허용하는 포맷)로서, 더 큰 해상도를 갖는 중심 뷰 및 더 낮은 해상도에서 여러 관점들에 대응하는 다수의 측변 뷰들로서, 데이터를 위한 더 낮은 대역폭을 획득하기 위한 깊이 맵들로서, 증분적 RGB 채널 데이터세트만이 기록되는 상이한 관점들에 대응하는 다수의 측면 뷰들을 갖는 다수의 뷰들로서, 렌더링될 수 있다. 렌더링은 임의의 수의 방법을 조합할 수 있거나, 또는 여기에 개시되지 않은 추가적인 방법들을 포함할 수 있다. 보다 일반적으로, 입력 데이터는 라이트필드의 데이터 및 모든 투사된 홀로그래픽 표면 상에서 시야각의 함수로서 광 강도를 기술하는 데이터를 유지하는 포맷으로 렌더링될 수 있다.
일 실시예에서, 게임 애플리케이션(590)은, 네트워크(552)를 통해 나중에 LF 디스플레이 시스템으로 제공되는 래스터화된 LF 데이터를 생성하기 위해, 가능하게는 LF 디스플레이 어셈블리(510) 상에 디스플레이되기 전에 디스플레이 보정(예를 들어, 필요한 워핑(warping), 국부적 색 보정 등)을 고려하는 추가적인 조작을 위해 게임 서버(554)가 사용하는, 디스플레이 어셈블리(510)의 하드웨어 구성(예를 들어, 해상도, 각도당 광선, 기하학적 형상 등)에 관한 메타데이터를 게임 서버(554)에 제공한다. 다른 실시예들에서, 게임 서버(554)는 다수의 공통 하드웨어 구성을 지원하고, 게임 애플리케이션들(590)에 둘 이상의 LF 데이터 스트림을 전달한다.
일부 예들에서, 게임 애플리케이션들 또는 게임 시스템들은 입력 데이터로부터 홀로그래픽 콘텐츠를 생성할 수 있게 하는 도구들을 제공받을 수 있다. 예를 들어, 게임 애플리케이션은 렌더링된 입력 데이터가 홀로그래픽 출력 데이터로 변환되고 LF 디스플레이 시스템(500) 내의 LF 컨트롤러(520)의 LF 처리 엔진(530)에 제공될 수 있게 하는 툴킷, 라이브러리, 코덱, API(application programming interface) 등("도구")과 함께 제공될 수 있다. 또한, 도구들은 게임 애플리케이션들 및/또는 게임 시스템들이 특정 LF 디스플레이 시스템들에 대한 입력 데이터를 변환하게 할 수 있다. 예를 들어, LF 디스플레이 시스템들의 다수의 모델들을 고려하여, 게임 애플리케이션들은 입력 데이터가 LF 디스플레이 시스템들의 이러한 모든 모델들에 대해 사용될 수 있게 하는 도구를 이용할 수 있다.
상이한 에너지 도메인들(예를 들어, 오디오, 촉각 등)에 대한 홀로그래픽 콘텐츠가 또한, 비디오 게임 데이터 입력으로부터 LF 처리 엔진(530)에 대해 생성될 수 있다. 예를 들어, 입력 데이터는 게임으로부터의 오디오 데이터(예를 들어, 음성 또는 총소리)를 포함할 수 있다. LF 처리 엔진(530)은 인코딩된 오디오 데이터를 갖는 홀로그래픽 콘텐츠를 생성할 수 있다. 다른 예에서, 입력 데이터는 표면 재질에 대한 촉각 정보 또는 (예를 들어, 폭발 또는 각개 전투로부터의) 전파되는 압력 파를 포함할 수 있다. 이 경우, LF 처리 엔진(530)은 감각 피드백 시스템(570)의 일부로서 초음파 변환기를 갖는 LF 디스플레이 시스템이 초음파 에너지 파 및/또는 홀로그래픽 비디오 게임 데이터 내의 표면을 나타내는 촉각 표면을 생성할 수 있게 하는 홀로그래픽 콘텐츠를 생성할 수 있다. 일부 경우에, LF 처리 엔진(530)은 감각 데이터를 갖지 않는 입력 데이터를 해석하고 해당 데이터를 위한 감각 콘텐츠를 생성할 수 있다. 예를 들어, 입력 데이터는 폭발의 시각적 표현만을 포함할 수 있고, LF 처리 엔진(530)은 폭발에 대한 촉각 피드백을 포함하는 대응하는 홀로그래픽 콘텐츠를 생성할 수 있다.
게임 애플리케이션은 LF 게임 네트워크 내에서 다양한 방식으로 구현될 수 있다. 예를 들어, 게임 애플리케이션은 클라이언트-서버 게임 애플리케이션으로서 구현될 수 있다. 이러한 예들에서, 게임 상태를 관리할 권한이 있는 하나의 또는 멀티플레이어 관리자 서버(예를 들어, 게임 서버(554))가 존재한다. 하나 이상의 게임 시스템(예를 들어, LF 게임 시스템(560A)) 상에서 실행되는 하나 이상의 플레이어 클라이언트(예를 들어, 게임 애플리케이션(590))는 이 게임 서버에 접속하여 게임에 참가할 수 있고, 이에 의해 게임 상태에 영향을 미칠 수 있다. 여기에서, 게임 서버(554)는, 예를 들어, 게임 시스템으로부터 입력을 수집하는 것, 클라이언트로부터 타임스탬프를 수집하는 것, 연결된 게임 시스템들 간의 게임 상태를 동기화하는 것, 게임 애플리케이션의 글로벌 규칙을 적용하는 것, 게임 애플리케이션 액션을 검증 및 시행하는 것, 게임 상태 스냅샷을 연결된 게임 시스템들에 송신하는 것 등을 포함하는 다양한 방법을 이용하여 하나 이상의 게임 애플리케이션의 게임 경험을 관리할 수 있다. 다른 예들도 가능하다.
클라이언트-서버 아키텍처는 게임 애플리케이션(590)이 실행을 위해 게임 서버(554)에 사용자 입력들을 전달할 수 있게 한다. 예를 들어, 사용자는 로컬 컴퓨팅 장치(예를 들어, LF 게임 시스템(560A))로부터 게임 애플리케이션을 실행하고, 게임 서버(554)는 플레이어로부터 원격에 있는 컴퓨팅 장치 상에 위치한다. 일 실시예에서, 게임 시스템(560A)은 게임 애플리케이션의 버전(예를 들어, 게임 애플리케이션(590))을 실행할 수 있고, 서버는 게임 애플리케이션의 동일한 버전을 실행할 수 있다. 이 실시예에서, 홀로그래픽 비디오 게임 데이터는 네트워크(552)를 통해 전송되지 않는다. 다른 실시예에서, 게임 서버(554)는 멀티플레이어 접속을 관리하도록 구성된 게임 애플리케이션의 버전을 실행할 수 있다. 게임 서버(554)는 게임 시스템(560A)에서 실행되는 게임 애플리케이션(590)으로부터의 샘플링된 입력 데이터를 수신하고, 해당 입력을 사용하여 홀로그래픽 비디오 게임 콘텐츠를 생성한다. 적어도 하나의 실시예에서, 이러한 홀로그래픽 비디오 게임 데이터는 (예를 들어, 벡터화된 포맷으로) 인코딩되고, 네트워크(552)를 통해 LF 게임 시스템(560A, 560B)으로 전송된다.
클라이언트-서버 아키텍처에서, 게임 애플리케이션에 대한 게임 상태는 게임 서버(554)에 의해 유지된다. 게임 상태는 게임을 실행하는 데 필요한 모든 데이터 및 로직을 포함한다. 게임 상태 정보의 일부 예들은, 예를 들어, 현재 플레이어의 자원, 위치, 및 단일 시점에서 게임의 스냅샷을 구성하는 모든 객체들을 포함한다. 일반적으로, 게임 서버(554)에 접근하는 게임 시스템은 메인 게임 상태를 정의하도록 허용되지 않고, 대신에 서버로부터 그것을 수신한다. 그러나, 플레이어에게 즉각적인 응답의 환상을 제공하기 위해, 게임 시스템은 게임의 흐름을 예측할 수 있고, 플레이어에게 보여지는 게임 상태를 부드럽게 변경할 수 있다. 이 경우, 게임 서버(554)는 서버로부터 도착된 서버의 게임 상태 업데이트들과의 조정을 통해 이러한 변경들 중 일부를 조정하거나 심지어 삭제할 수 있다. 업데이트된 서버 게임 상태가 도달할 때, 게임 시스템에서의 게임 애플리케이션의 예측된 상태는 게임 시스템이 서버로 송신했지만 아직 승인되지 않은 플레이어 입력들뿐만 아니라 업데이트된 게임 상태로부터 다시 계산된다. 게임 시스템에 응답하여, 게임 서버(554)는 또한, 지연된 보상(예를 들어, 목표물이 그 초기에 명중되었는지를 결정하도록 샷이 발사된 때에 총 쏘는 클라이언트가 무엇을 보았는지를 결정하기 위해 적절한 양만큼 시간 되감기)과 같은 기술을 사용하여 네트워크 지연을 고려함으로써 게임 상태를 계산할 수 있다. 게임 시스템이 게임 로직을 실행하는 게임 서버(554)로부터 수신하는 데이터는 종종, 게임 데이터로서 알려져 있다.
일부 실시예들에서, 도 5b에 도시된 LF 게임 네트워크는 대안적인 구성을 가질 수 있다. 예를 들어, 일 실시예에서, 게임 애플리케이션(590)은 서버 및 클라이언트 둘 다이다. 게임 애플리케이션(590)은 애플리케이션이 네트워크를 통해 다른 연결들을 허용하기 시작하는 시간(아마도 중간 게임 플레이)까지는 서버가 아니라 하나의 플레이어일 수 있다. 그 다음, 애플리케이션은 멀티플레이어 게임의 관리자가 되면서도 또한, 싱글 플레이어 게임의 클라이언트 및 인터페이스가 된다. 종종 이것은 게임의 자식 프로세스로서 서버를 생성하는 것으로서 구현될 수 있다. 애플리케이션의 사용자가 UI 버튼을 클릭해서 그 후에 네트워크 인터페이스(524)에 대한 포트를 개방하지 않는 한(게임이 실행되고 있고 캐릭터가 자식 서버 프로세스에 의해 구동되는 세계에 있는 경우), 애플리케이션의 하위 프로세스는 로컬 호스트를 청취하기만 하는 서버가 되는 방식으로 설계된, 마인크래프트(Minecraft)가 그러한 게임의 일 예일 것이다.
또 다른 예에서, 게임 애플리케이션은 LF 게임 네트워크(550) 내의 원격 렌더링되는 서비스로서의 게임(RR-GaaS: gaming-as-a-service with remote rendering) 아키텍처("원격 렌더링 아키텍처")로서 구현될 수 있다. 원격 렌더링 아키텍처에서, 게임 애플리케이션의 인스턴스는 LF 게임 네트워크(550) 내의 원격 서버(예를 들어, 게임 서버(554))에 존재한다. 인코더 모듈은 매 프레임마다 게임 장면을 렌더링하고, 장면에 대한 데이터를 압축하며, 장면에 대한 데이터를 클라이언트(예를 들어, LF 게임 시스템(560A))에 전송한다. 데이터를 수신하는 LF 게임 시스템은 홀로그래픽 비디오 게임 데이터를 디코딩하고 디스플레이한다. 게임 시스템을 동작시키는 플레이어는 게임 서버(554)로부터 데이터가 스트리밍될 때 게임 시스템 상에 디스플레이되는 콘텐츠와 상호작용한다. 플레이어 응답은 인코딩되어 게임 서버(554) 상의 디코더로 전송되고, 게임 서버(554)는 이러한 플레이어 응답을 디코딩하고, 게임 상태에 대한 제어 입력으로서 이들 응답을 이용한다. 이 원격 렌더링 모델은 비디오를 로컬 클라이언트로 전송하기 위한 큰 대역폭을 필요로 하지만, 게임 서버(554) 상에서 게임 엔진의 계산을 유지한다.
원격 렌더링 아키텍처에서, 게임 서버는 게임 서버(554) 상에서 관리되는 게임의 홀로그래픽 콘텐츠를 생성하는 LF 처리 엔진(예를 들어, LF 처리 엔진(530))을 이용할 수 있다. 게임 서버(554)는 홀로그래픽 비디오 게임 콘텐츠를 벡터화된 포맷으로 압축하고, 이를 코덱으로 인코딩하며, 해당 데이터를 네트워크(552)를 통해 LF 게임 시스템(560A, 560B)에 전송한다. 수신 LF 게임 시스템(560A, 560B)의 LF 디스플레이 시스템(500A, 500B)은 각각, LF 디스플레이 시스템(500A, 500B)을 사용하여 클라이언트에 디스플레이하기 위한 래스터화된 포맷으로 벡터화된 데이터를 디코딩한다.
원격 렌더링 아키텍처에서, LF 게임 시스템(560A, 560B)의 LF 디스플레이 시스템(500A, 500B)은 홀로그래픽 비디오 게임 콘텐츠를 디스플레이할 때 정확한 하드웨어 구성(예를 들어, 해상도, FOV, 디스플레이 패널 토폴로지, 편향 각도, 보정 데이터 등)을 고려하고/하거나 게임 시스템(560A, 560B)의 대응하는 LF 디스플레이 어셈블리(510)의 가시 부피를 고려할 수 있다. 일 예에서, LF 디스플레이 시스템은 홀로그래픽 콘텐츠의 제공을 위한 적절한 디스플레이 명령들을 생성하기 위해 구성 파일들 또는 데이터베이스 파일들의 세트를 판독할 수 있다. 디코딩 코덱은 데이터를 인코딩하는 데 사용되는 동일한 코덱일 수 있고, 이는 LF 디스플레이 시스템 제조자 또는 게임 개발자에게 독점적일 수 있다. 전술한 클라이언트-서버 아키텍처와 유사하게, 업데이트된 홀로그래픽 비디오 게임 콘텐츠에 대한 응답으로서의 플레이어 입력은 샘플링되어, 통상적인 장치(예를 들어, 키보드 또는 조이스틱)를 이용하여 게임 서버(550)로 전달될 수 있다.
또 다른 예에서, 게임 애플리케이션은 LF 게임 네트워크(550) 내의 로컬 렌더링되는 서비스로서의 게임(LR-GaaS: gaming-as-a-service with local rendering) 아키텍처("로컬 렌더링 아키텍처")로서 구현될 수 있다. 로컬 렌더링 아키텍처에서, 게임 애플리케이션의 인스턴스는 LF 게임 네트워크(550) 내의 게임 서버 상에 존재하지만, 게임 서버(554)는 게임 시스템으로 전송하기 위한 홀로그래픽 비디오 콘텐츠를 렌더링하지 않는다. 대신에, 게임 서버(554)는 하나 이상의 연결된 게임 시스템들로부터 입력들을 수신하고, 입력들에 대한 게임 로직을 실행하며, 후속하여, 연결된 게임 시스템들에 대한 게임 상태를 결정한다. 게임 서버(554)는 네트워크(552)를 통해 게임 상태 데이터를 연결된 게임 시스템에 전송하고, 각각의 게임 시스템은 게임 상태의 홀로그래픽 비디오 게임 콘텐츠를 로컬로 렌더링한다. 일 실시예에서, 게임 서버(554)는 각각의 게임 시스템이 각각의 프레임을 독립적으로 그릴 수 있게 하는 하이 레벨 렌더링 명령들로서 게임 상태 데이터를 전송한다. 다른 실시예에서, 게임 애플리케이션의 인스턴스는 게임 시스템 상에서 로컬로 실행될 수 있고, 게임 서버는 로컬 게임 애플리케이션의 게임 상태를 업데이트하기 위해 게임 상태 데이터를 송신하도록 구성된다. 이 경우에, 게임 애플리케이션은 로컬로 업데이트되고 (예를 들어, 상대방에 의한 또는 다른 게임 플레이 액션에 의한 이동을 고려하기 위해) 현재 게임 상태를 초당 여러 번 렌더링할 수 있다.
이러한 로컬 렌더링 아키텍처에서, 게임 시스템 상에서 실행되는 게임 애플리케이션은 로컬로 실행되는 LF 디스플레이 시스템(500)의 LF 처리 엔진(530)에 여러 데이터 포맷들 중 하나를 제공할 수 있다. 또한, LF 처리 엔진(530)은 이 데이터를 사용하여, 렌더링된 홀로그래픽 비디오 게임 콘텐츠를 적절히 제공하기 위해 게임 시스템의 하드웨어 구성, 가시 부피 등을 고려하여, LF 디스플레이 어셈블리에 대해 래스터화된 비디오 데이터를 렌더링한다.
또 다른 예에서, 게임 애플리케이션은 LF 게임 네트워크(550) 내의 피어-투-피어(peer-to-peer) 아키텍처로서 구현될 수 있다. 피어-투-피어 아키텍처에서, 게임 서버(554)는 글로벌 게임 상태를 관리하지 않는다. 대신, 모든 연결된 게임 시스템은 그의 로컬 게임 상태를 제어한다. 피어(예를 들어, 게임 시스템)는 모든 다른 피어들에게 데이터를 전송하고, 이 정보가 신뢰할 수 있고 정확하다는 전체적인 가정으로, 그들로부터 데이터를 수신한다. 이 아키텍처에서, 하나 이상의 피어들은 LF 디스플레이 시스템을 사용하여 게임의 뷰를 렌더링할 수 있다. 이러한 프로세스는 본원 및 전술한 방법과 유사하다. 게임 시스템은 또한, 벡터화된 홀로그래픽 비디오 게임 콘텐츠 또는 비디오 게임 데이터를 다른 연결된 게임 시스템 및/또는 관중에게 송신할 수 있다.
LF 게임 네트워크(550)의 다양한 아키텍처들에 대한 상이한 수익 모델들이 여러 개 있다. 예를 들어, LF 게임 네트워크(550)는 구독 서비스를 이용할 수 있다. 즉, LF 게임 네트워크는 LF 게임 네트워크(550) 내에서 게임 애플리케이션(590)의 전송, 실행, 및/또는 관리를 제어하기 위한 지불을 요구할 수 있다. 지불은 기간(예를 들어, 매월)에 대한 것, 게임당 구독되는 특정 게임에 대한 것, 또는 게임 서버(554) 상에서 게임 서비스에 접근하기 위한 것일 수 있다.
일 실시예에서, 구독은 상이한 티어(tier)들을 포함할 수 있다. 각각의 상이한 티어는 홀로그래픽 콘텐츠 경험의 상이한 레벨에 대응할 수 있다. 예를 들어, 가장 낮은 티어는 더 낮은 레벨의 렌더링을 포함할 수 있는 반면, 가장 높은 티어는 더 높은 레벨의 렌더링을 포함한다. 다른 예에서, 각각의 티어는 추가적인 감각 경험을 포함할 수 있다. 예를 들어, 제1 티어는 라이트필드 및 청각 콘텐츠만을 포함할 수 있고, 제2 티어는 라이트필드, 청각 및 촉각 콘텐츠를 포함한다. 일부 예들에서, 티어는, LF 디스플레이 시스템 없이 게임 시스템에 의해 이용될 수 있도록 게임 애플리케이션의 2차원 표현들을 위해 예약될 수 있다. LF 디스플레이 시스템을 포함하는 게임 시스템들은 특히, 구매 가능한 콘텐츠가 홀로그램으로 보일 수 있는 경우, 게임 시장의 가치를 증가시킬 수 있다.
LF 게임 시스템은 게임 애플리케이션에 대해 다양한 유형의 관중들을 지원할 수 있다. 일 실시예에서, LF 게임 시스템(560A, 560B)의 LF 디스플레이 시스템(500A, 500B)은 LF 디스플레이 시스템에 의해 제공되는 렌더링된 홀로그래픽 비디오 게임 콘텐츠를 벡터화된 포맷으로 압축하고, 이를 코덱으로 인코딩할 수 있으며, LF 게임 시스템은 해당 데이터를 라이브 스트림으로서 네트워크(552)를 통해 다른 관중들에게 송신할 수 있다. 스트림은 다양한 포맷을 취할 수 있다. 예를 들어, 게임 시스템은 상이한 뷰에 대응하는 압축된 비디오를 스트림할 수 있다. 제1 뷰는 게임 액션의 독립적인 뷰일 수 있다. 제2 뷰는 스트림을 제공하는 게임 시스템의 시점으로 국소화될 수 있다. LF 게임 네트워크(550)의 관중들은 홀로그래픽 비디오 게임 콘텐츠를 보기 위해 LF 게임 시스템 상에서 게임 애플리케이션의 인스턴스를 실행할 수 있다. 스트림은 관중의 로컬 게임 애플리케이션의 게임 데이터를 실시간으로, 또는 적은 시간 지연으로 업데이트할 수 있다. 시간 지연은 네트워크 지연으로 인해 존재할 수도 있고, 또는 (예를 들어, 게임 스트림 소스로부터의 데이터를 버퍼링함으로써) 부정행위를 방지하기 위해 의도적으로 삽입될 수도 있다. 관중들은 게임 애플리케이션에 대한 입력을 제공하지는 않고, 단지 게임 상태를 관찰하는 사람들이다. 이러한 관중들은 2D 디스플레이를 위한 하나의 뷰, 무안경 입체 관찰을 위한 다수의 뷰들, 또는 관중 라이트필드 디스플레이를 위한 홀로그래픽 데이터로서 스트림을 렌더링하도록 선택할 수 있다. 이러한 모든 렌더링 방법들은 디지털 권한 관리 시스템으로부터의 지불에 대한 대가로, 게임당, 게임 시리즈당, 기간에 대한 구독 모델로서, 또는 일부 유사한 구성으로 제공될 수 있다. 다른 실시예에서, 스트림은 다른 관찰자들에게 보일 수 있는 스트리밍 서비스(예를 들어, 트위치(Twitch))로 전송될 수 있다.
LF 게임 네트워크(550)의 게임 서버(554)는 게임 상태의 2차원 및/또는 4차원 표현 모두를 갖는 게임 애플리케이션을 지원할 수 있다. 즉, 게임 서버는 통상적인 2D 비디오 출력을 위한 게임의 장면을 렌더링할 수 있거나, 또는 4D 라이트필드 출력을 위한 장면을 렌더링할 수 있다. 4D 라이트필드 출력은 라이트필드 디스플레이에 이용될 수 있는 추가적인 에너지 도메인 콘텐츠(예를 들어, 촉각 표면)와 연관될 수 있다. 상이한 유형들의 표현은 디지털 권한 관리 시스템들을 이용하고 본원에 설명된 바와 같이 지불을 위해 콘텐츠를 교환할 수 있다.
게임 네트워크의 e스포츠
LF 게임 네트워크는 e스포츠("eSports")를 지원하도록 구성될 수 있다. e스포츠는 비디오 게임을 사용하는 경쟁의 한 형태이며, 특히 프로 선수들 간에는 개별적으로 또는 팀으로서 조직적인 멀티플레이어 비디오 게임 대회의 형태를 취한다. e스포츠 대회는 대개, 물리적 위치에서 개최되며 라이브 관중 앞에서 개최된다. 예를 들어, e스포츠 경기는 플레이어들이 코트에서 컴퓨터 시스템들을 사용하고 있는 맞춤형 농구 경기장에서 일어날 수 있고, 비디오 게임은 경기장 내의 대형 디스플레이 표면 상에 제공된다.
대개, e스포츠 경기 중에, 본 개시내용에서 관찰자로서 지칭될 전용 관중은 경기장에서 로컬로 실행되는 게임의 인스턴스를 갖는다. 관찰자는 게임 내에서 이동할 수 있고, 플레이어들이 게임을 플레이하는 것을 참석한 관중들이 볼 수 있도록 경기장 내의 큰 모니터에 그의 시점을 제공할 수 있다. 이 관찰자는 또한, 네트워크를 통해 그의 시점을 훨씬 더 많은 관중들에게 온라인으로 스트리밍할 수 있다. 관찰자들은 전술한 임의의 관람 모드를 이용할 수 있다.
e스포츠 경기장은 LF 디스플레이 시스템을 사용하여 홀로그래픽 비디오 게임 콘텐츠를 디스플레이하도록 구성될 수 있다. LF 디스플레이 시스템은 다수의 방식으로 구성될 수 있다. 예를 들어, LF 디스플레이 시스템(500)의 LF 디스플레이 어셈블리(510)의 표면은 경기장의 바닥일 수 있다. 다른 예시적인 구성들은 스테이지의 수평 표면, 경기장 내에 보이는 벽에 내장된 수직 디스플레이, 만곡된 디스플레이 표면 등을 포함한다. 이러한 모든 상황에서, 디스플레이 시스템은 경기장 내의 관찰자들에게 보일 수 있게 홀로그래픽 비디오 게임 콘텐츠를 제공한다. LF 디스플레이 시스템은 본원에 설명된 바와 같은 다양한 기하학적 형상을 가질 수 있다. 예를 들어, LF 디스플레이 시스템은 중앙 디스플레이, 관중을 향해 각진 측면 디스플레이를 갖는 중앙 디스플레이, 관중을 향해 또는 그 주위에서 만곡된 디스플레이 표면, 또는 디스플레이 표면 토폴로지의 일부 다른 변형을 포함할 수 있다.
경기장 내에서, 게임 애플리케이션의 인스턴스는 게임 데이터를 실행하고, 데이터를 LF 처리 엔진(530)에 제공한다. LF 처리 엔진은 게임 내의 장면을 렌더링하고, 렌더링된 장면을 경기장의 LF 디스플레이 시스템의 홀로그래픽 객체 부피 내에 홀로그래픽 비디오 게임 콘텐츠로서 제공한다. 홀로그래픽 비디오 게임 데이터는, 본원에 설명된 바와 같이, 경기장 디스플레이 어셈블리의 하드웨어 구성, 가시 부피 기하학적 형상 등을 고려하여 생성될 수 있다. LF 처리 엔진은 특정 관찰자, 임의의 플레이어, 또는 실시간으로 게임 데이터로 업데이트되고 있는 게임 엔진의 임의의 다른 인스턴스로부터의 시점을 생성할 수 있다.
e스포츠 이벤트는 원격으로도 보일 수 있다. 예를 들어, 원격 관찰자는 게임 애플리케이션의 인스턴스를 실행할 수 있다. e스포츠를 나타내는 데이터는 네트워크를 통해 수신되고 원격 위치에서 LF 디스플레이 시스템에 입력될 수 있다. 원격 위치에 있는 LF 디스플레이 시스템은 e스포츠 이벤트의 홀로그래픽 비디오 게임 데이터를 렌더링하고 제공하는 LF 처리 엔진을 포함한다. 이와 유사하게, 로컬 관찰자는 원격 위치에서 제공된 시점을 관리할 수 있다. 또한, 관찰자의 시점은 게임의 인스턴스를 실행하지 않는 LF 디스플레이 시스템으로 직접 시뮬레이션될 수도 있다. 예를 들어, e스포츠 경기장 내의 하나의 플레이어 또는 관찰자의 LF 디스플레이 시스템은 게임 데이터를 벡터화된 데이터로 실시간으로 압축할 수 있고, 이 데이터를 네트워크를 통해 LF 디스플레이 시스템을 갖는 하나 이상의 원격 클라이언트에 스트리밍할 수 있다. 원격 클라이언트는 벡터화된 데이터를 디코딩하고, 원격 렌더링 아키텍처에 대해 이미 설명된 것과 유사한 방법으로 홀로그래픽 콘텐츠를 투사할 수 있다. 그러한 이벤트들의 시청으로부터 수익을 발생시키기 위해 뷰당 지불(pay-per-view) 구조가 이용될 수 있다.
비디오 게임을 위한 라이트필드 디스플레이 시스템
도 6a 및 도 6b는 일부 예시적인 실시예들에 따른, 방에 내장된 LF 게임 시스템들을 도시한다. 방(예를 들어, 방(600A) 및 방(600B))은 적어도 제1 벽(602) 및 제2 벽(604)을 포함하고, 관찰자(610)의 거실일 수 있다. 여기서, 방은 벽(602) 및 벽(604)을 덮는 LF 디스플레이 모듈들(620)의 어레이("LF 어레이")를 갖는 LF 디스플레이 시스템을 포함한다. 예시된 LF 디스플레이 시스템은 2개의 벽들에 내장되지만, 방(600)의 임의의 다른 측면들에도 내장될 수 있다. LF 어레이(620)는 방 안의 관찰자들(예를 들어, 관찰자(610))에게 홀로그래픽 비디오 게임 콘텐츠(예를 들어, 홀로그래픽 객체(606, 608))를 제공하도록 구성된다. 도시된 예에서, 가시 위치는 방(600) 안의 어느 곳에도 있지만, 다른 위치일 수도 있다. 도 6에서, LF 어레이(620)는 LF 디스플레이 어셈블리(510)의 일 실시예이다. 또한, LF 디스플레이 어셈블리(510)를 포함하는 LF 디스플레이 시스템은 LF 디스플레이 시스템(500)의 일 실시예이다.
LF 어레이(620)는 게임 애플리케이션에 의해 생성된 비디오 게임 데이터의 홀로그래픽 비디오 게임 콘텐츠를 제공한다. 방 안의 관찰자(610)는 제공된 홀로그래픽 콘텐츠를 인지하고 상호작용할 수 있을 것이다. 이 예에서, 네트워크 시스템(556)으로부터의 비디오 게임 데이터는, 비디오 게임 데이터를 홀로그래픽 비디오 게임 콘텐츠로 변환하고, 방 안의 하나 이상의 관찰자(예를 들어, 610)에 디스플레이하기 위해 LF 디스플레이 시스템(500)의 컨트롤러(520)에 홀로그래픽 콘텐츠를 제공하는, 게임 애플리케이션에 의해 수신된다. 비디오 게임 애플리케이션은 게임 캐릭터, 아이템, 및 이벤트(예를 들어, 폭발)와 같은 다양한 게임 내 객체를 갖는 게임 세계를 생성한다. 비디오 게임 애플리케이션은 또한, 네트워크 시스템(556)으로 전송되는 입력을 생성하고, 게임 애플리케이션은 게임 세계를 위한 게임 데이터를 수신한다.
여기서, LF 어레이는 게임 세계의 일부를 묘사하는 홀로그래픽 게임 콘텐츠를 제공한다. 홀로그래픽 게임 콘텐츠는 홀로그래픽 객체 부피의 대응하는 실제 위치에 있는 게임 세계의 게임 내 객체를 묘사하는 홀로그래픽 객체를 포함한다. 홀로그래픽 객체 부피는 디스플레이 표면의 전방(예를 들어, 벽의 정면)으로 연장될 수 있고, 또한 디스플레이 표면 뒤(예를 들어, 벽 뒤)로 연장될 수 있다.
도 6a의 방(600A)에서, 홀로그래픽 게임 콘텐츠는 사용자에게 제공된 홀로그래픽 게임 콘텐츠의 일부에 있는 홀로그래픽 객체(606) 및 홀로그래픽 객체(608)를 포함한다. 두 홀로그래픽 객체들은 게임 세계에서 다양한 게임 내 객체를 묘사한다. 제1 홀로그래픽 객체(606)는 관찰자(610)의 전방에 서 있는 외계인을 묘사하고, 제2 홀로그래픽 객체(608)는 관찰자(610)의 좌측에 일어나는 폭발을 묘사한다. 도 6a에 도시되지는 않았지만, 홀로그래픽 게임 콘텐츠는 또한 LF 어레이(620)의 디스플레이 표면 뒤에 연장되는 홀로그래픽 객체 부피의 일부에 있는 홀로그래픽 객체를 포함할 수 있다. 예를 들어, 홀로그래픽 게임 콘텐츠는 사용자가 화성의 표면 위에 서 있는 것처럼 보이게 할 수 있으며, 홀로그래픽 객체는 디스플레이 표면 뒤에 디스플레이되는 표면 상의 멀리 떨어진 바위 및 다른 게임 내 객체를 묘사할 수 있다.
관찰자(610)는 방(600A)에 서서 홀로그래픽 게임 콘텐츠를 볼 수 있다. 홀로그래픽 게임 콘텐츠가 제공되고 있는 동안, LF 디스플레이 시스템의 추적 시스템은 사용자의 하나 이상의 신체 부분의 실제 위치를 추적할 수 있다. 예를 들어, LF 디스플레이 시스템은 사용자의 손, 팔, 또는 몸 등을 추적하고, 추적되는 각각의 신체 부분에 대해 게임 세계에서의 대응하는 위치를 결정한다. 일부 실시예들에서, 추적 시스템은 하나 이상의 2D 카메라들, 라이트필드 카메라, 하나 이상의 깊이 센서들, 또는 이들의 조합을 포함한다. 게임 애플리케이션은 이러한 신체 부분 위치 데이터를 사용자 입력들로서 수신하도록 구성될 수 있고, LF 디스플레이 시스템에 의해 획득된 추적 정보를 이용하여 게임 세계가 업데이트되게 할 수 있다.
전술한 바와 같이, LF 디스플레이 시스템은 관찰자(610)의 하나 이상의 신체 부분을 추적할 수 있다. 예를 들어, LF 디스플레이 시스템은 사용자의 상체, 관찰자(610)의 눈, 또는 관찰자(610)의 손의 위치를 추적할 수 있다. 추적된 위치들은 방 안에 있는 사용자의 신체 부분들의 전체 위치, 또는 특정 위치들을 나타내는 데 사용될 수 있다. LF 디스플레이 시스템은 하나 이상의 신체 부분들의 위치들을 추적하고, 방(600A) 안에서 홀로그래픽 콘텐츠로서 제공되는 게임 세계에서 대응하는 위치들을 업데이트한다.
LF 디스플레이 시스템은 게임 애플리케이션의 실행 동안 발생하는 상호작용들에 대한 감각 신호들을 관찰자에게 제공할 수 있다. 추적 데이터는 이러한 상호작용의 발생을 증강시키거나 결정할 수 있다. 예를 들어, 관찰자가 전쟁 게임에 참가하고 있는 경우, 게임 세계의 대응하는 위치(즉, 관찰자(610)에 대응하는 위치)가 게임 객체에 의해 점유되는 공간의 부피로 들어갈 때 게임 내 상호작용이 발생한다. 예를 들어, 관찰자의 손이 추적되고 있는 경우, 게임 내 상호작용은 관찰자(610)가 그의 손을 앞으로 뻗어 외계인(606)을 묘사하는 홀로그래픽 객체에 의해 점유되는 공간의 부피로 들어갈 때 발생한다. 관찰자의 손의 위치는 방(600A) 안의 LF 디스플레이 시스템의 추적 모듈에 의해 추적될 수 있고, 게임 애플리케이션에 대한 사용자 입력으로서 제공될 수 있다. 이에 응답하여, 게임 애플리케이션은 둘 이상의 에너지 도메인을 위한 홀로그래픽 비디오 게임 데이터를 생성할 수 있다. 예를 들어, 홀로그래픽 비디오 게임 데이터는 LF 디스플레이 시스템에 의해 처리되어, 시각적 신호(예를 들어, 터치에 대응하는 홀로그래픽 외계인을 디스플레이함) 및 촉각 피드백(예를 들어, 외계인의 피부를 표현하는 부피 촉각 표면)을 초래할 수 있다. 이는 사용자가 실제 외계인과 상호작용하고 있다는 환상을 제공하는 몰입적 경험을 가능하게 하면서, 외계인을 터치하는 촉각적 감각 및 시각적 피드백을 모두 관찰자(610)에게 제공한다.
또 다른 예로서, 게임 내 상호작용은 게임 세계의 움직이는 게임 내 객체가 추적되는 신체 부분에 대응하는 위치와 충돌할 때 발생한다. 예를 들어, 사용자의 몸이 추적되고 있고, 이 추적된 신체 위치가 게임 애플리케이션에 대한 사용자 입력으로서 제공되는 경우, 게임 애플리케이션 내의 충돌 검출 로직은 이동하는 물체가 사용자의 몸과 충돌할 때 게임 내 상호작용이 발생한다는 것을 검출할 수 있다. 게임 애플리케이션은 방(600A)의 LF 디스플레이 시스템의 컨트롤러에 대한 다중 감각 홀로그래픽 콘텐츠를 생성할 수 있고, 이는 이어서 시각적 신호(예를 들어, 홀로그래픽 객체가 사용자의 몸으로부터 튕겨지는 것을 디스플레이함) 및 촉각 피드백(예를 들어, 사용자의 몸 위에 부피 촉각 표면을 생성함)의 조합을 제공하여, 이동하는 물체에 의해 부딪힌 물리적 감각 및 시각적 피드백을 사용자에게 제공한다.
일부 예들에서, 게임 내 상호작용은 또한 게임 세계의 이벤트가 추적되는 신체 부분에 대응하는 위치의 임계 거리 내에서 발생하는 경우에 발생할 수 있다. 이전의 예들에서와 같이, LF 디스플레이 시스템은 게임 내 상호작용이 발생한다는 것을 나타내기 위해 게임 애플리케이션이 다중 감각 홀로그래픽 데이터를 생성할 때 시각적 신호 및 촉각 피드백의 조합을 제공할 수 있다. 예를 들어, 도 6a에 도시된 예에서, 사용자에 대응하는 위치의 임계 거리 내에서 폭발(특정 유형의 이벤트)이 발생한다. 도 6a에 도시된 폭발 이벤트에 대해, LF 디스플레이 시스템은 폭발을 묘사하는 홀로그래픽 객체(608)를 디스플레이하고, 또한 폭발의 충격파에 의해 부딪히는 물리적 감각을 시뮬레이션하기 위해 촉각 피드백(예를 들어, 촉각 압력 파(612))을 제공한다. 게임 애플리케이션은 관찰자(610)의 추적된 위치, 관찰자(610)의 추적된 이동, 또는 본원에 설명된 임의의 정보에 기초하여 게임 내 이벤트들에 대한 촉각 피드백의 크기, 위치, 방향들 등을 결정할 수 있다.
도 6b의 방(600B)에서, LF 디스플레이 시스템은 관찰자(610)에게 홀로그래픽 사용자 인터페이스(614)를 제공하고 있다. 여기서, LF 디스플레이 시스템은 관찰자(610)의 위치를 추적하고, 관찰자의 추적된 위치에 대응하는 위치에 홀로그래픽 UI(614)를 디스플레이한다. LF 디스플레이 시스템은 관찰자(610)로부터 임계 거리 내의 위치에 홀로그래픽 UI를 제공할 수 있다. 예를 들어, 임계 거리는 홀로그래픽 UI(614)가 관찰자(610)의 팔의 도달 범위 내에 투사되도록, 평균 성인의 팔 길이에 대응할 수 있다. LF 디스플레이 시스템은 관찰자(610)가 방 주위를 이동할 때 관찰자(610)의 위치를 계속 추적하고, LF 디스플레이 시스템은 그에 따라 홀로그래픽 UI(614)를 이동시켜, 홀로그래픽 UI(614)가 관찰자(610)에 대해 동일한 위치에 디스플레이되도록 한다. 일부 실시예들에서, LF 디스플레이 시스템은 또한 UI(614)의 인터페이스 요소들의 관찰자 선택을 추적할 수 있고, 게임 애플리케이션에 대한 입력으로서 이러한 추적된 데이터를 제공할 수 있다.
홀로그래픽 UI(614)는 관찰자(610)가 선택할 수 있는 하나 이상의 사용자 인터페이스 요소를 포함하는 인터페이스를 묘사할 수 있다. UI 요소들은 게임 애플리케이션을 이용하여 다양한 기능들을 제어할 수 있으며, 예를 들어, 메뉴에 접근하거나 사용자의 게임 내 캐릭터의 소유물인 아이템들을 선택할 수 있다. 다른 실시예들에서, 홀로그래픽 사용자 인터페이스는 인터넷 브라우저와 같은 비-게임 애플리케이션의 일부이고, UI 요소들은 해당 애플리케이션의 다양한 기능들을 제어한다.
LF 디스플레이 시스템은 관찰자(610)가 홀로그래픽 UI(614)와 상호작용할 수 있도록 관찰자(610)의 신체 부분(예를 들어, 관찰자의 손 중 하나 또는 둘 모두)의 위치를 추적할 수 있다. 예를 들어, 게임 애플리케이션은 LF 디스플레이 시스템의 추적 모듈(526)에 의해 제공되는 사용자의 손의 위치를 사용하여, 사용자의 손이 UI 요소의 위치와 동일한 위치에 있다는 것을 결정할 수 있고, 이어서, 관찰자(610)가 그 요소와 상호작용하고 있다고 결정할 수 있다. 이에 응답하여, 게임 애플리케이션은 적절한 홀로그래픽 비디오 게임 콘텐츠뿐만 아니라, 사용자가 UI 요소를 성공적으로 선택했다는 것을 사용자에게 전달하기 위한 촉각적 콘텐츠를 생성할 수 있다. 예를 들어, LF 디스플레이 시스템은 선택된 UI 요소의 색상을 변경하고, 관찰자가 홀로그래픽 UI(614)의 특정 부분과 상호작용할 때 사용자의 손을 향해 초음파를 투사하도록 지시될 수 있다. 이러한 시각적 및 촉각적 피드백의 조합은 사용자가 실제 터치 표면과 접촉하고 상호작용하고 있다는 인상을 제공하는 보다 몰입적인 경험을 제공한다.
도 7은 하나 이상의 실시예들에 따른, 테이블 상부의 LF 게임 시스템을 도시한다. 여기서, 테이블 상부의 LF 게임 시스템(700)은 테이블(708)의 상부 표면(702) 상에 LF 디스플레이 모듈들(720)의 어레이("LF 어레이")를 갖는, 테이블(708)에 내장된 LF 디스플레이 시스템을 포함한다. LF 어레이(720)는 테이블(708)의 상부 표면(702)을 볼 수 있는 가시 위치들에서 게임 애플리케이션에 의해 생성된 홀로그래픽 비디오 게임 콘텐츠를 관찰자들에게 제공하도록 구성된다. 도 7에서, LF 어레이(720)는 LF 디스플레이 어셈블리(510)의 일 실시예이다. 또한, LF 디스플레이 시스템은 LF 디스플레이 시스템(500)의 일 실시예이다.
LF 어레이(720)는 테이블(708)의 상부 표면(702) 상에 나타나도록 게임 애플리케이션에 의해 생성된 홀로그래픽 비디오 게임 콘텐츠를 제공한다. 비디오 게임 콘텐츠는 버튼을 나타내는 홀로그래픽 객체(704)를 포함한다. 관찰자는 제공된 홀로그래픽 객체(704)를 인지하고 상호작용할 수 있다. 예를 들어, 관찰자는 자신의 손(706)을 이용하여(예를 들어, 버튼을 누름으로써) 홀로그래픽 객체(704)와 상호작용할 수 있고, 그 후에, LF 디스플레이 시스템은 손의 움직임을 추적할 수 있으며, 손의 위치를 비디오 게임 애플리케이션에 제공할 수 있다. 비디오 게임 애플리케이션은 버튼이 눌러졌다고 결정할 수 있고, 그 결과, 디스플레이를 위한 업데이트된 홀로그래픽 비디오 게임 데이터를 생성할 수 있다(예를 들어, 폭발이 발생한다).
추가적으로, LF 디스플레이 시스템은 관찰자로부터 다른 유형의 상호작용(예를 들어, 청각적 신호, 시각적 신호 등)을 수신하고 그에 응답하여 사용자에게 제공된 홀로그래픽 비디오 게임 콘텐츠를 변경하도록 구성될 수 있다. 일 예로서, 테이블(708)의 관찰자는 "게임을 일시정지"시킬 수 있고, LF 디스플레이 시스템은 오디오를 기록하고, 오디오를 인식하며, 그에 응답하여 게임 애플리케이션을 일시정지시킨다. 유사하게, 테이블(708)의 관찰자는 LF 어레이(720)에 의해 디스플레이되는 게임 세계의 뷰를 회전시키기 위해 홀로그래픽 콘텐츠와 상호작용할 수 있다. 일 예로서, 관찰자는 자신의 손을 사용하여 LF 어레이(720)에 의해 디스플레이되는 게임 내 세계의 뷰를 회전시키는 제스처를 생성할 수 있다. 이를 위해, LF 디스플레이 시스템은 제스처를 행하는 관찰자의 이미지 시퀀스를 캡처하고, 제스처를 인식하며, 그에 응답하여 홀로그래픽 콘텐츠를 회전시킨다.
도 8은 하나 이상의 실시예들에 따른, LF 디스플레이 시스템을 이용하는 홀로그래픽 비디오 게임을 구현하기 위한 방법을 예시하는 흐름도이다. 즉, 방법(800)은 LF 디스플레이 시스템(예를 들어, LF 디스플레이 시스템(500))에 의해 수행된다. 프로세스(800)는 추가적인 또는 더 적은 단계들을 포함할 수 있으며, 단계들은 상이한 순서로 발생할 수 있다. 또한, 다양한 단계들, 또는 단계들의 조합이 상기 방법의 실행 동안에 임의의 횟수로 반복될 수 있다.
LF 디스플레이 시스템은 관찰자의 하나 이상의 신체 부분의 실제 위치를 추적한다(810). 예를 들어, 도 6a 및 도 6b와 관련하여 위에서 설명된 방 크기의 시스템에서, LF 디스플레이 시스템의 추적 시스템은 관찰자의 다수의 신체 부분(예를 들어, 관찰자의 머리, 손, 및 몸통)을 추적할 수 있다.
LF 디스플레이 시스템은 추적되는 신체 부분의 실제 위치에 대응하는 게임 세계의 게임 내 위치를 결정한다(820). 예를 들어, LF 디스플레이 시스템의 컨트롤러는 게임 세계의 게임 내 3차원 위치들에 대한 실제 3차원 위치들의 매핑을 유지하고, 이 매핑을 사용하여, 추적되는 신체 부분의 실제 위치에 대응하는 게임 세계의 게임 내 위치를 식별한다.
LF 디스플레이 시스템은 추적되는 신체 부분의 게임 세계 위치를 사용자 입력(830)으로서 게임 애플리케이션에 제공한다. 게임 애플리케이션은 게임 세계의 게임 내 위치에서 게임 내 상호작용이 발생했다고 결정할 수 있다. 도 6a 및 도 6b와 관련하여 상술한 바와 같이, 게임 내 상호작용은 추적되는 신체 부분에 대응하는 게임 내 위치가 게임 세계의 게임 내 객체에 의해 점유되는 부피로 교차할 때(예를 들어, 관찰자가 도 6a에서 외계인을 "터치"할 때) 발생할 수 있다. 게임 내 상호작용은 또한, 추적된 신체 부분에 대응하는 위치의 임계 거리 내에서 게임 세계의 이벤트가 발생할 때(예를 들어, 도 6a의 폭발의 충격 반경 내에 관찰자가 있을 때) 발생할 수 있다. 게임 내 상호작용이 발생했다는 것을 결정하는 것에 응답하여, 게임 애플리케이션은 하나 이상의 에너지 도메인들을 위한 홀로그래픽 콘텐츠를 LF 디스플레이 시스템의 컨트롤러에 제공할 수 있다. 게임 내 상호작용은 시각적, 햅틱, 및 다른 감각 피드백의 일부 조합으로 표현되어, 해당 상호작용이 일어나고 있다는 것을 관찰자에게 전달하고, 적절한 다중 감각 피드백을 제공한다.
LF 디스플레이 시스템의 컨트롤러는 시각적, 햅틱, 및 게임 내 상호작용을 묘사하는 다른 감각 도메인들을 위한 홀로그래픽 비디오 게임 데이터를 수신한다(840). 예를 들어, 게임 내 상호작용을 묘사하는 홀로그래픽 콘텐츠는 터치되는 것에 반응하는 게임 내 객체(예를 들어, 외계인) 또는 관찰자의 위치의 임계 거리 내에서 발생하는 게임 내 이벤트(예를 들어, 폭발)를 묘사할 수 있다.
컨트롤러는 게임 내 상호작용을 묘사하는 하나 이상의 에너지 도메인에 대해 홀로그래픽 콘텐츠를 제공하기 위한 명령들(850)을 생성한다. LF 디스플레이 시스템은 게임 내 상호작용을 나타내는 홀로그래픽 콘텐츠를 디스플레이한다(850). 피드백이 다중 감각 피드백을 포함하는 경우, LF 디스플레이 시스템은 다중 감각 피드백을 제공(850)하기 위해 적절한 동작을 취한다. 예를 들어, LF 디스플레이 시스템은 촉각 인터페이스를 생성하거나, 소리를 재생하거나, 게임 내 상호작용을 나타내는 라이트필드를 생성할 수 있다. 다중 감각 피드백을 제공하는 것은 관찰자가 실제 객체들과 상호작용하고 있다는 환상을 생성하는 몰입형 관찰자 경험을 생성한다. 컨트롤러는, 전술한 바와 같이, LF 디스플레이 어셈블리(510)의 특정 하드웨어 구성뿐만 아니라, 감각 피드백 시스템(570)의 하드웨어 구성(예를 들어, 촉각 표면을 생성하기 위한 초음파 변환기 구성의 기하학적 형상)을 위한 시각적, 촉각적 및 다른 감각 도메인의 디스플레이를 위한 명령들을 생성한다.
e스포츠를 위한 라이트필드 디스플레이 시스템
도 9는 하나 이상의 실시예들에 따른, 홀로그래픽 비디오 게임 콘텐츠를 디스플레이하기 위한 LF 디스플레이 시스템을 포함하는, 경기장의 단면도를 도시한다. 도 9에서, 경기장(900)은 e스포츠 대회의 일부로서 홀로그래픽 비디오 게임 콘텐츠(930)를 디스플레이하도록 구성된다. 도 9에서, LF 디스플레이 시스템(940)은 LF 디스플레이 시스템(500)의 일 실시예이다. 홀로그래픽 비디오 게임 콘텐츠는 게임 애플리케이션에 의해 생성되고, LF 디스플레이 시스템(940)에 의해 제공된다. LF 디스플레이 시스템(940)은 스포츠 시뮬레이션 게임(예를 들어, MADDEN NFL), 실시간 전략 게임(예를 들어, STARCRAFT), 전투 경기장 게임(예를 들어, DOTA 2, LEAGUE OF LEGENDS), 또는 슈팅 게임(예를 들어, CALL OF DUTY)과 같은, e스포츠 경기에서 통상적으로 플레이되는 임의의 유형의 비디오 게임에 대한 홀로그래픽 게임 콘텐츠를 디스플레이하는 데 사용될 수 있다.
도시된 예에서, 경기장(900)은 e스포츠 경기 동안에 전략 게임의 전장을 나타내도록 구성된 디스플레이 스테이지를 포함한다. 스테이지는 다른 큰 경기장과 유사한 방식으로 위치된 가시 위치들(922)에 의해 둘러싸여 있다. 스테이지(902)의 상부 표면은, 스테이지 위의 영역이 LF 디스플레이 시스템(940)에 대한 홀로그래픽 객체 부피인 게임 디스플레이 영역(910)을 형성하도록, LF 디스플레이 모듈들의 어레이로 커버된다. 게임 디스플레이 영역이 스테이지(902) 위에만 도시되어 있지만, 게임 디스플레이 영역은 또한 도 2a에 도시된 홀로그래픽 객체 부피(255)와 유사하게, 스테이지(902) 아래로 연장된다는 것에 유의해야 한다. LF 디스플레이 시스템(940)은, 경기장(900) 내의 관찰자들이 홀로그래픽 비디오 게임 콘텐츠(930)를 인지할 수 있도록, 게임 디스플레이 영역(910)에 홀로그래픽 비디오 게임 콘텐츠(930)를 제공한다. 경기장(900)에서, 가시 위치들(922)은 각각의 가시 위치에 대한 시선이 스포츠 콘텐츠(930)를 관찰하는 데에 가시 부피(예를 들어, 가시 부피(920A))로부터 방해되지 않도록 레이크(rake)와 함께 위치된다. 여기서, 경기장(900)은 가시 부피들(920A 및 920B)을 포함하여, 모든 관찰자들에게 동일한 홀로그래픽 비디오 게임 콘텐츠가 제공되도록 스테이지(902)를 둘러싼 하나의 가시 부피를 포함한다. 다른 구성에서는 둘 이상의 가시 부피가 있을 수 있다.
보다 일반적으로, LF 디스플레이 시스템(940)은 실질적으로 수평 또는 근사적으로 수평인 디스플레이 표면을 가질 수 있다. 일부 예들에서, LF 디스플레이 시스템은 (i) 경기장 바닥의 적어도 일부 부분, (ii) 스테이지의 적어도 일부 부분, (iii) 경기장의 벽, (iv) 여러 경기장들에 공통되는 높이 위치한 디스플레이 보드, 또는 (v) 경기장의 높이 위치된 관람 플랫폼의 적어도 일부 부분인, 디스플레이 표면을 포함할 수 있다. 다른 유형의 수평 표면들도 가능하다. 예시된 구성에서, 관찰자들은 디스플레이 표면에 대해 상승되어, 디스플레이 표면으로부터 투사되는 홀로그래픽 비디오 게임 콘텐츠를 보기 위해 아래로 내려다보며, 관찰자들은 디스플레이 표면을 부분적으로 또는 완전히 둘러쌀 수 있다. LF 디스플레이 표면의 전방에서 근사적으로 배열되고 본 개시의 다른 곳에서 설명되는 가시 위치들을 갖는 수직-장착된 디스플레이 표면(도 4c에 도시된 450A, 도 4d에 도시된 450B, 및 도 4e에 도시된 450C), 및 만곡된 LF 디스플레이 표면을 포함하는, 라이트필드 디스플레이 표면에 대한 많은 다른 구성들이 존재한다.
명확성을 위해 게임 디스플레이 영역(910)은 경계를 갖는 정사각형으로 도시되어 있지만, 게임 디스플레이 영역(910)은 홀로그래픽 비디오 게임 콘텐츠(930)가 투사될 수 있는 실제 게임 디스플레이 영역의 단지 일 부분일 수 있다. 예를 들어, 게임 디스플레이 영역(910)은 앞서 언급된 바와 같이, 스테이지(900)의 상부를 향해 그리고/또는 스테이지(902) 안으로 더 연장될 수 있다. 또한, 게임 디스플레이 영역(910) 및 가시 부피(920)(예를 들어, 920A 및 920B)의 일부는 공간적으로 중첩될 수 있다. 부분적으로 중첩하는 것으로 도시되어 있지만, 게임 디스플레이 영역(910) 및 가시 부피(920)는 전체적으로 공간적으로 중첩할 수 있다. 공간적 중첩은 관찰자들이 전술한 바와 같이 홀로그래픽 비디오 게임 콘텐츠(930)와 상호작용할 수 있는 영역이다.
또한, e스포츠 대회에 참가하는 제1 플레이어(906) 및 제2 플레이어(904)로부터의 입력들을 각각 수신하는 제1 제어 단말기(910) 및 제2 제어 단말기(912)가 도시되어 있다. 제어 단말기들은 플레이어 위치들을 변경하고, 방어막 활성화 또는 특수 무기 제공과 같은 운동 선수 옵션, 또는 무기 발사와 같은 이벤트들을 야기하는 플레이어로부터의 입력들을 수신하는 게임 애플리케이션을 각각 실행시킨다. 플레이어 입력은 게임 상태를 업데이트하기 위해 비디오 게임 애플리케이션에 의해 사용되고, 게임 디스플레이 영역에 제공되는 홀로그래픽 비디오 게임 데이터를 생성한다. 일부 예들에서, 각각의 플레이어로부터의 입력들은 게임 애플리케이션의 실행 동안 게임 세계의 각각의 캐릭터를 제어한다. 즉, 제1 플레이어(906)로부터의 제어 입력은 게임 디스플레이 영역(910)의 제1 캐릭터를 제어하고, 제2 플레이어(904)로부터의 제어 입력은 게임 디스플레이 영역의 제2 캐릭터를 제어한다. 일부 실시예들에서, 각각의 사용자로부터의 제어 입력은 다수의 캐릭터들을 제어할 수 있다. 예를 들어, 게임 애플리케이션이 전략 게임인 경우, 각각의 사용자로부터 수신된 제어 입력은 각 플레이어의 각각의 군대의 다수의 캐릭터들을 제어할 수 있다.
제어 입력은 게임 디스플레이 영역(910) 내의 캐릭터들을 상이한 위치들로 이동시킬 수 있다. 제어 입력은 또한 무기 발사, 물체 들어올리기, 물체 던지기, 또는 아수라장 공격 수행과 같은 게임 내 동작을 수행하도록 캐릭터를 제어할 수 있다. 캐릭터를 제어하는 것 이외에, 제어 입력은 또한 풋볼 시뮬레이션 게임의 플레이 호출(play-calling) 인터페이스에서의 선택과 같은 메뉴 옵션 또는 다른 UI 요소의 선택을 나타낼 수 있다. 도시된 예에서, 제어 입력들은 두 명의 플레이어들에 의해 동작되는 제어 단말기들로부터 수신된다. 각각의 제어 단말기는 사용자로부터 사용자 입력을 수신하고 해당 입력을 게임 애플리케이션에 송신할 수 있는 장치이며, 이는 LF 디스플레이 시스템(940) 상에 디스플레이될 홀로그래픽 비디오 게임 데이터를 생성한다.
일반적으로, 제어 단말기는 컴퓨팅 장치이다. 예를 들어, 도 9에 도시된 실시예에서, 제어 단말기는 데스크톱 컴퓨터이고, 플레이어는 키보드, 마우스, 조이스틱, 휠, 다수의 제어부들을 갖는 게임 콘솔, 또는 일부 다른 입력 장치를 통해 사용자 입력을 제공한다. 다른 예들에서, 제어 단말기는, 예를 들어, 휴대용 컴퓨터, 터치스크린, 핸드헬드(handheld) 장치, 홀로그래픽 UI(도 6b에 대해 설명된 UI와 같음), 일부 다른 입력 장치, 또는 이들의 일부 조합을 포함할 수 있는 다른 컴퓨팅 장치일 수 있다.
또한, 제어 단말기는 LF 디스플레이 시스템의 구성요소들 중 일부 또는 전부를 포함할 수 있다. 예를 들어, 제어 단말기는 도 6a 및 도 6b와 관련하여 전술한 방 크기의 LF 게임 시스템으로서 구현될 수 있으며, 이 경우에, 제어 단말기는, (도 6b에 대해 설명된 바와 같이) 사용자의 손을 추적함으로써 게임 애플리케이션이 홀로그래픽 UI와의 상호작용을 검출하게 하거나, (도 6a에 대해 설명된 바와 같이) 사용자의 하나 이상의 신체의 부분들을 추적함으로써 홀로그래픽 UI와의 상호작용을 검출하거나, 또는 이 둘의 일부 조합에 의해, 전술한 방식으로 사용자의 신체 부분들을 추적함으로써 사용자 입력을 수신한다.
각각의 제어 단말기들은 게임 세계의 영역을 묘사하는 게임 콘텐츠를 디스플레이한다. 일 실시예에서, 제어 단말기의 사용자는 디스플레이되는 영역을 제어할 수 있다. 예를 들어, 게임 애플리케이션이 실시간 전략 게임 또는 전투 경기장 게임인 경우, 사용자는 지도 인터페이스와 상호작용하거나 마우스 커서를 스크린의 가장자리로 이동시킴으로써 게임 세계의 디스플레이된 영역을 변경할 수 있다. 제어 단말기가 컴퓨팅 장치로서 구현되는 실시예들에서, 해당 영역은 컴퓨팅 장치의 디스플레이부 상에 디스플레이된다. 제어 단말기가 LF 디스플레이 시스템의 구성요소와 함께 구현되는 실시예들에서, 해당 영역은 홀로그래픽 콘텐츠로서 디스플레이될 수 있다.
일부 예들에서, 제어 단말기(예를 들어, 제어 단말기(912)) 상에 디스플레이된 게임 콘텐츠의 일부는 게임 디스플레이 영역(910)에서 홀로그래픽 비디오 게임 콘텐츠(930)로서 디스플레이된다. 따라서, 도 9의 예에서, LF 디스플레이 시스템(940)은 제어 단말기들 중 하나 상에서 제공되는 시점에 대응하는 홀로그래픽 비디오 게임 콘텐츠를 디스플레이한다. 이런 식으로, 경기장 내의 관찰자들은 또한, 플레이어(예를 들어, 플레이어(904))가 제어 단말기(예를 들어, 제어 단말기(912))로 상호작용하고 있는 게임 콘텐츠, 뷰, 콘텐츠 등을 인지할 수 있다. 추가적으로, 제공된 홀로그래픽 비디오 게임 콘텐츠(930)는 플레이어들에 의해 보이지 않거나 상호작용하지 않는 홀로그래픽 콘텐츠를 포함할 수 있다. 예를 들어, 홀로그래픽 비디오 게임 콘텐츠는 다른 가상 객체(예를 들어, 건물, 주변 환경 등), 게임 세계의 이벤트(예를 들어, 폭발, 임무 상태 등), 광고, 오버레이, 해설, 플레이어 통계 등을 나타내는 객체를 포함할 수 있다.
일 실시예에서, 제3 제어 단말기에서 제3 사용자(예를 들어, 게임 애플리케이션 내의 임의의 캐릭터를 제어하지 않는 관찰 사용자)는 게임 디스플레이 영역(910)에 디스플레이되는 홀로그래픽 비디오 게임 콘텐츠(930)를 생성한다. 예를 들어, 제3 제어 단말기(도시되지 않음)는 게임 데이터를 이용하여 업데이트되는 비디오 게임 애플리케이션을 실행할 수 있고, LF 디스플레이 시스템에 의해 디스플레이되는 홀로그래픽 비디오 게임 콘텐츠를 선택하도록 제3 사용자(도시되지 않음)에게 사용자 인터페이스를 제공한다. 제3 사용자는 단지, 홀로그래픽 비디오가 렌더링되는 비디오 게임 내에서 시점을 선택해야 하지만, 게임에 대한 사용자 입력들을 입력할 수 있고 게임 상태를 변경할 수 없는, 관중일 수 있다. 이는 제3 사용자로 하여금 큰 전투들과 같은 게임 내 주요 이벤트들이 일어나는 게임 세계의 영역들을 선택 및 디스플레이하게 할 수 있다. 다른 예들에서, 제3 사용자는 플레이어 시점들 사이에서 선택할 수 있고, 오버레이들을 디스플레이할 수 있으며, 추가적인 감각 콘텐츠로 홀로그래픽 비디오 게임 콘텐츠(930)를 증강시킬 수 있고, 일반적으로 경기장(900)의 관찰자들에 대한 가시 경험을 증가시킬 수 있다. 일부 경우에, 관중은 서버에 대한 "관리자" 권한을 가질 수 있고, 이러한 권한을 사용하여 게임에서 뭔가 잘못된 경우 게임 상태를 변경할 수 있다(예를 들어, 플레이어가 어딘가에 고착되거나 다른 버그가 발생하는 경우). 일부 시나리오에서는 관리자 관중과 관찰자 관중이 둘 다 있을 수 있다. 일부 시나리오들(예를 들어, 비-경쟁적 e스포츠)에서, 관리자는 주요 관중이든 아니든 간에, 관중 입력에 기초하여 게임 상태를 변경할 수 있다.
일부 실시예들에서, 제어 단말기(예를 들어, 제어 단말기(910))는 그 각각의 플레이어(예를 들어, 플레이어(906))의 이미지를 캡처하고, 홀로그래픽 비디오 게임 콘텐츠(930)의 일부로서 플레이어의 표현이 디스플레이된다. 이는 관찰자들이 플레이어의 얼굴 표정 및 몸짓 언어를 볼 수 있도록 경기장(900)의 관찰자들에게 e스포츠 경기 동안의 플레이어의 뷰를 제공한다. 제어 단말기가 플레이어의 비디오를 캡처하고 디스플레이하는 실시예에서, 가시 부피(920A, 920B) 내의 관찰자들은 플레이어가 게임과 상호작용하는 것에 의해 수행되는 물리적 제스처를 볼 수 있고, 이는 관찰자들의 즐거움을 향상시킬 수 있다.
LF 디스플레이 시스템(940)은 또한, 경기장(900) 내의 관찰자들에게 촉각 피드백 또는 다른 형태의 피드백을 제공하는 감각 피드백 어셈블리를 포함할 수 있다. 예를 들어, 게임 세계에서 폭발 또는 충격이 발생하는 경우, LF 디스플레이 시스템은 초음파 압력파를 생성하고, 관찰자들이 "폭발"의 기계적 에너지를 경험할 수 있도록 경기장(900)의 관찰자들을 향해 압력파를 투사할 수 있다. 일부 예들에서, 이는 게임 디스플레이 영역(910)이 가시 부피(920)와 중첩하는 영역에서 발생한다.
일 실시예에서, LF 디스플레이 시스템은 (예를 들어, 콘텐츠 스트림으로서) 네트워크를 통해 정보를 전송하도록 구성된다. 다양한 구성들에서, 정보는 비디오 게임 데이터, 홀로그래픽 비디오 게임 콘텐츠, 비디오 게임 데이터의 압축된 표현 또는 홀로그래픽 비디오 게임 콘텐츠 등일 수 있다. 네트워크를 통해 전송되는 정보는 홀로그래픽 비디오 게임 콘텐츠가 다른 위치에서 디스플레이될 수 있도록, 다른 LF 디스플레이 시스템들에 의해 수신될 수 있다. 이는 경기장(900)에 존재하지 않는 관찰자들에게 e스포츠 경기가 보일 수 있게 한다. 네트워크로부터의 스트리밍 홀로그래픽 비디오 게임 콘텐츠를 수신하는 디스플레이 시스템의 일 예는 도 10과 관련하여 이하에서 설명된다.
도 10은 예시적인 실시예에 따른, 테이블에 내장된 LF 디스플레이 시스템을 도시한다. LF 디스플레이 시스템(1040)은 테이블(1004)의 상부 표면 상에 LF 디스플레이 모듈들의 어레이("LF 어레이(1020)")를 포함하는 LF 디스플레이 어셈블리를 포함한다. 도시된 바와 같이, LF 디스플레이(1040) 시스템은 테이블(1004) 내에 내장되지만, 다른 편평한 표면들(예를 들어, 바닥, 벽 등) 내에 내장될 수 있다. LF 어레이(1020)는 테이블(1004)의 상부 표면을 볼 수 있는 가시 위치들에서 관찰자들에게 홀로그래픽 비디오 게임 콘텐츠(1030)를 제공하도록 구성된다. 도시된 예에서, 관찰자들(1032)은 각각의 관찰자(1032)가 LF 어레이(1020)에 의해 제공되는 홀로그래픽 비디오 게임 콘텐츠(1030)를 인지할 수 있도록 테이블(1004) 주위의 가시 위치들에 있다. 전술한 바와 같이, 다른 가시 위치들에 있는 관찰자들은 또한 LF 어레이(1020)에 의해 제공되는 홀로그래픽 비디오 게임 콘텐츠(1030)를 인지할 수 있다. 도 10에서, LF 어레이(1020)는 LF 디스플레이 어셈블리(510)의 일 실시예이다. 또한, LF 디스플레이 시스템(1040)은 LF 디스플레이 시스템(500)의 일 실시예이다.
LF 어레이(1020)는 테이블(1004)의 상부 표면 상에 나타나도록 테니스 시뮬레이션 게임의 홀로그래픽 비디오 게임 콘텐츠(1030)를 제공한다. 관찰자(1032)는 제공된 홀로그래픽 콘텐츠(1030)를 인지하고 이와 상호작용할 수 있다. 이 예에서, LF 디스플레이 시스템은 네트워크를 통해 비디오 게임 데이터를 입력하고, 비디오 게임 데이터를 홀로그래픽 비디오 게임 콘텐츠로 변환하며, 테이블(1004)의 상부 표면 상에 홀로그래픽 비디오 게임 콘텐츠(1030)를 제공한다.
일부 실시예들에서, 관찰자(1032)는 LF 디스플레이 시스템(1040)과 상호작용하여 제공된 홀로그래픽 비디오 게임 콘텐츠(1030)를 변경할 수 있다. 예를 들어, LF 디스플레이 시스템은 청각적 신호, 시각적 신호 등을 수신하고 그에 응답하여 홀로그래픽 비디오 게임 콘텐츠(1030)를 변경하도록 구성될 수 있다. 일 예로서, 관찰자(1032)는 "높은 고도에서 바라본 뷰를 보여줘"라고 말할 수 있고, LF 디스플레이 시스템은 오디오를 기록하고, 해당 오디오를 인식하며, 그에 응답하여 디스플레이된 홀로그래픽 비디오 게임 콘텐츠(1030)의 시점을 변경한다. 유사하게, 관찰자(1032)는 홀로그래픽 콘텐츠(1030)와 상호작용하여, 테이블에 의해 디스플레이되는 뷰를 회전시킬 수 있다. 일 예로서, 관찰자는 한 손으로는 제공된 홀로그래픽 비디오 게임 콘텐츠(1030)의 플레이어를 터치할 수 있고, 다른 한 손으로는 회전 제스처를 취할 수 있다. 이 경우에, LF 디스플레이 시스템은 제스처를 취하는 관찰자의 이미지를 캡처하고, 제스처를 인식하며, 그에 응답하여 홀로그래픽 콘텐츠를 회전시킨다.
일부 구성들에서, LF 디스플레이 시스템(1040)은 서버(예를 들어, TWITCH, YOUTUBE) 상에서 구현되는 스트리밍 서비스로부터 홀로그래픽 비디오 게임 콘텐츠를 추가적으로 또는 대안적으로 제공할 수 있다. 예를 들어, LF 디스플레이 시스템(1040)은 사용자들이 미리 기록된 홀로그래픽 게임 콘텐츠의 상이한 아이템들(예를 들어, 미리 기록된 e스포츠 경기들, 다른 미리 기록된 게임들) 및/또는 홀로그래픽 게임 콘텐츠의 상이한 라이브 스트림들(예를 들어, 라이브 e스포츠 경기, 비디오 게임 스트림의 라이브 스트림들) 사이에서 선택할 수 있게 하는 사용자 인터페이스를 제공할 수 있다. 홀로그래픽 게임 콘텐츠의 아이템 또는 채널의 사용자 선택을 수신하면, LF 디스플레이 시스템(1040)은 선택된 홀로그래픽 게임 콘텐츠에 대한 요청을 스트리밍 서비스로 전송하고, 스트리밍 서비스는 홀로그래픽 비디오 게임 콘텐츠를 LF 디스플레이 시스템(1040)으로 전송하며, LF 디스플레이 시스템(1040)은 홀로그래픽 게임 콘텐츠를 제공한다.
도 11은 하나 이상의 실시예들에 따른, 홀로그래픽 비디오 게임 시스템을 구현하기 위한 프로세스를 예시하는 흐름도이다. 프로세스(1100)는 LF 디스플레이 시스템(예를 들어, LF 디스플레이 시스템(500))에 의해 디스플레이되는 홀로그래픽 비디오 게임 데이터를 생성하는 게임 애플리케이션을 포함하는 홀로그래픽 비디오 게임 시스템에 의해 수행된다. 프로세스(1100)는 추가적인 또는 더 적은 단계들을 포함할 수 있으며, 단계들은 상이한 순서로 발생할 수 있다. 또한, 다양한 단계들, 또는 단계들의 조합이 상기 방법의 실행 동안에 임의의 횟수로 반복될 수 있다.
홀로그래픽 비디오 게임 시스템은 게임 애플리케이션을 실행하여, 라이트필드 게임 경험을 위한 비디오 게임 데이터를 생성한다. 게임 애플리케이션은 LF 디스플레이 시스템(예를 들어, LF 디스플레이 시스템(500)) 또는 게임 애플리케이션을 실행하도록 구성된 일부 다른 컴퓨팅 장치 상에서 실행될 수 있다.
게임 애플리케이션의 실행 동안, 사용자는 게임 상태에 영향을 미칠 수 있는 다양한 제어 입력들을 생성하고, 홀로그래픽 비디오 게임 시스템은 제어 입력들을 수신한다(1110). 제어 입력들은 사용자가 LF 디스플레이 시스템의 인터페이스와 상호작용함으로써 생성될 수 있다. 예를 들어, 사용자는 마우스를 클릭하여 게임 내의 캐릭터가 이동하게 할 수 있다. 추가적으로, 제어 입력들은 사용자에 의해 생성된 소리, 움직임, 제스처 등을 해석하는 LF 디스플레이 시스템에 의해 생성될 수 있다. 예를 들어, 사용자는 자신의 손을 뻗을 수 있고, 손의 위치 및 제스처는 추적 시스템(580)에 의해 캡처되며, LF 디스플레이 시스템 내의 추적 모듈(526)에 의해 분석된다. 이러한 추적된 손 움직임은 게임 애플리케이션에 입력될 수 있고, 이는 게임 애플리케이션에서 캐릭터가 자신의 검을 뻗게 한다.
게임 애플리케이션은 수신된 제어 입력들을 사용하여 홀로그래픽 비디오 게임 데이터(1120)를 생성한다. 예를 들어, 게임 애플리케이션은 마우스 클릭을 수신 및 해석할 수 있고, 캐릭터의 움직임을 나타내는 비디오 게임 데이터를 생성할 수 있다. 유사하게, 게임 애플리케이션은 뻗기에 대응하는 동작들을 수신 및 해석하고, 캐릭터로 하여금 자신의 검을 뻗게 할 수 있다. 일부 상황들에서, 제어 입력들은 네트워크를 통해 수신될 수 있고, 그에 응답하여 홀로그래픽 비디오 게임 데이터가 생성된다. LF 디스플레이 시스템은 홀로그래픽 비디오 게임 데이터를 수신한다.
홀로그래픽 비디오 게임 시스템의 LF 디스플레이는 홀로그래픽 비디오 게임 데이터를 사용하여 홀로그래픽 비디오 게임 콘텐츠에 대한 디스플레이 명령들을 생성한다(1130). 예를 들어, LF 디스플레이 시스템은 LF 디스플레이 어셈블리에 대한 캐릭터의 움직임, 또는 임의의 다른 장면에 대응하는 디스플레이 명령들을 생성할 수 있다. 디스플레이 명령들은 둘 이상의 유형의 에너지를 투사하기 위한 명령들을 포함할 수 있다. 예를 들어, 디스플레이 명령들은 시각적 홀로그래픽 객체들의 투사를 위한 명령들뿐만 아니라 근처에 있거나 홀로그래픽 객체들과 일치하는 부피 촉각 표면들의 투사를 위한 명령들을 포함할 수 있다.
LF 디스플레이는 홀로그래픽 비디오 게임 데이터를 제공한다(1140). 위의 예를 계속하면, 디스플레이 명령들은, 실행될 때, 이동하는 캐릭터의 홀로그래픽 비디오 게임 콘텐츠로서 비디오 게임 데이터를 제공한다. 많은 예들에서, 비디오 게임 데이터 및 홀로그래픽 비디오 게임 콘텐츠는 동일한 위치에 위치된 홀로그래픽 비디오 게임 시스템에 의해 생성될 수 있다. 그러나, 일부 상황들에서, 비디오 게임 데이터 및 홀로그래픽 비디오 게임 콘텐츠는 상이한 위치들에서 생성될 수 있다. 예를 들어, 비디오 게임 데이터는 원격 서버에서 생성될 수 있고, 그 후에 네트워크를 통해 게임 애플리케이션 및 LF 디스플레이 시스템을 갖는 위치로 전송될 수 있다. 게임 애플리케이션은, LF 디스플레이 시스템에 직접 제공되고 플레이어 및/또는 하나 이상의 관찰자에게 디스플레이되는, 홀로그래픽 비디오 게임 데이터를 생성할 수 있다.
홀로그래픽 비디오 게임 시스템은 LF 디스플레이 시스템을 사용하여 홀로그래픽 비디오 게임 콘텐츠를 제공한다. 다양한 구성들에서, 홀로그래픽 비디오 게임 콘텐츠는 제1 포맷으로 수신될 수 있고, 프레젠테이션 전에 제2 포맷으로 변환될 수 있다. 또한, 홀로그래픽 비디오 게임 콘텐츠는 홀로그래픽 비디오 게임 콘텐츠를 제공하는 LF 디스플레이 시스템의 하드웨어 구성(예를 들어, 게임 디스플레이 영역)에 적합하도록 수정될 수 있다. 예를 들어, 홀로그래픽 비디오 게임 데이터는 홀로그래픽 비디오 게임 콘텐츠를 제공하는 LF 디스플레이 시스템의 구성에 기초하여 더 낮은 해상도, 더 작은 공간, 추가적인 감각 콘텐츠 등으로 제공하기 위해 변환될 수 있다.
이를 확장하면, 홀로그래픽 비디오 게임 시스템은 제어 입력들에 기초하여 새로운 비디오 게임 데이터를 연속적으로 생성하고, 이어서, 비디오 게임 데이터를 표현하는 홀로그래픽 비디오 게임 데이터를 생성하며, 홀로그래픽 비디오 게임 데이터를 제공한다. 홀로그래픽 비디오 게임 데이터는, 예를 들어, 장면의 기하학적 형상, 시점, 재질, 조명, 및 인지할 수 있는 지연 없이 이러한 사용자 컨트롤 입력에 응답하여 라이트필드의 렌더링에 사용되는 다른 장면 정보를 포함할 수 있다. 예를 들어, 홀로그래픽 비디오 게임 시스템은 게임 세계의 영역에 대한 홀로그래픽 비디오 게임 콘텐츠를 생성한다. 게임 세계는 사용자가 게임 세계와 상호작용할 수 있도록 완전히 반응형일 수 있고, 그러한 상호작용은 제어 입력으로서 작용한다. 반응형 제어 입력은 사용자에게 제공되는 게임 세계를 변경할 수 있다.
추가 구성 정보
본 개시의 실시예들에 대한 전술한 설명은 예시의 목적으로 제공되었지만, 개시된 정확한 형태들로 배타적으로 또는 본 개시를 제한하는 것으로 의도되는 것은 아니다. 통상의 기술자는 위의 개시 내용에 비추어 많은 수정 및 변형이 가능하다는 것을 이해할 수 있다.
본 설명의 일부 부분들은 정보에 대한 동작들의 알고리즘들 및 기호 표현들의 관점에서 본 개시의 실시예들을 기술한다. 이러한 알고리즘 설명들 및 표현들은 작업 내용을 다른 통상의 기술자들에게 효과적으로 전달하기 위해, 데이터 처리 분야의 통상의 기술자들에 의해 통상적으로 사용된다. 이러한 동작들은, 기능적으로, 계산적으로, 또는 논리적으로 기술되지만, 컴퓨터 프로그램들 또는 균등한 전기 회로들, 마이크로코드 등에 의해 구현되는 것으로 이해된다. 나아가, 일반성을 잃지 않고, 이러한 동작들의 모듈들을 모듈들로 지칭하는 것이 종종 편리하다는 것이 입증되었다. 설명된 동작들 및 그들의 연관된 모듈들은 소프트웨어, 펌웨어, 하드웨어, 또는 이들의 임의의 조합으로 구현될 수 있다.
본원에 설명된 단계들, 동작들, 또는 프로세스들 중 임의의 것은 하나 이상의 하드웨어 또는 소프트웨어 모듈들로, 단독으로 또는 다른 장치들과 조합하여 수행되거나 구현될 수 있다. 일 실시예에서, 소프트웨어 모듈은, 기술된 단계들, 동작들, 또는 프로세스들 중 임의의 것 또는 전부를 수행하기 위해 컴퓨터 프로세서에 의해 실행될 수 있는 컴퓨터 프로그램 코드를 포함하는 컴퓨터-판독가능 매체를 포함한, 컴퓨터 프로그램 제품으로 구현된다.
본 개시의 실시예들은 또한, 본원에서의 동작들을 수행하기 위한 장치에 관한 것일 수 있다. 이 장치는 필요한 목적을 위해 특별히 구성될 수 있고/있거나, 컴퓨터에 저장된 컴퓨터 프로그램에 의해 선택적으로 활성화되거나 재구성되는 범용 컴퓨팅 장치를 포함할 수 있다. 이러한 컴퓨터 프로그램은 비-일시적, 유형의 컴퓨터 판독가능 저장 매체, 또는 컴퓨터 시스템 버스에 연결될 수 있는 전자 명령들을 저장하기에 적합한 임의의 유형의 매체에 저장될 수 있다. 또한, 본 명세서에서 언급되는 임의의 컴퓨팅 시스템들은 단일 프로세서를 포함할 수 있거나, 증가된 컴퓨팅 능력을 위해 다수의 프로세서 설계들을 이용하는 아키텍처일 수 있다.
본 개시의 실시예들은 또한, 본원에 기술된 컴퓨팅 프로세스에 의해 생성되는 제품에 관한 것일 수 있다. 이러한 제품은 컴퓨팅 프로세스로부터 발생하는 정보를 포함할 수 있으며, 여기서 해당 정보는 비-일시적인 유형의 컴퓨터 판독가능 저장 매체 상에 저장되고, 본원에 기술된 컴퓨터 프로그램 제품 또는 다른 데이터 조합의 임의의 실시예를 포함할 수 있다.
마지막으로, 본 명세서에서 사용되는 언어는 주로 가독성 및 교육 목적을 위해 선택되었고, 본 발명의 청구 대상을 기술하거나 제한하기 위해 선택되지 않았을 수 있다. 따라서, 본 개시의 범위는 이러한 상세한 설명에 의해 제한되는 것이 아니라, 본원에 기초하여 발행하는 임의의 청구항들에 의해 제한되는 것으로 의도된다. 따라서, 실시예들의 개시는 다음의 청구항들에 제공된 본 개시의 범위를 제한하는 것이 아니라 예시적인 것이다.
Claims (107)
- 게임 시스템으로서,
실행 중에 라이트필드 게임 경험을 위한 홀로그래픽 비디오 게임 데이터를 생성하도록 구성된 게임 애플리케이션;
홀로그래픽 콘텐츠를 제공하도록 구성된 라이트필드(LF) 디스플레이 어셈블리; 및
라이트필드 처리 엔진을 포함하고, 상기 라이트필드 처리 엔진은,
상기 홀로그래픽 비디오 게임 데이터를 수신하고,
상기 라이트필드 디스플레이 어셈블리가 상기 LF 디스플레이 어셈블리를 이용하여 홀로그래픽 콘텐츠로서 상기 홀로그래픽 비디오 게임 데이터를 제공하기 위한 디스플레이 명령들을 생성하도록 구성되며, 상기 홀로그래픽 콘텐츠는 상기 라이트필드 게임 경험 내의 장면을 표현하는, 게임 시스템. - 제1항에 있어서,
상기 LF 처리 엔진은 상기 LF 디스플레이 어셈블리의 하드웨어 구성을 결정하도록 더 구성되고,
상기 LF 처리 엔진은 상기 LF 디스플레이 어셈블리의 하드웨어 구성에 기초하여 상기 장면을 표현하는 홀로그래픽 콘텐츠를 생성하도록 더 구성되는, 게임 시스템. - 제2항에 있어서, 상기 하드웨어 구성은
해상도,
각도당 제공된 광선들의 수,
시야
상기 디스플레이 표면 상의 편향 각도, 및
상기 디스플레이 표면의 치수 중 어느 하나를 포함하는, 게임 시스템. - 제1항에 있어서,
상기 LF 처리 엔진은 상기 LF 디스플레이 어셈블리의 기하학적 방향을 결정하도록 더 구성되고,
상기 LF 처리 엔진은 상기 LF 디스플레이 시스템의 기하학적 방향에 기초하여 상기 장면을 표현하는 홀로그래픽 콘텐츠를 생성하도록 더 구성되는, 게임 시스템. - 제4항에 있어서, 상기 기하학적 방향은
상기 LF 디스플레이 어셈블리의 다수의 디스플레이 패널들;
상기 디스플레이 패널들의 상대적 방향;
상기 디스플레이 패널들의 높이;
상기 디스플레이 패널들의 폭; 및
상기 디스플레이 패널들의 레이아웃 중 어느 하나를 포함하는, 게임 시스템. - 제1항에 있어서,
상기 LF 처리 엔진은 상기 LF 디스플레이 어셈블리의 위치의 구성을 결정하도록 더 구성되고,
상기 LF 처리 엔진은 상기 LF 디스플레이 어셈블리의 상기 위치의 구성에 기초하여 상기 장면을 표현하는 홀로그래픽 콘텐츠를 생성하도록 더 구성되는, 게임 시스템. - 제6항에 있어서, 상기 위치의 구성은
하나 이상의 홀로그래픽 객체 부피;
하나 이상의 가시 부피; 및
상기 LF 디스플레이 어셈블리에 대해 상기 게임 애플리케이션을 실행하는 사용자의 위치 중 어느 하나를 포함하는, 게임 시스템. - 제1항에 있어서, 상기 LF 게임 경험을 위한 상기 홀로그래픽 비디오 게임 데이터는, 상기 LF 게임 경험의 장면에 대응하는 기하학적 형상, 재질, 조명 속성, 및 재료 특성 중 어느 하나를 포함하는, 게임 시스템.
- 제1항에 있어서, 상기 LF 게임 경험을 위한 상기 홀로그래픽 비디오 게임 데이터는
상기 라이트필드 게임 경험의 장면 내의 하나 이상의 시점들;
상기 라이트필드 게임 경험을 표현하는 라이트필드;
다수의 적색, 녹색, 청색, 및 알파 샘플들을 포함하는 깊은 이미지;
상기 라이트필드 게임 경험에서의 하나 이상의 표면들에 대한 조명 기하학적 형상 및 가시 기하학적 형상의 함수에 의해 결정되는 반사율 중 어느 하나로서 렌더링되는, 게임 시스템. - 제1항에 있어서, 상기 라이트필드 게임 경험을 위한 상기 홀로그래픽 비디오 게임 데이터는 상기 라이트필드 게임 경험의 상기 장면 내의 하나 이상의 시점들로서 렌더링되고, 상기 하나 이상의 시점들 중 제1 시점은 다른 시점들보다 더 큰 해상도를 갖는 중앙 뷰에 대응하는, 게임 시스템.
- 제1항에 있어서, 상기 홀로그래픽 비디오 게임 데이터는 상기 라이트필드 게임 경험의 장면 내에서 하나 이상의 시점들로서 렌더링되고, 상기 시점들 중 적어도 일부는 다른 시점들보다 낮은 해상도로 렌더링되는, 게임 시스템.
- 제1항에 있어서, 상기 홀로그래픽 비디오 게임 데이터는 하나 이상의 부피 촉각 표면들로서 렌더링되고, 상기 홀로그래픽 비디오 게임 데이터는 표면 재질, 재료 경도, 연성, 또는 촉각 강도 중 어느 하나로서 상기 부피 촉각 표면을 기술하는, 게임 시스템.
- 제1항에 있어서, 상기 홀로그래픽 비디오 게임 데이터는 하나 이상의 부피 촉각 표면들로서 렌더링되고, 상기 홀로그래픽 비디오 게임 데이터는 하나 이상의 좌표들에서 생성된 음파에 대한 하나 이상의 진폭들을 포함하는 음향 필드로서 상기 부피 촉각 표면을 기술하는, 게임 시스템.
- 제1항에 있어서,
상기 홀로그래픽 비디오 게임 데이터를 인코딩된 비디오 게임 데이터로 인코딩하는 인코더; 및
상기 라이트필드 디스플레이 어셈블리에 대한 상기 디스플레이 명령들을 생성할 때, 인코딩된 홀로그래픽 비디오 게임 데이터를 디코딩하도록 구성된 디코더를 더 포함하는, 게임 시스템. - 제14항에 있어서, 상기 인코딩된 홀로그래픽 비디오 게임 데이터는 제1 포맷이고, 상기 디코딩된 홀로그래픽 비디오 게임 데이터는 제2 포맷인, 게임 시스템.
- 제15항에 있어서, 상기 제1 포맷은 벡터화된 데이터 포맷이고, 상기 제2 포맷은 래스터화된 데이터 포맷인, 게임 시스템.
- 제14항에 있어서, 상기 디코더는 상기 인코딩된 홀로그래픽 비디오 게임 데이터를 디코딩하기 위해 전용 코덱을 이용하는, 게임 시스템.
- 제1항에 있어서, 상기 인코딩된 홀로그래픽 비디오 게임 데이터는 전용 코덱에 의해 디코딩될 수 있는 포맷으로 인코딩되는, 게임 시스템.
- 제1항에 있어서,
네트워크 연결을 통해 게임 서버로부터 글로벌 게임 정보를 수신하도록 구성된 네트워크 인터페이스를 더 포함하고,
상기 게임 애플리케이션은 상기 서버로부터 수신된 상기 글로벌 게임 데이터를 사용하여 홀로그래픽 비디오 게임 데이터를 생성하도록 더 구성되는, 게임 시스템. - 제19항에 있어서, 상기 게임 서버는 상기 게임 시스템과 동일한 위치에 위치되는, 게임 시스템.
- 제19항에 있어서, 상기 게임 서버는 상기 게임 시스템과 다른 위치에 위치되는, 게임 시스템.
- 제19항에 있어서, 상기 홀로그래픽 비디오 게임 콘텐츠는 e스포츠 대회의 관중에게 제공되는, 게임 시스템.
- 제1항에 있어서, 게임 서버가 네트워크 연결을 통해 상기 라이트필드 게임 경험을 관리하는, 게임 시스템.
- 제1항에 있어서, 상기 라이트필드 게임 경험을 관리하는 것은,
모든 클라이언트들로부터의 입력을 수집하는 것;
상기 클라이언트들로부터 타임스탬프를 수집하는 것;
상기 게임의 세계 상태를 플레이어들 간에 동기화되게 유지하는 것;
모든 플레이어 클라이언트들이 상기 규칙들에 의해 플레이하고 있는 것을 보장하는 것;
플레이어의 움직임을 검증하고 강요하는 것; 또는
상기 게임의 세계 상태에 대한 규칙적인 스냅샷들을 모든 클라이언트들에게 전송하는 것 중 어느 하나를 포함하는, 게임 시스템. - 제1항에 있어서,
네트워크 연결을 통해 상기 라이트필드 게임 경험의 데이터를 게임 서버에 전송하도록 구성된 네트워크 인터페이스를 더 포함하는, 게임 시스템. - 제1항에 있어서, 상기 라이트필드 게임 경험의 데이터는, 플레이어의 위치, 타임스탬프, 플레이어의 동작, 또는 상기 라이트필드 게임 경험에서의 객체의 상태 중 어느 하나를 포함하는, 게임 시스템.
- 제1항에 있어서,
네트워크 연결을 통해 게임 서버로부터 상기 홀로그래픽 비디오 게임 데이터의 적어도 일부분을 수신하도록 구성된 네트워크 인터페이스를 더 포함하는, 게임 시스템. - 제27항에 있어서, 상기 서버로부터 수신된 상기 홀로그래픽 비디오 게임 콘텐츠는 제1 데이터 포맷으로 되어 있고, 상기 게임 시스템은
상기 제1 데이터 포맷의 상기 홀로그래픽 비디오 게임 콘텐츠를 제2 데이터 포맷으로 디코딩하도록 구성된 디코더를 더 포함하며, 상기 제2 데이터 포맷은 LF 디스플레이 어셈블리를 위한 디스플레이 명령들을 생성하도록 구성되는, 게임 시스템. - 제1항에 있어서, 상기 게임 애플리케이션은, 상기 게임 애플리케이션이 상기 장면 내의 관중 시점에서 상기 라이트필드 게임 경험을 관찰하기 위한 비디오 게임 데이터를 생성하는, 관중 모드에서 동작하도록 구성되는, 게임 시스템.
- 제29항에 있어서, 상기 게임 애플리케이션은 상기 라이트필드 게임 경험의 게임 상태에 영향을 미치는 입력을 동작시키는 비디오 게임 데이터를 생성하지 않는, 게임 시스템.
- 제1항에 있어서, 상기 게임 애플리케이션은 네트워크 연결을 통해 상기 홀로그래픽 비디오 게임 데이터를 하나 이상의 추가적인 LF 디스플레이 어셈블리들로 전송하는, 게임 시스템.
- 제31항에 있어서, 상기 하나 이상의 추가적인 LF 디스플레이 어셈블리들은 상기 LF 디스플레이 어셈블리와 상이한 위치에 있는, 게임 시스템.
- 제31항에 있어서, 상기 하나 이상의 추가적인 LF 디스플레이 어셈블리들은 집, 극장, 바, 경기장, 또는 스타디움에 위치되는, 게임 시스템.
- 제1항에 있어서, 상기 게임 시스템은 집, 극장, 바, 경기장, 또는 스타디움에 위치되는, 게임 시스템.
- 제1항에 있어서, 상기 게임 애플리케이션은 복수의 서비스 레벨들 중 하나의 서비스 레벨에서 비디오 게임 데이터를 생성하도록 구성되고, 각각의 상기 서비스 레벨들은 상기 LF 디스플레이 어셈블리에 의해 제공되는 상이한 품질 홀로그래픽 콘텐츠에 대응하는, 게임 시스템.
- 제35항에 있어서, 각각의 서비스 레벨은 대응하는 구독 가격과 연관되는, 게임 시스템.
- 제35항에 있어서, 상기 게임 애플리케이션은 상기 라이트필드 게임 경험을 관리하는 게임 서버에 구독 비용을 제공하는, 게임 시스템.
- 제35항에 있어서, 각각의 서비스 레벨은 대응하는 디지털 저작권 관리 보호 방식에 의해 보호되는, 게임 시스템.
- 제35항에 있어서, 제1 서비스 레벨은 시각 정보를 포함하는 홀로그래픽 콘텐츠를 포함하고, 제2 서비스 레벨은 시각 정보 및 청각 정보를 포함하는 홀로그래픽 콘텐츠를 포함하는, 게임 시스템.
- 제35항에 있어서, 제1 서비스 레벨은 시각 정보를 포함하는 홀로그래픽 콘텐츠를 포함하고, 제2 서비스 레벨은 시각 정보 및 촉각 정보를 포함하는 홀로그래픽 콘텐츠를 포함하는, 게임 시스템.
- 제1항에 있어서, 상기 게임 애플리케이션은, 네트워크 연결을 통해, 상기 비디오 게임 데이터를 e스포츠 대회의 관중에게 홀로그래픽 콘텐츠로서 제공하도록 구성된 LF 디스플레이 어셈블리로 상기 비디오 게임 데이터를 전송하는, 게임 시스템.
- 제41항에 있어서, 상기 관중 및 상기 LF 디스플레이 어셈블리는 상기 게임 애플리케이션과 다른 위치에 위치되는, 게임 시스템.
- 제1항에 있어서,
상기 LF 디스플레이 어셈블리는 음향 콘텐츠를 제공하도록 구성되고,
상기 LF 처리 엔진은
상기 홀로그래픽 비디오 게임 데이터를 수신하고,
상기 라이트필드 게임 경험의 장면 내에서 상기 홀로그래픽 비디오 게임 데이터를 청각 콘텐츠로서 제공하기 위해 상기 라이트필드 디스플레이 어셈블리에 대한 오디오 명령들을 생성하도록 더 구성되는, 게임 시스템. - 제1항에 있어서, 상기 제공된 홀로그래픽 콘텐츠는 제1 유형의 에너지 및 제2 유형의 에너지를 포함하는, 게임 시스템.
- 제44항에 있어서, 상기 제1 유형의 에너지는 전자기 에너지이고, 상기 제2 유형의 에너지는 초음파 에너지인, LF 디스플레이 시스템.
- 제45항에 있어서, 상기 초음파 에너지는 부피 촉각 표면을 형성하는, LF 디스플레이 시스템.
- 제44항에 있어서, 상기 제1 유형의 에너지 및 제2 유형의 에너지는 상기 LF 디스플레이 어셈블리가 홀로그래픽 객체들에서 또는 그 근처에서 부피 촉각 표면을 제공하도록 동일한 위치에 제공되는, LF 디스플레이 시스템.
- 제1항에 있어서,
라이트필드 콘텐츠로서 전자기 에너지를 기록하도록 구성된 하나 이상의 에너지 센서들을 포함하는 라이트필드 기록 어셈블리를 더 포함하는, 게임 시스템. - 제48항에 있어서, 상기 홀로그래픽 비디오 게임 데이터는 상기 기록된 라이트필드 콘텐츠를 포함하는, 게임 시스템.
- 제49항에 있어서, 상기 게임 애플리케이션은 상기 기록된 라이트필드 콘텐츠에 기초하여 홀로그래픽 비디오 게임 콘텐츠를 생성하는, 게임 시스템.
- 제1항에 있어서,
청각 콘텐츠로서 음향 에너지를 기록하도록 구성된 하나 이상의 에너지 센서들을 포함하는 라이트필드 기록 어셈블리를 더 포함하는, 게임 시스템. - 제51항에 있어서, 상기 홀로그래픽 비디오 게임 데이터는 상기 기록된 청각 콘텐츠를 포함하는, 게임 시스템.
- 제51항에 있어서, 상기 게임 애플리케이션은 상기 기록된 청각 콘텐츠에 기초하여 홀로그래픽 비디오 게임 콘텐츠를 생성하는, 게임 시스템.
- 제1항에 있어서,
기계적 에너지를 기록하도록 구성된 하나 이상의 압력 센서들을 포함하는 라이트필드 기록 어셈블리를 더 포함하는, 게임 시스템. - 제54항에 있어서, 상기 홀로그래픽 비디오 게임 데이터는 상기 기록된 기계적 에너지를 포함하는, 게임 시스템.
- 제54항에 있어서, 상기 게임 애플리케이션은 상기 기록된 기계적 에너지에 기초하여 홀로그래픽 비디오 게임 콘텐츠를 생성하는, 게임 시스템.
- 게임 시스템으로서,
실행 중에 라이트필드 게임 경험을 위한 복수의 입력들을 생성하도록 구성된 게임 애플리케이션;
네트워크 인터페이스 ― 상기 네트워크 인터페이스는,
네트워크 연결을 통해 상기 복수의 입력들을 게임 서버에 전송하고,
상기 네트워크 연결을 통해 상기 라이트필드 게임 경험의 상기 홀로그래픽 비디오 게임 콘텐츠를 제공하기 위한 복수의 디스플레이 명령들을 포함하는 홀로그래픽 비디오 게임 콘텐츠를 수신하도록 구성됨 ―; 및
상기 디스플레이 명령들을 입력하고, 상기 홀로그래픽 비디오 게임 콘텐츠를 상기 라이트필드 게임 경험 내의 장면으로서 제공하도록 구성된 라이트필드(LF) 디스플레이 어셈블리를 포함하는, 게임 시스템. - 제57항에 있어서,
상기 게임 시스템은 상기 LF 디스플레이 어셈블리의 하드웨어 구성에 접근하도록 더 구성되고,
상기 네트워크 인터페이스는 상기 LF 디스플레이 어셈블리의 하드웨어 구성을 상기 게임 서버에 전송하도록 더 구성되며,
상기 장면을 표현하는 상기 수신된 홀로그래픽 콘텐츠는 상기 하드웨어 구성을 갖는 LF 디스플레이 어셈블리를 사용하여 제공하도록 구성되는, 게임 시스템. - 제58항에 있어서, 상기 하드웨어 구성은
해상도,
각도당 제공된 광선들의 수,
시야
상기 디스플레이 표면 상의 편향 각도, 및
상기 디스플레이 표면의 치수 중 어느 하나를 포함하는, 게임 시스템. - 제57항에 있어서,
상기 게임 시스템은 상기 LF 디스플레이 어셈블리의 기하학적 방향에 접근하도록 더 구성되고,
상기 네트워크 인터페이스는 상기 LF 디스플레이 어셈블리의 상기 기하학적 구성을 상기 게임 서버에 전송하도록 더 구성되며,
상기 장면을 표현하는 상기 수신된 홀로그래픽 콘텐츠는 상기 기하학적 방향을 갖는 LF 디스플레이 어셈블리를 사용하여 제공하도록 구성되는, 게임 시스템. - 제60항에 있어서, 상기 기하학적 방향은,
상기 LF 디스플레이 어셈블리의 다수의 디스플레이 패널들;
상기 디스플레이 패널들의 상대적 방향;
상기 디스플레이 패널들의 높이;
상기 디스플레이 패널들의 폭; 및
상기 디스플레이 패널들의 레이아웃 중 어느 하나를 포함하는, 게임 시스템. - 제57항에 있어서,
상기 게임 시스템은 상기 LF 디스플레이 어셈블리의 위치의 구성에 접근하도록 더 구성되고,
상기 네트워크 인터페이스는 상기 LF 디스플레이 어셈블리의 위치의 구성을 상기 게임 서버에 전송하도록 더 구성되며,
상기 장면을 표현하는 상기 수신된 홀로그래픽 콘텐츠는 상기 구성과 상기 위치에서의 LF 디스플레이 시스템을 사용하여 제공하도록 구성되는, 게임 시스템. - 제62항에 있어서, 상기 위치의 구성은
하나 이상의 홀로그래픽 객체 부피;
하나 이상의 가시 부피; 및
상기 LF 디스플레이 어셈블리에 대해 상기 게임 애플리케이션을 실행하는 사용자의 위치 중 어느 하나를 포함하는, 게임 시스템. - 제57항에 있어서, 상기 LF 게임 경험을 위한 상기 홀로그래픽 비디오 게임 데이터는, 상기 LF 게임 경험의 장면에 대응하는 기하학적 형상, 재질, 조명 속성, 및 재료 특성 중 어느 하나를 포함하는, 게임 시스템.
- 제57항에 있어서, 상기 LF 게임 경험을 위한 상기 수신된 홀로그래픽 비디오 게임 데이터는,
상기 라이트필드 게임 경험의 장면 내의 하나 이상의 시점들;
상기 라이트필드 게임 경험을 표현하는 라이트필드;
다수의 적색, 녹색, 청색, 및 알파 샘플들을 포함하는 깊은 이미지;
상기 라이트필드 게임 경험에서의 하나 이상의 표면들에 대한 조명 기하학적 형상 및 가시 기하학적 형상의 함수에 의해 결정되는 반사율 중 어느 하나를 포함하는, 게임 시스템. - 제57항에 있어서, 상기 라이트필드 게임 경험을 위한 상기 홀로그래픽 비디오 게임 데이터는 상기 라이트필드 게임 경험의 상기 장면 내의 하나 이상의 시점들을 포함하고, 상기 하나 이상의 시점들 중 제1 시점은 다른 시점들보다 더 큰 해상도를 갖는 중앙 뷰에 대응하는, 게임 시스템.
- 제57항에 있어서, 상기 홀로그래픽 비디오 게임은 상기 라이트필드 게임 경험의 장면 내의 하나 이상의 시점들을 포함하고, 상기 시점들 중 적어도 일부는 다른 시점들보다 낮은 해상도로 렌더링되는, 게임 시스템.
- 제57항에 있어서, 상기 홀로그래픽 비디오 게임 데이터는 하나 이상의 부피 촉각 표면들로서 렌더링되고, 상기 홀로그래픽 비디오 게임 데이터는 표면 재질, 재료 경도, 연성, 또는 촉각 강도 중 어느 하나로서 상기 부피 촉각 표면을 기술하는, 게임 시스템.
- 제57항에 있어서, 상기 홀로그래픽 비디오 게임 데이터는 하나 이상의 부피 촉각 표면들로서 렌더링되고, 상기 홀로그래픽 비디오 게임 데이터는 하나 이상의 좌표들에서 음파에 대한 하나 이상의 진폭들을 포함하는 음향 필드로서 상기 부피 촉각 표면을 기술하는, 게임 시스템.
- 제57항에 있어서, 상기 수신된 홀로그래픽 비디오 게임 데이터는 인코딩된 홀로그래픽 비디오 게임 데이터이고, 상기 게임 시스템은
상기 인코딩된 홀로그래픽 비디오 게임 데이터를 수신할 때, 상기 인코딩된 홀로그래픽 비디오 게임 데이터를 디코딩된 홀로그래픽 비디오 게임 데이터로 디코딩하도록 구성된 디코더를 더 포함하는, 게임 시스템. - 제70항에 있어서, 상기 인코딩된 홀로그래픽 비디오 게임 데이터는 제1 포맷이고, 상기 디코딩된 홀로그래픽 비디오 게임 데이터는 제2 포맷인, 게임 시스템.
- 제71항에 있어서, 상기 제1 포맷은 벡터화된 데이터 포맷이고, 상기 제2 포맷은 래스터화된 데이터 포맷인, 게임 시스템.
- 제70항에 있어서, 상기 디코더는 상기 인코딩된 스트리밍 홀로그래픽 콘텐츠를 디코딩하기 위해 전용 코덱을 이용하는, 게임 시스템.
- 제57항에 있어서, 상기 인코딩된 홀로그래픽 비디오 게임 데이터는 전용 코덱에 의해 디코딩될 수 있는 포맷으로 인코딩되는, 게임 시스템.
- 제57항에 있어서, 상기 게임 서버는 상기 게임 시스템과 동일한 위치에 위치되는, 게임 시스템.
- 제57항에 있어서, 상기 게임 서버는 상기 게임 시스템과 다른 위치에 위치되는, 게임 시스템.
- 제57항에 있어서, 상기 홀로그래픽 비디오 게임 콘텐츠는 e스포츠 대회의 관중에게 제공되는, 게임 시스템.
- 제57항에 있어서, 상기 게임 서버는 네트워크 연결을 통해 상기 라이트필드 게임 경험을 관리하는, 게임 시스템.
- 제57항에 있어서, 상기 라이트필드 게임 경험을 관리하는 것은,
모든 클라이언트들로부터의 입력을 수집하는 것;
상기 클라이언트들로부터 타임스탬프를 수집하는 것;
상기 게임의 세계 상태를 플레이어들 간에 동기화되게 유지하는 것;
모든 플레이어 클라이언트들이 상기 규칙들에 의해 플레이하고 있는 것을 보장하는 것;
플레이어의 움직임을 검증하고 강요하는 것; 또는
상기 게임의 세계 상태에 대한 규칙적인 스냅샷들을 모든 클라이언트들에게 전송하는 것 중 어느 하나를 포함하는, 게임 시스템. - 제57항에 있어서, 상기 게임 애플리케이션은, 상기 게임 애플리케이션이 상기 장면 내의 관중 시점에서 상기 라이트필드 게임 경험을 관찰하기 위한 비디오 게임 데이터를 생성하는, 관중 모드에서 동작하도록 구성되는, 게임 시스템.
- 제80항에 있어서, 상기 게임 애플리케이션은 상기 라이트필드 게임 경험의 게임 상태에 영향을 미치는 입력을 동작시키는 비디오 게임 데이터를 생성하지 않는, 게임 시스템.
- 제57항에 있어서, 상기 네트워크 인터페이스는 상기 네트워크 연결을 통해 홀로그래픽 비디오 게임 데이터를 하나 이상의 추가적인 LF 디스플레이 어셈블리들에 전송하도록 더 구성되는, 게임 시스템.
- 제82항에 있어서, 상기 하나 이상의 추가적인 LF 디스플레이 어셈블리들은 상기 LF 디스플레이 어셈블리와 상이한 위치에 있는, 게임 시스템.
- 제82항에 있어서, 상기 하나 이상의 추가적인 LF 디스플레이 어셈블리들은 집, 극장, 바, 경기장, 또는 스타디움에 위치되는, 게임 시스템.
- 제57항에 있어서, 상기 게임 시스템은 집, 극장, 바, 경기장, 또는 스타디움에 위치되는, 게임 시스템.
- 제57항에 있어서, 상기 게임 애플리케이션은 복수의 서비스 레벨들 중 하나의 서비스 레벨에서 비디오 게임 데이터를 생성하도록 구성되고, 각각의 상기 서비스 레벨들은 상기 LF 디스플레이 어셈블리에 의해 제공되는 상이한 품질 홀로그래픽 콘텐츠에 대응하는, 게임 시스템.
- 제86항에 있어서, 각각의 서비스 레벨은 대응하는 구독 가격과 연관되는, 게임 시스템.
- 제86항에 있어서, 상기 게임 애플리케이션은 상기 라이트필드 게임 경험을 관리하는 게임 서버에 구독 비용을 제공하는, 게임 시스템.
- 제86항에 있어서, 각각의 서비스 레벨은 대응하는 디지털 저작권 관리 보호 방식에 의해 보호되는, 게임 시스템.
- 제86항에 있어서, 제1 서비스 레벨은 시각 정보를 포함하는 홀로그래픽 콘텐츠를 포함하고, 제2 서비스 레벨은 시각 정보 및 청각 정보를 포함하는 홀로그래픽 콘텐츠를 포함하는, 게임 시스템.
- 제86항에 있어서, 제1 서비스 레벨은 시각 정보를 포함하는 홀로그래픽 콘텐츠를 포함하고, 제2 서비스 레벨은 시각 정보 및 촉각 정보를 포함하는 홀로그래픽 콘텐츠를 포함하는, 게임 시스템.
- 제57항에 있어서, 상기 네트워크 인터페이스는, 네트워크 연결을 통해, 상기 비디오 게임 데이터를 e스포츠 대회의 관중에게 홀로그래픽 콘텐츠로서 제공하도록 구성되는 LF 디스플레이 어셈블리에 상기 홀로그래픽 비디오 게임 데이터를 전송하도록 더 구성되는, 게임 시스템.
- 제92항에 있어서, 상기 관중 및 LF 디스플레이 어셈블리는 상기 게임 시스템과 다른 위치에 위치되는, 게임 시스템.
- 제57항에 있어서,
상기 LF 디스플레이 어셈블리는 음향 콘텐츠를 제공하도록 구성되고,
상기 수신된 홀로그래픽 비디오 게임 데이터는 상기 홀로그래픽 비디오 게임 데이터를 상기 라이트필드 게임 경험의 장면 내에서 청각 콘텐츠로서 제공하기 위해 상기 라이트필드 디스플레이 어셈블리를 위한 오디오 명령들을 더 포함하는, 게임 시스템. - 제57항에 있어서, 상기 제공된 홀로그래픽 콘텐츠는 제1 유형의 에너지 및 제2 유형의 에너지를 포함하는, 게임 시스템.
- 제95항에 있어서, 상기 제1 유형의 에너지는 전자기 에너지이고, 상기 제2 유형의 에너지는 초음파 에너지인, LF 디스플레이 시스템.
- 제96항에 있어서, 상기 초음파 에너지는 부피 촉각 표면을 형성하는, LF 디스플레이 시스템.
- 제95항에 있어서, 상기 제1 유형의 에너지 및 제2 유형의 에너지는 상기 LF 디스플레이 어셈블리가 부피 촉각 표면을 제공하도록 동일한 위치에 제공되는, LF 디스플레이 시스템.
- 제57항에 있어서,
라이트필드 콘텐츠로서 전자기 에너지를 기록하도록 구성된 하나 이상의 에너지 센서들을 포함하는 라이트필드 기록 어셈블리를 더 포함하는, 게임 시스템. - 제99항에 있어서, 상기 네트워크 인터페이스는 상기 기록된 라이트필드 콘텐츠를 상기 게임 서버에 전송하도록 더 구성되는, 게임 시스템.
- 제100항에 있어서, 상기 수신된 홀로그래픽 비디오 게임 콘텐츠는 상기 게임 서버로 전송되는 상기 기록된 라이트필드 콘텐츠에 기초하는, 게임 시스템.
- 제57항에 있어서,
청각 콘텐츠로서 음향 에너지를 기록하도록 구성된 하나 이상의 에너지 센서들을 포함하는 라이트필드 기록 어셈블리를 더 포함하는, 게임 시스템. - 제102항에 있어서, 상기 네트워크 인터페이스는 상기 기록된 청각 콘텐츠를 상기 게임 서버에 전송하도록 더 구성되는, 게임 시스템.
- 제102항에 있어서, 상기 수신된 홀로그래픽 비디오 게임 콘텐츠는 상기 게임 서버로 전송되는 상기 기록된 청각 콘텐츠에 기초하는, 게임 시스템.
- 제57항에 있어서,
기계적 에너지를 기록하도록 구성된 하나 이상의 압력 센서들을 포함하는 라이트필드 기록 어셈블리를 더 포함하는, 게임 시스템. - 제105항에 있어서, 상기 네트워크 인터페이스는 상기 기록된 기계적 에너지의 표현을 상기 비디오 게임 서버로 전송하도록 더 구성되는, 게임 시스템.
- 제105항에 있어서, 상기 수신된 홀로그래픽 비디오 게임 콘텐츠는 상기 게임 서버로 전송되는 상기 기록된 기계적 에너지의 표현에 기초하는, 게임 시스템.
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/US2019/064268 WO2021112830A1 (en) | 2019-12-03 | 2019-12-03 | Light field display system for video games and electronic sports |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20220106770A true KR20220106770A (ko) | 2022-07-29 |
Family
ID=76222646
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020227018840A KR20220106770A (ko) | 2019-12-03 | 2019-12-03 | 비디오 게임 및 e스포츠를 위한 라이트필드 디스플레이 시스템 |
Country Status (8)
| Country | Link |
|---|---|
| US (2) | US11938398B2 (ko) |
| EP (1) | EP4069387A4 (ko) |
| JP (1) | JP2023512869A (ko) |
| KR (1) | KR20220106770A (ko) |
| CN (1) | CN114761095A (ko) |
| AU (1) | AU2019477064A1 (ko) |
| CA (1) | CA3157637A1 (ko) |
| WO (1) | WO2021112830A1 (ko) |
Families Citing this family (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TW202143721A (zh) * | 2020-05-06 | 2021-11-16 | 法商內數位Ｃｅ專利控股公司 | 具有阿爾法層的3d場景傳輸 |
| US20220188877A1 (en) * | 2020-12-16 | 2022-06-16 | Bidstack Group PLC | Methods and systems for video game live streaming |
| CN113596353B (zh) * | 2021-08-10 | 2024-06-14 | 广州艾美网络科技有限公司 | 体感互动数据处理方法、装置及体感互动设备 |
| WO2023076957A1 (en) * | 2021-10-27 | 2023-05-04 | Magic Leap, Inc. | Acoustic playback waveguide for wearable xr glasses |
| JP7212744B1 (ja) | 2021-11-17 | 2023-01-25 | 株式会社Ｄｒ．健康クラブ | トレーニングサポートシステム、トレーニングサポートプログラム及びトレーニングサポート方法 |
| US20230409149A1 (en) * | 2022-06-09 | 2023-12-21 | Lightguide, Inc. | Virtual buttons for augmented reality light guided assembly system and calibration method |
Family Cites Families (44)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| NL192610C (nl) | 1990-12-13 | 1997-11-04 | Enschede & Zonen Grafisch | Beelddrager en werkwijze voor het op een beelddrager drukken van een beeld. |
| US20060028459A1 (en) | 2004-08-03 | 2006-02-09 | Silverbrook Research Pty Ltd | Pre-loaded force sensor |
| US20080144174A1 (en) | 2006-03-15 | 2008-06-19 | Zebra Imaging, Inc. | Dynamic autostereoscopic displays |
| EP1994768A2 (en) | 2006-03-15 | 2008-11-26 | Zebra Imaging, Inc. | Dynamic autostereoscopic displays |
| US10108146B2 (en) | 2007-08-11 | 2018-10-23 | Massachusetts Institute Of Technology | Anisotropic leaky-mode modulator for holographic video displays |
| US20140300695A1 (en) | 2007-08-11 | 2014-10-09 | Massachusetts Institute Of Technology | Full-Parallax Acousto-Optic/Electro-Optic Holographic Video Display |
| US8149265B2 (en) | 2007-08-11 | 2012-04-03 | Massachusetts Institute Of Technology | Holographic video display system |
| KR101908033B1 (ko) | 2008-07-10 | 2018-12-10 | 리얼 뷰 이미징 리미티드 | 광시야각 디스플레이들 및 사용자 인터페이스들 |
| US20100156895A1 (en) | 2008-10-26 | 2010-06-24 | Zebra Imaging, Inc. | Processing Pre-recorded Hogel Data |
| US11277598B2 (en) | 2009-07-14 | 2022-03-15 | Cable Television Laboratories, Inc. | Systems and methods for network-based media processing |
| EP2721553B1 (en) | 2011-06-15 | 2017-02-22 | Hewlett-Packard Development Company, L.P. | Security image printing |
| CN102231044A (zh) | 2011-06-29 | 2011-11-02 | 浙江大学 | 基于多屏拼接的体视三维显示装置 |
| US8525829B2 (en) | 2011-09-19 | 2013-09-03 | Disney Enterprises, Inc. | Transparent multi-view mask for 3D display systems |
| US8593564B2 (en) | 2011-09-22 | 2013-11-26 | Apple Inc. | Digital camera including refocusable imaging mode adaptor |
| US8917453B2 (en) | 2011-12-23 | 2014-12-23 | Microsoft Corporation | Reflective array waveguide |
| US9612395B2 (en) | 2012-01-26 | 2017-04-04 | Corning Incorporated | Optical fiber with a variable refractive index profile |
| CN102591124A (zh) | 2012-02-21 | 2012-07-18 | 浙江大学 | 基于拼接光场的横向大视场三维显示方法及系统 |
| KR20130112541A (ko) | 2012-04-04 | 2013-10-14 | 삼성전자주식회사 | 플레놉틱 카메라 장치 |
| US9860522B2 (en) | 2012-08-04 | 2018-01-02 | Paul Lapstun | Head-mounted light field display |
| US8754829B2 (en) | 2012-08-04 | 2014-06-17 | Paul Lapstun | Scanning light field camera and display |
| US9841563B2 (en) | 2012-08-04 | 2017-12-12 | Paul Lapstun | Shuttered waveguide light field display |
| AU2014204252B2 (en) | 2013-01-03 | 2017-12-14 | Meta View, Inc. | Extramissive spatial imaging digital eye glass for virtual or augmediated vision |
| US9417762B2 (en) | 2013-01-09 | 2016-08-16 | Northrop Grumman Systems Corporation | System and method for providing a virtual immersive environment |
| US9241197B2 (en) * | 2013-01-25 | 2016-01-19 | Cisco Technology, Inc. | System and method for video delivery over heterogeneous networks with scalable video coding for multiple subscriber tiers |
| US9310769B2 (en) | 2013-03-28 | 2016-04-12 | Disney Enterprises, Inc. | Coarse integral holographic display |
| US10295338B2 (en) | 2013-07-12 | 2019-05-21 | Magic Leap, Inc. | Method and system for generating map data from an image |
| US9304492B2 (en) | 2013-10-31 | 2016-04-05 | Disney Enterprises, Inc. | Scalable and tileable holographic displays |
| CN103616770B (zh) | 2013-12-12 | 2016-02-17 | 北京理工大学 | 基于多投影机和透射式散射屏幕的周视三维显示装置 |
| US9615068B2 (en) | 2014-01-15 | 2017-04-04 | Disney Enterprises, Inc. | Optical vortex 3D displays |
| CN103777455B (zh) | 2014-02-25 | 2016-08-17 | 浙江大学 | 基于光场拼接的球形沉浸式三维显示方法及系统 |
| US9465361B2 (en) | 2014-03-31 | 2016-10-11 | Disney Enterprises, Inc. | Image based multiview multilayer holographic rendering algorithm |
| CN105334690B (zh) | 2014-08-14 | 2018-07-27 | 台达电子工业股份有限公司 | 环绕光场显示器及其操作方法 |
| CA2924171A1 (en) * | 2015-03-17 | 2016-09-17 | Roel Vertegaal | Cylindrical computing device with flexible display |
| US9740169B2 (en) | 2015-03-19 | 2017-08-22 | Disney Enterprises, Inc. | Holographic high power illumination distribution system |
| US10591869B2 (en) | 2015-03-24 | 2020-03-17 | Light Field Lab, Inc. | Tileable, coplanar, flat-panel 3-D display with tactile and audio interfaces |
| US9602047B2 (en) | 2015-03-24 | 2017-03-21 | Ecole Polytechnique Federale De Lausanne (Eplf) | Self-tracking solar concentrator device |
| US9712810B2 (en) | 2015-06-03 | 2017-07-18 | Disney Enterprises, Inc. | Tracked automultiscopic 3D tabletop display |
| FR3046692B1 (fr) | 2016-01-07 | 2018-01-05 | Urgo Recherche Innovation Et Developpement | Analyse numerique d'une image numerique representant une plaie pour sa caracterisation automatique |
| EP3405830B1 (en) | 2016-01-19 | 2024-10-16 | Magic Leap, Inc. | Augmented reality systems and methods utilizing reflections |
| WO2017127897A1 (en) | 2016-01-27 | 2017-08-03 | Paul Lapstun | Shuttered waveguide light field display |
| US10154253B2 (en) | 2016-08-29 | 2018-12-11 | Disney Enterprises, Inc. | Multi-view displays using images encoded with orbital angular momentum (OAM) on a pixel or image basis |
| US10560689B2 (en) | 2017-11-28 | 2020-02-11 | Paul Lapstun | Viewpoint-optimized light field display |
| US11650354B2 (en) | 2018-01-14 | 2023-05-16 | Light Field Lab, Inc. | Systems and methods for rendering data from a 3D environment |
| US10792576B2 (en) * | 2018-02-28 | 2020-10-06 | Sony Interactive Entertainment LLC | Player to spectator handoff and other spectator controls |
-
2019
- 2019-12-03 JP JP2022532789A patent/JP2023512869A/ja active Pending
- 2019-12-03 AU AU2019477064A patent/AU2019477064A1/en active Pending
- 2019-12-03 KR KR1020227018840A patent/KR20220106770A/ko not_active Application Discontinuation
- 2019-12-03 WO PCT/US2019/064268 patent/WO2021112830A1/en unknown
- 2019-12-03 CA CA3157637A patent/CA3157637A1/en active Pending
- 2019-12-03 CN CN201980102729.0A patent/CN114761095A/zh active Pending
- 2019-12-03 US US17/781,130 patent/US11938398B2/en active Active
- 2019-12-03 EP EP19955304.1A patent/EP4069387A4/en active Pending
-
2024
- 2024-02-21 US US18/583,310 patent/US20240226723A1/en active Pending
Also Published As
| Publication number | Publication date |
|---|---|
| EP4069387A4 (en) | 2023-11-01 |
| EP4069387A1 (en) | 2022-10-12 |
| CN114761095A (zh) | 2022-07-15 |
| WO2021112830A1 (en) | 2021-06-10 |
| JP2023512869A (ja) | 2023-03-30 |
| AU2019477064A1 (en) | 2022-05-26 |
| US20220409995A1 (en) | 2022-12-29 |
| US20240226723A1 (en) | 2024-07-11 |
| US11938398B2 (en) | 2024-03-26 |
| CA3157637A1 (en) | 2021-06-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7536317B2 (ja) | 公演イベントのためのライトフィールドディスプレイシステム | |
| US11938398B2 (en) | Light field display system for video games and electronic sports | |
| US11691066B2 (en) | Light field display system for sporting events | |
| JP7420400B2 (ja) | ライトフィールドディスプレイシステムベースの遊園地のアトラクション | |
| US20190073830A1 (en) | Program for providing virtual space by head mount display, method and information processing apparatus for executing the program | |
| KR20210143208A (ko) | 영화관을 위한 라이트필드 디스플레이 시스템 | |
| JP2024147532A (ja) | 成人向けライトフィールドディスプレイシステム | |
| US20220308359A1 (en) | Light field display system for gaming environments | |
| JP2024156802A (ja) | 公演イベントのためのライトフィールドディスプレイシステム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E902 | Notification of reason for refusal |