KR102257900B1 - 몰입형 가상 디스플레이 - Google Patents
몰입형 가상 디스플레이 Download PDFInfo
- Publication number
- KR102257900B1 KR102257900B1 KR1020197006306A KR20197006306A KR102257900B1 KR 102257900 B1 KR102257900 B1 KR 102257900B1 KR 1020197006306 A KR1020197006306 A KR 1020197006306A KR 20197006306 A KR20197006306 A KR 20197006306A KR 102257900 B1 KR102257900 B1 KR 102257900B1
- Authority
- KR
- South Korea
- Prior art keywords
- vehicle
- passenger
- virtual
- environment
- passengers
- Prior art date
Links
- 201000003152 motion sickness Diseases 0.000 claims abstract description 96
- 230000033001 locomotion Effects 0.000 claims abstract description 83
- 230000000007 visual effect Effects 0.000 claims abstract description 77
- 238000000034 method Methods 0.000 claims abstract description 55
- 230000000704 physical effect Effects 0.000 claims abstract description 20
- 230000001133 acceleration Effects 0.000 claims description 53
- 238000009877 rendering Methods 0.000 claims description 25
- 239000000725 suspension Substances 0.000 claims description 22
- 230000001360 synchronised effect Effects 0.000 claims description 12
- 230000008859 change Effects 0.000 claims description 10
- 230000002452 interceptive effect Effects 0.000 claims description 8
- 230000004807 localization Effects 0.000 claims description 7
- 230000009012 visual motion Effects 0.000 claims description 7
- 230000003993 interaction Effects 0.000 claims description 4
- 238000005259 measurement Methods 0.000 claims description 4
- 230000004044 response Effects 0.000 claims description 4
- 238000004088 simulation Methods 0.000 claims 2
- 230000011664 signaling Effects 0.000 claims 1
- 230000000694 effects Effects 0.000 description 20
- 238000013507 mapping Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 12
- 230000003190 augmentative effect Effects 0.000 description 9
- 230000001965 increasing effect Effects 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 8
- 238000003860 storage Methods 0.000 description 8
- 230000035807 sensation Effects 0.000 description 7
- 210000003128 head Anatomy 0.000 description 6
- 238000012544 monitoring process Methods 0.000 description 6
- 230000009747 swallowing Effects 0.000 description 6
- 230000004308 accommodation Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 5
- 230000001720 vestibular Effects 0.000 description 5
- 206010038743 Restlessness Diseases 0.000 description 4
- 230000007613 environmental effect Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 230000006461 physiological response Effects 0.000 description 4
- 230000035900 sweating Effects 0.000 description 4
- 208000024891 symptom Diseases 0.000 description 4
- 230000032258 transport Effects 0.000 description 4
- 238000010924 continuous production Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000002708 enhancing effect Effects 0.000 description 3
- 238000007667 floating Methods 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000002040 relaxant effect Effects 0.000 description 3
- 206010015137 Eructation Diseases 0.000 description 2
- 238000007792 addition Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000001914 calming effect Effects 0.000 description 2
- 230000004424 eye movement Effects 0.000 description 2
- 230000004438 eyesight Effects 0.000 description 2
- 230000000774 hypoallergenic effect Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 210000000056 organ Anatomy 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 230000036387 respiratory rate Effects 0.000 description 2
- 210000001525 retina Anatomy 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- PEDCQBHIVMGVHV-UHFFFAOYSA-N Glycerine Chemical compound OCC(O)CO PEDCQBHIVMGVHV-UHFFFAOYSA-N 0.000 description 1
- 241000167880 Hirundinidae Species 0.000 description 1
- 208000001431 Psychomotor Agitation Diseases 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 208000027687 belching Diseases 0.000 description 1
- 238000007664 blowing Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 230000001766 physiological effect Effects 0.000 description 1
- 230000029058 respiratory gaseous exchange Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000009966 trimming Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/28—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B5/00—Electrically-operated educational appliances
- G09B5/02—Electrically-operated educational appliances with visual presentation of the material to be studied, e.g. using film strip
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B9/00—Simulators for teaching or training purposes
- G09B9/02—Simulators for teaching or training purposes for teaching control of vehicles or other craft
- G09B9/04—Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of land vehicles
- G09B9/042—Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of land vehicles providing simulation in a real vehicle
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B9/00—Simulators for teaching or training purposes
- G09B9/02—Simulators for teaching or training purposes for teaching control of vehicles or other craft
- G09B9/04—Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of land vehicles
- G09B9/05—Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of land vehicles the view from a vehicle being simulated
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/16—Type of output information
- B60K2360/167—Vehicle dynamics information
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2215/00—Indexing scheme for image rendering
- G06T2215/16—Using real world measurements to influence rendering
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2380/00—Specific applications
- G09G2380/10—Automotive applications
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Educational Administration (AREA)
- Educational Technology (AREA)
- Human Computer Interaction (AREA)
- Chemical & Material Sciences (AREA)
- Combustion & Propulsion (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Computer Graphics (AREA)
- Aviation & Aerospace Engineering (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- User Interface Of Digital Computer (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
승객들에게 멀미를 유발할 수 있는, 움직이고 있는 운송수단이 갖는 문제를 해결하는 방법들을 구현할 수 있는 운송수단용 VR 시스템이 기술된다. VR 시스템은 시각적 큐를, 승객이 경험하는 물리적 움직임과 매칭하는 가상 뷰를 제공할 수 있다. VR 시스템은 현실 세계의 뷰를 가상 환경으로 대체함으로써 몰입형 VR 경험을 제공할 수 있다. 능동 운송수단 시스템들 및/또는 운송수단 제어 시스템들은 VR 시스템과 통합되어 가상 경험과 함께 물리적 효과를 제공할 수 있다. 가상 환경은 승객이 멀미가 잘 나는 경향이 있거나 멀미의 징후를 보이고 있는 것으로 판정할 시에 승객의 편의를 도모하도록 변경될 수 있다.
Description
배경기술
가상 현실(virtual reality, VR)은 사용자들이 몰입형 인공 환경을 경험하고/하거나 그와 상호작용하게 하고, 그에 따라, 사용자는 그가 물리적으로 그 환경 내에 있는 것처럼 느끼게 된다. 예를 들어, 가상 현실 시스템들은 깊이의 착각을 불러일으키기 위해 사용자들에게 입체적인 장면을 디스플레이할 수 있고, 컴퓨터는 장면 내에서 움직인다는 사용자의 착각을 제공하기 위해 장면 콘텐츠를 실시간으로 조정할 수 있다. 사용자가 가상 현실 시스템을 통해 이미지들을 볼 때, 사용자는 그에 따라 1인칭 시점으로부터 그가 장면 내에서 움직이고 있는 것처럼 느낄 수 있다. 유사하게, 혼합 현실(mixed reality, MR)은 컴퓨터 생성 정보(가상 콘텐츠로 지칭됨)를 현실 세계 이미지들 또는 현실 세계 뷰와 조합하여, 사용자의 세계관을 증강시키거나 또는 그에 콘텐츠를 추가한다.
운송수단(vehicle) 내의 승객들에게 향상된 가상 현실(VR) 및/또는 혼합 현실(MR) 경험을 제공하기 위한 방법들 및 장치들의 다양한 실시예들이 기술된다. 예를 들어 승객들에게 멀미를 유발할 수 있는, 움직이고 있는 운송수단이 갖는 문제를 해결하기 위해, VR 방법들을 구현할 수 있는 VR 시스템의 실시예들이 기술된다. VR 시스템의 실시예들은, 예를 들어 현실 세계의 뷰를 승객이 원할 수 있는 다양한 타입의 가상 경험들 및 환경들 중 임의의 것으로 대체함으로써, 운송수단 내의 승객들에게 몰입형 VR 경험을 제공할 수 있다. 운송수단 움직임은 멀미를 방지하는 것을 돕기 위해 가상 경험에 통합될 수 있다. 일부 실시예들에서, 제약 내의 능동 운송수단 시스템들 및/또는 운송수단 제어 시스템들은 VR 시스템과 통합되어, 가상 경험과 함께 물리적 효과, 예를 들어 HVAC 시스템을 통한 돌풍 또는 열, 오디오 시스템을 통한 서라운드 사운드 및 사운드 효과, 및 시트(seat)를 통한 가속도 또는 움직임 효과를 제공할 수 있다.
멀미를 감소시키는 것 외에도, VR 시스템의 실시예들은 움직이고 있는 차량 내의 승객들에게 종래의 정지형 VR 시스템들에서 달성가능하지 않은 향상된 몰입형 가상 경험을 제공할 수 있다. VR 시스템을 움직이고 있는 운송수단과 통합하는 것은, 정지형 시뮬레이터를 사용하거나 헤드 장착형 디스플레이(head-mounted display, HMD)를 착용하고서 방에 앉아 있는 동안에 이용가능하지 않은 가상 경험을 향상시키기 위한 기회를 제공한다. 예를 들어, 가상 경험에서의 가속도 및 움직임은 운송수단의 가속도 및 움직임에 매칭되거나 또는 그에 의해 향상될 수 있으며, 따라서, 정지형 시뮬레이터에서와 같이 중력 벡터를 사용하여 시뮬레이션될 필요가 없다.
일부 실시예들에서, VR 시스템은 승객들에게로의 투영을 위해 가상 콘텐츠를 생성하는 적어도 하나의 VR 제어기, 및 승객의 양눈에 좌측 및 우측 이미지들을 포함하는 프레임들을 투영 또는 디스플레이하여 이에 따라 승객에게 3D 가상 뷰를 제공하기 위한 프로젝터 메커니즘을 포함하는 헤드셋, 헬멧, 고글, 또는 안경(본 명세서에서 HMD로 지칭됨)과 같은 적어도 하나의 VR 투영 또는 디스플레이 디바이스를 포함할 수 있다. 대안으로, 일부 실시예들에서, VR 시스템은 승객들에게로의 투영을 위한 가상 콘텐츠를 생성하는 적어도 하나의 VR 제어기, 및 운송수단의 적어도 하나의 윈도우에 가상 프레임들을 투영하거나 디스플레이하여 이에 따라 승객들에게 3D 가상 뷰를 제공하기 위한 적어도 하나의 프로젝터 메커니즘을 포함할 수 있다. 어느 경우든, 3D 가상 뷰는, 운송수단 외부의 환경을 포함하고 가상 콘텐츠(예컨대, 가상 물체, 가상 태그 등)로 증강된, 승객의 환경의 뷰를 포함할 수 있거나, 또는 대안으로, 운송수단 외부의 환경의 시각적 큐(cue)들을 포함할 수 있는 몰입형 VR 환경을 제공할 수 있다.
VR 시스템의 실시예들은, 운송수단 내부 및 외부 센서(예컨대, 깊이 카메라(예컨대, LiDAR) 및 비디오카메라), 운송수단 및 HMD 관성 측정 유닛(inertial-measurement unit, IMU), 운송수단 제어 시스템, 예컨대 스로틀 제어, 제동, 조향, 운항(navigation), 및 능동 서스펜션 시스템들, 클라우드 기반 저장소 또는 네트워크 기반 애플리케이션과 같은 외부 소스로부터의 세계 지도, 3D 모델, 비디오, 오디오, 및 다른 정보, 운송수단 AV 시스템으로부터의 비디오 또는 오디오 입력, 및 HMD 또는 다른 VR 투영 시스템을 통한 출력을 위해 몰입형 가상 콘텐츠를 생성하는 사용자 디바이스, 예컨대 노트북 컴퓨터, 태블릿, 또는 스마트폰을 포함하지만 이들로 제한되지 않는 다수의 소스들로부터의 입력들을 통합할 수 있다. 일부 실시예들에서, VR 시스템은, 또한, (예컨대, 제약 내에서 제동, 가속도, 조향, 또는 서스펜션/움직임을 제어하기 위한) 운송수단 제어 시스템들 및 운송수단 능동 시스템들(예컨대, 오디오 및 HVAC 시스템, 및 능동 시트)에 대해 신호들을 생성하여, 투영된 가상 콘텐츠와 동기화되는 물리적 효과를 제공함으로써, 승객의 경험을 더욱 향상시킬 수 있다.
일부 승객들은 움직이는 운송수단 내의 VR 시스템을 사용할 때 다른 이들보다 더 심한 멀미를 경험하는 경향이 있을 수 있다. 일부 실시예들에서, VR 시스템은 상이한 승객들의 선호도 및 경향을 수용하기 위해 VR 환경 및 경험을 적응시킬 수 있다. 예를 들어, 승객을 지나치는 흐름을 나타내는 시각적 큐들은 상이한 승객들의 선호도 및 경향을 수용하기 위해 운송수단의 실제 속도 또는 가속도에 비해 감속되거나 가속될 수 있다. 일부 실시예들에서, VR 시스템은 불편함 또는 멀미의 징후에 대해 승객을 모니터링할 수 있다. 멀미의 징후가 검출되는 경우, VR 시스템은, 예를 들어 실제 운송수단 속도 또는 가속도에 대해 1:1 맵핑 비가 있도록 시각적 큐들을 감속시킴으로써 멀미를 완화시키도록 가상 환경을 적응시킬 수 있다. 승객들에게 맵핑 비를 적응시켜서 멀미를 방지하는 것을 돕는 것 외에도, 하나 이상의 다른 시각적 및 청각적 기법들 또는 큐들(편의 도모(accommodation)로 지칭됨)이 VR 경험에 이용되어, 운송수단 내의 VR 시스템을 사용하여 승객의 편안함을 증가시키고 승객에게서의 멀미를 완화시킬 수 있다.
도 1은 일부 실시예들에 따른, 운송수단 내의 승객들에 의해 사용될 수 있는 HMD를 포함하는 가상 현실(VR) 시스템을 도시한다.
도 2는 일부 실시예들에 따른, 승객들이 보게 하기 위해 VR 콘텐츠를 운송수단의 윈도우에 투영하는 VR 시스템을 도시한다.
도 3은 일부 실시예들에 따른, 뷰어에게 운송수단의 전방에 있는 공간 내에 있는 것으로 보이도록 VR 콘텐츠를 투영하는 것을 도시한다.
도 4는 일부 실시예들에 따른, 뷰어에게 운송수단으로부터 현실 세계 뷰에서의 공간 내에 있는 것으로 보이도록 VR 콘텐츠를 투영하는 것을 도시한다.
도 5는 일부 실시예들에 따른, 뷰어에게 운송수단으로부터의 시뮬레이션된 뷰에서의 공간 내에 있는 것으로 보이도록 VR 콘텐츠를 투영하는 것을 도시한다.
도 6은 일부 실시예들에 따른, 운송수단 내의 VR 시스템을 도시한다.
도 7은 일부 실시예들에 따른, 운송수단 내의 VR 시스템의 컴포넌트들을 도시한 블록도이다.
도 8은 일부 실시예들에 따른, 승객들에게 동기화된 물리적 효과를 제공하기 위해 VR 시스템에서 사용될 수 있는 운송 수단 내의 능동 시스템들을 도시한 블록도이다.
도 9 내지 도 11은 VR 시스템의 실시예들에 의해 제공될 수 있고 제한하는 것으로 의도되지 않는 여러 예시적인 VR 경험을 도시한다.
도 12는 일부 실시예들에 따른, 운송수단 내의 승객들에게 VR 경험을 제공하기 위한 방법의 하이-레벨 흐름도이다.
도 13은 일부 실시예들에 따른, 운송수단 내의 승객들에게 환경의 혼합 현실 뷰에서의 가상 콘텐츠를 제공하기 위한 방법의 흐름도이다.
도 14는 일부 실시예들에 따른, 운송수단 내의 승객들에게 환경 효과를 갖는 몰입형 VR 경험을 제공하기 위한 방법의 흐름도이다.
도 15 내지 도 17은 일부 실시예들에 따른, VR 경험에 이용될 수 있는 시각적 편의 도모를 그래픽으로 도시한다.
도 18은 일부 실시예들에 따른, 운송수단 내의 VR 시스템을 사용하여 승객을 모니터링하는 VR 시스템을 도시한다.
도 19는 일부 실시예들에 따른, 승객 선호도 및 승객 센서 데이터에 기초하여 승객의 편의를 도모하도록 VR 경험을 적응시키는 VR 애플리케이션을 도시한다.
도 20은 일부 실시예들에 따른, 승객 선호도 및 승객 센서 데이터에 기초하여 승객의 편의를 도모하도록 VR 경험을 적응시키기 위한 방법의 흐름도이다.
본 명세서는 "하나의 실시예" 또는 "일 실시예"에 대한 언급을 포함한다. 문구 "하나의 실시예에서" 또는 "일 실시예에서"의 등장은 반드시 동일한 실시예를 지칭하는 것은 아니다. 특정 특징들, 구조들 또는 특성들이 본 개시내용과 일관성을 유지하는 임의의 적합한 방식으로 조합될 수 있다.
"포함하는(Comprising)". 이 용어는 확장가능(open-ended)하다. 첨부된 청구범위에서 사용되는 바와 같이, 이러한 용어는 부가적인 구조 또는 단계들을 배제(foreclose)하지 않는다. ".... 하나 이상의 프로세서 유닛들을 포함하는 장치"를 언급하는 청구항을 고려한다. 그러한 청구항은 장치가 부가적인 컴포넌트들(예를 들어, 네트워크 인터페이스 유닛, 그래픽 회로부 등)을 포함하는 것을 배제하지 않는다.
"~하도록 구성되는(configured to)". 다양한 유닛들, 회로들 또는 다른 컴포넌트들이 태스크 또는 태스크들을 수행"하도록 구성"되는 것으로 설명되거나 청구될 수 있다. 그러한 문맥들에서, "~하도록 구성되는"은 유닛들/회로들/컴포넌트들이 동작 동안에 그들 태스크 또는 태스크들을 수행하는 구조(예컨대, 회로부)를 포함한다는 것을 나타냄으로써 구조를 내포하는 데 사용된다. 이와 같이, 유닛/회로/컴포넌트는, 특정된 유닛/회로/컴포넌트가 현재 동작중이지 않은 경우(예를 들어, 켜진 상태가 아닌 경우)에도 태스크를 수행하도록 구성되는 것으로 칭해질 수 있다. "~하도록 구성되는"이라는 문구와 함께 사용되는 유닛들/회로들/컴포넌트들은 하드웨어 - 예를 들어, 회로들, 동작을 구현하도록 실행가능한 프로그램 명령어들을 저장하는 메모리 등 - 를 포함한다. 유닛/회로/컴포넌트가 하나 이상의 태스크를 수행"하도록 구성"됨을 언급하는 것은 그 유닛/회로/컴포넌트에 대해 미국 특허법 35 U.S.C.§ 112, (f) 규정이 적용되지 않도록 하기 위한 의도의 명시이다. 부가적으로, "~하도록 구성되는"은 사안이 되는 태스크(들)를 수행할 수 있는 방식으로 동작하도록 소프트웨어 및/또는 펌웨어(예를 들어, FPGA 또는 소프트웨어를 실행하는 범용 프로세서)에 의해 조작되는 일반적인 구조(예를 들어, 일반적인 회로부)를 포함할 수 있다. "~하도록 구성되는"은 또한 하나 이상의 태스크들을 구현하거나 수행하도록 적응된 디바이스들(예를 들어, 집적 회로들)을 제조하도록 제조 프로세스(예를 들어, 반도체 제조 설비)를 적응하는 것을 포함할 수 있다.
"제1", "제2", 등. 본 명세서에서 사용되는 바와 같이, 이러한 용어들은 이들이 선행하고 있는 명사들에 대한 라벨들로서 사용되고, 임의의 타입의(예를 들어, 공간적, 시간적, 논리적 등) 순서를 암시하는 것은 아니다. 예를 들어, 버퍼 회로는 "제1" 및 "제2" 값들에 대한 기입 동작들을 수행하는 것으로서 본 명세서에서 설명될 수 있다. 용어들 "제1" 및 "제2"는 반드시 제1 값이 제2 값 전에 기입되어야 한다는 것을 암시하지는 않는다.
"~에 기초하여(Based on)". 본 명세서에서 사용되는 바와 같이, 이들 용어들은 결정에 영향을 주는 하나 이상의 인자들을 설명하기 위해 사용된다. 이들 용어들은 결정에 영향을 줄 수 있는 부가적인 인자들을 배제하지 않는다. 즉, 결정은 오직 그들 인자들에만 기초하거나 또는 그들 인자들에 적어도 부분적으로 기초할 수 있다. "B에 기초하여 A를 결정한다"라는 문구를 고려한다. 이 경우에, B가 A의 결정에 영향을 주는 인자이기는 하지만, 그러한 문구는 A의 결정이 또한 C에도 기초하는 것임을 배제하지 않는다. 다른 예시들에서, A는 오직 B에만 기초하여 결정될 수 있다.
도 2는 일부 실시예들에 따른, 승객들이 보게 하기 위해 VR 콘텐츠를 운송수단의 윈도우에 투영하는 VR 시스템을 도시한다.
도 3은 일부 실시예들에 따른, 뷰어에게 운송수단의 전방에 있는 공간 내에 있는 것으로 보이도록 VR 콘텐츠를 투영하는 것을 도시한다.
도 4는 일부 실시예들에 따른, 뷰어에게 운송수단으로부터 현실 세계 뷰에서의 공간 내에 있는 것으로 보이도록 VR 콘텐츠를 투영하는 것을 도시한다.
도 5는 일부 실시예들에 따른, 뷰어에게 운송수단으로부터의 시뮬레이션된 뷰에서의 공간 내에 있는 것으로 보이도록 VR 콘텐츠를 투영하는 것을 도시한다.
도 6은 일부 실시예들에 따른, 운송수단 내의 VR 시스템을 도시한다.
도 7은 일부 실시예들에 따른, 운송수단 내의 VR 시스템의 컴포넌트들을 도시한 블록도이다.
도 8은 일부 실시예들에 따른, 승객들에게 동기화된 물리적 효과를 제공하기 위해 VR 시스템에서 사용될 수 있는 운송 수단 내의 능동 시스템들을 도시한 블록도이다.
도 9 내지 도 11은 VR 시스템의 실시예들에 의해 제공될 수 있고 제한하는 것으로 의도되지 않는 여러 예시적인 VR 경험을 도시한다.
도 12는 일부 실시예들에 따른, 운송수단 내의 승객들에게 VR 경험을 제공하기 위한 방법의 하이-레벨 흐름도이다.
도 13은 일부 실시예들에 따른, 운송수단 내의 승객들에게 환경의 혼합 현실 뷰에서의 가상 콘텐츠를 제공하기 위한 방법의 흐름도이다.
도 14는 일부 실시예들에 따른, 운송수단 내의 승객들에게 환경 효과를 갖는 몰입형 VR 경험을 제공하기 위한 방법의 흐름도이다.
도 15 내지 도 17은 일부 실시예들에 따른, VR 경험에 이용될 수 있는 시각적 편의 도모를 그래픽으로 도시한다.
도 18은 일부 실시예들에 따른, 운송수단 내의 VR 시스템을 사용하여 승객을 모니터링하는 VR 시스템을 도시한다.
도 19는 일부 실시예들에 따른, 승객 선호도 및 승객 센서 데이터에 기초하여 승객의 편의를 도모하도록 VR 경험을 적응시키는 VR 애플리케이션을 도시한다.
도 20은 일부 실시예들에 따른, 승객 선호도 및 승객 센서 데이터에 기초하여 승객의 편의를 도모하도록 VR 경험을 적응시키기 위한 방법의 흐름도이다.
본 명세서는 "하나의 실시예" 또는 "일 실시예"에 대한 언급을 포함한다. 문구 "하나의 실시예에서" 또는 "일 실시예에서"의 등장은 반드시 동일한 실시예를 지칭하는 것은 아니다. 특정 특징들, 구조들 또는 특성들이 본 개시내용과 일관성을 유지하는 임의의 적합한 방식으로 조합될 수 있다.
"포함하는(Comprising)". 이 용어는 확장가능(open-ended)하다. 첨부된 청구범위에서 사용되는 바와 같이, 이러한 용어는 부가적인 구조 또는 단계들을 배제(foreclose)하지 않는다. ".... 하나 이상의 프로세서 유닛들을 포함하는 장치"를 언급하는 청구항을 고려한다. 그러한 청구항은 장치가 부가적인 컴포넌트들(예를 들어, 네트워크 인터페이스 유닛, 그래픽 회로부 등)을 포함하는 것을 배제하지 않는다.
"~하도록 구성되는(configured to)". 다양한 유닛들, 회로들 또는 다른 컴포넌트들이 태스크 또는 태스크들을 수행"하도록 구성"되는 것으로 설명되거나 청구될 수 있다. 그러한 문맥들에서, "~하도록 구성되는"은 유닛들/회로들/컴포넌트들이 동작 동안에 그들 태스크 또는 태스크들을 수행하는 구조(예컨대, 회로부)를 포함한다는 것을 나타냄으로써 구조를 내포하는 데 사용된다. 이와 같이, 유닛/회로/컴포넌트는, 특정된 유닛/회로/컴포넌트가 현재 동작중이지 않은 경우(예를 들어, 켜진 상태가 아닌 경우)에도 태스크를 수행하도록 구성되는 것으로 칭해질 수 있다. "~하도록 구성되는"이라는 문구와 함께 사용되는 유닛들/회로들/컴포넌트들은 하드웨어 - 예를 들어, 회로들, 동작을 구현하도록 실행가능한 프로그램 명령어들을 저장하는 메모리 등 - 를 포함한다. 유닛/회로/컴포넌트가 하나 이상의 태스크를 수행"하도록 구성"됨을 언급하는 것은 그 유닛/회로/컴포넌트에 대해 미국 특허법 35 U.S.C.§ 112, (f) 규정이 적용되지 않도록 하기 위한 의도의 명시이다. 부가적으로, "~하도록 구성되는"은 사안이 되는 태스크(들)를 수행할 수 있는 방식으로 동작하도록 소프트웨어 및/또는 펌웨어(예를 들어, FPGA 또는 소프트웨어를 실행하는 범용 프로세서)에 의해 조작되는 일반적인 구조(예를 들어, 일반적인 회로부)를 포함할 수 있다. "~하도록 구성되는"은 또한 하나 이상의 태스크들을 구현하거나 수행하도록 적응된 디바이스들(예를 들어, 집적 회로들)을 제조하도록 제조 프로세스(예를 들어, 반도체 제조 설비)를 적응하는 것을 포함할 수 있다.
"제1", "제2", 등. 본 명세서에서 사용되는 바와 같이, 이러한 용어들은 이들이 선행하고 있는 명사들에 대한 라벨들로서 사용되고, 임의의 타입의(예를 들어, 공간적, 시간적, 논리적 등) 순서를 암시하는 것은 아니다. 예를 들어, 버퍼 회로는 "제1" 및 "제2" 값들에 대한 기입 동작들을 수행하는 것으로서 본 명세서에서 설명될 수 있다. 용어들 "제1" 및 "제2"는 반드시 제1 값이 제2 값 전에 기입되어야 한다는 것을 암시하지는 않는다.
"~에 기초하여(Based on)". 본 명세서에서 사용되는 바와 같이, 이들 용어들은 결정에 영향을 주는 하나 이상의 인자들을 설명하기 위해 사용된다. 이들 용어들은 결정에 영향을 줄 수 있는 부가적인 인자들을 배제하지 않는다. 즉, 결정은 오직 그들 인자들에만 기초하거나 또는 그들 인자들에 적어도 부분적으로 기초할 수 있다. "B에 기초하여 A를 결정한다"라는 문구를 고려한다. 이 경우에, B가 A의 결정에 영향을 주는 인자이기는 하지만, 그러한 문구는 A의 결정이 또한 C에도 기초하는 것임을 배제하지 않는다. 다른 예시들에서, A는 오직 B에만 기초하여 결정될 수 있다.
운송수단 내의 승객들에게 향상된 가상 현실(VR) 경험을 제공하기 위한 방법들 및 장치들의 다양한 실시예들이 기술된다. 실시예들이, 일반적으로, 본 명세서에서, 운송수단 내의 승객들에게 향상된 VR 경험을 제공하고 VR 제어기들 및 VR 투영 디바이스들을 포함하는 VR 시스템으로 지칭되지만, VR 시스템의 일부 실시예들은 그 대신에 또는 역시 운송수단 내의 승객들에게 혼합 현실(MR) 경험을 제공할 수 있다는 것에 유의한다.
본 명세서에서 사용되는 바와 같이, 용어 "운송수단"은 일반적으로 승용차를 지칭한다. 유사하게, 본 명세서에서 사용되는 바와 같이, "승객"은 일반적으로 운송수단의 탑승자를 지칭한다. 본 명세서에 기술되는 바와 같은 VR 시스템의 실시예들은, 예를 들어, 모든 탑승자가 승객들인 자율 또는 "자가-운전" 운송수단에서 구현될 수 있다. 그러나, 실시예들은, 또한, 제약 내에서, 한 명의 탑승자가 운전자인 종래의 운송수단에서 구현될 수 있다는 것에 유의한다. 또한, 실시예들은 다른 타입의 노면 운송, 예를 들어 버스 및 기차에서 구현될 수 있고, 또한, 비행기, 헬리콥터, 보트, 선박 등에서의 사용을 위해 구성될 수 있다. 본 명세서에서 사용되는 바와 같이, 용어 "운송수단"은 이러한 용례들 모두를 포괄한다. 또한, 실시예들은, 일반적으로, 움직이는 운송수단 내의 승객들에게 향상된 VR 경험을 제공하는 것으로 기술된다는 것에 유의해야 한다. 그러나, 일부 실시예들에서, VR 시스템은 사용자들에게 흥미로운 VR 경험을 제공하기 위해 정지형 운송수단에서 사용될 수 있다. 또한, 일부 실시예들에서, VR 시스템에 의해 제공되는 움직이는 운송수단에서의 향상된 VR 경험은, 예를 들어, 거실에 앉아 있는 동안, 또는 경험에 맵핑될 수 있는 유사한 루트를 따르는 동안, 오리지널 경험을 가졌던 사람에 의한 또는 다른 사람들에 의한 향후 재생을 위해 기록될 수 있다. 게다가, 일부 실시예들에서, 운송수단 내의 두 명 이상의 승객들, 또는 운송수단 내의 한 명 이상의 승객들과 사무실 또는 가정과 같은 다른 위치에 있는 한 명 이상의 사람들이 VR 시스템을 사용하여 가상 환경에 참여할 수 있다.
운송수단 내의 많은 승객들이 멀미를 경험할 수 있다. 전형적으로, 이는 운전자에 대한 경우가 아니다. 그러나, 자율 운송수단의 도입으로, 운전자는 승객이 되며, 따라서, 예를 들어, 출근하는 동안에 무엇인가를 하고 싶어 할 수 있다. 종래의 또는 자율 운송수단 내의 승객들은, 예를 들어, 책을 읽거나, 그들의 노트북 컴퓨터 상에서 작업하기를 원할 수 있다. 그러나, 운송수단 내의 많은 승객들은 책을 읽거나 컴퓨터 상에서 작업하려고 노력하는 경우에 멀미를 경험할 수 있는데, 그 이유는 움직임의 전정 감각이 경험된 시각적 움직임에 대응하지 않기 때문으로, 예컨대, 전정 기관은 승객이 운송수단의 가속도를 경험하고 있음을 보고하는 반면, 주로 책 또는 컴퓨터 스크린의 화상(imagery)에 의해 관여되는 시각적 감각은 승객이 움직이고 있지 않거나 운송수단이 움직이고 있는 것과는 매우 상이하게 움직이고 있음을 보고하기 때문이다. 그들의 시각의 대부분은 움직이고 있지 않는 물체들(예컨대, 책 또는 컴퓨터 스크린)로 채워지는 반면, 그들의 전정 감각은 가속도를 보고한다. 멀미에 기여할 수 있는 다른 생리학적 효과는, 곡선을 그리며 돌고 있을 때 또는 다른 운송수단 회전 동안에 승객의 머리가 옆으로, 아래로, 또는 뒤로 기울어져 있는 경우에; 승객이 신체의 시각 및 전정계로부터의 움직임에 응답하여 상이한 방향 감각 상실 신호(different and disorienting signal)들을 경험할 수 있다는 것이다.
HMD와 같은 VR 시스템의 도입으로, 승객들은 운송수단에 탑승해 있으면서 VR 경험을 즐기기를 원할 수 있다. 그러나, 종래의 VR 시스템들은, 또한, 사람의 신체가 그가 시각적으로 보고 있는 것과는 상이한 움직임을 경험함에 따라, 움직이는 운송수단에서 멀미를 야기할 수 있다. 또한, 많은 사람들은 운송수단의 뒷자리 시트에 앉아 있으면서 유사한 이유로 멀미를 경험하는데, 이는 그들의 눈이 차량의 내부에 초점을 맞출 수 있기 때문이며, 그에 따라 그들이 경험하는 움직임은 그들이 시각적으로 보고 있는 것과 매칭되지 않을 수도 있는데, 이는 그렇다 하더라도 그들이 운송수단으로부터 전방 뷰를 잘 볼 수 없기 때문이다. 이러한 문제는, 예를 들어 자율 운송수단에서 제공될 수 있는 바와 같이, 승객들이 후방 대면 시트(rear-facing seat)에 탑승하고 있는 경우에 더 악화될 수 있다. 또한, 자율 운송수단은 제한된 윈도우를 갖거나 심지어 윈도우를 갖지 않을 수 있으며, 따라서 그러한 운송수단에서 승객들이 경험하는 움직임은 그들이 시각적으로 보고 있는 것과 매칭하지 않을 수 있어서, 잠재적으로 멀미를 야기할 수 있다.
승객들에게 멀미를 유발할 수 있는, 움직이고 있는 운송수단이 갖는 이들 및 다른 문제를 해결하기 위해, VR 방법들을 구현할 수 있는 VR 시스템의 실시예들이 기술된다. VR 시스템의 실시예들은, 예를 들어, 시각적 큐들을 움직이는 운송수단 내의 승객이 경험하고 있는 움직임과 매칭시키는 것을 돕는 증강된 또는 가상 뷰를 제공할 수 있다. 추가로, VR 시스템의 실시예들은 승객이 보거나 읽기를 원할 수 있는 콘텐츠, 예컨대 컴퓨터 스크린, 책, 또는 비디오를 뷰어로부터 소정 거리에 있는(예컨대, 운송수단의 외부에 그리고 그 전방의 소정 거리에 있는) 가상 콘텐츠로서 투영하여, 실제 환경의 시각적 큐들이 승객의 시야 내에서 움직이고 있는 동안에 가상 콘텐츠가 외부 환경에서 안정화되거나 고정된 멀리 있는 물체로 보이게 하여, 승객이 그의 무릎에 놓인 휴대용 컴퓨팅 디바이스 상의 물리적 스크린 상에서 작업하거나 그 상의 콘텐츠를 보려고 하거나 또는 물리적 책 또는 서류를 읽으려고 노력하고 있던 경우에 발생할 수 있는 바와 같이, 승객이 멀미를 경험하지 않으면서 편안하게 일하거나 보거나 읽는 것을 허용할 수 있다. 따라서, VR 시스템의 실시예들은 생산성(productivity)에 도움이 될 수 있는데, 이는 운송수단 내의 승객들이 운송수단에 탑승해 있는 동안에 더 편안하게 작업을 수행할 수 있기 때문이다.
전술된 바와 같이, VR 시스템의 실시예들은 승객으로부터의 소정 거리에서 (예컨대, 운송수단의 외부에 그리고 그 전방의 소정 거리에서) 보기 위한 가상 콘텐츠를 투영하여, 실제 환경의 시각적 큐들이 승객의 시야 내에서 움직이고 있는 동안에 가상 콘텐츠가 외부 환경에서 안정화되거나 고정된 멀리 있는 물체로 보이게 할 수 있다. 일부 실시예들에서, 이러한 시각적 큐들은 운송수단의 실제 속도 또는 가속도에 대해 1:1 맵핑 비로 지나갈 수 있다. 그러나, 일부 실시예들에서, 시각적 큐들은, 운송수단의 실제 속도 또는 가속도와 비교할 때 감속되거나 가속될 수 있는데, 이는, 예를 들어, 멀미를 완화시키는 데 도움을 줄 수 있거나, 또는 승객에게 다른 효과 또는 감각을 제공하는 데 사용될 수 있다. 예를 들어, 1:1 맵핑 비를 유지하는 것, 또는 시각적 큐들을 감속시키는 것은 멀미가 잘 나거나 멀미의 징후를 보이는 승객에게서 멀미를 완화시키는 것을 도울 수 있다. 다른 예로서, 멀미가 잘 나지 않거나 멀미의 징후를 보이지 않는 승객의 경우, 시각적 큐들은, 예를 들어 1:2 맵핑 비로 가속되어, 승객에게 향상되고 더 신나는 가상 경험을 제공할 수 있다.
일부 실시예들에서, VR 시스템은 승객들에게로의 투영을 위해 가상 콘텐츠를 생성하는 적어도 하나의 VR 제어기, 및 승객의 양눈에 좌측 및 우측 이미지들을 포함하는 프레임들을 투영 또는 디스플레이하여 이에 따라 승객에게 3D 가상 뷰를 제공하기 위한 프로젝터 메커니즘을 포함하는 헤드셋, 헬멧, 고글, 또는 안경(본 명세서에서 HMD로 지칭됨)과 같은 적어도 하나의 VR 투영 디바이스를 포함할 수 있다. 운송수단 내에 두 명 이상의 승객들이 있는 경우, VR 시스템은 하나 초과의 HMD를 포함할 수 있고; 각각의 승객은 VR 제어기에 의해 제어되는 HMD를 착용할 수 있다. 대안으로, 일부 실시예들에서, VR 시스템은 승객들에게로의 투영을 위한 가상 콘텐츠를 생성하는 적어도 하나의 VR 제어기, 및 운송수단의 윈도우에 가상 콘텐츠를 포함하는 프레임들을 투영하거나 디스플레이하여 이에 따라 승객들에게 3D 가상 뷰를 제공하기 위한 적어도 하나의 프로젝터 메커니즘을 포함할 수 있다. 어느 경우든, 3D 가상 뷰는, 운송수단 외부의 환경을 포함하고 가상 콘텐츠(예컨대, 가상 물체, 가상 태그 등)로 증강된, 승객의 환경의 뷰를 포함할 수 있거나, 또는 대안으로, 운송수단 외부의 환경의 시각적 큐들을 포함할 수 있는 몰입형 VR 환경을 제공할 수 있다.
VR 시스템의 실시예들은, 운송수단 내부 및 외부 센서(예컨대, 깊이 카메라(예컨대, LiDAR) 및 비디오카메라), 운송수단 및 HMD IMU, 운송수단 제어 시스템, 예컨대 스로틀 제어, 제동, 조향, 운항, 및 능동 서스펜션 시스템, 클라우드 기반 저장소 또는 네트워크 기반 애플리케이션과 같은 외부 소스로부터의 세계 지도, 3D 모델, 비디오, 오디오, 및 다른 정보, 운송수단 AV 시스템으로부터의 비디오 또는 오디오 입력, 운송수단 AV 시스템에 접속된 스마트폰과 같은 모바일 다목적 디바이스 상의 애플리케이션들로부터의 입력, 운송수단의 OBD-II 포트에 접속된 디바이스들로부터의 입력, 및 HMD 또는 다른 VR 투영 시스템을 통한 출력을 위해 증강된 또는 몰입형 가상 콘텐츠를 생성하는 사용자 디바이스, 예컨대 노트북 컴퓨터, 태블릿, 또는 스마트폰을 포함하지만 이들로 제한되지 않는 다수의 소스들로부터의 입력들을 통합할 수 있다. 일부 실시예들에서, VR 시스템은, 또한, (예컨대, 제약 내에서 제동, 가속도, 조향, 또는 서스펜션/움직임을 제어하기 위한) 운송수단 제어 시스템 및 운송수단 능동 시스템(예컨대, 오디오 및 HVAC 시스템, 및 능동 시트)에 대해 신호들을 생성하여, 투영된 가상 콘텐츠와 동기화되는 물리적 효과를 제공함으로써, 승객의 경험을 더욱 향상시킬 수 있다. 디스플레이를 위해 가상 콘텐츠를 렌더링할 때, VR 시스템은 운송수단 내의 하나 이상의 소스들로부터의 입력들에 기초하여 가상 콘텐츠의 움직임 및 가속도를 운송수단에 의해 이동되고 있는 현실 세계의 루트를 따르는 운송수단의 움직임 및 가속도와 동기화시킬 수 있다.
움직이는 운송수단 내의 승객들에 대한 멀미의 문제를 다루는 것 외에도, 그리고 움직이는 운송수단 내의 승객에게 개선된 생산성과 같은 이득을 제공함에 있어서, VR 시스템의 실시예들은, 예를 들어, 현실 세계의 뷰를 승객이 원할 수 있는 다양한 타입의 가상 경험 및 환경 중 임의의 것으로 대체함으로써, 운송수단 내의 승객들에게 몰입형 VR 경험을 제공할 수 있다. 운송수단 움직임은 멀미를 방지하는 것을 돕기 위해 또는 가상 경험을 향상시키기 위해 가상 경험에 통합될 수 있다. VR 시스템을 움직이고 있는 운송수단과 통합하는 것은, 정지형 시뮬레이터를 사용하거나 HMD를 착용하고서 방에 앉아 있는 동안에 이용가능하지 않은 가상 경험을 향상시키기 위한 기회를 제공한다. 예를 들어, 가상 경험에서의 가속도 및 움직임은 운송수단의 가속도 및 움직임에 매칭되거나 그에 의해 향상될 수 있다. 일부 실시예들에서, 제약 내의 능동 운송수단 시스템들(예컨대, HVAC 시스템, 오디오 시스템, 및 능동 시트) 및/또는 운송수단 제어 시스템들(예컨대, 제동, 스로틀, 조향, 및 능동 서스펜션 시스템들)은 VR 시스템과 통합되어, 가상 경험과 함께 물리적 효과, 예를 들어 HVAC 시스템을 통한 돌풍 또는 열, 오디오 시스템을 통한 서라운드 사운드 및 사운드 효과, 및 시트를 통한 가속도 또는 움직임 효과를 제공할 수 있다 승객들은, 운송수단에 탑승해 있으면서, 강을 따라 흘러 내려가는 것 또는 행글라이더에서 풍경 위에서 솟구치는 것과 같은 느긋한 가상 경험, 또는 좀비가 공격하는 포스트-아포칼립틱 황무지(post-apocalyptic wasteland)를 통과하는 차량 추격전 또는 운전과 같은 신나는 가상 경험, 또는 이들 사이의 어느 것을 가질 것을 선택할 수 있다. 승객들은 런던 거리와 같은 또 다른 실제 위치를 지나가는 또는 허구의 도시 또는 풍경을 지나가는 가상의 탑승 경험을 가질 것을 선택할 수 있다. 가상 경험은 교육적이고 상호작용적이어서, 예를 들어 승객들이 그들이 경험하고 있는 도시의 가상 뷰에서 랜드마크들에 관한 이력 또는 다른 정보를 발견하는 것을 허용할 수 있다. 가상 경험은 다른 방식으로 상호작용적이어서, 예를 들어 승객이 도로 경주 경험 동안에 다른 운송수단을 지나가게 하거나, 또는 포스트-아포칼립틱 풍경에서 좀비들을 치고 가는 것을 허용할 수 있다. 다른 예로서, 운송수단이 포스트-아포칼립틱 풍경에서 좀비를 피해 도망할 때 적색 신호등에서 또는 어떤 다른 이유로 정지하면, 가상 경험은 운송수단이 시동이 멎은 것으로 보이게 할 수 있고, 긴장감을 쌓기 위해 신호등이 녹색으로 바뀔 때까지 차량이 재출발되게 하지 않을 수도 있다.
일부 실시예들에서, 실제 또는 허구의 사람들의 가상 뷰는 VR 시스템에 의해 제공되는 가상 경험 내에 통합될 수 있다. 예를 들어, 저작자 또는 토크 쇼 호스트의 가상 표현이 승객 옆의 시트에 앉아 있는 것으로 보일 수 있고; 가상 저작자는 승객에게 그의 책들 중 하나를 읽어주는 것일 수 있거나, 또는 가상 토크 쇼 호스트는 그의 음성이 오디오 시스템을 통해 제공되는 상태로 승객 옆의 시트로부터 그의 쇼를 호스팅할 수 있다. 다른 예로서, 승객은 밴드가 평상 위에서 공연하고 있는 평상형 트럭에 탑승해 있으면서 밴드의 음악이 오디오 시스템을 통해 제공되는 것을 경험할 수 있다.
일부 실시예들에서, 차량 내의 두 명 이상의 승객들이 동일한 가상 경험에 참여할 수 있다. 예를 들어, 네 명의 승객들은, 승객들이 풍경 또는 도시 위로 떠다니는 거대 행글라이더에 있는 것처럼 뷰를 투영하는 HMD를 각각 착용할 수 있다. 승객들의 가상 경험은 상호작용적일 수 있고; 예를 들어, 승객들은 가상 물 풍선들을 환경 내의 특징부들 상으로 떨어뜨릴 수 있다.
일부 실시예들에서, 몰입형 VR 경험은 운송수단에 탑승해 있는 동안에 생산성을 향상시키면서, 또한, 참여자들에게 흥미로운 VR 경험을 제공하는 데 사용될 수 있다. 예를 들어, 두 명 이상의 사람들이 가상 환경에서, 예를 들어 가상의 방 안에서 또는 평상형 트럭의 평상 위에서 테이블 주위의 아바타들로서 회의를 개최할 수 있다. 대안으로, 참여자들 중 상이한 참여자들은 회의에 대한 상이한 VR 환경들을 경험할 수 있고; 예를 들어, 한 명의 참여자에게, 그것은 그들이 트럭의 평상 위에서 회의 중인 것으로 보일 수 있는 한편, 다른 참여자에게, 그것은 그들이 사무실에 있는 방 안에서 회의 중인 것으로 보일 수 있다. 참여자들은 출근 도중에 또는 퇴근 도중에 동일한 운송수단 내에, 또는 상이한 운송수단 내에 있을 수 있다. 또는, 참여자들 중 일부는 출근 도중에 또는 퇴근 도중에 운송수단 내에 있을 수 있는 한편, 한 명 이상의 다른 이들은 이미 사무실에 있거나, 집에 있거나, 또는 다른 위치에 있을 수 있다. 참여자의 컴퓨터 스크린들 중 하나의 컴퓨터 스크린의 뷰가 모든 참여자들이 보도록 하기 위해 가상 환경 내에 투영될 수 있다. 일부 실시예들에서, 참여자들은 그들의 실제 환경에 기초하여 상이한 가상 경험들을 갖는다. 예를 들어, 이미 사무실에 있는 참여자는 시뮬레이션된 사무실 환경에서의 회의를 볼 수 있는 한편, 여전히 자신의 운송수단 내에 있는 참여자들은 가상 평상형 트럭의 평상 위에서의 회의를 볼 수 있다. 상이한 운송수단 내의 참여자들의 경우, 가상 경험은 그들이 실제 환경에서 따르는 상이한 루트들에 따라 상이할 수 있다.
일부 실시예들에서, 2개 이상의 자율 운송수단 내의 VR 시스템들은 상이한 운송수단 내의 승객들에게 흥미로운 상호작용 경험을 제공하기 위해 사용될 수 있다. 예를 들어, 자율 운송수단은 트랙 또는 넓고 개방된 부지로 이동될 수 있고, VR 시스템은 승객들에게 경주의 가상 경험을 제공하기 위해 사용될 수 있다. VR 시스템들은 운송수단 내의 승객들에게 시각적, 청각적 및 촉각적 VR 경험을 제공하면서, 트랙 상에서 또는 부지 내에서 주위를 운전할 것을 제약 내에서 운송수단의 제어 시스템들(예컨대, 조향, 제동, 스로틀, 능동 서스펜션)에게 지시할 수 있다. 예를 들어, 승객이 경주용 차량에 앉아 있고 다른 경주용 차량으로 보여지는 다른 운송수단이 경주에 참여하고 있음이, 시각적으로, 청각적으로, 그리고 운송수단 내의 VR 시스템에 의해 생성된 물리적 입력들을 통해 승객에게 보일 수 있다. 다른 예로서, 승객이 실제 영화로부터의 장면에 참여하고 있음이 승객에게 보일 수 있다.
상기 내용은 본 명세서에서 기술되는 바와 같은 VR 시스템에 의해 제공될 수 있고 VR 시스템을 위해 사용되는 상이한 증강된 또는 몰입형 가상 경험의 단지 일부 예들을 제공하며, 제한하는 것으로 의도되지 않는다.
도 1은 일부 실시예들에 따른, 운송수단 내의 승객들에 의해 사용될 수 있는 HMD를 포함하는 가상 현실(VR) 시스템을 도시한다. 이러한 실시예들에서, 운송수단 내의 VR 시스템(100)은 VR 제어기(110)(예컨대, 계기판 아래에 장착됨) 및 VR 헤드셋(HMD(112))을 포함한다. HMD(112)는 다양한 타입의 가상 현실 투영 기술들 중 임의의 것을 구현할 수 있다. 예를 들어, HMD(112)는 DLP(digital light processing), LCD(liquid crystal display) 및 LCoS(liquid crystal on silicon) 기술 VR 시스템들과 같은, 사용자(190)의 양눈의 전방에 있는 스크린 상에 승객(190)이 보게 되는 좌측 및 우측 이미지들을 투영하는 근안(near-eye) VR 시스템일 수 있다. 다른 예로서, HMD(112)는 승객(190)의 양눈에 대해 좌측 및 우측 이미지들을 픽셀 단위로 스캐닝하는 직접 망막 프로젝터 시스템일 수 있다. 이미지를 스캐닝하기 위해, 좌측 및 우측 프로젝터들은 사용자(190)의 양눈의 전방에 위치된 좌측 및 우측 반사 컴포넌트들(예컨대, 타원형 미러들, 또는 홀로그래픽 컴바이너들)로 지향되는 빔들을 생성하고; 반사 컴포넌트들은 빔을 사용자의 양눈으로 지향시킨다. 3차원(3D) 효과를 생성하기 위해, 3D 가상 뷰(114)에서 상이한 깊이 또는 거리에 있는 가상 콘텐츠(116)는 거리의 삼각측량의 함수로서 2개의 이미지들에서 좌측 또는 우측으로 시프트되는데, 이때 더 가까운 객체들은 더 먼 물체보다 더 많이 시프트된다.
승객(190)은, 예를 들어, 사용자 디바이스(192)(예컨대, 노트북 또는 랩톱 컴퓨터) 상에서 작업하는 동안에 HMD(112)를 착용할 수 있다. 제어기(110) 및 HMD(112)는 유선(예컨대, 사용자가 시트 또는 콘솔 상의 포트(예컨대, USB 포트)에 HMD(112)를 플러그인할 수 있음) 또는 무선(예컨대, 블루투스) 접속을 통해 통신가능하게 커플링될 수 있다. 제어기(110) 및 사용자 디바이스(192)는, 또한, 유선(예컨대, 사용자가 시트 또는 콘솔 상의 포트(예컨대, USB 포트)에 사용자 디바이스(192)를 플러그인할 수 있음) 또는 무선(예컨대, 블루투스) 접속을 통해 통신가능하게 커플링될 수 있다. 사용자 디바이스(192)로부터 출력되는 비디오는 VR 제어기(110)에 제공될 수 있고, 이는, 이어서, HMD(112)에 제공되는 프레임들 내에, 디바이스(192)(예컨대, 윈도우)로부터의 출력을 포함하는 가상 콘텐츠를 생성할 수 있다. HMD(112)는 승객(190)이 보기 위한 프레임들을 투영할 수 있다. 일부 실시예들에서, 프레임들은 승객(190)이 실제 환경의 뷰에서의 가상 콘텐츠(116)를 보도록 혼합 또는 증강 현실 뷰에 투영될 수 있거나, 또는 대안으로, 다른 가상 콘텐츠를 갖는 가상 환경 내에 투영될 수 있다. 실제 환경의 뷰에 투영되는 경우, 가상 콘텐츠(116)는 멀미를 야기할 수 있는 효과를 완화시키기 위해, 운송수단의 전방의 소정 거리에(예컨대, 수 미터에, 또는 심지어 수평선에서 거대 디스플레이로 보이는 거리에) 고정된 것으로 보일 수 있다. 가상 환경 내에 투영되는 경우, 가상 콘텐츠(116)는 승객(190)의 전방의 소정 거리에 고정된 것으로 보일 수 있고, 시각적 큐들(예컨대, 승객(190)을 지나쳐서 움직이는 가상 마커들)이 멀미를 야기할 수 있는 효과를 완화시키도록 제공될 수 있다.
도 2는 일부 실시예들에 따른, 승객들이 보게 하기 위해 VR 콘텐츠를 운송수단의 윈도우에 투영하는 VR 시스템을 도시한다. 이러한 실시예들에서, 운송수단 내의 VR 시스템(200)은 VR 제어기(210)(예컨대, 계기판 아래에 장착됨) 및 가상 콘텐츠를 윈도우(208)(예컨대, 운송수단의 윈드실드) 상에 투영하도록 구성된 프로젝터(220) 시스템을 포함한다. 일부 실시예들에서, 윈도우(208)는 종래의 유리 윈도우 상에 광을 투영함으로써 달성될 수 있는 것 이상으로 투영을 개선하기 위해 도파관 기술 또는 홀로그래픽 컴바이너 기술과 같은 기술을 포함할 수 있다. 승객(290)은 사용자 디바이스(292)(예컨대, 노트북 또는 랩톱 컴퓨터) 상에서 작업할 수 있다. 제어기(210)와 프로젝터(220)는 유선 또는 무선(예컨대, 블루투스) 접속을 통해 통신가능하게 커플링될 수 있다. 제어기(210) 및 사용자 디바이스(292)는 또한, 유선(예컨대, 사용자가 시트 또는 콘솔 상의 포트(예컨대, USB 포트)에 사용자 디바이스(292)를 플러그인할 수 있음) 또는 무선(예컨대, 블루투스) 접속을 통해 통신가능하게 커플링될 수 있다. 사용자 디바이스(292)로부터 출력되는 비디오는 VR 제어기(210)에 제공될 수 있고, 이는, 이어서, 프로젝터(220)에 제공되는 프레임들 내에, 디바이스(292)(예컨대, 윈도우)로부터의 출력을 포함하는 가상 콘텐츠를 생성할 수 있다. HMD(220)는 승객(290)이 보기 위한 프레임들을 윈도우(208) 상에 투영할 수 있다. 일부 실시예들에서, 프레임들은 승객(290)이 윈도우(208) 밖의 실제 환경의 뷰에서의 가상 콘텐츠(216)를 보도록 혼합 또는 증강 현실 뷰(214)에 투영될 수 있거나, 또는 대안으로, 다른 가상 콘텐츠를 갖는 가상 환경 내에 투영될 수 있다. 실제 환경의 뷰에 투영되는 경우, 가상 콘텐츠(216)는 멀미를 야기할 수 있는 효과를 완화시키기 위해, 운송수단의 전방의 소정 거리에(예컨대, 수 미터에, 또는 심지어 수평선에서 거대 디스플레이로 보이는 거리에) 고정된 것으로 보일 수 있다. 가상 환경 내에 투영되는 경우, 가상 콘텐츠(216)는 승객(290)의 전방의 소정 거리에 고정된 것으로 보일 수 있고, 시각적 큐들(예컨대, 승객(290)을 지나쳐서 움직이는 가상 마커들)이 멀미를 야기할 수 있는 효과를 완화시키도록 제공될 수 있다.
도 2가 운송수단의 윈드실드와 같은 윈도우(208) 상으로의 투영을 도시하지만, 일부 실시예들에서, 하나 이상의 프로젝터들(220)은 "랩어라운드(wrap around)" 가상 경험을 제공하기 위해, VR 제어기(210)에 의해 생성되는 가상 콘텐츠를 운송수단 내의 하나 이상의 다른 윈도우들(예컨대, 측방 또는 도어 윈도우, 또는 후방 윈도우)에, 또는 운송수단 내의 모든 윈도우들에 투영하는 데 사용될 수 있다. 또한, 일부 실시예들에서, 운송수단의 윈도우(들) 상에 가상 콘텐츠를 디스플레이하는 대신에 또는 그에 더하여, 운송수단 내의 하나 이상의 디스플레이 스크린들이 VR 제어기(210)에 의해 생성된 가상 콘텐츠를 디스플레이하는 데 사용될 수 있다는 것에 유의한다.
도 3은 일부 실시예들에 따른, 뷰어에게 운송수단의 전방의 소정 거리에 있는 실제 환경에서의 공간에 고정된 것으로 보이도록 VR 콘텐츠(316)를 투영하는 것을 도시한다. 도 3에 도시된 바와 같이, 가상 콘텐츠(316)(예컨대, 승객이 보유하고 있는 컴퓨팅 디바이스의 디스플레이 또는 디스플레이의 일부분들의 투영)는, 예를 들어 멀미를 야기할 수 있는 효과를 완화시키기 위해, 승객에게 운송수단의 전방의 소정 거리에서(예컨대, 수 미터, 또는 심지어 수평선에서 거대 디스플레이로 보이는 거리에서) 고정된 것으로 보일 수 있다. 일부 실시예들에서, 가상 콘텐츠(316)는 승객이 콘텐츠(316) 뒤의 장면을 볼 수 있도록 부분적으로 투명할 수 있다. 가상 콘텐츠(316)는 다양한 디스플레이 윈도우들(예컨대, 길찾기, 브라우저, 웹페이지, 생산성 툴(예컨대, 워드프로세서), 이메일 애플리케이션 또는 이메일 메시지, 메시징 애플리케이션, 게임 윈도우, 비디오(예컨대, 비디오 스트리밍 애플리케이션으로부터의 비디오) 등을 포함할 수 있지만, 이들로 제한되지 않는다. 실시예들이 노트북 컴퓨터와 같은 승객의 개인 디바이스로부터 입력된 가상 콘텐츠(316)를 디스플레이하는 것으로 기술되지만, 다른 소스들로부터의 콘텐츠, 예를 들어 운송수단의 AV 시스템의 DVD 또는 Blu-Ray® 재생기로부터의 비디오 또는 다른 콘텐츠, 또는 외부(예컨대, 네트워크 기반) 소스로부터의 비디오 또는 다른 콘텐츠가 그 대신에 또는 역시 디스플레이될 수 있다는 것에 유의한다.
도 4는 일부 실시예들에 따른, 뷰어에게 운송수단으로부터 현실 세계 뷰에서의 공간 내에 있는 것으로 보이도록 VR 콘텐츠를 투영하는 것을 도시한다. 승객(490)은 운송수단의 시트(480)에 착석될 수 있다. 도 1 또는 도 2에 도시된 바와 같은 VR 시스템은 운송수단의 전방에서 또는 그 주위에서 가상 콘텐츠(416)를 현실 세계 뷰(417)에 투영할 수 있다. 일부 실시예들에서, 현실 세계 뷰(417)는 운송수단의 윈도우들을 통해 제공될 수 있다. 대안으로, 일부 실시예들에서, 현실 세계 뷰(417)는 운송수단 상의 비디오카메라들에 의해 제공될 수 있고; VR 시스템은 가상 콘텐츠(416)를 운송수단 주위에서 또는 그 전방에서 현실 세계의 비디오와 합성할 수 있고, 승객(490)에게로의 디스플레이를 위해 HMD 또는 프로젝터에 합성된 비디오를 제공할 수 있다. 도 4에 도시된 바와 같이, 가상 콘텐츠(416)(예컨대, 승객이 보유하고 있는 컴퓨팅 디바이스(492)의 디스플레이의 투영)는, 예를 들어 멀미를 야기할 수 있는 효과를 완화시키기 위해, 승객(490)에게 운송수단의 전방의 소정 거리에서(예컨대, 수 미터, 또는 심지어 수평선에서 거대 디스플레이로 보이는 거리에서) 고정된 것으로 보일 수 있다.
도 5는 일부 실시예들에 따른, 뷰어에게 운송수단으로부터의 시뮬레이션된 뷰에서의 공간 내에 있는 것으로 보이도록 VR 콘텐츠를 투영하는 것을 도시한다. 승객(590)은 운송수단의 시트(580)에 착석될 수 있다. 도 1 또는 도 2에 도시된 바와 같은 VR 시스템은 가상 콘텐츠(516)를 포함하고 현실 세계 뷰를 대체하는 가상 세계(518)를 표현하는 프레임들을 생성할 수 있으며, 승객(590)에게로의 디스플레이를 위해 HMD 또는 프로젝터에 프레임들을 제공할 수 있다. 도 5에 도시된 바와 같이, 가상 콘텐츠(516)(예컨대, 승객이 보유하고 있는 컴퓨팅 디바이스(592)의 디스플레이의 투영)는, 예를 들어 멀미를 야기할 수 있는 효과를 완화시키기 위해, 승객(590)에게 승객의 전방의 소정 거리에서(예컨대, 수 미터, 또는 심지어 수평선에서 거대 디스플레이로 보이는 거리에서) 고정된 것으로 보일 수 있다. 일부 실시예들에서, 시각적 큐들(예컨대, 승객(590)을 지나서 움직이고 있는 것으로 보이는 가상 물체들)이 가상 세계에 포함되어, 멀미를 완화시키는 것을 돕거나 또는 흥미로운 시각적 경험을 제공하게 할 수 있다. 도시되어 있지 않지만, 일부 실시예들에서, 가상 운송수단 내부가 가상 세계에 포함될 수 있고; 가상 운송수단 내부는 승객(590)이 보기를 원하는 임의의 타입의 운송수단, 예를 들어, 이국적인 슈퍼카, 컨버터블, 또는 고급 차를 표현하게 될 수 있다. 다른 타입의 가상 운송수단, 예컨대 모터사이클 또는 헬리콥터가, 또한, 승객(590)에게 흥미롭거나 신나는 경험을 제공하도록 렌더링될 수 있다.
일부 실시예들에서, 승객(590)의 양손 및 사용자 디바이스(592)(예컨대, 키보드)의 가상 표현들이, 또한, 디바이스(592)를 사용할 때 승객(590)을 돕도록 하기 위해 가상 콘텐츠(516)에 보여질 수 있다. 일부 실시예들에서, 사람의 양팔, 양손 및 양다리를 포함하지만 이로 제한되지 않는 승객(590)의 가상 표현이, 또한, 가상 콘텐츠(516)에 보여질 수 있다. 승객(590)의 가상 표현은 특정 가상 경험과 매칭하도록 렌더링될 수 있다. 예를 들어, 사용자가 가상 마차에 탑승해 있으면서 가상 로마 여행을 경험하고 있는 경우, 마차와 말을 보여주는 것 외에도, 가상 표현은 사람이 그의 양팔과 양손에 로마식 장신구가 렌더링된 상태로 토가(toga)와 샌들을 착용하고 있음을 보여줄 수 있다.
도 6은 일부 실시예들에 따른, 운송수단 내의 VR 시스템을 도시한다. 도 6은 HMD들(692)을 포함하는, 도 1에 도시된 바와 같은 VR 시스템을 도시하지만; 유사한 구성이 도 2에 도시된 바와 같은 VR 시스템을 구현할 수 있다는 것에 유의한다. 도 6에 도시된 바와 같이, 운송수단(600)(이는, 자율 운송수단일 수 있지만, 반드시 그러한 것은 아님)은 VR 제어기(610), 운송수단 시스템들(626)(예컨대, 스로톨, 제동, 조향, 및 능동 서스펜션 시스템들뿐 아니라 운항, HVAC 및 AV 시스템들과 같은 운송수단 제어 시스템들), 내부 및 외부 센서들(예컨대, 깊이 맵핑용 LiDAR, 내부 또는 외부 뷰용 비디오카메라, IMU, 국지화(localization) 시스템 등)을 포함할 수 있다. 운송수단(600)은 승객들(690)을 위한 하나 이상의 시트들을 포함할 수 있다. 이러한 예에서, 전방 대면 시트 및 후방 대면 시트가 예시적인 목적을 위해 사용된다. 승객(690A)은 후방 대면 시트에 앉아 있을 수 있는 한편, 승객(690B)은 전방 대면 시트에 앉아 있을 수 있다. 승객들(690A, 690B)은 각자의 HMD들(692A, 692B)을 착용하고 있다.
일부 실시예들에서, VR 제어기(610)는 하나 이상의 센서들(624)로부터 그리고 하나 이상의 운송수단 시스템들(626)로부터의 입력들을 획득할 수 있고, 또한, 하나 이상의 외부 소스들(예컨대, 클라우드 기반 저장소 또는 네트워크 기반 애플리케이션들)로부터의 입력들을 획득할 수 있고, 또한, 승객들(690)이 보유한 사용자 디바이스들로부터의 입력들을 획득할 수 있다. VR 제어기(610)는, 적어도 부분적으로 다양한 입력들에 따라 승객들(690A, 690B)을 위한 각자의 VR 뷰(694A, 694B)를 생성할 수 있고, 승객들(690A, 690B)에게로의 디스플레이를 위해 각자의 HMD들(692A, 692B)에 VR 뷰(694A, 694B)를 제공할 수 있다. VR 뷰(694A, 694B)는 승객들(690A, 690B)의 선호도에 따라, 동일한 가상 환경 또는 실제 환경의 것일 수 있거나, 또는 상이한 가상 환경들의 것일 수 있다. 예를 들어, 승객(694A)은 운송수단(600)의 전방 외부의 현실 세계 뷰를 보고 싶어할 수 있고, 따라서, VR 제어기(610)는 전방 대면 비디오카메라들로부터의 뷰(이는, 합성된 가상 콘텐츠를 포함할 수 있지만 반드시 그러한 것은 아님)를 생성할 수 있고, 승객(690A)에게로의 디스플레이를 위해 HMD(692A)에 VR 뷰(694A)를 제공할 수 있다. 일부 실시예들에서, 오디오는 HMD들(692A, 692B)의 헤드폰을 통해 제공될 수 있으며; 대안으로, 오디오는 운송수단(600)의 오디오 시스템을 통해 제공될 수 있다. 일부 실시예들에서, VR 제어기(610)는, 또한, (예컨대, 제약 내에서 제동, 가속도, 조향, 및/또는 서스펜션/움직임을 제어하기 위한) 운송수단(600)의 제어 시스템 및 운송수단 능동 시스템(예컨대, 오디오 및 HVAC 시스템, 및 능동 시트)에 대해 신호들을 생성하여, 투영된 뷰(694)와 동기화되는 물리적 효과를 제공함으로써, 승객들의 경험을 더욱 향상시킬 수 있다.
예시적인 용례로서, VR 시스템은 후방 대면 승객(690A)에게 그가 앞을 향해서 탑승하고 있는 것으로 보이게 하는 데 사용될 수 있다. 일부 사람들은 뒤를 향해서 탑승하고 있는 동안에 멀미를 하는 경향이 있다. VR 시스템을 사용하면, 운송수단의 전방 밖의 현실 세계 뷰, 또는 그가 앞을 향해서 탑승하고 있는 것으로 보이게 되는 가상 뷰가 승객(690A)에게 디스플레이될 수 있다. 승객(690)에게는, 그가 실제로 뒤를 향해서 탑승하고 있으면서 앞을 향해서 탑승하고 있는 것으로 보이게 되므로, 가속도는 제동으로 감지될 수 있고, 제동은 가속도로서 감지될 수 있고, 우회전은 좌회전으로 감지될 수 있고, 좌회전은 우회전으로 감지될 수 있다.
도 7은 일부 실시예들에 따른, 운송수단 내의 VR 시스템의 컴포넌트들을 도시한 블록도이다. 도 7에 도시된 바와 같이, 운송수단(700)(이는, 자율 운송수단일 수 있지만, 반드시 그러한 것은 아님)은 VR 제어기(710)를 포함할 수 있다. VR 제어기(710)는 하나 이상의 프로세서들(712)을 포함할 수 있다. 프로세서(들)(712)는 다양한 타입의 프로세서, CPU, 이미지 신호 프로세서(ISP), 그래픽 프로세싱 유닛(GPU), 코더/디코더(코덱), 메모리, 및/또는 다양한 소스들로부터의 입력들을 프로세싱하여 VR 콘텐츠 및 다른 출력 신호들을 생성하기 위한 다른 컴포넌트 중 하나 이상을 포함할 수 있다. VR 제어기(710)는, 또한, 예를 들어, 다양한 소스들로부터의 입력들을 프로세싱하고 VR 콘텐츠 및 다른 출력 신호들을 생성하기 위한 VR 제어기(710)의 기능을 수행하도록 하는, 프로세서(들)(712)에 의해 실행가능한 프로그램 명령어들뿐 아니라 프로그램 명령어들에 의해 사용될 수 있는 데이터를 저장할 수 있는 메모리(713)를 포함할 수 있다. VR 제어기(710)는, 또한, 다양한 운송수단 시스템, 외부 소스(790), VR 투영 디바이스(들)(720), 및 승객의 사용자 디바이스(들)(792)에 대한 인터페이스들(714)을 포함할 수 있다. 인터페이스들(714)은 다양한 컴포넌트들에 대한 유선 및/또는 무선 접속을 포함할 수 있다.
하나 이상의 VR 투영 또는 디스플레이 디바이스들(720)(본 명세서에서 VR 디바이스들로 지칭됨)은 유선 또는 무선 통신 접속에 의해 VR 제어기(710)에 커플링될 수 있다. VR 투영 디바이스(720)는 도 1에 도시된 바와 같은 HMD일 수 있거나, 또는 대안으로, 도 2에 도시된 바와 같은 프로젝터 시스템일 수 있다. 일부 실시예들에서, VR 투영 디바이스(720)는 하나 이상의 프로세서들(722), 프로젝터(724), 디스플레이(726), 및 VR 제어기(710)에 접속하고 그로부터 입력을 수신하고 그에 출력을 제공하기 위한 하나 이상의 유선 및/또는 무선 인터페이스들(729)을 포함할 수 있다. 프로세서들(722)은 다양한 타입의 프로세서, CPU, 이미지 신호 프로세서(ISP), 그래픽 프로세싱 유닛(GPU), 코더/디코더(코덱), 메모리, 및/또는 다른 컴포넌트 중 하나 이상을 포함할 수 있다. HMD는 2개의 디스플레이들(726)에 가상 콘텐츠를 디스플레이하거나 투영하는, 한쪽 눈에 하나씩인 2개의 프로젝터들(724), 예컨대 근안 VR 시스템 내의 2개의 스크린들 또는 직접 망막 프로젝터 시스템 내의 반사 렌즈를 포함할 수 있다는 것에 유의한다. 일부 실시예들에서, VR 투영 디바이스(720)는, 또한, 예를 들어, VR 제어기(710)에 접속하고 그와 통신하고 그로부터의 입력들을 프로세싱하기 위해 VR 투영 디바이스(720)의 기능을 수행하도록 프로세서(들)(722)에 의해 실행가능한 프로그램 명령어들뿐 아니라 프로그램 명령어들에 의해 사용될 수 있는 데이터를 저장할 수 있는 메모리(723)를 포함할 수 있다. 일부 실시예들에서, VR 투영 디바이스(720)는, 또한, VR 투영 디바이스(720)(예컨대, HMD)의 움직임 및 배향을 검출하기 위한 IMU(728)를 포함할 수 있다. 일부 실시예들에서, VR 투영 디바이스(720)는 헤드폰 또는 이어버드와 같은 개인용 오디오 출력 디바이스들(725)을 포함하거나 또는 그에 커플링될 수 있다. VR 투영 디바이스(720)가 HMD인 경우, 오디오 출력(725)은 HMD에 통합될 수 있다.
도시되어 있지 않지만, 일부 실시예들에서, VR 투영 디바이스(720) 및/또는 VR 제어기(710)는 승객들로부터의 음성 입력을 수신하기 위한 하나 이상의 마이크로폰들을 포함할 수 있고; 예를 들어, HMD는 디바이스를 착용한 승객으로부터의 음성 입력을 수신하기 위한 마이크로폰을 포함할 수 있다. 음성 입력은, 예를 들어, VR 시스템의 음성 제어를 위해, 또는 HMD를 착용한 다른 승객들과 통신하기 위해, 또는 VR 제어기(710) 또는 운송수단(700) 시스템들을 통한 전화 호출 및 화상회의와 같은 외부 통신을 위해 사용될 수 있다. 추가로, 일부 실시예들에서, VR 투영 디바이스(720) 및/또는 VR 제어기(710)는 승객들의 움직임 또는 제스처, 예를 들어 손, 팔, 또는 머리의 제스처, 눈의 움직임, 얼굴 표정 등을 검출하기 위한 내부 카메라들 또는 다른 센서들을 포함하거나 또는 그에 커플링될 수 있다. 일부 실시예들에서, 검출된 제스처, 움직임, 또는 표현은 각자의 승객들에게로의 가상 콘텐츠의 렌더링 및/또는 디스플레이에 영향을 주기 위해 VR 시스템으로의 입력으로서 사용될 수 있다. 일부 실시예들에서, 검출된 제스처, 움직임, 또는 표현은 가상 콘텐츠 내의 각자의 승객들의 애니메이션화된 아바타들을 렌더링하기 위해 VR 시스템으로의 입력으로서 사용될 수 있다. 추가로, 일부 실시예들에서, VR 투영 디바이스(720)는 각자의 승객들에게로의 가상 콘텐츠의 렌더링 및/또는 디스플레이에 영향을 주기 위해 VR 시스템으로의 입력으로서 사용될 수 있는 하나 이상의 외부 카메라, 깊이 카메라, 또는 다른 센서를 포함할 수 있다.
일부 실시예들에서, VR 투영 디바이스(720) 내의, 또는 운송수단(700) 내 어딘가에서의 또는 승객에게서의 센서들 및 카메라들은 멀미의 징후(예컨대, 창백함, 발한, 안절부절함(fidgeting), 연하(swallowing), 트림(burping), 심박수, 호흡수, 눈 움직임 등)에 대해 승객을 모니터링하는 데 사용될 수 있다. 멀미의 조기 징후가 검출되는 경우, VR 시스템은 보수적일 수 있으며, 승객에게 디스플레이되는 시뮬레이션된 뷰에서의 실생활 움직임 및 가속도에 대한 1:1 맵핑으로 복귀하거나 그를 유지할 수 있고/있거나, 달리, 승객에게 제시되는 가상 경험을 변경할 수 있다. 승객이 멀미의 징후를 보이지 않는 경우, VR 시스템은 1:1 맵핑으로부터 변할 수 있는데, 이는 가상 경험에 더 큰 유연성을 허용한다. 예를 들어, 가속도의 감지를 제공하는 시각적 큐 및 다른 큐들은 가상 경험에서 그들이 운송수단이 실제로 가속하고 있는 것보다 더 빠른 속도로 가속하고 있음이 승객에게 느껴지도록 증가될 수 있고/있거나, 회전의 감각을 제공하는 시각적 큐 및 다른 큐들은 가상 경험에서 그들이 운송수단이 실제로 회전하고 있는 것보다 더 빠른 속도로 회전하고 있음이 승객에게 느껴지도록 증가될 수 있다. 도 18 내지 도 20은 움직이는 운송수단 내의 VR 시스템을 사용할 때 승객들을 모니터링하는 것 및 승객들의 생리적 응답에 따라 VR 경험을 적응시키는 것을 추가로 도시한다.
도 7에 도시된 바와 같이, VR 제어기(710)는 운송수단 내부 및 외부 센서들 및 제어 시스템들(702)로부터의 다양한 입력들(예컨대, 국지화, 가속도, 제동, 조향, 움직임, 배향 방향, 비디오, 깊이 맵 등)을 수신할 수 있다. 운송수단 내부 및 외부 센서들은 깊이 카메라(예컨대, LiDAR), 비디오카메라, 관성 측정 유닛(IMU)들을 포함할 수 있지만, 이들로 제한되지 않는다. 운송수단 제어 시스템들은 스로틀 제어, 제동, 조향, 운항, 및 능동 서스펜션 시스템들을 포함할 수 있지만, 이들로 제한되지 않는다. VR 제어기(710)는, 또한, 하나 이상의 운송수단 AV 시스템들(706)로부터의 입력들(예컨대, 비디오 및/또는 오디오)을 획득할 수 있다. VR 제어기(710)는, 또한, 하나 이상의 외부 소스들(790)(예컨대, 클라우드 기반 저장소 또는 네트워크 기반 애플리케이션)로부터의 입력들(예컨대, 세계 지도 데이터, 국지적 환경의 3D 모델, 국지적 환경 내의 물체들 또는 특징부들에 관한 정보, 비디오 스트림, 오디오(예컨대, 라디오 또는 위성 브로드캐스트) 등)을 획득할 수 있다. VR 제어기(710)는, 또한, 랩톱 또는 태블릿/패드 디바이스들과 같은 하나 이상의 사용자 디바이스들(792)로부터의 입력들(예컨대, 비디오, 오디오, 키패드 또는 다른 입력 디바이스들로의 사용자 입력 등)을 획득할 수 있다. VR 제어기(710)는, 또한, 하나 이상의 VR 투영 디바이스들(720)로부터의 입력들(예컨대, HMD의 IMU(728)로부터의 움직임 및/또는 배향 정보)을 획득할 수 있다.
일부 실시예들에서, VR 제어기(710)는, 또한, 운송수단에 의한 루트 상에서의 이전의 운전 중에 수집된 데이터를 획득할 수 있고, 그 루트 상에서의 현재 운전 중에 그 데이터를 사용할 수 있다. 예를 들어, 빈번하게 이동되는 루트에 대한 데이터는 클라우드 저장소에 저장될 수 있으며, 운송수단이 루트 상에서 이동하고 있을 때 VR 제어기(710)에 의해 액세스될 수 있다. 따라서, 승객이 빈번하게 이동하는 루트 상에서, 루트 상에서의 이전 운전으로부터의 데이터는 루트 상에서의 현재 운전 중에 사용될 수 있다. 일부 실시예들에서, VR 제어기(710)는, 또한, 루트를 횡단하였고 또한 VR 시스템을 구현하는 다른 운송수단에 의한 루트에 대해 수집된 데이터를 획득할 수 있으며, 운송수단이 루트를 횡단하고 있을 때 그 데이터를 사용할 수 있다. 예를 들어, 상이한 운송수단에 의해 이동되는 루트에 대한 데이터는 클라우드 저장소에 저장될 수 있으며, 운송수단이 루트 상에서 이동하고 있을 때 VR 제어기(710)에 의해 액세스될 수 있다.
VR 제어기(710)는, 적어도 부분적으로 다양한 입력들에 따라 하나 이상의 VR 투영 디바이스들(720)에 대한 향상된 가상 콘텐츠를 생성할 수 있고, 디스플레이를 위해 VR 콘텐츠를 디바이스(들)(720)로의 출력으로서 제공할 수 있다. 일부 실시예들에서, VR 제어기(710)는, 또한, 가상 콘텐츠에 대한 오디오를 생성하고/하거나 수신할 수 있으며, 가상 콘텐츠를 디스플레이하는 동안 재생될 하나 이상의 VR 투영 디바이스들(720)에 오디오를 제공할 수 있다. 가상 콘텐츠는, 예를 들어, 콘텐츠가 승객에게 운송수단의 전방의 소정 거리에 있는 공간에 고정되는 것으로 보이도록, 도 3 및 도 4에 도시된 바와 같은 실제 환경의 뷰에서 승객에게 승객의 개인용 디바이스(예컨대, 컴퓨터 디스플레이 윈도우)의 가상 뷰를 제공할 수 있는데, 이는 예를 들어 멀미를 방지하는 것을 도울 수 있고, 이에 따라, 승객이 운송수단에 탑승해 있는 동안에 생산적이 되는 것을 허용할 수 있다. 대안으로, 가상 콘텐츠는, 예를 들어 도 9 내지 도 11에 도시된 바와 같이, 승객들에게 몰입형 VR 환경 및 경험을 제공할 수 있다.
일부 실시예들에서, VR 제어기(720)는, (예컨대, 제약 내에서 제동, 가속도, 조향, 또는 서스펜션/움직임을 제어하기 위한) 하나 이상의 운송수단 제어 시스템들(702) 및 운송수단 능동 시스템들(예컨대, AV(706) 및 HVAC(708) 시스템들 및 능동 시트(730))에 대해 출력 신호들을 생성하여, 가상 콘텐츠와 동기화되는 물리적 효과를 제공함으로써, 승객의 가상 환경 및 경험을 더욱 향상시킬 수 있다.
VR 제어기(710)가 가상 콘텐츠를 렌더링하고 가상 콘텐츠를 포함하는 프레임들을 각자의 승객들에게로의 디스플레이 또는 투영을 위해 하나 이상의 VR 투영 디바이스들(720)에 제공하는 실시예들이 일반적으로 기술되지만, 일부 실시예들에서, 가상 콘텐츠의 렌더링의 적어도 일부는 VR 투영 디바이스(들)(720)에 의해 수행될 수 있다. 또한, 일부 실시예들에서, VR 제어기(710)는 VR 투영 디바이스(720)의 컴포넌트일 수 있는데, 예를 들어 VR 제어기(710)는 HMD에 내장될 수 있고, 유선 및/또는 무선 통신 접속을 통해 운송수단 시스템들 및 센서들과 통신할 수 있다.
도 8은 일부 실시예들에 따른, 승객들에게 동기화된 물리적 효과를 제공하기 위해 VR 시스템에서 사용될 수 있는 운송 수단 내의 능동 시스템들을 도시한 블록도이다. 도 8은, HMD(720)를 착용한 승객(790)이 VR 제어기(710)를 포함하는 정지형 또는 움직이는 운송수단의 능동 시트(730)에 착석되고; 승객(790)이 운송수단에서 앞을 향해서 또는 뒤를 향해서 대면하고 있을 수 있는 일례를 도시한다. 도 8에 도시된 바와 같이, 일부 실시예들에서, VR 제어기(720)는, (예컨대, 제약 내에서 제동, 가속도, 조향, 또는 서스펜션/움직임을 제어하기 위한) 하나 이상의 운송수단 제어 시스템들(702) 및 운송수단 능동 시스템들(예컨대, AV(706) 및 HVAC(708) 시스템들 및 능동 시트(730))에 대해 신호들을 생성하여, 가상 콘텐츠와 동기화되는 물리적 효과를 제공함으로써, 승객의 가상 환경 및 경험을 더욱 향상시킬 수 있다. 예를 들어, 능동 시트(730)는, 예를 들어 승객(790)이 느끼는 가속도의 감각을 감소시키거나 증가시키기 위해, 전방 또는 후방 대면 승객(790)이 느끼는 가속도 힘을 변화시키도록 기울어질 수 있다. 예를 들어, 능동 시트(730)를 후방으로 기울이는 것은 전방 대면 승객(790)이 그의 뒤로 눌리는 중력 벡터를 느끼게 하여, 전방 가속도의 감각을 야기하거나 증가시킬 수 있다. 다른 예로서, 일부 실시예들에서, 하나 이상의 운송수단 제어 시스템들(702)(예컨대, 스로틀, 제동, 및/또는 능동 서스펜션 제어 시스템들)은, 가능하게는 능동 시트(730)와 함께, 승객(790)이 그가 운송수단 내에서 움직이는 것이 아니라 여전히 방 안에 앉아 있음을 감지하게 하도록, 제약 내에서 VR 제어기(710)에 의해 제어될 수 있다. 일부 실시예들에서, VR 제어기(710)는 (예컨대, 루트를 이동할 때 이전에 기록되었던, 운송수단이 이동하고 있는 루트에 대한 표면 상태 정보로부터, 또는 외부 소스로부터 획득된 표면 정보로부터) 도로의 요철(bump)들을 예상하고, 능동 시트(730)를 위아래로 이동시키고/시키거나 제약 내에서 운송수단의 제어 시스템들(예컨대, 스로틀, 제동, 및/또는 능동 서스펜션) 중 하나 이상을 제어하여, 운송수단이 요철들 위로 지나갈 때 야기될 수 있는, 승객(790)에게로의 덜컥거림(jolt)을 누그러뜨리거나 제거하게 할 수 있다. 다른 예로서, VR 제어기(710)는 HVAC 시스템(708)에게, 도 10의 (B)에 도시된 바와 같은 행글라이더 경험과 같은 몰입형 VR 환경에서의 승객(790)이 그를 지나쳐서 몰아치는 바람을 느끼도록 그의 팬 속도를 증가시킬 것을, 또는 가상 벽난로 또는 모닥불의 전방에 앉아 있는 승객(790)이 불로부터 오는 열기를 느끼도록 열기를 증가시킬 것을 지시할 수 있다. 다른 예로서, VR 제어기(710)는 운송수단의 오디오 시스템(706)을 통해, 또는 대안으로, HMD(720)에 통합된 오디오 시스템을 통해, VR 경험을 동반하는 오디오를 재생할 수 있다.
예시적인 용례로서, VR 시스템은 후방 대면 승객(790)에게 그가 앞을 향해서 탑승하고 있는 것으로 보이게 하는 데 사용될 수 있다. 일부 사람들은 뒤를 향해서 탑승하고 있는 동안에 멀미를 하는 경향이 있다. VR 시스템을 사용하면, 운송수단의 전방 밖의 현실 세계 뷰, 또는 그가 앞을 향해서 탑승하고 있는 것으로 보이게 되는 가상 뷰가 승객(790)에게 디스플레이될 수 있다. 승객(790)에게는, 그가 실제로 뒤를 향해서 탑승하고 있으면서 앞을 향해서 탑승하고 있는 것으로 보이게 되므로, 가속도는 제동으로 감지될 수 있고, 제동은 가속도로서 감지될 수 있고, 우회전은 좌회전으로 감지될 수 있고, 좌회전은 우회전으로 감지될 수 있다. 일부 실시예들에서, 능동 시트(730), HVAC 시스템(708), 오디오 시스템(706), 및 하나 이상의 운송수단 제어 시스템들(702)(예컨대, 스로틀, 제동, 및/또는 능동 서스펜션 제어 시스템들)이 제약 내에서 VR 제어기(710)에 의해 제어되어, 승객(790)이 그가 실제로 뒤를 향해서 탑승하고 있을 때 그가 앞을 향해서 탑승하고 있음을 감지하게 할 수 있다.
도 9 내지 도 11은 VR 시스템의 실시예들에 의해 제공될 수 있고 제한하는 것으로 의도되지 않는 여러 예시적인 몰입형 VR 경험을 그래픽으로 도시한다. VR 시스템의 실시예들은, 예를 들어 현실 세계의 뷰를 승객이 원할 수 있는 다양한 타입의 가상 경험들 및 환경들 중 임의의 것으로 대체함으로써, 운송수단 내의 승객들에게 몰입형 VR 경험을 제공할 수 있다. 운송수단 움직임은, 예를 들어 멀미를 방지하는 것을 돕기 위해 그리고 가상 경험을 향상시키기 위해 가상 경험에 통합될 수 있다. VR 시스템을 움직이고 있는 운송수단과 통합하는 것은, 정지형 시뮬레이터를 사용하거나 HMD를 착용하고서 방에 앉아 있는 동안에 이용가능하지 않은 가상 경험을 향상시키기 위한 기회를 제공한다. 예를 들어, 가상 경험에서의 가속도 및 움직임은 운송수단의 가속도 및 움직임에 매칭되거나 그에 의해 향상될 수 있다. 일부 실시예들에서, 제약 내의 능동 운송수단 시스템들(예컨대, HVAC 시스템, 오디오 시스템, 및 능동 시트) 및/또는 운송수단 제어 시스템들(예컨대, 제동, 스로틀, 조향, 및 능동 서스펜션 시스템들)은 VR 시스템과 통합되어, 가상 경험과 함께 물리적 효과, 예를 들어 HVAC 시스템을 통한 돌풍 또는 열, 오디오 시스템을 통한 서라운드 사운드 및 사운드 효과, 및 시트를 통한 가속도 또는 움직임 효과를 제공할 수 있다
도 9의 (A) 및 도 9의 (B)는 운송수단에 탑승해 있는 동안에 생산성을 향상시키면서, 또한, 참여자들에게 흥미로운 VR 경험을 제공하는 데 사용될 수 있는 몰입형 VR 경험의 예들을 도시한다. 예를 들어, 두 명 이상의 사람들이 가상 환경에서, 예를 들어 도 9의 (B)에 도시된 바와 같은 가상의 방 안에서 또는 도 9의 (A)에 도시된 바와 같은 평상형 트럭의 평상 위에서 테이블 주위의 아바타들로서 회의를 개최할 수 있다. 대안으로, 참여자들 중 상이한 참여자들은 회의에 대한 상이한 VR 환경들을 경험할 수 있고; 예를 들어, 한 명의 참여자에게, 그것은 그들이 트럭의 평상 위에서 회의 중인 것으로 보일 수 있는 한편, 다른 참여자에게, 그것은 그들이 사무실에 있는 방 안에서 회의 중인 것으로 보일 수 있다. 참여자들은 출근 도중에 또는 퇴근 도중에 동일한 운송수단 내에, 또는 상이한 운송수단 내에 있을 수 있다. 또는, 참여자들 중 일부는 출근 도중에 또는 퇴근 도중에 운송수단 내에 있을 수 있는 한편, 한 명 이상의 다른 이들은 이미 사무실에 있거나, 집에 있거나, 또는 다른 위치에 있을 수 있다. 참여자의 컴퓨터 스크린들 중 하나의 컴퓨터 스크린의 뷰가 모든 참여자들이 보도록 하기 위해 가상 환경 내에 투영될 수 있다. 각각의 참여자에게 제시되는 가상 콘텐츠는 특정 참여자가 경험하고 있는 것에 기초할 수 있다. 예를 들어, 집에 또는 사무실에 앉아 있는 참여자들에게는 도 9의 (B)에 도시된 바와 같이 사무실에서의 회의의 정적인 뷰가 제시될 수 있는 한편, 운송수단에 탑승해 있는 참여자에게는 도 9의 (A)에 도시된 바와 같이 트럭의 뒤쪽으로부터의 회의의 동적인 뷰가 제시될 수 있는데, 이때 경치가 지나쳐 흐르고 움직임이 경험 내에 통합된다.
일부 실시예들에서, 승객들은 도 10의 (B)에 도시된 바와 같이 카누 또는 튜브를 타고 강을 따라 떠내려가는 것 또는 도 10의 (B)에 도시된 바와 같이 행글라이더로 풍경 위로 솟구치는 것과 같은, 운송수단에 탑승해 있는 동안의 느긋한 가상 경험을 가질 것을 선택할 수 있다. 일부 실시예들에서, 승객이 가상 환경에서 취하는 경로는 운송수단이 현실 세계에서 따르고 있는 실제 경로를 따를 수 있고; 예를 들어, 실제 루트에서의 곡선 또는 회전은 승객이 떠내려가고 있는 강에서의 회전 또는 곡선으로서 모델링될 수 있다. 일부 실시예들에서, 운송수단이 이동 중인 도로 상의 요철들, 또는 운송수단의 정지는 VR 시스템에 의해 예상될 수 있으며, 이는 승객이 실제로 느끼는 움직임에 대한 상황을 제공하도록 환경 내의 가상 콘텐츠를 렌더링할 수 있고; 예를 들어, 승객이 탑승하고 있는 가상 카누는, 운송수단이 과속 방지턱 위로 지날 때 강에서 가상의 통나무 위를 덜컹거리며 갈 수 있거나, 또는 운송수단이 정지 표지 또는 신호등에서 정지할 때 모래톱 위에 또는 회오리 속에 일시적으로 갇히게 될 수 있다. 일부 실시예들에서, VR 시스템은, 예를 들어, 행글라이딩 경험 동안 승객에게 바람을 날릴 것을 HVAC 시스템에게 지시함으로써, 가상 경험과 함께 물리적 효과를 제공할 것을 운송수단의 시스템들에게 지시할 수 있다.
도 10의 (C)는 승객이 런던 거리와 같은 또 다른 실제 위치를 지나가는 또는 허구의 도시 또는 풍경을 지나가는 가상의 탑승 경험을 가질 것을 선택할 수 있음을 도시한다. 가상 경험은 교육적이고 상호작용적이어서, 예를 들어 승객들이 그들이 경험하고 있는 도시의 가상 뷰에서 랜드마크들에 관한 이력 또는 다른 정보를 발견하는 것을 허용할 수 있다. 가상 경험은 다른 방식으로 상호작용적이어서, 예를 들어 승객이 가상 도로 경주 경험 동안에 다른 운송수단을 지나가게 하거나, 또는 포스트-아포칼립틱 풍경에서 좀비들을 치고 가는 것을 허용할 수 있다. 일부 실시예들에서, VR 시스템은, 예를 들어 도시의 가상화된 뷰에서의 회전, 곡선, 및 정지가 운송수단이 취하고 있는 실제 루트에서의 회전, 곡선, 및 정지와 밀접하게 매칭하도록, 운송수단이 취하고 있는 실제 루트와 밀접하게 매칭하는, 시뮬레이션되고 있는 실제 도시에서의 루트를 선택할 수 있다. 시뮬레이션되고 있는 실제 도시에서의 루트와 운송수단이 취하고 있는 실제 루트 사이의 매칭은 1:1 매칭일 필요가 없다는 것에 유의한다. 예를 들어, 시뮬레이션된 도시 블록은, 시뮬레이션된 도시 블록이 실제 루트 상의 거리의 길이와 매칭하도록 하나 또는 두 개의 시뮬레이션된 점포들 또는 주택들을 추가함으로써 펼쳐질 수 있다. 일부 실시예들에서, 운송수단이 이동 중인 도로 상의 요철들, 또는 운송수단의 정지는 VR 시스템에 의해 예상될 수 있으며, 이는 승객이 실제로 느끼는 움직임에 대한 상황을 제공하도록 환경 내의 가상 콘텐츠를 렌더링할 수 있고; 예를 들어, 승객이 탑승하고 있는 가상 운송수단은 운송수단이 과속 방지턱 위를 지날 때 아포칼립틱 풍경에서 좀비들을 치고 지날 수 있다. 일부 실시예들에서, VR 시스템은, 예를 들어, 가상 뷰가 가상 풍경에서 바람이 부는 것을 보여주는 경우에 승객에게 바람을 날릴 것을 HVAC 시스템에게 지시함으로써, 가상 경험과 함께 물리적 효과를 제공할 것을 운송수단의 시스템들에게 지시할 수 있다.
도 11에 도시된 바와 같이, 일부 실시예들에서, 실제 또는 허구의 사람들의 가상 뷰는 VR 시스템에 의해 제공되는 가상 경험 내에 통합될 수 있다. 예를 들어, 도 11의 (B)에 도시된 바와 같이, 저작자 또는 토크 쇼 호스트의 가상 표현(1195)이 승객(1190) 옆의 시트에 앉아 있는 것으로 보일 수 있고; 가상 저작자는 승객에게 그의 책들 중 하나를 읽어주는 것일 수 있거나, 또는 가상 토크쇼 호스트는 그의 음성이 운송수단 또는 HMD(1100)의 오디오 시스템을 통해 제공되는 상태로 승객 옆의 시트로부터 그의 쇼를 호스팅할 수 있다. 다른 예로서, 도 11의 (A)에 도시된 바와 같이, 승객은 가상 밴드가 평상 위에서 공연하고 있는 평상형 트럭에 탑승해 있으면서 밴드의 음악이 운송수단 또는 HMD(1100)의 오디오 시스템을 통해 제공되는 것을 경험할 수 있다.
도 12는 일부 실시예들에 따른, 운송수단 내의 승객들에게 VR 경험을 제공하기 위한 방법의 하이-레벨 흐름도이다. 도 12의 방법은, 예를 들어 도 1, 도 2, 도 6, 또는 도 7에 도시된 바와 같은 VR 시스템에 의해 구현될 수 있다.
1200에 나타낸 바와 같이, 운송수단 내의 VR 시스템은 운송수단 센서들(예컨대, 깊이 맵 정보, 비디오 등), 운송수단 시스템들(예컨대, 조향, 제동, 스로틀, 능동 서스펜션, 국지화, 및 IMU 시스템들), 및 외부 소스들(예컨대, 세계 지도 데이터, 3D 모델 등)로부터의 입력들을 획득할 수 있다. 1210에 나타낸 바와 같이, VR 시스템은 적어도 부분적으로 운송수단 센서들, 운송수단 시스템들 및 외부 소스들로부터의 입력들에 따라 가상 콘텐츠를 생성할 수 있다. 1220에 나타낸 바와 같이, VR 시스템은 가상 콘텐츠를 적어도 하나의 VR 투영 디바이스, 예를 들어 도 1에 도시된 바와 같은 HMD 또는 도 2에 도시된 바와 같은 프로젝터로 전송할 수 있다. 1230에 나타낸 바와 같이, VR 투영 디바이스는 가상 콘텐츠를 승객(들)에게 디스플레이한다. 도시되어 있지 않지만, 일부 실시예들에서, VR 시스템은, 또한, (예컨대, 제약 내에서 제동, 가속도, 조향, 또는 서스펜션/움직임을 제어하기 위한) 운송수단 제어 시스템들 및 운송수단 능동 시스템들(예컨대, 오디오 및 HVAC 시스템, 및 능동 시트)에 대해 신호들을 생성하여, 투영된 가상 콘텐츠와 동기화되는 물리적 효과를 제공함으로써, 승객의 경험을 더욱 향상시킬 수 있다. 1230으로부터 1200으로 복귀하는 화살표로 나타낸 바와 같이, 도 12의 방법은 VR 경험의 지속기간 동안의 연속적인 프로세스일 수 있다.
일부 실시예들에서, VR 투영 디바이스(예컨대, HMD)는 카메라, 깊이 카메라, 및/또는 다른 센서를 포함할 수 있고, VR 시스템은 그 대신에 또는 역시 VR 투영 디바이스로부터의 입력들을 획득할 수 있고, 적어도 부분적으로 VR 투영 디바이스 상의 센서들로부터의 입력들에 따라 가상 콘텐츠를 생성할 수 있다.
도 13은 일부 실시예들에 따른, 운송수단 내의 승객들에게 환경의 혼합 현실 뷰에서의 가상 콘텐츠를 제공하기 위한 방법의 흐름도이다. 도 13의 방법은, 예를 들어 도 1, 도 2, 도 6, 또는 도 7에 도시된 바와 같은 VR 시스템에 의해 구현될 수 있다.
1300에 나타낸 바와 같이, VR 디바이스(예컨대, 도 1에 도시된 바와 같은 HMD) 및 사용자 디바이스(예컨대, 랩톱 또는 노트북 컴퓨터, 태블릿 또는 패드 디바이스 등)는, 예를 들어 유선 또는 무선 접속을 사용하여, 운송수단 내의 VR 시스템에 접속될 수 있다. 1310에 나타낸 바와 같이, VR 시스템은 사용자 디바이스로부터 이미지 입력(예컨대, 디바이스의 디스플레이의 뷰 또는 디바이스의 디스플레이 상의 하나 이상의 윈도우들)을 획득할 수 있고, 또한, 운송수단 센서들(예컨대, 깊이 맵 정보, 비디오 등), 운송수단 시스템들(예컨대, 조향, 제동, 스로틀, 능동 서스펜션, 국지화, 및 IMU 시스템들), 및 외부 소스들(예컨대, 세계 지도 데이터, 3D 모델 등)로부터 입력들을 획득할 수 있다. 1320에 나타낸 바와 같이, VR 시스템은 사용자 디바이스로부터 그리고 운송수단 센서들, 운송수단 시스템들 및 외부 소스들로부터의 입력들에 따라 이미지 입력을 포함하는 가상 콘텐츠를 생성할 수 있다. 1330에 나타낸 바와 같이, VR 시스템은 승객에게로의 디스플레이를 위해 가상 콘텐츠를 VR 디바이스(예컨대, HMD)로 전송할 수 있다. 1340에 나타낸 바와 같이, VR 디바이스는, 예를 들어 도 3, 도 4, 또는 도 5에 도시된 바와 같이, 이미지 입력이 운송수단의 전방의 소정 거리에 고정된 것으로 보이도록 승객에게 가상 콘텐츠를 디스플레이한다. 1340으로부터 1310으로 복귀하는 화살표로 나타낸 바와 같이, 도 13의 방법은 VR 경험의 지속기간 동안의 연속적인 프로세스일 수 있다.
일부 실시예들에서, VR 투영 디바이스(예컨대, HMD)는 카메라, 깊이 카메라, 및/또는 다른 센서를 포함할 수 있고, VR 시스템은 그 대신에 또는 역시 VR 투영 디바이스로부터의 입력들을 획득할 수 있고, 적어도 부분적으로 VR 투영 디바이스 상의 센서들로부터의 입력들에 따라 가상 콘텐츠를 생성할 수 있다.
도 14는 일부 실시예들에 따른, 운송수단 내의 승객들에게 환경 효과를 갖는 몰입형 VR 경험을 제공하기 위한 방법의 흐름도이다. 도 14의 방법은, 예를 들어 도 1, 도 2, 도 6, 또는 도 7에 도시된 바와 같은 VR 시스템에 의해 구현될 수 있다.
1400에 나타낸 바와 같이, VR 디바이스(예컨대, 도 1에 도시된 바와 같은 HMD)는, 예를 들어 유선 또는 무선 접속을 사용하여, 운송수단 내의 VR 시스템에 접속될 수 있다. 1410에 나타낸 바와 같이, VR 시스템은 운송수단 센서들(예컨대, 깊이 맵 정보, 비디오 등), 운송수단 시스템들(예컨대, 조향, 제동, 스로틀, 능동 서스펜션, 국지화, 및 IMU 시스템들), 및 외부 소스들(예컨대, 세계 지도 데이터, 3D 모델 등)로부터의 입력들을 획득할 수 있다. 1420에 나타낸 바와 같이, VR 시스템은 운송수단 센서들, 운송수단 시스템들 및 외부 소스들로부터의 입력들에 따라 몰입형 VR 환경을 표현하는 가상 콘텐츠를 생성할 수 있다. 1430에 나타낸 바와 같이, VR 시스템은 승객에게로의 디스플레이를 위해 가상 콘텐츠를 VR 디바이스(예컨대, HMD)로 전송할 수 있다. 1440에 나타낸 바와 같이, VR 디바이스는 승객에게 몰입형 VR 경험을 제공하도록 가상 콘텐츠를 디스플레이한다. 1450에 나타낸 바와 같이, VR 시스템은 또한 하나 이상의 운송수단 시스템들로 신호를 전송할 수 있다. 1460에 나타낸 바와 같이, 하나 이상의 운송수단 시스템들은 VR 경험과 동기화되어 VR 경험을 향상시키는 물리적 효과를 승객에게 제공할 수 있다. 1460으로부터 1400으로 복귀하는 화살표로 나타낸 바와 같이, 도 14의 방법은 VR 경험의 지속기간 동안의 연속적인 프로세스일 수 있다.
일부 실시예들에서, VR 투영 디바이스(예컨대, HMD)는 카메라, 깊이 카메라, 및/또는 다른 센서를 포함할 수 있고, VR 시스템은 그 대신에 또는 역시 VR 투영 디바이스로부터의 입력들을 획득할 수 있고, 적어도 부분적으로 VR 투영 디바이스 상의 센서들로부터의 입력들에 따라 가상 콘텐츠를 생성할 수 있다.
일부 실시예들에서, 도 12 내지 도 14에 기술된 바와 같은 방법들에서, 승객들에게로의 디스플레이를 위해 가상 콘텐츠를 렌더링함에 있어서의 대기시간(latency)을 감소시키거나 제거하기 위해, VR 시스템은, 예를 들어 세계 지도 데이터, 환경의 3D 모델, 및 운송수단 센서 데이터를 사용하여, 가상 콘텐츠를 렌더링할 것, 그리고 운송수단이 취하고 있는 루트 상의 특정 위치에 대한 물리적 효과를 운송수단이 실제로 그 위치에 도달하기 전에 결정할 것을 "예측(look ahead)"할 수 있다. 이러한 "예측" 렌더링은 VR 환경에서 승객들의 시각적 및 물리적 경험이 루트 상의 운송수단의 실제 물리적 움직임과 밀접하게 매칭됨을 보장하는 것을 돕는다.
VR 환경에서의 승객 선호도 및 경향의 수용
일부 승객들은, 도 1 내지 도 14에 기술된 바와 같이 운송수단 내의 VR 시스템에 의해 제시된 VR 환경에 관여될 때 다른 승객들보다 더 큰 멀미를 경험하는 경향이 있을 수 있다. 그렇게 관여된 일부 승객들은 멀미를 거의 경험하지 않거나 전혀 경험하지 않을 수 있다. 일부 실시예들에서, VR 시스템 상에서 실행되는 VR 애플리케이션은 상이한 승객들의 선호도 및 경향을 수용하기 위해 VR 환경 및 경험을 적응시킬 수 있다. 일례로서, 일부 실시예들에서, 시각적 큐들은 상이한 승객들의 선호도 및 경향을 수용하기 위해 운송수단의 실제 속도 또는 가속도에 비해 감속되거나 가속될 수 있다. 1:1 맵핑 비를 유지하는 것, 또는 시각적 큐들을 감속시키는 것은 멀미가 잘 나거나 멀미의 징후를 보이는 승객에게서 멀미를 완화시키는 것을 도울 수 있다. 멀미가 잘 나지 않거나 멀미의 징후를 보이지 않는 승객의 경우, 시각적 큐들은, 예를 들어 1:2 맵핑 비로 가속되어, 승객에게 향상되고 더 신나는 가상 경험을 제공할 수 있다.
승객들에게 맵핑 비를 적응시켜서 멀미를 방지하는 것을 돕는 것 외에도, 여러 다른 시각적 및 청각적 기법들(편의 도모로 지칭됨)이 VR 경험에 이용되어, 운송수단 내의 VR 시스템을 사용하여 승객의 편안함을 증가시키고 승객에게서의 멀미를 완화시킬 수 있다. 운송수단 내의 VR 시스템을 사용하는 승객들을 위해 이들 편의 도모를 설명하는 지침은 VR 애플리케이션 개발자들에게 제공될 수 있다. 이들 편의 도모 중 1회 이상의 편의 도모는 지침에 따라 VR 시스템에서 실행되는 VR 애플리케이션들에 통합될 수 있고, 그 편의 도모는 VR 애플리케이션들에 의해 생성되는 VR 경험에 적용될 수 있다. 1회 이상의 편의 도모가 VR 경험에 디폴트로 적용될 수 있거나, 또는 특정 승객의 선호도에 기초하여 그리고/또는 특정 승객들에게서 멀미의 징후 또는 불편함을 검출하는 승객 모니터링 시스템으로부터의 피드백에 기초하여 VR 경험에 추가될 수 있다(또는 그로부터 제거될 수 있음).
실시예들이 움직이는 운송수단 내의 VR 시스템을 사용하는 승객들에게 VR 경험에서의 편의 도모를 제공하는 것으로 일반적으로 기술되지만, 일부 실시예들에서, VR 경험은 오리지널 경험을 가졌던 사람에 의한 또는 움직이는 운송수단 내에 있지 않는, 예를 들어 방 안에 앉아 있는 다른 사람들에 의한 향후 재생을 위해 기록될 수 있다. 정지되어 있고, 예를 들어 방 안에 앉아 있고, 그에 따라 어떠한 가속도도 경험하지 않는 전정 기관을 갖는 뷰어들이 재생되고 있는 움직이는 VR 콘텐츠를 보는 것으로부터 멀미의 증상을 경험하지 않도록 VR 경험의 재생 동안에 본 명세서에 기술된 1회 이상의 편의 도모가 제공될 수 있다.
도 15 내지 도 17은 일부 실시예들에 따른, 운송수단 내의 VR 시스템을 사용하는 승객들의 편안함을 증가시키고 승객들에게서 멀미를 완화시키기 위해 VR 경험에 사용될 수 있는 여러 개의 시각적 편의 도모를 그래픽으로 도시한다. 도 15 내지 도 17에 도시된 편의 도모는, 예를 들어, 도 1 내지 도 14에 도시된 바와 같은 VR 시스템들에서 구현될 수 있다.
도 15에 도시된 바와 같이, 일부 실시예들에서, 가상 지평면(ground plane) 또는 플랫폼(1504)이 가상 환경(1500) 내의 승객 밑에 제공되어, 예를 들어 승객의 양발이 있게 되는 가상 환경(1500) 내에 위치되어, 멀미의 증상을 피하는 것을 도울 수 있다. 이는 승객이 그의 아래에 지평면 없이 공간을 통하여 비행하는 감각 - 이러한 감각은 일부 승객들을 불안하게 만듦 - 을 갖는 것을 방지한다. 일부 실시예들에서, 승객의 양팔 및 양다리의 가상 표현들이 또한 디스플레이될 수 있다.
특히 독서와 같은 활동에 관여하면서, 움직이는 운송수단에서 아래 또는 옆을 보는 것은 일부 승객들에게서 멀미의 증상을 유도할 수 있다. 따라서, VR 환경(1500)은 운송수단이 움직이는 중일 때 승객들에게 앞을 바라보고 그들의 머리를 똑바로 유지할 것을 권장해야 한다. 일부 실시예들에서, 도 15에 도시된 바와 같이, VR 애플리케이션은 관여 중인 시각적 콘텐츠(1502)를 승객들 바로 앞에 그리고 눈 높이에 제공하여, 승객들에게 앞을 바라보고 그들의 머리를 똑바로 유지할 것을 권장할 수 있다. VR 애플리케이션은 운송수단이 움직이는 동안에 승객들이 콘텐츠를 보기 위해 아래를 내려다볼 것을 요구하게 되는 텍스트 또는 다른 주의 환기(attention-grabbing) 콘텐츠를 디스플레이하는 것을 피해야 한다. VR 애플리케이션은 승객의 좌측 또는 우측에 텍스트 또는 다른 주의 환기 콘텐츠를 디스플레이하는 것을 피해야 하는데, 그 이유는 운송수단이 움직이는 중일 때 주변 가상 콘텐츠에 의해 제공되는 광학 흐름 큐들이 측면에서 더 빠르고, 그에 따라, 멀미를 생성할 가능성을 갖기 때문이다.
도 15에 도시된 바와 같이, 움직이는 운송수단에서 가상 환경(1500)을 경험하는 동안, 승객들이 현실 세계에서 자신들의 위치를 알게 되는 것을 돕기 위해, 앵커링된 가상 콘텐츠(1506)가 제공될 수 있다. 일부 실시예들에서, 소정 물체 또는 양태가 현실 세계 방향으로 앵커링된 가상 환경(예컨대, 정서쪽 또는 정동쪽에 앵커링된 태양 또는 달, 또는 정북쪽에 앵커링된 긴 건물)에 디스플레이될 수 있고, 따라서, 운송수단이 현실 세계 루트를 따름에 따라 승객은 그가 어디에 있고 그가 현실 세계에서 어떻게 위치되어 있는지를 더 쉽게 추적할 수 있다. 운송수단이 현실 세계에서 회전함에 따라, 가상 세계(관여 중인 가상 콘텐츠(1502)를 포함함)는 운송수단과 함께 회전하지만, 앵커링된 가상 콘텐츠(1506)는 현실 세계에 대해 고정된 상태로 유지된다.
일부 실시예들에서, 물리적으로 느껴질 수 있는 다가오는 운전 기동(maneuver) 및 현실 세계 지형 효과(예컨대, 우회전, 좌회전, (예컨대, 적색 신호등 또는 정지 표지에서의) 정지, 높이 면에서의 오르막길, 침강부, 과속 방지턱, 내리막길 부분 등)에 관한 미리보기 정보가 개선된 승객 편안함을 위해 제공될 수 있다. 현실 세계에 대한 비디오 시-스루(see-through)가 없고 기동에 관한 어떤 큐들도 제공되지 않는 VR 경험에서, 승객들은 그들이 현실 세계에서 어디에 있는지를 말할 수 없다는 것으로부터, 그리고 그들의 전정/균형 감각에 물리적으로 영향을 주는 다가오는 운전 기동을 예상하고 그에 대비할 수 없다는 것으로부터 불편함을 경험할 수 있다. 운전 기동 및 현실 세계 지형 효과에 대한 미리보기 정보는 시각적, 청각적, 및/또는 햅틱 큐들에 의해 제공될 수 있다. 예를 들어, 시각적 큐들(예컨대, 방향성 화살표들)은 다가오는 좌회전 또는 우회전, 오르막길 또는 내리막길을 나타내기 위해 디스플레이될 수 있다. 다른 예로서, 청각적 큐들은 다가오는 기동을 나타내기 위해 재생될 수 있고; 예를 들어, 다가오는 좌회전을 나타내기 위해서 좌측 귀에 그리고 다가오는 우회전을 나타내기 위해서 우측 귀에 사운드 또는 신호음(tone)이 재생될 수 있으며, 이때 상이한 신호음들 또는 사운드들이 다가오는 내리막길 또는 오르막길을 나타내기 위해 양쪽 귀에 재생된다. 다른 예로서, 햅틱 큐들은 다가오는 기동을 나타내기 위해 생성될 수 있고; 예를 들어, 시트의 좌측은 다가오는 좌회전을 나타내기 위해 진동할 수 있고, 시트의 우측은 다가오는 우회전을 나타내기 위해 진동할 수 있다. 다른 예로서, 시각적, 청각적, 및/또는 햅틱 큐들이 도로 내의 다가오는 침강부 또는 요철을 승객에게 경고하기 위해 제공될 수 있다. 도 16에 도시된 바와 같이, 일부 실시예들에서, 운송수단이 따르고 있는 현실 세계 루트의 경로 및 윤곽을 따르는 가상 경로 또는 트랙(1608)이 가상 환경(1600)에서 디스플레이될 수 있고, 이를 통해, 승객은 다가오는 회전, 언덕, 요철, 및 도로 내의 침강부를 포함하지만 이들로 제한되지 않는, 현실 세계 루트의 경로 및 윤곽을 예상할 수 있다. 운항 시스템 및 운송수단 시스템 데이터는 VR 시스템에 입력될 수 있고, 미리보기 정보를 제공하는 데 사용될 수 있다. 플랫폼(1604) 및 앵커링된 가상 콘텐츠(1606)가 또한 디스플레이될 수 있다. 다가오는 기동에 대한 시각적 큐들이 또한 트랙(1608)과 함께 디스플레이될 수 있고; 예를 들어, 게이트(1610) 또는 다른 시각적 큐가 다가오는 정지, 예를 들어 루트 상의 정지 표지 또는 신호등을 나타내도록 디스플레이될 수 있고; 게이트(1610)는 운송수단이 다시 움직일 준비가 될 때까지 유지될 수 있다. 청각적 및/또는 햅틱 큐들이 또한 제공될 수 있다.
일부 실시예들에서, VR 시스템이 승객이 멀미를 경험하기 시작하고 있을 수 있음을 검출하는 경우, 일부 콘텐츠는 VR 환경으로부터 제거되어, 이에 따라, 가상 세계에서 승객을 지나쳐서 흐르는 더 적은 절제된(low-key) 시각적 물체들을 제공할 수 있다. 일부 실시예들에서, 도 17에 도시된 바와 같이, 저자극의 스파스(sparse) 시각적 환경(1700)이 진정시키는 느긋한 경험을 제공하기 위해 사용될 수 있다. 일부 실시예들에서, 소정 물체 또는 양태가 현실 세계 방향으로 앵커링된 가상 환경(예컨대, 정서쪽에 앵커링된 지는 태양, 또는 정북쪽에 앵커링된 긴 건물)에 디스플레이될 수 있고, 따라서, 승객은 그가 현실 세계에서 어디에 있는지를 더 쉽게 추적할 수 있다. 예를 들어, 일몰 앵커(1706)를 갖는 스파스 별 시야(sparse star field) 및 지나쳐서 흐르는 수 개의 절제된 시각적 물체들을 보여주는 VR 환경(1700)이, 승객들이 현실 세계에서 자신들의 위치를 알게 되는 것을 도울 수 있고, 편안한 느긋한 VR 경험을 제공할 수 있다.
중단되지 않는 기간 동안 꾸준하게 가상 세계에서 강한 광학적 흐름을 경험하는 것(즉, 정지하지 않고 운전하는 것)은 운송수단이 정지할 때 반대 방향(즉, 후방)으로의 움직임의 착시를 야기할 수 있다. 일부 실시예들에서, 운송수단이 정지할 때 움직임의 이러한 인지를 피하기 위해 광학적 흐름/시각적 움직임 여파에 대한 완화가 제공될 수 있다. 예를 들어, 시각적 자극이 운전 시의 정지/브레이크 지점에 또는 그 부근에 제공되어 이러한 효과를 감소시킬 수 있다. 일부 실시예들에서, 시각적 자극은 인지되는 후방 움직임에 반대로(즉, 전방으로) 흐르는 움직임 큐들일 수 있고; 움직임 큐들은 후방으로 움직인다는 인지에 대응할 수 있다. 움직임 큐들은, 예를 들어, 여전히 전방으로 움직이고 있고, 승객을 지나치고, 천천히 움직이고 있고, 완전 정지까지 수 초 이상 감속되고 있는 물체들일 수 있다. 이는 승객이 그가 전방으로 드리프트하고 있음을 인지하게 하며, 이는 후방으로 움직인다는 착각에 대응한다. 광학적 흐름/시각적 움직임 여파를 완화시키기 위해 사용될 수 있는 시각적 큐의 다른 예로서, 가상 세계의 콘트라스트가 낮춰질 수 있는데, 이는 후방 움직임의 착각이 더 높은 콘트라스트를 가질 가능성이 더 클 수 있기 때문이다.
승객들은 그들이 듣는 현실 세계 환경 소음과 매칭하지 않는 시각적 입력을 갖는 것이 불편하다는 것을 알아낼 수 있다. 따라서, 일부 실시예들에서, 오디오(예컨대, 음악, 사운드 효과, 백색 잡음 등)는 VR 애플리케이션에 의해 제공되는 시각적 경험을 보완하기 위해, 예를 들어 도로 소음 및 다른 현실 세계 환경 소음을 차단하거나 상쇄시키는 헤드폰 또는 이어버드를 통해 제공될 수 있다.
도 18 내지 도 20은 움직이는 운송수단 내의 VR 시스템을 사용하고 승객들의 선호도 및 생리적 응답에 따라 VR 경험을 적응시킬 때 승객들을 모니터링하는 것을 도시한다. 도 18 내지 도 20에 도시된 방법들 및 장치는, 예를 들어, 도 1 내지 도 14에 도시된 바와 같은 VR 시스템들에서 구현될 수 있다.
도 18은 일부 실시예들에 따른, 운송수단 내의 VR 시스템을 사용하여 승객(1890)을 모니터링하는 것을 도시한다. VR 제어기(1810) 상에서 실행되는 VR 애플리케이션에 의해 생성되어 HMD(1820)를 통해 승객(1890)에게 제시되는 가상 콘텐츠(1840) 및 오디오(1842)는 승객의 선호도에 따라 그리고/또는 운송수단 내의 센서들에 의해 수집된 승객 센서 데이터(1830)에 따라 특정 승객(1890)에게 적응될 수 있다. 일부 실시예들에서, VR 애플리케이션은 사전정의된 또는 사전결정된 승객 선호도, 예를 들어, 제어기(1810) 상에 저장된 선호도 파일에 유지되거나 클라우드 저장소와 같은 외부 저장소로부터 액세스되는 승객 선호도 데이터에 따라 승객(1890)에 대한 VR 환경을 초기화할 수 있다. 일부 실시예들에서, VR 시스템은 승객(1890)이 경험될 VR 환경에 대한 그의 선호도를 명시하는 것을 허용하는 인터페이스를 제공할 수 있다(예컨대, 승객은 느긋한, 일반적인, 또는 신나는 경험을 요청할 수 있음).
일부 실시예들에서, HMD(1820)를 사용하여 VR 제어기(1810) 상의 VR 애플리케이션에 의해 생성된 VR 세계를 경험하는 동안, 다양한 센서들이 불편함 또는 멀미의 징후(예컨대, 창백함, 발한, 안절부절함, 연하, 트림, 심박수, 호흡수, 눈 움직임 등)에 대해 승객(1890)을 모니터링하는 데 사용될 수 있고; 승객 센서 데이터(1830)는 유선 또는 무선 접속을 통해 VR 제어기(1810)에 제공될 수 있다. 일부 실시예들에서, 센서는 HMD(1820) 내에 또는 그 상에 센서들(1832), 예를 들어 승객의 양눈 또는 승객의 얼굴의 다른 부분을 모니터링하는 내부 카메라, 양팔 및 양손과 같은 승객의 신체의 다른 부분을 모니터링하는 외부 카메라, 승객 머리의 움직임을 검출하고 추적하는 IMU, 및/또는 발한, 연하, 및 호흡수와 같은 생리적 응답을 모니터링하는 센서를 포함할 수 있다. 일부 실시예들에서, 센서들은 승객의 신체의 다른 부분에 부착되거나 그에 착용되는 센서들(1834), 예를 들어 발한, 맥박수, 연하, 또는 다른 생리적 응답을 모니터링하고/하거나 승객의 신체의 움직임을 검출하고 추적하는 IMU를 포함하는 손목 밴드, 팔 밴드, 또는 시계를 포함할 수 있다. 일부 실시예들에서, 센서들은, 예를 들어 승객이 안절부절하거나 침착하지 못한지를 판정하기 위해 사용될 수 있는, 예를 들어 승객의 움직임 및 체중 분배를 검출하는 시트 내의 센서들(1836)을 포함할 수 있다. 일부 실시예들에서, 센서들은, 예를 들어 승객의 움직임 및 응답(예컨대, 연하, 트림 등)을 검출하는 데 사용될 수 있는 승객의 비디오를 캡처하는 운송수단 내의 카메라들(1838)을 포함할 수 있다.
멀미의 징후가 검출되는 경우, 예를 들어 VR 제어기(1810)에 의한 승객 센서 데이터(1830)의 분석이 승객이 안절부절인 것으로 보이거나, 그의 양눈을 감고 있거나, 또는 빈번하게 침을 삼키거나 트림을 하고 있음을 시사하는 경우, VR 제어기(1810) 상에서 실행되는 VR 애플리케이션은 애플리케이션에 의해 생성된 가상 환경을 변경하여, 승객의 편의를 도모하고 멀미를 완화시킬 수 있다. 예를 들어, 애플리케이션은 승객에게 디스플레이되는 시뮬레이션된 뷰에서의 실생활 움직임 및 가속도에 대한 1:1 맵핑으로 복귀하거나 이를 유지할 수 있다. VR 애플리케이션은, 또한, 예를 들어 사용자 아래에 가상 플랫폼을 디스플레이하고/하거나, 사용자의 전방에 관여 중인 가상 콘텐츠를 디스플레이하고/하거나, 가상 환경 내의 앵커링된 콘텐츠를 디스플레이하고/하거나, 승객을 지나쳐서 광학적 흐름을 제공하는 데 사용되는 콘텐츠를 감소시키고/시키거나, 다가오는 차량 기동에 대한 시각적 큐들을 제공하고/하거나, 가상 트랙을 디스플레이하고/하거나, 가상 세계를, 진정시키는 느긋한 경험을 제공할 수 있는 저자극의 스파스 시각적 환경으로 감소시키고/시키거나, 광학적 흐름/시각적 움직임 여파에 대응하는 시각적 자극을 제공하고/하거나, 도로 소음을 차단하기 위해 진정시키는 오디오를 재생함으로써, 전술된 바와 같은 1회 이상의 시각적 및 청각적 편의 도모를 이용하여 승객에게 제시되는 가상 경험을 변경할 수 있다. 승객이 멀미의 징후를 보이지 않는 경우, VR 시스템은 1:1 맵핑으로부터 변할 수 있는데, 이는 가상 경험에 더 큰 유연성을 허용한다. 예를 들어, 가속도의 감지를 제공하는 시각적 및 다른 큐들은 가상 경험에서 그들이 운송수단이 실제로 가속하고 있는 것보다 더 빠른 속도로 가속하고 있음이 승객에게 느껴지도록 증가될 수 있고/있거나, 회전의 감각을 제공하는 시각적 및 다른 큐들은 가상 경험에서 그들이 운송수단이 실제로 회전하고 있는 것보다 더 빠른 속도로 회전하고 있음이 승객에게 느껴지도록 증가될 수 있다. 추가로, 전술된 바와 같이 편안함을 위한 그리고 멀미를 완화시키기 위한 1회 이상의 편의 도모는 디스플레이되지 않을 수도 있거나, 또는 승객의 멀미 없음, 선호도, 및/또는 VR 시스템으로의 입력에 기초하여 환경으로부터 제거될 수 있다.
도 19는 일부 실시예들에 따른, 승객 선호도 및 승객 센서 데이터에 기초하여 승객의 편의를 도모하도록 VR 경험을 적응시키는 예시적인 VR 애플리케이션을 도시한다. VR 애플리케이션(1912)은 편의 도모 결정 모듈(1914), VR 렌더링 모듈(1916), 및 오디오 모듈(1918)을 포함할 수 있지만, 이들로 제한되지 않는다. VR 애플리케이션(1912)은, 또한, 도 15 내지 도 17을 참조하여 전술된 1회 이상의 편의 도모를 특정하는 편의 도모 지침(1920)을 인코딩할 수 있거나 그에 액세스할 수 있다. 편의 도모 결정 모듈은 승객의 선호도에 따라 승객을 위한 초기 VR 환경을 설정할 수 있다. 예를 들어, 승객은 멀미가 잘 날 수 있고, 그에 따라, 그의 선호도는 그가 잔잔하고 진정시키는 가상 경험을 선호함을 명시할 수 있다. 따라서, 편의 도모 결정 모듈은 편의 도모 지침(1920)에 기초하여 승객을 위해 설정될 1회 이상의 편의 도모를 결정할 수 있다. 대안으로, 승객은 멀미가 잘 나지 않을 수도 있고, 그에 따라 그의 선호도는 그가 신나는 가상 경험을 선호할 것임을 명시할 수 있다. 다른 선호도, 예를 들어 오디오 선호도가 또한 명시될 수 있다. 초기 편의 도모 설정이 VR 렌더링 모듈(1916)에 제공될 수 있다. VR 렌더링 모듈(1916)은, 이어서, 현재 편의 도모 설정에 따라 그리고 운송수단 센서들 및 시스템들로부터 획득된 운항 및 지형 데이터와 운송수단 센서 데이터에 적어도 부분적으로 기초하여, 승객에게 적응되는 몰입형 VR 환경을 표현하는 가상 콘텐츠(1940)를 생성할 수 있다. 가상 콘텐츠를 렌더링하는 데 있어서, VR 렌더링 모듈(1916)은 VR 환경을, 입력들로부터 결정된 바와 같은 운송수단의 움직임 및 가속도(예컨대, 회전, 가속도, 정지 등)와 동기화한다. 오디오 모듈(1918)은, 또한, 현재 편의 도모 설정에서 승객에 적응된 오디오(1942)를 생성할 수 있다.
편의 도모 결정 모듈(1914)은, 예를 들어, 도 18에 도시된 바와 같이 다양한 센서들로부터 획득된 승객 센서 데이터를 이용하여, 멀미의 징후를 검출하기 위해 승객을 모니터링할 수 있다. 편의 도모 결정 모듈(1914)이 멀미의 징후를 검출하는 경우, 편의 도모 결정 모듈(1914)은 편의 도모 지침(1920)에 기초하여 승객을 위해 설정될 1회 이상의 편의 도모를 결정할 수 있다. 편의 도모 설정은 승객을 수용하기 위해 그리고 멀미를 완화시키기 위해 변경될 수 있고, VR 렌더링 모듈(1916)은 변경된 설정 및 편의 도모에 따라 가상 콘텐츠 및 오디오를 생성 및 디스플레이하기 시작할 수 있다. 예를 들어, VR 렌더링 모듈(1916)은 승객에게 디스플레이되는 시뮬레이션된 뷰에서의 실생활 움직임 및 가속도에 대한 1:1 맵핑으로 복귀하거나 이를 유지할 수 있다. VR 렌더링 모듈(1916)은, 또한, 예를 들어 사용자 아래에 가상 플랫폼을 디스플레이하고/하거나, 사용자의 전방에 관여 중인 가상 콘텐츠를 디스플레이하고/하거나, 가상 환경 내의 앵커링된 콘텐츠를 디스플레이하고/하거나, 승객을 지나쳐서 광학적 흐름을 제공하는 데 사용되는 콘텐츠를 감소시키고/시키거나, 다가오는 차량 기동에 대한 시각적 큐들을 제공하고/하거나, 가상 트랙을 디스플레이하고/하거나, 가상 세계를, 진정시키는 느긋한 경험을 제공할 수 있는 저자극의 스파스 시각적 환경으로 감소시키고/시키거나, 광학적 흐름/시각적 움직임 여파에 대응하는 시각적 자극을 제공하고/하거나, 도로 소음을 차단하기 위해 진정시키는 오디오를 재생함으로써, 전술된 바와 같은 1회 이상의 시각적 및 청각적 편의 도모를 이용하여 승객에게 제시되는 가상 경험을 변경할 수 있다. 일부 실시예들에서, 승객이 멀미의 징후를 보이지 않는 경우, 편의 도모 결정 모듈(1914)은 1:1 맵핑으로부터 변하도록 설정을 변경할 수 있는데, 이는 가상 경험에 더 큰 유연성을 허용한다. 예를 들어, 가속도의 감지를 제공하는 시각적 및 다른 큐들은 가상 경험에서 그들이 운송수단이 실제로 가속하고 있는 것보다 더 빠른 속도로 가속하고 있음이 승객에게 느껴지도록 증가될 수 있고/있거나, 회전의 감각을 제공하는 시각적 및 다른 큐들은 가상 경험에서 그들이 운송수단이 실제로 회전하고 있는 것보다 더 빠른 속도로 회전하고 있음이 승객에게 느껴지도록 증가될 수 있다. 추가로, 전술된 바와 같이 편안함을 위한 그리고 멀미를 완화시키기 위한 1회 이상의 편의 도모는 디스플레이되지 않을 수도 있거나, 또는 승객의 멀미 없음, 선호도, 및/또는 VR 애플리케이션(1912)으로의 입력에 기초하여 가상 환경으로부터 제거될 수 있다.
도 20은 일부 실시예들에 따른, 승객 선호도 및 승객 센서 데이터에 기초하여 승객의 편의를 도모하도록 VR 경험을 적응시키기 위한 방법의 흐름도이다. 2010에 나타낸 바와 같이, 운송수단 내의 VR 시스템의 VR 제어기 상에서 실행되는 VR 애플리케이션은 승객의 선호도에 따라 승객에 대한 초기 VR 환경을 설정할 수 있다. 예를 들어, 승객은 멀미가 잘 날 수 있고, 그에 따라, 그의 선호도는 그가 잔잔하고 진정시키는 가상 경험을 선호함을 명시할 수 있다. 대안으로, 승객은 멀미가 잘 나지 않을 수도 있고, 그에 따라 그의 선호도는 그가 신나는 가상 경험을 선호할 것임을 명시할 수 있다. 다른 선호도, 예를 들어 오디오 선호도가 또한 명시될 수 있다. 2020에 나타낸 바와 같이, VR 애플리케이션은, 이어서, 현재 설정에 따라 그리고 운항/루트 데이터, 지형 윤곽 데이터, 및 운송수단 센서 데이터를 포함하지만 이들로 제한되지 않는 운송수단 센서들 및 시스템들로부터의 입력들에 적어도 부분적으로 기초하여, 몰입형 VR 환경을 표현하는 가상 콘텐츠 및 오디오를 생성할 수 있다. 가상 콘텐츠를 렌더링하는 데 있어서, VR 애플리케이션은 VR 환경을, 입력들로부터 결정된 바와 같은 운송수단의 움직임 및 가속도(예컨대, 회전, 가속도, 정지 등)와 동기화한다. 2030에 나타낸 바와 같이, VR 제어기는 승객이 사용하는 VR 디바이스(예컨대, 승객이 착용한 HMD)로 가상 콘텐츠 및 오디오를 전송한다.
2040에 나타낸 바와 같이, VR 시스템은, 예를 들어 도 18에 도시된 바와 같은 다양한 센서들을 사용하여, 멀미의 징후를 검출하기 위해 승객을 모니터링할 수 있다. 2050에서, 멀미가 검출되는 경우, VR 환경은 승객의 편의를 도모하기 위해 그리고 멀미를 완화시키기 위해 변경될 수 있고, 방법은 요소(2020)로 복귀하여, 변경된 설정 및 편의 도모에 따라 가상 콘텐츠 및 오디오를 생성 및 디스플레이한다. 예를 들어, 애플리케이션은 승객에게 디스플레이되는 시뮬레이션된 뷰에서의 실생활 움직임 및 가속도에 대한 1:1 맵핑으로 복귀하거나 이를 유지할 수 있다. VR 애플리케이션은, 또한, 예를 들어 사용자 아래에 가상 플랫폼을 디스플레이하고/하거나, 사용자의 전방에 관여 중인 가상 콘텐츠를 디스플레이하고/하거나, 가상 환경 내의 앵커링된 콘텐츠를 디스플레이하고/하거나, 승객을 지나쳐서 광학적 흐름을 제공하는 데 사용되는 콘텐츠를 감소시키고/시키거나, 다가오는 차량 기동에 대한 시각적 큐들을 제공하고/하거나, 가상 트랙을 디스플레이하고/하거나, 가상 세계를, 진정시키는 느긋한 경험을 제공할 수 있는 저자극의 스파스 시각적 환경으로 감소시키고/시키거나, 광학적 흐름/시각적 움직임 여파에 대응하는 시각적 자극을 제공하고/하거나, 도로 소음을 차단하기 위해 진정시키는 오디오를 재생함으로써, 전술된 바와 같은 1회 이상의 시각적 및 청각적 편의 도모를 이용하여 승객에게 제시되는 가상 경험을 변경할 수 있다. 2050에서, 어떠한 멀미의 징후도 검출되지 않는 경우, 방법은 요소(2020)로 복귀하여, 현재 설정에 따라 가상 콘텐츠 및 오디오를 계속해서 생성하고 디스플레이한다. 일부 실시예들에서, 승객이 멀미의 징후를 보이지 않는 경우, VR 시스템은 1:1 맵핑으로부터 변할 수 있는데, 이는 가상 경험에 더 큰 유연성을 허용한다. 예를 들어, 가속도의 감지를 제공하는 시각적 및 다른 큐들은 가상 경험에서 그들이 운송수단이 실제로 가속하고 있는 것보다 더 빠른 속도로 가속하고 있음이 승객에게 느껴지도록 증가될 수 있고/있거나, 회전의 감각을 제공하는 시각적 및 다른 큐들은 가상 경험에서 그들이 운송수단이 실제로 회전하고 있는 것보다 더 빠른 속도로 회전하고 있음이 승객에게 느껴지도록 증가될 수 있다. 추가로, 전술된 바와 같이 편안함을 위한 그리고 멀미를 완화시키기 위한 1회 이상의 편의 도모는 디스플레이되지 않을 수도 있거나, 또는 승객의 멀미 없음, 선호도, 및/또는 VR 시스템으로의 입력에 기초하여 환경으로부터 제거될 수 있다.
운송수단 내의 VR 시스템에 대한 콘텐츠
일부 실시예들에서, 가상 콘텐츠 개발자들은 본 명세서에 기술된 바와 같이 운송수단 내의 VR 시스템들에서 사용될 수 있는 VR 콘텐츠를 생성할 수 있다. VR 콘텐츠는 VR 시스템 제공자에 의해 또는 제3자에 의해 제공될 수 있다. 예를 들어, 개발자들은 운송수단 내의 VR 시스템을 통해 승객들에게 고유한 VR 경험을 제공하기 위해 VR 제어기 상에서 실행될 수 있는 VR 애플리케이션을 생성할 수 있다. 예를 들어, 엔터테인먼트 스튜디오(entertainment studio)는 운송수단에 탑승할 때 스튜디오에 의해 생성되거나 소유되는 영화(motion picture) 또는 영화 프랜차이즈에 기초하여 승객들이 가상 환경을 경험하는 것을 허용하는 VR 애플리케이션들을 개발할 수 있다. VR 애플리케이션에 의해 제공되는 VR 경험은 다양한 여행 지속기간 및 루트 구성에 매칭될 수 있는 모듈러 요소들 또는 세그먼트들을 포함할 수 있다. VR 애플리케이션은, 예를 들어, 온라인 스토어 또는 사이트를 통해 구매되어 VR 시스템들에 다운로드될 수 있다. 온라인 스토어는, 예를 들어, VR 시스템 제공자에 의해 제공될 수 있다. 온라인 스토어에 대한 인터페이스는, 사용자가 온라인 스토어로부터 VR 애플리케이션들을 브라우징, 선택, 구매, 및 다운로드하는 것을 허용하는 VR 시스템을 통해 제공될 수 있다. VR 시스템 제공자는 온라인 스토어를 통해 각각의 구매품의 일부분을 수령할 수 있다.
일부 실시예들에서, 본 명세서에 기술된 바와 같은 VR 시스템은, 이어서, 사용자에 의해 경험될 수 있거나, 동일한 운송수단 내의 다른 사람들과 공유될 수 있거나, (예컨대, 웹사이트를 공유하는 온라인 VR 환경을 통해) 다른 사람들 - 이들은 이어서 자신의 운송수단에서 가상 환경을 경험할 수 있음 - 에게 제공될 수 있는 루트 또는 루트들을 따라서, 예를 들어 빈번하게 이동되는 루트들을 따라서, 사용자가 가상 환경을 구축하거나 맞춤제작하는 것을 허용할 수 있다. 예를 들어, VR 시스템은 가상 환경에서 가상 콘텐츠를 추가, 제거, 또는 수정하기 위해 사용자가 제스처, 음성 커맨드, 또는 입력 디바이스로의 입력을 사용하여 가상 환경과 상호작용하는 것을 허용할 수 있다. 예를 들어, 사용자는, 사용자가 빈번하게 이동하는 루트의 시각적 표현을 따라서 가상 빌딩들 또는 다른 구조물들을 추가하거나, 루트의 가상 표현을 따라서 가상 씨앗(seed)을 뿌리거나 가상의 나무들을 배치하거나, 또는 다른 방식들로 루트의 가상 표현을 맞춤제작하거나 그와 상호작용할 수 있다. 사용자가 VR 환경을 경험하기 위해 VR 시스템을 사용하여 운송수단 내의 루트를 이동함에 따라, 사용자는 그의 상호작용의 결과들, 예를 들어 그가 이전에 뿌렸던 가상 씨앗으로부터 성장한 가상 식물들, 그가 배치했던 가상 구조물들 또는 나무들 등을 볼 수 있다. 동일한 루트를 이동하는 다른 사람들은 사용자로부터 직접적으로, 웹사이트를 통해, 또는 어떤 다른 소스를 통해 맞춤제작된 VR 환경을 획득할 수 있고, 그들의 운송수단 내의 VR 시스템 내로 VR 환경을 로딩할 수 있고, 맞춤제작된 VR 환경 자체를 경험할 수 있다. 맞춤제작된 VR 환경은, 또한, 원하는 경우, 다른 루트들에 적응되고 그 위에서 경험될 수 있다.
자율 운송수단
전술된 바와 같이, 본 명세서에 기술되는 바와 같은 VR 시스템의 실시예들은, 예를 들어, 모든 탑승자가 승객들인 자율 또는 "자가-운전" 운송수단에서 구현될 수 있다. VR 시스템은 더 안전하고, 더 작고, 덜 비싼 자율 운송수단을 가능하게 할 수 있다. 운송수단 내의 윈도우들은 본질적으로 안전하지 않고 구조적으로 손상되지 않는 것이 아니며, 운송수단에 비용을 추가한다. 실제 환경의 또는 시뮬레이션된 환경의 가상 뷰를 제공함으로써, VR 시스템은 자율 운송수단 내의 윈도우에 대한 필요성을 감소시키거나 제거하여, 운송수단이 더 적은 그리고/또는 더 작은 윈도우들을 갖거나 어떠한 윈도우도 갖지 않는 상태로 제작되는 것을 허용할 수 있다. 또한, VR 시스템을 통해 제공되는 VR 경험은 승객들에게 그들이 자율 운송수단의 실제 크기보다 더 큰 운송수단에 실제로 탑승하고 있는 감각을 제공할 수 있으며, 이는 작은 자율 운송수단에 탑승할 때 더 즐겁고 안전한 느낌의 경험을 승객들에게 제공할 수 있다.
특정 실시예들이 전술되었지만, 이들 실시예들은 단일 실시예만이 특정 특징부에 대해 기술되어 있는 경우에도 본 발명의 범주를 제한하도록 의도되지 않는다. 본 개시내용에 제공된 특징부들의 예들은 달리 언급되지 않는 한 제한적인 것이 아니라 예시적인 것으로 의도된다. 본 개시내용의 범주는, 본 명세서에 다뤄진 문제점들 중 임의의 것 또는 전부를 완화시키든 아니든, (명시적으로 또는 묵시적으로) 본 명세서에 개시된 임의의 특징부 또는 특징부들의 조합, 또는 그의 임의의 일반화를 포함한다. 따라서, 특징부들의 임의의 그러한 조합에 대해 본 출원(또는 그에 대한 우선권을 주장하는 출원)의 심사 동안에 새로운 청구범위가 작성될 수 있다. 구체적으로, 첨부된 청구범위를 참조하면, 종속항들로부터의 특징부들은 독립항들의 특징부들과 조합될 수 있으며, 각자의 독립항들로부터의 특징부들은 첨부된 청구범위에 열거된 특정 조합들로 조합될 수 있을 뿐 아니라 임의의 적절한 방식으로 조합될 수 있다.
본 명세서에서 기술된 방법들 중 다양한 것들은, 상이한 실시예들에서, 소프트웨어, 하드웨어, 또는 이들의 조합으로 구현될 수 있다. 부가적으로, 방법들의 블록들의 순서는 변경될 수 있고, 다양한 요소들이 부가, 재순서화, 조합, 생략, 수정, 기타 등등될 수 있다. 본 개시내용의 이익을 가진 당업자에게 명백한 바와 같이 다양한 수정들 및 변화들이 이루어질 수 있다. 본 명세서에 설명된 다양한 실시예들은 예시적인 것이며 제한하려는 것으로 의도되지 않는다. 많은 변형들, 수정들, 부가들 및 개선들이 가능하다. 다양한 컴포넌트들과 동작들 사이의 경계들은 다소 임의적이고, 특정 동작들은 특정의 예시적인 구성들의 맥락에서 예시된다. 기능의 다른 할당들이 계획되고, 다음의 청구범위의 범주 내에 속할 수 있다. 마지막으로, 예시적인 구성들에서 별개의 컴포넌트들로 제시된 구조들 및 기능은 조합된 구조 또는 컴포넌트로서 구현될 수 있다. 이들 및 다른 변형들, 수정들, 부가들 및 개선들은 다음의 청구범위에 정의된 바와 같은 실시예들의 범주 내에 속할 수 있다.
추가로, 본 발명의 실시예들은 하기의 항목들의 관점에서 기술될 수 있다:
항목: 시스템으로서,
운송수단 내의 가상 현실(VR) 제어기를 포함하고, 상기 VR 제어기는:
상기 운송수단 내의 하나 이상의 소스들로부터 입력들을 획득하도록;
상기 운송수단 내의 사용자 디바이스로부터 디스플레이 스크린 입력을 획득하도록;
상기 운송수단 내의 상기 하나 이상의 소스들로부터의 입력들에 적어도 부분적으로 기초하여 상기 사용자 디바이스로부터의 상기 디스플레이 스크린 입력을 포함하는 가상 콘텐츠를 렌더링하도록; 그리고
상기 운송수단 내의 승객에게 3D 가상 뷰에서의 디스플레이를 위해 상기 가상 콘텐츠를 VR 디바이스로 전송하도록 구성되고, 상기 사용자 디바이스로부터의 디스플레이 스크린 입력은 상기 승객에게 상기 운송수단의 전방의 고정된 거리에 있는 것으로 보이도록 렌더링되고 디스플레이되는, 시스템.
항목 2: 항목 1에 있어서, 상기 VR 디바이스는 상기 승객이 보기 위해 상기 가상 콘텐츠를 디스플레이하는, 상기 승객이 착용하는 헤드 장착형 디바이스(HMD)를 포함하는, 시스템.
항목 3: 항목 1에 있어서, 상기 VR 디바이스는 상기 승객이 보기 위해 상기 가상 콘텐츠를 상기 운송수단의 윈도우에 투영하는 프로젝터를 포함하는, 시스템.
항목 4: 항목 1에 있어서, 상기 가상 콘텐츠는 상기 승객에게 증강 또는 혼합 현실 뷰를 제공하도록 상기 운송수단의 전방의 현실 세계 장면의 뷰에 디스플레이되는, 시스템.
항목 5: 항목 1에 있어서, 상기 디스플레이 스크린 입력을 포함하는 상기 가상 콘텐츠는 상기 운송수단의 전방의 현실 세계 장면의 뷰를 가상 현실 뷰로 대체하는 가상 환경을 표현하고, 상기 가상 현실 뷰는 상기 가상 환경에서 상기 운송수단의 움직임을 상기 승객에게 나타내는 시각적 큐들을 포함하는, 시스템.
항목 6: 항목 5에 있어서, 상기 VR 제어기는:
상기 승객이 멀미가 잘 나는 경향이 있거나 멀미의 징후를 보이고 있는지를 판정하도록; 그리고
상기 승객이 멀미가 잘 나는 경향이 있거나 멀미의 징후를 보이고 있는 것으로 판정할 시, 1회 이상의 편의 도모에 따라 상기 가상 환경을 변경하여 멀미를 완화시키도록 추가로 구성된, 시스템.
항목 7: 항목 6에 있어서, 상기 VR 제어기는 상기 승객에 대한 선호도 데이터 또는 상기 승객으로부터의 입력에 따라 상기 승객이 멀미가 잘 나는 경향이 있는지를 판정하도록 구성된, 시스템.
항목 8: 항목 6에 있어서, 상기 VR 제어기는 상기 승객을 모니터링하는 하나 이상의 센서들로부터 획득된 승객 센서 데이터에 따라 상기 승객이 멀미의 징후를 보이고 있는지를 판정하도록 구성된, 시스템.
항목 9: 항목 6에 있어서, 상기 1회 이상의 편의 도모는:
상기 가상 현실 뷰에서 상기 승객 밑에 지평면을 디스플레이하는 것;
상기 가상 환경에서 상기 운송수단의 움직임을 나타내는 시각적 큐들의 수를 감소시키는 것;
상기 가상 환경에서 상기 운송수단의 움직임을 나타내는 상기 시각적 큐들을 감속시켜서, 상기 가상 환경에서의 움직임과 상기 실제 환경에서의 움직임 사이에 1:1 비가 있게 하는 것;
다가오는 운송수단 기동의 시각적, 청각적, 또는 햅틱 표시들을 제공하는 것;
상기 가상 현실 뷰에 디스플레이되는 상기 가상 콘텐츠를 감소시켜서 스파스 시각적 환경을 제공하는 것;
상기 현실 세계에 대해 고정된 상태로 남아 있는 앵커링된 물체를 상기 가상 환경 내에 배치하는 것;
상기 운송수단의 정지 시에 시각적 자극을 제공하여 시각적 움직임 여파에 대응하는 것; 또는
현실 세계 잡음을 차단하는 오디오 출력을 제공하는 것을 포함하는, 시스템.
항목 10: 항목 1에 있어서, 상기 하나 이상의 소스들은:
하나 이상의 운송수단 센서들 - 상기 운송수단 센서들로부터의 입력들은 외부 운송수단 센서들로부터의 깊이 맵 정보, 상기 운송수단에 대한 국지화 정보, 상기 운송수단 상의 하나 이상의 카메라들로부터의 비디오, 또는 상기 운송수단의 관성 측정 유닛(IMU)으로부터의 상기 운송수단에 대한 움직임 및 배향 정보 중 하나 이상을 포함함 -; 및
하나 이상의 운송수단 제어 시스템들 - 상기 하나 이상의 운송수단 제어 시스템들은 스로틀 제어 시스템, 제동 제어 시스템, 능동 서스펜션 제어 시스템, 또는 조향 제어 시스템 중 하나 이상을 포함함 - 을 포함하는, 시스템.
항목 11: 항목 1에 있어서, 상기 하나 이상의 소스들은 무선 접속을 통해 액세스되는 상기 운송수단 외부의 소스들을 포함하고, 상기 외부 소스들로부터의 입력들은 세계 지도 데이터, 국지적 환경의 3D 모델, 상기 국지적 환경 내의 물체들 또는 특징부들에 관한 정보, 비디오 스트림, 또는 오디오 중 하나 이상을 포함하는, 시스템.
항목 12: 항목 1에 있어서, 상기 하나 이상의 소스들은 상기 VR 디바이스의 IMU를 포함하고, 상기 IMU로부터의 입력들은 상기 승객의 머리에 대한 움직임 및 배향 정보를 포함하는, 시스템.
항목 13: 항목 1에 있어서, 상기 운송수단은 자율 운송수단인, 시스템.
항목 14: 항목 1에 있어서, 상기 가상 콘텐츠를 렌더링함에 있어서, 상기 VR 제어기는 상기 운송수단 내의 상기 하나 이상의 소스들로부터의 입력들에 기초하여 상기 가상 콘텐츠의 움직임 및 가속도를 상기 운송수단의 움직임 및 가속도와 동기화시키는, 시스템.
항목 15: 방법으로서,
운송수단 내의 가상 현실(VR) 시스템에 의해, 상기 운송수단 내의 하나 이상의 소스들로부터의 입력들을 획득하는 단계;
상기 VR 시스템에 의해, 상기 운송수단 내의 사용자 디바이스로부터 디스플레이 스크린 입력을 획득하는 단계;
상기 VR 시스템에 의해, 상기 운송수단 내의 상기 하나 이상의 소스들로부터의 입력들에 적어도 부분적으로 기초하여 상기 사용자 디바이스로부터의 상기 디스플레이 스크린 입력을 포함하는 가상 콘텐츠를 렌더링하는 단계; 및
상기 VR 시스템에 의해, 3D 가상 뷰 내의 상기 가상 콘텐츠를 상기 운송수단 내의 승객에게 디스플레이하는 단계를 포함하며, 상기 디스플레이 스크린 입력은 상기 승객에게 상기 운송수단의 전방의 고정된 거리에 있는 것으로 보이는, 방법.
항목 16: 항목 15에 있어서, 상기 VR 시스템은 VR 제어기 및 VR 디바이스를 포함하고, 상기 VR 디바이스는 상기 승객이 착용하도록 그리고 상기 승객이 보기 위한 상기 가상 콘텐츠를 디스플레이하거나 투영하도록 구성된 헤드 장착형 디바이스(HMD), 또는 상기 승객이 보기 위해 상기 가상 콘텐츠를 상기 운송수단의 윈도우에 투영하도록 구성된 프로젝터 중 하나인, 방법.
항목 17: 항목 15에 있어서, 상기 가상 콘텐츠는 상기 승객에게 증강 또는 혼합 현실 뷰를 제공하도록 상기 운송수단의 전방의 현실 세계 장면의 뷰에 디스플레이되는, 방법.
항목 18: 항목 15에 있어서, 상기 디스플레이 스크린 입력을 포함하는 상기 가상 콘텐츠는 상기 운송수단의 전방의 현실 세계 장면의 뷰를 가상 현실 뷰로 대체하는 가상 환경을 표현하고, 상기 가상 현실 뷰는 상기 가상 환경에서 상기 운송수단의 움직임을 상기 승객에게 나타내는 시각적 큐들을 포함하는, 방법.
항목 19: 항목 15에 있어서,
상기 승객이 멀미가 잘 나는 경향이 있거나 멀미의 징후를 보이고 있는지를 판정하는 단계; 및
상기 승객이 멀미가 잘 나는 경향이 있거나 멀미의 징후를 보이고 있는 것으로 판정할 시, 1회 이상의 시각적 또는 청각적 편의 도모에 따라 상기 가상 환경을 변경하여 멀미를 완화시키는 단계를 추가로 포함하는, 방법.
항목 20: 항목 15에 있어서, 상기 가상 콘텐츠를 렌더링하는 단계는 상기 운송수단 내의 하나 이상의 소스들로부터의 입력들에 기초하여 상기 가상 콘텐츠의 움직임 및 가속도를 상기 운송수단의 움직임 및 가속도와 동기화시키는 단계를 포함하는, 방법.
Claims (20)
- 시스템으로서,
운송수단(vehicle) 내의 가상 현실(virtual reality, VR) 제어기를 포함하고, 상기 VR 제어기는:
하나의 위치에서의 실제 환경 내의 실제 루트(route)를 따라서 운송수단 내의 하나 이상의 소스들로부터 입력들을 획득하고;
다른 위치에서의 루트를 선택하고 - 선택은 상기 다른 위치에서의 상기 루트의 곡선 및 회전과 상기 실제 루트의 곡선 및 회전과의 비교에 기초하고, 상기 다른 위치에서의 상기 루트는 상기 다른 위치에서의 상기 루트의 상기 곡선 및 회전이 상기 실제 루트의 상기 곡선 및 회전에 적어도 부분적으로 매칭하는 것에 적어도 부분적으로 기초해서 선택됨 - ;
상기 다른 위치에서의 상기 선택된 루트의 시뮬레이션을 포함하는 가상 환경을 구비하는 가상 콘텐츠를 포함하는 프레임들을 렌더링하고 - 상기 프레임들을 렌더링함에 있어서, 상기 VR 제어기는 상기 운송수단 내의 상기 하나 이상의 소스들로부터의 입력들에 기초하여 상기 가상 콘텐츠의 움직임 및 가속도를 상기 운송수단의 움직임 및 가속도와 동기화시킴 -; 그리고
상기 운송수단 내의 승객에게로의 디스플레이를 위해 상기 프레임들을 VR 디바이스에 전송하도록 - 상기 프레임들은 상기 VR 디바이스를 통해 상기 운송수단으로부터 상기 실제 환경의 뷰를 대체하는 가상 환경의 뷰를 제공하도록 렌더링되고 디스플레이됨 - 구성된, 시스템. - 제1항에 있어서, 상기 VR 디바이스는 상기 프레임들을 상기 승객에게 디스플레이하는 헤드 장착형 디바이스(head-mounted device, HMD)를 포함하는, 시스템.
- 제1항에 있어서, 상기 가상 환경의 뷰는 상기 승객에게 상기 운송수단의 움직임을 나타내는 시각적 큐들을 포함하는, 시스템.
- 제1항에 있어서, 상기 하나 이상의 소스들은:
하나 이상의 운송수단 센서들 - 상기 운송수단 센서들로부터의 입력들은 외부 운송수단 센서들로부터의 깊이 맵 정보, 상기 운송수단에 대한 국지화 정보(localization information), 상기 운송수단 상의 하나 이상의 카메라들로부터의 비디오, 또는 상기 운송수단의 관성 측정 유닛(inertial-measurement unit, IMU)으로부터의 상기 운송수단에 대한 움직임 및 배향 정보 중 하나 이상을 포함함 -; 및
하나 이상의 운송수단 제어 시스템들 - 상기 하나 이상의 운송수단 제어 시스템들은 스로틀 제어 시스템, 제동 제어 시스템, 능동 서스펜션 제어 시스템, 또는 조향 제어 시스템 중 하나 이상을 포함함 - 을 포함하는, 시스템. - 제1항에 있어서, 상기 하나 이상의 소스들은 무선 접속을 통해 액세스되는 상기 운송수단 외부의 소스들을 포함하고, 상기 외부 소스들로부터의 입력들은 세계 지도 데이터, 국지적 환경의 3D 모델, 상기 국지적 환경 내의 물체들 또는 특징부들에 관한 정보, 비디오 스트림, 또는 오디오 중 하나 이상을 포함하는, 시스템.
- 제1항에 있어서, 상기 하나 이상의 소스들은 상기 VR 디바이스의 IMU를 포함하고, 상기 IMU로부터의 입력들은 상기 승객의 머리에 대한 움직임 및 배향 정보를 포함하는, 시스템.
- 제1항에 있어서, 상기 운송수단은 자율 운송수단인, 시스템.
- 제1항에 있어서, 상기 VR 제어기는 상기 운송수단의 오디오 시스템을 통해 또는 상기 VR 디바이스의 오디오 시스템을 통해 상기 승객에게 오디오를 제공하도록 추가로 구성된, 시스템.
- 제1항에 있어서, 상기 VR 제어기는 운송수단 제어 시스템들이 상기 승객에게 물리적 효과를 제공하기 위해 제약 내에서 반응하게 할 것을 상기 운송수단 제어 시스템들에게 시그널링하도록 추가로 구성되고, 상기 운송수단 제어 시스템들은 스로틀 제어 시스템, 제동 제어 시스템, 능동 서스펜션 제어 시스템, 또는 조향 제어 시스템 중 하나 이상을 포함하는, 시스템.
- 제1항에 있어서, 상기 VR 제어기는 상기 운송수단의 HVAC 시스템이 팬 속도, 온도, 또는 방향 중 하나 이상을 변경하여 상기 승객에게 물리적 효과를 제공하게 할 것을 상기 HVAC 시스템에게 시그널링하도록 추가로 구성된, 시스템.
- 제1항에 있어서, 상기 VR 제어기는 능동 시트가 움직이거나 기울어져서 상기 승객에게 물리적 효과를 제공할 것을 상기 시트에게 시그널링하도록 추가로 구성된, 시스템.
- 제1항에 있어서, 상기 VR 제어기는 상기 승객으로부터의 상호작용 입력들을 수신하도록 그리고 상기 상호작용 입력들에 응답하여 가상 현실 콘텐츠를 포함하는 상기 프레임들의 렌더링을 수정하도록 추가로 구성되고, 상기 상호작용 입력들은 제스처, 음성 커맨드, 또는 입력 디바이스로의 입력 중 하나 이상을 포함하는, 시스템.
- 제1항에 있어서, 상기 VR 제어기는 상기 가상 환경에서 상기 운송수단 내의 두 명 이상의 승객들의 아바타를 렌더링하도록 추가로 구성되고, 상기 두 명 이상의 승객들은 각자의 VR 디바이스들을 통해 상기 가상 환경에 참여하는, 시스템.
- 제1항에 있어서, 상기 VR 제어기는:
상기 승객이 멀미를 잘 하는 경향이 있거나 멀미의 징후를 보이고 있는지를 판정하도록; 그리고
상기 승객이 멀미를 잘 하는 경향이 있거나 멀미의 징후를 보이고 있는 것으로 판정할 시, 1회 이상의 편의 도모(accommodation)에 따라 상기 가상 환경을 변경하여 멀미를 완화시키도록 추가로 구성되고, 상기 1회 이상의 편의 도모는:
상기 가상 환경의 뷰에서 상기 승객 밑에 지평면(ground plane)을 디스플레이하는 것;
상기 가상 환경에서 상기 운송수단의 움직임을 나타내는 시각적 큐들을 감소시키는 것;
상기 가상 환경에서 상기 운송수단의 움직임을 나타내는 상기 시각적 큐들을 감속시켜서, 상기 가상 환경에서의 움직임과 상기 실제 환경에서의 움직임 사이에 1:1 비가 있게 하는 것;
다가오는 운송수단 기동(maneuver)의 시각적, 청각적, 또는 햅틱 표시들을 제공하는 것;
상기 가상 콘텐츠를 감소시켜서 스파스(sparse) 시각적 환경을 제공하는 것;
상기 실제 환경에 대해 고정된 상태로 남아 있는 앵커링된 물체를 상기 가상 환경 내에 배치하는 것;
상기 운송수단의 정지 시에 시각적 자극을 제공하여 시각적 움직임 여파에 대응하는 것; 또는
현실 세계 잡음을 차단하는 오디오 출력을 제공하는 것을 포함하는, 시스템. - 방법으로서,
하나의 위치에서의 실제 루트(route)를 따라서 운송수단 내의 가상 현실(VR) 시스템에 의해, 상기 운송수단 내의 하나 이상의 소스들로부터의 입력들을 획득하는 단계;
상기 VR 시스템에 의해, 다른 위치에서의 루트를 선택하는 단계 - 선택은 상기 다른 위치에서의 상기 루트의 곡선 및 회전과 상기 실제 루트의 곡선 및 회전과의 비교에 기초하고, 상기 다른 위치에서의 상기 루트는 상기 다른 위치에서의 상기 루트의 상기 곡선 및 회전이 상기 실제 루트의 상기 곡선 및 회전에 적어도 부분적으로 매칭하는 것에 적어도 부분적으로 기초해서 선택됨 - ;
상기 VR 시스템에 의해, 상기 다른 위치에서의 상기 루트의 시뮬레이션을 포함하는 가상 콘텐츠를 포함하는 프레임들을 렌더링하는 단계 - 가상 환경은 상기 다른 위치에서 상기 루트에 기초해 렌더링되는 가상 뷰를 포함하고, 상기 프레임들을 렌더링함에 있어서, 상기 가상 콘텐츠의 움직임 및 가속도는 상기 운송수단 내의 하나 이상의 소스들로부터의 입력들에 기초하여 상기 운송수단의 움직임 및 가속도와 동기화됨 -; 및
상기 VR 시스템에 의해, 상기 운송수단 내의 적어도 한 명의 승객에게 상기 프레임들을 디스플레이하는 단계 - 상기 디스플레이된 프레임들은 상기 운송수단으로부터의 현실에서의 상기 실제 루트의 뷰를 대체하는 가상 환경의 뷰를 제공함 - 를 포함하는, 방법. - 제15항에 있어서, 상기 VR 시스템은 VR 제어기 및 VR 디바이스를 포함하고, 상기 VR 디바이스는, 상기 승객이 착용하고 상기 승객이 보게 하기 위해 상기 프레임들을 디스플레이하는 HMD, 또는 상기 승객이 보게 하기 위해 상기 프레임들을 상기 운송수단의 윈도우에 투영하는 프로젝터 중 하나이고, 상기 방법은 상기 운송수단의 오디오 시스템을 통해 또는 상기 VR 디바이스의 오디오 시스템을 통해 상기 승객에게 오디오를 제공하는 단계를 추가로 포함하는, 방법.
- 제15항에 있어서, 상기 가상 환경의 뷰는 상기 승객에게 상기 운송수단의 움직임을 나타내는 시각적 큐들을 포함하는, 방법.
- 제15항에 있어서, 상기 승객에게 디스플레이된 상기 가상 환경의 뷰에 대응하는 물리적 효과를 상기 승객에게 제공할 것을 하나 이상의 운송수단 시스템들에게 시그널링하는 단계를 추가로 포함하는, 방법.
- 제15항에 있어서, 상기 승객으로부터 상호작용 입력들을 수신하는 단계, 및 상기 상호작용 입력들에 응답하여 가상 현실 콘텐츠를 포함하는 상기 프레임들의 렌더링을 수정하는 단계를 추가로 포함하는, 방법.
- 제15항에 있어서, 상기 승객이 멀미를 잘 하는 경향이 있거나 멀미의 징후를 보이고 있는 것으로 판정할 시에 상기 가상 환경을 변경하여 상기 승객의 편의를 도모하는 단계를 추가로 포함하는, 방법.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020217015561A KR102306159B1 (ko) | 2016-09-23 | 2017-09-22 | 몰입형 가상 디스플레이 |
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662399146P | 2016-09-23 | 2016-09-23 | |
US201662399140P | 2016-09-23 | 2016-09-23 | |
US62/399,146 | 2016-09-23 | ||
US62/399,140 | 2016-09-23 | ||
PCT/US2017/053089 WO2018057980A1 (en) | 2016-09-23 | 2017-09-22 | Immersive virtual display |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020217015561A Division KR102306159B1 (ko) | 2016-09-23 | 2017-09-22 | 몰입형 가상 디스플레이 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20190031572A KR20190031572A (ko) | 2019-03-26 |
KR102257900B1 true KR102257900B1 (ko) | 2021-05-31 |
Family
ID=60186343
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020217015561A KR102306159B1 (ko) | 2016-09-23 | 2017-09-22 | 몰입형 가상 디스플레이 |
KR1020197006306A KR102257900B1 (ko) | 2016-09-23 | 2017-09-22 | 몰입형 가상 디스플레이 |
KR1020217030358A KR102466349B1 (ko) | 2016-09-23 | 2017-09-22 | 몰입형 가상 디스플레이 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020217015561A KR102306159B1 (ko) | 2016-09-23 | 2017-09-22 | 몰입형 가상 디스플레이 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020217030358A KR102466349B1 (ko) | 2016-09-23 | 2017-09-22 | 몰입형 가상 디스플레이 |
Country Status (4)
Country | Link |
---|---|
EP (2) | EP3979049A1 (ko) |
KR (3) | KR102306159B1 (ko) |
CN (2) | CN109716266B (ko) |
WO (1) | WO2018057980A1 (ko) |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040162637A1 (en) * | 2002-07-25 | 2004-08-19 | Yulun Wang | Medical tele-robotic system with a master remote station with an arbitrator |
US11107281B2 (en) | 2018-05-18 | 2021-08-31 | Valeo Comfort And Driving Assistance | Shared environment for vehicle occupant and remote user |
DE102018213588B4 (de) | 2018-08-13 | 2024-07-18 | Audi Ag | Steuervorrichtung und Verfahren zum Reduzieren von Bewegungskrankheit eines Benutzers beim Betrachten eines Medieninhalts mittels einer Datenbrille während einer Fahrt in einem Kraftfahrzeug |
DE102018216383B4 (de) * | 2018-09-25 | 2023-12-07 | Audi Ag | Verfahren und Steuereinrichtung zum Betreiben einer am Kopf tragbaren Anzeigeeinrichtung in einem Kraftfahrzeug |
CN109360453A (zh) * | 2018-11-26 | 2019-02-19 | 四川科特检测技术有限公司 | 基于vr的特种设备检测培训系统及方法 |
EP3663941B1 (en) * | 2018-12-07 | 2022-07-13 | Volvo Car Corporation | Evaluation of a simulated vehicle-related feature |
KR102291257B1 (ko) * | 2018-12-13 | 2021-08-20 | 한국과학기술원 | 가상현실 컨텐츠 체감피로도 저감 장치 및 그 방법 |
US11294467B2 (en) | 2018-12-18 | 2022-04-05 | Immersion Corporation | Systems and methods for integrating environmental haptics in virtual reality |
US11062678B2 (en) | 2018-12-27 | 2021-07-13 | At&T Intellectual Property I, L.P. | Synchronization of environments during extended reality experiences |
KR102634361B1 (ko) * | 2019-04-01 | 2024-02-08 | 현대자동차주식회사 | 차량을 이용한 4차원 효과 제공 장치 및 방법 |
CN112572467B (zh) * | 2019-09-30 | 2023-02-10 | 比亚迪股份有限公司 | 车辆系统、车辆控制方法、计算机设备及存储介质 |
CN111103688A (zh) * | 2019-12-11 | 2020-05-05 | 塔普翊海(上海)智能科技有限公司 | 一种防晕眩设备、系统和方法 |
KR102387352B1 (ko) * | 2019-12-17 | 2022-04-15 | 이휘원 | 자율주행 차량 정보를 이용한 vr 게임 제공 방법 및 시스템 |
JP7443751B2 (ja) | 2019-12-19 | 2024-03-06 | 株式会社Jvcケンウッド | バーチャル・リアリティ画像表示システム及びバーチャル・リアリティ画像表示システムの制御方法 |
DE102020105196A1 (de) | 2020-02-27 | 2021-09-02 | Audi Aktiengesellschaft | Verfahren zum Betreiben einer Datenbrille in einem Kraftfahrzeug sowie System mit einem Kraftfahrzeug und einer Datenbrille |
DE102020113485A1 (de) * | 2020-05-19 | 2021-11-25 | Holoride Gmbh | Verfahren und Steuerungsvorrichtung zum Betreiben einer am Kopf eines Nutzers getragenen Anzeigeeinrichtung in einem Fahrzeug |
KR102188335B1 (ko) * | 2020-06-26 | 2020-12-08 | 한국기술교육대학교 산학협력단 | 멀미 저감을 위한 vr 컨텐츠 설계 방법 |
CN111768673A (zh) * | 2020-07-06 | 2020-10-13 | 珠海超凡视界科技有限公司 | 基于虚拟现实的驾驶培训视频生成方法及系统 |
CN112015274B (zh) * | 2020-08-26 | 2024-04-26 | 深圳市创凯智能股份有限公司 | 沉浸式虚拟现实系统显示方法、系统及可读存储介质 |
CN114765682B (zh) * | 2020-12-31 | 2023-09-19 | 中国联合网络通信集团有限公司 | 沉浸式虚拟场景体验方法、装置及系统 |
US11924393B2 (en) | 2021-01-22 | 2024-03-05 | Valeo Comfort And Driving Assistance | Shared viewing of video among multiple users |
CN112937438B (zh) * | 2021-02-08 | 2022-08-30 | 浙江大学 | 一种乘员运动预期提示系统 |
CN113534466B (zh) * | 2021-07-16 | 2023-06-23 | Oppo广东移动通信有限公司 | 显示方法、装置、头戴式增强现实设备以及存储介质 |
KR102532438B1 (ko) * | 2022-03-11 | 2023-05-16 | 모트렉스(주) | 가상 오브젝트를 활용한 이동공간 메타버스 환경에서의 멀미 저감 방법 및 그 장치 |
TWI818554B (zh) * | 2022-05-25 | 2023-10-11 | 鴻華先進科技股份有限公司 | 音場調節方法、系統及移動載具 |
CN115225619A (zh) * | 2022-06-30 | 2022-10-21 | 蔚来汽车科技(安徽)有限公司 | 一种车载增强现实系统、通信实现方法以及车辆 |
US20240023874A1 (en) * | 2022-07-19 | 2024-01-25 | Goodrich Lighting Systems, Inc. | Reduction in motion sickness |
CN115278204A (zh) * | 2022-07-27 | 2022-11-01 | 浙江极氪智能科技有限公司 | 显示装置使用方法、装置、设备及存储介质 |
CN115414008B (zh) * | 2022-09-02 | 2024-07-05 | 智己汽车科技有限公司 | 用于对抗晕动症的vr显示方法及系统 |
US11983822B2 (en) | 2022-09-02 | 2024-05-14 | Valeo Comfort And Driving Assistance | Shared viewing of video with prevention of cyclical following among users |
CN115310186B (zh) * | 2022-09-30 | 2023-01-13 | 中交第四航务工程勘察设计院有限公司 | 一种水利工程施工流程模拟方法及系统 |
CN115988247B (zh) * | 2022-12-08 | 2023-10-20 | 小象智能(深圳)有限公司 | 一种xr车载观影系统及方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150100179A1 (en) * | 2013-10-03 | 2015-04-09 | Honda Motor Co., Ltd. | System and method for dynamic in-vehicle virtual reality |
US20150269780A1 (en) | 2014-03-18 | 2015-09-24 | Dreamworks Animation Llc | Interactive multi-rider virtual reality ride system |
US20160091877A1 (en) * | 2014-09-29 | 2016-03-31 | Scott Fullam | Environmental control via wearable computing system |
US20170136842A1 (en) | 2015-06-03 | 2017-05-18 | Levant Power Corporation | Methods and systems for controlling vehicle body motion and occupant experience |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007522500A (ja) * | 2004-02-03 | 2007-08-09 | ドラッグ タグ ピーティーワイ リミテッド | 自動車模擬運転用装置 |
WO2009094643A2 (en) * | 2008-01-26 | 2009-07-30 | Deering Michael F | Systems using eye mounted displays |
CN105659304B (zh) * | 2013-06-13 | 2020-01-03 | 移动眼视力科技有限公司 | 车辆、导航系统及生成并递送导航信息的方法 |
US20160048027A1 (en) * | 2014-08-18 | 2016-02-18 | Sam Shpigelman | Virtual reality experience tied to incidental acceleration |
KR102265086B1 (ko) * | 2014-11-07 | 2021-06-15 | 삼성전자 주식회사 | 정보를 공유하기 위한 가상 환경 |
US9505405B2 (en) * | 2015-01-16 | 2016-11-29 | Ford Global Technologies, Llc | Rear collision avoidance and mitigation system |
-
2017
- 2017-09-22 CN CN201780057756.1A patent/CN109716266B/zh active Active
- 2017-09-22 WO PCT/US2017/053089 patent/WO2018057980A1/en unknown
- 2017-09-22 EP EP21210782.5A patent/EP3979049A1/en active Pending
- 2017-09-22 EP EP17791192.2A patent/EP3491494B1/en active Active
- 2017-09-22 KR KR1020217015561A patent/KR102306159B1/ko active IP Right Grant
- 2017-09-22 KR KR1020197006306A patent/KR102257900B1/ko active IP Right Grant
- 2017-09-22 CN CN202210377870.5A patent/CN114706483A/zh active Pending
- 2017-09-22 KR KR1020217030358A patent/KR102466349B1/ko active IP Right Grant
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150100179A1 (en) * | 2013-10-03 | 2015-04-09 | Honda Motor Co., Ltd. | System and method for dynamic in-vehicle virtual reality |
US20150269780A1 (en) | 2014-03-18 | 2015-09-24 | Dreamworks Animation Llc | Interactive multi-rider virtual reality ride system |
US20160091877A1 (en) * | 2014-09-29 | 2016-03-31 | Scott Fullam | Environmental control via wearable computing system |
US20170136842A1 (en) | 2015-06-03 | 2017-05-18 | Levant Power Corporation | Methods and systems for controlling vehicle body motion and occupant experience |
Also Published As
Publication number | Publication date |
---|---|
KR20210063460A (ko) | 2021-06-01 |
KR102466349B1 (ko) | 2022-11-10 |
WO2018057980A1 (en) | 2018-03-29 |
EP3491494A1 (en) | 2019-06-05 |
KR20190031572A (ko) | 2019-03-26 |
CN109716266A (zh) | 2019-05-03 |
CN114706483A (zh) | 2022-07-05 |
EP3491494B1 (en) | 2021-12-15 |
CN109716266B (zh) | 2022-04-26 |
KR102306159B1 (ko) | 2021-09-29 |
KR20210118260A (ko) | 2021-09-29 |
EP3979049A1 (en) | 2022-04-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102257900B1 (ko) | 몰입형 가상 디스플레이 | |
US11790616B2 (en) | Immersive virtual display | |
US11451882B2 (en) | Cinematic mastering for virtual reality and augmented reality | |
US11863845B2 (en) | Geometry matching in virtual reality and augmented reality | |
US10639557B2 (en) | Synchronized motion simulation for virtual reality | |
Hock et al. | Carvr: Enabling in-car virtual reality entertainment | |
AU2017204739B2 (en) | Massive simultaneous remote digital presence world | |
JP2021524626A (ja) | 車両の搭乗者及び遠隔ユーザのための共有環境 | |
JP7002648B2 (ja) | 車両内において乗物酔いを伴わずにデジタルコンテンツを見ること | |
US20170267099A1 (en) | Vehicles for providing virtual environments | |
Champion et al. | Augmenting the present with the past | |
JP2022177643A (ja) | コンテンツ制御装置、コンテンツ制御方法、プログラム、およびコンテンツ提供システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
A107 | Divisional application of patent | ||
GRNT | Written decision to grant |