JP2018514005A - 乗り物酔いの監視及び、酔いを抑えるための追加音の付与 - Google Patents

乗り物酔いの監視及び、酔いを抑えるための追加音の付与 Download PDF

Info

Publication number
JP2018514005A
JP2018514005A JP2017541073A JP2017541073A JP2018514005A JP 2018514005 A JP2018514005 A JP 2018514005A JP 2017541073 A JP2017541073 A JP 2017541073A JP 2017541073 A JP2017541073 A JP 2017541073A JP 2018514005 A JP2018514005 A JP 2018514005A
Authority
JP
Japan
Prior art keywords
user
hmd
motion sickness
game
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017541073A
Other languages
English (en)
Other versions
JP6526820B2 (ja
Inventor
ワトソン ブライアン
ワトソン ブライアン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Publication of JP2018514005A publication Critical patent/JP2018514005A/ja
Application granted granted Critical
Publication of JP6526820B2 publication Critical patent/JP6526820B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/55Controlling game characters or game objects based on the game progress
    • A63F13/57Simulating properties, behaviour or motion of objects in the game world, e.g. computing tyre load in a car race game
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/11Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for measuring interpupillary distance or diameter of pupils
    • A61B3/112Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for measuring interpupillary distance or diameter of pupils for measuring diameter of pupils
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • A61B5/0036Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room including treatment, e.g., using an implantable medical device, ablating, ventilating
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/40Detecting, measuring or recording for evaluating the nervous system
    • A61B5/4005Detecting, measuring or recording for evaluating the nervous system for evaluating the sensory system
    • A61B5/4023Evaluating sense of balance
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/212Input arrangements for video game devices characterised by their sensors, purposes or types using sensors worn by the player, e.g. for measuring heart beat or leg activity
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/26Output arrangements for video game devices having at least one additional display device, e.g. on the game controller or outside a game booth
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/28Output arrangements for video game devices responding to control signals received from the game device for affecting ambient conditions, e.g. for vibrating players' seats, activating scent dispensers or affecting temperature or light
    • A63F13/285Generating tactile feedback signals via the game input device, e.g. force feedback
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • A63F13/424Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle involving acoustic input signals, e.g. by using the results of pitch or rhythm extraction or voice recognition
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • A63F13/428Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle involving motion or position input signals, e.g. signals representing the rotation of an input controller or a player's arm motions sensed by accelerometers or gyroscopes
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/54Controlling the output signals based on the game progress involving acoustic signals, e.g. for simulating revolutions per minute [RPM] dependent engine sounds in a driving game or reverberation against a virtual wall
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/60Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
    • A63F13/67Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor adaptively or by learning from player actions, e.g. skill level adjustment or by storing successful combat sequences for re-use
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/70Game security or game management aspects
    • A63F13/79Game security or game management aspects involving player-related data, e.g. identities, accounts, preferences or play histories
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/30ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to physical therapies or activities, e.g. physiotherapy, acupressure or exercising
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2503/00Evaluating a particular growth phase or type of persons or animals
    • A61B2503/12Healthy persons not otherwise provided for, e.g. subjects of a marketing survey
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M21/00Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis
    • A61M2021/0005Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis by the use of a particular sense, or stimulus
    • A61M2021/0027Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis by the use of a particular sense, or stimulus by the hearing sense
    • A61M2021/0038Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis by the use of a particular sense, or stimulus by the hearing sense ultrasonic

Abstract

ユーザが頭部搭載型装置(HMD)を装着している間のユーザの乗り物酔いを管理するための方法、システム及びコンピュータプログラムが提示される。1つの方法では、マルチメディアコンテンツを用いて仮想現実を提示するHMD装着中のユーザの、ユーザの動作を含む身体特性の監視動作を含む。マルチメディアコンテンツは、HMDの表示装置上で提示するための音声及び映像を含む。さらに方法は、仮想現実が提示されている間のユーザの身体特性の監視に基づく、ユーザが乗り物酔いを体験しているか否かの判定動作を含む。ユーザが映像酔いを体験している際に、ユーザが体験する映像酔いを低減するよう定義される追加音がユーザに提供され、ユーザに提供するためのマルチメディアコンテンツからの音と追加音が組み合わされる。【選択図】図4

Description

本実施形態は、頭部搭載型装置(HMD:ヘッドマウントディスプレイ)の装着中のモーションシックネス(motion sickness:以下、「乗り物酔い」と記載する)を管理する方法、システム及びプログラムに関する。
関連技術の説明
HMDは通常、目から近い距離に位置する表示装置がユーザとの対話のために画像を提供するような、ユーザの頭部に装着される携帯型装置である。その他の場合には、画像がユーザの網膜に直接投影される。ユーザが計算装置によって作成された画像を見ることが可能である仮想現実環境をHMDが提供する場合がある。体験は没入型である場合があるが、これはプレイヤーの動作(例えば、頭部を動かす)が仮想現実の映像内の対応する変化に変換され、プレイヤーが仮想現実の中にいるような錯覚を与えることを意味する。
しかし、プレイヤーが動いている時の仮想現実の提示の変化速度が十分に速くない場合、予想された映像がユーザの感覚の予想に対応しないため、プレイヤーは乗り物酔いを体験する可能性がある。また、仮想現実の行動が時に、HMDにおいて提示される映像の急速な変化を引き起こす場合があり、それも乗り物酔いにつながる可能性がある。
HMDを装着しているユーザの潜在的な乗り物酔いを監視し、乗り物酔いを低減する対策を取るHMDが必要とされる。
本発明の実施形態は、このような背景の下になされたものである。
頭部搭載型表示装置(HMD)を装着しているユーザの乗り物酔いを監視し、管理するための方法、装置、システム及びコンピュータプログラムが提示される。方法、機器、システム、装置、またはコンピュータ可読媒体上のコンピュータプログラム等の、多数の方法で本実施形態を実施することが可能であることを理解すべきである。いくつかの実施形態を、以下に記載する。
一実施形態において、方法が提供される。本方法は、ユーザが頭部搭載型表示装置(HMD)を装着しており、HMDの表示装置上で提示するための映像、及び音声を含むマルチメディアコンテンツを用いてHMDが仮想現実を提示している間の、ユーザの動作を含むユーザの身体特性の監視動作を含む。さらに、本方法は、仮想現実が提示されている間のユーザの身体特性の監視に基づく、ユーザが乗り物酔いを体験しているか否かの判定動作を含む。ユーザが乗り物酔いを体験している際に、ユーザが体験する乗り物酔いを低減するよう定義される追加音がユーザに提供され、ユーザに提供するためのマルチメディアコンテンツからの音と追加音が組み合わされる。
別の実施形態において、頭部搭載型表示装置(HMD)が提示される。HMDは、表示装置、スピーカ、カメラ及び処理装置を含む。表示装置はマルチメディアコンテンツを用いて仮想現実を提示するためのものであり、スピーカはマルチメディアコンテンツの音を提示するためのものであり、カメラはユーザがHMDを装着している際のユーザの視線を追跡するためのものである。処理装置はユーザの視線の追跡に基づきユーザが乗り物酔いを体験しているか否かを判定し、ユーザが乗り物酔いを体験している際に、スピーカが追加音を提供する。追加音はユーザが体験する乗り物酔いを低減するよう定義され、スピーカを介してユーザに提供するためにマルチメディアコンテンツからの音と組み合わされる。
さらに別の実施形態では、コンピュータプログラムを記憶する非一時的コンピュータ可読記憶媒体が提供される。コンピュータ可読記憶媒体は、ユーザが頭部搭載型表示装置(HMD)上のマルチメディアコンテンツを用いて仮想現実にアクセスしている間にHMDを装着しているユーザの身体特性を監視するプログラム命令及び、身体特性に基づきユーザが乗り物酔いを体験しているか否かを判定するプログラム命令を含む。さらに記憶媒体は、ユーザが乗り物酔いを体験している際にユーザが体験する乗り物酔いを低減するよう定義される追加音をユーザに提供するプログラム命令を含む。追加音はユーザに提供するために、マルチメディアコンテンツからの音と組み合わされる。
他の態様は、添付の図面と併せることにより、以下の詳細な説明から明らかである。
本実施形態は、添付の図面と関連してなされる以下の詳細な説明を参照することによりよく理解できるであろう。
一実施形態による、頭部搭載型装置(HMD)を含む複数の装置とインタラクションを行なっているユーザの説明図。 一実施形態による、乗り物酔いを体験している、HMDを装着したユーザの説明図。 一実施形態による、乗り物酔いを制御するための追加音の付与を示す説明図。 一実施形態による、乗り物酔いを制御するためにゲームの臨場感が低減されている場合の、ゲームをプレイ中のHMDを装着したユーザの説明図。 本明細書に提示される実施形態を実施するためのアーキテクチャの説明図。 一実施形態による、乗り物酔いの制御方法のフローチャート。 一実施形態による、乗り物酔いを制御する追加音を提供するためのフローチャート。 一実施形態による、追加音を提供するためのHMDのアーキテクチャの説明図。 一実施形態による、追加音を提供するためのシステムのアーキテクチャの説明図。 いくつかの実施形態を実施するために利用されて得る装置のアーキテクチャの説明図。 様々な実施形態による、ゲームシステムのブロック図。
以下の実施形態により、HMDを装着しているユーザの乗り物酔いを管理する方法、装置、システム及びコンピュータプログラムを説明する。ユーザが例えばゲームまたはアプリケーション等の仮想現実(VR)空間とインタラクション(いわゆる対話)を行なう際に、ユーザが乗り物酔いを体験しているか否かを判定するためにセンサが利用される。ユーザが乗り物酔いを体験しているか、または体験しそうであると判定されるとシステムは、追加音波の提供等の、HMD内のヘッドホンまたはスピーカを介して、または別個のイヤピースを介して提供されてもよい乗り物酔いを低減するための対策を講じることができる。
本実施形態はこれら特定の詳細の一部または全部なしに実施できることが当業者には明らかであろう。他の例では、本実施形態を不必要に曖昧にしないために周知の処理動作については詳細に説明しない。
図1は一実施形態による、ビデオゲームの対話型ゲームプレイのシステムを示す。ユーザ114は、頭部搭載型表示装置(HMD)102を装着して示される。HMD102は眼鏡、ゴーグルまたはヘルメットと同様の方法で装着され、ビデオゲームまたは他のコンテンツをユーザ114に表示するよう構成される。HMD102はユーザの目に近接した表示機構(例えば、光学素子及び表示画面)及びHMDに提供されるコンテンツのフォーマットの提供によって、ユーザに没入型体験を提供するよう構成される。一実施例ではHMD102は、ユーザの視野110の大部分または全体を占める表示領域をユーザの目のそれぞれに提供することができる。別の実施形態では画像は、ユーザの網膜内に直接投影される。
一実施形態において、HMD102はコンピュータ106に接続することができる。コンピュータ106への接続は、有線または無線とすることができる。コンピュータ106は、ゲーミングコンソール、パーソナルコンピュータ、ラップトップ、タブレットコンピュータ、携帯機器、携帯電話、タブレット、シンクライアント、セットトップボックス、メディアストリーミング装置等を含むがそれに限定されない、任意の汎用または専用コンピュータとすることができる。いくつかの実施形態において、HMD102はインターネットに直接接続することができ、それによって、別個のローカルコンピュータを必要とすることなくクラウドゲーミングが可能になる。一実施形態では、ビデオゲーム(及び他のデジタルコンテンツ)を実行し、HMD102によるレンダリングのためにビデオゲームから映像及び音声を出力するようコンピュータ106を構成することができる。コンピュータ106はまた、本明細書においてはクライアントシステム106とも称され、一実施例ではビデオゲームコンソールである。ゲーム動作の処理は、計算装置106上で、HMD102上で、または計算装置106及びHMD102の両方において行われてもよい。
いくつかの実施形態において、コンピュータはローカルまたはリモートコンピュータであってもよく、コンピュータはエミュレーションソフトウェアを実行してもよい。クラウドゲーミングの実施形態において、コンピュータはリモートであり、データセンタにおいて仮想化されてもよい複数のコンピューティングサービスによって表されてもよく、ゲームシステム/論理は仮想化し、ネットワークを介してユーザに分散することができる。
ユーザ114は、ビデオゲームの入力を提供するために制御装置118を操作してもよい。一実施例では、カメラ104は、ユーザ114が置かれる対話型環境の画像を取り込むよう構成することができる。これらの撮像画像を分析して、ユーザ114、HMD102及び制御装置118の位置及び動きを判定することができる。一実施形態では、制御装置118は、その位置及び方向を判定するために追跡することができるライト(複数可)を含む。さらにHMD102は、HMD102の位置及び方向を判定するために、ゲームプレイ中にほぼリアルタイムでマーカとして追跡することができる1つまたは複数のライトを含んでもよい。一実施形態では、計算装置106は、HMD102とゲーム制御装置116との間の相対位置を算出する。相対位置はその後、HMD102と同期してゲームの対象物を移動させるために、ゲームによって利用される。
カメラ104は、対話型環境からの音を取り込む1つまたは複数のマイクロホンを含むことができる。マイクロホンアレイによって取り込まれた音は、音源の位置を特定するために処理されてもよい。特定された位置からの音は、特定された位置からではない他の音を除外するために、選択的に利用するか、または処理することができる。さらにカメラ104は、複数の画像取込装置(例えば、ステレオペアのカメラ)、赤外線カメラ、デプスカメラ、及びその組み合わせを含むよう定義することができる。
いくつかの実施形態において、コンピュータ106は、コンピュータ106の処理ハードウェア上においてゲームをローカルで実行することができる。ゲームまたはコンテンツは、ネットワーク122を介して、物理媒体形式(例えば、デジタルディスク、テープ、カード、サムドライブ、ソリッドステートチップまたはカード等)等の任意の形式でまたはインターネットからのダウンロードによって、取得することができる。別の実施形態においてコンピュータ106は、ネットワークを介してクラウドゲーミングプロバイダ124と通信するクライアントとして機能する。クラウドゲーミングプロバイダ124は、ユーザ114がプレイしているビデオゲームを維持し、実行してもよい。コンピュータ106は、HMD102、制御装置118及びカメラ104からの入力をクラウドゲーミングプロバイダへと送信し、クラウドゲーミングプロバイダは入力を処理して、実行するビデオゲームのゲーム状態に影響を与える。映像データ、音声データ及び触覚フィードバックデータ等の実行するビデオゲームからの出力が、コンピュータ106に送信される。コンピュータ106はさらに、送信前のデータを処理してもよいか、またはデータを関連する装置に直接送信してもよい。例えば、映像及び音声ストリームがHMD102に提供され、振動フィードバックコマンドが制御装置118に提供される。
一実施形態では、HMD102、制御装置118及びカメラ104はそれら自体が、ネットワーク122に接続してクラウドゲーミングプロバイダ124と通信するネットワーク接続装置であってもよい。例えばコンピュータ106は、他の方法ではビデオゲーム処理を実行しないが、パッセージネットワークトラフィックを容易にする、ルータ等のローカルネットワーク装置であってもよい。HMD102、制御装置118及びカメラ104によるネットワークへの接続は、有線または無線であってもよい。いくつかの実施形態において、HMD102上で実行されるか、または表示装置108上で表示可能なコンテンツを、任意のコンテンツソース120から取得することができる。例示的なコンテンツソースは例えば、ダウンロード可能なコンテンツ及び/またはストリーミングコンテンツを提供するインターネットウェブサイトを含むことができる。いくつかの例では、コンテンツは、映画、ゲーム、静的/動的コンテンツ、ピクチャ、ソーシャルメディアコンテンツ、ソーシャルメディアウェブサイト等の任意の種類のマルチメディアコンテンツを含むことができる。
プレイヤー114は、そのようなコンテンツが没入型3D対話型コンテンツである場合に、HMD102上でゲームをプレイしていてもよい。プレイヤーがプレイしている最中のHMD102上のコンテンツは、表示装置108と共有することができる。一実施形態では、表示装置108と共有するコンテンツにより、プレイヤー114の近くの、またはプレイヤー114から離れた場所の他のユーザが、ユーザのプレイをともに見ることが可能になる。さらに別の実施形態では、表示装置108上のプレイヤー114のゲームプレイを見ている別のプレイヤーは、プレイヤー114とインタラクティブに参加してもよい。例えば、表示装置108上でゲームプレイを見ているユーザは、ゲームシーン内でキャラクタを制御し、フィードバックを提供し、ソーシャルインタラクションを提供し及び/または(テキストを介し、声を介し、行動を介し、ジェスチャを介する等して)コメントを提供することにより、HMD102を装着していないユーザが、プレイヤー114、ゲームプレイ、またはHMD102内でレンダリングされているコンテンツとソーシャル上でインタラクションを行なうことを可能にしてもよい。
なお、図1に示す実施形態は例示である。他の実施形態は異なる装置、異なる数の装置、を利用し、異なる装置間でのインタラクションが増加あるいは減少し、他の方法の通信(例えば、超音波)を利用し、同じゲームをプレイする、それぞれHMDを装着している2人のユーザが存在するマルチプレイヤーゲームを容易にする等してもよい。したがって図1に示す実施形態は、排他的または限定的ではなく、むしろ例示または説明として解釈すべきである。
図2は一実施形態による、乗り物酔いを体験している、HMDを装着したユーザを示す。HMDを装着しているユーザは、アバターがスキーで滑降している仮想現実ゲームに没入している。この特定の例では、システムがユーザの感覚に過大な負担をかけているために、景色の変化が非常に速くなるにつれて、ユーザが乗り物酔いを感じ始めている。
動揺病(kinetosis)、また時には加速度病(travel sickness)とも称される乗り物酔い(motion sickness)は、視認される動きと脳の前庭系の動きの感覚との間に不一致が存在する状態である。乗り物酔いはまた原因によって、船酔い(seasickness)、車酔い(car sickness)、シミュレーター酔い(simulation sickness)または飛行機酔い(airsickness)と称される場合がある。めまい、疲労及び吐き気は、最も一般的な乗り物酔いの症状である。
一実施形態においてシステムは、体動、またはユーザの瞳孔の動き、またはユーザの視線、またはユーザの頭部の動作、またはユーザのバランスの1つまたは複数を含んでもよいユーザの身体特性を監視する。システムは、これらの身体特性を監視する複数のセンサを利用する。センサは、HMD内の目検出センサ、HMD内の運動センサ(例えば、ジャイロスコープ、加速度計及び磁力計等の慣性センサ)、視線検出センサ、顔センサ、他の種類の生体センサ、または任意のその組み合わせを含んでもよい。さらに、ユーザの動作を監視する、計算装置に接続されたカメラ等のHMD外部のセンサもまた、ユーザの身体特性を監視するために利用されてもよい。なおいくつかのゲームにおいては、スキー滑降ゲームにおいて体を一方または他方に傾けて、スキーの方向を変更する等のユーザの動作が、ゲームへの入力として利用される。
乗り物酔いは例えば、目の動きを追跡することによって、または異常な体動(例えば、発生しているゲームアクティビティによって予想されない方法で一方に傾くこと)を検出することによって、または乗り物酔いを示してもよいユーザの表情(例えば、視線の動き、舌を出す等)を追跡することによって、検出されてもよい。
ユーザはHMDの装着中、HMDが提供するマルチメディアコンテンツからの音を知覚してもよい。音は、HMD内のスピーカを介してまたは耳の上のヘッドホンを介して提供されてもよい。HMDは場合によってはユーザの耳の中に配置するイヤピースを含んでもよく、いくつかのHMDは、HMDが生成する音を聞くためにヘッドセットを差し込むコネクタを含む。
本明細書において提示される実施形態では、乗り物酔いが検出された際に、システムにより異なる乗り物酔い対応対策を取ることができる。対策には、追加音を付与すること、ゲームの臨場感を低減すること、またはヘッドセットを振動させることのいずれかが含まれてもよい。いくつかの実施形態において、乗り物酔いに対処するための対策は、乗り物酔いが発生する可能性が高い、非常に臨場感の高いゲームセクションにプレイヤーが入る際等、乗り物酔いが検知される前であっても適用されてもよい。
図3は一実施形態による、乗り物酔いを制御するための追加音の付与を示す。グラフ302は、HMDを装着中のユーザに提供されている仮想現実音を示す。ユーザがゲームをプレイする際にシステムは、乗り物酔いを示す可能性があるユーザのあらゆる徴候を監視する。
一実施形態では、乗り物酔いまたは任意の種類のめまいが検出されると、HMDがゲーム音と組み合わされる追加音304を提供する。追加音はユーザの乗り物酔いの症状を低減するためにユーザに提供される音であり、治療効果を有する。一実施形態では追加音は一連のパルスであるが、別の実施形態では追加音はユーザに提供される一定の音響信号であってもよい。一実施形態では、乗り物酔いが検出される際にゲーム音が、音量を下げること、可聴信号等のためのスペクトルの1つまたは複数の領域をなくすためにゲーム音にフィルタを適用すること等によって変更されてもよい。
別の実施形態において、前庭系を刺激するために追加音が骨伝導音声を介して提供される。骨伝導は、頭蓋骨を通じた音の内耳への伝導である。空気を通じて鼓膜(気道)に送られる音エネルギーを介して、または、例えばユーザの頭蓋骨等の骨に振動を送ることができる装置もしくは表面を、例えば装置の表面を頭蓋骨(例えば、ユーザの頭部、顔、耳を覆う表面、ユーザの顔、ユーザの首の周囲の表面、または2つ以上のその組み合わせ)に面してまたは接するように配置することにより、聴覚系を刺激することができる。いくつかの実施形態において、ユーザの骨または骨格を介して音を伝導することは、「骨伝導」と称される。空気を通じて送られる音は、聴覚系の全ての部分―外耳、中耳、内耳及び中枢聴覚伝導路を通じて移動する。対照的に、骨を通じて伝導された音は外耳及び中耳をバイパスし、進行波を蝸牛内で直接引き起こして、蝸牛及び中枢聴覚伝導路を刺激する。
一実施形態において骨伝導音声ヘッドセットは、ユーザの耳の脇にもしくは近くに、または頭蓋骨または骨格のいくつかの他の部分に位置するか、または配置されるトランスデューサを通じて、音声情報をユーザに中継することができる。すなわち、骨伝導音声は骨伝導音声を受けるユーザに聞こえるが、その他の者にはほぼ聞こえない。一実施形態では、骨伝導を提供するためにこの種類の音エネルギーを伝導することが可能であるスピーカを、HMDの一部として統合することができる。一実施形態では、振動装置をHMDのストラップに組み込むことができる。例えば、VRコンテンツに関連する通常音を提供するために利用されるスピーカに加えて、別のスピーカ装置または音響トランスデューサはヘッドホンに接続されるか、またはヘッドホンを覆ってもよい。さらに他の実施形態では、別個のパッドまたは装置をユーザに、例えばユーザの耳の周囲に接続することができる。さらに別の実施形態では、外部スピーカまたは振動伝導装置は骨伝導音声を提供するために、HMDに接続されるか、もしくはHMDとインターフェースしてもよいか、またはゲームコンソールとインターフェースしてもよい。
この例示的な骨伝導の実装において、音、音声、振動、エネルギー、またはその2つ以上の組み合わせは、同時に、または任意に断続的に提供される、VRコンテンツとの対話の様々なフェーズにおいて乗り物酔いの体験から逃れるようにHMDのユーザを補助する「追加音」と見なすことができる。
追加音は、仮想現実とともに提供される可聴周波数の帯域内または帯域外であってもよい。一実施形態では、追加音の周波数(複数可)は、追加音が仮想現実音の音の正確性に干渉せず、それを変化させないように事前構成される。
いくつかの実施形態において追加音は可聴スペクトル内にあるが、他の実施形態においては、追加音は、超音波、または可聴音及び超音波音の両方の組み合わせであってもよい。追加音の目的は、雑音を前庭系に取り込み、内耳の前庭神経を刺激し、それによって、乗り物酔いを低減することである。ゆるやかな振動音がユーザの脳の前庭階への感度を減じると考えられている。このようにして、ユーザの乗り物酔いの知覚を低減する。
一実施形態では、追加音が乗り物酔いに対して取る唯一の対策であるが、他の実施形態では、乗り物酔いに対抗するためにゆるやかな振動306もまた提供されてもよい。別の実施形態においては、振動が追加音なしでユーザに提供される。振動はパルスの形式であってもよいか、または一定時間に渡って提供される一定の振動であってもよい。振動は高速のパルスまたは低速のパルスを含んでもよく(例えば、パルスの持続時間がパルス内の時間よりも短くなるように、パルスは時間の間隔を空ける)、または一定時間に渡って強さが漸増してもよいか、または持続時間の短い、激しく強い振動として提供されてもよい。
一実施形態では、仮想現実音の正確性に干渉しない周波数で振動させる。耳または頭部のいくつかの他の領域に隣接して振動が付与されてもよい。脳に隣接する頭蓋骨に付与される振動はまた、乗り物酔いの低減を補助すると考えられている。一実施形態では振動パルスが追加音パルスと同期するが、他の実施形態では同期する必要がなく、例えば乗り物酔いに対抗するために、振動パルス及び追加音パルスを代替的に付与することができる。
上述のように、乗り物酔いはまた、仮想現実ゲームの臨場感等の、ユーザに提供される仮想現実及びマルチメディアコンテンツの臨場感に関してもよい。グラフ308は、ゲームが提供する臨場感の例示的な実施形態を示す。ゲームの臨場感は当初は高まり続け、ゲームは最終的に乗り物酔いが検出される点に到達する。一実施形態では、ゲームの臨場感はその後、乗り物酔いに対抗するために低減される。
別の実施形態において、特定のゲームまたはコンテンツは、特定のシーン、回数または対象でめまいを引き起こす可能性があるとしてフラグを立てることができる。これらの種類のレンダリングに関して、システムはユーザの状態をより正確に監視することができる。その後、乗り物酔いが発生していると判定された場合、追加音波をユーザの片耳または両耳に送信することができる。
乗り物酔いが発生する可能性が平均より高い、ゲームの臨場感が高い領域をユーザがこれからプレイすることが知られている場合、乗り物酔いを回避するか、または乗り物酔いの可能性を低減するために、ゲームは乗り物酔いが検出される前であっても追加音を付与する等して、測定値の適用を開始してもよい。したがってゲームは、乗り物酔いの対処に対して能動的または受動的であってもよい。ゲームは乗り物酔いが検出される前に対策を適用することによって能動的であってもよいか、または乗り物酔いが検出された後に対策を適用することによってゲームは受動的であってもよい。
いくつかの実施形態において、システムはユーザのプロファイルを追跡し、ユーザの乗り物酔いの傾向を示してもよいユーザの特性を特定する。感受性は、過去のゲーム体験、または、年齢、体重、身長、既往歴等の他のユーザ特性に基づいてもよい。ゲームはユーザのプロファイルデータを利用して、乗り物酔い対処方法をいつ適用するかを判断する。例えば、第1のユーザが乗り物酔いの影響を非常に受けやすいと判断される場合、ゲームはその後対策を適用しないが、第2のユーザがより影響を受けやすいと判断される場合、ゲームはその後、第2のユーザが第1のユーザと同じゲームの臨場感レベルでゲームをプレイしている時に乗り物酔いに対抗する治療対策を適用してもよい。
より感受性の高いユーザは、より感受性の低いユーザよりも多くの治療対策を受ける。例えば、より年齢の高いプレイヤーは若年成人より乗り物酔いに対する感受性が高い可能性があり、または座っている人々は運動している人よりも乗り物酔いを受けやすい可能性がある。また、より経験の豊富なプレイヤー(このゲームにおいて、また仮想現実ゲーム全般に関しても同様により経験の豊富な)は、より経験の浅いプレイヤーよりも乗り物酔いを受けにくい可能性がある。
図4は一実施形態による、乗り物酔いを制御するためにゲームの臨場感が低減されている場合の、ゲームをプレイ中のHMDを装着したユーザを示す。ゲームの臨場感は、表示装置上の変化速度を低減し(例えば、傾斜がより緩やかな地形で行動の速度を下げてスキーヤの速度を下げる)、表示装置上の要素の数を低減し(例えば、木、景色等の背景上の要素を少なくする)、音量を低減し、ゲーム音のスペクトルを低減し、表示装置上の色の数を低減し、または一定時間表示装置をフリーズさせる等のいくつかの方法で低減されてもよい。一実施形態では、ゲームはまた、単純で、ゲーム内の出来事にユーザが集中するための補助を行うことができるバナーまたは幾何学的形状等の新規要素を表示装置に追加し、乗り物酔いを低減してもよい。
一実施形態では、ゲームシステムは、仮想現実内のゲームの領域等のゲームの異なる領域の乗り物酔いのレベルを特定する履歴地図、またはゲーム内で行われる行動(例えば、敵との戦い)を開発する。乗り物酔いの履歴地図はその後、乗り物酔いの可能性がより高い領域を特定し、それによって、乗り物酔いを検出するための測定値を増大させるか、または乗り物酔いを回避するための能動的対策を適用することにより、ゲームをプレイしているユーザに適用してもよい。
他の実施形態では、追加音は、内耳にとって安全なマイクロウェーブ、または小さな音パルス、またはその組み合わせとすることができる。乗り物酔いへの対処の他の形式は、赤外線刺激、耳へのマイクロウェーブ、耳への振動、小さな電気ショック、HMD上の重量配分の変更、または前庭神経に影響を与える他の方法を含む。
図4の例示的な実施形態においては、追加音が付与されて、スキーヤの滑降速度を低下させ、背景(例えば、木)から視覚要素を取り除くことにより、ゲームの臨場感が低減されている。ユーザはもはや乗り物酔いを体験しておらず、不快感なくゲームのプレイを継続することが可能である。
図5は、本明細書に提示される実施形態を実施するためのアーキテクチャを示す。この説明では、HMDに提供されるゲームコンテンツは、豊かな対話型3D空間内に存在する。ゲームコンテンツはクライアントシステム506にダウンロードすることができるか、または一実施形態ではクラウドゲーミングサービス512によって実行することができる。クラウドゲーミングサービス112は、特定のゲーム502にアクセスし、体験を他の友人と共有し、コメントを投稿し、それらのアカウント情報を管理することが可能であるユーザ514のデータベースを含むことができる。
クラウドゲーミングサービス512はまた、ゲームプレイ、将来のゲームプレイ中、ソーシャルメディアネットワークでの共有時に、または、トロフィー、賞、ステータス、ランキング等の保存のために利用可能である特定のユーザのゲームデータ518を保存することができる。ソーシャルデータ520はまた、クラウドゲーミングサービス512によって管理することができる。クラウドゲーミングサービス512はまた、ユーザ名、ユーザの統計上の情報、履歴データ、ゲームデータ、臨場感タグ(本明細書においては、ユーザの臨場感スコア、または没入スコア、または没入レベル、または臨場感の評価とも称される)、乗り物酔いの履歴、HMD構成設定、ソーシャルデータ及び他のデータの1つまたは複数をそれぞれが含んでもよいユーザに関する情報を含むユーザプロファイル510を含んでもよい。
ユーザの臨場感スコアはまた、クラウドゲーミングサービス512によって維持される。さらに、臨場感スコア508はまた、クライアントシステムによって維持されるか、または取り込まれる。一実施形態では、クラウドゲーミングサービス512はクライアント装置506と協働し、臨場感レベル、ゲームデータ、ユーザプロファイルデータ及びソーシャルデータに関する情報を共有する。
ソーシャルデータは、インターネット504を介してクラウドゲーミングサービス512とインターフェースすることができる別個のソーシャルメディアネットワークによって管理することができる。任意の数のクライアントシステム506は、コンテンツへのアクセス及び他のユーザとの対話のために、インターネット504を介して接続することができる。
HMDで見る三次元対話型シーンは、3D映像で示されるキャラクタ等のゲームプレイを含むことができる。一実施形態では、キャラクタまたはアバターは、HMDを装着しているユーザによって制御される。
ゲーム論理は、クラウドゲーミングサービス512及びクライアントシステム506において、またはその両方において、実行されてもよい。ゲーム論理は、臨場感の評価を含むユーザデータを取り込むために、ゲームをプレイしている異なるユーザと通信する。
一実施形態では、ユーザのプロファイルは、プレイされているゲームのためのデータを含む。一実施形態では、ユーザのプロファイルは、以下の値の少なくとも1つまたは複数を含む。
−ユーザのメタデータ
−ユーザ設定
−履歴統計
−乗り物酔いの履歴データ
−共有履歴
−マルチプレイヤーアクティビティ
−ゲームスコア
−臨場感の評価
−1つまたは複数のゲームをプレイするためにユーザによって設定される、デフォルト臨場感設定を含む臨場感設定
−プレイされるレベル、及び
−ソーシャル画面
ソーシャル画面は、HMDを用いてプレイされているゲームを標準的なTVまたはPC表示装置内に提示して、HMDのないユーザがゲームアクションを把握すること、またゲームに参加することさえ可能にする。ソーシャル画面は、HMDを装着しているユーザの近くのユーザ、または、ネットワークを介して接続されている離れた場所のユーザに提示されてもよい。
なお、図5に示す実施形態は例示である。他の実施形態は異なるデータ編成を利用するか、または同じデータを異なる方法で編成するか、またはデータを単一のデータベース内に組み合わせる等してもよい。したがって図5に示す実施形態は、排他的または限定的ではなく、むしろ例示または説明として解釈すべきである。
図6Aは一実施形態による、乗り物酔いの制御方法のフローチャートである。このフローチャートにおける様々な動作が順次提示され、説明されるが、動作の一部または全部が異なる順番で実行されるか、組み合わされるか、もしくは省略されるか、または並行して実行されてもよいことが当業者には理解される。
動作602において、仮想現実ゲームが開始され、仮想現実がHMDを介してマルチメディアコンテンツを提供する。本方法は動作602から動作604に進み、動作604ではシステム(例えば、カメラに接続されたHMD及び外部計算装置、またはその組み合わせ)がユーザのあらゆる乗り物酔いの徴候を監視する(目、表情、体動、ゲームの刺激への応答性、ゲームの進行度、ユーザプロファイル、現在のゲームの臨場感、または表示装置の変化速度の追跡等)。
本方法は動作604から動作606に進み、乗り物酔いの何らかの徴候が存在するか否かを判定するための確認が行われる。乗り物酔いの徴候が存在する場合、本方法は動作608に進み、また乗り物酔いの徴候が存在しない場合、本方法は動作604に戻ってユーザの乗り物酔いの監視を継続する。
動作608において、追加音及び、任意に、HMDの振動等の他の対策がユーザに提示される。一実施形態では、ユーザの特定の解剖学的構造が、追加音がユーザに提供される方法を調節すると考えられる。音像定位機能の一例は、耳が空間内の点からの音を受ける方法を特徴づける応答である、頭部伝達関数(HRTF)である。耳のための一組のHRTFが、空間内の特定の点から来ると思われるバイノーラル音を合成するために利用されてもよい。HRTFはまた、自由大気内の方向からの音の、鼓膜に到達する音への変形として説明することができる。これらの変形は、聴取者の外耳の形状、聴取者の頭部及び体の形状、音が再生される空間の音響特性等を含む。これらの特性の全てが、音が来る方向を聴取者が正確に把握する方法に影響を与える。各人の身体的な相違のため、各人が異なるHRTFを有する。いくつかの実施形態において、ユーザに提供される音をカスタマイズするためにHRTFが利用されるが、聴取者の身体特性を説明する音像定位の任意の他の形式を、提示される実施形態を用いて利用することができる。
本方法は動作608から動作610に進み、ユーザが体験する乗り物酔いの度合いが第1の閾値に対して確認される。乗り物酔いの程度が第1の閾値を超える場合、本方法は動作612に進み、乗り物酔いに対抗するためにゲームの臨場感が低減する。乗り物酔いの程度が第1の閾値を超えない場合、本方法は動作604に戻ってユーザの監視を継続する。
本方法は動作612から動作614に進み、乗り物酔いの程度が第2の閾値を超えるか否かを判定するための確認が行われる。乗り物酔いの程度が第2の閾値を超える場合、本方法は動作616に進み、ユーザがHMDを外すことを可能にするための出口処理が開始される。
図6Bは一実施形態による、乗り物酔いを制御する追加音を提供するためのフローチャートである。このフローチャートにおける様々な動作が順次提示され、説明されるが、動作の一部または全部が異なる順番で実行されるか、組み合わされるか、もしくは省略されるか、または並行して実行されてもよいことが当業者には理解される。
動作622は、ユーザが頭部搭載型表示装置(HMD)を装着しており、HMDがマルチメディアコンテンツを用いて仮想現実を提示している間のユーザの身体特性を監視するためのものである。マルチメディアコンテンツは、HMDの表示装置上に提示するための映像及び音声、ならびにユーザの動作を含む身体特性を含む。
本方法は動作622から動作624に進み、仮想現実が提示されている間のユーザの身体特性の監視に基づいて、ユーザが乗り物酔いを体験しているか否かを判定する。本方法は動作624から動作626に進み、ユーザが乗り物酔いを体験しているか否かを判定するための確認が行われる。
ユーザが乗り物酔いを体験していない場合、本方法は動作622に戻るが、ユーザが乗り物酔いを体験している場合、本方法は動作628に進み、追加音がユーザに提供される。追加音はユーザに提供するためのマルチメディアコンテンツからの音と組み合わされ、かつ追加音はユーザが体験する乗り物酔いを低減するよう定義される。
図7Aは一実施形態による、追加音を提供するためのHMD708のアーキテクチャを示す。一実施形態では、HMD708は装置702と協働し、HMD内で仮想現実及びマルチメディアコンテンツを提供する。システムはユーザを監視し、潜在的な乗り物酔いを検出して乗り物酔いに対抗するためのアクションを生成する。
一実施形態では、計算装置702は乗り物酔い検出モジュール704及び仮想現実生成部706を含む。乗り物酔い検出モジュール704は、ユーザの潜在的な乗り物酔いを監視する。例えば一実施形態において、乗り物酔い検出モジュール704は、ユーザに向けられたカメラが撮像した画像を分析することによって、ユーザの動作を監視する。さらに乗り物酔い検出モジュール704は、HMD内の慣性センサからのセンサデータ、またはHMD内でユーザの視線を追跡するモジュールからのユーザの視線データ等の、HMDから送信されたユーザに関する情報を利用してもよい。
仮想現実生成部706は、HMD内で仮想現実世界を提示するためのデータを作成する。一実施形態においてHMDは仮想現実生成部706から受信されたデータを表示し、別の実施形態において仮想現実生成部706は、HMD内でレンダリングモジュール712と協働して仮想現実を提示する。
一実施形態においてHMD708は、仮想現実生成部714、乗り物酔い管理部710、レンダリングモジュール712、スピーカ、振動モジュール及び表示装置740を含む。仮想現実生成部714はコンピュータ装置702からデータを受信し、HMD内の装置(例えば、表示装置740、左耳スピーカ730、右耳スピーカ732、または1つまたは複数の外部スピーカを通じて音声を提供するための音声ジャック(図示せず)までも)上で仮想現実を提示するための仮想現実データを処理する。
乗り物酔い管理部710は、ユーザの身体特性(例えば、動作、視線)を追跡し、ユーザが乗り物酔いを体験しているか否かを判定する乗り物酔い検出モジュール716を含む。一実施形態では、ゲームの臨場感及びユーザプロファイルに基づいて乗り物酔いが予測され、ユーザが乗り物酔いを感じ始める前であっても乗り物酔いに対処するための治療対策が利用されてもよい。
乗り物酔い管理部710はさらに、図3を参照して上述したように、ユーザに提供するために追加音を生成する追加音生成部718、及び、乗り物酔いに対抗するためにユーザに振動を提供する振動付与モジュール710を含む。提供される振動は、機械的であってもよい(例えば、振動を生成する可動部を用いて装置によって生成される)か、または、1つまたは複数のスピーカを介して提供される音振動である可能性がある。
レンダリングモジュール712は、ゲームの臨場感制御モジュール724、音モジュール722、振動モジュール728及び映像モジュール726を含む。乗り物酔いに対抗するためにHMDがゲームの臨場感を下げなければならないと乗り物酔い検出モジュール716が判定する際に、ゲームの臨場感制御モジュール724が起動される。ゲームの臨場感制御モジュール724は、臨場感を下げるためにマルチメディアコンテンツの提供を修正し、及び/または、仮想現実生成部706が仮想現実(例えば、ゲーム)の臨場感を下げるように、計算装置702内の仮想現実生成部706と通信してもよい。
さらに、ゲームの臨場感制御モジュール724は、ユーザに提供される音、振動または映像を制御してもよい。音モジュール722は、左耳スピーカ730及び右耳スピーカ732のための音を生成する。振動モジュール728は、左耳734の振動もしくは右耳736の振動を生成することによって、または、皮膚を通じてユーザ738の頭蓋骨に(例えば、頭頂部に)、または顔に、またはHMDと接触する体の任意の他の部分に触覚振動を提供すること等により他の種類の振動を生成することによってユーザの前庭系を刺激するための振動を生成してもよい。
振動を生成する装置は、トランスデューサ、圧電トランスデューサ、音叉、モータ、ファン、または、振動を生成してもよい任意の他の装置を含んでもよい。振動は一定時間に渡って一定であってもよいか、または間欠パルスの形式であってもよい。一実施形態では、振動は時間の経過とともに周波数を変化させ、前庭系をさらに刺激してもよい。
なお、図7Aにおけるモジュール間の接続のいくつかは、提示される要素を曖昧にしないために省略されているが、他の実施形態では、図7Aにおけるモジュールのいずれかの間の任意の種類の通信が可能である。さらに、図7Aに示す実施形態は例示である。他の実施形態は異なるモジュールを利用し、2つ以上のモジュールの機能を単一のモジュールに組み合わせ、計算装置702において実行される動作とHMD708において実行される動作との間の機能を異なるように分散させる等してもよい。したがって図7Aに示す実施形態は、排他的または限定的ではなく、むしろ例示または説明として解釈すべきである。
図7Bは一実施形態による、追加音を提供するためのシステムのアーキテクチャを示す。図7Bは、主にHMD768と通信する計算装置752によって、乗り物酔いが制御される別の実施形態を示す。
計算装置752は、仮想現実生成部754及びゲームの臨場感制御モジュール756を含む。仮想現実生成部754は、HMD768内で仮想現実を提示するためのマルチメディアストリームを生成する。ゲームの臨場感制御モジュール756は、HMDにおいて提供されるマルチメディアコンテンツの臨場感を調節するように動作可能である。一実施形態では、HMDを装着しているユーザの不快感を回避するために、ゲームの臨場感(例えば、仮想現実の臨場感)が制御される。
コンピュータ装置752は、乗り物酔い検出モジュール760、追加音生成部762及び振動付与モジュール764を含む、乗り物酔い管理部758をさらに含む。乗り物酔い管理部758内のモジュールは乗り物酔いに対抗するために、HMD内のそれぞれのモジュールと通信して、ユーザの乗り物酔いを監視するか、ユーザに追加音を提供するか、またはHMD内で振動を提供する。
HMD768は、HMDを装着中の乗り物酔いを回避するか、または低減する対策を取るために、コンピュータ装置内の乗り物酔い検出モジュール760と協働する乗り物酔い検出モジュール770を含む。
HMD768はさらに、レンダリングモジュール712、左耳スピーカ730、右耳スピーカ732、左耳振動モジュール734、右耳振動モジュール736、頭蓋骨振動モジュール738及び表示装置740を含む。レンダリングモジュール712は、音、振動または映像を提供するために、それぞれの周辺機器と通信する、音722、振動728及び映像726モジュールを含む。
なお、図7Bにおけるモジュール間の接続のいくつかは、提示される要素を曖昧にしないために省略されているが、他の実施形態では、図7Bにおけるモジュールのいずれかの間の任意の種類の通信が可能である。さらに、図7Bに示す実施形態は例示である。他の実施形態は、異なるモジュールを利用し、2つ以上のモジュールの機能を単一のモジュールに組み合わせる等してもよい。したがって図7Bに示す実施形態は、排他的または限定的ではなく、むしろ例示または説明として解釈すべきである。
図8は、実施形態を実施するために利用されてもよい装置のアーキテクチャを示す。頭部搭載型表示装置は計算装置であり、処理装置804、メモリ816(RAM、ROM等)、1つまたは複数のバッテリ806または他の電源、及び永久記憶装置848(ハードディスク等)等の、通常計算装置上に認められるモジュールを含む。
通信モジュールは、HMDが他の携帯型装置、他のコンピュータ、他のHMD、サーバ等と情報を交換することを可能にする。通信モジュールは、ユニバーサルシリアルバス(USB)コネクタ846、通信リンク852(イーサネット(登録商標)等)、超音波通信856、Bluetooth(登録商標)858及びWiFi854を含む。
ユーザインターフェースは、入力及び出力のためのモジュールを含む。入力モジュールは、入力ボタン、センサ及びスイッチ810、マイクロホン832、(HMDを構成するまたは起動するために利用されてもよい、図示されていない)接触感知式画面、前方カメラ840、後方カメラ842、視線追跡カメラ844を含む。キーボードまたはマウス等の他の入力/出力装置は、USBまたはBluetooth(登録商標)等の通信リンクを介して携帯型装置に接続することができる。
出力モジュールは、ユーザの目の前の画像をレンダリングするための、表示装置814を含む。いくつかの実施形態は、1つの表示装置、2つの表示装置(片目ごとに1つ)、マイクロプロジェクタまたは他の表示技術を含んでもよい。他の出力モジュールは、(HMDの視覚追跡のために同様に利用されてもよい)発光ダイオード(LED)834、振動触覚フィードバック850、スピーカ830、及び、スピーカまたはヘッドホンに音を提供するための音像定位を実行して、HMD内でレンダリングされるまたは表示される対象物がリアルタイム3D効果音を提供するための3Dサウンドシミュレーションを提供する音像定位モジュール812を含む。一実施形態では、スピーカ830は音波または超音波であってもよい。ヘッドホン等の他の出力装置はまた、通信モジュールを介してHMDに接続することができる。一実施形態では、振動触覚フィードバック850は、乗り物酔いに対抗するためにユーザの頭蓋骨に振動を提供するよう、または、前庭系もしくはユーザ、または頭部の任意の他の部分に、乗り物酔いに対抗するための補助を行う振動を提供するよう構成されてもよい。
動作追跡を容易にするために含まれてもよい要素は、LED834、1つまたは複数の視認対象物836、及び赤外線ライト838を含む。
異なる装置からの情報は、HMDの位置を算出するために、位置モジュール828によって利用することができる。これらのモジュールは、磁力計818、加速度計820、ジャイロスコープ822、全地球測位システム(GPS)モジュール824及びコンパス826を含む。さらに位置モジュールは、カメラ及びマイクロホンを用いて取り込まれる音声または画像データを分析し、位置を算出することができる。さらにまた位置モジュールは、WiFi ping試験または超音波試験等の、携帯型装置の位置または近くの他の装置の位置を判定するための試験を行うことができる。
仮想現実生成部808は上述のように、位置モジュールによって算出された位置を利用して、仮想または拡張現実を作成する。仮想現実生成部808は、他の計算装置(例えば、ゲームコンソール、インターネットサーバ等)と協働し、表示装置モジュール814のための画像を生成してもよい。遠隔装置は、画面上でゲーム対象物を作成するために画面更新または命令を送信してもよい。
HMD802は上述のように、ゲームをプレイするためにまたは任意の他の没入型体験のために利用されてもよい。一実施形態では、ホテル等の現実世界の場所の仮想検査のためにHMDが利用される。このようにして、特定のホテルに行くか否かを検討しているユーザは、ホテル施設及び宿泊設備を確認するためにHMDを用いて仮想ツアーを行ってもよい。一実施形態では、ユーザがホテルを好む場合、ユーザはまた、価格、選択肢及び利用可能な日付を提示するメニューにアクセスすることによって、仮想ツアー中のホテルの予約を取ってもよい。
別の実施形態では、HMDとともに現実の店舗または仮想店舗内を移動する等して、買い物のためにHMDが利用されてもよい。ユーザが店舗の周囲を移動する際に、ユーザは異なるアイテム(例えば、商品)を確認することができる。ユーザが1つまたは複数のアイテムを購入することを希望する場合、所望の品物を精算するための(例えば、仮想精算)メニューが提供される。
別の実施形態において、仮想ツアーが仮想観光のために利用され、HMDを装着したユーザが世界中の異なる場所(例えば、万里の長城、ゴールデンゲートブリッジ、エッフェル塔等)を移動することを可能にしてもよい。ユーザが所望の場所を訪問する旅行の予約を行うことを可能にする選択肢が提供されてもよい。
一実施形態では、HMDが教育のために利用されてもよい。学生は仮想現実に没入した仮想授業にアクセスしてもよいか、または学生はHMDを利用して教室設定内の授業資料にアクセスしてもよい。例えばわれわれの学生は、異なる美術品についての説明を行う教師とともに仮想美術館内を移動することができる。一実施形態では、HMDの映像が教師によって設定され、学生は仮想世界を移動して、教師と同じ画像を共有する。このようにして、教師が講義を行っている間、学生は疑問を抱くことなく美術館の他の領域を訪れることができる。
一実施形態では、仮想現実生成部のためのレンダリングエンジンがユーザの動作の前方予測を利用し、仮想世界のどの部分をユーザが訪れるかを予測する。例えば、ユーザが頭部を右に動かし始める場合、レンダリングエンジンはユーザが右を向き続けると推測して、現在の映像の右側でデータの生成を開始する。さらに、ユーザが右に注意を向けているため、レンダリングエンジンは左側よりも解像度の高い画像を右側に提供してもよい。
一実施形態では、開発者がHMDの機能にアクセスするために、アプリケーションプログラミングインターフェース(API)が提供される。HMD上でプログラムを実行するため、また、遠隔呼出しがHMD内の機能にアクセスするために、APIが提供されてもよい。さらにAPIは、HMDと通信するゲームコンソール等のHMDに関連する別の装置、またはHMDとインターフェースしている任意の他の装置(例えば、HMDを装着しているユーザの動きを追跡する、ゲームコンソールに接続するカメラ)にアクセスするために、インターフェースを提供してもよい。一実施形態では、開発者による、APIの機能を利用するアプリケーションの作成を補助するために、ソフトウェア開発キット(SDK)が提供される。
図8に示す実施形態が、携帯型装置の例示的な実装であることを理解すべきである。他の実施形態は異なるモジュール、モジュールのサブセットを利用するか、または関連するタスクを異なるモジュールに割り当ててもよい。さらに、HMDの要素は異なる大きさを有してもよく、HMDを小型化するために、いくつかのHMDは小型化された構成要素を有してもよい。一実施形態においてHMDは、仮想または拡張世界がグラス上に提示されるか、または、HMDを装着しているユーザの網膜に投影される、一組の眼鏡のような外観であってもよい。したがって図8に示す実施形態は、排他的または限定的ではなく、むしろ例示または説明として解釈すべきである。
図9は様々な実施形態による、ゲームシステム1100のブロック図である。ゲームシステム1100は、ネットワーク1115を介して1つまたは複数のクライアント1110に映像ストリームを提供するよう構成される。ゲームシステム1100は通常、映像サーバシステム1120及び任意のゲームサーバ1125を含む。映像サーバシステム1120は、1つまたは複数のクライアント1110に最小限の品質のサービスで映像ストリームを提供するよう構成される。例えば、映像サーバシステム1120は、ビデオゲーム内の映像の状態または点を変化させるゲームコマンドを受信し、この状態変化を最小限のラグタイムで反映させる更新後の映像ストリームをクライアント1110に提供してもよい。映像サーバシステム1120は、幅広い代替的な映像フォーマットで映像ストリームを提供するよう構成されてもよい。
本明細書において個々に1110A、1110B等と称されるクライアント1110は、頭部搭載型表示装置、端末、パーソナルコンピュータ、ゲームコンソール、タブレットコンピュータ、電話、セットトップボックス、キオスク、無線装置、デジタルパッド、スタンドアローン装置、手持ち式ゲームプレイ装置等を含んでもよい。クライアント1110は通常、符号化された映像ストリームを受信し、映像ストリームを復号化し、ユーザ、例えばゲームのプレイヤーに結果として得られた映像を提示するよう構成される。符号化された映像ストリームの受信及び/または映像ストリームの復号化の処理は通常、クライアントの受信バッファ内に個別の映像フレームを記憶することを含む。映像ストリームは、クライアント1110と一体化された表示装置上で、または、モニタまたはテレビ等の別個の装置上でユーザに提示されてもよい。クライアント1110は任意に、1人以上のゲームプレイヤーをサポートするよう構成される。例えばゲームコンソールは、2人、3人、4人またはそれ以上の同時プレイヤーをサポートするよう構成されてもよい。これらのプレイヤーの各々が別個の映像ストリームを受信してもよく、または単一の映像ストリームが、特にプレイヤーごとに生成される、例えば各プレイヤーの視点に基づき生成される、フレームの領域を含んでもよい。クライアント1110は任意に、地理的に分散される。ゲームシステム1100に含まれるクライアントの数は、1または2から数千、数万以上まで、大きく変化してもよい。本明細書において使用される通り、「ゲームプレイヤー」の用語はゲームをプレイする人を指すために利用され、「ゲームプレイ装置」の用語はゲームをプレイするために利用される装置を指すために利用される。いくつかの実施形態において、ゲームプレイ装置は、ゲーム体験をユーザに提供するために協働する複数の計算装置を指してもよい。例えば、ゲームコンソール及びHMDは映像サーバシステム1120と協働して、HMDを通じて見るゲームを提供してもよい。一実施形態では、ゲームコンソールが映像サーバシステム1120から映像ストリームを受信し、ゲームコンソールはレンダリングのために映像ストリームをHMDに対して転送するか、または映像ストリームを更新する。
クライアント1110は、ネットワーク1115を介して映像ストリームを受信するよう構成される。ネットワーク1115は、電話網、インターネット、無線ネットワーク、電力線ネットワーク、ローカルエリアネットワーク、広域ネットワーク、プライベートネットワーク等を含む任意の種類の通信ネットワークであってもよい。典型的な実施形態において映像ストリームは、TCP/IPまたはUDP/IP等の標準的なプロトコルを介して伝達される。あるいは、映像ストリームは独自の規格を介して伝達される。
クライアント1110の典型的な例は、処理装置、不揮発性メモリ、表示装置、復号論理、ネットワーク通信能力及び入力装置を備えるパーソナルコンピュータである。復号論理は、ハードウェア、ファームウェア、及び/またはコンピュータ可読媒体上に記憶されるソフトウェアを含んでもよい。映像ストリームの復号化(及び符号化)システムは、当技術分野で周知であり、利用される特定の符号化スキームによって変化する。
クライアント1110はさらに、受信された映像を修正するために構成されたシステムを含んでもよいが、必須ではない。例えばクライアントは、1つの映像を別の映像に重ねて、映像をクロップする等のために、さらなるレンダリングを実行するよう構成されてもよい。例えばクライアント1110は、Iフレーム、Pフレーム及びBフレーム等の様々な種類の映像フレームを受信し、ユーザに表示するためにこれらのフレームを画像に処理するよう構成されてもよい。いくつかの実施形態において、クライアント1110の部材は、さらなるレンダリング、シェーディング、3Dへの変換、HMD光学素子の光学歪みの処理、または映像ストリーム上の同様の動作を実行するよう構成される。クライアント1110の部材は任意に、1つ以上の音声または映像ストリームを受信するよう構成される。クライアント1110の入力装置は例えば、片手ゲーム制御装置、両手ゲーム制御装置、ジェスチャ認識システム、視線認識システム、声認識システム、キーボード、ジョイスティック、ポインティング装置、フォースフィードバック装置、動作及び/または位置感知装置、マウス、タッチスクリーン、ニュートラルインターフェース、カメラ、まだ開発されていない入力装置等を含んでもよい。
クライアント1110が受信する映像ストリーム(及び、任意には、音声ストリーム)は、映像サーバシステム1120によって生成され、提供される。本明細書において別に記載するように、この映像ストリームは、映像フレームを含む(また、音声ストリームは、音声フレームを含む)。映像フレームは、ユーザに表示される画像に有意義に寄与するよう構成される(例えば、映像フレームは適切なデータ構造の画素情報を含む)。本明細書において使用されるように、「映像フレーム」の用語は、ユーザに示される画像に寄与する、例えば、それに影響を与えるよう構成される情報を優先的に含むフレームを指すように使用される。本明細書における、「映像フレーム」に関する教示のほとんどはまた、「音声フレーム」にも適用され得る。
クライアント1110は通常、ユーザからの入力を受信するよう構成される。これらの入力は、ビデオゲームの状態を変化させるか、ゲームプレイにその他の影響を与えるよう構成されたゲームコマンドを含んでもよい。ゲームコマンドは入力装置を利用して受信することができ、及び/または、クライアント1110上で実行される演算命令によって自動的に生成されてもよい。受信されたゲームコマンドは、クライアント1110からネットワーク1115を介して映像サーバシステム1120及び/またはゲームサーバ1125へと伝達される。例えばいくつかの実施形態において、ゲームコマンドは映像サーバシステム1120を介してゲームサーバ1125へと伝達される。いくつかの実施形態において、ゲームコマンドの別個のコピーが、クライアント1110からゲームサーバ1125及び映像サーバシステム1120へと伝達される。ゲームコマンドの伝達は任意に、コマンドの同一性に依拠する。ゲームコマンドは任意に、音声または映像ストリームをクライアント1110Aに提供するために利用される異なるルートまたは通信チャネルを通じて、クライアント1110Aから伝達される。
ゲームサーバ1125は任意に、映像サーバシステム1120とは異なるエンティティによって動作する。例えばゲームサーバ1125は、マルチプレイヤーゲームのパブリッシャーによって動作してもよい。この例では、映像サーバシステム1120は任意に、ゲームサーバ1125によってクライアントとして見なされ、任意にゲームサーバ1125の視点から出現して、先行技術のゲームエンジンを実行する先行技術のクライアントとなるよう構成される。映像サーバシステム1120とゲームサーバ1125との間の通信は任意に、ネットワーク1115を介して発生する。このように、ゲームサーバ1125は、うち1つがゲームサーバシステム1120である複数のクライアントにゲーム状態の情報を送信する、先行技術のマルチプレイヤーゲームサーバとすることができる。映像サーバシステム1120は、ゲームサーバ1125の複数のインスタンスと同時に通信するよう構成されてもよい。例えば映像サーバシステム1120は、複数の異なるビデオゲームを異なるユーザに提供するよう構成することができる。これらの異なるビデオゲームのそれぞれは異なるゲームサーバ1125によってサポートされ、及び/または異なるエンティティによって公開されてもよい。いくつかの実施形態において、映像サーバシステム1120のいくつかの地理的に分散されたインスタンスは、ゲーム映像を複数の異なるユーザに提供するよう構成される。映像サーバシステム1120のこれらのインスタンスのそれぞれは、ゲームサーバ1125の同じインスタンスと通信してもよい。映像サーバシステム1120と1つまたは複数のゲームサーバ1125との間の通信は任意に、専用通信チャネルを介して発生する。例えば映像サーバシステム1120は、これらの2システム間の通信専用の高帯域チャネルを介してゲームサーバ1125に接続されてもよい。
映像サーバシステム1120は少なくとも、映像ソース1130、I/O装置1145、処理装置1150及び非一時的記憶装置1155を備える。映像サーバシステム1120は1つの計算装置を含むか、または複数の計算装置間で分散されてもよい。これらの計算装置は任意に、ローカルエリアネットワーク等の通信システムを介して接続される。
映像ソース1130は、映像ストリーム、例えば動画を形成するストリーミング映像または一連の映像フレームを提供するよう構成される。いくつかの実施形態において、映像ソース1130はビデオゲームエンジン及びレンダリング論理を含む。ビデオゲームエンジンはプレイヤーからゲームコマンドを受信し、受信されたコマンドに基づいてビデオゲームの状態を維持するよう構成される。このゲーム状態は、通常の視点と同様に、ゲーム環境における対象物の位置を含む。ゲーム状態はまた、対象物のプロパティ、画像、色及び/またはテクスチャを含んでもよい。ゲーム状態は通常、ゲームのルール、及び、動く、回る、攻撃する、フォーカスを設定する、交流する、使用する等のゲームコマンドに基づいて維持される。ゲームエンジンの部分は任意に、ゲームサーバ1125内に配置される。ゲームサーバ1125は、地理的に分散されたクライアントを利用する複数のプレイヤーから受信されたゲームコマンドに基づき、ゲームの状態のコピーを維持してもよい。これらの場合、ゲームサーバ1125によってゲーム状態が映像ソース1130に提供されてもよく、ゲーム状態のコピーが記憶され、レンダリングが実行される。ゲームサーバ1125は、ネットワーク1115を介してゲームコマンドをクライアント1110から直接受信してもよく、及び/または、映像サーバシステム1120を介してゲームコマンドを受信してもよい。
映像ソース1130は通常、レンダリング論理、例えば、ハードウェア、ファームウェア、及び/または、記憶装置1155等のコンピュータ可読媒体上に記憶されるソフトウェアを含む。このレンダリングロジックは、ゲーム映像状態に基づいて映像ストリームの映像フレームを作成するよう構成される。レンダリング論理の全部または一部は、グラフィックスプロセッシングユニット(GPU)内に任意に配置される。レンダリング論理は通常、対象物間の三次元空間的関係を決定し、及び/または、ゲーム状態及び視点に基づく等して適切なテクスチャを付与するために構成される処理ステージを含む。レンダリング論理は生映像を生成し、その後、生映像は通常、クライアント1110への通信の前に符号化される。例えば生映像は、Adobe Flash(登録費商標)規格、wav、H.264、H.263、On2、VP6、VC−1、WMA、Huffyuv、Lagarith、MPG−x.、Xvid、FFmpeg、x264、VP6−8、realvideo、mp3等によって符号化されてもよい。符号化処理により、遠隔装置上のデコーダへの提供のために任意にパッケージされる映像ストリームが生成される。映像ストリームは、フレームサイズ及びフレームレートによって特徴づけられる。典型的なフレームサイズは、800x600、1280x720(例えば、720p)、1024x768を含むが、任意の他のフレームサイズが利用されてもよい。フレームレートは、毎秒の映像フレームの数である。映像ストリームは、異なる種類の映像フレームを含んでもよい。例えば、H.264規格は、「P」フレーム及び「I」フレームを含む。Iフレームは、表示装置上の全てのマクロブロック/画素をリフレッシュする情報を含み、一方Pフレームは、そのサブセットをリフレッシュする情報を含む。Pフレームのデータサイズは通常、Iフレームよりも小さい。本明細書において使用するように、「フレームサイズ」の用語は、フレーム内の画素数を指すことを意味する。「フレームデータサイズ」の用語は、フレームを記憶するために必要なバイト数を指すために使用される。
代替的な実施形態において、映像ソース1130は、カメラ等の映像記録装置を含む。このカメラは、コンピュータゲームの映像ストリームに含むことができる遅延またはライブ映像を生成するために利用されてもよい。結果として得られた映像ストリームは、レンダリングされた画像及びスチルまたはビデオカメラを利用して記録された画像の両方を任意に含む。映像ソース1130はまた、映像ストリームに含まれることになる、すでに記録された映像を記憶するよう構成された記憶装置を含んでもよい。映像ソース1130はまた、人等の対象物の動作または位置を検出するよう構成された動作または位置感知装置、ならびに、ゲーム状態を判定するか、または、検出された動作及び/または位置に基づいて映像を生成するよう構成された論理を含んでもよい。
映像ソース1130は、他の映像上に配置されるよう構成されるオーバーレイを提供するよう任意に構成される。例えば、これらのオーバーレイは、コマンドインターフェース、命令のログ、ゲームプレイヤーへのメッセージ、他のゲームプレイヤーの画像、他のゲームプレイヤーのビデオフィード(例えば、ウェブカメラ映像)を含んでもよい。タッチスクリーンインターフェースまたは視線検出インターフェースを含むクライアント1110Aの実施形態において、オーバーレイは、仮想キーボード、ジョイスティック、タッチパッド等を含んでもよい。オーバーレイの一例では、プレイヤーの声が音声ストリームに重ねられる。映像ソース1130は任意に、1つまたは複数の音声ソースをさらに含む。
映像サーバシステム1120が1人以上のプレイヤーからの入力に基づいてゲーム状態を維持するよう構成される実施形態において、各プレイヤーは、視野の位置及び方向を含む異なる視点を有してもよい。映像ソース1130は、各プレイヤーのための別個の映像ストリームを彼らの視点に基づいて提供するよう任意に構成される。さらに映像ソース1130は、異なるフレームサイズ、フレームデータサイズ及び/または符号化をクライアント1110のそれぞれに提供するよう構成されてもよい。映像ソース1130は、3D映像を提供するよう任意に構成される。
I/O装置1145は、映像サーバシステム1120が、映像、コマンド、情報の要求、ゲーム状態、視線情報、装置動作、装置位置、ユーザ動作、クライアントアイデンティティ、プレイヤーアイデンティティ、ゲームコマンド、セキュリティ情報、音声等の情報を送信及び/または受信するように構成される。I/O装置1145は通常、ネットワークカードまたはモデム等の通信ハードウェアを含む。I/O装置1145は、ゲームサーバ1125、ネットワーク1115及び/またはクライアント1110と通信するよう構成される。
処理装置1150は、本明細書に記載の映像サーバシステム1120の様々な構成要素内に含まれる、ソフトウェア等の論理を実行するよう構成される。例えば処理装置1150は、映像ソース1130、ゲームサーバ1125及び/またはクライアントクオリファイア1160の機能を実行するために、ソフトウェア命令を用いてプログラミングされてもよい。映像サーバシステム1120は、処理装置1150の1つ以上のインスタンスを任意に含む。処理装置1150はまた、映像サーバシステム1120が受信したコマンドを実行するか、または、本明細書に記載のゲームシステム1100の様々な要素の動作を調整するために、ソフトウェア命令を用いてプログラミングされてもよい。処理装置1150は、1つまたは複数のハードウェア装置を含んでもよい。処理装置1150は、電子処理装置である。
記憶装置1155は、非一時的アナログ及び/またはデジタル記憶装置を含む。例えば記憶装置1155は、映像フレームを記憶するよう構成されたアナログ記憶装置を含んでもよい。記憶装置1155は、例えばハードドライブ、光学式ドライブ、またはソリッドステート記憶装置等のコンピュータ可読デジタル記憶装置を含んでもよい。記憶装置1115は、(例えば、適切なデータ構造またはファイルシステムによって)映像フレーム、擬似的なフレーム、映像フレーム及び擬似的なフレームの両方を含む映像ストリーム、音声フレーム、音声ストリーム等を記憶するよう構成される。記憶装置1155は、複数の装置間で任意に分散される。いくつかの実施形態において、本明細書において別に記載する記憶装置1155は、映像ソース1130のソフトウェア構成要素を記憶するよう構成される。これらの構成要素は、必要に応じて提供される用意がある形式で記憶されてもよい。
映像サーバシステム1120はさらに、クライアントクオリファイア1160を任意に含んでもよい。クライアントクオリファイア1160は、クライアント1110Aまたは1110B等のクライアントの能力を遠隔で判定するために構成される。これらの能力は、クライアント1110A自体の能力及び、クライアント1110Aと映像サーバシステム1120との間の1つまたは複数の通信チャネルの能力の両方を含むことができる。例えばクライアントクオリファイア1160は、ネットワーク1115を通じた通信チャネルの試験を行うよう構成されてもよい。
クライアントクオリファイア1160は、クライアント1110Aの能力を、手動でまたは自動で判定する(例えば、発見する)ことができる。手動判定は、クライアント1110Aのユーザとの通信、及び能力の提供を求めるユーザへの依頼を含む。例えば、いくつかの実施形態において、クライアントクオリファイア1160は、クライアント1110Aのブラウザ内で画像、テキスト等を表示するよう構成される。一実施形態において、クライアント1110Aは、ブラウザを含むHMDである。別の実施形態において、クライアント1110Aは、HMD上に表示されてもよいブラウザを有するゲームコンソールである。表示される対象物は、クライアント1110Aのオペレーティングシステム、処理装置、映像デコーダの種類、ネットワーク接続の種類、表示装置の解像度等の情報をユーザが入力することを要求する。ユーザが入力する情報は、クライアントクオリファイア1160に戻される。
自動判定は例えば、クライアント1110A上でエージェントを実行することによって及び/または試験映像をクライアント1110Aに送信することによって、実行されてもよい。エージェントは、ウェブページに埋め込まれるまたはアドオンとして組み込まれたjava script等の演算命令を含んでもよい。エージェントは、クライアントクオリファイア1160によって任意に提供される。様々な実施形態においてエージェントは、クライアント1110Aの処理能力、クライアント1110Aの復号化及び表示能力、ラグタイムの信頼性及びクライアント1110Aと映像サーバシステム1120との間の通信チャネルの帯域幅、クライアント1110Aの表示種類、クライアント1110A上に存在するファイアーウォール、クライアント1110Aのハードウェア、クライアント1110A上で実行するソフトウェア、クライアント1110A内のレジストリエントリ等を発見することができる。
クライアントクオリファイア1160は、ハードウェア、ファームウェア、及び/またはコンピュータ可読媒体上に記憶されるソフトウェアを含む。クライアントクオリファイア1160は、映像サーバシステム1120の1つまたは複数の他の要素から離れた計算装置上に、任意に配置される。例えばいくつかの実施形態において、クライアントクオリファイア1160は、クライアント1110と映像サーバシステム1120の1つ以上のインスタンスとの間の通信チャネルの特性を判定するように構成される。これらの実施形態において、クライアントクオリファイアが発見する情報は、映像サーバシステム1120のどのインスタンスが映像のクライアント1110へのストリーミングの提供に最も適しているかを判定するために利用することができる。
実施形態は、手持ち式装置、マイクロプロセッサシステム、マイクロプロセッサを用いる、またはプログラム可能な大衆消費電子製品、ミニコンピュータ、メインフレームコンピュータ等を含む様々なコンピュータシステム構成によって実施することが可能である。本実施形態はまた、ネットワークを通じてリンクされる遠隔処理装置によってタスクが実行される分散型コンピューティング環境で実施することができる。
上述の実施形態を考慮し、コンピュータシステムに記憶されたデータを必要とする様々なコンピュータ実装動作を本実施形態が利用することができることを理解すべきである。これらの動作は、物理量の物理的操作を必要とする。本実施形態の一部を形成する本明細書に記載の動作のいずれかは、有用な機械操作である。本実施形態はまた、これらの動作を実行する装置または機器に関する。機器は、専用コンピュータ等の必要な目的のために特別に構築されてもよい。専用コンピュータとして定義される場合、コンピュータはまた、特別な目的の一部ではないが、特別な目的のための動作を行うことが可能である他の処理、プログラム実行、またはルーチンを行うことができる。あるいは動作は、コンピュータメモリ、キャッシュにおいて記憶された、またはネットワークを介して取得された1つまたは複数のコンピュータプログラムによって選択的に起動されるか、または構成される汎用コンピュータによって処理されてもよい。ネットワークを介してデータが取得する場合、ネットワーク上の他のコンピュータ、例えば、コンピューティングリソースのクラウドによってデータが処理されてもよい。
1つまたは複数の実施形態はまた、コンピュータ可読媒体上のコンピュータ可読コードとして構成することができる。コンピュータ可読媒体は、その後コンピュータシステムが読み取ることができるデータを記憶することができる、任意のデータ記憶装置である。コンピュータ可読媒体の例は、ハードドライブ、ネットワーク接続ストレージ(NAS)、読み出し専用メモリ、ランダムアクセスメモリ、CD−ROM、CD−R、CD−RW、磁気テープ及び他の光学及び非光学データ記憶装置を含む。コンピュータ可読媒体は、コンピュータ可読コードが記憶され、分散して実行されるように、ネットワーク接続コンピュータシステム上で分散されるコンピュータ可読有形媒体を含むことができる。
本方法の動作は特定の順番で記載されているが、動作の間で他のハウスキーピング動作が行われてもよいか、または、動作が若干異なる回数で発生するように調節されてもよいか、または、システム内で分散されて、それによって、オーバーレイ動作の処理が所望の方法で実行される限りは、処理に関連する様々な間隔での処理動作の発生が可能になってもよいことを理解すべきである。
前述の実施形態について、理解を明確にするために、ある程度詳細に説明してきたが、特定の変更及び修正が、添付の特許請求の範囲内で実施され得ることは明らかである。したがって、本実施形態は例示であり、限定するものではないと考えられるべきであり、本実施形態は、本明細書に与えられた詳細に限定されるものではなく、添付の特許請求の範囲及び均等物内で改変することができる。

Claims (20)

  1. ユーザが頭部搭載型表示装置(HMD)を装着しており、前記HMDの表示装置上で提示するための映像及び音声を含むマルチメディアコンテンツによって前記HMDが仮想現実を提示している間に、前記ユーザの動作を含む前記ユーザの身体特性を監視し、
    前記仮想現実が提示されている間に、前記ユーザの前記身体特性を前記監視することに基づいて、前記ユーザが乗り物酔いを体験しているか否かを判定し、
    前記ユーザが乗り物酔いを体験している際に、前記ユーザが体験する前記乗り物酔いを低減するよう定義され、前記ユーザに提供するための前記マルチメディアコンテンツからの音と組み合わされる追加音を前記ユーザに提供する、
    方法。
  2. 前記身体特性が、ユーザの体動、またはユーザの瞳孔の動き、またはユーザの視線、またはユーザの頭部の動作、またはユーザのバランスの1つまたは複数を含む、
    請求項1に記載の方法。
  3. 前記乗り物酔いを低減するために前記HMD上で実行され、前記HMDにおける表示のために前記仮想現実を生成するゲームのゲームの臨場感を下げる、
    請求項1に記載の方法。
  4. 前記乗り物酔いをさらに低減するよう定義された振動パターンで前記HMDを振動させることをさらに含む、
    請求項1に記載の方法。
  5. 前記ユーザの身体特性の監視では、
    更に、前記HMD内のセンサによって取得されたセンサデータを用いて前記ユーザの動作を監視する、
    請求項1に記載の方法。
  6. 前記ユーザの身体特性の監視では、
    更に、前記HMDの外部のカメラによって取得された画像データを用いて、前記ユーザの動作を監視する、
    請求項1に記載の方法。
  7. 前記ユーザの年齢を含む前記ユーザのプロファイルに基づいて、前記追加音が判定される、
    請求項1に記載の方法。
  8. 前記ユーザの前庭系のためのマイクロウェーブ刺激を生成することをさらに含む、請求項1に記載の方法。
  9. 前記乗り物酔いが所定の閾値を超える場合に、前記ユーザのための出口処理を起動する、
    請求項1に記載の方法。
  10. 前記追加音が、音響パルス、または連続的な音響信号、または超音波音の1つまたは複数を含む、
    請求項1に記載の方法。
  11. 頭部搭載型表示装置(HMD)であって、
    マルチメディアコンテンツを用いて仮想現実を提示するための表示装置と、
    前記マルチメディアコンテンツの音を提示するためのスピーカと、
    前記HMDを装着しているユーザの視線を追跡するためのカメラと、
    前記ユーザの前記視線の前記追跡に基づいて前記ユーザが乗り物酔いを体験しているか否かを判定する処理装置であって、前記ユーザが乗り物酔いを体験している際に前記ユーザが体験する前記乗り物酔いを低減するよう定義され、前記スピーカを介した前記ユーザへの提供のために前記マルチメディアコンテンツからの音と組み合わされる追加音を前記スピーカが提供する前記処理装置と、
    を備えるHMD。
  12. 前記処理装置が、不規則なユーザの体動を検出すること、または不規則なユーザの視線を検出すること、または不規則な瞳孔の動きを検出することの1つまたは複数によって、前記ユーザが乗り物酔いを体験しているか否かを判定する、
    請求項11に記載のHMD。
  13. 前記処理装置が、ユーザがバランスを失っていることを検出すること、または前記ユーザがゲーム課題に応答しないことを検出することの1つまたは複数によって、前記ユーザが乗り物酔いを体験しているか否かを判定する、
    請求項11に記載のHMD。
  14. 前記仮想現実が、前記HMD上で実行されるゲームによって生成される、
    請求項11に記載のHMD。
  15. 前記処理装置が、前記乗り物酔いを低減するために前記HMD上で実行され、前記HMDにおける表示のために前記仮想現実を生成するゲームのゲームの臨場感を下げる、
    請求項11に記載のHMD。
  16. コンピュータプログラムを記憶する非一時的コンピュータ可読記憶媒体であって、
    頭部搭載型表示装置(HMD)を装着しているユーザが前記HMD上のマルチメディアコンテンツを用いて仮想現実にアクセスしている間の、前記ユーザの身体特性を監視するためのプログラム命令と、
    前記身体特性に基づいて前記ユーザが乗り物酔いを体験しているか否かを判定するためのプログラム命令と、
    前記ユーザが乗り物酔いを体験している場合に、前記ユーザが体験する前記乗り物酔いを低減するよう定義され、前記ユーザに提供するために前記マルチメディアコンテンツからの音と組み合わされる追加音を前記ユーザに提供するためのプログラム命令と、を備える、
    コンピュータ可読記憶媒体。
  17. 前記身体特性が、ユーザの体動、またはユーザの瞳孔の動き、またはユーザの視線、またはユーザの頭部の動作、またはユーザのバランスの1つまたは複数を含む、
    請求項16に記載のコンピュータ可読記憶媒体。
  18. 前記乗り物酔いを低減するために前記HMD上で実行され、前記HMDにおける表示のために前記仮想現実を生成するゲームのゲームの臨場感を下げるためのプログラム命令をさらに含む、
    請求項16に記載のコンピュータ可読記憶媒体。
  19. 前記乗り物酔いをさらに低減するよう定義された振動パターンで前記HMDを振動させるためのプログラム命令をさらに含む、
    請求項16に記載のコンピュータ可読記憶媒体。
  20. 前記ユーザの身体特性を監視することには、
    前記HMD内のセンサによって取得されたセンサデータを用いて前記ユーザの動作を監視するためのプログラム命令がさらに含まれる、
    請求項16に記載のコンピュータ可読記憶媒体。
JP2017541073A 2015-02-05 2016-01-28 乗り物酔いの監視及び、酔いを抑えるための追加音の付与 Active JP6526820B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/615,115 2015-02-05
US14/615,115 US9999835B2 (en) 2015-02-05 2015-02-05 Motion sickness monitoring and application of supplemental sound to counteract sickness
PCT/US2016/015427 WO2016126522A1 (en) 2015-02-05 2016-01-28 Motion sickness monitoring and application of supplemental sound to counteract sickness

Publications (2)

Publication Number Publication Date
JP2018514005A true JP2018514005A (ja) 2018-05-31
JP6526820B2 JP6526820B2 (ja) 2019-06-05

Family

ID=55346218

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017541073A Active JP6526820B2 (ja) 2015-02-05 2016-01-28 乗り物酔いの監視及び、酔いを抑えるための追加音の付与

Country Status (5)

Country Link
US (2) US9999835B2 (ja)
EP (1) EP3253468B1 (ja)
JP (1) JP6526820B2 (ja)
CN (1) CN107427722B (ja)
WO (1) WO2016126522A1 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020004061A (ja) * 2018-06-27 2020-01-09 株式会社コロプラ 仮想体験を提供するためにコンピュータで実行される方法、プログラム、情報処理装置および情報処理システム
WO2020116348A1 (ja) * 2018-12-04 2020-06-11 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、画像処理システム、画像処理方法、及びプログラム
WO2020162059A1 (ja) * 2019-02-05 2020-08-13 ソニーセミコンダクタソリューションズ株式会社 酔い状態判定システム、生体情報取得装置、周囲環境情報取得装置、酔い状態判定装置、及び酔い状態判定方法
JP6946579B1 (ja) * 2021-01-20 2021-10-06 株式会社Synamon 情報処理装置、情報処理方法及びプログラム
JP2021178607A (ja) * 2020-05-15 2021-11-18 トヨタ紡織株式会社 制御装置、制御システム、および制御方法
WO2022113386A1 (ja) * 2020-11-30 2022-06-02 株式会社デンソーテン 情報処理装置、情報処理方法、プログラムおよびデータ構造
JP7382954B2 (ja) 2018-11-01 2023-11-17 株式会社ソニー・インタラクティブエンタテインメント Vr酔い低減システム、ヘッドマウントディスプレイ、vr酔い低減方法及びプログラム

Families Citing this family (75)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160300391A1 (en) * 2015-04-07 2016-10-13 Purdue Research Foundation System and method for reducing simulator sickness
CN108348353A (zh) 2015-09-04 2018-07-31 赛恩神经刺激有限责任公司 用于具有包络调制的电前庭刺激的系统、设备和方法
EP4079383A3 (en) * 2015-10-01 2023-02-22 Medidata Solutions, Inc. Method and system for interacting with a virtual environment
GB2543320B (en) 2015-10-14 2020-05-13 Sony Interactive Entertainment Inc Head-mountable display system
US11298502B2 (en) * 2015-11-23 2022-04-12 Sana Health, Inc. Non-pharmaceutical methods of mitigating addiction withdrawal symptoms
US11400252B2 (en) 2015-11-23 2022-08-02 Sana Heath Inc. Non-pharmaceutical method of managing pain
KR102349466B1 (ko) 2015-11-23 2022-01-10 사나 헬스, 인크. 뇌에 자극을 제공하는 방법들 및 시스템들
US11524135B2 (en) 2015-11-23 2022-12-13 Sana Health Inc. Non-pharmaceutical systems and methods of treating the symptoms of fibromyalgia
US10908694B2 (en) * 2016-02-01 2021-02-02 Microsoft Technology Licensing, Llc Object motion tracking with remote device
US9591427B1 (en) * 2016-02-20 2017-03-07 Philip Scott Lyren Capturing audio impulse responses of a person with a smartphone
WO2017150795A1 (en) * 2016-02-29 2017-09-08 Samsung Electronics Co., Ltd. Video display apparatus and method for reducing vr sickness
JP2017182130A (ja) * 2016-03-28 2017-10-05 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
GB2551480A (en) * 2016-06-08 2017-12-27 Nokia Technologies Oy An apparatus, method and computer program for obtaining images from an image capturing device
US10146335B2 (en) * 2016-06-09 2018-12-04 Microsoft Technology Licensing, Llc Modular extension of inertial controller for six DOF mixed reality input
US10078377B2 (en) * 2016-06-09 2018-09-18 Microsoft Technology Licensing, Llc Six DOF mixed reality input by fusing inertial handheld controller with hand tracking
US10146334B2 (en) 2016-06-09 2018-12-04 Microsoft Technology Licensing, Llc Passive optical and inertial tracking in slim form-factor
US9946337B2 (en) * 2016-07-25 2018-04-17 Immersv, Inc. Utilizing inertial measurement unit data of a head mounted display device to generate inferred comfort data
CN106331823B (zh) * 2016-08-31 2019-08-20 北京奇艺世纪科技有限公司 一种视频播放方法及装置
US10650621B1 (en) 2016-09-13 2020-05-12 Iocurrents, Inc. Interfacing with a vehicular controller area network
US20180133102A1 (en) * 2016-11-14 2018-05-17 Otolith Sound, Inc. Devices And Methods For Reducing The Symptoms Of Maladies Of The Vestibular System
US11284205B2 (en) 2016-11-14 2022-03-22 Otolith Sound Inc. Systems, devices, and methods for treating vestibular conditions
US10398897B2 (en) * 2016-11-14 2019-09-03 Otolith Sound Inc. Systems, devices, and methods for treating vestibular conditions
GB2556114B (en) * 2016-11-22 2020-05-27 Sony Interactive Entertainment Europe Ltd Virtual reality
CN108205372B (zh) * 2016-12-20 2021-03-09 百度在线网络技术(北京)有限公司 应用于虚拟现实设备的操作方法和装置以及虚拟现实设备
CN106806999B (zh) * 2017-01-13 2019-11-19 深圳市捷凌科技有限公司 用于缓解高原反应的电子控制电路和供氧设备
JP2018126185A (ja) * 2017-02-06 2018-08-16 株式会社日立製作所 装置、音データの生成方法、及びプログラム
US10568573B2 (en) * 2017-03-07 2020-02-25 Sony Interactive Entertainment LLC Mitigation of head-mounted-display impact via biometric sensors and language processing
US11511176B2 (en) * 2017-03-13 2022-11-29 Holodia Inc. Method for generating multimedia data associated with a system for practicing sports
US10394324B2 (en) 2017-03-13 2019-08-27 Disney Enterprises, Inc. Configuration for adjusting a user experience based on a biological response
US10482566B2 (en) * 2017-03-31 2019-11-19 Intel Corporation Personalized virtual reality content branch prediction
JP7244985B2 (ja) * 2017-05-19 2023-03-23 川崎重工業株式会社 操作装置及び操作システム
GB2565302B (en) * 2017-08-08 2022-04-13 Sony Interactive Entertainment Inc Head-mountable apparatus and methods
US20190076046A1 (en) * 2017-09-13 2019-03-14 Stimscience Inc. Systems, methods, and devices for closed loop control
US11245887B2 (en) 2017-09-14 2022-02-08 Samsung Electronics Co., Ltd. Electronic device and operation method therefor
JP6945409B2 (ja) * 2017-10-02 2021-10-06 株式会社コロプラ 情報処理方法、コンピュータ、及びプログラム
WO2019074758A1 (en) * 2017-10-10 2019-04-18 Medicapture, Inc. SYSTEM AND METHOD FOR PREVENTING OR REDUCING TRANSPORT DISABILITY
JP6934806B2 (ja) * 2017-11-02 2021-09-15 キヤノン株式会社 表示装置、表示装置の制御方法
KR102233099B1 (ko) * 2017-12-05 2021-03-29 한국전자통신연구원 기계학습에 기반한 가상 현실 콘텐츠의 사이버 멀미도 예측 모델 생성 및 정량화 조절 장치 및 방법
US10832483B2 (en) 2017-12-05 2020-11-10 Electronics And Telecommunications Research Institute Apparatus and method of monitoring VR sickness prediction model for virtual reality content
US11113887B2 (en) * 2018-01-08 2021-09-07 Verizon Patent And Licensing Inc Generating three-dimensional content from two-dimensional images
US10275919B1 (en) 2018-02-06 2019-04-30 International Business Machines Corporation Preventing transition shocks during transitions between realities
JP2019152980A (ja) * 2018-03-01 2019-09-12 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
KR102057310B1 (ko) 2018-04-04 2019-12-18 한국전자통신연구원 Vr 콘텐츠의 멀미도 정보 제공 장치 및 그 방법
WO2019215811A1 (ja) * 2018-05-08 2019-11-14 三菱電機株式会社 運転支援装置及び運転支援方法
US10360735B1 (en) * 2018-05-30 2019-07-23 Noble Systems Corporation Providing technical support in an augmented reality environment
US20210154430A1 (en) * 2018-07-10 2021-05-27 Mobilex Ltd Systems and methods for predicting and preventing motion sickness
CN108986192B (zh) * 2018-07-26 2024-01-30 北京运多多网络科技有限公司 用于直播的数据处理方法及装置
US11100713B2 (en) 2018-08-17 2021-08-24 Disney Enterprises, Inc. System and method for aligning virtual objects on peripheral devices in low-cost augmented reality/virtual reality slip-in systems
GB2576910B (en) * 2018-09-06 2021-10-20 Sony Interactive Entertainment Inc User profile generating system and method
US10684469B2 (en) * 2018-10-23 2020-06-16 Dell Products L.P. Detecting and mitigating motion sickness in augmented and virtual reality systems
KR102205691B1 (ko) * 2018-11-23 2021-01-21 주식회사 쓰리디아이 Vr 모션 플랫폼을 위한 멀미저감 방법 및 장치
JP7044040B2 (ja) * 2018-11-28 2022-03-30 トヨタ自動車株式会社 質問応答装置、質問応答方法及びプログラム
US11014577B2 (en) * 2018-11-28 2021-05-25 Here Global B.V. Method and apparatus for presenting a feedforward cue in a user interface before an upcoming vehicle event occurs
KR102291257B1 (ko) * 2018-12-13 2021-08-20 한국과학기술원 가상현실 컨텐츠 체감피로도 저감 장치 및 그 방법
EP3725354B1 (en) * 2019-04-15 2023-04-12 Nxp B.V. Audio controller
US10926773B2 (en) 2019-05-10 2021-02-23 Denso International America, Inc. Systems and methods for mitigating motion sickness in a vehicle
US11586291B2 (en) * 2019-05-12 2023-02-21 NeuroHaptics, Inc. Motion sickness reduction device
US11275441B2 (en) * 2019-05-12 2022-03-15 Neurohaptics, Inc Motion sickness reduction, directional indication, and neural rehabilitation device
US20240061510A1 (en) * 2019-05-12 2024-02-22 NeuroHaptics, Inc. Motion sickness reduction, directional indication, and neural rehabilitation device
US11373742B2 (en) * 2019-08-23 2022-06-28 Change Healthcare Holdings Llc Augmented reality pharmacy system and method
US20210082187A1 (en) * 2019-09-16 2021-03-18 Microsoft Technology Licensing, Llc Haptic simulation of motion in virtual reality
DE102019126396A1 (de) * 2019-09-30 2021-04-01 Ford Global Technologies, Llc Bestimmung der Neigung eines Passagiers zu Reisekrankheit in einem Fahrzeug
WO2021066661A1 (en) * 2019-10-01 2021-04-08 Motion Research Limited Motion sickness treatment or training system
KR102182004B1 (ko) * 2019-10-16 2020-11-24 홍익대학교세종캠퍼스산학협력단 휴대용 멀미 방지 장치
CN114761918A (zh) * 2019-12-04 2022-07-15 惠普发展公司, 有限责任合伙企业 用于头戴式装置中的生物特征管理的接口和处理
CN111358428A (zh) * 2020-01-20 2020-07-03 书丸子(北京)科技有限公司 一种观察能力测试评定方法和装置
JP6801136B1 (ja) * 2020-05-14 2020-12-16 エヌ・ティ・ティ・コミュニケーションズ株式会社 遠隔制御システムとその遠隔作業装置、映像処理装置およびプログラム
GB2596541B (en) * 2020-06-30 2023-09-13 Sony Interactive Entertainment Inc Video processing
US11830628B1 (en) * 2020-12-08 2023-11-28 John Thorn Eye movement desensitization and reprocessing treatment system
US11630509B2 (en) * 2020-12-11 2023-04-18 Microsoft Technology Licensing, Llc Determining user intent based on attention values
CN113100717B (zh) * 2021-04-25 2023-02-28 郑州大学 适于眩晕患者的裸眼3d眩晕训练系统及评测方法
US11707680B2 (en) 2021-07-20 2023-07-25 Sony Interactive Entertainment LLC Health and wellness gamification
US11596865B1 (en) * 2021-08-16 2023-03-07 Sony Interactive Entertainment LLC Dynamic game intervention
GB2615557A (en) * 2022-02-11 2023-08-16 Sony Interactive Entertainment Inc System and method of head mounted display
GB2621131A (en) * 2022-08-01 2024-02-07 Advanced Risc Mach Ltd A method for minimising motion sickness for head-mountable extended reality

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000339490A (ja) * 1999-05-28 2000-12-08 Mitsubishi Electric Corp Vr酔い低減方法
US6250255B1 (en) * 1998-08-06 2001-06-26 Virginia Commonwealth University Methods and apparatus for alerting and/or repelling birds and other animals
US20120134543A1 (en) * 2010-11-30 2012-05-31 Fedorovskaya Elena A Method of identifying motion sickness

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6068590A (en) * 1997-10-24 2000-05-30 Hearing Innovations, Inc. Device for diagnosing and treating hearing disorders
US6042533A (en) * 1998-07-24 2000-03-28 Kania; Bruce Apparatus and method for relieving motion sickness
US20020138116A1 (en) * 2001-03-21 2002-09-26 Bertolucci Lawrence E. Method of relieving migraines or headaches
US6623428B2 (en) * 2001-10-11 2003-09-23 Eastman Kodak Company Digital image sequence display system and method
US20080112581A1 (en) * 2006-11-09 2008-05-15 Stanley Kim Vibrating earphone with enhanced base sound effect
US20090060231A1 (en) * 2007-07-06 2009-03-05 Thomas William Buroojy Bone Conduction Headphones
WO2009065088A2 (en) * 2007-11-14 2009-05-22 Better Energy Systems Ltd Solar-powered headset
WO2009101622A2 (en) * 2008-02-11 2009-08-20 Bone Tone Communications Ltd. A sound system and a method for providing sound
WO2010109900A1 (ja) * 2009-03-26 2010-09-30 パナソニック株式会社 映像加工装置、映像加工方法、映像加工集積回路、映像再生装置
US9511289B2 (en) * 2009-07-10 2016-12-06 Valve Corporation Player biofeedback for dynamically controlling a video game state
US8692845B2 (en) * 2010-10-28 2014-04-08 Eastman Kodak Company Head-mounted display control with image-content analysis
JP5303685B2 (ja) * 2010-11-09 2013-10-02 富士フイルム株式会社 拡張現実感提供装置
US20120259638A1 (en) * 2011-04-08 2012-10-11 Sony Computer Entertainment Inc. Apparatus and method for determining relevance of input speech
US9123143B2 (en) * 2011-08-11 2015-09-01 Aaron I. Krakowski System and method for motion sickness minimization using integration of attended and unattended datastreams
US20130285885A1 (en) * 2012-04-25 2013-10-31 Andreas G. Nowatzyk Head-mounted light-field display
WO2014100484A1 (en) * 2012-12-19 2014-06-26 HeadsUp Technologies, Inc. Methods and systems for managing motion sickness
US8708884B1 (en) * 2013-03-11 2014-04-29 The United States Of America As Represented By The Secretary Of The Army Systems and methods for adaptive mitigation of motion sickness
US10019057B2 (en) 2013-06-07 2018-07-10 Sony Interactive Entertainment Inc. Switching mode of operation in a head mounted display
CN105094310B (zh) * 2014-05-09 2019-08-16 梦工厂动画公司 虚拟现实驾乘系统中减少晕车的方法和系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6250255B1 (en) * 1998-08-06 2001-06-26 Virginia Commonwealth University Methods and apparatus for alerting and/or repelling birds and other animals
JP2000339490A (ja) * 1999-05-28 2000-12-08 Mitsubishi Electric Corp Vr酔い低減方法
US20120134543A1 (en) * 2010-11-30 2012-05-31 Fedorovskaya Elena A Method of identifying motion sickness

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020004061A (ja) * 2018-06-27 2020-01-09 株式会社コロプラ 仮想体験を提供するためにコンピュータで実行される方法、プログラム、情報処理装置および情報処理システム
JP7382954B2 (ja) 2018-11-01 2023-11-17 株式会社ソニー・インタラクティブエンタテインメント Vr酔い低減システム、ヘッドマウントディスプレイ、vr酔い低減方法及びプログラム
WO2020116348A1 (ja) * 2018-12-04 2020-06-11 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP7414731B2 (ja) 2018-12-04 2024-01-16 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、画像処理システム、画像処理方法、及びプログラム
WO2020162059A1 (ja) * 2019-02-05 2020-08-13 ソニーセミコンダクタソリューションズ株式会社 酔い状態判定システム、生体情報取得装置、周囲環境情報取得装置、酔い状態判定装置、及び酔い状態判定方法
JP2021178607A (ja) * 2020-05-15 2021-11-18 トヨタ紡織株式会社 制御装置、制御システム、および制御方法
WO2022113386A1 (ja) * 2020-11-30 2022-06-02 株式会社デンソーテン 情報処理装置、情報処理方法、プログラムおよびデータ構造
JP6946579B1 (ja) * 2021-01-20 2021-10-06 株式会社Synamon 情報処理装置、情報処理方法及びプログラム
JP2022111618A (ja) * 2021-01-20 2022-08-01 株式会社Synamon 情報処理装置、情報処理方法及びプログラム

Also Published As

Publication number Publication date
EP3253468B1 (en) 2020-12-02
US20160228771A1 (en) 2016-08-11
CN107427722B (zh) 2021-02-26
US9999835B2 (en) 2018-06-19
JP6526820B2 (ja) 2019-06-05
US20180296921A1 (en) 2018-10-18
CN107427722A (zh) 2017-12-01
EP3253468A1 (en) 2017-12-13
US10792569B2 (en) 2020-10-06
WO2016126522A1 (en) 2016-08-11

Similar Documents

Publication Publication Date Title
US10792569B2 (en) Motion sickness monitoring and application of supplemental sound to counteract sickness
JP6700463B2 (ja) ヘッドマウントディスプレイ上の視覚的作用を制限するためのフィルタリング及びペアレンタルコントロール法
US11079999B2 (en) Display screen front panel of HMD for viewing by users viewing the HMD player
US11662813B2 (en) Spectating virtual (VR) environments associated with VR user interactivity
JP7132280B2 (ja) Vr観戦のための拡大された視野再レンダリング
US10388071B2 (en) Virtual reality (VR) cadence profile adjustments for navigating VR users in VR environments
US10245507B2 (en) Spectator management at view locations in virtual reality environments
CN106659932B (zh) 头戴式显示器中的传感刺激管理
JP2019537087A (ja) Hmdユーザを現実世界空間内で安全に案内するために、仮想現実シーンにおいて対話型コンテンツを提供する方法
CN105377117A (zh) 基于用户的光学处方的头戴式显示器
JP2019516159A (ja) Vr環境における観客ビュー視点
CN105377383A (zh) 在头戴式显示器上转变游戏过程
US11806615B2 (en) Asynchronous virtual reality interactions
WO2022212151A1 (en) Menu placement dictated by user ability and modes of feedback

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190508

R150 Certificate of patent or registration of utility model

Ref document number: 6526820

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250