JP6313432B2 - 頭部装着ディスプレイ - Google Patents

頭部装着ディスプレイ Download PDF

Info

Publication number
JP6313432B2
JP6313432B2 JP2016517974A JP2016517974A JP6313432B2 JP 6313432 B2 JP6313432 B2 JP 6313432B2 JP 2016517974 A JP2016517974 A JP 2016517974A JP 2016517974 A JP2016517974 A JP 2016517974A JP 6313432 B2 JP6313432 B2 JP 6313432B2
Authority
JP
Japan
Prior art keywords
mounted display
head
lighting elements
data
game
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016517974A
Other languages
English (en)
Other versions
JP2016527601A (ja
Inventor
ミカイロフ、アントン
マオ、シャドン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Publication of JP2016527601A publication Critical patent/JP2016527601A/ja
Application granted granted Critical
Publication of JP6313432B2 publication Critical patent/JP6313432B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/211Input arrangements for video game devices characterised by their sensors, purposes or types using inertial sensors, e.g. accelerometers or gyroscopes
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/212Input arrangements for video game devices characterised by their sensors, purposes or types using sensors worn by the player, e.g. for measuring heart beat or leg activity
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/26Output arrangements for video game devices having at least one additional display device, e.g. on the game controller or outside a game booth
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/28Output arrangements for video game devices responding to control signals received from the game device for affecting ambient conditions, e.g. for vibrating players' seats, activating scent dispensers or affecting temperature or light
    • A63F13/285Generating tactile feedback signals via the game input device, e.g. force feedback
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/52Controlling the output signals based on the game progress involving aspects of the displayed game scene
    • A63F13/525Changing parameters of virtual cameras
    • A63F13/5255Changing parameters of virtual cameras according to dedicated instructions from a player, e.g. using a secondary joystick to rotate the camera around a player's character
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0176Head mounted characterised by mechanical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/3406Control of illumination source
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/3406Control of illumination source
    • G09G3/3413Details of control of colour illumination sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/254Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/80Special adaptations for executing a specific game genre or game mode
    • A63F13/803Driving vehicles or craft, e.g. cars, airplanes, ships, robots or tanks
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/30Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by output arrangements for receiving control signals generated by the game device
    • A63F2300/301Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by output arrangements for receiving control signals generated by the game device using an additional display connected to the game console, e.g. on the controller
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/80Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game specially adapted for executing a specific type of game
    • A63F2300/8082Virtual reality
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0112Head-up displays characterised by optical features comprising device for genereting colour display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0233Improving the luminance or brightness uniformity across the screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0626Adjustment of display parameters for control of overall brightness

Description

本発明は、頭部装着ディスプレイ(HMD)及びコントローラと、HMD機器ユニットとを使用するゲームプレイ方法及びシステムに関する。
ビデオゲーム産業には、長年に渡り、多くの変遷があった。演算能力が拡大するに従い、ビデオゲームの開発者は、同様に、演算能力の向上を利用するゲームソフトを開発してきた。この目的で、ビデオゲーム開発者は、非常に写実的なゲーム体験を作り出す高度な機能及び演算を組み込んだゲームをコード化している。しかしながら、HMDを使用するゲームには、今なお、多くの改善が必要である。
本発明の実施形態は、この文脈において、考案されている。
本発明の実施形態は、頭部装着ディスプレイ(HMD)上へのゲームの描画方法及びシステムを提供する。いくつかの実施形態においては、ゲームプレイは、ユーザーが使用するコントローラに相関されてもよい、あるいはコントローラで実行されてもよい。本方法は、HMD及びコントローラを追跡する様式、及び没入型インタラクティブ性を提供する方法を定義する。被追跡HMD及びコントローラは、三次元空間内での相関インタラクティブプレイを有効にする。理解すべきは、本発明が、コンピュータ可読媒体上に、プロセス、装置、システム、デバイスまたは方法などの、多くの様式で実施可能であることである。以下に、本発明の、創意に富むいくつかの実施形態を説明する。
ヘッド装着部を含む頭部装着ディスプレイが開示される。これは、また、ヘッド装着部に連結されたビューイング・モジュールも含む。ビューイング・モジュールは、画像コンテンツを描画するよう構成されるスクリーン内へのビューポートを持つ内側部分と、外側ハウジングを含む。さらに、ビューイング・モジュールの外側ハウジングに統合されて複数の照明素子が含まれる。複数の照明素子は、頭部装着ディスプレイの画像追跡のために定義され、照明ロジックが複数の照明素子をアクティブまたは非アクティブに制御する。
いくつかの実施形態においては、通信モジュールによって交換されるデータは、入力データ、画像データ、オーディオ・データ及び慣性データを含む。
いくつかの実施形態における複数の照明素子は、発光ダイオード(LED)または赤外線(IR)エミッタとして定義される。
いくつかの実施形態におけるLEDは、一つ以上の色を照らし出すよう定義され、一つ以上の色の照明は、照明ロジックによって制御される。
いくつかの実施形態における複数の照明素子は、外側ハウジング上に定義パターンで配置される。
いくつかの実施形態における外側ハウジングは、部分的に曲がった形状を持ち、複数の照明素子は、部分的に曲がった形状の周りにパターンとして配置される。
いくつかの実施形態における外側ハウジングは、複数の表面領域を持ち、複数の照明素子は、複数の表面領域の周りにパターンとして配置される。
いくつかの実施形態における複数の照明素子は、二つ以上の形状またはサイズを含む。
いくつかの実施形態においては、複数の照明素子の追加素子が、ヘッド装着部へ結合される。
もう一つの実施形態においては、頭部装着ディスプレイ(HMD)が開示される。HMDは、ユーザーの頭に装着するためのヘッド装着部、及び、ヘッド装着部に連結され、ユーザーの眼前に配置されるよう構成されたビューイング・モジュールを含む。ビューイング・モジュールは、画像コンテンツを描画するよう構成されるスクリーン内へビューポートを保持させる内側と、内側を包囲する外側ハウジングを含む。HMDは、さらに、コンピュータ・システムとのデータ交換のための通信モジュールを含む。データは、入力データ、画像データ、オーディオ・データ及び慣性データ(他のデータも可能)を含む。HMDは、また、スクリーン上に画像コンテンツを描画するために画像データを処理するための画像処理モジュール、及びビューイング・モジュールの外側ハウジングに統合された複数の照明素子を含む。複数の照明素子は、カメラによる頭部装着ディスプレイの画像追跡のために定義される。HMDは、また、複数の照明素子のうちの特定な素子を、特定な時間にアクティブ及び/または非アクティブに、あるいは使用中にオンに制御するための照明ロジックを含む。
いくつかの実施形態における外側ハウジングは、前面部、第一側面部及び第二側面部を持つ。
いくつかの実施形態においては、複数の照明素子の第一の素子が、前面部の左側に配置され、複数の照明素子の第二の素子が、前面部の右側に配置される。
いくつかの実施形態における複数の照明素子の第一の素子は、部分的に前面部と第一側面部とに位置する二部形状を持ち、複数の照明素子の第二の素子は、部分的に前面部と第二側面部とに位置する二部形状を持つ。
いくつかの実施形態における複数の照明素子は、発光ダイオード(LED)または赤外線(IR)エミッタとして定義される。
いくつかの実施形態におけるLEDは、一つ以上の色を照らし出すよう定義され、一つ以上の色のイルミネーションは、照明ロジックによって制御される。
いくつかの実施形態における複数の照明素子は、外側ハウジング上に定義パターンで配置される。
いくつかの実施形態における通信モジュールは、コンピュータとの有線接続または無線接続の一つである。
いくつかの実施形態における慣性データは、頭部装着ディスプレイによって、ユーザー着用中の検出運動に応答して生成される。
いくつかの実施形態における入力データは、頭部装着ディスプレイによって、ユーザー着用中のユーザー入力に応答して生成される。
いくつかの実施形態におけるオーディオ・データ及び画像データは、頭部装着ディスプレイに描画されるインタラクティブ・メディア・コンテンツに関連付けられる。
いくつかの実施形態におけるインタラクティブ・メディア・コンテンツは、ゲーム・データ、ビデオ・データ、インターネット・ナビゲーション・データ、ゲーム・データとインターネット・データとの組み合わせ、ソーシャル・メディア・データ、またはそれらの組み合わせを含む。
いくつかの実施形態における外側ハウジングは、部分的に曲がった形状を持ち、複数の照明素子は、部分的に曲がった形状の周りにパターンとして配置される。
いくつかの実施形態における外側ハウジングは、複数の表面領域を持ち、複数の照明素子は、複数の表面領域の周りにパターンとして配置される。
いくつかの実施形態における複数の照明素子は、二つ以上の形状またはサイズを含む。
いくつかの実施形態における複数の照明素子の追加素子は、ヘッド装着部へ結合される。
いくつかの実施形態における複数の照明素子は、外側ハウジング上に定義パターンで配置される。
もう一つの実施形態においては、頭部装着ディスプレイが開示される。頭部装着ディスプレイは、ヘッド装着部及びビューイング・モジュールを含む本体を含む。ビューイング・モジュールは、画像コンテンツを描画するよう構成されるスクリーン内へビューポートを保持するよう内側部分を含み、本体は、ビュー・モジュールを覆う外側ハウジングを含む。頭部装着ディスプレイは、さらに、ビューイング・モジュールの外側ハウジングに統合された複数の照明素子を含む。複数の照明素子は、頭部装着ディスプレイの画像追跡のために定義される。複数の照明素子は、パターンで配置される。また、画像追跡を容易にするために作動される複数の照明素子を制御するための照明ロジックも含まれる。
頭部装着ディスプレイ(HMD)のスクリーン上に提示されるゲームの実行方法が提供される。実行は、スクリーン上にゲームのインタラクティブ・シーンを描画する。この方法は、HMD空間位置を特定するために、ユーザーが装着したHMDのデータを受信することを含む。方法は、また、コントローラ空間位置を特定するために、ユーザーが保持しているコントローラのデータを受信することを含む。ゲームプレイ中、方法は、スクリーン上のゲームのインタラクティブ・シーン内へ視点を描画することを含む。この場合の視点は、三次元で描画される空間体積である。方法は、HMD空間位置の変化の検出に応じて視点を調整することを含む。コントローラは、ゲーム内のインタラクティブ性を作動させることが可能であり、没頭型三次元ゲームプレイ体験を提供するために、コントローラ及びHMDの位置変化は相互に関連付けられる。
いくつかの実施形態におけるコントローラは、インタラクティブ性を作動させる入力を提供する。
いくつかの実施形態においては、コントローラ空間位置の変化が、追加の入力を提供する。
いくつかの実施形態における追加の入力は、発光体または慣性データの一つを含む。
いくつかの実施形態における発光体は、カメラを介して観察されるロケーション・データを提供し、発光体の色が追加のデータを提供する。
いくつかの実施形態における色は、プレイヤー番号またはモード、あるいは室内条件に基づく設定を示す。
いくつかの実施形態におけるコントローラは、インタラクティブ・シーン内に仮想オブジェクトとして表現され、仮想オブジェクトは、コントローラ空間位置へ実質的に対応する仮想空間位置のインタラクティブ・シーン内に描画され、コントローラ空間位置の変化が、スクリーン上に示される仮想オブジェクトの仮想空間位置を変化させる。
もう一つの実施形態においては、頭部装着ディスプレイ(HMD)のスクリーン上に提示されるゲームの実行方法が提供される。この方法は、ゲームを実行することを含み、この場合の実行は、スクリーン上にゲームのインタラクティブ・シーンを描画する。この方法は、以下のことを含む。HMD空間位置を特定するために、ユーザーが装着したHMDのデータを受信すること。コントローラ空間位置を特定するために、ユーザーが保持しているコントローラのデータを受信すること。スクリーン上のゲームのインタラクティブ・シーン内へ視点を描画すること。及びHMD空間位置の変化の検出に応じて視点を調整すること。この方法は、プロセッサによって実行される。
いくつかの実施形態におけるコントローラは、仮想オブジェクトとしてインタラクティブ・シーン内に表現され、仮想オブジェクトは、コントローラ空間位置に対応する仮想空間位置のインタラクティブ・シーン内に描画され、コントローラ空間位置の変化が、仮想オブジェクトの仮想空間位置を変化させる。
いくつかの実施形態におけるインタラクティブ・シーンは、三次元フォーマットで描画されるため、インタラクティブ・シーン内のオブジェクトは、HMDの前に出現しインタラクティブ・シーン内へ距離感を持って延在する。
いくつかの実施形態におけるHMD及びコントローラ空間位置は、画像データ、慣性データ、無線データ、赤外線データの一つ以上、あるいはそれらの組み合わせを利用して追跡される。
いくつかの実施形態においては、画像データを使用する追跡は、奥行データを提供する立体カメラを使用して、HMD及びコントローラ空間位置の一方または両方を検出することを含む。
もう一つの実施形態においては、頭部装着ディスプレイ(HMD)のスクリーン上に提示されるゲームの実行方法が提供される。この方法は、ゲームを実行することを含み、この場合の実行は、スクリーン上にゲームのインタラクティブ・シーンを描画する。この方法は、以下のことを含む。ユーザーへ向けられているキャプチャ・ロケーションに対するHMD空間位置を特定するために、ユーザーが装着したHMDの画像を受信すること。キャプチャ・ロケーションに対するコントローラ空間位置を特定するために、ユーザーが保持しているコントローラの画像を受信すること。この場合、コントローラは、実行中のゲームとのインタラクションを少なくとも部分的に作動させる入力を提供すること。スクリーン上のゲームのインタラクティブ・シーン内へ視点を描画すること。及び、HMDの受信画像内におけるHMD空間位置の変化の検出に応じて視点を調整すること。
いくつかの実施形態におけるコントローラは、仮想オブジェクトとしてインタラクティブ・シーン内に表現され、仮想オブジェクトは、コントローラ空間位置に対応する仮想空間位置のインタラクティブ・シーン内に描画され、コントローラ空間位置の変化が、仮想オブジェクトの仮想空間位置を変化させる。
いくつかの実施形態におけるゲームは、頭部装着ディスプレイへ通信接続されたコンピュータ上で実行される。
いくつかの実施形態におけるゲームは、ゲーム・クラウド上で実行され、頭部装着ディスプレイは、ゲーム・クラウドへ通信接続される。
いくつかの実施形態におけるHMD空間位置及びコントローラ空間位置の各々は、追加的に慣性データによって特定可能である。
本発明の他の態様は、添付図面と併せて、例証として本発明の原則を表す以下の詳細説明を参照することで明らかになる。
本発明は、添付図面と併せて、以下の説明を参照することによって最も良く理解できる。
本発明の実施形態による、ビデオゲームのインタラクティブゲームプレイのためのシステムを表す。
本発明の実施形態による頭部装着ディスプレイ(HMD)を表す。
実行中のビデオゲームと併せて、本発明の実施形態によるHMDの機能を概念的に表す。
本発明の実施形態によるHMDから3Dで視聴可能な仮想空間の実施例、コントローラとのインタラクション及びそれらのコーディネーションを表す。
本発明の実施形態によるHMDを装着し、コントローラを保持し、ビデオゲームに対して生成されるインタラクティブ・シーン内へ視点を変化させているユーザーの追加実施例を表す。
ビデオゲームをするときの、HMDを装着してコントローラを保持しているユーザーを表す。
本発明の実施形態による頭部装着ディスプレイの構成要素を表す。
本発明の種々の実施形態によるゲーム・システムのブロック図である。
図1は、本発明の実施形態による、ビデオゲームのインタラクティブゲームプレイのためのシステムを表す。本明細書での実施例は、ビデオゲームやゲームに関連させて提供されるが、実施形態は、異なる環境やツールにも適用可能である。そのような環境は、ビジネス・ツール環境、プレゼンテーション・ツール、電話会議システム、仮想訪問プログラム、仮想プロジェクト・コラボレーション、情報及びソーシャル・インタラクションの共有、ソーシャル・ネットワーク、ソーシャル・データ・マイニング、コミュニケーション等を含むことができる。
ビデオゲーム実施例におけるユーザー100は、頭部装着ディスプレイ(HMD)102を装着して図示される。HMD102は、眼鏡、ゴーグルまたはヘルメットに類似した方式で装着されるものであり、ユーザー100に対してビデオゲームまたは他のコンテンツを表示するよう構成される。HMD102は、ユーザーの眼の近位に表示メカニズムを備える長所によって、ユーザーへ高度な没頭体験を提供する。したがって、HMD102は、ユーザーの眼の各々に対して、ユーザーの視野の大部分または全域を占める表示領域を提供できる。
一つの実施形態におけるHMD102は、コンピュータ106へ接続可能である。コンピュータ106への接続は、有線または無線でよい。コンピュータ106は、本技術において既知である任意の一般または専用コンピュータでよい。例えば、限定せずに、ゲーム・コンソール、パーソナル・コンピュータ、ラップトップ、タブレット型コンピュータ、モバイル・デバイス、携帯電話、タブレット、シン・クライアント、セット・トップ・ボックス、メディア・ストリーミング・デバイス等を含む。一つの実施形態におけるコンピュータ106は、ビデオゲームを実行し、HMD102による描画のために、ビデオゲームからのビデオ及びオーディオを出力するよう構成できる。
ユーザー100は、ビデオゲームに対する入力を提供するために、コントローラ104を操作してもよい。加えて、カメラ108は、ユーザー100が所在するインタラクティブ環境の画像をキャプチャするよう構成できる。これらのキャプチャ画像を分析することによって、ユーザー100、HMD102及びコントローラ104の位置及び運動を測定できる。一つの実施形態におけるコントローラ104は、発光体を含み、それを追跡することによって、その位置及び方位が測定可能である。加えて、下記に詳細に説明するように、HMD102は、HMD102の位置及び方位を測定するために追跡が可能な、一つ以上の発光体を含んでもよい。発光体は、イルミネーション・オブジェクトと見なされる。
一つの実施形態においては、イルミネーション・オブジェクトは、人間の眼で、及び/またはカメラまたは画像検出デバイス、あるいはディテクタまたはレシーバで観察した場合に、可視的相違を提供するよう光を放つ、あるいは輝くものである。一つの実施形態におけるイルミネーション・オブジェクトは、人間に可視な光を発することが可能であり、他の実施形態においては、人間に不可視な光を発する。一つの実施形態におけるイルミネーション・オブジェクトは、IRエミッタを介して赤外線(IR)光を発してもよい。一つの実施例におけるイルミネーション・オブジェクトは、一つ以上の発光ダイオード(LED)であってもよい。各ダイオードは、白色光、あるいは種々の色合いの色光を発してもよい。いくつかの実施形態におけるイルミネーション・オブジェクトは、少なくとも部分的に透明である面の下に配置されてもよい。その面は、カバーであってもよく、その場合のカバーは、一つ以上の色で輝く、あるいは見えることになる。
いくつかの実施形態におけるイルミネーション・オブジェクトは、HMDの本体またはハウジング内へ統合される、HMD上の明るい、あるいは透明なプラスチックの下に配置される、HMDの面上に露出される、特定な複数の色を照らし出す複数のカラー・シールドまたは材料の下に配置される、及び/または検出可能性を向上させる、追跡を向上させるために(例えば、傾き、回転、偏揺及び奥行を特定するために)、特定な形状に配置される。種々の実施例におけるHMDは、種々の位置に種々のイルミネーション・オブジェクトを含んでもよい。その場合のHMDは、正面、側面及び背面から追跡が可能である。一つの実施形態におけるイルミネーション・オブジェクトは、HMDのヘッド・バンドへ追加されてもよい。そのようなイルミネーション・オブジェクトは、ヘッド・バンドの側面に種々の位置で取り付けることができ、ユーザーが移動、回転、円回転などを行っているときの追跡を向上させ得る。
一つの実施形態においては、HMD内に、照明ロジックが統合されてもよい。HMDは、イルミネーション・オブジェクトを作動させるために、一つ以上の回路を含んでもよい。単純な構成における照明ロジックは、イルミネーション・オブジェクトを、回路、スイッチ、トリガー、チップ、コントローラ、CPU(中央処理ユニット)、DSP(デジタル信号プロセッサ)、ASIC(特定用途向け集積回路)、及び/またはファームウェア及び/またはソフトウェアへ結合するワイヤーによって定義されてもよい。したがって、イルミネーション・オブジェクトは、イルミネーション・オブジェクトの一つまたはすべてが、点灯する、オンであり続ける、明滅する、コードでオン/オフする、発色する、ゲームの複数のHMDプレイヤーを区別するために複数の特定な色を示す、等の時を制御が可能である。いくつかの実施形態におけるHMDの回路は、画像データを受信して処理するためのロジックを含んでもよい。
例えば、コンピュータまたはゲーム・コンソールから受信される画像データは、HMDによって受信し処理してもよい。データ処理は、ビューイング・モジュール上へ画像データを描画することを含んでもよい。ビューイング・モジュールは、HMDを介しての視聴のための画像を描画するスクリーンを含んでもよい。いくつかの実施形態におけるHMDのスクリーンは、二つの別個なスクリーン、例えば、各々の眼に対して一つ、と定義されてもよい。もう一つの実施形態におけるスクリーンは、一つのスクリーンであってもよい。この場合、各々の眼は、光学系を利用して、スクリーン上に焦点を合わせることが可能である。
カメラ108は、インタラクティブ環境から音をキャプチャするために、一つ以上のマイクを含んでもよい。マイク・アレイによってキャプチャされた音は、音源の位置を特定するために処理されてもよい。特定位置からの音は、特定位置からではない他の音を排除して、選択的に利用または処理することが可能である。さらに、カメラ108は、マルチプル画像キャプチャ・デバイス(例えば、立体視用の一対のカメラ)、IRカメラ、デプスカメラ及びそれらの組み合わせを含むように定義できる。
もう一つの実施形態におけるコンピュータ106は、クラウド・ゲーム・プロバイダ112とネットワークを介して通信するシン・クライアントとして機能する。クラウド・ゲーム・プロバイダ112は、ユーザー102が行うビデオゲームを維持し、実行する。コンピュータ106は、HMD102、コントローラ104及びカメラ108からの入力をクラウド・ゲーム・プロバイダへ送信し、クラウド・ゲーム・プロバイダが、実行中のビデオゲームのゲーム状態に影響を及ぼす入力を処理する。実行中のビデオゲームからの出力、例えば、ビデオ・データ、オーディオ・データ及びハプティック・フィードバック・データは、コンピュータ106へ送信される。コンピュータ106は、そのデータを伝達前にさらに処理してもよいし、あるいはデータを関連デバイスへ直接送信してもよい。例えば、ビデオ及びオーディオ・ストリームはHMD102へ提供されるが、振動フィードバック指令はコントローラ104へ提供される。
一つの実施形態におけるHMD102、コントローラ104及びカメラ108は、それら自体が、クラウド・ゲーム・プロバイダ112と通信するためのネットワーク110へ接続するネットワーク・デバイスであってもよい。例えば、コンピュータ106は、ビデオゲーム処理を行わずネットワーク・トラフィックの通過を促進する、ルーター等のローカル・ネットワーク・デバイスであってもよい。HMD102、コントローラ104及びカメラ108によるネットワークへの接続は、有線または無線でもよい。
図2は、本発明の実施形態による頭部装着ディスプレイ(HMD)を表す。図示のように、HMD102は複数の発光体200A−Hを含む。これらの発光体の各々は、特定形状を持つように構成されてもよく、また、同じ色または異なる色を持つようにも構成できる。発光体は、また、追跡性を向上させるために、HMD上に特定なパターンで方位を定めて配置してもよい。発光体200A、200B、200C及び200Dは、HMD102の前面上に配置される。発光体200E及び200Fは、HMD102の側面上に配置される。また、発光体200G及び200Hは、HMD102の前面及び側面に架かるようHMD102の角部分に配置される。当然ではあるが、発光体は、ユーザーがHMD102を使用するインタラクティブ環境のキャプチャ画像内で識別可能である。発光体の識別及び追跡に基づき、インタラクティブ環境内のHMD102の位置及び方位は判定可能である。さらに、当然ではあるが、発光体のいくつかは、画像キャプチャ・デバイスに対するHMD102の特定な方位に応じて、視認可能あるいは不可能である。また、発光体の異なる部分(例えば、発光体200G及び200H)が、画像キャプチャ・デバイスに対するHMD102の方位に応じて、画像キャプチャに対して露出され得る。
一つの実施形態における発光体は、近傍にいる他者へ、HMDの現在の状態を示すように構成できる。例えば、発光体のいくつかまたはすべてが、HMD102の現在の状態を示す特定な配色、輝度配置で構成されても、点滅するように、あるいは特定のオン/オフ作動構成または他の配置を有するように構成されてもよい。実施例として、発光体は、ビデオゲームの活動的ゲームプレイ(タイムラインが有効な間に、あるいはゲームのシーン内に発生する通常のゲームプレイ)中に対して、メニュー・インターフェイスをナビゲートする、あるいはゲーム設定を構成する(その間、ゲームのタイムラインまたはシーンが、非有効になる、あるいは休止する)等のビデオゲームの他の非活動的ゲームプレイ態様中に、異なる構成を示すように構成できる。発光体は、また、ゲームプレイの相対インテンシティー・レベルを示すように構成されてもよい。例えば、ゲームプレイの激しさが増すに連れ、発光体の輝度または点滅の頻度を上昇させてもよい。このようにすれば、ユーザーではない外部の人は、HMD102上の発光体を見て、ユーザーが激しいゲームプレイに活発に挑んでいる最中で邪魔されたくないであろう、と分かることが可能である。
HMD102は、さらに、一つ以上のマイクを含んでもよい。図解実施形態におけるHMD102は、HMD102の前面上に配置されたマイク204A及び204Bと、HMD102の側面上に配置されたマイク204Cを含む。マイクのアレイを利用することによって、音源の位置を測定するために、マイクの各々からの音を処理できる。この情報は、不必要な音源の排除、音源と視覚識別との関連付け等を含む種々の方法に利用できる。
HMD102は、一つ以上の画像キャプチャ・デバイスを含んでもよい。図解実施形態におけるHMD102は、画像キャプチャ・デバイス202A及び202Bを含んで図示されている。立体視用の一対の画像キャプチャ・デバイスを利用することによって、環境の三次元(3D)画像及びビデオは、HMD102の視点からの遠近図でキャプチャできる。そのようなビデオは、HMD102を装着しているユーザーに対して、「ビデオ・シースルー」機能を提供するよう、表示させることができる。つまり、厳密な意味においては、ユーザーはHMD102を透過して見ることはできないが、画像キャプチャ・デバイス202A及び202Bによってキャプチャされるビデオは、まるでHMD102を通して見ているかのように、HMD102への外部環境を見ることができることと同等な機能を提供する。そのようなビデオは、拡張現実体験を提供するために、仮想エレメントで強化できる。あるいは、他の様式で仮想エレメントと結合または混合されてもよい。図解実施形態においては、HMD102の前面上に二つのカメラが図示されているが、HMD102上には、任意の数の外側へ向けたカメラを、任意の方向へ向けて設置してもよい。例えば、もう一つの実施形態においては、環境の追加のパノラマ画像キャプチャを提供するために、HMD102の側面上にカメラを取り付けてもよい。
図3は、本発明の実施形態によるHMD102の機能を、実行中のビデオゲームと併せて概念的に表している。実行中のビデオゲームは、ビデオゲームのゲーム状態を更新するための入力を受信するゲーム・エンジン320によって定義される。ビデオゲームのゲーム状態は、少なくとも部分的に、現在のゲームプレイの種々の態様を定義するビデオゲームの種々のパラメータ値、例えば、オブジェクトの存在及び位置、仮想環境の条件、イベント・トリガー、ユーザー・プロファイル、視界遠近図などによって、定義できる。
図解実施形態におけるゲーム・エンジンは、一例として、コントローラ入力314、オーディオ入力316及びモーション入力318を受信する。コントローラ入力314は、コントローラ104等の、HMD102とは分離したゲーム・コントローラの操作から定義されてもよい。例として、コントローラ入力314は、ゲーム・コントローラの操作から処理される方向入力、ボタン押し、トリガー起動、運動または他の種類の入力を含んでもよい。オーディオ入力316は、HMD102のマイク302から、あるいは画像キャプチャ・デバイス108に含まれるマイクからのものを処理できる。モーション入力218は、HMD102に含まれるモーション・センサ300から、あるいはHMD102の画像をキャプチャする画像キャプチャ・デバイス108からのものを処理できる。ゲーム・エンジン320は入力を受信し、それらの入力は、ビデオゲームのゲーム状態を更新するゲーム・エンジンの構成に従って処理される。ゲーム・エンジン320は、ユーザーに提示されるコンテンツを定義するためにゲーム状態データを処理する種々のレンダリング・モジュールへ、ゲーム状態データを出力する。
図解実施形態においては、ビデオ・レンダリング・モジュール322は、HMD102上に表示されるビデオ・ストリームを描画するよう定義される。ビデオ・ストリームは、ディスプレイまたはプロジェクタ・メカニズム310によって表示され、光学系308を通してユーザーの眼306に見えてもよい。オーディオ・レンダリング・モジュール304は、ユーザーによる聴取のためのオーディオ・ストリームを再生するよう構成される。一つの実施形態におけるオーディオ・ストリームは、HMD102につながったスピーカ304を通して出力される。スピーカ304は、屋外スピーカ、ヘッドホン、あるいは音響を提供可能な他のどの種類のスピーカの形態であってもよいと理解するべきである。
一つの実施形態においては、ユーザーの視線の追跡を可能にするために、HMD102内に凝視追跡カメラ312が含まれる。凝視追跡カメラは、ユーザーの眼の画像をキャプチャし、その画像は、ユーザーの凝視方向を判定するために分析される。一つの実施形態においては、ユーザーの凝視方向についての情報は、ビデオ・レンダリングに影響を与えるよう利用される。例えば、ユーザーの眼が特定な方向に向けられていることが判定されたなら、ユーザーが見ている領域に、より多くの細部を提供する、あるいはより速く更新させる等により、その方向に対するビデオ・レンダリングを優先または強調することができる。
加えて、触覚フィードバック・モジュール326が、触覚フィードバック・ハードウェアへ信号を提供するよう構成される。このハードウェアは、HMD102、あるいは例えばコントローラ104等のユーザーが操作する他のデバイスのいずれかに含まれる。触覚フィードバックは、種々の種類の触感覚、例えば、振動フィードバック、温度フィードバック、圧力フィードバック等の形態をとってもよい。
図4Aは、一つの実施形態による三次元視界をインタラクティブ空間内に表し、ユーザーによるビデオゲームプレイのシーンを示す。この実施例においては、図面4Bに示すように、ユーザーは頭部装着ディスプレイ(HMD)を装着し、コントローラを持っている。一つの実施形態におけるユーザーは、図面4Bに示すように、ユーザーへ向けたカメラでモニターされる。カメラは、モノ・カメラ、あるいは奥行を特定可能な立体カメラである。カメラは、ゲームプレイ中、コントローラ及び頭部装着ディスプレイを特定することが可能である。コントローラ及び頭部装着ディスプレイの識別が、各々の空間位置を特定する。各々の空間位置は、コントローラ及び頭部装着ディスプレイの運動を独立して識別するよう追跡できる。追跡は、カメラでキャプチャした画像を使用して、位置、変位速度及び変位などを特定することを含むことができる。もう一つの実施形態におけるコントローラ及びHMDは、各々、回路を含み、ベース・ステーション・コンピュータへデータを通信可能な慣性センサを含む。慣性センサのデータ(及び他の日付)を含むデータは、位置、変位、変位速度、及び他の6軸タイプのデータ要素を特定するために処理できる。
したがって、いくつかの実施形態はカメラを含むが、他の実施形態はカメラを含まない、と理解すべきである。カメラを使用する実施形態においては、図4Aに示すように、ユーザーは、ゲームをしているとき、前方を向いて検出される。ユーザーがコントローラを保持していると、図面4Bに示すように、ユーザーの手は、HMDのスクリーン内に描画される三次元シーン内へ伸びているように見える可能性がある。一つの実施形態においては、実行中のゲームによって生成されるインタラクティブ・コンテンツのシーン内への視点が変化する。一つの実施形態における変化は、頭部装着ディスプレイを装着したユーザーの頭の動きによって提供される位置または視界によって誘導される。
視点をインタラクティブ空間内に表すために、ユーザーが見る領域は、3D体積の輪郭を描く破線内に示されている。見えないインタラクティブ・シーン・データは、ユーザーがその特定な領域または方向を見ていないという理由で、図面に破線で示されている。作動中、破線のコンテンツは、ユーザーがその特定な位置または方向へ目を向けるまで、描画されない。しかしながら、ユーザーが、頭部装着ディスプレイのスクリーン内のインタラクティブ・シーンの特定な部分を見られることを明確にするために、破線で図示している。
一つの実施形態においては、コントローラを保持しているユーザーの手の位置は、検出可能であり、インタラクティブ・シーン内へまるでユーザーが手を伸ばしているかのように、HMDのスクリーンへ入り込んで表示できる。このことは、図4Aに表されている。そこでは、レース・カー・シーンを描画するビデオゲームにおいて、ユーザーがハンドルを握っている。注意すべきは、HMDの図面がR&DタイプのHMDのみを図示したものであり、商業的実施形態は、よりエルゴノミクスな仕上げの製品として製作されてもよいことである。
HMDは、インタラクティブ・シーン内への視界をユーザーに提供できる。図4Bに示すように、ユーザーが保持しているコントローラは、ユーザーがゲームをしていることを表している。このケースでは、挙動、位置、ボタン入力などが追跡されて、コンピュータ・システム上で実行されているゲームへ提供される入力に相関される。下記に説明するが、コンピュータ・システムは、ゲーム・コンソール、独立型コンピュータ、タブレット、スマートフォン、ウェブベースのコンピュータ、クラウド・サーバ、あるいは処理命令が可能な他のいずれかのシステムであってもよい。さらにもう一つの実施形態におけるコントローラ及び/またはHMDは、ネットワークと直接的に通信が可能である。ネットワークは、それから、命令を実行するためのクラウド・システムと通信する。
図5Aは、インタラクティブ・シーン内へ追加の視点を露出させるようユーザーが頭を左へ回した実施形態を表す。図5Bは、実世界のユーザーが頭を左へ回した状態を表す。この動作は、頭部装着ディスプレイのスクリーンから見たユーザーの前に、異なる三次元シーンを描画することを誘発した。加えて、図5Bは、コントローラを左へ回すユーザーを表す。左への方向転換は、緩やか、あるいは突然であり得るが、それは、コントローラの慣性センサを使用して検出可能であり得る。この場合、そのようなデータは、処理のためにコンピューティング・デバイスへ送信される。もう一つの実施形態では、コントローラの動きは、異なる空間位置を検出するカメラでモニターできる。異なる空間位置は、カメラで見たコントローラの位置または方位、あるいは位置及び方位を特定することによってモニターできる。
図5Aに示すように、図5Bに示すユーザーによるコントローラの左への動きは、仮想シーン内におけるユーザーにハンドルを左へ回転させる。したがって、コントローラでのユーザーの動作は、頭部装着ディスプレイのスクリーンから見られる状態で仮想シーン内に表現可能である。同時に、図5Aに示す仮想シーンへの視点も、頭部装着ディスプレイの検出位置及び方位に基づき変化することになる。頭部装着ディスプレイの位置検出は、発光体、マーカー、赤外線照明、あるいはそれらの組み合わせを識別することによって可能である。
他の実施形態においては、頭部装着ディスプレイの空間位置の特定は、頭部装着ディスプレイ内の慣性センサを追跡することによって可能である。さらに他の実施形態においては、カメラは、センサを検出することなく、三次元奥行マッピングを用いて単に頭の位置を検出することによって、頭の位置を追跡可能である。したがって、コントローラの動きと頭部装着ディスプレイの動きが追跡可能であるため、独立した運動位置、変位、移動速度の変化及び他の入力タイプの動きは、追跡可能であり、相互に関連付けることができる。相関関係は、コントローラ及び頭部装着ディスプレイの動きを追跡するマッピング・アルゴリズムによって可能であり、その結果、頭部装着ディスプレイ・スクリーン内に表示される視界は、頭部装着ディスプレイの動き及び移動と、ユーザーが保持しているコントローラによって提供されるインタラクティブ・フィードバックに従って変化可能である。
したがって、ユーザーの頭の動きとコントローラでの動作とのマッピングは、図5Bに示す実際の実世界のユーザーの動きと図5Aに示すシーン内への視点とを参照することによって示される。上述のように、一つの実施形態におけるユーザーは、ユーザーによる認識として、インタラクティブ・シーン内へ到達可能である。つまり、ユーザーは、実際にシーン内へ手を延ばし実際のハンドルを保持している視認感覚を受ける。ユーザーには、ユーザーが彼または彼女の手を見ると、ハンドルを保持している仮想の手が描画されている。それから、彼または彼女の手の動きが実質的にマップされ、シーン内の仮想の手の動きへ関連付けられる。一つの実施形態における仮想の手は、拡張現実または仮想現実である。一つの拡張現実視界は、ユーザーの実際の手の画像が、頭部装着ディスプレイ・スクリーンによって提供される視界内で僅かに補強されるものでよい。
シーン内へ到達可能なものとして手を説明したが、HMDを介して見ることが可能な体のどの部位をも、ユーザーが3Dシーン内に実際に存在する感覚を提供するようシーン内に描画させてもよい。加えて、ユーザーは、追跡可能な他のコントローラを保持すること、あるいは衣類を身に着けることもできる。これにより、シーン内へ融合させる機能を提供し、現実及び仮想世界の輪郭をぼかすことが可能である。さらに他の実施形態においては、ユーザーは、触覚フィードバックを備えた服または手袋を身に着けることもできる。それにより、仮想シーン内における動作が、実世界へ変換される。ユーザーが仮想シーン内へ手を伸ばせば、ユーザーは仮想キャラクタと握手ができる。握手の体感は、触覚フィードバックを使用して、手袋へシミュレーションできる。
図6A及び6Bは、ユーザーが頭を右へ回し、コントローラをも右へ向けた実施例を表す。図6Aで、ユーザーの仮想の手は、レース・カーのハンドルを右へ回転させるように見える。頭部装着ディスプレイのスクリーン内に提供される三次元空間内へ表示される画像は、ユーザーがコントローラを右へ回転させた結果としての変化を表す。同時に、ユーザーは、彼の頭を僅かに右へ回転させている。これは、ハンドルを右へ回転させるときに実生活で起こる典型的に自然な動作である。したがって、この実世界の動作は、頭部装着ディスプレイ・スクリーン内に描画される仮想環境内に同じ動作をもたらす。
図6Aは、右へ回転されたハンドルと、右へ転移した仮想シーン内への視点を示す。上述のように、三次元空間内への視点の外側の破線は、ユーザーが現在見ている範囲を越えて追加の仮想環境が存在することを、単に図解するものである。一つの実施形態におけるユーザーが現在見ている領域を越えた範囲は、現在の仮想視点に関しての自然な延長である。つまり、ユーザーがレース・カー内で真っ直ぐ前方を見ている場合、ユーザーは、頭を左へ向ければ、レース・カーの左側ウィンドウの外を実際に見ることができる。スタンド内のレース・カーの左側に観客(またはオブジェクト)が立っているなら、レース・カーが通り過ぎるときにユーザーが頭を左へ向ければ、その観客は視界に入ってくることになる。
図7A及び7Bは、もう一つの実施例を表す。この場合のコントローラは、異なるタイプのコントローラである。コントローラのタイプは、MOVE(商標)コントローラであり、ソニー・コンピュータ・エンターテインメント社が製作したものである。このコントローラは、ハンドルと、追跡のために発光する球状オブジェクトを持つ。コントローラは、また、慣性センサと、ベース・コンピュータへ情報を送信するための他のボタンを含む。一つの実施形態におけるカメラは、コントローラを6軸(例えば、X、Y、Z、ピッチ、回転、偏揺)で追跡可能である。カメラは、また、頭部装着ディスプレイをも同時に追跡できる。もう一つの実施形態における頭部装着ディスプレイは、他の追跡機能を使用して追跡できる。慣性センサ、赤外線カメラ照明、音、ボタンによるデータ入力または運動などを利用することによって、他の追跡機能を含むことができる。
図7A及び7Bに示す実施形態におけるユーザーは、図7Aにおいて剣として表現される図7Bに示すコントローラを動かしている。ユーザーは、ゲームのキャラクタまたは対象と相互作用している。この場合のコントローラの動きは、ゲームに参加している仮想キャラクタの動きに対して追跡される。コントローラの位置と頭部装着ディスプレイの位置(及び関連運動)は、仮想シーン内へ視点を提供するために追跡される。この実施例においては、頭部装着ディスプレイを使用してゲームを行っているユーザーには、コントローラを保持しているユーザーが、仮想ゲーム内の仮想オブジェクト(例えば、剣)として現れることになる。しかし、図示のように、ユーザーの腕は、まるでユーザーが、ユーザーの真ん前にある3D空間内へ伸ばしているかのように見える。コントローラの動きは、ゲーム内の仮想オブジェクトの動きに対してマッピングされて関連付けられる。
図8A及び8Bにおけるユーザーは、コントローラを同じ位置に維持して頭を左へ動かしている。ユーザーの頭の動きは、実行中のゲームによって生成されるシーン内へ新しい視点を露出させる。ユーザーの左への頭の動きは、ゲーム内に、ゲーム・エレメントがまるで現実の三次元エレメントであるかのように追加のインタラクティブ・シーン・エレメントを現す新しい視点を露出させる。
図9A及び9Bは、再度、頭を右へ、コントローラを僅かに右へ動かしているユーザーを示す。これは、頭部装着ディスプレイのスクリーン内に表示されるインタラクティブ・シーン内へ新しい視界を現す。一つの実施形態においては、コントローラでのユーザーのアクションのマッピングは、頭部装着ディスプレイの位置情報を利用してシーン内への視点を調整しながら、ゲームプレイのインタラクティブ性を作動させることを支援する。
図10は、ソファーに座ってコントローラを保持し、頭部装着ディスプレイを装着した実世界のプレイヤーの例を表す。
図11は、立ってゲームをしているプレイヤーを表す。プレイヤーの頭及びコントローラの動きは、追跡されて、インタラクティブ三次元環境のシーン内への視点の変化に伝達される。
一つの実施形態におけるコントローラは、カメラで視認可能な一つ以上の発光体を含むことができる。発光体は、カメラがコントローラの方位を検出可能な形状に配置できる。発光体は、水平照明バーの形状に、あるいは複数の発光体として設けることができる。発光体は、カメラで識別可能な、種々の色を備えることもできる。色は、プレイヤー番号に関する情報を提供できる、あるいは種々の環境条件にあるコントローラを特定できる。
環境条件は、例えば、ユーザーがゲームをしている部屋の照明を含むことができる。もう一つの実施形態における条件は、プレイヤーがプレイしている空間内の背景色を決定することを含んでもよい。背景色に基づき、適切な色をコントローラ発光体の色に選択できる。例えば、背景が主に赤色ならば、追跡を向上させる検出性または識別性を提供するよう、コントローラには赤以外の色が選択される。さらに別の実施形態における色は、所定のリストの色から選択できる。この場合の選択色は、背景に対する特徴的閾値を超えるものである。さらにもう一つの実施形態におけるコントローラに対する色選択は、背景シーン内で最も(または極めて)目立たないものであってもよい。コントローラに対する色の選択は、時々、補正中、ゲームプレイ中、ゲーム内の特定なシーン中、ゲーム内の特定なアクション・シーケンス中、マルチプレイヤー・ゲーム環境における他のユーザーとのコミュニケーションのために、またはボタンを選択することによるユーザーのコントロール時に、または所定のアルゴリズム、状況、ルール、またはルールと状況との組み合わせに基づくコンピューティング・デバイスのコントロール時に調節可能である。
図12は、本発明の実施形態による頭部装着ディスプレイ102の構成要素を示している。頭部装着ディスプレイ102は、プログラム命令を実行するためのプロセッサ1300を含む。メモリ1302は、記憶の目的で備えられ、揮発性及び不揮発性メモリの両方を含んでもよい。ディスプレイ1304は、ユーザーが見る視覚的インターフェイスを提供するよう含まれる。バッテリ1306は、頭部装着ディスプレイ102のための電源として提供される。モーション検知モジュール1308は、磁力計1310、加速度計1312及びジャイロスコープ1314等の、種々のタイプの運動感知ハードウェアのいずれを含んでもよい。
加速度計は、加速度及び重力誘発反力を測定するデバイスである。異なる方向における加速の大きさ及び方向を検出するために、単軸及び複数軸モデルが利用できる。加速度計は、傾き、振動及びショックを感知するために使用される。一つの実施形態においては、重力の方向を提供するために、三つの加速度計1312が使用される。これらは、二つの角度(世界空間ピッチ及び世界空間回転)に対する絶対的基準を提供する。
磁力計は、頭部装着ディスプレイの近くの磁場の強度及び方向を測る。一つの実施形態における頭部装着ディスプレイ内には、世界空間偏揺角に対する絶対的基準を確実にするために、三つの磁力計1310が使用される。一つの実施形態における磁力計は、地磁界を測定するように設計される。地磁界は、±80マイクロテスラである。磁力計は、金属の影響を受け、実際の偏揺で単調な偏揺測定値を提供する。磁場は、環境内の金属に起因して曲げられ、偏揺測定値にゆがみを引き起こす。必要に応じて、このゆがみは、ジャイロスコープまたはカメラ等の他のセンサからの情報を利用して、較正することができる。一つの実施形態においては、頭部装着ディスプレイ102の傾斜角及び方位角を取得するために、磁力計1310と共に加速度計1312が使用される。
ジャイロスコープは、角運動量の原理に基づき、方位を測定する、あるいは維持するデバイスである。一つの実施形態においては、三つのジャイロスコープ1314が、慣性感知に基づき、各軸(x、y及びz)を横切る運動に関する情報を提供する。ジャイロスコープは、急速な回転を検出する支援となる。しかし、絶対的基準が存在しない場合、ジャイロスコープは、時間経過に伴い漂流する可能性がある。このため、定期的にジャイロスコープをリセットする必要がある。これは、オブジェクトの視覚的追跡、加速度計、磁力計などに基づく位置/方位測定等の、他の入手可能な情報を利用して行うことが可能である。
現実の環境の画像及び画像ストリームをキャプチャするために、カメラ1316が設けられる。頭部装着ディスプレイ102には、(ユーザーが頭部装着ディスプレイ102のディスプレイを見ているときにユーザーから離れる方向へ向く)後方へ向けたカメラ、及び(ユーザーが頭部装着ディスプレイ102のディスプレイを見ているときにユーザーへ向く)前方へ向けたカメラを含む複数のカメラが設けられてもよい。加えて、現実の環境内のオブジェクトの深さ情報を検知するために、頭部装着ディスプレイ102には、デプスカメラ1318が含まれてもよい。
頭部装着ディスプレイ102は、オーディオ出力を提供するためにスピーカ1320を含む。また、周囲環境、ユーザーが話す言葉などからの音を含む現実の環境からのオーディオをキャプチャするために、マイク1322が含まれてもよい。頭部装着ディスプレイ102は、ユーザーへ触覚フィードバックを提供するために、触覚フィードバック・モジュール1324を含む。一つの実施形態における触覚フィードバック・モジュール1324は、触覚フィードバックをユーザーに提供するために、頭部装着ディスプレイ102の運動及び/または振動を引き起こすことが可能である。
頭部装着ディスプレイ102の状態の視覚インジケータとして、LED1326が備えられる。例えば、LEDは、バッテリ・レベル、電源オン等を示してもよい。頭部装着ディスプレイ102が情報をメモリカードから読み、メモリカードへ書き込むことが可能なようカードリーダ1328が設けられている。他の携帯機器、コンピュータ等の、周辺デバイスの接続、あるいは他のデバイスへの接続を可能にするインターフェイスの一つの実施例として、USBインターフェイス1330が含まれる。頭部装着ディスプレイ102の種々の実施形態においては、頭部装着ディスプレイ102の接続性を拡張可能にする種々のタイプのインターフェイスのいずれが含まれてもよい。
無線ネットワーク技術を介してインターネットへの接続を可能にするために、WiFi(登録商標)モジュール1332が含まれる。また、頭部装着ディスプレイ102は、他のデバイスへの無線接続を可能にするために、ブルートゥース(登録商標)・モジュール1334をも含む。他のデバイスへの接続のために、通信リンク1336が含まれてもよい。一つの実施形態における通信リンク1336は、無線通信のために赤外線伝送を利用する。他の実施形態における通信リンク1336は、他のデバイスとの通信のために、種々の無線または有線伝送プロトコルのいずれを利用してもよい。
ユーザーに対して入力インターフェイスを提供するために、入力ボタン/センサ1338が含まれる。ボタン、タッチパッド、ジョイスティック、トラックボール等の、種々のタイプの入力インターフェイスのいずれが含まれてもよい。超音波技術を介して他のデバイスとの通信を促進するために、頭部装着ディスプレイ102内に超音波通信モジュール1340が含まれてもよい。
ユーザーからの生理的データの探知を可能にするために、バイオセンサ1342が含まれる。一つの実施形態におけるバイオセンサ1342は、ユーザーの皮膚を通してユーザーの生体電気信号を検出するために、一つ以上の乾性電極を含む。
頭部装着ディスプレイ102の前述の構成要素は、単に、頭部装着ディスプレイ102に含まれてもよい模範的な構成要素として説明した。本発明の種々の実施形態における頭部装着ディスプレイ102は、前述の種々の構成要素のいくつかを含んでもよいし、含まなくてもよい。頭部装着ディスプレイ102の実施形態は、本明細書で説明する発明の態様を促進する目的で、本明細書に記載されていないが本技術において既知である他の構成要素をさらに含んでもよい。
当業技術者には明らかであるが、本発明の種々の実施形態においては、前述の手で保持するデバイスは、種々のインタラクティブ機能を提供するために、ディスプレイ上に表示されるインタラクティブ・アプリケーションと併せて利用されてもよい。本明細書で説明する模範的な実施形態は、例示としてのみ提供されるもので、制限するものではない。
図13は、本発明の種々の実施形態によるゲーム・システム1400のブロック図である。ゲーム・システム1400は、ネットワーク1415を介して一つ以上のクライアント1410へビデオ・ストリームを提供するように構成される。ゲーム・システム1400は、典型的に、ビデオ・サーバ・システム1420とオプションのゲーム・サーバ1425を含む。ビデオ・サーバ・システム1420は、最小サービス品質で一つ以上のクライアント1410へビデオ・ストリームを提供するように構成される。例えば、ビデオ・サーバ・システム1420は、ビデオゲーム内の状態または視点を変化させるゲーム・コマンドを受信し、クライアント1410に、最小遅延時間で、この状態変化を反映する更新ビデオ・ストリームを提供してもよい。ビデオ・サーバ・システム1420は、未だに定義されていないフォーマットを含む多種多様な代替ビデオ・フォーマットでビデオ・ストリームを提供するように構成されてもよい。さらに、ビデオ・ストリームは、多種多様なフレーム率でユーザーへプレゼンテーションされるよう構成されたビデオ・フレームを含んでもよい。典型的フレーム率は、毎秒30コマ、毎秒60コマ及び毎秒1420コマである。本発明の代替的な実施例には、より高い、あるいはより低いフレーム率が含まれる。
本明細書で1410A、1410B等と個々に言及されるクライアント1410は、頭部装着ディスプレイ、端末、パーソナル・コンピュータ、ゲーム・コンソール、タブレット型コンピュータ、電話機、セット・トップ・ボックス、キオスク、無線デバイス、デジタル・パッド、独立型デバイス、携帯型ゲーム機及び/または同等のものを含んでもよい。典型的に、クライアント1410は、符号化ビデオ・ストリームを受信し、ビデオ・ストリームを復号化し、ユーザー、例えば、ゲームのプレイヤーへ、復号化後のビデオを提示するよう構成される。符号化ビデオ・ストリームを受信し及び/またはビデオ・ストリームを復号化するプロセスは、典型的に、クライアントの受信バッファ内に個々のビデオ・フレームを保存することを含む。ビデオ・ストリームは、ユーザーへ、クライアント1410へ統合されたディスプレイ上に、あるいはモニターまたはテレビジョン等の別個のデバイス上に提示されてもよい。クライアント1410は、オプションとして、複数のゲーム・プレイヤーをサポートするように構成される。例えば、ゲーム・コンソールは、同時に二人、三人、四人以上のプレイヤーをサポートするように構成されてもよい。これらのプレイヤーの各人は、別個のビデオ・ストリームを受信してもよい。または、単一のビデオ・ストリームが、各プレイヤーに対して特別に生成された、例えば、各プレイヤーの視点に基づいて生成されたフレームの領域を含んでもよい。クライアント1410は、オプションとして、地理的に分散される。ゲーム・システム1400に含まれるクライアントの数は、1または2から数千、数万、あるいはそれ以上と、広範囲に変化してもよい。本明細書で使用する用語「ゲーム・プレイヤー」は、ゲームを行う人を指し、用語「ゲームプレイ・デバイス」は、ゲームを行うために使用されるデバイスを指す。いくつかの実施形態におけるゲームプレイ・デバイスは、ユーザーへゲーム体験を提供するために共作用する複数のコンピューティング・デバイスを指してもよい。例えば、ゲーム・コンソール及びHMDは、HMDを介して表示されるゲームを提供するために、ビデオ・サーバ・システム1420と共作用してもよい。一つの実施形態におけるゲーム・コンソールは、ビデオ・サーバ・システム1420からビデオ・ストリームを受信する。ゲーム・コンソールは、描画のためのHMDへ、ビデオ・ストリームを転送する、あるいはビデオ・ストリームを更新する。
クライアント1410は、ネットワーク1415を介してビデオ・ストリームを受信するように構成される。ネットワーク1415は、任意の通信網でもよい。電話機回路網、インターネット、無線ネットワーク、電力線ネットワーク、ローカル・エリア・ネットワーク、広域ネットワーク、構内ネットワーク及び/または同等のものを含む。典型的実施形態におけるビデオ・ストリームは、例えばTCP/IPまたはUDP/IP等の標準プロトコルで通信される。択一的に、ビデオ・ストリームは、専用規格を介して通信される。
クライアント1410の典型的実施例は、プロセッサ、不揮発性メモリ、ディスプレイ、復号化ロジック、ネットワーク通信機能及び入力デバイスからなるパーソナル・コンピュータである。復号化ロジックは、ハードウェア、ファームウェア、及び/またはコンピュータ可読媒体に保存されたソフトウェアを含んでもよい。ビデオ・ストリームを復号化(及び符号化)するシステムは、本技術において周知であり、使用する特定な符号化体系に応じて異なる。
クライアント1410は、必須ではないが、さらに、受信ビデオを修正するよう構成されたシステムを含んでもよい。例えば、クライアントは、更なるレンダリングを実行する、一つのビデオ画像をもう一つのビデオ画像上に重ねる、ビデオ画像をトリミングする及び/または同等の作業が可能なよう構成されてもよい。例えば、クライアント1410は、I−フレーム、P−フレーム及びB−フレーム等の、種々のタイプのビデオ・フレームを受信し、これらのフレームをユーザーへの表示のための画像へ処理するよう構成されてもよい。いくつかの実施形態においては、クライアント1410のメンバーは、ビデオ・ストリームに対する更なるレンダリング、陰影付け、三次元への変換などの操作を実行するよう構成される。クライアント1410のメンバーは、オプションとして、複数のオーディオまたはビデオ・ストリームを受信するように構成される。クライアント1410の入力デバイスは、例えば、片手ゲーム・コントローラ、両手ゲーム・コントローラ、ジェスチャー認識システム、凝視認識システム、音声認識システム、キーボード、ジョイスティック、ポインティングデバイス、フォースフィードバック・デバイス、運動及び/または位置検知デバイス、マウス、タッチスクリーン、神経インターフェイス、カメラ、未開発の入力デバイス及び/または同等のものを含んでもよい。
クライアント1410が受信するビデオ・ストリーム(及び、オプションとしてオーディオ・ストリーム)は、ビデオ・サーバ・システム1420によって生成されて提供される。さらに本明細書の他の箇所で説明するように、このビデオ・ストリームはビデオ・フレームを含む(及び、オーディオ・ストリームはオーディオ・フレームを含む)。ビデオ・フレームは、ユーザーへ表示される画像に意味のある貢献をするよう(例えば、適切なデータ構造内にピクセル情報を含むよう)構成される。本明細書で使用する用語「ビデオ・フレーム」は、ユーザーへ表示される画像に、例えば影響を与え、貢献するように構成される情報を主に含むフレームを指す。「ビデオ・フレーム」に関する本明細書の教示の大部分は、「オーディオ・フレーム」にも適用できる。
クライアント1410は、典型的に、ユーザーからの入力を受信するように構成される。これらの入力は、ビデオゲームの状態を変化させる、あるいは別の場合ではゲームプレイに影響を及ぼすように構成されたゲーム・コマンドを含んでもよい。ゲーム・コマンドは、入力デバイスを使用して受信できる、及び/または、クライアント1410上で実行中の命令を演算処理することによって自動的に生成されてもよい。受信ゲーム・コマンドは、ネットワーク1415を介して、クライアント1410からビデオ・サーバ・システム1420及び/またはゲーム・サーバ1425へ通信される。例えば、いくつかの実施形態におけるゲーム・コマンドは、ビデオ・サーバ・システム1420を介してゲーム・サーバ1425へ通信される。いくつかの実施形態においては、ゲーム・コマンドの別個のコピーが、クライアント1410から、ゲーム・サーバ1425とビデオ・サーバ・システム1420へ通信される。ゲーム・コマンドの通信は、オプションとして、コマンドの独自性に依存する。ゲーム・コマンドは、オプションとして、クライアント1410Aから、クライアント1410Aへオーディオまたはビデオ・ストリームを提供するために使用されるチャネルとは異なる経路または通信チャネルを介して通信される。
ゲーム・サーバ1425は、オプションとして、ビデオ・サーバ・システム1420とは異なる実体によって作動させる。例えば、ゲーム・サーバ1425は、マルチプレイヤー・ゲームの発行者によって操作されてもよい。この実施例においては、ビデオ・サーバ・システム1420は、オプションとして、ゲーム・サーバ1425によってクライアントとして認識される。また、オプションとして、ゲーム・サーバ1425の視点から、従来技術によるゲーム・エンジンを実行している従来技術のクライアントに認識されるように構成される。ビデオ・サーバ・システム1420とゲーム・サーバ1425との間の通信は、オプションとして、ネットワーク1415を介して行われる。そのように、ゲーム・サーバ1425は、ゲーム状態情報を複数のクライアントへ送信する従来技術によるマルチプレイヤー・ゲーム・サーバであってもよい。それらクライアントの一つが、ゲーム・サーバ・システム1420である。ビデオ・サーバ・システム1420は、同時にゲーム・サーバ1425の複数の実例と通信するように構成されていてもよい。例えば、ビデオ・サーバ・システム1420は、異なるユーザーへ複数の異なるビデオゲームを提供するように構成できる。これらの異なるビデオゲームの各々は、異なるゲーム・サーバ1425によってサポートされ、及び/または異なる実体によって公開されてもよい。いくつかの実施形態においては、ビデオ・サーバ・システム1420の地理的に分布する複数の実体が、複数の異なるユーザーへゲーム・ビデオを提供するように構成される。ビデオ・サーバ・システム1420のこれらの実体の各々は、ゲーム・サーバ1425の同等な実体と通信する状態にあってもよい。ビデオ・サーバ・システム1420と一つ以上のゲーム・サーバ1425との間の通信は、オプションとして、専用通信チャネルを介して行われる。例えば、ビデオ・サーバ・システム1420は、これらの二つのシステム間での通信専用高帯域チャネルを介して、ゲーム・サーバ1425へ結合されてもよい。
ビデオ・サーバ・システム1420は、少なくとも、ビデオ・ソース1430、入出力デバイス1445、プロセッサ1450と非一時的ストレージ1455からなる。ビデオ・サーバ・システム1420は、一つのコンピューティング・デバイスを含んでも、あるいは複数のコンピューティング・デバイス間に分布されてもよい。これらのコンピューティング・デバイスは、オプションとして、ローカル・エリア・ネットワーク等の通信システムを介して結合される。
ビデオ・ソース1430は、例えば、ストリーミング・ビデオ、あるいは動画を形成する一連のビデオ・フレーム等の、ビデオ・ストリームを提供するように構成される。いくつかの実施形態におけるビデオ・ソース1430は、ビデオゲーム・エンジン及びレンダリング・ロジックを含む。ビデオゲーム・エンジンは、プレイヤーからゲーム・コマンドを受信し、受信コマンドに基づきビデオゲームの状態のコピーを維持するよう構成される。このゲーム状態は、ゲーム環境内のオブジェクトの位置と典型的に視点を含む。ゲーム状態は、また、オブジェクトの特性、画像、色及び/またはテクスチャを含んでもよい。
ゲーム状態は、典型的に、ゲーム・ルールと、移動、回転、攻撃、焦点設定、インタラクション、使用及び/または同等のものなどのゲーム・コマンドに基づいて維持される。ゲーム・エンジンの一部は、オプションとして、ゲーム・サーバ1425内に配置される。ゲーム・サーバ1425は、地理的に分散されたクライアントを使用している複数のプレイヤーから受信されるゲーム・コマンドに基づくゲーム状態のコピーを維持してもよい。これらのケースにおけるゲーム状態は、ゲーム・サーバ1425によってビデオ・ソース1430へ提供され、そこにゲーム状態のコピーが保存され、レンダリングが実行される。ゲーム・サーバ1425は、ネットワーク1415を介してクライアント1410から直接的にゲーム・コマンドを受信してもよい、及び/または、ビデオ・サーバ・システム1420を介してゲーム・コマンドを受信してもよい。
ビデオ・ソース1430は、典型的に、レンダリング・ロジック、例えば、ハードウェア、ファームウェア、及び/またはストレージ1455等のコンピュータ可読媒体に保存されたソフトウェアを含む。このレンダリング・ロジックは、ゲーム状態に基づき、ビデオ・ストリームのビデオ・フレームを作成するように構成される。レンダリング・ロジックのすべてまたは一部は、オプションとして、グラフィック処理装置(GPU)内に配置される。レンダリング・ロジックは、典型的に、ゲーム状態及び視点に基づき、オブジェクト間の三次元空間関係を決定するよう、及び/または適切なテクスチャ等を適用するよう構成された処理ステージを含む。レンダリング・ロジックは、生ビデオを生成する。生ビデオは、通常、クライアント1410への通信の前に符号化される。例えば、生ビデオは、アドビ・フラッシュ(商標)規格、.wav、H.264、H.263、On2、VP6、VC−1、WMA、Huffyuv、Lagarith、MPG−x.Xvid.FFmpeg、x264、VP6−8、リアルビデオ、mp3等に従って符号化されてもよい。符号化処理は、ビデオ・ストリームを生成する。ビデオ・ストリームは、オプションとして、遠隔デバイス上のデコーダへの送達のためにパッケージ化される。ビデオ・ストリームは、フレーム・サイズ及びフレーム率によって特徴づけられる。他の任意のフレーム・サイズを使用してもよいが、典型的フレーム・サイズは、800x600、1280x720(例えば、720p)、1024x768を含む。フレーム率は、秒単位のビデオ・フレーム数である。ビデオ・ストリームは、異なるタイプのビデオ・フレームを含んでもよい。例えば、H.264規格は、「P」フレーム及び「I」フレームを含む。I−フレームは、ディスプレイ・デバイス上のすべてのマクロ・ブロック/ピクセルをリフレッシュする情報を含むが、P−フレームは、それらのサブセットをリフレッシュする情報を含む。P−フレームは、典型的に、データ・サイズがI−フレームよりも小さい。本明細書で使用する用語「フレーム・サイズ」は、フレーム内のピクセル数を指す。用語「フレーム・データ・サイズ」は、フレームを保存するために必要なバイト数を指す。
代替実施形態におけるビデオ・ソース1430は、カメラ等のビデオ記録デバイスを含む。このカメラは、コンピュータ・ゲームのビデオ・ストリーム内に含むことが可能な遅延ビデオまたはライブ・ビデオを生成するために使用されてもよい。結果として生じるビデオ・ストリームは、オプションとして、描画画像と、スチルまたはビデオ・カメラを使用して記録される画像を含む。ビデオ・ソース1430は、また、ビデオ・ストリームに含まれる以前に記録されたビデオを保存するように構成された記憶デバイスを含んでもよい。ビデオ・ソース1430は、オブジェクト、例えば、人の運動または位置を検出するように構成された運動または位置感知デバイス、及びゲーム状態を判定するよう、あるいは検出された運動及び/または配置に基づくビデオを生成するように構成されたロジックを含んでもよい。
ビデオ・ソース1430は、オプションとして、他のビデオ上に配置されるように構成されたオーバレイを提供するように構成される。例えば、これらのオーバレイは、コマンド・インターフェイス、ログイン・コマンド、ゲーム・プレイヤーへのメッセージ、他のゲーム・プレイヤーの画像、他のゲーム・プレイヤーのビデオ・フィード(例えば、ウェブカム・ビデオ)を含んでもよい。タッチスクリーン・インターフェイスまたは凝視検出インターフェイスを含むクライアント1410Aの実施形態におけるオーバレイは、仮想キーボード、ジョイスティック、タッチパッド及び/または同等のものを含んでもよい。オーバレイの一つの実施例においては、プレイヤーの音声が、オーディオ・ストリーム上に重ねられる。ビデオ・ソース1430は、オプションとして、さらに一つ以上のオーディオ・ソースを含む。
ビデオ・サーバ・システム1420が、複数のプレイヤーからの入力に基づきゲーム状態を維持するように構成される実施形態においては、各プレイヤーが、視界の位置及び方向からなる異なる視点を持ってもよい。ビデオ・ソース1430は、オプションとして、各プレイヤーに対して、彼らの視点に基づき別個のビデオ・ストリームを提供するように構成される。さらに、ビデオ・ソース1430は、異なるフレーム・サイズ、フレーム・データ・サイズ、及び/またはクライアント1410の各々への符号化を提供するように構成されてもよい。ビデオ・ソース1430は、オプションとして、三次元ビデオを提供するように構成される。
入出力デバイス1445は、ビデオ・サーバ・システム1420のために、ビデオ、コマンド、情報要求、ゲーム状態、凝視情報、デバイス運動、デバイス位置、ユーザーの運動、クライアントの識別、プレイヤーの識別、ゲーム・コマンド、セキュリティ情報、オーディオ及び/または同等のものの情報を送信及び/または受信するように構成される。入出力デバイス1445は、典型的に、ネットワーク・カードまたはモデム等の通信ハードウェアを含む。入出力デバイス1445は、ゲーム・サーバ1425、ネットワーク1415及び/またはクライアント1410と通信するように構成される。
プロセッサ1450は、ロジック、例えば、本明細書で考察するビデオ・サーバ・システム1420の種々の構成要素内に含まれるソフトウェアを実行するように構成される。例えば、プロセッサ1450は、ビデオ・ソース1430、ゲーム・サーバ1425及び/またはクライアント・クォリファイア1460の機能を実行するために、ソフトウェア命令でプログラムされてもよい。ビデオ・サーバ・システム1420は、オプションとして、プロセッサ1450の複数の実体を含む。プロセッサ1450は、ビデオ・サーバ・システム1420によって受信されたコマンドを実行するために、あるいは本明細書で考察するゲーム・システム1400の種々のエレメントの作動を調整するために、ソフトウェア命令でプログラムされてもよい。プロセッサ1450は、一つ以上のハードウェア・デバイスを含んでもよい。プロセッサ1450は電子プロセッサである。
ストレージ1455は、非一時的アナログ及び/またはデジタル記憶デバイスを含む。例えば、ストレージ1455は、ビデオ・フレームを保存するように構成されたアナログ記憶デバイスを含んでもよい。ストレージ1455は、コンピュータ可読デジタル・ストレージ、例えば、ハードディスク、光ドライブまたはソリッドステート・ストレージを含んでもよい。ストレージ1415は、ビデオ・フレーム、人工フレーム、ビデオ・フレーム及び人工フレームの両方を含むビデオ・ストリーム、オーディオ・フレーム、オーディオ・ストリーム及び/または同等のものを保存するように(例えば、適切なデータ構造またはファイル・システムとして)構成される。ストレージ1455は、オプションとして、複数のデバイス間に分散される。いくつかの実施形態におけるストレージ1455は、本明細書の他の箇所で考察するビデオ・ソース1430のソフトウェア・コンポーネントを保存するように構成される。これらのコンポーネントは、必要に応じて供給される準備が整ったフォーマットで記憶されてもよい。
ビデオ・サーバ・システム1420は、オプションとして、さらにクライアント・クォリファイア1460からなる。クライアント・クォリファイア1460は、クライアント1410Aまたは1410B等のクライアントの機能を遠隔で判定するように構成される。これらの機能は、クライアント1410Aそのものの機能と、クライアント1410A及びビデオ・サーバ・システム1420間の一つ以上の通信チャネルの機能との両方を含むことができる。例えば、クライアント・クォリファイア1460は、ネットワーク1415を介して通信チャネルをテストするように構成されてもよい。
クライアント・クォリファイア1460は、クライアント1410Aの機能を手動で、あるいは自動的に判定する(例えば、発見する)ことができる。手動判定は、クライアント1410Aのユーザーと通信し、ユーザーが機能を提供するよう依頼することを含む。例えば、いくつかの実施形態におけるクライアント・クォリファイア1460は、クライアント1410Aのブラウザ内に画像、テキスト及び/または同等のものを表示するように構成される。一つの実施形態におけるクライアント1410Aは、ブラウザを含むHMDである。もう一つの実施形態におけるクライアント1410Aは、ブラウザを持つゲーム・コンソールであり、ブラウザは、HMD上に表示されてもよい。それら表示オブジェクトは、ユーザーが、クライアント1410Aに関するオペレーティング・システム、プロセッサ、ビデオ・デコーダ・タイプ、ネットワーク接続タイプ、ディスプレイ解像度などの情報を入力するよう要求する。ユーザーによって入力された情報は、クライアント・クォリファイア1460へ送信される。
自動判定は、例えば、クライアント1410A上のエージェントを実行することによって、及び/またはテスト・ビデオをクライアント1410Aへ送信することによって行ってもよい。エージェントは、ウェブページに埋められた、あるいはアドオンとしてインストールされたジャバ・スクリプト等の命令を演算処理するよう構成してもよい。エージェントは、オプションとして、クライアント・クォリファイア1460によって提供される。種々の実施形態におけるエージェントは、クライアント1410Aの処理能力、クライアント1410Aの復号化及び表示機能、クライアント1410A及びビデオ・サーバ・システム1420間の通信チャネルの遅延時間信頼性及びバンド幅、クライアント1410Aのディスプレイ・タイプ、クライアント1410A上に存在するファイアウォール、クライアント1410Aのハードウェア、クライアント1410A上で実行中のソフトウェア、クライアント1410A内のレジストリ・エントリ等を検出可能である。
クライアント・クォリファイア1460は、ハードウェア、ファームウェア及び/またはコンピュータ可読媒体に保存されたソフトウェアを含む。クライアント・クォリファイア1460は、オプションとして、ビデオ・サーバ・システム1420の一つ以上の他のエレメントから分離したコンピューティング・デバイス上に配置される。例えば、いくつかの実施形態におけるクライアント・クォリファイア1460は、クライアント1410とビデオ・サーバ・システム1420の複数の実体との間の通信チャネルの特性を判定するように構成される。これらの実施形態におけるクライアント・クォリファイアによって発見された情報は、クライアント1410の一つへストリーミング・ビデオを送達するのに、ビデオ・サーバ・システム1420のどの実体が最適なのかを判定するために使用できる。
理解すべきことは、本明細書に定義する種々の実施形態が、本明細書に開示の種々の特徴を用いて特定な実施例へ結合または組み立てられてもよいことである。したがって、開示の実施例は、種々の実施に対する制限ではなく、単に可能ないくつかの実施例であり、種々のエレメントを結合させて、より多くの実施を定義することは可能である。いくつかの実施例は、開示の実施例、あるいは同等な実施例の趣旨を逸脱しない範囲で、より少ないエレメントを含んでもよい。
本発明の実施形態は、携帯用デバイス、マイクロプロセッサ・システム、マイクロプロセッサに基づくまたはプログラム可能な家電、ミニコンピュータ、メインフレーム・コンピュータ等を含む種々のコンピュータ・システム構成で実践されてもよい。本発明は、有線または無線ネットワークを介してリンクされた遠隔処理デバイスによってタスクが実行される分散コンピューティング環境内で実践することもできる。
上記の実施形態に関して理解すべきことは、本発明が、コンピュータ・システム内に記憶されたデータを伴うコンピュータによる種々の演算処理を利用できることである。これらの演算処理は、物理量の物理的操作を必要とするものである。本発明の一部を形成する本明細書で説明の演算処理のいずれもが、有用な機械処理である。本発明は、また、これらの演算処理を実行するためのデバイスまたは装置に関する。装置は、必要目的に対して特別に構築できる。あるいは装置は、コンピュータ内に記憶されたコンピュータ・プログラムによって選択的に作動または構成される汎用コンピュータであってもよい。特に、種々の汎用機が、本明細書の教示に従って記述されたコンピュータ・プログラムと一緒に使用できる。あるいは、必要な処理を実行するために、より専用な装置を構築するのが、より便利な場合もある。
本発明は、コンピュータ可読媒体上のコンピュータ可読コードとして実施することもできる。コンピュータ可読媒体は、データを保存できる任意のデータ記憶デバイスでもあり、データは、その後、コンピュータ・システムによって読むことができる。コンピュータ可読媒体の実施例は、ハードディスク、ネットワーク接続ストレージ(NAS)、読取り専用メモリ、ランダムアクセスメモリ、CD−ROM、CD−R、CD−RW、磁気テープ、他の光学及び非光学データ記憶デバイスを含む。コンピュータ可読媒体は、ネットワーク結合型コンピュータ・システムに分布するコンピュータ可読有形媒体を含むことができるため、コンピュータ可読コードは、分散様式で保存及び実行される。
方法オペレーションは、特定な順序で説明されたが、理解すべきことは、他の管理操作が、オペレーションの間に実行されてもよい、あるいはオペレーションが、僅かに異なる時間に行われるよう調整されてもよい、あるいはオーバレイ・オペレーションの処理が所望のやり方で実行される限り、オペレーションが、処理に関連して種々の間隔で処理オペレーションが実行されることを可能にするシステム内に分散させてもよいことである。
前述の発明は、明確に理解できるよう詳細に説明したが、添付の請求項の範囲内で、特定な変更及び修正が実践できることは明らかである。したがって、本実施形態は、説明的なもので制限するものではない、と見なすべきである。また、本発明は、本明細書に記載の詳細に限定されるものではなく、添付の請求項の範囲内及び同等のもので修正されてもよい。

Claims (17)

  1. インタラクティブ環境を見るための頭部装着ディスプレイであって、
    ヘッド装着部と、
    前記ヘッド装着部に結合されたビューイング・モジュールであって、画像コンテンツを描画するよう構成されるスクリーン内へのビューポートを持つ内側と、外側ハウジングを含む前記ビューイング・モジュールと、
    コンピュータ・システムとのデータ交換のための通信モジュールと、
    前記スクリーン上に画像コンテンツを描画するための画像データを処理する画像処理モジュールと、
    前記ビューイング・モジュールの前記外側ハウジングに統合された複数の照明素子であって、カメラによる前記頭部装着ディスプレイの画像追跡のために配置される前記複数の照明素子と、
    前記複数の照明素子をアクティブまたは非アクティブに制御するための照明ロジックとを備え、
    前記複数の照明素子は、前記頭部装着ディスプレイの位置および方位の特定を可能にするためにパターンで配置されており、前記カメラによってキャプチャされた画像の分析から得られる前記位置および前記方位は、前記スクリーン上に描画されたときの前記インタラクティブ環境の現在のビューを更新するための入力として用いられ、
    前記照明ロジックは、ゲームプレイの激しさに応じて前記複数の照明素子の輝度または点滅の頻度を制御する、頭部装着ディスプレイ。
  2. 前記通信モジュールによって交換されるデータが、入力データ、画像データ、オーディオ・データ及び慣性データを含む、請求項1に記載の頭部装着ディスプレイ。
  3. 前記複数の照明素子が、発光ダイオード(LED)または赤外線(IR)エミッタとして定義される、請求項1に記載の頭部装着ディスプレイ。
  4. 前記LEDが、一つ以上の色を照らし出すように定義され、前記一つ以上の色のイルミネーションが、照明ロジックによって制御される、請求項3に記載の頭部装着ディスプレイ。
  5. 前記外側ハウジングが、部分的に曲がった形状を持ち、前記複数の照明素子が、前記部分的に曲がった形状の周りにパターンで配置される、請求項1に記載の頭部装着ディスプレイ。
  6. 前記複数の照明素子が、二つ以上の形状またはサイズを含む、請求項1に記載の頭部装着ディスプレイ。
  7. 前記複数の照明素子の追加のものが、前記ヘッド装着部へ結合される、請求項1に記載の頭部装着ディスプレイ。
  8. インタラクティブ環境を見るための頭部装着ディスプレイであって、
    ユーザーの頭に装着するためのヘッド装着部と、
    前記ヘッド装着部へ結合されてユーザーの眼前に配置されるよう構成されたビューイング・モジュールとを含み、前記ビューイング・モジュールが、
    画像コンテンツを描画するよう構成されるスクリーン内へのビューポートを持つ内側と、
    前記内側を包囲し、前面部、第一側面部及び第二側面部を持つ外側ハウジングと、
    入力データ、画像データ、オーディオ・データ及び慣性データを含むデータをコンピュータ・システムとデータ交換するための通信モジュールと、
    前記スクリーン上に前記画像コンテンツを描画するための画像データを処理する画像処理モジュールと、
    前記ビューイング・モジュールの前記外側ハウジングに統合された複数の照明素子であって、カメラによる前記頭部装着ディスプレイの画像追跡のために配置される前記複数の照明素子と、
    前記複数の照明素子の特定なものをアクティブ及び非アクティブへ制御するための照明ロジックとを備え、
    前記複数の照明素子は、前記頭部装着ディスプレイの位置および方位の特定を可能にするために前記前面部、前記第一側面部及び前記第二側面部上のパターンで配置されており、前記カメラによってキャプチャされた画像の分析から得られる前記位置および前記方位は、前記スクリーン上に描画されたときの前記インタラクティブ環境の現在のビューを更新するための入力として用いられ、
    前記照明ロジックは、ゲームプレイの激しさに応じて前記複数の照明素子の輝度または点滅の頻度を制御する、頭部装着ディスプレイ。
  9. 前記複数の照明素子の第一の素子が、前記前面部の左側に配置され、前記複数の照明素子の第二の素子が、前記前面部の右側に配置される、請求項8に記載の頭部装着ディスプレイ。
  10. 前記複数の照明素子の前記第一の素子が、前記前面部と前記第一側面部とに部分的に位置する二部形状を持ち、前記複数の照明素子の前記第二の素子が、前記前面部と前記第二側面部とに部分的に位置する二部形状を持つ、請求項9に記載の頭部装着ディスプレイ。
  11. 前記通信モジュールが、前記コンピュータ・システムとの有線接続または無線接続のいずれかである、請求項8に記載の頭部装着ディスプレイ。
  12. 前記慣性データが、前記ユーザーが着用したときの検出運動に応答して前記頭部装着ディスプレイによって生成される、請求項8に記載の頭部装着ディスプレイ。
  13. 前記入力データが、前記ユーザーが着用したときのユーザー入力に応答する前記頭部装着ディスプレイによって生成される、請求項8に記載の頭部装着ディスプレイ。
  14. 前記オーディオ・データ及び前記画像データが、前記頭部装着ディスプレイで描画されるインタラクティブ・メディア・コンテンツに関連付けられる、請求項8に記載の頭部装着ディスプレイ。
  15. 前記インタラクティブ・メディア・コンテンツが、ゲーム・データ、ビデオ・データ、インターネット・ナビゲーション・データ、ゲーム・データとインターネット・データとの組み合わせ、ソーシャル・メディア・データ、あるいはそれらの組み合わせを含む、請求項14に記載の頭部装着ディスプレイ。
  16. インタラクティブ環境を見るための頭部装着ディスプレイであって、
    ヘッド装着部と、
    前記ヘッド装着部へ結合されたビューイング・モジュールであって、画像コンテンツを描画するよう構成されるスクリーン内へのビューポートを持つ内側部分と外側ハウジングを含む前記ビューイング・モジュールと、
    前記ビューイング・モジュールの前記外側ハウジングに統合された複数の照明素子であって、カメラによる前記頭部装着ディスプレイの画像追跡のために配置された前記複数の照明素子と、
    前記複数の照明素子をアクティブまたは非アクティブに制御するための照明ロジックとを備え、
    前記複数の照明素子は、前記頭部装着ディスプレイの位置および方位の特定を可能にするために部分的に曲がった形状を持つ前記外側ハウジング上のパターンで配置されており、前記カメラによる前記複数の照明素子の一部または全部のキャプチャされた画像の分析から得られる前記位置および前記方位は、前記スクリーン上に描画されたときの前記インタラクティブ環境の現在のビューを更新するための入力として用いられ、
    前記複数の照明素子の第一の素子が、前記外側ハウジングの前面部と前記外側ハウジングの左側部とに部分的に位置する二部形状を持ち、前記複数の照明素子の第二の素子が、前記外側ハウジングの前面部と前記外側ハウジングの右側部とに部分的に位置する二部形状を持ち、
    前記照明ロジックは、ゲームプレイの激しさに応じて前記複数の照明素子の輝度または点滅の頻度を制御する、頭部装着ディスプレイ。
  17. さらに、コンピュータ・システムとのデータ交換のための通信モジュール、及び前記スクリーン上に前記画像コンテンツを描画するための画像データを処理する画像処理モジュールを備える、請求項16に記載の頭部装着ディスプレイ。
JP2016517974A 2013-06-09 2014-06-04 頭部装着ディスプレイ Active JP6313432B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201361832918P 2013-06-09 2013-06-09
US61/832,918 2013-06-09
PCT/US2014/040959 WO2014200779A2 (en) 2013-06-09 2014-06-04 Head mounted display

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017070090A Division JP6408634B2 (ja) 2013-06-09 2017-03-31 頭部装着ディスプレイ

Publications (2)

Publication Number Publication Date
JP2016527601A JP2016527601A (ja) 2016-09-08
JP6313432B2 true JP6313432B2 (ja) 2018-04-18

Family

ID=51136796

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2016517974A Active JP6313432B2 (ja) 2013-06-09 2014-06-04 頭部装着ディスプレイ
JP2017070090A Active JP6408634B2 (ja) 2013-06-09 2017-03-31 頭部装着ディスプレイ

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2017070090A Active JP6408634B2 (ja) 2013-06-09 2017-03-31 頭部装着ディスプレイ

Country Status (6)

Country Link
US (5) US10173129B2 (ja)
EP (1) EP3008549B1 (ja)
JP (2) JP6313432B2 (ja)
CN (1) CN105359063B (ja)
TW (1) TWI555561B (ja)
WO (1) WO2014200779A2 (ja)

Families Citing this family (187)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150309316A1 (en) 2011-04-06 2015-10-29 Microsoft Technology Licensing, Llc Ar glasses with predictive control of external device based on event input
CN102906623A (zh) 2010-02-28 2013-01-30 奥斯特豪特集团有限公司 交互式头戴目镜上的本地广告内容
US10180572B2 (en) 2010-02-28 2019-01-15 Microsoft Technology Licensing, Llc AR glasses with event and user action control of external applications
US20120249797A1 (en) 2010-02-28 2012-10-04 Osterhout Group, Inc. Head-worn adaptive display
US9041739B2 (en) * 2012-01-31 2015-05-26 Microsoft Technology Licensing, Llc Matching physical locations for shared virtual experience
US20150212647A1 (en) * 2012-10-10 2015-07-30 Samsung Electronics Co., Ltd. Head mounted display apparatus and method for displaying a content
US9110503B2 (en) 2012-11-30 2015-08-18 WorldViz LLC Precision position tracking device
US10228242B2 (en) 2013-07-12 2019-03-12 Magic Leap, Inc. Method and system for determining user input based on gesture
DE102013214148A1 (de) * 2013-07-18 2015-01-22 Technische Universität Dresden Verfahren und Vorrichtung zur haptischen Interaktion mit visualisierten Daten
US9555337B2 (en) * 2013-09-16 2017-01-31 Disney Enterprises, Inc. Method for tracking physical play objects by virtual players in online environments
US10423226B2 (en) * 2014-02-07 2019-09-24 Ultrahaptics IP Two Limited Systems and methods of providing haptic-like feedback in three-dimensional (3D) sensory space
JP6307627B2 (ja) 2014-03-14 2018-04-04 株式会社ソニー・インタラクティブエンタテインメント 空間感知を備えるゲーム機
US11030778B2 (en) * 2014-03-31 2021-06-08 Healthy.Io Ltd. Methods and apparatus for enhancing color vision and quantifying color interpretation
US9392212B1 (en) 2014-04-17 2016-07-12 Visionary Vr, Inc. System and method for presenting virtual reality content to a user
DE102014006776A1 (de) * 2014-05-08 2015-11-12 Audi Ag Bedienvorrichtung für ein elektronisches Gerät
US10600245B1 (en) 2014-05-28 2020-03-24 Lucasfilm Entertainment Company Ltd. Navigating a virtual environment of a media content item
US9804257B2 (en) * 2014-11-13 2017-10-31 WorldViz LLC Methods and systems for an immersive virtual reality system using multiple active markers
US10495726B2 (en) * 2014-11-13 2019-12-03 WorldViz, Inc. Methods and systems for an immersive virtual reality system using multiple active markers
US11366521B2 (en) * 2014-11-17 2022-06-21 Thika Holdings Llc Device for intuitive dexterous touch and feel interaction in virtual worlds
US10073516B2 (en) * 2014-12-29 2018-09-11 Sony Interactive Entertainment Inc. Methods and systems for user interaction within virtual reality scene using head mounted display
KR101632140B1 (ko) * 2015-01-15 2016-06-21 김진태 초근거리를 볼 수 있는 교정 렌즈 어셈블리
US9846968B2 (en) * 2015-01-20 2017-12-19 Microsoft Technology Licensing, Llc Holographic bird's eye view camera
US9911232B2 (en) 2015-02-27 2018-03-06 Microsoft Technology Licensing, Llc Molding and anchoring physically constrained virtual environments to real-world environments
JP6693718B2 (ja) * 2015-02-27 2020-05-13 株式会社ソニー・インタラクティブエンタテインメント 表示制御プログラム、表示制御装置、及び表示制御方法
JP6788327B2 (ja) 2015-02-27 2020-11-25 株式会社ソニー・インタラクティブエンタテインメント 表示制御プログラム、表示制御装置、及び表示制御方法
WO2016136794A1 (ja) * 2015-02-27 2016-09-01 株式会社ソニー・インタラクティブエンタテインメント 表示制御プログラム、表示制御装置、及び表示制御方法
US20160259453A1 (en) * 2015-03-06 2016-09-08 Sony Computer Entertainment America Llc Dynamic adjustment of cloud game data streams to output device and network quality
GB2536650A (en) * 2015-03-24 2016-09-28 Augmedics Ltd Method and system for combining video-based and optic-based augmented reality in a near eye display
DE102015003883A1 (de) * 2015-03-26 2016-09-29 Audi Ag Kraftfahrzeugsimulationsanordnung zur Simulation einer virtuellen Umgebung mit einem virtuellen Kraftfahrzeug und Verfahren zur Simulation einer virtuellen Umgebung
JP6691351B2 (ja) * 2015-03-31 2020-04-28 株式会社バンダイナムコエンターテインメント プログラム及びゲームシステム
KR20160138806A (ko) * 2015-05-26 2016-12-06 엘지전자 주식회사 글래스타입 단말기 및 그 제어방법
US9836117B2 (en) 2015-05-28 2017-12-05 Microsoft Technology Licensing, Llc Autonomous drones for tactile feedback in immersive virtual reality
US9898864B2 (en) 2015-05-28 2018-02-20 Microsoft Technology Licensing, Llc Shared tactile interaction and user safety in shared space multi-person immersive virtual reality
US20180169517A1 (en) * 2015-06-01 2018-06-21 Thomson Licensing Reactive animation for virtual reality
CN107850654B (zh) * 2015-06-09 2022-09-27 诺基亚技术有限公司 引发主动扫描的执行
US9665170B1 (en) * 2015-06-10 2017-05-30 Visionary Vr, Inc. System and method for presenting virtual reality content to a user based on body posture
CN107735152B (zh) * 2015-06-14 2021-02-02 索尼互动娱乐股份有限公司 用于虚拟现实(vr)观看的扩展视野重新渲染
US9520002B1 (en) 2015-06-24 2016-12-13 Microsoft Technology Licensing, Llc Virtual place-located anchor
KR20170004608A (ko) 2015-07-03 2017-01-11 엘지전자 주식회사 스마트 디바이스 및 이의 제어방법
BR112018002047A2 (pt) 2015-07-31 2018-09-18 Hsni Llc sistema para a geração de um conteúdo de vídeo, e método para a geração de conteúdo de vídeo
US20170053545A1 (en) * 2015-08-19 2017-02-23 Htc Corporation Electronic system, portable display device and guiding device
US9901816B2 (en) * 2015-08-24 2018-02-27 Htc Corporation Interactive game system with an HMD and a ground pad
US10139902B2 (en) * 2015-09-16 2018-11-27 Colopl, Inc. Method and apparatus for changing a field of view without synchronization with movement of a head-mounted display
US10382746B1 (en) * 2015-09-22 2019-08-13 Rockwell Collins, Inc. Stereoscopic augmented reality head-worn display with indicator conforming to a real-world object
KR20180057672A (ko) * 2015-09-24 2018-05-30 토비 에이비 눈 추적 가능한 웨어러블 디바이스들
US20170092002A1 (en) * 2015-09-30 2017-03-30 Daqri, Llc User interface for augmented reality system
US10368007B2 (en) 2015-10-08 2019-07-30 Sony Interactive Entertainment Inc. Control apparatus, head-mounted display, control system, control method, and program
JPWO2017064926A1 (ja) * 2015-10-15 2018-08-02 ソニー株式会社 情報処理装置及び情報処理方法
CN105334494B (zh) * 2015-10-22 2017-10-31 浙江大学 一种基于眼镜架的头部运动轨迹射频追踪系统
US10962780B2 (en) * 2015-10-26 2021-03-30 Microsoft Technology Licensing, Llc Remote rendering for virtual images
KR101632156B1 (ko) * 2015-10-27 2016-06-21 김진태 초근거리를 볼 수 있는 교정렌즈
CA2948761A1 (en) * 2015-11-23 2017-05-23 Wal-Mart Stores, Inc. Virtual training system
JP6532393B2 (ja) * 2015-12-02 2019-06-19 株式会社ソニー・インタラクティブエンタテインメント 表示制御装置及び表示制御方法
US10304247B2 (en) 2015-12-09 2019-05-28 Microsoft Technology Licensing, Llc Third party holographic portal
US9851435B2 (en) * 2015-12-14 2017-12-26 Htc Corporation Electronic device and signal generating circuit
US9990689B2 (en) * 2015-12-16 2018-06-05 WorldViz, Inc. Multi-user virtual reality processing
US10037085B2 (en) * 2015-12-21 2018-07-31 Intel Corporation Techniques for real object and hand representation in virtual reality content
US10095928B2 (en) 2015-12-22 2018-10-09 WorldViz, Inc. Methods and systems for marker identification
JP2017119032A (ja) * 2015-12-29 2017-07-06 株式会社バンダイナムコエンターテインメント ゲーム装置及びプログラム
US10908694B2 (en) 2016-02-01 2021-02-02 Microsoft Technology Licensing, Llc Object motion tracking with remote device
US10583361B2 (en) * 2016-02-04 2020-03-10 Disney Enterprises, Inc. Incorporating and coordinating multiple home systems into a play experience
US10067636B2 (en) * 2016-02-09 2018-09-04 Unity IPR ApS Systems and methods for a virtual reality editor
US10616662B2 (en) 2016-02-10 2020-04-07 Disney Enterprises, Inc. Systems and methods to provide video and control signals over an internet protocol communications network
US10788966B2 (en) * 2016-02-10 2020-09-29 Disney Enterprises, Inc. Systems and methods for interacting with a virtual interface
BR112018016726B1 (pt) * 2016-02-18 2023-03-14 Apple Inc Método de processamento de imagem para realidade mista e dispositivo usado na cabeça
US10518172B2 (en) 2016-03-07 2019-12-31 Htc Corporation Accessory management of virtual reality system
US10976809B2 (en) 2016-03-14 2021-04-13 Htc Corporation Interaction method for virtual reality
CN105797366A (zh) * 2016-03-25 2016-07-27 中国传媒大学 一种基于声源定位的头戴式交互音频游戏终端
US10099122B2 (en) 2016-03-30 2018-10-16 Sony Interactive Entertainment Inc. Head-mounted display tracking
CN105912102B (zh) * 2016-03-31 2019-02-05 联想(北京)有限公司 一种信息处理方法和电子设备
FR3057430B1 (fr) * 2016-10-10 2022-02-18 Immersion Dispositif d'immersion dans une representation d'un environnement resultant d'un ensemble d'images
US9823477B1 (en) * 2016-05-02 2017-11-21 Futurewei Technologies, Inc. Head mounted display content capture and sharing
US10242501B1 (en) 2016-05-03 2019-03-26 WorldViz, Inc. Multi-user virtual and augmented reality tracking systems
US10539797B2 (en) 2016-05-06 2020-01-21 Colopl, Inc. Method of providing virtual space, program therefor, and recording medium
JP6262283B2 (ja) * 2016-05-17 2018-01-17 株式会社コロプラ 仮想空間を提供する方法、プログラム、および記録媒体
CN105931272B (zh) * 2016-05-06 2019-04-05 上海乐相科技有限公司 一种运动对象追踪方法及系统
CN105894800A (zh) * 2016-05-10 2016-08-24 杭州联络互动信息科技股份有限公司 一种智能手柄以及设备控制系统
WO2017203750A1 (ja) * 2016-05-25 2017-11-30 株式会社コーエーテクモゲームス ゲーム装置、及びゲーム制御方法
TWI628634B (zh) * 2016-05-25 2018-07-01 國立中央大學 互動式教學系統以及方法
US10146334B2 (en) * 2016-06-09 2018-12-04 Microsoft Technology Licensing, Llc Passive optical and inertial tracking in slim form-factor
US10249084B2 (en) * 2016-06-10 2019-04-02 Microsoft Technology Licensing, Llc Tap event location with a selection apparatus
US10245507B2 (en) 2016-06-13 2019-04-02 Sony Interactive Entertainment Inc. Spectator management at view locations in virtual reality environments
US9792029B1 (en) 2016-06-16 2017-10-17 Waygate, Inc. Authoring of real-time interactive computer graphics content for predictive bi-adaptive streaming
CN106199517A (zh) * 2016-06-30 2016-12-07 成都理想境界科技有限公司 一种定位设备、定位基站、空间定位系统和方法
US10471353B2 (en) * 2016-06-30 2019-11-12 Sony Interactive Entertainment America Llc Using HMD camera touch button to render images of a user captured during game play
WO2018005199A1 (en) 2016-06-30 2018-01-04 Sony Interactive Entertainment Inc. Systems and methods for providing user tagging of content within a virtual scene
CN105974359B (zh) * 2016-06-30 2020-04-24 成都理想境界科技有限公司 一种定位设备、定位基站、空间定位系统及方法
US10769854B2 (en) 2016-07-12 2020-09-08 Tyco Fire & Security Gmbh Holographic technology implemented security solution
CN106200981B (zh) * 2016-07-21 2019-06-28 北京小鸟看看科技有限公司 一种虚拟现实系统及其无线实现方法
CN106249883B (zh) * 2016-07-26 2019-07-30 努比亚技术有限公司 一种数据处理方法及电子设备
CN106383336B (zh) * 2016-08-10 2019-08-20 成都理想境界科技有限公司 一种定位基站和空间定位系统
JP6535641B2 (ja) * 2016-08-23 2019-06-26 株式会社コロプラ 仮想空間に表示されるオブジェクトを制御するための方法および装置、ならびに、当該方法をコンピュータに実行させるためのプログラム
CN106326930A (zh) * 2016-08-24 2017-01-11 王忠民 一种确定虚拟现实中被跟踪物体位置的方法、装置及系统
US20180082477A1 (en) * 2016-09-22 2018-03-22 Navitaire Llc Systems and Methods for Improved Data Integration in Virtual Reality Architectures
WO2018064627A1 (en) * 2016-09-30 2018-04-05 Sony Interactive Entertainment Inc. Wireless head mounted display with differential rendering and sound localization
US10613630B2 (en) * 2016-09-30 2020-04-07 Sony Interactive Entertainment Inc. Temperature controlled headset apparatus
WO2018072593A1 (zh) * 2016-10-21 2018-04-26 北京小鸟看看科技有限公司 虚拟现实系统及其空间定位装置、定位方法
CN106528020B (zh) * 2016-10-26 2019-05-31 腾讯科技(深圳)有限公司 一种视角模式切换方法及终端
GB2555838A (en) * 2016-11-11 2018-05-16 Sony Corp An apparatus, computer program and method
JP6626992B2 (ja) 2016-12-15 2019-12-25 株式会社ソニー・インタラクティブエンタテインメント 情報処理システム、振動制御方法、及びプログラム
WO2018110432A1 (ja) 2016-12-15 2018-06-21 株式会社ソニー・インタラクティブエンタテインメント 情報処理システム、コントローラデバイス、コントローラデバイスの制御方法、及びプログラム
JP6634528B2 (ja) 2016-12-15 2020-01-22 株式会社ソニー・インタラクティブエンタテインメント 振動デバイス、及び制御システム
US10475194B2 (en) * 2016-12-19 2019-11-12 Htc Corporation Method, device, and non-transitory computer readable storage medium for object tracking
GB2558278A (en) * 2016-12-23 2018-07-11 Sony Interactive Entertainment Inc Virtual reality
KR20180075732A (ko) * 2016-12-26 2018-07-05 엘지디스플레이 주식회사 헤드 마운티드 디스플레이 및 그 제어 방법
EP3343242B1 (en) * 2016-12-29 2019-09-04 HTC Corporation Tracking system, tracking device and tracking method
US10212428B2 (en) * 2017-01-11 2019-02-19 Microsoft Technology Licensing, Llc Reprojecting holographic video to enhance streaming bandwidth/quality
US10430647B2 (en) 2017-01-13 2019-10-01 Microsoft Licensing Technology, LLC Tailored illumination profile for articulated hand tracking
US10217186B2 (en) * 2017-02-15 2019-02-26 Htc Corporation Method, virtual reality apparatus and recording medium for displaying fast-moving frames of virtual reality
CN106950541A (zh) * 2017-02-23 2017-07-14 成都理想境界科技有限公司 一种定位系统、定位基站、定位基站网络和定位终端
US20180255285A1 (en) * 2017-03-06 2018-09-06 Universal City Studios Llc Systems and methods for layered virtual features in an amusement park environment
CN106960473B (zh) * 2017-03-27 2019-12-10 北京交通大学 一种行为感知系统及方法
US10403050B1 (en) * 2017-04-10 2019-09-03 WorldViz, Inc. Multi-user virtual and augmented reality tracking systems
WO2018193514A1 (ja) 2017-04-18 2018-10-25 株式会社ソニー・インタラクティブエンタテインメント 振動制御装置
US11145172B2 (en) 2017-04-18 2021-10-12 Sony Interactive Entertainment Inc. Vibration control apparatus
JP6887011B2 (ja) 2017-04-19 2021-06-16 株式会社ソニー・インタラクティブエンタテインメント 振動制御装置
US11458389B2 (en) 2017-04-26 2022-10-04 Sony Interactive Entertainment Inc. Vibration control apparatus
TWI626469B (zh) 2017-04-27 2018-06-11 宏碁股份有限公司 頭戴式顯示器及其控制方法
TWI646449B (zh) * 2017-05-12 2019-01-01 華碩電腦股份有限公司 三維定位系統與方法
US10760931B2 (en) 2017-05-23 2020-09-01 Microsoft Technology Licensing, Llc Dynamic control of performance parameters in a six degrees-of-freedom sensor calibration subsystem
US10281977B2 (en) 2017-05-25 2019-05-07 Acer Incorporated Virtual reality systems with human interface device emulation and related methods
US10307670B2 (en) * 2017-06-12 2019-06-04 Ju-yup Lee Motorcycle simulation controller
WO2018227504A1 (en) 2017-06-15 2018-12-20 Tencent Technology (Shenzhen) Company Limited System and method of customizing a user interface panel based on user's physical sizes
WO2019014392A1 (en) * 2017-07-11 2019-01-17 Specular Theory, Inc. INPUT CONTROLLER AND CORRESPONDING GAME MECHANICS FOR VIRTUAL REALITY SYSTEMS
US10223805B1 (en) * 2017-08-07 2019-03-05 Facebook Technologies, Llc Coded tracking for head-mounted displays
CN111033441B (zh) 2017-08-24 2023-09-12 索尼互动娱乐股份有限公司 振动控制装置
WO2019038888A1 (ja) 2017-08-24 2019-02-28 株式会社ソニー・インタラクティブエンタテインメント 振動制御装置
JP7037567B2 (ja) 2017-08-29 2022-03-16 株式会社ソニー・インタラクティブエンタテインメント 振動制御装置、振動制御方法、及びプログラム
KR102479052B1 (ko) * 2017-08-29 2022-12-20 삼성전자주식회사 복수의 컨트롤러를 이용한 전자 장치의 디스플레이 제어 방법 및 그 장치
JP6340464B1 (ja) * 2017-09-27 2018-06-06 株式会社Cygames プログラム、情報処理方法、情報処理システム、頭部装着型表示装置、情報処理装置
US11861136B1 (en) * 2017-09-29 2024-01-02 Apple Inc. Systems, methods, and graphical user interfaces for interacting with virtual reality environments
US10556185B2 (en) * 2017-09-29 2020-02-11 Sony Interactive Entertainment America Llc Virtual reality presentation of real world space
KR101986808B1 (ko) * 2017-12-12 2019-06-07 주식회사 리얼리티매직 착용형 게임 장치
CN109991740A (zh) * 2017-12-30 2019-07-09 深圳多哚新技术有限责任公司 一种轻薄头戴显示设备
US10623725B2 (en) * 2018-01-03 2020-04-14 Votanic Ltd. 3D glasses incorporating real-time tracking
US10529276B2 (en) * 2018-01-05 2020-01-07 Facebook Technologies, Llc Apparatus, systems, and methods for preventing display flicker
CN108319369B (zh) * 2018-02-01 2021-04-27 网易(杭州)网络有限公司 驾驶交互方法、装置、存储介质及处理器
JP2021512402A (ja) * 2018-02-02 2021-05-13 インターデジタル シーイー パテント ホールディングス マルチビューイング仮想現実ユーザインターフェース
JP6908573B2 (ja) 2018-02-06 2021-07-28 グリー株式会社 ゲーム処理システム、ゲーム処理方法、及びゲーム処理プログラム
CN116328317A (zh) 2018-02-06 2023-06-27 日本聚逸株式会社 应用处理系统、应用处理方法以及应用处理程序
US10981067B2 (en) * 2018-02-06 2021-04-20 Gree, Inc. Game processing system, method of processing game, and storage medium storing program for processing game
EP3520868A1 (en) * 2018-02-06 2019-08-07 Gree, Inc. Game processing system, method of processing game, and program for processing game
EP3531247B1 (en) * 2018-02-27 2023-03-29 HTC Corporation Traceable optical device
US10944957B2 (en) * 2018-03-22 2021-03-09 Microsoft Technology Licensing, Llc Active stereo matching for depth applications
US10853014B2 (en) 2018-04-17 2020-12-01 Rockwell Collins, Inc. Head wearable device, system, and method
US10755486B2 (en) * 2018-04-19 2020-08-25 Disney Enterprises, Inc. Occlusion using pre-generated 3D models for augmented reality
CN108635840A (zh) * 2018-05-17 2018-10-12 南京华捷艾米软件科技有限公司 一种基于Sikuli图像识别的手机游戏体感操控系统及方法
CN108771866B (zh) * 2018-05-29 2021-09-24 网易(杭州)网络有限公司 虚拟现实中的虚拟对象控制方法及装置
KR102551686B1 (ko) 2018-05-29 2023-07-05 삼성전자주식회사 외부 전자 장치의 위치 및 움직임에 기반하여 외부 전자 장치와 관련된 객체를 표시하는 전자 장치 및 방법
US20190385372A1 (en) * 2018-06-15 2019-12-19 Microsoft Technology Licensing, Llc Positioning a virtual reality passthrough region at a known distance
WO2020010008A1 (en) * 2018-07-03 2020-01-09 Tarseer, Inc. Methods and systems for vision monitoring
CN110794579B (zh) * 2018-08-01 2022-05-03 宏星技术股份有限公司 头戴显示装置
TWI663428B (zh) 2018-08-01 2019-06-21 宏星技術股份有限公司 頭戴顯示裝置
CN109671118B (zh) * 2018-11-02 2021-05-28 北京盈迪曼德科技有限公司 一种虚拟现实多人交互方法、装置及系统
CN109445598B (zh) * 2018-11-07 2022-04-15 深圳珑璟光电技术有限公司 一种基于视觉的增强现实系统装置
US11688297B2 (en) * 2018-11-19 2023-06-27 The Boeing Company Virtual reality with virtualization in trainers and test environments
US11766296B2 (en) 2018-11-26 2023-09-26 Augmedics Ltd. Tracking system for image-guided surgery
US10939977B2 (en) 2018-11-26 2021-03-09 Augmedics Ltd. Positioning marker
US11006091B2 (en) 2018-11-27 2021-05-11 At&T Intellectual Property I, L.P. Opportunistic volumetric video editing
CN109331464A (zh) * 2018-11-30 2019-02-15 宁夏庄周梦蝶科技有限公司 一种基于vr的5d骑行体验设备
KR102163601B1 (ko) * 2018-11-30 2020-10-08 씨제이포디플렉스 주식회사 4d 상영관 시스템
CN109840016A (zh) * 2018-12-14 2019-06-04 维沃移动通信有限公司 一种虚拟交互方法及终端设备
US10976818B2 (en) * 2019-08-21 2021-04-13 Universal City Studios Llc Interactive attraction system and method for object and user association
KR102237860B1 (ko) * 2019-09-20 2021-04-08 (주)브로틴 키오스크를 통해 vr 컨텐츠를 제공하는 시스템
JP2021067877A (ja) * 2019-10-25 2021-04-30 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置、ヘッドマウントディスプレイ、および画像表示方法
WO2021086304A1 (en) * 2019-10-28 2021-05-06 Hewlett-Packard Development Company, L.P. Provision of feedback to an actuating object
US20210192799A1 (en) * 2019-12-19 2021-06-24 Facebook Technologies, Llc Passthrough window object locator in an artificial reality system
US11382712B2 (en) 2019-12-22 2022-07-12 Augmedics Ltd. Mirroring in image guided surgery
US11945123B2 (en) * 2020-04-28 2024-04-02 Altec Industries, Inc. Head mounted display for remote operation of machinery
US20230186542A1 (en) * 2020-05-29 2023-06-15 Sony Group Corporation Information processing apparatus, information processing method, and computer-readable recording medium
US11389252B2 (en) 2020-06-15 2022-07-19 Augmedics Ltd. Rotating marker for image guided surgery
US11422619B2 (en) * 2020-09-01 2022-08-23 Htc Corporation Tracking method and tracking system
US11733530B1 (en) 2020-09-24 2023-08-22 Apple Inc. Head-mountable device having light seal element with adjustable opacity
US11448884B2 (en) * 2020-11-25 2022-09-20 Sony Interactive Entertainment Inc. Image based finger tracking plus controller tracking
EP4350418A1 (en) * 2021-09-13 2024-04-10 Samsung Electronics Co., Ltd. Wearable device for sensing wearing by user
USD964988S1 (en) 2021-10-18 2022-09-27 Meta Platforms Technologies, Llc Head-mounted display
US11809640B2 (en) * 2021-12-09 2023-11-07 Htc Corporation Method for detecting movement of ring controller, ring controller, and computer readable medium
US20230381649A1 (en) * 2022-05-27 2023-11-30 Sony Interactive Entertainment LLC Method and system for automatically controlling user interruption during game play of a video game
US11717969B1 (en) 2022-07-28 2023-08-08 Altec Industries, Inc. Cooperative high-capacity and high-dexterity manipulators
US11689008B1 (en) 2022-07-28 2023-06-27 Altec Industries, Inc. Wire tensioning system
US11697209B1 (en) 2022-07-28 2023-07-11 Altec Industries, Inc. Coordinate mapping for motion control
US11839962B1 (en) 2022-07-28 2023-12-12 Altec Industries, Inc. Rotary tool for remote power line operations
US11749978B1 (en) 2022-07-28 2023-09-05 Altec Industries, Inc. Cross-arm phase-lifter
US11794359B1 (en) 2022-07-28 2023-10-24 Altec Industries, Inc. Manual operation of a remote robot assembly
US11742108B1 (en) 2022-07-28 2023-08-29 Altec Industries, Inc. Operation and insulation techniques
US11660750B1 (en) 2022-07-28 2023-05-30 Altec Industries, Inc. Autonomous and semi-autonomous control of aerial robotic systems
US20240104792A1 (en) * 2022-09-22 2024-03-28 Apple Inc. Operating Modes for Reducing Distraction in Extended Reality Environments

Family Cites Families (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH086708A (ja) 1994-04-22 1996-01-12 Canon Inc 表示装置
EP0883195A1 (en) * 1997-06-03 1998-12-09 BARR & STROUD LIMITED Head tracking system comprising LED with fluorescent coating
JPH11312033A (ja) 1998-04-28 1999-11-09 Sony Corp 眼鏡型画像表示装置
US6630915B1 (en) * 1999-01-26 2003-10-07 Lsa. Inc. Wireless transmission system for transmitting data to a simulation system user
JP2000271342A (ja) * 1999-03-26 2000-10-03 Sony Corp 位置情報発信装置およびこれを使用した仮想空間映像表示装置
JP3833099B2 (ja) * 2000-11-17 2006-10-11 キヤノン株式会社 ゲーム機の制御装置及び制御方法及びコンピュータ読み取り可能な制御プログラム
US8570378B2 (en) * 2002-07-27 2013-10-29 Sony Computer Entertainment Inc. Method and apparatus for tracking three-dimensional movements of an object using a depth sensing camera
JP4537104B2 (ja) 2004-03-31 2010-09-01 キヤノン株式会社 マーカ検出方法、マーカ検出装置、位置姿勢推定方法、及び複合現実空間提示方法
JP4612835B2 (ja) * 2004-12-20 2011-01-12 キヤノン株式会社 画像表示装及び画像表示システム
JP2008077572A (ja) 2006-09-25 2008-04-03 Toshiba Corp 画像表示装置
US20080136775A1 (en) * 2006-12-08 2008-06-12 Conant Carson V Virtual input device for computing
JP4689639B2 (ja) * 2007-04-25 2011-05-25 キヤノン株式会社 画像処理システム
JP5292725B2 (ja) * 2007-05-24 2013-09-18 株式会社島津製作所 モーショントラッカ装置
US20090221368A1 (en) 2007-11-28 2009-09-03 Ailive Inc., Method and system for creating a shared game space for a networked game
US20090237355A1 (en) * 2008-03-24 2009-09-24 Storm Orion Head tracking for virtual reality displays
JP4674634B2 (ja) * 2008-12-19 2011-04-20 ソニー株式会社 頭部装着型ディスプレイ
US20100182340A1 (en) * 2009-01-19 2010-07-22 Bachelder Edward N Systems and methods for combining virtual and real-time physical environments
US20100309097A1 (en) 2009-06-04 2010-12-09 Roni Raviv Head mounted 3d display
US20120186953A1 (en) 2009-09-30 2012-07-26 Mitsubishi Electric Corporation Switch-lock fitting and control device
US8386718B2 (en) * 2009-11-18 2013-02-26 Research In Motion Limited Method and apparatus for managing application data in a shared cache of a mobile electronic device
JP2011258158A (ja) * 2010-06-11 2011-12-22 Namco Bandai Games Inc プログラム、情報記憶媒体及び画像生成システム
JP5336665B2 (ja) 2010-10-07 2013-11-06 株式会社ソニー・コンピュータエンタテインメント 3−dメガネと、カメラベースの頭部トラッキング
US20120113223A1 (en) * 2010-11-05 2012-05-10 Microsoft Corporation User Interaction in Augmented Reality
JP2012173772A (ja) * 2011-02-17 2012-09-10 Panasonic Corp ユーザインタラクション装置、ユーザインタラクション方法、ユーザインタラクションプログラム、及び集積回路
JP2012223363A (ja) 2011-04-20 2012-11-15 Tokyo Institute Of Technology 手術用撮像システム及び手術用ロボット
US20120327116A1 (en) 2011-06-23 2012-12-27 Microsoft Corporation Total field of view classification for head-mounted display
JP5800602B2 (ja) * 2011-06-29 2015-10-28 オリンパス株式会社 情報処理システム、携帯電子機器、プログラム及び情報記憶媒体
US9897805B2 (en) * 2013-06-07 2018-02-20 Sony Interactive Entertainment Inc. Image rendering responsive to user actions in head mounted display
TWI437464B (zh) 2011-09-01 2014-05-11 Ind Tech Res Inst 頭戴式個人電腦及其互動式系統
JP2013073434A (ja) * 2011-09-28 2013-04-22 Seiko Epson Corp 情報入力装置、および情報入力方法
US9183676B2 (en) * 2012-04-27 2015-11-10 Microsoft Technology Licensing, Llc Displaying a collision between real and virtual objects
US9329678B2 (en) * 2012-08-14 2016-05-03 Microsoft Technology Licensing, Llc Augmented reality overlay for control devices
KR20160005695A (ko) * 2013-04-30 2016-01-15 인텔렉추얼디스커버리 주식회사 헤드 마운트 디스플레이 및 이를 이용한 오디오 콘텐츠 제공 방법
US9230368B2 (en) * 2013-05-23 2016-01-05 Microsoft Technology Licensing, Llc Hologram anchoring and dynamic positioning
US9551873B2 (en) * 2014-05-30 2017-01-24 Sony Interactive Entertainment America Llc Head mounted device (HMD) system having interface with mobile computing device for rendering virtual reality content
JP6355978B2 (ja) * 2014-06-09 2018-07-11 株式会社バンダイナムコエンターテインメント プログラムおよび画像生成装置
US9690367B2 (en) * 2014-12-10 2017-06-27 Sixense Entertainment, Inc. System and method for assisting a user in locating physical objects while the user is in a virtual reality environment
US10532277B2 (en) * 2015-06-11 2020-01-14 Facebook Technologies, Llc Hand-held controllers with light-emitting diodes synchronized to an external camera
US10007116B2 (en) * 2015-06-15 2018-06-26 Oculus Vr, Llc Recessed light-emitting diodes in virtual-reality systems
WO2017055910A1 (en) * 2015-09-30 2017-04-06 Sony Interactive Entertainment Inc. Methods for optimizing positioning of content on a screen of a head mounted display

Also Published As

Publication number Publication date
EP3008549B1 (en) 2021-03-17
JP2017152010A (ja) 2017-08-31
EP3008549A2 (en) 2016-04-20
US11504609B2 (en) 2022-11-22
US20200139227A1 (en) 2020-05-07
JP6408634B2 (ja) 2018-10-17
US10525335B2 (en) 2020-01-07
JP2016527601A (ja) 2016-09-08
US20160129346A1 (en) 2016-05-12
US20140361956A1 (en) 2014-12-11
WO2014200779A2 (en) 2014-12-18
CN105359063B (zh) 2018-08-17
TW201511803A (zh) 2015-04-01
US20140364215A1 (en) 2014-12-11
US10987574B2 (en) 2021-04-27
US9630098B2 (en) 2017-04-25
CN105359063A (zh) 2016-02-24
TWI555561B (zh) 2016-11-01
US20210245041A1 (en) 2021-08-12
US10173129B2 (en) 2019-01-08
WO2014200779A3 (en) 2015-02-19

Similar Documents

Publication Publication Date Title
JP6408634B2 (ja) 頭部装着ディスプレイ
US11079999B2 (en) Display screen front panel of HMD for viewing by users viewing the HMD player
US11389726B2 (en) Second screen virtual window into VR environment
US10445925B2 (en) Using a portable device and a head-mounted display to view a shared virtual reality space
EP3469466B1 (en) Directional interface object
US11534684B2 (en) Systems and methods for detecting and displaying a boundary associated with player movement
JP2019537087A (ja) Hmdユーザを現実世界空間内で安全に案内するために、仮想現実シーンにおいて対話型コンテンツを提供する方法
JP2018129043A (ja) 空間感知を備えるゲーム機

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160913

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170314

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170515

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170712

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20171024

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180122

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20180129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180306

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180322

R150 Certificate of patent or registration of utility model

Ref document number: 6313432

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250