JP2018106364A - 仮想空間を介して通信するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、情報処理装置 - Google Patents

仮想空間を介して通信するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、情報処理装置 Download PDF

Info

Publication number
JP2018106364A
JP2018106364A JP2016250989A JP2016250989A JP2018106364A JP 2018106364 A JP2018106364 A JP 2018106364A JP 2016250989 A JP2016250989 A JP 2016250989A JP 2016250989 A JP2016250989 A JP 2016250989A JP 2018106364 A JP2018106364 A JP 2018106364A
Authority
JP
Japan
Prior art keywords
virtual space
hmd
user
computer
avatar object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016250989A
Other languages
English (en)
Other versions
JP6250779B1 (ja
Inventor
英太 菊地
Eita Kikuchi
英太 菊地
典弘 久保
Norihiro Kubo
典弘 久保
篤 猪俣
Atsushi Inomata
篤 猪俣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2016250989A priority Critical patent/JP6250779B1/ja
Application granted granted Critical
Publication of JP6250779B1 publication Critical patent/JP6250779B1/ja
Priority to US15/853,921 priority patent/US10319346B2/en
Publication of JP2018106364A publication Critical patent/JP2018106364A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/363Graphics controllers
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/014Hand-worn input/output arrangements, e.g. data gloves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • G06F3/0325Detection arrangements using opto-electronic means using a plurality of light emitters or reflectors or a plurality of detectors forming a reference frame from which to derive the orientation of the object, e.g. by triangulation or on the basis of reference deformation in the picked up image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4092Image resolution transcoding, e.g. client/server architecture
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/002Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to project the image of a two-dimensional display, such as an array of light emitting or modulating elements or a CRT
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • G09G5/026Control of mixing and/or overlay of colours in general
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/373Details of the operation on graphic patterns for modifying the size of the graphic pattern
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0666Adjustment of display parameters for control of colour parameters, e.g. colour temperature
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/045Zooming at least part of an image, i.e. enlarging it or shrinking it
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/10Mixing of images, i.e. displayed pixel being the result of an operation, e.g. adding, on the corresponding input pixels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/02Networking aspects
    • G09G2370/022Centralised management of display operation, e.g. in a server instead of locally
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/16Use of wireless transmission of display information

Abstract

【課題】仮想空間を介した通信におけるフラストレーションを抑制する。
【解決手段】仮想空間を介した通信を実現するためにコンピュータのプロセッサが実行する処理は、HMDから送られる信号に基づいて、HMDがユーザの頭部に装着されたことを検知するステップ(S1010)と、HMDによって提示される仮想空間をメモリにおいて定義するステップ(S1020)と、サーバから受信したデータに基づいてコンピュータと通信している他のコンピュータとの通信環境を検知するステップ(S1030)と、その通信環境に応じた態様で、当該他のユーザに対応する各アバターオブジェクトを仮想空間に表示するためのデータをそれぞれ生成するステップ(S1040)と、生成したデータをHMD110に出力するステップ(S1050)とを含む。
【選択図】図10

Description

本開示は通信に関し、より特定的には、仮想空間を介した通信に関する。
仮想空間を用いて通信する技術が知られている。例えば、特開2016−152619号公報(特許文献1)は、「特定のユーザとの特別なコミュニケーションをユーザが体験できる仕組み」を開示している([要約]参照)。
特開2016−152619号公報
通信環境は、各ユーザによって異なる。仮想空間を介した通信を行う複数のユーザのうちいずれかのユーザの通信環境が他のユーザの通信環境よりも劣る場合、各ユーザは、フラストレーションを感じる場合がある。したがって、仮想空間を介した通信を円滑に行う技術が必要とされている。
本開示は上述のような問題点を解決するためになされたものであって、ある局面における目的は、仮想空間を介した通信を円滑に行うための方法を提供することである。他の局面における目的は、仮想空間を介した通信を円滑に行うためのプログラムを提供することである。さらに他の局面における目的は、仮想空間を介した通信を円滑に行うことができる情報処理装置を提供することである。
ある実施の形態に従うと、仮想空間を介して通信するためにコンピュータで実行される方法が提供される。この方法は、コンピュータに接続されている第1のヘッドマウントデバイスで提供される仮想空間を定義するステップと、コンピュータと通信可能に接続されている1つ以上の他のヘッドマウントデバイスから送られる信号に基づいて、他のヘッドマウントデバイスとの通信環境を検知するステップと、通信環境に応じた態様で、当該他のヘッドマウントデバイスのユーザに対応するアバターオブジェクトを仮想空間に提示するステップとを含む。
ある実施の形態に従うと、通信相手のユーザに対応するアバターオブジェクトが通信環境に応じた態様で仮想空間に提示される。各ユーザは、通信環境が異なるユーザの存在を認識できるので、仮想空間を介した通信が円滑に実現され得る。
この発明の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。
ある実施の形態に従うHMDシステム100の構成の概略を表す図である。 一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うHMD110に設定されるuvw視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。 ある実施の形態に従うHMD110を装着するユーザ190の頭部を上から表した図である。 仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。 仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。 ある実施の形態に従うコントローラ160の概略構成を表す図である。 ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。 ある実施の形態に従うコンピュータ200が実行する処理の一部を表わすフローチャートである。 ある実施の形態に従うサーバ150のプロセッサ151が実行する処理の一部を表わすフローチャートである。 HMD110のプロセッサが実行する処理の一部を表わすフローチャートである。 ある実施の形態に従って視界画像としてユーザに視認され得る画像の一例を表わす図である。 ある実施の形態に従って、通信状態が劣るユーザがチャット相手に含まれる場合に視界画像に含まれるアバターオブジェクトの他の表示態様を例示する図である。 ある実施の形態に従う、通信速度が劣るコンピュータ200Nのユーザ190が装着しているHMD110Nによって提示される視界画像を表わす図である。 ある実施の形態に従って視界画像としてユーザに視認され得る画像の一例を表わす図である。
以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
[HMDシステムの構成]
図1を参照して、HMDシステム100の構成について説明する。図1は、ある実施の形態に従うHMDシステム100の構成の概略を表す図である。ある局面において、HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
HMDシステム100は、ネットワーク19を介して、他のHMDシステム100N,100Xと通信することができる。HMDシステム100Nは、ユーザ190Nによって使用され得る。HMD100Xは、ユーザ190Xによって使用され得る。HMDシステム100N,100Xの構成は、HMDシステム100の構成と同様である。HMDシステム100の構成要素と同様の構成要素には、符号N,Xが付されている。したがって、以下、適宜、HMDシステム100の構成を参照して、各HMDシステムを説明する。
HMDシステム100は、HMD110と、HMDセンサ120と、コントローラ160と、コンピュータ200とを備える。HMD110は、モニタ112と、スピーカ115と、マイク119と、注視センサ140とを含む。コントローラ160は、モーションセンサ130を含み得る。
ある局面において、コンピュータ200は、インターネットその他のネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150、コンピュータ200N,200Xその他のコンピュータと通信可能である。他の局面において、HMD110は、HMDセンサ120の代わりに、センサ114を含み得る。
HMD110は、ユーザ190の頭部に装着され、動作中に仮想空間をユーザ190に提供し得る。より具体的には、HMD110は、右目用の画像および左目用の画像をモニタ112にそれぞれ表示する。ユーザ190の各目がそれぞれの画像を視認すると、ユーザ190は、両目の視差に基づき当該画像を3次元の画像として認識し得る。
モニタ112は、たとえば、非透過型の表示装置として実現される。ある局面において、モニタ112は、ユーザ190の両目の前方に位置するようにHMD110の本体に配置されている。したがって、ユーザ190は、モニタ112に表示される3次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、たとえば、背景、ユーザ190が操作可能なオブジェクト、ユーザ190が選択可能なメニューの画像を含む。
ある局面において、コンピュータ200,200N,200Xは、各々のユーザ190,190N,190Xの動作に基づく信号を通信する。コンピュータ200,200N,200Xが仮想空間を提供するための映像信号を生成し、HMD110,110N,110Xに映像信号をそれぞれ送信し得る。HMD110,110N,110Xは、その映像信号をモニタ112,112N,112Xに送信すると、モニタ112,112N,112Xは、その受信した映像信号に基づく仮想空間画像をそれぞれ表示する。
ある実施の形態において、コンピュータ200,200N,200Xが、仮想空間を介して通信するためのVR(Virtual Reality)チャットアプリケーションを実行している時、コンピュータ200,200N,200Xは、各HMD110,110N,110Xによって提示される仮想空間を介した通信を実現する。仮想空間を介した通信では、映像と音声とが通信される。この時、各ユーザに対応するアバターオブジェクトが、仮想空間に提示される。例えば、ユーザ190が他のユーザ190N,190Xと通信しているとき、ユーザ190が装着したHMD110は、ユーザ190N,190Xに対応するアバターオブジェクトを提示する。したがって、各ユーザ190,190N,190Xはそれぞれ、仮想空間に没入した状態で、アバターオブジェクトを介して他のユーザと通信することができる。
ある実施の形態において、モニタ112は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。
ある局面において、モニタ112は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。他の局面において、モニタ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線方向)を検出する。当該方向の検出は、たとえば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、たとえば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線方向を検知することができる。
スピーカ115は、コンピュータ200から受信した音声データに対応する音声(発話)を外部に出力する。マイク119は、ユーザ190の発話に対応する音声データをコンピュータ200に出力する。ユーザ190は、マイク119を用いて他のユーザ190N,190Xに向けて発話でき、スピーカ115を用いて他のユーザ190N,190Xの発話を聞くことができる。
より詳細には、ユーザ190がマイク119に向かって発話すると、その音声に基づく音声データがコンピュータ200に送信される。コンピュータ200は、その音声データを受信すると、ネットワーク19を介してサーバ150に出力する。サーバ150は、コンピュータ200から受信した音声データを、ネットワーク19を介して他のコンピュータ200N,200Xに送信する。他のコンピュータ200N,200Xは、サーバ150から受信した音声データを、他のユーザ190N,190Xが装着するHMD110N,110Xのスピーカ115にそれぞれ出力する。これにより、他のユーザ190N,190Xは、HMD110N,110Xのスピーカ115を介してユーザ190の音声を聞くことができる。同様に、他のユーザ190N,190Xからの発話は、ユーザ190が装着するHMD110のスピーカ115から出力される。
コンピュータ200は、他のユーザ190N,190Xが使用するコンピュータ200N,200Xから受信した音声データに基づいて、ユーザ190N,190Xに対応する他アバターオブジェクトを動かすような画像をモニタ112に表示する。たとえば、ある局面において、コンピュータ200は、他アバターオブジェクトの口を動かすような画像をモニタ112に表示することで、仮想空間においてユーザ190は、そのアバターオブジェクトと対話しているように実感できる。
HMDセンサ120は、複数の光源(図示しない)を含む。各光源は、たとえば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、HMD110の動きを検出するためのポジショントラッキング機能を有する。HMDセンサ120は、この機能を用いて、現実空間内におけるHMD110の位置および傾きを検出する。
なお、他の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD110の画像情報を用いて、画像解析処理を実行することにより、HMD110の位置および傾きを検出することができる。
他の局面において、HMD110は、位置検出器として、HMDセンサ120の代わりに、センサ114を備えてもよい。HMD110は、センサ114を用いて、HMD110自身の位置および傾きを検出し得る。たとえば、センサ114が、角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサなどである場合、HMD110は、HMDセンサ120の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ114が角速度センサである場合、角速度センサは、現実空間におけるHMD110の3軸周りの角速度を経時的に検出する。HMD110は、各角速度に基づいて、HMD110の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD110の傾きを算出する。
また、HMD110は、透過型表示装置を備えていても良い。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視野画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。たとえば、HMD110に搭載されたカメラで撮影した画像を視野画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視野画像の一部から現実空間を視認可能にしてもよい。
サーバ150は、コンピュータ200にプログラムを送信し得る。他の局面において、サーバ150は、他のユーザによって使用されるHMD110に仮想現実を提供するための他のコンピュータ200と通信し得る。たとえば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが対話(チャット)を楽しむことを可能にする。
コントローラ160は、ユーザ190からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ160は、ユーザ190によって把持可能に構成される。他の局面において、コントローラ160は、ユーザ190の身体あるいは衣類の一部に装着可能に構成される。他の局面において、コントローラ160は、コンピュータ200から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。他の局面において、コントローラ160は、仮想現実を提供する空間に配置されるオブジェクトの位置や動きを制御するためにユーザ190によって与えられる操作を受け付ける。
モーションセンサ130は、ある局面において、ユーザ190の手に取り付けられて、ユーザ190の手の動きを検出する。たとえば、モーションセンサ130は、手の回転速度、回転数などを検出する。モーションセンサ130によって得られたユーザ190の手の動きの検出結果を示すデータは、コンピュータ200に送られる。モーションセンサ130は、たとえば、手袋型のコントローラ160に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ160は、手袋型のようにユーザ190の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。他の局面において、ユーザ190に装着されないセンサがユーザ190の手の動きを検出してもよい。たとえば、ユーザ190を撮影するカメラの信号が、ユーザ190の動作を表す信号として、コンピュータ200に入力されてもよい。モーションセンサ130とコンピュータ200とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、たとえば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
他の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに他の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[ハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェイス13と、通信インターフェイス14とを備える。各構成要素は、それぞれ、バス15に接続されている。
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、たとえば、ストレージ12からロードされる。データは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発メモリとして実現される。
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、たとえば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ12に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通信を実現するためのプログラムを含む。ストレージ12に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクトなどを含む。
なお、他の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに他の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、たとえば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
ある実施の形態において、入出力インターフェイス13は、HMD110、HMDセンサ120またはモーションセンサ130との間で信号を通信する。ある局面において、入出力インターフェイス13は、USB(Universal Serial Bus)インターフェイス、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェイス13は上述のものに限られない。
ある実施の形態において、入出力インターフェイス13は、さらに、コントローラ160と通信し得る。たとえば、入出力インターフェイス13は、モーションセンサ130から出力された信号の入力を受ける。他の局面において、入出力インターフェイス13は、プロセッサ10から出力された命令を、コントローラ160に送る。当該命令は、振動、音声出力、発光などをコントローラ160に指示する。コントローラ160は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
通信インターフェイス14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(たとえば、サーバ150、コンピュータ200N,200X等)と通信する。ある局面において、通信インターフェイス14は、たとえば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェイスとして実現される。なお、通信インターフェイス14は上述のものに限られない。
ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ160を用いて仮想空間で実行可能なゲームソフトウェアなどを含み得る。プロセッサ10は、入出力インターフェイス13を介して、仮想空間を提供するための信号をHMD110に送る。HMD110は、その信号に基づいてモニタ112に映像を表示する。
なお、図2に示される例では、コンピュータ200は、HMD110の外部に設けられる構成が示されているが、他の局面において、コンピュータ200は、HMD110に内蔵されてもよい。一例として、モニタ112を含む携帯型の情報通信端末(たとえば、スマートフォン)がコンピュータ200として機能してもよい。
また、コンピュータ200は、複数のHMD110に共通して用いられる構成であってもよい。このような構成によれば、たとえば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
ある実施の形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD110の各光源から発せられた赤外線をそれぞれ検出すると、HMD110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD110を装着したユーザ190の動きに応じた、現実空間内におけるHMD110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD110の位置および傾きの時間的変化を検出できる。
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD110の各傾きは、グローバル座標系におけるHMD110の3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD110の傾きに基づき、uvw視野座標系をHMD110に設定する。HMD110に設定されるuvw視野座標系は、HMD110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD110に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ120は、HMD110の起動時に、グローバル座標系におけるHMD110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD110に設定する。
図3に示されるように、HMD110は、HMD110を装着したユーザの頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD110は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、グローバル座標系内においてHMD110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として設定する。
ある局面において、HMD110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。
uvw視野座標系がHMD110に設定された後、HMDセンサ120は、HMD110の動きに基づいて、設定されたuvw視野座標系におけるHMD110の傾き(傾きの変化量)を検出できる。この場合、HMDセンサ120は、HMD110の傾きとして、uvw視野座標系におけるHMD110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ方向周りのHMD110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー方向周りのHMD110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール方向周りのHMD110の傾き角度を表す。
HMDセンサ120は、検出されたHMD110の傾き角度に基づいて、HMD110が動いた後のHMD110におけるuvw視野座標系を、HMD110に設定する。HMD110と、HMD110のuvw視野座標系との関係は、HMD110の位置および傾きに関わらず、常に一定である。HMD110の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD110のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD110のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。
HMD110の起動時、すなわちHMD110の初期状態において、仮想カメラ1が、仮想空間2の中心21に配置される。仮想カメラ1は、現実空間におけるHMD110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD110の位置および向きの変化が、仮想空間2において同様に再現される。
仮想カメラ1には、HMD110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラのuvw視野座標系は、現実空間(グローバル座標系)におけるHMD110のuvw視野座標系に連動するように規定されている。したがって、HMD110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD110を装着したユーザの現実空間における移動に連動して、仮想空間2において移動することもできる。
仮想カメラ1の向きは、仮想カメラ1の位置および傾きに応じて決まるので、ユーザが仮想空間画像22を視認する際に基準となる視線(基準視線5)は、仮想カメラ1の向きに応じて決まる。コンピュータ200のプロセッサ10は、基準視線5に基づいて、仮想空間2における視界領域23を規定する。視界領域23は、仮想空間2のうち、HMD110を装着したユーザの視界に対応する。
注視センサ140によって検出されるユーザ190の視線方向は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD110のuvw視野座標系は、ユーザ190がモニタ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線方向を、仮想カメラ1のuvw視野座標系におけるユーザの視線方向とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザの視線方向の決定について説明する。図5は、ある実施の形態に従うHMD110を装着するユーザ190の頭部を上から表した図である。
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対して視線R2およびL2がなす角度は、ロール方向wに対して視線R1およびL1がなす角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線方向N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線方向N0として検出する。視線方向N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線方向N0は、視界領域23に対してユーザ190が実際に視線を向けている方向に相当する。
別の局面において、HMDシステム100は、HMDシステム100を構成するいずれかのパーツに、マイクおよびスピーカを備えてもよい。ユーザは、マイクに発話することにより、仮想空間2に対して、音声による指示を与えることができる。
また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視界領域23について説明する。図6は、仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。図7は、仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。
図6に示されるように、YZ断面における視界領域23は、領域24を含む。領域24は、仮想カメラ1の基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間おける基準視線5を中心として極角αを含む範囲を、領域24として規定する。
図7に示されるように、XZ断面における視界領域23は、領域25を含む。領域25は、基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像26をモニタ112に表示させることにより、ユーザ190に仮想空間を提供する。視界画像26は、仮想空間画像22のうち視界領域23に重畳する部分に相当する。ユーザ190が、頭に装着したHMD110を動かすと、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視界領域23の位置が変化する。これにより、モニタ112に表示される視界画像26は、仮想空間画像22のうち、仮想空間2においてユーザが向いた方向の視界領域23に重畳する画像に更新される。ユーザは、仮想空間2における所望の方向を視認することができる。
ユーザ190は、HMD110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザに与えることができる。
ある局面において、プロセッサ10は、HMD110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動し得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および向きに基づいて、HMD110のモニタ112に投影される画像領域(すなわち、仮想空間2における視界領域23)を特定する。
ある実施の形態に従うと、仮想カメラ1は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ1が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向(w)がHMD110のロール方向(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[コントローラ]
図8を参照して、コントローラ160の一例について説明する。図8は、ある実施の形態に従うコントローラ160の概略構成を表す図である。
図8の分図(A)に示されるように、ある局面において、コントローラ160は、右コントローラ800と左コントローラとを含み得る。右コントローラ800は、ユーザ190の右手で操作される。左コントローラは、ユーザ190の左手で操作される。ある局面において、右コントローラ800と左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ190は、右コントローラ800を把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ160は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ800について説明する。
右コントローラ800は、グリップ30と、フレーム31と、天面32とを備える。グリップ30は、ユーザ190の右手によって把持されるように構成されている。例えば、グリップ30は、ユーザ190の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
グリップ30は、ボタン33,34と、モーションセンサ130とを含む。ボタン33は、グリップ30の側面に配置され、右手の中指による操作を受け付ける。ボタン34は、グリップ30の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン33,34は、トリガー式のボタンとして構成される。モーションセンサ130は、グリップ30の筐体に内蔵されている。なお、ユーザ190の動作がカメラその他の装置によってユーザ190の周りから検出可能である場合には、グリップ30は、モーションセンサ130を備えなくてもよい。
フレーム31は、その円周方向に沿って配置された複数の赤外線LED35を含む。赤外線LED35は、コントローラ160を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED35から発せられた赤外線は、右コントローラ800と左コントローラ(図示しない)との各位置や姿勢(傾き、向き)を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED35が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
天面32は、ボタン36,37と、アナログスティック38とを備える。ボタン36,37は、プッシュ式ボタンとして構成される。ボタン36,37は、ユーザ190の右手の親指による操作を受け付ける。アナログスティック38は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間2に配置されるオブジェクトを移動するための操作を含む。
ある局面において、右コントローラ800および左コントローラは、赤外線LED35その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ800と左コントローラは、例えば、コンピュータ200のUSBインターフェイスに接続され得る。この場合、右コントローラ800および左コントローラは、電池を必要としない。
図8の分図(B)は、右コントローラ800を把持するユーザ190の右手に対応して仮想空間に配置されるハンドオブジェクト810の一例を示す。例えば、ユーザ190の右手に対応するハンドオブジェクト810に対して、ヨー、ロール、ピッチの各方向が規定される。例えば、右コントローラ800のボタン34に対して入力操作がされるとハンドオブジェクト810の人差し指を握りこんだ状態とし、ボタン34に対する入力操作がされていない場合は、分図(B)に示すようにハンドオブジェクト810の人差し指を伸ばした状態とすることもできる。例えば、ハンドオブジェクト810において親指と人差し指とが伸びている場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向としてハンドオブジェクト810に規定される。
[HMDの制御装置]
図9を参照して、HMD110の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図9は、ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。
図9に示されるように、コンピュータ200は、表示制御モジュール220と、音声制御モジュール225と、仮想空間制御モジュール230と、通信環境検出モジュール235と、メモリモジュール240と、通信制御モジュール250とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特定モジュール224とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、仮想オブジェクト生成モジュール232と、アバターオブジェクト制御モジュール233とを含む。
ある実施の形態において、表示制御モジュール220、音声制御モジュール225、仮想空間制御モジュール230および通信環境検出モジュール235は、プロセッサ10によって実現される。他の実施の形態において、複数のプロセッサ10が表示制御モジュール220、音声制御モジュール225、仮想空間制御モジュール230および通信環境検出モジュール235として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェイス14によって実現される。
ある局面において、表示制御モジュール220は、HMD110のモニタ112における画像表示を制御する。仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置し、仮想カメラ1の挙動、向きなどを制御する。視界領域決定モジュール222は、HMD110を装着したユーザ190の頭の向きに応じて、視界領域23を規定する。視界画像生成モジュール223は、決定された視界領域23に基づいて、モニタ112に表示される視界画像を生成する。さらに、視界画像生成モジュール223は、仮想空間制御モジュール230から受信したデータに基づいて、視界画像を生成する。視界画像生成モジュール223によって生成された視界画像のデータ(視界画像データともいう)は、通信制御モジュール250によってHMD110に出力される。基準視線特定モジュール224は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定する。
音声制御モジュール225は、HDM110から、ユーザ190のマイク119を用いた発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ200を特定する。音声データは、音声制御モジュール225によって特定されたコンピュータ200に送信される。音声制御モジュール225は、ネットワーク19を介して他のユーザのコンピュータ200から音声データを受信すると、当該音声データに対応する音声(発話)をスピーカ115から出力する。
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。まず、仮想空間定義モジュール231は、仮想空間2を表す仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。
仮想オブジェクト生成モジュール232は、仮想空間2に配置されるオブジェクトのデータを生成する。オブジェクトは、たとえば、他アバターオブジェクトおよび仮想乗り物などを含み得る。仮想オブジェクト生成モジュール232によって生成されたデータは、視界画像生成モジュール223に出力される。
アバターオブジェクト制御モジュール233は、仮想空間2を介して通信するユーザのアバターオブジェクトを生成し、仮想空間2に提示する。ある局面において、アバターオブジェクト制御モジュール233は、複数の通信相手のうち、通信環境が最も悪いユーザのアバターオブジェクトを、他のユーザのアバターオブジェクトの表示態様とは異なる態様で表示するためのデータを生成する。例えば、アバターオブジェクト制御モジュール233は、通信環境が予め定められた基準を下回るHMD110のユーザに対応するアバターオブジェクトの表示態様を、通信環境が予め定められた基準以上であるHMD110のユーザに対応するアバターオブジェクトの表示態様とは異なる態様で、当該ユーザのアバターオブジェクトを提示する。
通信環境は、ネットワークの速度、HMD110に組み込まれているモニタまたはHMD110に装着される情報処理端末が備えるモニタの解像度等を含む。ある実施の形態に従うと、アバターオブジェクト制御モジュール233は、1つ以上の他のHMDの各々の通信環境のうち最も劣る通信環境に応じた態様で、各アバターオブジェクトを提示するためのデータを生成する。ある実施の形態に従うと、アバターオブジェクト制御モジュール233は、モニタの画質に応じたアバターオブジェクトを仮想空間に提示するためのデータを生成する。ある実施の形態に従うと、アバターオブジェクト制御モジュール233は、各HMDとの通信速度が予め定められた速度を下回る場合に、または、通信速度が他のHMDの通信速度よりも遅いHMDが存在する場合に、予め定められた解像度よりも低い解像度でアバターオブジェクトを仮想空間に提示するためのデータを生成する。
例えば、ある実施の形態に従うと、アバターオブジェクト制御モジュール233は、コンピュータ200が通信する他のコンピュータ200N,200Xのうちいずれかの通信環境が他のコンピュータの通信環境よりも劣ることを検知すると、通信環境が劣るコンピュータを使用するユーザのアバターオブジェクトを、他のコンピュータを使用するユーザのアバターオブジェクトとは異なる態様で表示する。別の局面において、アバターオブジェクト制御モジュール233は、コンピュータの通信環境が他のコンピュータ200N,200Xの通信環境よりも劣ることを検知すると、その旨を通知するオブジェクトまたはメッセージを仮想空間2に提示するためのデータを生成し、そのデータをHMD110に出力する。HMD110は、そのデータに基づいて、当該オブジェクトまたはメッセージをモニタ112に表示する。ユーザ190は、自らの通信環境が他のユーザ190N,190Xの通信環境よりも劣ることを認識できる。
別の局面において、ユーザ190が仮想空間2に提示されているアバターオブジェクトを選択するための入力をコントローラ160を介してコンピュータ200に与えると、アバターオブジェクト制御モジュール233は、当該入力に基づいて選択されたアバターオブジェクトを、他のアバターオブジェクトの態様とは異なる態様で提示するためのデータを生成する。この場合、ユーザ190が自らの判断で、通信環境の劣るユーザのアバターオブジェクトを指定するので、のユーザに対する対話やチャットの場合とは異なる条件(例えば、ゆっくり話す等)での対話やチャットを意識して行ない易くなる。
通信環境検出モジュール235は、コンピュータ200と他のコンピュータ200N,200Xとの間の通信環境を検出する。例えば、ある局面において、通信環境検出モジュール235は、ネットワークの速度を検出する。速度の検出は、たとえば、pingコマンドを用いた検出、ftpコマンドを用いた検出、ttcpコマンドを用いた検出等により実現される。
別の局面において、通信環境検出モジュール235は、コンピュータ200が通信する他のコンピュータ200N,200Xからのデータに基づく画像を表示するモニタの解像度を検出する。当該モニタは、例えば、HMD110に内蔵されるモニタ112、HMD110に装着されるスマートフォンその他の情報通信端末に内蔵されるモニタ等を含み得る。例えば、通信環境検出モジュール235は、各モニタの解像度その他のスペックを、当該モニタまたは当該モニタを備えるHMD110または情報通信端末から取得する。さらに別の局面において、通信環境検出モジュール235は、サーバ150その他の情報管理装置であって、各モニタのスペックを有する装置から、当該スペックを取得してもよい。
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、空間情報241と、オブジェクト情報242と、ユーザ情報243とを保持している。
空間情報241は、仮想空間2を提供するために規定された1つ以上のテンプレートを保持している。
オブジェクト情報242は、仮想空間2において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報を保持している。当該コンテンツは、たとえば、ゲーム、現実社会と同様の風景を表したコンテンツなどを含み得る。
ユーザ情報243は、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム、オブジェクト情報242に保持される各コンテンツを使用するアプリケーションプログラムなどを保持している。メモリモジュール240に格納されているデータおよびプログラムは、HMD110のユーザ190によって入力される。あるいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(たとえば、サーバ150)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール240に格納する。
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。
ある局面において、表示制御モジュール220および仮想空間制御モジュール230は、たとえば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。他の局面において、表示制御モジュール220および仮想空間制御モジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。
コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ10によって記憶モジュールから読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ10は、そのプログラムを実行する。
コンピュータ200を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ200に格納されたプログラムであるともいえる。なお、コンピュータ200のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
なお、データ記録媒体としては、CD−ROM、FD(Flexible Disk)、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを含む)、光カード、マスクROM、EPROM(Electronically Programmable Read-Only Memory)、EEPROM(Electronically Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモリなどの固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
ここでいうプログラムとは、プロセッサ10により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラムなどを含み得る。
[制御構造]
図10を参照して、コンピュータ200の制御構造について説明する。図10は、ある実施の形態に従うコンピュータ200が実行する処理の一部を表わすフローチャートである。コンピュータ200は、ネットワーク19を介して、他のコンピュータ200N,200Xに接続されている。コンピュータ200Nは、他のユーザ190Nが装着するHMD110Nに接続されている。コンピュータ200Xは、他のユーザ190Xが装着するHMD110Xに接続されている。
ステップS1010にて、プロセッサ10は、HMD110から送られる信号に基づいて、HMD110がユーザ190の頭部に装着されたことを検知する。ステップS1020にて、プロセッサ10は、HMD110によって提示される仮想空間2をメモリ11において定義する。
ステップS1030にて、プロセッサ10は、サーバ150から受信したデータに基づいて、コンピュータ200と通信している他のコンピュータ200N,200Xとの通信環境を検知する。通信環境は、例えば、音声データの送信速度、画像データの送信速度、これらの送信速度の差異、あるいは、当該他のユーザが使用するHMDのモニタの解像度等を含む。
ステップS1040にて、プロセッサ10は、その通信環境に応じた態様で、当該他のユーザ190N、190Xに対応する各アバターオブジェクトを仮想空間2に表示するためのデータをそれぞれ生成する。例えば、コンピュータ200と他のコンピュータ200Nとの間の通信速度が、コンピュータ200と他のコンピュータ200Xとの間の通信速度よりも遅い場合には、プロセッサ10は、ユーザ190Nのアバターオブジェクトの色を、他のユーザ190Xのアバターオブジェクトの色とは別の色に変更する。あるいは、別の局面において、プロセッサ10は、ユーザ190Nのアバターオブジェクトを、他のユーザ190Xのアバターオブジェクトよりも薄く提示する。例えば、プロセッサ10は、ユーザ190Nのアバターオブジェクトとして、透明なオブジェクトを提示してもよい。別の局面において、HMD110Nのモニタ112の解像度が、HMD110のモニタ112の解像度よりも低い場合には、プロセッサ10は、ユーザ190Nのアバターオブジェクトの画質が、ユーザ190Xのアバターオブジェクトの画質を下回るように、ユーザ190Nのアバターオブジェクトの解像度をユーザ190Xのアバターオブジェクトの解像度よりも小さくする。
ステップS1050にて、プロセッサ10は、生成したデータをHMD110に出力する。HMD110のモニタ112は、そのデータに基づいて、ユーザ190N,190Xのそれぞれを表わすアバターオブジェクトを仮想空間2に提示する。HMD110を装着したユーザ190が、各アバターオブジェクトを視認すると、他のアバターオブジェクトの表示態様とは異なる態様で表示されたアバターオブジェクト(例えば、ユーザ190Nのアバターオブジェクト)を認識し得る。ユーザ190は、ユーザ190Nの通信環境が良くないことを認識できるので、ユーザ190Nと通信(例えば、チャット)する場合、他のユーザ190Xに向けてメッセージを発する場合よりもゆっくりと発話し、あるいは、仮想空間2における動作を通常よりもゆっくり行なう等、相手の通信環境に応じた動作を行なうことができる。
図11を参照して、サーバ150の制御構造について説明する。図11は、ある実施の形態に従うサーバ150のプロセッサ151が実行する処理の一部を表わすフローチャートである。ある局面において、サーバ150は、仮想空間を介した通信サービスを提供する事業者によって運営される。図11に示される処理は、各コンピュータ200,200N,200Xのうち少なくとも二つのコンピュータが互いに通信可能である場合に実行される。以下、コンピュータ200,200N,200Xが互いに通信可能な状態にあるとして、処理を説明する。
ステップS1110にて、プロセッサ151は、各コンピュータ200,200N,200Xからの信号をそれぞれ受信して、各コンピュータの他のコンピュータとの通信速度を検出する。ステップS1120にて、プロセッサ151は、検出した結果を参照して、通信速度が最も遅いコンピュータを特定する。ステップS1130にて、プロセッサ151は、通信速度が最も遅いコンピュータであることを示す情報が付された信号を当該コンピュータ以外のコンピュータにそれぞれ送信する。
例えば、ある通信セッションにおいて、コンピュータ200Nの通信速度が最も遅い場合、プロセッサ151は、コンピュータ200Nの識別番号と、通信速度が最も遅いコンピュータであることを表わす記号とを含む信号を、他のコンピュータ200,200Xに送信する。コンピュータ200,200Xのプロセッサ10は、その信号をサーバ150から受信すると、当該セッションの識別番号と、コンピュータ200Nの識別番号と、当該記号とを関連付けてメモリ11に保存する。
コンピュータ200がコンピュータ200Nから信号を受信すると、コンピュータ200のプロセッサ10は、その信号に基づいて、コンピュータ200のユーザ190Nのアバターオブジェクトを作成する。このとき、プロセッサ10は、メモリ11を参照し、通信速度が遅いコンピュータが登録されているか否かを確認する。例えば、通信速度が遅いコンピュータとしてコンピュータ200Nに関する情報(識別番号、当該記号)がメモリ11に格納されている場合、プロセッサ10は、コンピュータ200Nから受信したデータに基づいてユーザ190Nのアバターオブジェクトを生成する場合、他のコンピュータ200Xのユーザ190Xのアバターオブジェクトの表示態様とは異なる態様で、そのアバターオブジェクトを表示する。
図12を参照して、通信環境の検出のさらに別の態様について説明する。図12は、HMD110のプロセッサが実行する処理の一部を表わすフローチャートである。各コンピュータの通信速度その他の通信環境の検出は、サーバ150、各コンピュータに限られない。例えば、HMD110が演算機能を有する場合、HMD110が、通信速度の遅いコンピュータを検出してもよい。そこで、図12を参照して、HMD110の制御構造について説明する。
ステップS1210にて、HMD110のプロセッサは、他のHMD110N,110Xに接続されているコンピュータ200N,200Xから送信された信号を、サーバ150およびコンピュータ200を介して、それぞれ受信する。ステップS1220にて、プロセッサは、各コンピュータからそれぞれ受信した信号に基づいて、通信速度が最も遅いコンピュータを特定する。ステップS1230にて、プロセッサは、通信速度が最も遅いコンピュータから受信した信号に基づくアバターオブジェクトを他のアバターオブジェクトの表示態様と異なる態様で表示する。
例えば、コンピュータ200に接続されたHMD110は、コンピュータ200N,200Xからそれぞれ送られる信号に基づいて、通信速度が最も遅いコンピュータを特定する。HMD110は、その特定したコンピュータのユーザのアバターオブジェクトを、他のコンピュータのユーザのアバターオブジェクトとは異なる態様で表示するためのデータを生成する。さらに、HMD110は、その生成したデータに基づく画像をモニタ112に表示する。
次に、図13〜図16を参照して、アバターオブジェクトの表示態様について説明する。図13〜図16は、ある実施の形態に従って視界画像としてユーザに視認され得る画像の一例を表わす図である。
例えば、ユーザ190がコントローラ160を操作してチャットアプリケーションを起動し、仮想空間2におけるチャットの開始を指示すると、その時に当該チャットアプリケーションを実行してオンライン状態にある他のユーザ190N,190Xが使用するコンピュータ200N,200Xとの通信が確立される。その後、各HMD110には、通信可能なユーザのアバターオブジェクトがそれぞれ提示される。通信が確立されると、各コンピュータ200,200N,200X、あるいは、チャットサービスを提供するサーバ150は、各コンピュータ間の通信環境を検出する。通信環境は、通信速度、画像の解像度等を含み得る。
図13を参照して、ある局面において、ユーザ190は、コンピュータ200に接続されたHMD110によって提示される視界画像1300を視認する。状態Aに示されるように、視界画像1300は、コンピュータ200が通信している他のコンピュータ200N,200Xのアバターオブジェクト1320,1310を含む。その後、コンピュータ200が、コンピュータ200Nとの通信状態が他のコンピュータ200Xとの通信状態よりも劣ることを検知し得る。通信状態が劣ることは、例えば、コンピュータ200Nとの通信速度が他のコンピュータ200Xとの通信速度よりも遅いこと、コンピュータ200Nに接続されているHMD110のモニタ112の解像度がコンピュータ200Xに接続されているHMD110のモニタ112の解像度よりも低いこと等を含み得る。
通信状態が劣ることが検知されると、状態Bの視界画像1330として示されるように、アバターオブジェクト1320は、アバターオブジェクト1310の表示態様とは異なる態様で表示される。例えば、状態Bの点線で示されるように、アバターオブジェクト1320は、アバターオブジェクト1310の解像度よりも低い解像度で視界画像1330に提示される。
さらに、別の局面において、状態Bに例示されているように、通信状態が劣るユーザがチャット相手に含まれていることを示すオブジェクト1340が視界画像1330に表示され得る。オブジェクト1340が表示されることにより、ユーザ190は、そのようなユーザが存在していることを容易に認識できるので、例えば、その後の発話の速度を調整しやすくなる。
図14は、ある実施の形態に従って、通信状態が劣るユーザがチャット相手に含まれる場合に視界画像に含まれるアバターオブジェクトの他の表示態様を例示する図である。
状態Aに示されるように、コンピュータ200とコンピュータ200N,200Xとが通信を確立すると、初期状態として、視界画像1400は、コンピュータ200N,200Xのユーザに対応するアバターオブジェクト1420,1410をそれぞれ提示する。
状態Bに示されるように、その後、コンピュータ200Nとの通信状態が劣ることが検出されると、アバターオブジェクト1420のサイズは、アバターオブジェクト1410のサイズよりも小さくされる。また、アバターオブジェクト1420は、アバターオブジェクト1410から離れた位置に提示され得る。さらに、オブジェクト1340が提示され得る。ユーザ190は、アバターオブジェクト1420の表示態様の変化を認識すると、アバターオブジェクト1420を使用するユーザ190Nのコンピュータ200Nとの通信環境が、他のユーザ190Xが使用するコンピュータ200Xとの通信環境よりも劣ることを知ることができる。その結果、ユーザ190は、ゆっくりと発話することにより、ユーザ190Nは、ユーザ190の発話に応対できるので、各ユーザは、ストレスを感じることなく、仮想空間2を介したチャットを楽しむことができる。
図15は、ある実施の形態に従う、通信速度が劣るコンピュータ200Nのユーザ190が装着しているHMD110Nによって提示される視界画像を表わす図である。
状態Aに示されるように、ユーザ190Nと他のユーザ190,190Xとの間で通信が確立されると、HMD110Nのモニタ112は、初期画像として、ユーザ190,190Xに対応するアバターオブジェクト1510,1520をそれぞれ表示する。その後、コンピュータ200Nが、自身の通信環境が他のコンピュータ200,200Xの通信環境(通信速度、モニタ112の解像度など)よりも劣ることを検知する。この検知は、例えば、公知の通信速度の測定結果に基づいて、あるいは、通信環境の検出結果としてサーバ150から通知される結果に基づいて行なわれる。
その検知の結果、状態Bに示されるように、アバターオブジェクト1510,1520は、当初提示されていた場所よりも遠方の場所に提示され得る。また、アバターオブジェクト1510,1520のサイズは、当初提示されていた時のサイズよりも小さくされ得る。さらに、コンピュータ200Nの通信環境が、現在通信が確立している他のコンピュータ200,200Xの各通信環境よりも劣ることを示すオブジェクト1540が視界画像1530に提示される。ユーザ190Nは、視界画像1530に含まれるアバターオブジェクト1510,1520の上記のような表示態様や、オブジェクト1540を視認することにより、コンピュータ200Nの通信環境が良くないことを認識する。その後、ユーザ190Nは、発話の内容を減らす、あるいは、文字によるメッセージを送信するなどして、他のユーザ190,190Xとのチャットを進めることができるので、通信環境の不一致によるストレスを抑制することができる。
図16は、ある実施の形態に従う、通信速度が劣るコンピュータ200Nのユーザ190が装着しているHMD110Nによって提示される視界画像の他の例を表わす図である。
状態Aは、各コンピュータとの通信が確立された後の初期状態における視界画像1600を表わす。このとき、視界画像1600は、図15の状態Aの場合と同様に、予め定められた通常の表示態様で示されるアバターオブジェクト1510,1520を含む。その後、コンピュータ200Nは、その通信環境が他のコンピュータ200,200Xの通信環境よりも劣ることを検知し得る。
状態Bに示されるように、この検知に応答して、視界画像1600の視認性が低下し得る。例えば、ぼかし処理が視界画像1600に対して行われる。あるいは、画面の輝度が低下される。このようにすると、ユーザ190Nは、自らが使用するコンピュータ200Nの通信環境が、チャット相手によって使用されるコンピュータ200またはコンピュータ200Xの通信環境よりも劣ることを、容易に認識できる。その結果、その後のチャットにおいて、発話スピードの調整、通信環境の低下の影響が小さくなる可能性があるテキストメッセージを使用する頻度の増加等のような適切な対応がユーザ190によってとられる。その結果、仮想空間2を介したコミュニケーションのストレスが抑制され得る。
以上のようにして、ある実施の形態に従うと、仮想空間2を介して二人以上のユーザ190,190N,190Xがチャットその他の通信を行う場合に、いずれかのユーザの通信環境が他のユーザの通信環境よりも劣る場合、通信環境が劣る旨が当該いずれかのユーザに対して通知される。あるいは、その旨が仮想空間2を介して通信を行っている全てのユーザに対して通知される。例えば、その旨のメッセージあるいはその旨を通知するアイコンが、当該ユーザが装着するHMDのモニタあるいは当該ユーザが使用するコンピュータのモニタに表示される。このようにすると、当該ユーザは、他のユーザに対して、発話をゆっくりしたり、あるいは、他のユーザにその旨を知らせてゆっくり発話するように依頼できる。その結果、各ユーザは、他のユーザに配慮しながらコミュニケーションをとることができるので、ストレスが抑制され得る。
なお、上述の実施の形態では、あるユーザの通信環境が他のユーザよりも劣る旨は、当該あるユーザに対して通知される例が説明されている。通知先は当該あるユーザに限られない。別の局面において、その旨の通知は、他のユーザに対して通知されてもよい。通知の態様は、図13〜図16に示される態様と同様であってもよい。このようにすると、他のユーザは、通信環境が劣るユーザが通信相手に含まれることを容易に認識できるので、ゆっくり発話すること、発話の代わりにテキスト通信の仕様を提案すること等を、通信環境が劣るユーザを含む通話相手に提案しやすくなり、コミュニケーションの円滑化が実現され得る。
上記の技術的特徴は、例えば、以下のように要約され得る。
(構成1) ある実施の形態に従うと、仮想空間2を介して通信するためにコンピュータ(例えば、200,200N,200X)で実行される方法、あるいは、当該方法をコンピュータに実現させるための命令を格納した一時的でないコンピュータ読み取り可能なデータ記録媒体が提供される。この方法は、コンピュータ200に接続されているHMD110で提供される仮想空間2を定義するステップと、コンピュータ200と通信可能に接続されている他の装置(例えば、コンピュータ200N,200X、HMD110N,110X、サーバ150等)から送られる信号に基づいて、他の装置との通信環境を検知するステップと、通信環境に応じた態様で、他のHMD110N,110Xのユーザ190N,190Xに対応するアバターオブジェクトを仮想空間2に提示するステップとを含む。
(構成2) ある実施の形態に従うと、アバターオブジェクトを仮想空間2に提示するステップは、通信環境が予め定められた基準を下回るHMD(例えば、HMD110N,110Xのいずれか)のユーザに対応するアバターオブジェクトの表示態様を、通信環境が予め定められた基準以上である他のHMDのユーザに対応するアバターオブジェクトの表示態様とは異なる態様で、当該ユーザのアバターオブジェクトを提示することを含む。
(構成3) ある実施の形態に従うと、アバターオブジェクトを仮想空間2に提示するステップは、1つ以上の他のHMDの各々の通信環境のうち最も劣る通信環境に応じた態様で、各アバターオブジェクトを提示することを含む。
(構成4) ある実施の形態に従うと、通信環境を検知するステップは、当該ヘッドマウントデバイスの画質を表わす情報を受信することを含む。アバターオブジェクトを仮想空間2に提示するステップは、画質に応じたアバターオブジェクトを仮想空間2に提示することを含む。
(構成5) ある実施の形態に従うと、通信環境を検知するステップは、他のHMD110N,11Xとの通信速度を検知することを含む。アバターオブジェクトを仮想空間2に提示するステップは、通信速度が予め定められた速度を下回る場合に、または、いずれかのHMDとの通信速度がその他のHMDとの通信速度を下回る場合に、予め定められた解像度よりも低い解像度でアバターオブジェクトを仮想空間2に提示することを含む。
(構成6) ある実施の形態に従うと、当該方法は、仮想空間2に提示されているアバターオブジェクトを選択するためのユーザ入力を受け付けるステップをさらに備える。アバターオブジェクトを仮想空間2に提示するステップは、入力に基づいて選択されたアバターオブジェクトを、他のアバターオブジェクトの態様とは異なる態様で提示することを含む。
(構成7) ある実施の形態に従うと、上記のいずれかに記載の方法をコンピュータ200,200N,200Xに実行させるプログラムが提供される。
(構成8) ある実施の形態に従うと、上記のプログラムを格納したメモリ11と、当該プログラムを実行するためのプロセッサ10とを備えるコンピュータ200が提供される。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 仮想カメラ、2 仮想空間、5 基準視線、10,151 プロセッサ、11,152 メモリ、12 ストレージ、13 入出力インターフェイス、14,153 通信インターフェイス、15 バス、16,112 モニタ、19 ネットワーク、21 中心、22 仮想空間画像、23 視界領域、24,25 領域、26 視界画像、30 グリップ、31 フレーム、32 天面、33,34,36,37 ボタン、38 アナログスティック、100 システム、114,120 センサ、130 モーションセンサ、133,160 コントローラ、140 注視センサ、150 サーバ、190 ユーザ。

Claims (8)

  1. 仮想空間を介して通信するためにコンピュータで実行される方法であって、
    前記コンピュータに接続されている第1のヘッドマウントデバイスで提供される仮想空間を定義するステップと、
    前記コンピュータと通信可能に接続されている1つ以上の他のヘッドマウントデバイスから送られる信号に基づいて、前記他のヘッドマウントデバイスとの通信環境を検知するステップと、
    前記通信環境に応じた態様で、当該他のヘッドマウントデバイスのユーザに対応するアバターオブジェクトを前記仮想空間に提示するステップとを含む、方法。
  2. 前記アバターオブジェクトを前記仮想空間に提示するステップは、前記通信環境が予め定められた基準を下回るヘッドマウントデバイスのユーザに対応するアバターオブジェクトの表示態様を、前記通信環境が前記予め定められた基準以上であるヘッドマウントデバイスのユーザに対応するアバターオブジェクトの表示態様とは異なる態様で、当該ユーザのアバターオブジェクトを提示することを含む、請求項1に記載の方法。
  3. 前記アバターオブジェクトを前記仮想空間に提示するステップは、前記1つ以上の他のヘッドマウントデバイスの各々の通信環境のうち最も劣る通信環境に応じた態様で、各アバターオブジェクトを提示することを含む、請求項1に記載の方法。
  4. 前記通信環境を検知するステップは、当該ヘッドマウントデバイスの画質を表わす情報を受信することを含み、
    前記アバターオブジェクトを前記仮想空間に提示するステップは、前記画質に応じたアバターオブジェクトを前記仮想空間に提示することを含む、請求項1から3のいずれかに記載の方法。
  5. 前記通信環境を検知するステップは、当該ヘッドマウントデバイスとの通信速度を検知することを含み、
    前記アバターオブジェクトを前記仮想空間に提示するステップは、前記通信速度が予め定められた速度を下回る場合に、または、前記通信速度がその他のヘッドマウントデバイスとの通信速度を下回る場合に、予め定められた解像度よりも低い解像度で前記アバターオブジェクトを前記仮想空間に提示することを含む、請求項1から3のいずれかに記載の方法。
  6. 前記仮想空間に提示されているアバターオブジェクトを選択するためのユーザ入力を受け付けるステップをさらに備え、
    前記アバターオブジェクトを前記仮想空間に提示するステップは、前記入力に基づいて選択されたアバターオブジェクトを、他のアバターオブジェクトの態様とは異なる態様で提示することを含む、請求項1〜5のいずれかに記載の方法。
  7. 請求項1〜6のいずれかに記載の方法をコンピュータに実行させる、プログラム。
  8. 請求項7に記載のプログラムを格納したメモリと、
    前記プログラムを実行するためのプロセッサとを備える、情報処理装置。
JP2016250989A 2016-12-26 2016-12-26 仮想空間を介して通信するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、情報処理装置 Active JP6250779B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016250989A JP6250779B1 (ja) 2016-12-26 2016-12-26 仮想空間を介して通信するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、情報処理装置
US15/853,921 US10319346B2 (en) 2016-12-26 2017-12-25 Method for communicating via virtual space and system for executing the method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016250989A JP6250779B1 (ja) 2016-12-26 2016-12-26 仮想空間を介して通信するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、情報処理装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017224075A Division JP2018102911A (ja) 2017-11-21 2017-11-21 仮想空間を介して通信するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、情報処理装置

Publications (2)

Publication Number Publication Date
JP6250779B1 JP6250779B1 (ja) 2017-12-20
JP2018106364A true JP2018106364A (ja) 2018-07-05

Family

ID=60685632

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016250989A Active JP6250779B1 (ja) 2016-12-26 2016-12-26 仮想空間を介して通信するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、情報処理装置

Country Status (2)

Country Link
US (1) US10319346B2 (ja)
JP (1) JP6250779B1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10402783B2 (en) * 2014-06-26 2019-09-03 Microsoft Technology Licensing, Llc Method of automatically re-organizing structured data in a reporting system based on screen size by executing computer-executable instructions stored on a non-transitory computer-readable medium
US11917011B2 (en) * 2022-01-10 2024-02-27 Meta Platforms Technologies, Llc Resilient rendering for augmented-reality devices

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009095030A (ja) * 2007-10-09 2009-04-30 Lg Electronics Inc 携帯端末機及びその動作制御方法
JP2013518351A (ja) * 2010-01-26 2013-05-20 ソーシャル・コミュニケーションズ・カンパニー 空間的な通信環境のためのウェブブラウザインタフェイス
JP2013175929A (ja) * 2012-02-24 2013-09-05 Nikon Corp 情報出力装置、及び情報出力方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6442379B2 (ja) 2015-08-04 2018-12-19 株式会社 ディー・エヌ・エー ビデオチャットを提供するサーバ、プログラム及び方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009095030A (ja) * 2007-10-09 2009-04-30 Lg Electronics Inc 携帯端末機及びその動作制御方法
JP2013518351A (ja) * 2010-01-26 2013-05-20 ソーシャル・コミュニケーションズ・カンパニー 空間的な通信環境のためのウェブブラウザインタフェイス
JP2013175929A (ja) * 2012-02-24 2013-09-05 Nikon Corp 情報出力装置、及び情報出力方法

Also Published As

Publication number Publication date
JP6250779B1 (ja) 2017-12-20
US20180247612A1 (en) 2018-08-30
US10319346B2 (en) 2019-06-11

Similar Documents

Publication Publication Date Title
JP6257827B1 (ja) 仮想空間を提供するためにコンピュータで実行される方法、プログラム、および、情報処理装置
JP6306765B1 (ja) 仮想空間を移動するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラムおよび情報処理装置
JP6298523B1 (ja) 仮想空間を介して通信するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるためのプログラム、およびコンピュータ装置
JP6257826B1 (ja) 仮想空間を提供するためにコンピュータで実行される方法、プログラム、および、情報処理装置
US10515481B2 (en) Method for assisting movement in virtual space and system executing the method
JP6495398B2 (ja) 仮想空間を提供するための方法、プログラム、および当該プログラムを実行するための情報処理装置
JP6457446B2 (ja) 仮想空間におけるコミュニケーションを支援するための方法および装置ならびに当該方法をコンピュータに実行させるためのプログラム
JP6250779B1 (ja) 仮想空間を介して通信するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、情報処理装置
JP2019040303A (ja) ヘッドマウントデバイスを介して仮想空間をユーザに提供するための方法、プログラム及びコンピュータ
JP2019133309A (ja) プログラム、情報処理装置、及び情報処理方法
JP6278546B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6382928B2 (ja) 仮想空間における画像の表示を制御するためにコンピュータによって実行される方法、当該方法をコンピュータに実現させるためのプログラム、および、コンピュータ装置
JP2018142319A (ja) 仮想空間を移動するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラムおよび情報処理装置
JP2018032384A (ja) 仮想空間におけるコミュニケーションを支援するための方法および装置ならびに当該方法をコンピュータに実行させるためのプログラム
JP2018170013A (ja) 仮想空間における画像の表示を制御するためにコンピュータによって実行される方法、当該方法をコンピュータに実現させるためのプログラム、および、コンピュータ装置
JP2018206340A (ja) 仮想空間を提供するためにコンピュータで実行される方法、プログラム、および、情報処理装置
JP2019033906A (ja) 情報処理方法、プログラム及びコンピュータ
JP2018101293A (ja) ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンピュータ装置
JP6639563B2 (ja) 画像表示装置を介して仮想体験をユーザに提供するためのプログラム、コンピュータ及び方法
JP6321247B1 (ja) 仮想空間を移動するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラムおよび情報処理装置
CN114026526A (zh) 程序、信息处理方法及信息处理装置
JP2019145120A (ja) 仮想空間を提供するための方法、プログラム、および当該プログラムを実行するための情報処理装置
JP2018102911A (ja) 仮想空間を介して通信するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、情報処理装置
JP2019155115A (ja) プログラム、情報処理装置、及び情報処理方法
JP2018206353A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171011

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171024

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171122

R150 Certificate of patent or registration of utility model

Ref document number: 6250779

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D04

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250