JP7300287B2 - 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法 - Google Patents

画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法 Download PDF

Info

Publication number
JP7300287B2
JP7300287B2 JP2019053213A JP2019053213A JP7300287B2 JP 7300287 B2 JP7300287 B2 JP 7300287B2 JP 2019053213 A JP2019053213 A JP 2019053213A JP 2019053213 A JP2019053213 A JP 2019053213A JP 7300287 B2 JP7300287 B2 JP 7300287B2
Authority
JP
Japan
Prior art keywords
virtual camera
rotation
amount
virtual
change
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019053213A
Other languages
English (en)
Other versions
JP2020154792A (ja
Inventor
祐貴 小野沢
大悟 清水
健太朗 河合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nintendo Co Ltd
Original Assignee
Nintendo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nintendo Co Ltd filed Critical Nintendo Co Ltd
Priority to JP2019053213A priority Critical patent/JP7300287B2/ja
Priority to US16/808,761 priority patent/US11752430B2/en
Priority to EP20161878.2A priority patent/EP3712750A1/en
Publication of JP2020154792A publication Critical patent/JP2020154792A/ja
Priority to JP2023099844A priority patent/JP7471497B2/ja
Application granted granted Critical
Publication of JP7300287B2 publication Critical patent/JP7300287B2/ja
Priority to US18/359,118 priority patent/US20230364511A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/52Controlling the output signals based on the game progress involving aspects of the displayed game scene
    • A63F13/525Changing parameters of virtual cameras
    • A63F13/5258Changing parameters of virtual cameras by dynamically adapting the position of the virtual camera to keep a game object or game character in its viewing frustum, e.g. for tracking a character or a ball
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0132Head-up displays characterised by optical features comprising binocular systems
    • G02B2027/0134Head-up displays characterised by optical features comprising binocular systems of stereoscopic type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0132Head-up displays characterised by optical features comprising binocular systems
    • G02B2027/0136Head-up displays characterised by optical features comprising binocular systems with a single image source for both eyes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking

Description

本発明は、画像を表示することが可能な画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法に関する。
先行技術として、仮想空間にオブジェクトを配置し、仮想空間内を移動しつつ、仮想カメラの視線をオブジェクトに向けることでオブジェクトを表示させる画像表示システムがある(例えば、特許文献1参照)。
特開2014-235469号公報
しかしながら、上記先行技術ではオブジェクトを表示させるために、例えばユーザが仮想カメラの視線をオブジェクトに向ける操作を行う必要がある場合があり、オブジェクトの操作性を向上させるという観点では改善の余地があった。
それ故、本発明の目的は、仮想空間に配置されたオブジェクトの操作性を向上させることが可能な画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法を提供することである。
上記の課題を解決すべく、本発明は、以下の構成を採用した。
本発明の画像表示システムは、ゴーグル装置と、配置手段と、表示制御手段と、姿勢取得手段と、カメラ回転手段と、検知手段と、制御手段と、を備える。表示制御手段は、仮想空間にオブジェクトを配置する。オブジェクト配置手段は、前記仮想空間の仮想カメラによって撮像される画像を前記ゴーグル装置の表示部に表示させる。姿勢取得手段は、前記ゴーグル装置の姿勢を取得する。カメラ回転手段は、前記ゴーグル装置の姿勢に基づいて、前記仮想カメラを前記仮想空間において回転させる。検知手段は、前記仮想カメラの視線が、所定の回転方向における一方向から他方向に変化したことを検知する。制御手段は、前記検知手段によって前記変化が検知されたことに基づいて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う。
上記によれば、仮想カメラの視線が所定の回転方向における一方向から他方向に変化した場合、オブジェクトを移動させたり仮想カメラを制御することで、オブジェクトを仮想カメラの撮像範囲内に位置するようにすることができる。これにより、ゴーグル装置を用いて仮想空間を見る場合においてオブジェクトの操作性を向上させることができる。
また、他の構成では、前記画像表示システムは、前記仮想カメラの回転量を算出する算出手段をさらに備えてもよい。前記制御手段は、少なくとも前記検知手段によって前記変化が検知されたこと、および、前記回転量に基づいて、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行ってもよい。
上記によれば、検知手段によって一方向から他方向への変化が検知されたことに加えて、仮想カメラの回転量に基づいて前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記制御手段は、前記検知手段によって前記変化が検知された場合において、当該検知された後の前記回転量が所定値以上である場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行ってもよい。
上記によれば、仮想カメラの視線が所定の回転方向における一方向から他方向に変化した後の仮想カメラの回転量に基づいて、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記算出手段は、前記所定の回転方向における前記他方向及び/又は前記一方向への回転量を算出してもよい。前記制御手段は、前記所定の回転方向における前記他方向及び/又は前記一方向への回転量に基づいて、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行ってもよい。
上記によれば、前記所定の回転方向における前記他方向及び/又は前記一方向への回転量に基づいて、前記オブジェクトの移動又は前記仮想カメラの制御を行うことができる。これにより、例えば誤検知によりオブジェクトの移動及び/又は前記仮想カメラの制御をしてしまうことを防止することができる。
また、他の構成では、前記制御手段は、前記検知手段によって前記変化が検知された場合において、前記他方向及び/又は前記一方向への回転量が所定値以上である場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行ってもよい。
上記によれば、仮想カメラの視線が所定の回転方向における一方向から他方向に変化した場合において、当該他方向及び/又は前記一方向への回転量が所定値以上になった場合に、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。これにより、例えば誤検知によりオブジェクトの移動及び/又は前記仮想カメラの制御をしてしまうことを防止することができる。
また、他の構成では、前記制御手段は、前記検知手段によって前記変化が検知された後の前記他方向及び/又は前記一方向への回転量の累積値が所定値以上である場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行ってもよい。
上記によれば、仮想カメラの視線が一方向から他方向に変化した場合において、他方向への変化量の累積値が所定値以上になった場合に、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。これにより、例えば誤検知によりオブジェクトの移動及び/又は前記仮想カメラの制御をしてしまうことを防止することができる。
また、他の構成では、前記算出手段は、前記所定の回転方向における前記一方向への第1回転量、および、前記所定の回転方向における前記他方向への第2回転量を算出してもよい。前記画像表示システムは、前記第1回転量と前記第2回転量とを比較する比較手段をさらに備えてもよい。前記検知手段は、前記比較手段の比較結果に基づいて、前記変化を検知してもよい。
上記によれば、一方向への回転量と他方向への回転量とを比較することで、仮想カメラの視線の一方向から他方向への変化を検知することができ、簡易な方法で前記変化を検知することができる。
また、他の構成では、前記検知手段は、前記第1回転量および前記第2回転量のうちの小さい方に基づいて、前記変化を検知してもよい。
上記によれば、簡易な計算で前記変化を検知することができる。
また、他の構成では、前記算出手段は、前記第1回転量の累積値、および、前記第2回転量の累積値を算出してもよい。前記検知手段は、前記第1回転量の累積値、および、前記第2回転量の累積値のうちの小さい方に基づいて、前記変化を検知してもよい。
上記によれば、前記所定の回転方向における一方向から他方向に変化したことを検知することができる。
また、他の構成では、前記カメラ回転手段は、少なくとも、前記仮想カメラの撮像範囲内に前記オブジェクトの少なくとも一部が位置する第1姿勢、および、前記仮想カメラの撮像範囲外に前記オブジェクトが位置する第2姿勢となるように、前記仮想カメラを回転させてもよい。前記一方向は、前記仮想カメラが前記第2姿勢に近づく方向であり、前記他方向は、前記仮想カメラが前記第1姿勢に近づく方向であってもよい。
上記によれば、仮想カメラの撮像範囲内に前記オブジェクトが含まれるように仮想カメラを回転させた場合に、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記カメラ回転手段は、少なくとも、前記仮想カメラが前記オブジェクトを向く第1姿勢、および、前記仮想カメラが前記オブジェクトを向かない第2姿勢となるように、前記仮想カメラを回転させてもよい。前記一方向は、前記仮想カメラが前記第1姿勢から離れる方向であり、前記他方向は、前記仮想カメラが前記第1姿勢に近づく方向であってもよい。
上記によれば、仮想カメラがオブジェクトを向くように仮想カメラを回転させた場合に、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記検知手段は、前記仮想カメラが前記第2姿勢である場合において、前記仮想カメラの視線が前記他方向に回転したとき、前記変化を検知し、前記仮想カメラが前記第2姿勢である場合において、前記仮想カメラの視線が前記他方向に回転することなく前記一方向に回転しているとき、又は、前記仮想カメラの視線が回転していないとき、前記変化を検知しなくてもよい。前記制御手段は、前記変化が検知された場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行い、前記変化が検知されていない場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行わないようにしてもよい。
上記によれば、仮想カメラが第2姿勢(撮像範囲外にオブジェクトが位置する姿勢、仮想カメラがオブジェクトを向かない姿勢)である場合に、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。また、仮想カメラが第2姿勢である場合において、仮想カメラの視線が他方向に回転した場合に、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記第2姿勢は、前記仮想カメラの視線の左右方向に前記オブジェクトが存在する姿勢であってもよい。
上記によれば、仮想カメラの視線がオブジェクトに対して左右方向を向いている場合において、前記変化を検知した場合、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記所定の回転方向は、前記仮想空間におけるヨー方向であってもよい。
上記によれば、仮想カメラの視線がヨー方向における一方向(例えば左方向)から他方向(例えば右方向)に変化したことを検知し、当該変化を検知したことに基づいて、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記カメラ回転手段は、前記仮想カメラの視線を、前記所定の回転方向と直交する第2の回転方向に回転させることが可能であってもよい。前記検知手段は、さらに、前記仮想カメラの視線が前記第2の回転方向における一方向から他方向に変化したことを検知してもよい。
上記によれば、所定の回転方向に加えて、第2の回転方向に関して一方向から他方向への変化を検知することができ、当該変化を検知したことに基づいて、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記所定の回転方向は、前記仮想空間におけるピッチ方向であってもよい。
上記によれば、仮想カメラの視線がピッチ方向における一方向(例えば上方向)から他方向(例えば下方向)に変化したことを検知し、当該変化を検知したことに基づいて、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記オブジェクトは、ユーザが操作可能なユーザインターフェイスであってもよい。
上記によれば、ユーザインターフェイスが前記仮想カメラの撮像範囲内に位置するように、例えばユーザインターフェイスを移動させることができる。これにより、ユーザインターフェイスの操作性を向上させることができる。
また、他の構成では、前記画像表示システムは、前記ユーザインターフェイスを指示するポインタを設定するポインタ設定手段をさらに備えてもよい。前記検知手段は、前記ユーザインターフェイスを基準とする所定の領域に前記ポインタがない場合、前記変化を検知してもよい。
上記によれば、例えば、ユーザインターフェイスの表示領域にポインタが位置しない場合に、前記変化を検知することができる。これにより、例えば、ユーザインターフェイスの表示領域にポインタが位置する場合は、前記変化を検知したことに基づいてユーザインターフェイスを移動させないようにすることができ、操作性を向上させることができる。
また、他の構成では、前記検知手段は、前記所定の領域に前記ポインタがない場合、前記所定の回転方向における前記一方向および前記他方向の回転の変化量を算出してもよい。
上記によれば、例えば、ユーザインターフェイスの表示領域にポインタが位置しない場合に前記変化量を算出し、ユーザインターフェイスの表示領域にポインタが位置する場合には前記変化量を算出しないようにすることができ、変化量の算出にかかる負荷を低減することができる。
また、他の構成では、前記検知手段は、前記ポインタが前記所定の領域に入った場合、前記変化量をリセットしてもよい。
上記によれば、前記ポインタが前記所定の領域に入ったり、前記所定の領域から出たりする場合でも、前記所定の領域から出た後の変化量に基づいて、前記変化を検知することができる。
また、他の構成では、前記一方向は、前記ポインタが前記所定の領域から離れる方向であってもよい。前記検知手段は、前記ポインタが前記所定の領域から離れる方向への移動中に前記ポインタの移動方向が反転した場合に、前記変化を検知してもよい。
上記によれば、前記ポインタが所定の領域から離れる方向に移動しているときにポインタの移動方向が反転した場合に、仮想カメラの視線の一方向から他方向への変化を検知することができ、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記検知手段は、前記オブジェクトを基準とした前記仮想カメラの視線が所定の角度である場合に、前記変化を検知してもよい。
上記によれば、仮想カメラの視線がオブジェクトに対して所定の角度を有している場合に、前記変化を検知することができる。
また、他の構成では、前記画像表示システムは、前記仮想カメラの姿勢に応じて前記オブジェクトを選択する選択手段をさらに備えてもよい。前記制御手段は、前記選択手段によって前記オブジェクトが選択されていない場合に、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行ってもよい。
上記によれば、オブジェクトが選択されていない場合に、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記画像表示システムは、前記検知手段によって前記変化が検知されていない場合でも、ユーザによる所定の操作に応じて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行う第2制御手段をさらに備えてもよい。
上記によれば、前記変化が検知されたか否かにかかわらず、所定の操作に応じて前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。
また、他の構成では、前記検知手段は、前記仮想カメラの視線の前記一方向から前記他方向への反転、および、前記他方向から前記一方向への反転の回数が所定回数になったことを検知してもよい。前記制御手段は、前記検知手段によって前記反転の回数が所定回数になったことが検知された場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行ってもよい。
上記によれば、仮想カメラの視線の反転回数に基づいて、前記オブジェクトの移動及び/又は前記仮想カメラの制御を行うことができる。これにより、例えば誤検知を防止することができる。
また、他の発明は、ゴーグル装置の表示部に画像を表示させる装置のプロセッサを、上記各手段として機能させる画像表示プログラムであってもよい。また、他の発明は、ゴーグル装置の表示部に画像を表示させる表示制御装置であって、上記各手段を備える装置であってもよい。また、他の発明は、ゴーグル装置を含む上記画像表示システムにおいて行われる画像表示方法であってもよい。
本発明によれば、仮想カメラの視線が所定の回転方向における一方向から他方向に変化した場合に、オブジェクトを仮想カメラの撮像範囲内に位置するようにすることができ、ゴーグル装置を用いて仮想空間を見る場合においてオブジェクトの操作性を向上させることができる。
本実施形態における画像表示システム1の一例を示す図 画像表示システム1に含まれる、表示部21を有する情報処理装置2の外観の一例を示す図 情報処理装置2の機能構成の一例を示す図 ユーザがゴーグル装置10を使用するときの様子を示す図 仮想空間VSの一例を示す図 ゴーグル装置10が基準姿勢に維持されているときの仮想空間を上方から見た図 ゴーグル装置10が基準姿勢からヨー方向(左方向)に回転されたときの仮想空間を上方から見た図 ゴーグル装置10が図6Bの状態からさらにヨー方向(左方向)に回転されたときの仮想空間を上方から見た図 ユーザに視認される画像の一例であって、図6Aに示す姿勢の仮想カメラVC(VCL又はVCR)から仮想空間を見た画像の一例を示す図 ユーザに視認される画像の一例であって、図6Bに示す姿勢の仮想カメラVCから仮想空間を見た画像の一例を示す図 ユーザに視認される画像の一例であって、図6Cに示す姿勢の仮想カメラVCから仮想空間を見た画像の一例を示す図 図6Cに示される姿勢においてゴーグル装置10を右方向に所定の角度だけ反転させた場合にUIオブジェクト30が仮想カメラVCの正面に移動する様子を示した図 UIオブジェクト30が移動される領域の一例を示す図 仮想カメラVCを仮想空間の上方から見た図であって、仮想カメラVCを左方向に回転させた後、右方向に回転させたときの一例を示す図 仮想カメラVCを仮想空間の横方向から見た図であって、仮想カメラVCを下方向に回転させた後、上方向に回転させたときの一例を示す図 仮想カメラVCの視線がA領域にある場合においてUIオブジェクト30が移動する様子を示した図 仮想カメラVCの視線が下方向に回転しA領域に入った場合において表示部21に表示される画像の一例を示す図 図13Aの状態から仮想カメラVCが左方向に回転したときに表示部21に表示される画像の一例を示す図 情報処理装置2(のDRAM23)に記憶されるデータの一例を示す図 情報処理装置2のプロセッサ20において行われるメイン処理の一例を示すフローチャート ステップS106のB領域における移動処理の一例を示すフローチャート
(画像表示システムの構成)
以下、図面を参照して、本実施形態の画像表示システム1について説明する。本実施形態の画像表示システム1は、ユーザにバーチャルリアリティ(VR)を体験させるシステムである。図1は、本実施形態における画像表示システム1の一例を示す図である。図2は、画像表示システム1に含まれる、表示部21を有する情報処理装置2の外観の一例を示す図である。
図1に示すように、画像表示システム1は、ゴーグル装置10を含む。ゴーグル装置10は、ユーザの両手又は片手で把持され、ユーザの左右の目を覆うようにしてユーザの顔に当てられる。
ゴーグル装置10は、上面11と、右側面12と、下面13と、左側面14と、底面15とを含む。これらの面11~15によって、ゴーグル本体が形成される。また、ゴーグル装置10の底面15には、ユーザの左目に対応する位置に略円形の左開口16Lが設けられ、ユーザの右目に対応する位置に略円形の右開口16Rが設けられる。左開口16Lおよび右開口16Rには、それぞれレンズが嵌合されている。また、ゴーグル装置10の面11~15によって囲まれる内側の空間には、ゴーグル装置10の内側の空間を左右に区切る仕切り面17が設けられる。
また、ゴーグル装置10は、表示部21を備える。具体的には、ゴーグル本体の底面15の裏側には、表示部21を備える情報処理装置2が設けられる。底面15の裏側に設けられた情報処理装置2の表示部21の一部が、レンズを介して左開口16Lおよび右開口16Rからユーザに視認される。図2に示されるように、表示部21は、横長の略長方形の表示画面である。図2の左側の破線で囲まれた左領域21Lが、左開口16Lに設けられたレンズを介してユーザの左目に視認され、右側の破線で囲まれた右領域21Rが、右開口16Rに設けられたレンズを介してユーザの右目に視認される。ユーザがゴーグル装置10を把持して顔に当てた場合、ユーザの左目は上面11、下面13、左側面14、及び仕切り面17によってほぼ囲まれ、ユーザの右目は上面11、下面13、右側面12、及び仕切り面17によってほぼ囲まれる。このため、ユーザの左目には、表示部21の左領域21Lに表示された左目画像が視認される一方、周囲の環境や右領域21Rに表示された右目画像は、左目に視認され難い。また、ユーザの右目には、表示部21の右領域21Rに表示された右目画像が視認される一方、周囲の環境や左領域21Lに表示された左目画像は、右目に視認され難い。
ゴーグル本体と表示部21とによって、ゴーグル装置10が構成される。表示部21を有する情報処理装置2は、ゴーグル本体に着脱可能に装着される。ゴーグル本体に着脱可能な情報処理装置2として、タブレット端末、スマートフォン、携帯型のゲーム装置等が用いられてもよい。
詳細は後述するが、情報処理装置2は、仮想空間を左仮想カメラから見た左目画像と、仮想空間を右仮想カメラから見た右目画像とを生成する。情報処理装置2は、生成した左目画像および右目画像を、表示部21の左領域21Lおよび右領域21Rにそれぞれ表示させる。これにより、ユーザは、立体視画像を視認することができ、自身が仮想空間に存在するかのようなバーチャルリアリティ(VR)を体験することができる。
図3は、情報処理装置2の機能構成の一例を示す図である。図3に示されるように、情報処理装置2は、表示部21に加えて、プロセッサ20と、慣性センサ22と、DRAM23と、不揮発性メモリ24とを備える。プロセッサ20はCPUとGPUとを含む。CPUは、DRAM23と協働して後述する処理を行い、GPUは、CPUからの命令に応じた画像(左目画像および右目画像)を生成する。生成された左目画像および右目画像は、表示部21の左領域21Lおよび右領域21Rにそれぞれ表示される。なお、CPUとGPUとは、それぞれ別々のチップ上に実装されてもよいし、これらはSoC(System-on-a-chip)として1つのチップ上に実装されてもよい。
また、慣性センサ22は、情報処理装置2の姿勢を検出するためのセンサである。具体的には、慣性センサ22は、角速度センサと加速度センサとを含む。角速度センサは、所定の3軸(例えば、図2に示すXYZ軸)回りの角速度を検出する。また、加速度センサは、所定の3軸(例えば、図2に示すXYZ軸)回りの加速度を検出する。
また、不揮発性メモリ24は、後述する処理を行うためのプログラムを記憶する記憶装置であり、例えば、フラッシュメモリであってもよい。なお、不揮発性メモリ24は、磁気ディスク、光ディスク等、任意の記憶装置であってもよい。
図4は、ユーザがゴーグル装置10を使用するときの様子を示す図である。図4に示されるように、ユーザは、情報処理装置2が装着されたゴーグル装置10を把持して表示部21を覗き込む。ユーザが、この状態で顔や体全体を左右方向(水平方向。あるいは「ヨー方向」ともいう)に向けたり、上下方向(鉛直方向。あるいは「ピッチ方向」ともいう)に向けたりすると、ゴーグル装置10(情報処理装置2)の姿勢が基準姿勢から変化する。基準姿勢は、例えば、ユーザが正面を向いたときのゴーグル装置10の姿勢である。例えば、基準姿勢は、ゴーグル装置10の表示部21(底面15)に沿った下方向(図2のY軸負方向)が重力方向と並行になる姿勢であってもよい。
情報処理装置2は、慣性センサ22が検出する角速度値及び/又は加速度値に基づいて、情報処理装置2(ゴーグル装置10)の姿勢を算出する。実空間における情報処理装置2(ゴーグル装置10)の姿勢に応じて、仮想空間の左仮想カメラおよび右仮想カメラの姿勢が制御される。
仮想空間には、仮想オブジェクトが配置されており、ユーザは当該仮想オブジェクトを含む仮想空間の立体視画像を視認することができる。本実施形態では、仮想空間には、仮想オブジェクトの一例として、ユーザインターフェイス(UI)オブジェクトが配置される。
図5は、仮想空間VSの一例を示す図である。図5に示すように、仮想空間VSには、xyz直交座標系が設定される。x軸は仮想空間VSの横方向の軸である。y軸は、仮想空間VSの高さ方向の軸である。z軸は、x軸およびy軸に垂直な軸であり、仮想空間の奥行き方向の軸である。
仮想空間VSには、左仮想カメラVCLと、右仮想カメラVCRとが配置される。左仮想カメラVCLおよび右仮想カメラVCRは、平均的なユーザの左右の目の間隔と同様の間隔で仮想空間に配置される。左仮想カメラVCLおよび右仮想カメラVCRから仮想空間を見た左目画像および右目画像が、ユーザの左目及び右目にそれぞれ視認されることで、ユーザは、仮想空間の立体視画像を視認する。なお、以下では、左仮想カメラVCLおよび右仮想カメラVCRを総称して「仮想カメラVC」と表記することがある。
また、仮想空間VSには、UIオブジェクト30が配置される。UIオブジェクト30は、ユーザが操作したり、ユーザに提示される情報を表示したりするための仮想オブジェクトである。例えば、UIオブジェクト30は、ユーザにメニュー機能を提供する。例えば、所定のゲームアプリケーションの実行中にUIオブジェクト30が表示され、ユーザは、当該UIオブジェクト30を用いて、ゲームにおける所定の操作を行うことができる。UIオブジェクト30は、例えば板状のオブジェクトであり、仮想空間における所定の高さの位置に、xz平面に垂直となる姿勢で配置される。
UIオブジェクト30は、ユーザが選択可能なアイコン31~34を含む。例えば、ユーザが選択しているアイコン34は、他のアイコンと異なる態様で表示されてもよい。ユーザがアイコン31~34の何れかを選択する方法は任意である。例えば、表示部21に表示される立体視画像の所定位置(例えば画像の中心)にポインタ37(図7A参照)が表示され、当該ポインタがアイコンの表示領域内にある場合、当該アイコンがユーザによって選択されたものとして処理されてもよい。この場合、ユーザは、所望のアイコンを選択する場合、当該所望のアイコンの表示領域内にポインタが入るように、ゴーグル装置10の姿勢を変化させる。また、例えば、ユーザは、情報処理装置2に無線又は有線で接続される手持ち型の操作装置を用いて、立体視画像に表示されるポインタの位置を制御してもよい。例えば、操作装置は、方向を指示することが可能な方向指示部(例えば、アナログスティック、十字キー、ボタン等)を備え、方向指示部に対する操作に基づいて、ポインタの位置が制御されてもよい。
各アイコンは、例えば、ゲームにおける操作を決定するためのアイコンであってもよいし、所定のアイテムを用いるためのアイコンであってもよい。また、各アイコンは、UIオブジェクト30によって提供されるメニュー画面に対する操作(例えば前の画面に戻る操作、決定するための操作)を行うためのアイコンであってもよい。また、各アイコンは、所定のアプリケーションを選択・起動するためのアイコンであってもよい。
また、UIオブジェクト30は、情報表示オブジェクト35を含む。情報表示オブジェクト35は、ユーザに文字や画像等を用いて情報を提供するためのオブジェクトである。
なお、仮想空間では、ゲームに限らず他の任意の活動が行われてもよい。例えば、特定の作業(例えば、飛行機や車を運転する作業)のシミュレーションが行われてもよい。仮想空間において行われる活動によって、UIオブジェクト30に含まれる各アイコンの機能(UIオブジェクト30を用いて行われる操作)が異なる。
(UIオブジェクト30の移動制御)
次に、ユーザがゴーグル装置10の表示部21を見ながらゴーグル装置10の底面15を左右方向(ヨー方向)に向けたり、上下方向(ピッチ方向)に向けたりしたときのUIオブジェクト30の制御について説明する。
図6Aは、ゴーグル装置10が基準姿勢に維持されているときの仮想空間を上方から見た図である。図6Bは、ゴーグル装置10が基準姿勢からヨー方向(左方向)に回転されたときの仮想空間を上方から見た図である。図6Cは、ゴーグル装置10が図6Bの状態からさらにヨー方向(左方向)に回転されたときの仮想空間を上方から見た図である。
図7Aは、ユーザに視認される画像の一例であって、図6Aに示す姿勢の仮想カメラVC(VCL又はVCR)から仮想空間を見た画像の一例を示す図である。図7Bは、ユーザに視認される画像の一例であって、図6Bに示す姿勢の仮想カメラVCから仮想空間を見た画像の一例を示す図である。図7Cは、ユーザに視認される画像の一例であって、図6Cに示す姿勢の仮想カメラVCから仮想空間を見た画像の一例を示す図である。なお、図7A~図7Cでは、平面的な矩形の画像が示されているが、実際には図7A~図7Cに示す画像は、立体視画像であり、左領域21L及び右表示領域21Rと同様に略円形状である。
仮想カメラVCには、仮想カメラVCに固定のカメラ座標系(XYZ座標系)が設定される。X軸は仮想カメラVCの右方向の軸であり、Y軸は仮想カメラVCの上方向の軸であり、Z軸は仮想カメラVCの視線方向の軸である。図6Aに示されるように、ゴーグル装置10(情報処理装置2)が基準姿勢に維持されている場合は、仮想カメラVCは、UIオブジェクト30を向いている。
図6Aに示すような状態では、図7Aに示すような画像が表示部21に表示される。ユーザは、表示部21に表示される左目画像及び右目画像を視認することで、図7Aに示されるような立体視画像を視認する。図7Aに示されるように、正面にはUIオブジェクト30が表示され、UIオブジェクト30の背後には、仮想空間の背景が表示される。また、例えば、立体視画像の中心となる位置にポインタ37が設定され、表示される。ユーザは、UIオブジェクト30の表示領域にポインタ37が位置するようにゴーグル装置10の姿勢を制御し、ポインタ37を用いて、UIオブジェクト30内の選択可能なアイコン31~34を選択する。なお、ポインタ37は画面に表示されず、情報処理装置2の内部的に設定されてもよい。
実空間においてゴーグル装置10をヨー方向(例えば左方向)に回転させると、図6Bに示されるように、仮想カメラVCも仮想空間におけるヨー方向(例えば左方向)に回転する。このとき、図7Bに示すような画像が表示される。具体的には、ゴーグル装置10を左方向に回転させた場合、UIオブジェクト30は、正面よりも右側に位置するように表示され、UIオブジェクト30の一部が表示されなくなる。
図6Bに示される状態からさらにゴーグル装置10を左方向に回転させると、図6Cに示されるように、仮想カメラVCはさらに左方向に回転する。このとき、図7Cに示すような画像が表示部21に表示される。具体的には、ゴーグル装置10を右方向に反転させることなく、図6Bに示される状態からさらに左方向に回転させた場合、UIオブジェクト30は、仮想カメラVCの撮像範囲から出て、表示されなくなる。この場合、UIオブジェクト30以外の仮想空間の背景が表示される。
ユーザは、図6Cに示される状態からさらにゴーグル装置10を左方向に回転させると、さらに左方向の仮想空間を視認することができる。
ここで、例えば図6Cに示される姿勢において、ユーザがゴーグル装置10を右方向に所定の角度だけ反転させた場合、UIオブジェクト30は、仮想カメラVCの正面に位置するように移動する。
図8は、図6Cに示される姿勢においてゴーグル装置10を右方向に所定の角度だけ反転させた場合にUIオブジェクト30が仮想カメラVCの正面に移動する様子を示した図である。図8において、破線の30‘は、移動する前のUIオブジェクトを示し、実線の30は、移動した後のUIオブジェクトを示す。
図8に示されるように、ゴーグル装置10が例えば左方向に回転している状態から、右方向に所定の角度だけ反転した場合、UIオブジェクト30は、仮想カメラVCの正面(左右方向における正面)に移動する。例えば、UIオブジェクト30は、その向きを変えながら左仮想カメラVCLと右仮想カメラVCRとの中間位置を中心とした円に沿って左方向に移動する。すなわち、UIオブジェクト30は、仮想カメラVCとの距離を維持したまま、xz平面に並行な面上を左方向に移動する。UIオブジェクト30は、仮想カメラVCを向くように、その向きを変えながら移動する。このため、仮想カメラVCが仮想空間におけるピッチ方向に回転していない場合は、仮想カメラVCの視線は、移動後のUIオブジェクト30に対して垂直になる。UIオブジェクト30が仮想カメラVCの正面に移動すると、表示部21には、図7Aに示すような立体視画像が表示される。
UIオブジェクト30は、1フレーム時間(例えば、1/60秒)あたり所定の距離だけ移動する。このため、ゴーグル装置10が例えば左方向に回転している状態から、右方向に所定の角度だけ反転した場合、UIオブジェクト30は、瞬間的に仮想カメラVCの正面に移動するのではなく、ある程度の時間(例えば、数~数十フレーム時間)をかけて移動する。なお、UIオブジェクト30を、瞬間的に(1フレーム時間で)仮想カメラVCの正面に移動させてもよい。
なお、図7Bに示すようにUIオブジェクト30の一部が表示され他の部分が表示されていないときでも、ゴーグル装置10が右方向に所定の角度だけ反転した場合、UIオブジェクト30を仮想カメラVCの正面に移動させてもよい。また、UIオブジェクト30が画面の端に表示され、かつ、UIオブジェクト30の全部が表示されているときでも、ゴーグル装置10が右方向に所定の角度だけ反転した場合、UIオブジェクト30を仮想カメラVCの正面に移動させてもよい。
また、UIオブジェクト30の表示領域にポインタ37が位置する場合は、UIオブジェクト30を移動させず、UIオブジェクト30の表示領域にポインタ37が位置しない場合において、ゴーグル装置10が所定の角度だけ反転したときには、UIオブジェクト30を移動させてもよい。
このように、本実施形態では、仮想カメラVCが単にヨー方向における一方向(例えば左方向)に回転し、例えばUIオブジェクト30が仮想カメラVCの撮像範囲外に出ただけでは、UIオブジェクト30を仮想カメラVCの正面に移動させない。仮想カメラVCがヨー方向における一方向(例えば左方向)に回転した後、仮想カメラVCがヨー方向における他方向(例えば右方向)に所定の角度だけ回転(反転)した場合に、UIオブジェクト30を仮想カメラVCの正面に移動させる。以下、UIオブジェクト30の移動について詳細に説明する。
(UIオブジェクト30の移動の詳細)
図9は、UIオブジェクト30が移動される領域の一例を示す図である。図9では、UIオブジェクト30が仮想カメラVCの正面に位置している場合、仮想カメラVCを基準として仮想空間を概念的に複数の領域に分けた図が示されている。
本実施形態では、仮想カメラVCの視線が図9に示される「UI領域」、「B領域」、「A領域」の何れにあるかに応じて、UIオブジェクト30の移動に関する処理が異なる。
仮想カメラVCの視線が図9に示される「UI領域」にある場合、UIオブジェクト30は表示部21に表示され、UIオブジェクト30はゴーグル装置10の姿勢変化に応じて仮想空間内で移動しない。「UI領域」は、UIオブジェクト30を基準とした領域であり、UIオブジェクト30に対応する領域である。具体的には、UIオブジェクト30が仮想カメラVCの正面(左右方向および上下方向における正面)に位置するときの仮想カメラVCの視線の角度を0度として、仮想カメラVCの視線の仮想空間におけるヨー方向およびピッチ方向の角度が所定の閾値以内の場合には、仮想カメラVCの視線が図9に示される「UI領域」にあると判断される。より具体的には、仮想カメラVCの視線のヨー方向の回転角の絶対値が、第1の閾値(Ty)未満であり、かつ、仮想カメラVCの視線のピッチ方向の回転角の絶対値が、第2の閾値(Tx)未満である場合、仮想カメラVCの視線が図9に示される「UI領域」にあると判断される。
ここで、第1の閾値および第2の閾値によってUI領域が定められる。例えば、UI領域は、UIオブジェクト30の表示領域と一致してもよい。この場合、例えば仮想カメラVCの視線のヨー方向の回転角が第1の閾値(Ty)になったときに、図7Cに示されるようにUIオブジェクト30の全体が表示されなくなる。また、UI領域は、UIオブジェクト30の表示領域よりも小さくてもよい。この場合、仮想カメラVCの視線のヨー方向の回転角が第1の閾値(Ty)のときに、例えば図7Bに示されるようにUIオブジェクト30の一部が表示される。なお、仮想カメラVCの視線のヨー方向の回転角が第1の閾値(Ty)のときでも、UIオブジェクト30の全部が表示されてもよい。また、第1の閾値および第2の閾値によって定められるUI領域は、UIオブジェクト30の表示領域よりも大きくてもよい。
また、UI領域は、立体視画像中のポインタ37がUIオブジェクト30の表示領域内に位置するような領域であってもよい。すなわち、UI領域は、ポインタ37がUIオブジェクト30の表示領域の外周に沿って移動する場合、その軌跡によって形成されるような領域であってもよい。
仮想カメラVCの視線が図9に示されるB領域にある場合、「B領域における移動処理」が行われる。すなわち、仮想カメラVCの視線のヨー方向の回転角の絶対値が第1の閾値(Ty)以上であり、かつ、仮想カメラVCの視線のピッチ方向の回転角の絶対値が第2の閾値(Tx)未満である場合には、「B領域における移動処理」が行われる。「B領域における移動処理」では、「UIオブジェクト30を移動させるか否かの判定」が行われる。以下、この判定について図10および図11を参照して具体的に説明する。
図10は、仮想カメラVCを仮想空間の上方から見た図であって、仮想カメラVCを左方向に回転させた後、右方向に回転させたときの一例を示す図である。図11は、仮想カメラVCを仮想空間の横方向から見た図であって、仮想カメラVCを下方向に回転させた後、上方向に回転させたときの一例を示す図である。
図10に示されるように、仮想カメラVCの視線が、例えば、ヨー方向における左方向(正方向)に第1の閾値「Ty」を越えて回転した場合、仮想カメラVCの視線はB領域に入る。仮想カメラVCの視線がB領域に入った後、左方向の変化量「y1」および右方向の変化量「y2」が算出される。この左方向の変化量「y1」および右方向の変化量「y2」は、仮想カメラVCの視線がB領域に入った後の相対的な回転量である。仮想カメラの視線が左右方向に往復している場合には、左方向の変化量「y1」および右方向の変化量「y2」は、それぞれ累積される。例えば、仮想カメラVCの視線がB領域に入った後、仮想カメラVCの視線が、左方向に「10」度、右方向に「2」度、左方向に「5」度、右方向に「3」度の順で回転した場合、左方向の変化量「y1」の累積値は「10+5=15」度となり、右方向の変化量「y2」の累積値は「2+3=5」度となる。この左方向への変化量「y1」の累積値と右方向への変化量「y2」の累積値とのうち、小さい方の値(右方向の変化量y2の累積値)が、左右方向の変化量Ryとして記憶される。この場合は、右方向への変化量「y2」の累積値「5」度が、左右方向の変化量Ryとして記憶される。
ピッチ方向の回転についても同様である。図11に示されるように、仮想カメラVCの視線がB領域に入った後(つまり、仮想カメラVCの視線がヨー方向に第1の閾値以上回転した後)、ピッチ方向における下方向(負方向)に「x1」度だけ回転し、その後、上方向に「x2(<x1)」度回転したとする。
なお、図11では、仮想カメラVCの視線がB領域に入ったときの仮想空間におけるピッチ方向の回転角が「0」度である場合が示されている。仮想カメラVCの視線がB領域に入った時点で、仮想カメラVCの視線が、仮想空間におけるピッチ方向に所定の角度回転している場合もある。この場合は、仮想カメラVCの視線がB領域に入った時点からの下方向の変化量が「x1」となる。
下方向への変化量「x1」の累積値と上方向への変化量「x2」の累積値とのうち、小さい方の値(上方向への変化量x2の累積値)が、上下方向の変化量Rxとして記憶される。例えば、仮想カメラVCの視線がB領域に入った後、仮想カメラVCの視線が、下方向に「10」度、上方向に「2」度、下方向に「3」度、上方向に「1」度の順で回転した場合、下方向の変化量「x1」の累積値は「10+3=13」度となり、上方向の変化量「x2」の累積値は「2+1=3」度となる。この下方向への変化量「x1」の累積値と上方向への変化量「x2」の累積値とのうち、小さい方の値(上方向の変化量x2の累積値)が、上下方向の変化量Rxとして記憶される。この場合は、上方向への変化量「x2」の累積値「3」度が、上下方向の変化量Rxとして記憶される。
ここで、ヨー方向又はピッチ方向に関して、仮想カメラVCの視線が一方向(例えばヨー方向における左方向)に回転し続けている場合、他方向への変化量(例えばヨー方向における右方向)は「0」となる。したがって、一方向への回転量および他方向への回転量の累積値のうち、小さい方の値が「0」度を超えている場合は、仮想カメラVCの視線の回転が一方向から他方向に変化したことになる。これに対して、一方向への回転量および他方向への回転量の累積値のうち、小さい方の値が「0」度の場合は、仮想カメラの視線が一方向に回転し続けていること、又は、仮想カメラの視線が回転していないことを意味する。
したがって、本実施形態では、上記小さい方の値RxおよびRyに基づいて、仮想カメラVCの視線の回転が一方向から他方向に変化したか(すなわち、反転したか)否かを検知し、一方向から他方向への変化を検知した場合に、UIオブジェクト30を仮想カメラVCの正面に移動させる。
具体的には、左右方向の変化量Ryと上下方向の変化量Rxとの和が、所定値(例えば、「6」度)以上となった場合、UIオブジェクト30を仮想カメラVCの正面に移動させる。一方、この和が所定値未満の場合は、UIオブジェクト30を移動させない。例えば、仮想カメラVCの視線がB領域にある場合において、仮想カメラVCの視線が、「左方向に10度」→「右方向に3度」→「左方向に20度」の順に回転した場合、左右方向の変化量Ryは「3」度であり、上下方向の変化量Rxは「0」度となる。この場合、「Rx+Ry」は所定値未満であるため、UIオブジェクト30を仮想カメラVCの正面に移動させない。
一方、仮想カメラVCの視線がB領域にある場合において、仮想カメラVCの視線が、「左方向に10度」→「右方向に3度」→「左方向に20度」→「右方向に3度」の順に回転した場合、左右方向の変化量Ryは「6」度である。この場合、「Rx+Ry」は所定値以上であるため、UIオブジェクト30を仮想カメラVCの正面に移動させる。また、仮想カメラVCの視線が、斜め方向に回転した場合、回転方向は左右方向(ヨー方向)および上下方向(ピッチ方向)の成分に分けられて、上記Rx、Ryがそれぞれ算出される。例えば、仮想カメラVCの視線が、「左上方向(左方向の成分に10度、上方向の成分に10度)」に回転し、次に、「右下方向(右方向の成分に3度、下方向の成分に3度)」に回転した場合、Rxは「3」度となり、Ryは「3」度となる。この場合、「Rx+Ry」は所定値以上であるため、UIオブジェクト30を仮想カメラVCの正面に移動させる。
このように、「B領域における移動処理」では、仮想カメラVCがヨー方向又はピッチ方向における一方向に回転した後、反対方向に回転したことが検知される。仮想カメラVCが反対方向に回転した場合において、その反対方向の回転角を累積した値が所定値以上となった場合、UIオブジェクト30は仮想カメラVCの正面に移動する。すなわち、仮想カメラVCの視線が、所定の回転方向(ヨー方向又はピッチ方向)における一方向から他方向に変化した場合において、さらに他方向への回転角が所定値以上となった場合、UIオブジェクト30を移動させる。
なお、仮想カメラVCの視線がB領域にある場合、「Rx+Ry」が所定値未満であっても、ユーザによって所定の操作が行われた場合は、UIオブジェクト30を仮想カメラVCの正面に移動させてもよい。例えば、ゴーグル装置10における所定のボタンや場所が押されたり、タップされたり、叩かれたりした場合、UIオブジェクト30を仮想カメラVCの正面に移動させてもよい。また、例えば、ゴーグル装置10の慣性センサ22における加速度センサが所定値以上の加速度値を検知した場合、UIオブジェクト30を仮想カメラVCの正面に移動させてもよい。
図9に戻り、仮想カメラVCの視線がA領域にある場合、すなわち、仮想カメラVCの視線のピッチ方向における回転角の絶対値が第2の閾値(Tx)を越えている場合には、「A領域における移動処理」が行われる。「A領域における移動処理」では、上述したB領域における判定は行われず、UIオブジェクト30が常に左右方向に関して仮想カメラVCの正面に位置するように、UIオブジェクト30を移動させる。なお、ここでは、仮想カメラVC(ゴーグル装置10)の俯角又は仰角が第2の閾値を超えている場合に、「A領域における移動処理」が行われるものとするが、俯角に関する閾値と仰角に関する閾値とは同じ値である必要はなく、これらは異なってもよい。
図12は、仮想カメラVCの視線がA領域にある場合においてUIオブジェクト30が移動する様子を示した図である。
図12において、破線で示される30‘は、移動前のUIオブジェクトであり、実線で示される30は、移動後のUIオブジェクトである。図12に示されるように、例えば、仮想カメラVCの視線がUIオブジェクト30の上方のA領域にある場合、UIオブジェクト30は、左右方向に関して仮想カメラVCの正面に位置するように移動する。移動後のUIオブジェクト30を基準とした仮想カメラVCのヨー方向(左右方向)の回転角は「0」度である。すなわち、仮想カメラVCの視線方向を基準として、移動後のUIオブジェクト30は、左右方向にずれていない。このため、仮想カメラVCの視線を下方向に回転させた場合(仮想カメラVCのピッチ方向の回転角が「0」度になるように仮想カメラVCを回転させた場合)、仮想カメラVCの正面にUIオブジェクト30が位置するようになる。
ここで、仮想カメラVCの視線がB領域に入った後、「B領域における移動処理」でUIオブジェクト30が移動することなく、仮想カメラVCの視線がA領域に入った場合を想定する。この場合、仮想カメラVCの視線がA領域に入ったときに、「A領域における移動処理」によって、UIオブジェクト30が移動を開始する。この場合、UIオブジェクト30は、左右方向に関して仮想カメラVCの正面に、ある程度の時間(例えば、数~数十フレーム時間)をかけて移動してもよいし、瞬間的に(1フレーム時間で)移動してもよい。
また、仮想カメラVCの視線が「UI領域」にある状態からA領域に入った場合、「A領域における移動処理」によって、UIオブジェクト30が移動する。仮想カメラVCの視線がA領域にあるときに仮想カメラVCが左右方向に回転すると、UIオブジェクト30は、仮想カメラVCの左右方向の回転に応じて移動する。すなわち、UIオブジェクト30は、仮想カメラが左右方向の回転をしている間、仮想カメラの左右方向の回転に追従するように常に移動する。
図13Aは、仮想カメラVCの視線が下方向に回転しA領域に入った場合において表示部21に表示される画像の一例を示す図である。図13Bは、図13Aの状態から仮想カメラVCが左方向に回転したときに表示部21に表示される画像の一例を示す図である。
図13Aに示されるように、仮想カメラVCの視線が下方向に回転した場合(すなわち、ゴーグル装置10が下方向に回転した場合)、UIオブジェクト30の下側の一部が画面の上部領域に表示される。UIオブジェクト30は、左右方向に関して画面の中央に表示される。また、仮想空間の背景には、例えば、仮想オブジェクト40があり、仮想オブジェクト40は、画面の左端に表示されている。
この状態で仮想カメラVCの視線が左方向に回転した場合(すなわち、ゴーグル装置10が左方向に回転した場合)、図13Bに示されるように、UIオブジェクト30の左右方向における位置は変化しない。これは、上記A領域における移動処理によって、仮想カメラVCのヨー方向の回転に応じて、UIオブジェクト30が仮想空間内で移動するからである。一方、仮想空間の背景に存在する仮想オブジェクト40については、図13Aの位置よりも右側に表示される。ユーザがゴーグル装置10を左方向に回転させ続けている間、UIオブジェクト30の画面上の位置は変化せず、仮想空間の背景は右方向に移動する。
なお、図9に示す「UI領域」、「A領域」、「B領域」の大きさや形状は、表示されるUIオブジェクト30の大きさや形状に応じて異なってもよい。また、UIオブジェクト30には、複数の種類があり、UIオブジェクト30の種類に応じて各領域の大きさや形状が行ってもよい。また、仮想空間のシーン(背景のシーン)に応じて、各領域の大きさや形状が異なってもよい。この場合、上述した第1の閾値(Ty)、第2の閾値(Tx)は、各領域の大きさや形状に応じて異なることになる。また、「UI領域」は、UIオブジェクト30の大きさと必ずしも一致しなくてもよい。例えば、UIオブジェクト30の周りにマージンがあり、UIオブジェクト30が表示される領域と周囲のマージンとを含む領域が「UI領域」として設定されてもよい。逆に、「UI領域」は、UIオブジェクト30が表示される領域よりも小さくてもよい。
以上のように、本実施形態では、仮想空間における仮想カメラVCのヨー方向およびピッチ方向の回転角(ゴーグル装置10のヨー方向およびピッチ方向の回転角)が所定の閾値を超えている場合、UIオブジェクト30の移動処理が行われる。
具体的には、仮想カメラVCの仮想空間におけるヨー方向の回転角の絶対値が第1の閾値(Ty)より大きく、かつ、ピッチ方向の回転角の絶対値が第2の閾値(Tx)より小さい場合(仮想カメラVCの視線がB領域にある場合)、「B領域における移動処理」が行われる。「B領域における移動処理」では、仮想カメラVCのヨー方向およびピッチ方向の回転角に基づいて、UIオブジェクト30を移動させるか否かの判定が行われる。具体的には、仮想カメラVCのヨー方向の回転が一方向から他方向に変化した場合、当該他方向の回転角を累積した値Ryが算出される。また、仮想カメラVCのピッチ方向の回転が一方向から他方向に変化した場合、当該他方向の回転角を累積した値Rxが算出される。そして、RxとRyの合計が所定値以上の場合、UIオブジェクト30を移動させると判定され、UIオブジェクト30が仮想カメラVCの正面に移動される。
ユーザは、仮想空間においてUIオブジェクト30を視認したいと思うときもあれば、UIオブジェクト30とは異なる仮想空間のオブジェクト(背景や仮想空間内の他のオブジェクト)を視認したいと思うときもある。仮想カメラVCの視線(ゴーグル装置10の姿勢)が一方向に回転し続けている場合には、ユーザは、UIオブジェクト30とは異なる仮想空間を視認したがっていると考えられる。このため、本実施形態では、仮想カメラVCの視線が一方向(例えば、ヨー方向に関して言えば左方向。ピッチ方向に関して言えば上方向)に回転し続けている場合や、静止している場合には、UIオブジェクト30を仮想カメラVCの正面に移動させない。したがって、ユーザは、例えば左方向にゴーグル装置10を回転させ続けることで、UIオブジェクト30以外の仮想空間を見渡すことができる。
一方、仮想カメラVCの視線が、UIオブジェクト30から離れる方向から、UIオブジェクト30に近づく方向に反転した場合には、ユーザは、仮想空間内の他のオブジェクトよりもUIオブジェクト30を視認したいと思っている可能性がある。したがって、本実施形態では、仮想カメラVCの視線が一方向(UIオブジェクト30から離れる方向)から他方向に反転した場合において、さらに、他方向への回転量が所定値以上になった場合、UIオブジェクト30を仮想カメラVCの正面に移動させる。
このような制御を行うことにより、本実施形態では、ユーザにUIオブジェクト30とは異なる仮想空間を視認させることができるとともに、仮想空間内に存在するUIオブジェクト30を正面に移動させてUIオブジェクト30を操作(視認)し易くすることができる。
例えば、仮想カメラVCがUIオブジェクト30とは異なる方向を向き、仮想カメラVCの撮像範囲からUIオブジェクト30が外れた時点で、UIオブジェクト30を仮想カメラVCの正面に移動させることも考えられる。しかしながら、この場合、仮想カメラVCの撮像範囲からUIオブジェクト30が外れた時点でユーザの正面にUIオブジェクト30が移動するため、ユーザはUIオブジェクト30以外の仮想空間を見ることができなくなる。
これに対して、本実施形態では、ゴーグル装置10をヨー方向における一方向(UIオブジェクト30から離れる方向)に回転させ続けたり、静止している場合には、UIオブジェクト30が仮想カメラVCの正面に移動しないため、ユーザは、UIオブジェクト30以外の仮想空間を見ることができる。ユーザが仮想空間を見渡しているときに、UIオブジェクト30を見たり操作したくなった場合には、ユーザは、例えば、ゴーグル装置10をヨー方向における他方向に反転させたり、ゴーグル装置10を上下に揺らしたりすることで、ユーザの正面にUIオブジェクト30を移動させることができる。これにより、例えば、容易にポインタを用いてUIオブジェクト30内のアイコンを選択することができ、VR空間において、UIオブジェクト30の操作性を向上させることができる。UIオブジェクト30の少なくとも一部が表示されている場合において、UIオブジェクト30が画面の端に表示されている場合であっても、ゴーグル装置10を所定の角度だけ反転させるだけで、UIオブジェクト30を正面に移動させることができ、操作性を向上させることができる。
また、本実施形態では、UIオブジェクト30を仮想空間内で移動させるため、VR酔いを軽減することができる場合がある。
また、本実施形態では、仮想空間における仮想カメラVCのピッチ方向の回転角が第2の閾値(Tx)より大きい場合(仮想カメラVCの視線がA領域にある場合)、「A領域における移動処理」が行われる。「A領域における移動処理」では、仮想カメラVCのヨー方向の回転に応じてUIオブジェクト30が仮想カメラVCの正面(左右方向に関する正面)に常に移動する。このため、仮想カメラVCの視線がA領域に入った後、ゴーグル装置10が基準姿勢となるようにして表示部21を見た場合、UIオブジェクト30は、常にユーザの正面に位置するようになる。例えば、ユーザが、ゴーグル装置10の底面15が下側又は上側になるように実空間の面(地面に平行な面。例えばテーブル)にゴーグル装置10を置いた後、再びゴーグル装置10を把持して表示部21を見たときには、UIオブジェクト30は、常にユーザの正面に位置するように見える。
また、例えば、2人のユーザが1つのゴーグル装置10を用いてVRを体験することを想定する。一方のユーザがゴーグル装置10を用いてVRを体験した後、他方のユーザにゴーグル装置10を渡す。このとき、ゴーグル装置10の姿勢が、例えば、底面15が下向きになるように変化する。この場合において、UIオブジェクト30が上記A領域における移動処理によって移動しない場合には、他方のユーザがゴーグル装置10を把持して表示部21を見たときに、当該他方のユーザの正面にUIオブジェクト30があるとは限らない。UIオブジェクト30がA領域における移動処理によって移動しない場合には、UIオブジェクト30はゴーグル装置10を他方のユーザに渡したときの位置を維持する。このため、他方のユーザがゴーグル装置10の表示部21を見たときには、UIオブジェクト30は、他方のユーザの背後に位置している場合もあれば、右方向に位置している場合もある。しかしながら、本実施形態では、UIオブジェクト30がA領域における移動処理によって移動するため、他方のユーザがゴーグル装置10の表示部21を見たときには、当該他方のユーザの正面にUIオブジェクト30が位置するようになる。したがって、他方のユーザにとって操作性が向上する。
(処理の詳細)
次に、情報処理装置2において行われる処理の一例について具体的に説明する。まず、情報処理装置2に記憶されるデータについて説明する。
図14は、情報処理装置2(のDRAM23)に記憶されるデータの一例を示す図である。図14に示すように、情報処理装置2には、所定のプログラムと、角速度データと、仮想カメラデータと、UIデータと、累積値X1、X2と、累積値Y1、Y2と、変化量Rxと、変化量Ryとが記憶される。これらの他にも、仮想空間に配置されるオブジェクトに関するデータ、ユーザの操作に応じた操作データ等、様々なデータが記憶される。
プログラムは、後述する処理を実行するためのプログラムである。プログラムは、例えば不揮発性メモリ24や外部の記憶媒体に記憶されており、当該不揮発性メモリ24や外部の記憶媒体からDRAM23に読み込まれる。なお、プログラムは、他の装置からネットワーク(例えば、LAN、WAN、インターネット等)を介して取得されてもよい。
角速度データは、慣性センサ22が出力した角速度に関するデータである。
仮想カメラデータは、左仮想カメラVCLおよび右仮想カメラVCRの位置および姿勢に関するデータである。
UIデータは、UIオブジェクト30の位置、種類、UIオブジェクト30に含まれるアイコン31~34、情報表示オブジェクト35等に関するデータである。
累積値X1は、B領域における移動処理で用いられる値であり、下方向の変化量x1(図11参照)を累積した値である。また、累積値X2は、B領域における移動処理で用いられる値であり、上方向の変化量x2(図11参照)を累積した値である。
累積値Y1は、B領域における移動処理で用いられる値であり、左方向の変化量y1(図10参照)を累積した値である。また、累積値Y2は、B領域における移動処理で用いられる値であり、右方向の変化量y2(図10参照)を累積した値である。
変化量Rxは、B領域における移動処理で用いられる値であり、仮想カメラVCの視線の上下方向(ピッチ方向)の変化量の累積値X1、X2のうち、小さい方の値である。また、変化量Ryは、B領域における移動処理で用いられる値であり、仮想カメラVCの視線の左右方向(ヨー方向)の変化量の累積値Y1,Y2のうち、小さい方の値である。RxおよびRyは初期的には「0」に設定される。
(メインフローの説明)
次に、情報処理装置2において行われるメイン処理の詳細について説明する。図15は、情報処理装置2のプロセッサ20において行われるメイン処理の一例を示すフローチャートである。図15に示す処理は、情報処理装置2のCPU又はGPUが所定のプログラムを実行することによって行われる。なお、図15では、上述したUIオブジェクト30の移動に関する処理のみが示されており、他の処理(例えば、仮想空間において行われるユーザの動作(操作)に応じた処理)は省略されている。
図15に示すように、プロセッサ20は、まず、初期処理を行う(ステップS100)。初期処理では、まず、ゴーグル装置10(情報処理装置2)の姿勢に関する初期化が行われる。例えば、ユーザに情報処理装置2を含むゴーグル装置10をテーブル等に置くように指示が行われ、ゴーグル装置10の姿勢が初期化される。また、初期処理では、仮想空間にxyz座標系が設定され、仮想空間内にUIオブジェクト30、左仮想カメラVCL、右仮想カメラVCR、背景、及び、その他のオブジェクト等が配置される。ステップS100の処理の後、プロセッサ20は、ステップS101~ステップS109の処理を所定のフレーム時間(例えば、1/60秒)毎に繰り返し実行する。
ステップS100の処理の後、プロセッサ20は、慣性センサ22からのデータ(例えば角速度値)を取得する(ステップS101)。
次に、プロセッサ20は、ステップS101で取得した慣性センサ22からのデータに基づいて、姿勢算出処理を行う(ステップS102)。具体的には、プロセッサ20は、慣性センサ22からの角速度値に基づいて、ゴーグル装置10(情報処理装置2)の姿勢を算出する。プロセッサ20は、慣性センサ22からの角速度値を積分することでステップS100における初期化時からの姿勢の変化を算出し、ゴーグル装置10の姿勢を取得する。また、プロセッサ20は、算出したゴーグル装置10の姿勢に応じて、仮想空間内の仮想カメラVC(左仮想カメラCVL及び右仮想カメラVCR)の姿勢を設定する。例えば、プロセッサ20は、仮想空間における左仮想カメラVCL及び右仮想カメラVCRの姿勢が、実空間におけるゴーグル装置10の姿勢と一致するように各仮想カメラVCの姿勢を設定する。これにより、例えば、ゴーグル装置10が左方向に5度回転した場合には、左仮想カメラVCL及び右仮想カメラVCRも左方向に5度回転する。
続いて、プロセッサ20は、ステップS102で算出した姿勢に基づいて、仮想カメラVCの視線のピッチ方向の回転角が第2の閾値(Tx)以上か否かを判定する(ステップS103)。仮想カメラVCの視線のピッチ方向の回転角が第2の閾値(Tx)以上と判定した場合(ステップS103:YES)、プロセッサ20は、A領域における移動処理を行う(ステップS104)。ステップS104の処理を実行した場合、プロセッサ20は、次にステップS108の処理を実行する。
具体的には、ステップS104において、プロセッサ20は、UIオブジェクト30を仮想カメラVCの左右方向に関して正面になるように移動させる。プロセッサ20は、UIオブジェクト30の仮想空間における高さを維持したまま、仮想空間のxz平面に平行な面上でUIオブジェクト30を移動させる。例えば、プロセッサ20は、UIオブジェクト30が仮想カメラVCの左右方向に関して正面に位置するように、UIオブジェクト30を仮想カメラVCの位置(例えば、左仮想カメラVCL及び右仮想カメラVCRの中間)を中心とした円に沿って移動させる。これにより、UIオブジェクト30は、図12で示したように移動する。なお、プロセッサ20は、1フレーム時間で所定距離だけUIオブジェクト30を移動させてもよい。この場合、ステップS104の処理がフレーム時間毎に繰り返し実行され、UIオブジェクト30が仮想カメラVCの左右方向に関して正面に移動する様子が表示部21において表示される。
一方、仮想カメラVCの視線のピッチ方向の回転角が第2の閾値(Tx)未満と判定した場合(ステップS103:NO)、プロセッサ20は、仮想カメラVCの視線のヨー方向の回転角が第1の閾値(Ty)以上か否かを判定する(ステップS105)。
仮想カメラVCの視線のヨー方向の回転角が第1の閾値(Ty)以上と判定した場合(ステップS105:YES)、プロセッサ20は、B領域における移動処理を行う(ステップS106)。このB領域における移動処理の詳細については後述する。ステップS106の処理を実行した場合、プロセッサ20は、次にステップS108の処理を実行する。
仮想カメラVCの視線のヨー方向の回転角が第1の閾値(Ty)未満と判定した場合(ステップS105:NO)、プロセッサ20は、UI処理を行う(ステップS107)。このUI処理では、UIオブジェクト30における各アイコンの選択処理、選択した後の処理が行われる。例えば、立体視画像の所定位置(例えば中心)に位置するポインタ37がUIオブジェクト30におけるアイコン31の表示領域内にある場合、当該アイコン31が選択される。各アイコンにはそれぞれ選択された場合の処理(例えば、画面の切り替え、ゲームにおける操作、その他アプリケーションの起動等)が割り当てられている。プロセッサ20は、選択されたアイコンに応じた処理を行う。なお、プロセッサ20は、ステップS107において、後述するステップS106で算出された変化量Rx、Ry、累積値X1、X2、Y1、Y2をそれぞれ「0」にリセットする。ステップS107の処理を実行した場合、プロセッサ20は、次にステップS108の処理を実行する。
ステップS108において、プロセッサ20は、画像生成処理を行う。具体的には、プロセッサ20は、左仮想カメラVCLを用いて仮想空間を撮像することにより左目画像を生成するとともに、右仮想カメラVCRを用いて仮想空間を撮像することにより右目画像を生成する。
そして、プロセッサ20は、ステップS108で生成した左目画像および右目画像を表示部21に表示させる(ステップS109)。具体的には、プロセッサ20は、左目画像を左領域21Lに表示させ、右目画像を右領域21Rに表示させる。ステップS109の処理を実行した場合、プロセッサ20は、ステップS101の処理を再び実行する。
(B領域における移動処理)
次に、上記ステップS106のB領域における移動処理について説明する。図16は、ステップS106のB領域における移動処理の一例を示すフローチャートである。
図16に示されるように、プロセッサ20は、まず、仮想カメラVCの視線の仮想空間におけるピッチ方向の回転角に関して、上方向の変化量x1および下方向の変化量x2を算出する(ステップS130)。例えば、プロセッサ20は、前回の処理ループにおける仮想カメラVCの姿勢と、今回の処理ループにおける仮想カメラVCの姿勢とに基づいて、上方向又は下方向に視線が変化したか否かを判定し、その変化量x1又はx2を算出する。そして、算出した変化量x1又はx2を、累積値X1又はX2に加算する。例えば、仮想カメラVCの視線が上方向に変化し続けている場合には、累積値X1は増加する一方、下方向の変化量x2は「0」度となり、その累積値X2も「0」度となる。また、例えば、図11の例のように、仮想カメラVCは下方向にx1度回転した後、上方向にx2度回転した場合、累積値X1には「x1」、累積値X2には「x2」がそれぞれ設定される。
次に、プロセッサ20は、ステップS130で更新した累積値X1およびX2のうち、小さい方の値を、上下方向の変化量Rxに設定する(ステップS131)。
続いて、プロセッサ20は、仮想カメラVCの視線の仮想空間におけるヨー方向の回転角に関して、左方向の変化量y1および右方向の変化量y2を算出する(ステップS132)。例えば、プロセッサ20は、前回の処理ループにおける仮想カメラVCの姿勢と、今回の処理ループにおける仮想カメラVCの姿勢とに基づいて、左方向又は右方向に視線が変化したか否かを判定し、その変化量y1又はy2を算出する。そして、算出した変化量y1又はy2を、累積値Y1又はY2に加算する。例えば、仮想カメラVCの視線が左方向に変化し続けている場合には、累積値Y1は増加する一方、右方向の変化量y2は「0」度となり、その累積値Y2も「0」度となる。また、例えば、図10の例のように、仮想カメラVCが左方向にy1度回転した後、右方向にy2度回転した場合、累積値Y1には「y1」、累積値Y2には「y2」がそれぞれ設定される。
次に、プロセッサ20は、ステップS132で更新した累積値Y1およびY2のうち、小さい方の値を、左右方向の変化量Ryに設定する(ステップS133)。
続いて、プロセッサ20は、ステップS131で設定したRxとステップS133で設定したRyとの和が所定値以上か否かを判定する(ステップS134)。
「Rx+Ry」が所定値以上と判定した場合(ステップS134:YES)、プロセッサ20は、UIオブジェクト30を仮想カメラVCの正面になるように移動させる(ステップS135)。具体的には、プロセッサ20は、UIオブジェクト30の仮想空間における高さを維持したまま、仮想空間のxz平面に平行な面上でUIオブジェクト30を移動させる。例えば、プロセッサ20は、UIオブジェクト30が仮想カメラVCの左右方向における正面に位置するように、UIオブジェクト30を仮想カメラVCの位置(例えば、左仮想カメラVCL及び右仮想カメラVCRの中間)を中心とした円に沿って移動させる。これにより、UIオブジェクト30は、図8に示すように移動する。
ステップS135の処理を実行した場合、又は、ステップS134でNOと判定した場合、プロセッサ20は、所定の操作が行われたか否かを判定する(ステップS136)。ここで、「所定の操作」は、例えば、ゴーグル装置10における所定のボタンや場所が押されたり、タップされたり、叩かれたりする操作であってもよい。
所定の操作が行われたと判定した場合(ステップS136:YES)、プロセッサ20は、ステップS137の処理を実行する。ステップS137の処理は、ステップS135と同様の処理である。
ステップS137の処理を実行した場合、又は、ステップS136でNOと判定した場合、プロセッサ20は、図16に示す処理を終了し、図15に処理を戻す。
なお、上記フローチャートで示した処理は単なる例示に過ぎず、処理の順番や内容、判定に用いられる閾値は適宜変更されてもよい。また、判定において閾値が含まれてもよいし含まれなくてもよい。例えば、「ある値が閾値以上か否かの判定」は、「ある値が閾値より大きいか否かの判定」に置き換えられてもよい。
以上のように、仮想カメラVCの視線がB領域にある場合、B領域における移動処理において、ヨー方向又はピッチ方向に関して、仮想カメラVCの視線が一方向から他方向に変化したことが検出される。具体的には、ステップS131又はステップS133で設定されたRx又はRyの値が「0」度を超える場合、一方向から他方向に変化したことになる。仮想カメラVCの視線が、一方向から他方向に変化した場合において、その他方向への回転角を累積した値(Rx及び/又はRy)が所定値以上となった場合、UIオブジェクト30を仮想カメラVCの正面に移動させる。これにより、ユーザは、UIオブジェクト30以外の仮想空間を見渡すことができるとともに、UIオブジェクト30を見たい場合には、UIオブジェクト30を正面に移動させることができる。
また、仮想カメラVCの視線がA領域にある場合、A領域における移動処理において、UIオブジェクト30が常に仮想カメラVCの左右方向に関して正面になるように移動される。これにより、例えば、ゴーグル装置10を上方向に向けたり、下方向に向けたりすることで、UIオブジェクト30を正面に移動させることができる。
(変形例)
以上、本実施形態の画像処理ついて説明したが、上記実施形態は単なる一例であり、例えば以下のような変形が加えられてもよい。
例えば、上記実施形態では、A領域における移動処理およびB領域における移動処理において、仮想カメラVCの正面にUIオブジェクト30が位置するように、UIオブジェクト30を移動させた。他の実施形態では、仮想カメラVCの正面にUIオブジェクト30が位置するように、仮想カメラVCの制御(姿勢の変化、及び/又は、移動)を行ってもよい。例えば、仮想カメラVCの正面にUIオブジェクト30が位置するように、UIオブジェクト30を固定して、仮想カメラVCの姿勢を変化させてもよいし、仮想カメラVCを移動させてもよい。また、他の実施形態では、仮想カメラVCの正面にUIオブジェクト30が位置するように、UIオブジェクト30の移動及び仮想カメラVCの制御の両方を行ってもよい。すなわち、仮想カメラVCの正面にUIオブジェクト30が位置するように、UIオブジェクト30の移動、及び、仮想カメラVCの制御(姿勢の変化、及び/又は、移動)のうちの少なくとも何れか一方を行ってもよい。UIオブジェクト30の移動が行われる場合は、上記実施形態で示したように、UIオブジェクト30を移動させるとともに、UIオブジェクト30を回転させて、UIオブジェクト30が仮想カメラVCを向くようにしてもよい。
また、上記実施形態では、条件が満たされた場合にUIオブジェクト30を仮想カメラVCの正面に移動させた。他の実施形態では、条件が満たされた場合にUIオブジェクト30の少なくとも一部が仮想カメラVCの撮像範囲に位置するように、UIオブジェクト30を移動させてもよいし、仮想カメラVCを制御(例えば、仮想カメラの移動及び/又は回転)してもよいし、UIオブジェクト30の移動及び仮想カメラVCの制御の両方を行ってもよい。
また、上記実施形態では、B領域における移動処理において、仮想カメラVCのヨー方向又はピッチ方向の回転が一方向から他方向に変化した場合において、他方向の回転角を累積した値及び一方向の回転角を累積した値のうちの小さい方の値が所定以上であるか否かを判定した。具体的には、上記変化量Ry及びRxの和が所定値以上であるか否かを判定した。UIオブジェクト30を移動させるか否かの判定は、他の方法により行われてもよい。例えば、他の実施形態では、上記変化量Ry及びRxのうち何れか一方が所定値以上であるか否かが判定されてもよい。また、仮想カメラVCのヨー方向又はピッチ方向の回転が一方向から他方向に変化した場合において、他方向の回転角を累積した値、及び/又は、一方向の回転角を累積した値が所定以上である場合に、UIオブジェクト30を移動させてもよい。
また、他の実施形態では、他方向の回転角および一方向の回転角を累積せず、他方向の回転角及び/又は一方向の回転角が所定値以上となった場合に、UIオブジェクト30を移動させてもよい。この場合、仮想カメラVCの一方向への回転と他方向への回転とが複数回繰り返されている場合において、各回の他方向への回転角又は一方向への回転角が所定値未満である場合はUIオブジェクト30は移動されない。一方、仮想カメラVCの一方向への回転と他方向への回転とが複数回繰り返されている場合において、1回の他方向への回転角又は一方向への回転角が所定値以上となった場合には、UIオブジェクト30は移動される。
また、ヨー方向に関する変化量Ryが所定値以上か否かの判定と、ピッチ方向に関する変化量Rxが所定値以上か否かの判定とは、別々で行われてもよい。この場合、RxおよびRyの何れか一方が所定値以上となった場合には、UIオブジェクト30を移動させる。
また、ヨー方向に関する変化量Ryとピッチ方向に関する変化量Rxとで閾値を異ならせてもよい。例えば、ヨー方向についてはRyが第1の所定値(例えば4~8度)以上であれば、UIオブジェクト30を移動させ、ピッチ方向についてはRxが第1の所定値より大きな第2の所定値(例えば10~20度)以上であれば、UIオブジェクト30を移動させてもよい。また、これらの閾値を、表示されるUIオブジェクト30の種類、仮想空間のシーン(背景のシーン)に応じて異ならせてもよい。
また、上記実施形態では、ヨー方向およびピッチ方向に関して、仮想カメラVCの視線が一方向から他方向に反転したことを第1の条件として、当該第1の条件が満たされている場合において、さらに第2の条件が満たされた場合(具体的には、他方向への回転角の累積値が所定値以上になった場合)、UIオブジェクト30を仮想カメラVCの正面に移動させた。他の実施形態では、上記第1の条件が満たされた場合に、すなわち、仮想カメラVCの視線が一方向から他方向に反転した場合に、UIオブジェクト30を仮想カメラVCの正面に移動させてもよい。この場合、累積値に関係なく、仮想カメラVCの視線が反転した瞬間にUIオブジェクト30が仮想カメラVCの正面に移動する。
また、他の実施形態では、仮想カメラVCの視線の反転回数が所定回数以上となった場合に、UIオブジェクト30を仮想カメラVCの正面に移動させてもよい。例えば、仮想カメラVCが左方向に回転してB領域に入った後、右方向への回転と左方向の回転とを繰り返す場合、反転した回数(右方向への反転、及び、左方向への反転)が所定回数以上となった場合にUIオブジェクト30を移動させてもよい。
また、他の実施形態では、仮想カメラVCの視線が一方向(例えば左方向)から他方向(例えば右方向)に反転した場合に、反転した後の他方向(右方向)および一方向(左方向)の角度に基づいて、UIオブジェクト30を移動させてもよい。
すなわち、B領域における移動処理において、仮想カメラVCの視線が一方向から他方向に反転したことに基づいて、UIオブジェクト30を仮想カメラVCの正面に移動させてもよい。ここで、「仮想カメラVCの視線が一方向から他方向に反転したことに基づいて」とは、例えば、以下の事項を含む。
・仮想カメラVCの視線が所定の回転方向における一方向から他方向に反転した場合において、さらに、他方向への回転角又はその累積値(上記Rx又はRy)が所定値以上となること。
・所定の回転方向における仮想カメラVCの視線の反転回数が所定値となること。
・仮想カメラVCの視線が所定の回転方向における一方向から他方向に変化すること。
また、上記実施形態では、仮想カメラVCの視線が図9に示す「A領域」および「B領域」の何れにあるかについて、仮想カメラVCの視線の角度に基づいて判定し、各領域に応じてUIオブジェクト30を移動させた。他の実施形態では、仮想カメラVCの視線の角度に限らず、例えば、ポインタの位置が「A領域」および「B領域」の何れの領域にあるかに応じて、UIオブジェクト30を移動させてもよい。例えば、立体視画像の所定位置(例えば中心)にポインタが表示され、当該ポインタがA領域にある場合には上記「A領域における移動処理」を行い、当該ポインタがB領域にある場合には上記「B領域における移動処理」を行ってもよい。
また、上記実施形態では、条件が満たされた場合にUIオブジェクト30を移動させることとした。移動させるオブジェクトは、UIオブジェクト30に限らず、任意のオブジェクトであってもよい。例えば、条件が満たされた場合に、ユーザに所定の情報を伝えるキャラクタオブジェクトを仮想カメラVCの正面に移動させてもよい。
また、上記実施形態では、ゴーグル装置10(情報処理装置2)の姿勢を、情報処理装置2に内蔵された慣性センサ22からのデータに基づいて検出した。他の実施形態では、他の方法によりゴーグル装置10の姿勢を検出してもよい。例えば、画像表示システム1は、ゴーグル装置10を外部から撮像するカメラを備え、カメラでゴーグル装置10又はゴーグル装置10に取り付けられたマーカを撮像し、撮像した画像に基づいてゴーグル装置10の姿勢を取得してもよい。また、ゴーグル装置10がカメラを備え、当該カメラが撮像した画像の変化からゴーグル装置10の姿勢が取得されてもよい。
また、上記実施形態では、仮想カメラVCの視線の回転方向を仮想空間における左右方向(ヨー方向)の成分と、上下方向(ピッチ方向)の成分とに分け、仮想カメラVCの視線が、左右方向又は上下方向の成分に関して、一方向から他方向に変化したことに基づいて、UIオブジェクト30を移動させた。例えば、仮想カメラVCの視線が、左右方向の成分における一方向(例えば左方向)から他方向(例えば右方向)に変化した場合に、左右方向の成分における他方向及び/又は一方向の回転量を算出し、算出した回転量が所定値以上である場合(所定値を含んでも含まなくてもよい)、UIオブジェクト30を移動させた。他の実施形態では、仮想カメラVCの視線が、斜め方向における一方向(例えば、左下から右上への方向)から他方向(例えば、右上から左下への方向)に変化したことに基づいて、UIオブジェクト30を移動させてもよい。
すなわち、仮想カメラVCの視線の回転方向の所定成分(例えば、左右方向成分、上下方向成分、斜め方向成分)が、一方向から他方向に変化したことに基づいて、UIオブジェクト30を移動させてもよい。
また、上記実施形態では、仮想カメラVCの視線がA領域にあるときには、仮想カメラVCの左右方向の回転に追従してUIオブジェクト30を移動させた。他の実施形態では、仮想カメラVCの視線がUI領域から出てA領域に入った後、仮想カメラVCの視線がUI領域に戻ったタイミングで、UIオブジェクト30を左右方向(ヨー方向)における仮想カメラVCの正面に移動させてもよい(又は仮想カメラVCを制御してもよい)。すなわち、ユーザが、ゴーグル装置10を外した後(例えばゴーグル装置10の底面15を上又は下方向に向けた後)、ゴーグル装置10を顔に当てて表示部を見たときに、UIオブジェクト30が正面に見えるように制御されるのであれば、UIオブジェクト30を移動させるタイミングはいつでもよい。例えば、仮想カメラVCの視線がA領域に入った時点で、UIオブジェクト30を仮想カメラVCの左右方向の回転に追従するように移動させてもよいし、仮想カメラVCの視線がA領域に入ってからUI領域に戻った時点で、UIオブジェクト30を左右方向における仮想カメラVCの正面に移動させてもよい。
また、上記実施形態では、仮想カメラVCの視線がA領域内にある場合に、ヨー方向における仮想カメラVCの正面にUIオブジェクト30が位置するように制御した。また、仮想カメラVCの視線がB領域内にある場合において、仮想カメラVCの視線が反転したことを条件に、仮想カメラVCの正面にUIオブジェクト30が位置するように制御した。ここでいう「正面」とは、厳密な正面だけではなく、実質的な正面を含む。厳密な正面とは、仮想カメラVCの視線を伸ばした直線が、UIオブジェクト30の左右方向の中心を通るy軸に平行な直線と交わることである。言い換えると、厳密な正面とは、仮想カメラVCの視線が、UIオブジェクト30の左右方向にずれていないことである。実質的な正面は、仮想カメラVCの視線が、UIオブジェクト30の左右方向にずれている場合も含む。例えば、「仮想カメラVCの実質的な正面にUIオブジェクト30が位置する」とは、仮想カメラVCの視線を通るxz平面に垂直な面が、UIオブジェクト30と交わることであってもよい。この場合、UIオブジェクト30に対する仮想カメラVCのピッチ方向の回転角を「0」度にしたときには、仮想カメラVCの視線を伸ばした直線は、UIオブジェクト30に当たることになる。また、「仮想カメラVCの実質的な正面にUIオブジェクト30が位置するようにUIオブジェクトを移動させる」とは、UIオブジェクト30に対する仮想カメラVCのピッチ方向の回転角を「0」度にした場合に、UIオブジェクト30の少なくとも一部が仮想カメラVCの視野内に入り、かつ、UIオブジェクトの移動前よりもUIオブジェクト30に対する仮想カメラVCのヨー方向の回転角が小さくなるように、UIオブジェクトを移動させることであってもよい。すなわち、本明細書における「正面」とは、UIオブジェクト(所定のオブジェクト)に対する仮想カメラのヨー方向の回転角が所定の角度であることを意味する。「所定の角度」は、所定のオブジェクトに対する仮想カメラのピッチ方向の回転角を「0」度にしたときに、仮想カメラの視野内に所定のオブジェクトの少なくとも一部が含まれる角度であってもよい。
また、上記実施形態では、仮想カメラVCの視線がUI領域の上側のA領域又は下側のA領域にある場合に、上記A領域における移動処理を行った。他の実施形態では、仮想カメラVCの視線がUI領域の上側のA領域にある場合にのみ、上記A領域における移動処理を行ってもよい。逆に、仮想カメラVCの視線がUI領域の下側のA領域にある場合にのみ、上記A領域における移動処理を行ってもよい。
また、図9に示す各領域の大きさ、形状は単なる一例であり、各領域は他の任意の大きさ、形状であってもよい。また、仮想カメラVCの視線が各領域の境界にある場合には、仮想カメラVCの視線がUI領域にあると判定されてもよいし、UI領域とは異なる領域(すなわち、A領域又はB領域)にあると判定されてもよい。
また、上記実施形態では、2つの左仮想カメラVCLおよび右仮想カメラVCRに基づいて、互いに視差を有する左目画像および右目画像を生成することとした。他の実施形態では、1つの仮想カメラに基づいて画像を生成し、生成した画像に変形を加えて互いに視差を有する左目画像および右目画像を生成してもよい。すなわち、本明細書において、「仮想カメラに基づいて左目画像および右目画像を生成する」ことは、一対の左仮想カメラVCLおよび右仮想カメラVCRに基づいて(すなわち、複数の仮想カメラに基づいて)左目画像および右目画像を生成することと、1つの仮想カメラに基づいて左目画像および右目画像を生成することとの両方を含むものとする。
また、上記実施形態では、ゴーグル装置10の表示部21は、ゴーグル本体に着脱可能であるとした。他の実施形態では、ゴーグル装置10の表示部21は、ゴーグル本体に固定されてもよい。すなわち、ゴーグル装置10は、左目用画像および右目用画像を表示するための表示部と、左目用画像および右目用画像を生成する情報処理装置とが一体として構成されたものであってもよい。また、ゴーグル装置10の表示部は、上述のような表示部21に限られない。例えば、ゴーグル装置10の表示部は、2つの表示部(ユーザの左目で視認される左目表示部、および、ユーザの右目で視認される右目表示部)を有してもよい。また、ゴーグル装置10の表示部は、任意の形状であってもよい。例えば、ゴーグル装置10の表示部自体が、左開口16Lおよび右開口16Rのように略円形(円形又は楕円)に形成されてもよい。また、正方形や長方形に形成された2つの左右の表示部が、ゴーグル装置10の表示部として用いられてもよい。また、ゴーグル装置10の表示部は、液晶表示装置や有機EL表示装置等の表示装置であってもよいし、投影面に映像を投影する投影方式の表示装置であってもよい。
また、上記実施形態の画像表示システム1の構成は単なる一例であり、上記に限られない。例えば、上記実施形態では、ゴーグル装置10は、画像を表示する表示部21および画像を生成するための処理を行うプロセッサ20を有する情報処理装置2と、ゴーグル本体とにより構成されるものとした。すなわち、ゴーグル本体と情報処理装置2とを含むゴーグル装置10により、画像表示システム1が構成されるものとした。他の実施形態では、表示部を備えるゴーグル装置(表示部と一体となったゴーグル装置)と、画像を生成するための処理等を行う情報処理装置とが別々の装置として構成され、これら複数の装置により、画像表示システム1が構成されてもよい。この場合、ゴーグル装置と情報処理装置とは、有線または無線で接続され、情報処理装置において生成された左目画像および右目画像がゴーグル装置に送信され、ユーザに視認されてもよい。また、情報処理装置が上述したUIオブジェクト30の移動に関する処理を行い、その処理の結果をゴーグル装置に送信し、ゴーグル装置が左目画像および右目画像を生成してユーザに視認させてもよい。また、ゴーグル装置と情報処理装置とは、ネットワーク(LANやWAN、インターネット等)で接続されてもよい。
また、本実施形態では、ユーザが手で把持したまま表示部を覗き込むゴーグル装置が用いられるものとしたが、他の実施形態では、ゴーグル装置は、ユーザが手で把持することを必要とせず、ユーザの頭部に固定的に装着するヘッドマウントディスプレイであってもよい。
以上、本発明について説明したが、上記説明は本発明の例示に過ぎず、種々の改良や変形が加えられてもよい。
1 画像表示システム
2 情報処理装置
10 ゴーグル装置
11 上面
12 右側面
13 下面
14 左側面
15 底面
16L 左開口
16R 右開口
17 仕切り面
20 プロセッサ
21 表示部
22 慣性センサ
30 UIオブジェクト
31~34 アイコン
35 情報表示オブジェクト
37 ポインタ
VC 仮想カメラ
VCL 左仮想カメラ
VCR 右仮想カメラ

Claims (30)

  1. ゴーグル装置と、
    仮想空間にオブジェクトを配置するオブジェクト配置手段と、
    前記仮想空間の仮想カメラによって撮像される画像を前記ゴーグル装置の表示部に表示させる表示制御手段と、
    前記ゴーグル装置の姿勢を取得する姿勢取得手段と、
    前記ゴーグル装置の姿勢に基づいて、前記仮想カメラを前記仮想空間において回転させるカメラ回転手段と、
    前記仮想カメラの視線が、所定の回転方向における一方向から他方向に変化したことを検知する検知手段と、
    前記検知手段によって前記変化が検知されたことに基づいて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う制御手段と、
    前記仮想カメラの回転量を算出する算出手段と、を備え
    前記算出手段は、前記所定の回転方向における前記他方向及び/又は前記一方向への回転量を算出し、
    前記制御手段は、
    前記検知手段によって前記変化が検知された後の前記他方向及び/又は前記一方向への回転量の累積値が所定値以上である場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う、画像表示システム。
  2. 前記制御手段は、前記検知手段によって前記変化が検知された場合において、当該検知された後の前記回転量が所定値以上である場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う、請求項に記載の画像表示システム。
  3. 前記算出手段は、前記所定の回転方向における前記一方向への第1回転量、および、前記所定の回転方向における前記他方向への第2回転量を算出し、
    前記第1回転量と前記第2回転量とを比較する比較手段をさらに備え、
    前記検知手段は、前記比較手段の比較結果に基づいて、前記変化を検知する、請求項に記載の画像表示システム。
  4. 前記検知手段は、前記第1回転量および前記第2回転量のうちの小さい方に基づいて、前記変化を検知する、請求項に記載の画像表示システム。
  5. 前記算出手段は、前記第1回転量の累積値、および、前記第2回転量の累積値を算出し、
    前記検知手段は、前記第1回転量の累積値、および、前記第2回転量の累積値のうちの小さい方に基づいて、前記変化を検知する、請求項に記載の画像表示システム。
  6. 前記カメラ回転手段は、
    少なくとも、前記仮想カメラの撮像範囲内に前記オブジェクトの少なくとも一部が位置する第1姿勢、および、前記仮想カメラの撮像範囲外に前記オブジェクトが位置する第2姿勢となるように、前記仮想カメラを回転させ、
    前記一方向は、前記仮想カメラが前記第2姿勢に近づく方向であり、
    前記他方向は、前記仮想カメラが前記第1姿勢に近づく方向である、請求項1からの何れかに記載の画像表示システム。
  7. 前記カメラ回転手段は、
    少なくとも、前記仮想カメラが前記オブジェクトを向く第1姿勢、および、前記仮想カメラが前記オブジェクトを向かない第2姿勢となるように、前記仮想カメラを回転させ、
    前記一方向は、前記仮想カメラが前記第1姿勢から離れる方向であり、
    前記他方向は、前記仮想カメラが前記第1姿勢に近づく方向である、請求項1からの何れかに記載の画像表示システム。
  8. 前記検知手段は、
    前記仮想カメラが前記第2姿勢である場合において、前記仮想カメラの視線が前記他方向に回転したとき、前記変化を検知し、
    前記仮想カメラが前記第2姿勢である場合において、前記仮想カメラの視線が前記他方向に回転することなく前記一方向に回転しているとき、又は、前記仮想カメラの視線が回転していないとき、前記変化を検知せず、
    前記制御手段は、前記変化が検知された場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行い、前記変化が検知されていない場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行わない、請求項又はに記載の画像表示システム。
  9. 前記第2姿勢は、前記仮想カメラの視線の左右方向に前記オブジェクトが存在する姿勢である、請求項からの何れかに記載の画像表示システム。
  10. 前記所定の回転方向は、前記仮想空間におけるヨー方向である、請求項1からの何れかに記載の画像表示システム。
  11. 前記カメラ回転手段は、前記仮想カメラの視線を、前記所定の回転方向と直交する第2の回転方向に回転させることが可能であり、
    前記検知手段は、さらに、前記仮想カメラの視線が前記第2の回転方向における一方向から他方向に変化したことを検知する、請求項1から10の何れかに記載の画像表示システム。
  12. 前記所定の回転方向は、前記仮想空間におけるピッチ方向である、請求項1から11の何れかに記載の画像表示システム。
  13. 前記オブジェクトは、ユーザが操作可能なユーザインターフェイスである、請求項1から12の何れかに記載の画像表示システム。
  14. 前記ユーザインターフェイスを指示するポインタを設定するポインタ設定手段をさらに備え、
    前記検知手段は、前記ユーザインターフェイスを基準とする所定の領域に前記ポインタがない場合、前記変化を検知する、請求項13に記載の画像表示システム。
  15. 前記検知手段は、前記所定の領域に前記ポインタがない場合、前記所定の回転方向における前記一方向および前記他方向の回転の変化量を算出する、請求項14に記載の画像表示システム。
  16. 前記検知手段は、前記ポインタが前記所定の領域に入った場合、前記変化量をリセットする、請求項15に記載の画像表示システム。
  17. 前記一方向は、前記ポインタが前記所定の領域から離れる方向であり、
    前記検知手段は、前記ポインタが前記所定の領域から離れる方向への移動中に前記ポインタの移動方向が反転した場合に、前記変化を検知する、請求項14から16の何れかに記載の画像表示システム。
  18. 前記検知手段は、前記オブジェクトを基準とした前記仮想カメラの視線が所定の角度である場合に、前記変化を検知する、請求項1から17の何れかに記載の画像表示システム。
  19. 前記仮想カメラの姿勢に応じて前記オブジェクトを選択する選択手段をさらに備え、
    前記制御手段は、前記選択手段によって前記オブジェクトが選択されていない場合に、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う、請求項1から18の何れかに記載の画像表示システム。
  20. 前記検知手段によって前記変化が検知されていない場合でも、ユーザによる所定の操作に応じて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動又は前記仮想カメラの制御を行う第2制御手段をさらに備える、請求項1から19の何れかに記載の画像表示システム。
  21. 前記検知手段は、前記仮想カメラの視線の前記一方向から前記他方向への反転、および、前記他方向から前記一方向への反転の回数が所定回数になったことを検知し、
    前記制御手段は、前記検知手段によって前記反転の回数が所定回数になったことが検知された場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う、請求項1から20の何れかに記載の画像表示システム。
  22. ゴーグル装置の表示部に画像を表示させる装置のプロセッサにおいて実行される画像表示プログラムであって、前記プロセッサを、
    仮想空間にオブジェクトを配置するオブジェクト配置手段、
    前記仮想空間の仮想カメラによって撮像される画像を前記表示部に表示させる表示制御手段、
    前記ゴーグル装置の姿勢を取得する姿勢取得手段、
    前記ゴーグル装置の姿勢に基づいて、前記仮想カメラを前記仮想空間において回転させるカメラ回転手段、
    前記仮想カメラの視線が、所定の回転方向における一方向から他方向に変化したことを検知する検知手段
    前記検知手段によって前記変化が検知されたことに基づいて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う制御手段、および、
    前記仮想カメラの回転量を算出する算出手段として機能させ
    前記算出手段は、前記所定の回転方向における前記他方向及び/又は前記一方向への回転量を算出し、
    前記制御手段は、
    前記検知手段によって前記変化が検知された後の前記他方向及び/又は前記一方向への回転量の累積値が所定値以上である場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う、画像表示プログラム。
  23. ゴーグル装置の表示部に画像を表示させる表示制御装置であって、
    仮想空間にオブジェクトを配置するオブジェクト配置手段と、
    前記仮想空間の仮想カメラによって撮像される画像を前記表示部に表示させる表示制御手段と、
    前記ゴーグル装置の姿勢を取得する姿勢取得手段と、
    前記ゴーグル装置の姿勢に基づいて、前記仮想カメラを前記仮想空間において回転させるカメラ回転手段と、
    前記仮想カメラの視線が、所定の回転方向における一方向から他方向に変化したことを検知する検知手段と、
    前記検知手段によって前記変化が検知されたことに基づいて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う制御手段と、
    前記仮想カメラの回転量を算出する算出手段と、を備え
    前記算出手段は、前記所定の回転方向における前記他方向及び/又は前記一方向への回転量を算出し、
    前記制御手段は、
    前記検知手段によって前記変化が検知された後の前記他方向及び/又は前記一方向への回転量の累積値が所定値以上である場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う、表示制御装置。
  24. ゴーグル装置を含む画像表示システムにおいて行われる画像表示方法であって、前記画像表示システムに、
    仮想空間にオブジェクトを配置するオブジェクト配置ステップと、
    前記仮想空間の仮想カメラによって撮像される画像を前記ゴーグル装置の表示部に表示させる表示制御ステップと、
    前記ゴーグル装置の姿勢を取得する姿勢取得ステップと、
    前記ゴーグル装置の姿勢に基づいて、前記仮想カメラを前記仮想空間において回転させるカメラ回転ステップと、
    前記仮想カメラの視線が、所定の回転方向における一方向から他方向に変化したことを検知する検知ステップと、
    前記検知ステップで前記変化が検知されたことに基づいて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う制御ステップと、
    前記仮想カメラの回転量を算出する算出ステップと、を実行させ
    前記算出ステップでは、前記所定の回転方向における前記他方向及び/又は前記一方向への回転量を算出し、
    前記制御ステップでは、
    前記検知ステップで前記変化が検知された後の前記他方向及び/又は前記一方向への回転量の累積値が所定値以上である場合、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う、画像表示方法。
  25. ゴーグル装置と、
    仮想空間にオブジェクトを配置するオブジェクト配置手段と、
    前記仮想空間の仮想カメラによって撮像される画像を前記ゴーグル装置の表示部に表示させる表示制御手段と、
    前記ゴーグル装置の姿勢を取得する姿勢取得手段と、
    前記ゴーグル装置の姿勢に基づいて、前記仮想カメラを前記仮想空間において回転させるカメラ回転手段と、
    前記仮想カメラの視線が、所定の回転方向における一方向から他方向に変化したことを検知する検知手段と、
    前記検知手段によって前記変化が検知されたことに基づいて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う制御手段と、
    前記仮想カメラの回転量を算出する算出手段と、を備え
    前記制御手段は、
    少なくとも前記検知手段によって前記変化が検知されたこと、および、前記回転量に基づいて、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行い、
    前記算出手段は、前記所定の回転方向における前記一方向への第1回転量、および、前記所定の回転方向における前記他方向への第2回転量を算出し、
    前記第1回転量と前記第2回転量とを比較する比較手段をさらに備え、
    前記検知手段は、前記比較手段の比較結果に基づいて、前記変化を検知する、画像表示システム。
  26. ゴーグル装置の表示部に画像を表示させる装置のプロセッサにおいて実行される画像表示プログラムであって、前記プロセッサを、
    仮想空間にオブジェクトを配置するオブジェクト配置手段、
    前記仮想空間の仮想カメラによって撮像される画像を前記表示部に表示させる表示制御手段、
    前記ゴーグル装置の姿勢を取得する姿勢取得手段、
    前記ゴーグル装置の姿勢に基づいて、前記仮想カメラを前記仮想空間において回転させるカメラ回転手段、
    前記仮想カメラの視線が、所定の回転方向における一方向から他方向に変化したことを検知する検知手段
    前記検知手段によって前記変化が検知されたことに基づいて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う制御手段、および、
    前記仮想カメラの回転量を算出する算出手段、として機能させ
    前記制御手段は、
    少なくとも前記検知手段によって前記変化が検知されたこと、および、前記回転量に基づいて、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行い、
    前記算出手段は、前記所定の回転方向における前記一方向への第1回転量、および、前記所定の回転方向における前記他方向への第2回転量を算出し、
    前記第1回転量と前記第2回転量とを比較する比較手段、としてさらに機能させ、
    前記検知手段は、前記比較手段の比較結果に基づいて、前記変化を検知する、画像表示プログラム。
  27. ゴーグル装置の表示部に画像を表示させる表示制御装置であって、
    仮想空間にオブジェクトを配置するオブジェクト配置手段と、
    前記仮想空間の仮想カメラによって撮像される画像を前記表示部に表示させる表示制御手段と、
    前記ゴーグル装置の姿勢を取得する姿勢取得手段と、
    前記ゴーグル装置の姿勢に基づいて、前記仮想カメラを前記仮想空間において回転させるカメラ回転手段と、
    前記仮想カメラの視線が、所定の回転方向における一方向から他方向に変化したことを検知する検知手段と、
    前記検知手段によって前記変化が検知されたことに基づいて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う制御手段と、
    前記仮想カメラの回転量を算出する算出手段と、を備え
    前記制御手段は、
    少なくとも前記検知手段によって前記変化が検知されたこと、および、前記回転量に基づいて、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行い、
    前記算出手段は、前記所定の回転方向における前記一方向への第1回転量、および、前記所定の回転方向における前記他方向への第2回転量を算出し、
    前記第1回転量と前記第2回転量とを比較する比較手段をさらに備え、
    前記検知手段は、前記比較手段の比較結果に基づいて、前記変化を検知する、表示制御装置。
  28. ゴーグル装置を含む画像表示システムにおいて行われる画像表示方法であって、前記画像表示システムに、
    仮想空間にオブジェクトを配置するオブジェクト配置ステップと、
    前記仮想空間の仮想カメラによって撮像される画像を前記ゴーグル装置の表示部に表示させる表示制御ステップと、
    前記ゴーグル装置の姿勢を取得する姿勢取得ステップと、
    前記ゴーグル装置の姿勢に基づいて、前記仮想カメラを前記仮想空間において回転させるカメラ回転ステップと、
    前記仮想カメラの視線が、所定の回転方向における一方向から他方向に変化したことを検知する検知ステップと、
    前記検知ステップで前記変化が検知されたことに基づいて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う制御ステップと、
    前記仮想カメラの回転量を算出する算出ステップと、を実行させ
    前記制御ステップでは、
    少なくとも前記検知ステップで前記変化が検知されたこと、および、前記回転量に基づいて、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行い、
    前記算出ステップでは、前記所定の回転方向における前記一方向への第1回転量、および、前記所定の回転方向における前記他方向への第2回転量を算出し、
    前記第1回転量と前記第2回転量とを比較する比較ステップをさらに実行させ、
    前記検知ステップでは、前記比較ステップの比較結果に基づいて、前記変化を検知する、画像表示方法。
  29. ゴーグル装置と、
    仮想空間にオブジェクトを配置するオブジェクト配置手段と、
    前記仮想空間の仮想カメラによって撮像される画像を前記ゴーグル装置の表示部に表示させる表示制御手段と、
    前記ゴーグル装置の姿勢を取得する姿勢取得手段と、
    前記ゴーグル装置の姿勢に基づいて、前記仮想カメラを前記仮想空間において回転させるカメラ回転手段と、
    前記仮想カメラの視線が、所定の回転方向における一方向から他方向に変化したことを検知する検知手段と、
    前記検知手段によって前記変化が検知されたことに基づいて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う制御手段と、を備え
    前記カメラ回転手段は、
    少なくとも、前記仮想カメラの撮像範囲内に前記オブジェクトの少なくとも一部が位置する第1姿勢、および、前記仮想カメラの撮像範囲外に前記オブジェクトが位置する第2姿勢となるように、前記仮想カメラを回転させ、
    前記一方向は、前記仮想カメラが前記第2姿勢に近づく方向であり、
    前記他方向は、前記仮想カメラが前記第1姿勢に近づく方向である、画像表示システム。
  30. ゴーグル装置と、
    仮想空間にオブジェクトを配置するオブジェクト配置手段と、
    前記仮想空間の仮想カメラによって撮像される画像を前記ゴーグル装置の表示部に表示させる表示制御手段と、
    前記ゴーグル装置の姿勢を取得する姿勢取得手段と、
    前記ゴーグル装置の姿勢に基づいて、前記仮想カメラを前記仮想空間において回転させるカメラ回転手段と、
    前記仮想カメラの視線が、所定の回転方向における一方向から他方向に変化したことを検知する検知手段と、
    前記検知手段によって前記変化が検知されたことに基づいて、前記オブジェクトの少なくとも一部が前記仮想カメラの撮像範囲内に位置するように、前記オブジェクトの移動及び前記仮想カメラの制御の少なくとも何れか一方を行う制御手段と、を備え
    前記カメラ回転手段は、
    少なくとも、前記仮想カメラが前記オブジェクトを向く第1姿勢、および、前記仮想カメラが前記オブジェクトを向かない第2姿勢となるように、前記仮想カメラを回転させ、
    前記一方向は、前記仮想カメラが前記第1姿勢から離れる方向であり、
    前記他方向は、前記仮想カメラが前記第1姿勢に近づく方向である、画像表示システム。
JP2019053213A 2019-03-20 2019-03-20 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法 Active JP7300287B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2019053213A JP7300287B2 (ja) 2019-03-20 2019-03-20 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法
US16/808,761 US11752430B2 (en) 2019-03-20 2020-03-04 Image display system, non-transitory storage medium having stored therein image display program, display control apparatus, and image display method
EP20161878.2A EP3712750A1 (en) 2019-03-20 2020-03-09 Image display system, image display program, and image display method
JP2023099844A JP7471497B2 (ja) 2019-03-20 2023-06-19 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法
US18/359,118 US20230364511A1 (en) 2019-03-20 2023-07-26 Image display system, non-transitory storage medium having stored therein image display program, display control apparatus, and image display method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019053213A JP7300287B2 (ja) 2019-03-20 2019-03-20 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023099844A Division JP7471497B2 (ja) 2019-03-20 2023-06-19 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法

Publications (2)

Publication Number Publication Date
JP2020154792A JP2020154792A (ja) 2020-09-24
JP7300287B2 true JP7300287B2 (ja) 2023-06-29

Family

ID=69784213

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019053213A Active JP7300287B2 (ja) 2019-03-20 2019-03-20 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法
JP2023099844A Active JP7471497B2 (ja) 2019-03-20 2023-06-19 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023099844A Active JP7471497B2 (ja) 2019-03-20 2023-06-19 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法

Country Status (3)

Country Link
US (2) US11752430B2 (ja)
EP (1) EP3712750A1 (ja)
JP (2) JP7300287B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11281005B2 (en) * 2019-08-08 2022-03-22 Sharp Kabushiki Kaisha Compact head-mounted display system with orthogonal panels

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130246967A1 (en) 2012-03-15 2013-09-19 Google Inc. Head-Tracked User Interaction with Graphical Interface
US20170199565A1 (en) 2016-01-13 2017-07-13 Huawei Technologies Co., Ltd. Interface Interaction Apparatus and Method
WO2018204419A1 (en) 2017-05-01 2018-11-08 Magic Leap, Inc. Matching content to a spatial 3d environment

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8179366B2 (en) * 2004-12-06 2012-05-15 Naturalpoint, Inc. Systems and methods for using a movable object to control a computer
US9041741B2 (en) 2013-03-14 2015-05-26 Qualcomm Incorporated User interface for a head mounted display
JP5983499B2 (ja) 2013-03-29 2016-08-31 ソニー株式会社 表示制御装置、表示制御方法、およびプログラム
JP6228392B2 (ja) 2013-05-31 2017-11-08 任天堂株式会社 パノラマ画像表示プログラム、パノラマ画像表示装置、パノラマ画像表示システム、および、パノラマ画像表示方法
JP6319952B2 (ja) * 2013-05-31 2018-05-09 任天堂株式会社 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法
JP6396027B2 (ja) 2014-02-12 2018-09-26 株式会社バンダイナムコエンターテインメント プログラムおよびゲーム装置
JP6357023B2 (ja) * 2014-06-06 2018-07-11 任天堂株式会社 情報処理プログラム、情報処理装置、情報処理装置の制御方法および情報処理システム
JP2016110319A (ja) 2014-12-04 2016-06-20 ソニー株式会社 表示制御装置、表示制御方法およびプログラム
EP3333808B1 (en) * 2015-08-06 2021-10-27 Sony Interactive Entertainment Inc. Information processing device
JP6346131B2 (ja) 2015-09-07 2018-06-20 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画像生成方法
JP6276434B1 (ja) * 2017-02-03 2018-02-07 株式会社コロプラ 仮想空間における移動を支援するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2017228322A (ja) 2017-09-27 2017-12-28 株式会社コロプラ 仮想空間を提供する方法、プログラム、および記録媒体
JP2018192272A (ja) 2018-07-05 2018-12-06 株式会社カプコン ゲームプログラム及びゲーム装置
JP7307568B2 (ja) * 2019-03-20 2023-07-12 任天堂株式会社 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130246967A1 (en) 2012-03-15 2013-09-19 Google Inc. Head-Tracked User Interaction with Graphical Interface
US20170199565A1 (en) 2016-01-13 2017-07-13 Huawei Technologies Co., Ltd. Interface Interaction Apparatus and Method
WO2018204419A1 (en) 2017-05-01 2018-11-08 Magic Leap, Inc. Matching content to a spatial 3d environment

Also Published As

Publication number Publication date
JP2020154792A (ja) 2020-09-24
US20230364511A1 (en) 2023-11-16
JP2023121780A (ja) 2023-08-31
US11752430B2 (en) 2023-09-12
EP3712750A1 (en) 2020-09-23
JP7471497B2 (ja) 2024-04-19
US20200298114A1 (en) 2020-09-24

Similar Documents

Publication Publication Date Title
JP7459334B2 (ja) 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法
JP5981591B1 (ja) 没入型仮想空間でオブジェクト操作を制御するためのコンピュータ・プログラムおよびコンピュータ・システム
JP6250592B2 (ja) ヘッドマウントディスプレイ、情報処理装置、表示制御方法及びプログラム
JP5959047B2 (ja) 表示制御システム、表示制御方法、表示制御プログラム、および表示制御装置
JP5767386B1 (ja) ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイへ表示するための方法、及びプログラム
US9325961B2 (en) Computer-readable storage medium having information processing program stored therein, information processing method, information processing apparatus, and information processing system
WO2018016553A1 (ja) 仮想空間を提供する方法、仮想体験を提供する方法、プログラム、および記録媒体
WO2020189254A1 (ja) 情報処理装置、情報処理方法、及びコンピュータが読み取り可能な記録媒体
JP2013258614A (ja) 画像生成装置および画像生成方法
JP7471497B2 (ja) 画像表示システム、画像表示プログラム、表示制御装置、および画像表示方法
JP6099237B2 (ja) 表示制御システム、表示制御方法、表示制御プログラム、および表示制御装置
JP6549066B2 (ja) 没入型仮想空間でオブジェクト操作を制御するためのコンピュータ・プログラムおよびコンピュータ・システム
JP2016115329A (ja) ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイへ表示するための方法、及びプログラム
JP6159455B1 (ja) 仮想空間を提供する方法、プログラム、および記録媒体
JP6388270B1 (ja) 情報処理装置、情報処理装置のプログラム、ヘッドマウントディスプレイ、及び、表示システム
JP6776155B2 (ja) 仮想現実を提供するための方法、および当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6813640B2 (ja) ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイへ表示するための方法、及びプログラム
JP6389305B1 (ja) 情報処理方法、コンピュータ、及びプログラム
JP2023096844A (ja) プログラム、情報処理方法、及び情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230523

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230619

R150 Certificate of patent or registration of utility model

Ref document number: 7300287

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150