JP2017058971A - プログラムおよび画像生成装置 - Google Patents
プログラムおよび画像生成装置 Download PDFInfo
- Publication number
- JP2017058971A JP2017058971A JP2015183387A JP2015183387A JP2017058971A JP 2017058971 A JP2017058971 A JP 2017058971A JP 2015183387 A JP2015183387 A JP 2015183387A JP 2015183387 A JP2015183387 A JP 2015183387A JP 2017058971 A JP2017058971 A JP 2017058971A
- Authority
- JP
- Japan
- Prior art keywords
- information array
- hmd
- virtual space
- display
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000015572 biosynthetic process Effects 0.000 title 1
- 238000001514 detection method Methods 0.000 claims description 36
- 230000000007 visual effect Effects 0.000 claims description 27
- 230000008859 change Effects 0.000 claims description 13
- 238000000034 method Methods 0.000 abstract description 29
- 210000003128 head Anatomy 0.000 description 45
- 238000012545 processing Methods 0.000 description 37
- 238000004891 communication Methods 0.000 description 20
- 238000005259 measurement Methods 0.000 description 19
- 238000004364 calculation method Methods 0.000 description 18
- 239000003550 marker Substances 0.000 description 17
- 230000008569 process Effects 0.000 description 17
- 238000010586 diagram Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 14
- 230000001133 acceleration Effects 0.000 description 11
- 210000001508 eye Anatomy 0.000 description 8
- 230000015654 memory Effects 0.000 description 8
- 238000012986 modification Methods 0.000 description 7
- 230000004048 modification Effects 0.000 description 7
- 238000010187 selection method Methods 0.000 description 7
- 239000000758 substrate Substances 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 230000005236 sound signal Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000013475 authorization Methods 0.000 description 3
- 238000009877 rendering Methods 0.000 description 3
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 2
- 210000005252 bulbus oculi Anatomy 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 241000238631 Hexapoda Species 0.000 description 1
- 241000282412 Homo Species 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000035622 drinking Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 235000013305 food Nutrition 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1694—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a single or a set of motion sensors for pointer control or gesture input obtained by sensing movements of the portable computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/163—Wearable computers, e.g. on a belt
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
Abstract
【解決手段】VR−HMDに表示される画像に注視判定領域30を設け、当該領域内に所定時間以上写っているカットオブジェクト24を注視オブジェクトとし、当該オブジェクトに設定されている階層構造のメニュー項目のうち、第1層のメニュー項目を表す第1層メニュー表示オブジェクト41a、41b、41c、…を、当該注視オブジェクトを基準として定義される左右方向軸51に配列表示させる。所望する第1層メニュー表示オブジェクトを注視判定領域30に写すように頭部を動かして注視オブジェクトとして検出させると、対応する第1層のメニュー項目が選択決定され、当該メニュー項目の次下位階層のメニュー項目を表す第2層メニュー表示オブジェクト42a、42b、42c、・・・が上下方向軸52に配列表示される。
【選択図】図9
Description
前記VR−HMD画像の仮想空間として、複数のオブジェクトが配置された仮想空間を設定する仮想空間設定手段(例えば、図12の処理部200、ゲーム演算部202、仮想空間設定部210、図17のステップS10)、
前記仮想空間における前記VR−HMDの視線方向を判断する視線方向判断手段(例えば、図12の処理部200、ゲーム演算部202、HMD位置姿勢検出部212,視線方向判定部214、図17のステップS12)、
前記複数のオブジェクトのうちの何れかのオブジェクトが前記視線方向の先に位置したことを検出し、当該検出結果を用いて当該オブジェクトを選択オブジェクトとして選択する選択オブジェクト判定手段(例えば、図12の処理部200、ゲーム演算部202、選択オブジェクト判定部220、図17のステップS18)、
複数の情報配列方向が相対的かつ3次元的に定められた情報配列を、前記選択オブジェクトの位置を基点とし、且つ、前記視線方向に対する前記情報配列方向が所与の相対関係となるように前記仮想空間に配置表示する情報配列表示制御手段(例えば、図12の処理部200、ゲーム演算部202、情報配列表示制御部230、図17のステップS70〜S74、図18のステップS120〜S136)、
として前記コンピュータを機能させるためのプログラムである。
視線の先に位置するオブジェクトの情報が、その周囲を取り巻くように仮想空間に表示される様子は、VR−HMDが提供する圧倒的な仮想現実感に近未来的な操作感を加え、より映像体験の魅力を高める。
第3の発明によれば、眼球を左右に振らずに一瞥で認識できる範囲に情報配列を納めることができる。
第5の発明によれば、第3の発明と同様の効果を得ることができる。すなわち、眼球を左右に振らずに一瞥で認識できる範囲に情報配列を納めることができる。
前記複数のオブジェクトのうちの何れかのオブジェクトを選択オブジェクトとして選択する選択オブジェクト判定手段として前記コンピュータを更に機能させ、
前記情報配列表示制御手段が、前記情報配列を、前記選択オブジェクトの位置を基点とし、且つ、前記視線方向に対する前記情報配列方向が所与の相対関係となるように前記仮想空間に配置表示し、更に、前記情報配列の大きさが、前記有効視野を超える場合、当該有効視野内に収まるように前記情報配列の大きさを変更して表示する、
第5の発明のプログラムを構成することとしてもよい。
前記VR−HMD画像の仮想空間として、複数のオブジェクトが配置された仮想空間を設定する仮想空間設定手段(例えば、図1の制御基板1050、図12の処理部200、ゲーム演算部202、仮想空間設定部210、図17のステップS10)と、
前記仮想空間における前記VR−HMDの視線方向を判断する視線方向判断手段(例えば、図1の制御基板1050、図12の処理部200、ゲーム演算部202、MDD位置姿勢検出部212,視線方向判定部214、図17のステップS12)と、
前記複数のオブジェクトのうちの何れかのオブジェクトが前記視線方向の先に位置したことを検出し、当該検出結果を用いて当該オブジェクトを選択オブジェクトとして選択する選択オブジェクト判定手段(例えば、図1の制御基板1050、図12の処理部200、ゲーム演算部202、選択オブジェクト判定部220、図17のステップS18)と、
複数の情報配列方向が相対的かつ3次元的に定められた情報配列を、前記選択オブジェクトの位置を基点とし、且つ、前記視線方向に対する前記情報配列方向が所与の相対関係となるように前記仮想空間に配置表示する情報配列表示制御手段(例えば、図1の制御基板1050、図12の処理部200、ゲーム演算部202、情報配列表示制御部230、図17のステップS70〜S74、図18のステップS120〜S136)と、を備えた画像生成装置である。
ゲーム装置1000は、本実施形態における本発明を適用した画像生成装置であって、ゲーム装置本体1002と、タッチパネル1004と、測距センサユニット1100と、ゲームコントローラ1200と、VR−HMD1310を搭載したヘッドセット1300と、を備える。VR−HMD1310は、非透過型(没入型とも称される)のHMDとして説明するが、半透過型や透過型のHMDであってもよい。
制御基板1050は、例えば、
1)CPU(Central Processing Unit)1051やGPU(Graphics Processing Unit)、DSP(Digital Signal Processor)などの各種マイクロプロセッサ、
2)VRAMやRAM,ROM等の各種ICメモリ1052、
3)タッチパネル1004や測距センサユニット1100、ゲームコントローラ1200、ヘッドセット1300などの周辺機器と無線或いは有線により通信接続するための通信モジュール1053、
4)タッチパネル1004などのドライバ回路1054、などを搭載する。
なお、制御基板1050の一部または全部は、ASIC(Application Specific Integrated Circuit)や、FPGA(field-programmable gate array)、SoC(System on a Chip)により実現するとしてもよい。
なお、測距センサユニット1100で採用する測距技術はIR式に限らず適宜他の方式を採用することができる。例えば、左右のカラーイメージセンサ1104を用いてステレオ撮影し、視差から距離を算出する方式を採用してもよい。
6軸センサ1108は、測距センサユニット1100の前後(カラーイメージセンサ1104の光軸方向)・左右・上下の3軸方向の移動や各軸周りの回転を検出するモーショントレースのための公知のセンサであって、例えば、3軸方向の加速度と3軸周りの角速度とを検出する。或いは3軸方向の加速度と東西南北の地磁気方向を検出するとしてもよい。6軸センサ1108による検出結果から、測距空間の座標系の深度方向軸(Z軸;奥行方向軸)の向きが分かるようになる。
本実施形態のゲームコントローラ1200は、両手で把持して用いることを前提としてデザインされている。勿論、銃型コントローラのように片手での把持を前提としてデザインするとしてもよい。そして、ゲームコントローラ1200は、発光マーカ1202と、スピーカ1204と、バイブレータ1206と、6軸センサ1208と、コントローラ基板1250と、図示されない内蔵バッテリー等を備える。
ヘッドセット1300は、プレーヤ2が頭部に装着する装備(電子機器)であって、画像と音声の情報をプレーヤ2に視聴可能に提供するとともに、ヘッドトラッキングを実現するための頭部の位置や姿勢を検出する機能を有する。例えば、ヘッドセット1300は、ヘッドホン1302と、マイクロフォン1304と、VR−HMD1310と、ヘッドセット基板1350と、を有する。
例えば、ヘッドセット基板1350から画像信号を受信する通信ICと、受信した画像信号に基づく画像を装着者の両眼に肉眼の視野角相当で見せる画像表示デバイス及び光学素子と、6軸センサ1308と、6軸センサ1308で検出した頭部の加速度や姿勢の情報を算出処理するICチップ1309と、ゲーム装置本体1002と通信接続するための通信モジュール1352と、を含む。これらの一部は、ヘッドセット基板1350に含まれるとしてもよい。
測距空間の座標系は、測距センサユニット1100を座標原点とし、カラーイメージセンサ1104の光軸方向を深度軸(Z軸)とする。そして、スケールは実空間と同様に設定されている。測距空間は実空間でもあるが、測距センサユニット1100の設置姿勢に応じて座標系の各軸方向が定義される。測距センサユニット1100の設置姿勢は、6軸センサ1108の検知結果から判断される。勿論、6軸センサ1109の検知結果から実空間の水平方向及び鉛直方向を求めることができるため、測距空間の座標軸の方向も、水平方向及び鉛直方向に沿って設定することが可能である。
図6〜図8は、とある状況における(1)VR−HMD1310に表示されるゲーム画面例と、(2)仮想ステレオカメラ10とメニュー割当オブジェクトであるカップオブジェクト24との位置関係を説明するための図、(3)ゲーム空間内における仮想ステレオカメラ10とカップオブジェクト24との配置状況を示す俯瞰図、である。図番の順に状況が遷移している。ゲーム画面は、ヘッドトラッキング式のVR−HMD1310に表示される立体視画像である。すなわちVR−HMD画像である。
図8の例では、注視オブジェクトであるカップオブジェクト24の基準方向5は、カップオブジェクト24の上方、仮想ステレオカメラ10の直交3軸視界座標系における左右方向軸(Xc軸)に沿うように設定されている。勿論、視界座標の上下方向軸(Yc軸)や奥行き方向軸(Zc軸)に沿うように設定してもよい。
図9(1)のゲーム画面W9で示す状態(図8相当)から、第1層メニュー表示オブジェクト41の何れかを選択操作するには、プレーヤは所望する第1層メニュー表示オブジェクト41の少なくとも一部が注視判定領域30内に写るように注視操作する。具体的には視線方向を変えるように頭の向きを変える。
具体的には、第(n+1)層のメニュー割当オブジェクトを、第n層のメニュー表示オブジェクトの配列方向と交差する方向に配列表示する。更に、第(n+1)層のメニュー表示オブジェクトの表示に当たっては、その表示位置や表示形態を、第n層のどのメニュー表示オブジェクトの下層に当たるかが分かるように設定する。図9(3)の例では、第n層で選択されたメニュー表示オブジェクトと、第(n+1)層に配列表示した各メニュー表示オブジェクトとを同じ表示色で示し、その関係を明示している。勿論、他の表示形態、例えば、メニュー表示オブジェクトの形状を類似させたり、第n層で選択されたメニュー表示オブジェクトと、第(n+1)層に配列表示する各メニュー表示オブジェクトとを連結させた連結表示としてもよい。
次に、本実施形態を実現するための機能構成例について説明する。
図12は、本実施形態におけるゲーム装置1000の機能構成例を示す機能ブロック図である。本実施形態におけるゲーム装置1000は、操作入力部100と、処理部200と、音出力部390と、画像表示部392と、通信部394と、記憶部500とを備える。
具体的には、音声認識部208で音声認識されたメニュー項目に対応するメニュー表示オブジェクトを選択オブジェクトとして選択する。
表示開始判定部222は、仮想ステレオカメラ10の視線方向に基づいて、同一のオブジェクトが継続的に選択されている(本実施形態で言う所の注視されている)状態である注視継続時間(選択継続時間)を計時して、情報配列の配置表示を開始させるか否かを判定する。本実施形態では、メニュー表示オブジェクトの配置表示を開始させるか判定する。
1)ゲーム空間における仮想ステレオカメラ10の位置(VR−HMD1310の視点位置相当)から注視オブジェクト(選択オブジェクト)までの距離に応じて、選択対象とされるメニュー表示の大きさを変更することができる(図11参照)。すなわち、情報配列の左右方向の大きさが、視線方向を基準とする左右視野角60〜80°のうちの所定角度範囲で定められる推奨範囲33を超える場合、推奨範囲33以内に収まるように情報配列の大きさを変更する。
2)第1階層の情報配列方向が、注視オブジェクト(選択オブジェクト)に関連付けられた基準方向5に沿うように情報配列を配置表示する。本実施形態では、第1層メニュー表示オブジェクト41を基準方向5に沿って配列表示させる。
3)下位階層の情報配列を、新たに表示させる際には、直近上位階層の情報配列のうち選択された情報配列に視覚的に対応付けられる位置から情報配列方向に配列表示する(図9(3)、図10(2)参照)。
ゲームプログラム505は、処理部200にゲーム演算部202としての機能を実現させるためのプログラムである。
メニュー項目階層定義データ530は、当該オブジェクトに係るメニュー項目の階層構造を定義している。例えば、第1階層メニュー項目533、第2階層メニュー項目535、第3階層メニュー項目537、…と言った具合に各階層のメニュー項目を対応付けて格納する。
メニュー表示オブジェクト定義データ540は、メニュー項目階層定義データ530で定義されている階層毎に用意され、それぞれどのようにメニュー表示体オブジェクトを表示させるかを定義する。1つのメニュー表示オブジェクト定義データ540は、当該データが適用される階層を示す適用階層541と、メニュー表示オブジェクトのオブジェクトモデルデータ542と、メニュー表示オブジェクトの配列方向543と、を格納する。
プレイデータ700は、ゲーム進行状況を記述する各種データが格納される。例えば、HMD位置座標702と、HMD姿勢704と、仮想ステレオカメラ位置座標710と、仮想ステレオカメラ姿勢712と、注視オブジェクト判定制御データ720と、選択オブジェクトID725と、オブジェクト制御データ730と、メニュー表示階層740と、第n層メニュー表示開始タイミング742と、メニュー表示オブジェクト制御データ744とを含む。勿論、これら以外のデータも適宜含めることができる。
図17〜図19は、ゲーム装置1000におけるヘッドトラッキングを利用したメニュー選択に係る処理の流れを説明するためのフローチャートであって、ゲームプログラム505を実行することにより実現される。なお、ゲーム装置本体1002と、タッチパネル1004、測距センサユニット1100、ゲームコントローラ1200、ヘッドセット1300の各機器との間の接続認証は完了しているものとする。また、本実施形態では従来通りゲームコントローラ1200によるメニュー選択も可能とするが、当該フローチャートでは説明を省略している。
すなわち、ゲーム装置1000は、1回の制御サイクルにおいて、先ずオブジェクトの配置や移動制御を実行する(ステップS16)。次いで、配置されているオブジェクトのうち、メニュー割当のある全てのオブジェクト(メニュー割当オブジェクト)を対象にして注視オブジェクト検出処理を実行する(ステップS18)。
本発明の実施形態は上記に限らず、適宜構成要素の追加・省略・変更が可能である。
例えば、ヘッドセット1300それ自体が、例えば、姿勢検出可能なセンサを搭載したメガネ型やゴーグル型のウェアラブルコンピュータであって、ゲーム装置本体1002を兼ねる構成としてもよい。
また、上記実施形態ではゲーム装置1000がスタンドアローンでゲームを実行する構成を例示したが、オンラインゲームとして実現するとしてもよい。その場合は、図21で示すように、ゲームサーバとして機能するサーバシステム1600と、プレーヤ端末として機能するゲーム装置1000とが通信回線9を介して通信接続されたゲームシステムに本発明を適用する。そして当該構成においては、図12で示した機能構成のうち、処理部200及び記憶部500をサーバシステム1600にて実現し、図16〜図18のフローチャートをサーバシステム1600にて実行すればよい。
上記実施形態では、第1層メニュー表示オブジェクト41、第2層メニュー表示オブジェクト42、第3層メニュー表示オブジェクト43を、それぞれ仮想ステレオカメラ10の視界座標系左右方向軸(Xc軸)、上下方向軸(Yc軸)、奥行き方向軸(Zc軸)に、沿わせた配列表示とする構成としたが、階層順と配列表示を沿わせる視界座標系の軸との対応関係は適宜変更可能である。
例えば、ステップS84(図17参照)では、メニュー表示階層740の示す階層数nの第n層メニュー表示オブジェクトが推奨範囲33内に表示されるようにサイズ調整を行ったが、図22に示すように、第1層メニュー表示オブジェクト41〜メニュー表示階層740の示す階層数nの第n層メニュー表示オブジェクトまでが推奨範囲33内に表示されるようにサイズ調整を行うとしてもよい。
また、上記実施形態では、1)メニュー割当オブジェクトに設定されている基準方向525を1つ設定することとし、2)基準方向525は、仮想ステレオカメラ10の視線方向を奥行き方向座標とする視界座標系の何れかの軸に沿った方向として設定することとしたが、これに限らない。例えば、図23に示すように、注視オブジェクト(カップオブジェクト24)の付近に基準方向原点P0を設定し、仮想ステレオカメラ10の視線奥行き方向に対して傾斜した複数の基準方向(第1基準方向61、第2基準方向62)を設定することができる。
また、配置済のメニュー表示オブジェクトと、選択されたメニュー割当オブジェクトとの相対位置関係も、メニュー表示制御の進行に応じて適宜変更する構成も可能である。
例えば、図24〜図26に示すように、第(n+1)層メニュー表示オブジェクトを表示する際、第n層メニュー表示オブジェクトのうち注視オブジェクトとして検出されたオブジェクト(図24の例で言えば、第1層メニュー表示オブジェクト41b)の配置位置を、採用されている基準方向に沿って基準方向原点P0近傍まで変更してから(ずらしてから)、第(n+1)層メニュー表示オブジェクトを他の基準方向に沿って配列表示させるとしてもよい。
また、上記実施形態では、映像コンテンツの例としてビデオゲームを例示したが、ビデオゲームに限定されるものではない。そして、映像コンテンツのジャンルによっては、メニュー表示ではなく、オブジェクトに関する情報表示を行う場合でも、本発明は同様に適用できる。例えば、図27に示すように、映像コンテンツをバーチャルリアリティを使用した図鑑とし、図鑑に採録されている採録オブジェクト70(70a,70b,…)を注視オブジェクトとして選択すると、情報カテゴリー表示オブジェクト72(上記実施形態の第1層メニュー表示オブジェクト41に相当)が表示され、情報カテゴリー表示オブジェクト72で選択された情報カテゴリーの詳細が詳細表示オブジェクト73(上記実施形態の第2層メニュー表示オブジェクト42に相当)が表示される、構成としてもよい。
また上記実施形態では、仮想ステレオカメラ10の視線方向を基準にメニュー表示オブジェクトを配置する構成であったが、仮想ステレオカメラ10の視線方向に加えて、選択オブジェクトの位置も考慮して、メニュー表示オブジェクトを表示するとしてもよい。
また、上記実施形態では、VR−HMD1310に表示する画像を立体視画像として説明したが、平面視画像としてもよい。その場合、仮想ステレオカメラ10の左右の仮想カメラの中間位置に1台の仮想カメラを配置して、仮想ステレオカメラ10の代わりに利用してもよいし、左右の仮想カメラの何れか一方を利用してもよい。
10…仮想ステレオカメラ
24…カップオブジェクト
30…注視判定領域
32…注視継続マーカ
33…推奨範囲
41…第1層メニュー表示オブジェクト
42…第2層メニュー表示オブジェクト
43…第3層メニュー表示オブジェクト
61…第1基準方向
62…第2基準方向
70…採録オブジェクト
72…情報カテゴリー表示オブジェクト
73…詳細表示オブジェクト
102…頭部姿勢変化検出部
104…測距部
106…集音部
200…処理部
202…ゲーム演算部
210…仮想空間設定部
212…HMD位置姿勢検出部
214…視線方向判定部
216…仮想ステレオカメラ制御部
220…選択オブジェクト判定部
222…表示開始判定部
224…選択オブジェクト識別表示制御部
230…情報配列表示制御部
232…項目選択部
234…項目識別表示制御部
236…首振り検出部
500…記憶部
505…ゲームプログラム
510…ゲーム初期設定データ
520…オブジェクト初期設定データ
524…メニュー割当設定
525…基準方向
530…メニュー項目階層定義データ
539…メニュー項目音声認識用辞書データ
540…メニュー表示オブジェクト定義データ
543…配列方向
700…プレイデータ
702…HMD位置座標
704…HMD姿勢
710…仮想ステレオカメラ位置座標
712…仮想ステレオカメラ姿勢
720…注視オブジェクト判定制御データ
721…注視オブジェクト候補ID
723…注視継続時間
725…選択オブジェクトID
730…オブジェクト制御データ
740…メニュー表示階層
742…第n層メニュー表示開始タイミング
744…メニュー表示オブジェクト制御データ
1000…ゲーム装置
1050…制御基板
1300…ヘッドセット
1310…HMD
1600…サーバシステム
Claims (14)
- コンピュータに、ヘッドトラッキング式のバーチャルリアリティ・ヘッドマウントディスプレイ(以下「VR−HMD」という)に表示するための画像(以下、「VR−HMD画像」という)を生成させるためのプログラムであって、
前記VR−HMD画像の仮想空間として、複数のオブジェクトが配置された仮想空間を設定する仮想空間設定手段、
前記仮想空間における前記VR−HMDの視線方向を判断する視線方向判断手段、
前記複数のオブジェクトのうちの何れかのオブジェクトが前記視線方向の先に位置したことを検出し、当該検出結果を用いて当該オブジェクトを選択オブジェクトとして選択する選択オブジェクト判定手段、
複数の情報配列方向が相対的かつ3次元的に定められた情報配列を、前記選択オブジェクトの位置を基点とし、且つ、前記視線方向に対する前記情報配列方向が所与の相対関係となるように前記仮想空間に配置表示する情報配列表示制御手段、
として前記コンピュータを機能させるためのプログラム。 - 前記情報配列表示制御手段は、前記仮想空間における前記VR−HMDの視点位置から前記選択オブジェクトまでの距離に応じて、前記情報配列の大きさを変更する、
請求項1に記載のプログラム。 - 前記情報配列表示制御手段は、前記情報配列の左右方向の大きさが、前記視線方向を基準とする左右視野角60〜80度のうちの所定角度を超える場合、当該角度以内に収まるように前記情報配列の大きさを変更する、
請求項2に記載のプログラム。 - 同一の前記選択オブジェクトを前記選択オブジェクト選択手段が選択している選択継続時間を計時して、前記情報配列表示制御手段による前記情報配列の配置表示を開始させるか否かを判定する表示開始判定手段、
として前記コンピュータを更に機能させるための請求項1〜3の何れか一項に記載のプログラム。 - コンピュータに、ヘッドトラッキング式のバーチャルリアリティ・ヘッドマウントディスプレイ(以下「VR−HMD」という)に表示するための画像(以下、「VR−HMD画像」という)を生成させるためのプログラムであって、
前記VR−HMD画像の仮想空間として、複数のオブジェクトが配置された仮想空間を設定する仮想空間設定手段、
前記仮想空間における前記VR−HMDの視線方向を判断する視線方向判断手段、
複数の情報配列方向が相対的かつ3次元的に定められた情報配列を所定の配置条件で前記仮想空間に配置表示し、前記情報配列の大きさが前記視線方向を基準とする所定の有効視野を超える場合、当該有効視野内に収まるように前記情報配列の大きさを変更して表示する情報配列表示制御手段、
として前記コンピュータを機能させるためのプログラム。 - 前記複数のオブジェクトのうちの何れかのオブジェクトを選択オブジェクトとして選択する選択オブジェクト判定手段として前記コンピュータを更に機能させ、
前記情報配列表示制御手段は、前記情報配列を、前記選択オブジェクトの位置を基点とし、且つ、前記視線方向に対する前記情報配列方向が所与の相対関係となるように前記仮想空間に配置表示し、更に、前記情報配列の大きさが、前記有効視野を超える場合、当該有効視野内に収まるように前記情報配列の大きさを変更して表示する、
請求項5に記載のプログラム。 - コンピュータに、ヘッドトラッキング式のバーチャルリアリティ・ヘッドマウントディスプレイ(以下「VR−HMD」という)に表示するための画像(以下、「VR−HMD画像」という)を生成させるためのプログラムであって、
前記VR−HMD画像の仮想空間として、複数のオブジェクトが配置された仮想空間を設定する仮想空間設定手段、
前記仮想空間における前記VR−HMDの視線方向を判断する視線方向判断手段、
マイクから入力された音声を認識する音声認識手段、
前記音声認識手段による認識結果に基づいて、前記複数のオブジェクトのうちの何れかのオブジェクトを選択オブジェクトとして選択する選択オブジェクト判定手段、
複数の情報配列方向が相対的かつ3次元的に定められた情報配列を、前記選択オブジェクトの位置を基点とし、且つ、前記視線方向に対する前記情報配列方向が所与の相対関係となるように前記仮想空間に配置表示する情報配列表示制御手段、
として前記コンピュータを機能させるためのプログラム。 - 前記オブジェクトには、前記情報配列に対する基準方向が関連付けられており、
前記情報配列は、階層構造の配列であって、前記情報配列方向が階層毎に定められており、
前記情報配列表示制御手段は、第1階層の情報配列方向が、前記選択オブジェクトに関連付けられた前記基準方向に沿うように前記情報配列を配置表示する、
請求項1〜7の何れか一項に記載のプログラム。 - 前記情報配列は、階層構造の項目の配列であって、前記情報配列方向が階層毎に定められた構成を有しており、
前記情報配列表示制御手段により前記情報配列として表示された前記項目の中から、階層順に、項目を選択する項目選択手段として前記コンピュータを更に機能させ、
前記情報配列表示制御手段は、前記項目選択手段による項目選択と合わせて、階層順に、対応する情報配列方向に、対応する項目を配列表示する、
請求項1〜8の何れか一項に記載のプログラム。 - 前記情報配列表示制御手段は、前記項目選択手段による選択前後の階層の項目配列を交差する方向に配列表示する、
請求項9に記載のプログラム。 - 前記VR−HMDの動きからユーザの首振りを検出する首振り検出手段として前記コンピュータを更に機能させ、
前記情報配列表示制御手段は、前記首振り検出手段による首振りが検出された場合に、前記情報配列の表示を消去する情報配列表示消去手段を有する、
請求項1〜10の何れか一項に記載のプログラム。 - ヘッドトラッキング式のバーチャルリアリティ・ヘッドマウントディスプレイ(以下「VR−HMD」という)に表示するための画像(以下、「VR−HMD画像」という)を生成する画像生成装置であって、
前記VR−HMD画像の仮想空間として、複数のオブジェクトが配置された仮想空間を設定する仮想空間設定手段と、
前記仮想空間における前記VR−HMDの視線方向を判断する視線方向判断手段と、
前記複数のオブジェクトのうちの何れかのオブジェクトが前記視線方向の先に位置したことを検出し、当該検出結果を用いて当該オブジェクトを選択オブジェクトとして選択する選択オブジェクト判定手段と、
複数の情報配列方向が相対的かつ3次元的に定められた情報配列を、前記選択オブジェクトの位置を基点とし、且つ、前記視線方向に対する前記情報配列方向が所与の相対関係となるように前記仮想空間に配置表示する情報配列表示制御手段と、
を備えた画像生成装置。 - ヘッドトラッキング式のバーチャルリアリティ・ヘッドマウントディスプレイ(以下「VR−HMD」という)に表示するための画像(以下、「VR−HMD画像」という)を生成する画像生成装置であって、
前記VR−HMD画像の仮想空間として、複数のオブジェクトが配置された仮想空間を設定する仮想空間設定手段と、
前記仮想空間における前記VR−HMDの視線方向を判断する視線方向判断手段と、
複数の情報配列方向が相対的かつ3次元的に定められた情報配列を所定の配置条件で前記仮想空間に配置表示し、前記情報配列の大きさが、前記視線方向を基準とする所定の有効視野を超える場合、当該有効視野内に収まるように前記情報配列の大きさを変更して表示する情報配列表示制御手段と、
を備えた画像生成装置。 - ヘッドトラッキング式のバーチャルリアリティ・ヘッドマウントディスプレイ(以下「VR−HMD」という)に表示するための画像(以下、「VR−HMD画像」という)を生成する画像生成装置であって、
前記VR−HMD画像の仮想空間として、複数のオブジェクトが配置された仮想空間を設定する仮想空間設定手段と、
前記仮想空間における前記VR−HMDの視線方向を判断する視線方向判断手段と、
マイクから入力された音声を認識する音声認識手段と、
前記音声認識手段による認識結果に基づいて、前記複数のオブジェクトのうちの何れかのオブジェクトを選択オブジェクトとして選択する選択オブジェクト判定手段と、
複数の情報配列方向が相対的かつ3次元的に定められた情報配列を、前記選択オブジェクトの位置を基点とし、且つ、前記視線方向に対する前記情報配列方向が所与の相対関係となるように前記仮想空間に配置表示する情報配列表示制御手段と、
を備えた画像生成装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015183387A JP6684559B2 (ja) | 2015-09-16 | 2015-09-16 | プログラムおよび画像生成装置 |
US15/264,248 US10636212B2 (en) | 2015-09-16 | 2016-09-13 | Method for generating image to be displayed on head tracking type virtual reality head mounted display and image generation device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015183387A JP6684559B2 (ja) | 2015-09-16 | 2015-09-16 | プログラムおよび画像生成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017058971A true JP2017058971A (ja) | 2017-03-23 |
JP6684559B2 JP6684559B2 (ja) | 2020-04-22 |
Family
ID=58238842
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015183387A Active JP6684559B2 (ja) | 2015-09-16 | 2015-09-16 | プログラムおよび画像生成装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10636212B2 (ja) |
JP (1) | JP6684559B2 (ja) |
Cited By (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6370446B1 (ja) * | 2017-06-14 | 2018-08-08 | エフエックスギア インコーポレイテッド | 視点基盤のオブジェクトピッキングシステム及びその方法 |
WO2018182197A1 (en) * | 2017-03-27 | 2018-10-04 | Samsung Electronics Co., Ltd. | Device for providing information related to object in image |
JP6419268B1 (ja) * | 2017-07-21 | 2018-11-07 | 株式会社コロプラ | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム |
WO2019013409A1 (en) | 2017-07-10 | 2019-01-17 | Samsung Electronics Co., Ltd. | INCREASED REALITY VISIOCASTIC DEVICE FOR DISPLAYING TELEPHONE CONTENT AND HEALTH MONITORING |
JP2019032713A (ja) * | 2017-08-08 | 2019-02-28 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP2019049987A (ja) * | 2018-10-09 | 2019-03-28 | 株式会社コロプラ | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム |
JP2019071963A (ja) * | 2017-10-12 | 2019-05-16 | 大日本印刷株式会社 | トレーニング装置及びプログラム |
JP2019080729A (ja) * | 2017-10-30 | 2019-05-30 | 株式会社カプコン | ゲームプログラムおよびゲームシステム |
JP2019135601A (ja) * | 2018-02-05 | 2019-08-15 | Kddi株式会社 | 入力制御装置、入力制御方法及びプログラム |
JP2019135600A (ja) * | 2018-02-05 | 2019-08-15 | Kddi株式会社 | 表示制御装置、表示制御方法及びプログラム |
JP2019136066A (ja) * | 2018-02-06 | 2019-08-22 | グリー株式会社 | アプリケーション処理システム、アプリケーション処理方法、及びアプリケーション処理プログラム |
JP2019139672A (ja) * | 2018-02-15 | 2019-08-22 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置、画像生成方法およびコンピュータプログラム |
JP2019136487A (ja) * | 2018-11-28 | 2019-08-22 | グリー株式会社 | アプリケーション処理システム、アプリケーション処理方法、及びアプリケーション処理プログラム |
WO2019176910A1 (ja) * | 2018-03-14 | 2019-09-19 | 本田技研工業株式会社 | 情報表示装置、情報表示方法および情報表示プログラム |
JP2019168883A (ja) * | 2018-03-23 | 2019-10-03 | 株式会社コナミデジタルエンタテインメント | 情報処理装置、情報処理装置のプログラム、ヘッドマウントディスプレイ、及び、情報処理システム |
JP2020030853A (ja) * | 2019-11-07 | 2020-02-27 | 株式会社コナミデジタルエンタテインメント | 情報処理装置、情報処理装置のプログラム、ヘッドマウントディスプレイ、及び、情報処理システム |
JP2020053077A (ja) * | 2019-11-28 | 2020-04-02 | 株式会社コナミデジタルエンタテインメント | プログラムおよび画像表示システム |
WO2021020130A1 (ja) * | 2019-07-29 | 2021-02-04 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
JP2021015583A (ja) * | 2019-07-10 | 2021-02-12 | 任天堂株式会社 | 情報処理システム、情報処理プログラム、情報処理装置および情報処理方法 |
US11048325B2 (en) | 2017-07-10 | 2021-06-29 | Samsung Electronics Co., Ltd. | Wearable augmented reality head mounted display device for phone content display and health monitoring |
JP2022046277A (ja) * | 2020-09-10 | 2022-03-23 | 公益財団法人鉄道総合技術研究所 | コンピュータシステムおよび制御方法 |
JP2022137286A (ja) * | 2017-07-28 | 2022-09-21 | グリー株式会社 | ゲームシステム |
JP2022542490A (ja) * | 2019-10-10 | 2022-10-03 | メディシンキュー カンパニー,リミティド | スマートグラスの視線トラッキングシステムおよびその方法 |
US11467658B2 (en) | 2018-02-06 | 2022-10-11 | Gree, Inc. | Application processing system, method of processing application, and storage medium storing program for processing application |
WO2023022109A1 (ja) * | 2021-08-17 | 2023-02-23 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置、情報処理方法、及びプログラム |
WO2023158171A1 (ko) * | 2022-02-18 | 2023-08-24 | 삼성전자주식회사 | 전자 장치 및 전자 장치의 제어 방법 |
US11972049B2 (en) | 2017-08-23 | 2024-04-30 | Neurable Inc. | Brain-computer interface with high-speed eye tracking features |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6832061B2 (ja) * | 2015-12-29 | 2021-02-24 | 株式会社バンダイナムコエンターテインメント | ゲーム装置及びプログラム |
US10607398B2 (en) * | 2016-07-04 | 2020-03-31 | Colopl, Inc. | Display control method and system for executing the display control method |
CN107015637B (zh) * | 2016-10-27 | 2020-05-05 | 阿里巴巴集团控股有限公司 | 虚拟现实场景下的输入方法和装置 |
US10867445B1 (en) * | 2016-11-16 | 2020-12-15 | Amazon Technologies, Inc. | Content segmentation and navigation |
JP6306765B1 (ja) * | 2017-02-27 | 2018-04-04 | 株式会社コロプラ | 仮想空間を移動するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラムおよび情報処理装置 |
IL269533B2 (en) * | 2017-03-28 | 2023-11-01 | Magic Leap Inc | An augmented reality system with spatial audio linked to a user-operated virtual object |
US11474354B2 (en) | 2017-04-25 | 2022-10-18 | Ati Technologies Ulc | Display pacing in multi-head mounted display virtual reality configurations |
NZ759455A (en) * | 2017-04-25 | 2022-09-30 | Bae Systems Plc | An augmented reality system for interacting with a management system of a watercraft |
WO2018210645A1 (en) * | 2017-05-16 | 2018-11-22 | Koninklijke Philips N.V. | Virtual cover for user interaction in augmented reality |
DE102017215074A1 (de) * | 2017-08-29 | 2019-02-28 | Siemens Healthcare Gmbh | Verfahren und Auswahleinheit zum Auswählen eines virtuellen Objekts oder eines Bildparameterwerts |
US20190156690A1 (en) * | 2017-11-20 | 2019-05-23 | Medical Realities Limited | Virtual reality system for surgical training |
US11450036B2 (en) * | 2018-01-30 | 2022-09-20 | Sony Interactive Entertainment Inc. | Image processing apparatus and display image generating method |
JP6908573B2 (ja) | 2018-02-06 | 2021-07-28 | グリー株式会社 | ゲーム処理システム、ゲーム処理方法、及びゲーム処理プログラム |
US10981067B2 (en) | 2018-02-06 | 2021-04-20 | Gree, Inc. | Game processing system, method of processing game, and storage medium storing program for processing game |
EP3520868A1 (en) * | 2018-02-06 | 2019-08-07 | Gree, Inc. | Game processing system, method of processing game, and program for processing game |
CN108499113A (zh) * | 2018-02-24 | 2018-09-07 | 江苏斯当特动漫设备制造有限公司 | 一种基于球形复合设备空间的增强现实穿梭机 |
EP4212222A1 (en) | 2018-03-07 | 2023-07-19 | Magic Leap, Inc. | Visual tracking of peripheral devices |
US11275481B2 (en) | 2018-03-07 | 2022-03-15 | California Institute Of Technology | Collaborative augmented reality system |
US10657716B2 (en) * | 2018-03-07 | 2020-05-19 | California Institute Of Technology | Collaborative augmented reality system |
US10775892B2 (en) * | 2018-04-20 | 2020-09-15 | Immersion Corporation | Systems and methods for multi-user shared virtual and augmented reality-based haptics |
CN109753219B (zh) * | 2018-12-29 | 2021-07-20 | 广州欧科信息技术股份有限公司 | 基于虚拟现实的手工艺品制作系统、方法及装置 |
US10882398B2 (en) * | 2019-02-13 | 2021-01-05 | Xevo Inc. | System and method for correlating user attention direction and outside view |
TWI725574B (zh) * | 2019-02-22 | 2021-04-21 | 宏達國際電子股份有限公司 | 頭戴式顯示裝置以及眼球追蹤游標的顯示方法 |
CN110519247B (zh) * | 2019-08-16 | 2022-01-21 | 上海乐相科技有限公司 | 一种一对多虚拟现实展示方法及装置 |
US11366319B1 (en) * | 2021-02-28 | 2022-06-21 | Douglas Labs, Inc. | Immersive viewing experience |
US11054923B2 (en) * | 2019-10-11 | 2021-07-06 | Finch Technologies Ltd. | Automatic switching between different modes of tracking user motions to control computer applications |
CN115004128A (zh) * | 2020-01-27 | 2022-09-02 | 奇跃公司 | 基于注视计时器的用户输入设备的功能增强 |
GB2596825B (en) * | 2020-07-07 | 2023-05-17 | Sony Interactive Entertainment Inc | Data processing apparatus and method |
CN113447020B (zh) * | 2021-06-25 | 2024-02-13 | 中国电子科技集团公司第五十八研究所 | 一种基于多传感器融合的姿态解算方法 |
US20230222737A1 (en) * | 2022-01-07 | 2023-07-13 | Mitel Networks Corporation | Adaptable presentation format for virtual reality constructs |
US20240036698A1 (en) * | 2022-07-28 | 2024-02-01 | Ntt Docomo, Inc. | Xr manipulation feature with smart watch |
CN116594510B (zh) * | 2023-06-15 | 2024-04-16 | 深圳蓝普视讯科技有限公司 | 一种基于大数据大屏的交互方法与智能交互系统 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07271546A (ja) * | 1994-03-31 | 1995-10-20 | Olympus Optical Co Ltd | 画像表示制御方法 |
JP2000250677A (ja) * | 1999-03-02 | 2000-09-14 | Toshiba Corp | マルチモーダルインターフェース装置及びマルチモーダルインターフェース方法 |
JP2005038008A (ja) * | 2003-07-15 | 2005-02-10 | Canon Inc | 画像処理方法、画像処理装置 |
JP2005267390A (ja) * | 2004-03-19 | 2005-09-29 | Sony Corp | 表示制御装置,表示制御方法,記録媒体 |
JP2007272468A (ja) * | 2006-03-30 | 2007-10-18 | Sony Corp | 情報処理装置および方法、並びにプログラム |
JP2010128097A (ja) * | 2008-11-26 | 2010-06-10 | Ricoh Co Ltd | 情報処理装置、表示制御方法、及びプログラム |
JP2011048426A (ja) * | 2009-08-25 | 2011-03-10 | Toshiba Tec Corp | 調理補助端末及びプログラム |
US20110179376A1 (en) * | 2010-01-21 | 2011-07-21 | Sony Corporation | Three or higher dimensional graphical user interface for tv menu and document navigation |
US9035878B1 (en) * | 2012-02-29 | 2015-05-19 | Google Inc. | Input system |
Family Cites Families (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2949176B2 (ja) | 1992-04-30 | 1999-09-13 | 株式会社セガ・エンタープライゼス | シューティングライドゲーム機 |
JP2000210468A (ja) | 1999-01-20 | 2000-08-02 | Namco Ltd | ゲ―ム装置 |
JP2003125313A (ja) | 2001-10-18 | 2003-04-25 | Canon Inc | 振動機付きヘッドマウントディスプレイ |
JP4928592B2 (ja) * | 2009-08-31 | 2012-05-09 | 東芝テック株式会社 | 画像処理装置及びプログラム |
EP2431895B1 (en) * | 2010-09-16 | 2017-07-26 | LG Electronics Inc. | Transparent display device and method for providing information using the same |
EP2500816B1 (en) * | 2011-03-13 | 2018-05-16 | LG Electronics Inc. | Transparent display apparatus and method for operating the same |
US9342610B2 (en) * | 2011-08-25 | 2016-05-17 | Microsoft Technology Licensing, Llc | Portals: registered objects as virtualized, personalized displays |
US20150199081A1 (en) * | 2011-11-08 | 2015-07-16 | Google Inc. | Re-centering a user interface |
US20160011724A1 (en) * | 2012-01-06 | 2016-01-14 | Google Inc. | Hands-Free Selection Using a Ring-Based User-Interface |
US9024844B2 (en) * | 2012-01-25 | 2015-05-05 | Microsoft Technology Licensing, Llc | Recognition of image on external display |
US8963805B2 (en) * | 2012-01-27 | 2015-02-24 | Microsoft Corporation | Executable virtual objects associated with real objects |
JP5900393B2 (ja) * | 2013-03-21 | 2016-04-06 | ソニー株式会社 | 情報処理装置、操作制御方法及びプログラム |
CN105103198A (zh) * | 2013-04-04 | 2015-11-25 | 索尼公司 | 显示控制装置、显示控制方法以及程序 |
US9563331B2 (en) * | 2013-06-28 | 2017-02-07 | Microsoft Technology Licensing, Llc | Web-like hierarchical menu display configuration for a near-eye display |
US10466858B2 (en) * | 2013-12-01 | 2019-11-05 | Upskill, Inc. | Systems and methods for interacting with a virtual menu |
US10430985B2 (en) * | 2014-03-14 | 2019-10-01 | Magic Leap, Inc. | Augmented reality systems and methods utilizing reflections |
AU2015297036B2 (en) * | 2014-05-09 | 2017-09-28 | Google Llc | Systems and methods for discerning eye signals and continuous biometric identification |
KR102209511B1 (ko) * | 2014-05-12 | 2021-01-29 | 엘지전자 주식회사 | 안경형 단말기와 그 안경형 단말기의 제어 방법 |
JP6573755B2 (ja) * | 2014-07-10 | 2019-09-11 | 富士通株式会社 | 表示制御方法、情報処理プログラム、及び情報処理装置 |
US20160125652A1 (en) * | 2014-11-03 | 2016-05-05 | Avaya Inc. | Augmented reality supervisor display |
US10248192B2 (en) * | 2014-12-03 | 2019-04-02 | Microsoft Technology Licensing, Llc | Gaze target application launcher |
US10802577B2 (en) * | 2015-06-04 | 2020-10-13 | Microsoft Technology Licensing, Llc | Establishing voice communication channel |
US9740011B2 (en) * | 2015-08-19 | 2017-08-22 | Microsoft Technology Licensing, Llc | Mapping input to hologram or two-dimensional display |
CA3002369A1 (en) * | 2015-10-20 | 2017-04-27 | Magic Leap, Inc. | Selecting virtual objects in a three-dimensional space |
WO2017075100A1 (en) * | 2015-10-26 | 2017-05-04 | Pillantas Inc. | Systems and methods for eye vergence control |
US10861242B2 (en) * | 2018-05-22 | 2020-12-08 | Magic Leap, Inc. | Transmodal input fusion for a wearable system |
-
2015
- 2015-09-16 JP JP2015183387A patent/JP6684559B2/ja active Active
-
2016
- 2016-09-13 US US15/264,248 patent/US10636212B2/en active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07271546A (ja) * | 1994-03-31 | 1995-10-20 | Olympus Optical Co Ltd | 画像表示制御方法 |
JP2000250677A (ja) * | 1999-03-02 | 2000-09-14 | Toshiba Corp | マルチモーダルインターフェース装置及びマルチモーダルインターフェース方法 |
JP2005038008A (ja) * | 2003-07-15 | 2005-02-10 | Canon Inc | 画像処理方法、画像処理装置 |
JP2005267390A (ja) * | 2004-03-19 | 2005-09-29 | Sony Corp | 表示制御装置,表示制御方法,記録媒体 |
JP2007272468A (ja) * | 2006-03-30 | 2007-10-18 | Sony Corp | 情報処理装置および方法、並びにプログラム |
JP2010128097A (ja) * | 2008-11-26 | 2010-06-10 | Ricoh Co Ltd | 情報処理装置、表示制御方法、及びプログラム |
JP2011048426A (ja) * | 2009-08-25 | 2011-03-10 | Toshiba Tec Corp | 調理補助端末及びプログラム |
US20110179376A1 (en) * | 2010-01-21 | 2011-07-21 | Sony Corporation | Three or higher dimensional graphical user interface for tv menu and document navigation |
US9035878B1 (en) * | 2012-02-29 | 2015-05-19 | Google Inc. | Input system |
Cited By (45)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018182197A1 (en) * | 2017-03-27 | 2018-10-04 | Samsung Electronics Co., Ltd. | Device for providing information related to object in image |
US10977491B2 (en) | 2017-03-27 | 2021-04-13 | Samsung Electronics Co., Ltd. | Device for providing information related to object in image |
JP2019004441A (ja) * | 2017-06-14 | 2019-01-10 | エフエックスギア インコーポレイテッド | 視点基盤のオブジェクトピッキングシステム及びその方法 |
JP6370446B1 (ja) * | 2017-06-14 | 2018-08-08 | エフエックスギア インコーポレイテッド | 視点基盤のオブジェクトピッキングシステム及びその方法 |
WO2019013409A1 (en) | 2017-07-10 | 2019-01-17 | Samsung Electronics Co., Ltd. | INCREASED REALITY VISIOCASTIC DEVICE FOR DISPLAYING TELEPHONE CONTENT AND HEALTH MONITORING |
US11048325B2 (en) | 2017-07-10 | 2021-06-29 | Samsung Electronics Co., Ltd. | Wearable augmented reality head mounted display device for phone content display and health monitoring |
JP6419268B1 (ja) * | 2017-07-21 | 2018-11-07 | 株式会社コロプラ | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム |
JP2019021250A (ja) * | 2017-07-21 | 2019-02-07 | 株式会社コロプラ | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム |
JP7373147B2 (ja) | 2017-07-28 | 2023-11-02 | グリー株式会社 | ゲームシステム |
JP2022137286A (ja) * | 2017-07-28 | 2022-09-21 | グリー株式会社 | ゲームシステム |
JP7210131B2 (ja) | 2017-08-08 | 2023-01-23 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP2022058753A (ja) * | 2017-08-08 | 2022-04-12 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP2019032713A (ja) * | 2017-08-08 | 2019-02-28 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
US11972049B2 (en) | 2017-08-23 | 2024-04-30 | Neurable Inc. | Brain-computer interface with high-speed eye tracking features |
JP2019071963A (ja) * | 2017-10-12 | 2019-05-16 | 大日本印刷株式会社 | トレーニング装置及びプログラム |
JP7069628B2 (ja) | 2017-10-12 | 2022-05-18 | 大日本印刷株式会社 | トレーニング装置及びプログラム |
JP2019080729A (ja) * | 2017-10-30 | 2019-05-30 | 株式会社カプコン | ゲームプログラムおよびゲームシステム |
JP2019135600A (ja) * | 2018-02-05 | 2019-08-15 | Kddi株式会社 | 表示制御装置、表示制御方法及びプログラム |
JP2019135601A (ja) * | 2018-02-05 | 2019-08-15 | Kddi株式会社 | 入力制御装置、入力制御方法及びプログラム |
JP2019136066A (ja) * | 2018-02-06 | 2019-08-22 | グリー株式会社 | アプリケーション処理システム、アプリケーション処理方法、及びアプリケーション処理プログラム |
US11467658B2 (en) | 2018-02-06 | 2022-10-11 | Gree, Inc. | Application processing system, method of processing application, and storage medium storing program for processing application |
JP7042644B2 (ja) | 2018-02-15 | 2022-03-28 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置、画像生成方法およびコンピュータプログラム |
JP2019139672A (ja) * | 2018-02-15 | 2019-08-22 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置、画像生成方法およびコンピュータプログラム |
WO2019176910A1 (ja) * | 2018-03-14 | 2019-09-19 | 本田技研工業株式会社 | 情報表示装置、情報表示方法および情報表示プログラム |
US11861060B2 (en) | 2018-03-23 | 2024-01-02 | Konami Digital Entertainment Co., Ltd. | Recording medium for selecting objects using head mounted display, information processing system, and information processing method |
JP2019168883A (ja) * | 2018-03-23 | 2019-10-03 | 株式会社コナミデジタルエンタテインメント | 情報処理装置、情報処理装置のプログラム、ヘッドマウントディスプレイ、及び、情報処理システム |
JP7030669B2 (ja) | 2018-10-09 | 2022-03-07 | 株式会社コロプラ | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム |
JP2019049987A (ja) * | 2018-10-09 | 2019-03-28 | 株式会社コロプラ | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム |
JP2019136487A (ja) * | 2018-11-28 | 2019-08-22 | グリー株式会社 | アプリケーション処理システム、アプリケーション処理方法、及びアプリケーション処理プログラム |
JP2021164649A (ja) * | 2018-11-28 | 2021-10-14 | グリー株式会社 | アプリケーション処理システム、アプリケーション処理方法、及びアプリケーション処理プログラム |
JP7344716B2 (ja) | 2019-07-10 | 2023-09-14 | 任天堂株式会社 | 情報処理システム、情報処理プログラム、情報処理装置および情報処理方法 |
JP2021015583A (ja) * | 2019-07-10 | 2021-02-12 | 任天堂株式会社 | 情報処理システム、情報処理プログラム、情報処理装置および情報処理方法 |
US11908090B2 (en) | 2019-07-29 | 2024-02-20 | Sony Group Corporation | Information processing device, information processing method, and program |
WO2021020130A1 (ja) * | 2019-07-29 | 2021-02-04 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
JP2022542490A (ja) * | 2019-10-10 | 2022-10-03 | メディシンキュー カンパニー,リミティド | スマートグラスの視線トラッキングシステムおよびその方法 |
JP7209128B2 (ja) | 2019-10-10 | 2023-01-19 | メディシンキュー カンパニー,リミティド | スマートグラスの視線トラッキングシステムおよびその方法 |
JP2020030853A (ja) * | 2019-11-07 | 2020-02-27 | 株式会社コナミデジタルエンタテインメント | 情報処理装置、情報処理装置のプログラム、ヘッドマウントディスプレイ、及び、情報処理システム |
JP7387198B2 (ja) | 2019-11-28 | 2023-11-28 | 株式会社コナミデジタルエンタテインメント | プログラムおよび画像表示システム |
JP2022140452A (ja) * | 2019-11-28 | 2022-09-26 | 株式会社コナミデジタルエンタテインメント | プログラムおよび画像表示システム |
JP2020053077A (ja) * | 2019-11-28 | 2020-04-02 | 株式会社コナミデジタルエンタテインメント | プログラムおよび画像表示システム |
JP7106140B2 (ja) | 2019-11-28 | 2022-07-26 | 株式会社コナミデジタルエンタテインメント | プログラムおよび画像表示システム |
JP2022046277A (ja) * | 2020-09-10 | 2022-03-23 | 公益財団法人鉄道総合技術研究所 | コンピュータシステムおよび制御方法 |
JP7442140B2 (ja) | 2020-09-10 | 2024-03-04 | 公益財団法人鉄道総合技術研究所 | コンピュータシステムおよび制御方法 |
WO2023022109A1 (ja) * | 2021-08-17 | 2023-02-23 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置、情報処理方法、及びプログラム |
WO2023158171A1 (ko) * | 2022-02-18 | 2023-08-24 | 삼성전자주식회사 | 전자 장치 및 전자 장치의 제어 방법 |
Also Published As
Publication number | Publication date |
---|---|
US20170076503A1 (en) | 2017-03-16 |
JP6684559B2 (ja) | 2020-04-22 |
US10636212B2 (en) | 2020-04-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6684559B2 (ja) | プログラムおよび画像生成装置 | |
JP6355978B2 (ja) | プログラムおよび画像生成装置 | |
JP6629499B2 (ja) | プログラムおよび画像生成装置 | |
JP5800501B2 (ja) | 表示制御プログラム、表示制御装置、表示制御システム、及び、表示制御方法 | |
US9599821B2 (en) | Virtual reality system allowing immersion in virtual space to consist with actual movement in actual space | |
JP6396027B2 (ja) | プログラムおよびゲーム装置 | |
CN109643161A (zh) | 动态进入和离开由不同hmd用户浏览的虚拟现实环境 | |
JP5814532B2 (ja) | 表示制御プログラム、表示制御装置、表示制御システム及び表示制御方法 | |
JP2016158794A (ja) | 表示制御プログラム、表示制御装置、及び表示制御方法 | |
JP2016158795A (ja) | 表示制御プログラム、表示制御装置、及び表示制御方法 | |
CN108463839B (zh) | 信息处理装置和用户指南呈现方法 | |
JP2012141939A (ja) | 表示制御プログラム、表示制御装置、表示制御システム、および、表示制御方法 | |
JP7160669B2 (ja) | プログラム、情報処理装置、および方法 | |
JP6684746B2 (ja) | 情報処理方法、コンピュータ及びプログラム | |
JP2018147465A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6580619B2 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6203346B1 (ja) | 仮想空間を提供する方法、プログラム、および記録媒体 | |
JP2018097517A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP7213013B2 (ja) | プログラム、コンピュータシステム及びゲーム実行制御方法 | |
JP2018067297A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP2019020832A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6826626B2 (ja) | 視聴プログラム、視聴方法、および視聴端末 | |
JP6820299B2 (ja) | プログラム、情報処理装置、および方法 | |
JP2018190196A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP2018147375A (ja) | 情報処理方法、コンピュータ、および当該情報処理方法をコンピュータに実行させるためのプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180914 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190418 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190423 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20190624 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190820 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190910 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191210 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20200115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200317 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200330 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6684559 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |