JPWO2017169158A1 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JPWO2017169158A1
JPWO2017169158A1 JP2018508512A JP2018508512A JPWO2017169158A1 JP WO2017169158 A1 JPWO2017169158 A1 JP WO2017169158A1 JP 2018508512 A JP2018508512 A JP 2018508512A JP 2018508512 A JP2018508512 A JP 2018508512A JP WO2017169158 A1 JPWO2017169158 A1 JP WO2017169158A1
Authority
JP
Japan
Prior art keywords
virtual object
information
information processing
processing apparatus
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018508512A
Other languages
English (en)
Other versions
JP6911834B2 (ja
Inventor
石川 毅
毅 石川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2017169158A1 publication Critical patent/JPWO2017169158A1/ja
Application granted granted Critical
Publication of JP6911834B2 publication Critical patent/JP6911834B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

仮想の立体空間に定義された仮想オブジェクトに対する、操作体によるユーザの操作入力を判定する判定処理を実行する操作判定部を備え、操作判定部は、操作体の現実の立体空間における空間位置の情報に基づいて判定処理を実行し、操作体の情報に基づいて、判定処理を切り替える、情報処理装置が提供される。【選択図】図5

Description

本開示は、情報処理装置、情報処理方法、およびプログラムに関する。
例えば、ヘッドマウントディスプレイ(Head Mounted Display。以下、「HMD」と示す場合がある。)や、眼鏡型のウェアラブル装置のようなアイウェア型のウェアラブル装置(以下、単に「アイウェア」と示す場合がある。)のように、ユーザの頭部に装着されて用いられる装置が開発されている。
このような中、HMDに関する技術が開発されている。実空間を示す画像上にタッチパネルに表示されている仮想的な操作パネルが重畳された画像を、HMDの表示画面に表示させる場合において、タッチパネルにおける操作に対応する動作を実行する技術としては、例えば、下記の特許文献1に記載の技術が挙げられる。
特開2006−126936号公報
例えばAR(Augmented Reality)技術を用いることによって、HMDやアイウェアのようなユーザの頭部に装着されて用いられる装置の表示画面に、現実世界のオブジェクトと、仮想の立体空間に定義された(ユーザに仮想的に知覚可能とされる)仮想的なオブジェクトとが同時にユーザに視認されるように、仮想的なオブジェクトを表示することが可能である。また、例えば空間投影技術を用いて実空間に仮想的なオブジェクトを投影することによって、現実世界のオブジェクトと仮想的なオブジェクトとを同時にユーザに視認させることが可能である。以下では、現実世界のオブジェクトを「実オブジェクト」と示し、また、仮想的なオブジェクトを「仮想オブジェクト」と示す場合がある。
上記のようなAR技術や空間投影技術が用いられる場合、例えば、手や指などユーザの部位や、スタイラスなどの操作デバイスなどの操作体によって、上記のような仮想オブジェクトに対して操作が行われることが想定される。
しかしながら、仮想オブジェクトに対して操作が行われる場合には、実オブジェクトに対して操作が行われる場合と異なり、操作による触覚フィードバックがない。そのため、仮想オブジェクトに対して操作が行われる場合には、例えば、仮想オブジェクトに対する操作を行うユーザが操作位置を細かく指定することが困難である可能性が、ある。よって、仮想オブジェクトに対して操作が行われる場合には、ユーザが、当該仮想オブジェクトに対する操作を安定的に行うことができない恐れがある。
本開示では、ユーザの操作性の向上を図ることが可能な、新規かつ改良された情報処理装置、情報処理方法、およびプログラムを提案する。
本開示によれば、仮想の立体空間に定義されユーザに仮想的に知覚可能とされる仮想オブジェクトに対する、操作体によるユーザの操作入力を判定する判定処理を実行する操作判定部を備え、上記操作判定部は、上記操作体の現実の立体空間における空間位置の情報に基づいて上記判定処理を実行し、上記操作体の情報に基づいて、上記判定処理を切り替える、情報処理装置が提供される。
また、本開示によれば、仮想の立体空間に定義された仮想オブジェクトに対する、操作体によるユーザの操作入力を判定する判定処理を実行するステップを有し、上記実行するステップでは、上記操作体の現実の立体空間における空間位置の情報に基づいて上記判定処理が実行され、上記操作体の情報に基づいて、上記判定処理が切り替えられる、情報処理装置により実行される情報処理方法が提供される。
また、本開示によれば、仮想の立体空間に定義された仮想オブジェクトに対する、操作体によるユーザの操作入力を判定する判定処理を実行する機能をコンピュータシステムに実現させ、上記実行する機能により、上記操作体の現実の立体空間における空間位置の情報に基づいて上記判定処理が実行され、上記操作体の情報に基づいて、上記判定処理が切り替えられる、プログラムが提供される。
本開示によれば、ユーザの操作性の向上を図ることができる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握されうる他の効果が奏されてもよい。
本実施形態に係る情報処理方法の概要を説明するための説明図である。 本実施形態に係る情報処理方法の概要を説明するための説明図である。 本実施形態に係る情報処理方法の概要を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を示す流れ図である。 本実施形態に係る情報処理装置の構成の一例を示すブロック図である。 本実施形態に係る情報処理装置のハードウェア構成の一例を示す説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、以下では、下記に示す順序で説明を行う。
1.本実施形態に係る情報処理方法
2.本実施形態に係る情報処理装置
3.本実施形態に係るプログラム
(本実施形態に係る情報処理方法)
まず、本実施形態に係る情報処理方法について説明する。以下では、本実施形態に係る情報処理方法に係る処理を、本実施形態に係る情報処理装置が行う場合を例に挙げて、本実施形態に係る情報処理方法について説明する。
[1]本実施形態に係る情報処理方法に係る処理
図1、図2は、本実施形態に係る情報処理方法の概要を説明するための説明図である。図1、図2では、ユーザが、装着されたユーザの前方を撮像する少なくとも1つの撮像デバイスを備えるHMDを、装着している例を示している。ここで、本実施形態に係る情報処理装置は、図1、図2に示すHMDであってもよいし、図1、図2に示すHMDの外部装置であってもよい。本実施形態に係る情報処理装置が図1、図2に示すHMDの外部装置である場合、本実施形態に係る情報処理装置とHMDとは、有線または無線で通信を行う。なお、本実施形態に係る情報処理装置の適用例については、後述する。
上記撮像デバイスにより撮像された撮像画像からは、例えば、HMDを装着しているユーザと撮像される実オブジェクト(被写体)との距離を示す深さ情報を含む、実オブジェクトの位置を示す位置情報が得られる。位置情報は、例えば、実空間における任意の位置を原点とする3次元座標で表される。
また、HMDは、表示デバイスを備え、当該表示デバイスの表示画面に、仮想オブジェクトを、ユーザの前方の風景の任意の場所に重畳させて表示させる。図1、図2では、仮想オブジェクトとして、ウィンドウなどの平面状のオブジェクトを示している。
ここで、図1、図2に示すHMDは、透過型の装置であってもよいし、非透過型の装置であってもよい。透過型としては、撮像デバイスにより撮像された画像を表示画面に表示させることにより電子的に外の景色を見せるビデオ透過型や、光学透過型など、任意の型が挙げられる。また、透過型を実現するための表示方式としては、例えば、ホログラム方式や、ハーフミラー方式、瞳分割方式など、透過型を実現することが可能な任意の表示方式が挙げられる。
図1、図2に示すHMDが透過型の装置である場合、仮想オブジェクトは、表示画面の任意の位置に表示される。
また、図1、図2に示すHMDが非透過型の装置である場合、表示画面には、撮像デバイスにより撮像された撮像画像が表示され、当該撮像画像の任意の位置に仮想オブジェクトが重畳して表示される。また、上記のように、撮像画像からは実オブジェクトの位置情報が得られるので、仮想オブジェクトは、当該位置情報を考慮して表示されてもよい。位置情報を考慮した仮想オブジェクトの表示としては、例えば、“ユーザを基準として、仮想オブジェクトが描画される位置より手前に実オブジェクトが存在する場合には、仮想オブジェクトにおける当該実オブジェクトにより隠れる部分が、描画されない表示”が挙げられる。
図1に示す例において、ユーザが、手(操作体の一例。以下、同様とする。)を用いて、仮想オブジェクトを操作する場合を考える。ここで、図1に示す仮想オブジェクトに対する手を用いた操作としては、例えば、タッチ操作や、フリック操作、ピンチ操作、ドラッグ操作などが挙げられる。
ここで、図1に示す平面状の仮想オブジェクトに対する、タッチ操作やフリック操作などの手を用いた操作は、平面に沿って行われる必要がある。また、上記操作には、例えば、手(または指先)の移動量が大きいことや、手(または指先)の移動速度が速いことなどの特徴があることから、上記操作は、精密に操作を行うことが困難な操作であるといえる。また、上記操作は、操作による触覚フィードバックがない仮想オブジェクトに対する、空中での操作であるため、操作が行われる位置が、ユーザからみた奥行き方向に容易にずれることが想定される。よって、図1に示す上記操作の難易度は高い。
また、図1に示す平面状の仮想オブジェクトに対するタッチ操作やフリック操作などの手を用いた操作において、手(または指先)がユーザからみた奥行き方向にずれた場合には、例えば、当該操作が検出されないことや、ユーザからみた奥行き方向に割り当てれている他の機能に係る処理が行われることなど、当該操作を行ったユーザが意図していない動作が行われる恐れがある。
また、図2に示す例において、図1と同様に、ユーザが、手を用いて仮想オブジェクトを操作する場合を考える。図2では、それぞれが平面状の仮想オブジェクトである、仮想オブジェクト1〜仮想オブジェクト3という複数の仮想オブジェクトが、ユーザからみた奥行き方向に表示されている例を示している。
図2に示す平面状の仮想オブジェクトに対するタッチ操作やフリック操作などの手を用いた操作において、手(または指先)がユーザからみた奥行き方向にずれた場合には、例えば、当該操作が検出されないことや、ユーザからみた奥行き方向に割り当てれている他の仮想オブジェクトに係る処理が行われることなど、当該操作を行ったユーザが意図していない動作が行われる恐れがある。
図1、図2に示すように、操作による触覚フィードバックがない仮想オブジェクトに対して、手などの操作体による操作が行われる場合には、当該操作によって、ユーザが意図していない動作が行われる恐れがある。また、ユーザが意図していない動作が行われた場合には、ユーザの操作性が低下する可能性が高いことから、ユーザの操作性を向上させることは、望むべくもない。
そこで、本実施形態に係る情報処理装置は、例えば、仮想オブジェクトに対する、操作体によるユーザの操作入力を判定する判定処理を、切り替える(切り替え処理)。
本実施形態に係る仮想オブジェクトとは、例えば、仮想の立体空間に定義されユーザに仮想的に知覚可能とされる、仮想なオブジェクトと見做してよい。ここで、“仮想的に知覚可能”とは、実空間に存在するオブジェクトとして仮想的に認識可能であることと解されてよい。なお、仮想的に知覚可能な感覚は視覚に限られず、聴覚、嗅覚、味覚、体性感覚などが含まれてよい。
本実施形態に係る仮想オブジェクトとしては、例えば、動画像や静止画像などの任意のコンテンツが表示されるウィンドウや、GUI(Graphical User Interface)に係るウィンドウなど、図1、図2に示すような平面状の仮想オブジェクトが挙げられる。
なお、本実施形態に係る仮想オブジェクトは、平面状の仮想オブジェクトに限られない。
例えば、本実施形態に係る仮想オブジェクトは、電球オブジェクトや、動物オブジェクト、カレーライスオブジェクトなど、立体状の仮想オブジェクトであってもよい。本実施形態に係る仮想オブジェクトが立体状の仮想オブジェクトである場合における、操作体による仮想オブジェクトに対する操作としては、例えば、立体の表面(例えば、曲面など)に沿った手(または指先)の移動や、立体の表面に沿わない仮想オブジェクトの内外を通過する手(または指先)の移動などが挙げられる。
また、本実施形態に係る仮想オブジェクトとしては、例えば下記に示すような仮想的な入力デバイスであってもよい。なお、仮想オブジェクトにより実現される仮想的な入力デバイスの例が、下記に示す例に限られないことは、言うまでもない。
・仮想キーボード
・仮想ボタン
・仮想タッチパッド
・仮想マウス
・仮想レバー
・仮想ハンドル
・仮想スライダ
また、仮想オブジェクトは、例えば、現実世界の実オブジェクトと同時にユーザに視認されるように表示画面に表示される。つまり、仮想オブジェクトは、例えば、操作体の現実の立体空間における像とともに視認可能に表示される。仮想オブジェクトと実オブジェクトとが同時にユーザに視認されるように表示画面に表示されることは、例えばAR技術が用いられることによって実現される。
なお、仮想オブジェクトは、例えば、実オブジェクトと同時にユーザに視認されるように表示画面に表示されていなくてもよい。例えば、仮想オブジェクトが、実オブジェクトと同時にユーザに視認されるように表示画面に表示されない例としては、非透過型のHMDの表示画面に、仮想オブジェクトのみが表示される例が挙げられる。
また、仮想オブジェクトが、任意の空間投影技術によって空間に投影される場合には、仮想オブジェクトが投影されることによって、ユーザは、投影された仮想オブジェクトを、実オブジェクトと同時に視認することが可能である。
本実施形態に係る操作体としては、例えば、手や指、足などユーザの部位や、ユーザの視線(例えば、焦点位置など)、スタイラスなどの操作デバイスなどが挙げられる。以下では、本実施形態に係る操作体が、手や指などのユーザの部位である場合を主に例に挙げる。
本実施形態に係る情報処理装置は、例えば、仮想オブジェクトに関連付けて定義される操作判定領域に基づいて、判定処理を実行する。
ここで、本実施形態に係る操作判定領域としては、例えば、仮想の立体空間に定義される仮想オブジェクトと位置および大きさが同一の、仮想の立体空間に定義される領域が挙げられる。操作判定領域が仮想オブジェクトと同一の領域である場合には、判定処理では、例えば、仮想オブジェクトに対する操作体によるユーザの直接的な操作入力が、判定される。
なお、本実施形態に係る操作判定領域は、上記に示す例に限られない。例えば、本実施形態に係る操作判定領域は、仮想の立体空間に定義される仮想オブジェクトと異なる、仮想の立体空間に定義される領域であってもよい。
操作判定領域が仮想オブジェクトと異なるの大きさの領域である場合における、操作判定領域としては、例えば、操作者のユーザの手や当該ユーザが用いる操作デバイスなどの操作体による操作が可能な、ユーザの周辺の空間に対応する領域が挙げられる。また、操作判定領域が仮想オブジェクトと異なるの大きさの領域である場合における、操作判定領域は、例えば、領域が重ならないように設定され、また、任意の数設定される。
ここで、本実施形態に係る情報処理装置は、操作判定領域を、ユーザに対して示さない。上記の場合、操作判定領域は、ユーザにより視認されない。
また、本実施形態に係る情報処理装置は、例えば、操作判定領域を囲む線を表示させることなどにより操作判定領域を、ユーザに対して示してもよい。上記の場合、操作判定領域は、例えば、ユーザにより視認可能に表示されることとなる。
本実施形態に係る情報処理装置は、本実施形態に係る切り替え処理において、例えば、下記の第1の判定処理と、下記の第2の判定処理とを切り替える。
・第1の判定処理:操作体と仮想オブジェクトとの位置関係を補正せずに、仮想オブジェクトに対する操作を判定する判定処理。
・第2の判定処理:操作体と仮想オブジェクトとの位置関係を補正して仮想オブジェクトに対する操作を判定する判定処理。
ここで、本実施形態に係る切り替え処理の対象となる仮想オブジェクトは、例えば、操作体の動きと、操作体と仮想オブジェクトとの距離との組み合わせによって決定される。
例えば、本実施形態に係る情報処理装置は、操作体の所定の動きが検出されたときに、操作体と仮想オブジェクトとの距離が所定の距離より小さい仮想オブジェクト(または、当該距離が当該距離以下の仮想オブジェクト)を、本実施形態に係る切り替え処理の対象となる仮想オブジェクトとする。操作体の動きは、例えば、後述する操作体の動きを示す情報に基づき特定される。また、操作体と仮想オブジェクトとの距離は、例えば、撮像画像から推定される操作体の位置と、仮想オブジェクトの位置とから特定される。
本実施形態に係る切り替え処理の対象となる仮想オブジェクトの決定に係る操作体の所定の動きは、例えば予め設定される。また、本実施形態に係る操作体の所定の動きは、変更可能であってもよい。操作体の所定の動きとしては、例えば、設定されている閾値より大きい速度(または加速度)から当該閾値以下の速度(または加速度)に変化する操作体の動きなどが、挙げられる。
また、本実施形態に係る切り替え処理の対象となる仮想オブジェクトの決定に係る操作体と仮想オブジェクトとの距離は、例えば予め設定される。また、本実施形態に係る操作体と仮想オブジェクトとの距離は、変更可能であってもよい。設定されている操作体と仮想オブジェクトとの距離が0(ゼロ)より大きい場合とは、本実施形態に係る切り替え処理の対象となる仮想オブジェクトの検出範囲が、仮想オブジェクトが空間に占める領域よりも大きいことに該当する。
なお、“操作体の動き”、および“操作体と仮想オブジェクトとの距離”それぞれの特定方法は、上記に限られず、本実施形態に係る情報処理装置は、“操作体の動き”、および“操作体と仮想オブジェクトとの距離”それぞれを特定することが可能な、任意の方法を用いることが可能である。
より具体的には、本実施形態に係る情報処理装置は、切り替え処理として、例えば下記の(1)第1の例に係る切替処理〜(5)第5の例に係る切替処理のいずれかの処理を行う。
(1)切り替え処理の第1の例
本実施形態に係る情報処理装置は、操作体の情報に基づいて、仮想オブジェクトに対する操作を判定する判定処理を切り替える。
ここで、本実施形態に係る操作体の情報としては、例えば、操作体の動きを示す情報と操作体の位置に基づく情報との一方または双方が挙げられる。
操作体の動きを示す情報としては、例えば、操作体の速度や操作体の加速度などの操作体の動きに関する値を示すデータが挙げられる。つまり、操作体の動きを示す情報には、例えば、操作体の移動する速さの情報が含まれる。また、操作体の動きを示す情報には、複数の異なる指標の値が含まれていてもよい。
操作体の動きを示す情報は、例えば、速度センサや、加速度センサなどのセンサの検出値に基づき得られる。速度センサや、加速度センサなどのセンサでは、例えば、所定の周期ごとにセンシングを行う。例えば図1、図2に示す場合を例に挙げると、HMDが本実施形態に係る情報処理装置である場合には、上記センサとしては、本実施形態に係る情報処理装置が備えているセンサまたは本実施形態に係る情報処理装置に接続されている外部のセンサが挙げられる。また、HMDが本実施形態に係る情報処理装置の外部装置である場合には、上記センサとしては、例えば、HMDが備えるセンサまたはHMDに接続されている外部のセンサが挙げられる。
本実施形態に係る情報処理装置は、例えば、操作体の移動する速さによって、仮想オブジェクトに対する操作があったと判定する基準を変えることが可能である。ここで、上記基準とは、例えば、操作体と仮想オブジェクトとの仮想的な位置関係に関する基準である。
一例を挙げると、本実施形態に係る情報処理装置は、例えば、操作体の移動する速さが第1の速さであるときよりも、操作体の移動する速さが第1の速さよりも速い第2の速さであるときの方が、仮想オブジェクトに対する操作があったと判定する基準が緩和されるように、判定処理を切り替える。本実施形態に係る情報処理装置は、例えば、判定処理の切り替えに係る所定の閾値(後述する)を、操作体の移動する速さによって変えることによって、第1の速さよりも第2の速さであるときの方が、仮想オブジェクトに対する操作があったと判定され易くなるように、上記基準を緩和する。
図3は、本実施形態に係る情報処理方法の概要を説明するための説明図である。
操作体により操作が行われうる実空間における操作体の位置は、例えば図3に示すように、仮想オブジェクトに対応する位置を原点とする、仮想オブジェクトごとの3次元座標系の座標で表される。
なお、本実施形態に係る3次元座標系は、仮想オブジェクトごとの3次元座標系に限られない。例えば、本実施形態に係る3次元座標系は、実空間における任意の位置を原点とする3次元座標系の座標で表されてもよい。
また、3次元座標系の座標を利用せずに操作体の速度や加速度を求めることが可能な任意の方法が用いられる場合には、3次元座標系は設定されていなくてもよい。
以下では、操作体の位置が、図3に示すX軸、Y軸、Z軸の座標値で表される場合を例に挙げて、操作体の動きを示す情報の取得方法の一例を説明する。
操作体の速度vは、操作体の位置の変化に基づき、例えば下記の数式1により算出される。ここで、下記の数式1は、時刻t1における操作体の位置(Xt1,Yt1,Zt1)と、時刻t2(時刻t1より後の時刻)における操作体の位置(Xt2,Yt2,Zt2)との変化に基づく操作体の速度の算出例を示している。
Figure 2017169158
なお、操作体の速度の算出方法は、上記数式1に限られない。例えば、本実施形態に係る情報処理装置は、Z軸成分をさらに用いる方法など、操作体の速度を算出することが可能な、任意の方法によって、速度を算出することが可能である。また、操作体の速度の算出に係る処理は、本実施形態に係る情報処理装置の外部装置により行われてもよい。
また、本実施形態に係る情報処理装置は、操作体の速度を微分することによって、操作体の加速度を算出することができる。なお、本実施形態に係る情報処理装置は、操作体の加速度を算出することが可能な任意の方法によって、操作体の加速度を算出してもよい。また、操作体の加速度の算出に係る処理は、本実施形態に係る情報処理装置の外部装置により行われてもよい。
また、操作体の位置に基づく情報としては、例えば、操作体の位置(例えば、ユーザの正面の領域内の位置、ユーザの利き手側の領域内の位置、ユーザの非利き手側の領域内の位置)に応じた値を示すデータが挙げられる。操作体の位置に基づく情報が示す値は、例えば、撮像画像から推定される操作体の位置と、位置(または領域)と操作体の位置に基づく情報が示す値とが対応付けられているテーブル(または、データベース。以下、同様とする。)とを用いることによって得られる。
操作体の位置に基づく情報を生成する処理は、本実施形態に係る情報処理装置が行ってもよいし、HMDやサーバなどの本実施形態に係る情報処理装置の外部装置において行われてもよい。操作体の位置に基づく情報を生成する処理が外部装置において行われる場合、本実施形態に係る情報処理装置は、通信により当該外部装置から取得された操作体の位置に基づく情報を用いる。
より具体的には、本実施形態に係る情報処理装置は、操作体の情報に基づく評価値と、所定の閾値との比較結果に基づいて、第1の判定処理と第2の判定処理とを切り替える。
ここで、本実施形態に係る操作体の情報に基づく評価値は、例えば下記の数式2により求められる。下記の数式2に示す“k”は、設定されている係数である。下記の数式2に示す“k”は、予め設定されている固定値であってもよいし、ユーザの操作などに基づき変更可能な可変値であってもよい。また、操作体の情報が示す値としては、例えば、操作体の情報に含まれる値の加算値や平均値などが挙げられる。
操作体の情報に基づく評価値=k×操作体の情報が示す値
・・・(数式2)
また、第1の例に係る所定の閾値は、予め設定されている固定値であってもよいし、ユーザの操作などに基づき変更可能な可変値であってもよい。
また、第1の例に係る所定の閾値は、例えば、仮想オブジェクトのIDや仮想オブジェクトに対応するアプリケーションのIDなどの仮想オブジェクトを識別することが可能な情報と、ユーザIDなどのユーザを識別することが可能な情報との一方または双方に基づいて、設定されてもよい。第1の例に係る所定の閾値は、例えば、仮想オブジェクトを識別することが可能な情報に対応する値と、ユーザを識別することが可能な情報に対応する値との一方または双方に基づいて、閾値の基準値を調整することによって、設定される。上記仮想オブジェクトを識別することが可能な情報に対応する値は、例えば、仮想オブジェクトを識別することが可能な情報と値とが対応付けられているテーブルを用いることによって得られる。また、上記ユーザを識別することが可能な情報に対応する値は、例えば、ユーザを識別することが可能な情報と値とが対応付けられているテーブルを用いることによって得られる。
例えば、仮想オブジェクトを識別することが可能な情報に基づき閾値が設定されることによって、大人用のアプリケーションの実行に基づく仮想オブジェクトと、子供用のアプリケーションの実行に基づく仮想オブジェクトとで、閾値を変えることが可能となる。また、仮想オブジェクトを識別することが可能な情報に基づき閾値が設定されることによって、例えば、接触式のタッチパネル用に開発されたアプリケーションを利用する場合と、近接を検出できるタッチパネルなどの非接触式のタッチパネル用に開発されたアプリケーションを利用する場合とで、閾値を変えることが可能となる。また、仮想オブジェクトを識別することが可能な情報に基づき閾値が設定されることによって、例えば、“課金処理の実行に係る仮想オブジェクトなど、ユーザが意図していない動作が行われることが望ましくない処理に対応する仮想オブジェクトの閾値を、より高くする”など、仮想オブジェクトごとの閾値を設定することが可能となる。
また、例えば、ユーザを識別することが可能な情報に基づき閾値が設定されることによって、ユーザごとに閾値を変えることが可能となる。
また、第1の例に係る所定の閾値は、例えば、操作体による操作の方向に基づき設定されてもよい。第1の例に係る所定の閾値は、例えば、操作体による操作の方向に対応する値に基づいて閾値の基準値を調整することによって、設定される。
上記操作体による操作の方向に対応する値は、例えば、方向と値とが対応付けられているテーブルを用いることによって得られる。
ここで、上記方向と値とが対応付けられているテーブルでは、例えば、操作時に精度が出にくい方向程、閾値が小さくなるような値が、方向と対応付けられる。操作時に精度が出にくい方向の一例としては、例えば、ユーザからみた奥行き方向のような、ユーザが視覚的に認識することが困難な方向が挙げられる。
上記のように、“操作時に精度が出にくい方向程、閾値が小さくなるような値が、方向と対応付けられているテーブル”が用いられることによって、例えば、操作時に精度が出にくい方向程、より操作体と仮想オブジェクトとの位置関係の補正が行われ易くなる。よって、操作時に精度が出にくい方向程、閾値が小さくなるような値が、方向と対応付けられているテーブルが用いられることによって、操作時に精度が出にくい方向における操作体による仮想オブジェクトに対する操作が補助されるので、ユーザの操作性の向上を図ることが可能となる。すなわち、所定の方向の補正度合いが他の方向の補正度合いと異なっていてもよい。
なお、上記操作体による操作の方向に対応する値の取得方法は、上記に限られない。
例えば、本実施形態に係る情報処理装置は、任意のアルゴリズムによって、操作体による操作の方向がユーザの眼球と手や指(スタイラスなどの操作デバイスも含む。)とを結ぶ線上方向である場合に閾値が小さくなるような値を、上記操作体による操作の方向に対応する値として得ることも可能である。
また、第1の例に係る所定の閾値は、例えば、設定されている領域内における仮想オブジェクトの密集の度合いを示す値に基づいて、設定されてもよい。設定されている領域内における仮想オブジェクトの密集の度合いを示す値は、例えば、“当該領域内における仮想オブジェクトの数と、当該領域内における仮想オブジェクト間の距離との一方または双方”と、“仮想オブジェクトの数および仮想オブジェクト間の距離の一方または双方と、密集の度合いを示す値とが対応付けられているテーブル”とによって得られる。
ここで、密集の度合いを示す値に係る上記テーブルでは、例えば、仮想オブジェクトの密集の度合いを示す値が大きい程、すなわち、複数の仮想オブジェクトが設定されている領域内に密集している程、閾値が大きくなるような値が、仮想オブジェクトの数および仮想オブジェクト間の距離の一方または双方と対応付けられる。
上記のように、“仮想オブジェクトの密集の度合いを示す値が大きい程、閾値が大きくなるような値が、仮想オブジェクトの数および仮想オブジェクト間の距離の一方または双方と対応付けられているテーブル”が用いられることによって、例えば、複数の仮想オブジェクトが設定されている領域内に密集している程、より操作体と仮想オブジェクトとの位置関係の補正が行われ難くなる。よって、“仮想オブジェクトの密集の度合いを示す値が大きい程、閾値が大きくなるような値が、仮想オブジェクトの数および仮想オブジェクト間の距離の一方または双方と対応付けられているテーブル”が用いられることによって、例えば、ユーザがゆっくりと指などの操作体を動かしているにも関わらず、仮想オブジェクトに対する操作が行われたと判定されて処理が行われる可能性を、より低減することができる。つまり、“仮想オブジェクトの密集の度合いを示す値が大きい程、閾値が大きくなるような値が、仮想オブジェクトの数および仮想オブジェクト間の距離の一方または双方と対応付けられているテーブル”が用いられることによって、操作を行ったユーザが意図していない動作が行われることを、防止することができる。すなわち、情報処理装置(例えば後述する操作判定部)は、複数の仮想オブジェクトが、第1の密集度を有するときよりも、第1の密集度よりも大きい第2の密集度を有するときの方が、判定処理が切り替わり難くしてもよい。また、情報処理装置(例えば後述する操作判定部)は、操作体の移動する速さが、所定値以下である場合に、仮想オブジェクトに対する操作があったと判定する基準が厳しくされるように判定処理を切り替えてもよい。
本実施形態に係る情報処理装置は、例えば、操作体の情報に基づく評価値が所定の閾値より小さい場合(または、当該評価値が当該閾値以下の場合。以下、同様とする。)に、第1の判定処理を行う。
ここで、操作体の情報に基づく評価値が所定の閾値より小さい場合とは、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性が低い場合に該当する。よって、操作体の情報に基づく評価値が所定の閾値より小さい場合には、本実施形態に係る情報処理装置は、操作体と仮想オブジェクトとの位置関係を補正せずに、仮想オブジェクトに対する操作を判定する第1の判定処理を行う。
また、本実施形態に係る情報処理装置は、例えば、操作体の情報に基づく評価値が所定の閾値以上の場合(または、当該評価値が当該閾値より大きい場合。以下、同様とする。)に、第2の判定処理を行う。
ここで、操作体の情報に基づく評価値が所定の閾値以上の場合とは、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性が高い場合に該当する。よって、操作体の情報に基づく評価値が所定の閾値以上の場合には、本実施形態に係る情報処理装置は、操作体と仮想オブジェクトとの位置関係を補正して仮想オブジェクトに対する操作を判定する第2の判定処理を行う。なお、上述したように、操作体の情報に基づく評価値は、操作体の動きを示す情報(例えば、操作体の速度や操作体の加速度などの操作体の動作データ)や、操作体の位置に基づく情報(例えばユーザを基準とした位置や領域など)に関連付けられている。
第2の判定処理を行う場合、本実施形態に係る情報処理装置は、例えば、操作体と仮想オブジェクトとの位置ずれを“0”(ゼロ)とすることによって、操作体と仮想オブジェクトとの位置関係を補正する。また、操作体と仮想オブジェクトとの位置ずれの補正は、例えば、ユーザからみた奥行き方向などの、特定の方向の位置ずれの補正であってもよい。
なお、第1の例に係る切り替え処理における、操作体と仮想オブジェクトとの位置関係の補正方法は、上記に限られない。
例えば、本実施形態に係る情報処理装置は、上記数式2に示す操作体の情報に基づく評価値に応じて操作体と仮想オブジェクトとの位置ずれを小さくすることによって、操作体と仮想オブジェクトとの位置関係を補正することも可能である。
具体例を挙げると、上記数式2に示す操作体の情報に基づく評価値に応じて操作体と仮想オブジェクトとの位置ずれを小さくするよう補正する場合、本実施形態に係る情報処理装置は、例えば、評価値と位置ずれの補正値とが対応付けられているテーブルを参照して、操作体の情報に基づく評価値に対応する補正値を特定する。また、本実施形態に係る情報処理装置は、例えば、操作体の情報に基づく評価値を変数とする関数によって、操作体の情報に基づく評価値に対応する補正値を特定してもよい。
そして、本実施形態に係る情報処理装置は、特定された補正値によって、操作体と仮想オブジェクトとの位置ずれを小さくするように、操作体と仮想オブジェクトとの位置関係を補正する。
上記のように、第1の例に係る切り替え処理が行われる場合には、本実施形態に係る情報処理装置は、操作体の情報に基づく評価値と所定の閾値との比較結果に基づいて、第1の判定処理と第2の判定処理とを切り替える。よって、第1の例に係る切り替え処理が行われる場合には、操作体の情報に基づいて操作体と仮想オブジェクトとの位置関係が選択的に補正されるので、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性を低減することが可能である。
したがって、第1の例に係る切り替え処理を行うことによって、本実施形態に係る情報処理装置は、ユーザの操作性の向上を図ることができる。
(2)切り替え処理の第2の例
本実施形態に係る情報処理装置は、操作体の情報と、仮想オブジェクトの情報とに基づいて、仮想オブジェクトに対する操作を判定する判定処理を切り替える。
ここで、本実施形態に係る仮想オブジェクトの情報としては、例えば、仮想オブジェクトの位置を示す情報、仮想オブジェクトの状態を示す情報、および仮想オブジェクトの種別を示す情報のうちの少なくとも1つが挙げられる。
仮想オブジェクトの位置を示す情報としては、例えば、仮想オブジェクトの位置(例えば、ユーザの正面の領域内の位置、ユーザの利き手側の領域内の位置、ユーザの非利き手側の領域内の位置)に応じた値を示すデータが挙げられる。仮想オブジェクトの位置に基づく情報が示す値は、例えば、撮像画像から推定される仮想オブジェクトの位置と、位置(または領域)と仮想オブジェクトの位置に基づく情報が示す値とが対応付けられているテーブルとを用いることによって得られる。
また、仮想オブジェクトの位置に基づく情報が示す値は、例えば、ユーザに対して仮想オブジェクトが位置する方向(または、ユーザに対する角度)に基づき設定されてもよい。例えば、仮想オブジェクトの位置に基づく情報が示す値が仮想オブジェクトが位置する方向に基づき設定される場合、ユーザに対する仮想オブジェクトの位置の斜め方向成分が大きくなる程、仮想オブジェクトの位置に基づく情報が示す値がより大きくなるように、設定される。
仮想オブジェクトの位置に基づく情報を生成する処理は、本実施形態に係る情報処理装置が行ってもよいし、HMDやサーバなどの本実施形態に係る情報処理装置の外部装置において行われてもよい。仮想オブジェクトの位置に基づく情報を生成する処理が外部装置において行われる場合、本実施形態に係る情報処理装置は、通信により当該外部装置から取得された仮想オブジェクトの位置に基づく情報を用いる。
また、仮想オブジェクトの状態を示す情報としては、例えば、仮想オブジェクトに設定されている透過度と、仮想オブジェクトに設定されている拡大率や縮小率などのサイズに関する値と、設定されている領域内における仮想オブジェクトの密集の度合いを示す値とのうちの、少なくとも1つに応じた値を示すデータが挙げられる。仮想オブジェクトの状態を示す情報が示す値は、例えば、“透過度、サイズに関する値、および仮想オブジェクトの密集の度合いを示す値とのうちの少なくとも1つと、仮想オブジェクトの状態を示す情報が示す値とが対応付けられているテーブル”を用いることによって得られる。
仮想オブジェクトの状態を示す情報を生成する処理は、本実施形態に係る情報処理装置が行ってもよいし、HMDやサーバなどの本実施形態に係る情報処理装置の外部装置において行われてもよい。仮想オブジェクトの状態を示す情報を生成する処理が外部装置において行われる場合、本実施形態に係る情報処理装置は、通信により当該外部装置から取得された仮想オブジェクトの状態を示す情報を用いる。
また、仮想オブジェクトの種別を示す情報としては、例えば、仮想オブジェクトのIDや、仮想オブジェクトに対応するアプリケーションのIDなどに応じた値を示すデータが挙げられる。仮想オブジェクトの種別を示す情報が示す値は、例えば、IDと仮想オブジェクトの種別を示す情報が示す値とが対応付けられているテーブルを用いることによって得られる。仮想オブジェクトの種別を示す情報が用いられることによって、例えば、“大人用のアプリケーションに応じた仮想オブジェクトにおける仮想オブジェクトの種別を示す情報が示す値と、子供用のアプリケーションに応じた仮想オブジェクトにおける仮想オブジェクトの種別を示す情報が示す値とを異ならせる”など、仮想オブジェクトに対応するアプリケーションや仮想オブジェクトによって、値を変えることが実現される。また、仮想オブジェクトの種別を示す情報が用いられることによって、例えば、“課金処理の実行に係る仮想オブジェクトなどの、ユーザが意図していない動作が行われることが望ましくない処理に対応する仮想オブジェクトの値を基準値よりも大きくする”など、仮想オブジェクトによって、値を変えることが実現される。
仮想オブジェクトの種別を示す情報を生成する処理は、本実施形態に係る情報処理装置が行ってもよいし、HMDやサーバなどの本実施形態に係る情報処理装置の外部装置において行われてもよい。仮想オブジェクトの種別を示す情報を生成する処理が外部装置において行われる場合、本実施形態に係る情報処理装置は、通信により当該外部装置から取得された仮想オブジェクトの種別を示す情報を用いる。
より具体的には、本実施形態に係る情報処理装置は、操作体の情報および仮想オブジェクトの情報に基づく評価値と、所定の閾値との比較結果に基づいて、第1の判定処理と第2の判定処理とを切り替える。
ここで、本実施形態に係る操作体の情報および仮想オブジェクトの情報に基づく評価値は、例えば下記の数式3により求められる。下記の数式3に示す“k”、“j”それぞれは、設定されている係数である。下記の数式3に示す“k”、“j”それぞれは、予め設定されている固定値であってもよいし、ユーザの操作などに基づき変更可能な可変値であってもよい。また、操作体の情報が示す値としては、例えば、操作体の情報に含まれる値の加算値や平均値などが挙げられる。また、仮想オブジェクトの情報が示す値としては、例えば、仮想オブジェクトの情報に含まれる値の加算値や平均値などが挙げられる。
操作体の情報および仮想オブジェクトの情報に基づく評価値=k×(操作体の情報が示す値)+j×(仮想オブジェクトの情報が示す値)
・・・(数式3)
また、第2の例に係る所定の閾値は、予め設定されている固定値であってもよいし、ユーザの操作などに基づき変更可能な可変値であってもよい。
また、第2の例に係る所定の閾値は、第1の例に係る所定の閾値と同様に、例えば、仮想オブジェクトを識別することが可能な情報とユーザを識別することが可能な情報との一方または双方に基づいて、設定されてもよい。仮想オブジェクトを識別することが可能な情報に基づき閾値が設定されることによって、例えば、“大人用のアプリケーションの実行に基づく仮想オブジェクトと子供用のアプリケーションの実行に基づく仮想オブジェクトとで、閾値を変えること”や、“課金処理の実行に係る仮想オブジェクトなど、ユーザが意図していない動作が行われることが望ましくない処理に対応する仮想オブジェクトの閾値を、より高くすること”などが実現される。
また、例えば、ユーザを識別することが可能な情報に基づき閾値が設定されることによって、ユーザごとに閾値を変えることが可能となる。
また、第2の例に係る所定の閾値は、第1の例に係る所定の閾値と同様に、例えば、操作体による操作の方向に基づいて設定することが可能であり、また、設定されている領域内における仮想オブジェクトの密集の度合いを示す値に基づいて設定することも可能である。
本実施形態に係る情報処理装置は、例えば、操作体の情報および仮想オブジェクトの情報に基づく評価値が所定の閾値より小さい場合(または、当該評価値が当該閾値以下の場合。以下、同様とする。)に、第1の判定処理を行う。
ここで、操作体の情報および仮想オブジェクトの情報に基づく評価値が所定の閾値より小さい場合とは、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性が低い場合に該当する。よって、操作体の情報および仮想オブジェクトの情報に基づく評価値が所定の閾値より小さい場合には、本実施形態に係る情報処理装置は、操作体と仮想オブジェクトとの位置関係を補正せずに、仮想オブジェクトに対する操作を判定する第1の判定処理を行う。
また、本実施形態に係る情報処理装置は、例えば、操作体の情報および仮想オブジェクトの情報に基づく評価値が所定の閾値以上の場合(または、当該評価値が当該閾値より大きい場合。以下、同様とする。)に、第2の判定処理を行う。
ここで、操作体の情報および仮想オブジェクトの情報に基づく評価値が所定の閾値以上の場合とは、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性が高い場合に該当する。よって、操作体の情報および仮想オブジェクトの情報に基づく評価値が所定の閾値以上の場合には、本実施形態に係る情報処理装置は、操作体と仮想オブジェクトとの位置関係を補正して仮想オブジェクトに対する操作を判定する第2の判定処理を行う。
第2の判定処理を行う場合、本実施形態に係る情報処理装置は、例えば、操作体と仮想オブジェクトとの位置ずれを“0”(ゼロ)とすることによって、操作体と仮想オブジェクトとの位置関係を補正する。
なお、第2の例に係る切り替え処理における、操作体と仮想オブジェクトとの位置関係の補正方法は、上記に限られない。
例えば、本実施形態に係る情報処理装置は、例えば上記第1の例に係る切り替え処理と同様に、上記数式3に示す操作体の情報および仮想オブジェクトの情報に基づく評価値に応じて操作体と仮想オブジェクトとの位置ずれを小さくすることによって、操作体と仮想オブジェクトとの位置関係を補正することも可能である。
上記のように、第2の例に係る切り替え処理が行われる場合には、本実施形態に係る情報処理装置は、操作体の情報および仮想オブジェクトの情報に基づく評価値と所定の閾値との比較結果に基づいて、第1の判定処理と第2の判定処理とを切り替える。よって、第2の例に係る切り替え処理が行われる場合には、操作体の情報および仮想オブジェクトの情報に基づいて操作体と仮想オブジェクトとの位置関係が選択的に補正されるので、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性を低減することが可能である。
したがって、第2の例に係る切り替え処理を行うことによって、本実施形態に係る情報処理装置は、ユーザの操作性の向上を図ることができる。
(3)切り替え処理の第3の例
本実施形態に係る情報処理装置は、操作体の情報と、ユーザの状態の情報とに基づいて、仮想オブジェクトに対する操作を判定する判定処理を切り替える。
ここで、本実施形態に係るユーザの状態の情報としては、例えば、ユーザが静止している、歩いている、走っている、階段を昇降しているなどの、ユーザの状態の認識結果に応じた値を示すデータが挙げられる。
ユーザの状態の情報が示す値は、例えば、ユーザの状態の認識結果と、ユーザの状態とユーザの状態の情報が示す値とが対応付けられているテーブルとを用いることによって得られる。
ユーザの状態は、例えば、加速度センサやジャイロセンサなどの動きを検出することが可能なセンサの検出値を用いた状態推定や、GPS(Global Positioning System)デバイスなどの位置特定デバイスにより得られた位置情報などを用いた行動履歴を利用した状態推定など、ユーザの状態を推定することが可能な任意の技術を利用して、認識される。
ユーザの状態の情報を生成する処理は、本実施形態に係る情報処理装置が行ってもよいし、HMDやサーバなどの本実施形態に係る情報処理装置の外部装置において行われてもよい。ユーザの状態の情報を生成する処理が外部装置において行われる場合、本実施形態に係る情報処理装置は、通信により当該外部装置から取得されたユーザの状態の情報を用いる。
より具体的には、本実施形態に係る情報処理装置は、操作体の情報およびユーザの状態の情報に基づく評価値と、所定の閾値との比較結果に基づいて、第1の判定処理と第2の判定処理とを切り替える。
ここで、本実施形態に係る操作体の情報およびユーザの状態の情報に基づく評価値は、例えば下記の数式4により求められる。下記の数式4に示す“k”、“l”それぞれは、設定されている係数である。下記の数式4に示す“k”、“l”それぞれは、予め設定されている固定値であってもよいし、ユーザの操作などに基づき変更可能な可変値であってもよい。また、操作体の情報が示す値としては、例えば、操作体の情報に含まれる値の加算値や平均値などが挙げられる。
操作体の情報およびユーザの状態の情報に基づく評価値=k×(操作体の情報が示す値)+l×(ユーザの状態の情報が示す値)
・・・(数式4)
また、第3の例に係る所定の閾値は、予め設定されている固定値であってもよいし、ユーザの操作などに基づき変更可能な可変値であってもよい。
また、第3の例に係る所定の閾値は、第1の例に係る所定の閾値と同様に、例えば、仮想オブジェクトを識別することが可能な情報とユーザを識別することが可能な情報との一方または双方に基づいて、設定されてもよい。仮想オブジェクトを識別することが可能な情報に基づき閾値が設定されることによって、例えば、“大人用のアプリケーションの実行に基づく仮想オブジェクトと子供用のアプリケーションの実行に基づく仮想オブジェクトとで、閾値を変えること”や、“課金処理の実行に係る仮想オブジェクトなど、ユーザが意図していない動作が行われることが望ましくない処理に対応する仮想オブジェクトの閾値を、より高くすること”などが実現される。
また、例えば、ユーザを識別することが可能な情報に基づき閾値が設定されることによって、ユーザごとに閾値を変えることが可能となる。
また、第3の例に係る所定の閾値は、第1の例に係る所定の閾値と同様に、例えば、操作体による操作の方向に基づいて設定することが可能であり、また、設定されている領域内における仮想オブジェクトの密集の度合いを示す値に基づいて設定することも可能である。
本実施形態に係る情報処理装置は、例えば、操作体の情報およびユーザの状態の情報に基づく評価値が所定の閾値より小さい場合(または、当該評価値が当該閾値以下の場合。以下、同様とする。)に、第1の判定処理を行う。
ここで、操作体の情報およびユーザの状態の情報に基づく評価値が所定の閾値より小さい場合とは、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性が低い場合に該当する。よって、操作体の情報およびユーザの状態の情報に基づく評価値が所定の閾値より小さい場合には、本実施形態に係る情報処理装置は、操作体と仮想オブジェクトとの位置関係を補正せずに、仮想オブジェクトに対する操作を判定する第1の判定処理を行う。
また、本実施形態に係る情報処理装置は、例えば、操作体の情報およびユーザの状態の情報に基づく評価値が所定の閾値以上の場合(または、当該評価値が当該閾値より大きい場合。以下、同様とする。)に、第2の判定処理を行う。
ここで、操作体の情報およびユーザの状態の情報に基づく評価値が所定の閾値以上の場合とは、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性が高い場合に該当する。よって、操作体の情報およびユーザの状態の情報に基づく評価値が所定の閾値以上の場合には、本実施形態に係る情報処理装置は、操作体と仮想オブジェクトとの位置関係を補正して仮想オブジェクトに対する操作を判定する第2の判定処理を行う。
第3の判定処理を行う場合、本実施形態に係る情報処理装置は、例えば、操作体と仮想オブジェクトとの位置ずれを“0”(ゼロ)とすることによって、操作体と仮想オブジェクトとの位置関係を補正する。
なお、第3の例に係る切り替え処理における、操作体と仮想オブジェクトとの位置関係の補正方法は、上記に限られない。
例えば、本実施形態に係る情報処理装置は、例えば上記第1の例に係る切り替え処理と同様に、上記数式4に示す操作体の情報およびユーザの状態の情報に基づく評価値に応じて操作体と仮想オブジェクトとの位置ずれを小さくすることによって、操作体と仮想オブジェクトとの位置関係を補正することも可能である。
上記のように、第3の例に係る切り替え処理が行われる場合には、本実施形態に係る情報処理装置は、操作体の情報およびユーザの状態の情報に基づく評価値と所定の閾値との比較結果に基づいて、第1の判定処理と第2の判定処理とを切り替える。よって、第3の例に係る切り替え処理が行われる場合には、操作体の情報およびユーザの状態の情報に基づいて操作体と仮想オブジェクトとの位置関係が選択的に補正されるので、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性を低減することが可能である。
したがって、第3の例に係る切り替え処理を行うことによって、本実施形態に係る情報処理装置は、ユーザの操作性の向上を図ることができる。
(4)切り替え処理の第4の例
本実施形態に係る情報処理装置は、操作体の情報と、仮想オブジェクトの情報と、ユーザの状態の情報とに基づいて、仮想オブジェクトに対する操作を判定する判定処理を切り替える。
より具体的には、本実施形態に係る情報処理装置は、操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価値と、所定の閾値との比較結果に基づいて、第1の判定処理と第2の判定処理とを切り替える。
ここで、本実施形態に係る操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価値は、例えば下記の数式5により求められる。下記の数式5に示す“k”、“j”、“l”それぞれは、設定されている係数である。下記の数式5に示す“k”、“j”、“l”それぞれは、予め設定されている固定値であってもよいし、ユーザの操作などに基づき変更可能な可変値であってもよい。また、操作体の情報が示す値としては、例えば、操作体の情報に含まれる値の加算値や平均値などが挙げられる。また、仮想オブジェクトの情報が示す値としては、例えば、仮想オブジェクトの情報に含まれる値の加算値や平均値などが挙げられる。
操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価値=k×(操作体の情報が示す値)+j×(仮想オブジェクトの情報が示す値)+l×(ユーザの状態の情報が示す値)
・・・(数式5)
また、第4の例に係る所定の閾値は、予め設定されている固定値であってもよいし、ユーザの操作などに基づき変更可能な可変値であってもよい。
また、第4の例に係る所定の閾値は、第1の例に係る所定の閾値と同様に、例えば、仮想オブジェクトを識別することが可能な情報とユーザを識別することが可能な情報との一方または双方に基づいて、設定されてもよい。仮想オブジェクトを識別することが可能な情報に基づき閾値が設定されることによって、例えば、“大人用のアプリケーションの実行に基づく仮想オブジェクトと子供用のアプリケーションの実行に基づく仮想オブジェクトとで、閾値を変えること”や、“課金処理の実行に係る仮想オブジェクトなど、ユーザが意図していない動作が行われることが望ましくない処理に対応する仮想オブジェクトの閾値を、より高くすること”などが実現される。
また、例えば、ユーザを識別することが可能な情報に基づき閾値が設定されることによって、ユーザごとに閾値を変えることが可能となる。
また、第4の例に係る所定の閾値は、第1の例に係る所定の閾値と同様に、例えば、操作体による操作の方向に基づいて設定することが可能であり、また、設定されている領域内における仮想オブジェクトの密集の度合いを示す値に基づいて設定することも可能である。
本実施形態に係る情報処理装置は、例えば、操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価値が所定の閾値より小さい場合(または、当該評価値が当該閾値以下の場合。以下、同様とする。)に、第1の判定処理を行う。
ここで、操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価値が所定の閾値より小さい場合とは、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性が低い場合に該当する。よって、操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価値が所定の閾値より小さい場合には、本実施形態に係る情報処理装置は、操作体と仮想オブジェクトとの位置関係を補正せずに、仮想オブジェクトに対する操作を判定する第1の判定処理を行う。
また、本実施形態に係る情報処理装置は、例えば、操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価値が所定の閾値以上の場合(または、当該評価値が当該閾値より大きい場合。以下、同様とする。)に、第2の判定処理を行う。
ここで、操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価値が所定の閾値以上の場合とは、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性が高い場合に該当する。よって、操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価値が所定の閾値以上の場合には、本実施形態に係る情報処理装置は、操作体と仮想オブジェクトとの位置関係を補正して仮想オブジェクトに対する操作を判定する第2の判定処理を行う。
第4の判定処理を行う場合、本実施形態に係る情報処理装置は、例えば、操作体と仮想オブジェクトとの位置ずれを“0”(ゼロ)とすることによって、操作体と仮想オブジェクトとの位置関係を補正する。
なお、第4の例に係る切り替え処理における、操作体と仮想オブジェクトとの位置関係の補正方法は、上記に限られない。
例えば、本実施形態に係る情報処理装置は、例えば上記第1の例に係る切り替え処理と同様に、上記数式5に示す操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価値に応じて操作体と仮想オブジェクトとの位置ずれを小さくすることによって、操作体と仮想オブジェクトとの位置関係を補正することも可能である。
上記のように、第4の例に係る切り替え処理が行われる場合には、本実施形態に係る情報処理装置は、操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価値と所定の閾値との比較結果に基づいて、第1の判定処理と第2の判定処理とを切り替える。よって、第4の例に係る切り替え処理が行われる場合には、操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づいて操作体と仮想オブジェクトとの位置関係が選択的に補正されるので、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性を低減することが可能である。
したがって、第4の例に係る切り替え処理を行うことによって、本実施形態に係る情報処理装置は、ユーザの操作性の向上を図ることができる。
(5)切り替え処理の第5の例
上記(1)に示す第1の例に係る切り替え処理〜上記(4)に示す第4の例に係る切り替え処理に示すように、本実施形態に係る情報処理装置は、“操作体の情報”、および“仮想オブジェクトの情報とユーザの状態の情報との一方または双方”に基づいて、第1の判定処理と第2の判定処理とを切り替える。
なお、本実施形態に係る切り替え処理は、上記(1)に示す第1の例に係る切り替え処理〜上記(4)に示す第4の例に係る切り替え処理に限られない。
例えば、本実施形態に係る情報処理装置は、操作体の情報を利用せずに、“仮想オブジェクトの情報とユーザの状態の情報との一方または双方”に基づいて、第1の判定処理と第2の判定処理とを切り替えてもよい。
操作体の情報を利用しない場合であっても、本実施形態に係る情報処理装置は、仮想オブジェクトの情報およびユーザの状態の情報の一方または双方に基づく評価値と所定の閾値との比較結果に基づいて、第1の判定処理と第2の判定処理とを切り替えることが可能である。ここで、仮想オブジェクトの情報およびユーザの状態の情報の一方または双方に基づく評価値は、例えば、上記数式5において、用いられない指標の係数を“0”(ゼロ)とすることによって求められる。
したがって、仮想オブジェクトの情報とユーザの状態の情報との一方または双方に基づいて、第1の判定処理と第2の判定処理とを切り替える場合であっても、本実施形態に係る情報処理装置は、ユーザの操作性の向上を図ることができる。
本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理として、例えば上記のような切り替え処理(例えば上記(1)第1の例に係る切替処理〜(5)第5の例に係る切替処理のいずれかの処理)を行う。
本実施形態に係る切り替え処理が行われることによって、操作体と仮想オブジェクトとの位置関係が選択的に補正されるので、例えば図1、図2を参照して示したような、操作を行ったユーザが意図していない動作が行われる可能性を低減することが可能である。
したがって、本実施形態に係る情報処理方法に係る処理として切り替え処理を行うことによって、本実施形態に係る情報処理装置は、ユーザの操作性の向上を図ることができる。
なお、本実施形態に係る情報処理方法に係る処理は、上記切り替え処理に限られない。例えば、本実施形態に係る情報処理装置は、下記に示す(I)通知制御処理と、(II)実行制御処理、および(III)表示制御処理のうちの少なくとも1つを、さらに行うことも可能である。
(I)通知制御処理
本実施形態に係る情報処理装置は、本実施形態に係る切り替え処理の対象となる仮想オブジェクトを、ユーザに対して通知させる。
本実施形態に係る情報処理装置は、例えば、仮想オブジェクトの表示を制御して、下記のような表示方法により本実施形態に係る切り替え処理の対象となる仮想オブジェクトを目立たせることによって、切り替え処理の対象となる仮想オブジェクトを、ユーザに対して視覚的に通知させる。なお、本実施形態に係る切り替え処理の対象となる仮想オブジェクトを目立たせる表示方法が、下記に示す例に限られないことは、言うまでもない。
・本実施形態に係る切り替え処理の対象となる仮想オブジェクトをハイライト表示させる。
・本実施形態に係る切り替え処理の対象となる仮想オブジェクト以外の他の仮想オブジェクトを、グレーアウト表示させる。
・上記の組み合わせ。
なお、本実施形態に係る切り替え処理の対象となる仮想オブジェクトを、ユーザに対して視覚的に通知する例は、上記に示す例に限られない。例えば、本実施形態に係る情報処理装置は、操作体と仮想オブジェクトとの位置関係が補正されたことや、操作体と仮想オブジェクトとの位置関係の補正の程度を、仮想オブジェクトに対するハイライト表示の程度や、仮想オブジェクトに対して付す色や明度などを変えることによって、通知することも可能である。
また、本実施形態に係る情報処理装置は、例えば、仮想オブジェクトが決定された旨の音声(音や音楽も含む。以下、同様とする。)を示す信号をスピーカなどの音声出力デバイスに出力させることによる聴覚的な通知や、振動デバイスを振動させることによる触覚的な通知によって、本実施形態に係る切り替え処理の対象となる仮想オブジェクトを、ユーザに対して通知させることも可能である。また、本実施形態に係る情報処理装置は、例えば、音声による聴覚的な通知や振動による触覚的な通知によって、操作体と仮想オブジェクトとの位置関係が補正されたことや、操作体と仮想オブジェクトとの位置関係の補正の程度を、ユーザに対して通知させてもよい。
また、本実施形態に係る情報処理装置は、例えば、視覚的な通知、触覚的な通知、および触覚的な通知のうちの2以上を組み合わせることによって、本実施形態に係る切り替え処理の対象となる仮想オブジェクトや、操作体と仮想オブジェクトとの位置関係が補正されたこと、操作体と仮想オブジェクトとの位置関係の補正の程度を、ユーザに対して通知させてもよい。
本実施形態に係る情報処理方法に係る処理として、通知制御処理が行われることによって、切り替え処理の対象となる仮想オブジェクトなどを、ユーザにより容易に認識させることが可能となる。よって、通知制御処理が行われることによって、ユーザは、操作体により操作される仮想オブジェクトを認識することができるので、ユーザの操作性の向上をさらに図ることができる。
なお、本実施形態に係る通知制御処理は、本実施形態に係る情報処理装置の外部装置において行われてもよい。
(II)実行制御処理
本実施形態に係る情報処理装置は、例えば、本実施形態に係る切り替え処理に係る判定処理により判定された、仮想オブジェクトに対する操作に対応する処理の実行を制御する。仮想オブジェクトに対する操作に対応する処理としては、例えば、操作により選択されたアプリケーションの実行や、課金処理など、仮想オブジェクトに対応付けられている任意の処理が挙げられる。
本実施形態に係る情報処理装置は、例えば、判定された仮想オブジェクトに対する操作に対応する処理を、制御対象に行わせる。
本実施形態に係る制御対象としては、例えば、本実施形態に係る情報処理装置と、本実施形態に係る情報処理装置の外部装置との一方または双方が挙げられる。本実施形態に係る制御対象の外部装置としては、例えば、HMDやサーバなどの任意の装置が挙げられる。
本実施形態に係る制御対象が本実施形態に係る情報処理装置である場合、本実施形態に係る情報処理装置は、例えば、本実施形態に係る情報処理装置が備えるプロセッサなどにおいて、判定された仮想オブジェクトに対する操作に対応する処理を行う。
また、本実施形態に係る制御対象が上記外部装置である場合、本実施形態に係る情報処理装置は、例えば、判定された仮想オブジェクトに対する操作に対応する処理を行わせる処理命令を含む処理実行要求を、外部装置に対して送信させることによって、判定された仮想オブジェクトに対する操作に対応する処理を、当該外部装置に行わせる。本実施形態に係る情報処理装置は、例えば、本実施形態に係る情報処理装置が備える通信部(後述する)や、本実施形態に係る情報処理装置に接続されている外部の通信デバイスに、上記処理実行要求を送信させる。
なお、本実施形態に係る実行制御処理は、本実施形態に係る情報処理装置の外部装置において行われてもよい。
(III)表示制御処理
本実施形態に係る情報処理装置は、実行される判定処理(本実施形態に係る切替処理において切り替えられる判定処理)において操作があったと判定されることに基づいて、仮想オブジェクトの表示を変化させてもよい。
本実施形態に係る情報処理装置は、例えば、仮想オブジェクトが表示される表示デバイスに対して、表示命令を含む制御信号を伝達することによって、仮想オブジェクトの表示を変化させるまた、上記制御信号には、仮想オブジェクトの表示に係る表示データが含まれていてもよい。
上記のように、仮想オブジェクトの表示を変化させることによって、本実施形態に係る情報処理装置は、例えば、判定処理により操作があったと判定された仮想オブジェクトを、ユーザに認識させることができる。なお、本実施形態に係る表示制御処理は、上記(I)の処理(通知制御処理)の一環として行われてもよい。
本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理として、例えば、“上記切り替え処理”、または、“上記切り替え処理、および上記(I)の処理(通知制御処理)と上記(II)の処理(実行制御処理)と上記(III)の処理(表示制御処理)とのうちの少なくとも1つ”を行う。
なお、“上記切り替え処理”、“上記切り替え処理、および上記(I)の処理(通知制御処理)と上記(II)の処理(実行制御処理)と上記(III)の処理(表示制御処理)とのうちの少なくとも1つ”それぞれは、便宜上、本実施形態に係る情報処理方法に係る処理を切り分けたものである。よって、本実施形態に係る情報処理方法に係る処理は、例えば、“上記切り替え処理、および上記(I)の処理(通知制御処理)と上記(II)の処理(実行制御処理)と上記(III)の処理(表示制御処理)とのうちの少なくとも1つ”を、1つの処理と捉えることが可能である。また、本実施形態に係る情報処理方法に係る処理は、例えば、“上記切り替え処理”、“上記切り替え処理、および上記(I)の処理(通知制御処理)と上記(II)の処理(実行制御処理)と上記(III)の処理(表示制御処理)とのうちの少なくとも1つ”それぞれを、(任意の切り分け方によって)2以上の処理と捉えることも可能である。
[2]本実施形態に係る情報処理方法に係る処理の具体例
図4は、本実施形態に係る情報処理方法に係る処理の一例を示す流れ図である。図4は、本実施形態に係る情報処理方法に係る処理として、上記(4)に示す第4の例に係る切り替え処理、および上記(II)の処理(実行制御処理)が行われる場合の処理の一例を示している。ここで、例えば図4のステップS102〜S108の処理が、上記(4)に示す第4の例に係る切り替え処理の一例に該当する。また、例えば図4のステップS112の処理が上記(II)の処理(実行制御処理)の一例に該当する。
本実施形態に係る情報処理装置は、操作体、仮想オブジェクトそれぞれの位置を取得する(S100)。
本実施形態に係る情報処理装置は、例えば、上記数式5に示す評価値(操作体の情報、仮想オブジェクトの情報、およびユーザの状態の情報に基づく評価関数により得られる評価値)が、所定の閾値以上であるか否かを判定する(S102)。
ステップS102において評価値が所定の閾値以上であると判定されない場合には、本実施形態に係る情報処理装置は、操作体と仮想オブジェクトとの位置関係を補正せず(S108)、当該位置関係に基づいて操作判定を行う(S108)。
ステップS108において、本実施形態に係る情報処理装置は、例えば、タッチ操作や、フリック操作、ピンチ操作、ドラッグ操作など、操作体による仮想オブジェクトに対する所定の操作を検出する。本実施形態に係る情報処理装置は、例えば、撮像画像を解析することなど、操作を検出することが可能な任意の方法によって、操作体による仮想オブジェクトに対する所定の操作を検出する。
そして、本実施形態に係る情報処理装置は、所定の操作が検出された場合に、操作体による仮想オブジェクトに対する操作が行われたと判定する。
ここで、ステップS102の判定の結果、評価値が所定の閾値以上であると判定されない場合に行われるステップS104、およびステップS108の処理が、第1の判定処理に該当する。
また、ステップS102において評価値が所定の閾値以上であると判定された場合には、本実施形態に係る情報処理装置は、操作体と仮想オブジェクトとの位置関係を補正する(S106)。そして、本実施形態に係る情報処理装置は、補正された操作体と仮想オブジェクトとの位置関係に基づいて操作判定を行う(S108)。
ここで、ステップS102の判定の結果、評価値が所定の閾値以上であると判定された場合に行われるステップS106、およびステップS108の処理が、第2の判定処理に該当する。
本実施形態に係る情報処理装置は、ステップS108の処理により操作体による仮想オブジェクトに対する操作が判定されたか否かを判定する(S110)。
ステップS110において、操作体による仮想オブジェクトに対する操作が判定されたと判定されない場合には、本実施形態に係る情報処理装置は、例えば、ステップS100からの処理を繰り返す。
また、ステップS110において、操作体による仮想オブジェクトに対する操作が判定されたと判定された場合には、本実施形態に係る情報処理装置は、判定された操作に対応する処理を、制御対象に行わせる(S112)。
ここで、ステップS110において、操作体による仮想オブジェクトに対する操作が判定されたと判定された場合には、本実施形態に係る情報処理装置は、例えば、判定された操作が終了するまで、ステップS100からの処理を行わない。また、本実施形態に係る情報処理装置は、例えば、ステップS110において判定された操作が終了したと判定された場合に、ステップS100からの処理を再度行う。
例えば、ドラッグ操作が、操作体による仮想オブジェクトに対する操作として判定された場合には、手や指などの操作体と仮想オブジェクトとの距離が、設定されている閾値以上となったとき(または、当該距離が当該閾値より大きくなったとき)に、判定された操作が終了したと判定される。なお、判定された操作が終了したと判定される条件は、例えば、操作ごとに異なる。
本実施形態に係る情報処理装置が、判定された操作が終了するまでステップS100からの処理を行わないことによって、例えば、判定された操作に対応する処理が行われている最中に、ユーザが意図していない他の仮想オブジェクトに対する処理が行われてしまうことが防止される。
本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理として、例えば図4に示す処理を行う。
なお、本実施形態に係る情報処理方法に係る処理は、図4に示す処理に限られない。
例えば図4では、上記数式5に示す評価値と1つの閾値を用いた閾値処理によって、操作体と仮想オブジェクトとの位置関係を選択的に補正する例を示したが、操作体と仮想オブジェクトとの位置関係を補正する方法は、上記に示す例に限られない。例えば、本実施形態に係る情報処理装置は、複数の閾値を用いた複数段階の閾値処理の結果に基づき、操作体と仮想オブジェクトとの位置関係を段階的に補正することも可能である。
また、本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理として、上記(1)に示す第1の例に係る切り替え処理〜上記(3)に示す第3の例に係る切り替え処理のいずれか、または、上記(5)に示す第5の例に係る切り替え処理を行ってもよい。
また、例えば図4のステップS112の処理は、本実施形態に係る情報処理装置の外部装置において行われてもよい。
(本実施形態に係る情報処理装置)
次に、上述した本実施形態に係る情報処理方法に係る処理を行うことが可能な本実施形態に係る情報処理装置の構成の一例について、説明する。
図5は、本実施形態に係る情報処理装置100の構成の一例を示すブロック図である。情報処理装置100は、例えば、通信部102と、制御部104とを備える。
また、情報処理装置100は、例えば、ROM(Read Only Memory。図示せず)や、RAM(Random Access Memory。図示せず)、記憶部(図示せず)、ユーザが操作可能な操作部(図示せず)、様々な画面を表示画面に表示する表示部(図示せず)などを備えていてもよい。情報処理装置100は、例えば、データの伝送路としてのバスにより上記各構成要素間を接続する。
ROM(図示せず)は、制御部104が使用するプログラムや演算パラメータなどの制御用データを記憶する。RAM(図示せず)は、制御部104により実行されるプログラムなどを一時的に記憶する。
記憶部(図示せず)は、情報処理装置100が備える記憶手段であり、例えば、上記切り替え処理に係る閾値や、上述した各種テーブルなどの、本実施形態に係る情報処理方法に係るデータや、各種アプリケーションなど様々なデータを記憶する。ここで、記憶部(図示せず)としては、例えば、ハードディスク(Hard Disk)などの磁気記録媒体や、フラッシュメモリ(flash memory)などの不揮発性メモリ(nonvolatile memory)などが挙げられる。また、記憶部(図示せず)は、情報処理装置100から着脱可能であってもよい。
操作部(図示せず)としては、後述する操作入力デバイスが挙げられる。また、表示部(図示せず)としては、後述する表示デバイスが挙げられる。
[情報処理装置100のハードウェア構成例]
図6は、本実施形態に係る情報処理装置100のハードウェア構成の一例を示す説明図である。情報処理装置100は、例えば、MPU150と、ROM152と、RAM154と、記録媒体156と、入出力インタフェース158と、操作入力デバイス160と、表示デバイス162と、通信インタフェース164とを備える。また、情報処理装置100は、例えば、データの伝送路としてのバス166で各構成要素間を接続する。
MPU150は、例えば、MPUなどの演算回路で構成される、少なくとも1つのプロセッサや、各種処理回路などで構成され、情報処理装置100全体を制御する制御部104として機能する。また、MPU150は、情報処理装置100において、例えば、後述する操作判定部110の役目を果たす。なお、操作判定部110は、後述する操作判定部110の処理を実現可能な専用の(または汎用の)回路(例えば、MPU150とは別体のプロセッサなど)で構成されていてもよい。
ROM152は、MPU150が使用するプログラムや演算パラメータなどの制御用データなどを記憶する。RAM154は、例えば、MPU150により実行されるプログラムなどを一時的に記憶する。
記録媒体156は、記憶部(図示せず)として機能し、例えば、例えば、上記切り替え処理に係る閾値や、上述した各種テーブルなどの、本実施形態に係る情報処理方法に係るデータや、各種アプリケーションなど様々なデータを記憶する。ここで、記録媒体156としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリが挙げられる。また、記録媒体156は、情報処理装置100から着脱可能であってもよい。
入出力インタフェース158は、例えば、操作入力デバイス160や、表示デバイス162を接続する。操作入力デバイス160は、操作部(図示せず)として機能し、また、表示デバイス162は、表示部(図示せず)として機能する。ここで、入出力インタフェース158としては、例えば、USB(Universal Serial Bus)端子や、DVI(Digital Visual Interface)端子、HDMI(High-Definition Multimedia Interface)(登録商標)端子、各種処理回路などが挙げられる。
また、操作入力デバイス160は、例えば、情報処理装置100上に備えられ、情報処理装置100の内部で入出力インタフェース158と接続される。操作入力デバイス160としては、例えば、ボタンや、方向キー、ジョグダイヤルなどの回転型セレクター、あるいは、これらの組み合わせなどが挙げられる。
また、表示デバイス162は、例えば、情報処理装置100上に備えられ、情報処理装置100の内部で入出力インタフェース158と接続される。表示デバイス162としては、例えば、液晶ディスプレイ(Liquid Crystal Display)や有機ELディスプレイ(Organic Electro-Luminescence Display。または、OLEDディスプレイ(Organic Light Emitting Diode Display)ともよばれる。)などが挙げられる。
なお、入出力インタフェース158が、情報処理装置100の外部の操作入力デバイス(例えば、キーボードやマウスなど)や外部の表示デバイスなどの、外部デバイスと接続することも可能であることは、言うまでもない。また、表示デバイス162は、例えばタッチパネルなど、表示とユーザ操作とが可能なデバイスであってもよい。
通信インタフェース164は、情報処理装置100が備える通信手段であり、ネットワークを介して(あるいは、直接的に)、例えば、HMDやサーバ、撮像により撮像画像を生成する撮像デバイスなどの外部装置と、無線または有線で通信を行うための通信部102として機能する。ここで、通信インタフェース164としては、例えば、通信アンテナおよびRF(Radio Frequency)回路(無線通信)や、IEEE802.15.1ポートおよび送受信回路(無線通信)、IEEE802.11ポートおよび送受信回路(無線通信)、あるいはLAN(Local Area Network)端子および送受信回路(有線通信)などが挙げられる。
情報処理装置100は、例えば図6に示す構成によって、本実施形態に係る情報処理方法に係る処理を行う。なお、本実施形態に係る情報処理装置100のハードウェア構成は、図6に示す構成に限られない。
例えば、情報処理装置100は、接続されている外部の通信デバイスを介して外部装置などと通信を行う場合や、スタンドアロンで処理を行う構成である場合には、通信インタフェース164を備えていなくてもよい。また、通信インタフェース164は、複数の通信方式によって、少なくとも1つの外部装置と通信を行うことが可能な構成であってもよい。
また、情報処理装置100は、例えば、撮像により画像(動画像または静止画像)を生成する撮像部(図示せず)として機能する撮像デバイスをさらに備えていてもよい。
撮像デバイスは、例えば、レンズ/撮像素子と信号処理回路とを含んで構成される。レンズ/撮像素子は、例えば、光学系のレンズと、CMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を複数用いたイメージセンサとで構成される。信号処理回路は、例えば、AGC(Automatic Gain Control)回路やADC(Analog to Digital Converter)を備え、撮像素子により生成されたアナログ信号をデジタル信号(画像データ)に変換する。また、信号処理回路は、例えばRAW現像に係る各種処理を行う。さらに、信号処理回路は、例えば、White Balance補正処理や、色調補正処理、ガンマ補正処理、YCbCr変換処理、エッジ強調処理など各種信号処理を行ってもよい。
また、情報処理装置100は、例えば、記録媒体156や、操作入力デバイス160、表示デバイス162を備えない構成をとることが可能である。
また、例えば、図6に示す構成(または変形例に係る構成)は、少なくとも1つのICで実現されてもよい。
再度図5を参照して、情報処理装置100の構成の一例について説明する。通信部102は、情報処理装置100が備える通信手段であり、ネットワークを介して(あるいは、直接的に)、HMDやサーバなどの外部装置と、無線または有線で通信を行う。また、通信部102は、例えば制御部104により通信が制御される。
ここで、通信部102としては、例えば、通信アンテナおよびRF回路や、LAN端子および送受信回路などが挙げられるが、通信部102の構成は、上記に限られない。例えば、通信部102は、USB端子および送受信回路などの通信を行うことが可能な任意の規格に対応する構成や、ネットワークを介して外部装置と通信可能な任意の構成をとることができる。また、通信部102は、複数の通信方式によって、少なくとも1つの外部装置と通信を行うことが可能な構成であってもよい。
制御部104は、例えばMPUなどで構成され、情報処理装置100全体を制御する役目を果たす。また、制御部104は、例えば、操作判定部110を備え、本実施形態に係る情報処理方法に係る処理を主導的に行う役目を果たす。
操作判定部110は、本実施形態に係る情報処理方法に係る処理を主導的に行う役目を果たす。
例えば、操作判定部110は、上記切り替え処理を行い、仮想オブジェクトに対する操作を判定する判定処理を切り替える。操作判定部110は、例えば、上記(1)に示す第1の例に係る切り替え処理〜上記(5)に示す第5の例に係る切り替え処理のいずれかの処理を行い、操作体と仮想オブジェクトとの位置関係を補正せずに仮想オブジェクトに対する操作を判定する第1の判定処理と、操作体と仮想オブジェクトとの位置関係を補正して仮想オブジェクトに対する操作を判定する第2の判定処理とを切り替える。
また、操作判定部110は、例えば、上記(I)の処理(通知制御処理)と上記(II)の処理(実行制御処理)との一方または双方をさらに行うことも可能である。
制御部104は、例えば、操作判定部110を備えることによって、本実施形態に係る情報処理方法に係る処理(例えば、“上記切り替え処理”、“上記切り替え処理、および上記(I)の処理(通知制御処理)”、“上記切り替え処理、および上記(II)の処理(実行制御処理)”、または“上記切り替え処理、上記(I)の処理(通知制御処理)、および上記(II)の処理(実行制御処理)”)を主導的に行う。
なお、本実施形態に制御部の構成は、上記に示す例に限られない。例えば、本実施形態に制御部は、上記(III)の処理(表示制御処理)を主導的に行う表示制御部(図示せず)を、さらに備えていてもよい。
情報処理装置100は、例えば図5に示す構成(または、上記変形例に係る制御部の構成)によって、本実施形態に係る情報処理方法に係る処理(例えば、“上記切り替え処理”、または、“上記切り替え処理、および上記(I)の処理(通知制御処理)と上記(II)の処理(実行制御処理)と上記(III)の処理(表示制御処理)とのうちの少なくとも1つ”)を行う。
したがって、情報処理装置100は、例えば図5に示す構成によって、ユーザの操作性の向上を図ることができる。
また、例えば図5に示す構成によって、情報処理装置100は、上述したような本実施形態に係る情報処理方法に係る処理が行われることにより奏される効果を、奏することができる。
なお、本実施形態に係る情報処理装置の構成は、図5に示す構成に限られない。
例えば、本実施形態に係る情報処理装置は、図5に示す操作判定部110(または、変形例に係る操作判定部110、および表示制御部(図示せず)との一方または双方)を、制御部104とは個別に備える(例えば、別の処理回路で実現する)ことができる。
また、上述したように、“上記切り替え処理”、“上記切り替え処理、および上記(I)の処理(通知制御処理)と上記(II)の処理(実行制御処理)と上記(III)の処理(表示制御処理)とのうちの少なくとも1つ”それぞれは、便宜上、本実施形態に係る情報処理方法に係る処理を切り分けたものである。よって、本実施形態に係る情報処理方法に係る処理を実現するための構成は、図5に示す操作判定部110(または、変形例に係る操作判定部110、および表示制御部(図示せず)との一方または双方)に限られず、本実施形態に係る情報処理方法に係る処理の切り分け方に応じた構成をとることが可能である。
また、例えば、通信部102と同様の機能、構成を有する外部の通信デバイスを介して外部装置と通信を行う場合や、スタンドアロンで処理を行う場合には、本実施形態に係る情報処理装置は、通信部102を備えていなくてもよい。
以上、本実施形態として、情報処理装置を挙げて説明したが、本実施形態は、かかる形態に限られない。本実施形態は、例えば、PC(Personal Computer)やサーバなどのコンピュータや、HMDやアイウェアなどのユーザの頭部に装着されて用いられる装置、実空間に仮想オブジェクトを投影することが可能な投影装置、タブレット型の装置、携帯電話やスマートフォンなどの通信装置など、本実施形態に係る情報処理方法に係る処理を行うことが可能な、様々な機器に適用することができる。また、本実施形態は、例えば、上記のような機器に組み込むことが可能な、処理ICに適用することもできる。
また、本実施形態に係る情報処理装置は、例えばクラウドコンピューティングなどのように、ネットワークへの接続(または各装置間の通信)を前提とした、複数の装置からなるシステムに適用されてもよい。つまり、上述した本実施形態に係る情報処理装置は、例えば、複数の装置により本実施形態に係る情報処理方法に係る処理を行う情報処理システムとして実現することも可能である。複数の装置により本実施形態に係る情報処理方法に係る処理を行う情報処理システムとしては、例えば、当該情報処理システムを構成する複数の装置において、“上記切り替え処理”、または、“上記切り替え処理、および上記(I)の処理(通知制御処理)と上記(II)の処理(実行制御処理)と上記(III)の処理(表示制御処理)とのうちの少なくとも1つ”が連携して行われるシステムが、挙げられる。
(本実施形態に係るプログラム)
コンピュータシステムを、本実施形態に係る情報処理装置として機能させるためのプログラム(例えば、“上記切り替え処理”、または、“上記切り替え処理、および上記(I)の処理(通知制御処理)と上記(II)の処理(実行制御処理)と上記(III)の処理(表示制御処理)とのうちの少なくとも1つ”など、本実施形態に係る情報処理方法に係る処理を実行することが可能なプログラム)が、コンピュータシステムにおいてプロセッサなどにより実行されることによって、ユーザの操作性の向上を図ることができる。ここで、本実施形態に係るコンピュータシステムとしては、単体のコンピュータ、または、複数のコンピュータが挙げられる。本実施形態に係るコンピュータシステムによって、本実施形態に係る情報処理方法に係る一連の処理が行われる。
また、コンピュータシステムを、本実施形態に係る情報処理装置として機能させるためのプログラムが、コンピュータシステムにおいてプロセッサなどにより実行されることによって、上述した本実施形態に係る情報処理方法に係る処理によって奏される効果を、奏することができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記では、コンピュータシステムを、本実施形態に係る情報処理装置として機能させるためのプログラム(コンピュータプログラム)が提供されることを示したが、本実施形態は、さらに、上記プログラムを記憶させた記録媒体(コンピュータシステムなどが読み取り可能な記録媒体)も併せて提供することができる。
上述した構成は、本実施形態の一例を示すものであり、当然に、本開示の技術的範囲に属するものである。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
仮想の立体空間に定義された仮想オブジェクトに対する、操作体によるユーザの操作入力を判定する判定処理を実行する操作判定部を備え、
前記操作判定部は、前記操作体の現実の立体空間における空間位置の情報に基づいて前記判定処理を実行し、前記操作体の情報に基づいて、前記判定処理を切り替える、情報処理装置。
(2)
前記仮想オブジェクトは、前記操作体の前記現実の立体空間における像とともに視認可能に表示される、(1)に記載の情報処理装置。
(3)
前記操作体の情報は、前記操作体の動きを示す情報と前記操作体の位置に基づく情報との一方または双方である、(2)に記載の情報処理装置。
(4)
前記操作体の動きを示す情報は、前記操作体の移動する速さの情報である、(3)に記載の情報処理装置。
(5)
前記操作判定部は、前記操作体の移動する速さが、第1の速さであるときよりも、前記第1の速さよりも速い第2の速さであるときの方が、前記仮想オブジェクトに対する操作があったと判定する基準が緩和されるように判定処理を切り替える、(4)に記載の情報処理装置。
(6)
前記基準は、前記操作体と前記仮想オブジェクトとの仮想的な位置関係に関する基準である、(5)に記載の情報処理装置。
(7)
前記操作判定部は、複数の前記仮想オブジェクトが、第1の密集度を有するときよりも、前記第1の密集度よりも大きい第2の密集度を有するときの方が、前記判定処理が切り替わり難くする、(1)〜(6)のいずれか1つに記載の情報処理装置。
(8)
前記操作判定部は、前記仮想オブジェクトの情報と、ユーザの状態の情報とに基づいて、前記判定処理を切り替える、(1)〜(7)のいずれか1つに記載の情報処理装置。
(9)
前記操作判定部は、前記操作体の情報および前記仮想オブジェクトの情報に基づいて前記判定処理を切り替える、請求項1〜(8)のいずれか1つに記載の情報処理装置。
(10)
前記仮想オブジェクトの情報は、前記仮想オブジェクトの位置を示す情報、前記仮想オブジェクトの状態を示す情報、および前記仮想オブジェクトの種別を示す情報のうちの1または2以上である、(8)、または(9)に記載の情報処理装置。
(11)
前記操作判定部は、前記仮想オブジェクトに関連付けて定義される操作判定領域に基づいて前記判定処理を実行する、(1)〜(10)のいずれか1つに記載の情報処理装置。
(12)
前記操作判定領域は、ユーザにより視認されない、(11)に記載の情報処理装置。
(13)
前記操作判定領域は、ユーザにより視認可能に表示される、(10)に記載の情報処理装置。
(14)
前記操作判定部は、判定された前記仮想オブジェクトに対する操作に対応する処理の実行を制御し、
前記操作判定部において前記操作があったと判定されることに基づいて、前記仮想オブジェクトの表示を変化させる表示制御部を備える、(1)〜(13)のいずれか1つに記載の情報処理装置。
(15)
前記仮想オブジェクトは、仮想的な入力デバイスである、(14)に記載の情報処理装置。
(16)
前記操作判定部は、前記操作体と前記仮想オブジェクトとの位置関係を補正せずに、前記仮想オブジェクトに対する操作を判定する第1の判定処理と、前記操作体と前記仮想オブジェクトとの位置関係を補正して前記仮想オブジェクトに対する操作を判定する第2の判定処理とを、切り替える、(1)〜(15)のいずれか1つに記載の情報処理装置。
(17)
前記操作判定部は、第1の判定処理と第2の判定処理とを切り替え、
前記第2の判定処理では、前記仮想オブジェクトに対する操作があったと判定する前記第1の判定処理の基準の補正を、第1の方向および前記第1の方向とは異なる第2の方向において行い、
前記第2の判定処理において、前記第1の方向の補正度合いと、前記第2の方向の補正度合とが異なる、(1)〜(15)のいずれか1つに記載の情報処理装置。
(18)
前記操作判定部は、前記操作体の情報に基づいて、奥行き方向に関し前記判定処理を切り替える、(1)〜(17)のいずれか1つに記載の情報処理装置。
(19)
仮想の立体空間に定義された仮想オブジェクトに対する、操作体によるユーザの操作入力を判定する判定処理を実行するステップを有し、
前記実行するステップでは、前記操作体の現実の立体空間における空間位置の情報に基づいて前記判定処理が実行され、前記操作体の情報に基づいて、前記判定処理が切り替えられる、情報処理装置により実行される情報処理方法。
(18)
仮想の立体空間に定義された仮想オブジェクトに対する、操作体によるユーザの操作入力を判定する判定処理を実行する機能をコンピュータシステムに実現させ、
前記実行する機能により、前記操作体の現実の立体空間における空間位置の情報に基づいて前記判定処理が実行され、前記操作体の情報に基づいて、前記判定処理が切り替えられる、プログラム。
100 情報処理装置
102 通信部
104 制御部
110 操作判定部

Claims (20)

  1. 仮想の立体空間に定義された仮想オブジェクトに対する、操作体によるユーザの操作入力を判定する判定処理を実行する操作判定部を備え、
    前記操作判定部は、前記操作体の現実の立体空間における空間位置の情報に基づいて前記判定処理を実行し、前記操作体の情報に基づいて、前記判定処理を切り替える、情報処理装置。
  2. 前記仮想オブジェクトは、前記操作体の前記現実の立体空間における像とともに視認可能に表示される、請求項1に記載の情報処理装置。
  3. 前記操作体の情報は、前記操作体の動きを示す情報と前記操作体の位置に基づく情報との一方または双方である、請求項2に記載の情報処理装置。
  4. 前記操作体の動きを示す情報は、前記操作体の移動する速さの情報である、請求項3に記載の情報処理装置。
  5. 前記操作判定部は、前記操作体の移動する速さが、第1の速さであるときよりも、前記第1の速さよりも速い第2の速さであるときの方が、前記仮想オブジェクトに対する操作があったと判定する基準が緩和されるように判定処理を切り替える、請求項4に記載の情報処理装置。
  6. 前記基準は、前記操作体と前記仮想オブジェクトとの仮想的な位置関係に関する基準である、請求項5に記載の情報処理装置。
  7. 前記操作判定部は、複数の前記仮想オブジェクトが、第1の密集度を有するときよりも、前記第1の密集度よりも大きい第2の密集度を有するときの方が、前記判定処理が切り替わり難くする、請求項1に記載の情報処理装置。
  8. 前記操作判定部は、前記仮想オブジェクトの情報と、ユーザの状態の情報とに基づいて、前記判定処理を切り替える、請求項1に記載の情報処理装置。
  9. 前記操作判定部は、前記操作体の情報および前記仮想オブジェクトの情報に基づいて前記判定処理を切り替える、請求項1に記載の情報処理装置。
  10. 前記仮想オブジェクトの情報は、前記仮想オブジェクトの位置を示す情報、前記仮想オブジェクトの状態を示す情報、および前記仮想オブジェクトの種別を示す情報のうちの少なくとも1つである、請求項7に記載の情報処理装置。
  11. 前記操作判定部は、前記仮想オブジェクトに関連付けて定義される操作判定領域に基づいて前記判定処理を実行する、請求項1に記載の情報処理装置。
  12. 前記操作判定領域は、ユーザにより視認されない、請求項11に記載の情報処理装置。
  13. 前記操作判定領域は、ユーザにより視認可能に表示される、請求項11に記載の情報処理装置。
  14. 前記操作判定部は、判定された前記仮想オブジェクトに対する操作に対応する処理の実行を制御し、
    前記操作判定部において前記操作があったと判定されることに基づいて、前記仮想オブジェクトの表示を変化させる表示制御部を備える、請求項1に記載の情報処理装置。
  15. 前記仮想オブジェクトは、仮想的な入力デバイスである、請求項14に記載の情報処理装置。
  16. 前記操作判定部は、前記操作体と前記仮想オブジェクトとの位置関係を補正せずに、前記仮想オブジェクトに対する操作を判定する第1の判定処理と、前記操作体と前記仮想オブジェクトとの位置関係を補正して前記仮想オブジェクトに対する操作を判定する第2の判定処理とを、切り替える、請求項1に記載の情報処理装置。
  17. 前記操作判定部は、第1の判定処理と第2の判定処理とを切り替え、
    前記第2の判定処理では、前記仮想オブジェクトに対する操作があったと判定する前記第1の判定処理の基準の補正を、第1の方向および前記第1の方向とは異なる第2の方向において行い、
    前記第2の判定処理において、前記第1の方向の補正度合いと、前記第2の方向の補正度合とが異なる、請求項1に記載の情報処理装置。
  18. 前記操作判定部は、前記操作体の情報に基づいて、奥行き方向に関し前記判定処理を切り替える、請求項1に記載の情報処理装置。
  19. 仮想の立体空間に定義された仮想オブジェクトに対する、操作体によるユーザの操作入力を判定する判定処理を実行するステップを有し、
    前記実行するステップでは、前記操作体の現実の立体空間における空間位置の情報に基づいて前記判定処理が実行され、前記操作体の情報に基づいて、前記判定処理が切り替えられる、情報処理装置により実行される情報処理方法。
  20. 仮想の立体空間に定義されユーザに仮想的に知覚可能とされる仮想オブジェクトに対する、操作体によるユーザの操作入力を判定する判定処理を実行する機能をコンピュータシステムに実現させ、
    前記実行する機能により、前記操作体の現実の立体空間における空間位置の情報に基づいて前記判定処理が実行され、前記操作体の情報に基づいて、前記判定処理が切り替えられる、プログラム。
JP2018508512A 2016-03-29 2017-02-09 情報処理装置、情報処理方法、およびプログラム Active JP6911834B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016066807 2016-03-29
JP2016066807 2016-03-29
PCT/JP2017/004714 WO2017169158A1 (ja) 2016-03-29 2017-02-09 情報処理装置、情報処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2017169158A1 true JPWO2017169158A1 (ja) 2019-02-07
JP6911834B2 JP6911834B2 (ja) 2021-07-28

Family

ID=59962832

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018508512A Active JP6911834B2 (ja) 2016-03-29 2017-02-09 情報処理装置、情報処理方法、およびプログラム

Country Status (5)

Country Link
US (1) US10928919B2 (ja)
EP (1) EP3438789A4 (ja)
JP (1) JP6911834B2 (ja)
CN (1) CN108885496B (ja)
WO (1) WO2017169158A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107835403B (zh) 2017-10-20 2020-06-26 华为技术有限公司 一种以3d视差效果显示的方法及装置
FR3086423B1 (fr) * 2018-09-21 2021-09-10 Diotasoft Procede et systeme de visualisation en realite augmentee
WO2020209624A1 (en) * 2019-04-11 2020-10-15 Samsung Electronics Co., Ltd. Head mounted display device and operating method thereof
WO2022249970A1 (ja) * 2021-05-28 2022-12-01 道生 鯉渕 装置又は方法
KR102617514B1 (ko) * 2021-11-22 2023-12-27 주식회사 듀코젠 메타버스 상에서의 공학실습 플랫폼 제공 방법

Citations (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002082751A (ja) * 2000-09-08 2002-03-22 Mitsubishi Electric Corp 仮想空間とのインタラクション装置およびこれを応用した仮想空間システム
JP2006126936A (ja) * 2004-10-26 2006-05-18 Canon Inc 画像処理方法、画像処理装置
JP2007233511A (ja) * 2006-02-28 2007-09-13 Konami Digital Entertainment:Kk オブジェクト表示装置、オブジェクト配置方法、および、プログラム
WO2009016736A1 (ja) * 2007-07-31 2009-02-05 Xanavi Informatics Corporation 地図表示装置
JP2011509480A (ja) * 2008-01-10 2011-03-24 ソニー エリクソン モバイル コミュニケーションズ, エービー 3dグラフィカルユーザインタフェースをナビゲートするためのシステム及び方法
JP2011175470A (ja) * 2010-02-24 2011-09-08 Brother Industries Ltd データ入力装置
JP2011175617A (ja) * 2010-01-29 2011-09-08 Shimane Prefecture 画像認識装置および操作判定方法並びにプログラム
JP2011191811A (ja) * 2010-03-11 2011-09-29 Sony Corp 情報処理装置、情報処理方法およびプログラム
JP2012022632A (ja) * 2010-07-16 2012-02-02 Canon Inc 情報処理装置およびその制御方法
US20120229381A1 (en) * 2011-03-10 2012-09-13 Microsoft Corporation Push personalization of interface controls
JP2012217101A (ja) * 2011-04-01 2012-11-08 Canon Inc 情報処理装置及びその制御方法、プログラム、並びに記憶媒体
JP2013196156A (ja) * 2012-03-16 2013-09-30 Sony Corp 情報処理装置、情報処理方法及びプログラム
JP2014504413A (ja) * 2010-12-16 2014-02-20 マイクロソフト コーポレーション 理解および意図に基づく拡張現実表示用コンテンツ
JP2014126997A (ja) * 2012-12-26 2014-07-07 Denso Corp 操作装置、及び操作検出方法
JP2014142882A (ja) * 2013-01-25 2014-08-07 Nikon Corp 視線入力装置
JP2014164572A (ja) * 2013-02-26 2014-09-08 Sharp Corp 情報処理装置およびプログラム
WO2014207971A1 (ja) * 2013-06-26 2014-12-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ ユーザインタフェース装置及び表示オブジェクト操作方法
JP2015503162A (ja) * 2011-12-06 2015-01-29 トムソン ライセンシングThomson Licensing 3次元で表示されるオブジェクトのユーザの選択ジェスチャに応答する方法およびシステム
JP2015114757A (ja) * 2013-12-10 2015-06-22 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
WO2015159550A1 (ja) * 2014-04-18 2015-10-22 日本電気株式会社 情報処理システム、制御方法、及びプログラム記録媒体
JP2015210684A (ja) * 2014-04-25 2015-11-24 富士通株式会社 入力制御装置、制御方法および制御プログラム
JP2016018252A (ja) * 2014-07-04 2016-02-01 三菱電機株式会社 情報処理装置及び情報処理方法及びプログラム
JP2016035632A (ja) * 2014-08-01 2016-03-17 株式会社Nttドコモ メニュー選択システム及びメニュー選択方法
JP2016218981A (ja) * 2015-05-26 2016-12-22 ソニー株式会社 表示装置、情報処理システム及び制御方法
JP2017027206A (ja) * 2015-07-17 2017-02-02 キヤノン株式会社 情報処理装置、仮想オブジェクトの操作方法、コンピュータプログラム、及び記憶媒体

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7499040B2 (en) 2003-08-18 2009-03-03 Apple Inc. Movable touch pad with added functionality
JP5617448B2 (ja) * 2010-08-31 2014-11-05 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
US20120056989A1 (en) * 2010-09-06 2012-03-08 Shimane Prefectural Government Image recognition apparatus, operation determining method and program
US20130257692A1 (en) 2012-04-02 2013-10-03 Atheer, Inc. Method and apparatus for ego-centric 3d human computer interface
US9459697B2 (en) * 2013-01-15 2016-10-04 Leap Motion, Inc. Dynamic, free-space user interactions for machine control
US10042510B2 (en) * 2013-01-15 2018-08-07 Leap Motion, Inc. Dynamic user interactions for display control and measuring degree of completeness of user gestures
CN103941851B (zh) * 2013-01-23 2017-03-15 青岛海信电器股份有限公司 一种实现虚拟触摸校准的方法以及系统
EP2821884B1 (en) * 2013-07-01 2018-09-05 Airbus Operations GmbH Cabin management system having a three-dimensional operating panel
KR102210633B1 (ko) * 2014-07-09 2021-02-02 엘지전자 주식회사 가상 오브젝트의 뎁스와 연계된 인정범위를 가진 디스플레이 디바이스 및 그 제어 방법
US9665170B1 (en) * 2015-06-10 2017-05-30 Visionary Vr, Inc. System and method for presenting virtual reality content to a user based on body posture
WO2017069324A1 (ko) * 2015-10-22 2017-04-27 엘지전자 주식회사 이동단말기 및 그 제어방법

Patent Citations (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002082751A (ja) * 2000-09-08 2002-03-22 Mitsubishi Electric Corp 仮想空間とのインタラクション装置およびこれを応用した仮想空間システム
JP2006126936A (ja) * 2004-10-26 2006-05-18 Canon Inc 画像処理方法、画像処理装置
JP2007233511A (ja) * 2006-02-28 2007-09-13 Konami Digital Entertainment:Kk オブジェクト表示装置、オブジェクト配置方法、および、プログラム
WO2009016736A1 (ja) * 2007-07-31 2009-02-05 Xanavi Informatics Corporation 地図表示装置
JP2011509480A (ja) * 2008-01-10 2011-03-24 ソニー エリクソン モバイル コミュニケーションズ, エービー 3dグラフィカルユーザインタフェースをナビゲートするためのシステム及び方法
JP2011175617A (ja) * 2010-01-29 2011-09-08 Shimane Prefecture 画像認識装置および操作判定方法並びにプログラム
JP2011175470A (ja) * 2010-02-24 2011-09-08 Brother Industries Ltd データ入力装置
JP2011191811A (ja) * 2010-03-11 2011-09-29 Sony Corp 情報処理装置、情報処理方法およびプログラム
JP2012022632A (ja) * 2010-07-16 2012-02-02 Canon Inc 情報処理装置およびその制御方法
JP2014504413A (ja) * 2010-12-16 2014-02-20 マイクロソフト コーポレーション 理解および意図に基づく拡張現実表示用コンテンツ
US20120229381A1 (en) * 2011-03-10 2012-09-13 Microsoft Corporation Push personalization of interface controls
JP2012217101A (ja) * 2011-04-01 2012-11-08 Canon Inc 情報処理装置及びその制御方法、プログラム、並びに記憶媒体
JP2015503162A (ja) * 2011-12-06 2015-01-29 トムソン ライセンシングThomson Licensing 3次元で表示されるオブジェクトのユーザの選択ジェスチャに応答する方法およびシステム
JP2013196156A (ja) * 2012-03-16 2013-09-30 Sony Corp 情報処理装置、情報処理方法及びプログラム
JP2014126997A (ja) * 2012-12-26 2014-07-07 Denso Corp 操作装置、及び操作検出方法
JP2014142882A (ja) * 2013-01-25 2014-08-07 Nikon Corp 視線入力装置
JP2014164572A (ja) * 2013-02-26 2014-09-08 Sharp Corp 情報処理装置およびプログラム
WO2014207971A1 (ja) * 2013-06-26 2014-12-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ ユーザインタフェース装置及び表示オブジェクト操作方法
JP2015114757A (ja) * 2013-12-10 2015-06-22 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
WO2015159550A1 (ja) * 2014-04-18 2015-10-22 日本電気株式会社 情報処理システム、制御方法、及びプログラム記録媒体
JP2015210684A (ja) * 2014-04-25 2015-11-24 富士通株式会社 入力制御装置、制御方法および制御プログラム
JP2016018252A (ja) * 2014-07-04 2016-02-01 三菱電機株式会社 情報処理装置及び情報処理方法及びプログラム
JP2016035632A (ja) * 2014-08-01 2016-03-17 株式会社Nttドコモ メニュー選択システム及びメニュー選択方法
JP2016218981A (ja) * 2015-05-26 2016-12-22 ソニー株式会社 表示装置、情報処理システム及び制御方法
JP2017027206A (ja) * 2015-07-17 2017-02-02 キヤノン株式会社 情報処理装置、仮想オブジェクトの操作方法、コンピュータプログラム、及び記憶媒体

Also Published As

Publication number Publication date
CN108885496B (zh) 2021-12-10
CN108885496A (zh) 2018-11-23
EP3438789A1 (en) 2019-02-06
EP3438789A4 (en) 2019-03-27
JP6911834B2 (ja) 2021-07-28
WO2017169158A1 (ja) 2017-10-05
US10928919B2 (en) 2021-02-23
US20190121441A1 (en) 2019-04-25

Similar Documents

Publication Publication Date Title
JP6911834B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP5983499B2 (ja) 表示制御装置、表示制御方法、およびプログラム
CN107438812B (zh) 信息处理设备、信息处理方法和程序
WO2016129156A1 (ja) 情報処理装置、情報処理方法、およびプログラム
JP6252409B2 (ja) 情報処理装置、情報処理方法およびプログラム
US20160195926A1 (en) Information processing apparatus and information processing method
CN112136096B (zh) 将物理输入设备显示为虚拟对象
US10359906B2 (en) Haptic interface for population of a three-dimensional virtual environment
JP2015170175A (ja) 情報処理装置、および情報処理方法
JP2015152939A (ja) 情報処理装置、情報処理方法、及びプログラム
WO2017169273A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2017182247A (ja) 情報処理装置、情報処理方法、およびプログラム
JP6447521B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US10402939B2 (en) Information processing device, information processing method, and program
WO2016157938A1 (ja) 情報処理装置、情報処理方法、およびプログラム
TW201337644A (zh) 資訊處理裝置、資訊處理方法、及記錄媒體
WO2019130900A1 (ja) 情報処理装置、情報処理方法、および、プログラム
WO2021241110A1 (ja) 情報処理装置、情報処理方法及びプログラム
WO2017169272A1 (ja) 情報処理装置、情報処理方法、及びプログラム
KR102349210B1 (ko) 웨어러블 컴퓨팅 디바이스를 이용한 디스플레이 디바이스의 직접 조작
US20230376110A1 (en) Mapping a Computer-Generated Trackpad to a Content Manipulation Region
US20240168566A1 (en) Finger Orientation Touch Detection
US20230370578A1 (en) Generating and Displaying Content based on Respective Positions of Individuals
JPWO2018179069A1 (ja) 画像表示システム
CN116888562A (zh) 将计算机生成的触控板映射到内容操纵区域

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200117

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210330

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210608

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210621

R151 Written notification of patent or utility model registration

Ref document number: 6911834

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151