JP2022050162A - 情報処理装置、表示装置、情報処理システムおよびプログラム - Google Patents

情報処理装置、表示装置、情報処理システムおよびプログラム Download PDF

Info

Publication number
JP2022050162A
JP2022050162A JP2020156605A JP2020156605A JP2022050162A JP 2022050162 A JP2022050162 A JP 2022050162A JP 2020156605 A JP2020156605 A JP 2020156605A JP 2020156605 A JP2020156605 A JP 2020156605A JP 2022050162 A JP2022050162 A JP 2022050162A
Authority
JP
Japan
Prior art keywords
objects
user
information processing
document
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020156605A
Other languages
English (en)
Inventor
裕丈 佐々木
Hirotake Sasaki
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Business Innovation Corp filed Critical Fujifilm Business Innovation Corp
Priority to JP2020156605A priority Critical patent/JP2022050162A/ja
Priority to US17/157,940 priority patent/US20220084287A1/en
Priority to CN202110234602.3A priority patent/CN114201034A/zh
Publication of JP2022050162A publication Critical patent/JP2022050162A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/012Walk-in-place systems for allowing a user to walk in a virtual environment while constraining him to a given position in the physical environment

Abstract

Figure 2022050162000001
【課題】仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる情報処理装置等を提供する。
【解決手段】プロセッサを備え、プロセッサは、仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、複数のオブジェクトからオブジェクト群を抽出し、操作オブジェクトの仮想空間内の操作に応じ、オブジェクト群の中から一のオブジェクトを特定し、特定した一のオブジェクトを、一のオブジェクト以外の他のオブジェクトに対し識別可能に表示することを特徴とする情報処理装置。
【選択図】図4

Description

本発明は、情報処理装置、表示装置、情報処理システム、プログラムに関する。
従来より、仮想空間をコンピュータにより作り出し、この仮想空間内でユーザが行動する体験ができる仮想現実(VR:Virtual Reality)のような空間拡張技術が存在する。また、空間拡張技術には、ディスプレイ等に、実在する現実空間に仮想空間を重ね合わせる拡張現実(AR:Augmented Reality)や、現実空間と仮想空間とを混合し、現実のものと仮想的なものがリアルタイムで影響しあう複合現実(MR:Mixed Reality)なども存在する。
特許文献1には、ポインティング操作において、ポインタ移動中のピーク速度とその時点でのターゲットまでの距離に相関があり、ピーク速度からターゲットまでの距離を求め、ポインタ位置、方向とからターゲット位置を予測することで、ポインティング操作時に、ユーザがポインタを移動させたいオブジェクト位置を、システム側が操作完了前に予測できることにより、その場所に存在するアイコンが示すアプリケーションを起動し始める等して、作業時間を短縮できるシステムを構築することが記載されている。
また、特許文献2には、コンピュータグラフィックス及びポインタを表示させた画面上において、ユーザからの所定の操作入力に応じて、ポインタの表示位置近傍に操作メニューを表示することが記載されている。そして、この操作メニューより所望の項目を指示することにより、操作指示が行なわれる。ここで、操作メニューは、項目を表示するための複数の項目領域をポインタの指示位置を取り巻くように該表示位置の周囲に配置し、複数の項目領域とポインタの表示位置の間が空洞になっている、環形状を有する。
さらに、特許文献3には、情報処理装置は、頭部装着型表示装置を装着したユーザの頭部の位置姿勢を検出する第一の検出手段と、ユーザの視野範囲内に存在することが記載されている。情報処理装置は、タスクの実行に用いられる入力装置を識別する第一の識別手段と、ユーザの視野範囲内に存在する、ユーザが入力装置を操作するための操作媒体を識別する第二の識別手段と、ユーザの頭部の位置姿勢に基づいて、ユーザの視点位置から入力装置までの第一距離を検出する第二の検出手段と、ユーザの頭部の位置姿勢に基づいて、ユーザの視点位置から操作媒体までの第二距離を検出する第三の検出手段と、第一距離と第二距離とに基づいて、実行すべきタスクを判別する判別手段と、を備える。
特表2005-352738号公報 特開2005-107963号公報 特開2017-59062号公報
仮想空間内で、複数のオブジェクトを表示し、この中からユーザが一のオブジェクトを選択しようとするときに、複数のオブジェクトが仮想空間内で近接して配置されていると、ユーザが意図したオブジェクトとは異なるオブジェクトが選択されてしまう場合がある。そのため、ユーザが意図したオブジェクトを選択するためには、オブジェクトの位置を正確に指定するなど、細かい操作が必要になるときがある。
本発明は、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる情報処理装置等を提供することを目的とする。
請求項1に記載の発明は、プロセッサを備え、前記プロセッサは、仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、前記複数のオブジェクトからオブジェクト群を抽出し、前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定し、特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示することを特徴とする情報処理装置である。
請求項2に記載の発明は、前記プロセッサは、ユーザの視認する範囲にあるオブジェクトを前記オブジェクト群として抽出することを特徴とする請求項1に記載の情報処理装置である。
請求項3に記載の発明は、前記プロセッサは、前記操作オブジェクトの位置により、前記オブジェクトの中から前記オブジェクト群を抽出することを特徴とする請求項1に記載の情報処理装置である。
請求項4に記載の発明は、前記プロセッサは、ユーザが前記オブジェクト群の中から前記一のオブジェクトの選択を行うときに、前記操作オブジェクトの仮想空間内の移動を案内する案内領域を設定することを特徴とする請求項1に記載の情報処理装置である。
請求項5に記載の発明は、前記プロセッサは、前記案内領域として、前記操作オブジェクトの仮想空間内の移動を案内するオブジェクトである案内オブジェクトをさらに表示することを特徴とする請求項4に記載の情報処理装置である。
請求項6に記載の発明は、前記案内オブジェクトは、線および面の少なくとも一方として表示されることを特徴とする請求項5に記載の情報処理装置である。
請求項7に記載の発明は、前記案内オブジェクトは、前記オブジェクト群を構成するオブジェクトの個数で区切られ、区切られたそれぞれの区間は、当該オブジェクトの何れかに対応し、前記プロセッサは、前記区間の中で、前記操作オブジェクトに最も近い区間に対応する前記オブジェクトを前記一のオブジェクトとして特定し、前記他のオブジェクトに対し識別可能に表示することを特徴とする請求項5に記載の情報処理装置である。
請求項8に記載の発明は、前記プロセッサは、前記オブジェクト群の仮想空間内の位置とユーザの頭部の位置との関係により、特定した前記一のオブジェクトの表示態様を変更することを特徴とする請求項1に記載の情報処理装置である。
請求項9に記載の発明は、前記プロセッサは、前記オブジェクト群の仮想空間内の位置とユーザの視野との関係により、特定した前記一のオブジェクトの表示態様を変更することを特徴とする請求項8に記載の情報処理装置である。
請求項10に記載の発明は、前記表示態様の変更は、特定した前記一のオブジェクトの位置を移動して表示するときの方向であることを特徴とする請求項8に記載の情報処理装置である。
請求項11に記載の発明は、前記プロセッサは、前記オブジェクト群を構成するオブジェクトの仮想空間内の姿勢により、特定した前記一のオブジェクトの姿勢を変化させて表示させることを特徴とする請求項8に記載の情報処理装置である。
請求項12に記載の発明は、仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトと、を表示し、前記操作オブジェクトの仮想空間内の操作に応じ、前記複数のオブジェクトから抽出されたオブジェクト群の中から特定された一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する表示装置である。
請求項13に記載の発明は、ユーザが前記オブジェクト群の中から前記一のオブジェクトの選択を行うときに、前記操作オブジェクトの仮想空間内の移動を案内するオブジェクトである案内オブジェクトをさらに表示することを特徴とする請求項12に記載の表示装置である。
請求項14に記載の発明は、前記オブジェクト群の仮想空間内の位置とユーザの頭部の位置との関係により、前記一のオブジェクトの表示態様を変更して表示することを特徴とする請求項12に記載の表示装置である。
請求項15に記載の発明は、仮想空間を表示する表示装置と、前記表示装置で表示する仮想空間の表示情報を作成する情報処理装置と、を備え、前記情報処理装置は、プロセッサを備え、前記プロセッサは、仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、前記複数のオブジェクトからオブジェクト群を抽出し、前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定し、特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示することを特徴とする情報処理システムである。
請求項16に記載の発明は、コンピュータに、仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示する機能と、前記複数のオブジェクトからオブジェクト群を抽出する機能と、前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定する機能と、特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する機能と、を実現させるためのプログラムである。
請求項1の発明によれば、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる情報処理装置を提供することができる。
請求項2、3の発明によれば、一のオブジェクトを特定するために、より適したオブジェクト群を抽出できる。
請求項4の発明によれば、ユーザがオブジェクトの選択を行う際に、入力装置の操作がより容易になる。
請求項5の発明によれば、ユーザが、案内領域を案内オブジェクトとして、視覚的に把握することができる。
請求項6の発明によれば、ユーザにより認識しやすい案内オブジェクトを表示することができる。
請求項7の発明によれば、一のオブジェクトの特定が、より容易になる。
請求項8~11の発明によれば、ユーザが、一のオブジェクトを、より認識しやすくなる。
請求項12の発明によれば、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる表示画面を表示する表示装置を提供することができる。
請求項13の発明によれば、ユーザは、一のオブジェクトをより容易に選択することができる。
請求項14の発明によれば、ユーザが、一のオブジェクトを、より認識しやすくなる。
請求項15の発明によれば、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる情報処理システムを提供することができる。
請求項16の発明によれば、仮想空間内で複数のオブジェクトが互いに近接して配置されていても、ユーザが、意図するオブジェクトを容易に選択することができる機能をコンピュータにより実現できる。
本実施の形態における情報処理システムの構成例を示す図である。 (a)~(c)は、ドキュメントオブジェクトの選択が困難になる場合の例を示した図である。 本実施の形態における情報処理装置および表示装置の機能構成例を表すブロック図である。 情報処理システムの動作について説明したフローチャートである。 決定手段が、マーカーの位置により入力装置等の位置および姿勢を決定する処理について説明したフローチャートである。 (a)~(b)は、図4のステップ108で抽出される第1のオブジェクト群について示した図である。 図4のステップ109で抽出される第2のオブジェクト群について示した図である。 (a)~(e)は、特定手段が、操作オブジェクトの移動に応じ、一のドキュメントオブジェクトを特定し、他のドキュメントオブジェクトに対し順次移動させて表示する方法について示した図である。 (a)~(b)は、案内オブジェクトの他の形態を示した図である。 (a)~(c)は、特定されたドキュメントオブジェクトの移動する方向を変更する形態について示した図である。 (a)~(b)は、ドキュメントオブジェクトが移動するときの距離について示した図である。 (a)~(b)は、ドキュメントオブジェクトが移動するときに姿勢を変化させる場合について示した図である。
以下、添付図面を参照して、本発明の実施の形態について詳細に説明する。
<情報処理システム全体の説明>
図1は、本実施の形態における情報処理システム1の構成例を示す図である。
図示するように本実施の形態の情報処理システム1は、表示情報を作成する情報処理装置10と、表示情報を基に表示画面20aに画像を表示する表示装置20と、情報の入力を行う入力装置30と、ユーザの頭部、表示装置20および入力装置30を撮影するカメラ40とを備える。
情報処理装置10は、表示装置20の表示画面20aで表示する仮想現実空間(VR空間)の表示情報を作成する。詳しくは後述するが、表示装置20の表示画面20aには、各種オブジェクトが表示される。表示されるオブジェクトは、例えば、ユーザの頭部を表すユーザ頭部オブジェクト、表示画面20aを表すディスプレイオブジェクト、入力装置30を表す入力装置オブジェクト、ドキュメントを表すドキュメントオブジェクト、入力装置オブジェクトの移動を案内する案内オブジェクトなどである。なおここで、「ドキュメント」は、文字情報や画像情報を電子化した電子文書である。この電子文書は、情報処理システム1で扱うことができるものであれば、形式およびデータ構造等について特に限られるものではない。表示画面20aに表示されるオブジェクトは、現実空間に実在する必要はない、この場合、ユーザの頭部を表すユーザ頭部オブジェクト、表示画面20aを表すディスプレイオブジェクト、入力装置30を表す入力装置オブジェクトは、現実空間に存在するが、ドキュメントを表すドキュメントオブジェクトは、現実空間に存在する必要はない。また、入力装置オブジェクトの移動を案内する案内オブジェクトは、現実空間には存在しない。
また、情報処理装置10は、現実空間において検出されたユーザの頭部の位置および姿勢の情報に基づき、VR空間内のユーザの頭部の位置および姿勢を算出し、ユーザ頭部オブジェクトを表示するために使用する。同様に、情報処理装置10は、現実空間において検出され表示装置20の位置および姿勢の情報に基づき、VR空間内の表示画面20aの位置および姿勢を算出し、ディスプレイオブジェクトを表示するために使用する。さらに、情報処理装置10は、現実空間において検出された入力装置30の位置および姿勢の情報に基づき、VR空間内の入力装置30の位置および姿勢を算出し、入力装置オブジェクトを表示するために使用する。なおここで、「現実空間」とは、現実の世界における空間であり、「仮想現実空間(VR空間)」とは、コンピュータ上に構築された実世界を模した世界を表した3次元の空間である。
さらに、ドキュメントのオブジェクトは、任意の位置および姿勢でVR空間内に配置することができ、さらにユーザの過去の操作の結果を反映することもでき、情報処理装置10が、位置および姿勢を算出する。
情報処理装置10は、例えば、所謂汎用のパーソナルコンピュータ(PC)である。そして、情報処理装置10は、OS(Operating System)による管理下において、各種アプリケーションソフトウェアを動作させることで、本実施の形態の情報の処理等が行われるようになっている。
情報処理装置10は、演算手段であるCPU(Central Processing Unit)、記憶手段であるメインメモリ、およびHDD(Hard Disk Drive)やSSD(Solid State Drive)等のストレージを備える。ここで、CPUは、プロセッサの一例であり、OS(基本ソフトウェア)やアプリケーションソフトウェア(応用ソフトウェア)等の各種ソフトウェアを実行する。また、メインメモリは、各種ソフトウェアやその実行に用いるデータ等を記憶する記憶領域であり、ストレージは、各種ソフトウェアに対する入力データや各種ソフトウェアからの出力データ等を記憶する記憶領域である。
また、情報処理装置10は、外部との通信を行うための通信インタフェースを備える。
表示装置20は、上述したVR空間を表示する。表示装置20は、例えば、2眼のヘッドマウントディスプレイ(HMD:Head Mounted Display)である。つまりユーザは、頭部にこのヘッドマウントディスプレイを装着し、そして、ヘッドマウントディスプレイ内部においてユーザの目前に配される表示画面20aにて表示される画像を見る。表示画面20aは、例えば液晶ディスプレイ、有機ELディスプレイ(OELD:organic electroluminescence display)など、画像を表示する機能を備えたもので構成される。
本実施の形態では、表示装置20は、表示画面20aにドキュメントの閲覧や操作のためのVR空間を表示する。また、この表示画面20aは、視差を提示でき、ユーザは奥行きなど3次元的にVR空間を認識することができる。
入力装置30は、VR空間に存在するオブジェクトを操作する。入力装置30は、情報の入力を行えるものであれば、特に限られるものではない。また、入力装置30は、物理的に存在する物体でもよいし、ユーザの手や指であってもよい。入力装置30が、物理的に存在する物体の場合、入力装置30は、例えば、マウス型、ペン型、キーボード型の入力デバイスである。入力装置30が3次元の位置を検出できるマウス型の入力デバイスである場合、空間内を移動することで、カーソルの移動やボタンの選択などを行う。図では、ユーザが入力装置30としてマウス型の入力デバイスを使用する場合を示している。また、入力装置30がペン型の入力デバイスである場合、ユーザが手に持ち、ペンのように操作し、書き込みを行うことができる。形状は、ペン状であり、文字や図形を書くなどの情報の入力を行うことができる。ペン型の入力デバイスは、スタイラスペンなどであってもよく、ボールペン、鉛筆、万年筆など実際に筆記可能なペンであってもよい。さらに、キーボード型の入力デバイスは、押下することで情報の入力を行う複数のキーを有する。よって、キーボード型の入力装置30は、実際のキーボードであってもよい。
入力装置30が、ユーザの手や指である場合、マイクロソフト社のKinect(登録商標)等のように、RGBカメラ、深度センサ等を備えるカメラ40で撮影する。そして、情報処理装置10が、ユーザの手や指の動きを解析することで、ユーザの手や指の3次元座標を取得することができる。
また、入力装置30は、1つであっても複数存在してもよい。また、入力装置30は、操作信号を送信することで、VR空間に存在するオブジェクトを操作するだけでなく、例えば、特定モードの開始や終了などを行えるようにしてもよい。操作信号の送信は、物理的なボタン操作で行ってもよく、ユーザの手や指によるジェスチャーを認識することにより行ってもよい。
カメラ40は、例えば、入射した光を収束する光学系と、光学系により収束された光を検出するイメージセンサとを備える。
光学系は、単一のレンズまたは複数のレンズを組み合わせて構成される。光学系は、レンズの組み合わせおよびレンズ表面に施されたコーティング等により、各種の収差が除去されている。イメージセンサは、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を配列して構成される。
カメラ40は、ユーザの頭部、表示装置20および入力装置30を撮影する。カメラ40は、例えば、RGBカメラ、深度センサ等をさらに備え、これにより撮影する対象をセンシングし、3次元測定を行う。これにより情報処理装置10が、ユーザの頭部、表示装置20および入力装置30の位置および姿勢を算出することができる。このようなカメラ40としては、特に限られるものではなく、市販のものを使用することができる。例えば、Leap Motion社のLeap Motion(登録商標)、Intel社のRealSense(登録商標)、Microsoft社のKinect等を使用することができる。
また、ユーザの頭部、表示装置20および入力装置30にマーカーを設け、このマーカーの撮影画像を基に、それぞれの位置および姿勢を判断してもよい。「マーカー」は、何からの標識である。さらに具体的には、「マーカー」は、例えば、LED等の発光装置を規定の3次元形状に配置したものである。また、1次元バーコードや2次元バーコードのように平面に印刷されたものであってもよい。マーカーの取り付け位置は予め定められており、情報処理装置10が保持している。マーカーは、固有のID番号の情報を持ち、ユーザの頭部、表示装置20および入力装置30のそれぞれを区別することができる。
情報処理装置10および表示装置20は、例えば、DVI(Digital Visual Interface)を介して接続されている。なお、DVIに代えて、HDMI(登録商標)(High-Definition Multimedia Interface)やDisplayPort等を介して接続するようにしてもかまわない。
また、情報処理装置10と入力装置30とは、例えば、USB(Universal Serial Bus)を介して接続されている。なお、USBに代えて、IEEE1394やRS-232C等を介して接続されていてもよい。ただし、これに限られるものではなく、無線LAN(Local Area Network)、ブルートゥース(Bluetooth)(登録商標)等の無線接続であってもよい。
さらに情報処理装置10およびカメラ40とは、図示する例では、有線で接続されており、例えば、USB、IEEE1394、RS-232Cを介して接続されている。これによりカメラ40で撮影された画像の画像情報が、有線により情報処理装置10に送られる。ただし、これに限られるものではなく、上述した無線接続であってもよい。
このような情報処理システム1において、ユーザは、表示画面20aを見ながら、入力装置30を利用し、VR空間内のドキュメントオブジェクトに対し操作を行うことで、ドキュメントの処理を行う。ドキュメントの処理は、例えば、ドキュメントの作成、ドキュメントの選択、ドキュメントの閲覧、ドキュメントの修正、ドキュメントの削除である。
しかしながら、複数のドキュメントオブジェクトが重なるなど、VR空間内で近接する位置にある場合、ドキュメントの選択が困難になる場合がある。
図2(a)~(c)は、ドキュメントオブジェクトの選択が困難になる場合の例を示した図である。
このうち、図2(a)は、ドキュメントオブジェクトの選択を行う前の状態を示している。
図示する例では、表示画面20aに、ドキュメントオブジェクトOd1~Od5が表示されている。また、入力装置オブジェクトOnとして、ユーザの手のオブジェクトが表示されている。そして、入力装置オブジェクトOnには、操作オブジェクトOsが表示される。操作オブジェクトOsは、入力装置オブジェクトOnの中でオブジェクトに対し操作を行う箇所を表す。この操作オブジェクトOsは、VR空間中で、一定の範囲を占める。この場合、操作オブジェクトOsは、ポインタであると言うこともできる。よって、例えば、ドキュメントオブジェクトOd5を選択しようとする場合、ユーザは、操作オブジェクトOsを、ドキュメントオブジェクトOd5に合わせ、入力装置30を使用して予め定められた操作を行う。この操作は、入力装置30がマウス型の入力デバイスであるときは、例えば、クリックなどの操作である。また、入力装置30がユーザの手や指であった場合は、予め定められたジェスチャーである。
ここでは、VR空間内に複数のオブジェクトの一例であるドキュメントオブジェクトOd1~Od5を表示する。そして、VR空間内にユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトOsを表示している。「入力情報」は、上述したクリックやジェスチャーなどの操作を行ったときに、ユーザの指示として情報処理装置10に入力される情報である。
そして、ユーザは、図2(a)の状態から、図2(b)に示すように、入力装置オブジェクトOnをドキュメントオブジェクトOd5に近づけ、ドキュメントオブジェクトOd5の選択をする。しかしこのとき、図2(c)に示すように、近接するドキュメントオブジェクトOd4が選択されてしまう場合がある。つまり、入力装置30を利用し、複数のドキュメントオブジェクトOd1~Od5のうちの1つを選択しようとしても、VR空間中の操作オブジェクトOsのわずかな位置ずれにより、近接する他のドキュメントオブジェクトを選択してしまうことがある。また、ドキュメントを構成するページは、同じドキュメントの中で互いに近接する位置にあるため、ページを選択する場合にも同様のことが生じ得る。
そこで、本実施の形態では、情報処理システム1を以下の構成にし、この問題の抑制を図っている。
<情報処理装置10および表示装置20の説明>
図3は、本実施の形態における情報処理装置10および表示装置20の機能構成例を表すブロック図である。なお、図3では、情報処理装置10および表示装置20が有する種々の機能のうち本実施の形態に関係するものを選択して図示している。
図示するように本実施の形態の情報処理装置10は、カメラ40から3次元測定結果や画像情報を取得する情報取得手段110と、ユーザの頭部、表示装置20および入力装置30の現実空間での位置および姿勢を決定する決定手段120と、ユーザの頭部、表示装置20および入力装置30の大きさ・形状等や、オブジェクトについての情報を保存する保存手段130と、ドキュメントオブジェクトを特定する特定手段140と、表示装置20の表示画面20aで表示する表示情報を作成する作成手段150とを備える。
情報取得手段110は、ユーザの頭部、表示装置20および入力装置30を撮影するカメラ40から、これらの3次元測定結果や画像情報を取得する。
この場合、カメラ40は、図1に示すように現実空間に存在するユーザの頭部、表示装置20および入力装置30を撮影する。そして、これらの3次元測定結果や撮影した画像情報は、カメラ40から情報処理装置10に送られ、情報取得手段110が取得する。この場合、画像情報は、動画の画像情報であるが、例えば、40ミリ秒毎など予め定められた短い時間間隔で撮影された複数の静止画の画像情報であってもよい。
また、情報取得手段110は、入力装置30から、入力情報を取得する。
決定手段120は、ユーザの頭部、表示装置20および入力装置30の位置および姿勢を決定する。このとき決定手段120は、3次元測定結果から、ユーザの頭部、表示装置20および入力装置30を認識し、これらの位置および姿勢を決定する。また、マーカーを使用する場合は、マーカーの画像情報を基に、これらの位置および姿勢を決定する。
保存手段130は、ユーザの頭部、表示装置20および入力装置30のID番号、現実空間における大きさ・形状等を保持する。大きさ・形状については、保存手段130は、例えば、形状を3次元座標またはその3次元座標を用いた数式で表した3Dモデルとして保持することができる。また、マーカーを使用する場合は、マーカーの取り付け位置を保持する。
また、保存手段130は、VR空間で表示するオブジェクトについての情報を保存する。オブジェクトについての情報は、例えば、オブジェクトの大きさ・形状の情報であり、形状を3次元座標またはその3次元座標を用いた数式で表現されるとともに、オブジェクトの特性を表す属性情報を含んでもよい。この特性を表す情報としては、表面の材質感を表す情報であったり、重さを表す情報であったり、硬さを表す情報等であってもよい。また、オブジェクトがドキュメントオブジェクトOdの場合、ドキュメントの内容についての情報を保存する。即ち、ドキュメントに含まれる文字情報や画像情報について記憶する。
特定手段140は、操作オブジェクトOsのVR空間内の操作に応じ、一のドキュメントオブジェクトOdを特定する。詳しくは後述するが、操作オブジェクトOsのVR空間内の位置に応じ、一のドキュメントオブジェクトOdとこれ以外の他のドキュメントオブジェクトOdとを区別することで特定を行う。
作成手段150は、ユーザの頭部、表示装置20および入力装置30の3Dモデルを、ユーザ頭部オブジェクト、ディスプレイオブジェクト、入力装置オブジェクトOnとしてVR空間に配置し、表示情報を作成する。このとき、VR空間において、各オブジェクトを現実空間中と同様の位置および姿勢で配置することが好ましい。さらに、各オブジェクトを、現実空間と同様の大きさおよび形状で配置することが好ましい。ただし、これに限られるものではなく、大きさおよび形状を変更してもよい。また、色については、VR空間と現実空間とで一致させる必要は必ずしもない。
また、作成手段150は、ドキュメントオブジェクトOdなど他のオブジェクトを、VR空間に配置し、表示情報を作成する。このとき、ドキュメントオブジェクトOdの表示面に、ドキュメントの内容を表示するようにする。さらに、詳しくは後述するが、作成手段150は、ドキュメントオブジェクトOdを、ユーザが選択したいときに、一のドキュメントオブジェクトOdを他のドキュメントオブジェクトOdに対し、識別可能に表示する表示情報を作成する。
また、図3に示すように、表示装置20は、表示情報を取得する表示情報取得手段210と、表示情報を基に画像を表示する画像表示手段220とを備える。
表示情報取得手段210は、作成手段150が作成した画像情報を取得する。また、画像表示手段220は、作成手段150が作成した画像情報を基に画像を表示する。画像表示手段220は、例えば、上述した表示画面20aである。
よって、表示装置20で表示される画面は、上述したVR空間であり、画像表示手段220は、VR空間中で、上述したオブジェクトを表示する。
<情報処理システム1の動作の説明>
次に、情報処理システム1の動作について説明する。
図4は、情報処理システム1の動作について説明したフローチャートである。
まずカメラ40が、ユーザの頭部、表示装置20および入力装置30を撮影する(ステップ101)。そして、3次元測定結果や撮影した画像情報は、情報処理装置10に送られる。
この3次元測定結果や画像情報は、情報処理装置10の情報取得手段110が取得する(ステップ102)。
次に、決定手段120が、情報取得手段110が取得した3次元測定結果や画像情報を基に、現実空間での、ユーザの頭部、表示装置20および入力装置30の位置および姿勢を決定する(ステップ103)。
図5は、決定手段120が、マーカーの位置により入力装置30等の位置および姿勢を決定する処理について説明したフローチャートである。図5は、図4のステップ103の処理についてより詳しく説明した図である。
ここでは、まず画像からマーカーを抽出する(ステップ201)。このときマーカーが複数ある場合は、各マーカーの画像を抽出する。
そして、抽出したマーカーからID番号を取得する(ステップ202)。
さらに、撮影した画像中のマーカーの大きさや変形状態を基に、入力装置30等の位置および姿勢を決定する(ステップ203)。
そして、ID番号に対応する入力装置30等の位置および姿勢の情報を更新する(ステップ204)。
図4に戻り、作成手段150が、決定手段120が求めた位置や姿勢、保存手段130に保存されたオブジェクトの情報を基に、VR空間に表示する表示情報を作成する(ステップ104)。
そして、作成手段150は、作成した表示情報を、表示装置20に送信し、表示装置20の表示情報取得手段210が取得する(ステップ105)。
そして、画像表示手段220が、表示情報を基に、表示画面20aに画像を表示する(ステップ106)。これにより、VR空間中に、ユーザ頭部オブジェクト、ディスプレイオブジェクト、入力装置オブジェクトOn、ドキュメントオブジェクトOdなどの各オブジェクトが表示される。
次に、特定手段140は、ユーザの操作により、近接ドキュメント選択モードになっているか否かを判断する(ステップ107)。近接ドキュメント選択モードは、近接する複数のドキュメントオブジェクトOdの中から1つのドキュメントオブジェクトOdを選択する際に使用されるモードであり、ユーザが予め定められた操作を行うことで、このモードにすることができる。この操作は、例えば、ボタン操作やジェスチャー操作である。近接ドキュメント選択モードになっているか否かは、ユーザに対し明示されることが好ましい。例えば、入力装置オブジェクトOnや操作オブジェクトOsの色や形を変更したり、これらのオブジェクトの近くにこのモードになっていることを示す文字やアイコン等のオブジェクトを表示する。近接ドキュメント選択モードは、ユーザがドキュメントの選択を行ったときに終了する。また、ユーザがこのモードを終了するための予め定められた操作をしたときに終了するようにしてもよい。この操作は、例えば、ボタン操作やジェスチャー操作である。
その結果、近接ドキュメント選択モードではない場合(ステップ107でNo)、ステップ101に戻る。
対して、近接ドキュメント選択モードである場合(ステップ107でYes)、特定手段140は、VR空間中の複数のドキュメントオブジェクトOdからオブジェクト群を抽出する。「オブジェクト群」は、オブジェクトの集まりであり、ここでは、下記の第1のオブジェクト群および第2のオブジェクト群である。
この場合、まず、特定手段140は、VR空間中の複数のドキュメントオブジェクトOdから第1のオブジェクト群G1を抽出する(ステップ108)。
さらに、特定手段140は、操作オブジェクトOsの位置により、第1のオブジェクト群G1の中から、第2のオブジェクト群G2を抽出する(ステップ109)。
図6(a)~(b)は、図4のステップ108で抽出される第1のオブジェクト群G1について示した図である。
特定手段140は、ユーザの視認する範囲R1にあるドキュメントオブジェクトOdを第1のオブジェクト群G1として抽出する。特定手段140は、ユーザの視認する範囲R1を、ユーザの頭部Tの位置や姿勢を基に算出する。そして、特定手段140は、この範囲R1に含まれるドキュメントオブジェクトOdを第1のオブジェクト群G1として選択する。
この範囲R1は、表示画面20aで表示する全ての領域とすることができる。図6(a)は、表示画面20aで表示する全ての領域をユーザの視認する範囲R1とした場合を示す。そして、この範囲R1内のドキュメントオブジェクトOdとして、ドキュメントオブジェクトOd1~Od12が、第1のオブジェクト群G1として抽出されたことを示している。
また、範囲R1は、表示画面20aで表示する一部の領域としてもよい。図6(b)は、表示画面20aで表示する一部の領域をユーザの視認する範囲R1とした場合を示す。そして、この範囲R1内のドキュメントオブジェクトOd5~Od8が、第1のオブジェクト群G1として抽出されたことを示している。
図7は、図4のステップ109で抽出される第2のオブジェクト群G2について示した図である。
ここでは、図6(a)の状態から、特定手段140が、第2のオブジェクト群G2を選定した場合を示している。特定手段140は、操作オブジェクトOsの位置により、ドキュメントブジェクトOdの中から第2のオブジェクト群G2を抽出する。
ここでは、第1のオブジェクト群G1であるドキュメントオブジェクトOd1~Od12の中から、ドキュメントオブジェクトOd5~Od8が、第2のオブジェクト群G2として選定されたことを示している。つまりこの場合、操作オブジェクトOsの位置から近くにあるドキュメントオブジェクトOd5~Od8が、第2のオブジェクト群G2として選定される。この場合、近くにあるか否かは、VR空間中のユークリッド距離により判断される。即ち、この場合、操作オブジェクトOsの位置から、VR空間中のユークリッド距離が比較的小さいドキュメントオブジェクトOdが、第2のオブジェクト群G2として選定される。
図4に戻り、次に、特定手段140は、操作オブジェクトOsのVR空間内の操作に応じ、第2のオブジェクト群G2の中から一のドキュメントオブジェクトOdを特定する(ステップ110)。具体的には、特定手段140は、操作オブジェクトOsの移動に応じ、第2のオブジェクト群G2の中から最も近いドキュメントオブジェクトOdを特定する。
そして、作成手段150は、特定した一のドキュメントオブジェクトOdを、このドキュメントオブジェクトOd以外の他のドキュメントオブジェクトOdに対し識別可能に表示する(ステップ111)。具体的には、作成手段150は、特定手段140が特定した一のドキュメントオブジェクトOdを、このドキュメントオブジェクトOd以外の他のドキュメントオブジェクトOdに対し順次移動させて表示する表示情報を作成する。
図8(a)~(e)は、特定手段140が、操作オブジェクトOsの移動に応じ、一のドキュメントオブジェクトOdを特定し、他のドキュメントオブジェクトOdに対し順次移動させて表示する方法について示した図である。
このうち、図8(a)は、特定した一のドキュメントオブジェクトOdを移動させる前の状態を示した図である。作成手段150は、第2のオブジェクト群G2が抽出されると、第2のオブジェクト群G2の近くに、操作オブジェクトOsのVR空間内の移動を案内するオブジェクトである案内オブジェクトOaを表示する。この案内オブジェクトOaは、ユーザが第2のオブジェクト群G2の中から一のドキュメントオブジェクトOdの選択を行うときに、操作オブジェクトOsのVR空間内の移動を案内する案内領域の一例である。「案内領域」は、VR空間内で、ユーザが一のドキュメントオブジェクトOdを選択するときに、操作オブジェクトOsの移動を案内するために表示される領域である。
案内オブジェクトOaは、例えば、線および面の少なくとも一方として表示される。図8(a)では、案内オブジェクトOaを、直線を使用して表示した例を示している。この案内オブジェクトOaは、点線矢印Oa1と、区切り線Oa2とからなる。この案内オブジェクトOaは、区切り線Oa2により、第2のオブジェクト群G2を構成するドキュメントオブジェクトOdの個数で区切られ、区切られたそれぞれの区間は、これらのドキュメントオブジェクトOdの何れかに対応する。この場合、第2のオブジェクト群G2を構成するドキュメントオブジェクトOdは、ドキュメントオブジェクトOd5~Od8の4つである。よって、案内オブジェクトOaは、4つの区間に区切られる。図8(a)では、この4つの区間を区間(1)~(4)として図示している。そして、区間(1)~(4)は、ドキュメントオブジェクトOd5~Od8にそれぞれ対応する。なお、(1)~(4)は、案内オブジェクトOaの一部として表示してもよいが、表示する必要は必ずしもない。なお、表示する場合は、(1)~(4)の表示は、案内オブジェクトOaの一部として捉えることができる。
ここで、ユーザは、案内オブジェクトOaに沿って、操作オブジェクトOsが移動するように、入力装置30を操作する。図8(a)では、操作オブジェクトOsの移動の様子を、軌跡Kとして図示している。
そして、操作オブジェクトOsが移動するに従い、特定手段140が、一のドキュメントオブジェクトOdを特定し、作成手段150は、図8(b)~(e)に示すような表示情報を作成し、表示画面20aに表示させる。
具体的には、特定手段140は、設定された区間の中で、操作オブジェクトOsに最も近い区間に対応するドキュメントオブジェクトOdを一のドキュメントオブジェクトOdとして特定する。そして、作成手段150は、この一のドキュメントオブジェクトOdを、他のドキュメントオブジェクトOdに対し順次移動させるようにする。
例えば、操作オブジェクトOsが、図8(b)に示す位置にある場合、操作オブジェクトOsに最も近い案内オブジェクトOaの区間は、区間(1)である。このとき、特定手段140は、区間(1)に対応するドキュメントオブジェクトOd5を一のドキュメントオブジェクトOdとして特定する。そして、作成手段150は、ドキュメントオブジェクトOd5を、他のドキュメントオブジェクOd6~Od8に対し移動させて表示する表示情報を作成する。この場合、ドキュメントオブジェクトOd5は、他のドキュメントオブジェクトOd6~Od8に対し、上方向に移動する。
また、操作オブジェクトOsが、図8(c)に示す位置にある場合、操作オブジェクトOsに最も近い案内オブジェクトOaの区間は、区間(2)である。このとき、特定手段140は、区間(2)に対応するドキュメントオブジェクトOd6を一のドキュメントオブジェクトOdとして特定する。そして、作成手段150は、ドキュメントオブジェクトOd6を、他のドキュメントオブジェクOd5、Od7、Od8に対し、上方向に移動する表示情報を作成する。なおこのとき、ドキュメントオブジェクトOd5は、図8(a)で示す元の位置に戻る。つまり、ドキュメントオブジェクトOd5は、操作オブジェクトOsの移動に従い、一時的に移動し、区間(1)以外の区間では、元の位置に戻して表示される。
同様に、操作オブジェクトOsが、図8(d)~(e)に示す位置にある場合、操作オブジェクトOsに最も近い案内オブジェクトOaの区間は、それぞれ区間(3)および区間(4)である。このとき、特定手段140は、区間(3)や区間(4)に対応するドキュメントオブジェクトOd7やドキュメントオブジェクトOd8を一のドキュメントオブジェクトOdとして特定する。そして、作成手段150は、ドキュメントオブジェクトOd7やドキュメントオブジェクトOd8を、他のドキュメントオブジェクOdに対し、上方向に移動する表示情報を作成する。なおこのとき、移動するドキュメントオブジェクトOd以外のドキュメントオブジェクトOdは、図8(a)で示す元の位置に戻る。
なお、ドキュメントブジェクトOdを順次移動させる順番は、各ドキュメントブジェクトOdのVR空間中の位置に応じて設定される。また、複数のドキュメントブジェクトOdのVR空間中の位置と姿勢が、同じである場合、ドキュメントブジェクトOdのページ番号などの属性に応じて順序が設定される。
図9(a)~(b)は、案内オブジェクトOaの他の形態を示した図である。
このうち、図9(a)は、案内オブジェクトOaとして、曲線を使用して表示した場合を示した図である。この案内オブジェクトOaは、曲線Oa3と、区切り線Oa2とからなる。そして、図8(a)の場合と同様に、案内オブジェクトOaは、4つの区間に区切られ、それぞれの区間(1)~(4)は、ドキュメントオブジェクトOd5~Od8にそれぞれ対応する。
また、図9(b)は、案内オブジェクトOaとして、面を使用して表示した場合を示した図である。この案内オブジェクトOaは、面Oa4と、区切り線Oa2とからなる。そして、図8(a)の場合と同様に、案内オブジェクトOaは、4つの区間に区切られる。図9(b)では、この4つの区間を区間(1)~(4)として図示している。そして、図8(a)の場合と同様に、案内オブジェクトOaは、4つの区間に区切られ、それぞれの区間(1)~(4)は、ドキュメントオブジェクトOd5~Od8にそれぞれ対応する。
再び図4に戻り、次に、特定手段140は、ユーザが、移動したドキュメントオブジェクトOdを選択したか否かを判断する(ステップ112)。ドキュメントオブジェクトOdの選択は、ユーザが、入力装置30を使用して予め定められた操作を行うことで行うことができる。この操作は、入力装置30がマウス型の入力デバイスであるときは、例えば、クリックなどの操作である。また、入力装置30がユーザの手や指であった場合は、予め定められたジェスチャーである。つまり、上述したように、ドキュメントオブジェクトOd5~Od8の何れかが移動したときに、この操作が行われると、特定手段140は、ユーザが、移動したドキュメントオブジェクトOdを選択したと判断する。
その結果、ドキュメントオブジェクトOdを選択された場合(ステップ112でYes)、特定手段140は、近接ドキュメント選択モードを終了する(ステップ113)。そして、選択されたドキュメントオブジェクトOdに対し、予め定められた処理が実行される(ステップ114)。この処理は、例えば、選択されたドキュメントオブジェクトOdの拡大表示や編集画面の表示などである。
対して、ドキュメントオブジェクトOdを選択されていない場合(ステップ112でNo)、特定手段140は、近接ドキュメント選択モードの終了が選択されたか否かを判断する(ステップ115)。近接ドキュメント選択モードの終了は、ユーザが、入力装置30を使用して予め定められた操作を行うことで行うことができる。また、入力装置30がユーザの手や指であった場合は、予め定められたジェスチャーにより行うことができる。
その結果、近接ドキュメント選択モードの終了が選択された場合(ステップ115でYes)、近接ドキュメント選択モードを終了し、一連の処理を終了する。
対して、近接ドキュメント選択モードの終了が選択されていない場合(ステップ115でNo)、ステップ110に戻る。
なお、上述した例では、操作オブジェクトOsの移動に従い、ドキュメントオブジェクトOd5~Od8を、一時的に移動させて表示したが、これに限られるものではない。例えば、特定されたドキュメントオブジェクトOdをハイライト表示したり、色や形を一時的に変更してもよい。また、ドキュメントオブジェクトOdを回転させるなどの動作であってもよい。
また、作成手段150は、特定した一のドキュメントオブジェクトOdの表示態様を変更するようにしてもよい。具体的には、表示態様を変更は、例えば、特定した一のドキュメントオブジェクトOdを移動して表示するときの方向である。
図10(a)~(c)は、特定されたドキュメントオブジェクトOdの移動する方向を変更する形態について示した図である。
このうち、図10(a)~(b)は、第2のオブジェクト群G2のVR空間内の位置とユーザの頭部Tの位置との関係により、特定した一のドキュメントオブジェクトOdの移動する方向を変更する場合について示した図である。
図10(a)は、VR空間内で、第2のオブジェクト群G2の上下方向の中心位置が、ユーザの頭部Tの位置よりも低い位置にある場合を示した図である。そしてこのとき、特定した一のドキュメントオブジェクトOdであるドキュメントオブジェクトOd6が移動する方向を示している。この場合、図示するように、ドキュメントオブジェクトOd6は、上方向へ移動した方が、ユーザは、これを認識しやすくなる。
また、図10(b)は、VR空間内で、第2のオブジェクト群G2の上下方向の中心位置が、ユーザの頭部Tの位置よりも高い位置にある場合を示した図である。そしてこのとき、特定した一のドキュメントオブジェクトOdであるドキュメントオブジェクトOd6が移動する方向を示している。この場合、図示するように、ドキュメントオブジェクトOd6は、下方向へ移動した方が、ユーザは、これを認識しやすくなる。
さらに、図10(c)は、ドキュメントオブジェクトOd5~Od8の周囲に他のドキュメントオブジェクトOdであるドキュメントオブジェクトOd21~Od22が存在する場合を示している。このとき、特定した一のドキュメントオブジェクトOdであるドキュメントオブジェクトOd6は、ドキュメントオブジェクトOd21~Od22を避ける方向に移動させることが好ましい。図示する例では、ドキュメントオブジェクトOd6は、ドキュメントオブジェクトOd21~Od22が存在する方向以外の方向に移動する。
また、ドキュメントオブジェクトOdが移動するときの距離は、ユーザが認識しやすい距離であることが好ましい。
即ち、この距離が小さすぎると、ドキュメントオブジェクトOdが移動したことを、ユーザは、認識しにくい。また、この距離が大きすぎると、ユーザの視野の範囲外にドキュメントオブジェクトOdが移動することになり、同様に、ドキュメントオブジェクトOdが移動したことを、ユーザは、認識しにくくなる。
図11(a)~(b)は、ドキュメントオブジェクトOdが移動するときの距離について示した図である。
このうち、図11(a)は、ドキュメントオブジェクトOdが移動するときの距離が小さすぎないようにする方法について示した図である。
ここでは、VR空間中で、第2のオブジェクト群G2に属するドキュメントオブジェクトOd5~Od8を包含する直方体状の領域R2を設定する。そして、領域R2の範囲を超え、領域R2とドキュメントオブジェクトOd6とが重ならない距離で、ドキュメントオブジェクトOd6を上方向に移動させた場合を示している。この場合、ドキュメントオブジェクトOd6と、他のドキュメントオブジェクトOd5、Od7、Od8とは、重なりが生じず、ユーザは、ドキュメントオブジェクトOd6が移動したことを認識しやすい。
また、図11(b)は、ドキュメントオブジェクトOdが移動するときの距離が大きすぎないようにする方法について示した図である。
ここでは、VR空間中で、ユーザの頭部Tに向かう方向に、ドキュメントオブジェクトOd6を移動する場合を示している。また、移動する距離は、ユーザの頭部Tの手前とする。この場合、ユーザ方向にドキュメントオブジェクトOd6が移動するため、ユーザの視野の範囲外にドキュメントオブジェクトOd6が移動することはない。この場合、ユーザは、ドキュメントオブジェクトOd6が移動したことを認識しやすい。
この場合、作成手段150は、第2のオブジェクト群G2のVR空間内の位置とユーザの視野との関係により、特定した一のドキュメントオブジェクトOdの表示態様を変更する、と言うこともできる。
また、ドキュメントオブジェクトOdが移動するときの姿勢を、ユーザがより認識しやすいように変更してもよい。
図12(a)~(b)は、ドキュメントオブジェクトOdが移動するときに姿勢を変化させる場合について示した図である。
ここで、図12(a)は、ドキュメントオブジェクトOdが移動するときに姿勢を変化させない場合を示した図である。この場合、ドキュメントオブジェクトOd7が移動しているが、移動後のドキュメントオブジェクトOdの表示面は、ユーザ側に向いていないため、ユーザは、この表示面を認識しにくい。
対して、図12(b)は、ドキュメントオブジェクトOdが移動するときに姿勢を変化させた場合を示した図である。この場合、移動後のドキュメントオブジェクトOd7の表示面は、ユーザ側に向くように姿勢が変化しており、ユーザは、この表示面を認識しやすい。なお、姿勢の変化は一時的なものであり、ドキュメントオブジェクトOd7が元に位置に戻るときは、姿勢も元の姿勢に戻る。
この場合、作成手段150は、第2のオブジェクト群G2を構成するドキュメントオブジェクトOdのVR空間内の姿勢により、特定した一のドキュメントオブジェクトOdの姿勢を変化させて表示させる、と言うこともできる。
以上説明した情報処理システム1によれば、VR空間内で複数のドキュメントオブジェクトOdが互いに近接して配置されていても、ユーザが、意図するドキュメントオブジェクトOdを容易に選択することができる。
なお、以上説明した情報処理装置10により作成された表示情報を表示する表示装置20は、VR空間内に、複数のドキュメントオブジェクトOdと、ユーザからの入力情報に基づきこのドキュメントオブジェクトOdを操作する操作オブジェクトOsと、を表示し、操作オブジェクトOsのVR空間内の操作に応じ、複数のドキュメントオブジェクトOdから抽出されたオブジェクト群の中から特定された一のドキュメントオブジェクトOdを、一のドキュメントオブジェクトOd以外の他のドキュメントオブジェクトOdに対し識別可能に表示する表示装置の一例であると、捉えることができる。
この場合、表示装置20では、ユーザがオブジェクト群の中から一のドキュメントオブジェクトOdの選択を行うときに、操作オブジェクトOsのVR空間内の移動を案内するオブジェクトである案内オブジェクトOaをさらに表示する。
また、表示装置20では、オブジェクト群のVR空間内の位置とユーザの頭部Tの位置との関係により、一のドキュメントオブジェクトOdの表示態様を変更して表示してもよい。
なお、以上説明した形態では、第1のオブジェクト群G1を抽出した後に、さらに第2のオブジェクト群G2を抽出したが、第1のオブジェクト群G1を抽出せずに、第2のオブジェクト群G2を抽出してもよい。
また、以上説明した形態では、オブジェクトとして、ドキュメントオブジェクトOdを選択する場合を説明したが、これに限られるものではなく、VR空間中で表示されるオブジェクトであれば、特に限定することなく適用が可能である。
さらに、以上説明した形態では、案内オブジェクトOaは、線や面により設定されたが、空間により設定されたり、立体形状のオブジェクトとして設定されてもよい。
またさらに、以上説明した形態では、表示装置20により仮想空間の表示、即ち、VR(Virtual Reality、仮想現実)を利用した表示を行ったが、これに限られるものではなく、AR(Augmented Reality、拡張現実)やMR(Mixed Reality、複合現実)を利用してもよい。
<プログラムの説明>
ここで以上説明を行った本実施の形態における情報処理装置10が行う処理は、例えば、アプリケーションソフトウェア等のプログラムとして用意される。
よって本実施の形態で情報処理装置10が行う処理は、コンピュータに、VR空間内に、複数のドキュメントオブジェクトOdと、ユーザからの入力情報に基づきこのドキュメントオブジェクトOdを操作する操作オブジェクトOsとを表示する機能と、複数のドキュメントオブジェクトOdからオブジェクト群を抽出する機能と、操作オブジェクトOsのVR空間内の操作に応じ、オブジェクト群の中から一のドキュメントオブジェクトOdを特定する機能と、特定した一のドキュメントオブジェクトOdを、一のドキュメントオブジェクトOd以外の他のドキュメントオブジェクトOdに対し識別可能に表示する機能と、を実現させるためのプログラムとして捉えることができる。
なお、本実施の形態を実現するプログラムは、通信手段により提供することはもちろん、CD-ROM等の記録媒体に格納して提供することも可能である。
以上、本実施の形態について説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、種々の変更または改良を加えたものも、本発明の技術的範囲に含まれることは、特許請求の範囲の記載から明らかである。
1…情報処理システム、10…情報処理装置、20…表示装置、20a…表示画面、30…入力装置、40…カメラ、110…情報取得手段、120…決定手段、130…保存手段、140…特定手段、150…作成手段

Claims (16)

  1. プロセッサを備え、
    前記プロセッサは、
    仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、
    前記複数のオブジェクトからオブジェクト群を抽出し、
    前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定し、
    特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する
    ことを特徴とする情報処理装置。
  2. 前記プロセッサは、ユーザの視認する範囲にあるオブジェクトを前記オブジェクト群として抽出することを特徴とする請求項1に記載の情報処理装置。
  3. 前記プロセッサは、前記操作オブジェクトの位置により、前記オブジェクトの中から前記オブジェクト群を抽出することを特徴とする請求項1に記載の情報処理装置。
  4. 前記プロセッサは、ユーザが前記オブジェクト群の中から前記一のオブジェクトの選択を行うときに、前記操作オブジェクトの仮想空間内の移動を案内する案内領域を設定することを特徴とする請求項1に記載の情報処理装置。
  5. 前記プロセッサは、前記案内領域として、前記操作オブジェクトの仮想空間内の移動を案内するオブジェクトである案内オブジェクトをさらに表示することを特徴とする請求項4に記載の情報処理装置。
  6. 前記案内オブジェクトは、線および面の少なくとも一方として表示されることを特徴とする請求項5に記載の情報処理装置。
  7. 前記案内オブジェクトは、前記オブジェクト群を構成するオブジェクトの個数で区切られ、区切られたそれぞれの区間は、当該オブジェクトの何れかに対応し、
    前記プロセッサは、前記区間の中で、前記操作オブジェクトに最も近い区間に対応する前記オブジェクトを前記一のオブジェクトとして特定し、前記他のオブジェクトに対し識別可能に表示することを特徴とする請求項5に記載の情報処理装置。
  8. 前記プロセッサは、前記オブジェクト群の仮想空間内の位置とユーザの頭部の位置との関係により、特定した前記一のオブジェクトの表示態様を変更することを特徴とする請求項1に記載の情報処理装置。
  9. 前記プロセッサは、前記オブジェクト群の仮想空間内の位置とユーザの視野との関係により、特定した前記一のオブジェクトの表示態様を変更することを特徴とする請求項8に記載の情報処理装置。
  10. 前記表示態様の変更は、特定した前記一のオブジェクトの位置を移動して表示するときの方向であることを特徴とする請求項8に記載の情報処理装置。
  11. 前記プロセッサは、前記オブジェクト群を構成するオブジェクトの仮想空間内の姿勢により、特定した前記一のオブジェクトの姿勢を変化させて表示させることを特徴とする請求項8に記載の情報処理装置。
  12. 仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトと、を表示し、
    前記操作オブジェクトの仮想空間内の操作に応じ、前記複数のオブジェクトから抽出されたオブジェクト群の中から特定された一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する表示装置。
  13. ユーザが前記オブジェクト群の中から前記一のオブジェクトの選択を行うときに、前記操作オブジェクトの仮想空間内の移動を案内するオブジェクトである案内オブジェクトをさらに表示することを特徴とする請求項12に記載の表示装置。
  14. 前記オブジェクト群の仮想空間内の位置とユーザの頭部の位置との関係により、前記一のオブジェクトの表示態様を変更して表示することを特徴とする請求項12に記載の表示装置。
  15. 仮想空間を表示する表示装置と、
    前記表示装置で表示する仮想空間の表示情報を作成する情報処理装置と、
    を備え、
    前記情報処理装置は、プロセッサを備え、
    前記プロセッサは、
    仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示し、
    前記複数のオブジェクトからオブジェクト群を抽出し、
    前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定し、
    特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する
    ことを特徴とする情報処理システム。
  16. コンピュータに、
    仮想空間内に、複数のオブジェクトと、ユーザからの入力情報に基づきこのオブジェクトを操作する操作オブジェクトとを表示する機能と、
    前記複数のオブジェクトからオブジェクト群を抽出する機能と、
    前記操作オブジェクトの仮想空間内の操作に応じ、前記オブジェクト群の中から一のオブジェクトを特定する機能と、
    特定した前記一のオブジェクトを、当該一のオブジェクト以外の他のオブジェクトに対し識別可能に表示する機能と、
    を実現させるためのプログラム。
JP2020156605A 2020-09-17 2020-09-17 情報処理装置、表示装置、情報処理システムおよびプログラム Pending JP2022050162A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020156605A JP2022050162A (ja) 2020-09-17 2020-09-17 情報処理装置、表示装置、情報処理システムおよびプログラム
US17/157,940 US20220084287A1 (en) 2020-09-17 2021-01-25 Information processing apparatus, display device, information processing system, and non-transitory computer readable medium storing program
CN202110234602.3A CN114201034A (zh) 2020-09-17 2021-03-03 显示装置、记录介质、信息处理装置、系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020156605A JP2022050162A (ja) 2020-09-17 2020-09-17 情報処理装置、表示装置、情報処理システムおよびプログラム

Publications (1)

Publication Number Publication Date
JP2022050162A true JP2022050162A (ja) 2022-03-30

Family

ID=80626889

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020156605A Pending JP2022050162A (ja) 2020-09-17 2020-09-17 情報処理装置、表示装置、情報処理システムおよびプログラム

Country Status (3)

Country Link
US (1) US20220084287A1 (ja)
JP (1) JP2022050162A (ja)
CN (1) CN114201034A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115240820A (zh) * 2021-04-23 2022-10-25 中强光电股份有限公司 穿戴式装置及基于环境调整显示状态的方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7168084B1 (en) * 1992-12-09 2007-01-23 Sedna Patent Services, Llc Method and apparatus for targeting virtual objects
US10503359B2 (en) * 2012-11-15 2019-12-10 Quantum Interface, Llc Selection attractive interfaces, systems and apparatuses including such interfaces, methods for making and using same
JP2014229224A (ja) * 2013-05-27 2014-12-08 船井電機株式会社 オブジェクト選択装置
US10594786B1 (en) * 2017-01-10 2020-03-17 Lucasfilm Entertainment Company Ltd. Multi-device interaction with an immersive environment

Also Published As

Publication number Publication date
CN114201034A (zh) 2022-03-18
US20220084287A1 (en) 2022-03-17

Similar Documents

Publication Publication Date Title
US20220129060A1 (en) Three-dimensional object tracking to augment display area
JP5802667B2 (ja) ジェスチャ入力装置およびジェスチャ入力方法
JP6074170B2 (ja) 近距離動作のトラッキングのシステムおよび方法
KR101844390B1 (ko) 사용자 인터페이스 제어를 위한 시스템 및 기법
US9891822B2 (en) Input device and method for providing character input interface using a character selection gesture upon an arrangement of a central item and peripheral items
Millette et al. DualCAD: integrating augmented reality with a desktop GUI and smartphone interaction
CN108027654B (zh) 输入设备、输入方法和程序
EP2363793A2 (en) Information processing apparatus, information processing method, and program
JP4991614B2 (ja) レイアウト決定方法、プログラムおよび装置
US10372229B2 (en) Information processing system, information processing apparatus, control method, and program
JP2001265523A (ja) 情報入出力システム及び情報入出力方法、並びにプログラム記憶媒体
JP6344530B2 (ja) 入力装置、入力方法、及びプログラム
CN102947783A (zh) 多点触控标记菜单和有方向性的和弦手势
WO2014147716A1 (ja) 電子機器および手書き文書処理方法
WO2021227628A1 (zh) 一种电子设备及其交互方法
JP7087364B2 (ja) 情報処理装置、情報処理システムおよびプログラム
EP3131064B1 (en) Searching image content
JP6248462B2 (ja) 情報処理装置及びプログラム
US20070177806A1 (en) System, device, method and computer program product for using a mobile camera for controlling a computer
TW201820083A (zh) 虛擬實境或擴增實境的方法、裝置以及非暫態電腦可讀取媒體
JP2022050162A (ja) 情報処理装置、表示装置、情報処理システムおよびプログラム
JP6924285B2 (ja) 情報処理装置
JP2013114467A (ja) 表示システム、表示方法およびプログラム
CN113672078A (zh) 信息提示系统、信息提示方法以及计算机可读介质
KR101559424B1 (ko) 손 인식에 기반한 가상 키보드 및 그 구현 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230830

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240424