JP2015219875A - 情報処理方法、情報処理装置及び記録媒体 - Google Patents

情報処理方法、情報処理装置及び記録媒体 Download PDF

Info

Publication number
JP2015219875A
JP2015219875A JP2014105453A JP2014105453A JP2015219875A JP 2015219875 A JP2015219875 A JP 2015219875A JP 2014105453 A JP2014105453 A JP 2014105453A JP 2014105453 A JP2014105453 A JP 2014105453A JP 2015219875 A JP2015219875 A JP 2015219875A
Authority
JP
Japan
Prior art keywords
pointer
guide
predetermined
information processing
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014105453A
Other languages
English (en)
Inventor
浩靖 井本
Hiroyasu Imoto
浩靖 井本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2014105453A priority Critical patent/JP2015219875A/ja
Publication of JP2015219875A publication Critical patent/JP2015219875A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)

Abstract

【課題】特別な操作機器を把持しない操作者がオブジェクト(対象)に対する選択、決定、拡大縮小等の操作を容易に行う方法を提供する。【解決手段】情報処理装置において、画面に表示された対象に関連して所定処理を実行するための情報処理方法は、指示物における1以上の各部位についての検出された位置を示す位置情報を逐次取得し、当該位置情報が示す1以上の位置に応じて画面上に表示するポインタの位置を逐次決定し(S12)、ポインタの位置に基づいて、画面上に表示するガイドポインタが一定条件下で当該ポインタに追従するように、当該ガイドポインタの位置を逐次算定し(S18)、ガイドポインタの位置に対して、ポインタの位置の軌跡が、所定条件を満たす場合に所定処理(S16)を行う手順を含む。【選択図】図8

Description

本発明は、GUI(Graphical User Interface)を提供する情報処理方法、情報処理装置等に関し、特に、3次元空間における指示物の位置及び動きに基づいて画面表示の更新等を行う技術に関する。
近年、コンピュータ技術の発展と情報端末の高機能化に伴い、リモコン等の機器を把持することなく、また、特殊な装置を装着することなく、操作者が手や指を動かしたり姿勢を変化させたりすることにより、指示等の情報を入力できる入力装置が開発されている。
これらの入力装置では、操作者の手や指の動きによって画面上に表示されたいずれかのオブジェクトに対して、選択や決定、拡大縮小といった指示を与えることができる。しかし、これらの入力装置では、リモコンやマウス等におけるスイッチのように確実に操作できる仕組みがなく、オブジェクトに対する操作者の意図的な動作を特定することが困難であった。
そこで、操作者の意図的な動作を特定する技術として、特許文献1では、画面上のオブジェクトを指示する操作者の空中の手の動きから、円軌道の動きを認識して、画面上のオブジェクトに対する操作を行う技術が開示されている。
また、特許文献2では、手を回転する等、オブジェクトを指示する操作者の動きが検出された場合に、手の動きに同期して、手の動きの検出状況を表す画像を画面上に出力する入力装置が開示されている。これにより、操作者は操作の進捗状況を確認しながら操作を行えるようになっている。
特開2009−59108号公報 特開2011−81469号公報
特許文献1の技術では、所定の円軌道のパターンと一致するように手を動かすことにより、オブジェクトに対する操作を行う必要がある。しかし、空中での入力操作が不慣れな操作者等にとっては、所定のパターンと一致するように正確に空中で手を動かすことは必ずしも容易ではない。
また、特許文献2の技術では、手の動きの検出状況を確認しながら操作を行うことができるが、どのように手を動かせば操作が進行するのかについては確認することができず、うまく操作ができないような事態が十分に発生し得る。
そこで、本発明は、上記問題に鑑みてなされたものであり、特別な操作機器を把持しない操作者が手や指を動かしたり姿勢を変化させたりすることによって情報の入力を行う場合に、表示画面上のオブジェクトに対する選択、決定、拡大縮小等を指示する操作を容易に行えるようにするための情報処理方法及び情報処理装置を提供する。
本発明の一態様に係る情報処理方法は、情報処理装置において、画面に表示された対象に関連して所定処理を実行するための情報処理方法であって、指示物における1以上の各部位についての検出された位置を示す位置情報を逐次取得し、当該位置情報が示す1以上の位置に応じて前記画面上に表示するポインタの位置を逐次決定する取得ステップと、前記取得ステップにより決定されたポインタの位置に基づいて、前記画面上に表示するガイドポインタが一定条件下で当該ポインタに追従するように、当該ガイドポインタの位置を逐次算定する算定ステップと、前記算定ステップにおいて算定されたガイドポインタの位置に対して、前記取得ステップにおいて決定されたポインタの位置の軌跡が、所定条件を満たす場合に前記所定処理を行う制御ステップと、を含む情報処理方法である。また、本発明の一態様に係る情報処理装置は、画面に表示された対象に関連して所定処理を実行する情報処理装置であって、指示物における1以上の各部位についての検出された位置を示す位置情報を逐次取得し、当該位置情報が示す1以上の位置に応じて前記画面上に表示するポインタの位置を逐次決定する取得部と、前記取得部により決定されたポインタの位置に基づいて、前記画面上に表示するガイドポインタが一定条件下で当該ポインタに追従するように、当該ガイドポインタの位置を逐次算定する算定部と、前記算定部において算定されたガイドポインタの位置に対して、前記取得部において決定されたポインタの位置の軌跡が、所定条件を満たす場合に前記所定処理を行う制御部とを備える情報処理装置である。
本発明の一態様に係る情報処理方法又は情報処理装置によれば、操作者が特別な操作機器を用いずに表示画面上のオブジェクトに対する選択、決定、拡大縮小等の操作を容易に行えるようになる。
実施の形態に係る情報入力システムの外観図である。 実施の形態に係る情報入力システムのハードウェア構成を示す図である。 第1の実施の形態に係る情報入力システムの機能ブロック図である。 画面上でポインタにガイドポインタが追従する様子を示す図である。 ポインタがガイドポインタ上を所定方向に通過するという条件の例を示す図である。 ポインタがガイドポインタ上から所定方向に離れるという条件の例を示す図である。 ポインタがガイドポインタ上から所定方向に離れるという条件の別の例を示す図である。 ポインタがガイドポインタを所定方向に所定角度周回するという条件の例を示す図である。 ポインタがガイドポインタを所定方向に所定角度周回するという条件の別の例を示す図である。 ポインタがガイドポインタを所定方向に所定角度周回するという条件の更に別の例を示す図である。 ポインタとガイドポインタとの距離の変更に係る条件の例を示す図である。 ポインタとガイドポインタとの距離の変更に係る条件の別の例を示す図である。 ポインタとガイドポインタとの距離の変更に係る条件の更に別の例を示す図である。 第1の実施の形態に係る情報入力システムの動作を示すフローチャートである。 第1の実施の形態に係る情報入力システムの操作及び画面の例を示す図である。 図9から遷移した第1の実施の形態に係る情報入力システムの操作及び画面の例を示す図である。 第1の実施の形態に係る情報入力システムの操作及び画面の例を示す図である。 図11から遷移した第1の実施の形態に係る情報入力システムの操作及び画面の例を示す図である。 第1の実施の形態に係る情報入力システムの操作及び画面の例を示す図である。 図13から遷移した第1の実施の形態に係る情報入力システムの操作及び画面の例を示す図である。 図14から遷移した第1の実施の形態に係る情報入力システムの操作及び画面の例を示す図である。 第2の実施の形態に係る情報入力システムの機能ブロック図である。 第2の実施の形態に係る情報入力システムの動作を示すフローチャートである。 第2の実施の形態に係る情報入力システムの操作及び画面の例を示す図である。 図18から遷移した第2の実施の形態に係る情報入力システムの操作及び画面の例を示す図である。 図19から遷移した第2の実施の形態に係る情報入力システムの操作及び画面の例を示す図である。
(概要)
操作者が特別な操作機器を用いずに、オブジェクト(対象)に対する選択等の動作を容易に行えるようにすべく、本発明の一態様に係る情報処理方法は、情報処理装置において、画面に表示された対象に関連して所定処理を実行するための情報処理方法であって、指示物における1以上の各部位についての検出された位置を示す位置情報を逐次取得し、当該位置情報が示す1以上の位置に応じて前記画面上に表示するポインタの位置を逐次決定する取得ステップと、前記取得ステップにより決定されたポインタの位置に基づいて、前記画面上に表示するガイドポインタが一定条件下で当該ポインタに追従するように、当該ガイドポインタの位置を逐次算定する算定ステップと、前記算定ステップにおいて算定されたガイドポインタの位置に対して、前記取得ステップにおいて決定されたポインタの位置の軌跡が、所定条件を満たす場合に前記所定処理を行う制御ステップと、を含む情報処理方法である。ここで、所定処理は、光、電気信号等の出力等として現れる処理であり、表示装置等により表示された画面内容の変更や画面中のあるオブジェクトに関する処理(選択、決定、拡大縮小等)を含む。なお、一定条件は、例えばガイドポインタがポインタとある程度離れている等といった何らかの条件であり、ガイドポインタはポインタに常時追従している必要はない。
これにより、操作者が特別な操作機器を用いずに指示物(手、腕、ペン等)の位置を動かすことで、オブジェクトに対する選択や拡大縮小等の操作を容易に行えるようになる。即ち、操作者は、指示物における各部位の位置をどのように変化させれば所定処理が行われるのかを、各部位の位置を反映した画面上のポインタとこれに一定条件下で追従するガイドポインタとの位置を確認でき、適切に操作をすることができるようになる。
ここで、例えば、前記位置情報は、3次元位置を表す情報であり、前記情報処理方法は更に、前記指示物における1以上の各部位についての3次元位置を検出することにより前記位置情報を逐次生成する検出ステップを含み、前記取得ステップでは、前記検出ステップにおいて生成された前記位置情報を逐次取得し、当該位置情報に基づいて定めた1つの3次元位置に所定の投影変換を施して得られる2次元位置を前記画面に表示する前記ポインタの位置として逐次決定し、前記制御ステップでは、前記取得ステップにおいて逐次決定された前記ポインタの位置及び前記算定ステップにおいて逐次算定された前記ガイドポインタの位置に対応して、前記ポインタ及び前記ガイドポインタを前記画面に表示するように制御することとしてもよい。
これにより、3次元空間における指示物の位置に応じて、画面上のポインタの位置(2次元位置)が変化するようになり、操作者は画面を確認することで容易に任意のオブジェクトに指示を与えることができるようになる。
また、例えば、前記算定ステップでは、前記取得ステップにより前記ポインタの位置が決定される毎に当該ポインタの位置に基づいて前記ガイドポインタの位置を算定し、当該算定は一定条件下で、当該ガイドポインタの位置を、前回算定したガイドポインタの位置よりも当該ポインタの位置に近付けるように行われることとしてもよい。また、前記算定ステップにおける前記ポインタの位置に基づく前記ガイドポインタの位置の前記算定は、当該ガイドポインタの位置を、前回算定したガイドポインタの位置と当該ポインタの位置との間に定めるように行われることとしてもよい。
これらにより、操作者がポインタの位置を動かさなければガイドポインタが近付いて来るため、ガイドポインタへとポインタを移動させる手間が省かれ、操作者は操作を容易に行い得るようになる。
また、例えば、前記算定ステップでは、前記ポインタの位置に基づく前記ガイドポインタの位置の前記算定を、当該ポインタの位置と前回算定したガイドポインタの位置との距離が所定の距離より小さい場合には前回算定したガイドポインタの位置と同一となるように行うこととしてもよい。
これにより、操作者がガイドポインタに対してポインタの動き(位置の軌跡)で所定条件を満たす操作を行い易くなる。
また、例えば、前記算定ステップでは、前記ポインタの位置に基づく前記ガイドポインタの位置の前記算定を、当該ポインタの位置と前回算定したガイドポインタの位置との距離が所定の距離より小さく、かつ、当該ポインタの位置へ前記取得ステップにより前回決定されたポインタの位置から向かう方向に前回算定したガイドポインタの位置がある場合には当該方向から外れる位置となるように行うこととしてもよい。
これにより、操作者がポインタによりガイドポインタを通過する等の操作を意図せずに行ってしまうことを低減し得る。
また、例えば、前記算定ステップでは、前記ガイドポインタの位置の前記算定を、既に算定したガイドポインタの位置に対して前記取得ステップにおいて決定されたポインタの位置の軌跡が前記所定条件を満たす前に満たすと推定される所定の予備的条件を満たした場合には、前回算定したガイドポインタの位置と同一となるように行うこととしてもよい。
これにより、操作者が、ガイドポインタに対するポインタの移動により所定条件を満たす操作(ガイドポインタの通過、周回等)を開始した後にガイドポインタの位置が変動しなくなるため、所定条件を満たすための後続する操作を容易に行い得るようになる。
また、例えば、前記算定ステップでは、前記ガイドポインタの位置の前記算定を、前記画面に表示された1以上の対象の位置にも基づいて行うこととしてもよい。
これにより、ガイドポインタがオブジェクトに対応した位置に表示されるので、操作者は、操作を行いたいオブジェクトに対して適切に操作を行い得るようになる。
また、例えば、前記算定ステップでは、前記ポインタの位置及び前記1以上の対象の位置に基づく前記ガイドポインタの位置の前記算定を、当該ポインタの位置と最も近い1つの対象と当該ガイドポインタとが重なるように行うこととしてもよい。
これにより、操作者がポインタを近づけたオブジェクトに重ねてガイドポインタが表示されるため、操作者は、操作を行いたいオブジェクトに対して適切に操作を行い得るようになる。
また、例えば、前記1以上の対象それぞれは、操作が有効か否かという属性を有し、前記算定ステップでは、前記ポインタの位置及び前記1以上の対象の位置に基づく前記ガイドポインタの位置の前記算定を、当該ポインタの位置と最も近い1つの、操作が有効な対象と、当該ガイドポインタとが重なるように行うこととしてもよい。
これにより、操作が可能なオブジェクトに重ねてガイドポインタが表示されるため、操作者は、操作対象のオブジェクトに対する操作を容易に行い得るようになる。
また、例えば、前記制御ステップでは、前記ポインタの位置の軌跡が前記ガイドポインタを所定の方向に所定の角度周回した場合に、前記所定条件を満たすと判定して前記所定処理を行うこととしてもよい。
これにより、操作者は、一定条件下でポインタに追従し操作の基準となるガイドポインタの位置を画面上で随時確認しながら、ガイドポインタの位置に対して相対的にポインタを周回させることで所定処理の実行のための操作を容易に行い得るようになる。
また、例えば、前記制御ステップでは、前記ポインタの位置の軌跡が前記ガイドポインタ上を所定の方向に通過した場合に、前記所定条件を満たすと判定して前記所定処理を行うこととしてもよい。
これにより、操作者は、一定条件下でポインタに追従し操作の基準となるガイドポインタの位置を画面上で随時確認しながら、ガイドポインタを通過するようにポインタを移動させることで所定処理の実行のための操作を容易に行い得るようになる。
また、例えば、前記制御ステップでは、前記ポインタの位置の軌跡が前記ガイドポインタ上から所定の方向へと離れた場合に、前記所定条件を満たすと判定して前記所定処理を行うこととしてもよい。
これにより、操作者は、一定条件下でポインタに追従し操作の基準となるガイドポインタの位置を画面上で随時確認しながら、ガイドポインタから離れるようにポインタを移動させることで所定処理の実行のための操作を容易に行い得るようになる。
また、例えば、前記制御ステップでは、前記ポインタと前記ガイドポインタとの距離が所定の距離より小さくなった場合に、前記所定条件を満たすと判定して前記所定処理を行うこととしてもよい。また、前記制御ステップでは、前記ポインタと前記ガイドポインタとの距離が、所定の距離より小さくなってから所定時間内に当該所定の距離より大きくなった場合に、前記所定条件を満たすと判定して前記所定処理を行うこととしてもよい。また、前記制御ステップでは、前記ポインタと前記ガイドポインタとの距離が所定の距離より大きくなった場合に、前記所定条件を満たすと判定して前記所定処理を行うこととしてもよい。また、前記制御ステップでは、前記ポインタと前記ガイドポインタとの距離が、所定の距離より大きくなってから所定時間内に当該所定の距離より小さくなった場合に、前記所定条件を満たすと判定して前記所定処理を行うこととしてもよい。
これらにより、操作者は、一定条件下でポインタに追従し操作の基準となるガイドポインタの位置を画面上で随時確認しながら、ガイドポインタとポインタとの距離を変動させることで所定処理の実行のための操作を容易に行い得るようになる。
また、例えば、前記制御ステップでは、前記所定条件を、形状、大きさ又は色に反映して表現する図形を、前記画面に表示するように制御することとしてもよい。また、前記制御ステップでは、前記所定条件を満たす前記ポインタの位置の軌跡の例について表す図形を、前記画面に表示するように制御することとしてもよい。
これらにより、操作者は、画面上で図形により所定条件に関して随時確認しながらポインタを動かすことができるため、操作を容易に行い得るようになる。
また、例えば、前記制御ステップでは、前記画面に表示された複数の対象のうち前記ガイドポインタの位置と最も近い対象に関連して前記所定処理を行うこととしてもよい。
これにより、操作者は、ポインタを動かすことで、一定条件下でそのポインタに追従するガイドポインタを所望のオブジェクトに近づけて所定処理を実行させることができるようになる。
また、本発明の一態様に係る情報処理装置は、画面に表示された対象に関連して所定処理を実行する情報処理装置であって、指示物における1以上の各部位についての検出された位置を示す位置情報を逐次取得し、当該位置情報が示す1以上の位置に応じて前記画面上に表示するポインタの位置を逐次決定する取得部と、前記取得部により決定されたポインタの位置に基づいて、前記画面上に表示するガイドポインタが一定条件下で当該ポインタに追従するように、当該ガイドポインタの位置を逐次算定する算定部と、前記算定部において算定されたガイドポインタの位置に対して、前記取得部において決定されたポインタの位置の軌跡が、所定条件を満たす場合に前記所定処理を行う制御部とを備える情報処理装置である。ここで、所定処理は、光、電気信号等の出力等として現れる処理であり、表示装置等により表示された画面内容の変更や画面中のあるオブジェクト(対象)に関する処理(選択、決定、拡大縮小等)を含む。
これにより、操作者が特別な操作機器を用いずに指示物の位置を動かすことで、表示画面上のオブジェクトに対する選択、拡大縮小等の操作を容易に行えるようになる。即ち、操作者は、指示物における各部位の位置をどのように変化させれば所定処理が行われるのかを、各部位の位置を反映した画面上のポインタとこれに一定条件下で追従するガイドポインタとの位置を確認でき、適切に操作をすることができるようになる。
なお、これらの包括的又は具体的な各種態様には、装置、システム、方法、集積回路、コンピュータプログラム、コンピュータで読み取り可能な記録媒体等の1つ又は複数の組み合わせが含まれる。
以下、実施の形態について、図面を参照しながら説明する。
ここで示す実施の形態は、いずれも本発明の一具体例を示すものである。従って、以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置及び接続形態、並びに、ステップ(工程)及びステップの順序等は、一例であって本発明を限定するものではない。以下の実施の形態における構成要素のうち、独立請求項に記載されていない構成要素については、任意に付加可能な構成要素である。また、各図は、模式図であり、必ずしも厳密に図示されたものではない。
本実施の形態では、カメラ等によって検出される3次元空間における指示物の位置を入力情報とするGUI(Graphical User Interface)を提供する情報入力システムについて説明する。従来、3次元空間における位置等を入力情報とする情報入力システムでは、リモコンやマウスを用いた入力と異なり、選択や決定、あるいは拡大縮小といった操作を直感的で直接的に行う方法が存在しない。
このような情報入力システムにおいて、操作者が確実に操作を行うようにするためには、更なる工夫が必要とされる。
ここで、操作者が特定のジェスチャをした場合に所定の操作が行われたと認識する手法が考えられる。例えば、手を一定時間、オブジェクトに対して静止させるという特定のジェスチャをした場合にそのオブジェクトが選択されたと認識する手法が考えられる。しかしながら、このような手法では、オブジェクトに対して指示物を静止させる必要があり、即時性に乏しく、快適な操作とはいえない。また、オブジェクトに対して手をぐるぐる回転させる、あるいは、手を左右に振る等の特定のジェスチャをした場合にそのオブジェクトが選択されたと認識することも考えられる。しかしながら、このような手法では、システムが想定する指示物の動きを確実に行うことが難しく、空中で行う操作に不慣れな操作者にとっては、快適に操作できるとは言い難い。
さらに、指示物で所望のオブジェクトを指示する操作とは別に、「選択!」或いは「決定!」と話す等によって選択操作を認識する方法も考えられる。しかしながら、音声認識を用いる手法では、マイク等の装備のためにコストがかかり、かつ、音声認識率に依存するために必ずしも的確な操作が実現されない。
そこで、本実施の形態では、特に、画面上に表示されたオブジェクトに対する選択、決定、拡大縮小等を直感的な操作で行うことを可能にした情報入力システムについて説明する。
この情報入力システムは、主に、指示物に係る検出位置に基づき位置が決定されるポインタの、これに追従し得るガイドポインタに対する動きが所定条件を満たすとオブジェクト(対象)に関連する所定処理(選択、決定、拡大縮小等)を実行するシステムである。この情報入力システムを構成する情報処理装置では、指示物の各部位の検出位置に基づいて画面上に表示するポインタの位置を決定し、ガイドポインタに対するポインタの位置の軌跡が所定条件を満たす場合に所定処理を実行する情報処理方法が用いられる。
(第1の実施の形態)
以下、第1の実施の形態に係る情報入力システム10について、図1〜図15に基づいて説明する。
図1は、情報入力システム10の外観図である。ここには、ステレオカメラ12及び表示装置16が図示されている。操作者は、指示物11(ここでは、操作者の指)を、ステレオカメラ12の撮像範囲内で移動させることで、その指示物11の3次元空間における位置に対応して表示される表示装置16上のポインタを移動させることができる。これによって、操作者と表示装置16に表示された画像との様々なインタラクションが実現される。
なお、指示物11は、操作者の指に限られず、操作者の手、腕、又は、操作者が持っているペン等の物品であってもよい。
図2は、情報入力システム10のハードウェア構成を示す図である。
この情報入力システム10は、表示装置16に表示された画像に対する操作者の指示を取得するシステムであって、ステレオカメラ12、通信装置14、表示装置16、入力装置18及び制御装置20を備える。
ステレオカメラ12は、少なくとも2台のカメラを有する撮像装置であり、3次元空間における指示物11の位置を検出するためのセンサである。ステレオカメラ12は、一定のフレームレートで、指示物11を撮像し、得られた複数枚の画像を通信装置14に無線送信する。なお、ここでは、このステレオカメラ12は表示装置16等とは独立した装置であることとしているが、表示装置16と一体化していてもよい。
通信装置14は、ステレオカメラ12から送られてくる画像を取得し、制御装置20に送る無線通信インターフェース等である。
表示装置16は、操作者に提示するための画像を表示する画面を有する液晶ディスプレイ等である。なお、表示装置16は、スクリーン等に画面を投影するプロジェクタであってもよい。
入力装置18は、電源を投入するためのボタン、リモコン等の入力装置である。なお、本実施の形態では、あらゆる指示がステレオカメラ12を通じて制御装置20に与えられるので、この入力装置18は、予備的な構成要素である。
制御装置20は、操作者とのインタラクションを実現する情報処理を実行するコンピュータ(情報処理装置)であり、CPU22、ROM24、RAM26及び記録媒体28を有する。CPU22は、プログラムを実行するプロセッサである。ROM24は、プログラム及びデータを予め保持している読み取り専用メモリである。RAM26は、CPU22がプログラムを実行する際に使用されるワーキング用の一時記憶用メモリである。記録媒体28は、電源が投入されていないときでもデータを記憶できるハードディスク装置等の読み書き可能な記憶装置であり、プログラム及びデータを記憶している。なお、記録媒体28は、例えば不揮発性メモリであってもよい。
なお、情報入力システム10の必須のハードウェア構成としては、制御装置20、より具体的には、プログラムを実行するコンピュータが備えられていればよい。本実施の形態に係る情報入力システムは、典型的には、ソフトウェアによって実現されるからである。よって、他の周辺機器は、任意の構成要素であり、必要に応じて、情報入力システムとして装備されればよい。また、ROM24及び記録媒体28は、いずれも不揮発性の記憶装置であり、いずれか一方だけが装備されればよい。
図3は、本実施の形態における情報入力システム10の機能ブロック図である。この機能ブロックにより、図2に示したハードウェア構成によって実現される情報入力システム10の機能的な構成を示している。
この情報入力システム10は、機能的には、表示部52に表示された画像に対する操作者の操作を取得するためのシステムであって、検出部42、情報処理部70及び表示部52を備える。ここで、情報処理部70は、3次元位置を用いて画面表示の制御等を行う処理系であり、制御装置20により実現され、取得部44、算定部46及び制御部60を有する。なお、表示部52は、図2の表示装置16に相当し、上述したように、必ずしも情報入力システム10に装備されている必要はない。
検出部42は、3次元空間における指示物11の少なくとも1つの部位の位置を検出(計測)する処理部であり、図2のステレオカメラ12、通信装置14及び制御装置20によって実現される。位置の検出について、指示物11が人の片手の5本の指及び手のひらであるとして予め定められている場合を例にして説明する。この場合、検出部42は、ステレオカメラ12で同時に撮像された2枚の画像のそれぞれから、予め設定された各指や手のひらの形状等の画像データに基づく画像マッチングによって、2枚の画像それぞれにおける各指や手のひらの位置を特定する。そして、その特定した位置と、ステレオカメラ12における各カメラの位置及びカメラ間の距離等のデータに基づいて、各指及び手のひらの3次元空間における位置を算定することで、指示物11(詳しくは指示物11における少なくとも1以上の各部位)の3次元位置の検出を行う。この検出された各指等の3次元位置は、例えば、3次元空間において直交する3軸(X軸,Y軸,Z軸)を基準とした座標値P(x,y,z)で表される。
取得部44は、指示物11について検出部42により検出された3次元位置を取得して、その3次元位置に基づく情報を算定部46及び制御部60に伝達する機能を有する。即ち、取得部44は、情報処理部70における3次元位置の入力インターフェースとしての機能を担う。また、取得部44は、指示物11の各部位の3次元位置に基づいて、表示部52における画面上に表示するポインタ(位置表示物)の位置を決定する機能を有する。ポインタの表示位置を決定するために、取得部44は、指示物11の各部位の3次元位置に基づいて、例えば平均をとる等により、1つの3次元位置を算出し、その1つの3次元位置に所定の投影変換を施して得られる2次元位置を算出して表示位置とする。なお、取得部44は、指示物11の各部位の平均値に所定の投影変換を施す代わりに、指示物11の1つの部位の3次元位置に所定の投影変換を施して得られる2次元位置を画面上のポインタの表示位置とすることとしてもよい。また、所定の投影変換は、例えば表示部52の画面に平行な、表示用の2次元座標平面への投影変換である。この投影変換は、例えば平行投影変換であり、また、例えば透視投影変換であってもよい。
算定部46は、取得部44により決定されたポインタの表示位置に基づいて、表示部52の画面上に表示するガイドポインタの位置を算定する機能を有する。ガイドポインタは、上述のポインタとは異なる、操作者の操作を補助するための表示物であり、ポインタに追従するようにその表示位置が算定される。ポインタに追従するようにガイドポインタの位置を算定する方法はいかなる方法であってもよい。算定部46は、例えば、一定条件下ではポインタの表示位置に徐々に近付くように、次の式1により1フレーム(例えば30分の1秒)毎にガイドポインタの表示位置を算定する。
gpt1 = r * pt1 + (1.0 - r) * gpt0 (式1)
式1において、変数gpt1は、現在のガイドポインタの表示位置であり、変数pt1は、現在のポインタの表示位置であり、変数gpt0は、前フレームのガイドポインタ(前回算定したガイドポインタ)の表示位置である。また、定数rは、ガイドポインタがポインタに近づく割合であり、例えば0.1である。この式1により、ガイドポインタの位置は、前回算定したガイドポインタの位置と現在のポインタの表示位置との間に内分点として定められる。この式1により、ガイドポインタの位置は、前回算定したガイドポインタの位置よりも現在のポインタの位置に近付くことになる。図4は、画面上でポインタにガイドポインタが追従する様子を示す図である。同図では、画面左上に位置したポインタ103が操作者の操作に応じて各フレーム毎に、順にポインタ103a、ポインタ103b、・・・、ポインタ103hと移動した例を示す。この場合において、画面左上に位置したガイドポインタ104は、そのポインタの移動に追従して各フレーム毎に、順にガイドポインタ104a、ガイドポインタ104b、・・・、ガイドポインタ104hと移動している。即ち、ガイドポインタ104aは、ポインタ103aとガイドポインタ104との内分点であり、ガイドポインタ104bは、ポインタ103bとガイドポインタ104aとの内分点であり、また、ガイドポインタ104hは、ポインタ103hとガイドポインタ104gとの内分点である。操作者が指示物11の動きを止めるとポインタの表示位置が移動しなくなり、このとき、ガイドポインタは次第にポインタの位置へと近付くことになる。また、式1とは異なる特定の算定方法によって、ガイドポインタの位置を、前回算定したガイドポインタの位置よりも現在のポインタの位置に近づけるように算定してもよい。
なお、一定条件下で式1を適用するところ、その一定条件が成立しない場合として、ガイドポインタとポインタとの距離が所定の値より小さい場合には、ガイドポインタの表示位置を前フレームから変更しないこととしてもよい。つまり、この場合には、ガイドポインタの表示位置を、前回算定したガイドポインタの位置と同一となるように算定する。これにより、ガイドポインタとポインタとの距離が近い(例えば画面上で数センチ以下等)場合には、ガイドポインタの表示位置が変更されないようにすることができる。また、ポインタの位置と前回算定したガイドポインタの位置との距離が所定の距離より小さく、かつ、そのポインタの位置へ前回決定されたポインタの位置から向かう方向に前回算定したガイドポインタの位置がある場合にはその方向から外れる位置となるよう、ガイドポインタの位置を算定してもよい。これは意図しない誤操作を防止するために有効となる。なお、この前回決定されたポインタの位置から向かう方向については、例えばプラスマイナス5度等といったある程度の角度の幅をもたせてもよい。
制御部60は、取得部44により決定されたポインタの表示位置に基づいて、画面表示の更新や、画面に表示されているオブジェクト(対象)に関連する所定処理等の制御を行う機能を担う。画面表示の更新としては、制御部60は、指示物11の現在の3次元位置に応じて定めた画面上の位置にポインタを表示し、ポインタの位置に基づいて算定した位置にガイドポインタを表示し、操作の対象となるオブジェクトを画面上に表示するように制御する。このポインタ、ガイドポインタ及びオブジェクトは、GUIの構成要素であり、操作者とのインタラクションの対象となる表示要素である。また、制御部60は、操作者の動作を認識して動作に対応した機能を実行する。即ち、制御部60は、ガイドポインタに対するポインタの動き(位置の軌跡)が所定条件を満たすか否かにより、選択等の操作がなされたかを判定し、満たすと判定した場合にはガイドポインタに最も近い位置に表示されたオブジェクトに関連した所定処理を行う。この所定処理は例えばオブジェクトの表示態様の変更(拡大、縮小、回転、移動、変形、消去等)、オブジェクトに対応して予め定められた機能の実行(機能処理プログラムに対応付けられたアイコンがオブジェクトであればその機能処理プログラムの実行)等である。なお、所定処理は、制御装置20の外部への光、電気信号等の出力を含む。
この制御部60は、機能構成要素として、ポインタ表示制御部62、ガイドポインタ表示制御部64、補助表示制御部66及び基準記憶部68を有する。
ポインタ表示制御部62は、取得部44により決定された画面上のポインタの表示位置に基づいて、ポインタを表示するように制御する機能を有する。なお、ポインタは、画面上における特定の形状(例えば、円形状、十字形状等)、及び/又は、特定色(例えば、赤色)をした位置表示物である。
ガイドポインタ表示制御部64は、算定部46により算定されたガイドポインタの表示位置に基づいて、ガイドポインタを表示するように制御する機能を有する。なお、ガイドポインタは、ポインタと同じく画面上における特定の形状(例えば、円形状、十字形状)、及び/又は、特定色(例えば、赤色とは別の青色)をした位置表示物であり、一定の大きさを有する。
基準記憶部68は、RAM26又は記録媒体28における一領域により実現され、ガイドポインタに対するポインタの動きが、所定条件を満たすか否かの判定に用いられる基準としての閾値等を記憶する機能を有する。この基準は、所定条件を示すものであり、例えば、ガイドポインタ上をポインタが左から右に通過するという条件を規定するものや、ガイドポインタ上をポインタの位置の軌跡が通過する方向を示す角度範囲の閾値等である。制御部60によりポインタの動きが所定条件を満たした場合に行う処理が複数ある場合においては、基準記憶部68は、処理毎に、基準(閾値等)を対応付けて記憶することとしてもよい。なお、この基準は情報入力システム10の製造者又は運用管理者、或いは、操作者等により設定される。この基準記憶部68により記憶された基準に基づいて、制御部60は、ガイドポインタに対するポインタの動き(位置の軌跡)が所定条件を満たすか否かを判定し、所定条件を満たす場合に上述した所定処理を行う。例えば、ガイドポインタ上を基準記憶部68の基準により規定された方向にポインタが通過した場合に、所定条件が満たされたと判定して制御部60は、予め定められた所定の機能を実行する。また、例えば、ガイドポインタの周りを、基準記憶部68の基準により規定された方向に、規定された角度だけポインタが周回した場合に、制御部60は、所定条件が満たされたと判定してもよい。また、例えば、ガイドポインタとポインタとの距離が、基準記憶部68の基準により規定された距離より小さくなった場合に(更に、その後所定時間以内にその規定された距離より大きくなった場合としてもよい。)、所定条件が満たされたと判定してもよい。また、逆に、ガイドポインタとポインタとの距離が、基準記憶部68の基準により規定された距離より大きくなった場合に(更に、その後所定時間以内にその規定された距離より小さくなった場合としてもよい。)、所定条件が満たされたと判定してもよい。
また、基準記憶部68は、ガイドポインタの位置に対するポインタの位置の軌跡が所定条件を満たす前に満たすと推定される所定の予備的条件を規定する予備的基準を記憶してもよい。この予備的基準は、例えば、所定条件がガイドポインタ上をポインタが左から右に通過するという条件であった場合には、ポインタがガイドポインタに左から近づくといった予備的条件を規定するものである。制御部60は、予備的基準により規定された予備的条件をポインタの位置の軌跡が満たすと認識した場合に、算定部46に通知して算定部46がガイドポインタの表示位置を変更しないように(ガイドポインタの表示位置を前回算定した位置と同じ位置となるように)してもよい。これにより、操作者は所定条件を満たすための指示物11の操作を行い易くなり、操作性が向上し得る。
補助表示制御部66は、基準記憶部68に記憶されている所定条件に係る基準を図形の形状、大きさ又は色に反映して表現した図形である補助表示物を、表示部52の画面に表示するよう制御する機能を有する。補助表示物は、例えば、基準記憶部68に記憶されている所定条件に係る基準が、ガイドポインタ上をポインタが左から右に通過するという条件を規定するものであった場合に、左から右に通過するという所定条件を示唆する表示(例えば、右向きの矢印等)である。また、所定条件を示唆する補助表示物としては、例えば、所定条件を満たすポインタの位置の軌跡の例について表す図形(その軌跡を描く図形、その軌跡が通過すべき境界線を描く図形等)であってもよい。操作者は、選択等の操作を行いたい場合には、画面上でガイドポインタとポインタとの位置関係を目視により確認しながら、指示物11を動かすことで画面上のガイドポインタに対するポインタの位置を所定条件を満たすように動かす必要がある。従って、補助表示物は、操作者がポインタ及びガイドポインタを目視しながら指示物11を動かす際において、有効な補助となる。なお、補助表示物がガイドポインタにある程度近付いて表示されるようにすると、操作の補助としての有用性が向上し得る。
なお、選択等の対象となる1又は複数のオブジェクトを含む画像を表示部52の画面に表示する機能は、広く知られた一般的な表示機能であるため、ここでは特に説明しない。
ここで、ガイドポインタに対してポインタの位置の軌跡が所定条件を満たす場合の例について図5A〜図5C、図6A〜図6C、図7A〜図7Cを用いて、説明する。なお、画面上に表示するガイドポインタ及びポインタのそれぞれの大きさは、情報入力システム10の製造者又は運用管理者、或いは、操作者等により設定されるところ、ここでは、それぞれの大きさの大小関係の異なる例を示して説明する。各図中の破線矢印はポインタの移動によるポインタの位置の軌跡を示している。
図5Aは、ポインタが略同じ大きさのガイドポインタ上を所定方向に通過するという条件を示す図である。同図の例での所定方向は左から右である。この例は、元のポインタ203aがガイドポインタ204a上を左から右へと通過してポインタ203bに移動した場合に制御部60により所定条件が満たされたと判定されることを示す。図5Bは、ポインタが、それより大きいガイドポインタ上から所定方向に離れるという条件を示す図である。同図の例でも所定方向は左から右である。この例は、元のポインタ203cがガイドポインタ204c上(内部)を右へと動いてポインタ203dとなった場合に制御部60により所定条件が満たされたと判定されることを示す。図5Cは、ポインタが、それより小さいガイドポインタ上から所定方向に離れるという条件を示す図である。同図の例でも所定方向は左から右である。この例は、元のポインタ203eがガイドポインタ204eを包含しており、これが右へと動いてガイドポインタ204eから離れてポインタ203fとなった場合に制御部60により所定条件が満たされたと判定されることを示す。
図6Aは、ポインタが略同じ大きさのガイドポインタを所定方向に所定角度周回するという条件を示す図である。同図の例での所定方向は右回り(時計回り)であり、所定角度は270度である。この例は、元のポインタ303aがガイドポインタ304aの周囲を右回りに270度周回してポインタ303bに移動した場合に制御部60により所定条件が満たされたと判定されることを示す。図6Bは、ポインタが、それより大きいガイドポインタを所定方向に所定角度周回するという条件を示す図である。同図の例でも所定方向は右回りであり、所定角度は270度である。この例は、元のポインタ303cがガイドポインタ304cの内部でその中心の周囲を右回りに270度周回してポインタ303dに移動した場合に制御部60により所定条件が満たされたと判定されることを示す。図6Cは、ポインタが、それより小さいガイドポインタを所定方向に所定角度周回するという条件を示す図である。同図の例でも所定方向は右回りであり、所定角度は270度である。この例は、ガイドポインタ304eを包含している元のポインタ303eが、その中心でガイドポインタ304eの周囲を右回りに周回してポインタ303fへと移動し、更に右回りに周回を継続することにより移動開始から270度周回してポインタ303gとなった場合に制御部60により所定条件が満たされたと判定されることを示す。このように、図6A〜図6Cでは、ポインタがガイドポインタの周囲を周回する場合や、ポインタがガイドポインタの内部でガイドポインタの中心の周囲を周回する場合等のようにガイドポインタを所定の方向に所定の角度周回したことを所定条件としている。
図7Aは、ポインタと、略同じ大きさのガイドポインタとの距離が所定の距離より小さくなってからその所定の距離より大きくなるという条件を示す図である。同図の例において所定の距離は破線の円の半径で示される。この例は、元のポインタ403aがガイドポインタ404aから一定距離に一旦近付いて所定時間(例えば1秒)内にまた離れてポインタ403bとなった場合に制御部60により所定条件が満たされたと判定されることを示す。図7Bは、ポインタと、それより大きいガイドポインタとの距離が所定の距離より大きくなってからその所定の距離より小さくなるという条件を示す図である。同図の例では、ポインタとガイドポインタとの距離は、ポインタとガイドポインタの中心との距離であり、所定の距離はガイドポインタの半径である。この例は、元のポインタ403cがガイドポインタ404cの内部から一旦脱出して所定時間内にまた戻ってポインタ403dとなった場合に制御部60により所定条件が満たされたと判定されることを示す。図7Cは、ポインタと、それより小さいガイドポインタとの距離が所定の距離より大きくなってからその所定の距離より小さくなるという条件を示す図である。同図の例では、ポインタとガイドポインタとの距離は、ポインタの中心とガイドポインタとの距離であり、所定の距離はポインタの半径である。この例は、ガイドポインタ404eを包含している元のポインタ403eが、ガイドポインタ404eを包含しない位置に一旦移動してポインタ403fとなって、移動開始から所定時間内に再び包含する位置に戻ってポインタ403gとなった場合に制御部60により所定条件が満たされたと判定されることを示す。なお、所定条件を、ポインタとガイドポインタとの距離が所定の距離より小さくなったことと定めてもよいし、ポインタとガイドポインタとの距離が所定の距離より大きくなったことと定めてもよい。
このように、ガイドポインタとポインタとの位置関係に基づいて、所定処理の実行条件となる所定条件を予め設定しておくことにより、画面を見ながら指示物11を操作する操作者が意図的に所定処理を実行させることができるようになる。
次に、以上のように構成された情報入力システム10の動作について説明する。ここでは、画面に複数のオブジェクトが含まれている場合において操作者が指示物を動かすことにより任意のオブジェクトに対して選択等の所定の動作を行う状況を想定して説明を行う。
図8は、情報入力システム10の動作を示すフローチャートである。このフローチャートに示す動作は、例えば1フレーム毎に繰り返し実行される。
まず、検出部42は、3次元空間における指示物11の少なくとも1つの部位の位置を検出する(処理ステップS10)。ここでは、指示物11が片手であり、検出部42が5本の指の3次元位置を検出するように予め設定されているものとして説明する。検出部42により検出された各指の各3次元位置は、取得部44に伝達される。
検出部42に検出された指示物11の各部位の位置(各指の位置)が取得部44に伝達されると、少なくとも1つの部位の位置に基づいてポインタを表示すべき画面上の位置を決定する(処理ステップS12)。具体例としては、例えば人差し指の3次元位置を算出し、その位置に所定の投影変換を施して得られる2次元位置を算出してポインタの画面上の表示位置として決定する。なお、どの部位の位置に基づいてポインタの表示位置を決定するかについて、人差し指に限られることはない。例えば、人差し指と親指との3次元位置を算出して、その両位置の平均値に所定の投影変換を施して得られる2次元位置をポインタの画面上の表示位置として決定してもよい。
取得部44により決定されたポインタの表示位置は、制御部60及び算定部46に伝達される。これで、後の処理ステップS20において、ポインタ表示制御部62によりポインタが表示装置16(表示部52)の画面上のその決定された表示位置に表示されることになる。
取得部44によりポインタの表示位置が決定されると、制御部60は、後に説明する処理ステップS18において既にこれまでに算定されているガイドポインタの表示位置(初回は所定の初期値)に対するポインタの動きが、基準記憶部68の基準で示される所定条件を満たしたか否かを判定する(処理ステップS14)。そして、制御部60は、所定条件を満たしたと判定した場合は、予め定められた機能を実行する(処理ステップS16)。予め定められた機能とは、例えば、表示装置16の画面上でガイドポインタの表示位置と最も近い位置に表示されていたオブジェクトに関連した所定処理を行う機能である。具体例としては、そのオブジェクトを選択状態にする機能(例えば少し拡大する等の強調表示をした表示態様へ変更すること等を含む機能)、そのオブジェクトの形状を拡大する機能、或いは、縮小する機能等が挙げられる。
次に、算定部46は、取得部44から得たポインタの表示位置に基づいて、ガイドポインタの表示位置を算定する(処理ステップS18)。ガイドポインタの表示位置は、例えばポインタの表示位置と前回算定したガイドポインタの表示位置とが一定距離以内であれば、前回と同じ位置と算定する。また、例えばポインタの表示位置と前回算定したガイドポインタの表示位置とが一定距離以内でなければ、ポインタにガイドポインタが追従するように、上述した式1によってガイドポインタの表示位置を算定する。なお、上述したように、ガイドポインタに対するポインタの動きが予備的条件を満たしている場合において、ガイドポインタの表示位置は前回と同一となるように算定してもよい。そして、算定部46により算定されたガイドポインタの表示位置は、制御部60に伝達される。
そして、制御部60は、表示装置16の画面の表示内容を更新するよう制御を行う(処理ステップS20)。具体的には、制御部60のポインタ表示制御部62は、処理ステップS12において決定された画面上の位置にポインタを表示するための表示用画像を形成する。また、ガイドポインタ表示制御部64は、処理ステップS18において算定された画面上の位置にガイドポインタを表示するための表示用画像を形成する。また、補助表示制御部66は、例えば、基準記憶部68に記憶されている基準を、図形の形状、大きさ又は色に反映した図形(所定条件を示唆する補助表示物)として表示するための表示用画像を形成する。制御部60は、各部により形成された表示用画像に基づいて、ポインタ、ガイドポインタ及び補助表示物が、表示装置16の画面に表示されるように形成した画像信号を表示装置16に出力する。なお、補助表示物を表示しないようにしてもよい。
この処理ステップS10〜S20までは、逐次繰り返される。これにより、検出部42により逐次検出された指示物11の各部の位置が取得部44により逐次取得され、制御部60に伝達され、表示装置16の画面の表示内容が逐次更新されることになる。従って、表示装置16の画面には、複数のオブジェクトに加えて、操作者により動かされる指示物11の動きに応じて変化するポインタ、ガイドポインタ及び補助表示物が表示されることになる。
図9は、情報入力システム10によって提供されるGUIの一例を示す図である。この例では、複数のオブジェクト101が水平方向及び垂直方向に並べられて表示装置16(表示部52)における画面に表示されている。
そして、この例は、画面に表示されたオブジェクトの1つを、操作者が、指示物11の動きにより選択しようとする様子(選択前の状態)を示している。即ち、画面には、指示物11の1つの部位(図9では人差し指)の位置102に基づいて、所定の投影変換を施して得られる2次元位置にポインタ103が表示されている。また、ポインタ103の表示位置に基づいて算定された位置にガイドポインタ104が表示されている。また、選択(所定処理)を実行するための条件である所定条件に係る基準を図形として表した補助表示物105が、ガイドポインタ104の周りに表示されている。なお、図9における補助表示物105は、ガイドポインタの周囲をポインタが右回り(時計回り)に270度以上動けば、所定条件が満たされると判定されることを示唆している。
この図9に示す状況から、操作者が指示物11を動かして、オブジェクトの選択を行った様子を図10に示す。
図10は、図9の例の状況に後続したGUIの一例を示す図である。この例は、画面に表示されたオブジェクトの1つを、操作者が、指示物11の動きにより選択した様子(選択直後の状態)を示している。操作者は、人差し指を動かしており、画面には、指示物11の部位の位置102に基づいて、ポインタ103がガイドポインタ104の周りを右回りに270度周回している様子が示されている。例えばこのような操作が行われると、制御部60はポインタ103の動きが所定条件を満たしていると判定し、操作者が所定の動作(本例では選択)を行ったと認識する。そして、図10に示すように、ガイドポインタ104と重なって表示されていたオブジェクトの選択が実行される(そのオブジェクトが強調表示される)。
以下、上述したGUIの一例とは別の一例について説明する。上述の例では、ポインタがガイドポインタを所定方向に所定角度周回することが所定条件である例を示したが、次に示す例では、ポインタがガイドポインタから一旦一定距離離れて再度近付くことが所定条件である。
図11は、情報入力システム10によって提供されるGUIの別の一例を示す図である。この例でも、複数のオブジェクト101が水平方向及び垂直方向に並べられて表示装置(表示部52)における画面に表示されている。そして、画面に表示されたオブジェクトの1つを、操作者が、指示物11の動きにより選択しようとする様子(選択前の状態)を示している。即ち、画面には、指示物11の人差し指、中指、薬指及び小指の各位置102に基づいて、その平均位置に所定の投影変換を施して得られる2次元位置に表示されるポインタ103が表示されている。また、ポインタ103の表示位置に基づいて算定された位置にガイドポインタ104が表示されている。本例では、ポインタを十分に内包する程度の大きさのガイドポインタが表示されている。また、本例では補助表示物を表示していない。
この図11に示す状況から、操作者が指示物11を動かして、オブジェクトの選択を行った様子を図12に示す。
図12は、図11の例の状況に後続したGUIの一例を示す図である。この例は、画面に表示されたオブジェクトの1つを、操作者が、指示物11の動きにより選択した様子(選択直後の状態)を示している。即ち、操作者は、画面を見ながらポインタ103をガイドポインタ104の中から外部に遠ざけた後、直ぐにまた中に戻すような動きをしようと、人差し指、中指、薬指及び小指の位置を動かすことで選択のための操作をする。そして、このような操作が行われると、制御部60は、操作者が所定の動作(本例では選択)を行ったと認識する。そして、図12に示すように、ガイドポインタ104と重なって表示されていたオブジェクトの選択が実行される(そのオブジェクトが強調表示される)。
以下、上述したGUI例とは更に別の一例について説明する。この例では、ガイドポインタの上をポインタが所定方向(下向き)に通過することが所定処理を実行するための所定条件である。また、この例では、ポインタの進む方向にガイドポインタが存在する場合に、ガイドポインタの位置がその方向から外れるように変更される。
図13は、情報入力システム10によって提供されるGUIの別の一例を示す図である。この例でも、複数のオブジェクト101が水平方向及び垂直方向に並べられて表示装置(表示部52)における画面に表示されている。そして、画面に表示されたオブジェクトの1つを、操作者が、指示物11の動きにより選択しようとする様子(選択前の状態)を示している。即ち、画面には、指示物11の人差し指の位置102に基づいて、所定の投影変換を施して得られる2次元位置にポインタ103が表示されている。また、ポインタ103の表示位置に基づいて算定された位置にガイドポインタ104が表示されている。また、所定条件に係る基準を図形として表した補助表示物105が、ガイドポインタ104の周りに表示されている。なお、図13における補助表示物105は、ガイドポインタを示す表示の上をポインタが上から下に通過すれば、所定条件が満たされ所定処理(選択)が実行されることを示唆している。
この図13に示す状況から、操作者が指示物11を動かして、オブジェクトの選択を行った様子を図14及び図15に示す。
図14は、図13の例の状況に後続したGUIの一例を示す図である。この図13から図14への遷移において、ポインタ103がガイドポインタ104に近づいて行き、所定の距離範囲内(破線の円で示された範囲内)に入った際に、ポインタの進む方向に(例えばその方向に一定の幅をもたせその方向からプラスマイナス10度以内に)、ガイドポインタ104が存在するため、図14では、ポインタの進む方向から外れるようにガイドポインタ104の位置が少し変更されている。
図15は、図14の例の状況に後続したGUIの一例を示す図である。この図15では、画面に表示されたオブジェクトの1つを、操作者が、指示物11の動きにより選択した様子(選択直後の状態)を示している。即ち、操作者は、ガイドポインタ104の位置が変更されたことを、画面を見ながら確認し、ポインタ103がガイドポインタ104を上から下に通過するように、人差し指の位置を動かすことで選択のための操作をする。そして、このような操作が行われると、制御部60は、操作者が所定の動作(本例では選択)を行ったと認識する。そして、図15に示すように、ガイドポインタ104と重なって表示されていたオブジェクトの選択が実行される(そのオブジェクトが強調表示される)。
このように、本実施の形態における情報入力システム10によれば、操作者は、表示装置16(表示部52)の画面に表示された、操作の基準となるガイドポインタ104及び補助表示物105を確認しながら、指示物11の各部位を移動させることにより、ポインタ103の位置を変更し、オブジェクトに対する選択、拡大縮小等の操作を容易に行えるようになる。なお、一定条件下でポインタ103にガイドポインタ104は追従し、例えばポインタ103が停止すると次第にガイドポインタ104は一定距離までは徐々に近付く。このような場合において所定条件を満たすようにポインタ103を動かす操作は比較的容易となり得る。
(第2の実施の形態)
以下、第2の実施の形態に係る情報入力システム10aについて、図16〜図20に基づいて説明する。情報入力システム10aのハードウェア構成は、図2に示すものと同一である。なお、第1の実施の形態と同じ構成及び処理については詳しい説明を省略する。
図16は、情報入力システム10aの機能ブロック図である。
この情報入力システム10aは、機能的には、表示部52に表示された画像に対する操作者の操作を取得するためのシステムであって、検出部42、情報処理部70a及び表示部52を備える。ここで、情報処理部70aは、3次元位置を用いて画面表示の制御等を行う処理系であり、制御装置20により実現され、取得部44、算定部46a及び制御部60aを有する。この情報処理部70aにおける算定部46a及び制御部60aはそれぞれ第1の実施の形態で示した情報処理部70の算定部46及び制御部60を一部変形したものであり、同じ点については詳しい説明を省略する。
算定部46aは、取得部44により決定されたポインタの表示位置、及び、操作者の操作対象である画面上の各オブジェクトの表示位置に基づいて、表示部52の画面上に表示するガイドポインタの位置を算定する機能を有する。算定部46aは、例えば、現在のポインタの表示位置に一番近いオブジェクトの上に、ガイドポインタを表示するようにガイドポインタの表示位置を算定する。
制御部60aは、機能構成要素として、ポインタ表示制御部62、ガイドポインタ表示制御部64、補助表示制御部66、基準記憶部68及びオブジェクト表示制御部82を有する。
オブジェクト表示制御部82は、操作者の操作等に基づいて、操作対象となるオブジェクトの表示位置を決定し、画面上に表示するように制御する機能を有する。例えば、画面上に複数のオブジェクトを水平方向及び垂直方向に並べるように各オブジェクトの表示位置が決定される。また、オブジェクト表示制御部82は、各オブジェクトの表示位置を、算定部46aに伝達する機能も有する。
次に、以上のように構成された情報入力システム10aの動作について説明する。ここでは、画面に複数のオブジェクトが含まれている場合において操作者が指示物を動かすことにより任意のオブジェクトに対して拡大、縮小等の所定の動作を行う状況を想定して説明を行う。
図17は、情報入力システム10aの動作を示すフローチャートである。
まず、検出部42は、3次元空間における指示物11の少なくとも1つの部位の位置を検出する(処理ステップS30)。検出部42により検出された各部位の3次元位置は、取得部44に伝達される。
検出部42に検出された指示物11の各部位の位置(各指の位置)が取得部44に伝達されると、取得部44は、少なくとも1つの部位の位置に基づいてポインタを表示すべき画面上の位置を決定する(処理ステップS32)。取得部44により決定されたポインタの表示位置は、制御部60a及び算定部46aに伝達される。
取得部44によりポインタの表示位置が決定されると、制御部60は、後に説明する処理ステップS38において既にこれまでに算定されているガイドポインタの表示位置(初回は所定の初期値)に対するポインタの動きが、基準記憶部68の基準で示される所定条件を満たしたか否かを判定する(処理ステップS34)。制御部60は、所定条件を満たしたと判定した場合は、予め定められた機能を実行する(処理ステップS36)。予め定められた機能とは、例えば、表示装置16の画面上でガイドポインタの表示位置に重なるように表示されていたオブジェクトに関連した所定処理を行う機能である。具体例としては、そのオブジェクトの形状を拡大する機能或いは縮小する機能、そのオブジェクトを選択状態にする機能等が挙げられる。制御部60aは、例えば、ある所定条件を満たしたと判定したときには拡大機能を実行し、また別の所定条件を満たしたと判定したときには縮小機能を実行することとしてもよい。
次に、算定部46aは、取得部44から得たポインタの表示位置と、オブジェクト表示制御部82により定められた各オブジェクトの表示位置とに基づいて、ガイドポインタの表示位置を算定する(処理ステップS38)。具体例としては、現在のポインタの表示位置に一番近いオブジェクトの上に重なってガイドポインタが表示されるようにガイドポインタの表示位置を算定する。そして、算定部46aにより決定されたガイドポインタの表示位置は、制御部60aに伝達される。
そして、制御部60aは、表示装置16の画面の表示内容を更新するよう制御を行う(処理ステップS40)。具体的には、制御部60aのポインタ表示制御部62は、処理ステップS32において決定された画面上の位置にポインタを表示するための表示用画像を形成する。また、ガイドポインタ表示制御部64は、処理ステップS38において算定された画面上の位置にガイドポインタを表示するための表示用画像を形成する。また、補助表示制御部66は、例えば、基準記憶部68に記憶されている基準を、図形の形状、大きさ又は色に反映した図形(所定条件を示唆する補助表示物)として表示するための表示用画像を形成する。制御部60aは、各部により形成された表示用画像に基づいて、ポインタ、ガイドポインタ及び補助表示物が、表示装置16の画面に表示されるように形成した画像信号を表示装置16に出力する。なお、補助表示物を表示しないようにしてもよい。
この処理ステップS30〜S40までは、逐次繰り返される。これにより、検出部42により逐次検出された指示物11の各部の位置が取得部44により逐次取得され、制御部60aに伝達され、表示装置16の画面の表示内容が逐次更新されることになる。従って、表示装置16の画面には、複数のオブジェクトに加えて、操作者により動かされる指示物11の動きに応じて変化するポインタ、ガイドポインタ及び補助表示物が表示されることになる。
図18は、情報入力システム10aによって提供されるGUIの別の一例を示す図である。この例では、複数のオブジェクト501が水平方向及び垂直方向に並べられて表示装置(表示部52)における画面に表示されている。そして、画面に表示されたオブジェクトの1つを、操作者が、指示物11の動きにより拡大しようとする様子(拡大操作前の状態)を示している。即ち、画面には、指示物11の人差し指の位置502に基づいて、所定の投影変換を施して得られる2次元位置に表示されるポインタ503が表示されている。また、ポインタ503の表示位置及び操作対象となる複数のオブジェクト501の表示位置に基づいて算定された位置にガイドポインタ504が表示されている。この例では、ポインタ503の現在の表示位置に一番近いオブジェクトの中心位置に、ガイドポインタの表示位置が算定されていることを示している。また、拡大のための所定条件に係る基準を図形として表した補助表示物505(所定条件を満たす場合にポインタの位置の軌跡が通過すべき境界線)が、ガイドポインタ204の周りに表示されている。
この図18に示す状況から、操作者が指示物11を動かして、オブジェクトの選択を行った様子を図19及び図20に示す。
図19は、図18の例の状況に後続したGUIの一例を示す図である。この図では、ポインタ503が画面上を動いて行き、ポインタ503と一番近いオブジェクトが図18の場合とは別のオブジェクトになったために、ガイドポインタ504の表示位置が変更された例を示している。
図20は、図19の例の状況に後続したGUIの一例を示す図である。この図では、画面に表示されたオブジェクトの1つに対して、操作者が、指示物11の動きにより拡大した様子(拡大操作直後の状態)を示している。即ち、操作者は、画面を見ながらポインタ503をガイドポインタ504に近づけて、直ぐに遠ざけるような動きをしようと、人差し指の位置を動かすことで拡大のための操作をする。そして、このような操作が行われると、制御部60aは、ガイドポインタ504に対するポインタ503の位置の軌跡が所定条件を満たしたと判定し、図20に示すように、ガイドポインタ504の表示位置に表示されていたオブジェクトの拡大処理を実行する。なお、ここでは拡大、縮小の機能の実行について示したが、拡大、縮小以外の、選択、決定等といった各種機能を実行させる場合にも、上述した方法と同様の方法を用いることができる。
このように、情報入力システム10aによれば、ガイドポインタが拡大等の操作の対象となるオブジェクト上にのみ表示されるため、適切に拡大、縮小等の動作を行うことができ、対応する所定の機能を実行させることができる。よって、操作者が、特別な操作機器を用いずに、画面に表示されたオブジェクトに対するポインティング操作と、拡大、縮小、選択等の操作とを容易に行うことができるようになる。
また、上記GUIの一例では、画面上に存在する全てのオブジェクトの中から、ポインタ503に一番近いオブジェクトの中心位置にガイドポインタの位置を算定する例を示した。この他に、例えば、オブジェクトは拡大、選択等といった操作が有効か否かという属性を有することとし、現在において操作が有効であるという属性を有するオブジェクトのうち、ポインタ503に一番近いオブジェクトの中心位置にガイドポインタの位置を算定することとしてもよい。これによって、操作者は、拡大、選択等の操作が可能なオブジェクトのみを効果的に操作することが可能になる。また、ガイドポインタは、ポインタからオブジェクトが一定距離以下となった場合にのみ表示されることとしてもよい。また、算定されるガイドポインタの位置はオブジェクトの中心位置でなくてもよく、単にオブジェクトに重なる位置であってもよい。
(変形例等)
以上、情報処理装置及び情報処理方法の一実施態様としての情報入力システムについて、第1及び第2の実施の形態に基づいて説明したが、上述した各実施の形態は一例にすぎず、本発明はこれらの実施の形態に限定されるものではない。上述した各実施の形態に、本発明の趣旨を逸脱しない限り当業者が思いつく各種変形を施してもよい。その他、各実施の形態で示した構成要素及び機能を任意に組み合わせることで実現される形態も本発明の範囲に含まれる。
第1の実施の形態では、制御部は、ガイドポインタに対するポインタの動きが所定条件を満たした場合にガイドポインタが表示されている位置に最も近い位置に表示されたオブジェクトに関連した所定処理を行うこととした。この他に、ガイドポインタが表示されている位置に表示されたオブジェクトに関連した所定処理を行うこととしてもよいし、ポインタが表示されている位置(又はこの位置に最も近い位置)に表示されたオブジェクトに関連した所定処理を行うこととしてもよい。
また、第1及び第2の実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェア(プログラム)を実行することによって実現されてもよい。各構成要素は、CPU又はプロセッサ等のプログラム実行部が、ハードディスク又は半導体メモリ等の記録媒体に記録されたソフトウェア(プログラム)を読み出して実行することによって実現されてもよい。
上述の第1及び第2の実施の形態における情報入力システムを実現するソフトウェアは、例えば次のような制御プログラムである。
プロセッサを有する情報処理装置に、画面に表示された対象に関連して所定処理を実行するための情報処理を実行させるための制御プログラムであって、前記情報処理は、指示物における1以上の各部位についての検出された位置を示す位置情報を逐次取得し、当該位置情報が示す1以上の位置に応じて前記画面上に表示するポインタの位置を逐次決定する取得ステップと、前記取得ステップにより決定されたポインタの位置に基づいて、前記画面上に表示するガイドポインタが一定条件下で当該ポインタに追従するように、当該ガイドポインタの位置を逐次算定する算定ステップと、前記算定ステップにおいて算定されたガイドポインタの位置に対して、前記取得ステップにおいて決定されたポインタの位置の軌跡が、所定条件を満たす場合に前記所定処理を行う制御ステップと、を含む制御プログラムである。
また、上述の制御プログラムを記録媒体に記録して頒布や流通させてもよい。例えば、頒布された制御プログラムを装置類にインストールして、装置類のプロセッサに実行させることで、装置類に各種処理(図8及び図17に示す処理等)を行わせることが可能となる。
また、上記の各装置を構成する構成要素の一部又は全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されてもよい。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAM等を含んで構成されるコンピュータシステムである。ROMには、コンピュータプログラムが記憶されている。マイクロプロセッサが、ROMからRAMにコンピュータプログラムをロードし、ロードしたコンピュータプログラムにしたがって演算等の動作をすることにより、システムLSIは、その機能を達成する。
また、上記の各装置を構成する構成要素の一部又は全部は、各装置に脱着可能なICカード又は単体のモジュールから構成されてもよい。ICカード又はモジュールは、マイクロプロセッサ、ROM、RAM等から構成されるコンピュータシステムである。ICカード又はモジュールには、上記の超多機能LSIが含まれてもよい。マイクロプロセッサが、コンピュータプログラムにしたがって動作することにより、ICカード又はモジュールは、その機能を達成する。このICカード又はこのモジュールは、耐タンパ性を有してもよい。
また、本発明は、コンピュータプログラム又はデジタル信号をコンピュータで読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD−ROM、MO、DVD、DVD−ROM、DVD−RAM、BD(Blu-ray(登録商標) Disc)、半導体メモリ等に記録したもので実現してもよい。さらに、これらの記録媒体に記録されているデジタル信号で実現してもよい。
また、本発明に係るコンピュータプログラム又はデジタル信号を、電気通信回線、無線又は有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送してもよい。
また、本発明は、プログラム又はデジタル信号を記録媒体に記録して移送することにより、又はプログラム又はデジタル信号を、ネットワーク等を経由して移送することにより、独立した他のコンピュータシステムにより実施するとしてもよい。
また、上記実施の形態において、各処理(各機能)は、単一の装置(システム)によって集中処理されることによって実現されてもよく、あるいは、複数の装置によって分散処理されることによって実現されてもよい。
本発明は、GUIを提供する情報入力システム等に利用できる。
10、10a 情報入力システム
11 指示物
12 ステレオカメラ
14 通信装置
16 表示装置
18 入力装置
20 制御装置
22 CPU
24 ROM
26 RAM
28 記録媒体
42 検出部
44 取得部
46、46a 算定部
52 表示部
60、60a 制御部
62 ポインタ表示制御部
64 ガイドポインタ表示制御部
66 補助表示制御部
68 基準記憶部
70、70a 情報処理部
82 オブジェクト表示制御部

Claims (22)

  1. 情報処理装置において、画面に表示された対象に関連して所定処理を実行するための情報処理方法であって、
    指示物における1以上の各部位についての検出された位置を示す位置情報を逐次取得し、当該位置情報が示す1以上の位置に応じて前記画面上に表示するポインタの位置を逐次決定する取得ステップと、
    前記取得ステップにより決定されたポインタの位置に基づいて、前記画面上に表示するガイドポインタが一定条件下で当該ポインタに追従するように、当該ガイドポインタの位置を逐次算定する算定ステップと、
    前記算定ステップにおいて算定されたガイドポインタの位置に対して、前記取得ステップにおいて決定されたポインタの位置の軌跡が、所定条件を満たす場合に前記所定処理を行う制御ステップと、を含む
    情報処理方法。
  2. 前記位置情報は、3次元位置を表す情報であり、
    前記情報処理方法は更に、前記指示物における1以上の各部位についての3次元位置を検出することにより前記位置情報を逐次生成する検出ステップを含み、
    前記取得ステップでは、前記検出ステップにおいて生成された前記位置情報を逐次取得し、当該位置情報に基づいて定めた1つの3次元位置に所定の投影変換を施して得られる2次元位置を前記画面に表示する前記ポインタの位置として逐次決定し、
    前記制御ステップでは、前記取得ステップにおいて逐次決定された前記ポインタの位置及び前記算定ステップにおいて逐次算定された前記ガイドポインタの位置に対応して、前記ポインタ及び前記ガイドポインタを前記画面に表示するように制御する
    請求項1記載の情報処理方法。
  3. 前記算定ステップでは、前記取得ステップにより前記ポインタの位置が決定される毎に当該ポインタの位置に基づいて前記ガイドポインタの位置を算定し、当該算定は一定条件下で、当該ガイドポインタの位置を、前回算定したガイドポインタの位置よりも当該ポインタの位置に近付けるように行われる
    請求項2記載の情報処理方法。
  4. 前記算定ステップにおける前記ポインタの位置に基づく前記ガイドポインタの位置の前記算定は、当該ガイドポインタの位置を、前回算定したガイドポインタの位置と当該ポインタの位置との間に定めるように行われる
    請求項3記載の情報処理方法。
  5. 前記算定ステップでは、前記ポインタの位置に基づく前記ガイドポインタの位置の前記算定を、当該ポインタの位置と前回算定したガイドポインタの位置との距離が所定の距離より小さい場合には前回算定したガイドポインタの位置と同一となるように行う
    請求項3記載の情報処理方法。
  6. 前記算定ステップでは、前記ポインタの位置に基づく前記ガイドポインタの位置の前記算定を、当該ポインタの位置と前回算定したガイドポインタの位置との距離が所定の距離より小さく、かつ、当該ポインタの位置へ前記取得ステップにより前回決定されたポインタの位置から向かう方向に前回算定したガイドポインタの位置がある場合には当該方向から外れる位置となるように行う
    請求項3記載の情報処理方法。
  7. 前記算定ステップでは、前記ガイドポインタの位置の前記算定を、既に算定したガイドポインタの位置に対して前記取得ステップにおいて決定されたポインタの位置の軌跡が前記所定条件を満たす前に満たすと推定される所定の予備的条件を満たした場合には、前回算定したガイドポインタの位置と同一となるように行う
    請求項3記載の情報処理方法。
  8. 前記算定ステップでは、前記ガイドポインタの位置の前記算定を、前記画面に表示された1以上の対象の位置にも基づいて行う
    請求項2記載の情報処理方法。
  9. 前記算定ステップでは、前記ポインタの位置及び前記1以上の対象の位置に基づく前記ガイドポインタの位置の前記算定を、当該ポインタの位置と最も近い1つの対象と当該ガイドポインタとが重なるように行う
    請求項8記載の情報処理方法。
  10. 前記1以上の対象それぞれは、操作が有効か否かという属性を有し、
    前記算定ステップでは、前記ポインタの位置及び前記1以上の対象の位置に基づく前記ガイドポインタの位置の前記算定を、当該ポインタの位置と最も近い1つの、操作が有効な対象と、当該ガイドポインタとが重なるように行う
    請求項9記載の情報処理方法。
  11. 前記制御ステップでは、前記ポインタの位置の軌跡が前記ガイドポインタを所定の方向に所定の角度周回した場合に、前記所定条件を満たすと判定して前記所定処理を行う
    請求項2記載の情報処理方法。
  12. 前記制御ステップでは、前記ポインタの位置の軌跡が前記ガイドポインタ上を所定の方向に通過した場合に、前記所定条件を満たすと判定して前記所定処理を行う
    請求項2記載の情報処理方法。
  13. 前記制御ステップでは、前記ポインタの位置の軌跡が前記ガイドポインタ上から所定の方向へと離れた場合に、前記所定条件を満たすと判定して前記所定処理を行う
    請求項2記載の情報処理方法。
  14. 前記制御ステップでは、前記ポインタと前記ガイドポインタとの距離が所定の距離より小さくなった場合に、前記所定条件を満たすと判定して前記所定処理を行う
    請求項2記載の情報処理方法。
  15. 前記制御ステップでは、前記ポインタと前記ガイドポインタとの距離が、所定の距離より小さくなってから所定時間内に当該所定の距離より大きくなった場合に、前記所定条件を満たすと判定して前記所定処理を行う
    請求項2記載の情報処理方法。
  16. 前記制御ステップでは、前記ポインタと前記ガイドポインタとの距離が所定の距離より大きくなった場合に、前記所定条件を満たすと判定して前記所定処理を行う
    請求項2記載の情報処理方法。
  17. 前記制御ステップでは、前記ポインタと前記ガイドポインタとの距離が、所定の距離より大きくなってから所定時間内に当該所定の距離より小さくなった場合に、前記所定条件を満たすと判定して前記所定処理を行う
    請求項2記載の情報処理方法。
  18. 前記制御ステップでは、前記所定条件を、形状、大きさ又は色に反映して表現する図形を、前記画面に表示するように制御する
    請求項1〜17のいずれか一項に記載の情報処理方法。
  19. 前記制御ステップでは、前記所定条件を満たす前記ポインタの位置の軌跡の例について表す図形を、前記画面に表示するように制御する
    請求項1〜17のいずれか一項に記載の情報処理方法。
  20. 前記制御ステップでは、前記画面に表示された複数の対象のうち前記ガイドポインタの位置と最も近い対象に関連して前記所定処理を行う
    請求項1〜17のいずれか一項に記載の情報処理方法。
  21. 画面に表示された対象に関連して所定処理を実行する情報処理装置であって、
    指示物における1以上の各部位についての検出された位置を示す位置情報を逐次取得し、当該位置情報が示す1以上の位置に応じて前記画面上に表示するポインタの位置を逐次決定する取得部と、
    前記取得部により決定されたポインタの位置に基づいて、前記画面上に表示するガイドポインタが一定条件下で当該ポインタに追従するように、当該ガイドポインタの位置を逐次算定する算定部と、
    前記算定部において算定されたガイドポインタの位置に対して、前記取得部において決定されたポインタの位置の軌跡が、所定条件を満たす場合に前記所定処理を行う制御部とを備える
    情報処理装置。
  22. プロセッサを有する情報処理装置に、画面に表示された対象に関連して所定処理を実行するための情報処理を実行させるための制御プログラムを記録した記録媒体であって、
    前記情報処理は、
    指示物における1以上の各部位についての検出された位置を示す位置情報を逐次取得し、当該位置情報が示す1以上の位置に応じて前記画面上に表示するポインタの位置を逐次決定する取得ステップと、
    前記取得ステップにより決定されたポインタの位置に基づいて、前記画面上に表示するガイドポインタが一定条件下で当該ポインタに追従するように、当該ガイドポインタの位置を逐次算定する算定ステップと、
    前記算定ステップにおいて算定されたガイドポインタの位置に対して、前記取得ステップにおいて決定されたポインタの位置の軌跡が、所定条件を満たす場合に前記所定処理を行う制御ステップと、を含む
    記録媒体。
JP2014105453A 2014-05-21 2014-05-21 情報処理方法、情報処理装置及び記録媒体 Pending JP2015219875A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014105453A JP2015219875A (ja) 2014-05-21 2014-05-21 情報処理方法、情報処理装置及び記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014105453A JP2015219875A (ja) 2014-05-21 2014-05-21 情報処理方法、情報処理装置及び記録媒体

Publications (1)

Publication Number Publication Date
JP2015219875A true JP2015219875A (ja) 2015-12-07

Family

ID=54779155

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014105453A Pending JP2015219875A (ja) 2014-05-21 2014-05-21 情報処理方法、情報処理装置及び記録媒体

Country Status (1)

Country Link
JP (1) JP2015219875A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020171107A1 (ja) * 2019-02-19 2021-11-18 株式会社Nttドコモ 情報処理装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020171107A1 (ja) * 2019-02-19 2021-11-18 株式会社Nttドコモ 情報処理装置
JP7090790B2 (ja) 2019-02-19 2022-06-24 株式会社Nttドコモ 情報処理装置

Similar Documents

Publication Publication Date Title
JP6159323B2 (ja) 情報処理方法及び情報処理装置
US20220151716A1 (en) Association processes and related systems for manipulators
JP5802667B2 (ja) ジェスチャ入力装置およびジェスチャ入力方法
JP4662495B2 (ja) 画像生成装置、画像生成プログラム、画像生成プログラム記録媒体及び画像生成方法
JP6618276B2 (ja) 情報処理装置、その制御方法、プログラム、及び記憶媒体
JP2011028366A (ja) 操作制御装置および操作制御方法
JP2009042796A (ja) ジェスチャー入力装置および方法
JP2004078977A (ja) インターフェイス装置
JP6360509B2 (ja) 情報処理プログラム、情報処理システム、情報処理方法、および情報処理装置
JP6325659B2 (ja) 操作画面表示装置、操作画面表示方法およびプログラム
JP7495651B2 (ja) オブジェクト姿勢制御プログラムおよび情報処理装置
JP5558899B2 (ja) 情報処理装置、その処理方法及びプログラム
JP2015219875A (ja) 情報処理方法、情報処理装置及び記録媒体
TWI537771B (zh) 穿戴式裝置及其操作方法
JP5328277B2 (ja) 画像処理プログラムおよび画像処理装置
JP2012018620A (ja) 情報処理装置およびその制御方法
JP6289655B2 (ja) 画面操作装置及び画面操作方法
JP6618301B2 (ja) 情報処理装置、その制御方法、プログラム、及び記憶媒体
JP2018036942A (ja) 3次元ユーザインタフェース装置および3次元操作用プログラム
JP6051834B2 (ja) 映像出力装置、映像出力方法、及びプログラム
JP5676959B2 (ja) 情報処理装置及びその制御方法
JP2015219609A (ja) 情報処理方法、情報処理装置及び記録媒体
JP6373546B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2002287904A (ja) ディスプレイにおける指示位置表示方法、装置及び記憶媒体
JP6559017B2 (ja) 制御装置及び制御方法