以下、図面に基づいて、本発明の好適な実施の形態について説明する。
実施の形態1.
図1は、本発明に係るファイル表示装置の一実施の形態であるパーソナルコンピュータ(PC)のハードウェア構成図である。本実施の形態においてPC20を形成するコンピュータの基本的な構成は、従前から存在する汎用的なハードウェア構成で実現できる。すなわち、コンピュータは、図1に示したようにCPU1、ROM2、RAM3、ハードディスクドライブ(HDD)4を接続したHDDコントローラ5、入力手段として設けられたマウス6とキーボード7、及び表示装置として設けられたディスプレイ8をそれぞれ接続する入出力コントローラ9を内部バス10に接続して構成される。更に、本実施の形態の場合、3次元空間領域12におけるユーザの操作部位の位置を検出する検出手段として設けられた3次元空間センサ11が入出力コントローラ9に接続される。
操作部位というのは、PC20に格納されたファイルを識別可能にディスプレイ8に表示するためのアイコンに対して操作を行う部位のことであり、本実施の形態では、指(先)を想定している。ただ、3次元空間センサ11は、指先のみを検出するのではなく3次元空間領域12に挿入された手、腕等の人体の部分の位置も合わせて検出する。
図2は、PC20と、PC20のディスプレイ8の前に形成された3次元空間領域との位置関係を示した概念図である。3次元空間領域12は、PC20のディスプレイ8の前に仮想的に形成された空間である。換言すると、ユーザの操作部位が3次元空間センサ11により検出されうる範囲である。本実施の形態では、PC20に格納されているファイルのアイコンがディスプレイ8に表示されているときに、ユーザが3次元空間領域12内で操作部位を動かすことによって、ファイルのアイコンに対して何らかの操作を行うことになる。このように、3次元空間領域12は、所望の操作を行うためにユーザが行う操作部位の動作(ジェスチャ)により、どのファイルのアイコンに対して、どのような指示(アイコンの移動、選択等)をしているのかが検出される範囲(領域)である。本実施の形態では、60cm立方を操作部位の検出範囲とすることを想定しているが、検出範囲はこれに限る必要はない。
ところで、「アイコン」というのは、コンピュータに格納された電子ファイルを簡単な絵柄で記号化して表現するものであり、本実施の形態では、2次元空間の表示領域を有するディスプレイ8に、ファイルを特定するファイル特定情報としてアイコンを表示する。ただ、ファイル特定情報としてアイコンに限定する必要はなく、例えば、ファイル名やサムネイル、あるいは文書データそのものでもよい。
なお、本実施の形態では、説明の便宜上、操作対象のファイルは、PC20に格納されたファイルを想定して説明するが、PC20に限定する必要はなく、図示しないネットワーク接続された他のコンピュータに格納されているファイルでもよい。
図3は、本実施の形態におけるPC20のブロック構成図である。本実施の形態におけるPC20は、センシングデータ受信部21、ジェスチャ判断部22、処理制御部23、表示部24、表示位置情報記憶部25及び格納位置情報記憶部26を有している。なお、図3には、本実施の形態の説明に用いない構成要素については図から省略している。センシングデータ受信部21は、3次元空間領域12内で3次元空間センサ11により検出されたユーザの操作部位の位置を示すセンシングデータを受信する。ジェスチャ判断部22は、判断手段として設けられ、センシングデータ受信部21により受信された一連のセンシングデータに基づいて、つまり3次元空間センサ11により検出された操作部位の位置の変化からユーザのジェスチャを判断する。判断するための手法は、既存技術あるいは以降の技術を利用してよい。表示部24は、表示手段として設けられ、2次元空間で表される表示領域(ディスプレイ8)に、表示対象のファイル格納領域に格納された各ファイルを特定するファイル特定情報、すなわちアイコンを表示する。処理制御部23は、ファイルに関する処理全体の制御を行う。本実施の形態における処理制御部23は、表示制御手段として設けられ、格納位置情報記憶部26に格納位置情報が記憶された各ファイルのアイコンを、当該ファイルの格納位置情報に対応する位置に表示部24に表示させる。更に、本実施の形態における処理制御部23は、処理制御手段として設けられ、ジェスチャ判断部22により判断されたジェスチャに応じてディスプレイ8に表示されたアイコンにより特定されるファイルの処理を制御する。
表示位置情報記憶部25は、ディスプレイ8に表示されたアイコンが移動されたときに、そのアイコンの移動先を特定する位置情報を一時記憶する。格納位置情報記憶部26は、格納位置情報記憶手段として設けられ、3次元空間で表されるファイル格納領域内における、各ファイルの格納位置を特定する格納位置情報を記憶する。各記憶部25,26のデータ構成については、追って説明する。
PC20における各構成要素21〜24は、PC20を形成するコンピュータと、コンピュータに搭載されたCPU1で動作するプログラムとの協調動作により実現される。また、記憶部25,26は、PC20に搭載されたHDD4にて実現される。あるいは、RAM3又は外部にある記憶手段をネットワーク経由で利用してもよい。
また、本実施の形態で用いるプログラムは、通信手段により提供することはもちろん、CD−ROMやDVD−ROM等のコンピュータ読み取り可能な記録媒体に格納して提供することも可能である。通信手段や記録媒体から提供されたプログラムはコンピュータにインストールされ、コンピュータのCPUがプログラムを順次実行することで各種処理が実現される。
次に、本実施の形態における基本的な考え方とユーザシーンについて説明する。
現実の世界において、気になるものや後で参照しようと思った文書は、いちいち引き出しにしまったり、バインダにファイリングするなどの取り扱いをすることなく、机の上などに単に積んでおくことは、一般的に行われるユーザ行為である。このように積まれた文書の中から必要な文書を探すときは、「確かこの辺りに置いた」などという直観的な感覚で探したりする。
コンピュータで管理される電子文書においても同様に、デスクトップに保存したり、テンポラリフォルダのようなものを作成し、とりあえず保存しておく場合がある。テンポラリフォルダに電子文書(以下、単に「文書」)を一時的に保存する場合、様々な種類、属性の文書を混在させる場合がある。このように、コンピュータ環境において文書の種類等によって分類、整理せずにPC20のどこかにまとめて保存しておくことは、前述したように現実の世界において机の上のどこかに積んでおくのと似たような保存の仕方と考えられる。この積んでいる文書、つまり種々の文書が混在しているフォルダの中から所望の文書を従来のGUIとマウスやキーボードを用いた操作では探し出しにくい。
そこで、本実施の形態では、現実の世界において机の上に積んでおいた文書の中から「確かこの辺りに置いた」場所から探し出すときに行う直観的な動作に類似させて、PC20のファイル格納領域の中に格納した所望の文書を直観的なジェスチャで探し出せるようにしたことを特徴としている。なお、以降の説明では、机の上の文書を探し出す「現実の世界」に対し、PC20において格納した文書を探索する環境を「コンピュータ環境」と称することにする。
図4Aには、PC20のディスプレイ8に表示された、PC20に格納された複数の文書等のファイルのアイコン41が示されている。本実施の形態におけるファイルは、3次元空間で形成されたファイル格納領域に格納されるものとする。処理制御部23は、表示対象のファイル格納領域に格納されたファイルの格納位置を2次元空間に変換し、各ファイルのアイコンを2次元平面上のディスプレイ8に表示することになるが、ファイルの格納位置によっては、図4Aに示したようにアイコン41が重畳されて表示される。ユーザは、現実の世界において文書を机の上に積んでおく場合、机を上方から見ると重ねて置かれる場合があるが、図4Aに例示した表示例は、この文書が重ねられた置かれた状態に類似する。なお、説明を簡略化するために、本実施の形態では、各ファイルのアイコン41の形状及び大きさは均一とする。
図4Bは、図4Aに示したように複数の文書のアイコン41がディスプレイ8に表示されている場合において、ユーザが図2に示した3次元空間領域12に手43r,43lを挿入し、移動させたい文書のアイコン41、この場合、文書Aと文書Bの各アイコン41a、41bの表示位置に対応する3次元空間領域12の位置に手を置く。そして、アイコン41aの上に載せた右手43rを矢印42rで示した右方向に、アイコン41bの上に載せた左手43lを矢印42lで示した左方向に、それぞれ移動させると、アイコン41a,41bは、それぞれ手43r,43lの動きに連動して手43r,43lの移動方向に移動する。そして、手43r,43lの動きを止めた位置まで移動すると、その位置に表示される。これにより、ユーザは、移動した文書のアイコン41a、41bの下にあった文書、図4Bに示した例だと文書Aに重畳表示されていた文書Fのアイコンが確認でき、また文書Bに重畳表示されていた文書Cのアイコンが確認できる。
このように、ジェスチャ判断部22により判断されたジェスチャが操作部位である指先でアイコンを移動させる所定の情報移動ジェスチャであった場合、3次元空間センサ11により検出された指先の位置に対応する、ディスプレイ8に表示されたアイコン41a、41bを現在の表示位置から指先の移動方向に移動させることで、アイコン41a、41bに重畳表示されていた文書F,Cのアイコンを視認可能にする。
この3次元空間領域12におけるユーザの動作は、現実の世界において机の上に置かれた文書を探し出す場合、上方に積まれた文書を左右又は上下などの方向にずらして下にある文書を確認するような取り扱いに類似している。このように、本実施の形態においては、コンピュータ環境においても現実の世界と類似する、文書を取り扱うような直観的な動作(ジェスチャ)をユーザにさせて、ファイルのアイコンの表示を制御させる。
ここで、本実施の形態におけるファイルのPC20への登録処理について説明する。
図5は、本実施の形態における格納位置情報記憶部26に記憶される格納位置情報のデータ構成例を示す図である。格納位置情報は、ファイル毎に、当該ファイルを識別する識別情報としてのファイルIDに、当該ファイルの格納位置を特定する情報として位置情報が対応して設定される。位置情報には、当該ファイルを所定のファイル格納領域に格納する際、当該ファイルを示すアイコンの中心点を表す3次元座標と、そのアイコンの傾き度合いを示す回転角度と、が含まれている。本実施の形態では、説明の便宜上、xy座標平面内における傾きのみを回転角度として取り扱うが、xz座標平面内における傾き、yz座標平面内における傾きを取り扱うようにしてもよい。なお、仮に、ファイル毎に異なるアイコンを設定可能とするのであれば、アイコンの形状及び大きさに関する情報を格納位置情報に含めて設定するようにしてもよい。
フォルダに格納されたファイルを表示する場合、通常であればフォルダに格納されたファイルを特定する情報(一般にファイル名)を、HDD4におけるファイルの格納位置とは無関係に単にディスプレイ8にリスト表示する。3次元空間で表されるファイル格納領域に格納されたファイルを、直観的な感覚で探し出させるためにディスプレイ8に表示する場合、各ファイルを特定する情報(本実施の形態では、アイコン)によって当該ファイルの3次元空間における格納位置を特定する。このファイル格納領域におけるファイルの格納位置を特定するために、3次元座標データにより表される位置情報が必要になる。また、ファイルを同じ場所に重複して格納しないように、本実施の形態ではアイコンの形状及び大きさ、更にアイコンの傾き(回転角度)によってファイル格納領域において各ファイルが占有する領域を特定している。
本実施の形態におけるファイルの登録処理では、前述したようにファイルを3次元空間で形成されたファイル格納領域に格納する。従って、ユーザは、ファイルの格納先としたいファイル格納領域をディスプレイに8に表示しておく。フォルダ名等によってリスト表示されるフォルダの並び順が特定されるように、本実施の形態におけるファイル格納領域も、ファイル格納領域名等によってファイル格納領域の並び順は特定されている。そして、ユーザは、後に示す実施の形態において説明している所定の操作を行うことで、ファイルの格納先としたいファイル格納領域をディスプレイに8に表示させておく。
また、ユーザは、登録対象のファイルを予め指定しておき、そのファイルのアイコンを、3次元空間領域12において、ディスプレイ8に表示されたファイル格納領域の所望の位置に置くように動作する。具体的には、ディスプレイ8の画面を机とみなすと、例えば、ユーザは、ファイルのアイコンをつまむように指先を閉じ、その閉じた状態の指先を置きたい机の位置(ファイル格納領域において格納したい位置)まで移動させる。そして、指先を開くよう動作すると、その開いた位置に対応するファイル格納領域における位置に当該ファイルが格納される。3次元空間センサ11は、ユーザの操作部位の位置を逐次検出し、その検出位置をセンシングデータとして送出しているので、ジェスチャ判断部22は、センシングデータ受信部21により受信されたセンシングデータから操作部位の位置の遷移を解析することで、閉じた状態の指先が開いた動作及びその動作位置を認識する。ジェスチャ判断部22は、そのジェスチャからファイル登録操作と判断する。更に、ジェスチャ判断部22は、センシングデータから特定できる手の角度又は5本の指の位置関係からファイルのアイコンの置かれたときの傾き(回転角度)を特定する。ジェスチャ判断部22は、その判断した動作に関する情報、具体的には登録対象のファイルのファイルID、ファイルが格納された位置(ファイルのアイコンの中心点のx座標及びy座標)及び回転角度を少なくとも含む動作情報を処理制御部23に渡す。本実施の形態では、このようにファイルのアイコンによって当該ファイルの格納位置、範囲が特定される。
処理制御部23は、受け取った動作情報の内容からファイル登録操作がされたと認識すると、その動作情報から当該ファイルの格納位置情報を生成し、格納位置情報記憶部26に登録する。
ところで、現実の世界において、ユーザが文書を2次元空間の机の上に置く際に他の文書と重ならないように置く場合、新たに置いた文書の裏面全体が机に接した状態にある。コンピュータ環境において新たに登録するファイルが2次元空間(xy座標空間)上、既存の他のファイルと重畳された状態に格納されたかどうかは、新規登録されたファイル及び先に登録されているファイルの各アイコンの2次元座標上における中心点(x座標とy座標)、回転角度、各アイコンの形状及び大きさから判定可能である。従って、処理制御部23は、ファイルを登録する際に、当該ファイルのアイコンが他のファイルのアイコンと重なるかどうかを判断し、重ならないで格納できる場合には、当該ファイルのz座標データを0とする。一方、当該ファイルのアイコンが他のファイルのアイコンの一部でも重なる場合、新たに登録するファイルは、既存のファイルの上に重ねて格納されることになるので、新規登録ファイルのz座標データを0とすると共に、当該ファイルに重畳される既存のファイルのz座標データを、設定されていたz座標データ0からの所定の値(例えば、1)を加算する。更に、新規登録ファイルに重畳される既存のファイル(z座標データが更新されるファイル)に重畳されるファイルが存在する場合には、そのファイルに対しても設定されていたz座標データに所定の値(例えば、1)を加算する。このようにして、すでに登録されているファイルのz座標を順次所定値を加算することで、一番上に置かされているz座標データが0のファイルからの重なり具合を表す。
このようにして、処理制御部23は、新規登録ファイルのz座標データを0と設定すると共に、その新規登録ファイルに重畳される、また重畳されるファイルに重畳されるファイルのz座標データを更新する。このように、z座標データの値によって各ファイルの重なり具合を表現する。
なお、ファイルを登録する際、ユーザは、ディスプレイ8に近づくよう手を伸ばして3次元空間領域12の奥の方に登録するジェスチャを行うと、ジェスチャ判断部22は、そのジェスチャにおける指先の位置に対応したファイル格納領域における位置、すなわちz座標データの値が大きい位置に当該ファイルを格納できるが、ここでは、2次元空間である机の上に置く場合を想定しているので、処理制御部23は、ファイルの重なり具合が特定できるように各ファイルのz座標データを自動計算して設定している。
図4A及び図4Bでは、ユーザシーンの観点から本実施の形態において特徴的な文書の探索処理について説明したが、以下、本実施の形態におけるPC20が実行する処理の観点から本実施の形態における文書の探索処理について、図6に示したフローチャートを用いて説明する。
本実施の形態における探索処理が起動されると、処理制御部23は、格納位置情報記憶部26に設定されている格納位置情報を取得する(ステップ101)。続いて、処理制御部23は、取得した格納位置情報に基づき各ファイルのアイコンの表示を表示部24に表示させる(ステップ102)。表示部24がディスプレイ8に表示させる各ファイルのアイコンの位置は、当該ファイルの格納位置情報に含まれる3次元座標のx座標とy座標とにより特定され、各アイコンの傾きは、当該ファイルの格納位置情報に含まれる回転角度により特定される。そして、表示部24は、各ファイルのz座標データを参照してデータ値の大きい順にアイコンを表示する。これにより、アイコンが重畳される場合、z座標データが小さいアイコンが上に積まれていくように表示される。z座標データが0のファイルのアイコンは、常に全体がディスプレイ8に表示される。この結果、図4Aに例示したように各ファイルのアイコンが表示されることになる。
続いて、ユーザが図2に示した3次元空間領域12の中に手を差し入れると、3次元空間センサ11は、手及び操作部位である指先の位置を検出し、検出した位置をセンシングデータとして送出する。ジェスチャ判断部22は、センシングデータ受信部21により受信された一連のセンシングデータからユーザのジェスチャを判断する(ステップ103)。なお、ジェスチャ判断部22がセンシングデータを解析することによって3次元空間領域における手の位置に特定し、処理制御部23は、その特定した位置に手のアニメーション画像を表示部24に表示させることによって、ディスプレイ8に表示された2次元画像上、各アイコンとユーザの手の位置関係がわかりやすくなるように表示してもよい。手の画像は、透明度を持たせることで手に隠れる位置にあるアイコンを視認できるようにするのが好適である。
ユーザのジェスチャが所定の探索処理の終了を示していない場合(ステップ104でN)、処理制御部23は、そのジェスチャ及び3次元空間領域12におけるジェスチャと各アイコンの位置との関係から、そのジェスチャがどのアイコンに対するどのような操作であるのかを特定する。つまり、操作部位に対応する位置に対応するアイコンを表示制御対象として特定する。そして、処理制御部23は、ユーザによるジェスチャに応じて、表示制御対象として特定したアイコンの移動方向、移動量を決定し、当該アイコンをその決定した位置に表示部24に表示させる(ステップ105)。
図4Bに示したジェスチャの例に基づくと、ジェスチャ判断部22により判断されたジェスチャがアイコンの上に指先を載せて横にスライドさせるという所定の情報移動ジェスチャだったので、3次元空間センサ11により検出された操作部位の位置に対応する、ディスプレイ8に表示されたアイコンを現在の表示位置から指先の移動方向に移動させることで、当該アイコンに重畳表示されたアイコンを視認可能にする。より具体的に言うと、処理制御部23は、移動対象として特定された文書A,Bのアイコンを、それぞれ手の動いた方向42r,42lに手の移動量に応じた位置に移動し、その移動した位置に表示部24に表示させる。これにより、文書A,Bのアイコンの下に隠れていた文書C,Fのアイコンは視認可能になる。
処理制御部23はまた、移動したアイコンの、移動した後の位置情報を当該ファイルのファイルIDに対応付けして表示位置情報記憶部25に書き込み一時記憶させる(ステップ106)。図4Bでは、文書Aと文書Bの移動先の3次元座標及び回転角度を含む位置情報が表示位置情報記憶部25に一時記憶されることになる。
ユーザのジェスチャがアイコンを選択したことを示していない場合(ステップ107でN)、センシングデータに基づきジェスチャの判断を行う処理(ステップ103)に戻る。なお、本実施の形態では、例えばアイコンの表示位置で指先を閉じる、いわゆるつかむような動作を、アイコンを選択するジェスチャとする。
この後、ジェスチャ判断部22によりユーザがアイコンを選択するジェスチャをしたと判断された場合(ステップ107でY)、あるいは、所定の探索を終了するジェスチャをしたと判断された場合(ステップ104でY)、処理制御部23は、上記探索処理の過程において表示位置情報記憶部25に位置情報が一時保持されていることを確認すると、移動したアイコンを元の位置に戻すか否かの問合せを表示部24に表示させる。この問合せに応じてユーザが元に戻さないことを選択すると(ステップ108でN)、処理制御部23は、表示位置情報記憶部25に記憶された位置情報で、対応するファイルの格納位置情報を更新する(ステップ109)。これは、現在のアイコンの表示位置を当該ファイルの格納位置に反映させるということを意味する。その後、表示位置情報記憶部25に記憶された位置情報を削除する。一方、ユーザが元に戻すことを選択すると(ステップ108でY)、処理制御部23は、表示位置情報記憶部25に記憶された位置情報を削除することで破棄する。これにより、3次元空間領域に格納されたファイルのアイコンが表示されるときには、元の位置に表示されることになる。つまり、当該ファイルの格納位置を移動させないということを意味する。
図4A,図4Bの表示例に従うと、ユーザが元に戻さないことを選択すると、文書A,Bのアイコンは、今後、図4Bに示した位置に表示されることになり、ユーザが元に戻すことを選択すると、文書A,Bのアイコンは、今後、図4Aに示した位置に表示されることになる。
なお、問合せは、ファイル毎に元に戻すか否かを問い合わせるようにしてもよいし、上記一連の探索処理において移動した全てのファイルを一律に元の位置に戻すか否かを問い合わせるようにしてもよい。また、3次元空間領域12から手43を引き抜くジェスチャを探索処理を終了させる所定のジェスチャとしてもよい。
本実施の形態における探索処理の基本的な処理の流れは上記の通りであるが、ユーザが探索処理を開始してからジェスチャを連続して行う場合、1つのファイルのアイコンが複数回、移動等の操作対象となる場合がある。この場合、表示位置情報記憶部25には、最新のアイコンの位置に関する位置情報のみを記憶するようにしてもよいし、表示位置の遷移の履歴として複数の位置情報を記憶するようにしてもよい。また、図6に示したフローチャートでは、探索処理の終了時のみにステップ108でアイコンの位置を元に戻すかどうかをユーザに問い合わせるようにしたが、移動した後、そのアイコンの移動を取り消させる(アイコンの位置を元に戻す)ことができるように、その都度問い合わせるようにしてもよい。
なお、上記説明では、ユーザにその都度、アイコンの位置を戻すか否かを問い合わせるようにしたが、元の表示位置に戻すか否かをパラメータとして予め設定しておき、その設定内容に従うことで、ユーザにその都度問い合わせしないようにしてもよい。元の表示位置に戻すか否かを変更したい場合には、その設定値を変更すればよい。
ところで、ユーザは、3次元空間領域12に手を挿入し、その手の位置(指先の位置)によって操作対象のアイコンを選択することになる。ただ、図4Bに例示したように、片方の手は複数のアイコンの上にある場合は少なくない。
現実の世界では、机の上にある文書に、人差し指や中指、親指を除く4本の指、あるいは5本の指先全部を押し当て横にずらすなどして文書を移動させる。従って、コンピュータ環境においても同様な判断基準にて選択されたアイコンを特定するようにしてもよい。具体的には、文書に押し当てるということは、押し当てている指先が3次元空間においてz座標軸方向に最も奥まで侵入している(z座標データが最大値を示す)と考えられるため、本実施の形態においては、最も奥まで侵入している指先が文書に接しているものとして、その指先に対応するアイコンが表示制御対象(移動対象)として特定してもよい。
なお、現実の世界では、一般に人差し指又は中指の少なくとも一方を使って机の上の文書をずらすと考えられるため、3次元空間領域12における人差し指と中指の位置を検出し、2本の指が共に接しているアイコンを表示制御対象として選択されたものと判断してもよい。あるいは、5本の指の位置の中心点に位置するアイコンが選択されたなど、他の判断基準を採用してもよい。また、表示制御対象は、必ずしも1つのアイコンと限定する必要はない。5本の指先のいずれかの位置に対応する1又は複数のアイコンを表示制御対象として選択されたものと判断してもよい。
実施の形態2.
上記実施の形態1では、各ファイルを3次元空間で形成されたファイル格納領域に格納するものの、机の上という2次元空間(xy座標空間)に格納したような場合での探索処理について説明した。以降の実施の形態では、奥行き方向にもばらつかせてファイルが格納されている場合のファイルの探索処理について説明する。
図7Aは、ファイル格納領域14とファイル格納領域14に格納されているファイル15との関係を示す概念図である。図7Bは、図7Aに示したファイル格納領域14をディスプレイ8に表示したときの例を示した図である。なお、処理制御部23は、遠近感を出すために、手前にあるアイコンほど大きいサイズで表示部24に表示させている。図7Bに示したようにファイル格納領域を正面から見ると、ファイルが重なったように表示される。
ここで、ユーザが所望の文書を探し出すために、ユーザが図2に示した3次元空間領域12に手43を入れる。ここで、ユーザは、手前の方には探したいファイルがないため、手を更に奥の方向(z座標軸方向)に入れる。指先の位置に対応するアイコン(指や手が触れる位置にあるアイコン)は、所定時間内に指先でつかむという所定のアイコン選択ジェスチャが行われないと、ファイル格納領域のどこまで手が差し込まれたかが直観的にわかるように、手の更なる差し込みの妨げにならないように現在の表示位置から少し動く。本実施の形態では、いずれのアイコンも横方向に動くようにした。もちろん、手の挿入の妨げとならなければ、横以外の方向に移動させてもよい。更に、ユーザが、更に奥の方まで手を入れた後、所定時間内にアイコン選択ジェスチャを行わないと、上記と同様に指先の位置に対応するアイコンは、手の挿入の妨げにならないように現在の表示位置から少し動く。指先の位置により手前にある移動済みのアイコンは、更に横方向に動く。図7Cには、このように手前(z座標データが小さい位置)に格納されたファイルのアイコンが移動した状態が示されている。また、移動量を矢印の大きさで示している。
すなわち、図7Cに示した例によると、ユーザは、3次元空間領域12に入れた手43を奥の方に入れると、ユーザにより選択されなかった文書Aのアイコンは右方向に移動して手43から離れた位置に表示される。ユーザが更に手を差し込むと、ユーザにより選択されなかった、指先の位置に対応する文書B,Cのアイコンは、それぞれ左右方向に移動して手43から離れた位置に表示される。指先の位置の手前にあることで移動済の文書Aのアイコンは、更に右方向に移動する。更にユーザが手43を差し込むと、その差し込み位置に対応する文書D,Eのアイコンがそれぞれ左右方向に別れて移動して手43から離れた位置に表示される。このように、ファイル格納領域において、3次元空間領域12における操作部位の位置に対応したアイコンは、手43の差し込む量に応じて少しずつ移動することで、奥の方に格納されている文書が徐々に確認することができるようになる。これにより、ユーザは、奥の方に格納された所望の文書が探し出しやすくなる。
上記ユーザシーンに対応する、本実施の形態におけるPC20が実行する処理の観点からみた本実施の形態における探索処理は、実施の形態1と同じでよいので説明は省略する。実施の形態1では、アイコンに触れてずらすという所定の情報移動ジェスチャであるのに対し、本実施の形態では、アイコンに触れずに操作部位を奥の方に挿入させるという所定の情報移動ジェスチャである点でジェスチャ自体は異なるものの、基本的な処理内容は同じである。
ユーザが、所望の文書を選択するジェスチャを行ったり、探索処理を終了するジェスチャを行うことで、探索処理は終了する。この際、ユーザが3次元空間領域12から手43を引き抜くことになるが、移動したファイルは、元の位置に戻してもよいし、移動した位置に格納されるようにしてもよい。
実施の形態3.
本実施の形態では、3次元空間で形成されたファイル格納領域の中からファイルを探索するのではなく、ファイル格納領域に格納されたファイルに対して、ユーザのジェスチャに応じた探索以外の操作としてファイルの移動、特にファイルを不要ファイル格納領域に移動させることでファイルを削除する処理及びその処理に伴う表示制御について説明する。
図8は、本実施の形態における格納位置情報記憶部26に記憶された格納位置情報のデータ構成例を示す図であり、実施の形態1における図5に相当する。実施の形態1では、ファイルを他のファイル格納領域に移動する場合を想定していなかったので、1つのファイルにつき1つの位置情報のみを登録できるように格納位置情報を構成したが、本実施の形態では、図8に例示したように各ファイルがファイル格納領域間を移動できるように複数の位置情報(1〜n)を含めて格納位置情報を構成した。なお、本実施の形態では、位置情報1〜n−1により表されるファイル格納領域#1〜#n−1は、ファイルを格納する領域として用い、位置情報nにより表されるファイル格納領域は、不要ファイル格納領域、いわゆるゴミ箱として用いる。「現格納領域」には、当該ファイルが現時点において格納されているファイル格納領域を特定する情報が設定される。例えば、ファイルIDがF001のファイルは、ファイル格納領域#1及びファイル格納領域#2に格納されたことがあり、現在はファイル格納領域#2に格納されていることがわかる。ファイルIDがF003のファイルは、ファイル格納領域#1に格納されたことがあり、現在は不要ファイル格納領域に移動されたこと、つまり削除されたことがわかる。その他の構成については、実施の形態1と同様でよい。
以下、ユーザによるジェスチャによって文書の削除という操作が行われた場合について、最初にユーザシーンの観点から説明する。
ファイル格納領域に格納されたファイルがディスプレイ8に表示された例を図9Aに示す。ユーザが表示されているファイル格納領域に格納された文書Aを削除したい場合、図2に示した3次元空間領域12の、文書Aの表示位置に対応する位置に手43を入れ、操作部位である指先を表示された文書Aに重ねる。そして、ユーザは、図9Bにおいて矢印45に示したようにファイル格納領域に格納された文書Aを他のファイル格納領域に移動させる所定の領域移動ジェスチャ、具体的には文書Aをディスプレイ8の外へ勢いよくはじき出すような所定の削除ジェスチャを行うことによって、文書Aは、予め設けられている不要ファイル格納領域に移動される。つまり、文書Aは表示対象のファイル格納領域から削除される。
以上のユーザシーンに対し、PC20では、次のような処理が実行される。基本的には実施の形態1と同様の処理手順で処理することになる。すなわち、ジェスチャ判断部22は、センシングデータ受信部21により受信された一連のセンシングデータを解析することによってユーザの操作部位の移動方向、加速度等からユーザが削除ジェスチャをしたと判断する(ステップ103)。削除ジェスチャと判断されると、処理制御部23は、操作部位の位置から文書Aに対する削除ジェスチャと判断し、文書Aのアイコンの表示を表示部24に消去させる。
処理制御部23はまた、移動したアイコンの、移動した後のファイル格納領域、当該ファイル格納領域における位置情報を当該ファイルのファイルIDに対応付けして表示位置情報記憶部25に書き込み一時記憶させる(ステップ106)。具体的には、図9Bに示したように、文書Aの移動先の不要ファイル格納領域44を特定する情報、不要ファイル格納領域44におけるアイコンの格納位置を特定する3次元座標及び回転角度を含む位置情報が表示位置情報記憶部25に一時記憶される。なお、図10Bでは、不要のファイルと言うことで、元の格納位置とは違う位置に格納するように図示しているが、削除したファイルを復帰させる場合に対応可能なように、元のファイル格納領域と同じ位置に格納するようにしてもよい。
不要ファイル格納領域44に移動、表示させたファイルのアイコンを元のファイル格納領域に戻さないことを選択すると(ステップ108でN)、処理制御部23は、表示位置情報記憶部25に記憶された位置情報で、格納位置情報記憶部26の、対応するファイルの格納位置情報を更新すると共に、当該ファイルの現格納領域を不要ファイル格納領域44を識別する番号“#n”に変更する(ステップ109)。これは、現在のアイコンの表示位置を当該ファイルの格納位置に反映させるということを意味する。その後、表示位置情報記憶部25に記憶された位置情報を削除する。
一方、ユーザが元に戻すことを選択すると(ステップ108でY)、処理制御部23は、表示位置情報記憶部25に記憶された位置情報を削除することで破棄する(ステップ110)。これにより、3次元空間領域に格納されたファイルのアイコンが表示されるときには、元の位置に表示されることになる。つまり、当該ファイルの格納位置を移動させないということを意味する。
現実の世界でも、例えば、机の上の文書を机から落としたい場合、勢いよくはじき飛ばす場合があるが、本実施の形態では、現在表示されているファイルのアイコンをディスプレイ8の枠の外側へ勢いよくはじき飛ばすようなジェスチャにてディスプレイ8の外側、換言すると表示対象のファイル格納領域の外部へはじき出すという直観的なジェスチャに基づき当該ファイルのアイコンを消去し、また当該ファイルを他のファイル格納領域である不要ファイル格納領域44に移動させるようにした。
なお、ディスプレイ8の枠の外側へ勢いよくはじき飛ばすようなジェスチャを削除ジェスチャと判断したので、はじき飛ばす方向に必ずしも不要ファイル格納領域44が存在する必要はない。また、不要ファイル格納領域44は事前に用意しておかなくて、はじめて文書が削除されたときに自動生成するようにしてもよい。
実施の形態4.
本実施の形態では、上記実施の形態3と同様にファイルの移動及びその移動に伴う表示制御の他の例について説明する。本実施の形態は、実施の形態3と同様の構成でよい。本実施の形態は、実施の形態3と同様にファイルを他のファイル格納領域に移動させるものであるが、本実施の形態では、移動先が不要ファイル格納領域に限定していないことと、ファイル格納領域に格納されている全てのファイルをまとめて一度に移動させるものである。このファイルの格納先の変更という操作がユーザにより行われた場合について、最初にユーザシーンの観点から説明する。
ところで、一般的なフォルダは、ツリー構造を成し、ディスプレイ8に表示するときにはフォルダ名が連結されてリスト表示される。3次元空間で形成されたファイル格納領域を取り扱う本実施の形態においては、ファイル格納領域は1つずつしかディスプレイ8に表示されないものの、図10Aに例示したようにファイル格納領域は、仮想的に連続した構造を有しているものとする。
図10Aには、複数のファイル格納領域46,47,48とディスプレイ8とが示されており、この図からファイル格納領域46が表示されていることがわかる。図10Aに示したように、ディスプレイ8の左右には、それぞれインジケータ49,50が表示されている。インジケータは、ディスプレイ8の表示されているファイル格納領域に、ファイルが格納されている他のファイル格納領域が隣接して存在していることを示す標識であり、当該他のファイル格納領域の存在位置に対応する位置に表示される。図10Aに示した表示例によると、ディスプレイ8の両側にインジケータ49,50が表示されているので、現在表示されているファイル格納領域46の両側にファイルが格納されているファイル格納領域47,48がそれぞれ存在していることがわかる。なお、図10Aでは、インジケータ49,50を単に黒色の矩形で示しているが、この形状、大きさ、色等の表示属性がこれに限る必要はない。また、インジケータの表示内容を固定としてもよいし、ファイル格納領域に含まれるファイルの数等に応じて可変としてもよい。また、ファイル格納領域53に関連する情報として、ファイル格納領域名、格納されている文書の文書名、数等を文字情報にて表示するようにしてもよい。以降の実施の形態においても同様である。
図10Aでは、ファイル格納領域46がディスプレイ8に表示されている状態であるが、ファイル格納領域46の両側にあるファイル格納領域47,48それぞれに格納されている全てのファイルをファイル格納領域46に移動させたい場合、ユーザは、ディスプレイ8の前に形成されている3次元空間領域に手43r,43lを入れ、全てのファイルをつかんだ状態を示すかのように手43r,43lを握り、そして矢印51r,51lの方向に勢いよく移動させる領域移動ジェスチャ、つまりファイル格納領域46を表示しているディスプレイ8のある方向に向けて手43r,43lを動かすジェスチャを行う。このジェスチャに応じて、ファイル格納領域48,47に格納されている文書H,I及び文書J,Kは、ファイル格納領域46に移動する。なお、この各手43r,43lで行うジェスチャは同時に行ってもよいし、別個に行ってもよい。また、片方に位置するファイルのみを移動させたい場合には、対応する側の手で前述したジェスチャを行えばよい。このジェスチャを行ったことでファイルが移動した後の表示状態を図10Bに示す。
なお、図10Bに例示したように、ファイル格納領域46の両側のファイル格納領域47,48の全てのファイルがファイル格納領域46に移動したので、ファイルが格納されているファイル格納領域が存在していることを示すインジケータ49,50はディスプレイ8から消去される。
以上のユーザシーンに対し、PC20では、次のような処理が実行される。基本的には実施の形態3と同様の処理でよい。すなわち、ジェスチャ判断部22は、センシングデータ受信部21により受信された一連のセンシングデータを解析することによってユーザの操作部位の位置関係、移動方向、加速度等からユーザがディスプレイ8に表示されているファイル格納領域46に隣接したファイル格納領域47,48に格納されているファイルをファイル格納領域46に移動させるための領域移動ジェスチャをしたと判断する(ステップ103)。領域移動ジェスチャと判断されると、処理制御部23は、操作部位の位置に対応するファイル格納領域47,48をそれぞれ特定する。なお、処理制御部23は、格納位置情報記憶部26における位置情報の並び順若しくは別途設定されている情報から、現在表示中のファイル格納領域46の右側はファイル格納領域48、左側はファイル格納領域47であることを特定する。そして、処理制御部23は、特定したファイル格納領域47,48に対応する位置情報をそれぞれ格納位置情報記憶部26から読み出し、表示部24に指示することで、その読み出したファイル(この例では、文書H,I,J,K)の位置情報に基づいて当該ファイル(文書H,I,J,K)のアイコンをディスプレイ8に表示させる(ステップ105)。
処理制御部23はまた、移動したアイコンの、移動した後のファイル格納領域、当該ファイル格納領域における格納位置を示す位置情報を当該ファイルのファイルIDに対応付けして表示位置情報記憶部25に書き込み一時記憶させる(ステップ106)。図10Bでは、文書H,I,J,Kの移動先のファイル格納領域46を特定する情報、ファイル格納領域46におけるアイコンの格納位置を特定する3次元座標及び回転角度を含む位置情報が表示位置情報記憶部25に一時記憶される。また、ファイルの移動に伴い、左右のファイル格納領域47,48にはファイルが格納されなくなったので、対応するインジケータ49,50の表示を表示部24に消去させる。
ファイル格納領域46に移動、表示させたファイルのアイコンを元のファイル格納領域47,48に戻さないことを選択すると(ステップ108でN)、処理制御部23は、表示位置情報記憶部25に記憶された位置情報で、格納位置情報記憶部26の、対応するファイルの格納位置情報を更新すると共に、当該ファイルの現格納領域をファイル格納領域46を識別する番号に変更する(ステップ109)。これは、現在のアイコンの表示位置を当該ファイルの格納位置に反映させるということを意味する。その後、表示位置情報記憶部25に記憶された位置情報を削除する。
一方、ユーザが元に戻すことを選択すると(ステップ108でY)、処理制御部23は、表示位置情報記憶部25に記憶された位置情報を削除することで破棄する(ステップ110)。これにより、3次元空間領域に格納されたファイルのアイコンが表示されるときには、元の位置に表示されることになる。つまり、当該ファイルの格納位置を移動させないということを意味する。
なお、表示されているファイル格納領域46に文書H,I,J,Kのアイコンを移動させる際、移動先となる格納場所に他のファイルがすでに格納されていた場合、格納場所が重ならないように少なくとも一方のファイルのアイコンを移動させる必要がある。これは、後から移動してきたファイルをファイル格納領域内の空いている場所に移動させてもよいし、ファイルの作成日時、優先度等の属性情報を指標としていずれか一方を移動対象のファイルと特定して移動させるようにしてもよい。あるいは、重なるファイルの両方を相反する方向に少し移動させるなど両方のファイルのアイコン共に移動させるようにしてもよい。
実施の形態5.
上記実施の形態3,4では、ファイルに対して操作することでファイルのアイコンを移動、表示させる場合について説明した。本実施の形態では、表示対象とするファイル格納領域を変更する場合について説明する。この表示対象とするファイル格納領域を変更するという操作がユーザにより行われた場合について、最初にユーザシーンの観点から説明する。
図11Aには、複数のファイル格納領域52,53,54とディスプレイ8とが示されており、この図からファイル格納領域52が表示されていることがわかる。図11Aに示したように、ディスプレイ8の右側には、インジケータ55が表示されていることから、ディスプレイ8の右側、図10Aでは現在表示されているファイル格納領域52の右側にファイルが格納されているファイル格納領域54が存在していることがわかる。
図11Aに例示した表示の状態からユーザが他のファイル格納領域54に格納されているファイルのアイコンをディスプレイ8に表示させるために、ディスプレイ8の前に形成されている3次元空間領域に手43を入れ、矢印56に示したように、その3次元空間領域の右側から手のひらを開いた状態のまま左側に勢いよく移動させる。この連続して存在するファイル格納領域全体を回転させるような、あるいは操作部位である手でファイル格納領域54を左側に移動させて表示させるようなジェスチャに応じて、連続して存在するファイル格納領域52,53,54は左側にシフトし、これにより、ファイル格納領域54が表示対象となってディスプレイ8に表示される。このシフト後の状態を図11Bに示す。なお、図11Bに例示したように、現在表示されているファイル格納領域54の左側にファイルが格納されているファイル格納領域52が存在していることを示すインジケータ57がディスプレイ8に表示される。
以上のユーザシーンに対し、PC20では、次のような処理が実行される。すなわち、ジェスチャ判断部22は、センシングデータ受信部21により受信された一連のセンシングデータを解析することによってユーザの操作部位の移動方向、加速度等からユーザがディスプレイ8の右側に位置するファイル格納領域を移動、表示させるための所定の表示切替ジェスチャをしたと判断する。表示切替ジェスチャと判断されると、処理制御部23は、操作部位の位置に対応する右側のファイル格納領域54に対応する位置情報を格納位置情報記憶部26から読み出し、表示部24に指示することで、その読み出したファイル(この例では、文書H,I)の位置情報に基づいて当該ファイル(文書H,I)のアイコンをディスプレイ8に表示させる(ステップ105)。
処理制御部23はまた、表示されたファイル格納領域を識別する番号及び当該ファイル格納領域に格納されているファイルの位置情報を当該ファイルのファイルIDに対応付けして表示位置情報記憶部25に書き込み一時記憶させる(ステップ106)。また、ファイル格納領域の移動に伴い、ディスプレイ8の右側に表示されていたインジケータ55は消去され、一方、ファイル格納領域54の左側には、ファイルが格納されているファイル格納領域52が存在するので、ディスプレイ8の左側には、インジケータ57が表示される。
移動、表示させたファイル格納領域54を元に戻さないことを選択すると(ステップ108でN)、処理制御部23は、表示位置情報記憶部25に記憶された位置情報で、格納位置情報記憶部26の、対応するファイルの格納位置情報を更新すると共に、当該ファイルの現格納領域をファイル格納領域54を識別する番号に変更する(ステップ109)。その後、表示位置情報記憶部25に記憶された位置情報を削除する。一方、ユーザが元に戻すことを選択すると(ステップ108でY)、処理制御部23は、表示位置情報記憶部25に記憶された位置情報を削除することで破棄する(ステップ110)。これにより、表示対象はファイル格納領域52に戻る。
なお、インジケータをタッチするようなジェスチャにて、タッチされた側のファイル格納領域を表示するようにしてもよい。
なお、上記各実施の形態においては、ユーザが現実の世界においてファイルを取り扱うときのような直観的な動作(情報移動ジェスチャ、領域移動ジェスチャ、表示切替ジェスチャ)をすることに応じて、ファイル格納領域内又はファイル格納領域間でのファイルの移動及びその移動に伴うアイコンの表示制御、またファイル格納領域の移動に伴うアイコンの表示制御を行うようにした。この各実施の形態において示した各ジェスチャ、ユーザ動作の一例であって他の動作に応じて前述した表示制御やファイルの移動等のファイル管理を行うようにしてもよい。