本発明は、視覚情報に基づいて、実際には発生していない現象を、あたかも実際に発生しているかのごとくに感じることを可能にする仮想感覚提示装置を提供することにある。
A. Lecuyer, J. Burkhardt, 及びL. Etenne,著の “Feeling bumps and holes without a haptic interface: the perception of pseudo-haptics textures”, SIGCHI, 2004.(非特許文献1)には、ユーザの操作で移動するポインタの移動速度を変化させることで、凹凸感をユーザに感じさせる触覚提示手法が提案されている。またA. Lecuyer, S. Coquillart, A. Kheddar, P. Richard 及びP. Coiffet,著の "Pseudo-Haptic Feedback: Can Isometric Input Devices Simulate Force Feedback?", IEEE International Conference on Virtual Reality (IEEE VR), pages 83-90, 2000.(非特許文献2)には、ユーザの操作によって変化する画像の、変化の割合を変化させることで、ユーザに力覚(重い、軽いの感覚)を感じさせる手法が提案されている。しかしながらこれらの公知技術では、マウスのような操作用コントローラでポインタ画像(カーソル)の動きを制御する場合のように、コントローラを使用する場合にしか適用することができない。なお画像上の特定の位置に対してカーソルの動作速度を遅くする技術は、特開2000-148350号公報(特許文献1)、特開2006−268662号公報(特許文献2)等にも記載されているように、操作者の意図に応じてカーソルの移動量を制御できるようにする目的でも採用されている技術である。
"Feeling bumps and holes without a haptic interface: the perception of pseudo-haptics textures", SIGCHI, 2004.
"Pseudo-Haptic Feedback: Can Isometric Input Devices Simulate Force Feedback?", IEEE International Conference on Virtual Reality (IEEE VR), pages 83-90, 2000.
特開2000-148350号公報
特開2006−268662号公報
しかしながら従来は、視覚情報に基づいて、操作用のコントローラを使用する人に、仮想の皮膚感覚・力感覚を確実に与えることができず、またコントローラを使用しない人(操作者および観察者等)に仮想の平衡感覚を、確実に提示することができる仮想感覚提示装置はなかった。
本発明の目的は、仮想の皮膚感覚・力感覚または仮想の平衡感覚を、確実に提示することができる仮想感覚提示装置を提供することにある。
人間は視触覚を深く結びつけて環境を認識している。環境に対して行動を行った結果、視覚的にも触覚的にも一貫したフィードバックが行われることで、環境に存在する物体を認識している。そして、その際、視触覚はお互いに影響を与え合う。例えば、ペンで線を描くとき、紙の上に描く場合と、他の材質に描く場合では、その見えも触覚的反力も異なる。このように、視覚的変化と触覚的変化は、通常、同時に起こり、それらは関係付けられている。ということは、視触覚が関係付けられた状態で、なんらかの視覚的変化が起こると、それにつられて、触覚的変化も起きたともの人間は錯覚する。そこで、適宜の視覚情報を提示することで、触覚提示装置は一切存在しなくても、視覚的変化だけで、触覚的感覚を提示することが可能となる。本発明はこのようなことを背景にして、ユーザに擬似的な(仮想の)触感覚(皮膚感覚+力感覚)や擬似的な仮想の平衡感覚を生成させる。すなわち本発明は、人間の知覚における視覚と触感覚・平衡感覚の関係性を利用したものである。本発明によれば、大掛かりなデバイスを使用する代わりに、人間の錯覚を利用するため、どこでも、安価に触感覚を提示することが可能である。
具体的には、まず本発明の第1のタイプの仮想感覚提示装置は、画像表示装置と、スクロール画像用画像データ提供手段と、ポインタ画像用画像データ提供手段と、関係継続期間検出手段と、スクロール変更指令発生手段とを備えている。画像表示装置は、画像データと入力指令とに基づいて画面に画像を表示する。例えば、パーソナルコンピュータをハードウエアとして使用する場合であれば、ディスプレイ装置と、このディスプレイ装置の画面上に画像を表示するためのドライブ回路とがこの画像表示装置に該当する。
スクロール画像用画像データ提供手段は、画面に、スクロールするスクロール画像を表示するために必要なスクロール画像用画像データを画像データとして画像表示装置に提供する。スクロール画像用画像データ提供手段は、パーソナルコンピュータをハードウエアとして使用する場合であれば、プログラムによって実現される手段である。
ポインタ画像用画像データ提供手段は、スクロール画像を見ている操作者が操作するコントローラの動き、この操作者が操作面上を移動させるスタイラスの動き、またはこの操作者が操作面上を移動させる指の動きに応じて、スクロール画像上をコントロール可能に移動するポインタ画像をスクロール画像上に表示するために必要なポインタ画像用画像データを画像データとして画像表示装置に提供するものである。ここで「スクロール画像」とは、移動する背景画像であって、スクロール画像の移動方向は、左右方向、上下方向、斜め方向のいずれであってもよい。パーソナルコンピュータをハードウエアとして使用する場合には、操作するコントローラとは、典型的にはマウスである。またスタイラスとは、接触式(タッチパネル式)の入力装置で操作面上に先端を接触させて入力をする場合に用いるペン型の器具である。また操作画面上を移動する指の動きは、スタイラスの代わりに人の指を使用する接触式の入力装置により検出される。この種の接触式の入力装置では、操作面をスタイラスや指で押す際の押圧力を検出できるものを利用してもよい。そして「ポインタ画像」とは、カーソル(キャラクタの画像等のように特定の画像等でもよい)や、スタイラスや指の接触点の軌跡を示す画像等のように、スクロール画像上に表示される画像である。なおポインタ画像用画像データ提供手段は、パーソナルコンピュータをハードウエアとして使用する場合であれば、プログラムによって実現される手段である。
また関係継続期間検出手段は、スクロール画像用画像データとポインタ画像用画像データとに基づいて、スクロール画像中の特定領域画像に対して、ポインタ画像が予め定めた位置関係になった後、特定領域画像に対してポインタ画像が予め定めた位置関係ではなくなるまでの関係継続期間を検出する。ここで特定領域画像とは、スクロール画像中に任意に定められる領域であり、その形状は特に限定されるものではない。例えば、帯状の画像でもよく、キャラクタや建物の画像でもよい。また特定領域画像に対してポインタ画像が予め定めた位置関係とは、典型的には、特定領域画像にポインタ画像が入っている関係である。しかしながら特定領域画像にポインタ画像が入る直前において、この位置関係が成立するものと定めてもよく、さらに特定領域画像からポインタ画像が出た直後でも、まだこの位置関係が成立しているものと定めてもよい。関係継続期間検出手段は、パーソナルコンピュータをハードウエアとして使用する場合であれば、プログラムによって実現される手段である。
またスクロール変更指令発生手段は、関係継続期間検出手段が関係継続期間を検出しているときに、スクロール画像のスクロール速度及び/またはスクロール方向を変更するスクロール変更指令を発生する。すなわちスクロール速度だけを変更する場合、スクロール方向を変更する場合、スクロール速度及びスクロール方向の両方を変更する場合の3タイプの変更のいずれかが実行可能である。この手段もパーソナルコンピュータをハードウエアとして使用する場合であれば、プログラムによって実現される手段である。
上記の装置及び手段を用いる場合において、画像表示装置は、スクロール変更指令が入力指令として入力されているときには、スクロール変更指令に応じて、スクロール画像のスクロール速度及び/またはスクロール方向を変更する。ポインタ画像の変化速度は操作者によって決定される。ポインタ画像の移動方向によらず、スクロール変更指令が入力されたときにスクロール速度を遅くすると、ポインタ画像の速度が遅くなったような感じを受ける。この感覚の変化は、スタイラスを使用している場合であれば、スタイラスが重くなった感じ、またはスタイラスを動かす操作面の材質が変わった感じを操作者に与える。これは、スクロール速度が一定速度でポインタ画像の速度に対して十分速い状態においては、ポインタ画像を注視している操作者にとって、ポインタ画像の移動はスクロール画像との相対的な移動、つまり、スクロール画像の移動と逆側にスクロール速度と同程度の速さで移動するように知覚されている。そしてこの状態で、スクロール速度が遅くなると、ポインタの移動速度が遅くなったように感じられるためである。逆に、スクロール速度を速くすると、ポインタの移動速度が速くなったような感じを受けるのである。この感覚の変化は、スタイラスを使用している場合であれば、スタイラスが軽くなった感じ、またはスタイラスを動かす操作面の材質が変わった感じを操作者に与える。重くなった感じは、ゴムの上で書いている感じ、手ごたえがある感じを受ける等、軽くなった感じは、抵抗がなくなる、なめらかな面を移動している等、人によって感じ方は変わる。
ポインタ画像の移動方向によらず、スクロール変更指令が入力されたときにスクロール方向が変わると(例えば、スクロール方向がそれまでのスクロール方向と直交する方向に変わると)、変わったスクロール方向とは逆の方向にポインタ画像が移動するような感じを受ける。この感覚の変化は、スタイラスを使用している場合であれば、スタイラスが操作面上を滑った感じを操作者に与える。
このように本発明によれば、コントローラや、スタイラスや、指の移動速度を変えていない場合でも、スクロール速度及び/またはスクロール方向を変更することにより、ポインタ画像及び特定領域画像の両画像についての視覚情報からは、コントローラや、スタイラスや、指が、重くなったり、軽くなったり、滑ったりする感覚の変化を仮想で提示する(感じさせる)ことができる。
本発明の第2のタイプの仮想感覚提示装置は、操作するものがなく、画像表示装置が画像を表示している状態で、その画像の観察者に仮想の感覚の変化を提示する。そこでこの第2のタイプの仮想感覚提示装置では、画像表示装置と、スクロール画像用画像データ提供手段と、位置関係検出手段と、関係継続期間検出手段と、スクロール変更指令発生手段とを備えている。位置関係検出手段は、スクロール画像を見ている観察者とスクロール画像中の特定領域画像との位置関係を検出する。位置関係検出手段は、画像表示装置側に固定した複数台のカメラを使用して得た画像データから、観察者の位置の変化を検出し、その結果に基づいて観察者と特定領域画像との位置関係を検出するようにしてもよい。いずれにしても位置関係検出手段の構成は任意である。そして関係継続期間検出手段は、位置関係検出手段が検出する位置関係が、予め定めた位置関係になった後、予め定めた位置関係がなくなるまでの関係継続期間を検出する。その他の装置及び各手段は、第1のタイプの仮想感覚提示装置で用いる装置及び手段と同様の機能を有する。
第2のタイプの仮想感覚提示装置では、特定領域画像に対する観察者の移動速度と移動方向と、スクロール画像のスクロール方向及びスクロール速度との関係を変えることにより、観察者に感覚の変化を感じさせることができる。例えば、スクロール変更指令が入力されたときにスクロール速度を遅くすると、観察者の実際の移動速度、移動方向とは関係なく、観察者は自分自身の移動速度も遅くなったと感じる。この視覚情報に基づく感覚の変化は、観察者に、体が重くなったような感覚を与える。これは、スクロール速度が一定速度であり、観察者の移動速度に対して速ければ、観察者は、スクロール画像に対する相対移動を主に知覚する。そしてこの状態から、スクロール速度が遅くなると、自身の移動速度が遅くなったと感じる。またこの状況において、スクロール速度をさらに速くすると、観察者は自分自身の移動速度が速くなったと感じ、その結果として体が軽くなったような感覚を得る。なおスクロール速度と観察者の移動速度との差が大きいほど、観察者が受ける感覚の変化は大きくなる。
第2のタイプの仮想感覚提示装置では、特定領域画像に対する観察者の移動速度と移動方向と、スクロール画像のスクロール方向及びスクロール速度との関係を変えることにより、観察者に感覚の変化を感じさせることができる。例えば、観察者の移動方向とスクロール画像のスクロール方向が一致している場合(スクロール方向が左右方向で、観察者がスクロール方向と同じ左右方向に画像を見ながら移動している場合)に、スクロール変更指令が入力されたときにスクロール速度を遅くすると、観察者の実際の移動速度とは関係なく、特定領域画像の速度が遅くなったと感じる。その結果、観察者は自分自身の移動速度も遅くなったと感じることになる。この視覚情報に基づく感覚の変化は、観察者に、体が重くなったような感覚を与える。またこの状況において、スクロール速度を速くすると、特定領域画像についての視覚情報からは、観察者は特定領域画像の速度が速くなった感じを受ける。この視覚情報に基づく感覚の変化は、観察者に、自分自身の移動速度も速くなった感覚を与え、その結果として体が軽くなったような感覚を与える。
さらにスクロール画像が観察者の前方のスクリーンに映されている状態で、スクロール方向が、例えば、左右方向であったときに、観察者が画像を見ながら左右方向に移動しているとする。このときに、スクロール方向が上下方向に変化した場合には、観察者は、斜め上方に移動している、または斜め下方に移動している感覚を受けることになる。またスクロール画像のスクロール方向が、例えば、上下方向であったときに、観察者が画像に向かって移動しているとする。このときに、スクロール方向が左右方向に変化した場合には、観察者は、自分自身が横方向に引っ張られている感覚を受ける。
また第3のタイプの仮想感覚提示装置においては、ポインタ画像用画像データ提供手段が、スクロール画像を見ている操作者が操作面上を移動させるスタイラスの動きと押圧力または操作者が操作面上に移動させる指の動きと押圧力とを検出する操作検出手段を含んで構成されており、操作検出手段の出力に基づいて、ポインタ画像用画像データを画像データとして画像表示装置に提供する。この場合には、次のように、スクロール変更指令発生手段を構成してもよい。すなわちスクロール変更指令発生手段を、関係継続期間検出手段が関係継続期間を検出しているときに、操作検出手段が検出する押圧力に応じてスクロール画像のスクロール速度を変更するスクロール変更指令を発生するように構成する。そして画像表示装置は、スクロール変更指令が入力指令として入力されているときには、スクロール変更指令に応じて、スクロール画像のスクロール速度を変更するように構成する。ポインタ画像の移動方向によらず、関係継続期間中に押圧力が大きくなったことを示すスクロール変更指令が入力されたときに、スクロール速度を遅くすると、ポインタ画像及び特定領域画像の両画像についての視覚情報から、ポインタ画像の速度が遅くなったような感じを受ける。この感覚の変化は、スタイラスを使用している場合であれば、押圧力の増加にもかかわらず、ポインタ移動が遅くなる、つまり、スタイラスが重く、もしくはスタイラスを動かす操作面の抵抗が大きくなった感じを受ける。逆に、関係継続期間中に押圧力が大きくなったことを示すスクロール変更指令が入力されたときに、スクロール速度を速くすると、ポインタ画像及び特定領域画像の両画像についての視覚情報からは、ポインタ画像の速度が速くなったような感じを受ける。この感覚の変化は、スタイラスを使用している場合であれば、押圧力の増加によって、スタイラスが軽くなったもしくは、スタイラスを動かす操作面の抵抗が小さく、滑らかになった感じを受ける。
なお第1乃至第3のいずれのタイプの仮想感覚提示装置においても、スクロール変更指令発生手段に、スクロール変更指令と一緒に特定領域画像またはスクロール画像全体を振動させる画像振動指令を発生する機能を付加してもよい。そして画像表示装置は、画像振動指令が前記入力指令として入力されているときには、特定領域画像またはスクロール画像全体を振動させるように構成する。このようにすると操作者は、移動させているコントローラ等が凹凸の上を移動しているかのような感覚を受ける。また観察者は、移動中の床面に凹凸があるかのような感覚を受ける。
また、スクロール変更指令発生手段に、スクロール変更指令と一緒に特定領域画像の視覚的特徴を変更させる視覚的特徴変更指令を発生する機能を付加してもよい。そして画像表示装置は、視覚的特徴変更指令が入力指令として入力されているときには、特定領域画像の視覚的特徴を変更するように構成する。例えば、特定領域画像を振動させる場合等に、視覚的特徴変更指令を発生する。
またスクロール変更指令によるスクロール速度の変更には、特定領域画像を予め定めた時間停留(一時的な停止状態の発生)させることを含めてもよいのは勿論である。このようにすると、それまでとは明らかに異なる領域に入ったとの感覚を操作者や観察者に与えることができる。なお予め定めた時間を300〜400msとすると、停止した感覚ではなく、異なる領域に入ったという感覚だけを与えることができる。なおこの時間が短すぎると、この感覚は得られず、この時間が長すぎると、停止したという感覚が強く現れてしまう。
また前記画像表示装置は、スクロール画像を画面に表示しているときに、スクロール速度に応じてテンポが変わる音響を出力する音響発生装置をさらに備えていてもよい。このような音響発生装置を設けると、例えばコントローラ等が重いと感じているときに音響のテンポを長くすると、聴覚からも重さが重くなっていることを感じることになり、仮想の感覚の提示効果を増大させることができる。同様に、記画像表示装置が、スクロール画像を画面に表示しているときに、スクロール速度に応じて音強(振幅の大きさ)が変わる音響を出力する音響発生装置をさらに備えていてもよい。この場合には、例えば、軽いと感じているときに、音強が弱くなると、聴覚からも重さが軽くなっていることを感じさせることになり、仮想の感覚の提示効果を増大させることができる。
本発明の第1のタイプの仮想感覚提示装置の実施の形態の一例の構成を示すブロック図である。
(A)乃至(D)は、入力装置としてマウスを利用した場合における、ディスプレイ装置の画面に表示される画像の変化の一例を説明するための図である。
スクロール速度を変えた場合の状況を説明するために用いる図である。
スタイラスを用いて入力する場合の状況を説明するために用いる図である。
図1の実施の形態の主たる部分をコンピュータを利用して実現する場合に用いるプログラムの一例のアルゴリズムを示すフローチャートである。
スクロール画像とポインタ画像(スタイラスの先端の軌跡)との関係を概念的に示す図である。
指を操作面を兼ねる画面上で移動させて、指の動きを検出する場合の状態の一例を示す図である。
本発明の第2のタイプの仮想感覚提示装置の実施の形態の一例の構成を示すブロック図である。
第2のタイプの仮想感覚提示装置を実用化した場合の一例の状況を説明するために用いる図である。
図9の構成の主要部をコンピュータを利用して実現する場合に用いるプログラムのアルゴリズムの一例を示すフローチャートである。
第1のタイプの仮想感覚提示装置を発展させた第3のタイプの仮想感覚提示装置の構成を示すブロック図である。
図12の構成の主要部をコンピュータを利用して実現する場合に用いるプログラムのアルゴリズムの一例を示すフローチャートである。
以下、図面を参照して、本発明の仮想感覚提示装置の実施の形態を詳細に説明する。図1は本発明の第1のタイプの仮想感覚提示装置の実施の形態の一例の構成を示すブロック図である。この仮想感覚提示装置1は、画像表示装置3と、スクロール画像用画像データ提供手段5と、ポインタ画像用画像データ提供手段7と、関係継続期間検出手段9と、スクロール変更指令発生手段11と、音響発生装置13とを備えている。画像表示装置3は、ディスプレイ装置31と、このディスプレイ装置31の画面上に画像を表示するためのドライブ回路32とから構成されている。またスクロール画像用画像データ提供手段5は、ディスプレイ装置31の画面に、スクロールするスクロール画像を表示するために必要なスクロール画像用画像データを画像データとして画像表示装置3のドライブ回路32に提供する。
ポインタ画像用画像データ提供手段7は、スクロール画像を見ている操作者が操作する入力装置8の動きに応じて、スクロール画像上をコントロール可能に移動するポインタ画像をスクロール画像上に表示するために必要なポインタ画像用画像データを画像データとして画像表示装置3のドライブ回路32に提供する。ここで入力装置8としては、マウスなどのコントローラや、スタイラスまたは操作者の指そのものの動きを検出する接触式操作面を備えた接触式の入力装置である。したがってポインタ画像用画像データ提供手段7には、入力装置8からコントローラの動き、操作者が操作面上を移動させるスタイラスの動き、または操作者が操作面上を移動させる指の動きが入力される。なお本願明細書では、「スクロール画像」とは、移動する背景画像であって、スクロール画像の移動方向は、左右方向、上下方向、斜め方向のいずれであってもよい。
図2(A)乃至(D)は、入力装置8としてマウスを利用した場合における、ディスプレイ装置31の画面DSに表示される画像の変化の一例を説明するための図である。図2から判るように、この例では、スクロール画像は画面の右から左にスクロールする(背景画像が移動する)。
パーソナルコンピュータをハードウエアとして使用する場合には、操作するコントローラとは典型的にはマウスである。スタイラスは、接触式(タッチパネル式)の入力装置で操作面上に先端を接触させて入力をする場合に用いるペン型の器具である。接触式の入力装置は、ディスプレイモニタとマトリクス・スイッチ等を組み合わせて構成されているものが多い。またディスプレイモニタが、前述の画像表示装置3のディスプレイ装置31(画像表示部)と兼用される場合も多い。この例では、図2(A)に示す矢印がポインタ画像Pである。
また関係継続期間検出手段9は、スクロール画像用画像データD1とポインタ画像用画像データD2とに基づいて、スクロール画像中の特定領域画像S(図2参照)に対して、ポインタ画像Pが予め定めた位置関係になった後、特定領域画像Sに対してポインタ画像Pが予め定めた位置関係ではなくなるまでの間の関係継続期間Tを検出する。ここで特定領域画像Sとは、スクロール画像中に任意に定められる領域であり、その形状は特に限定されるものではない。図2の例では、特定領域画像Sが、帯状の画像として示されている。ここで特定領域画像Sに対してポインタ画像Pが予め定めた位置関係とは、典型的には、特定領域画像Sにポインタ画像Pが入っている関係である。なお特定領域画像Sにポインタ画像Pが入る直前において、この位置関係が成立するものと定めてもよく、さらに特定領域画像Sからポインタ画像Pが出た直後でも、まだこの位置関係が成立しているものと定めてもよいのは勿論である。
スクロール変更指令発生手段11は、関係継続期間検出手段9が関係継続期間Tを検出しているときに、スクロール画像のスクロール速度及び/またはスクロール方向を変更するスクロール変更指令Cを発生する。なお本実施の形態では、スクロール変更指令発生手段11は、音響発生装置にもスクロール変更指令Cを入力するように構成されている。本例では、後述するプログラムの設定により、スクロール速度だけを変更すること、スクロール方向を変更すること、スクロール速度及びスクロール方向の両方を変更することの3タイプの変更のいずれかが実行可能である。
音響発生装置13は、スクロール画像のスクロール速度に比例してテンポまたは音強(振幅の大きさ)が変わる音響を、スクロール画像と同期して出力する。
図1の装置において、画像表示装置3は、スクロール変更指令Cが入力指令として入力されているときには、スクロール変更指令Cに応じて、スクロール画像のスクロール速度及び/またはスクロール方向を変更する。図2の例では、スクロール速度だけが変更される。ポインタ画像の変化速度は操作者によって決定される。図2の例では、ポインタ画像Pの移動方向とスクロール画像のスクロール方向が一致している。この例では、ポインタ画像Pが特定領域画像S内に入っている期間において、スクロール変更指令Cが画像表示装置3に入力されて、スクロール速度は遅くなる。図2においては、画面Dの上に表示した矢印(ポインタ画像P)の長さは、スクロール表示の速度に比例した大きさを有している。ポインタ画像Pが特定領域画像S内に入っている期間においては、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報から、ポインタ画像Pの速度が遅くなったような感じを操作者は受ける。この感覚の変化は、コントローラとしてマウスを使用している場合であれば、マウスが重くなった感じを操作者に与える。またこの状況において、逆に、スクロール速度を速くすると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報からは、ポインタ画像の速度が速くなったような感じを受ける。この感覚の変化は、マウスを使用している場合であれば、マウスが軽くなった感じを操作者に与える。なお図2の例では、関係継続期間T中、特定領域画像Sを左右に振動させている。そのため操作者には、あたかもマウスが振動しているかの感覚を与えることができる。この関係は、図3に示すように整理することができる。
また図2の例とは異なって、ポインタ画像Pの移動方向とスクロール画像のスクロール方向が逆の関係にある場合でも、スクロール変更指令Cが入力されたときにスクロール速度を遅くすると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報からは、ポインタ画像Pの速度が遅くなったような感じを受ける。この感覚の変化は、図4に示すようにスタイラスSTを使用している場合であれば、スタイラスSTが重くなった感じまたはスタイラスSTを動かす操作面の材質が変わった感じを操作者に与える。またこの状況において、スクロール速度を速くすると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報からは、ポインタ画像Pの速度が速くなったような感じを受ける。この感覚の変化は、スタイラスSTを使用している場合であれば、スタイラスSTが軽くなった感じまたはスタイラスSTを動かす操作面の材質が変わった感じを操作者に与える。
さらにポインタ画像Pの移動方向とスクロール画像のスクロール方向が一致している場合に、スクロール変更指令Cが入力されたときにスクロール方向がそれまでのスクロール方向と直交する方向に変わると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報からは、ポインタ画像Pが変わったスクロール方向に移動するような感じを受ける。この感覚の変化は、スタイラスSTを使用している場合であれば、スタイラスSTが操作面上を滑った(勝手にスタイラスが上下、左右または斜め方向に移動した)感じを操作者に与える。
このように本実施の形態の装置によれば、コントローラや、スタイラスや、指の移動速度を変えていない場合でも、スクロール速度及び/またはスクロール方向を変更することにより、ポインタ画像及び特定領域画像の両画像についての視覚情報からは、コントローラや、スタイラスや、指が、重くなったり、軽くなったり、滑ったりする感覚の変化を操作者に仮想で提示することができる。
また本実施の形態のように、スクロール画像を画面に表示しているときに、スクロール速度に応じてテンポが変わる音響を音響発生装置13から出力するようにすると、仮想の感覚の提示効果を増大させることが可能になる。例えばコントローラ等が重いと感じているときに音響のテンポを長くすると、聴覚からも重さが重くなっていることを感じることになり、仮想の感覚の提示効果を増大させることができる。また仮想の感覚でコントローラ等が軽いと感じているときに、音強が弱くなると、聴覚からも重さが軽くなっていることを感じさせることになり、仮想の感覚の提示効果を増大させることができる。
図5は、図1の実施の形態の画像表示装置3、入力装置8及び音響発生装置13を除いた主たる部分をコンピュータを利用して実現する場合に用いるプログラムの一例のアルゴリズムを示すフローチャートである。なおこのプログラムがコンピュータにインストールされて動作することにより、コンピュータ内に図1の各手段が実現されることになる。なお各種のデータは、コンピュータに付随するメモリに記憶されているのは当然である。ステップST1で、スクロール画像を表示するために利用されるスクロール画像用画像データD1が入力される。そしてステップST2でポインタ画像を表示するために利用されるポインタ画像用画像データD2が入力される。さらにステップST3で音響発生装置13で再生される音響データが入力される。これらのデータが入力されると、ステップST4で、画像表示装置3ではスクロール画像の表示が開始され、また入力装置8が操作されるとポインタ画像の表示が開始される。さらにスクロール画像の表示と同期して音響が出力される。ステップST5では、特定領域画像Sとポインタ画像Pとが特定の位置関係になったか否かの判定が行われる。そしてステップST5で、特定領域画像Sとポインタ画像Pとが特定の位置関係になった(成立した)ことが判定されると、ステップST6へと進み、特定の位置関係が成立しないと判定された場合は、ステップST4へと戻り、画像表示と音響出力が行われる。ステップST6では、スクロール速度及び/またはスクロール方向を変更し、特定領域画像を振動させ、音響のテンポまたは音強さを変更する。そしてステップST7で、特定領域画像とポインタ画像とが特定の位置関係からはずれた(関係が解消された)か否かの判定が行われる。特定の位置関係が解消されたことをステップST7で判定すると、ステップST4へと戻って同じ動作が繰り返され、特定の位置関係が解消されていないとステップST7で判定された場合は再度ステップST7の動作が行われる。
図6は、このプログラムが実行されているときのスクロール画像とポインタ画像(スタイラスの先端の軌跡)との関係を概念的に示している。このような環境は、円環状のキャンバスCCを回転させながら絵を描くドローイング環境と同じである。操作者は、円環状のキャンバスCCを回転させながら絵を描くことになるため、引いている線にキャンバスCCの影響が出て、予期しない線が得られることがある。これをパーソナルコンピュータを利用して実現する場合には、画面DがキャンバスCCになり、スタイラスSTがペンとなる。そして画面上に視覚的に手がかりとなる画像(特定領域画像)を表示する。この画像としては、平面的に凸凹を表現する陰影をつけた画像でもよい。この場合には、凸面を明るくし、凹面を影に見せるように表現する。そして凸面にさしかかかると、スタイラスSTで描いている線の明るさを暗くして、スクロール画像(背景画像)のスクロール速度を遅くする。また凸面の終わりには、線の明るさを明るくするとともにスクロール速度を速くする(元の速さに戻す)。このようにすると凸凹の触覚要素を描画環境でも得ることができる。
また図7は、指Fを操作面を兼ねる画面D上で移動させて、指Fの動きを検出する場合の状態の一例を示している。図7に示すように、スクロール画像中に形状の異なる複数の特定領域画像S1及びS2を表示するようにしてもよいのは勿論である。また指Fの移動方向も任意であり、スクロール画像のスクロール方向も任意である。
また上記実施の形態において、スクロール変更指令Cによるスクロール速度の変更には、特定領域画像Sを予め定めた時間停留(一時的な停止状態の発生)させることを含めてもよい。このようにすると、それまでの領域から異なる領域に入ったことを確実に感じさせることができる。なおこの予め定めた時間を300〜400msとすると、この感覚を確実に提供できる。
図8は、本発明の第2のタイプの仮想感覚提示装置の実施の形態の一例の構成を示すブロック図である。図2では、図1のブロック図で用いている構成要素と同じブロックに、図1で示した符号の数に100の数を加えた符号を付して説明を省略する。この仮想感覚提示装置101では、操作するものがなく、画像表示装置103が画像を表示している状態で、その画像を観察する観察者Mに仮想の感覚の変化を提示する。そこでこの第2のタイプの仮想感覚提示装置の実施の形態では、画像表示装置103と、スクロール画像用画像データ提供手段105と、位置関係検出手段108と、関係継続期間検出手段109と、スクロール変更指令発生手段111と、音響発生装置113とを備えている。この実施の形態では、図9に示すように、画像表示装置103のディスプレイ装置131は観察者Mが歩く床面に設置される。そして位置関係検出手段108は、ディスプレイ装置131の画面Dに表示されるスクロール画像を見ている観察者Mとスクロール画像中の特定領域画像Sとの位置関係を検出する。図9に示すように位置関係検出手段108は、画像表示装置103側に固定した2台のカメラCM1及びCM2を使用して得た画像データから、観察者の位置の変化を検出し、その結果に基づいて観察者Mと特定領域画像Sとの位置関係を検出する。なお位置関係検出手段108の検出構造の構成は任意であり、複数の赤外線センサを利用して位置関係を検出するようにしてもよい。関係継続期間検出手段109は、位置関係検出手段108が検出する位置関係が、予め定めた位置関係になった後、予め定めた位置関係がなくなるまでの関係継続期間Tを検出する。その他の装置103及び113及び各手段105及び111は、図1に示した第1のタイプの仮想感覚提示装置1で用いる対応する装置及び手段と同様の機能を有する。
なお第2のタイプの仮想感覚提示装置101では、特定領域画像Sに対する観察者Mの移動速度及び移動方向と、スクロール画像のスクロール方向及びスクロール速度との関係を変えることにより、観察者Mに感覚の変化を感じさせることができる。例えば、図9に示すように、観察者Mの移動方向とスクロール画像のスクロール方向が一致している場合に、スクロール変更指令Cが入力されたときにスクロール速度を速くすると、特定領域画像Sについての視覚情報からは、特定領域画像Sの速度が速くなったような感じを受ける。この視覚情報に基づく感覚の変化は、観察者Mに、自分自身の速度が速くなって、体が軽くなったような感覚を与える。また逆に、スクロール速度を遅くすると、観察者の速度も遅くなった感覚になって、観察者の体が重くなった仮想の感じを観察者Mに与えることができる。
また観察者Mの移動方向とスクロール画像のスクロール方向が逆の関係にある場合でも、スクロール変更指令Cが入力されたときにスクロール速度を遅くすると、視覚情報からは、特定領域画像Sの速度が遅くなったような感じを受ける。この感覚の変化は、観察者Mに、自分自身の移動速度が遅くなったような感覚、または体が重くなったような感覚を与える。またこの状態でも、スクロール変更指令Cが入力されたときにスクロール速度を速くすると、視覚情報からは、特定領域画像Sの速度が速くなったような感じを受ける。この感覚の変化は、観察者Mに、自分自身の移動速度が速くなったような感覚、または体が軽くなったような感覚を与える。
図10は、図8の構成の主要部をコンピュータを利用して実現する場合に用いるプログラムのアルゴリズムの一例を示すフローチャートである。なおステップST21乃至27のうち、ステップST25及び27において、特定領域画像Sと観察者Mとの位置関係を判断している点を除いては、図5に示したフローチャートの各ステップと実質的に変わるところはないので、各ステップの説明は省略する。
なおスクロール画像が観察者Mの前方にある長い壁に表示されて、そのスクロール方向が、例えば、左右方向であったときに、観察者Mが画像を見ながら左右方向に移動しているとする。このときに、スクロール方向が上下方向に変化した場合には、観察者Mは、斜め上方に移動している、または斜め下方に移動している感覚を受けることになる。またスクロール画像のスクロール方向が、例えば、上下方向であったときに、観察者Mが画像Dに向かって移動しているとする。このときに、スクロール方向が左右方向に変化した場合には、観察者Mは、自分自身が横に引っ張られているような感覚を受ける。
図11は、第1のタイプの仮想感覚提示装置を発展させた第3のタイプの仮想感覚提示装置の構成を示すブロック図である。図11では、図1のブロック図で用いている構成要素と同じブロックに、図1に示した符号の数に200の数を加えた符号を付して説明を省略する。この実施の形態では、ポインタ画像用画像データ提供手段207が、スクロール画像を見ている操作者が操作面上を移動させるスタイラスSTの動きと押圧力、または操作者が操作面上に移動させる指Fの動きと押圧力とを検出する操作検出手段207aを含んで構成されている点で、図1の構成とは異なる。押圧力を検出できる操作検出手段207aとしては、例えば、操作面の四隅に力センサを配置して、力センサの出力から押圧力を検出するものを用いることができる。またスクロール変更指令発生手段211を、関係継続期間検出手段209が関係継続期間Tを検出しているときに、操作検出手段207aが検出する押圧力に応じてスクロール画像のスクロール速度を変更するスクロール変更指令Cを発生するように構成してある。そして画像表示装置203は、スクロール変更指令Cが入力指令として入力されているときには、スクロール変更指令Cに応じて、スクロール画像のスクロール速度を変更するように構成されている。このようにすると、操作者の意思の変化に応じて押圧力が変化することになる。
この例では、ポインタ画像Pの移動方向によらず、関係継続期間T中に押圧力が大きくなったことを示すスクロール変更指令Cが入力されたときに、スクロール速度を遅くすると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報から、ポインタ画像Pの速度が遅くなったような感じを受ける。この感覚の変化は、スタイラスSTを使用している場合であれば、押圧力の増加にもかかわらず、ポインタ移動が遅くなる、つまり、スタイラスSTが重く、もしくはスタイラスSTを動かす操作面の抵抗が大きくなった感じを受ける。逆に、関係継続期間T中に押圧力が大きくなったことを示すスクロール変更指令Cが入力されたときに、スクロール速度を速くすると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報からは、ポインタ画像Pの速度が速くなったような感じを受ける。この感覚の変化は、スタイラスSTを使用している場合であれば、押圧力の増加によって、スタイラスSTが軽くなったもしくは、スタイラスSTを動かす操作面の抵抗が小さく、滑らかになった感じを受ける。
図12は、図11の構成の主要部をコンピュータを利用して実現する場合に用いるプログラムのアルゴリズムの一例を示すフローチャートである。なおステップST31乃至38のうち、ステップST36で押圧力を検出する点、ステップST37で押圧力に応じてスクロール速度を変更する点を除いて、図5に示したフローチャートの各ステップと実質的に変わるところはないので、各ステップの説明は省略する。
なお第2及び第3のいずれのタイプの仮想感覚提示装置においても、スクロール変更指令発生手段111及び211に、スクロール変更指令Cと一緒に特定領域画像Sまたはスクロール画像全体を振動させる画像振動指令(視覚的特徴変更指令)を発生する機能を付加してもよい。そして画像表示装置103及び203は、画像振動指令(視覚的特徴変更指令)が前記入力指令として入力されているときには、特定領域画像Sまたはスクロール画像全体を振動させるように構成する。このようにすると操作者Mは、移動させているコントローラ等が凹凸の上を移動しているかのような感覚を受ける。また観察者Mは、移動中の床面に凹凸があるかのような感覚を受ける。
なお、視覚的特徴変更指令による特定領域画像の視覚的特徴の変更は、前述の振動だけでなく、色の変更や、点滅等種々の変更を含むものである。
本発明の仮想感覚提示装置によれば、コントローラや、スタイラスや、指の移動速度を変えていない場合でも、スクロール速度及び/またはスクロール方向を変更することにより、ポインタ画像及び特定領域画像の両画像についての視覚情報からは、コントローラや、スタイラスや、指が、重くなったり、軽くなったり、滑ったりする感覚の変化を仮想で提示する(感じさせる)ことができる。
また本発明の別の仮想感覚提示装置によれば、特定領域画像に対する観察者の移動速度と移動方向と、スクロール画像のスクロール方向及びスクロール速度との関係を変えることにより、観察者に感覚の変化を感じさせることができる。
本発明は、視覚情報に基づいて、実際には発生していない現象を、あたかも実際に発生しているかのごとくに感じることを可能にする仮想感覚提示装置を提供することにある。
A. Lecuyer, J. Burkhardt, 及びL. Etenne,著の “Feeling bumps and holes without a haptic interface: the perception of pseudo-haptics textures”, SIGCHI, 2004.(非特許文献1)には、ユーザの操作で移動するポインタの移動速度を変化させることで、凹凸感をユーザに感じさせる触覚提示手法が提案されている。またA. Lecuyer, S. Coquillart, A. Kheddar, P. Richard 及びP. Coiffet,著の "Pseudo-Haptic Feedback: Can Isometric Input Devices Simulate Force Feedback?", IEEE International Conference on Virtual Reality (IEEE VR), pages 83-90, 2000.(非特許文献2)には、ユーザの操作によって変化する画像の、変化の割合を変化させることで、ユーザに力覚(重い、軽いの感覚)を感じさせる手法が提案されている。しかしながらこれらの公知技術では、マウスのような操作用コントローラでポインタ画像(カーソル)の動きを制御する場合のように、コントローラを使用する場合にしか適用することができない。なお画像上の特定の位置に対してカーソルの動作速度を遅くする技術は、特開2000-148350号公報(特許文献1)、特開2006−268662号公報(特許文献2)等にも記載されているように、操作者の意図に応じてカーソルの移動量を制御できるようにする目的でも採用されている技術である。
"Feeling bumps and holes without a haptic interface: the perception of pseudo-haptics textures", SIGCHI, 2004.
"Pseudo-Haptic Feedback: Can Isometric Input Devices Simulate Force Feedback?", IEEE International Conference on Virtual Reality (IEEE VR), pages 83-90, 2000.
特開2000-148350号公報
特開2006−268662号公報
しかしながら従来は、視覚情報に基づいて、操作用のコントローラを使用する人に、仮想の皮膚感覚・力感覚を確実に与えることができず、またコントローラを使用しない人(操作者および観察者等)に仮想の平衡感覚を、確実に提示することができる仮想感覚提示装置はなかった。
本発明の目的は、仮想の皮膚感覚・力感覚または仮想の平衡感覚を、確実に提示することができる仮想感覚提示装置を提供することにある。
人間は視触覚を深く結びつけて環境を認識している。環境に対して行動を行った結果、視覚的にも触覚的にも一貫したフィードバックが行われることで、環境に存在する物体を認識している。そして、その際、視触覚はお互いに影響を与え合う。例えば、ペンで線を描くとき、紙の上に描く場合と、他の材質に描く場合では、その見えも触覚的反力も異なる。このように、視覚的変化と触覚的変化は、通常、同時に起こり、それらは関係付けられている。ということは、視触覚が関係付けられた状態で、なんらかの視覚的変化が起こると、それにつられて、触覚的変化も起きたものと人間は錯覚する。そこで、適宜の視覚情報を提示することで、触覚提示装置は一切存在しなくても、視覚的変化だけで、触覚的感覚を提示することが可能となる。本発明はこのようなことを背景にして、ユーザに擬似的な(仮想の)触感覚(皮膚感覚+力感覚)や擬似的な仮想の平衡感覚を生成させる。すなわち本発明は、人間の知覚における視覚と触感覚・平衡感覚の関係性を利用したものである。本発明によれば、大掛かりなデバイスを使用する代わりに、人間の錯覚を利用するため、どこでも、安価に触感覚を提示することが可能である。
具体的には、まず本発明の第1のタイプの仮想感覚提示装置は、画像表示装置と、スクロール画像用画像データ提供手段と、ポインタ画像用画像データ提供手段と、関係継続期間検出手段と、スクロール変更指令発生手段とを備えている。画像表示装置は、画像データと入力指令とに基づいて画面に画像を表示する。例えば、パーソナルコンピュータをハードウエアとして使用する場合であれば、ディスプレイ装置と、このディスプレイ装置の画面上に画像を表示するためのドライブ回路とがこの画像表示装置に該当する。
スクロール画像用画像データ提供手段は、画面に、スクロールするスクロール画像を表示するために必要なスクロール画像用画像データを画像データとして画像表示装置に提供する。スクロール画像用画像データ提供手段は、パーソナルコンピュータをハードウエアとして使用する場合であれば、プログラムによって実現される手段である。
ポインタ画像用画像データ提供手段は、スクロール画像を見ている操作者が操作するコントローラの動き、この操作者が操作面上を移動させるスタイラスの動き、またはこの操作者が操作面上を移動させる指の動きに応じて、スクロール画像上をコントロール可能に移動するポインタ画像をスクロール画像上に表示するために必要なポインタ画像用画像データを画像データとして画像表示装置に提供するものである。ここで「スクロール画像」とは、移動する背景画像であって、スクロール画像の移動方向は、左右方向、上下方向、斜め方向のいずれであってもよい。パーソナルコンピュータをハードウエアとして使用する場合には、操作するコントローラとは、典型的にはマウスである。またスタイラスとは、接触式(タッチパネル式)の入力装置で操作面上に先端を接触させて入力をする場合に用いるペン型の器具である。また操作画面上を移動する指の動きは、スタイラスの代わりに人の指を使用する接触式の入力装置により検出される。この種の接触式の入力装置では、操作面をスタイラスや指で押す際の押圧力を検出できるものを利用してもよい。そして「ポインタ画像」とは、カーソル(キャラクタの画像等のように特定の画像等でもよい)や、スタイラスや指の接触点の軌跡を示す画像等のように、スクロール画像上に表示される画像である。なおポインタ画像用画像データ提供手段は、パーソナルコンピュータをハードウエアとして使用する場合であれば、プログラムによって実現される手段である。
また関係継続期間検出手段は、スクロール画像用画像データとポインタ画像用画像データとに基づいて、スクロール画像中の特定領域画像に対して、ポインタ画像が予め定めた位置関係になった後、特定領域画像に対してポインタ画像が予め定めた位置関係ではなくなるまでの関係継続期間を検出する。ここで特定領域画像とは、スクロール画像中に任意に定められる領域であり、その形状は特に限定されるものではない。例えば、帯状の画像でもよく、キャラクタや建物の画像でもよい。また特定領域画像に対してポインタ画像が予め定めた位置関係とは、典型的には、特定領域画像にポインタ画像が入っている関係である。しかしながら特定領域画像にポインタ画像が入る直前において、この位置関係が成立するものと定めてもよく、さらに特定領域画像からポインタ画像が出た直後でも、まだこの位置関係が成立しているものと定めてもよい。関係継続期間検出手段は、パーソナルコンピュータをハードウエアとして使用する場合であれば、プログラムによって実現される手段である。
またスクロール変更指令発生手段は、関係継続期間検出手段が関係継続期間を検出しているときに、スクロール画像のスクロール速度及び/またはスクロール方向を変更するスクロール変更指令を発生する。すなわちスクロール速度だけを変更する場合、スクロール方向を変更する場合、スクロール速度及びスクロール方向の両方を変更する場合の3タイプの変更のいずれかが実行可能である。この手段もパーソナルコンピュータをハードウエアとして使用する場合であれば、プログラムによって実現される手段である。
上記の装置及び手段を用いる場合において、画像表示装置は、スクロール変更指令が入力指令として入力されているときには、スクロール変更指令に応じて、スクロール画像のスクロール速度及び/またはスクロール方向を変更する。ポインタ画像の変化速度は操作者によって決定される。ポインタ画像の移動方向によらず、スクロール変更指令が入力されたときにスクロール速度を遅くすると、ポインタ画像の速度が遅くなったような感じを受ける。この感覚の変化は、スタイラスを使用している場合であれば、スタイラスが重くなった感じ、またはスタイラスを動かす操作面の材質が変わった感じを操作者に与える。これは、スクロール速度が一定速度でポインタ画像の速度に対して十分速い状態においては、ポインタ画像を注視している操作者にとって、ポインタ画像の移動はスクロール画像との相対的な移動、つまり、スクロール画像の移動と逆側にスクロール速度と同程度の速さで移動するように知覚されている。そしてこの状態で、スクロール速度が遅くなると、ポインタの移動速度が遅くなったように感じられるためである。逆に、スクロール速度を速くすると、ポインタの移動速度が速くなったような感じを受けるのである。この感覚の変化は、スタイラスを使用している場合であれば、スタイラスが軽くなった感じ、またはスタイラスを動かす操作面の材質が変わった感じを操作者に与える。重くなった感じは、ゴムの上で書いている感じ、手ごたえがある感じを受ける等、軽くなった感じは、抵抗がなくなる、なめらかな面を移動している等、人によって感じ方は変わる。
ポインタ画像の移動方向によらず、スクロール変更指令が入力されたときにスクロール方向が変わると(例えば、スクロール方向がそれまでのスクロール方向と直交する方向に変わると)、変わったスクロール方向とは逆の方向にポインタ画像が移動するような感じを受ける。この感覚の変化は、スタイラスを使用している場合であれば、スタイラスが操作面上を滑った感じを操作者に与える。
このように本発明によれば、コントローラや、スタイラスや、指の移動速度を変えていない場合でも、スクロール速度及び/またはスクロール方向を変更することにより、ポインタ画像及び特定領域画像の両画像についての視覚情報からは、コントローラや、スタイラスや、指が、重くなったり、軽くなったり、滑ったりする感覚の変化を仮想で提示する(感じさせる)ことができる。
本発明の第2のタイプの仮想感覚提示装置は、操作するものがなく、画像表示装置が画像を表示している状態で、その画像の観察者に仮想の感覚の変化を提示する。そこでこの第2のタイプの仮想感覚提示装置では、画像表示装置と、スクロール画像用画像データ提供手段と、位置関係検出手段と、関係継続期間検出手段と、スクロール変更指令発生手段とを備えている。位置関係検出手段は、スクロール画像を見ている観察者とスクロール画像中の特定領域画像との位置関係を検出する。位置関係検出手段は、画像表示装置側に固定した複数台のカメラを使用して得た画像データから、観察者の位置の変化を検出し、その結果に基づいて観察者と特定領域画像との位置関係を検出するようにしてもよい。いずれにしても位置関係検出手段の構成は任意である。そして関係継続期間検出手段は、位置関係検出手段が検出する位置関係が、予め定めた位置関係になった後、予め定めた位置関係がなくなるまでの関係継続期間を検出する。その他の装置及び各手段は、第1のタイプの仮想感覚提示装置で用いる装置及び手段と同様の機能を有する。
第2のタイプの仮想感覚提示装置では、特定領域画像に対する観察者の移動速度と移動方向と、スクロール画像のスクロール方向及びスクロール速度との関係を変えることにより、観察者に感覚の変化を感じさせることができる。例えば、スクロール変更指令が入力されたときにスクロール速度を遅くすると、観察者の実際の移動速度、移動方向とは関係なく、観察者は自分自身の移動速度も遅くなったと感じる。この視覚情報に基づく感覚の変化は、観察者に、体が重くなったような感覚を与える。これは、スクロール速度が一定速度であり、観察者の移動速度に対して速ければ、観察者は、スクロール画像に対する相対移動を主に知覚する。そしてこの状態から、スクロール速度が遅くなると、自身の移動速度が遅くなったと感じる。またこの状況において、スクロール速度をさらに速くすると、観察者は自分自身の移動速度が速くなったと感じ、その結果として体が軽くなったような感覚を得る。なおスクロール速度と観察者の移動速度との差が大きいほど、観察者が受ける感覚の変化は大きくなる。
第2のタイプの仮想感覚提示装置では、特定領域画像に対する観察者の移動速度と移動方向と、スクロール画像のスクロール方向及びスクロール速度との関係を変えることにより、観察者に感覚の変化を感じさせることができる。例えば、観察者の移動方向とスクロール画像のスクロール方向が一致している場合(スクロール方向が左右方向で、観察者がスクロール方向と同じ左右方向に画像を見ながら移動している場合)に、スクロール変更指令が入力されたときにスクロール速度を遅くすると、観察者の実際の移動速度とは関係なく、特定領域画像の速度が遅くなったと感じる。その結果、観察者は自分自身の移動速度も遅くなったと感じることになる。この視覚情報に基づく感覚の変化は、観察者に、体が重くなったような感覚を与える。またこの状況において、スクロール速度を速くすると、特定領域画像についての視覚情報からは、観察者は特定領域画像の速度が速くなった感じを受ける。この視覚情報に基づく感覚の変化は、観察者に、自分自身の移動速度も速くなった感覚を与え、その結果として体が軽くなったような感覚を与える。
さらにスクロール画像が観察者の前方のスクリーンに映されている状態で、スクロール方向が、例えば、左右方向であったときに、観察者が画像を見ながら左右方向に移動しているとする。このときに、スクロール方向が上下方向に変化した場合には、観察者は、斜め上方に移動している、または斜め下方に移動している感覚を受けることになる。またスクロール画像のスクロール方向が、例えば、上下方向であったときに、観察者が画像に向かって移動しているとする。このときに、スクロール方向が左右方向に変化した場合には、観察者は、自分自身が横方向に引っ張られている感覚を受ける。
また第3のタイプの仮想感覚提示装置においては、ポインタ画像用画像データ提供手段が、スクロール画像を見ている操作者が操作面上を移動させるスタイラスの動きと押圧力または操作者が操作面上に移動させる指の動きと押圧力とを検出する操作検出手段を含んで構成されており、操作検出手段の出力に基づいて、ポインタ画像用画像データを画像データとして画像表示装置に提供する。この場合には、次のように、スクロール変更指令発生手段を構成してもよい。すなわちスクロール変更指令発生手段を、関係継続期間検出手段が関係継続期間を検出しているときに、操作検出手段が検出する押圧力に応じてスクロール画像のスクロール速度を変更するスクロール変更指令を発生するように構成する。そして画像表示装置は、スクロール変更指令が入力指令として入力されているときには、スクロール変更指令に応じて、スクロール画像のスクロール速度を変更するように構成する。ポインタ画像の移動方向によらず、関係継続期間中に押圧力が大きくなったことを示すスクロール変更指令が入力されたときに、スクロール速度を遅くすると、ポインタ画像及び特定領域画像の両画像についての視覚情報から、ポインタ画像の速度が遅くなったような感じを受ける。この感覚の変化は、スタイラスを使用している場合であれば、押圧力の増加にもかかわらず、ポインタ移動が遅くなる、つまり、スタイラスが重く、もしくはスタイラスを動かす操作面の抵抗が大きくなった感じを受ける。逆に、関係継続期間中に押圧力が大きくなったことを示すスクロール変更指令が入力されたときに、スクロール速度を速くすると、ポインタ画像及び特定領域画像の両画像についての視覚情報からは、ポインタ画像の速度が速くなったような感じを受ける。この感覚の変化は、スタイラスを使用している場合であれば、押圧力の増加によって、スタイラスが軽くなったもしくは、スタイラスを動かす操作面の抵抗が小さく、滑らかになった感じを受ける。
なお第1乃至第3のいずれのタイプの仮想感覚提示装置においても、スクロール変更指令発生手段に、スクロール変更指令と一緒に特定領域画像またはスクロール画像全体を振動させる画像振動指令を発生する機能を付加してもよい。そして画像表示装置は、画像振動指令が前記入力指令として入力されているときには、特定領域画像またはスクロール画像全体を振動させるように構成する。このようにすると操作者は、移動させているコントローラ等が凹凸の上を移動しているかのような感覚を受ける。また観察者は、移動中の床面に凹凸があるかのような感覚を受ける。
また、スクロール変更指令発生手段に、スクロール変更指令と一緒に特定領域画像の視覚的特徴を変更させる視覚的特徴変更指令を発生する機能を付加してもよい。そして画像表示装置は、視覚的特徴変更指令が入力指令として入力されているときには、特定領域画像の視覚的特徴を変更するように構成する。例えば、特定領域画像を振動させる場合等に、視覚的特徴変更指令を発生する。
またスクロール変更指令によるスクロール速度の変更には、特定領域画像を予め定めた時間停留(一時的な停止状態の発生)させることを含めてもよいのは勿論である。このようにすると、それまでとは明らかに異なる領域に入ったとの感覚を操作者や観察者に与えることができる。なお予め定めた時間を300〜400msとすると、停止した感覚ではなく、異なる領域に入ったという感覚だけを与えることができる。なおこの時間が短すぎると、この感覚は得られず、この時間が長すぎると、停止したという感覚が強く現れてしまう。
また前記画像表示装置は、スクロール画像を画面に表示しているときに、スクロール速度に応じてテンポが変わる音響を出力する音響発生装置をさらに備えていてもよい。このような音響発生装置を設けると、例えばコントローラ等が重いと感じているときに音響のテンポを長くすると、聴覚からも重さが重くなっていることを感じることになり、仮想の感覚の提示効果を増大させることができる。同様に、記画像表示装置が、スクロール画像を画面に表示しているときに、スクロール速度に応じて音強(振幅の大きさ)が変わる音響を出力する音響発生装置をさらに備えていてもよい。この場合には、例えば、軽いと感じているときに、音強が弱くなると、聴覚からも重さが軽くなっていることを感じさせることになり、仮想の感覚の提示効果を増大させることができる。
本発明の第1のタイプの仮想感覚提示装置の実施の形態の一例の構成を示すブロック図である。
(A)乃至(D)は、入力装置としてマウスを利用した場合における、ディスプレイ装置の画面に表示される画像の変化の一例を説明するための図である。
スクロール速度を変えた場合の状況を説明するために用いる図である。
スタイラスを用いて入力する場合の状況を説明するために用いる図である。
図1の実施の形態の主たる部分をコンピュータを利用して実現する場合に用いるプログラムの一例のアルゴリズムを示すフローチャートである。
スクロール画像とポインタ画像(スタイラスの先端の軌跡)との関係を概念的に示す図である。
指を操作面を兼ねる画面上で移動させて、指の動きを検出する場合の状態の一例を示す図である。
本発明の第2のタイプの仮想感覚提示装置の実施の形態の一例の構成を示すブロック図である。
第2のタイプの仮想感覚提示装置を実用化した場合の一例の状況を説明するために用いる図である。
図9の構成の主要部をコンピュータを利用して実現する場合に用いるプログラムのアルゴリズムの一例を示すフローチャートである。
第1のタイプの仮想感覚提示装置を発展させた第3のタイプの仮想感覚提示装置の構成を示すブロック図である。
図12の構成の主要部をコンピュータを利用して実現する場合に用いるプログラムのアルゴリズムの一例を示すフローチャートである。
以下、図面を参照して、本発明の仮想感覚提示装置の実施の形態を詳細に説明する。図1は本発明の第1のタイプの仮想感覚提示装置の実施の形態の一例の構成を示すブロック図である。この仮想感覚提示装置1は、画像表示装置3と、スクロール画像用画像データ提供手段5と、ポインタ画像用画像データ提供手段7と、関係継続期間検出手段9と、スクロール変更指令発生手段11と、音響発生装置13とを備えている。画像表示装置3は、ディスプレイ装置31と、このディスプレイ装置31の画面上に画像を表示するためのドライブ回路32とから構成されている。またスクロール画像用画像データ提供手段5は、ディスプレイ装置31の画面に、スクロールするスクロール画像を表示するために必要なスクロール画像用画像データを画像データとして画像表示装置3のドライブ回路32に提供する。
ポインタ画像用画像データ提供手段7は、スクロール画像を見ている操作者が操作する入力装置8の動きに応じて、スクロール画像上をコントロール可能に移動するポインタ画像をスクロール画像上に表示するために必要なポインタ画像用画像データを画像データとして画像表示装置3のドライブ回路32に提供する。ここで入力装置8としては、マウスなどのコントローラや、スタイラスまたは操作者の指そのものの動きを検出する接触式操作面を備えた接触式の入力装置である。したがってポインタ画像用画像データ提供手段7には、入力装置8からコントローラの動き、操作者が操作面上を移動させるスタイラスの動き、または操作者が操作面上を移動させる指の動きが入力される。なお本願明細書では、「スクロール画像」とは、移動する背景画像であって、スクロール画像の移動方向は、左右方向、上下方向、斜め方向のいずれであってもよい。
図2(A)乃至(D)は、入力装置8としてマウスを利用した場合における、ディスプレイ装置31の画面DSに表示される画像の変化の一例を説明するための図である。図2から判るように、この例では、スクロール画像は画面の右から左にスクロールする(背景画像が移動する)。
パーソナルコンピュータをハードウエアとして使用する場合には、操作するコントローラとは典型的にはマウスである。スタイラスは、接触式(タッチパネル式)の入力装置で操作面上に先端を接触させて入力をする場合に用いるペン型の器具である。接触式の入力装置は、ディスプレイモニタとマトリクス・スイッチ等を組み合わせて構成されているものが多い。またディスプレイモニタが、前述の画像表示装置3のディスプレイ装置31(画像表示部)と兼用される場合も多い。この例では、図2(A)に示す矢印がポインタ画像Pである。
また関係継続期間検出手段9は、スクロール画像用画像データD1とポインタ画像用画像データD2とに基づいて、スクロール画像中の特定領域画像S(図2参照)に対して、ポインタ画像Pが予め定めた位置関係になった後、特定領域画像Sに対してポインタ画像Pが予め定めた位置関係ではなくなるまでの間の関係継続期間Tを検出する。ここで特定領域画像Sとは、スクロール画像中に任意に定められる領域であり、その形状は特に限定されるものではない。図2の例では、特定領域画像Sが、帯状の画像として示されている。ここで特定領域画像Sに対してポインタ画像Pが予め定めた位置関係とは、典型的には、特定領域画像Sにポインタ画像Pが入っている関係である。なお特定領域画像Sにポインタ画像Pが入る直前において、この位置関係が成立するものと定めてもよく、さらに特定領域画像Sからポインタ画像Pが出た直後でも、まだこの位置関係が成立しているものと定めてもよいのは勿論である。
スクロール変更指令発生手段11は、関係継続期間検出手段9が関係継続期間Tを検出しているときに、スクロール画像のスクロール速度及び/またはスクロール方向を変更するスクロール変更指令Cを発生する。なお本実施の形態では、スクロール変更指令発生手段11は、音響発生装置にもスクロール変更指令Cを入力するように構成されている。本例では、後述するプログラムの設定により、スクロール速度だけを変更すること、スクロール方向を変更すること、スクロール速度及びスクロール方向の両方を変更することの3タイプの変更のいずれかが実行可能である。
音響発生装置13は、スクロール画像のスクロール速度に比例してテンポまたは音強(振幅の大きさ)が変わる音響を、スクロール画像と同期して出力する。
図1の装置において、画像表示装置3は、スクロール変更指令Cが入力指令として入力されているときには、スクロール変更指令Cに応じて、スクロール画像のスクロール速度及び/またはスクロール方向を変更する。図2の例では、スクロール速度だけが変更される。ポインタ画像の変化速度は操作者によって決定される。図2の例では、ポインタ画像Pの移動方向とスクロール画像のスクロール方向が一致している。この例では、ポインタ画像Pが特定領域画像S内に入っている期間において、スクロール変更指令Cが画像表示装置3に入力されて、スクロール速度は遅くなる。図2においては、画面Dの上に表示した矢印(ポインタ画像P)の長さは、スクロール表示の速度に比例した大きさを有している。ポインタ画像Pが特定領域画像S内に入っている期間においては、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報から、ポインタ画像Pの速度が遅くなったような感じを操作者は受ける。この感覚の変化は、コントローラとしてマウスを使用している場合であれば、マウスが重くなった感じを操作者に与える。またこの状況において、逆に、スクロール速度を速くすると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報からは、ポインタ画像の速度が速くなったような感じを受ける。この感覚の変化は、マウスを使用している場合であれば、マウスが軽くなった感じを操作者に与える。なお図2の例では、関係継続期間T中、特定領域画像Sを左右に振動させている。そのため操作者には、あたかもマウスが振動しているかの感覚を与えることができる。この関係は、図3に示すように整理することができる。
また図2の例とは異なって、ポインタ画像Pの移動方向とスクロール画像のスクロール方向が逆の関係にある場合でも、スクロール変更指令Cが入力されたときにスクロール速度を遅くすると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報からは、ポインタ画像Pの速度が遅くなったような感じを受ける。この感覚の変化は、図4に示すようにスタイラスSTを使用している場合であれば、スタイラスSTが重くなった感じまたはスタイラスSTを動かす操作面の材質が変わった感じを操作者に与える。またこの状況において、スクロール速度を速くすると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報からは、ポインタ画像Pの速度が速くなったような感じを受ける。この感覚の変化は、スタイラスSTを使用している場合であれば、スタイラスSTが軽くなった感じまたはスタイラスSTを動かす操作面の材質が変わった感じを操作者に与える。
さらにポインタ画像Pの移動方向とスクロール画像のスクロール方向が一致している場合に、スクロール変更指令Cが入力されたときにスクロール方向がそれまでのスクロール方向と直交する方向に変わると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報からは、ポインタ画像Pが変わったスクロール方向に移動するような感じを受ける。この感覚の変化は、スタイラスSTを使用している場合であれば、スタイラスSTが操作面上を滑った(勝手にスタイラスが上下、左右または斜め方向に移動した)感じを操作者に与える。
このように本実施の形態の装置によれば、コントローラや、スタイラスや、指の移動速度を変えていない場合でも、スクロール速度及び/またはスクロール方向を変更することにより、ポインタ画像及び特定領域画像の両画像についての視覚情報からは、コントローラや、スタイラスや、指が、重くなったり、軽くなったり、滑ったりする感覚の変化を操作者に仮想で提示することができる。
また本実施の形態のように、スクロール画像を画面に表示しているときに、スクロール速度に応じてテンポが変わる音響を音響発生装置13から出力するようにすると、仮想の感覚の提示効果を増大させることが可能になる。例えばコントローラ等が重いと感じているときに音響のテンポを長くすると、聴覚からも重さが重くなっていることを感じることになり、仮想の感覚の提示効果を増大させることができる。また仮想の感覚でコントローラ等が軽いと感じているときに、音強が弱くなると、聴覚からも重さが軽くなっていることを感じさせることになり、仮想の感覚の提示効果を増大させることができる。
図5は、図1の実施の形態の画像表示装置3、入力装置8及び音響発生装置13を除いた主たる部分をコンピュータを利用して実現する場合に用いるプログラムの一例のアルゴリズムを示すフローチャートである。なおこのプログラムがコンピュータにインストールされて動作することにより、コンピュータ内に図1の各手段が実現されることになる。なお各種のデータは、コンピュータに付随するメモリに記憶されているのは当然である。ステップST1で、スクロール画像を表示するために利用されるスクロール画像用画像データD1が入力される。そしてステップST2でポインタ画像を表示するために利用されるポインタ画像用画像データD2が入力される。さらにステップST3で音響発生装置13で再生される音響データが入力される。これらのデータが入力されると、ステップST4で、画像表示装置3ではスクロール画像の表示が開始され、また入力装置8が操作されるとポインタ画像の表示が開始される。さらにスクロール画像の表示と同期して音響が出力される。ステップST5では、特定領域画像Sとポインタ画像Pとが特定の位置関係になったか否かの判定が行われる。そしてステップST5で、特定領域画像Sとポインタ画像Pとが特定の位置関係になった(成立した)ことが判定されると、ステップST6へと進み、特定の位置関係が成立しないと判定された場合は、ステップST4へと戻り、画像表示と音響出力が行われる。ステップST6では、スクロール速度及び/またはスクロール方向を変更し、特定領域画像を振動させ、音響のテンポまたは音強を変更する。そしてステップST7で、特定領域画像とポインタ画像とが特定の位置関係からはずれた(関係が解消された)か否かの判定が行われる。特定の位置関係が解消されたことをステップST7で判定すると、ステップST4へと戻って同じ動作が繰り返され、特定の位置関係が解消されていないとステップST7で判定された場合は再度ステップST7の動作が行われる。
図6は、このプログラムが実行されているときのスクロール画像とポインタ画像(スタイラスの先端の軌跡)との関係を概念的に示している。このような環境は、円環状のキャンバスCCを回転させながら絵を描くドローイング環境と同じである。操作者は、円環状のキャンバスCCを回転させながら絵を描くことになるため、引いている線にキャンバスCCの影響が出て、予期しない線が得られることがある。これをパーソナルコンピュータを利用して実現する場合には、画面DがキャンバスCCになり、スタイラスSTがペンとなる。そして画面上に視覚的に手がかりとなる画像(特定領域画像)を表示する。この画像としては、平面的に凸凹を表現する陰影をつけた画像でもよい。この場合には、凸面を明るくし、凹面を影に見せるように表現する。そして凸面にさしかかかると、スタイラスSTで描いている線の明るさを暗くして、スクロール画像(背景画像)のスクロール速度を遅くする。また凸面の終わりには、線の明るさを明るくするとともにスクロール速度を速くする(元の速さに戻す)。このようにすると凸凹の触覚要素を描画環境でも得ることができる。
また図7は、指Fを操作面を兼ねる画面D上で移動させて、指Fの動きを検出する場合の状態の一例を示している。図7に示すように、スクロール画像中に形状の異なる複数の特定領域画像S1及びS2を表示するようにしてもよいのは勿論である。また指Fの移動方向も任意であり、スクロール画像のスクロール方向も任意である。
また上記実施の形態において、スクロール変更指令Cによるスクロール速度の変更には、特定領域画像Sを予め定めた時間停留(一時的な停止状態の発生)させることを含めてもよい。このようにすると、それまでの領域から異なる領域に入ったことを確実に感じさせることができる。なおこの予め定めた時間を300〜400msとすると、この感覚を確実に提供できる。
図8は、本発明の第2のタイプの仮想感覚提示装置の実施の形態の一例の構成を示すブロック図である。図2では、図1のブロック図で用いている構成要素と同じブロックに、図1で示した符号の数に100の数を加えた符号を付して説明を省略する。この仮想感覚提示装置101では、操作するものがなく、画像表示装置103が画像を表示している状態で、その画像を観察する観察者Mに仮想の感覚の変化を提示する。そこでこの第2のタイプの仮想感覚提示装置の実施の形態では、画像表示装置103と、スクロール画像用画像データ提供手段105と、位置関係検出手段108と、関係継続期間検出手段109と、スクロール変更指令発生手段111と、音響発生装置113とを備えている。この実施の形態では、図9に示すように、画像表示装置103のディスプレイ装置131は観察者Mが歩く床面に設置される。そして位置関係検出手段108は、ディスプレイ装置131の画面Dに表示されるスクロール画像を見ている観察者Mとスクロール画像中の特定領域画像Sとの位置関係を検出する。図9に示すように位置関係検出手段108は、画像表示装置103側に固定した2台のカメラCM1及びCM2を使用して得た画像データから、観察者の位置の変化を検出し、その結果に基づいて観察者Mと特定領域画像Sとの位置関係を検出する。なお位置関係検出手段108の検出構造の構成は任意であり、複数の赤外線センサを利用して位置関係を検出するようにしてもよい。関係継続期間検出手段109は、位置関係検出手段108が検出する位置関係が、予め定めた位置関係になった後、予め定めた位置関係がなくなるまでの関係継続期間Tを検出する。その他の装置103及び113及び各手段105及び111は、図1に示した第1のタイプの仮想感覚提示装置1で用いる対応する装置及び手段と同様の機能を有する。
なお第2のタイプの仮想感覚提示装置101では、特定領域画像Sに対する観察者Mの移動速度及び移動方向と、スクロール画像のスクロール方向及びスクロール速度との関係を変えることにより、観察者Mに感覚の変化を感じさせることができる。例えば、図9に示すように、観察者Mの移動方向とスクロール画像のスクロール方向が一致している場合に、スクロール変更指令Cが入力されたときにスクロール速度を速くすると、特定領域画像Sについての視覚情報からは、特定領域画像Sの速度が速くなったような感じを受ける。この視覚情報に基づく感覚の変化は、観察者Mに、自分自身の速度が速くなって、体が軽くなったような感覚を与える。また逆に、スクロール速度を遅くすると、観察者の速度も遅くなった感覚になって、観察者の体が重くなった仮想の感じを観察者Mに与えることができる。
また観察者Mの移動方向とスクロール画像のスクロール方向が逆の関係にある場合でも、スクロール変更指令Cが入力されたときにスクロール速度を遅くすると、視覚情報からは、特定領域画像Sの速度が遅くなったような感じを受ける。この感覚の変化は、観察者Mに、自分自身の移動速度が遅くなったような感覚、または体が重くなったような感覚を与える。またこの状態でも、スクロール変更指令Cが入力されたときにスクロール速度を速くすると、視覚情報からは、特定領域画像Sの速度が速くなったような感じを受ける。この感覚の変化は、観察者Mに、自分自身の移動速度が速くなったような感覚、または体が軽くなったような感覚を与える。
図10は、図8の構成の主要部をコンピュータを利用して実現する場合に用いるプログラムのアルゴリズムの一例を示すフローチャートである。なおステップST21乃至27のうち、ステップST25及び27において、特定領域画像Sと観察者Mとの位置関係を判断している点を除いては、図5に示したフローチャートの各ステップと実質的に変わるところはないので、各ステップの説明は省略する。
なおスクロール画像が観察者Mの前方にある長い壁に表示されて、そのスクロール方向が、例えば、左右方向であったときに、観察者Mが画像を見ながら左右方向に移動しているとする。このときに、スクロール方向が上下方向に変化した場合には、観察者Mは、斜め上方に移動している、または斜め下方に移動している感覚を受けることになる。またスクロール画像のスクロール方向が、例えば、上下方向であったときに、観察者Mが画像Dに向かって移動しているとする。このときに、スクロール方向が左右方向に変化した場合には、観察者Mは、自分自身が横に引っ張られているような感覚を受ける。
図11は、第1のタイプの仮想感覚提示装置を発展させた第3のタイプの仮想感覚提示装置の構成を示すブロック図である。図11では、図1のブロック図で用いている構成要素と同じブロックに、図1に示した符号の数に200の数を加えた符号を付して説明を省略する。この実施の形態では、ポインタ画像用画像データ提供手段207が、スクロール画像を見ている操作者が操作面上を移動させるスタイラスSTの動きと押圧力、または操作者が操作面上に移動させる指Fの動きと押圧力とを検出する操作検出手段207aを含んで構成されている点で、図1の構成とは異なる。押圧力を検出できる操作検出手段207aとしては、例えば、操作面の四隅に力センサを配置して、力センサの出力から押圧力を検出するものを用いることができる。またスクロール変更指令発生手段211を、関係継続期間検出手段209が関係継続期間Tを検出しているときに、操作検出手段207aが検出する押圧力に応じてスクロール画像のスクロール速度を変更するスクロール変更指令Cを発生するように構成してある。そして画像表示装置203は、スクロール変更指令Cが入力指令として入力されているときには、スクロール変更指令Cに応じて、スクロール画像のスクロール速度を変更するように構成されている。このようにすると、操作者の意思の変化に応じて押圧力が変化することになる。
この例では、ポインタ画像Pの移動方向によらず、関係継続期間T中に押圧力が大きくなったことを示すスクロール変更指令Cが入力されたときに、スクロール速度を遅くすると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報から、ポインタ画像Pの速度が遅くなったような感じを受ける。この感覚の変化は、スタイラスSTを使用している場合であれば、押圧力の増加にもかかわらず、ポインタ移動が遅くなる、つまり、スタイラスSTが重く、もしくはスタイラスSTを動かす操作面の抵抗が大きくなった感じを受ける。逆に、関係継続期間T中に押圧力が大きくなったことを示すスクロール変更指令Cが入力されたときに、スクロール速度を速くすると、ポインタ画像P及び特定領域画像Sの両画像についての視覚情報からは、ポインタ画像Pの速度が速くなったような感じを受ける。この感覚の変化は、スタイラスSTを使用している場合であれば、押圧力の増加によって、スタイラスSTが軽くなったもしくは、スタイラスSTを動かす操作面の抵抗が小さく、滑らかになった感じを受ける。
図12は、図11の構成の主要部をコンピュータを利用して実現する場合に用いるプログラムのアルゴリズムの一例を示すフローチャートである。なおステップST31乃至38のうち、ステップST36で押圧力を検出する点、ステップST37で押圧力に応じてスクロール速度を変更する点を除いて、図5に示したフローチャートの各ステップと実質的に変わるところはないので、各ステップの説明は省略する。
なお第2及び第3のいずれのタイプの仮想感覚提示装置においても、スクロール変更指令発生手段111及び211に、スクロール変更指令Cと一緒に特定領域画像Sまたはスクロール画像全体を振動させる画像振動指令(視覚的特徴変更指令)を発生する機能を付加してもよい。そして画像表示装置103及び203は、画像振動指令(視覚的特徴変更指令)が前記入力指令として入力されているときには、特定領域画像Sまたはスクロール画像全体を振動させるように構成する。このようにすると操作者Mは、移動させているコントローラ等が凹凸の上を移動しているかのような感覚を受ける。また観察者Mは、移動中の床面に凹凸があるかのような感覚を受ける。
なお、視覚的特徴変更指令による特定領域画像の視覚的特徴の変更は、前述の振動だけでなく、色の変更や、点滅等種々の変更を含むものである。
本発明の仮想感覚提示装置によれば、コントローラや、スタイラスや、指の移動速度を変えていない場合でも、スクロール速度及び/またはスクロール方向を変更することにより、ポインタ画像及び特定領域画像の両画像についての視覚情報からは、コントローラや、スタイラスや、指が、重くなったり、軽くなったり、滑ったりする感覚の変化を仮想で提示する(感じさせる)ことができる。
また本発明の別の仮想感覚提示装置によれば、特定領域画像に対する観察者の移動速度と移動方向と、スクロール画像のスクロール方向及びスクロール速度との関係を変えることにより、観察者に感覚の変化を感じさせることができる。