以下、本発明のさらに具体的でかつ例示的ないくつかの実施形態を図面を参照して詳細に説明する。
図1には、本発明の例示的な一実施形態に従うヘッドマウントディスプレイ(以下、「HMD」と略称する。)10が斜視図で示されている。
まず、概略的に説明するに、このHMD10は、観察者の眼前に位置するように観察者の頭部に装着されて使用される。その使用状態において、このHMD10は、観察者の前方に位置する現実外界(前記「対象空間」の一例)の像を表す外界光を観察者の眼に誘導し、それにより、観察者が、現実外界に存在するオブジェクト(例えば、人間や機械、建物、動物、植物、彫刻物、製造物など、3次元的な物体や、写真や絵画、映画、印刷物など、2次元的な物体)を観察することが可能であるように設計される。
さらに、このHMD10は、観察者が観察しているオブジェクトに関連する参照コンテンツ(例えば、観察者に提供すべき情報をテキスト、グラフィックスで表現した画像、アノテーションなど)を画像信号に応じて生成し、その生成された参照コンテンツを観察者に、現に観察しているオブジェクトの観察位置に関連付けて表示することが可能であるようにも設計されている。一例においては、オブジェクトは、美術館などの施設内の展示室内で展示されている展示物であり、また、参照コンテンツは、そのような展示物を補足的に説明するための、テキストやグラフィックスによるアノテーションである。
さらに、このHMD10は、観察者が観察しているオブジェクトに関連する参照コンテンツを第1の奥行きを有するように表示し、その表示中、観察者がその参照コンテンツまたは前記オブジェクトを注視する状態に移行すると、前記参照コンテンツの奥行きを、前記第1の奥行きから、前記オブジェクトの奥行きと実質的に同じ第2の奥行きに変化させるようにも設計されている。すなわち、このHMD10においては、観察者がオブジェクトに注目したか否かに応じて、そのオブジェクトに関連する参照コンテンツの奥行きが時間と共に変化するのであり、よって、このHMD10によれば、参照コンテンツを観察者の感覚に合致した条件で表示することが可能となり、観察者が参照コンテンツを視認する際の快適性が向上する。
次に、図1ないし図4を参照することにより、このHMD10が採用する光学系の構成を説明する。
このHMD10は、表示ユニット12と、アタッチメント14と、制御ユニット16とを備えている。制御ユニット16は、表示ユニット12に対し、ケーブル18(少なくとも信号ラインを含み、通常、電力ラインも含む)を介して有線方式で(無線方式でも可)接続されることにより、両者間でのデータや信号のやりとりが可能となっている。
表示ユニット12は、単眼式であり、画像を表す画像光を観察者の両眼のうちの一方である観察眼(他方の眼は、非観察眼)に投射するように構成されている。この表示ユニット12は、光学シースルー型、すなわち、画像信号に応じた画像を表す画像光と、観察者の前方に位置する現実外界からの外界光とを重畳させて観察眼に入射させることにより、観察者が、画像信号に応じた画像を、現実外界の像に重ねて観察することが可能である方式を採用する。
ただし、表示ユニット12において、単眼式を両眼式に変更した態様や、光学シースルー式を前述のビデオシースルー式に変更した態様で本発明を実施することが可能である。ただし、そのビデオシースルー式を採用する場合には、HMD10が、例えば、画像信号に応じた画像の表示と、現実外界の像の表示とを、それぞれ互いに異なる時期に、時分割方式で行うなどすることにより、画像信号に応じた画像のピント位置と、現実外界の像のピント位置とを、互いに独立して調整可能であることが必要である。
これに対し、HMD10は、奥行きが互いに異なる複数のオブジェクトが現実外界に存在する場合に、それらオブジェクトから出射した外界光を観察眼に誘導し、それにより、観察者が、それらオブジェクトを、それぞれ互いに異なる奥行きを有するように観察することを可能にする一方、観察者が、複数の参照コンテンツを、それらに共通の画像光により、それぞれ互いに同じ奥行きを有するように視認することを可能にする。
よって、このHMD10にあっては、複数のオブジェクトを表す光は、それぞれのオブジェクトからの反射光であって、それらオブジェクトに共通のレンズを通過していないのに対し、複数の参照コンテンツを表す光は、それら参照コンテンツに共通のレンズを通過しているため、参照コンテンツの奥行きを、前記レンズの位置を変えることにより、オブジェクトの奥行きに対して相対的に自由に調整することが可能である。
図1に示すように、観察者の頭部に被装着部材としてのフレーム20が装着され、そのフレーム20にアタッチメント14が装着され、そのアタッチメント14に表示ユニット12が装着される。その結果、表示ユニット12がアタッチメント14を介してフレーム20に装着される。
図1に示す例においては、表示ユニット12がフレーム20の左側部30Lに取り付けられ、それにより、HMD10が左眼観察モードで使用されるが、表示ユニット12は、アタッチメント14により、フレーム20の右側部30Rと左側部30Lとの間で付け替えて使用することが可能となっている。
具体的には、アタッチメント14は、フレーム20の左側部30Lに固定される左眼用フレーム側部材40Lと、フレーム20の右側部30Rに固定される右眼用フレーム側部材40R(図示しない)とを備えている。アタッチメント14は、観察者の選択により、観察者の左眼が観察眼である左眼観察モードを実現するために、フレーム20の左側部30Lに取り付けられた左眼用フレーム側部材40Lに表示ユニット12が取り付けらける状態(図1に示す)と、観察者の右眼が観察眼である右眼観察モードを実現するために、フレーム20の右側部30Rに取り付けられた右眼用フレーム側部材40Rに表示ユニット12が取り付けられる状態(図示しない)とに切り換わる。
表示ユニット12は、右眼観察モードと左眼観察モードとの間において、その向きを反転させて使用される。具体的には、表示ユニット12がアタッチメント14を介してフレーム20に装着される向きが、右眼観察モードと左眼観察モードとの間において、頭部装着状態において観察者の左右方向に対して略平行である垂直面内で互いに反転させられる。
図1に示すように、表示ユニット12は、それの長手方向に延びる、概して中空であるハウジング200を有する。ハウジング200は、合成樹脂製である。そのハウジング200内に、参照コンテンツを表示画像として表示するための画像光を形成する画像光形成部202(図2参照)が収容されている。
図2に示すように、表示ユニット12は、画像光形成部202を収容する本体部分210と、その画像光形成部202によって形成された画像光を観察眼に向けて出射する出射口212が形成された出射口部分214とを、表示ユニット12の長手方向に沿って互いに並ぶように有している。表示ユニット12は、さらに、本体部分210と出射口部分214とを着脱可能に互いに連結する連結機構270を有している。
図2に示すように、画像光形成部202は、入射光を2次元空間的に変調して前記画像光を生成する、概して板状を成す空間光変調素子としてのLCD220(表示部の一例)を有する。LCD220は、複数の画素が2次元的に並んだ液晶ディスプレイである。
なお付言するに、本実施形態においては、表示ユニット12が空間光変調型であるが、網膜走査型、すなわち、レーザ等、光源からの光束をスキャナによって走査し、その走査された光束を観察者の網膜に投射するものに変更してもよい。
画像光形成部202は、さらに、板状のドライバ222(表示制御部の一例)を有する。そのドライバ222は、図示しないケーブルを介して、LCD220に電気的に接続されている。ドライバ222は、外部から入力される画像信号に基づいてLCD220を駆動し、それにより、観察者に表示すべき画像を表す画像光をLCD220から出射させる。LCD220は、バックライト光源を内蔵しているが、その光源に代えて、LCD220から独立した光源を用いてもよい。
図2に示すように、表示ユニット12は、さらに、接眼光学系246を有する。その接眼光学系246は、複数の光学素子としての複数のレンズが直列に並んだ一次元配列として構成されている。それらレンズは、同じ光軸を共有する。その光軸は、ハウジング200の長手方向に平行に、かつ、ミラーなどの部品によってその方向が曲げられることなく、一直線に延びている。接眼光学系246は、ハウジング200のうち、本体部分210に属する部分内に収容されている。
接眼光学系246は、それに属する複数のレンズのうち最も下流側に位置する終端レンズ248と、その終端レンズ248より下流に配置された保護透明体(例えば、合成樹脂製の透明な円板)250とを備えている。
出射口部分214は、接眼光学系246から出射する画像光を曲げて観察眼に誘導する部分反射・部分透過光学素子としてのハーフミラー(画像光を観察眼に向けて偏向する偏向部材の一例)260を有している。
接眼光学系246から出射する画像光は、ハーフミラー260で反射して、観察眼の瞳孔を通過して、網膜(図示しない)に入射する。それにより、観察者が2次元画像を虚像として観察することが可能となる。観察眼には、ハーフミラー260で反射した画像光のみならず、現実外界からの光である外界光がハーフミラー260を透過して入射する。その結果、観察者は、画像光によって表示される画像の観察と並行して現実外界を観察することが可能である。
次に、主に図2および図3を参照することにより、HMD10が表示画像のピント位置を調整するための構成を説明する。
図2に示すように、画像光形成部202は、さらに、LCD220を前記光軸方向において前後に変位させることによって前記画像光のピント位置を調整するピント調整機構230を有している。そのピント調整機構230は、LCDホルダ232と、支持機構234と、LCDアジャスタ236(操作部)と、運動変換機構238とを有する。
LCD220は、画像光形成部202の長手方向と一致する光軸方向を有し、かつ、ハウジング200内において、前記光軸方向に変位可能に支持されている。具体的には、LCD220は、LCDホルダ232によって一体的に回転・移動可能に保持されており、そのLCDホルダ232は、ハウジング200の一部またはハウジング200に固定の別部材(本実施形態においては、静止部材240)に設けられた支持機構234により、光軸方向に移動可能かつ回転不能に支持されている。
図2に示すように、LCDアジャスタ236は、光軸と同軸であるように、かつ、LCDホルダ232の外周部を包囲するように、ハウジング200内に設置されている。LCDアジャスタ236は、ハウジング200に、光軸方向に移動不能かつ同軸的に回転可能に支持されている。これにより、LCDアジャスタ236は、光軸方向における定位置において、ユーザの操作に応じて必要角度だけ回転させられる。
観察者であるユーザからLCDアジャスタ236へのアクセスを可能にするため、図1に示すように、LCDアジャスタ236のうち、頭部装着状態において前方に位置する部分と、後方に位置する部分(図1においては、隠れて見えない)とがそれぞれ、ハウジング200を構成する複数の面のうちの前面と後面とから露出させられている。LCDアジャスタ236の外周面には、ユーザによる操作性を向上させるために、複数の歯が形成されている。
運動変換機構238は、LCDアジャスタ236とLCDホルダ232とに関連付けられる。運動変換機構238は、LCDアジャスタ236の回転運動をLCDホルダ232の直線運動に変換し、それにより、LCD220を光軸方向に沿って所望の位置に移動させる。
図3(a)は、ピント調整機構230を、LCDアジャスタ236を取り外した状態で示す側面図であり、図3(b)は、ピント調整機構230を、LCDアジャスタ236が組み付けられた状態で示す側面図である。
本実施形態においては、運動変換機構238が、図3(a)に示すように、LCDホルダ232の外周面に形成されたらせん状のカム溝242と、LCDアジャスタ236の内周面に形成された、半径方向に延びる駆動ピン(図示しない)とを有する。その駆動ピンは、カム溝242にがたなく係合し、その係合状態でカム溝242に沿って相対的に運動させられる。LCDアジャスタ236が回転させられると、前記駆動ピンが光軸回りに円運動を行い、その円運動は、カム溝242と支持機構234との共同作用により、LCDホルダ232の直線運動に変換される。
ただし、運動変換機構238は、カム機構以外の機構によって必要な運動変換を行うことが可能であり、例えば、ねじ機構(例えば、LCDアジャスタ236の内周面に形成されためねじと、LCDホルダ232の外周面に形成されたおねじであって前記めねじが螺合するもの)を採用してもよい。
HMD10は、前述のように、その使用状態において、可変の奥行きを有するように参照コンテンツを表示する奥行き可変型表示機能を有する。この奥行き可変型表示機能を実現するために、本実施形態においては、ピント調整機構230が、上述のように、手動で操作可能であることに加えて、電気的に操作可能であるようにもなっている。
具体的には、図1および図4に示すように、ピント調整機構230に、それのLCDアジャスタ236において、電動式のアクチュエータ280(例えば、ステップモータ)が係合させられる。そのアクチュエータ280は、ハウジング200によって支持されている。このアクチュエータ280は、ドライバ282から供給される電気信号によって駆動されるとともに、アクチュエータ280の実際の作動量が目標量と一致するように制御される。アクチュエータ280の作動がLCDアジャスタ236に伝達され、LCDアジャスタ236が回転されることによって、ピント調整機構230が電気的に操作される。
次に、図4を参照することにより、HMD10のうち、参照コンテンツをオブジェクトに関連付けて表示する部分のハードウエア構成を説明する。
表示ユニット12は、入力装置12aと出力装置12bとを有する。
入力装置12aは、表示ユニット12を装着している観察者の位置(例えば、観察者の頭部の位置や、表示ユニット12の位置であり、また、グローバル座標系上の位置や、前記施設に固定されたローカル座標系上の位置である)を検出する位置検出部300を有する。その位置検出部300は、例えば、グローバル・ポジションニング・システムGPSによって観察者の位置を検出するために表示ユニット12に搭載されるデバイスとしたり、3点測位法によって観察者の位置を検出するために表示ユニット12に搭載されるデバイスとすることが可能である。
入力装置12aは、さらに、観察者の向き(例えば、観察者の頭部の向き、表示ユニット12の向き)を検出する向き検出部302を有する。その向き検出部302は、例えば、電子コンパスによって観察者の向きを検出するために表示ユニット12に搭載されるデバイスとしたり、表示ユニット12に搭載される角加速度センサまたは角速度センサを主体とし、その検出値を時間積分することによって観察者の角度を計算するために表示ユニット12に搭載されるデバイスとすることが可能である。
なお、向き検出部302の別の例としては、オブジェクトに対する相対的な方向を検出する構成を採用するものでもよい。この場合、例えば、表示ユニット12にカメラが接続され、そのカメラによってオブジェクトを撮像して得られる画像を基にして、表示ユニット12の、オブジェクトに対する相対的な方向が検出されるようにしてもよい。この場合、必要であれば、撮像されるオブジェクトの位置情報を特定するために、位置検出部300の検出結果を利用してもよい。
入力装置12aは、さらに、観察者の視線を検出する視線検出部304を有する。その視線検出部304は、例えば、アイマークレコーダによって観察者の視線を検出するために表示ユニット12に搭載されるデバイスとすることによって観察者の角度を計算するデバイスとすることが可能である。
この視線検出部304によれば、観察者の視線方向を、それが観察者の正面方向と一致するか否かを問わず、精度よく検出することが可能であるが、より簡易的な視線検出方法を採用することが可能である。一例においては、観察者の視線方向は、観察者の正面方向と一致すると仮定したうえで、向き検出部302の検出結果に基づいて、観察者の正面方向が検出され、その検出された正面方向と一致するように観察者の視線方向が決定される。
これに対し、出力装置12bは、画像表示のために、前述のドライバ222およびLCD220とを有し、さらに、ピント調整すなわち奥行き調整のために、前述のドライバ282、アクチュエータ280およびピント調整機構230とを有する。
制御ユニット16は、プロセッサ310と、メモリ312とを有する。そのメモリ312は、記録媒体の一例であり、後述の画像表示プログラム(図9ないし図12参照)が予め記録されているプログラム記憶部と、オブジェクトの位置に関連付けて参照コンテンツをHMD10によって表示するのに必要な情報を保存するコンテンツ情報記憶部とを有する。そのコンテンツ情報記憶部においては、例えば、HMD10によって表示可能な複数の参照コンテンツに関するコンテンツ関連情報が、それぞれ対応する複数のオブジェクトに関連付けて記憶されるコンテンツ情報記憶部とを有する。
なお、1つのオブジェクトに必ず1つの参照コンテンツが関連付けられて表示されるとは限らず、1つのオブジェクトに複数の参照コンテンツが関連付けられて表示される場合もある。
前記コンテンツ関連情報(図6(b)参照)は、例えば、参照コンテンツを表す画像データ、参照コンテンツが関連付けて表示されるオブジェクトの位置(少なくとも1つの代表点の位置)を表す座標データ、参照コンテンツの表示サイズを表すデータ、参照コンテンツに含まれる情報アイテムの構成を表すデータなどを含んでいる。このコンテンツ関連情報は、観察者が表示ユニット12を通してスルー画像として観察する複数のオブジェクトの位置(例えば、各オブジェクトを幾何学的に代表する少なくとも1つの代表点の位置であり、オブジェクのサイズに応じて、代表点の数が増加することが可能である)を特定するためのオブジェクト関連情報を含んでいる。そのオブジェクト関連情報を参照すれば、各オブジェクトの、HMD10からの距離すなわち奥行きを取得することが可能である。
プロセッサ310は、メモリ312に保存されているデータを利用しつつ、前記画像表示プログラムを実行することにより、複数の機能を実現する。それら機能は、図4に、機能ブロック図で示されているが、これについては、後に詳述する。
図4に示すように、制御ユニット16は、さらに、通信モジュール320を有し、その通信モジュール320は、無線または有線により、外部のサーバ322に接続されている。そのサーバ322は、前記コンテンツ関連情報を制御ユニット16に向けて発信する。プロセッサ310は、そのコンテンツ関連情報を受信すると、それをメモリ312に一時的に保存する。
なお、本実施形態においては、前記コンテンツ関連情報が、一時的にサーバ322から受信されてHMD10自体に保存されるが、例えば、HMD10は、サーバ322からの受信なしで、そのサーバ322内のメモリ(図示しない)を利用して、必要なデータ処理を行うことが可能である。
次に、主に図5ないし図8を参照することにより、HMD10が参照コンテンツをオブジェクトに関連付けて表示するためのコンテンツ表示アルゴリズムを説明する。
まず、概略的に説明するに、このコンテンツ表示アルゴリズムによれば、現実外界に存在する複数のオブジェクトであって観察者の視界内にあるもの(HMD10からの距離が異なる少なくとも2つのオブジェクトを有する)が選択され、それら選択された複数のオブジェクトに対応する複数の参照コンテンツが選択される。ここに、「観察者の視界」は、図6(a)に示すように、観察眼の位置(x0,y0,z0)および向き(z軸方向)に対して相対的に決まる一定の3次元的角度範囲であって、平面視において概して扇状を成す範囲である。ここに、「z軸方向」は、観察者の正面方向を意味しており、この方向は、必ずしも観察者の視線方向と一致しない。その扇状を成す範囲は、現実外界に存在する複数のオブジェクトの中から、参照コンテンツを関連付けて表示するオブジェクトを検出するために参照される範囲である。このことに着目し、この範囲を、以下、「オブジェクト検出範囲」ともいう。
それら参照コンテンツを表示するためのモードとして、本実施形態においては、一覧モードと注視モードとがある。それら一覧モードおよび注視モードのうち一覧モードがデフォールトのモードであり、HMD10の電源投入後に、注視モードより先に実行される。一覧モードは、オブジェクト検出範囲内にある複数のオブジェクトに関連付けて複数の参照コンテンツをいずれも第1の奥行きを有するように表示するモードである。
ここに、「第1の奥行き」は、例えば、固定値(例えば、奥行きの長さ(HMD10からの距離)の最大変化範囲を複数のレンジ(例えば、「近レンジ(近)」、「中レンジ(中)」および「遠レンジ(遠)」という3つのレンジ)に分割した場合の、「近レンジ」を代表する奥行き)として設定したり、自動的に調整される可変値(例えば、オブジェクト検出範囲内にある複数のオブジェクトのうち奥行きが最も近いものの奥行き)として設定したり、観察者によって自由に調整される可変値として設定することが可能である。
この一覧モードには、種々の例が存在する。一例においては、複数の参照コンテンツを一斉に表示しても、観察者が確実に視認できる参照コンテンツの数に限度がある(表示されるべき複数の参照コンテンツの表示サイズの合計値が、観察者が視認可能な画像表示領域の総面積を超えるにもかかわらず、それら参照コンテンツを一斉に表示してしまうと、参照コンテンツ間の重複が発生してしまう)という事実を踏まえ、参照コンテンツの表示サイズの合計値が前記画像表示領域の総面積を超える場合に、各オブジェクトの奥行き(奥行きが長いほど、観察者が特定のオブジェクトに注目している程度が低いと推定される)に基づき、参照コンテンツが関連付けて表示されるオブジェクトを絞り込むことが可能である。
この例によれば、あるオブジェクトが、オブジェクト検出範囲内に位置するが、観察者からの距離がかなり遠い場合には、観察者がそのようなオブジェクトに強く注目している可能性が低いことから、それに対応する参照コンテンツの表示が省略される。
一覧モードにおいては、注視モードに移行するタイミングを決定するために、観察者の挙動が逐次検出され、その検出結果に基づき、今回の一覧モードを終了させて注視モードに移行することが適切であるか否かが判定される。これが、第1注視判定である。
具体的には、本実施形態においては、一覧モードの実行によって一斉に表示されている複数の参照コンテンツのうちのいずれかが、観察者が注視している注視参照コンテンツであると推定された場合に、今回の一覧モードを終了させて注視モードに移行することが適切であると判定される。
さらに具体的には、本実施形態においては、観察者が、いずれかの参照コンテンツを注視している(観察者の視線が特定の参照コンテンツに専ら向けられている)場合には、それに対応するオブジェクトを、そのときは注視していないが、最も強く(他のオブジェクトより強く)注目している(そのオブジェクトについて詳細な情報を知りたいと最も強く要望している)注目オブジェクトであると推定される。このように、本実施形態においては、一斉に表示されている複数の参照コンテンツに対する観察者の注視度を参照することにより、注目オブジェクトが推定される。
この第1注視判定を行う手法にも、種々の例が存在する。
一例においては、観察者の挙動が逐次検出され、その検出結果に基づき、観察者が、実質的に動いている状態(例えば、実質的に歩いているか、および/または頭部が実質的に動いている状態)から、実質的に静止している状態(例えば、実質的に立ち止まっているか、および/または頭部が実質的に静止している状態)に移行したか否かが判定される。その移行があったと判定された場合に、観察者がいずれかの参照コンテンツを注視している可能性が高い(注視状態にある)と推定される。
この例においては、前記注視状態にあると推定されると、さらに、観察者の挙動の検出結果に基づき、一斉に表示されている複数の参照コンテンツのうち、観察者が実際に注視している注視参照コンテンツが抽出される。その抽出手法の一例においては、観察者の視線を検出し、複数の参照コンテンツのうち、その検出された視線の延長上にあるもの(すなわち、観察者の視点位置(観察眼の位置)から、前記検出された視線の方向に延びる視線直線と交差する参照コンテンツ)が注視参照コンテンツとして抽出される。前記抽出手法の別の例においては、観察者は、自身の前方に位置する何らかの対象を注視しようとする際には、無意識のうちに、その注視対象が自身の視界の中央位置に移動してくるように、頭部を動かしたり、体を動かすという習性に着目し、オブジェクト検出範囲内の所定位置(例えば、中央位置)内にある参照コンテンツが注視参照コンテンツとして抽出される。
注視モードが開始されると、上記のようにして抽出された注視参照コンテンツが、それに対応するオブジェクト、すなわち、注目オブジェクトの奥行きと実質的に同じ第2の奥行きを有するように、表示される。これにより、注視参照コンテンツの奥行きが、前記第1の奥行きからその第2の奥行きに変化させられる。
ここに、「第2の奥行き」の設定に関連し、注視参照コンテンツについての第2の奥行きと、注目オブジェクトの奥行きとの関係に言及するに、一例においては、注目オブジェクトの奥行きが実質的な連続値または複数の離散値として検出される場合には、その奥行きの検出値と完全に一致するかまたはほぼ一致するように第2の奥行きが設定される。別の例においては、注目オブジェクトの奥行きが、互いに異なる複数のレンジ(幅を有する値)のうちのいずれに属するのかが判定される場合には、その属するレンジ内の任意の値と一致するように第2の奥行きが設定される。
さらに別の例においては、注目オブジェクトの奥行きと注視参照コンテンツについての第2の奥行きとの差が、他のオブジェクトの奥行きと他の非注視参照コンテンツの奥行き(この場合には、前記第1の奥行きに等しい)との差より小さくなるように、注視参照コンテンツについての第2の奥行きが設定される。この例においては、注目オブジェクトの奥行きと、注視参照コンテンツについての第2の奥行きとが実質的に互いに等しいか否かの判断が、それら2つの奥行き間の差のみを考慮して絶対的に行われるのではなく、他のオブジェクトの奥行きと他の非注視参照コンテンツの奥行きとの差との比較によって相対的に行われる。
その結果、本実施形態によれば、注視モードにおいて、観察者は、注目オブジェクトと注視参照コンテンツとを、同じ奥行き位置、すなわち、同じピント位置において同時に視認できるため、両対象の視認し易さが向上するとともに観察者の眼の疲労が軽減される。本実施形態によれば、さらに、観察者が、注視参照コンテンツを、注目オブジェクトに近接する位置において視認できるため、両対象を交互に視認する際に、ピント位置の移動距離が短くて済み、このことによっても、両対象の視認し易さが向上するとともに観察者の眼の疲労が軽減される。
注視モードにおいて注視参照コンテンツを表示する手法にも、種々の例が存在する。一例においては、注視参照コンテンツが、その注視参照コンテンツが前記一覧表示されるときの表示サイズより拡大される(例えば、1より大きい所定倍率で拡大される)ように表示される。この例によれば、観察者が注視参照コンテンツを、一緒に表示されている他の参照コンテンツから、ピント位置のみならず表示サイズに関しても、区別されて表示されることとなり、その結果、注視参照コンテンツの視認し易さが向上する。
なお、本実施形態においては、HMD10が、各参照コンテンツごとに異なるピント位置で各参照コンテンツを表示する機能を有せず、そのため、複数の参照コンテンツが一斉に表示される場合には、それら参照コンテンツが、それに共通するピント位置、すなわち、注目オブジェクトの奥行きに応じて可変に設定される前記第2の奥行き(注目オブジェクトが、今回のオブジェクトそれとは異なる奥行きを有する別のオブジェクトに変化すると、それにつれて、前記第2の奥行きも変化する)のもとに表示されることになる。
とはいえ、上述のように、注視モードにおいては、注視参照コンテンツが、一覧モードで表示される場合より拡大され、それにより、他の参照コンテンツより強調されて表示されるとともに、注視参照コンテンツは、それに対応する注目オブジェクトの位置に関連付けて表示されるようになっているため、観察者が、注視参照コンテンツと注目オブジェクトの対応を容易に認識することが可能である。
ただし、各参照コンテンツごとに異なるピント位置で各参照コンテンツを表示する機能を有するHMDに対して本発明を適用したり、注視モードにおいては、注視参照コンテンツ以外の参照コンテンツを表示しない態様で本発明を実施することが可能である。
注視モードにおいては、一覧モードに移行するタイミングを決定するために、観察者の挙動が逐次検出され、その検出結果に基づき、今回の注視モードを終了させて一覧モードに移行することが適切であるか否かが判定される。これが、第2注視判定である。
この第2注視判定を行う手法にも、種々の例が存在する。
一例においては、観察者の挙動が逐次検出され、その検出結果に基づき、観察者がいずれの参照コンテンツも注視していない非注視状態にあるか否かが判定される。具体的には、観察者が、実質的に静止している状態(例えば、実質的に立ち止まっているか、および/または頭部が実質的に静止している状態)から、実質的に動いている状態(例えば、実質的に歩いているか、および/または頭部が実質的に動いている状態)に移行したという第1条件が成立したか否かが判定される。その第1条件が成立したと判定された場合には、一覧モードへの移行が適切であると判定される。
別の例においては、上記第1条件が成立するのを待って、または、その成否とは無関係に、観察者の視線が逐次検出され、その検出された視線の延長上に今回の注視参照コンテンツが存在しないという第2条件が成立したか否かが判定される。その第2条件が単独で、または第1条件と一緒に成立したと判定された場合には、一覧モードへの移行が適切であると判定される。
さらに別の例においては、前記第1条件および/または第2条件が成立するのを待って、または、その成否とは無関係に、今回の注目オブジェクトが、所定範囲(例えば、オブジェクト検出範囲、または、そのオブジェクト検出範囲内の所定位置)から逸脱したという第3条件が成立したか否かが判定される。その第3条件が単独で、または第1条件および/または第2条件と一緒に成立したと判定された場合には、一覧モードへの移行が適切であると判定される。
以上の説明から明らかなように、本実施形態においては、観察者が特定の参照コンテンツを注視するという観察者の特定の動作であって、HMD10に対する操作を必要とはしないものの有無に応じて自動的にモードが一覧モードと注視モードとの間で切り換わるため、観察者は、HMD10をハンズフリーの状態で使用することが可能となり、その結果、HMD10の使い勝手が向上する。
図5には、以上説明したコンテンツ表示アルゴリズムがある環境において実施された場合に観察者が視認する画像(現実外界内の複数のオブジェクトを表す像と、複数の参照コンテンツの表示物との双方)の展開の一例が示されている。
この例において、ある環境とは、複数の展示物(例えば、美術品、恐竜の化石やレプリカなど)を収容している展示室を有する施設(例えば、美術館、博物館など)であり、また、複数のオブジェクトは、前記複数の展示物であり、また、複数の参照コンテンツは、前記複数の展示物についてのアノテーション(例えば、展示物の名称、特徴など)である。
図5に示す例においては、観察者に対し、手前に展示物Aが存在し、奥に展示物Bが存在する。それら展示物AおよびBについて、位置的に関連付けてそれぞれの参照コンテンツ(四角形の枠で囲まれた部分)SおよびRが表示される。一覧モードにおいては、展示物Aの奥行きの方が、展示物Bの奥行きより短いため、展示物Aに対応する参照コンテンツSの表示サイズの方が、展示物Bに対応する参照コンテンツRの表示サイズより大きい。
この状況において、展示物Bに対応する参照コンテンツを観察者が注視したと仮定する(すなわち、展示物Bに対応する参照コンテンツ(図5においては、右上に位置するコンテンツ)が注視参照コンテンツであり、かつ、展示物Bが注目オブジェクトであると仮定する)と、一覧モードが自動的に終了して注視モードに移行する。
この注視モードにおいては、展示物Bに対応する参照コンテンツRの表示サイズが、一覧モードのときの表示サイズより拡大される。このとき、例えば、展示物Aに対応する参照コンテンツSは、展示物Aが展示物Bより手間に位置しているため、先行する一覧モードのときに、通常サイズより拡大されていたが、注視モードに移行すると、今回は、注視参照コンテンツに該当しないことから、通常サイズに戻される。
図6(a)には、観察者が、HMD10を使用している状態で、ある展示室内において複数の展示物(例えば、恐竜のレプリカ)を鑑賞している様子が、その展示室全体を真上から俯瞰することによって示す平面図で示されている。この展示室には、複数のアンテナが予め設置されており、HMD10は、位置検出部300および向き検出部302のうち少なくとも位置検出部300を介して、それらアンテナのうち、最も近い3つのアンテナを用いた三角測量の原理を利用することにより、観察者の位置(x0,y0,z0)を、前記展示室に固定されたローカル座標系またはグローバル座標系上で検出する。なお、z軸方向は、観察者の正面方向を表しており、観察者の視線方向と一致する場合もあれば、一致しない場合もある。
その三角測量の原理に依存する一例においては、複数のアンテナの各々から信号が同時に、アンテナから他の複数の複数のアンテナに向かうように、発信され、それら信号を複数のアンテナがそれぞれ受信するタイミングの差または比に基づき、観察者の位置が検出される。その三角測量の原理に依存する別の例においては、複数のアンテナの各々から、同一の強度を有する信号が同時に、アンテナから他の複数の複数のアンテナに向かうように、発信され、それら信号が複数のアンテナによってそれぞれ受信されたときの受信強度の差または比に基づき、観察者の位置が検出される。
この例においては、展示室に、展示物A,B,CおよびDが展示されており、また、展示物Aには、参照コンテンツA1およびA2が関連付けられ、また、展示物Bには、参照コンテンツB1およびB2が関連付けられ、また、展示物Cには、参照コンテンツC1およびC2が関連付けられ、また、展示物Dには、参照コンテンツD1が関連付けられている。
図6(b)には、図4に示すコンテンツ情報記憶部に記憶されているコンテンツ関連情報の一例であって、図6(a)に示す例に対応するものが表形式で示されている。このコンテンツ関連情報の例は、展示室内に存在するすべての展示物につき、各展示物を一覧モードおよび注視モードで表示するために必要な情報である。
このコンテンツ関連情報の例は、各参照コンテンツに対応するオブジェクトの奥行きが長いほど(観察者から遠ざかるほど、すなわち、観察者からの距離が長いほど)、各参照コンテンツの表示サイズが小さくなるという第1の規則と、各参照コンテンツに対応するオブジェクトの奥行きが長いほど、各参照コンテンツに含まれる情報アイテムの数または情報量が減少するとうい第2の規則とに従って作成されている。それら第1および第2の規則は、各オブジェクトの奥行きが長いほど、観察者が特定のオブジェクトに注目している程度が低いと推定されることに依拠している。
この例によれば、各オブジェクトの奥行きが短いほど、対応する参照コンテンツの表示サイズが大きいため、観察者は、複数の参照コンテンツが一斉に表示されている環境において、どのオブジェクトがどの参照コンテンツに関連づけられているかを直感的に判断することが容易となる。すなわち、観察者の直感に訴える参照コンテンツの表示が可能となるのである。
また、この例においては、各参照コンテンツが関連付けて表示される展示物の位置が、(X,Y,Z)という3次元座標値で定義されている。この3次元座標系は、例えば、最初は、前記展示室に固定された第1のローカル座標系上で定義されているが、観察者の位置および向きの、その第1のローカル座標系に対する相対位置関係に基づき、最初の3次元座標値は、HMD10内において、そのHMD10に固定された第2のローカル座標系上の座標値に変換される。各展示物の位置を表す3次元座標値(X,Y,Z)を用いることにより、各展示物の、HMD10からの距離、すなわち、奥行きを算出することが可能である。
この例においては、具体的には、オブジェクトの奥行きの長さ(オブジェクトの、HMD10からの距離)の最大変化範囲が、「近レンジ(近)」、「中レンジ(中)」および「遠レンジ(遠)」という3つのレンジに分割されている。
また、この例においては、各参照コンテンツに含まれる情報アイテム(例えば、アイコンや説明(テキストやグラフィックス))の量および各参照コンテンツの表示サイズ(例えば、「大サイズ」、「中サイズ」または「小サイズ」)が、対応するオブジェクトがHMD10に近いほど、増加する。
この例においては、同じ情報アイテムにつき、それを表示するための画像データは、複数の表示サイズのそれぞれについて予め用意しておいてもよいが、メモリ312の容量節約のために、例えば、「大サイズ」で各情報アイテムを表示するための画像データをメモリ312に保存しておき、「中サイズ」および「小サイズ」で同じ情報アイテムを表示することが必要である場合には、その都度、「大サイズ」で表示するための画像データをメモリ312から読み出してそれを縮小したり、一部を削除したりして編集することによって生成してもよい。
この例においては、図6(b)に示すように、展示物Aには、2つの参照コンテンツA1およびA2が対応し、また、展示物Bには、2つの参照コンテンツB1およびB2が対応し、展示物Cには、2つの参照コンテンツC1およびC2が対応し、展示物Dには、1つの参照コンテンツD1が対応する。
例えば、参照コンテンツA1については、対応するオブジェクトが「近レンジ」内に位置する場合には、この参照コンテンツA1に含まれる情報アイテム(内容)が、「アイコンA1」と「説明A1」との組合せとなり、また、参照コンテンツA1の表示サイズが、「大サイズ」、「中サイズ」および「小サイズ」という3つのサイズのうちの「大サイズ」となる。
また、参照コンテンツA1については、対応する展示物Aが「中レンジ」内に位置する場合には、参照コンテンツA1に含まれる情報アイテム(内容)が、「説明A1」のみとなり、その結果、展示物Aが「近レンジ」内に位置する場合より、情報アイテムの数も情報量も減少する。また、参照コンテンツA1の表示サイズが、「中サイズ」となり、その結果、「近レンジ」内に位置する場合より、表示サイズも減少する。
展示物Aが「中レンジ」内に位置する場合には、参照コンテンツA1を表示するのに必要な画像データは、「説明A1」を表すデータとなる。このデータは、展示物Aが「近レンジ」内に位置する場合に同じ参照コンテンツA1を表示するのに必要な画像データである「アイコンA1」を表すデータと「説明A1」を表すデータから、「アイコンA1」を表すデータを削除することによって作成される。この作成手法に代えて、展示物Aが位置するレンジごとに、参照コンテンツA1を表示するのに必要な画像データを個別に予め作成してメモリ312に保存しておくことも可能であるが、この場合には、画像データを事前に作成する手間やメモリ312の容量が増加する傾向がある。
また、参照コンテンツA1については、対応するオブジェクトが「遠レンジ」内に位置する場合には、参照コンテンツA1に含まれる情報アイテム(内容)が、「アイコンA1」のみとなり、その結果、展示物Aが「中レンジ」内に位置する場合より、情報アイテムの情報量も減少する(アイコンAの情報量は、説明A1の情報量より少ない)。また、参照コンテンツA1の表示サイズが、「小サイズ」となり、その結果、「中レンジ」内に位置する場合より、表示サイズも減少する。
展示物Aが「遠レンジ」内に位置する場合に、参照コンテンツA1を表示するのに必要な画像データは、「アイコンA1」を表すデータである。このデータは、展示物Aが「近レンジ」内に位置する場合に同じ参照コンテンツA1を表示するのに必要な画像データである「アイコンA1」を表すデータと「説明A1」を表すデータから、「説明A1」を表すデータを削除することによって作成される。
図6(a)に示す例においては、展示物A,B,CおよびDのうち、展示物BおよびCのみが、観察者のオブジェクト検出範囲内に存在する。展示物Bには、2つの参照コンテンツB1およびB2が対応し、また、展示物Cには、2つの参照コンテンツC1およびC2が対応する。このように、複数の参照コンテンツを、有限の画像表示領域内に一斉に表示することが必要である場合があるが、この場合には、その表示を最適化するために、何らかの対策を講ずることが望ましい。
具体的には、観察者が観察している現実外界に複数の参照コンテンツが対応する場合であって、それら参照コンテンツを一斉に表示すると、表示される参照コンテンツの表示サイズの合計値が前記画像表示領域の総面積を超える場合には、何ら対策を講ずることなく、それら参照コンテンツを一斉に表示すると、それら参照コンテンツが重複して表示されてしまる。この場合には、観察者がそれら参照コンテンツを個別に視認する際に支障が生じる可能性がある。
また、それら参照コンテンツを一斉に、前記画像表示領域内に、それら参照コンテンツに対応するオブジェクトの位置とは無関係に決まる位置に表示したのでは、観察者は、どの参照コンテンツがどのオブジェクトに対応するのかを簡単かつ正確に認識することができない。また、複数の参照コンテンツが重複して表示されてしまうと、観察者は、希望する参照コンテンツを正常に観察することができない。
それらの不都合を防止する手法として、例えば、それぞれの参照コンテンツに予め重要度を割り当てておき、オブジェクト検出範囲内にあるすべての展示物に対応するすべての参照コンテンツをそれぞれ候補コンテンツとした場合に、それら候補コンテンツのうち、重要度が最も低いものや、重要度が所定値以下のものを除外して、表示すべきコンテンツを最終的に決定する手法を採用することが可能である。
図7(a)には、この手法に従って表示対象コンテンツを絞り込むために必要なテーブルの一例が示されており、この例は、図6(a)および図6(b)に示す例に対応する。
図7(a)においては、各参照コンテンツに関連付けて、各参照コンテンツの重要度(例えば、「大」および「小」という2段階またはそれより多段階に分類される)と、オブジェクト検出範囲内に位置するか否かの情報と、対応する展示物の、HMD10からの距離すなわち奥行きと、その距離が分類されるレンジ(「近」と「中」と「遠」のいずれか)と、各参照コンテンツに含まれる情報アイテムの内容と、各参照コンテンツの表示サイズ(「大」と「中」と「小」のいずれか)と、各参照コンテンツの表示を許可するか否かを表す情報(○:表示する、×:表示しない)とが表形式で示されている。
この例においては、まず、オブジェクトBおよびCがオブジェクト検出範囲内にあることから、それらに対応する4つの参照コンテンツB1,B2,C1およびC2がそれぞれ候補コンテンツとして抽出される。それら候補コンテンツは、重要度を考慮しない場合には、すべて表示されることになるが、この例においては、重要度を考慮して、候補コンテンツの絞込みが行われる。この例においては、参照コンテンツB2の重要度が「小」であるため、除外され、最終的に、3つの参照コンテンツB1,C1およびC2が、例えば図7(b)に示すように、表示される。
図7(b)に示す例においては、複数の参照コンテンツのそれぞれの表示位置が、それら参照コンテンツに対応する複数のオブジェクトの左右方向相対位置関係(正確には、代表点間の左右方向相対位置関係)を反映するように決定される。
図6(a)に示すように、展示物Bは、観察者に対して左寄りに位置する一方、展示物Cは、観察者に対して右寄りに位置する。したがって、図7(b)に示す例においては、展示物BおよびC間の、そのような左右方向相対位置関係(観察者の視線方向に対して直角な2次元方向における相対位置関係)が反映されるように、それら参照コンテンツB1ならびにC1およびC2の、それぞれの表示位置の相対位置関係が決定される。
具体的には、参照コンテンツB1は、前記画像表示領域において、それの中央位置から左側に外れた位置に表示される一方、参照コンテンツC1およびC2は、いずれも、前記画像表示領域において、それの中央位置から右側に外れた位置に表示される。
図7(b)に示す例においては、さらに、複数の参照コンテンツのそれぞれの表示位置が、それら参照コンテンツに対応するオブジェクトの前後方向相対位置関係(正確には、代表点間の前後方向相対位置関係)が反映されるように、決定される。
具体的には、図6(a)に示すように、展示物Bの代表点B1の位置は、観察者に最も近く、また、展示物Cの代表点C2の位置は、観察者から最も離れており、また、展示物Cの代表点C1は、それら代表点B1およびC2の中間に位置する。したがって、図7(b)に示す例においては、展示物BおよびC間の、そのような前後方向相対位置関係(観察者の視線方向に対して平行な方向における相対位置関係)が反映されるように、それら参照コンテンツB1ならびにC1およびC2の、それぞれの表示位置の相対位置関係が決定される。
具体的には、展示物Bの代表点B1は、「近レンジ」内に位置するため、それに対応する参照コンテンツB1は、観察者が視認する前記画像表示領域を縦方向に、上側部分領域と、中央部分領域と、下側部分領域との3分割した場合の下側部分領域内に表示され、また、展示物Cの代表点C1は、「中レンジ」内に位置するため、それに対応する参照コンテンツC1は、前記中央部分領域内に表示され、また、展示物Cの代表点C2は、「遠レンジ」内に位置するため、それに対応する参照コンテンツC2は、前記上側部分領域内に表示される。
図6(a)に示す例においては、展示物Bに2つの代表点B1およびB2が対応付けられ、それら代表点B1およびB2に2つの参照コンテンツB1およびB2が対応付けられている。しかし、それら代表点B1およびB2のそれぞれの位置座標は、互いに一致するため、上述の規則に従って、それら参照コンテンツB1およびB2のそれぞれの表示位置を決定した上で、それら参照コンテンツB1およびB2を同時に表示すると、それら参照コンテンツB1およびB2が重複して表示されてしまう可能性がある。そのような重複表示を放置したのでは、観察者が、それら参照コンテンツB1およびB2を互いに区別して視認することが困難となる。
そのような重複表示を防止するために、例えば、それら参照コンテンツB1およびB2を、重複することなく並ぶように初期の表示位置を変更したうえで、一斉に表示したり、初期の表示位置をそのままにして、時間的に交互に表示することが可能である。
前述のように、有限の画像表示領域内に複数の参照コンテンツが一斉に表示される場合、表示される参照コンテンツの数が、観察者の視認能力との関係において過大であると、観察者は圧迫感ひいては不快感も覚える可能性がある。
このような不都合を解決する手法の一例として、一覧モードの実行中、表示状態が非選択状態(全数表示状態)から選択状態(要部表示状態)に切り換わるようにする手法を採用することが望ましい。
図8には、図7に示す例と類似する例が示されている。この例においては、一覧モードが、まず、前記非選択状態で実行され、その結果、オブジェクト検出範囲内にある複数のオブジェクトB,CおよびDに対応する複数の参照コンテンツB1,B2,C1−C3およびD1−D4が一斉に表示される。
その後、一覧モードが前記選択状態に移行し、その結果、特定の少なくとも1つのオブジェクトC、すなわち、観察者が今後、注目する可能性が高い少なくとも1つのオブジェクトとして推定され、そのオブジェクトに対応する少なくとも1つの参照コンテンツのみが、前記画像表示領域内に表示される。観察者が今後注目する可能性が高い少なくとも1つのオブジェクトは、例えば、観察者の正面に位置する少なくとも1つのオブジェクトとして選択される。このように、一覧モードが非選択状態と選択状態とに切り換えられることにより、観察者が複数の参照コンテンツを視認する際の視認性が向上する。
その選択状態で、観察者が、オブジェクトCに対応する参照コンテンツC2を注視すると、注視モードに移行し、参照コンテンツC2が拡大表示される。
以上、HMD10が画像を表示するための画像表示方法(すなわち、HMD10を作動させる方法)のいくつかの例を説明したが、それら画像表示方法は、メモリ312の前記プログラム記憶部に予め格納されている前記画像表示プログラムをプロセッサ310が実行することによって実行される。したがって、そのプロセッサ310は、説明の便宜上、概念的には、図4に示すように、複数の機能を実行する複数の部分を有する。
具体的には、プロセッサ310は、オブジェクト取得部400と、参照コンテンツ表示部402と、画像信号生成部404と、ピント調整信号生成部406とを有する。画像信号生成部404は、参照コンテンツ表示部402からのデータに基づき、画像信号を生成し、その画像信号をドライバ222を介してLCD230に供給する。これにより、観察者に対して参照コンテンツが表示される。また、ピント調整信号生成部406は、参照コンテンツ表示部402からのデータに基づき、ピント調整信号を生成し、そのピント調整信号をドライバ282を介してアクチュエータ280に供給する。これにより、ピント調整機構230が駆動され、その結果、LCD220によって表示される画像のピント位置が目標位置となるように調整される。
オブジェクト取得部400は、通信モジュール320を介してサーバ322から前記コンテンツ関連情報を受信する。そのコンテンツ関連情報は、前記オブジェクト関連情報を含んでいる。このオブジェクト取得部400は、さらに、観察者の視界内に存在するオブジェクトに関する情報を取得する。
参照コンテンツ表示部402は、表示可能な複数の参照コンテンツの中から、観察者の視界内に存在する複数のオブジェクトに対応するものを選択する参照コンテンツ選択部410を有する。参照コンテンツ表示部402は、さらに、それら選択された複数の参照コンテンツを前記一覧モードで表示する一覧表示部412と、前記注視参照コンテンツを抽出することによって前記注目オブジェクトを推定する注目オブジェクト推定部414と、前記注目オブジェクトに関連付けて、対応する1つの参照コンテンツ、すなわち、前記注視参照コンテンツを前記注視モードで表示する注目表示部416とを有する。参照コンテンツ表示部402は、さらに、観察者の視線位置を算出する視線位置算出部418と、観察者が特定の参照コンテンツを注視している状態にあるか否かを判定する注視判定部420とを有する。
次に、図9ないし図12を参照することにより、前記画像表示方法およびその画像表示方法を実行するためのソフトウエア構成、すなわち、前記画像表示プログラムを説明する。
図9には、前記画像表示プログラムがフローチャートで概念的に表されている。この画像表示プログラムは、HMD10の電源が投入されると、プロセッサ310によって実行される。
この画像表示プログラムが実行されると、まず、ステップS1において、位置検出部300および向き検出部302からの信号に基づき、観察者の位置および向きが検出される。次に、ステップS2において、それら検出された位置および向きと、観察者の視界範囲を幾何学的に特定するための情報(メモリ312に保存されている)とに基づき、前記オブジェクト検出範囲(図9においては、単に「検出範囲」で表す。)が算出される。
続いて、ステップS3において、HMD10からサーバ322に対して送信されたリクエストに応じて、前記コンテンツ関連情報と前記オブジェクト関連情報とがサーバ322から受信され、その受信された情報はメモリ312に保存される。ここに、「コンテンツ関連情報」は、HMD10が表示可能なすべての参照コンテンツに関する情報を含み、また、「オブジェクト関連情報」は、現実外界に存在するすべてのオブジェクトに関する情報を含んでいる。その後、ステップS4において、前記算出されたオブジェクト検出範囲と、前記オブジェクト関連情報(各オブジェクトの3次元位置座標を含む)との関係に基づき、そのオブジェクト検出範囲に複数のオブジェクトが存在するか否か(すなわち、観察者の視界内に複数のオブジェクトが存在するか否か)が判定される。
今回は、1つのオブジェクトしか存在しないと仮定すれば、ステップS5において、そのオブジェクトに対応する参照コンテンツを表示するためのデータがメモリ312から読み込まれ、そのデータに基づき、参照コンテンツが表示される。このとき、その参照コンテンツは、対応するオブジェクトの奥行きと実質的に同じ奥行きを有するように、可変の前記第2の奥行きのもとに表示することが望ましいが、固定の奥行きのもとに表示することも可能である。
その後、ステップS6において、観察者が、HMD10の作動を終了させる終了指令を発したか否かが判定される。その終了指令を発した場合には、この画像表示プログラムの実行が終了するが、そのような終了指令を発していない場合には、ステップS1に戻る。
以上、オブジェクト検出範囲内に複数のオブジェクトが存在しない場合を説明したが、存在する場合には、ステップS7において、ステップS4においてオブジェクト検出範囲内に検出された複数のオブジェクトが今回の処理対象として選択され、さらに、前記コンテンツ関連情報を参照することにより、それらオブジェクトに対応する複数の参照コンテンツが選択される。続いて、ステップS8において、前述の一覧モードが実行され、それにより、複数のオブジェクトの位置にそれぞれ関連付けられて複数の参照コンテンツが、前記第1の奥行きのもとに表示される。このステップS8は、後に詳述する。
その後、参照コンテンツの表示状態を維持しつつ、ステップS9において、位置検出部300および/または向き検出部302からの信号に基づき、観察者の動き(例えば、身体の動き、頭部の動きなど)が検出されたか否かが判定される。観察者の動きが検出されたと仮定すると、ステップS12による注視モードに移行することなく、ステップS6に移行する。
これに対し、観察者が前記注視状態にあると仮定すれば、観察者は静止した状態にある蓋然性が高いため、向き検出部302からの信号に基づく動き判定処理において、観察者の動きは検出されない。そのため、ステップS9の判定は「NO」となり、ステップS10において、視線検出部304からの信号に基づき、観察者の視線(視線の向き)が検出される。続いて、ステップS11において、その視線が所定時間(例えば、約数秒)維持されたか否かを判定することにより、観察者が、一覧表示されている複数の参照コンテンツのうちのいずれかを所定時間以上注視し続けたか否かが判定される。観察者が特定の参照コンテンツを所定時間以上注視し続けてはいないと仮定すれば、ステップS12による注視モードに移行することなく、ステップS6に移行する。
これに対し、観察者がいずれかの参照コンテンツを所定時間以上注視し続けたと仮定すれば、その参照コンテンツが前記注視参照コテンツであると判定され、また、前記複数のオブジェクトのうち、その注視参照コンテンツに対応するものが、前記注目オブジェクトであると判定される。その後、ステップS12において、前述の注視モードが実行され、それにより、観察者が注視している参照コンテンツが、その参照コンテンツに対応する注目オブジェクトの位置に関連付けて、かつ、その注目オブジェクトの奥行きとほぼ同じである前記第2の奥行きを有し、かつ、その参照コンテンツが一覧表示されていたときの表示サイズより拡大された表示サイズを有するように表示される。このステップS12は、後に詳述する。その後、ステップS6に移行する。
次に、図10および図11を参照することにより、図9に示すステップS8、すなわち、前記一覧モードを実行するための一覧モード用モジュールを説明する。
まず、ステップS101において、観察者の視界(前記オブジェクト検出範囲)内にある複数のオブジェクトのうち、順に選択される1つのオブジェクトにつき、HMD10からの奥行きdが、前述の観察者の位置の検出結果と前記コンテンツ関連情報(各オブジェクトの3次元位置座標を含む)とに基づいて算出される。次に、ステップS102において、その算出された奥行きdが下側閾値d1より短いか否かが判定される。今回の奥行きdが下側閾値d1より短い場合には、ステップS103において、今回のオブジェクトが「近レンジ」内に位置するとして、それに対応する参照コンテンツが注視モードで表示される際の前記第2の奥行きが、3つの離散的な奥行きレベルである「近レベル(所定の最小値)」と「中レベル(所定の中間値)」と「遠レベル(所定の最大値)」とのうち、「近レンジ」に設定される。これは、後に、今回の参照コンテンツの表示サイズが「大」に決定されることを意味する。
これに対し、今回の奥行きdが下側閾値d1以上である場合には、ステップS104において、今回の奥行きdが下側閾値d1以上であり、かつ、上側閾値d2(>d1)より短いか否かが判定される。今回の奥行きdが下側閾値d1以上であり、かつ、上側閾値d1より短い場合には、ステップS105において、今回のオブジェクトが「中レンジ」内に位置するとして、それに対応する参照コンテンツが注視モードで表示される際の前記第2の奥行きが「中レベル」に設定される。これは、後に、今回の参照コンテンツの表示サイズが「中」に決定されることを意味する。
これに対し、今回の奥行きdが下側閾値d2以上である場合には、ステップS106において、今回のオブジェクトが「遠レンジ」内に位置するとして、それに対応する参照コンテンツが注視モードで表示される際の前記第2の奥行きが「遠レベル」に設定される。これは、後に、今回の参照コンテンツの表示サイズが「小」に決定されることを意味する。
いずれの場合にも、その後、ステップS107において、視界内にあるすべてのオブジェクトについて参照コンテンツの第2の奥行きの設定が完了したか否かが判定される。完了していない場合には、ステップS102に戻り、次のオブジェクトについて同じ処理が実行されるが、完了した場合には、ステップS108に移行する。
このステップS108においては、前記コンテンツ関連情報を参照することにより、前述の規則に従い、視界内にある複数のオブジェクトに対応する複数の参照コンテンツのそれぞれの表示内容および表示サイズが決定される。続いて、ステップS109において、前記複数の参照コンテンツのそれぞれの表示面積の合計値T1が、前記画像表示領域の総面積T2より小さいか否か、すなわち、表示すべき参照コンテンツの数を減少させることが不要であるか否かが判定される。合計値T1が総面積T2より小さくはない、すなわち、表示すべき参照コンテンツの数を減少させることが必要である場合には、ステップS110に移行する。
これに対し、合計値T1が総面積T2より小さい場合には、ステップS111において、前記複数の参照コンテンツのうち、第2の奥行きが「近レベル」に設定された参照コンテンツ(表示サイズが「大」)の数が3以上であるという条件と、奥行きが「中レベル」に設定された参照コンテンツ(表示サイズが「中」)の数が4以上であるという条件と、奥行きが「遠レベル」に設定された参照コンテンツ(表示サイズが「小」)の数が5以上であるという条件とのうちの少なくとも1つが成立したか否か、すなわち、表示すべき参照コンテンツの数を減少させることが必要であるか否かが判定される。
それら3つの条件のうちの少なくとも1つが成立したと仮定すると、ステップS110に移行するが、それら3つの条件のうちのいずれも成立しなかった場合には、ステップS112に移行する。このステップS112は、後に図12を参照して説明する。
ステップS110においては、表示すべき参照コンテンツを絞り込むため、前述のように、前記複数のオブジェクトのうち、それについて算出された奥行きdが所定値dmaxより長いものを、参照コンテンツが関連付けて表示されるオブジェクトから除外したり、前記複数の参照コンテンツのうち、前記重要度が所定値より低いものを、表示すべき参照コンテンツから除外するなどし、それにより、総面積T2を減少させる。その後、ステップS109に戻る。
ステップS109の再度の実行後またはステップS111の再度の実行後にステップS110が再度実行され、それにより、再度の絞込みが行われる場合には、前回の絞込みより厳しい条件で、参照コンテンツの絞込みを行うことが可能である。一例においては、前記所定値dmaxの今回値が前回値より所定量Δdだけ、減少させられる。
ステップS111において前述の3つの条件のいずれも成立しなかったと判定された場合には、図11に示すステップS112に移行する。このステップS112においては、図7を参照して前述したように、前記複数のオブジェクト間の相対位置に基づき、前記複数の参照コンテンツの表示位置間の相対位置が決定される。そして、決定された相対位置に基づいて、表示すべき参照コンテンツを表す画像データが生成される。
続いて、ステップS113において、前記複数の参照コンテンツに共通の目標ピント位置(すなわち、前記第1の奥行きに対応する)が、前述のようにして決定され、さらに、それら参照コンテンツの実際のピント位置が、その決定された目標ピント位置と一致するように調整される。具体的には、その目標ピント位置を実現するためのピント調整信号が生成され、その生成されたピント調整信号がドライバ282に対して出力され、その結果、アクチュエータ280が目標量で駆動される。
その後、ステップS114において、前記複数の参照コンテンツが、前記目標ピント位置において結像し、かつ、前記決定されたそれぞれの表示位置(LCD220の表示面上の2次元位置)において、前記決定されたそれぞれの表示サイズを有し、かつ、前記決定されたそれぞれの内容(情報アイテム)を有するように表示される。以上で、この一覧モード用モジュールの実行が終了する。
次に、図12を参照することにより、図9に示すステップS12、すなわち、前記注視モードを実行するための注視モード用モジュールを説明する。
まず、ステップS201において、前記注目オブジェクトの奥行きdに応じて決定された前記第2の奥行きに対応する目標ピント位置と一致するように、前記注視参照コンテンツの実際のピント位置が調整される。ここに、「注視参照コンテンツ」は、図9に示すステップS11において、観察者が所定時間以上注視した参照コンテンツとして取得され、また、「注目オブジェクト」は、前記コンテンツ関連情報に従い、その注視参照コンテンツに対応するオブジェクトとして取得される。このステップS201においては、具体的に、前記第2の奥行きを実現するためのピント調整信号が生成され、その生成されたピント調整信号がドライバ282に対して出力され、その結果、アクチュエータ280が目標量で駆動される。
次に、ステップS202において、注視参照コンテンツが、一覧モードで表示される場合より拡大されて表示される。具体的には、注視参照コンテンツを他の参照コンテンツより大きいサイズで表示するための画像データが生成され、その画像データを反映する画像信号が生成され、その生成された画像信号がドライバ222に対して出力され、その結果、注視参照コンテンツを含む複数の参照コンテンツが一覧表示される。これにより、注視参照コンテンツが他の参照コンテンツより視覚的に強調され、その結果、注視参照コンテンツの視認性が向上する。
このステップS202には、種々の例が存在する。一例においては、注視参照コンテンツと一緒に表示されている他の複数の参照コンテンツの表示が、その条件・態様が一切変更されることなく、継続される。別の例においては、前述のように、他の複数の参照コンテンツの表示サイズが、すべて、最小のサイズ(例えば、前記一覧モードにおいて、対応するオブジェクトが「遠レンジ」内に位置する場合にとる表示サイズ)に縮小される。この例によれば、注視モードにおいて、注視参照コンテンツが、自身の表示サイズが大きいことに加えて、他の参照コンテンツの表示サイズが小さいことのおかげで、さらに強調表示される。さらに別の例においては、他の複数の参照コンテンツの表示が停止させられる一方、注視参照コンテンツのみ、表示が継続される。
続いて、注視参照コンテンツの拡大表示状態を維持しつつ、ステップS203において、位置検出部300および/または向き検出部302からの信号に基づき、観察者の動き(例えば、身体の動き、頭部の動きなど)が検出されたか否かが判定される。観察者の動きが検出されたと仮定すると、ステップS204において、図9に示すステップS1およびS2と同様にして、最新のオブジェクト検出範囲が算出され、その算出されたオブジェクト検出範囲から、最新の注目オブジェクトが外れているか否かが判定される。
注目オブジェクトがオブジェクト検出範囲から外れている場合には、ステップS205において、注視参照コンテンツの拡大表示が解除され、それにより、その注視参照コンテンツが、先行する一覧モードで表示されたときと同じ表示サイズを有するように表示される。その結果、注視モードから一覧モードへの移行が完了する。以上で、この注視モード用モジュールの実行が終了する。
これに対し、観察者の動きが検出されなかったと仮定すると、注視参照コンテンツの拡大表示が維持されたままで、この注視モード用モジュールの実行が終了する。
以上の説明から明らかなように、上述のいくつかの実施形態によれば、対象空間内に複数のオブジェクトが存在し、かつ、それらオブジェクトのそれぞれについて参照コンテンツが存在する場合、それらオブジェクトのうちのいずれかを観察者が注視しないうちであっても、すべてのオブジェクトについて参照コンテンツが一覧モードで表示される。したがって、観察者は、そのような注視前(すなわち、注目オブジェクトの選択前)であっても、観察している複数のオブジェクトのすべてについて一度に、関連する情報にアクセスすることができ、便利である。
さらに、上述のいくつかの実施形態によれば、観察者が特定のオブジェクトに注目したか否かに応じて、表示モードが一覧モードと注視モードとの間で切り換わり、その結果、そのオブジェクトに関連する参照コンテンツの奥行きが時間と共に、参照コンテンツの奥行きがオブジェクトの奥行きと一致しない可能性が高い状態と、参照コンテンツの奥行きがオブジェクトの奥行きと実質的に一致する状態との間で変化する。
一方、同じオブジェクトに対する観察者の注目度の時間的変化に合わせて、そのオブジェクトに関連する参照コンテンツの奥行きを時間的に変化させることは、その間、観察者のピント位置がそのオブジェクトのピント位置に維持されると考えられる限りにおいて、観察者に見える参照コンテンツのぼけ具合いが時間的に変化することにつながる。この変化は、前記注目度の変化に合致する。
よって、上述のいくつかの実施形態によれば、参照コンテンツを観察者の感覚に合致した条件で表示することが可能となり、観察者が参照コンテンツを視認する際の快適性が向上する。
以上の説明から明らかなように、本実施形態においては、説明の便宜上、図9におけるステップS1ないしS4が、前記オブジェクト取得工程の一例を構成し、また、同図におけるステップS5が、前記参照オブジェクト選択工程の一例を構成し、また、同図におけるステップS8が、前記一覧表示工程の一例を構成し、また、同図におけるステップS9ないしS11が、前記注目オブジェクト推定工程の一例を構成し、また、同図におけるステップS12が、前記注目表示工程の一例を構成していると考えることが可能である。
以上、本発明のいくつかの実施形態を図面に基づいて詳細に説明したが、これらは例示であり、前記[発明の概要]の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。