A.第1実施形態:
A−1.情報システムの構成:
図1は、本発明の第1実施形態における情報システム500の概略構成を示す説明図である。情報システム500は、使用者の頭部に装着され、虚像を使用者に視認させるヘッドマウントディスプレイ100(Head Mounted Display、HMD100)と、HMD100などの情報端末に、各地に設置されている看板と、看板のそれぞれの位置を特定する位置情報および看板のそれぞれに対応付けられた画像情報と、を含む広告情報を記憶しているサーバー300と、を備えている。情報システム500では、HMD100によって検出された種々の情報に応じて、サーバー300からHMD100へとサーバー300に記憶された広告情報が送信される。なお、情報システム500において、本実施形態では、HMD100とサーバー300とが1つずつしか備えられていないが、他の実施形態では、HMD100およびサーバー300の少なくとも一方が複数備えられていてもよい。
図2は、サーバー300の構成を機能的に示すブロック図である。サーバー300は、HMD100に送信する広告情報を記憶している記憶部320と、記憶部320に記憶されている広告情報の内の少なくとも1部をHMD100に送信する通信部330と、CPU310と、を備えている。記憶部320は、ROMやRAM等によって構成されている。記憶部320は、看板の画像と、看板の画像のそれぞれに対応付けられた広告情報を記憶している広告データベース325(広告DB325)を有している。広告DB325に格納されている広告情報の詳細については、後述する。また、記憶部320は、各種コンピュータープログラムを格納している。
通信部330は、無線LANやブルートゥース(登録商標)といった所定の無線通信方式に則って他の機器との間で無線通信を行なう。通信部330は、サーバー300とHMD100との間で各種情報を送受信する。CPU310は、記憶部320に格納されているコンピュータープログラムを読み出して実行する。CPU310は、通信部330を介して受信されたHMD100の画像表示部20の位置情報やHMD100に備え付けられている外景を撮像するカメラ61の撮像画像などの情報に基づいて、広告DB325に記憶された広告情報から少なくとも一部を選択する情報選択部312を備える。なお、画像表示部20の位置などを特定する方法については、後述する。情報選択部312は、選択した広告情報の一部である選択情報を、通信部330を介して、HMD100に送信する。なお、本実施形態におけるサーバー300は、請求項における情報記憶装置に相当し、サーバー300の通信部330は、請求項における選択情報送信部に相当する。
図3は、サーバー300の広告DB325に記憶された看板の画像のそれぞれに対応付けられた広告情報の一例を示す一覧表である。図3には、広告DB325に記憶された広告情報の一部の店舗別広告データSDが一覧で示されている。店舗別広告データSDでは、店舗の店舗名称ごとに、カテゴリーと、看板の位置と、画像情報とが区別されている。詳細については後述するが、カテゴリーと看板の位置とに基づいて、サーバー300からHMD100へと送信される選択情報が広告情報から選択される。また、サーバー300から送信された選択情報に対応付けられた画像情報に基づいて、HMD100に表示される画像の表示態様などが設定される。
以下では、店舗別広告データSDの情報の詳細について説明する。例えば、図3に示すように、店舗名称が「富士」である店舗のカテゴリーは、飲食であり、店舗名称が「カラオケJO」である店舗のカテゴリーは、娯楽である。店舗別広告データSDにおける看板の位置は、看板が設置されている場所の緯度および経度を特定する。例えば、店舗名称が「富士」である店舗の看板の位置の緯度および経度のそれぞれは、「130.x・・・xx1」と「33.y・・・yy1」である。
店舗別広告データSDにおける画像情報は、画像の種類と、ページ数と、時刻制限と、環境制限とに区別されている。画像の種類は、HMD100に表示される場合の画像の種類である。例えば、店舗名称が「富士」である店舗の画像の種類は、「文字」の画像(単に、「文字画像」とも呼ぶ)である。文字画像は、HMD100に表示された場合に、時間が経過しても変化せず、文字によって表された静止画像である。また、店舗名称が「××肉店」の画像の種類は「動画」であり、動画は、時間の経過に伴ってHMD100に表示される画像が変化する画像である。ページ数は、HMD100に表示される画像の階層構造を示している。例えば、店舗名称が「富士」である店舗のページ数は「2」であるため、2階層の画像の構造になっている。そのため、特定の時点では、HMD100に表示される画像は1種類であるが、所定の操作を受け付けることにより、HMD100に表示される画像がもう1種類の画像に変更される。テンポ情報が「カラオケJO」である店舗のページ数は「1」であるため、HMD100に表示される画像は1種類である。
時刻制限は、HMD100に表示される画像の時刻についての設定である。例えば、店舗名称が「富士」である店舗の時刻制限は11時から20時であるため、「富士」に対応付けられた画像がHMD100に表示される時刻が11時から20時までに限られており、これ以外の時刻では、「富士」に対応付けられた画像は表示されない。また、店舗名称が「カラオケJO」の店舗の時刻制限は、10時から18時までと、18時から24時までの2通りである。そのため、10時から18時にHMD100に表示される「カラオケJO」に対応付けられた画像と、18時から24時までにHMD100に表示される「カラオケJO」に対応付けられた画像とは異なる。また、店舗名称が「○○薬局」の店舗の時刻制限はないため、1日の24時間を通して、HMD100には同じ画像が表示される。
環境制限は、HMD100に表示される画像を変更する条件についてのHMD100の外部環境の設定である。例えば、店舗名称が「富士」である店舗の環境制限は、外部の温度が「摂氏30度(30℃)」であるため、30℃を境界としてHMD100に表示される画像が異なる。また、店舗名称が「カラオケJO」の店舗の環境制限は、「雨」であるため、天候が雨の場合と雨以外の場合とでHMD100に表示される画像が異なる。また、店舗名称が「○○薬局」である店舗の環境制限は、「なし」であるため、外部環境に関わらず、HMD100に表示される画像は同じである。
図1に示すHMD100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。なお、本明細書では、HMD100によって使用者が視認する虚像を便宜的に「表示画像」ともいう。また、コンテンツ等の画像データに基づいて生成された画像光を射出することを「画像を表示する」ともいう。
HMD100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部10(コントローラー10)と、を備えている。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、カメラ61と、マイク63と、温度計65とを含んでいる。右光学像表示部26および左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右および左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21および左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。なお、以降では、右保持部21および左保持部23を総称して単に「保持部」とも呼び、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」とも呼ぶ)や投写光学系251,252等を含む(図4参照)。表示駆動部22,24の構成の詳細は後述する。光学部材としての光学像表示部26,28は、導光板261,262(図4参照)と調光板とを含んでいる。導光板261,262は、光透過性の樹脂材料等によって形成され、表示駆動部22,24から出力された画像光を使用者の眼に導く。調光板は、薄板状の光学素子であり、使用者の眼の側とは反対の側である画像表示部20の表側を覆うように配置されている。調光板は、導光板261,262を保護し、導光板261,262の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者の眼に入る外光量を調整して虚像の視認のしやすさを調整できる。なお、調光板は省略可能である。
カメラ61は、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置に配置されている。そのため、カメラ61は、使用者が画像表示部20を頭部に装着した状態において、使用者の視線方向の外部の景色である外景を撮像し、撮像画像を取得する。本実施形態のカメラ61は、使用者の視野とほぼ同じとなるような画角に設定されている。カメラ61は、単眼カメラであるが、ステレオカメラであってもよい。マイク63は、外部の音声を取得する装置である。マイク63は、使用者が画像表示部20を装着した際の右表示駆動部22における使用者と対向する側の反対側(外側)に配置されている。温度計65は、外部環境の温度(摂氏)を測定する。なお、温度計65は、請求項における状態検出部に相当する。
画像表示部20は、さらに、画像表示部20を制御部10に接続するための接続部40を有している。接続部40は、制御部10に接続される本体コード48と、右コード42と、左コード44と、連結部材46と、を含んでいる。右コード42と左コード44とは、本体コード48が2本に分岐したコードである。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続されている。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続されている。連結部材46は、本体コード48と、右コード42および左コード44と、の分岐点に設けられ、イヤホンプラグ30を接続するためのジャックを有している。イヤホンプラグ30からは、右イヤホン32および左イヤホン34が延伸している。
画像表示部20と制御部10とは、接続部40を介して各種信号の伝送を行なう。本体コード48における連結部材46とは反対側の端部と、制御部10と、のそれぞれには、互いに嵌合するコネクター(図示しない)が設けられている。本体コード48のコネクターと制御部10のコネクターとの嵌合/嵌合解除により、制御部10と画像表示部20とが接続されたり切り離されたりする。右コード42と、左コード44と、本体コード48とには、例えば、金属ケーブルや光ファイバーを採用できる。
制御部10は、HMD100を制御するための装置である。制御部10は、決定キー11と、点灯部12と、表示切替キー13と、トラックパッド14と、輝度切替キー15と、方向キー16と、メニューキー17と、電源スイッチ18と、を含んでいる。決定キー11は、押下操作を検出して、制御部10で操作された内容を決定する信号を出力する。点灯部12は、HMD100の動作状態を、その発光状態によって通知する。HMD100の動作状態としては、例えば、電源のON/OFF等がある。点灯部12としては、例えば、LEDが用いられる。表示切替キー13は、押下操作を検出して、例えば、コンテンツ動画の表示モードを3Dと2Dとに切り替える信号を出力する。トラックパッド14は、トラックパッド14の操作面上での使用者の指の操作を検出して、検出内容に応じた信号を出力する。トラックパッド14としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。輝度切替キー15は、押下操作を検出して、画像表示部20の輝度を増減する信号を出力する。方向キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、HMD100の電源投入状態を切り替える。
図4は、HMD100の構成を機能的に示すブロック図である。図4に示すように、制御部10は、記憶部120と、電源130と、GPSモジュール137と、無線通信部132と、操作部135と、CPU140と、インターフェイス180と、送信部51(Tx51)および送信部52(Tx52)と、を有している。
GPSモジュール137は、GPS衛星からの信号を受信することにより、画像表示部20の現在位置を特定して、画像表示部20の位置を示す位置情報を生成する。言い換えれば、GPSモジュール137は、画像表示部20を含むHMD100の位置を特定する。画像表示部20の現在位置が特定されることで、HMD100を装着した使用者の現在位置が特定される。なお、GPSモジュール137は、請求項における位置特定部に相当する。
無線通信部132は、無線LANやブルートゥース(登録商標)といった所定の無線通信方式に則って他の機器との間で無線通信を行なう。無線通信部132は、GPSモジュール137によって特定された画像表示部20の位置情報を、サーバー300の通信部330へと送信する。通信部330が画像表示部20の位置情報を受信すると、サーバー300の情報選択部312は、記憶部320の広告DB325に記憶されると共に、特定された画像表示部20の現在位置から所定の距離にある看板の位置(図3)の看板の画像および広告情報を選択する。通信部330は、情報選択部312によって選択された看板の位置に対応付けられた看板の画像および画像情報(図3)と看板の位置とを対応付けた情報を選択情報として、HMD100の無線通信部132へと送信する。無線通信部132は、通信部330から送信された選択情報を受信する。また、無線通信部132は、サーバー300とは異なるサーバーから、特定された画像表示部20の現在位置の天気の状態および現在の時刻についての情報を取得できる。なお、無線通信部132は、請求項における情報送受信部および状態検出部に相当する。
電源130は、HMD100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。
記憶部120は、種々のコンピュータープログラムを格納している。記憶部120は、ROMやRAM等によって構成されている。記憶部120は、選択情報記憶部122と、過去履歴記憶部124とを有している。選択情報記憶部122は、無線通信部132を介して、サーバー300から送信された選択情報を記憶する。選択情報記憶部122に記憶された選択情報や後述するカメラ61によって撮像された撮像画像などに基づいて、画像表示部20に選択情報に含まれる画像情報に対応付けられた画像が表示される。
過去履歴記憶部124は、HMD100の過去における滞在情報を記憶している。滞在情報は、所定の周期でHMD100の現在位置がGPSモジュール137によって特定されることで生成される。具体的には、周期的に特定される画像表示部20の現在位置が、一定の期間の後、ある時点で特定された位置から所定の範囲内(例えば、5メートル以内)に含まれる場合には、画像表示部20の使用者が特定された位置に滞在したと判定される。そのため、過去履歴記憶部124に記憶された滞在情報から、特定の位置に存在する店舗に画像表示部20の使用者が滞在した時間などを判定できる。なお、過去履歴記憶部124は、請求項における個人情報記憶部に相当する。
図5は、HMD100の使用者の滞在情報VDの一例を示す一覧表である。滞在情報VDには、滞在場所と、1ヶ月あたりの滞在頻度との項目について、それぞれの値が記憶されている。滞在場所の項目では、滞在場所の仮名称としての滞在IDと、滞在場所の緯度および経度とが区別されている。1ヶ月あたりの滞在頻度は、前日から遡って直近1ヶ月の履歴から情報が作成されている。滞在頻度の項目では、1ヶ月あたりの合計の滞在時間と、1ヶ月あたりに滞在した回数と、1回の滞在した平均滞在時間と、滞在したときの時刻の中央の平均である中央平均時刻と、が区別されている。例えば、図5に示すように、滞在IDが場所Aの緯度は「130.x・・・xx1」、場所Aの経度は「33.y・・・yy1」である。HMD100の使用者は、場所Aに1ヶ月あたり合計240分間滞在しており、1ヶ月当たり2回滞在している。そのため、1ヶ月あたりの平均滞在時間は、120分である。また、使用者が場所Aに滞在した中央平均時刻は、19時30分である。なお、本実施形態では、場所Aと場所Bと場所Cと場所Dとのそれぞれは、図3における「富士」と「カラオケJO」と「○○薬局」と「××肉店」との店舗と同じ場所であるが、他の実施形態では、異なる場所であってもよい。
CPU140(図4)は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、オペレーティングシステム150(OS150)、表示制御部190、音声処理部170、画像処理部160、環境情報処理部169、看板検出部168、過去履歴照合部166、距離測定部161、および、表示設定部165として機能する。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFなど、を個別に制御する。これにより、表示制御部190は、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。
表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号のそれぞれを、送信部51および52を介して送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号のそれぞれを送信する。
画像処理部160は、コンテンツに含まれる画像信号を取得する。画像処理部160は、取得した画像信号から、垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離する。また、画像処理部160は、分離した垂直同期信号VSyncや水平同期信号HSyncの周期に応じて、PLL(Phase Locked Loop)回路等(図示しない)を利用してクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等(図示しない)を用いてディジタル画像信号に変換する。その後、画像処理部160は、変換後のディジタル画像信号を、対象画像の画像データ(RGBデータ)として、1フレームごとに記憶部120内のDRAMに格納する。なお、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。
画像処理部160は、生成されたクロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、記憶部120内のDRAMに格納された画像データ、のそれぞれを、送信部51、52を介して送信する。なお、送信部51を介して送信される画像データを「右眼用画像データ」とも呼び、送信部52を介して送信される画像データを「左眼用画像データ」とも呼ぶ。送信部51、52は、制御部10と画像表示部20との間におけるシリアル伝送のためのトランシーバーとして機能する。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、連結部材46に接続された右イヤホン32内のスピーカー(図示しない)および左イヤホン34内のスピーカー(図示しない)に対して供給する。なお、例えば、Dolby(登録商標)システムを採用した場合、音声信号に対する処理がなされ、右イヤホン32および左イヤホン34のそれぞれからは、例えば周波数等が変えられた異なる音が出力される。また、音声処理部170は、マイク63が取得した外部の音声に対して、音声認識を行なう。音声認識によって認識された外部の音声が予め設定された所定の音声であった場合には、音声処理部170は、取得した音声が所定の音声であることを示す信号を操作部135へと送信する。操作部135は、決定キー11などが押下されたキー操作に加え、音声処理部170から送信された信号に基づいて、HMD100の各種操作を実行する。
看板検出部168は、パターンマッチングや統計的識別法によって、カメラ61によって撮像された撮像画像の中から、選択情報記憶部122に記憶された選択情報に対応付けられた看板の画像(以降、単に「検出看板」とも呼ぶ)を検出する。また、看板検出部168は、GPSモジュール137によって特定された画像表示部20の位置と、撮像画像の中から検出看板の位置とに基づいて、カメラ61の向きを特定する。すなわち、看板検出部168は、カメラ61が配置された画像表示部20の向きを特定できる。看板検出部168が撮像画像の中から、少なくとも1つの選択情報に対応付けられた看板の画像を検出すると、検出看板に対応付けられた店舗の店舗別広告データSDを表示設定部165および環境情報処理部169へと送信する。なお、看板検出部168とカメラ61とGPSモジュール137とは、請求項における画像検出部に相当し、検出された看板の画像は、請求項における識別対象画像に相当する。
環境情報処理部169は、温度計65によって測定されたHMD100の外部の温度と、看板検出部168から送信された店舗別広告データSDにおける環境制限とを照合する。環境情報処理部169は、温度計65によって測定されたHMD100の外部の温度と、店舗別広告データSDにおける環境制限との照合結果と、を表示設定部165へと送信する。
距離測定部161は、GPSモジュール137によって特定された画像表示部20の現在位置と、選択情報記憶部122に記憶されると共に検出看板に対応付けられた看板の位置とに基づいて、画像表示部20と検出看板の位置との距離を測定する。
過去履歴照合部166は、検出看板に対応付けられた店舗別広告データSDと、過去履歴記憶部124に記憶されたHMD100の使用者の滞在情報VDとを照合する。過去履歴照合部166は、検出看板の店舗別広告データSDと滞在情報VDとの照合結果を表示設定部165へと送信する。
表示設定部165は、看板検出部168から送信された検出看板に対応付けられた店舗別広告データSDと、環境情報処理部169から送信された照合結果とに基づいて、画像表示部20に表示させる画像の表示態様を設定し、画像表示部20に画像を表示させる。画像表示部20に表示される画像の具体的な態様については、後述する「A−2.広告表示処理」において説明する。なお、環境情報処理部169と、表示設定部165と、看板検出部168とは、請求項における表示画像制御部に相当する。
操作部135は、使用者による物理的な操作を受け付ける、決定キー11、表示切替キー13、トラックパッド14、輝度切替キー15、方向キー16、メニューキー17、電源スイッチ18、および、音声処理部170によって音声認識されて送信された信号に基づいて、画像表示部20の各種操作を実行する。
インターフェイス180は、制御部10に対して、コンテンツの供給元となる種々の外部機器OAを接続するためのインターフェイスである。外部機器OAとしては、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等、がある。インターフェイス180としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等、を用いることができる。
画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、カメラ61と、マイク63と、温度計65とを備えている。
右表示駆動部22は、受信部53(Rx53)と、光源として機能する右バックライト制御部201(右BL制御部201)および右バックライト221(右BL221)と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251と、を含んでいる。右バックライト制御部201と右バックライト221とは、光源として機能する。右LCD制御部211と右LCD241とは、表示素子として機能する。
受信部53は、制御部10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データと、に基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REに導く。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。左表示駆動部24は、受信部54(Rx54)と、光源として機能する左バックライト制御部202(左BL制御部202)および左バックライト222(左BL222)と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252と、を含んでいる。左バックライト制御部202と左バックライト222とは、光源として機能する。左LCD制御部212と左LCD242とは、表示素子として機能する。なお、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242と、を総称して「画像光生成部」とも呼ぶ。また、左投写光学系252は、左LCD242から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。左光学像表示部28としての左導光板262は、左投写光学系252から出力された画像光を、所定の光路に沿って反射させつつ使用者の左眼LEに導く。なお、左投写光学系252と左導光板262とを総称して「導光部」とも呼ぶ。
図6は、画像光生成部によって画像光が射出される様子を示す説明図である。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光ILを、画像を表わす有効な画像光PLへと変調する。左側についても同様である。なお、図6に示すように、本実施形態ではバックライト方式を採用したが、フロントライト方式や、反射方式を用いて画像光を射出する構成としてもよい。
A−2.情報検出処理:
図7は、広告表示処理のフローチャートである。広告表示処理は、制御部10が各種処理を実行することによって実行される。広告表示処理では、検出看板に対応付けられた広告情報が、HMD100の外部の温度などに基づいて設定された表示態様で、画像として画像表示部20に表示される。
広告表示処理では、初めに、操作部135が所定の操作を受け付けると、広告表示処理のアプリを起動する(ステップS10)。広告表示処理のアプリが起動すると、制御部10は、広告表示処理を実行するために必要なカメラ61などの各種装置を起動する(ステップS12)。次に、起動したGPSモジュール137は、画像表示部20の現在位置を特定する(ステップS14)。画像表示部20の現在位置が特定されると、無線通信部132は、サーバー300の通信部330へと画像表示部20の位置情報を送信する(ステップS16)。次に、無線通信部132は、送信した画像表示部20の位置情報に基づいてサーバー300によって選択された選択情報を受信する(ステップS18)。
無線通信部132が選択情報を受信すると、カメラ61は、外景の撮像を開始する(ステップS20)。次に、看板検出部168は、カメラ61の撮像画像の中から、無線通信部132によって受信された選択情報に含まれる看板の画像と同一の画像を検出するのを監視する(ステップS22)。言い換えれば、看板検出部168は、撮像画像に検出看板が含まれるか否かを判定する。撮像画像に検出看板が含まれなかった場合には(ステップS22:NO)、看板検出部168は、引き続き、撮像画像に検出看板が含まれるかを監視する(ステップS22)。撮像画像に検出看板が含まれた場合には(ステップS22:YES)、距離測定部161は、GPSモジュール137によって特定された画像表示部20の現在位置と、選択情報記憶部122に記憶された看板の位置と、に基づいて、画像表示部20と検出看板の位置との距離を測定する(ステップS24)。
図8は、カメラ61の撮像画像IMGの一例を示す説明図である。図8に示す撮像画像IMGは、使用者が装着したHMD100に配置されたカメラ61が撮像した外景SCの画像である。撮像画像IMGにおいて、看板検出部168は、選択情報記憶部122に記憶された選択情報の店舗別広告データSDに含まれる看板の画像と同一の看板として、看板AB1と看板AB2と看板AB3との3つの看板を検出する。図8に示すように、「富士」の看板AB1は、「富士」の店舗の出入口の前に設置され、「カラオケJO」の看板AB2は、「カラオケJO」の出入口の上側に設置され、「○○薬局」の看板AB3は、「○○薬局」の店舗の出入口の前に設置されている。なお、「××肉店」の看板自体は、画像表示部20の現在位置の近くに存在するものの、撮像範囲には写っていない。距離測定部161は、画像表示部20の現在位置と、看板検出部168によって検出された看板AB1,AB2,AB3のそれぞれの位置との距離を測定する。
画像表示部20の現在位置と検出看板のそれぞれの位置との距離が測定されると、無線通信部132と、温度計65および環境情報処理部169とは、環境情報を取得する(図7のステップS16)。環境情報には、無線通信部132によって取得される画像表示部20の現在位置の天気の情報および時刻と、温度計65および環境情報処理部169によって測定される画像表示部20の外部の温度とが含まれる。次に、過去履歴照合部166は、過去履歴記憶部124に記憶されたHMD100の使用者の滞在情報VDと、検出看板である看板AB1,AB2,AB3のそれぞれの店舗と、の関係を照合する(ステップS28)。
次に、表示設定部165は、検出看板である看板AB1,AB2,AB3と、看板AB1,AB2,AB3のそれぞれの店舗別広告データSDと、看板AB1,AB2,AB3のそれぞれの位置と画像表示部20との距離と、環境情報と、使用者の滞在情報VDと、に基づいて、店舗別広告データSDに含まれる広告の画像を画像表示部20に表示させるための表示態様を設定する(ステップS28)。設定された表示態様の一例としては、表示設定部165は、画像表示部20との距離が近い位置の検出看板と対応付けられた文字画像のフォントを大きくしたり、現在の時刻と使用者の滞在情報VDにおける中央平均時刻が近い店舗の広告を、画像光生成部が画像光を生成できる範囲の中心部分に表示させたり、滞在情報VDにおける滞在時間が長い店舗の広告を目立つように点滅させた態様である。表示態様が設定されると、表示設定部165および画像処理部160は、設定された表示態様に基づいて、画像光生成部に画像光を生成して、広告の画像を表示させる(ステップS32)。
図9は、検出看板の広告画像TX1,TX2が表示された場合に使用者が視認する視野VRの一例を示す説明図である。図9には、画像光生成部が画像光を生成できる最大の領域である画像表示最大領域PNの中に、「富士」に対応付けられた広告画像TX1と、「カラオケJO」に対応付けられた広告画像TX2と、がHMD100の使用者に視認された状態が示されている。広告画像TX1は、「富士」の本日の会員割引とお勧めメニューとを示す文字画像である。広告画像TX2は、「カラオケJO」の30分あたりの料金が300円であることを示す文字画像である。広告画像TX1,TX2のそれぞれは、看板AB1,AB2のそれぞれに対応付けられた文字画像であり、検出看板である看板AB1,AB2のそれぞれの位置の近くに表示されている。また、画像表示部20の現在位置から、看板AB2の位置と看板AB3の位置とまでのそれぞれの距離は、ほぼ同じである。一方で、無線通信部132によって取得された天気および現在の時刻のそれぞれは、晴天で17時である。また、環境情報処理部169および温度計65によって取得された外部の温度は、31℃である。図3に示すように、店舗別広告データSDにおける「富士」の環境制限で、摂氏30度が設定されているため、画像表示最大領域PN(図9)には、30℃以上の場合に対応した「富士」の広告画像TX1が表示されている。また、現在の時刻が17時であるため、店舗別広告データSDにおいて、「富士」、「カラオケJO」、「○○薬局」のいずれの時刻制限にも該当する。しかし、滞在情報VD(図5)における「○○薬局」では、平均中央時刻は、8時であり、現在の時刻よりも9時間前である。本実施形態では、表示設定部165は、現在の時刻よりも平均中央時刻が5時間以上空いている場合には、当該広告の画像を画像表示最大領域PNに表示しない。また、滞在情報VDの「富士」における使用者の1ヶ月あたりの滞在時間および滞在回数の数値は、「カラオケJO」の滞在時間および滞在回数よりも数値が大きい。そのため、表示設定部165は、「富士」の看板AB1に対応付けられた広告画像TX1のフォントを、「カラオケJO」に対応付けられた広告画像TX2のフォントよりも太く、大きく設定する。また、店舗別広告データSD(図3)の「富士」におけるページ数は、「2」に設定されているため、操作部135が所定の操作を受け付けることにより、表示設定部165は、画像表示最大領域PN内の広告画像TX1に表示させる文字画像を変更する。なお、広告画像TX1,TX2は、請求項における判断情報対応情報としての画像に相当する。
画像表示最大領域PNに広告画像TX1,TX2が表示されると(図7のステップS32)、GPSモジュール137が画像表示部20の現在位置の変化を検出すると共に、看板検出部168がカメラ61の撮像画像の変化に基づくHMD100の使用者の視線方向の変化を検出する(ステップS34)。画像表示部20の現在位置と使用者の視線方向との少なくとも一方に変化が検出された場合には(ステップS34:YES)、制御部10は、ステップS14以降の処理を繰り返す。
図10は、HMD100の使用者の視線方向が変化した後に使用者が視認する視野VRの一例を示す説明図である。図10には、使用者の視線方向が図9に示した状態よりもさらに左を向いた状態が示されている。なお、画像表示部20の現在位置は、図9の状態から変更されていない。図10に示すように、「カラオケJO」の看板AB2が検出看板でなくなったため、表示設定部165は、看板AB2に対応付けられた広告画像TX2を非表示に設定する。また、本実施形態では、広告の画像を画像表示最大領域PNの中心部分には表示させないように予め設定されているため、表示設定部165は、看板AB1に対応付けられた「富士」の広告画像TX3として、画像表示最大領域PNに表示させる位置を広告画像TX1(図9)から変更する。なお、図10の状態では、図9の状態と比較して、時刻および天気に変更はない。広告画像TX3は、請求項における判断情報対応情報としての画像に相当する。
図7のステップS34の処理において、画像表示部20の現在位置に変化がなく、かつ、使用者の視線方向に変化がないと判定された場合には(ステップS34:NO)、制御部10は、広告表示処理を終了するか否かを判定する(ステップS36)。本実施形態では、操作部135が広告表示処理を終了する所定の操作を受け付けると、制御部10は、広告表示処理を終了する。操作部135が広告表示処理を終了する所定の操作を受け付けなかった場合には(ステップS36:NO)、制御部10は、ステップS34以降の処理を繰り返す。ステップS36の処理において、操作部135が広告表示処理を終了する所定の操作を受け付けると(ステップS36:YES)、制御部10は、広告表示処理を終了する。
以上説明したように、本実施形態のHMD100では、GPSモジュール137がHMD100の現在位置を特定し、無線通信部132は、特定されたHMD100の位置情報をサーバー300へと送信し、サーバー300から送信された選択情報を受信する。看板検出部168およびGPSモジュール137が画像表示部20の向きを特定し、表示設定部165は、検出看板である看板AB1,AB2に対応付けられた広告画像TX1,TX2を画像表示部20に表示させる。そのため、本実施形態のHMD100では、HMD100の使用者は、視認できる範囲の実物の看板AB1,AB2に加え、検出看板に対応付けられた広告画像TX1,TX2も視認でき、より多くの情報を入手できるため、使用者の利便性が向上する。また、使用者は、自身の視線方向に存在する看板AB1、AB2に対応付けられた広告画像TX1,TX2を視認できるが、使用者からの看板の位置が近くても、視線方向から外れた方向に存在する看板に対応付けられた情報を視認しなくて済むため、必要な情報のみを視認できる。
また、本実施形態のHMD100では、看板検出部168は、カメラ61の撮像画像の中から看板AB1,AB2を検出し、表示設定部165は、検出看板の看板AB1,AB2に対応付けられた広告画像TX1,TX2を画像表示部20に表示させる。そのため、本実施形態のHMD100では、使用者の視線方向上に存在しても、使用者に視認されない看板に対応付けられた広告画像が画像表示部20に表示されず、使用者は、不要な広告画像を視認せずに済み、使用者の利便性がさらに向上する。
また、本実施形態のHMD100では、環境情報として、GPSモジュール137が他のサーバーから現在の時刻および画像表示部20の現在位置の天気の情報を取得し、温度計65および環境情報処理部169が画像表示部20の外部の温度を取得し、表示設定部165は、取得した環境情報に応じて、画像表示部20に表示させる広告画像TX1,TX2を設定する。そのため、本実施形態のHMD100では、画像表示部20の現在位置および画像表示部20の向きに加え、画像表示部20の外部の情報も踏まえた画像が画像表示最大領域PNに表示されるため、使用者は、その場の状況に合った情報を視認できるため、使用者の利便性がさらに向上する。
また、本実施形態のHMD100では、記憶部120の過去履歴記憶部124は、使用者の過去の滞在情報VDを記憶し、表示設定部165は、滞在情報VDと撮像画像IMGの中に検出された看板AB1、AB2に対応付けられた店舗別広告データSDとに基づいて、広告画像TX1,TX2を画像表示最大領域PNに表示させる。そのため、本実施形態のHMD100では、画像表示部20の現在位置および画像表示部20の向きに加え、使用者の滞在情報VDも踏まえた広告画像が画像表示部20に表示されるため、使用者は、自分の好みに合った情報を視認できるため、使用者の利便性がさらに向上する。
また、本実施形態のHMD100では、距離測定部161およびGPSモジュール137が画像表示部20の現在位置と検出看板の位置との距離を測定し、表示設定部165は、測定された距離に基づいて、検出看板である看板AB1,AB2に対応付けられた広告画像TX1,TX2の文字画像のフォントの大きさを設定した。そのため、本実施形態のHMD100では、より近くに存在する看板に対応付けられた広告情報に含まれる文字画像ほど大きく画像表示部20に表示されるため、使用者は、画像表示部20に表示された広告画像TX1,TX2によって検出看板の位置との距離を認識でき、使用者の利便性がさらに向上する。
B.第2実施形態:
B−1.HMDの構成:
図11は、第2実施形態のHMD100aの構成を機能的に示すブロック図である。第2実施形態のHMD100aでは、第1実施形態のHMD100と比較して、制御部10aの記憶部120aが過去履歴記憶部124を有していない点と、制御部10aのCPU140aが過去履歴照合部166および環境情報処理部169の代わりにキャリブレーション設定部167として機能する点と、画像表示部20aが温度計65を備えていない点とが異なり、その他の構成については、第1実施形態のHMD100と同じである。
キャリブレーション設定部167は、カメラ61の撮像画像の中に検出された特定の対象物としてのHMD100aの使用者の人差し指と、画像表示部20aの画像表示最大領域PN内に表示される広告画像と、相対的な位置関係を定義する。具体的な定義の方法については、「B−2.広告表示処理」において説明する。なお、キャリブレーション設定部167は、請求項における校正部に相当する。
B−2.広告表示処理:
図12は、第2実施形態における広告表示処理のフローチャートである。第2実施形態の広告表示処理では、第1実施形態の広告表示処理(図7)と比較して、ステップS44およびステップS62の処理が追加されている点と、図7のステップS26およびステップS28の処理が削除されている点とが異なり、他の処理については、第1実施形態の広告表示処理と同じである。そのため、第2実施形態では、第1実施形態の広告表示処理と同じ処理については、詳細な説明は省略する。
第2実施形態の広告表示処理では、広告表示処理のアプリが起動すると(図12ステップS40)、CPU140aが各種装置を起動させた後に(ステップS42)、CPU140aのキャリブレーション設定部167がキャリブレーション設定を実行する(ステップS44)。キャリブレーション設定では、初めに、表示設定部165は、キャリブレーション設定を実行するための画像である設定画像を画像表示部20aの画像表示最大領域PNに表示させる。その後、カメラ61が撮像を開始する。キャリブレーション設定部167は、カメラ61の撮像画像の中に検出される特定の対象物として予め設定された使用者の人差し指の位置の変化と、画像表示最大領域PNに表示された設定画像との関係に基づいて、キャリブレーション設定を実行する。
図13は、キャリブレーション設定が実行されている場合に使用者が視認する視野VRの一例を示す説明図である。図13には、キャリブレーション設定を実行するための設定画像CGが外景SCに重畳して表示され、カメラ61の撮像画像に使用者の右手HDが撮像されている状態が示されている。設定画像CGは、矩形状の四角画像BGと、5つの円形画像P1,P2,P3,P4,P5と、4つの矢印画像CS1,Cs2、CS3,CS4とによって構成されている。円形画像P1は、四角画像BGの1つの頂点の近傍の左上に形成され、円形画像P2は、四角画像BGの右上の頂点の近傍に形成され、円形画像P3は、四角画像BGの右下の頂点の近傍に形成され、円形画像P4は、四角画像BGの左下の頂点の近傍に形成され、円形画像P5は、四角画像BGの中央に形成される。矢印画像CS1は、円形画像P1から円形画像P2へと直線で結んだ矢印であり、矢印画像CS2は、円形画像P2から円形画像P3へと直線で結んだ矢印であり、矢印画像CS3は、円形画像P3から円形画像P4へと直線で結んだ矢印であり、矢印画像CS4は、円形画像P4から円形画像P5へと直線で結んだ矢印である。
キャリブレーション設定部167は、設定画像CGが画像表示最大領域PN内に表示された後に、右手HDの人差し指FFを撮像画像の中に検出する。その後、キャリブレーション設定部167は、人差し指FFが円形画像P1を起点として、矢印画像CS1、矢印画像CS2、矢印画像CS3、矢印画像CS4に沿って順々に、円形画像P1、円形画像P2、円形画像P3、円形画像P4、円形画像P5と重複する動きを検出することで、設定画像CGの位置関係と外景SCに含まれる人差し指FFとの位置関係を定義する。これにより、キャリブレーション設定部167は、カメラ61によって撮像された人差し指FFが画像表示最大領域PNにおけるどの位置の画素に対応しているかを設定する。なお、設定画像CGは、請求項における特定の画像に相当し、右手HDの人差し指FFは、請求項における特定の対象物に相当する。
キャリブレーション設定が実行されると(図12のステップS44)、制御部10aがステップS46からステップS56の処理を行なう。その後、表示設定部165は、検出看板と、検出看板のそれぞれの店舗別広告データSDと、検出看板のそれぞれの位置と画像表示部20との現在位置との距離と、に基づいて、画像表示部20に表示させる広告画像の表示態様を設定する(ステップS58)。次に、表示設定部165および画像処理部160は、設定された表示態様に基づいて、広告画像を画像表示部20に表示させる(ステップS58)。
図14は、検出看板の広告画像TX2,TX4が表示された場合に使用者が視認する視野VRの一例を示す説明図である。図14に示すように、第2実施形態では、表示設定部165は、検出看板である看板AB1に対応付けられた広告画像TX4を画像表示最大領域PNに表示させる。広告画像TX4は、選択可能な2つのアイコン画像IC1,IC2を含んでいる。キャリブレーション設定後に、使用者が人差し指FFをアイコン画像IC1またはアイコン画像IC2に重畳させるキャリブレーション操作が実行されることにより、操作部135は、重畳されたアイコン画像を選択し、選択されたアイコン画像に対応付けられた広告画像TX4とは異なる広告画像を画像表示最大領域PNに表示できる。
広告画像が画像表示最大領域PNに表示されると(図12のステップS60)、操作部135は、音声入力または人差し指FFによるキャリブレーション操作を受け付けたか否かを判定する(ステップS62)。なお、他の実施形態では、操作部135の決定キー11等のキー操作を受け付けたかが判定されてもよい。ステップS62の処理において、操作部135が音声入力またはキャリブレーション操作を受け付けた場合には(ステップS62:YES)、表示設定部165は、受け付けた音声入力またはキャリブレーション操作に基づいて、画像表示最大領域PNに表示させる広告画像の表示態様を設定し(ステップS58)、表示設定部165および画像処理部160は、画像表示最大領域PNに設定された広告画像を表示させる(ステップS60)。
図15は、キャリブレーション操作が行なわれた後に使用者が視認する視野VRの一例を示す説明図である。図15には、図14に示す広告画像TX4におけるアイコン画像IC2がキャリブレーション操作によって選択された場合に表示される広告画像TX5が示されている。広告画像TX5は、選択されたアイコン画像IC2(図14)に対応付けられた「富士」で提供されるドリンクのメニューの一部を文字画像で示し、かつ、2つのアイコン画像IC1,IC3を含んでいる。音声入力またはキャリブレーション操作によってアイコン画像IC3が選択されると、表示設定部165は、広告画像TX5の代わりに広告画像TX4を画像表示最大領域PNに表示させる。また、アイコン画像IC1が選択されると、表示設定部165は、広告画像TX5の代わりに、アイコン画像IC1に対応付けられた「富士」で提供される料理のメニューの一部を文字画像で画像表示最大領域PNに表示させる。なお、広告画像TX4,TX5は、請求項における判断情報対応情報としての画像に相当する。
広告画像TX2,TX5が画像表示最大領域PNに表示されると(図12のステップS60)、操作部135は、音声入力または人差し指FFによるキャリブレーション操作を受け付けたか否かを判定する(ステップS62)。操作部135が音声入力もキャリブレーション操作も受け付けなかった場合には(ステップS62:NO)、制御部10aがステップS64以降の処理を行なう。
以上説明したように、第2実施形態のHMD100aでは、キャリブレーション設定部167は、画像表示部20aに表示させた四角画像BGと、撮像画像の中に検出された使用者の右手HDの人差し指FFとの位置関係に基づいて、キャリブレーション設定を実行する。キャリブレーション設定後に、表示設定部165は、撮像画像の中に検出された人差し指FFの位置に基づいて、画像表示部20aに表示される画像を広告画像TX4から広告画像TX5へと変更する。そのため、第2実施形態のHMD100aでは、現実での外景SCと画像表示部20aに表示される画像とを重畳させることで、使用者は、外景SCと表示画像を同一のものとして認識して操作でき、使用者にとっての使い勝手が向上する。
C.第3実施形態:
C−1.HMDの構成:
図16は、第3実施形態のHMD100bの構成を機能的に示すブロック図である。第1実施形態および第2実施形態では、撮像画像の中に検出看板が含まれる場合に画像表示最大領域PNに広告画像が表示されたが、第3実施形態では、特定された使用者の現在位置と画像表示の有無を決定するための判断情報とに基づいて、画像表示最大領域PNの広告画像が表示される。そのため、第3実施形態では、第1実施形態および第2実施形態の構成と異なる構成について説明し、同じ構成についての説明を省略する。なお、第3実施形態では、判断情報として、使用者の過去履歴が用いられる。
図16に示すように、画像表示部20bは、画像表示部20bを頭部に装着した使用者の右眼を撮像する右眼撮像カメラ37と、使用者の左眼を撮像する左眼撮像カメラ38と、使用者の何らかの生体情報を取得する生体情報取得部39と、を有する。第3実施形態では、右眼撮像カメラ37および左眼撮像カメラ38は、単眼カメラであるが、ステレオカメラであってもよい。以降では、右眼撮像カメラ37および左眼撮像カメラ38を合わせて、単に、「眼撮像カメラ37,38」とも呼ぶ。眼撮像カメラ37,38が撮像した使用者の眼の画像は、後述する使用者の視線方向の特定および使用者の瞳孔の大きさの測定に用いられる。生体情報取得部39は、使用者の体温、血圧、心拍数、呼吸、脳波状態などの使用者の生体情報の少なくとも1つを取得するセンサーである。なお、生体情報取得部39および生体情報を処理する制御部10bのCPU140bにおける環境情報処理部169bについては、後述する第4実施形態で詳細を説明する。
第3実施形態の記憶部120bの過去履歴記憶部124bは、第1実施形態のように、HMD100bの過去における滞在情報に加えて、使用者が特定の店舗で購入した商品や当該商品の金額といった購買情報も記憶している。購買情報は、使用者が操作部135に対して所定の操作を行なうことで入力されたり、特定の店舗で使用したクレジットカードの情報を、無線通信部132を介して取得されることで、過去履歴記憶部124bに記憶される。
制御部10bのCPU140bは、撮像された眼の撮像画像を取得と取得された生体情報とに基づいて、画像表示最大領域PNに表示させる広告画像を判断する判断部162を有する。判断部162は、無線通信部132を介してサーバー300と通信することで、GPSモジュール137によって特定されたHMD100bの位置が広告DB325において特定の店舗内であるか否かを判定する。判断部162は、HMD100bの位置が特定の店舗内であると判定した場合には、無線通信部132を介して、当該特定の店舗の広告画像や商品の陳列に関する選択情報としての陳列情報を取得する。この場合に、過去履歴照合部166bは、過去履歴記憶部124bに記憶された滞在情報と購買情報とを照合することで、使用者の現在位置である特定の店舗における使用者の過去履歴を照合する。
判断部162は、撮像された使用者の眼の画像に対して、パターンマッチングや統計的識別法によって、使用者の視線方向を特定する。また、判断部162は、瞳孔の大きさを測定することで、瞳孔の大きさの変化を特定する。判断部162は、過去履歴照合部166bの照合結果と特定された使用者の視線方向および瞳孔の大きさとに基づいて、予測される使用者の行動または使用者の意図を推測する。判断部162は、推測した使用者の行動または使用者の意図に基づいて決定した広告画像を、画像表示最大領域PNに表示させる。具体的には、例えば、判断部162は、使用者の過去の購入履歴にある商品、かつ、特定された視線方向の近くにある商品を、使用者が購入する意思があると推測して、当該商品に対応付けられた広告画像を選択する。また、判断部162は、使用者の現在位置である特定の店舗の特売に関する広告画像を、付随的に画像表示最大領域PNに表示させたりもする。表示設定部165bは、第1実施形態の表示設定部165と同様に、画像表示最大領域PNに表示させる広告画像やその他の画像の表示態様を設定して、画像表示最大領域PNに画像を表示させる。第3実施形態における使用者の眼の撮像画像および使用者の過去の購入履歴は、請求項における判断情報に相当する。また、判断部162は、請求項における判断情報取得部に相当する。
C−2.広告表示処理:
図17は、第3実施形態における広告表示処理のフローチャートである。第3実施形態の広告表示処理では、第1実施形態の広告表示処理と比較して、ステップS70からステップS84までの処理が異なり、他の処理については同じである。そのため、第3実施形態では、第1実施形態と異なるステップS70からステップS84までの処理について説明し、その他の処理についての説明を省略する。
図17のステップS16の処理において、無線通信部132は、使用者の位置情報である画像表示部20bの位置情報をサーバー300へと送信すると、サーバー300から画像表示部20bの位置情報の近くの店舗の位置情報を受信する(ステップS70)。判断部162は、無線通信部132を介して、画像表示部20bの現在位置に対応付けられた店舗の位置情報を取得する。判断部162は、使用者の現在位置としての特定される画像表示部20bの現在位置が特定の店舗内であるか否かを判定する(ステップS72)。判断部162は、画像表示部20bの現在位置が特定の店舗内でないと判定した場合には(ステップS72:NO)、第1実施形態と同じステップS34以降の処理を行なう。
ステップS72の処理において、判断部162は、画像表示部20bの現在位置が特定の店舗内であると判定した場合には(ステップS72:YES)、眼撮像カメラ37,38の眼の撮像画像に基づいて、使用者の視線方向を特定する(ステップS73)。判断部162は、特定された使用者の視線方向と現在位置である特定の店舗とに対応付けられた選択情報としての陳列情報を、無線通信部132を介して、サーバー300から受信する(ステップS74)。次に、過去履歴照合部166bは、過去履歴記憶部124bに記憶された使用者の購買情報を照合する。判断部162は、過去履歴照合部166bの照合結果に基づいて、特定された使用者の視線方向の近くに陳列されている商品を以前に購入した購入履歴があるか否かを判定する(ステップS78)。判断部162は、視線方向の近くの商品の購入履歴があると判定した場合には(ステップS78:YES)、当該商品を購入する意思が使用者にあると推測して、購入履歴に対応付けられた画像を表示画像として決定し、当該画像の表示態様を設定する(ステップS80)。その後、判断部162は、使用者の現在位置を含む店舗および購入履歴に対応付けられた広告画像を決定し、決定した当該広告画像の表示態様を設定する(ステップS84)。なお、ステップS78の処理において、判断部162は、視線方向の近くの商品の購入履歴がないと判定した場合には(ステップS78:NO)、使用者の現在位置を含む店舗の広告画像を決定し、決定した広告画像の表示態様を設定する(ステップS82)。その後、表示設定部165bは、設定された表示態様に基づいて、広告画像を含む画像を画像表示最大領域PNに表示させ(ステップS84)、ステップS34以降の処理を繰り返す。
図18は、第3実施形態において広告画像TX6,TX7が表示された場合に使用者が視認する視野VRの一例を示す説明図である。図18には、使用者の現在位置が特定の店舗としてのショッピングセンターであり、使用者の視線方向がショッピングセンター内の「花」の売り場を向いている場合に、使用者が視野VRとして視認する外景SCおよび広告画像TX6,TX7が示されている。広告画像TX6は、購入履歴に対応付けられて画像表示最大領域PNに表示させる文字画像である。広告画像TX6は、一週間前に使用者が「季節の花」とし広告DB325に記憶された花を購入した履歴があることと、現在のショッピングセンターにおいて「季節の花」として予め登録されている3種類の花の名称の「チューリップ」、「朝顔」、「バラ」と、を表す。また、広告画像TX7は、広告DB325に記憶され、ショッピングセンターの「花」の売り場に対応付けられた広告情報を文字で画像表示最大領域PNに表す画像である。広告画像TX7は、ショッピングセンターの本日の特売品として、2種類の花である「ゆり」と「菊」とを宣伝する。
第3実施形態では、表示設定部165bは、広告画像を画像表示最大領域PN内に表示させる位置として、使用者の個人情報に関連する購入履歴に対応付けられた広告画像TX6を、画像表示最大領域PNの中心付近に表示させる。また、表示設定部165bは、使用者の現在位置に起因して、広告DB325から送信される広告情報の一部である広告画像TX6を、画像表示最大領域PNの中心を除く位置に表示させる。なお、他の実施形態では、広告画像の種類によって画像表示最大領域PN内に表示される位置については、種々変形可能である。第3実施形態における広告画像TX6,TX7は、請求項における判断情報対応情報としての画像に相当する。
以上説明したように、第3実施形態のHMD100bでは、判断部162は、過去履歴照合部166bの照合結果と特定された使用者の視線方向とに基づいて、図18に示す広告画像TX6を画像表示最大領域PNに表示させる。第3実施形態のHMD100bでは、画像表示最大領域PNに表示される広告画像の決定に対して、使用者の個人情報の1つである購入履歴が参照されているため、使用者との関連が低い広告画像を使用者に視認させなくて済み、使用者の利便性が向上する。
D.第4実施形態:
第4実施形態では、HMD100bは、図16に示す画像表示部20bの生体情報取得部39が取得した使用者の生体情報と、サーバー300から受信された選択情報と、に基づいて画像表示最大領域PNに広告画像を表示する。第4実施形態では、生体情報取得部39は、使用者の肌に貼ることで使用者の汗を検出する汗検出センサーである。人間は、筋肉の活動などによって体内での乳酸を生成する化学反応が起こると、汗をかく。生体情報取得部39は、生成された乳酸値を使用者の肌から測定することで、使用者がかく汗の量を検出する。
図19は、第4実施形態における広告表示処理のフローチャートである。第4実施形態の広告表示処理では、図17に示す第3実施形態の広告表示処理と比較して、ステップS70からステップS80までの処理の代わりにステップS90およびステップS92の処理を備えることと、ステップS34の処理を備えないことと、が異なり、その他の処理については、第3実施形態の広告表示処理の処理と同じである。そのため、第4実施形態の広告表示処理では、第3実施形態の広告表示処理と異なるステップS90からステップS84までの処理について説明し、その他の処理についての説明を省略する。
図19のステップS16の処理において、無線通信部132が、使用者の位置情報である画像表示部20bの位置情報をサーバー300へと送信すると、生体情報取得部39は、使用者の生体情報として、使用者の汗を検出する(ステップS90)。次に、判断部162は、検出された使用者の汗が予め設定されている閾値としての汗の量以上であるか否かを判定する(ステップS92)。判断部162は、検出された使用者の汗の量が閾値以上でないと判定した場合には(ステップS92:NO)、第1実施形態および第3実施形態と同じステップS36以降の処理を繰り返す。
ステップS92の処理において、判断部162は、検出された使用者の汗の量が閾値以上であると判定した場合には(ステップS92:YES)、使用者の閾値以上の汗の量に予め対応付けられた選択情報をサーバー300から受信する(ステップS74)。第4実施形態では、判断部162は、使用者の閾値以上の汗の量を検出した場合に、使用者ののどが渇いていると推測して、使用者の現在位置を中心とする喫茶店の位置、当該喫茶店の広告画像、飲み物の自動販売機の位置、を表す画像の表示態様を設定する(ステップS82)。その後、表示設定部165bは、設定された表示態様に基づいて、広告画像を含む画像を画像表示最大領域PNに表示させ(ステップS84)、ステップS36以降の処理を繰り返す。
図20は、第4実施形態において広告画像GMが表示された場合に使用者が視認する視野VRの一例を示す説明図である。図20には、歩行中の使用者の視野VRに含まれる外景SCと画像表示最大領域PN内に表示された広告画像GMとが示されている。広告画像GMは、使用者の閾値以上の汗の量が検出された場合に、画像表示最大領域PNに表示される飲み物の自動販売機(図20の「Automato」)と、喫茶店(図20の「Shop」)と、使用者(図20の「User」)と、の位置関係を表す鳥瞰図の概略画像である。判断部162は、使用者の位置情報とサーバー300から受信した選択情報とに基づいて、使用者の位置から所定の範囲内に存在する自動販売機の位置と喫茶店の位置とを使用者の現在位置と対比させた広告画像GMを画像表示最大領域PNに表示させる。なお、第4実施形態における広告画像GMは、請求項における判断情報対応情報としての画像に相当する。
以上説明したように、第4実施形態のHMD100bでは、判断部162は、使用者の生体情報としての使用者の汗の量に基づいて、画像表示最大領域PNに表示させる広告画像GMを設定する。そのため、第4実施形態のHMD100bでは、使用者の現時点での体調等に応じた画像を使用者に視認させることができ、使用者の利便性が向上する。
E:第5実施形態:
第5実施形態では、第3実施形態と比較して、判断部162が、使用者の個人情報である購入履歴ではなく、複数の他の使用者の統計情報に基づいて、画像表示最大領域PNに表示させる広告画像を設定することが異なり、構成および広告表示処理におけるほかの処理については、第3実施形態と同じである。
第5実施形態では、サーバー300の広告DB325は、複数の使用者とは異なる人間である他の使用者の統計情報を有している。統計情報としては、例えば、アミューズメントパークにおける時間ごとの入園者数や、ジェットコースターなどの遊具の待ち時間などが挙げられる。
図21は、第5実施形態の広告表示処理のフローチャートである。第5実施形態の広告表示処理では、図17に示す第3実施形態の広告表示処理と比較して、ステップS100からステップS106までの処理が異なり、その他の処理については、第3実施形態と同じである。具体的には、第5実施形態の広告表示処理では、図17に示す第3実施形態の広告表示処理に対して、使用者の現在位置が特定の店舗としてのショッピングセンター内ではなく、観光地の案内掲示板の目の前であることと、画像表示最大領域PNに表示される広告画像が購買情報とは異なる統計情報に基づいて設定されること、とが異なる。そのため、第5実施形態では、第3実施形態の広告表示処理とは異なる処理を含むステップS100からステップS84までの処理について説明し、その他の処理については説明を省略する。
図21のステップS16において、無線通信部132は、使用者の位置情報である画像表示部20bの位置情報をサーバー300へと送信すると、サーバー300から画像表示部20bの位置の近くの店舗や看板を含む各種施設の位置情報を受信する(ステップS100)。判断部162は、無線通信部132を介して、使用者の現在位置から最も近い施設との位置関係を特定する(ステップS102)。判断部162は、使用者の現在位置が各種施設の1つである観光地の案内掲示板の目の前であることを特定すると(ステップS102:YES)、眼撮像カメラ37,38の使用者の眼の撮像画像を用いて、使用者の視線方向と瞳孔の大きさとを特定する(ステップS103)。判断部162は、検出看板としての観光地の案内掲示板に対応付けられている選択情報を、無線通信部132を介してサーバー300から受信する(ステップS104)。判断部162は、サーバー300から受信した選択情報と特定した使用者の視線方向とに基づいて、画像表示最大領域PNに表示させる広告画像の表示態様を設定する(ステップS82)。その後、表示設定部165bは、設定された表示態様に基づいて、広告画像を画像表示最大領域PNに表示させる(ステップS84)。
図22は、第5実施形態において広告画像TX8が表示された場合に使用者が視認する視野VRの一例を示す説明図である。図22には、使用者の視野VRに含まれる外景SCと、画像表示最大領域PNに表示された案内画像CIおよび広告画像TX8と、が示されている。また、外景SCには、使用者が現実に視認している案内掲示板GU含まれる。第5実施形態では、検出看板である案内掲示板GUに、広告画像としての案内画像CIと広告画像TX8とが対応付けられている。案内画像CIは、案内掲示板GUに示された観光地を案内するためのコンシェルジュを表す画像である。また、広告画像TX8は、広告DB325に記憶された他の使用者の履歴によって作成された統計情報に基づくお勧めの観光スポットを表す文字画像である。なお、第5実施形態における統計情報は、請求項における判断情報に相当し、案内画像CIと広告画像TX8とは、請求項における判断情報対応情報としての画像に相当する。
図21のステップS84の処理において、判断部162は、画像表示最大領域PNに案内画像CIおよび広告画像TX8を表示させると、使用者の眼の撮像画像に基づいて、使用者の瞳孔の大きさの変化を判定する(ステップS106)。判断部162は、使用者の瞳孔の大きさの変化として、閾値以上に瞳孔が大きくなる変化を検出しないと判定した場合には(ステップS106:NO)、第3実施形態と同じステップS34以降の処理を繰り返す。
ステップS106の処理において、判断部162は、使用者の瞳孔の大きさが閾値以上に大きくなる変化を検出したと判定した場合には(ステップS106:YES)、第5実施形態では、判断部162は、使用者の視線方向上にある画像または実際の物体に対して、使用者が興味を持ったと推測し、画像表示最大領域PNに表示させる広告画像の表示態様を再設定する(ステップS82)。具体的には、判断部162は、使用者の視線方向上に物体(例えば、図う22の「□□川」)に対応付けられた画像をより大きく表示したり、当該物体に関連付けられたさらに詳しい情報を画像表示最大領域PNに表示させたりする。
以上説明したように、第5実施形態のHMD100bでは、判断部162は、使用者とは異なる複数の他の人間に基づく統計情報に基づいて、画像表示最大領域PNに表示させる広告画像を設定する。そのため、第5実施形態のHMD100bでは、使用者が訪れたことのない観光地や使用者が有する情報の少ない場所において、他の人間の統計情報を用いた広告画像を使用者に視認させることができ、使用者の利便性が向上する。
また、第5実施形態のHMD100bでは、判断部162は、使用者の瞳孔の大きさの変化に応じて、使用者の興味の度合いを推測して、画像表示最大領域PNに表示させる広告画像を設定するため、使用者の利便性がさらに向上する。
F.第6実施形態:
第6実施形態では、第3実施形態と比較して、判断部162が、マイク63によって取得された外部音声に基づいて、画像表示最大領域PNに表示させる広告画像を設定することが異なり、他の構成および処理については、第3実施形態と同じである。第6実施形態では、使用者が別の人間である友人と話していたときに、会話の中で頻繁に出現する単語や会話が行なわれている時刻などに基づいて、判断部162は、使用者および友人が求めていると推測する内容に関連する広告画像を画像表示最大領域PNに表示させる。例えば、判断部162は、夕方に、使用者と友人との会話において、「食事」および「食事」と関連が高い言葉が頻繁に取得された場合には、「食事」を行なえる近隣のレストランやバーなどの広告画像を画像表示最大領域PNに表示させる。
図23は、第6実施形態における広告表示処理のフローチャートである。第6実施形態の広告表示処理では、第3実施形態の広告表示処理と比較して、ステップS110からステップS114までの処理が異なり、その他の処理については第3実施形態と同じである。そのため、第6実施形態の広告表示処理では、第3実施形態の広告表示処理とは異なる処理を含むステップS110からステップS84までの処理について説明して、その他の処理についての説明を省略する。
図23のステップS16の処理が行なわれると、マイク63は、外部音声を取得する(ステップS110)。判断部162は、取得された外部音声から、予め設定されている単語を識別して、当該単語を抽出する(ステップS112)。判断部162は、抽出した単語の数に応じて、無線通信部132を介して、抽出した単語と関連が高い選択情報をサーバー300から受信する(ステップS114)。判断部162は、抽出した単語の頻度に応じて、画像表示最大領域PNに表示させる受信した選択情報に含まれる広告情報の表示態様を設定する(ステップS82)。表示設定部165bは、設定された表示態様に基づいて、広告画像を画像表示最大領域PNに表示させる(ステップS84)。
図24は、第6実施形態において広告画像TX9が表示された場合に使用者が視認する視野VRの一例を示す説明図である。図24には、マイク63が取得した音声から多く抽出された単語が「食事」、「魚」、「和食」であった場合に画像表示最大領域PN内に表示される広告画像TX9と外景SCとを含む使用者の視野VRが示されている。第6実施形態では、判断部162は、使用者と友人FRとの会話から取得された会話から抽出した単語に基づいて、広告画像TX9として、食事ができるお店の店舗一覧を示す文字画像を画像表示最大領域PNに表示させる。広告画像TX9には、店名が「富士」の和食の店と、店名が「旬魚」の和食の店と、店名が「広東」の中華料理の店と、店名が「隠れ家」のバーの店と、が店舗一覧として示されている。なお、第6実施形態における取得された音声は、請求項における判断情報に相当し、広告画像TX9は、請求項における判断情報対応情報としての画像に相当する。
以上説明したように、第6実施形態のHMD100bでは、判断部162は、取得された音声の中から抽出した単語に基づいて、画像表示最大領域PNに表示させる広告画像を設定する。そのため、第6実施形態のHMD100bでは、自動的に、音声に基づいて、使用者が欲しいと推測される情報を画像表示最大領域PNに広告画像TX9として表示されるため、使用者の利便性がさらに向上する。
G.変形例:
なお、この発明は上記実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば、次のような変形も可能である。
G−1.変形例1:
上記実施形態では、GPSモジュール137によって特定された画像表示部20の位置と、カメラ61の撮像画像の中に検出された看板の画像とに基づいて、画像表示部20の向きが特定されたが、画像表示部20の向きの特定の方法については、種々変形可能である。例えば、画像表示部20に方位センサーおよび加速度センサーが搭載され、画像表示部20の現在位置と方位センサーによって特定された東西南北の向きと加速度センサーとによって特定された重力方向に対する向きとに基づいて、画像表示部20の向きが特定されてもよい。この変形例のHMD100では、使用者の前を一時的に遮った障害物(例えば、自動車など)があっても、障害物がない場合に検出した看板に対応付けられた画像を画像表示部20に表示できる。また、使用者に視認されない看板に対応付けられた画像のみが画像表示部20に表示されることで、使用者は、実物として視認する看板と、実物として視認していない看板に対応付けられた画像とを認識でき、広範囲の情報を取得できる。
また、上記実施形態では、店舗別広告データSD(図3)や滞在情報VD(図5)の一例を示したが、店舗別広告データSDおよび滞在情報VDにおける項目については、上記実施形態の項目に限られず、種々変形可能である。例えば、店舗別広告データSDの項目の一例として、湿度や年齢に基づく制限があってもよい。また、記憶部120の過去履歴記憶部124は、使用者の滞在情報VDの変わりに、使用者の過去において画像表示部20に表示された広告画像の頻度や店舗の利用回数や無線通信部132を用いた店舗の検索回数などを記憶してもよい。また、記憶部120は、使用者の過去の情報ではなく、性別、趣味、住所、職種などの個人情報を記憶し、表示設定部165は、記憶された個人情報に基づいて、画像表示部20に表示させる広告画像を設定してもよい。
また、上記実施形態では、GPSモジュール137が取得した画像表示部20の現在位置と検出看板の位置とに基づいて、画像表示部20からの検出看板の位置までの距離が測定されたが、画像表示部20の現在位置と検出看板の位置との距離を測定する方法については、種々変形可能である。例えば、距離測定部161として、画像表示部20のカメラ61の近くに赤外線発光部および赤外線受光部が配置され、赤外線発光部が発した赤外線を赤外線受光部が受光することにより、距離測定部161は、赤外線を反射した対象と画像表示部20との距離を測定してもよい。
また、上記実施形態では、操作部135は、音声処理部170によって認識された音声の信号に基づいて、HMD100の各種操作を実行したが、認識された音声の信号に基づいて、操作以外の制御が実行されてもよい。例えば、撮像画像の中に検出された看板と認識された音声とに基づいて、表示設定部165は、画像表示部20に表示させる広告画像を設定してもよい。具体的には、「お腹空いた」の音声が認識された場合には、表示設定部165は、店舗別広告データSDにおけるカテゴリーが「飲食」のみの検出看板に対応付けられた広告情報を、画像表示部20に表示させたり、画像表示部20に点滅などさせて強調して表示させたりする。
また、上記第2実施形態では、キャリブレーション設定部167は、設定画像CGを画像表示部20aに表示させ、撮像画像IMGの中に検出した右手HDの人差し指FFによってキャリブレーション設定を実行したが、設定画像CGや人差し指FFについては、種々変形可能である。例えば、キャリブレーション設定部167は、設定画像CGとして、1つの大きな円の画像を画像表示部20aに表示させて、表示された円の軌跡と検出された人差し指FF軌跡とによってキャリブレーション設定を実行してもよい。また、キャリブレーション設定部167が検出する特定の対象物としては、右手HDの人差し指FFではなく、HMD100aに1対1で対応付けられている制御部10aであってもよいし、ボールペンなどであってもよい。
G−2.変形例2:
上記実施形態では、GPSモジュール137によって画像表示部20の現在位置が特定された後に、HMD100の無線通信部132がサーバー300から選択情報を受信したが、HMD100とサーバー300との間での情報の送受信の方法については、種々変形可能である。例えば、画像表示部20の現在位置が特定され、かつ、撮像画像の中から看板の画像が検出された場合に、無線通信部132が画像表示部20の位置情報と検出看板の画像の情報とをサーバー300へと送信し、サーバー300から検出看板に対応付けられた広告情報を受信してもよい。この変形例のHMD100では、上記実施形態の記憶部120の選択情報記憶部122のように、サーバー300に記憶された広告情報を制御部10に格納しなくても済むため、制御部10の記憶容量が少なくて済み、HMD100を小型化できる。
上記実施形態では、HMD100の無線通信部132がサーバー300などのサーバーと情報を送受信することで、制御部10が看板の画像と看板に対応付けられた広告情報とを取得したが、広告情報等の取得の方法については、種々変形可能である。例えば、制御部10の記憶部120が看板の画像と看板に対応付けられた広告情報とを記憶しており、制御部10の各部は、記憶された看板の画像と広告情報とを用いて広告表示処理を行なってもよい。また、看板の画像と広告情報とは、USBインターフェイスによって接続された外部の記憶装置から取得されてもよい。この変形例のHMD100では、無線通信部132などの他の情報端末と情報の送受信をしなくても済むため、HMD100を小型化できる。
G−3.変形例3:
上記実施形態では、表示設定部165が画像表示部20に表示させる広告画像の表示態様の一例を挙げて説明したが、表示設定部165に設定される表示態様については、種々変形可能である。例えば、第2実施形態において、表示設定部165は、使用者によってキャリブレーション操作が行なわれた広告画像TX4に対応付けられた広告画像TX5などを、画像表示最大領域PNの中心付近に表示させると共に、BL221,222の輝度を操作が行なわれる前よりも上昇させてもよい。使用者が画像表示最大領域PN内に表示された広告画像TX4を対象にキャリブレーション操作を行なう場合には、外景SCを透過させる必要が少ないため、BL221,222の輝度を上昇させることで、使用者の利便性を向上させることができる。
また、店舗別広告データSDにおける同じカテゴリーの複数の検出看板がある場合には、表示設定部165は、使用者が比較しやすいように、画像表示最大領域PN内に並べて表示させてもよい。また、表示設定部165は、同じカテゴリーの広告画像について、画像表示最大領域PN内に表示される文字画像のフォントを同じフォントに設定したり、広告画像の外枠の色を同じ色に設定して表示させてもよい。
また、表示設定部165は、右光学像表示部26に表示させる画像と左光学像表示部28とに表示させる画像と変えることで、輻輳角を形成して、使用者が画像表示部20に表示された広告画像を三次元画像として表示させてもよい。例えば、表示設定部165は、距離測定部161によって測定された距離と、画像表示部20に三次元で表示させる広告画像の位置とを同じ距離に設定してもよい。また、表示設定部165は、滞在情報VDを参照して、使用者にとって最も使用頻度が高い店舗の検出看板に対応付けられた広告画像のみを三次元で表示させることで、強調して使用者に視認させてもよい。
また、上記実施形態では、看板検出部168がカメラ61の撮像画像の中から看板の画像を検出したが、看板検出部168は、カメラ61の撮像画像以外の情報からも識別対象画像を検出できる。例えば、看板検出部168は、赤外線センサー、超音波センサー、レーダーによって検出された情報に含まれる画像を識別対象画像として検出してもよい。
G−4.変形例4:
上記第1実施形態の広告表示処理では、図7のステップS24からステップS32までの処理において、距離などの各種情報が取得され、取得された情報に基づいて、画像表示部20に広告画像が表示されたが、取得される各種情報について、種々変形可能である。図25は、変形例における広告表示処理のフローチャートである。図25に示す広告表示処理は、図7のステップS24からステップS28までの処理が省略された処理である。このように、広告表示処理では、画像表示部20と検出看板との距離が測定されなくてもよいし、温度等の環境情報が取得されなくてもよいし、滞在情報VDと検出看板との関係が照合されなくてもよい。
また、上記実施形態では、GPSモジュール137によって特定された画像表示部20の現在位置と、特定された現在位置に基づいてサーバー300から送信される選択情報とに基づいて、画像表示部20に広告画像が表示されたが、広告画像の取得の方法については、種々変形可能である。例えば、サーバー300ではなく、看板に、当該看板に対応付けられた店舗の店舗別広告データSDを光情報として発信するi‐Beacon(登録商標)のような発信部が配置されていてもよい。この場合に、HMD100は、看板から発信される光情報を受信する受信部を備えており、看板検出部168は、受信部によって受信された光情報に含まれる看板の画像とカメラ61によって検出される看板との照合を行なうことで、検出看板を取得してもよい。また、HMD100は、無線通信部132によって、無線LANを介して取得したネットワーク情報によって自身の位置を特定してもよい。また、HMD100は、撮像した外景に含まれるランドマークとして登録された特徴的な建物を特定することで、自身の位置を特定してもよい。また、HMD100は、無線通信部132を介して、住所や特定の交差点についてのデータを記憶しているサーバーから情報を受信することで、自身の位置を特定してもよい。この変形例では、GPSモジュール137によって画像表示部20の位置が取得される必要がないため、HMD100の使用者の利便性が向上する。
上記実施形態では、請求項の識別対象画像に相当する画像として、検出された看板の画像を例に挙げて説明したが、識別対象画像については、種々変形可能である。例えば、識別対象画像は、撮像画像の中から、文字、図形、記号、立体的な形状によって構成される標識のような画像であってもよいし、特定の外観を有する物品の形状、模様、色彩の組み合わせの画像であってもよい。また、上記実施形態では、請求項の判断情報対応情報としての画像として、広告画像TX1,TX2を例に挙げて説明したが、判断情報対応情報および判断情報対応情報としての画像については、種々変形可能である。例えば、判断情報対応情報としての画像は、駅の看板に対応付けられた時刻表の画像であってもよいし、バスの停留所の看板や目印に対応付けられた路線図、次に到着する停留所、下車する停留所ごとの運賃のような関連情報を示す画像であってもよい。また、判断情報対応情報は、画像以外の音声などであってもよい。
G−5.変形例5:
上記第3実施形態では、過去履歴記憶部124bが記憶する使用者の個人情報として、使用者の過去の購買情報を例に挙げたが、使用者の個人情報については、種々変形可能である。使用者の個人情報として、例えば、使用者がインターネットを介して検索したWeb履歴、使用者とその他の人間との会話の履歴などが挙げられる。
また、上記第3実施形態から第6実施形態までの実施形態では、判断部162は、取得した判断情報に基づいて、使用者の意図や動作を推測したが、判断部162が推測する使用者の動作等については、種々変形可能である。判断部162は、例えば、使用者の動作状態として、寝そべっている状態や着席している状態を推測してもよいし、使用者の移動状態として、自動車に乗車している状態やランニングをしている状態を推測してもよい。なお、判断情報とは、画像表示最大領域PNに広告等の画像が表示されるためのトリガーとなる情報であり、上記実施形態で説明した看板、使用者の過去の履歴、外部の音声、他の使用者の統計情報、使用者の生体情報以外の情報であってもよい。例えば、操作部135が所定の操作を受け付けることで、使用者が自由に判断情報を設定できてもよい。
また、上記第4実施形態では、生体情報取得部39が取得する生体情報として、使用者の汗を例に挙げて説明したが、生体情報取得部39が取得する生体情報については、種々変形可能である。生体情報取得部39は、例えば、使用者の体温、血圧、心拍数、呼吸数、脳波、血流の量、血糖値などを取得してもよい。生体情報取得部39は、これらの生体情報を取得するセンサーであり、HMD100と一体または別体で有していてもよい。変形例のHMD100は、生体情報取得部39を備えておらず、無線通信部132を介して、別の機器で取得された使用者の生体情報を取得してもよい。
また、上記第6実施形態では、判断部162は、マイク63によって取得された外部音声と使用者の位置情報とに基づいて、画像表示最大領域PNに表示させる広告画像を設定したが、外部音声以外の外部の情報によって、画像表示最大領域PNに表示させる広告画像を設定してもよい。判断部162は、使用者の位置情報に加えて、例えば、外景SCの映像、匂い、天候などによって画像表示最大領域PNに表示させる広告画像を設定してもよい。そのために、HMD100は、外景SCを撮像するカメラ、外部の匂いを判定する匂いセンサー、天候を判定するための温度センサー、湿度センサー、気圧センサー、環境光センサーを備えていてもよい。
請求項における位置情報に対応付けられた表示用情報は、例えば、取得された位置情報に含まれるHMD100の位置から所定の範囲内にある店舗の情報を当然含むが、その他の情報であってもよい。例えば、取得された位置情報は、HMD100の現在位置と異なる位置として、HMD100の使用者が所定の時間後(例えば、1時間後)に到着する位置から所定の範囲内にある店舗等の情報であってもよい。また、取得された位置情報は、HMD100の使用者が所定の時間内(例えば、30分以内)に通過する予定の軌跡から所定の範囲内にある観光施設の情報であってもよい。また、取得された位置情報は、他のHMD100の使用者の位置を特定する情報であってもよい。
また、画像表示最大領域PNに表示される判断情報対応情報としての画像の表示態様については、上記実施形態で説明した例に限られず、種々変形可能である。例えば、表示画像の表示態様は、表示位置、表示するタイミング(例えば、数秒間かけて1つの画像を表示する)、外景の照度にあわせた輝度、2次元または3次元表示、3次元表示する場合の使用者が視認する距離、特定の画像に対する拡大または縮小といった画像の各種設定が挙げられる。
G−6.変形例6:
上記実施形態では、制御部10に操作部135が形成されたが、操作部135の態様については種々変形可能である。例えば、制御部10とは別体で操作部135であるユーザーインターフェースがある態様でもよい。この場合に、操作部135は、電源130等が形成された制御部10とは別体であるため、小型化でき、使用者の操作性が向上する。また、カメラ61が画像表示部20に配置されたが、カメラ61が画像表示部20とは別体に構成され、外景SCを撮像できてもよい。
例えば、画像光生成部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよい。また、例えば、画像光生成部は、LCDに代えて、LCOS(Liquid crystal on silicon, LCoS は登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型のHMD100に対して本発明を適用することも可能である。
また、例えば、HMD100は、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のヘッドマウントディスプレイとしてもよい。また、HMD100は、いわゆる単眼タイプのヘッドマウントディスプレイであるとしてもよい。また、HMD100は、両眼タイプの光学透過型であるとしているが、本発明は、例えば、ビデオ透過型といった他の形式の頭部装着型表示装置にも同様に適用可能である。
また、イヤホンは耳掛け型やヘッドバンド型が採用されてもよく、省略してもよい。また、例えば、自動車や飛行機等の車両に搭載される頭部装着型表示装置として構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵された頭部装着型表示装置として構成されてもよい。
G−7.変形例7:
上記実施形態におけるHMD100の構成は、あくまで一例であり、種々変形可能である。例えば、制御部10に設けられた方向キー16を省略したり、方向キー16やトラックパッド14に加えて、操作用スティック等の他の操作用インターフェイスを設けたりしてもよい。また、制御部10は、キーボードやマウス等の入力デバイスを接続可能な構成であり、キーボードやマウスから入力を受け付けるものとしてもよい。
また、画像表示部として、眼鏡のように装着する画像表示部20に代えて、例えば帽子のように装着する画像表示部といった他の方式の画像表示部を採用してもよい。また、イヤホン32,34は、適宜省略可能である。また、上記実施形態では、画像光を生成する構成として、LCDと光源とを利用しているが、これらに代えて、有機ELディスプレイといった他の表示素子を採用してもよい。
図26は、変形例におけるHMDの外観構成を示す説明図である。図26(A)の例の場合、図1に示したHMD100との違いは、画像表示部20xが、右光学像表示部26に代えて右光学像表示部26xを備える点と、左光学像表示部28に代えて左光学像表示部28xを備える点とである。右光学像表示部26xは、上記実施形態の光学部材よりも小さく形成され、HMD100xの装着時における使用者の右眼の斜め上に配置されている。同様に、左光学像表示部28xは、上記実施形態の光学部材よりも小さく形成され、HMD100xの装着時における使用者の左眼の斜め上に配置されている。図26(B)の例の場合、図1に示したHMD100との違いは、画像表示部20yが、右光学像表示部26に代えて右光学像表示部26yを備える点と、左光学像表示部28に代えて左光学像表示部28yを備える点とである。右光学像表示部26yは、上記実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め下に配置されている。左光学像表示部28yは、上記実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め下に配置されている。このように、光学像表示部は使用者の眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のHMD100として実現できる。
また、上記実施形態において、HMD100は、使用者の左右の眼に同じ画像を表わす画像光を導いて使用者に二次元画像を視認させるとしてもよいし、使用者の左右の眼に異なる画像を表わす画像光を導いて使用者に三次元画像を視認させるとしてもよい。
また、上記実施形態において、ハードウェアによって実現されていた構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。例えば、上記実施形態では、画像処理部160や音声処理部170は、CPU140がコンピュータープログラムを読み出して実行することにより実現されるとしているが、これらの機能部はハードウェア回路により実現されるとしてもよい。
また、本発明の機能の一部または全部がソフトウェアで実現される場合には、そのソフトウェア(コンピュータープログラム)は、コンピューター読み取り可能な記録媒体に格納された形で提供することができる。この発明において、「コンピューター読み取り可能な記録媒体」とは、フレキシブルディスクやCD−ROMのような携帯型の記録媒体に限らず、各種のRAMやROM等のコンピューター内の内部記憶装置や、ハードディスク等のコンピューターに固定されている外部記憶装置も含んでいる。
また、上記実施形態では、図2および図3に示すように、制御部10と画像表示部20とが別々の構成として形成されているが、制御部10と画像表示部20との構成については、これに限られず、種々変形可能である。例えば、画像表示部20の内部に、制御部10に形成された構成の全てが形成されてもよいし、一部が形成されてもよい。また、上記実施形態における電源130が単独で形成されて、交換可能な構成であってもよいし、制御部10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、図2に示すCPU140が制御部10と画像表示部20との両方に形成されていてもよいし、制御部10に形成されたCPU140と画像表示部20に形成されたCPUとが行なう機能が別々に分けられている構成としてもよい。
本発明は、上記実施形態や変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや、組み合わせを行なうことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。