以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.第1の実施形態
1−1.遮蔽型HMD装置の外観
1−2.遮蔽型HMD装置の構成
1−3.通知状態の具体例
1−3−1.必要度高の場合
1−3−2.必要度中の場合
1−3−3.必要度低の場合
1−4.通知状態制御方法の処理手順
2.第2の実施形態
2−1.遮蔽型HMD装置の外観
2−2.遮蔽型HMD装置の構成
2−3.提示状態の具体例
2−4.通知状態及び提示状態の具体例
2−5.提示状態制御方法の処理手順
3.ハードウェア構成
4.まとめ
<1.第1の実施形態>
[1−1.遮蔽型HMD装置の外観]
まず、図1A及び図1Bを参照して、本開示の第1の実施形態に係る遮蔽型HMD装置の一外観例について説明する。図1A及び図1Bは、本開示の第1の実施形態に係る遮蔽型HMD装置の一外観例を示す斜視図である。なお、以下の説明では、遮蔽型HMD装置を装着しているユーザを基準として、ユーザと対向する側のことを遮蔽型HMD装置の内側又は内部側とも呼称し、ユーザと対向しない側のことを遮蔽型HMD装置の外側又は外部側とも呼称する。
図1Aは、第1の実施形態に係る遮蔽型HMD装置10を外部側から見た様子を示す斜視図である。また、図1Bは、第1の実施形態に係る遮蔽型HMD装置10を内部側から見た様子を示す斜視図である。図1A及び図1Bを参照すると、遮蔽型HMD装置10は、本体部310及びバンド部320とを備える。本体部310は、ゴーグル状の形状を有し、ユーザに装着された際にユーザの眼前に位置し、ユーザの外部に対する視界を遮蔽する。本体部310は、各種の情報を処理し遮蔽型HMD装置10の駆動を統合的に制御する制御部や、ユーザに各種の情報を視覚的に通知する表示部等の、遮蔽型HMD装置10の駆動に係る各種の機能を有している。バンド部320は、ユーザの頭部に装着され、本体部310をユーザの眼前に固定する帯状の部材である。バンド部320は、本体部310の位置がユーザの眼前に固定されるように、その長さ、角度等が調整可能であってよい。
図1Aを参照すると、本体部310の外部側には、カメラ311及びマイクロホン312が設けられる。カメラ311はユーザの外部の様子を動画又は静止画の形式で撮像する。また、マイクロホン312はユーザの外部の様子を録音する。カメラ311によって撮像された画像についての画像情報及びマイクロホン312によって録音された音声についての音声情報は、本体部310の制御部に送信される。ここで、以下の説明では、上記画像情報及び音声情報のようにユーザの外部の状況を表す情報のことを外部情報と呼称する。このように、カメラ311及びマイクロホン312は外部情報を検出する機能を有する。なお、カメラ311及びマイクロホン312は、常時外部情報を検出してもよいし、外部情報に変化が生じた場合に当該変化した外部情報を検出してもよい。外部情報に変化が生じるとは、例えば画像情報であれば、カメラ311のフレーム内における人や物体の変化であってよいし、音声情報であればマイクロホン312によって録音された音声の変化であってよい。
図1Bを参照すると、本体部310の内部側には、内部表示部313a、313b及び視線センサ部314a、314bが設けられる。内部表示部313a、313bは、遮蔽型HMD装置10がユーザに装着された際にユーザの眼前に位置する部位に設けられ、各種の情報を、画像、テキスト、グラフ、表等、様々な形式で表示画面に表示し、ユーザに視覚的に通知する。図1Bに示す例では、内部表示部313a、313bはユーザの左目及び右目に対応する位置にそれぞれ1つずつ設けられ、ユーザに対して3次元画像(3D画像)を提供することができる。ユーザは内部表示部313a、313bの表示画面を参照することにより、例えば映画等のコンテンツを楽しんだり、ワープロソフトや表計算ソフト等を利用した各種の作業を行ったりすることができる。また、内部表示部313a、313bの表示画面は外部の様子を透過して観察できるようにはなっておらず、遮蔽型HMD装置10を装着したユーザの視界は、内部表示部313a、313bによって外界から遮蔽される。従って、ユーザは内部表示部313a、313bの表示画面に表示された情報に集中することができ、作業に没入することができる。なお、上記では、遮蔽型HMD装置10が1対の内部表示部313a、313bを有する場合について説明したが、本実施形態はかかる例に限定されない。遮蔽型HMD装置10は1つの表示画面からなる内部表示部を有してもよい。
視線センサ部314a、314bは、ユーザの目の状態を検出するセンサ装置である。ここで、目の状態とは、まぶたの開閉状態、瞳孔の状態、視線の状態等、ユーザの目に関するあらゆる状態であってよい。図1Bに示す例では、視線センサ部314a、314bはユーザの左目及び右目に対応する位置にそれぞれ1つずつ設けられ、ユーザの左右の目の状態をそれぞれ検出することができる。視線センサ部314a、314bによって検出されたユーザの目の状態についての情報(以下、視線情報と呼称する。)は、本体部310の制御部に送信される。ここで、以下の説明では、ユーザに関する情報のことを内部情報と呼称する。本実施形態においては、内部情報は、ユーザの状態を表す情報(以下、ユーザ情報と呼称する。)及び/又は外部情報以外の情報であってユーザに通知されている情報(以下、コンテンツ情報と呼称する。)を含む。上記視線情報はユーザ情報に含まれるものであり、従って、視線センサ部314a、314bは内部情報を検出する機能を有する。なお、内部情報の詳細については図2を参照して後で詳しく説明する。また、視線センサ部314a、314bは、常時内部情報を検出してもよいし、内部情報に変化が生じた場合に当該変化した内部情報を検出してもよい。
また、図1A及び図1Bには図示しないが、遮蔽型HMD装置10は、ユーザに対して各種の情報を聴覚的に通知するイヤホン装置やスピーカ装置等の音声出力部を有してもよい。また、遮蔽型HMD装置10は、加速度センサ装置やGPS(Global Positioning System)センサ装置、生体センサ装置等の、ユーザ情報を検出するための各種のセンサ装置を有してもよく、これらのセンサによって、ユーザの動きを表す動き情報やユーザの位置情報、ユーザの生体情報等が内部情報として検出されてもよい。
以上、図1A及び図1Bを参照して、本開示の第1の実施形態に係る遮蔽型HMD装置10の一外観例について説明した。以上説明したように、遮蔽型HMD装置10は、カメラ311及びマイクロホン312に代表される、外部情報を検出する構成を有する。また、遮蔽型HMD装置10は、視線センサ部314a、314bに代表される、内部情報を検出する構成を有する。更に、遮蔽型HMD装置10は、内部表示部313a、313bや音声出力部等の、ユーザに対して各種の情報を通知する構成を有する。そして、第1の実施形態においては、本体部310に設けられた制御部によって、検出された外部情報に基づいて、当該外部情報をユーザに対して通知する必要度が判断され、当該必要度に基づいて外部情報のユーザに対する通知状態が切り換えられる。例えば、当該制御部は、上記必要度に応じて、外部情報を内部表示部313a、313bに表示してユーザに対して通知したり、外部情報を段階的に内部表示部313a、313bに表示してユーザに対して通知したりすることができる。ここで、ユーザに情報を通知するとは、当該情報を内部表示部313a、313bの表示画面に画像として表示させたり、当該情報を音声出力部から音声として出力したりして、ユーザに対して視覚的、聴覚的に当該情報を通知することであってよい。このように、遮蔽型HMD装置10は、ユーザへの各種の情報の通知状態を制御する通知状態制御装置であるとも言える。以下の説明では、遮蔽型HMD装置10が行う通知状態制御における一連の処理のことを通知状態制御処理と呼称する。また、以下の説明では、遮蔽型HMD装置10において通知状態制御処理における各種の情報処理が行われることから、遮蔽型HMD装置10のことを情報処理装置10とも呼称する。
[1−2.遮蔽型HMD装置の構成]
次に、図2を参照して、本開示の第1の実施形態に係る遮蔽型HMD装置10の構成について説明する。図2は、本開示の第1の実施形態に係る遮蔽型HMD装置10の一構成例を示す機能ブロック図である。図2を参照すると、第1の実施形態に係る遮蔽型HMD装置10は、外部情報検出部110、内部情報検出部120、内部通知部130及び制御部140を備える。
外部情報検出部110は、ユーザの外部の状況を表す外部情報を検出する。外部情報検出部110は、例えば図1Aに示すカメラ311及びマイクロホン312に対応する。
ここで、外部情報について詳しく説明する。上述したように、外部情報とはユーザの外部の状況を表す情報であり、外部情報にはユーザの外部の各種の情報が含まれる。例えば、外部情報は、ユーザの外部の状況を表す画像情報及び音声情報等であってよい。なお、外部情報には、可視光による画像についての画像情報だけでなく、例えば赤外光等、他の波長帯域の光による画像についての画像情報も含まれ得る。また、外部情報には、ユーザの周囲の物体との距離情報や、ユーザの周囲の物体の温度情報等、ユーザの外部の環境を表す各種の情報が含まれていてよい。より詳細には、例えば、外部情報は、当該画像情報に含まれる、ユーザに対して外部の人が近づいてくる旨の情報、外部の人がユーザに向かって話し掛けている(発話している)旨の情報及び/又は外部の人の動き(ジェスチャ)についての情報等を含む。また、例えば、外部情報は、当該音声情報に含まれる、外部の人の発話内容についての情報及び/又はサイレンやブザー等の警報音についての情報等を含む。また、遮蔽型HMD装置10が外部の他の機器と相互に情報を送受信する通信部を有する場合には、外部情報には、当該通信部を介して検出される当該他の機器についての情報(以下、機器情報と呼称する。)が含まれてもよい。機器情報には、例えば当該他の機器を所有している人を特定するためのID情報が含まれる。このように、外部情報は、ユーザの外部の状況を表す画像情報、ユーザの外部の状況を表す音声情報及び/又はユーザの外部の他の機器との間の通信によって取得される機器情報等、ユーザの外部の状況を表す各種の情報を含んでよい。
外部情報検出部110は、上述したような各種の外部情報を検出する装置によって構成される。例えば、外部情報検出部110は、画像情報を取得するためのカメラ等の撮像装置、音声情報を取得するためのマイクロホン等の録音装置及び/又は機器情報を取得するための通信装置等を有する。また、外部情報検出部110は、赤外線センサ装置や、距離センサ装置、温度センサ装置等の外部の環境を検出する各種のセンサ装置を有してもよい。外部情報検出部110は、検出した外部情報を制御部140に送信する。
内部情報検出部120は、ユーザに関する情報である内部情報を検出する。内部情報検出部120は、例えば図1Bに示す視線センサ部314a、314bに対応する。
ここで、内部情報について詳しく説明する。上述したように、内部情報とはユーザに関する情報であり、内部情報には遮蔽型HMD装置10を装着しているユーザに関する各種の情報が含まれる。本実施形態においては、内部情報は、ユーザの状態を表す情報(ユーザ情報)及び/又は外部情報以外の情報であってユーザに通知されている情報(コンテンツ情報)を含む。
ユーザ情報は、ユーザの動きを表す動き情報、ユーザの位置情報、ユーザの生体情報及びユーザの行動予定についての情報の少なくともいずれかを含む。動き情報とは、例えば加速度センサ装置やジャイロセンサ装置等の物体の動きや姿勢を検出するセンサ装置によって検出される情報であり、ユーザの動き(例えば起立、着席、歩行等)や姿勢(例えば頭部の傾き)を表す情報である。位置情報とは、例えばGPSセンサ装置等の物体の位置を検出するセンサ装置によって検出される情報であり、ユーザの位置(例えば会社内、自宅内、電車内等)を表す情報である。生体情報とは、ユーザの生体活動に関する各種の情報であり、ユーザの脈拍、心拍、呼吸数、目の状態等を表す情報である。上記[1−1.遮蔽型HMD装置の外観]で説明した視線情報は当該生体情報に含まれる。ユーザの行動予定についての情報とは、例えば遮蔽型HMD装置10がアクセス可能な記録媒体に記録されているユーザのスケジュール情報等から取得される情報であり、例えば特定の時間がユーザにとって作業時間であるか休憩時間であるか等の情報が含まれる。
コンテンツ情報は、上述したように、外部情報以外の情報であってユーザに通知されている情報のことである。このように、本実施形態においては、ユーザに対して通知される情報とは外部情報及び/又はコンテンツ情報のことであり、通知状態の制御とはユーザに通知されるこれらの情報を切り換える制御のことであってよい。例えば、コンテンツ情報には、映画やテレビ番組等の動画情報や、ワープロソフトや表計算ソフト等を用いた作業に関する情報、ブラウザソフトによって閲覧されるウェブサイト上の情報等が含まれる。このように、コンテンツ情報とは、ユーザが遮蔽型HMD装置10を装着して各種の処理を行っている際に、ユーザに通知されている情報であってよい。以下の説明では、コンテンツ情報がユーザに通知され、ユーザが当該コンテンツ情報に基づく各種の処理を行っている状態のことを、ユーザが作業を行っている状態とも呼称する。
内部情報検出部120は、上述したような各種の内部情報を検出する装置によって構成される。例えば、内部情報検出部120は、各種のユーザ情報を取得するための加速度センサ装置、ジャイロセンサ装置、GPSセンサ装置、生体センサ装置等を有する。また、例えば、内部情報検出部120は、各種のコンテンツ情報を検出するための構成、すなわち、ユーザに通知されている情報のうち外部情報以外の情報を検出する構成を有する。内部情報検出部120は、検出した内部情報を制御部140に送信する。
内部通知部130は、制御部140によってその駆動が制御され、各種の情報を様々な形式でユーザに対して通知する。ここで、ユーザに対する情報の通知とは、視覚的な通知及び聴覚的な通知を含む。例えば、内部通知部130は表示画面を有し、各種の情報を、画像、テキスト、グラフ、表等、様々な形式で当該表示画面に表示し、ユーザに対して視覚的に通知する。また、例えば、内部通知部130はスピーカ又はイヤホン等の音声出力機器を有し、各種の情報を当該音声出力機器から音声として出力し、ユーザに対して聴覚的に通知する。このように、内部通知部130は、各種の情報を表示画面に表示する表示部としての機能と、各種の情報を音声として出力する音声出力部としての機能を有することができる。
内部通知部130の表示部としての構成は、例えば図1Bに示す内部表示部313a、313bに対応する構成である。内部通知部130は、コンテンツ情報に含まれる画像情報であるコンテンツ画像を表示画面に表示することにより、ユーザに対して当該コンテンツ情報を通知する。また、内部通知部130は、制御部140によってその駆動が制御され、外部情報に含まれる画像情報である外部画像を表示画面に表示することにより、ユーザに対して当該外部情報を通知する。なお、内部通知部130は、コンテンツ画像及び外部画像のいずれか一方のみを表示画面に表示してもよいし、コンテンツ画像及び外部画像を両方表示画面に表示してもよい。
また、内部通知部130が音声出力部としての構成を有する場合には、内部通知部130は、コンテンツ情報に含まれる音声情報であるコンテンツ音声を出力することにより、ユーザに対して当該コンテンツ情報を通知する。また、内部通知部130は、制御部140によってその駆動が制御され、外部情報に含まれる音声情報である外部音声を出力することにより、ユーザに対して当該外部情報を通知する。なお、内部通知部130は、コンテンツ音声及び外部音声のいずれか一方のみを出力してもよいし、コンテンツ音声及び外部音声を両方出力してもよい。
制御部140は、遮蔽型HMD装置10を統合的に制御するとともに、本実施形態に係る通知状態制御処理における各種の情報処理を行う。以下、制御部140の機能及び構成について詳しく説明する。
制御部140は、必要度判断部141、通知状態制御部142及び内部情報取得部143を有する。
必要度判断部141は、ユーザの外部の状況を表す外部情報に基づいて、前記外部情報をユーザに対して通知する必要度を判断する。具体的には、必要度判断部141は、外部情報検出部110によって検出された外部情報を取得し、当該外部情報に基づいて、ユーザに対して当該外部情報を通知する必要度(通知必要度)を判断する。このように、必要度判断部141は、取得した外部情報の内容を分析し、その内容に基づいて必要度を判断することができる。例えば、外部情報の種類と必要度とが対応付けられたテーブルが用意されており、必要度判断部141は、当該テーブルを参照することにより必要度を判断してもよい。また、例えば、外部情報の種類ごとに所定のスコアが付されており、必要度判断部141は、検出された外部情報に対して当該スコアを算出することにより必要度を判断してもよい。
ここで、図3を参照して、必要度判断部141による外部情報の通知必要度の判断方法の一例について説明する。図3は、本実施形態に係る必要度判断部141による外部情報の通知必要度の判断方法の一例について説明するための説明図である。なお、図3に示す例は、上述したテーブルを利用する方法に対応している。
図3を参照すると、表の1番上の行及び1番左の列に外部情報の種類が記載されており、外部情報の組み合わせによって必要度が定められている。1番上の行には、外部情報の例として、「人の接近」、「人の発話」、「特定のジェスチャ」、「デバイス間の通信」が記載されている。「人の接近」及び「特定のジェスチャ」は、外部情報に含まれる画像情報から取得される情報であり、外部の人が、遮蔽型HMD装置10を装着しているユーザに対して近付いてきたこと及び特定のジェスチャをしていることを意味する。特定のジェスチャとは、例えばユーザに対して腕を伸ばす、手を振る等、ユーザに対してコミュニケーションを取ろうとする意思を表す仕草である。「人の発話」は、外部情報に含まれる音声情報から取得される情報であり、外部の人が、遮蔽型HMD装置10を装着しているユーザに対して話し掛けてきたことを意味する。「デバイス間の通信」は、外部情報に含まれる機器情報から取得される情報であり、遮蔽型HMD装置10と相互に通信可能な機器(デバイス)を有する外部の人が、ユーザに対して近付いていること、少なくとも通信可能な所定の範囲内にいることを意味する。
1番左の列には、外部情報の例として、「面識有り」、「面識無し」が記載されている。この「面識有り」及び「面識無し」は、1番上の行に記載された外部情報に基づく、ユーザに対して近付いてきた人、ユーザに対してジェスチャをしている人及びユーザに対して話し掛けてきた人に対する、ユーザの面識の有無を意味している。面識の有無は、例えば外部情報に機器情報が含まれる場合には、当該機器情報に含まれる当該他の機器の所有者を表すID情報に基づいて判断されてよい。また、面識の有無は、例えば外部情報に画像情報が含まれ、当該画像情報に外部の人の顔の画像が含まれる場合には、顔の画像に基づいて個人を認識することにより判断されてよい。
図3に示す例では、必要度は「高」、「中」、「低」の3段階で判断される。図3を参照すると、例えば、外部情報として「人の発話」又は「特定のジェスチャ」が取得された場合には、必要度判断部141は、これらのアクションを起こした外部の人との面識の有無にかかわらず、当該外部情報の必要度を「高」と判断する。これは、外部の人がユーザに対して話し掛けてきた又は特定のジェスチャを行った場合、これらのアクションを起こした外部の人には、ユーザとコミュニケーションを取りたいという明確な意思があると考えられるからである。
また、例えば、外部情報として「人の接近」又は「デバイス間の通信」が取得された場合には、必要度判断部141は、ユーザがこれらのアクションを起こした外部の人と面識がある場合には当該外部情報の必要度を「中」と判断し、ユーザがこれらのアクションを起こした外部の人と面識がない場合には当該外部情報の必要度を「低」と判断する。これは、外部情報として「人の接近」又は「デバイス間の通信」が取得された場合には、外部の人がユーザに対して近付いてきているとしても、これらのアクションを起こした外部の人は他の目的で偶然ユーザの近くを通り過ぎる可能性が考えられるからである。そして、その外部の人がユーザと面識がある人であれば、ユーザとコミュニケーションを取ろうとして近付いてきた可能性が高く、その外部の人がユーザと面識がない人であれば、ユーザとコミュニケーションを取らずに立ち去る可能性が高いと考えられるからである。
また、図3には図示しないが、必要度判断部141は、外部情報に特定の情報が含まれる場合、当該外部情報をユーザに通知する必要度を「高」と判断することができる。特定の情報とは、例えばサイレンや警報、人の叫び声等、緊急事態を示す外部情報である。このような緊急事態を示す外部情報は、確実にユーザに通知される必要があるため、必要度判断部141はその必要度を「高」と判断する。なお、上記特定の情報として具体的にどのような情報が用いられるかは、ユーザによって適宜設定可能であってよい。つまり、ユーザは、特定の外部情報に対して任意にその通知必要度を設定することができる。
以上、図3を説明して、必要度判断部141による外部情報の通知必要度の判断方法の一例について説明した。以上説明したように、必要度判断部141は、複数の外部情報が検出された場合には、それらの外部情報の組み合わせに応じて、それらの外部情報をユーザに通知する必要度を判断することができる。また、必要度判断部141は、機器情報に基づいて機器の所有者を特定したり、画像情報に含まれる顔の画像から外部の人を特定したり、といったように、外部情報から得られる各種の情報に基づいて、当該必要度を判断することができる。なお、これらの外部情報から各種の情報を得る処理は、必要度判断部141によって行われてもよいし、外部情報検出部110によって行われ、得られた情報も外部情報の一部として必要度判断部141に送信されてもよい。
なお、必要度判断部141による必要度の判断方法は、図3に示した例に限定されない。例えば、図3に示す例では必要度を3段階で判断しているが、必要度を分類する段階の数は3つに限定されず、より少ない又はより多い数であってもよい。また、例えば図3に示した各外部情報(「人の接近」、「人の発話」、「特定のジェスチャ」、「デバイス間の通信」、「面識有り」、「面識無し」)に対して、必要度を示すスコアが付されており、必要度判断部141は、検出された複数の外部情報に付されたスコアを加算することにより、必要度を算出してもよい。
また、例えば、外部情報に含まれる画像情報における外部の人の顔の画像や、外部情報に含まれる機器情報における外部の人のID情報等に基づいて、ユーザに対してコミュニケーションを取ろうとしている人が個人的に特定される場合には、必要度判断部141は、その人に応じて必要度を判断してもよい。例えば、ユーザに対してコミュニケーションを取ろうとしている人が、ユーザにとって会社の同僚や上司、仕事上付き合いのある他の会社の人のように、仕事上の関係にある人である場合には、その人が取ろうとしているコミュニケーションも仕事に関することである可能性が高いと考えられるため、必要度判断部141は、その必要度を高く判断してもよい。また、例えば、ユーザに対してコミュニケーションを取ろうとしている人が、ユーザの友人や家族のように、プライベート上の関係にある人である場合には、その人が取ろうとしているコミュニケーションもプライベートに関することである可能性が高いと考えられるため、必要度判断部141は、必要度を中又は低く判断してもよい。なお、ユーザと、ユーザに対してコミュニケーションを取ろうとしている人との関係性は、例えば、遮蔽型HMD装置10の記憶部(図示せず。)又は遮蔽型HMD装置10と相互に通信可能なユーザ所有の他の機器(例えば携帯電話、個人PC(Personal Computer)等)に記憶されている、ユーザの交友関係を表す情報に基づいて判断され得る。ユーザの交友関係を表す情報とは、例えば、遮蔽型HMD装置10及びユーザ所有の他の機器に記憶されている、ユーザの電話帳やアドレス帳の情報であったり、ユーザが所属しているSNS(Social Networking Service)における友人登録の情報であったりしてよい。
図2に戻って、遮蔽型HMD装置10の構成について説明を続ける。必要度判断部141は、判断した必要度及び外部情報検出部110によって検出された外部情報を通知状態制御部142に送信する。
通知状態制御部142は、必要度判断部141によって判断された必要度に基づいて、外部情報のユーザに対する通知状態を切り換える。ここで、ユーザに情報を通知するとは、当該情報を内部通知部130の表示画面に画像として表示させたり、当該情報を内部通知部130の音声出力部から音声として出力したりして、ユーザに対して視覚的、聴覚的に当該情報を通知することであってよい。また、通知状態の制御とは内部通知部130の駆動を制御し、ユーザに通知される情報の通知状態を切り換える制御のことであってよい。例えば、作業時には、内部通知部130の表示画面にはコンテンツ画像が表示され、内部通知部130の音声出力部からはコンテンツ音声が出力されており、ユーザは通知されているこれらのコンテンツ情報を参照しながら各種の作業を行っている。この状態で、外部情報検出部110によって外部情報が検出されると、必要度判断部141によって判断されたその外部情報のユーザへの通知必要度に基づいて、通知状態制御部142がユーザへの情報の通知状態を切り換える。具体的には、本実施形態であれば、通知状態制御部142は、必要度に基づいて、内部通知部130の表示画面の表示を制御する及び/又は内部通知部130の音声出力部の出力を制御することにより、ユーザに対する外部情報の通知状態を切り換える。
ここで、通知状態制御部142は、通知状態を切り換えるために必要度の段階又は高低を判断する必要がある。例えば、通知状態制御部142は、必要度判断部141によって判断された必要度を所定のしきい値と比較した結果に基づいて、必要度の段階又は高低を判断し、外部情報のユーザに対する通知状態を切り換えてもよい。例えば、通知状態制御部142は、必要度が第1のしきい値以上である場合には、当該必要度が高いと判断することができる。また、例えば、通知状態制御部142は、必要度が上記第1のしきい値未満であり、上記第1のしきい値よりも小さい第2のしきい値以上である場合には、当該必要度が中であると判断することができる。更に、例えば、通知状態制御部142は、必要度が上記第2のしきい値未満である場合には、当該必要度が低いと判断することができる。ただし、必要度の高低を判断するための条件は上記の例に限定されず、ユーザによって適宜変更可能であってよい。例えば、しきい値の数(すなわち、必要度の段階の数)や、上記第1のしきい値及び第2のしきい値の具体的な値、範囲を規定する「以上」及び「未満」の表現を「超過」及び「以下」等の表現に変更すること等は、ユーザによって適宜調整可能であってよい。なお、例えば、図3に示すように必要度がいくつかの段階で表現される場合には、通知状態制御部142は、しきい値との比較を行うことなく、必要度判断部141から送信される当該必要度についての情報に基づいて、当該必要度がどの段階に属しているのかを判断してもよい。
なお、以下の説明では、必要度判断部141によって判断される必要度の段階又は高低を示すために、便宜的に「高」、「中」、「低」等の表現を用いるが、これらの表現は、上述した所定のしきい値(例えば、第1のしきい値及び第2のしきい値)との比較結果に基づくものであってもよいし、図3に示す例のように必要度の段階を示すものであってもよい。
例えば、通知状態制御部142は、必要度判断部141によって判断された必要度が「高」である場合(例えば、第1のしきい値以上である場合)、外部情報をユーザに通知させる。具体的には、通知状態制御部142は、必要度判断部141によって判断された必要度が「高」である場合、外部情報を直ちにユーザに通知させる。なお、外部情報を直ちにユーザに通知させるとは、段階を置かずに、すなわち他の画面の表示や音声出力等を間に挟むことなく、ユーザに対して外部情報を通知することを意味する。外部情報を直ちにユーザに通知させる具体例として、例えば、通知状態制御部142は、内部通知部130の表示画面の表示及び音声出力を、コンテンツ画像及びコンテンツ音声から外部画像及び外部音声に切り換えてもよい。また、例えば、通知状態制御部142は、内部通知部130に、コンテンツ情報と外部情報とを両方通知させてもよい。すなわち、内部通知部130の表示画面にコンテンツ画像と外部画像とを両方表示させ、内部通知部130の音声出力部からコンテンツ音声と外部音声とを両方出力させてもよい。更に、内部通知部130の表示画面にコンテンツ画像と外部画像とが両方表示される場合には、当該表示画面が2分割されて、これらの画像がそれぞれ表示されてもよいし、コンテンツ画像に外部画像が重畳されて表示されてもよい。
また、例えば、通知状態制御部142は、必要度判断部141によって判断された必要度が「中」である場合(例えば、前記第1のしきい値未満であり、前記第1のしきい値よりも小さい第2のしきい値以上である場合)、外部情報を段階的にユーザに対して通知させる。外部情報を段階的にユーザに通知させる具体例として、例えば、外部情報がユーザの外部の状況を表す画像情報及び音声情報であれば、通知状態制御部142は、コンテンツ情報に当該音声情報を重畳させて通知させた後、当該画像情報を重畳させて通知させてもよい。つまり、通知状態制御部142は、コンテンツ画像及びコンテンツ音声を視聴しながら作業を行っているユーザに対して、コンテンツ画像及びコンテンツ音声は表示及び出力させながら、外部情報のうち、まずは外部音声のみを重畳して出力させ、次いで外部画像を重畳して表示させるようにしてもよい。
また、例えば、通知状態制御部142は、必要度判断部141によって判断された必要度が「低」である場合(例えば、前記第2のしきい値未満である場合)、外部情報が検出されたことを表す所定の情報をユーザに対して通知させる。つまり、通知状態制御部142は、コンテンツ画像及びコンテンツ音声を視聴しながら作業を行っているユーザに対して、コンテンツ画像及びコンテンツ音声は通知させたままで、外部情報をそのまま通知させるのではなく、外部情報が検出されたことのみを通知させてもよい。
また、例えば、通知状態制御部142は、必要度判断部141によって判断された必要度が「低」である場合(例えば、前記第2のしきい値未満である場合)には、内部通知部130の表示画面の表示及び音声出力を変更しない、すなわち、外部情報をユーザに対して通知しなくてもよい。このように、通知状態制御部142による外部情報の通知状態の制御には、外部情報を通知しない状態も含まれ得る。通知状態制御部142による通知状態制御の具体例については、下記[1−3.通知状態の具体例]で詳しく説明する。
内部情報取得部143は、ユーザに関する情報である内部情報を取得する。具体的には、内部情報取得部143は、内部情報検出部120によって検出された内部情報を取得する。内部情報取得部143は、内部情報検出部120から内部情報を随時取得してもよいし、必要に応じて内部情報検出部120に内部情報を検出するように指令を出すことにより、内部情報を所定のタイミングで取得してもよい。内部情報取得部143は、取得した内部情報を必要度判断部141に送信する。
必要度判断部141は、上述したように、外部情報に基づいて当該外部情報の通知必要度を判断するが、必要度判断部141は、内部情報に更に基づいて当該必要度を判断することができる。具体的には、必要度判断部141は、外部情報検出部110によって検出された外部情報と、内部情報取得部143によって取得された内部情報と、に基づいて、ユーザに対して当該外部情報を通知する必要度(通知必要度)を判断する。このように、必要度判断部141は、取得した外部情報及び内部情報の内容を分析し、その内容に基づいて必要度を判断することができる。
例えば、内部情報にユーザの位置情報が含まれる場合には、必要度判断部141は、当該位置情報に基づいて必要度を判断してもよい。例えば、ユーザが会社にいる場合には、面識の有無にかかわらず様々な人がユーザとコミュニケーションを取ろうとするが、ユーザが自宅にいる場合には、ユーザとコミュニケーションを取ろうとする人がユーザにとって面識のない人である可能性は低い。従って、必要度判断部141は、内部情報に含まれる位置情報に基づいてユーザが自宅にいると判断される場合には、コミュニケーションを取ろうとする人は面識のある人であるとして必要度を判断することができる。また、例えば、ユーザが会社にいる場合には、外部の人が取ろうとするコミュニケーションの内容は仕事に関することである可能性が高いため、必要度判断部141は、同一の外部情報に基づく必要度の判断であったとしても、ユーザが自宅にいる場合よりも、相対的に必要度を高く判断してもよい。このように、必要度判断部141は、内部情報に含まれる位置情報に基づいて、例えば自宅、会社、車内、電車内等のユーザの居場所を判断し、その居場所に応じて必要度を判断することができる。
また、例えば、内部情報にユーザの動きを表す動き情報が含まれる場合には、必要度判断部141は、当該動き情報に基づいて必要度を判断してもよい。例えば、ユーザが座った状態から立ち上がった場合や、ユーザが歩き出した場合には、ユーザは作業を中断して別の行動を取ろうとしている可能性が高く、ユーザに外部情報を通知する必要性が高いと考えられる。このように、必要度判断部141は、内部情報に含まれる動き情報に基づいてユーザが作業を中断すると判断される場合には、必要度を高く判断することができる。
また、例えば、内部情報にユーザの行動予定についての情報が含まれる場合には、必要度判断部141は、当該ユーザの行動予定についての情報に基づいて必要度を判断してもよい。例えば、必要度判断部141は、ユーザの行動予定についての情報に基づいて、ユーザが作業時間中であると判断される場合には外部情報を通知する必要度を相対的に低く判断し、ユーザが休憩時間中であると判断される場合には外部情報を通知する必要度を相対的に高く判断することができる。
また、例えば、内部情報にコンテンツ情報が含まれる場合には、必要度判断部141は、当該コンテンツ情報に基づいて必要度を判断してもよい。例えば、必要度判断部141は、ユーザに通知されているコンテンツ情報に基づいて、ユーザが行っている作業の重要度を判断し、作業の重要度が高い場合には、ユーザの作業を極力妨げないように外部情報を通知する必要度を相対的に低く判断し、作業の重要度が低い場合には外部情報を通知する必要度を相対的に高く判断することができる。なお、コンテンツ情報と作業の重要度との対応関係はユーザによって適宜設定されてよい。また、例えば、コンテンツ情報が映画等の動画情報である場合、当該コンテンツ情報には、各シーンについての情報が含まれてもよく、必要度判断部141は、当該各シーンについての情報に基づいて、ユーザに通知されている動画情報のシーンの盛り上がり度を判断して、外部情報を通知する必要度を判断してもよい。各シーンについての情報とは、例えばそのシーンが主に風景が表示されているシーンである旨の情報や、そのシーンが主に登場人物の会話から構成されるシーンである旨の情報等であったり、それらのシーンごとの「盛り上がり度」を示す情報であったりしてよい。例えば、盛り上がり度は、動画のシーンが主に風景が表示されているシーンであれば、ストーリー上重要なシーンではないと考えられるため相対的に低く設定され、動画のシーンが主に登場人物の会話から構成されるシーンであれば、ストーリー上重要なシーンであると考えられるため相対的に高く設定される。従って、必要度判断部141は、コンテンツ情報からユーザが視聴している動画のシーンを判断し、盛り上がり度が高い場合には外部情報を通知する必要度を相対的に高く判断したり、盛り上がり度が低い場合には外部情報を通知する必要度を相対的に低く判断したりすることができる。
また、必要度判断部141は、内部情報に基づいてユーザに通知されているコンテンツ情報に対するユーザの没入度を判断し、当該没入度に更に基づいて必要度を判断してもよい。没入度の判断は、例えば内部情報に含まれる、動き情報、生体情報及びコンテンツ情報等に基づいて行われてよい。例えば、動き情報から取得されるユーザの姿勢(例えば頸部の傾き)や頭部の動き等についての情報に基づいて、没入度が判断されてもよい。また、例えば、生体情報から取得されるユーザの脈拍、心拍、視線情報等の情報に基づいて、没入度が判断されてもよい。また、例えば、コンテンツ情報から取得される上述した各シーンついての情報や「盛り上がり度」についての情報に基づいて、没入度が判断されてもよい。
以上、図2を参照して、本開示の第1の実施形態に係る遮蔽型HMD装置10の一構成例について詳細に説明した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、制御部140については、その各構成要素の機能をCPU(Central Processing Unit)等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。なお、遮蔽型HMD装置10のハードウェア構成については、下記<3.ハードウェア構成>で詳しく説明する。
以上、図2を参照して説明したように、第1の実施形態においては、必要度判断部141によって、ユーザの外部の状況を表す外部情報に基づいて、当該外部情報をユーザに対して通知する必要度が判断される。また、通知状態制御部142によって、判断された必要度に基づいて、当該外部情報のユーザに対する通知状態が切り換えられる。このように、ユーザに対して外部情報を通知する必要度が判断され、判断された必要度に基づいて当該外部情報の通知が行われるため、ユーザは外部情報が検出されたことを認識できるとともに、その外部情報に対して適切な対応を取ることができ、外部の人とより円滑なコミュニケーションを取ることが可能となる。例えば、必要度が高い場合には、外部情報が直ちにユーザに対して通知されるため、ユーザは外部情報を直ちに認識し、ユーザに対してコミュニケーションを取ろうとしている外部の人に対して素早く応答することができる。また、必要度が中である又は低い場合には、外部情報が段階的にユーザに対して通知される又は外部情報が検出された旨の情報がユーザに対して通知されるため、ユーザは、そのとき行っている作業を優先させたり、作業を中断してすぐに外部に対して応答したり、状況に応じた対応を選択することができ、ユーザの利便性がより向上する。
なお、通知状態制御部142による内部通知部130の通知状態制御においては、内部通知部130における通知状態は、必要度に基づいて制御されるとともに、ユーザによる操作入力により、適宜切り換えられてもよい。従って、必要度に基づく通知状態制御により、外部情報又は外部情報が検出されたことを表す所定の情報が通知されたユーザは、その内容に応じて、通知状態制御部142に対して適宜指令を入力することにより、内部通知部130における通知状態を変更することができる。例えば、ユーザによる操作入力によって、内部通知部130における通知状態が、コンテンツ情報を通知する状態と外部情報を通知する状態とのいずれかに切り換えられてもよい。また、例えば、ユーザによる操作入力によって、内部通知部130における通知状態が、コンテンツ情報と外部情報とを重畳して通知する状態に切り換えられてもよい。このように、ユーザは、必要度に基づく通知状態制御により、外部情報又は外部情報が検出されたことを表す所定の情報が通知された後、状況に応じて適切な通知状態を選択することができる。例えば、ユーザは、通知された情報から、外部情報にすぐに対応する必要があると判断した場合には、内部通知部130における通知状態を外部情報を通知する状態に切り換えて、外部に対して適切な対応を取ることができる。また、例えば、ユーザは、通知された情報から、外部情報をとりあえずは放置しても構わないと判断した場合には、内部通知部130における通知状態をコンテンツ情報を通知する状態に切り換えて、作業を続行することができる。また、例えば、ユーザは、通知された情報から、外部情報にすぐに対応すべきかどうか判断しかねる場合には、内部通知部130における通知状態をコンテンツ情報と外部情報とが重畳されて通知される状態に切り換えて、外部の状況を確認しながら作業を続行することができる。なお、通知状態制御を切り換えるためのユーザによる操作入力は、例えばボタンやスイッチにより行われてもよいし、図2に示す外部情報検出部110のカメラに向かって所定のジェスチャを行うことにより行われてもよい。
また、必要度判断部141による外部情報の通知必要度の判断においては、その判断基準はユーザによって適宜設定されてよい。例えば、ユーザによる設定により、必要度判断部141は、近付いてきた外部の人がユーザにとって面識が有る人である(ユーザの知り合いである)場合には必要度を高く判断してもよい。このような設定を行うことにより、ユーザは、自分の知り合いが近付いてきたときにはとりあえず直ちに外部画像を確認し、その後、内部通知部130の表示画面及び音声出力機器を適宜切り換える操作を行い、作業を続行するか、外部の人とコミュニケーションを取るか、又は作業を続行しながらコミュニケーションを取るかを状況に応じて選択することができる。
また、図2に示す例では、遮蔽型HMD装置10は、外部情報検出部110、内部情報検出部120、内部通知部130及び制御部140を備えているが、本実施形態はかかる例に限定されない。例えば、遮蔽型HMD装置10は、ユーザが各種の情報を入力するための入力部、遮蔽型HMD装置10において処理される各種の情報を記憶するための記憶部、外部の他の機器と相互に各種の情報を送受信するための通信部等の構成を更に有してもよい。また、遮蔽型HMD装置10は1台の装置によって構成されなくてもよく、遮蔽型HMD装置10が備える各機能は、任意に複数の装置に分離されて構成されてもよい。例えば、ユーザに装着される装置には外部情報検出部110、内部情報検出部120及び内部通知部130のみが搭載され、制御部140は他の装置、例えば、ユーザが所有するスマートフォン(Smartphone)やタブレットPC、及び他の場所に設置されたサーバ等の任意の情報処理装置に搭載され、ユーザに装着される装置と制御部140が搭載された情報処理装置とが、任意の通信網(ネットワーク)を介して相互に各種の情報を送受信することにより、以上説明した遮蔽型HMD装置10における各種の処理が行われてもよい。
[1−3.通知状態の具体例]
次に、図4A−図4E、図5、図6A−図6Cを参照して、通知状態制御部142による通知状態制御の具体例について詳しく説明する。なお、以下では、必要度判断部141によって判断された必要度が高い場合、中である場合及び低い場合のそれぞれについて、通知状態制御部142による通知状態制御の具体例について説明する。
(1−3−1.必要度高の場合)
まず、図4A−図4Eを参照して、必要度判断部141によって判断された必要度が高い場合における、通知状態制御部142による通知状態制御の具体例について説明する。上述したように、通知状態制御部142は、必要度判断部141によって判断された必要度が「高」である場合(例えば、第1のしきい値以上である場合)、外部情報を直ちにユーザに通知させる。これは、外部情報を通知する必要度が高いということは、当該外部情報をユーザに対して素早く通知する必要があると考えられるからである。図4A−図4Eを参照して、このような外部情報が直ちにユーザに通知される場合の通知状態の制御について、主に内部通知部130の表示画面の切り換えについて説明を行う。
図4A−図4Eは、必要度が高い場合における、通知状態制御部142による通知状態制御の具体例について説明するための説明図である。図4A−図4Eでは、上段及び下段に内部通知部130の表示画面510を図示している。そして、上段には内部通知部130の表示画面510にコンテンツ画像520が表示されている様子、すなわち、外部情報がユーザに通知される前でありユーザが作業を行っている状態での表示画面の様子が図示されている。また、下段には内部通知部130の表示画面510に外部画像530が表示されている様子、すなわち、外部情報がユーザに通知された状態での表示画面510の様子が図示されている。なお、図4A−図4Eに示す例では、外部情報は「人が近づいてきた」旨の情報であり、外部情報のユーザに対する通知として、外部の状況が撮像された画像情報及び外部の状況が録音された音声情報が、外部画像及び外部音声として内部通知部130の表示画面に表示される及び音声出力機器から出力される場合について説明する。
図4Aを参照すると、上段には表示画面510にコンテンツ情報に含まれるコンテンツ画像520が表示された様子が図示されている。また、上段に示す状態では、コンテンツ情報に含まれるコンテンツ音声が音声出力機器から出力されユーザに通知されている。この状態で外部情報が検出され、当該外部情報の必要度が高いと判断された場合には、下段に示すように、表示画面510の表示が外部画像530に切り換えられる。また、音声出力機器からの出力もコンテンツ音声から外部音声に切り換えられる。このように、図4Aに示す例では、表示画面510の表示及び音声出力機器からの出力が、外部画像530及び外部音声に全て切り換えられる。
図4Bに通知状態制御の他の具体例を示す。図4Bを参照すると、上段には表示画面510にコンテンツ情報に含まれるコンテンツ画像520が表示された様子が図示されている。また、上段に示す状態では、コンテンツ情報に含まれるコンテンツ音声が音声出力機器から出力されユーザに通知されている。この状態で外部情報が検出され、当該外部情報の必要度が高いと判断された場合には、下段に示すように、表示画面510のコンテンツ画像520の表示に、外部画像530に含まれる人物(すなわち、ユーザに対してコミュニケーションを取ろうとしている人物)の画像のみが重畳されて表示される。また、音声出力機器からは、コンテンツ音声に外部音声が重畳されて出力される。このように、図4Bに示す例では、表示画面510においてコンテンツ画像520に外部画像530に含まれる人物の画像が重畳されて表示される。また、音声出力機器からの出力において、コンテンツ音声に外部音声が重畳されて出力される。
図4Cに通知状態制御の他の具体例を示す。図4Cを参照すると、上段には表示画面510にコンテンツ情報に含まれるコンテンツ画像520が表示された様子が図示されている。また、上段に示す状態では、コンテンツ情報に含まれるコンテンツ音声が音声出力機器から出力されユーザに通知されている。この状態で外部情報が検出され、当該外部情報の必要度が高いと判断された場合には、下段に示すように、表示画面510のコンテンツ画像520の表示が縮小されるとともに、表示画面510の一部分に外部画像530が表示される。また、音声出力機器からは、コンテンツ音声に外部音声が重畳されて出力される。ここで、図4Cに示す例では、表示画面510において、コンテンツ画像520の一部と外部画像530の一部とが重なって表示されているが、本実施形態はかかる例に限定されず、コンテンツ画像520と外部画像530とが互いに重ならないように表示画面510に表示されてもよい。例えば、表示画面510が2つの領域に分割され、分割された領域にコンテンツ画像520及び外部画像530がそれぞれ表示されてもよい。このように、図4Cに示す例では、表示画面510の互いに異なる領域に、コンテンツ画像520と外部画像530とがそれぞれ表示される。また、音声出力機器からの出力において、コンテンツ音声に外部音声が重畳されて出力される。
図4Dに通知状態制御の他の具体例を示す。図4Dを参照すると、上段には表示画面510にコンテンツ情報に含まれるコンテンツ画像520が表示された様子が図示されている。また、上段に示す状態では、コンテンツ情報に含まれるコンテンツ音声が音声出力機器から出力されユーザに通知されている。この状態で外部情報が検出され、当該外部情報の必要度が高いと判断された場合には、下段に示すように、表示画面510のコンテンツ画像520の表示の一部領域に、外部画像530が重畳されて表示される。また、音声出力機器からは、コンテンツ音声に外部音声が重畳して出力される。ここで、コンテンツ画像520に外部画像530が重畳される位置は、例えばユーザから見て外部画像530に含まれる人物(すなわち、コミュニケーションを取ろうとしている人)が近付いてきた方向であってもよい。また、音声出力機器が立体音響を利用して、外部音声が生じた方向から当該外部音声が聞こえるように、外部音声をユーザに対して出力してもよい。このように、図4Dに示す例では、表示画面510においてコンテンツ画像520に外部画像530が重畳されて表示される。また、音声出力機器からの出力において、コンテンツ音声に外部音声が重畳されて出力される。更に、外部画像及び外部音声が、その外部情報が検出された方向も同時に通知されるように重畳される。
図4Eに通知状態制御の他の具体例を示す。なお、図4Eに示す例では、表示画面510は各種の画像を3次元的に表示することができる。図4Eを参照すると、上段には表示画面510にコンテンツ情報に含まれるコンテンツ画像520が表示された様子が図示されている。また、上段に示す状態では、コンテンツ情報に含まれるコンテンツ音声が音声出力機器から出力されユーザに通知されている。この状態で外部情報が検出され、当該外部情報の必要度が高いと判断された場合には、下段に示すように、表示画面510のコンテンツ画像520の表示に、外部画像530が3次元的に重畳して表示される。また、音声出力機器からは、コンテンツ音声に外部音声が重畳して出力される。なお、コンテンツ画像520に対して外部画像530が重畳表示される位置はユーザによって適宜設定可能であってよい。このように、図4Eに示す例では、表示画面510の表示及び音声出力機器からの出力に対して、外部画像530が重畳して表示され、外部音声が重畳して出力される。
以上、図4A−図4Eを参照して、必要度判断部141によって判断された必要度が高い場合における、通知状態制御部142による通知状態制御の具体例について説明した。以上説明したように、必要度が高い場合には、通知状態制御部142は外部情報を直ちにユーザに通知させる。従って、ユーザは外部情報を素早く認識することができるため、外部の人に対してすぐに各種の対応を取ることができ、外部の人とより円滑にコミュニケーションを取ることが可能となる。また、図4A−図4Eに示したように、コンテンツ情報が通知されている状態から外部情報が通知されている状態に通知状態が切り換えられてもよいし、コンテンツ情報が通知されている状態に外部情報が通知されている状態が重畳されてもよい。更に、図4Dに示す例のように、外部情報と同時に、外部情報が検出された方向が通知されてもよい。外部情報が検出された方向が同時に通知されることにより、ユーザはより素早く外部情報を認識することが可能となる。
なお、図4A−図4Eに示す例のうち、コンテンツ画像520に外部画像530又は外部画像530の一部の画像が重畳されて表示される場合には、外部画像530及び外部画像530の一部の画像は、透過して表示され重なった部分のコンテンツ画像520がユーザから見える状態であってもよいし、透過せず表示され重なった部分のコンテンツ画像520がユーザから見えない状態であってもよい。
また、必要度が高い場合における外部情報の具体的な通知方法は図4A−図4Eに示す方法に限定されない。本実施形態においては、必要度が高い場合には、外部情報が直ちにユーザに通知されればよく、その具体的な通知の方法はあらゆる方法であってよい。また、上記図4A−図4Eに示す方法を含め、外部情報の具体的な通知の方法は、ユーザによって適宜設定可能であってよい。
(1−3−2.必要度中の場合)
次に、図5を参照して、必要度判断部141によって判断された必要度が中である場合における、通知状態制御部142による通知状態制御の具体例について説明する。上述したように、通知状態制御部142は、必要度判断部141によって判断された必要度が「中」である場合(例えば、前記第1のしきい値未満であり、前記第1のしきい値よりも小さい第2のしきい値以上である場合)、外部情報を段階的にユーザに対して通知させる。これは、外部情報を通知する必要度が中であるということは、当該外部情報をユーザに対して直ちには通知しなくても構わないと考えられるからである。図5を参照して、このような外部情報が段階的にユーザに通知される場合の通知状態の制御について、主に内部通知部130の表示画面の切り換えについて説明を行う。
図5は、必要度が中である場合における、通知状態制御部142による通知状態制御の具体例について説明するための説明図である。図5では、内部通知部130の表示画面510の表示が段階的に切り換えられる様子を図示している。なお、図5に示す例では、外部情報は「人が近づいてきた」旨の情報であり、外部情報のユーザに対する通知として、外部の状況が撮像された画像情報及び外部の状況が録音された音声情報が、外部画像及び外部音声として内部通知部130の表示画面510及び音声出力機器から出力される場合について説明する。
図5を参照すると、1段目には内部通知部130の表示画面510にコンテンツ画像520が表示されている様子、すなわち、外部情報がユーザに通知される前でありユーザが作業を行っている状態での表示画面の様子が図示されている。また、1段目に示す状態では、コンテンツ情報に含まれるコンテンツ音声が音声出力機器から出力されユーザに対して通知されている。
この状態で外部情報が検出され、当該外部情報の必要度が中であると判断された場合には、図5の2段目に示すように、表示画面510のコンテンツ画像520の表示の一部領域に、光パターン540が重畳して表示される。光パターン540は例えば円形の光を発するパターンであってよく、表示画面510上で点滅表示されてもよい。光パターン540は、外部情報が検出されたことを表す情報である。従って、ユーザは、表示画面510に表示された光パターン540を視認することにより、外部情報が検出されたことを認識することができる。
表示画面510に光パターン540が表示された状態で所定の時間が経過すると、図5の3段目に示すように、表示画面510に光パターン540が重畳して表示されたまま、音声出力機器から、コンテンツ音声に外部音声が重畳されて出力される。従って、ユーザは、外部情報のうち音声情報を認識することができる。
図5の3段目に示す状態で再度所定の時間が経過すると、図5の4段目に示すように、音声出力機器からはコンテンツ音声に外部音声が重畳されて出力されたまま、光パターン540の表示は消え、表示画面510のコンテンツ画像520の表示の一部領域に外部画像530が重畳されて表示される。なお、4段目に示す状態でも光パターン540が表示され続けていてもよい。従って、ユーザは、外部情報のうち画像情報及び音声情報を認識することができる。なお、4段目に示す状態では、外部画像530は、透過して表示され重なった部分のコンテンツ画像520がユーザから見える状態であってもよいし、透過せず表示され重なった部分のコンテンツ画像520がユーザから見えない状態であってもよい。
以上、図5を参照して、必要度判断部141によって判断された必要度が中である場合における、通知状態制御部142による通知状態制御の具体例について説明した。以上説明したように、必要度が中である場合には、通知状態制御部142は外部情報を段階的にユーザに通知させる。図5に示す例であれば、まず外部情報が検出された旨の情報が光パターン540の表示としてユーザに通知され、次いで外部音声が通知され、最終的に外部画像が通知される。なお、2段目に示す段階から3段目に示す段階に遷移するまでの時間及び3段目に示す段階から4段目に示す段階に遷移するまでの時間は、ユーザによって適宜設定されてよい。また、図5に示す各段階において、ユーザからの操作入力により、内部通知部130の通知状態が制御されてもよい。例えば、図5に示す各段階において、ユーザからの操作入力によって、そのまま外部情報の通知処理を続行するか、現在の段階で外部情報の通知処理を中断するか、外部情報の通知処理を中止して内部通知部130の通知状態をコンテンツ情報を通知する状態に切り換えるか、又は内部通知部130の通知状態を外部情報を通知する状態に切り換えるか等、が適宜選択されてよい。当該選択のためのユーザによる操作入力は、例えばボタンやスイッチにより行われてもよいし、図2に示す外部情報検出部110のカメラに向かって所定のジェスチャを行うことにより行われてもよい。従って、ユーザは、外部情報に対して対応するか、外部情報を一旦無視して作業に集中するかを、状況に応じて選択することができ、ユーザの利便性が向上する。なお、必要度が中である場合における外部情報の具体的な通知方法は図5に示す方法に限定されない。本実施形態においては、必要度が中である場合には、外部情報が段階的にユーザに通知され、ユーザによって外部情報に対応するかどうかが選択可能であればよく、その具体的な通知の方法はあらゆる方法であってよい。また、図5に示す方法を含め、外部情報の具体的な通知の方法は、ユーザによって適宜設定可能であってよい。
(1−3−3.必要度低の場合)
次に、図6A−図6Cを参照して、必要度判断部141によって判断された必要度が低い場合における、通知状態制御部142による通知状態制御の具体例について説明する。上述したように、通知状態制御部142は、必要度判断部141によって判断された必要度が「低」である場合(例えば、前記第2のしきい値未満である場合)、外部情報が検出されたことを表す所定の情報をユーザに対して通知させる。これは、外部情報を通知する必要度が低いということは、当該外部情報をユーザに対して直ちには通知しなくても構わないと考えられるからである。図6A−図6Cを参照して、このような外部情報が検出されたことを表す所定の情報がユーザに通知される場合の通知状態の制御について、主に内部通知部130の表示画面の切り換えについて説明を行う。
図6A−図6Cは、必要度が低い場合における、通知状態制御部142による通知状態制御の具体例について説明するための説明図である。図6A−図6Cでは、上段及び下段に内部通知部130の表示画面510を図示している。そして、上段には内部通知部130の表示画面510にコンテンツ画像520が表示されている様子、すなわち、外部情報がユーザに通知される前でありユーザが作業を行っている状態での表示画面の様子が図示されている。また、下段には内部通知部130の表示画面510に外部情報が検出されたことを表す所定の画像が表示されている様子が図示されている。
図6Aを参照すると、上段には表示画面510にコンテンツ情報に含まれるコンテンツ画像520が表示された様子が図示されている。また、上段に示す状態では、コンテンツ情報に含まれるコンテンツ音声が音声出力機器から出力されユーザに通知されている。この状態で外部情報が検出され、当該外部情報の必要度が低いと判断された場合には、下段に示すように、表示画面510におけるコンテンツ画像520の表示に破線で示す円パターン550が重畳されて表示される。円パターン550は、例えばユーザから見て外部情報が検出された方向に外部情報が検出された数だけ表示されてよい。また、円パターン550は、ユーザにより近い場所で検出された外部情報に対応する円パターン550ほど大きく表示されてよい。ユーザは、表示画面510に円パターン550が表示されたことを視認することにより、何らかの外部情報が検出されたことを認識することができる、また、ユーザは、円パターン550の表示位置及び表示された大きさを視認することにより、外部情報の検出方向及び検出距離を定性的に認識することができる。
図6Bを参照すると、上段には表示画面510にコンテンツ情報に含まれるコンテンツ画像520が表示された様子が図示されている。また、上段に示す状態では、コンテンツ情報に含まれるコンテンツ音声が音声出力機器から出力されユーザに通知されている。この状態で外部情報が検出され、当該外部情報の必要度が低いと判断された場合には、下段に示すように、表示画面510におけるコンテンツ画像520の非表示領域に楕円パターン560が表示される。楕円パターン560は、例えばユーザから見て外部情報が検出された左右の方向に外部情報が検出された数だけ表示されてよい。また、楕円パターン560は、ユーザにより近い場所で検出された外部情報に対応する楕円パターン560ほど大きく表示されてよい。ユーザは、表示画面510に楕円パターン560が表示されたことを視認することにより、何らかの外部情報が検出されたことを認識することができる、また、ユーザは、楕円パターン560の表示位置及び表示された大きさを視認することにより、外部情報の検出方向及び検出距離を定性的に認識することができる。
図6Cを参照すると、上段には表示画面510にコンテンツ情報に含まれるコンテンツ画像520が表示された様子が図示されている。また、上段に示す状態では、コンテンツ情報に含まれるコンテンツ音声が音声出力機器から出力されユーザに通知されている。この状態で外部情報が検出され、当該外部情報の必要度が低いと判断された場合には、下段に示すように、表示画面510のコンテンツ画像520の表示の一部領域に、光パターン540が重畳して表示される。光パターン540は、図5の2段目の図を参照して説明した光パターン540と同じものである。光パターン540は例えば円形の光を発するパターンであってよく、表示画面510上で点滅表示されてもよい。また、光パターン540は、例えばユーザから見て外部情報が検出された方向に表示されてもよい。ユーザは、表示画面510に光パターン540が表示されたことを視認することにより、何らかの外部情報が検出されたことを認識することができる、また、ユーザは、光パターン540の表示位置を視認することにより、外部情報の検出方向を定性的に認識することができる。
以上、図6A−図6Cを参照して、必要度判断部141によって判断された必要度が低い場合における、通知状態制御部142による通知状態制御の具体例について説明した。以上説明したように、必要度が低い場合には、通知状態制御部142は外部情報が検出されたことを表す所定の情報をユーザに対して通知させる。図6A−図6Cに示す例であれば、外部情報が検出されたことを表す所定の情報として、円パターン550、楕円パターン560又は光パターン540が表示画面510に表示されることにより、ユーザに対してその旨が通知される。また、図6A−図6Cに示す各状態において、ユーザからの操作入力により、内部通知部130の通知状態が制御されてもよい。例えば、図6A−図6Cに示す各状態において、ユーザからの操作入力によって、そのまま外部情報が検出されたことを表す所定の情報の通知処理を続行するか、外部情報が検出されたことを表す所定の情報の通知処理を中止して内部通知部130の通知状態をコンテンツ情報を通知する状態に切り換えるか、又は内部通知部130の通知状態を外部情報を通知する状態に切り換えるか、が適宜選択されてよい。当該選択のためのユーザによる操作入力は、例えばボタンやスイッチにより行われてもよいし、図2に示す外部情報検出部110のカメラに向かって所定のジェスチャを行うことにより行われてもよい。従って、ユーザは、外部情報に対して対応するか、外部情報を一旦無視して作業に集中するかを、状況に応じて選択することができ、ユーザの利便性がより向上する。また、図6A−図6Cに示す方法においては、外部情報が検出されたことを表す所定の情報のみがユーザに通知されるため、図5に示す方法に比べて、ユーザに対するコンテンツ情報の通知が妨げられない。従って、ユーザの作業を妨げずに外部情報が検出されたことのみがユーザに通知されるため、ユーザが外部情報に対して応答する必要がないと判断した場合には、ユーザはそのまま作業に集中することができる。なお、必要度が低い場合における外部情報の具体的な通知方法は図6A−図6Cに示す方法に限定されない。本実施形態においては、必要度が低い場合には、外部情報が検出されたことを表す所定の情報がユーザに通知され、ユーザによって外部情報に対応するかどうかが選択可能であればよく、その具体的な通知の方法はあらゆる方法であってよい。例えば、内部通知部130の音声出力機器から、例えばブザーやアラーム等の所定の音が、コンテンツ音声の出力に重畳されて出力されることにより、ユーザに対して外部情報が検出されたことが通知されてもよい。また、上記図6A−図6Cに示す方法を含め、外部情報が検出されたことの具体的な通知の方法は、ユーザによって適宜設定可能であってよい。
以上、図4A−図4E、図5、図6A−図6Cを参照して、通知状態制御部142による通知状態制御の具体例について詳しく説明した。なお、上記説明した具体例は、本実施形態における通知状態制御の一例であり、必要度に応じた適切な通知状態制御が行われれば、その具体的な方法は上記の方法に限定されない。
例えば、外部情報に含まれる画像情報における外部の人の顔の画像や、外部情報に含まれる機器情報における外部の人のID情報等に基づいて、ユーザに対してコミュニケーションを取ろうとしている人が個人的に認識される場合には、表示画面510に表示される外部画像530の人物の画像に対して、当該人物の名前等の情報が重畳されて表示されてもよい。また、ユーザに対してコミュニケーションを取ろうとしている人が、ユーザとSNS上のつながりがある人物である場合には、外部画像530の人物の画像に対して、当該SNSを表す情報(例えば、SNSの種類を表すマーク等)が重畳されて表示されてもよい。
また、必要度だけでなく、検出された外部情報に基づいて、通知状態制御部142による通知状態制御が切り換えられてもよい。例えば、本実施形態においては、上記[1−2.遮蔽型HMD装置の構成]で説明したように、緊急事態を示す特定の外部情報が検出された場合には、当該外部情報の必要度は高く判断されるが、このような外部情報は直ちにユーザに対して通知されることはもちろん、より確実に通知されることが求められる。従って、緊急事態を示す特定の外部情報が検出された場合には、図4Aに示すように、内部通知部130の表示画面510の表示及び音声出力機器の出力は即座に外部画像及び外部音声に切り換えられてもよい。
また、例えば、上記では、通知状態制御部142が、必要度判断部141によって判断された必要度が低い場合には、外部情報が検出されたことを表す所定の情報をユーザに対して通知する場合について説明したが、本実施形態はかかる例に限定されない。例えば、必要度が低い場合には、内部通知部130の表示画面の表示及び音声出力を変更しない、すなわち、外部情報をユーザに対して通知しなくてもよい。また、必要度が低い場合に、外部情報が検出されたことを表す所定の情報を通知するかどうかは、ユーザによって適宜設定可能であってよい。従って、ユーザは、作業に集中したいときには、必要度が低い場合には、外部情報が検出されたことすらユーザに対して通知されないようにすることができ、よりユーザの作業を妨げないようにすることができる。
また、上述したように、必要度判断部141による外部情報の通知必要度の判断においては、その判断基準はユーザによって適宜設定されてよい。更に、図4A−図4E、図5、図6A−図6Cに示す方法を含め、通知状態制御部142による必要度に応じた外部情報の具体的な通知状態は、当該外部情報の種類に応じてユーザによって適宜設定可能であってよい。例えば、ユーザは、特定の外部情報が検出された場合に、その通知する必要度を高く判断するように必要度判断部141における判断基準を設定し、更に通知状態制御部142によるその具体的な通知状態制御の方法を、必要度が高い場合における通知状態制御の具体例として説明した図4A−図4Eの中から適宜設定できてよい。具体的には、例えば、ユーザが、面識のある人(知り合い)が近づいてきたときにはすぐにその知り合いとコミュニケーションを取りたいと考えている場合には、ユーザは、近付いてきた外部の人がユーザにとって知り合いである場合には、必要度判断部141がその必要度を高く判断し、通知状態制御部142が内部通知部130における通知状態を図4Aに示すように外部画像及び外部音声に切り換えるように、必要度判断部141及び通知状態制御部142における処理を設定することができる。また、例えば、ユーザが、面識のある人(知り合い)が近づいてきたときにはとりあえず外部様子を確認したいと考えている場合には、ユーザは、近付いてきた外部の人がユーザにとって知り合いである場合には、必要度判断部141がその必要度を高く判断し、通知状態制御部142が内部通知部130における通知状態を図4B−図4Eに示すようにコンテンツ画像及びコンテンツ音声と外部画像及び外部音声とが両方表示、出力される状態に切り換えるように、必要度判断部141及び通知状態制御部142における処理を設定することができる。更に、この場合、ユーザは、コンテンツ情報に重畳して通知された外部情報を確認した後、内部通知部130の表示画面及び音声出力機器を適宜切り換える操作を行い、作業を続行するか、外部の人とコミュニケーションを取るか、又は作業を続行しながらコミュニケーションを取るかを状況に応じて選択してもよい。このように、ユーザによって、必要度判断部141における必要度の判断基準及び内部通知部130における必要度に応じた通知状態が設定可能であることにより、ユーザの意思や志向を反映した詳細な通知状態制御を行うことが可能となる。
[1−4.通知状態制御方法の処理手順]
次に、図7を参照して、本開示の第1の実施形態に係る通知状態制御方法における処理手順について説明する。図7は、本開示の第1の実施形態に係る通知状態制御方法における処理手順を示すフロー図である。なお、以下の通知状態制御方法の処理手順についての説明において、外部情報検出部110、内部情報検出部120、内部通知部130及び制御部140の機能及び構成については、図2を参照して上述しているため、詳細な説明は省略する。
まず、ステップS701で、内部通知部130によってコンテンツ情報がユーザに対して通知されている。具体的には、内部通知部130の表示画面にコンテンツ情報に含まれるコンテンツ画像が表示され、内部通知部130の音声出力機器によってコンテンツ情報に含まれるコンテンツ音声が出力されている。つまり、ステップS701に示す状態は、ユーザが作業を行っている状態である。
次に、ステップS703で、外部情報が検出されたかどうかが判断される。当該判断は、例えば外部情報検出部110から送信される外部情報に基づいて、必要度判断部141によって行われてよい。また、ここで言う外部情報が検出されたかどうかの判断は、外部情報検出部110によって検出される外部情報に変化が生じたかどうかの判断であってよい。外部情報が検出されていないと判断された場合には、外部情報が検出されたと判断されるまで、そのままコンテンツ情報の通知が続行される。外部情報が検出されたと判断された場合には、ステップS705に進む。
ステップS705では、内部情報取得部143によって内部情報が取得される。具体的には、内部情報取得部143から内部情報検出部120に対して内部情報を検出するように指令が出され、当該指令に基づいて内部情報検出部120によって検出された内部情報が、内部情報取得部143によって取得されてよい。ただし、後述するステップS707における必要度判断部141による必要度の判断処理において内部情報が用いられない場合には、ステップS705における処理は省略されてもよい。
次に、ステップS707で、必要度判断部141によって、外部情報及び/又は内部情報に基づいて、当該外部情報のユーザに対する通知の必要度が判断される。当該必要度は、上記[1−2.遮蔽型HMD装置の構成]で説明したように、「高」、「中」、「低」のようにいくつかの段階によって表現されてもよいし、スコアによって表現されてもよい。
次に、ステップS709で、通知状態制御部142によって、ステップS707で必要度判断部141によって判断された必要度に基づいて、内部通知部130における通知状態が制御される。具体的には、例えば、通知状態制御部142によって、上記[1−3.通知状態の具体例]で説明したような、必要度に基づく通知状態制御が行われる。
最後に、ステップS711で、ステップS709で制御された通知状態に基づいて、ユーザによって外部に対して各種の対応が取られる。具体的には、必要度が高い場合には、ユーザに対して外部情報が直ちに通知されるため、ユーザは遮蔽型HMD装置10越しに又は遮蔽型HMD装置10を外し、外部の人に対してコミュニケーションを取ろうとすることができる。また、必要度が中である場合には、ユーザに対して外部情報が段階的に通知されるため、ユーザは、すぐに外部の人に対してコミュニケーションを取ろうとしたり、ある程度自分の作業を優先させてから外部の人に対してコミュニケーションを取ろうとしたりと、状況に応じて対応を選択することができる。更に、必要度が低い場合には、ユーザに対して外部情報がそのままは通知されず、外部情報が検出されたことが通知されるため、ユーザは、すぐに外部の人に対してコミュニケーションを取ろうとしたり、外部の人を一旦無視して自分の作業を続行したりと、状況に応じて対応を選択することができる。
以上、図7を参照して、本開示の第1の実施形態に係る通知状態制御方法における処理手順について説明した。
<2.第2の実施形態>
次に、本開示の第2の実施形態について説明する。なお、本開示の第2の実施形態は、上記説明した第1の実施形態に対していくつかの機能及び構成が追加されたものに対応する。従って、以下の第2の実施形態についての説明では、第1の実施形態との相違点について主に説明することとし、第1の実施形態と重複する機能及び構成については詳細な説明は省略する。
[2−1.遮蔽型HMD装置の外観]
まず、図8A及び図8Bを参照して、本開示の第2の実施形態に係る遮蔽型HMD装置の一外観例について説明する。図8A及び図8Bは、本開示の第2の実施形態に係る遮蔽型HMD装置の一外観例を示す斜視図である。
図8Aは、第2の実施形態に係る遮蔽型HMD装置20を外部側から見た様子を示す斜視図である。また、図8Bは、第2の実施形態に係る遮蔽型HMD装置20を内部側から見た様子を示す斜視図である。図8A及び図8Bを参照すると、遮蔽型HMD装置20は、本体部210及びバンド部320とを備える。ここで、図8A及び図8Bに示す遮蔽型HMD装置20は、図1A及び図1Bに示す遮蔽型HMD装置10に対して、本体部210のゴーグル状の部位の外部に外部表示部315が追加され、本体部210に設けられる制御部(図示せず。)の機能が変更されたものに対応している。従って、遮蔽型HMD装置20の本体部210に設けられるカメラ311、マイクロホン312、内部表示部313a、313b及び視線センサ部314a、314b並びにバンド部320の機能及び構成は、図1A及び図1Bを参照して説明した遮蔽型HMD装置10におけるこれらの部材の機能及び構成と同様であるため、詳細な説明は省略する。
図8Aを参照すると、本体部210のゴーグル状の部位の外部と対する面には、外部に向けて各種の情報を視覚的に提示する外部表示部315が設けられる。図8Aに示すように、外部表示部315は外部に面した表示画面を有し、各種の情報を、画像、テキスト、グラフ、表等、様々な形式で当該表示画面に表示し、外部に対して視覚的に提示する。ただし、外部表示部315は各種の情報を視覚的に提示できればよく、外部表示部315の形態は図8Aに示すような表示画面を有する形態に限定されない。例えば、外部表示部315はLED(Light Emitting Diode)等の1つ又は複数のランプであってもよく、当該ランプが異なる色で発光する、異なる速度で点滅する、異なる明度で発光する、所定のランプだけが発光する等の、ランプの駆動によって情報を提示してもよい。また、図8A及び図8Bには図示しないが、遮蔽型HMD装置20は、外部に対して各種の情報を聴覚的に提示するスピーカ装置等の音声出力部を有してもよい。
以上、図8A及び図8Bを参照して、本開示の第2の実施形態に係る遮蔽型HMD装置20の一外観例について説明した。以上説明したように、第2の実施形態に係る遮蔽型HMD装置20は、第1の実施形態に係る遮蔽型HMD装置10の構成に加えて、外部表示部315や音声出力部等の、外部に対して各種の情報を提示する構成を有する。ここで、第2の実施形態においては、第1の実施形態と同様、本体部210に設けられた制御部によって、検出された外部情報に基づいて、当該外部情報をユーザに対して通知する通知状態が切り換えられる。ユーザに情報を通知するとは、当該情報を内部表示部313a、313bの表示画面に画像として表示させたり、当該情報を音声出力部から音声として出力したりして、ユーザに対して視覚的、聴覚的に当該情報を通知することであってよい。更に、第2の実施形態においては、ユーザに対する外部情報の通知状態に基づいて、ユーザの当該外部情報への反応を示す情報(以下、ユーザ反応情報とも呼称する。)をユーザの外部に対して提示する提示状態が切り換えられる。ユーザの外部に対して情報を提示するとは、当該情報を外部表示部315の表示画面に画像として表示させたり、当該情報を音声出力部から音声として外部に向けて出力したりして、ユーザの外部に対して視覚的、聴覚的に当該情報を提示することであってよい。
このように、第2の実施形態に係る遮蔽型HMD装置20は、ユーザ反応情報の外部に対する提示状態を制御する、提示状態制御装置であるとも言える。以下の説明では、遮蔽型HMD装置20が行う提示状態制御における一連の処理のことを提示状態制御処理と呼称する。また、以下の説明では、遮蔽型HMD装置20において提示状態制御処理における各種の情報処理が行われることから、遮蔽型HMD装置20のことを情報処理装置20とも呼称する。
[2−2.遮蔽型HMD装置の構成]
次に、図9を参照して、本開示の第2の実施形態に係る遮蔽型HMD装置20の構成について説明する。図9は、本開示の第2の実施形態に係る遮蔽型HMD装置20の一構成例を示す機能ブロック図である。図9を参照すると、第2の実施形態に係る遮蔽型HMD装置20は、外部情報検出部110、内部情報検出部120、内部通知部130、外部提示部250及び制御部240を備える。なお、遮蔽型HMD装置20の構成のうち、外部情報検出部110、内部情報検出部120及び内部通知部130の機能及び構成については、図2を参照して説明した第1の実施形態に係る遮蔽型HMD装置10の外部情報検出部110、内部情報検出部120及び内部通知部130の機能及び構成と同様であるため、詳細な説明は省略する。以下の遮蔽型HMD装置20の構成についての説明では、第1の実施形態に係る遮蔽型HMD装置10との相違点である外部提示部250及び制御部240の機能及び構成について主に説明する。
外部提示部250は、制御部240によってその駆動が制御され、ユーザの外部情報への反応を示す情報をユーザの外部に対して提示する。ここで、外部に対する情報の提示とは、視覚的な提示及び聴覚的な提示を含む。例えば、外部提示部250は表示画面を有し、ユーザ反応情報を、画像、テキスト、グラフ、表等、様々な形式で当該表示画面に表示し、ユーザの外部に対して視覚的に提示する。また、外部提示部250はスピーカ等の音声出力機器を有し、ユーザ反応情報を当該音声出力機器から音声として出力し、ユーザの外部に対して聴覚的に提示する。このように、外部提示部250は、ユーザ反応情報を表示画面に表示する表示部としての機能と、ユーザ反応情報を音声として出力する音声出力部としての機能を有してもよい。なお、外部提示部250の表示部としての構成は、図8Aに示す外部表示部315に対応する構成であり、その表示画面は、ユーザに装着された際にユーザの眼前に位置するとともに、外部に対する面に設けられる。
制御部240は、遮蔽型HMD装置20を統合的に制御するとともに、本実施形態に係る提示状態制御処理における各種の情報処理を行う。以下、制御部240の機能及び構成について詳しく説明する。
制御部240は、必要度判断部141、通知状態制御部142、内部情報取得部143、知覚度判断部244及び提示状態制御部245を有する。なお、遮蔽型HMD装置20の制御部240の構成のうち、必要度判断部141、通知状態制御部142及び内部情報取得部143の機能及び構成については、図2を参照して説明した第1の実施形態に係る遮蔽型HMD装置10の制御部140の必要度判断部141、通知状態制御部142及び内部情報取得部143の機能及び構成と同様である。つまり、第2の実施形態においては、第1の実施形態と同様に、必要度判断部141によって、ユーザの外部の状況を表す外部情報に基づいて当該外部情報をユーザに対して通知する必要度が判断され、通知状態制御部142によって、判断された必要度に基づいて当該外部情報のユーザに対する通知状態が切り換えられる。このように、第2の実施形態においても、ユーザに対して外部情報を通知する必要度が判断され、判断された必要度に基づいて当該外部情報の通知状態の制御が行われる。
従って、以下の遮蔽型HMD装置20の構成についての説明では、遮蔽型HMD装置20の制御部240の構成のうち、必要度判断部141、通知状態制御部142及び内部情報取得部143の機能及び構成については詳細な説明は省略し、第1の実施形態に係る遮蔽型HMD装置10との相違点である知覚度判断部244及び提示状態制御部245の機能及び構成について主に説明する。ただし、第2の実施形態においては、通知状態制御部142は、外部情報の通知状態についての情報を知覚度判断部244及び提示状態制御部245に送信する。また、第2の実施形態においては、内部情報取得部143は、取得した内部情報を必要度判断部141の他に、知覚度判断部244及び提示状態制御部245に送信してもよい。
知覚度判断部244は、通知状態制御部142によって切り換えられた通知状態及び内部情報取得部143によって取得された内部情報の少なくともいずれかに基づいて、ユーザの外部情報の知覚度を判断する。ユーザの外部情報の知覚度とは、ユーザが外部情報を知覚している度合いを表す指標である。例えば、ユーザに対する外部情報の通知状態が、図4A−図4Eに示すように、外部情報が直ちにユーザに通知されている状態であれば、内部通知部130によってユーザに対して外部情報が明示的に通知されているため、ユーザの当該外部情報に対する知覚度は比較的高いと考えられる。また、例えば、ユーザに対する外部情報の通知状態が、ユーザに対して外部情報が通知されていない状態、すなわち、内部通知部130によってユーザに対してコンテンツ情報しか通知されていない状態であれば、ユーザは当該外部情報を知覚していないと考えられるため、ユーザの当該外部情報に対する知覚度は極低いと判断できるはずである。このように、知覚度判断部244は、通知状態制御部142によって切り換えられたユーザに対する外部情報の通知状態に基づいて、ユーザの当該外部情報に対する知覚度を相対的に判断することができる。
また、知覚度判断部244が内部情報に基づいてユーザの外部情報に対する知覚度を判断する場合には、知覚度判断部244は、例えば、内部情報に含まれるユーザの生体情報や視線情報に基づいて、当該知覚度を判断することができる。例えば、視線情報として、ユーザの目が閉じられている旨の情報が検出された場合には、たとえ内部通知部130の表示画面に外部情報に含まれる外部画像が表示されていたとしても、ユーザは当該外部情報を知覚していない可能性が高いと考えられるため、知覚度判断部244は、ユーザの当該外部情報に対する知覚度は比較的低いと判断することができる。
また、例えば、図4B−図4Dのように、内部通知部130の表示画面510の一部領域に外部情報に含まれる外部画像が表示される場合には、視線情報に基づいて、ユーザの視線が内部通知部130の表示画面の中の当該外部画像が表示された領域に向けられているかどうかによって、ユーザの当該外部情報に対する知覚度が判断されてもよい。例えば、ユーザに対してコミュニケーションを取ろうとしている人物が外部画像に映り込んでいる場合であって、内部通知部130の表示画面510の一部領域に表示されている当該外部画像にユーザが視線を向けていない場合には、ユーザは自分に対してコミュニケーションを取ろうとしている人物がいることは認識できていても、その人物が誰なのかまでは認識できていないと考えられる。従って、このような場合には、知覚度判断部244は、その外部情報に対するユーザの知覚度は相対的に低いと判断することができる。一方、ユーザに対してコミュニケーションを取ろうとしている人物が外部画像に映り込んでいる場合であって、内部通知部130の表示画面510の一部領域に表示されている当該外部画像にユーザが視線を向けている場合には、ユーザは自分に対してコミュニケーションを取ろうとしている人物がいることを認識するとともに、その人物が誰なのかまで認識できていると考えられる。従って、このような場合には、知覚度判断部244は、その外部情報に対するユーザの知覚度は相対的に高いと判断することができる。
また、例えば、知覚度判断部244は、内部情報に含まれるコンテンツ情報に基づいて、当該知覚度を判断してもよい。具体的には、例えば、図5及び図6A−図6Cのように、外部情報が段階的に通知される又は外部情報が検出された旨の情報が通知される場合には、ユーザの生体情報及び/又はコンテンツ情報に基づいて当該コンテンツに対するユーザの没入度が判断され、当該没入度に基づいて、ユーザの外部情報に対する知覚度が判断されてもよい。例えば、コンテンツに対する没入度が高い場合であれば、外部情報が段階的に通知されている途中や外部情報が検出された旨の情報が通知されている状態では、ユーザはそれらの通知に気付いていない可能性があるため、知覚度判断部244は、ユーザの外部情報に対する知覚度は比較的低いと判断することができる。ここで、知覚度判断部244による没入度の判断は、上記[1−2.遮蔽型HMD装置の構成]で説明した必要度判断部141による没入度の判断と同様に、例えば、動き情報から取得されるユーザの姿勢(例えば頸部の傾き)や頭部の動き等についての情報や、生体情報から取得されるユーザの脈拍、心拍、視線情報等の情報、及び/又は、コンテンツ情報から取得される各シーンついての情報や「盛り上がり度」についての情報に基づいて、判断されてもよい。
なお、必要度判断部141による必要度の判断処理と同様、例えば通知状態及び内部情報の種類と知覚度とが対応付けられたテーブルが用意されており、知覚度判断部244は、当該テーブルを参照することにより知覚度を判断してもよい。また、例えば、通知状態及び内部情報の種類ごとに所定のスコアが付されており、知覚度判断部244は、当該スコアに基づいて知覚度を判断してもよい。
ユーザの外部情報に対する知覚度が、いくつかの段階として又はスコアとして判断されることにより、ユーザが外部情報を「知覚している」、「知覚していない」という2値的な状態だけでなく、例えば「外部情報が検出されたことは認識しているが当該外部情報の内容までは認識していない状態」といったような、より詳細なユーザの外部情報に対する知覚状態を表現することができる。
提示状態制御部245は、通知状態制御部142によって切り換えられた通知状態に基づいて、ユーザの外部情報への反応を示す情報をユーザの外部に対して提示する提示状態を切り換える。ここで、上述したように、外部に対してユーザ反応情報を提示するとは、ユーザ反応情報を外部提示部250の表示画面に画像として表示する又は外部提示部250の音声出力機器から音声として出力することにより、外部に対して視覚的又は聴覚的にユーザ反応情報を提示することであってよい。また、ユーザ反応情報には、ユーザが外部情報に反応しているかどうか、すなわち、ユーザが外部情報を認識しているかどうかについての情報も含まれる。
また、提示状態の制御とはユーザ反応情報の外部に対する提示状態を切り換える制御のことであってよい。例えば、図4A−図4E、図5及び図6A−図6Cに示したように、通知状態制御部142は、必要度に応じて異なる通知状態制御を行う。提示状態制御部245は、このような、必要度に応じた通知状態の違いに応じて、提示状態を制御してもよい。例えば、ユーザに対する外部情報の通知状態が、図4A−図4Eに示すように、外部情報が直ちにユーザに通知されている状態であれば、内部通知部130の表示画面によってユーザに対して外部情報に含まれる外部画像が明示的に通知されているため、提示状態制御部245は、ユーザが外部画像を見ている旨の情報を外部提示部250の表示画面に表示する。本実施形態においては、ユーザが外部画像を見ている旨の情報として、例えばユーザの目を模したパターンが外部提示部250の表示画面に表示されてもよい。
また、例えば、ユーザに対する外部情報の通知状態が、ユーザに対して外部情報が通知されていない状態であれば、ユーザは外部情報に含まれる外部画像を見ていないため、提示状態制御部245は、ユーザが外部画像を見ていない旨の情報を外部提示部250の表示画面に表示する。本実施形態においては、ユーザが外部画像を見ていない旨の情報として、例えばバツ印やその旨を表す文字列等が外部提示部250の表示画面に表示されてよい。このように、本実施形態においては、外部提示部250の表示画面に、ユーザが外部情報に含まれる外部画像を見ていることを表す情報又は見ていないことを表す情報が表示されるため、外部の人は、外部提示部250の表示画面を参照することにより、ユーザの外部情報に対する反応を認識することができる。
また、提示状態制御部245は、内部情報取得部143によって取得された内部情報に基づいて、提示状態を切り換えてもよい。具体的には、提示状態制御部245は、例えば内部情報に含まれるユーザの視線情報に基づいて提示状態を切り換えてもよい。例えば、上記のように、ユーザが外部画像を見ている旨の情報としてユーザの目を模したパターンが外部提示部250の表示画面に表示される場合には、提示状態制御部245は、視線情報に基づいて、目を模したパターンの表示をユーザの目の状態を表すように変更してもよい。例えば、ユーザのまぶたの状態に対応して、外部提示部250の表示画面における目を模したパターンの表示が、まぶたが上下するように(目が開閉するように)変化してもよい。また、例えば、外部提示部250の表示画面における目を模したパターンの表示が、ユーザの視線の変化に対応して変化してもよい。外部提示部250の表示画面における目を模したパターンの表示がユーザの視線の変化に対応して変化する場合には、ユーザが内部通知部130の表示画面に表示された外部画像に含まれる人物に対して視線を向けたとすると、外部提示部250の表示画面における目を模したパターンも、当該人物の方向に視線を向けるように表示される。このように、外部提示部250の表示画面に、ユーザの視線をトレースした表示がなされることにより、外部からユーザに対してコミュニケーションを取ろうとしている人は、ユーザの視線が自分の方を向いているかどうかを認識することができるため、ユーザが自分に気付いているかどうかを認識することができる。
なお、提示状態制御部245は、内部情報に含まれる他の情報、例えば視線情報以外のユーザ情報やコンテンツ情報に応じて提示状態を切り換えてもよい。例えば、提示状態制御部245は、ユーザの位置情報に基づいて、ユーザが自宅にいるか会社にいるかに応じて提示状態を切り換えてもよい。例えば、ユーザが自宅にいる場合は、ユーザに対してコミュニケーションを取ろうとする外部の人は家族や友人であると考えられるが、ユーザが会社にいる場合は、ユーザに対してコミュニケーションを取ろうとする外部の人は仕事上の付き合いがある上司や顧客等であると考えられる。従って、提示状態制御部245は、外部に対して同じ意味を表すユーザ反応情報であっても、自宅で提示する場合には外部の人が比較的親しみを感じるような表示を行ってもよい。
また、提示状態制御部245は、知覚度判断部244によって判断された知覚度に基づいて、提示状態を切り換えてもよい。例えば、上記のように、ユーザが外部画像を見ている旨の情報としてユーザの目を模したパターンが外部提示部250の表示画面に表示される場合には、提示状態制御部245は、知覚度に基づいて目を模したパターンの表示を変更してもよい。上述したように、知覚度によって、例えばユーザが外部情報に含まれる外部画像を「見ている(知覚している)」、「見ていない(知覚していない)」という2値的な状態だけでなく、「外部画像が表示されたことは認識しているが当該外部画像の内容までは認識していない状態」が表現され得る。例えば、知覚度が比較的高い場合には、ユーザが外部画像をきちんと認識していることを表すように、目を模したパターンが外部提示部250の表示画面に明瞭に表示されてもよい。一方、知覚度が比較的低い場合には、ユーザが外部画像をあまり認識していないことを表すように、外部提示部250の表示画面に何も表示されなくてもよい。また、例えば、知覚度が中程度である場合(上記「外部画像が表示されたことは認識しているが当該外部画像の内容までは認識していない状態」である場合)には、外部提示部250の表示画面に目を模したパターンがぼやけて表示される又は目を閉じたパターンが表示される等、知覚度が中間状態にある様子を表すような表示がされてもよい。このように、外部提示部250の表示画面に、ユーザの知覚度の度合いを反映した表示がなされることにより、外部からユーザに対してコミュニケーションを取ろうとしている人は、ユーザが自分を認識しているかどうかを知ることができる。
なお、提示状態制御部245による提示状態制御の具体例については、下記[2−3.提示状態の具体例]で詳しく説明する。また、通知状態制御部142による通知状態制御と提示状態制御部245による提示状態制御との関連性の具体例については、下記[2−4.通知状態及び提示状態の具体例]で詳しく説明する。
以上、図9を参照して、本開示の第2の実施形態に係る遮蔽型HMD装置20の一構成例について詳細に説明した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、制御部240については、その各構成要素の機能をCPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。なお、遮蔽型HMD装置20のハードウェア構成については、下記<3.ハードウェア構成>で詳しく説明する。
以上、図9を参照して説明したように、第2の実施形態においては、提示状態制御部245によって、通知状態制御部142によって切り換えられた外部情報のユーザに対する通知状態に基づいて、ユーザの当該外部情報への反応を示す情報をユーザの外部に対して提示する提示状態が切り換えられる。従って、第2の実施形態においては、第1の実施形態によって得られる効果に加えて以下の効果を得ることができる。すなわち、第2の実施形態においては、外部の人に対して、ユーザの外部情報に対する反応が提示されるため、外部の人はユーザが外部情報(例えば、自分がユーザとコミュニケーションを取ろうとしていること)に気付いているかどうかといったユーザの状態を認識することができ、ユーザの状態に応じた適切な対応を取ることができる。従って、ユーザと外部の人とのより円滑なコミュニケーションが実現される。
また、第2の実施形態においては、知覚度判断部244によって、通知状態制御部142によって切り換えられた外部情報のユーザに対する通知状態及び内部情報取得部143によって取得された内部情報の少なくともいずれかに基づいて、ユーザの外部情報に対する知覚度が判断される。そして、提示状態制御部245は、内部情報及び知覚度の少なくともいずれかに基づいて、ユーザの当該外部情報への反応を示す情報をユーザの外部に対して提示する提示状態を切り換えてもよい。このように、提示状態に、例えば視線情報等のユーザの状態を表す情報や、ユーザの外部情報に対する知覚度が反映されることにより、外部の人は、ユーザが外部情報に気付いているかどうかだけでなく、ユーザの視線やユーザが外部情報に気付いている度合い等のより詳細なユーザの状態を認識することができるため、ユーザと外部の人とのコミュニケーションをより円滑なものとすることができる。
なお、提示状態制御部245による外部提示部250の提示状態制御においては、外部提示部250における提示状態は、通知状態、知覚度及び/又は内部情報に基づいて制御されるとともに、ユーザによる操作入力により、適宜切り換えられてもよい。つまり、ユーザから提示状態制御部245に対して適宜指令が入力されることにより、外部提示部250の表示画面における表示及び音声出力機器からの出力は変更されてよい。なお、提示状態制御を切り換えるためのユーザによる操作入力は、例えばボタンやスイッチにより行われてもよいし、図9に示す外部情報検出部110のカメラに向かって所定のジェスチャを行うことにより行われてもよい。
なお、上記では、提示状態制御部245が、外部提示部250の表示画面にユーザの目を模したパターンを表示させることにより、外部に対するユーザ反応情報の提示状態を切り換える場合について説明したが、本実施形態はかかる例に限定されない。例えば、提示状態制御部245は、外部提示部250の表示画面に文字や記号等のより直接的なメッセージを表示してもよいし、目以外の他のパターンを表示してもよい。また、外部提示部250の表示部が表示画面ではなくランプ等を有する場合には、当該ランプの駆動を制御することにより、ユーザ反応情報の外部に対する提示状態が切り換えられてもよい。
また、上記では、提示状態制御部245が、外部提示部250の表示画面の表示を制御することにより、外部に対するユーザ反応情報の提示状態を切り換える場合について説明したが、本実施形態はかかる例に限定されない。例えば、提示状態制御部245は、外部提示部250の音声出力機器の出力を制御することにより外部に対する提示状態を切り換えてもよい。例えば、通知状態、知覚度及び/又は内部情報に基づいて、外部提示部250の音声出力機器からユーザの外部情報への反応を示す音声が出力されてもよい。当該音声は、人(例えばユーザ)の声であってもよいし、ブザーやアラーム等の音であってもよい。外部の人は、これらの外部提示部250の音声出力機器から出力される音声を聞くことにより、ユーザの状態を認識することができる。
また、図9に示す例では、遮蔽型HMD装置20は、外部情報検出部110、内部情報検出部120、内部通知部130、外部提示部250及び制御部240を備えているが、本実施形態はかかる例に限定されない。例えば、遮蔽型HMD装置20は、ユーザが各種の情報を入力するための入力部、遮蔽型HMD装置20において処理される各種の情報を記憶するための記憶部、外部の他の機器と相互に各種の情報を送受信するための通信部等の構成を更に有してもよい。また、遮蔽型HMD装置20は1台の装置によって構成されなくてもよく、遮蔽型HMD装置20が備える各機能は、任意に複数の装置に分離されて構成されてもよい。例えば、ユーザに装着される装置には外部情報検出部110、内部情報検出部120、内部通知部130及び外部提示部250のみが搭載され、制御部240は他の装置、例えば、ユーザが所有するスマートフォンやタブレットPC、及び他の場所に設置されたサーバ等の任意の情報処理装置に搭載され、ユーザに装着される装置と制御部240が搭載された情報処理装置とが、任意の通信網(ネットワーク)を介して相互に各種の情報を送受信することにより、以上説明した遮蔽型HMD装置20における各種の処理が行われてもよい。
[2−3.提示状態の具体例]
次に、図10A、図10B、図11、図12A及び図12Bを参照して、提示状態制御部245による提示状態制御の具体例について詳しく説明する。なお、以下の提示状態制御の具体例についての説明では、提示状態制御部245が外部提示部250の表示画面の表示を制御することにより、提示状態が切り換えられる場合を例に挙げて説明を行う。また、図10A、図10B、図11、図12A及び図12Bでは、第2の実施形態に係る遮蔽型HMD装置20を装着したヒト600を正面から見た様子を図示している。
まず、図10A及び図10Bを参照して、ユーザに対して外部情報が通知されていない状態における、提示状態制御部245による外部提示部250の表示画面の制御について説明する。図10A、図10Bは、ユーザに対して外部情報が通知されていない状態における、提示状態制御部245による外部提示部250の表示画面の制御の一具体例について説明するための説明図である。なお、ユーザに対して外部情報が通知されていない状態とは、例えば、図2及び図9に示す必要度判断部141によって、外部情報を通知する必要度が低いと判断された場合に対応している。
図10Aを参照すると、遮蔽型HMD装置20の外部に面した表示画面610には、横方向のラインが表示されている。なお、表示画面610は、図9に示す外部提示部250の表示画面に対応している。このように、外部情報が検出されたにもかかわらずユーザに対して当該外部情報が通知されていない場合には、表示画面610に横方向のラインが表示されることにより、ユーザに対して外部情報が通知されていない旨が外部に対して提示されてよい。例えば、外部情報が外部の人がユーザに対して近付いてきた旨の情報である場合、近付いてきた当該外部の人は、ユーザがまだ自分に気付いていないことを認識することができるため、例えばユーザに対して特定のジェスチャを行う等、更なるアクションを取ることにより、ユーザに対して自分がコミュニケーションを取りたいという外部情報を通知させることができる。
また、図10Bを参照すると、遮蔽型HMD装置20の外部に面した表示画面610には、「DO NOT DISTURB」の文字とともに禁止を表す記号が表示されている。このように、外部情報が検出されたにもかかわらず、ユーザに対して当該外部情報が通知されていない場合に、ユーザによる設定に応じて、作業に集中したい旨の情報が表示画面610に表示されてもよい。外部情報が外部の人がユーザに対して近付いてきた旨の情報である場合、近付いてきた当該外部の人は、ユーザがまだ自分に気付いていないこと及びユーザが作業に集中したがっていることを認識することができるため、急用でなければ機会を改めてユーザに対して接触を図る等、状況に応じた適切な対応を取ることができる。
以上、図10A及び図10Bを参照して説明したように、ユーザに対して外部情報が通知されていない状態には、外部に対する表示画面610に、図10Aに示す横方向のラインのような、ユーザが外部情報に気付いていない旨を表す表示がなされてもよい。更に、ユーザによる設定に応じて、図10Bに示すようにユーザが作業に集中したがっている旨の情報が表示画面610に表示されてもよい。
次に、図11を参照して、ユーザの視線情報に基づく提示状態制御部245による外部提示部250の表示画面の制御について説明する。図11は、ユーザの視線情報に基づく提示状態制御部245による外部提示部250の表示画面の制御の一具体例について説明するための説明図である。なお、図11では、ユーザに対して外部情報が通知されている状態であり、そのことを表す表示の一例として、図9に示す外部提示部250の表示画面に、ユーザの目を模したパターンが表示される場合について図示している。
図11を参照すると、遮蔽型HMD装置20の外部に面した表示画面610には、ユーザの目を模したパターンが表示されている。また、図11に示すように、当該目を模したパターンは、ユーザの視線に応じて動くように表示画面610における表示が変更される。これは、図9を参照して説明したように、提示状態制御部245が、内部情報に含まれるユーザの視線情報に基づいて、ユーザの視線の変化に応じて外部提示部250の表示画面における目を模したパターンの表示を制御することに対応している。このように、ユーザに対して外部情報が通知されている状態では、表示画面610に表示された目を模したパターンがユーザの視線に応じて動くように表示されてもよい。従って、表示画面610を視認した外部の人は、ユーザが自分が近付いてきたことに気付いているかどうかを認識することができるとともに、ユーザが自分を見ているかどうかを認識することができるため、ユーザとより円滑なコミュニケーションを取ることが可能となる。
また、図12A及び図12Bには、ユーザの視線情報に基づく提示状態制御部245による外部提示部250の表示画面の制御の他の具体例が図示されている。図12A及び図12Bは、ユーザの視線情報に基づく提示状態制御部245による外部提示部250の表示画面の制御の他の具体例について説明するための説明図である。図12Aを参照すると、遮蔽型HMD装置20の外部に面した表示画面610には、ユーザの目を模したパターンが表示されているが、目が閉じられていることを示すパターンが表示されている。また、図12Bを参照すると、表示画面610には、同じくユーザの目を模したパターンが表示されているが、瞬きを示すパターンが表示されている。このように、表示画面610には、ユーザの視線だけでなく、ユーザのまぶたの様子や目の開閉状態等、目の状態を表すあらゆる情報が表示されてよい。例えば、ユーザが涙を流している場合には、表示画面610にユーザが泣いている旨を表す情報が表示されてもよい。従って、外部に人は、ユーザの状態をより詳細に認識することができるため、ユーザとより円滑なコミュニケーションを取ることが可能となる。
以上、図11、図12A及び図12Bを参照して説明したように、外部に対する表示画面610には、ユーザの目の状態を表す各種の情報が表示されてよい。ここで、人同士の対面コミュニケーションにおいては、言葉によって得られる情報とともに、目の状態から得られる情報の重要性が指摘されている。例えば、相手の目が隠された状態で会話を行った場合には、相手の意思や考えを理解し難くなると言われている。従って、本実施形態のように、遮蔽型HMD装置20の外部に対する表示画面610にユーザの目の状態を表す情報を表示することにより、外部の人に対してユーザの意思や考えがより伝わりやすくなる。
[2−4.通知状態及び提示状態の具体例]
次に、図13及び図14を参照して、図9に示す通知状態制御部142による通知状態制御と提示状態制御部245による提示状態制御との関連性の具体例について説明する。図13及び図14は、通知状態制御部142による通知状態制御と提示状態制御部245による提示状態制御との関連性の具体例について説明するための説明図である。図13及び図14では、図の左側に図9に示す内部通知部130の表示画面が順に変化する様子を図示し、図の右側に内部通知部130の表示画面の変化に対応して外部提示部250の表示画面が順に変化する様子を図示している。また、図13は、一具体例として、図4Aに示した場合、すなわち、内部通知部130の表示画面510の表示及び音声出力機器からの出力が、コンテンツ画像520及びコンテンツ音声から外部画像530及び外部音声に切り換えられる場合を示している。また、図14は、一具体例として、図4Dに示した場合、すなわち、内部通知部130の表示画面510のコンテンツ画像520の表示の一部領域に外部画像530が重畳されて表示され、音声出力機器によってコンテンツ音声に外部音声が重畳して出力される場合を示している。
図13を参照すると、1段目では、内部通知部130の表示画面510にはコンテンツ画像が表示されており、内部通知部130の音声出力機器からはコンテンツ音声が出力されている。つまり、1段目に示す状態は、ユーザに対してコンテンツ情報が通知されている状態であり、ユーザが作業を行っている状態である。このように、1段目に示す状態では、外部情報が検出されておらず、ユーザに対して通知もされていない状態であるため、外部提示部250の表示画面610には何も表示されていない。
図13の2段目は、外部情報(例えば、外部の人がユーザに近付いてきた旨の情報)が検出され、内部通知部130の表示画面510の表示及び音声出力機器からの出力が、コンテンツ画像520及びコンテンツ音声から外部画像530及び外部音声に切り換えられる遷移状態を示している。このように、内部通知部130の表示画面510の表示が切り換えられるとき、表示画面510の表示が遷移することをユーザに対して示すために、表示画面510に何も表示されない状態が所定の時間設けられてもよい。ユーザは、表示画面510の表示が何も表示されない状態に切り換わることで、何らかの外部情報が検出されたことを認識することができる。また、2段目に示す状態は、ユーザにとっては、「外部情報が検出されたことは認識しているが当該外部情報の内容までは認識していない状態」である。従って、外部提示部250の表示画面610にはその旨を表す情報が表示されてよい。図13に示す例では、ユーザが「外部情報が検出されたことは認識しているが当該外部情報の内容までは認識していない状態」であることを表すために、図12Aに示したような目が閉じられたパターンが表示されている。このように表示画面610の表示が切り換わることで、ユーザに近付いてきた外部の人は、ユーザがまだ外部情報の内容までは認識していない状態であることを認識することができる。ただし、ユーザが「外部情報が検出されたことは認識しているが当該外部情報の内容までは認識していない状態」であることを表すための表示画面610の表示は、図13の2段目に示す例に限定されず、外部の人にその旨提示できれば他のパターンが表示されてもよい。
図13の3段目は、内部通知部130の表示画面510の表示及び音声出力機器からの出力が外部画像530及び外部音声に切り換えられた直後の状態を示している。このように表示画面510に外部画像530が表示されることにより、ユーザは外部の状況を認識することができる。また、外部提示部250の表示画面610には、ユーザが外部画像530を見ていることを示すために、ユーザの目を模したパターンが表示される。ただし、3段目に示す状態は、表示画面510の表示が外部画像530に切り換わった直後の状態であるため、ユーザは外部画像530の全体を見ており、外部画像530に含まれる人物に視線を向けてはいない。従って、表示画面610に表示される目を模したパターンは、ユーザの視線が正面を向いていることを示すように表示される。このように表示画面610の表示が切り換わることで、ユーザに近付いてきた外部の人は、ユーザが外部画像を見ていることを認識できるとともに、目を模したパターンの表示位置に基づいてユーザが自分の方を見ていないことを認識することができる。
図13の4段目は、内部通知部130の表示画面510の表示及び音声出力機器からの出力が外部画像530及び外部音声に切り換えられ、ユーザが近付いてきた外部の人物を認識した状態を示している。つまり、ユーザは、表示画面510に表示される外部画像530を視認することにより外部の人が近付いてきたことを認識し、外部画像530における当該人物に視線を向けている。外部提示部250の表示画面610には、ユーザが外部画像530を見ていることを示すためにユーザの目を模したパターンが表示されており、当該目を模したパターンは、ユーザの視線を表すように、近付いてきた外部の人の方向(図13に示す例ではユーザから見て右方向)を向いて表示される。このように表示画面610の表示が切り換わることで、ユーザに近付いてきた外部の人は、ユーザが自分の方を見ていることを認識することができる。
次に、図14を参照して、図9に示す通知状態制御部142による通知状態制御と提示状態制御部245による提示状態制御との関連性の他の具体例について説明する。
図14を参照すると、1段目に示す状態は、図13の1段目に示す状態と同様である。すなわち、1段目に示す状態は、ユーザに対してコンテンツ情報が通知されている状態であり、外部提示部250の表示画面610には何も表示されていない。
図14の2段目は、外部情報(例えば、外部の人がユーザに近付いてきた旨の情報)が検出され、内部通知部130の表示画面510のコンテンツ画像520の表示の一部領域に外部画像530が重畳されて表示されるとともに、音声出力機器によってコンテンツ音声に外部音声が重畳して出力された直後の状態を示している。2段目に示す状態は、ユーザに対して外部情報が通知された直後の状態であるため、ユーザにとっては、「外部情報が検出されたことは認識しているが当該外部情報の内容までは認識していない状態」である。従って、外部提示部250の表示画面610にはその旨を表す情報が表示されてよい。図14に示す例では、図13と同様、ユーザが「外部情報が検出されたことは認識しているが当該外部情報の内容までは認識していない状態」であることを表すために、図12Aに示したような目が閉じられたパターンが表示されている。このような外部提示部250の表示画面610の表示は、図9に示す提示状態制御部245によって、例えば外部情報が内部通知部130の表示画面510に表示されてから所定の時間表示されるように制御されてもよい。図14に示すように、内部通知部130の表示画面510にコンテンツ画像520及び外部画像530が両方表示される場合には、外部画像が内部通知部130の表示画面510に表示された瞬間には、ユーザはコンテンツ画像を参照しながら作業を続行しているため、当該外部画像530をすぐには視認することができず、当該外部画像530の内容を認識するために所定の時間を要すると考えられるからである。図14の2段目に示すように表示画面610の表示が切り換わることで、ユーザに近付いてきた外部の人は、ユーザが外部情報の内容までは認識していない状態であると認識することができる。ただし、ユーザが「外部情報が検出されたことは認識しているが当該外部情報の内容までは認識していない状態」であることを表すための表示画面610の表示は、図14の2段目に示す例に限定されず、外部の人にその旨提示できれば他のパターンが表示されてもよい。
図14の3段目は、内部通知部130の表示画面510のコンテンツ画像520の表示の一部領域に外部画像530が重畳されて表示されるとともに、音声出力機器によってコンテンツ音声に外部音声が重畳して出力されてから、所定の時間が経過した状態を示している。外部情報が内部通知部130の表示画面510に表示されてから所定の時間が経過しているため、ユーザは外部の状況を認識している状態にある。従って、外部提示部250の表示画面610には、ユーザが外部画像530を見ていることを示すために、ユーザの目を模したパターンが表示される。ただし、3段目に示す状態は、表示画面510の表示が外部画像530に切り換わってはいるものの、ユーザは外部画像530に含まれる人物に視線を向けてはいない。よって、表示画面610に表示される目を模したパターンは、ユーザの視線が正面を向いていることを示すように表示される。このように表示画面610の表示が切り換わることで、ユーザに近付いてきた外部の人は、ユーザが外部画像を見ていることを認識できるとともに、目を模したパターンの表示位置に基づいてユーザが自分の方を見ていないことを認識することができる。
図14の4段目は、図13の4段目に示す状態と同様の状態であり、内部通知部130の表示画面510の表示及び音声出力機器からの出力が外部画像530及び外部音声に切り換えられた状態を示している。また、ユーザは、表示画面510に表示される外部画像530を視認することにより外部の人が近づいてきたことを認識し、外部画像530における当該人物に視線を向けている。このとき、外部提示部250の表示画面610には、ユーザが外部画像530を見ていることを示すためにユーザの目を模したパターンが表示されており、当該目を模したパターンは、ユーザの視線を表すように、近付いてきた外部の人の方向(図14に示す例ではユーザから見て右方向)を向いて表示される。このように表示画面610の表示が切り換わることで、ユーザに近付いてきた外部の人は、ユーザが自分の方を見ていることを認識することができる。
以上、図13及び図14を参照して、図9に示す通知状態制御部142による通知状態制御と提示状態制御部245による提示状態制御との関連性の具体例について説明した。以上説明したように、第2の実施形態に係る遮蔽型HMD装置20では、内部通知部130の表示画面510の表示に連動して、外部提示部250の表示画面610にユーザの外部情報への反応を表す情報が表示される。また、表示画面610に表示される情報には、内部通知部130による通知状態、ユーザの外部情報に対する知覚度及び/又は内部情報が反映されている。従って、ユーザに対してコミュニケーションを取ろうとしている外部の人は、ユーザが自分が近づいてきたことを認識しているかどうか、認識している場合には自分の方を見ているかどうか、といった、外部情報に対するユーザの反応を詳細に認識することができる。従って、当該外部の人は、例えばユーザの視線が自分の方を向くまで待ってから話し掛ける等、コミュニケーションを取るために適切な対応を取ることができる。
なお、図13及び図14に示す表示画面510の表示及び表示画面610の表示は、必ずしもこれらの図に示す順番に変化する必要はなく、また、所定の時間が経過することによって変化しなくてもよい。表示画面510の表示及び表示画面610の表示は、ユーザによる操作入力により、適宜切り換えられてよい。例えば、図14に示す例であれば、表示画面510の表示及び表示画面610の表示は、3段目に示す状態でユーザに外部情報が通知された後、ユーザによる操作入力により、外部の人とのコミュニケーションに集中したい場合には4段目に示す状態に遷移してもよいし、作業を続行しながら外部の人とコミュニケーションを取りたい場合には3段目に示す状態のままで変化しなくてもよい。
また、第2の実施形態においては、通知状態制御部142による通知状態制御と提示状態制御部245による提示状態制御との関連性は、図13及び図14に示した例に限定されない。ユーザの外部情報に対する反応が、ユーザに対して外部情報が通知されているかどうか、通知されている場合にはその通知状態やユーザによる知覚度等に応じて外部に対して提示されればよく、その提示状態はマーク、文字、記号、音声等、あらゆる状態であってよい。また、どのような場合にどのような情報を提示するかは、ユーザによって適宜設定されてよい。つまり、特定の通知状態、知覚度及び内部情報に対して、外部に対して提示されるユーザ反応情報の種類及びその提示状態が、ユーザによって適宜設定可能であってよい。このように、ユーザは、提示状態制御について、状況に応じた詳細な設定を行うことができるため、ユーザの意思や志向をより円滑に外部の人に伝達することが可能となる。
なお、上記の図13及び図14の2段目に示す状態である、「ユーザが外部情報が検出されたことは認識しているが当該外部情報の内容までは認識していない状態」とは、例えば、上記のように外部情報が通知される際のコンテンツ情報からの遷移状態、外部情報が通知された直後の状態、図5に示す段階的に外部情報が通知されている状態、及び図6A−図6Cに示す外部情報が検出されたことを示す情報が通知されている状態等である。
[2−5.提示状態制御方法の処理手順]
次に、図15を参照して、本開示の第2の実施形態に係る提示状態制御方法における処理手順について説明する。図15は、本開示の第2の実施形態に係る提示状態制御方法における処理手順を示すフロー図である。なお、以下の提示状態制御方法の処理手順についての説明において、外部情報検出部110、内部情報検出部120、内部通知部130、外部提示部250及び制御部240の機能及び構成については、図9を参照して上述しているため、詳細な説明は省略する。また、図15におけるステップS801〜ステップS809での各処理は、図7に示す第1の実施形態に係る通知状態制御方法における処理手順のステップS701〜S709での各処理と同様であるため、以下の提示状態制御方法の処理手順についての説明においては、ステップS801〜ステップS809での各処理についての詳細な説明は省略する。
図15を参照すると、上述したように、ステップS801〜ステップS809において、図7に示す第1の実施形態に係る通知状態制御方法における処理手順のステップS701〜S709での各処理と同様の処理が行われている。すなわち、ステップS809では、通知状態制御部142によって、必要度判断部141によって判断された必要度に基づいて、内部通知部130におけるユーザに対する外部情報の通知状態が制御されている。ただし、ステップS805における内部情報の取得処理は、ステップS807における必要度判断部141による必要度の判断処理、後述するステップS811における知覚度判断部244による知覚度の判断処理及び/又は後述するステップS813における提示状態制御部245による提示状態の制御処理において内部情報が用いられない場合には、省略されてもよい。ステップS809において外部情報の通知状態が制御されると、ステップS811に進む。
ステップS811では、知覚度判断部244によって、通知状態制御部142によって切り換えられた通知状態及び内部情報取得部143によって取得された内部情報の少なくともいずれかに基づいて、ユーザの外部情報の知覚度が判断される。ここで、上記[2−2.遮蔽型HMD装置の構成]で説明したように、ユーザの知覚度は、内部通知部130における外部情報の通知状態や、生体情報に含まれる視線情報等の情報に基づいて、いくつかの段階として又はスコアとして判断されてよい。なお、後述するステップS813における提示状態制御部245による提示状態の制御処理において知覚度が用いられない場合には、ステップS811における処理は省略されてもよい。
次に、ステップS813で、提示状態制御部245によって、通知状態制御部142によって切り換えられた通知状態に基づいて、ユーザの外部情報への反応を示す情報をユーザの外部に対して提示する提示状態が切り換えられる。また、提示状態制御部245による提示状態の切り換えは、ステップS805で取得される内部情報及び/又はステップS811で判断される知覚度に基づいて行われてもよい。また、提示状態制御部245による提示状態の切り換えは、例えば、上記[2−3.提示状態の具体例]及び[2−4.通知状態及び提示状態の具体例]で説明したように、ユーザの外部情報への反応を表す各種のマークや文字等が、外部に面した表示画面に表示されることによって行われてもよい。
最後に、ステップS815で、ステップS813で制御された提示状態に基づいて、外部の人によってユーザに対して各種の対応が取られる。具体的には、例えば、ユーザが外部情報を認識しているとともに外部の人を認識している旨の情報(例えば、外部の人に視線を向けている旨の情報)が提示されている場合には、外部の人はユーザに対して話し掛ける等のコミュニケーションを取ることができる。また、例えば、ユーザが外部情報を認識していない旨の情報が提示されている場合には、外部の人は、ユーザに対して手を振る等更なるアクションを行い、自分の存在を認識してもらってから話し掛ける等のコミュニケーションを取ることができる。このように、外部の人は、ステップS813で制御された提示状態に基づいて、状況に応じた適切な対応を選択することができる。
以上、図15を参照して、本開示の第2の実施形態に係る提示状態制御方法における処理手順について説明した。
<3.ハードウェア構成>
次に、図16を参照しながら、本開示の第1及び第2の実施形態に係る遮蔽型HMD装置10、20のハードウェア構成について、詳細に説明する。図16は、本開示の第1及び第2の実施形態に係る遮蔽型HMD装置10、20のハードウェア構成を説明するためのブロック図である。
遮蔽型HMD装置10、20は、主に、CPU901と、ROM903と、RAM905と、を備える。また、遮蔽型HMD装置10、20は、更に、ホストバス907、ブリッジ909、外部バス911、インターフェース913、センサ装置914、入力装置915、出力装置917、ストレージ装置919、ドライブ921、接続ポート923及び通信装置925を備える。
CPU901は、演算処理装置及び制御装置として機能し、ROM903、RAM905、ストレージ装置919、またはリムーバブル記録媒体927に記録された各種プログラムに従って、遮蔽型HMD装置10、20内の動作全般又はその一部を制御する。ROM903は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM905は、CPU901が使用するプログラムや、プログラムの実行において適宜変化するパラメータ等を一次記憶する。これらはCPUバス等の内部バスにより構成されるホストバス907により相互に接続されている。CPU901は、第1及び第2の実施形態においては、例えば、図2及び図9に示す制御部140、240に対応している。
ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。また、外部バス911には、インターフェース913を介してセンサ装置914、入力装置915、出力装置917、ストレージ装置919、ドライブ921、接続ポート923及び通信装置925が接続される。
センサ装置914は、ユーザの動きを検出するセンサや、現在位置を表す情報を取得するセンサ、ユーザの生体情報を検出するセンサ等の検出手段である。かかるセンサの一例として、加速度センサ、重力検知センサ、落下検出センサ等を含む3軸加速度センサ、角速度センサ、手振れ補正センサ、地磁気センサ等を含む3軸ジャイロセンサ等のモーションセンサ、GPSセンサ、脈拍センサや心拍センサ等を挙げることができる。また、センサ装置914は、上述のもの以外にも、温度計、照度計、湿度計、気圧計等の様々な測定機器を備えていてもよい。センサ装置914は、第1及び第2の実施形態においては、例えば、図2及び図9に示す内部情報検出部120に対応している。より具体的には、センサ装置914には、例えば図1A、図1B、図8A及び図8Bに示す視線センサ部314a、314bが含まれる。
入力装置915は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ及びレバー等ユーザが操作する操作手段である。また、入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール手段(いわゆる、リモコン)であってもよいし、遮蔽型HMD装置10、20の操作に対応した携帯電話やPDA等の外部接続機器929であってもよい。さらに、入力装置915は、例えば、上記の操作手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などから構成されている。遮蔽型HMD装置10、20のユーザは、この入力装置915を操作することにより、遮蔽型HMD装置10、20に対して各種のデータを入力したり処理動作を指示したりすることができる。第1及び第2の実施形態においては、例えば、入力装置915を介したユーザによる操作入力により、図2及び図9に示す通知状態制御部142及び提示状態制御部245によって、内部通知部130及び外部提示部250の表示及び音声出力が制御されてよい。
出力装置917は、取得した情報をユーザに対して視覚的又は聴覚的に通知することが可能な装置で構成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ(LCD:Liquid Crystal Display)装置、プラズマディスプレイ装置、有機ELディスプレイ(OELD:Organic Electro−Luminescence Display)装置、無機ELディスプレイ(IELD:Inorganic Electro−Luminescence Display)装置及びランプ(例えばLED(Light Emitting Diode))等の表示装置や、スピーカ、イヤホン及びヘッドホン等の音声出力装置や、プリンタ装置、携帯電話、ファクシミリ等がある。出力装置917は、例えば、遮蔽型HMD装置10、20が行った各種処理により得られた結果を出力する。具体的には、上記表示装置は、遮蔽型HMD装置10、20が行った各種処理により得られた結果を、テキスト、イメージ等様々な形式で表示する。当該表示装置は、第1及び第2の実施形態においては、例えば、図2及び図9に示す内部通知部130及び外部提示部250における表示部の構成に対応している。より具体的には、当該表示装置は、例えば図1A、図1B、図8A及び図8Bに示す内部表示部313a、313b及び外部表示部315に対応している。また、上記音声出力装置は、再生された音声データや音響データ等からなるオーディオ信号をアナログ信号に変換して出力する。当該音声出力装置は、第1及び第2の実施形態においては、例えば、図2及び図9に示す内部通知部130及び外部提示部250における音声出力部の構成に対応している。また、出力装置917には、イヤホン及びヘッドホン等の音声出力装置を接続するためのイヤホンジャックが設けられてもよい。
ストレージ装置919は、遮蔽型HMD装置10、20の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置919は、例えば、HDD(Hard Disk Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等により構成される。このストレージ装置919は、CPU901が実行するプログラムや各種データ及び外部から取得した各種データ等を格納する。ストレージ装置919は、第1及び第2の実施形態においては、通知状態制御処理及び提示状態制御処理において処理される各種の情報を記憶することができる。
ドライブ921は、記録媒体用リーダライタであり、遮蔽型HMD装置10、20に内蔵、あるいは外付けされる。ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク又は半導体メモリ等のリムーバブル記録媒体927に記録されている情報を読み出して、RAM905に出力する。また、ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク又は半導体メモリ等のリムーバブル記録媒体927に記録を書き込むことも可能である。リムーバブル記録媒体927は、例えば、DVDメディア、HD−DVDメディア、Blu−ray(登録商標)メディア等である。また、リムーバブル記録媒体927は、コンパクトフラッシュ(登録商標)(CompactFlash:CF)、フラッシュメモリ又はSDメモリカード(Secure Digital memory card)等であってもよい。また、リムーバブル記録媒体927は、例えば、非接触型ICチップを搭載したICカード(Integrated Circuit card)または電子機器等であってもよい。ドライブ921は、第1及び第2の実施形態においては、通知状態制御処理及び提示状態制御処理において処理される各種の情報の、各種のリムーバブル記録媒体927への書き込み及び読み出しを行う。
接続ポート923は、機器を遮蔽型HMD装置10、20に直接接続するためのポートである。接続ポート923の一例として、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポート等がある。接続ポート923の別の例として、RS−232Cポート、光オーディオ端子、HDMI(登録商標)(High−Definition Multimedia Interface)ポート等がある。この接続ポート923に外部接続機器929を接続することで、遮蔽型HMD装置10、20は、外部接続機器929から直接各種データを取得したり、外部接続機器929に各種データを提供したりする。第1及び第2の実施形態においては、遮蔽型HMD装置10、20は、接続ポート923を介して、通知状態制御処理及び提示状態制御処理において処理される各種の情報を、各種の外部接続機器929と相互に送受信することができる。
通信装置925は、例えば、通信網(ネットワーク)931に接続するための通信デバイス等で構成された通信インターフェースである。通信装置925は、例えば、有線又は無線LAN(Local Area Network)、Bluetooth(登録商標)、又はWUSB(Wireless USB)用の通信カード等である。また、通信装置925は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ又は各種通信用のモデム等であってもよい。また、通信装置925における通信方式(規格)には、例えば、3G(第3世代移動通信システム)、LTE(Long Term Evolution)、Wi−Fi(Wireless Fidelity)、FeliCa(登録商標)やNFC(Near Field Communication)等、あらゆる通信方式が適用されてよい。通信装置925は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。また、通信装置925に接続される通信網931は、有線又は無線によって接続されたネットワーク等により構成され、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信又は衛星通信等であってもよい。第1及び第2の実施形態においては、通信装置925により、遮蔽型HMD装置10、20と各種の外部機器との間で、通知状態制御処理及び提示状態制御処理において処理される各種の情報が相互に送受信されてよい。例えば、通信装置925は、図2及び図9に示す外部情報検出部110に対応していてもよく、外部の人が所有する機器との間で相互に情報を送受信することができ、当該機器の機器情報を外部情報として受信することができる。
また、図16には図示しないが、遮蔽型HMD装置10、20は、以下の構成を備えてもよい。例えば、遮蔽型HMD装置10、20は、周囲の様子を画像として表す画像信号を取得する撮像装置や、周囲の様子を音声として表す音声信号を取得する録音装置等を備えてもよい。当該撮像装置及び当該録音装置は、第1及び第2の実施形態においては、例えば、図2及び図9に示す外部情報検出部110に対応している。より具体的には、当該撮像装置及び当該録音装置は、例えば、図1A、図1B、図8A及び図8Bに示すカメラ311及びマイクロホン312に対応している。また、遮蔽型HMD装置10、20は、遮蔽型HMD装置10、20における上記の各構成に電力を供給する電源装置(バッテリ装置)を備えてもよい。当該電源装置には、例えばリチウムイオン二次電池等の各種の二次電池が適用される。
以上、本開示の第1及び第2の実施形態に係る遮蔽型HMD装置10、20の機能を実現可能なハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
なお、上述のような第1及び第2の実施形態に係る遮蔽型HMD装置10、20の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。
<4.まとめ>
以上説明したように、本開示の第1及び第2の実施形態においては、以下の効果を得ることができる。
第1の実施形態においては、必要度判断部141によって、ユーザの外部の状況を表す外部情報に基づいて、当該外部情報をユーザに対して通知する必要度が判断される。また、通知状態制御部142によって、判断された必要度に基づいて、当該外部情報のユーザに対する通知状態が切り換えられる。このように、ユーザに対して外部情報を通知する必要度が判断され、判断された必要度に基づいて当該外部情報の通知が行われるため、ユーザは外部情報が検出されたことを認識できるとともに、その外部情報に対して適切な対応を取ることができ、外部の人とより円滑なコミュニケーションを取ることが可能となる。例えば、必要度が高い場合には、外部情報が直ちにユーザに対して通知されるため、ユーザは外部情報を直ちに認識し、ユーザに対してコミュニケーションを取ろうとしている外部の人に対して素早く応答することができる。また、必要度が中である又は低い場合には、外部情報が段階的にユーザに対して通知される又は外部情報が検出された旨の情報がユーザに対して通知されるため、ユーザは、そのとき行っている作業を優先させたり、作業を中断してすぐに外部に対して応答したり、状況に応じた対応を選択することができ、ユーザの利便性がより向上する。
また、第2の実施形態においては、第1の実施形態によって得られる効果に加えて以下の効果を得ることができる。
第2の実施形態においては、提示状態制御部245によって、通知状態制御部142によって切り換えられた外部情報のユーザに対する通知状態に基づいて、ユーザの当該外部情報への反応を示す情報をユーザの外部に対して提示する提示状態が切り換えられる。このように、外部の人に対して、ユーザの外部情報に対する反応が提示されるため、外部の人はユーザが外部情報(例えば、自分がユーザとコミュニケーションを取ろうとしていること)に気付いているかどうかといったユーザの状態を認識することができ、そのユーザの状態に応じた適切な対応を取ることができる。従って、ユーザと外部の人とのより円滑なコミュニケーションが実現される。
また、第2の実施形態においては、知覚度判断部244によって、通知状態制御部142によって切り換えられた外部情報のユーザに対する通知状態及び内部情報取得部143によって取得された内部情報の少なくともいずれかに基づいて、ユーザの外部情報に対する知覚度が判断される。そして、提示状態制御部245は、内部情報及び知覚度の少なくともいずれかに基づいて、ユーザの当該外部情報への反応を示す情報をユーザの外部に対して提示する提示状態を切り換えてもよい。このように、提示状態に、例えば視線情報等のユーザの状態を表す情報や、ユーザの外部情報に対する知覚度が反映されることにより、外部の人は、ユーザが外部情報に気付いているかどうかだけでなく、ユーザの視線やユーザが外部情報に気付いている度合い等のより詳細なユーザの状態を認識することができるため、ユーザと外部の人とのコミュニケーションをより円滑なものとすることができる。
また、第2の実施形態においては、ユーザの外部情報に対する反応として、ユーザの視線情報に基づいて、例えばユーザの目を模したパターンが外部に対して提示される。また、ユーザの外部情報に対する反応として、例えばユーザが作業を続けたい旨の情報が外部に対して提示される。従って、ユーザとコミュニケーションを取ろうとしている外部の人に対して、作業を続けたい、コミュニケーションを取りたい等のユーザの意思や感情を伝えることができる。
今後、遮蔽型HMD装置がより普及すれば、現在PCやスマートフォン等の情報処理装置において、机上又は手元の表示画面を参照して行われている作業が、遮蔽型HMD装置を装着して行われることが考えられる。本開示の第1の実施形態及び第2の実施形態によれば、遮蔽型HMD装置10、20を装着しているユーザ同士又は遮蔽型HMD装置10、20を装着しているユーザと外部の人とのより円滑な意思疎通が実現される。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)ユーザの外部の状況を表す外部情報に基づいて、前記外部情報をユーザに対して通知する必要度を判断する必要度判断部と、判断された必要度に基づいて、前記外部情報のユーザに対する通知状態を切り換える通知状態制御部と、を備える、情報処理装置。
(2)ユーザに関する情報である内部情報を取得する内部情報取得部、を更に備え、前記必要度判断部は、前記内部情報に基づいて前記必要度を判断する、前記(1)に記載の情報処理装置。
(3)前記内部情報は、ユーザの状態を表すユーザ情報を含み、前記必要度判断部は、前記ユーザ情報に基づいて前記必要度を判断する、前記(2)に記載の情報処理装置。
(4)前記ユーザ情報は、ユーザの動きを表す動き情報、ユーザの位置情報、ユーザの生体情報及びユーザの行動予定についての情報の少なくともいずれかを含む、前記(3)に記載の情報処理装置。
(5)前記内部情報は、前記外部情報以外の情報であってユーザに通知されている情報であるコンテンツ情報を含み、前記必要度判断部は、前記コンテンツ情報に基づいて前記必要度を判断する、前記(2)〜(4)のいずれか1項に記載の情報処理装置。
(6)前記コンテンツ情報は、ユーザに通知されている当該コンテンツのシーンについての情報を含む、前記(5)に記載の情報処理装置。
(7)前記必要度判断部は、前記内部情報に基づいて、前記外部情報以外の情報であってユーザに通知されている情報であるコンテンツ情報に対するユーザの没入度を判断し、当該没入度に更に基づいて前記必要度を判断する、前記(2)〜(6)のいずれか1項に記載の情報処理装置。
(8)前記通知状態制御部は、前記必要度を所定のしきい値と比較した結果に基づいて、前記外部情報のユーザに対する通知状態を切り換える、前記(1)〜(7)のいずれか1項に記載の情報処理装置。
(9)前記通知状態制御部は、前記必要度が第1のしきい値以上である場合又は前記必要度が第1のしきい値よりも大きい場合、前記外部情報をユーザに通知させる、前記(8)に記載の情報処理装置。
(10)前記外部情報は、ユーザの外部の状況を表す画像情報及び音声情報であり、前記通知状態制御部は、前記必要度が第1のしきい値以上である場合又は前記必要度が第1のしきい値よりも大きい場合、前記外部情報以外の情報であってユーザに通知されている情報であるコンテンツ情報に、前記画像情報及び前記音声情報を重畳させて通知させる、前記(9)に記載の情報処理装置。
(11)前記外部情報は、ユーザの外部の状況を表す画像情報及び音声情報であり、前記通知状態制御部は、前記必要度が第1のしきい値以上である場合又は前記必要度が第1のしきい値よりも大きい場合、前記外部情報以外の情報であってユーザに通知されている情報であるコンテンツ情報を、前記画像情報及び前記音声情報に切り換えて通知させる、前記(9)に記載の情報処理装置。
(12)前記必要度判断部は、前記外部情報に特定の情報が含まれる場合、前記必要度を前記第1のしきい値よりも大きく判断する、前記(9)〜(11)のいずれか1項に記載の情報処理装置。
(13)前記通知状態制御部は、前記必要度が前記第1のしきい値未満であり前記第1のしきい値よりも小さい第2のしきい値以上である場合、前記必要度が前記第1のしきい値以下であり前記第2のしきい値以上である場合、前記必要度が前記第1のしきい値未満であり前記第2のしきい値よりも大きい場合、又は前記必要度が前記第1のしきい値以下であり前記第2のしきい値よりも大きいである場合、前記外部情報を段階的にユーザに対して通知させる、前記(9)〜(12)のいずれか1項に記載の情報処理装置。
(14)前記外部情報は、ユーザの外部の状況を表す画像情報及び音声情報であり、前記通知状態制御部は、前記必要度が前記第1のしきい値未満であり前記第1のしきい値よりも小さい第2のしきい値以上である場合、前記必要度が前記第1のしきい値以下であり前記第2のしきい値以上である場合、前記必要度が前記第1のしきい値未満であり前記第2のしきい値よりも大きい場合、又は前記必要度が前記第1のしきい値以下であり前記第2のしきい値よりも大きいである場合、前記外部情報以外の情報であってユーザに通知されている情報であるコンテンツ情報に、前記音声情報を重畳させて通知させた後、前記画像情報を重畳させて通知させる、前記(13)に記載の情報処理装置。
(15)前記通知状態制御部は、前記必要度が前記第2のしきい値未満である場合又は前記必要度が前記第2のしきい値以下である場合、前記外部情報が検出されたことを表す所定の情報をユーザに対して通知させる、前記(13)又は(14)に記載の情報処理装置。
(16)前記外部情報は、ユーザの外部の状況を表す画像情報及び音声情報であり、前記通知状態制御部は、前記必要度が前記第2のしきい値未満である場合又は前記必要度が前記第2のしきい値以下である場合、前記外部情報以外の情報であってユーザに通知されている情報であるコンテンツ情報を通知させたまま、当該画像情報又は当該音声情報が検出されたことを表す所定の情報をユーザに対して通知させるとともに前記画像情報又は前記音声情報が検出された方向をユーザに対して通知させる、前記(15)に記載の情報処理装置。
(17)前記外部情報は、ユーザの外部の状況を画像によって表す画像情報、ユーザの外部の状況を音声によって表す音声情報及びユーザの外部の他の機器との間の通信によって取得される当該他の機器に関する機器情報の少なくともいずれかを含む、前記(1)〜(16)のいずれか1項に記載の情報処理装置。
(18)前記外部情報に含まれるユーザの外部の状況を表す画像又は前記外部情報が検出されたことを表す所定の画像をユーザに対して表示する表示画面を有し、ユーザに装着された際に当該表示画面がユーザの眼前に位置することによってユーザの外部に対する視界を遮蔽する内部表示部、を更に備え、前記外部情報は、ユーザの外部の状況を表す画像情報を少なくとも含み、前記通知状態制御部は、前記内部表示部の表示画面における表示を切り換えることにより、前記外部情報のユーザに対する通知状態を切り換える、前記(1)〜(17)のいずれか1項に記載の情報処理装置。
(19)ユーザの外部の状況を表す外部情報に基づいて、前記外部情報をユーザに対して通知する必要度を判断することと、判断された必要度に基づいて、前記外部情報のユーザに対する通知状態を切り換えることと、を含む、通知状態制御方法。
(20)コンピュータに、ユーザの外部の状況を表す外部情報に基づいて、前記外部情報をユーザに対して通知する必要度を判断する機能と、判断された必要度に基づいて、前記外部情報のユーザに対する通知状態を切り換える機能と、を実現させるためのプログラム。