以下、添付図面を参照しながら本発明の実施形態を詳細に説明する。なお、図面の説明において同一又は同等の要素には同一の符号を付し、重複する説明を省略する。
[第1実施形態]
第1実施形態では、ユーザ又はユーザ周辺に関する外部状態及びユーザの生体情報を取得し、外部状態に基づいて生体情報毎の信頼度を決定し、決定された信頼度と生体情報と生体情報に対応する内部状態が予め格納された内部状態判定情報とに基づいて内部状態を判定し、当該内部状態と当該内部状態に対応する外部状態及び生体情報とを関連付けてコンテクスト情報を生成するコンテクスト情報生成装置、及びコンテクスト情報生成方法について説明する。また、上記コンテクスト情報生成装置により生成されたコンテクスト情報を出力し、出力されたコンテクスト情報を記憶するコンテクスト情報記憶装置について説明する。
まず、図1を用いて、第1実施形態に係るコンテクスト情報記憶装置の全体構成について説明する。図1に示すコンテクスト情報記憶装置10は、コンテクスト情報生成装置100、データ出力部11、及びデータ記憶部12を備え、コンテクスト情報生成装置100は、外部状態取得部101、生体情報取得部102、信頼度決定部103、及び内部状態判定部104を備える。
次に、図2を用いて、コンテクスト情報記憶装置10のハードウェア構成について説明する。図2に示すように、コンテクスト情報記憶装置10は、オペレーティングシステム及びアプリケーションプログラム等を実行するCPU1と、ROM及びRAMで構成される主記憶部2と、ハードディスクメモリ等で構成される補助記憶部3と、データ通信を行う通信制御部4と、液晶モニタ等で構成される出力部5と、入力デバイスであるキーボード及びマウス等で構成される操作部6と、USBメモリ、CD−ROM、DVD等の記憶媒体8を読み取る記憶媒体読取部7とを備える。
図1に示すコンテクスト情報記憶装置10の各機能は、CPU1の制御の下で、主記憶部2に所定のソフトウェアプログラムを読み込ませて実行することにより実現される。その際、CPU1は、ソフトウェアプログラムの処理手順に従い、主記憶部2及び補助記憶部3におけるデータの読み出し及び書き込み動作を制御し、操作部6、出力部5及び通信制御部4の動作を制御する。
続いて、コンテクスト情報記憶装置10の各機能要素について説明する。
コンテクスト情報記憶装置10は、例えばユーザによって携帯される携帯通信端末である。コンテクスト情報記憶装置10は、上述の通り、コンテクスト情報生成装置100、データ出力部11、及びデータ記憶部12を備える。ただし、コンテクスト情報記憶装置10は携帯通信端末に限定されず、例えばカーナビゲーションシステム、ノートPC、デスクトップPC等であってもよい。
コンテクスト情報生成装置100は、上述の通り、外部状態取得部101、生体情報取得部102、信頼度決定部103、及び内部状態判定部104を備え、これらの機能要素によって、外部情報及び生体情報を取得し、生体情報毎の信頼度を決定し、ユーザの内部状態を判定し、当該内部状態と当該内部状態に対応する外部状態及び生体情報とを関連付けてコンテクスト情報を生成する。以下、各機能要素について詳細に説明する。
外部状態取得部101は、ユーザ又はユーザ周辺に関する外部状態を取得する外部状態取得手段である。「外部状態」とは、例えば、ユーザの位置(場所)及びユーザの動き(加速度)等のユーザ自身に関する状態、並びに気温等のユーザ周辺に関する状態を示す情報である。外部状態取得部101は、具体的には一又は複数の外部センサ(例えば、GPSセンサ、加速度センサ、及び温度センサ)を備えている。外部センサは、コンテクスト情報記憶装置10である携帯通信端末等に直接搭載されてもよいし、有線ケーブルによる有線通信及び無線通信(無線LAN、Bluetooth(登録商標)等)等によりコンテクスト情報記憶装置10である携帯通信端末等に通信可能なように接続されてもよい。
外部状態取得部101は、例えばGPSセンサがユーザの位置を測定し、加速度センサがユーザの動き(位置変化)を測定し、温度センサが気温を測定することによって、ユーザの位置及び加速度並びに気温を外部状態として取得する。ただし「外部状態」は上記に限定されない。例えば、家電消費電力、画面点灯、電池残量、カメラ起動履歴、ワンセグの視聴履歴、設定変更履歴、電話・メール等の通信履歴、及びアプリケーション起動履歴等、携帯通信端末等で取得可能な様々なデータを外部状態として用いることができる。
生体情報取得部102は、ユーザの生体情報を取得する生体情報取得手段である。「生体情報」とは、例えば、心拍及び脈拍等のユーザ自身の生体情報である。生体情報取得部102は、具体的には一又は複数の生体センサ(例えば、心拍センサ及び脈波センサ)を備えている。生体センサは、コンテクスト情報記憶装置10である携帯通信端末等に直接搭載されてもよいし、有線ケーブルによる有線通信及び無線通信(無線LAN、Bluetooth(登録商標)等)等によりコンテクスト情報記憶装置10である携帯通信端末等に通信可能なように接続されてもよい。
生体情報取得部102は、例えば心拍センサがユーザの心拍を測定し、脈波センサがユーザの脈波を測定することによって、ユーザの心拍及び脈波を生体情報として取得する。ただし「生体情報」は上記に限定されない。例えば、血圧、呼吸数、皮膚温度、皮膚電気活動、脳波、脳血流、及び発汗度等、生体情報を表す様々なデータを生体情報として用いることができる。
信頼度決定部103は、外部状態に基づいて、生体情報毎の信頼度を決定する信頼度決定手段である。「信頼度」とは、ユーザの内部状態を判定するに当たっての生体センサ又は生体情報の信頼度である。「信頼度」は、生体情報取得部102が備える生体センサの測定精度に対する信頼度(生体センサ自体に対する信頼度)と捉えてもよいし、生体センサにより測定された生体情報自体に対する信頼度と捉えてもよいし、これらの両方を包含するものとして捉えてもよい。
信頼度についての考え方について、外部状態取得部101が温度センサ及び加速度センサを備え、生体情報取得部102が発汗センサ、脳波センサ及び脈波センサを備え、これらのセンサにより取得した外部状態及び内部状態に基づいてユーザの内部状態(ここでは一例として「緊張の度合い」とする)を判定する場合を例として説明する。例えば、気温が所定値以上(又は所定値以下)の場合には、気温の影響を受けてユーザの発汗量が多くなる(又は少なくなる)ことが想定される。このように外部状態(気温)が生体情報(発汗度)に与える影響が大きいと考えられる場合には、ユーザの発汗量の多寡によってユーザの内部状態(緊張の度合い)を判定することが適切ではない場合がある。すなわち、気温が所定値以上(又は所定値以下)の場合には、ユーザの内部状態を判定するに当たって発汗センサの信頼度は低いと考えることができる。
また、加速度センサにより測定された加速度が大きい場合には、ユーザの動きの影響を受けてユーザの脳波や脈波に乱れが生じることが想定される。また、振動の影響を受けて脳波センサ又は脈波センサ自体の測定精度も低くなることも想定される。このように外部状態(加速度)が生体情報(脳波及び脈波)に与える影響が大きいと考えられる場合には、脳波又は脈波の値によってユーザの内部状態(緊張の度合い)を判定することが適切ではない場合がある。すなわち、加速度が所定値以上の場合には、ユーザの内部状態を判定するに当たって脳波センサや脈波センサの信頼度は低いと考えることができる。
上記の信頼度についての考え方を踏まえて、図3及び図4を用いて、信頼度決定部103の動作について説明する。図3は、信頼度決定部103の動作を示すフロー図である。図4は、信頼度決定部103が発汗センサの信頼度を調整するために用いる信頼度調整情報の例である。図4に示す表中の「差分」は、温度センサにより測定された気温から閾値(一例として25℃)を引いた値を示し、「信頼度(%)」は、差分に対応する生体情報(発汗度)の信頼度調整値を示す。
図3に示すように、信頼度決定部103は、まず外部状態取得部101が取得した外部状態(気温、加速度等)を取得する(ステップS31)。続いて、信頼度決定部103は、気温が閾値(25℃)以上であるか否かを判定し、閾値以上であれば発汗センサの信頼度を調整する(ステップS32,S33)。具体的には、信頼度決定部103は、図4に示す信頼度調整情報に基づいて信頼度を調整する。すなわち、信頼度決定部103は、例えば気温が32℃の場合には、閾値(25℃)との差分が「+7」となるため、当該差分に対応する信頼度調整「−50%」を行う。信頼度決定部103は、加速度についても同様の判定を行い、脳波センサ及び脈波センサの信頼度を調整する(ステップS34,S35)。信頼度決定部103は、外部状態取得部101により取得された全ての外部状態について、対応する生体情報(生体センサ)毎に信頼度調整を行い、最終的に決定された生体情報毎の信頼度を、後述する内部状態判定部104に出力する(ステップS36)。
各生体情報の信頼度の初期値については、サービス提供者が設定してもよいし、ユーザが設定してもよい。ユーザが信頼度の初期値を設定する方法は特に限定されないが、例えば、信頼度の初期値設定画面等において、予め用意されている行動パターン毎の設定値を選択する方法、及び行動パターンが類似する別のユーザの設定値データを読み込んで自身の設定として用いる方法が考えられる。
内部状態判定部104は、信頼度と、生体情報と、生体情報に対応する内部状態が予め格納された内部状態判定情報とに基づいてユーザの内部状態を判定し、当該内部状態を含むコンテクスト情報を生成する内部状態判定手段である。図5〜図7を用いて、内部状態判定部104の動作について説明する。図5は、内部状態判定部104による内部状態判定動作を示すフロー図である。図6は、内部状態判定情報の例である。図7は、内部状態判定部104による内部状態判定方法を説明するための説明図である。
図5に示すように、内部状態判定部104は、まず生体情報取得部102が取得した生体情報(脳波、脈波、発汗度等)及び図6に示すような内部状態判定情報を取得する(ステップS41)。続いて、内部状態判定部104は、生体情報毎に内部状態判定情報を用いて内部状態の判定(個別判定)を行う(ステップS42)。例えば、生体情報取得部102が取得した脳波が「10Hz」である場合には、内部状態判定部104は、図6に示す内部状態判定情報を参照することにより、脳波に基づくユーザの内部状態を「リラックス」と判定する。内部状態判定部104は、このような個別判定を全ての生体情報について行った後に、全ての生体情報を考慮した内部状態の判定(総合判定)を行う(ステップS43)。その後、内部状態判定部104は、ステップS42,S43における個別判定及び総合判定の結果としての内部状態をそれぞれ出力する。
図7を用いて、ステップS43における総合判定方法について説明する。図7に示す例では、信頼度決定部103が外部状態取得部101により取得された外部状態(気温32度、加速度0)に基づいて生体情報毎の信頼度を調整した結果、脳波及び脈波の信頼度は100%(信頼度調整値が0)とされ、発汗度の信頼度は50%(信頼度調整値が−50%)とされたことを示している。また、内部状態判定部104が内部状態判定情報に基づいて生体情報毎の内部状態を判定した結果、脳波及び脈波に基づくユーザの内部状態は「リラックス」と判定され、発汗度に基づくユーザの内部状態は「緊張」と判定されたことを示している。ここからの処理が、ステップS43における総合判定処理である。すなわち、内部状態判定部104は、脳波、脈波及び発汗度について決定された信頼度及び内部状態(個別判定結果)に基づいて、信頼度が最も高い生体情報(脳波及び脈波)に基づく内部状態判定結果(リラックス)を、総合判定結果とする。ただし、総合判定の方法は上記に限定されるものではない。例えば、内部状態判定部104は、信頼度が上位の生体情報に基づく内部状態(個別判定結果)を所定数抽出し、その中で最も多く判定された内部状態(個別判定結果)を総合判定結果としてもよい。
図7に示す例においては、内部状態判定部104は、判定された内部状態(脳波に基づく「リラックス」、脈波に基づく「リラックス」、発汗度に基づく「緊張」、及び総合判定結果としての「リラックス」)を含むコンテクスト情報を生成する。ここで、コンテクスト情報には、外部状態(気温32℃、加速度0)、生体情報(脳波、脈波、発汗度)、及び信頼度等の情報を関連付けてもよい。なお、コンテクスト情報の具体的なデータ構造は特に限定されない。コンテクスト情報は、例えば、上記の情報が全て含まれた1レコードからなる情報であってもよいし、互いに関連付けられた複数のレコードからなる情報であってもよい。
ここで、内部状態判定部104は、図5で示したように全ての生体情報について個別判定(ステップS42)を行ってもよいが、信頼度によるフィルタリング(例えば、信頼度が一定以下の生体情報についての個別判定を行わないように設定する等)を先に行うことにより、フィルタリングの条件に合わなかった生体情報についての個別判定を省略してもよい。
データ出力部11は、内部状態判定部104により生成されたコンテクスト情報を出力するデータ出力手段である。データ記憶部12は、データ出力部11により出力されたコンテクスト情報を記憶するデータ記憶手段である。
次に、図8を用いて、コンテクスト情報記憶装置10の動作について説明する。まず、外部状態取得部101は、外部センサでの測定により取得したユーザの位置及び動き等の外部状態を、当該外部状態を取得した時間情報と共にデータ記憶部12に送信する(ステップS101、外部状態取得ステップ)。データ記憶部12は、受信した外部状態及び時間情報を記憶する(ステップS102)。生体情報取得部102は、生体センサでの測定により取得した脈波及び脳波等のユーザの生体情報を、当該生体情報を取得した時間情報と共にデータ記憶部12に送信する(ステップS103、生体情報取得ステップ)。データ記憶部12は、受信した生体情報及び時間情報を記憶する(ステップS104)。
続いて、信頼度決定部103は、ステップS101〜104の処理により外部状態及び生体情報がデータ記憶部12に記憶された後、任意の時点において、データ記憶部12から外部状態及び信頼度調整情報を取得し(ステップS105,S106)、当該外部状態及び信頼度調整情報に基づいて生体情報毎の信頼度を決定する(ステップS107、信頼度決定ステップ)。続いて、信頼度決定部103は、ステップS106で取得した外部状態と、ステップS107で決定した信頼度とを内部状態判定部104に送信する(ステップS108)。
続いて、内部状態判定部104は、データ記憶部12から生体情報及び内部状態判定情報を取得し(ステップS109,S110)、当該生体情報及び内部状態判定情報と、ステップS108で受信した信頼度とに基づいて、内部状態の個別判定及び総合判定を行い、コンテクスト情報を生成する(ステップS111、内部状態判定ステップ)。続いて、内部状態判定部104は、生成したコンテクスト情報をデータ出力部11に送信する(ステップS112)。さらに、データ出力部11は、受信したコンテクスト情報をデータ記憶部12に送信する(ステップS113)。その後、データ記憶部12は、受信したコンテクスト情報を記憶する(ステップS114)。
以上のように、コンテクスト情報生成装置100によれば、外部状態取得部101(GPSセンサ、加速度センサ、温度センサ等の外部センサ)が、ユーザ又はユーザ周辺に関する外部状態(ユーザの位置、ユーザの動き、気温等)を取得し、生体情報取得部102(脈波センサ、脳波センサ、発汗センサ等の生体センサ)が、ユーザの生体情報(脈波、脳波、発汗度等)を取得し、信頼度決定部103が、取得された外部状態に基づいて生体情報毎の信頼度を決定し、内部状態判定部104が、当該信頼度と生体情報と内部状態判定情報とに基づいて内部状態(個別判定結果及び総合判定結果)を判定し、コンテクスト情報を生成する。これにより、測定された外部状態を用いて、より精度の高いユーザ状態(内部状態)の判定を行うと共に、判定された内部状態を含むコンテクスト情報を生成することができる。
また、コンテクスト情報記憶装置10によれば、コンテクスト情報生成装置100により生成されたコンテクスト情報を、他の情報システムに利用させたり、データベース等の記憶手段によって永続的に記憶させたりすることが可能になる。これにより、例えば、ユーザの生活記録(ライフログ)の管理及び他のアプリケーション(例えば、QOL(quality of life)向上を目的としたアプリケーション)での利用等に、コンテクスト情報を活用することができる。
[第2実施形態]
第2実施形態として、第1実施形態に係るコンテクスト情報記憶装置に含まれる機能を複数台(一例として2台)の装置で分散して提供するコンテクスト情報記憶装置について説明する。なお、以下の説明では、第1実施形態と同一の構成及び同一の処理内容については、詳細な説明を省略する。
まず、図9を用いて、第2実施形態に係るコンテクスト情報記憶装置の全体構成について説明する。図9に示すように、第2実施形態に係るコンテクスト情報記憶装置は、外部状態取得部201及び生体情報取得部202を備える情報取得装置20Aと、信頼度決定部203、内部状態判定部204、データ出力部21、及びデータ記憶部22を備える内部状態判定装置20Bとが、通信ネットワークNを介して通信可能な状態とされ、互いに連携して動作する構成となっている。上記構成においては、情報取得装置20A及び内部状態判定装置20Bを併せた部分(図9において破線で囲んだ部分)が、コンテクスト情報記憶装置20に相当し、情報取得装置20Aが備える外部状態取得部201及び生体情報取得部202と、内部状態判定装置20Bが備える信頼度決定部203及び内部状態判定部204とを併せた部分(図9において一点鎖線で囲んだ部分)が、コンテクスト情報生成装置200に相当する。また、通信ネットワークNは、有線又は無線に限定されず、例えば、インターネット網であってもよいし、USBケーブル等により装置同士を直接接続して通信を行う有線ネットワークであってもよく、無線LAN及びBluetooth(登録商標)等の無線通信により通信を行う無線ネットワークであってもよい。
情報取得装置20Aは、外部状態及び生体情報を取得し、取得した外部状態及び生体情報を、通信ネットワークNを介して内部状態判定装置20Bに送信する。内部状態判定装置20Bは、情報取得装置20Aから受信した外部状態及び生体情報に基づいて内部状態の判定及びコンテクスト情報の生成及び記憶を行う。ここで、情報取得装置20Aとしては、外部状態を取得するための外部センサ及び生体情報を取得するための生体センサを搭載し、ユーザによって携帯される携帯通信端末が主に想定されるが、これに限定されるものではない。また、内部状態判定装置20Bは、情報取得装置20Aと通信可能であればよく、例えば情報取得装置20Aと同様にユーザによって携帯される携帯通信端末であってもよいし、遠隔にあるデータセンタ等に設けられたデータベースサーバ等であってもよい。
次に、図10を用いて、情報取得装置20A及び内部状態判定装置20Bの動作について説明する。まず、外部状態取得部201は、外部センサでの測定により取得したユーザの位置及び動き等の外部状態を、当該外部状態を取得した時間情報と共に通信ネットワークNを介してデータ記憶部22に送信する(ステップS201、外部状態取得ステップ)。データ記憶部22は、受信した外部状態及び時間情報を記憶する(ステップS202)。生体情報取得部202は、生体センサでの測定により取得した脈波及び脳波等のユーザの生体情報を、当該生体情報を取得した時間情報と共に通信ネットワークNを介してデータ記憶部22に送信する(ステップS203、生体情報取得ステップ)。データ記憶部22は、受信した生体情報及び時間情報を記憶する(ステップS204)。
内部状態判定装置20BによるステップS205〜S214の処理内容及び処理順序は、図8に示す第1実施形態に係るコンテクスト情報記憶装置10によるステップS105〜S114の処理内容及び処理順序と同一であるため、ステップS205〜S214についての説明は省略する。
コンテクスト情報記憶装置20は、第1実施形態に係るコンテクスト情報記憶装置10を物理的に2台の機器に分散させた構成であるため、第1実施形態に係るコンテクスト情報記憶装置10と同様の効果を奏する。また、コンテクスト情報記憶装置20に含まれるコンテクスト情報生成装置200についても、第1実施形態に係るコンテクスト情報生成装置100と同様の効果を奏する。さらに、第2実施形態では複数の装置で機能を適切に分散できるため、装置の修理交換等のメンテナンス性の向上、及びユーザが携帯する端末の小型軽量化等を図ることができる。
なお、情報取得装置20Aは、図9に示すように1台の装置で構成されてもよく、複数台の装置で構成されてもよい。情報取得装置20Aを複数台で構成する場合には、装置毎に異なるセンサ(外部センサ又は生体センサ)を搭載してもよい。また、より精度高く外部状態又は生体情報を測定するために、同一の外部状態又は生体情報を測定するためのセンサを複数台の装置に搭載してもよい。
[第3実施形態]
第3実施形態として、外部状態に基づいてユーザが置かれている場面を判定し、当該場面に基づいて内部状態を判定し、コンテクスト情報を生成するコンテクスト情報生成装置、コンテクスト情報生成方法、及びコンテクスト情報記憶装置について説明する。なお、以下の説明では、第1実施形態と同一の構成及び同一の処理内容については、詳細な説明を省略する。
まず、図11を用いて、第3実施形態に係るコンテクスト情報記憶装置の全体構成について説明する。図11に示すコンテクスト情報記憶装置30は、コンテクスト情報生成装置300、データ出力部31、及びデータ記憶部32を備え、コンテクスト情報生成装置300は、外部状態取得部301、生体情報取得部302、場面判定部305、及び内部状態判定部304を備える。
場面判定部305は、外部状態に基づいて、ユーザが置かれている場面を判定する場面判定手段である。「場面」とは、例えば、静止状態及び歩行状態等のユーザの具体的な行動状況を示す。場面判定部305は、例えば外部状態取得部301が加速度センサを備える場合においては、加速度センサにより測定された加速度が0の場合には、場面を「静止」と判定し、加速度が所定範囲内の値を示した場合には、場面を「歩行」と判定する。ただし、上記は一例であり、場面判定部305は、その他様々な外部状態の組み合わせ等により、上記に示したもの以外の場面を判定してもよい。例えば、時間及び場所等の他の外部状態と組み合わせた情報(例えば、「15時頃に公園を歩行」)を「場面」としてもよい。
内部状態判定部304は、場面判定部305により判定された場面毎に、生体情報と内部状態判定情報とに基づいて内部状態を判定し、当該内部状態を含むコンテクスト情報を生成する内部状態判定手段である。内部状態判定部304は、例えば、場面判定部305により判定された場面が同一である複数時点における内部状態(総合判定結果)をひとまとめにし、その中で最も多く判定された内部状態(総合判定結果)を当該場面におけるユーザの内部状態と判定することができる。内部状態判定部304による場面判定方法について、図12を用いて説明する。
図12では、GPSセンサ及び加速度センサを備える外部状態取得部301により時間的に連続して外部状態(ユーザの位置及び加速度)が取得され、場面判定部305により、時間帯T1の場面が「公園を歩行」と判定され、時間帯T2の場面が「公園で座る」と判定されている。また、内部状態判定部304により、各時点における内部状態が算出されている。図12において棒状領域で示された内部状態は、各時点における内部状態を表したものである。ここで、内部状態判定部304による各時点における内部状態の判定方法は特に限定されない。例えば、単純に、同一時点における各生体情報に基づいて判定されたユーザの内部状態(個別判定結果)のうち最も多く判定されたものを当該時点における内部状態としてもよいし、コンテクスト情報生成装置300に第1実施形態に係る信頼度決定部103と同等の機能要素を備え、内部状態判定部304は当該機能要素により決定された生体情報毎の信頼度を用いることによりユーザの内部状態を判定するものとしてもよい。
続いて、内部状態判定部304は、場面毎に、当該場面に含まれる各時点において判定された内部状態のうち最も多く判定された内部状態を当該場面における内部状態と判定する。すなわち、内部状態判定部304は、時間帯T1の場面(公園を歩行)におけるユーザの内部状態として、当該場面において最も多く判定された「リラックス」を採用し、時間帯T2の場面(公園で座る)におけるユーザの内部状態として、当該場面において最も多く判定された「集中」を採用する。ただし、上記のように場面に含まれる各時点における内部状態のうち最も多い内部状態を当該場面における内部状態と判定する方法(多数決方式)は一例であり、内部状態判定部304は、上記以外の方法により場面毎の内部状態を判定してもよい。
内部状態判定部304は、場面毎の内部状態を判定した後、第1実施形態に係るコンテクスト情報記憶装置10と同様にコンテクスト情報を生成してもよいが、場面毎に特定した情報を適切に記憶するためには、当該コンテクスト情報に場面の情報を関連付けるのが好ましい。
次に、図13を用いて、コンテクスト情報記憶装置30の動作について説明する。まず、外部状態取得部301は、外部センサでの測定により取得したユーザの位置及び動き等の外部状態を、当該外部状態を取得した時間情報と共にデータ記憶部32に送信する(ステップS301、外部状態取得ステップ)。データ記憶部32は、受信した外部状態及び時間情報を記憶する(ステップS302)。同様に、生体情報取得部302は、生体センサでの測定により取得した脈波及び脳波等のユーザの生体情報を、当該生体情報を取得した時間情報と共にデータ記憶部32に送信する(ステップS303、生体情報取得ステップ)。データ記憶部32は、受信した生体情報及び時間情報を記憶する(ステップS304)。
続いて、場面判定部305は、ステップS301〜304の処理により外部状態及び生体情報がデータ記憶部32に記憶された後、任意の時点において、データ記憶部32から外部状態を取得し(ステップS305,S306)、当該外部状態に基づいて場面を判定する(ステップS307、場面判定ステップ)。続いて、場面判定部305は、ステップS306で取得した外部状態と、ステップS307で判定した場面とを内部状態判定部304に送信する(ステップS308)。
続いて、内部状態判定部304は、データ記憶部32から生体情報及び内部状態判定情報を取得し(ステップS309,S310)、当該生体情報及び内部状態判定情報と、ステップS308で受信した場面とに基づいて場面毎のユーザの内部状態を判定し、コンテクスト情報を生成する(ステップS311、内部状態判定ステップ)。続いて、内部状態判定部304は、生成したコンテクスト情報をデータ出力部31に送信する(ステップS312)。さらに、データ出力部31は、受信したコンテクスト情報をデータ記憶部32に送信する(ステップS313)。その後、データ記憶部32は、受信したコンテクスト情報を記憶する(ステップS314)。
以上のように、コンテクスト情報生成装置300によれば、外部状態取得部301(GPSセンサ、加速度センサ、温度センサ等)が、ユーザ又はユーザ周辺に関する外部状態(ユーザの位置、ユーザの動き、気温等)を取得し、生体情報取得部302(脈波センサ、脳波センサ、発汗センサ等)が、ユーザの生体情報(脈波、脳波、発汗度等)を取得し、場面判定部305が、取得された外部状態に基づいてユーザが置かれている場面(例えば、歩行中及び静止中等)を判定し、内部状態判定部304が、当該場面毎に、生体情報と内部状態判定情報とに基づいて内部状態(例えば集中状態及びリラックス状態等)を判定し、コンテクスト情報を生成する。これにより、測定された外部状態を用いて、より精度の高いユーザ状態(内部状態)の判定を行うと共に、判定された内部状態を含むコンテクスト情報を生成することができる。
また、コンテクスト情報記憶装置30によれば、コンテクスト情報記憶装置30に含まれるコンテクスト情報生成装置300により生成されたコンテクスト情報を、他の情報システムに出力したり、永続的に記憶したりすることができる。これにより、ユーザの生活記録(ライフログ)の管理及び他のアプリケーション(例えば、QOL向上を目的としたアプリケーション)での利用等に、コンテクスト情報を活用することができる。
[第4実施形態]
第4実施形態として、第1実施形態に係るコンテクスト情報記憶装置において、内部状態判定部により判定された内部状態と、当該内部状態に対応する外部状態とをユーザに提示し、正解値をユーザに入力させるユーザ提示部と、ユーザにより入力された正解値に基づいて内部状態判定部による内部状態の判定に関する学習を行う学習部と、学習部による学習結果を記憶する学習結果記憶部とを更に備える構成について説明する。なお、以下の説明では、第1実施形態と同一の構成及び同一の処理内容については、詳細な説明を省略する。
まず、図14を用いて、第4実施形態に係るコンテクスト情報記憶装置の全体構成について説明する。図14に示すコンテクスト情報記憶装置40は、コンテクスト情報生成装置400、データ出力部41、データ記憶部42、ユーザ提示部43、学習部44、及び学習結果記憶部45を備え、コンテクスト情報生成装置400は、外部状態取得部401、生体情報取得部402、信頼度決定部403、及び内部状態判定部404を備える。
ユーザ提示部43は、内部状態判定部404により判定された内部状態と、当該内部状態に対応する外部状態とをユーザに提示し、正解値をユーザに入力させるユーザ提示手段である。より具体的には、ユーザ提示部43は、例えば図15に示すような画面をコンテクスト情報記憶装置40が備える出力部5に出力する。図15は、ユーザ提示部43によりユーザに提示される画面の一例である。図15に示すように、ユーザ提示部43は、内部状態判定部404により判定された内部状態(リラックス)と、当該内部状態が判定された際の外部状態(ここでは一例として、日付、ユーザの位置情報から割り出した場所、時間、気温)とを出力すると共に、正解値をユーザに入力させるためのメッセージ「下記で間違いありませんか?」と、実際にユーザが入力するための登録ボタン「登録」と訂正ボタン「訂正する」とを出力する。ユーザ提示部43は、実際にユーザがリラックス状態であった場合、即ち、提示された情報が正解の場合には、ユーザに登録ボタンを選択させることにより提示された内部状態(リラックス)を正解値として入力させる。一方、実際にはユーザは緊張状態であった場合、即ち、提示された情報が誤りであった場合には、ユーザに訂正ボタンを選択させることにより、内部状態(緊張)を正解値として入力させる。
学習部44は、ユーザにより入力された正解値に基づいて内部状態判定部404による内部状態の判定に関する学習を行う学習手段である。より具体的には、学習部44は、ユーザにより入力された正解値に基づいて内部状態判定部404による内部状態の判定に用いられる信頼度調整情報又は内部状態判定情報の調整を行う。
学習部44による信頼度調整情報の調整について、図4に示す信頼度調整情報の例を用いて説明する。図4に示すように、温度センサにより測定された気温と閾値(25℃)との差分が「+6」の場合の信頼度調整値は「−30%」とされている。ここで、内部状態判定部404により判定される発汗度に基づく内部状態(個別判定結果)が「緊張」であるとする。このような場合において、上記信頼度調整値に基づいて発汗度の信頼度が調整されることにより、発汗度の信頼度が他の生体情報の信頼度と比較して低い値となってしまい、内部状態判定部404により判定される内部状態(総合判定結果)が「リラックス」となってしまうことが起こり得る。しかし、ユーザによって入力された正解値が「緊張」であった場合には、実際には、発汗度に基づく内部状態(個別判定結果)がユーザの内部状態と一致していたことがわかる。すなわち、ユーザの内部状態を判定するに当たっての発汗度の信頼度は、想定されていたよりも高かったことが事後的に判明する。従って、このような場合には、学習部44は、信頼度決定部403により決定される発汗度の信頼度がより高く設定されるように、上記差分が「+6」の場合の信頼度調整値を調整する(例えば「−20%」等に調整する)ことが好ましい。
次に、学習部44による内部状態判定情報の調整について、図6に示す内部状態判定情報の例を用いて説明する。図6に示すように、内部状態判定部404は、脳波が「8〜12Hz」である場合には、脳波に基づく内部状態(個別判定結果)を「リラックス」と判定し、脳波が「13〜15Hz」である場合には、脳波に基づく内部状態(個別判定結果)を「緊張気味」と判定する。しかし、脳波が「13Hz」と測定された場合において、ユーザによって入力された正解値が「リラックス」であった場合には、脳波が「13Hz」におけるユーザの内部状態として「リラックス」と判定されることが好ましいことがわかる。従って、このような場合には、学習部44は、脳波が「13Hz」である場合に「リラックス」と判定されるように内部状態判定情報を調整する(例えば、「8〜13Hz」である場合に「リラックス」と判定し、脳波が「14〜15Hz」である場合に「緊張気味」と判定されるように調整する)ことが好ましい。
なお、学習部44による学習のタイミングは特に限定されない。すなわち、学習部44は、ユーザにより正解値が入力させた直後に学習を行ってもよいし、例えばユーザにより入力された正解値を後述する学習結果記憶部45等に記憶させておき、後で学習結果記憶部45を参照することにより、学習を行ってもよい。
学習結果記憶部45は、学習部44による学習結果(調整後の内部状態判定情報又は信頼度調整情報)を記憶する学習結果記憶手段である。学習結果記憶部45は、図14に示すようにデータ記憶部42と同一であってもよく、別であってもよい。
次に、図16を用いて、コンテクスト情報記憶装置40の動作について説明する。外部状態取得部401、生体情報取得部402、信頼度決定部403、内部状態判定部404、データ出力部41、及びデータ記憶部42によるステップS401〜S414の処理内容及び処理順序は、図8に示す第1実施形態に係るコンテクスト情報記憶装置10によるステップS101〜S114の処理内容及び処理順序と同一であるため、ステップS401〜S414についての説明は省略する。
内部状態判定部404によるデータ出力部41へのコンテクスト情報送信(ステップS412)が完了した後、ユーザ提示部43は、データ出力部41から内部状態判定部404により判定された内部状態と、当該内部状態に対応する外部状態とを取得し(ステップS415,S416)、取得した情報をユーザが理解容易な表示形式(図15に示すような画面)に加工し、ユーザに提示する(ステップS417)。ユーザ提示部43により提示された画面上でユーザが入力した正解値は、ユーザ提示部43から学習部44に送信される(ステップS418)。
続いて、学習部44は、受信した正解値に基づいて学習を行う。すなわち、データ記憶部42から信頼度調整情報及び内部状態判定情報を取得し(ステップS419,S420)、信頼度調整情報及び内部状態判定情報の調整を行う(ステップS421)。学習部44は、ステップS421における学習結果(調整後の信頼度調整情報及び内部状態判定情報)を学習結果記憶部45に送信する(ステップS422)。その後、学習結果記憶部45は、受信した情報を記憶する(ステップS423)。
以上のように、コンテクスト情報記憶装置40によれば、学習部44が内部状態の判定に関する学習(信頼度調整情報及び内部状態判定情報の調整)を行うことにより、ユーザに合った適切な内部状態の判定を行うことができる。すなわち、ユーザの個人差まで考慮して、より精度の高いユーザ状態の判定を行うことができる。
[第5実施形態]
第5実施形態として、第4実施形態に係るコンテクスト情報記憶装置40に、更に類似情報提示手段を備える構成について説明する。なお、以下の説明では、第1実施形態と同一の構成及び同一の処理内容については、詳細な説明を省略する。
まず、図17を用いて、第5実施形態に係るコンテクスト情報記憶装置の全体構成について説明する。図17に示すコンテクスト情報記憶装置50は、コンテクスト情報生成装置500、データ出力部51、データ記憶部52、ユーザ提示部53、学習部54、学習結果記憶部55、及び類似情報提示部56を備え、コンテクスト情報生成装置500は、外部状態取得部501、生体情報取得部502、信頼度決定部503、及び内部状態判定部504を備える。
類似情報提示部56は、ユーザ提示部53により提示された内部状態と同一又は類似の内部状態と、ユーザ提示部53により提示された外部状態と同一又は類似の外部状態とが関連付けられたコンテクスト情報をデータ記憶部52から抽出し、当該コンテクスト情報に関連付けられた内部状態及び外部状態をユーザに提示し、正解値をユーザに入力させる類似情報提示手段である。図18を用いて、類似情報提示部56の動作について説明する。図18は、類似情報提示部56の動作を示すフロー図である。
図18に示すように、まず、類似情報提示部56は、ユーザ提示部53による提示及びユーザの入力が完了した後に、ユーザ提示部53により提示された情報を取得する(ステップS61)。続いて、類似情報提示部56は、データ記憶部52の参照によりコンテクスト情報を抽出し、当該コンテクスト情報に関連付けられた外部状態及び内部状態が、ユーザ提示部53により提示された内部状態及び外部状態と同一又は類似であるか否かを判定する(ステップS62,S63,S64)。外部状態又は内部状態において同一又は類似しない場合(ステップS63:NO、又は、ステップS64:NO)には、未判定のコンテクスト情報があるか否かを判定し(ステップS65)、未判定のコンテクスト情報がある場合(ステップS65:YES)には、未判定のコンテクスト情報について同様の判定を行う(ステップS62〜ステップS64)。未判定のコンテクスト情報がない場合(ステップS65:NO)には、処理を終了する。ユーザ提示部53により提示された内部状態及び外部状態と同一又は類似である内部状態及び外部状態と関連付けられたコンテクスト情報が見つかった場合(ステップS63:YES、ステップS64:YES)には、当該コンテクスト情報の内部状態及び外部状態をユーザに提示する(ステップS66)。
上記の「類似」について、外部状態及び内部状態のそれぞれについて説明する。外部状態については、類似情報提示部56は、例えば時間差、位置差、気温差等が予め定められた所定値以下である場合に「類似」すると判定することができる。また、内部状態については、類似情報提示部56は、例えば「緊張」と「やや緊張」等、内部状態判定情報において判定境界を挟んで隣接する内部状態同士を「類似」すると判定することができる。ただし、「類似」の基準は上記に限定されない。
以上のように、コンテクスト情報記憶装置50は、類似情報提示部56を備えることにより、既にデータ記憶部52に記憶されているコンテクスト情報のうち、内部状態判定部504により判定された状況と類似する状況に関する未学習のコンテクスト情報を抽出し、当該コンテクスト情報についてもユーザに正解値を入力させることができる。すなわち、学習部54は、第4実施形態における学習部44と同様にユーザ提示部53がユーザに入力させた正解値に基づく学習(信頼度調整情報及び内部状態判定情報の調整)を行うと共に、類似情報提示部56がユーザに入力させた正解値に基づく学習を併せて行うことができる。類似する状況同士は、通常正解値が一致すると考えられるため、正解値が何であるか思い出すためのユーザ負担はそれほど大きくならないことが期待できる。従って、このような構成によれば、ユーザ負担を抑えつつ、類似する状況について併せて学習を行うことで、効率のよい学習を行うことができる。
[第6実施形態]
第6実施形態として、第4実施形態に係るコンテクスト情報記憶装置40に、更にノイズ分析手段を備える構成について説明する。なお、以下の説明では、第1実施形態と同一の構成及び同一の処理内容については、詳細な説明を省略する。
まず、図19を用いて、第6実施形態に係るコンテクスト情報記憶装置の全体構成について説明する。図19に示すコンテクスト情報記憶装置60は、コンテクスト情報生成装置600、データ出力部61、データ記憶部62、ユーザ提示部63、学習部64、学習結果記憶部65、及びノイズ分析部67を備え、コンテクスト情報生成装置600は、外部状態取得部601、生体情報取得部602、信頼度決定部603、及び内部状態判定部604を備える。
ノイズ分析部67は、学習結果記憶部65を参照し、正解値に対応する内部状態に基づいて生体情報の測定におけるノイズを抽出し、当該ノイズの特徴を分析することにより生体情報の補正パラメータを算出し、当該補正パラメータを内部状態判定部604に通知するノイズ分析手段である。ここでいう「ノイズ」とは、内部状態判定部604による生体情報に基づく内部状態(個別判定結果)の判定において、正解値に対応する内部状態と判定されない生体情報が測定された箇所を意味する。図20を用いて、ノイズ分析部67の動作について説明する。図20は、ノイズ分析部67の動作を示すフロー図である。
図20に示すように、ノイズ分析部67は、学習結果記憶部65に記憶された情報(コンテクスト情報に正解値が関連付けられた情報)を参照することにより、生体情報のノイズを抽出する(ステップS71、ステップS72:YES)。ノイズ分析部67は、学習結果記憶部65に記憶された情報を複数参照することにより、それぞれのノイズの特徴を抽出し、特定の外部状態に対応する生体情報の補正パラメータを算出する(ステップS73)。
すなわち、ノイズ分析部67は、学習結果記憶部65に記憶された情報を複数参照することにより、例えば、外部状態が「気温が所定値以上、かつ、加速度が所定値以上」である場合において、心拍センサにより測定された心拍数のノイズ(正解値に対応する内部状態が「リラックス」であるが、心拍数が所定値以上の値を示すために内部状態判定部604により内部状態(個別判定結果)が「緊張」と判定されてしまう箇所)が発生する確率並びにノイズにおける測定値の平均及び分散等を算出することができる。ノイズ分析部67は、上記のような特定の外部状態におけるノイズの特徴(発生確率並びにノイズにおける測定値の平均及び分散等)を抽出することにより、ノイズが内部状態判定部604による内部状態の判定に対して与える影響を小さくするような補正パラメータを算出する。
より具体的には、ノイズ分析部67は、上記に述べたように学習結果記憶部65に記憶された情報を複数参照し、ノイズの抽出及びノイズの特徴分析を行うことにより、例えば、外部状態が「気温が所定値以上、かつ、加速度が所定値以上」であり(以下、「外部状態A」という。)、心拍数が所定値(例えば「200回/分」)以上の値を示す割合が所定値(例えば90%)以上であり、かつ、このような場合におけるノイズ(例えば、心拍数に基づく内部状態判定結果が「緊張」であるのに対して、正解値に対応する内部状態が「リラックス」である部分)の割合が所定値(例えば80%)以上であるというノイズの特徴を抽出することができる。これにより、ノイズ分析部67は、例えば、「外部状態Aの場合には、心拍数が200回/分以上の値を示す部分についてはノイズとみなし、心拍数に基づく内部状態をリラックスと判定できるように心拍数の測定値を所定値(例えば、内部状態がリラックスと判定される臨界値)に補正する」という情報を示す補正パラメータを算出する。
続いて、ノイズ分析部67は、ステップS73で算出した補正パラメータを内部状態判定部604に通知する(ステップS74)。補正パラメータを受け取った内部状態判定部604は、以後の内部状態の判定において、当該補正パラメータを用いて、生体情報の測定値の補正を行うことにより、ユーザが入力した正解値に対応する内部状態を判定することが可能となる。
以上のように、コンテクスト情報記憶装置60によれば、ノイズ分析部67を備えることにより、学習結果に基づいて内部状態判定部604がユーザに合った適切な判定を行うことができるように、生体情報の測定値を補正するための補正パラメータを得ることができ、内部状態判定部604が当該補正パラメータによる補正を行った上で内部状態の判定を行うことができるため、ユーザ状態の判定の精度をより高めることが期待できる。なお、コンテクスト情報記憶装置60は、第5実施形態において説明した類似情報提示部56を備える構成としてもよい。
[コンテクスト情報生成プログラムについて]
次に、図21を用いて、コンピュータを第1実施形態に係るコンテクスト情報生成装置100、及び第3実施形態に係るコンテクスト情報生成装置300として機能させるためのコンテクスト情報生成プログラムP100及びP300について説明する。
図21(a)は、コンピュータをコンテクスト情報生成装置100として機能させることができるコンテクスト情報生成プログラムP100のモジュールを示すブロック図である。図21(a)に示すように、コンテクスト情報生成プログラムP100は、外部状態取得モジュールP101、生体情報取得モジュールP102、信頼度決定モジュールP103、及び内部状態判定モジュールP104を備える。上記各モジュールが実行されることにより実現される機能は、上述したコンテクスト情報生成装置100において対応する外部状態取得部101、生体情報取得部102、信頼度決定部103、及び内部状態判定部104の機能と同様である。
図21(b)は、コンピュータをコンテクスト情報生成装置300として機能させることができるコンテクスト情報生成プログラムP300のモジュールを示すブロック図である。図21(b)に示すように、コンテクスト情報生成プログラムP300は、外部状態取得モジュールP301、生体情報取得モジュールP302、場面判定モジュールP305、及び内部状態判定モジュールP304を備える。上記各モジュールが実行されることにより実現される機能は、上述したコンテクスト情報生成装置300において対応する外部状態取得部301、生体情報取得部302、場面判定部305、及び内部状態判定部304の機能と同様である。
このように構成されたコンテクスト情報生成プログラムP100及びP300はそれぞれ、図2に示す記憶媒体8に記憶され、コンテクスト情報生成装置100又は300として用いられるコンピュータにより実行される。当該コンピュータは、記憶媒体8が記憶媒体読取部7に挿入されると、記憶媒体読取部7から記憶媒体8に格納されたコンテクスト情報生成プログラムP100又はP300にアクセス可能となり、コンテクスト情報生成プログラムP100及びP300を実行することによって、コンテクスト情報生成装置100又は300として動作することが可能となる。
コンテクスト情報生成プログラムP100及びP300はそれぞれ、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。この場合、コンテクスト情報生成装置100又は300として用いられるコンピュータは、通信制御部4によって受信したコンテクスト情報生成プログラムP100又はP300を主記憶部2に格納することにより、コンテクスト情報生成プログラムP100又はP300を実行することができる。
以上、本発明に係る実施形態について詳細に説明した。しかし、本発明は、上記実施形態に限定されるものではない。本発明は、その要旨を逸脱しない範囲において様々な変形が可能である。
例えば、コンテクスト情報記憶装置は、単一のユーザにより使用されるものでもよいし、複数ユーザにより共用されるものであってもよい。また、複数ユーザで使用する場合には、当該ユーザを含むグループを作成して用いてもよい。グループを設定することにより、複数ユーザで各種設定(信頼度の初期値等)を共有することができるためユーザ利便性の向上を図れる。また、グループに含まれるユーザの個人差があまり大きくない場合には、学習結果を共有することにより、効率的に学習を行うことができ、グループに含まれるユーザに合った適切な内部状態の判定を行うことができる。
また、外部状態取得部による外部状態又は生体情報取得部による生体情報の取得は、定期的に自動で行われてもよいし、ユーザが手動で行ってもよい。また、外部状態又は生体情報の取得設定を自動(定期的)とする場合における、自動取得する時間(時間間隔)及び取得動作を実行するための条件等については、ユーザが手動で設定してもよいし、サービス提供者が設定してもよい。
また、内部状態判定情報又は信頼度調整情報の設定値(閾値等)については、サービス提供者が設定してもよいし、ユーザが設定してもよい。また、内部状態判定情報については、本実施形態に係るコンテクスト情報記憶装置において示したように、データ記憶部が保持し、内部状態判定部が使用の都度データ記憶部を参照してもよいし、内部状態判定部側で保持してもよい。信頼度調整情報についても同様に、本実施形態に係るコンテクスト情報記憶装置において示したように、データ記憶部が保持し、信頼度決定部が使用の都度データ記憶部を参照してもよいし、信頼度決定部側で保持してもよい。