本発明に係る心理状態管理装置の実施形態について図面を参照して説明する。なお、可能な場合には、同一の部分には同一の符号を付して、重複する説明を省略する。
図1は、本実施形態に係る心理状態管理装置を含むシステムの装置構成を示す図である。図1に示されるように、心理状態管理装置10は通信ネットワークNを解して対象者の端末30A(30)及び管理者の端末30B(30)と通信可能に構成されている。
心理状態管理装置10は、対象者の心理状態を管理する装置である。具体的には、本実施形態の心理状態管理装置10は、例えば、教育機関及び企業等に例示される組織において、学習効率及び労働生産性等の向上のために、教師及び上司等の管理者が、生徒及び従業員等の心理状態を把握及び管理するために適用される装置である。
端末30は、管理者または対象者により操作される装置である。対象者の端末30Aは、後に詳述されるように、各種のセンサによるユーザの生体情報の検出、生体情報の心理状態管理装置10への送信、対象者による入力の受け付け及び受け付けた情報の心理状態管理装置10への送信並びに心理状態管理装置10から受信した情報の表示等を実施する。管理者の端末30Bは、心理状態管理装置10から受信した情報の提示等を実施する。端末30を構成する装置は限定されず、例えば高機能携帯電話機(スマートフォン)、携帯電話機及び携帯情報端末(PDA)などの携帯端末であってもよい。
図2は、第1実施形態の心理状態管理装置10の機能的構成を示すブロック図である。心理状態管理装置10は、機能的には、生体情報取得部11、心理状態推定部12、提示部13、妥当性評価取得部14、心理状態決定部15及び心理状態出力部16を含む。これらの各機能部11~16は、一つの装置(コンピュータ)に構成されてもよいし、複数の装置に分散されて構成されてもよい。
また、心理状態管理装置10は、心理状態記憶部20といった記憶手段にアクセス可能に構成されている。心理状態記憶部20は、後述されるように、心理状態決定部15により決定された各対象者の心理状態情報等を記憶している。心理状態記憶部20は、心理状態管理装置10内に構成されてもよいし、図2に示されるように、心理状態管理装置10の外部に、心理状態管理装置からアクセス可能な別の装置として構成されてもよい。
なお、図1及び図2に示す例では、心理状態管理装置10と端末30とは別の装置として示されているが、心理状態管理装置10の一部又は全ての機能部が端末30に構成されてもよい。
なお、図2に示したブロック図は、機能単位のブロックを示している。これらの機能ブロック(構成部)は、ハードウェア及びソフトウェアの少なくとも一方の任意の組み合わせによって実現される。また、各機能ブロックの実現方法は特に限定されない。すなわち、各機能ブロックは、物理的又は論理的に結合した1つの装置を用いて実現されてもよいし、物理的又は論理的に分離した2つ以上の装置を直接的又は間接的に(例えば、有線、無線などを用いて)接続し、これら複数の装置を用いて実現されてもよい。機能ブロックは、上記1つの装置又は上記複数の装置にソフトウェアを組み合わせて実現されてもよい。
機能には、判断、決定、判定、計算、算出、処理、導出、調査、探索、確認、受信、送信、出力、アクセス、解決、選択、選定、確立、比較、想定、期待、見做し、報知(broadcasting)、通知(notifying)、通信(communicating)、転送(forwarding)、構成(configuring)、再構成(reconfiguring)、割り当て(allocating、mapping)、割り振り(assigning)などがあるが、これらに限られない。たとえば、送信を機能させる機能ブロック(構成部)は、送信部(transmitting unit)や送信機(transmitter)と呼称される。いずれも、上述したとおり、実現方法は特に限定されない。
例えば、本発明の一実施の形態における心理状態管理装置10は、コンピュータとして機能してもよい。図3は、本実施形態に係る心理状態管理装置10のハードウェア構成の一例を示す図である。心理状態管理装置10は、物理的には、プロセッサ1001、メモリ1002、ストレージ1003、通信装置1004、入力装置1005、出力装置1006、バス1007などを含むコンピュータ装置として構成されてもよい。
なお、以下の説明では、「装置」という文言は、回路、デバイス、ユニットなどに読み替えることができる。心理状態管理装置10のハードウェア構成は、図に示した各装置を1つ又は複数含むように構成されてもよいし、一部の装置を含まずに構成されてもよい。
心理状態管理装置10における各機能は、プロセッサ1001、メモリ1002などのハードウェア上に所定のソフトウェア(プログラム)を読み込ませることで、プロセッサ1001が演算を行い、通信装置1004による通信や、メモリ1002及びストレージ1003におけるデータの読み出し及び/又は書き込みを制御することで実現される。
プロセッサ1001は、例えば、オペレーティングシステムを動作させてコンピュータ全体を制御する。プロセッサ1001は、周辺装置とのインターフェース、制御装置、演算装置、レジスタなどを含む中央処理装置(CPU:Central Processing Unit)で構成されてもよい。例えば、図2に示した各機能部11~16などは、プロセッサ1001で実現されてもよい。
また、プロセッサ1001は、プログラム(プログラムコード)、ソフトウェアモジュールやデータを、ストレージ1003及び/又は通信装置1004からメモリ1002に読み出し、これらに従って各種の処理を実行する。プログラムとしては、上述の実施の形態で説明した動作の少なくとも一部をコンピュータに実行させるプログラムが用いられる。例えば、心理状態管理装置10の各機能部11~16は、メモリ1002に格納され、プロセッサ1001で動作する制御プログラムによって実現されてもよい。上述の各種処理は、1つのプロセッサ1001で実行される旨を説明してきたが、2以上のプロセッサ1001により同時又は逐次に実行されてもよい。プロセッサ1001は、1以上のチップで実装されてもよい。なお、プログラムは、電気通信回線を介してネットワークから送信されても良い。
メモリ1002は、コンピュータ読み取り可能な記録媒体であり、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)、RAM(Random Access Memory)などの少なくとも1つで構成されてもよい。メモリ1002は、レジスタ、キャッシュ、メインメモリ(主記憶装置)などと呼ばれてもよい。メモリ1002は、本発明の一実施の形態に係る心理状態管理方法を実施するために実行可能なプログラム(プログラムコード)、ソフトウェアモジュールなどを保存することができる。
ストレージ1003は、コンピュータ読み取り可能な記録媒体であり、例えば、CD-ROM(Compact Disc ROM)などの光ディスク、ハードディスクドライブ、フレキシブルディスク、光磁気ディスク(例えば、コンパクトディスク、デジタル多用途ディスク、Blu-ray(登録商標)ディスク)、スマートカード、フラッシュメモリ(例えば、カード、スティック、キードライブ)、フロッピー(登録商標)ディスク、磁気ストリップなどの少なくとも1つで構成されてもよい。ストレージ1003は、補助記憶装置と呼ばれてもよい。上述の記憶媒体は、例えば、メモリ1002及び/又はストレージ1003を含むデータベース、サーバその他の適切な媒体であってもよい。
通信装置1004は、有線及び/又は無線ネットワークを介してコンピュータ間の通信を行うためのハードウェア(送受信デバイス)であり、例えばネットワークデバイス、ネットワークコントローラ、ネットワークカード、通信モジュールなどともいう。
入力装置1005は、外部からの入力を受け付ける入力デバイス(例えば、キーボード、マウス、マイクロフォン、スイッチ、ボタン、センサなど)である。出力装置1006は、外部への出力を実施する出力デバイス(例えば、ディスプレイ、スピーカー、LEDランプなど)である。なお、入力装置1005及び出力装置1006は、一体となった構成(例えば、タッチパネル)であってもよい。
また、プロセッサ1001やメモリ1002などの各装置は、情報を通信するためのバス1007で接続される。バス1007は、単一のバスで構成されてもよいし、装置間で異なるバスで構成されてもよい。
また、心理状態管理装置10は、マイクロプロセッサ、デジタル信号プロセッサ(DSP:Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field Programmable Gate Array)などのハードウェアを含んで構成されてもよく、当該ハードウェアにより、各機能ブロックの一部又は全てが実現されてもよい。例えば、プロセッサ1001は、これらのハードウェアの少なくとも1つで実装されてもよい。
再び図2を参照して、心理状態管理装置10の機能部を説明する。生体情報取得部11は、対象者の生体の状態を示す生体情報を対象者の端末30Aから取得する。生体情報は、端末30Aにおいて対象者から検知された事象に基づく所定の情報である。
生体情報は、音声情報、映像情報及びその他の検出情報の少なくともいずれか一つであることができる。音声情報は、対象者により発せられた音声を含み、例えば端末30Aに備えられたマイク等により検知されてもよい。映像情報は、対象者を撮像した映像を含み、例えば端末30Aに備えられたカメラ等により検知されてもよい。映像情報は、対象者の表情、目線及びしぐさ等の情報を含み得る。生体情報としてのその他の検出情報は、端末30Aに備えられた又は端末30Aの外部に設けられた各種のセンサにより検知された情報であって、例えば、対象者の心拍、体温、発汗、呼吸及び脳波等の情報であってもよい。
心理状態推定部12は、生体情報に基づいて対象者の心理状態を推定する。心理状態推定部12は、種々の既知の手法により、生体情報に基づいて心理状態を推定してもよい。一例として、心理状態推定部12は、機械学習により構築された推定モデルを用いて、心理状態を推定してもよい。具体的には、生体情報を定量化及びベクトル化した入力データと当該生体情報に対応する心理状態を表す正解データとのペアからなる学習データを用いて、生体情報と心理状態との関係を機械学習させることにより推定モデルが構築される。推定モデルは、例えば、ニューラルネットワークを含むモデルであってもよい。
機械学習に供される入力データは、例えば生体情報が音声情報である場合には、声の高さ及び音色等の音響的要素を定量化した数値であってもよく、発声されている音声をテキストとして認識した後の単語や文章であってもよい。生体情報が対象者の表情及びしぐさ等の映像情報である場合には、目や口などの特徴点の位置情報に対応する数値であり、生体情報が体温、心拍、脳波、発汗及び呼吸等である場合にはそれらに対応した各種センサで取得できる数値である。
図4は、心理状態推定部12により推定された心理状態を示す推定心理状態情報の一例を示す図である。図4に示される例では、推定心理状態情報は、心理状態の種類(感情の種類)を示す複数の指標項目、及び、各指標項目に該当する程度(確からしさ)を示す指標値を含む。具体的には、推定心理状態情報は、怒り、喜び、悲しみ、不安、興味及び興奮の6つの指標項目を含む。なお、推定心理状態情報は、図4に示される例に限定されず、例えば、集中度及び理解度といった指標項目を更に含んでもよいし、1つの指標値から構成されてもよい。
提示部13は、推定心理状態情報を対象者に提示する。具体的には、提示部13は、推定心理状態情報を対象者の端末30Aに送信し、端末30Aが備える表示装置に推定心理状態情報を表示させる。
妥当性評価取得部14は、推定心理状態情報の妥当性の評価を示す妥当性評価情報を取得する。妥当性評価情報は、推定心理状態情報の提示に応じて対象者により入力された情報である。具体的には、端末30Aにおいて対象者により入力された妥当性評価情報が、端末30Aから心理状態管理装置10に送信される。妥当性評価取得部14は、端末30Aから送信された妥当性評価情報を取得する。
図5は、端末30Aの表示装置において表示された表示画面の例を示す図であって、推定心理状態情報の提示及び妥当性評価情報の入力のための表示画面例を示す図である。
図5に示されるように、端末30Aは、提示部13から送信された推定心理情報を、符号f1に示されるように、所定の表示形式により表示画面D1に表示させる。また、端末30Aは、推定心理状態情報の妥当性の評価結果の対象者による入力を受け付けるための入力欄v1を、表示画面D1に表示させる。図5に示される例では、妥当性評価情報は、3段階の評価尺度(そうだ(YES)/まあそうだ(BASICALLY YES)/ちがう(NO))のいずれかの選択により入力される。
妥当性評価情報は、3段階のいずれかの入力には限定されず、「はい(YES)」又は「いいえ(NO)」の2値で入力されてもよいし、その他の入力態様であってもよい。また、図5に示される例では、推定心理状態情報の全体に対して一つの妥当性評価情報が入力されるが、この例には限定されず、例えば、推定心理状態情報を構成する複数の指標項目のそれぞれに対して妥当性評価情報が入力されることとしてもよい。
再び図2を参照して、心理状態決定部15は、推定心理状態情報及び妥当性評価情報に基づいて、対象者の心理状態を決定する。図6は、推定心理状態情報及び妥当性評価情報に基づく心理状態の決定の例を示す図である。図6に示す例では、心理状態決定部15は、推定心理状態情報f2に妥当性評価情報v2を適用して対象者の心理状態を決定し、決定された心理状態を示す心理状態情報f21~f23を出力する。
具体的には、妥当性評価情報v2が「そうだ」又は「まあそうだ」である場合には、心理状態決定部15は、心理状態情報の各指標項目の指標値が推定心理状態情報の各指標項目の指標値と等しくなるように心理状態情報f21,f22を生成する。また、妥当性評価情報v2が「ちがう」である場合には、心理状態情報の各指標項目の指標値が「NULL」となるように、心理状態情報f23を生成する。
なお、心理状態情報の生成は、図6に示された例に限定されず、心理状態決定部15は、妥当性評価情報に応じて異なる係数を推定心理状態情報の各各指標項目の指標値に乗じて、心理状態情報の指標値を算出してもよい。
心理状態決定部15は、心理状態情報の複数の指標項目の各指標値を変換して、一の指標値を生成及び出力してもよい。図7は、複数の指標項目からなる心理状態情報の変換の例を示す図である。
具体的には、図7に例示されるように、心理状態決定部15は、心理状態情報の複数の指標項目の各指標値f31に対して指標項目ごとに設定された係数c3を適用して加重平均を算出することにより、一の指標値f32を生成してもよい。心理状態決定部15は、このように算出された指標値f32を当該対象者の心理状態情報として出力してもよい。
また、心理状態決定部15は、対象者の心理状態を表すシンボルを判定及び出力してもよい。具体的には、心理状態決定部15は、指標値とシンボルとの関連付けt3を参照して、指標値f32に関連付けられたシンボルf33を抽出及び出力してもよい。
なお、図7は、心理状態決定部15による心理状態情報の変換の例であるが、この変換を推定心理状態情報に対して適用してもよい。即ち、心理状態推定部12が、複数の指標項目からなる推定心理状態情報を、図7に示した例と同様に変換して一の指標値を生成してもよいし、さらに、推定された心理状態を表すシンボルを一の指標値に基づいて抽出及び出力してもよい。
心理状態出力部16は、心理状態決定部15により決定された対象者の心理状態を示す心理状態情報を出力する。心理状態情報の出力の一態様として、心理状態出力部16は、心理状態情報を心理状態記憶部20に記憶させてもよい。図8は、心理状態記憶部20の構成及び記憶されている心理状態情報の例を示す図である。図8に示される例では、心理状態記憶部20は、心理状態の推定を実施した時刻、対象者のID、心理状態情報及び音声認識結果を関連付けて記憶している。図8の示される例における心理状態情報は、一の指標値を含むが、複数の指標項目及び指標値を含んでもよい。音声認識結果は、生体情報の一態様として生体情報取得部11により取得された音声情報の音声認識結果である。
また、心理状態情報の出力の一態様として、心理状態出力部16は、心理状態情報を管理者の端末30Bに送信し、送信した心理状態情報を表示させてもよい。図9は、管理者の端末30Bに出力された心理状態情報を表示する表示画面の例を示す図である。
図9に示されるように、表示画面D2は、心理状態出力部16により出力された各対象者の心理状態情報f4を表示する。図9に示される例では、心理状態情報f4は、対象者の心理状態を表すシンボルの態様を有する。また、表示画面D2は、心理状態の推定の根拠とされた音声情報の音声認識結果r4の表示を含んでもよい。また、表示画面D2は、各対象者の心理状態情報の時系列の遷移を示すグラフとして示される心理状態遷移情報f41を含んでもよい。
図10は、心理状態管理装置10における心理状態管理方法の処理内容を示すフローチャートである。
ステップS1において、生体情報取得部11は、対象者の生体の状態を示す生体情報を対象者の端末30Aから取得する。
ステップS2において、心理状態推定部12は、生体情報に基づいて対象者の心理状態を推定する。
ステップS3において、提示部13は、ステップS2において推定された、対象者の心理状態を示す推定心理状態情報を当該対象者に提示する。具体的には、提示部13は、推定心理状態情報を対象者の端末30Aに表示させる。
ステップS4において、妥当性評価取得部14は、推定心理状態情報の提示に応じて対象者により入力された妥当性評価情報を取得する。
ステップS5において、心理状態決定部15は、推定心理状態情報及び妥当性評価情報に基づいて、対象者の心理状態を決定する。
ステップS6において、心理状態出力部16は、心理状態決定部15により決定された対象者の心理状態を示す心理状態情報を出力する。心理状態出力部16は、心理状態情報を心理状態記憶部20に記憶させてもよいし、管理者の端末30Bに心理状態情報を表示させてもよい。
図11は、第2実施形態の心理状態管理装置10A(10)の機能的構成を示すブロック図である。心理状態管理装置10Aは、第1実施形態の心理状態管理装置10が備える機能部11~16に加えて、調整部17を備える。
調整部17は、推定心理状態に対する妥当性の評価の履歴に基づいて、推定心理状態情報を調整する。提示部13は、調整部17により調整された推定心理状態を対象者に提示する。
図12は、調整部17による推定心理状態情報の調整の一例を示す図である。推定心理状態情報の調整の一例として、調整部17は、推定心理状態情報に対する妥当性の評価の履歴に基づいて、調整パラメータを生成し、生成した調整パラメータを適用して前記推定心理状態情報を調整する。
調整部17は、心理状態推定部12により推定された一の対象者の推定心理状態情報f5を取得する。推定心理状態情報f5は、調整部17による調整前の推定心理状態情報である。推定心理状態情報f5は、心理状態の種類を示す複数の指標項目及び当該指標項目に該当する程度を示す指標値を含む。
調整部17は、当該対象者に関する、妥当性評価情報の履歴である妥当性評価履歴情報v5を取得する。妥当性評価履歴情報v5は、対象者ごとに集計された妥当性評価情報の履歴であって、具体的には、当該対象者により妥当性の評価「ちがう」が入力された累計回数Nを指標項目ごとに集計した情報である。累計回数Nが大きい指標項目は、当該対象者において誤推定されやすい指標項目である。なお、累計回数の算出は過去の一定期間を対象としてもよいことは自明である。
調整部17は、指標値の高さに対して妥当性が低いと評価された頻度が高い指標項目ほど、より低い指標値が推定されるような調整パラメータj5を生成する。具体的には、調整部17は、指標項目ごとに、例えば、(1.0-0.01×N)という数式により、各指標項目の調整パラメータを生成する。なお、調整パラメータの生成の方法は、この数式によるものに限定されない。なお、調整部17は、指標値の低さに対して妥当性が低いと評価された頻度が高い指標項目に対して、より高い指標値が推定されるような調整パラメータを生成してもよい。
調整部17は、調整前の推定心理状態情報f5の各指標値に、調整パラメータj5を指標項目ごとに乗じて、調整された推定心理状態情報f51を生成する。提示部13は、調整部17により調整された推定心理状態情報f51を対象者に提示する。
このように、推定心理状態情報が対象者ごとに調整されることにより、対象者ごとに最適化され妥当性がより向上された心理状態の推定結果を対象者に提示できる。
図13は、第3実施形態の心理状態管理装置10B(10)の機能的構成を示すブロック図である。心理状態管理装置10Bは、第1実施形態の心理状態管理装置10が備える機能部11~16に加えて、発話生成部18及び発話出力部19を備える。なお、心理状態管理装置10Bは、第2実施形態の心理状態管理装置10Aが有する調整部17を更に備えていてもよい。第3実施形態では、生体情報取得部11により取得される生体情報は、対象者により発せられた音声を表す音声情報を含む。
発話生成部18は、音声情報及び推定心理状態情報の少なくともいずれか一方に基づいて、対象者に対して出力する発話内容を示す発話情報を生成する。
発話出力部19は、発話情報により示される発話内容を所定の出力形式で出力する。発話内容を所定の出力形式は、例えば、音声出力またはテキスト表示であり、発話出力部19は、発話情報を端末30Aに送信し、端末30Aに発話内容を出力させる。
図14を参照しながら、発話情報の生成及び発話内容の出力について説明する。図14は、第3実施形態の心理状態管理装置10Bにおける心理状態管理方法の処理内容を示すフローチャートである。
ステップS11において、生体情報取得部11は、対象者の生体情報(音声情報)を取得する。ステップS12において、心理状態推定部12は、生体情報に基づいて心理状態を推定する。
ステップS13において、心理状態推定部12は、対象者からの音声の取得及び心理状態管理装置10からの発話の出力からなる対話を終了させるか否かを判定する。対話の終了条件は、音声情報からなる生体情報の所定回数が予め設定された所定回数に達した場合等であってもよいが、この例に限定されない。対話を終了させると判定された場合には、処理はステップS16に進む。一方、対話を終了させると判定されなかった場合には、処理はステップS14に進む。
ステップS14において、発話生成部18は、音声情報から認識される対象者の発話内容及び推定心理状態情報(ステップS12において推定)の少なくともいずれか一方に基づいて、対象者に対して出力する発話内容を示す発話情報を生成する。
発話情報の生成の一例として、発話生成部18は、キーワードと発話内容とが予め関連付けてられている第1対話シナリオを参照して、音声情報から抽出されたキーワードに関連付けられた発話内容を取得する。図15は、第1対話シナリオの例を示す図である。第1対話シナリオは、心理状態管理装置10Bの内部または外部に構成され発話生成部18からアクセス可能な記憶手段に予め設定及び記憶されている。図15に示されるように、第1対話シナリオでは、キーワードに1又は複数の発話内容が関連付けられている。
具体的には、発話生成部18は、生体情報の一態様として取得された音声情報に対して既知の手法のよる音声認識処理を実施して音声情報をテキスト化し、テキストから、第1対話シナリオに記憶されているキーワードの抽出を試みる。例えば、テキスト化された音声情報から、「学校」及び「楽しい」という2つのキーワードが抽出された場合には、発話生成部18は、第1対話シナリオから、発話内容「一番楽しかったのはどんなこと?」を取得し、取得した発話内容を示す発話情報を生成する。なお、第1対話シナリオにおいて、一つのキーワードに対して複数の発話内容が対応付けられている場合には、当該キーワードの抽出に応じて、複数の発話内容が順番に又はランダムに選択及び抽出されることとしてもよい。
また、発話情報の生成の他の例として、発話生成部18は、心理状態と発話内容とが予め関連付けられている第2対話シナリオを参照して、推定心理状態情報により示される心理状態に関連付けられた発話内容を取得する。図16は、第2対話シナリオの例を示す図である。第2対話シナリオは、心理状態管理装置10Bの内部または外部に構成され発話生成部18からアクセス可能な記憶手段に予め設定及び記憶されている。図16に示されるように、第2対話シナリオでは、推定心理状態情報の指標項目に1又は複数の発話内容が関連付けられている。
具体的には、発話生成部18は、ステップS12において心理状態推定部12により推定された対象者の心理状態を取得する。例えば、推定心理状態情報が複数の指標項目及び指標値を含む場合には、発話生成部18は、推定心理状態情報において指標値が最も大きい指標項目に係る心理状態を、対象者の心理状態として取得する。例えば、対象者の心理状態「怒り」が取得された場合には、発話生成部18は、第2対話シナリオから、発話内容「怒りを感じるよ。どうしたらスッキリするかな?」を取得し、取得した発話内容を示す発話情報を生成する。なお、第2対話シナリオにおいて、一つの心理状態に対して複数の発話内容が対応付けられている場合には、当該心理状態の取得に応じて、複数の発話内容が順番に又はランダムに選択及び抽出されることとしてもよい。
なお、第2対話シナリオの構成は、図16に示された例に限定されない。第2対話シナリオは、例えば、指標値が高いものから上位所定数(例えば、上位2つ)の指標項目の組み合わせに対して発話内容が関連付けられている態様でもよいし、指標値が最も高い指標項目が表す心理状態が対象者にとってポジティブな心理状態であるかネガティブな心理状態であるかに応じて発話内容が関連付けられている態様であってもよいし、図7を参照して説明したような心理状態を表す各シンボルのそれぞれに発話内容が関連付けられている態様であってもよい。
ステップS15において、発話出力部19は、発話情報により示される発話内容を所定の出力形式で対象者に対して出力する。発話出力部19は、発話情報により示される発話内容を合成音声により出力してもよい。即ち発話出力部19は、発話内容を示す合成音声を端末30Aに出力させてもよい。
発話内容の合成音声による出力に際して、推定心理状態情報に応じて合成音声のニュアンスを異ならせることとしてもよい。具体的には、発話出力部19は、推定心理状態情報に基づいて、合成音声の対象者による感じられ方に寄与する1以上の音声合成パラメータを決定し、決定された音声合成パラメータを用いて合成音声を生成してもよい。音声合成パラメータは、例えば、合成音声における声色及び抑揚の付け方等を決定するパラメータである。
発話出力部19は、心理状態と発話出力のニュアンスを決定する音声合成パラメータセットとが予め関連付けられている音声合成パラメータテーブルを参照して、推定心理状態情報により示される心理状態に関連付けられた音声合成パラメータセットを取得する。
図17は、音声合成パラメータテーブルの例を示す図である。音声合成パラメータテーブルは、心理状態管理装置10Bの内部または外部に構成され発話出力部19からアクセス可能な記憶手段に予め設定及び記憶されている。図17に示されるように、音声合成パラメータテーブルでは、推定心理状態情報の指標項目に発話出力のニュアンス及び音声合成パラメータセットが関連付けられている。
具体的には、発話出力部19は、ステップS12において心理状態推定部12により推定された対象者の心理状態を取得する。例えば、推定心理状態情報が複数の指標項目及び指標値を含む場合には、発話出力部19は、推定心理状態情報において指標値が最も大きい指標項目に係る心理状態を、対象者の心理状態として取得する。例えば、対象者の心理状態「怒り」が取得された場合には、発話出力部19は、音声合成パラメータテーブルから、「穏やか」、「怒りを静める」ようなニュアンス(ニュアンス1)の合成音声が生成されるような音声合成パラメータセット「パラメータ1」を取得する。そして、発話出力部19は、取得した音声合成パラメータセットを用いて、ステップS14において生成された発話内容を表す合成音声を生成する。
なお、音声合成パラメータテーブルの構成は、図17に示された例に限定されない。音声合成パラメータテーブルは、例えば、指標値が高いものから上位所定数(例えば、上位2つ)の指標項目の組み合わせに対して音声合成パラメータセットが関連付けられている態様でもよいし、指標値が最も高い指標項目が表す心理状態が対象者にとってポジティブな心理状態であるかネガティブな心理状態であるかに応じて音声合成パラメータセットが関連付けられている態様であってもよいし、図7を参照して説明したような心理状態を表す各シンボルのそれぞれに音声合成パラメータセットが関連付けられている態様であってもよい。
ステップS15における発話の出力の後に、処理はステップS11に戻る。生体情報取得部11は、ステップS15における発話出力部19による発話内容の出力に応じて対象者から検知された事象に基づく、当該対象者の生体情報を更に取得する。更に引き続くステップS12において、心理状態推定部12は、ステップS14~ステップS15の処理を経て更に取得された生体情報を含む複数の生体情報に基づいて、対象者の心理状態を推定する。なお、ステップS15における発話の出力は、対象者による発話を促すような内容であってもよいし、対象者に対するアドバイスであってもよい。
ステップS16~ステップS19の処理内容は、図10のフローチャートのステップS3~S6の処理内容と同様であるので、説明を省略する。
複数の生体情報の取得(ステップS14,S15を経たステップS11の処理)に応じた心理状態の推定(ステップS14,S15を経たステップS12の処理。推定心理状態情報の生成)及び妥当性評価情報の取得(ステップS14,S15を経たステップS17の処理)のパターンは、以下のような如何なるパターンであってもよい。即ち、複数の生体情報のそれぞれに基づいて推定心理状態情報が生成され、複数の推定心理状態情報における指標値の平均値が対象者に提示されて、一の妥当性評価情報が取得されてもよい。また、複数の生体情報のそれぞれに基づいて推定心理状態情報が生成され、複数の推定心理状態情報の全てが対象者に提示され、推定心理状態情報のそれぞれに対する妥当性評価情報が取得され、各妥当性評価情報を重みとして複数の推定心理状態情報の重み付け平均等の集計値が算出されることにより、当該対象者の心理状態情報が決定されてもよい。また、複数の推定心理状態情報の一部又は全部が対象者に選択肢として提示され、対象者により選択された推定心理状態情報に基づいて、当該対象者の心理状態情報が決定されてもよい。
次に、図18を参照して、コンピュータを、本実施形態の心理状態管理装置10として機能させるための心理状態管理プログラムについて説明する。
図18は、心理状態管理プログラムの構成を示す図である。心理状態管理プログラムP1は、心理状態管理装置10における心理状態管理処理を統括的に制御するメインモジュールm10、生体情報取得モジュールm11、心理状態推定モジュールm12、提示モジュールm13、妥当性評価取得モジュールm14、心理状態決定モジュールm15、心理状態出力モジュールm16、調整モジュールm17、発話生成モジュールm18及び発話出力モジュールm19を備えて構成される。そして、各モジュールm11~m19により、生体情報取得部11、心理状態推定部12、提示部13、妥当性評価取得部14、心理状態決定部15、心理状態出力部16、調整部17、発話生成部18及び発話出力部19のための各機能が実現される。なお、調整モジュールm17、発話生成モジュールm18及び発話出力モジュールm19は、心理状態管理プログラムP1において備えることが必須のモジュールではなく、第2実施形態の心理状態管理装置10Aまたは第3実施形態の心理状態管理装置10Bを構成するために必要に応じて心理状態管理プログラムP1に含められる。
なお、心理状態管理プログラムP1は、通信回線等の伝送媒体を介して伝送される態様であってもよいし、図18に示されるように、記録媒体M1に記憶される態様であってもよい。
以上説明した本実施形態の心理状態管理装置10、心理状態管理方法及び心理状態管理プログラムP1によれば、生体情報に基づいて推定された心理状態を示す推定心理状態情報が対象者に提示され、推定心理状態情報の妥当性の評価を示す妥当性評価情報が取得されるので、推定心理状態情報の正誤の判断が可能となる。そして、妥当性評価情報を用いて決定された心理状態情報が出力されるので、管理者は、対象者に関する信頼性の高い心理状態の情報を得ることが可能となる。
また、別の形態に係る心理状態管理装置は、推定心理状態に対する妥当性の評価の履歴に基づいて、推定心理状態情報を調整する調整部、を更に備え、提示部は、調整部により調整された推定心理状態情報を対象者に提示することとしてもよい。
上記形態によれば、対象者に対して提示された推定心理状態情報に対する妥当性の評価の履歴に基づいて、対象者に対して提示するための推定心理状態情報が調整され、調整された推定心理状態情報が対象者に提示される。従って、妥当性がより向上された心理状態の推定結果を対象者に提示できる。
また、別の形態に係る心理状態管理装置では、調整部は、推定心理状態情報に対する妥当性の評価の履歴に基づいて、調整パラメータを生成し、生成した調整パラメータを適用して推定心理状態情報を調整することとしてもよい。
上記形態によれば、妥当性の評価の履歴に基づいて生成された調整パラメータの適用により推定心理状態情報が調整されるので、推定心理状態情報の調整が容易である。
また、別の形態に係る心理状態管理装置では、推定心理状態情報は、心理状態の種類を示す1以上の指標項目及び該指標項目に該当する程度を示す指標値を含み、調整部は、指標値の高さに対して妥当性が低いと評価された頻度が高い指標項目ほど、より低い指標値が推定されるような調整パラメータを生成することとしてもよい。また、調整部は、指標値の低さに対して妥当性が低いと評価された頻度が高い指標項目ほど、より高い指標値が推定されるような調整パラメータを生成することとしてもよい。
上記形態によれば、対象者により入力された妥当性評価情報に基づいて、調整パラメータが生成されるので、対象者ごとに最適化された推定心理状態情報を提示できる。
また、別の形態に係る心理状態管理装置では、生体情報は、対象者が発した音声情報を含み、心理状態管理装置は、音声情報及び推定心理状態情報の少なくともいずれか一方に基づいて、対象者に対して出力する発話内容を示す発話情報を生成する発話生成部と、発話情報により示される発話内容を所定の出力形式で出力する発話出力部と、を更に備えることとしてもよい。
上記形態によれば、音声情報及び推定心理状態情報の少なくともいずれか一つに基づいて生成された発話情報に示される発話が出力されるので、生体情報として取得可能な発話を対象者に促すことができる。
また、別の形態に係る心理状態管理装置では、生体情報取得部は、発話出力部による発話内容の出力に応じて対象者から検知された事象に基づく生体情報を更に取得し、心理状態推定部は、生体情報取得部により更に取得された生体情報を含む複数の生体情報に基づいて、対象者の心理状態を推定することとしてもよい。
上記形態によれば、発話内容の出力に応じて検知された生体情報が更に取得され、更に取得された生体情報が心理状態の推定に用いられるので、心理状態の推定の精度を向上できる。
また、別の形態に係る心理状態管理装置では、発話生成部は、音声情報からキーワードを抽出し、キーワードと発話内容とが予め関連付けてられている第1対話シナリオを参照して、音声情報から抽出されたキーワードに関連付けられた発話内容を取得することとしてもよい。
上記形態によれば、音声情報に含まれるキーワードに基づいて発話内容が取得されるので、対象者の発話を促すのに好適な発話内容からなる発話情報を生成できる。
また、別の形態に係る心理状態管理装置では、発話生成部は、心理状態と発話内容とが予め関連付けられている第2対話シナリオを参照して、推定心理状態情報により示される心理状態に関連付けられた発話内容を取得することとしてもよい。
上記形態によれば、対象者の生体情報に基づいて推定された推定心理状態情報に基づいて発話内容が取得されるので、対象者の発話を促すのに好適な発話内容からなる発話情報を生成できる。
また、別の形態に係る心理状態管理装置では、発話出力部は、発話情報により示される発話内容を合成音声により出力し、推定心理状態情報に基づいて、合成音声の対象者による感じられ方に寄与する1以上の音声合成パラメータを決定し、音声合成パラメータを用いて合成音声を生成することとしてもよい。
上記形態によれば、対象者の生体情報に基づいて推定された推定心理状態情報に基づいて決定された音声合成パラメータを用いて合成音声が生成されるので、対象者の発話を促すのに好適なニュアンス(例えば、声色及び抑揚等)の合成音声を出力できる。
以上、本実施形態について詳細に説明したが、当業者にとっては、本実施形態が本明細書中に説明した実施形態に限定されるものではないということは明らかである。本実施形態は、特許請求の範囲の記載により定まる本発明の趣旨及び範囲を逸脱することなく修正及び変更態様として実施することができる。したがって、本明細書の記載は、例示説明を目的とするものであり、本実施形態に対して何ら制限的な意味を有するものではない。
本明細書で説明した各態様/実施形態は、LTE(Long Term Evolution)、LTE-A(LTE-Advanced)、SUPER 3G、IMT-Advanced、4G、5G、FRA(Future Radio Access)、W-CDMA(登録商標)、GSM(登録商標)、CDMA2000、UMB(Ultra Mobile Broadband)、IEEE 802.11(Wi-Fi)、IEEE 802.16(WiMAX)、IEEE 802.20、UWB(Ultra-WideBand)、Bluetooth(登録商標)、その他の適切なシステムを利用するシステム及び/又はこれらに基づいて拡張された次世代システムに適用されてもよい。
本明細書で説明した各態様/実施形態の処理手順、シーケンス、フローチャートなどは、矛盾の無い限り、順序を入れ替えてもよい。例えば、本明細書で説明した方法については、例示的な順序で様々なステップの要素を提示しており、提示した特定の順序に限定されない。
入出力された情報等は特定の場所(例えば、メモリ)に保存されてもよいし、管理テーブルで管理してもよい。入出力される情報等は、上書き、更新、または追記され得る。出力された情報等は削除されてもよい。入力された情報等は他の装置へ送信されてもよい。
判定は、1ビットで表される値(0か1か)によって行われてもよいし、真偽値(Boolean:trueまたはfalse)によって行われてもよいし、数値の比較(例えば、所定の値との比較)によって行われてもよい。
本明細書で説明した各態様/実施形態は単独で用いてもよいし、組み合わせて用いてもよいし、実行に伴って切り替えて用いてもよい。また、所定の情報の通知(例えば、「Xであること」の通知)は、明示的に行うものに限られず、暗黙的(例えば、当該所定の情報の通知を行わない)ことによって行われてもよい。
以上、本開示について詳細に説明したが、当業者にとっては、本開示が本開示中に説明した実施形態に限定されるものではないということは明らかである。本開示は、請求の範囲の記載により定まる本開示の趣旨及び範囲を逸脱することなく修正及び変更態様として実施することができる。したがって、本開示の記載は、例示説明を目的とするものであり、本開示に対して何ら制限的な意味を有するものではない。
ソフトウェアは、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語と呼ばれるか、他の名称で呼ばれるかを問わず、命令、命令セット、コード、コードセグメント、プログラムコード、プログラム、サブプログラム、ソフトウェアモジュール、アプリケーション、ソフトウェアアプリケーション、ソフトウェアパッケージ、ルーチン、サブルーチン、オブジェクト、実行可能ファイル、実行スレッド、手順、機能などを意味するよう広く解釈されるべきである。
また、ソフトウェア、命令などは、伝送媒体を介して送受信されてもよい。例えば、ソフトウェアが、同軸ケーブル、光ファイバケーブル、ツイストペア及びデジタル加入者回線(DSL)などの有線技術及び/又は赤外線、無線及びマイクロ波などの無線技術を使用してウェブサイト、サーバ、又は他のリモートソースから送信される場合、これらの有線技術及び/又は無線技術は、伝送媒体の定義内に含まれる。
本開示において説明した情報、信号などは、様々な異なる技術のいずれかを使用して表されてもよい。例えば、上記の説明全体に渡って言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、チップなどは、電圧、電流、電磁波、磁界若しくは磁性粒子、光場若しくは光子、又はこれらの任意の組み合わせによって表されてもよい。
なお、本開示において説明した用語及び/又は本明細書の理解に必要な用語については、同一の又は類似する意味を有する用語と置き換えてもよい。
本明細書で使用する「システム」および「ネットワーク」という用語は、互換的に使用される。
また、本明細書で説明した情報、パラメータなどは、絶対値で表されてもよいし、所定の値からの相対値で表されてもよいし、対応する別の情報で表されてもよい。
本開示で使用する「判断(determining)」、「決定(determining)」という用語は、多種多様な動作を包含する場合がある。「判断」、「決定」は、例えば、判定(judging)、計算(calculating)、算出(computing)、処理(processing)、導出(deriving)、調査(investigating)、探索(looking up、search、inquiry)(例えば、テーブル、データベース又は別のデータ構造での探索)、確認(ascertaining)した事を「判断」「決定」したとみなす事などを含み得る。また、「判断」、「決定」は、受信(receiving)(例えば、情報を受信すること)、送信(transmitting)(例えば、情報を送信すること)、入力(input)、出力(output)、アクセス(accessing)(例えば、メモリ中のデータにアクセスすること)した事を「判断」「決定」したとみなす事などを含み得る。また、「判断」、「決定」は、解決(resolving)、選択(selecting)、選定(choosing)、確立(establishing)、比較(comparing)などした事を「判断」「決定」したとみなす事を含み得る。つまり、「判断」「決定」は、何らかの動作を「判断」「決定」したとみなす事を含み得る。また、「判断(決定)」は、「想定する(assuming)」、「期待する(expecting)」、「みなす(considering)」などで読み替えられてもよい。
本開示で使用する「に基づいて」という記載は、別段に明記されていない限り、「のみに基づいて」を意味しない。言い換えれば、「に基づいて」という記載は、「のみに基づいて」と「に少なくとも基づいて」の両方を意味する。
本明細書で「第1の」、「第2の」などの呼称を使用した場合においては、その要素へのいかなる参照も、それらの要素の量または順序を全般的に限定するものではない。これらの呼称は、2つ以上の要素間を区別する便利な方法として本明細書で使用され得る。したがって、第1および第2の要素への参照は、2つの要素のみがそこで採用され得ること、または何らかの形で第1の要素が第2の要素に先行しなければならないことを意味しない。
「含む(include)」、「含んでいる(including)」、およびそれらの変形が、本明細書あるいは特許請求の範囲で使用されている限り、これら用語は、用語「備える(comprising)」と同様に、包括的であることが意図される。さらに、本明細書あるいは特許請求の範囲において使用されている用語「または(or)」は、排他的論理和ではないことが意図される。
本明細書において、文脈または技術的に明らかに1つのみしか存在しない装置である場合以外は、複数の装置をも含むものとする。
本開示の全体において、文脈から明らかに単数を示したものではなければ、複数のものを含むものとする。