JP7207468B2 - 出力制御装置、出力制御方法およびプログラム - Google Patents

出力制御装置、出力制御方法およびプログラム Download PDF

Info

Publication number
JP7207468B2
JP7207468B2 JP2021131446A JP2021131446A JP7207468B2 JP 7207468 B2 JP7207468 B2 JP 7207468B2 JP 2021131446 A JP2021131446 A JP 2021131446A JP 2021131446 A JP2021131446 A JP 2021131446A JP 7207468 B2 JP7207468 B2 JP 7207468B2
Authority
JP
Japan
Prior art keywords
state
output
physiological index
user
output control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021131446A
Other languages
English (en)
Other versions
JP2021176111A (ja
Inventor
能宏 脇田
直也 佐塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JP2021176111A publication Critical patent/JP2021176111A/ja
Priority to JP2023000729A priority Critical patent/JP7364099B2/ja
Application granted granted Critical
Publication of JP7207468B2 publication Critical patent/JP7207468B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/486Bio-feedback
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/165Evaluating the state of mind, e.g. depression, anxiety
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/40Detecting, measuring or recording for evaluating the nervous system
    • A61B5/4058Detecting, measuring or recording for evaluating the nervous system for evaluating the central nervous system
    • A61B5/4064Evaluating the brain
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6802Sensor mounted on worn items
    • A61B5/681Wristwatch-type devices
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7228Signal modulation applied to the input signal sent to patient or subject; demodulation to recover the physiological signal
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7275Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M21/00Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis
    • A61M21/02Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis for inducing sleep or relaxation, e.g. by direct nerve stimulation, hypnosis, analgesia
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems

Description

本開示は、出力制御装置、出力制御方法およびプログラムに関する。
近年、自律神経活動を正常に維持することが重要視されている。例えば、自律神経活動の正常度を診断するための技術が開示されている(例えば、特許文献1参照。)。また、自律神経活動は、ユーザの内部状態(例えば、集中状態、緊張状態、リラックス状態など)に関与することが知られている。
特開平5-84222号公報
ここで、ユーザが自身の内部状態をある程度コントロールできるようになることは、様々な場面において重要である。そこで、ユーザが自身の内部状態をより容易にコントロールすることを可能とする技術が提供されることが望まれる。
本開示によれば、生体センサに基づく生理指標値に対応する生理指標空間における状態点の変化に応じた出力情報の出力を制御する出力制御部を備える出力制御装置であって、前記生理指標値は、内部状態を喚起する指標がラベルとして付与されたコンテンツが出力されている間に、前記生体センサによって検出される、出力制御装置が提供される。
本開示によれば、プロセッサにより、生体センサに基づく生理指標値に対応する生理指標空間における状態点の変化に応じた出力情報の出力を制御することを備える出力制御方法であって、前記生理指標値は、内部状態を喚起する指標がラベルとして付与されたコンテンツが出力されている間に、前記生体センサによって検出される、出力制御方法が提供される。
本開示によれば、コンピュータを、生体センサに基づく生理指標値に対応する生理指標空間における状態点の変化に応じた出力情報の出力を制御する出力制御部を備える出力制御装置として機能させるためのプログラムであって、前記生理指標値は、内部状態を喚起する指標がラベルとして付与されたコンテンツが出力されている間に、前記生体センサによって検出される、プログラムが提供される。
以上説明したように本開示によれば、ユーザが自身の内部状態をより容易にコントロールすることを可能とする技術が提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
内部状態のコントロールの重要性の例を説明するための図である。 本開示の一実施形態に係る情報処理システムの構成例を示す図である。 同実施形態に係る情報処理装置の機能構成例を示すブロック図である。 同実施形態に係る表示装置の機能構成例を示すブロック図である。 同実施形態に係る出力制御装置の機能構成例を示すブロック図である。 各種のセンサによって検出される生理指標値の例を示す図である。 現在の状態点を基準とした過去の状態点の分布密度に応じた出力情報について説明するための図である。 メンタルストレッチトレーニングの動作の例を示すフローチャートである。 複数の状態点に対する機械学習の動作の流れの例を示すフローチャートである。 状態点に対するラベルの関連付けの例を説明するための図である。 複数のクラスタそれぞれに関連付けられるラベルの例を示す図である。 教師あり機械学習の動作の流れの例を示すフローチャートである。 遷移先状態を選択する例を説明するための図である。 遷移先状態を選択する例を説明するための図である。 生理指標空間における状態点の遷移速度に応じた出力情報について説明するための図である。 生理指標空間における状態点の安定度に応じた出力情報について説明するための図である。 現在の状態点を基準とした過去の状態点の分布密度に応じた出力情報の表示例を示す図である。 生理指標空間における状態点の遷移速度に応じた出力情報の表示例を示す図である。 生理指標空間における状態点の安定度に応じた出力情報の表示例を示す図である。 少数ラベルと末梢データとを用いて推定器を生成する場合を説明するための図である。 少数ラベルと末梢データとを用いて推定器を生成する場合を説明するための図である。 大量ラベルと末梢データとを用いて推定器を生成する場合を説明するための図である。 少数ラベルと中枢データとを用いて推定器を生成する場合を説明するための図である。 中枢データに含まれる複数の区間に対して二種類のラベルが付加される例を示す図である。 中枢データに含まれる複数の区間に対して三種類以上のラベルが付加される例を示す図である。 同実施形態に係る推定器の生成の例を説明するための図である。 同実施形態に係る推定器の生成の動作例を示すフローチャートである。 同実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書および図面において、実質的に同一または類似の機能構成を有する複数の構成要素を、同一の符号の後に異なる数字を付して区別する場合がある。ただし、実質的に同一または類似の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。また、異なる実施形態の類似する構成要素については、同一の符号の後に異なるアルファベットを付して区別する場合がある。ただし、類似する構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
なお、説明は以下の順序で行うものとする。
1.内部状態のコントロールの概要
2.内部状態のコントロールの実施形態
2.1.システム構成例
2.2.情報処理装置の機能構成例
2.3.表示装置の機能構成例
2.4.出力制御装置の機能構成例
2.5.内部状態のコントロールの機能詳細
2.5.1.各種の生理指標値
2.5.2.生理指標空間
2.5.3.状態点の変化に応じたフィードバック
2.5.4.メンタルストレッチトレーニング
2.5.5.コンテンツ鑑賞を用いたメンタルストレッチトレーニング
2.5.6.教師なし個人化学習
2.5.7.教師あり個人化学習
2.5.8.メンタルスイッチトレーニング
3.推定器の生成の概要
4.推定器の生成の実施形態
5.ハードウェア構成例
6.むすび
<1.内部状態のコントロールの概要>
近年、自律神経活動を正常に維持することが重要視されている。例えば、自律神経活動の正常度を診断するための技術が開示されている。また、自律神経活動は、ユーザの内部状態(例えば、集中状態、緊張状態、リラックス状態など)に関与することが知られている。ここで、ユーザが自身の内部状態をある程度コントロールできるようになることは、様々な場面において重要である。まず、内部状態のコントロールの重要性について、具体的な例を挙げて説明する。
図1は、内部状態のコントロールの重要性の例を説明するための図である。図1を参照すると、ユーザの一日の生活のパターンとして、理想的と考えられるパターン(理想パターンCS-1)が示されている。また、ユーザの一日の生活のパターンとして、現実に起こり得るパターン(現実パターンCS-2)が示されている。
理想パターンCS-1において、ユーザは、仕事をすべき時間には内部状態を集中状態に維持することができている(時刻T1~時刻T2)。また、ユーザは、休憩時間には内部状態を集中状態からリラックス状態に素早く切り替え、内部状態をリラックス状態に維持することができている(時刻T2~時刻T3)。そして、ユーザは、休憩時間が終わると、内部状態をリラックス状態から集中状態に素早く切り替え、集中状態を維持することができている(時刻T3~時刻T4)。
このように、理想パターンCS-1において、ユーザは、内部状態の切り替えを素早く行い、内部状態を維持した結果として、仕事を早く終わらせることができ、プライベートな時間を持つことができている(時刻T4以降)。
一方、現実パターンCS-2において、ユーザは、仕事をすべき時間であっても内部状態を集中状態に維持することができていない。その結果として、ユーザは、仕事が進んでいないために、休憩時間であっても仕事を続けなければならず、内部状態をリラックス状態に切り替えることができていない。そして、ユーザは、内部状態を切り替えて適切な休息を取ることができなかったため、次第に集中状態が悪化してゆき、仕事に時間が掛かってしまう。
このように、現実パターンCS-2において、ユーザは、内部状態の切り替えを素早く行うことができず、好適な内部状態を維持することができない。その結果として、ユーザは、仕事を早く終わらせることができず、プライベートな時間を持つことができないため、寝付きが悪くて睡眠不足に陥ってしまう(時刻T5以降)。ユーザは、睡眠不足に陥ってしまうため、翌日以降にも、内部状態の切り替えを素早く行うことができず、内部状態を維持することができないことになる。
図1に示した例からも把握されるように、ユーザが自身の内部状態をある程度コントロールできるようになることは、様々な場面において重要である。ここで、ユーザが自身の内部状態をコントロールできるようにするための技術は、バイオフィードバックおよびニューロフィードバックとして知られている。しかし、バイオフィードバックおよびニューロフィードバックは、ユーザが自身の内部状態をコントロールできるようにするための技術としては十分でない。
バイオフィードバックおよびニューロフィードバックの一つの方法として、あるパラメータが高ければ高いほど好ましいというフィードバックを行う技術がある。かかる技術においては、副交感神経活性度を高めるようにフィードバックをすれば、ユーザをリラックスさせることは可能であると考えられる。一例として、かかる技術は、過緊張状態にある患者などには効果的であると考えられる。また、比較的リラックスして集中が高まっていない内部状態においては、かかる技術において、交感神経活性度を高めるようにフィードバックをすれば、交感神経活性度が高まるため、ユーザを集中させることは可能であると考えられる。
しかし、ある程度以上交感神経が興奮してしまうと、副作用が出てくることが知られている。例えば、ある程度以上交感神経が興奮しまったユーザは、冷静な判断ができなくなる場合があることが知られている。また、ある程度以上交感神経が興奮しまったユーザは、手が震えてしまう場合があることが知られている。したがって、単純に交感神経活性度を高めるようにフィードバックをすることは、不適切であると考えられる。
また、かかる技術においては、内部状態が特定の内部状態に達するようにフィードバックをすることも試みられている。ここで、フィードバックの影響が強すぎてしまうことを防ぐためには、最適な生理指標値への収束度をフィードバックすればよい。しかし、最適な内部状態は人によって異なるのが一般的である。また、最適な内部状態は人の発達に従って変化し得る。そのため、ある時点において個人に最適な内部状態は、長期間に渡る機械学習などによらなければ把握されにくい。
さらに、内部状態の変化は、環境の変化に自分を適応させるために生じるとも言えるため、内部状態の変化は意味があるとも言える。したがって、どのような内部状態がユーザにとって好ましい内部状態であるのかを定義することは困難であると考えられる。あらかじめ定義された内部状態にユーザの内部状態を近づけるようにフィードバックをすることは好ましくない。本明細書においては、かかる事情を考慮し、ユーザが自身の内部状態をより容易にコントロールすることを可能とする技術について主に説明する。
以上、内部状態のコントロールの概要について説明した。
<2.内部状態のコントロールの実施形態>
[2.1.システム構成例]
続いて、図面を参照しながら、本開示の一実施形態に係る情報処理システムの構成例について説明する。図2は、本開示の一実施形態に係る情報処理システムの構成例を示す図である。図2に示したように、情報処理システム1は、情報処理装置10と、表示装置20と、出力制御装置30とを備える。情報処理装置10と表示装置20とは、有線または無線によって接続可能である。また、情報処理装置10と出力制御装置30とは、有線または無線によって接続可能である。
情報処理装置10は、ユーザの内部状態を推定するための推定器を生成する。例えば、情報処理装置10は、かかる推定器を機械学習によって生成し得る。機械学習に用いられる各種データは、表示装置20から受信されてもよいし、出力制御装置30から受信されてもよい。また、情報処理装置10は、生成した推定器を用いて内部状態を推定したり、出力制御装置30に送信したりする。
また、情報処理装置10は、コンテンツを再生し得る。ここで、コンテンツの種類は特に限定されないが、映像コンテンツであってもよいし、ゲームコンテンツであってもよい。コンテンツの表示は、ユーザの操作に応じて変更されてよい。また、VR(Virtual Reality)を用いて構成されたVRコンテンツを含んでもよい。なお、本明細書においては、情報処理装置10がゲーム機である場合を主に想定するが、情報処理装置10はゲーム機に限定されない。例えば、情報処理装置10は、スマートフォンであってもよいし、PC(Personal Computer)であってもよい。
表示装置20は、情報処理装置10によって再生されたコンテンツを出力する。表示装置20によって出力されたコンテンツを視認するユーザの内部状態は、ある内部状態に遷移または維持されやすくなる。また、本明細書においては、表示装置20がユーザの頭部に装着されるHMD(ヘッドマウントディスプレイ)であり、中枢神経活動を反映する生理指標値を検出するセンサを有している場合を主に想定する。
本明細書においては、中枢神経活動を反映する生理指標値(以下、「中枢データ」とも言う。)を検出するセンサが表示装置20に設けられている場合を主に説明する。しかし、中枢神経活動を反映する生理指標値を検出するセンサは、表示装置20以外の装置(例えば、MRI(Magnetic Resonance Imaging)など)に設けられていてもよい。かかる場合、表示装置20は、HMDでなくてもよく、据え置き型のディスプレイであってもよいし、スマートフォンなどであってもよい。
出力制御装置30は、ユーザの自律神経活動を反映する生理指標値を検出するセンサを有している。図2に示した例では、出力制御装置30がユーザの手首に装着されているが、出力制御装置30が装着される位置は、検出される生理指標値の種類に応じて適宜に変更されてよい。また、出力制御装置30は、ユーザの自律神経活動を反映する生理指標値(以下、「末梢データ」とも言う。)に基づいてユーザの内部状態を推定し、推定結果に応じた出力を制御する。このとき、出力制御装置30と情報処理装置10との間の有線による接続が解除されていれば、ユーザは、出力制御装置30を装着したまま自由に移動することが可能となる。
以上、本開示の実施形態に係る情報処理システム1の構成例について説明した。
[2.2.情報処理装置の機能構成例]
続いて、本開示の実施形態に係る情報処理装置10の機能構成例について説明する。図3は、本開示の実施形態に係る情報処理装置10の機能構成例を示すブロック図である。図3に示したように、情報処理装置10は、制御部110、操作部120、センサ部130、記憶部140および通信部150を備える。以下、情報処理装置10が備えるこれらの機能ブロックについて説明する。
制御部110は、情報処理装置10の各部の制御を実行する。なお、制御部110は、例えば、1または複数のCPU(Central Processing Unit;中央演算処理装置)などといった処理装置によって構成されてよい。制御部110がCPUなどといった処理装置によって構成される場合、かかる処理装置は電子回路によって構成されてよい。図3に示したように、制御部110は、取得部111、生成部112および出力部113を有する。制御部110が有するこれらのブロックについては、後に詳細に説明する。
操作部120は、ユーザからの各種の操作を受け付ける入力装置を含んで構成される。例えば、操作部120は、コンテンツに対して入力される操作を受け付けてよい。このとき、コンテンツに入力された操作に基づいて、コンテンツの表示は変更されてよい。例えば、情報処理装置10がゲーム機である場合、操作部120は、ゲーム機が有するコントローラであってよい。
センサ部130は、ユーザ(表示装置20)の位置、向きおよび動きを検出するセンサである。ここで、ユーザの位置、向きおよび動きはどのように検出されてもよい。一例として、センサ部130は、イメージセンサを有しており、イメージセンサによって検出された画像に基づいてユーザの位置、向きおよび動きを検出してよい。ユーザの位置、向きおよび動きは、コンテンツに対して入力されてよい。このとき、コンテンツに入力されたユーザの位置、向きおよび動きに基づいて、コンテンツの表示は変更されてよい。
記憶部140は、メモリを含んで構成され、制御部110によって実行されるプログラムを記憶したり、プログラムの実行に必要なデータを記憶したりする記録デバイスである。また、記憶部140は、制御部110による演算のためにデータを一時的に記憶する。なお、記憶部140は、磁気記憶部デバイスであってもよいし、半導体記憶デバイスであってもよいし、光記憶デバイスであってもよいし、光磁気記憶デバイスであってもよい。
通信部150は、通信回路を含んで構成され、他の装置との間で通信を行う機能を有する。例えば、通信部150は、通信インターフェースにより構成される。例えば、通信部150は、有線によって表示装置20との間で通信を行うことが可能である。ただし、通信部150は、表示装置20との間で無線による通信を行ってもよい。また、通信部150は、有線によって出力制御装置30との間で通信を行うことが可能である。ただし、通信部150は、出力制御装置30との間で無線による通信を行ってもよい。
以上、本開示の実施形態に係る情報処理装置10の機能構成例について説明した。
[2.3.表示装置の機能構成例]
続いて、本開示の実施形態に係る表示装置20の機能構成例について説明する。図4は、本開示の実施形態に係る表示装置20の機能構成例を示すブロック図である。図4に示したように、表示装置20は、制御部210、操作部220、センサ部230、記憶部240、通信部250および表示部260を備える。以下、表示装置20が備えるこれらの機能ブロックについて説明する。
制御部210は、表示装置20の各部の制御を実行する。なお、表示装置20は、例えば、1または複数のCPU(Central Processing Unit;中央演算処理装置)などといった処理装置によって構成されてよい。制御部210がCPUなどといった処理装置によって構成される場合、かかる処理装置は電子回路によって構成されてよい。
操作部220は、ユーザからの操作を受け付ける入力装置である。例えば、操作部220は、ユーザに対して表示装置20の装着される位置を調整するためのボタン(例えば、HMDのグラスの位置を前後させるためのボタン、HMDのバンドの位置を前後に調整するためのボタンなど)およびダイヤル(例えば、HMDのバンドの締め付けを調整するためのダイヤルなど)などを含んでもよい。
センサ部230は、中枢神経活動を反映する生理指標値(中枢データ)を検出するセンサを含んで構成される。本明細書においては、中枢データが脳波を含む場合を主に想定する。かかる場合、センサ部230は、脳波センサを含んでよい。しかし、中枢データは特に限定されない。例えば、中枢データは、脳磁図(MEG:MagnetoEncephaloGraphy)を含んでもよい。かかる場合、センサ部230は、脳磁図センサを含んでよい。あるいは、中枢データは、NIRS(Near‐Infrared Spectroscopy)による計測結果を含んでもよい。かかる場合、センサ部230は、NIRSセンサを含んでよい。
なお、本明細書においては、情報処理装置10が有するセンサ130によって、ユーザの位置、向きおよび動きが検出される場合を主に想定する。しかし、表示装置20が有するセンサ部230が、ユーザの位置、向きおよび動きを検出するための各種のセンサを有していてもよい。
記憶部240は、メモリを含んで構成され、制御部210によって実行されるプログラムを記憶したり、プログラムの実行に必要なデータを記憶したりする記録デバイスである。また、記憶部240は、制御部210による演算のためにデータを一時的に記憶する。なお、記憶部240は、磁気記憶部デバイスであってもよいし、半導体記憶デバイスであってもよいし、光記憶デバイスであってもよいし、光磁気記憶デバイスであってもよい。
通信部250は、通信回路を含んで構成され、他の装置との間で通信を行う機能を有する。例えば、通信部250は、通信インターフェースにより構成される。例えば、通信部250は、有線によって情報処理装置10との間で通信を行うことが可能である。ただし、通信部250は、情報処理装置10との間で無線による通信を行ってもよい。
表示部260は、各種の情報を出力する。例えば、表示部260は、ユーザに視認可能な表示を行うことが可能なディスプレイを含んでよく、ディスプレイは、液晶ディスプレイであってもよいし、有機EL(Electro-Luminescence)ディスプレイであってもよい。
以上、本開示の実施形態に係る表示装置20の機能構成例について説明した。
[2.4.出力制御装置の機能構成例]
続いて、本開示の実施形態に係る出力制御装置30の機能構成例について説明する。図5は、本開示の実施形態に係る出力制御装置30の機能構成例を示すブロック図である。図5に示したように、出力制御装置30は、制御部310、操作部320、センサ部330、記憶部340、通信部350および提示部360を備える。以下、出力制御装置30が備えるこれらの機能ブロックについて説明する。
制御部310は、出力制御装置30の各部の制御を実行する。なお、制御部310は、例えば、1または複数のCPU(Central Processing Unit;中央演算処理装置)などといった処理装置によって構成されてよい。制御部310がCPUなどといった処理装置によって構成される場合、かかる処理装置は電子回路によって構成されてよい。
操作部320は、ユーザからの各種の操作を受け付ける入力装置を含んで構成される。例えば、操作部320が、ユーザによる所望のタイミングで所定の操作の入力を受け付けると、所定の操作が入力された時点におけるユーザの内部状態に対してフラグが付与される。このようにしてフラグが付与されたユーザの内部状態は、後に説明するように、ユーザによる内部状態のコントロールに利用され得る。なお、本明細書において使用されるフラグという用語は、機械学習における教師信号として利用されるラベルをも包含する広い概念である。フラグの種類についても後に説明する。
センサ部330は、自律神経活動を反映する生理指標値(末梢データ)を検出するセンサを含んで構成される。例えば、末梢データは、末梢血流、心拍および発汗の少なくともいずれか一つを含んでよい。かかる場合、センサ部330は、末梢血流センサ、心電センサ、脈拍センサおよび発汗センサの少なくともいずれか一つを含んでよい。なお、脈拍センサと末梢血流センサとは、別のセンサであってもよいし、同一のセンサであってもよい。
記憶部340は、メモリを含んで構成され、制御部310によって実行されるプログラムを記憶したり、プログラムの実行に必要なデータを記憶したりする記録デバイスである。また、記憶部340は、制御部310による演算のためにデータを一時的に記憶する。なお、記憶部340は、磁気記憶部デバイスであってもよいし、半導体記憶デバイスであってもよいし、光記憶デバイスであってもよいし、光磁気記憶デバイスであってもよい。
通信部350は、通信回路を含んで構成され、他の装置との間で通信を行う機能を有する。例えば、通信部350は、通信インターフェースにより構成される。例えば、通信部350は、有線によって情報処理装置10との間で通信を行うことが可能である。ただし、通信部350は、情報処理装置10との間で無線による通信を行ってもよい。
提示部360は、各種の情報を出力する。例えば、提示部360は、ユーザに視認可能な表示を行うことが可能なディスプレイを含んでよく、ディスプレイは、液晶ディスプレイであってもよいし、有機EL(Electro-Luminescence)ディスプレイであってもよい。また、提示部360は、スピーカなどの音声出力装置を含んでもよい。あるいは、提示部360は、ユーザに触覚を提示する触覚提示装置を含んでもよい。
以上、本開示の実施形態に係る出力制御装置30の機能構成例について説明した。
[2.5.内部状態のコントロールの機能詳細]
続いて、内部状態のコントロールの機能詳細について説明する。
(2.5.1.各種の生理指標値)
上記したように、出力制御装置30が有するセンサ部330は、末梢血流センサ、心電センサ、脈拍センサおよび発汗センサの少なくともいずれか一つを含んでよい。また、上記したように、表示装置20が有するセンサ部230は、脳波センサを含んでよい。以下では、これらのセンサによって検出される生理指標値の例を説明する。
図6は、各種のセンサによって検出される生理指標値の例を示す図である。図6に示すように、末梢血流センサ(皮膚付近血流)によって、血流量変化、細動脈と毛細血管との血流比、および、顔面と手部との血流比などの生理指標値が検出される。また、心拍(脈拍)センサによって、心拍数および心拍変動などの生理指標値が検出される。また、発汗センサによって掌部発汗(手首部分を含む)などの生理指標値が検出される。また、脳波センサによって電極ごとの周波数成分などの生理指標値が検出される。
また、図6に示すように、血流量変化から得られる細動脈収縮は、交感神経活動反応と相関がある。また、血流量変化から得られる心臓拍出量変化は、交感神経活動反応と相関がある。ただし、心臓拍出量変化は、運動によっても大きく変化するため単独で交感神経指標として用いると精度が低い。細動脈と毛細血管との血流比から得られる細動脈収縮は、交感神経活動反応と相関がある。顔面と手部との血流比から得られる細動脈収縮パターンは、交感神経活動反応および副交感神経活動反応と相関がある。
心拍数から得られる心臓拍出量調整は、交感神経活動反応と相関がある。ただし、心臓拍出量調整は、運動によっても大きく変化するため単独で交感神経指標として用いると精度が低い。心拍変動から得られる血圧連動型変動は、交感神経活動反応および副交感神経活動反応と相関がある。心拍変動から得られる呼吸連動型変動は、交感神経活動反応と相関がある。掌部発汗から得られる精神性発汗は、交感神経活動反応と相関がある。脳波センサの電極ごとの周波数成分からは、脳内の各部の活動度と相関がある。
以上、各種のセンサによって検出される生理指標値の例について主に説明した。
(2.5.2.生理指標空間)
このように、出力制御装置30が有するセンサ部330および表示装置20が有するセンサ部230などの生体センサは、それぞれ生体センサに対応する生理指標値を検出し得る。ここで、上記の生理指標値は、交感神経活動反応および副交感神経活動反応の少なくともいずれか一方と相関がある。したがって、1つの生理指標値または複数の生理指標値の組み合わせは、交感神経活性度と副交感神経活性度とを軸とする生理指標空間のいずれかの位置にプロットされ得る。
なお、本明細書においては、生理指標空間が、交感神経活性度と副交感神経活性度とを軸とする二次元空間である場合について主に説明する。しかし、生理指標空間は、交感神経活性度と副交感神経活性度とを軸とする二次元空間に限定されない。例えば、生理指標空間は、三つの軸を有する三次元空間であってもよい。すなわち、生理指標空間は、複数の軸を有する多次元空間であればよい。
以下では、1つの生理指標値または複数の生理指標値の組み合わせに対応する生理指標空間の位置を生理指標空間における「状態点」とも言う。また、以下では、表示装置20が有するセンサ部230によって検出される生理指標値に対応する状態点が用いられる場合を主に説明する。しかし、複数の生理指標値に対応する状態点が用いられてもよい。例えば、表示装置20が有するセンサ部230によって検出される生理指標値と出力制御装置30が有するセンサ部330によって検出される生理指標値との組み合わせに対応する状態点が用いられてもよい。
以上、生理指標空間について主に説明した。
(2.5.3.状態点の変化に応じたフィードバック)
上記したように、ユーザが自身の内部状態をある程度コントロールできるようになることは、様々な場面において重要である。そこで、本明細書においては、出力制御装置30において、データ取得部311が、センサ部330によって検出された生理指標値を取得し、処理部312が、生理指標値に対応する生理指標空間における状態点を算出する。そして、出力制御部313が、生理指標値に対応する生理指標空間における状態点の変化に応じた出力情報の出力を制御する。
かかる構成によれば、ユーザが出力情報を視認することによって、内部状態のコントロールの仕方を学習することが可能になるため、ユーザが自身の内部状態をより容易にコントロールすることが可能になると期待される。
より具体的には、処理部312は、生理指標空間における状態点の変化に基づいて、報酬値を算出してもよい。出力制御部313は、かかる報酬値を取得し、報酬値に応じた出力情報の出力を制御してもよい。このように、生理指標空間における状態点の変化から報酬値が算出され、報酬値に応じた出力情報が生成されることによって、より適切な出力情報が生成され得る。
(2.5.4.メンタルストレッチトレーニング)
ここで、ユーザが目標とする内部状態は設定されてもよいが設定されなくてもよい。例えば、ユーザの状態点を精度よく算出するための生理指標値が検出されれば、目標とする内部状態は特に設定されなくてもよい。このとき、出力制御部313は、ユーザの内部状態が不適切な内部状態に接近した場合のみ、アラートの出力を制御すればよい。まず、ユーザが目標とする内部状態を設定しない場合について説明する。ユーザが目標とする内部状態を設定しない場合において、どのような出力情報を出力するかは限定されない。
目標とする内部状態を設定せずにユーザに有意な出力情報を提供する一つの方法として、ユーザがより広い範囲で内部状態を遷移させるようなトレーニングを行うための情報出力が挙げられる。具体的には、処理部312は、過去の状態点の分布密度がより低い位置に状態点が遷移された場合に、より報酬値をより高くする。この場合、状態点が過去の分布から逸脱する変化を見せた場合に報酬値は高くなる。かかる場合、例えば、ユーザが過去の自分と比較して、より強く悲しんだり、より強く喜んだり、より強く集中したりした場合に、内部状態は過去に経験したことのない状態点に到達するため、処理部312が過去の状態点分布を元に計算する報酬値は高くなる。このような報酬値のフィードバックを受けることで、ユーザはより豊かな情動体験を楽しめるよう、自身をトレーニングできる。以下、このようなトレーニングを「メンタルストレッチトレーニング」とも言う。かかる場合、出力制御部313は、生理指標空間における現在の状態点を基準とした過去の状態点の分布密度に応じた出力情報の出力を制御するとよい。
図7は、現在の状態点を基準とした過去の状態点の分布密度に応じた出力情報について説明するための図である。図7を参照すると、過去の状態点の分布が+の記号で示されている。
ここで仮に、現在の状態点が、点P-A、点P-B、点P-Cのいずれかにあるとする。
現在の状態点が△の記号で示す点P-Aにある場合には、基準とした過去の状態点の分布密度は空間内で最大である。そこで、かかる場合、出力制御部313は、現在の状態点を基準とした過去の状態点の分布密度が最高である場合に対応した出力情報の出力を制御すればよい。具体的な出力情報の例は、後に説明する。
一方、現在の状態点が○の記号で示す点P-Bにある場合には、現在の状態点を基準とした過去の状態点の分布密度は、0である。そこで、かかる場合、出力制御部313は、現在の状態点の分布密度が0である場合に対応した出力情報の出力を制御すればよい。具体的な出力情報の例は、後に説明する。
また、現在の状態点が□の記号で示す点P-Cにある場合には、現在の状態点を基準とした過去の状態点の分布密度は、空間内の最大値と0の中間の値となる。そこで、かかる場合、出力制御部313は、現在の状態点の分布密度が最大値と0の中間の値となる場合に対応した出力情報の出力を制御すればよい。具体的な出力情報の例は、後に説明する。
ユーザは、このような出力情報を知覚することによって、バイオフィードバックの原理により、よりストレッチされた(変化が大きい)内部状態に向かいやすくなる。また、ユーザは、よりストレッチされた(変化が大きい)内部状態に向かうことを学習することが可能となる。具体的な出力情報の例は、後に説明する。
目標とする内部状態を設定せずにユーザに有意な出力情報を提供する別の一例としては、状態点の位置を素早く遷移する訓練をするために、状態点の遷移速度に応じた出力を行う方法がある。目標とする内部状態を設定せずにユーザに有意な出力情報を提供するさらに別の一例としては、状態点の位置の動揺範囲を狭める訓練のために、状態点の動揺範囲の大きさに応じた出力を行う方法がある。これらの方法では、現在の状態点を基準として、近傍に位置する過去の状態点(例えば、所定距離以内に位置する過去の状態点)の遷移速度の平均値や、近傍に位置する過去の状態点(例えば、所定距離以内に位置する過去の状態点)の動揺範囲の平均値を基準値として、出力を制御してよい。一方、目標とする内部状態を設定する場合においても、遷移速度と動揺範囲に基づいた出力の制御は有用であるため、本開示では、目標とする内部状態を設定する場合を例に、状態点の遷移速度および状態点の動揺範囲に基づいて出力を制御する例を説明する。
目標の内部状態を設定しない場合には、以下に示すような効果が享受される。まず、生理指標の最適値をあらかじめ指定する必要がないという効果が享受される。ここで、より広い範囲に内部状態を変化させることができる能力は、環境および状況への適応性を高めることにつながる。また、より素早く内部状態を変化させることができる能力は、短時間で環境および状況に適応する力を高めることにつながる。また、より安定して内部状態を維持させる能力は、適切に適応し続けることができる能力を高める。
また、生理指標は個人差が大きく、特定の状態値を指定したとしても、必ずしも最適な内部状態にユーザを誘導できるとは限らない。しかし、上記の能力を高めることで、それぞれの生理指標値が何を意味するかに関わらず、ユーザは内部状態をコントロールする能力を高めることが可能になる。さらに、ユーザは特定の状態値に依存しない指標による価値を享受しながらシステムの使用を継続することができるので、ユーザの好ましい内部状態の精密な弁別は、システムを使用する際に得られる状態値を用いて学習すればよい。
以上、メンタルストレッチトレーニングについて主に説明した。
(2.5.5.コンテンツ鑑賞を用いたメンタルストレッチトレーニング)
上記においては、ユーザに対して出力情報のみを提示する方法でのメンタルストレッチトレーニングについて説明した。以下では、コンテンツ鑑賞を用いてユーザの多様な内部状態を誘導する場合を主に説明する。例えば、ユーザに視認させるコンテンツを提示することによって、多様な内部状態をユーザが体験することを促す。生理指標値は、コンテンツが出力されている間に生体センサによって検出される。コンテンツの出力によって、多様な内部状態が喚起されやすくなる。
また、コンテンツの種類は特に限定されない。例えば、コンテンツは、VR(Virtual Reality)を用いて構成されたVRコンテンツを含んでもよい。そうすれば、ユーザはより強く臨場感を味わうことができるため、それぞれの内部状態がより強く喚起されることが期待される。コンテンツは、ゲームコンテンツであってもよいし、鑑賞用コンテンツ(例えば、映画など)であってもよいし、リラックス用コンテンツ(例えば、風景の映像など)であってもよい。メンタルストレッチトレーニングは、特定の目標値にユーザを誘導するトレーニングではないが、例えばユーザが特定の内部状態を喚起するコンテンツを鑑賞することで、特定の内部状態をより深く体験するトレーニングを行うことが可能である。
例えば、ユーザは、鑑賞用コンテンツを視認する場合には、意識的に鑑賞用コンテンツに没入して、喜怒哀楽をはっきり持つことを意識するようにすればよい。また、ユーザは、ゲームコンテンツを視認する場合には、意識的にゲームコンテンツに没入して、高い集中を維持することを意識するようにすればよい。また、ユーザは、リラックス用コンテンツを視認する場合には、緊張を開放して、深いリラックスを維持することを意識するようにすればよい。以下では、コンテンツを鑑賞しながら個別の内部状態をより深い内部状態に向かわせることを意識するトレーニングを「コンテンツ鑑賞を用いたメンタルストレッチトレーニング」とも言う。
ユーザに視認させるコンテンツの種類は一種類であってもよいが、複数種類であるのがより望ましい。これによって、複数種類のコンテンツに対応して、ユーザの複数の内部状態が喚起され得る。また、複数種類のコンテンツが切り替えられて出力されることによって、ユーザは、より広い範囲で内部状態を遷移させることが可能になり、より素早く内部状態を遷移させることが可能になり、複数の内部状態それぞれをより安定的に維持できるようになる。
図8は、メンタルストレッチトレーニングの動作の例を示すフローチャートである。なお、図8に示したフローチャートは、メンタルストレッチトレーニングの動作の一例を示したに過ぎない。したがって、メンタルストレッチトレーニングの動作は、図8に示したフローチャートの動作例に限定されない。
図8に示したように、情報処理装置10において、生成部112によってコンテンツの再生が開始されると(S21)、表示装置20において、表示部260によってコンテンツが出力される。ユーザは、このように出力されたコンテンツを鑑賞する。そして、コンテンツを視認している間に、出力制御装置30におけるセンサ部330によって、生理指標値が検出される。
出力制御装置30において、データ取得部311によって生理指標値が取得されると(S22)、処理部312によって、生理指標値に対応する生理指標空間における状態点が算出される(S23)。処理部312は、状態点の変化に基づいて報酬値を算出する(S24)。ここで、状態点の変化としては、現在の状態点を基準とした過去の状態点の分布密度、状態点の遷移速度、および、状態点の安定度などが挙げられる。そして、出力制御部313は、報酬値に応じたフィードバック(報酬値に応じた出力情報の出力制御)を行う(S25)。
制御部310は、コンテンツの再生が継続される場合には(S26において「No」)、S22に戻る。一方、制御部310は、コンテンツの再生が終了される場合には(S26において「Yes」)、動作を終了する。状態点の変化に基づく報酬値の算出、報酬値に応じたフィードバックは、「2.5.3.状態点の変化に応じたフィードバック」において既に説明した通りである。
メンタルストレッチトレーニングによって、以下に示すような効果が享受される。まず、ユーザは、特定の内部状態だけでなく、多様な内部状態を内部に作る能力をはぐくむことができるという効果が享受される。また、メンタルストレッチトレーニングによって、ユーザは、内部状態を変化させる範囲を拡大させ、内部状態の安定度を向上させ、内部状態の遷移速度を向上させることが可能となる。メンタルストレッチトレーニングによって、コンテンツを利用して多様な内部状態を喚起することができる。
また、既に述べたように、メンタルストレッチトレーニングにおいても、ユーザにとって好ましい内部状態が、ユーザからのフィードバックで設定され得る。また、後に説明するように、コンテンツを用いたメンタルストレッチトレーニングにおいても、コンテンツに付与されたラベルとユーザの内部状態に対応した状態点との対応関係に基づいて、状態点に対してラベリングができる。すなわち、コンテンツの持つラベル、ユーザからのフィードバックにより、価値を提供するトレーニングの最中に、内部状態弁別性を高める学習が可能である。
さらに、メンタルストレッチトレーニングによって、弁別があいまいな内部状態に対しても、価値のあるトレーニング法を提供することが可能となる。
以上、メンタルストレッチトレーニングについて主に説明した。
(2.5.6.教師なし個人化学習)
続いて、個人化学習について説明する。まず、時間経過に伴ってユーザの内部状態の複数の状態点が蓄積される。このように蓄積される複数の状態点に対して機械学習が行われれば、ユーザの内部状態の傾向が個人ごとに学習される。そこで、時間経過に伴って蓄積されるユーザの複数の状態点に対する機械学習について説明する。なお、ユーザの複数の状態点に対する機械学習は、必須ではない。ここでは、機械学習の例として教師なしの機械学習について説明する。
図9は、複数の状態点に対する機械学習の動作の流れの例を示すフローチャートである。図9に示すように、出力制御装置30によって検出された生理指標値は、情報処理装置10に送信される。情報処理装置10においては、取得部111が、生理指標値を取得し(S11)、生成部112が、この生理指標値に対応する生理指標空間における状態点を算出する(S12)。状態点の算出が複数回行われることによって、ユーザの複数の状態点が算出される。
生成部112は、複数の状態点に対する機械学習を開始するまでは(S13において「No」)、S11に遷移する。一方、生成部112は、複数の状態点に対する機械学習を開始する場合には(S13において「Yes」)、複数の状態点に対する機械学習を開始する(S14)。生成部112による機械学習によって、生理指標空間における複数の状態点が複数のクラスタに分類される。
なお、ユーザは、自身の内部状態を感じながら、気になる状態点(例えば、ユーザにとって集中できている状態点)を感じた場合には、内部状態を示す情報を入力してもよい。かかる場合、操作部320は、ユーザから内部状態を示す情報を受け付けると、処理部312は、現在の状態点に内部状態を示す情報を関連付けてよい。内部状態を示す情報が、ラベルとして機械学習に利用されれば、現在の状態点(および、現在の状態点が属するクラスタ)に内部状態を示す情報が関連付けられ、気になる状態点(または、気になる状態点が属するクラスタ)を遷移元状態または遷移先状態として選択することが可能となる。
以上、教師なし個人化学習について主に説明した。
(2.5.7.教師あり個人化学習)
上記では、教師なし個人化学習について説明した。すなわち、生理指標空間における複数の状態点が、機械学習によって複数のクラスタに分類される例を説明した。しかし、コンテンツをユーザに鑑賞させることが可能であれば、コンテンツに対して付加されたラベルを教師信号として機械学習を行うことも可能である。このとき、情報処理装置10において、生成部112は、複数のクラスタそれぞれに対して、対応する生理指標値の検出に応じたタイミングに出力されたコンテンツに付加されたラベルを関連付ける。
かかる機械学習によれば、それまで意味が与えられていなかった状態値クラスタにラベルを関連付けることが可能である。また、例えば、映画コンテンツの各場面にラベル(内部状態を喚起する指標)を段階的な数値で関連付けることによって、連続的な数値として内部状態を把握するための機械学習が可能となる。
このとき、コンテンツに対する評価情報(例えば、コンテンツに対する感想なども含む)がユーザから入力された場合、評価情報に基づいてラベルを補正し、補正後のラベルを教師信号として機械学習に利用することも可能である。すなわち、生成部112は、ユーザから入力されたコンテンツに対する評価情報に基づいてラベルを補正してもよい。かかる補正によって、より適切な機械学習が可能となる。
例えば、ユーザが「面白かった」「興奮した」「泣けた」といった、第1の評価情報(豊かな情動を示す感想)を入力した場合は、ラベルが高低極端な値に補正されるとよい。一方、「つまらなかった」「退屈だった」といった平板な情動を示す感想(第2の評価情報)を入力した場合は、ラベルが平均的な値に向けて補正されるとよい。
また、既に述べたように、教師あり機械学習においても、ユーザにとって好ましい内部状態が、ユーザからのフィードバックで設定され得る。また、これらの機械学習は、あらかじめ複数のユーザに対して行われ、複数のユーザに対して行われた機械学習によって得られた学習結果は、プリセットされてもよい。
図10は、状態点に対するラベルの関連付けの例を説明するための図である。図10を参照すると、時刻T11~T18には、コンテンツIM-1が出力されている。一方、時刻T21~T28には、コンテンツIM-2が出力されている。コンテンツIM-1は、ゲームコンテンツであり、ユーザによる視認によって、ユーザの集中状態を喚起し得る。一方、コンテンツIM-2は、リラックス用コンテンツであり、ユーザによる視認によって、ユーザのリラックス状態を喚起し得る。
生成部112は、複数の状態点それぞれに対して、対応する生理指標値の検出に応じたタイミングに出力されたコンテンツに付加されたラベルを関連付ける。例えば、状態点E11~E18に対しては、対応する生理指標が検出されたタイミング(時刻T11~T18)に出力されたコンテンツIM-1に付加されたラベル「集中」が関連付けられる。一方、状態点E21~E28に対しては、対応する生理指標が検出されたタイミング(時刻T21~T28)に出力されたコンテンツIM-2に付加されたラベル「リラックス」が関連付けられる。
図11は、複数のクラスタそれぞれに関連付けられるラベルの例を示す図である。クラスタC-1には、集中状態を示すラベルが関連付けられている。クラスタC-2には、リラックス状態を示すラベルが関連付けられている。このように、複数の状態点それぞれに対して、対応する生理指標値の検出に応じたタイミングに出力されたコンテンツに付加されたラベルが関連付けられることによって、複数のクラスタそれぞれに適切なラベルが関連付けられる。
図12は、教師あり機械学習の動作の流れの例を示すフローチャートである。図12に示すように、情報処理装置10において、生成部112によってコンテンツの再生が開始されると(S31)、出力制御装置30によって検出された生理指標値は、情報処理装置10に送信される。情報処理装置10においては、取得部111が、生理指標値を取得し(S32)、生成部112が、この生理指標値に対応する生理指標空間における状態点を算出する(S33)。状態点の算出が複数回行われることによって、ユーザの複数の状態点が算出される。
生成部112は、コンテンツに対する評価情報の入力がない場合には(S34において「No」)、S36に進むが、コンテンツに対する評価情報の入力がある場合には(S34において「Yes」)、ラベルを補正し(S35)、S36に進む。生成部112は、ラベルと状態点との関連付けを行い(S36)、複数の状態点に対する機械学習を開始するまでは(S37において「No」)、S32に遷移する。一方、生成部112は、複数の状態点に対する機械学習を開始する場合には(S37において「Yes」)、複数の状態点に対する機械学習を開始する(S38)。生成部112による機械学習によって、複数のクラスタそれぞれに対してラベルが関連付けられる。
なお、コンテンツやユーザの入力によって付与されるラベルが切り替わった直後の所定の時間の区間に対応する状態点群については、付与されたラベルとは異なる内部状態として扱うために、状態遷移中というフラグを付与することで、より機械学習の精度を高めることも可能である。
以上、教師あり個人化学習について主に説明した。
(2.5.8.メンタルスイッチトレーニング)
上記においては、多様な内部状態をコンテンツによって喚起する例を説明した。一方、所望の内部状態間を効率的に遷移することも、ユーザが望むことの一つである。例えば、仕事時間に集中したのちに、休息時間に入り速やかにリラックスしたい場合などがこれにあたる。以下では、このように指定された遷移元状態と遷移先状態との間で内部状態を効率的に切り替える能力を獲得するためのトレーニングを「メンタルスイッチトレーニング」とも言う。ユーザが遷移先状態を指定することの意義を以下に説明する。
一般に、緊張時に深呼吸をしてリラックスするルーチンを持っている人がいることが知られている。このようなルーチンは、緊張から脱するにはよい手法であると言える。しかし、リラックス状態と集中状態は、自律神経の活動の状態空間内で見ると大きく離れた内部状態である。そのため、一旦リラックスした内部状態から集中を高めるためには、一定の時間が必要になってしまう。この遷移時間を短縮することは、短時間で緊張を脱却し、集中したいユーザにとっての利益となる。一方、緊張状態と集中状態は、どちらも交感神経活動が活性化した内部状態であることが知られており、両者の内部状態空間内での距離はリラックス状態との距離に比べて近い。両者の距離が近いため短時間で遷移できる可能性があるが、内部状態の遷移をユーザが検知することが難しいため、心理的に緊張から脱却しにくいという問題点がある。
上記のとおり、ユーザが望むのは、緊張状態から集中状態への直接的遷移であることがある。そこで、異なる内部状態間を直接的に素早く遷移することが可能な手法が適用されるとよい。ここで、緊張状態から集中状態への遷移を考えた場合、集中状態の範囲のうち緊張状態から距離のある内部状態を遷移先状態として選ぶのがよい。緊張状態から距離がある内部状態への遷移のほうがより意図的に行いやすいし、遷移がユーザに検知されやすい。また、集中状態は、リラックス状態ほど緊張状態から離れていないため、短時間で遷移がなされ得る。
また、何らかの定型的な行動(思考を含む)をきっかけに、内部状態を集中に切り替えるような手法も採用されてよい。そのために、ユーザは、メンタルスイッチトレーニングの際に、何らかの集中を喚起する定型行動を併せて行うようにしておくとよい。これによって、ユーザが随意的に実行できる行動を契機として、内部状態が集中に向かいやすくなる(本番での内部状態切り替えの成功率を高めることが可能となる)。
また、ユーザによる学習により、緊張状態と集中状態との間の距離が離れる傾向も生じ得る。これによって、ユーザは、より容易に緊張状態から集中状態への内部状態遷移を行うことができ、より緊張から離れた質の高い集中を維持することができるようになる。
ユーザが遷移先状態を指定することの意義は、以上のように説明される。メンタルスイッチトレーニングにおいては、ユーザによる遷移元状態および遷移先状態の指定を可能にする。例えば、ユーザは、重要なプレゼンテーション前の緊張状態を感じた場合、その時点を入力してよい。これによって、情報処理装置10は、その時点におけるユーザの状態点を遷移元状態として学習することができる。また、ユーザは、一人でリハーサルしているときに集中状態を感じた場合、その時点を入力することによって、情報処理装置10は、その時点におけるユーザの状態点を遷移先状態として学習することができる。
ユーザは、遷移元状態を感じたときに、バイオフィードバックを受けながら遷移先状態に切り替える練習を行うとよい。このとき、例えば、「意識して不安な内部状態を作る」というのは、心的負荷が高い作業であるため、ユーザにとって好ましい体験ではない。一方、過去にユーザによって視認されたコンテンツのうち、不安を喚起したコンテンツを再度ユーザに視認してもらうことで不安を再現することは、ユーザにとって相対的に心的負荷が低い作業となる。そこで、練習時には、遷移元状態を作るために、コンテンツを視認するのがよい。
また、遷移元状態と遷移先状態との距離が比較的近い場合は、遷移先状態のクラスタの内部のうち、例えば遷移元状態が属するクラスタの重心から距離が遠い内部状態をターゲットとするのがよい。これによって、ユーザにとっては両内部状態の生理的違いを感知しやすくなり、バイオフィードバックによる学習の成功率を高めることが可能となる。また、このような方法でターゲットとして選択される状態点は最善の内部状態に対応しているとは限らないが(例えば、最高に集中できている際の内部状態とは限らない)、緊張状態から離れられるので、遷移先状態としては好適である。このようにしてターゲットとして選択した内部状態に向かって内部状態を変化させることで、ユーザは自身の内部状態の変化を検知しやすくなるため、その変化の検知が契機となって、心理状態の変化をも促すことができる。
図13および図14は、遷移先状態を選択する例を説明するための図である。図13および図14を参照すると、緊張状態と集中状態とリラックス状態とが示されている。クラスタC-41は、複数の集中状態が属するクラスタであり、クラスタC-3は、複数の緊張状態が属するクラスタである。状態点ST-1は、ユーザが最も好適と感じている集中状態を示している。そこで、遷移元状態を緊張状態とし、遷移先状態を集中状態とすることを想定した場合、状態点ST-1が遷移先状態として指定されるのが望ましいとも考えられる。
しかし、既に述べたような理由により、遷移先状態としては、集中状態に対応するクラスタC-41のうち、緊張状態に対応するクラスタC-3の重心から最も遠い内部状態が遷移先状態として選択されるのがよい。また、このような遷移先状態が選択されることによって、ユーザは緊張状態から離れた生理状態の集中状態への遷移を学習することになり、そのような緊張状態から離れた生理状態の集中状態の状態点を安定的に維持できるようになることで、緊張状態のクラスタと集中状態のクラスタとの間の距離が離れる傾向も生じ得る。図14を参照すると、ユーザによる学習後の集中状態に対応するクラスタC-42が、緊張状態に対応するクラスタC-3から離れていることが把握される。これによって、ユーザは、より容易に緊張状態から集中状態への内部状態遷移を行うことができるようになる。
メンタルスイッチトレーニングでは、ユーザがより素早く内部状態を遷移させるように内部状態をコントロールできるようになることが期待される。そのようなユーザの学習を支援するために、処理部312は、生理指標空間における状態点の遷移速度がより高い場合に、より報酬値を高くしてもよい。例えば、処理部312は、ユーザが素早く集中したり、素早くリラックスしたりした場合に、内部状態の切り替えを素早く行うことができたとして、報酬値を高くする。かかる場合、出力制御部313は、生理指標空間における状態点の遷移速度に応じた出力情報の出力を制御するとよい。
処理部312は、どのように状態点の遷移速度を算出してもよい。例えば、ユーザが状態点を遷移させた場合に、ユーザの状態点が遷移元の状態点から遷移先の状態点まで遷移するのに掛かった時間が短いほど、遷移速度が高く算出されてもよい。遷移元および遷移先の状態点それぞれのタイミングは、ユーザによって指定されてもよいし、処理部312が状態点の遷移開始時および遷移終了時を自動的に認識して、遷移開始時および遷移終了時それぞれの状態点を遷移元および遷移先それぞれの状態点として指定してもよい。
あるいは、処理部312は、異なる二つのクラスタ間で状態点が遷移した場合に、遷移元のクラスタの内部から遷移先のクラスタの内部に状態点が遷移するのに掛かった時間を遷移速度としてもよい。本明細書においては、異なる二つのクラスタが、ユーザ自身の過去の状態点から形成される場合を主に想定するが、異なる二つのクラスタの少なくとも一方は、事前に計測された他のユーザ(例えば、ユーザの属性が類似する他のユーザのクラスタなど)の状態点から形成されてもよい。属性は、性別および年齢などであってよい。
図15は、生理指標空間における状態点の遷移速度に応じた出力情報について説明するための図である。図15を参照すると、過去の状態点がクラスタC-1とクラスタC-2とに分類されている。クラスタC-1およびクラスタC-2は、機械学習によって形成され得るが、かかる機械学習は行われなくてもよい。また、何らかの方法で状態点にラベル付けを行い、そのラベル値を元にクラスタを形成しても良い。
ユーザの遷移元の状態点がどこであるかは限定されない。ここでは、ユーザの遷移元の状態点がクラスタC-1の内部に存在する場合を想定する。ここで、状態点が経路R-12を短時間で通ってクラスタC-2の内部に遷移した場合と、状態点が経路R-22を長時間で通ってクラスタC-2の内部に遷移した場合とを想定する。
状態点が経路R-12を短時間で通ってクラスタC-2の内部に遷移した場合に、状態点の遷移速度が所定の閾値よりも高かったとする。かかる場合、出力制御部313は、状態点の遷移速度が閾値よりも高い旨を示す出力情報の出力を制御すればよい。所定の閾値としては、例えばクラスタC-1・C-2間の過去の遷移速度の平均値に定数を乗じた値などを用いても良い。
ユーザは、内部状態の遷移速度に関する量的なフィードバックを受けることによって、バイオフィードバックの原理により、現在行っている内部状態の遷移をより素早く行いやすくなる。また、ユーザは、より素早く内部状態を遷移させることを学習することが可能となる。具体的な出力情報の例は、後に説明する。
一方、状態点が経路R-22を長時間で通ってクラスタC-2の内部に遷移した場合に、状態点の遷移速度が所定の閾値よりも低かったとする。かかる場合、出力制御部313は、状態点の遷移速度は閾値よりも低い旨を示す出力情報の出力を制御すればよい。具体的な出力情報の例は、後に説明する。
メンタルスイッチトレーニングでは、ユーザが内部状態をより安定させるように内部状態をコントロールできるようになることが期待される。そのようなユーザの学習を支援するために、処理部312は、生理指標空間における状態点の安定度がより高い場合に、より報酬値を高くしてもよい。例えば、処理部312は、ユーザが集中を切らさなかったり、リラックスを乱さなかったりした場合に、内部状態の安定させることができたとして、報酬値を高くする。かかる場合、出力制御部313は、生理指標空間における状態点の安定度に応じた出力情報の出力を制御するとよい。
処理部312は、どのように状態点の安定度を算出してもよい。例えば、ユーザの状態点の所定の時間内の動揺範囲の大きさが小さいほど、安定度が高く算出されてもよい。あるいは、ユーザが状態点を遷移させた場合に、遷移先における状態点の所定の時間内の動揺範囲の大きさが小さいほど、安定度が高く算出されてもよい。
このとき、状態点の遷移距離が大きいほど遷移先で状態点を安定させるのは難しいと考えられるため、処理部312は、状態点の遷移距離の大きさに応じた係数を用いることによって安定度を正規化してもよい。より具体的には、処理部312は、状態点の直近の遷移距離が大きいほど、大きい係数を安定度に乗じることによって安定度を正規化してもよい。
一方、現在の状態点が属するクラスタと近接するクラスタの距離が近い場合には、距離が長い場合に比べて、より小さな動揺で近傍の内部状態への切り替えが起きえる。このため、ユーザがある内部状態に安定して留まるトレーニングを行う場合、近傍のクラスタとの距離が近いほど、状態点の動揺をより鋭敏に出力するのが好ましい。そこで、処理部312は、遷移先の状態点から最も近いクラスタまでの距離に応じた係数を用いることによって安定度を正規化してもよい。より具体的には、処理部312は、遷移先の状態点から最も近いクラスタまでの距離が短いほど、大きい係数を安定度に乗じることによって安定度を正規化してもよい。
また、本明細書においては、異なる二つのクラスタは、ユーザ自身の過去の状態点から形成される場合を主に想定する。しかし、異なる二つのクラスタの少なくとも一方は、他のユーザ(例えば、ユーザの属性が類似する他のユーザのクラスタなど)の状態点から形成されてもよい。
図16は、生理指標空間における状態点の安定度に応じた出力情報について説明するための図である。図16を参照すると、過去の状態点がクラスタC-1とクラスタC-2とに分類されている。なお、図15を参照しながら説明した例と同様に、クラスタC-1およびクラスタC-2は、機械学習によって形成され得るが、かかる機械学習は行われなくてもよい。
図15を参照しながら説明した例と同様に、ユーザの遷移元の状態点がどこであるかは限定されない。ここでは、ユーザの遷移元の状態点がクラスタC-1の内部に存在する場合を想定する。ここで、ユーザがクラスタC-2への状態点の遷移を試みた結果、状態点が遷移先において安定した場合(経路R-13)と、状態点が遷移先において安定しない場合(経路R-23)とを想定する。
状態点が遷移先において安定した場合(経路R-13)と遷移先において安定しない場合(経路R-23)では、遷移した後の状態点の安定度は異なる。かかる場合、出力制御部313は、各々の状態点の安定度に対応した出力情報の出力を制御すればよい。具体的な出力情報の例は、後に説明する。
なお、ユーザは、自身の内部状態を感じながら、ユーザにとって意味のある内部状態(例えば、ユーザにとって集中できている状態点)あるいは状態変化(例えば素早くリラックスできた)であると感じた場合には、フラグ関連付け操作を入力してもよい。かかる場合、操作部320は、ユーザからフラグ関連付け操作を受け付けると、処理部312は、現在の状態点あるいは状態点の変化にフラグを関連付けてよい。そうすれば、現在の状態点(および、現在の状態点が属するクラスタ)を遷移元または遷移先の状態点として後に指定することが可能となる。
ユーザは、このような出力情報を知覚することによって、バイオフィードバックの原理により、より内部状態を安定させるようになる。また、ユーザは、より内部状態を安定させることを学習することが可能となる。具体的な出力情報の例は、後に説明する。
上記の例に示したように、生理指標値に対応する生理指標空間における状態点の変化に応じた出力情報が出力される。ここで、出力情報は、視覚情報(動画または静止画)であってもよいし、音声情報を含んでもよいし、触覚情報を含んでもよい。ここでは、出力情報が動画を含む場合を例として説明する。しかし、出力情報が動画を含む場合に限定されない。
図17は、現在の状態点を基準とした過去の状態点の分布密度に応じた出力情報の表示例を示す図である。図17を参照すると、表示オブジェクトFB-11、および、表示オブジェクトFB-21が示されている。表示オブジェクトFB-11は、ハート型の小さいオブジェクトであり、表示オブジェクトFB-21は、ハート型の大きいオブジェクトである。しかし、表示オブジェクトFB-11、および、表示オブジェクトFB-21それぞれの形状およびサイズは特に限定されない。
例えば、出力制御部313は、遷移先の状態点(現在の状態点)を基準とした過去の状態点の分布密度に応じて、ハート形のオブジェクトのサイズをFB-11からFB-21の間の値で決定し、出力を制御してよい。具体的には、上記のメンタルストレッチトレーニングの例では、分布密度が0の場合にFB-11を、分布密度が空間内の最高値の場合にFB-21を、その中間の値の場合に、その値に応じてFB-11とFB-21の中間のサイズのオブジェクトを出力する。
なお、ここでは、オブジェクトのサイズを連続値で決定する場合を示したが、一つあるいは複数の閾値を用いて表示を制御してもよい。すなわち、遷移先の状態点(現在の状態点)を基準とした過去の状態点の分布密度が小さいほど、大きな表示オブジェクトとなるように、2段階あるいは多段階に設定されたオブジェクトを選択してよい。
図18は、生理指標空間における状態点の遷移速度に応じた出力情報の表示例を示す図である。図18を参照すると、表示オブジェクトFB-13、表示オブジェクトFB-33、および、表示オブジェクトFB-23が示されている。表示オブジェクトFB-13は、第1の色(例えば、青色)のハート型のオブジェクトであり、表示オブジェクトFB-23は、第2の色(例えば、緑色)のハート型のオブジェクトである。しかし、表示オブジェクトFB-13、および、表示オブジェクトFB-23それぞれの形状および色は特に限定されない。
例えば、出力制御部313は、生理指標空間における状態点の遷移速度(例えば、集中状態からリラックス状態への遷移速度)が閾値よりも高い場合には、アニメーション付きの表示オブジェクトFB-33の出力を制御してもよい。アニメーション付きの表示オブジェクトFB-33は、表示オブジェクトFB-13の内側に小さく出現した表示オブジェクトFB-23が徐々に大きくなるようなアニメーションであってよい。現在の状態点の位置、遷移元クラスタおよび遷移先クラスタの位置関係に応じて遷移の進捗度を算出することが可能だが、内側の小さなオブジェクトのサイズは、進捗度に応じて徐々に大きくなって良い。一方、出力制御部313は、生理指標空間における状態点の遷移速度(例えば、集中状態からリラックス状態への遷移速度)が閾値よりも低い場合には、アニメーション付きの表示オブジェクトFB-33を表示させなくてもよい。その場合、上記の遷移の進捗度に応じてFB-13とFB-23の中間色でオブジェクトを提示することで、色調変化を用いて遷移速度をユーザに出力しても良い。このような出力により、閾値を下回る場合でも、ユーザは色調のグラデーション的変化により量的なフィードバックを得ることができる。
また、別の実現方法として、遷移速度とオブジェクトの大きさを対応付け、分布密度と色調を対応付ける方法であっても良い。
なお、ここでは、閾値が一つである場合を示したが、閾値は二つ以上あってもよい。例えば、生理指標空間における状態点の遷移速度が高くに応じて、使用するアニメーション効果を段階的に変更してもよい。
図19は、生理指標空間における状態点の安定度に応じた出力情報の表示例を示す図である。図19を参照すると、表示オブジェクトFB-12、および、表示オブジェクトFB-22が示されている。表示オブジェクトFB-12は、ハート型の輪郭が震えるオブジェクトであり、表示オブジェクトFB-22は、ハート型の輪郭が静止したオブジェクトである。しかし、表示オブジェクトFB-12、および、表示オブジェクトFB-22それぞれの形状および動きは特に限定されない。
例えば、出力制御部313は、生理指標空間における状態点の安定度に応じて出力を制御してよい。具体的には、出力制御部313は、生理指標空間における状態点の安定度が所定の最低閾値よりも低い場合には、ハート型の輪郭が最大振幅で震える表示オブジェクトFB-12を出力するよう制御し、生理指標空間における状態点の安定度が所定の最高閾値よりも高い場合には、ハート型の輪郭が静止した表示オブジェクトFB-22を出力するよう制御し、生理指標空間における状態点の安定度が所定の最高・最低閾値の間の値の場合、安定度の値に応じた、FB-12とFB-22の中間の振幅で振動するオブジェクトを決定して出力するよう制御してよい。
なお、ここでは、アニメーションの効果として、安定度に応じて振幅が変化する場合を示したが、他にも様々な効果が適用可能である。すなわち、生理指標空間における状態点の安定度が高くなるほど、表示オブジェクトの振動周期が大きくなるアニメーション効果を施しても良いし、生理指標空間における状態点の安定度が高くなるほど、表示オブジェクトの振動の振幅は小さくなってもよい、その両方であっても良い。
上記のとおり、複数の状態値変化にそれぞれ所定のオブジェクト変化を割り当てることで、同時に複数の状態値変化をユーザに対して出力することができる。上記の他にも、オブジェクトのテクスチャ・形状・輝度など、様々なオブジェクトの特性と状態値変化を対応付けてよい。当然、状態値変化の種類とオブジェクト変化の種類の対応付けは任意であり、上記のものに限定されない。
図20は、メンタルスイッチトレーニングの動作の例を示すフローチャートである。なお、図20に示したフローチャートは、メンタルスイッチトレーニングの動作の一例を示したに過ぎない。したがって、メンタルストレッチトレーニングの動作は、図20に示したフローチャートの動作例に限定されない。
まず、ユーザは、遷移元状態として指定したい内部状態を体験した場合、所定の遷移元指定操作を入力する。所定の遷移元指定操作は、どのような操作であってもよい(例えば、ボタン押下操作であってもよい)。処理部312は、ユーザによる所定の遷移元指定操作が検出された場合、遷移元指定操作の検出に応じたタイミングに検出された生理指標値に対応する状態点に、遷移元状態を示すフラグを関連付ける。
また、ユーザは、遷移先状態として指定したい内部状態を体験した場合、所定の遷移先指定操作を入力する。所定の遷移先指定操作は、どのような操作であってもよい(例えば、ボタン押下操作であってもよい)。処理部312は、ユーザによる所定の遷移先指定操作が検出された場合、遷移先指定操作の検出に応じたタイミングに検出された生理指標値に対応する状態点に遷移先状態を示すフラグを関連付ける。
このとき、上記したように、遷移元状態を示すフラグが関連付けられた状態点と遷移先状態を示すフラグが関連付けられた状態点とが所定の距離よりも近い場合が想定される。かかる場合、処理部312は、遷移先状態を示すフラグが関連付けられる状態点を切り替えるとよい。より具体的には、処理部312は、遷移先状態を示すフラグが関連付けられる状態点を、遷移元状態を示すフラグが関連付けられた状態点に対応するクラスタのうち、最も遠い状態点に切り替えるとよい。
続いて、図20に示したように、情報処理装置10において、生成部112によって遷移元状態に対応するコンテンツの再生が開始されると(S51)、表示装置20において、表示部260によって遷移元状態に対応するコンテンツが出力される。ユーザは、このように出力されたコンテンツを視認することによって、遷移元状態が喚起される。そして、コンテンツを視認している間に、出力制御装置30におけるセンサ部330によって、生理指標値が検出される。
出力制御装置30において、データ取得部311によって生理指標値が取得されると、処理部312によって、生理指標値に対応する生理指標空間における状態点が算出される。出力制御部313は、遷移元状態を示すフラグが関連付けられた状態点と現在の状態点とが所定の関係を満たした場合(例えば、同一のクラスタに属した場合など)(S52において「Yes」)、現在の状態が遷移元状態に達した旨の出力を制御する。生成部112は、遷移元状態に対応するコンテンツの再生を終了する(S53)。一方、出力制御部313は、遷移元状態を示すフラグが関連付けられた状態点と現在の状態点とが所定の関係を満たさない場合(S52において「No」)、S52に戻る。
出力制御装置30において、データ取得部311によって生理指標値が取得されると(S54)、処理部312によって、生理指標値に対応する生理指標空間における状態点が算出される(S55)。処理部312は、状態点の変化として、初期(遷移元)状態点から現在の状態点への変位を算出し、遷移先状態点との位置関係に基づいて報酬値を算出する(S56)。ここで、状態点の変化として、現在の状態点を基準とした過去の状態点の分布密度、状態点の遷移速度、および、状態点の安定度などを追加で算出し、報酬値に反映してもよい。そして、出力制御部313は、報酬値に応じたフィードバック(報酬値に応じた出力情報の出力制御)を行う(S57)。
ここで、状態点の変化と遷移先状態とに基づいて報酬値の算出は、どのようになされてもよい。出力制御部313は、報酬値に応じたフィードバックをしてもよい。例えば、上記の初期(遷移元)状態点、現在の状態点、遷移先の状態点の情報を用いて、図18に示した遷移速度によるフィードバックを行ってよい。あるいは、出力制御部313は、報酬値に応じたフィードバックを繰り返している間に、遷移先状態を示すフラグが関連付けられた状態点と現在の状態点とが所定の関係を満たした場合、現在の内部状態が遷移先状態に達した旨の出力を制御してもよい。
制御部310は、メンタルスイッチトレーニングが継続される場合には(S58において「No」)、S54に戻る。一方、制御部310は、メンタルスイッチトレーニングが終了される場合には(S58において「Yes」)、動作を終了する。これらの状態点の変化に基づく報酬値の算出、報酬値に応じたフィードバックは、既に説明した通りである。
メンタルスイッチトレーニングによって、以下に示すような効果が享受される。まず、ユーザは、メンタルスイッチトレーニングによって、今まで訓練が困難だった内部状態間の切り替えを訓練することが可能になる。例えば、ユーザは、生理指標空間内で近い距離を持つ2つの内部状態間の切り替え訓練が可能となる。また、ユーザは、遠い内部状態を一度経由することなく直接遷移の訓練が可能となる。また、内部状態の遷移速度を向上させる訓練が可能となる。
また、メンタルスイッチトレーニングによって、2つの内部状態に対応した生理指標空間上での距離を引き離す効果を得ることができる。それにより、生理状態の変化をきっかけに2つの内部状態の間をユーザが心理状態としても遷移することが容易になる。例えば、緊張と集中の生理状態の差を、ユーザが検知しやすくなるため、生理的な状態変化の知覚をきっかけに、心理状態を集中状態に切り替えることが容易になる。また、緊張と集中のクラスタ間の距離が広がるため、状態値の動揺による影響を受けにくくなり、集中した状態をより維持しやすくなる。
また、ターゲットとする内部状態にとってより望ましい方向に変化の方向をドリフトさせることにより、より好適な内部状態を得ることができるようになる。例えば、以前の内部状態では、集中を深めようとすると、交感神経活性度だけが一方的に高まってしまい、過緊張をもたらしやすかったとする。そのような場合により副交感神経活性度が高い方向に遷移先状態値をドリフトさせることにより、より安定して深い集中状態を維持できるようになる。一般に、どのような内部状態点が好適であるかは個人によって異なり、同一個人であっても環境・状況によって異なるが、個人化学習によって、ユーザにとって適切な遷移先点を見出すことができる。
また、メンタルスイッチトレーニングによって、ユーザに実際に現れている内部状態の差を出発点として、トレーニングができる。また、ユーザに実際に現れている内部状態の差を広げることによって、ユーザの内部状態をより好適な内部状態に誘導することができる。
以上、メンタルスイッチトレーニングについて主に説明した。
<3.推定器の生成の概要>
生体センサによって検出された生理指標値に基づいて、ユーザの内部状態を推定することが可能である。ユーザの内部状態を推定する推定器としては、以下に説明するような推定器を利用することも可能である。以下では、ユーザの内部状態を推定する推定器の生成の概要を説明する。まず、ウェアラブルデバイスで検出された末梢データを利用して、ユーザの内部状態を推定する場合を想定する。
図21は、少数ラベルと末梢データとを用いて推定器を生成する場合を説明するための図である。図21を参照すると、少数ラベルL-1を教師信号とし、末梢モーダルデータ(末梢データ)51-1を入力信号として、機械学習によって末梢モーダル内部状態推定器41-1を生成する場合が示されている。しかし、末梢データを利用して、ユーザの内部状態を推定する場合、末梢データは、内部状態の多くが決定される中枢からから離れた場所において検出されるため、中枢データに比べて内部状態の情報量が少なく、高精度な内部状態の推定が難しい。
ここで、内部状態推定の精度を向上させるために、ラベルを大量に手動で作成する場合を想定する。図22は、大量ラベルと末梢データとを用いて推定器を生成する場合を説明するための図である。図22を参照すると、大量ラベルL-2を教師信号とし、末梢モーダルデータ(末梢データ)51-1を入力信号として、機械学習によって末梢モーダル内部状態推定器41-1を生成する場合が示されている。
しかし、大量のラベルを手動で作成するには、コストが掛かってしまう。また、ラベルを作成する作業がユーザの心理的な状態に対して影響を与えてしまう(集中状態およびリラックス状態などを乱してしまうことがある)。また、人は必ずしも、常に集中状態およびリラックス状態を意識している訳ではないため、連続して適切なラベルを取得することは難しい。
一方、脳波などの中枢データを用いて、ユーザの内部状態を推定する場合を想定する。図23は、少数ラベルと中枢データとを用いて推定器を生成する場合を説明するための図である。図23を参照すると、少数ラベルL-3を教師信号とし、中枢データ52-1を入力信号として、機械学習によって高精度内部状態推定器42-1を生成する場合が示されている。
中枢データ52-1には、ある時間の区間全体に対して一種類のラベル値が付加されてもよいが、複数の異なるラベル値を持つ複数の時間の区間を含んでもよい。かかる場合、中枢データ52-1に含まれる複数の時間の区間それぞれに対して、二種類以上のラベルのうちのいずれか一つが付加されてもよい。また、付加されるラベルは連続値の数値であっても良い。
図24は、中枢データ52-1に含まれる複数の時間の区間に対して二種類のラベルが付加される例を示す図である。図24に示すように、二種類のラベルは、作業中であることを示す値、休息中であることを示す値のいずれかであってよい。例えば、作業は、ゲームコンテンツをプレイする作業などであってよい。あるいは、二種類のラベルは、内部状態を示す値(集中状態であるか否かを示す値など)であってもよい。
図25は、中枢データ52-1に含まれる複数の時間の区間に対して三種類以上のラベルが付加される例を示す図である。図25に示すように、三種類以上のラベルは、作業中のタスク得点のように連続値であってもよい。例えば、作業中のタスク得点は、作業がゲームコンテンツをプレイする作業である場合、ゲームコンテンツの得点であってよい。あるいは、三種類以上のラベルは、内部状態を示す値(集中状態、注意している状態、眠気のある状態、リラックス状態など)であってもよい。このとき、末梢モーダル内部状態推定器41-3を用いて、これらのいずれかの内部状態が推定されてよい。
このように、中枢データを用いて、ユーザの内部状態を推定することは可能である。しかし、現状のデバイス技術では、中枢データを日常的に測定するのはユーザにとって負担になる。また、中枢データは、センシティブなデータであるため、中枢データからノイズを除去することが重要であるが、ノイズを十分除外するのは難しい。
したがって、ユーザの内部状態をよりロバストに、かつ、より高精度に推定することは、様々な場面において重要である。そこで、以下では、ユーザの内部状態をよりロバストに、かつ、より高精度に推定する技術を主に説明する。
<4.推定器の生成の実施形態>
図26は、本開示の実施形態に係る推定器の生成の例を説明するための図である。まず、図23を参照しながら説明したように、生成部112は、中枢データ52-2(第1の中枢データ)と中枢データ52-2に関連付けられたラベル(例えば、少数ラベルL-3)とに基づいて、高精度内部状態推定器42-1(第1の状態推定器)を生成する。より具体的には、生成部112は、ラベルを第1の教師信号として用い、かつ、中枢データ52-2を第1の入力信号として用いた機械学習によって高精度内部状態推定器42-1を生成する。取得部111は、このように生成された高精度内部状態推定器42-1を取得する。
また、図26に示したように、生成部112は、中枢データ52-2(第2の中枢データ)と高精度内部状態推定器42-1とに基づいて推定されたユーザの内部状態と、末梢モーダルデータ51-1(末梢データ)とに基づいて、末梢モーダル内部状態推定器41-3(第2の状態推定器)を生成する。より具体的には、生成部112は、推定されたユーザの内部状態を第2の教師信号として用い、かつ、末梢モーダルデータ51-1を第2の入力信号として用いた機械学習によって末梢モーダル内部状態推定器41-3を生成する。中枢データ52-2と末梢モーダルデータ51-1とは、対応するタイミング(例えば、略同一のタイミング)に検出される。
以上に説明したように、本開示の実施形態において、日常環境では測定に負担のかかる中枢データの代わりに、末梢データを用いた推定を行う。また、末梢データから精度よく内部状態を推定するためには、大量の状態点と教師となるラベルが必要であるが、手動生成に手間の掛かる大量のラベルを用いる代わりに、少量のラベルで機械学習した中枢データによる推定器の出力をラベルとして用いる。このように、本開示の実施形態によれば、中枢データ(例えば、大量の中枢データ)とロバストな末梢モーダルデータとを用いて、高精度な末梢モーダル内部状態推定器41-3を生成することが可能となる。
中枢データを使って末梢データの推定器を学習する利点は、以下の通りである。まず、長時間、かつ、多サンプルのラベルを生成して安価に学習ができる。例えば、主観で決定するラベルよりも直接的に内部状態を反映したラベルが生成できる。また、ラベルの取得が内部状態を乱さない。すなわち、内部状態の評価行動が心理状態に影響を与えない。また、生理的な信号が直接測定されるため、連続的にラベルを生成できる。
自律神経活動を反映する末梢データを用いる利点は、以下の通りである。まず、自律神経活動は、反応の時定数が数秒から数分あるので、ミリ秒単位で急速に変化する中枢データを用いた推定器より末梢データを用いた推定器は安定した推定出力を行う。また、自律神経活動は、リラックスや集中などと関連した活動であるため、人の現在のパフォーマンスを推定するのに適している。
また、ラベルの関連付け作業には、ユーザにラベルが付加されたコンテンツを視認させるのがよい。すなわち、生成部112は、コンテンツが出力されている間に検出された中枢データ52-2に対してラベルを関連付けるとよい。これによって、機械学習がより適切になされることが期待される。さらに、コンテンツは、VRを用いて構成されたVRコンテンツを含むのがよい。そうすれば、ユーザはより強く臨場感を味わうことができるため、ユーザの内部状態がより強く喚起されることが期待される。
また、末梢モーダル内部状態推定器41-3の精度は学習段階に従って変化し得る。そこで、末梢モーダル内部状態推定器41-3の精度がどの程度向上したかがユーザに把握されるようにしてもよい。そこで、出力部113は、中枢データに基づく高精度内部状態推定器42-1の出力と末梢データに基づく末梢モーダル内部状態推定器41-3による推定結果との関係が所定の条件を満たした場合に、所定の出力情報(例えば、推定器の精度が向上したことを示す情報など)を出力してもよい。
例えば、所定の出力情報は、出力制御装置30における出力制御部313によって出力制御され、ユーザによって知覚されるようにしてもよい。例えば、所定の条件は、末梢モーダル内部状態推定器41-3による推定結果と中枢データに基づく高精度内部状態推定器42-1の出力との誤差が閾値よりも小さいという条件を含んでもよい。また、末梢モーダル内部状態推定器41-3の精度は、コンテンツに反映されてもよい。例えば、精度が閾値を超える末梢モーダル内部状態推定器41-3が生成されるまでは、先に進まないゲームコンテンツが提供されてもよい。
また、末梢モーダル内部状態推定器41-3の精度が十分に高い場合は、出力制御装置30のみを用いて、上記の様々な出力をユーザに提供することができる。このような動作を行う場合、表示装置20および情報処理装置10は不要であるので、屋外やオフィス環境など、多くの装置を配置できない環境においても、ウェアラブルな装置である出力制御装置30のみを用いて、ユーザは末梢データの測定を行い、所望の出力を享受できる。
図27は、本実施形態に係る推定器の生成の動作例を示すフローチャートである。図27に示すように、表示装置20において、中枢データが検出され(S61)、中枢データが情報処理装置10に送信される(S62)。情報処理装置10においては、中枢データが受信される(S71)。そして、情報処理装置10においては、中枢データとラベルとに基づいて、高精度内部状態推定器が生成される(S72)。
また、出力制御装置30においては、末梢データが検出され(S81)、末梢データが情報処理装置10に送信される(S82)。情報処理装置10においては、末梢データが受信される(S73)。さらに、表示装置20においては、末梢データの検出に対応するタイミングに中枢データが検出され(S63)、中枢データが情報処理装置10に送信される(S64)。情報処理装置10においては、中枢データが受信される(S74)。そして、情報処理装置10においては、高精度内部状態推定器と中枢データと末梢データとに基づいて、末梢モーダル内部状態推定器が生成される(S75)。
情報処理装置10においては、末梢モーダル内部状態推定器が出力制御装置30に送信され(S76)、出力制御装置30においては、末梢モーダル内部状態推定器が受信される(S83)。出力制御装置30においては、末梢モーダル内部状態推定器を利用したユーザの内部状態推定がなされる(S84)。
本実施形態に係る推定器の生成においては、ユーザの作業中(例えば、デスクワークなど)に、脳波と末梢データを長時間取得することが可能である。そして、脳波を用いて生成されたラベルと末梢データとを用いて、推定器を生成することが可能である。その結果として、十分に高い精度でタスクリラックス状態を判別することが可能である。ユーザは、作業負荷に応じた段階で反応を示す。末梢データは、脳波のように敏感でないため、末梢データを用いた推定結果は、一般のデスクワーク時にも安定した結果を示す。
例えば、事前の多人数の計測によって平均的な末梢データを用いた推定器を事前に用意し、その推定器を活用することもできる。かかる場合、脳波計をユーザが一度装着すれば、ユーザの内部状態推定精度は高まると考えられる。
<5.ハードウェア構成例>
次に、図28を参照して、本開示の実施形態に係る情報処理装置10のハードウェア構成について説明する。図28は、本開示の実施形態に係る情報処理装置10のハードウェア構成例を示すブロック図である。なお、本開示の実施形態に係る表示装置20および出力制御装置30のハードウェア構成も、図28に示した情報処理装置10のハードウェア構成例と同様にして実現され得る。
図28に示すように、情報処理装置10は、CPU(Central Processing unit)901、ROM(Read Only Memory)903、およびRAM(Random Access Memory)905を含む。CPU901、ROM903およびRAM905によって、制御部110が実現され得る。また、情報処理装置10は、ホストバス907、ブリッジ909、外部バス911、インターフェース913、入力装置915、出力装置917、ストレージ装置919、ドライブ921、接続ポート923、通信装置925を含んでもよい。さらに、情報処理装置10は、必要に応じて、撮像装置933、およびセンサ935を含んでもよい。情報処理装置10は、CPU901に代えて、またはこれとともに、DSP(Digital Signal Processor)またはASIC(Application Specific Integrated Circuit)と呼ばれるような処理回路を有してもよい。
CPU901は、演算処理装置および制御装置として機能し、ROM903、RAM905、ストレージ装置919、またはリムーバブル記録媒体927に記録された各種プログラムに従って、情報処理装置10内の動作全般またはその一部を制御する。ROM903は、CPU901が使用するプログラムや演算パラメータなどを記憶する。RAM905は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータなどを一時的に記憶する。CPU901、ROM903、およびRAM905は、CPUバスなどの内部バスにより構成されるホストバス907により相互に接続されている。さらに、ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。
入力装置915は、例えば、ボタンなど、ユーザによって操作される装置である。入力装置915は、マウス、キーボード、タッチパネル、スイッチおよびレバーなどを含んでもよい。また、入力装置915は、ユーザの音声を検出するマイクロフォンを含んでもよい。入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、情報処理装置10の操作に対応した携帯電話などの外部接続機器929であってもよい。入力装置915は、ユーザが入力した情報に基づいて入力信号を生成してCPU901に出力する入力制御回路を含む。ユーザは、この入力装置915を操作することによって、情報処理装置10に対して各種のデータを入力したり処理動作を指示したりする。また、後述する撮像装置933も、ユーザの手の動き、ユーザの指などを撮像することによって、入力装置として機能し得る。このとき、手の動きや指の向きに応じてポインティング位置が決定されてよい。なお、入力装置915によって、上記した操作部120が実現され得る。
出力装置917は、取得した情報をユーザに対して視覚的または聴覚的に通知することが可能な装置で構成される。出力装置917は、例えば、LCD(Liquid Crystal Display)、有機EL(Electro-Luminescence)ディスプレイなどの表示装置、スピーカおよびヘッドホンなどの音出力装置などであり得る。また、出力装置917は、PDP(Plasma Display Panel)、プロジェクタ、ホログラム、プリンタ装置などを含んでもよい。出力装置917は、情報処理装置10の処理により得られた結果を、テキストまたは画像などの映像として出力したり、音声または音響などの音として出力したりする。また、出力装置917は、周囲を明るくするためライトなどを含んでもよい。
ストレージ装置919は、情報処理装置10の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置919は、例えば、HDD(Hard Disk Drive)などの磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、または光磁気記憶デバイスなどにより構成される。このストレージ装置919は、CPU901が実行するプログラムや各種データ、および外部から取得した各種のデータなどを格納する。
ドライブ921は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブル記録媒体927のためのリーダライタであり、情報処理装置10に内蔵、あるいは外付けされる。ドライブ921は、装着されているリムーバブル記録媒体927に記録されている情報を読み出して、RAM905に出力する。また、ドライブ921は、装着されているリムーバブル記録媒体927に記録を書き込む。
接続ポート923は、機器を情報処理装置10に直接接続するためのポートである。接続ポート923は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポートなどであり得る。また、接続ポート923は、RS-232Cポート、光オーディオ端子、HDMI(登録商標)(High-Definition Multimedia Interface)ポートなどであってもよい。接続ポート923に外部接続機器929を接続することで、情報処理装置10と外部接続機器929との間で各種のデータが交換され得る。
通信装置925は、例えば、ネットワーク931に接続するための通信デバイスなどで構成された通信インターフェースである。通信装置925は、例えば、有線または無線LAN(Local Area Network)、Bluetooth(登録商標)、またはWUSB(Wireless USB)用の通信カードなどであり得る。また、通信装置925は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または、各種通信用のモデムなどであってもよい。通信装置925は、例えば、インターネットや他の通信機器との間で、TCP/IPなどの所定のプロトコルを用いて信号などを送受信する。また、通信装置925に接続されるネットワーク931は、有線または無線によって接続されたネットワークであり、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信または衛星通信などである。なお、通信装置925によって、上記した通信部150が実現され得る。
撮像装置933は、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子、および撮像素子への被写体像の結像を制御するためのレンズなどの各種の部材を用いて実空間を撮像し、撮像画像を生成する装置である。撮像装置933は、静止画を撮像するものであってもよいし、また動画を撮像するものであってもよい。なお、撮像装置933によって、上記したセンサ部130が実現され得る。撮像装置933は、表示装置20においてはゴーグル内部に、視線方向、瞳孔径、瞬き、瞼の開き具合等の生体情報を検出するために設置されてよい。
センサ935は、例えば、測距センサ、加速度センサ、ジャイロセンサ、地磁気センサ、振動センサ、光センサ、音センサなどの各種のセンサである。センサ935は、例えば情報処理装置10の筐体の姿勢など、情報処理装置10自体の状態に関する情報や、情報処理装置10の周辺の明るさや騒音など、情報処理装置10の周辺環境に関する情報を取得する。また、センサ935は、GPS(Global Positioning System)信号を受信して装置の緯度、経度および高度を測定するGPSセンサを含んでもよい。なお、センサ935によって、上記した検出部130が実現され得る。センサ935は、表示装置20においては、生体情報を取得するために、例えば脳波センサ、脳磁センサ、NIRSセンサ、脈波センサ、眼電センサ、血流センサ、SPO2センサ、発汗センサ、温度センサ、などの各種生体センサをも含む。また、センサ935は、出力制御装置30においては、末梢情報を取得するために、例えば脈波センサ、筋電センサ、血流センサ、SPO2センサ、発汗センサ、温度センサ、などの各種生体センサをも含む。
<6.むすび>
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記した情報処理装置10、表示装置20および出力制御装置30の動作が実現されれば、各構成の位置は特に限定されない。情報処理装置10における各部の処理の一部は表示装置20または出力制御装置30によって行われてもよい。また、表示装置20および出力制御装置30における各部の処理の一部は情報処理装置10によって行われてもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
生体センサに基づく生理指標値に対応する生理指標空間における状態点の変化に応じた出力情報の出力を制御する出力制御部を備える、
出力制御装置。
(2)
前記出力制御部は、前記生理指標空間における現在の状態点を基準とした過去の状態点の分布密度に応じた出力情報の出力を制御する、
前記(1)に記載の出力制御装置。
(3)
前記出力制御部は、前記生理指標空間における状態点の遷移速度に応じた出力情報の出力を制御する、
前記(1)または(2)に記載の出力制御装置。
(4)
前記出力制御部は、前記生理指標空間における状態点の安定度に応じた出力情報の出力を制御する、
前記(1)~(3)のいずれか一項に記載の出力制御装置。
(5)
前記出力制御部は、前記生理指標空間における前記状態点の変化に応じた報酬値を取得し、前記報酬値に応じた前記出力情報の出力を制御する、
前記(1)~(4)のいずれか一項に記載の出力制御装置。
(6)
前記生理指標値は、コンテンツが出力されている間に前記生体センサによって検出される、
前記(1)~(5)のいずれか一項に記載の出力制御装置。
(7)
前記出力制御装置は、
ユーザによる所定の遷移元指定操作が検出された場合、前記遷移元指定操作の検出に応じたタイミングに前記生体センサによって検出された生理指標値に対応する状態点に遷移元状態を示すフラグを関連付ける処理部を備える、
前記(1)~(6)のいずれか一項に記載の出力制御装置。
(8)
前記出力制御部は、前記遷移元状態を示すフラグが関連付けられた状態点と現在の状態点とが所定の関係を満たした場合、現在の内部状態が遷移元状態に達した旨の出力を制御する、
前記(7)に記載の出力制御装置。
(9)
前記出力制御装置は、
ユーザによる所定の遷移先指定操作が検出された場合、前記遷移先指定操作の検出に応じたタイミングに前記生体センサによって検出された生理指標値に対応する状態点に遷移先状態を示すフラグを関連付ける処理部を備える、
前記(1)~(6)のいずれか一項に記載の出力制御装置。
(10)
前記出力制御部は、前記遷移先状態を示すフラグが関連付けられた状態点と現在の状態点とが所定の関係を満たした場合、現在の内部状態が遷移先状態に達した旨の出力を制御する、
前記(9)に記載の出力制御装置。
(11)
前記処理部は、遷移元状態を示すフラグが関連付けられた状態点と前記遷移先状態を示すフラグが関連付けられた状態点とが所定の距離よりも近い場合、前記遷移先状態を示すフラグが関連付けられる状態点を切り替える、
前記(9)または(10)に記載の出力制御装置。
(12)
前記生理指標値は、自律神経活動を反映する生理指標値を含む、
前記(1)~(11)のいずれか一項に記載の出力制御装置。
(13)
前記自律神経活動を反映する生理指標値は、発汗センサ、心電センサ、脈拍センサ、末梢血流センサの少なくともいずれか一つに基づく生理指標値を含む、
前記(12)に記載の出力制御装置。
(14)
前記生理指標値は、中枢神経活動を反映する生理指標値を含む、
前記(1)~(13)のいずれか一項に記載の出力制御装置。
(15)
前記中枢神経活動を反映する生理指標値は、脳波センサに基づく生理指標値を含む、
前記(14)に記載の出力制御装置。
(16)
前記生理指標空間における複数の状態点は、機械学習によって複数のクラスタに分類される、
前記(1)~(15)のいずれか一項に記載の出力制御装置。
(17)
前記複数のクラスタそれぞれに対して、対応する生理指標値の検出に応じたタイミングに出力されたコンテンツに付加されたラベルが関連付けられる、
前記(16)に記載の出力制御装置。
(18)
前記ラベルは、前記コンテンツに対する評価情報に基づいて補正される、
前記(17)に記載の出力制御装置。
(19)
プロセッサにより、生体センサに基づく生理指標値に対応する生理指標空間における状態点の変化に応じた出力情報の出力を制御することを備える、
出力制御方法。
(20)
コンピュータを、
生体センサに基づく生理指標値に対応する生理指標空間における状態点の変化に応じた出力情報の出力を制御する出力制御部を備える、
出力制御装置として機能させるためのプログラム。
また、以下のような構成も本開示の技術的範囲に属する。
(1)
第1の中枢データと前記第1の中枢データに関連付けられたラベルとに基づいて生成された第1の状態推定器を取得する取得部と、
第2の中枢データと前記第1の状態推定器とに基づいて推定されたユーザの状態と末梢データとに基づいて、第2の状態推定器を生成する生成部と、
を備える、情報処理装置。
(2)
前記ラベルは、コンテンツに付加されており、
前記コンテンツが出力されている間に検出された前記第1の中枢データに対して前記ラベルが関連付けられる、
前記(1)に記載の情報処理装置。
(3)
前記コンテンツは、VR(Virtual Reality)を用いて構成されたVRコンテンツを含む、
前記(2)に記載の情報処理装置。
(4)
前記情報処理装置は、
前記第2の中枢データに基づく前記第1の状態推定器の出力と前記末梢データに基づく前記第2の状態推定器による推定結果との関係が所定の条件を満たした場合に、所定の出力情報を出力する出力部を備える、
前記(1)~(3)のいずれか一項に記載の情報処理装置。
(5)
前記所定の条件は、前記推定結果と前記第2の中枢データに基づく前記第1の状態推定器の出力との誤差が閾値よりも小さいという条件を含む、
前記(4)に記載の情報処理装置。
(6)
前記第2の中枢データと前記末梢データとは、対応するタイミングに検出される、
前記(1)~(5)のいずれか一項に記載の情報処理装置。
(7)
前記第1の中枢データに含まれる複数の時間の区間それぞれに対して、二種類以上のラベルのうちのいずれか一つが付加される、
前記(1)~(6)のいずれか一項に記載の情報処理装置。
(8)
前記第1の状態推定器は、前記ラベルを第1の教師信号として用い、かつ、前記第1の中枢データを第1の入力信号として用いた機械学習によって生成される、
前記(1)~(7)のいずれか一項に記載の情報処理装置。
(9)
前記生成部は、前記ユーザの状態を第2の教師信号として用い、かつ、前記末梢データを第2の入力信号として用いた機械学習によって前記第2の状態推定器を生成する、
前記(1)~(8)のいずれか一項に記載の情報処理装置。
(10)
前記生成部は、前記第1の中枢データと前記ラベルとに基づいて、前記第1の状態推定器を生成する、
前記(1)~(9)のいずれか一項に記載の情報処理装置。
(11)
前記末梢データは、自律神経活動を反映する生理指標値を含む、
前記(1)~(10)のいずれか一項に記載の情報処理装置。
(12)
前記自律神経活動を反映する生理指標値は、発汗センサ、心電センサ、脈拍センサ、末梢血流センサの少なくともいずれか一つに基づく生理指標値を含む、
前記(11)に記載の情報処理装置。
(13)
前記第1の中枢データおよび前記第2の中枢データそれぞれは、中枢神経活動を反映する生理指標値を含む、
前記(1)~(12)のいずれか一項に記載の情報処理装置。
(14)
前記中枢神経活動を反映する生理指標値は、脳波センサに基づく生理指標値を含む、
前記(13)に記載の情報処理装置。
(15)
プロセッサにより、第1の中枢データと前記第1の中枢データに関連付けられたラベルとに基づいて生成された第1の状態推定器を取得することと、
第2の中枢データと前記第1の状態推定器とに基づいて推定されたユーザの状態と末梢データとに基づいて、第2の状態推定器を生成することと、
を備える、情報処理方法。
(16)
コンピュータを、
第1の中枢データと前記第1の中枢データに関連付けられたラベルとに基づいて生成された第1の状態推定器を取得する取得部と、
第2の中枢データと前記第1の状態推定器とに基づいて推定されたユーザの状態と末梢データとに基づいて、第2の状態推定器を生成する生成部と、
を備える情報処理装置として機能させるためのプログラム。
1 情報処理システム
10 情報処理装置
110 制御部
111 取得部
112 生成部
113 出力部
120 操作部
130 センサ部
140 記憶部
150 通信部
20 表示装置
210 制御部
220 操作部
230 センサ部
240 記憶部
250 通信部
260 表示部
30 出力制御装置
310 制御部
311 データ取得部
312 処理部
313 出力制御部
320 操作部
330 センサ部
340 記憶部
350 通信部
360 提示部

Claims (10)

  1. 生体センサに基づく生理指標値に対応する生理指標空間における状態点の変化に応じた出力情報の出力を制御する出力制御部を備え、
    前記生理指標値は、内部状態を喚起する指標がラベルとして付与されたコンテンツが出力されている間に、前記生体センサによって検出され、
    前記出力制御部は、前記コンテンツが出力されている間に検出された前記生理指標値に対応する状態点と前記ラベルとを関連付け、関連付けた情報を前記出力情報として出力する、
    出力制御装置。
  2. 前記出力制御部は、前記生理指標空間における現在の状態点を基準とした過去の状態点の分布密度に応じた出力情報の出力を制御する、
    請求項1に記載の出力制御装置。
  3. 前記生理指標値は、自律神経活動を反映する生理指標値を含む、
    請求項1または2に記載の出力制御装置。
  4. 前記自律神経活動を反映する生理指標値は、発汗センサ、心電センサ、脈拍センサ、末梢血流センサの少なくともいずれか一つに基づく生理指標値を含む、
    請求項3に記載の出力制御装置。
  5. 前記生理指標値は、中枢神経活動を反映する生理指標値を含む、
    請求項1~4のいずれか1項に記載の出力制御装置。
  6. 前記中枢神経活動を反映する生理指標値は、脳波センサに基づく生理指標値を含む、
    請求項5に記載の出力制御装置。
  7. 前記出力制御部は、
    前記コンテンツに対する評価情報がユーザから入力された場合、前記評価情報に基づいて、前記ラベルに関連付けられていた内部状態を喚起する指標を、前記評価情報で示された内容に応じて補正する、
    請求項1~6のいずれか1項に記載の出力制御装置。
  8. 前記出力制御部は、
    前記評価情報として、前記ユーザから豊かな情動を示す感想が入力された場合には前記ラベルを低極端な値に補正し、前記ユーザから平板な情動を示す感想が入力された場合には、前記ラベルを平均的な値に向けて補正する、
    請求項7に記載の出力制御装置。
  9. プロセッサにより、生体センサに基づく生理指標値に対応する生理指標空間における状態点の変化に応じた出力情報の出力を制御することを備える出力制御方法であって、
    前記生理指標値は、内部状態を喚起する指標がラベルとして付与されたコンテンツが出力されている間に、前記生体センサによって検出され、
    前記制御することは、前記コンテンツが出力されている間に検出された前記生理指標値に対応する状態点と前記ラベルとを関連付け、関連付けた情報を前記出力情報として出力することを含む、
    出力制御方法。
  10. コンピュータを、
    生体センサに基づく生理指標値に対応する生理指標空間における状態点の変化に応じた出力情報の出力を制御する出力制御部を備える、
    出力制御装置として機能させるためのプログラムであって、
    前記生理指標値は、内部状態を喚起する指標がラベルとして付与されたコンテンツが出力されている間に、前記生体センサによって検出され、
    前記出力制御部は、前記コンテンツが出力されている間に検出された前記生理指標値に対応する状態点と前記ラベルとを関連付け、関連付けた情報を前記出力情報として出力する、
    プログラム。
JP2021131446A 2016-11-30 2021-08-11 出力制御装置、出力制御方法およびプログラム Active JP7207468B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023000729A JP7364099B2 (ja) 2016-11-30 2023-01-05 出力制御装置、出力制御方法およびプログラム

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2016232659 2016-11-30
JP2016232514 2016-11-30
JP2016232514 2016-11-30
JP2016232659 2016-11-30
JP2018553690A JP6930546B2 (ja) 2016-11-30 2017-10-05 出力制御装置、出力制御方法およびプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018553690A Division JP6930546B2 (ja) 2016-11-30 2017-10-05 出力制御装置、出力制御方法およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023000729A Division JP7364099B2 (ja) 2016-11-30 2023-01-05 出力制御装置、出力制御方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2021176111A JP2021176111A (ja) 2021-11-04
JP7207468B2 true JP7207468B2 (ja) 2023-01-18

Family

ID=62242616

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2018553690A Active JP6930546B2 (ja) 2016-11-30 2017-10-05 出力制御装置、出力制御方法およびプログラム
JP2021131446A Active JP7207468B2 (ja) 2016-11-30 2021-08-11 出力制御装置、出力制御方法およびプログラム
JP2023000729A Active JP7364099B2 (ja) 2016-11-30 2023-01-05 出力制御装置、出力制御方法およびプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018553690A Active JP6930546B2 (ja) 2016-11-30 2017-10-05 出力制御装置、出力制御方法およびプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023000729A Active JP7364099B2 (ja) 2016-11-30 2023-01-05 出力制御装置、出力制御方法およびプログラム

Country Status (5)

Country Link
US (1) US20190274630A1 (ja)
EP (1) EP3549630A4 (ja)
JP (3) JP6930546B2 (ja)
CN (1) CN109982737B (ja)
WO (1) WO2018100879A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11132211B1 (en) * 2018-09-24 2021-09-28 Apple Inc. Neural finite state machines
WO2021226726A1 (es) * 2020-05-13 2021-11-18 Cornejo Acuna Eduardo Alejandro Sistema que proporciona una intervención o inmersión para la prevención del síndrome de estrés laboral (burnout) y la reducción del ausentismo laboral
CN117204855B (zh) * 2023-10-26 2024-03-01 厚德明心(北京)科技有限公司 一种基于交互设备的用户心理状态评估方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004222818A (ja) 2003-01-21 2004-08-12 Sony Corp 生理状態誘導装置および生理状態誘導方法
JP2007529283A (ja) 2004-03-18 2007-10-25 ヘリコール・インコーポレーテッド ストレスを解放するための方法及び装置
JP2009082299A (ja) 2007-09-28 2009-04-23 Toyobo Co Ltd メンタルトレーニングシステム
JP2013027570A (ja) 2011-07-28 2013-02-07 Panasonic Corp 心理状態評価装置、心理状態評価システム、心理状態評価方法およびプログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0584222A (ja) 1991-09-25 1993-04-06 Sony Corp 心拍変動解析装置
CN1111121A (zh) * 1994-08-30 1995-11-08 中国科学院上海技术物理研究所 心电和脉搏信号自适应分析法及其装置
JP4096376B2 (ja) * 1996-07-09 2008-06-04 セイコーエプソン株式会社 リラックス指導装置
US6527700B1 (en) * 1999-10-29 2003-03-04 Joseph A. Manico Management of physiological and psychological state of an individual using biophilic images
US8132117B2 (en) * 2002-07-08 2012-03-06 Innovative Solutions And Support, Inc. Method and system for highlighting an image representative of a flight parameter of an aircraft
WO2006066337A1 (en) * 2004-12-23 2006-06-29 Resmed Limited Method for detecting and disciminatng breathing patterns from respiratory signals
JP2011517602A (ja) * 2008-04-11 2011-06-16 チャン,ダニエル,ウォンチョル 脳エントレインメント方法およびシステム
EP2542147A4 (en) * 2010-03-04 2014-01-22 Neumitra LLC DEVICES AND METHOD FOR TREATING PSYCHICAL INTERFERENCE
CN101828921A (zh) * 2010-06-13 2010-09-15 天津大学 基于视觉诱发脑电vep的身份识别方法
US20120194648A1 (en) * 2011-02-01 2012-08-02 Am Interactive Technology Ltd. Video/ audio controller
JP2012161558A (ja) * 2011-02-09 2012-08-30 Aisin Seiki Co Ltd 心身状態誘導システム
US11006874B2 (en) * 2012-08-13 2021-05-18 Tata Consultancy Services Limited Real-time stress determination of an individual
US9968756B2 (en) * 2013-06-14 2018-05-15 Industrial Technology Research Institute Pressure relief apparatus with brain entrainment
US10321842B2 (en) * 2014-04-22 2019-06-18 Interaxon Inc. System and method for associating music with brain-state data
KR102324735B1 (ko) * 2015-01-19 2021-11-10 삼성전자주식회사 생체 정보를 이용하여 적응적 제어가 가능한 웨어러블 장치, 이를 포함하는 시스템, 및 이의 동작 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004222818A (ja) 2003-01-21 2004-08-12 Sony Corp 生理状態誘導装置および生理状態誘導方法
JP2007529283A (ja) 2004-03-18 2007-10-25 ヘリコール・インコーポレーテッド ストレスを解放するための方法及び装置
JP2009082299A (ja) 2007-09-28 2009-04-23 Toyobo Co Ltd メンタルトレーニングシステム
JP2013027570A (ja) 2011-07-28 2013-02-07 Panasonic Corp 心理状態評価装置、心理状態評価システム、心理状態評価方法およびプログラム

Also Published As

Publication number Publication date
CN109982737A (zh) 2019-07-05
JP2023052235A (ja) 2023-04-11
EP3549630A1 (en) 2019-10-09
JP6930546B2 (ja) 2021-09-01
EP3549630A4 (en) 2019-11-27
WO2018100879A1 (ja) 2018-06-07
JP7364099B2 (ja) 2023-10-18
US20190274630A1 (en) 2019-09-12
JP2021176111A (ja) 2021-11-04
JPWO2018100879A1 (ja) 2019-10-17
CN109982737B (zh) 2022-06-28

Similar Documents

Publication Publication Date Title
US11839473B2 (en) Systems and methods for estimating and predicting emotional states and affects and providing real time feedback
JP7207468B2 (ja) 出力制御装置、出力制御方法およびプログラム
US10901509B2 (en) Wearable computing apparatus and method
US10366778B2 (en) Method and device for processing content based on bio-signals
CN102056535B (zh) 在对象中获得预期状态的方法
KR20190027354A (ko) 비전 성능 데이터를 획득, 분석 및 생성하고 비전 성능 데이터에 기반하여 미디어를 수정하기 위한 방법 및 시스템
JP2016126500A (ja) ウェアラブル端末装置およびプログラム
US20210401337A1 (en) Systems and methods for estimating and predicting emotional states and affects and providing real time feedback
US20220028296A1 (en) Information processing apparatus, information processing method, and computer program
US20120194648A1 (en) Video/ audio controller
WO2018042799A1 (ja) 情報処理装置、情報処理方法、及びプログラム
CN109119057A (zh) 音乐创作方法、装置及存储介质和穿戴式设备
JP7288064B2 (ja) 視覚型仮想エージェント
WO2018034113A1 (ja) コンテンツ提供システム、コンテンツ提供方法、及びコンテンツ提供システム用のプログラム
US20200367789A1 (en) Wearable computing apparatus with movement sensors and methods therefor
JP2022059140A (ja) 情報処理装置及びプログラム
KR20190129532A (ko) 감성 판단 시스템 및 방법, 그것을 포함하는 웨어러블장치
WO2023286343A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2023152840A (ja) 情報処理装置及び情報処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210901

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220913

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221024

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221219

R151 Written notification of patent or utility model registration

Ref document number: 7207468

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151