JP7154493B2 - 自律神経活動評価装置、自律神経活動評価方法及びプログラム - Google Patents

自律神経活動評価装置、自律神経活動評価方法及びプログラム Download PDF

Info

Publication number
JP7154493B2
JP7154493B2 JP2018128435A JP2018128435A JP7154493B2 JP 7154493 B2 JP7154493 B2 JP 7154493B2 JP 2018128435 A JP2018128435 A JP 2018128435A JP 2018128435 A JP2018128435 A JP 2018128435A JP 7154493 B2 JP7154493 B2 JP 7154493B2
Authority
JP
Japan
Prior art keywords
subject
thermal image
temperature
nerve activity
autonomic nerve
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018128435A
Other languages
English (en)
Other versions
JP2020005799A (ja
Inventor
禎侑 村田
統太 水野
直明 板倉
信彦 堀江
亮 宮野
健 花田
政行 高橋
創 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
COAMIX INC.
THE UNIVERSITY OF ELECTRO-COMUNICATINS
Original Assignee
COAMIX INC.
THE UNIVERSITY OF ELECTRO-COMUNICATINS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by COAMIX INC., THE UNIVERSITY OF ELECTRO-COMUNICATINS filed Critical COAMIX INC.
Priority to JP2018128435A priority Critical patent/JP7154493B2/ja
Publication of JP2020005799A publication Critical patent/JP2020005799A/ja
Application granted granted Critical
Publication of JP7154493B2 publication Critical patent/JP7154493B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

特許法第30条第2項適用 平成30年1月18日発行 一般社団法人人工生命とロボット国際学会刊行 「第23回AROB 予稿集」第845-848頁に発表
特許法第30条第2項適用 平成30年1月19日開催 一般社団法人人工生命とロボット国際学会主催 「人工生命とロボット国際学会 第23回AROB(The Twenty-Third International Symposium on Artificial Life and Robotics)で発表
本発明は、被験者の自律神経活動を評価する自律神経活動評価装置、自律神経活動評価方法及びプログラムに関する。
人間の自律神経活動を評価する方法が、従来から各種提案され、実用化されている。例えば、被験者の心拍、脳波、眼電図、皮膚電位、皮膚温度、筋電図などから、自律神経活動を評価することが行われている。
具体的には、例えば皮膚電位の場合、被験者の皮膚に電極を貼り付けて、生体内部の電気的活動を測定することで、発汗による電気的抵抗値の低下を検出して、被験者が精神的に緊張しているか等の評価を行っている。
特許文献1には、皮膚温度を計測して、人間の脳活動を推定する手法が記載されている。この特許文献1に記載された手法は、赤外線サーモグラフィ装置を用いて、被験者の顔面全体から顔面皮膚温度データを取得し、脳の安静時の顔面皮膚温度データと、脳の活動時の顔面皮膚温度データを取得して、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行うものである。
特開2016-182504号公報
特許文献1に記載されるように、赤外線サーモグラフィ装置を用いて顔面皮膚温度データを取得することで、測定装置と被験者を非接触な状態にして計測が可能になる。したがって、被験者に電極やセンサを直接取り付けることなく、脳活動の状態を推定することができる。
しかしながら、特許文献1に記載された手法を用いて、赤外線サーモグラフィ装置で顔面全体の皮膚温度を取得する場合、その皮膚温度から判別できる状態は、極めて簡単な状態の判別に限られている。具体的には、不快感を持つ刺激に対して、鼻部の皮膚温度が反映することは従来から知られており、不快感のようなネガティブ側の反応は、鼻部を含む顔面の皮膚温度測定である程度推定ことは可能であった。これに対して、ポジティブ側の反応を従来手法で推定することは困難であり、従来手法では、ポジティブ側の反応とネガティブ側の反応の双方を含んだ詳細な自律神経活動を推定することは極めて困難であった。
また、被験者の状態によって、赤外線サーモグラフィ装置を用いて得た顔面皮膚温度データにばらつきが発生することがある。例えば、被験者が眼鏡を装着している場合と非装着の場合とでは、顔面皮膚温度の値に大きな変動が生じてしまい、自律神経活動の推定結果の信頼性が低下するという問題がある。
本発明の目的は、被験者の自律神経活動の評価を非接触で精度よく行うことができる自律神経活動評価装置、自律神経活動評価方法及びプログラムを提供することにある。
本発明の自律神経活動評価装置は、被験者にコンテンツを提示した際の生体情報を計測して、被験者の自律神経活動を評価する自律神経活動評価装置であって、被験者の顔を撮影した熱画像データを取得する熱画像取得部と、熱画像取得部が取得した熱画像データから、被験者の鼻先部分を含む被験者の顔の約下半分の領域の熱画像データを、解析領域に設定する解析領域設定部と、解析領域設定部が設定した解析領域内の熱画像データから温度を算出する温度算出部と、温度算出部が算出した温度に基づいて、被験者の自律神経活動の評価情報を得る評価処理部と、を備える。
また、本発明の自律神経活動評価方法は、被験者にコンテンツを提示した際の生体情報を計測して、前記被験者の自律神経活動を評価する自律神経活動評価方法であって、以下の(a)~(d)に記載する処理を含む
(a)被験者の顔を撮影した熱画像データを取得する熱画像取得処理、
(b)熱画像取得処理により取得した熱画像データから、被験者の鼻先部分を含む被験者の顔の約下半分の領域の熱画像データを、解析領域に設定する解析領域設定処理、
(c)解析領域設定処理により設定した解析領域内の熱画像データから温度を算出する温度算出処理、
(d)温度算出処理によって算出された温度に基づいて、被験者の自律神経活動の評価情報を得る評価処理。
また、本発明のプログラムは、上記自律神経活動評価方法の(a)~(d)に記載される各処理を実行する手順を、コンピュータに実行させるためのプログラムである
本発明によると、被験者の自律神経活動の評価を適切に行うことができる。例えば、眼鏡を装着した被験者であっても、眼鏡の影響のない領域の熱画像から温度を得ることができるので、眼鏡の装着の有無によって評価値が変動することがない適切な評価結果を得ることが可能になる。
本発明の一実施の形態例による自律神経活動評価装置を使った評価状態の例を示す説明図である。 本発明の一実施の形態例による自律神経活動評価装置の構成例を示すブロック図である。 本発明の一実施の形態例による自律神経活動評価装置のハードウェア構成の例を示すブロック図である。 本発明の一実施の形態例による評価時の開始から終了までを示すタイムチャートである。 本発明の一実施の形態例による評価処理時の流れを示すフローチャートである。 コンテンツ(作品A)を被験者(x1)が閲覧したときの被験者自身による作品評価を示す図である。 コンテンツ(作品A)を被験者(x1)が閲覧したときの熱画像の例を示す図である。 コンテンツ(作品A)を被験者(x1)が閲覧したときの熱画像の時系列変化を示す図である。 コンテンツ(作品A)を被験者(x1)が閲覧したときの分散値の変動を示す特性図である。 コンテンツ(作品B)を被験者(x1)が閲覧したときの被験者自身による作品評価を示す図である。 コンテンツ(作品B)を被験者(x1)が閲覧したときの熱画像の例を示す図である。 コンテンツ(作品B)を被験者(x1)が閲覧したときの熱画像の時系列変化を示す図である。 コンテンツ(作品B)を被験者(x1)が閲覧したときの分散値の変動を示す特性図である。 コンテンツ(作品C)を被験者(x2)が閲覧したときの被験者自身による作品評価を示す図である。 コンテンツ(作品C)を被験者(x2)が閲覧したときの熱画像の例を示す図である。 コンテンツ(作品C)を被験者(x2)が閲覧したときの熱画像の時系列変化を示す図である。 コンテンツ(作品C)を被験者(x2)が閲覧したときの分散値の変動を示す特性図である。 コンテンツ(作品B)を被験者(x2)が閲覧したときの被験者自身による作品評価を示す図である。 コンテンツ(作品B)を被験者(x2)が閲覧したときの熱画像の例を示す図である。 コンテンツ(作品B)を被験者(x2)が閲覧したときの熱画像の時系列変化を示す図である。 コンテンツ(作品B)を被験者(x2)が閲覧したときの分散値の変動を示す特性図である。
[1.一実施の形態例による測定例]
以下、本発明の一実施の形態例(以下、「本例」と称する)を、添付図面を参照して説明する。
図1は、被験者xが表示装置300に表示されたコンテンツを閲覧した場合に、本例の自律神経活動評価装置200で評価処理を行う例を示す。表示装置300に表示されるコンテンツとしては、例えば複数ページで構成される漫画がある。本例の場合、コンテンツのページ送りは、被験者x自身の操作で行われる。
コンテンツを閲覧している被験者xの顔は、赤外線サーモグラフィ装置100により撮影される。例えば、被験者xの顔から約50cm離れた箇所に赤外線サーモグラフィ装置100が設置され、赤外線サーモグラフィ装置100により被験者xの顔を撮影した熱画像が得られる。熱画像は、被験者xの顔の皮膚表面の温度を示す画像である。
赤外線サーモグラフィ装置100で得られた熱画像データは、自律神経活動評価装置200に取り込まれ、熱画像データから温度を算出する処理が行われる。自律神経活動評価装置200は、コンテンツを見ている被験者xの顔の温度変化に基づいて、被験者xの自律神経活動を評価する処理を行う。なお、被験者xによるコンテンツのページ送り操作は、例えば自律神経活動評価装置200に接続された操作入力部209により行われる。
[2.一実施の形態例による装置構成例]
図2は、本例の自律神経活動評価装置200の構成を示す機能ブロック図である。自律神経活動評価装置200は、例えばコンピュータ装置で構成されるが、図2は自律神経活動評価装置200の機能面から見た構成を示している。
赤外線サーモグラフィ装置100は、一定のフレーム周期で熱画像を撮影する。自律神経活動評価装置200の熱画像取得部201は、赤外線サーモグラフィ装置100から供給される熱画像データを取得する。すなわち、熱画像取得部201は、赤外線サーモグラフィ装置100で熱画像が撮影されるフレーム周期で熱画像データを取得する熱画像取得処理を行う。
熱画像取得部201が取得した熱画像データは顔領域抽出部202に供給され、熱画像データから被験者xの顔の領域が抽出される。そして、顔領域抽出部202で抽出された顔の領域の熱画像データは、解析領域設定部203に供給される。解析領域設定部203は、供給される顔の熱画像データの内で、自律神経活動の評価に使用する解析領域を設定する解析領域設定処理を行う。本例の場合には、顔の下半分の領域を解析領域としている。
解析領域設定部203で設定された解析領域(顔の下半分)の熱画像データは、温度算出部204に供給される。温度算出部204は、供給される解析領域の熱画像データの各画素から、温度値を算出する温度算出処理を行う。このとき、温度算出部204は、各フレームの熱画像データから、解析領域内での最高値、最低値、最頻値及び平均値を取得する。
温度算出部204で得られた温度値のデータは、分散値算出部205及び評価処理部206に供給される。分散値算出部205は、各フレーム内の解析領域での温度の分散を算出する。分散値算出部205が算出した分散値も評価処理部206に供給される。
評価処理部206は、温度算出部204で算出した解析領域の温度値(最高値、最低値、最頻値、及び平均値)と分散値算出部205で算出した分散値に基づいて、コンテンツを見ている被験者xの自律神経活動を評価する。この評価処理部206が行う評価処理の詳細については後述する。
評価処理部206で得られる自律神経活動の評価結果は、計測制御部207に供給される。計測制御部207は、評価処理部206で得られた評価結果を、コンテンツを見ている被験者xの評価結果として、出力部210から外部に出力する。例えば、自律神経活動評価装置200に接続された別のコンピュータ装置に、評価結果のデータを出力する。あるいは、自律神経活動評価装置200に接続(又は内蔵)された表示装置300に評価結果を表示するようにしてもよい。
また、計測制御部207には、コンテンツ記憶部208が接続されている。コンテンツ記憶部208には、表示装置300に表示されるコンテンツのデータが記憶されており、計測制御部207は、コンテンツ記憶部208からコンテンツデータを読み出して、表示装置300に1ページずつ表示させる。このときのページ送り操作は、例えば被験者xによる操作入力部209での操作により行われる。
図3は、自律神経活動評価装置200をコンピュータ装置で構成した場合のハードウェア構成例を示す。
図3に示すコンピュータは、バス8にそれぞれ接続されたCPU(Control Processing Unit:中央処理装置)1、ROM(Read Only Memory)2、およびRAM(Random Access Memory)3を備える。さらに、コンピュータ装置は、記憶装置4、操作入力部5、表示装置6、及び通信インターフェース7を備える。
CPU1は、本実施の形態例に係る各機能を実現するソフトウェアのプログラムコードをROM2から読み出して実行する。
RAM3には、演算処理の途中に発生した変数やパラメータ等が一時的に書き込まれる。本実施の形態例に係る各システムおよび装置における処理の実行は、主にCPU1がプログラムコードを実行することにより実現される。
表示装置6は、例えば、液晶ディスプレイモニタであり、この表示装置6によりコンピュータで実行される処理の結果が利用者に表示される。表示装置6は、図2に示す自律神経活動評価装置200に接続された表示装置300に相当する。
操作入力部5には、例えば、キーボード、マウスなどが用いられ、利用者は操作入力部5を用いて所定の入力を行う。操作入力部5は、図2に示す自律神経活動評価装置200の操作入力部209に相当する。
記憶装置4には、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)などの大容量データ記憶媒体が用いられる。記憶装置4には、各種説明情報や、このコンピュータを機能させるためのプログラムが記録される。
通信インターフェース7には、例えば、NIC(Network Interface Card)などが用いられる。通信インターフェース7は、端子が接続されたLAM(Local Area Network)、専用線などを介して外部と各種データの送受信を行う。
[3.自律神経活動の評価処理の流れ]
図4は、本例の自律神経活動の評価処理の開始から終了までの時間の流れを示す。
図4に示すように、被験者xの評価処理を行う際には、最初に表示装置300にコンテンツが表示されない前レスト期間Taを設定する。この前レスト期間Taは、例えば30秒などの予め決めた長さに設定される。
そして、前レスト期間Taが経過すると、自律神経活動評価装置200の計測制御部207は、コンテンツの閲覧を開始する(コンテンツ閲覧期間Tb)。このコンテンツ閲覧期間Tbが開始されると、計測制御部207は、コンテンツ記憶部208に記憶されたコンテンツ(例えば漫画)の1ページ目を表示装置300に表示する。
その後、被験者xは、操作入力部209を使って、コンテンツのページ送り操作を行い、コンテンツを1ページずつ最終ページまで閲覧する。このように被験者x自身がページ送り操作を行うため、コンテンツ閲覧期間Tbは一定の時間にはならない。すなわち、被験者xによって、コンテンツ閲覧期間Tbが異なる。
そして、最終ページの閲覧が終了すると、計測制御部207は、表示装置300にコンテンツを表示しない後レスト期間Tcを設定し、後レスト期間Tcの経過を待って評価処理を終了する。この後レスト期間Tcも、前レスト期間Taと同様に例えば30秒などの予め決めた長さに設定される。
以上説明したように、自律神経活動評価装置200は、被験者xにコンテンツを閲覧させて、前レスト期間Ta、コンテンツ閲覧期間Tb、後レスト期間Tcの全ての期間で、被験者xの顔を撮影した熱画像を取得してその評価処理を行う。
図5は、自律神経活動評価装置200が行う自律神経活動の評価処理の流れを示すフローチャートである。
まず、前レスト期間Taが開始すると(ステップS11)、自律神経活動評価装置200の顔領域抽出部202は、赤外線サーモグラフィ装置100から伝送された熱画像データから、顔領域を抽出する(ステップS12)。そして、解析領域設定部203は、顔領域の内の下半分を解析領域に設定する(ステップS13)。
解析領域設定部203で解析領域が設定されると、温度算出部204は、設定された解析領域(顔の下半分の領域)内の各画素の温度を算出する(ステップS14)。ここでは、温度算出部204は、解析領域内の最高温度、最低温度、最頻温度及び平均温度を算出する。さらに、分散値算出部205は、温度算出部204で算出された解析領域内の各画素の温度から、解析領域内の温度の分散値を算出する(ステップS15)。
なお、分散値は、例えば次式に基づいて算出される。次式において、Tは解析領域全体の平均温度、Xは解析領域内の各画素の温度であり、分散値算出部205は、解析領域内のn個の画素全ての温度の分散を求める処理を行う。
Figure 0007154493000001
その後、自律神経活動評価装置200の計測制御部207は、後レスト期間Tcが終了したか否かを判断する(ステップS16)。ここで、後レスト期間Tcが終了するタイミングでないと判断したとき(ステップS16のNo)、ステップS12における顔領域抽出部202の処理に戻る。
また、ステップS16において、後レスト期間Tcが終了するタイミングであると判断したとき(ステップS16のYes)、評価処理部206は、それぞれの期間で得られた温度から、自律神経活動の評価処理を行う(ステップS17)。そして、評価処理部206で得られた評価結果を、出力部210から出力する(ステップS18)。
[4.評価処理の具体例]
次に、2人の被験者x1,x2がコンテンツを閲覧したときの、本例の自律神経活動評価装置200により自律神経活動を評価した具体例について説明する。
ここでは、被験者x1がコンテンツ(作品A及び作品B)を閲覧したときの評価例と、別の被験者x2がコンテンツ(作品C及び作品B)を閲覧したときの評価例を示す。
まず、図6~図9を参照して、被験者x1がコンテンツ(作品A)を閲覧したときの評価例について説明する。
図6は、被験者x1がコンテンツ(作品A)を閲覧する前の心理状態と閲覧した後の心理状態とを、被験者x1によるアンケートの回答によって取得し、その閲覧前の心理状態と閲覧後の心理状態との差分値を、心理評価として示すグラフである。
ここでは、作品Aを閲覧した際のアンケート回答として、[快-不快]、[喜び-哀しみ]、[怒り-恐れ]、[好き-嫌悪]、[安らぐ-驚き]の5種類の心理状態を得るようにした。
ここでは、[快]の反対の感情を[不快]、[喜び]の反対の感情を[哀しみ]、[怒り]の反対の感情を[恐れ]、[好き]の反対の感情を[嫌悪]、[安らぐ]の反対の感情を[驚き]とする。図6のグラフにおいて、0から数値が高くなる程、[快]、[喜び]、[怒り]、[好き]、[安らぐ]のポジティブ側の感情を高く持ったことを示す。[快]、[喜び]、[怒り]、[好き]、[安らぐ]の心理状態と反対になる、ネガティブ側の心理状態である[不快]、[哀しみ]、[恐れ]、[嫌悪]、[驚き]については、0からマイナス側に増える数値で示されるため、図6の例では示されていない。
図6に示す回答例では、コンテンツ(作品A)を閲覧した直後に、ポジティブ側の評価が増加し、具体的には、[快]の感情が急増し、[喜び]の感情が微増し、[好き]の感情が増加し、[安らぎ]の感情が増加している。
次に、赤外線サーモグラフィ装置100で得た、被験者x1がコンテンツ(作品A)を閲覧中の熱画像の例を、図7及び図8に示す。なお、図7などの各図に示す熱画像は、本来は色で温度変化を示すカラー画像である。したがって、モノクロ画像として示す図面上では、画像の濃淡がある程度の温度変化を反映しているが、必ずしも正確な温度を反映しているとは限らない。
図7は、コンテンツ(作品A)を閲覧中の被験者x1を撮影した熱画像の全体と、解析領域である顔の下半分の付近を拡大した熱画像とを示す。解析領域には、図7に示すように、顔の鼻部、唇部、右頬部、左頬部が含まれる。
図8は、この解析領域である顔の下半分の付近の熱画像を、時系列で並べたものである。図8の例では、コンテンツ(作品A)の閲覧開始から10秒間隔で、160秒までの17個の熱画像を示す。各画像の下に記載した数値が、閲覧開始からの秒数である。なお、この例では、0秒から30秒までが前レスト期間Taであり、140秒以降が後レスト期間Tcである。
図8に示すように、被験者x1がコンテンツ(作品A)を閲覧した場合、鼻部は、閲覧開始から110秒あたりまで温度にほとんど変化がなく、その後上昇している。また、口唇部は、閲覧開始から90秒あたりまで温度にほとんど変化がなく、その後上昇している。但し、鼻部の温度変化と唇部の温度変化は、完全には拮抗していない。
図9は、解析領域である顔の下半分の温度の分散値の変化を示す。図9の横軸は時間(秒)であり、縦軸は分散値を示し、分散値は上に行くほど温度の分散が大きくなっていることを示す。
この図9から分かるように、コンテンツ(作品A)を閲覧している期間内で、分散が徐々に増大している。
このように温度の分散が大きくなっている場合、評価処理部206は、被験者x1の感情が、コンテンツ(作品A)の閲覧により高まったと評価する。この被験者x1の感情の高まりがあったとする評価は、図6に示す被験者自身によるアンケートでの回答で、[快]の感情が急増した状態等を反映した、被験者x1自身の感情を的確に捉えた評価結果である。
次に、図10~図13を参照して、被験者x1がコンテンツ(作品B)を閲覧したときの評価例について説明する。
図10は、被験者x1がコンテンツ(作品B)を閲覧する前の心理状態と閲覧した後の心理状態とを、被験者x1によるアンケートの回答によって取得し、その閲覧前の心理状態と閲覧後の心理状態との差分値を、心理評価として示すグラフである。この図10のアンケート回答の分類は、既に説明した図6のアンケート回答と同様に、[快-不快]、[喜び-哀しみ]、[怒り-恐れ]、[好き-嫌悪]、[安らぐ-驚き]の5種類の心理状態である。
図10の例では、コンテンツ(作品B)を閲覧した直後に、ネガティブ側の評価が増加し、具体的には、[不快]、[哀しみ]、[恐れ]、[嫌悪]、[驚き]の5種類のネガティブ側の感情がいずれも増加している。
次に、赤外線サーモグラフィ装置100で得た、被験者x1がコンテンツ(作品B)を閲覧中の熱画像の例を、図11及び図12に示す。図11は、コンテンツ(作品B)を閲覧中の被験者x1を撮影した熱画像の全体と、解析領域である顔の下半分の付近を拡大した熱画像とを示す。
図12は、この解析領域である顔の下半分の付近の熱画像を、時系列で並べたものである。図12の例では、コンテンツ(作品B)の閲覧開始から10秒間隔で、110秒までの12個の熱画像を示す。各画像の下に記載した数値が、閲覧開始からの秒数である。なお、この例では、0秒から30秒までが前レスト期間Taであり、90秒以降が後レスト期間Tcである。
この図12に示す被験者x1がコンテンツ(作品B)を閲覧した場合、時系列的には温度変化が少ないが、鼻先に着目すると温度が徐々に低下している。
図13は、解析領域である顔の下半分の温度の分散値の変化を示す。図13の横軸は時間(秒)であり、縦軸は分散値を示し、分散値は上に行くほど温度の分散が大きくなっていることを示す。
この図13から分かるように、コンテンツ(作品B)を閲覧している期間内で、分散値にほとんど変化がないことがわかる。
このように温度の分散に変化がない場合、評価処理部206は、コンテンツ(作品B)の閲覧により被験者x1の感情の高まりがないと評価する。この被験者x1の感情の高まりないとする評価は、図10に示す被験者自身によるアンケートでの回答で、ネガティブ側の感情が高い状態を反映した、被験者x1自身の感情を的確に捉えた評価結果になる。
次に、図14~図17を参照して、被験者x2がコンテンツ(作品C)を閲覧したときの評価例について説明する。
図14は、被験者x2がコンテンツ(作品C)を閲覧する前の心理状態と閲覧した後の心理状態とを、被験者x1によるアンケートの回答によって取得し、その閲覧前の心理状態と閲覧後の心理状態との差分値を、心理評価として示すグラフである。この図14のアンケート回答の分類は、既に説明した図6及び図10のアンケート回答と同様に、[快-不快]、[喜び-哀しみ]、[怒り-恐れ]、[好き-嫌悪]、[安らぐ-驚き]の5種類の心理状態である。
図14の例では、コンテンツ(作品C)を閲覧した直後に、ポジティブ側の評価が微増し、具体的には、[快]、[喜び]、[好き]、[安らぐ]の4種類のポジティブ側の感情がいずれも微増している。
次に、赤外線サーモグラフィ装置100で得た、被験者x2がコンテンツ(作品C)を閲覧中の熱画像の例を、図15及び図16に示す。図15は、コンテンツ(作品C)を閲覧中の被験者x2を撮影した熱画像の全体と、解析領域である顔の下半分の付近を拡大した熱画像とを示す。
図16は、この解析領域である顔の下半分の付近の熱画像を、時系列で並べたものである。図16の例では、コンテンツ(作品C)の閲覧開始から10秒間隔で、110秒までの12個の熱画像を示す。各画像の下に記載した数値が、閲覧開始からの秒数である。なお、この例では、0秒から30秒までが前レスト期間Taであり、70秒以降が後レスト期間Tcである。
この図16に示すように、被験者x2がコンテンツ(作品C)を閲覧した場合、非常に温度変化が少ないことがわかる。
図17は、解析領域である顔の下半分の温度の分散値の変化を示す。図17の横軸は時間(秒)であり、縦軸は分散値を示し、分散値は上に行くほど温度の分散が大きくなっていることを示す。
この図17から分かるように、コンテンツ(作品C)を閲覧している期間内で、分散値にほとんど変化がなく、若干分散値が小さな値に変化している傾向があることがわかる。
このように温度の分散にほとんど変化がない場合、評価処理部206は、コンテンツ(作品C)の閲覧により被験者x2の感情の高まりがないと評価する。この被験者x2の感情の高まりないとする評価は、図14に示す被験者自身によるアンケートでの回答で、ポジティブ側の感情が微増した状態を反映した、被験者x2自身の感情を的確に捉えた評価結果になる。
次に、図18~図21を参照して、被験者x2がコンテンツ(作品B:図10~図13の例の作品Bと同じ)を閲覧したときの評価例について説明する。
図18は、被験者x2がコンテンツ(作品C)を閲覧する前の心理状態と閲覧した後の心理状態とを、被験者x1によるアンケートの回答によって取得し、その閲覧前の心理状態と閲覧後の心理状態との差分値を、心理評価として示すグラフである。この図18のアンケート回答の分類は、既に説明した図6、図10、及び図14のアンケート回答と同様に、[快-不快]、[喜び-哀しみ]、[怒り-恐れ]、[好き-嫌悪]、[安らぐ-驚き]の5種類の心理状態である。
図18の例では、コンテンツ(作品C)を閲覧した直後に、ネガティブ側の評価が微増又は増加し、具体的には、[不快]、[哀しみ]のネガティブ側の感情が増加し、[恐れ]、[嫌悪]、[驚き]のネガティブ側の感情が微増している。
次に、赤外線サーモグラフィ装置100で得た、被験者x2がコンテンツ(作品B)を閲覧中の熱画像の例を、図19及び図20に示す。図19は、コンテンツ(作品B)を閲覧中の被験者x2を撮影した熱画像の全体と、解析領域である顔の下半分の付近を拡大した熱画像とを示す。
図20は、この解析領域である顔の下半分の付近の熱画像を、時系列で並べたものである。図20の例では、コンテンツ(作品B)の閲覧開始から10秒間隔で、140秒までの15個の熱画像を示す。各画像の下に記載した数値が、閲覧開始からの秒数である。なお、この例では、0秒から30秒までが前レスト期間Taであり、100秒以降が後レスト期間Tcである。
この図20に示すように、被験者x2がコンテンツ(作品B)を閲覧した場合、非常に温度変化が少ないことがわかる。
図21は、解析領域である顔の下半分の温度の分散値の変化を示す。図21の横軸は時間(秒)であり、縦軸は分散値を示し、分散値は上に行くほど温度の分散が大きくなっていることを示す。
この図21から分かるように、コンテンツ(作品B)を閲覧している期間内で、分散値にほとんど変化がないことがわかる。
このように温度の分散にほとんど変化がない場合、評価処理部206は、コンテンツ(作品C)の閲覧により被験者x2の感情の高まりがないと評価する。この被験者x2の感情の高まりないとする評価は、図18に示す被験者自身によるアンケートでの回答で、ネガティブ側の感情が若干増加した状態を反映した、被験者x2自身の感情を的確に捉えた評価結果になる。
以上の実例からわかるように、被験者がコンテンツを閲覧した際に、そのコンテンツの内容によって、コンテンツから与えられる感動(感情)に大きな差があり、その感動を受けた度合いが、被験者の顔の下半分の皮膚表面温度の分布変化に現れて、分散値の変化として取得することができる。したがって、被験者の顔の下半分の皮膚表面温度の分散値の変動が大きいとき、被験者が感動するコンテンツであると評価することができる。逆に、被験者の顔の下半分の皮膚表面温度の分散値の変動が小さいとき、被験者が感動しないコンテンツであると評価することができる。
しかも、被験者の顔の温度を検出する際に、顔の下半分の領域を解析領域としたことで、被験者が眼鏡を掛けている場合と掛けていない場合や、被験者の頭髪の状態などの影響を排除した適切な評価が可能になる。
また、被験者ごとにコンテンツの閲覧でどの程度感動したかを評価することができることで、それぞれの被験者の嗜好に合ったコンテンツの推薦などが可能になる。また、漫画などのコンテンツを販売している事業者にとっては、販売しているコンテンツがユーザに与える感動などを定量的に評価できるようになり、より感動を与えるコンテンツの製作に貢献する。
[5.変形例]
なお、図2に示す自律神経活動評価装置200の構成は、一例を示すものであり、熱画像を取得して同様の解析処理が可能であれば、その他の構成としてもよい。上述した実施の形態例では、自律神経活動評価装置200は、コンピュータ装置にソフトウェアを実装することで構成したが、専用のハードウェアで同様の構成としてもよい。自律神経活動の評価処理を行うためのソフトウェア(プログラム)については、半導体メモリや光ディスクなどの様々な記録媒体で配布する他に、インターネットなどを経由して伝送して配布するようにしてもよい。
また、上述した実施の形態では、自律神経活動評価装置200は、顔領域抽出部202が被験者の顔の領域を抽出した後、解析領域設定部203が顔の領域内から解析領域として、顔の下半分の領域を設定するようにした。これに対して、例えば顔領域抽出部202を省略して、解析領域設定部203が熱画像から直接、顔の下半分の領域を解析領域として取り出すようにしてもよい。
また、上述した実施の形態では、コンテンツとして漫画を閲覧する例としたが、本発明は、その他の様々なコンテンツを被験者が閲覧する場合に適用が可能である。
1…中央制御ユニット(CPU)、2…ROM、3…RAM、4…記憶装置、5…操作入力部、6…表示装置、7…通信インターフェース、8…バスライン、100…赤外線サーモグラフィ装置、200…自律神経活動評価装置(コンピュータ装置)、201…熱画像取得部、202…顔領域抽出部、203…解析領域設定部、204…温度算出部、205…分散値算出部、206…評価処理部、207…計測制御部、208…コンテンツ記憶部、209…操作入力部、210…出力部、300…表示装置

Claims (6)

  1. 被験者にコンテンツを提示した際の生体情報を計測して、前記被験者の自律神経活動を評価する自律神経活動評価装置であって、
    被験者の顔を撮影した熱画像データを取得する熱画像取得部と、
    前記熱画像取得部が取得した熱画像データから、前記被験者の鼻先部分を含む前記被験者の顔の約下半分の領域の熱画像データを、解析領域に設定する解析領域設定部と、
    前記解析領域設定部が設定した解析領域内の熱画像データから温度を算出する温度算出部と、
    前記温度算出部が算出した温度に基づいて、前記被験者の自律神経活動の評価情報を得る評価処理部と、を備える
    自律神経活動評価装置。
  2. 更に、前記温度算出部で得られた温度値のデータに基づいて、前記熱画像の各フレーム内の温度の分散を算出する分散値算出部を備え、
    前記評価処理部は、前記温度算出部が算出した温度及び前記分散値算出部が算出した分散基づいて、前記被験者の自律神経活動の評価情報を得て、前記コンテンツの提示により、前記温度算出部が算出した分散の値が大きな値に変化したとき、前記被験者に感情の高まりが生じたと評価する
    請求項1に記載の自律神経活動評価装置。
  3. 前記温度算出部は、各フレームの熱画像データから、前記解析領域内における画素の温度値の最高値、最低値、最頻値及び平均値を算出する、
    請求項1または2に記載の自律神経活動評価装置。
  4. 前記評価処理部は、前記解析領域設定部が設定した、前記被験者の鼻先部分を含む前記被験者の顔の約下半分の解析領域の内の、鼻先部分及び口元の温度変化に注目して評価を行う
    請求項1または2に記載の自律神経活動評価装置。
  5. 被験者にコンテンツを提示した際の生体情報を計測して、前記被験者の自律神経活動を評価する自律神経活動評価方法であって、
    被験者の顔を撮影した熱画像データを取得する熱画像取得処理と、
    前記熱画像取得処理により取得した熱画像データから、前記被験者の鼻先部分を含む前記被験者の顔の約下半分の領域の熱画像データを、解析領域に設定する解析領域設定処理と、
    前記解析領域設定処理により設定した解析領域内の熱画像データから温度を算出する温度算出処理と、
    前記温度算出処理によって算出された温度に基づいて、前記被験者の自律神経活動の評価情報を得る評価処理と、を含む
    自律神経活動評価方法。
  6. 被験者にコンテンツを提示した際の生体情報を計測して、前記被験者の自律神経活動を評価する手順をコンピュータに実行させるプログラムであって、
    被験者の顔を撮影した熱画像データを取得する熱画像取得手順と、
    前記熱画像取得手順により取得した熱画像データから、前記被験者の鼻先部分を含む前記被験者の顔の約下半分の領域の熱画像データを、解析領域に設定する解析領域設定手順と、
    前記解析領域設定手順により設定した解析領域内の熱画像データから温度を算出する温度算出手順と、
    前記温度算出手順によって算出された温度に基づいて、前記被験者の自律神経活動の評価情報を得る評価手順と、をコンピュータに実行させるためのプログラム。
JP2018128435A 2018-07-05 2018-07-05 自律神経活動評価装置、自律神経活動評価方法及びプログラム Active JP7154493B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018128435A JP7154493B2 (ja) 2018-07-05 2018-07-05 自律神経活動評価装置、自律神経活動評価方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018128435A JP7154493B2 (ja) 2018-07-05 2018-07-05 自律神経活動評価装置、自律神経活動評価方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2020005799A JP2020005799A (ja) 2020-01-16
JP7154493B2 true JP7154493B2 (ja) 2022-10-18

Family

ID=69149425

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018128435A Active JP7154493B2 (ja) 2018-07-05 2018-07-05 自律神経活動評価装置、自律神経活動評価方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7154493B2 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017205426A (ja) 2016-05-20 2017-11-24 美貴子 隈元 心理状態評価用プログラム及び心理状態評価装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5771261A (en) * 1995-09-13 1998-06-23 Anbar; Michael Telethermometric psychological evaluation by monitoring of changes in skin perfusion induced by the autonomic nervous system

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017205426A (ja) 2016-05-20 2017-11-24 美貴子 隈元 心理状態評価用プログラム及び心理状態評価装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
MIZUNO, Tota et al.,Measuring Facial Skin Temperature Changes Caused by Mental Work-Load with Infrared Thermography,IEEJ Transactions on Electronics, Information and Systems,2016年,Vol.136, No.11,pp.1581-1585
村田禎侑 ほか,赤外線サーモグラフィを用いた顔面全体の皮膚温度による自律神経活動推定の検討,電気学会電子・情報・システム部門大会 講演論文集,2017年,論文NO.MC1-4

Also Published As

Publication number Publication date
JP2020005799A (ja) 2020-01-16

Similar Documents

Publication Publication Date Title
Caruelle et al. The use of electrodermal activity (EDA) measurement to understand consumer emotions–A literature review and a call for action
Abdelrahman et al. Cognitive heat: exploring the usage of thermal imaging to unobtrusively estimate cognitive load
Bulagang et al. A review of recent approaches for emotion classification using electrocardiography and electrodermography signals
Katsigiannis et al. DREAMER: A database for emotion recognition through EEG and ECG signals from wireless low-cost off-the-shelf devices
Bach A head-to-head comparison of SCRalyze and Ledalab, two model-based methods for skin conductance analysis
JP7329549B2 (ja) ユーザのストレスレベルを決定するための装置、システムおよび方法
US20120083675A1 (en) Measuring affective data for web-enabled applications
Shukla et al. Efficient wavelet-based artifact removal for electrodermal activity in real-world applications
Kuwahara et al. Eye fatigue estimation using blink detection based on Eye Aspect Ratio Mapping (EARM)
Wache et al. Implicit user-centric personality recognition based on physiological responses to emotional videos
Gonzalez-Sanchez et al. Affect measurement: A roadmap through approaches, technologies, and data analysis
WO2017065313A1 (ja) 有用情報提示装置
US20210406983A1 (en) System for generating product recommendations using biometric data
Kołodziej et al. Electrodermal activity measurements for detection of emotional arousal
Wong et al. Pupillary transient responses to within-task cognitive load variation
Kelsey et al. Applications of sparse recovery and dictionary learning to enhance analysis of ambulatory electrodermal activity data
Zebende et al. Auto-correlation in the motor/imaginary human EEG signals: A vision about the FDFA fluctuations
NISA’MINHAD et al. A design framework for human emotion recognition using electrocardiogram and skin conductance response signals
Agrigoroaie et al. Contactless physiological data analysis for user quality of life improving by using a humanoid social robot
da Silveira et al. Ongoing challenges of evaluating mulsemedia QoE
JP7154493B2 (ja) 自律神経活動評価装置、自律神経活動評価方法及びプログラム
EP3182892B1 (en) Method and system for eeg signal processing
Aurup et al. Pair-wise preference comparisons using alpha-peak frequencies
JP2014197373A (ja) インターネットアンケートシステム、コンピュータプログラム
JP6201520B2 (ja) 生理指標を用いる視線分析システムおよび方法

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20180725

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210622

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220527

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220922

R150 Certificate of patent or registration of utility model

Ref document number: 7154493

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150