JP2019208885A - 感情評価支援システム及び感情評価支援方法 - Google Patents
感情評価支援システム及び感情評価支援方法 Download PDFInfo
- Publication number
- JP2019208885A JP2019208885A JP2018107720A JP2018107720A JP2019208885A JP 2019208885 A JP2019208885 A JP 2019208885A JP 2018107720 A JP2018107720 A JP 2018107720A JP 2018107720 A JP2018107720 A JP 2018107720A JP 2019208885 A JP2019208885 A JP 2019208885A
- Authority
- JP
- Japan
- Prior art keywords
- degree
- user
- emotion
- viewpoint
- time stamp
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000008451 emotion Effects 0.000 title claims abstract description 137
- 238000011156 evaluation Methods 0.000 title claims abstract description 40
- 238000000034 method Methods 0.000 title claims description 14
- 238000001514 detection method Methods 0.000 claims abstract description 21
- 210000004556 brain Anatomy 0.000 claims abstract description 14
- 238000005259 measurement Methods 0.000 claims description 15
- 239000000284 extract Substances 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 4
- 206010039897 Sedation Diseases 0.000 description 26
- 230000036280 sedation Effects 0.000 description 26
- 238000010586 diagram Methods 0.000 description 12
- 230000002996 emotional effect Effects 0.000 description 8
- 230000035945 sensitivity Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 230000006399 behavior Effects 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000012356 Product development Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 238000010411 cooking Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
- Eye Examination Apparatus (AREA)
Abstract
Description
しかし、上記アンケートにおいては、ユーザの対象商品に対する表面的な評価を得ることはできるが、ユーザの潜在的な嗜好などの感情の情報を高い精度で得ることが出来ない。
このため、対象商品を目視している際に、ユーザの生体情報及び行動情報を取得して、取得した生体情報、行動情報それぞれとユーザの年齢や性別などの属性情報とに基づき、ユーザが対象商品に対して持つ、潜在的な嗜好を判断する嗜好判断システムがある(例えば、特許文献1参照)。
この特許文献1における嗜好判断システムによれば、アンケートなどに比較して、高い精度でユーザの嗜好を判断することができる。
人間の深層心理においては、対象商品に対する感情として、嗜好といってもいくつかの感情が複雑に絡み合っている。
このため、特許文献1の嗜好判断システムでは、各ユーザの深層心理で感じている真の感情を判断し、ユーザ間における共通の感情の要素を抽出して、ユーザの真の嗜好に対応した商品開発を行うことはできない。
例えば、レストランなどでメニューを見たとき、メニュー全体としての嗜好の判断を行うことは可能であるが、メニューに記載されている複数の商品において、どの商品に嗜好があるかを判断することはできない。
また、脳波計測装置11は、感情分析部111及び記憶部112の各々を備えている。
脳波計測装置11は、ユーザから取得した脳波データの各々をタイムスタンプに対応させて、記憶部112に対して書き込んで記憶させる。
図2の脳波データテーブルにおいて、レコード毎に、タイムスタンプ及び脳波データの各々の欄が設けられている。ここで、タイムスタンプは、脳波の測定周期に対応した日付けや時刻を示すデータである。脳波データは、例えば、タイムスタンプの時刻において測定された脳波の電位を示すデータである。
ここで、感情分析部111は、興味度、好き度、ストレス度、集中度及び鎮静度などの複数種類の感情の各々の度合いを、ユーザの脳波データから算出する計算モデルを使用する。
ここで、感情分析部111は、視点座標テーブルのタイムスタンプの時刻に対応した脳波データを用い、フレームの時刻に同期させて、ユーザの複数種類の感情の各々の度合いを求める。
そして、感情分析部111は、上記計算モデルを用いて脳波データから求めた興味度、好き度、ストレス度、集中度及び鎮静度などの複数種類の感情の度合いを、視点座標テーブルのタイムスタンプに対応させて、感情評価支援装置13に対して出力する。
視点検出装置12は、例えば、画像撮像装置121及び視線撮像部122の各々を備えている。
画像撮像装置121は、ユーザの視界画像である動画像(例えば、30フレーム/秒)を撮像し、各フレーム毎にタイムスタンプを付して、感情評価支援装置13に対して出力する。
視線撮像部122は、動画像のフレームに同期して、ユーザの瞳孔の画像を撮像し、フレームにおける視点の位置(視点座標値)を算出し、タイムスタンプを付して、感情評価支援装置13に対して出力する。
入力制御部131は、視点検出装置12から供給されるフレームの各々と、フレームそれぞれにおける視点の視点座標値とをタイムスタンプに対応させて、記憶部137に対して書き込んで記憶させる。
また、入力制御部131は、脳波計測装置11から供給される興味度、好き度、ストレス度、集中度及び鎮静度などの複数種類の感情の度合いを、視点座標テーブルのタイムスタンプに対応させて記憶部137に対して書き込んで記憶させる。
図3の視点座標テーブルにおいて、レコード毎に、タイムスタンプ、視界画像データインデックス及び視点座標値の各々の欄が設けられている。ここで、タイムスタンプは、日付けや時刻を示すデータである。視界画像データインデックスは、例えば、画像撮像装置121の撮像した動画像のフレームの画像のデータが記憶されている記憶部137の領域のアドレスである。視点座標値は、対応するタイムスタンプの視界画像データにおけるユーザの視点の位置を示している。
図4の感情度合テーブルにおいて、レコード毎に、タイムスタンプ、興味度、好き度、ストレス度、集中度及び鎮静度の各々の欄が設けられている。ここで、タイムスタンプは、日付けや時刻を示すデータである。興味度は、フレームにおける視点座標値の画像領域に対するユーザの興味の度合いを示している。好き度は、フレームにおける視点座標値の画像領域に対するユーザの好きの度合いを示している。ストレス度は、フレームにおける視点座標値の画像領域に対するユーザのストレスの度合いを示している。集中度は、フレームにおける視点座標値の画像領域に対するユーザの集中の度合いを示している。鎮静度は、フレームにおける視点座標値の画像領域に対するユーザの鎮静の度合いを示している。
そして、関連付部133は、視点座標テーブルにおけるタイムスタンプで関連付けて(マッチングさせて)、視点座標値と、興味度、好き度、ストレス度、集中度及び鎮静度の各々の種類の感情の度合いとを、記憶部137に書き込んで記憶させる。
図5の視点感情度合関連付テーブルにおいて、レコード毎に、タイムスタンプ、視点座標値、興味度、好き度、ストレス度、集中度及び鎮静度の各々の欄が設けられている。ここで、タイムスタンプは、図2における視点座標テーブルにおけるタイムスタンプの時刻に対応した日付けや時刻を示すデータである。視点座標値は、対応するタイムスタンプの視界画像データにおけるユーザの視点の位置を示している。
そして、度合分析部134は、予め設定された変化量閾値を超えた時点のタイムスタンプを抽出する。
また、度合分析部134は、変化量閾値を超えた時点のタイムスタンプと、このタイムスタンプにおける視点座標値と、変化量閾値を超えた感情を示す情報とを記憶部137に書き込んで記憶させる。
図6の感情度合検出テーブルにおいて、レコード毎に、タイムスタンプ、視点座標値、興味度フラグ、好き度フラグ、ストレス度フラグ、集中度フラグ及び鎮静度フラグの各々の欄が設けられている。ここで、タイムスタンプは、図2における視点座標テーブルにおけるタイムスタンプの時刻に対応した日付けや時刻を示すデータである。視点座標値は、対応するタイムスタンプの視界画像データにおけるユーザの視点の位置を示している。
また、画像制御部135は、表示部136の表示画面の視点画像表示領域に対し、上記グラフ表示領域に表示されるグラフにおけるタイムスタンプに対応したフレームの画像を表示する。
そして、画像制御部135は、フラグが立っている感情があれば、この感情フレームの画像における視点座標値に対して、所定のマークを表示する。
また、画像制御部135は、同一のタイムスタンプ、すなわち同一の視点座標値において、複数の感情のフラグが立っている場合、それぞれのフラグに対応する感情のマークをずらして、各感情のマークが視認できるように構成しても良い。
また、視点画像表示領域200に表示されるフレームの画像には、このフレームのタイムスタンプにおける度合いの変化量が変化量閾値を超えた感情に対応して、視点座標値にマーク201が重畳して表示される。
一方、手動表示を行う場合、ユーザがタイムスタンプマーク110をマウスなどにより、左方向あるいは右方向のいずれかに任意に移動させる。これにより、画像制御部135は、ユーザが移動させたタイムスタンプマーク110が位置するタイムスタンプに対応するフレームの画像を、視点画像表示領域200に表示する。
これにより、画像制御部135は、記憶部137の感情度合検出テーブルを参照して、ユーザが指定したタイムスタンプの範囲において、変化量が変化量閾値を超えた感情を有するフレームを抽出し、それぞれのフレームにおけるマークを視点画像表示領域200の感性マップ(画像)に表示する。
また、画像制御部135は、視点画像表示領域200の感性マップに表示する感情のマークを、グラフ表示領域100に表示する感情の曲線と同一の色で表示する。
マークの表示において、マーク211が興味度を示し、マーク212が好き度を示し、マーク213がストレスを示している。
この図8における視点画像表示領域200の感性マップから、複数の感情の度合いがそれぞれマークとして、ユーザが目視している視点座標に表示されるため、部分画像210の料理は好きであるため好き度が高いが、カロリーが高いために太ることを考えるためストレス度が高くなっているなどが、ビジュアル的にユーザの深層心理の複数の感情変化として容易に判断することが可能となる。
ステップS101:被験者としてのユーザの頭部に脳波計測装置11及び視点検出装置12の各々を装着する。
そして、所定の時間、ユーザに平静な状態を保持してもらい、何も感情の起伏がなく、すなわち脳波の変化が少ない状態において、バックグランドのデータとしての脳波を取得する。
これにより、脳波計測装置11は、タイムスタンプとこのタイムスタンプにおいて取得した脳波データを記憶部112の脳波データテーブルに対して書き込んで記憶させる。
また、視点検出装置12は、視界画像としての動画及び視点座標値を取得し、タイムスタンプと、このタイムスタンプのフレーム及び視点座標値の各々を、感情評価支援装置13に対して送信する。
そして、感情分析部111は、タイムスタンプ毎に求めた興味度、好き度、ストレス度、集中度及び鎮静度などの複数種類の感情の各々の度合いを、このタイムスタンプに対応させて、感情評価支援装置13に対して送信する。
入力制御部131は、脳波計測装置11から供給される、タイムスタンプ毎の興味度、好き度、ストレス度、集中度及び鎮静度などの複数種類の感情の各々の度合いを取得する。そして、入力制御部131は、視点座標テーブルのタイムスタンプに対応させて、記憶部137の感情度合テーブルに書き込んで記憶させる。
関連付部133は、フレームのタイムスタンプに対応したタイムスタンプ毎に、このタイムスタンプにおける興味度、好き度、ストレス度、集中度及び鎮静度の各々の種類の感情の度合いを読み出す。
そして、関連付部133は、視点座標テーブルにおけるタイムスタンプに関連付けて、視点座標値と、読み出した興味度、好き度、ストレス度、集中度及び鎮静度の各々の種類の感情の度合いとをマッチングさせて、記憶部137の視点感情度合テーブルに順次書き込んで記憶させる。
そして、度合分析部134は、所定時間範囲内において、予め設定された変化量閾値を超えた変化量となった度合いに対応する時点のタイムスタンプを抽出する。
また、度合分析部134は、変化量閾値を超えた時点のタイムスタンプと、このタイムスタンプにおける視点座標値と、変化量閾値を超えた感情を示すフラグ(興味度フラグ、好き度フラグ、ストレス度フラグ、集中度フラグ及び鎮静度フラグ)とを、記憶部137の感情度合検出テーブルに対して書き込んで記憶させる。
また、画像制御部135は、表示部136の表示画面の視点画像表示領域に対し、図7の視点画像表示領域200の画像のように、グラフ表示領域に表示されるタイムスタンプマークにおけるタイムスタンプに対応したフレームの画像を表示する。
そして、画像制御部135は、表示部136の表示画面における視点画像表示領域において、タイムスタンプマークにおけるタイムスタンプのフレームの画像における視点座標値に対してマークを表示する。
上述したように、本実施形態によれば、ユーザの視点位置毎に、異なる複数の種類の感情の変化を抽出することができるため、この異なる複数の種類から、ユーザの複雑な深層心理における真の感情の変化(感性)を推定することができるため、アンケートなどの一元的な評価に比較して、より高い精度でユーザの評価を得られるため、ユーザの真の要望を推定することが可能となるため、より商品開発が容易に行えるようになる。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
11…脳波計測装置
12…視点検出装置
13…感情評価支援装置
111…感情分析部
112,137…記憶部
121…画像撮像装置
122…視線撮像部
131…入力制御部
133…関連付部
134…度合分析部
135…画像制御部
136…表示部
Claims (3)
- ユーザの視点を検出する視点検出部と、
前記ユーザの脳波を計測する脳波計測部と、
前記脳波から、少なくとも興味度、好き度、ストレス度を含む複数種類の感情の度合いを、抽出する感情分析部と、
前記視点と前記複数種類の感情の度合いとの各々を、タイムスタンプで対応付ける関連付部と
を備える感情評価支援システム。 - 前記感情分析部が、
複数の人間に対して、前記複数種類の感情の各々を生じさせて脳波を取得し、この脳波に対して統計処理を行いて生成された、前記複数種類の感情の各々の度合いを出力する計算モデルそれぞれを用いて、前記ユーザの前記脳波から複数種類の感情の度合いを求める
ことを特徴とする請求項1に記載の感情評価支援システム。 - ユーザの視点を検出する視点検出過程と、
前記ユーザの脳波を計測する脳波計測過程と、
前記脳波から、少なくとも興味度、好き度、ストレス度を含む複数種類の感情の度合いを、抽出する感情分析過程と、
前記視点と前記複数種類の感情の度合いとの各々を、タイムスタンプで対応付ける関連付過程と
を含むことを特徴とする感情評価支援方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018107720A JP2019208885A (ja) | 2018-06-05 | 2018-06-05 | 感情評価支援システム及び感情評価支援方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018107720A JP2019208885A (ja) | 2018-06-05 | 2018-06-05 | 感情評価支援システム及び感情評価支援方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019208885A true JP2019208885A (ja) | 2019-12-12 |
Family
ID=68845712
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018107720A Pending JP2019208885A (ja) | 2018-06-05 | 2018-06-05 | 感情評価支援システム及び感情評価支援方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019208885A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022054349A1 (ja) * | 2020-09-10 | 2022-03-17 | 株式会社島津製作所 | 感性計測方法および感性計測システム |
WO2023187973A1 (ja) * | 2022-03-29 | 2023-10-05 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置、情報処理装置の制御方法、及びプログラム |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002183212A (ja) * | 2000-12-19 | 2002-06-28 | Fuji Xerox Co Ltd | 電子文書加工システム、電子文書加工方法、及び、コンピュータ読取り可能な記録媒体 |
JP2010218491A (ja) * | 2009-03-19 | 2010-09-30 | Nomura Research Institute Ltd | コンテンツ配信システム、コンテンツ配信方法及びコンピュータプログラム |
JP2013180076A (ja) * | 2012-03-02 | 2013-09-12 | Dainippon Printing Co Ltd | 分析支援装置、プログラム |
US20140347265A1 (en) * | 2013-03-15 | 2014-11-27 | Interaxon Inc. | Wearable computing apparatus and method |
JP2015229040A (ja) * | 2014-06-06 | 2015-12-21 | 株式会社電通サイエンスジャム | 感情分析システム、感情分析方法および感情分析プログラム |
-
2018
- 2018-06-05 JP JP2018107720A patent/JP2019208885A/ja active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002183212A (ja) * | 2000-12-19 | 2002-06-28 | Fuji Xerox Co Ltd | 電子文書加工システム、電子文書加工方法、及び、コンピュータ読取り可能な記録媒体 |
JP2010218491A (ja) * | 2009-03-19 | 2010-09-30 | Nomura Research Institute Ltd | コンテンツ配信システム、コンテンツ配信方法及びコンピュータプログラム |
JP2013180076A (ja) * | 2012-03-02 | 2013-09-12 | Dainippon Printing Co Ltd | 分析支援装置、プログラム |
US20140347265A1 (en) * | 2013-03-15 | 2014-11-27 | Interaxon Inc. | Wearable computing apparatus and method |
JP2015229040A (ja) * | 2014-06-06 | 2015-12-21 | 株式会社電通サイエンスジャム | 感情分析システム、感情分析方法および感情分析プログラム |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022054349A1 (ja) * | 2020-09-10 | 2022-03-17 | 株式会社島津製作所 | 感性計測方法および感性計測システム |
EP4215115A4 (en) * | 2020-09-10 | 2024-04-17 | Shimadzu Corporation | METHOD AND SYSTEM FOR MEASURING SENSITIVITY |
JP7485059B2 (ja) | 2020-09-10 | 2024-05-16 | 株式会社島津製作所 | 感性計測方法および感性計測システム |
WO2023187973A1 (ja) * | 2022-03-29 | 2023-10-05 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置、情報処理装置の制御方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220117510A1 (en) | Determining intensity of a biological response to a presentation | |
US9646046B2 (en) | Mental state data tagging for data collected from multiple sources | |
US20150234457A1 (en) | System and method for content provision using gaze analysis | |
KR101850101B1 (ko) | 시선 추적을 이용한 광고 제공 방법 | |
JP2010520553A5 (ja) | ||
US9934425B2 (en) | Collection of affect data from multiple mobile devices | |
JP2015229040A (ja) | 感情分析システム、感情分析方法および感情分析プログラム | |
JP2007289658A (ja) | 画像出力装置、画像出力方法、および画像出力プログラム | |
Menekse Dalveren et al. | Insights from surgeons’ eye-movement data in a virtual simulation surgical training environment: effect of experience level and hand conditions | |
KR102466438B1 (ko) | 인지 기능 평가 시스템 및 인지 기능 평가 방법 | |
JP2007289656A (ja) | 画像記録装置、画像記録方法、および画像記録プログラム | |
JP2019208885A (ja) | 感情評価支援システム及び感情評価支援方法 | |
JP2016049438A (ja) | 人の心理を定量的に測定する心理量測定装置と測定方法 | |
MacRitchie et al. | Efficient tracking of pianists’ finger movements | |
Guimard et al. | Pem360: A dataset of 360 videos with continuous physiological measurements, subjective emotional ratings and motion traces | |
JP2007289657A (ja) | 画像記録装置、画像記録方法、および画像記録プログラム | |
Szita et al. | The effects of smartphone spectatorship on attention, arousal, engagement, and comprehension | |
JP2013180076A (ja) | 分析支援装置、プログラム | |
JPWO2019146405A1 (ja) | 表情解析技術を用いた商品に対するモニタの反応を評価するための情報処理装置、情報処理システム、プログラム | |
JP2022174805A (ja) | 被験者分析装置 | |
JP5811674B2 (ja) | アンケートシステム | |
KR20190058565A (ko) | 개인의 작업 메모리 부하에 영향을 미치는 센서 입력들의 식별 | |
JP6431264B2 (ja) | 情報取得システム、情報取得方法及びコンピュータプログラム | |
JP2008059119A (ja) | 心理特性評価装置 | |
JP6721818B2 (ja) | 瞳孔径拡大による脳活動量判定装置およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180628 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180806 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210330 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220124 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220201 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20220726 |