JP2016007414A - 興奮度検出装置、興奮度検出システム、興奮度検出サーバー装置、興奮度検出装置プログラム、興奮度検出サーバー装置プログラム、興奮度検出端末装置、興奮度検出端末装置プログラム、および、電子装置 - Google Patents

興奮度検出装置、興奮度検出システム、興奮度検出サーバー装置、興奮度検出装置プログラム、興奮度検出サーバー装置プログラム、興奮度検出端末装置、興奮度検出端末装置プログラム、および、電子装置 Download PDF

Info

Publication number
JP2016007414A
JP2016007414A JP2014130264A JP2014130264A JP2016007414A JP 2016007414 A JP2016007414 A JP 2016007414A JP 2014130264 A JP2014130264 A JP 2014130264A JP 2014130264 A JP2014130264 A JP 2014130264A JP 2016007414 A JP2016007414 A JP 2016007414A
Authority
JP
Japan
Prior art keywords
frequency component
excitement
time
series
level detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014130264A
Other languages
English (en)
Other versions
JP6481130B2 (ja
JP2016007414A5 (ja
Inventor
板生 清
Kiyoshi Itao
清 板生
研一 板生
Kenichi Itao
研一 板生
真人 駒澤
Masato Komazawa
真人 駒澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
WINFRONTIER CO Ltd
Original Assignee
WINFRONTIER CO Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by WINFRONTIER CO Ltd filed Critical WINFRONTIER CO Ltd
Priority to JP2014130264A priority Critical patent/JP6481130B2/ja
Publication of JP2016007414A publication Critical patent/JP2016007414A/ja
Publication of JP2016007414A5 publication Critical patent/JP2016007414A5/ja
Application granted granted Critical
Publication of JP6481130B2 publication Critical patent/JP6481130B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】興奮度検出装置を提供する。【解決手段】興奮度検出装置は、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、画像表示をする画像表示部と、時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備える。【選択図】図1

Description

本発明は、興奮度検出装置、興奮度検出システム、興奮度検出サーバー装置、興奮度検出装置プログラム、興奮度検出サーバー装置プログラム、興奮度検出端末装置、興奮度検出端末装置プログラム、および、電子装置に関する。
従来からスマートフォンが広く普及している。スマートフォンは、電話機能とともに種々の機能を有している。スマートフォンの多機能性は、マイクロプロセッサ(MPU:microprocessor)で実行されるオペレーションシステムによって保障される。現在普及している主なるオペレーションシステムは、アンドロイド(Android:登録商標)、アイオーエス(iOS:登録商標)である。
インターネットの発達に伴い、ネットワーク上に存在するサーバーが提供するサービスを、それらのサーバー群を意識することなしに利用できるクラウド・コンピューティング技術が提供されている。
特許文献1には、被測定者の心電データを心電図モニタにより測定し、測定された心電データに基づいて、心拍変動の高周波成分HF、低周波成分LFおよびCVRR(心電図R−R間隔変動係数)を算出する。そして、算出されたこれらの値に基づいて、交感神経活動度指標(LF/HF)、副交感神経活動度指標(CVRR×HF/(LF+HF))を算出し、算出された交感神経活動度指標と副神経活動度指標との関係を表示装置に対して2次元表示してストレスに関係する自律神経機能を客観的に評価することが記載されている。
特許第4487015号公報
自分の精神状態を客観的に把握することは困難であるが、自分の精神状態を簡易に知ることができれば、精神面の自己管理に有用である。また、同一テレビ番組の放映中に多数の視聴者の精神状態を知ることができれば、番組制作者は視聴者が好む番組を提供できる。精神状態を検出する発明としては、特許文献1がある。しかしながら、特許文献1に記載の発明によれば、心電図モニタを用いるなど装置は大掛かりになってしまい簡単に精神状態の客観的な評価をおこなうことはできなかった。上述した目的を達するために、日常の生活の中で簡易に客観的な精神状態の評価をおこなうことができる技術手段が求められるとともに、同一場面に遭遇した多数の者の精神状態を把握することは、地震津波のような災害時における大衆の精神状態に基づく行動の予測からテレビ番組に対する視聴者の印象調査に至るまで多くの目的のために有用であり、簡単に精神状態の客観的な評価をおこなう装置の提供が要望されていた。
本発明は、係る問題点に鑑みなされたものであり、日常的に、精神状態、特に興奮度を客観的に検出する装置を提供し、このような装置で実行させるプログラムを提供するものである。
本発明の興奮度検出装置は、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、画像表示をする画像表示部と、前記時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、前記低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備える。
本発明の興奮度検出装置プログラムは、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、画像表示をする画像表示部とを有する興奮度検出装置のコンピュータに実行させる興奮度検出装置プログラムであって、前記時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、前記低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備えるように前記コンピュータを機能させる。
本発明の興奮度検出システムは、興奮度検出端末装置と興奮度検出サーバー装置とを備える興奮度検出システムであって、前記興奮度検出端末装置は、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、前記皮膚の輝度に応じた時系列輝度データを興奮度検出サーバー装置に対して出力する時系列輝度データ出力処理部と、前記サーバーから出力される興奮度を表示する画像表示部と、を具備し、前記興奮度検出サーバー装置は、前記時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、前記低周波成分と予め測定した基準低周波成分との差に基づいて前記興奮度を求める興奮度検出部と、を具備する。
本発明の興奮度検出サーバー装置は、興奮度検出システムにおいて興奮度検出端末装置と協調して動作する興奮度検出サーバー装置であって、血流に応じて変化する皮膚の輝度を前記興奮度検出端末装置において撮影して得られる時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、前記低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備える。
本発明の興奮度検出サーバー装置プログラムは、興奮度検出システムにおいて興奮度検出端末装置と協調して動作する興奮度検出サーバー装置のコンピュータに実行させる興奮度検出サーバー装置プログラムであって、血流に応じて変化する皮膚の輝度を前記興奮度検出端末装置において撮影して得られる時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、前記低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備えるように前記コンピュータを機能させる。
本発明の興奮度検出端末装置は、興奮度検出システムにおいて興奮度検出サーバー装置と協調して動作する興奮度検出端末装置であって、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、前記皮膚の輝度に応じた時系列輝度データを興奮度検出サーバー装置に対して出力する時系列輝度データ出力処理部と、前記サーバーから出力される興奮度を表示する画像表示部と、を備え、前記時系列輝度データ取得部は、撮影された画像のR(赤色)、G(緑色)、B(青色)に分離される各成分の割合から肌色を含むことを判断するとともに前記肌色の部分の前記画像に占める割合を検出して予め定める所定割合以上であることを検出した後、または/および、前記時系列輝度データが略一定の周期を有する繰り返し波形であるとともにエンベロープが略一定であることを検出した後に、前記時系列輝度データの取得を開始する。
本発明の興奮度検出端末装置プログラムは、興奮度検出システムにおいて興奮度検出サーバー装置と協調して動作する興奮度検出端末装置のコンピュータに実行させる興奮度検出端末装置プログラムであって、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、前記皮膚の輝度に応じた時系列輝度データを興奮度検出サーバー装置に対して出力する時系列輝度データ出力処理部と、前記サーバーから出力される興奮度を表示する画像表示部と、を備えるように前記コンピュータを機能させ、前記時系列輝度データ取得部においては、撮影された画像のR(赤色)、G(緑色)、B(青色)に分離される各成分の割合から肌色を含むことを判断するとともに前記肌色の部分の前記画像に占める割合を検出して予め定める所定割合であることを検出した後、または/および、前記時系列輝度データが略一定の周期を有する繰り返し波形であるとともにエンベロープが略一定であることを検出した後に、前記時系列輝度データの取得を開始する、処理をおこなう。
本発明の電子装置は、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、前記時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、前記低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備える。
本発明の技術によれば、血流に応じて変化する皮膚の輝度を撮影して得られる時系列輝度データに基づき興奮度を演算する興奮度検出装置を提供し、協調して動作する興奮度検出端末装置と興奮度検出サーバー装置を提供し、興奮度検出端末装置プログラムと興奮度検出サーバー装置プログラムを提供できる。また、興奮度を演算する電子装置を提供できる。
実施形態の興奮度検出システムを示す図である。 興奮度検出端末装置に表示される画面1、画面2を示す図である。 興奮度検出端末装置に表示される画面3、画面4を示す図である。 興奮度検出端末装置に表示される画面5、画面6を示す図である。 興奮度検出端末装置に表示される画面7、画面8を示す図である。 興奮度検出端末装置に表示される画面9、画面10を示す図である。 興奮度検出端末装置に表示される画面11、画面12を示す図である。 興奮度検出端末装置に表示される画面13、画面14を示す図である。 興奮度検出端末装置に表示される画面15、画面16を示す図である。 興奮度検出端末装置に表示される画面17、画面18を示す図である。 興奮度検出端末装置における処理および興奮度検出サーバー装置における処理を示す図である。 興奮度検出端末装置における処理および興奮度検出サーバー装置における図11に続く処理を示す図である。 興奮度検出端末装置における処理および興奮度検出サーバー装置における図12に続く処理を示す図である。 前倒しロジック処理を模式的に示す図である。 サーバーにおける各ステップの処理終了後の時系列輝度データを示す図である。 ローパスフィルタの定数をどのように定めるかについての説明図である。 ローパスフィルタの定数をどのように定めるかについての別の説明図である。
実施形態の興奮度検出装置は、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、画像表示をする画像表示部と、時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備える。
ここで、低周波成分(RR間隔時系列データをフーリエ変換した信号の低周波成分)と高周波成分(RR間隔時系列データをフーリエ変換した信号の低周波成分)とを分離するフィルタの特性は、規格化した所定の特性である。例えば、高周波成分は、フーリエ変換した後、第1所定周波数の帯域(例えば、0.15〜0.4Hz)を通過させるフィルタによって得られる、第1所定周波数の帯域のパワースペクトルの積分値である。低周波成分は、第1所定周波数よりも周波数が低い帯域(例えば、0.04〜0.15Hz)を通過させるフィルタによって得られるパワースペクトルの積分値である。
低周波成分は交感神経の活動に関係することが知られている。また、低周波成分を高周波成分で除したものも交感神経の活動を表し、低周波成分の対数も交感神経の活動を表し、低周波成分の対数を高周波成分の対数で除するものも交感神経の活動を表す。
低周波成分、低周波成分を高周波成分で除するもの、低周波成分の対数、低周波成分の対数を高周波成分の対数で除するものは、いずれも、それらの値が大きいほど、交感神経の活動が高い。ここで、興奮すると、交感神経の活動が高くなることが知られているので、交感神経の活動を調べれば、どの程度、興奮しているかを知ることができる。
しかしながら、上述した、低周波成分、低周波成分を高周波成分で除するもの、低周波成分の対数、低周波成分の対数を高周波成分の対数で除するものは、その除した値が大きい場合でも、興奮していない者もある反面、その除した値が小さい場合でも、興奮している者もある。すなわち、低周波成分、低周波成分を高周波成分で除するもの、低周波成分の対数、低周波成分の対数を高周波成分の対数で除するもの、と、どの程度興奮しているかの関係は、個人差がある。そこで、測定時点の低周波成分と、基準低周波成分との大きさの違いに基づいて興奮度を求めるようにした。ここで、基準低周波成分とは、同一人において予め測定した基準となる興奮状態の低周波成分の値である。このようにすれば、基準低周波成分に対する測定時点の低周波成分から興奮度求めることができる。このようにして、興奮している度合である興奮度が個人差なく規格化できる。
具体的には、興奮度は以下の様にして求める。

興奮度=(低周波成分)/(基準低周波成分)・・・・・・・・・・・・・・・・(1)

興奮度=(低周波成分の対数)/(基準低周波成分の対数)・・・・・・・・・・(2)

興奮度=(低周波成分/高周波成分)/(基準低周波成分/基準高周波成分)・・(3)

興奮度={(低周波成分の対数/高周波成分の対数)/(基準低周波成分の対数/基準高周波成分の対数)}・・・・・・・・・・・・・・・・・・・・・・・・・・(4)
以上の、(1)式、(2)式、(3)式、(4)式のいずれの式も、少なくとも、測定時の低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求めている。(1)式では、測定時の低周波成分と予め測定した基準低周波成分のみの大きさの違いに基づいて興奮度を求めている。(2)式では、測定時の低周波成分と予め測定した基準低周波成分との大きさの違いにのみ基づいて興奮度を求めているが、低周波成分の対数の大きさの違いに基づいて興奮度を求めている。
(3)式では、測定時の低周波成分と予め測定した基準低周波成分の大きさの違いに基づいて興奮度を求めているが、測定時の高周波成分と予め測定した基準高周波成分との大きさの違いも用いて興奮度を求めている。(4)式では、測定時の低周波成分と予め測定した基準低周波成分の大きさの違いに基づいて興奮度を求めているが、測定時の高周波成分と予め測定した基準高周波成分との大きさの違い、測定時の低周波成分および高周波成分の対数と予め測定した基準低周波成分および高周波成分の対数も用い興奮度を求めている。以上の、(1)式、(2)式、(3)式、(4)式のいずれの式に基づき、興奮度を求めるかは、任意に選択できる。
(1)式、(2)式、における基準低周波成分とは基準の興奮状態における低周波成分であり、(3)式、(4)式、における基準低周波成分および基準高周波成分とは、基準の興奮状態における低周波成分および高周波成分である。ここで基準の興奮状態とは、通常の日常生活を行っている場合における興奮状態であり、過度に気が緩んだ状態でもなく、過度に興奮した状態でもなく、くつろいだ穏やかな平常心における興奮状態である。
実施形態の興奮度検出装置は、RR間隔時系列データ(アール・アール間隔時系列データ)に含まれるノイズを除去するためのローパスフィルタリング処理部を備えてもよい。
実施形態の興奮度検出装置は、時系列輝度データに含まれるノイズを除去しピーク検出をするためのSavitzky-Golayフィルタ(サビツキ・ゴレイフィルタ)を備えてもよい。
実施形態の興奮度検出装置は、時系列輝度データの連続補間をするための関数化処理部を備えてもよい。
実施形態の興奮度検出装置は、時系列輝度データの値が連続して同値である場合には、予め定める所定複数回数以上の時系列輝度データを処理の対象から除く前倒しロジック処理部を備えてもよい。
実施形態の興奮度検出装置は、時系列輝度データの検出をおこなうに際してディスプレイに時系列輝度データの波形を表示してもよい。
実施形態の興奮度検出装置は、時系列輝度データの検出をおこなう前にディスプレイに、血流に応じて変化する皮膚の輝度を撮影する指の画像を表示するとともに時系列輝度データの波形を表示してもよい。
実施形態の興奮度検出装置は、RR間隔時系列データ(アール・アール間隔時系列データ)の値に逆比例する瞬時心拍数を得て、現在の瞬時心拍数と直前の瞬時心拍数との差分が第1所定値よりも大きい場合には、現在のRR間隔時系列データを処理の対象から除去するRR間隔時系列データの異常値除去処理部を備えてもよい。
実施形態の興奮度検出装置は、RR間隔時系列データ(アール・アール間隔時系列データ)の値に逆比例する瞬時心拍数を得て、現在の瞬時心拍数と直前までの瞬時心拍数の移動平均値との差分が第2所定値よりも大きい場合には、現在のRR間隔時系列データを処理の対象から除去するRR間隔時系列データの異常値除去処理部を備えてもよい。
実施形態の興奮度検出装置プログラムは、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、画像表示をする画像表示部とを有する興奮度検出装置のコンピュータに実行させる興奮度検出装置プログラムであって、時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備えるようにコンピュータを機能させる。
実施形態の興奮度検出システムは興奮度検出端末装置と興奮度検出サーバー装置とを備える興奮度検出システムであって、興奮度検出端末装置は、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、皮膚の輝度に応じた時系列輝度データを興奮度検出サーバー装置に対して出力する時系列輝度データ出力処理部と、サーバーから出力される興奮度を表示する画像表示部と、を具備し、興奮度検出サーバー装置は、時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を具備する。
実施形態の興奮度検出サーバー装置は、興奮度検出システムにおいて興奮度検出端末装置と協調して動作する興奮度検出サーバー装置であって、血流に応じて変化する皮膚の輝度を興奮度検出端末装置において撮影して得られる時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備える。
実施形態の興奮度検出サーバー装置プログラムは、興奮度検出システムにおいて興奮度検出端末装置と協調して動作する興奮度検出サーバー装置のコンピュータに実行させる興奮度検出サーバー装置プログラムであって、血流に応じて変化する皮膚の輝度を興奮度検出端末装置において撮影して得られる時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備えるようにコンピュータを機能させる。
実施形態の興奮度検出端末装置は、興奮度検出システムにおいて興奮度検出サーバー装置と協調して動作する興奮度検出端末装置であって、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、皮膚の輝度に応じた時系列輝度データを興奮度検出サーバー装置に対して出力する時系列輝度データ出力処理部と、サーバーから出力される興奮度を表示する画像表示部と、を備え、時系列輝度データ取得部は、撮影された画像のR(赤色)、G(緑色)、B(青色)に分離される各成分の割合から肌色を含むことを判断するとともに肌色の部分の画像に占める割合を検出して予め定める所定割合以上であることを検出した後、または/および、時系列輝度データが略一定の周期を有する繰り返し波形であるとともにエンベロープが略一定であることを検出した後に、時系列輝度データの取得を開始する。
実施形態の興奮度検出端末装置プログラムは、興奮度検出システムにおいて興奮度検出サーバー装置と協調して動作する興奮度検出端末装置のコンピュータに実行させる興奮度検出端末装置プログラムであって、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、皮膚の輝度に応じた時系列輝度データを興奮度検出サーバー装置に対して出力する時系列輝度データ出力処理部と、サーバーから出力される興奮度を表示する画像表示部と、を備えるようにコンピュータを機能させ、時系列輝度データ取得部においては、撮影された画像のR(赤色)、G(緑色)、B(青色)に分離される各成分の割合から肌色を含むことを判断するとともに肌色の部分の画像に占める割合を検出して予め定める所定割合以上であることを検出した後、または/および、時系列輝度データが略一定の周期を有する繰り返し波形であるとともにエンベロープが略一定であることを検出した後に、時系列輝度データの取得を開始する、処理をおこなう。
実施形態の電子装置は、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備える。
『第1実施形態』
(興奮度検出システムの概要)
図1は、実施形態の興奮度検出システム10を示す。
興奮度検出システム10は、興奮度検出端末装置として機能するスマートフォン11と、興奮度検出サーバー装置として機能するサーバー12と、スマートフォン11とサーバー12とを接続するインターネット13とを備える。
スマートフォン11は、携帯電話として機能するのみならず、インターネットに接続し、種々のアプリケーションソフトの動作を可能とするオペレーションシステム(OS)、液晶画面(LCD)とタッチパネルとを主たるユーザインターフェイスデバイスとする多機能携帯電話である。スマートフォン11は、興奮度検出端末装置の一実施形態として機能する。スマートフォン11の多機能性は、オペレーションシステムによって保障される。現在普及している主なるオペレーションシステムは、アンドロイド(Android:登録商標)、アイオーエス(iOS:登録商標)である。
スマートフォン11は、電話機能以外に、液晶画面を含む画像表示部が発揮する画像表示機能、液晶表示画面とタッチパネルを組み合わせることによって発揮される画像表示の位置認識をするタッチパネル機能、音声送出機能、音声入力機能、カメラ機能、インターネット接続機能、GPS(Global Positioning System)機能を備えるのが一般的である。そして、一般的なパーソナルコンピュータと同様に、オペレーションシステムが動作するハードウエアであるマイクロプロセッサ(MPU)を中心としてラム、ロム、インターフェイスデバイス等の周辺機器がバスラインによって接続されている。オペレーションシステムはMPUにおいて実行され、周辺機器を制御して所望の上述した機能を発揮する。スマートフォン11は、興奮度検出端末装置の一実施形態であり、興奮度検出端末装置の他の実施形態として、上述した各種機能を有するタブレット(多機能携帯端末)、本実施形態の使用に特化した興奮度検出端末装置であってもよい。
図1に示すようにスマートフォン11は、インターネット接続機能によって無線でインターネット13と接続される。
スマートフォン14は、興奮度検出端末装置として機能する他のスマートフォンである。スマートフォン14もスマートフォン11と同様に、サーバー12と共同して興奮度を検出することができる。
サーバー12は、高速で大容量のデータを処理することが可能なコンピュータであり、高速、高機能なCPU(セントラルプロセッシングユニット:中央演算装置)、大容量ラム、大容量ロム、大容量書換可能不揮発メモリ、等を備え、複雑な処理を高速でおこなうことができる。よって、多数のクライアント(スマートフォン)がインターネット13を介してサーバー12にアクセスした場合であっても、高速にクライアントからの要求を受信し、瞬時に情報の処理をおこない、その処理結果を、高速なインターネット13を介してクライアントに返送する。
スマートフォン11からサーバー12に対して後述する時系列輝度データを送信し、サーバー12における演算処理の後、サーバー12からスマートフォン11に対して解析結果データを送信する。このように、実施形態においては、スマートフォン11とサーバー12とで処理の分担をおこなっている。その理由は、スマートフォン11にインストールできるアプリケーションの許容サイズ、処理速度に限界があるので全ての処理をスマートフォン11の内部で処理する場合には、解析結果データを得るために要する時間が長くなるという課題を有するからである。クライアント・サーバー・システムを採用することによってこのような課題は解決する。また、サーバーにおいてクライアントから得られる多量のデータを集積し、これをクライアントの共通の資産として利用できる。
このようにスマートフォン11とサーバー12とは、インターネット13を介して接続され、協調して動作する。すなわち、スマートフォン11を操作する者から見ると、インターネット13を介して接続されるサーバー12はクラウド・コンピュータとして機能してサーバー12は「雲」のようにその存在が明確には認識されず、あたかも、サーバー12における処理はスマートフォン11がおこなう処理であるかのように認識される。
(興奮度検出端末装置に表示される画面)
本実施形態の興奮度検出システムを一つの実施例に沿って説明をする。本実施例では興奮度検出システムは「サッカー熱狂診断アプリ」を実行するものとして説明をする。図2〜図10は、興奮度検出端末装置として機能するスマートフォン11の液晶画面に表示される画像を示す。
図2は、興奮度検出端末装置に表示される画面1、画面2を示す。図3は、興奮度検出端末装置に表示される画面3、画面4を示す。図4は、興奮度検出端末装置に表示される画面5、画面6を示す。図5は、興奮度検出端末装置に表示される画面7、画面8を示す。図6は、興奮度検出端末装置に表示される画面9、画面10を示す。図7は、興奮度検出端末装置に表示される画面11、画面12を示す。図8は、興奮度検出端末装置に表示される画面13、画面14を示す。図9は、興奮度検出端末装置に表示される画面15、画面16を示す。図10は、興奮度検出端末装置に表示される画面17、画面18を示す。
図2に示す画面1は、「サッカー熱狂診断アプリ」のアプリケーションの起動後、最初にスマートフォン11の液晶画面に表示される画面である。
図2に示す画面2は、スマートフォン11の液晶画面に表示される「サッカー熱狂診断アプリ」の利用規約を示す画面である。
画面2の下部の「同意する」をタッチすると、タッチパネル機能によって「サッカー熱狂診断アプリ」を利用することを同意したことがMPUによって認識され、図3に示す画面3がスマートフォン11の液晶画面に表示される。
図3に示す画面3は、「サッカー熱狂診断アプリ」の開始時にスマートフォン11の液晶画面に表示される画面である。
画面3は、「サッカー熱狂診断アプリ」を利用する者の情報をユーザ情報として登録するための画面である。
登録に際しては、液晶画面の適当な場所にキーボードとして機能するタッチキーを表示してタッチキーによってMPUに登録情報を認識させる。
属性情報としては、「性別」、「生年月日」及び、「おすまいの都道府県」を取得する。その他登録内容としては、職業(業界・職種)雇用形態、既婚/未婚、家族形態を登録するようにしてもよい。
図3に示す画面4は、「はじめる(試合を予約)」または「ランキングを見る」を選択する画面である。
「サッカー熱狂診断アプリ」を利用する者が「はじめる(試合を予約)」をタッチすると、図4に示す図面5が選択される。
画面5は、試合の日時、試合の両チームの名前、その試合を放送する放送局の名前を一行とする複数行を表示する画面である。
画面5の一行をタッチすると画面6が表示される。
図4に示す画面6は、6月15日(日)、10:00に、コートジボワール×日本が、NHK、(グループC第1節)をタッチした場合(図面5には図示せず)に、図面6に表示される画面である。
画面6の下段の「予約する」にタッチすると次の画面が表示される。
図5に示す画面7は、「Before測定の通知」の画面である。Before測定とは、試合をテレビ観戦、実況観戦、ビデオ観戦(これらを試合観戦と総称する。)する前の「サッカー熱狂診断アプリ」を利用する者の興奮度を測定するための通知である。
通知内容は、「試合(コートジボワール×日本)開始5分前です。Before測定をしましょう!」である。
画面7の下段の「次へ」をタッチすると画面8が表示される。
図5に示す画面8は、「Before測定」の画面である。「Before測定」とは、試合が始まる前における「サッカー熱狂診断アプリ」を利用する者の平常心における興奮状態における測定であり、(1)式ないし(4)式における基準低周波成分または/および基準高周波成分を求めることを目的とする測定である。
画面8は、「サッカー熱狂診断アプリ」を利用する者に対する「Before測定」に関する指示の画面である。
「心拍数を測定します。人さし指の先をカメラに当てて、測定開始のボタンを押してください。」との指示が表示される。
「サッカー熱狂診断アプリ」を利用する者は、この指示に従い、手の指先をカメラのレンズに近接させて指先に流れる血流に応じて変化する皮膚の輝度を、スマートフォン11のカメラ機能を利用して撮影する。
「サッカー熱狂診断アプリ」を利用する者は、指先が撮像される画面によって指先が撮像されていることを確認し、かつ、輝度信号波形が特徴ある脈波であることを確認する。「サッカー熱狂診断アプリ」を利用する者は、確認後、「測定開始」にタッチする。
または、「測定開始」にタッチすることに替えて、スマートフォン11が自動的に測定開始をする様にしてもよい。
スマートフォン11のMPUは、指先が撮像されていることを確認、または/および、輝度信号波形が特徴ある脈波であることを認識すると、自動的に、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得の処理を開始するようにしてもよい。
より具体的には、MPUは、撮影された画像のR(赤色)、G(緑色)、B(青色)に分離される各成分の割合から肌色を含むことを判断するとともに肌色の部分の画像に占める割合を検出して予め定める所定割合以上であることを検出した後、または/および、時系列輝度データが略一定の周期を有する繰り返し波形であるとともにエンベロープが略一定であることを検出した後に、時系列輝度データの取得を開始する。ここで、肌色の部分の画像に占める割合を確認する理由は、この割合が少ない場合には指先の極一部しか撮像されておらず、この割合が多すぎる場合には指先ではなく、掌を撮像していると判断して測定を開始しないためである。
図6に示す画面9について説明をする。画面9は、「Before測定中」において表示される画面である。
画面9の上段の図は、測定時間を示すものであり、画面9の中段の波形は、輝度信号波形であり、脈波を測定している間、表示されるようにして測定中であることを「サッカー熱狂診断アプリ」を利用する者に知らせる。「サッカー熱狂診断アプリ」を利用する者はその間、指先をカメラに近接させ続ける。「キャンセル」にタッチすると処理はキャンセルされる。
画面9が表示されている間、スマートフォン11のMPUは、所定時間に渡る脈波の振幅を離散的にサンプリングしディジタル化して時系列輝度信号データとしてスマートフォン11のラムに記憶させる。
図6に示す画面10について説明をする。
画面10には、「測定が終了しました」と表示されるので、「次へ」にタッチすると図7に示す画面11に画面は変わる。「サッカー熱狂診断アプリ」を利用する者は、指先をカメラに近接させ続ける必要はなくなる。
そして、時系列輝度信号データはサーバー12にアップロードされ、サーバー12における自律神経解析エンジン処理が行われる。自律神経解析エンジン処理の内容は後述する。
図7に示す画面11について説明をする。
「興奮した!」ボタンは試合観戦中にタッチするものである。
試合観戦中に、「サッカー熱狂診断アプリ」を利用する者が興奮したと感るときに、「興奮した!」ボタンをタッチする。試合中、「興奮した!」ボタンは何回押してもよい。連打の制限を設けるかどうかは、任意に設定できる。
図7に示す画面12について説明をする。
画面12は、「After測定」の画面である。「After測定」の画面は、予め設定された試合終了時間に合わせて自動的に表示するものであってもよく、放送局がインターネット13を介してサーバー12に対して試合の終了を通知し、サーバー12がスマートフォン11に対して画面11を表示する画像データを送るようにしてもよい。
画面12には、「試合(コートジボワール×日本)が終了しました。興奮度を測定をしましょう!」と表示される。
図8に示す画面13について説明をする。
画面13は、「After測定」の画面である。「After測定」とは、試合が終了した後における「サッカー熱狂診断アプリ」を利用する者の試合終了後における測定であり、(1)式ないし(4)式における低周波成分または/および高周波成分を求め、(1)式ないし(4)式のいずれかに基づき興奮度を演算する目的のための測定である。「サッカー熱狂診断アプリ」では(4)式を用いた。
画面13の内容は、図5に示す画面8の「Before測定」の画面と同様の「サッカー熱狂診断アプリ」を利用する者に対する指示の画面である。
「心拍数を測定します。人さし指の先をカメラに当てて、測定開始のボタンを押してください。」との指示が表示される。
「サッカー熱狂診断アプリ」を利用する者は、この指示に従い、手の指先をカメラのレンズに近接させて指先に流れる血流に応じて変化する皮膚の輝度を、スマートフォン11のカメラ機能を利用して撮影する。
「サッカー熱狂診断アプリ」を利用する者は、指先が撮像される画面によって指先が撮像されていることを確認し、かつ、輝度信号波形が特徴ある脈波であることを確認する。「サッカー熱狂診断アプリ」を利用する者は、確認後、「測定開始」にタッチする。または、「測定開始」にタッチすることに替えて、スマートフォン11が自動的に測定開始をする様にしてもよい。
図8に示す画面14について説明をする。
画面14は、「After測定中」において表示される画面であり、画面9の「Before測定中」において表示される画面と同様の内容の画面である。
画面14の上段の図は、測定時間を示すものであり、画面14の中段の波形は、輝度信号波形であり、脈波を測定している間、表示されるようにして測定中であることを「サッカー熱狂診断アプリ」を利用する者に知らせる。「サッカー熱狂診断アプリ」を利用する者はその間、指先をカメラに近接させ続ける。「キャンセル」にタッチすると処理はキャンセルされる。
画面14が表示されている間、スマートフォン11のMPUは、所定時間に渡る脈波の振幅を離散的にサンプリングしディジタル化して時系列輝度信号データとしてスマートフォン11のラムに記憶させる。
図9に示す画面15について説明をする。
画面15には、「測定が終了しました」と表示されるので、「次へ」にタッチすると図9に示す画面15に画面は変わる。「サッカー熱狂診断アプリ」を利用する者は、指先をカメラに近接させ続ける必要はなくなる。
そして、時系列輝度信号データはサーバー12にアップロードされ、サーバー12における自律神経解析エンジン処理が行われる。
図9に示す画面16について説明をする。
画面16は、サーバー12における自律神経解析エンジン処理の処理結果をスマートフォン11に示すものである。
自律神経解析エンジン処理の処理結果は、「サッカー熱狂診断アプリ」を利用する者の興奮度がスマートフォン11の液晶画面に画面16に示すように表示される。
興奮度は予め、画面16においてはハート印の画面上に色分けされている。興奮度はハート印の画面の下側の凸部の先端の0からハート印の画面の上側の最上部の100までの間の値であり、100が最も興奮度が高い。
画面16の例では、興奮度は83であり、「熱いキミ、サイコ―」と表示される。
「ランキングを見る」にタッチすると、図10に示す画面18が表示される。
図10に示す画面17、図18について説明をする。
図17は、図16とは異なる興奮度の表示方法を示す図である。興奮度は予め、3段階に分けられ画面17においては半ドーナツ形の画面上で色分けされている。興奮度は0から100までの間の値であり、100が最も興奮度が高い。
画面17の例では、興奮度は83であり、「矢印」で示す興奮度は、3段階の中の最も高い段階の範囲である「高」なので、「熱いキミ、サイコ―」と表示される。
画面18は、試合と興奮度を興奮度が高い順に上から順に表示したものである。
(興奮度検出端末装置とサーバーとにおける処理の概要)
図11〜図13を参照して、興奮度検出システムの興奮度検出端末装置とサーバーとにおける処理の概要を説明する。
図11〜図13は連続した一連の処理を示す図であり、時間は、各処理をつなぐ矢印の方向に図11、図12、図13と順に経過する。図11〜図13の各図の上段は、興奮度検出端末装置(スマートフォン端末)における処理を示し、図11〜図13の各図の下段は、サーバーにおける処理を示す。図11〜図13の各図の上段の処理について図2〜図10の対応する画面がある場合には対応する画面番号を付す。
(興奮度検出端末装置における処理)
ステップST11〜ステップST17の処理は興奮度検出端末装置における処理である。
ステップST11(興奮度検出の開始)では、「サッカー熱狂診断アプリ」を利用する遊技者が図3の画面3の「登録」をタッチする。すなわち、スマートフォン11のMPUは、画面3を表示させ、「登録」がタッチされたことを認識して興奮度検出の実質的な開始の処理をする。
ステップST12(属性情報の入力)では、「サッカー熱狂診断アプリ」を利用する者が、図3の画面3をタッチして「サッカー熱狂診断アプリ」を利用する者の属性を入力し、スマートフォン11のMPUが属性を検出する。
ステップST13(試合の選択)では、「サッカー熱狂診断アプリ」を利用する者が図4の画面5のいずれかの行にタッチすることによって、スマートフォン11のMPUが試合を検出する。
ステップST14(試合を予約)では、「サッカー熱狂診断アプリ」を利用する者が、ステップST13において図4の画面5のいずれかの行にタッチすることによって、スマートフォン11のMPUが図6の画面6を表示させる。例えば、6月15日(日)、10:00〜、コートジボワール×日本、NHK、(グループC第1節)を表示させる。
「サッカー熱狂診断アプリ」を利用する者が「予約する」をタッチすると処理は、ステップST15へ移り、「戻る」をタッチすると処理はステップST13へ戻る。
ステップST15(脈波測定の開始通知処理)では、「サッカー熱狂診断アプリ」を利用する者が図5の画面7の指示に従い、指先をカメラレンズに近接させ、キーボードのエンターキーにタッチすることにより脈波測定モードが開始する。または、スマートフォン11のMPUは、図5の画面7を表示させるとともに、時系列輝度信号データを適正に検出していると判断する場合には自動的に脈波測定モードを開始するようにしてもよい。
自動的に脈波測定モードを開始する場合には、MPUは、(1)肌色が画像全体に占める割合を検出し、予め定める所定割合以上であることを検出したことによって指先が撮像されていると判断する。ここで、MPUは、R(赤色)、G(緑色)、B(青色)に分離される輝度信号の各成分の割合から、肌色であることを判断する。また、MPUは、(2)輝度信号波形が、略一定の周期を有する繰り返し波形であり、そのエンベロープが略一定であることから脈波であると判断する。以上の(1)または(2)のいずれかを判断して自動的に脈波測定モードを開始するようにしてもよく、以上の(1)および(2)の両方を判断して自動的に脈波測定モードを開始するようにしてもよい。
ステップST16(カメラに近接した手の指の画像の撮影処理)では、脈波測定を開始する。すなわち、スマートフォン11のMPUは、図5の画面8を表示させるとともに、時系列輝度信号データを順次、スマートフォン11のラムに取り込む処理を開始する。
ステップST17(測定の終了通知処理・演算中の表示処理・サーバーへのデータアップロード処理)では、脈波測定モードが終了し、時系列輝度信号データをサーバー12にアップロードする。すなわち、スマートフォン11のMPUは、例えば、スピーカからの音声信号によって、測定の終了を通知し、演算中であることを通知するともに、スマートフォン11のラムに取り込んだ時系列輝度データをサーバー12にアップロードする。
(サーバーにおける処理)
図11のステップST18〜ステップST21、および、図12のステップST22〜ステップST25は、サーバー12における自律神経解析エンジン処理である。
ステップST18〜ステップST25は、サーバー12のCPU(中央演算装置)が、実行する処理のフローチャートである。なお、ステップST18〜ステップST25の各処理の詳細については後述する。
サーバー12のCPUは、前倒しロジック処理をおこなう(ステップST18)。
前倒しロジック処理とは、時系列輝度データ信号のピークをより検出しやすいようにする処理であり、時系列輝度データの値が連続して同値である場合には、予め定める所定複数回数以上の同値の連続する時系列輝度データを処理の対象から除く処理である。
CPUは、時系列輝度データの関数化処理をおこなう(ステップST19)。
時系列輝度データは、離散時間サンプリングデータであり、そのサンプリング時刻はスマートフォン11内の時刻に同期している。関数化処理は、サーバー12内の時刻に同期するために、スマートフォン11で検出する時系列輝度データが存在しない時間における時系列輝度データを関数化して連続的に補間し、リサンプリングを可能とする。リサンプリング可能とすることによってステップST24におけるフーリエ変換処理を精度よく実行できるようにする。
CPUは、Savitzky-Golay(サビツキ・ゴレイ)フィルタによるノイズ除去およびピーク検出処理をおこなう(ステップST20)。
Savitzky-Golayフィルタ自体は公知のフィルタリング技術である。スマートフォン11のカメラで検出する時系列輝度データ信号の波形は専用の脈波検出器で検出する脈波波形に比べて精度が悪く、簡単なフィルタリングでは専用の脈波検出器で検出するような脈波のピークを再生することは困難である。ここで、脈波のピークを再生する際に、単純な微分を用いる場合には、高域のノイズが増加してしまいその目的を達することができない。よって、ノイズを増加させることなくピークが明確に表れるようなフィルタとしてSavitzky-Golayフィルタを用いている。
CPUは、RR間隔時系列データの検出処理をおこなう(ステップST21)。
RR間隔時系列データ(アールアール間隔時系列データ)の検出処理は、時系列輝度データ信号をRR間隔時系列データに変換する処理である。RR間隔時系列データの検出処理は、ステップST20のSavitzky-Golayフィルタによって明瞭に再生された時系列輝度データ信号に含まれる脈波のピークを微分演算により検出する処理と、この微分演算により検出された隣接する2つのピーク間の時間を検出する処理とを含んでいる。
CPUは、ローパスフィルタリング処理をおこなう(ステップST22)。
ローパスフィルタリング処理は、時系列輝度データからRR間隔時系列データを検出した後において、時系列輝度データが正確に脈波を検出したならば本来得られるであろうRR間隔時系列データに変換する処理である。
CPUは、RR間隔時系列データの異常値除去処理をおこなう(ステップST23)。
RR間隔時系列データの異常値除去処理は、RR間隔時系列データに含まれる異常値を除去する処理である。ここで異常値とは通常は検出されないであろうRR間隔時系列データの値である。異常値の検出には、60をRR間隔時系列データの値で除して得る、RR間隔時系列データの値に逆比例する瞬時心拍数(H.R)を用いる。異常値が検出された場合には、RR間隔時系列データに混入したノイズ(すなわち、時系列輝度データ信号に混入したノイズ)がなせるものとして、ステップST24のフーリエ変換以降の処理において、異常値を示したRR間隔時系列データを用いない。異常値除去処理における異常値をどのようなものであるとみなすかについては、以下の第1のルールないし第3のルールいずれか1つが成立する場合に異常値であるとしてもよく、第1のルールないし第3のルールの任意の2つ以上の組み合わせが成立する場合に異常値であるとしてもよい。第1のルールないし第3のルールについては、より詳しく後述する。
<第1のルール>
nを正整数、t(n)はn回目に検出するRR間隔時系列データとして、|60/t(n)-60/t(n-1)|≦第1所定値ではないときは、異常値であるする。すなわち、現在の瞬時心拍数と直前の瞬時心拍数との差分が第1所定値よりも大きい場合には、そのときのRR間隔時系列データを除去する。
<第2のルール>
(meanH.R(N))は移動平均値であり、Nは正整数(例えば、5、8)として、|60/t-meanH.R(N)|≧第2所定値の範囲であるときは、異常値であるとする。すなわち、現在の瞬時心拍数と直前までの瞬時心拍数の移動平均値との差分が第2所定値よりも大きい場合には、そのときのRR間隔時系列データを除去する。
<第3のルール>
第2のルールを適用した結果、所定回数(例えば、8回)連続して異常値である場合に、meanH.R(8)をリセットして、再び、meanH.R(8)を算出し直す。すなわち、第3のルールは、第2のルールを適用するに際して、現在の瞬時心拍数と移動平均値との差分が第2所定値よりも大きい場合が所定回数連続したときには、その移動平均値をリセットして、新たに、移動平均値を求めるものである。
CPUは、フーリエ変換処理 をおこなう(ステップST24)。
周知のハミング窓を用い、周知のFFT(高速フーリエ変換)によって、ステップST23で得られた異常値除去処理後のRR間隔時系列データをフーリエ変換処理する。ステップST19において時系列輝度データの関数化処理がなされているので、高速フーリエ変換に際しては、スマートフォン11におけるデータサンプリングタイミングとは異なるタイミングにおいてリサンプリングすることができる。また、異常値除去処理後のRR間隔時系列データをフーリエ変換するので、時系列輝度データ信号にノイズが混入しない場合に本来得られるであろうフーリエ変換後のパワースペクトルを得ることができる。
CPUは、高周波成分HF・低周波成分LFの検出処理をおこなう(ステップST25)。
フーリエ変換した後、高周波成分HF、低周波成分LFを検出する。高周波成分HFは、フーリエ変換され得られた所定周波数範囲の高域のパワースペクトルの積分値である。低周波成分LFは、フーリエ変換され得られた所定周波数範囲の低域のパワースペクトルの積分値である。
ステップST25で得られた高周波成分HF、低周波成分LF値は、測定時点における「サッカー熱狂診断アプリ」を利用する者の興奮度に関係するものである。
ステップST25においては、スマートフォン11の「サッカー熱狂診断アプリ」を利用する者の高周波成分HF値、低周波成分LF値に基づいて、「サッカー熱狂診断アプリ」を利用する者の状態を表示するための解析結果データを生成する。
解析結果データの作成に際しては、スペクトルを正規分布に近づけ、基準低周波成分から、低周波成分が極端に大きく、または、極端に小さくなる場合には、個人間のばらつきを圧縮するために、高周波成分HFを対数表示するLnHF、低周波成分LFを対数表示するLnLFを用いる。以下、LnHFを高周波成分LnHFと称し、LnLFを低周波成分LnHFと称する。なお、基準となる平常心における測定の結果得られる基準高周波成分HFを対数表示するのが基準高周波成分LnHFであり、基準となる平常心における測定の結果得られる基準低周波成分LFを対数表示するのが基準低周波成分LnLFである。
表示は、図9の画面16において半ドーナツ部で示すような極座標を用いる。半ドーナツ部の中心点(外側の円弧および内側の円弧の中心点)から放射状に伸びる「矢印」の直線(中心点から放射状に伸びる直線)と半ドーナツ部左端と半ドーナツ部左端とを結ぶ直線(中心点を通過する直線)とのなす角度が興奮度を表す。
(1)式を用いて興奮度を算出する場合には、興奮度=(低周波成分LF)/(基準低周波成分LF)は、理論上は、0(零)から∞(無限大)までの範囲があり得る。(低周波成分LF)/(基準低周波成分LF)=0のときに、中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度は0°となり、興奮度は0である。一方、(低周波成分LF)/(基準低周波成分LF)=∞のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は180°となり、興奮度は100である。また、(低周波成分LF)/(基準低周波成分LF)=1のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は90°となり、興奮度は50である。ここで、興奮度の数値は、上述したものに限らず、(低周波成分LF)/(基準低周波成分LF)=0のときの興奮度を−100として、(低周波成分LF)/(基準低周波成分LF)=1のときの興奮度を0として、(低周波成分LF)/(基準低周波成分LF)=∞のときの興奮度を100としてもよい。さらに、(低周波成分LF)/(基準低周波成分LF)が、過去に蓄積した大量の測定データの(低周波成分LF)/(基準低周波成分LF)を集計した分布グラフの中でどの位置にいるかを計算し、その値を0から100の間の値に変換して算出してもよい。
(2)式を用いて興奮度を算出する場合には、興奮度=(低周波成分LnLF)/(基準低周波成分LnLF)は、理論上は、−∞から∞までの範囲があり得る。(低周波成分LnLF)/(基準低周波成分LnLF)=−∞のときに、中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度は0°となり、興奮度は0である。一方、(低周波成分LnLF)/(基準低周波成分LnLF)=∞のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は180°となり、興奮度は100である。また、(低周波成分LnLF)/(基準低周波成分LnLF)=0のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は90°となり、興奮度は50である。ここで、興奮度の数値は、上述したものに限らず、(低周波成分LnLF)/(基準低周波成分LnLF)=−∞のときの興奮度を−100として、(低周波成分LnLF)/(基準低周波成分LnLF)=0のときの興奮度を0として、(低周波成分LnLF)/(基準低周波成分LnLF)=∞のときの興奮度を100としてもよい。さらに、(低周波成分LnLF)/(基準低周波成分LnLF)が、過去に蓄積した大量の測定データの(低周波成分LnLF)/(基準低周波成分LnLF)を集計した分布グラフの中でどの位置にいるかを計算し、その値を0から100の間の値に変換して算出してもよい。
(3)式を用いて興奮度を算出する場合には、、興奮度=(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)は、理論上は、0から∞までの範囲があり得る。(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)=0のときに、中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度は0°となり、興奮度は0である。一方、(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)=∞のときに、中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度は180°となり、興奮度は100である。また、(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)=1のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は90°となり、興奮度は50である。ここで、興奮度の数値は、上述したものに限らず、(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)=0のときの興奮度を−100として、(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)=1のときの興奮度を0として、(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)=∞のときの興奮度を100としてもよい。さらに、(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)が、過去に蓄積した大量の測定データの(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)を集計した分布グラフの中でどの位置にいるかを計算し、その値を0から100の間の値に変換して算出してもよい。
(4)式を用いて興奮度を算出する場合には、興奮度=(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)は、理論上は、−∞から∞までの範囲があり得る。(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)=−∞のときに、中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度は0°となり、興奮度は0である。一方、(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)=∞のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は180°となり、興奮度は100である。また、(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)=0のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は90°となり、興奮度は50である。ここで、興奮度の数値は、上述したものに限らず、(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)=−∞のときの興奮度を−100として、(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)=0のときの興奮度を0として、(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)=∞のときの興奮度を100としてもよい。さらに、(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)が、過去に蓄積した大量の測定データの(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)を集計した分布グラフの中でどの位置にいるかを計算し、その値を0から100の間の値に変換して算出してもよい。
半ドーナツ部の円弧の中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度θは、(1)式を用いる場合には以下の(5)式で求められ、(3)式を用いる場合には以下の(6)式で求められる。ここで、K4,K5は係数であり、K4,K5の値を大きくすると興奮度が強調される。

θ(°)= 2×tan-1{K4×(低周波成分LF)/(基準低周波成分LF)}・・(5)

θ(°)= 2×tan-1{K5×(低周波成分LF/高周波成分LH)/(基準低周波成分LF/基準高周波成分LH)}・・・・(6)
また、半ドーナツ部の円弧の中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度θは、(2)式を用いる場合には以下の(7)式で求められ、(4)式を用いる場合には以下の(8)式で求められる。ここで、K6,K7は係数であり、K6,K7の値を大きくすると興奮度が強調される。

θ(°)= [90 + tan-1{K6×(低周波成分LnLF)/(基準低周波成分LnLF)}]・・・・・・・・・・・・・・・・・(7)

θ(°)= [90 + tan-1{K7×(低周波成分LnLF/高周波成分LnLH)/(基準低周波成分LnLF/基準高周波成分LnLH)}]・・・(8)
興奮度を0から100の範囲に変換する場合には、(1)式を用いる場合には以下の(9)式で求められ、(3)式を用いる場合には以下の(10)式で求められる。ここで、K8,K9は係数であり、K8,K9の値を大きくすると興奮度が強調される。

興奮度= (100/90) × tan-1{K8×(低周波成分LF)/(基準低周波成分LF)}・・・・・・・・・・・・・・・(9)

興奮度= (100/90) × tan-1{K9×(低周波成分LF/高周波成分LH)/(基準低周波成分LF/基準高周波成分LH)}・・・・(10)
興奮度を−100から100の範囲に変換する場合には、(1)式を用いる場合には以下の(11)式で求められ、(3)式を用いる場合には以下の(12)式で求められる。ここで、K10,K11は係数であり、K10,K11の値を大きくすると興奮度が強調される。

興奮度= − 100 + (200/90) × tan-1{K10×(低周波成分LF)/(基準低周波成分LF)}・・・・・・・・・・・・・・・(11)

興奮度= - 100 + (200/90) × tan-1{K11×(低周波成分LF/高周波成分LH)/(基準低周波成分LF/基準高周波成分LH)}・・・・(12)
興奮度を0から100の範囲に変換する場合には、(2)式を用いる場合には以下の(13)式で求められ、(4)式を用いる場合には以下の(14)式で求められる。ここで、K12,K13は係数であり、K12,K13の値を大きくすると興奮度が強調される。

興奮度= (100/180) ×[90 + tan-1{K12×(低周波成分LnLF)/(基準低周波成分LnLF)}]・・・・・・・・・・・・・・・(13)

興奮度= (100/180) ×[90 + tan-1{K13×(低周波成分LnLF/高周波成分LnLH)/(基準低周波成分LnLF/基準高周波成分LnLH)}・・・・(14)
興奮度を−100から100の範囲に変換する場合には、(2)式を用いる場合には以下の(15)式で求められ、(4)式を用いる場合には以下の(16)式で求められる。ここで、K14,K15は係数であり、K14,K15の値を大きくすると興奮度が強調される。

興奮度= (100/90) × tan-1{K14×(低周波成分LnLF)/(基準低周波成分LnLF)}・・・・・・・・・・・・・・・(15)

興奮度= (100/90) × tan-1{K15×(低周波成分LnLF/高周波成分LnLH)/(基準低周波成分LnLF/基準高周波成分LnLH)}・・・・(16)
(興奮度検出端末装置における処理)
ステップST26、ステップST27、ステップST29の処理は興奮度検出端末装置における処理である。
ステップST26(試合前の興奮度の解析結果を保存)では、図6の画面10に示すように「測定が終了しました!」と表示する。そして、解析結果を保存する。保存した結果である試合前の興奮度は、試合観戦後の興奮度と比較するために用いられる。
ステップST27(興奮したボタンをクリック(試合を観戦中))では、図7の画面11に示す画面を表示する。
そして、スマートフォン11のMPUは、画面11を表示させるとともに、「興奮した!」が、「サッカー熱狂診断アプリ」を利用する者によってタッチされる毎にサーバー12に対して興奮したボタンがクリック(タッチ)されたことを知らせる。
(サーバーにおける処理)
ステップST28(興奮した時刻データを保存 )では、サーバー12のCPUは、タッチされた時刻を記憶する。CPUは、時刻とその時に「サッカー熱狂診断アプリ」を利用する者が観戦していたシーン(画像)とを対比して関連づけることができる。
ステップST29(試合終了後の興奮度を測定)では、再び脈波測定が進行する。すなわち、スマートフォン11のMPUは、図7の画面12から図9の画面15を順に表示させるとともに、時系列輝度信号データを順次、スマートフォン11のラムに取り込み続ける。
そして、スマートフォン11のMPUは、時系列輝度信号データをサーバー12にアップロードする。
(サーバーにおける処理)
ステップST30では、サーバー12のCPU(中央演算装置)が、ステップST18〜ステップST25と同様の各処理を実行する。
すなわち、ステップST30では、サーバー12のCPUが以下の処理を順次おこなう。
サーバー12のCPUは、前倒しロジック処理をおこなう(ステップST18と同様の内容)。
CPUは、時系列輝度データの関数化処理をおこなう(ステップST19と同様の内容)。
CPUは、Savitzky-Golay(サビツキ・ゴレイ)フィルタによるノイズ除去およびピーク検出処理をおこなう(ステップST20と同様の内容)。
CPUは、RR間隔時系列データの検出処理をおこなう(ステップST21と同様の内容)。
CPUは、ローパスフィルタリング処理をおこなう(ステップST22と同様の内容)。
CPUは、RR間隔時系列データの異常値除去処理をおこなう(ステップST23と同様の内容)。
CPUは、フーリエ変換処理 をおこなう(ステップST24と同様の内容)。
CPUは、高周波成分HF・低周波成分LFの検出処理をおこなう(ステップST25と同様の内容)。
(興奮度検出端末装置における処理)
ステップST31(興奮度を画面に表示)では、スマートフォン11のMPUは、図9の画面16を表示させる。
ステップST32(ランキング表示ボタンをクリック)では、MPUは、サーバー12のCPUに対して、興奮度、興奮した回数等のランキングを表示するように要求する。
(サーバーにおける処理)
ステップST33(各試合の興奮度を集計)では、サーバー12のCPUが、興奮度、興奮した回数等のランキングを集計する。
(興奮度検出端末装置における処理)
ステップST34(各試合の興奮度をランキング表示する)では、スマートフォン11のMPUは、興奮度、興奮した回数等のランキングを画像として表示する。
図10の画面17は、興奮度のランキングを表示する例である。
ステップST35(終了処理)では、スマートフォン11のMPUは、「サッカー熱狂診断アプリ」を終了する。
(サーバーにおける各処理の詳細について)
上述したステップST18ないしステップST25に記載の自律神経解析エンジン処理の詳細について順に説明をする。
(ステップST18の前倒しロジック処理)
図14は、前倒しロジック処理を模式的に示す図である。
前倒しロジック処理は、時系列輝度データの数値が3回以上同じ場合に、2回連続に縮めるロジックである。すなわち、予め定める所定複数回数(例えば3回)以上の同値の連続する時系列輝度データを処理の対象から除く。ここで、同値には幅を持たせて、微小な所定範囲内の値のばらつきは、同値であるとして前倒しロジック処理の対象に含めるようにしてもよい。この処理によって、ステップST21のRR間隔時系列データの検出処理において、ピークがより検出しやすいようにできる。図14(a)は、前倒しロジック処理前の時系列輝度データである。図14(a)では、同じデータが4回連続している。図14(b)は、前倒しロジック処理後の時系列輝度データである。図14(b)では、同じデータの4回連続は2回連続となるように処理されている。
(ステップST19の時系列輝度データの関数化処理)
時系列輝度データの関数化は、全ての時系列輝度データのサンプル点を通過するB-スプライン関数によっておこなう。B-スプライン関数を用いることによってスマートフォン11で検出する時系列輝度データが存在しない時間における時系列輝度データも滑らかに連続関数として補間できるので、サーバー12のCPUのクロック信号を基準としてステップST20以降の処理をおこなうことができる。また、FFT(高速フーリエ変換)をおこなうための一定サンプル周期(10msec(ミリ秒))毎の時系列輝度データを新たな時系列データとして得ることができる。B-スプライン関数自体は公知の関数である。なお、データ補間の手法としては、直線補間も知られているが、B-スプライン関数を用いることによってデータの補間精度は直線補間に比べてより向上する。
(ステップST20のSavitzky-Golayフィルタによるノイズ除去処理およびピーク検出処理)
Savitzky-Golayフィルタは、ディジタル平滑化多項式フィルタ、または、最小二乗平滑化フィルタとも称されている。時間領域で設計される平滑フィルタであり、かつ微分フィルタである。実施形態のSavitzky-Golayフィルタは、例えば、窓は0.9(秒)、3次多項式で近似して2階微分を実行する。
(ステップST21のRR間隔時系列データの検出処理)
時系列輝度データ信号のピーク検出をおこなった後、隣接するピーク間の時間であるRR間隔時系列データの検出をおこなう。ピーク検出のロジックは、公知技術である単純な符号逆転としている。隣接するピーク間の時間の検出は、クロック信号に同期して動作するカウンタによっておこなう。ここで、単純な符合逆転ロジックでピーク検出が可能となり、RR間隔時系列データの検出が可能となったのは、ステップST23におけるSavitzky-Golayフィルタの効果が寄与している。
(ステップST18からステップST21までの処理をおこなった時系列データの一覧)
図15は、サーバー12における各ステップの処理終了後の時系列輝度データを示す図である。
図15(a)は、ステップST20の時系列輝度データ入力処理終了後の時系列輝度データを示す図である。図15(b)は、ステップST19の時系列輝度データの関数化処理終了後の時系列輝度データを示す図である。図15(c)は、ステップST20のSavitzky-Golayフィルタによるノイズ除去処理およびピーク検出処理後の時系列輝度データを示す図である。
(ステップST22のローパスフィルタリング処理)
カメラに入射する周囲の光は迷光としてノイズ発生原となる。スマートフォン11のカメラは、通常の風景、人物を写すカメラの機能を発揮するように設計されている。よって、カメラがとらえるごくわずかな皮膚の輝度の変化に対してノイズとなる迷光のレベルは相対的に大きく、ステップST21において時系列輝度データから検出したRR間隔時系列データ(RRI)にはノイズが含まれるので、ステップST21において得られるRR間隔時系列データの中から適切にノイズを除かないとRR間隔時系列データを精度よく分離することができない。
そこで、ノイズを除去するのに最適なフィルタ特性を予め実験によって求め、このような特性を有するローパスフィルタをステップST22の処理において用いた。以下、どのようにして、最適なフィルタ特性を求めたかについて説明をする。
市販の専用の脈波検出器から得られるRR間隔(RRI)時系列データの波形を基準波形として、この基準波形にステップST19の処理後に得られるRR間隔時系列データの波形を近づけるローパスフィルタの特性を求めた。ステップST22のローパスフィルタリング処理によってスマートフォン11のカメラから得られた輝度信号から検出されるRR間隔時系列データからノイズが除去されて、本来検出されるべきであろうRR間隔時系列データにより近いRR間隔時系列データが得られた。
図16、図17は、ローパスフィルタの定数をどのように定めるかについての説明図である。
図16は、市販の専用の脈波検出器(MyBeat(登録商標))から得られるRR間隔時系列データとスマートフォン11から得られるステップST22のローパスフィルタリング処理をしないRR間隔時系列データとを対比する図である。
図16(a)は、市販の心拍センサから得られるRR間隔時系列データである。図16(b)は、スマートフォン11から得られるステップST22のローパスフィルタリング処理をしないRR間隔時系列データである。図16(a)と図16(b)とは、同一人から同時に得られたデータである。
図16(a)の市販の心拍センサのデータと図16(b)のスマートフォン11からのステップST22のローパスフィルタリング処理前のRR間隔時系列データとはかなり異なっている。そこで、平滑化スプラインを用いたローパスフィルタによってスマートフォン11からのRR間隔時系列データをフィルタリングすることを試みた。
図17は、平滑化パラメータ(spar)を変化させたときに、ローパスフィルタリング処理後のRR間隔時系列データがどのように変化するかを示す図である。
図17(a)の平滑化パラメータ(spar)は、0.7である。図17(b)の平滑化パラメータ(spar)は、0.6である。図17(c)の平滑化パラメータ(spar)は、0.5である。図17(d)の平滑化パラメータ(spar)は、0.4である。図17(e)の平滑化パラメータ(spar)は、0.3である。図17(f)の平滑化パラメータ(spar)は、0.2である。
図16(a)に示す市販の心拍センサから得られるRR間隔時系列データを基準として、図17(a)〜図17(f)に示すローパスフィルタリング処理後のRR間隔時系列データを対比する。平滑化パラメータ(spar)が0.2〜0.4の範囲で両者が近似する好適な結果が得られる。平滑化パラメータ(spar)が0.3の〜0.4の範囲で両者がより近似するより好適な結果が得られる。よって、本実施形態においては、市販の心拍センサから得られるRR間隔時系列データとスマートフォン11から得られるRR間隔時系列データを最も近くする平滑化パラメータ(spar)の値として0.3の〜0.4の範囲を用いている。
(ステップST23のRR間隔時系列データの異常値除去処理)
表1は、RR間隔時系列データの異常値除去処理を説明するための表である。表1を参照して以下に説明をする。
表1の第1列目は、RR間隔時系列データが検出された順番に対応する数字である。RR間隔時系列データが最初に検出された1回目から14回目までが表1には記載されている。
表1の第2列目は、RR間隔時系列データの値であり、1回目に検出されたRR間隔時系列データの値は時間t1、2回目に検出されたRR間隔時系列データの値は時間t2・・・13回目に検出されたRR間隔時系列データの値は時間t13、14回目に検出されたRR間隔時系列データの値は時間t14である。
表1の第3列目は、60をRR間隔時系列データの値で除して、RR間隔時系列データの値に逆比例する瞬時心拍数(H.R)を得た値である。
表1の第4列目は、瞬時心拍数(H.R)の1回毎の増減量の絶対値|60/tn -60/tn-1|を演算した結果である。ルール1に対応する演算である。
表1の第5列目は、当該瞬時心拍数(H.R)と、当該瞬時心拍数(H.R)の前の所定拍数(表1の例では8拍)の瞬時心拍数を移動平均によって平均化した値との差分の絶対値である。ルール2に対応する演算である。すなわち、9回目の瞬時心拍数(H.R)である60/t9と、9回目に対応する移動平均であるmeanH.R(8(t1,t2,t3,t4,t5,t6,t7,t8))(1回目から8回目までの移動平均)との差分の絶対値が9回目のHR差分である。同様に、10回目の瞬時心拍数(H.R)である60/t10と、10回目の測定に対応する移動平均であるmeanH.R(8(t2,t3,t4,t5,t6,t7,t8,t9))(2回目から9回目までの移動平均)との差分の絶対値が10回目のHR差分である。以下同様にして、11回目以降についても演算をする。
表1の12回目の第4列目が「error」と記載されているのは、12回目の瞬時心拍数(H.R)である60/t12 をエラー値であるとして、HR差分の演算に用いず、当該RR間隔時系列データであるt12を除去してデータ処理の対象としないことを意味している。
RR間隔時系列データの除去に際しては 、上述した第1のルール、第2のルール、第3のルールの3つのルールが適用される。第1のルールないし第3のルールのいずれか1つでもクリアしない場合には、当該RR間隔時系列データは除去されデータ処理の対象とはしないとしてもよく、第1のルールないし第3のルールの任意の2つ以上の組み合わせ(第1のルールないし第3のルールの全ての組み合わせも当然に含む)をクリアしない場合には、当該RR間隔時系列データは除去されデータ処理の対象とはしないとしてもよい。
本実施形態においては、第1のルール(ルール1)、第2のルール(ルール2)、第3のルール(ルール3)を以下のように組み合わせて用いている。
第1のルールは、以下のように用いている。1回目にはRR間隔時系列データの前のデータがないので第1のルールは適用しない。2回目以降は、当該瞬時心拍数と1回前の瞬時心拍数との差分である|60/t(n)-60/t(n-1)|の演算結果が第1所定値以下のときにのみ、RR間隔時系列データを採用する、それとともに、8拍の瞬時心拍数(H.R)であるmeanH.R(8)の算出に際して、|60/t(n)-60/t(n-1)|の演算結果が第1所定値以下のときにのみ当該瞬時心拍数(60/t(n))を用いる。
表1の1回目〜11回目はこのルール1に則り、|60/t(n)-60/t(n-1)|の演算結果が第1所定値以下のときの処理をおこなう。
|60/t(n)-60/t(n-1)|の演算結果が第1所定値よりも大きい場合には、突然に前と異なる瞬時心拍数(H.R)がノイズ等により発生したと判断して(すなわち、突然に前と異なるRR間隔時系列データがノイズ等により発生したと判断して)、当該RR間隔時系列データは除去されデータ処理の対象とはしない。それとともに、本実施形態においては8拍の瞬時心拍数(H.R)であるmeanH.R(8)の算出に際しても、第1のルールを適用してerror(エラー)となった瞬時心拍数(H.R)を移動平均の演算に用いない。ここで、meanH.R(8)の表記は8拍の瞬時心拍数(H.R)についての移動平均値を意味し、N拍の移動平均値であれば、meanH.R(N)と記載する。Nの値は適宜に決め得るものである。
表1の13回目のmeanH.R(8)の算出はこのルールに則っており、meanH.R(8)として|60/t13-meanH.R(8(t4,t5,t6,t7,t8,t9,t10,t11))|(4回目から11回目の移動平均)を用いている。本来あるべき13回目のmeanH.R(8)である|60/t13-meanH.R(8(t5,t6,t7,t8,t9,t10,t11,t12))|は、用いていない。また、14回目のmeanH.R(8)の算出もこのルールに則っており、meanH.R(8)として|60/t14-meanH.R(8 (t5,t6,t7,t8,t9,t10,t11,t13))|(5回目から13回目まで12回目を除く移動平均)を用いている。
また、表1には表れていないが、本実施形態では第2のルールも用いている。第2のルールは、|60/t-meanH.R(8)|の演算結果が第2所定値以上のときは、前の8拍の平均値と異なる異常な瞬時心拍数(H.R)が発生したと判断して、当該RR間隔時系列データは除去されデータ処理の対象とはしない。なお、第1所定値と第2所定値の大小関係によって、|60/t(n)-60/t(n-1)|≦第1所定値ではない(第1のルール)、または、|60/t-meanH.R(N)|≧第2所定値である(第2のルール)のいずれか一方に該当し、または、その双方に該当して、異常値であると判断される。
また、表1には表れていないが、本実施形態では第3のルールも用いている。第3のルールは、所定拍数(例えば、8拍)についての移動平均値(meanH.R(8))の演算結果が、所定回数(例えば、8回)連続して第2所定値の範囲にない場合は、meanH.R(8)をリセットして、再び、meanH.R(8)を算出し直す。この演算は、表1の1回目から8回目の処理に対応するが、表1とは異なり、この場合には1回目の値が検出されるので1回目についても第1のルールが適用され、1回早く表1の8回目において移動平均値が得られる。
(ステップST24のフーリエ変換処理)
フーリエ変換処理は、窓として、周知技術の方形窓(窓なし)、ハニング窓、ハミング窓の3種類の窓を試みた。その結果、ハミング窓が後述する高周波成分HFと低周波成分LFとの分離において最も良好な結果が得られので、ハミング窓を用いる。RR間隔時系列データは、関数化処理がなされているので、一定の周期でリサンプリングをおこなう高速フーリエ変換が可能となる。
(ステップST25の高周波成分HF・低周波成分LFの検出処理)
高周波成分HFは副交感神経の活動を表し、低周波成分LFは交感神経の活動を表す指標として定義されて既住の論文、文献において用いられている。高周波成分HFは、フーリエ変換した後、0.15〜0.4Hzの帯域を通過させるフィルタによって得られる0.15〜0.4Hzのパワースペクトルの積分値である。低周波成分LFは、0.04〜0.15Hzの帯域を通過させるフィルタによって得られるパワースペクトルの積分値である。
低周波成分LnHFは、低周波成分LFの対数表示である。対数表示によって低周波成分LnHFは、複数回測定すると正規分布に近づく。高周波成分LnHFは、高周波成分HFの対数表示である。対数表示によって高周波成分LnHFは、複数回測定すると正規分布に近づく。
低周波成分LnHFの値が大きいほど、交感神経の活動は高く、低周波成分LnHFの値が小さいほど、交感神経の活動は低い。また、高周波成分LnHFの値が大きいほど、副交感神経の活動は高く、高周波成分LnHFの値が小さいほど、副交感神経の活動は低い。
本実施形態では、フーリエ変換処理の後に、さらに、式(1)を用いて角度θを求め、角度θを半ドーナツ形状の極座標を用いる2次元表示(画面16を参照)するための画像データを生成する。
「第1実施形態の変形例」
(ハードウエアの変形例)
上述した実施形態においては、興奮度検出システムのクライアントとサーバーとの接続は、インターネット回線を用いるものとして説明をしたが、両者の接続はこれに限るものではなく、専用回線、公衆回線を問わず、有線通信回線、無線回線を問わず、あらゆる回線を用いることができる。例えば、LAN、専用の微弱電波を用いた専用回線、電話回線等も用いることができる。
クライアントとしての興奮度検出端末装置は、スマートフォン、タブレット、専用端末を始めとして、種々のものを使用できる。また、興奮度検出端末装置はMPUとMPUにおいて実行されるプログラムを中心にして構成するのみならず、処理の一部、または、全部をランダムロジック回路でおこなうようにしてもよい。この場合においては、各処理部は、コンピュータにプログラムを実行させて実現するのでなく、ハードウエアで構成して実現される。
サーバーとしての興奮度検出サーバー装置は、コンピュータとソフトウエアとの組み合わせによって実現するのみならず、各処理の一部、または、全部を集積回路、ランダムロジック回路等のハードウエアで構成しておこなってもよい。この場合においては、ランダムロジック回路等のハードウエアでおこなう各処理は、コンピュータとプログラムとで実行するのでなく、ハードウエアで構成する各処理部で実行する。
ハードウエア構成においては、前倒しロジック処理部で前倒しロジック処理を実行し、時系列輝度データの関数化処理部で時系列輝度データの関数化処理を実行し、Savitzky-Golayフィルタ部でノイズ除去およびピーク検出処理を実行し、RR間隔時系列データ検出処理部でRR間隔時系列データの検出処理を実行し、ローパスフィルタリング処理部でローパスフィルタリング処理を実行し、RR間隔時系列データの異常値除去処理部でRR間隔時系列データの異常値除去処理を実行し、フーリエ変換処理部でフーリエ変換処理を実行し、高周波成分HF・低周波成分LFの検出処理部で高周波成分HF・低周波成分LFの検出処理を実行する。
また、前倒しロジック処理、Savitzky-Golayフィルタによるノイズ除去処理およびピーク検出処理、ローパスフィルタリング処理、RR間隔時系列データの異常値除去処理は、いずれも、時系列輝度データに含まれるノイズ、または、RR間隔時系列データに含まれるノイズを除去するための処理であり、これらのいずれかの一つ、または、これらの二つ以上の組み合わせ(これらの全部の組み合わせを含む)を適宜に用いることができる。
クライアント側の興奮度検出端末装置における処理と、サーバー側の興奮度検出サーバー装置における処理とをどのように分けるかは、適宜に決め得るものである。例えば、興奮度検出端末装置にあるカメラに応じて異なる性能を興奮度検出端末装置において補正するために、前倒しロジック処理(ステップST18)、時系列輝度データの関数化処理(ステップST19)、Savitzky-Golayフィルタによるノイズ除去およびピーク検出処理(ステップST20)、RR間隔時系列データの検出処理(ステップST21)、ローパスフィルタリング処理(ステップST22)、RR間隔時系列データの異常値除去処理(ステップST23)のうちの一部または、その全部を興奮度検出端末装置においておこなうようにしてもよい。このようにすることによって、カメラの特性にあわせた適切な処理を興奮度検出端末装置においておこなうことができる。
『第2実施形態』
第1実施形態においては、クライアント・サーバー・システムとして興奮度検出システムを構成した。第2実施形態は、第1実施形態のサーバー側における全ての処理をクライアント側に移すようにする実施形態である興奮度検出装置に関する。このような興奮度検出装置は、例えば、図1に記載されたスマートフォン11がサーバー12の支援を受けることなく、単独で全ての処理をおこなう場合に相当する。興奮度検出装置として機能するスマートフォンが単体で上述した処理の全てをおこなう場合には、サーバーを用いなくともよい。
『第1、第2実施形態の変形例』
上述した実施形態においては、「サッカー熱狂診断アプリ」として構成されたが、興奮度を測定するアプリケーションとしては、サッカーの試合のみに限られない、例えば、野球の試合、テニスの試合、ゴルフの試合、ラグビーの試合、等々の種々のスポーツの試合でもよく、また、これらのスポーツの試合以外のものとして、テレビのクイズ番組、サスペンス・スリーラ―番組、アドベンチャー番組、等々の種々の番組であってもよい。
『第3実施形態』
第1実施形態、第2実施形態、および、第1、第2実施形態の変形例における、興奮度を演算する技術は、一般的な電子装置に応用することができる。
例えば、興奮する場面において、自己の興奮度が高くなりすぎないように精神面の管理をする電子装置として用いることができる。そして、興奮度が高くなりすぎた場合には、意識的に深呼吸をするなどして興奮度を下げることができる。
また、スポーツジムに設置するトレーニングマシーン等に興奮度を演算する電子装置を付加することができる。このような電子装置を付加したトレーニングマシーンを用いれば、夢中になってトレーニングマシーンを用いてトレーニングをしている間において、無意識のうちに興奮度が許容限度を超えた場合には、トレーニングマシーンが無理なトレーニングを続けないように警告を出すことができる。
すなわち、実施形態の電子装置は、血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分を前記高周波成分で除して興奮度を求める興奮度検出部と、を備えるようにして、単体の装置、または、他の装置に付加をすることができる。
上述した各実施形態の一部または全部を組み合わせた実施形態も実施可能である。また、本発明は、上述した実施形態に限定されるものではなく、同一の技術的思想の範囲に及ぶことは言うまでもない。
一般的に、スポーツ活動(競技者としての参加、観戦者としての参加)、社会活動において、重大な局面において興奮度は高まる。適度の興奮度は、競技者のスポーツ活動では勝利、社会活動では成功に繋がることが経験則として知られている。しかしながら、過度の興奮度は、却って、スポーツ活動では敗北、社会活動では失敗に繋がることも経験則として知られている。本発明によれば、自己の興奮度を客観的に判断できる装置が提供されるので、興奮するようなスポーツ観戦によって、ストレスを吹き飛ばすことができることも知られている。このために、興奮するようなスポーツ番組を視聴者に提供して高い視聴率を獲得することにテレビ局、映画製作者等は苦心している。客観的に興奮度を測定することができれば、テレビ局、映画製作者等は、視聴率の向上、興業成績の向上に役立てることができる。さらに、興奮度を測定する電子装置、それ自体の製造販売のみならず、そのような電子装置を従来からある種々の装置に付加して価値をより高くすることができる。このような点で本願の発明は産業上の利用可能性がある。
11、14 スマートフォン、
12 サーバー、
13 インターネット






Claims (15)

  1. 血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、
    画像表示をする画像表示部と、
    前記時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、
    前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、
    前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、
    前記低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備える、
    興奮度検出装置。
  2. 前記RR間隔時系列データに含まれるノイズを除去するためのローパスフィルタリング処理部を備える、請求項1に記載の興奮度検出装置。
  3. 前記時系列輝度データに含まれるノイズを除去しピーク検出をするためのサビツキ・ゴレイフィルタを備える、請求項1または請求項2に記載の興奮度検出装置。
  4. 前記時系列輝度データの連続補間をするための関数化処理部を備える、請求項1ないし請求項3のいずれか1項に記載の興奮度検出装置。
  5. 前記時系列輝度データの値が連続して同値である場合には、予め定める所定複数回数以上の前記時系列輝度データを処理の対象から除く前倒しロジック処理部を備える、請求項1ないし請求項4のいずれか1項に記載の興奮度検出装置。
  6. 前記時系列輝度データの検出をおこなうに際して前記ディスプレイに前記時系列輝度データの波形を表示する、請求項1ないし請求項5のいずれか1項に記載の興奮度検出装置。
  7. 前記RR間隔時系列データの値に逆比例する瞬時心拍数を得て、
    現在の瞬時心拍数と直前の瞬時心拍数との差分が第1所定値よりも大きい場合には、現在のRR間隔時系列データを処理の対象から除去するRR間隔時系列データの異常値除去処理部を備える、請求項1ないし請求項6のいずれか1項に記載の興奮度検出装置。
  8. 前記RR間隔時系列データの値に逆比例する瞬時心拍数を得て、
    現在の瞬時心拍数と直前までの瞬時心拍数の移動平均値との差分が第2所定値よりも大きい場合には、現在のRR間隔時系列データを処理の対象から除去するRR間隔時系列データの異常値除去処理部を備える、請求項1ないし請求項7のいずれか1項に記載の興奮度検出装置。
  9. 血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、画像表示をする画像表示部とを有する興奮度検出装置のコンピュータに実行させる興奮度検出装置プログラムであって、
    前記時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、
    前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、
    前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、
    前記低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備えるように前記コンピュータを機能させる、
    興奮度検出装置プログラム。
  10. 興奮度検出端末装置と興奮度検出サーバー装置とを備える興奮度検出システムであって、
    前記興奮度検出端末装置は、
    血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、
    前記皮膚の輝度に応じた時系列輝度データを興奮度検出サーバー装置に対して出力する時系列輝度データ出力処理部と、
    前記サーバーから出力される興奮度を表示する画像表示部と、を具備し、
    前記興奮度検出サーバー装置は、
    前記時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、
    前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、
    前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、
    前記低周波成分と予め測定した基準低周波成分との差に基づいて前記興奮度を求める興奮度検出部と、を具備する、
    興奮度検出システム。
  11. 興奮度検出システムにおいて興奮度検出端末装置と協調して動作する興奮度検出サーバー装置であって、
    血流に応じて変化する皮膚の輝度を前記興奮度検出端末装置において撮影して得られる時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、
    前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、
    前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、
    前記低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備える、
    興奮度検出サーバー装置。
  12. 興奮度検出システムにおいて興奮度検出端末装置と協調して動作する興奮度検出サーバー装置のコンピュータに実行させる興奮度検出サーバー装置プログラムであって、
    血流に応じて変化する皮膚の輝度を前記興奮度検出端末装置において撮影して得られる時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、
    前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、
    前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、
    前記低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備えるように前記コンピュータを機能させる、
    興奮度検出サーバー装置プログラム。
  13. 興奮度検出システムにおいて興奮度検出サーバー装置と協調して動作する興奮度検出端末装置であって、
    血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、
    前記皮膚の輝度に応じた時系列輝度データを興奮度検出サーバー装置に対して出力する時系列輝度データ出力処理部と、
    前記サーバーから出力される興奮度を表示する画像表示部と、を備え、
    前記時系列輝度データ取得部は、
    撮影された画像のR(赤色)、G(緑色)、B(青色)に分離される各成分の割合から肌色を含むことを判断するとともに前記肌色の部分の前記画像に占める割合を検出して予め定める所定割合以上であることを検出した後、または/および、前記時系列輝度データが略一定の周期を有する繰り返し波形であるとともにエンベロープが略一定であることを検出した後に、前記時系列輝度データの取得を開始する、
    興奮度検出端末装置。
  14. 興奮度検出システムにおいて興奮度検出サーバー装置と協調して動作する興奮度検出端末装置のコンピュータに実行させる興奮度検出端末装置プログラムであって、
    血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、
    前記皮膚の輝度に応じた時系列輝度データを興奮度検出サーバー装置に対して出力する時系列輝度データ出力処理部と、
    前記サーバーから出力される興奮度を表示する画像表示部と、を備えるように前記コンピュータを機能させ、
    前記時系列輝度データ取得部においては、
    撮影された画像のR(赤色)、G(緑色)、B(青色)に分離される各成分の割合から肌色を含むことを判断するとともに前記肌色の部分の前記画像に占める割合を検出して予め定める所定割合以上であることを検出した後、または/および、前記時系列輝度データが略一定の周期を有する繰り返し波形であるとともにエンベロープが略一定であることを検出した後に、前記時系列輝度データの取得を開始する、処理をおこなう、
    興奮度検出端末装置プログラム。
  15. 血流に応じて変化する皮膚の輝度を撮影して時系列輝度データを取得する時系列輝度データ取得部と、
    前記時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、
    前記RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、
    前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、
    前記低周波成分と予め測定した基準低周波成分との大きさの違いに基づいて興奮度を求める興奮度検出部と、を備える、
    電子装置。





JP2014130264A 2014-06-25 2014-06-25 興奮度検出装置、興奮度検出システム、興奮度検出サーバー装置、興奮度検出装置プログラム、興奮度検出サーバー装置プログラム Active JP6481130B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014130264A JP6481130B2 (ja) 2014-06-25 2014-06-25 興奮度検出装置、興奮度検出システム、興奮度検出サーバー装置、興奮度検出装置プログラム、興奮度検出サーバー装置プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014130264A JP6481130B2 (ja) 2014-06-25 2014-06-25 興奮度検出装置、興奮度検出システム、興奮度検出サーバー装置、興奮度検出装置プログラム、興奮度検出サーバー装置プログラム

Publications (3)

Publication Number Publication Date
JP2016007414A true JP2016007414A (ja) 2016-01-18
JP2016007414A5 JP2016007414A5 (ja) 2017-08-03
JP6481130B2 JP6481130B2 (ja) 2019-03-13

Family

ID=55225438

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014130264A Active JP6481130B2 (ja) 2014-06-25 2014-06-25 興奮度検出装置、興奮度検出システム、興奮度検出サーバー装置、興奮度検出装置プログラム、興奮度検出サーバー装置プログラム

Country Status (1)

Country Link
JP (1) JP6481130B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019129913A (ja) * 2018-01-29 2019-08-08 富士ゼロックス株式会社 情報処理装置、情報処理システム及びプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004136105A (ja) * 1995-09-13 2004-05-13 Seiko Epson Corp 健康状態管理装置
JP2004209126A (ja) * 2003-01-08 2004-07-29 Sony Corp 生体情報連動システム
JP2007289540A (ja) * 2006-04-27 2007-11-08 Olympus Corp ストレスセンサシステム
JP2011067501A (ja) * 2009-09-28 2011-04-07 Panasonic Corp 問診票判定方法
WO2014087310A1 (en) * 2012-12-04 2014-06-12 Koninklijke Philips N.V. Device and method for obtaining vital sign information of a living being

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004136105A (ja) * 1995-09-13 2004-05-13 Seiko Epson Corp 健康状態管理装置
JP2004209126A (ja) * 2003-01-08 2004-07-29 Sony Corp 生体情報連動システム
JP2007289540A (ja) * 2006-04-27 2007-11-08 Olympus Corp ストレスセンサシステム
JP2011067501A (ja) * 2009-09-28 2011-04-07 Panasonic Corp 問診票判定方法
WO2014087310A1 (en) * 2012-12-04 2014-06-12 Koninklijke Philips N.V. Device and method for obtaining vital sign information of a living being

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019129913A (ja) * 2018-01-29 2019-08-08 富士ゼロックス株式会社 情報処理装置、情報処理システム及びプログラム

Also Published As

Publication number Publication date
JP6481130B2 (ja) 2019-03-13

Similar Documents

Publication Publication Date Title
US10459972B2 (en) Biometric-music interaction methods and systems
US20180300037A1 (en) Information processing device, information processing method, and program
JP6519798B2 (ja) 情報処理装置、情報処理方法、及び、情報処理システム
JP6139148B2 (ja) 自律神経機能評価装置、自律神経機能評価システム、自律神経機能評価サーバー、自律神経機能評価装置プログラム、および、自律神経機能評価サーバープログラム
JP6424357B2 (ja) 視認対象効果度測定装置
WO2016006027A1 (ja) 脈波検出方法、脈波検出プログラム及び脈波検出装置
US20180242898A1 (en) Viewing state detection device, viewing state detection system and viewing state detection method
CN113691721B (zh) 一种缩时摄影视频的合成方法、装置、计算机设备和介质
US20120194648A1 (en) Video/ audio controller
KR20180017821A (ko) 실시간 시청자 반응을 전달하는 방송 서비스 장치
CN108363487A (zh) 梦境重现模型的构建方法、梦境重现方法及装置
CN110090010A (zh) 一种非接触式血压测量方法及系统
CN114983414A (zh) 基于面部视频生理指标提取的大脑认知负荷量化方法
Khoirunnisaa et al. Channel selection of EEG-based cybersickness recognition during playing video game using correlation feature selection (CFS)
JP6481130B2 (ja) 興奮度検出装置、興奮度検出システム、興奮度検出サーバー装置、興奮度検出装置プログラム、興奮度検出サーバー装置プログラム
JP6481241B2 (ja) メンタルゲーム装置、メンタルゲームシステム、メンタルゲームサーバー装置、メンタルゲーム装置プログラム、メンタルゲームサーバー装置プログラム。
US20220335625A1 (en) Video generation device
JP2020052948A (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
CN110342363B (zh) 测试电梯安全性能的方法、装置、终端设备和存储介质
JP7044171B2 (ja) 脈波算出装置、脈波算出方法及び脈波算出プログラム
JP6100659B2 (ja) 情報取得システム、情報取得方法及びコンピュータプログラム
JP6431264B2 (ja) 情報取得システム、情報取得方法及びコンピュータプログラム
WO2015168299A1 (en) Biometric-music interaction methods and systems
JP5941764B2 (ja) コンテンツ評価データ生成システム、コンテンツ評価データ生成方法、およびプログラム
TW202241342A (zh) 內容評價裝置、內容評價方法以及內容評價程式

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20140722

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170621

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170713

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180514

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181211

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190109

R150 Certificate of patent or registration of utility model

Ref document number: 6481130

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350