JP2017209516A - 脳活動推定装置 - Google Patents

脳活動推定装置 Download PDF

Info

Publication number
JP2017209516A
JP2017209516A JP2017150008A JP2017150008A JP2017209516A JP 2017209516 A JP2017209516 A JP 2017209516A JP 2017150008 A JP2017150008 A JP 2017150008A JP 2017150008 A JP2017150008 A JP 2017150008A JP 2017209516 A JP2017209516 A JP 2017209516A
Authority
JP
Japan
Prior art keywords
brain activity
component
image data
data
blood flow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017150008A
Other languages
English (en)
Other versions
JP7111450B2 (ja
JP2017209516A5 (ja
Inventor
潤一郎 新井
Junichiro Arai
潤一郎 新井
泰則 小谷
Yasunori Kotani
泰則 小谷
淑美 大上
Shigemi Ogami
淑美 大上
太郎 戸松
Taro Tomatsu
太郎 戸松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Daikin Industries Ltd
Tokyo Institute of Technology NUC
Original Assignee
Daikin Industries Ltd
Tokyo Institute of Technology NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daikin Industries Ltd, Tokyo Institute of Technology NUC filed Critical Daikin Industries Ltd
Publication of JP2017209516A publication Critical patent/JP2017209516A/ja
Publication of JP2017209516A5 publication Critical patent/JP2017209516A5/ja
Application granted granted Critical
Publication of JP7111450B2 publication Critical patent/JP7111450B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • A61B5/004Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part
    • A61B5/0042Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part for the brain
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0062Arrangements for scanning
    • A61B5/0064Body surface scanning
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/01Measuring temperature of body parts ; Diagnostic temperature sensing, e.g. for malignant or inflamed tissue
    • A61B5/015By temperature mapping of body part
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/40Detecting, measuring or recording for evaluating the nervous system
    • A61B5/4058Detecting, measuring or recording for evaluating the nervous system for evaluating the central nervous system
    • A61B5/4064Evaluating the brain
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7246Details of waveform analysis using correlation, e.g. template matching or determination of similarity
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]

Abstract

【課題】簡便に人間の脳活動を推定することのできる脳活動推定装置の提供。
【解決手段】脳活動推定装置10は、画像データ取得手段20と、脳活動推定手段30と、を備える。画像データ取得手段20は、人間の顔面の撮影画像データを時系列で取得する。脳活動推定手段30は、RGB処理部31と、血行量算出部33と、推定部35と、を有する。RGB処理部31は、画像データ取得手段20により取得された撮影画像データに対して、R成分、G成分及びB成分の3つの色成分に分解するRGB処理を行う。血行量算出部33は、RGB処理により得られた撮影画像データのRGBデータに基づき、顔面の時系列の血行量データを算出する。推定部35は、血行量データを特異値分解、主成分分析或いは独立成分分析により分解することで得られた複数の成分に基づき、人間の脳活動を推定する。
【選択図】図8

Description

本発明は、人間の脳活動を推定するための脳活動推定装置に関する。
従来より、特許文献1(特開2013−176406号公報)に開示されているような脳波計測法(EEG)、磁気共鳴画像法(fMRI: functional Magnetic Resonance Imaging)、又は近赤外線分光法(NIRS)によって検出されたデータを利用して、人間の脳活動を推定することが試みられている。
しかしながら、検出方法として脳波計測法や近赤外線分光法が採用される場合には、被験者に対して前処理の必要な電極やプローブを装着する必要がある。また、検出方法として磁気共鳴画像法が採用される場合には、MRI室でなければ測定することができない。すなわち、脳波計測法、磁気共鳴画像法及び近赤外線分光法のいずれかの検出方法を採用してデータを検出する場合、その準備段階で必要な作業が繁雑であったり、検出時の条件が限定されたりするという問題がある。
そこで、本発明の課題は、簡便に人間の脳活動を推定することのできる脳活動推定装置を提供することにある。
本発明の第1観点に係る脳活動推定装置は、血行量算出部と、推定部と、を有する脳活動推定手段を備える。血行量算出部は、時系列で取得された人間の顔面の撮影画像データに対して行なわれる、R成分、G成分及びB成分の3つの色成分に分解するRGB処理により得られた撮影画像データのRGBデータに基づき、顔面の時系列の血行量データを算出する。推定部は、血行量データを特異値分解、主成分分析或いは独立成分分析により分解することで得られた複数の成分に基づき、人間の脳活動を推定する。
本発明の第1観点に係る脳活動推定装置では、時系列の顔面の撮影画像データに基づいて人間の脳活動を推定することができる。したがって、脳波計測法、磁気共鳴画像法、及び近赤外線分光法等の従来の検出方法が利用される場合と比較して、簡便に人間の脳活動を推定することができる。
本発明の第2観点に係る脳活動推定装置は、第1観点の脳活動推定装置において、脳活動推定手段は、複数の成分のうち、その成分波形の振幅が脳の安静時及び脳の賦活時の変化と相関関係にある成分を、判定用成分として抽出する。そして、脳活動推定手段は、判定用成分に基づき、人間の脳活動を推定する。この脳活動推定装置では、複数の成分のうちの脳の安静/賦活と相関関係にある成分が人間の脳活動を推定する判定用成分として抽出される。このため、人間の脳活動と関連性が高いと推測される成分から脳活動を推定することができる。
本発明の第3観点に係る脳活動推定装置は、第2観点の脳活動推定装置において、撮影画像データには、人間に対して脳機能賦活課題が与えられている期間のデータが含まれている。脳活動推定手段は、人間に対して脳活動賦活課題が与えられていない期間を脳の安静時とし、人間に対して脳活動賦活課題が与えられている期間を脳の賦活時として、複数の成分について相関関係にあるか否かを評価する。そして、脳活動推定手段は、複数の成分のうち相関関係にあると評価した成分を、判定用成分として抽出する。この脳活動推定装置では、人間に対して脳活動賦活課題を与えたり与えなかったりすることにより、人間の脳が賦活化したり安静化したりする状況を実際に作り、これに基づいて相関関係が評価されて判定用成分が抽出される。このため、人間の脳活動と関連性の低い成分が抽出用成分として複数の成分から抽出されるおそれを低減することができる。
本発明の第4観点に係る脳活動推定装置は、第1観点から第3観点のいずれかの脳活動推定装置において、血行量データの取得範囲は、人間の顔面の鼻部周辺、及び/又は前額部である。
ここで、脳には、選択的脳冷却機構(Selective Brain Cooling System)という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を、鼻部及び前額部周辺を用いて排熱していることが知られている。
本発明の第4観点に係る脳活動推定装置では、脳活動を反映していると推測される鼻部及び/又は前額部における時系列の血行量データに基づき、人間の脳活動が推定される。顔面の皮膚温度は顔面の血行量に比例すると考えられることから、この脳活動推定装置では、人間の脳活動を精度よく推定することができる。
本発明の第5観点に係る脳活動推定装置は、第1観点から第4観点のいずれかの脳活動推定装置において、脳活動推定手段は、換算部を有する。換算部は、取得された所定時間毎の撮影画像データから得られるRGBデータを相対的なRGBデータに換算する。そして、血行量算出部は、前記相対的なRGBデータに基づき、顔面の時系列の血行量データを算出する。
ところで、人間の顔面をカメラ等の撮影装置により撮影して撮影画像データを得る場合、例えば、撮影中に太陽光等が顔に当たると、光が顔で反射し、この反射光が撮影装置のレンズに入り込んでしまうことがある。そうすると、撮影された撮影画像データにはこの反射光が記録されることになる。ここで、RGBデータにおいて、顔の血行量の変化に基づく明度の変化は反射光に基づく明度の変化よりも小さいため、反射光の記録された撮影画像データから得られたRGBデータに基づき血行量が算出されると、血行量が誤って判定されてしまうおそれがある。
本発明の第5観点に係る脳活動推定装置では、取得された所定時間毎の撮影画像データから得られる相対的なRGBデータに基づき時系列の血行量データが算出されるため、所定時間毎における顔面の血行量の相対的な変化を捉えることができる。これにより、脳活動とは関係しない外的要因による血行量の誤判定を抑制することができる。
本発明の第6観点に係る脳活動推定装置は、第1観点から第5観点のいずれかの脳活動推定装置において、画像データ取得手段と、RGB処理部(31)と、をさらに備える。画像データ取得手段は、人間の顔面の撮影画像データを時系列で取得する。RGB処理部は、撮影画像データに対して、R成分、G成分及びB成分の3つの色成分に分解するRGB処理を行なう。
本発明の第6観点に係る脳活動推定装置では、画像データ取得手段によって取得された時系列の人間の顔面の撮影画像データに基づき、人間の脳活動が推定される。このため、この脳活動推定装置では、脳波電極やプローブ等の装着前に処理が必要なセンサを装着しなくても、時系列の顔面の撮影画像データに基づいて人間の脳活動を推定することができる。したがって、脳波計測法、磁気共鳴画像法、及び近赤外線分光法等の従来の検出方法が利用される場合と比較して、簡便に人間の脳活動を推定することができる。
本発明の第7観点に係る脳活動推定装置は、第1観点から第6観点のいずれかの脳活動推定装置において、撮影画像データが、可視光領域の画像を撮像するカメラにより取得される。この脳活動推定装置では、一般的なカメラで撮影画像データを取得できるので、装置を簡易化できる。これにより、さらに簡便に人間の脳活動を推定することができる。
本発明の第8観点に係る脳活動推定装置は、第1観点から第7観点のいずれかの脳活動推定装置において、血行量算出部は、RGBデータに含まれる各画素のうちの主にR成分を用いて顔面の血行量データを算出する。この脳活動推定装置では、R成分を主として用いることで、血行量データを良好に算出することができる。
本発明の第9観点に係る脳活動推定装置は、第1観点から第6観点のいずれかの脳活動推定装置において、撮影画像データが、赤外線カメラにより取得されるものである。したがって、この脳活動推定装置では、外部環境の明暗によらずに、撮影画像データを得ることができる。
本発明の第1観点に係る脳活動推定装置では、簡便に人間の脳活動を推定することができる。
本発明の第2観点に係る脳活動推定装置では、人間の脳活動と関連性が高いと推測される成分から脳活動を推定することができる。
本発明の第3観点に係る脳活動推定装置では、人間の脳活動と関連性の低い成分が抽出用成分として複数の成分から抽出されるおそれを低減することができる。
本発明の第4観点に係る脳活動推定装置では、人間の脳活動を精度よく推定することができる。
本発明の第5観点に係る脳活動推定装置では、脳活動とは関係しない外的要因による血行量の誤判定を抑制することができる。
本発明の第6観点に係る脳活動推定装置では、簡便に人間の脳活動を推定することができる。
本発明の第7観点に係る脳活動推定装置では、一般的なカメラで撮影画像データを取得できるので、簡便に人間の脳活動を推定することができる。
本発明の第8観点に係る脳活動推定装置では、R成分を主として用いることで、血行量データを良好に算出することができる。
本発明の第9観点に係る脳活動推定装置では、赤外線カメラで撮影画像データを取得するので、外部環境の明暗によらずに、人間の脳活動を推定することができる。
(a)撮影画像データの一例を示す図、(b)血行量分布図の一例を示す図。 被験者1の顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 被験者1の顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 被験者2の顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 被験者2の顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 被験者3の顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 被験者3の顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 被験者4の顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 被験者4の顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 被験者5の顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 被験者5の顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 被験者6の顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 被験者6の顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 本発明の実施形態に係る脳活動推定装置の概略図。 脳活動推定装置において脳機能を反映した顔面のRGB変化を示す成分を同定する際の処理の流れの一例を示すフローチャート。
本発明の実施形態を説明する前に、まず、本発明者らが本発明を為すにあたって重要な基礎となった、本発明者らによる知見について説明する。
(1)本発明者らによる知見の要点
人間の脳活動には、人間の知的活動(認知活動等)及び情動活動(快/不快等の活動)が反映されていることが知られている。そして、従来より、人間の脳活動を推定する試みがされているが、この場合、脳波計測法、磁気共鳴画像法及び近赤外線分光法のいずれかの方法によって検出されたデータが利用されることが多い。
ここで、検出方法として、例えば、脳波計測法が採用される場合には、被験者に対して脳波電極を装着する必要がある。そして、脳波電極を装着する際には皮膚と電極との間の抵抗を小さくする必要があるため、皮膚を研磨する処理を行ったり電極にペーストを塗布したりする等の作業が必要になる。また、磁気共鳴画像法が採用される場合には、MRI室以外での測定が不可能であるとともに、測定室内に金属を持ち込むことができない等の測定条件に制約がある。さらに、近赤外線分光法が採用される場合には、被験者に対してプローブを装着する必要があるが、プローブを長時間装着することで被験者が痛みを感じたり、被験者の髪とプローブとの接触具合によっては正確に検出できなかったりすることがある。このように、人間の脳活動を測定するために従来の検出方法が採用される場合、脳波電極やプローブ等を装着する際の前処理が必要であったり、測定条件が限定されたりする等、被験者に与える負担が大きくなる。
したがって、被験者の負担を軽減し、かつ簡便に人間の脳活動を推定できる手段の開発が求められている。
そして、本発明者らは、サーモグラフィー装置等の温度データ及び検出部位の位置データ(座標データ)を測定可能な測定装置を用いて、人間の顔面の皮膚温度を含む顔面皮膚温度データを時系列で取得し、取得したデータを、特異値分解法、主成分分析法、或いは独立成分分析法により複数の成分に分解して解析することで、人間の脳活動を推定することができることを見いだした(特願2014−177276号参照)。
ところで、一般的に、脳波計測法に採用される測定装置には数百万円の費用がかかり、磁気共鳴画像法に用いられる設備は数億円規模の大がかりなものであり、近赤外線分光法に採用される測定装置においても、数千万円の費用がかかると言われている。また、サーモグラフィー装置を用いて取得した顔面の皮膚温度データに基づき人間の脳活動を推定する場合であっても、サーモグラフィー装置には一般的に数万円の費用がかかると言われている。このため、より低価格で人間の脳活動を推定できる手段が開発されることが望ましい。
そこで、本発明者らは、人間の顔面の皮膚温度を測定した顔面皮膚温度データに基づき人間の脳活動を推定することができるのであれば、顔面の皮膚温度に比例すると考えられている顔面の血行量に基づき人間の脳活動を推定することができるのではないか、と考えた。顔面の血行状態すなわち顔面の血行量は、人間の顔面の撮影画像データを利用して得られるRGBデータから推定することができる。そして、人間の顔面の撮影画像データであれば、前処理の必要なセンサを装着することなく、かつ比較的安価に時系列のデータを取得することができる。
ここで、人間の顔面の皮膚温度は、外気温度及び/又は自律神経の活動等の様々な要因の影響を受けて変化することが知られている。このため、顔面の皮膚温度に比例すると考えられる顔面の血行量に基づいて脳活動を推定しようとすると、取得した顔面の皮膚温度が脳活動のみを反映しているかどうかを判断することは、非常に困難であると考えられる。
本発明者らは、鋭意検討した結果、時系列の顔面の撮影画像データから得られるRGBデータに基づき算出された時系列の顔面の血行量データを、特異値分解法、主成分分析法、或いは独立成分分析法を用いて複数の成分に分解し、分解した複数の成分について解析を行うことで、脳活動を反映した顔面の血行量の変化、すなわち顔面のRGBデータの変化を示す成分を同定することができることを見いだした。言い換えると、顔面の撮影画像データに基づいて人間の脳活動を推定しようとする場合には、時系列の顔面の撮影画像データから得られるRGBデータに基づく血行量データを、特異値分解法、主成分分析法、或いは独立成分分析法により複数の成分に分解することが有効であることが判明した。そして、本発明者らは、この点に着目することで、脳波電極やプローブ等の装着前に処理が必要なセンサを装着しなくても、人間の脳活動を推定することのできる本発明に到達した。
(2)顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法
図1(a)は、撮影装置にて撮影した被験者の顔面の鼻部周辺の撮影画像データの一例を示す図である。図1(b)は、血行量分布図(画像マップ)の一例を示す図である。
次に、本発明者らが上記の知見を得るに際して用いた顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法について説明する。
今回の試験では、6名の被験者から顔面の撮影画像データを取得した。具体的には、室温25℃を維持した人工気象室内に設置した椅子に被験者を座らせて、時系列で画像を取得可能な撮影装置を用いて、被験者の顔面全体の鼻部周辺の撮影画像データを時系列で取得した。
ここで、脳には、選択的脳冷却機構(Selective Brain Cooling System)という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び鼻部周辺(眉間を含む)を用いて排熱していることが知られている。そうすると、脳活動に伴う顔面皮膚温度に比例すると考えられる顔面の血行量の変化は、前額部及び/又は鼻部周辺に出現すると考えられる。このことから、本発明者らは、少なくとも前額部及び/又は鼻部周辺の顔面の血行量の変化を捉えることができれば、精度良く脳活動を推定することができる、と考えた。そして、今回の試験では、被験者の顔面の鼻部周辺の撮影画像データを時系列で取得した。
また、今回の試験では、撮影装置として、Apple社製のiPad Air(登録商標)の備える液晶画面側の撮影装置を使用し、時系列の撮影画像データとしてカラーの動画データを取得した。また、撮影装置を、被験者の正面側であって、被験者から1.0m離れた地点に設置した。そして、撮影装置によって、30フレーム/秒の撮影周期で時間軸に沿って30分間の撮影画像データを連続撮影することで、顔面の動画データを得た。
さらに、今回の試験では、顔面の動画データを取得している間に、被験者に対して脳機能賦活課題を与えた。これにより、脳の安静時の顔面の動画データ、及び脳の賦活時の顔面の動画データを取得した。
ここで、脳機能賦活課題としては、被験者が表示装置等に表示された映像に基づいて、計算、又は、数値、形状及び色の認知、或いは、記号、文字ないし言語の記憶などの心理的作業が挙げられる。今回の試験では、脳機能賦活課題として「かけ算の暗算」を採用し、被験者に、表示装置に筆算形式で表示される数字を計算させ、その回答をキーボードに入力させる作業を課した。なお、今回の試験では、顔面の動画データの取得開始から5分経過後から10分間継続して、被験者に対して脳機能賦活課題を与えた。
顔面の動画データの解析としては、撮影した顔面の動画データより得られたRGBデータに基づき血行量データを算出し、算出した時系列の血行量データを対象として、MATLAB(登録商標)のSVD(Singular Value Decomposition)を分析ツールとして用いて特異値分解を行った。ここでは、CIE−L表色系に従って、画像のRGBデータより演算される肌の赤みやヘモグロビン量と相関のある紅斑指数「a」を求め、これを血行量データとした。また、特異値分解では、時系列で取得した全ての動画データ(30分間のデータ)から得られたRGBデータに基づく血行量データ(ここでは、紅斑指数)を対象とし、要因を30秒毎の時間データ(30分間で60 time point)とし、測度をその期間(30秒毎)におけるRGBデータから演算した紅斑指数(30秒毎に1秒間のフレームデータを取り出し、該フレームデータから得られるRGB値の平均値から演算した紅斑指数;240×320 pixels)とした。そして、特異値分解により、顔面の動画データより得られたRGBデータに基づく時系列の血行量データを、複数の成分に分解し、それぞれの成分の時間分布Vと、空間分布Uと、各成分の大きさを示す特異値Sとを算出した。なお、これらの関係は、以下の式で表される。また、V’は、Vの行と列とを入れ替えた行列である。
そして、特異値分解によって求められた各成分の時間分布V及び空間分布Uをグラフにプロットし、各成分の成分波形図と血行量分布図とを作成した。
さらに、作成した各成分の成分波形図及び血行量分布図について、脳活動を反映した顔面の血行量の変化すなわち顔面のRGB変化を示す成分を同定するための解析を行った。
各成分の成分波形図については、その成分波形の振幅と、脳の安静時及び脳の賦活時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、脳の安静期間/脳の賦活期間との間に相関関係があるか否かを評価した。今回の試験では、顔面の撮影画像データを取得している期間のうち、被験者に対して脳機能賦活課題が与えられていない期間であるデータ取得開始時点から5分が経過した時点までの5分間の期間、及びデータ取得開始時から15分が経過した時点からデータ取得終了時点までの15分間の期間を脳の安静時とし、被験者に対して脳機能賦活課題が与えられている期間であるデータ取得開始時から5分が経過した時点から10分が経過した時点までの10分間の期間を脳の賦活時とした。そして、各成分の成分波形図に示された振幅と、脳の安静時及び脳の賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準(α)が0.01以下の場合に相関があると判断した。
各成分の血行量分布図については、顔面の所定部位における血行量変化の有無について解析した。血行量分布図は、ピクセル毎に算出された空間分布Uを各ピクセルの位置に並べることで作成される。このように作成された各成分の血行量分布図において、鼻部周辺及び前額部における血行量の変化があるか否かを評価した。なお、血行量分布図における鼻部周辺及び前額部の血行量変化の有無については、目視(visual inspection)による血行量変化の有無、もしくは図1(b)に示す鼻部周辺及び前額部の血行量の値が「0.000」でないことを血行量変化の有無の基準とした。
なお、空間分布U、特異値S及び時間分布Vの値の関係で、血行量データXの極性(プラスマイナス)が決定するため、各成分の成分波形図及び血行量分布図において極性が反転して現れることがある。このため、成分波形図及び血行量分布図の評価に関して、極性については評価対象としないこととした。
さらに、顔面の皮膚温度と顔面の血行量との相関関係を検証するために、6名の被験者から顔面の撮影画像データを時系列で取得している間、赤外線サーモグラフィー装置により顔面皮膚温度データも時系列で取得し、取得した顔面皮膚温度データについてもMATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の安静時及び脳の賦活時との相関関係の有無について解析した赤外線サーモグラフィー装置は、対象物から出ている赤外線放射エネルギーを赤外線カメラで検出し、検出した赤外線放射エネルギーを対象物表面の温度(ここでは、摂氏での温度)に変換して、その温度分布を顔面皮膚温度データ(例えば、温度分布を表した画像データ)として表示、蓄積することが可能な装置である。なお、この試験では、赤外線サーモグラフィー装置として、NEC Avio 赤外線テクノロジー株式会社製のR300を使用した。また、赤外線カメラは、被験者の正面であって、被験者から1.5m離れた地点に設置した。
ところで、撮影装置を用いて顔面の撮影画像データを取得する場合、撮影中に太陽の光等が顔に当たることで光が顔で反射し、この反射光が撮影装置のレンズに入り込んでしまうことがある。そうすると、撮影された顔面の撮影画像データにはこの反射光が記録されてしまうことになる。ここで、撮影画像データから得られるRGBデータにおいて、顔面の血行量に基づく明度の変化は反射光に基づく明度の変化よりも小さいため、反射光の記録された撮影画像データから得られるRGBデータに基づいて算出された血行量が解析されると、脳活動とは関連しない顔面のRGB変化(いわゆるノイズ)が混入してしまう可能性があると考えられた。そこで、このような脳活動とは関連しない顔面のRGB変化の混入を防ぐために、30秒毎のRGBデータの全平均値を「0」とした相対的なRGBデータから相対的な血行量データを作成し、作成した血行量データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図と血行量分布図とを作成し、脳活動を反映した顔面のRGB変化を示す成分を同定するための解析を行った。
なお、以下より、説明の便宜上、所定時間毎(今回の試験では30秒毎)のRGBデータの全平均値を「0」とした相対的なRGBデータに基づく相対的な血行量データを「相対換算血行量データ」といい、相対的なRGBデータに換算する前のRGBデータに基づく血行量データを単に「血行量データ」という。
また、6名の被験者に対して撮影装置によって顔面の時系列の撮影画像データを取得している間、各被験者の頭皮上に電極を接続して脳波を測定し、覚醒時等の脳細胞が活動している時に現れる波形として知られているβ波(13〜30Hzの周波数の脳波)の振幅と、成分波形図の振幅との間の相関関係についても評価した。なお、脳波測定では、国際式10−20法に基づき、頭皮上19の部位(Fp1、Fp2、F3、F4、C3、C4、P3、P4、O1、O2、F7、F8、T3、T4、T5、T6、Fz、Cz及びPz)に電極を配置した。
さらに、被験者に脳機能賦活課題が与えられている間、被験者の頭が上下に動くことが考えられる。そうすると、撮影装置に対する被験者の顔面の位置が変化することになる。この顔面の位置の変化が顔面のRGB変化に影響しているか否かを検証するために、被験者1名に対して対照試験を行った。対照試験では、上記試験と同様に撮影装置を用いて被験者の顔面の時系列の撮影画像データを取得するが、脳機能賦活課題が与えられていない間(すなわち、脳の安静時)についてもランダムなタイミングでキーボードを押す作業を被験者に対して課した。この対照実験によって撮影された顔面の時系列の撮影画像データから得られたRGBデータに基づく時系列の血行量データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の安静時及び脳の賦活時との相関関係の有無について解析した。また、各成分波形の振幅と、実際の顔面の動きとの相関関係の有無について解析した。実際の顔面の動きは、撮影画像データから顔の同一箇所の2次元座標を取得し、対照実験開始時の撮影画像データを基準として撮影時における30秒毎の顔面の移動距離を算出することで評価した。さらに、各成分波形の振幅と、撮影中のキーボードの入力数との相関関係の有無についても解析した。撮影中のキーボードの入力数は、時系列の撮影画像データにおける30秒毎の単純移動平均を算出することで評価した。
(3)顔面の撮影画像データの解析結果
図2〜図7は、顔面の撮影画像データ(血行量データ)又は顔面皮膚温度データに基づく成分波形図を解析した結果の一部を示す図である。図2Aは、被験者1の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者1の脳波のうちのβ波の振幅とを示す図である。図2Bは、被験者1の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者1の脳波のうちのβ波の振幅とを示す図である。図3Aは、被験者2の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者2の脳波のうちのβ波の振幅とを示す図である。図3Bは、被験者2の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者2の脳波のうちのβ波の振幅とを示す図である。図4Aは、被験者3の撮影画像データに基づく成分4の成分波形の振幅と、測定された被験者3の脳波のうちのβ波の振幅とを示す図である。図4Bは、被験者3の顔面皮膚温度データに基づく成分3の成分波形の振幅と、測定された被験者3の脳波のうちのβ波の振幅とを示す図である。図5Aは、被験者4の撮影画像データに基づく成分3の成分波形の振幅と、測定された被験者4の脳波のうちのβ波の振幅とを示す図である。図5Bは、被験者4の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者4の脳波のうちのβ波の振幅とを示す図である。図6Aは、被験者5の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者5の脳波のうちのβ波の振幅とを示す図である。図6Bは、被験者5の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者5の脳波のうちのβ波の振幅とを示す図である。図7Aは、被験者6の撮影画像データに基づく成分4の成分波形の振幅と、測定された被験者6の脳波のうちのβ波の振幅とを示す図である。図7Bは、被験者6の顔面皮膚温度データに基づく成分3の成分波形の振幅と、測定された被験者6の脳波のうちのβ波の振幅とを示す図である。
図2〜図7に示すように、各成分波形と脳波解析との結果から、顔面の皮膚温度と顔面の血行量とが相関関係にあることが確認された。なお、顔面の皮膚温度データ及び顔面の血行量データのいずれのデータに基づく解析においても、各成分波形の振幅と、頭頂部又は後頭部に装着した電極が測定した脳波のβ波の振幅との間に有意な相関が確認された。
以下に示す表1は、各被験者に対する顔面の撮影画像データの解析結果を示したものである。
表1に示すように、上記の顔面の撮影画像データの解析によって得られた結果から、顔面の撮影画像データに基づく時系列の血行量データを特異値分解により分解して得られた複数の成分のうち、成分1,2,3,4,5と人間の脳活動との間に有意な相関があることが確認された。なお、ここでは、血行量データに基づく相関において有意な相関が見られかつ相対換算血行量データに基づく相関において有意な相関が見られた成分だけでなく、血行量データに基づく相関においては有意な相関が見られなかったが相対換算血行量データに基づく相関において有意な相関が見られた成分も、人間の脳活動と有意な相関があると認めるようにした。
また、以下に示す表2は、対照実験の結果を示したものである。
表2に示すように、対照実験では、顔面の撮影画像データを取得している間に被験者に動きがある場合、その成分波形の振幅と脳の安静時及び脳の賦活時との間に有意な相関のあった成分のうちの成分2については、移動距離及びキーボード入力数それぞれとの間に有意な相関が認められなかった。このことから、顔面の撮影画像データから取得したRGBデータに基づく血行量データを特異値分解することで得られる複数の成分において、脳活動との間に有意な相関がある成分については、顔面の時系列の撮影画像データを取得する際の被験者の動きによる影響を受けたとしても、その影響は脳の脳活動による影響(脳の賦活や安静による影響)よりも遙かに小さいことが確認された。
これらの結果から、本発明者らは、以下の知見を得た。
被験者から取得した時系列の顔面の撮影画像データに基づく顔面のRGBデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した各成分について解析した結果、複数の成分のうちの成分1,2,3,4,5が脳活動に関連する成分であると認められた。すなわち、時系列の顔面の撮影画像データに基づく顔面のRGBデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した複数の成分から脳の安静/賦活と相関のある成分を抽出し、抽出した成分について解析することで、複数の成分から脳活動を反映した顔面のRGB変化を示す成分を同定することができることが判明した。このことから、本発明者らは、人間の顔面の時系列の撮影画像データに基づいて、脳活動を推定することができる、という知見を得た。
(4)脳活動推定装置10
次に、上記に説明した知見に基づいて、本発明者らが完成するに至った本発明の一実施形態に係る脳活動推定装置10について説明する。なお、本発明に係る脳活動推定装置10は、以下の実施形態に限定されるものではなく、要旨を逸脱しない範囲で適宜変更可能である。
図8は、本発明の実施形態に係る脳活動推定装置10の概略図である。図9は、脳活動推定装置10において脳機能を反映した顔面のRGB変化を示す成分を同定する際の処理の流れの一例を示すフローチャートである。
脳活動推定装置10は、個人(被験者)の顔面の撮影画像データから、個人の脳活動を推定するための装置である。脳活動推定装置10は、図8に示すように、画像データ取得手段20と、脳活動推定手段30と、を備える。
画像データ取得手段20は、個人の顔面の少なくとも一部の撮影画像データを時系列で取得する(ステップS1)。なお、画像データ取得手段20は、少なくとも撮影装置を有するものであれば特に限定されるものではなく、例えば、スマートフォンやタブレット(例えば、iPad:登録商標)等の撮影装置内蔵型ポータブル端末等が挙げられる。ここでは、画像データ取得手段20は、図8に示すように、撮影装置としてのカメラ21と、記憶部22とを有する。カメラ21は、個人の顔面の撮影画像データを時系列で取得するためのものである。本実施形態では、カメラ21は、個人の顔面全体の動画を撮影し、撮影した動画データを取得する。記憶部22は、撮影装置により撮影された時系列の撮影画像データを蓄積する。ここでは、記憶部22は、カメラ21によって取得された動画データを蓄積する。
なお、本実施形態では、カメラ21によって顔面全体の動画が撮影されているが、これに限定されず、顔面の少なくとも前額部及び/又は鼻部周辺の画像を含む動画が撮影されていればよい。
また、本実施形態では、画像データ取得手段20により顔面の時系列の撮影画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられる。すなわち、画像データ取得手段20により取得される撮影画像データには、個人に対して脳機能賦活課題が与えられている期間のデータが含まれていることになる。なお、個人に対して与えられる脳機能賦活課題としては、脳が賦活状態になると推定されるものであれば特に限定されるものではなく、例えば、脳活動推定装置10の利用目的に応じてその内容が適宜決定されるよう構成されていてもよい。
脳活動推定手段30は、画像データ取得手段20により取得された顔面の時系列の撮影画像データに基づき、人間の脳活動を推定する。具体的には、脳活動推定手段30は、図8に示すように、RGB処理部31と、換算部32と、血行量算出部33と、解析部34と、推定部35と、を有する。なお、図8では、脳活動推定手段30が、RGB処理部31、換算部32、血行量算出部33、解析部34及び推定部35を有する1つの装置として存在している態様が示されているが、本発明はこれに限定されるものではなく、RGB処理部31、換算部32、血行量算出部33、解析部34及び推定部35の一部或いはそれぞれが独立した装置として存在していてもよい。
RGB処理部31は、画像データ取得手段20により取得された撮影画像データに対して、R成分、G成分及びB成分の3つの色成分に分解するRGB処理を行う(ステップS2)。ここで、顔面全体の撮影画像データに対してRGB処理を行ってもよいが、本実施形態では、演算処理量及びノイズを減らすために、撮影画像データから前額部及び/又は鼻部周辺のデータを抽出し、抽出したデータについてのみRGB処理を行うものとする。
換算部32は、RGB処理により得られた撮影画像データのRGBデータを相対的なRGBデータに換算する(ステップS3)。具体的には、換算部32は、取得された所定時間毎(例えば、30秒)の撮影画像データから得られるRGBデータの平均値を基準値として、該RGBデータを相対的なRGBデータに換算する。
血行量算出部33は、RGB処理により得られた撮影画像データのRGBデータに基づき、顔面の時系列の血行量データを算出する(ステップS4)
解析部34は、時系列の相対換算血行量データを、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する(ステップS5)。本実施形態では、解析部34は、相対換算血行量データに対して、MATLAB(登録商標)のSVDを分析ツールとして用いて、特異値分解を行う。具体的には、特異値分解は、時系列の相対換算血行量データを対象として、要因を所定期間(例えば、30秒)毎の時間データとし、測度をその期間毎における相対的なRGBデータから演算したピクセル毎の相対換算血行量データとして行われる。そして、特異値分解により、時系列の相対換算血行量データを複数の成分に分解し、時間分布と、空間分布と、各成分の大きさを示す特異値とを算出する。
また、解析部34は、特異値分解によって分解した複数の成分から脳活動を反映した顔面のRGB変化を示す成分を同定するために、各成分が所定条件を満たすか否かを判定する(ステップS6)。ここで、所定条件としては、例えば、特異値分解によって分解した成分の成分波形の振幅が、脳の安静時及び脳の賦活時の変化と相関関係にあるという条件(以下、第1条件という)や、特異値分解によって分解した成分において人間の顔面の所定部位に血行量変化があるという条件(以下、第2条件という)等が含まれる。解析部34において判定される所定条件としては、1又は複数の条件が設定されていればよく、ここでは、所定条件として第1条件が設定されているものとする。
そして、解析部34は、複数の成分のうち所定条件を満たす成分を、判定用成分として抽出する。さらに、解析部34は、抽出した判定用成分のうち所定条件に含まれる全ての条件を満たす成分を、脳活動を反映した顔面のRGB変化を示す成分として同定する(ステップS7)。一方、解析部34は、複数の成分のうち所定条件に含まれる少なくとも1つの条件を満たさないと判定した成分を、脳活動を反映した顔面のRGB変化を示す成分ではないと判定する(ステップS8)。
本実施形態では、上述のように所定条件として1つの条件(第1条件)のみが設定されており、顔面の時系列の撮影画像データを取得している間に、個人に対して脳機能賦活課題が与えられている期間が一定期間ある。このため、解析部34は、個人に対して脳機能賦活課題が与えられていない期間を脳の安静時とし、個人に対して脳機能賦活課題が与えられている期間を脳の賦活時として、脳機能賦活課題が与えられている期間及び与えられていない期間と、各成分の成分波形とを比較解析する。そして、解析部34は、成分波形データに基づく比較解析結果を利用して、各成分の成分波形と脳の安静時及び脳の賦活時とが相関関係にあるか否かを評価し、複数の成分のうち相関関係にあると評価した成分を、所定条件を満たす判定用成分として抽出すると共に、脳活動を反映した顔面のRGB変化を示す成分として同定する。一方、解析部34は、複数の成分のうち相関関係にないと評価した成分を、所定条件を満たさず人間の脳活動を反映した顔面のRGB変化を示す成分ではないと判定する。
ここで、本実施形態では、顔面の時系列の撮影画像データが取得される際に個人に対して脳機能賦活課題が一定期間与えられており、これに基づき解析部34が判定用成分を抽出しているが、第1条件の内容、すなわち解析部34における判定用成分の抽出手段はこれに限定されない。例えば、予め実験等がされていることで複数の成分のうち脳の安静時及び脳の賦活時と相関関係にある成分波形を示す成分が特定されている場合には、解析部34は、複数の成分から特定されている該成分を判定用成分として抽出する。また、脳活動推定装置10において眼球運動又はまたたき等の脳の賦活/安静に関連することが知られている人間の動作についても検出される場合には、解析部34が、この検出結果と各成分の成分波形とを比較解析及び評価することで、複数の成分から判定用成分を抽出してもよい。なお、解析部34による第1条件を満たすか否かの判定の基準は、脳活動推定装置10の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。
また、所定条件として第2条件が設定されている場合には、解析部34は、人間の顔面の所定部位における顔面の血行量変化の有無に基づき、判定用成分を抽出する。具体的には、解析部34は、特異値分解によって分解された複数の成分に応じた血行量分布図に基づき、鼻部周辺及び/又は前額部において血行量の変化が生じているか否かを判定し、血行量の変化が生じている場合には該成分が第2条件を満たしていると判定する。一方で、鼻部周辺及び/又は前額部において血行量の変化が生じていない場合には、解析部34は、該成分が第2条件を満たしていないと判定する。なお、解析部34による第2条件を満たすか否かの判定の基準は、脳活動推定装置10の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定されるものとする。
さらに、血行量算出部33によって相対的なRGBデータに換算される前のRGBデータに基づく時系列の血行量データが算出される場合には、解析部34によって、該血行量データを特異値分解等することで得られた複数の成分についても、上記第1条件及び/又は第2条件が満たされるか否かが判定され、判定用成分が抽出されてもよい。
推定部35は、解析部34において人間の脳活動を反映した顔面のRGB変化を示す成分として同定された成分に基づいて、人間の脳活動を推定する。具体的には、推定部35は、解析部34において同定された成分の成分波形データに基づいて、顔面の撮影画像データの取得時に、個人の脳が活動状態にあったのか、或いは脳が活動していない状態にあったのかを、推定する。
このような構成によって、この脳活動推定装置10では、顔面の時系列の撮影画像データに基づいて、人間の脳活動を推定することができる。そして、推定部35による推定結果がディスプレイ等の図示しない表示手段に表示されることで、個人の脳が活動している状態にあるのか、或いは、活動していない状態にあるのかを知ることができる。
また、解析部34において脳活動を反映した顔面のRGB変化を示す成分が同定された後、さらに画像データ取得手段20により顔面の時系列の撮影画像データが取得される場合には、脳活動推定装置10において、さらに取得された顔面の撮影画像データが特異値分解により複数の成分に分解され、同定された成分のみが解析されることで、その顔面の撮影画像データの取得時にその個人の脳が活動状態にあったのか、或いは脳が活動していない状態にあったのかが推定されてもよい。このような脳活動推定装置10を利用して空調機等の設備機器を制御することで、その個人に合った室内環境に近づけることができる。
(5)特徴
(5−1)
人間の脳活動を推定するために、脳波計測法、磁気共鳴画像法及び近赤外線分光法のいずれかの方法によって検出されたデータが利用される場合、脳波電極やプローブ等の装着前に処理が必要なセンサを用いなければならなかったり、測定場所に制約が生じたりする。また、これら検出方法に用いられる機器は、非常に高額であるため、これら機器を備える脳活動推定装置を製造しようとすると製造コストが大きくなってしまう。
本実施形態では、画像データ取得手段20により取得された時系列の顔面の画像データに基づき、人間の脳活動が推定される。このため、脳波電極やプローブ等の装着前に処理が必要なセンサを装着しなくても、人間の脳活動を推定することができる。したがって、脳波計測法、磁気共鳴画像法、及び近赤外線分光法等の従来の検出方法が利用される場合と比較して、簡便に人間の脳活動を推定することができている。
また、本実施形態では、顔面の少なくとも一部の画像データを取得できればよいため、従来の検出方法に用いられる機器を備える脳活動推定装置と比較して、製造コストを抑えることができる。
さらに、サーモグラフィー装置を用いることで取得できる人間の顔面の皮膚温度データに基づき、人間の脳活動を推定することもできるが、サーモグラフィー装置も一般的に数万円ほどの費用がかかるため、サーモグラフィー装置を用いるよりも製造コストを抑えた脳活動推定装置が期待される。本実施形態では、画像データ取得手段20として安価な撮影装置が採用されることで、サーモグラフィー装置が採用される場合と比較して、より製造コストを抑えることができる。
ところで、既存の研究として、時系列の顔面皮膚温度データに含まれる全温度データの平均値を算出し、算出した平均値に応じた顔面皮膚温度データの解析を行うことで人間の脳活動を推定する、という平均値的アプローチが行われていた。しかしながら、顔面皮膚温度データには実際に脳活動を反映しているもの以外のノイズが含まれており、身体の一部の温度データが分析されることでノイズの影響が比較的大きくなるため、平均値的アプローチでは脳活動を正確に推定することができなかった。そこで、本発明者らは、時系列の顔面皮膚温度データを特異値分解、主成分分析或いは独立成分分析により複数の成分に分解し、分解した複数の成分から脳活動と関連する成分を同定する成分分析的アプローチを行うことを考えついた。成分分析的アプローチでは、全ての温度データを分解していくため、ノイズを含む成分を除去することができ、この結果、平均値的アプローチと比較して正確に脳活動を推定することができる。
加えて、本発明者らは、顔面の皮膚温度に比例する顔面の血行量の時系列データから脳活動を推定する際にも、この成分分析的アプローチが有効であるのではないか、と考えた。そこで、本発明者らは、時系列の顔面の画像データから得られるRGBデータに基づく時系列の血行量データについても、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解し、分解した複数の成分から脳活動と関連する成分を同定する成分分析的アプローチを採用した。本実施形態の脳活動推定装置10では、時系列の顔面の画像データから得られるRGBデータに基づく時系列の血行量データが特異値分解により複数の成分に分解され、分解された成分から脳活動が推定されている。これにより、ノイズを含む成分を除去することができ、正確に脳活動を推定することができている。
(5−2)
ここで、時系列の顔面の画像データが取得される際に、人間に対して実際に脳機能賦活課題が与えられたり与えられなかったりすることにより、人間の脳が賦活化したり安静化したりする状況が作られている場合、各成分の成分波形と脳の賦活時及び安静時との間に相関関係のある成分は、脳活動を反映した血行量の変化を示す成分である可能性が高い成分であるといえる。
本実施形態では、画像データ取得手段20により時系列の顔面の画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられている。すなわち、本実施形態では、個人に対して実際に脳機能賦活課題を与えたり与えなかったりすることにより、人間の脳が賦活化したり安静化したりする状況が作られている。そして、このように取得された画像データから得られるRGBデータに基づく時系列の血行量データが特異値分解により複数の成分に分解され、各成分についてその成分波形と脳の賦活時及び安静時との相関関係が評価され、相関関係にある成分が判定用成分として複数の成分から抽出される。このため、例えば、予め実験等により特定された所定の成分が抽出用成分として複数の成分から抽出される場合と比較して、人間の脳活動と関連性の低い成分が抽出用成分として複数の成分から抽出されるおそれを低減することができている。
(5−3)
ここで、脳には、選択的脳冷却機構という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び鼻部周辺を用いて排熱していることが知られている。そうすると、脳活動に伴う顔面皮膚温度と相関する顔面の血行量の変化は、前額部及び/又は鼻部周辺に出現することになる。
本実施形態では、前額部及び/又は鼻部周辺のRGBデータに基づく血行量データが解析されて、判定用成分が抽出されている。このため、人間の脳活動に関連する成分を精度よく抽出することができている。
また、本実施形態では、RGB処理及び血行量データの取得範囲が前額部及び/又は鼻部周辺に限定されているため、顔面全体の撮影画像データをRGB処理したり、これに基づき血行量データを算出したりするよりも、演算処理量を減らすことができている。
(5−4)
ところで、撮影装置を用いて顔面の撮影画像データを取得する場合、撮影中に太陽の光等が顔に当たることで光が顔で反射し、この反射光が撮影装置のレンズに入り込んでしまうことがある。そうすると、撮影された顔面の撮影画像データにはこの反射光が記録されてしまうことになる。ここで、撮影画像データから得られるRGBデータにおいて、顔面の血行量に基づく明度の変化は反射光に基づく明度の変化よりも小さいため、反射光が記録された撮影画像データから得られるRGBデータに基づいて算出された血行量が解析されると、脳活動とは関連しない顔面のRGB変化(いわゆるノイズ)が混入してしまうおそれがある。
本実施形態では、RGB処理により得られた撮影画像データのRGBデータが相対的なRGBデータに換算され、相対的なRGBデータに基づく時系列の相対換算血行量データが算出されている。このように、相対換算血行量データが算出されることで、所定時間毎における顔面のRGBデータの相対的な変化を捉えることができる。このため、脳活動とは関連しない外的要因による顔面のRGB変化を検出することができる。
また、本実施形態では、時系列の相対換算血行量データが、特異値分解により複数の成分に分解され、各成分についての解析が行われる。このため、脳活動とは関連しない外的要因による顔面のRGB変化を含む成分を、ノイズ成分として除去することができる。これにより、人間の脳活動に関連する成分を精度よく同定することができている。
(5−5)
ところで、相対的なRGBデータに換算される前のRGBデータに基づき得られた血行量データを解析した場合には有意な相関のある成分としては抽出されず、相対的なRGBデータに基づき得られた相対換算血行量データを解析した場合には有意な相関のある成分として抽出されることがある。一方で、相対的なRGBデータに換算される前のRGBデータに基づき得られた血行量データを解析した場合には有意な相関のある成分として抽出されても、相対的なRGBデータに基づき得られた相対換算血行量データを解析した場合には有意な相関のある成分として抽出されないことがある。ここで、相対的なRGBデータに換算される前のRGBデータには外部からの光等の外部要因が影響している可能性があるため、上記のような抽出される成分の相違には、外部要因の影響が関連していると考えられる。すなわち、相対的なRGBデータに換算される前のRGBデータに基づき得られた血行量データよりも相対的なRGBデータに基づき得られた相対換算血行量データの方が、重要度が高く妥当性の高いデータであると言える。
本実施形態では、相対的なRGBデータに基づき得られた相対換算血行量データのみが解析されている。これにより、相対的なRGBデータに換算される前のRGBデータに基づき得られた血行量データのみが解析されるよりも、人間の脳活動に関連する成分を精度よく同定することができている。さらに、相対的なRGBデータに換算される前のRGBデータに基づき得られた血行量データ及び相対的なRGBデータに基づき得られた相対換算血行量データのいずれのデータも解析される場合と比較して、演算処理量を減らすことができている。
(6)変形例
(6−1)変形例A
上述したように、カメラ21としては、例えば、スマートフォンやタブレット(例えば、iPad:登録商標)等の撮影装置内蔵型ポータブル端末等を利用することができる。すなわち、上述の撮影画像データは、可視光領域の画像を撮像するものを採用することができる。
この場合、上記実施形態の血行量算出部において、RGBデータに含まれる各画素のうちの主にR成分を用いて顔面の血行量データが算出されてもよい。また、RGBデータに基づき血行量データを算出できるのであれば、血行量データは必ずしも紅斑指数に限定されるものではない。
(6−2)変形例B
上記実施形態では、ステップS4において、RGB処理により得られた撮影画像データのRGBデータに基づき、顔面の時系列の血行量データが算出されている。言い換えると、上記実施形態の血行量算出部33は、換算部32によって換算された相対的なRGBデータに基づき相対換算血行量データを算出するが、これに代えて或いはこれに加えて、相対的なRGBデータに換算される前のRGBデータに基づき血行量データが算出されてもよい。ここで、相対的なRGBデータに換算される前のRGBデータに基づき算出された血行量データには、脳活動と相関する成分が出やすい(検定力が高い)ため、例えば、相対的なRGBデータに換算される前のRGBデータに基づき算出された血行量データを、相対的なRGBデータに基づき算出された相対換算血行量データよりも先行して解析してもよい。また、例えば、まず、血行量データを解析して有意な相関のある成分を抽出し、相対換算血行量データに関しては、前記抽出した成分に対応する成分のみを解析することで、演算処理量を減らすことができる。
(6−3)変形例C
上記カメラ21は可視光領域の通常のカメラを前提としていたが、赤外線カメラを用いることもできる。この場合、赤外光を照射し、その反射波を赤外線カメラで撮像する。これにより、対象者の顔面変化等の撮影画像データを得ることができる。本発明者らにより、赤外線の反射により得られた撮影画像データから算出された血行量データと、可視光領域で撮影されたRGBデータに含まれる各画素のうちの主にR成分を用いて算出された血行量データとには相関があることが確認された。したがって、このような赤外線の反射から得られた撮影画像データを用いても、人間の脳活動を推定することができる。
(6−4)変形例D
なお、上記説明においては、脳活動推定装置10が、画像データ取得手段20と、脳活動推定手段30とを備える形態としていたが、本実施形態に係る脳活動推定装置は、このような形態に限定されるものではない。すなわち、本実施形態に係る脳活動推定装置は、血行量算出部33、解析部34及び推定部35を含むものであれば、その他の構成については任意の形態を採り得るものである。具体的には、本実施形態に係る脳活動推定装置は、当該装置自体が画像データを撮影する形態だけではなく、外部の装置から撮影画像データを受け取り、それを解析する形態を含むものである。
本発明によれば、簡便に人間の脳活動を推定することができるため、人間の脳活動を推定する必要のある装置への適用が有効である。
10 脳活動推定装置
20 画像データ取得手段
30 脳活動推定手段
31 RGB処理部
32 換算部
33 血行量算出部
35 推定部
特開2013−176406号公報

Claims (9)

  1. 時系列で取得された人間の顔面の撮影画像データに対して行なわれる、R成分、G成分及びB成分の3つの色成分に分解するRGB処理により得られた、撮影画像データのRGBデータに基づき、前記顔面の時系列の血行量データを算出する血行量算出部(33)と、
    前記血行量データを特異値分解、主成分分析或いは独立成分分析により分解することで得られた複数の成分に基づき、前記人間の脳活動を推定する推定部(35)と、
    を有する脳活動推定手段(30)、
    を備える脳活動推定装置。
  2. 前記脳活動推定手段は、
    前記複数の成分のうち、その成分波形の振幅が脳の安静時及び脳の賦活時の変化と相関関係にある成分を判定用成分として抽出し、
    前記判定用成分に基づき、前記人間の脳活動を推定する、
    請求項1に記載の脳活動推定装置。
  3. 前記撮影画像データには、前記人間に対して脳機能賦活課題が与えられている期間のデータが含まれており、
    前記脳活動推定手段は、
    前記人間に対して前記脳機能賦活課題が与えられていない期間を脳の安静時とし、前記人間に対して前記脳機能賦活課題が与えられている期間を脳の賦活時として、前記複数の成分について前記相関関係にあるか否かを評価し、
    前記複数の成分のうち前記相関関係にあると評価した成分を、前記判定用成分として抽出する、
    請求項2に記載の脳活動推定装置。
  4. 前記血行量データの取得範囲は、前記顔面の鼻部周辺、及び/又は前額部である、
    請求項1から3のいずれか1項に記載の脳活動推定装置。
  5. 前記脳活動推定手段は、取得された所定時間毎の前記撮影画像データから得られる前記RGBデータを相対的なRGBデータに換算する換算部(32)、を有し、
    前記血行量算出部は、前記相対的なRGBデータに基づき、前記顔面の時系列の血行量データを算出する、
    請求項1から4のいずれか1項に記載の脳活動推定装置。
  6. 人間の顔面の撮影画像データを時系列で取得する画像データ取得手段(20)と、
    前記画像データ取得手段により取得された前記撮影画像データに対して、R成分、G成分及びB成分の3つの色成分に分解するRGB処理を行なうRGB処理部(31)と、
    をさらに備える請求項1から5のいずれか1項に記載の脳活動推定装置(10)。
  7. 前記撮影画像データは、可視光領域の画像を撮像するカメラ(21)により取得されるものである、
    請求項1から6のいずれか1項に記載の脳活動推定装置。
  8. 前記血行量算出部は、前記RGBデータに含まれる各画素のうちの主にR成分を用いて前記顔面の血行量データを算出する、
    請求項1から7のいずれか1項に記載の脳活動推定装置。
  9. 前記撮影画像データは、赤外線カメラにより取得されるものである、
    請求項1から6のいずれか1項に記載の脳活動推定装置。
JP2017150008A 2015-06-12 2017-08-02 脳活動推定装置 Active JP7111450B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015119350 2015-06-12
JP2015119350 2015-06-12

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016116905A Division JP6189486B2 (ja) 2015-06-12 2016-06-13 脳活動推定装置

Publications (3)

Publication Number Publication Date
JP2017209516A true JP2017209516A (ja) 2017-11-30
JP2017209516A5 JP2017209516A5 (ja) 2019-04-18
JP7111450B2 JP7111450B2 (ja) 2022-08-02

Family

ID=57503300

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2016116905A Active JP6189486B2 (ja) 2015-06-12 2016-06-13 脳活動推定装置
JP2017150008A Active JP7111450B2 (ja) 2015-06-12 2017-08-02 脳活動推定装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2016116905A Active JP6189486B2 (ja) 2015-06-12 2016-06-13 脳活動推定装置

Country Status (5)

Country Link
US (1) US11253155B2 (ja)
EP (1) EP3308700B1 (ja)
JP (2) JP6189486B2 (ja)
CN (1) CN107847134B (ja)
WO (1) WO2016199940A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11253155B2 (en) 2015-06-12 2022-02-22 Daikin Industries, Ltd. Brain activity estimation device
JP6749278B2 (ja) * 2017-04-14 2020-09-02 ダイキン工業株式会社 生理状態判定装置
JP7276841B2 (ja) * 2019-07-23 2023-05-18 学校法人東京電機大学 血流評価装置。
WO2023090429A1 (ja) * 2021-11-19 2023-05-25 国立大学法人電気通信大学 生体検出システム、生体検出方法及びプログラム

Citations (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005143609A (ja) * 2003-11-12 2005-06-09 Hitachi Medical Corp 光計測装置
JP2006271815A (ja) * 2005-03-30 2006-10-12 Kao Corp 肌の酸素飽和度計測方法及び計測システム
JP2008284165A (ja) * 2007-05-17 2008-11-27 Auto Network Gijutsu Kenkyusho:Kk 生体情報取得装置
US20090012430A1 (en) * 2006-08-17 2009-01-08 Lovoi Paul A Non-invasive characterization of human vasculature
US20090080730A1 (en) * 2007-09-25 2009-03-26 University Of Houston System Imaging facial signs of neuro-physiological responses
JP2009285008A (ja) * 2008-05-28 2009-12-10 Sony Corp 情報処理装置および方法、プログラム、並びに記録媒体
US20110251493A1 (en) * 2010-03-22 2011-10-13 Massachusetts Institute Of Technology Method and system for measurement of physiological parameters
JP2012034839A (ja) * 2010-08-06 2012-02-23 Tokyo Univ Of Agriculture & Technology 精神疾患判定装置、方法、及びプログラム
JP2012239661A (ja) * 2011-05-20 2012-12-10 Fujitsu Ltd 心拍数・呼吸数検出装置,方法およびプログラム
JP2013000300A (ja) * 2011-06-15 2013-01-07 Nissan Motor Co Ltd 気分判定装置及び気分判定方法
WO2013166341A1 (en) * 2012-05-02 2013-11-07 Aliphcom Physiological characteristic detection based on reflected components of light
US20140121540A1 (en) * 2012-05-09 2014-05-01 Aliphcom System and method for monitoring the health of a user
WO2014068436A1 (en) * 2012-11-02 2014-05-08 Koninklijke Philips N.V. Device and method for extracting physiological information
US20140161421A1 (en) * 2012-12-07 2014-06-12 Intel Corporation Physiological Cue Processing
WO2014136310A1 (ja) * 2013-03-08 2014-09-12 富士フイルム株式会社 脈波伝播速度の測定方法及びシステム並びに撮像装置
WO2014145204A1 (en) * 2013-03-15 2014-09-18 Affectiva, Inc. Mental state analysis using heart rate collection based video imagery
JP2015022537A (ja) * 2013-07-19 2015-02-02 日産自動車株式会社 車両用情報提示装置
JP2017000773A (ja) * 2015-06-12 2017-01-05 ダイキン工業株式会社 脳活動推定装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013176406A (ja) 2010-05-27 2013-09-09 Hitachi Ltd 脳機能計測装置
US9204836B2 (en) * 2010-06-07 2015-12-08 Affectiva, Inc. Sporadic collection of mobile affect data
US10289898B2 (en) * 2010-06-07 2019-05-14 Affectiva, Inc. Video recommendation via affect
RU2589389C2 (ru) * 2011-01-05 2016-07-10 Конинклейке Филипс Электроникс Н.В. Устройство и способ извлечения информации из характеристических сигналов
CN102178515B (zh) * 2011-03-17 2012-10-03 何宗彦 脑病变监测仪
US8838209B2 (en) * 2012-02-21 2014-09-16 Xerox Corporation Deriving arterial pulse transit time from a source video image
JP6349075B2 (ja) * 2013-11-22 2018-06-27 三星電子株式会社Samsung Electronics Co.,Ltd. 心拍数測定装置及び心拍数測定方法
CN104545864B (zh) 2014-12-25 2017-08-11 中国科学院深圳先进技术研究院 心理调节方法和装置

Patent Citations (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005143609A (ja) * 2003-11-12 2005-06-09 Hitachi Medical Corp 光計測装置
JP2006271815A (ja) * 2005-03-30 2006-10-12 Kao Corp 肌の酸素飽和度計測方法及び計測システム
US20090012430A1 (en) * 2006-08-17 2009-01-08 Lovoi Paul A Non-invasive characterization of human vasculature
JP2008284165A (ja) * 2007-05-17 2008-11-27 Auto Network Gijutsu Kenkyusho:Kk 生体情報取得装置
US20090080730A1 (en) * 2007-09-25 2009-03-26 University Of Houston System Imaging facial signs of neuro-physiological responses
JP2009285008A (ja) * 2008-05-28 2009-12-10 Sony Corp 情報処理装置および方法、プログラム、並びに記録媒体
US20110251493A1 (en) * 2010-03-22 2011-10-13 Massachusetts Institute Of Technology Method and system for measurement of physiological parameters
JP2012034839A (ja) * 2010-08-06 2012-02-23 Tokyo Univ Of Agriculture & Technology 精神疾患判定装置、方法、及びプログラム
JP2012239661A (ja) * 2011-05-20 2012-12-10 Fujitsu Ltd 心拍数・呼吸数検出装置,方法およびプログラム
JP2013000300A (ja) * 2011-06-15 2013-01-07 Nissan Motor Co Ltd 気分判定装置及び気分判定方法
WO2013166341A1 (en) * 2012-05-02 2013-11-07 Aliphcom Physiological characteristic detection based on reflected components of light
US20140121540A1 (en) * 2012-05-09 2014-05-01 Aliphcom System and method for monitoring the health of a user
WO2014068436A1 (en) * 2012-11-02 2014-05-08 Koninklijke Philips N.V. Device and method for extracting physiological information
US20140161421A1 (en) * 2012-12-07 2014-06-12 Intel Corporation Physiological Cue Processing
WO2014136310A1 (ja) * 2013-03-08 2014-09-12 富士フイルム株式会社 脈波伝播速度の測定方法及びシステム並びに撮像装置
WO2014145204A1 (en) * 2013-03-15 2014-09-18 Affectiva, Inc. Mental state analysis using heart rate collection based video imagery
JP2015022537A (ja) * 2013-07-19 2015-02-02 日産自動車株式会社 車両用情報提示装置
JP2017000773A (ja) * 2015-06-12 2017-01-05 ダイキン工業株式会社 脳活動推定装置

Also Published As

Publication number Publication date
JP2017000773A (ja) 2017-01-05
US11253155B2 (en) 2022-02-22
JP6189486B2 (ja) 2017-08-30
CN107847134A (zh) 2018-03-27
CN107847134B (zh) 2023-09-01
US20180168451A1 (en) 2018-06-21
EP3308700A1 (en) 2018-04-18
JP7111450B2 (ja) 2022-08-02
WO2016199940A1 (ja) 2016-12-15
EP3308700A4 (en) 2019-02-20
EP3308700B1 (en) 2024-01-24

Similar Documents

Publication Publication Date Title
US10667738B2 (en) Brain activity estimation device
US11357443B2 (en) Determination result output device, determination result provision device, and determination result output system
US10709338B2 (en) Useful information presentation device
JP7111450B2 (ja) 脳活動推定装置
JP2017153938A (ja) 生理状態判定装置及び生理状態判定方法
JP6463392B2 (ja) 疲労状態判定装置及び疲労状態判定方法
JP6829363B2 (ja) 評価装置、マーケット調査装置、及び学習評価装置
JP6093422B1 (ja) 脳年齢提示装置
JP6158887B2 (ja) 有用情報提示装置
JP6473110B2 (ja) 脳活動推定装置
JP6096857B1 (ja) 感情判定装置
JP2017086992A (ja) 感情判定装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190306

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20190308

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200811

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210616

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210616

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20210617

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210802

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210803

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20211029

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20211102

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20211207

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20220225

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20220301

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220427

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220524

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20220621

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220621

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220721

R150 Certificate of patent or registration of utility model

Ref document number: 7111450

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150