JP2018175507A - 生理状態判定装置 - Google Patents

生理状態判定装置 Download PDF

Info

Publication number
JP2018175507A
JP2018175507A JP2017080917A JP2017080917A JP2018175507A JP 2018175507 A JP2018175507 A JP 2018175507A JP 2017080917 A JP2017080917 A JP 2017080917A JP 2017080917 A JP2017080917 A JP 2017080917A JP 2018175507 A JP2018175507 A JP 2018175507A
Authority
JP
Japan
Prior art keywords
information
physiological condition
unit
brain function
function activation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017080917A
Other languages
English (en)
Other versions
JP6749278B2 (ja
Inventor
潤一郎 新井
Junichiro Arai
潤一郎 新井
後藤 尚志
Hisashi Goto
尚志 後藤
聡 松原
Satoshi Matsubara
聡 松原
喬弘 平山
Takahiro Hirayama
喬弘 平山
英希 橋詰
Hideki Hashizume
英希 橋詰
亜里奈 橋本
Arina Hashimoto
亜里奈 橋本
泰則 小谷
Yasunori Kotani
泰則 小谷
太郎 戸松
Taro Tomatsu
太郎 戸松
淑美 大上
Shigemi Ogami
淑美 大上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Daikin Industries Ltd
Tokyo Institute of Technology NUC
Original Assignee
Daikin Industries Ltd
Tokyo Institute of Technology NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daikin Industries Ltd, Tokyo Institute of Technology NUC filed Critical Daikin Industries Ltd
Priority to JP2017080917A priority Critical patent/JP6749278B2/ja
Priority to US16/604,071 priority patent/US11786165B2/en
Priority to PCT/JP2018/015404 priority patent/WO2018190403A1/ja
Priority to EP18784945.0A priority patent/EP3610793B1/en
Priority to CN201880025062.4A priority patent/CN110520047B/zh
Priority to EP21205403.5A priority patent/EP3973874B1/en
Publication of JP2018175507A publication Critical patent/JP2018175507A/ja
Application granted granted Critical
Publication of JP6749278B2 publication Critical patent/JP6749278B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/168Evaluating attention deficit, hyperactivity
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/40Detecting, measuring or recording for evaluating the nervous system
    • A61B5/4058Detecting, measuring or recording for evaluating the nervous system for evaluating the central nervous system
    • A61B5/4064Evaluating the brain
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • A61B5/004Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/01Measuring temperature of body parts ; Diagnostic temperature sensing, e.g. for malignant or inflamed tissue
    • A61B5/015By temperature mapping of body part
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/162Detection; Localisation; Normalisation using pixel segmentation or colour matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • A61B5/377Electroencephalography [EEG] using evoked responses
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30016Brain
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Abstract

【課題】対象者の脳機能を賦活する任意の脳機能賦活刺激を検知して、対象者の生理状態を容易に判定し得る生理状態判定装置を提供する。【解決手段】生理状態判定装置(700)は、脳機能賦活情報検知部(741)と、顔面変化情報取得部(742)と、生理状態判定部(745)と、を備える。脳機能賦活情報検知部(741)は、生理状態に対応する脳機能賦活情報を検知する。顔面変化情報取得部(742)は、対象者(300)の顔面データの時系列変化を示す顔面変化情報を取得する。生理状態判定部(745)は、脳機能賦活情報と顔面変化情報とに基づいて、対象者(300)の所定の生理状態を判定する。脳機能賦活情報検知部(741)は、特定操作検知部(741a)及び/又は特定環境検知部(741b)を有する。【選択図】図38

Description

本発明は、生理状態判定装置に関する。
近年、特許文献1(特開2013−176406号公報)に開示されているような脳波計測法(EEG)、磁気共鳴画像法(fMRI: functional Magnetic Resonance Imaging)、及び近赤外線分光法(NIRS)によって検出されたデータを利用して、人間の脳活動を推定することが試みられている。また、推定された脳活動から、人間の精神及び身体の生理状態の判定等への応用が検討されている。
しかしながら、脳波計測法及び近赤外線分光法では、対象者が電極を装着しなければならない等の前処理が必要である。また、磁気共鳴画像法では、所定のMRI室で計測する必要がある。要するに、これらの方法では、準備段階での作業が繁雑であったり、計測時の条件が制限されたりするという問題がある。また、これらの方法は、いずれも多大なコストを要するものである。結果として、これらの方法では、対象者の精神及び身体の生理状態の判定等を行なうのが困難なことがある。
本発明の課題は、対象者の精神又は身体の生理状態を容易に判定し得るための装置及び方法を提供することである。
特に、本発明では、対象者の脳機能を賦活する任意の脳機能賦活刺激を検知して、対象者の生理状態を容易に判定し得る生理状態判定装置を提供することを目的とする。
本発明の第1観点に係る生理状態判定装置は、脳機能賦活情報検知部と、顔面変化情報取得部と、生理状態判定部と、を備える。脳機能賦活情報検知部は、生理状態に対応する脳機能賦活情報を検知する。顔面変化情報取得部は、対象者の顔面データの時系列変化を示す顔面変化情報を取得する。生理状態判定部は、脳機能賦活情報と顔面変化情報とに基づいて、対象者の所定の生理状態を判定する。
第1観点に係る生理状態判定装置では、上述したような脳機能賦活情報検知部を具備しているので、任意の脳機能賦活刺激から脳機能賦活情報を検知することができる。これにより、脳機能賦活刺激を提供して生理状態を判定する装置に比して、対象者の生理状態を容易に判定することができる。
なお、本発明において、「生理状態」とは、任意の対象者の精神状態及び身体状態を表すものである。例えば、精神状態は、精神疲労、精神的ストレス、漫然状態、集中状態等に対応した指標で表される。また、身体状態は、身体疲労、身体的ストレス等に対応した指標で表される。
本発明の第2観点に係る生理状態判定装置は、第1観点の生理状態判定装置において、脳機能賦活情報検知部は、特定操作検知部、及び/又は特定環境検知部をさらに有する。特定操作検知部は、対象者又は対象者以外の測定者により所定機器への特定操作が行なわれた場合に、対象者に脳機能賦活刺激が与えられたと判定して脳機能賦活情報を検知する。特定環境検知部は、所定環境における状態情報が、脳機能賦活刺激が存在するとみなされる特定環境の状態情報である場合に、対象者に脳機能賦活刺激が与えられたと判定して脳機能賦活情報を検知する。
第2観点に係る生理状態判定装置では、上述した構成を具備しているので、所定機器への特定操作の検知、及び/又は、特定環境の状態情報の検知により、脳機能賦活情報を検知できる。
本発明の第3観点に係る生理状態判定装置は、第2観点の生理状態判定装置において、顔面変化情報取得部が、特定操作検知部により、所定機器に対する特定操作が行なわれたことが検知された場合、顔面変化情報を取得する。または、顔面変化情報取得部は、特定環境検知部により、所定環境における状態情報が、脳機能賦活刺激が存在するとみなされる特定環境の状態情報であると検知された場合、顔面変化情報を取得する。または、特定操作検知部による特定操作の検知及び特定環境検知部による特定環境の検知がなされた場合、顔面変化情報を取得する。
第3観点に係る生理状態判定装置では、所定機器への特定操作の検知、及び/又は、特定環境の状態情報の検知がされた場合に、顔面変化情報取得部が顔面変化情報を取得するので、判定に不要な情報の取得及び/又は保存を回避することができる。
本発明の第4観点に係る生理状態判定装置は、第3観点の生理状態判定装置において、顔面変化情報取得部が、特定操作検知部により特定操作が検知されていないときに顔面変化情報の基準を取得する、及び/又は、特定環境検知部により特定環境の状態情報が検知されていないときに顔面変化情報の基準を取得する。
第4観点に係る生理状態判定装置では、脳機能賦活刺激が対象者に与えられていないタイミングで基準となる顔面変化情報を取得するので、脳機能賦活刺激情報が検知されたときに取得される顔面変化情報に基づいて、対象者の生理状態を判定することができる。
本発明の第5観点に係る生理状態判定装置は、第2観点から第4観点の生理状態判定装置において、脳機能賦活情報検知部が、第1装置に格納される。顔面変化情報取得部と生理状態判定部とが、第2装置に格納される。そして、第1装置及び第2装置が情報通信を実行することで対象者の生理状態を判定する。
第5観点に係る生理状態判定装置では、脳機能賦活情報を検知するための第1装置を、他の構成を有する第2装置から分離することで、第1装置のみを移動することができる。結果として、生理状態判定装置は、脳機能賦活情報を検知できる場所の自由度を高めることができる。
本発明の第6観点に係る生理状態判定装置は、第2観点から第5観点の生理状態判定装置において、脳機能賦活刺激が前記対象者に与えられていることを推定する推定部をさらに備える。そして、特定環境検知部が、推定部により脳機能賦活刺激が与えられていると推定された場合に、所定環境における状態情報が、脳機能賦活刺激が存在するとみなされる特定環境の状態情報であるか否かを検知する。
第6観点に係る生理状態判定装置では、脳機能賦活刺激が対象者に与えられていることを推定することで、生理状態判定の判定結果の信頼性を高めることができる。
本発明の第7観点に係る生理状態判定装置は、第6観点の生理状態判定装置において、推定部は、対象者の視線、顔の角度、身体の動作のいずれか又は任意の組み合わせの情報に基づいて、脳機能賦活刺激が対象者に与えられていることを推定する。
第7観点に係る生理状態判定装置では、脳機能賦活刺激が対象者に与えられているか否かの推定精度を高めることができる。結果として、生理状態判定の判定結果の信頼性を高めることができる。
本発明の第8観点に係る生理状態判定装置は、第2観点から第7観点の生理状態判定装置において、特定環境記憶部と、状態情報取得部とをさらに備える。特定環境記憶部は、脳賦活刺激が存在するとみなされる特定環境の状態情報を予め記憶する。状態情報取得部は、所定環境の状態情報を取得する。そして、特定環境検知部が、特定環境記憶部に記憶された状態情報と、状態情報取得部により取得された状態情報とを照合し、脳賦活刺激が存在する特定環境の状態情報であることを判定することで、脳機能賦活情報を検知する。
第8観点に係る生理状態判定装置では、このような構成を具備することで、特定環境の状態情報の検知により脳機能賦活情報を検知できる。
本発明の第9観点に係る生理状態判定装置は、第1観点から第8観点の生理状態判定装置において、顔面変化情報から判定用情報を生成する判定用情報生成部をさらに備える。そして、生理状態判定部が、判定用情報に基づいて生理状態を判定する。
第9観点に係る生理状態判定装置では、顔面変化情報から生成する生理状態判定のための判定用情報に基づき対象者の生理状態を判定できる。
本発明の第10観点に係る生理状態判定装置は、第9観点の生理状態判定装置において、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する顔面変化情報分解部をさらに備える。そして、判定用情報生成部が、複数の成分から、脳機能賦活情報と関連する成分を判定用成分として抽出して、判定用成分から判定用情報を生成する。
第10観点に係る生理状態判定装置では、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分から、脳機能賦活情報と関連する判定用成分を抽出するので、電極等の特殊な装置を対象者に装着させる必要がなく、対象者の脳活動の有無を容易に推定できる。これにより、対象者の脳機能に対応する判定用成分に基づいて、対象者の生理状態を容易に判定できる。
第1観点に係る生理状態判定装置では、任意の脳機能賦活刺激提供物から脳機能賦活情報を検知することができる。
第2観点に係る生理状態判定装置では、所定機器への特定操作の検知、及び/又は、特定環境の状態情報の検知により、脳機能賦活情報を検知できる。
第3観点に係る生理状態判定装置では、判定に不要な情報の取得及び/又は保存を回避することができる。
第4観点に係る生理状態判定装置では、対象者の生理状態を判定することができる。
第5観点に係る生理状態判定装置では、脳機能賦活情報を検知できる場所の自由度を高めることができる。
第6観点に係る生理状態判定装置では、生理状態判定の判定結果の信頼性を高めることができる。
第7観点に係る生理状態判定装置では、脳機能賦活刺激が対象者に与えられているか否かの推定精度を高めることができる。
第8観点に係る生理状態判定装置では、特定環境の状態情報の検知により脳機能賦活情報を検知できる。
第9観点に係る生理状態判定装置では、顔面変化情報から生成する生理状態判定のための判定用情報に基づき対象者の生理状態を判定できる。
第10観点に係る生理状態判定装置では、対象者の生理状態を容易に判定できる。
撮影画像データ及びこれを解析した結果の一例を示す図。 顔面皮膚温度データを解析した結果の一部を示す図。 顔面皮膚温度データを解析した結果の一部を示す図。 成分2の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図。 成分3の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図。 対照実験で得られた顔面皮膚温度データを解析した結果の一部を示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 本発明の一実施形態に係る脳活動可視化装置の概略図。 脳活動可視化装置において脳機能を反映した皮膚温度の変化を示す成分を同定する際の処理の流れの一例を示すフローチャート。 本発明の一実施形態に係る脳活動可視化装置の概略図。 脳活動可視化装置において脳機能を反映した顔面のRGB変化を示す成分を同定する際の処理の流れの一例を示すフローチャート。 本発明に係る生理状態判定装置において、判定対象となる対象者の生理状態及びそのために必要な情報(脳機能賦活刺激、所定機器、特定操作、測定者)を説明するための図である。 本発明に係る生理状態判定装置において、判定対象となる対象者の生理状態及びそのために必要な情報(脳機能賦活刺激の内容、所定環境、状態情報、特定環境の状態情報、状態情報取得部の構成)を説明するための図である。 第1実施形態に係る生理状態判定装置500の構成を示す模式図である。 第1実施形態に係る生理状態判定装置500の構成を示す模式図である。 基準データベースの構成を示す模式図である。 レッドスポット・ダイナミック・レスポンス・ファンクションを説明するための模式図である。 第1実施形態に係る生理状態判定装置500の動作を示すフローチャートである。 撮像部515に赤外線カメラを用いたときの状況を説明するための模式図である。 第1実施形態の変形例に係る生理状態判定装置500の構成を示す模式図である。 第2実施形態に係る生理状態判定装置600の構成を示す模式図である。 第2実施形態に係る生理状態判定装置600の動作を示すフローチャートである。 第2実施形態の変形例2Aに係る生理状態判定装置600の構成を示す模式図である。 第2実施形態の変形例2Bに係る生理状態判定装置600の構成を示す模式図である。 第2実施形態の変形例2Cに係る生理状態判定装置600の構成を示す模式図である。 第2実施形態の変形例2Dに係る生理状態判定装置600の構成を示す模式図である。 第3本実施形態に係る生理状態判定装置700の構成を示す模式図である。
本発明の実施形態を説明する前に、まず、本発明者らが本発明を為すにあたって重要な基礎となった、本発明者らによる知見について説明する。
(1)本発明者らによる知見の要点
人間の脳活動には、人間の知的活動(認知活動等)及び情動活動(快/不快等の活動)が反映されていることが知られている。そして、従来より、人間の脳活動を推定する試みがされているが、この場合、脳波計測法、磁気共鳴画像法及び近赤外線分光法のいずれかの方法によって検出されたデータが利用されることが多い。
ここで、検出方法として、例えば、脳波計測法が採用される場合には、被験者に対して脳波電極を装着する必要がある。そして、脳波電極を装着する際には皮膚と電極との間の抵抗を小さくする必要があるため、皮膚を研磨する処理を行ったり電極にペーストを塗布したりする等の作業が必要になる。また、磁気共鳴画像法が採用される場合には、MRI室以外での測定が不可能であるとともに、測定室内に金属を持ち込むことができない等の測定条件に制約がある。さらに、近赤外線分光法が採用される場合には、被験者に対してプローブを装着する必要があるが、プローブを長時間装着することで被験者が痛みを感じたり、被験者の髪とプローブとの接触具合によっては正確に検出できなかったりすることがある。このように、人間の脳活動を測定するために従来の検出方法が採用される場合、脳波電極やプローブ等を装着する際の前処理が必要であったり、測定条件が限定されたりする等、被験者に与える負担が大きくなる。
したがって、被験者の負担を軽減し、かつ簡便に人間の脳活動を推定できる手段の開発が求められている。
そして、本発明者らは、人間の顔面の皮膚温度又は顔面の皮膚温度に比例すると考えられている顔面の血行状態に基づき人間の脳活動を推定することができるのではないか、と考えた。人間の顔面の皮膚温度であればサーモグラフィ等の測定装置を用いることで取得することができ、顔面の血行状態すなわち顔面の血行量であれば撮影装置を利用して得られる顔面の撮影画像のRGBデータから推定することができる。このように、顔面の皮膚温度や顔面の撮影画像であれば、脳波電極やプローブ等の装着前に処理が必要なセンサを装着することなく取得することができる。
一方で、人間の顔面の皮膚温度は、外気温度及び/又は自律神経の活動等の様々な要因の影響を受けて変化することが知られている。このため、顔面の皮膚温度に基づいて又は顔面の皮膚温度に比例すると考えられる顔面の血行量に基づいて脳活動を推定しようとすると、取得したデータが脳活動のみを反映しているかどうかを判断することは、非常に困難であると考えられる。
本発明者らは、鋭意検討した結果、顔面の皮膚温度を検出し、検出した温度データ及び検出部位の位置データ(座標データ)を含む時系列の顔面皮膚温度データを、或いは、時系列の顔面の撮影画像データから得られるRGBデータに基づき算出された時系列の顔面の血行量データを、特異値分解法、主成分分析法若しくは独立成分分析法を用いて複数の成分に分解し、分解した複数の成分について解析を行うことで、脳活動を反映した顔面の皮膚温度の変化或いは顔面の血行量の変化を示す成分を同定することができることを見いだした。そして、本発明者らは、対象者の脳活動を推定し、これを解析することで、推定した脳活動に基づき対象者の生理状態を可視化することのできる本発明に到達した。
(2)顔面の各種データの取得方法、及び取得した各種データの解析方法
(2−1)顔面皮膚温度データの取得方法、及び顔面皮膚温度データの解析方法
次に、本発明者らが上記の知見を得るに際して用いた顔面皮膚温度データの取得方法、及び顔面皮膚温度データの解析方法について説明する。
この試験では、6名の被験者から顔面皮膚温度データを取得した。具体的には、室温25℃を維持した人工気象室内に設置した椅子に被験者を座らせて、赤外線サーモグラフィ装置を用いて、被験者の顔面全体から顔面皮膚温度データを取得した。赤外線サーモグラフィ装置は、対象物から出ている赤外線放射エネルギーを赤外線カメラで検出し、検出した赤外線放射エネルギーを対象物表面の温度(ここでは、摂氏での温度)に変換して、その温度分布を顔面皮膚温度データ(例えば、温度分布を表した画像データ)として表示、蓄積することが可能な装置である。なお、この試験では、赤外線サーモグラフィ装置として、NEC Avio 赤外線テクノロジー株式会社製のR300を使用した。また、赤外線カメラは、被験者の正面であって、被験者から1.5m離れた地点に設置した。そして、顔面皮膚温度データは、30分間取得した。
また、この試験では、顔面皮膚温度データを取得している間に、被験者に対して脳機能賦活課題を与えた。これにより、脳の非賦活時の顔面皮膚温度データ、及び脳の賦活時の顔面皮膚温度データを取得した。脳機能賦活課題としては、被験者が表示装置等に表示された映像に基づいて、計算、又は、数値、形状及び色の認知、或いは、記号、文字ないし言語の記憶などの心理的作業が挙げられる。この試験では、脳機能賦活課題として「かけ算の暗算」を採用し、被験者に、表示装置に筆算形式で表示される数字を計算させ、その回答をキーボードに入力させる作業を課した。なお、この試験では、顔面皮膚温度データの取得開始から5分経過後から10分間継続して、被験者に対して脳機能賦活課題を与えた。
顔面皮膚温度データの解析としては、取得した顔面皮膚温度データを対象として、MATLAB(登録商標)のSVD(Singular Value Decomposition)を分析ツールとして用いて特異値分解を行った。特異値分解では、時系列で取得した全ての顔面皮膚温度データ(30分間のデータ)を対象とし、要因を30秒毎の時間データ(30分間で60 time point)とし、測度をその期間(30秒間)における顔面皮膚温度データ(240×320 pixels)とした。そして、特異値分解により、顔面皮膚温度データXを、複数の成分に分解し、それぞれの成分の時間分布Vと、空間分布Uと、各成分の大きさを示す特異値Sとを算出した。なお、これらの関係は、以下の式で表される。また、V’は、Vの行と列とを入れ替えた行列である。
そして、特異値分解によって求められた各成分の時間分布V及び空間分布Uをグラフにプロットし、各成分の成分波形図と温度分布図とを作成した。
さらに、作成した各成分の成分波形図及び温度分布図について、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。
各成分の成分波形図については、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、脳の非賦活期間/脳の賦活期間との間に相関関係があるか否かを評価した。この試験では、顔面皮膚温度データを取得している期間のうち、被験者に対して脳機能賦活課題が与えられていない期間であるデータ取得開始時点から5分が経過した時点までの5分間の期間、及びデータ取得開始時から15分が経過した時点からデータ取得終了時点までの15分間の期間を脳の非賦活時とし、被験者に対して脳機能賦活課題が与えられている期間であるデータ取得開始時から5分が経過した時点から10分が経過した時点までの10分間の期間を脳の賦活時とした。そして、各成分の成分波形図に示された振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準(α)が0.05以下の場合に相関があると判断した。
各成分の温度分布図については、顔面の所定部位における温度変化の有無について解析した。ここで、脳には、選択的脳冷却機構(Selective Brain Cooling System)という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び副鼻腔周辺(眉間及び鼻部周辺を含む)を用いて排熱していることが知られている。そこで、この試験では、各成分の温度分布図において、副鼻腔周辺及び前額部における温度変化があるか否かを評価した。なお、温度分布図における副鼻腔周辺及び前額部の温度変化の有無については、目視(visual inspection)による温度変化の有無、もしくは副鼻腔周辺及び前額部の温度が測定データ全体の平均温度から1標準偏差(SD)以上異なるか否かを温度変化の有無の基準とした。
なお、空間分布U、特異値S及び時間分布Vの値の関係で、顔面皮膚温度データXの極性(プラスマイナス)が決定するため、各成分の成分波形図及び温度分布図において極性が反転して現れることがある。このため、成分波形図及び温度分布図の評価に関して、極性については評価対象としないこととした。
ここで、この赤外線サーモグラフィ装置では、上述しているように、対象物から検出された赤外線放射エネルギーを温度に変換して、その温度分布を顔面皮膚温度データとしている。ところで、人間を対象として赤外線サーモグラフィ装置を用いて顔面の皮膚温度を取得する場合、顔面の動き及び/又は自律神経の活動等の様々な脳活動とは関連しない温度変化(いわゆるノイズ)についても顔面皮膚温度データとして取得してしまう(図1(a)参照)。そこで、このような脳活動とは関連しない温度変化を検出するために、30秒毎の顔面皮膚温度データに含まれる温度データの全平均値を「0」とした相対的な顔面皮膚温度データを作成し、作成した顔面皮膚温度データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図と温度分布図とを作成し、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。
なお、以下より、説明の便宜上、赤外線サーモグラフィ装置で取得した顔面皮膚温度データを「温度換算データに応じた顔面皮膚温度データ」といい、所定時間毎(この試験では30秒毎)の温度換算データに応じた顔面皮膚温度データに含まれる温度データの全平均値を「0」とした相対的な顔面皮膚温度データを「相対温度換算データに応じた顔面皮膚温度データ」という。
また、6名の被験者のうちの1名に対しては、赤外線サーモグラフィ装置による顔面皮膚温度の検出の他に、被験者の頭皮上に電極を接続して脳波を測定し、覚醒時や意識が緊張した時に現れる波形として知られているβ波(14〜30Hzの周波数の脳波)の振幅と、成分波形図の振幅との間の相関関係についても評価した。なお、脳波測定では、国際式10−20法に基づき、6つの部位(F3、F4,C3、C4、Cz、Pz)に電極を配置した。
ところで、被験者に脳機能賦活課題が与えられている間、被験者の頭が上下に動くことが考えられる。そうすると、赤外線カメラに対する被験者の顔面の位置が変化することになる。この顔面の位置の変化が皮膚温度の変化に影響しているか否かを検証するために、被験者1名に対して対照試験を行った。顔面皮膚温度データを取得する際の被験者の動きの影響を検証するための対照試験では、上記試験と同様に赤外線サーモグラフィ装置を用いて被験者の顔面皮膚温度データを取得するが、脳機能賦活課題が与えられていない間(すなわち、脳の非賦活時)についてもランダムなタイミングでキーボードを押す作業を被験者に課した。この対照実験によって得られた温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図と温度分布図とを作成し、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。
(2−2)顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法
図1(a)は、撮影装置にて撮影した被験者の顔面の副鼻腔周辺の撮影画像データの一例を示す図である。図1(b)は、血行量分布図(画像マップ)の一例を示す図である。
次に、本発明者らが上記の知見を得るに際して用いた顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法について説明する。
この試験では、6名の被験者から顔面の撮影画像データを取得した。具体的には、室温25℃を維持した人工気象室内に設置した椅子に被験者を座らせて、時系列で画像を取得可能な撮影装置を用いて、被験者の顔面全体の副鼻腔周辺の撮影画像データを時系列で取得した。
また、上述した選択的脳冷却機構に基づくと、脳活動に伴う顔面皮膚温度に比例すると考えられる顔面の血行量の変化は、前額部及び/又は副鼻腔周辺に出現すると考えられる。このことから、本発明者らは、少なくとも前額部及び/又は副鼻腔周辺の顔面の血行量の変化を捉えることができれば、精度良く脳活動を推定することができる、と考えた。そして、この試験では、被験者の顔面の副鼻腔周辺の撮影画像データを時系列で取得した。
また、この試験では、撮影装置として、Apple社製のiPad Air(登録商標)の備える液晶画面側の撮影装置を使用し、時系列の撮影画像データとしてカラーの動画データを取得した。また、撮影装置を、被験者の正面側であって、被験者から1.0m離れた地点に設置した。そして、撮影装置によって、30フレーム/秒の撮影周期で時間軸に沿って30分間の撮影画像データを連続撮影することで、顔面の動画データを得た。
さらに、この試験では、顔面の動画データを取得している間に、被験者に対して脳機能賦活課題を与えた。これにより、脳の非賦活時の顔面の動画データ、及び脳の賦活時の顔面の動画データを取得した。この試験では、上記試験と同様に、脳機能賦活課題として「かけ算の暗算」を採用し、被験者に、表示装置に筆算形式で表示される数字を計算させ、その回答をキーボードに入力させる作業を課した。なお、この試験では、顔面の動画データの取得開始から5分経過後から10分間継続して、被験者に対して脳機能賦活課題を与えた。
顔面の動画データの解析としては、撮影した顔面の動画データより得られたRGBデータに基づき血行量データを算出し、算出した時系列の血行量データを対象として、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行った。ここでは、CIE−L***表色系に従って、画像のRGBデータより演算される肌の赤みやヘモグロビン量と相関のある紅斑指数「a*」を求め、これを血行量データとした。また、特異値分解では、時系列で取得した全ての動画データ(30分間のデータ)から得られたRGBデータに基づく血行量データ(ここでは、紅斑指数)を対象とし、要因を30秒毎の時間データ(30分間で60 time point)とし、測度をその期間(30秒毎)におけるRGBデータから演算した紅斑指数(30秒毎に1秒間のフレームデータを取り出し、該フレームデータから得られるRGB値の平均値から演算した紅斑指数;240×320 pixels)とした。そして、特異値分解により、顔面の動画データより得られたRGBデータに基づく時系列の血行量データを、複数の成分に分解し、それぞれの成分の時間分布Vと、空間分布Uと、各成分の大きさを示す特異値Sとを算出した。なお、これらの関係は、上記式(数1)と同様の式で表される。
そして、特異値分解によって求められた各成分の時間分布V及び空間分布Uをグラフにプロットし、各成分の成分波形図と血行量分布図とを作成した。
さらに、作成した各成分の成分波形図及び血行量分布図について、脳活動を反映した顔面の血行量の変化すなわち顔面のRGB変化を示す成分を同定するための解析を行った。
各成分の成分波形図については、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、脳の非賦活期間/脳の賦活期間との間に相関関係があるか否かを評価した。この試験では、顔面の撮影画像データを取得している期間のうち、被験者に対して脳機能賦活課題が与えられていない期間であるデータ取得開始時点から5分が経過した時点までの5分間の期間、及びデータ取得開始時から15分が経過した時点からデータ取得終了時点までの15分間の期間を脳の非賦活時とし、被験者に対して脳機能賦活課題が与えられている期間であるデータ取得開始時から5分が経過した時点から10分が経過した時点までの10分間の期間を脳の賦活時とした。そして、各成分の成分波形図に示された振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準(α)が0.01以下の場合に相関があると判断した。
各成分の血行量分布図については、顔面の所定部位における血行量変化の有無について解析した。血行量分布図は、ピクセル毎に算出された空間分布Uを各ピクセルの位置に並べることで作成される。このように作成された各成分の血行量分布図において、副鼻腔周辺及び前額部における血行量の変化があるか否かを評価した。なお、血行量分布図における副鼻腔周辺及び前額部の血行量変化の有無については、目視(visual inspection)による血行量変化の有無、もしくは図1(b)に示す副鼻腔周辺及び前額部の血行量の値が「0.000」でないことを血行量変化の有無の基準とした。
なお、空間分布U、特異値S及び時間分布Vの値の関係で、血行量データXの極性(プラスマイナス)が決定するため、各成分の成分波形図及び血行量分布図において極性が反転して現れることがある。このため、成分波形図及び血行量分布図の評価に関して、極性については評価対象としないこととした。
さらに、顔面の皮膚温度と顔面の血行量との相関関係を検証するために、6名の被験者から顔面の撮影画像データを時系列で取得している間、赤外線サーモグラフィ装置により顔面皮膚温度データも時系列で取得し、取得した顔面皮膚温度データについてもMATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。なお、この試験では、赤外線サーモグラフィ装置として、上記試験と同様の装置を用いた。また、赤外線カメラは、被験者の正面であって、被験者から1.5m離れた地点に設置した。
ところで、撮影装置を用いて顔面の撮影画像データを取得する場合、撮影中に太陽の光等が顔に当たることで光が顔で反射し、この反射光が撮影装置のレンズに入り込んでしまうことがある。そうすると、撮影された顔面の撮影画像データにはこの反射光が記録されてしまうことになる。ここで、撮影画像データから得られるRGBデータにおいて、顔面の血行量に基づく明度の変化は反射光に基づく明度の変化よりも小さいため、反射光の記録された撮影画像データから得られるRGBデータに基づいて算出された血行量が解析されると、脳活動とは関連しない顔面のRGB変化(いわゆるノイズ)が混入してしまう可能性があると考えられた。そこで、このような脳活動とは関連しない顔面のRGB変化の混入を防ぐために、30秒毎のRGBデータの全平均値を「0」とした相対的なRGBデータから相対的な血行量データを作成し、作成した血行量データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図と血行量分布図とを作成し、脳活動を反映した顔面のRGB変化を示す成分を同定するための解析を行った。
なお、以下より、説明の便宜上、所定時間毎(この試験では30秒毎)のRGBデータの全平均値を「0」とした相対的なRGBデータに基づく相対的な血行量データを「相対換算血行量データ」といい、相対的なRGBデータに換算する前のRGBデータに基づく血行量データを単に「血行量データ」という。
また、6名の被験者に対して撮影装置によって顔面の時系列の撮影画像データを取得している間、各被験者の頭皮上に電極を接続して脳波を測定し、覚醒時等の脳細胞が活動している時に現れる波形として知られているβ波(13〜30Hzの周波数の脳波)の振幅と、成分波形図の振幅との間の相関関係についても評価した。なお、脳波測定では、国際式10−20法に基づき、頭皮上19の部位(Fp1、Fp2、F3、F4、C3、C4、P3、P4、O1、O2、F7、F8、T3、T4、T5、T6、Fz、Cz及びPz)に電極を配置した。
さらに、被験者に脳機能賦活課題が与えられている間、被験者の頭が上下に動くことが考えられる。そうすると、撮影装置に対する被験者の顔面の位置が変化することになる。この顔面の位置の変化が顔面のRGB変化に影響しているか否かを検証するために、被験者1名に対して対照試験を行った。対照試験では、上記試験と同様に撮影装置を用いて被験者の顔面の時系列の撮影画像データを取得するが、脳機能賦活課題が与えられていない間(すなわち、脳の非賦活時)についてもランダムなタイミングでキーボードを押す作業を被験者に対して課した。この対照実験によって撮影された顔面の時系列の撮影画像データから得られたRGBデータに基づく時系列の血行量データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。また、各成分波形の振幅と、実際の顔面の動きとの相関関係の有無について解析した。実際の顔面の動きは、撮影画像データから顔の同一箇所の2次元座標を取得し、対照実験開始時の撮影画像データを基準として撮影時における30秒毎の顔面の移動距離を算出することで評価した。さらに、各成分波形の振幅と、撮影中のキーボードの入力数との相関関係の有無についても解析した。撮影中のキーボードの入力数は、時系列の撮影画像データにおける30秒毎の単純移動平均を算出することで評価した。
(3)解析結果
(3−1)顔面皮膚温度データの解析結果
図2は、温度換算データに応じた顔面皮膚温度データを解析した結果の一部を示す図である。図2(a)は、被験者1の成分2の成分波形図を示している。図2(b)は、被験者1の成分2の温度分布図を示している。図3(a)は、被験者1の成分3の成分波形図を示している。図3(b)は、被験者1の成分3の温度分布図を示している。図4及び図5は、成分波形の振幅と、脳波との関係を示す図である。図4は、被験者1の成分2の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図である。図5は、被験者1の成分3の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図である。図6は、対照実験で得られた顔面皮膚温度データを解析した結果の一部を示す図である。図6(a)は、成分3の成分波形図を示している。図6(b)は、成分3の温度分布図を示している。
表1は、各被験者に対する顔面皮膚温度データの解析結果を示したものである。
上記の顔面皮膚温度データの解析によって得られた結果から、時系列の顔面皮膚温度データを特異値分解により分解して得られた複数の成分のうち、成分2及び/又は成分3と、人間の脳活動との間に有意な相関があることが確認された。
また、図4及び図5に示すように、脳波解析の結果から、成分2及び成分3の各成分波形の振幅と、脳波のβ波の振幅との間に有意な相関が確認された。
さらに、対照実験では、顔面皮膚温度データを取得している間に被験者に動きがある状態であっても、成分3と人間の脳活動との間に有意な相関があった(図6参照)。このことから、複数の成分のうち、成分3については、顔面皮膚温度データを取得する際の被験者の動きが影響していないことが認められた。
これらの結果から、本発明者らは、以下の知見を得た。
被験者から取得した時系列の顔面皮膚温度データを特異値分解により複数の成分に分解し、分解した各成分について解析した結果、複数の成分のうちの成分3が脳活動に関連する成分であると認められた。すなわち、時系列の顔面皮膚温度データを特異値分解により複数の成分に分解し、分解した複数の成分から脳の賦活/非賦活と相関のある成分を抽出し、抽出した成分について選択的脳冷却機構を利用した解析を行うことで、複数の成分から脳活動を反映した皮膚温度の変化を示す成分を同定することができることが判明した。このことから、本発明者らは、人間の顔面の皮膚温度に基づいて、脳活動を推定することができる、という知見を得た。
(3−2)顔面の撮影画像データの解析結果
図7〜図18は、顔面の撮影画像データ(血行量データ)又は顔面皮膚温度データに基づく成分波形図と、測定された脳波のうちのβ波の波形図を比較解析した結果の一部を示す図である。図7は、被験者1の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者1の脳波のうちのβ波の振幅とを示す図である。図8は、被験者1の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者1の脳波のうちのβ波の振幅とを示す図である。図9は、被験者2の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者2の脳波のうちのβ波の振幅とを示す図である。図10は、被験者2の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者2の脳波のうちのβ波の振幅とを示す図である。図11は、被験者3の撮影画像データに基づく成分4の成分波形の振幅と、測定された被験者3の脳波のうちのβ波の振幅とを示す図である。図12は、被験者3の顔面皮膚温度データに基づく成分3の成分波形の振幅と、測定された被験者3の脳波のうちのβ波の振幅とを示す図である。図13は、被験者4の撮影画像データに基づく成分3の成分波形の振幅と、測定された被験者4の脳波のうちのβ波の振幅とを示す図である。図14は、被験者4の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者4の脳波のうちのβ波の振幅とを示す図である。図15は、被験者5の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者5の脳波のうちのβ波の振幅とを示す図である。図16は、被験者5の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者5の脳波のうちのβ波の振幅とを示す図である。図17は、被験者6の撮影画像データに基づく成分4の成分波形の振幅と、測定された被験者6の脳波のうちのβ波の振幅とを示す図である。図18は、被験者6の顔面皮膚温度データに基づく成分3の成分波形の振幅と、測定された被験者6の脳波のうちのβ波の振幅とを示す図である。
図7〜図18に示すように、各成分波形と脳波解析との結果から、顔面の皮膚温度と顔面の血行量とが相関関係にあることが確認された。なお、顔面の皮膚温度データ及び顔面の血行量データのいずれのデータに基づく解析においても、各成分波形の振幅と、頭頂部又は後頭部に装着した電極が測定した脳波のβ波の振幅との間に有意な相関が確認された。
以下に示す表2は、各被験者に対する顔面の撮影画像データの解析結果を示したものである。
表2に示すように、上記の顔面の撮影画像データの解析によって得られた結果から、顔面の撮影画像データに基づく時系列の血行量データを特異値分解により分解して得られた複数の成分のうち、成分1,2,3,4,5と人間の脳活動との間に有意な相関があることが確認された。なお、ここでは、血行量データに基づく相関において有意な相関が見られかつ相対換算血行量データに基づく相関において有意な相関が見られた成分だけでなく、血行量データに基づく相関においては有意な相関が見られなかったが相対換算血行量データに基づく相関において有意な相関が見られた成分も、人間の脳活動と有意な相関があると認めるようにした。
また、以下に示す表3は、対照実験の結果を示したものである。
表3に示すように、対照実験では、顔面の撮影画像データを取得している間に被験者に動きがある場合、その成分波形の振幅と脳の非賦活時及び脳の賦活時との間に有意な相関のあった成分のうちの成分2については、移動距離及びキーボード入力数それぞれとの間に有意な相関が認められなかった。このことから、顔面の撮影画像データから取得したRGBデータに基づく血行量データを特異値分解することで得られる複数の成分において、脳活動との間に有意な相関がある成分については、顔面の時系列の撮影画像データを取得する際の被験者の動きによる影響を受けたとしても、その影響は脳の脳活動による影響(脳の賦活や非賦活による影響)よりも遙かに小さいことが確認された。
これらの結果から、本発明者らは、以下の知見を得た。
被験者から取得した時系列の顔面の撮影画像データに基づく顔面のRGBデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した各成分について解析した結果、複数の成分のうちの成分1,2,3,4,5が脳活動に関連する成分であると認められた。すなわち、時系列の顔面の撮影画像データに基づく顔面のRGBデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した複数の成分から脳の賦活/非賦活と相関のある成分を抽出し、抽出した成分について解析することで、複数の成分から脳活動を反映した顔面のRGB変化を示す成分を同定することができることが判明した。このことから、本発明者らは、人間の顔面の時系列の撮影画像データに基づいて、脳活動を推定することができる、という知見を得た。
(4)脳活動可視化装置
次に、上記に説明した知見に基づいて、本発明者らが完成するに至った本発明の一実施形態に係る脳活動可視化装置10,110について説明する。なお、本発明に係る脳活動可視化装置は、以下の実施形態に限定されるものではなく、要旨を逸脱しない範囲で適宜変更可能である。
本発明の一実施形態に係る脳活動可視化装置10,110は、顔面皮膚温度データに基づき脳活動を推定する脳活動推定手段30、及び/又は顔面の撮影画像データに基づき脳活動を推定する脳活動推定手段130を備えている。以下では、本発明の一実施形態に係る脳活動可視化装置10,110を説明する前に、各脳活動推定手段30,130について説明する。
(4−1)顔面皮膚温度データに基づき脳活動を推定する脳活動推定手段30
図19は、本発明の一実施形態に係る脳活動可視化装置10の概略図である。図20は、脳活動可視化装置10において脳機能を反映した皮膚温度の変化を示す成分を同定する際の処理の流れを示すフローチャートである。
脳活動可視化装置10の備える脳活動推定手段30は、個人(被験者)の顔面の皮膚温度から、個人の脳活動を推定する。脳活動可視化装置10は、図19に示すように、顔面皮膚温度取得手段20と、脳活動推定手段30と、状態可視化手段200と、を備える。
顔面皮膚温度取得手段20は、個人の顔面の少なくとも一部の皮膚温度を検出し、検出した温度データ及びその検出部位の位置データを含む顔面皮膚温度データを時系列で取得する(ステップS1)。なお、ここでは、顔面皮膚温度取得手段20は、赤外線サーモグラフィ装置であり、図19に示すように、赤外線カメラ21と、処理部22と、を有する。赤外線カメラ21は、個人の顔面から出ている赤外線放射エネルギーを検出するためのものである。そして、ここでは、赤外線カメラ21は、個人の顔面全体から赤外線放射エネルギーを検出しているものとする。処理部22は、赤外線カメラ21によって検出した赤外線放射エネルギーを温度に変換して温度データとし、赤外線放射エネルギーの検出された部位を位置データ(座標データ)とした顔面全体における顔面皮膚温度の温度分布図を作成し、作成した温度分布図を温度換算データに応じた顔面皮膚温度データとして処理する。温度換算データに応じた顔面皮膚温度データは、処理部22の有する記憶部(図示せず)に蓄積される。
ここでは、処理部22において、顔面全体における顔面皮膚温度の温度分布図が作成されているが、これに限定されず、少なくとも副鼻腔周辺及び/又は前額部を含む顔面皮膚温度の温度分布図が作成され、これが温度換算データに応じた顔面皮膚温度データとされてもよい。
また、ここでは、顔面皮膚温度取得手段20により温度換算データに応じた顔面皮膚温度データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられる。すなわち、顔面皮膚温度取得手段20により取得される温度換算データに応じた顔面皮膚温度データには、個人に対して脳機能賦活課題が与えられている期間のデータが含まれていることになる。なお、個人に対して与えられる脳機能賦活課題としては、脳が賦活状態になると推定されるものであれば特に限定されるものではなく、例えば、脳活動可視化装置10の利用目的に応じてその内容が適宜決定されるよう構成されていてもよい。
脳活動推定手段30は、顔面皮膚温度取得手段20により取得された温度換算データに応じた顔面皮膚温度データに基づき、人間の脳活動を推定する。具体的には、脳活動推定手段30は、図19に示すように、換算部31と、解析部32と、推定部33と、を有する。
換算部31は、温度換算データに応じた顔面皮膚温度データに含まれる温度データを相対的な温度データに換算し、換算した相対的な温度データに基づく顔面皮膚温度データすなわち相対温度換算データに応じた顔面皮膚温度データを作成する(ステップS2)。具体的には、換算部31は、所定時間毎(例えば、30秒)の温度換算データに応じた顔面皮膚温度データに含まれる温度データの平均値を基準値として、該温度データを相対的な温度データに換算する。そして、換算部31は、換算した相対的な温度データ及び位置データを利用して、相対温度換算データに応じた顔面皮膚温度データを作成する。
解析部32は、時系列の温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データのそれぞれを、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する(ステップS3)。ここでは、解析部32は、取得した温度換算データに応じた顔面皮膚温度データ及び換算した相対温度換算データに応じた顔面皮膚温度データのそれぞれを対象として、MATLAB(登録商標)のSVDを分析ツールとして用いて、特異値分解を行う。特異値分解は、時系列で取得した温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データについて、要因を所定期間(例えば、30秒)毎の時間データとし、測度をその期間における温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データとして行われる。そして、特異値分解により、温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データのそれぞれを複数の成分に分解し、時間分布と、空間分布と、各成分の大きさを示す特異値とを算出する。
また、解析部32は、特異値分解によって分解した複数の成分から脳活動を反映した皮膚温度の変化を示す成分を同定するために、各成分が第1条件及び第2条件を満たすか否かを判定する(ステップS4a、ステップS4b、ステップS5a、及びステップS5b)。なお、ここでは、解析部32において、まず、温度換算データに応じた顔面皮膚温度データに基づく各成分について第1条件が満たされているか否かが判定され(ステップS4a)、ステップS4aにおいて第1条件が満たされていると判定された温度換算データに応じた顔面皮膚温度データに基づく成分について第2条件が満たされているか否かが判定される(ステップS4b)。そして、相対温度換算データに応じた顔面皮膚温度データに基づく各成分のうちステップS4a及びステップS4bにおいて第1条件及び第2条件を満たすと判定された成分と一致する成分についてのみ第1条件が満たされているか否かが判定され(ステップS5a)、その後、ステップS5aにおいて第1条件が満たされていると判定された相対温度換算データに応じた顔面皮膚温度データに基づく成分について第2条件が満たされているか否かが判定される(ステップS5b)。しかしながら、解析部32における該判定の順序はこれに限定されるものではなく、例えば、温度換算データに応じた顔面皮膚温度データに基づく各成分と、相対温度換算データに応じた顔面皮膚温度データに基づく各成分とが、第1条件及び第2条件を満たすか否かがそれぞれ判定され、判定結果の一致する成分が最終的に抽出されてもよい。
第1条件とは、特異値分解によって分解した成分の成分波形の振幅が、脳の非賦活時及び脳の賦活時の変化と相関関係にある、という条件である。解析部32は、複数の成分のうち、第1条件を満たす成分を、判定用成分として抽出する。なお、ここでは、温度換算データに応じた顔面皮膚温度データを取得している間に、個人に対して脳機能賦活課題が与えられている期間が一定期間ある。解析部32は、個人に対して脳機能賦活課題が与えられていない期間を脳の非賦活時とし、個人に対して脳機能賦活課題が与えられている期間を脳の賦活時として、脳機能賦活課題が与えられている期間及び与えられていない期間と、各成分の成分波形とを比較解析する。解析部32は、成分波形データに基づく比較解析結果を利用して、各成分の成分波形と脳の非賦活時及び脳の賦活時とが相関関係にあるか否かを評価し、複数の成分のうち相関関係にあると評価した成分を、第1条件を満たす判定用成分として抽出する。一方、解析部32は、複数の成分のうち相関関係にないと評価した成分を、第1条件を満たさず人間の脳活動を反映した温度変化を示す成分ではないと判定する(ステップS6)。
ここでは、温度換算データに応じた顔面皮膚温度データの取得時に個人に対して脳機能賦活課題が一定期間与えられており、これに基づき解析部32は判定用成分を抽出しているが、第1条件の内容、すなわち解析部32における判定用成分の抽出手段はこれに限定されない。例えば、予め実験等がされていることで複数の成分のうち脳の非賦活時及び脳の賦活時と相関関係にある成分波形を示す成分が特定されている場合には、解析部32は、複数の成分から特定されている該成分を判定用成分として抽出する。また、本脳活動可視化装置において眼球運動又はまたたき等の脳の賦活/非賦活に関連することが知られている人間の動作が検出される場合には、解析部32が、この検出結果と各成分の成分波形とを比較解析及び評価することで、複数の成分から判定用成分を抽出してもよい。なお、解析部32による第1条件を満たすか否かの判定の基準は、脳活動可視化装置10の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。
第2条件は、抽出した判定用成分において、人間の顔面の所定部位における温度変化がある、という条件である。解析部32は、判定用成分のうち、第2条件を満たす成分を、人間の脳活動に関連している可能性の高い成分と判定し、候補成分として抽出する。すなわち、解析部32は、人間の顔面の所定部位における温度変化の有無に基づき、判定用成分が人間の脳活動に関連しているか否かを判定する。具体的には、解析部32は、抽出した判定用成分の温度分布データに基づき、副鼻腔周辺及び/又は前額部において温度変化が生じているか否かを判定し、温度変化が生じている場合には該判定用成分が第2条件を満たす人間の脳活動に関連する可能性の高い成分であると判定し、候補成分として抽出する。一方で、解析部32は、副鼻腔周辺及び/又は前額部において温度変化が生じていない場合には、該判定用成分は第2条件を満たさず脳活動を反映した皮膚温度の変化を示す成分ではない、と判定する(ステップS6)。なお、解析部32による第2条件を満たすか否かの判定の基準は、脳活動可視化装置10の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。
そして、解析部32は、ステップS5bにおいて第2条件を満たすと判定した成分を、脳活動を反映した皮膚温度の変化を示す成分として同定する(ステップS7)。すなわち、ステップS7において脳活動を反映した皮膚温度の変化を示す成分として同定される成分は、温度換算データに応じた顔面皮膚温度データを特異値分解により分解し解析することで抽出された候補成分と、相対温度換算データに応じた顔面皮膚温度データを特異値分解により分解し解析することで抽出された候補成分と、の間で一致している成分ということになる。なお、両解析で一致していない候補成分については、ステップS6において脳活動を反映した皮膚温度の変化を示す成分ではない、と判定されている。
推定部33は、解析部32において人間の脳活動を反映した皮膚温度の変化を示す成分として同定された成分に基づいて、人間の脳活動を推定する。具体的には、推定部33は、解析部32において同定された成分の成分波形データに基づいて、顔面皮膚温度データの取得時における脳活動量を推定する。
(4−1−1)変形例1A
上記脳活動推定手段30は換算部31を有しており、換算部31によって相対温度換算データに応じた顔面皮膚温度データが作成されている。そして、解析部32が、顔面皮膚温度取得手段20により取得された温度換算データに応じた顔面皮膚温度データだけでなく、相対的な温度データに換算された温度データに基づく相対温度データに応じた顔面皮膚温度データについても、特異値分解により複数の成分に分解し、各成分についての解析を行っている。
これに代えて、脳活動推定手段30が換算部31を有していなくてもよい。この場合、相対温度換算データに応じた顔面皮膚温度データを作成したり、相対温度換算データに応じた顔面皮膚温度データに基づくデータの解析を行ったりする処理を省くことができる。
ただし、人間の脳活動に関連する成分を精度よく同定するためには、上記実施形態のように脳活動推定手段30が換算部31を有しており、解析部32によって、顔面皮膚温度取得手段20により取得された温度換算データに応じた顔面皮膚温度データだけでなく、相対的な温度データに換算された温度データに基づく相対温度データに応じた顔面皮膚温度データについても、特異値分解により複数の成分に分解され、各成分についての解析が行われるほうが望ましい。
(4−1−2)変形例1B
また、上記顔面皮膚温度取得手段20は、対象物と非接触の状態で温度データを取得することができる赤外線サーモグラフィ装置である。
しかしながら、個人の顔面の少なくとも一部の皮膚温度を検出し、検出した温度データ及びその検出部位の位置データを含む顔面皮膚温度データを時系列で取得することができれば、顔面皮膚温度取得手段は赤外線サーモグラフィ装置に限定されない。
例えば、顔面皮膚温度取得手段が温度センサを含む装置であってもよい。具体的には、個人の顔面の所定部位に温度センサを装着し、温度センサによって検出される温度データと、温度センサを装着した部位の位置データとに基づいて、時系列の顔面皮膚温度データが取得されてもよい。このように、温度センサにより対象となる個人に接触した状態で顔面皮膚温度データが取得される場合であっても、温度センサは脳波電極等のように装着前の処理が必要ではないため、脳波計測法、磁気共鳴画像法、及び近赤外線分光法等の従来の検出方法と比較して、簡便にデータを取得することができる。これにより、簡便に人間の脳活動を推定することができる。
(4−2)顔面の撮影画像データに基づき脳活動を推定する脳活動推定手段130
図21は、本発明の実施形態に係る脳活動可視化装置110の概略図である。図22は、脳活動可視化装置110において脳機能を反映した顔面のRGB変化を示す成分を同定する際の処理の流れの一例を示すフローチャートである。
脳活動可視化装置110の備える脳活動推定手段130は、個人(被験者)の顔面の撮影画像データから、個人の脳活動を推定するための装置である。脳活動可視化装置110は、図21に示すように、画像データ取得手段120と、脳活動推定手段130と、状態可視化手段200と、を備える。
画像データ取得手段120は、個人の顔面の少なくとも一部の撮影画像データを時系列で取得する(ステップS101)。なお、画像データ取得手段120は、少なくとも撮影装置を有するものであれば特に限定されるものではなく、例えば、スマートフォンやタブレット(例えば、iPad:登録商標)等の撮影装置内蔵型ポータブル端末等が挙げられる。ここでは、画像データ取得手段120は、図21に示すように、撮影装置としてのカメラ121と、記憶部122とを有する。カメラ121は、個人の顔面の撮影画像データを時系列で取得するためのものである。ここでは、カメラ121は、個人の顔面全体の動画を撮影し、撮影した動画データを取得する。記憶部122は、撮影装置により撮影された時系列の撮影画像データを蓄積する。ここでは、記憶部122は、カメラ121によって取得された動画データを蓄積する。
なお、ここでは、カメラ121によって顔面全体の動画が撮影されているが、これに限定されず、顔面の少なくとも前額部及び/又は副鼻腔周辺の画像を含む動画が撮影されていればよい。
また、ここでは、画像データ取得手段120により顔面の時系列の撮影画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられる。すなわち、画像データ取得手段120により取得される撮影画像データには、個人に対して脳機能賦活課題が与えられている期間のデータが含まれていることになる。なお、個人に対して与えられる脳機能賦活課題としては、脳が賦活状態になると推定されるものであれば特に限定されるものではなく、例えば、脳活動可視化装置110の利用目的に応じてその内容が適宜決定されるよう構成されていてもよい。
脳活動推定手段130は、画像データ取得手段120により取得された顔面の時系列の撮影画像データに基づき、人間の脳活動を推定する。具体的には、脳活動推定手段130は、図21に示すように、RGB処理部131と、換算部132と、血行量算出部133と、解析部134と、推定部135と、を有する。なお、図21では、脳活動推定手段130が、RGB処理部131、換算部132、血行量算出部133、解析部134及び推定部135を有する1つの装置として存在している態様が示されているが、本発明はこれに限定されるものではなく、RGB処理部131、換算部132、血行量算出部133、解析部134及び推定部135の一部或いはそれぞれが独立した装置として存在していてもよい。また、ここでは、画像データ取得手段120、RGB処理部131、換算部132、及び血行量算出部133により顔面血行量取得手段が構成されている。
RGB処理部131は、画像データ取得手段120により取得された撮影画像データに対して、R成分、G成分及びB成分の3つの色成分に分解するRGB処理を行う(ステップS102)。ここで、顔面全体の撮影画像データに対してRGB処理を行ってもよいが、ここでは、演算処理量及びノイズを減らすために、撮影画像データから前額部及び/又は副鼻腔周辺のデータを抽出し、抽出したデータについてのみRGB処理を行うものとする。
換算部132は、RGB処理により得られた撮影画像データのRGBデータを相対的なRGBデータに換算する(ステップS103)。具体的には、換算部132は、取得された所定時間毎(例えば、30秒)の撮影画像データから得られるRGBデータの平均値を基準値として、該RGBデータを相対的なRGBデータに換算する。
血行量算出部133は、RGB処理により得られた撮影画像データのRGBデータに基づき、顔面の時系列の血行量データを算出する(ステップS104)。
解析部134は、時系列の相対換算血行量データを、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する(ステップS105)。ここでは、解析部134は、相対換算血行量データに対して、MATLAB(登録商標)のSVDを分析ツールとして用いて、特異値分解を行う。具体的には、特異値分解は、時系列の相対換算血行量データを対象として、要因を所定期間(例えば、30秒)毎の時間データとし、測度をその期間毎における相対的なRGBデータから演算したピクセル毎の相対換算血行量データとして行われる。そして、特異値分解により、時系列の相対換算血行量データを複数の成分に分解し、時間分布と、空間分布と、各成分の大きさを示す特異値とを算出する。
また、解析部134は、特異値分解によって分解した複数の成分から脳活動を反映した顔面のRGB変化を示す成分を同定するために、各成分が所定条件を満たすか否かを判定する(ステップS106)。ここで、所定条件としては、例えば、特異値分解によって分解した成分の成分波形の振幅が、脳の非賦活時及び脳の賦活時の変化と相関関係にあるという条件(以下、第1条件という)や、特異値分解によって分解した成分において人間の顔面の所定部位に血行量変化があるという条件(以下、第2条件という)等が含まれる。解析部134において判定される所定条件としては、1又は複数の条件が設定されていればよく、ここでは、所定条件として第1条件が設定されているものとする。
そして、解析部134は、複数の成分のうち所定条件を満たす成分を、判定用成分として抽出する。さらに、解析部134は、抽出した判定用成分のうち所定条件に含まれる全ての条件を満たす成分を、脳活動を反映した顔面のRGB変化を示す成分として同定する(ステップS107)。一方、解析部134は、複数の成分のうち所定条件に含まれる少なくとも1つの条件を満たさないと判定した成分を、脳活動を反映した顔面のRGB変化を示す成分ではないと判定する(ステップS108)。
ここでは、上述のように所定条件として1つの条件(第1条件)のみが設定されており、顔面の時系列の撮影画像データを取得している間に、個人に対して脳機能賦活課題が与えられている期間が一定期間ある。このため、解析部134は、個人に対して脳機能賦活課題が与えられていない期間を脳の非賦活時とし、個人に対して脳機能賦活課題が与えられている期間を脳の賦活時として、脳機能賦活課題が与えられている期間及び与えられていない期間と、各成分の成分波形とを比較解析する。そして、解析部134は、成分波形データに基づく比較解析結果を利用して、各成分の成分波形と脳の非賦活時及び脳の賦活時とが相関関係にあるか否かを評価し、複数の成分のうち相関関係にあると評価した成分を、所定条件を満たす判定用成分として抽出すると共に、脳活動を反映した顔面のRGB変化を示す成分として同定する。一方、解析部134は、複数の成分のうち相関関係にないと評価した成分を、所定条件を満たさず人間の脳活動を反映した顔面のRGB変化を示す成分ではないと判定する。
ここでは、顔面の時系列の撮影画像データが取得される際に個人に対して脳機能賦活課題が一定期間与えられており、これに基づき解析部134が判定用成分を抽出しているが、第1条件の内容、すなわち解析部134における判定用成分の抽出手段はこれに限定されない。例えば、予め実験等がされていることで複数の成分のうち脳の非賦活時及び脳の賦活時と相関関係にある成分波形を示す成分が特定されている場合には、解析部134は、複数の成分から特定されている該成分を判定用成分として抽出する。また、脳活動可視化装置110において眼球運動又はまたたき等の脳の賦活/非賦活に関連することが知られている人間の動作についても検出される場合には、解析部134が、この検出結果と各成分の成分波形とを比較解析及び評価することで、複数の成分から判定用成分を抽出してもよい。なお、解析部134による第1条件を満たすか否かの判定の基準は、脳活動可視化装置110の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。
また、所定条件として第2条件が設定されている場合には、解析部134は、人間の顔面の所定部位における顔面の血行量変化の有無に基づき、判定用成分を抽出する。具体的には、解析部134は、特異値分解によって分解された複数の成分に応じた血行量分布図に基づき、副鼻腔周辺及び/又は前額部において血行量の変化が生じているか否かを判定し、血行量の変化が生じている場合には該成分が第2条件を満たしていると判定する。一方で、副鼻腔周辺及び/又は前額部において血行量の変化が生じていない場合には、解析部134は、該成分が第2条件を満たしていないと判定する。なお、解析部134による第2条件を満たすか否かの判定の基準は、脳活動可視化装置110の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定されるものとする。
さらに、血行量算出部133によって相対的なRGBデータに換算される前のRGBデータに基づく時系列の血行量データが算出される場合には、解析部134によって、該血行量データを特異値分解等することで得られた複数の成分についても、上記第1条件及び/又は第2条件が満たされるか否かが判定され、判定用成分が抽出されてもよい。
推定部135は、解析部134において人間の脳活動を反映した顔面のRGB変化を示す成分として同定された成分に基づいて、人間の脳活動を推定する。具体的には、推定部135は、解析部134において同定された成分の成分波形データに基づいて、顔面の撮影画像データの取得時における脳活動量を推定する。
(4−2−1)変形例2A
上述したように、カメラ121としては、例えば、スマートフォンやタブレット(例えば、iPad:登録商標)等の撮影装置内蔵型ポータブル端末等を利用することができる。すなわち、上述の撮影画像データは、可視光領域の画像を撮像するものを採用することができる。
また、上記血行量算出部133において、RGBデータに含まれる各画素のうちの主にR成分を用いて顔面の血行量データが算出されてもよい。また、RGBデータに基づき血行量データを算出できるのであれば、血行量データは必ずしも紅斑指数に限定されるものではない。
(4−2−2)変形例2B
上記血行量算出部133は、換算部132によって換算された相対的なRGBデータに基づき相対換算血行量データを算出するが、これに代えて或いはこれに加えて、相対的なRGBデータに換算される前のRGBデータに基づき血行量データが算出されてもよい。ここで、相対的なRGBデータに換算される前のRGBデータに基づき算出された血行量データには、脳活動と相関する成分が出やすい(検定力が高い)ため、例えば、相対的なRGBデータに換算される前のRGBデータに基づき算出された血行量データを、相対的なRGBデータに基づき算出された相対換算血行量データよりも先行して解析してもよい。また、例えば、まず、血行量データを解析して有意な相関のある成分を抽出し、相対換算血行量データに関しては、前記抽出した成分に対応する成分のみを解析することで、演算処理量を減らすことができる。
(4−2−3)変形例2C
上記カメラ121は可視光領域の通常のカメラを前提としていたが、赤外線カメラを用いることもできる。この場合、赤外光を照射し、その反射波を赤外線カメラで撮像する。これにより、対象者の顔面変化等の撮影画像データを得ることができる。本発明者らにより、赤外線の反射により得られた撮影画像データから算出された血行量データと、可視光領域で撮影されたRGBデータに含まれる各画素のうちの主にR成分を用いて算出された血行量データとには相関があることが確認された。したがって、このような赤外線の反射から得られた撮影画像データを用いても、人間の脳活動を推定することができる。
(4−2−4)変形例2D
なお、上記説明においては、脳活動可視化装置110が、画像データ取得手段120と、脳活動推定手段130とを備える形態としていたが、本実施形態に係る脳活動可視化装置は、このような形態に限定されるものではない。すなわち、本実施形態に係る脳活動可視化装置は、血行量算出部133、解析部134及び推定部135を含むものであれば、その他の構成については任意の形態を採り得るものである。具体的には、本実施形態に係る脳活動可視化装置は、当該装置自体が画像データを撮影する形態だけではなく、外部の装置から撮影画像データを受け取り、それを解析する形態を含むものである。
(4−3)状態可視化手段200
状態可視化手段200は、脳活動推定手段30及び/又は脳活動推定手段130により推定された対象者の脳活動に基づき、対象者の生理状態を表示することにより可視化する。例えば、状態可視化手段200が、対象者の脳活動量の変化を解析することで、対象者の生理状態を解析する解析部201を有していてもよい。具体的には、解析部201が、対象者に対して与えられた刺激(視覚刺激、聴覚刺激、触覚刺激、臭覚刺激或いは味覚刺激等)に対する脳活動量の変化を解析することで、対象者の生理状態を判定する。なお、生理状態の種類やレベルについては、脳活動量の上昇度合い及び/又は持続時間に基づき、脳活動可視化装置10,110の用途に応じて適宜設置可能になっていてもよい。そして、解析部201により解析された対象者の生理状態を状態可視化手段200の表示部202から管理者へと出力されることで、管理者は対象者の生理状態を知ることができる。表示部202としては、画像やメッセージを表示する表示デバイス等、解析した対象者の生理状態に関する情報を管理者に対して可視化できるものであればどのようなものであっても採用することができる。
また、解析部32,134において脳活動を反映する成分が同定された後に、さらに顔面皮膚温度取得手段20及び/又は画像データ取得手段120により時系列の各種データが取得される場合には、脳活動可視化装置10,110において、さらに取得された各種データが特異値分解により複数の成分に分解され、同定された成分のみが解析されることで、対象者の生理状態をリアルタイムで知ることができる。
さらに、被験者の顔面の皮膚温度や撮影した画像から被験者の心拍情報や生体情報等を取得する技術が従来よりあるが、顔面皮膚温度取得手段20及び/又は画像データ取得手段120から得られた各種データが特異値分解等されることで得られる成分に対して従来の技術を採用することで、心拍情報や生体情報を精度良く取得することができる。したがって、特異値分解した複数の成分を解析して心拍情報や生体情報を取得する機能を、解析部32及び/又は解析部134に持たせ、取得した心拍情報や生体情報に基づき交換神経/副交感神経の働きを推定する機能を上記実施形態の推定部33,135に持たせてもよい。
(5)特徴
(5−1)
本実施形態では、顔面皮膚温度取得手段20及び/又は画像データ取得手段120によって取得された時系列の顔面皮膚温度データ及び/又は顔面血行量データに基づき人間の脳活動が推定される。このため、脳波電極等の装着前に処理が必要なセンサを装着しなくても、人間の脳活動を推定することができる。したがって、簡便に人間の脳活動を推定し、推定した脳活動に基づき対象者の生理状態を可視化することができている。
(5−2)
ここで、時系列の顔面の皮膚温度データ及び/又は画像データが取得される際に、人間に対して実際に脳機能賦活課題が与えられたり与えられなかったりすることにより、人間の脳が賦活化したり賦活化しなかったりする状況が作られている場合、各成分の成分波形と脳の賦活時及び非賦活時との間に相関関係のある成分は、脳活動を反映した皮膚温度及び/又は血行量の変化を示す成分である可能性が高い成分であるといえる。
本実施形態では、顔面皮膚温度取得手段20及び/又は画像データ取得手段120により時系列の顔面の皮膚温度データ及び/又は画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられている。すなわち、本実施形態では、個人に対して実際に脳機能賦活課題を与えたり与えなかったりすることにより、人間の脳が賦活化したり賦活化しなかったりする状況が作られている。そして、このように取得された時系列の各種データが特異値分解により複数の成分に分解され、各成分についてその成分波形と脳の賦活時及び非賦活時との相関関係が評価され、相関関係にある成分が判定用成分として複数の成分から抽出される。このため、例えば、予め実験等により特定された所定の成分が抽出用成分として複数の成分から抽出される場合と比較して、人間の脳活動と関連性の低い成分が抽出用成分として複数の成分から抽出されるおそれを低減することができている。
(5−3)
ここで、脳には、選択的脳冷却機構という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び副鼻腔周辺を用いて排熱していることが知られている。そうすると、脳活動に伴う顔面皮膚温度や顔面皮膚温度に相関する顔面の血行量の変化は、前額部及び/又は副鼻腔周辺に出現することになる。
本実施形態では、前額部及び/又は副鼻腔周辺の各種データが解析されて、判定用成分が抽出されている。このため、人間の脳活動に関連する成分を精度よく抽出することができている。
(6)生理状態判定装置
本発明に係る脳活動可視化装置を応用した、生理状態判定装置について説明する。生理状態判定装置は、対象者の精神又は身体の生理状態を判定する。具体的には、生理状態判定装置は、図23,24に示すような「生理状態」を判定する。すなわち、生理状態判定装置は、「車・航空機・鉄道の運転者における運転に対する集中度」「映画館の入場者におけるコマーシャル情報に対する関心度」「受験者におけるテストに対する集中度」「組立作業を行なう作業員における組立作業に対する集中度」「商品を見た対象者に対する商品に対する関心度」「患者における各種心理状態(うつ状態、自閉症及びアスペルガー症候群などの自閉症スペクトラム(ASD)の状態、認知症の状態、心的外傷後ストレス障害(PTSD)の状態、不安症候群の状態)」「高齢者における老化による物忘れの度合い」等を判定する。
(6−1)第1実施形態
(6−1−1)生理状態判定装置500の構成
図25は第1実施形態に係る生理状態判定装置500の構成を示す模式図である。
生理状態判定装置500は、入力部510、撮像部515、操作情報取得部517、出力部520、記憶部530、及び処理部540を備える。
入力部510は、生理状態判定装置500に各種情報を入力するものである。例えば入力部510は、キーボード、マウス、及び/又はタッチスクリーン等により構成される。この入力部510を介して、生理状態判定装置500に各種命令が入力され、処理部540において命令に応じた処理が実行される。
撮像部515は、対象者300の顔面を含む「顔面画像」を撮像するものである。例えば撮像部515は、RGB画像を取得するCCD及びCMOS等の固体撮像素子や、サーモグラムを取得する赤外線カメラ等により構成される。赤外線カメラ等は通常の室温条件で、29.0℃から37.0℃を高感度で検出できるものが望ましい。また、撮像部515は、所定の間隔で継続的な撮像が可能である。顔面画像を撮像する場合には正面からの撮像、一定照明撮像が望ましい。姿勢変動により正面画像が得られない場合には、摂動空間法を用い、姿勢変動画像については顔の3次元形状を推定し、正面像にレンダリングすることにより顔面画像を得る。照明変動画像については、拡散反射モデルをベースに構築した顔の照明基底モデルを用いて、一定照明条件の顔面画像を得る。そして、撮像部515により、継続的に撮像された顔面画像は処理部540に送出される。
操作情報取得部517は、所定機器360に関する操作情報を取得するものである。「所定機器」360とは、判定目的に応じて操作者に使用される各種情報処理装置であり、キーボード、マウス、タブレット、ボタン、スピーカー等を有するものである。例えば、所定機器360としては、試験管理装置、患者検査装置、組立作業ラインの運転装置、通話装置等が挙げられる。また、「操作情報」は、所定機器360を操作したことを示す情報であり、操作者により発せられる音声、操作者によるキー入力、操作者により押下されるボタンを介したスイッチ入力、所定機器360に取り付けられた加速度センサの検出値等から生成される。操作情報取得部517で取得された操作情報は、後述する脳機能賦活情報検知部(特定操作検知部541a)に送出される。なお、「操作者」は、対象者300又は対象者300以外の測定者301を含む意味で用いられ、所定機器360を直接的に操作する者のみならず間接的に操作する者も含まれる。したがって、生理状態判定装置は図25に示すような形態だけではなく、図26に示すような形態も採り得るものである。
出力部520は、生理状態判定装置500から各種情報を出力するものである。例えば出力部520は、ディスプレイ及びスピーカー等により構成される。出力部520を介して、後述する脳機能賦活情報を対象者300に提供することができる。
記憶部530は、生理状態判定装置500に入力される情報、及び、生理状態判定装置500で計算される情報等を記憶するものである。例えば記憶部530は、メモリ及びハードディスク装置等により構成される。また記憶部530は、後述する処理部540の各機能を実現するためのプログラムを記憶する。ここでは、記憶部530は、脳機能賦活情報データベース531及び基準情報データベース532を有する。
脳機能賦活情報データベース531は、人間の脳機能を賦活する脳機能賦活刺激に対応する脳機能賦活情報を記憶するものである。「脳機能賦活刺激」としては、図23に示すように、例えば「テスト問題の提示」「部品の組立作業の指示」「商品の提示」「情動画像の提示」「各種検査用具及び質問の提示」「作業行動の指示」「画像の視聴指示」「通話装置を介して問いかけ」等が挙げられる。なお、これらの脳機能賦活刺激は、後述する「特定操作」が検知されたときに、対象者300に与えられているとみなされるものである。
基準情報データベース532は、図27に示すように、後述する判定用情報生成部544により抽出される脳機能賦活情報に対する判定用成分の相関値r2の、脳機能賦活情報に対する基準判定用成分の「基準相関値」r1からの所定範囲の変化量Δr(=r2−r1)を、「生理状態レベル」と関連付けて予め「基準情報」として記憶するものである。また、「基準判定用成分」は、対象者の感情等が安定している通常状態のときに抽出した判定用成分のデータ、前回抽出した判定用成分のデータ、又は外部から提供される判定用成分のデータ等により設定することが可能である。図27に示す例では、基準情報データベース532は、変化量Δrの値の範囲に応じて、Δr=Δra〜Δrbまでを「生理状態1」、Δrb〜Δrcまでを「生理状態2」、Δrc〜Δrdまでを「生理状態3」として記憶する。ここでは、Δra、Δrb、Δrc、Δrdの順に値が大きいものとなっている。また、生理状態1〜生理状態3の内容は、判定目的により適宜設定される。なお、基準判定用成分のデータも基準情報データベース532に格納される。
処理部540は、生理状態判定装置500における情報処理を実行するものである。具体的には、処理部540は、CPU及びキャッシュメモリ等により構成される。処理部540は、記憶部530に組み込まれたプログラムが実行されることで、脳機能賦活情報検知部541、顔面変化情報取得部542、顔面変化情報分解部543、判定用情報生成部544、及び、生理状態判定部545として機能する。
脳機能賦活情報検知部541は、生理状態に対応する「脳機能賦活情報」を検知するものである。ここでは、脳機能賦活情報検知部541は、特定操作検知部541aとしての機能を有する。
特定操作検知部541aは、脳機能賦活刺激が対象者300に与えられたときに、対象者300又は対象者300以外の測定者301による所定機器360に関する特定操作が行なわれたか否かを判定することで、脳機能賦活情報を検知する。前提として、所定環境の下で、対象者300又は測定者301による所定機器360に関する特定操作が行なわれた場合、脳機能賦活刺激が対象者300に与えられているとみなされる。そこで、特定操作検知部541aは、操作情報取得部517が取得した操作情報から、特定操作に対応する特定操作情報を検知することで、脳機能賦活刺激が対象者300に与えられていることを検知する。「特定操作」としては、図23に示すものが挙げられる。すなわち、所定機器360が試験管理装置である場合は、ボタンの押下等により認識される開始命令及び終了命令の入力操作が特定操作に該当する。所定機器360が試験管理装置及び試験実行装置の組である場合は、試験実行装置として機能するタブレットへの接触等により認識される開始命令及び終了命令の入力操作が特定操作に該当する。所定機器360が組立作業で用いられる作業ライン運転装置である場合は、運転開始指示ボタンの押下等により認識される運転命令の入力操作が特定操作に該当する。所定機器360が商品提示装置である場合は、操作者が商品を提示するタイミングで商品提示装置の入力ボタンを押下する等により認識される、商品の提示命令の入力操作が特定操作に該当する。なお、ここでいう商品は有体物だけでなく音楽等の無体物も含まれる。所定機器360が各種検査装置である場合は、操作者が脳機能賦活刺激を提示するタイミングを検査装置に認識させる入力ボタンを押下する等により認識される、各種質問項目の提示命令の入力操作が特定操作に該当する。所定機器360が作業指示出力装置である場合は、ボタンの押下等により認識される作業指示の提示命令の入力操作が特定操作に該当する。所定機器360が画像出力装置である場合は、ボタンの押下等により認識される画像の提示命令の入力操作が特定操作に該当する。所定機器360が通話装置である場合は、通話装置に対する音声入力等により認識される、応答に相当する入力操作が特定操作に該当する。なお、脳機能賦活刺激情報と特定操作情報との対応関係は記憶部530に記憶されている。
顔面変化情報取得部542は、撮像部515で撮像された顔面画像から「顔面データ」及び顔面データの時系列変化を示す「顔面変化情報」を取得するものである。具体的には、顔面変化情報取得部542は、特定操作検知部541aにより、所定機器360に対する特定操作が行なわれたことが検知された場合、その検知されたタイミングにおける顔面データを取得する。そして、顔面変化情報取得部542は、継続的に取得した顔面データから、対象者300の顔面データの時系列変化を示す顔面変化情報を取得する。例えば、顔面変化情報は、240×320ピクセルの顔面データを所定間隔で60点取得した場合には、4,608,000のデータの集合となる。取得した顔面変化情報は、顔面変化情報分解部543に送出される。なお、撮像部515が赤外線カメラの場合、顔面変化情報取得部542は、顔面データとして、対象者300の顔面の皮膚温度を示す顔面皮膚温度データを取得する。また、撮像部515がCCD及びCMOS等の固体撮像素子の場合、顔面変化情報取得部542は、顔面データとして、対象者300の顔面のRGBデータに基づく顔面血行量データを取得する。なお、顔面変化情報取得部542は、顔面データとして、対象者300の、副鼻腔周辺及び/又は前額部のデータだけを取得するものでもよい。
顔面変化情報分解部543は、多数のデータの集合である顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分1,2,3,・・・に分解する。分解した各成分の情報は、判定用情報生成部544に送出される。ここで、顔面変化情報を特異値分解等した場合、特異値の高いものから成分1,2,3,・・・と設定される。また特異値の高い成分ほど、変動の大きいものの影響が反映されやすい。そのため、成分1には、脳機能賦活情報が提供されることの影響より、外部環境のノイズ等の影響が反映されることが少なくない。
判定用情報生成部544は、顔面変化情報から判定用情報を生成するものである。具体的には、判定用情報生成部544は、複数の成分1,2,3・・・から、脳機能賦活情報と関連する成分を「判定用成分」として抽出して、判定用成分から判定用情報を生成する。詳しくは、判定用情報生成部544は、顔面変化情報分解部543により求められた複数の成分1,2,3,・・・と脳機能賦活情報に対応する「判定用波形」との相関値rを算出する。次に、判定用情報生成部544は、算出した相関値rが所定値以上である場合、その相関値rに対応する成分を脳機能賦活情報に関連するものとして設定する。そして、判定用情報生成部544は、危険率の値に基づいて、判定用成分を抽出する。すなわち、判定用情報生成部544は、危険率が低い成分を判定用成分として抽出する。抽出された判定用成分及び算出した相関値rは記憶部530又は生理状態判定部545に送出される。なお、上述の「判定用波形」として、人間の生理的反応を考慮した変形波が用いられる。また、判定用波形は、脳機能賦活情報を検知してから所定時間経過後に変位するものである。具体的には、判定用波形として矩形波を採用することができる。また、判定用波形として、矩形波とレッドスポット・ダイナミック・レスポンス・ファンクション(Redspot-dynamic response function)とをコンボリューションした波形を採用することもできる。レッドスポット・ダイナミック・レスポンス・ファンクションは、脳機能賦活情報を一瞬与えたときの、顔面変化情報分解部543により分解された複数の成分1,2,3・・・のうち相関の認められた成分を複数回算出し、算出した複数の成分の平均値等から生成される。この際、振幅(高さ方向)については任意単位であり絶対値を規定できないので、対象者300が通常状態のときのシグナルをベースライン値とし、その値を基準として波形の高さが決定される。そして、複数の被験者から得られたデータの重ね合わせの平均値が計算されてレッドスポット・ダイナミック・レスポンス・ファンクションが生成される。なお、レッドスポット・ダイナミック・レスポンス・ファンクションの初期値は、脳機能賦活情報が一瞬与えられたときは図28に示すような波形となる。そして、脳機能賦活情報が一定時間与えられたときは、矩形波とコンボリューションすることにより作成される。レッドスポット・ダイナミック・レスポンス・ファンクションでは、変位が増加するに従い、ピーク時点からピーク値が横軸方向に延長される波形となる。また、レッドスポット・ダイナミック・レスポンス・ファンクションでは、脳機能賦活情報の検知が終了した時点から位相が遅れて変位が低下する波形となる。このようなレッドスポット・ダイナミック・レスポンス・ファンクションは、顔面変化情報から得られた成分と有意な相関が認められる場合には、その相関波形に形状が近いため、矩形波等よりも高い相関値を示す。そのため、判定用成分の抽出精度を高めることができる。
生理状態判定部545は、判定用成分を含む判定用情報に基づいて、対象者300の生理状態を判定するものである。具体的には、生理状態判定部545は、基準判定用成分に対する基準相関値r1と、脳機能賦活情報が検知されたときに抽出された判定用成分に対する相関値r2との差Δrを算出する。そして、生理状態判定部545は、基準情報データベース532に記憶された基準情報に基づいて、基準相関値r1及び相関値r2の差Δrに対応する生理状態レベルを決定する。決定された生理状態レベルは、出力部520を介して表示装置等に出力される。
(6−1−2)生理状態判定装置500の動作
図29は第1実施形態に係る生理状態判定装置500の動作を示すフローチャートである。なお、以下の説明では、生理状態として「テスト問題に解答する受験者の集中度」の例を当てはめて説明する。
前提として、脳機能賦活刺激(テスト問題)が対象者300(受験者)に与えられたときには、対象者300(受験者)又は測定者301(試験官)による所定機器360(試験管理装置)に対する特定操作(開始ボタン入力)が行なわれる。
このような前提のもと、操作情報取得部517により取得される情報に基づいて、特定操作検知部541aにより、対象者300(受験者)又は測定者301(試験官)による所定機器360(試験管理装置)に対する特定操作(開始ボタン入力)が行なわれたか否かが判定される(S1,S2)。
特定操作検知部541aは、所定機器360に対する特定操作が行なわれたことを判定した場合、脳機能賦活刺激(テスト問題)が対象者300に与えられているとみなして、脳機能賦活刺激(テスト問題)に対応する脳機能賦活情報を脳機能賦活情報データベース531から抽出して検知する(S2−Yes,S3)。
そして、特定操作検知部541aにより脳機能賦活情報が検知されると、撮像部515により対象者300(受験者)の顔面画像の撮像が開始される(S4)。撮像された顔面画像は顔面変化情報取得部542に送出される。
続いて、生理状態判定装置500において、撮像された顔面画像の解析が実行される(S5)。具体的には、顔面変化情報取得部542により、撮像された顔面画像から、対象者300の顔面データの時系列変化を示す顔面変化情報が取得される。そして、顔面変化情報分解部543により、顔面変化情報が、特異値分解、主成分分析或いは独立成分分析されて、複数の成分1,2,3,・・・に分解される。また、判定用情報生成部544により、顔面変化情報分解部543により分解された複数の成分1,2,3・・・と、脳機能賦活情報の相関値が算出される。そして、判定用情報生成部544により、相関値が所定値以上であるか否かが判定される(S6)。所定値以上であると判定された場合、脳機能賦活情報と当該成分とに「相関がある」と判断される(T6−Yes)。そして、判定用情報生成部544により、相関がある成分のうち、危険率の低い成分が「判定用成分」として抽出される(S7)。これらの抽出された判定用成分の情報は、記憶部530に格納される。一方、脳機能賦活情報と、各成分1,2,3・・・との相関値が所定値未満である場合は、両者には「相関がない」と判断され、その情報が記憶部530に格納される(S6−No)。なお、過去の計測値などから脳機能賦活情報に「相関のある成分」を事前に特定しておくことで、上記ステップS6,S7の動作を省略することが可能である。
次に、生理状態判定部545により基準判定用成分に対する基準相関値r1と、脳機能賦活情報が抽出された判定用成分に対する相関値r2との差である変化量Δrが算出される。続いて、生理状態判定部545により、基準相関値r1に対する相関値r2の変化量Δrに応じて、生理状態レベルが判定される(S8)。ここでは、生理状態レベル1が「通常の集中度」、生理状態レベル2が「やや高い集中度」、生理状態レベル3が「かなり高い集中度」として判定される。これらの判定結果は、出力部520を介して判定結果として出力される(S9)。
この後、生理状態判定装置500は、必要に応じて、判定結果のデータ、解析波形、測定結果、画像表示条件等を関連付けて対象者300(受験者)毎に記憶部530に記憶する。記憶部530は、例えば受験番号に関連付けて対象者300の情報を保管する。
(6−1−3)生理状態判定装置500の特徴
(6−1−3−1)
以上説明したように、本実施形態に係る生理状態判定装置500は、脳機能賦活情報検知部541と、顔面変化情報取得部542と、生理状態判定部545と、を備える。脳機能賦活情報検知部541は、生理状態に対応する脳機能賦活情報を検知する。顔面変化情報取得部542は、対象者300の顔面データの時系列変化を示す顔面変化情報を取得する。生理状態判定部545は、脳機能賦活情報と顔面変化情報とに基づいて、対象者300の所定の生理状態を判定する。
したがって、本実施形態に係る生理状態判定装置500では、このような脳機能賦活情報検知部541を具備しているので、任意の脳機能賦活刺激から脳機能賦活情報を検知することができる。これにより、脳機能賦活刺激を提供して生理状態を判定する装置に比して、対象者300の生理状態を容易に判定することができる。
特に、生理状態判定装置500は、脳機能賦活情報検知部541が、特定操作検知部541aとしての機能を有する。特定操作検知部541aは、対象者300又は対象者300以外の測定者301により、所定機器360への特定操作が行なわれた場合に、対象者300に脳機能賦活刺激が与えられたと判定して脳機能賦活情報を検知する。要するに、生理状態判定装置500では、所定機器360への特定操作の検知により、脳機能賦活情報を検知できる。
(6−1−3−2)
また、本実施形態に係る生理状態判定装置500は、顔面変化情報取得部542が、特定操作検知部541aにより、所定機器360に対する特定操作が行なわれたことが検知された場合、顔面変化情報を取得する。
したがって、生理状態判定装置500では、所定機器360への特定操作が検知された場合に、顔面変化情報取得部542が顔面変化情報を取得するので、判定に不要な情報の取得及び/又は保存を回避することができる。
なお、本実施形態に係る生理状態判定装置500では、顔面変化情報取得部542が、脳機能賦活刺激が対象者300に与えられていない任意のタイミングで基準となる顔面変化情報を取得する。そして、このような基準となる顔面変化情報を用いることで、生理状態判定部は、特定操作検知部541aにより脳機能賦活刺激情報が検知されたときに取得される顔面変化情報から、対象者300の生理状態を判定することができる。
(6−1−3−3)
また、本実施形態に係る生理状態判定装置500は、顔面変化情報から判定用情報を生成する判定用情報生成部544をさらに備える。そして、生理状態判定部545が、判定用情報に基づいて生理状態を判定する。これにより、顔面変化情報から生理状態判定のための判定用情報を生成して、対象者の生理状態を判定するので、対象者の生理状態の判定できる。
また、本実施形態に係る生理状態判定装置500は、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する顔面変化情報分解部543をさらに備える。そして、判定用情報生成部544が、複数の成分から、脳機能賦活情報と関連する成分を判定用成分として抽出して、判定用成分から判定用情報を生成する。
したがって、生理状態判定装置500では、顔面変化情報を、特異値分解等することで得られた複数の成分から、脳機能賦活情報と関連する判定用成分を抽出するので、電極等の特殊な装置を対象者に装着させる必要がなく、対象者の脳活動の有無を容易に推定できる。これにより、対象者の脳機能に対応する判定用成分に基づいて、対象者の生理状態を容易に判定できる。
なお、本実施形態に係る生理状態判定装置500は、スマートデバイスに組み込まれる形態であってもよい。これにより、任意の場所で容易に生理状態の判定を実行できる。
(6−1−3−4)
また、本実施形態に係る生理状態判定装置500は、顔面変化情報取得部542が、顔面データとして、対象者300の、副鼻腔周辺及び/又は前額部のデータを取得することで、脳活動と関連する判定用成分を高精度に抽出できる。ここで、脳には、選択的脳冷却機構(Selective Brain Cooling System)という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を、副鼻腔及び前額部周辺を用いて排熱していることが知られている。よって、これらの部位のデータを解析することで脳活動と関連する成分を高精度に抽出できる。結果として、本実施形態に係る生理状態判定装置500は、生理状態の判定を高精度に実行することができる。
(6−1−3−5)
また、本実施形態に係る生理状態判定装置500は、顔面変化情報取得部542が、顔面データとして、対象者300の顔面の皮膚温度を示す顔面皮膚温度データを取得できる。換言すると、生理状態判定装置500は、赤外線カメラ等を利用して疲労状態を判定できるものである。例えば、図30に示すように、撮像部515に赤外線カメラを用いることにより、周囲の明るさに影響を受けることなく、生理状態の判定が可能となる。
(6−1−3−6)
また、本実施形態に係る生理状態判定装置500は、顔面変化情報取得部542が、顔面データとして、対象者300の顔面のRGBデータに基づく顔面血行量データを取得できる。すなわち、生理状態判定装置500は、固体撮像素子(CCD,CMOS)を利用して生理状態を判定できる。これにより、生理状態の判定を簡易な構成で実行することができる。
(6−1−3−7)
また、本実施形態に係る生理状態判定装置500は、判定用情報生成部544が、危険率の値に基づいて、判定用成分を抽出する。生理状態判定装置500では、危険率の値に基づいて、脳機能賦活情報と関連する判定用成分を抽出するので、生理状態判定の信頼性を高めることができる。
(6−1−3−8)
また、本実施形態に係る生理状態判定装置500は、脳機能賦活情報に対して算出される判定用成分の相関値r2の、脳機能賦活情報に対して算出された基準判定用成分の基準相関値r1からの所定範囲の変化量Δrを、生理状態レベルに関連付けて「基準情報」として記憶する基準情報データベース532を備える。そして、生理状態判定部545が、脳機能賦活情報に対する判定用成分の相関値r2を算出し、算出した相関値r2及び基準情報に基づいて、対象者300の生理状態レベルを判定する。
このような構成により、生理状態判定装置500は、基準判定用成分を利用して、生理状態レベルを容易に判定できる。要するに、生理状態判定装置500は、単に生理状態の有無を判定するだけでなく、生理状態レベルを容易に判定して出力することができる。
(6−1−3−9)
本実施形態に係る生理状態判定方法は、必ずしも生理状態判定装置500を必要とするものではない。すなわち、本実施形態に係る生理状態判定方法は、生理状態判定装置500の有無に関わらず、人間の脳機能を賦活する「脳機能賦活情報」を検知する脳機能賦活情報検知ステップと、対象者300の顔面データの時系列変化を示す「顔面変化情報」を取得する顔面変化情報取得ステップと、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する顔面変化情報分解ステップと、複数の成分から、脳機能賦活情報と関連する成分を「判定用成分」として抽出する判定用成分抽出ステップと、判定用成分に基づいて、対象者300の生理状態を判定する生理状態判定ステップと、を備えるものであればよい。
このような生理状態判定方法によれば、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析することで得られた複数の成分から、脳機能賦活情報と関連する判定用成分を抽出して生理状態を判定するので、脳機能賦活刺激が対象者300に与える生理状態の影響を容易に判定できる。
(6−1−3−10)
なお、上記説明において、顔面変化情報から、特異値分解等することにより、判定目的に対応する脳機能賦活情報と関連する判定用成分を抽出するものとしているが、本実施形態に係る生理状態判定装置500は、このような形態に限定されるものではない。例えば、生理状態判定装置500では、顔面変化情報に基づいて生成される、判定用成分以外の任意の判定用情報を用いて対象者の状態を判定してもよい。また、このような判定用情報を生成するために、特異値分解等以外の任意の手法を顔面変化情報に適用してもよい。
(6−1−4)生理状態判定装置500の変形例
本実施形態に係る生理状態判定装置500は、図31に示すように、ネットワーク上に設けられた判定情報提供装置1500等を利用するものでもよい。
ここで、判定情報提供装置1500は、記憶部1530と処理部1540とを備える。
記憶部1530は、基準情報データベース1532を有する。この基準情報データベース1532は、上述した基準情報データベース532と同様の構成である。すなわち、基準情報データベース1532は、脳機能賦活情報に対して算出される判定用成分の相関値r2の、脳機能賦活情報に対して算出された基準判定用成分の基準相関値r1からの所定範囲の変化量Δrを、生理状態レベルに関連付けて基準情報として記憶する。
処理部1540は、生理状態判定装置500からの要求に応じて、基準情報データベース1532に格納された基準情報を送信する。なお、処理部1540は、生理状態判定装置500で抽出された判定用成分とは独立して、所定の情報に基づいて基準情報をビッグデータとして生成する機能を有するものでもよい。また、処理部1540は、生理状態判定装置500で基準相関値r1が算出された場合、基準情報データベース1532に記憶されている基準相関値r1を更新する処理を随時実行する。
本変形例では、上述した判定情報提供装置1500に、生理状態判定部545が基準情報の提供を要求する。詳しくは、本変形例に係る生理状態判定装置500では、基準情報データベース1532が、ネットワーク上の判定情報提供装置1500に格納されており、生理状態判定部545が、生理状態レベルを判定する際に、判定情報提供装置1500にアクセスする。そして、生理状態判定部545が、算出した相関値r2及び基準情報に基づいて、対象者300の生理状態レベルを判定する。
したがって、本変形例の生理状態判定装置500であれば、生理状態判定部545が、外部ネットワークを利用して、対象者300の生理状態レベルを判定できる。
また、本変形例の構成であれば、ビッグデータを用いた生理状態の判定が実現できる。すなわち、基準相関値r1及び所定の変化量Δrをビッグデータから求める。具体的には、対象者300以外の者に、脳機能賦活情報を提供して得られた基準判定用成分に基づいて算出された基準相関値r1を用いる。これにより、基準情報を随時最適化することができる。
(6−2)第2実施形態
(6−2−1)生理状態判定装置600の構成
本実施形態では、脳機能賦活刺激が存在するとみなされる特定環境に対象者300が置かれていることを検知する。ここで、脳機能賦活刺激は、脳機能賦活刺激提供物370により対象者300に与えられる。
図32は第2実施形態に係る生理状態判定装置600の構成を示す模式図である。
生理状態判定装置600は、入力部610、撮像部615、状態情報取得部618、出力部620、記憶部630、及び処理部640を備える。入力部610、撮像部615、及び出力部620は、それぞれ上述した入力部510、撮像部515、及び出力部520と同様の機能及び構成を有するものであり、ここでは説明を省略する。
状態情報取得部618は、判定目的の生理状態に応じて、対象者300の置かれている環境における状態情報を取得するものである。「状態情報」は、判定目的の生理状態に対応する空間及び時間の状態を示す情報であり、画像、音声、スケジュール等の形態で表される。これらの形態の状態情報を取得するために、状態情報取得部618は、「カメラ」「GPS等」「レーザー」「加速度センサー等」「音検知センサー等」「信号」「上映スケジュール管理装置」等を具備する。なお、状態情報取得部618で取得された情報は、処理部640の脳機能賦活情報検知部641(特定環境検知部641b)に送出される。
記憶部630は、生理状態判定装置600に入力される情報、及び、生理状態判定装置600で計算される情報等を記憶するものである。例えば記憶部630は、メモリ及びハードディスク装置等により構成される。また、記憶部630は、後述する処理部640の各機能を実現するためのプログラムを記憶する。ここでは、記憶部630は、脳機能賦活情報データベース631、基準情報データベース632、及び特定環境データベース635を有する。
脳機能賦活情報データベース631は、人間の脳機能を賦活する脳機能賦活刺激に対応する脳機能賦活情報を記憶するものである。「脳機能賦活刺激」としては、図24に示すように、例えば「赤信号」「歩行者、他の車等、交差点、横断歩道の存在」「機体の立て直しをする必要があるという状況(強風等)」「列車に異常を生じさせる状況(列車の異常時の状況)」「駅に接近しているなど注意深く操縦を要する状況(信号・保安員・踏切・駅の存在)」「映画館でのコマーシャル映像(CM)」等が挙げられる。
基準情報データベース632は、上述した基準情報データベース532と同様の構成を具備するものである。したがって、基準情報データベース632は、生理状態レベルとして変化量Δrの値の範囲に応じて、Δr=Δra〜Δrbまでを「生理状態1」、Δrb〜Δrcまでを「生理状態2」、Δrc〜Δrdまでを「生理状態3」として記憶する。なお、生理状態1〜生理状態3の内容は、判定目的により適宜設定される。
特定環境データベース635は、図24に示すような、判定目的の生理状態に応じて、脳賦活刺激が存在するとみなされる特定環境の状態情報を予め記憶するものである。
例えば、特定環境データベース635は、脳機能賦活刺激が「赤信号」であり、判定目的の生理状態が「車を運転する運転者の集中度」である場合には、特定環境の状態情報として「(赤信号画像等の)運転者に注意喚起する周辺情報等」を記憶する。
また、特定環境データベース635は、脳機能賦活刺激が「歩行者、他の車等、交差点、横断歩道の存在」であり、判定目的の生理状態が「車を運転する運転者の集中度」である場合には、特定環境の状態情報として「(必要に応じて地図情報と組み合わされた)位置情報」を記憶する。
また、特定環境データベース635は、脳機能賦活刺激が「機体の立て直しをする必要があるという状況(強風等)」であり、判定目的の生理状態が「航空機を操縦する航空機操縦者の集中度」である場合には、特定環境の状態情報として「航空機操縦者に航空機の立て直しを注意喚起する航空機の状態を示す加速度情報」を記憶する。
また、特定環境データベース635は、脳機能賦活刺激が「列車に異常を生じさせる状況(列車の異常時の状況)」であり、判定目的の生理状態が「列車を運転する運転手の集中度」である場合には、特定環境の状態情報として「列車の各運転パラメータに対する異常値及びその異常値に対応する故障警報の出力情報等」を記憶する。
また、特定環境データベース635は、脳機能賦活刺激が「駅に接近しているなど注意深く操縦を要する状況(信号・保安員・踏切・駅の存在)」であり、判定目的の生理状態が「列車を運転する運転手の集中度」である場合には、特定環境の状態情報として「(必要に応じて地図情報と組み合わされた)位置情報」「運転手に注意喚起する周辺情報等」を記憶する。
また、特定環境データベース635は、脳機能賦活刺激が「映画館でのコマーシャル映像(CM)」であり、判定目的の生理状態が「映画館の入場者に対する映画館でのコマーシャル映像に対する関心度」である場合には、特定環境の状態情報として「映画上映に関する時間情報のうち、CMの出力される時間情報等(上映スケジュール情報)」を記憶する。
処理部640は、生理状態判定装置600における情報処理を実行するものである。具体的には、処理部640は、CPU及びキャッシュメモリ等により構成される。処理部640は、記憶部630に組み込まれたプログラムが実行されることで、脳機能賦活情報検知部641、顔面変化情報取得部642、顔面変化情報分解部643、判定用情報生成部644、及び、生理状態判定部645として機能する。なお、顔面変化情報分解部643、判定用情報生成部644、及び生理状態判定部645は、それぞれ、顔面変化情報分解部543、判定用情報生成部544、及び生理状態判定部545と同様の機能を有するものであり、ここでは説明を省略する。
脳機能賦活情報検知部641は、生理状態に対応する「脳機能賦活情報」を検知するものである。ここでは、脳機能賦活情報検知部641は、特定環境検知部641bとしての機能を有する。
特定環境検知部641bは、状態情報取得部618により取得された状態情報が、脳賦活刺激が存在する特定環境における状態情報であるか否かを判定することで、脳機能賦活情報を検知する。具体的には、特定環境検知部641bは、状態情報取得部618に脳機能賦活刺激に対応する状態情報の送信要求を行ない、この送信要求に応じて状態情報取得部618から状態情報を取得する。次に、特定環境検知部641bは、特定環境データベース635の情報と照合し、状態情報取得部618により取得された状態情報が、脳賦活刺激が存在する特定環境における状態情報であるか否かを判定する。そして、特定環境検知部641bは、状態情報取得部618により取得された状態情報が、特定環境における状態情報であると判定した場合、脳機能賦活刺激が対象者300に与えられているとみなし、その脳機能賦活刺激に対応する脳機能賦活情報を脳機能賦活情報データベース631から抽出して検知する。例えば、特定環境検知部641bは、脳機能賦活刺激として「赤信号」が用いられる場合、状態情報取得部618に、「(車の現在位置から所定範囲の領域の)周辺画像」の送信要求を行なう。この送信要求に応じて状態情報取得部618から周辺画像が送出された場合、特定環境検知部641bは、特定環境データベース635の情報と照合し、周辺画像に「赤信号画像」が表示されているか否かを判定する。そして、特定環境検知部641bは、周辺画像に「赤信号画像」が表示されていると判定した場合は、対象者300に脳機能賦活刺激(赤信号)が与えられているとみなし、脳機能賦活刺激に対応する脳機能賦活情報を脳機能賦活情報データベース631から抽出して検知する。
顔面変化情報取得部642は、撮像部615で撮像された顔面画像から「顔面データ」及び顔面データの時系列変化を示す「顔面変化情報」を取得するものである。具体的には、顔面変化情報取得部は、特定環境検知部641bにより、所定環境Kにおける状態情報が、脳機能賦活刺激が存在するとみなされる特定環境の状態情報であると検知された場合、その検知されたタイミングでの顔面データを取得する。その他の顔面変化情報取得部642の機能は、上述した顔面変化情報取得部542と同様である。
また、本実施形態に係る生理状態判定装置600において、上述した構成以外の構成については、第1実施形態に係る生理状態判定装置500と同様の構成を具備する。
(6−2−2)生理状態判定装置600の動作
図33は第2実施形態に係る生理状態判定装置600の動作を示すフローチャートである。なお、以下の説明では、生理状態として「映画館の入場者に対する映画館でのコマーシャル映像(CM)に対する関心度」の例を当てはめて説明する。
前提として、対象者300(映画館の入場者)には、所定環境K(映画館の上映部屋)において脳機能賦活刺激(CM)が提供される。このような脳機能賦活刺激(CM)は、対象者300(映画館の入場者)の脳機能を賦活する。したがって、対象者300(映画館の入場者)の生理状態(CMに対する関心度)と、対象者300(映画館の入場者)の脳機能の賦活状態とには相関があると認められる。
このような前提のもと、状態情報取得部618により状態情報(「映画上映に関する時間情報」)が取得される(T1)。そして、特定環境検知部641bにより、状態情報取得部618により取得された状態情報(映画上映に関する時間情報)が、脳賦活刺激(CM)が存在するとみなされる特定環境における状態情報(映画上映に関する時間情報のうち、CMが出力される時間情報)であるか否かが判定される(T2)。
特定環境検知部641bは、状態情報取得部618により取得された状態情報(映画上映に関する時間情報)が、脳賦活刺激(コマーシャル映像)が存在するとみなされる特定環境における状態情報(映画上映に関する時間情報のうち、CMが出力される時間情報)であると判定した場合、脳機能賦活刺激(CM)が対象者300に与えられているとみなして、脳機能賦活刺激(CM)に対応する脳機能賦活情報を脳機能賦活情報データベース631から抽出して検知する(T2−Yes,T3)
そして、特定環境検知部641bにより脳機能賦活情報が検知されると、撮像部615により対象者300(映画館の入場者)の顔面画像の撮像が開始される(T4)。撮像された顔面画像は顔面変化情報取得部642に送出される。
続いて、生理状態判定装置600において、撮像された顔面画像の解析が実行される(T5)。具体的には、顔面変化情報取得部642により、撮像された顔面画像から、対象者300の顔面データの時系列変化を示す顔面変化情報が取得される。そして、顔面変化情報分解部643により、顔面変化情報が、特異値分解、主成分分析或いは独立成分分析されて、複数の成分1,2,3,・・・に分解される。また、判定用情報生成部644により、顔面変化情報分解部643により分解された複数の成分1,2,3・・・と、脳機能賦活情報の相関値が算出される。そして、判定用情報生成部644により、相関値が所定値以上であるか否かが判定される(T6)。所定値以上であると判定された場合、脳機能賦活情報と当該成分とに「相関がある」と判断される(T6−Yes)。そして、判定用情報生成部644により、相関がある成分のうち、危険率の低い成分が「判定用成分」として抽出される(T7)。これらの抽出された判定用成分の情報は、記憶部630に格納される。一方、脳機能賦活情報と、各成分1,2,3・・・との相関値が所定値未満である場合は、両者には「相関がない」と判断され、その情報が記憶部630に格納される(T6−No)。なお、過去の計測値などから脳機能賦活情報に「相関のある成分」を事前に特定しておくことで、上記ステップT5,T6の動作を省略することが可能である。
次に、生理状態判定部645により基準判定用成分に対する基準相関値r1と、脳機能賦活情報が抽出された判定用成分に対する相関値r2との差である変化量Δrが算出される。続いて、生理状態判定部645により、基準相関値r1に対する相関値r2の変化量Δrに応じて、生理状態レベルが判定される(T8)。ここでは、生理状態レベル1が「通常の関心度」、生理状態レベル2が「やや高い関心度」、生理状態レベル3が「かなり高い関心度」として判定される。これらの判定結果は、出力部620を介して判定結果として出力される(T9)。
この後、生理状態判定装置600は、必要に応じて、判定結果のデータ、解析波形、測定結果、画像表示条件等を関連付けて対象者300(映画館の入場者)毎に記憶部630に記憶する。記憶部630は、例えば映画館内の座席に関連付けて対象者300の情報を保管する。
(6−2−3)生理状態判定装置600の特徴
(6−2−3−1)
以上説明したように、本実施形態に係る生理状態判定装置600は、脳機能賦活情報検知部641と、顔面変化情報取得部642と、生理状態判定部645と、を備える。脳機能賦活情報検知部641は、生理状態に対応する脳機能賦活情報を検知する。顔面変化情報取得部642は、対象者300の顔面データの時系列変化を示す顔面変化情報を取得する。生理状態判定部645は、脳機能賦活情報と顔面変化情報とに基づいて、対象者300の所定の生理状態を判定する。
したがって、本実施形態に係る生理状態判定装置600では、このような脳機能賦活情報検知部641を具備しているので、任意の脳機能賦活刺激から脳機能賦活情報を検知することができる。これにより、脳機能賦活刺激を提供して生理状態を判定する装置に比して、対象者300の生理状態を容易に判定することができる。
特に、生理状態判定装置600は、脳機能賦活情報検知部641が、特定環境検知部641bとしての機能を有する。特定環境検知部641bは、所定環境Kにおける状態情報が、脳機能賦活刺激が存在するとみなされる特定環境の状態情報であるか否かを判定することで、脳機能賦活情報を検知する。さらに詳しくは、生理状態判定装置600は、特定環境データベース635(特定環境記憶部)と、状態情報取得部618とをさらに備える。そして、特定環境検知部641bが、特定環境データベース635の情報と状態情報取得部618により取得された状態情報とを照合し、状態情報取得部618により取得された状態情報が、脳賦活刺激が存在する特定環境の状態情報である場合に、対象者300に脳機能賦活刺激が与えられたと判定して脳機能賦活情報を検知する。
このようにして、生理状態判定装置600では、特定環境の状態情報の検知により、脳機能賦活情報を検知できる。
(6−2−3−2)
また、本実施形態に係る生理状態判定装置600は、顔面変化情報取得部642が、特定環境検知部641bにより、所定環境Kにおける状態情報が、脳機能賦活刺激が存在するとみなされる特定環境の状態情報であると検知された場合、顔面変化情報を取得する。
したがって、生理状態判定装置600では、特定環境の状態情報が検知された場合に、顔面変化情報取得部642が顔面変化情報を取得するので、判定に不要な情報の取得及び/又は保存を回避することができる。
なお、本実施形態に係る生理状態判定装置600では、顔面変化情報取得部642が、脳機能賦活刺激が対象者300に与えられていない任意のタイミングで基準となる顔面変化情報を取得する。そして、このような基準となる顔面変化情報を用いることで、生理状態判定部は、特定環境検知部641aにより脳機能賦活刺激情報が検知されたときに取得される顔面変化情報から、対象者300の生理状態を判定することができる。
(6−2−3−3)
その他、本実施形態に係る生理状態判定装置600は、第1実施形態に係る生理状態判定装置500における、(6−1−3−3)〜(6−1−3−10)と同様の効果を有する。
(6−2−4)生理状態判定装置600の変形例
(6−2−4−1)変形例2A
本実施形態に係る生理状態判定装置600は、図34に示すように、ネットワーク上に設けられた判定情報提供装置1600等を利用するものでもよい。変形例2Aに係る生理状態判定装置600の構成は、第1実施形態の変形例に係る生理状態判定装置500の構成と同様である。したがって、変形例2Aに係る生理状態判定装置600であれば、生理状態判定部645が、外部ネットワークを利用して、対象者300の生理状態レベルを判定できる。
また、本変形例の構成であれば、ビッグデータを用いた生理状態の判定が実現できる。すなわち、基準相関値r1及び所定の変化量Δrをビッグデータから求める。具体的には、対象者300以外の者に、脳機能賦活情報を提供して得られた基準判定用成分に基づいて算出された基準相関値r1を用いる。これにより、基準情報を随時最適化することができる。
(6−2−4−2)変形例2B
また、本実施形態に係る生理状態判定装置600は、図35に示すように、脳機能賦活情報検知部641が、第1装置601に格納されるものでもよい。この場合、顔面変化情報取得部642及び生理状態判定部645を含むその他の構成が、第2装置602に格納される。そして、第1装置601及び第2装置602が情報通信を実行することで対象者300の生理状態を判定する。このように、脳機能賦活情報を検知するための第1装置601を、他の構成を有する第2装置602から分離することで、第1装置601のみを移動することができる。結果として、生理状態判定装置600は、脳機能賦活情報を検知できる場所の自由度を高めることができる。
(6−2−4−3)変形例2C
また、本実施形態に係る生理状態判定装置600は、図36に示すように、変形例2A及び変形例2Bを組み合わせた構成を具備してもよい。これにより、変形例2A及び変形例2Bの両方の効果を有する生理状態判定装置600を提供できる。
(6−2−4−4)変形例2D
また、本実施形態に係る生理状態判定装置600は、図37に示すように、脳機能賦活刺激が対象者300に与えられていることを推定する推定部650をさらに備えるものでもよい。具体的には、推定部650は、対象者の視線、顔の角度、身体の動作のいずれか又は任意の組み合わせの情報に基づいて、脳機能賦活刺激が対象者に与えられていることを推定する。そして、特定環境検知部641bが、推定部650により脳機能賦活刺激が与えられていると推定された場合に、所定環境Kにおける状態情報が、脳機能賦活刺激が存在するとみなされる特定環境の状態情報であるか否かを検知する。
このような構成により、変形例2Dに係る生理状態判定装置600では、脳機能賦活刺激が対象者300に与えられていることを推定することで、生理状態判定の判定結果の信頼性を高めることができる。
なお、身体の動作には、車両等のブレーキ操作、タブレットにペン等を介して接触する動作、及び通話相手に対して発する音声の応答確認などの身体により行なわれる任意の動作が含まれる。
(6−3)第3実施形態
図38は第3本実施形態に係る生理状態判定装置700の構成を示す模式図である。なお、既に説明した部分と同一の部分には略同一の符号(下二桁に同一数字を用いた符号)を付し、重複した説明を省略する。
本実施形態に係る生理状態判定装置700は、上述の第1実施形態に係る生理状態判定装置500及び第2実施形態に係る生理状態判定装置600を組み合わせたものである。この生理状態判定装置700は、操作情報取得部717及び状態情報取得部718を具備し、脳機能賦活情報検知部741が、特定操作検知部741a及び/又は特定環境検知部741bとして機能する。操作情報取得部717、状態情報取得部718、特定操作検知部741a、特定環境検知部741bは、それぞれ上述した操作情報取得部517、状態情報取得部618、特定操作検知部541a、特定環境検知部641bと同様の機能及び/又は構成を有するものである。要するに、本実施形態に係る生理状態判定装置700は、所定機器360への特定操作の検知及び/又は特定環境の状態情報の検知により、脳機能賦活情報を検知することができる。
また、本実施形態に係る生理状態判定装置700は、顔面変化情報取得部742が、特定操作検知部741aにより、所定機器360に対する特定操作が行なわれたことが検知された場合、顔面変化情報を取得する。または、顔面変化情報取得部742は、特定環境検知部741bにより、所定環境Kにおける状態情報が、脳機能賦活刺激が存在するとみなされる特定環境の状態情報であると検知された場合、顔面変化情報を取得する。または、特定操作検知部741aによる特定操作の検知及び特定環境検知部741bによる特定環境の検知がなされた場合、顔面変化情報を取得する。
したがって、生理状態判定装置700では、所定機器360への特定操作の検知、及び/又は、特定環境の状態情報の検知がされた場合に、顔面変化情報取得部742が顔面変化情報を取得するので、判定に不要な情報の取得及び/又は保存を回避することができる。
<付記>
なお、本発明は、上記実施形態そのままに限定されるものではない。本発明は、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、本発明は、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより種々の発明を形成できるものである。例えば、実施形態に示される全構成要素から幾つかの構成要素は削除してもよいものである。さらに、異なる実施形態に構成要素を適宜組み合わせてもよいものである。
本発明によれば、簡便に脳活動を推定することができるため、脳活動に基づき対象者の生理状態を可視化する生理状態可視化装置への適用が有効である。
200 状態可視化手段
201 解析部
202 表示部
300 対象者
301 測定者
360 所定機器
370 脳機能賦活刺激提供物
500 生理状態判定装置
510 入力部
515 撮像部
517 操作情報取得部
520 出力部
530 記憶部
531 脳機能賦活情報データベース
532 基準情報データベース
540 処理部
541 脳機能賦活情報検知部
541a 特定操作検知部
542 顔面変化情報取得部
543 顔面変化情報分解部
544 判定用情報生成部
545 生理状態判定部
600 生理状態判定装置
601 第1装置
602 第2装置
610 入力部
615 撮像部
618 状態情報取得部
620 出力部
630 記憶部
631 脳機能賦活情報データベース
632 基準情報データベース
635 特定環境データベース(特定環境記憶部)
640 処理部
641 脳機能賦活情報検知部
641b 特定環境検知部
642 顔面変化情報取得部
643 顔面変化情報分解部
644 判定用情報生成部
645 生理状態判定部
650 推定部
700 生理状態判定装置
715 撮像部
717 操作情報取得部
718 状態情報取得部
735 特定環境データベース(特定環境記憶部)
741 脳機能賦活情報検知部
741a 特定操作検知部
741b 特定環境検知部
742 顔面変化情報取得部
743 顔面変化情報分解部
744 判定用情報生成部
745 生理状態判定部
1500 判定情報提供装置
1530 記憶部
1532 基準情報データベース
1540 処理部
1600 判定情報提供装置
K 所定環境
特開2013−176406号公報

Claims (10)

  1. 対象者(300)の所定の生理状態を判定する生理状態判定装置(500,600,700)であって、
    前記生理状態に対応する脳機能賦活情報を検知する脳機能賦活情報検知部(541,641,741)と、
    前記対象者の顔面データの時系列変化を示す顔面変化情報を取得する顔面変化情報取得部(542,642,742)と、
    前記脳機能賦活情報と前記顔面変化情報とに基づいて、前記対象者の所定の生理状態を判定する生理状態判定部(545,645,745)と、
    を備える、生理状態判定装置。
  2. 前記脳機能賦活情報検知部は、前記対象者又は前記対象者以外の測定者(301)により所定機器(360)への特定操作が行なわれた場合に、前記対象者に脳機能賦活刺激が与えられたと判定して前記脳機能賦活情報を検知する特定操作検知部(541a,741a)、及び/又は、所定環境(K)における状態情報が、脳機能賦活刺激が存在するとみなされる特定環境の状態情報である場合に、前記対象者に脳機能賦活刺激が与えられたと判定して前記脳機能賦活情報を検知する特定環境検知部(641b,741b)、をさらに有する、
    請求項1に記載の生理状態判定装置。
  3. 前記顔面変化情報取得部は、前記特定操作検知部により、所定機器に対する特定操作が行なわれたことが検知された場合、前記顔面変化情報を取得する、及び/又は、前記特定環境検知部により、所定環境における状態情報が、脳機能賦活刺激が存在するとみなされる特定環境の状態情報であると検知された場合、前記顔面変化情報を取得する、
    請求項2に記載の生理状態判定装置。
  4. 前記顔面変化情報取得部は、前記特定操作検知部により前記特定操作が検知されていないときに前記顔面変化情報の基準を取得する、及び/又は、前記特定環境検知部により前記特定環境の状態情報が検知されていないときに前記顔面変化情報の基準を取得する、
    請求項3に記載の生理状態判定装置。
  5. 前記脳機能賦活情報検知部は、第1装置(601)に格納され、
    前記顔面変化情報取得部と前記生理状態判定部とは、第2装置(602)に格納され、
    前記第1装置及び前記第2装置が情報通信を実行することで前記対象者の生理状態を判定する、
    請求項2から4のいずれか1項に記載の生理状態判定装置。
  6. 前記脳機能賦活刺激が前記対象者に与えられていることを推定する推定部(650)をさらに備え、
    前記特定環境検知部は、前記推定部により脳機能賦活刺激が与えられていると推定された場合に、所定環境における状態情報が、脳機能賦活刺激が存在するとみなされる特定環境の状態情報であるか否かを検知する、
    請求項2から5のいずれか1項に記載の生理状態判定装置。
  7. 前記推定部は、前記対象者の視線、顔の角度、身体の動作のいずれか又は任意の組み合わせの情報に基づいて、前記脳機能賦活刺激が前記対象者に与えられていることを推定する、
    請求項6に記載の生理状態判定装置。
  8. 前記脳賦活刺激が存在するとみなされる特定環境の状態情報を予め記憶する特定環境記憶部(635,735)と、
    前記所定環境の状態情報を取得する状態情報取得部(618,718)と、
    をさらに備え、
    前記特定環境検知部は、前記特定環境記憶部に記憶された状態情報と、前記状態情報取得部により取得された状態情報とを照合し、前記脳賦活刺激が存在する特定環境の状態情報であるか否かを判定することで、前記脳機能賦活情報を検知する、
    請求項2から7のいずれか1項に記載の生理状態判定装置。
  9. 前記顔面変化情報から判定用情報を生成する判定用情報生成部(544,644,744)をさらに備え、
    前記生理状態判定部が、前記判定用情報に基づいて生理状態を判定する、
    請求項1から8のいずれか1項に記載の生理状態判定装置。
  10. 前記顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する顔面変化情報分解部(543,643,743)をさらに備え、
    前記判定用情報生成部が、前記複数の成分から、前記脳機能賦活情報と関連する成分を判定用成分として抽出して、前記判定用成分から前記判定用情報を生成する、
    請求項9に記載の生理状態判定装置。
JP2017080917A 2017-04-14 2017-04-14 生理状態判定装置 Active JP6749278B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2017080917A JP6749278B2 (ja) 2017-04-14 2017-04-14 生理状態判定装置
US16/604,071 US11786165B2 (en) 2017-04-14 2018-04-12 Physiological state determination device
PCT/JP2018/015404 WO2018190403A1 (ja) 2017-04-14 2018-04-12 生理状態判定装置
EP18784945.0A EP3610793B1 (en) 2017-04-14 2018-04-12 Physiological state assessment apparatus
CN201880025062.4A CN110520047B (zh) 2017-04-14 2018-04-12 生理状态判定装置
EP21205403.5A EP3973874B1 (en) 2017-04-14 2018-04-12 Physiological state determination device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017080917A JP6749278B2 (ja) 2017-04-14 2017-04-14 生理状態判定装置

Publications (2)

Publication Number Publication Date
JP2018175507A true JP2018175507A (ja) 2018-11-15
JP6749278B2 JP6749278B2 (ja) 2020-09-02

Family

ID=63792723

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017080917A Active JP6749278B2 (ja) 2017-04-14 2017-04-14 生理状態判定装置

Country Status (5)

Country Link
US (1) US11786165B2 (ja)
EP (2) EP3610793B1 (ja)
JP (1) JP6749278B2 (ja)
CN (1) CN110520047B (ja)
WO (1) WO2018190403A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6906820B1 (ja) * 2020-07-07 2021-07-21 Assest株式会社 集中度判別プログラム
WO2022085327A1 (ja) * 2020-10-23 2022-04-28 株式会社島津製作所 脳機能解析方法および脳機能解析システム
CN117496787A (zh) * 2024-01-03 2024-02-02 小白智能科技(长春)股份有限公司 一种针对儿童六项能力测评及其训练系统

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6941805B2 (ja) * 2018-02-22 2021-09-29 パナソニックIpマネジメント株式会社 滞在状況表示システムおよび滞在状況表示方法
US11669914B2 (en) 2018-05-06 2023-06-06 Strong Force TX Portfolio 2018, LLC Adaptive intelligence and shared infrastructure lending transaction enablement platform responsive to crowd sourced information
CN112534452A (zh) 2018-05-06 2021-03-19 强力交易投资组合2018有限公司 用于改进自动执行能源、计算、存储和其它资源的现货和远期市场中的分布式账本和其它交易的机器和系统的方法和系统
DE102020123554A1 (de) 2020-09-09 2022-03-10 Imagine AG Prüfung eines Filmvorprodukts
CN112487948B (zh) * 2020-11-27 2022-05-13 华中师范大学 一种基于多空间融合的学习者学习过程的专注度感知方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008259676A (ja) * 2007-04-12 2008-10-30 Matsushita Electric Ind Co Ltd 情報処理装置および色判定方法
JP2008282153A (ja) * 2007-05-09 2008-11-20 Toyota Motor Corp 画像処理装置
JP2011067284A (ja) * 2009-09-24 2011-04-07 Aisin Seiki Co Ltd 疲労検査装置
JP2016049343A (ja) * 2014-09-01 2016-04-11 ダイキン工業株式会社 脳活動推定装置
JP2017000773A (ja) * 2015-06-12 2017-01-05 ダイキン工業株式会社 脳活動推定装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7111980B2 (en) * 2001-04-19 2006-09-26 Honeywell International Inc. System and method using thermal image analysis and slope threshold classification for polygraph testing
US10227063B2 (en) * 2004-02-26 2019-03-12 Geelux Holdings, Ltd. Method and apparatus for biological evaluation
JP4788956B2 (ja) * 2006-01-31 2011-10-05 独立行政法人産業技術総合研究所 脳活動解析方法および装置
WO2008130906A1 (en) * 2007-04-17 2008-10-30 Mikos, Ltd. System and method for using three dimensional infrared imaging to provide psychological profiles of individuals
JP2009018047A (ja) * 2007-07-12 2009-01-29 Toyota Motor Corp 心理状態推定装置
US8462996B2 (en) * 2008-05-19 2013-06-11 Videomining Corporation Method and system for measuring human response to visual stimulus based on changes in facial expression
JP2013176406A (ja) 2010-05-27 2013-09-09 Hitachi Ltd 脳機能計測装置
JP5665025B2 (ja) * 2010-08-06 2015-02-04 国立大学法人東京農工大学 精神疾患判定装置、方法、及びプログラム
GB201020241D0 (en) * 2010-11-30 2011-01-12 Univ Lincoln The A response detection system and associated methods
JP5974915B2 (ja) * 2013-01-29 2016-08-23 株式会社デンソー 覚醒度検出装置、および覚醒度検出方法
WO2014179558A1 (en) * 2013-05-01 2014-11-06 Musc Foundation For Research Development Monitoring neurological functional status
WO2016110804A1 (en) * 2015-01-06 2016-07-14 David Burton Mobile wearable monitoring systems
US10113913B2 (en) * 2015-10-03 2018-10-30 Facense Ltd. Systems for collecting thermal measurements of the face
CN108135491B (zh) * 2015-10-15 2022-01-28 大金工业株式会社 生理状态判定装置及生理状态判定方法
EP3363352B1 (en) * 2015-10-15 2020-11-25 Daikin Industries, Ltd. Useful information presentation device
WO2017150575A1 (ja) * 2016-02-29 2017-09-08 ダイキン工業株式会社 疲労状態判定装置及び疲労状態判定方法
JP6371366B2 (ja) * 2016-12-12 2018-08-08 ダイキン工業株式会社 精神疾患判定装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008259676A (ja) * 2007-04-12 2008-10-30 Matsushita Electric Ind Co Ltd 情報処理装置および色判定方法
JP2008282153A (ja) * 2007-05-09 2008-11-20 Toyota Motor Corp 画像処理装置
JP2011067284A (ja) * 2009-09-24 2011-04-07 Aisin Seiki Co Ltd 疲労検査装置
JP2016049343A (ja) * 2014-09-01 2016-04-11 ダイキン工業株式会社 脳活動推定装置
JP2017000773A (ja) * 2015-06-12 2017-01-05 ダイキン工業株式会社 脳活動推定装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6906820B1 (ja) * 2020-07-07 2021-07-21 Assest株式会社 集中度判別プログラム
WO2022009875A1 (ja) * 2020-07-07 2022-01-13 Assest株式会社 集中度判別プログラム
WO2022085327A1 (ja) * 2020-10-23 2022-04-28 株式会社島津製作所 脳機能解析方法および脳機能解析システム
CN117496787A (zh) * 2024-01-03 2024-02-02 小白智能科技(长春)股份有限公司 一种针对儿童六项能力测评及其训练系统
CN117496787B (zh) * 2024-01-03 2024-03-19 小白智能科技(长春)股份有限公司 一种针对儿童六项能力测评及其训练系统

Also Published As

Publication number Publication date
US20200029884A1 (en) 2020-01-30
CN110520047B (zh) 2022-10-28
EP3610793A4 (en) 2021-01-13
WO2018190403A1 (ja) 2018-10-18
EP3610793A1 (en) 2020-02-19
EP3973874A1 (en) 2022-03-30
EP3610793B1 (en) 2022-08-31
EP3973874B1 (en) 2022-12-14
US11786165B2 (en) 2023-10-17
JP6749278B2 (ja) 2020-09-02
CN110520047A (zh) 2019-11-29

Similar Documents

Publication Publication Date Title
JP6749278B2 (ja) 生理状態判定装置
US10842431B2 (en) Mental illness determination device
JP6196402B2 (ja) 判定結果出力装置、判定結果提供装置、及び判定結果出力システム
JP6503327B2 (ja) 生理状態判定装置及び生理状態判定方法
JP6196361B2 (ja) 運転者状態判定装置及び運転者状態判定方法
WO2017065313A1 (ja) 有用情報提示装置
JP6463392B2 (ja) 疲労状態判定装置及び疲労状態判定方法
JP6829363B2 (ja) 評価装置、マーケット調査装置、及び学習評価装置
JP6158887B2 (ja) 有用情報提示装置
JP6093422B1 (ja) 脳年齢提示装置
JP6096857B1 (ja) 感情判定装置
JP2017086992A (ja) 感情判定装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180411

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180605

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20190510

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190531

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20190726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200413

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200811

R150 Certificate of patent or registration of utility model

Ref document number: 6749278

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250