JP2017153936A - 運転者状態判定装置及び運転者状態判定方法 - Google Patents

Abstract

【課題】機器を運転する対象者の運転者状態を容易に判定し得る運転者状態判定装置及び運転者状態判定方法を提供する。
【解決手段】運転者状態判定装置（１０，１１０，４００，４００Ａ，４００Ｂ）は、顔面変化情報取得部（２０，１２０，４１５，４４２）と、顔面変化情報分解部（３０，１３０，４４３）と、運転者状態判定部（２００，４４５）と、を備える。顔面変化情報取得部（２０，１２０，４１５，４４２）は、対象者の顔面データの時系列変化を示す顔面変化情報を取得する。顔面変化情報分解部（３０，１３０，４４３）は、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分１，２，３，・・・に分解する。運転者状態判定部（２００，４４５）は、複数の成分１，２，３，・・・から抽出された「判定用成分」に基づいて、対象者の運転者状態を判定する。
【選択図】図１９

Description

本発明は、運転者状態判定装置及び運転者状態判定方法に関する。

近年、機器を運転する対象者の運転者状態を監視する技術が検討されている。例えば、特許文献１（特開２０１４−１００２２７号公報）等には、脳波計を用いて、自動車を運転する対象者の集中度を判定する装置が開示されている。

しかしながら、脳波計測をする際には、前処理の必要な電極を対象者が装着しなければならない等、準備段階の作業が繁雑である。また、多大なコストを要するという問題もある。結果として、機器を運転する対象者の運転者状態を適切に監視することが困難である。

本発明の課題は、機器を運転する対象者の運転者状態を容易に判定し得る運転者状態判定装置及び運転者状態判定方法を提供することにある。

本発明の第１観点に係る運転者状態判定装置は、顔面変化情報取得部と、顔面変化情報分解部と、運転者状態判定部と、を備える。顔面変化情報取得部は、対象者の顔面データの時系列変化を示す顔面変化情報を取得する。顔面変化情報分解部は、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する。運転者状態判定部は、複数の成分から抽出された判定用成分に基づいて、対象者の運転者状態を判定する。

ここで、「運転者状態」とは、機器を運転する対象者の精神状態及び身体状態を表すものである。例えば、精神状態は、精神疲労、精神的ストレス、漫然状態、集中状態等に対応した指標で表される。また、身体状態は、身体疲労、身体的ストレス等に対応した指標で表される。

第１観点に係る運転者状態判定装置では、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分から判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者の脳活動の有無を容易に推定できる。これにより、対象者の脳機能に対応する判定用成分に基づいて、機器を運転する対象者の運転者状態を容易に判定できる。

本発明の第２観点に係る運転者状態判定装置は、第１観点の運転者状態判定装置において、脳機能賦活情報提供部と、判定用成分抽出部と、をさらに備える。脳機能賦活情報提供部は、機器を運転する対象者に、人間の脳機能を賦活する脳機能賦活情報を提供する。判定用成分抽出部は、複数の成分から、脳機能賦活情報と関連する成分を判定用成分として抽出する。

第２観点に係る運転者状態判定装置では、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分から、提供した脳機能賦活情報と関連する判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者の脳活動の有無を容易に推定できる。これにより、対象者の脳機能に対応する判定用成分に基づいて、機器を運転する対象者の運転者状態を容易に判定できる。

本発明の第３観点に係る運転者状態判定装置は、第１観点の運転者状態判定装置において、脳機能賦活情報検知部と、判定用成分抽出部と、をさらに備える。脳機能賦活情報検知部は、機器を運転する対象者に提供される、人間の脳機能を賦活する脳機能賦活情報を検知する。判定用成分抽出部は、複数の成分から、脳機能賦活情報と関連する成分を判定用成分として抽出する。

第３観点に係る運転者状態判定装置では、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分から、検知した脳機能賦活情報と関連する判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者の脳活動の有無を容易に推定できる。これにより、対象者の脳機能に対応する判定用成分に基づいて、機器を運転する対象者の運転者状態を容易に判定できる。

本発明の第４観点に係る運転者状態判定装置は、第１観点の運転者状態判定装置において、脳活動関連変化量抽出部と、判定用成分抽出部と、をさらに備える。脳活動関連変化量抽出部は、機器に対する所定の操作により生じる所定の変化量から、人間の脳活動に関連する変化量を脳活動関連変化量として抽出する。判定用成分抽出部は、複数の成分から、脳活動関連変化量と関連する成分を判定用成分として抽出する。

第４観点に係る運転者状態判定装置では、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分から、脳活動関連変化量と関連する判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者の脳活動の有無を推定できる。そして、対象者の脳機能に対応する成分に基づいて、機器を運転する対象者の運転者状態を容易に判定できる。

本発明の第５観点に係る運転者状態判定装置は、第２観点から第４観点のいずれかの運転者状態判定装置において、判定用成分抽出部が、危険率の値に基づいて、判定用成分を抽出する。

第５観点に係る運転者状態判定装置では、危険率の値に基づいて、脳機能賦活情報と関連する成分を抽出するので、判定の信頼性を高めることができる。

本発明の第６観点に係る運転者状態判定装置は、第２観点から第５観点のいずれかの運転者状態判定装置において、判定情報記憶部をさらに備える。判定情報記憶部は、脳機能賦活情報又は脳活動関連変化量に対して算出される判定用成分の相関値の、脳機能賦活情報又は脳活動関連変化量に対して算出された基準判定用成分の基準相関値からの所定範囲の変化量を、運転者状態レベルに関連付けて判定情報として記憶する。また、運転者状態判定部が、脳機能賦活情報又は脳活動関連変化量に対する判定用成分の相関値を算出し、算出した相関値及び判定情報に基づいて、対象者の運転者状態レベルを判定する。

第６観点に係る運転者状態判定装置では、所定行動前に得られた基準判定用成分を利用して、運転者状態レベルを容易に判定できる。

本発明の第７観点に係る運転者状態判定装置は、第２観点から第６観点のいずれかの運転者状態判定装置において、運転者状態判定部が、脳機能賦活情報又は脳活動関連変化量に対する判定用成分の相関値を算出し、算出した相関値及び判定情報に基づいて、対象者の運転者状態レベルを判定する。ここでは、ネットワーク上の判定情報提供装置が、脳機能賦活情報又は脳活動関連変化量に対して算出される判定用成分の相関値の、脳機能賦活情報又は脳活動関連変化量に対して算出された基準判定用成分の基準相関値からの所定範囲の変化量を、運転者状態レベルに関連付けて判定情報として記憶する判定情報記憶部を備える。

第７観点に係る運転者状態判定装置では、ネットワーク上の判定情報提供装置を利用して、対象者の運転者状態レベルを判定できる。

本発明の第８観点に係る運転者状態判定装置は、第２観点から第７観点のいずれかの運転者状態判定装置において、対象者が運転する機器が、自動車、鉄道車両、飛行機、原子力発電機器、各種プラントを含む自動機械である。

第８観点に係る運転者状態判定装置では、自動車、鉄道車両、飛行機、原子力発電機器、各種プラントを含む自動機械の運転者状態を判定できる。

本発明の第９観点に係る運転者状態判定装置は、第４観点の運転者状態判定装置において、対象者が運転する機器が、自動車、鉄道車両、飛行機、原子力発電機器、各種プラントを含む自動機械であり、脳活動関連変化量抽出部が、自動機械への指示信号の変化量から、脳活動関連変化量を抽出する。

第９観点に係る運転者状態判定装置では、自動車、鉄道車両、飛行機、原子力発電機器、各種プラントを含む自動機械を運転する対象者の運転者状態を判定できる。

本発明の第１０観点に係る運転者状態判定装置は、第４観点の運転者状態判定装置において、対象者が運転する機器が、自動車、鉄道車両、及び飛行機を含む交通機器であり、脳活動関連変化量抽出部は、交通機器の加速度の変化量から、脳活動関連変化量を抽出する。

第１０観点に係る運転者状態判定装置では、自動車、鉄道車両、及び飛行機を含む交通機器を運転する対象者の運転者状態を加速度に基づいて判定できる。

本発明の第１１観点に係る運転者状態判定装置は、第１観点の運転者状態判定装置において、運転者状態判定部が、脳活動推定手段と、状態監視手段と、をさらに備える。脳活動推定手段は、複数の成分に基づき、対象者の脳活動を推定する。状態監視手段は、脳活動推定手段により推定された対象者の脳活動に基づき、対象者の生理状態を監視する。

第１１観点の係る運転者状態判定装置では、顔面変化情報取得部によって取得された時系列の顔面皮膚温度データ及び／又は顔面血行量データに基づき操縦士の脳活動が推定される。このため、この運転者状態判定装置では、脳波電極等の装着前に処理が必要なセンサを装着しなくても、操縦士の脳活動を推定することができる。したがって、簡便に操縦士の脳活動を推定することができる。

本発明の第１２観点に係る運転者状態判定装置は、第１１観点の運転者状態判定装置において、状態監視手段は、解析部を有する。解析部は、対象者の脳活動に基づき、対象者の操縦に対する意識レベルを解析する。このため、この運転者状態判定装置では、操縦士の操縦に対する意識レベルを解析することができる。

本発明の第１３観点に係る運転者状態判定装置は、第１２観点の運転者状態判定装置において、状態監視手段は、報知部を有する。報知部は、解析部により解析された意識レベルが一定以下に低下した場合に、対象者に注意を促すための報知を行う。このため、この運転者状態判定装置では、操縦士の意識レベルが低下した場合に、操縦士に注意を促すことができる。

本発明の第１４観点に係る運転者状態判定装置は、第１１観点から第１３観点のいずれかの運転者状態判定装置において、情報取得手段を備える。情報取得手段は、対象者の操縦する機器を管理する管理者が、対象者の生理状態に関する情報を取得するための手段である。このため、この運転者状態判定装置では、管理者が操縦士の生理状態を知ることができる。

本発明の第１５観点に係る運転者状態判定装置は、脳機能賦活情報提供ステップ、脳機能賦活情報検知ステップ、又は、機器変化量検出ステップ及び脳活動関連変化量抽出ステップと、並びに、顔面変化情報取得ステップ、顔面変化情報分解ステップ、判定用成分抽出ステップ、及び運転者状態判定ステップと、を備える。脳機能賦活情報提供ステップは、機器を運転する対象者に、人間の脳機能を賦活する脳機能賦活情報を提供する。脳機能賦活情報検知ステップは、機器を運転する対象者に提供される、人間の脳機能を賦活する脳機能賦活情報を検知する。機器変化量検出ステップは、機器に対する所定の操作により生じる所定の変化量を検出する。脳活動関連変化量抽出ステップは、機器変化量検出ステップにより検出された変化量から、機器を運転する対象者の脳活動に関連する変化量を脳活動関連変化量として抽出する。そして、顔面変化情報取得ステップは、対象者の顔面データの時系列変化を示す顔面変化情報を取得する。顔面変化情報分解ステップは、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する。判定用成分抽出ステップは、複数の成分から、脳機能賦活情報又は脳活動関連変化量に関連する成分を判定用成分として抽出する。運転者状態判定ステップは、判定用成分に基づいて、機器を運転する対象者の運転者状態を判定する。

第１５観点に係る運転者状態判定方法では、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分から、脳機能賦活情報又は脳活動関連変化量と関連する判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者の脳活動の有無を容易に推定できる。これにより、対象者の脳機能に対応する判定用成分に基づいて、機器を運転する対象者の運転者状態を容易に判定できる。

本発明の第１６観点に係る運転者状態判定方法は、第１５観点の運転者状態判定方法において、運転者状態判定ステップで、脳機能賦活情報又は脳活動関連変化量に対する判定用成分の相関値を算出し、算出した相関値及び判定情報に基づいて、機器を運転する対象者の運転者状態レベルを判定する。ここでは、脳機能賦活情報又は脳活動関連変化量に対して算出される判定用成分の相関値の、脳機能賦活情報又は脳活動関連変化量に対して算出された基準判定用成分の基準相関値からの所定範囲の変化量が、運転者状態レベルに関連付けられて判定情報として判定情報記憶部に記憶されている。

第１６観点に係る運転者状態判定方法では、判定情報記憶部に記憶された判定情報を利用して、運転者状態レベルを容易に判定できる。

本発明の第１７観点に係る運転者状態判定方法は、第１６観点の運転者状態判定方法において、所定のタイミングで、脳機能賦活情報検知ステップ、脳機能賦活情報提供ステップ、又は、前記機器変化量検出ステップ及び前記脳活動関連変化量抽出ステップ、並びに、顔面変化情報取得ステップ、顔面変化情報分解ステップ、及び判定用成分抽出ステップを実行し、脳機能賦活情報又は前記脳活動関連変化量に関連する成分を基準判定用成分として抽出する。

第１７観点に係る運転者状態判定方法では、所定のタイミングで、対象者の顔面変化情報から基準判定用成分を抽出するので、その後の対象者の運転者状態を高精度に判定できる。

本発明の第１８観点に係る運転者状態判定方法は、第１６観点又は第１７観点の運転者状態判定方法において、運転者状態判定ステップが、運転者状態レベルを判定する際に、判定情報提供装置にアクセスする。ここで、判定情報記憶部は、ネットワーク上の判定情報提供装置に格納されている。

第１８観点に係る運転者状態判定方法では、外部ネットワーク上の判定情報提供装置に記憶された基準判定用成分を用いて運転者状態を判定するので、基準設定作業を簡略化できる。また、上記方法により、例えばビッグデータを用いた運転者状態の判定を実現できる。

本発明の第１９観点に係る運転者状態判定方法は、第１８観点の運転者状態判定方法において、基準相関値が、対象者以外の者に、脳機能賦活情報を提供して得られた基準判定用成分に基づいて算出されるものである、又は正常運転時の脳活動関連変化量から得られた基準判定用成分に基づいて算出されるものである。

第１９観点に係る運転者状態判定方法では、対象者以外の者から得られたビッグデータ又は正常運転時に得られたビッグデータ等を利用して、運転者状態の判定を実現できる。

第１観点に係る運転者状態判定装置では、機器を運転する対象者の運転者状態を容易に判定できる。

第２観点に係る運転者状態判定装置では、機器を運転する対象者の運転者状態を容易に判定できる。

第３観点に係る運転者状態判定装置では、機器を運転する対象者の運転者状態を容易に判定できる。

第４観点に係る運転者状態判定装置では、機器を運転する対象者の運転者状態を容易に判定できる。

第５観点に係る運転者状態判定装置では、判定の信頼性を高めることができる。

第６観点に係る運転者状態判定装置では、運転者状態レベルを容易に判定できる。

第７観点に係る運転者状態判定装置では、ネットワーク上の判定情報提供装置を利用して、対象者の運転者状態レベルを判定できる。

第８観点に係る運転者状態判定装置では、自動車、鉄道車両、飛行機、原子力発電機器、各種プラントを含む自動機械を運転する対象者の運転者状態を判定できる。

第９観点に係る運転者状態判定装置では、自動車、鉄道車両、飛行機、原子力発電機器、各種プラントを含む自動機械を運転する対象者の運転者状態を判定できる。

第１０観点に係る運転者状態判定装置では、自動車、鉄道車両、及び飛行機を含む交通機器を運転する対象者の運転者状態を加速度に基づいて判定できる。

第１１観点に係る運転者状態判定装置では、簡便に操縦士の脳活動を推定することができる。

第１２観点に係る運転者状態判定装置では、操縦士の操縦に対する意識レベルを解析することができる。

第１３観点に係る運転者状態判定装置では、操縦士の意識レベルが低下した場合に、操縦士に注意を促すことができる。

第１４観点に係る運転者状態判定装置では、管理者が操縦士の生理状態を知ることができる。

第１５観点に係る運転者状態判定方法では、機器を運転する対象者の運転者状態を容易に判定できる。

第１６観点に係る運転者状態判定方法では、運転者状態レベルを容易に判定できる。

第１７観点に係る運転者状態判定方法では、所定のタイミング後の対象者の運転者状態を高精度に判定できる。

第１８観点に係る運転者状態判定方法では、基準設定作業を簡略化できる。

第１９観点に係る運転者状態判定方法では、ビッグデータ等を利用して、運転者状態の判定を実現できる。

撮影画像データ及びこれを解析した結果の一例を示す図。 顔面皮膚温度データを解析した結果の一部を示す図。 顔面皮膚温度データを解析した結果の一部を示す図。 成分２の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図。 成分３の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図。 対照実験で得られた顔面皮膚温度データを解析した結果の一部を示す図。 顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 顔面の撮影画像データに基づく成分波形を解析した結果の一部を示す図。 顔面皮膚温度データに基づく成分波形を解析した結果の一部を示す図。 本発明の一実施形態に係る脳活動可視化装置の概略図。 脳活動可視化装置において脳機能を反映した皮膚温度の変化を示す成分を同定する際の処理の流れを示すフローチャート。 本発明の一実施形態に係る脳活動可視化装置の概略図。 脳活動可視化装置において脳機能を反映した顔面のＲＧＢ変化を示す成分を同定する際の処理の流れの一例を示すフローチャート。 第１実施形態に係る運転者状態判定装置４００の構成を示す模式図。 第１実施形態に係る判定情報データベース４３２の構成を示す模式図。 第１実施形態に係る運転者状態判定装置４００の動作を示すフローチャート。 第１実施形態に係る運転者状態判定装置４００の動作を示すフローチャート。 第１実施形態に係る運転者状態判定装置４００の具体的構成の例を示す図。 第１実施形態に係る運転者状態判定装置４００において赤外線カメラ４１５ａを用いた例を示す図。 第１実施形態に係る運転者状態判定装置４００の変形例の構成を示す模式図。 第１実施形態に係る運転者状態判定装置４００の変形例の動作を示すフローチャート。 第２実施形態に係る運転者状態判定装置４００Ａの構成を示す模式図。 第２実施形態に係る運転者状態判定装置４００Ａの動作を示すフローチャート。 第２実施形態に係る運転者状態判定装置４００Ａの動作を示すフローチャート。 第２実施形態に係る運転者状態判定装置４００Ａの変形例の構成を示す模式図。 第２実施形態に係る運転者状態判定装置４００Ａの変形例の動作を示すフローチャート。 第３実施形態に係る運転者状態判定装置４００Ｂの構成を示す模式図。 第３実施形態に係る運転者状態判定装置４００Ｂの動作を示すフローチャート。 第３実施形態に係る運転者状態判定装置４００Ｂの動作を示すフローチャート。 第３実施形態に係る運転者状態判定装置４００Ｂの変形例の構成を示す模式図。 第３実施形態に係る運転者状態判定装置４００Ｂの変形例の動作を示すフローチャート。 第３実施形態に係る運転者状態判定方法の検証結果を示す図。 第３実施形態に係る運転者状態判定方法の検証結果を示す図。 第４実施形態に係る運転者状態判定装置の利用例を示す図。

本発明の実施形態を説明する前に、まず、本発明者らが本発明を為すにあたって重要な基礎となった、本発明者らによる知見について説明する。

（１）本発明者らによる知見の要点
人間の脳活動には、人間の知的活動（認知活動等）及び情動活動（快／不快等の活動）が反映されていることが知られている。そして、従来より、人間の脳活動を推定する試みがされているが、この場合、脳波計測法、磁気共鳴画像法及び近赤外線分光法のいずれかの方法によって検出されたデータが利用されることが多い。

ここで、検出方法として、例えば、脳波計測法が採用される場合には、被験者に対して脳波電極を装着する必要がある。そして、脳波電極を装着する際には皮膚と電極との間の抵抗を小さくする必要があるため、皮膚を研磨する処理を行ったり電極にペーストを塗布したりする等の作業が必要になる。また、磁気共鳴画像法が採用される場合には、ＭＲＩ室以外での測定が不可能であるとともに、測定室内に金属を持ち込むことができない等の測定条件に制約がある。さらに、近赤外線分光法が採用される場合には、被験者に対してプローブを装着する必要があるが、プローブを長時間装着することで被験者が痛みを感じたり、被験者の髪とプローブとの接触具合によっては正確に検出できなかったりすることがある。このように、人間の脳活動を測定するために従来の検出方法が採用される場合、脳波電極やプローブ等を装着する際の前処理が必要であったり、測定条件が限定されたりする等、被験者に与える負担が大きくなる。

したがって、被験者の負担を軽減し、かつ簡便に人間の脳活動を推定できる手段の開発が求められている。

そして、本発明者らは、人間の顔面の皮膚温度又は顔面の皮膚温度に比例すると考えられている顔面の血行状態に基づき人間の脳活動を推定することができるのではないか、と考えた。人間の顔面の皮膚温度であればサーモグラフィ等の測定装置を用いることで取得することができ、顔面の血行状態すなわち顔面の血行量であれば撮影装置を利用して得られる顔面の撮影画像のＲＧＢデータから推定することができる。このように、顔面の皮膚温度や顔面の撮影画像であれば、脳波電極やプローブ等の装着前に処理が必要なセンサを装着することなく取得することができる。

一方で、人間の顔面の皮膚温度は、外気温度及び／又は自律神経の活動等の様々な要因の影響を受けて変化することが知られている。このため、顔面の皮膚温度に基づいて又は顔面の皮膚温度に比例すると考えられる顔面の血行量に基づいて脳活動を推定しようとすると、取得したデータが脳活動のみを反映しているかどうかを判断することは、非常に困難であると考えられる。

本発明者らは、鋭意検討した結果、顔面の皮膚温度を検出し、検出した温度データ及び検出部位の位置データ（座標データ）を含む時系列の顔面皮膚温度データを、或いは、時系列の顔面の撮影画像データから得られるＲＧＢデータに基づき算出された時系列の顔面の血行量データを、特異値分解法、主成分分析法若しくは独立成分分析法を用いて複数の成分に分解し、分解した複数の成分について解析を行うことで、脳活動を反映した顔面の皮膚温度の変化或いは顔面の血行量の変化を示す成分を同定することができることを見いだした。そして、本発明者らは、対象者の脳活動を推定し、これを解析することで、推定した脳活動に基づき対象者の生理状態を可視化することのできる本発明に到達した。

（２）顔面の各種データの取得方法、及び取得した各種データの解析方法
（２−１）顔面皮膚温度データの取得方法、及び顔面皮膚温度データの解析方法
次に、本発明者らが上記の知見を得るに際して用いた顔面皮膚温度データの取得方法、及び顔面皮膚温度データの解析方法について説明する。

この試験では、６名の被験者から顔面皮膚温度データを取得した。具体的には、室温２５℃を維持した人工気象室内に設置した椅子に被験者を座らせて、赤外線サーモグラフィ装置を用いて、被験者の顔面全体から顔面皮膚温度データを取得した。赤外線サーモグラフィ装置は、対象物から出ている赤外線放射エネルギーを赤外線カメラで検出し、検出した赤外線放射エネルギーを対象物表面の温度（ここでは、摂氏での温度）に変換して、その温度分布を顔面皮膚温度データ（例えば、温度分布を表した画像データ）として表示、蓄積することが可能な装置である。なお、この試験では、赤外線サーモグラフィ装置として、NEC Avio 赤外線テクノロジー株式会社製のR300を使用した。また、赤外線カメラは、被験者の正面であって、被験者から１．５ｍ離れた地点に設置した。そして、顔面皮膚温度データは、３０分間取得した。

また、この試験では、顔面皮膚温度データを取得している間に、被験者に対して脳機能賦活課題を与えた。これにより、脳の非賦活時の顔面皮膚温度データ、及び脳の賦活時の顔面皮膚温度データを取得した。脳機能賦活課題としては、被験者が表示装置等に表示された映像に基づいて、計算、又は、数値、形状及び色の認知、或いは、記号、文字ないし言語の記憶などの心理的作業が挙げられる。この試験では、脳機能賦活課題として「かけ算の暗算」を採用し、被験者に、表示装置に筆算形式で表示される数字を計算させ、その回答をキーボードに入力させる作業を課した。なお、この試験では、顔面皮膚温度データの取得開始から５分経過後から１０分間継続して、被験者に対して脳機能賦活課題を与えた。

顔面皮膚温度データの解析としては、取得した顔面皮膚温度データを対象として、ＭＡＴＬＡＢ（登録商標）のＳＶＤ（Singular Value Decomposition）を分析ツールとして用いて特異値分解を行った。特異値分解では、時系列で取得した全ての顔面皮膚温度データ（３０分間のデータ）を対象とし、要因を３０秒毎の時間データ（３０分間で６０ time point）とし、測度をその期間（３０秒間）における顔面皮膚温度データ（２４０×３２０ pixels）とした。そして、特異値分解により、顔面皮膚温度データＸを、複数の成分に分解し、それぞれの成分の時間分布Ｖと、空間分布Ｕと、各成分の大きさを示す特異値Ｓとを算出した。なお、これらの関係は、以下の式で表される。また、Ｖ’は、Ｖの行と列とを入れ替えた行列である。

そして、特異値分解によって求められた各成分の時間分布Ｖ及び空間分布Ｕをグラフにプロットし、各成分の成分波形図と温度分布図とを作成した。

さらに、作成した各成分の成分波形図及び温度分布図について、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。

各成分の成分波形図については、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、脳の非賦活期間／脳の賦活期間との間に相関関係があるか否かを評価した。この試験では、顔面皮膚温度データを取得している期間のうち、被験者に対して脳機能賦活課題が与えられていない期間であるデータ取得開始時点から５分が経過した時点までの５分間の期間、及びデータ取得開始時から１５分が経過した時点からデータ取得終了時点までの１５分間の期間を脳の非賦活時とし、被験者に対して脳機能賦活課題が与えられている期間であるデータ取得開始時から５分が経過した時点から１０分が経過した時点までの１０分間の期間を脳の賦活時とした。そして、各成分の成分波形図に示された振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準（α）が０．０５以下の場合に相関があると判断した。

各成分の温度分布図については、顔面の所定部位における温度変化の有無について解析した。ここで、脳には、選択的脳冷却機構（Selective Brain Cooling System）という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び副鼻腔周辺（眉間及び鼻部周辺を含む）を用いて排熱していることが知られている。そこで、この試験では、各成分の温度分布図において、副鼻腔周辺及び前額部における温度変化があるか否かを評価した。なお、温度分布図における副鼻腔周辺及び前額部の温度変化の有無については、目視（visual inspection）による温度変化の有無、もしくは副鼻腔周辺及び前額部の温度が測定データ全体の平均温度から１標準偏差（ＳＤ）以上異なるか否かを温度変化の有無の基準とした。

なお、空間分布Ｕ、特異値Ｓ及び時間分布Ｖの値の関係で、顔面皮膚温度データＸの極性（プラスマイナス）が決定するため、各成分の成分波形図及び温度分布図において極性が反転して現れることがある。このため、成分波形図及び温度分布図の評価に関して、極性については評価対象としないこととした。

ここで、この赤外線サーモグラフィ装置では、上述しているように、対象物から検出された赤外線放射エネルギーを温度に変換して、その温度分布を顔面皮膚温度データとしている。ところで、人間を対象として赤外線サーモグラフィ装置を用いて顔面の皮膚温度を取得する場合、顔面の動き及び／又は自律神経の活動等の様々な脳活動とは関連しない温度変化（いわゆるノイズ）についても顔面皮膚温度データとして取得してしまう（図１（ａ）参照）。そこで、このような脳活動とは関連しない温度変化を検出するために、３０秒毎の顔面皮膚温度データに含まれる温度データの全平均値を「０」とした相対的な顔面皮膚温度データを作成し、作成した顔面皮膚温度データについても、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行い、特異値Ｓに応じた各成分の成分波形図と温度分布図とを作成し、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。

なお、以下より、説明の便宜上、赤外線サーモグラフィ装置で取得した顔面皮膚温度データを「温度換算データに応じた顔面皮膚温度データ」といい、所定時間毎（この試験では３０秒毎）の温度換算データに応じた顔面皮膚温度データに含まれる温度データの全平均値を「０」とした相対的な顔面皮膚温度データを「相対温度換算データに応じた顔面皮膚温度データ」という。

また、６名の被験者のうちの１名に対しては、赤外線サーモグラフィ装置による顔面皮膚温度の検出の他に、被験者の頭皮上に電極を接続して脳波を測定し、覚醒時や意識が緊張した時に現れる波形として知られているβ波（１４〜３０Ｈｚの周波数の脳波）の振幅と、成分波形図の振幅との間の相関関係についても評価した。なお、脳波測定では、国際式１０−２０法に基づき、６つの部位（Ｆ３、Ｆ４，Ｃ３、Ｃ４、Ｃｚ、Ｐｚ）に電極を配置した。

ところで、被験者に脳機能賦活課題が与えられている間、被験者の頭が上下に動くことが考えられる。そうすると、赤外線カメラに対する被験者の顔面の位置が変化することになる。この顔面の位置の変化が皮膚温度の変化に影響しているか否かを検証するために、被験者１名に対して対照試験を行った。顔面皮膚温度データを取得する際の被験者の動きの影響を検証するための対照試験では、上記試験と同様に赤外線サーモグラフィ装置を用いて被験者の顔面皮膚温度データを取得するが、脳機能賦活課題が与えられていない間（すなわち、脳の非賦活時）についてもランダムなタイミングでキーボードを押す作業を被験者に課した。この対照実験によって得られた温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データについても、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行い、特異値Ｓに応じた各成分の成分波形図と温度分布図とを作成し、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。

（２−２）顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法
図１（ａ）は、撮影装置にて撮影した被験者の顔面の副鼻腔周辺の撮影画像データの一例を示す図である。図１（ｂ）は、血行量分布図（画像マップ）の一例を示す図である。

次に、本発明者らが上記の知見を得るに際して用いた顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法について説明する。

この試験では、６名の被験者から顔面の撮影画像データを取得した。具体的には、室温２５℃を維持した人工気象室内に設置した椅子に被験者を座らせて、時系列で画像を取得可能な撮影装置を用いて、被験者の顔面全体の副鼻腔周辺の撮影画像データを時系列で取得した。

また、上述した選択的脳冷却機構に基づくと、脳活動に伴う顔面皮膚温度に比例すると考えられる顔面の血行量の変化は、前額部及び／又は副鼻腔周辺に出現すると考えられる。このことから、本発明者らは、少なくとも前額部及び／又は副鼻腔周辺の顔面の血行量の変化を捉えることができれば、精度良く脳活動を推定することができる、と考えた。そして、この試験では、被験者の顔面の副鼻腔周辺の撮影画像データを時系列で取得した。

また、この試験では、撮影装置として、Apple社製のiPad Air（登録商標）の備える液晶画面側の撮影装置を使用し、時系列の撮影画像データとしてカラーの動画データを取得した。また、撮影装置を、被験者の正面側であって、被験者から１．０ｍ離れた地点に設置した。そして、撮影装置によって、３０フレーム／秒の撮影周期で時間軸に沿って３０分間の撮影画像データを連続撮影することで、顔面の動画データを得た。

さらに、この試験では、顔面の動画データを取得している間に、被験者に対して脳機能賦活課題を与えた。これにより、脳の非賦活時の顔面の動画データ、及び脳の賦活時の顔面の動画データを取得した。この試験では、上記試験と同様に、脳機能賦活課題として「かけ算の暗算」を採用し、被験者に、表示装置に筆算形式で表示される数字を計算させ、その回答をキーボードに入力させる作業を課した。なお、この試験では、顔面の動画データの取得開始から５分経過後から１０分間継続して、被験者に対して脳機能賦活課題を与えた。

顔面の動画データの解析としては、撮影した顔面の動画データより得られたＲＧＢデータに基づき血行量データを算出し、算出した時系列の血行量データを対象として、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行った。ここでは、ＣＩＥ−Ｌ^*ａ^*ｂ^*表色系に従って、画像のＲＧＢデータより演算される肌の赤みやヘモグロビン量と相関のある紅斑指数「ａ^*」を求め、これを血行量データとした。また、特異値分解では、時系列で取得した全ての動画データ（３０分間のデータ）から得られたＲＧＢデータに基づく血行量データ（ここでは、紅斑指数）を対象とし、要因を３０秒毎の時間データ（３０分間で６０ time point）とし、測度をその期間（３０秒毎）におけるＲＧＢデータから演算した紅斑指数（３０秒毎に１秒間のフレームデータを取り出し、該フレームデータから得られるＲＧＢ値の平均値から演算した紅斑指数；２４０×３２０ pixels）とした。そして、特異値分解により、顔面の動画データより得られたＲＧＢデータに基づく時系列の血行量データを、複数の成分に分解し、それぞれの成分の時間分布Ｖと、空間分布Ｕと、各成分の大きさを示す特異値Ｓとを算出した。なお、これらの関係は、上記式（数１）と同様の式で表される。

そして、特異値分解によって求められた各成分の時間分布Ｖ及び空間分布Ｕをグラフにプロットし、各成分の成分波形図と血行量分布図とを作成した。

さらに、作成した各成分の成分波形図及び血行量分布図について、脳活動を反映した顔面の血行量の変化すなわち顔面のＲＧＢ変化を示す成分を同定するための解析を行った。

各成分の成分波形図については、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、脳の非賦活期間／脳の賦活期間との間に相関関係があるか否かを評価した。この試験では、顔面の撮影画像データを取得している期間のうち、被験者に対して脳機能賦活課題が与えられていない期間であるデータ取得開始時点から５分が経過した時点までの５分間の期間、及びデータ取得開始時から１５分が経過した時点からデータ取得終了時点までの１５分間の期間を脳の非賦活時とし、被験者に対して脳機能賦活課題が与えられている期間であるデータ取得開始時から５分が経過した時点から１０分が経過した時点までの１０分間の期間を脳の賦活時とした。そして、各成分の成分波形図に示された振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準（α）が０．０１以下の場合に相関があると判断した。

各成分の血行量分布図については、顔面の所定部位における血行量変化の有無について解析した。血行量分布図は、ピクセル毎に算出された空間分布Ｕを各ピクセルの位置に並べることで作成される。このように作成された各成分の血行量分布図において、副鼻腔周辺及び前額部における血行量の変化があるか否かを評価した。なお、血行量分布図における副鼻腔周辺及び前額部の血行量変化の有無については、目視（visual inspection）による血行量変化の有無、もしくは図１（ｂ）に示す副鼻腔周辺及び前額部の血行量の値が「0.000」でないことを血行量変化の有無の基準とした。

なお、空間分布Ｕ、特異値Ｓ及び時間分布Ｖの値の関係で、血行量データＸの極性（プラスマイナス）が決定するため、各成分の成分波形図及び血行量分布図において極性が反転して現れることがある。このため、成分波形図及び血行量分布図の評価に関して、極性については評価対象としないこととした。

さらに、顔面の皮膚温度と顔面の血行量との相関関係を検証するために、６名の被験者から顔面の撮影画像データを時系列で取得している間、赤外線サーモグラフィ装置により顔面皮膚温度データも時系列で取得し、取得した顔面皮膚温度データについてもＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行い、特異値Ｓに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。なお、この試験では、赤外線サーモグラフィ装置として、上記試験と同様の装置を用いた。また、赤外線カメラは、被験者の正面であって、被験者から１．５ｍ離れた地点に設置した。

ところで、撮影装置を用いて顔面の撮影画像データを取得する場合、撮影中に太陽の光等が顔に当たることで光が顔で反射し、この反射光が撮影装置のレンズに入り込んでしまうことがある。そうすると、撮影された顔面の撮影画像データにはこの反射光が記録されてしまうことになる。ここで、撮影画像データから得られるＲＧＢデータにおいて、顔面の血行量に基づく明度の変化は反射光に基づく明度の変化よりも小さいため、反射光の記録された撮影画像データから得られるＲＧＢデータに基づいて算出された血行量が解析されると、脳活動とは関連しない顔面のＲＧＢ変化（いわゆるノイズ）が混入してしまう可能性があると考えられた。そこで、このような脳活動とは関連しない顔面のＲＧＢ変化の混入を防ぐために、３０秒毎のＲＧＢデータの全平均値を「０」とした相対的なＲＧＢデータから相対的な血行量データを作成し、作成した血行量データについても、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行い、特異値Ｓに応じた各成分の成分波形図と血行量分布図とを作成し、脳活動を反映した顔面のＲＧＢ変化を示す成分を同定するための解析を行った。

なお、以下より、説明の便宜上、所定時間毎（この試験では３０秒毎）のＲＧＢデータの全平均値を「０」とした相対的なＲＧＢデータに基づく相対的な血行量データを「相対換算血行量データ」といい、相対的なＲＧＢデータに換算する前のＲＧＢデータに基づく血行量データを単に「血行量データ」という。

また、６名の被験者に対して撮影装置によって顔面の時系列の撮影画像データを取得している間、各被験者の頭皮上に電極を接続して脳波を測定し、覚醒時等の脳細胞が活動している時に現れる波形として知られているβ波（１３〜３０Ｈｚの周波数の脳波）の振幅と、成分波形図の振幅との間の相関関係についても評価した。なお、脳波測定では、国際式１０−２０法に基づき、頭皮上１９の部位（Ｆｐ１、Ｆｐ２、Ｆ３、Ｆ４、Ｃ３、Ｃ４、Ｐ３、Ｐ４、Ｏ１、Ｏ２、Ｆ７、Ｆ８、Ｔ３、Ｔ４、Ｔ５、Ｔ６、Ｆｚ、Ｃｚ及びＰｚ）に電極を配置した。

さらに、被験者に脳機能賦活課題が与えられている間、被験者の頭が上下に動くことが考えられる。そうすると、撮影装置に対する被験者の顔面の位置が変化することになる。この顔面の位置の変化が顔面のＲＧＢ変化に影響しているか否かを検証するために、被験者１名に対して対照試験を行った。対照試験では、上記試験と同様に撮影装置を用いて被験者の顔面の時系列の撮影画像データを取得するが、脳機能賦活課題が与えられていない間（すなわち、脳の非賦活時）についてもランダムなタイミングでキーボードを押す作業を被験者に対して課した。この対照実験によって撮影された顔面の時系列の撮影画像データから得られたＲＧＢデータに基づく時系列の血行量データについても、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行い、特異値Ｓに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。また、各成分波形の振幅と、実際の顔面の動きとの相関関係の有無について解析した。実際の顔面の動きは、撮影画像データから顔の同一箇所の２次元座標を取得し、対照実験開始時の撮影画像データを基準として撮影時における３０秒毎の顔面の移動距離を算出することで評価した。さらに、各成分波形の振幅と、撮影中のキーボードの入力数との相関関係の有無についても解析した。撮影中のキーボードの入力数は、時系列の撮影画像データにおける３０秒毎の単純移動平均を算出することで評価した。

（３）解析結果
（３−１）顔面皮膚温度データの解析結果
図２は、温度換算データに応じた顔面皮膚温度データを解析した結果の一部を示す図である。図２（ａ）は、被験者１の成分２の成分波形図を示している。図２（ｂ）は、被験者１の成分２の温度分布図を示している。図３（ａ）は、被験者１の成分３の成分波形図を示している。図３（ｂ）は、被験者１の成分３の温度分布図を示している。図４及び図５は、成分波形の振幅と、脳波との関係を示す図である。図４は、被験者１の成分２の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図である。図５は、被験者１の成分３の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図である。図６は、対照実験で得られた顔面皮膚温度データを解析した結果の一部を示す図である。図６（ａ）は、成分３の成分波形図を示している。図６（ｂ）は、成分３の温度分布図を示している。

表１は、各被験者に対する顔面皮膚温度データの解析結果を示したものである。

上記の顔面皮膚温度データの解析によって得られた結果から、時系列の顔面皮膚温度データを特異値分解により分解して得られた複数の成分のうち、成分２及び／又は成分３と、人間の脳活動との間に有意な相関があることが確認された。

また、図４及び図５に示すように、脳波解析の結果から、成分２及び成分３の各成分波形の振幅と、脳波のβ波の振幅との間に有意な相関が確認された。

さらに、対照実験では、顔面皮膚温度データを取得している間に被験者に動きがある状態であっても、成分３と人間の脳活動との間に有意な相関があった（図６参照）。このことから、複数の成分のうち、成分３については、顔面皮膚温度データを取得する際の被験者の動きが影響していないことが認められた。

これらの結果から、本発明者らは、以下の知見を得た。

被験者から取得した時系列の顔面皮膚温度データを特異値分解により複数の成分に分解し、分解した各成分について解析した結果、複数の成分のうちの成分３が脳活動に関連する成分であると認められた。すなわち、時系列の顔面皮膚温度データを特異値分解により複数の成分に分解し、分解した複数の成分から脳の賦活／非賦活と相関のある成分を抽出し、抽出した成分について選択的脳冷却機構を利用した解析を行うことで、複数の成分から脳活動を反映した皮膚温度の変化を示す成分を同定することができることが判明した。このことから、本発明者らは、人間の顔面の皮膚温度に基づいて、脳活動を推定することができる、という知見を得た。

（３−２）顔面の撮影画像データの解析結果
図７〜図１８は、顔面の撮影画像データ（血行量データ）又は顔面皮膚温度データに基づく成分波形図を解析した結果の一部を示す図である。図７は、被験者１の撮影画像データに基づく成分２の成分波形の振幅と、測定された被験者１の脳波のうちのβ波の振幅とを示す図である。図８は、被験者１の顔面皮膚温度データに基づく成分２の成分波形の振幅と、測定された被験者１の脳波のうちのβ波の振幅とを示す図である。図９は、被験者２の撮影画像データに基づく成分２の成分波形の振幅と、測定された被験者２の脳波のうちのβ波の振幅とを示す図である。図１０は、被験者２の顔面皮膚温度データに基づく成分２の成分波形の振幅と、測定された被験者２の脳波のうちのβ波の振幅とを示す図である。図１１は、被験者３の撮影画像データに基づく成分４の成分波形の振幅と、測定された被験者３の脳波のうちのβ波の振幅とを示す図である。図１２は、被験者３の顔面皮膚温度データに基づく成分３の成分波形の振幅と、測定された被験者３の脳波のうちのβ波の振幅とを示す図である。図１３は、被験者４の撮影画像データに基づく成分３の成分波形の振幅と、測定された被験者４の脳波のうちのβ波の振幅とを示す図である。図１４は、被験者４の顔面皮膚温度データに基づく成分２の成分波形の振幅と、測定された被験者４の脳波のうちのβ波の振幅とを示す図である。図１５は、被験者５の撮影画像データに基づく成分２の成分波形の振幅と、測定された被験者５の脳波のうちのβ波の振幅とを示す図である。図１６は、被験者５の顔面皮膚温度データに基づく成分２の成分波形の振幅と、測定された被験者５の脳波のうちのβ波の振幅とを示す図である。図１７は、被験者６の撮影画像データに基づく成分４の成分波形の振幅と、測定された被験者６の脳波のうちのβ波の振幅とを示す図である。図１８は、被験者６の顔面皮膚温度データに基づく成分３の成分波形の振幅と、測定された被験者６の脳波のうちのβ波の振幅とを示す図である。

図７〜図１８に示すように、各成分波形と脳波解析との結果から、顔面の皮膚温度と顔面の血行量とが相関関係にあることが確認された。なお、顔面の皮膚温度データ及び顔面の血行量データのいずれのデータに基づく解析においても、各成分波形の振幅と、頭頂部又は後頭部に装着した電極が測定した脳波のβ波の振幅との間に有意な相関が確認された。

以下に示す表２は、各被験者に対する顔面の撮影画像データの解析結果を示したものである。

表２に示すように、上記の顔面の撮影画像データの解析によって得られた結果から、顔面の撮影画像データに基づく時系列の血行量データを特異値分解により分解して得られた複数の成分のうち、成分１，２，３，４，５と人間の脳活動との間に有意な相関があることが確認された。なお、ここでは、血行量データに基づく相関において有意な相関が見られかつ相対換算血行量データに基づく相関において有意な相関が見られた成分だけでなく、血行量データに基づく相関においては有意な相関が見られなかったが相対換算血行量データに基づく相関において有意な相関が見られた成分も、人間の脳活動と有意な相関があると認めるようにした。

また、以下に示す表３は、対照実験の結果を示したものである。

表３に示すように、対照実験では、顔面の撮影画像データを取得している間に被験者に動きがある場合、その成分波形の振幅と脳の非賦活時及び脳の賦活時との間に有意な相関のあった成分のうちの成分２については、移動距離及びキーボード入力数それぞれとの間に有意な相関が認められなかった。このことから、顔面の撮影画像データから取得したＲＧＢデータに基づく血行量データを特異値分解することで得られる複数の成分において、脳活動との間に有意な相関がある成分については、顔面の時系列の撮影画像データを取得する際の被験者の動きによる影響を受けたとしても、その影響は脳の脳活動による影響（脳の賦活や非賦活による影響）よりも遙かに小さいことが確認された。

これらの結果から、本発明者らは、以下の知見を得た。

被験者から取得した時系列の顔面の撮影画像データに基づく顔面のＲＧＢデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した各成分について解析した結果、複数の成分のうちの成分１，２，３，４，５が脳活動に関連する成分であると認められた。すなわち、時系列の顔面の撮影画像データに基づく顔面のＲＧＢデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した複数の成分から脳の賦活／非賦活と相関のある成分を抽出し、抽出した成分について解析することで、複数の成分から脳活動を反映した顔面のＲＧＢ変化を示す成分を同定することができることが判明した。このことから、本発明者らは、人間の顔面の時系列の撮影画像データに基づいて、脳活動を推定することができる、という知見を得た。

（４）脳活動可視化装置
次に、上記に説明した知見に基づいて、本発明者らが完成するに至った本発明の一実施形態に係る脳活動可視化装置１０，１１０について説明する。なお、本発明に係る脳活動可視化装置は、以下の実施形態に限定されるものではなく、要旨を逸脱しない範囲で適宜変更可能である。

本発明の一実施形態に係る脳活動可視化装置１０，１１０は、顔面皮膚温度データに基づき脳活動を推定する脳活動推定手段３０、及び／又は顔面の撮影画像データに基づき脳活動を推定する脳活動推定手段１３０を備えている。以下では、本発明の一実施形態に係る脳活動可視化装置１０，１１０を説明する前に、各脳活動推定手段３０，１３０について説明する。

（４−１）顔面皮膚温度データに基づき脳活動を推定する脳活動推定手段３０
図１９は、本発明の一実施形態に係る脳活動可視化装置１０の概略図である。図２０は、脳活動可視化装置１０において脳機能を反映した皮膚温度の変化を示す成分を同定する際の処理の流れを示すフローチャートである。

脳活動可視化装置１０の備える脳活動推定手段３０は、個人（被験者）の顔面の皮膚温度から、個人の脳活動を推定する。脳活動可視化装置１０は、図１９に示すように、顔面皮膚温度取得手段２０と、脳活動推定手段３０と、状態可視化手段２００と、を備える。

顔面皮膚温度取得手段２０は、個人の顔面の少なくとも一部の皮膚温度を検出し、検出した温度データ及びその検出部位の位置データを含む顔面皮膚温度データを時系列で取得する（ステップＳ１）。なお、ここでは、顔面皮膚温度取得手段２０は、赤外線サーモグラフィ装置であり、図１９に示すように、赤外線カメラ２１と、処理部２２と、を有する。赤外線カメラ２１は、個人の顔面から出ている赤外線放射エネルギーを検出するためのものである。そして、ここでは、赤外線カメラ２１は、個人の顔面全体から赤外線放射エネルギーを検出しているものとする。処理部２２は、赤外線カメラ２１によって検出した赤外線放射エネルギーを温度に変換して温度データとし、赤外線放射エネルギーの検出された部位を位置データ（座標データ）とした顔面全体における顔面皮膚温度の温度分布図を作成し、作成した温度分布図を温度換算データに応じた顔面皮膚温度データとして処理する。温度換算データに応じた顔面皮膚温度データは、処理部２２の有する記憶部（図示せず）に蓄積される。

ここでは、処理部２２において、顔面全体における顔面皮膚温度の温度分布図が作成されているが、これに限定されず、少なくとも副鼻腔周辺及び／又は前額部を含む顔面皮膚温度の温度分布図が作成され、これが温度換算データに応じた顔面皮膚温度データとされてもよい。

また、ここでは、顔面皮膚温度取得手段２０により温度換算データに応じた顔面皮膚温度データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられる。すなわち、顔面皮膚温度取得手段２０により取得される温度換算データに応じた顔面皮膚温度データには、個人に対して脳機能賦活課題が与えられている期間のデータが含まれていることになる。なお、個人に対して与えられる脳機能賦活課題としては、脳が賦活状態になると推定されるものであれば特に限定されるものではなく、例えば、脳活動可視化装置１０の利用目的に応じてその内容が適宜決定されるよう構成されていてもよい。

脳活動推定手段３０は、顔面皮膚温度取得手段２０により取得された温度換算データに応じた顔面皮膚温度データに基づき、人間の脳活動を推定する。具体的には、脳活動推定手段３０は、図１９に示すように、換算部３１と、解析部３２と、推定部３３と、を有する。

換算部３１は、温度換算データに応じた顔面皮膚温度データに含まれる温度データを相対的な温度データに換算し、換算した相対的な温度データに基づく顔面皮膚温度データすなわち相対温度換算データに応じた顔面皮膚温度データを作成する（ステップＳ２）。具体的には、換算部３１は、所定時間毎（例えば、３０秒）の温度換算データに応じた顔面皮膚温度データに含まれる温度データの平均値を基準値として、該温度データを相対的な温度データに換算する。そして、換算部３１は、換算した相対的な温度データ及び位置データを利用して、相対温度換算データに応じた顔面皮膚温度データを作成する。

解析部３２は、時系列の温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データのそれぞれを、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する（ステップＳ３）。ここでは、解析部３２は、取得した温度換算データに応じた顔面皮膚温度データ及び換算した相対温度換算データに応じた顔面皮膚温度データのそれぞれを対象として、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて、特異値分解を行う。特異値分解は、時系列で取得した温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データについて、要因を所定期間（例えば、３０秒）毎の時間データとし、測度をその期間における温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データとして行われる。そして、特異値分解により、温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データのそれぞれを複数の成分に分解し、時間分布と、空間分布と、各成分の大きさを示す特異値とを算出する。

また、解析部３２は、特異値分解によって分解した複数の成分から脳活動を反映した皮膚温度の変化を示す成分を同定するために、各成分が第１条件及び第２条件を満たすか否かを判定する（ステップＳ４ａ、ステップＳ４ｂ、ステップＳ５ａ、及びステップＳ５ｂ）。なお、ここでは、解析部３２において、まず、温度換算データに応じた顔面皮膚温度データに基づく各成分について第１条件が満たされているか否かが判定され（ステップＳ４ａ）、ステップＳ４ａにおいて第１条件が満たされていると判定された温度換算データに応じた顔面皮膚温度データに基づく成分について第２条件が満たされているか否かが判定される（ステップＳ４ｂ）。そして、相対温度換算データに応じた顔面皮膚温度データに基づく各成分のうちステップＳ４ａ及びステップＳ４ｂにおいて第１条件及び第２条件を満たすと判定された成分と一致する成分についてのみ第１条件が満たされているか否かが判定され（ステップＳ５ａ）、その後、ステップＳ５ａにおいて第１条件が満たされていると判定された相対温度換算データに応じた顔面皮膚温度データに基づく成分について第２条件が満たされているか否かが判定される（ステップＳ５ｂ）。しかしながら、解析部３２における該判定の順序はこれに限定されるものではなく、例えば、温度換算データに応じた顔面皮膚温度データに基づく各成分と、相対温度換算データに応じた顔面皮膚温度データに基づく各成分とが、第１条件及び第２条件を満たすか否かがそれぞれ判定され、判定結果の一致する成分が最終的に抽出されてもよい。

第１条件とは、特異値分解によって分解した成分の成分波形の振幅が、脳の非賦活時及び脳の賦活時の変化と相関関係にある、という条件である。解析部３２は、複数の成分のうち、第１条件を満たす成分を、判定用成分として抽出する。なお、ここでは、温度換算データに応じた顔面皮膚温度データを取得している間に、個人に対して脳機能賦活課題が与えられている期間が一定期間ある。解析部３２は、個人に対して脳機能賦活課題が与えられていない期間を脳の非賦活時とし、個人に対して脳機能賦活課題が与えられている期間を脳の賦活時として、脳機能賦活課題が与えられている期間及び与えられていない期間と、各成分の成分波形とを比較解析する。解析部３２は、成分波形データに基づく比較解析結果を利用して、各成分の成分波形と脳の非賦活時及び脳の賦活時とが相関関係にあるか否かを評価し、複数の成分のうち相関関係にあると評価した成分を、第１条件を満たす判定用成分として抽出する。一方、解析部３２は、複数の成分のうち相関関係にないと評価した成分を、第１条件を満たさず人間の脳活動を反映した温度変化を示す成分ではないと判定する（ステップＳ６）。

ここでは、温度換算データに応じた顔面皮膚温度データの取得時に個人に対して脳機能賦活課題が一定期間与えられており、これに基づき解析部３２は判定用成分を抽出しているが、第１条件の内容、すなわち解析部３２における判定用成分の抽出手段はこれに限定されない。例えば、予め実験等がされていることで複数の成分のうち脳の非賦活時及び脳の賦活時と相関関係にある成分波形を示す成分が特定されている場合には、解析部３２は、複数の成分から特定されている該成分を判定用成分として抽出する。また、本脳活動可視化装置において眼球運動又はまたたき等の脳の賦活／非賦活に関連することが知られている人間の動作が検出される場合には、解析部３２が、この検出結果と各成分の成分波形とを比較解析及び評価することで、複数の成分から判定用成分を抽出してもよい。なお、解析部３２による第１条件を満たすか否かの判定の基準は、脳活動可視化装置１０の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。

第２条件は、抽出した判定用成分において、人間の顔面の所定部位における温度変化がある、という条件である。解析部３２は、判定用成分のうち、第２条件を満たす成分を、人間の脳活動に関連している可能性の高い成分と判定し、候補成分として抽出する。すなわち、解析部３２は、人間の顔面の所定部位における温度変化の有無に基づき、判定用成分が人間の脳活動に関連しているか否かを判定する。具体的には、解析部３２は、抽出した判定用成分の温度分布データに基づき、副鼻腔周辺及び／又は前額部において温度変化が生じているか否かを判定し、温度変化が生じている場合には該判定用成分が第２条件を満たす人間の脳活動に関連する可能性の高い成分であると判定し、候補成分として抽出する。一方で、解析部３２は、副鼻腔周辺及び／又は前額部において温度変化が生じていない場合には、該判定用成分は第２条件を満たさず脳活動を反映した皮膚温度の変化を示す成分ではない、と判定する（ステップＳ６）。なお、解析部３２による第２条件を満たすか否かの判定の基準は、脳活動可視化装置１０の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。

そして、解析部３２は、ステップＳ５ｂにおいて第２条件を満たすと判定した成分を、脳活動を反映した皮膚温度の変化を示す成分として同定する（ステップＳ７）。すなわち、ステップＳ７において脳活動を反映した皮膚温度の変化を示す成分として同定される成分は、温度換算データに応じた顔面皮膚温度データを特異値分解により分解し解析することで抽出された候補成分と、相対温度換算データに応じた顔面皮膚温度データを特異値分解により分解し解析することで抽出された候補成分と、の間で一致している成分ということになる。なお、両解析で一致していない候補成分については、ステップＳ６において脳活動を反映した皮膚温度の変化を示す成分ではない、と判定されている。

推定部３３は、解析部３２において人間の脳活動を反映した皮膚温度の変化を示す成分として同定された成分に基づいて、人間の脳活動を推定する。具体的には、推定部３３は、解析部３２において同定された成分の成分波形データに基づいて、顔面皮膚温度データの取得時における脳活動量を推定する。

（４−１−１）変形例１Ａ
上記脳活動推定手段３０は換算部３１を有しており、換算部３１によって相対温度換算データに応じた顔面皮膚温度データが作成されている。そして、解析部３２が、顔面皮膚温度取得手段２０により取得された温度換算データに応じた顔面皮膚温度データだけでなく、相対的な温度データに換算された温度データに基づく相対温度データに応じた顔面皮膚温度データについても、特異値分解により複数の成分に分解し、各成分についての解析を行っている。

これに代えて、脳活動推定手段３０が換算部３１を有していなくてもよい。この場合、相対温度換算データに応じた顔面皮膚温度データを作成したり、相対温度換算データに応じた顔面皮膚温度データに基づくデータの解析を行ったりする処理を省くことができる。

ただし、人間の脳活動に関連する成分を精度よく同定するためには、上記実施形態のように脳活動推定手段３０が換算部３１を有しており、解析部３２によって、顔面皮膚温度取得手段２０により取得された温度換算データに応じた顔面皮膚温度データだけでなく、相対的な温度データに換算された温度データに基づく相対温度データに応じた顔面皮膚温度データについても、特異値分解により複数の成分に分解され、各成分についての解析が行われるほうが望ましい。

（４−１−２）変形例１Ｂ
また、上記顔面皮膚温度取得手段２０は、対象物と非接触の状態で温度データを取得することができる赤外線サーモグラフィ装置である。

しかしながら、個人の顔面の少なくとも一部の皮膚温度を検出し、検出した温度データ及びその検出部位の位置データを含む顔面皮膚温度データを時系列で取得することができれば、顔面皮膚温度取得手段は赤外線サーモグラフィ装置に限定されない。

例えば、顔面皮膚温度取得手段が温度センサを含む装置であってもよい。具体的には、個人の顔面の所定部位に温度センサを装着し、温度センサによって検出される温度データと、温度センサを装着した部位の位置データとに基づいて、時系列の顔面皮膚温度データが取得されてもよい。このように、温度センサにより対象となる個人に接触した状態で顔面皮膚温度データが取得される場合であっても、温度センサは脳波電極等のように装着前の処理が必要ではないため、脳波計測法、磁気共鳴画像法、及び近赤外線分光法等の従来の検出方法と比較して、簡便にデータを取得することができる。これにより、簡便に人間の脳活動を推定することができる。

（４−２）顔面の撮影画像データに基づき脳活動を推定する脳活動推定手段１３０
図２１は、本発明の実施形態に係る脳活動可視化装置１１０の概略図である。図２２は、脳活動可視化装置１１０において脳機能を反映した顔面のＲＧＢ変化を示す成分を同定する際の処理の流れの一例を示すフローチャートである。

脳活動可視化装置１１０の備える脳活動推定手段１３０は、個人（被験者）の顔面の撮影画像データから、個人の脳活動を推定するための装置である。脳活動可視化装置１１０は、図２１に示すように、画像データ取得手段１２０と、脳活動推定手段１３０と、状態可視化手段２００と、を備える。

画像データ取得手段１２０は、個人の顔面の少なくとも一部の撮影画像データを時系列で取得する（ステップＳ１０１）。なお、画像データ取得手段１２０は、少なくとも撮影装置を有するものであれば特に限定されるものではなく、例えば、スマートフォンやタブレット（例えば、iPad：登録商標）等の撮影装置内蔵型ポータブル端末等が挙げられる。ここでは、画像データ取得手段１２０は、図２１に示すように、撮影装置としてのカメラ１２１と、記憶部１２２とを有する。カメラ１２１は、個人の顔面の撮影画像データを時系列で取得するためのものである。ここでは、カメラ１２１は、個人の顔面全体の動画を撮影し、撮影した動画データを取得する。記憶部１２２は、撮影装置により撮影された時系列の撮影画像データを蓄積する。ここでは、記憶部１２２は、カメラ１２１によって取得された動画データを蓄積する。

なお、ここでは、カメラ１２１によって顔面全体の動画が撮影されているが、これに限定されず、顔面の少なくとも前額部及び／又は副鼻腔周辺の画像を含む動画が撮影されていればよい。

また、ここでは、画像データ取得手段１２０により顔面の時系列の撮影画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられる。すなわち、画像データ取得手段１２０により取得される撮影画像データには、個人に対して脳機能賦活課題が与えられている期間のデータが含まれていることになる。なお、個人に対して与えられる脳機能賦活課題としては、脳が賦活状態になると推定されるものであれば特に限定されるものではなく、例えば、脳活動可視化装置１１０の利用目的に応じてその内容が適宜決定されるよう構成されていてもよい。

脳活動推定手段１３０は、画像データ取得手段１２０により取得された顔面の時系列の撮影画像データに基づき、人間の脳活動を推定する。具体的には、脳活動推定手段１３０は、図２１に示すように、ＲＧＢ処理部１３１と、換算部１３２と、血行量算出部１３３と、解析部１３４と、推定部１３５と、を有する。なお、図２１では、脳活動推定手段１３０が、ＲＧＢ処理部１３１、換算部１３２、血行量算出部１３３、解析部１３４及び推定部１３５を有する１つの装置として存在している態様が示されているが、本発明はこれに限定されるものではなく、ＲＧＢ処理部１３１、換算部１３２、血行量算出部１３３、解析部１３４及び推定部１３５の一部或いはそれぞれが独立した装置として存在していてもよい。また、ここでは、画像データ取得手段１２０、ＲＧＢ処理部１３１、換算部１３２、及び血行量算出部１３３により顔面血行量取得手段が構成されている。

ＲＧＢ処理部１３１は、画像データ取得手段１２０により取得された撮影画像データに対して、Ｒ成分、Ｇ成分及びＢ成分の３つの色成分に分解するＲＧＢ処理を行う（ステップＳ１０２）。ここで、顔面全体の撮影画像データに対してＲＧＢ処理を行ってもよいが、ここでは、演算処理量及びノイズを減らすために、撮影画像データから前額部及び／又は副鼻腔周辺のデータを抽出し、抽出したデータについてのみＲＧＢ処理を行うものとする。

換算部１３２は、ＲＧＢ処理により得られた撮影画像データのＲＧＢデータを相対的なＲＧＢデータに換算する（ステップＳ１０３）。具体的には、換算部１３２は、取得された所定時間毎（例えば、３０秒）の撮影画像データから得られるＲＧＢデータの平均値を基準値として、該ＲＧＢデータを相対的なＲＧＢデータに換算する。

血行量算出部１３３は、ＲＧＢ処理により得られた撮影画像データのＲＧＢデータに基づき、顔面の時系列の血行量データを算出する（ステップＳ１０４）。

解析部１３４は、時系列の相対換算血行量データを、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する（ステップＳ１０５）。ここでは、解析部１３４は、相対換算血行量データに対して、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて、特異値分解を行う。具体的には、特異値分解は、時系列の相対換算血行量データを対象として、要因を所定期間（例えば、３０秒）毎の時間データとし、測度をその期間毎における相対的なＲＧＢデータから演算したピクセル毎の相対換算血行量データとして行われる。そして、特異値分解により、時系列の相対換算血行量データを複数の成分に分解し、時間分布と、空間分布と、各成分の大きさを示す特異値とを算出する。

また、解析部１３４は、特異値分解によって分解した複数の成分から脳活動を反映した顔面のＲＧＢ変化を示す成分を同定するために、各成分が所定条件を満たすか否かを判定する（ステップＳ１０６）。ここで、所定条件としては、例えば、特異値分解によって分解した成分の成分波形の振幅が、脳の非賦活時及び脳の賦活時の変化と相関関係にあるという条件（以下、第１条件という）や、特異値分解によって分解した成分において人間の顔面の所定部位に血行量変化があるという条件（以下、第２条件という）等が含まれる。解析部１３４において判定される所定条件としては、１又は複数の条件が設定されていればよく、ここでは、所定条件として第１条件が設定されているものとする。

そして、解析部１３４は、複数の成分のうち所定条件を満たす成分を、判定用成分として抽出する。さらに、解析部１３４は、抽出した判定用成分のうち所定条件に含まれる全ての条件を満たす成分を、脳活動を反映した顔面のＲＧＢ変化を示す成分として同定する（ステップＳ１０７）。一方、解析部１３４は、複数の成分のうち所定条件に含まれる少なくとも１つの条件を満たさないと判定した成分を、脳活動を反映した顔面のＲＧＢ変化を示す成分ではないと判定する（ステップＳ１０８）。

ここでは、上述のように所定条件として１つの条件（第１条件）のみが設定されており、顔面の時系列の撮影画像データを取得している間に、個人に対して脳機能賦活課題が与えられている期間が一定期間ある。このため、解析部１３４は、個人に対して脳機能賦活課題が与えられていない期間を脳の非賦活時とし、個人に対して脳機能賦活課題が与えられている期間を脳の賦活時として、脳機能賦活課題が与えられている期間及び与えられていない期間と、各成分の成分波形とを比較解析する。そして、解析部１３４は、成分波形データに基づく比較解析結果を利用して、各成分の成分波形と脳の非賦活時及び脳の賦活時とが相関関係にあるか否かを評価し、複数の成分のうち相関関係にあると評価した成分を、所定条件を満たす判定用成分として抽出すると共に、脳活動を反映した顔面のＲＧＢ変化を示す成分として同定する。一方、解析部１３４は、複数の成分のうち相関関係にないと評価した成分を、所定条件を満たさず人間の脳活動を反映した顔面のＲＧＢ変化を示す成分ではないと判定する。

ここでは、顔面の時系列の撮影画像データが取得される際に個人に対して脳機能賦活課題が一定期間与えられており、これに基づき解析部１３４が判定用成分を抽出しているが、第１条件の内容、すなわち解析部１３４における判定用成分の抽出手段はこれに限定されない。例えば、予め実験等がされていることで複数の成分のうち脳の非賦活時及び脳の賦活時と相関関係にある成分波形を示す成分が特定されている場合には、解析部１３４は、複数の成分から特定されている該成分を判定用成分として抽出する。また、脳活動可視化装置１１０において眼球運動又はまたたき等の脳の賦活／非賦活に関連することが知られている人間の動作についても検出される場合には、解析部１３４が、この検出結果と各成分の成分波形とを比較解析及び評価することで、複数の成分から判定用成分を抽出してもよい。なお、解析部１３４による第１条件を満たすか否かの判定の基準は、脳活動可視化装置１１０の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。

また、所定条件として第２条件が設定されている場合には、解析部１３４は、人間の顔面の所定部位における顔面の血行量変化の有無に基づき、判定用成分を抽出する。具体的には、解析部１３４は、特異値分解によって分解された複数の成分に応じた血行量分布図に基づき、副鼻腔周辺及び／又は前額部において血行量の変化が生じているか否かを判定し、血行量の変化が生じている場合には該成分が第２条件を満たしていると判定する。一方で、副鼻腔周辺及び／又は前額部において血行量の変化が生じていない場合には、解析部１３４は、該成分が第２条件を満たしていないと判定する。なお、解析部１３４による第２条件を満たすか否かの判定の基準は、脳活動可視化装置１１０の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定されるものとする。

さらに、血行量算出部１３３によって相対的なＲＧＢデータに換算される前のＲＧＢデータに基づく時系列の血行量データが算出される場合には、解析部１３４によって、該血行量データを特異値分解等することで得られた複数の成分についても、上記第１条件及び／又は第２条件が満たされるか否かが判定され、判定用成分が抽出されてもよい。

推定部１３５は、解析部１３４において人間の脳活動を反映した顔面のＲＧＢ変化を示す成分として同定された成分に基づいて、人間の脳活動を推定する。具体的には、推定部１３５は、解析部１３４において同定された成分の成分波形データに基づいて、顔面の撮影画像データの取得時における脳活動量を推定する。

（４−２−１）変形例２Ａ
上述したように、カメラ１２１としては、例えば、スマートフォンやタブレット（例えば、iPad：登録商標）等の撮影装置内蔵型ポータブル端末等を利用することができる。すなわち、上述の撮影画像データは、可視光領域の画像を撮像するものを採用することができる。

また、上記血行量算出部１３３において、ＲＧＢデータに含まれる各画素のうちの主にＲ成分を用いて顔面の血行量データが算出されてもよい。また、ＲＧＢデータに基づき血行量データを算出できるのであれば、血行量データは必ずしも紅斑指数に限定されるものではない。

（４−２−２）変形例２Ｂ
上記血行量算出部１３３は、換算部１３２によって換算された相対的なＲＧＢデータに基づき相対換算血行量データを算出するが、これに代えて或いはこれに加えて、相対的なＲＧＢデータに換算される前のＲＧＢデータに基づき血行量データが算出されてもよい。ここで、相対的なＲＧＢデータに換算される前のＲＧＢデータに基づき算出された血行量データには、脳活動と相関する成分が出やすい（検定力が高い）ため、例えば、相対的なＲＧＢデータに換算される前のＲＧＢデータに基づき算出された血行量データを、相対的なＲＧＢデータに基づき算出された相対換算血行量データよりも先行して解析してもよい。また、例えば、まず、血行量データを解析して有意な相関のある成分を抽出し、相対換算血行量データに関しては、前記抽出した成分に対応する成分のみを解析することで、演算処理量を減らすことができる。

（４−２−３）変形例２Ｃ
上記カメラ１２１は可視光領域の通常のカメラを前提としていたが、赤外線カメラを用いることもできる。この場合、赤外光を照射し、その反射波を赤外線カメラで撮像する。これにより、対象者の顔面変化等の撮影画像データを得ることができる。本発明者らにより、赤外線の反射により得られた撮影画像データから算出された血行量データと、可視光領域で撮影されたＲＧＢデータに含まれる各画素のうちの主にＲ成分を用いて算出された血行量データとには相関があることが確認された。したがって、このような赤外線の反射から得られた撮影画像データを用いても、人間の脳活動を推定することができる。

（４−２−４）変形例２Ｄ
なお、上記説明においては、脳活動可視化装置１１０が、画像データ取得手段１２０と、脳活動推定手段１３０とを備える形態としていたが、本実施形態に係る脳活動可視化装置は、このような形態に限定されるものではない。すなわち、本実施形態に係る脳活動可視化装置は、血行量算出部１３３、解析部１３４及び推定部１３５を含むものであれば、その他の構成については任意の形態を採り得るものである。具体的には、本実施形態に係る脳活動可視化装置は、当該装置自体が画像データを撮影する形態だけではなく、外部の装置から撮影画像データを受け取り、それを解析する形態を含むものである。

（４−３）状態可視化手段２００
状態可視化手段２００は、脳活動推定手段３０及び／又は脳活動推定手段１３０により推定された対象者の脳活動に基づき、対象者の生理状態を表示することにより可視化する。例えば、状態可視化手段２００が、対象者の脳活動量の変化を解析することで、対象者の生理状態を解析する解析部２０１を有していてもよい。具体的には、解析部２０１が、対象者に対して与えられた刺激（視覚刺激、聴覚刺激、触覚刺激、臭覚刺激或いは味覚刺激等）に対する脳活動量の変化を解析することで、対象者の生理状態を判定する。なお、生理状態の種類やレベルについては、脳活動量の上昇度合い及び／又は持続時間に基づき、脳活動可視化装置１０，１１０の用途に応じて適宜設置可能になっていてもよい。そして、解析部２０１により解析された対象者の生理状態を状態可視化手段２００の表示部２０２から管理者へと出力されることで、管理者は対象者の生理状態を知ることができる。表示部２０２としては、画像やメッセージを表示する表示デバイス等、解析した対象者の生理状態に関する情報を管理者に対して可視化できるものであればどのようなものであっても採用することができる。

また、解析部３２，１３４において脳活動を反映する成分が同定された後に、さらに顔面皮膚温度取得手段２０及び／又は画像データ取得手段１２０により時系列の各種データが取得される場合には、脳活動可視化装置１０，１１０において、さらに取得された各種データが特異値分解により複数の成分に分解され、同定された成分のみが解析されることで、対象者の生理状態をリアルタイムで知ることができる。

さらに、被験者の顔面の皮膚温度や撮影した画像から被験者の心拍情報や生体情報等を取得する技術が従来よりあるが、顔面皮膚温度取得手段２０及び／又は画像データ取得手段１２０から得られた各種データが特異値分解等されることで得られる成分に対して従来の技術を採用することで、心拍情報や生体情報を精度良く取得することができる。したがって、特異値分解した複数の成分を解析して心拍情報や生体情報を取得する機能を、解析部３２及び／又は解析部１３４に持たせ、取得した心拍情報や生体情報に基づき交換神経／副交感神経の働きを推定する機能を上記実施形態の推定部３３，１３５に持たせてもよい。

（５）特徴
（５−１）
本実施形態では、顔面皮膚温度取得手段２０及び／又は画像データ取得手段１２０によって取得された時系列の顔面皮膚温度データ及び／又は顔面血行量データに基づき人間の脳活動が推定される。このため、脳波電極等の装着前に処理が必要なセンサを装着しなくても、人間の脳活動を推定することができる。したがって、簡便に人間の脳活動を推定し、推定した脳活動に基づき対象者の生理状態を可視化することができている。

（５−２）
ここで、時系列の顔面の皮膚温度データ及び／又は画像データが取得される際に、人間に対して実際に脳機能賦活課題が与えられたり与えられなかったりすることにより、人間の脳が賦活化したり賦活化しなかったりする状況が作られている場合、各成分の成分波形と脳の賦活時及び非賦活時との間に相関関係のある成分は、脳活動を反映した皮膚温度及び／又は血行量の変化を示す成分である可能性が高い成分であるといえる。

本実施形態では、顔面皮膚温度取得手段２０及び／又は画像データ取得手段１２０により時系列の顔面の皮膚温度データ及び／又は画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられている。すなわち、本実施形態では、個人に対して実際に脳機能賦活課題を与えたり与えなかったりすることにより、人間の脳が賦活化したり賦活化しなかったりする状況が作られている。そして、このように取得された時系列の各種データが特異値分解により複数の成分に分解され、各成分についてその成分波形と脳の賦活時及び非賦活時との相関関係が評価され、相関関係にある成分が判定用成分として複数の成分から抽出される。このため、例えば、予め実験等により特定された所定の成分が抽出用成分として複数の成分から抽出される場合と比較して、人間の脳活動と関連性の低い成分が抽出用成分として複数の成分から抽出されるおそれを低減することができている。

（５−３）
ここで、脳には、選択的脳冷却機構という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び副鼻腔周辺を用いて排熱していることが知られている。そうすると、脳活動に伴う顔面皮膚温度や顔面皮膚温度に相関する顔面の血行量の変化は、前額部及び／又は副鼻腔周辺に出現することになる。

本実施形態では、前額部及び／又は副鼻腔周辺の各種データが解析されて、判定用成分が抽出されている。このため、人間の脳活動に関連する成分を精度よく抽出することができている。

（５−４）
本実施形態に係る脳活動可視化装置は、機器の操縦士が対象者である場合には、その操縦士の状態を監視する「操縦士監視装置（運転者状態判定装置）」として利用できる。さらに、本実施形態において、状態可視化手段２００が出力部を有している場合には、管理者は操縦士の生理状態を知ることができる。

（５−４−１）運転者を監視するために用いた場合
上記実施形態又は上記変形例の操縦士監視装置（運転者状態判定装置）１０，１１０を、自動車や建機等を操縦する運転者に対して用いる場合の一例を説明する。この場合、操縦士監視装置１０，１１０は、操縦士としての運転者の機器操作に基づき運転者の生理状態、特に意識レベルを解析し、解析した意識レベルに応じて管理者へと意識レベルに関する情報を出力する。例えば、解析により建機等の運転者の生理状態が漫然運転状態であると判定した場合には、この情報が建機等の管理者へと出力されることで、管理者は運転者の意識レベルを認識することができる。また、状態可視化手段２００が、解析した意識レベルに応じて運転者に注意を促すための報知を行う報知部２０３を有していてもよい。状態可視化手段２００が報知部２０３を有している場合には、例えば、意識レベルが一定以下に低下した場合に、自動車や建機等の運転者に対して注意喚起が行われる。より具体的には、通常の機器操作時における脳活動量の変化（上昇度合い及びその継続時間）を記録し、この通常時における脳活動量の変化（上昇度合い及び／又はその継続時間）を所定量以上下回った場合には、集中度が低下したと見なされ、報知部２０３より音声やブザー音等が発せられる。これにより、運転者に対して注意喚起を促すことができる。このように、操縦士監視装置１０，１１０を、運転者を監視するために用いた場合、顔面皮膚温度取得手段や画像データ取得手段等の操縦士に非接触な手段を用いて運転者の生理状態が監視され、生理状態が管理者及び／又は運転者へと出力されることで、居眠り運転や脇見運転等の発生を抑制することができる。

（５−４−２）パイロットを監視するために用いた場合
上記実施形態又は上記変形例の操縦士監視装置（運転者状態判定装置）１０，１１０を、航空機やその訓練装置を操縦するパイロットに対して用いる場合の一例を説明する。この場合、操縦士監視装置１０，１１０は、操縦士としてのパイロットの生理状態、特に意識レベルを解析し、解析した意識レベルに応じて管理者へと意識レベルに関する情報を出力する。例えば、解析によりパイロットの生理状態が意識のない状態（例えば、失神状態）であると判定した場合には、この情報が航空機等の管理者へと出力されることで、管理者はパイロットの意識レベルを認識することができる。また、例えば、状態可視化手段２００においてパイロットの生理状態が失神状態であると判定された時に、手動操縦から自動操縦へと切り換えられる構成になっていてもよい。このように、操縦士監視装置１０，１１０を、パイロットを監視するために用いた場合、顔面皮膚温度取得手段や画像データ取得手段等の操縦士に非接触な手段を用いてパイロットの生理状態が監視され、生理状態が管理者へと出力されることで、パイロットが意識を失った状態で操縦が継続されるのを抑制することができる。

また、操縦士監視装置１０，１１０を加速度訓練装置のセンサとして戦闘機のパイロット等に対して用いる場合には、例えば、パイロットの脳活動量が解析され、加速度の変化に基づくパイロットの脳活動量が管理者へと出力されるように構成されていてもよい。このとき、加速度の増加に対して脳活動量が低下していれば、管理者はパイロットの脳に血液が十分に流れていない状態であると推定することができる。ここで、戦闘機のパイロット等の加速度に対する訓練を行う操縦士は、加圧スーツや特殊な呼吸法を用いることにより脳の血流の低下や失神を防いでいる。このため、出力される解析結果から、パイロットの脳に血液が十分に流れていない状態であると推定される場合、パイロットの技量不足或いは適応不足を判断することができる。

（６）脳活動可視化装置の用途例（運転者状態判定装置）
次に、本発明に係る脳活動可視化装置を応用した運転者状態判定装置について説明する。

（６−１）第１実施形態
（６−１−１）運転者状態判定装置４００の構成
図２３は第１実施形態に係る運転者状態判定装置４００の一例を示す模式図である。

運転者状態判定装置４００は、入力部４１０、撮像部４１５、出力部４２０、記憶部４３０、及び処理部４４０を備える。そして、運転者状態判定装置４００は、機器３５０を運転する対象者３００の運転者状態を判定する。ここで、「機器」とは、自動車、鉄道車両、飛行機等の交通機器、並びに、原子力発電機器、各種プラント等のその他の自動機械のことである。また、「運転者状態」とは、機器を運転する対象者の精神状態及び身体状態を表すものである。例えば、精神状態は、精神疲労、精神的ストレス、漫然状態、集中状態等に対応した指標で表される。また、身体状態は、身体疲労、身体的ストレス等に対応した指標で表される。

入力部４１０は、運転者状態判定装置４００に各種情報を入力するものである。例えば入力部４１０は、キーボード、マウス、及び／又はタッチスクリーン等により構成される。この入力部４１０を介して、運転者状態判定装置４００に各種命令が入力され、処理部４４０において命令に応じた処理が実行される。

撮像部４１５は、対象者３００の顔面を含む「顔面画像」を撮像するものである。例えば撮像部４１５は、ＲＧＢ画像を取得するＣＣＤ及びＣＭＯＳ等の固体撮像素子や、サーモグラムを取得する赤外線カメラ等により構成される。撮像部４１５に赤外線カメラ４１５ａを用いることにより、周囲の明るさに影響を受けることなく、運転者状態の判定が可能となる。特に、夜間に疲労による事故等が生じやすい。このような場面においても、第１実施形態に係る運転者状態判定装置４００に赤外線カメラ４１５ａを搭載することで、夜間での運転者状態の監視が可能となる。赤外線カメラ等は通常の室温条件で、２９．０℃から３７．０℃を高感度で検出できるものが望ましい。また、撮像部４１５は、所定の間隔で継続的な撮像が可能である。顔面画像を撮像する場合には正面からの撮像、一定照明撮像が望ましい。姿勢変動により正面画像が得られない場合には、摂動空間法を用い、姿勢変動画像については顔の３次元形状を推定し、正面像にレンダリングすることにより顔面画像を得る。照明変動画像については、拡散反射モデルをベースに構築した顔の照明基底モデルを用いて、一定照明条件の顔面画像を得る。そして、撮像部４１５により、継続的に撮像された顔面画像は処理部４４０に送出される。

出力部４２０は、運転者状態判定装置４００から各種情報を出力するものである。例えば出力部４２０は、ディスプレイ及びスピーカー等により構成される。ここでは、出力部４２０を介して、後述する脳機能賦活情報が対象者３００に提供される。

記憶部４３０は、運転者状態判定装置４００に入力される情報及び運転者状態判定装置４００で計算される情報等を記憶するものである。例えば記憶部４３０は、メモリ及びハードディスク装置等により構成される。また記憶部４３０は、後述する処理部４４０の各機能を実現するためのプログラムを記憶する。ここでは、記憶部４３０は、脳機能賦活情報データベース４３１及び判定情報データベース４３２を有する。

脳機能賦活情報データベース４３１は、人間の脳機能を賦活する脳機能賦活情報を記憶するものである。「脳機能賦活情報」は、自動車、鉄道車両、及び飛行機、並びに、原子力発電機器、及び各種プラント等のその他の自動機械の運転に関する任意の事象・時点から得られる情報である。例えば、対象者３００が、自動車、鉄道車両、及び飛行機等の交通機器の運転者である場合、脳機能賦活情報として、警告音等を利用できる。

判定情報データベース４３２は、図２４に示すように、後述する判定用成分抽出部４４４により抽出される脳機能賦活情報に対する判定用成分の相関値ｒ２の、脳機能賦活情報に対する基準判定用成分の「基準相関値」ｒ１からの所定範囲の変化量Δｒ（＝ｒ１−ｒ２）を、「運転者状態レベル」と関連付けて予め「判定情報」として記憶するものである。「基準判定用成分」は、所定行動の前に抽出した判定用成分のデータ、前回抽出した判定用成分のデータ、及び外部から提供される判定用成分のデータ等により設定される。図２４には、運転者状態の一例として、漫然状態がレベル別に判定情報データベース４３２に記憶されている。すなわち、判定情報データベース４３２は、変化量Δｒの値の範囲に応じて、Δｒ＝Δｒａ〜Δｒｂまでを「正常」、Δｒｂ〜Δｒｃまでを「軽い漫然状態」、Δｒｃ〜Δｒｄまでを「漫然状態」として記憶する。ここでは、Δｒａ、Δｒｂ、Δｒｃ、Δｒｄの順に値が大きくなっている。なお、基準判定用成分のデータも判定情報データベース４３２に格納される。

処理部４４０は、運転者状態判定装置４００における情報処理を実行するものである。具体的には、処理部４４０は、ＣＰＵ及びキャッシュメモリ等により構成される。処理部４４０は、記憶部４３０に組み込まれたプログラムが実行されることで、脳機能賦活情報提供部４４１、顔面変化情報取得部４４２、顔面変化情報分解部４４３、判定用成分抽出部４４４、及び、運転者状態判定部４４５として機能する。

脳機能賦活情報提供部４４１は、機器３５０を運転する対象者３００に、脳機能賦活情報を提供するものである。例えば脳機能賦活情報提供部４４１は、入力部４１０の操作に応じて、脳機能賦活情報データベース４３１から脳機能賦活情報を読み出し、出力部４２０に出力する。

顔面変化情報取得部４４２は、撮像部４１５で撮像された顔面画像から「顔面データ」及び顔面データの時系列変化を示す「顔面変化情報」を取得するものである。具体的には、顔面変化情報取得部４４２は、脳機能賦活情報提供部４４１が脳機能賦活情報を提供しているタイミングに同期して、撮像部４１５を介して顔面データを取得する。そして、顔面変化情報取得部４４２は、継続的に取得した顔面データから、対象者３００の顔面データの時系列変化を示す顔面変化情報を取得する。例えば、顔面変化情報は、２４０×３２０ピクセルの顔面データを所定間隔で６０点取得した場合には、４，６０８，０００のデータの集合となる。取得した顔面変化情報は、顔面変化情報分解部４４３に送出される。なお、撮像部４１５が赤外線カメラの場合、顔面変化情報取得部４４２は、顔面データとして、対象者３００の顔面の皮膚温度を示す顔面皮膚温度データを取得する。また、撮像部４１５がＣＣＤ及びＣＭＯＳ等の固体撮像素子の場合、顔面変化情報取得部４４２は、顔面データとして、対象者３００の顔面のＲＧＢデータに基づく顔面血行量データを取得する。なお、顔面変化情報取得部４４２は、顔面データとして、対象者３００の、副鼻腔周辺及び／又は前額部のデータだけを取得するものでもよい。

顔面変化情報分解部４４３は、多数のデータの集合である顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分１，２，３，・・・に分解する。分解した各成分の情報は、判定用成分抽出部４４４に送出される。ここで、顔面変化情報を特異値分解等した場合、特異値の高いものから成分１，２，３，・・・と設定される。また特異値の高い成分ほど、変動の大きいものの影響が反映されやすい。そのため、成分１には、脳機能賦活情報が提供されることの影響より、外部環境のノイズ等の影響が反映されることが少なくない。

判定用成分抽出部４４４は、複数の成分１，２，３・・・から、脳機能賦活情報と関連する成分を「判定用成分」として抽出するものである。また、判定用成分抽出部４４４は、抽出した判定用成分の脳機能賦活情報に対する相関値ｒを算出する。具体的には、判定用成分抽出部４４４は、顔面変化情報分解部４４３により求められた複数の成分１，２，３，・・・と脳機能賦活情報との相関値ｒを算出する。次に、判定用成分抽出部４４４は、算出した相関値ｒが所定値以上である場合、その相関値ｒに対応する成分を脳機能賦活情報に関連するものとして設定する。そして、判定用成分抽出部４４４は、危険率の値に基づいて、判定用成分を抽出する。すなわち、判定用成分抽出部４４４は、危険率が低い成分を判定用成分として抽出する。抽出された判定用成分及び算出した相関値ｒは、記憶部４３０又は運転者状態判定部４４５に送出される。

運転者状態判定部４４５は、判定用成分に基づいて、機器３５０を運転する対象者３００の運転者状態を判定するものである。具体的には、運転者状態判定部４５０は、所定のタイミングで抽出された基準判定用成分に対する脳機能賦活情報の基準相関値ｒ１と、その後に抽出された判定用成分に対する脳機能賦活情報の相関値ｒ２との差Δｒを算出する。そして、運転者状態判定部４５０は、判定情報データベース４３２に記憶された判定情報に基づいて、基準相関値ｒ１と今回の相関値ｒ２との差Δｒに対応する運転者状態レベルを決定する。決定された運転者状態レベルは、出力部４２０を介して表示装置等に出力される。

（６−１−２）運転者状態判定装置４００の動作
図２５は第１実施形態に係る運転者状態判定装置４００の動作を示すフローチャートである。

まず、機器３５０を運転中の所定のタイミングで、「基準設定モード」が選択され、基準判定用成分の抽出が行なわれる（Ｓ１）。具体的には、入力部４１０を介して脳機能賦活情報の出力指示が運転者状態判定装置４００に入力される。続いて、脳機能賦活情報データベース４３１から脳機能賦活情報が読み出され、出力部４２０に出力される（Ｓ２）。例えば、ここでは、脳機能賦活情報として「警告音」が出力される。

次に、脳機能賦活情報の出力と同時又は所定のタイミングで、撮像部４１５により出力部４２０の前方にいる対象者３００の顔面を含む顔面画像が所定間隔毎に撮像される（Ｓ３）。撮像された顔面画像は顔面変化情報取得部４４２に送出される。

続いて、顔面変化情報取得部４４２により、撮像された顔面画像から、対象者３００の顔面データの時系列変化を示す顔面変化情報が取得される。そして、顔面変化情報分解部４４３により、顔面変化情報が、特異値分解、主成分分析或いは独立成分分析により複数の成分１，２，３，・・・に分解される（Ｓ４）。

次に、判定用成分抽出部４４４により、顔面変化情報分解部４４３により分解された複数の成分１,２，３・・・と、脳機能賦活情報との相関値が算出される。そして、判定用成分抽出部４４４により、相関値が所定値以上であるか否かが判定される（Ｓ５）。所定値以上であると判定された場合、脳機能賦活情報と当該成分とには相関があると判断される（Ｓ５−Ｙｅｓ）。そして、判定用成分抽出部４４４により、相関がある成分のうち、危険率の低い成分が「基準判定用成分」として抽出される（Ｓ６）。また、判定用成分抽出部４４４により、基準判定用成分と脳機能賦活情報との相関値が基準相関値ｒ１として設定される。これらの基準判定用成分の情報は記憶部４３０に格納される（Ｓ７）。一方、脳機能賦活情報と、各成分１，２，３・・・との相関値が所定値未満である場合は、両者には相関がないと判断され、その情報が記憶部４３０に格納される（Ｓ５−Ｎｏ，Ｓ７）。

この後、機器３５０を運転中の任意のタイミングで「判定モード」が選択され、その後の運転者状態の判定が実行される（Ｓ８）。判定モードの選択は、自動で実行されてもよく、手動で実行されてもよい。

まず、上記Ｓ２〜Ｓ６と同様の処理が実行され、顔面変化情報から抽出した判定用成分と、脳機能賦活情報との相関値ｒ２が算出される（Ｓ９〜Ｓ１３）。

そして、運転者状態判定部４４５により、基準設定モードで抽出された基準判定用成分に対する脳機能賦活情報の基準相関値ｒ１と、判定モードで抽出された判定用成分に対する脳機能賦活情報の相関値ｒ２との差である変化量Δｒが算出される（Ｓ１４）。続いて、運転者状態判定部４５０により、基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲内であるか否かが判定される。所定範囲であるか否かは、判定情報データベース４３２に記憶された判定情報に基づいて判断される。基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲である場合、運転者状態判定部４４５により、機器３５０を運転する対象者３００の運転者状態が「正常」であると判定される（Ｓ１４−Ｙｅｓ，Ｓ１５）。一方、基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲でない場合、運転者状態判定部４４５により、機器３５０を運転する対象者３００の運転者状態が「正常でない」と判定される（Ｓ１４−Ｎｏ，Ｓ１６）。例えば、運転者状態判定部４４５は、変化量Δｒが上記Δｒａ〜Δｒｂの範囲内であるときには正常と判定し、変化量ΔｒがΔｒｂを超えているときには正常でない、と判定する。これらの判定結果は、出力部４２０を介して表示装置等に出力される（Ｓ１７）。

（６−１−３）運転者状態判定装置４００の特徴
（６−１−３−１）
以上説明したように、第１実施形態に係る運転者状態判定装置４００は、脳機能賦活情報提供部４４１と、顔面変化情報取得部４４２と、顔面変化情報分解部４４３と、判定用成分抽出部４４４と、運転者状態判定部４４５と、を備える。脳機能賦活情報提供部４４１は、機器３５０を運転する対象者３００に、人間の脳機能を賦活する「脳機能賦活情報」を提供する。顔面変化情報取得部４４２は、対象者３００の顔面データの時系列変化を示す「顔面変化情報」を取得する。顔面変化情報分解部４４３は、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分１，２，３，・・・に分解する。判定用成分抽出部４４４は、複数の成分１，２，３，・・・から、脳機能賦活情報と関連する成分を「判定用成分」として抽出する。運転者状態判定部４４５は、判定用成分に基づいて、機器３５０を運転する対象者３００の運転者状態を判定する。

したがって、第１実施形態に係る運転者状態判定装置４００では、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分から、提供した脳機能賦活情報と関連する判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者３００の脳活動の有無を容易に推定できる。これにより、対象者３００の脳機能に対応する判定用成分に基づいて、機器３５０を運転する対象者３００の運転者状態を容易に判定できる。

なお、機器３５０が自動車である場合、図２６に示すように、対象者３００の前方にビデオカメラ４１５ｂ及び赤外線カメラ４１５ａからなる撮像部４１５を数ｃｍの幅に収まるように設置してもよい。通常、運転者は前方を向いており、このような構成であれば、動き少ない顔面画像を撮像することができ、判定用成分の抽出精度を高めることができる。また、これらの撮像部４１５を、出力部４２０及び処理部４４０が一体構成されたタッチパネル式の装置４００ｓに、無線又は有線で接続する構成を採用してもよい。例えば、装置４００ｓの表示画面は１０ｃｍ四方のものとすることで、車内への設置が容易となる。

また、第１実施形態に係る運転者状態判定装置４００は、スマートデバイスに組み込まれる形態であってもよい。これにより、車内機器にスマートデバイスを接続することで、容易に運転者状態判定を実行できる。

（６−１−３−２）
また、第１実施形態に係る運転者状態判定装置４００は、顔面変化情報取得部４４２が、顔面データとして、対象者３００の、副鼻腔周辺及び／又は前額部のデータを取得するので、脳活動と関連する判定用成分を高精度に抽出できる。ここで、脳には、選択的脳冷却機構（Selective Brain Cooling System）という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を、副鼻腔及び前額部周辺を用いて排熱していることが知られている。よって、これらの部位のデータを解析することで脳活動と関連する成分を高精度に抽出できる。結果として、第１実施形態に係る運転者状態判定装置４００は、運転者状態判定を高精度に実行することができる。

（６−１−３−３）
また、第１実施形態に係る運転者状態判定装置４００は、顔面変化情報取得部４４２が、顔面データとして、対象者３００の顔面の皮膚温度を示す顔面皮膚温度データを取得する。換言すると、運転者状態判定装置４００は、赤外線カメラ等を利用して運転者状態を判定できるものである。例えば、図２７に示すように、撮像部４１５に赤外線カメラ４１５ａを用いることにより、周囲の明るさに影響を受けることなく、運転者状態判定が可能となる。特に、自動車の場合は夜間に不注意運転が生じやすい。このような場面においても、第１実施形態に係る運転者状態判定装置４００に赤外線カメラ４１５ａを搭載することで、夜間での運転者状態の監視が可能となる。また、赤外線カメラ４１５ａの使用は、トンネルの有無に関わらずに運転者状態を判定できるというメリットもある。

（６−１−３−４）
また、第１実施形態に係る運転者状態判定装置４００は、顔面変化情報取得部４４２が、顔面データとして、対象者３００の顔面のＲＧＢデータに基づく顔面血行量データを取得する。すなわち、運転者状態判定装置４００は、固体撮像素子（ＣＣＤ，ＣＭＯＳ）を利用して運転者状態を判定できる。これにより、運転者状態判定を簡易な構成で実行することができる。

（６−１−３−５）
また、第１実施形態に係る運転者状態判定装置４００は、判定用成分抽出部４４４が、危険率の値に基づいて、判定用成分を抽出する。運転者状態判定装置４００では、危険率の値に基づいて、脳機能賦活情報と関連する判定用成分を抽出するので、運転者状態判定の信頼性を高めることができる。

（６−１−３−６）
また、第１実施形態に係る運転者状態判定装置４００は、脳機能賦活情報に対して算出される判定用成分の相関値ｒ２の、脳機能賦活情報に対して算出された基準判定用成分の基準相関値ｒ１からの所定範囲の変化量Δｒを、運転者状態レベルに関連付けて「判定情報」として記憶する判定情報データベース４３２を備える。そして、運転者状態判定部４４５が、脳機能賦活情報に対する判定用成分の相関値ｒ２を算出し、算出した相関値ｒ２及び判定情報に基づいて、対象者３００の運転者状態を容易に判定できる。

このような構成により、運転者状態判定装置４００は、所定のタイミングで得られた基準判定用成分を利用して、運転者状態レベルを容易に判定できる。要するに、運転者状態判定装置４００は、単に正常か否かを判定するだけでなく、運転者状態レベルを容易に判定して出力することができる。

（６−１−３−７）
また、第１実施形態に係る運転者状態判定装置４００は、対象者３００が運転する機器３５０が、自動車、鉄道車両、及び飛行機等の交通機器、並びに、原子力発電機器、各種プラントを含むその他の自動機械である。したがって、第１実施形態に係る運転者状態判定装置４００では、これらの自動機械を運転する対象者３００の運転者状態を判定できる。

（６−１−３−８）
第１実施形態に係る運転者状態判定方法は、必ずしも運転者状態判定装置４００を必要とするものではない。すなわち、本実施形態に係る運転者状態判定方法は、運転者状態判定装置４００の有無に関わらず、所定のタイミングで、人間の脳機能を賦活する「脳機能賦活情報」を対象者３００に提供する脳機能賦活情報提供ステップと、その後に、対象者３００の顔面データの時系列変化を示す「顔面変化情報」を取得する顔面変化情報取得ステップと、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する顔面変化情報分解ステップと、複数の成分から、脳機能賦活情報と関連する成分を「判定用成分」として抽出する判定用成分抽出ステップと、判定用成分に基づいて、機器３５０を運転する対象者３００の運転者状態を判定する運転者状態判定ステップと、を備えるものであればよい。

このような運転者状態判定方法によれば、所定のタイミング後に、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析することで得られた複数の成分から、脳機能賦活情報と関連する判定用成分を抽出して、機器３５０を運転する対象者３００の運転者状態を容易に判定できる。

（６−１−４）運転者状態判定装置４００の変形例
本実施形態に係る運転者状態判定装置４００は、図２８に示すように、ネットワーク上に設けられた判定情報提供装置５００等を利用するものでもよい。

ここで、判定情報提供装置５００は、記憶部５３０と処理部５４０とを備える。

記憶部５３０は、判定情報データベース５３２を有する。この判定情報データベース５３２は、上述した判定情報データベース４３２と同様の構成である。すなわち、判定情報データベース５３２は、脳機能賦活情報に対して算出される判定用成分の相関値ｒ２の、脳機能賦活情報に対して算出された基準判定用成分の基準相関値ｒ１からの所定範囲の変化量Δｒを、運転者状態レベルに関連付けて判定情報として記憶する。

処理部５４０は、運転者状態判定装置４００からの要求に応じて、判定情報データベース５３２に格納された判定情報を送信する。なお、処理部５４０は、運転者状態判定装置４００で抽出された判定用成分とは独立して、所定の情報に基づいて判定情報をビッグデータとして生成する機能を有するものでもよい。また、処理部５４０は、運転者状態判定装置４００で基準相関値ｒ１が算出された場合、判定情報データベース４３２に記憶されている基準相関値ｒ１を更新する処理を随時実行する。

本変形例では、上述した判定情報提供装置５００に、運転者状態判定部４４５が判定情報の提供を要求する。詳しくは、本変形例では、判定情報データベース５３２が、ネットワーク上の判定情報提供装置５００に格納されており、運転者状態判定部４４５が、運転者状態レベルを判定する際に、判定情報提供装置５００にアクセスする。そして、運転者状態判定部４４５が、算出した相関値ｒ２及び判定情報に基づいて、対象者３００の運転者状態レベルを判定する。

したがって、本変形例の運転者状態判定装置４００であれば、運転者状態判定部４４５が、外部ネットワークを利用して、対象者３００の運転者状態レベルを判定できる。また、運転者状態判定部４４５が、外部ネットワーク上の判定情報提供装置５００に記憶された基準判定用成分を用いて運転者状態を判定するので、基準設定作業を簡略化することもできる。すなわち、上述した「基準設定モード」を省略し、図２９に示すように「判定モード」だけを実行する形態を採用することが可能である。ここでは、ステップＶ１〜Ｖ６，Ｖ８〜Ｖ１１において、ステップＳ８〜Ｓ１７と同様の処理が行なわれる。また、ステップＶ７においては、運転者状態判定装置４００から判定情報提供装置５００に対して判定情報の送信要求が行なわれる。なお、上述した各ステップの一部は運転者状態判定装置４００を用いずに実行されてもよいものである。

また、本変形例の方法によれば、ビッグデータを用いた運転者状態の判定を実現できる。すなわち、基準相関値ｒ１及び所定の変化量Δｒをビッグデータから求める。具体的には、対象者以外の者に、脳機能賦活情報を提供して得られた基準判定用成分に基づいて算出された基準相関値ｒ１を用いる。これにより、判定情報を随時最適化することができる。

（６−２）第２実施形態
（６−２−１）運転者状態判定装置４００Ａの構成
以下、既に説明した部分と同一の部分には略同一の符号を付し、重複した説明を省略する。他の実施形態と区別するために、本実施形態では異なる構成に添え字Ａを付すことがある。

図３０は第２実施形態に係る運転者状態判定装置４００Ａの一例を示す模式図である。第２実施形態では、第１実施形態とは異なり、脳機能賦活情報を外部から検知する。

運転者状態判定装置４００Ａは、入力部４１０、撮像部４１５、周辺情報取得部４１６、出力部４２０、記憶部４３０、及び処理部４４０Ａを備える。そして、運転者状態判定装置４００Ａは、機器３５０を運転する対象者３００の運転者状態を判定する。ここで、「機器」とは、自動車、鉄道車両、及び飛行機等の交通機器、並びに、原子力発電機器、及び各種プラント等のその他の自動機械のことである。

第２実施形態では、機器３５０の周辺に脳機能賦活情報提供物６００が存在する。脳機能賦活情報提供物６００とは、人間の脳機能を賦活する脳機能賦活情報を提供するものである。ここで、「脳機能賦活情報」は、自動車、鉄道車両、及び飛行機等の交通機器、並びに、原子力発電機器、及び各種プラント等のその他の自動機械の運転に関する任意の事象・時点から得られる情報である。例えば、対象者３００が自動車のドライバーである場合、脳機能賦活情報として「赤信号の表示」等を利用できる。なお、この場合、脳機能賦活情報提供物６００は信号機である。

周辺情報取得部４１６は、機器３５０の周辺に存する脳機能賦活情報提供物６００から提供される脳機能賦活情報を検知するものである。例えば、脳機能賦活情報として赤信号の表示が採用される場合、周辺情報取得部４１６は機器３５０の「周辺画像」を取得する。周辺情報取得部４１６で取得された情報は、処理部４４０Ａの脳機能賦活情報検知部４４１Ａに送出される。

処理部４４０Ａは、運転者状態判定装置４００Ａにおける情報処理を実行するものである。具体的には、処理部４４０Ａは、ＣＰＵ及びキャッシュメモリ等により構成される。処理部４４０Ａは、記憶部４３０に組み込まれたプログラムが実行されることで、脳機能賦活情報検知部４４１Ａ、顔面変化情報取得部４４２、顔面変化情報分解部４４３、判定用成分抽出部４４４、及び、運転者状態判定部４４５として機能する。

脳機能賦活情報検知部４４１Ａは、人間の脳機能を賦活する「脳機能賦活情報」を検知するものである。脳機能賦活情報は、脳機能賦活情報提供物６００から機器３５０を操作する対象者３００に提供される。詳しくは、脳機能賦活情報検知部４４１Ａは、周辺情報取得部４１６を介して、脳機能賦活情報を検知する。例えば、脳機能賦活情報として「赤信号の表示」が採用される場合、脳機能賦活情報検知部４４１Ａは、周辺情報取得部４１６に周辺画像の送信要求を行なう。この送信要求に応じて周辺情報取得部４１６から周辺画像が送出された場合、脳機能賦活情報検知部４４１Ａは、周辺画像に赤信号が表示されているか否かを検知する。脳機能賦活情報検知部４４１Ａが脳機能情報を検知した場合、検知した脳機能賦活情報と判定用成分との相関値ｒが、判定用成分抽出部４４４により算出される。

（６−２−２）運転者状態判定装置４００Ａの動作
図３１は第２実施形態に係る運転者状態判定装置４００Ａの動作を示すフローチャートである。

まず、機器３５０を運転中の所定のタイミングで、「基準設定モード」が選択され、基準判定用成分の抽出が行なわれる（Ｔ１）。具体的には、周辺情報取得部４１６により、機器３５０の周辺の状態を示す周辺情報が取得される（Ｔ２）。続いて、脳機能賦活情報検知部４４１Ａにより、脳機能賦活情報データベース４３１に記憶されている情報が照合されて、周辺情報から脳機能賦活情報が検知される（Ｔ３）。例えば、ここでは、脳機能賦活情報として「赤信号の表示」が検知される。

一方、基準設定モードが選択されると、所定のタイミングで、撮像部４１５により出力部４２０の前方にいる対象者３００の顔面画像が所定間隔毎に撮像される（Ｔ４）。撮像された顔面画像は顔面変化情報取得部４４２に送出される。

続いて、顔面変化情報取得部４４２により、撮像された顔面画像から、対象者３００の顔面データの時系列変化を示す顔面変化情報が取得される。そして、顔面変化情報分解部４４３により、顔面変化情報が、特異値分解、主成分分析或いは独立成分分析により複数の成分１,２，３・・・に分解される（Ｔ５）。

次に、判定用成分抽出部４４４により、顔面変化情報分解部４４３により分解された複数の成分１,２，３・・・と、脳機能賦活情報との相関値が算出される。そして、判定用成分抽出部４４４により、相関値が所定値以上であるか否かが判定される（Ｔ６）。所定値以上であると判定された場合、脳機能賦活情報と当該成分とには相関があると判断される（Ｔ６−Ｙｅｓ）。そして、判定用成分抽出部４４４により、相関がある成分のうち、危険率の低い成分が「基準判定用成分」として抽出される（Ｔ７）。また、判定用成分抽出部４４４により、基準判定用成分と脳機能賦活情報との相関値が基準相関値ｒ１として設定される。これらの基準判定用成分の情報は記憶部４３０に格納される（Ｔ８）。一方、脳機能賦活情報と、各成分１，２，３・・・との相関値が所定値未満である場合は、両者には相関がないと判断され、その情報が記憶部４３０に格納される（Ｔ６−Ｎｏ，Ｔ８）。

次に、機器３５０を運転中の任意のタイミングで「判定モード」が選択され、その後の運転者状態の判定が実行される（Ｔ９）。まず、上記ステップＴ２〜Ｔ８と同様の処理が実行され、顔面変化情報から抽出した判定用成分と、脳機能賦活情報との相関値ｒ２が算出される（Ｔ１０〜Ｔ１５）。なお、判定モードの選択は、自動で実行されてもよいし、手動で実行されてもよい。

そして、運転者状態判定部４４５により、基準設定モードで抽出された基準判定用成分に対する脳機能賦活情報の基準相関値ｒ１と、判定モードで抽出された判定用成分に対する脳機能賦活情報の相関値ｒ２との差である変化量Δｒが算出される（Ｔ１６）。続いて、運転者状態判定部４５０により、基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲内であるか否かが判定される。所定範囲であるか否かは、判定情報データベース４３２に記憶された判定情報に基づいて判断される。基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲である場合、運転者状態判定部４４５により、機器３５０を運転する対象者３００の運転者状態が「正常」であると判定される（Ｔ１６−Ｙｅｓ，Ｔ１７）。一方、基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲でない場合、運転者状態判定部４４５により、機器３５０を運転する対象者３００の運転者状態が「正常でない」と判定される（Ｔ１６−Ｎｏ，Ｔ１８）。例えば、運転者状態判定部４４５は、変化量Δｒが上記Δｒａ〜Δｒｂの範囲内であるときには正常と判定し、変化量ΔｒがΔｒｂを超えているときには正常でない、と判定する。これらの判定結果は、出力部４２０を介して表示装置等に出力される（Ｔ１９）。

（６−２−３）運転者状態判定装置４００Ａの特徴
（６−２−３−１）
以上説明したように、第２実施形態に係る運転者状態判定装置４００Ａは、脳機能賦活情報検知部４４１Ａと、顔面変化情報取得部４４２と、顔面変化情報分解部４４３と、判定用成分抽出部４４４と、運転者状態判定部４４５と、を備える。脳機能賦活情報検知部４４１Ａは、脳機能賦活情報提供物６００から、人間の脳機能を賦活する「脳機能賦活情報」を検知する。顔面変化情報取得部４４２は、対象者３００の顔面データの時系列変化を示す「顔面変化情報」を取得する。顔面変化情報分解部４４３は、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分１，２，３，・・・に分解する。判定用成分抽出部４４４は、複数の成分１，２，３，・・・から、脳機能賦活情報と関連する成分を「判定用成分」として抽出する。運転者状態判定部４４５は、判定用成分に基づいて、機器３５０を運転する対象者３００の運転者状態を判定する。

したがって、第２実施形態に係る運転者状態判定装置４００Ａでは、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分から、検知した脳機能賦活情報と関連する判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者３００の脳活動の有無を容易に推定できる。これにより、対象者３００の脳機能に対応する判定用成分に基づいて、機器３５０を運転する対象者３００の運転者状態を容易に判定できる。

（６−２−３−２）
第２実施形態に係る運転者状態判定方法は、必ずしも運転者状態判定装置４００Ａを必要とするものではない。すなわち、本実施形態に係る運転者状態判定方法は、運転者状態判定装置４００Ａの有無に関わらず、所定のタイミングで、人間の脳機能を賦活する「脳機能賦活情報」を脳機能賦活情報提供物６００から検知する脳機能賦活情報検知ステップと、その後に、対象者３００の顔面データの時系列変化を示す「顔面変化情報」を取得する顔面変化情報取得ステップと、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する顔面変化情報分解ステップと、複数の成分から、脳機能賦活情報と関連する成分を「判定用成分」として抽出する判定用成分抽出ステップと、判定用成分に基づいて、機器３５０を運転する対象者３００の運転者状態を判定する運転者状態判定ステップと、を備えるものであればよい。

このような運転者状態判定方法によれば、所定のタイミング後に、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析することで得られた複数の成分から、脳機能賦活情報と関連する判定用成分を抽出して、機器３５０を運転する対象者３００の運転者状態を容易に判定できる。

（６−２−３−３）
その他、第２実施形態においても、第１実施形態の（６−１−３）で説明した特徴と同様の特徴を有する。

（６−２−４）運転者状態判定装置４００Ａの変形例
第２実施形態に係る運転者状態判定装置４００Ａは、図３２に示すように、ネットワーク上に設けられた判定情報提供装置５００等を利用するものでもよい。

本変形例では、上述の判定情報提供装置５００に、運転者状態判定装置４００Ａが判定情報の提供を要求する。詳しくは、本変形例では、判定情報データベース５３２が、ネットワーク上の判定情報提供装置５００に格納されており、運転者状態判定部４４５が、運転者状態レベルを判定する際に、判定情報提供装置５００にアクセスする。そして、運転者状態判定部４４５が、算出した相関値ｒ２及び判定情報に基づいて、対象者３００の運転者状態レベルを判定する。

したがって、本変形例の運転者状態判定装置４００Ａであれば、運転者状態判定部４４５が、外部ネットワークを利用して、対象者３００の運転者状態レベルを判定できる。また、運転者状態判定部４４５が、外部ネットワーク上の判定情報提供装置５００に記憶された基準判定用成分を用いて運転者状態を判定するので、基準設定作業を簡略化することもできる。すなわち、上述した「基準設定モード」を省略し、図３３に示すように「判定モード」だけを実行する形態を採用することが可能である。ここでは、ステップＵ１〜Ｕ７，Ｕ９〜Ｕ１２において、ステップＴ９〜Ｔ１９と同様の処理が行なわれる。また、ステップＵ８においては、運転者状態判定装置４００Ａから判定情報提供装置５００に対して判定情報の送信要求が行なわれる。なお、上述した各ステップの一部は運転者状態判定装置４００Ａを用いずに実行されてもよいものである。

また、本変形例の方法によれば、ビッグデータを用いた運転者状態の判定が実現できる。すなわち、基準相関値ｒ１及び所定の変化量Δｒをビッグデータから求める。具体的には、対象者以外の者に、脳機能賦活情報を提供して取得された基準判定用成分に基づいて算出された基準相関値ｒ１を用いる。これにより、判定情報を随時最適化することができる。

（６−３）第３実施形態
（６−３−１）運転者状態判定装置４００Ｂの構成
以下、既に説明した部分と同一の部分には略同一の符号を付し、重複した説明を省略する。他の実施形態と区別するために、本実施形態では異なる構成に添え字Ｂを付すことがある。

図３４は第３実施形態に係る運転者状態判定装置４００Ｂの一例を示す模式図である。第３の実施形態では、第１の実施形態とは異なり、機器３５０に対する所定の操作が生じたときに脳機能が賦活したものとみなす。「所定の操作」として、例えば、自動車のハンドル操作、ブレーキの踏み込み等が挙げられる。

運転者状態判定装置４００は、入力部４１０、撮像部４１５、出力部４２０、記憶部４３０、及び処理部４４０Ｂを備える。そして、運転者状態判定装置４００Ｂは、機器３５０を運転する対象者３００の運転者状態を判定する。ここで、「機器」とは、自動車、鉄道車両、飛行機、原子力発電機器、各種プラント等の自動機械のことである。

第３実施形態では、機器３５０に、変化量検出装置７００が設けられている。変化量検出装置７００は、機器３５０に対する所定の操作により生じる所定の変化量を検出する。例えば、機器３５０が自動車である場合、所定の変化量として「加速度変化量」を採用できる。検出した変化量は、脳活動関連変化量抽出部４４１Ｂに送出される。

処理部４４０Ｂは、運転者状態判定装置４００Ｂにおける情報処理を実行するものである。具体的には、処理部４４０Ｂは、ＣＰＵ及びキャッシュメモリ等により構成される。処理部４４０Ｂは、記憶部４３０に組み込まれたプログラムが実行されることで、脳活動関連変化量抽出部４４１Ｂ、顔面変化情報取得部４４２、顔面変化情報分解部４４３、判定用成分抽出部４４４、及び、運転者状態判定部４４５として機能する。

脳活動関連変化量抽出部４４１Ｂは、機器３５０に対する所定の操作により生じる所定の変化量から、人間の脳活動に関連する変化量を「脳活動関連変化量」として抽出するものである。具体的には、脳活動関連変化量抽出部４４１Ｂは、変化量検出部７５から送出される情報から、脳活動関連変化量を抽出する。例えば、所定の変化量として「加速度変化量」が採用される場合、脳活動関連変化量抽出部４４１Ｂは、計測された加速度変化量のうち、所定値以上の加速度変化量及び所定の条件に適合する加速度変化量を脳活動関連変化量として抽出する。脳活動関連変化量抽出部４４１Ｂが脳活動関連変化量を抽出した場合、抽出した脳活動関連変化量と判定用成分との相関値ｒが、判定用成分抽出部４４４により算出される。

（６−３−２）運転者状態判定装置４００Ｂの動作
図３５は第２実施形態に係る運転者状態判定装置４００Ｂの動作を示すフローチャートである。

まず、機器３５０を運転中の所定のタイミングで、「基準設定モード」が選択され、基準判定用成分の抽出が行なわれる（Ｗ１）。具体的には、変化量検出装置７００から機器３５０に対する所定の操作により生じる所定の変化量が検出される（Ｗ２）。例えば、交通機器においては加速度変化量が検出される。続いて、脳活動関連変化量抽出部４４１Ｂが、脳機能賦活情報データベース４３１の情報と照合して、所定の変化量の情報から脳活動関連変化量が抽出される（Ｗ３）。

一方、基準設定モードが選択されると、所定のタイミングで、撮像部４１５により出力部４２０の前方にいる対象者３００の顔面を含む顔面画像が所定間隔毎に撮像される（Ｗ４）。撮像された顔面画像は顔面変化情報取得部４４２に送出される。

続いて、顔面変化情報取得部４４２により、撮像された顔面画像から、対象者３００の顔面データの時系列変化を示す顔面変化情報が取得される。そして、顔面変化情報分解部４４３により、顔面変化情報が、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解される（Ｗ５）。

次に、判定用成分抽出部４４４により、顔面変化情報分解部４４３により分解された複数の成分１,２，３・・・と、脳活動関連変化量との相関値が算出される。そして、判定用成分抽出部４４４により、相関値が所定値以上であるか否かが判定される（Ｗ６）。所定値以上であると判定された場合、脳活動関連変化量と当該成分とには相関があると判断される（Ｗ６−Ｙｅｓ）。そして、判定用成分抽出部４４４により、相関がある成分のうち、危険率の低い成分が「基準判定用成分」として抽出される（Ｗ７）。また、判定用成分抽出部４４４により、基準判定用成分と脳活動関連変化量との相関値が基準相関値ｒ１として設定される。これらの基準判定用成分の情報は記憶部４３０に格納される（Ｗ８）。一方、脳活動関連変化量と、各成分１，２，３・・・との相関値が所定値未満である場合は、両者には相関がないと判断され、その情報が記憶部４３０に格納される（Ｗ６−Ｎｏ，Ｗ８）。

次に、機器３５０を運転中の任意のタイミングで「判定モード」が選択され、その後の運転者状態の判定が実行される（Ｗ９）。まず、上記ステップＷ２〜Ｗ７と同様の処理が実行され、顔面変化情報から抽出した判定用成分と、脳活動関連変化量との相関値ｒ２が算出される（Ｗ１０〜Ｗ１５）。なお、判定モードの選択は、自動で実行されてもよいし、手動で実行されてもよい。

そして、運転者状態判定部４４５により、基準設定モードで抽出された基準判定用成分に対する脳活動関連変化量の基準相関値ｒ１と、判定モードで抽出された判定用成分に対する脳活動関連変化量の相関値ｒ２との差である変化量Δｒが算出される（Ｗ１６）。続いて、運転者状態判定部４５０により、基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲内であるか否かが判定される。所定範囲であるか否かは、判定情報データベース４３２に記憶された判定情報に基づいて判断される。基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲である場合、運転者状態判定部４４５により、機器３５０を運転する対象者３００の運転者状態が「正常」であると判定される（Ｗ１６−Ｙｅｓ，Ｗ１７）。一方、基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲でない場合、運転者状態判定部４４５により、機器３５０を運転する対象者３００の運転者状態が「正常でない」と判定される（Ｗ１６−Ｎｏ，Ｗ１８）。例えば、変化量Δｒが上記Δｒａ〜Δｒｂの範囲内であるときには正常と判定され、変化量ΔｒがΔｒｂを超えているときには正常でない、と判定される。これらの判定結果は、出力部４２０を介して表示装置等に出力される（Ｗ１９）。

（６−３−３）運転者状態判定装置４００Ｂの特徴
（６−３−３−１）
以上説明したように、第３実施形態に係る運転者状態判定装置４００Ｂは、脳活動関連変化量抽出部４４１Ｂと、顔面変化情報取得部４４２と、顔面変化情報分解部４４３と、判定用成分抽出部４４４と、運転者状態判定部４４５と、を備える。脳活動関連変化量抽出部４４１Ｂは、変化量検出装置７００から、機器３５０に対する所定の操作により生じる所定の変化量を取得する。そして、脳活動関連変化量抽出部４４１Ｂは、取得した変化量のうち、人間の脳活動に関連する変化量を「脳活動関連変化量」として抽出する。顔面変化情報取得部４４２は、対象者３００の顔面データの時系列変化を示す「顔面変化情報」を取得する。顔面変化情報分解部４４３は、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分１，２，３，・・・に分解する。判定用成分抽出部４４４は、複数の成分１，２，３，・・・から、脳活動関連変化量と関連する成分を「判定用成分」として抽出する。運転者状態判定部４４５は、判定用成分に基づいて、機器３５０を運転する対象者３００の運転者状態を判定する。

したがって、第３実施形態に係る運転者状態判定装置４００Ｂでは、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分から、脳活動関連変化量と関連する判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者３００の脳活動の有無を推定できる。そして、対象者３００の脳機能に対応する成分に基づいて、機器３５０を運転する対象者３００の運転者状態を容易に判定できる。

（６−３−３−２）
第３実施形態に係る運転者状態判定方法は、必ずしも運転者状態判定装置４００Ｂを必要とするものではない。すなわち、本実施形態に係る運転者状態判定方法は、運転者状態判定装置４００Ｂの有無に関わらず、所定のタイミングで、機器３５０に対する所定の操作により生じる所定の変化量を検出する機器変化量検出ステップと、機器変化量検出ステップにより検出された変化量から、機器３５０を操作する対象者３００の脳活動に関連する変化量を「脳活動関連変化量」として抽出する脳活動関連変化量抽出ステップと、対象者３００の顔面データの時系列変化を示す「顔面変化情報」を取得する顔面変化情報取得ステップと、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分１，２，３，・・・に分解する顔面変化情報分解ステップと、複数の成分１，２，３，・・・から、脳活動関連変化量に関連する成分を「判定用成分」として抽出する判定用成分抽出ステップと、判定用成分に基づいて、機器３５０を運転する対象者３００の運転者状態を判定する運転者状態判定ステップと、を備えるものであればよい。

このような運転者状態判定方法によれば、所定のタイミング後に、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析することで得られた複数の成分から、脳活動関連変化量と関連する判定用成分を抽出して、機器３５０を運転する対象者３００の運転者状態を容易に判定できる。

（６−３−３−３）
その他、第３実施形態においても、第１実施形態の（６−１−３）で説明した特徴と同様の特徴を有する。

（６−３−４）運転者状態判定装置４００Ｂの変形例
第３実施形態に係る運転者状態判定装置４００Ｂは、図３６に示すように、ネットワーク上に設けられた判定情報提供装置５００等を利用するものでもよい。

本変形例では、上述した判定情報提供装置５００に、運転者状態判定装置４００Ｂが判定情報の提供を要求する。詳しくは、本変形例では、判定情報データベース５３２が、ネットワーク上の判定情報提供装置５００に格納されており、運転者状態判定部４４５が、運転者状態レベルを判定する際に、判定情報提供装置５００にアクセスする。そして、運転者状態判定部４４５が、算出した相関値ｒ２及び判定情報に基づいて、機器３５０を運転する対象者３００の運転者状態レベルを判定する。

したがって、本変形例の運転者状態判定装置４００Ｂであれば、運転者状態判定部４４５が、外部ネットワークを利用して、対象者３００の運転者状態レベルを判定できる。また、運転者状態判定部４４５が、外部ネットワーク上の判定情報提供装置５００に記憶された基準判定用成分を用いて運転者状態を判定するので、基準設定作業を簡略化することもできる。すなわち、上述した「基準設定モード」を省略し、図３７に示すように「判定モード」だけを実行する形態を採用することが可能である。ここでは、ステップＸ１〜Ｘ７，Ｘ９〜Ｘ１２において、ステップＷ９〜Ｗ１９と同様の処理が行なわれる。また、ステップＸ８においては、運転者状態判定装置４００Ｂから判定情報提供装置５００に対して判定情報の送信要求が行なわれる。なお、上述した各ステップの一部は運転者状態判定装置４００Ｂを用いずに実行されてもよいものである。

また、本変形例の方法によれば、ビッグデータを用いた運転者状態の判定が実現できる。すなわち、基準相関値ｒ１及び所定の変化量Δｒをビッグデータから求める。具体的には、正常運転時の脳活動関連変化量から得られた基準判定用成分に基づいて算出された基準相関値ｒ１を用いる。これにより、判定情報を随時最適化することができる。

（６−３−５）運転者状態判定方法の検証
（６−３−５−１）
図３８は、機器３５０を「自動車」とし、所定の操作を「急ブレーキ」としたときの、判定用成分の変化を示す図である。実線が急ブレーキの変化を示し、点線が判定用成分の変化を示している。なお、判定用成分は紅斑指数から算出したものである。図３８に示されるように、急ブレーキと判定用成分とには相関があることが特定された。したがって、ブレーキの変化量に基づいて運転者状態を判定できることが確認された。

（６−３−５−２）
図３９は、機器３５０を「自動車」とし、所定の操作を「タッピング」としたときの、判定用成分の変化を示す図である。（ｂ）の部分がタッピング動作をしている状態を示し、（ａ）の部分が判定用成分の変化を示している。ここでは、タッピング動作として、右手親指で小指から人差し指までを順にタッチする動作を採用した。また、判定用成分は紅斑指数から算出したものである。図３９に示されるように、タッピングと判定用成分とには相関があることが特定された。したがって、タッピングの変化量に基づいて運転者状態を判定できることが確認された。

（６−４）第４実施形態
第４実施形態に係る運転者状態判定装置は、第１実施形態〜第３実施形態に係る運転者状態判定装置を組み合わせたものである。これにより、図４０に示すように各種の自動機械に対する運転者状態を判定できる。

例えば、対象者３００が自動車のドライバーである場合、脳機能賦活情報又は所定の操作として、運転開始及び終了を示す信号、ハンドル・ブレーキの操作量、走行量、車外の情報、信号機の情報、対向車の情報、及び歩行者の情報等を利用して、運転者状態を判定できる。また、対象者３００が原子力発電所等の自動機械のオペレータである場合、脳機能賦活情報として、稼動開始・停止・異常なし等の状態に対応する自動機械の信号を利用して、運転者状態を判定できる。また、対象者３００が電車の運転者である場合、脳機能賦活情報として、線路脇に設置された信号、鉄道標識、停止位置目標等を利用して、運転者状態を判定できる。対象者３００が飛行機のパイロットである場合、脳機能賦活情報として、計器からの信号や管制塔からの指示等を利用して、運転者状態を判定できる。

さらに、テロ行為を実行しようとする者は、脳活動が興奮状態にあり、被害を発生させる情報に高い反応を示す傾向がある。例えば、乗客の人数やテロ行為の発生場所の情報等に高い反応を示す。そこで、脳機能賦活情報として、被害を発生させるような情報を利用することで、対象者３００がテロ行為を実行しようとする者であるか否かを判定することもできる。

本発明によれば、簡便に脳活動を推定することができるため、脳活動に基づき対象者の生理状態を可視化する脳活動可視化装置への適用が有効である。

３００ 対象者
３５０ 機器
４００ 運転者状態判定装置
４００Ａ 運転者状態判定装置
４００Ｂ 運転者状態判定装置
４１０ 入力部
４１５ 撮像部
４１６ 周辺情報取得部
４２０ 出力部
４３０ 記憶部
４３１ 脳機能賦活情報データベース
４３２ 判定情報データベース
４４０ 処理部
４４０Ａ 処理部
４４０Ｂ 処理部
４４１ 脳機能賦活情報提供部
４４１Ａ 脳機能賦活情報検知部
４４１Ｂ 脳活動関連変化量抽出部
４４２ 顔面変化情報取得部
４４３ 顔面変化情報分解部
４４４ 判定用成分抽出部
４４５ 運転者状態判定部
５００ 判定情報提供装置
５３０ 記憶部
５３２ 判定情報データベース
５４０ 処理部
６００ 脳機能賦活情報提供物
７００ 変化量検出装置

特開２０１３−１７６４０６号公報

Claims (19)

1. 対象者の顔面データの時系列変化を示す顔面変化情報を取得する顔面変化情報取得部（２０，１２０，４１５，４４２）と、
   前記顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する顔面変化情報分解部（３０，１３０，４４３）と、
   前記複数の成分から抽出された判定用成分に基づいて、前記対象者の運転者状態を判定する運転者状態判定部（２００，４４５）と、
   を備える、運転者状態判定装置（１０，１１０，４００，４００Ａ，４００Ｂ）。
2. 機器（３５０）を運転する対象者（３００）に、人間の脳機能を賦活する脳機能賦活情報を提供する脳機能賦活情報提供部（４４１）と、
   前記複数の成分から、前記脳機能賦活情報と関連する成分を判定用成分として抽出する判定用成分抽出部（４４４）と、
   をさらに備える、請求項１に記載の運転者状態判定装置（４００）。
3. 機器を運転する対象者に提供される、人間の脳機能を賦活する脳機能賦活情報を検知する脳機能賦活情報検知部（４４１Ａ）と、
   前記複数の成分から、前記脳機能賦活情報と関連する成分を判定用成分として抽出する判定用成分抽出部と、
   をさらに備える、請求項１に記載の運転者状態判定装置（４００Ａ）。
4. 機器（３５０）に対する所定の操作により生じる所定の変化量から、人間の脳活動に関連する変化量を脳活動関連変化量として抽出する脳活動関連変化量抽出部（４４１Ｂ）と、
   前記複数の成分から、前記脳活動関連変化量と関連する成分を判定用成分として抽出する判定用成分抽出部と、
   をさらに備える、請求項１に記載の運転者状態判定装置（４００Ｂ）。
5. 前記判定用成分抽出部は、危険率の値に基づいて、前記判定用成分を抽出する、
   請求項２から４いずれか１項に記載の運転者状態判定装置。
6. 脳機能賦活情報又は脳活動関連変化量に対して算出される判定用成分の相関値の、前記脳機能賦活情報又は前記脳活動関連変化量に対して算出された基準判定用成分の基準相関値からの所定範囲の変化量を、運転者状態レベルに関連付けて判定情報として記憶する判定情報記憶部（４３２）をさらに備え、
   前記運転者状態判定部が、前記脳機能賦活情報又は前記脳活動関連変化量に対する前記判定用成分の相関値を算出し、算出した相関値及び前記判定情報に基づいて、前記対象者の運転者状態レベルを判定する、
   請求項２から５のいずれか１項に記載の運転者状態判定装置。
7. ネットワーク上の判定情報提供装置（５００）が、脳機能賦活情報又は脳活動関連変化量に対して算出される判定用成分の相関値の、前記脳機能賦活情報又は前記脳活動関連変化量に対して算出された基準判定用成分の基準相関値からの所定範囲の変化量を、運転者状態レベルに関連付けて判定情報として記憶する判定情報記憶部（５３２）を備え、
   前記運転者状態判定部が、前記脳機能賦活情報又は前記脳活動関連変化量に対する判定用成分の相関値を算出し、算出した相関値及び前記判定情報に基づいて、前記対象者の運転者状態レベルを判定する、
   請求項２から６のいずれ１項に記載の運転者状態判定装置。
8. 前記機器は、自動車、鉄道車両、飛行機、原子力発電機器、各種プラントを含む自動機械である、
   請求項２から７のいずれか１項に記載の運転者状態判定装置。
9. 前記機器は、自動車、鉄道車両、飛行機、原子力発電機器、各種プラントを含む自動機械である、
   前記脳活動関連変化量抽出部は、前記自動機械への指示信号の変化量から、前記脳活動関連変化量を抽出する、
   請求項４に記載の運転者状態判定装置。
10. 前記機器は、自動車、鉄道車両、及び飛行機を含む交通機器であり、
    前記脳活動関連変化量抽出部は、前記交通機器の加速度の変化量から、前記脳活動関連変化量を抽出する、
    請求項４に記載の運転者状態判定装置。
11. 前記運転者状態判定部は、
    前記複数の成分に基づき、前記対象者の脳活動を推定する脳活動推定手段と、
    前記脳活動推定手段により推定された前記対象者の脳活動に基づき、前記対象者の生理状態を監視する状態監視手段（２００）と、
    をさらに備える、請求項１に記載の運転者状態判定装置（１０，１１０）。
12. 前記状態監視手段は、前記対象者の脳活動に基づき前記対象者の操縦に対する意識レベルを解析する解析部（２０１）を有する、
    請求項１１に記載の運転者状態判定装置。
13. 前記状態監視手段は、前記解析部により解析された前記意識レベルが一定以下に低下した場合に、前記対象者に注意を促すための報知を行う報知部（２０３）を有する、
    請求項１２に記載の運転者状態判定装置。
14. 前記対象者の操縦する機器を管理する管理者が、前記対象者の生理状態に関する情報を取得するための情報取得手段（２０２）、を備える、
    請求項１１から１３のいずれか１項に記載の運転者状態判定装置。
15. 機器（３５０）を運転する対象者（３００）に、人間の脳機能を賦活する脳機能賦活情報を提供する脳機能賦活情報提供ステップ、機器を運転する対象者に提供される、人間の脳機能を賦活する脳機能賦活情報を検知する脳機能賦活情報検知ステップ、又は、機器（３５０）に対する所定の操作により生じる所定の変化量を検出する機器変化量検出ステップ、及び前記機器変化量検出ステップにより検出された変化量から、前記機器を運転する対象者（３００）の脳活動に関連する変化量を脳活動関連変化量として抽出する脳活動関連変化量抽出ステップと、
    前記対象者の顔面データの時系列変化を示す顔面変化情報を取得する顔面変化情報取得ステップと、
    前記顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する顔面変化情報分解ステップと、
    前記複数の成分から、前記脳機能賦活情報又は前記脳活動関連変化量に関連する成分を判定用成分として抽出する判定用成分抽出ステップと、
    前記判定用成分に基づいて、前記対象者の運転者状態を判定する運転者状態判定ステップと、
    を備える、運転者状態判定方法。
16. 脳機能賦活情報又は脳活動関連変化量に対して算出される判定用成分の相関値の、前記脳機能賦活情報又は前記脳活動関連変化量に対して算出された基準判定用成分の基準相関値からの所定範囲の変化量が、運転者状態レベルに関連付けられて判定情報として判定情報記憶部（４３２，５３２）に記憶されており、
    前記運転者状態判定ステップで、前記脳機能賦活情報又は前記脳活動関連変化量に対する前記判定用成分の相関値を算出し、算出した相関値及び前記判定情報に基づいて、前記対象者の運転者状態レベルを判定する、
    請求項１５に記載の運転者状態判定方法。
17. 所定のタイミングで、前記脳機能賦活情報検知ステップ、前記脳機能賦活情報提供ステップ、又は、前記機器変化量検出ステップ及び前記脳活動関連変化量抽出ステップ、並びに、前記顔面変化情報取得ステップ、前記顔面変化情報分解ステップ、及び前記判定用成分抽出ステップを実行し、前記脳機能賦活情報又は前記脳活動関連変化量に関連する成分を基準判定用成分として抽出する、
    請求項１６に記載の運転者状態判定方法。
18. 前記判定情報記憶部（５３２）は、ネットワーク上の判定情報提供装置（５００）に格納されており、
    前記運転者状態判定ステップが、前記運転者状態レベルを判定する際に、前記判定情報提供装置にアクセスする、
    請求項１６又は１７に記載の運転者状態判定方法。
19. 前記基準相関値は、前記対象者以外の者に、前記脳機能賦活情報を提供して得られた基準判定用成分に基づいて算出されるものである、又は正常運転時の脳活動関連変化量から得られた基準判定用成分に基づいて算出されるものである、
    請求項１８に記載の運転者状態判定方法。