JP6886140B2 - 不快判定装置 - Google Patents

Description

本発明は、不快判定装置に関する。

近年、特許文献１（特開２０１３−１７６４０６号公報）に開示されているような脳波計測法（EEG）、磁気共鳴画像法（fMRI: functional Magnetic Resonance Imaging）、及び近赤外線分光法（NIRS）によって検出されたデータを利用して、人間の脳活動を推定することが試みられている。また、推定された脳活動から、人間の体調及び精神状態の判定等の応用が検討されている。

しかしながら、脳波計測法及び近赤外線分光法では、対象者が電極を装着しなければならない等の前処理が必要である。また、磁気共鳴画像法では、所定のＭＲＩ室で計測する必要がある。要するに、これらの方法では、準備段階での作業が繁雑であったり、計測時の条件が制限されたりするという問題がある。また、これらの方法は、いずれも多大なコストを要するものである。結果として、これらの方法では、対象者の体調及び精神状態の判定等を行なうのが困難なことがある。

本発明の課題は、対象者の精神又は身体の生理状態を容易に判定し得るための装置及び方法を提供することにある。特に、本発明は、対象者を検査する検査機器の操作に応じて惹起される不快状態を判定する不快判定装置を提供することを目的とする。

本発明の第１観点に係る不快判定装置は、特定操作情報検知部と、顔面変化情報取得部と、顔面変化情報分解部と、判定用成分抽出部と、不快判定部と、を備える。特定操作情報検知部は、検査機器の特定操作に対応する特定操作情報を検知する。顔面変化情報取得部は、検査機器により検査される対象者の顔面データの時系列変化を示す顔面変化情報を取得する。顔面変化情報分解部は、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する。判定用成分抽出部は、複数の成分から、特定操作情報と関連する成分を判定用成分として抽出する。不快判定部は、判定用成分に基づいて、対象者の不快状態を判定する。

第１観点に係る不快判定装置では、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分から判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者の脳活動の有無を容易に推定できる。これにより、対象者の脳活動に基づいて、検査機器の操作に応じて惹起される対象者の不快状態を容易に判定できる。

なお、本発明において「不快」とは、対象者が身体的および精神的に違和感を生じる任意の状態を意味しており、疼痛や苦痛、その他のストレスを感じる状態を含む意味で用いられる。

本発明の第２観点に係る不快判定装置は、第１観点の不快判定装置において、判定用成分抽出部が、特定操作情報に対応する判定用波形と、複数の成分との相関値に基づいて、判定用成分を抽出する。このような構成により、対象者の脳機能に対応する判定用成分を特定することができる。

本発明の第３観点に係る不快判定装置は、第１観点または第２観点の不快判定装置において、検査機器が、意識清明の状態の対象者に対する任意の検査で用いられるものである。これにより、任意の検査において、意識清明の状態の対象者の不快状態を容易に判定できる。

本発明の第４観点に係る不快判定装置は、第１観点から第３観点の不快判定装置において、検査機器が内視鏡である。したがって、第４観点に係る不快判定装置では、内視鏡の操作に応じて惹起される対象者の不快状態を容易に判定できる。

本発明に係る第５観点に係る不快判定装置は、第１観点から第４観点の不快判定装置において、特定操作情報が、検査機器の操作者による音声、検査機器の操作者による信号入力、検査機器に取り付けられた加速度センサの検出値、検査機器の対象者への挿入長、対象者のレントゲン透視画像、及び、検査機器から取得される撮像画像、のいずれか一つ又は任意の組み合わせから生成されるものである。なお、本発明において「操作者」という用語は、検査機器３５０を直接的に操作する者のみならず間接的に操作する者も含む意味で用いられる。したがって、不快判定をする際に、対象者３００の周囲に存する「介助者」等も操作者に含まれる。

第５観点に係る不快判定装置では、検査機器の使用状況に応じた最適な手法で、対象者が不快に感じる検査機器の特定操作を認識できる。

本発明に係る第６観点に係る不快判定装置は、第１観点から第５観点の不快判定装置において、判定情報記憶部をさらに備える。判定情報記憶部は、特定操作情報が検知されるときに算出される判定用成分の相関値の、対象者が通常状態のときに算出された基準判定用成分の基準相関値からの所定範囲の変化量を、不快状態レベルに関連付けて判定情報として記憶する。また、不快判定部が、特定操作情報に対する判定用成分の相関値を算出し、算出した相関値及び判定情報に基づいて、対象者の不快状態レベルを判定する。したがって、第６観点に係る不快判定装置では、基準判定用成分を利用して、不快状態レベルを容易に判定できる。

本発明に係る第７観点に係る不快判定装置は、第１観点から第６観点の不快判定装置において、不快判定部が、特定操作情報に対する判定用成分の相関値を算出し、算出した相関値及び判定情報に基づいて、対象者の不快状態レベルを判定する。ここでは、ネットワーク上の判定情報提供装置が、特定操作情報が検知されるときに算出される判定用成分の相関値の、対象者が通常状態のときに算出された基準判定用成分の基準相関値からの所定範囲の変化量を、不快状態レベルに関連付けて判定情報として記憶する判定情報記憶部を備える。したがって、第７観点に係る不快判定装置では、ネットワーク上の判定情報提供装置を利用して、対象者の不快状態レベルを判定できる。

第１観点に係る不快判定装置では、検査機器の操作に応じて惹起される対象者の不快状態を容易に判定できる。

第２観点に係る不快判定装置では、対象者の脳機能に対応する判定用成分を特定できる。

第３観点に係る不快判定装置では、意識清明の状態の対象者の不快状態を容易に判定できる。

第４観点に係る不快判定装置では、内視鏡の操作に応じて惹起される対象者の不快状態を容易に判定できる。

第５観点に係る不快判定装置では、検査機器の使用状況に応じた最適な手法で、対象者が不快に感じる検査機器の特定操作を認識できる。

第６観点に係る不快判定装置では、不快状態レベルを容易に判定できる。

第７観点に係る不快判定装置では、ネットワーク上の判定情報提供装置を利用して、対象者の不快状態レベルを判定できる。

撮影画像データ及びこれを解析した結果の一例を示す図。 顔面皮膚温度データを解析した結果の一部を示す図。 顔面皮膚温度データを解析した結果の一部を示す図。 成分２の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図。 成分３の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図。 対照実験で得られた顔面皮膚温度データを解析した結果の一部を示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。 本発明の一実施形態に係る脳活動可視化装置の概略図。 脳活動可視化装置において脳機能を反映した皮膚温度の変化を示す成分を同定する際の処理の流れの一例を示すフローチャート。 本発明の一実施形態に係る脳活動可視化装置の概略図。 脳活動可視化装置において脳機能を反映した顔面のＲＧＢ変化を示す成分を同定する際の処理の流れの一例を示すフローチャート。 本発明の一実施形態に係る不快判定装置の構成を示す模式図。 不快判定装置の脳機能賦活情報データベースの構成を示す模式図。 不快判定装置の判定情報データベースの構成を示す模式図。 レッドスポット・ダイナミック・レスポンス・ファンクションの波形の一例を示す模式図。 不快判定装置の動作を示すフローチャート。 不快判定装置の変形例の構成を示す模式図。 不快判定の検証結果を示す図。 不快判定の検証結果を示す図。

本発明の実施形態を説明する前に、まず、本発明者らが本発明を為すにあたって重要な基礎となった、本発明者らによる知見について説明する。

（１）本発明者らによる知見の要点
人間の脳活動には、人間の知的活動（認知活動等）及び情動活動（快／不快等の活動）が反映されていることが知られている。そして、従来より、人間の脳活動を推定する試みがされているが、この場合、脳波計測法、磁気共鳴画像法及び近赤外線分光法のいずれかの方法によって検出されたデータが利用されることが多い。

ここで、検出方法として、例えば、脳波計測法が採用される場合には、被験者に対して脳波電極を装着する必要がある。そして、脳波電極を装着する際には皮膚と電極との間の抵抗を小さくする必要があるため、皮膚を研磨する処理を行ったり電極にペーストを塗布したりする等の作業が必要になる。また、磁気共鳴画像法が採用される場合には、ＭＲＩ室以外での測定が不可能であるとともに、測定室内に金属を持ち込むことができない等の測定条件に制約がある。さらに、近赤外線分光法が採用される場合には、被験者に対してプローブを装着する必要があるが、プローブを長時間装着することで被験者が痛みを感じたり、被験者の髪とプローブとの接触具合によっては正確に検出できなかったりすることがある。このように、人間の脳活動を測定するために従来の検出方法が採用される場合、脳波電極やプローブ等を装着する際の前処理が必要であったり、測定条件が限定されたりする等、被験者に与える負担が大きくなる。

したがって、被験者の負担を軽減し、かつ簡便に人間の脳活動を推定できる手段の開発が求められている。

そして、本発明者らは、人間の顔面の皮膚温度又は顔面の皮膚温度に比例すると考えられている顔面の血行状態に基づき人間の脳活動を推定することができるのではないか、と考えた。人間の顔面の皮膚温度であればサーモグラフィ等の測定装置を用いることで取得することができ、顔面の血行状態すなわち顔面の血行量であれば撮影装置を利用して得られる顔面の撮影画像のＲＧＢデータから推定することができる。このように、顔面の皮膚温度や顔面の撮影画像であれば、脳波電極やプローブ等の装着前に処理が必要なセンサを装着することなく取得することができる。

一方で、人間の顔面の皮膚温度は、外気温度及び／又は自律神経の活動等の様々な要因の影響を受けて変化することが知られている。このため、顔面の皮膚温度に基づいて又は顔面の皮膚温度に比例すると考えられる顔面の血行量に基づいて脳活動を推定しようとすると、取得したデータが脳活動のみを反映しているかどうかを判断することは、非常に困難であると考えられる。

本発明者らは、鋭意検討した結果、顔面の皮膚温度を検出し、検出した温度データ及び検出部位の位置データ（座標データ）を含む時系列の顔面皮膚温度データを、或いは、時系列の顔面の撮影画像データから得られるＲＧＢデータに基づき算出された時系列の顔面の血行量データを、特異値分解法、主成分分析法若しくは独立成分分析法を用いて複数の成分に分解し、分解した複数の成分について解析を行うことで、脳活動を反映した顔面の皮膚温度の変化或いは顔面の血行量の変化を示す成分を同定することができることを見いだした。そして、本発明者らは、対象者の脳活動を推定し、これを解析することで、推定した脳活動に基づき対象者の生理状態を可視化することのできる本発明に到達した。

（２）顔面の各種データの取得方法、及び取得した各種データの解析方法
（２−１）顔面皮膚温度データの取得方法、及び顔面皮膚温度データの解析方法
次に、本発明者らが上記の知見を得るに際して用いた顔面皮膚温度データの取得方法、及び顔面皮膚温度データの解析方法について説明する。

この試験では、６名の被験者から顔面皮膚温度データを取得した。具体的には、室温２５℃を維持した人工気象室内に設置した椅子に被験者を座らせて、赤外線サーモグラフィ装置を用いて、被験者の顔面全体から顔面皮膚温度データを取得した。赤外線サーモグラフィ装置は、対象物から出ている赤外線放射エネルギーを赤外線カメラで検出し、検出した赤外線放射エネルギーを対象物表面の温度（ここでは、摂氏での温度）に変換して、その温度分布を顔面皮膚温度データ（例えば、温度分布を表した画像データ）として表示、蓄積することが可能な装置である。なお、この試験では、赤外線サーモグラフィ装置として、NEC Avio 赤外線テクノロジー株式会社製のR300を使用した。また、赤外線カメラは、被験者の正面であって、被験者から１．５ｍ離れた地点に設置した。そして、顔面皮膚温度データは、３０分間取得した。

また、この試験では、顔面皮膚温度データを取得している間に、被験者に対して脳機能賦活課題を与えた。これにより、脳の非賦活時の顔面皮膚温度データ、及び脳の賦活時の顔面皮膚温度データを取得した。脳機能賦活課題としては、被験者が表示装置等に表示された映像に基づいて、計算、又は、数値、形状及び色の認知、或いは、記号、文字ないし言語の記憶などの心理的作業が挙げられる。この試験では、脳機能賦活課題として「かけ算の暗算」を採用し、被験者に、表示装置に筆算形式で表示される数字を計算させ、その回答をキーボードに入力させる作業を課した。なお、この試験では、顔面皮膚温度データの取得開始から５分経過後から１０分間継続して、被験者に対して脳機能賦活課題を与えた。

顔面皮膚温度データの解析としては、取得した顔面皮膚温度データを対象として、ＭＡＴＬＡＢ（登録商標）のＳＶＤ（Singular Value Decomposition）を分析ツールとして用いて特異値分解を行った。特異値分解では、時系列で取得した全ての顔面皮膚温度データ（３０分間のデータ）を対象とし、要因を３０秒毎の時間データ（３０分間で６０ time point）とし、測度をその期間（３０秒間）における顔面皮膚温度データ（２４０×３２０ pixels）とした。そして、特異値分解により、顔面皮膚温度データＸを、複数の成分に分解し、それぞれの成分の時間分布Ｖと、空間分布Ｕと、各成分の大きさを示す特異値Ｓとを算出した。なお、これらの関係は、以下の式で表される。また、Ｖ’は、Ｖの行と列とを入れ替えた行列である。

そして、特異値分解によって求められた各成分の時間分布Ｖ及び空間分布Ｕをグラフにプロットし、各成分の成分波形図と温度分布図とを作成した。

さらに、作成した各成分の成分波形図及び温度分布図について、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。

各成分の成分波形図については、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、脳の非賦活期間／脳の賦活期間との間に相関関係があるか否かを評価した。この試験では、顔面皮膚温度データを取得している期間のうち、被験者に対して脳機能賦活課題が与えられていない期間であるデータ取得開始時点から５分が経過した時点までの５分間の期間、及びデータ取得開始時から１５分が経過した時点からデータ取得終了時点までの１５分間の期間を脳の非賦活時とし、被験者に対して脳機能賦活課題が与えられている期間であるデータ取得開始時から５分が経過した時点から１０分が経過した時点までの１０分間の期間を脳の賦活時とした。そして、各成分の成分波形図に示された振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準（α）が０．０５以下の場合に相関があると判断した。

各成分の温度分布図については、顔面の所定部位における温度変化の有無について解析した。ここで、脳には、選択的脳冷却機構（Selective Brain Cooling System）という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び副鼻腔周辺（眉間及び鼻部周辺を含む）を用いて排熱していることが知られている。そこで、この試験では、各成分の温度分布図において、副鼻腔周辺及び前額部における温度変化があるか否かを評価した。なお、温度分布図における副鼻腔周辺及び前額部の温度変化の有無については、目視（visual inspection）による温度変化の有無、もしくは副鼻腔周辺及び前額部の温度が測定データ全体の平均温度から１標準偏差（ＳＤ）以上異なるか否かを温度変化の有無の基準とした。

なお、空間分布Ｕ、特異値Ｓ及び時間分布Ｖの値の関係で、顔面皮膚温度データＸの極性（プラスマイナス）が決定するため、各成分の成分波形図及び温度分布図において極性が反転して現れることがある。このため、成分波形図及び温度分布図の評価に関して、極性については評価対象としないこととした。

ここで、この赤外線サーモグラフィ装置では、上述しているように、対象物から検出された赤外線放射エネルギーを温度に変換して、その温度分布を顔面皮膚温度データとしている。ところで、人間を対象として赤外線サーモグラフィ装置を用いて顔面の皮膚温度を取得する場合、顔面の動き及び／又は自律神経の活動等の様々な脳活動とは関連しない温度変化（いわゆるノイズ）についても顔面皮膚温度データとして取得してしまう（図１（ａ）参照）。そこで、このような脳活動とは関連しない温度変化を検出するために、３０秒毎の顔面皮膚温度データに含まれる温度データの全平均値を「０」とした相対的な顔面皮膚温度データを作成し、作成した顔面皮膚温度データについても、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行い、特異値Ｓに応じた各成分の成分波形図と温度分布図とを作成し、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。

なお、以下より、説明の便宜上、赤外線サーモグラフィ装置で取得した顔面皮膚温度データを「温度換算データに応じた顔面皮膚温度データ」といい、所定時間毎（この試験では３０秒毎）の温度換算データに応じた顔面皮膚温度データに含まれる温度データの全平均値を「０」とした相対的な顔面皮膚温度データを「相対温度換算データに応じた顔面皮膚温度データ」という。

また、６名の被験者のうちの１名に対しては、赤外線サーモグラフィ装置による顔面皮膚温度の検出の他に、被験者の頭皮上に電極を接続して脳波を測定し、覚醒時や意識が緊張した時に現れる波形として知られているβ波（１４〜３０Ｈｚの周波数の脳波）の振幅と、成分波形図の振幅との間の相関関係についても評価した。なお、脳波測定では、国際式１０−２０法に基づき、６つの部位（Ｆ３、Ｆ４，Ｃ３、Ｃ４、Ｃｚ、Ｐｚ）に電極を配置した。

ところで、被験者に脳機能賦活課題が与えられている間、被験者の頭が上下に動くことが考えられる。そうすると、赤外線カメラに対する被験者の顔面の位置が変化することになる。この顔面の位置の変化が皮膚温度の変化に影響しているか否かを検証するために、被験者１名に対して対照試験を行った。顔面皮膚温度データを取得する際の被験者の動きの影響を検証するための対照試験では、上記試験と同様に赤外線サーモグラフィ装置を用いて被験者の顔面皮膚温度データを取得するが、脳機能賦活課題が与えられていない間（すなわち、脳の非賦活時）についてもランダムなタイミングでキーボードを押す作業を被験者に課した。この対照実験によって得られた温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データについても、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行い、特異値Ｓに応じた各成分の成分波形図と温度分布図とを作成し、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。

（２−２）顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法
図１（ａ）は、撮影装置にて撮影した被験者の顔面の副鼻腔周辺の撮影画像データの一例を示す図である。図１（ｂ）は、血行量分布図（画像マップ）の一例を示す図である。

次に、本発明者らが上記の知見を得るに際して用いた顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法について説明する。

この試験では、６名の被験者から顔面の撮影画像データを取得した。具体的には、室温２５℃を維持した人工気象室内に設置した椅子に被験者を座らせて、時系列で画像を取得可能な撮影装置を用いて、被験者の顔面全体の副鼻腔周辺の撮影画像データを時系列で取得した。

また、上述した選択的脳冷却機構に基づくと、脳活動に伴う顔面皮膚温度に比例すると考えられる顔面の血行量の変化は、前額部及び／又は副鼻腔周辺に出現すると考えられる。このことから、本発明者らは、少なくとも前額部及び／又は副鼻腔周辺の顔面の血行量の変化を捉えることができれば、精度良く脳活動を推定することができる、と考えた。そして、この試験では、被験者の顔面の副鼻腔周辺の撮影画像データを時系列で取得した。

また、この試験では、撮影装置として、Apple社製のiPad Air（登録商標）の備える液晶画面側の撮影装置を使用し、時系列の撮影画像データとしてカラーの動画データを取得した。また、撮影装置を、被験者の正面側であって、被験者から１．０ｍ離れた地点に設置した。そして、撮影装置によって、３０フレーム／秒の撮影周期で時間軸に沿って３０分間の撮影画像データを連続撮影することで、顔面の動画データを得た。

さらに、この試験では、顔面の動画データを取得している間に、被験者に対して脳機能賦活課題を与えた。これにより、脳の非賦活時の顔面の動画データ、及び脳の賦活時の顔面の動画データを取得した。この試験では、上記試験と同様に、脳機能賦活課題として「かけ算の暗算」を採用し、被験者に、表示装置に筆算形式で表示される数字を計算させ、その回答をキーボードに入力させる作業を課した。なお、この試験では、顔面の動画データの取得開始から５分経過後から１０分間継続して、被験者に対して脳機能賦活課題を与えた。

顔面の動画データの解析としては、撮影した顔面の動画データより得られたＲＧＢデータに基づき血行量データを算出し、算出した時系列の血行量データを対象として、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行った。ここでは、ＣＩＥ−Ｌ^*ａ^*ｂ^*表色系に従って、画像のＲＧＢデータより演算される肌の赤みやヘモグロビン量と相関のある紅斑指数「ａ^*」を求め、これを血行量データとした。また、特異値分解では、時系列で取得した全ての動画データ（３０分間のデータ）から得られたＲＧＢデータに基づく血行量データ（ここでは、紅斑指数）を対象とし、要因を３０秒毎の時間データ（３０分間で６０ time point）とし、測度をその期間（３０秒毎）におけるＲＧＢデータから演算した紅斑指数（３０秒毎に１秒間のフレームデータを取り出し、該フレームデータから得られるＲＧＢ値の平均値から演算した紅斑指数；２４０×３２０ pixels）とした。そして、特異値分解により、顔面の動画データより得られたＲＧＢデータに基づく時系列の血行量データを、複数の成分に分解し、それぞれの成分の時間分布Ｖと、空間分布Ｕと、各成分の大きさを示す特異値Ｓとを算出した。なお、これらの関係は、上記式（数１）と同様の式で表される。

そして、特異値分解によって求められた各成分の時間分布Ｖ及び空間分布Ｕをグラフにプロットし、各成分の成分波形図と血行量分布図とを作成した。

さらに、作成した各成分の成分波形図及び血行量分布図について、脳活動を反映した顔面の血行量の変化すなわち顔面のＲＧＢ変化を示す成分を同定するための解析を行った。

各成分の成分波形図については、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、脳の非賦活期間／脳の賦活期間との間に相関関係があるか否かを評価した。この試験では、顔面の撮影画像データを取得している期間のうち、被験者に対して脳機能賦活課題が与えられていない期間であるデータ取得開始時点から５分が経過した時点までの５分間の期間、及びデータ取得開始時から１５分が経過した時点からデータ取得終了時点までの１５分間の期間を脳の非賦活時とし、被験者に対して脳機能賦活課題が与えられている期間であるデータ取得開始時から５分が経過した時点から１０分が経過した時点までの１０分間の期間を脳の賦活時とした。そして、各成分の成分波形図に示された振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準（α）が０．０１以下の場合に相関があると判断した。

各成分の血行量分布図については、顔面の所定部位における血行量変化の有無について解析した。血行量分布図は、ピクセル毎に算出された空間分布Ｕを各ピクセルの位置に並べることで作成される。このように作成された各成分の血行量分布図において、副鼻腔周辺及び前額部における血行量の変化があるか否かを評価した。なお、血行量分布図における副鼻腔周辺及び前額部の血行量変化の有無については、目視（visual inspection）による血行量変化の有無、もしくは図１（ｂ）に示す副鼻腔周辺及び前額部の血行量の値が「0.000」でないことを血行量変化の有無の基準とした。

なお、空間分布Ｕ、特異値Ｓ及び時間分布Ｖの値の関係で、血行量データＸの極性（プラスマイナス）が決定するため、各成分の成分波形図及び血行量分布図において極性が反転して現れることがある。このため、成分波形図及び血行量分布図の評価に関して、極性については評価対象としないこととした。

さらに、顔面の皮膚温度と顔面の血行量との相関関係を検証するために、６名の被験者から顔面の撮影画像データを時系列で取得している間、赤外線サーモグラフィ装置により顔面皮膚温度データも時系列で取得し、取得した顔面皮膚温度データについてもＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行い、特異値Ｓに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。なお、この試験では、赤外線サーモグラフィ装置として、上記試験と同様の装置を用いた。また、赤外線カメラは、被験者の正面であって、被験者から１．５ｍ離れた地点に設置した。

ところで、撮影装置を用いて顔面の撮影画像データを取得する場合、撮影中に太陽の光等が顔に当たることで光が顔で反射し、この反射光が撮影装置のレンズに入り込んでしまうことがある。そうすると、撮影された顔面の撮影画像データにはこの反射光が記録されてしまうことになる。ここで、撮影画像データから得られるＲＧＢデータにおいて、顔面の血行量に基づく明度の変化は反射光に基づく明度の変化よりも小さいため、反射光の記録された撮影画像データから得られるＲＧＢデータに基づいて算出された血行量が解析されると、脳活動とは関連しない顔面のＲＧＢ変化（いわゆるノイズ）が混入してしまう可能性があると考えられた。そこで、このような脳活動とは関連しない顔面のＲＧＢ変化の混入を防ぐために、３０秒毎のＲＧＢデータの全平均値を「０」とした相対的なＲＧＢデータから相対的な血行量データを作成し、作成した血行量データについても、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行い、特異値Ｓに応じた各成分の成分波形図と血行量分布図とを作成し、脳活動を反映した顔面のＲＧＢ変化を示す成分を同定するための解析を行った。

なお、以下より、説明の便宜上、所定時間毎（この試験では３０秒毎）のＲＧＢデータの全平均値を「０」とした相対的なＲＧＢデータに基づく相対的な血行量データを「相対換算血行量データ」といい、相対的なＲＧＢデータに換算する前のＲＧＢデータに基づく血行量データを単に「血行量データ」という。

また、６名の被験者に対して撮影装置によって顔面の時系列の撮影画像データを取得している間、各被験者の頭皮上に電極を接続して脳波を測定し、覚醒時等の脳細胞が活動している時に現れる波形として知られているβ波（１３〜３０Ｈｚの周波数の脳波）の振幅と、成分波形図の振幅との間の相関関係についても評価した。なお、脳波測定では、国際式１０−２０法に基づき、頭皮上１９の部位（Ｆｐ１、Ｆｐ２、Ｆ３、Ｆ４、Ｃ３、Ｃ４、Ｐ３、Ｐ４、Ｏ１、Ｏ２、Ｆ７、Ｆ８、Ｔ３、Ｔ４、Ｔ５、Ｔ６、Ｆｚ、Ｃｚ及びＰｚ）に電極を配置した。

さらに、被験者に脳機能賦活課題が与えられている間、被験者の頭が上下に動くことが考えられる。そうすると、撮影装置に対する被験者の顔面の位置が変化することになる。この顔面の位置の変化が顔面のＲＧＢ変化に影響しているか否かを検証するために、被験者１名に対して対照試験を行った。対照試験では、上記試験と同様に撮影装置を用いて被験者の顔面の時系列の撮影画像データを取得するが、脳機能賦活課題が与えられていない間（すなわち、脳の非賦活時）についてもランダムなタイミングでキーボードを押す作業を被験者に対して課した。この対照実験によって撮影された顔面の時系列の撮影画像データから得られたＲＧＢデータに基づく時系列の血行量データについても、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて特異値分解を行い、特異値Ｓに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。また、各成分波形の振幅と、実際の顔面の動きとの相関関係の有無について解析した。実際の顔面の動きは、撮影画像データから顔の同一箇所の２次元座標を取得し、対照実験開始時の撮影画像データを基準として撮影時における３０秒毎の顔面の移動距離を算出することで評価した。さらに、各成分波形の振幅と、撮影中のキーボードの入力数との相関関係の有無についても解析した。撮影中のキーボードの入力数は、時系列の撮影画像データにおける３０秒毎の単純移動平均を算出することで評価した。

（３）解析結果
（３−１）顔面皮膚温度データの解析結果
図２は、温度換算データに応じた顔面皮膚温度データを解析した結果の一部を示す図である。図２（ａ）は、被験者１の成分２の成分波形図を示している。図２（ｂ）は、被験者１の成分２の温度分布図を示している。図３（ａ）は、被験者１の成分３の成分波形図を示している。図３（ｂ）は、被験者１の成分３の温度分布図を示している。図４及び図５は、成分波形の振幅と、脳波との関係を示す図である。図４は、被験者１の成分２の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図である。図５は、被験者１の成分３の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図である。図６は、対照実験で得られた顔面皮膚温度データを解析した結果の一部を示す図である。図６（ａ）は、成分３の成分波形図を示している。図６（ｂ）は、成分３の温度分布図を示している。

表１は、各被験者に対する顔面皮膚温度データの解析結果を示したものである。

上記の顔面皮膚温度データの解析によって得られた結果から、時系列の顔面皮膚温度データを特異値分解により分解して得られた複数の成分のうち、成分２及び／又は成分３と、人間の脳活動との間に有意な相関があることが確認された。

また、図４及び図５に示すように、脳波解析の結果から、成分２及び成分３の各成分波形の振幅と、脳波のβ波の振幅との間に有意な相関が確認された。

さらに、対照実験では、顔面皮膚温度データを取得している間に被験者に動きがある状態であっても、成分３と人間の脳活動との間に有意な相関があった（図６参照）。このことから、複数の成分のうち、成分３については、顔面皮膚温度データを取得する際の被験者の動きが影響していないことが認められた。

これらの結果から、本発明者らは、以下の知見を得た。

被験者から取得した時系列の顔面皮膚温度データを特異値分解により複数の成分に分解し、分解した各成分について解析した結果、複数の成分のうちの成分３が脳活動に関連する成分であると認められた。すなわち、時系列の顔面皮膚温度データを特異値分解により複数の成分に分解し、分解した複数の成分から脳の賦活／非賦活と相関のある成分を抽出し、抽出した成分について選択的脳冷却機構を利用した解析を行うことで、複数の成分から脳活動を反映した皮膚温度の変化を示す成分を同定することができることが判明した。このことから、本発明者らは、人間の顔面の皮膚温度に基づいて、脳活動を推定することができる、という知見を得た。

（３−２）顔面の撮影画像データの解析結果
図７〜図１８は、顔面の撮影画像データ（血行量データ）又は顔面皮膚温度データに基づく成分波形図と、測定された脳波のうちのβ波の波形図を比較解析した結果の一部を示す図である。図７は、被験者１の撮影画像データに基づく成分２の成分波形の振幅と、測定された被験者１の脳波のうちのβ波の振幅とを示す図である。図８は、被験者１の顔面皮膚温度データに基づく成分２の成分波形の振幅と、測定された被験者１の脳波のうちのβ波の振幅とを示す図である。図９は、被験者２の撮影画像データに基づく成分２の成分波形の振幅と、測定された被験者２の脳波のうちのβ波の振幅とを示す図である。図１０は、被験者２の顔面皮膚温度データに基づく成分２の成分波形の振幅と、測定された被験者２の脳波のうちのβ波の振幅とを示す図である。図１１は、被験者３の撮影画像データに基づく成分４の成分波形の振幅と、測定された被験者３の脳波のうちのβ波の振幅とを示す図である。図１２は、被験者３の顔面皮膚温度データに基づく成分３の成分波形の振幅と、測定された被験者３の脳波のうちのβ波の振幅とを示す図である。図１３は、被験者４の撮影画像データに基づく成分３の成分波形の振幅と、測定された被験者４の脳波のうちのβ波の振幅とを示す図である。図１４は、被験者４の顔面皮膚温度データに基づく成分２の成分波形の振幅と、測定された被験者４の脳波のうちのβ波の振幅とを示す図である。図１５は、被験者５の撮影画像データに基づく成分２の成分波形の振幅と、測定された被験者５の脳波のうちのβ波の振幅とを示す図である。図１６は、被験者５の顔面皮膚温度データに基づく成分２の成分波形の振幅と、測定された被験者５の脳波のうちのβ波の振幅とを示す図である。図１７は、被験者６の撮影画像データに基づく成分４の成分波形の振幅と、測定された被験者６の脳波のうちのβ波の振幅とを示す図である。図１８は、被験者６の顔面皮膚温度データに基づく成分３の成分波形の振幅と、測定された被験者６の脳波のうちのβ波の振幅とを示す図である。

図７〜図１８に示すように、各成分波形と脳波解析との結果から、顔面の皮膚温度と顔面の血行量とが相関関係にあることが確認された。なお、顔面の皮膚温度データ及び顔面の血行量データのいずれのデータに基づく解析においても、各成分波形の振幅と、頭頂部又は後頭部に装着した電極が測定した脳波のβ波の振幅との間に有意な相関が確認された。

以下に示す表２は、各被験者に対する顔面の撮影画像データの解析結果を示したものである。

表２に示すように、上記の顔面の撮影画像データの解析によって得られた結果から、顔面の撮影画像データに基づく時系列の血行量データを特異値分解により分解して得られた複数の成分のうち、成分１，２，３，４，５と人間の脳活動との間に有意な相関があることが確認された。なお、ここでは、血行量データに基づく相関において有意な相関が見られかつ相対換算血行量データに基づく相関において有意な相関が見られた成分だけでなく、血行量データに基づく相関においては有意な相関が見られなかったが相対換算血行量データに基づく相関において有意な相関が見られた成分も、人間の脳活動と有意な相関があると認めるようにした。

また、以下に示す表３は、対照実験の結果を示したものである。

表３に示すように、対照実験では、顔面の撮影画像データを取得している間に被験者に動きがある場合、その成分波形の振幅と脳の非賦活時及び脳の賦活時との間に有意な相関のあった成分のうちの成分２については、移動距離及びキーボード入力数それぞれとの間に有意な相関が認められなかった。このことから、顔面の撮影画像データから取得したＲＧＢデータに基づく血行量データを特異値分解することで得られる複数の成分において、脳活動との間に有意な相関がある成分については、顔面の時系列の撮影画像データを取得する際の被験者の動きによる影響を受けたとしても、その影響は脳の脳活動による影響（脳の賦活や非賦活による影響）よりも遙かに小さいことが確認された。

これらの結果から、本発明者らは、以下の知見を得た。

被験者から取得した時系列の顔面の撮影画像データに基づく顔面のＲＧＢデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した各成分について解析した結果、複数の成分のうちの成分１，２，３，４，５が脳活動に関連する成分であると認められた。すなわち、時系列の顔面の撮影画像データに基づく顔面のＲＧＢデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した複数の成分から脳の賦活／非賦活と相関のある成分を抽出し、抽出した成分について解析することで、複数の成分から脳活動を反映した顔面のＲＧＢ変化を示す成分を同定することができることが判明した。このことから、本発明者らは、人間の顔面の時系列の撮影画像データに基づいて、脳活動を推定することができる、という知見を得た。

（４）脳活動可視化装置
次に、上記に説明した知見に基づいて、本発明者らが完成するに至った本発明の一実施形態に係る脳活動可視化装置１０，１１０について説明する。なお、本発明に係る脳活動可視化装置は、以下の実施形態に限定されるものではなく、要旨を逸脱しない範囲で適宜変更可能である。

本発明の一実施形態に係る脳活動可視化装置１０，１１０は、顔面皮膚温度データに基づき脳活動を推定する脳活動推定手段３０、及び／又は顔面の撮影画像データに基づき脳活動を推定する脳活動推定手段１３０を備えている。以下では、本発明の一実施形態に係る脳活動可視化装置１０，１１０を説明する前に、各脳活動推定手段３０，１３０について説明する。

（４−１）顔面皮膚温度データに基づき脳活動を推定する脳活動推定手段３０
図１９は、本発明の一実施形態に係る脳活動可視化装置１０の概略図である。図２０は、脳活動可視化装置１０において脳機能を反映した皮膚温度の変化を示す成分を同定する際の処理の流れを示すフローチャートである。

脳活動可視化装置１０の備える脳活動推定手段３０は、個人（被験者）の顔面の皮膚温度から、個人の脳活動を推定する。脳活動可視化装置１０は、図１９に示すように、顔面皮膚温度取得手段２０と、脳活動推定手段３０と、状態可視化手段２００と、を備える。

顔面皮膚温度取得手段２０は、個人の顔面の少なくとも一部の皮膚温度を検出し、検出した温度データ及びその検出部位の位置データを含む顔面皮膚温度データを時系列で取得する（ステップＳ１）。なお、ここでは、顔面皮膚温度取得手段２０は、赤外線サーモグラフィ装置であり、図１９に示すように、赤外線カメラ２１と、処理部２２と、を有する。赤外線カメラ２１は、個人の顔面から出ている赤外線放射エネルギーを検出するためのものである。そして、ここでは、赤外線カメラ２１は、個人の顔面全体から赤外線放射エネルギーを検出しているものとする。処理部２２は、赤外線カメラ２１によって検出した赤外線放射エネルギーを温度に変換して温度データとし、赤外線放射エネルギーの検出された部位を位置データ（座標データ）とした顔面全体における顔面皮膚温度の温度分布図を作成し、作成した温度分布図を温度換算データに応じた顔面皮膚温度データとして処理する。温度換算データに応じた顔面皮膚温度データは、処理部２２の有する記憶部（図示せず）に蓄積される。

ここでは、処理部２２において、顔面全体における顔面皮膚温度の温度分布図が作成されているが、これに限定されず、少なくとも副鼻腔周辺及び／又は前額部を含む顔面皮膚温度の温度分布図が作成され、これが温度換算データに応じた顔面皮膚温度データとされてもよい。

また、ここでは、顔面皮膚温度取得手段２０により温度換算データに応じた顔面皮膚温度データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられる。すなわち、顔面皮膚温度取得手段２０により取得される温度換算データに応じた顔面皮膚温度データには、個人に対して脳機能賦活課題が与えられている期間のデータが含まれていることになる。なお、個人に対して与えられる脳機能賦活課題としては、脳が賦活状態になると推定されるものであれば特に限定されるものではなく、例えば、脳活動可視化装置１０の利用目的に応じてその内容が適宜決定されるよう構成されていてもよい。

脳活動推定手段３０は、顔面皮膚温度取得手段２０により取得された温度換算データに応じた顔面皮膚温度データに基づき、人間の脳活動を推定する。具体的には、脳活動推定手段３０は、図１９に示すように、換算部３１と、解析部３２と、推定部３３と、を有する。

換算部３１は、温度換算データに応じた顔面皮膚温度データに含まれる温度データを相対的な温度データに換算し、換算した相対的な温度データに基づく顔面皮膚温度データすなわち相対温度換算データに応じた顔面皮膚温度データを作成する（ステップＳ２）。具体的には、換算部３１は、所定時間毎（例えば、３０秒）の温度換算データに応じた顔面皮膚温度データに含まれる温度データの平均値を基準値として、該温度データを相対的な温度データに換算する。そして、換算部３１は、換算した相対的な温度データ及び位置データを利用して、相対温度換算データに応じた顔面皮膚温度データを作成する。

解析部３２は、時系列の温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データのそれぞれを、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する（ステップＳ３）。ここでは、解析部３２は、取得した温度換算データに応じた顔面皮膚温度データ及び換算した相対温度換算データに応じた顔面皮膚温度データのそれぞれを対象として、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて、特異値分解を行う。特異値分解は、時系列で取得した温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データについて、要因を所定期間（例えば、３０秒）毎の時間データとし、測度をその期間における温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データとして行われる。そして、特異値分解により、温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データのそれぞれを複数の成分に分解し、時間分布と、空間分布と、各成分の大きさを示す特異値とを算出する。

また、解析部３２は、特異値分解によって分解した複数の成分から脳活動を反映した皮膚温度の変化を示す成分を同定するために、各成分が第１条件及び第２条件を満たすか否かを判定する（ステップＳ４ａ、ステップＳ４ｂ、ステップＳ５ａ、及びステップＳ５ｂ）。なお、ここでは、解析部３２において、まず、温度換算データに応じた顔面皮膚温度データに基づく各成分について第１条件が満たされているか否かが判定され（ステップＳ４ａ）、ステップＳ４ａにおいて第１条件が満たされていると判定された温度換算データに応じた顔面皮膚温度データに基づく成分について第２条件が満たされているか否かが判定される（ステップＳ４ｂ）。そして、相対温度換算データに応じた顔面皮膚温度データに基づく各成分のうちステップＳ４ａ及びステップＳ４ｂにおいて第１条件及び第２条件を満たすと判定された成分と一致する成分についてのみ第１条件が満たされているか否かが判定され（ステップＳ５ａ）、その後、ステップＳ５ａにおいて第１条件が満たされていると判定された相対温度換算データに応じた顔面皮膚温度データに基づく成分について第２条件が満たされているか否かが判定される（ステップＳ５ｂ）。しかしながら、解析部３２における該判定の順序はこれに限定されるものではなく、例えば、温度換算データに応じた顔面皮膚温度データに基づく各成分と、相対温度換算データに応じた顔面皮膚温度データに基づく各成分とが、第１条件及び第２条件を満たすか否かがそれぞれ判定され、判定結果の一致する成分が最終的に抽出されてもよい。

第１条件とは、特異値分解によって分解した成分の成分波形の振幅が、脳の非賦活時及び脳の賦活時の変化と相関関係にある、という条件である。解析部３２は、複数の成分のうち、第１条件を満たす成分を、判定用成分として抽出する。なお、ここでは、温度換算データに応じた顔面皮膚温度データを取得している間に、個人に対して脳機能賦活課題が与えられている期間が一定期間ある。解析部３２は、個人に対して脳機能賦活課題が与えられていない期間を脳の非賦活時とし、個人に対して脳機能賦活課題が与えられている期間を脳の賦活時として、脳機能賦活課題が与えられている期間及び与えられていない期間と、各成分の成分波形とを比較解析する。解析部３２は、成分波形データに基づく比較解析結果を利用して、各成分の成分波形と脳の非賦活時及び脳の賦活時とが相関関係にあるか否かを評価し、複数の成分のうち相関関係にあると評価した成分を、第１条件を満たす判定用成分として抽出する。一方、解析部３２は、複数の成分のうち相関関係にないと評価した成分を、第１条件を満たさず人間の脳活動を反映した温度変化を示す成分ではないと判定する（ステップＳ６）。

ここでは、温度換算データに応じた顔面皮膚温度データの取得時に個人に対して脳機能賦活課題が一定期間与えられており、これに基づき解析部３２は判定用成分を抽出しているが、第１条件の内容、すなわち解析部３２における判定用成分の抽出手段はこれに限定されない。例えば、予め実験等がされていることで複数の成分のうち脳の非賦活時及び脳の賦活時と相関関係にある成分波形を示す成分が特定されている場合には、解析部３２は、複数の成分から特定されている該成分を判定用成分として抽出する。また、本脳活動可視化装置において眼球運動又はまたたき等の脳の賦活／非賦活に関連することが知られている人間の動作が検出される場合には、解析部３２が、この検出結果と各成分の成分波形とを比較解析及び評価することで、複数の成分から判定用成分を抽出してもよい。なお、解析部３２による第１条件を満たすか否かの判定の基準は、脳活動可視化装置１０の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。

第２条件は、抽出した判定用成分において、人間の顔面の所定部位における温度変化がある、という条件である。解析部３２は、判定用成分のうち、第２条件を満たす成分を、人間の脳活動に関連している可能性の高い成分と判定し、候補成分として抽出する。すなわち、解析部３２は、人間の顔面の所定部位における温度変化の有無に基づき、判定用成分が人間の脳活動に関連しているか否かを判定する。具体的には、解析部３２は、抽出した判定用成分の温度分布データに基づき、副鼻腔周辺及び／又は前額部において温度変化が生じているか否かを判定し、温度変化が生じている場合には該判定用成分が第２条件を満たす人間の脳活動に関連する可能性の高い成分であると判定し、候補成分として抽出する。一方で、解析部３２は、副鼻腔周辺及び／又は前額部において温度変化が生じていない場合には、該判定用成分は第２条件を満たさず脳活動を反映した皮膚温度の変化を示す成分ではない、と判定する（ステップＳ６）。なお、解析部３２による第２条件を満たすか否かの判定の基準は、脳活動可視化装置１０の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。

そして、解析部３２は、ステップＳ５ｂにおいて第２条件を満たすと判定した成分を、脳活動を反映した皮膚温度の変化を示す成分として同定する（ステップＳ７）。すなわち、ステップＳ７において脳活動を反映した皮膚温度の変化を示す成分として同定される成分は、温度換算データに応じた顔面皮膚温度データを特異値分解により分解し解析することで抽出された候補成分と、相対温度換算データに応じた顔面皮膚温度データを特異値分解により分解し解析することで抽出された候補成分と、の間で一致している成分ということになる。なお、両解析で一致していない候補成分については、ステップＳ６において脳活動を反映した皮膚温度の変化を示す成分ではない、と判定されている。

推定部３３は、解析部３２において人間の脳活動を反映した皮膚温度の変化を示す成分として同定された成分に基づいて、人間の脳活動を推定する。具体的には、推定部３３は、解析部３２において同定された成分の成分波形データに基づいて、顔面皮膚温度データの取得時における脳活動量を推定する。

（４−１−１）変形例１Ａ
上記脳活動推定手段３０は換算部３１を有しており、換算部３１によって相対温度換算データに応じた顔面皮膚温度データが作成されている。そして、解析部３２が、顔面皮膚温度取得手段２０により取得された温度換算データに応じた顔面皮膚温度データだけでなく、相対的な温度データに換算された温度データに基づく相対温度データに応じた顔面皮膚温度データについても、特異値分解により複数の成分に分解し、各成分についての解析を行っている。

これに代えて、脳活動推定手段３０が換算部３１を有していなくてもよい。この場合、相対温度換算データに応じた顔面皮膚温度データを作成したり、相対温度換算データに応じた顔面皮膚温度データに基づくデータの解析を行ったりする処理を省くことができる。

ただし、人間の脳活動に関連する成分を精度よく同定するためには、上記実施形態のように脳活動推定手段３０が換算部３１を有しており、解析部３２によって、顔面皮膚温度取得手段２０により取得された温度換算データに応じた顔面皮膚温度データだけでなく、相対的な温度データに換算された温度データに基づく相対温度データに応じた顔面皮膚温度データについても、特異値分解により複数の成分に分解され、各成分についての解析が行われるほうが望ましい。

（４−１−２）変形例１Ｂ
また、上記顔面皮膚温度取得手段２０は、対象物と非接触の状態で温度データを取得することができる赤外線サーモグラフィ装置である。

しかしながら、個人の顔面の少なくとも一部の皮膚温度を検出し、検出した温度データ及びその検出部位の位置データを含む顔面皮膚温度データを時系列で取得することができれば、顔面皮膚温度取得手段は赤外線サーモグラフィ装置に限定されない。

例えば、顔面皮膚温度取得手段が温度センサを含む装置であってもよい。具体的には、個人の顔面の所定部位に温度センサを装着し、温度センサによって検出される温度データと、温度センサを装着した部位の位置データとに基づいて、時系列の顔面皮膚温度データが取得されてもよい。このように、温度センサにより対象となる個人に接触した状態で顔面皮膚温度データが取得される場合であっても、温度センサは脳波電極等のように装着前の処理が必要ではないため、脳波計測法、磁気共鳴画像法、及び近赤外線分光法等の従来の検出方法と比較して、簡便にデータを取得することができる。これにより、簡便に人間の脳活動を推定することができる。

（４−２）顔面の撮影画像データに基づき脳活動を推定する脳活動推定手段１３０
図２１は、本発明の実施形態に係る脳活動可視化装置１１０の概略図である。図２２は、脳活動可視化装置１１０において脳機能を反映した顔面のＲＧＢ変化を示す成分を同定する際の処理の流れの一例を示すフローチャートである。

脳活動可視化装置１１０の備える脳活動推定手段１３０は、個人（被験者）の顔面の撮影画像データから、個人の脳活動を推定するための装置である。脳活動可視化装置１１０は、図２１に示すように、画像データ取得手段１２０と、脳活動推定手段１３０と、状態可視化手段２００と、を備える。

画像データ取得手段１２０は、個人の顔面の少なくとも一部の撮影画像データを時系列で取得する（ステップＳ１０１）。なお、画像データ取得手段１２０は、少なくとも撮影装置を有するものであれば特に限定されるものではなく、例えば、スマートフォンやタブレット（例えば、iPad：登録商標）等の撮影装置内蔵型ポータブル端末等が挙げられる。ここでは、画像データ取得手段１２０は、図２１に示すように、撮影装置としてのカメラ１２１と、記憶部１２２とを有する。カメラ１２１は、個人の顔面の撮影画像データを時系列で取得するためのものである。ここでは、カメラ１２１は、個人の顔面全体の動画を撮影し、撮影した動画データを取得する。記憶部１２２は、撮影装置により撮影された時系列の撮影画像データを蓄積する。ここでは、記憶部１２２は、カメラ１２１によって取得された動画データを蓄積する。

なお、ここでは、カメラ１２１によって顔面全体の動画が撮影されているが、これに限定されず、顔面の少なくとも前額部及び／又は副鼻腔周辺の画像を含む動画が撮影されていればよい。

また、ここでは、画像データ取得手段１２０により顔面の時系列の撮影画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられる。すなわち、画像データ取得手段１２０により取得される撮影画像データには、個人に対して脳機能賦活課題が与えられている期間のデータが含まれていることになる。なお、個人に対して与えられる脳機能賦活課題としては、脳が賦活状態になると推定されるものであれば特に限定されるものではなく、例えば、脳活動可視化装置１１０の利用目的に応じてその内容が適宜決定されるよう構成されていてもよい。

脳活動推定手段１３０は、画像データ取得手段１２０により取得された顔面の時系列の撮影画像データに基づき、人間の脳活動を推定する。具体的には、脳活動推定手段１３０は、図２１に示すように、ＲＧＢ処理部１３１と、換算部１３２と、血行量算出部１３３と、解析部１３４と、推定部１３５と、を有する。なお、図２１では、脳活動推定手段１３０が、ＲＧＢ処理部１３１、換算部１３２、血行量算出部１３３、解析部１３４及び推定部１３５を有する１つの装置として存在している態様が示されているが、本発明はこれに限定されるものではなく、ＲＧＢ処理部１３１、換算部１３２、血行量算出部１３３、解析部１３４及び推定部１３５の一部或いはそれぞれが独立した装置として存在していてもよい。また、ここでは、画像データ取得手段１２０、ＲＧＢ処理部１３１、換算部１３２、及び血行量算出部１３３により顔面血行量取得手段が構成されている。

ＲＧＢ処理部１３１は、画像データ取得手段１２０により取得された撮影画像データに対して、Ｒ成分、Ｇ成分及びＢ成分の３つの色成分に分解するＲＧＢ処理を行う（ステップＳ１０２）。ここで、顔面全体の撮影画像データに対してＲＧＢ処理を行ってもよいが、ここでは、演算処理量及びノイズを減らすために、撮影画像データから前額部及び／又は副鼻腔周辺のデータを抽出し、抽出したデータについてのみＲＧＢ処理を行うものとする。

換算部１３２は、ＲＧＢ処理により得られた撮影画像データのＲＧＢデータを相対的なＲＧＢデータに換算する（ステップＳ１０３）。具体的には、換算部１３２は、取得された所定時間毎（例えば、３０秒）の撮影画像データから得られるＲＧＢデータの平均値を基準値として、該ＲＧＢデータを相対的なＲＧＢデータに換算する。

血行量算出部１３３は、ＲＧＢ処理により得られた撮影画像データのＲＧＢデータに基づき、顔面の時系列の血行量データを算出する（ステップＳ１０４）。

解析部１３４は、時系列の相対換算血行量データを、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する（ステップＳ１０５）。ここでは、解析部１３４は、相対換算血行量データに対して、ＭＡＴＬＡＢ（登録商標）のＳＶＤを分析ツールとして用いて、特異値分解を行う。具体的には、特異値分解は、時系列の相対換算血行量データを対象として、要因を所定期間（例えば、３０秒）毎の時間データとし、測度をその期間毎における相対的なＲＧＢデータから演算したピクセル毎の相対換算血行量データとして行われる。そして、特異値分解により、時系列の相対換算血行量データを複数の成分に分解し、時間分布と、空間分布と、各成分の大きさを示す特異値とを算出する。

また、解析部１３４は、特異値分解によって分解した複数の成分から脳活動を反映した顔面のＲＧＢ変化を示す成分を同定するために、各成分が所定条件を満たすか否かを判定する（ステップＳ１０６）。ここで、所定条件としては、例えば、特異値分解によって分解した成分の成分波形の振幅が、脳の非賦活時及び脳の賦活時の変化と相関関係にあるという条件（以下、第１条件という）や、特異値分解によって分解した成分において人間の顔面の所定部位に血行量変化があるという条件（以下、第２条件という）等が含まれる。解析部１３４において判定される所定条件としては、１又は複数の条件が設定されていればよく、ここでは、所定条件として第１条件が設定されているものとする。

そして、解析部１３４は、複数の成分のうち所定条件を満たす成分を、判定用成分として抽出する。さらに、解析部１３４は、抽出した判定用成分のうち所定条件に含まれる全ての条件を満たす成分を、脳活動を反映した顔面のＲＧＢ変化を示す成分として同定する（ステップＳ１０７）。一方、解析部１３４は、複数の成分のうち所定条件に含まれる少なくとも１つの条件を満たさないと判定した成分を、脳活動を反映した顔面のＲＧＢ変化を示す成分ではないと判定する（ステップＳ１０８）。

ここでは、上述のように所定条件として１つの条件（第１条件）のみが設定されており、顔面の時系列の撮影画像データを取得している間に、個人に対して脳機能賦活課題が与えられている期間が一定期間ある。このため、解析部１３４は、個人に対して脳機能賦活課題が与えられていない期間を脳の非賦活時とし、個人に対して脳機能賦活課題が与えられている期間を脳の賦活時として、脳機能賦活課題が与えられている期間及び与えられていない期間と、各成分の成分波形とを比較解析する。そして、解析部１３４は、成分波形データに基づく比較解析結果を利用して、各成分の成分波形と脳の非賦活時及び脳の賦活時とが相関関係にあるか否かを評価し、複数の成分のうち相関関係にあると評価した成分を、所定条件を満たす判定用成分として抽出すると共に、脳活動を反映した顔面のＲＧＢ変化を示す成分として同定する。一方、解析部１３４は、複数の成分のうち相関関係にないと評価した成分を、所定条件を満たさず人間の脳活動を反映した顔面のＲＧＢ変化を示す成分ではないと判定する。

ここでは、顔面の時系列の撮影画像データが取得される際に個人に対して脳機能賦活課題が一定期間与えられており、これに基づき解析部１３４が判定用成分を抽出しているが、第１条件の内容、すなわち解析部１３４における判定用成分の抽出手段はこれに限定されない。例えば、予め実験等がされていることで複数の成分のうち脳の非賦活時及び脳の賦活時と相関関係にある成分波形を示す成分が特定されている場合には、解析部１３４は、複数の成分から特定されている該成分を判定用成分として抽出する。また、脳活動可視化装置１１０において眼球運動又はまたたき等の脳の賦活／非賦活に関連することが知られている人間の動作についても検出される場合には、解析部１３４が、この検出結果と各成分の成分波形とを比較解析及び評価することで、複数の成分から判定用成分を抽出してもよい。なお、解析部１３４による第１条件を満たすか否かの判定の基準は、脳活動可視化装置１１０の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。

また、所定条件として第２条件が設定されている場合には、解析部１３４は、人間の顔面の所定部位における顔面の血行量変化の有無に基づき、判定用成分を抽出する。具体的には、解析部１３４は、特異値分解によって分解された複数の成分に応じた血行量分布図に基づき、副鼻腔周辺及び／又は前額部において血行量の変化が生じているか否かを判定し、血行量の変化が生じている場合には該成分が第２条件を満たしていると判定する。一方で、副鼻腔周辺及び／又は前額部において血行量の変化が生じていない場合には、解析部１３４は、該成分が第２条件を満たしていないと判定する。なお、解析部１３４による第２条件を満たすか否かの判定の基準は、脳活動可視化装置１１０の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定されるものとする。

さらに、血行量算出部１３３によって相対的なＲＧＢデータに換算される前のＲＧＢデータに基づく時系列の血行量データが算出される場合には、解析部１３４によって、該血行量データを特異値分解等することで得られた複数の成分についても、上記第１条件及び／又は第２条件が満たされるか否かが判定され、判定用成分が抽出されてもよい。

推定部１３５は、解析部１３４において人間の脳活動を反映した顔面のＲＧＢ変化を示す成分として同定された成分に基づいて、人間の脳活動を推定する。具体的には、推定部１３５は、解析部１３４において同定された成分の成分波形データに基づいて、顔面の撮影画像データの取得時における脳活動量を推定する。

（４−２−１）変形例２Ａ
上述したように、カメラ１２１としては、例えば、スマートフォンやタブレット（例えば、iPad：登録商標）等の撮影装置内蔵型ポータブル端末等を利用することができる。すなわち、上述の撮影画像データは、可視光領域の画像を撮像するものを採用することができる。

また、上記血行量算出部１３３において、ＲＧＢデータに含まれる各画素のうちの主にＲ成分を用いて顔面の血行量データが算出されてもよい。また、ＲＧＢデータに基づき血行量データを算出できるのであれば、血行量データは必ずしも紅斑指数に限定されるものではない。

（４−２−２）変形例２Ｂ
上記血行量算出部１３３は、換算部１３２によって換算された相対的なＲＧＢデータに基づき相対換算血行量データを算出するが、これに代えて或いはこれに加えて、相対的なＲＧＢデータに換算される前のＲＧＢデータに基づき血行量データが算出されてもよい。ここで、相対的なＲＧＢデータに換算される前のＲＧＢデータに基づき算出された血行量データには、脳活動と相関する成分が出やすい（検定力が高い）ため、例えば、相対的なＲＧＢデータに換算される前のＲＧＢデータに基づき算出された血行量データを、相対的なＲＧＢデータに基づき算出された相対換算血行量データよりも先行して解析してもよい。また、例えば、まず、血行量データを解析して有意な相関のある成分を抽出し、相対換算血行量データに関しては、前記抽出した成分に対応する成分のみを解析することで、演算処理量を減らすことができる。

（４−２−３）変形例２Ｃ
上記カメラ１２１は可視光領域の通常のカメラを前提としていたが、赤外線カメラを用いることもできる。この場合、赤外光を照射し、その反射波を赤外線カメラで撮像する。これにより、対象者の顔面変化等の撮影画像データを得ることができる。本発明者らにより、赤外線の反射により得られた撮影画像データから算出された血行量データと、可視光領域で撮影されたＲＧＢデータに含まれる各画素のうちの主にＲ成分を用いて算出された血行量データとには相関があることが確認された。したがって、このような赤外線の反射から得られた撮影画像データを用いても、人間の脳活動を推定することができる。

（４−２−４）変形例２Ｄ
なお、上記説明においては、脳活動可視化装置１１０が、画像データ取得手段１２０と、脳活動推定手段１３０とを備える形態としていたが、本実施形態に係る脳活動可視化装置は、このような形態に限定されるものではない。すなわち、本実施形態に係る脳活動可視化装置は、血行量算出部１３３、解析部１３４及び推定部１３５を含むものであれば、その他の構成については任意の形態を採り得るものである。具体的には、本実施形態に係る脳活動可視化装置は、当該装置自体が画像データを撮影する形態だけではなく、外部の装置から撮影画像データを受け取り、それを解析する形態を含むものである。

（４−３）状態可視化手段２００
状態可視化手段２００は、脳活動推定手段３０及び／又は脳活動推定手段１３０により推定された対象者の脳活動に基づき、対象者の生理状態を表示することにより可視化する。例えば、状態可視化手段２００が、対象者の脳活動量の変化を解析することで、対象者の生理状態を解析する解析部２０１を有していてもよい。具体的には、解析部２０１が、対象者に対して与えられた刺激（視覚刺激、聴覚刺激、触覚刺激、臭覚刺激或いは味覚刺激等）に対する脳活動量の変化を解析することで、対象者の生理状態を判定する。なお、生理状態の種類やレベルについては、脳活動量の上昇度合い及び／又は持続時間に基づき、脳活動可視化装置１０，１１０の用途に応じて適宜設置可能になっていてもよい。そして、解析部２０１により解析された対象者の生理状態を状態可視化手段２００の表示部２０２から管理者へと出力されることで、管理者は対象者の生理状態を知ることができる。表示部２０２としては、画像やメッセージを表示する表示デバイス等、解析した対象者の生理状態に関する情報を管理者に対して可視化できるものであればどのようなものであっても採用することができる。

また、解析部３２，１３４において脳活動を反映する成分が同定された後に、さらに顔面皮膚温度取得手段２０及び／又は画像データ取得手段１２０により時系列の各種データが取得される場合には、脳活動可視化装置１０，１１０において、さらに取得された各種データが特異値分解により複数の成分に分解され、同定された成分のみが解析されることで、対象者の生理状態をリアルタイムで知ることができる。

さらに、被験者の顔面の皮膚温度や撮影した画像から被験者の心拍情報や生体情報等を取得する技術が従来よりあるが、顔面皮膚温度取得手段２０及び／又は画像データ取得手段１２０から得られた各種データが特異値分解等されることで得られる成分に対して従来の技術を採用することで、心拍情報や生体情報を精度良く取得することができる。したがって、特異値分解した複数の成分を解析して心拍情報や生体情報を取得する機能を、解析部３２及び／又は解析部１３４に持たせ、取得した心拍情報や生体情報に基づき交換神経／副交感神経の働きを推定する機能を上記実施形態の推定部３３，１３５に持たせてもよい。

（５）特徴
（５−１）
本実施形態では、顔面皮膚温度取得手段２０及び／又は画像データ取得手段１２０によって取得された時系列の顔面皮膚温度データ及び／又は顔面血行量データに基づき人間の脳活動が推定される。このため、脳波電極等の装着前に処理が必要なセンサを装着しなくても、人間の脳活動を推定することができる。したがって、簡便に人間の脳活動を推定し、推定した脳活動に基づき対象者の生理状態を可視化することができている。

（５−２）
ここで、時系列の顔面の皮膚温度データ及び／又は画像データが取得される際に、人間に対して実際に脳機能賦活課題が与えられたり与えられなかったりすることにより、人間の脳が賦活化したり賦活化しなかったりする状況が作られている場合、各成分の成分波形と脳の賦活時及び非賦活時との間に相関関係のある成分は、脳活動を反映した皮膚温度及び／又は血行量の変化を示す成分である可能性が高い成分であるといえる。

本実施形態では、顔面皮膚温度取得手段２０及び／又は画像データ取得手段１２０により時系列の顔面の皮膚温度データ及び／又は画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられている。すなわち、本実施形態では、個人に対して実際に脳機能賦活課題を与えたり与えなかったりすることにより、人間の脳が賦活化したり賦活化しなかったりする状況が作られている。そして、このように取得された時系列の各種データが特異値分解により複数の成分に分解され、各成分についてその成分波形と脳の賦活時及び非賦活時との相関関係が評価され、相関関係にある成分が判定用成分として複数の成分から抽出される。このため、例えば、予め実験等により特定された所定の成分が抽出用成分として複数の成分から抽出される場合と比較して、人間の脳活動と関連性の低い成分が抽出用成分として複数の成分から抽出されるおそれを低減することができている。

（５−３）
ここで、脳には、選択的脳冷却機構という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び副鼻腔周辺を用いて排熱していることが知られている。そうすると、脳活動に伴う顔面皮膚温度や顔面皮膚温度に相関する顔面の血行量の変化は、前額部及び／又は副鼻腔周辺に出現することになる。

本実施形態では、前額部及び／又は副鼻腔周辺の各種データが解析されて、判定用成分が抽出されている。このため、人間の脳活動に関連する成分を精度よく抽出することができている。

（６）脳活動可視化装置の用途例
次に、本発明に係る脳活動可視化装置の用途例について説明する。

（６−１）患者に対して用いる場合
上記実施形態又は上記変形例の脳活動可視化装置１０，１１０を、例えば病院を訪れた患者に対して用いる場合の一例を説明する。例えば、うつ状態を客観的に定量するために脳活動可視化装置１０，１１０を用いる場合には、患者に対して繰り上がり又は繰り下がりのある暗算等の脳機能賦活課題を与え、脳活動賦活課題が与えられる前後の脳活動量の変化が解析され可視化されることで、患者の精神状態を判定することができる。具体的には、脳機能賦活課題が与えられる間の脳活動量が上昇しない場合には、患者が無気力状態であると判定することができ、脳機能賦活課題が与えられている間に脳活動量が上昇しても、その脳活動量の上昇時間が短い場合には、患者の気力が低下している状態であると判定することができる。そして、このような解析を１日の間に複数回行い、平均的に脳活動量の低下が認められる場合には、管理者は、患者がうつ状態であると判断することができる。

また、脳活動可視化装置１０，１１０を、救急患者の意識の有無や患者が覚醒したかどうかを判定するために用いる場合には、患者の皮膚をさすったり患者に声掛けしたりする等の刺激を患者に対して与え、この刺激が与えられる前後の脳活動量の変化が解析され可視化されることで、患者の意識の有無や覚醒したかどうかを判定することができる。例えば、麻酔が導入されている患者に対して皮膚への刺激や声掛け等を行っている間に脳活動量が上昇した場合には、患者が覚醒したと判定することができる。したがって、仮に患者が言葉を発することのできない状態にあったとしても、管理者は患者の意識の有無や患者が覚醒したかどうかを知ることができる。また、患者に与える刺激の強度を変化させ、このときの脳の賦活の有無を解析することで、覚醒の度合い（レベル）を判定することもできる。強度の低い刺激としては、例えば、手を握る又は手を動かす等の刺激を挙げることができ、強度の高い刺激としては、例えば、手に氷を当てる等の身体に対して温度変化を与える刺激や身体に対して痛みを与える刺激等が挙げられる。

脳活動可視化装置１０，１１０を、リハビリ等の治療の効果を判定するために用いる場合には、患者に対して繰り上がり又は繰り下がりのある暗算等の脳機能賦活課題を与え、この時の脳活動量の変化が解析され可視化されることで、患者に対するリハビリ等の治療の効果を判定することができる。例えば、リハビリや脳トレーニング、或いは運動療法を行う前後で同じ強度を有する脳機能賦活課題が患者に対して与えられ、この時の脳活動量の変化が解析されることで、管理者は、脳活動量の上昇度合いや上昇持続時間からリハビリ等の治療の効果を判定することができる。また、例えば、患者に対して脳機能賦活課題が与えられた時の脳活動量が上昇していない場合には脳血管の虚血状態であると判断することができ、脳活動量の上昇継続時間が短い場合には脳血管血流量が低下している状態であると判断することができる。したがって、脳活動可視化装置１０，１１０を、高気圧酸素治療装置における監視装置として用いることもできる。

さらに、脳活動可視化装置１０，１１０を、患者の疼痛を定量化するために用いる場合には、患者が疼痛を感じている時（患者からの申告時）の脳活動量の変化（特に、脳活動量の上昇度合いと、その持続時間）とから疼痛強度が定量化されてもよい。この解析結果が可視化されることで、管理者は患者の痛みの度合いを知ることができる。

（６−２）衝撃波等を受ける特殊環境下にある人に対して用いる場合
上記実施形態又は上記変形例の脳活動可視化装置１０，１１０を、例えば消防隊員等の爆発衝撃波を受ける特殊環境下にある人に対して用いる場合の一例を説明する。脳活動可視化装置１０，１１０を、衝撃波等を浴びたことによる生体防護判定（例えば、衝撃波により受けた生体ダメージの状態の判定）に用いる場合には、対象者に対して脳機能賦活課題を与え、この時の脳活動量の変化が解析され可視化されることで、管理者は対象者の脳血管の血流状態を推測することができる。例えば、対象者に対して脳機能賦活課題が与えられた時の脳活動量が上昇していない場合には脳血管の虚血状態であると判断することができ、脳活動量の上昇継続時間が短い場合には脳血管血流量が低下している状態であると判断することができる。

（６−３）快適性の判断に用いる場合
上記実施形態又は上記変形例の脳活動可視化装置１０，１１０を、対象者の快適性の判断に用いる場合の一例を説明する。例えば、住まいの快適性の判断に脳活動可視化装置１０，１１０を用いる場合には、所定の居住空間にいる対象者が不快と感じている時（対象者からの申告時）の脳活動量の変化（脳活動量の上昇度合いとその継続時間）とから不快度が定量化される。このような解析を１日の間に複数回行い、この解析結果が可視化されることで、管理者は、平均的に脳活動量が昂進しているか否かを評価することにより、対象者の快適度、すなわち、快不快の感情を判断することができる。

（６−４）集中度合いの判定に用いる場合
上記実施形態又は上記変形例の脳活動可視化装置１０，１１０を、学習時や手術時の集中度合いの判定に用いる場合の一例を説明する。例えば、学校、学習塾、会社、ｅラーニング或いは病院等における学習者の学習内容への集中度を定量化するために脳活動可視化装置１０，１１０を用いる場合には、学習者が学習（課題）に取り組んでいる前後の一定期間（例えば、学習時限）における脳活動量の変化（この期間における上昇度合い）を解析することで、取り組んでいる学習内容に対する学習者の集中度を定量化することができる。これにより、管理者は、可視化される解析結果に基づき、学習内容に対する学習者の集中度を評価することができる。

（７）不快判定装置
本発明に係る脳活動可視化装置を応用した、不快判定装置について説明する。一般的に、内視鏡等の検査機器を対象者の体内に挿入して身体検査を行なうことがある。この際、検査機器の挿入等に応じて対象者の不快状態を把握できないと、検査機器の操作が許容し得る範囲を逸脱し、検査機器が対象者の体内を損傷することがある。

本発明者らの検討によれば、検査機器に対して特定の操作をするときに、対象者を不快にすることが理解された。かかる状況に鑑み、本発明者らは、検査機器の特定操作と対象者の不快状態とを定量的に判定し得る不快判定装置を考案した。

（７−１）不快判定装置の構成
図２３は本実施形態に係る不快判定装置の一例を示す模式図である。なお、以下の説明において、「不快」とは、対象者が身体的および精神的に違和感を生じる任意の状態を意味しており、疼痛や苦痛、その他のストレスを感じる状態を含む意味で用いられる。

不快判定装置８００は、入力部８１０、撮像部８１５、取得部８１６、出力部８２０、記憶部８３０、及び処理部８４０を備える。そして、不快判定装置８００は、検査機器３５０により検査される対象者３００の不快状態を判定する。なお、検査機器３５０は操作者３０１により操作される。「検査機器３５０」としては、消化管内視鏡（上部、大腸、小腸）、超音波内視鏡、胆管膵管検査用内視鏡、及びその他の内視鏡がある。また、検査機器３５０は、内視鏡以外にも、例えば肝臓の経皮的針生検用装置、髄液検査用装置などでもよい。

入力部８１０は、不快判定装置８００に各種情報を入力するものである。例えば入力部８１０は、キーボード、マウス、及び／又はタッチスクリーン等により構成される。この入力部８１０を介して、不快判定装置８００に各種命令が入力され、処理部８４０において命令に応じた処理が実行される。

撮像部８１５は、対象者３００の顔面を含む「顔面画像」を撮像するものである。例えば撮像部８１５は、ＲＧＢ画像を取得するＣＣＤ及びＣＭＯＳ等の固体撮像素子や、サーモグラムを取得する赤外線カメラ等により構成される。赤外線カメラ等は通常の室温条件で、２９．０℃から３７．０℃を高感度で検出できるものが望ましい。また、撮像部８１５は、所定の間隔で継続的な撮像が可能であるものが望ましい。顔面画像を撮像する場合には正面から一定照明の条件で行なうのが望ましい。姿勢変動により正面画像が得られない場合には、摂動空間法を用い、姿勢変動画像については顔の３次元形状を推定し、正面像にレンダリングすることにより顔面画像を得る。照明変動画像については、拡散反射モデルをベースに構築した顔の照明基底モデルを用いて、一定照明の条件下での顔面画像を得る。そして、撮像部８１５により、継続的に撮像された顔面画像が処理部８４０に送出される。

取得部８１６は、検査機器３５０の操作情報を取得するものである。具体的に、「操作情報」は、操作者３０１により発せられる音声、操作者３０１によるキー入力、操作者３０１により押下されるボタンを介したスイッチ入力、検査機器３５０に取り付けられた加速度センサの検出値、検査機器３５０が内視鏡であるときの当該内視鏡が取得する画像データ、検査機器３５０が内視鏡であるときの人体への挿入長、及び、検査機器３５０が内視鏡であるときの人体のレントゲン透視画像データ等のいずれか一つ又は任意の組み合わせから生成される。例えば、内視鏡の操作者３０１は、人体内部の所定の位置を内視鏡が通過する際に、所定の音声を発する。取得部８１６は、このような音声を操作情報として取得する。取得部８１６で取得された操作情報は、後述する特定操作情報検知部４４１に送出される。なお、ここでいう「操作者」は、検査機器３５０を直接的に操作する者のみならず間接的に操作する者も含まれる。したがって、不快判定をする際に、対象者３００の周囲に存する「介助者」等も操作者に含まれる。 出力部８２０は、不快判定装置８００から各種情報を出力するものである。例えば出力部８２０は、ディスプレイ及びスピーカー等により構成される。ここでは、出力部８２０を介して、検査機器３５０の操作状況が操作者３０１等に提供される。

記憶部８３０は、不快判定装置８００に入力される情報、及び、不快判定装置８００で計算される情報等を記憶するものである。例えば記憶部８３０は、メモリ及びハードディスク装置等により構成される。また記憶部８３０は、後述する処理部８４０の各機能を実現するためのプログラムを記憶する。ここでは、記憶部８３０は、脳機能賦活情報データベース８３１及び判定情報データベース８３２を有する。

脳機能賦活情報データベース８３１は、人間の脳機能を賦活する脳機能賦活情報を記憶するものである。脳機能賦活情報には「特定操作情報」が含まれる。特定操作情報は、対象者に疼痛又は不快感を与えるとみなされる特定操作に対応する操作情報である。例えば、対象者３００が疼痛又は不快感を認識する検査機器３５０の特定操作としては、「挿入」「引き抜き（縦方向の移動）」「回転」「送気」「送気に伴う管腔臓器の鼓脹」などがある。これら特定操作は、操作者（介助者を含む）３０１が発する音声により認識することが可能である。また、これらの特定操作は、検査機器３５０に取り付けられた加速度センサの検出値から認識することも可能である。また、特定操作は、検査機器３５０が内視鏡である場合は、その内視鏡の撮像データに基づいて認識することも可能である。また、特定操作は、操作者３０１が所定のスイッチを押下する、又はキー入力をする等の動作から認識することも可能である。すなわち、脳機能賦活情報データベース８３１は、これらの特定操作を認識可能にする情報を特定操作情報として記憶する。

さらに、脳機能賦活情報データベース８３１は、検査機器３５０の種類に応じて、特定操作を効果的に検出し得る特定操作情報を記憶する。具体的には、脳機能賦活情報データベース８３１は、図２４に示す情報から抽出される特定操作情報を記憶する。ここでは、代表的な検査機器３５０の例として、上部消化管内視鏡、大腸内視鏡、及び胆道系内視鏡などが挙げられる。本発明者らの検討により、各検査機器の特定操作に起因する不快の検出は、次に列挙する情報から抽出される特定操作情報から判定するのが効果的であることが把握された。上部消化管内視鏡における、十二指腸でのストレッチ操作に起因する不快の検出は、操作者３０１による音声、キー入力、又は内視鏡画像データに基づいて判定するのが効果的である。上部消化管内視鏡を操作することによる、内視鏡の摩擦や圧迫による臓器伸展に起因する不快の検出は、内視鏡画像データに基づいて判定するのが効果的である。上部消化管内視鏡を操作することによる、経鼻の場合の鼻の痛みに起因する不快の検出は、操作者３０１による音声、又はキー入力に基づいて判定するのが効果的である。大腸内視鏡を操作することによる、対象者（患者）の腹腔内臓器の癒着に起因する不快の検出は、内視鏡画像データに基づいて判定するのが効果的である。大腸内視鏡を操作することによる、挿入痛（Ｓ状結腸下行結腸移行部や横行結腸肝弯曲部）に起因する不快の検出は、内視鏡の挿入長、内視鏡画像データ、又はレントゲン透視画像による内視鏡の位置情報に基づいて判定するのが効果的である。大腸内視鏡の捻じり操作に起因する不快の検出は、内視鏡画像データ、操作者３０１による音声、キー入力、又は操作スイッチの入力に基づいて判定するのが効果的である。大腸内視鏡からの送気による膨満感に起因する不快の検出は、内視鏡画像データに基づいて判定するのが効果的である。大腸内視鏡の挿入時の肛門痛（痔がある場合）に起因する不快の検出は、内視鏡画像データに基づいて判定するのが効果的である。胆道系内視鏡を操作するときの、体位（腹臥位で首をひねった状態であること）に起因する不快の検出は、操作者３０１による音声、又はキー入力に基づいて判定するのが効果的である。胆道系内視鏡を操作することによる、内視鏡の摩擦や圧迫による臓器伸展に起因する不快の検出は、内視鏡画像データに基づいて判定するのが効果的である。胆道系内視鏡を操作するときの、ファーター乳頭へのカニュレーションによる刺激に起因する不快の検出は、内視鏡画像データに基づいて判定するのが効果的である。胆道系内視鏡における、十二指腸でのストレッチ操作に起因する不快の検出は、操作者３０１による音声、キー入力、又は内視鏡画像データに基づいて判定するのが効果的である。

判定情報データベース８３２は、図２５に示すように、検査機器３５０で特定操作を行なったときに抽出される判定用成分の相関値ｒ２の、対象者３００が通常状態のときに抽出された基準判定用成分の「基準相関値」ｒ１からの所定範囲の変化量Δｒ（＝ｒ２−ｒ１）を、「不快状態レベル」と関連付けて予め「判定情報」として記憶するものである。なお変化量Δｒは絶対値で表される。ここで、対象者３００における「通常状態」というのは、上述したような検査機器３５０の特定操作が対象者３００に行なわれておらず、対象者の感情等が安定している状態である。また、「基準判定用成分」は、通常状態のときに抽出した判定用成分のデータ以外に、前回抽出した判定用成分のデータ、又は外部から提供される判定用成分のデータ等により設定することも可能である。図２５に示す例では、判定情報データベース８３２が、不快状態レベルとして変化量Δｒの値の範囲に応じて、Δｒ＝Δｒａ〜Δｒｂまでを「正常」、Δｒｂ〜Δｒｃまでを「軽い不快」、Δｒｃ〜Δｒｄまでを「不快」として記憶する。ここでは、Δｒａ、Δｒｂ、Δｒｃ、Δｒｄの順に値が大きいものとなっている。なお、基準判定用成分のデータも判定情報データベース８３２に格納される。

処理部８４０は、不快判定装置８００における情報処理を実行するものである。具体的には、処理部８４０は、ＣＰＵ及びキャッシュメモリ等により構成される。処理部８４０は、記憶部８３０に組み込まれたプログラムが実行されることで、特定操作情報検知部８４１、顔面変化情報取得部８４２、顔面変化情報分解部８４３、判定用成分抽出部８４４、及び、不快判定部８４５として機能する。

特定操作情報検知部８４１は、取得部８１６が取得した操作情報から、上述した「特定操作情報」を脳機能賦活情報として検知するものである。特定操作情報が検知されたときは、対象者の脳が賦活状態にあるとみなされる。また、特定操作情報が検知されたときは、対象者に疼痛又は不快感等が与えられているとみなされる。

顔面変化情報取得部８４２は、撮像部８１５で撮像された顔面画像から「顔面データ」及び顔面データの時系列変化を示す「顔面変化情報」を取得するものである。具体的には、顔面変化情報取得部８４２は、特定操作情報検知部８４１が特定操作情報（脳機能賦活情報）を検知するタイミングに同期して、撮像部８１５を介して顔面データを取得する。そして、顔面変化情報取得部８４２は、継続的に取得した顔面データから、対象者３００の顔面データの時系列変化を示す顔面変化情報を取得する。例えば、顔面変化情報は、２４０×３２０ピクセルの顔面データを所定間隔で６０点取得した場合には、４，６０８，０００のデータの集合となる。取得した顔面変化情報は、顔面変化情報分解部８４３に送出される。なお、撮像部８１５が赤外線カメラの場合、顔面変化情報取得部８４２は、顔面データとして、対象者３００の顔面の皮膚温度を示す顔面皮膚温度データを取得する。また、撮像部８１５がＣＣＤ及びＣＭＯＳ等の固体撮像素子の場合、顔面変化情報取得部８４２は、顔面データとして、対象者３００の顔面のＲＧＢデータに基づく顔面血行量データを取得する。なお、顔面変化情報取得部８４２は、顔面データとして、対象者３００の、副鼻腔周辺及び／又は前額部のデータだけを取得するものでもよい。

顔面変化情報分解部８４３は、多数のデータの集合である顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分１，２，３，・・・に分解する。分解した各成分の情報は、判定用成分抽出部８４４に送出される。ここで、顔面変化情報を特異値分解等した場合、特異値の高いものから成分１，２，３，・・・と設定される。また特異値の高い成分ほど、変動の大きいものの影響が反映されやすい。そのため、成分１には、特定操作の影響より、外部環境のノイズ等の影響が反映されることが少なくない。

判定用成分抽出部８４４は、複数の成分１，２，３・・・から、特定操作情報（脳機能賦活情報）と関連する成分を「判定用成分」として抽出するものである。具体的には、判定用成分抽出部８４４は、顔面変化情報分解部８４３により求められた複数の成分１，２，３，・・・と特定操作情報に対応する「判定用波形」との相関値ｒを算出する。次に、判定用成分抽出部４４４は、算出した相関値ｒが所定値以上である場合、その相関値ｒに対応する成分を特定操作情報に関連するものとして設定する。そして、判定用成分抽出部８４４は、危険率の値に基づいて、判定用成分を抽出する。すなわち、判定用成分抽出部８４４は、危険率が低い成分を判定用成分として抽出する。抽出された判定用成分及び算出した相関値ｒは記憶部８３０又は不快判定部８４５に送出される。なお、上述の「判定用波形」として、人間の生理的反応を考慮した変形波が用いられる。また、判定用波形は、特定操作情報を検知してから所定時間経過後に変位するものである。具体的には、判定用波形として矩形波を採用することができる。また、判定用波形として、矩形波とレッドスポット・ダイナミック・レスポンス・ファンクション（Redspot-dynamic response function）とをコンボリューションした波形を採用することもできる。レッドスポット・ダイナミック・レスポンス・ファンクションは、特定操作情報を一瞬与えたときの、顔面変化情報分解部８４３により分解された複数の成分１，２，３・・・のうち相関の認められた成分を複数回算出し、算出した複数の成分の平均値等から生成される。この際、振幅（高さ方向）については任意単位であり絶対値を規定できないので、対象者３００が通常状態のときのシグナルをベースライン値とし、その値を基準として波形の高さが決定される。そして、複数の被験者から得られたデータの重ね合わせの平均値が計算されてレッドスポット・ダイナミック・レスポンス・ファンクションが生成される。なお、レッドスポット・ダイナミック・レスポンス・ファンクションの初期値は、特定操作情報が一瞬与えられたときは図２６に示すような波形となる。そして、特定操作情報が一定時間与えられたときは、矩形波とコンボリューションすることにより作成される。レッドスポット・ダイナミック・レスポンス・ファンクションでは、変位が増加するに従い、ピーク時点からピーク値が横軸方向に延長される波形となる。また、レッドスポット・ダイナミック・レスポンス・ファンクションでは、特定操作情報の検知（刺激）が終了した時点から位相が遅れて変位が低下する波形となる。このようなレッドスポット・ダイナミック・レスポンス・ファンクションは、顔面変化情報から得られた成分と有意な相関が認められる場合には、その相関波形に形状が近いため、矩形波等よりも高い相関値を示す。そのため、判定用成分の抽出精度を高めることができる。

不快判定部８４５は、対象者３００が通常状態のときに抽出された基準判定用成分に対する基準相関値ｒ１と、検査機器３５０で特定操作を行なったときに抽出された判定用成分に対する相関値ｒ２との差Δｒを算出する。そして、不快判定部８４５は、判定情報データベース８３２に記憶された判定情報に基づいて、基準相関値ｒ１及び相関値ｒ２の差Δｒに対応する、不快状態レベルを決定する。決定された不快状態レベルは、出力部８２０を介して表示装置等に出力される。

（７−２）不快判定装置の動作
図２７は、不快判定装置８００の動作を示すフローチャートである。なお、以下の説明においては、検査機器３５０として内視鏡を用いたときに、当該内視鏡が挿入される対象者３００の不快状態を判定するものを例として説明する。

まず、入力部８１０等を介して検査開始の指示が不快判定装置８００に入力される。続いて、出力部８２０に誘導画面が表示され、対象者３００の顔面が誘導画面の中央に位置するように誘導される。そして、撮像部８１５により対象者３００の顔面画像の撮像が開始される（Ｔ１）。撮像された顔面画像は顔面変化情報取得部８４２に送出される。

顔面画像の撮像開始後に、操作者３０１が検査機器３５０を用いて、対象者３００の身体の検査を開始する。具体的に、ここでは、対象者３００の生理的開口部に内視鏡を挿入する。そして、操作者（介助者を含む）３０１が特定操作をしたときに、その旨を音声で伝達する、またはボタンを押下する等の動作を行なう。これに応じて、不快判定装置８００が、特定操作に対応する音声等を特定操作情報（脳機能賦活情報）として検知する（Ｔ２）。

また、不快判定装置８００においては、撮像された顔面画像の解析が実行される。具体的には、顔面変化情報取得部８４２により、撮像された顔面画像から、対象者３００の顔面データの時系列変化を示す顔面変化情報が取得される。そして、顔面変化情報分解部８４３により、顔面変化情報が、特異値分解、主成分分析或いは独立成分分析されて、複数の成分１，２，３，・・・に分解される。また、判定用成分抽出部８４４により、顔面変化情報分解部８４３により分解された複数の成分１,２，３・・・と、特定操作情報との相関値が算出される。そして、判定用成分抽出部８４４により、相関値が所定値以上であるか否かが判定される（Ｔ３）。所定値以上であると判定された場合、特定操作情報と当該成分とに「相関がある」と判断される（Ｔ４−Ｙｅｓ）。そして、判定用成分抽出部８４４により、相関がある成分のうち、危険率の低い成分が「判定用成分」として抽出される（Ｔ５）。これらの抽出された判定用成分の情報は、記憶部８３０に格納される（Ｔ６）。一方、特定操作情報と、各成分１，２，３・・・との相関値が所定値未満である場合は、両者には「相関がない」と判断され、その情報が記憶部８３０に格納される（Ｔ４−Ｎｏ，Ｔ６）。なお、過去の計測値などから特定操作情報に「相関のある成分」を事前に特定しておくことで、上記ステップＴ４〜Ｔ６の動作を省略することが可能である。

次に、不快判定部８４５により、対象者３００が通常状態のときに抽出された基準判定用成分に対する基準相関値ｒ１と、検査機器３５０に対する特定操作時に抽出された判定用成分に対する相関値ｒ２との差である変化量Δｒが算出される（Ｔ７）。続いて、不快判定部８４５により、基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲内であるか否かが判定される（Ｔ８）。所定範囲であるか否かは、判定情報データベース８３２に記憶された判定情報と照合されて判定される。基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲である場合、不快判定部８４５により、対象者３００は「正常」であると判定される（Ｔ８−Ｙｅｓ，Ｔ９）。一方、基準相関値ｒ１に対する相関値ｒ２の変化量Δｒが所定範囲でない場合、不快判定部８４５により、対象者３００は「不快状態」であると判定される（Ｔ８−Ｎｏ，Ｔ１０）。例えば、変化量Δｒが上述したΔｒａ〜Δｒｂの範囲内であるときには正常と判定され、変化量ΔｒがΔｒｂを超えているときには、不快状態と判定される。これらの判定結果は、出力部８２０を介して判定結果として表示装置等に出力される（Ｔ１１）。

この後、不快判定装置８００は、装置利用者の入力指示に応じてデータを保存する。具体的には、不快判定装置８００は、被験者毎に、判定結果のデータ、解析波形、測定結果、画像表示条件等を関連付けて記憶部８３０に記憶する。

（７−３）不快判定装置の特徴
（７−３−１）
以上説明したように、本実施形態に係る不快判定装置８００は、特定操作情報検知部８４１と、顔面変化情報取得部８４２と、顔面変化情報分解部８４３と、判定用成分抽出部８４４と、不快判定部８４５と、を備える。特定操作情報検知部８４１は、検査機器３５０の特定操作に対応する「特定操作情報」を検知する。顔面変化情報取得部８４２は、対象者３００の顔面データの時系列変化を示す「顔面変化情報」を取得する。顔面変化情報分解部８４３は、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分１，２，３，・・・に分解する。判定用成分抽出部８４４は、複数の成分１，２，３，・・・から、特定操作情報と関連する成分を「判定用成分」として抽出する。不快判定部８４５は、判定用成分に基づいて、対象者３００の不快状態を判定する。

したがって、本実施形態に係る不快判定装置８００では、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分１，２，３，・・・から、特定操作情報と関連する判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者３００の脳活動の有無を容易に推定できる。これにより、対象者３００の脳活動に基づいて、検査機器３５０の操作に応じて惹起される対象者３００の不快状態を容易に判定できる。

また、本実施形態に係る不快判定装置８００では、特定操作情報の検知に応じて顔面変化情報を演算処理することで、検査機器３５０により検査される対象者３００の不快状態をリアルタイムで判定できる。

（７−３−２）
また、本実施形態に係る不快判定装置８００は、顔面変化情報取得部８４２が、顔面データとして、対象者３００の、副鼻腔周辺及び／又は前額部のデータを取得するので、脳活動と関連する判定用成分を高精度に抽出できる。ここで、脳には、選択的脳冷却機構（Selective Brain Cooling System）という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構は、脳活動によって生じた熱を、副鼻腔及び前額部周辺を用いて排熱する。よって、これらの部位のデータを解析することで脳活動と関連する成分を高精度に抽出できる。結果として、本実施形態に係る不快判定装置８００は、不快状態の判定を高精度に実行できる。

（７−３−３）
また、本実施形態に係る不快判定装置８００は、顔面変化情報取得部８４２が、顔面データとして、対象者３００の顔面の皮膚温度を示す顔面皮膚温度データを取得する。換言すると、不快判定装置８００は、赤外線カメラ等を利用して、不快状態を判定できる。

（７−３−４）
また、本実施形態に係る不快判定装置８００は、顔面変化情報取得部８４２が、顔面データとして、対象者３００の顔面のＲＧＢデータに基づく顔面血行量データを取得する。すなわち、不快判定装置８００は、固体撮像素子（ＣＣＤ，ＣＭＯＳ）を利用して不快状態を判定できる。これにより、不快状態の判定を簡易な構成で実行できる。

（７−３−５）
また、本実施形態に係る不快判定装置８００は、判定用成分抽出部８４４が、危険率の値に基づいて、判定用成分を抽出する。不快判定装置８００では、危険率の値に基づいて、特定操作情報（脳機能賦活情報）と関連する判定用成分を抽出するので、不快状態の判定の信頼性を高めることができる。

（７−３−６）
また、本実施形態に係る不快判定装置８００は、検査機器３５０として内視鏡を用いることができる。したがって、不快判定装置８００は、内視鏡の操作に応じて惹起される対象者３００の不快状態を容易に判定できる。

さらに、本実施形態に係る不快判定装置８００は、検査機器３５０として、内視鏡のみならず、意識清明の状態の対象者に対する任意の検査で用いられるものでもよい。これにより、任意の検査において、意識清明の状態の対象者の不快状態を容易に判定できる。例えば、不快判定装置８００は、肝臓の経皮的針生検や髄液検査を目的とした腰椎穿刺、血管内カテーテル検査、腹腔鏡検査といった侵襲的な検査にも適用可能である。さらにいえば、不快判定装置８００は、意識が清明の状態で行うあらゆる検査、処置、又は手術について、検査処置の苦痛度の指標を提供することができる。具体的には、不快判定装置８００は、消化器内科領域だけでなく、気管支鏡や膀胱鏡など様々な領域で行われている検査等に応用できる。

なお、本実施形態に係る不快判定装置８００においては、検査機器３５０は単なる検査目的で使用されるものだけではなく、治療機器を具備するものを含む。例えば、検査機器３５０は、ポリープを切除する切除機構を具備する大腸内視鏡等でもよい。このような大腸内視鏡であれば、大腸検査中に１ｃｍ程度のポリープを発見した場合、当該切除機構を用いてそのままポリープを切除することができる。

（７−３−７）
また、本実施形態に係る不快判定装置８００は、特定操作情報が、検査機器３５０の操作者３０１による音声、検査機器３５０の操作者３０１による信号入力、検査機器３５０に取り付けられた加速度センサの検出値、検査機器３５０の対象者３００への挿入長、対象者３００のレントゲン透視画像、及び、検査機器３５０から取得される撮像画像、のいずれか一つ又は任意の組み合わせから生成されるものを採用できる。したがって、不快判定装置８００では、検査機器３５０の使用状況に応じた最適な手法で、対象者３００が不快に感じるような検査機器３５０の特定操作を認識できる。

（７−３−８）
また、本実施形態に係る不快判定装置８００は、検査機器３５０で特定操作を行なったときに算出される判定用成分の相関値ｒ２の、対象者３００が通常状態のときに算出された基準判定用成分の基準相関値ｒ１からの所定範囲の変化量Δｒを、不快状態レベルに関連付けて「判定情報」として記憶する判定情報データベース８３２を備える。そして、不快判定部８４５が、検査機器３５０で特定操作を行なったときの判定用成分の相関値ｒ２を算出し、算出した相関値ｒ２及び判定情報に基づいて、対象者３００の不快状態レベルを判定する。

このような構成により、不快判定装置８００は、対象者３００が通常状態のときに抽出された基準判定用成分を利用して、不快状態レベルを容易に判定できる。要するに、不快判定装置８００は、不快状態の有無を判定するだけでなく、不快状態レベルを判定して出力できる。

（７−３−９）
本実施形態に係る不快状態の判定方法は、必ずしも不快判定装置８００を必要とするものではない。すなわち、本実施形態に係る不快状態の判定方法は、不快判定装置８００の有無に関わらず、対象者３００を不快にする検査機器３５０の特定操作に対応する特定操作情報を検知する特定操作情報検知ステップと、対象者３００の顔面データの時系列変化を示す「顔面変化情報」を取得する顔面変化情報取得ステップと、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析することにより複数の成分に分解する顔面変化情報分解ステップと、複数の成分から、特定操作情報と関連する成分を判定用成分として抽出する判定用成分抽出ステップと、判定用成分に基づいて、対象者３００の不快状態を判定する、不快判定ステップと、を備えるものであればよい。

このような不快状態の判定方法によれば、特定操作情報の検知後に、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析することで得られた複数の成分から、特定操作情報と関連する判定用成分を抽出して不快状態を判定するので、対象者３００の不快状態を容易に判定できる。

（７−３−１０）
なお、不快判定装置８００は、上述したように判定用成分に対する相関値の、基準値からの所定範囲の変化量を用いて不快状態を判定するもののみならず、判定用成分に対して重回帰分析により得られる値、判定用波形が生成する面積、判定用波形の平均値、判定用波形の重心値のいずれか一つ又は任意の組み合わせに基づいて、不快状態を判定するものでもよい。補足すると、「重回帰分析」を用いると、複数刺激による反応の相関値を容易に数量化できる。「相関値」用いると、単一刺激による反応の相関値を容易に数量化できる。「面積」を用いると、反応の絶対値を容易に数量化できる。「平均値」を用いると、反応の絶対値を容易に数量化できる。また、面積と比較して、ノイズを低減できる。「重心値」を用いると、反応の絶対値を容易に数量化できる。また、面積と比較して、どのタイミングで反応が生じたかを容易に判定できる。

このような構成により、装置の計算能力に応じた最適な手法で不快状態を判定できる。また、検査機器及び特定操作の種類等に応じて最適な手法を採用できる。

（７−３−１１）
なお、本実施形態に係る不快判定装置８００は、判定用成分抽出部８４４が、特定操作情報に対応する判定用波形と複数の成分との相関値に基づいて、判定用成分を抽出する。このような構成により、対象者３００の脳機能に対応する判定用成分を特定することができる。

また、ここでは、判定用波形として、人間の生理的反応を考慮した変形波を採用することができる。また、判定用波形は、特定操作情報を検知してから所定時間経過後に変位するものである。このような判定用波形は、顔面変化情報から得られた成分と有意な相関が認められる場合には高い相関値を示すので、判定用成分の抽出精度を高めることができる。また、脳の反応に対して少し位相を遅らせることで精度の高い相関を得ることができる。具体的に、判定用波形として、レッドスポット・ダイナミック・レスポンス・ファンクションを採用することができる。レッドスポット・ダイナミック・レスポンス・ファンクションは、特定操作情報を一瞬与えたときの、顔面変化情報分解部８４３により分解された複数の成分１，２，３，・・・のうち相関の認められた成分を複数回算出し、算出した複数の成分から生成されるものである。レッドスポット・ダイナミック・レスポンス・ファンクションは、過去の履歴に基づいて最適化されているので、顔面変化情報から得られた成分と有意な相関が認められる場合には高い相関値を示す。これにより、判定用成分の抽出精度を高めることができる。

また、判定用波形として、矩形波を採用することもできる。矩形波は特定操作情報の検知のタイミングに容易に対応させることができるので、判定用成分を容易に抽出できる。

（７−４）不快判定装置の変形例
（７−４−１）
本実施形態に係る不快判定装置８００は、図２８に示すように、ネットワーク上に設けられた判定情報提供装置９００等を利用するものでもよい。

ここで、判定情報提供装置９００は、記憶部９３０と処理部９４０とを備える。

記憶部９３０は、判定情報データベース９３２を有する。この判定情報データベース９３２は、上述した判定情報データベース８３２と同様の構成である。すなわち、判定情報データベース９３２は、特定操作情報が検知されたときに算出される判定用成分の相関値ｒ２の、対象者３００が通常状態のときに算出された基準判定用成分の基準相関値ｒ１からの所定範囲の変化量Δｒを、不快状態レベルに関連付けて判定情報として記憶する。

処理部９４０は、不快判定装置８００からの要求に応じて、判定情報データベース９３２に格納された判定情報を送信する。なお、処理部９４０は、不快判定装置８００で抽出された判定用成分とは独立して、所定の情報に基づいて判定情報をビッグデータとして生成する機能を有するものでもよい。また、処理部９４０は、不快判定装置８００で基準相関値ｒ１が算出された場合、判定情報データベース９３２に記憶されている基準相関値ｒ１を更新する処理を随時実行する。

本変形例では、上述した判定情報提供装置９００に、不快判定部８４５が判定情報の提供を要求する。詳しくは、本変形例に係る不快判定装置８００では、判定情報データベース９３２が、ネットワーク上の判定情報提供装置９００に格納されており、不快判定部８４５が、不快状態レベルを判定する際に、判定情報提供装置９００にアクセスする。そして、不快判定部８４５が、算出した相関値ｒ２及び判定情報に基づいて、対象者３００の不快状態レベルを判定する。

したがって、本変形例の不快判定装置８００であれば、不快判定部８４５が、ネットワーク上の判定情報提供装置９００を利用して、対象者３００の不快状態レベルを判定できる。

さらに、本変形例の不快状態の判定方法によれば、ビッグデータを用いた、不快状態の判定が実現できる。すなわち、基準相関値ｒ１及び所定の変化量Δｒをビッグデータから求めることができる。これにより、判定情報を随時最適化することができる。

（７−４−２）
なお、本実施形態に係る不快判定装置では、特定操作情報を取得することで特定操作を検出していたが、特定操作情報を取得することに加えて他の検出方法を組み合わせてもよい。これにより、特定操作の検出精度を高めることができる。例えば、図２４に示すように、検査機器３５０が上部消化管内視鏡のときに、送気による膨満感を、血圧上昇、頻拍、ＳｐＯ₂の低下等により検出してもよい。また、検査機器３５０が上部消化管内視鏡のときに、十二指腸でのストレッチ操作を、唾液アミラーゼ値により検出してもよい。また、検査機器３５０が上部消化管内視鏡のときに、経鼻の場合の鼻の痛みを、鼻出血の有無により検出してもよい。また、検査機器３５０が胆道系内視鏡のときに、ファーター乳頭へのカニュレーションによる刺激を、検査後血清アミラーゼ値により検出してもよい。また、検査機器３５０が胆道系内視鏡のときに、十二指腸でのストレッチ操作を、唾液アミラーゼ値により検出してもよい。

（７−５）不快判定装置の検証試験
本実施形態に係る不快判定装置の検証試験を次の条件で行なった。

まず、本試験では、被験者の顔面画像データを取得した。ここでは、内視鏡検査室の検査台の上に、被験者（対象者３００）を左側臥位にして横向きに寝かせ、検査台に固定したＲＧＢカメラを用いて、被験者の鼻部周辺を含む顔面全体の撮影画像の時系列データを取得した。ＲＧＢカメラは、サンメカトロニクス社製のPoliceBook3500Sを使用した。そして、時系列の顔面画像データとしてカラーの動画データを取得した。また、ＲＧＢカメラは、横向きに寝た被験者の正面側であって、被験者から０．３ｍ離れた位置に設置した。そして、ＲＧＢカメラによって、３０フレーム／秒の撮影周期で、時間軸に沿って上部消化管内視鏡検査中の撮影画像データを連続撮影し、顔面の動画データを取得した。

次に、本試験では、顔面画像データを取得している間に、内視鏡検査で痛み・不快感が発生すると推定される操作をしたときに、検査機器３５０の操作者３０１に音声を発するように指示した。そして、この音声データを顔面画像データと同時に取得した。これにより、被験者が内視鏡検査で痛み・不快感が発生すると推定される操作との相関を得ることが可能となる。

そして、顔面画像データの解析を行なった。具体的には、撮影した顔面の動画データより得られたＲＧＢデータに基づき血行量データを算出し、ＭＡＴＬＡＢ（登録商標）のＳＶＤ（Singular Value Decomposition）を分析ツールとして用いて特異値分解を行った。ここでは、ＣＩＥ−Ｌ*ａ*ｂ*表色系に従って、画像のＲＧＢデータより演算される肌の赤みやヘモグロビン量と相関のある紅斑指数「ａ*」を求め、これを血行量データとした。また、特異値分解では、時系列で取得した全ての動画データから得られたＲＧＢデータに基づく血行量データ（ここでは、紅斑指数）を対象とし、要因を１秒毎の時間データ（１０５分間で６３００time point）とし、測度をその期間（１秒毎）におけるＲＧＢデータから演算した紅斑指数（１秒間のフレームデータを取り出し、該フレームデータから得られるＲＧＢ値の平均値から演算した紅斑指数であり、動画データに合わせて調整したもの）とした。そして、特異値分解により、顔面の動画データより得られたＲＧＢデータに基づく時系列の血行量データを、複数の成分に分解し、それぞれの成分の時間分布Ｖと、空間分布Ｕと、各成分の大きさを示す特異値Ｓとを算出した。なお、これらの関係は、以下の式で表される。また、Ｖ'は、Ｖの行と列とを入れ替えた行列である。

そして、特異値分解によって求められた各成分の時間分布Ｖ及び空間分布Ｕをグラフにプロットし、各成分の成分波形図と血行量分布図とを作成した。

さらに、作成した各成分の成分波形図及び血行量分布図について、内視鏡検査で発生する痛み・不快感を反映した顔面の血行量の変化、すなわち顔面のＲＧＢ変化を示す成分を同定するための解析を行った。

各成分の成分波形図については、その成分波形の振幅と、内視鏡検査による痛み・不快感の発生時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、内視鏡検査による痛み・不快感の発生時との間に相関関係があるか否かを評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準（α）が０．０５以下の場合に相関があると判断した。

このようにして検証試験を行なったところ、図２９に示すような結果が得られた。図２９において、横軸は時間を示しており、縦軸は反応の強さを示している。本試験では、時点ｔ１において、内視鏡の先端から空気を送気して胃等を膨らませた。また、時点ｔ２において空気を吸引した。一般的に、内視鏡検査において、空気を送気してから吸引までの間、被験者は不快感が高まることが認識されている。本試験においても、図２９から認識されるように、送気から吸引までの間、被験者の顔面変化情報から得られた判定用成分が反応した。要するに、図２９に示す結果から、内視鏡検査で惹起される痛み・不快感と送気及び吸引との相関関係が確認できた。

また、各成分の血行量分布図から、顔面の所定部位における血行量変化の有無について解析した。ここで、血行量分布図は、ピクセル毎に算出された空間分布Ｕを各ピクセルの位置に並べることで作成されるものである。このようにして作成された各成分の血行量分布図において、鼻部周辺及び前額部における血行量の変化があるか否かを評価した。なお、空間分布Ｕ、特異値Ｓ及び時間分布Ｖの値の関係で、血行量データＸの極性（プラスマイナス）が決定するため、各成分の成分波形図及び血行量分布図において極性が反転して現れることがある。このため、成分波形図及び血行量分布図の評価に関して、極性については評価対象としないこととした。

ここでは、図３０に示すような解析結果が得られた。図３０（Ａ）は被験者の通常画像であり、図３０（Ｂ）がそれに対する血行量分布図を示している。図３０（Ｂ）の画像結果から、鼻部周辺及び前額部における血行量の変化があることが認識できた。

なお、検査機器の操作者（介助者含む）の音声以外にも、検査機器３５０の操作者３０１のキー入力及びボタン押下、内視鏡に取り付けられた加速度センサの検出値、内視鏡の人体への挿入長、並びに、内視鏡挿入時に同時に撮影されるレントゲン透視画像から特定される内視鏡の位置、及び当該レントゲン透視画像から特定される臓器等からの出血の情報などと、特定操作との相関からでも同様の結果が得られることが認識された。

＜付記＞
なお、本発明は、上記実施形態そのままに限定されるものではない。本発明は、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、本発明は、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより種々の発明を形成できるものである。例えば、実施形態に示される全構成要素から幾つかの構成要素は削除してもよいものである。さらに、異なる実施形態に構成要素を適宜組み合わせてもよいものである。

本発明によれば、簡便に脳活動を推定することができるため、脳活動に基づき対象者の生理状態を可視化する脳活動可視化装置への適用が有効である。

１０ 脳活動可視化装置
２０ 顔面皮膚温度取得手段
３０ 脳活動推定手段
１１０ 脳活動可視化装置
１２０ 画像データ取得手段
１３０ 脳活動推定手段
２００ 状態可視化手段
２０１ 解析部
３００ 対象者
３０１ 操作者
３５０ 検査機器
８００ 不快判定装置
８１０ 入力部
８１５ 撮像部
８２０ 出力部
８３０ 記憶部
８３１ 脳機能賦活情報データベース
８３２ 判定情報データベース（判定情報記憶部）
８４０ 処理部
８４１ 特定操作情報検知部
８４２ 顔面変化情報取得部
８４３ 顔面変化情報分解部
８４４ 判定用成分抽出部
８４５ 不快判定部
９００ 判定情報提供装置
９３０ 記憶部
９３２ 判定情報データベース（判定情報記憶部）
９４０ 処理部

特開２０１３−１７６４０６号公報

Claims (6)

1. 検査機器（３５０）の特定操作に対応する特定操作情報を検知する特定操作情報検知部（８４１）と、
   前記検査機器により検査される対象者の顔面データの時系列変化を示す顔面変化情報を取得する顔面変化情報取得部（８４２）と、
   前記顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する顔面変化情報分解部（８４３）と、
   前記特定操作情報に対応する判定用波形と前記複数の成分との相関値に基づいて、前記複数の成分から、前記特定操作情報と関連する成分を判定用成分として抽出する判定用成分抽出部（８４４）と、
   前記判定用成分と、前記判定用波形との相関値に基づいて、前記対象者の不快状態を判定する、不快判定部（８４５）と、
   を備え、
   前記対象者の顔面データは、顔面皮膚温度データまたは顔面血行量データである、
   不快判定装置（８００）。
2. 前記検査機器は、意識清明の状態の対象者に対する任意の検査で用いられるものである、
   請求項１に記載の不快判定装置。
3. 前記検査機器は、内視鏡である、
   請求項１または２に記載の不快判定装置。
4. 前記特定操作情報は、
   前記検査機器の操作者による音声、
   前記検査機器の操作者による信号入力、
   前記検査機器に取り付けられた加速度センサの検出値、
   前記検査機器の前記対象者への挿入長、
   前記対象者のレントゲン透視画像、及び、
   前記検査機器から取得される撮像画像、
   のいずれか一つ又は任意の組み合わせから生成されるものである、
   請求項１から３のいずれか１項に記載の不快判定装置。
5. 特定操作情報が検知されるときに算出される判定用成分と特定操作情報に対応する判定用波形との相関値の、前記対象者が通常状態のときに算出された基準判定用成分の基準相関値からの所定範囲の変化量を、不快状態のレベルに関連付けて判定情報として記憶する判定情報記憶部（８３２）をさらに備え、
   前記不快判定部が、前記特定操作情報に対する前記判定用成分と前記判定用波形との相関値を算出し、算出した相関値及び前記判定情報に基づいて、前記対象者の不快状態のレベルを判定する、
   請求項１から４のいずれか１項に記載の不快判定装置。
6. ネットワーク上の判定情報提供装置（９００）が、特定操作情報が検知されるときに算出される判定用成分と特定操作情報に対応する判定用波形との相関値の、前記対象者が通常状態のときに算出された基準判定用成分の基準相関値からの所定範囲の変化量を、不快状態のレベルに関連付けて判定情報として記憶する判定情報記憶部（９３２）を備え、
   前記不快判定部が、前記特定操作情報に対する判定用成分と特定操作情報に対応する判定用波形との相関値を算出し、算出した相関値及び前記判定情報に基づいて、前記対象者の不快状態のレベルを判定する、
   請求項１から５のいずれ１項に記載の不快判定装置。
   

Images