本願発明者らは、脳波計測の電極に近接する電気音響変換器の影響により、低周波の電気的ノイズが脳波に重畳される現象を発見した。以下ではまず、その現象を確認した実験を詳細に説明する。その後、本発明の実施形態を説明する。
図2(a)は、頭皮上の電極上方1cmの位置に骨導ヘッドホンを保持し、5Hzの十分に大きな正弦波の音響信号を出力した際に記録された脳波の電位波形のグラフ(脳波波形)を示す。脳波波形は左側頭部に装着した脳波計電極で記録された。縦軸は脳波の電位を示し、横軸は時間を示している。電位の単位はマイクロボルトであり、時間の単位はミリ秒である。なお、周波数を5Hzにした理由は、8Hz〜13Hzとされているα波よりも低くするためである。図2(a)中に両側矢印で示した1秒間の区間に、逆三角のマークで示した電位のピークが5回現れる。ピークは等間隔であり、1秒間に5回の周期的な電位の変動があることが理解される。この脳波波形によれば、5Hzの信号が脳波に重畳されていることがわかる。
図2(b)は、図2(a)の波形の周波数スペクトルを示す。縦軸は相対的なエネルギーを示し、横軸は周波数を示している。周波数の単位はヘルツ(Hz)である。周波数スペクトルには、図2(a)に見られた5Hz以外に、10Hz、15Hz、20Hz等の5の倍数の周波数の成分が含まれている。
本願発明者らが計測したところによると、これらの成分は骨導ヘッドホンを近づけた電極とは異なる、右側頭部に装着した電極で記録された脳波電位でも観察されている。つまり、ノイズは頭部全体に広がっているといえる。
図2(c)は骨導ヘッドホンを脳波計電極より遠ざけ、電極と骨導ヘッドホンとの距離を充分に離した場合の、図2(a)と同一の電極で記録された脳波の周波数スペクトルを示す。60Hzの交流雑音が見られる以外は、図2(b)に見られた5の倍数のノイズ成分は見られず、10Hz以下の低域に脳波の成分が見られる。
ウェアラブル機器の電気音響変換器を通して、音楽や音声を聴取する際に、図2の脳波を得たときのような大きな低周波信号が出力されることはまれである。可聴範囲の下限周波数を下回る低周波信号は、多くの場合、より周波数の高い可聴範囲内の音響信号の振幅変動として現れる。音楽のリズムや音声の母音と子音の反復のパタンなどがそれである。
図3(a)は成人男性話者が日本語で「スーパー“行列”で特売してますよ。」と発声したときの録音音声の波形を示している。
音声のうち母音は声帯の振動を喉と口腔および鼻腔とで共鳴させた音である。母音発声時には、口から放出されるエネルギーすなわち音圧が大きく、波形として表示すると振幅が大きい。
一方、子音は喉や舌、歯、唇といった構音器官によって、呼気の流れを狭めたり一時的に止めたりすることで起こる乱流に伴う雑音を主成分とする。乱流の雑音のエネルギーは声帯振動エネルギーよりも小さい。言語音は子音と母音の組み合わせによって発声されており、図3(a)のように周期的な振幅の変動のある信号になっている。
ウェアラブル機器の電気音響変換器が出力する音響信号の多くは可聴範囲内の音響信号であるが、その音響信号の振幅は、可聴範囲を下回る低周波で変動する。そこで本願発明者らは、音響信号の振幅変動として含まれる低周波成分が電気的ノイズを発生させる可能性を確認するために実験を行った。
振幅変動の影響のみを確認するため、実際の音声ではなく、低周波の振幅変動を加えたピンクノイズを用いた。ピンクノイズはパワースペクトル密度が周波数に反比例するという特性を持つノイズであり、高い周波数ほどパワーが減衰する周波数特性を持つ。楽器音や音声は周波数が高くなるに連れてパワーが減衰する周波数特性を持っているため、ピンクノイズは簡易に音楽や音声あるいは環境雑音の周波数特性を模擬する際に用いられる。
図3(b)はピンクノイズの振幅を5Hzの正弦波で変動させた信号の時間波形とその振幅の包絡線である。実線が時間波形であり、点線が包絡線である。包絡線(envelope)は、波形の振幅値(極大値)を時間軸に沿って結ぶことによって得られる。
図3(b)の破線に示すように、5Hzの正弦波は音響信号の振幅変動の様子を示す包絡線として時間波形に現れている。本願発明者らは図3(b)に示したような音響信号を用いて、低周波の電気的ノイズが脳波計測の電極に重畳されるか否かの実験を行った。
本願発明者らは、頭皮上の電極上方1cmの位置に骨導ヘッドホンを保持し、図3(b)のような音響信号を出力した。この実験は、図2に結果を示した低周波(5Hz)の正弦波を用いた実験と同様である。
音響信号は、音として聴取できない程度のレベルの信号とした。これにより、脳波が信号の振幅変動に同期して変動することを防いだ。
図4(a)は、近接する電気音響変換器から、ピンクノイズの振幅を5Hzで変動させた信号(図3(b))を出力した際に電極で記録された脳波の電位波形のグラフ(脳波波形)を示す。図2(a)と同様に縦軸は脳波の電位を示し、横軸は時間を示している。電位の単位はマイクロボルトであり、時間の単位はミリ秒である。
図4(b)は、図4(a)の波形の周波数スペクトルを示す。また図4(e)は、骨導ヘッドホンを脳波計電極より遠ざけ、電極と骨導ヘッドホンとの距離を充分に離した場合の、図4(a)と同一の電極で記録された脳波の周波数スペクトルを示す。図2(b)、(c)と同様に、図4(b)および(e)の縦軸は相対的なエネルギーを示し、横軸は周波数を示している。周波数の単位はヘルツ(Hz)である。
図4(a)の波形では5Hzの成分は判別できないが、図4(b)の周波数スペクトルでは5Hzにわずかながらピークが見られる。一方、このピークは図4(e)には見られない。よって図4(b)の5Hz付近のピークは、振幅包絡に同期したノイズが重畳したものであるといえる。
この実験においては、脳波が音響信号の振幅包絡に同期して変動することを避けるために、可聴範囲を下回る低レベルの音響信号を用いた。しかしながら、それにもかかわらず、脳波計測の電極に電気的ノイズが混入した。
図4(c)は、ピンクノイズの振幅を9Hzで変動させた信号を出力した際に記録された電位の周波数スペクトルである。また、図4(d)はピンクノイズの振幅を17Hzで変動させた信号を出力した際に記録された電位の周波数スペクトルである。図4(c)では9Hz近辺、図4(d)では17Hz近辺に、わずかながらピークが確認される。これらのピークは、図4(e)には見られない。
なお、9Hzで振幅を変動させた場合も、17Hzで振幅を変動させた場合も、図4(a)と同様、波形からは低周波信号を判別できなかった。そのため、図4ではそれらの波形図の例示は省略している。
図5は、補聴器のように電気音響変換器が耳穴付近に位置するときの、電気的ノイズが影響すると考えられる範囲1を模式的に示す。図5の斜線部で示される範囲1に、電気音響変換器による電気的ノイズが混入すると考えられる。範囲1は、たとえば電気音響変換器の周辺数cmである。聴取可能なレベルの音響信号を用いる際には、さらに大きな電気的ノイズが混入し、かつより広い範囲に電気的ノイズが混入する。たとえば、音響信号が可聴域を下回る場合であっても、電気音響変換器を中心として2cm程度までは音響信号にノイズの影響が現れる。音響信号が可聴域を上回る場合、たとえば健聴者が喧しくない程度に聞き取ることが可能な音響信号が出力される場合には、電気音響変換器を中心として5cm程度までは音響信号にノイズの影響が現れる。
この実験により、これまで脳波計測においては可聴範囲の音響信号を出力する際の電気音響変換器が、脳波で利用される周波数帯域でのノイズ源となることが確認された。上述のように、これまで、電気音響変換器はノイズ源として問題視されていなかった。
ユーザがHMDや音楽プレーヤーで視聴するコンテンツや、補聴器で聴取する日常の生活音の多くは振幅変動を持つ。聴取の中心となる会話等の音声は、図4(b)の例に示すように音韻ごとの音圧変化がある。日本語の例ではテレビのニュース番組におけるアナウンサの発声は毎秒7モーラ(モーラは日本語における音韻の単位)程度の速度で変化する。すなわち音韻による音圧変化は7Hz前後である。これは、ヘッドホン等から出力される音声には7Hz前後の低周波ノイズが混入していることを意味する。
ウェアラブル機器はユーザの頭部あるいは耳へ装着される。たとえばHMDはゴーグルあるいはメガネの形状を基本として頭部に装着される。メガネ形状のHMDを例にすると、当該HMDが接触するユーザの身体の部位は、例えば図6に示すHMD6においては、ノーズパッド部6aが接触する鼻根部と、フレームのテンプル部6bが接触する側頭部と、先セル部6cが接触する耳の周辺6dとに限られる。
音楽プレーヤーについては、耳穴へ装着する形状あるいは耳介(auricle)を挟みこむクリップ型等のヘッドホンのように、機器と接触する身体の部位は耳周辺に限局される。耳穴型の補聴器7は耳穴に装着される。図7は、耳掛型の補聴器7を示す。耳掛型の補聴器7は図7のように耳介に掛けて装用される。耳穴型、耳掛型とも機器は耳およびその周辺位置7aでのみ身体と接触する。したがって、そのような接触位置に電極が配置される。そのため、このような機器に脳波計測の電極を収めようとすると、耳穴や耳介に配置されるヘッドホン等の電気音響変換器7bに近接して脳波計測の電極が配置されることになる。図7によれば、電極が設置される位置7aとノイズ原である電気音響変換器7bとの距離7cがノイズの影響を受ける程度に短いことが理解される。
頭皮上で観測される脳波の電位は10μV〜100μV程度であり、周辺に位置する電子機器が発生する交流ノイズ、又はユーザの動作による筋電や瞬目による眼電等のノイズが脳波に重畳されると、正確な脳波計測が困難となる。よって、脳波からノイズを除去することが要求される。そこで、多くの市販脳波計では、たとえば交流電源周波数に対するノッチフィルタが採用されている。また、脳波として有用な周波数帯域とノイズの帯域との差を利用したフィルタリングや、たとえば特開2001−61800号公報のようにウェーブレット変換等の信号処理により脳波とは周波数の異なる信号を分離することによるノイズ除去が行われている。
上記のように電極を電気音響変換器の近傍に配置すると、電気音響変換器からの脳波の帯域と一致する低周波帯域のノイズが脳波に重畳される。
脳波は基準極と計測極との電位差を抽出する差動増幅によって記録される。よって基準極および計測極に同じノイズが重畳した場合、言い換えると、基準極と計測極とが、ノイズ源である電気音響変換器から同じ距離に位置する場合には、差動増幅によってノイズは相殺され、除去される。
しかしながら、ノイズ源からの距離によってノイズの大きさは異なる。よって図7に示す補聴器のように、2つの電極が電気音響変換器から異なる距離に位置する場合にはノイズは相殺されないため、完全には除去することはできない。
本願発明者らは、出力される音響信号の振幅包絡を抽出して、その振幅包絡の周波数を分析して、低周波信号である振幅包絡から脳波計測の電極へ混入する電気的ノイズを推定することとした。そして、推定されたノイズに基づいて脳波計測の電極から導出された電位に対してノイズ対策処理を行うことにより、音響信号の出力中であっても音響信号由来のノイズに影響されない脳波を得ることに成功した。
図8は本願発明の概要を示す。図8の輪郭線801は使用者800の頭部を左から見た輪郭および左耳である。使用者800の耳には、イヤホン802を介して音響信号が提示されており、点線で示した音響信号の振幅包絡803は、低周波のノイズとして、使用者800の頭部の組織を介して頭部に装着された電極804へ混入している。一方、電極804には、脳の活動805を示す電気信号が到達する。電極804は、脳の活動805に由来する電気信号と、音響信号の振幅包絡803に由来する低周波のノイズとが混ざった電位806を取得する。その電位は電位抽出部807を経てノイズ対策処理部808へ送られる。イヤホン802から出力された音響信号に対して、振幅包絡抽出部809は音響信号の振幅包絡803を抽出して周波数分析部810へ出力する。ノイズ推定部811は、周波数分析部810の周波数分析結果にしたがって振幅包絡803がノイズとして混入する際の電位を推定し、ノイズ対策処理部808へ出力する。ノイズ対策処理部808は、電位抽出部807から出力された脳の活動805に由来する電気信号と、混入した振幅包絡803とが混ざった波形から、ノイズ推定部811から出力された音響信号の振幅包絡から推定されたノイズを減算してノイズ対策処理を行う。これにより、ノイズのない真の脳波812を計測することができる。
また、本願発明者らは、出力される音響信号を分析して音響信号に含まれる低周波信号を抽出し、その低周波信号から脳波計測の電極への影響を考慮した脳波の判別基準を設定することとした。この方法によっても、音響信号の出力中であっても音響信号由来のノイズに影響されない脳波を得ることが可能になった。
上述の処理によって得られた脳波を、脳波を利用したインタフェースによる機器操作や、脳波によりユーザの状態を観測する機能を備えた機器のうち、音響信号の出力部を有し、かつウェアラブルな機器に応用した。その結果、音響信号由来のノイズに影響されない脳波による脳波インタフェースの提供、あるいは、脳波によるユーザのモニタリングを提供できるようになった。
以下、添付の図面を参照しながら、本発明にかかる脳波計測装置の実施形態を説明する。各実施形態で説明される脳波計測装置は、電気信号を音に変換する機構(音響出力手段)を有している。音響出力手段の一例が、電気音響変換器である。
(実施形態1)
図9は、本実施形態による脳波計測装置51の構成図である。図10〜図13は、それぞれ本実施形態における構成の一部の詳細な構成を示す。なお、ユーザ100は説明の便宜のために図示されている。脳波計測装置51の構成要素には含まれないことは言うまでもない。
本実施形態では、脳波によりユーザ状態をモニタし、脳波の変化に応じて機器を自動的に制御する例を示す。より具体的には、脳波のα波の出現頻度により音響出力のボリューム操作を行う例である。図6に示したようなHMDや図7に示したような補聴器への応用が可能である。
脳波計測装置51は、入力部101と、音響出力制御部110と、波形生成部120と、電気音響変換器130と、振幅包絡抽出部140と、ノイズ推定部150と、電極部160と、電位抽出部170と、ノイズ減算部180と、脳波判定部190とを備えている。
入力部101は、ユーザ100が音響出力を操作するスイッチ等である。
音響出力制御部110は、出力する音響信号を制御する。
波形生成部120は、音響出力制御部110の制御信号に従って出力する音響信号の波形を生成する。
電気音響変換器130は、波形生成部120で生成された波形信号を音響信号に変換してユーザ100に提示する。電気音響変換器130は、例えばアンプおよびスピーカを利用して構成することができる。
振幅包絡抽出部140は、波形生成部120で生成された波形信号を分析して振幅包絡を抽出する。
周波数分析部147は、振幅包絡抽出部140で抽出された振幅包絡の周波数を求める。
ノイズ推定部150は、周波数分析部147で求められた振幅包絡の周波数に基づいて、振幅包絡抽出部140で抽出された低周波成分によって発生する電気的ノイズを推定する。
電極部160は、ユーザ100の片側または両側の耳周辺部に装着される少なくとも2つ以上の電極、より具体的には、基準極および計測極としてそれぞれ機能する電極を含む。電極部160は、電極は皮膚と接触する金属、あるいは、皮膚と接触する金属にインピーダンス変換回路を加えて構成されている。電極部160の各電極は、設置された位置の電位を取得する。後述するように、電位抽出部170が、基準極および計測極の電位差を算出する。この電位差が脳波として取り扱われる。
ここで、電極部160を電気音響変換器130の近傍に配置することにより、得られた脳波の電位には電気音響変換器130の影響で生じるノイズが重畳されていることに留意されたい。なお、「近傍」とは、低周波帯域のノイズが有意に、言い換えれば無視できない程度に脳波に重畳され得る範囲をいう。たとえば図5の斜線部に示される円の中心に電気音響変換器を配置したときの斜線領域内が「近傍」である。
図9では、電極部160と電気音響変換器130とが別個に設けられているが、これらを一体的に形成してもよい。このとき、電極部160に含まれる全ての電極が電気音響変換器130と一体的に形成されていてもよいし、一部の電極(少なくとも1つの電極)が電気音響変換器130と一体的に形成されていてもよい。
このような構成は、以下に説明する各実施形態においても採用することができる。
電位抽出部170は、電極部160の電極のうち2つの電極間の電位の差を計測し、電位変化を抽出する。電位抽出部170は、例えばCPUおよびメモリとAD変換器とアンプとを有している。
ノイズ減算部180は、電位抽出部170で抽出された電位変化に対してノイズ推定部150で推定された電気的ノイズの影響を減じるノイズ対策処理を行う。なお、ノイズ減算部180は、減算を行うことによって電気的ノイズの影響を減じる。しかしながら、減算は処理の一例である。ノイズを低減し、または除去することが可能であれば、減算処理以外の演算を利用してもよい。減算を含む種々の演算を行う構成要素は、ノイズ除去部と呼ぶことができる。ノイズ減算部180はノイズ除去部の一例である。
脳波判定部190は、ノイズ減算部180で処理を行った結果に基づき、脳波に含まれる特徴成分を利用して、その脳波がユーザ100のどのような意図を反映しているかを判定する。
音響出力制御部110、波形生成部120、振幅包絡抽出部140、周波数分析部147、ノイズ推定部150、ノイズ減算部180および脳波判定部190は、CPUおよびメモリによって実現される。このCPUおよびメモリは、電位抽出部170の一部としても機能してもよい。図9には、CPUおよびメモリによって実現される構成を破線によって囲んで示している。CPUは、メモリに格納されたコンピュータプログラムを実行することにより、ある時刻においては上述の1つの構成要素として機能し、またある時刻においては見かけ上同時に複数の構成要素が機能しているように動作する。
なお、CPUとメモリはそれぞれ1つでなくてもよい。例えば、振幅包絡抽出部140、周波数分析部147、ノイズ推定部150、ノイズ減算部180、脳波判定部190および電位抽出部170の一部をなす脳波計測用のCPUおよびメモリを設けるとともに、音響出力制御部110および波形生成部120とを含むコンテンツ出力制御用のCPUおよびメモリを設け、独立に動作させてもよい。
以下では、上述の各構成要素の内部構成を説明する。たとえば図10〜図13は、CPUおよびメモリによって実現される各構成要素内部の機能ブロックを示しているが、各機能ブロックもまた、特に説明しない限りはCPUおよび/またはメモリによって実現される。各機能ブロックの具体的な動作は、後の図14、図18等を参照しながら説明する。
図10は、振幅包絡抽出部140の詳細な構成を示す。振幅包絡抽出部140は、波形切り出し部141と、全波整流処理部142と、ピーク検出部143と、ローパスフィルタ144と、メモリによって実現される切り出し時間位置記憶部145とを有している。
図11は、ノイズ推定部150の詳細な構成を示す。ノイズ推定部150は、メモリによって実現される信号ノイズ変換関数記憶部151、および、ノイズ推定処理部152を有している。
図12は、ノイズ減算部180の詳細な構成を示す。ノイズ減算部180は、電位波形切り出し部181と、ノイズ成分減算部182とを有している。
図13は、脳波判定部190の詳細な構成を示す。脳波判定部190は、α波抽出部191と、α波時間長計算部192と、判定部193と、先行状態記憶部194と、脳波切り出し部195とを有している。
図14は、脳波計測装置51の処理手順を示すフローチャートである。以下、処理手順を順に説明する。
ステップS101では、電位抽出部170は、複数の電極部160のうち、あらかじめ定められた基準電極と、その他の各計測極との電位差を求める。基準電極は、例えば、片方のマストイドに配置すればよい。
ステップS102では、波形生成部120は、音響出力制御部110が音響出力を指示しているか否かを判断する。本実施形態では、音響出力の指示は、図14の処理の実行とは独立し出されているとする。音響出力が指示されているときは、ステップS101が実行されるよりも前から波形生成部120はその指示に基づいて波形信号を生成し出力しているとする。
ステップS102において音響出力が指示されている場合(ステップS102においてYesの場合)には処理はステップS5001に進み、音響出力が指示されていない場合(ステップS102においてNoの場合)には処理はステップS111に進む。
本実施形態においては、音響信号が出力されているときにステップS101で求められた電位差には出力波形由来の低周波の電気的ノイズが混入しているものと見なす。そこで脳波計測装置51はノイズを除去するための処理として、ステップS5001、ステップS5002、ステップS108、ステップS5003を行う。
ステップS5001では、振幅包絡抽出部140は、波形生成部120で生成された出力音響信号の振幅包絡を低周波成分として抽出する。振幅包絡の抽出方法については図15を参照しながら後に詳述する。
ステップS5002では、周波数分析部147は、ステップS5001で抽出された振幅包絡の包絡線の周波数分析を行う。包絡線すなわち低周波成分(または低域成分)の瞬時周波数は、例えば、低域成分をヒルベルト変換し、瞬時角速度をサンプル点ごとに計算し、サンプリング周期に基づいて角速度を周波数に変換する、という手順で求めるものとする。
ステップS108では、ノイズ推定処理部152は、ステップS5002で求めた包絡線の瞬時周波数に対応する係数を決定する。
また、ノイズ推定処理部152は、信号ノイズ変換関数記憶部151に記憶された変換関数を利用する。図16は、変換関数の一例を示す。変換関数は、出力された音響信号の低域成分の周波数と、変換係数との対応を規定する関数である。より具体的には、変換関数は、周波数が高くなるに従って変換係数がより小さくなる(減衰する)よう、周波数と変換係数との対応を規定している。さらに変換関数は、周波数が20Hzから30Hzの間で0に収束するような変換係数を与えるよう規定されている。信号ノイズ変換関数記憶部151は、関数式として変換関数を保持していてもよいし、図16に示される周波数と変換係数との関係を、離散的に記述したテーブルを保持していてもよい。さらに、周波数を所定の帯域に分割し、各帯域単位で変換係数を割り当ててもよい。ただし、各帯域の変換係数の大きさは、図16に示す関係に準じた関係を有しているとする。本願明細書では、上述の変換関数、テーブル、各帯域単位と変換係数との関係を「変換規則」と総称する。変換規則は、周波数と変換係数とを対応させるための規則であり、記述形式は任意である。
変換関数が、20Hzから30Hzの間で0に収束することは、電気音響変換器の出力信号の周波数と脳波用電極で記録された電位の周波数成分とから実験的に確かめられた。20Hzは可聴範囲の下限周波数とされている。この変換関数は、可聴範囲あるいはそれに近い比較的高い周波数成分はノイズを発生させないが、20Hzよりも低い周波数成分は脳波用電極へのノイズとなりやすいことを示している。
さらに、これらのノイズになりやすい低い周波数はユーザの状態を知るために使用されるα波等の脳波や、認知や判断の状態を知るために使用される事象関連電位の周波数とも重なっている。このため、周波数に応じて変化し得る、電気音響変換器の出力信号由来のノイズを、図16のような変換関数を利用して正確に推定し、除去することで、ノイズに埋もれた脳波から、ノイズの無い正確な脳波のみを抽出して計測することが可能になる。これは、脳波を利用してより正確に機器の操作が可能になることを意味している。
そしてノイズ推定処理部152は、決定した係数を包絡線(低周波成分)の各値に乗じることにより、出力波形由来で発生する低周波の電気的ノイズを時間波形として推定する。
ステップS5003では、ノイズ減算部180は、ステップS108においてノイズ推定処理部152で推定されたノイズ波形を脳波から除去する。除去の方法については、図18を参照しながら後に詳述する。
図14のステップS111において、脳波判定部190は、脳波中のα波の出現頻度が減少しているか否かを判定する。この処理に利用される脳波は以下のように決定される。すなわち、現在の処理がステップS102においてNoと判定され、分岐した結果行われている場合には、脳波判定部190は、ステップS101で取得された電位差を脳波とみなして利用する。一方、現在の処理がステップS5003の処理後に行われている場合には、脳波判定部190は、ステップS5003によってノイズ波形が除去された脳波を利用する。そして、その脳波中のα波の出現頻度を評価する。
α波の出現頻度の評価方法は、たとえば以下のとおりである。
脳波切り出し部195は、あらかじめ定められた時間長の脳波波形を切り出す。α波抽出部191は脳波切り出し部195が切り出した脳波中に記録されたα波(約8Hz〜13Hz)を抽出する。α波時間長計算部192は切り出された波形中に観察されたα波の総時間長を求め、判定部193が先行状態記憶部194に記憶されている過去のα波の総時間長と比較する。判定に用いる時間長は例えば2秒間とする。ただし、判定に用いる時間長はα波の出現頻度を比較するのに十分な長さであって、ステップS103で切り出された出力波形の時間長より短ければどのような値でも良い。
α波の抽出は具体的には例えば以下のような手順で行う。まず、α波抽出部191は切り出した脳波全体の二乗平均平方根(RMS)を求める。それとは別に、α波抽出部191は切り出した脳波を200msずつの領域に分割し、領域ごとにRMSを求める。そしてα波抽出部191は、各領域のRMSのうち、切り出した脳波全体のRMSを10%以上上回るRMSを特定し、そのRMSに対応する領域を抽出する。α波抽出部191は、抽出された領域内の波形を例えばメジアンスムージング等の方法によりスムージングした後にゼロクロス点を数え、周波数を求める。この周波数が8Hzから13Hzである場合に該当する領域200msをα波が含まれる区間として抽出する。なお、上述のα波の抽出方法は一例であり、これ以外の方法で行っても良い。
ステップS112では、音響出力制御部110は出力する音響信号のボリュームを調整する。ステップS111でα波の出現頻度が減少している場合、すなわちステップS111でYesの場合、音響出力制御部110は音響出力のボリュームを下げる(ステップS112)。ステップS111でα波の出現頻度が減少していない場合、すなわちS111でNoの場合は、音響出力制御部110は音響出力に対する変更は行わない。
なお、本実施形態ではα波の出現頻度により音響出力のボリューム操作を行ったが、これ以外の操作、例えばスイッチの切断、モードの切り替え等の制御を行うものとしても良い。特に補聴器の場合は脳波により、会話に集中するモードや雑踏を聞き流すモード等を脳波により自動的に切り替える操作を行うものとしても良い。
なお図14に示す処理中は、音響信号が出力されることによってユーザの脳波(たとえば事象関連電位)の振幅や出現タイミングなどが変動し得る。しかしながらそのような脳波変動が生じても上述の処理には影響はない。図14の処理は、電気音響変換器から電極に直接重畳されるノイズを除去することを目的としており、ノイズは音響信号が出力されるのと実質的に同時に発生するためである。
次に、図14に示すステップS5001の振幅包絡の抽出方法の詳細を、図15のフローチャートおよび図17の模式図を参照しながら説明する。
図15のステップS103では、振幅包絡抽出部140内の波形切り出し部141は、ステップS102で波形生成部120により生成された波形信号から、あらかじめ定められた一定の時間長の波形信号を切り出す。波形切り出し部141は、切り出した時刻(時間位置)、例えば基点となる時刻から切り出し開始時刻までの時間長を秒単位で記述した切り出し時間情報等を切り出し時間位置記憶部145に記憶する。切り出す時間長は例えば2秒間とする。この時間長は、脳波判定時の電位波形切り出し時間長と同じか、それ以上である必要がある。切り出し時間情報は、これ以外の記述形式、例えば、基点となる時間から3秒後から5秒後のように切り出し開始時刻と切り出し終了時刻とを記述する形式でも良い。
図17の(a)は、ステップS103で切り出された音響信号の時間波形の例を示す。横軸は経過時間を示し、単位はミリセカンドである。図17の(a)は500ミリセカンドに亘る波形を示している。縦軸は各サンプル点での瞬時値すなわち、瞬時のエネルギーの相対値である。音響信号は本来は空気密度の粗密波であるため、相対値は負の値をもつ。図17では500ミリセカンドを図示したが、処理は切り出した波形の全期間に亘って行われてもよい。
図15のステップS104では、全波整流処理部142は波形切り出し部141で切り出された波形の各サンプル点での瞬時値の絶対値を求める。これにより全波整流が行われる。図17の(b)は、全波整流を行った後の波形を示す。この処理は、図17の(a)に示された音響信号の瞬時値が相対値として負の値を持つ部分について、正の側へ折り返す処理となる。全波整流は、エネルギー0の状態に対して、粗密波の「粗」への振幅と「密」への振幅を同様に取り扱うための処理である。
ステップS105では、ピーク検出部143は全波整流された波形のピークを検出する。具体的には、ピーク検出部143はステップS104で絶対値化された波形の値の時間系列である波形データ列において、隣接するデータ点との差のデータ列を求める。そして、このデータ列において符号が逆転するデータ位置に当たる全波整流処理波形のデータ列上の値をピーク位置として検出する。
図17の(c)は、図17の(b)に示した全波整流処理の結果、すなわち音響信号波形を絶対値化した値の時間系列である。円内に波形の一部が拡大して示されている。隣接するデータ点間の差を表すデータ列において符号が逆転するデータ位置は例えば、円中の×印で示した点である。ピーク検出部143はこれらの点に対応する全波整流処理波形のデータ列上の値、すなわち図17の(b)上の値を検出する。図17の(d)は抽出結果を示す。
図15のステップS106では、ピーク検出部143は図17の(d)に示す、ピーク位置のデータとその時間位置を抽出したデータ列を生成し、このデータ列を等間隔の時間間隔でリサンプルすることで波形データの包絡線信号を生成する。
図17の(e)は、(d)の波形の一部を拡大して示す。グラフ中の点線は図17の(d)に示したステップS105で抽出された値であり、白丸はリサンプルした値である。図17の(a)から(c)がサンプリング周波数44.1kHzであったのに対して、図17の(e)ではサンプリング周波数1kHzになるようリサンプルした。
図15のステップS107では、ピーク検出部143はステップS106で生成した包絡線信号をローパスフィルタ144に出力する。ローパスフィルタ144は例えばカットオフ周波数30HzのFIR(Finite Impulse Response)フィルタとする。ローパスフィルタ144を通過させることで包絡線信号のスムーシングを行うことが可能になる。ローパスフィルタ144から出力されたデータ系列を包絡線信号(振幅包絡)とする。包絡線信号は出力波形に含まれる低域成分として出力される。
図17の(e)では、白丸で示したデータ系列をローパスフィルタを通過させることにより、破線のようなデータが得られる。図17の(d)全体に対しては、図17の(f)の実線のようになる。
図17の(f)は、図17の(d)に示したステップS104で生成された全波整流処理結果のデータ系列と、ステップS107でローパスフィルタを通過したデータ系列(すなわち包絡線)とを示す。各時刻におけるデータ系列は全波整流処理結果を示しており、その値は左の縦軸(時刻0に設けられた縦軸)に付された目盛で示される。一方、(f)の実線はそのデータ系列の包絡線であり、その値は右の縦軸(時刻5000msに設けられた縦軸)に付された目盛りで示される。包絡線の値は相対値である。
次に、図14に示すステップS5003のノイズ除去の詳細を、図18のフローチャートに従って説明する。
ステップS109では、電位波形切り出し部181(図12)は、ステップS101で取得された電位波形から、出力波形由来のノイズが計算された時間区間に対応する時刻の電位波形を切り出す。ステップS101で取得された電位は、出力波形由来のノイズ、すなわちステップS108で推定された電気的ノイズを含んでいる。
電位波形切り出し部181は、電位抽出部170で取得された基準電極以外の各電極の電位波形から、ノイズ推定部150に記憶されている出力波形の切り出し時間位置の情報に基づき、出力波形と時間的に対応する電位波形を切り出す。
ステップS110では、ノイズ成分減算部182はステップS109で切り出された電位波形よりステップS108で推定された出力波形由来で発生する低周波の電気的ノイズを減算して、ノイズが除去された電位を脳波として出力する。
図19(a)は低周波ノイズが重畳したα波を含む脳波の時間波形を模式的に示す。図19(b)は、図19(a)において脳波重畳されている低周波ノイズの波形を示している。図19(a)のようにノイズが重畳した波形からはα波を明確に判別することができず、αの区間を実際より過大にあるいは過小に判断することとなる。ステップS5001からステップS108の手順によって図19(b)に示すノイズを推定し、図19(a)の波形より減算すると、図19(c)に示す波形が得られる。図19(c)の波形には10Hzの紡錘形を示す特徴的なα波が見られ、α波の区間を正確に判定することができる。
音響出力由来の低周波帯域の電気的ノイズが混入した状態においては、指標として用いる特徴的脳波成分であるα波とノイズを分離することができない。そうすると、実際にはα波が存在しないにもかかわらず、ステップS111においてノイズをα波として検出することとなり、α波の出現頻度の変化を正確に捉えることができない。このため、本実施形態の例であれば、ボリュームの調節が正しく行われないこととなる。
しかしながら、以上のように動作する脳波計測装置51は、電極に近接する電気音響変換器から出力される波形信号を分析して、電極で記録される電位に混入する低周波の電気的ノイズを推定して除去する。これにより、電極と電気音響変換器とが近接し、音響信号が電極に直接回り込んでいる場合でも、音響出力に影響されること無く脳波を計測して感情や眠気等のユーザの状態をモニタすることができる。
本実施形態の構成によれば、ウェアラブル機器の範囲内に電極と電気音響変換器とを近接して装備しても脳波によるユーザ状態のモニタが可能になる。ウェアラブル機器以外に電極を装着する必要がなくなるため、ユーザの機器装着負担を削減できる。
なお、本実施形態ではユーザ状態のモニタとしてα波の出現頻度を用いたが、これは一例である。α波とβ波とのパワー比率等を用いてもよいし、他の脳波成分による指標を用いても良い。
(実施形態2)
図20は、本実施形態による脳波計測装置52の構成図である。また図21〜図23は本実施形態における構成の一部の詳細な構成を示す。図20と図21と図22と図23に関しては、実施形態1と同様の部分には同一の記号を付し、説明を省略する。
本実施形態では、事象関連電位を用いた脳波インタフェースによりユーザの意図を取得して機器を制御する例を示す。事象関連電位を取得する際の脳波切り出し用トリガとして、本実施形態では図6に示したようなHMDを想定し、ディスプレイ上での選択肢のハイライトタイミングを用いた。
脳波計測装置52は、出力制御部210と、波形生成部120と、電気音響変換器130と、振幅包絡抽出部240と、周波数分析部147と、ノイズ推定部150と、ディスプレイ230と、電極部160と、電位抽出部170と、電位波形切り出し部260と、ノイズ減算部180と、脳波特徴抽出部270と、判別部290とを有している。
出力制御部210は、機器の出力を制御する。
波形生成部120は、出力制御部210の制御信号に従って出力する音響信号の波形を生成する。
電気音響変換器130は、波形生成部120で生成された波形信号を音響信号に変換してユーザ100に提示する。
振幅包絡抽出部240は、波形生成部120で生成された波形信号を分析して低周波成分を抽出する。
周波数分析部147は、振幅包絡抽出部240で抽出された振幅包絡の周波数を分析する。
ノイズ推定部150は、振幅包絡抽出部240で抽出された低周波成分によって発生する電気的ノイズを周波数分析部147で分析された周波数に従って推定する。
画像信号生成部220は、画像信号を生成し、出力制御部210の制御信号に従って画像信号を出力する。画像信号生成部220は、電位波形切り出し部260に切り出し時間位置情報を送信する。切り出し時間位置情報は、たとえば選択肢がハイライトされた瞬間に送信される。これは、選択肢のハイライトタイミングを示している。この切り出し時間位置情報は、事象関連電位を取得する際の脳波の切り出しに際して利用される。
ディスプレイ230は、画像を表示する。ディスプレイ230は、例えば液晶ディスプレイである。
電極部160は、ユーザ100の片側または両側の耳周辺部に装着される。
電位抽出部170は、電位データを抽出する。この電位データは、電位波形信号とも呼ぶ。
電位波形切り出し部260は、画像信号生成部220から出力された切り出し時間位置情報に従って、電位抽出部170で抽出された電位データから電位波形を切り出す。
ノイズ減算部180は、電位波形切り出し部260で切り出した電位波形に対してノイズ推定部150で推定された出力波形由来の電気的ノイズの影響を減じるノイズ対策処理を行う。
脳波特徴抽出部270は、ノイズ減算部180で処理を行った脳波から、判別に用いる脳波の特徴量を抽出する。
判別部290は、脳波特徴抽出部270で抽出された特徴量に基づきユーザの意図の判別を行う。
これらの構成要素のうち、波形生成部120、振幅包絡抽出部240、周波数分析部147、ノイズ推定部150、ノイズ減算部180、出力制御部210、画像信号生成部210、電位波形切り出し部250、脳波特徴抽出部270、判別部290、および、電位抽出部170の一部はCPUとメモリによって実現される。
図21は、振幅包絡抽出部240の詳細な構成を示す。振幅包絡抽出部240は波形切り出し部241と、ウェーブレット変換部242と、低周波成分抽出部243と、ウェーブレット逆変換部244とを有している。
図22は、脳波特徴抽出部270の詳細な構成を示す。脳波特徴抽出部270は、脳波切り出し部195と、ウェーブレット変換部271と、特徴成分抽出部272とを有している。
脳波特徴抽出部270は、脳波波形に含まれる成分を抽出する。抽出された成分のデータは、判別部290における、事象関連電位のP300成分が含まれているか否かを判定するための処理のために利用される。
ここで、本実施形態における「事象関連電位のP300成分」とは、たとえばメニューの項目がハイライトされた時刻を起点に、潜時約300ms後の脳波成分に出現する、特徴的な陽性の成分をいう。
脳波切り出し部195は、計測に必要な時間範囲の電位波形を切り出す。具体的には例えば、ハイライトタイミングの−100ミリ秒〜600ミリ秒の区間を切り出す。
ウェーブレット変換部271は、切り出された連続的な脳波波形をウェーブレット変換によって時間周波数分解する。特徴成分抽出部272は、時間周波数分解されたデータから、必要な時間帯および周波数帯を特徴成分として抽出し、判別部290に送信する。たとえば、メニューの項目がハイライトされた時刻を起点とした、200ms〜400ms(300±100ms)の時間帯である。
図23は、判別部290の詳細な構成を示す。判別部290は特徴量比較部291と、判別基準データベース292とを有している。
判別基準データベース292は、たとえばメモリ上に構築されている。判別基準データベース292には、上述した典型的なP300成分を含む脳波波形をウェーブレット変換することによって得られた特徴成分のデータと、P300成分を含まない脳波波形をウェーブレット変換することによって得られた特徴成分のデータとが、予め格納されている。これらをそれぞれ「基準データ」とも呼ぶ。
特徴量比較部291は、特徴成分抽出部272から受信した特徴成分と、判別基準データベース292に格納されている基準データとを比較して類似度を算出する。そして、算出したその類似度に応じて、受信した特徴成分が、P300の特徴成分を含有するデータに近いか、P300の特徴成分を含有しないデータに近いかを判別する。
図24は、本実施形態の脳波計測装置52の処理の手順を示すフローチャートである。以下、図24を参照しながら、脳波計測装置52の動作を説明する。
ステップS101では電位抽出部170は、電極部160の電極中であらかじめ定められた1つの基準電極とおのおのの計測極との電位差を求める。基準電極は例えば片方のマストイドとする。
ステップS201では電位波形切り出し部260は、出力制御部210が事象関連電位計測のトリガとなる情報提示を指示しているか否かを判断する。トリガとなる情報提示は、具体的には、例えば、ディスプレイ上に画像として表示されているメニューリストの1項目をハイライトしてユーザの注目を促す画像の生成を画像信号生成部220に指示することである。
図25(a)〜(d)は、脳波インタフェースを用いてメニューを選択する際のメニューリストの画面表示例である。メニューリストは例えば図25の(a)から(d)に示すように、選択可能なメニュー(図25の例では「野球」「天気予報」「アニメ」「ニュース」を列挙した画面)の表示中に、1項目のみをハイライトする。(a)から(d)は順に、「野球」、「天気予報」、「アニメ」、「ニュース」の各項目がハイライトされている例を示す。例えば(a)では「野球」がハイライト表示され、他の3項目はハイライトされていない。
画像信号生成部220は画像の生成指示に基づいて画像情報を生成し、さらにトリガタイミング(本実施形態の具体例では選択肢のハイライトタイミング)を電位波形切り出し部260と振幅包絡抽出部240へ出力する。
ステップS202では、電位波形切り出し部260はステップS201で設定されたハイライトタイミングを基準にして、電位抽出部170で抽出された電位波形から計測に必要な時間範囲の電位波形を切り出す。たとえば電位波形切り出し部260は、例えば、ハイライトタイミングの−100ミリ秒〜600ミリ秒の区間を切り出せばよい。
ステップS102では音響出力制御部110からの音響出力指示があるか否かを判断する。
ステップS102において音響出力指示がある場合、すなわちステップS102においてYesの場合、処理はステップS1000に進む。ステップS1000では、ステップS101で取得され、ステップS202で切り出された電位差には出力波形由来の低周波の電気的ノイズが混入しているものと見なして、ノイズ除去処理が行われる。
一方、ステップS102において音響出力指示がない場合、すなわちステップS102においてNoの場合、処理はステップS203に進む。ステップS203では、ステップS101で取得され、ステップS202で切り出された電位波形を脳波(事象関連電位)と見なし、ノイズ除去処理は行われない。
図26は、ステップS1000の詳細を示す。ステップS1000は、本実施形態のフローチャートの出力波形由来の電気的ノイズを除去するために実行される。
ステップS1000は図26に示したS1001からS1006に示す手順で行われる。
ステップS1001で波形切り出し部241は画像信号生成部220から出力されたハイライトタイミングを基準にして波形生成部120で生成された波形信号から脳波の計測時間範囲に対応する波形信号を切り出す。具体的にはステップS202で切り出した電位波形の時間範囲と一致する時間に出力された波形、あるいは一致する時間に出力された波形を含む時間範囲の出力波形信号を切り出す。
ステップS1002ではウェーブレット変換部242はステップS1001で切り出された波形をウェーブレット変換し周波数成分ごとの帯域に分解する。
ステップS1003では低周波成分抽出部243は30Hz以下の成分を抽出する。このとき抽出された成分は、時間周波数領域で表現された低周波成分である。この低周波成分が振幅包絡の成分を含む。
ステップS1004ではウェーブレット逆変換部244はステップS1003で抽出された低周波成分のウェーブレット逆変換を行い、抽出した低周波成分の時間波形を生成する。この処理により、波形生成部120で生成された出力信号の振幅包絡を時間波形として抽出できる。なお、ウェーブレット逆変換はウェーブレット変換の逆の処理であり、時間周波数分解されたデータを、時間領域の波形のデータに戻す処理である。この処理は周知であるため、詳細な説明は省略する。
ステップS5002では、周波数分析部147は、ステップS5001で抽出された振幅包絡の包絡線の周波数分析を行う。包絡線すなわち低周波成分(または低域成分)の瞬時周波数は、例えば、低域成分をヒルベルト変換し、瞬時角速度をサンプル点ごとに計算し、サンプリング周期に基づいて角速度を周波数に変換する、という手順で求めるものとする。あるいは、ステップS1002で行ったウェーブレット変換によるウェーブレット係数を用い、ステップS1003で抽出した低周波成分のうち、サンプル点ごとにエネルギーが最も大きい周波数を振幅包絡の周波数とするとしてもよい。
ステップS1005ではステップS1004で生成された波形に基づいて、ノイズ推定部150は実施形態1のステップS108と同様、出力波形に由来して発生する低周波の電気的ノイズを時間波形として推定する。ノイズ推定処理部152は信号ノイズ変換関数記憶部に記憶された変換関数より、低周波成分の時間波形の瞬時周波数に対応する係数を決定する。そして、その係数を低周波成分の時間波形の各値に乗じて出力波形由来で発生する低周波の電気的ノイズを時間波形として推定する。
ステップS1006ではノイズ成分減算部182はステップS202で切り出された電位波形から、ステップS1005で推定された出力波形由来で発生する低周波の電気的ノイズを減算して、ノイズが除去された電位を脳波として出力する。
ステップS203ではウェーブレット変換部271はステップS202で切り出された事象関連電位、あるいはステップS202で切り出され、ステップS1000でノイズ除去処理を施された事象関連電位を、ウェーブレット変換する。これにより事象関連電位に対して時間周波数分解が行われる。脳波を時間と周波数の特徴量に詳細化することで、選択時の脳波の特徴信号の発生時間帯や周波数帯を選び出して抽出することが可能になる。
ステップS204では、特徴成分抽出部272はステップS203のウェーブレット変換の結果より、脳波特徴信号に関する領域のみを切り出す。具体的には、例えば周波数5Hz以下の領域を切り出す。これにより、事象関連電位の主要な成分であるP300の周波数帯域を抽出するとともに、主に5Hz以上の周波数帯で記録される眼電や筋電を除去することができる。
特徴成分抽出部272は、ハイライト後200msから400msの区間の情報を脳波特徴成分として切り出す。すなわち本実施形態の例では周波数5Hz以下の200msから400msの領域に含まれるデータサンプル点を抽出する。これは、P300がトリガから約300ms経過後に観察される電位変化だからである。
ステップS205では、特徴成分抽出部272は、ステップS204で抽出されたデータサンプル点を脳波特徴成分として1つのデータに組み合わせ、脳波特徴量とする。
ステップS206では、判別部290の特徴量比較部291は、ステップS205で生成された特徴量と判別基準データベース292に蓄積された基準データとの類似度を求め、計測された事象関連電位がハイライト項目を選択する意図に対応するものか、ハイライト項目を選択しない意図に対応するものかを判断する。
判別基準データベース292に蓄積された基準データは、予め用意された脳波特徴量である。本願発明者らは、基準データを以下のようにして得た。まず、あらかじめ複数人のユーザに、複数の項目のうちのどの項目(選択肢)を選択するか事前に明らかにしてもらう。その上で、実際に脳波インタフェースを利用する際と同様の電極位置において脳波インタフェース実験を実施する。そして、複数の項目を順にハイライトさせて頭の中で選択してもらい、その際の脳波(事象関連電位)を計測する。 記録した事象関連電位データを上記のステップS203からS205と同様にウェーブレット変換し、周波数5Hz以下で200msから400msの脳波特徴領域のサンプル点を抽出して結合することにより、脳波特徴量が得られる。この脳波特徴量を選択したい項目に対するものと選択したくない(選択していない)項目に分類し、脳波特徴量と対応づけて得られたデータが基準データである。判別基準データベース292はこのようにして得られた基準データを保持する。
なお、基準データを上記のように不特定の複数人の脳波をもとに作成してもよい。または、脳波インタフェースを利用するユーザ100に対し、上記と同様あらかじめ学習作業を実施し、ユーザ100の脳波を利用した基準データを作成してもよい。
特徴量比較部291はステップS205で生成された脳波特徴量が、選択したい項目がハイライトされた場合の波形とどれだけ類似しているかを表す類似度の算出を行う。具体的には特徴量比較部291は、判別基準データベース292に蓄積された基準データを、選択したい場合の波形(正解波形)と選択したくない場合の波形(不正解波形)の2つの群に分類する。そして、特徴量比較部291は、計測された脳波特徴量と、正解波形群、不正解波形群の脳波特徴量との距離を計算することにより、正解波形群との類似度を算出する。本実施形態では、類似度の計算方法として、線形判別手法を利用し、ステップS205で得られた特徴量が正解波形群あるいは不正解波形群に属する事後確率を類似度とする。
なお、上述の類似度の計算方法は一例である。他の計算方法として、サポートベクターマシンやニューラルネットなどの手法を用いてもよい。これらの手法では、正解波形群、不正解波形群をわける境界線から、計測された脳波特徴量がどれだけ正解波形群に近いか(境界線からの距離)が算出される。これにより、脳波特徴量と正解波形群との類似度を算出してもよい。
ステップS207では特徴量比較部291はステップS206で求めた正解波形群との類似度と不正解波形群との類似度とを比較する。特徴量比較部291は、正解波形群との類似度が不正解波形群との類似度より大きく、かつ正解波形群との類似度があらかじめ定められた閾値以上であり、不正解波形群との類似度があらかじめ定められた閾値以下である場合に、計測された事象関連電位がハイライト表示された項目を選択する意図を示すと判断する。あらかじめ定められた閾値は、例えば正解波形群との類似度については0.7以上であり、不正解波形群との類似度については0.3以下であるとする。
なお、本実施形態ではハイライト1回ごとに選択意図の判定を行った。しかしながら、全選択肢のハイライトを行い、各選択肢のハイライトに対する事象関連電位を取得したのちに、正解波形群との類似度が最も高かった選択肢がユーザが意図した選択肢と判断しても良い。例えば図25の(a)から(d)の4つの表示とそれに伴う事象関連電位の取得を行ったのち、各選択肢に対する事象関連電位の類似度を比較して、正解波形群との類似度が最も高かった選択肢を採用する。各選択肢のハイライトは複数回であってもよく、その際には選択肢ごとに加算平均波形を生成して、正解波形群との類似度を求める方法でも良い。また、各選択肢の複数回のハイライトについて、ハイライトごとに正解波形群との類似度を求め、複数回のハイライトでの平均あるいは中央値等の代表値を用いて選択肢間の正解波形群との類似度比較を行っても良い。
ステップS207では、類似度が正解波形群との類似度が不正解波形群との類似度より大きく、かつ正解波形群との類似度があらかじめ定められた閾値以上であり、不正解波形群との類似度があらかじめ定められた閾値以下であるか否かが判定される。その両方の条件を満たすとき、すなわちステップS207においてYesの場合は、出力制御部210は、ステップS208でハイライトされた項目が選択されたものとして、その項目を実行する。具体的には、例えば、再生していた楽曲の出力を停止して、メニューリストにハイライト提示された楽曲の再生を開始する。
一方、ステップS207において、上述したいずれかの条件が満たされないとき、すなわちステップS207においてNoの場合は動作を終了する。
以上のように脳波計測装置52は、電極に近接する電気音響変換器から出力される波形信号を分析して、電極で記録される電位に混入する低周波の電気的ノイズを推定して除去する。これにより、電極に電気音響変換器が近接している場合でも音響出力に影響されること無く脳波を計測して脳波インタフェースとして利用することができる。その結果、ウェアラブル機器の範囲内に電極と電気音響変換器とを近接して装備しても脳波インタフェースの利用が可能になり、ウェアラブル機器以外に電極を装着する必要がなくなるため、ユーザの機器装着負担を削減できる。
また、画像信号生成部220は、選択肢がハイライトされた時点で切り出し時間位置情報を出力するとしたが、これは一例である。画像信号生成部220は、ハイライトされた後に、そのハイライト時刻を示す情報を切り出し時間位置情報として出力してもよい。このとき、振幅包絡抽出部240や電位波形切り出し部260の各々が、出力波形信号および電位波形信号から必要な波形を切り出す時間帯を判断してもよい。
また、ステップS203において、振幅包絡抽出部240はウェーブレット変換を行うとして説明した。しかしながら、振幅包絡抽出部240はフーリエ変換を行ってもよい。このとき、図21のウェーブレット変換部242およびウェーブレット逆変換部244はそれぞれ、フーリエ変換を行うフーリエ変換部およびフーリエ逆変換を行うフーリエ逆変換部と読み替えればよい。
(実施形態2の第1の変形例)
実施形態2においては脳波計測のための出力としてディスプレイ230による画像出力を用いるとした。しかしながら、触覚への力覚提示、鼻への匂い物質の噴霧による嗅覚提示、舌への味物質提示による味覚提示等の、視覚以外の感覚への信号提示でも良い。
たとえば、ディスプレイ230ではなく音響信号の出力をトリガに用いることもできる。この場合、例えば、図2に示したようなヘッドホンを利用する音楽プレーヤーでは、提示楽曲を次々と切り替えるような、楽曲のザッピングにおける楽曲の切り替えタイミングをトリガに用いることができる。図27を参照しながら、このような実施例にかかる脳波計測装置の構成を説明する。
図27は、本実施形態の第1の変形例にかかる、脳波計測装置57の構成図である。脳波計測装置57は、実施形態1と同様の電気音響変換器130を利用して複数の楽曲を提示し、楽曲が切り替わるタイミングをトリガとして脳波を切り出し、事象関連電位を取得する。脳波計測装置57は、楽曲のみで脳波を切り出すタイミングを決定するため、実施形態2にかかる脳波計測装置52(図20)に設けられていたディスプレイ230を有していなくてもよい。脳波計測装置57の構成要素のうち、たとえば脳波計測装置52(図20)と同じ機能を有する構成要素には、同じ参照符号を付している。そして共通する構成要素の説明は省略する。なお、破線で囲まれた構成要素は、CPUおよび/またはメモリによって実現され得る。
本変形例にかかる脳波計測装置57の処理は、概ね、図24および図26に示す処理を実行する。相違点は、楽曲が切り替わるタイミングをトリガとして採用することに関連する処理のみである。以下、その一例を説明する。
図27に示すように、波形生成部121は出力波形を生成するとともに、楽曲の切り替えタイミングを、電位波形切り出し部260と振幅包絡抽出部240へ出力する。この処理は、先に説明した実施形態2における、画像信号生成部220がハイライトタイミングを出力する処理(図24のステップS201)に対応する。
ステップS202では、電位波形切り出し部260は波形生成部121が出力した楽曲切り替えタイミングを基準にして電位抽出部170で抽出された電位波形から計測に必要な時間範囲の電位波形を切り出す。また、波形切り出し部241は画像信号生成部220から出力されたハイライトタイミングに替わって、波形生成部121が出力した楽曲切り替えタイミングを取得する。
ステップS1001で波形切り出し部241は楽曲切り替えタイミングを基準にして波形生成部120で生成された波形信号からステップS202で切り出した電位波形の時間範囲と一致する時間に出力された波形を切り出す。あるいは波形切り出し部241は、一致する時間に出力された波形を含む時間範囲の出力波形信号を切り出す。この処理によれば、音楽プレーヤーのようにディスプレイのないウェアラブル機器においても実施形態2と同様の脳波インタフェースが構成できる。
なお、本実施形態において脳波特徴抽出部270はステップS203においてウェーブレットによる時間周波数分解を用いた。しかしながら、それ以外の方法、例えばフーリエ変換を用いた時間周波数分解を用いる方法や脳波成分のピーク抽出による潜時と振幅を用いる方法を採用しても良い。
(実施形態2の第2の変形例)
次に、上述の本実施形態にかかる脳波計測装置の第2の変形例を説明する。本変形例ではディスプレイを利用した視覚刺激をトリガとして採用するが、実施形態2にかかる処理とは異なる処理を行う。
図28は、本実施形態の第2の変形例にかかる、脳波計測装置53の構成図である。
先の実施形態2と同様、本変形例においても、事象関連電位を用いた脳波インタフェースによりユーザの意図を取得して機器を制御するとして説明する。
本例では、事象関連電位を取得する際の脳波切り出し用トリガとして、本実施形態では図6に示したようなHMDを想定し、ディスプレイ上での選択肢のハイライトタイミングを用いた。
本例による脳波計測装置53では、実施形態2の脳波計測装置52に設けられた振幅包絡抽出部240に代えて帯域成分分析部340が設けられている。また、ノイズ推定部150に代えてノイズ推定部350が設けられている。それ以外は同一の構成である。破線で囲まれた構成要素が、CPUおよび/またはメモリによって実現され得る点も同じである。
帯域成分分析部340およびノイズ推定部350は、CPUとメモリにより実現される。これは、実施形態2における振幅包絡抽出部240とノイズ推定部150と同様である。
脳波計測装置53は、出力制御部210と、波形生成部120と、電気音響変換器130と、帯域成分分析部340と、ノイズ推定部350と、画像信号生成部220と、ディスプレイ230と、電極部160と、電位抽出部170と、電位波形切り出し部260と、ノイズ減算部180と、脳波特徴抽出部270と、判別部290とを有している。
帯域成分分析部340は、波形生成部120で生成された波形信号を分析して帯域ごとの成分に分解する。
図29は、帯域成分分析部340の詳細な構成を示す。帯域成分分析部340は波形切り出し部241と、ウェーブレット変換部242と、帯域成分分割部343とを有している。
図28のノイズ推定部350は、帯域成分分析部340で生成された帯域ごとの成分に対して、帯域ごとに電気的ノイズの成分を計算した後に帯域ごとの成分を結合して波形を生成することで電気的ノイズを推定する。
図30は、ノイズ推定部350の詳細な構成を示す。ノイズ推定部350は帯域成分計算部351と、信号ノイズ変換係数テーブルと352と、ウェーブレット逆変換部353とを有している。ノイズ推定部350に含まれる信号ノイズ変換係数テーブル352はメモリによって実現される。
帯域成分分析部340およびノイズ推定部350の各構成要素の説明を兼ねて、以下、図31を参照しながら脳波計測装置53の処理を説明する。なお、図28〜図30に関しては、実施形態2と同一の部分には同一の記号を付し、説明を省略する。
本変形例にかかる脳波計測装置52の動作は、ステップS1000を除いて図24と同じである。本変形例においても、選択肢のハイライトタイミングをトリガ情報の一例として利用する。
さらにステップS1000についても、図26のステップS1003からステップS1005の動作がステップS2003からステップS2006の動作に入れ替わった以外は、実施形態2の処理手順と同様である。よって他の動作については適宜説明を省略する。
図31は、本変形例にかかる脳波計測装置53における、ステップS1000の処理手順を示すフローチャートである。本変形例においても、ステップS1000の処理は、出力波形由来の電気的ノイズを除去するために実行される。
ステップS2003では帯域成分分割部343は、ステップS1002で分解された周波数ごとの成分を帯域ごとに分割する。具体的には例えば一例として図32に示すように、0Hz〜2Hz、2Hz〜4Hz、4Hz〜8Hz、8Hz〜16Hz、16Hz〜32Hz、32Hz以上の6帯域に分割する。
ステップS2004では、図30に示すように、帯域成分計算部351は、信号ノイズ変換係数テーブル352を参照し、ステップS2003で生成した出力波形の周波数帯域ごとの成分のパワーに対応した変換係数を決定する。図32は、信号ノイズ変換係数テーブル352の一例を示す。図32によれば、帯域およびパワー(単位:dB)に応じた係数が設定されていることが理解される。
さらに帯域成分計算部351は、決定した変換係数を出力波形の帯域ごとの成分のデータに乗算して、電気的ノイズの帯域ごとの成分を求める。出力波形の帯域成分のパワーは、具体的には、例えば、入力限界値を90dBとする基準値に対する比としてデシベル表示するものとする。信号ノイズ変換係数テーブルは実施形態1の図16に例示したような信号ノイズ変換関数をもとに作られるが、信号からノイズへの変換比率については、電極と電気音響変換器との距離等、信号の帯域成分以外の要因も加わるため、実測によって決定されるべきである。
ステップS2005では、ウェーブレット逆変換部353は、ステップS2004で求めた帯域ごとの成分を結合してウェーブレット逆変換を行い、推定される電気的ノイズの時間波形を生成する。
以上の処理により、最後のステップS1006においてノイズ成分減算部182がステップS202で切り出された電位波形よりステップS2005で推定された出力波形由来で発生する電気的ノイズを減算して、ノイズが除去した電位を脳波として出力する。
続くステップS203〜S208(図24)までの処理は、原則として実施形態2と概ね同じである。ステップS204の処理が一部異なっている点が相違する。
ステップS204では、特徴成分抽出部272はステップS203のウェーブレット変換の結果より、脳波特徴信号に関する領域のみを切り出す。具体的には、特徴成分抽出部272は、例えばP300成分の特徴を抽出するために周波数5Hz以下の200msから400msの領域に含まれるデータサンプル点を抽出する。その後のステップS205以降は、実施形態2の説明と同じである。
以上のように、実施形態2の変形例にかかる脳波計測装置53によれば、実施形態2にかかる脳波計測装置52と同じ効果が得られる。
(実施形態3)
図33は、本実施形態3による脳波計測装置54の構成図である。実施形態2の変形例にかかる脳波計測装置53と比較すると、本実施形態による脳波計測装置54では、実施形態2の変形例におけるノイズ推定部350が除去されている。また、ノイズ減算部180に代えて判別基準設定部480が設けられ、判別部390に代えて判別部490が設けられている。それ以外は本実施形態にかかる脳波計測装置54の構成は、実施形態2の変形例にかかる脳波計測装置53の構成と同じである。破線で囲まれた構成要素が、CPUおよび/またはメモリによって実現され得る点も同じである。
先の本実施形態と同様、本実施形態においても、事象関連電位を用いた脳波インタフェースによりユーザの意図を取得して機器を制御する例を示す。
判別基準設定部480および判別部490は、CPUおよびメモリによって実現される。これは実施形態2の変形例にかかる脳波計測装置53のノイズ減算部180および判別部390と同様である。
本実施形態3では、実施形態2同様、事象関連電位を用いた脳波インタフェースによりユーザの意図を取得して機器を制御する例を示す。事象関連電位を取得する際の脳波切り出し用トリガとして、本実施形態では図6に示したようなHMDを想定し、ディスプレイ上での選択肢のハイライトタイミングを用いた。
脳波計測装置54は、出力制御部210と、波形生成部120と、電気音響変換器130と、帯域成分分析部340と、判別基準設定部480と、画像信号生成部220と、ディスプレイ230と、電極部160と、電位抽出部170と、電位波形切り出し部260と、脳波特徴抽出部270と、判別部490とを有している。
判別基準設定部480は、帯域成分分析部340で生成された帯域ごとの成分に対して、脳波判定時の判定基準を設定する。
判別部490は、判別基準設定部480で設定された判別基準に従って脳波特徴抽出部270で抽出された脳波の特徴量からユーザの意図を判別する。
図34は、判別基準設定部480の詳細を示す。判別基準設定部480は帯域別判別基準設定部481と判別基準変更テーブル482とを有している。
図35は、判別部490の詳細を示す。判別部490は特徴量比較部491と、判別基準データベース292とを有している。なお、判別基準データベース292はメモリによって実現される。
判別基準設定部480および判別部490の各構成要素の説明を兼ねて、以下図36を参照しながら脳波計測装置54の処理を説明する。なお図33〜図35に関しては、実施形態2の変形例と同一の部分には同一の記号を付し、説明を省略する。
図36は、本実施形態による脳波計測装置54の処理手順を示すフローチャートである。ステップS1000がステップS3000に置き換わり、ステップS207がステップS307に入れ替わった以外は実施形態2と同様であるので、それ以外の動作については適宜説明を省略する。
ステップS102において音響出力指示がある場合、ステップS3000で出力波形に基づく判別基準の設定を行う。ステップS102において音響出力指示がない場合、出力波形の脳波への影響がないものとみなして判別基準の設定を行わない。
図37は、脳波計測装置54における、ステップS3000の処理手順を示すフローチャートである。この処理により、判別基準が設定される。
まずステップS1001およびS1002は、実施形態2の説明と同じである。
一方、ステップS2003では帯域成分分割部343はステップS1002で分解された周波数ごとの成分を帯域ごとに分割する。具体的には例えば、0Hz〜2Hz、2Hz〜4Hz、4Hz〜8Hz、8Hz〜16Hz、16Hz〜32Hz、32Hz以上の6帯域に分割する。音声や音楽のような音響信号の周波数成分は同一話者内あるいは同一楽曲内であっても時々刻々と変化しており、したがって出力波形由来の電気的ノイズも時々刻々変化する。
図38は、出力波形の帯域成分により判別基準を設定した場合の一例を模式的に示す。図38中の帯域ごとの網かけ部分は出力波形の低周波数領域における帯域成分の時間変化を模式的に示す。図38では周波数帯域ごとのパワーは、例えば、入力限界値を90dBとする基準値に対する比のデシベル表示とした。パワーは、例えば4つのうちのいずれかに分類される。具体的には、パワーの分類の一例は、10dB未満、10dB以上20dB未満、20dB以上30dB未満、30dB以上の4つである。なお、この分類数は、後述する判別基準変更テーブル482との関係で後述する。
帯域ごとのパワーはそれぞれに時間軸上で変化している。例えば、図38中では、2Hz以下では0から400msの時間でパワーが大きく、400ms以降ではパワーがやや下がっている。これとは逆に16Hzから32Hzでは0から450ms付近まではパワーはさほど大きくないが、450ms付近から以降はパワーが大きくなっている。このような変化に伴って出力波形由来の電気的ノイズが時々刻々変化する中で、取得された脳波を正しく判断するために、判別基準をノイズの状況に従って変化させる必要がある。
ステップS3004では帯域別判別基準設定部481は判別基準変更テーブル482を参照する。具体的には、帯域別判別基準設定部481は、出力波形が周波数帯域ごとに時間変動する状況に対応して定められた判別基準に対し、脳波インタフェースとして使用する脳波成分の時間周波数範囲が含まれる時間周波数範囲の判別基準を参照する。例えば、図38に示すように本実施形態では脳波成分P300の時間周波数範囲200msから500msで、4Hz以下の範囲が含まれる時間周波数範囲を参照する。
図39は、判別基準変更テーブル482の一例を示す。帯域別判別基準設定部481はこの判別基準変更テーブル482を利用して、出力波形の周波数帯域ごとの成分のパワーに対応した判別基準を設定する。図39に示したように、パワーを例えば10dB未満、10dB以上20dB未満、20dB以上30dB未満、30dB以上の4つのうちのいずれかに分割して、帯域ごとに正解波形群との類似度の下限と不正解波形群との類似度の上限とを設定する。
実施形態2のステップS207では類似度の判断閾値は固定であった。しかしながら、本実施形態では判断閾値は正解波形群との類似度と不正解波形群との類似度との組み合わせであり、出力波形の周波数帯域ごとに組み合わせが設定される。
上述の図39に開示された判断閾値のテーブルは、正解波形群との類似度の下限と不正解波形群との類似度の上限を示している。さらに判断閾値は帯域ごとに時々刻々と変化する出力波形の周波数帯域ごとのパワーに対応して動的に設定される。
例えば、図38に示した周波数帯域ごとのパワーの時間変化に対して、2Hz以下の帯域の0から400msの区間では30dB以上のパワーがある。そのため、図39を参照して「正解波形群との類似度が0.8以上で不正解波形群との類似度が0.1以下」の条件を満たす事象関連電位をユーザの選択の意思が反映されたものと見なす。各帯域に対して同様に時間区間ごとのパワーに応じて判別基準を設定する。判別すべき事象関連電位によって、判別に利用する周波数帯域と時間が異なるため、各帯域の時間ごとの判別基準が用意されることにより、様々な事象関連電位に対応することができる。
なお、本実施形態3では出力波形の帯域成分に対して、上記のようにパワーと周波数を分割し、判別基準変更テーブル482に記憶されたあらかじめ定められた判別基準値を参照して判別基準値を設定した。しかしながら、周波数とパワーの関係を関数として保持しておき、関数を利用して判別基準値を設定する等、出力波形の帯域成分に応じた判別基準を設定する等のこれ以外の方法により判別基準値を設定しても良い。
続くステップS203〜S206(図24)までの処理は、原則として実施形態2またはその変形例と概ね同じである。ステップS204の処理が一部異なっている点が相違する。
ステップS204では、特徴成分抽出部272はステップS203のウェーブレット変換の結果より、脳波特徴信号に関する領域のみを切り出す。具体的には、例えばP300成分の特徴を抽出するために周波数4Hz以下の200msから400msの領域に含まれるデータサンプル点を抽出する。その後のステップS205以降は、実施形態2の説明と同じである。
ステップS307では特徴量比較部491はステップS206で求めた正解波形群との類似度と不正解波形群との類似度とを比較する。特徴量比較部491は、正解波形群との類似度が不正解波形群との類似度より大きく、かつ正解波形群との類似度がステップS3004で定められた値以上であり、不正解波形群との類似度がステップS3004で定められた値以下である場合に、計測された事象関連電位がステップS208でハイライト表示された項目を選択する意図を示すと判断する。あらかじめ定められた値は、例えば正解波形群との類似度については0.7以上であり、不正解波形群との類似度については0.3以下であるとする。
上述の条件を満たすとき(ステップS307でYesのとき)は、出力制御部210は、ステップS208でハイライトされた項目が選択されたものとして、その項目を実行する。具体的には、出力制御部210は、例えば、再生していた楽曲の出力を停止して、メニューリストにハイライト提示された楽曲の再生を開始する。
一方、ステップS307において、上述したいずれかの条件が満たされないとき、すなわちステップS307においてNoの場合は動作を終了する。
なお、本実施形態3ではステップS3000では32Hz以下のすべての時間周波数範囲に対して判別基準の設定を行った。しかしながら、判別に用いる脳波成分に対応する時間周波数範囲、本実施形態ではP300に対応する200msから500msで、4Hz以下の範囲のみについて判別基準を設定するものとしても良い。
以上のように動作する脳波計測装置54では、電極に近接する電気音響変換器から出力される波形信号を分析して、電極で記録される電位への影響を考慮した判別基準を設定する。これにより、電極に電気音響変換器が近接している場合でも音響出力に影響されること無く脳波を計測して脳波インタフェースとして利用することができる。その結果、ウェアラブル機器の範囲内に電極と電気音響変換器とを近接して装備しても脳波インタフェースの利用が可能になり、ウェアラブル機器以外に電極を装着する必要がなくなるため、ユーザの機器装着負担を削減できる。
(実施形態3の変形例)
次に、上述の本実施形態にかかる脳波計測装置の変形例を説明する。
図40は、本実施形態の変形例にかかる、脳波計測装置55の構成図である。
本変形例においても、実施形態3同様、事象関連電位を用いた脳波インタフェースによりユーザの意図を取得して機器を制御する例を示す。
本例では、事象関連電位を取得する際の脳波切り出し用トリガとして、本実施形態では図6に示したようなHMDを想定し、ディスプレイ上での選択肢のハイライトタイミングを用いた。
本例による脳波計測装置55では、実施形態3の脳波特徴抽出部470が除去されている。また、帯域成分分析部340に代えて振幅包絡抽出部540と周波数分析部147とノイズ振幅計算部510が設けられ、判別基準設定部480に代えて判別基準設定部580が設けられ、判別部490に代えて判別部590が設けられている。それ以外は同一の構成である。
振幅包絡抽出部540、ノイズ振幅計算部510、判別基準設定部480および判別部590は、CPUとメモリによって実現される。これは実施形態3の帯域分析部340、判別基準設定部480および判別部490と同様である。
脳波計測装置55は、出力制御部210と、波形生成部120と、電気音響変換器130と、振幅包絡抽出部540と、周波数分析部147と、ノイズ振幅推定部510と、判別基準設定部580と、画像信号生成部220と、ディスプレイ230と、電極部160と、電位抽出部170と、電位波形切り出し部260と、判別部590を有している。これまでの実施形態と同様、破線で囲まれた構成要素は、CPUおよび/またはメモリによって実現され得る。
振幅包絡抽出部540は、実施形態1の振幅包絡抽出部140から波形切り出し部141および切り出し時間位置記憶部145を除去して構成されている。振幅包絡抽出部540は、波形生成部120で生成された波形信号を分析して振幅包絡を抽出する。
周波数分析部147は、振幅包絡抽出部140で抽出された振幅包絡の周波数を求める。
ノイズ振幅推定部510は、周波数分析部147で求められた振幅包絡の周波数に基づいて、振幅包絡抽出部540で抽出された出力音響信号に含まれる低周波成分波形に基づき、電極部160で計測される電位に混入するノイズ波形の振幅を計算する。
判別基準設定部580は、ノイズ振幅推定部510で計算されたノイズ波形の振幅の大きさにより、脳波判定時の判定基準を設定する。
図41は、判別基準設定部580の詳細な構成を示す。
判別基準設定部580は線形判別基準設定部581と判別基準変更テーブル582とを有している。
判別部590は、判別基準設定部580で設定された判別基準に従って電位波形切り出し部260で切り出された脳波波形からユーザの意図を判別する。
図42は、判別部590の詳細な構成を示す。
判別部590は波形比較部591と、判別式パラメータ592とを有しているからなる。なお、判別式パラメータ592はメモリによって実現される。
判別基準設定部580および判別部590の各構成要素の説明を兼ねて、以下図43を参照しながら脳波計測装置53の処理を説明する。なお、図40〜図42に関しては、実施形態3と同一の部分には同一の記号を付し、説明を省略する。
図43は、本実施形態の変形例による脳波計測装置54の処理手順を示すフローチャートである。図36のステップS3000がステップS4000に置き換わり、ステップS203からステップS206がステップS501に入れ替わり、ステップS207がステップS502に入れ替わった以外は実施形態3と同様であるので、それ以外の動作については適宜説明を省略する。
ステップS102において音響出力指示がある場合、判別基準設定部580は、ステップS4000で出力波形に基づく判別基準の設定を行う。判別基準の設定の詳細については後述する。ステップS102において音響出力指示がない場合、出力波形の脳波への影響がないものとみなして判別基準の設定を行わない。
ステップS501では波形比較部591はステップS202で切り出された事象関連電位の波形と正解波形群、不正解波形群との類似度をそれぞれに求める。本例では、類似度をあらかじめ求め、波形比較部591は判別式パラメータ592に格納された線形判別式に波形データを当てはめる。これにより判別スコアが求められ、類似度が計算されるとする。
ただし、この計算方法以外であってもよく、あらかじめ記録された波形データを保持し、個別の波形間の差の総和としての距離を求める等を用いても良い。
線形判別式は、例えば以下のように求められる。まず波形比較部591は、あらかじめ計測された複数の正解波形と不正解波形の事象関連電位について、トリガを基点にして0ミリ秒から600ミリ秒の範囲を20ミリ秒の区間に分割する。そして、波形比較部591は、正解波形であるか不正解波形であるかを従属変数とし、20ミリ秒の各区間の電位の平均を独立変数として判別分析を行う。これにより、線形判別式を求めることができる。
判別分析によって求められる判別式は、各独立変数の判別への貢献度を重みとし、各データの独立変数に重みをかけ合せて合計値を求めるために利用される。1つのデータに判別式を当てはめることにより、判別式を作成した際に用いたデータを従属変数で分類した場合の従属変数ごとのデータ群に対する対象データの類似度を計算することができる。
ステップS502ではさらに波形比較部591は、ステップS4000で設定された判別基準にステップS501で計算された類似度を当てはめる。そして、計測された事象関連電位がハイライト項目を選択する意図に対応するものか、ハイライト項目を選択しない意図に対応するものか、判別不能かを判断する。
ステップS502の判定の結果、計測された事象関連電位がハイライト項目を選択する意図に対応するものであると判断された場合、処理はステップS208に進む。一方、計測された事象関連電位がハイライト項目を選択する意図に対応するものではないあるいは判別不能と判断された場合は動作を終了する。
ステップS208では、ハイライトされた項目が選択されたものとして、出力制御部210はその項目を実行する。
次に、先のステップS4000の処理を説明する。
図44は、脳波計測装置55における、ステップS4000の処理手順を示すフローチャートである。この処理により、判別基準が設定される。
図44に示されるステップS104〜S107は、図15に示す処理と同じである。これらの処理は、振幅包絡抽出部540によって実行され、出力信号の低周波成分が抽出される。
ステップS5002では、周波数分析部147は、ステップS5001で抽出された振幅包絡の包絡線の周波数分析を行う。ステップS104〜S107およびS5002の詳細な説明は実施形態1に関連して説明したため、以下ではその説明は省略する。
ステップS106では、 ステップS4001ではノイズ振幅推定部510はステップS5002で求められた振幅包絡の周波数に従って、ステップS107で生成された低域成分より電極部160で計測される脳波に重畳するノイズの振幅を推定する。ノイズ振幅推定部510は、図16に示したような変換関数に従って、ステップS5002で求めた振幅包絡の瞬時周波数に対応する係数を決定し、その係数を低周波成分の各値に乗じて出力波形由来で発生する低周波の電気的ノイズを時間波形として推定する。
ステップS4002では、ノイズ振幅推定部510はステップS4001で推定されたノイズ波形をあらかじめ定められた時間幅(例えば1秒)ごとに区切り、区間内での最大値と最小値を求める。そして、これらの差分をその区間におけるノイズ振幅とする。ノイズ振幅推定部510は画像信号生成部220が出力されたハイライトタイミングを基準として、出力波形信号から推定された区間ごとのノイズ振幅から、ステップS202で切り出された電位波形の時間範囲と一致する時間に出力された波形のノイズ振幅を求める。
ステップS4003では線形判別基準設定部581は判別基準変更テーブル582を参照し、ステップS4002で推定された脳波計測区間でのノイズ振幅に従って判別基準を設定する。判別基準は、脳波波形(本例では事象関連電位)を線形判別の手法を用いて判別する際に利用される。
例えば、ノイズが大きく脳波が不鮮明になるにつれ、正解波形との類似度がやや低い場合も正解波形として判断し、正解波形には含めないとする不正解は毛糸の類似度の上限を上げて、正解波形の取りこぼしを補うように判別基準を設定する。一方、ノイズが大きすぎて判別不能となる場合には判別を行わない。
図45は、線形判別基準設定部581によって参照される判別基準変更テーブル582の一例である。推定されたノイズの振幅が1マイクロボルト未満である場合は通常の判別基準である正解波形との類似度80%以上、不正解波形との類似度20%以下の判別基準が選択される。推定されたノイズの振幅が1マイクロボルト以上3マイクロボルト未満である場合には、正解波形との類似度70%以上、不正解波形との類似度20%以下の判別基準が選択される。3マイクロボルト以上7マイクロボルト未満である場合には正解波形との類似度70%以上、不正解波形との類似度40%以下の判別基準が選択される。そして、7マイクロボルト以上の場合は判別基準を設定せず、判別をおこなわないものとする。
なお、本例では判別基準を図41のようにノイズ振幅に対して4段階に分けて設定した。しかしながらこの設定方法は一例であり、他の方法、たとえば4段階とは異なる段階を設けて判別基準を設定してもよい。また、テーブルでなく、類似度判定関数として保持しても良い。
以上のように動作する脳波計測装置55では、電極に近接する電気音響変換器から出力される波形信号を分析して、電極で記録される電位への影響を考慮した判別基準を設定する。これにより、電極に電気音響変換器が近接している場合でも音響出力に影響されること無く脳波を計測して脳波インタフェースとして利用することができる。この結果、ウェアラブル機器の範囲内に電極と電気音響変換器とを近接して装備しても脳波インタフェースの利用が可能になり、ウェアラブル機器以外に電極を装着する必要がなくなるため、ユーザの機器装着負担を削減できる。
(実施形態4)
図46は、本実施形態による脳波計測装置56の構成図である。実施形態1の脳波計測装置51と比較すると、本実施形態による脳波計測装置56では、実施形態1の脳波計測装置51におけるノイズ減算部180が除去されている。また、ノイズ推定部150に代えてノイズ振幅推定部510が設けられ、脳波判定部190に代えて脳波判定部690が設けられている。それ以外は本実施形態にかかる脳波計測装置56の構成は、実施形態1にかかる脳波計測装置51の構成と同じである。なお、破線で囲まれた構成要素は、CPUおよび/またはメモリによって実現され得る。
本実施形態では、実施形態1と同様、脳波によりユーザ状態をモニタし、脳波の変化に応じて機器を自動的に制御する例を示す。より具体的には、脳波のα波の出現頻度により音響出力のボリューム操作を行う例である。図6に示したようなHMDや図7に示したような補聴器への応用が可能である。
まず、音響出力制御部110、波形生成部120、振幅包絡抽出部140、周波数分析部147と同様、ノイズ振幅推定部510および脳波判定部690は、CPUとメモリによって実現される。
脳波計測装置56は、入力手段101と、音響出力制御部110と、波形生成部120と、電気音響変換器130と、振幅包絡抽出部140と、周波数分析部147と、ノイズ振幅推定部510と、電極部160と、電位抽出部170と、脳波判定部690とを有している。
ノイズ振幅推定部510は、周波数分析部147で求めた振幅包絡の周波数に従って、新婦包絡抽出部140で抽出された低周波成分すなわち振幅包絡によって発生する電気的ノイズの振幅を推定する。
脳波判定部690は、ノイズ振幅推定部510で推定されたノイズの振幅に基づいて判定基準を設定し、電位抽出部170で抽出された電位変化の波形に含まれるα波の出現頻度を判定する。
図47は、脳波判定部690の詳細な構成を示す。脳波判定部690は脳波切り出し部195、α波抽出部191、α波時間長計算部192、判定部693、先行状態記憶部694と、判定基準変更テーブル695、とを有している。
図46および図47に関しては、実施形態1と同一の部分には同一の記号を付し、説明を省略する。
図48は、本実施形態による脳波計測装置56の処理手順を示すフローチャートである。図14のステップS5003がステップS6000とS6001に入れ替わり、ステップS111がステップS6002に入れ替わり、S4002が付け加わった以外は実施形態1と同様であるので、それ以外の動作については適宜説明を省略する。
ステップS102において音響出力が指示されている場合(ステップS102においてYesの場合)には処理はステップS5001に進み、音響出力が指示されていない場合(ステップS102においてNoの場合)には処理はステップS6002に進む。
ステップS5001において低周波成分として振幅包絡が抽出され、ステップS5002で振幅包絡の瞬時周波数が分析される。ステップS108によって包絡線すなわち低域成分の瞬時周波数に対応する係数が決定される。そしてステップS4002において、実施形態3の変形例で説明したとおり、脳波計測区間でのノイズ振幅を推定する。
ステップS6000では脳波切り出し部195が、あらかじめ定められた時間長の脳波波形を切り出し、α波抽出部191は脳波切り出し部195が切り出した脳波中に記録されたα波を抽出する。α波時間長計算部192は切り出された波形中に観察されたα波の総時間長を求める。ステップS6001では判定部193はステップS4002で推定されたノイズの振幅に対応して、ノイズの振幅と判定基準との対照テーブルに基づき、アルファ波の増減判定の基準を設定する。ステップS102においてNoの場合は、ステップS6002に進む。
図49は、ノイズの振幅と判定基準との対照テーブルの一例を示す。図49に関する処理は後述する。
ステップS6002では、脳波判定部190は、ステップS6001で計算されたα波の総時間長を、先行状態記憶部694に保存された過去のα波の総時間長と比較する。そして、α波の出現頻度が減少しているか否かを判定する。
ステップS102において音響出力指示がない場合、すなわちステップS102においてNoの場合、ステップS101で取得された電位差にはノイズは混入していないものとして波形を取り扱う。すなわちα波の減少の判定基準はあらかじめ定められた、ノイズがない場合の基準が用いられる。
ステップS112では、実施形態1において説明した、ボリュームの調整処理と同様の処理である。ステップS6002でα波の出現頻度が減少している場合、すなわちステップS6002でYesの場合、音響出力制御部110は音響出力のボリュームを下げる(ステップS112)。ステップS6002でα波の出現頻度が減少していない場合、すなわちS6002でNoの場合は、音響出力制御部110は音響出力に対する変更は行わない。
ここでステップS6001のα波増減判定基準の設定方法の詳細を説明する。
判定部193は、ステップS4002でノイズ振幅推定部510によって推定されたノイズの振幅の値と、先行状態記憶部694に記憶されている過去のノイズとを比較する。判定部193は、現在のノイズの振幅と、過去のノイズの振幅との差によって判定基準変更テーブル695を参照し、例えば、図49に示したような基準の変更率を取得する。
例えば現在のノイズの振幅が3マイクロボルトであって、先行状態記憶部694に記憶された過去のノイズの振幅が1マイクロボルトであるとする。つまり、現在は過去に比べて2マイクロボルト増加している。この情報に基づいて図49の対照テーブルを参照すると、ノイズ振幅が5マイクロボルト以下(図49の「〜5μV」)で、1マイクロボルトから3マイクロボルトのノイズ振幅増加量にあたる。
α波の増減の判断はあらかじめ定められたノイズがない場合の判断基準に対して、過去より現在のα波の総時間長が長いと判断するための時間長の差をさらに20%大きくする。また、過去より現在のα波の総時間長が短いと判断するための時間長の差をさらに10%大きくする。
例えば、ノイズがない場合の標準の設定の場合、増加と判断する場合の総時間長の差が100ミリ秒、減少と判断する場合のそう時間長の差が50ミリ秒であれば、現在のノイズの振幅が3マイクロボルトであって、先行状態記憶部694に記憶された過去のノイズの振幅が1マイクロボルトの場合には、120ミリ秒総時間長が長い場合にアルファ波の頻度が増加したと判断し、55ミリ秒総時間長が短い場合にα波の頻度が減少したと判断する。
なお、ここではα波の出現頻度により音響出力のボリューム操作を行ったが、これ以外の操作、例えばスイッチの切断、モードの切り替え等の制御を行うものとしても良い。特に補聴器の場合は脳波により、会話に集中するモードや雑踏を聞き流すモード等を脳波により自動的に切り替える操作を行うものとしても良い。
以上のように動作する脳波計測装置56では、電極に近接する電気音響変換器から出力される波形信号を分析して、電極で記録される電位に混入する低周波の電気的ノイズの振幅を推定して判定基準を適応的に変化させる。これにより、電極に電気音響変換器が近接している場合でも音響出力の影響を抑制した状態で、脳波計測により感情や眠気等のユーザの状態をモニタすることができる。
従来の考え方からすれば、音響出力由来の低周波帯域の電気的ノイズが混入した状態においては、指標として用いる特徴的脳波成分であるα波とノイズを分離することができず、実際にはα波が利用できない。それにもかかわらず、ステップS111においてノイズをα波として検出することとなり、α波の出現頻度の変化を正確に捉えることができない。このため、本実施形態の例であれば、ボリュームの調節が正しく行われないこととなる。
一方、本実施形態の構成によれば、ノイズの影響を考慮した脳波判定を行うことで、ウェアラブル機器の範囲内に電極と電気音響変換器とを近接して装備しても脳波によるユーザ状態のモニタが可能になる。ウェアラブル機器以外に電極を装着する必要がなくなるため、ユーザの機器装着負担を削減できる。
なお、本実施形態ではユーザ状態のモニタとしてα波の出現頻度を用いたが、α波とβ波のパワー比率等、他の脳波成分による指標を用いても良い。