JP2019139769A - 脳波を用いた入力システム及びプログラム - Google Patents
脳波を用いた入力システム及びプログラム Download PDFInfo
- Publication number
- JP2019139769A JP2019139769A JP2019018785A JP2019018785A JP2019139769A JP 2019139769 A JP2019139769 A JP 2019139769A JP 2019018785 A JP2019018785 A JP 2019018785A JP 2019018785 A JP2019018785 A JP 2019018785A JP 2019139769 A JP2019139769 A JP 2019139769A
- Authority
- JP
- Japan
- Prior art keywords
- electroencephalogram
- frequency
- blinking
- user
- light stimulus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
【課題】使用者の意思による選択をコンピューターに高効率、高精度に入力する。【解決手段】演算処理部(23)は、互いに異なる点滅周波数で点滅する複数の光刺激を光刺激表示部(30)に表示させつつ、脳波測定部(10)からの脳波信号に含まれる光刺激視覚誘発電位に基づき使用者がどの光刺激を注視していたかを判定する入力判定処理が実行可能である。演算処理部は、その点滅周波数を脳波信号に基づき設定する周波数設定処理が実行可能であり、演算処理部は周波数設定処理として、光刺激の非点滅状態にて脳波を測定させ取得した脳波信号に基づき当該脳波信号が所定レベルに安定したと判断した後、さらに光刺激の非点滅状態にて脳波を測定させて脳波信号を取得し、当該脳波信号を周波数解析し、所定の設定周波数帯内に含まれ、信号強度が設定閾値以下であって互いに設定周波数間隔を隔てた複数の周波数を選出し、これらを点滅周波数として設定する。【選択図】図4
Description
本発明は、定常状態視覚誘発電位(Steady State Visual evoked potentials,SSVEP)に基づくブレイン・コンピュータ・インタフェース(BCI)に関する。
脳波を用いた意思伝達手法の一つに、光刺激を注視した場合に出現する特徴的な脳波である定常状態視覚誘発電位(SSVEP)を用いたものがある。
SSVEPを用いた入力システムの基本構成を図44に示す。
図44に示すようSSVEPを用いた入力システムは、脳波測定部110と、制御・判定部120と、表示部130とを基本構成とする。
脳波測定部110には、脳波測定用電極(脳波センサ)111と、信号処理部113と、通信部112とが含まれる。制御・判定部120には、光刺激表示制御部121と、通信部122と、信号解析部123と、意思判定部124とが含まれる。制御・判定部120がコンピューター本体である。表示部130は、光刺激表示部131と、意思表示部132として機能する。光刺激表示部131と、意思表示部132として異なる表示装置を使用してもよいし、同じ表示装置を使用してもよい。表示部130としては、LED表示器、LCDディスプレイなどが挙げられる。例えば、制御・判定部120及び表示部130を備えたデスクトップ型コンピューター、タブレット型コンピューター等が用いられる。
SSVEPを用いた入力システムの基本構成を図44に示す。
図44に示すようSSVEPを用いた入力システムは、脳波測定部110と、制御・判定部120と、表示部130とを基本構成とする。
脳波測定部110には、脳波測定用電極(脳波センサ)111と、信号処理部113と、通信部112とが含まれる。制御・判定部120には、光刺激表示制御部121と、通信部122と、信号解析部123と、意思判定部124とが含まれる。制御・判定部120がコンピューター本体である。表示部130は、光刺激表示部131と、意思表示部132として機能する。光刺激表示部131と、意思表示部132として異なる表示装置を使用してもよいし、同じ表示装置を使用してもよい。表示部130としては、LED表示器、LCDディスプレイなどが挙げられる。例えば、制御・判定部120及び表示部130を備えたデスクトップ型コンピューター、タブレット型コンピューター等が用いられる。
脳波測定部110は使用者の頭部付近に配置(脳波センサ111は頭表面に装着)され、表示部130は使用者が見るため、顔前に配置される。
光刺激表示制御部121の制御に基づき光刺激表示部131に表示された光刺激は其々が異なる周波数で点滅し、使用者は何れか一つを注視する。その間の脳波センサ111で検出され脳波を測定、解析することでどの光刺激を注視していたか意思判定部124で判定を行う。意思判定部124による判定結果が意思表示部132に表示され、使用者や第三者により確認可能となる。
光刺激表示制御部121の制御に基づき光刺激表示部131に表示された光刺激は其々が異なる周波数で点滅し、使用者は何れか一つを注視する。その間の脳波センサ111で検出され脳波を測定、解析することでどの光刺激を注視していたか意思判定部124で判定を行う。意思判定部124による判定結果が意思表示部132に表示され、使用者や第三者により確認可能となる。
SSVEPを用いた入力システム又はこれに関連する先行技術の例が特許文献1−4に記載されている。
特許文献1には、光点滅周波数の設定方法についての記載がある。
特許文献1において、予め設定されている光刺激の点滅周波数と、非点滅時の使用者の脳波信号に含まれる周波数とを比較し、信号強度が大きい周波数と点滅周波数の差が閾値以上で周波数が離れている場合、点滅周波数として設定する。閾値以下で周波数が近い場合、最も信号強度が小さい周波数を点滅周波数として設定する方法が提案されている。
特許文献2,3には、閉眼、入眠状態の検出方法についての記載がある。
特許文献2において、脳波データから単位時間あたりのα波、速波、徐波の数を計算し、その数値によって、予め用意した分類体系である「正常」、「ぼんやり」、「軽い眠気」、「入眠」のいずれかに分類する。
特許文献3では、長時間両目を閉じた状態の検出方法として、脳波データの正規化エネルギーが覚醒状態/睡眠状態の閾値よりも大きければ、使用者の両目が少なくとも睡眠兆候期間は閉じており、長期間閉じたままになりそうであると判定する。
特許文献4には、ノイズ検出方法についての記載がある。
特許文献4において、筋運動や体動等のアーチファクトに対し閾値を設定し、閾値を超えた場合ノイズと判定している。
特許文献1には、光点滅周波数の設定方法についての記載がある。
特許文献1において、予め設定されている光刺激の点滅周波数と、非点滅時の使用者の脳波信号に含まれる周波数とを比較し、信号強度が大きい周波数と点滅周波数の差が閾値以上で周波数が離れている場合、点滅周波数として設定する。閾値以下で周波数が近い場合、最も信号強度が小さい周波数を点滅周波数として設定する方法が提案されている。
特許文献2,3には、閉眼、入眠状態の検出方法についての記載がある。
特許文献2において、脳波データから単位時間あたりのα波、速波、徐波の数を計算し、その数値によって、予め用意した分類体系である「正常」、「ぼんやり」、「軽い眠気」、「入眠」のいずれかに分類する。
特許文献3では、長時間両目を閉じた状態の検出方法として、脳波データの正規化エネルギーが覚醒状態/睡眠状態の閾値よりも大きければ、使用者の両目が少なくとも睡眠兆候期間は閉じており、長期間閉じたままになりそうであると判定する。
特許文献4には、ノイズ検出方法についての記載がある。
特許文献4において、筋運動や体動等のアーチファクトに対し閾値を設定し、閾値を超えた場合ノイズと判定している。
しかしながら、以上の従来技術にあっても次のような課題がある。
(A)点滅周波数とノイズ周波数が重なり意思判定が誤判定となる。
特許文献1では最も信号強度が小さい周波数を1点設定するのみで、多点の周波数を設定する方法及び、多点の各周波数がお互いに干渉しないよう周波数を設定する方法は検討されていない。
(A)点滅周波数とノイズ周波数が重なり意思判定が誤判定となる。
特許文献1では最も信号強度が小さい周波数を1点設定するのみで、多点の周波数を設定する方法及び、多点の各周波数がお互いに干渉しないよう周波数を設定する方法は検討されていない。
(B)閉眼によりSSVEPが出現せず意思判定が誤判定となる。
SSVEPは、一定の周波数で点滅する光刺激を任意の時間注視することで光刺激の点滅周波数が脳波に出現する。開眼状態で光刺激を見つめることによって起こる視覚反応であり、閉眼により点滅周波数の出現は抑制される。
光刺激を任意の時間注視することを繰り返すと、眠気を引き起こす場合がある。瞬きのような瞬時の閉眼は問題ないが、眠気を伴う長い閉眼の場合、前述の通り、SSVEPの出現が抑制されてしまう。SSVEP利用時、長い閉眼により光刺激を見ていない状態であったにも関わらず脳波測定を継続し、脳波解析を行うと、判定結果は誤判定となる可能性が非常に高くなる。実験を行った結果、6つの光刺激を点滅させ、何れか一つの刺激を20秒間注視した場合、試行回数6回中、開眼時:100%、閉眼時:0%という結果であった。この際の閉眼は、開眼、閉眼を1〜2秒毎に繰り返した状態であった。SSVEPが発生している時間は300ms秒程度と言われており、潜時より短い間隔で光刺激を注視することでSSVEPが連続発生する。対して、潜時より長い時間の閉眼を挟むとSSVEPの出現は抑制される。閉眼状態を検出し脳波解析を回避することは、意思判定の正解率低下の防止策となる。
特許文献2,3では脳波を基に閉眼等の状態判定を行っているが、外的要因の影響を受けた場合、正確な状態判定を行うことは困難である。外的要因として、脳波測定用センサ(電極)と脳波測定器とをつなぐ配線材の揺れや体動、使用者や脳波測定器の周囲に置かれている電気機器が挙げられる。これらから発生するノイズは脳波測定データに混入する場合がある。脳波で閉眼を検出する場合、脳波に混入する眼電をモニタリングすると考えられるが、前述のとおり、ノイズ混入と有意な眼電位の識別が必要であり、眼球運動による眼電や眼電に似た信号が混入した場合、閉眼検出の妨げとなる。また、閉眼を睡眠として考えた場合、α波の出現をモニタリングすることで睡眠状態であることが判定できるが、意識がはっきりした状態である覚醒状態で意図的に閉眼状態としている場合は、β波の出現が優位であるため閉眼の正確な判定ができない。また、脳波を基にした閉眼判定では、閉眼状態がどの程度持続しているかを正確に計測することが困難である。
SSVEPは、一定の周波数で点滅する光刺激を任意の時間注視することで光刺激の点滅周波数が脳波に出現する。開眼状態で光刺激を見つめることによって起こる視覚反応であり、閉眼により点滅周波数の出現は抑制される。
光刺激を任意の時間注視することを繰り返すと、眠気を引き起こす場合がある。瞬きのような瞬時の閉眼は問題ないが、眠気を伴う長い閉眼の場合、前述の通り、SSVEPの出現が抑制されてしまう。SSVEP利用時、長い閉眼により光刺激を見ていない状態であったにも関わらず脳波測定を継続し、脳波解析を行うと、判定結果は誤判定となる可能性が非常に高くなる。実験を行った結果、6つの光刺激を点滅させ、何れか一つの刺激を20秒間注視した場合、試行回数6回中、開眼時:100%、閉眼時:0%という結果であった。この際の閉眼は、開眼、閉眼を1〜2秒毎に繰り返した状態であった。SSVEPが発生している時間は300ms秒程度と言われており、潜時より短い間隔で光刺激を注視することでSSVEPが連続発生する。対して、潜時より長い時間の閉眼を挟むとSSVEPの出現は抑制される。閉眼状態を検出し脳波解析を回避することは、意思判定の正解率低下の防止策となる。
特許文献2,3では脳波を基に閉眼等の状態判定を行っているが、外的要因の影響を受けた場合、正確な状態判定を行うことは困難である。外的要因として、脳波測定用センサ(電極)と脳波測定器とをつなぐ配線材の揺れや体動、使用者や脳波測定器の周囲に置かれている電気機器が挙げられる。これらから発生するノイズは脳波測定データに混入する場合がある。脳波で閉眼を検出する場合、脳波に混入する眼電をモニタリングすると考えられるが、前述のとおり、ノイズ混入と有意な眼電位の識別が必要であり、眼球運動による眼電や眼電に似た信号が混入した場合、閉眼検出の妨げとなる。また、閉眼を睡眠として考えた場合、α波の出現をモニタリングすることで睡眠状態であることが判定できるが、意識がはっきりした状態である覚醒状態で意図的に閉眼状態としている場合は、β波の出現が優位であるため閉眼の正確な判定ができない。また、脳波を基にした閉眼判定では、閉眼状態がどの程度持続しているかを正確に計測することが困難である。
(C)安定した脳波をノイズ混入と誤判定する場合がある。
特許文献4では脳波測定時に混入するノイズを検出するためにノイズ判定閾値を設けている。±数十μVの脳波を超える閾値を設定することで、脳波より大きい振幅の信号をノイズとして判定することが可能である。しかし、脳波測定時に、例えば頭皮が発汗した場合、測定で得られる脳波の基線には揺れが発生する場合や、オフセットが発生する場合がある。単に閾値を設定し、測定データと閾値を比較するだけでは脳波の基線の変化やオフセット変化に対応できず、場合によっては安定状態にもかかわらずノイズ混入と判定する場合がある。基線の変化は頭皮の発汗や呼吸に同期して発生し、変動幅が一定の場合と一時的もしくは周期的な変化等を伴う場合がある。
図45(a)(b)は測定日が異なる同一人物の脳波データである。図中の脳波の振幅レベルは±0.25μV程度と同等であるが、基線(振幅中心)にオフセットが生じている。更に、図45(a)(b)ではオフセット値に差が生じており、図45(a)では−0.7μV程度、図45(b)では−0.3μV程度と異なる。SSVEPを用いた入力システムにおいては、図45(a)(b)共に安定した脳波として脳波測定、意思判定が可能であるが、ノイズ判定閾値として例えば±1.0μVを設定した場合、特許文献4の手法では、図45(a)は下限閾値の−1.0μVを超えたノイズ混入状態と判定される可能性があり、有効な脳波データとならない可能性がある。
特許文献4では脳波測定時に混入するノイズを検出するためにノイズ判定閾値を設けている。±数十μVの脳波を超える閾値を設定することで、脳波より大きい振幅の信号をノイズとして判定することが可能である。しかし、脳波測定時に、例えば頭皮が発汗した場合、測定で得られる脳波の基線には揺れが発生する場合や、オフセットが発生する場合がある。単に閾値を設定し、測定データと閾値を比較するだけでは脳波の基線の変化やオフセット変化に対応できず、場合によっては安定状態にもかかわらずノイズ混入と判定する場合がある。基線の変化は頭皮の発汗や呼吸に同期して発生し、変動幅が一定の場合と一時的もしくは周期的な変化等を伴う場合がある。
図45(a)(b)は測定日が異なる同一人物の脳波データである。図中の脳波の振幅レベルは±0.25μV程度と同等であるが、基線(振幅中心)にオフセットが生じている。更に、図45(a)(b)ではオフセット値に差が生じており、図45(a)では−0.7μV程度、図45(b)では−0.3μV程度と異なる。SSVEPを用いた入力システムにおいては、図45(a)(b)共に安定した脳波として脳波測定、意思判定が可能であるが、ノイズ判定閾値として例えば±1.0μVを設定した場合、特許文献4の手法では、図45(a)は下限閾値の−1.0μVを超えたノイズ混入状態と判定される可能性があり、有効な脳波データとならない可能性がある。
(D)連続使用による疲労により集中力が低下し、意思判定が誤判定となる。
SSVEPを用いた入力システムにより文章作成することを考える。選択肢に定型文を設定する場合は1から数回の選択で文章作成可能だが、1文字ずつ仮名選択を行う場合多回数の選択が必要となる。刺激の照度、表示部と使用者の距離を最適化しても疲労の蓄積を避けることは難しく、目の疲労や集中力低下により誤判定となる可能性がある。
SSVEPを用いた入力システムにより文章作成することを考える。選択肢に定型文を設定する場合は1から数回の選択で文章作成可能だが、1文字ずつ仮名選択を行う場合多回数の選択が必要となる。刺激の照度、表示部と使用者の距離を最適化しても疲労の蓄積を避けることは難しく、目の疲労や集中力低下により誤判定となる可能性がある。
本発明は以上の従来技術における問題に鑑みてなされたものであって、使用者の意思による選択をコンピューターに高効率、高精度に入力することを課題とする。
以上の課題を解決するための請求項1記載の発明は、使用者の脳波を測定する脳波測定部と、
使用者に光刺激を与える光刺激表示部と、
前記光刺激表示部を制御するとともに前記脳波測定部から脳波信号を取得する演算処理部とを備え、
前記演算処理部は、
互いに異なる点滅周波数で点滅する複数の光刺激を前記光刺激表示部に表示させつつ、前記脳波測定部から取得した脳波信号に含まれる、前記光刺激に応答した光刺激視覚誘発電位に基づき使用者が前記複数の光刺激のうちどの光刺激を注視していたかを判定する入力判定処理と、
前記光刺激の非点滅状態にて脳波を測定させ取得した前記脳波信号に基づき当該脳波信号が所定レベルに安定したと判断した後、さらに前記光刺激の非点滅状態にて脳波を測定させて前記脳波信号を取得し、当該脳波信号を周波数解析し、所定の設定周波数帯内に含まれ、信号強度が設定閾値以下であって互いに設定周波数間隔を隔てた複数の周波数を選出し、これらを前記複数の光刺激の互いに異なる点滅周波数として設定する周波数設定処理とが実行可能である脳波を用いた入力システムである。
使用者に光刺激を与える光刺激表示部と、
前記光刺激表示部を制御するとともに前記脳波測定部から脳波信号を取得する演算処理部とを備え、
前記演算処理部は、
互いに異なる点滅周波数で点滅する複数の光刺激を前記光刺激表示部に表示させつつ、前記脳波測定部から取得した脳波信号に含まれる、前記光刺激に応答した光刺激視覚誘発電位に基づき使用者が前記複数の光刺激のうちどの光刺激を注視していたかを判定する入力判定処理と、
前記光刺激の非点滅状態にて脳波を測定させ取得した前記脳波信号に基づき当該脳波信号が所定レベルに安定したと判断した後、さらに前記光刺激の非点滅状態にて脳波を測定させて前記脳波信号を取得し、当該脳波信号を周波数解析し、所定の設定周波数帯内に含まれ、信号強度が設定閾値以下であって互いに設定周波数間隔を隔てた複数の周波数を選出し、これらを前記複数の光刺激の互いに異なる点滅周波数として設定する周波数設定処理とが実行可能である脳波を用いた入力システムである。
請求項2記載の発明は、前記演算処理部は、前記設定周波数帯又は/及び設定周波数間隔を調整して、前記複数の光刺激の数に相当する複数の周波数を選出するまで前記周波数設定処理を実行可能である請求項1に記載の脳波を用いた入力システムである。
請求項3記載の発明は、使用者を撮像する撮像部を備え、
前記演算処理部は、前記撮像部から取得した画像に基づき使用者が閉眼か否かの閉眼判定処理が実行可能であり、
前記演算処理部は、前記入力判定処理に並行して前記閉眼判定処理を実行し、閉眼と判定しているときに得られる脳波信号を前記入力判定処理の対象から除外する請求項1に記載の脳波を用いた入力システムである。
前記演算処理部は、前記撮像部から取得した画像に基づき使用者が閉眼か否かの閉眼判定処理が実行可能であり、
前記演算処理部は、前記入力判定処理に並行して前記閉眼判定処理を実行し、閉眼と判定しているときに得られる脳波信号を前記入力判定処理の対象から除外する請求項1に記載の脳波を用いた入力システムである。
請求項4記載の発明は、使用者を撮像する撮像部を備え、
前記演算処理部は、前記撮像部から取得した画像に基づき使用者の注視エリアを特定する注視エリア特定処理が実行可能であり、
前記演算処理部は、前記入力判定処理に先立ち又は並行して前記注視エリア特定処理を実行し、注視エリア外の前記光刺激の停止又は光量低減の制御を実行する請求項1に記載の脳波を用いた入力システムである。
前記演算処理部は、前記撮像部から取得した画像に基づき使用者の注視エリアを特定する注視エリア特定処理が実行可能であり、
前記演算処理部は、前記入力判定処理に先立ち又は並行して前記注視エリア特定処理を実行し、注視エリア外の前記光刺激の停止又は光量低減の制御を実行する請求項1に記載の脳波を用いた入力システムである。
請求項5記載の発明は、前記演算処理部は、所定時間離れた2点間の前記脳波信号の差を算出し、当該差が所定の閾値を1回又は連続性をもって所定回数超えるか否かを判定する脳波変動判定処理が実行可能であり、
前記演算処理部は、前記入力判定処理に並行して前記脳波変動判定処理を実行し、前記差が前記所定の閾値を1回又は連続性をもって所定回数超えたと判定した脳波信号を前記入力判定処理の対象から除外する請求項1に記載の脳波を用いた入力システムである。
前記演算処理部は、前記入力判定処理に並行して前記脳波変動判定処理を実行し、前記差が前記所定の閾値を1回又は連続性をもって所定回数超えたと判定した脳波信号を前記入力判定処理の対象から除外する請求項1に記載の脳波を用いた入力システムである。
請求項6記載の発明は、前記演算処理部は、前記所定時間を互いに異なる複数設定してそれぞれ前記差を算出し、互いに異なる所定時間の差に対して互いに異なる閾値を用いて前記脳波変動判定処理を実行し、いずれか一部又は全部の閾値越えがあった場合に、その閾値を超えたと判定した脳波信号を前記入力判定処理の対象から除外するとともに、超えた閾値に応じた通知処理を実行する請求項5に記載の脳波を用いた入力システムである。
請求項7記載の発明は、使用者の脳波を測定する脳波測定部と、
使用者に光刺激を与える光刺激表示部と、
前記光刺激表示部を制御するとともに前記脳波測定部から脳波信号を取得する演算処理部とを備える脳波を用いた入力システムにおける当該演算処理部を機能させるためのコンピューター・プログラムであって、
前記演算処理部に、
互いに異なる点滅周波数で点滅する複数の光刺激を前記光刺激表示部に表示させつつ、前記脳波測定部から取得した脳波信号に含まれる、前記光刺激に応答した光刺激視覚誘発電位に基づき使用者が前記複数の光刺激のうちどの光刺激を注視していたかを判定する入力判定処理と、
前記光刺激の非点滅状態にて脳波を測定させ取得した前記脳波信号に基づき当該脳波信号が所定レベルに安定したと判断した後、さらに前記光刺激の非点滅状態にて脳波を測定させて前記脳波信号を取得し、当該脳波信号を周波数解析し、所定の設定周波数帯内に含まれ、信号強度が設定閾値以下であって互いに設定周波数間隔を隔てた複数の周波数を選出し、これらを前記複数の光刺激の互いに異なる点滅周波数として設定する周波数設定処理とを実行させるための脳波を用いた入力プログラムである。
使用者に光刺激を与える光刺激表示部と、
前記光刺激表示部を制御するとともに前記脳波測定部から脳波信号を取得する演算処理部とを備える脳波を用いた入力システムにおける当該演算処理部を機能させるためのコンピューター・プログラムであって、
前記演算処理部に、
互いに異なる点滅周波数で点滅する複数の光刺激を前記光刺激表示部に表示させつつ、前記脳波測定部から取得した脳波信号に含まれる、前記光刺激に応答した光刺激視覚誘発電位に基づき使用者が前記複数の光刺激のうちどの光刺激を注視していたかを判定する入力判定処理と、
前記光刺激の非点滅状態にて脳波を測定させ取得した前記脳波信号に基づき当該脳波信号が所定レベルに安定したと判断した後、さらに前記光刺激の非点滅状態にて脳波を測定させて前記脳波信号を取得し、当該脳波信号を周波数解析し、所定の設定周波数帯内に含まれ、信号強度が設定閾値以下であって互いに設定周波数間隔を隔てた複数の周波数を選出し、これらを前記複数の光刺激の互いに異なる点滅周波数として設定する周波数設定処理とを実行させるための脳波を用いた入力プログラムである。
本発明によれば、使用者の意思による選択をコンピューターに高効率、高精度に入力することができる。
以下に本発明の一実施形態につき図面を参照して説明する。以下は本発明の一実施形態であって本発明を限定するものではない。
(1)システム概要
図1に脳波を用いた入力システムの使用風景の一例を、図2に一構成例のブロック図を示す。
使用者1が脳波測定部10の少なくとも脳波センサを含む部分を頭部に装着して使用する。脳波センサの電極11は頭表面と、リファレンス(耳たぶなど)に装着される。
使用者1の脳波を測定する脳波測定部10には、脳波測定値をデジタル信号に変換してCPUに入力するAD変換器12と、CPU13と、タイマ14と、メモリ15と、外部インターフェース16と、無線通信部17とが含まれる。
制御・判定部20には、無線通信部21と、外部インターフェース22と、本実施形態の演算処理部として機能するCPU23と、CPU23で実行されるコンピューター・プログラムや設定値、演算値等を記憶するメモリ24と、外部インターフェース25と、タイマ26と、使用者1を撮像するカメラ27と、ディスプレイ28とが含まれる。
使用者1に光刺激(L1−L6)を与える光刺激表示部30には、外部インターフェース31と、CPU32と、メモリ33と、タイマ34と、GPIO35と、LED表示器36とが含まれる。LED表示器36により光刺激(L1−L6)が発光される。なお、LED表示器のほかLCDディスプレイなどのモニタ(ディスプレイ28)を使用してもよい。また、脳波測定部10と制御・判定部20とを有線接続する場合は、無線通信部17,21は不要である。
図1に脳波を用いた入力システムの使用風景の一例を、図2に一構成例のブロック図を示す。
使用者1が脳波測定部10の少なくとも脳波センサを含む部分を頭部に装着して使用する。脳波センサの電極11は頭表面と、リファレンス(耳たぶなど)に装着される。
使用者1の脳波を測定する脳波測定部10には、脳波測定値をデジタル信号に変換してCPUに入力するAD変換器12と、CPU13と、タイマ14と、メモリ15と、外部インターフェース16と、無線通信部17とが含まれる。
制御・判定部20には、無線通信部21と、外部インターフェース22と、本実施形態の演算処理部として機能するCPU23と、CPU23で実行されるコンピューター・プログラムや設定値、演算値等を記憶するメモリ24と、外部インターフェース25と、タイマ26と、使用者1を撮像するカメラ27と、ディスプレイ28とが含まれる。
使用者1に光刺激(L1−L6)を与える光刺激表示部30には、外部インターフェース31と、CPU32と、メモリ33と、タイマ34と、GPIO35と、LED表示器36とが含まれる。LED表示器36により光刺激(L1−L6)が発光される。なお、LED表示器のほかLCDディスプレイなどのモニタ(ディスプレイ28)を使用してもよい。また、脳波測定部10と制御・判定部20とを有線接続する場合は、無線通信部17,21は不要である。
制御・判定部20の制御に基づき光刺激表示部30のLED表示器36に表示された光刺激は其々が異なる周波数で点滅し、使用者1は何れか一つを注視する。その間の脳波測定部10で検出、測定した脳波信号データが制御・判定部20に入力され、制御・判定部20が脳波信号データを解析(SSVEPの抽出等)することでどの光刺激を注視していたかを判定する(入力判定処理)。
図3に選択メニューと選択結果の一例を示す。例えば、図3に示すような選択メニューmが表示される。一層目に選択肢m1−m6が、選択肢m1を選択した場合の2層目には選択肢m11−16が、選択肢m5を選択した場合の2層目には選択肢m51−m55が表示される。同時に表示する各選択肢には、互いに異なる点滅周波数で点滅する光刺激が割り当てられる。図3の選択メニューmの場合は、最大で6つの選択肢が同時に表示されるので、6つの異なる点滅周波数の光刺激が割り当てられる。
例えば、使用者1が選択肢m1を注視し、続いて選択肢m14、選択肢m16、選択肢m5、選択肢m51、選択肢m55、選択肢m6と順に選択すると、その選択結果m7がディスプレイ28に表示され、第三者に伝えたりすることができる。
例えば、使用者1が選択肢m1を注視し、続いて選択肢m14、選択肢m16、選択肢m5、選択肢m51、選択肢m55、選択肢m6と順に選択すると、その選択結果m7がディスプレイ28に表示され、第三者に伝えたりすることができる。
(2)周波数設定処理
次に、以上のように複数の点滅周波数が必要となる場合のCPU23による周波数設定処理につき図4−図14を参照して説明する。
図4に周波数設定処理のフローチャートを示す。
まず、最適な光刺激の点滅周波数を決定するためにCPU23は、脳波測定時間の設定(S100)とパワースペクトル閾値の設定(S101)と点滅周波数帯域設定(S102)とを行う。
脳波のパワースペクトルは脳波測定時間によって異なる。図5、図6は、光刺激の非点滅状態にて脳波を5秒間と10秒間測定し、周波数解析した場合の6Hzから30Hzのパワースペクトルである。測定時間が長くなればパワースペクトルが上昇し、各周波数(X軸)のパワースペクトルの上昇傾向が異なることを示している。
例えば、ステップS100で脳波設定時間を5秒間に設定し、ステップS101でパワースペクトル閾値を20と設定した場合、図5のパワースペクトルの場合、6Hzから30Hzの全ての周波数が閾値20以下であり、ノイズ変動が小さいと判定し、光刺激の点滅周波数として6Hzから30Hzの全ての周波数が使用可能であると判断する。これに対し、SSVEPに基づく入力判定を行うための脳波測定時間が10秒間であるときには、図6に示すようにノイズレベルが高く、誤判定するおそれが高まる。
このような判定を防ぐため、本処理の脳波測定時間設定(S100)はSSVEP実行時の脳波測定時間と同じくすることが望ましい。
次に、以上のように複数の点滅周波数が必要となる場合のCPU23による周波数設定処理につき図4−図14を参照して説明する。
図4に周波数設定処理のフローチャートを示す。
まず、最適な光刺激の点滅周波数を決定するためにCPU23は、脳波測定時間の設定(S100)とパワースペクトル閾値の設定(S101)と点滅周波数帯域設定(S102)とを行う。
脳波のパワースペクトルは脳波測定時間によって異なる。図5、図6は、光刺激の非点滅状態にて脳波を5秒間と10秒間測定し、周波数解析した場合の6Hzから30Hzのパワースペクトルである。測定時間が長くなればパワースペクトルが上昇し、各周波数(X軸)のパワースペクトルの上昇傾向が異なることを示している。
例えば、ステップS100で脳波設定時間を5秒間に設定し、ステップS101でパワースペクトル閾値を20と設定した場合、図5のパワースペクトルの場合、6Hzから30Hzの全ての周波数が閾値20以下であり、ノイズ変動が小さいと判定し、光刺激の点滅周波数として6Hzから30Hzの全ての周波数が使用可能であると判断する。これに対し、SSVEPに基づく入力判定を行うための脳波測定時間が10秒間であるときには、図6に示すようにノイズレベルが高く、誤判定するおそれが高まる。
このような判定を防ぐため、本処理の脳波測定時間設定(S100)はSSVEP実行時の脳波測定時間と同じくすることが望ましい。
一例として、ステップS100で脳波測定時間を10秒に、ステップS101でパワースペクトル閾値を20に設定する。この例の場合の脳波のパワースペクトルと閾値レベルを図7に示す。
次に、点滅周波数帯域設定(S102)を行う。点滅周波数帯域とは、上述した複数の点滅周波数を設定する周波数帯域である。
SSVEPは注視する光刺激の点滅周波数と脳波が同調して出現する。加えて、SSVEPは点滅周波数のn倍高調波にも出現するという特徴がある。点滅周波数帯域は、この特徴を踏まえつつ設定する必要がある。
周波数帯域設定について図8、図9を用いて説明する。
図8は点滅周波数に6.5Hz〜9Hzを設定する場合の高調波との関係を示している。点滅周波数に対し、第2高調波は13Hz〜18Hz、第3高調波は19.5Hz〜27Hzに出現することとなり、高調波を含め、周波数の重なりのない設定例である。
図9は点滅周波数に5Hz〜9Hzを設定する場合の高調波との関係を示している。点滅周波数に対し、第2高調波は10Hz〜18Hz、第3高調波は15Hz〜27Hzに出現することとなり、15Hz〜18Hzに第2高調波と第3高調波の重なりが生じている。この場合、脳波解析、SSVEPのパワー値演算を行うと、5Hzの第3高調波と7.5Hzの第2高調波が15Hzで同じ周波数となり、どちらの高調波か不明となる。したがって、高調波も含め重なりが生じないよう点滅周波数帯域を設定する必要がある。
次に、点滅周波数帯域設定(S102)を行う。点滅周波数帯域とは、上述した複数の点滅周波数を設定する周波数帯域である。
SSVEPは注視する光刺激の点滅周波数と脳波が同調して出現する。加えて、SSVEPは点滅周波数のn倍高調波にも出現するという特徴がある。点滅周波数帯域は、この特徴を踏まえつつ設定する必要がある。
周波数帯域設定について図8、図9を用いて説明する。
図8は点滅周波数に6.5Hz〜9Hzを設定する場合の高調波との関係を示している。点滅周波数に対し、第2高調波は13Hz〜18Hz、第3高調波は19.5Hz〜27Hzに出現することとなり、高調波を含め、周波数の重なりのない設定例である。
図9は点滅周波数に5Hz〜9Hzを設定する場合の高調波との関係を示している。点滅周波数に対し、第2高調波は10Hz〜18Hz、第3高調波は15Hz〜27Hzに出現することとなり、15Hz〜18Hzに第2高調波と第3高調波の重なりが生じている。この場合、脳波解析、SSVEPのパワー値演算を行うと、5Hzの第3高調波と7.5Hzの第2高調波が15Hzで同じ周波数となり、どちらの高調波か不明となる。したがって、高調波も含め重なりが生じないよう点滅周波数帯域を設定する必要がある。
次に光刺激の非点滅状態にて、脳波測定を開始し(S103)、脳波データを取得する。取得した脳波信号データを解析して信号の変動レベルが所定レベル以下か否かにより脳波の安定を判断する(S104)。
レベル変動の影響が観測される不安定脳波P100の場合は次ステップに移行せず、安定するまで脳波測定とノイズ検出処理を繰り返す。
不安定脳波P100の場合、変動源(ノイズ源)の改善処置(脳波センサの再装着や、ノイズ発生機器と脳波測定器の配置位置の変更等)を行い、脳波の安定化を行う。安定脳波P200の場合は次ステップS105に移行する。
ステップS104でYES、すなわち、光刺激の非点滅状態にて脳波を測定させ取得した脳波信号に基づき当該脳波信号が所定レベルに安定したと判断した後、CPU23は、さらに光刺激の非点滅状態にて脳波を一定時間測定させて脳波信号を取得する(S105)。一定時間とは、ステップS100で設定した時間を指す。
レベル変動の影響が観測される不安定脳波P100の場合は次ステップに移行せず、安定するまで脳波測定とノイズ検出処理を繰り返す。
不安定脳波P100の場合、変動源(ノイズ源)の改善処置(脳波センサの再装着や、ノイズ発生機器と脳波測定器の配置位置の変更等)を行い、脳波の安定化を行う。安定脳波P200の場合は次ステップS105に移行する。
ステップS104でYES、すなわち、光刺激の非点滅状態にて脳波を測定させ取得した脳波信号に基づき当該脳波信号が所定レベルに安定したと判断した後、CPU23は、さらに光刺激の非点滅状態にて脳波を一定時間測定させて脳波信号を取得する(S105)。一定時間とは、ステップS100で設定した時間を指す。
CPU23は、ステップS105で取得した脳波信号データを順次周波数解析し、予め設定された任意回数に亘りステップS105、ステップS106を繰り返す。繰り返し回数は、予め設定する場合、ステップS100〜ステップS102の周波数調整条件設定と同様に脳波測定開始(S103)前に設定してよく、予め設定しない場合、使用者または使用状態を使用者と共に確認する帯同者による繰り返し実行指示(繰り返し実行ボタン操作等)に従ってもよい。
次にステップS107にて、ステップS106で解析した複数の周波数解析結果を合成する。脳波は常に変動し、同一人物でも全く同じ周波数解析結果が得られることはなく、従って、パワースペクトル分布も変化する。ステップS104でノイズ変動がなく安定脳波であることは確認できているので、安定状態において複数回の脳波測定と周波数解析を行った後、ステップS107では周波数解析結果の合成を行う。合成はステップS102で設定した点滅周波数帯域に対して行う。二つの周波数解析結果を用いた合成方法を図10に示す。複数回の脳波解析の直近の結果をFFT(n)、1つ前の結果をFFT(n−1)とする。周波数解析の共通の各周波数ポイント(X軸座標値)に対するFFT(n)、FFT(n−1)のパワースペクトル値の大小比較を行い、最大値を選択する。これを解析結果全ての周波数ポイントに対して行い、周波数解析結果の合成結果とする。図10(a)の合成波形における一部を拡大した拡大図を図10(b)に示した。図10(c)は、同じ部分における合成前の二つのパワースペクトルを示す。図10(b)中の点a、点bに対応する周波数は、光刺激のない状態で大きなパワースペクトルを示しており、SSVEPに基づく入力判定を実施した場合も同様にパワースペクトルが大きくなる傾向にある。点a、点bの周波数を光刺激の点滅周波数に設定した場合、点a、点bの周波数で点滅する光刺激が注視対象でなくてもパワースペクトルが大きくなり、注視対象を判定する際、注視していた光刺激ではなく、点aもしくは点bの光刺激が注視対象と判定され、誤った判定結果となる。このような誤判定を低減するため、光刺激の非点滅状態にて脳波のパワースペクトルを導き出し、これを基に、点cのようなパワー値の小さい周波数を光刺激の点滅周波数として選択する。
ここでは2つの周波数解析の合成結果を用いて説明しているが、2つ以上の周波数解析結果を合成してもよい。
ここでは2つの周波数解析の合成結果を用いて説明しているが、2つ以上の周波数解析結果を合成してもよい。
合成後、ステップS101で設定した閾値と合成値を比較する(S108)。図11は閾値との比較を示している。周波数解析結果及びその合成結果は、所定分解能のサンプリングデータである。合成値を持つ周波数ポイントごとに閾値を超えているか否か判断する。
閾値を超えている周波数ポイントは、使用不可周波数とする。光刺激の非点滅状態で閾値を超えるパワーを示す周波数は、光点滅刺激を注視する際にも非注視対象であったとしてもパワー値が大きくなる可能性が高く、注視対象の刺激を誤って特定するといった影響を与えてしまうため使用不可とする。
図11中の周波数ポイントF100,F101及び破線B100で囲まれた周波数ポイントは、ステップS108でNOとなって使用不可となる。
更に、閾値を超えた周波数ポイントの前後所定帯域の隣接する周波数ポイントも使用不可とする(S109)。例えば、図11(b)の部分拡大図に示すように閾値超えた周波数ポイントF100,F101の前後の隣接する周波数ポイントF98,F99,F102,F103を使用不可とする。
閾値を超えている周波数ポイントは、使用不可周波数とする。光刺激の非点滅状態で閾値を超えるパワーを示す周波数は、光点滅刺激を注視する際にも非注視対象であったとしてもパワー値が大きくなる可能性が高く、注視対象の刺激を誤って特定するといった影響を与えてしまうため使用不可とする。
図11中の周波数ポイントF100,F101及び破線B100で囲まれた周波数ポイントは、ステップS108でNOとなって使用不可となる。
更に、閾値を超えた周波数ポイントの前後所定帯域の隣接する周波数ポイントも使用不可とする(S109)。例えば、図11(b)の部分拡大図に示すように閾値超えた周波数ポイントF100,F101の前後の隣接する周波数ポイントF98,F99,F102,F103を使用不可とする。
隣接周波数に関しては、1もしくは2ポイントといった一定数のポイントを使用不可とする。もしくは、使用可否判定のために、閾値に対する第2閾値(閾値 > 第2閾値)を設定し、第2閾値以下のパワー値であれば使用可、第2閾値以上であれば使用不可としてもよい。ここでは、よりパワー値が低く、安定した周波数を選択するため、閾値超えのポイントだけでなく、閾値超え前後のポイントでパワースペクトルの上昇の可能性がある周波数ポイントも使用不可とする。
次に、使用可能な周波数ポイントのパワースペクトル値を比較し、パワースペクトル値の小さい周波数ポイントを選出する(S110)。
図12に点滅刺激注視に対するパワースペクトルの出現状態の一例を示す。本手法によるSSVEPの解析は、点滅周波数(原周波)、原周波の2倍である第2高調波、原周波の3倍である第3高調波のパワースペクトル値をFFT解析結果から求める。原周波で点滅する光を注視すると、原周波だけでなく第2高調波、第3高調波にも原周波と同じくSSVEPのピークが出現する。したがって、本手法では、原周波のパワースペクトルに第2高調波、第3高調波のパワースペクトルを加算することが好ましい。例えば、原周波が8Hzの場合、16Hz、24Hzのパワースペクトルも加算する。
図12に点滅刺激注視に対するパワースペクトルの出現状態の一例を示す。本手法によるSSVEPの解析は、点滅周波数(原周波)、原周波の2倍である第2高調波、原周波の3倍である第3高調波のパワースペクトル値をFFT解析結果から求める。原周波で点滅する光を注視すると、原周波だけでなく第2高調波、第3高調波にも原周波と同じくSSVEPのピークが出現する。したがって、本手法では、原周波のパワースペクトルに第2高調波、第3高調波のパワースペクトルを加算することが好ましい。例えば、原周波が8Hzの場合、16Hz、24Hzのパワースペクトルも加算する。
ここで、解析の際の周波数の考え方について図12を用いて説明する。仮に光点滅周波数は8Hzとする。8Hzの周期で点滅する光を注視した場合、注視時の脳波データを周波数解析し、8Hzに相当する周波数ポイントのパワースペクトル値と他の周波数のパワースペクトル値を比較することで注視対象が判定できる。SSVEPが出現し、点滅周波数の中で8Hzのパワースペクトルが最大であれば、注視対象は8Hzであると判定し、最大でなければ、最大になる点滅周波数の刺激を注視対象であると判定する。
ここで、周波数解析(FFT)のサンプリングポイント数を2の16乗(65536)とした場合の8Hz近辺の結果を図12(a)に示す。周波数分解能は1.52E-05となり、8Hzに最も近い周波数ポイントF301が指す7.995Hzとなる。本手法では、周波数ポイントF301だけではなく、周波数ポイントF301を中心に低速側、高速側それぞれ数点を含めて8Hz帯域とし、この帯域の中で最もパワースペクトルが大きい値を8Hzのパワースペクトルとする。これは、8Hzの刺激を注視した場合、必ず8Hzもしくは8Hzに最も近い周波数にSSVEPのピークが出現するわけではなく、数ポイントずれて発生することが確認できていることによる。図12(a)(b)(c)は注視対象である点滅周波数8Hzに対し、解析の対象となる周波数帯域と、点滅刺激注視に対するパワースペクトルの出現状態を示している。図12(a)は8Hzの原周波帯域であり、8Hzに最も近い周波数ポイントF301の7.995Hzを点滅周波数とし、低速側に1ポイント、高速側に4ポイント拡張した帯域を点滅周波数8Hzの帯域としている。さらに、点滅周波数8Hz注視に対し、パワースペクトルのピークが8.041Hzに出現していることを示している。点滅周波数8Hzのパワースペクトル値は8.041Hzの1.58となる。
図12(b)に8Hzの原周波に対する第2高調波帯域の解析結果を示す。点滅周波数の第2高調波である周波数ポイントF302(15.9912Hz)を軸に低速側に2ポイント、高速側に8ポイント拡張した帯域を第2高調波帯域とする。原周波帯域を基準に考えた場合は、図12(a)が示す7.9803Hz〜8.0566Hzの第2高調波帯域として、それぞれ2倍の15.9606Hz〜16.1132Hzを第2高調波帯域とする。
図12(c)に8Hzの原周波に対する第3高調波帯域の解析結果を示す。点滅周波数の第3高調波である周波数ポイントF303(23.9868Hz)を軸に低速側に3ポイント、高速側に12ポイント拡張した帯域を第3高調波帯域とする。原周波帯域を基準に考えた場合は、図12(a)が示す7.9803Hz〜8.0566Hzの第3高調波帯域として、それぞれ3倍の23.9410Hz〜24.1699Hzを第3高調波帯域とする。
次に原周波と原周波帯域について図13を参照して説明する。先に述べたように、周波数解析の際、パワースペクトルは点滅周波数ポイント(点滅周波数に最も近い周波数ポイント)だけでなく点滅周波数帯域の範囲内で最も大きいパワースペクトル値を採用する。
光刺激を複数個使用する場合、点滅周波数も光刺激の個数分、設定が必要となる。複数の周波数を設定する場合は、点滅周波数+帯域幅を考慮する必要があり、図13は、点滅周波数 8Hzを指す周波数ポイントF301と隣接する点滅周波数8.1Hzを指す周波数ポイントF401の関係を示している。
前述したように、SSVEPは注視対象の点滅周波数、もしくは点滅周波数に最も近い周波数に必ず出現するとは限らず、少しずれて発生する場合がある。点滅周波数とこれを含む帯域を設定する場合は、前記のずれを考慮する必要がある。図13はSSVEP出現の一例であるが、ここに示すように、点滅周波数の周波数ポイントF301に対し高速側に4ポイント以内の範囲、低速側に1ポイント以内の範囲で発生する。したがって、点滅周波数を基準とした帯域の設定は前記範囲を基準に設定することが望ましい。低速側にずれることは少ないが、高速側と同数の4ポイントを設定してもよい。しかし、他の隣接する点滅周波数の高速側帯域として設定可能な範囲を余分に使用することになるため、必要な範囲で帯域設定することが望ましい。
光刺激を複数個使用する場合、点滅周波数も光刺激の個数分、設定が必要となる。複数の周波数を設定する場合は、点滅周波数+帯域幅を考慮する必要があり、図13は、点滅周波数 8Hzを指す周波数ポイントF301と隣接する点滅周波数8.1Hzを指す周波数ポイントF401の関係を示している。
前述したように、SSVEPは注視対象の点滅周波数、もしくは点滅周波数に最も近い周波数に必ず出現するとは限らず、少しずれて発生する場合がある。点滅周波数とこれを含む帯域を設定する場合は、前記のずれを考慮する必要がある。図13はSSVEP出現の一例であるが、ここに示すように、点滅周波数の周波数ポイントF301に対し高速側に4ポイント以内の範囲、低速側に1ポイント以内の範囲で発生する。したがって、点滅周波数を基準とした帯域の設定は前記範囲を基準に設定することが望ましい。低速側にずれることは少ないが、高速側と同数の4ポイントを設定してもよい。しかし、他の隣接する点滅周波数の高速側帯域として設定可能な範囲を余分に使用することになるため、必要な範囲で帯域設定することが望ましい。
上記6ポイントに隣接する周波数帯域との重なりが生じないよう間隔を1ポイント設けた合計7ポイントが本手法における1つの点滅周波数に対する帯域決定の考え方である。図13の帯域B301は前述の考え方に従い、点滅周波数8Hzに対し7.995Hzを近似の点滅周波数とし、隣接周波数との間隔1ポイントを含む点滅周波数8Hzの帯域を示している。本手法では、点滅周波数8.1Hzの近似周波数である8.1024Hz(B)を含む隣接する周波数帯域B401との最小間隔(周波数ピッチ)を0.1Hzとすることができる。
前述の点滅周波数を含む周波数帯域を決定するために、点滅周波数の対象範囲において、点滅周波数帯域毎にパワースペクトル値を比較する処理(S110)について説明する。ここでは、前述した閾値を超えた周波数ポイントの前後に、閾値は超えていないがパワースペクトルが増加傾向にある使用不可ポイントとして設定する隣接ポイントはないものとして説明する。
ステップS108で閾値を超えない周波数を対象とし、よりパワースペクトルの低い周波数ポイント、点滅周波数帯域を選出するための前処理として、一定数の周波数ポイントを点滅周波数帯域として設定し、帯域毎のパワースペクトルを決定する(S110)。
図14(a)に、周波数ポイント1から100までのパワースペクトルと2.0に設定した閾値のラインを、図14(b)にその部分拡大図を、図14(c)には対応するデータチャート及び選出した帯域の最大値を示す。周波数ポイントの刻み幅は、例えば、FFTの周波数分解能を2の16乗(65536)とする場合は0.015259であり、2の15乗(32768)とする場合は0.030518である。
前述したように、1つの点滅周波数には数ポイントの周波数を含めた帯域を選定する必要があり、例えば、基準とするポイントと、これを含めた連続する周波数6ポイントが閾値を超えず使用可能である帯域を選定する(図14の周波数帯域B501)。そして、帯域の中で最も高いパワースペクトル値(1.76)を帯域B501のパワースペクトル値としてストレージに格納する。ストレージは、PC、タブレットのメモリ、マイクロコンピュータのメモリ(24)、外部メモリ等を意味する。
ステップS108で閾値を超えない周波数を対象とし、よりパワースペクトルの低い周波数ポイント、点滅周波数帯域を選出するための前処理として、一定数の周波数ポイントを点滅周波数帯域として設定し、帯域毎のパワースペクトルを決定する(S110)。
図14(a)に、周波数ポイント1から100までのパワースペクトルと2.0に設定した閾値のラインを、図14(b)にその部分拡大図を、図14(c)には対応するデータチャート及び選出した帯域の最大値を示す。周波数ポイントの刻み幅は、例えば、FFTの周波数分解能を2の16乗(65536)とする場合は0.015259であり、2の15乗(32768)とする場合は0.030518である。
前述したように、1つの点滅周波数には数ポイントの周波数を含めた帯域を選定する必要があり、例えば、基準とするポイントと、これを含めた連続する周波数6ポイントが閾値を超えず使用可能である帯域を選定する(図14の周波数帯域B501)。そして、帯域の中で最も高いパワースペクトル値(1.76)を帯域B501のパワースペクトル値としてストレージに格納する。ストレージは、PC、タブレットのメモリ、マイクロコンピュータのメモリ(24)、外部メモリ等を意味する。
続けて、基準とするポイントを次のポイントとし、前述と同様の方法で、基準の周波数ポイントを含めた連続する周波数6ポイントで閾値を超えず使用可能である帯域を選定し(図14の周波数帯域B502)、帯域B502の中で最も高いパワースペクトル値(1.76)を帯域B502のパワースペクトル値としてストレージに格納する。同様の方法で、次の周波数帯域(図14の周波数帯域B503)の中で最も高いパワースペクトル値(1.72)を帯域B503のパワースペクトルとしてストレージに格納する。繰り返すと、帯域B504の次の帯域は周波数ポイントF100,F101(10、11番目)が閾値を超えているため周波数ポイントF95(5番目)から連続6ポイントで帯域を選定することができない。従って、基準を周波数ポイントF102(12番目)に変え、帯域を選定しパワースペクトル値(1.92)を格納する。本処理を、点滅周波数の対象範囲で繰り返し行い、使用可能な周波数帯域とその帯域の最大パワースペクトルを紐づけ、これらの選定した帯域を、パワースペクトルで昇順に並び換える。
次に、昇順に並び換えたパワースペクトルとこれに紐づく周波数帯域から点滅周波数を決定する処理(S111)を説明する。図14のパワースペクトルの場合、帯域B501〜B504のパワースペクトルが同値、帯域B505がその後に続くことになる。帯域B501〜B504の中から周波数を選定する方法として周波数昇順とする場合、帯域B501が点滅周波数に設定される。別の選定方法として、閾値を超えたポイントから最も離れた帯域とする場合も帯域B501が点滅周波数に設定される。また、別の選定方法として、帯域内の最も低いパワースペクトル値の比較結果や帯域内のパワースペクトルの最高値と最低値の差分値が最も小さい(パワースペクトルの変化が安定している)、または最も大きい(パワースペクトルが低い傾向にある)等の方法を用いてもよい。
これらの方法を基に帯域B501〜B504の中から何れかが選定されると、帯域B501〜B504は周波数の重複するポイントが存在するため、他を点滅周波数に選定することはできない。次にパワースペクトルが低い帯域B505が点滅周波数に選定される。ここで帯域B501〜B505を例に説明したが、点滅周波数の対象範囲に対し、点滅刺激個数分のパワースペクトルの低い周波数を点滅周波数として選定する。
これらの方法を基に帯域B501〜B504の中から何れかが選定されると、帯域B501〜B504は周波数の重複するポイントが存在するため、他を点滅周波数に選定することはできない。次にパワースペクトルが低い帯域B505が点滅周波数に選定される。ここで帯域B501〜B505を例に説明したが、点滅周波数の対象範囲に対し、点滅刺激個数分のパワースペクトルの低い周波数を点滅周波数として選定する。
上記処理後、点滅刺激個数分の周波数が設定できない場合(S112でNO)、点滅周波数の対象範囲の拡大、周波数帯に含む周波数ポイント数(前述は6ポイントとして説明)の変更、閾値の変更を可能な範囲で行い再設定を行う。これらの見直しでも点滅刺激数分の周波数が選定できない場合は、脳波計測(S105)に戻り、点滅刺激数分の周波数を選定する。
なお、点滅周波数に3Hzとn倍周波数(6Hz、9Hz・・・)が含まれる場合は、てんかん発作の誘発要因となるため使用不可とする。
また、原周波のパワースペクトルに第2高調波、第3高調波のパワースペクトルを加算して比較してもよい。
また、原周波のパワースペクトルに第2高調波、第3高調波のパワースペクトルを加算して比較してもよい。
以上の周波数設定処理によれば、非点滅時の脳波を解析することにより、信号強度が大きい周波数を点滅周波数に設定してしまうことがなくなり、誤判定が減少する。
また、使用日、使用者に合った点滅周波数に設定することが可能であり、環境が変わった場合でも最適な周波数に設定することが可能である。
多数の点滅周波数を適切に設定することができ、同時に多くの選択肢を設けることができるから入力が効率的であり、使用者の疲労も軽減できる。
また、使用日、使用者に合った点滅周波数に設定することが可能であり、環境が変わった場合でも最適な周波数に設定することが可能である。
多数の点滅周波数を適切に設定することができ、同時に多くの選択肢を設けることができるから入力が効率的であり、使用者の疲労も軽減できる。
(3)閉眼判定処理
次に、CPU23による閉眼判定処理及び関連する制御につき図15のフローチャートを参照して説明する。
まず、CPU23は、閉眼判定を行うために、閉眼状態であると判定するための2つのパラメータを設定する(S200)。一つ目のパラメータは、例えば画像認識処理を経て得られる上瞼と下瞼の画像中の座標から算出される目の開き具合を示すものであり、上瞼と下瞼の座標の差に対して、目を開いているか閉じているかを判定するための閾値である。任意の閾値以上、上瞼と下瞼の座標に差が生じていれば開眼と判定し、閾値未満であれば閉眼と判定する。
二つ目のパラメータは、閉眼時間を示すものであり、瞬きによる閉眼は閉眼判定の対象外とし、任意の時間連続した閉眼を判定するための時間もしくは閉眼判定カウント数の閾値である。例えば、時間の場合であれば1秒、カウント数であれば100msサンプリングとして10回カウント等の設定を行う。
まず、CPU23は、閉眼判定を行うために、閉眼状態であると判定するための2つのパラメータを設定する(S200)。一つ目のパラメータは、例えば画像認識処理を経て得られる上瞼と下瞼の画像中の座標から算出される目の開き具合を示すものであり、上瞼と下瞼の座標の差に対して、目を開いているか閉じているかを判定するための閾値である。任意の閾値以上、上瞼と下瞼の座標に差が生じていれば開眼と判定し、閾値未満であれば閉眼と判定する。
二つ目のパラメータは、閉眼時間を示すものであり、瞬きによる閉眼は閉眼判定の対象外とし、任意の時間連続した閉眼を判定するための時間もしくは閉眼判定カウント数の閾値である。例えば、時間の場合であれば1秒、カウント数であれば100msサンプリングとして10回カウント等の設定を行う。
パラメータ設定後、CPU23は、閉眼モニタリングを開始する(S201)。最終的に脳波解析する、しないの判定のため、プログラム処理の中で、状態を示すフラグを初期状態(閉眼フラグ=0)に設定する。
CPU23は、カメラ(撮像部)27から取得した画像に基づき画像認識処理を経て使用者1が閉眼か否かの閉眼判定処理が実行可能である。カメラは、使用者の顔前に配置されるタブレットやパソコンに搭載されたカメラや、これらの機器に接続可能なUSBカメラでもよい。カメラから取得した画像に写る使用者の顔を顔検出機能で検出し、検出範囲内における顔の特徴を検出する。特徴とは、例えば、目、鼻、口、耳といった顔を構成する部位の位置情報や形状を示すもので、少なくとも目を抽出する必要がある。抽出した特徴が目の輪郭(瞼の輪郭)線やその線上の点である場合、瞼の上下運動に連動し、検出される瞼の輪郭、もしくは点も上下に変動するものとする。
図16から図20に画像認識処理を説明するための目元部分の模式図を示す。
開眼(図16)の場合の目の特徴を点として抽出した結果を図17に示す。図17に示した抽出結果は、左眼の目尻(1A100)、上瞼(1A101)、目頭(1A102)、下瞼(1A103)の4点と、右眼の目頭(1A104)、上瞼(1A105)、目尻(1A106)、下瞼(1A107)の4点である。同様の手法で閉眼(図18)の場合の目の特徴を点として抽出した結果を図19に示す。図19に示した抽出結果は図17で説明した8点と同様の特徴点を示す。この特徴点を基にした、瞼の開き具合の算出式は以下の通りである。画像の原点座標は左上とする。
左瞼の開き = (1A103が示すY座標)−(1A101が示すY座標)
右瞼の開き = (1A107が示すY座標)−(1A105が示すY座標)
または、原点位置に関わらず、差分の絶対値を算出してもよい。
|左瞼の開き| = (1A101が示すY座標)−(1A103が示すY座標)
|右瞼の開き| = (1A105が示すY座標)−(1A107が示すY座標)
開眼(図16)の場合の目の特徴を点として抽出した結果を図17に示す。図17に示した抽出結果は、左眼の目尻(1A100)、上瞼(1A101)、目頭(1A102)、下瞼(1A103)の4点と、右眼の目頭(1A104)、上瞼(1A105)、目尻(1A106)、下瞼(1A107)の4点である。同様の手法で閉眼(図18)の場合の目の特徴を点として抽出した結果を図19に示す。図19に示した抽出結果は図17で説明した8点と同様の特徴点を示す。この特徴点を基にした、瞼の開き具合の算出式は以下の通りである。画像の原点座標は左上とする。
左瞼の開き = (1A103が示すY座標)−(1A101が示すY座標)
右瞼の開き = (1A107が示すY座標)−(1A105が示すY座標)
または、原点位置に関わらず、差分の絶対値を算出してもよい。
|左瞼の開き| = (1A101が示すY座標)−(1A103が示すY座標)
|右瞼の開き| = (1A105が示すY座標)−(1A107が示すY座標)
CPU32は、上記式で算出した数値と、ステップS200で設定した一つ目のパラメータを比較し、閉眼か開眼かを判定する。閉眼の場合、閉眼時間であれば時間計測を開始または継続し、カウント数であれば閉眼カウントをインクリメントする。
上記処理を行いながら、CPU23は、光刺激表示部30を制御して点滅光刺激表示を開始し(S202)、脳波測定部10を制御して脳波測定を開始する(S203)。
CPU23は、取得される脳波信号データに基づく入力判定処理に並行して閉眼判定処理行い、閉眼時間もしくは閉眼カウント数がステップS200で設定した二つ目のパラメータである閾値を超えているか否か判断し(S204)、YESの場合、閉眼状態であると判定し、閉眼フラグを、閉眼を示す値にセットし(S206)、ディスプレイ28に「使用者閉眼中」等の閉眼メッセージを表示する(S207)。
同時に、介護者等、第三者への報知設定がなされている場合は使用者が閉眼中であることをメール等のメッセージ通信やアラームで通知する。
上記処理を行いながら、CPU23は、光刺激表示部30を制御して点滅光刺激表示を開始し(S202)、脳波測定部10を制御して脳波測定を開始する(S203)。
CPU23は、取得される脳波信号データに基づく入力判定処理に並行して閉眼判定処理行い、閉眼時間もしくは閉眼カウント数がステップS200で設定した二つ目のパラメータである閾値を超えているか否か判断し(S204)、YESの場合、閉眼状態であると判定し、閉眼フラグを、閉眼を示す値にセットし(S206)、ディスプレイ28に「使用者閉眼中」等の閉眼メッセージを表示する(S207)。
同時に、介護者等、第三者への報知設定がなされている場合は使用者が閉眼中であることをメール等のメッセージ通信やアラームで通知する。
閉眼条件に満たない場合(ステップS204でNO)、予め設定した脳波測定時間を経過していなければ脳波測定を継続し(ステップS205でNO)、脳波測定時間を経過していれば、脳波測定を終了する(ステップS205→S208・・・)。
脳波測定を終了する場合、点滅光刺激表示を終了し(S209)、閉眼フラグが開眼を示す値(閉眼フラグ=0)の場合、脳波解析を行い、意思判定結果を表示する(S210)。閉眼フラグが閉眼を示す値(閉眼フラグ=1)の場合、処理を終了する。
また、使用者、第三者が脳波測定終了の指示を制御・判定部20に入力した場合も、ステップS205でYESとなり、処理を終了する。
例えば、以上のようにして閉眼判定処理を実行し、閉眼と判定しているときに得られる脳波信号を入力判定処理の対象から除外する。
脳波測定を終了する場合、点滅光刺激表示を終了し(S209)、閉眼フラグが開眼を示す値(閉眼フラグ=0)の場合、脳波解析を行い、意思判定結果を表示する(S210)。閉眼フラグが閉眼を示す値(閉眼フラグ=1)の場合、処理を終了する。
また、使用者、第三者が脳波測定終了の指示を制御・判定部20に入力した場合も、ステップS205でYESとなり、処理を終了する。
例えば、以上のようにして閉眼判定処理を実行し、閉眼と判定しているときに得られる脳波信号を入力判定処理の対象から除外する。
閉眼モニタリングにおいて、使用者に加え、使用者以外の人物が画像に写り込む場合は、使用者を特定するための顔認証機能(個人特定機能)を搭載しておき、使用者が写っていることを顔認証で確認した後、使用者の眼や瞼の動きをチェックするように制御することができる。
目の特徴検出は目の輪郭でなくてもよく、眼球(瞳孔)検出法でもよい。眼球が検出できた場合は開眼、できない場合は閉眼としても良く、検出した眼球(瞳孔)形状で眼球の半分以上が隠れた状態であると検出した場合は閉眼、といった検出方法でもよい。
目の特徴を点として抽出した場合で、検出数が異なる例を図20に示す。左瞼の場合、
左瞼の開き1 = (1A405が示すY座標)−(1A401が示すY座標)
左瞼の開き2 = (1A404が示すY座標)−(1A402が示すY座標)
であり、何れか一つを用いてもよいし、左瞼の開き1,2の平均値をとってもよい。右瞼も同様である。
左瞼の開き1 = (1A405が示すY座標)−(1A401が示すY座標)
左瞼の開き2 = (1A404が示すY座標)−(1A402が示すY座標)
であり、何れか一つを用いてもよいし、左瞼の開き1,2の平均値をとってもよい。右瞼も同様である。
以上の閉眼判定処理によれば、注視中の閉眼検出を確実に行うことができ、解析対象外の状態であると判定できる。
また、外的要因の影響がなく、入眠時に加え、覚醒状態で意図的に目を閉じている状態も検出可能である。
また、外的要因の影響がなく、入眠時に加え、覚醒状態で意図的に目を閉じている状態も検出可能である。
(4)注視エリア特定処理
次に、CPU32による注視エリア特定処理及び関連する制御につき図21のフローチャートを参照して説明する。
CPU32は、カメラ(撮像部)27から取得した画像に基づき画像認識処理を経て使用者1の視線を特定し、その視線を中心にした使用者1の光刺激に対する注視エリアを特定する注視エリア特定処理が実行可能である。
次に、CPU32による注視エリア特定処理及び関連する制御につき図21のフローチャートを参照して説明する。
CPU32は、カメラ(撮像部)27から取得した画像に基づき画像認識処理を経て使用者1の視線を特定し、その視線を中心にした使用者1の光刺激に対する注視エリアを特定する注視エリア特定処理が実行可能である。
注視エリア特定処理を、図22に示した選択肢H1〜H9を縦3個、横3個配置したディスプレイ28と、LEDを縦3個、横3個配置した光刺激表示部30を使用し説明する。注視エリア特定処理は、使用者1が注視する選択肢を特定するのではなく、注視する選択肢を含む選択対象候補群を特定する。選択対象候補群は、候補となる複数の光刺激を、その配置位置によりいくつかにまとめて分割したもので、図23は選択肢H1,H4,H7、選択肢H2,H5,H8、選択肢H3,H6,H9というように縦方向に3分割した場合を示しており、これら2A100〜2A102をそれぞれエリアと表現し、これらのうちの何れか一つを選択対象候補群として特定する。分割は図24に示したように横方向でもよく、この場合もエリア2A103〜2A105の何れか一つを選択対象候補群として特定する。
特定処理方法として、先ず、視線の基準位置を特定する。使用者1には注視エリア特定処理を開始することを通知するためのメッセージがディスプレイ28に表示される(図25)。
更に、使用者1にはディスプレイ28の中央部2A101を見るようメッセージが表示される。中央部とは図23の場合のエリア2A101、図24の場合のエリア2A104を指し、エリアに含まれるLEDが点灯する。使用者1は任意の一定時間(例えば1秒間、例えば3秒間)同エリアに視線を向ける。この間、CPU32はカメラ27から画像を複数回取得し眼球の虹彩座標や更に精度よく座標検出可能な場合は虹彩中心座標を検出する。この時、視線が定まっているか(キョロキョロしていないか)を確認するため、前測定座標と現測定座標の変化量を目座標安定度パラメータとして事前に設定する。目座標安定度パラメータは、ディスプレイ28を分割した場合の1エリア分の視線(目座標)の変動量を意味する。ディスプレイ28と使用者1の距離により異なるため、使用者1の位置が決定した後、目座標安定度パラメータを設定するための目座標測定を行い、パラメータを決定する。目座標安定度パラメータを20とした場合の両目の基準座標を示したものが図26である。図26に示した例は、図23の縦分割の場合はX座標、図24の横分割の場合はY座標を示す。図26の表は、左右共に10回測定した場合を示しており、左右の目座標の変動範囲が目座標安定度パラメータの20以内に収まっている。この測定結果の平均値を算出し、平均値に近い5回分の座標を抽出し平均値を算出した座標が左目座標 570、右目座標150である。この座標を基準座標として光刺激、脳波測定を開始する(S300)。光刺激の点滅が開始されると使用者1は何れかの光刺激を注視するため視線モニタリングを行う。視線モニタリング(S301)は点滅開始と同時に開始しても良いが、数秒後(例えば3秒後)から開始すると注視状態が安定し、視線が定まった状態になりやすい(S302)。視線モニタリング(S301)は、前述した基準座標の測定方法と同様に複数回の測定の後、座標を特定する。特定した変動座標を図27に示す。特定した座標と基準座標から、目の変動量を算出する。
左目変動量 = 基準座標(2A106) − 変動座標(2A108)
右目変動量 = 基準座標(2A107) − 変動座標(2A109)
更に、使用者1にはディスプレイ28の中央部2A101を見るようメッセージが表示される。中央部とは図23の場合のエリア2A101、図24の場合のエリア2A104を指し、エリアに含まれるLEDが点灯する。使用者1は任意の一定時間(例えば1秒間、例えば3秒間)同エリアに視線を向ける。この間、CPU32はカメラ27から画像を複数回取得し眼球の虹彩座標や更に精度よく座標検出可能な場合は虹彩中心座標を検出する。この時、視線が定まっているか(キョロキョロしていないか)を確認するため、前測定座標と現測定座標の変化量を目座標安定度パラメータとして事前に設定する。目座標安定度パラメータは、ディスプレイ28を分割した場合の1エリア分の視線(目座標)の変動量を意味する。ディスプレイ28と使用者1の距離により異なるため、使用者1の位置が決定した後、目座標安定度パラメータを設定するための目座標測定を行い、パラメータを決定する。目座標安定度パラメータを20とした場合の両目の基準座標を示したものが図26である。図26に示した例は、図23の縦分割の場合はX座標、図24の横分割の場合はY座標を示す。図26の表は、左右共に10回測定した場合を示しており、左右の目座標の変動範囲が目座標安定度パラメータの20以内に収まっている。この測定結果の平均値を算出し、平均値に近い5回分の座標を抽出し平均値を算出した座標が左目座標 570、右目座標150である。この座標を基準座標として光刺激、脳波測定を開始する(S300)。光刺激の点滅が開始されると使用者1は何れかの光刺激を注視するため視線モニタリングを行う。視線モニタリング(S301)は点滅開始と同時に開始しても良いが、数秒後(例えば3秒後)から開始すると注視状態が安定し、視線が定まった状態になりやすい(S302)。視線モニタリング(S301)は、前述した基準座標の測定方法と同様に複数回の測定の後、座標を特定する。特定した変動座標を図27に示す。特定した座標と基準座標から、目の変動量を算出する。
左目変動量 = 基準座標(2A106) − 変動座標(2A108)
右目変動量 = 基準座標(2A107) − 変動座標(2A109)
変動量を基に注視エリアを特定する(S304)。使用する変動量は両眼を使用してもよいが、予め左右何れか片眼を使用すると決めてもよく、使用者1の利き目としてもよい。以降の判定は左目の変動量を使用して説明する。注視エリアが移動したかどうかを判定するために変動判定パラメータを用いる。これは、安定度パラメータと同値でもよく、変動判定パラメータ以上目座標が変動している場合は注視エリア移動が生じたと判定する。判定基準は以下通り。
|左目変動量|<変動判定パラメータ :注視エリア移動なし
|左目変動量|>変動判定パラメータ 且つ 変動量<0 :左エリアへ移動
|左目変動量|>変動判定パラメータ 且つ 変動量>0 :右エリアへ移動
|左目変動量|<変動判定パラメータ :注視エリア移動なし
|左目変動量|>変動判定パラメータ 且つ 変動量<0 :左エリアへ移動
|左目変動量|>変動判定パラメータ 且つ 変動量>0 :右エリアへ移動
図27を例に説明すると、変動判定に左目を用いる場合、
変動量 = 570(2A106)−690(2A108) = −120
変動判定パラメータを20と設定すると、
|変動量| = 120 > 変動判定パラメータ(20)
となり、注視エリア移動が生じたと判定できる。更に、
変動量 = 120 > 0
となり、左エリアへ移動したと特定できる。なお、画像の原点座標の位置(左上、右上等)により左右エリアの変動量の正負判定は逆転する。
変動量 = 570(2A106)−690(2A108) = −120
変動判定パラメータを20と設定すると、
|変動量| = 120 > 変動判定パラメータ(20)
となり、注視エリア移動が生じたと判定できる。更に、
変動量 = 120 > 0
となり、左エリアへ移動したと特定できる。なお、画像の原点座標の位置(左上、右上等)により左右エリアの変動量の正負判定は逆転する。
上記判定中、脳波測定が継続している場合(ステップ303でYES)、選択肢H1−H9に対応した光刺激の点滅が継続している状態であるため、注視エリア以外の光刺激の制御を変更する(S305)。図23の左エリア(2A100)を注視している状態であるため左エリア(2A100)の選択肢H1,H4,H7に対応した光刺激をそのまま継続し、中央エリア(2A101)の選択肢H2,H5,H8に対応した光刺激及び右エリア(2A102)の選択肢H3,H6,H9に対応した光刺激の照度を低下させる(図28)、または、左エリアの光刺激(2A100)以外は消灯させる(図29)。
上記判定中、脳波測定が終了している場合(ステップ303でNO)、選択肢H1−H9に対応した光刺激の点滅が終了しているため、選択肢H1−H9に対応した光刺激の照度変更や消灯処理は行わない。また、脳波測定の残り時間が少ない(例えば3秒程度)場合、選択肢H1−H9に対応した光刺激の点滅を制御しても短時間の変化となり集中の妨げになる可能性があるため、選択肢H1−H9に対応した光刺激の照度変更や消灯処理は行わなくてもよい。
脳波測定終了後は測定した脳波データの周波数解析(S306)を行う。周波数解析(S306)では、FFTにより周波数毎のパワースペクトルが算出される。
注視エリアを特定せず、一般的な手法で脳波データを解析した場合の周波数解析結果を図30に示す。選択肢H1−H9に対応した光刺激の点滅周波数のパワースペクトルを比較し、パワーが最大となる光刺激を注視対象として特定する。図30の場合は選択肢H4が特定される。
注視エリアを特定せず、一般的な手法で脳波データを解析した場合の周波数解析結果を図30に示す。選択肢H1−H9に対応した光刺激の点滅周波数のパワースペクトルを比較し、パワーが最大となる光刺激を注視対象として特定する。図30の場合は選択肢H4が特定される。
注視エリアを特定し、脳波データを解析した場合の周波数解析結果を図31、図32に示す。
先ず、図31が示す解析手法について説明する。注視エリアは左エリアと特定しており、左エリアに含まれる選択肢H1,H4,H7に対し、解析対象であることを意味する1ビット値「注視エリア=1」を設定し、他の選択肢に解析対象ではないことを意味する1ビット値「注視エリア=0」を設定する。選択肢毎に「パワースペクトル×注視エリア(0or1)」の演算を行い、結果を算出パワーとし、パワーが最大となる選択肢H4を注視対象として特定する。
本手法は、注視エリア外のパワーが0となるため、注視エリア特定後、注視エリア外の光刺激を消灯し刺激が存在しなくなった場合や、確実に注視エリアが特定でき、注視エリア外の刺激に対するパワーを勘案する必要がない場合に用いる。
先ず、図31が示す解析手法について説明する。注視エリアは左エリアと特定しており、左エリアに含まれる選択肢H1,H4,H7に対し、解析対象であることを意味する1ビット値「注視エリア=1」を設定し、他の選択肢に解析対象ではないことを意味する1ビット値「注視エリア=0」を設定する。選択肢毎に「パワースペクトル×注視エリア(0or1)」の演算を行い、結果を算出パワーとし、パワーが最大となる選択肢H4を注視対象として特定する。
本手法は、注視エリア外のパワーが0となるため、注視エリア特定後、注視エリア外の光刺激を消灯し刺激が存在しなくなった場合や、確実に注視エリアが特定でき、注視エリア外の刺激に対するパワーを勘案する必要がない場合に用いる。
次に、図32が示す解析手法について説明する。本手法ではエリア毎に重み付け係数を設定する。注視エリアに特定された左エリアの重み付け係数を1とし、隣接する中央エリアに0.6、注視エリアから最も遠いエリアに0.2を設定する。選択肢毎に「パワースペクトル×重み付け係数」の演算を行い、結果を算出パワーとし、パワーが最大となる選択肢H4を注視対象として特定する。重み付け係数の設定値は例として挙げたものであり、任意の係数を用いてよい。注視エリアが中央エリアの場合、左右エリアの係数を同値とし、例えば0.6や0.5を設定してもよい。また、本例は光刺激のエリア配置が縦3列の場合であるが、刺激数、配置方法により、3列で無い場合は、配置仕様に応じたエリア分割と重み付け値の設定を行う。
脳波測定開始前に注視エリア特定を行う処理につき図33のフローチャートを参照して説明する。
刺激の配置は前述したように図22に示す9個とし、エリア特定の開始を通知するためにメッセージを図25のように示す(S310)。注視エリア特定のためのエリア分割は前述の通り(図23、図24)でよく、前述の判定基準を用いて何れか一つのエリアを特定する。
刺激の配置は前述したように図22に示す9個とし、エリア特定の開始を通知するためにメッセージを図25のように示す(S310)。注視エリア特定のためのエリア分割は前述の通り(図23、図24)でよく、前述の判定基準を用いて何れか一つのエリアを特定する。
点滅する選択肢H1−H9に対応した光刺激は、選択されたエリアのものだけでよく、例えば、選択エリアが図23に示すエリア2A100の場合、刺激はH1,H4,H7でよく、この場合の刺激は照度調整として図28のように注視エリアを最も明るくし、注視エリアからの距離に応じて照度を低下させることができる。また、図29のように点滅を注視エリアのみとすることができる。さらに、配置変更として、刺激間隔を拡げた図34の配置に変更することができる。
以上のような注視エリアに基づく光刺激表示制御を、注視エリア特定ステップS304後の刺激制御ステップS315で実行し、その後脳波測定(S320)を開始する。その他は、図21に示したフローと同様であり、対応するステップに同符号を使用して図33に示す。
以上のような注視エリアに基づく光刺激表示制御を、注視エリア特定ステップS304後の刺激制御ステップS315で実行し、その後脳波測定(S320)を開始する。その他は、図21に示したフローと同様であり、対応するステップに同符号を使用して図33に示す。
なお、以上の説明中に用いている目座標は、カメラ等からの入力画像のピクセルと置き換えてもよく、ある手段で目の位置、眼球の位置を特定し、ある手段で計算されて得られる左右の目の位置情報と置き換えてもよい。目座標の求め方は上記説明に拘泥されるものではない。
以上の処理によれば、刺激制御(S305、S315)により使用者の疲労蓄積を低減することができる。
また、注視エリアに限定してどの光刺激を注視していたかの入力判定(S307)を行うので、効率及び精度が向上する。
また、注視エリアに限定してどの光刺激を注視していたかの入力判定(S307)を行うので、効率及び精度が向上する。
(5)脳波変動判定
(5−1)ノイズ混入時の制御
異なる脳波変動判定基準を用いて、(a)外来、接触不良ノイズ、(b)身体活動由来ノイズ、(c)電源、周辺機器ノイズを個別に検出し、ノイズの脳波に対する影響度から(a)>(b)>(c)の優先順位をつけ、(a)(b)の場合は脳波判定しない、(c)の場合は脳波判定を行う。具体的には以下の通り実施することができる。
(a)の場合は周辺機器の配置、接続機器の注意を喚起する通知処理を実行する。例えば、脳波測定器と機器が近接していないかの確認メッセージを送出する。
(b)の場合は体動の注意を喚起する通知処理を実行する。例えば、体が大きく動いていないか、脳波測定器と体が接触していないかの確認メッセージを送出する。
(c)の場合はノイズ混入状態で判定した結果であることの通知処理を実行する。
これらの通知は使用者と関連する人物、例えば、使用者が意思伝達に障がいがあり、コミュニケーション機器として本システムを使用しているならば、関連する人物は介護者、医療従事者が想定されるが、これらの人物に対して使用者の状態と使用環境を確認することを促す。
また、判定時だけでなく、意思判定の前段階(点滅周波数設定前)でセンサ装着後、脳波モニタリング時にも用いる。脳波が安定しないと、上記(2)の点滅刺激周波数設定を行っても、ノイズ判定用の脳波測定においてノイズが混入し続けることになり、意思判定を正確に行うことが困難となる。
(5−1)ノイズ混入時の制御
異なる脳波変動判定基準を用いて、(a)外来、接触不良ノイズ、(b)身体活動由来ノイズ、(c)電源、周辺機器ノイズを個別に検出し、ノイズの脳波に対する影響度から(a)>(b)>(c)の優先順位をつけ、(a)(b)の場合は脳波判定しない、(c)の場合は脳波判定を行う。具体的には以下の通り実施することができる。
(a)の場合は周辺機器の配置、接続機器の注意を喚起する通知処理を実行する。例えば、脳波測定器と機器が近接していないかの確認メッセージを送出する。
(b)の場合は体動の注意を喚起する通知処理を実行する。例えば、体が大きく動いていないか、脳波測定器と体が接触していないかの確認メッセージを送出する。
(c)の場合はノイズ混入状態で判定した結果であることの通知処理を実行する。
これらの通知は使用者と関連する人物、例えば、使用者が意思伝達に障がいがあり、コミュニケーション機器として本システムを使用しているならば、関連する人物は介護者、医療従事者が想定されるが、これらの人物に対して使用者の状態と使用環境を確認することを促す。
また、判定時だけでなく、意思判定の前段階(点滅周波数設定前)でセンサ装着後、脳波モニタリング時にも用いる。脳波が安定しないと、上記(2)の点滅刺激周波数設定を行っても、ノイズ判定用の脳波測定においてノイズが混入し続けることになり、意思判定を正確に行うことが困難となる。
(5−2)脳波変動判定処理
(例1)
次に、CPU32による脳波変動判定処理及び関連する制御につき図35のフローチャートを参照して説明する。
CPU32は、所定時間T内の脳波信号の最大値maxと最小値minの差(max−min)を算出し、当該差が所定の閾値Thaを所定の回数超えるか否かを判定する脳波変動判定処理が実行可能である。
所定時間Tは、SSVEPの判定に必要な脳波測定時間に対し任意の一定時間を指す。例えば、脳波測定時間5秒間に対し、所定時間Tは100msと設定することができる。所定回数は閾値超えの連続回数または合計回数を指す。当該数を超えた場合、脳波変動が発生していると判定する。
(例1)
次に、CPU32による脳波変動判定処理及び関連する制御につき図35のフローチャートを参照して説明する。
CPU32は、所定時間T内の脳波信号の最大値maxと最小値minの差(max−min)を算出し、当該差が所定の閾値Thaを所定の回数超えるか否かを判定する脳波変動判定処理が実行可能である。
所定時間Tは、SSVEPの判定に必要な脳波測定時間に対し任意の一定時間を指す。例えば、脳波測定時間5秒間に対し、所定時間Tは100msと設定することができる。所定回数は閾値超えの連続回数または合計回数を指す。当該数を超えた場合、脳波変動が発生していると判定する。
まず、CPU23は、脳波測定点t1−t2間の差分(max−min)に対する閾値Thaを設定する(S41)。ここで設定する閾値はmax、min値そのものではなく差分である。このことにより、図45(a)(b)に示すような脳波の基線(ベースライン)にオフセットが生じる場合でも、ノイズの影響が少なければ解析可能な脳波と判定できる。
次にCPU23は、光刺激表示部30を制御して点滅光刺激表示を開始するとともに、脳波測定部10を制御して脳波測定を開始する(S42)。
CPU23は、取得される脳波信号データに基づく入力判定処理に並行して脳波変動判定処理(S43,S44)を開始する。
CPU23は、所定時間T毎の差分(max−min)算出し(S43)、閾値Thaを超えたか否か判断し(S44)、YESの場合、脳波測定を終了し(S45)、点滅光刺激表示を終了し(S46)、ディスプレイ28に「脳波にノイズが検出されています」等のノイズ検出メッセージを表示して使用者や第三者に報知する(S47)。閾値Thaを超えた脳波信号データに関しては入力判定処理から除外する。
第三者等が脳波測定終了の指示を制御・判定部20に入力したらステップS48でYESとなって終了する。
例えば、以上のようにして脳波変動判定処理を実行し、ノイズを検出しているときに得られる脳波信号を入力判定処理の対象から除外する。
次にCPU23は、光刺激表示部30を制御して点滅光刺激表示を開始するとともに、脳波測定部10を制御して脳波測定を開始する(S42)。
CPU23は、取得される脳波信号データに基づく入力判定処理に並行して脳波変動判定処理(S43,S44)を開始する。
CPU23は、所定時間T毎の差分(max−min)算出し(S43)、閾値Thaを超えたか否か判断し(S44)、YESの場合、脳波測定を終了し(S45)、点滅光刺激表示を終了し(S46)、ディスプレイ28に「脳波にノイズが検出されています」等のノイズ検出メッセージを表示して使用者や第三者に報知する(S47)。閾値Thaを超えた脳波信号データに関しては入力判定処理から除外する。
第三者等が脳波測定終了の指示を制御・判定部20に入力したらステップS48でYESとなって終了する。
例えば、以上のようにして脳波変動判定処理を実行し、ノイズを検出しているときに得られる脳波信号を入力判定処理の対象から除外する。
(例2)
次に、脳波変動判定処理及び関連する制御につき図36のフローチャートを参照して説明する。
CPU23は、脳波変動判定のための閾値設定を行う(S400)。閾値Tha1、Tha2を図37に示す。脳波測定時間における所定時間T(t1−t2)間の振幅変動差分(max1−min1)に対する閾値Tha1を設定する。更に、Tha1ほどの振幅変動ではないがTha1より低い振幅変動が生じた場合の差分(max2−min2)に対する閾値Tha2を設定する。図38に示すように脳波測定時間T(t1−t2)間の脳波データの測定点n、n+1間の変動差分(n−(n+1))に対する閾値Tha3を設定する。
次に、脳波変動判定処理及び関連する制御につき図36のフローチャートを参照して説明する。
CPU23は、脳波変動判定のための閾値設定を行う(S400)。閾値Tha1、Tha2を図37に示す。脳波測定時間における所定時間T(t1−t2)間の振幅変動差分(max1−min1)に対する閾値Tha1を設定する。更に、Tha1ほどの振幅変動ではないがTha1より低い振幅変動が生じた場合の差分(max2−min2)に対する閾値Tha2を設定する。図38に示すように脳波測定時間T(t1−t2)間の脳波データの測定点n、n+1間の変動差分(n−(n+1))に対する閾値Tha3を設定する。
ここで、脳波に混入する変動要因と変動を判定するための閾値について説明する。
図39は安定状態の脳波を示す。頭皮上で測定する脳波は、信号の振幅が±50μV程度であり微小な振幅を繰り返して変化する。図39に示した脳波は変動要因であるノイズの影響を受けておらず、光刺激を注視し解析を行った場合、注視した光刺激の周波数にピークが現れる可能性が極めて高い。
図39は安定状態の脳波を示す。頭皮上で測定する脳波は、信号の振幅が±50μV程度であり微小な振幅を繰り返して変化する。図39に示した脳波は変動要因であるノイズの影響を受けておらず、光刺激を注視し解析を行った場合、注視した光刺激の周波数にピークが現れる可能性が極めて高い。
次に、ノイズ混入により観測される脳波の振幅変動を説明する。
図40に示す脳波は、安定状態の脳波に対し数千から数万倍と振幅の高さ方向に対する変動が大きく(丸囲み部分)、さらに不定期に発生している。これは脳波測定器の周辺に配置される外部機器から発せられる外来ノイズや、脳波測定に使用するセンサと頭皮の接着のずれや接触不良によるノイズや、脳波測定に使用するセンサと脳波測定器をつなぐ線材の揺れなどにより発生するノイズの影響を受けることで発生する。この振幅の高さに対する大きな変動を検出するために設定する閾値がTha1である。脳波に図40の変動が生じると、脳波データは±電源固定となり、脳波データが消失する。例えば、測定機器の電源が±5Vの場合、前述した変動による脳波データは+5Vまたは−5Vに固定または往復することになり、脳波の振幅が消失する。このような変動が生じた脳波データを解析してもSSVEPの判定は誤判定となる可能性が非常に高い。
図40に示す脳波は、安定状態の脳波に対し数千から数万倍と振幅の高さ方向に対する変動が大きく(丸囲み部分)、さらに不定期に発生している。これは脳波測定器の周辺に配置される外部機器から発せられる外来ノイズや、脳波測定に使用するセンサと頭皮の接着のずれや接触不良によるノイズや、脳波測定に使用するセンサと脳波測定器をつなぐ線材の揺れなどにより発生するノイズの影響を受けることで発生する。この振幅の高さに対する大きな変動を検出するために設定する閾値がTha1である。脳波に図40の変動が生じると、脳波データは±電源固定となり、脳波データが消失する。例えば、測定機器の電源が±5Vの場合、前述した変動による脳波データは+5Vまたは−5Vに固定または往復することになり、脳波の振幅が消失する。このような変動が生じた脳波データを解析してもSSVEPの判定は誤判定となる可能性が非常に高い。
図41の脳波は、図40ほどの振幅変動ではないが、安定状態の脳波に対して数千倍程度の振幅の高さ方向に対する変動が定期的に発生している。これはセンサが頭皮下部の血管を通して脈拍の振動を捉えていることにより発生する。この他、眼球運動による眼電位、呼吸によって生じる筋電位等、身体活動がノイズ源となり脳波に混入することで発生する。この振幅変動を検出するために設定する閾値がTha2である。脳波に図41の変動が生じると、前述したTha1に関連する脳波データが消失することは殆どないが、混入頻度や光刺激周波数とノイズ周波数の重なりにより、SSVEPのパワーよりも大きなスペクトルパワーが刺激周波数帯域に検出される。このような変動が生じた脳波データを解析した場合、SSVEPの判定は誤判定となる可能性が高い。
図42の脳波は、振幅の高さ方向に対する影響は小さいが、高周波ノイズの混入により振幅の幅(横方向)が狭くなる変動が発生している。これは、脳波測定器や使用者の周辺に配置される外部機器やコンセントなど電源由来のノイズで、50Hzまたは60Hzの他、逓倍、分周周波数にも発生する。この微小で脳波に紛れて判別しにくい変動に対して設定するのがTha3である。脳波に図42の変動が生じると、特定周波数にパワーピークが発生する。特定周波数が刺激周波数と同帯域にあり、このような変動が生じた脳波データの解析を解析した場合、SSVEPの判定は誤判定となる場合がある。
このように、混入するノイズの特性から、いくつかに分類される振幅変動に対する閾値設定を行った後、次に、CPU23は、光刺激表示部30のCPU32に制御信号を送信し、CPU32は光制御部30を制御して点滅光刺激表示を開始するとともに、脳波測定部10を制御して脳波測定を開始する(S401)。CPU23は、取得される脳波信号データに基づく入力判定処理に並行して脳波変動判定処理(S402,S403)を開始する。
CPU23は、図37に示した所定時間T内の脳波信号の最大値max1と最小値min1の差(max1−min1)を算出し、当該差が所定の閾値Tha1を超えるか否かを判定し、閾値Tha1を超える場合、Tha1を超える変動が生じたことを示すノイズフラグ1を1に設定し、メモリに記録する脳波変動判定処理が実行可能である。
更に、図37に示した所定時間T内の脳波信号の最大値max2と最小値min2の差(max2−min2)を算出し、当該差が所定の閾値Tha2を超えるか否かを判定し、閾値Tha2を超える場合、Tha2を超える変動が生じたことを示すノイズフラグ2を1に設定し、メモリに記録する脳波変動判定処理が実行可能である。
更に、図38に示した所定時間T内において、n番目とn+1番目の差(n―(n+1))を算出し、当該差が所定の閾値Tha3を超えるか否かを判定し、閾値Tha3を超えた回数を1としメモリに記録する脳波変動判定処理が実行可能である。更に、次の所定時間T内において、同様にn回目とn+1回目の差(n―(n+1))を算出し、当該差が所定の閾値Tha3を超えるか否かを判定し、閾値Tha3を超える場合、メモリに記録した閾値超え回数を1加算し、当該差が所定の閾値Tha3を超えない場合、メモリに記録した回数を1減算または0に設定し記録する脳波変動判定処理が実行可能である。更に、メモリに記録した回数が所定回数と等しくなった場合、Tha3を超える変動が生じたことを示すノイズフラグ3を1に設定し、メモリに記録する脳波変動判定処理が実行可能である。
上記差が所定の閾値Tha3を超えない場合にメモリに記録した回数を0に設定する条件下では、上記差が連続的に所定回数超えるか否かを判定することができる。
上記差が所定の閾値Tha3を超えない場合にメモリに記録した回数を1減算する条件下では、上記差が連続的又は断続的に所定回数超えるか否かを判定することができる。
以上のように閾値Tha3については、上記差が連続性をもって所定回数超えるか否かを判定する。
CPU23は、図37に示した所定時間T内の脳波信号の最大値max1と最小値min1の差(max1−min1)を算出し、当該差が所定の閾値Tha1を超えるか否かを判定し、閾値Tha1を超える場合、Tha1を超える変動が生じたことを示すノイズフラグ1を1に設定し、メモリに記録する脳波変動判定処理が実行可能である。
更に、図37に示した所定時間T内の脳波信号の最大値max2と最小値min2の差(max2−min2)を算出し、当該差が所定の閾値Tha2を超えるか否かを判定し、閾値Tha2を超える場合、Tha2を超える変動が生じたことを示すノイズフラグ2を1に設定し、メモリに記録する脳波変動判定処理が実行可能である。
更に、図38に示した所定時間T内において、n番目とn+1番目の差(n―(n+1))を算出し、当該差が所定の閾値Tha3を超えるか否かを判定し、閾値Tha3を超えた回数を1としメモリに記録する脳波変動判定処理が実行可能である。更に、次の所定時間T内において、同様にn回目とn+1回目の差(n―(n+1))を算出し、当該差が所定の閾値Tha3を超えるか否かを判定し、閾値Tha3を超える場合、メモリに記録した閾値超え回数を1加算し、当該差が所定の閾値Tha3を超えない場合、メモリに記録した回数を1減算または0に設定し記録する脳波変動判定処理が実行可能である。更に、メモリに記録した回数が所定回数と等しくなった場合、Tha3を超える変動が生じたことを示すノイズフラグ3を1に設定し、メモリに記録する脳波変動判定処理が実行可能である。
上記差が所定の閾値Tha3を超えない場合にメモリに記録した回数を0に設定する条件下では、上記差が連続的に所定回数超えるか否かを判定することができる。
上記差が所定の閾値Tha3を超えない場合にメモリに記録した回数を1減算する条件下では、上記差が連続的又は断続的に所定回数超えるか否かを判定することができる。
以上のように閾値Tha3については、上記差が連続性をもって所定回数超えるか否かを判定する。
脳波測定時間中、前述の演算により算出した値と閾値Tha1、Tha2、Tha3の閾値との比較を繰り返し、ノイズフラグ1、ノイズフラグ2、ノイズフラグ3の何れかが1に設定された場合、脳波測定を継続するか否かを判定する(S404)。SSVEPの判定に必要な脳波測定時間が経過する前に、ノイズフラグの何れかに1が設定されている場合に脳波測定を終了しても良く、ノイズフラグ1、ノイズフラグ2の何れかに1が設定されている場合に脳波測定を終了しても良く、ノイズフラグ1に1が設定されている場合のみ脳波測定を終了してもよい。ノイズフラグの判定結果により脳波測定を終了した後、または、SSVEPの判定に必要な脳波測定時間が経過した後、点滅刺激を終了し(S405)、ノイズフラグの状態を確認し、脳波解析を行う(S406)。ノイズフラグには以下のような優先順位を設定する。
優先順位 : ノイズフラグ1 > ノイズフラグ2 > ノイズフラグ3
例えば、ノイズフラグ1、ノイズフラグ2に1が設定されている場合、ノイズ検出結果はノイズフラグ1とし、ノイズフラグ2、ノイズフラグ3に1が設定されている場合、ノイズ検出結果はノイズフラグ2とする。ノイズ検出結果がノイズフラグ3になるのは、ノイズフラグ1、ノイズフラグ2が0(1以外)の場合とする。
優先順位 : ノイズフラグ1 > ノイズフラグ2 > ノイズフラグ3
例えば、ノイズフラグ1、ノイズフラグ2に1が設定されている場合、ノイズ検出結果はノイズフラグ1とし、ノイズフラグ2、ノイズフラグ3に1が設定されている場合、ノイズ検出結果はノイズフラグ2とする。ノイズ検出結果がノイズフラグ3になるのは、ノイズフラグ1、ノイズフラグ2が0(1以外)の場合とする。
脳波解析を実施する条件として、各ノイズフラグの状態を用いる。例えば、ノイズフラグ3のみが1の場合、脳波解析を行い、意思判定処理結果として特定された意思を表示する。特定された意思とは、例えば、選択された刺激の番号、または番号に紐づけされた単語、定型文等を意味する。ノイズフラグ1またはノイズフラグ2が、もしくは両方が1の場合は、ノイズの混入により判定が誤判定となる可能性が高いため脳波解析は行わない。こうすることで、脳波を基にした意思判定において、ノイズ起因による脳波の乱れを含めたまま解析されることが無くなり、意思入力の誤判定を防ぐことが可能となる。更に、使用者や介護者に対し、ノイズの状態に応じた通知を行うことで、ノイズ混入状態を改善する必要があることを認知させることが可能となる。
通知は、ノイズフラグに紐づけされたメッセージを表示、またはメールを送信するといった手段で行うことができる。
ノイズフラグ1の場合は、外来ノイズ、センサと頭表面の接触不良の可能性を示すメッセージを表示する。例えば、”接触不良や外部機器の影響を受けている可能性があります”と表示することで、使用者や介護者は、使用者の頭部に装着されたセンサの接触状態を改善する、センサが接続されている線材の揺れや不安定な状況を改善する等の対処を促すことができる。
ノイズフラグ2の場合は、体動、脈波混入の可能性を示すメッセージを表示する。例えば、”使用者の動きや心拍の影響を受けている可能性があります”と表示することで、使用者は動きを少なくする、頭部のセンサ位置を改善する等の対処を促すことできる。
ノイズフラグ3の場合は、前述したように脳波解析を行い、解析結果の表示を行うと共に、電源ノイズの混入の可能性を示すメッセージを表示する。例えば、”電源ノイズが混入している可能性があります”と表示することで、脳波測定器に接続されている機器の電源接続方法、脳派測定器と外部機器の距離を離す等の対処を促すことができる。
ノイズフラグ1の場合は、外来ノイズ、センサと頭表面の接触不良の可能性を示すメッセージを表示する。例えば、”接触不良や外部機器の影響を受けている可能性があります”と表示することで、使用者や介護者は、使用者の頭部に装着されたセンサの接触状態を改善する、センサが接続されている線材の揺れや不安定な状況を改善する等の対処を促すことができる。
ノイズフラグ2の場合は、体動、脈波混入の可能性を示すメッセージを表示する。例えば、”使用者の動きや心拍の影響を受けている可能性があります”と表示することで、使用者は動きを少なくする、頭部のセンサ位置を改善する等の対処を促すことできる。
ノイズフラグ3の場合は、前述したように脳波解析を行い、解析結果の表示を行うと共に、電源ノイズの混入の可能性を示すメッセージを表示する。例えば、”電源ノイズが混入している可能性があります”と表示することで、脳波測定器に接続されている機器の電源接続方法、脳派測定器と外部機器の距離を離す等の対処を促すことができる。
以上の脳波変動判定処理によれば、脳波の基線の変化に拘わらず、脳波中のノイズ検出を確実に行うことができ、解析対象外の状態であると判定できる。
また、以上のようなノイズ種の特徴に応じた脳波変動判定処理により、ノイズ種を判別することで、ノイズ種を特定してノイズの混入を使用者や介護者に通知することができる。更に、メッセージはノイズ種を具体的に通知するため、使用者や介護者はノイズ種に応じた対応を行うことができ、ノイズ混入を適した方法で解消することが可能となる。
また、以上のようなノイズ種の特徴に応じた脳波変動判定処理により、ノイズ種を判別することで、ノイズ種を特定してノイズの混入を使用者や介護者に通知することができる。更に、メッセージはノイズ種を具体的に通知するため、使用者や介護者はノイズ種に応じた対応を行うことができ、ノイズ混入を適した方法で解消することが可能となる。
(6)複合実施形態
上記(2)(3)(4)(5)をすべて実施する場合の入力判定アルゴリズムの一例につき、図43のフローチャートを参照しつつ以下に説明する。
CPU23は、上記(2)と同様にして周波数設定処理(S50)を実行し、終了したら、点滅光刺激表示を開始させ(S51)、閉眼か判定し(S52)、NOの場合で注視エリアを特定できたら(S53でYES)、注視エリア外の光刺激を制限し(S54)、脳波信号をサンプリングして(S55)、サンプリングした脳波信号について閾値Thaを超えたか否かのノイズ判定を行い(S56)、NOの場合、注視エリア内の光刺激のうちどの光刺激を注視していたかの入力判定(S57)を行う。
閉眼、注視エリア不特定の場合はいずれも脳波信号をサンプリングしない。脳波信号をサンプリングしても閾値Thaを超えたことによりノイズ検出できた場合は入力判定を行わない。但し、上述したようにノイズ混入メッセージを伴った入力判定結果出力を行う場合は、入力判定(S57)に移行する。入力判定(S57)の後、次入力を待ち受ける場合(S58でYES)はステップS51に移行し、当該次入力に係る選択メニューを表示する(各選択肢の光刺激の点滅を開始)。ステップS58において、例えば、直前の入力判定で「本入力システムを終了する」を選択したと判定した場合は、終了する。
閉眼メッセージの表示ステップを設ける場合、ステップS52のYESの後に入れる。ノイズ検出メッセージの表示ステップを設ける場合、ステップS56のYESの後に入れる。また、上述したようにノイズ混入メッセージを伴った入力判定結果出力を行う場合は、ステップS57の後にノイズ検出メッセージの表示ステップを設ける。
上記(2)(3)(4)(5)をすべて実施する場合の入力判定アルゴリズムの一例につき、図43のフローチャートを参照しつつ以下に説明する。
CPU23は、上記(2)と同様にして周波数設定処理(S50)を実行し、終了したら、点滅光刺激表示を開始させ(S51)、閉眼か判定し(S52)、NOの場合で注視エリアを特定できたら(S53でYES)、注視エリア外の光刺激を制限し(S54)、脳波信号をサンプリングして(S55)、サンプリングした脳波信号について閾値Thaを超えたか否かのノイズ判定を行い(S56)、NOの場合、注視エリア内の光刺激のうちどの光刺激を注視していたかの入力判定(S57)を行う。
閉眼、注視エリア不特定の場合はいずれも脳波信号をサンプリングしない。脳波信号をサンプリングしても閾値Thaを超えたことによりノイズ検出できた場合は入力判定を行わない。但し、上述したようにノイズ混入メッセージを伴った入力判定結果出力を行う場合は、入力判定(S57)に移行する。入力判定(S57)の後、次入力を待ち受ける場合(S58でYES)はステップS51に移行し、当該次入力に係る選択メニューを表示する(各選択肢の光刺激の点滅を開始)。ステップS58において、例えば、直前の入力判定で「本入力システムを終了する」を選択したと判定した場合は、終了する。
閉眼メッセージの表示ステップを設ける場合、ステップS52のYESの後に入れる。ノイズ検出メッセージの表示ステップを設ける場合、ステップS56のYESの後に入れる。また、上述したようにノイズ混入メッセージを伴った入力判定結果出力を行う場合は、ステップS57の後にノイズ検出メッセージの表示ステップを設ける。
(7)作用効果その他
ノイズ混入、閉眼、疲労蓄積は意思の誤判定となる要因である。
この状態で脳波解析、入力判定を行うことで間違った意思を伝える(誤入力する)ことになるが、以上説明した技術を用いれば、選択肢の多数化と注視エリア外の刺激制限との組み合わせにより疲労蓄積を低減して誤判定の要因を低減でき、ノイズ判定、閉眼判定により入力判定の対象外の状況であることを事前に検出でき、誤判定を低減することができる。
さらに、閉眼、ノイズ混入の検出が可能であるため、使用者が要介護者である場合の介護者等の第三者に対し、閉眼、ノイズ混入を通知することが可能となる。
ノイズ混入、閉眼、疲労蓄積は意思の誤判定となる要因である。
この状態で脳波解析、入力判定を行うことで間違った意思を伝える(誤入力する)ことになるが、以上説明した技術を用いれば、選択肢の多数化と注視エリア外の刺激制限との組み合わせにより疲労蓄積を低減して誤判定の要因を低減でき、ノイズ判定、閉眼判定により入力判定の対象外の状況であることを事前に検出でき、誤判定を低減することができる。
さらに、閉眼、ノイズ混入の検出が可能であるため、使用者が要介護者である場合の介護者等の第三者に対し、閉眼、ノイズ混入を通知することが可能となる。
以上説明した通り、本発明によれば、使用者の意思による選択をコンピューターに高効率、高精度に入力することができる
なお、上記(2)(3)(4)(5)の技術は、いずれか一つを単独で実施してもよいし、いずれか2つ又は3つの組合せを実施してもよいことは勿論である。
1 使用者
10 脳波測定部
11 脳波センサの電極
20 制御・判定部
27 カメラ
30 光刺激表示部
36 LED表示器
10 脳波測定部
11 脳波センサの電極
20 制御・判定部
27 カメラ
30 光刺激表示部
36 LED表示器
Claims (7)
- 使用者の脳波を測定する脳波測定部と、
使用者に光刺激を与える光刺激表示部と、
前記光刺激表示部を制御するとともに前記脳波測定部から脳波信号を取得する演算処理部とを備え、
前記演算処理部は、
互いに異なる点滅周波数で点滅する複数の光刺激を前記光刺激表示部に表示させつつ、前記脳波測定部から取得した脳波信号に含まれる、前記光刺激に応答した光刺激視覚誘発電位に基づき使用者が前記複数の光刺激のうちどの光刺激を注視していたかを判定する入力判定処理と、
前記光刺激の非点滅状態にて脳波を測定させ取得した前記脳波信号に基づき当該脳波信号が所定レベルに安定したと判断した後、さらに前記光刺激の非点滅状態にて脳波を測定させて前記脳波信号を取得し、当該脳波信号を周波数解析し、所定の設定周波数帯内に含まれ、信号強度が設定閾値以下であって互いに設定周波数間隔を隔てた複数の周波数を選出し、これらを前記複数の光刺激の互いに異なる点滅周波数として設定する周波数設定処理とが実行可能である脳波を用いた入力システム。 - 前記演算処理部は、前記設定周波数帯又は/及び設定周波数間隔を調整して、前記複数の光刺激の数に相当する複数の周波数を選出するまで前記周波数設定処理を実行可能である請求項1に記載の脳波を用いた入力システム。
- 使用者を撮像する撮像部を備え、
前記演算処理部は、前記撮像部から取得した画像に基づき使用者が閉眼か否かの閉眼判定処理が実行可能であり、
前記演算処理部は、前記入力判定処理に並行して前記閉眼判定処理を実行し、閉眼と判定しているときに得られる脳波信号を前記入力判定処理の対象から除外する請求項1に記載の脳波を用いた入力システム。 - 使用者を撮像する撮像部を備え、
前記演算処理部は、前記撮像部から取得した画像に基づき使用者の注視エリアを特定する注視エリア特定処理が実行可能であり、
前記演算処理部は、前記入力判定処理に先立ち又は並行して前記注視エリア特定処理を実行し、注視エリア外の前記光刺激の停止又は光量低減の制御を実行する請求項1に記載の脳波を用いた入力システム。 - 前記演算処理部は、所定時間離れた2点間の前記脳波信号の差を算出し、当該差が所定の閾値を1回又は連続性をもって所定回数超えるか否かを判定する脳波変動判定処理が実行可能であり、
前記演算処理部は、前記入力判定処理に並行して前記脳波変動判定処理を実行し、前記差が前記所定の閾値を1回又は連続性をもって所定回数超えたと判定した脳波信号を前記入力判定処理の対象から除外する請求項1に記載の脳波を用いた入力システム。 - 前記演算処理部は、前記所定時間を互いに異なる複数設定してそれぞれ前記差を算出し、互いに異なる所定時間の差に対して互いに異なる閾値を用いて前記脳波変動判定処理を実行し、いずれか一部又は全部の閾値越えがあった場合に、その閾値を超えたと判定した脳波信号を前記入力判定処理の対象から除外するとともに、超えた閾値に応じた通知処理を実行する請求項5に記載の脳波を用いた入力システム。
- 使用者の脳波を測定する脳波測定部と、
使用者に光刺激を与える光刺激表示部と、
前記光刺激表示部を制御するとともに前記脳波測定部から脳波信号を取得する演算処理部とを備える脳波を用いた入力システムにおける当該演算処理部を機能させるためのコンピューター・プログラムであって、
前記演算処理部に、
互いに異なる点滅周波数で点滅する複数の光刺激を前記光刺激表示部に表示させつつ、前記脳波測定部から取得した脳波信号に含まれる、前記光刺激に応答した光刺激視覚誘発電位に基づき使用者が前記複数の光刺激のうちどの光刺激を注視していたかを判定する入力判定処理と、
前記光刺激の非点滅状態にて脳波を測定させ取得した前記脳波信号に基づき当該脳波信号が所定レベルに安定したと判断した後、さらに前記光刺激の非点滅状態にて脳波を測定させて前記脳波信号を取得し、当該脳波信号を周波数解析し、所定の設定周波数帯内に含まれ、信号強度が設定閾値以下であって互いに設定周波数間隔を隔てた複数の周波数を選出し、これらを前記複数の光刺激の互いに異なる点滅周波数として設定する周波数設定処理とを実行させるための脳波を用いた入力プログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018017849 | 2018-02-05 | ||
JP2018017849 | 2018-02-05 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019139769A true JP2019139769A (ja) | 2019-08-22 |
Family
ID=67694191
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019018785A Pending JP2019139769A (ja) | 2018-02-05 | 2019-02-05 | 脳波を用いた入力システム及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019139769A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113520409A (zh) * | 2021-05-31 | 2021-10-22 | 杭州回车电子科技有限公司 | Ssvep信号识别方法、装置、电子装置和存储介质 |
CN113672082A (zh) * | 2021-07-12 | 2021-11-19 | 华南理工大学 | 一种多通道高共模抑制比低功耗脑电采集的脑机接口系统 |
JP7437782B2 (ja) | 2021-11-24 | 2024-02-26 | 株式会社ALTs | 生体情報センサ |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008152799A1 (ja) * | 2007-06-12 | 2008-12-18 | Panasonic Corporation | 脳波インタフェースシステムおよび起動装置 |
WO2009093435A1 (ja) * | 2008-01-25 | 2009-07-30 | Panasonic Corporation | 脳波インタフェースシステム、脳波インタフェース装置、方法およびコンピュータプログラム |
JP2009189398A (ja) * | 2008-02-12 | 2009-08-27 | Tottori Univ | マッサージ機及びマッサージ方法 |
WO2010004698A1 (ja) * | 2008-07-11 | 2010-01-14 | パナソニック株式会社 | 脳波を用いた機器の制御方法および脳波インタフェースシステム |
JP2012005717A (ja) * | 2010-06-25 | 2012-01-12 | Panasonic Electric Works Co Ltd | 脳循環状態検査装置及びそれを備えたストレス計 |
CN107037889A (zh) * | 2017-03-06 | 2017-08-11 | 南昌大学 | 一种基于视觉脑机接口的自然书写字符输入方法及系统 |
-
2019
- 2019-02-05 JP JP2019018785A patent/JP2019139769A/ja active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008152799A1 (ja) * | 2007-06-12 | 2008-12-18 | Panasonic Corporation | 脳波インタフェースシステムおよび起動装置 |
WO2009093435A1 (ja) * | 2008-01-25 | 2009-07-30 | Panasonic Corporation | 脳波インタフェースシステム、脳波インタフェース装置、方法およびコンピュータプログラム |
JP2009189398A (ja) * | 2008-02-12 | 2009-08-27 | Tottori Univ | マッサージ機及びマッサージ方法 |
WO2010004698A1 (ja) * | 2008-07-11 | 2010-01-14 | パナソニック株式会社 | 脳波を用いた機器の制御方法および脳波インタフェースシステム |
JP2012005717A (ja) * | 2010-06-25 | 2012-01-12 | Panasonic Electric Works Co Ltd | 脳循環状態検査装置及びそれを備えたストレス計 |
CN107037889A (zh) * | 2017-03-06 | 2017-08-11 | 南昌大学 | 一种基于视觉脑机接口的自然书写字符输入方法及系统 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113520409A (zh) * | 2021-05-31 | 2021-10-22 | 杭州回车电子科技有限公司 | Ssvep信号识别方法、装置、电子装置和存储介质 |
CN113520409B (zh) * | 2021-05-31 | 2024-03-26 | 杭州回车电子科技有限公司 | Ssvep信号识别方法、装置、电子装置和存储介质 |
CN113672082A (zh) * | 2021-07-12 | 2021-11-19 | 华南理工大学 | 一种多通道高共模抑制比低功耗脑电采集的脑机接口系统 |
JP7437782B2 (ja) | 2021-11-24 | 2024-02-26 | 株式会社ALTs | 生体情報センサ |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210321924A1 (en) | Method And Apparatus For Deriving A Mental State Of A Subject | |
US8818498B2 (en) | Electroencephalogram interface system | |
US10456089B2 (en) | Patient monitoring for sub-acute patients based on activity state and posture | |
JP2019139769A (ja) | 脳波を用いた入力システム及びプログラム | |
US20170258319A1 (en) | System and method for assessing eyesight acuity and hearing ability | |
US11197623B2 (en) | System for improving sleep effectiveness of a user | |
EP2389858A2 (en) | Alarm generation method for patient monitoring, physiological monitoring apparatus, and computer program product for a physiological monitoring apparatus | |
JP2005279113A (ja) | 睡眠状態判定装置および睡眠状態判定方法 | |
JP6079824B2 (ja) | 睡眠評価装置およびプログラム | |
US10172530B2 (en) | Biological information processing system and method of controlling biological information processing system | |
JP2017121286A (ja) | 情動推定システム、情動推定方法および情動推定プログラム | |
CN110996771A (zh) | 用于监测睡眠质量的方法和系统 | |
US11464446B2 (en) | Physiological status monitoring apparatus and method | |
JP2023518364A (ja) | 日中の眠気及び夜間の閉塞性睡眠時無呼吸(osa)の重症度を使用する未診断の睡眠呼吸障害の検出 | |
CN105380655A (zh) | 一种移动终端的情绪预警方法、装置及移动终端 | |
WO2020183458A1 (en) | Apparatus for monitoring a subject | |
IL268575B2 (en) | A system and method for monitoring a patient | |
US20170251928A1 (en) | Measurement device and measurement method | |
JP7318577B2 (ja) | 生体データ測定装置及び制御プログラム | |
JP2016140553A (ja) | 呼吸判定装置、呼吸判定方法、呼吸判定プログラムおよび判定システム | |
Bostan et al. | Annoyance by Alarms in the ICU: A Cognitive Approach to the Role of Interruptions by Patient Monitoring Alarms | |
JP2022130199A (ja) | 作業者支援システム、作業者支援方法、及び、プログラム | |
KR102515982B1 (ko) | 섬망 발생 여부 판단 장치 및 이를 이용한 섬망 발생 여부 판단 방법 | |
WO2022181168A1 (ja) | 刺激提示システム、刺激提示方法、プログラム、および、モデル生成システム | |
WO2024083664A1 (en) | Notification handling dependent upon user state |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211215 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221025 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221122 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230523 |