JP4630382B2 - 脳波インタフェースシステムに組み込まれる補正装置、方法およびコンピュータプログラム - Google Patents

脳波インタフェースシステムに組み込まれる補正装置、方法およびコンピュータプログラム Download PDF

Info

Publication number
JP4630382B2
JP4630382B2 JP2009538918A JP2009538918A JP4630382B2 JP 4630382 B2 JP4630382 B2 JP 4630382B2 JP 2009538918 A JP2009538918 A JP 2009538918A JP 2009538918 A JP2009538918 A JP 2009538918A JP 4630382 B2 JP4630382 B2 JP 4630382B2
Authority
JP
Japan
Prior art keywords
option
electroencephalogram
event
estimated
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009538918A
Other languages
English (en)
Other versions
JPWO2009057278A1 (ja
Inventor
幸治 森川
信夫 足立
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Application granted granted Critical
Publication of JP4630382B2 publication Critical patent/JP4630382B2/ja
Publication of JPWO2009057278A1 publication Critical patent/JPWO2009057278A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61FFILTERS IMPLANTABLE INTO BLOOD VESSELS; PROSTHESES; DEVICES PROVIDING PATENCY TO, OR PREVENTING COLLAPSING OF, TUBULAR STRUCTURES OF THE BODY, e.g. STENTS; ORTHOPAEDIC, NURSING OR CONTRACEPTIVE DEVICES; FOMENTATION; TREATMENT OR PROTECTION OF EYES OR EARS; BANDAGES, DRESSINGS OR ABSORBENT PADS; FIRST-AID KITS
    • A61F4/00Methods or devices enabling patients or disabled persons to operate an apparatus or a device not forming part of the body 
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B19/00Driving, starting, stopping record carriers not specifically of filamentary or web form, or of supports therefor; Control thereof; Control of operating function ; Driving both disc and head
    • G11B19/02Control of operating function, e.g. switching from recording to reproducing
    • G11B19/022Control panels
    • G11B19/025'Virtual' control panels, e.g. Graphical User Interface [GUI]
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B19/00Driving, starting, stopping record carriers not specifically of filamentary or web form, or of supports therefor; Control thereof; Control of operating function ; Driving both disc and head
    • G11B19/02Control of operating function, e.g. switching from recording to reproducing
    • G11B19/027Remotely controlled
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B19/00Driving, starting, stopping record carriers not specifically of filamentary or web form, or of supports therefor; Control thereof; Control of operating function ; Driving both disc and head
    • G11B19/02Control of operating function, e.g. switching from recording to reproducing
    • G11B19/08Control of operating function, e.g. switching from recording to reproducing by using devices external to the driving mechanisms, e.g. coin-freed switch
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Neurosurgery (AREA)
  • Neurology (AREA)
  • Dermatology (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Vascular Medicine (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Description

本発明は、脳波を用いて機器操作を行うインタフェースを搭載した機器に関する。より具体的には、前記インタフェースを搭載した機器において、脳波を計測してユーザの意図を判別する際、機器がユーザの意図判別を誤ったことを自動的に検出し、推定結果を自律的に補正できる機器、方法、およびそのような機器において実行されるコンピュータプログラムに関する。
生活において様々な機器が提案され、それらの機器に囲まれて暮らす中で、ユーザは機器を操作することで所望の情報やサービスを受けている。そのインタフェースの操作性向上の重要性は、機器の数自体の増加、機器を使わないと得られない情報の増加、などから年々高まっている。例えば、情報機器(テレビ、携帯電話、PDA等)においては、画面を見ながら操作の選択肢を選択することで、機器操作が実現されてきた。その操作入力手段としては、ボタンを押す、カーソルを移動させて決定する、画面を見ながらマウスを操作する、などの方法が用いられていたが、例えば、家事、育児や、自動車の運転中など、両手が機器操作以外の作業のために使えない場合は、操作が実行できないこともあった。
これに対して、ユーザの生体信号を利用した入力手段がある。非特許文献1では、脳波の事象関連電位を用いてユーザが選択したいと思っている選択肢を識別する技術が開示されている。具体的には、選択肢をランダムにハイライトし、ユーザが選択したいと思っている選択肢がハイライトされた時点を起点に約300ミリ秒後に出現する事象関連電位(P300と呼ばれることが多い)の波形を利用して、選択肢の推定を実現している。この技術によって、ユーザは両手がふさがっている場合でも、また病気等により手足が動かせない状況においても選択したいと思った選択肢が選択でき、機器操作等のインタフェースが実現できる。また特許文献1においても、同様に事象関連電位を用いた脳波インタフェースの例が説明されている。
特開2004−275619号公報
Donchin他著,"The Mental Prosthesis:Assessing the Speed of a P300−Based Brain−Computer Interface",IEEE TRANSACTIONS ON REHABILITATION ENGINEERING, Vol.8, No.2, June 2000
脳波信号はゆらぎを持つ微弱な信号であるため、ノイズ混入を完全になくすことは難しく、常に正確にユーザの意図が判別できるわけではない。例えば、非特許文献1の図3では、加算回数が少ない場合には100%の判別率には至らないことが示されている。報告によれば、実際、多くの判別手法は、複数回数の加算平均の波形を使って80%−90%程度の判別率を実現したものが多い。
このような状況では、脳波インタフェースの使用時には、機器が必ずしも全ての操作時に正しく判別してくれるとは限らず、例えば、10回程度の操作に対して1〜2回の失敗事例が含まれることを意味する。このため、脳波インタフェース使用時には、正しく意図が伝達できなかった場合に備えて本来の選択肢以外に「戻る」、「キャンセル」等の補助的な選択肢が準備されている。
しかしながら、補助的な選択肢を利用すると、これらの修正用の選択肢を脳波で選択することによって元に戻り、もう一度、選択したかった選択肢を選択しなおすという手間が発生していた。このため、識別精度の向上のための研究が進められてきた。
本発明の目的は、脳波インタフェース(IF)を利用してユーザが希望すると思われる選択肢を判定した後に、脳波によって選択肢の判定誤りを検出し、判定誤りが検出されると選択肢判定に用いられた脳波情報によって選択肢を補正することにある。
本発明による補正装置は、脳波インタフェースシステムに組み込まれる。前記脳波インタフェースシステムは、ユーザの脳波信号を計測し、蓄積する生体信号計測部と、前記脳波信号に含まれる事象関連電位を解析する解析部と、前記脳波解析部による解析結果に基づきユーザが希望した選択肢を推定する推定部と、前記推定部によって推定された選択肢をユーザに提示する出力部とを有している。前記生体信号計測部は、前記ユーザに前記選択肢が提示された時点を起点とした前記ユーザの脳波信号を計測する。前記補正装置は、前記選択肢の推定後に取得された前記脳波信号に含まれる事象関連電位に基づいて、推定された前記選択肢の正誤を判定する判定部と、推定された前記選択肢が誤りであると判定されたときに、前記選択肢の推定前に蓄積された前記事象関連電位に基づいて、推定された前記選択肢を補正し、補正後の選択肢に基づき機器動作を指示する補正部とを備えている。
前記判定部は、前記選択肢の推定後に取得された前記脳波信号のうち事象関連電位の600ミリ秒近辺の陽性波形に基づいて、推定された前記選択肢の正誤を判定してもよい。
前記判定部は、前記選択肢の正誤を判定するための閾値を保持しており、前記判定部は、前記選択肢の推定後に取得された前記脳波信号のうち事象関連電位の600ミリ秒近辺の陽性振幅の大きさが前記閾値以上か否かに応じて、推定された前記選択肢の正誤を判定してもよい。
前記判定部は、前記選択肢の正誤を判定するための閾値を保持しており、さらに前記判定部は、前記選択肢の推定前に取得された前記脳波信号であって、推定された前記選択肢の提示に対応して計測された事象関連電位および他の選択肢の提示に対応して計測された事象関連電位に関し、300ミリ秒近辺の特徴の相違に応じて前記閾値を変化させてもよい。
前記判定部は、推定された前記選択肢の提示に対応して計測された事象関連電位および他の選択肢の提示に対応して計測された事象関連電位に関し、300ミリ秒近辺の頂点振幅の大きさの相違に応じて前記所定の閾値を変化させてもよい。
前記判定部は、前記頂点振幅の大きさの相違を判断するために基準閾値を保持しており、前記判定部は、前記頂点振幅の大きさが前記基準閾値よりも大きい場合には前記選択肢の正誤を判定するための閾値をより大きく変化させてもよい。
前記補正部は、前記選択肢の推定前に取得された、各選択肢の提示に対応して計測された事象関連電位を用いて前記選択肢を補正してもよい。
前記選択肢の推定前において、前記出力部は複数の選択肢を順次提示し、前記生体信号計測部は、各選択肢の提示を起点としてそれぞれ計測された前記ユーザの脳波信号を蓄積し、前記解析部は、各選択肢に対応する前記脳波信号中の事象関連電位のうち、振幅が最も大きい事象関連電位に対応する選択肢を前記ユーザが希望した選択肢であると推定し、前記補正部は、推定された前記選択肢の補正候補として、各選択肢に対応する前記脳波信号中の事象関連電位のうち、振幅が2番目に大きい事象関連電位に対応する選択肢を採用してもよい。
前記判定部によって、推定された前記選択肢が正しいと判定されたとき、前記補正部は推定された前記選択肢を修正しなくてもよい。
本発明による補正方法は、脳波インタフェースシステムにおいて実行される。前記脳波インタフェースシステムは、ユーザの脳波信号を計測し、蓄積する生体信号計測部と、前記脳波信号に含まれる事象関連電位を解析する解析部と、前記脳波解析部による解析結果に基づきユーザが希望した選択肢を推定する推定部と、前記推定部によって推定された選択肢をユーザに提示する出力部とを有している。前記生体信号計測部は、前記ユーザに前記選択肢が提示された時点を起点として前記ユーザの脳波信号を計測する。前記補正方法は、前記選択肢の推定後に取得された前記脳波信号に含まれる事象関連電位に基づいて、推定された前記選択肢の正誤を判定するステップと、推定された前記選択肢が誤りであると判定されたときに、前記選択肢の推定前に蓄積された前記事象関連電位に基づいて、推定された前記選択肢を補正するステップと、補正後の選択肢に基づき機器動作を指示するステップとを包含する。
本発明によるコンピュータプログラムは、脳波インタフェースシステムに組み込まれた補正装置によって実行される。前記脳波インタフェースシステムは、ユーザの脳波信号を計測し、蓄積する生体信号計測部と、前記脳波信号に含まれる事象関連電位を解析する解析部と、前記脳波解析部による解析結果に基づきユーザが希望した選択肢を推定する推定部と、前記推定部によって推定された選択肢をユーザに提示する出力部とを有する。前記生体信号計測部は、前記ユーザに前記選択肢が提示された時点を起点とした前記ユーザの脳波信号を計測する。前記コンピュータプログラムは、前記補正装置のコンピュータに対し、前記選択肢の推定後に取得された前記脳波信号に含まれる事象関連電位に基づいて、推定された前記選択肢の正誤を判定するステップと、推定された前記選択肢が誤りであると判定されたときに、前記選択肢の推定前に蓄積された前記事象関連電位に基づいて、推定された前記選択肢を補正するステップと、補正後の選択肢に基づき機器動作を指示するステップとを実行させる。
脳波インタフェースシステムに組み込まれる本発明の補正装置によれば、機器がユーザの所望の選択肢を誤判定した場合でも自動的に誤りが補正されるので、再操作の必要が減少し脳波インタフェースを効率的に使用できる。
ユーザ10に利用される、実施形態1による脳波インタフェース(IF)システム1の構成を示す図である。 本願発明者らが想定する脳波IFシステム1の構成および利用環境を示す図である。 主として補正装置3の処理の手順を示す図である。 脳波IF装置の処理のフローチャート1である。 (a)および(b)は脳波インタフェースの動作例を示す図である。 脳波IF装置の処理のフローチャート2である。 本願発明者らによる実験方法およびデータ処理方法に関する処理の手順を示すフローチャートである。 (a)〜(c)は、誤推定検出に関する実験画面例を示す図である。 図7に示す実験手続により収集された事象関連電位の波形を加算平均した2種類の波形を示す図である。 (a)および(b)は補正に関する解析結果を示す図である。 実施形態1による脳波IF装置2および補正装置3の処理を時系列的に示す図である。 実施形態1による、誤推定検出処理および推定結果補正処理の手順を示すフローチャートである。 実施形態2による、後期陽性電位の判定閾値の調整方法の手順を示すフローチャートである。
以下、添付の図面を参照しながら、本発明による脳波インタフェースシステムの実施形態を説明する。
実施形態の説明に先立って、本願発明者らの得た知見を説明する。
脳波を利用して選択肢を推定するシステムでは、識別方法を改善して推定精度を向上させたとしても、ユーザ所望の選択肢に判定の誤りが含まれる可能性は完全には排除できないと考えられる。本願発明者らは、誤って判定された選択肢が提示されたときのユーザの反応に着目した。具体的には本願発明者らは、機器側が正しくユーザの選択肢を推定できなかった場合を、ユーザの事象関連電位から特定するための独自の脳波実験を実施し、その事象関連電位の特徴を特定し、また、脳波解析により誤推定時の正解選択肢と誤推定選択肢の波形の特徴を見出した。これら知見を元に、誤推定を機器側で自動的に検出し、推定結果を自動的に補正できる脳波インタフェースを実現できた。以下、実施形態1および2として、脳波インタフェースシステムを詳細に説明する。
なお、本願明細書においては、事象関連電位を取得するためにある時点から起算した所定時間経過後の時刻を、たとえば「約300ミリ秒」や「600ミリ秒近辺」と表現している。これは、「300ミリ秒」や「600ミリ秒」という特定の時刻を中心とした範囲を包含し得ることを意味している。一般的に、事象関連電位の波形には、個人ごとに30〜50ミリ秒の差異(ずれ)が表れることが知られている(加我 君孝ほか編集,「事象関連電位(ERP)マニュアル―P300を中心に−」,篠原出版新社,1995,30p表1)。したがって、「約Xミリ秒」や「Xミリ秒近辺」という語は、Xミリ秒を中心として、「30〜50ミリ秒」の幅がその前後に存在し得ることを意味している。
(実施形態1)
1.脳波インタフェースシステムおよび補正装置の構成
図1は、ユーザ10に利用される、実施形態1による脳波インタフェース(IF)システム1の構成を示す。脳波IFシステム1は、脳波インタフェース(IF)装置2および補正装置3を含んでいる。
脳波IF装置2は脳波によってユーザの意図を判定し、機器に対してユーザの意図に対応する動作を実行させるために利用される。補正装置3は、脳波IF装置2によってユーザ10の意図を判定した結果の正誤を判定し、判定結果を補正するために、脳波IFシステム1に組み込まれている。
脳波IFシステム1の動作の概要は以下のとおりである。脳波IF装置2は、表示装置の画面に表示される複数の選択肢の中からユーザ10が希望すると思われる選択肢をユーザ10の脳波を用いて判定する。補正装置3は、当該選択肢を提示した後のユーザの脳波によって、その選択肢が正しかったか否かを判定する。
ユーザの脳波中に誤っていたことを示す波形が存在することを検出した場合には、補正装置3は選択肢判定に用いられた脳波情報によって選択肢を補正する。補正結果は脳波IF装置2に送られ、脳波IF装置2は補正された選択肢に対応する動作を実行する。
一方、選択肢を提示した後のユーザの脳波によって、その選択肢が正しかったことを検出した場合には、補正装置3は、選択肢の補正を行わない。この結果、脳波IF装置2はその選択肢に対応する動作を実行する。
以下、脳波IFシステム1を構成する脳波IF装置2および補正装置3のそれぞれについて、構成要素を説明する。
脳波IF装置2は、生体信号計測部11と、脳波解析部12と、選択肢推定部13と、出力部14と、制御部17とを有している。
生体信号計測部11は、ユーザ10の頭部に装着された電極における電位変化を計測する機器であり、たとえば脳波計である。脳波解析部12は、生体信号検出部11で検出された脳波データを解析する。選択肢推定部13は、脳波解析部12で解析された結果をもとに、脳波インタフェースでユーザがどの選択肢を選択したいと思っているかを推定する。出力部14は、ユーザ10に対して選択肢の提示や選択結果の提示、その他の機器動作に関する情報を提示する。出力部14は、例えば機器がテレビであればテレビの画面が該当する。このとき出力部14からはテレビ番組等も出力される。
次に、補正装置3は、推定結果正誤判定部15と、推定結果補正部16とを有している。
推定結果正誤判定部15(以下「判定部15」と記述する。)は、出力部14にて提示された選択肢推定結果に対するユーザ10の反応を脳波によって取得する。判定部15は、取得した脳波に基づいて、その推定選択肢の正誤を判定する。
推定結果補正部16(以下「補正部16」と記述する)は、仮に判定部15が機器の選択肢推定結果は誤りであると判定した場合には、正しいと思われる結果(選択肢)を再度推定して先の推定結果を補正し、出力部14に返す。正しい場合には推定結果の補正は行われない。
制御部17は、脳波IF装置2の全体の動作を制御する。制御部17は、たとえば半導体集積回路である。
このように生体信号計測部11は、脳波インタフェースにおける選択肢推定のためと、補正の必要性の判定の両方のときに使用される。
2.脳波IFシステムの具体的構成
本願発明者らは、将来的には、装着型の脳波計と装着型のディスプレイとを組み合わせた環境で脳波IFシステムが構築されることを想定している。ユーザは脳波計とディスプレイとを常に装着し、装着型ディスプレイを利用してコンテンツの視聴や画面の操作を行うことができる。また、他には、家庭用のテレビと装着型の脳波計とを組み合わせた家庭内などの環境でも脳波IFシステムが構築されることを想定している。ユーザはテレビを見るときに、脳波計を装着してコンテンツの視聴や画面の操作を行うことができる。
たとえば図2は、後者の例による、本願発明者らが想定する脳波IFシステム1の構成および利用環境を示す。この脳波IFシステム1は後述する実施形態1のシステム構成に対応させて例示している。
脳波IFシステム1は、ユーザ10の脳波信号を利用してTV14aを操作するインタフェースを提供するためのシステムである。ユーザ10の脳波信号はユーザが頭部に装着した生体信号計測部11によって取得され、無線または有線で脳波IF装置2に送信される。TV14aに内蔵された脳波IF装置2は、脳波の一部を構成する事象関連電位のP3成分を利用してユーザの意図を認識し、チャンネルの切り替えなどの動作を行う。補正装置3は、脳波IF装置2の動作を見ながら、必要に応じて、推定選択肢の補正をすることで、動作の補正を行う。
3.脳波IFシステム1の処理の概要
次に、図3を参照しながら、補正装置3による補正処理を含む脳波IFシステム1の処理を説明する。図3は、主として補正装置3の処理の手順を示す。補正装置3は、脳波IF装置2の処理の後に、脳波IF装置2によって判定された選択肢推定結果が正しかったかどうかを判定して、誤っていた場合には補正する処理を実施する。
ステップS10において、図1の脳波IF装置2は脳波インタフェースを実施する。出力部14には、各場面に応じて選択可能な選択肢が提示され、提示された各選択肢のハイライトの時点を起点とした事象関連電位を解析し、ユーザ10の意図する選択肢を推定する処理を行う。脳波IF装置2の詳細な動作は、別途図4のフローチャートを用いて後述する。ステップS10では、ユーザ10が選択したい選択肢を脳波IF装置2が推定し、その結果が次のステップS20に渡される。
ステップS20において、出力部14はステップS10において推定された選択肢を提示する。これによりユーザ10は意図した選択肢がシステムに伝わったか否かを確認できる。補正装置3は、以下の処理を実行することにより、推定選択肢が正しかったか否かを確認できる。
ステップS30において、生体信号計測部11は、ステップS20で推定結果が表示された時点を起点とした事象関連電位を計測する。この事象関連電位には、システムの提示する選択肢推定結果に対して、ユーザ10がどう感じたかの情報が含まれる。事象関連電位の波形の具体的な説明は後述する。
ステップS40において、補正装置3の判定部15は、ステップS30で計測された事象関連電位から、ユーザ10が思っていた通りの推定ができたかを判定する。推定の正誤判定は、発明者らが実施した実験から特定した脳波の特徴によって行う。誤推定ありと判定された場合には、ステップS50へ進み、誤推定がないと判定された場合にはステップS60へ進む。
ステップS50において、誤推定の判定を受けて、補正部16は、その推定結果を補正する処理を行う。補正方法に関しても、実験結果の解析から知見が得られている。有効な補正方法については後述する。
ステップS60において、出力部14は、ステップS20で得られた推定結果に基づいて、もしくは、ステップS50の補正結果に基づいて、機器動作を実施する。例えばテレビの番組を変更する課題であれば、選択肢には、テレビの番組名などが提示され、本ステップの機器動作としては表示されている画面が選択された番組名に切り替わることを意味する。
以上のような処理により、補正装置3が動作する。以下、上述した各ステップの詳細を説明する。
4.脳波インタフェースの動作概要と処理手順
まず、図3のステップS10において行われる脳波IF装置2の動作を説明する。
脳波IF装置2は、事象関連電位を用いて、ディスプレイ等に表示された複数の選択項目からユーザがどの項目を選択したいかを識別する。図4は、脳波IF装置2の処理のフローチャートを示し、図5に脳波インタフェースの動作例を示す。
以下、図4のフローチャートに沿って、脳波IF装置2の動作を説明する。
ステップS11において、出力部14は現在選択可能な選択肢が列挙されるメニューを表示する。脳波インタフェースが起動されると、図5(a)のようなメニュー画面21が表示される。画面には「どの番組をご覧になりたいですか?」という質問22と、見たい番組の候補である選択肢23が提示される。ここでは「野球」23a、「天気予報」23b、「アニメ」23c、「ニュース」23dの4種類が表示されている。この4種類のうち一つは明るい色でハイライト表示されている。例えば、画面21では「野球」23aがハイライトされている。
ステップS12において、制御部17は、ハイライトされる項目を選択する。図5(a)の例ではまず一番上の「野球」25aが選択される。以下、このステップS42が実行されるたびに、順次、次の選択肢が選択され、4つ目のニュースの次はまた一番目の野球に戻る。
ステップS13において、出力部14においてステップS12で選択された項目がハイライト表示される。ハイライト表示とは、他の項目より明るい背景によって表示されたり、明るい文字色によって表示されたり、それ以外にも、カーソル等で指し示すことによって指示される。ここではユーザ10が見たときに、システム側が現在どの項目について注意して欲しいかが伝わるようになっていればよい。脳波IF装置2では、ユーザ10は自分が選択したい選択肢がハイライトされたタイミングで、「選択したい!」と意識したり、単にハイライトされたことを意識する。この意識が脳波に表れて次のステップで脳波計によって計測される。
ステップS14において、生体信号計測部11によって事象関連電位が取得され、各選択肢に対応するメモリ(図示せず)に蓄積される。事象関連電位は生体信号検出部11の脳波計によって取得され、事象関連電位の起点は、ステップS13にてハイライト表示された瞬間に設定し、この瞬間より例えば200ミリ秒前から1秒後までの脳波を取得する。これによって、ハイライト表示された項目に対するユーザの反応が得られる。ここで各選択肢に対応するメモリに蓄積することで、選択肢間の波形の比較等が可能になる。
ステップS15において、制御部17は、全ての選択肢が表示されたかを判定する。全ての選択肢が表示されればステップS16に進み、全ての選択肢が表示されていない場合にはステップS12に戻り、次にハイライトすべき選択肢が決定される。
ステップS16において、制御部17は、全ての選択肢が所定の回数ずつ表示されたかを判定する。脳波インタフェースにおいては、脳波の波形が揺らいでいて一つ一つの波形にはノイズが多く含まれることが多い場合に、加算平均により必要な信号を取り出す処理を行うことで解決が図られる。この繰り返し数は、例えば5回や10回と設定され、各選択肢がそれぞれ複数回ハイライトされ、その反応を加算して信号判別に用いられる。この繰り返し回数は、脳波の状態や個人の波形の状態、判別精度などによって決められ、1回で加算をしない場合もありえる。
ステップS17において、選択肢推定部13は、ステップS14で蓄積された、各選択肢のハイライトに対する事象関連電位を比較し、P300が最も含まれる波形を抽出して、どの選択肢が選択されたかったかを判定する。例えば、図5(b)の例においては、各事象関連電位は24a〜24dであり、ここで24bのみ、特徴的な波形になっているので、この波形24bに対応する選択肢である「天気予報」23bが、ユーザ10が選択したかった選択肢であると決定される。比較方法は、例えば、約300ミリ秒近辺のピーク振幅の大きさを比較したり、典型的なP300の波形からテンプレートを作成して、そのテンプレートとの類似度を算出したりする手法が挙げられる。
上述の処理によって、事象関連電位から選択肢を推定することが可能になる。
なお、ステップS12では、項目は順次選択されるとしたが、ランダムに選択する方法も可能である。これにより、事前にどの項目が選択されるか不明なため、より注意深くメニューが選択される可能性がある。
また、脳波インタフェースの処理としては、別の方法も考えられる。図4の処理(以下、方式1と呼ぶ)においては、全ての選択肢のハイライトに対する事象関連電位を比較することで、ユーザの意図する選択肢を推定していたが、一つ一つの事象関連電位の処理によっても意図する選択肢を推定できる。以下、この処理方法を方式2と呼ぶ。
図6に、一つ一つの事象関連電位によって選択肢を推定する方式2のフローチャートを示す。図4の方式1のフローチャートに示した処理と同じ処理に対しては同じステップ番号を付与し、異なる部分のみを説明する。
ステップS11〜ステップS13までは、図4の方式1と同様の処理を行う。
ステップS18において、生体信号計測部11は事象関連電位を取得する。図4の方式1と異なり、最後に事象関連電位の比較をする必要がないので、現在の波形のみが記憶されればよい。
ステップS19において、脳波解析部12は現在取得した事象関連電位を、識別方法調整後の識別方法で識別する。識別される内容は、現在取得した脳波の波形が、ユーザ10が選択したい項目に対する波形か、それとも選択したくない項目に対する波形かを判別するものである。図5(b)には、脳波波形の仮想的な例24a〜24dを示す。各メニュー項目がハイライトされた場合に対応する脳波が図5(b)に表示されているとする。ユーザ10が「天気予報」23bを見たいと思っているとした場合に、「天気予報」23bの項目がハイライトされた場合のみに、特徴的な波形24bが見られている様子を示している。これは、事象関連電位の中では、P300成分と呼ばれる成分であり、メニュー項目が切り替わってから約300ミリ秒後に、陽性の特徴的な波形が見られるものである。この成分が観察されたかどうかを判定する。この成分が観察された場合には、ステップS21に進み、観察されない場合はステップS12に戻る。
ステップS21において、選択肢推定部13は、ユーザ10のP300成分が観察された項目が、ユーザ10が選択したかった項目であると判定し、選択肢が決定されて次の処理に渡される。
このような処理によって、ボタン操作等をすることなく、脳波によって意図した選択肢が選択できる。
5.本願発明者らが実施した実験の概要
次に、図7を参照しながら、本願発明者らが実施した実験方法と、データ処理方法とを説明する。併せて、図8を参照しながら、被験者に提示する画面の例を説明する。この実験により、推定結果が正しいかどうかを判定するための事象関連電位の特徴を特定することが可能になった。
図7は、実験方法およびデータ処理方法に関する処理の手順を示す。
ステップS71において、実験プログラムからユーザ10に選択項目の指示を出す。これにより事前にユーザ10がどの項目を選択すべきかを指定して、後からユーザ10の事象関連電位が正しく判定できたかの指標とする。図8(a)は、選択項目の指示の例を示す。画面上に「「野球」を選んでください」31のように指示が出され、ユーザは指示に従って項目を選択する。
図7のステップS72において、脳波IF装置2は脳波インターフェースを動作させる。具体的には、脳波IF装置2は、図4に示した処理によって図8(b)に示す選択肢32a〜32dがユーザ10に提示されたときの事象関連電位にP300が含まれるか否かを判定し、その判定結果に応じて、そのときのユーザ10が選択したい選択肢を決定する。選択肢は、図8(b)のように各選択肢が順次ハイライト表示される。
ステップS73において、推定結果として、たとえば図8(c)の画面33が表示される。画面33には、「あなたが選んだのは「野球」ですね」と表示されている。この推定結果は、ステップS71にて指示をした項目に関係なく、ステップS72の内部で脳波を処理した結果である。このため、必ずしもステップS71で指示の通りの推定結果になるわけではない。この原因としては、脳波の処理アルゴリズムが汎用的なものであり、個人差に対応できずに誤ってしまうもの、ノイズ混入によるもの、脳波がうまく出ていなかった等、複数考えられる。
ステップS74において、ステップS73で推定結果を表示した時点を起点とした事象関連電位を取得する。取得範囲は、例えば、起点から−100ミリ秒〜1000ミリ秒などである。このうち、−100ミリ秒〜0ミリ秒の事象関連電位はベースライン補正に用いられる。なお、起点よりも前に事象関連電位の取得が開始されているが、これは技術的には問題なく可能である。たとえば推定結果を表示する前から事象関連電位の取得を開始しておき事後的に起点の−100ミリ秒以後の事象関連電位を採用すればよいためである。または、推定結果が画面に表示されるタイミングは予め調整可能であるため、それよりも先に事象関連電位の取得開始タイミングを制御することも可能だからである。
ステップS75において、ステップS71でユーザ10に指示した選択肢と、ステップS73で表示されたシステムが推定した選択肢が同一であったかを判定する。もしも、一致していた場合にはステップS76に進み、一致していた場合にはステップS77に進む。
ステップS76において、ステップS74で取得した波形データを、ユーザ10が正しく脳波インタフェースを使用できたときの波形として蓄積する。この事象関連電位には、ユーザ10は思っていた通りの結果がフィードバックされたことを確認した時の情報が含まれていると考えてよい。
ステップS77において、ステップS74で取得した波形データを、ユーザ10が正しく脳波インタフェースを使用できなかった、もしくはインタフェース側が判別を誤ったときの波形として蓄積する。この事象関連電位には、ユーザ10は思っていたのとは違う結果がフィードバックされたことを知った時の情報が含まれていると考えてよい。
このステップS71からステップS77の処理により、ある所定の選択項目指示に対して、ユーザ10が正しく脳波インタフェースを操作できたか、もしくはユーザ10の操作意図が正しく脳波インタフェースに伝わったかに関する事象関連電位が取得できる。選択項目指示を変化させながらこの操作を所定の回数繰り返すことにより、ユーザ10の正しく推定できたとき、推定できなかったときの波形を収集できる。実験においては、この処理を12名の被験者に対して実施した。
図9は、図7に示す実験手続により収集された事象関連電位の波形を加算平均した波形を示す。脳波は、頭皮上のPz(国際10−20法)における電位変化で耳朶を基準に計測した。被験者は12名、うち、誤って判別される事例を含むデータのみを集計した。縦軸は頭皮上の電位で単位はμV、横軸は推定結果を表示した時点を起点とした経過時間で、単位はミリ秒である。
図9において点線41は、正しく選択肢が選択でき、正しい判別が行われたときの波形である。この点線41の波形は、約300ミリ秒を中心とした、下向き(陽性)の山形の波形を持ち、これはユーザの期待通りのフィードバックがシステムから返された場合に誘発するとされているP300の波形と考えられる。
一方、実線42の波形は、ユーザ10が想定していた選択肢とは異なる選択肢が表示された場合の波形である。この赤色の波形は約400−600ミリ秒を中心とした下向き(陽性)の比較的なだらかな山形の波形を持つ。これは、ユーザの意図した選択肢とは異なる選択肢がシステムから返された場合に誘発された波形であると考えられる。これは、P300よりも遅い時間帯に見られる陽性成分を持つ波形である。本明細書においてはこの波形を、「後期陽性電位」(Late Positive Potential:LPP)と呼ぶことにする。
この後期陽性電位と類似の信号としては、特許第3786952号の「サービス提供装置、期待はずれ判定装置および期待はずれ判定方法」における、フィードバック時点から約600ミリ秒後に陽性成分を持つ信号が挙げられる。当該特許にかかる信号は、自分の行為に対するフィードバックが明らかに期待通りではない場合に現れる信号であり、約550〜600ミリ秒近辺に比較的明確なピークを持つ波形が得られている。
本発明にかかる今回の実験では、新しい信号が得られていると考えてよい。その理由は、機器に意図を伝達しようとした場面で正しく伝達できなかった状況を計測したものであり、状況が異なること、および、波形の特徴も互いに異なるためである。また、意図通りの選択肢が選択できた場面(期待通りの場面)の波形の比較においても、上述した特許ではP300が見られないため、異なった状況での計測であるといえる。
実験の結果をまとめると以下の知見が新たに得られた。すなわち、ユーザ10が待ち構えていた通りのフィードバックがされていた場合、すなわちシステムが正しく脳波を判別できた場合にはP300が観察される。一方、ユーザ10が待ち構えていたのとは異なるフィードバックがなされた場合、すなわちシステムが選択肢の推定を誤った場合)には、後期陽性電位が観察される。
上述の信号を検出することで、システムがユーザ10の選択肢を正しく推定できたか否かを判定できる。信号の区別には、下向きの山形の波形の頂点の時間(潜時)を比較したり、図8の加算波形をテンプレートにして、そのテンプレートとの形の違いを見たりすることで、システム側の推定誤りを検出でき、推定結果の修正が必要かどうか知ることができる。より具体的には、下向きの山形の波形の頂点の潜時が600ミリ秒に近いか、それとも、300ミリ秒に近いかによって判別可能で、600ミリ秒に近い場合には後期陽性電位が発生し、300ミリ秒に近い場合にはP300が発生していると判定できる。
また、後期陽性電位の山形の波形はなだらかなため、頂点の検出が難しい場合には、それぞれ後期陽性電位とP300の加算波形をテンプレートにして、どちらのテンプレートに近いかで、後期陽性電位の検出を行っても良い。
または、図9の2本の波形を比較すると、電位は約450ミリ秒より早い時間帯ではP300の方が大きくなり、約450ミリ秒より遅い時間帯では後期陽性電位のほうが、電位(振幅)が大きい。よって、電位の変化を判別に使っても良い。例えば、300ミリ秒〜450ミリ秒の区間平均電位と、450ミリ秒と600ミリ秒の区間平均電位を比較して、前者のほうが大きい場合にはP300が発生したと判定し、後者のほうが大きい場合には後期陽性電位が発生したと判定する、などと考えられる。
6.補正に利用するためのデータの分析
次に、補正方法について検討を行った。図10(a)は、図4のステップS14にて蓄積された事象関連電位のうち、正解選択肢の振幅の大きさが全選択肢の中で何番目であったかを試行毎に分析し、カウントした表を示す。この表は、図7のステップS72の脳波インタフェースを実施する中で、正解の選択肢に対するP300の振幅が、その他の選択肢も含めた全部で4つの事象関連電位の中で何番目に大きかったかを示している。例えば正解選択肢が提示されたときのP300の振幅は、全96試行のうち69試行において最大値を取っていた、すなわちどの不正解選択肢が提示されたときよりもP300の振幅は大きかったことを示している。また、全96試行のうち14試行では、2番目に大きい値を取っていたことを示している。
ステップS72の脳波インタフェースにおいては、各選択肢のハイライトの時点に対応した4つの事象関連電位のうち、P300成分またはその近辺の時刻における成分の振幅が最も大きいものを推定選択肢として決定していた。しかしながら実際には、脳波の波形は揺らぎやノイズの混入等により、必ずしも常に4つの選択肢のうちで最大の振幅を取るわけではない。これを示したのが図10(a)である。
被験者12名で8試行ごとの選択を行い、全体で96試行のデータを解析した。このうち正解の選択肢のP300の振幅が最大であったものが、69試行で全体の72%存在した。したがって、P300の最大振幅が正解選択肢であると推定したときの正答率は、72%になる。
また、図10(a)の表に示されるように、波形の振幅の分析結果からは、ユーザ10が選択したい選択肢が4つの選択肢の中の2番目であった事例が14回、3番目であった事例が7回、4番目であった事例が6回あった。
この結果によれば、仮に最大振幅が得られたときの選択肢が間違いであったとしても(表では96回中の27回)、2番目の振幅の選択肢が正解である確率は27回中の14回と50%以上を示すことが読み取れる。このため、図3のステップS40で推定が誤っていると判定されたときには、脳波インタフェース使用時の各選択肢のハイライトに対する事象関連電位のうち、2番目にP300の振幅が大きかった選択肢に補正することで、半分以上のケースでは正解になることが明らかになった。この知見を活用すると、ある程度の補正も可能になる。
図10(b)は、図10(a)の実験データに基づく、補正効果の検討結果を示す。全96試行のうち、誤りがなく正しく推定できたであろう事例が69回で、誤り判定のないときの正解率は72%であると算出できる。これに対して誤り判定後の補正(振幅が2番目に大きな候補に補正すること)を少なくとも1回導入すると、誤り回数27回中14回が正しく補正されて、合計では96回中の83回(=69回+14回)は正解にたどり着くことができるようになり、全体での正答率は87%に向上する。
このように、P300の振幅の上位2位以内に多くの事例が集中する理由は、ノイズはある程度の間隔をあけて突発的に起こり、すべての選択肢の提示中に平均的に影響を及ぼすと考えられるためである。例えば、瞬きをしたことによる眼電の変化は突発的な変化として脳波に影響を与えるが、この場合には、4つの選択肢に対する事象関連電位の中に、正解の選択肢に対応した事象関連電位と、眼電の影響を受けた事象関連電位が混在することになり、このような場合に1位と2位の混同が発生したとも考えられる。この考えによれば、選択肢が5つやそれ以上になった場合でも、ノイズ混入が連続しない限りは、正解選択肢は1位もしくは2位に含まれ、この補正は有効であると考えられる。選択肢のハイライトが一巡するのには、ハイライト間隔(例えば0.3秒〜1秒程度)にも依存するがおよそ1から3秒程度が想定されるので、通常であれば瞬きがこの間に何度も発生しないので、この補正は有効に機能すると考えられる。
このような理由から、2位の選択肢と3位以降の選択肢には、正解脳波の混入する確率に大きな違いが生じると考えられる。この特性は、選択肢の数が4の場合でなく、5以上の場合にも当てはまる。
また、正解選択肢が3位以降になる条件を想定すると、正解選択肢以外の2以上の選択肢に、P300と類似の波形が見られることが必要になる。このような条件は突発的に混入するノイズ源では生じにくい。よって、他の原因により、正解選択肢が3位以降になったと考えられる。
たとえば、ユーザの脳波がハイライトのタイミングで出なかった等のユーザ側の原因や、ノイズ混入が常にあって波形が安定しない等の状況が考えられ、この場合には、フィルタの改善や電源や電極装着方法の工夫等、定常的なノイズ対策を行うことで、2位以上に正解が含まれる可能性を高めることができる。
なお、本実験では12名の被験者に対して行った実験の結果を示したが、脳波IF装置2での判別方法は、200ミリ秒から500ミリ秒の区間平均電位を比較する方法を取っていた。この方法は、様々な形状の脳波波形に対して比較的ロバストに作用するが、正しくP300を判定しているとは言いがたい面もある。判別方法を改良することで、最初の72%の正解率も向上すると考えられる。また、個人毎のデータに最適化をすることも効果のある方法である。
このような判別方法の改善は、複数の選択肢に定常的に混入するノイズを除去することに貢献し、複数の選択肢の波形がP300と類似の波形に見える確率を低減する。よって、正解選択肢が2位になる場合と3位以降になる場合の確率の差を大きくし、2位の候補に補正する効果を高めると考えられる。
また、最初の72%の正解率が向上すると、誤推定検出ステップS40の検出精度も向上することが考えられる。脳波では、低頻度の事象に対しては振幅が大きくなることが知られており(宮田洋監修「新生理心理学2巻」P14参照)、ユーザ10の意図と違う推定結果を表示した場合の、後期陽性電位の振幅も大きくなると考えられ、検出が容易になると想定される。
このため判別方法をチューニングすることで、誤判定の検出の精度も向上し、相乗的に全体の精度は向上することが見込まれる。
以上のように、誤推定時のユーザ10の特徴的な脳波成分により、機器側の推定結果が誤りであったかが機器側で把握でき、さらに自動的に補正できる可能性もあることがわかる。
7.誤推定検出処理および推定結果補正処理の手順の詳細
これまでに得られた実験の結果を踏まえ、次に、図11および図12を参照しながら、本実施形態による誤推定検出処理および推定結果補正処理の手順を詳細に説明する。この処理は、推定選択肢が決定され、ユーザに対して表示された後に実行される。
図11は、本実施形態による脳波IF装置2および補正装置3の処理を時系列的に示す。横軸は時間軸であり、右方向に時間が進む。図11では、時間軸の上側に処理内容が記載されている。以下、時間軸に沿って処理を概説する。
まず脳波IF装置2の制御部17は、項目の選択およびハイライトを繰り返す(図11ステップS101)。そしてその都度事象関連電位の波形を蓄積する(ステップS102)。これらの処理は、図4のステップS12〜S14に対応する。
項目のハイライトが終了すると、脳波IF装置2の選択肢推定部13は、蓄積された事象関連電位の波形に基づいて選択肢を推定し決定する(ステップS103)。この処理は、図4のステップS17に対応する。
その後、出力部14は推定結果を表示する(ステップS104)。
以後、補正装置3により、その選択肢がユーザの希望する選択肢であるか否かを判定する処理が開始される。
補正装置3は、出力部14によって推定された選択肢が表示された時点を起点として、たとえば−100ミリ秒〜600ミリ秒の範囲の事象関連電位の波形を取得する(ステップS105)。
そして補正装置3の判定部15は、得られた事象関連電位中に、図9において説明した後期陽性電位が発生しているか否かを判定する。判定部15が後期陽性電位の発生を認定すると(ステップS106)、出力部14に表示された選択肢は誤りであったということができる。そこで補正部16は、推定した選択肢を補正する処理を実行し、他の選択肢を決定する(ステップS107)。このとき他の選択肢を決定する根拠として利用されるのが、最初の選択肢を決定する際に利用された、蓄積された事象関連電位である。
補正部16は、項目ハイライト時に蓄積された事象関連電位を抽出して、その事象関連電位のP300の振幅が2番目に大きかったときに提示された選択肢を、次の候補として選択する。
補正部16は補正結果としてその選択肢を脳波IF装置2に通知し、出力部14はその選択肢を提示する。脳波IF装置2はその選択肢に対応する動作を機器に実行させる(ステップS108)。
以下、図12を参照しながら処理の手順を説明する。図12は、本実施形態による、誤推定検出処理および推定結果補正処理の手順を示す。予め項目ハイライトが行われ、ある選択肢がユーザの意図を示すものであるとして推定され、特定されているとする。
ステップS30において、出力部14は推定選択肢を表示する。
ステップS40において、生体信号計測部11は、推定結果の確認用の脳波(事象関連電位)を計測する。図11から明らかなように、この計測は、選択肢のハイライトに対して行われた事象関連電位の計測ではない。
ステップS51において、生体信号計測部11は、ステップS30での表示の時点を起点にして事象関連電位を切り出す。切り出す範囲は、たとえば−100ミリ秒〜600ミリ秒である。この範囲であれば、脳波IFシステム1の反応時間を短くすることが可能である。ただし、反応時間に余裕を持たせることが許される場合には、例えば−100ミリ秒〜1000ミリ秒などであってもよい。この間隔は、システムに求められる反応時間と、検出精度との兼ね合いで決定される。
ステップS52において、判定部15は、ステップS51で切り出された事象関連電位の中に後期陽性電位が含まれているかを判定する。後期陽性電位の判定には、波形の形状や、頂点の潜時が何ミリ秒近辺にあるかなどを用いることで判定が可能である。また、標準的なP300と後期陽性電位の波形のテンプレートを作成して、どちらのテンプレートに現在の波形が近いかを算出してもよい。後期陽性電位が含まれていると判定された場合は、ステップS61に進み、推定選択肢の補正が行われる。一方、後期陽性電位が含まれていないと判定された場合には、推定が正しかったことを意味する。処理はステップS63に進む。
ステップS61において、推定選択肢の補正のために、補正部16は、図4のステップS14にて蓄積されていた各選択肢のハイライトに対する事象関連電位をメモリから抽出する。各事象関連電位は、ステップS16の繰り返し回数に応じて、加算平均されている場合も、加算平均されていない場合もある。
ステップS62において、補正部16は、ステップS61で抽出した各選択肢のハイライトに対する波形から、振幅が2位の選択肢を候補として補正する。これにより、第1位が間違っていた場合には、半分以上の確率で第2位の選択肢が正解であるという知見を活用できる。
ステップS63において、選択肢の補正がないので、補正部16は、脳波IF装置2に対して選択肢の補正を行わないことを示す信号を送信する。その結果、ステップS30で決定された選択肢が、最終選択肢として、脳波解析部12から出力部14に送られる。その後処理はステップS64に進む。
ステップS64において、機器が実施すべき最終的な選択肢が決定されたのを受けて、出力部14は機器に動作を実行させる。例えば本実施形態のようにテレビにおける番組選択においては、テレビに対して選択された番組に切り替えて表示するよう指示する。
このような処理によって、もしも脳波のゆらぎやノイズの混入などによって、機器が推定を誤った場合でも、その選択肢の補正ができ、再操作の回数を減少させることができるので、脳波インタフェースの操作性が向上する。
以上の構成により、脳波信号を脳波インタフェースにおける選択肢の推定に使用するだけでなく、選択肢の推定結果の正誤の判別にも使用することにより、ユーザの意図をより正確に伝えることができ、効率的に脳波インタフェースを使用できる。
(実施形態2)
実施形態1では、補正装置の全体の動作について説明した。
本実施形態では、脳波IF装置2の動作中の脳波を用いて、さらに誤推定の検出精度を調整可能な例を説明する。
本願発明者らは、以下の点に着眼した。すなわち、脳波インタフェースの実行時には、図5(b)のように、各選択肢のハイライトに対して様々な波形が観察されるが、この波形の状況によって、ユーザ10の選択の意図がどの程度明瞭に機器に伝達できたかが判定できる。この判定内容に応じて誤推定検出の方法を調整することが可能である。
以下、図13を参照しながら、脳波IF装置2におけるP300の信頼度に応じて後期陽性電位の判定の閾値を調整する処理を説明する。
図13は、本実施形態による、後期陽性電位の判定閾値の調整方法の手順を示す。この処理は、判定部15において行われる誤推定検出処理の一部として実行される。
ステップS81において、脳波インタフェース実施時の波形を参照するために、判定部15は、図4のステップS14にて蓄積されていた各選択肢のハイライトに対する事象関連電位をメモリから抽出する。各事象関連電位は、ステップS16の繰り返し回数に応じて、加算平均されている場合も、加算平均されていない場合もある。
ステップS82において、判定部15は、ステップS81で抽出された波形から、P300の振幅が最も大きいものを選び出す。振幅の算出方法は、例えば、200ミリ秒から400ミリ秒の区間において、山形の波形を抽出しその最高点の振幅を用いるなどが考えられる。
ステップS83において、判定部15はステップS83で抽出された波形から、P300の振幅が2番目に大きいものを選び出す。
ステップS84において、ステップS82とS83で抽出された2つの振幅の差を検出する。その差が閾値よりも大きい場合にはステップS84へ進み、閾値よりも小さい場合にはステップS87へ進む。この振幅の差は、どれぐらい振幅が最も大きいユーザの選択肢の候補が、その他の選択肢とどれぐらいかけ離れているか、すなわち、どれぐらいはっきりと選択したい選択肢のみにP300の波形が見られているかの指標として利用可能である。
脳波は、揺らぎが多く、ノイズの影響も受けやすい。したがって、ノイズの影響を受けてたまたまP300と類似の形状になった場合には、真のP300を含む事象関連電位とP300と類似の形状を含む事象関連電位の2つが見られることになり、振幅の1位と2位の差が小さくなることが想定される。このときは、2位が正解である可能性も高いと考えられる。
なお、振幅の差は実験的に妥当な値が決定可能であるが、差の大きさは例えば数μV、より具体的には2μV等が使用可能と考えられる。なお、差の絶対値によらず振幅の大きさの比によっても判定可能で、1位の振幅の何%以上の振幅が見られたかどうかを指標としてもよい。例えば2位の振幅が1位の80%より大きい場合には差が小さいと判定し、80%以下の場合には差が大きいと判定すればよい。この値も実験的に妥当な値が決定可能である。
ステップS85およびステップS87は、判定部15の処理結果によって示される信頼度の高さを示している。
ステップS85は、ステップS84において振幅差が大きいと判定された結果として、信頼度が高いことを意味している。1位と2位の振幅差が大きいということは、P300の波形が全選択肢の中で一つだけ際立っていたということになり、P300の波形が正しく出ていたと考えられる。よって、その波形の信頼度は高いということになる。信頼度が高い場合には、誤推定検出ステップS40において、なるべく誤推定の信号が検出されにくく設定すればよい。誤推定検出ステップの後期陽性電位の有無の判定においても、脳波を用いるため、ノイズ混入の可能性があり、後期陽性電位の検出されやすさを調整することは、補正装置3全体の効率を向上させることにつながる。
そこでステップS86において、誤推定検出ステップS40における後期陽性電位検出の閾値を高く設定する。閾値とは例えば後期陽性電位検出のための基準の振幅の大きさなどが対応する。閾値を高くすると、振幅が大きい場合のみに後期陽性電位が発生したと判定されるようになる。これにより後期陽性電位は検出がされにくくなり、多少のノイズの影響で後期陽性電位に類似の波形が見られたとしても、後期陽性電位が検出されなくなる。
ステップS87は、ステップS84において振幅差が小さいと判定された結果として、P300検出の信頼度が低いことを意味している。これは、ユーザ10が実際に望んでいた選択肢は、2位とされた選択肢であった可能性も高いと考えられることに起因する。
そこでステップS88において、ステップS86と反対に、後期陽性電位の閾値を低く設定し、後期陽性電位が検出されやすくすることで、なるべく誤推定時の後期陽性電位反応を見逃さないようにできる。
このように脳波IF装置2で蓄積された事象関連電位の波形の形状の特徴に基づき、判定部15の信頼度を高めることができる。
なお、本実施形態では、信頼度の判定に振幅の差を用いたが、選択肢候補の1位と2位が明確に異なるか、似ているかの情報を元に信頼度を算出できればよい。例えば、1位と2位、もしくは1位とそれ以外の波形の類似度を用いたり、標準的なP300のテンプレートとの相関係数を用いたりすることでも、同様に信頼度の判別が可能である。
このように、判定部15における後期陽性電位成分の検出の閾値も調整することで、より誤推定時の判定も正確になり、インタフェースの使いやすさがさらに向上する。
以上、上述の実施形態1および2のいずれについても、フローチャートを用いて説明した処理はコンピュータに実行されるプログラムとして実現され得る。そのようなコンピュータプログラムは、CD−ROM等の記録媒体に記録されて製品として市場に流通され、または、インターネット等の電気通信回線を通じて伝送される。出力部14を除く脳波IF装置2の全体および補正装置3は、コンピュータプログラムを実行する汎用のプロセッサ(半導体回路)として実現される。または、そのようなコンピュータプログラムとプロセッサとが一体化された専用プロセッサとして実現される。
本発明にかかる補正装置3は、機器制御に脳波インタフェースが使用されるシステムにおいて、脳波によるユーザの希望の選択に誤りが存在し得る種々の場面で、候補として推定された選択肢を新たな選択肢に補正するために幅広く利用可能である。
1 脳波インタフェースシステム
2 脳波インタフェース装置
3 補正装置
10 ユーザ
11 生体信号計測部
12 脳波解析部
13 選択肢推定部
14 出力部
15 推定結果正誤判定部
16 推定結果補正部
21 メニュー項目画面
22 メッセージ欄
23 選択肢ハイライト
24 事象関連電位
31 選択項目指示画面
32 選択肢ハイライト
33 推定結果表示画面
41 事象関連電位(正しく判別)
42 事象関連電位(誤判別)

Claims (11)

  1. 脳波インタフェースシステムに組み込まれる補正装置であって、
    前記脳波インタフェースシステムは、
    ユーザの脳波信号を計測し、蓄積する生体信号計測部と、
    前記脳波信号に含まれる事象関連電位を解析する解析部と、
    前記脳波解析部による解析結果に基づきユーザが希望した選択肢を推定する推定部と、
    前記推定部によって推定された選択肢をユーザに提示する出力部と
    を有し、前記生体信号計測部は、前記ユーザに前記選択肢が提示された時点を起点とした前記ユーザの脳波信号を計測し、
    前記補正装置は、
    前記選択肢の推定後に取得された前記脳波信号に含まれる事象関連電位に基づいて、推定された前記選択肢の正誤を判定する判定部と、
    推定された前記選択肢が誤りであると判定されたときに、前記選択肢の推定に用いた前記事象関連電位に基づいて、推定された前記選択肢を補正し、補正後の選択肢に基づき機器動作を指示する補正部と
    を備えた、補正装置。
  2. 前記判定部は、前記選択肢の推定後に取得された前記脳波信号のうち事象関連電位の600ミリ秒近辺の陽性波形に基づいて、推定された前記選択肢の正誤を判定する、請求項1に記載の補正装置。
  3. 前記判定部は、前記選択肢の正誤を判定するための閾値を保持しており、
    前記判定部は、前記選択肢の推定後に取得された前記脳波信号のうち事象関連電位の600ミリ秒近辺の陽性振幅の大きさが前記閾値以上か否かに応じて、推定された前記選択肢の正誤を判定する、請求項2に記載の補正装置。
  4. 前記判定部は、前記選択肢の正誤を判定するための閾値を保持しており、
    さらに前記判定部は、前記選択肢の推定に用いた前記脳波信号であって、推定された前記選択肢の提示に対応して計測された事象関連電位および他の選択肢の提示に対応して計測された事象関連電位に関し、300ミリ秒近辺の特徴の相違に応じて前記閾値を変化させる、請求項2に記載の補正装置。
  5. 前記判定部は、推定された前記選択肢の提示に対応して計測された事象関連電位および他の選択肢の提示に対応して計測された事象関連電位に関し、300ミリ秒近辺の頂点振幅の大きさの相違に応じて前記所定の閾値を変化させる、請求項4に記載の補正装置。
  6. 前記判定部は、前記頂点振幅の大きさの相違を判断するために基準閾値を保持しており、
    前記判定部は、前記頂点振幅の大きさが前記基準閾値よりも大きい場合には前記選択肢の正誤を判定するための閾値をより大きく変化させる、請求項5に記載の補正装置。
  7. 前記補正部は、前記選択肢の推定前に取得された、各選択肢の提示に対応して計測された事象関連電位を用いて前記選択肢を補正する、請求項1に記載の補正装置。
  8. 前記選択肢の推定前において、
    前記出力部は複数の選択肢を順次提示し、
    前記生体信号計測部は、各選択肢の提示を起点としてそれぞれ計測された前記ユーザの脳波信号を蓄積し、
    前記解析部は、各選択肢に対応する前記脳波信号中の事象関連電位のうち、振幅が最も大きい事象関連電位に対応する選択肢を前記ユーザが希望した選択肢であると推定し、
    前記補正部は、推定された前記選択肢の補正候補として、各選択肢に対応する前記脳波信号中の事象関連電位のうち、振幅が2番目に大きい事象関連電位に対応する選択肢を採用する、請求項7に記載の補正装置。
  9. 前記判定部によって、推定された前記選択肢が正しいと判定されたとき、前記補正部は推定された前記選択肢を修正しない、請求項1に記載の補正装置。
  10. 脳波インタフェースシステムにおいて実行される補正方法であって、
    前記脳波インタフェースシステムは、
    ユーザの脳波信号を計測し、蓄積する生体信号計測部と、
    前記脳波信号に含まれる事象関連電位を解析する解析部と、
    前記脳波解析部による解析結果に基づきユーザが希望した選択肢を推定する推定部と、
    前記推定部によって推定された選択肢をユーザに提示する出力部と
    を有し、前記生体信号計測部は、前記ユーザに前記選択肢が提示された時点を起点として前記ユーザの脳波信号を計測し、
    前記補正方法は、
    前記選択肢の推定後に取得された前記脳波信号に含まれる事象関連電位に基づいて、推定された前記選択肢の正誤を判定するステップと、
    推定された前記選択肢が誤りであると判定されたときに、前記選択肢の推定に用いた前記事象関連電位に基づいて、推定された前記選択肢を補正するステップと、
    補正後の選択肢に基づき機器動作を指示するステップと
    を包含する、補正方法。
  11. 脳波インタフェースシステムに組み込まれた補正装置において実行されるコンピュータプログラムであって、
    前記脳波インタフェースシステムは、
    ユーザの脳波信号を計測し、蓄積する生体信号計測部と、
    前記脳波信号に含まれる事象関連電位を解析する解析部と、
    前記脳波解析部による解析結果に基づきユーザが希望した選択肢を推定する推定部と、
    前記推定部によって推定された選択肢をユーザに提示する出力部と
    を有し、前記生体信号計測部は、前記ユーザに前記選択肢が提示された時点を起点とした前記ユーザの脳波信号を計測し、
    前記コンピュータプログラムは、前記補正装置のコンピュータに対し、
    前記選択肢の推定後に取得された前記脳波信号に含まれる事象関連電位に基づいて、推定された前記選択肢の正誤を判定するステップと、
    推定された前記選択肢が誤りであると判定されたときに、前記選択肢の推定に用いた前記事象関連電位に基づいて、推定された前記選択肢を補正するステップと、
    補正後の選択肢に基づき機器動作を指示するステップと
    を実行させる、コンピュータプログラム。
JP2009538918A 2007-10-29 2008-10-28 脳波インタフェースシステムに組み込まれる補正装置、方法およびコンピュータプログラム Active JP4630382B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2007280896 2007-10-29
JP2007280896 2007-10-29
PCT/JP2008/003059 WO2009057278A1 (ja) 2007-10-29 2008-10-28 脳波インタフェースシステムに組み込まれる補正装置、方法およびコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP4630382B2 true JP4630382B2 (ja) 2011-02-09
JPWO2009057278A1 JPWO2009057278A1 (ja) 2011-03-10

Family

ID=40590685

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009538918A Active JP4630382B2 (ja) 2007-10-29 2008-10-28 脳波インタフェースシステムに組み込まれる補正装置、方法およびコンピュータプログラム

Country Status (4)

Country Link
US (1) US8271076B2 (ja)
JP (1) JP4630382B2 (ja)
CN (1) CN101652740B (ja)
WO (1) WO2009057278A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008059878A1 (fr) * 2006-11-15 2008-05-22 Panasonic Corporation Dispositif d'ajustement pour un procédé d'identification d'ondes cérébrales, procédé d'ajustement et programme informatique
US8391966B2 (en) * 2009-03-16 2013-03-05 Neurosky, Inc. Sensory-evoked potential (SEP) classification/detection in the time domain
US8155736B2 (en) 2009-03-16 2012-04-10 Neurosky, Inc. EEG control of devices using sensory evoked potentials
JP4856791B2 (ja) * 2010-02-25 2012-01-18 パナソニック株式会社 脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム
KR101205892B1 (ko) * 2010-08-24 2012-11-28 연세대학교 원주산학협력단 뇌파 신호로부터 2차원 공간-주파수 erd/ers 패턴을 생성하는 방법, 이 2차원 공간-주파수 erd/ers 패턴을 이용한 인간 의도를 분류하는 방법 및 이 분류 방법으로 분류된 뇌파 신호를 입력신호로 사용하는 뇌-컴퓨터 인터페이스 장치
CN103099693A (zh) * 2013-02-07 2013-05-15 王禹 基于脑电/语音指令助残控制系统
WO2015198309A1 (en) * 2014-06-23 2015-12-30 Hochman Eldad Izhak Detection of human-machine interaction errors
CN104799984B (zh) * 2015-05-14 2017-01-25 华东理工大学 基于脑控移动眼的残疾人辅助系统及其控制方法
US20170199748A1 (en) * 2016-01-13 2017-07-13 International Business Machines Corporation Preventing accidental interaction when rendering user interface components
JP6592416B2 (ja) * 2016-09-29 2019-10-16 マクセル株式会社 タスク実行順序決定システムおよびタスク実行方法
US10952680B2 (en) 2017-12-27 2021-03-23 X Development Llc Electroencephalogram bioamplifier
US10671164B2 (en) 2017-12-27 2020-06-02 X Development Llc Interface for electroencephalogram for computer control
US10901508B2 (en) * 2018-03-20 2021-01-26 X Development Llc Fused electroencephalogram and machine learning for precognitive brain-computer interface for computer control
US11667297B2 (en) * 2019-06-26 2023-06-06 Hyundai Motor Company Vehicle controlling method and apparatus using error monitoring
CN113662564B (zh) * 2021-09-24 2022-10-14 电子科技大学 一种基于本征模函数相干分析的事件诱发电位提取装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007066440A1 (ja) * 2005-12-08 2007-06-14 Matsushita Electric Industrial Co., Ltd. 情報処理システム、情報処理装置および方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61184683A (ja) 1985-02-12 1986-08-18 Nec Corp 認識結果選択方式
JP3748429B2 (ja) 2002-11-06 2006-02-22 日本電信電話株式会社 音声入力型複合名詞の検索装置および音声入力型複合名詞の検索方法
JP2004275619A (ja) 2003-03-19 2004-10-07 Kumamoto Technology & Industry Foundation 画像刺激−脳波意思伝達方法、及びそれに用いるシステム
US7546158B2 (en) * 2003-06-05 2009-06-09 The Regents Of The University Of California Communication methods based on brain computer interfaces
JP3786952B2 (ja) 2003-06-27 2006-06-21 松下電器産業株式会社 サービス提供装置、期待はずれ判定装置および期待はずれ判定方法
JP4369290B2 (ja) 2003-07-02 2009-11-18 尚之 加納 事象関連電位を利用したヒトの心理状態等の判定装置
WO2006051709A1 (ja) * 2004-11-10 2006-05-18 Matsushita Electric Industrial Co., Ltd. 誤操作検出装置およびこれを有する機器、誤操作検出方法、並びに機器評価方法
JP4891580B2 (ja) 2005-08-31 2012-03-07 株式会社東芝 不揮発性半導体記憶装置
US20090062680A1 (en) * 2007-09-04 2009-03-05 Brain Train Artifact detection and correction system for electroencephalograph neurofeedback training methodology

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007066440A1 (ja) * 2005-12-08 2007-06-14 Matsushita Electric Industrial Co., Ltd. 情報処理システム、情報処理装置および方法

Also Published As

Publication number Publication date
US20100106042A1 (en) 2010-04-29
CN101652740A (zh) 2010-02-17
CN101652740B (zh) 2012-06-13
US8271076B2 (en) 2012-09-18
JPWO2009057278A1 (ja) 2011-03-10
WO2009057278A1 (ja) 2009-05-07

Similar Documents

Publication Publication Date Title
JP4630382B2 (ja) 脳波インタフェースシステムに組み込まれる補正装置、方法およびコンピュータプログラム
JP4856791B2 (ja) 脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム
US7716697B2 (en) Information processing system, information processing apparatus, and method
EP2081100B1 (en) Adjusting device for brain wave identification method, adjusting method and computer program
JP4399513B2 (ja) 脳波インタフェースシステム、脳波インタフェース装置、方法およびコンピュータプログラム
US20100130882A1 (en) Apparatus, method and program for adjusting distinction method for electroencephalogram signal
US7536270B2 (en) Service providing system, disappointment judging system, and disappointment judging method
US8126541B2 (en) Device and method for deciding necessity of brainwave identification
JPWO2006003901A1 (ja) 生体信号利用機器およびその制御方法
Jin et al. P300 Chinese input system based on Bayesian LDA
JP2010102465A (ja) Gui変更方法及び変更装置
CN112859628A (zh) 基于多模态脑机接口与增强现实的智能家居控制方法
US8326409B2 (en) Adjustment device, method, and computer program for a brainwave identification system
JP2009199535A (ja) 脳波識別方法の調整装置および方法
JP2020151082A (ja) 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム
JP4686299B2 (ja) ユーザビリティ評価装置、ユーザビリティ評価方法およびプログラム
JP2003058298A (ja) 情報分類装置、情報分類方法、情報分類プログラム及びコンピュータ読み取り可能な記録媒体
KR102476690B1 (ko) 확률기반 시각자극 동적 최적화 기술을 이용한 뇌-컴퓨터 인터페이스 문자 입력 장치 및 방법
Takahashi et al. Combination of reliability-based automatic repeat request with error potential-based error correction for improving P300 speller performance
CN114098678A (zh) 一种多参数监护仪控制方法和多参数监护仪

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101019

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101112

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131119

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4630382

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150