JP4856791B2 - 脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム - Google Patents

脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム Download PDF

Info

Publication number
JP4856791B2
JP4856791B2 JP2011532442A JP2011532442A JP4856791B2 JP 4856791 B2 JP4856791 B2 JP 4856791B2 JP 2011532442 A JP2011532442 A JP 2011532442A JP 2011532442 A JP2011532442 A JP 2011532442A JP 4856791 B2 JP4856791 B2 JP 4856791B2
Authority
JP
Japan
Prior art keywords
option
blinking
electroencephalogram
confirmation
event
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011532442A
Other languages
English (en)
Other versions
JPWO2011105000A1 (ja
Inventor
幸治 森川
佳久 寺田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2011532442A priority Critical patent/JP4856791B2/ja
Application granted granted Critical
Publication of JP4856791B2 publication Critical patent/JP4856791B2/ja
Publication of JPWO2011105000A1 publication Critical patent/JPWO2011105000A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61FFILTERS IMPLANTABLE INTO BLOOD VESSELS; PROSTHESES; DEVICES PROVIDING PATENCY TO, OR PREVENTING COLLAPSING OF, TUBULAR STRUCTURES OF THE BODY, e.g. STENTS; ORTHOPAEDIC, NURSING OR CONTRACEPTIVE DEVICES; FOMENTATION; TREATMENT OR PROTECTION OF EYES OR EARS; BANDAGES, DRESSINGS OR ABSORBENT PADS; FIRST-AID KITS
    • A61F4/00Methods or devices enabling patients or disabled persons to operate an apparatus or a device not forming part of the body 
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2218/00Details of surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • A61B5/377Electroencephalography [EEG] using evoked responses
    • A61B5/378Visual stimuli
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/04Inference or reasoning models

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Neurosurgery (AREA)
  • Physics & Mathematics (AREA)
  • Neurology (AREA)
  • Dermatology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Vascular Medicine (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • User Interface Of Digital Computer (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Description

本発明は、脳波を用いてユーザの意図を推定する脳波インタフェースシステムに関する。より具体的には、推定したユーザの意図(選択された選択肢)が正しいか否かを確認する機能を備えた脳波インタフェースシステムに関する。
これまで日常生活に用いる様々な機能を有する機器が提案されている。ユーザはこれらの機器を操作することで、所望の情報を取得したり、機器が有するサービスを受けている。
近年、機器の数自体の増加又は機器を使わないと得られない情報の増加により、ユーザが機器への操作指示を行うために用いるインタフェースを、ユーザが容易に操作できるようにする必要性が年々高まっている。例えば、情報機器(テレビ、携帯電話、PDA等)においては、ユーザが画面を見ながら情報機器の操作項目(メニュー項目)である選択肢を選択することで、機器操作を行っている。その操作入力を行う方法としては、ボタンを押す、カーソルを移動させて決定する、画面を見ながらマウスを操作する、などの方法が用いられていた。しかし、例えば、家事、育児や、自動車の運転中など、両手が機器操作以外の作業のために使えない場合は、操作が実行できないこともあった。
これに対して、ユーザの生体信号を利用した入力方法がある。非特許文献1では、脳波の事象関連電位を用いてユーザが選択したいと思っている選択肢を識別する技術が開示されている。具体的には、選択肢をランダムにハイライトし、ユーザが選択したいと思っている選択肢がハイライトされた時点を起点に約300ミリ秒後に出現する事象関連電位(P300と呼ばれることが多い)の波形を利用して、選択肢の推定を実現している。
ここで、「事象関連電位」とは、脳波の一部であり、外的あるいは内的な事象に時間的に関連して生じる脳の一過性の電位変動をいう。
この技術によって、ユーザは両手がふさがっている場合でも、また病気等により手足が動かせない状況においても選択したいと思った選択肢が選択でき、機器操作等のインタフェースが実現できる。また特許文献1においても、同様に事象関連電位を用いた脳波インタフェースの例が説明されている。
特開2004−275619号公報(P300−BCIの例) 特開2005−34620号公報(P300−BCIの例2、加算回数の表示も含む)
Donchin et al.,"The Mental Prosthesis:Assessing the Speed of a P300−Based Brain−Computer Interface",IEEE TRANSACTIONS ON REHABILITATION ENGINEERING, Vol.8, No.2, June 2000 入戸野宏、「心理学のための事象関連電位ガイドブック」、第69ページ、北大路書房、2005年
しかしながら、脳波信号はゆらぎを持つ微弱な信号でありノイズも多く含まれる。そしてノイズ混入を完全になくすことは難しい。1回の脳波計測では所望の事象関連電位が得られないことも多いため、常に正確にユーザの意図が判別できるわけではない。
このため、同じ条件での事象関連電位を複数回取得し加算平均をすることで、条件とは無相関に発生するノイズ成分を相殺して所望の脳波成分のみを得る方法が知られている。生理心理実験等においては、事象関連電位を数十回加算する必要があるとされる。例えば非特許文献2には、「今回の測定対象のようなP3(P300)のような10μVを超える大きな電位は、約20回の加算で安定した波形が得られると言われている。」との記載がある。
図16は、脳波インタフェースにおける事象関連電位の加算回数および識別率の関係を示す。図16は、非特許文献1のFig.3の抜粋である。ただし、横軸は加算回数に変換して表示してある。
図16の横軸は加算回数、縦軸は非特許文献1の脳波インタフェースにおける識別率を示す。図16に表示された2本の線は異なる解析方法の結果を示している。図16からは、加算回数を増やすと識別率が向上すること、および、加算回数が少ない場合には、100%の判別率には至らないことを読み取ることができる。例えば、16回や32回の加算を行う場合には100%に近い識別率が得られるが、1回や2回の加算では30−50%の識別率しか得られていない。多くの判別手法では複数回の加算平均の波形を使って80%−90%程度の判別率を実現したと報告している。この状況では、脳波インタフェースの使用時には、機器が必ずしも全ての操作時に正しく判別できるとは限らない。例えば、10回程度の操作に対して1〜2回の失敗事例が含まれることを意味する。
特許文献2においても、事象関連電位の加算回数を検討した結果が開示されている。特許文献2の段落0050においては、5種類の単語の各々につき、加算回数を8回〜22回まで実験的に変化させている。この場合の実験結果は、特許文献2の段落番号0058の表2に示されている。特許文献2では、最も識別率が高くなったときの加算回数は10回〜20回となったことが報告されている。
基本的には、加算回数を増加させればさせるほどノイズの影響は減るため識別精度は向上することが期待される。しかしながら、加算回数を増やすとユーザがインタフェースに注意を向けなければならない時間が増加する。特許文献2では、選択肢を100回も点滅させる必要がある。選択肢が100回点滅するまでの間に、被験者は選択したいと思っている選択肢が点灯するのを待ち、点灯した場合に選択したいと思う必要がある。よって、被験者は長時間にわたって意識的な注意状態を維持することが必要であると考えられる。選択に要する時間は、点滅周期に依存する。特許文献2においては100回の提示に約1分かかるとされている(特許文献2の段落0050)。
上述した説明を総合すると、加算回数を増やして識別精度を向上することと、加算回数を減らしてユーザがインタフェースに注意を向ける時間を短縮することの間にはトレードオフの関係があるといえる。
本発明の目的は、脳波インタフェースの項目選択において、識別精度の向上と意図伝達時間の短縮とを両立することにある。
本発明による脳波インタフェースシステムは、機器の操作に関する操作項目である複数の選択肢をユーザに提示する提示部と、前記複数の選択肢をそれぞれ点滅させる選択点滅制御部と、前記ユーザの脳波信号を計測する生体信号検出部と、前記脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定する推定部と、推定された前記1つの選択肢の確認点滅を行う確認点滅制御部と、前記脳波信号に含まれる脳波の事象関連電位であって、前記1つの選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定する判定部と、前記判定部の判定結果に応じた処理を実行する出力部とを備えている。
前記推定部および前記確認点滅制御部の少なくとも一方は、その時点までに取得した事象関連電位を利用して、前記複数の選択肢をそれぞれ点滅させる回数、および/または、前記確認点滅の回数を調整してもよい。
少なくとも前記確認点滅制御部が前記確認点滅の回数を調整する場合において、前記確認点滅制御部は、その時点までに取得した事象関連電位を利用して、前記推定部によって推定された前記選択肢が前記ユーザにとってどの程度確からしいかを示す指標である確信度を算出し、前記確信度が高い場合には前記確認点滅の回数を減らし、前記確信度が低い場合には前記確認点滅の回数を増加させてもよい。
少なくとも前記確認点滅制御部が前記確認点滅の回数を調整する場合において、前記判定部は、前記確認点滅に対する事象関連電位を利用して、推定された前記選択肢を変更する要求の有無に関する確信度を算出し、前記確信度が予め定められた閾値以上のときは、前記判定部は確信度が高いと分類して、前記確認点滅制御部は前記確認点滅の回数を減少させ、前記確信度が予め定められた閾値より小さいときは、前記判定部は、確信度が低いと分類して、前記確認点滅制御部は前記確認点滅の回数を増加させてもよい。
前記判定部は、前記確認点滅に対する事象関連電位の波形と、予め保持していた再試行要求時のテンプレート波形とに基づいて計算される類似度を利用して、推定された前記選択肢を変更する要求の有無に関する確信度を算出してもよい。
前記判定部における、前記推定部の推定結果が誤りと判定された割合を利用して、前記選択点滅制御部は、選択肢の点滅回数を調整してもよい。
前記判定部によって前記推定部の推定結果が誤りと判定されたときにおいて、推定結果が誤りと判定された割合が所定の値以上の場合には、前記選択点滅制御部は各選択肢の点滅回数を増加させ、推定結果が誤りと判定された割合が前記所定の値より小さい場合には、前記選択点滅制御部は各選択肢の点滅回数を減少させてもよい。
前記確認点滅制御部によって制御される確認点滅の回数は、前記選択点滅制御部によって制御される選択点滅の回数より多くてもよい。
前記推定部は、前記事象関連電位の所定の成分の振幅が最大となったときの選択肢を、前記ユーザの所望の操作に対応する選択肢であると推定し、推定された前記選択肢を前記判定部が誤りであると判定したときにおいて、前記推定部は、前記所定の成分の振幅が2番目に大きかったときの選択肢を、前記ユーザの所望の操作に対応する選択肢であると推定しなおしてもよい。
前記推定部は、各選択肢の点滅を起点とした200ミリ秒以上400ミリ秒以下における、事象関連電位の陽性の極大値、又は、各選択肢の点滅を起点とした100ミリ秒以上300ミリ秒以下における、事象関連電位の陰性の極小値を利用して、前記ユーザの所望の選択肢を推定してもよい。
前記判定部は、推定された前記選択肢の確認点滅を起点とした200ミリ秒以上400ミリ秒以下における事象関連電位の陽性の極大値であるP300、又は、推定された前記選択肢の確認点滅を起点とした100ミリ秒以上300ミリ秒以下における事象関連電位の陰性の極小値であるN200を利用して、前記ユーザの所望の操作に対応する選択肢であったか否かを判定してもよい。
前記推定部は、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位のうち、予め定められた特徴成分を有する事象関連電位に対応する選択肢を、前記ユーザの所望の操作に対応する1つの選択肢として推定してもよい。
前記判定部は、前記1つの選択肢の点滅を起点とした事象関連電位が、予め定められた特徴成分を有する場合、前記1つの選択肢が前記ユーザの所望の操作に対応する選択肢であると判定し、前記1つの選択肢の点滅を起点とした事象関連電位が、予め定められた特徴成分を有しない場合、前記1つの選択肢が前記ユーザの所望の操作に対応する選択肢ではないと判定してもよい。
本発明による脳波インタフェース提供装置は、機器の操作に関する操作項目である複数の選択肢を提示部においてそれぞれ点滅させる選択点滅制御部と、生体信号検出部が計測した前記ユーザの脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定する推定部と、推定された前記1つの選択肢の確認点滅を行う確認点滅制御部と、前記脳波信号に含まれる脳波の事象関連電位であって、前記選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定する判定部とを備え、前記判定部の判定結果に応じた処理を出力部に実行させる。
本発明による、脳波インタフェースシステムの実行方法は、機器の操作に関する操作項目である複数の選択肢をユーザに提示するステップと、前記複数の選択肢をそれぞれ点滅させるステップと、前記ユーザの脳波信号を計測するステップと、前記脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定するステップと、推定された前記1つの選択肢の確認点滅を行うステップと、前記脳波信号に含まれる脳波の事象関連電位であって、前記選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定するステップと、判定する前記ステップの判定結果に応じた処理を実行するステップとを包含する。
本発明によるコンピュータプログラムは、脳波インタフェース提供装置に実装されるコンピュータによって実行されるコンピュータプログラムであって、前記コンピュータプログラムは、前記コンピュータに対し、機器の操作に関する操作項目である複数の選択肢を提示部に提示させるステップと、前記複数の選択肢をそれぞれ点滅させるステップと、生体信号検出部が計測した前記ユーザの脳波信号を受け取るステップと、前記脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定するステップと、推定された前記1つの選択肢の確認点滅を行うステップと、前記脳波信号に含まれる脳波の事象関連電位であって、前記選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定するステップと、判定する前記ステップの判定結果に応じた処理を出力部に実行させるステップとを実行させる。
本発明の脳波インタフェースシステムによれば、機器がユーザの所望の選択肢を誤判定した場合を検出でき、再試行や自動的な誤り補正が実現される。これにより、脳波インタフェースによるユーザの意図を効率的に伝達できるようになるため、ユーザのインタフェース操作効率を向上させることができる。
家庭用のテレビを利用した例による、本願発明者らが想定する脳波インタフェースシステム1の構成および利用環境を示す図である。 本発明の実施形態における脳波インタフェースシステム1の構成図である。 (a)は、従来の脳波インタフェースシステムの処理の手順を示すフローチャートであり、(b)は、本実施形態による脳波インタフェースシステム1の処理の手順を示すフローチャートである。 (a)は、脳波インタフェースが起動されたときに表示されるメニュー画面21の一例を示す図であり、(b)は、各選択肢の点滅を起点として測定された脳波信号の事象関連電位の波形24a〜24dを示す図である。 本願発明者らが、図4で説明した脳波インタフェースを用いた実験を実施した時の、加算回数と識別精度(識別率)との関係を示す図である。 (a)および(b)は確認点滅を含む実施形態1による脳波インタフェースシステム1の画面イメージを示す図である。 脳波インタフェースで選択肢が決定されるまでの時間を従来法と比較した結果を示す図である。 加算回数による選択判定と確認判定の精度の違いを示す図である。 抽出したい条件(Target)および抽出したくない条件(Control)の事象関連電位を比較して、有意差の有無を調べた結果を示す図である。 識別精度の個人差の例を示す図である。 ユーザAおよびユーザBの各々について、様々な点滅回数の組み合わせにおける意思伝達時間および識別精度の分布を示す図である。 実施形態2による脳波インタフェースシステム1の処理の手順を示すフローチャートである。 脳波インタフェースシステム1での実験データの分析結果を示す図であり、(b)は、図13(a)の実験データに基づき、補正の効果を検討した結果を示す図である。 誤推定検出と選択肢の補正手順を示すフローチャートである。 脳波IF提供装置4のハードウェア構成を示す図である。 脳波インタフェースにおける事象関連電位の加算回数と識別率を示す図である。
本願発明者らは、2つの点に着眼して本願発明にかかる脳波インタフェースシステムをなすに至った。
まず第1に、本願発明者らは、識別方法を改善したとしても発生してしまうと考えられるユーザ所望の選択肢の誤推定時における、ユーザの反応に着目した。そして、誤推定であることをユーザの事象関連電位から特定できることを見出した。具体的には、脳波インタフェースシステムは、ユーザの脳波を利用して選択肢を推定した後、推定したその選択肢を点滅させてユーザの脳波に含まれる事象関連電位を測定する。そして、後述する事象関連電位のP300成分等の信号成分を利用すると、その推定された選択肢が意図した選択肢であったか否かを確認できる。これにより、推定精度を向上させることができる。
第2に、本願発明者らは、上述した推定結果の選択肢を点滅させて、推定結果がユーザの意図した選択肢であったか否かを確認する場合には、点滅回数を効率的に少なく抑えることができることも見出した。選択肢を推定する際に各選択肢を点滅させる場合には、点滅回数を1回増加させるとすると選択肢の個数分だけ全体の点滅回数が増加することになる。しかし、ユーザの意図を確認するために推定された選択肢だけを点滅させる場合には、全体の点滅回数の増加分は、推定結果として得られた選択肢の1回の点滅分だけである。よってユーザの意図を推定してから、誤推定であったと判定するまでの時間を短縮できる。
これらにより、ユーザの意図を推定した後において、その推定が正しかったかどうかを確認できる脳波インタフェースシステムを得ることができる。そして誤推定であったと確認された場合には、その確認結果を、推定のやり直し(再試行)や選択肢の補正に活用できる。
以下、添付の図面を参照しながら、本発明による脳波インタフェースシステムの実施形態を説明する。
(実施形態1)
本願発明者らは、将来的には装着型の脳波計と装着型のディスプレイとを組み合わせた環境で脳波インタフェースシステムが構築されることを想定している。ユーザは脳波計とディスプレイとを装着し、装着型ディスプレイを利用してコンテンツの視聴や画面の操作を行う。また、他には、家庭用のテレビと装着型の脳波計とを組み合わせた家庭内などの環境でも脳波インタフェースシステムが構築されることを想定している。ユーザはテレビを見るときに、脳波計を装着し、脳波インタフェースを利用してコンテンツの視聴や画面の操作を行うことができる。
ここで、「脳波インタフェース」とは、ユーザの意図を脳波によって推定し、その意図を機器に伝達することによって機器を操作するインタフェースをいう。脳波インタフェースでは、ユーザの脳波とユーザの意図(機器操作)とが対応付けられており、それにより、ユーザの脳波から、そのときユーザが希望する機器操作を推定することが可能になる。
たとえば、図1は、家庭用のテレビを利用した例による、本願発明者らが想定する脳波インタフェースシステム1の構成および利用環境を示す。この脳波インタフェースシステム1は後述する実施形態1の脳波インタフェースシステムの構成に対応させて例示されている。
脳波インタフェースシステム1は、ユーザ10の脳波信号を利用してTV11を操作するインタフェースを提供するシステムである。ユーザ10の脳波信号はユーザが頭部に装着した生体信号検出部13によって取得され、無線または有線で脳波インタフェース部2(「脳波IF部2」とも表記する。)に送信される。TV11に内蔵された脳波IF部2は、脳波の一部を構成する事象関連電位のP3成分(あるイベントが生じた時刻を起点として、その時刻から300ms前後の脳波中の事象関連電位の成分をいう。「P300成分」とも呼ばれる。)を利用してユーザの選択意図を推定する。チャンネルの切り替えなどの動作を行う。
結果確認部3は、脳波IF部2の推定結果が、ユーザの所望する意図の推定が行えているか否かを確認するための処理を行う。そして、ユーザの意図の推定ができていないと判定したときは、結果確認部3は、推定選択肢の補正を行い、または、脳波インタフェースを利用してユーザに再度選択肢を選択させる。これにより、脳波インタフェースシステム1においてユーザの意図が常に正確に伝達される。
次に、脳波インタフェースシステム1の構成を説明する。
図2は、本実施形態における脳波インタフェースシステム1の構成図である。
脳波インタフェースシステム1は、脳波IF部2と、結果確認部3と、刺激提示部11と、生体信号検出部13と、出力部17とを備えている。
刺激提示部11は、機器を操作するユーザ10にインタフェースのための選択肢や確認の視覚刺激等を提示する。例えばテレビやディスプレイなどが刺激提示部11に該当する。図2に示すTVが刺激提示部11として機能することを示すため、同じ参照符号を付している。
生体信号検出部13は、たとえば脳波計であり、ユーザの頭部に装着された電極における電位変化を計測する。計測された電位変化が、そのユーザ10の脳波信号である。生体信号検出部13は、ユーザ10の脳波信号を取得し、取得した脳波信号を無線または有線で脳波IF部2に送信する。また、推定したユーザ10の意図が確認される際には、生体信号検出部13は、取得した脳波信号を結果確認部3に送信する。
脳波IF部2および結果確認部3の動作の概要は既に説明した通りである。なお、脳波IF部2および結果確認部3は、1つの装置として実現されてもよい。当該装置は本明細書において脳波インタフェース提供装置4(「脳波IF提供装置4」とも表記する。)と呼ばれる。
出力部17は、操作対象の機器であり、たとえばディスプレイである。ディスプレイの場合には刺激提示部11と共用される場合もある。または、出力部17は、操作対象の機器に対し、推定結果に対応する動作を行うことを指示する指示信号を送信する機器(たとえばリモコン)であってもよい。
以下、脳波IF部2および結果確認部3の構成をより詳細に説明する。
脳波IF部2は、選択点滅制御部12と、選択肢推定部14とを備えている。
選択点滅制御部12は、刺激提示部11に対して、複数の選択肢の点滅を制御する。選択肢推定部14(以下「推定部14」と記述する。)は、生体信号検出部13で計測された脳波信号を解析し、解析結果をもとに脳波インタフェースでユーザがどの選択肢を選択したいと思っているかを推定する。
結果確認部3は、確認点滅制御部15と、推定結果確認判定部16とを備えている。
確認点滅制御部15は、推定結果を刺激提示部11に提示する際、推定結果である1つの選択肢を点滅させながら表示する。推定した選択肢が正しいか否かを確認するために行う、当該選択肢の点滅を、本明細書では「確認点滅」と呼ぶ。
推定結果確認判定部16(以下「判定部16」と記述する。)は、生体信号検出部13で計測された脳波のうち確認点滅に関連した脳波信号の電位(事象関連電位)を解析することで、確認点滅されている選択肢はユーザが所望する選択肢と一致したかを判定する。
出力部17は、判定部16の確認結果に応じた処理を実行し、その結果を出力する。具体的には、判定部16が、確認点滅されている選択肢はユーザが所望する選択肢と一致していると判定したときは、出力部17は、その選択肢に対応する動作を実行する。これが、ユーザが所望する機器の動作結果(たとえばチャンネルの切り替え)として出力される。一方、判定部16が、確認点滅されている選択肢はユーザが所望する選択肢と一致しないと判定したときは、出力部17は、再試行の指示を出す。
次に、図3を参照しながら、従来の脳波インタフェースシステムの処理と本実施形態による脳波インタフェースシステム1の処理との間で共通する処理および相違する処理を説明する。図3(a)は、従来の脳波インタフェースシステムの処理の手順を示すフローチャートであり、図3(b)は、本実施形態による脳波インタフェースシステム1の処理の手順を示すフローチャートである。
従来技術と本実施形態とに共通する処理は、ステップS10〜S40である。そして、従来技術と本実施形態との間で相違する処理は、本実施形態においては、ステップS50〜S80を追加的に行うことである。
従来の脳波インタフェースは脳波によって選択肢の中から所望の選択肢を推定する。一方、本実施形態による脳波インタフェースでは、脳波によって選択肢の中から所望の選択肢を推定した後に、システム側の選択肢の推定結果を確認する処理を設け、推定結果が正しかったか否かを判定する。
まず、図3(a)および(b)に示す、従来の脳波インタフェースシステムおよび本実施形態による脳波インタフェースシステム1に共通する処理を、図4の脳波インタフェースシステムの処理の流れと対応づけながら説明する。以下では、図2に示す脳波インタフェースシステム1の各構成要素が、図3(b)に示す処理を行うとして説明する。
ステップS10において、選択点滅制御部12は、ユーザ10に対して選択肢を点滅させて選択肢を提示する。刺激提示部11はディスプレイ等の、ユーザに視覚刺激を提示するための装置を持ち、現在選択可能な選択肢が列挙されるメニューを表示した後で、選択肢を点滅させる。
図4(a)は、脳波インタフェースが起動されたときに表示されるメニュー画面21の一例である。画面には「どの番組をご覧になりたいですか?」という質問22と、見たい番組の候補である選択肢23a〜23dが提示される。選択肢23a〜23dは、それぞれ「野球」、「天気予報」、「アニメ」、「ニュース」の4種類である。この4種類のうち一つは明るい色でハイライト表示されている。例えば、画面21では「野球」23aがハイライトされている。
ここで、「選択肢」とは、機器の操作に関するメニュー(操作)項目を指す。例えば、TVではチャンネルを操作項目としてもよい。また、HDDレコーダーでは録画、再生等を操作項目とすることができる。つまり、リモコンを用いて、または、ユーザが機器に直接触れることにより、機器への操作を指示する内容を操作項目とすることができる。
「選択肢の点滅」とは、選択肢が見える状態と見えない状態と繰り返すこと以外にも、例えば、選択肢のハイライト表示とハイライト表示の解除とを繰り返すことを指す。
「ハイライト表示」とは、他の項目より明るい背景によって表示されたり、明るい文字色によって表示されたり、カーソル等で指し示すことによって指示されることを指す。つまり、ハイライト表示とは、注意を引く表示を意味する。
選択肢の点滅は、ユーザの注目を集める状態と、注目を集めない状態とを繰り返せばよい。ユーザ10が見たときに、脳波インタフェースシステム1が現在どの項目についてユーザ10に注意を向けて欲しいかをユーザ10に伝えられるように選択肢が示されていればよい。
脳波IF部2では、ユーザ10は自分が選択したい選択肢がハイライトしたタイミングで、「選択したい!」と意識する。この意識が脳波信号の波形変化として現れて、次のステップで生体信号検出部13によって計測される。
ステップS20では、生体信号検出部13は、ステップS10で各選択肢がハイライトされる前から脳波信号を計測し、ハイライトされた時刻を含む一定時間帯の脳波信号を、メモリ(図示せず)の各選択肢に対応するメモリ領域に蓄積する。
生体信号検出部13は、ステップS13にてハイライト表示された瞬間の時刻を基準として、その時刻の、例えば200ミリ秒前から1秒後までの時間帯の脳波信号を取得する。この脳波信号が事象関連電位として利用される。言い換えると、脳波信号には事象関連電位が含まれている。
上述の事象関連電位を利用することによって、ハイライト表示された項目に対するユーザの反応が得られる。
脳波IF部2は、生体信号検出部13から受け取った脳波信号をその都度メモリ(図示せず)に蓄積する。各選択肢に対応するメモリに蓄積することで、選択肢間の波形を比較して選択肢の推定等に用いることが可能になる。
なお、生体信号検出部13にメモリが設けられていなくてもよい。生体信号検出部13は脳波信号を出力し続け、脳波IF部2がその脳波信号を蓄積して上述した必要な脳波信号を切り出してもよい。
ここで、事象関連電位の起点は、選択肢がハイライト表示された時点に限らず、ハイライト表示が消えた時点を用いることができる。このように、選択肢のハイライト表示された時点、選択肢のハイライト表示が消えた時点、選択肢が表示された時点、選択肢の表示が消えた時点のいずれかを起点とする場合、本明細書では「選択肢の点滅を起点とする」と表現する。
ステップS30では、選択点滅制御部12は、選択点滅を制御する。「選択点滅」とは、機器操作のメニュー項目である選択肢をユーザが選択するために行う、選択肢の点滅である。選択点滅制御部12は、いつ、どの選択肢をハイライトするか、また、各選択肢について何回ずつハイライトするかなどを制御する。図4(a)に示すように、選択点滅制御部12は、まず一番上の「野球」23aの選択肢を選択して点滅させる。以下、このステップS30が実行されるたびに、順次、次の選択肢が選択され点滅される。その後、4つ目の「ニュース」23dの次はまた一番目の野球に戻る。
脳波インタフェースシステム1において、脳波の波形が揺らいでいて一つ一つの波形にはノイズが多く含まれる場合には、加算平均により必要な信号を取り出す処理により解決が図られる。この繰り返し数は、例えば5回や10回と設定され、各選択肢がそれぞれ複数回ハイライトされ、その反応(脳波)を加算平均して信号判別に用いられる。この繰り返し回数は、脳波の状態や個人の波形の状態、判別精度などによって決められ、1回で加算をしない場合(非加算)もありえる。
なお、本実施形態のステップS30では、項目は順次ハイライトされるとしたが、ランダムにハイライトする方法も可能である。これにより、事前にどの項目がどの順番でハイライトされるか不明なため、より注意深くメニューが選択される可能性がある。
ステップS40では、推定部14は、ユーザ10が選択を希望する選択肢を推定する。具体的には、推定部14は、生体信号検出部13にて計測され蓄積された、各選択肢に対する事象関連電位と、予め定められた特徴成分の波形とを比較することで選択肢を推定する。例えば、図4(b)は、各選択肢の点滅を起点として測定された脳波信号の事象関連電位の波形24a〜24dを示す。ここで波形24bのみ、特徴的な成分が確認される。推定部14は、この特徴的な成分を識別可能な波形の情報を予め保持している。推定部14は、得られた事象関連電位の各波形を予め定められた特徴成分の波形と比較し、予め定められた特徴成分を有する選択肢を決定する。「予め定められた特徴成分を有する選択肢」とは、予め定められた特徴成分の波形と、類似度が最も高い波形を有する選択肢を含む。次に、推定部14は、ユーザ10が選択したかった選択肢は、特徴成分の波形を有する波形24bに対応する選択肢「天気予報」23bであると推定する。
比較に際しては、例えば、事象関連電位の視覚P3成分を利用可能である。「視覚P3成分」とは、視覚を刺激する事象(選択肢の点滅)を起点とした200ミリ秒以上400ミリ秒以下における脳波信号において、陽性(正の方向)に振幅のピークを有する事象関連電位の成分をいう。なお、「陽性に振幅のピークを有する」とは、極大値であればよく、最大値も含む。または、推定部14は、300ミリ秒±50ミリ秒のピーク振幅の大きさを比較してもよい。例えば、ピーク振幅の大きさが最も大きい波形を有する選択肢をユーザが希望する選択肢と推定する。また、推定部14は、予め用意した典型的なP300の波形からテンプレートを作成して、そのテンプレートとの類似度を算出して、その類似度に応じて選択肢を推定してもよい。例えば、テンプレートとの類似度が大きい波形を有する選択肢をユーザが希望する選択肢と推定する。
本実施形態による脳波インタフェースシステム1の推定部14は、ステップS92において、ユーザが選びたいと思われる選択肢を次のステップに出力する。従来の処理であれば、ステップS91において、推定結果の選択肢は画面等に表示され、選択肢に記載された動作を実行する。
以上のような処理によって、脳波インタフェースシステム1ではボタン操作等をすることなく、ユーザ10が意図した選択肢を脳波の事象関連電位から推定可能になる。
この推定の精度を高めたいときには、各選択肢の点滅を一巡させる試行を複数回行い、各選択肢の点滅を起点として計測された各事象関連電位を加算する方法が考えられる。本願発明者らは以下の実験を行い、その有効性を確認した。
図5は、本願発明者らが、図4で説明した脳波インタフェースを用いた実験を実施した時の、加算回数と識別精度(識別率)との関係を示す。実験の被験者数と繰り返し数が少ないため多少の変動が見られるが、概ね以下のように要約される。まず、横軸の加算回数が1−3回のときの識別率は50−60%前後であった。そして、加算回数が8−10回になると識別率は70−80%に向上した。つまり、加算回数と識別率には正の相関があることがわかった。
高精度の識別率を得るには、たとえば10〜20回の十分な加算回数が必要であると思われる。しかしながら加算回数を増やすと提示時間が長くかかる。これは、先に発明が解決しようとする課題欄において説明したとおりである。
そこで本願発明者らは、そのような課題に対して、識別方法を改善しても発生してしまうと考えられるユーザ所望の選択肢の誤推定時の脳波の活用に着目した。本願発明者らは、脳波IF部2が正しくユーザの選択肢を推定できなかった場合も、ユーザの事象関連電位からその推定の可否を特定できると思い至った。それは、ユーザが選択肢を選択する場合と同様に、推定結果の選択肢を点滅させてその点滅を起点とした事象関連電位を測定し、P300等の成分を解析することにより、推定結果が正しかったかどうかの確認に対するユーザの意思を判定できるという点である。
これらに着目し、本願発明者らは、脳波インタフェースシステム1に図3(b)に示すステップS50〜S80を追加的に実行させることにした。
以下、図3(b)のステップS50〜S80による確認処理の流れを、図6(a)および(b)を適宜参照しながら説明する。図6(a)は、図3のステップS10〜S30の処理の流れに関連する選択肢の切り替え表示例を示している。
ステップS50は、ユーザ10に対して推定結果の選択肢を点滅させることで、確認のための刺激を提示する処理である。刺激提示部11は刺激を提示する。例えば図6(b)の推定結果の表示例に示すように、「あなたが選んだのは「野球」ですね」というメッセージの表示と共に、「野球」の選択肢がハイライト表示され、その後、点滅を開始する。
このステップS50の点滅に対して、ユーザの所望の選択肢が推定結果の選択肢として提示されていない場合には、確認選択肢のハイライトと共に、「それは違う」と思いながらメニューを注視する。この意思は事象関連電位に反映され、以後のステップで結果確認部3に伝達される。
一方、ステップS50の点滅に対して、ユーザ所望の選択肢が推定結果の選択肢として正しく提示されている場合には、ユーザは確認作業を終了する。このとき、ユーザは「そうそう」や「そう、それ」などと思わなくてもよい。必要とされるのは、推定結果が正しくないときにおけるその事実を、ユーザが意識して確認したことである。そのため、推定結果が正しい場合には確認点滅に対しては、ユーザは特に何も意識する必要はなく、推定結果が正しくない場合にはユーザは推定結果に対して「それは違う」と意識を向けさせ、それぞれの場合を区別している。
ステップS60では、生体信号検出部13は、ステップS50で確認の選択肢がハイライトされた時点を含む一定時間帯で脳波信号を計測し、メモリに蓄積する。具体的には、生体信号検出部13は、ステップS50にてハイライト表示された瞬間の時刻を基準として、その時刻の200ミリ秒前から1秒後までの脳波信号を取得する。これによって、脳波信号に含まれる事象関連電位が取得され、ハイライト表示された確認の選択肢に対するユーザの反応が得られる。
ステップS70では、確認点滅制御部15が、確認点滅の点滅周期および回数を制御する。確認点滅制御部15は、予め定められた周期で確認選択肢のハイライトおよびハイライトの解除(確認点滅)を行う。確認点滅制御部15は点滅回数をカウントする。そして所定の点滅回数(たとえば10回)に達していない場合には、ステップS50に戻って点滅制御を行い、所定の点滅回数に達した場合には点滅制御を完了してステップS80に移る。
ステップS80では、判定部16が確認結果を判定する。判定部16は、確認点滅を起点として生体信号検出部13にて計測された脳波信号の事象関連電位に、確認に関連して発生する波形の特徴成分が含まれているか否かを判定する。判定部16は、この確認に関連して発生する波形の特徴成分を識別可能な波形の情報を予め保持している。判定部16は、計測された脳波信号の事象関連電位の波形を予め定められた特徴成分の波形と比較し、予め定められた特徴成分を有するか否かを判定する。例えば判定部16は、計測された脳波信号の事象関連電位の波形が予め定められた特徴成分の波形と所定の閾値以上の類似度を有するか否かにより、事象関連電位の波形が当該予め定められた特徴成分を有しているか否かを判定する。そして、その判定結果に基づいて、判定部16は、所望の選択肢が提示されたか否かを判定する。例えば判定部16は、事象関連電位の波形が所定の閾値以上の類似度を有する場合には、その波形が当該予め定められた特徴成分を有しており、前記ユーザの所望の操作に対応する選択肢が提示されたと判定(推定)する。一方、判定部16は、事象関連電位の波形が所定の閾値より小さい類似度を有する場合には、その波形が当該予め定められた特徴成分を有しておらず所望の選択肢が提示されていないと判定(推定)する。
確認に関連して発生する波形成分が事象関連電位に含まれているか否かの判定方法は、複数考えられる。たとえば、下向き(すなわち陽性方向)の山形の波形の頂点の時間(潜時)を比較して一致するか否かで判断してもよいし、図4(b)の加算波形をテンプレートとして保存し、加算波形とそのテンプレートとの形状を比較して一致するか否かで判断してもよい。これにより、システムの推定誤りを検出でき、推定結果の補正の必要性を判定できる。ここで、下向きの山形の波形の頂点の時間(潜時)とは、例えばP300を確認する場合には、確認点滅を基点として200ミリ秒〜400ミリ秒の陽性に変化した事象関連電位で最も値が大きい時刻であると定義できる。
この潜時が標準と大きく異なる場合には、推定結果を確認した信号が含まれていないと判定できる。
ステップS92では、判定部16がその推定結果を出力する。推定結果が正しかったときは、選択肢に記載された動作の実行を指示する。例えばテレビであれば画面表示内容の変更などが該当する。なお、出力はインタフェースが提供する機能によって異なってもよい。
このようなステップS50〜S80にわたる確認処理により、仮に選択肢推定処理で推定を誤った場合でも、推定が誤っていたという状況を判定可能になる。
この確認ステップは、全体の識別率は維持しつつも性能向上が図れるという効果をもたらす。図7を参照しながら説明する。
図7は、脳波インタフェースで選択肢が決定されるまでの時間を従来法と比較した結果を示す。この結果は、点滅回数と全ての点滅が完了するまでの時間(選択決定時間)、および、点滅を注視して意思を伝達しようとする必要のある時間(意思伝達時間)の観点でまとめられている。表中の値の試算に当たっては選択肢の数は4、点滅間隔は350ミリ秒、従来の点滅回数を5回のケースと10回のケースの2種類とした。精度の想定に関しては、図5の数値(5回加算時には66.7%、10回加算時には77.5%)を使用し、各選択肢の点滅に対する加算回数と精度の関係、および確認の点滅に対する加算回数と精度の関係はここでは同等の数値を使用した。
図7において、まず、各選択肢の点滅回数を5回に設定した従来法Aを説明する。従来法Aでは、総点滅回数は20回、点滅間隔350ミリ秒なので、選択決定に要する時間43は20回*350ミリ秒=7秒である。確認のプロセスはないので、意思伝達時間44はそのまま7秒、識別精度は、図5の想定より66.7%となる。
また、各選択肢の点滅回数を10回にした従来法Bでは、従来法Aの計算と同様に考えると、総点滅回数は40回で選択決定に要する時間は14秒、意思伝達時間は14秒、識別精度は図5の想定より77.5%となる。
次に本発明の選択点滅と確認点滅を組合せた方法の試算の事例を説明する。
選択点滅を5回、確認点滅を10回とした場合を考える。総点滅回数は選択5回*4選択肢+確認10回=30回になる。また、選択決定時間に関しては、選択点滅に20回*350ミリ秒=7秒、確認点滅に10回*350ミリ秒=3.5秒の合計10.5秒で済む。
意思伝達時間については、選択誤りの場合にのみ補正に関する意思表示をすればよいため、確認点滅を常に見ている必要はなく、意思伝達時間としては少なくて済む。例えば、図5の数値を用いると、5回加算時には識別率は66.7%になる。確認時にも補正の意思伝達が必要なのは、100%−66.7%=33.3%である。このため、平均の意思伝達時間を考えると、確認点滅については3.5秒*33.3%で平均約1.2秒が必要になる。
次に、識別精度を説明する。選択肢の加算平均5回による識別精度は66.7%であるのに対して、確認点滅10回の識別精度は77.5%という想定に基づいている。起こりえる状況としては、選択の正誤と確認の正誤の組合せで4通りの状況が考えられる。
本実施形態のように、確認点滅を導入することで、選択に失敗しても確認で補正が必要と認められ、最終的な識別精度が向上する状況も発生する。しかしながら、選択で正しくても確認で補正が必要と誤判定される状況等もある。これらの複数の状況の組合せによれば、全体で正しく選択され確率は78.8%と想定できる。
以上、図7の表から理解されるように、本実施形態によれば、従来法Bと比較して各選択肢の点滅回数を減らしつつ、減らした一部を確認点滅に回している。これにより、総点滅時間を減らしつつ識別精度を維持することが可能である。
なお、図7の例では識別精度を維持して、意思伝達時間を短縮する方向の点滅回数の配分を行った。しかし、識別精度を向上させるために確認の点滅を用いてもよい。この場合には、選択に対する点滅回数を減らさずに確認の点滅を追加することで、従来法よりも識別精度を向上できる。
また、本実施形態においては、確認点滅に対する意図の解析方法は、本願発明者らが新たに見出した確認点滅に対する脳波の特徴を活用した。これにより、選択点滅に対する解析方法とは異なる方法を構成して、選択点滅に対する解析より性能を向上できる。
図8は加算回数による選択判定と確認判定の精度の違いを示す。図8において、横軸は加算回数、縦軸は識別率を示す。グラフ51は4項目の選択肢の中から選択をしたときの選択判定の精度を示し、グラフ52は単独で点滅しているアイコンを注視することで意図を判定したときの確認判定の精度を示す。2本のグラフの違いは、(1)全体としてグラフ52の方が、識別率が良いこと、および、(2)グラフ52の方が識別率の精度の向上の傾きが急であり、より加算の効果が得られやすいこと、の2点である。
上述の(1)に関連する全体の識別率の違いについては、選択肢の数の違いによる効果が含まれると考えられる。選択肢が4つの場合では、ランダムに推定すると25%の精度になるのに対して、選択肢が1つの場合では、ランダムに推定すると50%の精度になる。つまり、もともと前提としている選択肢の数が異なっているため、識別率にも差が現れる。
上述の(2)に関連する識別率向上度合いの違いは、選択肢の数の影響ではなく、別の要因と考えられる。それは実験条件の違いから来る脳波特性の違いに起因している。
以下、図9を参照しながら、本願発明者らが独自に行った実験および解析の結果を示す。本願発明者らは、被験者15名の脳波を計測した。
図9は、抽出したい条件(Target)および抽出したくない条件(Control)の事象関連電位を比較して、有意差の有無を調べた結果を示す。
脳波を計測する条件(課題)は、2つある。1つ目は、4つの選択肢が提示され、その選択ハイライトに対する事象関連電位を用いて一つの選択肢を選択する課題である。2つ目は、1つのアイコンが点滅し、その確認ハイライトに対する事象関連電位を用いて、確認ハイライトが注視されている課題である。1つ目の計測条件に基づいて得られた結果は、図9の「4項目」として表示されている。また、2つ目の計測条件に基づいて得られた結果は、図9の「1項目」として表示されている。
被験者15名の事象関連電位は、それぞれ1回の場合と5回の場合について、波形のデータ数を揃えるために225本ずつランダムに抽出して加算されている。ここで検定の結果1%で有意差があると判定された区間を各グラフの下部を太線で明示している。
有意差区間は、抽出したい条件と抽出したくない条件の脳波に明確な違いが見られる区間であり、この区間に、両条件に対応する脳波を識別するための情報が含まれていると考えてよい。例えば、1項目の非加算のグラフを見ると有意差区間は約200−400ミリ秒の区間に見られるので、この区間に識別のための情報が含まれている。
この図9のグラフによれば、非加算の場合では、4項目のグラフよりも1項目のグラフの方が、有意差区間が大きいといえる。確認点滅の方がより多くの情報を含んでいることがわかる。このため、識別率が高く、さらに識別率の向上も多かったと考えられる。
図9の、単独アイコンに対する確認ハイライトの加算平均波形(1項目の5回加算のグラフ)についてみると、100ミリ秒から200ミリ秒のあたりに上向きに凸の波形101が見られ、この成分が識別率に貢献できていると考えられる。この成分は後述のように「N200」と呼ばれる事象関連電位の成分である。
上述のとおり、本実施形態によれば、脳波信号(事象関連電位)を脳波インタフェースにおける選択肢の推定に使用するだけでなく、選択肢の推定結果の正誤の確認にも使用した。これにより、同程度の点滅回数でありながら、ユーザが意図伝達をするために要する時間を削減でき、効率的に脳波インタフェースを使用できる。また、新たに認められた確認点滅に対する脳波信号の特性から、確認点滅に対する識別精度は選択点滅に対する識別精度よりも高くなるので、より効率を向上させることができる。
(実施形態2)
実施形態1では、脳波インタフェースシステムの全体の動作を説明した。
本実施形態では、脳波IF部2の動作状況と結果確認部3の動作状況とに応じて、選択点滅制御部12および確認点滅制御部15が点滅回数を調整する動作を説明する。本実施形態にかかる脳波インタフェースシステムの構成は、実施形態1と同じである。したがって、実施形態1と異なる機能を有する構成要素のみ説明し、共通の機能を有する構成要素の説明は省略する。
脳波インタフェースの操作を行う時間の制約から、選択点滅回数と確認点滅回数はなるべく少ない方が良い。しかし、ユーザの脳波からユーザが操作したい項目を、脳波インタフェースが十分に高い精度で推定する必要がある。この両方を満たすために、選択点滅回数と確認点滅回数を適切に配分することは有効と考えられる。このとき最適な回数配分は、個人毎に異なる必要があると想定される。以下、その配分方法を説明する。
脳波波形の個人差は大きく、同じ課題を与えたとしても、人によって出現する脳波波形は異なることが知られている。また、実施形態1にかかる脳波インタフェースにおいても、選択点滅に対しては選択の意図に関連する誘発反応であるP300が観察され、確認の点滅に対しては単一の選択肢の点滅に対する誘発反応が観察された。図9によれば、誘発反応にはP300よりも早期の成分も含まれることがわかる。
このように個人によって成分ごとに脳波波形への現れ方が異なるため、その識別精度も異なり、最適な点滅回数も異なると想定される。「識別精度」とは、複数の項目からユーザが所望する項目を推定する精度をいう。以下、仮想的な例を用いて説明する。
図10は、識別精度の個人差の例を示す。ユーザAおよびユーザBの各々について、4つのメニュー項目に対する点滅の反応と、1項目に対する点滅の反応の例を示している。図10において、横軸は加算回数、縦軸は識別精度である。
図10の実線で示される4項目に対する誘発反応(1回〜5回加算)については、ユーザAの識別精度がユーザBの識別精度よりも高い。一方、図10の点線で示される1項目に対する誘発反応(1回〜10回加算)については、ユーザBの識別精度がユーザAの識別精度より高いことがわかる。個人毎に識別精度は異なるために、このような事例も発生しうる。
この事例において、選択点滅回数を1回から5回に変化させ、確認点滅回数を1回から10回に変化させた場合のすべての組合せは、50通り存在する。それぞれ図7に一例を示したような意思伝達時間と想定識別精度の見積りが可能である。
図11は、ユーザAおよびユーザBの各々について、様々な点滅回数の組み合わせにおける意思伝達時間および識別精度の分布を示す。算出の前提条件は、図7における試算と同様である。図11において、点滅回数の組合せによって様々な意思伝達時間と識別精度が想定されることがわかる。またユーザAとユーザBとでは、回数と識別精度の関係が異なるため、分布の広がりが異なることがわかる。この分布は、図10に示す各ユーザの回数と精度のグラフによって異なり、この分布によって最適な回数が設定可能である。
例えば図11の分布において、最低想定識別精度を80%とした時に最も意図表出時間の少ない組み合わせを探索する。ユーザAについては、選択点滅回数3回、確認点滅回数6回のときに想定識別精度は80.9%で意図表出時間は3.5秒となる。ユーザBについては、選択点滅回数4回、確認点滅回数6回のときに想定識別精度は81.8%で意図表出時間は4.2秒となる。このように、人によって最適な点滅回数は異なる。このため、最適な点滅回数に近づける補正が可能になる。なお、この最低想定識別精度の80%は一例であり、用途に応じて補正すれば別の点滅回数が設定できるし、許容される最大の意図表出時間を設定することでも別の点滅回数を設定できる。
この知見によれば、ユーザ毎に最適な選択点滅回数と確認点滅回数とは異なっているといえる。ユーザの波形の現れ方、回数および精度向上の関係によって、選択点滅回数を多くするか、確認判定回数を多くするかを変更可能である。
点滅回数の決定方法としては、上記のような選択点滅回数と確認点滅回数の増加に対する識別精度の向上度合いがわかる場合には、図11のような分布が作成できこの分布から所望の点滅回数を決定できる。しかし、このように全ての条件での判別率をユーザ毎に求めるのは負担になる場合もあると想定される。以下に、点滅回数のその他の決定方法を説明する。
点滅回数を決定する一つ目の方法は、選択時の推定の確信度を利用した方法である。確信度とは、そのユーザにとって推定選択肢がどの程度確からしいかを示す指標である。確信度は、たとえば「高い」または「低い」に対応する2つの状態をとり得る。または、確信度は、数値で表されてもよい。推定部14は、各選択肢に対する事象関連電位波形を比較するため、どの程度推定選択肢が確からしいかの値を算出可能である。例えば、4つの選択肢に対する各事象関連電位の波形間の類似度を計算する。このとき、1つの波形のみが他の3つの波形と明らかに異なる場合、確信度が高いと言える。
具体的には、4つの選択肢の場合、ユーザは4つの選択肢のいずれかについて、選択したいという意思を持っていると考えられる。この場合には、選択肢に対する4つの事象関連電位波形の中で、所望の選択肢に対する事象関連電位にのみ選択意思に関連する脳波成分が含まれると考えて良い。選択意思に関連する脳波成分とは、例えばP300と呼ばれる、300ミリ秒付近の脳波成分などが該当する。ここで、理想的な計測条件においては、4つの事象関連電位のうち、一つだけがP300の脳波成分を含むため、4つの波形を相互に比較すると、所望の選択肢に対する波形のみに特徴が現れることになる。
例えば、推定部14での処理方式が、選択意思に関する標準的なテンプレート波形を保持し、そのテンプレート波形と4つの事象関連電位との類似度の比較によって選択肢を推定する方法を採用しているとする。理想的な計測条件においては、1つの事象関連電位のみテンプレート波形との類似度が高く、その他の3つの事象関連電位に対しては同程度に類似度が低いことが想定される。この場合には、確信度が高いと言える。
反対に、計測時にノイズが混入すると、テンプレート波形と4つの事象関連電位の波形とが類似する場合も想定できる。この場合には、所望の選択肢が明らかでないため、確認は注意深く行われる必要がある。
テンプレート波形と4つの事象関連電位の波形とが類似するか否かは「類似度」を利用して判断することが可能である。ここで類似度の計算方法としては、比較対象の波形とテンプレート波形の単純なサンプリング値ごとの2乗誤差の平均でも良いし、相関係数を用いても良い。
また、推定部14では、テンプレート波形を用いなくても、4つの相互の波形の類似度を比較し、他の3つの波形との類似度の平均値が最も低い波形を推定結果として用いる方法もある。この場合には、選択肢推定結果の1位と2位の類似度の平均値が所定値以上離れている場合には、確信度が低いと言える。
このように算出された確信度が高い場合には、推定部14の出力は正しい可能性が高いと考えられる。よって確信度が高い場合には、全体の選択時間を短縮するために、確認点滅の回数をその初期設定値(たとえば10回)よりも減らすことができる。また確信度が低い場合には、推定部14の出力が間違っている可能性もあると考えられる。よって、確認点滅の回数を初期設定値よりも増やすことで確実に確認が行えるようにできる。
なお、確信度に代えて、判定部16による、推定された選択肢が誤りであったか否かの判定結果の割合を利用することも可能である。判定部16における、推定された選択肢が誤りであると判定された割合が予め保持した値以上の場合には、選択点滅制御部12は選択肢の点滅回数を増加させてもよい。一方、当該割合が予め保持した値より小さい場合には、選択点滅制御部12は選択肢の点滅回数を減少させてもよい。
点滅回数を決定するもう一つの方法は、確認時の推定の確信度を利用する方法である。判定部16は、確認点滅に対する事象関連電位から再試行要求がでているかどうかに関する確信度を算出可能である。確信度は、上述のように「高い」または「低い」の2状態のいずれかであってもよいし、数値として得られてもよい。その数値が予め定められた閾値以上の場合には確信度が「高い」と分類し、当該閾値より小さい場合には確信度が「低い」と分類してもよい。例えば、判定部16は、確認点滅に対する事象関連電位の波形と、予め保持していた再試行要求時のテンプレート波形との類似度が高い場合には確信度が高いと考えられるし、類似度が低い場合には確信度が低いと考えてよい。
確信度が高い場合には、確認点滅の回数をその初期設定値(たとえば10回)よりも減少させることができる。これにより選択肢の確定までの時間の短縮が図られる。また確信度が低い場合には、確認点滅の回数を初期設定値よりも増加させる。これにより、もしも推定を間違えた場合にも確実に確認を行うようにできる。
上述した、選択肢推定時の点滅回数および確認点滅時の点滅回数は、独立して調整することが可能である。いずれか一方のみを調整してもよいし、両方を調整してもよい。調整するタイミングは、リアルタイムでもよいし、それまでに取得した事象関連電位の履歴を考慮して、そのユーザについて次の選択肢推定動作および/または確認点滅動作に反映してもよい。
図12は、本実施形態による脳波インタフェースシステム1の処理の手順を示すフローチャートである。図12のフローチャートが、実施形態1にかかるフローチャート(図3(b))と相違する点は、結果を出力するステップS92に続いて、点滅回数を調整するステップS93を設けた点にある。
選択点滅制御部12および/または確認点滅制御部15は、その時点までに取得した事象関連電位を考慮して、上述したいずれかの方法により、選択肢推定時および/または確認点滅時の確信度を算出する。そして選択点滅制御部12および/または確認点滅制御部15は、確信度の高さに応じて、確認点滅の回数を調整する。これにより、各ユーザに応じて最適な選択点滅回数を設定することができる。
このように、脳波IF部2や結果確認部3の動作に基づいて、選択点滅制御部12や確認点滅制御部15は点滅回数を調整することが可能である。これにより、個々のユーザに適した点滅回数と識別精度のバランスを取ることができ、効率的にインタフェースを使用できる。
(実施形態3)
これまでの実施形態では、確認点滅によって補正が必要であることを判定するまでの処理について説明をした。本実施形態においては、推定した選択肢を補正する必要が生じた場合に脳波インタフェースシステムが選択肢を自動的に補正する方法を説明する。
なお、本実施形態にかかる脳波インタフェースシステムの構成もまた、実施形態1と同じである。したがって、実施形態1と異なる機能を有する構成要素のみ説明し、共通の機能を有する構成要素の説明は省略する。
まず、自動補正が可能であることを示す根拠を説明する。
本願発明者らは被験者12名で各8試行ずつの選択を行った全体で96試行のデータを解析した。図13(a)は、脳波インタフェースシステム1での実験データの分析結果を示す。この図は、正解選択肢に対応する事象関連電位(P300)の振幅の大きさは全選択肢の中で何番目であったかを、試行毎に分析し、数えた結果を示している。これは、図3(b)のステップS40において選択肢を推定する際、正解の選択肢に対するP300の振幅が、その他の選択肢も含めた全部で4つの事象関連電位の中で何番目に大きかったかを示している。
例えば図13(a)によれば、正解選択肢は全96試行のうち69試行で最大の振幅が観測されたことがわかる。図3(b)のステップS40の選択肢の推定においては、各選択肢の点滅を起点とした4つの事象関連電位のうち、P300付近の振幅が最も大きい事象関連電位に関連した選択肢を推定選択肢として決定していた。実際には、脳波の波形は揺らぎやノイズの混入等により、必ずしも常に4つの選択肢のうちで最大の振幅を取るわけではない。図13(a)はこの事実を示している。
正解選択肢であり、かつ、その選択肢においてP300の振幅が最大になった試行は、全96試行のうち69試行であったため、全体の72%存在していると言える。したがって、本明細書において説明している確認点滅を行わない場合には、推定選択肢の正答率は、72%になる。
図13(a)の表に示される波形の振幅の分析結果からは、ユーザ10が選択したい選択肢に関するP300の振幅が、4つの選択肢に関する各P300の振幅の2番目であった事例が14回、3番目であった事例が7回、4番目であった事例が6回あった。この結果から、もしも最大振幅に対応する選択肢を提示して間違っていたとしても(表では96回中の27回)、2番目の振幅の選択肢が正解である確率は1/2以上(27回中の14回)を示すことが読み取れる。
このため、図3(b)のステップS80での確認内容の推定において、ステップS40で推定した結果が正しくないと判定された場合には、脳波インタフェース使用時の各選択肢のハイライトに起因する事象関連電位のP300の振幅うち、2番目に大きかった選択肢に補正する。これにより、半分以上のケースでは、正解になることが明らかになった。この知見を活用し、推定選択肢が誤っていた場合の自動補正も可能になる。
図13(b)は、図13(a)の実験データに基づき、補正の効果を検討した結果を割合で示す。推定選択肢が正解である割合は72%である。推定選択肢が誤っている場合、すなわち、残り28%に該当する場合に、2番目に大きいP300の振幅を生じさせた選択肢に補正すると、補正後の選択肢が正解選択肢になる割合は15%である。よって、選択肢を1回補正することを許容すれば、96回中の73回(69回+14回)は正解にたどり着くことができるようになり、全体での正答率は最大で87%に向上する。
このように、P300の振幅の上位2位以内に多くの事例が集中する理由は、ノイズは全ての選択肢に平均的に影響するわけではなく、突発的に起こる場合が多いことが原因であるとも考えられる。例えば、瞬きをしたことによる眼電の変化は突発的な変化として脳波に影響を与える。この場合には、4つの選択肢に対する事象関連電位の中に、正解の選択肢に対応した事象関連電位と、眼電の影響を受けた事象関連電位が混在することになり、このような場合に1位と2位の混同が発生したとも考えられる。
以上のように、誤推定時のユーザ10の特徴的な脳波成分により、機器側の推定結果が誤りであったかが機器側で把握でき、さらに自動的に補正できる可能性もあることがわかる。
次に、これまでに得られた実験の結果を踏まえた、本実施形態による処理の手順を説明する。図14は、誤推定検出と選択肢の補正手順を示すフローチャートである。図3(b)のステップS40以降の推定選択肢決定以降の詳細な処理を示す。図3(b)のステップS30以前の処理の記載は省略している。
ステップS40において、出力部17は推定選択肢を表示する。
ステップS50において、確認点滅制御部15は、推定結果を確認するための確認点滅を行う。
ステップS80において、生体信号検出部13は、確認点滅を起点とした脳波(事象関連電位)を取得する。そして判定部16は、事象関連電位の中に補正を必要とする成分、例えばP300が含まれるか否かを判定し、それにより推定選択肢が正しかったかどうかを判定する。
ステップS81では、判定部16は、確認のための成分を検出したか否かを判定する。判定部16は、P300成分が含まれた場合には補正が必要である、すなわち、推定結果が誤りであったと判断して、ステップS94に進む。一方、P300成分が含まれない場合には、ステップS97に進む。
ステップS97において、判定部16は、選択肢の補正の必要がないと判断して、ステップS40で推定された選択肢を最終結果としてステップS96の動作出力に処理を進める。
ステップS94では、推定選択肢の補正のために、推定部14は、図3のステップS30にて蓄積されていた各選択肢のハイライトに対する事象関連電位をメモリから抽出する。各事象関連電位は、ステップS30の繰り返し回数に応じて、加算平均されている場合も、加算平均されていない場合もある。
ステップS95では、判定部16は、ステップS61で抽出した各選択肢のハイライトに対する波形から、振幅が2位の選択肢を候補として補正する。これにより、第1位が間違っていた場合には、半分以上の確率で第2位の選択肢が正解であるという知見を活用できる。
ステップS96では、機器が実施すべき最終的な選択肢が決定されたことを受けて、出力部17は、決定されたその選択肢に対応する処理を実行する。これにより、ユーザ10の所望する機器の動作が実現される。例えば、本実施形態のようにテレビの番組選択動作においては、チャンネルが選択された番組に切り替えられてその番組が表示される。
上記処理によれば、仮に脳波のゆらぎやノイズの混入などによって脳波インタフェースシステム1が選択肢の推定を誤った場合でも、その選択肢とは別の選択肢が新たに採用される。ユーザ10から見ると、脳波インタフェースシステム1において誤った選択肢が自動的に補正されることになるため、再操作の回数を減少させることができる。これにより、脳波インタフェースの操作性が向上する。
なお、自動補正が効果的に働くための条件は、一つはノイズの除去を行うことである。ノイズ源には、人体外からの機器ノイズ、人体内からの筋電や眼電ノイズ、インタフェース操作とは関連のない背景脳波等様々なものが考えられるが、これらをなるべく少なくすることで、仮に選択肢の推定が失敗した場合にでも、2位に正解の選択肢が存在する可能性を高められる。
このように確認点滅後に補正が必要な場合に、自動的に補正が可能になり、再選択等の意思表示が不要になるため、さらにインタフェースの操作性が高まる。
なお、上述した実施形態1〜3では、P300の事象関連電位を用いて選択肢を推定し、推定結果の確認判定を行う例を開示した。しかしながら、事象関連電位としてN200を用いても良い。「N200」とは、選択肢の点滅を起点とした100ミリ秒以上300ミリ秒以下における脳波信号において、陰性(負の方向)に振幅のピークを有する事象関連電位をいう。陰性に振幅のピークとは極小値であればよく、最小値を含む。この事象関連電位のN200は推定部でも判定部でも用いることができる。またそれ以外の脳波成分も判定に有効であれば使用可能である。
以上、上述の実施形態1〜3のいずれについても、フローチャートを用いて説明した処理は、脳波インタフェースシステムの実行方法として、または、コンピュータに実行されるプログラムとして実現され得る。そのようなコンピュータプログラムは、CD−ROM等の記録媒体に記録されて製品として市場に流通され、または、インターネット等の電気通信回線を通じて伝送される。そしてコンピュータプログラムはコンピュータによって実行されることにより、フローチャートに記載された各処理をコンピュータに実行させる。脳波IF部2および結果確認部3の各々は、コンピュータプログラムを実行する汎用のプロセッサ(半導体回路)によって実現される。または、そのようなコンピュータプログラムとプロセッサとが一体化された専用プロセッサとして実現される。
たとえば図15は、脳波IF提供装置4のハードウェアの構成を示す。脳波IF提供装置4は、CPU30と、メモリ31と、グラフィックコントローラ32と、通信コントローラ33とを有している。これらは互いにバス34で接続され、相互にデータの授受が可能である。
CPU30は、メモリ31に格納されているコンピュータプログラム35を実行する。脳波IF提供装置4は、このコンピュータプログラム35にしたがって、上述の選択点滅制御部12、推定部14、確認点滅制御部15および判定部16の動作を行う。
グラフィックコントローラ32は、CPU30の命令に従って、刺激提示部11において複数の選択肢を提示させるとともに、選択肢の選択点滅および確認点滅を行わせる。また、通信コントローラ33は、CPU30の命令に従って、生体信号検出部13が計測したユーザの脳波信号を受け取り、また、判定部16による判定結果に応じた処理を出力部17に実行させる。
なお、脳波IF提供装置4は1つのプロセッサまたは回路として実現されてもよい。または、脳波IF提供装置4に含まれる選択点滅制御部12、推定部14、確認点滅制御部15および判定部16のそれぞれがプロセッサまたは回路として設けられてもよいし、それらのうちの2以上が1つのプロセッサまたは回路として設けられてもよい。
本発明にかかる脳波インタフェースは、脳波が持つ一般的な課題に対応するものであり、機器制御等に脳波インタフェースが使用される場面において幅広く利用可能である。
1 脳波インタフェースシステム
2 脳波インタフェース部
3 結果確認部
4 脳波インタフェース提供装置
10 ユーザ
11 刺激提示部
12 選択点滅制御部
13 生体信号検出部
14 選択肢推定部(推定部)
15 確認点滅制御部
16 推定結果確認判定部(判定部)
17 出力部

Claims (12)

  1. 機器の操作に関する操作項目である複数の選択肢をユーザに提示する提示部と、
    前記複数の選択肢をそれぞれ点滅させる選択点滅制御部と、
    前記ユーザの脳波信号を計測する生体信号検出部と、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定する推定部と、
    推定された前記1つの選択肢の確認点滅を行う確認点滅制御部と、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記1つの選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定する判定部と、
    前記判定部の判定結果に応じた処理を実行する出力部と
    を備えた脳波インタフェースシステムであって、
    前記推定部および前記確認点滅制御部の少なくとも一方は、その時点までに取得した事象関連電位を利用して、前記複数の選択肢をそれぞれ点滅させる回数、および/または、前記確認点滅の回数を調整する、脳波インタフェースシステム。
  2. 少なくとも前記確認点滅制御部が前記確認点滅の回数を調整する場合において、
    前記確認点滅制御部は、その時点までに取得した事象関連電位を利用して、前記推定部によって推定された前記選択肢が前記ユーザにとってどの程度確からしいかを示す指標である確信度を算出し、前記確信度が高い場合には前記確認点滅の回数を減らし、前記確信度が低い場合には前記確認点滅の回数を増加させる、請求項1に記載の脳波インタフェースシステム。
  3. 少なくとも前記確認点滅制御部が前記確認点滅の回数を調整する場合において、
    前記判定部は、前記確認点滅に対する事象関連電位を利用して、推定された前記選択肢を変更する要求の有無に関する確信度を算出し、
    前記確信度が予め定められた閾値以上のときは、前記判定部は確信度が高いと分類して、前記確認点滅制御部は前記確認点滅の回数を減少させ、
    前記確信度が予め定められた閾値より小さいときは、前記判定部は、確信度が低いと分類して、前記確認点滅制御部は前記確認点滅の回数を増加させる、請求項1に記載の脳波インタフェースシステム。
  4. 前記判定部は、前記確認点滅に対する事象関連電位の波形と、予め保持していた再試行要求時のテンプレート波形とに基づいて計算される類似度を利用して、推定された前記選択肢を変更する要求の有無に関する確信度を算出する、請求項1または2に記載の脳波インタフェースシステム。
  5. 前記判定部によって前記推定部の推定結果が誤りと判定されたときにおいて、
    推定結果が誤りと判定された割合が所定の値以上の場合には、前記選択点滅制御部は各選択肢の点滅回数を増加させ、推定結果が誤りと判定された割合が前記所定の値より小さい場合には、前記選択点滅制御部は各選択肢の点滅回数を減少させる、請求項4に記載の脳波インタフェースシステム。
  6. 機器の操作に関する操作項目である複数の選択肢をユーザに提示する提示部と、
    前記複数の選択肢をそれぞれ点滅させる選択点滅制御部と、
    前記ユーザの脳波信号を計測する生体信号検出部と、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定する推定部と、
    推定された前記1つの選択肢の確認点滅を行う確認点滅制御部と、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記1つの選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定する判定部と、
    前記判定部の判定結果に応じた処理を実行する出力部と
    を備えた脳波インタフェースシステムであって、
    前記判定部における、前記推定部の推定結果が誤りと判定された割合を利用して、前記選択点滅制御部は、選択肢の点滅回数を調整する、脳波インタフェースシステム。
  7. 機器の操作に関する操作項目である複数の選択肢を提示部においてそれぞれ点滅させる選択点滅制御部と、
    生体信号検出部が計測した前記ユーザの脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定する推定部と、
    推定された前記1つの選択肢の確認点滅を行う確認点滅制御部と、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定する判定部と
    を備え、前記判定部の判定結果に応じた処理を出力部に実行させる、脳波インタフェース提供装置であって、
    前記推定部および前記確認点滅制御部の少なくとも一方は、その時点までに取得した事象関連電位を利用して、前記複数の選択肢をそれぞれ点滅させる回数、および/または、前記確認点滅の回数を調整する、脳波インタフェース提供装置。
  8. 機器の操作に関する操作項目である複数の選択肢を提示部においてそれぞれ点滅させる選択点滅制御部と、
    生体信号検出部が計測した前記ユーザの脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定する推定部と、
    推定された前記1つの選択肢の確認点滅を行う確認点滅制御部と、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定する判定部と
    を備え、前記判定部の判定結果に応じた処理を出力部に実行させる、脳波インタフェース提供装置であって、
    前記判定部における、前記推定部の推定結果が誤りと判定された割合を利用して、前記選択点滅制御部は、選択肢の点滅回数を調整する、脳波インタフェース提供装置。
  9. 機器の操作に関する操作項目である複数の選択肢をユーザに提示するステップと、
    前記複数の選択肢をそれぞれ点滅させるステップと、
    前記ユーザの脳波信号を計測するステップと、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定するステップと、
    推定された前記1つの選択肢の確認点滅を行うステップと、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定するステップと、
    判定する前記ステップの判定結果に応じた処理を実行するステップと
    を包含する、脳波インタフェースシステムの実行方法であって、
    推定する前記ステップおよび確認点滅を行う前記ステップの少なくとも一方は、その時点までに取得した事象関連電位を利用して、前記複数の選択肢をそれぞれ点滅させる回数、および/または、前記確認点滅の回数を調整する、脳波インタフェースシステムの実行方法。
  10. 機器の操作に関する操作項目である複数の選択肢をユーザに提示するステップと、
    前記複数の選択肢をそれぞれ点滅させるステップと、
    前記ユーザの脳波信号を計測するステップと、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定するステップと、
    推定された前記1つの選択肢の確認点滅を行うステップと、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定するステップと、
    判定する前記ステップの判定結果に応じた処理を実行するステップと
    を包含する、脳波インタフェースシステムの実行方法であって、
    判定する前記ステップにおける、前記推定部の推定結果が誤りと判定された割合を利用して、複数の選択肢をそれぞれ点滅させる前記ステップは、選択肢の点滅回数を調整する、脳波インタフェースシステムの実行方法。
  11. 脳波インタフェース提供装置に実装されるコンピュータによって実行されるコンピュータプログラムであって、
    前記コンピュータプログラムは、前記コンピュータに対し、
    機器の操作に関する操作項目である複数の選択肢を提示部に提示させるステップと、
    前記複数の選択肢をそれぞれ点滅させるステップと、
    生体信号検出部が計測した前記ユーザの脳波信号を受け取るステップと、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定するステップと、
    推定された前記1つの選択肢の確認点滅を行うステップと、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定するステップと、
    判定する前記ステップの判定結果に応じた処理を出力部に実行させるステップと
    を実行させ、
    推定する前記ステップおよび確認点滅を行う前記ステップの少なくとも一方においては、その時点までに取得した事象関連電位を利用して、前記複数の選択肢をそれぞれ点滅させる回数、および/または、前記確認点滅の回数を調整する、コンピュータプログラム。
  12. 脳波インタフェース提供装置に実装されるコンピュータによって実行されるコンピュータプログラムであって、
    前記コンピュータプログラムは、前記コンピュータに対し、
    機器の操作に関する操作項目である複数の選択肢を提示部に提示させるステップと、
    前記複数の選択肢をそれぞれ点滅させるステップと、
    生体信号検出部が計測した前記ユーザの脳波信号を受け取るステップと、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記複数の選択肢のそれぞれの点滅を起点とした事象関連電位を利用して、前記ユーザの所望の操作に対応する1つの選択肢を推定するステップと、
    推定された前記1つの選択肢の確認点滅を行うステップと、
    前記脳波信号に含まれる脳波の事象関連電位であって、前記選択肢の確認点滅を起点とした事象関連電位を利用して、推定された前記選択肢が、前記ユーザの所望の操作に対応する選択肢であったか否かを判定するステップと、
    判定する前記ステップの判定結果に応じた処理を出力部に実行させるステップと
    を実行させ、
    判定する前記ステップにおける、前記推定部の推定結果が誤りと判定された割合を利用して、複数の選択肢をそれぞれ点滅させる前記ステップにおいて、選択肢の点滅回数を調整する、コンピュータプログラム。
JP2011532442A 2010-02-25 2011-01-18 脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム Active JP4856791B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011532442A JP4856791B2 (ja) 2010-02-25 2011-01-18 脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010040337 2010-02-25
JP2010040337 2010-02-25
JP2011532442A JP4856791B2 (ja) 2010-02-25 2011-01-18 脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム
PCT/JP2011/000215 WO2011105000A1 (ja) 2010-02-25 2011-01-18 脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム

Publications (2)

Publication Number Publication Date
JP4856791B2 true JP4856791B2 (ja) 2012-01-18
JPWO2011105000A1 JPWO2011105000A1 (ja) 2013-06-17

Family

ID=44506435

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011532442A Active JP4856791B2 (ja) 2010-02-25 2011-01-18 脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム

Country Status (4)

Country Link
US (1) US9078725B2 (ja)
JP (1) JP4856791B2 (ja)
CN (1) CN102473036B (ja)
WO (1) WO2011105000A1 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI449515B (zh) * 2011-10-19 2014-08-21 Univ Nat Central 步進延遲閃爍序列之腦機介面控制方法及其系統
US20150338917A1 (en) * 2012-12-26 2015-11-26 Sia Technology Ltd. Device, system, and method of controlling electronic devices via thought
US8804042B2 (en) 2013-01-14 2014-08-12 International Business Machines Corporation Preemptive preloading of television program data
CN103584856B (zh) * 2013-11-29 2015-09-30 国网安徽省电力公司淮南供电公司 一种通过处理脑电波识别眨眼力度的方法
AU2015267333B2 (en) * 2014-05-30 2020-07-23 The Regents Of The University Of Michigan Brain-computer interface for facilitating direct selection of multiple-choice answers and the identification of state changes
CN104799984B (zh) * 2015-05-14 2017-01-25 华东理工大学 基于脑控移动眼的残疾人辅助系统及其控制方法
CN105787459B (zh) * 2016-03-14 2019-02-05 山东大学 一种基于最优评分稀疏判别的erp信号分类方法
US20200037911A1 (en) * 2016-04-14 2020-02-06 National Institute Of Advanced Industrial Science And Technology Intention decoding apparatus and intention conveyance assist apparatus
CN107368896B (zh) * 2016-05-13 2023-02-21 松下知识产权经营株式会社 学习系统、学习方法以及记录介质
CN106527161A (zh) * 2016-11-28 2017-03-22 深圳市元征科技股份有限公司 一种数据处理方法和数据处理装置
JP6984132B2 (ja) * 2017-01-31 2021-12-17 日産自動車株式会社 運転支援方法及び運転支援装置
WO2019028394A1 (en) * 2017-08-03 2019-02-07 The University Of Melbourne MEDICAL DEVICE FOR DETECTION AND / OR STIMULATION OF TISSUE
JP7532249B2 (ja) 2017-08-23 2024-08-13 ニューラブル インコーポレイテッド 高速視標追跡機能を有する脳-コンピュータインタフェース
KR20200098524A (ko) 2017-11-13 2020-08-20 뉴레이블 인크. 고속, 정확도 및 직관적 사용자 상호작용을 위한 적응을 갖춘 두뇌-컴퓨터 인터페이스
US10952680B2 (en) 2017-12-27 2021-03-23 X Development Llc Electroencephalogram bioamplifier
US10671164B2 (en) 2017-12-27 2020-06-02 X Development Llc Interface for electroencephalogram for computer control
JP2021511567A (ja) 2018-01-18 2021-05-06 ニューラブル インコーポレイテッド 高速、正確、且つ直感的なユーザ対話のための適合を伴う脳−コンピュータインタフェース
CN108509033B (zh) * 2018-03-13 2021-06-01 Oppo广东移动通信有限公司 信息处理方法及相关产品
US10901508B2 (en) * 2018-03-20 2021-01-26 X Development Llc Fused electroencephalogram and machine learning for precognitive brain-computer interface for computer control
US10664050B2 (en) 2018-09-21 2020-05-26 Neurable Inc. Human-computer interface using high-speed and accurate tracking of user interactions
EP3956747A1 (en) 2019-04-19 2022-02-23 Toyota Motor Europe Neural menu navigator and navigation methods
US11093038B2 (en) 2019-05-14 2021-08-17 Synchron Australia Pty Limited Systems and methods for generic control using a neural signal
KR102685114B1 (ko) * 2019-06-26 2024-07-12 현대자동차주식회사 오류 모니터링을 이용한 모빌리티 제어 방법 및 장치
EP4048371A4 (en) 2019-10-29 2024-03-13 Synchron Australia Pty Ltd SYSTEMS AND METHODS FOR CONFIGURING A BRAIN CONTROL INTERFACE USING DATA FROM DEPLOYED SYSTEMS
US11157081B1 (en) 2020-07-28 2021-10-26 Shenzhen Yunyinggu Technology Co., Ltd. Apparatus and method for user interfacing in display glasses
JP2023015680A (ja) * 2021-07-20 2023-02-01 株式会社Jvcケンウッド 操作制御装置、操作制御方法およびプログラム
WO2023042513A1 (ja) * 2021-09-14 2023-03-23 株式会社Jvcケンウッド 操作制御装置、操作制御方法およびプログラム
JP2023094398A (ja) * 2021-12-23 2023-07-05 株式会社Jvcケンウッド 感覚伝達システム及び感覚伝達方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009057278A1 (ja) * 2007-10-29 2009-05-07 Panasonic Corporation 脳波インタフェースシステムに組み込まれる補正装置、方法およびコンピュータプログラム
JP2010015584A (ja) * 2007-10-29 2010-01-21 Panasonic Corp 脳波インタフェースシステムのための起動装置、方法およびコンピュータプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004275619A (ja) 2003-03-19 2004-10-07 Kumamoto Technology & Industry Foundation 画像刺激−脳波意思伝達方法、及びそれに用いるシステム
JP4369290B2 (ja) 2003-07-02 2009-11-18 尚之 加納 事象関連電位を利用したヒトの心理状態等の判定装置
CN100387192C (zh) 2004-07-02 2008-05-14 松下电器产业株式会社 生体信号利用机器及其控制方法
US8521271B2 (en) 2006-11-06 2013-08-27 Panasonic Corporation Brain wave identification method adjusting device and method
US8185193B2 (en) 2007-06-12 2012-05-22 Panasonic Corporation Electroencephalogram interface system and activation apparatus

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009057278A1 (ja) * 2007-10-29 2009-05-07 Panasonic Corporation 脳波インタフェースシステムに組み込まれる補正装置、方法およびコンピュータプログラム
JP2010015584A (ja) * 2007-10-29 2010-01-21 Panasonic Corp 脳波インタフェースシステムのための起動装置、方法およびコンピュータプログラム

Also Published As

Publication number Publication date
CN102473036B (zh) 2015-06-24
US9078725B2 (en) 2015-07-14
JPWO2011105000A1 (ja) 2013-06-17
WO2011105000A1 (ja) 2011-09-01
CN102473036A (zh) 2012-05-23
US20120069247A1 (en) 2012-03-22

Similar Documents

Publication Publication Date Title
JP4856791B2 (ja) 脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム
JP4630382B2 (ja) 脳波インタフェースシステムに組み込まれる補正装置、方法およびコンピュータプログラム
JP4399513B2 (ja) 脳波インタフェースシステム、脳波インタフェース装置、方法およびコンピュータプログラム
EP2081100B1 (en) Adjusting device for brain wave identification method, adjusting method and computer program
JP4399515B1 (ja) 脳波信号の識別方法を調整する装置、方法およびプログラム
US7716697B2 (en) Information processing system, information processing apparatus, and method
US10226198B2 (en) Electrode attachment state determination system, electrode attachment state determination method, and program thereof
JP4287903B2 (ja) 脳波インタフェースシステムおよび起動装置
JP4659905B2 (ja) 脳波識別の要否を決定する装置および方法
US8521271B2 (en) Brain wave identification method adjusting device and method
US20100317988A1 (en) Activation apparatus, method, and computer program for brainwave interface system
US20100160808A1 (en) Interface system utilizing musticatory electromyogram
US8326409B2 (en) Adjustment device, method, and computer program for a brainwave identification system
JP2009199535A (ja) 脳波識別方法の調整装置および方法
JP3991066B2 (ja) サービス提供装置、サービス提供方法およびプログラム
Gusso et al. More than a feeling: scalp EEG and eye correlates of conscious tactile perception
CN115705089A (zh) 一种校准方法、装置、终端设备及存储介质
Takahashi et al. Combination of reliability-based automatic repeat request with error potential-based error correction for improving P300 speller performance

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111004

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111028

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141104

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4856791

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150