JP4264126B2 - 脳波識別方法調整装置および方法 - Google Patents

脳波識別方法調整装置および方法 Download PDF

Info

Publication number
JP4264126B2
JP4264126B2 JP2008543013A JP2008543013A JP4264126B2 JP 4264126 B2 JP4264126 B2 JP 4264126B2 JP 2008543013 A JP2008543013 A JP 2008543013A JP 2008543013 A JP2008543013 A JP 2008543013A JP 4264126 B2 JP4264126 B2 JP 4264126B2
Authority
JP
Japan
Prior art keywords
electroencephalogram
component
identification method
event
related potential
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008543013A
Other languages
English (en)
Other versions
JPWO2008056492A1 (ja
Inventor
信夫 足立
幸治 森川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Application granted granted Critical
Publication of JP4264126B2 publication Critical patent/JP4264126B2/ja
Publication of JPWO2008056492A1 publication Critical patent/JPWO2008056492A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • A61B5/377Electroencephalography [EEG] using evoked responses
    • A61B5/378Visual stimuli
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • A61B5/372Analysis of electroencephalograms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Surgery (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Psychology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Psychiatry (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Neurosurgery (AREA)
  • Neurology (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Dermatology (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Description

本発明は、脳波を利用して機器を操作することが可能なインタフェース(脳波インタフェース)システムに関する。より具体的には、ユーザの脳波をリアルタイムで計測し、的確に解析するためのキャリブレーションを行う装置を備えた脳波インタフェースシステムに関する。
近年、テレビ、携帯電話、PDA(Personal Digital Assistant)等の様々な種類の情報機器が普及し、人間の生活に入り込んできたため、ユーザは普段の生活の中の多くの場面で情報機器を操作する必要が生じている。通常、ユーザは手を使ってボタン等の入力手段(インタフェース部)を介して入力コマンドを入力し、機器の操作を実現している。しかし、例えば、家事、育児や運転をしているときなど、両手が機器操作以外のタスクで塞がっている状況ではインタフェース部を利用した入力が困難となり、機器操作が実現できなかった。そのため、あらゆる状況で情報機器を操作したいというユーザのニーズが高まっている。
このようなニーズに対して、ユーザの生体信号を利用した入力手段が開発されている。たとえば非特許文献1では、脳波の事象関連電位を用いてユーザが選択したいと思っている選択肢を識別するという技術が開示されている。非特許文献1に記載された技術を具体的に説明すると、選択肢をランダムにハイライトし、選択肢がハイライトされたタイミングを起点に約300ms後に出現する事象関連電位のP3成分を利用して、ユーザが選択したいと思っている選択肢の識別を実現している。この技術によって、ユーザは手を使うことなく、選択したいと思った選択肢を特定可能となる。
ここで「事象関連電位」とは、外的あるいは内的な事象に時間的に関連して生じる脳の一過性の電位変動をいう。脳波インタフェース部100は、外的な事象として視覚に対する刺激によって得られる事象関連電位を利用する。たとえば、視覚刺激に対する事象関連電位のうちの、いわゆるP3成分と呼ばれる成分を利用すると、チャンネルの切り替え、視聴を希望する番組のジャンルの選択、音量の調整などの処理を行うことができる。「P3成分」とは、事象関連電位のうちの、聴覚、視覚、体性感覚などの感覚刺激の種類に関係なく標的刺激提示後250msから500msの時間帯に出現する陽性成分をいう。
事象関連電位をインタフェースに応用するためには、対象の事象関連電位(例えば視覚P3成分)を高い精度で識別することが重要である。そのために、生体信号を精度良く計測すること、および、計測した生体信号を適切な識別手法によって精度良く識別することが必要となる。
生体信号を精度良く計測するためには計測機器のキャリブレーションを行い、計測機器で計測されたデータがユーザの生体情報を正確に表すように調整することが一般的である。たとえば特許文献1では、ユーザの視線を精度良く計測するために、視線計測の前に計測機器のキャリブレーションを行い、計測機器とユーザの視線の間の座標系を整合させる技術が開示されている。
一方、事象関連電位の成分に現れる個人差を考慮した適切な識別方法も考案されている。たとえば特許文献2では、ユーザごとに識別方法を変えて識別率を向上させる技術が開示されている。この技術は単一の基準で全てのユーザの識別を行うのではなく、調べたい状況に対する事象関連電位の加算平均波形から事前に個人ごとのテンプレートを作成しておき、そのテンプレートを用いて事象関連電位の成分を識別している。なお、事象関連電位の個人差については、たとえば非特許文献2が詳しい。
特開2005−312605号公報 国際公開第05/001677号パンフレット エマニュエル・ドンチン(Emanuel Donchin)、他2名、"The Mental Prosthesis:Assesing the Speed of a P300−Based Brain−Computer Interface"、TRANSACTIONS ON REHABILITATION ENGINEERING 2000、Vol.8、2000年6月 入戸野宏、「心理学のための事象関連電位ガイドブック」、北大路書房、2005年、32頁
脳波を精度良く計測するためのキャリブレーション方法として、脳波計装着時に、例えば識別したい状況を意図的に作り出してユーザにダミーのメニューを選択させるという方法が考えられる。メニュー選択時の脳波が、希望するメニューが提示された時のユーザの生体情報を表すとして脳波計のキャリブレーションを行うため、電極の装着状態、たとえば頭皮の電気抵抗や電極の装着部位等の計測条件のばらつきによって生じる波形の違いを調整できる。
しかしながら、インタフェースに脳波を利用する場合には、長時間にわたって(場合によっては一日中)脳波を計測するため、発汗や運動による電極位置のずれ等の電極の装着状態が変化することが想定される。したがって、脳波計装着時のキャリブレーションのみでは生体信号を精度良く計測することができない。一方、電極の装着状態の変化を測定するためには定期的な前述のようなキャリブレーションが必要であるが、前述のキャリブレーションはユーザにとって面倒であり、定期的なキャリブレーションの実施はユーザの負担を増大させる。
また、覚醒度に応じて事象関連電位の成分が変化することが知られているが、一日中脳波を計測する状況では、例えば朝と夜ではユーザの覚醒度が変化すると考えられる。特に、覚醒度が低い場合には振幅が減少し識別の難易度が上がるため、識別の基準を変更する必要がある。従来のキャリブレーション方法では計測機器の誤差を補正するためには有効であるが、覚醒度等のユーザ状態を測定することはできないため、ユーザの覚醒度によって識別の基準を変更することはできない。
加えて、脳波インタフェースによって機器を操作する場合には、視覚的に提示されるメニュー項目に対する視覚P3成分を用いるため、従来、キャリブレーション用の刺激として視覚刺激を提示しているが、インタフェース条件では、例えば食事をしながらテレビを操作するときのように、ユーザの注意がキャリブレーション刺激に向いているという保障がなされず、正確なキャリブレーションができないという課題があった。
これらは、いずれも実験室条件の実験からは想定されなかった課題であり、脳波を日常的に計測しインタフェースに利用するとしたときに初めて認識されたものである。
本発明の目的は、脳波を利用したインタフェースを備えたシステムにおいて、ユーザ状態や脳波を計測するための電極の装着状態を考慮してキャリブレーションを行う際に、ユーザがキャリブレーション用刺激を見落とすことがないようにすることである。併せて、キャリブレーション用刺激に対する事象関連電位のP3成分に基づき、脳波インタフェースで用いる視覚P3成分の識別方法を調整して精度の高い識別を実現することである。
本発明による脳波識別方法調整装置は、機器の操作メニューを視覚的に提示する出力部と、ユーザの脳波信号を取得する生体信号計測部と、予め保持された視覚事象関連電位のパラメータを利用して前記操作メニュー提示後の脳波信号に含まれる視覚事象関連電位のP3成分を識別し、識別された前記P3成分に基づいて前記機器を動作させる脳波インタフェース部とを有する脳波インタフェースシステムにおいて、前記脳波インタフェース部の識別方法を調整するために用いられる。前記脳波識別方法調整装置は、視覚以外のモダリティへの刺激によって得られる事象関連電位のP3成分と視覚事象関連電位のP3成分との相関を規定したデータベースと、前記出力部を介して前記刺激を提示する刺激提示部と、前記刺激提示後の脳波信号に含まれる事象関連電位を分析する分析部と、分析された前記事象関連電位のP3成分および前記データベースに基づいて視覚事象関連電位のP3成分に関する前記ユーザの特徴量を導出し、前記特徴量に基づいて前記脳波インタフェース部における脳波識別方法を調整する識別方法調整部とを備えている。
前記刺激提示部は、前記刺激として聴覚刺激を提示してもよい。
前記刺激提示部は、前記刺激として体性感覚刺激を提示してもよい。
前記脳波インタフェース部は、前記パラメータとして設定された閾値に基づいて前記ユーザの視覚事象関連電位のP3成分の有無を識別しており、前記識別方法調整部は、前記特徴量に基づいて前記閾値を調整してもよい。
前記脳波インタフェース部は、前記パラメータとして設定された視覚事象関連電位の波形のテンプレートに基づいて前記ユーザの視覚事象関連電位のP3成分の有無を識別しており、前記識別方法調整部は、前記特徴量に基づいて前記テンプレートを調整してもよい。
前記識別方法調整部は、前記特徴量に基づいて前記ユーザの脳波信号を調整してもよい。
前記脳波インタフェース部は、視覚事象関連電位の振幅に関する閾値に基づいて前記視覚事象関連電位のP3成分の有無を識別しており、前記データベースは、前記P3成分の振幅に関する相関を規定しており、前記識別方法調整部は、振幅に関する前記特徴量に基づいて前記閾値を調整してもよい。
前記データベースは、前記P3成分の振幅に関する相関を規定しており、前記識別方法調整部は、振幅に関する前記特徴量に基づいて前記テンプレートを調整してもよい。
前記データベースは、前記P3成分の振幅に関する相関を規定しており、前記識別方法調整部は、振幅に関する前記特徴量に基づいて前記脳波信号を調整してもよい。
前記刺激提示部は、前記脳波インタフェースシステムの利用開始時に前記刺激を提示してもよい。
前記刺激提示部は、前記脳波インタフェースシステムが利用されている期間中のランダムな時刻に前記刺激を提示してもよい。
本発明による脳波の識別方法を調整するための方法は、機器の操作メニューを視覚的に提示する出力部と、ユーザの脳波信号を取得する生体信号計測部と、予め保持された視覚事象関連電位のパラメータを利用して前記操作メニュー提示後の脳波信号に含まれる視覚事象関連電位のP3成分を識別し、識別された前記P3成分に基づいて前記機器を動作させる脳波インタフェース部とを有する脳波インタフェースシステムにおいて、前記脳波インタフェース部の識別方法を調整するために用いられる。前記方法は、視覚以外のモダリティへの刺激によって得られる事象関連電位のP3成分と視覚事象関連電位のP3成分との相関を規定したデータベースを用意するステップと、前記出力部を介して前記刺激を提示するステップと、前記刺激提示後の脳波信号に含まれる事象関連電位を分析するステップと、分析された前記事象関連電位のP3成分および前記データベースに基づいて視覚事象関連電位のP3成分に関する前記ユーザの特徴量を導出するステップと、前記特徴量に基づいて前記脳波インタフェース部における脳波識別方法を調整するステップとを包含する。
本発明の識別方法調整装置、方法および識別方法調整装置が組み込まれた脳波インタフェースシステムによれば、視覚以外のモダリティへの刺激によって得られる事象関連電位のP3成分を用いて、脳波インタフェースシステムでの識別に用いられる視覚P3成分の識別方法を調整する。これにより、脳波を常時計測するインタフェースにおいて問題となる、キャリブレーション用刺激の見落としがなくなるとともに、ユーザ個人の体調などの状態や、脳波検出のための電極の装着状態の変化の影響を排除し、脳波を精度良く計測し、識別率を高く維持できる。よって、脳波の識別ミスによるユーザの意図しない機器動作が減少するため脳波インタフェースの操作性向上を実現できる。
以下、添付の図面を参照しながら、本発明による脳波インタフェースシステムおよび脳波インタフェースシステムに組み込まれる識別方法調整装置の実施形態を説明する。
以下では、まず脳波インタフェースシステムを説明し、その後識別方法調整装置の構成および動作を説明する。
図1は、脳波インタフェースシステム1の構成および利用環境を示す。この脳波インタフェースシステム1は後述する実施形態1のシステム構成に対応させて例示している。
脳波インタフェースシステム1は、ユーザ5の脳波信号を利用してTV2を操作するインタフェースを提供するためのシステムである。ユーザ5の脳波信号はユーザが頭部に装着した生体信号計測部50によって取得され、無線または有線で脳波インタフェース部100に送信される。TV2に内蔵された脳波インタフェース部100は、脳波の一部を構成する事象関連電位と呼ばれる成分を利用してユーザの意図を認識し、チャンネルの切り替えなどの処理を行う。
図2は、脳波インタフェースシステム1においてTV2を操作し、ユーザ5が視聴したいジャンルの番組を見るときの例を示す。
図2(a)は、脳波インタフェース部100がTV2の画面3aを介してユーザに提示するメニュー項目の例である。図2(a)では、画面3a−1から画面3a−4において、それぞれ「野球」、「天気予報」、「アニメ」、「ニュース」というメニュー項目が順にまたはランダムにハイライトされる様子を示している。メニュー項目をハイライトすることによって、それぞれのメニュー項目がハイライトされた時刻を起点とした事象関連電位が計測可能となる。なお、ハイライトの代わりに、またはハイライトと共に補助的矢印を用いたポイントでメニュー項目を提示してもよい。
図2(b)は、メニュー項目がハイライトされた時刻を起点に計測したユーザの脳波信号の事象関連電位を模式的に示す。今、ユーザは「天気予報」を見たいと考えていたとする。画面3a−1から画面3a−4までのそれぞれに対応する脳波信号201〜204のうち、ユーザ5が「天気予報」がハイライトされた画面3a−2を見ると、「天気予報」がハイライトされた時刻を起点に潜時約400−450msに特徴的な陽性の成分が出現する(非特許文献1)。
脳波インタフェース部100がこの視覚P3成分の出現を識別すると、ユーザが選択したいと考えていたメニュー項目「天気予報」の選択が可能となる。図2(c)では、視覚P3成分を識別した結果、チャンネルが「天気予報」に切り替えられた後の画面3a−5を示している。
図3は、脳波インタフェースの処理の手順を示す。ステップS101において、脳波インタフェース部100はメニュー項目(図2(a))を提示する。ステップS102において、脳波インタフェース部100はメニュー項目の一つを選択する。ステップS103において、ステップS102によって選択されたメニュー項目をハイライトする。
ステップS104において、脳波インタフェース部100は、ステップS103においてメニュー項目がハイライトされた時刻を起点に、例えば500ms分のユーザの事象関連電位を計測する。ここでは、図2(b)に模式的に示す脳波信号の事象関連電位201〜204が計測される。
ステップS105において、ステップS104で計測した事象関連電位に視覚P3成分が含まれているか否かを識別する。視覚P3成分の識別は、単純に波形を閾値処理してもよいし、特許文献2に記載のようにあらかじめユーザごとに計測した視覚P3成分の加算平均波形で作成したテンプレートとの相関係数を算出してもよい。ステップS105でYesの場合、ステップS106に進み、Noの場合はステップS102に戻り次のメニュー項目を選択する。
ステップS106において、脳波インタフェース部100はステップS105によって選択されたメニュー項目に対応する処理を実行する。これにより、そのメニュー項目が選択され、実行されて、図2(c)に示す画面3a−5が表示される。
このような脳波インタフェースシステム1によれば、例えば家事や育児で両手が塞がっている場合にもユーザは手を使わずにTV2等の機器を操作することが可能となる。よって機器の操作性が格段に向上する。
上述のステップS105において、脳波信号(事象関連電位)中に視覚P3成分が出現する時間や振幅はユーザごとに変動しうるため、固定の閾値などを用いて画一的に視覚P3成分の出現を識別することは不適切である。そこで、事象関連電位に基づく処理を実現するために、脳波インタフェースシステム1においては、動作する基準をユーザ5の信号に合わせて調整する必要がある。この動作が、いわゆるキャリブレーションである。キャリブレーションは図1に示す識別方法調整装置10によって行われる。
以下の実施形態において説明する識別方法調整装置は、事象関連電位に対して必ず反応が現れる視覚以外のモダリティ(視覚以外の五感)への刺激、たとえばスピーカ3bを利用した聴覚への刺激や、バイブレータ3cを利用した体性感覚への刺激をユーザ5に提示して、その提示後の脳波の事象関連電位を計測する。脳波の事象関連電位は無線または有線で識別方法調整装置10に送信される。
視覚以外のモダリティへの刺激を利用する理由は、キャリブレーション用の刺激を見落とすことなく、確実にキャリブレーションを行うためである。これは、視覚のみによってキャリブレーションを行うと視覚刺激をユーザが見過ごすおそれがあることに基づく。
後述の実施形態1および2においてはキャリブレーション用の刺激として聴覚刺激を採用した例を説明し、実施形態3においては体性感覚刺激を採用した例を説明する。ただし、提示されるキャリブレーション用の刺激は1種類に限られず、同時に複数の種類の刺激が提示されてもよい。または、適当な基準を設けて刺激の種類を切り替えてもよい。
視覚以外のモダリティに対する刺激によって得られた事象関連電位のP3成分(たとえば聴覚P3成分、匂いP3成分)と視覚事象関連電位のP3成分とは、被験者ごとに振幅および潜時には正の相関関係があることが知られている。また、被験者ごとの事象関連電位の違いの一部は、頭蓋骨や脳の形状等の解剖学的な個人差に由来するとされており、視覚P3成分と体性感覚P3成分の振幅および潜時にも相関関係があると考えられる。また、加我他、「事象関連電位(ERP)マニュアル−P300を中心に−」、篠原出版新社、1995年:255頁の記載によれば、同一のユーザであってもユーザの覚醒度に応じてP3の振幅および潜時が変化することが知られている。
通常、事象関連電位のP3成分は、頻度の異なる2種類の刺激を弁別した場合に低頻度の刺激に対して出現する。しかし、柿木他、「新生理心理学2巻」、北大路書房、1997年、15頁に記載のように、同じ音の高さの1種類の刺激を提示した場合にも出現することが知られている。
聴覚または体性感覚刺激に対する事象関連電位のP3成分と、視覚事象関連電位のP3成分との相関を利用すると、視覚事象関連電位のP3成分に関するユーザ5の特徴量を導出できる。識別方法調整装置10は、その特徴量に基づいて脳波インタフェース部100における脳波識別方法を調整する。
キャリブレーションを行うタイミングは、脳波インタフェースシステム1の利用開始時、利用開始から予め定められた時間を経過した時である。またはランダムなタイミングでキャリブレーションを行ってもよい。そのときのユーザ状態や電極の装着状態に合わせて脳波の識別方法が調整できるため、脳波インタフェースの識別率が向上する。
(実施形態1)
図4は、本実施形態による脳波インタフェースシステム1の機能ブロックの構成を示す。脳波インタフェースシステム1は、出力部3と、識別方法調整装置10と、生体信号計測部50と、脳波インタフェース(IF)部100とを有している。図4はまた、調整装置10の詳細な機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。
出力部3は、画面3aおよびスピーカ3bを有している。
本実施形態においてはキャリブレーション用刺激として画面3a上へのメニュー項目の表示と同時にスピーカ3bから聴覚刺激を提示し、キャリブレーション用の聴覚刺激に対する事象関連電位のP3成分を用いて脳波インタフェースにおける視覚P3成分の識別方法を調整する。これによって、脳波インタフェースを操作する直前のユーザ状態や電極の装着状態に応じた識別が可能となり脳波インタフェースで用いる視覚P3成分の識別率が向上する。
ユーザ5は、脳波インタフェース部100によって画面3aに提示される機器操作に関
するメニュー項目(選択肢)をただ見ているだけで操作入力はしないが、脳波インタフェース部100を介して選択されたメニュー項目に応じて機器が動作するものとする。なお、メニュー項目の表示、すなわち視覚刺激は必須ではない。メニュー項目の内容をスピーカ3bから音声出力してもよい。
識別方法調整装置10は、有線または無線で生体信号検出部50および脳波インタフェース部100と接続され、信号の送信および受信を行う。図4においては、生体信号検出部50および脳波インタフェース部100は識別方法調整装置10とは別体であるが、これは例である。生体信号検出部50および脳波インタフェース部の一部または全部を、識別方法調整装置10内に設けてもよい。
生体信号検出部50は、ユーザ5の生体信号を検出する脳波計であり、生体信号として脳波を計測する。脳波計は図1に示すようなヘッドマウント式脳波計であってもよい。ユーザ5はあらかじめ脳波計を装着しているものとする。
ユーザ5の頭部に装着されたとき、その頭部の所定の位置に接触するよう、生体信号計測部50には電極が配置されている。電極の配置は、例えばPz(正中頭頂)、A1(耳朶)およびユーザ5の鼻根部になる。ただし、電極は最低2個あればよく、例えばPzとA1のみでも電位計測は可能である。この電極位置は、信号測定の信頼性および装着の容易さ等から決定される。
この結果、生体信号計測部50はユーザ5の事象関連電位を測定することができる。測定されたユーザ5の脳波は、コンピュータで処理できるようにサンプリングされ、脳波インタフェース部100および識別方法調整装置10に送られる。なお、脳波に混入するノイズの影響を低減するため、生体信号計測部50においては計測される脳波は、あらかじめ例えば0.05から20Hzのバンドパスフィルタ処理がされ、メニュー項目や聴覚刺激が提示される前の例えば200msの平均電位でベースライン補正されているものとする。
脳波インタフェース部100は、機器操作に関するメニュー項目をユーザに提示し、生体信号計測部50で計測された脳波を切り出して識別する。そして識別結果に応じて機器動作を制御する。脳波インタフェース部100における基本的な動作は上述の通りである。
脳波インタフェース部100を利用して制御する機器が、例えば図1に示すTV2であるとすると、メニュー項目は画面3aを介してユーザ5に提示される。図2(a)に示したようにメニュー項目は、所定の時間ごと(例えば350ms)に一つずつハイライトされる。メニュー項目がハイライトされる所定の間隔は、200ms、500ms、1000msであってもよい。
脳波インタフェース部100は、メニュー項目がハイライトされた時刻を起点に、生体信号計測部50で計測されたユーザ5の脳波を例えば聴覚P3成分、視覚P3成分の潜時よりも長い500ms分を切り出し、波形を識別する。脳波を切り出す時間は1000ms分であってもよい。事象関連電位を識別する方法は、単純に波形を閾値処理してもよいし、特許文献2に記載のようにあらかじめユーザごとに計測した視覚P3成分の加算平均波形で作成したテンプレートとの相関係数を算出してもよい。識別のためのパラメータは後述する方法によって識別方法調整装置10によって調整される。
次に、本実施形態による識別方法調整装置10の詳細な構成を説明する。本発明の主要な特徴のひとつは、調整装置10の構成および動作にある。
識別方法調整装置10は、キャリブレーション用刺激提示部11と、キャリブレーション用脳波分析部12と、モダリティ変換データベース13と、識別方法調整部14とを有している。
キャリブレーション用刺激提示部11(以下「刺激提示部11」と記述する。)は、画面3aを介するメニュー項目提示と同時に、スピーカ3bを介してキャリブレーション用の聴覚刺激を提示する。
キャリブレーション用脳波分析部12(以下「脳波分析部12」と記述する。)は、生体信号計測部50によって計測されたキャリブレーション用聴覚刺激に対する事象関連電位を分析する。
モダリティ変換データベース(DB)13は、聴覚P3成分と視覚P3成分との相関関係を規定している。なお、モダリティ変換DB13は任意の記録媒体に記録され、保持されていればよい。たとえばモダリティ変換DB13は、ハードディスクや、ROM、SRAM、フラッシュメモリなどの半導体メモリに記録される。
識別方法調整部14は、脳波分析部12によって分析された結果に基づいて、具体的には聴覚刺激によって得られた事象関連電位のP3成分に基づいてモダリティ変換DB13を参照し、視覚事象関連電位のP3成分に関するユーザの特徴量を導出する。そしてその特徴量に基づいて脳波インタフェース部100における脳波識別方法を調整する。脳波識別方法の調整とは、脳波インタフェース部100が保持する視覚事象関連電位のP3成分の識別に用いるパラメータを決定し、脳波インタフェース部100に送ってそのパラメータを更新させる処理をいう。
以下、識別方法調整装置10の各構成要素をより具体的に説明する。
刺激提示部11は、メニュー項目の提示と同時にユーザ5にキャリブレーション用の聴覚刺激を提示する。聴覚刺激は、単純な音、例えば1000Hzのトーンバースト音であってもよいし、機器動作音としてイメージされる、例えば「ポーン」という音でもよい。また、1種類の音に限らず複数種類の音であってもよい。
脳波分析部12は、生体信号計測部50において計測したユーザ5の脳波のうち、刺激提示部11がキャリブレーション刺激を提示したタイミングを起点として、例えば500ms分の脳波を利用して特徴量を分析する。分析する特徴量は、例えば、聴覚刺激に対するP3成分の振幅および潜時である。
前述のように、事象関連電位はS/N比が低いため、聴覚刺激に対するP3成分の振幅および潜時を分析するために、事象関連電位に対して、例えば2Hzのローパスフィルタを利用してもよい。
特徴量の分析区間として、例えば、一般的に聴覚刺激に対するP3成分が出現するとされている刺激提示後300ms前後100msの時間帯を採用することもできる。その時間帯における陽性のピークを利用して潜時および振幅を求めればよい。なお、キャリブレーション用聴覚刺激が提示された直後の脳波に、眼電等の大きなノイズが混入し、正しいキャリブレーションができなかった場合には、直前のキャリブレーション結果を用いて識別方法を調整してもよいし、識別方法を調整しなくてもよい。
次に、モダリティ変換DB13を説明する。図5(a)および(b)は、いずれもモダリティ変換DBのデータ構造の例を示す。モダリティ変換DB13は、聴覚刺激によって得られた事象関連電位(聴覚事象関連電位)を、視覚刺激によって得られた事象関連電位(視覚事象関連電位)に変換するために利用される。
モダリティ変換DB13は、例えば振幅、潜時および補正区間など、脳波分析部12で求めた聴覚刺激に対するP3成分の振幅および潜時のデータに応じて、脳波インタフェース部100における視覚P3成分の識別方法を調整するためのデータを保存している。
図5(a)は、全ユーザに対して共通して適用される変換規則を規定したモダリティ変換DB13を示す。このモダリティ変換DB13によれば、「補正区間」の欄において指定された聴覚事象関連電位の区間(刺激提示後200−500msの区間)において、聴覚事象関連電位の振幅および潜時がそれぞれ1.2倍および1.5倍される。刺激提示後200−500msの区間は、事象関連電位のP3成分を含む区間である。
この変換規則は、実験等によって予め得られた聴覚刺激に対するP3成分と視覚刺激に対するP3成分との相関関係のデータに基づいて規定される。したがって、上述の変換を行うことにより、聴覚事象関連電位に基づいて信頼性の高い視覚事象関連電位のP3成分を得ることができる。このP3成分を利用して、後述する脳波インタフェース部100における視覚P3成分の識別方法を調整することができる。
一方、図5(b)は、ユーザごとの変換基準をあらかじめ計測し、ユーザごとに切り替えて適用される変換規則を規定したモダリティ変換DB13を示す。たとえばユーザ名などのユーザを特定する情報を別途入力することにより、適用される変換規則が特定され、切り替えられる。変換方法は上述の図5(a)に関連して説明した変換方法と同じである。
モダリティ変換DB13を参照することにより、聴覚事象関連電位の振幅および潜時から、視覚事象関連電位の振幅および潜時を得ることができる。補正区間としてP3成分を含む区間を指定することにより、そのユーザの特徴量である視覚事象関連電位のP3成分を特定できる。
識別方法調整部14は、脳波分析部12で分析したキャリブレーション刺激に対する聴覚P3成分の振幅および潜時と、モダリティ変換DB13に保存された聴覚P3成分から視覚P3成分の識別方法を調整するためのDBを参照して、脳波インタフェース部100で事象関連電位を識別する際のパラメータを書き換える。パラメータは種々考えられる。たとえば、脳波インタフェース部100が波形を閾値処理して視覚P3成分を識別している場合には、パラメータとしての閾値を書き換えて識別方法を調整してもよい。また、ユーザごとに計測した視覚P3成分の加算平均波形でテンプレートが作成され、そのテンプレートを用いて視覚P3成分を識別している場合には、パラメータとして設定されたそのテンプレートを書き換えて識別方法を調整してもよい。
図6(a)および(b)は、テンプレートを書き換えることによる識別方法の調整例を示す。図6(a)は、識別方法を調整するために用いるデータ群と、テンプレート調整のための計算式を示す。データ群としては、脳波分析部12で分析された聴覚P3成分の振幅および潜時に関する特徴量と、モダリティ変換DB13に保存された聴覚P3成分と視覚P3成分の相関データを用いる。そして、振幅、潜時に関するデータをそれぞれ掛け算することでテンプレート調整のパラメータを算出する。また、図6(b)は、図6(a)によって算出されたテンプレートの補正パラメータによって調整された標準テンプレート波形を示す。調整区間200−500msにおいて、テンプレートの波形が調整されている様子が分かる。ここでいう「波形」とは、テンプレートの波形の振幅および潜時を意味する。
また、閾値やテンプレートは変更せず、脳波インタフェース部100において、生体信号計測部50で計測された脳波信号に識別方法調整部14に基づいて一定の倍率を乗じるなどの方法で調整して識別を行ってもよい。
図7(a)および(b)は、脳波信号の倍率を変更することによる識別方法の調整例を示す。図7(a)は、識別方法を調整するために用いるデータ群と、テンプレート調整のための計算式とを示す。データ群としては、脳波分析部12で分析された聴覚P3成分の振幅および潜時に関する特徴量と、モダリティ変換DB13に保存された聴覚P3成分と視覚P3成分の相関データおよび、脳波インタフェース部100に保存されている標準テンプレートの振幅および潜時に関する特徴量とを用いる。そして、標準テンプレートの振幅、潜時に関する特徴量を、キャリブレーション用聴覚P3成分の振幅、潜時に関する特徴量に聴覚視覚の相関データをそれぞれ掛け合わせた値で割って、生体信号計測部50において計測された脳波信号調整用のパラメータを算出する。図7(b)は、図7(a)によって算出された脳波信号調整用のパラメータによって調整された脳波信号の波形を示す。調整区間200−500msにおいて、脳波信号の波形が調整されている様子が分かる。ここでいう「波形」とは、脳波信号の振幅を意味する。
このように構成することで、キャリブレーション用刺激としてメニュー項目提示時に聴覚刺激を提示し、キャリブレーション用の聴覚刺激に対する事象関連電位のP3成分を用いて脳波インタフェースにおける視覚P3成分の識別方法を調整することが可能となり、脳波インタフェースを利用する直前のユーザ状態に基づいた脳波の識別が可能となるため、識別率が向上する。
次に、図8のフローチャートを参照しながら、図3の脳波識別方法調整システム1において行われる全体的な処理手順を説明する。
図8は、脳波インタフェースシステム1においてキャリブレーションを行い、その後、脳波インタフェースを利用する処理の手順を示す。図8に示す処理手順の特徴のひとつは、メニュー項目の提示と同時にキャリブレーション用の聴覚刺激を提示し、聴覚刺激に対する聴覚P3成分に基づいて、脳波インタフェースで利用する視覚P3成分の識別方法を調整するステップを設けたことである。
なお、図8に示すステップS101からステップS106は、図3に示す脳波インタフェースの処理手順と同じである。よって、以下ではそれらの説明は省略する。
ステップS10において、刺激提示部11は、スピーカ3bを介してキャリブレーション用の聴覚刺激を提示する。なお、図8では、ステップS10はステップS101の次に行われているが、実際は脳波インタフェース部100が画面3a上にメニュー項目を提示すると同時にステップS10の処理が行われ、聴覚刺激が提示される。
ステップS20において、生体信号計測部50は、ステップS10によって聴覚刺激が提示された時刻を起点にユーザ5の脳波の事象関連電位を例えば500ms分計測する。なお、生体信号計測部50が事象関連電位を継続的に計測し、脳波分析部12が聴覚刺激が提示された時刻を起点に事象関連電位を500ms分切り出すことにより、実質的に同じデータを得てもよい。
ステップS30において、脳波分析部12はステップS20において計測された事象関連電位の聴覚P3成分を分析し、特徴量として聴覚P3成分の振幅および潜時を算出する。特徴量の算出に際しては、ステップS20において計測された事象関連電位に例えば2Hzのローパスフィルタをかけてもよい。これにより、眼電や背景脳波の影響を低減することができる。
ステップS40において、識別方法調整部14は、ステップS30によって分析された聴覚P3成分の特徴量と、モダリティ変換DB13に基づいて、視覚P3成分の識別パラメータを調整する。上述のように、モダリティ変換DB13は聴覚P3成分と視覚P3成分との相関関係を規定しているため、聴覚P3成分をキーとしてモダリティ変換DB13を参照すると、脳波インタフェース部100において脳波識別に利用される視覚P3成分が得られる。
脳波識別方法をどのように調整するかについては、図6および図7を参照して説明したように、脳波インタフェース部100に保存されている視覚P3成分を識別するためのテンプレートを調整してもよいし、生体信号計測部50によって計測された事象関連電位の波形を調整してもよい。
調整が完了すると、その後はステップS102からステップS106が実行される。
次に、図9から図11のフローチャートを参照しながら、上述のステップS30およびS40の処理を詳細に説明する。
図9は、図8のステップS30において行われる脳波分析部12の処理の詳細な手順を示す。脳波分析部12は、キャリブレーション用聴覚刺激提示後の事象関連電位に大きなノイズが混入していたか否かによっての処理を切り替える。
すなわち図9において、ステップS31において、脳波分析部12は生体信号計測部50で計測された事象関連電位の絶対値の最大値を算出する。次のステップS32において、脳波分析部12は、ステップS31で算出した値が、眼電(EOG)ノイズの混入基準値とされる100μVよりも小さいか否かを判定する。100μVよりも小さい場合はステップS33に進み、大きい場合、すなわち100μV以上の場合は処理は終了する。処理が終了する理由は、事象関連電位の絶対値の最大値が100μV以上であるとノイズの影響が非常に強いと考えられるためである。ステップS33において、脳波分析部12は、事象関連電位の特徴量を分析する。
次に、図10は、図8のステップS40において行われる識別方法調整部14の処理の手順を示す。
ステップS41において、識別方法調整部14は、脳波分析部12において算出された聴覚P3成分の特徴量として振幅および潜時を取得する。ステップS42において、識別方法調整部14は、モダリティ変換DB13に保存されている聴覚P3成分と視覚P3成分の相関データとして、例えば振幅、潜時、調整区間の情報を参照する。
ステップS43において、ステップS41およびステップS42により取得した、振幅、潜時、調整区間等の情報に基づき、そのユーザの特徴量を導出して、識別基準調整のためのパラメータを算出する。パラメータの算出は、図6を用いて説明したように、掛け算によって求めることができる。
ステップS44において、識別方法調整部14は、ステップS43によって算出した識別基準調整のパラメータを脳波インタフェース部100に送信し、既存のパラメータの更新を指示する。
なお、図10に示す識別方法に代えて、図11に示す識別方法を利用してもよい。図11は、あらかじめ生体信号計測部50において取得していた脳波信号を調整する処理の手順を示す。図11において、図10と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
ステップS45において、識別方法調整部14は、脳波インタフェース部100に保存されている例えばユーザごとの加算平均波形から作成したテンプレート等の標準的な識別方法を参照する。そしてステップS46において、識別方法調整部14は、ステップS41、ステップS42およびステップS45により取得した、振幅、潜時、調整区間等の情報に基づいてそのユーザの特徴量を導出して、識別基準調整のためのパラメータを算出する。パラメータの算出は、図7を用いて説明したように、掛け算および割り算によって求めてもよい。
ステップS47において、識別方法調整部14は、ステップS46で算出した脳波信号調整用のパラメータを脳波インタフェース部100に送信する。そして、そのパラメータに基づいて脳波信号を調整するよう、脳波インタフェース部100に指示する。
このような処理によって、メニュー項目と同時に提示した聴覚刺激に対する事象関連電位のP3成分を用いて脳波インタフェースにおける視覚P3成分の識別方法が調整され、脳波インタフェースを操作する直前のユーザ状態や電極の装着状態に応じた識別が実現できる。よって脳波インタフェースで用いる視覚P3成分の識別率が向上する。
本実施形態の脳波インタフェースシステム1に識別方法調整装置10を設けることにより、メニュー項目と同時に提示したキャリブレーション用聴覚刺激に対するP3成分の特徴量を用いて、脳波インタフェースを操作する直前のユーザ状態や電極の装着状態に応じた視覚P3成分の識別が可能となる。識別率を向上することが可能であるため、使いやすい脳波インタフェースが実現できる。
(実施形態2)
実施形態1による脳波インタフェースシステム1では、脳波インタフェース部100がメニュー項目を提示すると同時に、刺激提示部11がキャリブレーション用の聴覚刺激を提示した。これにより、脳波インタフェースを利用する直前のユーザ状態や電極の装着状態に合わせた識別方法の調整が可能になった。
しかし先に言及したように、事象関連電位はS/Nが低いため、キャリブレーション用刺激が提示されると同時に、眼電等の大きなノイズが混入した場合には、正しくキャリブレーションを実施できない可能性がある。
本実施形態による脳波インタフェースシステムでは、脳波インタフェース利用の直前に限らず、ランダムなタイミング、または予め定められたタイミングでキャリブレーション用聴覚刺激を提示する。そして聴覚P3成分の特徴量を用いて常時変化し得るユーザ状態や電極の装着状態を計測して脳波インタフェースの視覚P3成分の識別方法を調整する。これにより、高い識別率を維持する脳波インタフェースシステムを提供することが可能となる。
図12は、本実施形態による脳波インタフェースシステム120の機能ブロックの構成を示す。図12はまた、識別方法調整装置122の詳細な機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。
脳波インタフェースシステム120が脳波インタフェースシステム1(図4)と相違する点は、識別方法調整装置122の構成にある。より具体的には、識別方法調整装置122に、識別方法調整装置10(図4)の刺激提示部11および脳波分析部12とは異なる機能を有するキャリブレーション用聴覚刺激ランダム提示部21およびキャリブレーション用脳波分析部22を設けたこと、および、蓄積部23を新たに有することにある。
以下、キャリブレーション用刺激ランダム提示部21およびキャリブレーション用脳波分析部22を説明する。以下では、それぞれ「刺激ランダム提示部21」および「脳波分析部22」と記述する。なお、脳波インタフェースシステム120の構成要素のうち、脳波インタフェースシステム1(図4)と同じ構成要素については同じ参照符号を付しその説明を省略する。
刺激ランダム提示部21は、ランダムなタイミング、または予め定められたタイミングでユーザ5にキャリブレーション用の聴覚刺激を提示する。ランダムなタイミングとは、TV2を利用して番組を視聴するユーザに必要以上の煩わしさを与えない頻度であればよく、たとえば20分以上の間隔が空いた任意の時刻であればよい。また、予め定められたタイミングとしては、例えば約10分間隔でもよいし、5分、20分または1時間間隔であってもよい。なお聴覚刺激は実施形態1で説明した例と同じであればよく、例えば1000Hzのトーンバースト音や機器動作音でよい。また1種類か複数種類かも問わない。
脳波分析部22は、刺激ランダム提示部21が聴覚刺激を提示したタイミングを起点として、生体信号計測部50によって計測されたユーザ5の事象関連電位の特徴量を分析する。
蓄積部23は、たとえば半導体メモリやハードディスクである。蓄積部23は、最近n回分のキャリブレーションにおいて得られた事象関連電位の波形を脳波分析部22から受け取って蓄積する。なお、蓄積する波形数は、脳波インタフェースを利用する前30分間に提示されたキャリブレーション用刺激に起因して得られた事象関連電位の波形であってもよい。なお、蓄積部23を設けずに、モダリティ変換DB13を保持する記録媒体に事象関連電位の波形を蓄積することもできる。
脳波分析部22が分析する事象関連電位の特徴量は脳波分析部12(図4)と同じである。しかし、分析方法が異なっている。脳波分析部22においては、キャリブレーション用聴覚刺激が提示された後の事象関連電位にノイズが含まれていないかを判定する。そして、ノイズが含まれていない場合には、蓄積部23に蓄積された事象関連電位の最近n回分の波形を加算平均し、加算平均波形から聴覚P3成分の振幅および潜時を算出する。加算回数nは例えば5であってもよいし、脳波インタフェースを利用する前30分間に提示されたキャリブレーション用刺激の数であってもよい。
上述の分析方法を採用することにより、ノイズの影響を低減した上で、聴覚P3成分の振幅および潜時をより正しく算出できるようになる。その結果、識別方法調整部14における識別方法の調整パラメータもより正しく算出でき、脳波インタフェース部100の視覚P3成分の識別率を向上させることができる。
次に、図13のフローチャートを参照しながら、脳波インタフェースシステム120において行われる全体的な処理の手順を説明する。
図13は、本実施形態による脳波インタフェースシステム120の処理手順を示す。脳波インタフェースシステム1(図8)の処理と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。具体的には、ステップS20、ステップS40およびステップS101からステップS106までの処理が、脳波インタフェースシステム1および120に共通する。
ステップS50において、刺激ランダム提示部21はキャリブレーション用の聴覚刺激をランダムなタイミングで提示する。
ステップS60において、脳波分析部22は、ステップS50によって聴覚刺激が提示されたタイミングを起点に生体信号計測部50で計測された事象関連電位の特徴量を分析する。分析のための詳細な処理は後述する。
ステップS70において、脳波インタフェース部100は、脳波インタフェースが起動されたか否か、たとえばメニュー項目が表示されたか否かを判断する。脳波インタフェースが起動された場合には処理はステップS101に進み、脳波インタフェースが起動されていない場合には処理はステップS50に戻る。後者の場合には、刺激ランダム提示部21は聴覚刺激をランダムなタイミングで提示する処理を継続する。
ステップS80において、脳波インタフェース部100は脳波計測が終了したか否かを判定する。ユーザ5が脳波計である生体信号計測部50を外して脳波計測を終了する場合には処理を終了し、脳波計測を続ける場合には処理はステップS50に戻る。
上述のように、キャリブレーション用の聴覚刺激を提示するステップS50に戻る処理を設けることにより、ユーザが脳波識別方法調整システム120の使用を開始した後であってもキャリブレーションを行うことが可能になる。よって、脳波識別方法調整システム120の使用に伴って生体信号計測部50の電極装着位置がずれて装着状態が変化したり、ユーザ5の覚醒度が変化した場合でも、脳波信号の事象関連電位を的確に認識できる。
次に、図14のフローチャートを参照しながら、ステップS60の詳細な処理を説明する。
図14は、図13のステップS60において行われる脳波分析部22の処理の手順を示す。なお、図9に示す脳波インタフェースシステム1の処理と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。具体的には、すなわちステップS31、S32およびS33までの処理が脳波分析部12および22に共通する。
ステップS32の後で、かつステップS33の前に行われるステップS34において、脳波分析部22は、生体信号計測部50で計測されたキャリブレーション用聴覚刺激提示後の最近n回の事象関連電位を加算する。この加算によってノイズの影響が低減され、聴覚P3成分の振幅および潜時をより正しく算出できるようになる。よってノイズに強いキャリブレーションが実現できる。なお、脳波分析部22は、最近n回の事象関連電位の加算平均ではなく加算演算を行ってもよい。
ランダムなタイミングまたは所定のタイミングで聴覚刺激を提示してキャリブレーションを実行することにより、常時変化し得るユーザ状態や電極の装着状態に的確に追従して事象関連電位の視覚P3成分の識別方法の調整が可能となる。これにより、脳波インタフェースの識別率の向上が実現できる。
(実施形態3)
実施形態1および2による脳波インタフェースシステムでは、ユーザがキャリブレーション刺激を見落とすことがない聴覚刺激を用いてキャリブレーションを行うとして説明した。
しかしながら、脳波インタフェースシステムは、図1に示すTV2のような据え置き型の機器のみならず、携帯型の機器を操作対象として構築することが可能である。携帯型の機器を所持して外出し、脳波インタフェースシステムを利用して操作しようとしたとき、例えば人ごみや電車の中において聴覚刺激を提示しても聞き落としてしまう可能性がある。また、マナー上、聴覚刺激を提示すべきでない場合もある。そうすると、聴覚刺激を利用して適切なキャリブレーションが実施できない可能性がある。
本実施形態による脳波インタフェースシステム150は、キャリブレーション用刺激として、聴覚刺激ではなく体性感覚刺激を提示する。体性感覚刺激であれば、ユーザが雑踏の中にいても見落とす可能性が非常に低くなる。よって聴覚刺激によるキャリブレーションが難しい場合であっても、脳波インタフェースの視覚P3成分の識別方法を調整することが可能となり、識別率の向上を実現できる。
図15は、本実施形態による脳波インタフェースシステム150の機能ブロックの構成を示す。図15はまた、識別方法調整装置152の詳細な機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。
脳波インタフェースシステム150が脳波インタフェースシステム1(図4)と相違する点は、識別方法調整装置152の構成にある。より具体的には、識別方法調整装置152に、識別方法調整装置10(図4)の刺激提示部11およびモダリティ変換DB13とは異なる機能を有するキャリブレーション用体性感覚刺激提示部31および体性感覚視覚変換データベース(DB)32を設けたことにある。なお、図15には、脳波インタフェースシステム150の出力部3にバイブレータ3cを示している。これは後述する体性感覚刺激をユーザ5に提示するために利用される。なお、出力部3にはスピーカ3b(図4)が示されていないが、これはスピーカ3bを排除するものではない。
以下、キャリブレーション用体性感覚刺激提示部31および体性感覚−視覚変換DB32を説明する。以下では、それぞれ「体性感覚刺激提示部31」および「変換DB32」と記述する。なお、脳波インタフェースシステム150の構成要素のうち、脳波インタフェースシステム1(図4)と同じ構成要素については同じ参照符号を付しその説明を省略する。
体性感覚刺激提示部31は、脳波インタフェース部100においてメニュー項目の提示と同時にユーザ5に、バイブレータ3cを介してキャリブレーション用の体性感覚刺激を提示する。バイブレータ3cは、無線または有線で体性感覚刺激提示部31からの指示を受けて動作する。なお、バイブレータ3cは、たとえばユーザ5の腕に装着されて、携帯電話のバイブレータ機能のような振動をユーザに与える機能を有するとして想定しているが、これは例である。他に、単純に手や顔などの皮膚に刺激を与えてもよい。体性感覚刺激は1種類であってもよいし、2種類以上であってもよい。
変換DB32は、体性感覚P3成分と視覚P3成分との相関関係を規定している。
変換DB32は、例えば振幅、潜時および補正区間など、脳波分析部12で求めた聴覚刺激に対するP3成分の振幅および潜時のデータに応じて、脳波インタフェース部100における視覚P3成分の識別方法を調整するためのデータを保存している。
図16(a)および(b)は、いずれも変換DB32のデータ構造の例を示す。図16(a)は、全ユーザに対して共通して適用される変換規則を規定した変換DB32を示す。一方、図16(b)は、ユーザごとの変換基準をあらかじめ計測し、ユーザごとに切り替えて適用される変換規則を規定した変換DB32を示す。図16(a)および(b)の変換DB32を参照して、どのように体性感覚刺激に起因する事象関連電位から視覚事象関連電位のP3成分を得るかについては、図5(a)および(b)の例に準ずる。
上述の体性感覚刺激提示部31および変換DB32を含む識別方法調整装置152を脳波インタフェースシステム150に組み込むことにより、聴覚刺激によるキャリブレーションができない場合であっても、体性感覚刺激を用いてユーザ状態および電極の装着状態に基づいた識別方法の調整が可能となる。これにより、脳波インタフェース部100における識別率を向上させることができる。
図17は、本実施形態による脳波インタフェースシステム150の処理手順を示す。図17のフローチャートは、キャリブレーション用に体性感覚刺激が利用され、その刺激に基づく事象関連電位の体性感覚P3成分を利用して処理が行われることを除いては図8のフローチャートと同じである。したがって、図8に関する説明を援用し、説明は省略する。
図17に示す処理により、聴覚刺激によるキャリブレーションができない場合であっても、体性感覚刺激を用いてユーザ状態および電極の装着状態に基づいた識別方法の調整が可能となる。これにより、脳波インタフェースの識別率の向上が実現できる。
なお、聴覚刺激によるキャリブレーションが可能な状況であっても、体性感覚刺激を用いてキャリブレーションを行ってもよい。または、聴覚刺激および体性感覚刺激を併用してキャリブレーションを行ってもよい。
本発明の識別方法調整装置および識別方法調整装置が組み込まれた脳波インタフェースシステムによれば、脳波インタフェースシステムでの識別に用いられる視覚P3成分の識別方法を調整するため、脳波を常時計測するインタフェースにおいて問題となるユーザ個人の体調などの状態や、脳波検出のための電極の装着状態の変化の影響を排除し、脳波の識別率を維持できる。よって、脳波の識別ミスによるユーザの意図しない機器動作が減少するため脳波インタフェースの操作性向上を実現できる。このような識別方法調整装置の機能は、たとえばコンピュータプログラムによって実現することも可能であるため、システムの大幅な改変をすることなく、容易に実装できる。
脳波インタフェースシステム1の構成および利用環境を示す図である。 (a)〜(c)は、脳波インタフェースシステム1においてTV2を操作し、ユーザ5が視聴したいジャンルの番組を見るときの例を示す図である。 脳波インタフェースの処理の手順を示すフローチャートである。 実施形態1による脳波インタフェースシステム1の機能ブロックの構成を示す図である。 (a)および(b)は、いずれもモダリティ変換DBのデータ構造の例を示す図である。 (a)および(b)は、テンプレートを書き換えることによる識別方法の調整例を示す図である。 (a)および(b)は、脳波信号の倍率を変更することによる識別方法の調整例を示す図である。 脳波インタフェースシステム1においてキャリブレーションを行い、その後、脳波インタフェースを利用する処理の手順を示すフローチャートである。 図8のステップS30において行われる脳波分析部12の処理の手順を示すフローチャートである。 図8のステップS40において行われる識別方法調整部14の処理の手順を示すフローチャートである。 あらかじめ生体信号計測部50において取得していた脳波信号を調整する処理の手順を示すフローチャートである。 実施形態2による脳波インタフェースシステム120の機能ブロックの構成を示す図である。 実施形態2による脳波インタフェースシステム120の処理手順を示すフローチャートである。 図13のステップS60において行われる脳波分析部22の処理の手順を示すフローチャートである。 実施形態による脳波インタフェースシステム150の機能ブロックの構成を示す図である。 (a)および(b)は、いずれも変換DB32のデータ構造の例を示す図である。 実施形態3による脳波インタフェースシステム150の処理手順を示すフローチャートである。
符号の説明
1 脳波インタフェースシステム
3 出力部
3a 画面
3b スピーカ
10 識別方法調整装置
11 キャリブレーション用刺激提示部
12 キャリブレーション用脳波分析部
13 モダリティ変換データベース
14 識別方法調整部
50 生体信号計測部
100 脳波インタフェース部

Claims (14)

  1. 機器の操作メニューを視覚的に提示し、かつ、視覚以外のモダリティへの刺激を提示する出力部と、
    ユーザの脳波信号を取得する生体信号計測部と、
    予め保持された視覚事象関連電位のパラメータを利用して前記操作メニュー提示後の脳波信号に含まれる視覚事象関連電位のP3成分を識別し、識別された前記P3成分に基づいて前記機器を動作させる脳波インタフェース部と
    を有する脳波インタフェースシステムにおいて、前記脳波インタフェース部の識別方法を調整するために用いられる装置であって、
    視覚以外のモダリティへの刺激によって得られる事象関連電位のP3成分と視覚事象関連電位のP3成分との相関を規定したデータベースと、
    前記出力部を介して前記刺激を提示する刺激提示部と、
    前記刺激提示後の脳波信号に含まれる事象関連電位を分析する分析部と、
    分析された前記事象関連電位のP3成分および前記データベースに基づいて視覚事象関連電位のP3成分に関する前記ユーザの特徴量である、前記P3成分の振幅および潜時の少なくとも一方を導出し、前記特徴量に基づいて前記脳波インタフェース部における脳波識別方法を調整する識別方法調整部と
    を備えた、脳波識別方法調整装置。
  2. 前記刺激提示部は、前記刺激として聴覚刺激を提示する、請求項1に記載の脳波識別方法調整装置。
  3. 前記刺激提示部は、前記刺激として体性感覚刺激を提示する、請求項1に記載の脳波識別方法調整装置。
  4. 前記脳波インタフェース部は、前記パラメータとして設定された閾値に基づいて前記ユーザの視覚事象関連電位のP3成分の有無を識別しており、
    前記識別方法調整部は、前記特徴量に基づいて前記閾値を調整する、請求項1から3のいずれかに記載の脳波識別方法調整装置。
  5. 前記脳波インタフェース部は、前記パラメータとして設定された視覚事象関連電位の波形のテンプレートに基づいて前記ユーザの視覚事象関連電位のP3成分の有無を識別しており、
    前記識別方法調整部は、前記特徴量に基づいて前記テンプレートを調整する、請求項1から3のいずれかに記載の脳波識別方法調整装置。
  6. 前記識別方法調整部は、前記特徴量に基づいて前記ユーザの脳波信号を調整する、請求項1に記載の脳波識別方法調整装置。
  7. 前記脳波インタフェース部は、視覚事象関連電位の振幅に関する閾値に基づいて前記視覚事象関連電位のP3成分の有無を識別しており、
    前記データベースは、前記P3成分の振幅に関する相関を規定しており、
    前記識別方法調整部は、振幅に関する前記特徴量に基づいて前記閾値を調整する、請求項4に記載の脳波識別方法調整装置。
  8. 前記データベースは、前記P3成分の振幅に関する相関を規定しており、
    前記識別方法調整部は、振幅に関する前記特徴量に基づいて前記テンプレートを調整する、請求項5に記載の脳波識別方法調整装置。
  9. 前記データベースは、前記P3成分の振幅に関する相関を規定しており、
    前記識別方法調整部は、振幅に関する前記特徴量に基づいて前記脳波信号を調整する、
    請求項6に記載の脳波識別方法調整装置。
  10. 前記刺激提示部は、前記脳波インタフェースシステムの利用開始時に前記刺激を提示する、請求項1から3のいずれかに記載の脳波識別方法調整装置。
  11. 前記刺激提示部は、前記脳波インタフェースシステムが利用されている期間中のランダムな時刻に前記刺激を提示する、請求項1から3のいずれかに記載の脳波識別方法調整装置。
  12. 機器の操作メニューを視覚的に提示し、かつ、視覚以外のモダリティへの刺激を提示する出力部と、
    ユーザの脳波信号を取得する生体信号計測部と、
    予め保持された視覚事象関連電位のパラメータを利用して前記操作メニュー提示後の脳波信号に含まれる視覚事象関連電位のP3成分を識別し、識別された前記P3成分に基づいて前記機器を動作させる脳波インタフェース部と
    を有する脳波インタフェースシステムにおいて、前記脳波インタフェース部の識別方法を調整するために用いられる方法であって、
    視覚以外のモダリティへの刺激によって得られる事象関連電位のP3成分と視覚事象関連電位のP3成分との相関を規定したデータベースを用意するステップと、
    前記出力部を介して前記刺激を提示するステップと、
    前記刺激提示後の脳波信号に含まれる事象関連電位を分析するステップと、
    分析された前記事象関連電位のP3成分および前記データベースに基づいて視覚事象関連電位のP3成分に関する前記ユーザの特徴量である、前記P3成分の振幅および潜時の少なくとも一方を導出するステップと、
    前記特徴量に基づいて前記脳波インタフェース部における脳波識別方法を調整するステップと
    を包含する、脳波の識別方法を調整するための方法。
  13. 機器の操作メニューを視覚的に提示し、かつ、視覚以外のモダリティへの刺激を提示する出力部と、
    ユーザの脳波信号を取得する生体信号計測部と、
    予め保持された視覚事象関連電位のパラメータを利用して前記操作メニュー提示後の脳波信号に含まれる視覚事象関連電位のP3成分を識別し、識別された前記P3成分に基づいて前記機器を動作させる脳波インタフェース部と
    を有する脳波インタフェースシステムにおいて、前記脳波インタフェース部の識別方法を調整するために用いられる装置であって、
    前記出力部を介して前記刺激を提示する刺激提示部と、
    前記刺激提示後の脳波信号に含まれる事象関連電位を分析する分析部と、
    データベースに記録された、視覚以外のモダリティへの刺激によって得られる事象関連電位のP3成分と視覚事象関連電位のP3成分との相関と、分析された前記事象関連電位のP3成分とに基づいて視覚事象関連電位のP3成分に関する前記ユーザの特徴量である、前記P3成分の振幅および潜時の少なくとも一方を導出し、前記特徴量に基づいて前記脳波インタフェース部における脳波識別方法を調整する識別方法調整部と
    を備えた、脳波識別方法調整装置。
  14. 機器の操作メニューを視覚的に提示し、かつ、視覚以外のモダリティへの刺激を提示する出力部と、
    ユーザの脳波信号を取得する生体信号計測部と、
    予め保持された視覚事象関連電位のパラメータを利用して前記操作メニュー提示後の脳波信号に含まれる視覚事象関連電位のP3成分を識別し、識別された前記P3成分に基づいて前記機器を動作させる脳波インタフェース部と
    を有する脳波インタフェースシステムにおいて、前記脳波インタフェース部の識別方法を調整するために用いられる方法であって、
    前記出力部を介して前記刺激を提示するステップと、
    前記刺激提示後の脳波信号に含まれる事象関連電位を分析するステップと、
    データベースに記録された、視覚以外のモダリティへの刺激によって得られる事象関連電位のP3成分と視覚事象関連電位のP3成分との相関と、分析された前記事象関連電位のP3成分とに基づいて視覚事象関連電位のP3成分に関する前記ユーザの特徴量である、前記P3成分の振幅および潜時の少なくとも一方を導出するステップと、
    前記特徴量に基づいて前記脳波インタフェース部における脳波識別方法を調整するステップと
    を包含する、脳波の識別方法を調整するための方法。
JP2008543013A 2006-11-06 2007-10-04 脳波識別方法調整装置および方法 Active JP4264126B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2006300323 2006-11-06
JP2006300323 2006-11-06
PCT/JP2007/069451 WO2008056492A1 (fr) 2006-11-06 2007-10-04 Dispositif de réglage d'un procédé d'identification d'ondes cérébrales et procédé

Publications (2)

Publication Number Publication Date
JP4264126B2 true JP4264126B2 (ja) 2009-05-13
JPWO2008056492A1 JPWO2008056492A1 (ja) 2010-02-25

Family

ID=39364317

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008543013A Active JP4264126B2 (ja) 2006-11-06 2007-10-04 脳波識別方法調整装置および方法

Country Status (4)

Country Link
US (1) US8521271B2 (ja)
JP (1) JP4264126B2 (ja)
CN (1) CN101506757B (ja)
WO (1) WO2008056492A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101281852B1 (ko) * 2012-06-28 2013-07-03 고려대학교 산학협력단 뇌 신호를 이용한 생체 인증 장치 및 방법
KR101524585B1 (ko) * 2013-08-08 2015-06-04 중앙대학교 산학협력단 뇌파 분류 장치 및 방법

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2081100B1 (en) * 2006-11-15 2012-08-08 Panasonic Corporation Adjusting device for brain wave identification method, adjusting method and computer program
WO2011105000A1 (ja) 2010-02-25 2011-09-01 パナソニック株式会社 脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム
CN102172327B (zh) * 2011-04-07 2012-10-17 中国医学科学院生物医学工程研究所 一种视、听、体感跨感觉通道同时刺激和记录系统
CN102813514A (zh) * 2012-08-30 2012-12-12 杭州电子科技大学 一种基于对称导极的脑电信号分析方法
US9996154B2 (en) * 2013-05-09 2018-06-12 Samsung Electronics Co., Ltd. Apparatus and method of controlling display apparatus
KR102191966B1 (ko) * 2013-05-09 2020-12-17 삼성전자주식회사 디스플레이 장치 제어 방법 및 장치
US20150029087A1 (en) * 2013-07-24 2015-01-29 United Video Properties, Inc. Methods and systems for adjusting power consumption in a user device based on brain activity
CN107533358A (zh) * 2015-05-13 2018-01-02 日盛光检测股份有限公司 脑波调整装置及脑波调整方法
CN105163180A (zh) * 2015-08-21 2015-12-16 小米科技有限责任公司 播放控制方法、装置及终端
WO2017104869A1 (ko) 2015-12-17 2017-06-22 주식회사 룩시드랩스 아이 브레인 인터페이스(ebi) 장치 및 그 제어 방법
RU2640709C1 (ru) * 2016-11-22 2018-01-11 федеральное государственное автономное образовательное учреждение высшего образования "Южный федеральный университет" Способ оценки знаний учащегося при компьютерном тестировании
US10952680B2 (en) 2017-12-27 2021-03-23 X Development Llc Electroencephalogram bioamplifier
US10671164B2 (en) 2017-12-27 2020-06-02 X Development Llc Interface for electroencephalogram for computer control
US10901508B2 (en) * 2018-03-20 2021-01-26 X Development Llc Fused electroencephalogram and machine learning for precognitive brain-computer interface for computer control
CN109480837A (zh) * 2018-10-30 2019-03-19 深圳市心流科技有限公司 脑波诱导调节方法、装置及计算机可读存储介质
CN110947076B (zh) * 2019-11-27 2021-07-16 华南理工大学 一种可进行精神状态调节的智能脑波音乐可穿戴设备

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002102190A (ja) 2000-10-03 2002-04-09 Japan Science & Technology Corp 生体機能測定システム
WO2003050782A1 (fr) 2001-12-12 2003-06-19 Hogakukan Co., Ltd. Systeme de definition d'exercices
CN100345086C (zh) 2003-06-27 2007-10-24 松下电器产业株式会社 服务提供装置、期待破灭判断装置及期待破灭判断方法
JP4369290B2 (ja) 2003-07-02 2009-11-18 尚之 加納 事象関連電位を利用したヒトの心理状態等の判定装置
US20050273017A1 (en) * 2004-03-26 2005-12-08 Evian Gordon Collective brain measurement system and method
JP4580678B2 (ja) 2004-04-28 2010-11-17 株式会社ディテクト 注視点位置表示装置
JP2006110234A (ja) * 2004-10-18 2006-04-27 Institute Of Physical & Chemical Research 脳活動情報データ処理方法およびその装置
CN1771883A (zh) * 2004-11-11 2006-05-17 乐金电子(中国)研究开发中心有限公司 一种利用移动通信终端测量脑波信号的系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101281852B1 (ko) * 2012-06-28 2013-07-03 고려대학교 산학협력단 뇌 신호를 이용한 생체 인증 장치 및 방법
KR101524585B1 (ko) * 2013-08-08 2015-06-04 중앙대학교 산학협력단 뇌파 분류 장치 및 방법

Also Published As

Publication number Publication date
CN101506757B (zh) 2011-08-10
US20100004556A1 (en) 2010-01-07
WO2008056492A1 (fr) 2008-05-15
JPWO2008056492A1 (ja) 2010-02-25
US8521271B2 (en) 2013-08-27
CN101506757A (zh) 2009-08-12

Similar Documents

Publication Publication Date Title
JP4264126B2 (ja) 脳波識別方法調整装置および方法
JP4399515B1 (ja) 脳波信号の識別方法を調整する装置、方法およびプログラム
JP4272702B2 (ja) 脳波識別方法の調整装置、方法およびコンピュータプログラム
US8473045B2 (en) Method for controlling device by using brain wave and brain wave interface system
JP4659905B2 (ja) 脳波識別の要否を決定する装置および方法
US8466875B2 (en) Electroencephalogram interface system, electroencephalogram interface apparatus, method, and computer program
US20130324880A1 (en) Auditory event-related potential measurement system, auditory event-related potential measurement apparatus, auditory event-related potential measurement method, and computer program thereof
WO2011105000A1 (ja) 脳波インタフェースシステム、脳波インタフェース提供装置、脳波インタフェースの実行方法、および、プログラム
US20100160808A1 (en) Interface system utilizing musticatory electromyogram
US20080082020A1 (en) System and method for biofeedback administration
JP2009268826A (ja) 脳波識別方法調整装置および方法
US20100094156A1 (en) System and Method for Biofeedback Administration
JP2008067892A (ja) 生体解析装置及びプログラム
JP6857573B2 (ja) 筋電計測装置、方法及びプログラム
EP3698710A1 (en) Brain wave measurement system, brain wave measurement method, program, and non-transitory recording medium
JP2009199535A (ja) 脳波識別方法の調整装置および方法
JP4460644B2 (ja) 脳波識別方法の調整装置、方法およびコンピュータプログラム
WO2024106301A1 (ja) 信号処理システム
Márquez-Chin et al. Real-time two-dimensional asynchronous control of a computer cursor with a single subdural electrode
JP7296121B2 (ja) 情報処理装置、及び情報処理プログラム
WO2021090195A1 (en) Ear-wearable device and operation thereof
JP2015188649A (ja) 複数の生理指標および視線の分析支援装置、プログラム
JP2023181058A (ja) 経時的に変化する波形を有する信号を処理するシステム、方法、およびプログラム
CN114694802A (zh) 运动指导方法、装置、智能终端及计算机可读存储介质
JP2011167251A (ja) 快適性判定装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090120

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090213

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4264126

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130220

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130220

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140220

Year of fee payment: 5