本発明は、ユーザの脳波を利用してユーザが機器を操作することが可能なインタフェース(脳波インタフェース)システムに関する。より具体的には、本発明は、ユーザの意図を的確に解析するために、脳波インタフェース使用時のユーザの脳波をリアルタイムで計測し、その周波数を用いてユーザがメニュー項目を見ているか否かを判定する技術に関する。
近年、テレビ、携帯電話、PDA(Personal Digital Assistant)等の様々な種類の情報機器が普及し、人間の生活に入り込んできたため、ユーザは普段の生活の中の多くの場面で情報機器を操作する必要が生じている。通常、ユーザは手を使ってボタン等の入力手段(インタフェース部)を介して入力コマンドを入力し、機器の操作を実現している。しかし、たとえば、家事、育児や運転をしているときなど、両手が機器操作以外のタスクで塞がっている状況ではインタフェース部を利用した入力が困難となり、機器操作が実現できなかった。そのため、あらゆる状況で情報機器を操作したいというユーザのニーズが高まっている。
このようなニーズに対して、ユーザの生体信号を利用した入力手段が開発されている。たとえば非特許文献1では、脳波の事象関連電位を用いてユーザが選択したいと思っている選択肢を識別するという脳波インタフェースが開示されている。非特許文献1に記載された技術を具体的に説明すると、選択肢をランダムにハイライトし、選択肢がハイライトされたタイミングを起点に約300ms後に出現する事象関連電位のP3成分を利用して、ユーザが選択したいと思っている選択肢の識別を実現している。この技術によって、ユーザは手を使うことなく、選択したいと思った選択肢を特定可能となる。
ここで「事象関連電位」とは、外的あるいは内的な事象に時間的に関連して生じる脳の一過性の電位変動をいう。脳波インタフェースでは、外的な事象として視覚に対する刺激によって得られる事象関連電位が利用される。たとえば、視覚刺激に対する事象関連電位のうちの、いわゆるP3成分と呼ばれる成分を利用すると、チャンネルの切り替え、視聴を希望する番組のジャンルの選択、音量の調整などの処理を行うことができる。「P3成分」とは、事象関連電位のうちの、聴覚、視覚、体性感覚などの感覚刺激の種類に関係なく標的刺激提示後250msから500msの時間帯に出現する陽性成分をいう。
事象関連電位をインタフェースに応用するためには、対象の事象関連電位(たとえばP3成分)を高い精度で識別することが重要である。そのために、生体信号を精度良く計測すること、および、計測した生体信号を適切な識別手法によって精度良く識別することが必要となる。
識別率が低下する要因は、二種類に分けられる。一つ目の要因は、脳波インタフェースに用いられる脳波成分(P3成分等)は信号対雑音比(S/N比)が低く、識別手法の精度が低いために、精度の高い識別が実現されていないことにある。この要因に対しては、脳波に混入するノイズの除去方法、精度の高い識別方法がそれぞれ開発されつつある。
たとえば、特許文献1では、バンドパスフィルタを用いて、脳波に含まれるノイズのうち、商用電源ノイズ等の識別対象(事象関連電位)の周波数とは異なる周波数で混入するノイズを除去した後で、識別を行い、識別率を向上させる技術が開示されている。また、特許文献2では、単純な周波数フィルタでは除去がしにくい眼電等の生体由来のノイズを除去する技術として、眼電が含まれた試行は識別対象から除外して識別率を向上させる技術が開示されている。
識別率が低下する二つ目の要因は、たとえば被験者の状態によっては被験者の脳波に識別対象となる脳波成分がそもそも出現していないため、識別ができないことにある。この要因に対しては、従来の実験室条件での実験では、外乱を排除した実験室を用意して課題に集中するよう被験者に教示したり、確認ボタンを押下させる等によって被験者の状態を統制することで、定常的に反応を出現させるという手法がとられてきた。
国際公開第2005/001677号パンフレット
特開平10−146323号公報
エマニュエル・ドンチン(Emanuel Donchin)、他2名、"The Mental Prosthesis:Assesing the Speed of a P300−Based Brain−Computer Interface"、TRANSACTIONS ON REHABILITATION ENGINEERING 2000、Vol.8、2000年6月
家庭で通常に用いられる情報機器の操作インタフェースとして脳波を利用する場合には、ユーザが常にメニュー選択の課題に集中しているとは限らない。たとえば、脳波インタフェースの画面が提示されているにもかかわらず、ユーザがそれ以外のことに気を取られてメニューを見ていないという状況が発生し得る。このような状況では、識別対象の脳波成分がそもそも出現しないため、脳波による識別ができないことになる。これはまさに、上述の識別率が低下する二つ目の要因に該当する。
ユーザがメニュー項目を見ていない場合には、ユーザが選択したいと思っているメニュー項目がハイライトされてもP3成分は出現しない。しかし、P3成分に似た波形のノイズが偶然混入した場合にはP3成分の誤識別が発生し得る。脳波の識別率が低下することにより、ユーザの意図しないメニュー項目が選択されてしまい、脳波インタフェースを利用した脳波識別が正確に機能しないことになる。このような不適切な認識は、脳波を日常的に計測し、インタフェースに利用するという状況下では頻繁に発生すると想定される。
上述の問題は、実験室条件の実験下では想定されておらず、家庭で通常に用いられる情報機器に脳波インタフェースを採用して初めて認識されたものである。実験室条件の実験で採用されているような、被験者の状態を統制し、定常的に脳波反応を出現させる環境を全ての一般家庭に設けることは脳波インタフェースを気軽に利用することの妨げとなり、不可能である。よって、脳波の識別率を低下させない他の方法が必要となる。
本発明の目的は、脳波を利用したインタフェースを備えたシステムにおいて、ユーザ脳波の周波数からユーザがメニューを見ていたかどうかを判定し、ユーザがメニューを見ていない場合は識別対象から除外することで、誤識別によるユーザの意図しない機器動作を減少させることである。
本発明による装置は、機器の操作メニューを視覚的に提示する出力部と、ユーザの脳波信号を取得する生体信号計測部と、前記出力部を介して前記操作メニューのメニュー項目を特定の切り替え周波数で提示し、予め保持された前記脳波信号に基づいて前記メニュー項目がハイライトされた後の前記脳波信号に含まれる事象関連電位の成分を識別し、識別された前記事象関連電位に基づいて前記機器を動作させる脳波インタフェース部とを有する脳波インタフェースシステムにおいて、前記脳波インタフェース部において採用される前記脳波信号の識別方法を調整するための装置であって、前記脳波信号の周波数パワーが極大となる周波数を代表周波数として算出する周波数分析部と、前記メニュー項目の切り替え周波数および前記脳波信号の代表周波数の相対量に基づいて、前記代表周波数が前記メニュー項目の切り替えに関連しているか否かを判定し、判定した結果に応じて、前記脳波インタフェース部において採用される前記脳波信号の識別方法を調整するための指示を前記脳波インタフェース部に対して出力する決定部とを備えている。
前記決定部は、前記代表周波数が前記メニュー項目の切り替えに関連していると判定した場合には前記脳波インタフェース部に対して前記脳波信号を識別対象として採用するよう指示し、前記代表周波数が前記メニュー項目の切り替えに関連していないと判定した場合には前記脳波インタフェース部に対して前記脳波信号を識別対象から除外するよう指示してもよい。
前記決定部は、前記メニュー項目の切り替え周波数と前記脳波信号の代表周波数との差、または、前記メニュー項目の切り替え周波数と前記脳波信号の代表周波数との比に基づいて、前記代表周波数が前記メニュー項目の切り替えに関連しているか否かを判定してもよい。
前記周波数分析部は、前記メニュー項目がハイライトされた時刻より所定の秒数前の時刻以降に取得された脳波信号に基づいて、前記代表周波数を算出してもよい。
前記周波数分析部は、前記メニュー項目の切り替え周波数を含む所定の周波数帯域において周波数パワーが最大となる周波数を前記代表周波数として算出してもよい。
前記周波数分析部は、0.5Hz以上の周波数帯域において周波数パワーが最大となる周波数を前記代表周波数として算出してもよい。
前記決定部は、0.5Hzから9Hzの周波数帯域から選択された前記切り替え周波数および前記脳波信号の代表周波数の相対量に基づいて、前記代表周波数が前記メニュー項目の切り替えに関連しているか否かを判定してもよい。
前記決定部は、前記メニュー項目の切り替え周波数と前記脳波信号の代表周波数との差が0.2Hz以上のとき、前記代表周波数は前記メニュー項目の切り替えに関連していないと判定してもよい。
前記決定部が前記脳波インタフェース部に対して前記脳波信号を識別対象から除外するよう指示することにより、前記脳波インタフェース部は前記機器の動作状態を一つ前に戻してもよい。
前記脳波インタフェース部が、複数種類の操作メニューのメニュー項目を、互いに異なる複数種類の切り替え周波数でそれぞれ提示するときにおいて、前記決定部は、前記複数種類の切り替え周波数の各々と前記脳波信号の代表周波数の相対量とに基づいて、前記代表周波数が、いずれかの操作メニューのメニュー項目の切り替えに関連しているか否かを判定してもよい。
前記決定部は、互いに整数倍の関係にならないように設定された前記複数種類の切り替え周波数の各々と前記脳波信号の代表周波数との相対量に基づいて、前記代表周波数が、いずれかの操作メニューのメニュー項目の切り替えに関連しているか否かを判定してもよい。
前記決定部は、前記複数種類の切り替え周波数の各々と前記脳波信号の代表周波数との相対量のうち最も小さい相対量に対応する切り替え周波数を特定し、前記代表周波数が、特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連しているか否かを判定してもよい。
前記決定部は、前記複数種類の切り替え周波数の各々に対応する閾値を保持しており、前記決定部は、前記最も小さい相対量が、特定された前記切り替え周波数に対応する閾値より小さいとき、前記代表周波数が特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連していると判定し、前記最も小さい相対量が、特定された前記切り替え周波数に対応する閾値以上のとき、前記代表周波数が特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連していないと判定してもよい。
前記脳波インタフェース部は、前記メニュー項目がハイライトされた後の前記脳波信号に含まれる事象関連電位にP3成分が含まれているか否かを識別するための閾値を保持しており、前記決定部は、前記代表周波数が前記メニュー項目の切り替えに関連していないと判定した場合には、前記閾値の大きさを、事象関連電位のP3成分が検出されにくくなる側に変化させてもよい。
本発明による方法は、機器の操作メニューを視覚的に提示する出力部と、ユーザの脳波信号を取得する生体信号計測部と、前記操作メニューのメニュー項目を特定の切り替え周波数で前記出力部を介して提示し、予め保持された前記脳波信号に基づいて前記メニュー項目がハイライトされた後の前記脳波信号に含まれる事象関連電位の成分を識別し、識別された前記事象関連電位に基づいて前記機器を動作させる脳波インタフェース部とを有する脳波インタフェースシステムにおいて、前記脳波インタフェース部に前記脳波信号の識別を行わせるか否かを決定するための方法であって、前記脳波信号の周波数パワーが極大となる周波数を代表周波数として算出するステップと、前記メニュー項目の切り替え周波数および前記脳波信号の代表周波数の相対量に基づいて、前記代表周波数が前記メニュー項目の切り替えに関連しているか否かを判定するステップと、関連していると判定した場合には、前記脳波インタフェース部に対して前記脳波信号を識別対象として採用するよう指示するステップと、関連していないと判定した場合には、前記脳波インタフェース部に対して前記脳波信号を識別対象から除外するよう指示するステップとを包含する。
前記脳波インタフェース部が、複数種類の操作メニューのメニュー項目を、互いに異なる複数種類の切り替え周波数でそれぞれ提示するときにおいて、前記判定するステップは、前記複数種類の切り替え周波数の各々と前記脳波信号の代表周波数の相対量とに基づいて、前記代表周波数が、いずれかの操作メニューのメニュー項目の切り替えに関連しているか否かを判定してもよい。
前記判定するステップは、前記複数種類の切り替え周波数の各々と前記脳波信号の代表周波数との相対量のうち最も小さい相対量に対応する切り替え周波数を特定し、前記代表周波数が、特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連しているか否かを判定してもよい。
前記複数種類の切り替え周波数の各々に対応する閾値を用意するステップをさらに包含し、前記決定するステップは、前記最も小さい相対量が、特定された前記切り替え周波数に対応する閾値より小さいとき、前記代表周波数が特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連していると判定し、前記最も小さい相対量が、特定された前記切り替え周波数に対応する閾値以上のとき、前記代表周波数が特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連していないと判定してもよい。
本発明による他の装置は、機器の操作メニューを視覚的に提示する出力部と、ユーザの脳波信号を取得する生体信号計測部と、前記出力部を介して前記操作メニューのメニュー項目を特定の切り替え周波数で提示し、予め保持された前記脳波信号に基づいて前記メニュー項目がハイライトされた後の前記脳波信号に含まれる事象関連電位の成分を識別し、識別された前記事象関連電位に基づいて前記機器を動作させる脳波インタフェース部とを有する脳波インタフェースシステムにおいて、前記脳波インタフェース部において採用される前記脳波信号の識別方法を調整するための装置であって、前記脳波信号の周波数パワーが極大となる周波数を代表周波数として算出する周波数分析部と、前記メニュー項目の切り替え周波数および前記脳波信号の代表周波数の相対量に基づいて、前記代表周波数が前記メニュー項目の切り替えに関連しているか否かを判定し、関連していると判定した場合には、前記ユーザが前記メニュー項目を見ていると判断し、関連していないと判定した場合には、前記ユーザが前記メニュー項目を見ていないと判断して、判断結果に応じて前記脳波インタフェース部の前記脳波信号の識別方法を調整する決定部とを備えている。
本発明の識別要否決定装置、方法および識別要否決定装置が組み込まれた脳波インタフェースシステムによれば、ユーザ脳波の周波数パワーが極大の代表周波数(θe)とメニュー項目ハイライトの切り替え周波数(θs)とが異なっていた場合に、ユーザがメニューを見てないと判定し、識別対象から除外するという方法で識別方法を調整する。これにより、脳波を日常的に計測するインタフェースにおいて問題となる、メニュー項目の見落としによる誤識別がなくなるため、識別率が高く維持できる。よって、脳波の識別ミスによるユーザの意図しない機器動作が減少するため脳波インタフェースの操作性向上を実現できる。
脳波インタフェースシステム1の構成および利用環境を示す図である。
脳波インタフェースシステム1においてTV2を操作し、ユーザ5が視聴したいジャンルの番組を見るときの例を示す図である。
本発明による脳波インタフェースの第1の通常処理手順の例(処理手順A)を示すフローチャートである。
本発明による脳波インタフェースの第2の通常処理手順の例(処理手順B)を示すフローチャートである。
実験の手順を示す図であり、(a)は機器の処理手順を示すフローチャートであり、(b)は被験者の動作手順を示すフローチャートである。
(a)は実際に被験者に提示されたメニューおよび選択指示の表示画面を示す図であり、(b)はハイライトされたメニュー項目の表示例を示す図である。
実験結果の一例を示すグラフである。
(a)はメニュー項目が350msごとに切り替えてハイライトされているとき(条件A)の脳波の周波数パワーを示す図であり、(b)はステップS51で選択指示刺激が提示されているとき(条件B)の脳波の周波数パワーを示す図である。
本発明の実施形態1による脳波インタフェースシステム1の機能ブロックの構成を示す図である。
実施形態1による脳波インタフェースシステム1の処理手順を示すフローチャートである。
ユーザ5がメニュー項目を見ていたか否かを判定する処理の詳細な手順を示すフローチャートである。
本発明の実施形態2による脳波インタフェースシステム2の機能ブロックの構成を示す図である。
脳波インタフェースシステム2を利用して、大画面テレビに2種類のメニューを提示している例を示す図である。
実施形態2による脳波インタフェースシステム2の処理手順を示すフローチャートである。
ユーザ5がメニューA、メニューBのどちらを見ていたか、またはどのメニューもみていなかったかを判定する処理の詳細な手順を示すフローチャートである。
実施形態3による脳波インタフェースシステム3の機能ブロックの構成を示す図である。
実施形態3による脳波インタフェースシステム3の処理手順を示すフローチャートである。
符号の説明
1、2、3 脳波インタフェースシステム
5 ユーザ
7 出力部
7a 画面
10 識別要否決定装置
11 代表周波数分析部
12 決定部
21 識別対象決定部
31 識別方法調整部
50 生体信号計測部
100 脳波インタフェース部
200 複数メニュー提示脳波インタフェース部
300 識別パラメータ可変脳波インタフェース部
301 P3識別用パラメータ
以下、添付の図面を参照しながら、本発明による脳波インタフェースシステムおよび脳波インタフェースシステムに組み込まれる識別要否決定装置の実施形態を説明する。
以下では、まず脳波インタフェースシステムを説明し、その後識別要否決定装置の構成および動作を説明する。
図1は、脳波インタフェースシステム1の構成および利用環境を示す。この脳波インタフェースシステム1は後述する実施形態1のシステム構成に対応させて例示している。
脳波インタフェースシステム1は、ユーザ5の脳波信号を利用してTV2を操作するインタフェースを提供するためのシステムである。ユーザ5の脳波信号はユーザが頭部に装着した生体信号計測部50によって取得され、無線または有線で脳波インタフェース部100に送信される。TV2に内蔵された脳波インタフェース部100は、脳波の一部を構成する事象関連電位と呼ばれる成分を利用してユーザの意図を認識し、チャンネルの切り替えなどの処理を行う。
図2は、脳波インタフェースシステム1においてTV2を操作し、ユーザ5が視聴したいジャンルの番組を見るときの例を示す。
図2(a)は、脳波インタフェース部100がTV2の画面7aを介してユーザに提示するメニューの例である。図2(a)では、画面7a−1から画面7a−4において、それぞれ「野球」、「天気予報」、「アニメ」、「ニュース」というメニュー項目が順にまたはランダムにハイライトされる様子を示している。
本明細書においては、図2(a)に示す機器操作に関する選択肢群を包括して「メニュー」と定義し、メニューを構成する各選択肢を「メニュー項目」と定義する。また、メニュー項目のハイライトが切り替えられる頻度を、「切り替わり周波数(θs)」と定義する。たとえば、ハイライトが1秒間に2回切り替えられる場合には、切り替わり周波数(θs)は2Hzである(周期は500msである)。以下の説明では、切り替わり周波数(θs)は2.86Hz、周期は350msであるとして説明する。
メニュー項目をハイライトすることによって、それぞれのメニュー項目がハイライトされた時刻を起点とした事象関連電位が計測可能となる。なお、ハイライトの代わりに、またはハイライトと共に補助的矢印を用いたポインタでメニュー項目を提示してもよい。図2(a)には、ハイライトと共にポインタでメニュー項目が提示される例を示している。
図2(b)は、メニュー項目がハイライトされた時刻を起点に計測したユーザの脳波信号の事象関連電位を模式的に示す。今、ユーザは「天気予報」を見たいと考えていたとする。画面7a−1から画面7a−4までのそれぞれに対応する脳波信号201〜204のうち、ユーザ5が「天気予報」がハイライトされた画面7a−2を見ると、「天気予報」がハイライトされた時刻を起点に潜時約400−450msに特徴的な陽性の成分(P3成分)が出現する(非特許文献1)。
脳波インタフェース部100がこのP3成分の出現を識別すると、ユーザが選択したいと考えていたメニュー項目「天気予報」の選択が可能となる。図2(c)では、P3成分を識別した結果、チャンネルが「天気予報」に切り替えられた後の画面7a−5を示している。
図3は、本発明による脳波インタフェースの第1の通常処理手順の例(処理手順A)を示す。
ステップS101において、脳波インタフェース部100はたとえば4つのメニュー項目を含んだメニュー(図2(a)の左側)と、問いかけの文章(図2(a)の右側)を提示する。ステップS102において、脳波インタフェース部100はメニュー項目の一つを選択する。ステップS103において、ステップS102によって選択されたメニュー項目をハイライトする。
ステップS104において、脳波インタフェース部100は、ステップS103においてメニュー項目がハイライトされた時刻を起点に、たとえば500ms分のユーザの事象関連電位を計測する。事象関連電位として切り出す区間は、300−500msに出現するP3成分が含まれれば、たとえば800ms、1000msであってもよい。ここでは、図2(b)に模式的に示す脳波信号の事象関連電位201〜204が計測される。
ステップS105において、ステップS104で計測した事象関連電位にP3成分が含まれているか否かを識別する。P3成分の識別は、単純に波形の最大振幅または波形のある区間の平均電位があらかじめ設定した閾値よりも大きいかどうかを判定してもよいし、特許文献2に記載のようにあらかじめユーザごとに計測したP3成分の加算平均波形で作成したテンプレートとの相関係数を算出してもよい。なお、閾値は、ユーザごとに決定してもよい。ステップS105でYesの場合、ステップS106に進み、Noの場合はステップS102に戻り次のメニュー項目を選択する。
ステップS106において、脳波インタフェース部100はステップS105によって選択されたメニュー項目に対応する処理を実行する。これにより、そのメニュー項目が選択され、実行されて、図2(c)に示す画面7a−5が表示される。たとえば、図2の例で言えば、天気予報が選択され、天気予報の番組が提示されている。
このような脳波インタフェースシステム1によれば、たとえば家事や育児で両手が塞がっている場合にもユーザは手を使わずにTV2等の機器を操作することが可能となる。よって機器の操作性が格段に向上する。
ただし、脳波をインタフェースとして用いる場合、ユーザが常にメニューを見ているとは限らない。たとえば、家事や育児など脳波インタフェースを用いた機器の操作とは別の作業を平行して行っているときには、インタフェースが画面を常に注視することは難しい。また、前述のように、メニュー項目がハイライトされたタイミングにおいて、ユーザがメニューを見ていない場合には、ステップS103においてP3成分は計測されない。そのような状況下で、ステップS104において取得した事象関連電位にノイズ(たとえば眼電)が混入しP3成分に似た波形を示した場合には、ステップS105においてP3成分ありと判定され、ステップS106においてユーザが意図していないメニュー項目の選択が実行される可能性があるため、より識別精度が高い処理を行うことが好ましい。
異なる識別方法として、たとえばそれぞれのメニュー項目がハイライトされた後の事象関連電位を比較し、最もP3成分が出現した可能性の高いものを選択するという処理の手順(処理手順B)を用いることも可能である。処理手順Bを用いた場合には、事象関連電位の比較によってP3成分と近いものの選択が可能であるため、多少のノイズが混入しても機器動作が実現できる。
図4は、本発明による脳波インタフェースの第2の通常処理手順の例(処理手順B)を示す。なお、図3に示す脳波インタフェースの処理手順Aと同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
ステップS107において、全ての選択項目が少なくとも一度はハイライトされたかどうかにより分岐する。ステップS107でYesの場合、ステップS108に進み、Noの場合はステップS102に戻り次のメニュー項目を選択する。
ステップS108において、ステップS104で取得したメニュー項目ごとの事象関連電位にP3成分が含まれる可能性を計算し、項目ごとに比較をして一番近いメニュー項目をP3成分ありと識別する。項目ごとの事象関連電位にP3成分が含まれる可能性は、図3中のステップS104のように、単純に波形の最大振幅値として最大振幅が最大のものを選んでもよいし、ある区間の平均電位の大きさを求め平均電位が最大のものを選んでもよい。また、テンプレートとの相関係数の値が大きいものを選んでもよい。ステップS108でYesの場合、ステップS106に進み、Noの場合はステップS102に戻り次のメニュー項目を選択する。
このように、メニュー項目ごとの事象関連電位を比較し、最もP3成分が出現した可能性の高い選択項目を選ぶことで、多少のノイズが混入しても識別が可能な識別方法が実現されるが、処理手順Bを用いた場合も同様に、ユーザがメニューを見ていない場合にも、P3が含まれていそうないずれかのメニュー項目が選択されてしまう。よって、やはり、ユーザの意図しないメニュー項目の選択が実行される可能性があるため、より識別精度が高い処理を行うことが好ましい。
ユーザが意図しないメニュー項目の選択は、いずれもユーザがメニューを見ていたかどうかを機器側が判定できないために発生する。メニューを見ていたか否かの判定が可能であれば、見ていない場合には識別対象から除外するなど識別方法の調整によって、これらの意図しない機器動作をなくすことができる。
本願発明者らは、脳波インタフェースを利用するユーザの脳波の周波数を分析することで、ユーザがメニューを見ているかどうかの判定が可能であることを発見した。これにより、視線検出装置等を新たに加えることなく、ユーザがメニューを見ていなかったことの検出が実現できる。以下、図5から図7を参照しながら本願発明者らが実施した実験および実験結果について説明する。
図5は、実験のフローを示す図である。図5の(a)は実験中の機器側のフローとして刺激および事象関連電位計測の手順を示した図で、図5の(b)は実験中に被験者が実施する課題の手順を示した図である。図5の(a)および(b)のフローは、並行して行われる。図5の(a)に従った機器の動作を受けて、被験者は図5の(b)に従った動作を行う。そして、その結果発生する事象関連電位を図5の(a)に従って機器が計測する。
まず、図5の(a)について説明する。
ステップS50において、機器は被験者の脳波計測を開始する。
ステップS51において、機器は、4つのメニュー項目と被験者がどのメニュー項目を選択するかの選択指示を提示する。図6(a)は、実際に被験者に提示されたメニューおよび選択指示の表示画面を示す。本願発明者らの実験では、図6(a)の表示を4秒間提示した。以下、選択指示が出された選択項目を「ターゲット」と呼ぶ。
なお、この提示を受けて被験者が動作を開始する。図5(a)のステップS51から図5(b)のステップS61へ向かう矢印は、ステップS51の機器動作に対応する、被験者の動作の開始タイミングを示している。
ステップS52において、機器はメニュー項目をランダムに選択する。
ステップS53において、ステップS52で選択されたメニュー項目を350ms間ハイライトする。すなわち、メニュー項目のハイライトは切り替え周波数θs=2.86Hzで切り替えられる。図6(b)は、ハイライトされたメニュー項目の表示例を示す。機器は、メニュー項目をハイライトした総回数nをカウントし、保持する。
ステップS54において、機器は、ステップS53でメニュー項目がハイライトされた時刻を基準として所定区間の脳波を切り出し、事象関連電位を取得する。本実験では、ハイライト前100msからハイライト後1000msまでの区間の事象関連電位を切り出した。
ステップS55において、機器は、メニュー項目のハイライト回数nが40回以下か40回より多いかを判定する。ハイライト回数nが40回以下の場合には機器はステップS52の処理に戻り、メニュー項目のハイライトを繰り返す。一方、ハイライト回数nが40回より多くなると、機器は処理を終了する。
上述の処理により、統計的にメニュー項目ごとに10回前後ずつハイライトが実行される。なお、この処理回数は、実験的に事象関連電位を繰り返し加算平均して、成分の出現を確認するために必要であるとして設定されたものである。実際に脳波インタフェースシステムとして実装される場合には、必ずしもこのような処理回数を設ける必要はない。
前述のステップS50からステップS55によって、350msごとにハイライトされるメニュー項目が切り替わる条件下で、機器は、各メニュー項目が10回程度ずつハイライトされたときのハイライトを起点とした被験者の事象関連電位を40試行取得できる。
次に、図5(b)について説明する。
ステップS61において、被験者は、図5(a)のステップS51によって提示されたメニューおよび選択指示を見る。被験者は選択指示を見て、ターゲットを確認する。これは、実際に脳波インタフェースを用いる場合にユーザが実現したいと思う機器動作にあたる。
ステップS62において、被験者はメニューを注視し、図5(a)のステップS52からS55によって提示されるメニュー項目ハイライトを見て、選択対象のメニュー項目がハイライトされることを待つ。
ステップS63において、被験者は、ステップS61でターゲットがハイライトされたかどうかを判断する。ターゲットがハイライトされたと判断すると、ステップS64へ進み、ハイライトされていないと判断するとステップS62に戻る。
ステップS64において、被験者は、ターゲットがハイライトされた回数をメンタルカウントするステップである。メンタルカウントとは、心の中で数をカウントすることである。
ステップS65において、被験者は、ハイライトの切り替わりが終了したか否かを判断し、機器によるメニュー項目の切り替わり処理が終了したときは実験を終了し、メニュー項目の切り替わり処理が継続されているときはステップS62からの動作を再開する。
なお、脳波は頭皮上Fz、Cz、Pz(国際10−20法)の3部位から耳朶を基準に計測した。また、視覚刺激は被験者の目前1mの19インチLCDディスプレイに提示した。
図7は、実験結果の一例を示すグラフである。このグラフは、電極位置Pzで計測した事象関連電位の加算平均波形を示す。実線の波形aは、ターゲットが0msにおいてハイライトされた後に得られた事象関連電位の加算平均波形を示す。一方、点線の波形bはターゲット以外の項目がハイライトされた後の事象関連電位の加算平均波形を示す。なおグラフの横軸は時間(単位:ms)、縦軸は電位(単位:μV)である。メニュー項目は、350msごとに切り替えられている。
ターゲットに関連する図7の実線の波形aに示すように、ターゲットのハイライト後300から400msに陽性成分が出現している。これは、一般的なP3成分であり、非特許文献1の結果と一致すると考えられる。
さらに本願発明者らは、図7の実線、点線には共通して周期的な特徴が存在すること、具体的には、両方の波形には約350ms間隔で陰性の極値が現れているという特徴が存在することを見出した。そしてその特徴に着目し、脳波の周波数解析を実施した。
図8(a)は、メニュー項目が350msごとに切り替えてハイライトされているとき(条件A)の脳波の周波数パワーを示し、図8(b)は、ステップS51で選択指示刺激が提示されているとき(条件B)の脳波の周波数パワーを示す。いずれも横軸が周波数(単位:Hz)、縦軸が周波数パワー(単位:μV・μV/Hz)である。
図8(a)から明らかなように、条件Aでは周波数パワーに特徴的なピークが存在することが理解される。このピークに対応する周波数(θe)は2.74Hzであった。上述のように、条件Aに対応するメニュー項目の切り替え周波数(θs)は2.86Hzであり、脳波の周波数パワーが極大となった周波数とほぼ一致する。一方、図8(b)によれば、条件Bでは周波数パワーには特徴的なピークは存在しない。
これらを総合すると、メニュー項目ハイライトの切り替え周波数(θs)が脳波の周波数に影響を与えたため、事象関連電位に周期的な変化が発生したと考えられる。したがって、脳波の周波数パワーが極大となる周波数(θe)を算出することにより、ユーザがメニューを見ていたか否かを判定可能である。
なお、同じ位置で点滅する視覚刺激を提示すると、SSVEPと呼ばれる成分が視覚刺激の点滅と同期して脳波に現れることが知られている(Xiaorong Gao他、A BCI−Based Environmental Controller for the Motion−Disabled、IEEE Transactions on Neural Systems and Rehabilitation Engineering、2003)。
しかしながら、本願発明者らは、本願発明者らの実験によって得られた結果はSSVEPとは異なっていると考える。その理由は、今回の実験における視覚刺激はハイライトの切り替えであり、同じ位置で点滅するものではないためである。さらに他の理由としては、今回の実験では被験者は対象のメニュー項目(ターゲット)がハイライトされるのを待っている状態であり、SSVEPの実験のような点滅する刺激を見ているだけの状態とは異なっているためである。すなわち、本願発明者らの実験とSSVEPの実験とは設定が異なっている。
続いて、本発明の実施形態にかかる識別要否決定装置を詳細に説明する。識別要否決定装置は、脳波インタフェース使用時のユーザ脳波の周波数パワーが極大となる周波数を、代表周波数(θe)として算出する。そして、代表周波数(θe)とメニュー項目の切り替え周波数との相対量に基づいて、代表周波数(θe)がメニュー項目の切り替えに関連しているか否かを判定する。「相対量に基づいて」とは、たとえば周波数(θe)とメニュー項目の切り替え周波数との差、または、周波数(θe)とメニュー項目の切り替え周波数との比が、閾値以下か閾値よりも大きいかによって、という意味である。
閾値以下であれば、代表周波数(θe)とメニュー項目の切り替え周波数とが関連している、すなわちユーザがメニューを見ていたと判定する。その結果、脳波信号が脳波インタフェースにおける識別対象として採用される。
一方、閾値よりも大きいときは、代表周波数(θe)とメニュー項目の切り替え周波数とは関連がなく、ユーザがメニューを見ていなかったと判定する。その結果、脳波信号が脳波インタフェースにおける識別対象から除外される。これにより、ユーザが意図しない機器動作を減らすことが可能となる。
(実施形態1)
図9は、本実施形態による脳波インタフェースシステム1の機能ブロックの構成を示す。脳波インタフェースシステム1は、出力部7と、識別要否決定装置10と、生体信号計測部50と、脳波インタフェース(IF)部100とを有している。図9はまた、識別要否決定装置10(以下「決定装置10」と記述する)の機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。なお、出力部7は、ユーザ5にメニュー等を提示する画面を示す。
ユーザ5は、脳波インタフェース部100によって出力部7に提示される機器操作に関するメニュー項目がハイライトされるかどうかに注意して見ているだけで操作入力はしないが、脳波インタフェース部100を介して選択されたメニュー項目に応じて機器が動作するものとする。
決定装置10は、有線または無線で生体信号計測部50および脳波インタフェース部100と接続され、信号の送信および受信を行う。図9においては、生体信号計測部50および脳波インタフェース部100は決定装置10とは別体であるが、これは例である。生体信号計測部50および脳波インタフェース部の一部または全部を、決定装置10内に設けてもよい。
生体信号計測部50は、ユーザ5の生体信号を検出する脳波計であり、生体信号として脳波を計測する。脳波計は図1に示すようなヘッドマウント式脳波計であってもよい。ユーザ5はあらかじめ脳波計を装着しているものとする。
ユーザ5の頭部に装着されたとき、その頭部の所定の位置に接触するよう、生体信号計測部50には電極が配置されている。電極の配置は、たとえばPz(正中頭頂)、A1(耳朶)およびユーザ5の鼻根部になる。ただし、電極は最低2個あればよく、たとえばPzとA1のみでも電位計測は可能である。この電極位置は、信号測定の信頼性および装着の容易さ等から決定される。
この結果、生体信号計測部50はユーザ5の事象関連電位を測定することができる。測定されたユーザ5の脳波は、コンピュータで処理できるようにサンプリングされ、脳波インタフェース部100および決定装置10に送られる。なお、脳波に混入するノイズの影響を低減するため、生体信号計測部50においては計測される脳波は、あらかじめたとえば0.05から20Hzのバンドパスフィルタ処理がされ、メニュー項目ハイライト前のたとえば100msの平均電位でベースライン補正されているものとする。
脳波インタフェース部100は、機器操作に関するメニュー項目をユーザに提示し、生体信号計測部50で計測された脳波を切り出して識別する。そして識別結果に応じて機器動作を制御する。脳波インタフェース部100における基本的な動作は前述の通りである。
脳波インタフェース部100を利用して制御する機器が、たとえば図1に示すTV2であるとすると、メニューは出力部7を介してユーザ5に提示される。図2(a)に示したようにメニュー項目は、所定の切り替え周期でθs(たとえば2.86Hz)に一つずつハイライトされる。θsは2Hz、3Hz、5Hzであってもよい。
脳波インタフェース部100は、識別実行フラグ101を保持している。
識別実行フラグ101は、生体信号計測部50で計測されたユーザ5の脳波に含まれる事象関連電位の特徴を識別するか否かを決定するために参照される。たとえば、識別実行フラグ101が「1」のときは、脳波インタフェース部100は得られている事象関連電位を識別対象として採用する。一方、識別実行フラグ101が「0」のときは、脳波インタフェース部100は得られている事象関連電位を識別対象から除外する。識別実行フラグ101は後述する方法によって決定装置10からの指示によって設定される。なお、「0」および「1」の各値に対応する動作は例であり、他の例を採用してもよい。
識別実行フラグ101が「1」に設定されているとき、脳波インタフェース部100は、メニュー項目がハイライトされた時刻を起点に、生体信号計測部50で計測されたユーザ5の脳波をたとえばP3成分のピーク潜時よりも長い500ms分を切り出し、波形を識別する。脳波を切り出す時間は波形のピークからの戻りの部分も考慮して1000ms分であってもよい。事象関連電位を識別する方法は、単純に波形を閾値処理してもよいし、特許文献2に記載のようにあらかじめユーザごとに計測したP3成分の加算平均波形で作成したテンプレートとの相関係数を算出してもよい。
次に、本実施形態による決定装置10の詳細な構成を説明する。本発明の主要な特徴のひとつは、決定装置10の構成および動作にある。
決定装置10は、代表周波数分析部11と、決定部12とを有している。
代表周波数分析部11は、周波数パワーが特徴的なピークをもつ周波数(代表周波数(θe))を算出し、決定部12に送る。以下、代表周波数(θe)の算出方法を具体的に説明する。
まず、代表周波数分析部11は、生体信号計測部50で計測されたユーザ5の脳波の周波数パワーを、たとえば高速フーリエ変換(Fast Fourier Transform;FFT)によって算出する。代表周波数分析部11は、脳波インタフェース部100がメニュー項目をハイライトするタイミングを基準として、たとえば前後1秒程度の脳波を切り出して周波数パワーを算出してもよい。なお、脳波を切り出す時間窓の長さは、ハイライトの切り替え周波数に応じて変えてもよい。周波数解析の精度を向上させるために、2回以上のハイライトが発生するように時間窓の長さを設定してもよい。
次に、代表周波数分析部11は、算出した周波数パワーのうち、周波数パワーの極大値から代表周波数(θe)を求める。
周波数パワーの極大値を求める範囲は、たとえば直流成分とアルファー波等の自発脳波の影響の少ない範囲(1Hz〜8Hzの周波数帯域、またはより広い0.5Hz〜9Hzの周波数帯域)とすればよい。または、脳波インタフェース部100からメニュー項目ハイライトの切り替え周波数を取得し、その周波数の周辺の周波数パワーから求めてもよい。図8(a)には、メニュー項目ハイライトの切り替え周波数の周辺±0.2Hzの周波数帯域Aと、0.5Hz〜9Hzの周波数帯域Bとが示されている。
周波数パワーの極大値として、たとえば上記範囲のすべての極大値の中で最大となるものを選択すればよい。さらに、周波数パワーに閾値(たとえば周波数パワーが4000(μV・μV/Hz))を設け、その閾値以上であることを条件として課してもよい。代表周波数分析部11は、特徴的なピークを周波数パワーの極大値として特定することができため、その極大値に対応する周波数を代表周波数(θe)として採用することができる。
なお、周波数パワーの極大値が0.5Hz〜9Hzの周波数帯域から決定されるということは、メニュー項目ハイライトの切り替え周波数(θs)が0.5Hz〜9Hzから選択され得ること、すなわち切り替え周波数(θs)が可変であることを意味する。0.5Hzは切り替えが非常に遅く、一方9Hzは切り替えが非常に早い。ユーザ5の性別、年齢、習熟度などによっては、メニュー項目ハイライトの切り替えが遅くなければ実用的な利用ができない場合もあるし、早くしても十分対応できる場合がある。そこで、メニュー項目ハイライトの切り替え周波数(θs)を0.5Hz〜9Hzの周波数帯域から選択可能とし、同時に周波数パワーの極大値もまた、0.5Hz〜9Hzの周波数帯域から決定することとした。
なお、脳波IF部100がメニュー項目のハイライトを2回程度行えば、メニュー項目ハイライトの周期が確定するため、周波数パワーの極大値に有意な差が現れる。
決定部12は、代表周波数分析部11から受け取った代表周波数(θe)と、脳波インタフェース部100から受け取ったメニュー項目切り替え周波数(θs)との相対量(差または比)を算出し、両者が互いに関連しているか否かを判定する。互いに関連しているか否かの判定は、サンプリング周波数、周波数分析の時間窓によって決定される周波数分析精度に基づき、たとえばθsとθeとの差は0.2Hz以内か否か、または、θsとθeとの比は0.93以上1.07以下の範囲内か否か、によって決定すればよい。以下では差を利用して判定するとして説明する。なお、閾値は固定値ではなく可変であってもよい。
両者が互いに関連していると判断した場合には、決定部12は何も実行しない。一方、両者が互いに関連していないと判断した場合には、決定部12は、脳波インタフェース部100における脳波識別方法を調整する。ユーザ5はメニューを見ていないと判断できるためである。
脳波識別方法の調整とは、たとえば脳波インタフェース部100が保持する識別実行フラグ101を、識別対象から除外することを示す値「0」に設定するよう指示することをいう。なお、上述の説明では、両者が互いに関連していると判断した場合には決定部12は何も実行しないとして説明したが、たとえば、識別実行フラグ101を「1」に設定するよう指示し、識別対象として採用させてもよい。
このように構成することで、ユーザ5がメニュー項目のハイライトを見ていたかどうかを、脳波の周波数(θe)を指標に判定できるため、ユーザ5がメニューを見ていない場合の試行を識別対象から除外するという識別方法の調整が可能となる。これにより、ユーザ5が意図しない機器動作を減少し、ユーザ5にとって使いやすい脳波インタフェースが実現できる。
次に、図10のフローチャートを参照しながら、図9の脳波インタフェースシステム1において行われる全体的な処理手順を説明する。
図10は、本実施形態による脳波インタフェースシステム1の処理手順を示す。この脳波インタフェースシステム1には、ユーザ5がメニューを見ているかどうかの判定を行い、メニューを見ていない場合を識別対象から除外するという機能が設けられている。
なお、図10に示すステップS101からステップS106は、図3に示す脳波インタフェースの処理手順と同じである。よって、以下ではそれらの説明は省略する。
図3の脳波インタフェースの処理手順との差異は、ユーザ5がメニュー項目のハイライトを見ていたかどうかを判定するステップS20を設けたことにある。
ステップS20において、決定装置10は、生体信号計測部50で計測したユーザ5の脳波の周波数からユーザ5がメニュー項目のハイライトを見ていたか否かを判定する。具体的な処理は、図11を参照しながら後述する。
決定装置10によってユーザ5がメニューを見ていたと判定されると(ステップS20でYes)、処理はステップS105に進む。ステップS105において、脳波IF部100は、ステップS104で計測された事象関連電位にP3成分が出現しているかどうかの識別を実施する。
一方、決定装置10によってユーザ5がメニューを見ていなかったと判定されると(ステップS20でNo)、脳波IF部100は事象関連電位の識別処理は行わずに、ステップS102の処理に戻る。そして、脳波IF部100は次のメニュー項目ハイライトに向けてハイライトする項目を選択する。
次に、図11を参照しながら、ステップS20の詳細な処理を説明する。
図11は、ユーザ5がメニュー項目を見ていたか否かを判定する処理の詳細な手順を示す。この処理は、決定装置10を構成する代表周波数分析部11と決定部12によって行われる。
ステップS21において、代表周波数分析部11は生体信号計測部50で計測されたユーザ5の脳波を切り出す。脳波を切り出すタイミングは、たとえば脳波インタフェース部100がメニューを提示した時刻としてもよいし、たとえば1秒ごとのように代表周波数分析部11で独自に決定してもよい。また、脳波を切り出す区間は、たとえば1秒分であってもよいし、2秒分、3秒分、5秒分であってもよい。
ステップS22において、代表周波数分析部はステップS21で切り出したユーザ5の脳波の周波数パワーを高速フーリエ変換FFTによって計算する。
ステップS23において、代表周波数分析部11はステップS22で計算した周波数パワーが極大となる周波数を代表周波数(θe)として算出し、決定部12に送る。
ステップS24において、決定部12は脳波インタフェース部100からメニュー項目ハイライトの切り替え周波数(θs)を受け取り、θeとθsとの差分を算出する。
ステップS25において、決定部12はθsとθeとの差を計算し、その差が閾値よりも小さいか否かを判定する。差が閾値より小さい場合はステップS26に進み、閾値以上の場合はステップS27に進む。
ステップS26において、決定部12はユーザ5がメニューを見ていたと判定し、脳波IF部100に対して何も行わない。または、決定部12は、脳波IF部100が保持する識別実行フラグ101を「1」に設定するよう脳波IF部100に指示してもよい。
一方、ステップS27おいて、決定部12はユーザ5がメニューを見ていないと判定し、脳波IF部100に対して識別実行フラグ101を「0」に設定するよう指示する。
このような処理によって、識別率を低下させる原因となるユーザがメニューを見ていないときの識別処理の実行を除外でき、ユーザの意図しない機器動作の減少が実現できる。
なお、本実施形態ではユーザがメニューを見ていないときは、その脳波信号を識別対象から除外した。しかし、ユーザがメニューを見ていない場合に、動作状態を1つまたはそれ以上前に戻すよう機器を動作させることも可能である。その場合には、ユーザがメニューから視線を外しただけでユーザの意図しない機器動作をキャンセルできるため、脳波インタフェースの操作性が格段に向上する。また、「戻る」というメニュー項目を設定する必要がなくなり、それに代えて他のメニュー項目を設定できる。さらに他には、ユーザがメニュー項目を見ていない場合に映像または音声でアラートを提示するなど、メニューを見ていないことを検出可能とすることによって様々な機器動作が可能となる。
本実施形態の脳波インタフェースシステム1に決定装置10を設けることにより、脳波インタフェースを利用するユーザ5の脳波の周波数からユーザ5がメニュー項目のハイライトを見ていたかどうかが判定できる。これによって、メニューを見ていない場合には識別対象から除外するという識別方法の調整が可能となり、ユーザの意図しない機器動作の減少が実現できるため、使いやすいインタフェースを実現できる。
(実施形態2)
実施形態1による脳波インタフェースシステム1では、脳波インタフェース部100が提示する一種類のメニュー(メニュー項目は複数)に対して、脳波インタフェースシステム使用時のユーザ脳波の周波数の特徴から、ユーザがメニュー項目を見ているかどうかを判定し、メニュー項目を見ていない場合には識別対象から除外することで、ユーザの意図しない機器動作の減少を実現していた。
上述の脳波インタフェースでは、メニュー項目をランダムにハイライトするため選択したいメニュー項目がハイライトされるまでの時間はメニュー項目の数に比例して増える。そのため、操作性を考慮すると提示するメニュー項目の数を制限せざるを得なかった。
そこで、たとえば近年普及が進んでいる大画面テレビのような、映像表示可能領域が大きい表示装置を利用することが可能な状況では、複数のメニューを異なる位置に同時に提示することにより、多くのメニュー項目から短時間でのメニュー項目の選択が可能となる。
複数のメニューを1画面上に同時に提示すると、それぞれのメニューでメニュー項目がハイライトされるため、結果として同じ時刻に複数のメニュー項目がハイライトされることになる。よって、まずユーザがどのメニューを見ているかを特定した上で、ユーザが意図する機器動作を一意に決定する必要がある。
本実施形態による脳波インタフェースシステムでは、複数のメニューの各々に対してメニュー項目のハイライトの切り替え周波数を独立して設定し、それぞれの複数のメニュー項目のハイライトを切り替える。そして、ユーザ脳波の周波数の特徴に基づいて、ユーザがどちらのメニューを見ているかの判定を行う。これにより、複数のメニューが同時に提示され、同じ時刻に複数のメニュー項目がハイライトされる状況においても、ユーザがどのメニューを見ているかを特定できる。そして、事象関連電位に基づいて、特定されたメニューに対してユーザがどのメニュー項目の実行を希望しているかを判断できる。これにより、精度の高い識別を実現できる。
図12は、本実施形態による脳波インタフェースシステム2の機能ブロックの構成を示す。図12はまた、識別要否決定装置20の機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。
さらに、図13には本実施形態による脳波インタフェースシステム2がどのように利用されるかを示している。すなわち、図13は、脳波インタフェースシステム2を利用して、大画面テレビに2種類のメニューを提示している例を示す。
理解の容易のために、まず図13に示す表示例を説明する。図13には、TV操作に関するメニューAが提示され、TV以外の機器の操作に関するメニューBが提示されている。そして、メニューAでは「チャンネル選択」がハイライトされ、メニューBでは「照明」がハイライトされている。本例では、ハイライトの切り替えは、メニューAに関しては3Hzで行われ、メニューBに関しては5Hzで行われる。ユーザがメニューAを見ている状況では、相対的に3Hzに近い代表周波数(θe)が観測され、ユーザがメニューBを見ている状況では、相対的に5Hzに近い代表周波数(θe)が観測されることになる。なお、ユーザがいずれのメニューも見ていない場合には、代表周波数(θe)は観測されない。上述のように脳波インタフェースを用いて複数のメニューを提示することにより、複数の機器を簡易にかつ確実に操作できるようになる。
脳波インタフェースシステム2が実施形態1による脳波インタフェースシステム1(図9)と相違する点は、実施形態1の脳波インタフェース部100に代えて複数メニュー提示脳波インタフェース部200を備えたこと、および、識別要否決定装置20(以下「決定装置20」と記述する。)の構成のうち決定部12を識別対象決定部21に変更したことにある。なお、脳波インタフェースシステム2の構成要素のうち、脳波インタフェースシステム1(図9)と同じ構成要素については同じ参照符号を付しその説明を省略する。
複数メニュー提示脳波インタフェース部200(以下「脳波IF部200」と記述する。)は、脳波インタフェース部100の機能を拡張して、複数のメニューを同時に提示し、かつ、各メニューのメニュー項目から機能の実行を可能にしている。
脳波IF部200は、出力部7を介して複数メニューをユーザ5に提示する。たとえば脳波IF部200は、あるメニューには特定の機器の詳細な機能に関するメニュー項目を表示し、その他のメニューには制御可能な複数の機器に関するメニュー項目を表示する。そして、各メニューのメニュー項目ハイライトの切り替え周波数(θs)を異なる値に設定してハイライトを切り替えている。
図13に示す例では、メニューA、メニューBのハイライト周波数をそれぞれθsa、θsbと記述すると、θsaを3Hz、θsbを5Hzとして設定している。メニュー項目ハイライトの周波数(θs)は、ユーザ5がハイライトを認知できる範囲であればよい。また、倍数周波数成分の影響を考慮すると、θsaとθsbは整数倍にならないように設定することが好ましい。また、メニュー項目のハイライトのタイミングは重ならないように設定してもよい。
また、脳波IF部200は、識別実行フラグ群201を保持している。識別実行フラグ群201は、複数の識別実行フラグの集合である。本実施形態においては、識別実行フラグはメニューに対応して設けられているとする。たとえば、識別実行フラグ群201の第1ビットはメニューAに対応し、第2ビットはメニューBに対応する。脳波IF部200は、いずれかのフラグ値に「1」が設定されているときには、得られている事象関連電位を識別対象として採用する。そして、その事象関連電位に基づいて、フラグ値「1」に対応するメニューのどのメニュー項目に示された操作を実行するかを判定し、その項目に対応する動作を実行する。識別実行フラグ群201は、次に説明する識別対象決定部21によって更新される。
識別対象決定部21(以下「決定部21」と記述する)は、脳波IF部200から受け取った切り替え周波数(θsa、θsb)と、代表周波数分析部11から受け取ったユーザ5の脳波周波数パワーが極大となる代表周波数(θe)との比較を行い、ユーザ5がどちらのメニューを見ているかを判定する。
判定は、実施形態1による決定部12と同様に、代表周波数(θe)と、各メニュー項目切り替え周波数(θsa、θsb)との相対量(差または比)を算出して、その相対量に基づいて行えばよい。たとえば、相対量として差を利用する例を挙げると、代表周波数(θe)と切り替え周波数(θsa、θsb)の各々との差を比較し、小さいほうのメニューを見ていたとすればよい。あるいは、閾値を0.2Hzとして、代表周波数(θe)と切り替え周波数(θsa、θsb)の各々との差が閾値以下であったメニューを見ていたとし、それ以外はどちらのメニューも見ていなかったと判定してもよい。
決定部21は、判定結果に応じて、脳波IF部200に設けられた識別実行フラグ群201のうち、ユーザ5が見ていたメニューに対応する識別実行フラグの値を「1」に設定するよう脳波IF部200に指示する。ユーザ5がどちらのメニューも見ていなかった場合には、決定部21は脳波IF部200に対して何の指示もしないか、または、識別実行フラグ群201のすべてのフラグ値を「0」に設定するよう指示する。これにより、確実に識別対象から除外することが可能となり、誤認識を低減できる。
決定部21の判定結果を受けて、脳波IF部200は対応するメニューのメニュー項目ハイライトに関連した事象関連電位の識別を行い、P3成分ありと判定した場合には、対応するメニュー項目の機器動作を実行する。
このようにメニューを同時に複数提示し、それぞれ異なる周波数でメニュー項目をハイライトした場合、ユーザがどちらのメニューを見ていたのかが判定可能となる。それにより、ユーザが見ていたメニューのメニュー項目の中に限定した識別が可能となり、識別の精度が向上し、結果として多くのメニュー項目から短時間でのメニュー項目の選択が可能となる。
次に、図14のフローチャートを参照しながら、脳波インタフェースシステム2において行われる全体的な処理の手順を説明する。
図14は、本実施形態による脳波インタフェースシステム2の処理手順を示す。図14では、複数メニューの例として、図13に示すようなメニューA、メニューBの二種類のメニューを提示する場合の処理手順を示している。また、メニューA、メニューBはそれぞれ数個のメニュー項目で構成されているとする。たとえば図13に示す表示例を参照されたい。脳波インタフェースシステム1(図10)の処理と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
ステップS201において、脳波IF部200はメニューAをユーザ5に提示する。
ステップS202において、脳波IF部200はメニューBをユーザ5に提示する。なお、ステップS201とステップS202は同時であってもよいし、それぞれ別の時刻であってもよいとする。
ステップS203において、脳波IF部200はメニューAまたはメニューBからハイライトするメニュー項目を選択する。どちらのメニューからメニュー項目を選択するかは、それぞれのメニュー項目ハイライトの周波数によって決定された順序に基づく。
ステップS204において、脳波IF部200はステップS203で選択したメニュー項目をハイライトする。メニュー項目をハイライトするタイミングは、それぞれのメニュー項目ハイライトの周波数によって決定される。
ステップS30において、決定装置20はユーザ5がどちらのメニューを見ていたのか、またはどちらのメニューも見ていなかったのかを判定し、分岐する。ステップS30の処理の詳細については、後述する。
ステップS205において、脳波IF部200はステップS104で計測したメニューAのメニュー項目ハイライトを起点とした事象関連電位にP3成分が含まれているか否かを識別する。P3成分の識別は、単純に波形を閾値処理してもよいし、特許文献2に記載のようにあらかじめユーザごとに計測したP3成分の加算平均波形で作成したテンプレートとの相関係数を算出してもよい。ステップS205でYesの場合、ステップS207に進み、Noの場合はステップS203に戻り次のメニュー項目を選択する。
ステップS206において、脳波IF部200はステップS104で計測したメニューBのメニュー項目ハイライトを起点とした事象関連電位にP3成分が含まれているか否かを識別する。P3成分の識別は、ステップS205と同様である。ステップS206でYesの場合、ステップS208に進み、Noの場合はステップS203に戻り次のメニュー項目を選択する。
ステップS207において、脳波IF部200はステップS205によって選択されたメニューAのメニュー項目に対応する処理を実行する。これにより、そのメニュー項目が選択され、実行される。
ステップS208において、脳波IF部200はステップS206によって選択されたメニューBのメニュー項目に対応する処理を実行する。これにより、そのメニュー項目が選択され、実行される。
次に、図15を参照しながらステップS20の詳細な処理を説明する。
図15は、ユーザ5がメニューA、メニューBのどちらを見ていたか、またはどのメニューもみていなかったかを判定する処理の詳細な手順を示す。この処理は、決定装置20を構成する代表周波数分析部11と決定部21によって行われる。図15の処理では、代表周波数(θe)とハイライト切り替え周波数(θsa、θsb)の各々との相対量として、差を利用する例を挙げて説明する。なお、図11に示す処理と同じ処理に関するステップには同一の参照符号を付し、その説明は省略する。
ステップS31において、決定部21は、脳波IF部200から受け取った、メニューAのハイライト切り替え周波数(θsa)およびメニューBのハイライト切り替え周波数(θsb)と、ステップS23において、代表周波数分析部11から受け取ったユーザ5の脳波の周波数パワー極大の代表周波数(θe)との比較を行い、差分ΔaおよびΔbを計算する。
ステップS32において、決定部21は、ステップS31で計算したΔaとΔbの大きさを判定する。Δaの方が小さい場合(ステップS32でYes)には処理はステップS33へ進み、Δbの方が小さい場合(ステップS32でNo)には処理はステップS34へ進む。なお、メニューA、メニューBのどちらかを見ているかの二状態を判定する場合にはΔa、Δbを比較し小さいほうのメニューを見ていたと判定すればよいため、以下のS33からS37の処理は不要である。
ステップS33において、決定部21はΔaが閾値よりも小さいか否かに応じて分岐する。差分が閾値以下の場合には処理はステップS35に進み、閾値以上の場合には処理はステップS36に進む。閾値は、たとえば0.1Hzとしてもよいし、0.2Hz、0.3Hzとしてもよい。
ステップS33において、決定部21はΔbが閾値よりも小さいかどうかを判定し、分岐する。差分が閾値以下の場合はYesとしてステップS37へ、閾値以上の場合はNoとしてS36にそれぞれ進む。閾値はステップS33のように決定してもよい。
ステップS35、ステップS37において、決定部21はそれぞれメニューAを見ていると判定し、メニューBを見ていると判定し、ステップS36において、どちらのメニューも見ていないと判定する。
このような処理によって、ハイライトの切り替え周波数がそれぞれ独立な複数のメニュー項目を同時に提示し、ユーザ脳波の周波数からユーザがどちらのメニューを見ているかの判定を行う。これによって、たとえば複数の機器を操作する場合など、複数のメニュー項目が同時に提示される状況においても精度の高い識別を実現できる。
本実施形態の脳波インタフェースシステム2に決定装置20を設けることにより、脳波インタフェースを利用するユーザ5の脳波の周波数からユーザ5がどのメニューを見ていたかどうかを判定できる。これによって、複数のメニュー項目が同時に提示される状況においてもメニューごとに識別方法の調整が可能となり、多くのメニュー項目から短時間でのメニュー項目の選択が可能となり、使いやすい脳波インタフェースが実現できる。
上述の実施形態においては、決定部12、21は、識別実行フラグを利用して脳波インタフェース部100、200を間接的に制御している。しかし、識別実行フラグを利用せず、フラグ値「0」および「1」に対応する動作を行うよう、決定部12、21が脳波インタフェース部100、200に直接指示してもよい。
(実施形態3)
実施形態1による脳波インタフェースシステム1では、識別方法調整装置10において脳波インタフェースシステム使用時の所定の時間窓におけるユーザの脳波の周波数から、ユーザがメニュー項目を見ていたか否かを判定し、メニュー項目を見ていない場合には識別対象から除外することで、ユーザの意図しない機器動作の減少を実現していた。
しかし、特に時間窓の長さが十分でない場合、代表周波数は背景脳波や眼電・筋電ノイズの影響を受けやすく、たとえばユーザがハイライトを見ていても見ていないと誤判定してしまう可能性がある。実施形態1では代表周波数を絶対的な指標として用いて、識別の要否を「1」か「0」かで決定するため誤判定の場合には正しい識別ができなかった。
そこで、本実施形態による脳波インタフェースシステムでは、代表周波数によりハイライト後のP3成分の識別用パラメータを調整する。これにより、ハイライトを見ていたか否かを誤判定した場合でもハイライト後のP3成分によりユーザの選択意図が検出できる可能性が復活し、より精度の高い識別が実現できる。
図16は、本実施形態による脳波インタフェースシステム3の機能ブロックの構成を示す。図16はまた、識別方法調整装置30の機能ブロックも示している。ユーザ5のブロックは説明のために示されている。
脳波インタフェースシステム3が実施形態1による脳波インタフェースシステム1(図9)と相違する点は、実施形態1の脳波インタフェース部100に代えて、P3識別用パラメータ301に基づきP3成分の識別パラメータが可変な脳波インタフェース部300を設けたこと、および、実施形態1の識別要否決定装置10に代えて、代表周波数に基づきP3成分の識別パラメータを決定する識別方法調整部31を構成要素に持つ識別方法調整装置30を備えたことにある。なお、脳波インタフェースシステム3の構成要素のうち、脳波インタフェースシステム1(図9)と同じ構成要素については同じ参照符号を付しその説明を省略する。
脳波インタフェース部300(以下「脳波IF部300」と記述する。)は、脳波インタフェース部100の機能を拡張したもので内部にP3識別用パラメータ301を持ち、P3識別用パラメータ301に基づいて識別方法を調整してハイライト後のP3成分を識別する。
P3識別用パラメータ301は、ハイライト後のP3成分を識別する際に利用するパラメータ(閾値)である。前述のように(たとえば図3中のステップS105)、P3成分の識別方法は種々あるが、識別パラメータは識別方法に合わせて、たとえば区間平均電位や相関係数に関する閾値としてもよい。
識別方法調整部31は、脳波IF部300から受け取った切り替え周波数(θs)と、代表周波数分析部11から受け取ったユーザ5の脳波周波数パワーが極大となる代表周波数(θe)との相対量(差または比)を算出し、両者が互いに関連しているか否かを判定する。判定方法は図9中の決定部12と同様である。θsとθeが互いに関連していると判断した場合には、識別方法調整部31は何も実行しない。一方両者が互いに関連していないと判断した場合には、識別方法調整部31は、脳波インタフェース部300における識別方法を調整する。
ここで「識別方法を調整する」とは、脳波IF部300が保持するP3識別用パラメータ301(閾値)をP3成分が検出されにくくなる側に変えることをいう。例えば、脳波IF部300において区間平均電位を用いて識別を行う場合には、閾値をプラス方向に変化させる。また、相関係数を用いて識別を行う場合には、閾値を1に近づける方向に変化させる。
変化させるための方法として、たとえば脳波IF部300内に保持されているP3識別用パラメータ301を外部から直接書き換えてもよいし、脳波IF部300に対してP3識別用パラメータ301の変更を指示してもよい。
なお、ここではθsとθeの関連性を「関連性がある」または「関連性がない」の二状態で判断したが、二状態に限らずθsとθeの一致度に応じて閾値を連続的に、または段階的に変化させても良い。
このように代表周波数によってP3成分識別のパラメータを調整することで、ハイライトを見ていたか否かを誤判定した場合でもハイライト後のP3成分によりユーザの選択意図が検出できる可能性が復活し、より精度の高い識別が実現できる。
上述の説明から理解されるように、識別方法調整部31は、実施形態1および2において説明した「決定部12」(図9)および「識別対象メニュー決定部21」(図12)の動作と同様、識別を行うか否かをまず決定している。よって識別方法調整部31は、「決定部12」(図9)および「識別対象メニュー決定部21」のような決定部としての機能を有しつつ、さらに付加的な機能を有しているといえる。
次に、図17のフローチャートを参照しながら、脳波インタフェースシステム3において行われる全体的な処理の手順を説明する。
図17は、本実施形態による脳波インタフェースシステム2の処理手順を示す。図17において、脳波インタフェースシステム1(図10)の処理と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
ステップS301において、識別方法調整部31は脳波IF部300におけるP3識別用パラメータ301をP3成分が検出されにくくなるように調整する。
ステップS302において、脳波IF部300はP3識別用パラメータ301を参照してP3成分検出の閾値を取得し、取得した閾値に基づいてステップS104で計測された事象関連電位にP3成分が出現しているかどうかの識別を実施する。
このような処理によって、ハイライトを見ていたか否かを誤判定した場合でもハイライト後のP3成分によりユーザの選択意図の検出が可能となる。なお、図17では代表周波数を用いてユーザがハイライトを見ていたか否かを二状態で判定したが、二状態に限らずθsとθeの一致度に応じて閾値を連続的に、または段階的に変化させてもよい。
本実施形態の脳波インタフェースシステム3に識別方法調整装置30を設けることにより、代表周波数に基づいてP3成分識別のパラメータの調整が可能となり、代表周波数とP3成分を用いた識別が実現できる。代表周波数とP3成分はどちらもノイズの影響を受ける可能性があるが、両方を用いることでノイズの影響に強い識別が可能となり、結果としてユーザの意図しない機器動作の減少が実現できる。
本発明の識別要否決定装置および識別要否決定装置が組み込まれた脳波インタフェースシステムによれば、視線検出装置等を加えることなく、脳波インタフェースを操作しているユーザの脳波の周波数によって、ユーザがメニューを見ていないことが検出可能になる。これによって、ユーザがメニューを見ていない場合を識別対象から除外することでユーザが意図しない機器動作の減少が実現できる。このような識別要否決定装置の機能は、たとえばコンピュータプログラムによって実現することも可能である。コンピュータプログラムはコンピュータに読み込まれて実行されることにより、上述の機能を発揮できるためシステムの大幅な改変をすることなく、かつ、容易に実装できる。
本発明は、ユーザの脳波を利用してユーザが機器を操作することが可能なインタフェース(脳波インタフェース)システムに関する。より具体的には、本発明は、ユーザの意図を的確に解析するために、脳波インタフェース使用時のユーザの脳波をリアルタイムで計測し、その周波数を用いてユーザがメニュー項目を見ているか否かを判定する技術に関する。
近年、テレビ、携帯電話、PDA(Personal Digital Assistant)等の様々な種類の情報機器が普及し、人間の生活に入り込んできたため、ユーザは普段の生活の中の多くの場面で情報機器を操作する必要が生じている。通常、ユーザは手を使ってボタン等の入力手段(インタフェース部)を介して入力コマンドを入力し、機器の操作を実現している。しかし、たとえば、家事、育児や運転をしているときなど、両手が機器操作以外のタスクで塞がっている状況ではインタフェース部を利用した入力が困難となり、機器操作が実現できなかった。そのため、あらゆる状況で情報機器を操作したいというユーザのニーズが高まっている。
このようなニーズに対して、ユーザの生体信号を利用した入力手段が開発されている。たとえば非特許文献1では、脳波の事象関連電位を用いてユーザが選択したいと思っている選択肢を識別するという脳波インタフェースが開示されている。非特許文献1に記載された技術を具体的に説明すると、選択肢をランダムにハイライトし、選択肢がハイライトされたタイミングを起点に約300ms後に出現する事象関連電位のP3成分を利用して、ユーザが選択したいと思っている選択肢の識別を実現している。この技術によって、ユーザは手を使うことなく、選択したいと思った選択肢を特定可能となる。
ここで「事象関連電位」とは、外的あるいは内的な事象に時間的に関連して生じる脳の一過性の電位変動をいう。脳波インタフェースでは、外的な事象として視覚に対する刺激によって得られる事象関連電位が利用される。たとえば、視覚刺激に対する事象関連電位のうちの、いわゆるP3成分と呼ばれる成分を利用すると、チャンネルの切り替え、視聴を希望する番組のジャンルの選択、音量の調整などの処理を行うことができる。「P3成分」とは、事象関連電位のうちの、聴覚、視覚、体性感覚などの感覚刺激の種類に関係なく標的刺激提示後250msから500msの時間帯に出現する陽性成分をいう。
事象関連電位をインタフェースに応用するためには、対象の事象関連電位(たとえばP3成分)を高い精度で識別することが重要である。そのために、生体信号を精度良く計測すること、および、計測した生体信号を適切な識別手法によって精度良く識別することが必要となる。
識別率が低下する要因は、二種類に分けられる。一つ目の要因は、脳波インタフェースに用いられる脳波成分(P3成分等)は信号対雑音比(S/N比)が低く、識別手法の精度が低いために、精度の高い識別が実現されていないことにある。この要因に対しては、脳波に混入するノイズの除去方法、精度の高い識別方法がそれぞれ開発されつつある。
たとえば、特許文献1では、バンドパスフィルタを用いて、脳波に含まれるノイズのうち、商用電源ノイズ等の識別対象(事象関連電位)の周波数とは異なる周波数で混入するノイズを除去した後で、識別を行い、識別率を向上させる技術が開示されている。また、特許文献2では、単純な周波数フィルタでは除去がしにくい眼電等の生体由来のノイズを除去する技術として、眼電が含まれた試行は識別対象から除外して識別率を向上させる技術が開示されている。
識別率が低下する二つ目の要因は、たとえば被験者の状態によっては被験者の脳波に識別対象となる脳波成分がそもそも出現していないため、識別ができないことにある。この要因に対しては、従来の実験室条件での実験では、外乱を排除した実験室を用意して課題に集中するよう被験者に教示したり、確認ボタンを押下させる等によって被験者の状態を統制することで、定常的に反応を出現させるという手法がとられてきた。
国際公開第2005/001677号パンフレット
特開平10−146323号公報
家庭で通常に用いられる情報機器の操作インタフェースとして脳波を利用する場合には、ユーザが常にメニュー選択の課題に集中しているとは限らない。たとえば、脳波インタフェースの画面が提示されているにもかかわらず、ユーザがそれ以外のことに気を取られてメニューを見ていないという状況が発生し得る。このような状況では、識別対象の脳波成分がそもそも出現しないため、脳波による識別ができないことになる。これはまさに、上述の識別率が低下する二つ目の要因に該当する。
ユーザがメニュー項目を見ていない場合には、ユーザが選択したいと思っているメニュー項目がハイライトされてもP3成分は出現しない。しかし、P3成分に似た波形のノイズが偶然混入した場合にはP3成分の誤識別が発生し得る。脳波の識別率が低下することにより、ユーザの意図しないメニュー項目が選択されてしまい、脳波インタフェースを利用した脳波識別が正確に機能しないことになる。このような不適切な認識は、脳波を日常的に計測し、インタフェースに利用するという状況下では頻繁に発生すると想定される。
上述の問題は、実験室条件の実験下では想定されておらず、家庭で通常に用いられる情報機器に脳波インタフェースを採用して初めて認識されたものである。実験室条件の実験で採用されているような、被験者の状態を統制し、定常的に脳波反応を出現させる環境を全ての一般家庭に設けることは脳波インタフェースを気軽に利用することの妨げとなり、不可能である。よって、脳波の識別率を低下させない他の方法が必要となる。
本発明の目的は、脳波を利用したインタフェースを備えたシステムにおいて、ユーザ脳波の周波数からユーザがメニューを見ていたかどうかを判定し、ユーザがメニューを見ていない場合は識別対象から除外することで、誤識別によるユーザの意図しない機器動作を減少させることである。
本発明による装置は、機器の操作メニューを視覚的に提示する出力部と、ユーザの脳波信号を取得する生体信号計測部と、前記出力部を介して前記操作メニューのメニュー項目を特定の切り替え周波数で提示し、予め保持された前記脳波信号に基づいて前記メニュー項目がハイライトされた後の前記脳波信号に含まれる事象関連電位の成分を識別し、識別された前記事象関連電位に基づいて前記機器を動作させる脳波インタフェース部とを有する脳波インタフェースシステムにおいて、前記脳波インタフェース部において採用される前記脳波信号の識別方法を調整するための装置であって、前記脳波信号の周波数パワーが極大となる周波数を代表周波数として算出する周波数分析部と、前記メニュー項目の切り替え周波数および前記脳波信号の代表周波数の相対量に基づいて、前記代表周波数が前記メニュー項目の切り替えに関連しているか否かを判定し、判定した結果に応じて、前記脳波インタフェース部において採用される前記脳波信号の識別方法を調整するための指示を前記脳波インタフェース部に対して出力する決定部とを備えている。
前記決定部は、前記代表周波数が前記メニュー項目の切り替えに関連していると判定した場合には前記脳波インタフェース部に対して前記脳波信号を識別対象として採用するよう指示し、前記代表周波数が前記メニュー項目の切り替えに関連していないと判定した場合には前記脳波インタフェース部に対して前記脳波信号を識別対象から除外するよう指示してもよい。
前記決定部は、前記メニュー項目の切り替え周波数と前記脳波信号の代表周波数との差、または、前記メニュー項目の切り替え周波数と前記脳波信号の代表周波数との比に基づいて、前記代表周波数が前記メニュー項目の切り替えに関連しているか否かを判定してもよい。
前記周波数分析部は、前記メニュー項目がハイライトされた時刻より所定の秒数前の時刻以降に取得された脳波信号に基づいて、前記代表周波数を算出してもよい。
前記周波数分析部は、前記メニュー項目の切り替え周波数を含む所定の周波数帯域において周波数パワーが最大となる周波数を前記代表周波数として算出してもよい。
前記周波数分析部は、0.5Hz以上の周波数帯域において周波数パワーが最大となる周波数を前記代表周波数として算出してもよい。
前記決定部は、0.5Hzから9Hzの周波数帯域から選択された前記切り替え周波数および前記脳波信号の代表周波数の相対量に基づいて、前記代表周波数が前記メニュー項目の切り替えに関連しているか否かを判定してもよい。
前記決定部は、前記メニュー項目の切り替え周波数と前記脳波信号の代表周波数との差が0.2Hz以上のとき、前記代表周波数は前記メニュー項目の切り替えに関連していないと判定してもよい。
前記決定部が前記脳波インタフェース部に対して前記脳波信号を識別対象から除外するよう指示することにより、前記脳波インタフェース部は前記機器の動作状態を一つ前に戻してもよい。
前記脳波インタフェース部が、複数種類の操作メニューのメニュー項目を、互いに異なる複数種類の切り替え周波数でそれぞれ提示するときにおいて、前記決定部は、前記複数種類の切り替え周波数の各々と前記脳波信号の代表周波数の相対量とに基づいて、前記代表周波数が、いずれかの操作メニューのメニュー項目の切り替えに関連しているか否かを判定してもよい。
前記決定部は、互いに整数倍の関係にならないように設定された前記複数種類の切り替え周波数の各々と前記脳波信号の代表周波数との相対量に基づいて、前記代表周波数が、いずれかの操作メニューのメニュー項目の切り替えに関連しているか否かを判定してもよい。
前記決定部は、前記複数種類の切り替え周波数の各々と前記脳波信号の代表周波数との相対量のうち最も小さい相対量に対応する切り替え周波数を特定し、前記代表周波数が、特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連しているか否かを判定してもよい。
前記決定部は、前記複数種類の切り替え周波数の各々に対応する閾値を保持しており、前記決定部は、前記最も小さい相対量が、特定された前記切り替え周波数に対応する閾値より小さいとき、前記代表周波数が特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連していると判定し、前記最も小さい相対量が、特定された前記切り替え周波数に対応する閾値以上のとき、前記代表周波数が特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連していないと判定してもよい。
前記脳波インタフェース部は、前記メニュー項目がハイライトされた後の前記脳波信号に含まれる事象関連電位にP3成分が含まれているか否かを識別するための閾値を保持しており、前記決定部は、前記代表周波数が前記メニュー項目の切り替えに関連していないと判定した場合には、前記閾値の大きさを、事象関連電位のP3成分が検出されにくくなる側に変化させてもよい。
本発明による方法は、機器の操作メニューを視覚的に提示する出力部と、ユーザの脳波信号を取得する生体信号計測部と、前記操作メニューのメニュー項目を特定の切り替え周波数で前記出力部を介して提示し、予め保持された前記脳波信号に基づいて前記メニュー項目がハイライトされた後の前記脳波信号に含まれる事象関連電位の成分を識別し、識別された前記事象関連電位に基づいて前記機器を動作させる脳波インタフェース部とを有する脳波インタフェースシステムにおいて、前記脳波インタフェース部に前記脳波信号の識別を行わせるか否かを決定するための方法であって、前記脳波信号の周波数パワーが極大となる周波数を代表周波数として算出するステップと、前記メニュー項目の切り替え周波数および前記脳波信号の代表周波数の相対量に基づいて、前記代表周波数が前記メニュー項目の切り替えに関連しているか否かを判定するステップと、関連していると判定した場合には、前記脳波インタフェース部に対して前記脳波信号を識別対象として採用するよう指示するステップと、関連していないと判定した場合には、前記脳波インタフェース部に対して前記脳波信号を識別対象から除外するよう指示するステップとを包含する。
前記脳波インタフェース部が、複数種類の操作メニューのメニュー項目を、互いに異なる複数種類の切り替え周波数でそれぞれ提示するときにおいて、前記判定するステップは、前記複数種類の切り替え周波数の各々と前記脳波信号の代表周波数の相対量とに基づいて、前記代表周波数が、いずれかの操作メニューのメニュー項目の切り替えに関連しているか否かを判定してもよい。
前記判定するステップは、前記複数種類の切り替え周波数の各々と前記脳波信号の代表周波数との相対量のうち最も小さい相対量に対応する切り替え周波数を特定し、前記代表周波数が、特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連しているか否かを判定してもよい。
前記複数種類の切り替え周波数の各々に対応する閾値を用意するステップをさらに包含し、前記決定するステップは、前記最も小さい相対量が、特定された前記切り替え周波数に対応する閾値より小さいとき、前記代表周波数が特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連していると判定し、前記最も小さい相対量が、特定された前記切り替え周波数に対応する閾値以上のとき、前記代表周波数が特定された前記切り替え周波数で提示されるメニュー項目の切り替えに関連していないと判定してもよい。
本発明による他の装置は、機器の操作メニューを視覚的に提示する出力部と、ユーザの脳波信号を取得する生体信号計測部と、前記出力部を介して前記操作メニューのメニュー項目を特定の切り替え周波数で提示し、予め保持された前記脳波信号に基づいて前記メニュー項目がハイライトされた後の前記脳波信号に含まれる事象関連電位の成分を識別し、識別された前記事象関連電位に基づいて前記機器を動作させる脳波インタフェース部とを有する脳波インタフェースシステムにおいて、前記脳波インタフェース部において採用される前記脳波信号の識別方法を調整するための装置であって、前記脳波信号の周波数パワーが極大となる周波数を代表周波数として算出する周波数分析部と、前記メニュー項目の切り替え周波数および前記脳波信号の代表周波数の相対量に基づいて、前記代表周波数が前記メニュー項目の切り替えに関連しているか否かを判定し、関連していると判定した場合には、前記ユーザが前記メニュー項目を見ていると判断し、関連していないと判定した場合には、前記ユーザが前記メニュー項目を見ていないと判断して、判断結果に応じて前記脳波インタフェース部の前記脳波信号の識別方法を調整する決定部とを備えている。
本発明の識別要否決定装置、方法および識別要否決定装置が組み込まれた脳波インタフェースシステムによれば、ユーザ脳波の周波数パワーが極大の代表周波数(θe)とメニュー項目ハイライトの切り替え周波数(θs)とが異なっていた場合に、ユーザがメニューを見てないと判定し、識別対象から除外するという方法で識別方法を調整する。これにより、脳波を日常的に計測するインタフェースにおいて問題となる、メニュー項目の見落としによる誤識別がなくなるため、識別率が高く維持できる。よって、脳波の識別ミスによるユーザの意図しない機器動作が減少するため脳波インタフェースの操作性向上を実現できる。
脳波インタフェースシステム1の構成および利用環境を示す図である。
脳波インタフェースシステム1においてTV2を操作し、ユーザ5が視聴したいジャンルの番組を見るときの例を示す図である。
本発明による脳波インタフェースの第1の通常処理手順の例(処理手順A)を示すフローチャートである。
本発明による脳波インタフェースの第2の通常処理手順の例(処理手順B)を示すフローチャートである。
実験の手順を示す図であり、(a)は機器の処理手順を示すフローチャートであり、(b)は被験者の動作手順を示すフローチャートである。
(a)は実際に被験者に提示されたメニューおよび選択指示の表示画面を示す図であり、(b)はハイライトされたメニュー項目の表示例を示す図である。
実験結果の一例を示すグラフである。
(a)はメニュー項目が350msごとに切り替えてハイライトされているとき(条件A)の脳波の周波数パワーを示す図であり、(b)はステップS51で選択指示刺激が提示されているとき(条件B)の脳波の周波数パワーを示す図である。
本発明の実施形態1による脳波インタフェースシステム1の機能ブロックの構成を示す図である。
実施形態1による脳波インタフェースシステム1の処理手順を示すフローチャートである。
ユーザ5がメニュー項目を見ていたか否かを判定する処理の詳細な手順を示すフローチャートである。
本発明の実施形態2による脳波インタフェースシステム2の機能ブロックの構成を示す図である。
脳波インタフェースシステム2を利用して、大画面テレビに2種類のメニューを提示している例を示す図である。
実施形態2による脳波インタフェースシステム2の処理手順を示すフローチャートである。
ユーザ5がメニューA、メニューBのどちらを見ていたか、またはどのメニューもみていなかったかを判定する処理の詳細な手順を示すフローチャートである。
実施形態3による脳波インタフェースシステム3の機能ブロックの構成を示す図である。
実施形態3による脳波インタフェースシステム3の処理手順を示すフローチャートである。
以下、添付の図面を参照しながら、本発明による脳波インタフェースシステムおよび脳波インタフェースシステムに組み込まれる識別要否決定装置の実施形態を説明する。
以下では、まず脳波インタフェースシステムを説明し、その後識別要否決定装置の構成および動作を説明する。
図1は、脳波インタフェースシステム1の構成および利用環境を示す。この脳波インタフェースシステム1は後述する実施形態1のシステム構成に対応させて例示している。
脳波インタフェースシステム1は、ユーザ5の脳波信号を利用してTV2を操作するインタフェースを提供するためのシステムである。ユーザ5の脳波信号はユーザが頭部に装着した生体信号計測部50によって取得され、無線または有線で脳波インタフェース部100に送信される。TV2に内蔵された脳波インタフェース部100は、脳波の一部を構成する事象関連電位と呼ばれる成分を利用してユーザの意図を認識し、チャンネルの切り替えなどの処理を行う。
図2は、脳波インタフェースシステム1においてTV2を操作し、ユーザ5が視聴したいジャンルの番組を見るときの例を示す。
図2(a)は、脳波インタフェース部100がTV2の画面7aを介してユーザに提示するメニューの例である。図2(a)では、画面7a−1から画面7a−4において、それぞれ「野球」、「天気予報」、「アニメ」、「ニュース」というメニュー項目が順にまたはランダムにハイライトされる様子を示している。
本明細書においては、図2(a)に示す機器操作に関する選択肢群を包括して「メニュー」と定義し、メニューを構成する各選択肢を「メニュー項目」と定義する。また、メニュー項目のハイライトが切り替えられる頻度を、「切り替わり周波数(θs)」と定義する。たとえば、ハイライトが1秒間に2回切り替えられる場合には、切り替わり周波数(θs)は2Hzである(周期は500msである)。以下の説明では、切り替わり周波数(θs)は2.86Hz、周期は350msであるとして説明する。
メニュー項目をハイライトすることによって、それぞれのメニュー項目がハイライトされた時刻を起点とした事象関連電位が計測可能となる。なお、ハイライトの代わりに、またはハイライトと共に補助的矢印を用いたポインタでメニュー項目を提示してもよい。図2(a)には、ハイライトと共にポインタでメニュー項目が提示される例を示している。
図2(b)は、メニュー項目がハイライトされた時刻を起点に計測したユーザの脳波信号の事象関連電位を模式的に示す。今、ユーザは「天気予報」を見たいと考えていたとする。画面7a−1から画面7a−4までのそれぞれに対応する脳波信号201〜204のうち、ユーザ5が「天気予報」がハイライトされた画面7a−2を見ると、「天気予報」がハイライトされた時刻を起点に潜時約400−450msに特徴的な陽性の成分(P3成分)が出現する(非特許文献1)。
脳波インタフェース部100がこのP3成分の出現を識別すると、ユーザが選択したいと考えていたメニュー項目「天気予報」の選択が可能となる。図2(c)では、P3成分を識別した結果、チャンネルが「天気予報」に切り替えられた後の画面7a−5を示している。
図3は、本発明による脳波インタフェースの第1の通常処理手順の例(処理手順A)を示す。
ステップS101において、脳波インタフェース部100はたとえば4つのメニュー項目を含んだメニュー(図2(a)の左側)と、問いかけの文章(図2(a)の右側)を提示する。ステップS102において、脳波インタフェース部100はメニュー項目の一つを選択する。ステップS103において、ステップS102によって選択されたメニュー項目をハイライトする。
ステップS104において、脳波インタフェース部100は、ステップS103においてメニュー項目がハイライトされた時刻を起点に、たとえば500ms分のユーザの事象関連電位を計測する。事象関連電位として切り出す区間は、300−500msに出現するP3成分が含まれれば、たとえば800ms、1000msであってもよい。ここでは、図2(b)に模式的に示す脳波信号の事象関連電位201〜204が計測される。
ステップS105において、ステップS104で計測した事象関連電位にP3成分が含まれているか否かを識別する。P3成分の識別は、単純に波形の最大振幅または波形のある区間の平均電位があらかじめ設定した閾値よりも大きいかどうかを判定してもよいし、特許文献2に記載のようにあらかじめユーザごとに計測したP3成分の加算平均波形で作成したテンプレートとの相関係数を算出してもよい。なお、閾値は、ユーザごとに決定してもよい。ステップS105でYesの場合、ステップS106に進み、Noの場合はステップS102に戻り次のメニュー項目を選択する。
ステップS106において、脳波インタフェース部100はステップS105によって選択されたメニュー項目に対応する処理を実行する。これにより、そのメニュー項目が選択され、実行されて、図2(c)に示す画面7a−5が表示される。たとえば、図2の例で言えば、天気予報が選択され、天気予報の番組が提示されている。
このような脳波インタフェースシステム1によれば、たとえば家事や育児で両手が塞がっている場合にもユーザは手を使わずにTV2等の機器を操作することが可能となる。よって機器の操作性が格段に向上する。
ただし、脳波をインタフェースとして用いる場合、ユーザが常にメニューを見ているとは限らない。たとえば、家事や育児など脳波インタフェースを用いた機器の操作とは別の作業を平行して行っているときには、インタフェースが画面を常に注視することは難しい。また、前述のように、メニュー項目がハイライトされたタイミングにおいて、ユーザがメニューを見ていない場合には、ステップS103においてP3成分は計測されない。そのような状況下で、ステップS104において取得した事象関連電位にノイズ(たとえば眼電)が混入しP3成分に似た波形を示した場合には、ステップS105においてP3成分ありと判定され、ステップS106においてユーザが意図していないメニュー項目の選択が実行される可能性があるため、より識別精度が高い処理を行うことが好ましい。
異なる識別方法として、たとえばそれぞれのメニュー項目がハイライトされた後の事象関連電位を比較し、最もP3成分が出現した可能性の高いものを選択するという処理の手順(処理手順B)を用いることも可能である。処理手順Bを用いた場合には、事象関連電位の比較によってP3成分と近いものの選択が可能であるため、多少のノイズが混入しても機器動作が実現できる。
図4は、本発明による脳波インタフェースの第2の通常処理手順の例(処理手順B)を示す。なお、図3に示す脳波インタフェースの処理手順Aと同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
ステップS107において、全ての選択項目が少なくとも一度はハイライトされたかどうかにより分岐する。ステップS107でYesの場合、ステップS108に進み、Noの場合はステップS102に戻り次のメニュー項目を選択する。
ステップS108において、ステップS104で取得したメニュー項目ごとの事象関連電位にP3成分が含まれる可能性を計算し、項目ごとに比較をして一番近いメニュー項目をP3成分ありと識別する。項目ごとの事象関連電位にP3成分が含まれる可能性は、図3中のステップS104のように、単純に波形の最大振幅値として最大振幅が最大のものを選んでもよいし、ある区間の平均電位の大きさを求め平均電位が最大のものを選んでもよい。また、テンプレートとの相関係数の値が大きいものを選んでもよい。ステップS108でYesの場合、ステップS106に進み、Noの場合はステップS102に戻り次のメニュー項目を選択する。
このように、メニュー項目ごとの事象関連電位を比較し、最もP3成分が出現した可能性の高い選択項目を選ぶことで、多少のノイズが混入しても識別が可能な識別方法が実現されるが、処理手順Bを用いた場合も同様に、ユーザがメニューを見ていない場合にも、P3が含まれていそうないずれかのメニュー項目が選択されてしまう。よって、やはり、ユーザの意図しないメニュー項目の選択が実行される可能性があるため、より識別精度が高い処理を行うことが好ましい。
ユーザが意図しないメニュー項目の選択は、いずれもユーザがメニューを見ていたかどうかを機器側が判定できないために発生する。メニューを見ていたか否かの判定が可能であれば、見ていない場合には識別対象から除外するなど識別方法の調整によって、これらの意図しない機器動作をなくすことができる。
本願発明者らは、脳波インタフェースを利用するユーザの脳波の周波数を分析することで、ユーザがメニューを見ているかどうかの判定が可能であることを発見した。これにより、視線検出装置等を新たに加えることなく、ユーザがメニューを見ていなかったことの検出が実現できる。以下、図5から図7を参照しながら本願発明者らが実施した実験および実験結果について説明する。
図5は、実験のフローを示す図である。図5の(a)は実験中の機器側のフローとして刺激および事象関連電位計測の手順を示した図で、図5の(b)は実験中に被験者が実施する課題の手順を示した図である。図5の(a)および(b)のフローは、並行して行われる。図5の(a)に従った機器の動作を受けて、被験者は図5の(b)に従った動作を行う。そして、その結果発生する事象関連電位を図5の(a)に従って機器が計測する。
まず、図5の(a)について説明する。
ステップS50において、機器は被験者の脳波計測を開始する。
ステップS51において、機器は、4つのメニュー項目と被験者がどのメニュー項目を選択するかの選択指示を提示する。図6(a)は、実際に被験者に提示されたメニューおよび選択指示の表示画面を示す。本願発明者らの実験では、図6(a)の表示を4秒間提示した。以下、選択指示が出された選択項目を「ターゲット」と呼ぶ。
なお、この提示を受けて被験者が動作を開始する。図5(a)のステップS51から図5(b)のステップS61へ向かう矢印は、ステップS51の機器動作に対応する、被験者の動作の開始タイミングを示している。
ステップS52において、機器はメニュー項目をランダムに選択する。
ステップS53において、ステップS52で選択されたメニュー項目を350ms間ハイライトする。すなわち、メニュー項目のハイライトは切り替え周波数θs=2.86Hzで切り替えられる。図6(b)は、ハイライトされたメニュー項目の表示例を示す。機器は、メニュー項目をハイライトした総回数nをカウントし、保持する。
ステップS54において、機器は、ステップS53でメニュー項目がハイライトされた時刻を基準として所定区間の脳波を切り出し、事象関連電位を取得する。本実験では、ハイライト前100msからハイライト後1000msまでの区間の事象関連電位を切り出した。
ステップS55において、機器は、メニュー項目のハイライト回数nが40回以下か40回より多いかを判定する。ハイライト回数nが40回以下の場合には機器はステップS52の処理に戻り、メニュー項目のハイライトを繰り返す。一方、ハイライト回数nが40回より多くなると、機器は処理を終了する。
上述の処理により、統計的にメニュー項目ごとに10回前後ずつハイライトが実行される。なお、この処理回数は、実験的に事象関連電位を繰り返し加算平均して、成分の出現を確認するために必要であるとして設定されたものである。実際に脳波インタフェースシステムとして実装される場合には、必ずしもこのような処理回数を設ける必要はない。
前述のステップS50からステップS55によって、350msごとにハイライトされるメニュー項目が切り替わる条件下で、機器は、各メニュー項目が10回程度ずつハイライトされたときのハイライトを起点とした被験者の事象関連電位を40試行取得できる。
次に、図5(b)について説明する。
ステップS61において、被験者は、図5(a)のステップS51によって提示されたメニューおよび選択指示を見る。被験者は選択指示を見て、ターゲットを確認する。これは、実際に脳波インタフェースを用いる場合にユーザが実現したいと思う機器動作にあたる。
ステップS62において、被験者はメニューを注視し、図5(a)のステップS52からS55によって提示されるメニュー項目ハイライトを見て、選択対象のメニュー項目がハイライトされることを待つ。
ステップS63において、被験者は、ステップS61でターゲットがハイライトされたかどうかを判断する。ターゲットがハイライトされたと判断すると、ステップS64へ進み、ハイライトされていないと判断するとステップS62に戻る。
ステップS64において、被験者は、ターゲットがハイライトされた回数をメンタルカウントするステップである。メンタルカウントとは、心の中で数をカウントすることである。
ステップS65において、被験者は、ハイライトの切り替わりが終了したか否かを判断し、機器によるメニュー項目の切り替わり処理が終了したときは実験を終了し、メニュー項目の切り替わり処理が継続されているときはステップS62からの動作を再開する。
なお、脳波は頭皮上Fz、Cz、Pz(国際10−20法)の3部位から耳朶を基準に計測した。また、視覚刺激は被験者の目前1mの19インチLCDディスプレイに提示した。
図7は、実験結果の一例を示すグラフである。このグラフは、電極位置Pzで計測した事象関連電位の加算平均波形を示す。実線の波形aは、ターゲットが0msにおいてハイライトされた後に得られた事象関連電位の加算平均波形を示す。一方、点線の波形bはターゲット以外の項目がハイライトされた後の事象関連電位の加算平均波形を示す。なおグラフの横軸は時間(単位:ms)、縦軸は電位(単位:μV)である。メニュー項目は、350msごとに切り替えられている。
ターゲットに関連する図7の実線の波形aに示すように、ターゲットのハイライト後300から400msに陽性成分が出現している。これは、一般的なP3成分であり、非特許文献1の結果と一致すると考えられる。
さらに本願発明者らは、図7の実線、点線には共通して周期的な特徴が存在すること、具体的には、両方の波形には約350ms間隔で陰性の極値が現れているという特徴が存在することを見出した。そしてその特徴に着目し、脳波の周波数解析を実施した。
図8(a)は、メニュー項目が350msごとに切り替えてハイライトされているとき(条件A)の脳波の周波数パワーを示し、図8(b)は、ステップS51で選択指示刺激が提示されているとき(条件B)の脳波の周波数パワーを示す。いずれも横軸が周波数(単位:Hz)、縦軸が周波数パワー(単位:μV・μV/Hz)である。
図8(a)から明らかなように、条件Aでは周波数パワーに特徴的なピークが存在することが理解される。このピークに対応する周波数(θe)は2.74Hzであった。上述のように、条件Aに対応するメニュー項目の切り替え周波数(θs)は2.86Hzであり、脳波の周波数パワーが極大となった周波数とほぼ一致する。一方、図8(b)によれば、条件Bでは周波数パワーには特徴的なピークは存在しない。
これらを総合すると、メニュー項目ハイライトの切り替え周波数(θs)が脳波の周波数に影響を与えたため、事象関連電位に周期的な変化が発生したと考えられる。したがって、脳波の周波数パワーが極大となる周波数(θe)を算出することにより、ユーザがメニューを見ていたか否かを判定可能である。
なお、同じ位置で点滅する視覚刺激を提示すると、SSVEPと呼ばれる成分が視覚刺激の点滅と同期して脳波に現れることが知られている(Xiaorong Gao他、A BCI−Based Environmental Controller for the Motion−Disabled、IEEE Transactions on Neural Systems and Rehabilitation Engineering、2003)。
しかしながら、本願発明者らは、本願発明者らの実験によって得られた結果はSSVEPとは異なっていると考える。その理由は、今回の実験における視覚刺激はハイライトの切り替えであり、同じ位置で点滅するものではないためである。さらに他の理由としては、今回の実験では被験者は対象のメニュー項目(ターゲット)がハイライトされるのを待っている状態であり、SSVEPの実験のような点滅する刺激を見ているだけの状態とは異なっているためである。すなわち、本願発明者らの実験とSSVEPの実験とは設定が異なっている。
続いて、本発明の実施形態にかかる識別要否決定装置を詳細に説明する。識別要否決定装置は、脳波インタフェース使用時のユーザ脳波の周波数パワーが極大となる周波数を、代表周波数(θe)として算出する。そして、代表周波数(θe)とメニュー項目の切り替え周波数との相対量に基づいて、代表周波数(θe)がメニュー項目の切り替えに関連しているか否かを判定する。「相対量に基づいて」とは、たとえば周波数(θe)とメニュー項目の切り替え周波数との差、または、周波数(θe)とメニュー項目の切り替え周波数との比が、閾値以下か閾値よりも大きいかによって、という意味である。
閾値以下であれば、代表周波数(θe)とメニュー項目の切り替え周波数とが関連している、すなわちユーザがメニューを見ていたと判定する。その結果、脳波信号が脳波インタフェースにおける識別対象として採用される。
一方、閾値よりも大きいときは、代表周波数(θe)とメニュー項目の切り替え周波数とは関連がなく、ユーザがメニューを見ていなかったと判定する。その結果、脳波信号が脳波インタフェースにおける識別対象から除外される。これにより、ユーザが意図しない機器動作を減らすことが可能となる。
(実施形態1)
図9は、本実施形態による脳波インタフェースシステム1の機能ブロックの構成を示す。脳波インタフェースシステム1は、出力部7と、識別要否決定装置10と、生体信号計測部50と、脳波インタフェース(IF)部100とを有している。図9はまた、識別要否決定装置10(以下「決定装置10」と記述する)の機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。なお、出力部7は、ユーザ5にメニュー等を提示する画面を示す。
ユーザ5は、脳波インタフェース部100によって出力部7に提示される機器操作に関するメニュー項目がハイライトされるかどうかに注意して見ているだけで操作入力はしないが、脳波インタフェース部100を介して選択されたメニュー項目に応じて機器が動作するものとする。
決定装置10は、有線または無線で生体信号計測部50および脳波インタフェース部100と接続され、信号の送信および受信を行う。図9においては、生体信号計測部50および脳波インタフェース部100は決定装置10とは別体であるが、これは例である。生体信号計測部50および脳波インタフェース部の一部または全部を、決定装置10内に設けてもよい。
生体信号計測部50は、ユーザ5の生体信号を検出する脳波計であり、生体信号として脳波を計測する。脳波計は図1に示すようなヘッドマウント式脳波計であってもよい。ユーザ5はあらかじめ脳波計を装着しているものとする。
ユーザ5の頭部に装着されたとき、その頭部の所定の位置に接触するよう、生体信号計測部50には電極が配置されている。電極の配置は、たとえばPz(正中頭頂)、A1(耳朶)およびユーザ5の鼻根部になる。ただし、電極は最低2個あればよく、たとえばPzとA1のみでも電位計測は可能である。この電極位置は、信号測定の信頼性および装着の容易さ等から決定される。
この結果、生体信号計測部50はユーザ5の事象関連電位を測定することができる。測定されたユーザ5の脳波は、コンピュータで処理できるようにサンプリングされ、脳波インタフェース部100および決定装置10に送られる。なお、脳波に混入するノイズの影響を低減するため、生体信号計測部50においては計測される脳波は、あらかじめたとえば0.05から20Hzのバンドパスフィルタ処理がされ、メニュー項目ハイライト前のたとえば100msの平均電位でベースライン補正されているものとする。
脳波インタフェース部100は、機器操作に関するメニュー項目をユーザに提示し、生体信号計測部50で計測された脳波を切り出して識別する。そして識別結果に応じて機器動作を制御する。脳波インタフェース部100における基本的な動作は前述の通りである。
脳波インタフェース部100を利用して制御する機器が、たとえば図1に示すTV2であるとすると、メニューは出力部7を介してユーザ5に提示される。図2(a)に示したようにメニュー項目は、所定の切り替え周期でθs(たとえば2.86Hz)に一つずつハイライトされる。θsは2Hz、3Hz、5Hzであってもよい。
脳波インタフェース部100は、識別実行フラグ101を保持している。
識別実行フラグ101は、生体信号計測部50で計測されたユーザ5の脳波に含まれる事象関連電位の特徴を識別するか否かを決定するために参照される。たとえば、識別実行フラグ101が「1」のときは、脳波インタフェース部100は得られている事象関連電位を識別対象として採用する。一方、識別実行フラグ101が「0」のときは、脳波インタフェース部100は得られている事象関連電位を識別対象から除外する。識別実行フラグ101は後述する方法によって決定装置10からの指示によって設定される。なお、「0」および「1」の各値に対応する動作は例であり、他の例を採用してもよい。
識別実行フラグ101が「1」に設定されているとき、脳波インタフェース部100は、メニュー項目がハイライトされた時刻を起点に、生体信号計測部50で計測されたユーザ5の脳波をたとえばP3成分のピーク潜時よりも長い500ms分を切り出し、波形を識別する。脳波を切り出す時間は波形のピークからの戻りの部分も考慮して1000ms分であってもよい。事象関連電位を識別する方法は、単純に波形を閾値処理してもよいし、特許文献2に記載のようにあらかじめユーザごとに計測したP3成分の加算平均波形で作成したテンプレートとの相関係数を算出してもよい。
次に、本実施形態による決定装置10の詳細な構成を説明する。本発明の主要な特徴のひとつは、決定装置10の構成および動作にある。
決定装置10は、代表周波数分析部11と、決定部12とを有している。
代表周波数分析部11は、周波数パワーが特徴的なピークをもつ周波数(代表周波数(θe))を算出し、決定部12に送る。以下、代表周波数(θe)の算出方法を具体的に説明する。
まず、代表周波数分析部11は、生体信号計測部50で計測されたユーザ5の脳波の周波数パワーを、たとえば高速フーリエ変換(Fast Fourier Transform;FFT)によって算出する。代表周波数分析部11は、脳波インタフェース部100がメニュー項目をハイライトするタイミングを基準として、たとえば前後1秒程度の脳波を切り出して周波数パワーを算出してもよい。なお、脳波を切り出す時間窓の長さは、ハイライトの切り替え周波数に応じて変えてもよい。周波数解析の精度を向上させるために、2回以上のハイライトが発生するように時間窓の長さを設定してもよい。
次に、代表周波数分析部11は、算出した周波数パワーのうち、周波数パワーの極大値から代表周波数(θe)を求める。
周波数パワーの極大値を求める範囲は、たとえば直流成分とアルファー波等の自発脳波の影響の少ない範囲(1Hz〜8Hzの周波数帯域、またはより広い0.5Hz〜9Hzの周波数帯域)とすればよい。または、脳波インタフェース部100からメニュー項目ハイライトの切り替え周波数を取得し、その周波数の周辺の周波数パワーから求めてもよい。図8(a)には、メニュー項目ハイライトの切り替え周波数の周辺±0.2Hzの周波数帯域Aと、0.5Hz〜9Hzの周波数帯域Bとが示されている。
周波数パワーの極大値として、たとえば上記範囲のすべての極大値の中で最大となるものを選択すればよい。さらに、周波数パワーに閾値(たとえば周波数パワーが4000(μV・μV/Hz))を設け、その閾値以上であることを条件として課してもよい。代表周波数分析部11は、特徴的なピークを周波数パワーの極大値として特定することができため、その極大値に対応する周波数を代表周波数(θe)として採用することができる。
なお、周波数パワーの極大値が0.5Hz〜9Hzの周波数帯域から決定されるということは、メニュー項目ハイライトの切り替え周波数(θs)が0.5Hz〜9Hzから選択され得ること、すなわち切り替え周波数(θs)が可変であることを意味する。0.5Hzは切り替えが非常に遅く、一方9Hzは切り替えが非常に早い。ユーザ5の性別、年齢、習熟度などによっては、メニュー項目ハイライトの切り替えが遅くなければ実用的な利用ができない場合もあるし、早くしても十分対応できる場合がある。そこで、メニュー項目ハイライトの切り替え周波数(θs)を0.5Hz〜9Hzの周波数帯域から選択可能とし、同時に周波数パワーの極大値もまた、0.5Hz〜9Hzの周波数帯域から決定することとした。
なお、脳波IF部100がメニュー項目のハイライトを2回程度行えば、メニュー項目ハイライトの周期が確定するため、周波数パワーの極大値に有意な差が現れる。
決定部12は、代表周波数分析部11から受け取った代表周波数(θe)と、脳波インタフェース部100から受け取ったメニュー項目切り替え周波数(θs)との相対量(差または比)を算出し、両者が互いに関連しているか否かを判定する。互いに関連しているか否かの判定は、サンプリング周波数、周波数分析の時間窓によって決定される周波数分析精度に基づき、たとえばθsとθeとの差は0.2Hz以内か否か、または、θsとθeとの比は0.93以上1.07以下の範囲内か否か、によって決定すればよい。以下では差を利用して判定するとして説明する。なお、閾値は固定値ではなく可変であってもよい。
両者が互いに関連していると判断した場合には、決定部12は何も実行しない。一方、両者が互いに関連していないと判断した場合には、決定部12は、脳波インタフェース部100における脳波識別方法を調整する。ユーザ5はメニューを見ていないと判断できるためである。
脳波識別方法の調整とは、たとえば脳波インタフェース部100が保持する識別実行フラグ101を、識別対象から除外することを示す値「0」に設定するよう指示することをいう。なお、上述の説明では、両者が互いに関連していると判断した場合には決定部12は何も実行しないとして説明したが、たとえば、識別実行フラグ101を「1」に設定するよう指示し、識別対象として採用させてもよい。
このように構成することで、ユーザ5がメニュー項目のハイライトを見ていたかどうかを、脳波の周波数(θe)を指標に判定できるため、ユーザ5がメニューを見ていない場合の試行を識別対象から除外するという識別方法の調整が可能となる。これにより、ユーザ5が意図しない機器動作を減少し、ユーザ5にとって使いやすい脳波インタフェースが実現できる。
次に、図10のフローチャートを参照しながら、図9の脳波インタフェースシステム1において行われる全体的な処理手順を説明する。
図10は、本実施形態による脳波インタフェースシステム1の処理手順を示す。この脳波インタフェースシステム1には、ユーザ5がメニューを見ているかどうかの判定を行い、メニューを見ていない場合を識別対象から除外するという機能が設けられている。
なお、図10に示すステップS101からステップS106は、図3に示す脳波インタフェースの処理手順と同じである。よって、以下ではそれらの説明は省略する。
図3の脳波インタフェースの処理手順との差異は、ユーザ5がメニュー項目のハイライトを見ていたかどうかを判定するステップS20を設けたことにある。
ステップS20において、決定装置10は、生体信号計測部50で計測したユーザ5の脳波の周波数からユーザ5がメニュー項目のハイライトを見ていたか否かを判定する。具体的な処理は、図11を参照しながら後述する。
決定装置10によってユーザ5がメニューを見ていたと判定されると(ステップS20でYes)、処理はステップS105に進む。ステップS105において、脳波IF部100は、ステップS104で計測された事象関連電位にP3成分が出現しているかどうかの識別を実施する。
一方、決定装置10によってユーザ5がメニューを見ていなかったと判定されると(ステップS20でNo)、脳波IF部100は事象関連電位の識別処理は行わずに、ステップS102の処理に戻る。そして、脳波IF部100は次のメニュー項目ハイライトに向けてハイライトする項目を選択する。
次に、図11を参照しながら、ステップS20の詳細な処理を説明する。
図11は、ユーザ5がメニュー項目を見ていたか否かを判定する処理の詳細な手順を示す。この処理は、決定装置10を構成する代表周波数分析部11と決定部12によって行われる。
ステップS21において、代表周波数分析部11は生体信号計測部50で計測されたユーザ5の脳波を切り出す。脳波を切り出すタイミングは、たとえば脳波インタフェース部100がメニューを提示した時刻としてもよいし、たとえば1秒ごとのように代表周波数分析部11で独自に決定してもよい。また、脳波を切り出す区間は、たとえば1秒分であってもよいし、2秒分、3秒分、5秒分であってもよい。
ステップS22において、代表周波数分析部はステップS21で切り出したユーザ5の脳波の周波数パワーを高速フーリエ変換FFTによって計算する。
ステップS23において、代表周波数分析部11はステップS22で計算した周波数パワーが極大となる周波数を代表周波数(θe)として算出し、決定部12に送る。
ステップS24において、決定部12は脳波インタフェース部100からメニュー項目ハイライトの切り替え周波数(θs)を受け取り、θeとθsとの差分を算出する。
ステップS25において、決定部12はθsとθeとの差を計算し、その差が閾値よりも小さいか否かを判定する。差が閾値より小さい場合はステップS26に進み、閾値以上の場合はステップS27に進む。
ステップS26において、決定部12はユーザ5がメニューを見ていたと判定し、脳波IF部100に対して何も行わない。または、決定部12は、脳波IF部100が保持する識別実行フラグ101を「1」に設定するよう脳波IF部100に指示してもよい。
一方、ステップS27おいて、決定部12はユーザ5がメニューを見ていないと判定し、脳波IF部100に対して識別実行フラグ101を「0」に設定するよう指示する。
このような処理によって、識別率を低下させる原因となるユーザがメニューを見ていないときの識別処理の実行を除外でき、ユーザの意図しない機器動作の減少が実現できる。
なお、本実施形態ではユーザがメニューを見ていないときは、その脳波信号を識別対象から除外した。しかし、ユーザがメニューを見ていない場合に、動作状態を1つまたはそれ以上前に戻すよう機器を動作させることも可能である。その場合には、ユーザがメニューから視線を外しただけでユーザの意図しない機器動作をキャンセルできるため、脳波インタフェースの操作性が格段に向上する。また、「戻る」というメニュー項目を設定する必要がなくなり、それに代えて他のメニュー項目を設定できる。さらに他には、ユーザがメニュー項目を見ていない場合に映像または音声でアラートを提示するなど、メニューを見ていないことを検出可能とすることによって様々な機器動作が可能となる。
本実施形態の脳波インタフェースシステム1に決定装置10を設けることにより、脳波インタフェースを利用するユーザ5の脳波の周波数からユーザ5がメニュー項目のハイライトを見ていたかどうかが判定できる。これによって、メニューを見ていない場合には識別対象から除外するという識別方法の調整が可能となり、ユーザの意図しない機器動作の減少が実現できるため、使いやすいインタフェースを実現できる。
(実施形態2)
実施形態1による脳波インタフェースシステム1では、脳波インタフェース部100が提示する一種類のメニュー(メニュー項目は複数)に対して、脳波インタフェースシステム使用時のユーザ脳波の周波数の特徴から、ユーザがメニュー項目を見ているかどうかを判定し、メニュー項目を見ていない場合には識別対象から除外することで、ユーザの意図しない機器動作の減少を実現していた。
上述の脳波インタフェースでは、メニュー項目をランダムにハイライトするため選択したいメニュー項目がハイライトされるまでの時間はメニュー項目の数に比例して増える。そのため、操作性を考慮すると提示するメニュー項目の数を制限せざるを得なかった。
そこで、たとえば近年普及が進んでいる大画面テレビのような、映像表示可能領域が大きい表示装置を利用することが可能な状況では、複数のメニューを異なる位置に同時に提示することにより、多くのメニュー項目から短時間でのメニュー項目の選択が可能となる。
複数のメニューを1画面上に同時に提示すると、それぞれのメニューでメニュー項目がハイライトされるため、結果として同じ時刻に複数のメニュー項目がハイライトされることになる。よって、まずユーザがどのメニューを見ているかを特定した上で、ユーザが意図する機器動作を一意に決定する必要がある。
本実施形態による脳波インタフェースシステムでは、複数のメニューの各々に対してメニュー項目のハイライトの切り替え周波数を独立して設定し、それぞれの複数のメニュー項目のハイライトを切り替える。そして、ユーザ脳波の周波数の特徴に基づいて、ユーザがどちらのメニューを見ているかの判定を行う。これにより、複数のメニューが同時に提示され、同じ時刻に複数のメニュー項目がハイライトされる状況においても、ユーザがどのメニューを見ているかを特定できる。そして、事象関連電位に基づいて、特定されたメニューに対してユーザがどのメニュー項目の実行を希望しているかを判断できる。これにより、精度の高い識別を実現できる。
図12は、本実施形態による脳波インタフェースシステム2の機能ブロックの構成を示す。図12はまた、識別要否決定装置20の機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。
さらに、図13には本実施形態による脳波インタフェースシステム2がどのように利用されるかを示している。すなわち、図13は、脳波インタフェースシステム2を利用して、大画面テレビに2種類のメニューを提示している例を示す。
理解の容易のために、まず図13に示す表示例を説明する。図13には、TV操作に関するメニューAが提示され、TV以外の機器の操作に関するメニューBが提示されている。そして、メニューAでは「チャンネル選択」がハイライトされ、メニューBでは「照明」がハイライトされている。本例では、ハイライトの切り替えは、メニューAに関しては3Hzで行われ、メニューBに関しては5Hzで行われる。ユーザがメニューAを見ている状況では、相対的に3Hzに近い代表周波数(θe)が観測され、ユーザがメニューBを見ている状況では、相対的に5Hzに近い代表周波数(θe)が観測されることになる。なお、ユーザがいずれのメニューも見ていない場合には、代表周波数(θe)は観測されない。上述のように脳波インタフェースを用いて複数のメニューを提示することにより、複数の機器を簡易にかつ確実に操作できるようになる。
脳波インタフェースシステム2が実施形態1による脳波インタフェースシステム1(図9)と相違する点は、実施形態1の脳波インタフェース部100に代えて複数メニュー提示脳波インタフェース部200を備えたこと、および、識別要否決定装置20(以下「決定装置20」と記述する。)の構成のうち決定部12を識別対象決定部21に変更したことにある。なお、脳波インタフェースシステム2の構成要素のうち、脳波インタフェースシステム1(図9)と同じ構成要素については同じ参照符号を付しその説明を省略する。
複数メニュー提示脳波インタフェース部200(以下「脳波IF部200」と記述する。)は、脳波インタフェース部100の機能を拡張して、複数のメニューを同時に提示し、かつ、各メニューのメニュー項目から機能の実行を可能にしている。
脳波IF部200は、出力部7を介して複数メニューをユーザ5に提示する。たとえば脳波IF部200は、あるメニューには特定の機器の詳細な機能に関するメニュー項目を表示し、その他のメニューには制御可能な複数の機器に関するメニュー項目を表示する。そして、各メニューのメニュー項目ハイライトの切り替え周波数(θs)を異なる値に設定してハイライトを切り替えている。
図13に示す例では、メニューA、メニューBのハイライト周波数をそれぞれθsa、θsbと記述すると、θsaを3Hz、θsbを5Hzとして設定している。メニュー項目ハイライトの周波数(θs)は、ユーザ5がハイライトを認知できる範囲であればよい。また、倍数周波数成分の影響を考慮すると、θsaとθsbは整数倍にならないように設定することが好ましい。また、メニュー項目のハイライトのタイミングは重ならないように設定してもよい。
また、脳波IF部200は、識別実行フラグ群201を保持している。識別実行フラグ群201は、複数の識別実行フラグの集合である。本実施形態においては、識別実行フラグはメニューに対応して設けられているとする。たとえば、識別実行フラグ群201の第1ビットはメニューAに対応し、第2ビットはメニューBに対応する。脳波IF部200は、いずれかのフラグ値に「1」が設定されているときには、得られている事象関連電位を識別対象として採用する。そして、その事象関連電位に基づいて、フラグ値「1」に対応するメニューのどのメニュー項目に示された操作を実行するかを判定し、その項目に対応する動作を実行する。識別実行フラグ群201は、次に説明する識別対象決定部21によって更新される。
識別対象決定部21(以下「決定部21」と記述する)は、脳波IF部200から受け取った切り替え周波数(θsa、θsb)と、代表周波数分析部11から受け取ったユーザ5の脳波周波数パワーが極大となる代表周波数(θe)との比較を行い、ユーザ5がどちらのメニューを見ているかを判定する。
判定は、実施形態1による決定部12と同様に、代表周波数(θe)と、各メニュー項目切り替え周波数(θsa、θsb)との相対量(差または比)を算出して、その相対量に基づいて行えばよい。たとえば、相対量として差を利用する例を挙げると、代表周波数(θe)と切り替え周波数(θsa、θsb)の各々との差を比較し、小さいほうのメニューを見ていたとすればよい。あるいは、閾値を0.2Hzとして、代表周波数(θe)と切り替え周波数(θsa、θsb)の各々との差が閾値以下であったメニューを見ていたとし、それ以外はどちらのメニューも見ていなかったと判定してもよい。
決定部21は、判定結果に応じて、脳波IF部200に設けられた識別実行フラグ群201のうち、ユーザ5が見ていたメニューに対応する識別実行フラグの値を「1」に設定するよう脳波IF部200に指示する。ユーザ5がどちらのメニューも見ていなかった場合には、決定部21は脳波IF部200に対して何の指示もしないか、または、識別実行フラグ群201のすべてのフラグ値を「0」に設定するよう指示する。これにより、確実に識別対象から除外することが可能となり、誤認識を低減できる。
決定部21の判定結果を受けて、脳波IF部200は対応するメニューのメニュー項目ハイライトに関連した事象関連電位の識別を行い、P3成分ありと判定した場合には、対応するメニュー項目の機器動作を実行する。
このようにメニューを同時に複数提示し、それぞれ異なる周波数でメニュー項目をハイライトした場合、ユーザがどちらのメニューを見ていたのかが判定可能となる。それにより、ユーザが見ていたメニューのメニュー項目の中に限定した識別が可能となり、識別の精度が向上し、結果として多くのメニュー項目から短時間でのメニュー項目の選択が可能となる。
次に、図14のフローチャートを参照しながら、脳波インタフェースシステム2において行われる全体的な処理の手順を説明する。
図14は、本実施形態による脳波インタフェースシステム2の処理手順を示す。図14では、複数メニューの例として、図13に示すようなメニューA、メニューBの二種類のメニューを提示する場合の処理手順を示している。また、メニューA、メニューBはそれぞれ数個のメニュー項目で構成されているとする。たとえば図13に示す表示例を参照されたい。脳波インタフェースシステム1(図10)の処理と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
ステップS201において、脳波IF部200はメニューAをユーザ5に提示する。
ステップS202において、脳波IF部200はメニューBをユーザ5に提示する。なお、ステップS201とステップS202は同時であってもよいし、それぞれ別の時刻であってもよいとする。
ステップS203において、脳波IF部200はメニューAまたはメニューBからハイライトするメニュー項目を選択する。どちらのメニューからメニュー項目を選択するかは、それぞれのメニュー項目ハイライトの周波数によって決定された順序に基づく。
ステップS204において、脳波IF部200はステップS203で選択したメニュー項目をハイライトする。メニュー項目をハイライトするタイミングは、それぞれのメニュー項目ハイライトの周波数によって決定される。
ステップS30において、決定装置20はユーザ5がどちらのメニューを見ていたのか、またはどちらのメニューも見ていなかったのかを判定し、分岐する。ステップS30の処理の詳細については、後述する。
ステップS205において、脳波IF部200はステップS104で計測したメニューAのメニュー項目ハイライトを起点とした事象関連電位にP3成分が含まれているか否かを識別する。P3成分の識別は、単純に波形を閾値処理してもよいし、特許文献2に記載のようにあらかじめユーザごとに計測したP3成分の加算平均波形で作成したテンプレートとの相関係数を算出してもよい。ステップS205でYesの場合、ステップS207に進み、Noの場合はステップS203に戻り次のメニュー項目を選択する。
ステップS206において、脳波IF部200はステップS104で計測したメニューBのメニュー項目ハイライトを起点とした事象関連電位にP3成分が含まれているか否かを識別する。P3成分の識別は、ステップS205と同様である。ステップS206でYesの場合、ステップS208に進み、Noの場合はステップS203に戻り次のメニュー項目を選択する。
ステップS207において、脳波IF部200はステップS205によって選択されたメニューAのメニュー項目に対応する処理を実行する。これにより、そのメニュー項目が選択され、実行される。
ステップS208において、脳波IF部200はステップS206によって選択されたメニューBのメニュー項目に対応する処理を実行する。これにより、そのメニュー項目が選択され、実行される。
次に、図15を参照しながらステップS20の詳細な処理を説明する。
図15は、ユーザ5がメニューA、メニューBのどちらを見ていたか、またはどのメニューもみていなかったかを判定する処理の詳細な手順を示す。この処理は、決定装置20を構成する代表周波数分析部11と決定部21によって行われる。図15の処理では、代表周波数(θe)とハイライト切り替え周波数(θsa、θsb)の各々との相対量として、差を利用する例を挙げて説明する。なお、図11に示す処理と同じ処理に関するステップには同一の参照符号を付し、その説明は省略する。
ステップS31において、決定部21は、脳波IF部200から受け取った、メニューAのハイライト切り替え周波数(θsa)およびメニューBのハイライト切り替え周波数(θsb)と、ステップS23において、代表周波数分析部11から受け取ったユーザ5の脳波の周波数パワー極大の代表周波数(θe)との比較を行い、差分ΔaおよびΔbを計算する。
ステップS32において、決定部21は、ステップS31で計算したΔaとΔbの大きさを判定する。Δaの方が小さい場合(ステップS32でYes)には処理はステップS33へ進み、Δbの方が小さい場合(ステップS32でNo)には処理はステップS34へ進む。なお、メニューA、メニューBのどちらかを見ているかの二状態を判定する場合にはΔa、Δbを比較し小さいほうのメニューを見ていたと判定すればよいため、以下のS33からS37の処理は不要である。
ステップS33において、決定部21はΔaが閾値よりも小さいか否かに応じて分岐する。差分が閾値以下の場合には処理はステップS35に進み、閾値以上の場合には処理はステップS36に進む。閾値は、たとえば0.1Hzとしてもよいし、0.2Hz、0.3Hzとしてもよい。
ステップS33において、決定部21はΔbが閾値よりも小さいかどうかを判定し、分岐する。差分が閾値以下の場合はYesとしてステップS37へ、閾値以上の場合はNoとしてS36にそれぞれ進む。閾値はステップS33のように決定してもよい。
ステップS35、ステップS37において、決定部21はそれぞれメニューAを見ていると判定し、メニューBを見ていると判定し、ステップS36において、どちらのメニューも見ていないと判定する。
このような処理によって、ハイライトの切り替え周波数がそれぞれ独立な複数のメニュー項目を同時に提示し、ユーザ脳波の周波数からユーザがどちらのメニューを見ているかの判定を行う。これによって、たとえば複数の機器を操作する場合など、複数のメニュー項目が同時に提示される状況においても精度の高い識別を実現できる。
本実施形態の脳波インタフェースシステム2に決定装置20を設けることにより、脳波インタフェースを利用するユーザ5の脳波の周波数からユーザ5がどのメニューを見ていたかどうかを判定できる。これによって、複数のメニュー項目が同時に提示される状況においてもメニューごとに識別方法の調整が可能となり、多くのメニュー項目から短時間でのメニュー項目の選択が可能となり、使いやすい脳波インタフェースが実現できる。
上述の実施形態においては、決定部12、21は、識別実行フラグを利用して脳波インタフェース部100、200を間接的に制御している。しかし、識別実行フラグを利用せず、フラグ値「0」および「1」に対応する動作を行うよう、決定部12、21が脳波インタフェース部100、200に直接指示してもよい。
(実施形態3)
実施形態1による脳波インタフェースシステム1では、識別方法調整装置10において脳波インタフェースシステム使用時の所定の時間窓におけるユーザの脳波の周波数から、ユーザがメニュー項目を見ていたか否かを判定し、メニュー項目を見ていない場合には識別対象から除外することで、ユーザの意図しない機器動作の減少を実現していた。
しかし、特に時間窓の長さが十分でない場合、代表周波数は背景脳波や眼電・筋電ノイズの影響を受けやすく、たとえばユーザがハイライトを見ていても見ていないと誤判定してしまう可能性がある。実施形態1では代表周波数を絶対的な指標として用いて、識別の要否を「1」か「0」かで決定するため誤判定の場合には正しい識別ができなかった。
そこで、本実施形態による脳波インタフェースシステムでは、代表周波数によりハイライト後のP3成分の識別用パラメータを調整する。これにより、ハイライトを見ていたか否かを誤判定した場合でもハイライト後のP3成分によりユーザの選択意図が検出できる可能性が復活し、より精度の高い識別が実現できる。
図16は、本実施形態による脳波インタフェースシステム3の機能ブロックの構成を示す。図16はまた、識別方法調整装置30の機能ブロックも示している。ユーザ5のブロックは説明のために示されている。
脳波インタフェースシステム3が実施形態1による脳波インタフェースシステム1(図9)と相違する点は、実施形態1の脳波インタフェース部100に代えて、P3識別用パラメータ301に基づきP3成分の識別パラメータが可変な脳波インタフェース部300を設けたこと、および、実施形態1の識別要否決定装置10に代えて、代表周波数に基づきP3成分の識別パラメータを決定する識別方法調整部31を構成要素に持つ識別方法調整装置30を備えたことにある。なお、脳波インタフェースシステム3の構成要素のうち、脳波インタフェースシステム1(図9)と同じ構成要素については同じ参照符号を付しその説明を省略する。
脳波インタフェース部300(以下「脳波IF部300」と記述する。)は、脳波インタフェース部100の機能を拡張したもので内部にP3識別用パラメータ301を持ち、P3識別用パラメータ301に基づいて識別方法を調整してハイライト後のP3成分を識別する。
P3識別用パラメータ301は、ハイライト後のP3成分を識別する際に利用するパラメータ(閾値)である。前述のように(たとえば図3中のステップS105)、P3成分の識別方法は種々あるが、識別パラメータは識別方法に合わせて、たとえば区間平均電位や相関係数に関する閾値としてもよい。
識別方法調整部31は、脳波IF部300から受け取った切り替え周波数(θs)と、代表周波数分析部11から受け取ったユーザ5の脳波周波数パワーが極大となる代表周波数(θe)との相対量(差または比)を算出し、両者が互いに関連しているか否かを判定する。判定方法は図9中の決定部12と同様である。θsとθeが互いに関連していると判断した場合には、識別方法調整部31は何も実行しない。一方両者が互いに関連していないと判断した場合には、識別方法調整部31は、脳波インタフェース部300における識別方法を調整する。
ここで「識別方法を調整する」とは、脳波IF部300が保持するP3識別用パラメータ301(閾値)をP3成分が検出されにくくなる側に変えることをいう。例えば、脳波IF部300において区間平均電位を用いて識別を行う場合には、閾値をプラス方向に変化させる。また、相関係数を用いて識別を行う場合には、閾値を1に近づける方向に変化させる。
変化させるための方法として、たとえば脳波IF部300内に保持されているP3識別用パラメータ301を外部から直接書き換えてもよいし、脳波IF部300に対してP3識別用パラメータ301の変更を指示してもよい。
なお、ここではθsとθeの関連性を「関連性がある」または「関連性がない」の二状態で判断したが、二状態に限らずθsとθeの一致度に応じて閾値を連続的に、または段階的に変化させても良い。
このように代表周波数によってP3成分識別のパラメータを調整することで、ハイライトを見ていたか否かを誤判定した場合でもハイライト後のP3成分によりユーザの選択意図が検出できる可能性が復活し、より精度の高い識別が実現できる。
上述の説明から理解されるように、識別方法調整部31は、実施形態1および2において説明した「決定部12」(図9)および「識別対象メニュー決定部21」(図12)の動作と同様、識別を行うか否かをまず決定している。よって識別方法調整部31は、「決定部12」(図9)および「識別対象メニュー決定部21」のような決定部としての機能を有しつつ、さらに付加的な機能を有しているといえる。
次に、図17のフローチャートを参照しながら、脳波インタフェースシステム3において行われる全体的な処理の手順を説明する。
図17は、本実施形態による脳波インタフェースシステム2の処理手順を示す。図17において、脳波インタフェースシステム1(図10)の処理と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
ステップS301において、識別方法調整部31は脳波IF部300におけるP3識別用パラメータ301をP3成分が検出されにくくなるように調整する。
ステップS302において、脳波IF部300はP3識別用パラメータ301を参照してP3成分検出の閾値を取得し、取得した閾値に基づいてステップS104で計測された事象関連電位にP3成分が出現しているかどうかの識別を実施する。
このような処理によって、ハイライトを見ていたか否かを誤判定した場合でもハイライト後のP3成分によりユーザの選択意図の検出が可能となる。なお、図17では代表周波数を用いてユーザがハイライトを見ていたか否かを二状態で判定したが、二状態に限らずθsとθeの一致度に応じて閾値を連続的に、または段階的に変化させてもよい。
本実施形態の脳波インタフェースシステム3に識別方法調整装置30を設けることにより、代表周波数に基づいてP3成分識別のパラメータの調整が可能となり、代表周波数とP3成分を用いた識別が実現できる。代表周波数とP3成分はどちらもノイズの影響を受ける可能性があるが、両方を用いることでノイズの影響に強い識別が可能となり、結果としてユーザの意図しない機器動作の減少が実現できる。
本発明の識別要否決定装置および識別要否決定装置が組み込まれた脳波インタフェースシステムによれば、視線検出装置等を加えることなく、脳波インタフェースを操作しているユーザの脳波の周波数によって、ユーザがメニューを見ていないことが検出可能になる。これによって、ユーザがメニューを見ていない場合を識別対象から除外することでユーザが意図しない機器動作の減少が実現できる。このような識別要否決定装置の機能は、たとえばコンピュータプログラムによって実現することも可能である。コンピュータプログラムはコンピュータに読み込まれて実行されることにより、上述の機能を発揮できるためシステムの大幅な改変をすることなく、かつ、容易に実装できる。
1、2、3 脳波インタフェースシステム
5 ユーザ
7 出力部
7a 画面
10 識別要否決定装置
11 代表周波数分析部
12 決定部
21 識別対象決定部
31 識別方法調整部
50 生体信号計測部
100 脳波インタフェース部
200 複数メニュー提示脳波インタフェース部
300 識別パラメータ可変脳波インタフェース部
301 P3識別用パラメータ