本発明は、機器のインタフェースシステムに関する。より具体的には、本発明は、ユーザの生体情報(頭部周辺で計測可能な筋電)を利用した機器のインタフェースシステムに関する。
近年、テレビ・携帯電話・ヘッドマウントディスプレイ(HMD:Head Mount Display)等の様々な種類の情報機器が普及し生活に入り込んできている。そのため、ユーザは普段の生活の多くの場面において情報機器を操作する必要が生じている。
通常、ユーザは手を使ってボタン等の入力手段(インタフェース部)を介して入力コマンドを入力し、それにより、機器の操作を実現している。しかし、たとえば、家事/育児/運転をしているときなど、両手が機器操作以外のタスクで塞がっている状況では手を使ってインタフェース部を操作することが困難となり、機器操作を実現できなかった。また、頸髄損傷等により、手を自由に動かすことができないユーザにとっても、手を使ってボタンを操作することが困難であった。そのため、ハンズフリーで機器を操作したいというユーザのニーズが高まっている。
このようなニーズに対して、生体信号として頭部周辺で計測され、下顎骨の運動に関わる咀嚼筋の活動によって発生する筋電(以下、本明細書において「咀嚼筋電」(Masticatory electromyogram)と呼ぶ。)を利用した入力手段が開発されている。
咀嚼筋電は、たとえば日常生活における会話や、物を食べる咀嚼に起因する顎関節の動作によっても発生する。そのため、咀嚼筋電を利用したインタフェースを実現するためには、日常生活で発生する咀嚼筋電と、操作のためにユーザが意図的に行った咀嚼筋の活動によって出現した咀嚼筋電とを区別する必要があった。しかしながら、意図的であってもなくても噛みしめ動作によって出現する咀嚼筋電の特徴(周波数・振幅等)には差がないため、所定の期間中に連続的に計測した咀嚼筋電のうちから、意図的に表出された咀嚼筋電のみを検出することは困難であった。
そこで、たとえば、特許文献1では、日常生活では発生しない特殊な噛みしめ動作をユーザに行わせることで、意図的な咀嚼筋電のみを検出し車椅子の制御信号として用いる技術が開示されている。この技術は、特殊な噛みしめ動作によって発生した特殊な咀嚼筋電は、日常生活の咀嚼筋電から区別することが可能であるという根拠に基づくものである。
特許文献1では、特殊な噛みしめ動作として、(1)数百ミリ秒(以下「ms」と記述する。)以上の持続的噛みしめ動作、(2)左側のみ/右側のみの噛みしめ動作、等をユーザにさせている。その上で、左右の額に貼り付けた複数個の電極で計測された電位の差分値を閾値処理する方法で、それらの特殊な噛み方によって発生した意図的な咀嚼筋電を検出していた。この特殊な噛みしめ方法を利用することにより、電動車椅子の制御に関して、(1)持続的な操作信号を発生させることが可能となり、持続的な走行が実現できること(すなわち、信号ONの時間区間が指定できアクセル代わりに利用できること)、および、(2)左右の噛み分けが電動車椅子の左右の旋回に対応しており分かりやすい入力方法であること、からユーザにとって負担が少ないインタフェースを実現している。
一方、生体信号として脳波の事象関連電位を用いてユーザが選択したいと思っている選択肢を識別する入力手段が開発されている。非特許文献1では、選択肢をランダムにハイライトし、選択肢がハイライトされたタイミングを起点に約300ms後に出現する事象関連電位のP3成分を利用して、ユーザが選択したいと思っている選択肢を検出する技術が開示されている。この技術によって、ユーザは手を使うことなく、選択したいと思った選択肢の選択が可能となる。
しかしながら、特許文献1に記載の咀嚼筋電を利用した入力方法は、意図的な咀嚼筋電と日常生活の咀嚼筋電とを区別するために特殊な(持続的・特徴的な)噛みしめ動作をユーザに要求している。そのために、(1)短時間で操作入力できない、(2)特殊な噛みしめ方の種類に制限があるためコマンド数が限られる、といった課題があった。これらは、即時的な操作入力が求められ、かつコマンド数が多い、テレビ・携帯電話・HMD等の情報機器のインタフェースとして適用する場合には特に問題となる。
一方、非特許文献1に記載の脳波を用いた入力方法は、ハイライトされるメニュー項目に対して選択するか否かのユーザの選択意図(1ビットの情報)を出力するだけでメニュー項目の選択ができるため、ユーザは全てのコマンドを同じ方法で選択できるという利点がある。
しかしながら、S/Nの低い事象関連電位を識別するため、5から10回程度の加算平均(ハイライトの繰り返し)が必要であり、短時間で確実なメニュー選択が実現できないという課題があった。
さらに、電極装着位置に関しても課題があった。特許文献1では左右の噛みしめの違いを検出するために額の左右に複数個、非特許文献1ではP3成分を検出するために少なくとも頭頂部に一つ、電極を装着する必要があった。そのため電極装着がユーザにとって負担となっていた。
本発明の目的は、たとえば会話中や食事中のように日常生活の咀嚼筋電が発生する状況においても、特殊な噛みしめ動作やハイライトの繰り返しなしに、短時間でメニュー選択が可能なインタフェースシステムを提供することにある。
本発明によるインタフェースシステムは、機器の操作メニューを視覚的に提示する出力部と、ユーザの咀嚼筋電を計測する計測部と、前記操作メニューを構成する各メニュー項目を、前記出力部を介して順次提示するメニュー提示部と、前記咀嚼筋電の電位波形の最大振幅を求める振幅算出部と、各メニュー項目がハイライトされた時刻を起点に、前記電位波形が前記最大振幅となる時間である潜時を求める潜時算出部と、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にあるか否かを判定する判定部とを備え、前記判定部の判定結果に応じて、前記メニュー提示部は、ハイライトされた前記メニュー項目に対応する処理を実行する。
前記判定部が、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にあると判定したときにおいて、前記咀嚼筋電が意図的に表出されたとして、前記メニュー提示部は、ハイライトされた前記メニュー項目に対応する処理を実行してもよい。
前記計測部は、前記ユーザの鼻根およびマストイドに装着した電極によって計測される電位差により、前記咀嚼筋電を計測してもよい。
前記インタフェースシステムは、さらに、前記メニュー提示部の各メニュー項目のハイライトに応じて、前記咀嚼筋電の電位波形を切り出す切り出し部とを備え、振幅算出部は、切り出された電位波形の最大振幅を求めてもよい。
前記切り出し部は、少なくともハイライトに対する咀嚼筋電が出現するハイライト後150msから250msを含む時間帯を切り出してもよい。
前記判定部は、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にある場合には、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されたと判定し、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にない場合には、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されていないと判定してもよい。
前記判定部は、前記最大振幅があらかじめ定められた閾値である50μVよりも大きく、かつ、潜時が200ms前後の範囲内にあるか否かに基づいて、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されたことを判定してもよい。
前記判定部は、ユーザごとに最大振幅および潜時の各平均値および各分散値を取得し、取得した前記平均値および分散値に基づき、それぞれの平均値±標準偏差の範囲を検出対象範囲として、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されたことを判定してもよい。
前記判定部は、取得した前記最大振幅±50μV、かつ、取得した前記潜時±50msの範囲を検出対象範囲として、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されたことを判定してもよい。
前記メニュー提示部において、メニュー項目ハイライトの順序を降順またはランダムに切り替えて、前記メニュー提示部においてメニュー項目が降順またはランダムのどちらの順序で切り替えられていたかを取得し、前記判定部の検出対象範囲を切り替える切り替え部が備えられていてもよい。
前記メニュー項目ハイライトの順序がランダムの場合には、前記切り替え部は、最大振幅および潜時の検出対象範囲を、それぞれ200±70μVおよび280±50msに切り替えてもよい。
前記メニュー提示部において最後にメニューが提示されてからの経過時間を保持し、一定時間以上経過していた場合には、前記判定部の検出対象範囲を拡大する方向に設定する範囲決定部が備えられていてもよい。
前記範囲決定部で前記検出対象範囲を拡大した後に前記咀嚼筋電が検出された場合において、前記範囲決定部は、検出された咀嚼筋電の最大振幅および潜時値を新たに検出対象範囲の中心値に設定してもよい。
本発明による方法は、インタフェースシステムにおいて実行される方法であって、機器の操作メニューを視覚的に提示するステップと、計測されたユーザの咀嚼筋電を受け取るステップと、前記操作メニューを構成する各メニュー項目を、前記出力部を介して順次提示するステップと、前記咀嚼筋電の電位波形の最大振幅を求めるステップと、各メニュー項目がハイライトされた時刻を起点に、前記電位波形が前記最大振幅となる時間である潜時を求めるステップと、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にあるか否かを判定するステップと、前記判定するステップの判定結果に応じて、ハイライトされた前記メニュー項目に対応する処理を実行するステップとを包含する。
本発明による、コンピュータによって実行されるコンピュータプログラムは、前記コンピュータに対し、機器の操作メニューを視覚的に提示するステップと、計測されたユーザの咀嚼筋電を受け取るステップと、前記操作メニューを構成する各メニュー項目を、前記出力部を介して順次提示するステップと、前記咀嚼筋電の電位波形の最大振幅を求めるステップと、各メニュー項目がハイライトされた時刻を起点に、前記電位波形が前記最大振幅となる時間である潜時を求めるステップと、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にあるか否かを判定するステップと、前記判定するステップの判定結果に応じて、ハイライトされた前記メニュー項目に対応する処理を実行するステップとを実行させる。
本発明のインタフェースシステムによれば、メニュー項目ハイライトを起点に切り出した頭部周辺の電位変化(咀嚼筋電)を計測して、咀嚼筋電の最大振幅があらかじめ定められた閾値(たとえば50μV)よりも大きく、かつ、潜時が200ms前後の範囲内にあるか否かに基づいて、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されたといえるか否かを判定する。これにより、たとえば会話中や食事中のように日常生活の咀嚼筋電が発生する状況においても、特殊な噛みしめ動作やハイライトの繰り返しなしに、短時間でメニュー選択が可能なハンズフリーインタフェースを実現できる。
ハイライト型メニュー提示方法を時系列的に示す図である。
人体の頭部周辺に存在する咀嚼筋201を示す。
(a)〜(d)は、咀嚼筋電を計測するために装着する電極の位置を示す図である。
本願発明者らが行った実験中にハイライト型メニュー提示および電位計測を行う機器の処理手順を示すフローチャートである。
(a)は実際に被験者に提示したメニュー項目を簡略化した図であり、(b)はハイライトの例を示す図である。
(a)は噛みしめ選択条件の参加者側のフローを示した図であり、(b)は喋る条件・食べる条件の参加者側の処理手順を示すフローチャートである。
(a)〜(c)は実験結果の一例を示す図である。
(a)は、噛みしめ選択条件における意図的な噛みしめ動作あり/なしのハイライトごとに切り出した電位波形を、潜時および最大振幅を特徴量としてプロットした図であり、(b)は、噛みしめ選択条件の意図的な噛みしめありの場合の咀嚼筋電と、喋る・食べる条件での咀嚼筋電を、潜時・最大振幅を特徴量としてプロットした図である。
咀嚼筋電を用いたインタフェースシステム1の構成および利用環境を示す図である。
インタフェースシステム1においてTV2を操作し、ユーザ5が視聴したい番組を選択して見るときの例を示す図である。
実施形態1によるインタフェースシステム1の機能ブロックの構成を示す図である。
ユーザがメニュー項目ハイライトの直後に短時間の意図的な噛みしめ動作を行ったか否かの判定を行うインタフェースシステム1の処理手順を示すフローチャートである。
ユーザ5がメニュー項目ハイライトの直後に意図的な噛みしめ動作を行ったか否かを判定する咀嚼筋電検出装置10の詳細な処理手順を示すフローチャートである。
ランダム実験と降順実験の噛みしめ選択条件の結果で、潜時・最大振幅を特徴量としてプロットした図である。
実施形態2によるインタフェースシステム2の機能ブロックの構成を示す図である。
実施形態2によるインタフェースシステム2の処理手順を示すフローチャートである。
降順実験を同じ実験参加者に対して別の日に実施した結果を潜時・最大振幅を特徴量としてプロットした図である。
実施形態3によるインタフェースシステム3の機能ブロックの構成を示す図である。
実施形態3によるインタフェースシステム3の処理手順を示すフローチャートである。
以下、添付の図面を参照しながら、本発明による咀嚼筋電を用いたインタフェースシステムの実施形態を説明する。
本願発明者らは、実行すべき機器操作に関連して提示されたメニュー項目が一つずつハイライトされる状況で、ユーザが選択対象のメニュー項目のハイライトと同時またはその直後に意図的な噛みしめ動作を行ったとき、その噛みしめ動作を的確に検出する方法を見出した。具体的には、ユーザが選択対象のメニュー項目のハイライトと同時またはその直後に意図的な噛みしめ動作を行ったときに、ユーザの鼻根部とマストイド(メガネ装着時にメガネが耳に接触する位置)との電位から咀嚼筋電を計測すると、メニュー項目のハイライトを起点に切り出した咀嚼筋電の電位波形の最大振幅・潜時がそれぞれ100μV前後・200ms前後に安定して出現することを発見した。また最大振幅および潜時を指標に、日常生活の咀嚼筋電と区別して検出できることを見出した。この結果、咀嚼筋電に基づいて、ユーザの意図的な噛みしめ動作を識別して、ユーザの選択意図を検出することが可能となる。
なお、本明細書では、「100μV前後」や「200ms前後」など、数値Xの「前後」という表現を用いている。これは「約」Xとも記載される。いずれも、数値Xを含む範囲を包含する意図である。その範囲がどの程度まで広がるかは、その数値に対応する生体信号の個人差や、対象とする数値の計測誤差などの複合的な要因を考慮して決定される必要がある。そのような生体信号が出現しているか否かを検出するために、実施形態においては「検出対象範囲」を定めている。その検出対象範囲を「X前後」としてとらえてもよい。たとえば、咀嚼筋電の電位波形の最大振幅が「100μV前後」であるときは、100±50μVを意味するとしてもよい。また、潜時が「200ms前後」であるときは、200±50msを含む時間帯を意味するとしてもよい。
以下では、まずハイライト型メニュー提示方法について説明し、選択対象のメニュー項目ハイライトに対する意図的な噛みしめ動作によって出現する咀嚼筋電の特徴を探索するために、本願発明者らが実施した実験およびメニュー項目ハイライトに対する意図的な咀嚼筋電の特徴に関する発見について説明する。
その後、実施形態として、ハイライト型メニュー提示を行うインタフェースシステムの概要および、咀嚼筋電検出装置を含むインタフェースシステムの構成および動作を説明する。
図1は、ハイライト型メニュー提示方法を時系列的に示す図である。画面7a−1から画面7a−4は4つの機器の操作メニューを一つずつハイライトしている様子を示している。
本明細書においては、図1に示した機器操作に関する選択肢群を「メニュー」、選択肢の一つ一つを「メニュー項目」、ユーザが選択したいと思っているメニュー項目を「選択対象項目」と定義する。
このようにメニュー項目が画面上でハイライトされることで、ユーザはハイライトされるメニュー項目に対してユーザの選択意図の有無(1ビットの情報)を出力するだけで、メニュー項目が選択できる。
ここで、ハイライト型メニュー提示のメニュー選択を短時間で行うためには、(1)ハイライトを繰り返さない、(2)ハイライトの間隔を短く設定する、という条件が必要である。
たとえば、非特許文献1に記載の事象関連電位のP3成分を用いると、ユーザの選択意図を検出することも可能である。ここで、「事象関連電位」とは、外的あるいは内的な事象に時間的に関連して生じる脳の一過性の電位変動をいい、その「P3成分」とは、一般には事象関連電位のうちの、聴覚、視覚、体性感覚などの感覚刺激の種類に関係なく起点から約300ms付近に現れる事象関連電位の陽性の成分を示すものとして扱われることが多い。
P3成分を用いる場合、熟練したユーザであればハイライトの時間間隔は125msでも選択意図を検出可能であることが分かっており、たとえばメニュー項目数が4つであれば一通り全てのメニュー項目をハイライトするための所要時間は500msと短時間である。しかし、事象関連電位のP3成分はS/Nが低いため、精度よく選択意図を検出するためにはハイライトの繰り返しが必要になる。たとえばハイライトを5回繰り返した場合には選択意図の出力に2.5秒もの時間を要する。
一方、ハイライト型メニュー提示に対する咀嚼筋電を計測した例はない。しかしながら、特許文献1のように特殊(持続的・特徴的)な噛みしめ動作によって発生する咀嚼筋電を検出してハイライトされたメニュー項目を選択する方法も考えられる。咀嚼筋電はS/Nが高いため加算平均のためのハイライトの繰り返しが不要という特長がある。
ところが、ハイライトのオンセットと意図的な咀嚼に起因する特殊な咀嚼筋電の時間関係が分からないため、ハイライト間隔を短く設定できないと考えられる。そのため、たとえば1秒以上が必要となる。よって、短時間でのメニュー選択は困難であると考えられる。さらに、日常生活では発生しない長時間の噛みしめ動作を検出対象とするため、操作意図の検出が遅れるという問題も予想される。
そこで、本願発明者らは、ハイライト型メニュー提示においてハイライトとの直後に意図的な噛みしめ動作を行った場合に出現する咀嚼筋電の特徴、特にハイライトのオンセットとの時間的関係を明らかにするために、選択対象項目のハイライト直後に短時間の噛みしめ動作を行う条件で咀嚼筋電の特徴を探索する実験を実施した。その結果、選択対象項目ハイライトに対して意図的な咀嚼が行われた際には、咀嚼筋電は、最大振幅100μV前後でかつハイライト後200ms前後に安定して出現することを発見した。さらに、選択対象項目ハイライトに対して意図的に表出された咀嚼筋電(非加算)は、ハイライトを起点に切り出した電位波形の最大振幅・潜時を特徴量として日常生活によって発生した咀嚼筋電とは区別できることを見出した。これにより、たとえば会話中や食事中のように日常生活の咀嚼筋電が発生する状況においても、特殊な噛みしめ動作やハイライトの繰り返しなしに、短時間でメニュー選択が可能なインタフェースシステムを実現できる。
以下、図2から図6を参照しながら実験および実験結果について説明する。実験は、2名の実験参加者(男性)に対して実施した。
図2は、人体の頭部周辺に存在する咀嚼筋201を示す。咀嚼筋201は、咬筋・側頭筋・外側翼突筋・内側翼突筋の総称であるが、図2においてはその各々は区別していない。
このような咀嚼筋201に対して、次に、咀嚼筋電を計測するための電極装着位置を説明する。電極は、人体頭部周辺の種々の位置に装着され得る。
たとえば図3(a)および(b)に示すように、電極は、目の上(眼窩の上縁)、目の横(眼窩の外縁(外眼瞼角))、鼻根、耳の上(耳付根上部)に装着される。
いわゆるヘッドマウントディスプレイ(HMD)に咀嚼筋電の計測機能を設けるとする。そのHMD形状および装着範囲を考察すると、頭部周辺には、眼電計測で利用されている顔面部の電極に加えて、耳朶部、耳後部(耳の付け根の後部)、耳下部(耳の付け根の下部)、耳前部などの耳周辺部も計測対象として利用することが可能である。図3(b)には、耳朶、マストイド、耳珠、耳付根後部等が示されている。
本願発明者らは、上記耳周辺部を代表して、耳の裏の付け根の頭蓋骨の突起部であるマストイド(乳様突起)を選択し、従来顔面部で利用されていた電極の位置に対し、マストイドを基準極としたインタフェースシステムの識別率評価実験を実施した。
図3(c)は、電位計測のための電極装着位置を示した図である。電極は鼻根部およびマストイドに装着し、マストイドを基準とした鼻根の電位を計測した。鼻根部・マストイドはメガネ装着時にそれぞれノーズパッド・イヤーパッドが接触する部分であり、メガネ型デバイス装着時に自然に計測ができる位置である(図3(d))。図3(c)には現れていないが基準電極とは反対側のマストイドにシステムリファレンスを装着した。
電極の装着位置は、咀嚼筋をまたぐように設けられている。「またぐ」とは、一方の電極が咀嚼筋上の皮膚に配置され、他方の電極が、咀嚼筋が存在しない位置の皮膚に配置されることをいう。そのような条件で装着すると、咀嚼筋の活動に起因する咀嚼筋電を確実に計測することができる。ただし、上述した電極の装着位置は一例であり、咀嚼筋をまたぐことによって咀嚼筋電を検出することが可能な電極配置は他にも存在し得ることに留意されたい。電位変化は、サンプリング周波数200Hz、時定数1秒で計測した。
視覚刺激として図1に示した4つのメニュー項目を降順にハイライトするハイライト型メニューを提示した。ハイライトの間隔は350msとした。視覚刺激は、被験者の目前2mに設置した37インチのプラズマディスプレイに提示した。
メニュー項目ハイライトに対する意図的な噛みしめ動作によって発生する咀嚼筋電と日常生活で発生する咀嚼筋電の区別ができるか否かを調べるために、条件を変えて実験を実施した。いずれの実験においてもハイライト型メニュー提示は同様に行ない、実験参加者にはハイライト中はメニュー項目を見るように指示をした。以下、3つの実験条件をそれぞれ説明する。
(1)噛みしめ選択条件:選択対象項目のハイライトに対して意図的な噛みしめ動作を行う条件である。より具体的には、指示された噛みしめ方法でハイライトに対して意図的な噛みしめ動作を行う、という課題を課した条件である。
本明細書における「意図的な噛みしめ」とは、例えば、歯を軽くかみ合わせた状態(つまり、上顎の歯と下顎の歯とを接触させた状態)にした後に、その状態から噛む力の圧力をかけた状態にすることをいう。本願発明者らは、噛みしめ選択条件における噛みしめ方法として、選択対象項目のハイライト直後に歯を軽く合わせた状態から短時間噛みしめるよう指示をした。
(2)喋る条件:メニュー項目のハイライトを見ながら喋り続ける、という課題を課した条件である。
(3)食べる条件:メニュー項目のハイライトを見ながらご飯を食べる、という課題を課した条件である。
図4を用いて、実験中にハイライト型メニュー提示および電位計測を行う機器側のフローを説明する。機器側のフローは、上記3条件共に同様である。
ステップS50は、被験者の電位(咀嚼筋電)の計測を開始するステップである。
ステップS51は、ハイライト型メニューの4つのメニュー項目を提示し、メニュー項目の種類をユーザに示すステップである。図5(a)は、実際に被験者に提示したメニュー項目を簡略化した図である。本願発明者らの実験では2秒間提示した。なお、ステップS51は、メニュー項目ハイライト開始の前に計測電位を安定させ、眼電等のノイズを低減させる効果もある。
ステップS52は、次にハイライトするメニュー項目を降順に選択するステップである。
ステップS53は、ステップS52で選択したメニュー項目を350ms間ハイライトするステップである。図5(b)はハイライトの例を示す図である。図5(b)に示したように、メニュー項目自体をハイライトしてもよいし、ハイライトに変えてまたはハイライトと同時に矢印等で示してもよい。なお、図5(a)および(b)は相互に関連はなく、それぞれが一例として記載されている。
ステップS54は、ステップS53でメニュー項目がハイライトされた時刻を0msとしてハイライト前100ms(以下、−100msとする)、ハイライト後400msの電位波形を切り出すステップである。切り出した電位波形はハイライト前100msの平均電位を用いてベースライン補正を行う。
ステップS55は、メニュー項目がハイライトされた回数nによる分岐で、ハイライトの回数がメニュー項目数より少ない場合にはステップS52に進み、全てのメニュー項目を一通りハイライトする。咀嚼筋電は信号強度が強いのでハイライトの繰り返しは不要であると想定できる。
前述のステップS50からステップS55によって、各メニュー項目が一通りハイライトされたときの、ハイライトを起点とした電位波形が4本分収録できる。
次に、図6(a)および(b)を用いて実験中の参加者側のフローを説明する。図6(a)は、噛みしめ選択条件の参加者側のフローを示した図である。
ステップS61は、図4中のステップS51によって提示されたメニューを見るステップである。被験者はメニュー項目の上から順に選択するようあらかじめ指示されており、ここで選択対象のメニュー項目に視線を移動する。選択対象項目の指示は、実際に噛みしめインタフェースを用いる場合にユーザが実現したいと思う機器動作にあたる。
ステップS62は、図4中のステップS52からS55によって提示されるメニュー項目のハイライトを見て、選択対象のメニュー項目がハイライトされたかどうかによる分岐で、ステップS62でYesの場合はステップS63へ、Noの場合はステップS61に進む。
ステップS63は、ステップS61で選択対象のメニュー項目がハイライトされた場合にハイライトの直後に短時間の噛みしめ動作を行うステップである。噛みしめ動作は、あらかじめ指示されたように「歯を軽く合わせた状態から短時間噛みしめる」方法で行う。
ステップS64は、ハイライトが終了したかどうかによる分岐で、ステップS64でYesの場合には終了へ、Noの場合にはステップS61へそれぞれ進む。
図6(b)は、喋る条件・食べる条件の参加者側のフローを示した図である。図6(a)に示す選択条件と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
噛みしめ選択条件との差異は、メニュー選択のための咀嚼筋電を出すためのステップS62およびステップS63の代わりにステップS65が行われる点である。
ステップS65は、あらかじめ指示された通りに、喋る条件では連続的に喋る、食べる条件では連続的にご飯を食べる、という行為を実行するステップである。
図7(a)〜(c)は実験結果の一例を示す。図7(a)〜(c)は、ハイライトを起点に−100〜400msまでの電位変化を切り出した電位波形を同じスケールで示したものであり、横軸は時間で単位はms、縦軸は電位で単位はμVである。スケールは図7(a)のみに記載している。
図7(a)は、噛みしめ選択条件の結果で、選択対象項目ハイライトに対して意図的な噛みしめ動作を行った場合の電位波形を太実線、選択対象外項目ハイライトに対して噛みしめを行わなかった場合の電位波形を細実線で示した。噛みしめ動作を行った場合には、選択対象項目のハイライトを起点に約200msに高振幅・高周波数の陽性電位が出現していることが分かる。
図7(b)は、喋る条件の結果で、メニュー項目ハイライトに関わらず喋り続けた場合の電位波形である。ハイライトごとに条件の差がないため全てのハイライトに対する波形を細実線で示している。それぞれの電位波形は高振幅であるが緩やかな変動であることが分かる。
図7(c)は、食べる条件の結果で、メニュー項目ハイライトに関わらずご飯を食べている場合の電位波形である。ハイライトごとに条件の差異がないため全てのハイライトに対する波形を細実線で示している。高振幅・高周波数な変化と高振幅・低周波数の電位変化の両方が混在していることが分かる。
以下、噛みしめ選択条件の意図的に表出された咀嚼筋電は本願発明者らが識別に用いる特徴量を用いることで、(1)噛みしめ選択条件の噛みしめなし条件の咀嚼筋電の電位波形、(2)日常生活において喋る・食べるによって発生した咀嚼筋電の電位波形が識別可能となることを説明する。
図8(a)は、噛みしめ選択条件における意図的な噛みしめ動作あり/なしのハイライトごとに切り出した電位波形を、潜時および最大振幅を特徴量としてプロットした図である。ここで「潜時」とは、メニュー項目がハイライトされた時刻を起点とした、最大振幅をとる時刻を意味する。メニュー項目がハイライトされた時刻は、図8(a)の横軸に示されており、単位はmsである。縦軸は最大振幅を示しており、単位はμVである。意図的な噛みしめありの場合を○印(40個)、噛みしめなしの場合を×印(80個)としてプロットしている。
図8(a)より、メニュー項目ハイライト直後の噛みしめ動作によって発生する咀嚼筋電は、最大振幅・潜時の分散が小さいことがわかる。咀嚼筋電の最大振幅・潜時の平均値±分散は104.3±32.9(μV)・201.3±37.8(ms)であった。これにより、選択対象項目ハイライトに対する意図的な咀嚼筋電は潜時約200ms前後で最大振幅約100μV前後に特徴的に出現するといえる。これは、本願発明者らがハイライト型メニューを提示する条件で実験を実施し、メニュー項目ハイライトを起点に電位波形を切り出して意図的に表出された咀嚼筋電の特徴を分析した結果初めて明らかとなったことであり、本願発明者らの発見といえる。
また、図8(a)より、意図的な噛みしめあり/なしは最大振幅のみでの識別可能であることが見てとれる。噛みしめなしの場合の最大振幅は23.4±18.1(平均±標準偏差)であった。最大振幅の両側t検定を実施した結果p<0.001で有意差があった。たとえば閾値を50μVに設定して識別を行った場合の識別率は97.5%であるため、メニュー項目ハイライト直後の意図的な噛みしめ動作による咀嚼筋電は、噛みしめなしの場合から識別できるといえる。
図8(b)は、噛みしめ選択条件の意図的な噛みしめありの場合の咀嚼筋電と、喋る・食べる条件での咀嚼筋電を、潜時・最大振幅を特徴量としてプロットした図である。図8(b)の横軸は潜時(ms)で、縦軸は最大振幅(μV)である。意図的な噛みしめありの場合を○印、喋る条件を*印、食べる条件を×印として示している。なお、意図的な噛みしめありの場合のプロット(○印)は図8(a)と同じデータである。
喋る条件・食べる条件における最大振幅は、それぞれ43.7±30.0・316.2±144.4(平均±標準偏差)であった。前述の噛みしめあり/なしの識別と同様に最大振幅を例えば50μVで閾値処理した場合には、喋る条件の30%、食べる条件の95%を誤検出してしまうため、最大振幅のみを用いて高精度の識別を実現することは困難である。
そこで、噛みしめ選択条件の咀嚼筋電の最大振幅・潜時の分散が小さいという前述の発見に基づき、ハイライト型メニュー提示条件ならではの潜時の概念を導入して識別を試みた。たとえば最大振幅・潜時が50−150μV、150−200msの範囲を選択対象項目ハイライトに対する咀嚼筋電として検出すると、噛みしめ選択条件の咀嚼筋電の85%が正しく検出され、喋る条件・食べる条件の誤検出率はそれぞれ12.5%・2.5%にとどまった。これにより、最大振幅・潜時の範囲限定により、選択対象項目ハイライトに対する咀嚼筋電は日常生活で咀嚼筋電が発生する状況においても、ハイライトに対する意図的な咀嚼筋電を高精度に検出できる。結果、たとえば会話中や食事中であっても誤動作の少ない噛みしめインタフェースが実現できる。
以下の実施形態において説明するインタフェースシステムは、ハイライト直後の意図的な噛みしめ動作によって出現する咀嚼筋電を最大振幅・潜時を指標に検出して、たとえば会話中や食事中のように日常生活の咀嚼筋電が発生する状況においても、特殊な噛みしめ動作やハイライトの繰り返しなしに、短時間でメニュー選択が可能なインタフェースシステムを実現する。これは、本願発明者らが実験によって見出したハイライトに対して意図的に表出された咀嚼筋電の特徴に基づく。
(実施形態1)
以下では、まず、ハイライト型メニュー提示を行うインタフェースシステムの概要を述べる。その後、咀嚼筋電検出装置を含む本実施形態によるインタフェースシステムの構成および動作を説明する。
図9は、咀嚼筋電を用いたインタフェースシステム1(以下「インタフェースシステム1」と記述する)の構成および利用環境を示す。このインタフェースシステム1は後述する実施形態1のシステム構成に対応させて例示している。
インタフェースシステム1は、ユーザ5の頭部周辺で計測される電気的生体信号(咀嚼筋電)を利用してハイライト型メニュー提示部100によって出力部7に提示されたメニュー項目を選択してTV2を操作するインタフェースを提供するためのシステムである。ユーザ5の鼻根部(メガネのノーズパットが接触する部分)に貼り付けた電極Aとマストイド(メガネのイヤーパッドが接触する部位)に貼り付けた電極Bの電位差が生体信号計測部50により取得され、無線または有線で咀嚼筋電検出装置10に送信される。TV2に内蔵された咀嚼筋電検出装置10は、送信された電位変化を利用してユーザのメニュー選択意図を検出し、チャンネルの切り替えなどの処理を行う。
なお、図9ではメガネ型の操作デバイス(生体信号計測部50)によって、別体のTV2を操作する例を示したが、たとえばヘッドマウントディスプレイ(HMD)を想定した場合には、出力部7・ハイライト型メニュー提示部100・咀嚼筋電検出装置10の全ての構成要素をHMD内に収めてもよい。HMDを装着した場合にも、鼻根部とマストイドは自然にユーザ5と接触する部位である。
図10は、インタフェースシステム1においてTV2を操作し、ユーザ5が視聴したい番組を選択して見るときの例を示す。
図10上部の画面7a−1から画面7a-4は、ハイライト型メニュー提示部100がTV2の画面7aを介してユーザに提示するメニューの例である。図10では、画面7a−1・画面7a−2において、それぞれ「野球」・「天気」・「アニメ」・「ニュース」の4つのメニュー項目のうち、「野球」・「天気予報」というメニュー項目がハイライトされる様子を示している。画面7a−3および画面7a−4においては「アニメ」および「ニュース」である。
メニュー項目をハイライトすることによって、咀嚼筋電検出装置10においてそれぞれのメニュー項目がハイライトされた時刻を起点とした電位変化の切り出しが可能となる。図10下部の電位波形5a−1から電位波形5a-4は、咀嚼筋電検出装置10において切り出したメニュー項目ハイライトを起点とした電位波形を模式的に示したものである。
今、ユーザは「天気」のチャネルを見たいと考えており、「天気」がハイライトされた直後に意図的な噛みしめ動作を行ったとする。電位波形5a−2は、その状況で、「天気予報」がハイライトされてから約200ms前後に意図的に表出された咀嚼筋電が出現している様子を示している。図10上段の画面7bは、咀嚼筋電検出装置10において「天気予報」のハイライトに対する意図的に表出された咀嚼筋電が検出され(5a−2)、チャンネルが「天気予報」に切り替わった様子を示している。
図11は、本実施形態によるインタフェースシステム1の機能ブロックの構成を示す。インタフェースシステム1は、出力部7と、咀嚼筋電検出装置10と、生体信号計測部50と、ハイライト型メニュー提示部100とを有している。図11はまた、咀嚼筋電検出装置10の詳細な機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。なお、出力部7はユーザ5にメニュー等を提示する画面を示す。
ユーザ5は、ハイライト型メニュー提示部100によって出力部7に提示される機器操作に関するメニュー項目がハイライトされるかどうかに注意し、選択対象項目のハイライトに対して意図的に噛みしめ動作を行うだけで、ボタン等を介した操作入力は行わない。インタフェースシステム1はユーザの噛みしめ動作を検出して、その噛みしめ動作を行った対象となるメニュー項目を特定し、ハイライト型メニュー提示部100を介して選択されたメニュー項目に応じて機器を動作させるとする。たとえば、この「機器」とは、出力部7に相当するTVであり、「動作」とはチャンネル切り替え動作であるが、これは例である。TVとは異なる機器、たとえば録画装置、DVD再生装置(図示せず)であってもよい。
咀嚼筋電検出装置10は、有線または無線で生体信号計測部50およびハイライト型メニュー提示部100と接続され、信号の送信および受信を行う。図11においては、生体信号計測部50およびハイライト型メニュー提示部100は咀嚼筋電検出装置10とは別体であるが、これは例である。生体信号計測部50およびハイライト型メニュー提示部の一部または全部を、咀嚼筋電検出装置10内に設けてもよい。
生体信号計測部50は、ユーザ5の生体信号を検出する筋電計であり、生体信号として咀嚼等によって発生する筋電を計測する。生体信号計測部50を図1に示すようなメガネ型デバイスとして、ノーズパッドとイヤーパッド間の電位差を計測してもよい。ユーザ5はあらかじめ生体信号計測部50を装着しているものとする。
この結果、生体信号計測部50はユーザ5の顔周辺の電位変化を測定することができる。測定されたユーザ5の電位変化は、コンピュータで処理できるようにサンプリングされ、リアルタイムに咀嚼筋電検出装置10に送られる。なお、計測した電位に混入する商用電源ノイズの影響を低減するために、生体信号計測部50においては計測される電位はあらかじめ、たとえば0.1から30Hzのバンドパスフィルタ処理がされ、メニュー項目ハイライト前のたとえば100msの平均電位でベースライン補正されているものとする。
ハイライト型メニュー提示部100は、機器操作に関するメニュー項目をたとえば350ms間隔でハイライトする。どのハイライトに対する咀嚼筋電かを特定するために、ハイライトの間隔は咀嚼筋電の潜時の分散以上に設定する必要がある。前述の実験結果において潜時の分散が37.8(ms)であったことからハイライト間隔はたとえば100msとしてもよい。ハイライト型メニュー提示部100は、咀嚼筋電検出装置10の識別結果に応じて機器動作の制御指令を出す。ハイライト型メニュー提示部100を利用して制御する機器が、たとえば図9に示すTV2であるとすると、メニューは出力部7(画面7a)を介してユーザ5に提示される。
次に、本実施形態による咀嚼筋電検出装置10の詳細な構成を説明する。本発明の主要な特徴のひとつは、咀嚼筋電検出装置10の構成および動作にある。
咀嚼筋電検出装置10は、生体信号切り出し部11と、最大振幅算出部12と、潜時算出部13と、咀嚼筋電判定部14とを有している。
生体信号切り出し部11は、ハイライト型メニュー提示部100から送られるメニュー項目ハイライトのタイミングを起点として、生体信号計測部50からリアルタイムで送られる咀嚼筋電の電位波形を切り出し、切り出した電位波形のベースライン補正を行う。電位波形を切り出す時間帯はメニュー項目ハイライトのタイミングを0msとしてハイライト後150から300msまでの時間帯を含むように−100から400msとしてもよいし、−300から300msとしてもよい。また、ハイライトの間隔にあわせて、たとえばメニュー項目が複数回ハイライトされないような時間幅としてもよい。また、ベースライン補正はメニュー項目ハイライト前100ms間の平均電位を全体から引くという方法で実施してもよいし、任意の時間幅の平均電位を用いて実施してもよい。生体信号切り出し部11は、波形の切り出し・ベースライン補正完了後に電位波形を最大振幅算出部12へ送る。
最大振幅算出部12は、生体信号切り出し部11から送られた咀嚼筋電の電位波形の最大振幅を求め、その情報を咀嚼筋電判定部14に送る。咀嚼筋電の電位波形の最大振幅は、たとえば0μVを基準としたときの電位の最大値である。また最大振幅算出部12は、潜時算出部13に咀嚼筋電の電位信号を送る。なお、最大振幅が閾値以上の場合のみ潜時算出部13に波形を送ってもよい。この場合、閾値はたとえば100μVとしてもよいし、ユーザごとに値を設定してもよい。
潜時算出部13は、最大振幅算出部12から送られた電位波形の潜時(メニュー項目ハイライトの時刻を0msとして電位波形が最大振幅となる時間)を求め、求めた潜時の情報を咀嚼筋電判定部14に送る。
なお、最大振幅算出部12および潜時算出部13が処理の対象とする電位波形は、生体信号切り出し部11によって切り出されて得られた波形である。したがって、受け取った波形の開始点が、メニュー項目ハイライトのタイミングに対応している。したがって、最大振幅算出部12および潜時算出部13は、受け取った波形のそれぞれ最大振幅およびそのときの時間を求めれば、上述の最大振幅および潜時が得られることになる。
咀嚼筋電判定部14は、最大振幅算出部12と潜時算出部13から送られた最大振幅と潜時に基づき、メニュー項目ハイライトに対する意図的に表出された咀嚼筋電の有無を判定し、ハイライト型メニュー提示部に結果を送る。判定基準として、たとえば最大振幅・潜時が100±50μV、200±50msの範囲であった場合を検出し、ユーザ5がメニュー項目ハイライト直後に意図的な噛みしめ動作を行ったとしてもよい。また、ユーザごとに最大振幅・潜時の平均値および分散を測定し、それぞれ平均値±標準偏差のように範囲を設定してもよい。
次に、図12のフローチャートを参照しながら、図11のインタフェースシステム1において行われる全体的な処理手順を説明する。
図12は、ユーザがメニュー項目ハイライトの直後に短時間の意図的な噛みしめ動作を行ったか否かの判定を行うインタフェースシステム1の処理手順を示す。
ステップS101において、ハイライト型メニュー提示部100はたとえば4つのメニュー項目の操作メニュー(たとえば図5(a))を提示する。
ステップS102において、ハイライト型メニュー提示部100は次にハイライトするメニュー項目を上から一つずつ順次選択する。
ステップS103において、ステップS102によって選択されたメニュー項目をハイライトする。ハイライトの間隔は咀嚼筋電の潜時の分散よりも大きく、かつユーザ5がハイライトを認識できれば、たとえば100msでもよい。
ステップS104において、生体信号計測部50はユーザ5の電位変化(咀嚼筋電)を計測する。
ステップS20において、咀嚼筋電検出装置10はステップS104で計測した電位波形にメニュー項目ハイライトに対する意図的に表出された咀嚼筋電が含まれるか否かを識別する。ステップS20の詳細な処理手順は後ほど述べる。
ステップS20でYesの場合、ステップS105に進み、Noの場合はステップS102に戻り次のメニュー項目を選択する。
ステップS106において、ハイライト型メニュー提示部100はステップS20によって選択されたメニュー項目に対応する処理を実行する。これにより、そのメニュー項目が選択され、実行される。
このようなインタフェースシステム1によれば、たとえば会話中や食事中であっても、特殊な噛みしめ動作やハイライトの繰り返しなしに短時間でメニュー選択を実現できる。よって機器の操作性が格段に向上する。
図13は、咀嚼筋電検出装置10を構成する生体信号切り出し部11と最大振幅算出部12と潜時算出部13と咀嚼筋電判定部14によって実現され、ユーザ5がメニュー項目ハイライトの直後に意図的な噛みしめ動作を行ったか否かを判定する詳細な手順を示す。
すなわち、図13中のステップS21において、生体信号切り出し部11は生体信号計測部50で計測したユーザ5の鼻根とマストイドの電位変化から、ハイライト型メニュー提示部100においてメニュー項目がハイライトされたタイミングを起点に咀嚼筋電の電位波形を切り出し、ベースライン補正を行う。電位波形を切り出す時間帯はメニュー項目ハイライトのタイミングを0msとしてハイライト後150から300msまでの時間帯を含むように−100から400msとしてもよいし、−300から300msとしてもよい。また、ベースライン補正はメニュー項目ハイライト前100ms間の平均電位を全体から引くという方法で実施してもよいし、任意の時間幅の平均電位を用いて実施してもよい。そして生体信号切り出し部11はベースライン補正後の電位波形を最大振幅算出部12へ送る。
ステップS22において、最大振幅算出部12は生体信号切り出し部11より電位波形を受け取り振幅の最大値を求め、電位波形を潜時算出部13に送る。その一方、求めた最大振幅の情報を咀嚼筋電判定部14に送る。
ステップS23において、潜時算出部13は電位波形の潜時(メニュー項目ハイライトの時刻を0msとして電位波形が最大振幅となる時間)を求め、求めた潜時の情報を咀嚼筋電判定部14に送る。
ステップS24において、咀嚼筋電判定部14は最大振幅算出部12と潜時算出部13から送られた最大振幅と潜時に基づき、メニュー項目ハイライトに対する意図的に表出された咀嚼筋電の有無を判定する。判定基準として、たとえば最大振幅・潜時が100±50μV、200±50msの範囲であった場合を検出してもよいし、最大振幅・潜時の平均値および分散を測定し、それぞれ平均値±標準偏差のように範囲を設定してもよい。ステップS24でYesの場合はステップS25へ、Noの場合はステップS26へ進む。
ステップS25において、咀嚼筋電判定部14はユーザ5がメニュー項目ハイライトの直後に意図的な噛みしめ動作をしたと判定する。
ステップS25において、咀嚼筋電判定部14はユーザ5がメニュー項目ハイライトの直後に噛みしめ動作をしなかったと判定する。
このような処理によって、ハイライト直後にユーザがメニュー選択のために実施した噛みしめ動作が検出できる。
本実施形態の噛みしめインタフェースインタフェースシステム1より、メニュー項目ハイライトを起点とした電位波形の最大振幅・潜時を特徴量に、ハイライト直後の意図的な噛みしめ動作によって発生する咀嚼筋電の検出が可能となる。これにより、短時間でメニュー選択が可能で、かつ会話中・食事中であっても誤動作の少ない、使いやすいインタフェースが実現できる。具体的には、電話をしながらたとえばマルチタスクで携帯電話の他の機能(たとえばインターネット機能等)のメニュー選択を行う場合に、会話によって出現した咀嚼筋電によって誤ってメニュー選択がされる可能性の低いインタフェースが実現できる。また、食事中にTVを見ているときに、たとえばおすすめ番組に関するハイライト型メニューが自動的に提示されても、食事によって出現した咀嚼筋電による誤動作の少ないインタフェースが実現できる。
(実施形態2)
実施形態1によるインタフェースシステム1では、ハイライト型メニュー提示部100はメニュー項目を上から順にハイライトし、ハイライトを起点に約200ms前後に安定して出現する意図的な咀嚼筋電を、最大振幅および潜時を指標に検出することで、短時間でメニュー選択が可能で、かつ会話中・食事中であっても誤動作の少ないインタフェースを実現していた。
本願発明者らは、前述の実験に加えてメニュー項目をランダムな順序でハイライトする条件で追加実験(ランダム実験)を実施した結果、メニュー項目をランダムな順序でハイライトした場合には意図的に表出された咀嚼筋電の最大振幅・潜時が変化することを発見した。
そこで、本実施形態によるインタフェースシステムでは、メニュー項目ハイライトの順序に応じて最大振幅・潜時の検出対象範囲を切り替えて意図的に表出された咀嚼筋電を検出する。これによって、ランダムな順序でメニュー項目をハイライトしても、ハイライト直後の噛みしめ動作によって発生する意図的な咀嚼筋電を高精度で検出できるようになる。ハイライトをランダムな順序で実施することで、たとえば選択したいメニュー項目が下方にあった場合に早くハイライトされる可能性があり、操作時間が短縮されるという利点がある。そのため、ランダムなハイライト順序は機器側でユーザがよく選択するメニュー項目があらかじめ分かっている場合に特に有効である。
まず、ランダム実験について述べる。ランダム実験では、図4のステップS52を変更し、メニュー項目ハイライトの順序をランダムにした。それ以外の実験設定は前述の実験(降順実験)の噛みしめ選択条件と同様であるため、実験の詳細説明は省略する。
図14は、ランダム実験と降順実験の噛みしめ選択条件の結果で、潜時・最大振幅を特徴量としてプロットした図である。横軸はメニュー項目ハイライトの時刻を0msとした時間で単位はms、縦軸は最大振幅で単位はμVである。降順実験の意図的な噛みしめありの場合を○印(40個)、ランダム実験の意図的な噛みしめありの場合を×印(40個)としてプロットしている。ランダム実験においてハイライト直後の咀嚼筋電の最大振幅および潜時が、降順実験の結果と比べてどちらもプラス方向に変化していることが見て分かる。ランダム実験における最大振幅・潜時の平均値±分散は213.0±74.5(μV)・282.9±50.7(ms)であり、降順条件と比べて最大振幅および潜時の平均値・分散値がいずれも増大した。なお、t検定の結果有意に最大振幅・潜時が異なった(p<.05)。この結果、ハイライトの順序に応じて出現する咀嚼筋電の特徴が変化することが明らかとなった。最大振幅・潜時が変化した理由として、ランダムな順序でハイライトされた場合には選択対象項目がハイライトされるタイミングを予測できないため反応が遅れた可能性が考えられる。また、降順条件に比べてランダム実験では最大振幅・潜時の分散が大きくなったことから、降順条件の方が意図的に表出した咀嚼筋電の検出精度が高いことが分かる。よって、メニュー項目のハイライト方法は、メニュー項目数が少ない場合(たとえば10項目以下)の場合には降順に、多い場合にはランダムな順序でハイライトを行うように切り替えてもよい。
両条件の咀嚼筋電の特徴を包含する最大振幅・潜時の範囲を咀嚼筋電の検出対象範囲とした場合、日常生活の咀嚼筋電を誤検出率が向上することが想定される。また、メニュー項目のハイライトの順序は降順またはランダムのどちらかであるため、メニュー項目ハイライトの順序に応じて、最大振幅・潜時の検出対象範囲を切り替えることで対応が可能である。
図15は、本実施形態による咀嚼筋電を用いたインタフェースシステム2(以下「インタフェースシステム2」と記述する。)の機能ブロックの構成を示す。図15はまた、咀嚼筋電検出装置20の詳細な機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。
インタフェースシステム2がインタフェースシステム1(図11)と相違する点は、ハイライト型メニュー提示部100に代えてメニュー項目ハイライトのモードに応じてハイライトの順序を降順/ランダムに切り替え可能なハイライト型メニュー提示部200を備えたこと、および、咀嚼筋電検出装置20の構成のうち降順/ランダム切り替え部21を新たに加えたことである。なお、インタフェースシステム2の構成要素のうち、インタフェースシステム1と同じ構成要素については同じ参照符号を付しその説明を省略する。
ハイライト型メニュー提示部200は、メニュー項目ハイライトの順序に関するモードを切り替えて降順またはランダムにメニュー項目をハイライトする。ランダム実験では最大振幅・潜時の分散が大きくなる傾向があることを考慮して、メニュー項目数が少ない場合(たとえば10項目以下)の場合には降順に、多い場合にはランダムな順序でハイライトを行うように切り替えてもよい。
降順/ランダム切り替え部21は、ハイライト型メニュー提示部200からメニュー項目ハイライトのモードを取得し、咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を変更する。たとえば、検出対象範囲の最大振幅・潜時は、ハイライトの順序が降順の場合には100±50μV・200±50msとし、ランダムの場合には200±100μV・300±100msとしてもよい。
このように構成することで、ハイライトの順序に応じて最大振幅・潜時に関する検出対象範囲の変更ができるため、降順/ランダムに関わらず高精度で咀嚼筋電の検出が可能となる。
次に、図16のフローチャートを参照しながら、インタフェースシステム2において行われる全体的な処理の手順を説明する。
図16は、本実施形態によるインタフェースシステム2の処理手順を示す。図16では、インタフェースシステム1(図12)の処理と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
ステップS201において、ハイライト型メニュー提示部200はメニュー項目ハイライトの順序に関するモードを選択する(降順またはランダム)。
ステップS202において、ハイライト型メニュー提示部200はステップS201で選択したモードに基づき、次にハイライトするメニュー項目を選択する。
ステップS203において、降順/ランダム切り替え部21はハイライト型メニュー提示部200からハイライトのモードを取得し、咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を変更する。たとえば、検出対象範囲の最大振幅・潜時は、ハイライトの順序が降順の場合には100±50μV・200±50msとし、ランダムの場合には200±100μV・300±100msとしてもよい。
このような処理によって、ハイライトの順序に応じて最大振幅・潜時に関する検出対象範囲の変更ができるため、降順/ランダムに関わらず高精度で咀嚼筋電の検出が可能となる。
本実施形態のインタフェースシステム2により、メニュー項目を降順またはランダムにハイライトした場合にも、最大振幅・潜時に関する検出対象範囲を変更することで、高精度な咀嚼筋電の検出が可能となる。これにより、特にメニュー項目数が多い場合にもランダムな順序でのハイライトによって短時間でメニュー選択が可能で、かつ会話中・食事中であっても誤動作の少ない、使いやすいインタフェースが実現できる。
(実施形態3)
実施形態1によるインタフェースシステム1では、ハイライト型メニュー提示部100はメニュー項目を上から順にハイライトし、ハイライトを起点に約200ms前後に安定して出現する意図的な咀嚼筋電を、最大振幅および潜時を指標に検出することで、短時間でメニュー選択が可能で、かつ会話中・食事中であっても誤動作の少ないインタフェースを実現していた。
誤動作を恒常的に少なく維持することが理想であるが、時間の経過により同じような噛みしめ方ができない、電極の装着状態が変化する、等の要因により意図的に表出された咀嚼筋電の特徴が変化する場合があり、咀嚼筋電の検出精度が下がる可能性があった。
たとえば図17は、降順実験を同じ実験参加者に対して別の日に実施した結果を潜時・最大振幅を特徴量としてプロットした図である。横軸はメニュー項目ハイライトの時刻を0msとした時間で単位はms、縦軸は最大振幅で単位はμVである。○印(40個)と×印(40個)は別の日の結果であることを示す。実験参加者には両日とも同様の噛みしめ方をするように指示した。図17から、○印と×印を比較すると最大振幅が異なっているが、○印同士、×印同士のバラつきは小さいことが分かる。また、潜時の変化は小さいことがわかる。○印、×印の最大振幅・潜時(平均±標準偏差)は104.3±32.9(μV)・201.3±37.8(ms)、196.1±61.9(μV)・220.8±53.7(ms)であった。最大振幅が日によって異なる原因として、(1)時間の経過により同じような噛みしめ方ができなくなった、(2)電極の装着状態が異なった、が考えられる。
本実施形態によるインタフェースシステムでは、一定以上の時間が経過した後の最初の選択に対しては、最大振幅・潜時の検出対象範囲を拡大しメニュー項目ハイライトの順序に応じて最大振幅・潜時の検出対象範囲を拡大して意図的に表出された咀嚼筋電を検出し、その咀嚼筋電の最大振幅・潜時から新たに検出対象範囲を決定することで、噛みしめ方や電極の装着状態の変化を吸収し、咀嚼筋電の検出精度を維持する。
図18は、本実施形態による咀嚼筋電を用いたインタフェースシステム3(以下「インタフェースシステム3」と記述する。)の機能ブロックの構成を示す。図18はまた、咀嚼筋電検出装置30の詳細な機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。
インタフェースシステム3がインタフェースシステム1(図11)と相違する点は、咀嚼筋電検出装置20の構成のうち検出対象範囲決定部31を新たに加えたことである。なお、インタフェースシステム2の構成要素のうち、インタフェースシステム1と同じ構成要素については同じ参照符号を付しその説明を省略する。
検出対象範囲決定部31は、ハイライト型メニュー提示部100がユーザ5にメニュー提示をしてからの経過時刻を保持し、前回のメニュー提示から一定以上の時間が経過している場合に、咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を拡大するように変更する。一定時間とはたとえば1時間としてもよいし、1日としてもよい。また検出対象範囲は、範囲を広げる方向であれば最大振幅・潜時はたとえば100±75μV・200±75msとしてもよい。そして、検出対象範囲決定部31は、咀嚼筋電判定部14が意図的に表出された咀嚼筋電を検出した場合、その最大振幅および潜時を取得し、新たな検出対象範囲を設定し、咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を変更する。新たな検出対象範囲は、たとえば取得した最大振幅±50μV・取得した潜時±50msのように決めてもよいし、ユーザごとの最大振幅・潜時の分散に応じて決めてもよい。
このように構成することで、前回のメニュー選択から一定以上時間が経過した場合に噛みしめ方や電極の装着状態の変化を吸収して高精度で咀嚼筋電の検出が可能となる。なお、一定時間経過後にハイライト型メニュー提示部100によりキャリブレーション用のメニュー項目ハイライトの刺激を提示し、キャリブレーション用のメニュー項目ハイライトに対する意図的な咀嚼筋電の最大振幅および潜時を取得し、それ以降のメニュー選択の中心値としてもよい。
次に、図19のフローチャートを参照しながら、インタフェースシステム3において行われる全体的な処理の手順を説明する。
図19は、本実施形態によるインタフェースシステム3の処理手順を示す。図16では、インタフェースシステム1(図12)の処理と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。なお、ステップS20a、ステップS20bは検出対象範囲は異なるがどちらもステップS20と同じ処理である。
ステップS301において、検出対象範囲決定部31はハイライト型メニュー提示部100が最後にメニューを提示してからの経過時間を求める。
ステップS302において、検出対象範囲決定部31はステップS301で求めた経過時間が一定以上であったか否かによって分岐する。ステップS302でYesの場合はステップS303へ、Noの場合はステップS20aへ進む。一定時間とはたとえば1時間としてもよいし、1日としてもよい。
ステップS303において、検出対象範囲決定部31は咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を拡大するように変更する。最大振幅・潜時をたとえば100±75μV・200±75msのように設定してもよい。
ステップS304において、検出対象範囲決定部31は咀嚼筋電判定部14から検出された咀嚼筋電の最大振幅および潜時を取得し、新たな検出対象範囲を設定し、咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を変更する。新たな検出対象範囲は、たとえば取得した最大振幅±50μV・取得した潜時±50msのように決めてもよいし、ユーザごとの最大振幅・潜時の分散を参考に決めてもよい。
このような処理によって、前回のメニュー選択から一定以上時間が経過した場合に噛みしめ方や電極の装着状態の変化を吸収して高精度で咀嚼筋電の検出が可能となる。
本実施形態によるインタフェースシステムでは、一定以上の時間が経過した後の最初の選択に対しては、最大振幅・潜時の検出対象範囲を拡大しメニュー項目ハイライトの順序に応じて最大振幅・潜時の検出対象範囲を拡大して咀嚼筋電を検出し、その咀嚼筋電の最大振幅・潜時から新たに検出対象範囲を決定することで、噛みしめ方や電極の装着状態の変化を吸収し、意図的に表出された咀嚼筋電の検出精度の維持が可能となる。なお、特にユーザが動きながらメニュー選択を行う場合には電極の装着状態が頻繁に変化することが想定されるため、一定時間をたとえば10分のように短く設定して頻繁にキャリブレーションを行ってもよい。
上述の説明では、振幅の単位として「μV」を用いて説明したが、具体的な計測値は、増幅率等の相違により、計測に利用する機器によって異なる場合がある。たとえば本願発明者が生体信号計測部として用いた機器は、デジテックス研究所製のAP1124である。当該機器とは異なる機器を用いて咀嚼筋電を計測した場合には、同じユーザでそれぞれ計測した振幅の大きさに基づいて、たとえば変換倍率を決定して、当該倍率を適用して本願明細書を読み替えればよい。
また、実施形態の説明では、生体信号切り出し部を設け、メニュー項目ハイライトのタイミングを起点として、生体信号計測部50からリアルタイムで送られる咀嚼筋電の電位波形を切り出すとして説明した。しかしながら、生体信号切り出し部を設けることは必須ではない。たとえば生体信号計測部50がメニュー項目ハイライトのタイミングで計測結果を出力するようにしてもよいし、生体信号計測部50には常時計測を送信させ、メニュー項目ハイライトのタイミングに基づいて咀嚼筋電検出装置10で受信するかどうかを決定してもよい。
また、メニュー項目のハイライト前に、ハイライト型メニュー提示部が、ユーザに噛みしめ動作による機器操作を認識してもらうための表示を出力部7にしてもよい。たとえば、「選択したいと思ったメニュー項目がハイライトされた時に、噛みしめ動作を行って下さい。」などの表示を行えばよい。ユーザが咀嚼することにより、複数のメニュー項目のうち所望のメニュー項目を選択するインタフェースシステムであることを認識させることができる。
上述の実施形態に関して、フローチャートを用いて説明した処理はコンピュータに実行されるプログラムとして実現され得る。そのようなコンピュータプログラムは、CD−ROM等の記録媒体に記録されて製品として市場に流通され、または、インターネット等の電気通信回線を通じて伝送される。咀嚼筋電検出装置を構成する全部または一部の構成要素や、ハイライト型メニュー提示部は、コンピュータプログラムを実行する汎用のプロセッサ(半導体回路)として実現される。または、そのようなコンピュータプログラムとプロセッサとが一体化された専用プロセッサとして実現される。咀嚼筋電検出装置の機能を実現するコンピュータプログラムは、インタフェースシステムの機能を実現するためのコンピュータプログラムを実行するプロセッサによって実行されてもよいし、インタフェースシステム内の他のプロセッサによって実行されてもよい。そのようなコンピュータプログラムは、プロセッサによって実行されることにより、出力部への出力や、生体信号計測部での咀嚼筋電計測を制御することが可能である。
なお、上述の各実施形態の説明では、テレビの放送番組のチャンネル切り替え操作を例に挙げたが、これは例である。テレビ画面の操作に関する場合のみならず、他の機器の操作にも適用できる。たとえば電子レンジのような家電製品の表示ディスプレイに順次またはランダムに調理項目が表示される場合にも本願発明は適用可能である。
本発明の咀嚼筋電検出装置および咀嚼筋電検出装置が組み込まれたインタフェースシステムによれば、メガネ装着時に自然に接触する部位で計測した電位に基づき、ユーザはハイライトされるメニュー項目を短時間で選択できる。たとえばボタン等のインタフェース部が小さく操作入力が難しいウェアラブル機器(ヘッドマウントディスプレイや音楽プレーヤ)の操作がハンズフリーで実現できる。
5 ユーザ
7 出力部
7a 画面
10 咀嚼筋電検出装置
11 生体信号切り出し部
12 最大振幅算出部
13 潜時算出部
14 咀嚼筋電判定部
21 降順/ランダム切り替え部
31 検出対象決定部
50 生体信号計測部
100 ハイライト型メニュー提示部
200 ハイライト型メニュー提示部
本発明は、機器のインタフェースシステムに関する。より具体的には、本発明は、ユーザの生体情報(頭部周辺で計測可能な筋電)を利用した機器のインタフェースシステムに関する。
近年、テレビ・携帯電話・ヘッドマウントディスプレイ(HMD:Head Mount Display)等の様々な種類の情報機器が普及し生活に入り込んできている。そのため、ユーザは普段の生活の多くの場面において情報機器を操作する必要が生じている。
通常、ユーザは手を使ってボタン等の入力手段(インタフェース部)を介して入力コマンドを入力し、それにより、機器の操作を実現している。しかし、たとえば、家事/育児/運転をしているときなど、両手が機器操作以外のタスクで塞がっている状況では手を使ってインタフェース部を操作することが困難となり、機器操作を実現できなかった。また、頸髄損傷等により、手を自由に動かすことができないユーザにとっても、手を使ってボタンを操作することが困難であった。そのため、ハンズフリーで機器を操作したいというユーザのニーズが高まっている。
このようなニーズに対して、生体信号として頭部周辺で計測され、下顎骨の運動に関わる咀嚼筋の活動によって発生する筋電(以下、本明細書において「咀嚼筋電」(Masticatory electromyogram)と呼ぶ。)を利用した入力手段が開発されている。
咀嚼筋電は、たとえば日常生活における会話や、物を食べる咀嚼に起因する顎関節の動作によっても発生する。そのため、咀嚼筋電を利用したインタフェースを実現するためには、日常生活で発生する咀嚼筋電と、操作のためにユーザが意図的に行った咀嚼筋の活動によって出現した咀嚼筋電とを区別する必要があった。しかしながら、意図的であってもなくても噛みしめ動作によって出現する咀嚼筋電の特徴(周波数・振幅等)には差がないため、所定の期間中に連続的に計測した咀嚼筋電のうちから、意図的に表出された咀嚼筋電のみを検出することは困難であった。
そこで、たとえば、特許文献1では、日常生活では発生しない特殊な噛みしめ動作をユーザに行わせることで、意図的な咀嚼筋電のみを検出し車椅子の制御信号として用いる技術が開示されている。この技術は、特殊な噛みしめ動作によって発生した特殊な咀嚼筋電は、日常生活の咀嚼筋電から区別することが可能であるという根拠に基づくものである。
特許文献1では、特殊な噛みしめ動作として、(1)数百ミリ秒(以下「ms」と記述する。)以上の持続的噛みしめ動作、(2)左側のみ/右側のみの噛みしめ動作、等をユーザにさせている。その上で、左右の額に貼り付けた複数個の電極で計測された電位の差分値を閾値処理する方法で、それらの特殊な噛み方によって発生した意図的な咀嚼筋電を検出していた。この特殊な噛みしめ方法を利用することにより、電動車椅子の制御に関して、(1)持続的な操作信号を発生させることが可能となり、持続的な走行が実現できること(すなわち、信号ONの時間区間が指定できアクセル代わりに利用できること)、および、(2)左右の噛み分けが電動車椅子の左右の旋回に対応しており分かりやすい入力方法であること、からユーザにとって負担が少ないインタフェースを実現している。
一方、生体信号として脳波の事象関連電位を用いてユーザが選択したいと思っている選択肢を識別する入力手段が開発されている。非特許文献1では、選択肢をランダムにハイライトし、選択肢がハイライトされたタイミングを起点に約300ms後に出現する事象関連電位のP3成分を利用して、ユーザが選択したいと思っている選択肢を検出する技術が開示されている。この技術によって、ユーザは手を使うことなく、選択したいと思った選択肢の選択が可能となる。
しかしながら、特許文献1に記載の咀嚼筋電を利用した入力方法は、意図的な咀嚼筋電と日常生活の咀嚼筋電とを区別するために特殊な(持続的・特徴的な)噛みしめ動作をユーザに要求している。そのために、(1)短時間で操作入力できない、(2)特殊な噛みしめ方の種類に制限があるためコマンド数が限られる、といった課題があった。これらは、即時的な操作入力が求められ、かつコマンド数が多い、テレビ・携帯電話・HMD等の情報機器のインタフェースとして適用する場合には特に問題となる。
一方、非特許文献1に記載の脳波を用いた入力方法は、ハイライトされるメニュー項目に対して選択するか否かのユーザの選択意図(1ビットの情報)を出力するだけでメニュー項目の選択ができるため、ユーザは全てのコマンドを同じ方法で選択できるという利点がある。
しかしながら、S/Nの低い事象関連電位を識別するため、5から10回程度の加算平均(ハイライトの繰り返し)が必要であり、短時間で確実なメニュー選択が実現できないという課題があった。
さらに、電極装着位置に関しても課題があった。特許文献1では左右の噛みしめの違いを検出するために額の左右に複数個、非特許文献1ではP3成分を検出するために少なくとも頭頂部に一つ、電極を装着する必要があった。そのため電極装着がユーザにとって負担となっていた。
本発明の目的は、たとえば会話中や食事中のように日常生活の咀嚼筋電が発生する状況においても、特殊な噛みしめ動作やハイライトの繰り返しなしに、短時間でメニュー選択が可能なインタフェースシステムを提供することにある。
本発明によるインタフェースシステムは、機器の操作メニューを視覚的に提示する出力部と、ユーザの咀嚼筋電を計測する計測部と、前記操作メニューを構成する各メニュー項目を、前記出力部を介して順次提示するメニュー提示部と、前記咀嚼筋電の電位波形の最大振幅を求める振幅算出部と、各メニュー項目がハイライトされた時刻を起点に、前記電位波形が前記最大振幅となる時間である潜時を求める潜時算出部と、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にあるか否かを判定する判定部とを備え、前記判定部の判定結果に応じて、前記メニュー提示部は、ハイライトされた前記メニュー項目に対応する処理を実行する。
前記判定部が、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にあると判定したときにおいて、前記咀嚼筋電が意図的に表出されたとして、前記メニュー提示部は、ハイライトされた前記メニュー項目に対応する処理を実行してもよい。
前記計測部は、前記ユーザの鼻根およびマストイドに装着した電極によって計測される電位差により、前記咀嚼筋電を計測してもよい。
前記インタフェースシステムは、さらに、前記メニュー提示部の各メニュー項目のハイライトに応じて、前記咀嚼筋電の電位波形を切り出す切り出し部とを備え、振幅算出部は、切り出された電位波形の最大振幅を求めてもよい。
前記切り出し部は、少なくともハイライトに対する咀嚼筋電が出現するハイライト後150msから250msを含む時間帯を切り出してもよい。
前記判定部は、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にある場合には、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されたと判定し、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にない場合には、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されていないと判定してもよい。
前記判定部は、前記最大振幅があらかじめ定められた閾値である50μVよりも大きく、かつ、潜時が200ms前後の範囲内にあるか否かに基づいて、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されたことを判定してもよい。
前記判定部は、ユーザごとに最大振幅および潜時の各平均値および各分散値を取得し、取得した前記平均値および分散値に基づき、それぞれの平均値±標準偏差の範囲を検出対象範囲として、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されたことを判定してもよい。
前記判定部は、取得した前記最大振幅±50μV、かつ、取得した前記潜時±50msの範囲を検出対象範囲として、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されたことを判定してもよい。
前記メニュー提示部において、メニュー項目ハイライトの順序を降順またはランダムに切り替えて、前記メニュー提示部においてメニュー項目が降順またはランダムのどちらの順序で切り替えられていたかを取得し、前記判定部の検出対象範囲を切り替える切り替え部が備えられていてもよい。
前記メニュー項目ハイライトの順序がランダムの場合には、前記切り替え部は、最大振幅および潜時の検出対象範囲を、それぞれ200±70μVおよび280±50msに切り替えてもよい。
前記メニュー提示部において最後にメニューが提示されてからの経過時間を保持し、一定時間以上経過していた場合には、前記判定部の検出対象範囲を拡大する方向に設定する範囲決定部が備えられていてもよい。
前記範囲決定部で前記検出対象範囲を拡大した後に前記咀嚼筋電が検出された場合において、前記範囲決定部は、検出された咀嚼筋電の最大振幅および潜時値を新たに検出対象範囲の中心値に設定してもよい。
本発明による方法は、インタフェースシステムにおいて実行される方法であって、機器の操作メニューを視覚的に提示するステップと、計測されたユーザの咀嚼筋電を受け取るステップと、前記操作メニューを構成する各メニュー項目を、前記出力部を介して順次提示するステップと、前記咀嚼筋電の電位波形の最大振幅を求めるステップと、各メニュー項目がハイライトされた時刻を起点に、前記電位波形が前記最大振幅となる時間である潜時を求めるステップと、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にあるか否かを判定するステップと、前記判定するステップの判定結果に応じて、ハイライトされた前記メニュー項目に対応する処理を実行するステップとを包含する。
本発明による、コンピュータによって実行されるコンピュータプログラムは、前記コンピュータに対し、機器の操作メニューを視覚的に提示するステップと、計測されたユーザの咀嚼筋電を受け取るステップと、前記操作メニューを構成する各メニュー項目を、前記出力部を介して順次提示するステップと、前記咀嚼筋電の電位波形の最大振幅を求めるステップと、各メニュー項目がハイライトされた時刻を起点に、前記電位波形が前記最大振幅となる時間である潜時を求めるステップと、前記最大振幅があらかじめ定められた閾値よりも大きく、かつ、潜時が200ms前後の範囲内にあるか否かを判定するステップと、前記判定するステップの判定結果に応じて、ハイライトされた前記メニュー項目に対応する処理を実行するステップとを実行させる。
本発明のインタフェースシステムによれば、メニュー項目ハイライトを起点に切り出した頭部周辺の電位変化(咀嚼筋電)を計測して、咀嚼筋電の最大振幅があらかじめ定められた閾値(たとえば50μV)よりも大きく、かつ、潜時が200ms前後の範囲内にあるか否かに基づいて、計測された前記咀嚼筋電が、前記メニュー項目のハイライトに対して意図的に表出されたといえるか否かを判定する。これにより、たとえば会話中や食事中のように日常生活の咀嚼筋電が発生する状況においても、特殊な噛みしめ動作やハイライトの繰り返しなしに、短時間でメニュー選択が可能なハンズフリーインタフェースを実現できる。
ハイライト型メニュー提示方法を時系列的に示す図である。
人体の頭部周辺に存在する咀嚼筋201を示す。
(a)〜(d)は、咀嚼筋電を計測するために装着する電極の位置を示す図である。
本願発明者らが行った実験中にハイライト型メニュー提示および電位計測を行う機器の処理手順を示すフローチャートである。
(a)は実際に被験者に提示したメニュー項目を簡略化した図であり、(b)はハイライトの例を示す図である。
(a)は噛みしめ選択条件の参加者側のフローを示した図であり、(b)は喋る条件・食べる条件の参加者側の処理手順を示すフローチャートである。
(a)〜(c)は実験結果の一例を示す図である。
(a)は、噛みしめ選択条件における意図的な噛みしめ動作あり/なしのハイライトごとに切り出した電位波形を、潜時および最大振幅を特徴量としてプロットした図であり、(b)は、噛みしめ選択条件の意図的な噛みしめありの場合の咀嚼筋電と、喋る・食べる条件での咀嚼筋電を、潜時・最大振幅を特徴量としてプロットした図である。
咀嚼筋電を用いたインタフェースシステム1の構成および利用環境を示す図である。
インタフェースシステム1においてTV2を操作し、ユーザ5が視聴したい番組を選択して見るときの例を示す図である。
実施形態1によるインタフェースシステム1の機能ブロックの構成を示す図である。
ユーザがメニュー項目ハイライトの直後に短時間の意図的な噛みしめ動作を行ったか否かの判定を行うインタフェースシステム1の処理手順を示すフローチャートである。
ユーザ5がメニュー項目ハイライトの直後に意図的な噛みしめ動作を行ったか否かを判定する咀嚼筋電検出装置10の詳細な処理手順を示すフローチャートである。
ランダム実験と降順実験の噛みしめ選択条件の結果で、潜時・最大振幅を特徴量としてプロットした図である。
実施形態2によるインタフェースシステム2の機能ブロックの構成を示す図である。
実施形態2によるインタフェースシステム2の処理手順を示すフローチャートである。
降順実験を同じ実験参加者に対して別の日に実施した結果を潜時・最大振幅を特徴量としてプロットした図である。
実施形態3によるインタフェースシステム3の機能ブロックの構成を示す図である。
実施形態3によるインタフェースシステム3の処理手順を示すフローチャートである。
以下、添付の図面を参照しながら、本発明による咀嚼筋電を用いたインタフェースシステムの実施形態を説明する。
本願発明者らは、実行すべき機器操作に関連して提示されたメニュー項目が一つずつハイライトされる状況で、ユーザが選択対象のメニュー項目のハイライトと同時またはその直後に意図的な噛みしめ動作を行ったとき、その噛みしめ動作を的確に検出する方法を見出した。具体的には、ユーザが選択対象のメニュー項目のハイライトと同時またはその直後に意図的な噛みしめ動作を行ったときに、ユーザの鼻根部とマストイド(メガネ装着時にメガネが耳に接触する位置)との電位から咀嚼筋電を計測すると、メニュー項目のハイライトを起点に切り出した咀嚼筋電の電位波形の最大振幅・潜時がそれぞれ100μV前後・200ms前後に安定して出現することを発見した。また最大振幅および潜時を指標に、日常生活の咀嚼筋電と区別して検出できることを見出した。この結果、咀嚼筋電に基づいて、ユーザの意図的な噛みしめ動作を識別して、ユーザの選択意図を検出することが可能となる。
なお、本明細書では、「100μV前後」や「200ms前後」など、数値Xの「前後」という表現を用いている。これは「約」Xとも記載される。いずれも、数値Xを含む範囲を包含する意図である。その範囲がどの程度まで広がるかは、その数値に対応する生体信号の個人差や、対象とする数値の計測誤差などの複合的な要因を考慮して決定される必要がある。そのような生体信号が出現しているか否かを検出するために、実施形態においては「検出対象範囲」を定めている。その検出対象範囲を「X前後」としてとらえてもよい。たとえば、咀嚼筋電の電位波形の最大振幅が「100μV前後」であるときは、100±50μVを意味するとしてもよい。また、潜時が「200ms前後」であるときは、200±50msを含む時間帯を意味するとしてもよい。
以下では、まずハイライト型メニュー提示方法について説明し、選択対象のメニュー項目ハイライトに対する意図的な噛みしめ動作によって出現する咀嚼筋電の特徴を探索するために、本願発明者らが実施した実験およびメニュー項目ハイライトに対する意図的な咀嚼筋電の特徴に関する発見について説明する。
その後、実施形態として、ハイライト型メニュー提示を行うインタフェースシステムの概要および、咀嚼筋電検出装置を含むインタフェースシステムの構成および動作を説明する。
図1は、ハイライト型メニュー提示方法を時系列的に示す図である。画面7a−1から画面7a−4は4つの機器の操作メニューを一つずつハイライトしている様子を示している。
本明細書においては、図1に示した機器操作に関する選択肢群を「メニュー」、選択肢の一つ一つを「メニュー項目」、ユーザが選択したいと思っているメニュー項目を「選択対象項目」と定義する。
このようにメニュー項目が画面上でハイライトされることで、ユーザはハイライトされるメニュー項目に対してユーザの選択意図の有無(1ビットの情報)を出力するだけで、メニュー項目が選択できる。
ここで、ハイライト型メニュー提示のメニュー選択を短時間で行うためには、(1)ハイライトを繰り返さない、(2)ハイライトの間隔を短く設定する、という条件が必要である。
たとえば、非特許文献1に記載の事象関連電位のP3成分を用いると、ユーザの選択意図を検出することも可能である。ここで、「事象関連電位」とは、外的あるいは内的な事象に時間的に関連して生じる脳の一過性の電位変動をいい、その「P3成分」とは、一般には事象関連電位のうちの、聴覚、視覚、体性感覚などの感覚刺激の種類に関係なく起点から約300ms付近に現れる事象関連電位の陽性の成分を示すものとして扱われることが多い。
P3成分を用いる場合、熟練したユーザであればハイライトの時間間隔は125msでも選択意図を検出可能であることが分かっており、たとえばメニュー項目数が4つであれば一通り全てのメニュー項目をハイライトするための所要時間は500msと短時間である。しかし、事象関連電位のP3成分はS/Nが低いため、精度よく選択意図を検出するためにはハイライトの繰り返しが必要になる。たとえばハイライトを5回繰り返した場合には選択意図の出力に2.5秒もの時間を要する。
一方、ハイライト型メニュー提示に対する咀嚼筋電を計測した例はない。しかしながら、特許文献1のように特殊(持続的・特徴的)な噛みしめ動作によって発生する咀嚼筋電を検出してハイライトされたメニュー項目を選択する方法も考えられる。咀嚼筋電はS/Nが高いため加算平均のためのハイライトの繰り返しが不要という特長がある。
ところが、ハイライトのオンセットと意図的な咀嚼に起因する特殊な咀嚼筋電の時間関係が分からないため、ハイライト間隔を短く設定できないと考えられる。そのため、たとえば1秒以上が必要となる。よって、短時間でのメニュー選択は困難であると考えられる。さらに、日常生活では発生しない長時間の噛みしめ動作を検出対象とするため、操作意図の検出が遅れるという問題も予想される。
そこで、本願発明者らは、ハイライト型メニュー提示においてハイライトとの直後に意図的な噛みしめ動作を行った場合に出現する咀嚼筋電の特徴、特にハイライトのオンセットとの時間的関係を明らかにするために、選択対象項目のハイライト直後に短時間の噛みしめ動作を行う条件で咀嚼筋電の特徴を探索する実験を実施した。その結果、選択対象項目ハイライトに対して意図的な咀嚼が行われた際には、咀嚼筋電は、最大振幅100μV前後でかつハイライト後200ms前後に安定して出現することを発見した。さらに、選択対象項目ハイライトに対して意図的に表出された咀嚼筋電(非加算)は、ハイライトを起点に切り出した電位波形の最大振幅・潜時を特徴量として日常生活によって発生した咀嚼筋電とは区別できることを見出した。これにより、たとえば会話中や食事中のように日常生活の咀嚼筋電が発生する状況においても、特殊な噛みしめ動作やハイライトの繰り返しなしに、短時間でメニュー選択が可能なインタフェースシステムを実現できる。
以下、図2から図6を参照しながら実験および実験結果について説明する。実験は、2名の実験参加者(男性)に対して実施した。
図2は、人体の頭部周辺に存在する咀嚼筋201を示す。咀嚼筋201は、咬筋・側頭筋・外側翼突筋・内側翼突筋の総称であるが、図2においてはその各々は区別していない。
このような咀嚼筋201に対して、次に、咀嚼筋電を計測するための電極装着位置を説明する。電極は、人体頭部周辺の種々の位置に装着され得る。
たとえば図3(a)および(b)に示すように、電極は、目の上(眼窩の上縁)、目の横(眼窩の外縁(外眼瞼角))、鼻根、耳の上(耳付根上部)に装着される。
いわゆるヘッドマウントディスプレイ(HMD)に咀嚼筋電の計測機能を設けるとする。そのHMD形状および装着範囲を考察すると、頭部周辺には、眼電計測で利用されている顔面部の電極に加えて、耳朶部、耳後部(耳の付け根の後部)、耳下部(耳の付け根の下部)、耳前部などの耳周辺部も計測対象として利用することが可能である。図3(b)には、耳朶、マストイド、耳珠、耳付根後部等が示されている。
本願発明者らは、上記耳周辺部を代表して、耳の裏の付け根の頭蓋骨の突起部であるマストイド(乳様突起)を選択し、従来顔面部で利用されていた電極の位置に対し、マストイドを基準極としたインタフェースシステムの識別率評価実験を実施した。
図3(c)は、電位計測のための電極装着位置を示した図である。電極は鼻根部およびマストイドに装着し、マストイドを基準とした鼻根の電位を計測した。鼻根部・マストイドはメガネ装着時にそれぞれノーズパッド・イヤーパッドが接触する部分であり、メガネ型デバイス装着時に自然に計測ができる位置である(図3(d))。図3(c)には現れていないが基準電極とは反対側のマストイドにシステムリファレンスを装着した。
電極の装着位置は、咀嚼筋をまたぐように設けられている。「またぐ」とは、一方の電極が咀嚼筋上の皮膚に配置され、他方の電極が、咀嚼筋が存在しない位置の皮膚に配置されることをいう。そのような条件で装着すると、咀嚼筋の活動に起因する咀嚼筋電を確実に計測することができる。ただし、上述した電極の装着位置は一例であり、咀嚼筋をまたぐことによって咀嚼筋電を検出することが可能な電極配置は他にも存在し得ることに留意されたい。電位変化は、サンプリング周波数200Hz、時定数1秒で計測した。
視覚刺激として図1に示した4つのメニュー項目を降順にハイライトするハイライト型メニューを提示した。ハイライトの間隔は350msとした。視覚刺激は、被験者の目前2mに設置した37インチのプラズマディスプレイに提示した。
メニュー項目ハイライトに対する意図的な噛みしめ動作によって発生する咀嚼筋電と日常生活で発生する咀嚼筋電の区別ができるか否かを調べるために、条件を変えて実験を実施した。いずれの実験においてもハイライト型メニュー提示は同様に行ない、実験参加者にはハイライト中はメニュー項目を見るように指示をした。以下、3つの実験条件をそれぞれ説明する。
(1)噛みしめ選択条件:選択対象項目のハイライトに対して意図的な噛みしめ動作を行う条件である。より具体的には、指示された噛みしめ方法でハイライトに対して意図的な噛みしめ動作を行う、という課題を課した条件である。
本明細書における「意図的な噛みしめ」とは、例えば、歯を軽くかみ合わせた状態(つまり、上顎の歯と下顎の歯とを接触させた状態)にした後に、その状態から噛む力の圧力をかけた状態にすることをいう。本願発明者らは、噛みしめ選択条件における噛みしめ方法として、選択対象項目のハイライト直後に歯を軽く合わせた状態から短時間噛みしめるよう指示をした。
(2)喋る条件:メニュー項目のハイライトを見ながら喋り続ける、という課題を課した条件である。
(3)食べる条件:メニュー項目のハイライトを見ながらご飯を食べる、という課題を課した条件である。
図4を用いて、実験中にハイライト型メニュー提示および電位計測を行う機器側のフローを説明する。機器側のフローは、上記3条件共に同様である。
ステップS50は、被験者の電位(咀嚼筋電)の計測を開始するステップである。
ステップS51は、ハイライト型メニューの4つのメニュー項目を提示し、メニュー項目の種類をユーザに示すステップである。図5(a)は、実際に被験者に提示したメニュー項目を簡略化した図である。本願発明者らの実験では2秒間提示した。なお、ステップS51は、メニュー項目ハイライト開始の前に計測電位を安定させ、眼電等のノイズを低減させる効果もある。
ステップS52は、次にハイライトするメニュー項目を降順に選択するステップである。
ステップS53は、ステップS52で選択したメニュー項目を350ms間ハイライトするステップである。図5(b)はハイライトの例を示す図である。図5(b)に示したように、メニュー項目自体をハイライトしてもよいし、ハイライトに変えてまたはハイライトと同時に矢印等で示してもよい。なお、図5(a)および(b)は相互に関連はなく、それぞれが一例として記載されている。
ステップS54は、ステップS53でメニュー項目がハイライトされた時刻を0msとしてハイライト前100ms(以下、−100msとする)、ハイライト後400msの電位波形を切り出すステップである。切り出した電位波形はハイライト前100msの平均電位を用いてベースライン補正を行う。
ステップS55は、メニュー項目がハイライトされた回数nによる分岐で、ハイライトの回数がメニュー項目数より少ない場合にはステップS52に進み、全てのメニュー項目を一通りハイライトする。咀嚼筋電は信号強度が強いのでハイライトの繰り返しは不要であると想定できる。
前述のステップS50からステップS55によって、各メニュー項目が一通りハイライトされたときの、ハイライトを起点とした電位波形が4本分収録できる。
次に、図6(a)および(b)を用いて実験中の参加者側のフローを説明する。図6(a)は、噛みしめ選択条件の参加者側のフローを示した図である。
ステップS61は、図4中のステップS51によって提示されたメニューを見るステップである。被験者はメニュー項目の上から順に選択するようあらかじめ指示されており、ここで選択対象のメニュー項目に視線を移動する。選択対象項目の指示は、実際に噛みしめインタフェースを用いる場合にユーザが実現したいと思う機器動作にあたる。
ステップS62は、図4中のステップS52からS55によって提示されるメニュー項目のハイライトを見て、選択対象のメニュー項目がハイライトされたかどうかによる分岐で、ステップS62でYesの場合はステップS63へ、Noの場合はステップS61に進む。
ステップS63は、ステップS61で選択対象のメニュー項目がハイライトされた場合にハイライトの直後に短時間の噛みしめ動作を行うステップである。噛みしめ動作は、あらかじめ指示されたように「歯を軽く合わせた状態から短時間噛みしめる」方法で行う。
ステップS64は、ハイライトが終了したかどうかによる分岐で、ステップS64でYesの場合には終了へ、Noの場合にはステップS61へそれぞれ進む。
図6(b)は、喋る条件・食べる条件の参加者側のフローを示した図である。図6(a)に示す選択条件と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
噛みしめ選択条件との差異は、メニュー選択のための咀嚼筋電を出すためのステップS62およびステップS63の代わりにステップS65が行われる点である。
ステップS65は、あらかじめ指示された通りに、喋る条件では連続的に喋る、食べる条件では連続的にご飯を食べる、という行為を実行するステップである。
図7(a)〜(c)は実験結果の一例を示す。図7(a)〜(c)は、ハイライトを起点に−100〜400msまでの電位変化を切り出した電位波形を同じスケールで示したものであり、横軸は時間で単位はms、縦軸は電位で単位はμVである。スケールは図7(a)のみに記載している。
図7(a)は、噛みしめ選択条件の結果で、選択対象項目ハイライトに対して意図的な噛みしめ動作を行った場合の電位波形を太実線、選択対象外項目ハイライトに対して噛みしめを行わなかった場合の電位波形を細実線で示した。噛みしめ動作を行った場合には、選択対象項目のハイライトを起点に約200msに高振幅・高周波数の陽性電位が出現していることが分かる。
図7(b)は、喋る条件の結果で、メニュー項目ハイライトに関わらず喋り続けた場合の電位波形である。ハイライトごとに条件の差がないため全てのハイライトに対する波形を細実線で示している。それぞれの電位波形は高振幅であるが緩やかな変動であることが分かる。
図7(c)は、食べる条件の結果で、メニュー項目ハイライトに関わらずご飯を食べている場合の電位波形である。ハイライトごとに条件の差異がないため全てのハイライトに対する波形を細実線で示している。高振幅・高周波数な変化と高振幅・低周波数の電位変化の両方が混在していることが分かる。
以下、噛みしめ選択条件の意図的に表出された咀嚼筋電は本願発明者らが識別に用いる特徴量を用いることで、(1)噛みしめ選択条件の噛みしめなし条件の咀嚼筋電の電位波形、(2)日常生活において喋る・食べるによって発生した咀嚼筋電の電位波形が識別可能となることを説明する。
図8(a)は、噛みしめ選択条件における意図的な噛みしめ動作あり/なしのハイライトごとに切り出した電位波形を、潜時および最大振幅を特徴量としてプロットした図である。ここで「潜時」とは、メニュー項目がハイライトされた時刻を起点とした、最大振幅をとる時刻を意味する。メニュー項目がハイライトされた時刻は、図8(a)の横軸に示されており、単位はmsである。縦軸は最大振幅を示しており、単位はμVである。意図的な噛みしめありの場合を○印(40個)、噛みしめなしの場合を×印(80個)としてプロットしている。
図8(a)より、メニュー項目ハイライト直後の噛みしめ動作によって発生する咀嚼筋電は、最大振幅・潜時の分散が小さいことがわかる。咀嚼筋電の最大振幅・潜時の平均値±分散は104.3±32.9(μV)・201.3±37.8(ms)であった。これにより、選択対象項目ハイライトに対する意図的な咀嚼筋電は潜時約200ms前後で最大振幅約100μV前後に特徴的に出現するといえる。これは、本願発明者らがハイライト型メニューを提示する条件で実験を実施し、メニュー項目ハイライトを起点に電位波形を切り出して意図的に表出された咀嚼筋電の特徴を分析した結果初めて明らかとなったことであり、本願発明者らの発見といえる。
また、図8(a)より、意図的な噛みしめあり/なしは最大振幅のみでの識別可能であることが見てとれる。噛みしめなしの場合の最大振幅は23.4±18.1(平均±標準偏差)であった。最大振幅の両側t検定を実施した結果p<0.001で有意差があった。たとえば閾値を50μVに設定して識別を行った場合の識別率は97.5%であるため、メニュー項目ハイライト直後の意図的な噛みしめ動作による咀嚼筋電は、噛みしめなしの場合から識別できるといえる。
図8(b)は、噛みしめ選択条件の意図的な噛みしめありの場合の咀嚼筋電と、喋る・食べる条件での咀嚼筋電を、潜時・最大振幅を特徴量としてプロットした図である。図8(b)の横軸は潜時(ms)で、縦軸は最大振幅(μV)である。意図的な噛みしめありの場合を○印、喋る条件を*印、食べる条件を×印として示している。なお、意図的な噛みしめありの場合のプロット(○印)は図8(a)と同じデータである。
喋る条件・食べる条件における最大振幅は、それぞれ43.7±30.0・316.2±144.4(平均±標準偏差)であった。前述の噛みしめあり/なしの識別と同様に最大振幅を例えば50μVで閾値処理した場合には、喋る条件の30%、食べる条件の95%を誤検出してしまうため、最大振幅のみを用いて高精度の識別を実現することは困難である。
そこで、噛みしめ選択条件の咀嚼筋電の最大振幅・潜時の分散が小さいという前述の発見に基づき、ハイライト型メニュー提示条件ならではの潜時の概念を導入して識別を試みた。たとえば最大振幅・潜時が50−150μV、150−200msの範囲を選択対象項目ハイライトに対する咀嚼筋電として検出すると、噛みしめ選択条件の咀嚼筋電の85%が正しく検出され、喋る条件・食べる条件の誤検出率はそれぞれ12.5%・2.5%にとどまった。これにより、最大振幅・潜時の範囲限定により、選択対象項目ハイライトに対する咀嚼筋電は日常生活で咀嚼筋電が発生する状況においても、ハイライトに対する意図的な咀嚼筋電を高精度に検出できる。結果、たとえば会話中や食事中であっても誤動作の少ない噛みしめインタフェースが実現できる。
以下の実施形態において説明するインタフェースシステムは、ハイライト直後の意図的な噛みしめ動作によって出現する咀嚼筋電を最大振幅・潜時を指標に検出して、たとえば会話中や食事中のように日常生活の咀嚼筋電が発生する状況においても、特殊な噛みしめ動作やハイライトの繰り返しなしに、短時間でメニュー選択が可能なインタフェースシステムを実現する。これは、本願発明者らが実験によって見出したハイライトに対して意図的に表出された咀嚼筋電の特徴に基づく。
(実施形態1)
以下では、まず、ハイライト型メニュー提示を行うインタフェースシステムの概要を述べる。その後、咀嚼筋電検出装置を含む本実施形態によるインタフェースシステムの構成および動作を説明する。
図9は、咀嚼筋電を用いたインタフェースシステム1(以下「インタフェースシステム1」と記述する)の構成および利用環境を示す。このインタフェースシステム1は後述する実施形態1のシステム構成に対応させて例示している。
インタフェースシステム1は、ユーザ5の頭部周辺で計測される電気的生体信号(咀嚼筋電)を利用してハイライト型メニュー提示部100によって出力部7に提示されたメニュー項目を選択してTV2を操作するインタフェースを提供するためのシステムである。ユーザ5の鼻根部(メガネのノーズパットが接触する部分)に貼り付けた電極Aとマストイド(メガネのイヤーパッドが接触する部位)に貼り付けた電極Bの電位差が生体信号計測部50により取得され、無線または有線で咀嚼筋電検出装置10に送信される。TV2に内蔵された咀嚼筋電検出装置10は、送信された電位変化を利用してユーザのメニュー選択意図を検出し、チャンネルの切り替えなどの処理を行う。
なお、図9ではメガネ型の操作デバイス(生体信号計測部50)によって、別体のTV2を操作する例を示したが、たとえばヘッドマウントディスプレイ(HMD)を想定した場合には、出力部7・ハイライト型メニュー提示部100・咀嚼筋電検出装置10の全ての構成要素をHMD内に収めてもよい。HMDを装着した場合にも、鼻根部とマストイドは自然にユーザ5と接触する部位である。
図10は、インタフェースシステム1においてTV2を操作し、ユーザ5が視聴したい番組を選択して見るときの例を示す。
図10上部の画面7a−1から画面7a-4は、ハイライト型メニュー提示部100がTV2の画面7aを介してユーザに提示するメニューの例である。図10では、画面7a−1・画面7a−2において、それぞれ「野球」・「天気」・「アニメ」・「ニュース」の4つのメニュー項目のうち、「野球」・「天気予報」というメニュー項目がハイライトされる様子を示している。画面7a−3および画面7a−4においては「アニメ」および「ニュース」である。
メニュー項目をハイライトすることによって、咀嚼筋電検出装置10においてそれぞれのメニュー項目がハイライトされた時刻を起点とした電位変化の切り出しが可能となる。図10下部の電位波形5a−1から電位波形5a-4は、咀嚼筋電検出装置10において切り出したメニュー項目ハイライトを起点とした電位波形を模式的に示したものである。
今、ユーザは「天気」のチャネルを見たいと考えており、「天気」がハイライトされた直後に意図的な噛みしめ動作を行ったとする。電位波形5a−2は、その状況で、「天気予報」がハイライトされてから約200ms前後に意図的に表出された咀嚼筋電が出現している様子を示している。図10上段の画面7bは、咀嚼筋電検出装置10において「天気予報」のハイライトに対する意図的に表出された咀嚼筋電が検出され(5a−2)、チャンネルが「天気予報」に切り替わった様子を示している。
図11は、本実施形態によるインタフェースシステム1の機能ブロックの構成を示す。インタフェースシステム1は、出力部7と、咀嚼筋電検出装置10と、生体信号計測部50と、ハイライト型メニュー提示部100とを有している。図11はまた、咀嚼筋電検出装置10の詳細な機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。なお、出力部7はユーザ5にメニュー等を提示する画面を示す。
ユーザ5は、ハイライト型メニュー提示部100によって出力部7に提示される機器操作に関するメニュー項目がハイライトされるかどうかに注意し、選択対象項目のハイライトに対して意図的に噛みしめ動作を行うだけで、ボタン等を介した操作入力は行わない。インタフェースシステム1はユーザの噛みしめ動作を検出して、その噛みしめ動作を行った対象となるメニュー項目を特定し、ハイライト型メニュー提示部100を介して選択されたメニュー項目に応じて機器を動作させるとする。たとえば、この「機器」とは、出力部7に相当するTVであり、「動作」とはチャンネル切り替え動作であるが、これは例である。TVとは異なる機器、たとえば録画装置、DVD再生装置(図示せず)であってもよい。
咀嚼筋電検出装置10は、有線または無線で生体信号計測部50およびハイライト型メニュー提示部100と接続され、信号の送信および受信を行う。図11においては、生体信号計測部50およびハイライト型メニュー提示部100は咀嚼筋電検出装置10とは別体であるが、これは例である。生体信号計測部50およびハイライト型メニュー提示部の一部または全部を、咀嚼筋電検出装置10内に設けてもよい。
生体信号計測部50は、ユーザ5の生体信号を検出する筋電計であり、生体信号として咀嚼等によって発生する筋電を計測する。生体信号計測部50を図1に示すようなメガネ型デバイスとして、ノーズパッドとイヤーパッド間の電位差を計測してもよい。ユーザ5はあらかじめ生体信号計測部50を装着しているものとする。
この結果、生体信号計測部50はユーザ5の顔周辺の電位変化を測定することができる。測定されたユーザ5の電位変化は、コンピュータで処理できるようにサンプリングされ、リアルタイムに咀嚼筋電検出装置10に送られる。なお、計測した電位に混入する商用電源ノイズの影響を低減するために、生体信号計測部50においては計測される電位はあらかじめ、たとえば0.1から30Hzのバンドパスフィルタ処理がされ、メニュー項目ハイライト前のたとえば100msの平均電位でベースライン補正されているものとする。
ハイライト型メニュー提示部100は、機器操作に関するメニュー項目をたとえば350ms間隔でハイライトする。どのハイライトに対する咀嚼筋電かを特定するために、ハイライトの間隔は咀嚼筋電の潜時の分散以上に設定する必要がある。前述の実験結果において潜時の分散が37.8(ms)であったことからハイライト間隔はたとえば100msとしてもよい。ハイライト型メニュー提示部100は、咀嚼筋電検出装置10の識別結果に応じて機器動作の制御指令を出す。ハイライト型メニュー提示部100を利用して制御する機器が、たとえば図9に示すTV2であるとすると、メニューは出力部7(画面7a)を介してユーザ5に提示される。
次に、本実施形態による咀嚼筋電検出装置10の詳細な構成を説明する。本発明の主要な特徴のひとつは、咀嚼筋電検出装置10の構成および動作にある。
咀嚼筋電検出装置10は、生体信号切り出し部11と、最大振幅算出部12と、潜時算出部13と、咀嚼筋電判定部14とを有している。
生体信号切り出し部11は、ハイライト型メニュー提示部100から送られるメニュー項目ハイライトのタイミングを起点として、生体信号計測部50からリアルタイムで送られる咀嚼筋電の電位波形を切り出し、切り出した電位波形のベースライン補正を行う。電位波形を切り出す時間帯はメニュー項目ハイライトのタイミングを0msとしてハイライト後150から300msまでの時間帯を含むように−100から400msとしてもよいし、−300から300msとしてもよい。また、ハイライトの間隔にあわせて、たとえばメニュー項目が複数回ハイライトされないような時間幅としてもよい。また、ベースライン補正はメニュー項目ハイライト前100ms間の平均電位を全体から引くという方法で実施してもよいし、任意の時間幅の平均電位を用いて実施してもよい。生体信号切り出し部11は、波形の切り出し・ベースライン補正完了後に電位波形を最大振幅算出部12へ送る。
最大振幅算出部12は、生体信号切り出し部11から送られた咀嚼筋電の電位波形の最大振幅を求め、その情報を咀嚼筋電判定部14に送る。咀嚼筋電の電位波形の最大振幅は、たとえば0μVを基準としたときの電位の最大値である。また最大振幅算出部12は、潜時算出部13に咀嚼筋電の電位信号を送る。なお、最大振幅が閾値以上の場合のみ潜時算出部13に波形を送ってもよい。この場合、閾値はたとえば100μVとしてもよいし、ユーザごとに値を設定してもよい。
潜時算出部13は、最大振幅算出部12から送られた電位波形の潜時(メニュー項目ハイライトの時刻を0msとして電位波形が最大振幅となる時間)を求め、求めた潜時の情報を咀嚼筋電判定部14に送る。
なお、最大振幅算出部12および潜時算出部13が処理の対象とする電位波形は、生体信号切り出し部11によって切り出されて得られた波形である。したがって、受け取った波形の開始点が、メニュー項目ハイライトのタイミングに対応している。したがって、最大振幅算出部12および潜時算出部13は、受け取った波形のそれぞれ最大振幅およびそのときの時間を求めれば、上述の最大振幅および潜時が得られることになる。
咀嚼筋電判定部14は、最大振幅算出部12と潜時算出部13から送られた最大振幅と潜時に基づき、メニュー項目ハイライトに対する意図的に表出された咀嚼筋電の有無を判定し、ハイライト型メニュー提示部に結果を送る。判定基準として、たとえば最大振幅・潜時が100±50μV、200±50msの範囲であった場合を検出し、ユーザ5がメニュー項目ハイライト直後に意図的な噛みしめ動作を行ったとしてもよい。また、ユーザごとに最大振幅・潜時の平均値および分散を測定し、それぞれ平均値±標準偏差のように範囲を設定してもよい。
次に、図12のフローチャートを参照しながら、図11のインタフェースシステム1において行われる全体的な処理手順を説明する。
図12は、ユーザがメニュー項目ハイライトの直後に短時間の意図的な噛みしめ動作を行ったか否かの判定を行うインタフェースシステム1の処理手順を示す。
ステップS101において、ハイライト型メニュー提示部100はたとえば4つのメニュー項目の操作メニュー(たとえば図5(a))を提示する。
ステップS102において、ハイライト型メニュー提示部100は次にハイライトするメニュー項目を上から一つずつ順次選択する。
ステップS103において、ステップS102によって選択されたメニュー項目をハイライトする。ハイライトの間隔は咀嚼筋電の潜時の分散よりも大きく、かつユーザ5がハイライトを認識できれば、たとえば100msでもよい。
ステップS104において、生体信号計測部50はユーザ5の電位変化(咀嚼筋電)を計測する。
ステップS20において、咀嚼筋電検出装置10はステップS104で計測した電位波形にメニュー項目ハイライトに対する意図的に表出された咀嚼筋電が含まれるか否かを識別する。ステップS20の詳細な処理手順は後ほど述べる。
ステップS20でYesの場合、ステップS105に進み、Noの場合はステップS102に戻り次のメニュー項目を選択する。
ステップS106において、ハイライト型メニュー提示部100はステップS20によって選択されたメニュー項目に対応する処理を実行する。これにより、そのメニュー項目が選択され、実行される。
このようなインタフェースシステム1によれば、たとえば会話中や食事中であっても、特殊な噛みしめ動作やハイライトの繰り返しなしに短時間でメニュー選択を実現できる。よって機器の操作性が格段に向上する。
図13は、咀嚼筋電検出装置10を構成する生体信号切り出し部11と最大振幅算出部12と潜時算出部13と咀嚼筋電判定部14によって実現され、ユーザ5がメニュー項目ハイライトの直後に意図的な噛みしめ動作を行ったか否かを判定する詳細な手順を示す。
すなわち、図13中のステップS21において、生体信号切り出し部11は生体信号計測部50で計測したユーザ5の鼻根とマストイドの電位変化から、ハイライト型メニュー提示部100においてメニュー項目がハイライトされたタイミングを起点に咀嚼筋電の電位波形を切り出し、ベースライン補正を行う。電位波形を切り出す時間帯はメニュー項目ハイライトのタイミングを0msとしてハイライト後150から300msまでの時間帯を含むように−100から400msとしてもよいし、−300から300msとしてもよい。また、ベースライン補正はメニュー項目ハイライト前100ms間の平均電位を全体から引くという方法で実施してもよいし、任意の時間幅の平均電位を用いて実施してもよい。そして生体信号切り出し部11はベースライン補正後の電位波形を最大振幅算出部12へ送る。
ステップS22において、最大振幅算出部12は生体信号切り出し部11より電位波形を受け取り振幅の最大値を求め、電位波形を潜時算出部13に送る。その一方、求めた最大振幅の情報を咀嚼筋電判定部14に送る。
ステップS23において、潜時算出部13は電位波形の潜時(メニュー項目ハイライトの時刻を0msとして電位波形が最大振幅となる時間)を求め、求めた潜時の情報を咀嚼筋電判定部14に送る。
ステップS24において、咀嚼筋電判定部14は最大振幅算出部12と潜時算出部13から送られた最大振幅と潜時に基づき、メニュー項目ハイライトに対する意図的に表出された咀嚼筋電の有無を判定する。判定基準として、たとえば最大振幅・潜時が100±50μV、200±50msの範囲であった場合を検出してもよいし、最大振幅・潜時の平均値および分散を測定し、それぞれ平均値±標準偏差のように範囲を設定してもよい。ステップS24でYesの場合はステップS25へ、Noの場合はステップS26へ進む。
ステップS25において、咀嚼筋電判定部14はユーザ5がメニュー項目ハイライトの直後に意図的な噛みしめ動作をしたと判定する。
ステップS25において、咀嚼筋電判定部14はユーザ5がメニュー項目ハイライトの直後に噛みしめ動作をしなかったと判定する。
このような処理によって、ハイライト直後にユーザがメニュー選択のために実施した噛みしめ動作が検出できる。
本実施形態の噛みしめインタフェースインタフェースシステム1より、メニュー項目ハイライトを起点とした電位波形の最大振幅・潜時を特徴量に、ハイライト直後の意図的な噛みしめ動作によって発生する咀嚼筋電の検出が可能となる。これにより、短時間でメニュー選択が可能で、かつ会話中・食事中であっても誤動作の少ない、使いやすいインタフェースが実現できる。具体的には、電話をしながらたとえばマルチタスクで携帯電話の他の機能(たとえばインターネット機能等)のメニュー選択を行う場合に、会話によって出現した咀嚼筋電によって誤ってメニュー選択がされる可能性の低いインタフェースが実現できる。また、食事中にTVを見ているときに、たとえばおすすめ番組に関するハイライト型メニューが自動的に提示されても、食事によって出現した咀嚼筋電による誤動作の少ないインタフェースが実現できる。
(実施形態2)
実施形態1によるインタフェースシステム1では、ハイライト型メニュー提示部100はメニュー項目を上から順にハイライトし、ハイライトを起点に約200ms前後に安定して出現する意図的な咀嚼筋電を、最大振幅および潜時を指標に検出することで、短時間でメニュー選択が可能で、かつ会話中・食事中であっても誤動作の少ないインタフェースを実現していた。
本願発明者らは、前述の実験に加えてメニュー項目をランダムな順序でハイライトする条件で追加実験(ランダム実験)を実施した結果、メニュー項目をランダムな順序でハイライトした場合には意図的に表出された咀嚼筋電の最大振幅・潜時が変化することを発見した。
そこで、本実施形態によるインタフェースシステムでは、メニュー項目ハイライトの順序に応じて最大振幅・潜時の検出対象範囲を切り替えて意図的に表出された咀嚼筋電を検出する。これによって、ランダムな順序でメニュー項目をハイライトしても、ハイライト直後の噛みしめ動作によって発生する意図的な咀嚼筋電を高精度で検出できるようになる。ハイライトをランダムな順序で実施することで、たとえば選択したいメニュー項目が下方にあった場合に早くハイライトされる可能性があり、操作時間が短縮されるという利点がある。そのため、ランダムなハイライト順序は機器側でユーザがよく選択するメニュー項目があらかじめ分かっている場合に特に有効である。
まず、ランダム実験について述べる。ランダム実験では、図4のステップS52を変更し、メニュー項目ハイライトの順序をランダムにした。それ以外の実験設定は前述の実験(降順実験)の噛みしめ選択条件と同様であるため、実験の詳細説明は省略する。
図14は、ランダム実験と降順実験の噛みしめ選択条件の結果で、潜時・最大振幅を特徴量としてプロットした図である。横軸はメニュー項目ハイライトの時刻を0msとした時間で単位はms、縦軸は最大振幅で単位はμVである。降順実験の意図的な噛みしめありの場合を○印(40個)、ランダム実験の意図的な噛みしめありの場合を×印(40個)としてプロットしている。ランダム実験においてハイライト直後の咀嚼筋電の最大振幅および潜時が、降順実験の結果と比べてどちらもプラス方向に変化していることが見て分かる。ランダム実験における最大振幅・潜時の平均値±分散は213.0±74.5(μV)・282.9±50.7(ms)であり、降順条件と比べて最大振幅および潜時の平均値・分散値がいずれも増大した。なお、t検定の結果有意に最大振幅・潜時が異なった(p<.05)。この結果、ハイライトの順序に応じて出現する咀嚼筋電の特徴が変化することが明らかとなった。最大振幅・潜時が変化した理由として、ランダムな順序でハイライトされた場合には選択対象項目がハイライトされるタイミングを予測できないため反応が遅れた可能性が考えられる。また、降順条件に比べてランダム実験では最大振幅・潜時の分散が大きくなったことから、降順条件の方が意図的に表出した咀嚼筋電の検出精度が高いことが分かる。よって、メニュー項目のハイライト方法は、メニュー項目数が少ない場合(たとえば10項目以下)の場合には降順に、多い場合にはランダムな順序でハイライトを行うように切り替えてもよい。
両条件の咀嚼筋電の特徴を包含する最大振幅・潜時の範囲を咀嚼筋電の検出対象範囲とした場合、日常生活の咀嚼筋電を誤検出率が向上することが想定される。また、メニュー項目のハイライトの順序は降順またはランダムのどちらかであるため、メニュー項目ハイライトの順序に応じて、最大振幅・潜時の検出対象範囲を切り替えることで対応が可能である。
図15は、本実施形態による咀嚼筋電を用いたインタフェースシステム2(以下「インタフェースシステム2」と記述する。)の機能ブロックの構成を示す。図15はまた、咀嚼筋電検出装置20の詳細な機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。
インタフェースシステム2がインタフェースシステム1(図11)と相違する点は、ハイライト型メニュー提示部100に代えてメニュー項目ハイライトのモードに応じてハイライトの順序を降順/ランダムに切り替え可能なハイライト型メニュー提示部200を備えたこと、および、咀嚼筋電検出装置20の構成のうち降順/ランダム切り替え部21を新たに加えたことである。なお、インタフェースシステム2の構成要素のうち、インタフェースシステム1と同じ構成要素については同じ参照符号を付しその説明を省略する。
ハイライト型メニュー提示部200は、メニュー項目ハイライトの順序に関するモードを切り替えて降順またはランダムにメニュー項目をハイライトする。ランダム実験では最大振幅・潜時の分散が大きくなる傾向があることを考慮して、メニュー項目数が少ない場合(たとえば10項目以下)の場合には降順に、多い場合にはランダムな順序でハイライトを行うように切り替えてもよい。
降順/ランダム切り替え部21は、ハイライト型メニュー提示部200からメニュー項目ハイライトのモードを取得し、咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を変更する。たとえば、検出対象範囲の最大振幅・潜時は、ハイライトの順序が降順の場合には100±50μV・200±50msとし、ランダムの場合には200±100μV・300±100msとしてもよい。
このように構成することで、ハイライトの順序に応じて最大振幅・潜時に関する検出対象範囲の変更ができるため、降順/ランダムに関わらず高精度で咀嚼筋電の検出が可能となる。
次に、図16のフローチャートを参照しながら、インタフェースシステム2において行われる全体的な処理の手順を説明する。
図16は、本実施形態によるインタフェースシステム2の処理手順を示す。図16では、インタフェースシステム1(図12)の処理と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
ステップS201において、ハイライト型メニュー提示部200はメニュー項目ハイライトの順序に関するモードを選択する(降順またはランダム)。
ステップS202において、ハイライト型メニュー提示部200はステップS201で選択したモードに基づき、次にハイライトするメニュー項目を選択する。
ステップS203において、降順/ランダム切り替え部21はハイライト型メニュー提示部200からハイライトのモードを取得し、咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を変更する。たとえば、検出対象範囲の最大振幅・潜時は、ハイライトの順序が降順の場合には100±50μV・200±50msとし、ランダムの場合には200±100μV・300±100msとしてもよい。
このような処理によって、ハイライトの順序に応じて最大振幅・潜時に関する検出対象範囲の変更ができるため、降順/ランダムに関わらず高精度で咀嚼筋電の検出が可能となる。
本実施形態のインタフェースシステム2により、メニュー項目を降順またはランダムにハイライトした場合にも、最大振幅・潜時に関する検出対象範囲を変更することで、高精度な咀嚼筋電の検出が可能となる。これにより、特にメニュー項目数が多い場合にもランダムな順序でのハイライトによって短時間でメニュー選択が可能で、かつ会話中・食事中であっても誤動作の少ない、使いやすいインタフェースが実現できる。
(実施形態3)
実施形態1によるインタフェースシステム1では、ハイライト型メニュー提示部100はメニュー項目を上から順にハイライトし、ハイライトを起点に約200ms前後に安定して出現する意図的な咀嚼筋電を、最大振幅および潜時を指標に検出することで、短時間でメニュー選択が可能で、かつ会話中・食事中であっても誤動作の少ないインタフェースを実現していた。
誤動作を恒常的に少なく維持することが理想であるが、時間の経過により同じような噛みしめ方ができない、電極の装着状態が変化する、等の要因により意図的に表出された咀嚼筋電の特徴が変化する場合があり、咀嚼筋電の検出精度が下がる可能性があった。
たとえば図17は、降順実験を同じ実験参加者に対して別の日に実施した結果を潜時・最大振幅を特徴量としてプロットした図である。横軸はメニュー項目ハイライトの時刻を0msとした時間で単位はms、縦軸は最大振幅で単位はμVである。○印(40個)と×印(40個)は別の日の結果であることを示す。実験参加者には両日とも同様の噛みしめ方をするように指示した。図17から、○印と×印を比較すると最大振幅が異なっているが、○印同士、×印同士のバラつきは小さいことが分かる。また、潜時の変化は小さいことがわかる。○印、×印の最大振幅・潜時(平均±標準偏差)は104.3±32.9(μV)・201.3±37.8(ms)、196.1±61.9(μV)・220.8±53.7(ms)であった。最大振幅が日によって異なる原因として、(1)時間の経過により同じような噛みしめ方ができなくなった、(2)電極の装着状態が異なった、が考えられる。
本実施形態によるインタフェースシステムでは、一定以上の時間が経過した後の最初の選択に対しては、最大振幅・潜時の検出対象範囲を拡大しメニュー項目ハイライトの順序に応じて最大振幅・潜時の検出対象範囲を拡大して意図的に表出された咀嚼筋電を検出し、その咀嚼筋電の最大振幅・潜時から新たに検出対象範囲を決定することで、噛みしめ方や電極の装着状態の変化を吸収し、咀嚼筋電の検出精度を維持する。
図18は、本実施形態による咀嚼筋電を用いたインタフェースシステム3(以下「インタフェースシステム3」と記述する。)の機能ブロックの構成を示す。図18はまた、咀嚼筋電検出装置30の詳細な機能ブロックも示している。ユーザ5のブロックは説明の便宜のために示されている。
インタフェースシステム3がインタフェースシステム1(図11)と相違する点は、咀嚼筋電検出装置20の構成のうち検出対象範囲決定部31を新たに加えたことである。なお、インタフェースシステム2の構成要素のうち、インタフェースシステム1と同じ構成要素については同じ参照符号を付しその説明を省略する。
検出対象範囲決定部31は、ハイライト型メニュー提示部100がユーザ5にメニュー提示をしてからの経過時刻を保持し、前回のメニュー提示から一定以上の時間が経過している場合に、咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を拡大するように変更する。一定時間とはたとえば1時間としてもよいし、1日としてもよい。また検出対象範囲は、範囲を広げる方向であれば最大振幅・潜時はたとえば100±75μV・200±75msとしてもよい。そして、検出対象範囲決定部31は、咀嚼筋電判定部14が意図的に表出された咀嚼筋電を検出した場合、その最大振幅および潜時を取得し、新たな検出対象範囲を設定し、咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を変更する。新たな検出対象範囲は、たとえば取得した最大振幅±50μV・取得した潜時±50msのように決めてもよいし、ユーザごとの最大振幅・潜時の分散に応じて決めてもよい。
このように構成することで、前回のメニュー選択から一定以上時間が経過した場合に噛みしめ方や電極の装着状態の変化を吸収して高精度で咀嚼筋電の検出が可能となる。なお、一定時間経過後にハイライト型メニュー提示部100によりキャリブレーション用のメニュー項目ハイライトの刺激を提示し、キャリブレーション用のメニュー項目ハイライトに対する意図的な咀嚼筋電の最大振幅および潜時を取得し、それ以降のメニュー選択の中心値としてもよい。
次に、図19のフローチャートを参照しながら、インタフェースシステム3において行われる全体的な処理の手順を説明する。
図19は、本実施形態によるインタフェースシステム3の処理手順を示す。図16では、インタフェースシステム1(図12)の処理と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。なお、ステップS20a、ステップS20bは検出対象範囲は異なるがどちらもステップS20と同じ処理である。
ステップS301において、検出対象範囲決定部31はハイライト型メニュー提示部100が最後にメニューを提示してからの経過時間を求める。
ステップS302において、検出対象範囲決定部31はステップS301で求めた経過時間が一定以上であったか否かによって分岐する。ステップS302でYesの場合はステップS303へ、Noの場合はステップS20aへ進む。一定時間とはたとえば1時間としてもよいし、1日としてもよい。
ステップS303において、検出対象範囲決定部31は咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を拡大するように変更する。最大振幅・潜時をたとえば100±75μV・200±75msのように設定してもよい。
ステップS304において、検出対象範囲決定部31は咀嚼筋電判定部14から検出された咀嚼筋電の最大振幅および潜時を取得し、新たな検出対象範囲を設定し、咀嚼筋電判定部14に保持した咀嚼筋電の検出対象範囲を変更する。新たな検出対象範囲は、たとえば取得した最大振幅±50μV・取得した潜時±50msのように決めてもよいし、ユーザごとの最大振幅・潜時の分散を参考に決めてもよい。
このような処理によって、前回のメニュー選択から一定以上時間が経過した場合に噛みしめ方や電極の装着状態の変化を吸収して高精度で咀嚼筋電の検出が可能となる。
本実施形態によるインタフェースシステムでは、一定以上の時間が経過した後の最初の選択に対しては、最大振幅・潜時の検出対象範囲を拡大しメニュー項目ハイライトの順序に応じて最大振幅・潜時の検出対象範囲を拡大して咀嚼筋電を検出し、その咀嚼筋電の最大振幅・潜時から新たに検出対象範囲を決定することで、噛みしめ方や電極の装着状態の変化を吸収し、意図的に表出された咀嚼筋電の検出精度の維持が可能となる。なお、特にユーザが動きながらメニュー選択を行う場合には電極の装着状態が頻繁に変化することが想定されるため、一定時間をたとえば10分のように短く設定して頻繁にキャリブレーションを行ってもよい。
上述の説明では、振幅の単位として「μV」を用いて説明したが、具体的な計測値は、増幅率等の相違により、計測に利用する機器によって異なる場合がある。たとえば本願発明者が生体信号計測部として用いた機器は、デジテックス研究所製のAP1124である。当該機器とは異なる機器を用いて咀嚼筋電を計測した場合には、同じユーザでそれぞれ計測した振幅の大きさに基づいて、たとえば変換倍率を決定して、当該倍率を適用して本願明細書を読み替えればよい。
また、実施形態の説明では、生体信号切り出し部を設け、メニュー項目ハイライトのタイミングを起点として、生体信号計測部50からリアルタイムで送られる咀嚼筋電の電位波形を切り出すとして説明した。しかしながら、生体信号切り出し部を設けることは必須ではない。たとえば生体信号計測部50がメニュー項目ハイライトのタイミングで計測結果を出力するようにしてもよいし、生体信号計測部50には常時計測を送信させ、メニュー項目ハイライトのタイミングに基づいて咀嚼筋電検出装置10で受信するかどうかを決定してもよい。
また、メニュー項目のハイライト前に、ハイライト型メニュー提示部が、ユーザに噛みしめ動作による機器操作を認識してもらうための表示を出力部7にしてもよい。たとえば、「選択したいと思ったメニュー項目がハイライトされた時に、噛みしめ動作を行って下さい。」などの表示を行えばよい。ユーザが咀嚼することにより、複数のメニュー項目のうち所望のメニュー項目を選択するインタフェースシステムであることを認識させることができる。
上述の実施形態に関して、フローチャートを用いて説明した処理はコンピュータに実行されるプログラムとして実現され得る。そのようなコンピュータプログラムは、CD−ROM等の記録媒体に記録されて製品として市場に流通され、または、インターネット等の電気通信回線を通じて伝送される。咀嚼筋電検出装置を構成する全部または一部の構成要素や、ハイライト型メニュー提示部は、コンピュータプログラムを実行する汎用のプロセッサ(半導体回路)として実現される。または、そのようなコンピュータプログラムとプロセッサとが一体化された専用プロセッサとして実現される。咀嚼筋電検出装置の機能を実現するコンピュータプログラムは、インタフェースシステムの機能を実現するためのコンピュータプログラムを実行するプロセッサによって実行されてもよいし、インタフェースシステム内の他のプロセッサによって実行されてもよい。そのようなコンピュータプログラムは、プロセッサによって実行されることにより、出力部への出力や、生体信号計測部での咀嚼筋電計測を制御することが可能である。
なお、上述の各実施形態の説明では、テレビの放送番組のチャンネル切り替え操作を例に挙げたが、これは例である。テレビ画面の操作に関する場合のみならず、他の機器の操作にも適用できる。たとえば電子レンジのような家電製品の表示ディスプレイに順次またはランダムに調理項目が表示される場合にも本願発明は適用可能である。
本発明の咀嚼筋電検出装置および咀嚼筋電検出装置が組み込まれたインタフェースシステムによれば、メガネ装着時に自然に接触する部位で計測した電位に基づき、ユーザはハイライトされるメニュー項目を短時間で選択できる。たとえばボタン等のインタフェース部が小さく操作入力が難しいウェアラブル機器(ヘッドマウントディスプレイや音楽プレーヤ)の操作がハンズフリーで実現できる。
5 ユーザ
7 出力部
7a 画面
10 咀嚼筋電検出装置
11 生体信号切り出し部
12 最大振幅算出部
13 潜時算出部
14 咀嚼筋電判定部
21 降順/ランダム切り替え部
31 検出対象決定部
50 生体信号計測部
100 ハイライト型メニュー提示部
200 ハイライト型メニュー提示部