JP5829207B2 - 感覚誘発電位を用いたデバイスのeeg制御システム、方法およびコンピュータプログラム - Google Patents

感覚誘発電位を用いたデバイスのeeg制御システム、方法およびコンピュータプログラム Download PDF

Info

Publication number
JP5829207B2
JP5829207B2 JP2012500783A JP2012500783A JP5829207B2 JP 5829207 B2 JP5829207 B2 JP 5829207B2 JP 2012500783 A JP2012500783 A JP 2012500783A JP 2012500783 A JP2012500783 A JP 2012500783A JP 5829207 B2 JP5829207 B2 JP 5829207B2
Authority
JP
Japan
Prior art keywords
light
eeg
eeg signal
average
stimulus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012500783A
Other languages
English (en)
Other versions
JP2012520730A5 (ja
JP2012520730A (ja
Inventor
サリバン・トーマス・ジェイ.
デロルメ・アルノー
ルオ・アン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Neurosky Inc
Original Assignee
Neurosky Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Neurosky Inc filed Critical Neurosky Inc
Publication of JP2012520730A publication Critical patent/JP2012520730A/ja
Publication of JP2012520730A5 publication Critical patent/JP2012520730A5/ja
Application granted granted Critical
Publication of JP5829207B2 publication Critical patent/JP5829207B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • A61B5/377Electroencephalography [EEG] using evoked responses
    • A61B5/378Visual stimuli
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/165Evaluating the state of mind, e.g. depression, anxiety
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Animal Behavior & Ethology (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Psychology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Child & Adolescent Psychology (AREA)
  • Developmental Disabilities (AREA)
  • Educational Technology (AREA)
  • Hospice & Palliative Care (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Neurosurgery (AREA)
  • Dermatology (AREA)
  • General Physics & Mathematics (AREA)
  • Neurology (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Description

ユーザの脳波を測定可能にする生体信号センサ(例えば、脳波センサなど)を備えるEEG検出システムが存在する。感覚誘発電位(SEP)は、一般的に、個人が刺激に反応する時に生成される個人の無意識のEEG信号(例えば、視覚誘発電位、もしくは、触覚誘発または聴覚誘発電位のような他の感覚によって誘発されるEEG電位)である。したがって、視覚誘発電位などのSEPを用いるデバイスのSEP応用および/またはEEG制御のために利用できるEEG検出システムを提供することが望ましい。
いくつかの実施形態に従って、SEP用のEEGシステムを示すブロック図。 いくつかの実施形態に従って、EEG制御システムを示す機能図。 いくつかの実施形態に従って、EEG検出システムを示す機能図。 いくつかの実施形態に従って、帽子の中に取り付けられたEEGセンサおよび基準EEGセンサを備えたEEG検出システムを示す図。 いくつかの実施形態に従って、EEGセンサを示す図。 いくつかの実施形態に従って、EEGセンサを示す図。 いくつかの実施形態に従って、SEP用のEEGシステムを示す別のブロック図。 いくつかの実施形態に従って、非接触EEGセンサを備えるEEG検出システムを示す図。 いくつかの実施形態に従って、SEP用のEEGシステムのためのLED光源を示す図。 いくつかの実施形態に従って、SEP用のEEGシステムのためのLED光源を示す図。 いくつかの実施形態に従って、SEP用のEEGシステムについて、EEGデータおよび光制御信号データを示すグラフ。 いくつかの実施形態に従って、SEP用のEEGシステムについて、EEGデータおよび光制御信号データを示すグラフ。 サンプルEEGデータについてのパワースペクトルのグラフ。 いくつかの実施形態に従って、SEP用のEEGシステムについて、光開始後の平均EEGデータを示すグラフ。 いくつかの実施形態に従って、SEP用のEEGシステムについて、光フラッシュとEEG生データとの相関を示すグラフ。 いくつかの実施形態に従ったSEP用のEEGシステムのためのフローチャート。 いくつかの実施形態に従ったSEP用のEEGシステムのための別のフローチャート。 いくつかの実施形態に従って、異なる刺激タイプを示す図。 いくつかの実施形態に従って、タイムドメインアルゴリズムを示す図。 いくつかの実施形態に従って、4つの刺激同期平均の一例を示すグラフ。 いくつかの実施形態に従って、フラッシュ同期平均信号の生成についての一例を示すグラフ。
本発明は、以下の様々な形態で実施されうる:処理、装置、システム、物質の組成、コンピュータ読み取り可能な記憶媒体上に具現化されたコンピュータプログラム製品、および/または、プロセッサ(プロセッサに接続されたメモリに格納された命令および/またはそのメモリによって提供される命令を実行するよう構成されたプロセッサなど)。本明細書では、これらの実施形態または本発明が取りうる任意の他の形態が、技術とみなされうる。一般に、開示されている処理の工程の順番は、本発明の範囲内で変更されてもよい。特に明記しない限り、タスクを実行するよう構成されるものとして記載されたプロセッサまたはメモリなどの構成要素は、与えられた時間にタスクを実行するよう一時的に構成される汎用の構成要素、または、タスクを実行するために製造された特定の構成要素として実装されてよい。本明細書で用いられているように、「プロセッサ」という用語は、1または複数のデバイス、回路(例えば、PCB、ASIC、および/または、FPGA)、および/または、コンピュータプログラム命令などのデータを処理するよう構成された処理コアを指す。
以下では、本発明の原理を示す図面を参照しつつ、本発明の1または複数の実施形態の詳細な説明を行う。本発明は、かかる実施形態との関連で説明されるが、どの実施形態にも限定されるものではない。本発明の範囲は、特許請求の範囲によってのみ限定され、本発明は、多数の代替物、変形例、および、等価物を含む。本発明の完全な理解を提供するために、以下の説明では、多数の具体的な詳細事項が記載されている。これらの詳細事項は、例示を目的としたものであり、本発明は、これらの具体的な詳細事項の一部またはすべてがなくとも特許請求の範囲に従って実施可能である。明瞭するために、本発明に関連する技術分野で周知の技術事項については、本発明が不必要に分かりにくくならないように、詳細には説明されていない。
ユーザがフラッシュ光を見るなどの刺激事象から生成される典型的な脳波検査(EEG)信号は、比較的弱い信号である。結果として、(例えば、乾式接触センサ、湿式接触センサ、または、非接触EEGセンサを用いて)検出された信号内に標準的な量のノイズ(例えば、回路、外部ノイズ源、および/または、関係のないEEG源からのノイズ)を含むかかる信号を検出することは容易ではない。さらに、適時に(例えば、2〜3秒以内に)、シグネチャEEG信号を検出するのも容易ではない。例えば、一定の周波数で点滅する光を用いるシステムは、光の周波数における電力の増大についてEEG信号を監視することを利用する。これらのシステムおよび方法は、一般に、定常状態視覚誘発電位(SSVEP)と呼ばれる。しかし、電力評価技術(例えば、FFT技術)は、EEG信号内のノイズレベルが、評価されている信号と同じオーダーのレベルである場合には信頼性がなく、これは、特に非接触EEGセンサによく当てはまる。
思考または高いレベルの知覚によって生成されるEEG電位に依存する技術は遅い。例えば、P300事象関連電位(ERP)では、ユーザは、事象が時間的に比較的離れている(例えば、10の事象が1分にわたって離間される)必要がある比較的頻度の低い事象を認識しなければならず、それにより、EEGに基づく制御で決定/行動を実行できる速度が制限される。
したがって、EEG信号に基づいて刺激誘発事象(例えば、視覚誘発電位のようなSEP)を効率的かつ効果的に決定しうるシステムおよび方法が求められる。
いくつかの実施形態では、デバイスを制御するために、SEPに関連するEEG信号を効率的かつ効果的に特定するシステムが提供される。いくつかの実施形態では、ユーザへのコマンド/ユーザからのコマンドに対応するフラッシュ光(例えば、1または複数の発光ダイオード(LED)からのフラッシュ光、および/または、コンピュータスクリーンまたはテレビ(TV)スクリーンからのフラッシュ光)を用いるシステムが提供される。いくつかの実施形態では、システムにおけるフラッシュ光は、異なる一定の周波数で点滅する。いくつかの実施形態では、システムにおける点滅光は、一定パターンの可変周波数または非周期的な周波数で点滅する。システムは、ユーザの検出EEG信号を記録し、フラッシュ光の1つをユーザが見ているか否か/ユーザがそれを見ている時を決定する。本明細書で用いられているように、SEPは、一般に、ユーザが、(例えば、急速に)繰り返す間隔刺激(例えば、フラッシュ光またはその他の視覚刺激事象への無意識の反応などの視覚的、聴覚的、触覚的、もしくは、その他の刺激事象)にさらされた時に生成される無意識のEEG信号を指す。本明細書に用いられているように、SEPは、ユーザの思考および高いレベルの知覚(例えば、P300のような比較的まれな事象の認識、または、文法の間違いの認識)に基づく事象を含まない。なお、それらの事象は、一般に、より長い期間の時間オフセットの後に生じ(そして、一般に、特定のために小さいEEG信号サンプルを加算平均することができるように、かかる事象を比較的遅く繰り返す必要があり)、一般に、事象関連電位(ERP)と呼ばれる。
いくつかの実施形態では、急速に繰り返す感覚刺激に反応して生成されるSEP信号に対して様々な信号平均技術を用いるシステムが提供される。図18に示すようないくつかの実施形態において、急速に繰り返される刺激事象に反応するユーザ(フラッシュ光を見るユーザなど)からのEEG信号、および、刺激を制御するために用いられる信号が、共に測定される。例えば、光の開始後の固定長(例えば、100ミリ秒(ms))のEEG信号のセグメントが最初に記録される。次いで、記録されたデータは、刺激の開始後の最初のEEGデータ点が共に平均されるように、共に平均され、その後、刺激の開始後の第2のデータ点すべてが共に平均され、刺激の開始後の第3のデータ点が共に平均され、以下同様に続く。その結果、記録されたセグメントと同じ波長の平均波形を有する刺激同期(stimulus−locked)平均信号(すなわち、この例では、フラッシュ同期(flash−locked)平均信号)が提供される。例えば、ユーザが光を見た場合、平均波形は、特徴的な形状(例えば、光の開始時刻後の約30msでのEEG電圧の正の変位)を有する。平均波形のこの特徴的な形状は、本明細書でさらに説明される様々な方法で検出されうる。ユーザが光を見ていない場合、平均波形はほとんど平坦である。
いくつかの実施形態において、システムは、2以上の刺激を含む。例えば、図17は、4つの刺激に同期した平均の一例を示す。平均値の一つは、特徴的な形状をしているが、その他は比較的平坦である。
特徴的な形状は、開始からのある遅延時間で閾値と比較すること、ある期間にわたって平均EEG信号を積分して、その結果を閾値と比較すること、または、光に注意が向けられているか否かを識別する分類子を作成することなど、様々な技術を用いて検出されうる。別の例としては、理想的な平均の原型(例えば、光に注意が向けられている時の平均)が構築され、実際の平均を乗じられてもよい。高い値の結果は、光に注意が向けられていることを示唆する。原型は、ユーザが光を見ていることが分かっている時のEEG平均を算出すること、または、ユーザが光を見ていることが分かっている時のEEGデータの自動回帰モデルを構築して、その自動回帰モデルの係数を原型のデータ要素として用いるなど、様々な方法で構築されうる。
いくつかの実施形態では、システムは、ユーザがフラッシュ光を見ることによって誘発される特定のEEG信号を用いてデバイスを制御するために用いられる。例えば、制御信号が、検出されたSEPに基づいて、別のデバイス(例えば、娯楽システム、教育システム、医療システム、自動車用のアプリケーション、および、アプリケーションを実行するコンピュータ)に供給されうる。例えば、システムは、デバイスを制御するために用いられるコマンドをそれぞれ表すいくつかのフラッシュ光を備えうる。ユーザが、それらのフラッシュ光の1つを見ると、刺激同期平均技術を用いて、EEG信号内の一意的なシグネチャが、ユーザの記録されたEEG信号パターン内に存在すると決定されうる。例えば、コンピュータデバイス(例えば、プログラムされたコンピュータ/ラップトップ/ネットブック/ポータブルコンピュータデバイス、マイクロコントローラ、ASIC、および/または、FPGA)が、各フラッシュ光に対応する一意的なEEG信号シグネチャを連続的にチェックする効率的かつ効果的なアルゴリズム(例えば、分類子)を実行しうる。いくつかの実施形態では、アルゴリズムは、リアルタイムでかかる判定を実行する(例えば、かかる判定を事象(この例では、フラッシュ光事象)に対して約3秒以内に計算する)。いくつかの実施形態では、EEG信号を最大化して、視覚誘発電位の検出率を増大させるために、様々なパラメータ、例えば、光度、色、間隔、周波数、デューティサイクル、および、光によって用いられる視野の広さなどが調整される。視覚誘発電位が検出されると、対応するコマンドが、制御されるデバイスに送信される。
例えば、制御されるデバイスは玩具であってよく、フラッシュ光の1つがユーザによって見られていることをシステムが認識すると、(例えば、SEPを検出するためのシステムからのコマンドに基づいて)面白いことが玩具に起きる。別の例としては、ビデオゲーム内の物体が点滅してよく、ゲームは、ユーザが見ているもの(例えば、点滅している物体)を認識して、それをゲームのプレイに組み込むことができる。別の例としては、フライトシミュレータまたは軍事などのアプリケーション内の物体が点滅してよく、ゲームは、ユーザが見ているもの(例えば、点滅している物体)を認識して、それをアプリケーションに組み込むことができる。別の例として、制御されるデバイスは、手を使うことができないユーザを許容するプログラムされたコンピュータまたは任意の装置であってよいが、システムの選択を行うことができる必要がある。別の例として、制御されるデバイスは、自動車のアプリケーションであってよく、例えば、運転手および/または乗客用の自動車インターフェースのための選択または設定を行うものであってよい。例えば、EEG検出システムは、ユーザが身につける帽子の形態、および/または、自動車のシートのヘッドレストに組み込まれた形態であってよく、点滅光/フラッシュ光が、ラジオ、温度、または、その他の制御/設定を制御するために自動車のコンソール/ダッシュボードに組み込まれてもよいし、自動車またはその他のデバイス(例えば、自動車、飛行機、または、任意の他のデバイスの操縦者のために、集中、心配、驚き、および/または、眠気の状態を判定するための精神状態モニタなど)の様々な他のEEGアプリケーションと組み合わされてもよい。
図1は、いくつかの実施形態に従って、SEP用のEEGシステムを示すブロック図である。図に示すように、SEP用のEEGシステム100は、EEG制御システム110と、EEG検出システム130と、デバイス150と、を備える。いくつかの実施形態では、デバイス150は、EEG制御システム110によって制御される。いくつかの実施形態では、デバイス150は、図に示すように、SEP用のEEGシステム内に含まれるか、もしくは、統合されており、シリアル通信路またはその他の通信路を用いて、デバイス150との通信が行われる。いくつかの実施形態では、デバイス150は、SEP用のEEGシステム100から離れており、有線または無線通信を用いてEEG制御システム110と通信する。いくつかの実施形態では、EEG制御システム110は、シリアル通信路またはその他の通信路(例えば、有線または無線)を用いてEEG検出システム130と通信する。
いくつかの実施形態では、EEG検出システム130は、ユーザのEEG信号を検出し、EEG制御システム110は、EEG検出システム130によって検出されたEEG信号に対してSEP判定アルゴリズム(例えば、リアルタイム分類アルゴリズム/分類子)を実行するよう構成されたプロセッサを備える。いくつかの実施形態では、本明細書に開示するように、様々なSEP判定技術が用いられる(例えば、タイムドメインSEP判定アルゴリズム/分類子)。
いくつかの実施形態では、SEP判定に基づいて、EEG制御システム110は、(例えば、関連付けられたSEPに基づいて)1または複数の対応する制御信号をデバイス150に送信する。いくつかの実施形態では、EEG検出システム130は、EEG制御システム110にEEG信号の生データを送信し、いくつかの実施形態では、処理済みのEEG信号データを送信する。
図2は、いくつかの実施形態に従って、EEG制御システムを示す機能図である。図に示すように、EEG制御システム10は、EEG検出システム130と通信するためのEEG検出通信要素112と、EEG検出システム130によって検出されたEEG信号に対してSEP判定アルゴリズムを実行するためのプロセッサ114と、装置150と通信するための出力制御部118と、1または複数のLED(例えば、フラッシュLED光システム)と通信するためのLED通信部122と、データストレージ124(例えば、フラッシュLED光について、受信したEEG信号サンプルと、関連するタイミングデータとを格納するためのもの)と、通信リンク120と、を備える。
いくつかの実施形態では、プログラムされたコンピュータが、EEG制御システム110と通信し、EEG制御システム110は、さらに、検出されたEEG信号サンプルをコンピュータに送信するためのコンピュータ要素へのEEGデータを含む。この例では、コンピュータは、EEG検出システム130によって検出されたEEG信号に対してSEP判定アルゴリズムを実行するよう構成されたプロセッサを備えており、(例えば、関連付けられたSEPに基づいて)デバイスを制御するためのEEG制御システムに解析結果を提供することができる。いくつかの実施形態では、コンピュータは、EEG検出システム130によって検出されたEEG信号に対してSEP判定アルゴリズムを実行するよう構成されたプロセッサを備えており、EEG信号サンプルの解析結果に基づいて、対応する制御信号をデバイスに送信する。いくつかの実施形態では、EEG信号サンプルの解析の全部または一部のみが、プログラムされたコンピュータによって実行される。いくつかの実施形態では、EEG信号サンプルの解析の全部または一部のみが、EEG検出システムで実行される(例えば、EEGセンサと統合された、または、通信するASIC)。
図3は、いくつかの実施形態に従って、EEG検出システムを示す機能図である。図に示すように、EEG検出システム130は、プロセッサ132(例えば、FPGAまたはASIC)と、アクティブEEGセンサ136と、基準EEGセンサ138と、通信リンク134と、を備える。測定されたEEG信号は、EEG制御システム110に供給される。いくつかの実施形態では、EEG信号サンプルの連続的な測定値が検出されて、EEG制御システム110に供給される。
図4は、いくつかの実施形態に従って、帽子の中に取り付けられたEEGセンサおよび基準EEGセンサを備えたEEG検出システムを示す。図に示すように、EEG検出システム130は、ユーザが着用する帽子であり、帽子内にEEGセンサ136および基準EEGセンサ138を備える。EEGセンサ136および基準EEGセンサ138は、有線通信(例えば、シリアル通信リンク)を介してEEG制御システム110に接続されている。いくつかの実施形態では、EEGセンサ136は、ユーザが帽子をかぶった時に(例えば、視覚事象関連EEG信号検出のために)ユーザの頭部の後頭部領域に位置するように帽子の内側に配置され、基準EEGセンサ138は、ユーザの頭部の別の位置に配置される(例えば、前頭部、ユーザの側頭部の耳の上方、または、ユーザの後頭部でアクティブEEGセンサの位置と異なる位置)。いくつかの実施形態では、当業者にとって明らかなように、1または複数のEEGセンサは、検出される刺激事象の種類に基づいて様々な位置に配置される。いくつかの実施形態では、EEGセンサ136および基準EEGセンサ138は、非接触EEGセンサである。いくつかの実施形態において、EEG検出システムは、2以上のEEGセンサ136を備える。いくつかの実施形態では、EEG検出システム130は、ヘッドセット、オーディオヘッドセット、自動車シートのヘッドレスト、もしくは、1または複数のEEGセンサ136および基準EEGセンサ138をEEG信号検出に適切なユーザの頭部上の位置にしっかりと配置するためにユーザが利用できる任意の他の形態の装置またはモジュールの形態をとる。いくつかの実施形態では、EEG検出システム130(例えば、図に示すように、ハット/キャップ)は、ノイズの量を低減するために、接地されたイヤークリップを備える。
図5A〜図5Bは、いくつかの実施形態に従って、EEGセンサを示す図である。図5Aに示すように、EEGセンサ136は、EEG信号検出帽子の内側に取り付けられる。図5Bには、EEGセンサ136の上側が示されており、図のEEGセンサ136は、ほぼUS25セント硬貨のサイズの非接触電極である。EEGセンサ136は、EEG信号を増幅しノイズを除去するアナログのフロントエンド回路と共にプリント回路基板(PCB)に組み込まれる。EEGセンサ136は、例えば、繊細な信号を外部ノイズから保護する金属シールドを備える。いくつかの実施形態では、EEGセンサ136の回路は、ASICに組み込まれる。
図6は、いくつかの実施形態に従って、SEP用のEEGシステムを示す別のブロック図である。図に示すように、SEP用のEEGシステム100は、検出されたEEG信号のためのSEP判定アルゴリズムを実行するよう構成された(例えば、プログラムされた)コンピュータ610と、LED(フラッシュ)光システム650を制御する(例えば、光フラッシュの開始および終了のタイミングの制御、ならびに、どのパターンでどの光源を点灯させるかの制御)ための制御部620と、検出されたEEG信号をEEGセンサ136および基準EEGセンサ138から受信する(さらに、一部の実施形態では、処理する)ためのEEG回路630と、を備える。図に示すように、LED光システム650には、4つのLED光源が提供されている。いくつかの実施形態では、1または複数のLED光源が設けられる。
制御部620は、さらに、FPGA622を備える(もしくは、いくつかの実施形態では、ASICまたはプログラムされたプロセッサなど、任意の他の形態のプロセッサまたはプロセッサ上で実行されるソフトウェア)。いくつかの実施形態では、制御部620は、LED光650を制御し、さらに、コンピュータ610およびEEG回路630と通信する。いくつかの実施形態では、制御部620は、点滅光を制御し、EEG信号(サンプル)データをEEG回路630から受信する。いくつかの実施形態では、制御部は、さらに、受信したEEG信号データおよび光タイミングデータ(例えば、LED光システム650のフラッシュ開始/終了のタイミング)を、さらなる解析および処理(例えば、リアルタイムSEP判定アルゴリズムを用いたもの)に向けてコンピュータ610に送信されるシリアルストリームに統合する。いくつかの実施形態では、制御部620は、さらに、制御される装置(例えば、デバイス150)に制御信号を送信する。
EEG回路630は、ファームウェア632を備える(もしくは、いくつかの実施形態では、ASICまたはFPGAまたはプログラムされたプロセッサなど、任意の他の形態のプロセッサまたはプロセッサ上で実行されるソフトウェア)。制御部は、図に示すように、コンピュータ610およびEEG回路630とシリアル通信する。いくつかの実施形態では、EEG回路630は、さらに、図に示すように、直接シリアル接続(もしくは、いくつかの実施形態では、直接通信、有線、または、無線)を介してコンピュータ610に直接接続される。いくつかの実施形態では、これらの接続の内の1または複数が無線接続である。
図7は、いくつかの実施形態に従って、非接触EEGセンサを備えるEEG検出システムを示す図である。図に示すように、EEG検出システム130は、ユーザが着用するハットまたはキャップの形態であり、バッテリ710(例えば、充電式リチウムイオンバッテリ)と、EEG回路720と、EEGセンサ(非接触EEGセンサは、帽子の内側に取り付けられているため、ユーザがかぶっている帽子の図では見えない)への配線730と、を備える。いくつかの実施形態では、EEG検出システム130は、他の装置/デバイス(EEG制御システム110など)と無線接続される(Bluetooth(登録商標)または他の無線プロトコル)。いくつかの実施形態では、バッテリ710、EEG回路720、および、EEGセンサへの配線730は、ハット/キャップおよび/またはその他の頭部着用装置(上述したのと同様のもの)内に、より密着して組み込まれており、いくつかの実施形態では、ユーザが身につけた際、通常は見えなくなる。明らかに、本明細書に開示するEEG検出システム130を提供するために、様々な他の設計および頭部着用装置を利用することができる。
図8A〜図8Bは、いくつかの実施形態に従って、SEP用のEEGシステムのためのLED光源を示す図である。図に示すように、図8Aは、4つのLED光がすべてオフ状態(例えば、消灯状態)のLED光源650を示す。図に示すように、図8Bは、4つのLED光がすべてオン状態(例えば、点灯状態)のLED光源650を示す。図に示すように、LED光源650は、箱状の装置に取り付けられ、例えば、ユーザへのコマンドを表すパターンで点滅しうる。いくつかの実施形態では、LED光システム650の4つの別個のLED光源の各々が、独立的に点灯/消灯することができる。いくつかの実施形態では、LED光システム650のLED光は、異なる一定の周波数で点滅する。いくつかの実施形態では、LED光システム650のLED光は、一定パターンの可変周波数で点滅する。いくつかの実施形態では、4つのLED光の各々が、異なる周波数で点滅する。いくつかの実施形態では、LED光の各々の周波数は、1または2Hzずつ異なる(例えば、4つのLED光は、以下の周波数に設定されうる:9Hz、10Hz、11Hz、および、12Hz、もしくは、8Hzから20Hzの範囲、または、SEPを効果的に検出できる他の周波数範囲など、他の周波数)。いくつかの実施形態では、3つ以下または5つ以上のLEDが、LED光システム650に備えられる。いくつかの実施形態では、点滅パターンは、制御部620によって制御される(例えば、Verilogコードを実行するXilinx社のFPGAチップなどのFPGAコントローラを用いて、点滅の周波数を制御する)。
図9A〜図9Bは、いくつかの実施形態に従って、SEP用のEEGシステムについて、EEGデータおよび光制御信号データを示すグラフである。図9Aは、測定されたEEG信号(ボルト(V))を時間(秒)に対して示したものである。図9Bは、光入力信号(ヘルツ(Hz))(例えば、フラッシュ光(点滅光)事象)を時間(秒)に対して示したものである。図に示すように、光入力信号は、一定周波数の矩形波である。
図10は、サンプルEEGデータについてのパワースペクトルのグラフである。特に、図10は、測定されたEEG信号(V)を周波数(Hz)に対して示しており、光事象が存在しない場合の第1の測定EEG信号と、12Hzの光事象が起こり、ユーザが12Hzの一定周波数で点滅する光を見ていた場合の第2の測定信号と、を含む2つの測定値が図示されている。図10の例に示し、上述したように、12Hzにおける電力の上昇が12Hzの光を見たことによるのか、無関係のノイズなのかを判定することは困難である。
図11は、いくつかの実施形態に従って、SEP用のEEGシステムについて、点灯(光)開始後の平均EEGデータを示すグラフである。特に、図11は、(例えば、12Hzの点滅光事象の)光開始後の平均EEG信号を示しており、データの時系列の平均が12Hzの点滅光に時間同期されている。図に示すように、フラッシュ同期平均信号は、光に注意が向けられている(例えば、ユーザが観察している)ことを検出するために認識できる信号形状を提供し、その結果、SEPが効果的に検出される(例えば、本明細書に記載のように、閾値の比較および/またはシグネチャ信号の比較による)。
図12は、いくつかの実施形態に従って、SEP用のEEGシステムについて、フラッシュとEEG生データとの相関を示すグラフである。特に、図12は、平均EEG信号(例えば、フラッシュ同期平均信号)と、点滅光事象(例えば、光フラッシュ)との間の相関分析を示す。離散した各時点で、測定されたEEG信号および測定された光信号が乗算されている。これらの結果すべてが平均され、相関係数が算出される。いくつかの実施形態では、EEGデータおよび光信号データの時間オフセット(例えば、30ms)を用いて、分析が繰り返される。結果として、光に注意が向けられている(例えば、ユーザが観察している)ことを決定するために利用できる特徴的な形状が得られ、それにより、SEPが効果的に検出される。
図13は、いくつかの実施形態に従ったSEP用のEEGシステムのためのフローチャートである。工程1302では、処理が始まる。工程1304では、複数のEEG信号サンプルが検出される。工程1306では、刺激同期(stimulus−locked)平均信号が、EEG信号サンプルを用いて生成される。いくつかの実施形態では、光の開始および/または終了の事象に時間同期されたEEG信号の平均が決定される。例えば、光開始後の特定の期間(例えば、50ms)に、EEG信号が記録され、かかる記録は、1または複数の光開始の各々の後に実行される。結果として得られる50msのEEGセグメントは、その後、平均されて、平均信号を提供する。工程1308では、EEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かが判定される(例えば、視覚事象への反応などのSEP判定)。例えば、開始からの或る遅延時間で閾値と比較すること、或る期間にわたって平均EEG信号を積分して、その結果を閾値と比較すること、または、光に注意が向けられているか否かを識別する分類子を作成することなど、様々な技術を用いて、刺激同期平均信号の特徴的な形状が検出されうる。別の例としては、理想的な平均の原型(例えば、光に注意が向けられている時の平均)が構築され、実際の平均を乗じられてもよい。高い値の結果は、光に注意が向けられていることを示唆する。原型は、ユーザが光を見ていることが分かっている時のEEG平均を算出すること、または、ユーザが光を見ていることが分かっている時のEEGデータの自動回帰モデルを構築して、その自動回帰モデルの係数を原型のデータ要素として用いるなど、様々な方法で構築されうる。工程1310では、制御信号が、SEP判定に基づいて供給される。工程1312では、処理が完了する。
図14は、いくつかの実施形態に従ったSEP用のEEGシステムのための別のフローチャートである。工程1402では、処理が始まる。工程1404では、複数のEEG信号サンプルが検出され、記録される(例えば、格納される)。工程1406では、刺激同期平均信号が、EEG信号サンプルを用いて生成される。工程1408では、刺激同期平均信号のピーク値が算出され、第1のピーク値は、平均信号の(最大値)−(最小値)に基づいて決定される。工程1410では、ピーク値が、閾値と比較される。例えば、ユーザが刺激誘発事象を経験した場合(例えば、点滅光を見ていた場合)、平均EEG信号は、一般に、フラッシュ開始直後(例えば、かかるSEPについては、約30msから50msのオフセット後)に顕著なピークを含む。結果として、ピークが存在するか否かを判定するために、閾値(例えば、シグネチャ信号)が設定されうる。いくつかの実施形態では、システムは、特定のユーザでのテストに基づいてトレーニングされ、閾値(または、いくつかの実施形態では、信号シグネチャ)が、トレーニングに基づいて生成される。いくつかの実施形態では、EEG信号サンプルは、EEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かを判定(例えば、視覚事象への反応などのSEP判定)を行うために、時間遅延オフセット(例えば、30msから50ms)を用いて、刺激事象のパターンと相関される。工程1412で、制御は信号が、SEP判定に基づいて供給される。工程1414では、処理が完了する。
図15は、いくつかの実施形態に従って、異なる刺激周波数タイプを示す図である。図に示すように、光入力信号の刺激周波数は、単一の一定周波数(矩形波、正弦波または三角波、もしくは、変調された搬送波)であってよい。いくつかの実施形態では、混合周波数刺激が利用され、例えば、2以上の一定周波数を加算した混合周波数である。いくつかの実施形態では、様々な他のタイプの非周期信号が利用され、タイムドメイン解析でマッチングされる。例えば、変調された搬送波は、一定周波数の大きい正弦波成分が別の小さい信号と合成されたFM無線信号と同様のものである。別の例としては、周波数にいくらかの変動を加えることによって、単一周波数の刺激を調整できる。明らかに、携帯電話ネットワークで用いられるCDMAコードなど、疑似ランダムコードを構築する多くの方法がある。
図16は、いくつかの実施形態に従って、タイムドメインアルゴリズムを示す図である。いくつかの実施形態では、タイムドメイン分類子技術は、周波数ドメインへの変換なしにEEG信号を利用する。例えば、利用できる一方法は、点滅光と同じ周波数の正弦波をEEG信号に乗算する方法である。正弦波が正確な周波数および移相を有する場合、出力は、比較的大きい振幅を有する。かかる出力の絶対値は、不正確な正弦波と比べて、比較的高くなる。別の例として、(例えば、平均を減算した後に)EEGデータの各点を光度データの各点と掛ける相関分析を用いることができる。データの2つのベクトルの間に相関がない場合、出力はゼロになる。光度データと遅延型のEEGとの間の相関を(例えば、30msから50msなど、適切なオフセットを用いて)算出することもできる。或る遅延時間において、相関は、通例、注意を向けられている光に対して強くなる。刺激同期平均技術の様々な実施形態について、以下でさらに説明する。
図17は、いくつかの実施形態に従って、4つの刺激同期平均値の一例を示すグラフである。平均値の一つは、特徴的な形状をしており、その他の平均値は比較的平坦である。
図18は、いくつかの実施形態に従って、フラッシュ同期平均信号の生成についての一例を示すグラフである。図18に示すように、点滅光を見ているユーザからのEEG信号と、光を制御するために用いられる信号が、両方測定される。光の開始に続く固定長(例えば、100ms)のEEG信号のセグメントが最初に記録される。次いで、記録されたデータは、光の開始後の第1のEEGデータポイントが共に平均されるように、共に平均され、その後、光の開始後の第2のデータポイントすべてが共に平均され、光の開始後の第3のデータポイントが共に平均され、以下同様に続く。結果として、記録されたセグメントと同じ長さの平均波形が得られる。例えば、ユーザが光を見た場合、平均波形は、特徴的な形状(例えば、光の開始時刻後の約30msから50msでのEEG電圧の正の変位)を有する。この特徴的な形状は、様々な方法で検出できる。ユーザが光を見ていなかった場合、平均波形はほとんど平坦である。いくつかの実施形態では、この技術は、刺激同期平均信号を生成するために同様に利用される。いくつかの実施形態では、測定されたEEG信号は、無意識のEEG信号応答を含む。いくつかの実施形態では、測定されたEEG信号は、さらに、集中度または焦点に関するEEG信号応答など、意識的なEEG信号応答を含む(例えば、EEG信号の強度は、ユーザが点滅光を見る方法(周辺焦点対直接焦点)またはユーザが点滅光を見る集中度によって変化しうる)。
上述の実施形態は、理解しやすいように或る程度詳細に説明されているが、本発明は、これらの詳細事項に限定されない。本発明を実施する多くの代替的な方法が存在する。開示されている実施形態は、例示的なものであり、限定を意図するものではない。
適用例1:システムであって、プロセッサであって、複数のEEG信号サンプルの刺激同期平均信号を生成し、前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かを判定するよう構成された、プロセッサと、前記プロセッサに接続され、前記プロセッサに命令を供給するよう構成されたメモリと、を備える、システム。
適用例2:適用例1に記載のシステムであって、前記刺激事象のパターンは、一定周波数で周期的に光フラッシュを発する複数の光源を含む、システム。
適用例3:適用例1に記載のシステムであって、前記刺激事象のパターンは、周期的に光フラッシュを発する複数の光源を含み、前記複数の光源は、第1の一定周波数で光フラッシュを発する第1の光源と、第2の一定周波数で光フラッシュを発する第2の光源とを含む、システム。
適用例4:適用例1に記載のシステムであって、前記刺激事象のパターンは、複数の周波数で周期的に光フラッシュを発する光源を含み、前記光フラッシュは、第1の周波数の第1の光フラッシュと、第2の周波数の第2の光フラッシュとを含む、システム。
適用例5:適用例1に記載のシステムであって、前記刺激事象のパターンは、非周期的な周波数で光フラッシュを発する複数の光源を含む、システム。
適用例6:適用例1に記載のシステムであって、前記刺激事象のパターンは、視覚刺激事象のパターン、音声刺激事象のパターン、および、触覚刺激事象のパターンの内の1または複数を含む、システム。
適用例7:適用例1に記載のシステムであって、前記刺激事象のパターンは、それぞれ独立したフラッシュ光事象を提供する複数の光源を含む、システム。
適用例8:適用例1に記載のシステムであって、前記複数のEEG信号サンプルは、前記システムのユーザの無意識の反応として誘発される、システム。
適用例9:適用例1に記載のシステムであって、前記複数のEEG信号サンプルは、意識的なEEG信号応答を含む、システム。
適用例10:適用例1に記載のシステムであって、前記複数のEEG信号サンプルの各々は、複数のサンプル点を含む、システム。
適用例11:適用例1に記載のシステムであって、前記複数のEEG信号サンプルの各々は、時系列のEEG信号サンプルを含む、システム。
適用例12:適用例1に記載のシステムであって、前記刺激同期平均信号は、フラッシュ同期平均信号を含む、システム。
適用例13:適用例1に記載のシステムであって、前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かの判定は、前記刺激同期平均を閾値と比較することによって実行される、システム。
適用例14:適用例1に記載のシステムであって、前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かの判定は、事前に作成した原型平均を前記刺激同期平均に乗算することによって実行される、システム。
適用例15:適用例1に記載のシステムであって、前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かの判定は、前記ユーザのEEG信号に適合する原型平均を前記刺激同期平均に乗算することによって実行される、システム。
適用例16:適用例1に記載のシステムであって、前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かの判定は、前記EEG信号データを積分して結果を生成し、前記結果を閾値と比較することによって実行される、システム。
適用例17:適用例1に記載のシステムであって、前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かの判定は、タイムドメイン分類子を用いて実行される、システム。
適用例18:適用例1に記載のシステムであって、前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かの判定は、リアルタイムで実行される、システム。
適用例19:適用例1に記載のシステムであって、前記プロセッサは、さらに、前記システムのユーザが第1の光源を見ているか否かを判定するよう構成される、システム。
適用例20:適用例1に記載のシステムであって、前記プロセッサは、さらに、前記刺激同期平均信号の(最大値)−(最小値)に基づいて決定される前記刺激同期平均信号の第1のピーク値を算出し、前記第1のピーク値を閾値と比較するよう構成される、システム。
適用例21:適用例1に記載のシステムであって、前記プロセッサは、さらに、刺激タイミングに基づく時間オフセットを用いて前記複数のEEG信号サンプルを前記刺激事象のパターンと相関させるよう構成される、システム。
適用例22:適用例1に記載のシステムであって、前記プロセッサは、さらに、第1のユーザについて前記複数のEEG信号サンプルを前記刺激事象のパターンと相関させる際に役立つように、前記第1のユーザに基づいてトレーニングを行い、第1のシグネチャ信号を決定するよう構成される、システム。
適用例23:適用例1に記載のシステムは、さらに、アクティブEEG電極および基準EEG電極を含む複数の電極を備え、前記複数の電極は、前記複数のEEG信号サンプルを検出する、システム。
適用例24:適用例1に記載のシステムであって、前記プロセッサは、さらに、前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かの判定に基づいて、制御信号を供給するよう構成されている、システム。
適用例25:適用例1に記載のシステムであって、前記プロセッサは、さらに、前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かの判定に基づいて、制御信号をデバイスに供給するよう構成され、前記デバイスは、娯楽システム、教育システム、医療システム、自動車システム、および、アプリケーションを実行するコンピュータの内の1または複数を含む、システム。
適用例26:方法であって、生体信号センサを用いて複数のEEG信号サンプルを測定し、前記複数のEEG信号サンプルを用いて、刺激同期平均信号を生成し、前記複数のEEG信号サンプルが刺激に反応して誘発されたか否かを判定すること、を備える、方法。
適用例27:コンピュータ読み取り可能な記憶媒体内に埋め込まれたコンピュータプログラム製品であって、複数のEEG信号サンプルを記録するためのコンピュータ命令と、前記複数のEEG信号サンプルを用いて、刺激同期平均信号を生成するためのコンピュータ命令と、前記複数のEEG信号サンプルが刺激に反応して誘発されたか否かを判定するためのコンピュータ命令と、を備える、コンピュータプログラム製品。

Claims (18)

  1. システムであって、
    プロセッサであって、
    複数のEEG信号サンプルの刺激同期平均信号を生成し、
    前記刺激同期平均信号に基づいて、前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かを判定することであって、事前に作成した、光に注意が向けられている時の理想的なEEG信号平均またはユーザが光を見ていることがわかっている時のEEG信号平均である原型平均信号を前記刺激同期平均信号に乗算することによって前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かを判定するよう構成された、プロセッサと、
    前記プロセッサに接続され、前記プロセッサに命令を供給するよう構成されたメモリと、
    を備える、システム。
  2. 請求項1に記載のシステムであって、前記刺激事象のパターンは、一定周波数で周期的に光フラッシュを発する複数の光源を含む、システム。
  3. 請求項1に記載のシステムであって、前記刺激事象のパターンは、周期的に光フラッシュを発する複数の光源を含み、前記複数の光源は、第1の一定周波数で光フラッシュを発する第1の光源と、前記第1の一定周波数とは異なる第2の一定周波数で光フラッシュを発する第2の光源とを含む、システム。
  4. 請求項1に記載のシステムであって、前記刺激事象のパターンは、複数の周波数で周期的に光フラッシュを発する光源を含み、前記光フラッシュは、第1の周波数の第1の光フラッシュと、第2の周波数の第2の光フラッシュとを含む、システム。
  5. 請求項1に記載のシステムであって、前記刺激事象のパターンは、一定パターンの可変周波数で光フラッシュを発する複数の光源を含む、システム。
  6. 請求項1に記載のシステムであって、前記刺激事象のパターンは、それぞれ独立したフラッシュ光事象を提供する複数の光源を含む、システム。
  7. 請求項1に記載のシステムであって、前記複数のEEG信号サンプルは、前記システムのユーザの無意識の反応として誘発される、システム。
  8. 請求項1に記載のシステムであって、前記複数のEEG信号サンプルは、意識的なEEG信号応答を含む、システム。
  9. 請求項1に記載のシステムであって、前記複数のEEG信号サンプルの各々は、複数のサンプル点を含む、システム。
  10. 請求項1に記載のシステムであって、前記複数のEEG信号サンプルの各々は、時系列のEEG信号サンプルを含む、システム。
  11. 請求項1に記載のシステムであって、前記刺激同期平均信号は、フラッシュ同期平均信号を含む、システム。
  12. 請求項1に記載のシステムであって、前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かの判定は、リアルタイムで実行される、システム。
  13. 請求項1に記載のシステムであって、前記プロセッサは、さらに、
    前記システムのユーザが第1の光源を見ているか否かを判定するよう構成される、システム。
  14. 請求項1に記載のシステムは、さらに、
    アクティブEEG電極および基準EEG電極を含む複数の電極を備え、前記複数の電極は、前記複数のEEG信号サンプルを検出する、システム。
  15. 請求項1に記載のシステムであって、前記プロセッサは、さらに、
    前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かの判定に基づいて、制御信号を供給するよう構成されている、システム。
  16. 請求項1に記載のシステムであって、前記プロセッサは、さらに、
    前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かの判定に基づいて、制御信号をデバイスに供給するよう構成され、
    前記デバイスは、娯楽システム、教育システム、医療システム、自動車システム、および、アプリケーションを実行するコンピュータの内の1または複数を含む、システム。
  17. 方法であって、
    生体信号センサを用いて複数のEEG信号サンプルを測定し、
    前記複数のEEG信号サンプルを用いて、刺激同期平均信号を生成し、
    前記刺激同期平均信号に基づいて、前記複数のEEG信号サンプルが刺激に反応して誘発されたか否かを判定することであって、事前に作成した、光に注意が向けられている時の理想的なEEG信号平均またはユーザが光を見ていることがわかっている時のEEG信号平均である原型平均信号を前記刺激同期平均信号に乗算することによって前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かを判定すること、
    を備える、方法。
  18. コンピュータプログラムであって、
    複数のEEG信号サンプルを記録するための機能と、
    前記複数のEEG信号サンプルを用いて、刺激同期平均信号を生成するための機能と、
    前記刺激同期平均信号に基づいて、前記複数のEEG信号サンプルが刺激に反応して誘発されたか否かを判定するための機能であって、事前に作成した、光に注意が向けられている時の理想的なEEG信号平均またはユーザが光を見ていることがわかっている時のEEG信号平均である原型平均信号を前記刺激同期平均信号に乗算することによって前記複数のEEG信号サンプルが刺激事象のパターンに反応して誘発されたか否かを判定するための機能と、
    をコンピュータによって実現させる、コンピュータプログラム。
JP2012500783A 2009-03-16 2010-03-12 感覚誘発電位を用いたデバイスのeeg制御システム、方法およびコンピュータプログラム Expired - Fee Related JP5829207B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/381,887 US8155736B2 (en) 2009-03-16 2009-03-16 EEG control of devices using sensory evoked potentials
US12/381,887 2009-03-16
PCT/US2010/000747 WO2010107473A1 (en) 2009-03-16 2010-03-12 Eeg control of devices using sensory evoked potentials

Publications (3)

Publication Number Publication Date
JP2012520730A JP2012520730A (ja) 2012-09-10
JP2012520730A5 JP2012520730A5 (ja) 2013-04-04
JP5829207B2 true JP5829207B2 (ja) 2015-12-09

Family

ID=42731282

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012500783A Expired - Fee Related JP5829207B2 (ja) 2009-03-16 2010-03-12 感覚誘発電位を用いたデバイスのeeg制御システム、方法およびコンピュータプログラム

Country Status (8)

Country Link
US (2) US8155736B2 (ja)
EP (1) EP2408359B1 (ja)
JP (1) JP5829207B2 (ja)
KR (1) KR101579773B1 (ja)
CN (1) CN102368950B (ja)
AU (1) AU2010226293B2 (ja)
TW (1) TWI505813B (ja)
WO (1) WO2010107473A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11386715B2 (en) 2019-03-14 2022-07-12 Ricoh Company, Ltd. Biometric apparatus, biometric system, biometric method, and non-transitory computer readable recording medium storing biometric program

Families Citing this family (77)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080177197A1 (en) * 2007-01-22 2008-07-24 Lee Koohyoung Method and apparatus for quantitatively evaluating mental states based on brain wave signal processing system
US8391966B2 (en) * 2009-03-16 2013-03-05 Neurosky, Inc. Sensory-evoked potential (SEP) classification/detection in the time domain
US20100250325A1 (en) 2009-03-24 2010-09-30 Neurofocus, Inc. Neurological profiles for market matching and stimulus presentation
US10987015B2 (en) 2009-08-24 2021-04-27 Nielsen Consumer Llc Dry electrodes for electroencephalography
US20110106750A1 (en) 2009-10-29 2011-05-05 Neurofocus, Inc. Generating ratings predictions using neuro-response data
US9560984B2 (en) 2009-10-29 2017-02-07 The Nielsen Company (Us), Llc Analysis of controlled and automatic attention for introduction of stimulus material
KR20110072730A (ko) * 2009-12-23 2011-06-29 한국과학기술원 적응형 뇌-컴퓨터 인터페이스 장치
WO2011133548A2 (en) 2010-04-19 2011-10-27 Innerscope Research, Inc. Short imagery task (sit) research method
US8655428B2 (en) * 2010-05-12 2014-02-18 The Nielsen Company (Us), Llc Neuro-response data synchronization
US9480583B2 (en) * 2010-05-17 2016-11-01 Commissariat A L'energie Atomique Et Aux Energies Alternatives Direct neural interface system and method of calibrating it
JP5576257B2 (ja) * 2010-12-13 2014-08-20 トヨタ自動車株式会社 制御装置
JP2014518511A (ja) * 2011-03-02 2014-07-31 コーニンクレッカ フィリップス エヌ ヴェ ユーザの認識強化のためのデバイス及び方法
WO2012138761A1 (en) 2011-04-04 2012-10-11 Sheepdog Sciences, Inc. Apparatus, system, and method for modulating consolidation of memory during sleep
US8573980B2 (en) 2011-04-04 2013-11-05 Sheepdog Sciences, Inc. Apparatus, system, and method for modulating consolidation of memory during sleep
JP5711056B2 (ja) * 2011-06-21 2015-04-30 アイシン精機株式会社 脳波インターフェースシステム
US20130072809A1 (en) * 2011-09-19 2013-03-21 Persyst Development Corporation Method And System For Analyzing An EEG Recording
US9701197B1 (en) * 2011-09-22 2017-07-11 Rockwell Collins, Inc. Positive acknowledgement method that information is received
US9986933B2 (en) * 2012-02-27 2018-06-05 Honeywell International Inc. Neurophysiological-based control system integrity verification
US9569986B2 (en) 2012-02-27 2017-02-14 The Nielsen Company (Us), Llc System and method for gathering and analyzing biometric user feedback for use in social media and advertising applications
US9451303B2 (en) 2012-02-27 2016-09-20 The Nielsen Company (Us), Llc Method and system for gathering and computing an audience's neurologically-based reactions in a distributed framework involving remote storage and computing
US9292858B2 (en) 2012-02-27 2016-03-22 The Nielsen Company (Us), Llc Data collection system for aggregating biologically based measures in asynchronous geographically distributed public environments
KR101338041B1 (ko) * 2012-03-26 2013-12-09 한국과학기술연구원 Ssvep 기반 차량 안전 주행 제어 시스템 및 방법
US9814426B2 (en) 2012-06-14 2017-11-14 Medibotics Llc Mobile wearable electromagnetic brain activity monitor
KR101389015B1 (ko) * 2012-06-19 2014-04-24 서울대학교산학협력단 진폭 변조된 안정상태 시각유발전위 시각자극을 이용한 뇌파 분석시스템
US20140020089A1 (en) * 2012-07-13 2014-01-16 II Remo Peter Perini Access Control System using Stimulus Evoked Cognitive Response
CA2878944C (en) * 2012-07-20 2018-05-15 Diopsys, Inc. Signal data extraction method and apparatus
US8786546B1 (en) * 2012-08-10 2014-07-22 Rockwell Collins, Inc Hands-free electroencephalography display enablement and unlock method and apparatus
US9445768B2 (en) * 2012-11-29 2016-09-20 Neurosky, Inc. Personal biosensor accessory attachment
US20150081225A1 (en) * 2013-06-23 2015-03-19 Keady John P Method and System for the Visualization of Brain Activity
KR101508158B1 (ko) 2013-07-08 2015-04-07 한국과학기술연구원 전기 자극 시스템에서의 전극 오프셋 전압의 제어
JP6356400B2 (ja) * 2013-09-13 2018-07-11 学校法人明治大学 周波数検出装置
US9405366B2 (en) 2013-10-02 2016-08-02 David Lee SEGAL Systems and methods for using imagined directions to define an action, function or execution for non-tactile devices
WO2015076444A1 (ko) 2013-11-25 2015-05-28 (주)와이브레인 뇌파 측정 및 두뇌 자극 시스템
US9993386B2 (en) 2013-11-29 2018-06-12 Louis G. RACETTE Instrumentation absolute value differential amplifier circuit and applications
US10929753B1 (en) 2014-01-20 2021-02-23 Persyst Development Corporation System and method for generating a probability value for an event
KR101473443B1 (ko) 2014-02-07 2014-12-18 (주)와이브레인 전기자극 시스템
WO2015138981A1 (en) * 2014-03-14 2015-09-17 ElectroCore, LLC Devices and methods for treating medical disorders with evoked potentials and vagus nerve stimulation
WO2015183737A1 (en) 2014-05-30 2015-12-03 The Regents Of The University Of Michigan Brain-computer interface for facilitating direct selection of multiple-choice answers and the identification of state changes
CN104385951A (zh) * 2014-07-02 2015-03-04 河北科技大学 一种能够监测乘坐者生理与心理状态的车辆座椅系统
US9936250B2 (en) 2015-05-19 2018-04-03 The Nielsen Company (Us), Llc Methods and apparatus to adjust content presented to an individual
JP7208012B2 (ja) * 2016-04-29 2023-01-18 フリーア、ロジック、インコーポレイテッド 脳によって生じる電気的活動をモニタリングするためのデバイスおよび方法、および人の生理学的状態をモニタリングするための方法
US10203751B2 (en) 2016-05-11 2019-02-12 Microsoft Technology Licensing, Llc Continuous motion controls operable using neurological data
US9864431B2 (en) 2016-05-11 2018-01-09 Microsoft Technology Licensing, Llc Changing an application state using neurological data
JP6841405B2 (ja) * 2016-09-09 2021-03-10 国立研究開発法人情報通信研究機構 脳律動周波数変調装置
CA3038822A1 (en) 2016-09-29 2018-04-05 Mindset Innovation, Inc. Biosignal headphones
WO2018136893A1 (en) 2017-01-23 2018-07-26 Naqi Logics, Llc Apparatus, methods, and systems for using imagined direction to define actions, functions, or execution
WO2018148253A1 (en) 2017-02-08 2018-08-16 Forest Devices, Inc. Portable device for providing non-contact heat-evoked potentials
WO2018217677A1 (en) * 2017-05-22 2018-11-29 Adaptive, Intelligent And Dynamic Brain Corporation (Aidbrain) Method, module and system for analysis of brain electrical activity
US10325427B2 (en) * 2017-06-28 2019-06-18 Cubic Corporation System and method for transit access using EEG sensors
CN107137079B (zh) * 2017-06-28 2020-12-08 京东方科技集团股份有限公司 基于脑信号控制设备的方法、其控制设备及人机交互系统
CN111629653B (zh) 2017-08-23 2024-06-21 神经股份有限公司 具有高速眼睛跟踪特征的大脑-计算机接口
US11723579B2 (en) 2017-09-19 2023-08-15 Neuroenhancement Lab, LLC Method and apparatus for neuroenhancement
WO2019084252A1 (en) 2017-10-25 2019-05-02 Cubic Corporation ACCESS, ACTIVATED BY EEG, TO A TRANSIT SYSTEM
WO2019094953A1 (en) 2017-11-13 2019-05-16 Neurable Inc. Brain-computer interface with adaptations for high-speed, accurate, and intuitive user interactions
KR20190061726A (ko) * 2017-11-28 2019-06-05 현대자동차주식회사 차량의 운전제어권 조정 시스템 및 방법
US11717686B2 (en) 2017-12-04 2023-08-08 Neuroenhancement Lab, LLC Method and apparatus for neuroenhancement to facilitate learning and performance
US11478603B2 (en) 2017-12-31 2022-10-25 Neuroenhancement Lab, LLC Method and apparatus for neuroenhancement to enhance emotional response
CN111712192B (zh) 2018-01-18 2024-07-02 神经股份有限公司 具有对于高速、准确和直观的用户交互的适配的大脑-计算机接口
US11457855B2 (en) 2018-03-12 2022-10-04 Persyst Development Corporation Method and system for utilizing empirical null hypothesis for a biological time series
US11219416B2 (en) 2018-03-12 2022-01-11 Persyst Development Corporation Graphically displaying evoked potentials
US11364361B2 (en) 2018-04-20 2022-06-21 Neuroenhancement Lab, LLC System and method for inducing sleep by transplanting mental states
US11457860B2 (en) * 2018-07-09 2022-10-04 Cheng Qian Human-computer interactive device and method
WO2020014780A1 (en) * 2018-07-16 2020-01-23 Mcmaster University Systems and methods for cognitive health assessment
US11452839B2 (en) 2018-09-14 2022-09-27 Neuroenhancement Lab, LLC System and method of improving sleep
US10664050B2 (en) 2018-09-21 2020-05-26 Neurable Inc. Human-computer interface using high-speed and accurate tracking of user interactions
CN109875583B (zh) * 2019-02-19 2021-01-29 京东方科技集团股份有限公司 一种基于ar技术的疲劳驾驶检测系统及方法
TWI699672B (zh) * 2019-03-25 2020-07-21 國家中山科學研究院 以腦波訊號辨識視覺控制指令之方法及裝置
KR20200129291A (ko) * 2019-05-08 2020-11-18 현대자동차주식회사 차량의 편의기기 제어 장치 및 그 방법
US11786694B2 (en) 2019-05-24 2023-10-17 NeuroLight, Inc. Device, method, and app for facilitating sleep
US11553871B2 (en) 2019-06-04 2023-01-17 Lab NINE, Inc. System and apparatus for non-invasive measurement of transcranial electrical signals, and method of calibrating and/or using same for various applications
CN110379376B (zh) * 2019-07-04 2020-11-24 北京航空航天大学 一种用于ssvep的液晶显示器及其刺激图案显示方法
JP7319545B2 (ja) * 2019-11-28 2023-08-02 富士通株式会社 判定処理プログラム、判定処理方法および判定処理装置
US11535260B2 (en) * 2020-03-05 2022-12-27 Harman International Industries, Incorporated Attention-based notifications
US11813060B2 (en) 2020-06-29 2023-11-14 Lear Corporation System and method for biometric evoked response monitoring and feedback
US11769595B2 (en) * 2020-10-01 2023-09-26 Agama-X Co., Ltd. Information processing apparatus and non-transitory computer readable medium
JP2022059140A (ja) 2020-10-01 2022-04-13 株式会社Agama-X 情報処理装置及びプログラム
CN112906539B (zh) * 2021-02-08 2024-04-05 杭州电子科技大学 一种基于eeg数据的物体识别方法

Family Cites Families (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5178592A (ja) * 1974-12-30 1976-07-08 Dan Robaato Yanshii
US4421122A (en) * 1981-05-15 1983-12-20 The Children's Medical Center Corporation Brain electrical activity mapping
US4736307A (en) * 1982-04-21 1988-04-05 Neuroscience, Inc. Microcomputer-based system for the on-line analysis and topographic display of human brain electrical activity
US4493327A (en) 1982-07-20 1985-01-15 Neurometrics, Inc. Automatic evoked potential detection
US5052401A (en) * 1986-08-06 1991-10-01 Westinghouse Electric Corp. Product detector for a steady visual evoked potential stimulator and product detector
US4800888A (en) 1987-08-17 1989-01-31 Hzi Research Center Inc. Enhanced electrode headset
US4926969A (en) * 1988-11-18 1990-05-22 Neurosonics, Inc. Sensory-driven controller
JPH0712378B2 (ja) 1989-08-10 1995-02-15 パイオニア株式会社 脳波誘導用ゴーグルおよび脳波誘導装置
JPH03297443A (ja) * 1990-04-17 1991-12-27 Ulvac Japan Ltd 光刺激誘発脳磁波測定装置
WO1995018565A1 (en) 1991-09-26 1995-07-13 Sam Technology, Inc. Non-invasive neurocognitive testing method and system
JP2596372B2 (ja) 1994-04-21 1997-04-02 日本電気株式会社 誘発電位測定装置
US6001065A (en) 1995-08-02 1999-12-14 Ibva Technologies, Inc. Method and apparatus for measuring and analyzing physiological signals for active or passive control of physical and virtual spaces and the contents therein
US5813993A (en) 1996-04-05 1998-09-29 Consolidated Research Of Richmond, Inc. Alertness and drowsiness detection and tracking system
US5687291A (en) * 1996-06-27 1997-11-11 The United States Of America As Represented By The Secretary Of The Army Method and apparatus for estimating a cognitive decision made in response to a known stimulus from the corresponding single-event evoked cerebral potential
DE59811244D1 (de) 1997-07-04 2004-05-27 Infineon Technologies Ag Anordnung zur übertragung von strukturen
US6033073A (en) 1997-08-15 2000-03-07 Potapova; Olga Visual training system and apparatus for vision correction, especially for various forms of strabismus ("crossed" eyes)
US6092058A (en) * 1998-01-08 2000-07-18 The United States Of America As Represented By The Secretary Of The Army Automatic aiding of human cognitive functions with computerized displays
CA2298515A1 (en) * 1999-02-11 2001-08-10 Queen's University At Kingston Method and apparatus for detecting eye movement
US6196977B1 (en) * 1999-04-26 2001-03-06 House Ear Institute Method for detection on auditory evoked potentials using a point optimized variance ratio
CN1248426A (zh) * 1999-10-29 2000-03-29 清华大学 基于脑电稳态诱发响应的控制装置
US6317627B1 (en) 1999-11-02 2001-11-13 Physiometrix, Inc. Anesthesia monitoring system based on electroencephalographic signals
ATE407622T1 (de) * 2000-05-19 2008-09-15 Baycrest Ct For Geriatric Care Vorrichtung zur objektiven hörbewertung bei anwendung von auditiven stationären evozierten potentialen
US6296543B1 (en) 2000-08-03 2001-10-02 Mattel, Inc. Toy figure having enhanced punching feature
AU2001283371A1 (en) * 2000-08-15 2002-02-25 The Regents Of The University Of California Method and apparatus for reducing contamination of an electrical signal
US6754524B2 (en) * 2000-08-28 2004-06-22 Research Foundation Of The City University Of New York Method for detecting deception
JP3779150B2 (ja) * 2000-12-05 2006-05-24 株式会社テクノスジャパン 脳波のバイオフィードバックにより制御されるコンピュータゲーム装置
US20050283053A1 (en) 2002-01-30 2005-12-22 Decharms Richard C Methods for physiological monitoring, training, exercise and regulation
US20030105409A1 (en) 2001-11-14 2003-06-05 Donoghue John Philip Neurological signal decoding
AU2003222238A1 (en) 2002-02-26 2003-09-09 Zybernetix, Inc. Method and system for an intelligent supervisory control system
WO2003093947A2 (en) 2002-05-03 2003-11-13 The Trustees Of Columbia University In The City Of New York Single trial detection in encephalography
US7269456B2 (en) 2002-05-30 2007-09-11 Collura Thomas F Repetitive visual stimulation to EEG neurofeedback protocols
US6829502B2 (en) 2002-05-30 2004-12-07 Motorola, Inc. Brain response monitoring apparatus and method
JP3993069B2 (ja) 2002-10-30 2007-10-17 三菱電機株式会社 脳波信号を利用した制御装置
US20090062676A1 (en) * 2003-05-06 2009-03-05 George Mason Intellectual Property Phase and state dependent eeg and brain imaging
US7546158B2 (en) * 2003-06-05 2009-06-09 The Regents Of The University Of California Communication methods based on brain computer interfaces
US20040249302A1 (en) 2003-06-09 2004-12-09 Cyberkinetics, Inc. Methods and systems for processing of brain signals
US20050085744A1 (en) 2003-10-20 2005-04-21 Stmicroelectronics S.R.I. Man-machine interfaces system and method, for instance applications in the area of rehabilitation
US7751877B2 (en) 2003-11-25 2010-07-06 Braingate Co., Llc Neural interface system with embedded id
US7120486B2 (en) 2003-12-12 2006-10-10 Washington University Brain computer interface
CN1317624C (zh) * 2003-12-31 2007-05-23 中国人民解放军第三军医大学野战外科研究所 基于瞬态视觉诱发电位提取脑机接口控制信号的方法
US7079986B2 (en) * 2003-12-31 2006-07-18 Sieracki Jeffrey M Greedy adaptive signature discrimination system and method
US20050203366A1 (en) 2004-03-12 2005-09-15 Donoghue John P. Neurological event monitoring and therapy systems and related methods
EP2260760B1 (en) * 2004-06-18 2014-08-27 Neuronetrix Solutions, LLC Evoked response testing method for neurological disorders
US20180146879A9 (en) 2004-08-30 2018-05-31 Kalford C. Fadem Biopotential Waveform Data Fusion Analysis and Classification Method
ATE412369T1 (de) * 2004-09-03 2008-11-15 Canadian Space Agency System und verfahren zur messung der geistigen arbeitsbelastung auf grundlage rascher augenbewegungen
TWI257214B (en) 2004-12-10 2006-06-21 Univ Nat Chiao Tung Brainwave-controlled embedded Internet robot agent architecture
US20060293578A1 (en) 2005-02-03 2006-12-28 Rennaker Robert L Ii Brian machine interface device
EP1924940A2 (en) 2005-09-12 2008-05-28 Emotiv Systems Pty Ltd. System and method for interaction with a subject based on detection of mental states
US7865235B2 (en) 2005-09-12 2011-01-04 Tan Thi Thai Le Method and system for detecting and classifying the mental state of a subject
CN100453041C (zh) * 2005-10-20 2009-01-21 暨南大学 听觉刺激近红外光谱法麻醉深度监测装置
US8374687B2 (en) * 2006-01-21 2013-02-12 Honeywell International Inc. Rapid serial visual presentation triage prioritization based on user state assessment
US7580742B2 (en) * 2006-02-07 2009-08-25 Microsoft Corporation Using electroencephalograph signals for task classification and activity recognition
CN101589358B (zh) 2006-11-15 2012-05-16 松下电器产业株式会社 脑波识别方法的调整装置、方法
JP4287903B2 (ja) * 2007-06-12 2009-07-01 パナソニック株式会社 脳波インタフェースシステムおよび起動装置
US8048040B2 (en) * 2007-09-13 2011-11-01 Masimo Corporation Fluid titration system
US8271076B2 (en) 2007-10-29 2012-09-18 Panasonic Corporation Correction device to be incorporated into brain wave interface system, its method, and computer program
US7574254B2 (en) * 2007-11-13 2009-08-11 Wavesynch Technologies, Inc. Method for monitoring attentiveness and productivity in a subject
US20100185113A1 (en) 2009-01-21 2010-07-22 Teledyne Scientific & Imaging, Llc Coordinating System Responses Based on an Operator's Cognitive Response to a Relevant Stimulus and to the Position of the Stimulus in the Operator's Field of View
CN101273887A (zh) 2008-05-07 2008-10-01 张炳熙 患者手术全麻知晓的定量监测指标设备
EP2304627A4 (en) 2008-05-26 2014-08-13 Agency Science Tech & Res METHOD AND SYSTEM FOR CLASSIFYING CEREBRAL SIGNALS IN BCI
US20100109859A1 (en) 2008-10-31 2010-05-06 Lakosky Allen J Hazard Flasher System for Personal Motor Vehicles
JP5178592B2 (ja) 2009-03-16 2013-04-10 アズビル株式会社 光電センサ装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11386715B2 (en) 2019-03-14 2022-07-12 Ricoh Company, Ltd. Biometric apparatus, biometric system, biometric method, and non-transitory computer readable recording medium storing biometric program

Also Published As

Publication number Publication date
AU2010226293B2 (en) 2015-01-22
CN102368950B (zh) 2014-07-16
US20120220889A1 (en) 2012-08-30
TW201125535A (en) 2011-08-01
TWI505813B (zh) 2015-11-01
KR101579773B1 (ko) 2015-12-23
US8155736B2 (en) 2012-04-10
US8798736B2 (en) 2014-08-05
AU2010226293A1 (en) 2011-09-22
WO2010107473A1 (en) 2010-09-23
EP2408359B1 (en) 2017-05-24
EP2408359A1 (en) 2012-01-25
EP2408359A4 (en) 2013-07-24
CN102368950A (zh) 2012-03-07
US20100234752A1 (en) 2010-09-16
KR20110130482A (ko) 2011-12-05
JP2012520730A (ja) 2012-09-10

Similar Documents

Publication Publication Date Title
JP5829207B2 (ja) 感覚誘発電位を用いたデバイスのeeg制御システム、方法およびコンピュータプログラム
JP5662456B2 (ja) 時間領域における感覚誘発電位(sep)の分類/検出
CN101256706B (zh) 睡眠告警装置
EP2710515B1 (en) Systems and methods for measuring reactions of head, eyes, eyelids and pupils
EP2236078A1 (en) Processing a bio-physiological signal
JP7169694B2 (ja) 心拍信号抽出回路及び動物感情推定装置
WO1999034865A1 (en) Eeg based consciousness-alert monitoring system
CN101969841A (zh) 修改对象的心理生理状态
US20150177270A1 (en) Wearable device and control method for wearable device
US20210100470A1 (en) Electroencephalography (egg) sensing assembly
EP3784114A1 (en) Sleep enhancement system and wearable device for use therewith
van Erp et al. Vibro-tactile and visual asynchronies: Sensitivity and consistency
JP5458268B2 (ja) 脳波スイッチ制御装置とその方法
US20180092566A1 (en) Method for determining the perceptiveness of a subject
US20150272508A1 (en) Signal processing system providing marking of living creature physiological signal at a specific time
RU68878U1 (ru) Система контроля уровня бодрствования человека
CN118201551A (zh) 诱发电位的改进检测

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130213

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140408

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140704

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150106

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20150401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150929

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151021

R150 Certificate of patent or registration of utility model

Ref document number: 5829207

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees