JP4582985B2 - 頭部の動きの検出およびそれに応答する出力生成を行うためのシステムおよび方法 - Google Patents
頭部の動きの検出およびそれに応答する出力生成を行うためのシステムおよび方法 Download PDFInfo
- Publication number
- JP4582985B2 JP4582985B2 JP2001541398A JP2001541398A JP4582985B2 JP 4582985 B2 JP4582985 B2 JP 4582985B2 JP 2001541398 A JP2001541398 A JP 2001541398A JP 2001541398 A JP2001541398 A JP 2001541398A JP 4582985 B2 JP4582985 B2 JP 4582985B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- movement
- tongue
- data
- control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 49
- 230000004044 response Effects 0.000 title description 11
- 230000004886 head movement Effects 0.000 title description 5
- 238000012545 processing Methods 0.000 claims description 27
- 230000002093 peripheral effect Effects 0.000 claims description 10
- 230000002269 spontaneous effect Effects 0.000 claims description 10
- 210000000214 mouth Anatomy 0.000 description 26
- 230000006870 function Effects 0.000 description 25
- 230000008859 change Effects 0.000 description 19
- 238000013528 artificial neural network Methods 0.000 description 17
- 238000001514 detection method Methods 0.000 description 16
- 238000004458 analytical method Methods 0.000 description 13
- 230000000875 corresponding effect Effects 0.000 description 11
- 238000001914 filtration Methods 0.000 description 9
- 238000001228 spectrum Methods 0.000 description 9
- 210000003128 head Anatomy 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000012544 monitoring process Methods 0.000 description 6
- 238000000605 extraction Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 238000005070 sampling Methods 0.000 description 5
- 210000005069 ears Anatomy 0.000 description 4
- 206010052804 Drug tolerance Diseases 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 230000001276 controlling effect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000007613 environmental effect Effects 0.000 description 3
- 230000026781 habituation Effects 0.000 description 3
- 210000003205 muscle Anatomy 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 238000007405 data analysis Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000007230 neural mechanism Effects 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 208000020564 Eye injury Diseases 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 238000001994 activation Methods 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 238000005314 correlation function Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 230000005670 electromagnetic radiation Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 210000002388 eustachian tube Anatomy 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000009413 insulation Methods 0.000 description 1
- 230000004118 muscle contraction Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 238000004080 punching Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000011897 real-time detection Methods 0.000 description 1
- 230000010255 response to auditory stimulus Effects 0.000 description 1
- 230000035807 sensation Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000004936 stimulating effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Description
(関連出願と相互参照)
本願は、1999年11月9日に出願された、「System and Method for Detecting an Action of Head and Generating an Output in Response Thereto」と称される、米国仮特許出願シリアル番号60/164,360から優先権を主張し、上記開示は、本明細書中に、完全に参照として援用される。
【0002】
(発明の分野)
本発明は、概して、センサーを使って口腔に関する筋肉燃焼、動き、舌の動きなど、人の頭部の動作の検知し、そのような検知に反応して、例えば、システム制御機能のような出力の提供に関する。より詳細には、本発明は人間に耳の近くの空気の圧力における変化を解析し、収集されたデータを処理してそれに対応した正しい制御機能性を決定することによって、口腔内の舌の動き、位置、および動作を検知する。
【0003】
(発明の背景)
思考を検知する装置および方法は、米国特許第6,024,700号に開示されており、その全開示は参考として援用される。このようなシステムおよび方法は、同じ思考を一貫して発展させ、一貫してその思考を検知させるのに集中が必要であり得る。トレーニングが所望の集中および一貫性を得るのに必要であり得る。このような集中は、比較的厄介であり得る。思考は、このようなシステムおよび方法を使うユーザの片方または両方の耳で検知し得る空気圧または音を生じ得、このような空気圧はマイクロフォンなどの検知器によって検知され得る。思考を検知するこのようなシステムおよび方法からの模範的な出力は、それぞれ英数字、方向などを示す独立した出力のような1つまたは複数の独立した出力であり得る。
【0004】
人の耳によって生成される音は、ときには自動音響と呼ばれる。自動音響音は、過去においては、例えば、耳の機能、または耳の状態を示す診断用に使われた。例えば、耳にインプットされた音に反応して、耳は検知し得る自動音響出力を提供することがわかった。
【0005】
現在、腕や足を使うことができない障害者が電動車椅子を操作できる利用可能な制御装置がある。このような制御装置は、個人の口に挿入されるトラックボールまたはジョイスティックタイプデバイスを含み、個人は口および/または舌の動きを使って制御装置を操作して、メカニカルな入力を提供する。このようなデバイスは操作が難しく、口から落ちたりまたは口のなかでいらいらさせるような感覚を引き起こす場合、厄介である。
【0006】
他の制御装置があり、メカニカルな助けを借りて、障害のある個人が機能を遂行することを可能とする。このような制御装置の操作は、典型的には、入射電磁信号、例えば、個人に向けられる赤外線または紫外線光/放射線などの信号を必要とする。その後、特定された動作または活動によって、個人は例えば、瞬きをする、頭を動かす、またはなんらかのこのような動作によって、入射電磁信号を変調させ得る。入射電磁信号の必要性は、いくつかの理由のために不便である。その理由とは、その信号を提供するのに特別な一台の装置が必要である、信号は正しく方向付けされ、配列されなければならない、検知器および変調された信号は正しく配列されなければならない、信号はユーザに悪影響(例えば、目の負傷の原因となる)を及ぼしてはならないなどである。
【0007】
(発明の要旨)
本発明の1つの側面によると、本発明は制御信号を生成する方法である。その方法は、人の耳の中または近くの空気圧パターン、つまり人の自発的な身体的動作から生じる空気圧パターンを感じる工程と、空気圧パターンを出力信号に変換する工程とを含む。
【0008】
本発明の別の側面によると、本発明は人の耳の近くの空気圧を監視することによって、人の自発的な動きを検知する方法である。
【0009】
本発明の別の側面によると、本発明は制御システムである。その制御システムは、人が自発的な身体的動作を行う間、人の耳に隣接した空気圧パターンを検知し、その検知された空気圧パターンに対応する出力信号を生成する空気圧センサと、その出力信号からのパターンを識別する処理回路を含む。
【0010】
(本発明の詳細な説明)
以下の記述は、添付の図と関連付けて、本発明の詳細な説明がなされ、同様の関連符号は一貫して同様の素子と関連する。
【0011】
本発明は、口腔と関連して生じる動作等の人の頭部の動作を検出するための装置および方法に関し、これらの動作は、分散アウトプットのみを提供し得るのではなく、アナログタイプの信号におけるように、出力範囲を生成し得る。1例として、例えば、2次元運動または3次元運動等の口腔内の舌の運動が検出され得、または感知され得、有用な出力を提供する。例示的出力は、コンピュータマウス、マウス上のクリックボタン、コンピュータジョイスティック等によって生成されるものと類似の信号の形式であり得る。
【0012】
見出された本発明を用いることは、いくらか厄介でないと判定され、通常、上述の思考検出装置および方法よりも少ない集中力を要求する。また、本発明は、例えば、表面に沿ってコンピュータマウスを動かすことによって生成された信号と同じ持続的特性を有する出力を提供することができる。尚、さらに、舌は3次元で運動できるので、本発明は、ジョイスティックがそれぞれの位置またはそれぞれの方向に動かされる速度と関連付けられる信号の速度特性を含む上下、左右、前後の信号出力を有するコンピュータジョイスティックによって生成される信号出力等の3次元タイプの信号出力を提供することができる。
【0013】
本発明は、複数の目的に使用され得る。1例示的使用は、コンピュータまたは他の電気デバイスまたは電子デバイスに入力を提供する。例示的入力は、電気信号であるが、入力は、例えば、光学、流体等の電気以外であり得ることが認識される。入力は、コンピュータまたは他のデバイスを制御し得るか、または別の任意の目的に用いられ得る。本明細書中での説明の複雑さを簡易化し、説明の複雑さを回避するために、本発明は、例えば、デジタルタイプかアナログタイプかに関わらず、パーソナルコンピュータまたは他の任意のコンピュータ等に電気入力を提供して、コンピュータの動作を制御するのに用いられることに関して説明される。
【0014】
本発明を用いて制御されるコンピュータと組合せた本発明の使用の1例は、障害者のための機能および能力を提供することである。例えば、本発明は、障害者または非障害者が製造設備における1つの機械装置の動作を制御し、動力化された車椅子または同様のデバイスの動作を制御し、ビデオゲーム等の動作を制御、すなわちビデオゲームをすることを可能にするために用いられ得る。これらは、例にすぎず、本発明は、他の多くの目的のために用いられ得ることが認識される。
【0015】
本発明において、有用な出力を生成するための改変を要求する不定の電磁信号は必要とされない。むしろ、本発明において、例えば、舌の運動、歯または歯止め(pallet)に対する舌打ち等の口腔に関して、個人の頭の中で生じる個々の動作が用いられ、個人の片方、または両方の耳元で気圧または音を生成し、これらが検出され得るか、または感知され得、本発明の出力として、コンピュータまたは他の任意のデバイスへの入力として提供される。従って、本発明は、非刺激性の信号、例えば、不定の電磁信号等の不定の入力を必要とすることなく、個人の動作によって生成される信号を提供する。
【0016】
本発明の実施形態によって、センサは、気圧、または気圧の変化、または個人の耳によって生成された音を感知するか、または検出する。本明細書中の説明を簡易化するために、感知工程または検出工程のイベントは検出工程と呼ばれ、検出されるものは気圧と呼ばれる。さらに、本明細書中の説明を簡易化するために、検出可能な気圧を引起す動作は、口腔内の舌の運動と呼ばれ、時々「舌の動作」と呼ばれる。本発明が、口腔内または口腔と関連するか、それどころか頭それ自体の、他の筋肉の運動または動作、あるいは舌の歯または歯止めに対する動作または舌打ち、肺による吐出しまたは吸込み、鼻の動作を考慮することが認識され、これらは個人の片方の耳または両方の耳元で気圧を検出することを可能にし、本発明により用いられ得る。検出可能な頭部の他の動作は、頭部を回転することか、または頭部を傾けることであり得る。気圧の検出をもたらすために舌の運動を用いることの例示的利点は、舌の運動は2次元または3次元であり得ることである(2次元は、上下または左右の運動、および3次元は前後、左右および上下の組合せである)。
【0017】
本発明は、人の頭部の動作を検出するシステムおよび方法に関し、以下の例において、その動作は、口腔に関する舌の運動または他の動作であり、そのような検出に応答して有用な出力を提供する。本発明は、舌の動作に応答して、ほぼ瞬間的に生じる人の耳の近傍の気圧における変化をモニタリングし、実質的に、リアルタイムの検出および制御システムを提供する。さらに、気圧のモニタリングは受動的であり、従って、電気信号および電磁放射に対する被験体に関する健康および/または環境の潜在的問題を回避する。さらに、気圧における変化は、種々の舌の動作の1つと独自に対応し(例えば、独自の信号サインを有する)、複数の制御機能を必要とするシステムのための複数の異なった舌の動作が検出され、識別されることを可能にする。
【0018】
本発明の1局面によって、舌の動作を検出し、検出に応答して、対応する出力を提供するためのシステムは、ユーザの耳の近傍に位置する圧力センサを含む。このセンサは、処理回路と電気通信して、ユーザの舌の動作が原因で起こる耳の近傍での気圧の変化を感知し、この気圧の変化を電気信号に変換する。この電気信号は、その後、処理回路によって処理され、電気信号内で、舌の動作の存在およびそのタイプを検出し、制御指令、または実行のための出力周辺装置に特定の舌の動作に対応する、コンピュータマウスまたはジョイスティックによって生成されたものと同様の出力等の、他の任意の有用な出力を提供する。例示的制御機能は、ビデオゲームディスプレイを制御すること、車椅子等の1つの医療機器を制御すること、およびコンピュータ機能を制御して、手を必要としないマウス、ジョイスティック等を実行することを含み得るが、これらに限定はされない。
【0019】
本発明の別の局面によって、舌の動作を検出し、舌の動作に対応して制御指令を提供する方法が提供される。舌の動作は、気圧をモニタリングすることによって観察され、舌の動作および雑音に対応して気圧が耳の近傍で変化する。この方法は、気圧データをアナログ電気信号に変換することを含み、この電気信号は、実質的に、さらなる処理をするためにデジタル信号データに変換される。データ信号処理は、データを分析し、舌の動作のデータから雑音を分離し、それによって舌の動作の存在を検出するために実施される。さらなる処理は、その後、検出された舌の動作を決定し、1つ以上の有用な出力、すなわち制御指令または他の任意の出力を、適切な機能を実行するための出力周辺装置に提供するのに用いられる。
【0020】
本発明の実施形態において、圧力センサおよび変換器はマイクロホンを含み、データ信号処理は、データセグメントの周波数領域への変換を含み、舌の動作に関するデータを雑音から識別する。さらに、所望の周波数または信号が期待される周波数帯域よりも上のおよび下の周波数で生じる雑音を分離するための帯域信号濾過機能、および閾値よりも少ない電力で生成された信号、すなわち雑音とみなされる信号を除去するパワースペクトルフィルタリングが存在する。舌の動作タイプ信号が検出された場合、さらなるデータ処理は特徴の抽出、そして、これと格納された特徴との相関関係の分析を含む。十分な相関関係が取得された場合、その後、対応する出力が提供される。出力は、例えば、1つ以上の制御指令が指令を実行するための出力周辺装置に伝送され得、それによって、システム制御機能を提供する。ニューラルネットは、相関関数を実行するのに用いられ得る。
【0021】
ここで図面に戻って、本発明の詳細な説明を続ける。図1は、舌の動きまたは他の頭の動きを検出して、検出された舌の動きに対応した出力を提供するためのシステム10を示すブロックレベル図である。システム10は、Adlink Technology製造のPCI9118HGデータ取得カード、またはドイツのInes Company Gmbh製造のDAQi250データ取得カードなど、アナログ信号をデジタル信号データに変換する、アナログ−デジタル(A/D)コンバータ16を含む処理回路部14に結合された圧力センサ12を含む。これらの信号が比較的連続的で、舌の継続的な運動(例えば、濾過および信号検出が以下にさらに説明するように実行され得るまでの運動)を反映し得るように、バッファ17が設けられて、A/Dコンバータ16からの信号の一部を格納する。また、処理回路部14は、A/Dコンバータ16およびバッファ17からデジタル信号データを受信し、かつ、デジタル信号データ上で種々の信号処理機能を実行して、舌の動きの発生を検出して、舌の動きの種類を判定するプロセッサ18を含む。また、システム10は、プロセッサ18によって提供され、検出された見解に対応した、一つ以上の制御指示を実行する、プロセッサ18に結合された出力周辺機器20を含む。
【0022】
システム10を、図2aの例示の環境コンテキストにおいて示す。図2aにおいて、ユーザ22は、一対のヘッドホン26内に圧力センサ12を設けることによって、圧力センサ12を耳24の近傍に設ける。ヘッドホン26は、好適には、二つの機能を提供する。これらの二つの機能は、(1)ヘッドホン26の耳の近傍の比較的固定した位置に圧力センサ12を設ける機能(2)ヘッドホン26のわずかな量の外部音響絶縁を提供することによって、圧力センサ12によって検出される外部雑音量を減少させる機能である。ユーザ22が、例えば、口腔に対して舌を移動させることによって動く場合、気圧の変化が耳24内または耳24の近傍で生じ、気圧の変化が舌の動きを一意的に識別する。気圧の変化は、回路部14が引き続き処理できるように検出された気圧をアナログ電子信号に変換する圧力センサ12によって検出される。図2aにおいて、例示的な出力周辺機器20を、制御指示(例えば、ビデオゲームにおいて走ったり、歩いたり、飛んだり、パンチまたはキックを実行するなど)を実行するコンピュータゲームまたはビデオゲームに関連付けられたディスプレイとして示す(または、例示的な出力周辺機器20が、機械化された車椅子および製造プロセスにおいてタスクを実行するためなどの制御機能を提供し得る)。表示される運動の方向および速度は、舌の運動の方向および速度に対応し得、キックまたはパンチの強度は、例えば、パレットまたは歯に対する舌打ちの強度に対応し得る。
【0023】
圧力センサ12と耳24との位置関係を、図2bにより詳細に説明する。本発明は図2bに示すように一つのセンサ12を用い得るが、図2aに示すように二つのセンサを用いると、三次元情報を得る際に有利である。二つのセンサを用いることによって、各センサは、舌の三次元運動の機能として口腔または歯または舌打ちの強度等に関する異なる情報を収集する。検出された信号は、相関付けされて、実際、三つの程度の運動(例えば、三次元効果)を有する出力を提供し得る。例えば、口腔内の移動は、上下、左右、前後であり得、このような移動のそれぞれの組み合わせは、所望の三次元結果を提供し得る。これにより、各耳におけるセンサ12は異なる気圧を検出し、この気圧はジョイスティックの三次元運動または三次元運動を示す出力信号をもたらすマウスと相関付けされ得る。
【0024】
圧力センサ12は、センサ上に固定されたマイクロホン30などのセンサを有するヘッドホンハウジングなどのハウジング28を含む。マイクロホン30がハウジング28に取り付けられる様式を変化させて、耳24からのマイクロホン30までの距離を調整し得る。マイクロホン30は、マイクロホンの感度に依存して、耳24の近傍(例えば、約1インチから2インチ内)にあるが、他の距離を用いることも可能であり、これは本発明の範囲内であると考えられる。マイクロホン30を、耳24内に快適になるように設けてもよいし、強さのレベルが増加した際に気圧の変化を受け取るように耳のできるだけ近傍に設けてもよい。図2bにおいて、マイクロホン30の形状も位置も尺度を考慮して示さないが、説明を明確にするために、このように示しているだけである。
【0025】
本発明の一実施形態において、マイクロホン30は、少なくとも約47mV/Pa(パスカルあたりミリボルト)の感度を有し、一実施形態において、約10Hzから約800Hzの周波数の範囲内で約100mV/Pa以上の感度を有する。約20Hzのオーダーの周波数の範囲は、本明細書に説明する舌の動きから生じる気圧を検出する一実施形態において有用である。さらに、気圧を検出する基準は、気圧の検出、気圧および/または音における差を意味し得ることに再度留意されたい。用いられ得る一つの例示的なマイクロホンは、デンマークのBrueel&Kjaer製造のModel4190のマイクロホンである。しかしながら、代替として、他の種類のマイクロホンまたは他の種類の圧力センサを用いることが可能であり、それぞれのこのような変更は、本発明の範囲内であると考えられる。Model4190のマイクロホンを用いると、アナログ出力信号はピークツーピークで約400mVである。しかし、出力信号の振幅は、電子部品の振幅係数および耳に対するマイクロホンの位置に依存し、これにより、実質的に変化し得る。
【0026】
どの物理メカニズム、化学メカニズムまたは神経メカニズムが、種々の筋肉発動(例えば、筋肉の収縮および解放)に応答して、耳内または耳の近傍において気圧の変化を生じさせたりまたは生成するかは定かではない。しかし、ユースタキ管(eustachian tube)を介して口腔を耳に接続するため、舌の移動によって、気圧が生じ、気圧またはセンサ12によって検出され得る検出可能な気圧を生じさせる耳への空気フローまたは耳からの空気フローにおける変化が生じ得る。物理メカニズム、化学メカニズムまたは神経メカニズムが正確であろうとなかろうと、実験的テストは、舌の動きが人の耳内または耳の近傍において圧力の変化を生成し、気圧の変化が実質的にそれぞれに固有のサイン(signature)を有し、これにより、個々の所与の舌の動きに対して実質的に一意的であることを確認する。この結果、気圧の変化が耳の近傍においてモニタリングされ得、この気圧の変化を用いて使用者の舌の動きが検出され得る。
【0027】
本発明は、測定されるパラメータを特徴づけるために、最も広い意味で耳の近くの用語「空気圧の変化」を使用する。あるいは、空気圧の変化は、音波として特徴付けられ得る。当業者に周知なように、音波は縦波であり、縦波では、「プッシュ」は、媒体(好適な実施形態では空気)内の分子毎に伝達される。そのような波の復元力は、空気圧に起因する。分子の密度が通常よりも高くなるときは常に、圧力も通常よりも高くなり、分子を遠くにプッシュする。図2cは、空気内の例示的な音波40を示し、低分子密度42aおよび高分子密度42bのそれぞれの交互の複数のゾーン42からなる。分子密度が変動することから、音波が伝搬するような特定の周波数を有する空気圧の変化が生じる。さらに、当業者に周知なように、音波がそのソースから広がるにつれて、その強度は降下する。なぜなら、その波のエリアが大きく広がるのに対して、全エネルギーは一定であるからである。したがって、単位面積当たりのエネルギーは距離の平方の逆数で減少する。結果的に、耳24に充分に近いマイクロフォン30を有することで、空気圧変化の強度レベルが大きくなり、それにより任意のノイズに対して検出することが容易になることが望ましい。
【0028】
音波が可聴可能な周波数の範囲は、約20Hzから約20KHzであるが、本発明は、空気圧の変化が可聴であるかどうかに関与しない。なぜなら、マイクロフォン30は十分感度がよく、高周波数または低周波数で空気圧変化を検出するに十分な周波数検出範囲を有するからである。本発明の実施形態において、約10Hzから約800Hzの周波数範囲が集中されている。なぜなら、舌動作を検出し、かつ、特定するのに、十分なデータが周波数範囲内で利用可能であることが、実証検定を介して決定されているからである。別の実施形態において、周波数範囲は、約20Hz±数Hz(例えば、±約10Hz)であり、したがって、約10Hzから約30Hzのオーダである。しかしながら、あるいは、舌動作を検出するのに適した任意の周波数範囲をモニタしてもよく、そのような改変は本発明の範囲内にあるように企図される。
【0029】
圧力センサ12(好適にはマイクロフォン30を含む)は、空気圧の変化をモニタし、図2dに図示されるように、圧力データをアナログ電気信号50に変換する。信号50において、少なくとも2つの信号成分、すなわち、高周波数成分52および低周波数成分54が存在することに留意されたい。さらに、他の周波数も、電気信号50内に存在し得、本発明は、好適には、プロセッサ18によって実行される後続のデータ処理における様々な信号周波数を解析する(以下に詳細に記載する)。
【0030】
本発明を実行するための方法100を図3に示す。その方法100は、ステップ102において人の舌動作によって生じる空気圧の変化をモニタすることによってその舌動作を検出する工程を含む。ステップ102において舌動作を検出すると、検出された舌動作に対応する1つ以上の制御命令または他の出力(単数または複数)がステップ104において出力周辺機器に提供され、所望な出力機能を達成する。
【0031】
舌動作を検出する(ステップ102)方法を図4に図示する。図1および図2a〜2dに関連して示されるような圧力センサを、ステップ120において舌動作を検出するユーザの耳に近くに配置する。本発明の実施形態にしたがって、舌動作に応じて耳の近くの空気圧の変化が生じ、したがって、ステップ120において、圧力センサは耳の近くに配置される。しかしながら、あるいは、舌動作により、体の他の部分において、または、体の他の部分の近くで圧力変化が生じ得るので、本発明の代替の実施形態において、圧力センサは体の他の部分において、または、体の他の部分の近くに配置されることが企図され得、空気圧の変化を解析することによって舌動作の任意の検出が、本発明の範囲内にあるとして企図される。
【0032】
ステップ122において、耳の近くの空気圧をセンサでモニタし、ステップ124において、後の解析のために、電気信号に変換される。ステップ124において電気信号に変換された後、ステップ126において、電気信号を解析して、舌動作を検出する。ステップ126において、さらなるデータを処理することなく、単に空気圧の変化に対応する信号を解析することによって、舌動作を検出し得ることが企図されるが、ステップ126の舌動作検出プロセスは、信号解析に関連したデータ処理を含むことが好ましい。
【0033】
モニタされた圧力に対応する電気信号を解析し、処理する方法を図5に図示する。電気信号(図2dに図示されたアナログ信号)を、ステップ140において、デジタル信号(図6に図示される)に変換する。当業者に周知なように、選択された周波数でアナログ信号をサンプリングし、サンプリング点の各々において信号振幅を特定することによって、アナログ信号をデジタル信号に変換し得る。次いで、サンプリングされたデータ点の各々は、メモリ内のデジタルワードとして保存され、さらなる解析に使用される。図6において、サンプリングされたアナログ信号を図示する。図6において、点線は特定の時間期間の例示的なアナログ信号を図示し、点線上の複数の点はメモリに保存されたサンプリングされた振幅値を表す。サンプリング周波数は、アナログ信号を適切に表すに十分なデータ点をキャプチャするに十分であることが望ましい。具体例として、そのサンプリングレートは32KHzであり得、解析される全信号時間長は、2048mSecであり得る。しかしながら、あるいは、他のサンプリングレートおよびデータ獲得時間フレームを使用してもよく、そのような改変は本発明の範囲内にある企図される。
【0034】
ステップ140において、アナログ信号をデジタル信号データに変換すると、例えば、ステップ142において、信号プロセッサによって、デジタルデータを解析して、処理して、舌動作の存在を検出する。データの解析および処理は、複数のセグメントにおいて、例えば、図7および図8に図示されるように、行なわれ得る。図7に図示されるように、第1のデータセグメントは、ステップ144において解析され、その後、ステップ146において第2のデータセグメントを解析する。様々なデータセグメントが個別に解析されると、ステップ148において、そのデータセグメントを一緒に解析する。ステップ150において、全てのデータセグメントが、まだ、解析されていない場合、その方法142はステップ146に戻り、次のデータセグメントを解析して、その後、全ての前のセグメントはステップ148において一緒に解析される。そのプロセスは、全てのデータセグメントがステップ150において解析されるまで続き、それにより、ステップ152において、解析されたデータセグメントを用いて結果を生成することができる。
【0035】
そのデータセグメント解析は、図8においてグラフィックに示され得る。ここで、デジタル信号データ154を、簡略化の目的で、連続的に図示している。解析のためのデータの全長は、64セグメントに分離され得、その各々の長さは32mSecである。信号154は、高周波数成分155と低周波数成分156との両方を含むことに留意されたい。舌動作に関連するデータは、潜在的に、いずれかの成分内に見出され得るか、または、舌動作データが複数のデータセグメントにまたがり得るので、データセグメントは、個別に、および、一緒に解析され得る。したがって、図7のステップ144において、第1のデータセグメントを解析する(領域157)、次いで、ステップ146において、第2のデータセグメントを解析し(領域158)、ステップ148において、両方のデータセグメントを一緒に解析し(領域159)、次いで、そのプロセスを全てのデータセグメントに対して続ける。結果として、本発明のデータ解析は、高周波数信号と低周波数信号との両方を解析して、舌動作を検出する。なぜなら、一般的に、対象の信号が約10Hzから約800Hzの範囲内にあるか、または、約20Hz±約10Hzの範囲内にあることを実証的検定が示すからである。
【0036】
図5に戻ると、ステップ142において舌動作データと考えられるデータを圧力データ内に見出すと、ステップ160において、続く解析を舌動作のタイプを判定するように行う。そのような解析は、それぞれの信号/そのような信号の特徴を認識するように慣らされた神経網を用いた特徴抽出および解析を含む。信号が特定の特性の舌動作を表すと神経網が判定する場合、出力を提供するか、本明細書で記載されるような使用のために、その代表的な出力の生成を行なう。しかしながら、あるいは、舌動作を検出すると、舌動作のタイプを特定する他の技術を使用してもよく、任意のそのような技術は、本発明の範囲内にあると企図される。
【0037】
デジタル信号をデータセグメントで解析する1つの例示的な方法を図9に図示する。32mSecのデータセグメントの各々について、ステップ170において、データは、例えば、当業者に周知な高速フーリエ変換(FFT)を用いて、時間ドメインから周波数ドメインに変換される。周知なように、時間ドメイン信号f(t)は、以下の式に従って周波数ドメインf(jω)に関連付けられる。
【0038】
【数1】
ここで、F(f(t))は、従来のフーリエ変換である。当業者に周知であるように、高速フーリエ変換は離散フーリエ変換を計算するための効率的なアルゴリズムであるので、高速フーリエ変換は、従来のフーリエ変換に関連している。デジタル信号データは、高速フーリエ変換を介して周波数ドメインに変換された後、ステップ172において、舌動作に関連するデータをノイズデータと区別するように周波数ドメインデータを処理する。当業者に周知なように、データノイズからの分離は、しばしば、周波数ドメインにおいて単純化される。なぜなら、ノイズと異なり、データ信号はある物理特性を有するからである。時間ドメインにおけるデータ信号はノイズより小さい振幅を有するが、周波数ドメインにおけるデータ信号はノイズより大きい振幅を有するからである。したがって、高速フーリエ変換は、ノイズを分離するための一般的な方法である。
【0039】
デジタル信号データのデータ処理の周辺の詳細は、当業者に周知なさまざまなデータ処理技術を介して為され得、任意のデータ処理方法論は、本発明の範囲内にあると企図される。多くの異なるデータ処理方法論が使用され得るが、好適な方法論は、以下の方法およびシステムに関連して下記に示す。
【0040】
図10を参照して、本発明のシステム200および方法を示す。1つ以上のセンサ12はユーザの耳(単数または複数)から空気圧を検知する。センサ(単数または複数)からのアナログ信号(単数または複数)は、データ獲得カード、アナログ‐デジタルコンバータおよびバッファ16/17を介してプロセッサ18に供給される。舌が動いている間、センサから受信した信号は、少なくともそれぞれの時間周期に対して実質的に連続的である。したがって、バッファ17はプロセッサ18による解析のための信号の十分な部分を格納可能である。
【0041】
プロセッサ18は、バンドパスフィルタ202と、パワースペクトルフィルタ204と、信号検出器206と、特徴抽出部208と、神経網210とを含む。システム200は、また、所望な出力周辺機器20に結合され得る出力部212を含む。
【0042】
システム200全体の動作を要約すると、センサ(12)およびデータ獲得、A/Dおよびバッファ16/17は、バンドバスフィルタ202に信号を供給する。バンドパスフィルタ202に供給される生データまたは生信号の例を、図11のグラフの220で示す。生信号は、バンドパスフィルタに提供され、バンドパスフィルタによって高速フーリエ変換技術を用いて周波数ドメインに操作される。高速フーリエ変換はデジタル信号を周波数ドメインに変換する。バンドパスフィルタでは、舌動作を表す周波数範囲の上または下の周波数が、例えば、信号から取り除かれる。対象の周波数範囲より高い周波数および対象の周波数範囲より低い周波数は、一般的に、ノイズの原因となる。バンドパスフィルタ化によってフィルタリングされた後の信号の例を図12のグラフの222で図示する。さまざまなバンドパスフィルタを用いて、所望な周波数範囲より高い信号周波数および所望な周波数範囲より低い信号周波数を取り除くようにバンドパスフィルタ化を行い得る。
【0043】
222で表される信号の一部(例えば、部分222aおよび部分222b)は、舌動作を表さないかもしれない。例えば、それらは比較的パワーが低く、したがって、依然としてノイズかもしれない。したがって、パワースペクトルフィルタ204は、信号のさまざまな部分のパワーに従ってさらにフィルタ化され、舌動作に起因し、したがって、さらなる解析を考慮すべき部分を決定する。パワーフィルタ化は、図12の信号を、図13の224a、224b、...224iで表されるような複数のセグメントまたはウィンドウにスライス化することによって実行され得る。図12および図13のグラフは異なるスケールであることが認識される。したがって、ウィンドウ224a〜224iは、時間taと時間tbとの間の時間フレームをスライスする。ここで、時間taと時間tbとの間の同じ時間フレームを図12の信号部分222cに対して図示する。
【0044】
パワーフィルタ化は、信号のパワーが所定の閾値または値を越えず、それにより、恐らくノイズを表す周波数を抑制するか、または、除去する。ノイズ成分をを除去することによって、舌動作を表す信号が見出され得る。パワーフィルタ化を行うために、例えば、信号のパワースペクトルを以下の公式を用いて計算する。
【0045】
Pf=Magf 2+Phasef 2
ここで、f=F0...Fl、および[F0;Fl]は舌動作から生じる信号が期待される周波数範囲を表す。
【0046】
言い換えると、パワーは、大きさの2乗と位相の2乗との和の関数である。それぞれのウィンドウ224a、224b...224iに対して上のように計算されたパワーは、図14に示されるグラフ226を作成するように再構築される。グラフ226は、上記の計算からの値226a、226b...226iを示す。曲線226は比較的滑らかであり、舌動作によって生じる信号が図12のグラフ222内に見出され得るパワースペクトルを表す。舌動作によって生じる信号は、通常、比較的高いパワーであり、グラフ226のほぼ真中の時間に、例えば、図13に示される時間フレームTに対して生じる。時間内において信号222が舌動作を表している場合に、信号を検出し、または位置付けるのは、この時間フレームが生じる時間およびその時間フレームの期間である。したがって、実際には、システム200の信号検出器構成要素206は、図12および図13のグラフとここで記載された解析とを組みあわせて、信号検出機能が提供される。時間フレームTは、また、図12のグラフに示され、それにより、舌動作によって生成されると考慮されるべき信号222cの(図示されるブロックウィンドウ222eにおける)部分222dを指定する。
【0047】
次いで、信号部分222d、または、少なくともその信号の1つの特徴は、神経網210に供給され得る。特徴抽出原理を用いて、信号部分222dの1つの特徴は、神経網に供給される。神経網210において、その特徴は、神経網が慣らされた他の特徴と比較される。神経網の慣れは周知の手順である。神経網は、入力特徴(例えば、信号部222dの代表的なもの)の許容可能に整合するか、または、神経網の慣れに許容可能に相関するかどうかを判定し得、そうである場合、神経網は出力212の生成を生じさせる。出力212は、コンピュータマウス、ジョイステックまたは他のデバイスによって生成される信号のタイプに類似した電気信号であり得る。したがって、口の前、下、左から、口の後ろ、上、右へユーザの舌を移動させることによる舌動作は、マウスパッドの左下から右上へのマウスの移動に類似した出力信号を生成し得る。別の例として、口の左前からマウスの右前までの舌の移動により、マウスを左から右へ移動したのと類似する信号を生じ得る。他も同様である。
【0048】
例えば、信号222から抽出される特徴は、ある特性を示す特徴、または、他のものからの信号を表す曲線を区別する特徴であり得る。周知のさまざまな特徴が、特徴抽出方法において使用される。本発明において、例示の特徴は、信号部分222dの滑らかなパワースペクトルである。他の特徴は、パワースペクトルの対数、パワースペクトルそれ自体などであり得る。
【0049】
神経網210は、一般的な形態で慣らされた従来の神経網であり得る。神経網210は、信号部分222dの特徴を、その慣らされたものと比較し、その特徴がある慣らされた特徴または別の慣らされた特徴により近いかどうかを判定し得る。信号部分222dの入力特徴がある慣らされた特徴に十分に近い場合、神経網は、上述したように、例えば、その出力において適切な信号を生成させる。入力特徴は、慣らされた特徴の任意のものと十分には似ていない場合、または、2つ以上の慣らされた特徴と比較的類似している場合、神経網は出力信号を生成させるための出力を生じさない。さもなければ、不確かな、望ましくない出力信号を生成される。
【0050】
上述したように、2つのセンサ12を使用すれば、システム200はそれぞれのセンサからの各々の信号について順次的に動作し得るか、または、パラレル処理機能を含み得、それにより、両方のセンサからの信号は実質的に同時に処理され得る。出力部212は、両方のセンサから生じる信号の信号解析の結果を反映し得、出力部212において、実際には3次元データを反映する出力信号を供給するために用い得る。
【0051】
特定の好適な実施形態または特定の好適な複数の実施形態に関して本発明を示し、説明してきたが、本明細書および添付の図面を読み、理解した他の当業者が、等価な代替および改変を想起することは明らかである。特に、上記の構成要素(アセンブリ、デバイス、回路など)によって実行された様々な機能に関して、そのような構成要素を説明するために使用された用語(「手段」と参照されるものを含む)は、本発明の例示的な実施形態を図示した本明細書における機能を実行する開示された構造に構造的に等価でなくても、記載された構成要素の特定の機能を実行する任意の構成要素(すなわち、機能的に等価なもの)に対応するものを意図する。さらに、本発明の特定の特徴は、いくつかの実施形態の1つのみに関して示されているかもしれないが、そのような特徴は、任意の所与の用途または特定の用途に対して所望であり、利点を有し得る場合、他の実施形態の1つ以上の他の特徴と組み合わされ得る。
【図面の簡単な説明】
【図1】 図1は、本発明による、本明細書中ではしばしば舌の動作とも呼ばれる口の動作が検知され、その口の動きを使って、検知された口の動作に対応する制御機能を提供するシステムを示すブロックレベル図である。
【図2a】 図2aは、本発明による、表示と連結されたプロセッサと電気的な通信を行う耳の近くに設置された圧力センサを有するユーザの環境図である。
【図2b】 図2bは、本発明の1側面による、耳の近くの空気圧を監視する圧力センサをより詳細に示す図2aの一部の拡大図である。
【図2c】 図2cは、本発明による、空気内の波の映像であり、複数の縦の分子的密度変化を表す図である。
【図2d】 図2dは、本発明による、圧力センサに対して局所的な位置の空気圧の変化を示す圧力センサと連結されたトランスデューサによって生成される、模範的な電気信号を示すグラフである。
【図3】 図3は、本発明による、口の動作を検知し、検知された口の動作に反応して制御指示を提供する方法を示すフローチャートである。
【図4】 図4は、本発明による、空気圧を監視する方法を示すフローチャートである。
【図5】 図5は、思考を検知するために空気圧に対応する電気信号を処理する方法を示すフローチャートである。
【図6】 図6は、本発明による、アナログ電気信号のデジタル信号データへの変換を示すグラフである。
【図7】 図7は、本発明による、デジタル信号データを解析する方法を示すフロー−チャートである。
【図8】 図8は、本発明による、図7のフローチャートとともにデジタル信号データを解析する方法を示すグラフである。
【図9】 図9は、本発明による、デジタル信号データを処理する方法を示すフローチャートである。
【図10】 図10は、本発明の部分および機能を含むシステムを示すシステム図である。
【図11】 図11は、口の動作を表す空気圧を検知するのに本発明において使用されるセンサによって検知される、模範的な未処理信号情報を表すグラフである。
【図12】 図12は、図12の周波数フィルタリングされた信号情報のグラフであり、例えば、周波数をフィルタリングして騒音を除去したグラフである。
【図13】 図13は、頭の動作を表す信号を遅れずに位置付けするのに使用する図12の曲線のパワースペクトルのウィンドウを表すグラフである。
【図14】 図14は、このようなパワースペクトルのグラフである。
Claims (7)
- 制御信号を生成する方法であって、
人間の耳部によって生成される空気圧パターンを感知するステップであって、該空気圧パターンは該人間の自発的な肉体運動によって生じる、ステップと、
該空気圧パターンを電気出力信号に変換するステップと、
該電気出力信号から制御命令を生成するステップであって、該制御命令は該自発的な肉体運動に対応する、ステップと、
該制御命令を用いて周辺出力装置を制御するステップと
を包含する、方法。 - 前記人間の耳部近隣に空気圧センサを配置することにより、該人間により複数の一意な自発的な肉体運動の各々と関連した空気圧パターンを感知するステップと、
該複数の一意な肉体運動の各々に対する結果の出力信号を記録するステップと、
一連の制御命令を生成するステップであって、該制御命令の各々は、該出力信号の対応する1つに対応する、ステップと
をさらに包含する、請求項1に記載の方法。 - 一連の所定の出力信号パターンのうちの1つに整合するものを求めて、前記電気出力信号を解析するステップをさらに包含する、請求項1に記載の方法。
- 前記自発的な肉体運動は、前記人間の舌の発声を伴わない動きである、請求項1に記載の方法。
- 人間が発声を伴わない自発的な肉体運動を行っている間の該人間の耳部によって生成される空気圧パターンを検出し、該検出された空気圧パターンに対応する電気出力信号を生成する空気圧センサと、
該空気圧センサに電気的に結合された処理回路であって、該処理回路は、該電気出力信号からパターンを識別し、該自発的な肉体運動に対応する制御命令を生成し、該制御命令は、周辺出力装置を制御するように適合されている、処理回路と
を備える、制御システム。 - 前記処理回路は、複数の特定の制御命令から前記制御命令を識別する、請求項5に記載の制御システム。
- 前記発声を伴わない自発的な肉体運動は、前記人間の舌の発声を伴わない動きである、請求項5に記載の制御システム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/US2000/041950 WO2001039662A2 (en) | 1999-11-09 | 2000-11-07 | System and method for detecting an action of the head and generating an output in response thereto |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2004502470A JP2004502470A (ja) | 2004-01-29 |
JP2004502470A5 JP2004502470A5 (ja) | 2007-11-01 |
JP4582985B2 true JP4582985B2 (ja) | 2010-11-17 |
Family
ID=31185963
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001541398A Expired - Fee Related JP4582985B2 (ja) | 2000-11-07 | 2000-11-07 | 頭部の動きの検出およびそれに応答する出力生成を行うためのシステムおよび方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4582985B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107280641B (zh) * | 2017-07-03 | 2024-02-13 | 北京小米移动软件有限公司 | 咀嚼侧监测方法、装置、系统和智能可穿戴设备 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5812978A (en) * | 1996-12-09 | 1998-09-22 | Tracer Round Associaties, Ltd. | Wheelchair voice control apparatus |
US6024700A (en) * | 1998-07-16 | 2000-02-15 | Nemirovski; Guerman G. | System and method for detecting a thought and generating a control instruction in response thereto |
-
2000
- 2000-11-07 JP JP2001541398A patent/JP4582985B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2004502470A (ja) | 2004-01-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6503197B1 (en) | System and method for detecting an action of the head and generating an output in response thereto | |
US6647368B2 (en) | Sensor pair for detecting changes within a human ear and producing a signal corresponding to thought, movement, biological function and/or speech | |
KR102302871B1 (ko) | 사용자의 생체신호를 모니터링 및 분석하는 장치 및 방법 | |
US6024700A (en) | System and method for detecting a thought and generating a control instruction in response thereto | |
WO2019174027A1 (zh) | 一种生理信息监测方法及生理信息监测垫、一种床垫 | |
KR101307248B1 (ko) | 사용자의 생체정보 분석을 통한 감정상태 분석장치 및 방법 | |
CN112804941A (zh) | 用于检测生理事件的装置和方法 | |
JPWO2007040022A1 (ja) | 咳検出装置及び咳検出方法 | |
US20220007964A1 (en) | Apparatus and method for detection of breathing abnormalities | |
KR20130010207A (ko) | 무구속 무자각 생체신호 획득을 통한 워치타입 건강상태 분석시스템 | |
KR102004219B1 (ko) | 미세진동 센서와 소리 센서 기반 수면장애 검출 시스템 | |
JP2002219116A (ja) | 睡眠周期検出装置 | |
JP2019098069A (ja) | 姿勢判定装置 | |
JP2628690B2 (ja) | 呼吸数モニタ装置 | |
Kalkbrenner et al. | Sleep monitoring using body sounds and motion tracking | |
JP4582985B2 (ja) | 頭部の動きの検出およびそれに応答する出力生成を行うためのシステムおよび方法 | |
KR100718941B1 (ko) | 졸음 경고장치 및 졸음 경고방법 | |
US20170035360A1 (en) | Biometric parameter data extraction from a patient surface by air pressure sensing | |
CN115998252A (zh) | 一种睡眠呼吸暂停的监测方法 | |
US20240008750A1 (en) | Diagnosis of respiratory diseases | |
WO2022269936A1 (ja) | 睡眠状態推定システム | |
JP6400937B2 (ja) | 振動信号抽出装置 | |
WO2017211396A1 (en) | System and method for measuring life parameters during sleep | |
KR20190084663A (ko) | 생체 신호 수집 및 보정 시스템과, 방법 | |
JP6495501B2 (ja) | 生体情報検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070911 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070911 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100812 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100831 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130910 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |