JPWO2016009644A1 - 入力デバイス、生体センサ、プログラム、コンピュータ読み取り可能な媒体及びモード設定方法 - Google Patents
入力デバイス、生体センサ、プログラム、コンピュータ読み取り可能な媒体及びモード設定方法 Download PDFInfo
- Publication number
- JPWO2016009644A1 JPWO2016009644A1 JP2016534283A JP2016534283A JPWO2016009644A1 JP WO2016009644 A1 JPWO2016009644 A1 JP WO2016009644A1 JP 2016534283 A JP2016534283 A JP 2016534283A JP 2016534283 A JP2016534283 A JP 2016534283A JP WO2016009644 A1 JPWO2016009644 A1 JP WO2016009644A1
- Authority
- JP
- Japan
- Prior art keywords
- waveform
- input device
- sensor
- unit
- mode setting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/015—Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/038—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
- G06F3/0383—Signal control means within the pointing device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/02—Preprocessing
- G06F2218/04—Denoising
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
- G06F2218/10—Feature extraction by analysing the shape of a waveform, e.g. extracting parameters relating to peaks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/15—Biometric patterns based on physiological signals, e.g. heartbeat, blood flow
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Multimedia (AREA)
- Dermatology (AREA)
- Neurology (AREA)
- Neurosurgery (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Social Psychology (AREA)
- Psychiatry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
本発明の目的は、被制御対象のモードを設定するか否かの判定の誤りを低減できる入力デバイス、生体センサ、プログラム、コンピュータ読み取り可能な媒体及びモード設定方法を提供することにある。
上記目的を達成するために、本発明の一態様によるコンピュータ読み取り可能な媒体は、本発明の一態様によるプログラムを有することを特徴とする。
上記目的を達成するために、本発明の一態様によるモード設定方法は、センサ信号における2つ以上の時間区間の波形同士を照合し、前記波形同士の照合結果に基づいて、被制御対象装置のモードを設定することを特徴とする。
本発明の第1実施形態は、ユーザがある動作をリズミカルに2回以上連続して繰り返すことは容易であることに着目し、サンプリングされた入力信号が連続する2周期の波形とみなされる度合いを評価して被制御対象のモードを切り替える点に特徴を有している。その繰り返し動作は、事前登録が不要であり、ユーザがその場で自由に発想してもよく、随時変更可能である。以下、本実施形態による入力デバイスについて説明する。
本実施形態の入力デバイス100は、センサ信号を取得するセンサ信号取得部101と、センサ信号における2つ以上の時間区間の波形同士を照合する波形照合部102と、波形照合部の照合結果に基づいて、被制御対象装置110のモードを設定するモード設定部103と、を備えている。このセンサ信号は、生体に装着されるように構成されたセンサでサンプリングされた信号である。また、入力デバイス100は、センサ信号またはセンサ信号を所定の加工方法で加工したデータである評価データを記憶する評価データ列記憶部104を備えている。入力デバイス100は、モード設定対象の被制御対象装置110と接続されている。入力デバイス100および被制御対象装置110とは有線または無線によって、またはネットワークを経由して接続されている。たとえば入力デバイス100を用いて実行されるモード設定方法では、センサ信号における2つ以上の時間区間の波形同士が波形照合部102で照合され、波形同士の照合結果に基づいて、被制御対象装置110のモードがモード設定部103で設定される。
また、皮膚導電率センサと加速度センサとを手首に装着する1つのデバイスに備え、ユーザが静止しているときに手の開閉を行うと皮膚導電率センサのみにユーザが意図したとおりの周期的なモーションアーチファクトの信号が発生し、ユーザが歩いたり走ったりすると皮膚導電率センサと加速度センサの両方のセンサにユーザが意図しない周期的なモーションアーチファクトの信号が発生することを利用して、皮膚導電率センサに発生した周期的なモーションアーチファクトの信号がユーザが意図して発生させたものか意図しないで発生させたものかを区別することができる。加速度センサの代わりに角速度センサを用いてもよい。
波形照合部102と、モード設定部103と、評価データ列記憶部104とは図示しないCPU(Central Processing Unit:中央演算処理装置)とメモリ装置とを有するマイクロコンピュータによって実現される。
評価データ列記憶部104は、前述の図示しないメモリ装置に設けられ、波形照合部102が生成した前述の評価データを時系列的に保存する。評価データ列記憶部104が記憶する評価データは、センサ信号またはセンサ信号を所定の加工方法で加工したデータである。
モード設定部103は、2つ以上の時間区間の波形が略同一である場合に、被制御対象装置110のモードを設定したり、略同一と判定された波形の時間長に応じて被制御対象装置110のモードを設定したりするようになっている。たとえば、モード設定部103は前述の照合結果を入力とする。ユーザが同じ動作を繰り返した場合は、モード設定部103は動作時間や動作回数に応じて被制御対象装置110のモードを切り替えて設定する。動作時間のバリエーションを増やすにはリズムとテンポを用いるのが好適である。
たとえば図2(c)の上段には1回あたりの手を閉じたり開いたりする時間を長くすることで動作時間が長い組み合わせを実現する例を示しているが、実際はユーザにとっては長い時間をリズミカルに刻むのは難しく、図2(c)の下段に示すように1回あたりの手を閉じたり開いたりする時間を短くするのが望ましい。図2(c)の下段では1つの区間で「閉じて開いて」のセットが2セットあるが前半のセットと後半のセットでは開閉の速さすなわちリズムが異なるので相関はなく、後続する2つ目の区間の2セットと1つ目の区間の2セット同士を比較して初めて相関ありと判定される。
図2(b)の上段や図2(c)の下段に示した開閉要領のように、2つの区間の波形を略同一にする動作でありながら、1つの区間内では略同一の波形とみなされる波形はなく、ユーザがおよそ同じテンポで繰り返すことができる動作を設計できる。
ここでは手首に装着する皮膚導電率センサでスマートホンやヘッドホンに実装される音楽プレーヤのモードを設定する例を想定して説明したが、センサと被制御対象装置は別々のデバイスでなくともよく、スマートウォッチに皮膚導電率センサと音楽プレーヤを実装することもできる。
2つ以上の時間区間は時間軸上で隣接する2つの区間である。このように2つの区間が時間軸上で隣接するケースにおいて相関係数を用いる場合、最新の入力データから遡ってN個のデータを1区間とし、N+1個前からN+N個前までのN個のデータを比較対象の1区間としてこれら2つの区間の相関係数を求める。
ステップS301では、センサ信号取得部101のセンサによって一定時間間隔でセンサ信号が取得される。
ステップS301の次のステップS302では、取得したセンサ信号の値から1つ前に取得したセンサ信号の値を差し引いて評価データとする。評価データはカレントの評価データから過去に遡りながら番号を振り、評価データ(No.1)、評価データ(No.2)と表記する。20Hzサンプリングで評価する1周期の最大が2秒の場合は1区間40個、3回連続までチェックする場合は3区間で120個なので、最大で評価データ(No.120)までを前述の評価データ列記憶部104に保存する。そして、評価データ(No.1)から評価データ(No.10)と評価データ(No.11)から評価データ(No.20)との組み合わせから相関係数を求めるべく変数Nに10をセットする。
ステップS304では、評価データ(No.1)から評価データ(No.N)と評価データ(No.N+1)から評価データ(No.N+N)との相関係数を求め、相関係数(N)として前述の波形照合部102の図示しないメモリ装置に保存する。ループ処理のカウンターの役割も担う変数Nに1を加算してステップS303に戻る。
ステップS305の次のステップS306では、最大値の相関係数(M)が0.95以上であれば相関ありの処理を行うべくステップS307に進み、相関係数(M)が0.95未満であれば相関なしとしてステップS308に進むための判定処理を行う。
ステップS307では、相関ありと判定された場合の所定のモード設定の処理を行う。Mは動作時間に相当するので、このMを判定して前述の音楽プレーヤのモード設定に利用することができる。
ステップS308では、新たなセンサ信号の取得に備えて、評価データ(No.119)を評価データ(No.120)に、評価データ(No.118)を評価データ(No.119)に、・・・、評価データ(No.1)を評価データ(No.2)に一つずつずらしてステップS301に戻る。
この対策として時間的に対応する時点、たとえば1個前とN+1個前、2個前とN+2個前のデータの差分の絶対値の総和を求めて判定する方法も適用できる。
ユーザがまったく動作せずにゼロが並んだデータにおいて相関ありと誤判定しないよう、振幅の絶対値の総和を求めて閾値と比較する。
図5に示すように、ハードウェアの構成、機能ブロックの構成は、波形照合部102が状態情報列記憶部102aを備えている点を除いて、第1実施形態と同様であるから詳細な説明を省略する。
相似形の波形の問題を解決しかつ処理量を大幅に削減する方法として、同じ符号のデータが継続する時間の長さと面積のパターンに着目するのが好適である。たとえば皮膚導電率センサや脈波センサでは入力データの隣接差分をとることで、ユーザの動きに応じて符号が正負にバランスよく按分されたデータ列を取得できる。詳細は後述するが、波形照合部102は、符号が同じ評価データが連続する区間を1つの単位とする小区間として、符号情報と、この小区間に属する評価データの個数を表す区間長と、この小区間に属する評価データの値またはこの小区間に属する評価データの値の絶対値の総和を表す面積とを状態情報として、小区間単位でこの状態情報を時系列的に状態情報列記憶部102aに記憶する。さらに、波形照合部102は、隣接する2つの時間区間において時系列的に対応する小区間毎の状態情報から、隣接する2つの時間区間の波形同士を照合するようになっている。
正値のデータが5個連続したらP(5)、負値のデータが7個連続したらM(7)、ユーザの動作がない状態の振幅がゼロに近い微小値が3個連続したらZ(3)と表す。P(n)、M(n)およびZ(n)(nは任意の整数)は、符号が同じ評価データが連続する区間を1つの単位とする小区間に相当する。P、MおよびZは、それぞれ符号情報を示し、nは小区間に属する評価データの個数を表す区間長を示している。現時点から過去に遡って、たとえば「P(5)Z(3)M(7)P(5)Z(3)M(7)」と並べば5+3+7=15個のデータを1周期として相関ありと判定する。なお、「P(5)Z(3)M(7)P(5)Z(3)M(7)」において、区間長nの値は、左から順に5,3,7,5,3,7となる。
「P(5)Z(3)M(7)P(3)Z(3)M(7)」という並びでは符号のパターンは[P,Z,M]および[P,Z,M]で一致するが、符号が連続した個数を見ると[5,3,7][3,3,7]であり、一致しないので相関なしと判定する。
状態変化は上述の3つの組み合わせに限定するものではなく、たとえば「P(6)M(6)P(3)M(3)P(6)M(6)P(3)M(3)」の4つの組み合わせでも実施できる。なお、システム設計者が「明らかに人には実施不可能」と判断すれば、処理量の削減を目的として状態変化の個数に制限を設けることもできる。
P(5):100,150,500,300,100
Z(3):1,0,−2
M(7):−100,−200,−300,−500,−400,−300,−100
P(5):90,160,490,310,110
Z(3):2,0,1
M(7):−110,−210,−320,−500,−380,−300,−70
Zは元々微小なので面積は評価しなくてよい。小区間P(5)と小区間M(7)について相関する組み合わせの相手との面積比を求め、たとえば1.5倍以内を相関ありと規定すれば好適である。
ここで、以下の用語を定義する。
状態配列(No.)(符号フラグ)(連続数)(面積)
No.:カレントは1。過去に遡るほど連番で大きな番号が振られる。
符号フラグ:正値はP、負値はM、ゼロに近い微小値はZ。
連続数:同じ符号フラグが連続した評価データの個数。
面積:同じ符号フラグが連続した評価データの値の総和。
初期は動作のない状態が100秒継続した状態配列(No.1)(フラグZ)(連続数2000)(面積0)のみが存在する。ここで、「符号フラグ」は符号情報に相当し、「連続数」は小区間に属する評価データの個数を表す区間長に相当し、「面積」は小区間に属する評価データの値または小区間に属する評価データの値の絶対値の総和を表す面積に相当する。
現在有効な上記状態配列の数。
初期値は1。
相関を評価する1つの区間の波形の状態配列の数。
たとえば以下のような状態配列の並びでは相関状態数:3で相関ありとなる。
状態配列(No.1)(フラグP)(連続数5) (面積200)
状態配列(No.2)(フラグZ)(連続数3) (面積0)
状態配列(No.3)(フラグM)(連続数7) (面積−300)
状態配列(No.4)(フラグP)(連続数5) (面積200)
状態配列(No.5)(フラグZ)(連続数3) (面積0)
状態配列(No.6)(フラグM)(連続数7) (面積−300)
ユーザが繰り返し可能な動作時間の最大値をデータ数で表したもの。
たとえば1周期5秒、20Hzサンプリング、繰り返し回数が3回とすると
「5×20×3=300」となる。
ステップS401の次のステップS402では、取得したセンサ信号の値から1つ前に取得したセンサ信号の値を差し引いてカレントデータとする。あらかじめ設定した閾値または取得したセンサ信号の大きさに応じて自動調整される閾値を設け、カレントデータの絶対値が該閾値を下回る場合はカレントデータを0に置き換える。
ステップS402の次のステップS403では、カレントデータの符号フラグが状態配列(No.1)の符号フラグと同じか否かを判定し、同じであればステップS404に進み、異なればステップS405に進む。
ステップS405では、図8を用いて後述する相関判定処理を行う。
ステップS405の次のステップS406では、次のステップで新たな状態配列(No.1)を作ることに備えて状態配列(No.1)を空き番号にすべく、すべての状態配列の番号No.に1を加算して、状態配列の番号を1つずつずらす。
ステップS406の次のステップS407では、新たに状態配列(No.1)を作り、符号フラグにカレントデータの符号フラグ、連続数に1、面積にカレントデータの値をセットする。状態配列が1つ増えたのでカレント状態数に1を加算する。
ステップS409では、最も古い状態配列である状態配列(No.カレント状態数)を破棄し、破棄によって状態配列が1つ減ったのでカレント状態数から1を減じる。
ステップS501では、状態配列が何個ずつで相関するかを調べるため、その最少個数である2個を初期値とすべく相関状態数Nに2をセットする。状態配列は符号フラグが変わる度に新たな状態配列が作られる。よって隣り合う状態配列は必ず符号フラグが異なる。符号フラグが異なるということは相関していないということであるから状態配列が1個ずつのケースは評価対象にしないので初期値は2個としてよい。
ステップS501の次のステップS502では、評価対象の状態配列が尽きたか否かを判定するため、相関状態数Nの2倍がカレント状態数以下であればステップS503に進み、そうでなければリターンしてステップS406に進む。
ステップS505では、照合する状態配列を1個増やすべく相関状態数Nに1を加算する。
ステップS506では、相関ありと判定された場合の所定のモード設定の処理を行った後にリターンし、ステップS406に進む。状態配列(No.1)〜(No.N)の連続数の総和は動作時間に相当するので、この値を判定して前述の音楽プレーヤのモード設定に利用することができる。
たとえば手を「開いて閉じて休む」「開いて閉じて休む」の直後に開く動作を一瞬行うことで符号フラグの変わり目をシステムに検出させるのである。
1周期の先頭に動作しない状態を設けることも同様に実施できる。
手首に装着する皮膚導電率センサ(生体に装着されるセンサの一例)に本発明を実装する例を説明する。センサ以外のハードウェアの構成、機能ブロックの構成は第1実施形態と同様であるから説明を省略する。本実施形態では、生体に装着されるセンサでサンプリングされた信号がセンサ信号として用いられる。
図9は、生体センサの一つである皮膚導電率センサの外観図を示し、図10は、皮膚導電率センサに備えられたセンサ信号取得部の機能ブロック図である。図9(a)は、皮膚導電率センサ201の人の皮膚に触れる側から見た状態を示し、図9(b)は、人に装着する際の状態を示している。
図10に示すように、ボックス部202に設けられたセンサ信号取得部210は、電流源213と、電流源213の電流量を制御する電流制御部212と、電流制御部212に接続された2つの電極203,204と、2つの電極203,204間に流れる電流を導電率に変換する導電率変換部211とを有している。
皮膚導電率センサ201は、手の開閉動作によって手首の内側の筋肉が隆起と陥没を繰り返すことで生じる皮膚と電極203,204との接触状態の変化をとらえることができる。皮下脂肪が少ないユーザは筋肉の陥没によって皮膚と電極203,204とが離れ、皮膚導電率がほぼゼロになるので閾値を設けてノイズと区別することができる。しかし、皮下脂肪が厚いユーザでは皮膚と電極203,204とが離れることなく、皮膚導電率はなだらかに変化するのみでゼロにはならない。そこで本発明は皮膚導電率が閾値を超えるか否かでユーザの意識的な動作か否かを判定せず、信号がなだらかに変化する様が周期的に繰り返されるか否かを以てユーザの意識的な動作か否かを判定する。
本発明によれば、皮下脂肪が厚いユーザを救えるだけでなく、手首を甲側にそらせて手首の内側の皮膚を伸ばす動きにも対応でき、更にこぶしを握り締めたり緩めたりするだけの微小動作にも対応できる。
本発明と音楽再生との関連について説明する。図12に示すように、本実施形態では、音楽再生機能を備えた音楽再生部110aや音楽情報取得機能が被制御対象装置110に実装される他は、入力デバイスにおけるハードウェアの構成や機能ブロックの構成は第1実施形態と同様であるから詳細な説明を省略する。本実施形態におけるモード設定部103は、2つ以上の時間区間の波形が略同一の波形と判定された波形の時間長をテンポに換算し、このテンポと音楽再生部110aで再生中の音楽のテンポとを比較して相関ありと判定した場合には、この略同一の波形の判定を破棄するようになっている。
入力信号が連続する2周期の波形とみなされる場合、実際はユーザが音楽に合わせてダンスしているだけであって、ユーザが入力を意識して動作したものではない可能性がある。これを確認するにはモード設定部103において、被制御対象装置110から音楽再生の情報(音楽再生部110aで再生中の音楽のテンポ)を入手して、入力信号が連続する2周期の波形(2つ以上の時間区間の波形)とみなされる波形の時間の長さ(時間長)をテンポに換算して、換算したテンポと再生中の音楽のテンポとが一致あるいはどちらかが他方の整数倍になっているか否かを判定する。判定の結果が、2つのテンポが一致している、すなわち相関ありの場合は、ユーザのダンスによるものと判定し、連続する2周期の波形とみなされる波形を破棄し、モードの設定は行わない。
あるいは、被制御対象装置110は、音楽再生機能の代わりにマイクを備え、入力された音声信号から外部環境音楽のテンポを検出して、検出したテンポと、モード設定部103から与えられた波形の長さから計算したテンポとを比較してもよい。この構成によってカラオケルームにおける誤動作を削減できる。
登録時には、音楽を再生しながらユーザ自らが決めた動作を行わせて、その動作パターンと再生した音楽のテンポとモード設定要領とを登録する。モード設定時には、音楽を再生しながらユーザの動作を待ち受け、連続する2周期の波形であることを検出したら、再生中の音楽のテンポに合致するか否かを判定する。再生中の音楽のテンポに合致すれば登録済みの動作パターンの波形と相関するか否かを判定し、相関ありと判定されれば登録済みのモード設定要領にしたがってモード設定を行う。
登録済みの動作パターンを2回繰り返す実施例に加えて、モード設定機能を起動するための登録しない動作を2回繰り返した直後にモードを特定するための登録済みの動作パターンを1回行うアプリケーションも本発明の範疇である。
手首、腕、指、頭、耳、腰、腹、胸など生体の様々な部位に装着する装着型機器が具備する生体センサにおいては、本来の生体反応に由来するセンサ信号の揺らぎの他に、装着者の動作に由来するセンサ信号の揺らぎがある。
本発明の重要な視点の一つは、生体反応に由来するセンサ信号の揺らぎから生体情報を検出する生体センサの本来の機能を阻害することなしに、装着者の動作に由来するセンサ信号の揺らぎの内、装着者の意図的な動作に由来するセンサ信号の揺らぎを検出することができるというものである。
これらの測定方法においては、生体センサを具備した装着型機器を装着した装着者の生体反応のみならず、装着者の動作によってセンサ信号に揺らぎが発生する。装着部位を直接動かすケースはもちろん、たとえば手首に装着した皮膚導電率センサでは装着者の深呼吸によって間接的にセンサ信号に揺らぎが生じるケースもある。
図13は、手首に装着した脈波センサにおける検出波形の一例を示す図である。図13(a)は、指の曲げ伸ばしによる周期的動作の検出波形を示し、図13(b)は、図13(a)中の期間Tの一部の期間を縦軸を60倍に拡大して示している。
本発明によって、装着型機器が具備する生体センサを、本来の生体情報の検出機能を阻害することなく、ユーザが意図的に行った周期的な動作によるセンサ信号の揺らぎをも検出することで、ユーザの意図したモード設定を行う入力デバイスとしても利用することが可能となる。
ここでは皮膚導電率センサと脈波センサの2例で説明したが、他の既存の生体センサ、あるいは今後開発される生体センサにおいても前述の測定方法を用いる生体センサにおいては本発明の方法を用いることで、本来の生体情報の検出機能を阻害することなく、ユーザが意図的に行った周期的な動作によるセンサ信号の揺らぎを検出することが可能になることは明らかである。
生体の体温によって反応する赤外線センサに本発明を実装する例を説明する。センサ以外のハードウェアの構成、機能ブロックの構成は第1実施形態と同様であるから説明を省略する。本実施形態では、赤外線センサでサンプリングされた信号(サンプリング信号)がセンサ信号として用いられる。生体である手と赤外線センサとの位置関係の変化を検出するものである。
図15は赤外線センサに手を近づけたり離したりしたときの信号、及び、手を近づけてから素早く手を振った時の信号をグラフ化したものである。図15中の信号波形αは、センサにゆっくりと手を近づけたり離したりしたときの波形である。図15中の信号波形βは、センサに手を近づけてからセンサの前で素早く手を振る動作をしたときの波形である。ユーザが周期的な動作を行うと赤外線センサの入力信号は連続する2周期の波形とみなされることがわかる。
また、ゆっくり動作した時(信号波形α)と素早く動作した時(信号波形β)とは1つの波形の区間長(または信号のピークとピークの間隔の長さ)の違いによって区別できることがわかる。
センサが生体に装着されない点が第1実施形態と異なるだけで、取得される信号は第1実施形態と同様に扱うことができる。
101 センサ信号取得部
102 波形照合部
102a 状態情報記憶部
103 モード設定部
104,803 評価データ列記憶部
110 被制御対象装置
110a 音楽再生部
201 皮膚導電率センサ
201 皮膚導電率センサ
202 ボックス部
203,204 電極
205 装着用ベルト
210 センサ信号取得部
211 導電率変換部
212 電流制御部
213 電流源
800 生体センサ
801 生体信号取得部
802 評価データ分配部
804 生体情報検出部
805 意図的動作検出部
Claims (32)
- センサ信号を取得するセンサ信号取得部と、
前記センサ信号における2つ以上の時間区間の波形同士を照合する波形照合部と、
前記波形照合部の照合結果に基づいて、被制御対象装置のモードを設定するモード設定部と、
を備える入力デバイス。 - 前記センサ信号は、生体に装着されるように構成されたセンサでサンプリングされた信号である請求項1に記載の入力デバイス。
- 前記センサ信号は、赤外線センサでサンプリングされた信号である請求項1に記載の入力デバイス。
- 前記2つ以上の時間区間は、
時間軸上で隣接する2つの区間である請求項1〜3のいずれか1項に記載の入力デバイス。 - 前記2つ以上の時間区間は、
所定の時間以内に相当するサンプル数だけ重なり合うまたは離れていることを許容する請求項1〜3のいずれか1項に記載の入力デバイス。 - 前記モード設定部は、
前記2つ以上の時間区間の波形が略同一である場合に、前記被制御対象装置のモードを設定する請求項1〜4のいずれか1項に記載の入力デバイス。 - 前記モード設定部は、
前記略同一と判定された波形の時間長に応じて前記被制御対象装置のモードを設定する請求項6に記載の入力デバイス。 - 更に、前記センサ信号または前記センサ信号を所定の加工方法で加工したデータである評価データを記憶する評価データ列記憶部を備える請求項1〜4のいずれか1項に記載の入力デバイス。
- 前記波形照合部は、
前記2つ以上の時間区間の波形の相関係数から照合する請求項8に記載の入力デバイス。 - 前記波形照合部は、
前記2つ以上の時間区間において時系列的に対応する前記評価データ毎の値の差分、または該差分を所定の加工方法で加工した値から照合する請求項8に記載の入力デバイス。 - 前記波形照合部は、
更に、状態情報列記憶部を備え、
符号が同じ前記評価データが連続する区間を1つの単位とする小区間として、符号情報と、該小区間に属する評価データの個数を表す区間長と、該小区間に属する評価データの値または該値の絶対値の総和を表す面積とを状態情報として、小区間単位で該状態情報を時系列的に前記状態情報列記憶部に記憶し、
隣接する2つの時間区間において時系列的に対応する前記小区間毎の前記状態情報から照合する請求項8に記載の入力デバイス。 - 前記符号情報は、
あらかじめ設定した閾値または入力信号の大きさに応じて自動調整される閾値を設け、前記評価データの絶対値が該閾値を下回る場合は該評価データを0に置き換え、正と負と0の3パターンで符号情報を構成する請求項11に記載の入力デバイス。 - 前記モード設定部は、
隣接する2つの時間区間の波形同士が略同一と判定されたとき、更に該2つの時間区間に対して過去に遡って隣接する区間の波形と該略同一と判定された波形とを照合する照合処理を行い、該照合処理を繰り返して略同一の波形が連続している回数を検出し、該回数に応じたモードを前記被制御対象装置に設定する請求項6に記載の入力デバイス。 - 前記モード設定部は、
前記2つ以上の時間区間の波形同士が略同一と判定されたとき、該2つ以上の区間それぞれを構成する評価データの数または該数に近い数の新たな評価データの入力を待ち、該新たに入力された評価データの波形と該略同一と判定された波形とを照合する請求項6に記載の入力デバイス。 - 前記モード設定部は、
更に、繰り返し回数記憶部を備え、
前記2つ以上の時間区間の波形同士が略同一と初めて判定されたときに前記繰り返し回数記憶部に初期値を設定する請求項14に記載の入力デバイス。 - 前記モード設定部は、
前記新たに入力された評価データの波形と前記略同一と判定された波形とが再び略同一と判定されたとき、前記繰り返し回数記憶部に記憶された繰り返し回数に加算する請求項15に記載の入力デバイス。 - 前記被制御対象装置は更に音楽再生部を有し、
前記モード設定部は、
前記略同一の波形と判定された波形の時間長をテンポに換算し、該テンポと前記音楽再生部で再生中の音楽のテンポとを比較して相関ありと判定した場合には、該略同一の波形の判定を破棄する請求項6に記載の入力デバイス。 - 前記照合される2つ以上の区間は時間軸上で隣接しておらず、
該2つ以上の区間において音楽が再生される環境で使用される請求項1に記載の入力デバイス。 - 前記波形照合部は、
前記再生される音楽のテンポが前記2つ以上の区間で異なる場合に、前記照合する2つの区間で再生される音楽のテンポの違いに応じて、前記照合する2つの区間の一方の波形長さを他方の区間の波形の長さと略一致するとみなせるように該波形の情報を編集して照合する請求項18に記載の入力デバイス。 - 前記被制御対象装置として用いられる請求項1〜19のいずれか1項に記載の入力デバイス。
- 前記被制御対象装置は、
前記入力デバイスと有線または無線によって、またはネットワークを経由して接続されている請求項1〜20のいずれか1項に記載の入力デバイス。 - コンピュータを、請求項1〜21のいずれか1項に記載の入力デバイスとして機能させるプログラム。
- 請求項22に記載のプログラムを有するコンピュータ読み取り可能な媒体。
- センサ信号における2つ以上の時間区間の波形同士を照合し、
前記波形同士の照合結果に基づいて、被制御対象装置のモードを設定する、
モード設定方法。 - 前記センサ信号は、生体に装着されるように構成されたセンサでサンプリングされた信号である請求項24に記載のモード設定方法。
- 前記センサ信号は、赤外線センサからのサンプリング信号である請求項24に記載のモード設定方法。
- 生体に装着して該生体から生体情報を取得する生体センサであって、
サンプリングされたセンサ信号を取得するセンサ信号取得部と、
前記センサ信号における2つ以上の時間区間において波形同士を照合する波形照合部と、
前記波形照合部の照合結果に基づいて、被制御対象装置のモードを設定するモード設定部と、
を備える生体センサ。 - 前記生体情報は、
心拍、脈拍、血圧、血中酸素濃度、体温、呼吸、皮膚電気抵抗、脳波、まばたき、歩数のいずれかの情報を対象とする請求項27に記載の生体センサ。 - 前記波形照合部は、
前記生体と前記センサ信号取得部との位置関係の変化または接触状態の変化によって生じた波形と、前記生体情報に由来する波形とを区別して扱う請求項27に記載の生体センサ。 - 前記波形照合部は、
前記位置関係の変化または接触状態の変化によって生じた波形と、前記生体情報に由来する波形とを振幅の大きさの違いによって区別する請求項29に記載の生体センサ。 - 前記モード設定部は、
前記2つ以上の時間区間の波形が略同一である場合に、前記被制御対象装置のモードを設定する請求項27に記載の生体センサ。 - 更に、前記生体と同じ生体に装着される加速度センサまたは角速度センサを備え、
略同一と判定された2つ以上の時間区間と略同じタイミングかつ略同じ時間長で、前記加速度センサまたは前記角速度センサにおいて2つ以上の時間区間の波形同士が略同一と判定された場合、該生体センサにおける該略同一の波形の判定を破棄する請求項27に記載の生体センサ。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014144744 | 2014-07-15 | ||
JP2014144744 | 2014-07-15 | ||
PCT/JP2015/003561 WO2016009644A1 (ja) | 2014-07-15 | 2015-07-14 | 入力デバイス、生体センサ、プログラム、コンピュータ読み取り可能な媒体及びモード設定方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016009644A1 true JPWO2016009644A1 (ja) | 2017-04-27 |
JP6244026B2 JP6244026B2 (ja) | 2017-12-06 |
Family
ID=55078152
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016534283A Active JP6244026B2 (ja) | 2014-07-15 | 2015-07-14 | 入力デバイス、生体センサ、プログラム、コンピュータ読み取り可能な媒体及びモード設定方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10698484B2 (ja) |
JP (1) | JP6244026B2 (ja) |
CN (1) | CN106489111B (ja) |
DE (1) | DE112015003279T5 (ja) |
WO (1) | WO2016009644A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10712204B2 (en) * | 2017-02-10 | 2020-07-14 | Google Llc | Method, apparatus and system for passive infrared sensor framework |
CN107316641B (zh) * | 2017-06-30 | 2021-06-15 | 联想(北京)有限公司 | 一种语音控制方法及电子设备 |
US20200393497A1 (en) * | 2018-02-16 | 2020-12-17 | Mitsubishi Electric Corporation | Display data generation device, display data generation method, and program |
US10895915B2 (en) * | 2019-01-01 | 2021-01-19 | Logan Amstutz | Systems, devices, and/or methods for reporting |
WO2020251566A1 (en) * | 2019-06-12 | 2020-12-17 | Hewlett-Packard Development Company, L.P. | Extended reality grasp controller |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006302490A (ja) * | 2005-03-25 | 2006-11-02 | Sony Corp | コンテンツ検索方法、コンテンツリスト検索方法、コンテンツ検索装置、コンテンツリスト検索装置および検索サーバ |
JP2008099834A (ja) * | 2006-10-18 | 2008-05-01 | Sony Corp | 表示装置、表示方法 |
JP2008242063A (ja) * | 2007-03-27 | 2008-10-09 | Yamaha Corp | 音楽再生制御装置 |
JP2009291379A (ja) * | 2008-06-04 | 2009-12-17 | Mitsubishi Chemicals Corp | パーキンソン病の評価装置 |
JP2010079848A (ja) * | 2008-09-29 | 2010-04-08 | Waseda Univ | 項目選択方法および装置 |
WO2011115060A1 (ja) * | 2010-03-15 | 2011-09-22 | 日本電気株式会社 | 入力装置、入力方法及びプログラム |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4172793B2 (ja) * | 2004-06-08 | 2008-10-29 | 株式会社東芝 | ジェスチャ検出方法、ジェスチャ検出プログラムおよびジェスチャ検出装置 |
CN2798135Y (zh) * | 2005-01-10 | 2006-07-19 | 捷飞科研有限公司 | 监测生理系统参数的眼镜 |
JP4389821B2 (ja) | 2005-03-22 | 2009-12-24 | ソニー株式会社 | 体動検出装置、コンテンツ再生装置、体動検出方法およびコンテンツ再生方法 |
JP2007301003A (ja) * | 2006-05-09 | 2007-11-22 | Hitachi Ltd | 運動機能検査装置および運動波形間の位相比較方法 |
JP4465414B2 (ja) * | 2008-07-11 | 2010-05-19 | パナソニック株式会社 | 脳波を用いた機器の制御方法および脳波インタフェースシステム |
JP5177075B2 (ja) * | 2009-02-12 | 2013-04-03 | ソニー株式会社 | 動作認識装置、動作認識方法、プログラム |
CN104137029B (zh) * | 2011-12-21 | 2018-02-23 | 美新纳瑞私人有限公司 | 基于手势的设备 |
US9072465B2 (en) | 2012-04-03 | 2015-07-07 | Johnson & Johnson Vision Care, Inc. | Blink detection system for electronic ophthalmic lens |
US9314666B2 (en) * | 2013-03-15 | 2016-04-19 | Ficus Ventures, Inc. | System and method for identifying and interpreting repetitive motions |
WO2014165476A1 (en) * | 2013-04-01 | 2014-10-09 | Gollakota Shyamnath | Devices, systems, and methods for detecting gestures using wireless communication signals |
KR101374720B1 (ko) * | 2013-07-15 | 2014-03-17 | 전자부품연구원 | 손동작 기반 가상 마우스 제어장치 및 그 방법 |
US9691257B2 (en) * | 2013-07-18 | 2017-06-27 | Google Inc. | Systems and methods for silencing an audible alarm of a hazard detection system |
US9558336B2 (en) * | 2013-10-04 | 2017-01-31 | Salutron Inc. | Persistent authentication using sensors of a user-wearable device |
-
2015
- 2015-07-14 WO PCT/JP2015/003561 patent/WO2016009644A1/ja active Application Filing
- 2015-07-14 DE DE112015003279.7T patent/DE112015003279T5/de active Pending
- 2015-07-14 CN CN201580038510.0A patent/CN106489111B/zh active Active
- 2015-07-14 JP JP2016534283A patent/JP6244026B2/ja active Active
-
2016
- 2016-12-06 US US15/370,102 patent/US10698484B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006302490A (ja) * | 2005-03-25 | 2006-11-02 | Sony Corp | コンテンツ検索方法、コンテンツリスト検索方法、コンテンツ検索装置、コンテンツリスト検索装置および検索サーバ |
JP2008099834A (ja) * | 2006-10-18 | 2008-05-01 | Sony Corp | 表示装置、表示方法 |
JP2008242063A (ja) * | 2007-03-27 | 2008-10-09 | Yamaha Corp | 音楽再生制御装置 |
JP2009291379A (ja) * | 2008-06-04 | 2009-12-17 | Mitsubishi Chemicals Corp | パーキンソン病の評価装置 |
JP2010079848A (ja) * | 2008-09-29 | 2010-04-08 | Waseda Univ | 項目選択方法および装置 |
WO2011115060A1 (ja) * | 2010-03-15 | 2011-09-22 | 日本電気株式会社 | 入力装置、入力方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
WO2016009644A1 (ja) | 2016-01-21 |
US10698484B2 (en) | 2020-06-30 |
DE112015003279T5 (de) | 2017-04-06 |
CN106489111B (zh) | 2019-05-10 |
JP6244026B2 (ja) | 2017-12-06 |
US20170083091A1 (en) | 2017-03-23 |
CN106489111A (zh) | 2017-03-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6244026B2 (ja) | 入力デバイス、生体センサ、プログラム、コンピュータ読み取り可能な媒体及びモード設定方法 | |
US10970936B2 (en) | Use of neuromuscular signals to provide enhanced interactions with physical objects in an augmented reality environment | |
AU2018204039B2 (en) | Motion gesture input detected using optical sensors | |
US20200097081A1 (en) | Neuromuscular control of an augmented reality system | |
US9720515B2 (en) | Method and apparatus for a gesture controlled interface for wearable devices | |
Costanza et al. | Toward subtle intimate interfaces for mobile devices using an EMG controller | |
JP2019023941A (ja) | ジェスチャに基づいて制御するための筋活動センサ信号と慣性センサ信号とを結合する方法および装置 | |
Zhao et al. | Towards low-cost sign language gesture recognition leveraging wearables | |
US20160089033A1 (en) | Determining timing and context for cardiovascular measurements | |
WO2016135718A1 (en) | Closed loop feedback interface for wearable devices | |
US9721450B2 (en) | Wearable repetitive behavior awareness device and method | |
Siddiqui et al. | A wearable hand gesture recognition device based on acoustic measurements at wrist | |
JPWO2020100671A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US20130060166A1 (en) | Device and method for providing hand rehabilitation and assessment of hand function | |
Zhang et al. | FinDroidHR: Smartwatch gesture input with optical heartrate monitor | |
KR102046515B1 (ko) | 넥밴드 타입 헬스케어 서비스 시스템 및 방법 | |
Ouyang et al. | An asymmetrical acoustic field detection system for daily tooth brushing monitoring | |
JP2018068428A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP5794526B2 (ja) | インタフェースシステム | |
Lukic et al. | Breathing as an input modality in a gameful breathing training app (breeze 2): development and evaluation study | |
JP5488135B2 (ja) | 生体情報処理装置 | |
KR102323576B1 (ko) | IoT 기반의 공용 무선 의료장치를 이용한 치매 판단 시스템 | |
KR102223512B1 (ko) | 넥밴드 타입 헬스케어 서비스 시스템 및 방법 | |
Saha | Design of a wearable two-dimensional joystick as a muscle-machine interface using mechanomyographic signals | |
EP4332957A2 (en) | Virtual, augmented or mixed reality instrument teaching system and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161121 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170704 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170831 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171107 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20171110 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6244026 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |