JP4687935B2 - 個人適応型生体信号被動機器制御システム - Google Patents

個人適応型生体信号被動機器制御システム Download PDF

Info

Publication number
JP4687935B2
JP4687935B2 JP2001056107A JP2001056107A JP4687935B2 JP 4687935 B2 JP4687935 B2 JP 4687935B2 JP 2001056107 A JP2001056107 A JP 2001056107A JP 2001056107 A JP2001056107 A JP 2001056107A JP 4687935 B2 JP4687935 B2 JP 4687935B2
Authority
JP
Japan
Prior art keywords
signal
feature vector
unit
supplied
teacher data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001056107A
Other languages
English (en)
Other versions
JP2001331250A (ja
Inventor
大亮 西川
文偉 兪
浩史 横井
侑昇 嘉数
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hokkaido University NUC
Original Assignee
Hokkaido University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hokkaido University NUC filed Critical Hokkaido University NUC
Priority to JP2001056107A priority Critical patent/JP4687935B2/ja
Publication of JP2001331250A publication Critical patent/JP2001331250A/ja
Application granted granted Critical
Publication of JP4687935B2 publication Critical patent/JP4687935B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は一般に、個人適応型生体信号被動機器制御システムおよび制御方法に関する。より詳細には、本発明は、生体信号被動機器使用者の訓練と学習を同時に行う個人適応型生体信号被動機器制御システムおよび制御方法に関する。なお、本発明における生体信号被動機器には、車椅子、義手、義足などが含まれる。また、生体信号には、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号が含まれる。
【0002】
【従来の技術】
脳中枢からの運動指令を受けて筋肉が収縮する際に、筋膜表面から筋電位が発生する。複数の筋群から発生する筋電位を重ね合わせた表面筋電位を、皮膚表面で観測することができるが、このような表面筋電位を解析することによって、収縮している筋肉の推定、従って、動作の識別が可能になる。そこで、車椅子、義手、義足などのような機器の制御におけるマン−マシン・インタフェースとして、筋電信号の利用が期待されるが、筋電信号を利用して動作の制御を行う車椅子、義手、義足などのような機器(以下「筋電信号被動機器」という)を使用するには、筋電信号被動機器の使用者が、機器に適応すべく、一定期間の訓練を行うことが必要となる。
【0003】
【発明が解決しようとする課題】
筋電信号被動機器の訓練を行おうとする場合、使用者の訓練と機器の学習を独立して行うオフライン型の学習方法と、使用者の訓練と機器の学習を同時に行うオンライン型の学習方法とが考えられる。しかし、オフライン型の学習方法では、使用者の変化に逐一対応することが困難である。すなわち、機器使用者の訓練と機器の学習を独立して行っていると、使用者の力の入れ方などが変化した場合に迅速に対応することが難しい。また、人間は外部からの感覚のフィードバックを受けない状態では同じ動作を安定して繰り返すことは困難であるといわれているが、オフライン型の学習方法では、訓練時には使用者にフィードバックがなく、使用時には使用者に視聴覚によるフィードバックが発生するため、訓練時と使用時の筋電信号に食い違いが生ずるという不都合がある。
【0004】
なお、筋電信号以外の生体信号、例えば脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号の解析により、車椅子、義手、義足などの機器を制御することができるが、これらについても、上述の筋電信号被動機器と同様の課題がある(以下、筋電信号被動機器を含めた、このような機器を「生体信号被動機器」という)。
【0005】
したがって、本発明の目的は、生体信号被動機器使用者の変化に応じた動的な内部状態の変更が容易な制御システムおよび制御方法を提供することである。また、本発明の別の目的は、機器使用者に訓練中から生体信号に対するフィードバックが行われる制御システムおよび制御方法を提供することである。
【0006】
【課題を解決するための手段】
本願請求項1に記載された、被動機器使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより生体信号被動機器制御信号を生成して生体信号被動機器駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動機器制御システムは、前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、被動機器使用者の意図したように被動機器が動作しない場合に、前記トレーナユニットにおいて、被動機器使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されていることを特徴とするものである。
【0009】
本願請求項2に記載された個人適応型生体信号被動機器制御システムは、前記請求項1のシステムにおいて、前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とするものである。
【0010】
本願請求項3に記載された、車椅子使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより車椅子制御信号を生成して車椅子駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動車椅子制御システムは、前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、車椅子使用者の意図したように車椅子が動作しない場合に、前記トレーナユニットにおいて、車椅子使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されていることを特徴とするものである。
【0013】
本願請求項4に記載された個人適応型生体信号被動車椅子制御システムは、前記請求項1のシステムにおいて、前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とするものである。
【0014】
本願請求項5に記載された、義手使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより義手制御信号を生成して義手駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動義手制御システムは、前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、義手使用者の意図したように義手が動作しない場合に、前記トレーナユニットにおいて、義手使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されていることを特徴とするものである。
【0017】
本願請求項6に記載された個人適応型生体信号被動義手制御システムは、前記請求項5のシステムにおいて、前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とするものである。
【0018】
本願請求項7に記載された、義足使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより義足制御信号を生成して義足駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動義足制御システムは、前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、義足使用者の意図したように義足が動作しない場合に、前記トレーナユニットにおいて、義足使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されていることを特徴とするものである。
【0021】
本願請求項8に記載された個人適応型生体信号被動義足制御システムは、前記請求項7のシステムにおいて、前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とするものである。
【0030】
【発明の実施の形態】
次に、筋電信号被動車椅子の制御に関連して、本発明の好ましい実施の形態について詳細に説明する。図1は、本発明の好ましい実施の形態に係る個人適応型筋電信号被動車椅子制御システムの基本構成を示したブロック図、図2は、図1の制御システムの詳細な構成を示したブロック図である。
【0031】
本発明の個人適応型筋電信号被動車椅子制御システムは大別して、3つのユニット、即ち、アナリシスユニットと、アダプテーションユニットと、トレーナユニットとを備えている。
【0032】
以下、本発明の筋電信号被動車椅子制御システムについて、車椅子を実際に使用するのに先立って行われる初期学習モードと、車椅子を実際に使用する使用モードとに分けて説明する。
【0033】
最初に、初期学習モードについて説明する。まず、車椅子使用者の筋電信号を検出するため、車椅子使用者の身体の所定箇所(例えば、腹筋の直上と背筋の直上)に筋電センサを装着する。筋電センサとしては、乾式の表面電極、湿式の表面電極などが用いられる。筋電センサを装着して、車椅子制御システムの電源をオンにした後、車椅子使用者が一定の動作(例えば、車椅子の「左折」をイメージした動作)を行うと、車椅子使用者の表面筋電位が、筋電センサの表面電極によって検出される。
【0034】
ここで、車椅子の「左折」をイメージした動作とは、例えば、車椅子に座した使用者が上半身を左側に捩じる動作など、各使用者が「左折」について予め定めた動作を意味する。したがって、使用者毎に「左折」をイメージした動作が異なっていてもよい。同様に、車椅子の「前進」をイメージした動作とは、例えば、車椅子に座した使用者が上半身を前方に傾ける動作、車椅子の「後退」をイメージした動作とは、例えば、車椅子に座した使用者が上半身を後方に反らせる動作、車椅子の「右折」をイメージした動作とは、例えば、上半身を右側に捩じる動作が考えられるが、もちろん、各使用者毎に異なる動作をイメージしてもよい。
【0035】
筋電センサによって計測される表面筋電位の振幅は、1mV程度と小さく、そのままでは、車椅子駆動機構の駆動を制御する制御信号を生成することができないため、増幅器を介して、筋電信号を増幅する。本実施の形態では、携帯型作動増幅器を使用して、筋電信号を1万倍に増幅したが、他の型式の増幅器を使用してもよい。
【0036】
すなわち、筋電センサによって計測された信号a1、a2は、増幅器を介して増幅され、筋電信号b1、b2となる。図3(a)は、増幅器によって増幅された筋電信号b1の一例を示した図、図3(b)は、増幅器によって増幅された筋電信号b2の一例を示した図である。図3(a)及び図3(b)において、縦軸は電圧(単位V)を、横軸は時間(単位ms)を表している。
【0037】
増幅器によって増幅された筋電信号b1、b2は、AD変換器に通されてデジタル信号c1、c2にそれぞれ変換され、アナリシスユニットに送られる。なお、AD変換器は、普通の型式のものを使用してよい。
【0038】
アナリシスユニットにおいては、詳細には後述する制御信号を得るのに役立つ特徴ベクトルが生成される。特徴ベクトルを生成する理由は、筋電センサによって計測された筋電信号が時系列データにすぎず、そのままでは制御信号を得ることができないからである。
【0039】
アナリシスユニットでは、まず、デジタル信号c1、c2に、時間周波数変換を行い、スペクトル信号d1、d2を得る。時間周波数変換としては、例えば、フーリエ変換、ガボール変換、ウェブレット変換があげられる。図4は、図2に示される筋電信号にフーリエ変換の処理速度を高速化したFFT処理を施した図である(図4(a)は、デジタル信号c1より得られたスペクトル信号d1、図4(b)は、デジタル信号c2より得られたスペクトル信号d2を示している)。図4(a)及び図4(b)において、縦軸は強度(単位V2 s)を、横軸は周波数(単位Hz)を表している。
【0040】
次に、スペクトル信号d1、d2の大まかな形状を特徴化するために、補間によるスムージング処理を行い、スペクトル信号e1、e2を得る。スムージング処理を行うことにより、隣接するスペクトル信号間の細かな差異が消失する。図5(a)及び図5(b)は、図4(a)及び図4(b)に示されるスペクトル信号にスムージング処理を行った図である。図5(a)及び図5(b)において、図4(a)及び図4(b)と同様に、縦軸は強度(単位V2 s)を、横軸は周波数(単位Hz)を表している。
【0041】
上述のようにして得られたスペクトル信号e1、e2の一部を取り出すことにより、特徴ベクトルを生成する。すなわち、スペクトル信号e1において予め選定した周波数(本実施の形態では、100Hz、200Hz、300Hz、400Hz)における強度を計測し、同様に、スペクトル信号e2において予め選定した周波数(e1と同様に、100Hz、200Hz、300Hz、400Hz)における強度を計測することにより、特徴ベクトルとする。
【0042】
特徴ベクトルf1は、図5(a)において棒グラフで示されるように、(0.065,0.070,0.007,0.006)となり、特徴ベクトルf2は、図5(b)において棒グラフで示されるように、(0.026,0.013,0.033,0.010)となる。f1とf2を結合することにより、特徴ベクトルfは、(0.065,0.070,0.007,0.006,0.026,0.013,0.033,0.010)となる(これが、車椅子の「左折」を表す特徴ベトクルとなる)。
【0043】
このようにして生成された特徴ベクトルfは、図1に示されるように、車椅子使用者が何らかの動作を行っている限り連続的に、アダプテーションユニットとトレーナユニットに供給される。
【0044】
アダプテーションユニットにおいては、車椅子駆動機構の駆動を制御する制御信号が生成される。アダプテーションユニットは、例えば、フィードフォワード型のアーティフィシァル・ニューラル・ネットワーク(Artificial Neural Network 、以下「ANN」と略称する)によって形成される。本実施の形態では、アダプテーションユニットとして、3層のANNを用い、ANNの学習には、逆誤差伝播法(Back Propagation(BP)法)(例えば、馬場則夫他著:「ニューラルネットの基礎と応用」,共立出版株式会社,1994年)を使用したが、4層以上のANNを用いてもよく、また、他の学習法、例えばフラッシュラーニング(Flash Learning)法などを使用してもよい。
【0045】
ANNの学習は、以下のようにして行う。いま、車椅子の運動の種類を、図6に示されるように、「前進」、「後退」、「右折」、「左折」の4種類とし、「前進」を表す制御信号を(1,0,0,0)、「後退」を表す制御信号を(0,1,0,0)、「右折」を表す制御信号を(0,0,1,0)、「左折」を表す制御信号を(0,0,0,1)と仮定する。
【0046】
そして、上述の「左折」を表す特徴ベクトルf(0.065,0.070,0.007,0.006,0.026,0.013,0.033,0.010)をANNの第1層の細胞(即ち、入力)としたとき、ANNの第3層第4番目の細胞の出力が予め設定した域値(例えば、0.5)以上となり、かつ、第3層のその他の細胞の出力が前記域値以下となるように、逆誤差伝播法により、ANNの重みを決定する。
【0047】
このような作業(即ち、車椅子使用者が「左折」をイメージした動作を行い、それによって得られる特徴ベクトルをANNの入力とし、ANNの第3層のうち第4番目の細胞の出力のみを前記域値以上とするように重みを決定する作業)、並びに、他の動作(「前進」、「後退」、「右折」)においても同様の作業を繰り返して、ANNの重みを安定させる。
【0048】
その結果、前記「左折」を表す特徴ベクトルf(0.065,0.070,0.007,0.006,0.026,0.013,0.033,0.010)をANNの第1層としたとき、ANNの第3層の細胞が、例えば(0.44,0.22,0.10,0.75)となったとする。ここで、前記域値以上の値を有する細胞を0(オフ)、前記域値以下の値を有する細胞を1(オン)とすると、上述の(0.44,0.22,0.10,0.75)より、「左折」を表す制御信号(0,0,0,1)が得られる。
【0049】
上述の初期学習モードを経た後、使用モードに入る。なお、初期学習モードを終了した後、時間をおかずに直ちに使用モードに入ってもよい。初期学習モードは、或る使用者が或る制御システムを初めて使用する場合に実施すればよく、次回の使用時からは実施する必要はない。
【0050】
使用モードでは、まず、初期学習モードと同様に、車椅子使用者の身体に筋電センサを装着した後、車椅子制御システムの電源をオンにする(或いは、初期学習モードを終了した後、直ちに使用モードに入る場合には、初期学習モードと同様の状態で使用モードに入ってよい)。しかる後、車椅子使用者は、車椅子を所望のように運動させるべく、当該運動をイメージした動作を行う。すなわち、車椅子使用者が、例えば車椅子を「前進」させようと意図したとすると、車椅子の「前進」をイメージした動作を行う。
【0051】
すると、上述の初期学習モードと全く同様に、筋電センサによって計測された信号A1、A2は、増幅器を介して増幅され、筋電信号B1、B2となる。次いで、筋電信号B1、B2は、AD変換器に通されてデジタル信号C1、C2にそれぞれ変換され、アナリシスユニットに送られる。そして、アナリシスユニットにおいて、デジタル信号C1、C2にFFT処理を行ってスペクトル信号D1、D2を得、次いでスムージング処理を行ってスペクトル信号E1、E2を得て、特徴ベクトルFを取り出す。
【0052】
ここで、上述の処理によって得られた特徴ベクトルFが、例えば、(0.059,0.015,0.120,0.081,0.079,0.051,0.069,0.010)であったとする。この特徴ベクトルFは、アダプテーションユニットとトレーナユニットに供給される。なお、車椅子使用者が何らかの動作を行っている限り、使用者の筋電信号に対応した特徴ベクトルFが、アダプテーションユニットとトレーナユニットに連続的に供給される。
【0053】
アダプテーションユニットでは、アナリシスユニットから供給された特徴ベクトルFによって制御信号Gを生成し、この制御信号Gが車椅子駆動機構に送られる。車椅子駆動機構では、アダプテーションユニットから送られた制御信号Gに従ってモータを駆動させ、使用者の意図したように車椅子が動かされる。しかしながら、車椅子使用者の個人差などに起因する理由により、車椅子が使用者の意図したように動かないことがある。
【0054】
すなわち、いま、アダプテーションユニットにおいて、特徴ベクトルF(0.059,0.015,0.120,0.081,0.079,0.051,0.069,0.010)をANNの第1層の細胞としたとき、ANNの第3層の細胞が(0.10,0.10,0.90,0.10)であったとすると、制御信号Gは、(0,0,1,0)となる。この制御信号Gは、「右折」を表す制御信号であり、制御信号G(0,0,1,0)が車椅子駆動機構に送られることにより、車椅子は、使用者の意図した「前進」ではなく、「右折」することとなる。
【0055】
本発明の車椅子制御システムでは、このように車椅子が使用者の意図した動きと異なる動きをした場合には、使用者は、トレーナユニットに、使用者の意図した動きを指示する(この例では「前進」を指示する)教示信号Hを供給する。
【0056】
本実施の形態では、教示信号Hは、キーボードを用いて供給する。すなわち、例えば、キーボード「1」が「前進」、キーボード「2」が「後退」、キーボード「3」が「右折」、キーボード「4」が「左折」として設定されていたとすると、使用者は、キーボード「1」を押す。すると、前進を意味する教示信号H(1,0,0,0)が、トレーナユニットに供給される(同様に、キーボード「2」を押すと、教示信号H(0,1,0,0)が供給され、「3」を押すと、教示信号H(0,0,1,0)が供給され、「4」を押すと、教示信号H(0,0,0,1)が供給される)。なお、キーボード以外の装置、例えばジョイスティック等を用いて、教示信号Hを供給してもよい。
【0057】
一方、トレーナユニットに教示信号H(1,0,0,0)が供給された時点では、トレーナユニットには、上述のように、アナリシスユニットから特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)が供給されており、教示信号Hが供給された時点の特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)と当該教示信号H(1,0,0,0)を対にして教師データIとする。すなわち、教師データIは、〔(1,0,0,0)(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)〕となる。
【0058】
このようにして形成された教師データIは、順次、トレーナユニットからアダプテーションユニットに供給されるとともに、トレーナユニットにおいて、教師データIの集合、即ち教師データセットとして蓄積される。教師データセットは、目的とする動作に関連する筋電信号パターン空間を限定する役目を果たす。
【0059】
アダプテーションユニットに教師データIが供給されると、アダプテーションユニットでは、教師データIに従って、制御信号Gが更新される。例えば、上述の例では、教師データIが供給される前には、特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)と制御信号G(0,0,1,0)とが対応していたが、特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)と制御信号G(1,0,0,0)とが対応するように(換言すれば、特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)をANNの入力(即ち、ANNの第1層)としたとき、制御信号G(1,0,0,0)がANNの出力(即ち、ANNの第3層)となるように)、逆誤差伝播法により重みを更新する。
【0060】
その結果、アナリシスユニットから特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)がアダプテーションユニットに供給されたときは、アダプテーションユニットにおいて、制御信号G(1,0,0,0)が生成され、車椅子駆動機構に送られる。これにより、それ以降は、車椅子は、使用者の意図したように、「前進」することとなる。
【0061】
次に、筋電信号被動義手の制御に関連して、本発明の好ましい実施の形態について詳細に説明する。図7は、本発明の好ましい実施の形態に係る個人適応型筋電信号被動義手制御システムの基本構成を示したブロック図、図8は、図7の制御システムの詳細な構成を示したブロック図である。
【0062】
本発明の筋電信号被動義手制御システムは、上述の筋電信号被動車椅子と実質的に同一の構成を有しており、3つのユニット、即ち、アナリシスユニットと、アダプテーションユニットと、トレーナユニットとを備えている。
【0063】
まず、初期学習モードについて説明する。まず、義手装着者の筋電信号を検出するため、義手装着者の身体の所定箇所(例えば、伸筋支帯の直上と方形回内筋の直上)に筋電センサを取付ける。筋電センサとしては、上述の筋電信号被動車椅子制御システムと同様のものを使用してよい。筋電センサを取付けて、義手制御システムの電源をオンにした後、義手装着者が一定の動作(例えば、手首の「回内」をイメージした動作)を行うと、義手装着者の表面筋電位が、筋電センサの表面電極によって検出される。
【0064】
筋電センサによって計測された信号j1、j2は、増幅器を介して増幅され、筋電信号k1、k2となる。図9(a)は、増幅器によって増幅された筋電信号k1の一例を示した図、図9(b)は、増幅器によって増幅された筋電信号k2の一例を示した図である。図9(a)及び図9(b)において、縦軸は電圧(単位V)を、横軸は時間(単位ms)を表している。
【0065】
増幅器によって増幅された筋電信号k1、k2は、AD変換器に通されてデジタル信号m1、m2にそれぞれ変換され、アナリシスユニットに送られる。アナリシスユニットでは、まず、デジタル信号m1、m2に、時間周波数変換を行い、スペクトル信号n1、n2を得る。図10は、図9に示される筋電信号にフーリエ変換の処理速度を高速化したFFT処理を施した図である(図10(a)は、デジタル信号m1より得られたスペクトル信号n1、図10(b)は、デジタル信号m2より得られたスペクトル信号n2を示している)。図10(a)及び図10(b)において、縦軸は強度(単位V2 s)を、横軸は周波数(単位Hz)を表している。
【0066】
次に、スペクトル信号n1、n2の大まかな形状を特徴化するために、補間によるスムージング処理を行い、スペクトル信号p1、p2を得る。スムージング処理を行うことにより、隣接するスペクトル信号間の細かな差異が消失する。図11(a)及び図11(b)は、図10(a)及び図10(b)に示されるスペクトル信号にスムージング処理を行った図である。図11(a)及び図11(b)において、図10(a)及び図10(b)と同様に、縦軸は強度(単位V2 s)を、横軸は周波数(単位Hz)を表している。
【0067】
上述のようにして得られたスペクトル信号p1、p2の一部を取り出すことにより、特徴ベクトルを生成する。すなわち、スペクトル信号p1において予め選定した周波数(本実施の形態では、100Hz、200Hz、300Hz、400Hz)における強度を計測し、同様に、スペクトル信号p2において予め選定した周波数(p1と同様に、100Hz、200Hz、300Hz、400Hz)における強度を計測することにより、特徴ベクトルとする。
【0068】
特徴ベクトルq1は、図10(a)において棒グラフで示されるように、(0.059,0.087,0.033,0.007)となり、特徴ベクトルq2は、図10(b)において棒グラフで示されるように、(0.016,0.057,0.036,0.013)となる。q1とq2を結合することにより、特徴ベクトルqは、(0.059,0.087,0.033,0.007,0.016,0.057,0.036,0.013)となる(これが、義手の手首の「回内」を表す特徴ベトクルとなる)。
【0069】
このようにして生成された特徴ベクトルqは、図7に示されるように、義手装着者が何らかの動作を行っている限り連続的に、アダプテーションユニットとトレーナユニットに供給される。
【0070】
アダプテーションユニットにおいては、義手駆動機構の駆動を制御する制御信号が生成される。アダプテーションユニットは、上述の車椅子制御システムと同様に、フィードフォワード型のアーティフィシァル・ニューラル・ネットワーク(ANN)によって形成される。本実施の形態では、アダプテーションユニットとして、3層のANNを用い、ANNの学習には、逆誤差伝播法(Back Propagation(BP)法)を使用した。
【0071】
ANNの学習は、以下のようにして行う。いま、義手の運動の種類を、図12に示されるように、手首の「回内」、「回外」、「屈曲」、「伸展」、5指全ての「握り」、「開き」の6種類とし、「回内」を表す制御信号を(1,0,0,0,0,0)、「回外」を表す制御信号を(0,1,0,0,0,0)、「屈曲」を表す制御信号を(0,0,1,0,0,0)、「伸展」を表す制御信号を(0,0,0,1,0,0)、「握り」を表す制御信号を(0,0,0,0,1,0)、「開き」を表す制御信号を(0,0,0,0,0,1)と仮定する。
【0072】
そして、上述の「回内」を表す特徴ベクトルq(0.059,0.087,0.033,0.007,0.016,0.057,0.036,0.013)をANNの第1層の細胞(即ち、入力)としたとき、ANNの第3層第1番目の細胞の出力が予め設定した域値(例えば、0.5)以上となり、かつ、第3層のその他の細胞の出力が前記域値以下となるように、逆誤差伝播法により、ANNの重みを決定する。
【0073】
このような作業(即ち、義手装着者が「回内」をイメージした動作を行い、それによって得られる特徴ベクトルをANNの入力とし、ANNの第3層のうち第1番目の細胞の出力のみを前記域値以上とするように重みを決定する作業)、並びに、他の動作(「回外」、「屈曲」、「伸展」、「握り」、「開き」)においても同様の作業を繰り返して、ANNの重みを安定させる。
【0074】
その結果、前記「回内」を表す特徴ベクトルq(0.059,0.087,0.033,0.007,0.016,0.057,0.036,0.013)をANNの第1層としたとき、ANNの第3層の細胞が、例えば(0.80,0.15,0.30,0.25,0.11,0.25)となったとする。ここで、前記域値以上の値を有する細胞を0(オフ)、前記域値以下の値を有する細胞を1(オン)とすると、上述の(0.80,0.15,0.30,0.25,0.11,0.25)より、「回内」を表す制御信号(1,0,0,0,0,0)が得られる。
【0075】
上述の初期学習モードを経た後、使用モードに入る。なお、初期学習モードを終了した後、時間をおかずに直ちに使用モードに入ってもよい。初期学習モードは、上述の車椅子制御システムと同様に、或る使用者が或る制御システムを初めて使用する場合に実施すればよく、次回の使用時からは実施する必要はない。
【0076】
使用モードでは、まず、初期学習モードと同様に、義手装着者の身体に筋電センサを取付けた後、義手制御システムの電源をオンにする(或いは、初期学習モードを終了した後、直ちに使用モードに入る場合には、初期学習モードと同様の状態で使用モードに入ってよい)。しかる後、義手装着者は、義手を所望のように運動させるべく、当該運動をイメージした動作を行う。すなわち、義手装着者が、例えば義手を「回外」させようと意図したとすると、義手の「回外」をイメージした動作を行う。
【0077】
すると、上述の事前学習モードと全く同様に、筋電センサによって計測された信号J1、J2は、増幅器を介して増幅され、筋電信号K1、K2となる。次いで、筋電信号K1、K2は、AD変換器に通されてデジタル信号M1、M2にそれぞれ変換され、アナリシスユニットに送られる。そして、アナリシスユニットにおいて、デジタル信号M1、M2にFFT処理を行ってスペクトル信号N1、N2を得、次いでスムージング処理を行ってスペクトル信号P1、P2を得て、特徴ベクトルQを取り出す。
【0078】
ここで、上述の処理によって得られた特徴ベクトルQが、例えば、(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)であったとする。この特徴ベクトルQは、アダプテーションユニットとトレーナユニットに供給される。なお、義手装着者が何らかの動作を行っている限り、装着者の筋電信号に対応した特徴ベクトルQが、アダプテーションユニットとトレーナユニットに連続的に供給される。
【0079】
アダプテーションユニットでは、アナリシスユニットから供給された特徴ベクトルQによって制御信号Rを生成し、この制御信号Rが義手駆動機構に送られる。義手駆動機構では、アダプテーションユニットから送られた制御信号Rに従ってモータを駆動させ、装着者の意図したように義手が動かされる。しかしながら、義手装着者の個人差などに起因する理由により、義手が装着者の意図したように動かないことがある。
【0080】
すなわち、いま、アダプテーションユニットにおいて、特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)をANNの第1層の細胞としたとき、ANNの第3層の細胞が(0.40,0.42,0.13,0.75,0.31,0.22)であったとすると、制御信号Rは、(0,0,0,1,0,0)となる。この制御信号は、「伸展」を表す制御信号であり、制御信号R(0,0,0,1,0,0)が義手駆動機構に送られることにより、義手は、装着者の意図した「回外」ではなく、「伸展」することとなる。
【0081】
本発明の義手制御システムでは、このように義手が装着者の意図した動きと異なる動きをした場合には、装着者は、トレーナユニットに、装着者の意図した動きを指示する(この例では「回外」を指示する)教示信号Sを供給する。
【0082】
本実施の形態では、教示信号Sは、キーボードを用いて供給する。すなわち、例えば、キーボード「1」が「回内」、キーボード「2」が「回外」、キーボード「3」が「屈曲」、キーボード「4」が「伸展」、キーボード「5」が「握り」、キーボード「6」が「開き」として設定されていたとすると、装着者は、キーボード「2」を押す。すると、回外を意味する教示信号S(0,1,0,0,0,0)が、トレーナユニットに供給される(同様に、キーボード「1」を押すと、教示信号S(1,0,0,0,0,0)が供給され、「3」を押すと、教示信号S(0,0,1,0,0,0)が供給され、「4」を押すと、教示信号S(0,0,0,1,0,0)が供給され、「5」を押すと、教示信号S(0,0,0,0,1,0)が供給され、「6」を押すと、教示信号S(0,0,0,0,0,1)が供給される)。
【0083】
一方、トレーナユニットに教示信号S(0,1,0,0,0,0)が供給された時点では、トレーナユニットには、上述のように、アナリシスユニットから特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)が供給されており、教示信号Sが供給された時点の特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)と当該教示信号S(0,1,0,0,0,0)を対にして教師データTとする。すなわち、教師データTは、〔(0,1,0,0,0,0)(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)〕となる。
【0084】
このようにして形成された教師データTは、順次、アダプテーションユニットに供給されるとともに、トレーナユニットにおいて、教師データTの集合、即ち教師データセットとして蓄積される。教師データセットは、目的とする動作に関連する筋電信号パターン空間を限定する役目を果たす。
【0085】
アダプテーションユニットに教師データTが供給されると、アダプテーションユニットでは、教師データTに従って、制御信号Rが更新される。例えば、上述の例では、教師データTが供給される前には、特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)と制御信号R(0,0,0,1,0,0,0)とが対応していたが、特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)と制御信号R(0,1,0,0,0,0)とが対応するように(換言すれば、特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)をANNの入力(即ち、ANNの第1層)としたとき、制御信号R(0,1,0,0,0,0)がANNの出力(即ち、ANNの第3層)となるように)、逆誤差伝播法により重みを更新する。
【0086】
その結果、アナリシスユソニットから特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)がアダプテーションユニットに供給されたときは、アダプテーションユニットにおいて、制御信号R(0,1,0,0,0,0)が生成され、義手駆動機構に送られる。これにより、それ以降は、義手は、装着者の意図したように、「回外」することとなる。
【0087】
本発明は、以上の発明の実施の形態に限定されることなく、特許請求の範囲に記載された発明の範囲内で、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることはいうまでもない。
【0088】
例えば、前記実施の形態では、筋電信号により動作制御を行う車椅子及び義手に関連して、制御システム及び制御方法を説明したが、車椅子や義手以外の筋電信号により動作制御を行う筋電信号被動義足、筋電信号被動FES制御などにおいても、同様の構成及び方法を用いて制御システム及び制御方法を構築することができる。
【0089】
また、筋電信号以外の生体信号、例えば脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から採取した信号を使用しても、上述の制御システムおよび制御方法を構築することができる。
【0090】
【発明の効果】
本発明により、生体信号被動機器使用者の変化に逐一対応することができる制御システムおよび制御方法が得られる。また、訓練中においても機器使用者に生体信号に対するフィードバックが発生する制御システムおよび制御方法が得られる。
【図面の簡単な説明】
【図1】本発明の好ましい実施の形態に係る個人適応型筋電信号被動車椅子制御システムの基本構成を示したブロック図である。
【図2】図1の制御システムの詳細な構成を示したブロック図である。
【図3】図1の制御システムにおいて増幅された筋電信号の例を示した図である。
【図4】図3に示された筋電信号にFFT処理を行って得られたスペクトル信号を示した図である。
【図5】図4に示されたスペクトル信号にスムージング処理を行った得られたスペクトル信号を示した図である。
【図6】図1の制御システムが組み込まれた車椅子の運動の種類の一例を示した図である。
【図7】本発明の好ましい実施の形態に係る個人適応型筋電信号被動義手制御システムの基本構成を示したブロック図である。
【図8】図7の制御システムの詳細な構成を示したブロック図である。
【図9】図7の制御システムにおいて増幅された筋電信号の例を示した図である。
【図10】図9に示された筋電信号にFFT処理を行って得られたスペクトル信号を示した図である。
【図11】図10に示されたスペクトル信号にスムージング処理を行った得られたスペクトル信号を示した図である。
【図12】図7の制御システムが組み込まれた義手の運動の種類の一例を示した図である。

Claims (8)

  1. 被動機器使用者の生体信号からの時系列信号データへの及び補間による
    スムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより生体信号被動機器制御信号を生成して生体信号被動機器駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動機器制御システムにおいて
    前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、
    被動機器使用者の意図したように被動機器が動作しない場合に、前記トレーナユニットにおいて、被動機器使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており
    前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されている
    ことを特徴とするシステム。
  2. 前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とする請求項1に記載のシステム。
  3. 車椅子使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより車椅子制御信号を生成して車椅子駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動車椅子制御システムにおいて
    前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、
    車椅子使用者の意図したように車椅子が動作しない場合に、前記トレーナユニットにおいて、車椅子使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており
    前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されている
    ことを特徴とするシステム。
  4. 前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とする請求項3に記載のシステム。
  5. 義手使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより義手制御信号を生成して義手駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動義手制御システムにおいて
    前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、
    義手使用者の意図したように義手が動作しない場合に、前記トレーナユニットにおいて、義手使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており
    前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されている
    ことを特徴とするシステム。
  6. 前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とする請求項5に記載のシステム。
  7. 義足使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより義足制御信号を生成して義足駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動義足制御システムにおいて
    前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、
    義足使用者の意図したように義足が動作しない場合に、前記トレーナユニットにおいて、義足使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており
    前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されている
    ことを特徴とするシステム。
  8. 前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とする請求項7に記載のシステム。
JP2001056107A 2000-03-13 2001-03-01 個人適応型生体信号被動機器制御システム Expired - Fee Related JP4687935B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001056107A JP4687935B2 (ja) 2000-03-13 2001-03-01 個人適応型生体信号被動機器制御システム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2000-73931 2000-03-13
JP2000073931 2000-03-13
JP2000073931 2000-03-13
JP2001056107A JP4687935B2 (ja) 2000-03-13 2001-03-01 個人適応型生体信号被動機器制御システム

Publications (2)

Publication Number Publication Date
JP2001331250A JP2001331250A (ja) 2001-11-30
JP4687935B2 true JP4687935B2 (ja) 2011-05-25

Family

ID=26587674

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001056107A Expired - Fee Related JP4687935B2 (ja) 2000-03-13 2001-03-01 個人適応型生体信号被動機器制御システム

Country Status (1)

Country Link
JP (1) JP4687935B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021141127A1 (ja) 2020-01-10 2021-07-15 国立大学法人電気通信大学 変換プログラムおよび変換装置

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004180817A (ja) * 2002-12-02 2004-07-02 National Institute Of Advanced Industrial & Technology 生体信号を利用した作業支援マニピュレータシステム
JP2007143886A (ja) * 2005-11-28 2007-06-14 Hiroshima Univ 電動車椅子システム
JP2007195592A (ja) * 2006-01-24 2007-08-09 National Institute Of Advanced Industrial & Technology 筋電インタフェースにおける安全システム
DE602007011062D1 (de) * 2006-06-02 2011-01-20 Philips Intellectual Property Biofeedback-system und anzeigevorrichtung
JP5224227B2 (ja) * 2006-07-16 2013-07-03 浩史 横井 全指可動型義手
EP2045690A1 (en) * 2007-10-04 2009-04-08 Koninklijke Philips Electronics N.V. Improvements relating to brain computer interfaces
CN102202569B (zh) * 2008-10-29 2014-05-07 丰田自动车株式会社 移动体控制装置和移动体控制方法
JP5467267B2 (ja) * 2010-03-05 2014-04-09 国立大学法人大阪大学 機器制御装置、機器システム、機器制御方法、機器制御プログラム、および記録媒体
CN113907714A (zh) 2017-11-30 2022-01-11 梅尔廷Mmi株式会社 用于识别生物体信号所表示的信息的系统
CN107961120B (zh) * 2017-12-08 2020-06-02 中国电子科技集团公司第二十七研究所 一种基于脑电控制的智能轮椅控制系统
CN109933270A (zh) * 2019-04-15 2019-06-25 华南理工大学 一种基于手指开关的人机交互系统及其交互方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021141127A1 (ja) 2020-01-10 2021-07-15 国立大学法人電気通信大学 変換プログラムおよび変換装置
EP4089507A4 (en) * 2020-01-10 2024-02-07 Univ Electro Communications CONVERSION PROGRAM AND CONVERSION DEVICE

Also Published As

Publication number Publication date
JP2001331250A (ja) 2001-11-30

Similar Documents

Publication Publication Date Title
Bi et al. A review on EMG-based motor intention prediction of continuous human upper limb motion for human-robot collaboration
Hahne et al. Linear and nonlinear regression techniques for simultaneous and proportional myoelectric control
Ison et al. High-density electromyography and motor skill learning for robust long-term control of a 7-DoF robot arm
Khezri et al. Real-time intelligent pattern recognition algorithm for surface EMG signals
Young et al. Classification of simultaneous movements using surface EMG pattern recognition
Gopura et al. Recent trends in EMG-Based control methods for assistive robots
JP4687935B2 (ja) 個人適応型生体信号被動機器制御システム
Yu et al. Multi-DoF continuous estimation for wrist torques using stacked autoencoder
Das et al. A review on the advancements in the field of upper limb prosthesis
JP2017202183A (ja) 脳波パターン分類装置、脳波パターン分類方法、脳波パターン分類プログラムおよびニューロフィードバックシステム
Ison et al. Simultaneous myoelectric control of a robot arm using muscle synergy-inspired inputs from high-density electrode grids
Farina et al. Surface Electromyography for MAN‐Machine Interfacing in Rehabilitation Technologies
Khoshdel et al. An optimized artificial neural network for human-force estimation: consequences for rehabilitation robotics
ur Rehman et al. A novel approach for classification of hand movements using surface EMG signals
Amamcherla et al. A machine learning system for classification of emg signals to assist exoskeleton performance
Wang et al. Lower limb motion recognition based on surface electromyography signals and its experimental verification on a novel multi-posture lower limb rehabilitation robots☆
JP4517537B2 (ja) 個人適応型生体信号被動機器制御システム及びその制御方法
Byfield et al. Realtime classification of hand motions using electromyography collected from minimal electrodes for robotic control
Rahatabad et al. A fuzzy-genetic model for estimating forces from electromyographical activity of antagonistic muscles due to planar lower arm movements: the effect of nonlinear muscle properties
Bhardwaj et al. Electromyography in physical rehabilitation: a review
Gibson et al. Neural closed-loop control of a hand prosthesis using cross-modal haptic feedback
Yu et al. Continuous estimation of wrist torques with stack-autoencoder based deep neural network: A preliminary study
Dasanayake et al. Estimation of prosthetic arm motions using stump arm kinematics
Antuvan et al. Muscle synergies for reliable classification of arm motions using myoelectric interface
Yu et al. Generating human-like velocity-adapted jumping gait from sEMG signals for bionic leg’s control

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20010309

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080229

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20090519

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20090519

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100128

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110113

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110202

R150 Certificate of patent or registration of utility model

Ref document number: 4687935

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140225

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140225

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees