JP4687935B2 - 個人適応型生体信号被動機器制御システム - Google Patents
個人適応型生体信号被動機器制御システム Download PDFInfo
- Publication number
- JP4687935B2 JP4687935B2 JP2001056107A JP2001056107A JP4687935B2 JP 4687935 B2 JP4687935 B2 JP 4687935B2 JP 2001056107 A JP2001056107 A JP 2001056107A JP 2001056107 A JP2001056107 A JP 2001056107A JP 4687935 B2 JP4687935 B2 JP 4687935B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- feature vector
- unit
- supplied
- teacher data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は一般に、個人適応型生体信号被動機器制御システムおよび制御方法に関する。より詳細には、本発明は、生体信号被動機器使用者の訓練と学習を同時に行う個人適応型生体信号被動機器制御システムおよび制御方法に関する。なお、本発明における生体信号被動機器には、車椅子、義手、義足などが含まれる。また、生体信号には、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号が含まれる。
【0002】
【従来の技術】
脳中枢からの運動指令を受けて筋肉が収縮する際に、筋膜表面から筋電位が発生する。複数の筋群から発生する筋電位を重ね合わせた表面筋電位を、皮膚表面で観測することができるが、このような表面筋電位を解析することによって、収縮している筋肉の推定、従って、動作の識別が可能になる。そこで、車椅子、義手、義足などのような機器の制御におけるマン−マシン・インタフェースとして、筋電信号の利用が期待されるが、筋電信号を利用して動作の制御を行う車椅子、義手、義足などのような機器(以下「筋電信号被動機器」という)を使用するには、筋電信号被動機器の使用者が、機器に適応すべく、一定期間の訓練を行うことが必要となる。
【0003】
【発明が解決しようとする課題】
筋電信号被動機器の訓練を行おうとする場合、使用者の訓練と機器の学習を独立して行うオフライン型の学習方法と、使用者の訓練と機器の学習を同時に行うオンライン型の学習方法とが考えられる。しかし、オフライン型の学習方法では、使用者の変化に逐一対応することが困難である。すなわち、機器使用者の訓練と機器の学習を独立して行っていると、使用者の力の入れ方などが変化した場合に迅速に対応することが難しい。また、人間は外部からの感覚のフィードバックを受けない状態では同じ動作を安定して繰り返すことは困難であるといわれているが、オフライン型の学習方法では、訓練時には使用者にフィードバックがなく、使用時には使用者に視聴覚によるフィードバックが発生するため、訓練時と使用時の筋電信号に食い違いが生ずるという不都合がある。
【0004】
なお、筋電信号以外の生体信号、例えば脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号の解析により、車椅子、義手、義足などの機器を制御することができるが、これらについても、上述の筋電信号被動機器と同様の課題がある(以下、筋電信号被動機器を含めた、このような機器を「生体信号被動機器」という)。
【0005】
したがって、本発明の目的は、生体信号被動機器使用者の変化に応じた動的な内部状態の変更が容易な制御システムおよび制御方法を提供することである。また、本発明の別の目的は、機器使用者に訓練中から生体信号に対するフィードバックが行われる制御システムおよび制御方法を提供することである。
【0006】
【課題を解決するための手段】
本願請求項1に記載された、被動機器使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより生体信号被動機器制御信号を生成して生体信号被動機器駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動機器制御システムは、前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、被動機器使用者の意図したように被動機器が動作しない場合に、前記トレーナユニットにおいて、被動機器使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されていることを特徴とするものである。
【0009】
本願請求項2に記載された個人適応型生体信号被動機器制御システムは、前記請求項1のシステムにおいて、前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とするものである。
【0010】
本願請求項3に記載された、車椅子使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより車椅子制御信号を生成して車椅子駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動車椅子制御システムは、前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、車椅子使用者の意図したように車椅子が動作しない場合に、前記トレーナユニットにおいて、車椅子使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されていることを特徴とするものである。
【0013】
本願請求項4に記載された個人適応型生体信号被動車椅子制御システムは、前記請求項1のシステムにおいて、前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とするものである。
【0014】
本願請求項5に記載された、義手使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより義手制御信号を生成して義手駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動義手制御システムは、前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、義手使用者の意図したように義手が動作しない場合に、前記トレーナユニットにおいて、義手使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されていることを特徴とするものである。
【0017】
本願請求項6に記載された個人適応型生体信号被動義手制御システムは、前記請求項5のシステムにおいて、前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とするものである。
【0018】
本願請求項7に記載された、義足使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより義足制御信号を生成して義足駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動義足制御システムは、前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、義足使用者の意図したように義足が動作しない場合に、前記トレーナユニットにおいて、義足使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されていることを特徴とするものである。
【0021】
本願請求項8に記載された個人適応型生体信号被動義足制御システムは、前記請求項7のシステムにおいて、前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とするものである。
【0030】
【発明の実施の形態】
次に、筋電信号被動車椅子の制御に関連して、本発明の好ましい実施の形態について詳細に説明する。図1は、本発明の好ましい実施の形態に係る個人適応型筋電信号被動車椅子制御システムの基本構成を示したブロック図、図2は、図1の制御システムの詳細な構成を示したブロック図である。
【0031】
本発明の個人適応型筋電信号被動車椅子制御システムは大別して、3つのユニット、即ち、アナリシスユニットと、アダプテーションユニットと、トレーナユニットとを備えている。
【0032】
以下、本発明の筋電信号被動車椅子制御システムについて、車椅子を実際に使用するのに先立って行われる初期学習モードと、車椅子を実際に使用する使用モードとに分けて説明する。
【0033】
最初に、初期学習モードについて説明する。まず、車椅子使用者の筋電信号を検出するため、車椅子使用者の身体の所定箇所(例えば、腹筋の直上と背筋の直上)に筋電センサを装着する。筋電センサとしては、乾式の表面電極、湿式の表面電極などが用いられる。筋電センサを装着して、車椅子制御システムの電源をオンにした後、車椅子使用者が一定の動作(例えば、車椅子の「左折」をイメージした動作)を行うと、車椅子使用者の表面筋電位が、筋電センサの表面電極によって検出される。
【0034】
ここで、車椅子の「左折」をイメージした動作とは、例えば、車椅子に座した使用者が上半身を左側に捩じる動作など、各使用者が「左折」について予め定めた動作を意味する。したがって、使用者毎に「左折」をイメージした動作が異なっていてもよい。同様に、車椅子の「前進」をイメージした動作とは、例えば、車椅子に座した使用者が上半身を前方に傾ける動作、車椅子の「後退」をイメージした動作とは、例えば、車椅子に座した使用者が上半身を後方に反らせる動作、車椅子の「右折」をイメージした動作とは、例えば、上半身を右側に捩じる動作が考えられるが、もちろん、各使用者毎に異なる動作をイメージしてもよい。
【0035】
筋電センサによって計測される表面筋電位の振幅は、1mV程度と小さく、そのままでは、車椅子駆動機構の駆動を制御する制御信号を生成することができないため、増幅器を介して、筋電信号を増幅する。本実施の形態では、携帯型作動増幅器を使用して、筋電信号を1万倍に増幅したが、他の型式の増幅器を使用してもよい。
【0036】
すなわち、筋電センサによって計測された信号a1、a2は、増幅器を介して増幅され、筋電信号b1、b2となる。図3(a)は、増幅器によって増幅された筋電信号b1の一例を示した図、図3(b)は、増幅器によって増幅された筋電信号b2の一例を示した図である。図3(a)及び図3(b)において、縦軸は電圧(単位V)を、横軸は時間(単位ms)を表している。
【0037】
増幅器によって増幅された筋電信号b1、b2は、AD変換器に通されてデジタル信号c1、c2にそれぞれ変換され、アナリシスユニットに送られる。なお、AD変換器は、普通の型式のものを使用してよい。
【0038】
アナリシスユニットにおいては、詳細には後述する制御信号を得るのに役立つ特徴ベクトルが生成される。特徴ベクトルを生成する理由は、筋電センサによって計測された筋電信号が時系列データにすぎず、そのままでは制御信号を得ることができないからである。
【0039】
アナリシスユニットでは、まず、デジタル信号c1、c2に、時間周波数変換を行い、スペクトル信号d1、d2を得る。時間周波数変換としては、例えば、フーリエ変換、ガボール変換、ウェブレット変換があげられる。図4は、図2に示される筋電信号にフーリエ変換の処理速度を高速化したFFT処理を施した図である(図4(a)は、デジタル信号c1より得られたスペクトル信号d1、図4(b)は、デジタル信号c2より得られたスペクトル信号d2を示している)。図4(a)及び図4(b)において、縦軸は強度(単位V2 s)を、横軸は周波数(単位Hz)を表している。
【0040】
次に、スペクトル信号d1、d2の大まかな形状を特徴化するために、補間によるスムージング処理を行い、スペクトル信号e1、e2を得る。スムージング処理を行うことにより、隣接するスペクトル信号間の細かな差異が消失する。図5(a)及び図5(b)は、図4(a)及び図4(b)に示されるスペクトル信号にスムージング処理を行った図である。図5(a)及び図5(b)において、図4(a)及び図4(b)と同様に、縦軸は強度(単位V2 s)を、横軸は周波数(単位Hz)を表している。
【0041】
上述のようにして得られたスペクトル信号e1、e2の一部を取り出すことにより、特徴ベクトルを生成する。すなわち、スペクトル信号e1において予め選定した周波数(本実施の形態では、100Hz、200Hz、300Hz、400Hz)における強度を計測し、同様に、スペクトル信号e2において予め選定した周波数(e1と同様に、100Hz、200Hz、300Hz、400Hz)における強度を計測することにより、特徴ベクトルとする。
【0042】
特徴ベクトルf1は、図5(a)において棒グラフで示されるように、(0.065,0.070,0.007,0.006)となり、特徴ベクトルf2は、図5(b)において棒グラフで示されるように、(0.026,0.013,0.033,0.010)となる。f1とf2を結合することにより、特徴ベクトルfは、(0.065,0.070,0.007,0.006,0.026,0.013,0.033,0.010)となる(これが、車椅子の「左折」を表す特徴ベトクルとなる)。
【0043】
このようにして生成された特徴ベクトルfは、図1に示されるように、車椅子使用者が何らかの動作を行っている限り連続的に、アダプテーションユニットとトレーナユニットに供給される。
【0044】
アダプテーションユニットにおいては、車椅子駆動機構の駆動を制御する制御信号が生成される。アダプテーションユニットは、例えば、フィードフォワード型のアーティフィシァル・ニューラル・ネットワーク(Artificial Neural Network 、以下「ANN」と略称する)によって形成される。本実施の形態では、アダプテーションユニットとして、3層のANNを用い、ANNの学習には、逆誤差伝播法(Back Propagation(BP)法)(例えば、馬場則夫他著:「ニューラルネットの基礎と応用」,共立出版株式会社,1994年)を使用したが、4層以上のANNを用いてもよく、また、他の学習法、例えばフラッシュラーニング(Flash Learning)法などを使用してもよい。
【0045】
ANNの学習は、以下のようにして行う。いま、車椅子の運動の種類を、図6に示されるように、「前進」、「後退」、「右折」、「左折」の4種類とし、「前進」を表す制御信号を(1,0,0,0)、「後退」を表す制御信号を(0,1,0,0)、「右折」を表す制御信号を(0,0,1,0)、「左折」を表す制御信号を(0,0,0,1)と仮定する。
【0046】
そして、上述の「左折」を表す特徴ベクトルf(0.065,0.070,0.007,0.006,0.026,0.013,0.033,0.010)をANNの第1層の細胞(即ち、入力)としたとき、ANNの第3層第4番目の細胞の出力が予め設定した域値(例えば、0.5)以上となり、かつ、第3層のその他の細胞の出力が前記域値以下となるように、逆誤差伝播法により、ANNの重みを決定する。
【0047】
このような作業(即ち、車椅子使用者が「左折」をイメージした動作を行い、それによって得られる特徴ベクトルをANNの入力とし、ANNの第3層のうち第4番目の細胞の出力のみを前記域値以上とするように重みを決定する作業)、並びに、他の動作(「前進」、「後退」、「右折」)においても同様の作業を繰り返して、ANNの重みを安定させる。
【0048】
その結果、前記「左折」を表す特徴ベクトルf(0.065,0.070,0.007,0.006,0.026,0.013,0.033,0.010)をANNの第1層としたとき、ANNの第3層の細胞が、例えば(0.44,0.22,0.10,0.75)となったとする。ここで、前記域値以上の値を有する細胞を0(オフ)、前記域値以下の値を有する細胞を1(オン)とすると、上述の(0.44,0.22,0.10,0.75)より、「左折」を表す制御信号(0,0,0,1)が得られる。
【0049】
上述の初期学習モードを経た後、使用モードに入る。なお、初期学習モードを終了した後、時間をおかずに直ちに使用モードに入ってもよい。初期学習モードは、或る使用者が或る制御システムを初めて使用する場合に実施すればよく、次回の使用時からは実施する必要はない。
【0050】
使用モードでは、まず、初期学習モードと同様に、車椅子使用者の身体に筋電センサを装着した後、車椅子制御システムの電源をオンにする(或いは、初期学習モードを終了した後、直ちに使用モードに入る場合には、初期学習モードと同様の状態で使用モードに入ってよい)。しかる後、車椅子使用者は、車椅子を所望のように運動させるべく、当該運動をイメージした動作を行う。すなわち、車椅子使用者が、例えば車椅子を「前進」させようと意図したとすると、車椅子の「前進」をイメージした動作を行う。
【0051】
すると、上述の初期学習モードと全く同様に、筋電センサによって計測された信号A1、A2は、増幅器を介して増幅され、筋電信号B1、B2となる。次いで、筋電信号B1、B2は、AD変換器に通されてデジタル信号C1、C2にそれぞれ変換され、アナリシスユニットに送られる。そして、アナリシスユニットにおいて、デジタル信号C1、C2にFFT処理を行ってスペクトル信号D1、D2を得、次いでスムージング処理を行ってスペクトル信号E1、E2を得て、特徴ベクトルFを取り出す。
【0052】
ここで、上述の処理によって得られた特徴ベクトルFが、例えば、(0.059,0.015,0.120,0.081,0.079,0.051,0.069,0.010)であったとする。この特徴ベクトルFは、アダプテーションユニットとトレーナユニットに供給される。なお、車椅子使用者が何らかの動作を行っている限り、使用者の筋電信号に対応した特徴ベクトルFが、アダプテーションユニットとトレーナユニットに連続的に供給される。
【0053】
アダプテーションユニットでは、アナリシスユニットから供給された特徴ベクトルFによって制御信号Gを生成し、この制御信号Gが車椅子駆動機構に送られる。車椅子駆動機構では、アダプテーションユニットから送られた制御信号Gに従ってモータを駆動させ、使用者の意図したように車椅子が動かされる。しかしながら、車椅子使用者の個人差などに起因する理由により、車椅子が使用者の意図したように動かないことがある。
【0054】
すなわち、いま、アダプテーションユニットにおいて、特徴ベクトルF(0.059,0.015,0.120,0.081,0.079,0.051,0.069,0.010)をANNの第1層の細胞としたとき、ANNの第3層の細胞が(0.10,0.10,0.90,0.10)であったとすると、制御信号Gは、(0,0,1,0)となる。この制御信号Gは、「右折」を表す制御信号であり、制御信号G(0,0,1,0)が車椅子駆動機構に送られることにより、車椅子は、使用者の意図した「前進」ではなく、「右折」することとなる。
【0055】
本発明の車椅子制御システムでは、このように車椅子が使用者の意図した動きと異なる動きをした場合には、使用者は、トレーナユニットに、使用者の意図した動きを指示する(この例では「前進」を指示する)教示信号Hを供給する。
【0056】
本実施の形態では、教示信号Hは、キーボードを用いて供給する。すなわち、例えば、キーボード「1」が「前進」、キーボード「2」が「後退」、キーボード「3」が「右折」、キーボード「4」が「左折」として設定されていたとすると、使用者は、キーボード「1」を押す。すると、前進を意味する教示信号H(1,0,0,0)が、トレーナユニットに供給される(同様に、キーボード「2」を押すと、教示信号H(0,1,0,0)が供給され、「3」を押すと、教示信号H(0,0,1,0)が供給され、「4」を押すと、教示信号H(0,0,0,1)が供給される)。なお、キーボード以外の装置、例えばジョイスティック等を用いて、教示信号Hを供給してもよい。
【0057】
一方、トレーナユニットに教示信号H(1,0,0,0)が供給された時点では、トレーナユニットには、上述のように、アナリシスユニットから特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)が供給されており、教示信号Hが供給された時点の特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)と当該教示信号H(1,0,0,0)を対にして教師データIとする。すなわち、教師データIは、〔(1,0,0,0)(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)〕となる。
【0058】
このようにして形成された教師データIは、順次、トレーナユニットからアダプテーションユニットに供給されるとともに、トレーナユニットにおいて、教師データIの集合、即ち教師データセットとして蓄積される。教師データセットは、目的とする動作に関連する筋電信号パターン空間を限定する役目を果たす。
【0059】
アダプテーションユニットに教師データIが供給されると、アダプテーションユニットでは、教師データIに従って、制御信号Gが更新される。例えば、上述の例では、教師データIが供給される前には、特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)と制御信号G(0,0,1,0)とが対応していたが、特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)と制御信号G(1,0,0,0)とが対応するように(換言すれば、特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)をANNの入力(即ち、ANNの第1層)としたとき、制御信号G(1,0,0,0)がANNの出力(即ち、ANNの第3層)となるように)、逆誤差伝播法により重みを更新する。
【0060】
その結果、アナリシスユニットから特徴ベクトルF(0.065,0.070,0.007,0.006,0.009,0.008,0.010,0.007)がアダプテーションユニットに供給されたときは、アダプテーションユニットにおいて、制御信号G(1,0,0,0)が生成され、車椅子駆動機構に送られる。これにより、それ以降は、車椅子は、使用者の意図したように、「前進」することとなる。
【0061】
次に、筋電信号被動義手の制御に関連して、本発明の好ましい実施の形態について詳細に説明する。図7は、本発明の好ましい実施の形態に係る個人適応型筋電信号被動義手制御システムの基本構成を示したブロック図、図8は、図7の制御システムの詳細な構成を示したブロック図である。
【0062】
本発明の筋電信号被動義手制御システムは、上述の筋電信号被動車椅子と実質的に同一の構成を有しており、3つのユニット、即ち、アナリシスユニットと、アダプテーションユニットと、トレーナユニットとを備えている。
【0063】
まず、初期学習モードについて説明する。まず、義手装着者の筋電信号を検出するため、義手装着者の身体の所定箇所(例えば、伸筋支帯の直上と方形回内筋の直上)に筋電センサを取付ける。筋電センサとしては、上述の筋電信号被動車椅子制御システムと同様のものを使用してよい。筋電センサを取付けて、義手制御システムの電源をオンにした後、義手装着者が一定の動作(例えば、手首の「回内」をイメージした動作)を行うと、義手装着者の表面筋電位が、筋電センサの表面電極によって検出される。
【0064】
筋電センサによって計測された信号j1、j2は、増幅器を介して増幅され、筋電信号k1、k2となる。図9(a)は、増幅器によって増幅された筋電信号k1の一例を示した図、図9(b)は、増幅器によって増幅された筋電信号k2の一例を示した図である。図9(a)及び図9(b)において、縦軸は電圧(単位V)を、横軸は時間(単位ms)を表している。
【0065】
増幅器によって増幅された筋電信号k1、k2は、AD変換器に通されてデジタル信号m1、m2にそれぞれ変換され、アナリシスユニットに送られる。アナリシスユニットでは、まず、デジタル信号m1、m2に、時間周波数変換を行い、スペクトル信号n1、n2を得る。図10は、図9に示される筋電信号にフーリエ変換の処理速度を高速化したFFT処理を施した図である(図10(a)は、デジタル信号m1より得られたスペクトル信号n1、図10(b)は、デジタル信号m2より得られたスペクトル信号n2を示している)。図10(a)及び図10(b)において、縦軸は強度(単位V2 s)を、横軸は周波数(単位Hz)を表している。
【0066】
次に、スペクトル信号n1、n2の大まかな形状を特徴化するために、補間によるスムージング処理を行い、スペクトル信号p1、p2を得る。スムージング処理を行うことにより、隣接するスペクトル信号間の細かな差異が消失する。図11(a)及び図11(b)は、図10(a)及び図10(b)に示されるスペクトル信号にスムージング処理を行った図である。図11(a)及び図11(b)において、図10(a)及び図10(b)と同様に、縦軸は強度(単位V2 s)を、横軸は周波数(単位Hz)を表している。
【0067】
上述のようにして得られたスペクトル信号p1、p2の一部を取り出すことにより、特徴ベクトルを生成する。すなわち、スペクトル信号p1において予め選定した周波数(本実施の形態では、100Hz、200Hz、300Hz、400Hz)における強度を計測し、同様に、スペクトル信号p2において予め選定した周波数(p1と同様に、100Hz、200Hz、300Hz、400Hz)における強度を計測することにより、特徴ベクトルとする。
【0068】
特徴ベクトルq1は、図10(a)において棒グラフで示されるように、(0.059,0.087,0.033,0.007)となり、特徴ベクトルq2は、図10(b)において棒グラフで示されるように、(0.016,0.057,0.036,0.013)となる。q1とq2を結合することにより、特徴ベクトルqは、(0.059,0.087,0.033,0.007,0.016,0.057,0.036,0.013)となる(これが、義手の手首の「回内」を表す特徴ベトクルとなる)。
【0069】
このようにして生成された特徴ベクトルqは、図7に示されるように、義手装着者が何らかの動作を行っている限り連続的に、アダプテーションユニットとトレーナユニットに供給される。
【0070】
アダプテーションユニットにおいては、義手駆動機構の駆動を制御する制御信号が生成される。アダプテーションユニットは、上述の車椅子制御システムと同様に、フィードフォワード型のアーティフィシァル・ニューラル・ネットワーク(ANN)によって形成される。本実施の形態では、アダプテーションユニットとして、3層のANNを用い、ANNの学習には、逆誤差伝播法(Back Propagation(BP)法)を使用した。
【0071】
ANNの学習は、以下のようにして行う。いま、義手の運動の種類を、図12に示されるように、手首の「回内」、「回外」、「屈曲」、「伸展」、5指全ての「握り」、「開き」の6種類とし、「回内」を表す制御信号を(1,0,0,0,0,0)、「回外」を表す制御信号を(0,1,0,0,0,0)、「屈曲」を表す制御信号を(0,0,1,0,0,0)、「伸展」を表す制御信号を(0,0,0,1,0,0)、「握り」を表す制御信号を(0,0,0,0,1,0)、「開き」を表す制御信号を(0,0,0,0,0,1)と仮定する。
【0072】
そして、上述の「回内」を表す特徴ベクトルq(0.059,0.087,0.033,0.007,0.016,0.057,0.036,0.013)をANNの第1層の細胞(即ち、入力)としたとき、ANNの第3層第1番目の細胞の出力が予め設定した域値(例えば、0.5)以上となり、かつ、第3層のその他の細胞の出力が前記域値以下となるように、逆誤差伝播法により、ANNの重みを決定する。
【0073】
このような作業(即ち、義手装着者が「回内」をイメージした動作を行い、それによって得られる特徴ベクトルをANNの入力とし、ANNの第3層のうち第1番目の細胞の出力のみを前記域値以上とするように重みを決定する作業)、並びに、他の動作(「回外」、「屈曲」、「伸展」、「握り」、「開き」)においても同様の作業を繰り返して、ANNの重みを安定させる。
【0074】
その結果、前記「回内」を表す特徴ベクトルq(0.059,0.087,0.033,0.007,0.016,0.057,0.036,0.013)をANNの第1層としたとき、ANNの第3層の細胞が、例えば(0.80,0.15,0.30,0.25,0.11,0.25)となったとする。ここで、前記域値以上の値を有する細胞を0(オフ)、前記域値以下の値を有する細胞を1(オン)とすると、上述の(0.80,0.15,0.30,0.25,0.11,0.25)より、「回内」を表す制御信号(1,0,0,0,0,0)が得られる。
【0075】
上述の初期学習モードを経た後、使用モードに入る。なお、初期学習モードを終了した後、時間をおかずに直ちに使用モードに入ってもよい。初期学習モードは、上述の車椅子制御システムと同様に、或る使用者が或る制御システムを初めて使用する場合に実施すればよく、次回の使用時からは実施する必要はない。
【0076】
使用モードでは、まず、初期学習モードと同様に、義手装着者の身体に筋電センサを取付けた後、義手制御システムの電源をオンにする(或いは、初期学習モードを終了した後、直ちに使用モードに入る場合には、初期学習モードと同様の状態で使用モードに入ってよい)。しかる後、義手装着者は、義手を所望のように運動させるべく、当該運動をイメージした動作を行う。すなわち、義手装着者が、例えば義手を「回外」させようと意図したとすると、義手の「回外」をイメージした動作を行う。
【0077】
すると、上述の事前学習モードと全く同様に、筋電センサによって計測された信号J1、J2は、増幅器を介して増幅され、筋電信号K1、K2となる。次いで、筋電信号K1、K2は、AD変換器に通されてデジタル信号M1、M2にそれぞれ変換され、アナリシスユニットに送られる。そして、アナリシスユニットにおいて、デジタル信号M1、M2にFFT処理を行ってスペクトル信号N1、N2を得、次いでスムージング処理を行ってスペクトル信号P1、P2を得て、特徴ベクトルQを取り出す。
【0078】
ここで、上述の処理によって得られた特徴ベクトルQが、例えば、(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)であったとする。この特徴ベクトルQは、アダプテーションユニットとトレーナユニットに供給される。なお、義手装着者が何らかの動作を行っている限り、装着者の筋電信号に対応した特徴ベクトルQが、アダプテーションユニットとトレーナユニットに連続的に供給される。
【0079】
アダプテーションユニットでは、アナリシスユニットから供給された特徴ベクトルQによって制御信号Rを生成し、この制御信号Rが義手駆動機構に送られる。義手駆動機構では、アダプテーションユニットから送られた制御信号Rに従ってモータを駆動させ、装着者の意図したように義手が動かされる。しかしながら、義手装着者の個人差などに起因する理由により、義手が装着者の意図したように動かないことがある。
【0080】
すなわち、いま、アダプテーションユニットにおいて、特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)をANNの第1層の細胞としたとき、ANNの第3層の細胞が(0.40,0.42,0.13,0.75,0.31,0.22)であったとすると、制御信号Rは、(0,0,0,1,0,0)となる。この制御信号は、「伸展」を表す制御信号であり、制御信号R(0,0,0,1,0,0)が義手駆動機構に送られることにより、義手は、装着者の意図した「回外」ではなく、「伸展」することとなる。
【0081】
本発明の義手制御システムでは、このように義手が装着者の意図した動きと異なる動きをした場合には、装着者は、トレーナユニットに、装着者の意図した動きを指示する(この例では「回外」を指示する)教示信号Sを供給する。
【0082】
本実施の形態では、教示信号Sは、キーボードを用いて供給する。すなわち、例えば、キーボード「1」が「回内」、キーボード「2」が「回外」、キーボード「3」が「屈曲」、キーボード「4」が「伸展」、キーボード「5」が「握り」、キーボード「6」が「開き」として設定されていたとすると、装着者は、キーボード「2」を押す。すると、回外を意味する教示信号S(0,1,0,0,0,0)が、トレーナユニットに供給される(同様に、キーボード「1」を押すと、教示信号S(1,0,0,0,0,0)が供給され、「3」を押すと、教示信号S(0,0,1,0,0,0)が供給され、「4」を押すと、教示信号S(0,0,0,1,0,0)が供給され、「5」を押すと、教示信号S(0,0,0,0,1,0)が供給され、「6」を押すと、教示信号S(0,0,0,0,0,1)が供給される)。
【0083】
一方、トレーナユニットに教示信号S(0,1,0,0,0,0)が供給された時点では、トレーナユニットには、上述のように、アナリシスユニットから特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)が供給されており、教示信号Sが供給された時点の特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)と当該教示信号S(0,1,0,0,0,0)を対にして教師データTとする。すなわち、教師データTは、〔(0,1,0,0,0,0)(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)〕となる。
【0084】
このようにして形成された教師データTは、順次、アダプテーションユニットに供給されるとともに、トレーナユニットにおいて、教師データTの集合、即ち教師データセットとして蓄積される。教師データセットは、目的とする動作に関連する筋電信号パターン空間を限定する役目を果たす。
【0085】
アダプテーションユニットに教師データTが供給されると、アダプテーションユニットでは、教師データTに従って、制御信号Rが更新される。例えば、上述の例では、教師データTが供給される前には、特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)と制御信号R(0,0,0,1,0,0,0)とが対応していたが、特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)と制御信号R(0,1,0,0,0,0)とが対応するように(換言すれば、特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)をANNの入力(即ち、ANNの第1層)としたとき、制御信号R(0,1,0,0,0,0)がANNの出力(即ち、ANNの第3層)となるように)、逆誤差伝播法により重みを更新する。
【0086】
その結果、アナリシスユソニットから特徴ベクトルQ(0.045,0.021,0.023,0.107,0.056,0.002,0.001,0.001)がアダプテーションユニットに供給されたときは、アダプテーションユニットにおいて、制御信号R(0,1,0,0,0,0)が生成され、義手駆動機構に送られる。これにより、それ以降は、義手は、装着者の意図したように、「回外」することとなる。
【0087】
本発明は、以上の発明の実施の形態に限定されることなく、特許請求の範囲に記載された発明の範囲内で、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることはいうまでもない。
【0088】
例えば、前記実施の形態では、筋電信号により動作制御を行う車椅子及び義手に関連して、制御システム及び制御方法を説明したが、車椅子や義手以外の筋電信号により動作制御を行う筋電信号被動義足、筋電信号被動FES制御などにおいても、同様の構成及び方法を用いて制御システム及び制御方法を構築することができる。
【0089】
また、筋電信号以外の生体信号、例えば脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から採取した信号を使用しても、上述の制御システムおよび制御方法を構築することができる。
【0090】
【発明の効果】
本発明により、生体信号被動機器使用者の変化に逐一対応することができる制御システムおよび制御方法が得られる。また、訓練中においても機器使用者に生体信号に対するフィードバックが発生する制御システムおよび制御方法が得られる。
【図面の簡単な説明】
【図1】本発明の好ましい実施の形態に係る個人適応型筋電信号被動車椅子制御システムの基本構成を示したブロック図である。
【図2】図1の制御システムの詳細な構成を示したブロック図である。
【図3】図1の制御システムにおいて増幅された筋電信号の例を示した図である。
【図4】図3に示された筋電信号にFFT処理を行って得られたスペクトル信号を示した図である。
【図5】図4に示されたスペクトル信号にスムージング処理を行った得られたスペクトル信号を示した図である。
【図6】図1の制御システムが組み込まれた車椅子の運動の種類の一例を示した図である。
【図7】本発明の好ましい実施の形態に係る個人適応型筋電信号被動義手制御システムの基本構成を示したブロック図である。
【図8】図7の制御システムの詳細な構成を示したブロック図である。
【図9】図7の制御システムにおいて増幅された筋電信号の例を示した図である。
【図10】図9に示された筋電信号にFFT処理を行って得られたスペクトル信号を示した図である。
【図11】図10に示されたスペクトル信号にスムージング処理を行った得られたスペクトル信号を示した図である。
【図12】図7の制御システムが組み込まれた義手の運動の種類の一例を示した図である。
Claims (8)
- 被動機器使用者の生体信号からの時系列信号データへの及び補間による
スムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより生体信号被動機器制御信号を生成して生体信号被動機器駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動機器制御システムにおいて、
前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、
被動機器使用者の意図したように被動機器が動作しない場合に、前記トレーナユニットにおいて、被動機器使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、
前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されている、
ことを特徴とするシステム。 - 前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とする請求項1に記載のシステム。
- 車椅子使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより車椅子制御信号を生成して車椅子駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動車椅子制御システムにおいて、
前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、
車椅子使用者の意図したように車椅子が動作しない場合に、前記トレーナユニットにおいて、車椅子使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、
前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されている、
ことを特徴とするシステム。 - 前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とする請求項3に記載のシステム。
- 義手使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより義手制御信号を生成して義手駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動義手制御システムにおいて、
前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、
義手使用者の意図したように義手が動作しない場合に、前記トレーナユニットにおいて、義手使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、
前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されている、
ことを特徴とするシステム。 - 前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とする請求項5に記載のシステム。
- 義足使用者の生体信号からの時系列信号データへの時間周波数変換、及び補間によるスムージング処理を行うことにより、特徴ベクトルを生成するアナリシスユニットと、前記アナリシスユニットから連続的に供給される前記特徴ベクトルにより義足制御信号を生成して義足駆動機構に出力するアダプテーションユニットとを備えた個人適応型生体信号被動義足制御システムにおいて、
前記アナリシスユニットから前記特徴ベクトルが連続的に供給されるトレーナユニットを更に備え、
義足使用者の意図したように義足が動作しない場合に、前記トレーナユニットにおいて、義足使用者から教示信号が供給されると、教示信号が供給された時点に供給された特徴ベクトルと、前記教示信号とによって、目的とする動作に関連する生体信号パターン空間を限定する教師データが生成されるとともに、前記教師データの集合である教師データセットが蓄積されるように構成されており、
前記アダプテーションユニットにおいて、前記教師データに従って前記制御信号が更新されるように構成されている、
ことを特徴とするシステム。 - 前記生体信号が、筋電信号、脳波、脈波、大脳及び脊髄における神経の活動電位、硬膜上皮から計測した信号のいずれかであることを特徴とする請求項7に記載のシステム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001056107A JP4687935B2 (ja) | 2000-03-13 | 2001-03-01 | 個人適応型生体信号被動機器制御システム |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000-73931 | 2000-03-13 | ||
JP2000073931 | 2000-03-13 | ||
JP2000073931 | 2000-03-13 | ||
JP2001056107A JP4687935B2 (ja) | 2000-03-13 | 2001-03-01 | 個人適応型生体信号被動機器制御システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001331250A JP2001331250A (ja) | 2001-11-30 |
JP4687935B2 true JP4687935B2 (ja) | 2011-05-25 |
Family
ID=26587674
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001056107A Expired - Fee Related JP4687935B2 (ja) | 2000-03-13 | 2001-03-01 | 個人適応型生体信号被動機器制御システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4687935B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021141127A1 (ja) | 2020-01-10 | 2021-07-15 | 国立大学法人電気通信大学 | 変換プログラムおよび変換装置 |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004180817A (ja) * | 2002-12-02 | 2004-07-02 | National Institute Of Advanced Industrial & Technology | 生体信号を利用した作業支援マニピュレータシステム |
JP2007143886A (ja) * | 2005-11-28 | 2007-06-14 | Hiroshima Univ | 電動車椅子システム |
JP2007195592A (ja) * | 2006-01-24 | 2007-08-09 | National Institute Of Advanced Industrial & Technology | 筋電インタフェースにおける安全システム |
DE602007011062D1 (de) * | 2006-06-02 | 2011-01-20 | Philips Intellectual Property | Biofeedback-system und anzeigevorrichtung |
JP5224227B2 (ja) * | 2006-07-16 | 2013-07-03 | 浩史 横井 | 全指可動型義手 |
EP2045690A1 (en) * | 2007-10-04 | 2009-04-08 | Koninklijke Philips Electronics N.V. | Improvements relating to brain computer interfaces |
CN102202569B (zh) * | 2008-10-29 | 2014-05-07 | 丰田自动车株式会社 | 移动体控制装置和移动体控制方法 |
JP5467267B2 (ja) * | 2010-03-05 | 2014-04-09 | 国立大学法人大阪大学 | 機器制御装置、機器システム、機器制御方法、機器制御プログラム、および記録媒体 |
CN113907714A (zh) | 2017-11-30 | 2022-01-11 | 梅尔廷Mmi株式会社 | 用于识别生物体信号所表示的信息的系统 |
CN107961120B (zh) * | 2017-12-08 | 2020-06-02 | 中国电子科技集团公司第二十七研究所 | 一种基于脑电控制的智能轮椅控制系统 |
CN109933270A (zh) * | 2019-04-15 | 2019-06-25 | 华南理工大学 | 一种基于手指开关的人机交互系统及其交互方法 |
-
2001
- 2001-03-01 JP JP2001056107A patent/JP4687935B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021141127A1 (ja) | 2020-01-10 | 2021-07-15 | 国立大学法人電気通信大学 | 変換プログラムおよび変換装置 |
EP4089507A4 (en) * | 2020-01-10 | 2024-02-07 | Univ Electro Communications | CONVERSION PROGRAM AND CONVERSION DEVICE |
Also Published As
Publication number | Publication date |
---|---|
JP2001331250A (ja) | 2001-11-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Bi et al. | A review on EMG-based motor intention prediction of continuous human upper limb motion for human-robot collaboration | |
Hahne et al. | Linear and nonlinear regression techniques for simultaneous and proportional myoelectric control | |
Ison et al. | High-density electromyography and motor skill learning for robust long-term control of a 7-DoF robot arm | |
Khezri et al. | Real-time intelligent pattern recognition algorithm for surface EMG signals | |
Young et al. | Classification of simultaneous movements using surface EMG pattern recognition | |
Gopura et al. | Recent trends in EMG-Based control methods for assistive robots | |
JP4687935B2 (ja) | 個人適応型生体信号被動機器制御システム | |
Yu et al. | Multi-DoF continuous estimation for wrist torques using stacked autoencoder | |
Das et al. | A review on the advancements in the field of upper limb prosthesis | |
JP2017202183A (ja) | 脳波パターン分類装置、脳波パターン分類方法、脳波パターン分類プログラムおよびニューロフィードバックシステム | |
Ison et al. | Simultaneous myoelectric control of a robot arm using muscle synergy-inspired inputs from high-density electrode grids | |
Farina et al. | Surface Electromyography for MAN‐Machine Interfacing in Rehabilitation Technologies | |
Khoshdel et al. | An optimized artificial neural network for human-force estimation: consequences for rehabilitation robotics | |
ur Rehman et al. | A novel approach for classification of hand movements using surface EMG signals | |
Amamcherla et al. | A machine learning system for classification of emg signals to assist exoskeleton performance | |
Wang et al. | Lower limb motion recognition based on surface electromyography signals and its experimental verification on a novel multi-posture lower limb rehabilitation robots☆ | |
JP4517537B2 (ja) | 個人適応型生体信号被動機器制御システム及びその制御方法 | |
Byfield et al. | Realtime classification of hand motions using electromyography collected from minimal electrodes for robotic control | |
Rahatabad et al. | A fuzzy-genetic model for estimating forces from electromyographical activity of antagonistic muscles due to planar lower arm movements: the effect of nonlinear muscle properties | |
Bhardwaj et al. | Electromyography in physical rehabilitation: a review | |
Gibson et al. | Neural closed-loop control of a hand prosthesis using cross-modal haptic feedback | |
Yu et al. | Continuous estimation of wrist torques with stack-autoencoder based deep neural network: A preliminary study | |
Dasanayake et al. | Estimation of prosthetic arm motions using stump arm kinematics | |
Antuvan et al. | Muscle synergies for reliable classification of arm motions using myoelectric interface | |
Yu et al. | Generating human-like velocity-adapted jumping gait from sEMG signals for bionic leg’s control |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20010309 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080229 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20090519 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20090519 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091217 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100128 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100329 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110113 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110202 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4687935 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140225 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140225 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |