JP6850026B2 - 運動教示システム及び運動教示方法 - Google Patents

運動教示システム及び運動教示方法 Download PDF

Info

Publication number
JP6850026B2
JP6850026B2 JP2018521765A JP2018521765A JP6850026B2 JP 6850026 B2 JP6850026 B2 JP 6850026B2 JP 2018521765 A JP2018521765 A JP 2018521765A JP 2018521765 A JP2018521765 A JP 2018521765A JP 6850026 B2 JP6850026 B2 JP 6850026B2
Authority
JP
Japan
Prior art keywords
subject
teaching
brain activity
exercise
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018521765A
Other languages
English (en)
Other versions
JPWO2017213202A1 (ja
Inventor
飛鳥 高井
飛鳥 高井
智之 野田
智之 野田
リシ ジュゼッペ
リシ ジュゼッペ
達也 寺前
達也 寺前
森本 淳
淳 森本
寛 今水
寛 今水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ATR Advanced Telecommunications Research Institute International
Original Assignee
ATR Advanced Telecommunications Research Institute International
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ATR Advanced Telecommunications Research Institute International filed Critical ATR Advanced Telecommunications Research Institute International
Publication of JPWO2017213202A1 publication Critical patent/JPWO2017213202A1/ja
Application granted granted Critical
Publication of JP6850026B2 publication Critical patent/JP6850026B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H1/00Apparatus for passive exercising; Vibrating apparatus; Chiropractic devices, e.g. body impacting devices, external devices for briefly extending or aligning unbroken bones
    • A61H1/02Stretching or bending or torsioning apparatus for exercising
    • A61H1/0274Stretching or bending or torsioning apparatus for exercising for the upper limbs
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/30ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to physical therapies or activities, e.g. physiotherapy, acupressure or exercising
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H1/00Apparatus for passive exercising; Vibrating apparatus; Chiropractic devices, e.g. body impacting devices, external devices for briefly extending or aligning unbroken bones
    • A61H1/02Stretching or bending or torsioning apparatus for exercising
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H1/00Apparatus for passive exercising; Vibrating apparatus; Chiropractic devices, e.g. body impacting devices, external devices for briefly extending or aligning unbroken bones
    • A61H1/02Stretching or bending or torsioning apparatus for exercising
    • A61H1/0237Stretching or bending or torsioning apparatus for exercising for the lower limbs
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B23/00Exercising apparatus specially adapted for particular parts of the body
    • A63B23/035Exercising apparatus specially adapted for particular parts of the body for limbs, i.e. upper or lower limbs, e.g. simultaneously
    • A63B23/04Exercising apparatus specially adapted for particular parts of the body for limbs, i.e. upper or lower limbs, e.g. simultaneously for lower limbs
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B23/00Exercising apparatus specially adapted for particular parts of the body
    • A63B23/035Exercising apparatus specially adapted for particular parts of the body for limbs, i.e. upper or lower limbs, e.g. simultaneously
    • A63B23/12Exercising apparatus specially adapted for particular parts of the body for limbs, i.e. upper or lower limbs, e.g. simultaneously for upper limbs or related muscles, e.g. chest, upper back or shoulder muscles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00Manipulators not otherwise provided for
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/08Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/0006Exoskeletons, i.e. resembling a human figure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/16Physical interface with patient
    • A61H2201/1657Movement of interface, i.e. force application means
    • A61H2201/1659Free spatial automatic movement of interface within a working area, e.g. Robot
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2230/00Measuring physical parameters of the user
    • A61H2230/08Other bio-electrical signals
    • A61H2230/10Electroencephalographic signals
    • A61H2230/105Electroencephalographic signals used as a control parameter for the apparatus

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Orthopedic Medicine & Surgery (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Epidemiology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Human Computer Interaction (AREA)
  • Rehabilitation Therapy (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pain & Pain Management (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Dermatology (AREA)
  • Neurology (AREA)
  • Neurosurgery (AREA)
  • Medical Informatics (AREA)
  • Primary Health Care (AREA)
  • Biophysics (AREA)
  • Rehabilitation Tools (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、使用者(ユーザ)の脳活動信号から脳活動の状態を分類し、分類結果に応じた運動学習を提供するための運動教示システム及び運動教示方法に関する。
人から人へ新しい運動を教えたり、より安全で格好のよい運動を教えたりするにあたっては、例えば、ある人は自分の動きを相手に見せ、またある人は相手の手足を動かして教えるというようなコミュニケーション方法がとられることが多い。更に、人から人に教えるだけでなく、近年では、ロボットアームなどの駆動系により人の手足などを受動的に運動させることで、人に運動を教える方法が検討されている。
例えば、特許文献1には、患者の上肢の運動機能を回復させる訓練を行うための上肢リハビリ装置であって、患者の手首の3自由度のうち、少なくとも1自由度の作動に対して駆動を伝達して患者に力学的感覚を伝える少なくとも1個の駆動手段と、駆動手段の駆動を調整する少なくとも1個の機能性流体クラッチと、を有するものが開示されている。
また、特許文献2には、脳波や筋電などの生体信号からリアルタイムで患者の運動を推定し、これに基づいて、患者のリハビリテーションを実行する装置が開示されている。
一方で、近年では、上述した特許文献に開示されるような単純なロボットアームだけでなく、上肢・下肢・体幹運動の支援をめざした外骨格型ロボットのようなリハビリテーションを支援するロボットの開発が進んでいる。たとえば、外骨格型ロボットは、患者の自立生活を促進するリハビリテーションにおいて、脳卒中等の患者のために使用される(特許文献3を参照)。
特許文献3では、制御部が、被験者から計測された信号に基づき、ユーザの脳活動をデコードし、デコードされた脳活動に応じて、能動関節による重力補償の程度を切り替えるようにエアマッスルへの駆動力及び電動モータへの駆動力を生成するために、エアマッスルに加える圧力及び電動モータの生成するトルクを制御する構成が開示されている。
より一般に、運動を習得させる方法として、スポーツの指導者及びリハビリのセラピストの代わりに、学習者の四肢を受動的にロボットによって動かすような学習は、固有受容性トレーニング(Proprioceptive training)と呼ばれる。
固有受容性トレーニングでは、学習者が自身の体の一部、例えば、手、足等の動きを想像し、ロボットの動きからの固有受容性の求心性入力の形式で感覚運動の律動のフィードバックが与えられる。ここで、「固有受容性」とは、体の位置及び運動の情報を伝える感覚受容器に働きかけることをいい、「求心性」とは、末梢からの刺激及び興奮を中枢へ伝達することをいう。したがって、例えば、脳卒中患者を対象とする場合、トレーニング中に徐々に患者が運動想像を学習し、かつ同時に、神経細胞の可塑性を引き起こして、運動制御の復元に結びつけることも可能となる。
固有受容性トレーニングに使用されるロボットは、予め決められた目標運動に沿って位置制御することができ、特に新しい運動を教えるのに適していると考えられる。例えば、視覚とロボットによる力覚との両方を学習者へフィードバックした方法で、2次元の運動における学習効果の報告がある(非特許文献1)。非特許文献1では、被験者が受動的に目標運動を経験することで、視覚的に運動を見るだけに比べて、目標動作に対する位置誤差が減少したことから、固有受容性トレーニングは運動学習の有効な方法であると報告している。
特開2006−247280号公報 特開2016−54994号公報 特開2014−104549号公報
Wong, Jeremy D., et al. "Can proprioceptive training improve motor learning?" Journal of neurophysiology 108.12 (2012): 3313-3321.
しかしながら、従来は、受動的に運動を教示する際に、被験者の脳活動がどのような状態であるかについては、何ら考慮がされていない。特に、効率的に運動パターンを学習するためには、運動教示中に対象者の脳がどのような状態になっていればよいかという点に関して何ら検討がされていなかった。この点、例えば、記憶に関わる研究成果として、景色の記憶を司る海馬の活動が高い時に被験者に見せた景色に関する質問の正答率は、活動が低い時に比べて高かったとの報告がある。そこで、運動タスクに適した状態にあらかじめ脳に準備をさせてからその運動タスクの教示を行うことができれば、学習効果を向上させられることが期待される。ただし、一連の運動タスクを実際に教示するには、教示動作として実施する時間が必要であり、その教示期間において脳活動の適切な状態を維持させることができるかについては何ら検討されていなかった。
本発明は、一側面では、このような点を考慮してなされたものであり、その目的は、対象者の脳活動を運動パターンの習得に望ましい状態にさせた上で、当該対象者に運動のトレーニングを実施させることを可能にする運動教示システム及び運動教示方法を提供することである。
本発明の一側面に係る運動教示システムは、対象者の脳の活動を検知して、前記対象者の運動の訓練を支援する運動教示システムであって、前記対象者に対して、前記対象者の身体の可動部位の動きを案内して、所定の運動パターンに従う運動の教示を実行するように構成された操作装置と、前記対象者の脳活動を計測することで、脳活動信号を取得するように構成された計測装置と、前記操作装置による前記運動パターンの教示の動作を制御し、かつ前記脳活動信号をデコードすることで、運動想像のクラスを含む複数のクラスのいずれかに前記対象者の脳活動を分類するように構成された1又は複数のコンピュータと、を備え、前記1又は複数のコンピュータは、前記運動パターンの教示の動作を前記操作装置に実行させている期間中に前記計測装置により取得された前記脳活動信号をデコードした結果、前記運動パターンの教示期間中における前記対象者の脳活動が前記運動想像のクラスに分類されるか否かを出力する。なお、運動想像は、「運動想起」と称してもよい。
上記一側面に係る運動教示システムにおいて、前記1又は複数のコンピュータは、前記運動パターンの教示期間中における前記対象者の脳活動が前記運動想像のクラスに分類されるように、前記運動パターンの教示の前において前記対象者に対して想起させる想起内容を出力してもよい。
上記一側面に係る運動教示システムにおいて、前記1又は複数のコンピュータは、前記運動パターンの教示の前において、前記想起内容を想起するように前記対象者に指示してもよく、前記運動パターンの教示の前に取得された前記脳活動信号をデコードした結果、前記対象者の脳活動が前記想起内容に対応するクラスに分類されたことに応じて、前記運動パターンを教示する動作の開始を前記操作装置に対して指示してもよい。
上記一側面に係る運動教示システムにおいて、前記1又は複数のコンピュータは、前記運動パターンの教示の前においては、前記対象者の脳活動を分類した結果をフィードバックしてもよく、前記運動パターンの教示の期間中においては、前記対象者の脳活動を分類した結果をフィードバックしなくてもよい。
上記一側面に係る運動教示システムにおいて、前記1又は複数のコンピュータは、前記想起内容の想起を前記対象者に指示した後、前記計測装置により取得される前記脳活動信号をデコードした結果、前記対象者の脳活動が前記想起内容に対応するクラスに分類されたことに応じて、前記運動パターンの教示の動作を前記操作装置に実行させてもよく、前記運動パターンの教示期間中において、前記計測装置により取得された前記脳活動信号をデコードした結果、前記対象者の脳活動が前記運動想像のクラス以外のクラスに分類された場合、前記対象者に指示する想起内容を変更してもよく、変更した前記想起内容の想起を前記対象者に指示してもよく、変更した前記想起内容の想起の指示の後、前記計測装置により取得される前記脳活動信号をデコードした結果、前記対象者の脳活動が変更した前記想起内容に対応するクラスに分類されたことに応じて、前記運動パターンの教示の動作を前記操作装置に再度実行させてもよい。
上記一側面に係る運動教示システムにおいて、前記想起内容は、安静状態または運動想像状態のいずれかであってもよい。
上記一側面に係る運動教示システムにおいて、前記操作装置は、ロボットアームによる力覚提示装置であってもよい。
上記一側面に係る運動教示システムにおいて、前記操作装置は、外骨格型ロボットであってもよい。
上記一側面に係る運動教示システムにおいて、前記計測装置は、ドライ式電極を用いたワイヤレス型ヘッドセットを含んでもよい。
また、本発明の一側面に係る運動教示方法は、対象者に対して、前記対象者の身体の可動部位の動きを案内して、所定の運動パターンに従う運動の教示を実行するように構成された操作装置と、前記対象者の脳活動を計測することで、脳活動信号を取得するように構成された計測装置と、1又は複数の演算装置とを備えるシステムにより、対象者の脳の活動を検知して、前記対象者の運動の訓練を支援する運動教示方法であって、前記1又は複数の演算装置が、前記運動パターンの教示期間中における前記対象者の脳活動が運動想像のクラスに分類されるように、前記運動パターンの教示の前において前記対象者に対して所定の想起内容を想起するように指示するステップと、前記1又は複数の演算装置が、前記計測装置により取得される前記脳活動信号をデコードすることで、運動想像のクラスを含む複数のクラスのいずれかに前記対象者の脳活動を分類するステップと、前記1又は複数の演算装置が、前記運動パターンの教示の前に取得された前記脳活動信号をデコードした結果、前記対象者の脳活動が前記想起内容に対応するクラスに分類されたことに応じて、前記運動パターンを教示する動作を前記操作装置に対して実行させるステップと、を備える。
また、本発明の一側面に係るコンピュータは、1又は複数の演算装置と、前記1又は複数の演算装置で実行するプログラムを保持する記憶装置と、を備えるコンピュータであって、前記1又は複数の演算装置が、複数の対象者それぞれについて、当該各対象者の脳活動をデコードするのに利用する空間フィルタと、当該各対象者の身体の可動部位の動きを案内して、所定の運動パターンに従う運動の教示を実行するように構成された操作装置により当該運動パターンの教示を行った後に、当該運動パターンの運動再現を行った結果に基づいて算出される当該運動パターンの再現度と、を取得するステップと、前記各対象者の前記空間フィルタをクラスタリングすることにより、前記各対象者の前記空間フィルタを複数のグループに分類するステップと、前記各対象者の前記運動パターンの再現度に基づいて、前記運動パターンの習得度合いの最も高い対象者の空間フィルタが属する最適グループを前記複数のグループから特定するステップと、を実行する。
また、本発明の一側面に係る運動教示システムは、対象者の脳の活動を検知して、前記対象者の運動の訓練を支援する運動教示システムであって、前記対象者に対して、前記対象者の身体の可動部位の動きを案内して、所定の運動パターンに従う運動の教示を実行するように構成された操作装置と、前記対象者の脳活動を計測することで、脳活動信号を取得するように構成された計測装置と、前記操作装置による前記運動パターンの教示の動作を制御し、かつ前記脳活動信号をデコードすることで、運動想像のクラスを含む複数のクラスのいずれかに前記対象者の脳活動を分類するように構成された1又は複数のコンピュータと、を備え、前記1又は複数のコンピュータが、前記操作装置による前記運動パターンの教示の前に、前記対象者について、前記運動想像を行っているときの脳活動信号とそれ以外の想像を行っているときの脳活動信号との組をトレーニングデータセットとして取得する第1ステップと、前記トレーニングデータセットに基づいて、前記対象者の脳活動をデコードするのに利用する空間フィルタを作成する第2ステップと、作成された前記空間フィルタが、上記コンピュータにより特定された前記最適グループに属するか否かを判定する第3ステップと、作成された前記空間フィルタが前記最適グループに属する場合に、前記操作装置による前記運動パターンの教示を開始する第4ステップと、を実行する。
上記一側面に係る運動教示システムにおいて、前記1又は複数のコンピュータは、作成された前記空間フィルタが前記最適グループに属さない場合に、前記第1ステップ、前記第2ステップ、及び前記第3ステップを再度実行してもよい。
上記一側面に係る運動教示システムにおいて、前記最適グループには、前記運動パターンの教示期間中に推奨する脳活動が分類される推奨クラスが紐付けられていてもよく、前記1又は複数のコンピュータは、前記運動パターンの教示期間中における前記対象者の脳活動が、前記最適グループに紐付けられた前記推奨クラスに分類されるように、前記運動パターンの教示の前において前記対象者に対して想起させる想起内容を出力してもよい。
また、本発明の一側面に係る運動教示システムは、対象者の脳の活動を検知して、前記対象者の運動の訓練を支援する運動教示システムであって、前記対象者に対して、前記対象者の身体の可動部位の動きを案内して、所定の運動パターンに従う運動の教示を実行するように構成された操作装置と、前記対象者の脳活動を計測することで、脳活動信号を取得するように構成された計測装置と、前記操作装置による前記運動パターンの教示の動作を制御し、かつ前記脳活動信号をデコードすることで、運動想像のクラスを含む複数のクラスのいずれかに前記対象者の脳活動を分類するように構成された1又は複数のコンピュータと、を備え、前記1又は複数のコンピュータが、前記操作装置による前記運動パターンの教示の前に、前記対象者について、前記運動想像を行っているときの脳活動信号とそれ以外の想像を行っているときの脳活動信号との組をトレーニングデータセットとして取得するステップと、前記トレーニングデータセットに基づいて、前記対象者の脳活動をデコードするための複数の空間フィルタを作成するステップと、作成された前記複数の空間フィルタのうち、上記コンピュータにより特定された前記最適グループに属する空間フィルタを選択するステップと、選択した前記空間フィルタを利用して前記対象者の脳活動をデコードするのに利用するデコーダを作成するステップと、作成した前記デコードの出力が閾値よりも大きくなるまで、前記運動想像を行うように前記対象者に対して指示するステップと、を実行する。
本発明によれば、脳活動を運動パターンの習得に望ましい状態にした上で、対象者に運動のトレーニングを実施させることができる。
図1は、本実施形態に係る運動教示システムの構成を模式的に例示する。 図2は、本実施形態に係るコンピュータのハードウェア構成を模式的に例示する。 図3は、力覚提示デバイス(操作装置)による被験者への受動的な運動の教示の状態を説明するための図である。 図4は、本実施形態に係るコンピュータの機能構成を模式的に例示する。 図5は、本実施形態に係る運動教示システムの処理手順の一例を示す。 図6は、対象となる運動パターンの習得に最適な空間フィルタのグループを特定するための処理手順の一例を示す。 図7は、被験者の脳活動のタイプを考慮した場合における運動教示システムの処理手順の一例を示す。 図8は、実証実験の手順を示す。 筋感覚的運動想像(KMI;kinesthetic motor imagery)に対応する空間フィルタにより運動想像の脳活動を観測した際のパワー変化の様子を示す。 視覚的運動想像(VMI;visual motor imagery)に対応する空間フィルタにより運動想像の脳活動を観測した際のパワー変化の様子を示す。 図10は、ある被験者の第1実験条件及び第2実験条件での識別器の出力を示す。 図11は、目標軌道と被験者の再現した軌道との誤差を説明するための概念図である。 図12は、運動教示の前後において被験者に指示する想起内容を説明するための概念図である。 図13Aは、運動教示中の脳活動が安静状態(安静のクラス)であったグループの代表的な被験者の当該運動教示中におけるデコーダの出力を示す。 図13Bは、運動教示中の脳活動が運動想像状態(運動想像のクラス)であったグループの代表的な被験者の当該運動教示中におけるデコーダの出力を示す。 図14は、安静状態のグループ(Low group:9名)及び運動想像状態のグループ(High group:11名)それぞれに属する被験者から運動教示中に得られるデコーダの出力を示す。 図15Aは、運動想像として筋感覚的運動想像を行う被験者の運動教示中の脳活動の状態と運動再現の平均位置誤差(再現度)との関係を示す。 図15Bは、運動想像として視覚的運動想像を行う被験者の運動教示中の脳活動の状態と運動再現の平均位置誤差(再現度)との関係を示す。 図16は、教示前の脳活動の状態と教示中の脳活動の状態との関係を示す。 図17Aは、特徴選択アルゴリズムにより空間フィルタの選択が行われた15名の被験者の運動教示前の脳活動の状態と運動再現の平均位置誤差(再現度)との関係を示す。 図17Bは、特徴選択アルゴリズムにより空間フィルタの選択が行われた15名の被験者の運動教示中の脳活動の状態と運動再現の平均位置誤差(再現度)との関係を示す。 図18は、15名の被験者の空間フィルタをクラスタリングした結果を示す。
以下、本発明の実施の形態の運動教示システム、脳活動のパターンを分類する分類装置、運動教示の動作を制御する動作制御装置、及び最適な脳活動のグループを解析する解析装置それぞれの構成について、図に従って説明する。なお、以下の実施の形態において、同じ符号を付した構成要素及び処理工程は、同一又は相当するものであり、必要でない場合は、その説明は繰り返さない。
また、運動教示システムにおいて、学習者の可動部位(例えば、上肢、下肢)を受動的に駆動して、運動を学習させるためのロボットとして、ロボットアームを使用した力覚提示デバイスを例として説明する。力覚提示デバイスにより被験者は、例えば、上肢又は下肢について、上肢の少なくとも一方、又は下肢の少なくとも一方の運動を、所定の運動パターンとなるように、受動的に訓練するものとする。この所定の運動パターンは、2次元的なものでも、3次元的なものでもよい。
ただし、運動を学習させるためのロボットとしては、上述した特許文献3に記載されるような外骨格型ロボットを使用してもよい。また、このような外骨格型ロボットの関節を駆動するためのアクチュエータとしては、電動モータの他、一例として、特許文献3に開示されたような「空電ハイブリッド式のアクチュエータ」を用いてもよい。
<1.運動教示システムの構成例>
まず、図1を用いて、本実施形態に係る運動教示システム1000の構成例について説明する。図1は、本実施形態に係る運動教示システム1000の構成を模式的に例示する。運動教示システム1000は、被験者2の脳活動を検知して、当該被験者2の運動の訓練を支援する。この被験者2は、本発明の「対象者」に相当する。
図1に示すように、本実施の形態にかかる運動教示システム1000は、被験者2に装着される脳波センサ10と、脳波センサ10からの信号を取得するための信号取得モジュール12と、運動教示用ロボットである力覚提示デバイス80と、力覚提示デバイス80の動作を制御する制御モジュール50と、各種情報の表示を行うプロジェクタ70と、各装置の動作を制御するコンピュータ20と、を備えている。
脳波センサ10は、本発明の「計測装置」に相当し、被験者2の脳活動を計測することで、脳活動信号(脳波信号)を取得するように構成される。この脳波センサ10の種類は、実施の形態に応じて適宜選択されてよい。例えば、脳波センサ10として、湿式(ゲル式)の電極を使用する脳波計が利用されてもよい。また、脳波センサ10として、乾式(ドライ式)でワイヤレスの脳波計が利用されてもよい。本実施形態では、当該乾式(ドライ式)でワイヤレスの脳波計を使用するものとして説明する。
このようなドライ式ワイヤレス型の脳波計は、例えば、公知文献1(P. M. R. Reis, F. Hebenstreit, F. Gabsteiger, V. von Tscharner, and M. Lochmann, ”Methodological aspects of EEG and body dynamics measurements during motion.” Frontiers in human neuroscience, vol. 8, p. 156, Mar 2014.)に開示されている。なお、以下の実施形態では、被験者2から脳活動の情報を取得する計測方法の一例として、いわゆる脳波計を利用する方法を説明する。しかしながら、本発明は、このような計測方法に限定されるものではなく、他の脳活動の計測方法、例えば、fMRI(functional magnetic resonance imaging)、NIRS(Near-InfraRed Spectroscopy)等の他の計測方法又は他の計測方法の組合せを使用してもよい。
信号取得モジュール12は、例えば、公知の電源、アンプ、A/D変換回路等により、各種の脳波センサ10から被験者2の脳活動を示す脳活動信号を取得するように適宜構成される。信号取得モジュール12は、取得した脳活動信号をコンピュータ20に送信する。
力覚提示デバイス80は、本発明の「操作装置」に相当し、被験者2の身体の可動部位の動きを案内して、所定の運動パターンに従う運動の教示を実行するように構成される。本実施形態では、力覚提示デバイス80は、複数の関節、各関節を連結するアーム、及び被験者2が把持する操作部82を備えるロボットアームとして構成される。操作部82は、例えば、ハンドルであり、被験者2に力覚をフィードバックしたり、学習させた運動パターンの再現を行う際に被験者2に操作させたりするのに利用される。
ロボットアームを駆動するモータは、例えばサーボモータを用いて構成されており、操作部82にトルクを付与する。また、図示しないセンサにより、操作部82の現在位置が検出され、検出された現在位置が現地位置情報として制御モジュール50にフィードバックされる。更に、ロボットアームは、例えば、2つのアームで構成され、第1のアームは、力覚提示デバイス80の筐体に対して回転可能に取り付けられ、第2のアームは、関節を介して回転可能に連結されている。他のアームの先端には操作部82が回転可能に取り付けられている。
このような構成により、操作部82は、被験者2の上肢運動によって2次元平面上を変位可能に構成される。ただし、被験者2から操作部82が直接見えないように、操作部82のやや上方には、平板状のスクリーン84が遮蔽材として配置されている。
制御モジュール50は、例えば、マイクロコンピュータ、モータドライバ等により、コンピュータ20からのコマンドに従って、力覚提示デバイス80の動作を制御するように構成される。力覚提示デバイス80は、制御モジュール50からの制御信号に応じて、指示された運動パターンの軌跡上を運動すると共に、被験者2に対して力覚をフィードバックする。また、制御モジュール50は、力覚提示デバイス80からの信号に基づいて、被験者2が把持する操作部82の現在位置をモニタする。なお、制御モジュール50は、操作部82に作用した力を測定可能に構成されてもよい。この場合、制御モジュール50は、操作部82に一定以上の力が作用した場合に、運動の教示を停止するように力覚提示デバイス80を制御することができる。これにより、運動教示中の安全性を確保することができる。
プロジェクタ70は、スクリーン84に各種情報を表示するように配置される。後述するとおり、プロジェクタ70は、コンピュータ20により制御され、被験者2に想起を指示する想起内容を示す情報、脳活動の分類結果を示す情報等をスクリーン84に映し出して、各種情報を被験者2に伝達する。
<2.コンピュータの構成>
次に、図2を用いて、本実施形態に係るコンピュータ20のハードウェア構成の一例について説明する。図2は、本実施形態に係るコンピュータ20のハードウェア構成の一例を模式的に例示する。
図2に示されるとおり、本実施形態に係るコンピュータ20は、演算装置210、記憶装置212、外部インタフェース202、入力装置214、出力装置216、及びドライブ218が電気的に接続された情報処理装置である。これらにより、コンピュータ20は、信号取得モジュール12からの脳活動信号を受信し、制御モジュール50にコマンドを送付し、かつプロジェクタ70による表示内容を制御するように構成される。なお、図2では、外部インタフェースを「外部I/F」と記載している。
演算装置210は、ハードウェアプロセッサであるCPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等を含み、情報処理に応じて各構成要素の制御を行う。記憶装置212は、例えば、ハードディスクドライブ、ソリッドステートドライブ等の補助記憶装置であり、演算装置210で実行されるプログラム90、及び脳活動信号のデータ、プロジェクタ70の表示内容、後述する脳活動の遷移パターン等の各種情報を記憶する。
プログラム90は、被験者2の脳活動のクラスを解析しながら、被験者2に所定の運動パターンの運動を教示するための情報処理をコンピュータ20に実行させるためのプログラムである。詳細は後述する。
外部インタフェース202は、接続される外部装置に応じて適宜選択される。本実施形態では、コンピュータ20は、この外部インタフェース202を介して、信号取得モジュール12(脳波センサ10)、制御モジュール50(力覚提示デバイス80)、及びプロジェクタ70と接続される。
入力装置214は、例えば、マウス、キーボード等の入力を行うための装置である。また、出力装置216は、例えば、ディスプレイ、スピーカ等の出力を行うための装置である。オペレータは、入力装置214及び出力装置216を介して、コンピュータ20を操作することができる。
ドライブ218は、例えば、CDドライブ、DVDドライブ等であり、記憶媒体91に記憶されたプログラムを読み込むためのドライブ装置である。ドライブ218の種類は、記憶媒体91の種類に応じて適宜選択されてよい。上記プログラム90及び各種情報は、この記憶媒体91に記憶されていてもよい。
記憶媒体91は、コンピュータその他装置、機械等が記録されたプログラム等の情報を読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的又は化学的作用によって蓄積する媒体である。コンピュータ20は、この記憶媒体91から、上記プログラム90及び各種情報を取得してもよい。
図2では、記憶媒体91の一例として、CD、DVD等のディスク型の記憶媒体を例示している。しかしながら、記憶媒体91の種類は、ディスク型に限定される訳ではなく、ディスク型以外であってもよい。ディスク型以外の記憶媒体として、例えば、フラッシュメモリ等の半導体メモリを挙げることができる。
なお、コンピュータ20の具体的なハードウェア構成に関して、実施の形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。例えば、コンピュータ20は、複数の演算装置210を備えてもよい。また、演算装置210は、複数のプロセッサを含んでもよい。また、図2では、コンピュータ20は、1台のコンピュータとして表現されている。しかしながら、コンピュータ20は、このような例に限定されなくてもよく、複数台のコンピュータで構成されてもよい。このとき、各コンピュータは、複数の演算装置を備えてもよい。また、コンピュータ20は、提供されるサービス専用に設計された情報処理装置の他、汎用のPC(Personal Computer)、サーバ装置等であってもよい。更に、上記プログラム90及び各種情報は、ネットワーク上のNAS(Network Attached Storage)等の記憶装置に記憶されていてもよく、コンピュータ20は、ネットワークを介して、上記プログラム90及び各種情報を取得してもよい。また、コンピュータ20は、信号取得モジュール12(脳波センサ10)、制御モジュール50(力覚提示デバイス80)、及びプロジェクタ70とネットワークを介して接続されてもよい。
<3.運動の教示>
次に、図3を用いて、被験者2に運動を教示する方法を説明する。図3は、力覚提示デバイス80により被験者2へ受動的な運動の教示を行う場面を例示する。
図3の例では、上肢の運動学習の状態を示す。被験者2は、スクリーン84の下側で、操作部82を手で握っているが、図3に示すように、スクリーン84によって、その操作部82の位置(すなわち、自身の手の位置)を直接は視認することができないようになっている。
運動の教示前には、プロジェクタ70により、学習対象となる運動パターンの軌跡86とその開始位置861(丸印)と注視点862(+印)とがスクリーン84に投影される。また、操作部82の位置(すなわち、自身の手の位置)を示す点863も投影され、これによって、被験者2は、自身の手の位置を開始位置861に誘導することができようになっている。
運動の教示中には、軌跡86及び開始位置861は消え、運動パターンの軌跡86を描くように力覚提示デバイス80の操作部82が駆動される。これにより、被験者2は、視覚によらず、力覚のみを頼りにして、受動的に自身の手の運動を学習する。
ここで、後に説明する実験結果により、以下の知見が得られている。
(1)力覚提示デバイス80による被験者2への受動的な運動の教示の期間中において、被験者2の脳活動が運動想像状態(運動想像のクラス)であると、運動の習得度合いが有意に向上する。
(2)運動の教示の期間中に被験者2の脳活動が運動想像の状態(運動想像のクラス)になるか否かは、運動の教示の期間の前段階で被験者2の脳活動がどの状態(クラス)となっていたかによって、被験者2毎に個別に依存している。
たとえば、運動の教示期間の前段階で脳活動が「運動想像状態」であると、運動の教示期間中に「運動想像状態」となる被験者もいれば、運動の教示期間の前段階で脳活動が「安静状態」であると、運動の教示期間中に「運動想像状態」となる被験者もいる。そこで、このような運動の教示期間の前段階での脳活動の状態と、運動教示期間中の脳活動の状態との関係を、被験者の「遷移パターン」と呼ぶことにする。後述する実証実験の知見によれば、以下の4つの遷移パターンが存在することが分かっている(後述する図16を参照)。
(A)運動教示前に脳活動が「運動想像状態」であると、運動教示期間中の脳活動が「運動想像状態」となる。一方、運動教示前に脳活動が「安静状態」であると、運動教示期間中の脳活動が「安静状態」となる。
(B)運動教示前に脳活動が「運動想像状態」であると、運動教示期間中の脳活動が「安静状態」となる。一方、運動教示前に脳活動が「安静状態」であると、運動教示期間中の脳活動が「運動想像状態」となる。
(C)運動教示前に脳活動がいずれのクラスであっても、運動教示期間中の脳活動が「運動想像状態」となる。
(D)運動教示前に脳活動がいずれのクラスであっても、運動教示期間中の脳活動が「安静状態」となる。
そこで、本実施形態に係る運動教示システム1000は、上記のいずれの遷移パターンで被験者2の脳活動が遷移するかを特定し、特定した遷移パターンに基づいて、運動の教示期間の前段階で、被験者2の脳活動をいずれのクラスに誘導するかを決定する。これにより、本実施形態に係る運動教示システム1000は、運動の教示期間中において、被験者2の脳活動が運動想像状態となるように誘導した上で、受動的に自身の手の運動を被験者2に学習させることで、被験者2が運動パターンを効率的に習得できるようにする。
<4.コンピュータの機能構成>
次に、図4を用いて、被験者2の脳活動のクラスを分類するためのコンピュータ20の機能構成について説明する。図4は、被験者2の脳活動のクラスを分類するためのコンピュータ20の機能構成の一例を模式的に例示する。
コンピュータ20の演算装置210は、記憶装置212に記憶されたプログラム90をRAMに展開する。そして、演算装置210は、RAMに展開されたプログラム90をCPUにより解釈及び実行して、各構成要素を制御する。これにより、図4に示されるとおり、本実施形態に係るコンピュータ20は、データ収集部60、脳活動分析部40、訓練制御部30、及び出力制御部65を備える情報処理装置として機能する。
データ収集部60は、運動の教示前に、被験者2の運動想像を行っているときの脳活動信号とそれ以外(本実施形態では、安静状態)の想像を行っているときの脳活動信号との組をトレーニングデータセットとして取得する。トレーニングデータセットは、信号取得モジュール12及び外部インタフェース202を介して、被験者2が装着している脳波センサ10から取得される。取得されたトレーニングデータセットは、利用されるまでの間、記憶装置212に格納されていてもよい。
脳活動分析部40は、脳波センサ10から取得された脳活動信号(脳波信号)をデコードすることで、運動想像のクラスを含む複数のクラスのいずれかに被験者2の脳活動を分類する。このようなデコーディング処理を実行するため、本実施形態に係る脳活動分析部40は、フィルタ処理部402と、デコーダ404と、判定部412と、学習処理部420と、を備えている。
本実施形態では、脳波センサ10として、ドライ式ワイヤレス型・ヘッドセットを利用するため、脳活動信号は、脳波(EEG:Electroencephalogram)信号として取得される。このEEG信号は、複数個のチャネル(例えば、International 10-20system に準じて、F7、Fp1、Fp2、F8、F3、Fz、F4、C3、Cz、P8、P7、Pz、P4、T3、P3、O1、O2、C4、T4)並びに参照信号及び接地電位とよって収集される。
フィルタ処理部402は、取得されたEEG信号にバンドパスフィルタを適用することで、所定の周波数成分(本実施形態では、7〜30Hz)を抽出する。デコーダ404は、EEG信号の抽出された所定の周波数成分をデコードするため、特徴量抽出部406と識別処理部410とを備えている。特徴量抽出部406は、空間フィルタを利用して、EEG信号の所定の周波数成分から特徴量を抽出する。識別処理部410は、特徴量を識別器に入力することで、脳活動のクラスを識別可能な出力値を当該識別器から取得する。判定部412は、この出力値を所定の閾値と比較することにより、現在の脳活動のクラスを判別する。
学習処理部420は、データ収集部60により収集したトレーニングデータセットを利用して、デコーダ404で利用される空間フィルタ及び識別器を機械学習により生成する。本実施形態では、空間フィルタ及び識別器の生成には、後述するCSPアルゴリズム及び特徴選択アルゴリズムが利用される。これにより、デコーダ404は、運動想像のクラス及び安静のクラスの2つのクラスのうち被験者2の脳活動がいずれのクラスに分類されるかを判定可能な出力値を出力可能に構成される。詳細は後述する。
訓練制御部30は、力覚提示デバイス80による運動パターンの教示の動作を制御するためのコマンドを出力する。上記のとおり、本実施形態では、運動の教示前に、運動想像及び安静のいずれかのクラスに分類されるように被験者2の脳活動を誘導する。そのため、デコーダ404の出力値を閾値判定した結果、被験者2の脳活動が対象のクラスに分類されると判定される場合に、判定部412は、運動の教示を開始するためのトリガ信号を訓練制御部30に出力する。訓練制御部30は、このトリガ信号により、力覚提示デバイス80に対して、運動パターンを教示する動作の開始を指示する。
<5.デコーダの作成方法>
次に、脳活動の状態を分類可能なデコーダ、具体的には、上記デコーダ404が利用する空間フィルタ及び識別器の作成方法を説明する。例えば、以下の公知文献2および公知文献3には、適応的な線形判別分析(LDA)を用いた分類器と適応的な空間フィルタとを組み合わせた技術が開示されている。
・公知文献2:W. Wojcikiewicz, C. Vidaurre, and M. Kawanabe, ”Improving classification performance of bcis by using stationary common spatial patterns and unsupervised bias adaptation,” in Hybrid Artificial Intelligent Systems, ser. Lecture Notes in Computer Science. Springer Berlin Heidelberg, 2011, vol. 6679, pp. 34-41.
・公知文献3:R. Tomioka, J. Hill, B. Blankertz, and K. Aihara, ”Adapting spatial filtering methods for nonstationary bcis,” transformation, vol. 10, p. 1, 2006.
また、本実施形態では、脳活動分析部40は、運動想像のクラス及び安静のクラスのいずれかのクラスに被験者2の脳活動を分類する。すなわち、分類対象となるクラスの数は2つである。このような2つのクラス間の分散の差を最大限にするような空間フィルタを見つけるために、従来のロバストなCSP(Common Spatial Patterns)アルゴリズムを利用することが可能である。この従来のロバストなCSPアルゴリズムは、例えば、以下の公知文献4に開示がされている。
・公知文献4:X. Yong, R. K. Ward, and G. E. Birch, ”Robust common spatial patterns for eeg signal preprocessing.” Conference proceedings : Annual International Conference of the IEEE Engineering in Medicine and Biology Society. IEEE Engineering in Medicine and Biology Society. Annual Conference, vol. 2008, pp. 2087-2090, 2008.
以下、公知文献4の内容を基に、ロバストなCSPアルゴリズムについて、簡単に説明する。なお、後述するとおり、CSPアルゴリズムでは、使用者の頭皮上の複数の部分に配置される電極から取得されるEEG信号の共分散行列に対して適応的な重み付け処理を行って特徴量を抽出するフィルタを複数作成する。この重み付け処理を行うフィルタが上記「空間フィルタ」である。
(CSPアルゴリズム)
CSPアルゴリズムは、運動イメージによる律動変調に基づくBMIの2クラス(C1又はC2)の分類問題において、特徴量を抽出する手法として多用されている。例えば、運動想像状態がクラスC1であり、安静状態がクラスC2である。
ここで、EEG測定のチャネル数をpとし、Nを1回の1試行に含まれるサンプル数であるとし、Mをトレーニングセットの個数であるものとすると、各試行の信号の集合Sは、以下の数1に示す式で定義される。
Figure 0006850026
また、CSPアルゴリズムにおける最適化問題は以下の数2に示す式で表される。
Figure 0006850026
なお、C1は、全てのクラスC1のEEG試行を表し、ωは、空間フィルタの未知の重みベクトル又は重み行列である。var関数は、以下の数3に示すように算出できる。
Figure 0006850026
ここで、Λ1とΛ2とは、それぞれ、クラスC1とクラスC2とに属するEEG信号の共分散行列である。
CSPアルゴリズムは、以下の(I)〜(III)の処理に要約できる。
(I)行列Λ=(Λ1+Λ2)に対して白色化変換を実行する。すなわち、行列Λ=(Λ1+Λ2)に対する固有値分解により、以下の数4に示すような条件を満たす行列P(白色化行列)を見つけて、行列Λを白色化する。なお、数4の式では、以下の数5に示す関係が成り立つ。
Figure 0006850026
Figure 0006850026
(II)以下の数6により示される条件を満たすように固有値分解を行うことで、直交行列R及び対角行列Dを算出する。
Figure 0006850026
(III)クラスC1及びクラスC2に対して射影行列W=RTPを算出し、算出した射影行列Wの行ベクトルωを以下の数7に示すとおりCSPフィルタとする。このCSPフィルタが、上記空間フィルタである。なお、射影行列Wは、複数の行ベクトルωを含んでいるため、この段階では、複数のCSPフィルタが生成される。
Figure 0006850026
生成された各CSPフィルタを共分散行列に乗算して射影した結果であるzp(t)の2乗平均の値(又は、そのlogスケール値)を、特徴量として用いることができる。以下では、特徴量としては、logスケール値を用いることとする。例えば、この特徴量として、以下の数8に示す値を用いることができる。
Figure 0006850026
なお、特徴量には、上記の他、上記射影した結果であるzp(t)の分散、zp(t)の分散を規格化した値、又はいずれかの値のlogスケール値を用いることも可能である。そして、このような特徴量に対して、線形判別分析(LDA;linear discriminant analysis)を行うことで識別器を生成することができ、CSPフィルタと識別器とを利用することで、EEG信号のクラスの分類を実行することが可能となる。
(特徴選択アルゴリズム)
次に、複数のCSPフィルタの中から、最適なCSPフィルタ、すなわち、脳活動の識別性能の最も高いCSPフィルタを選択する特徴選択アルゴリズムの一例について説明する。
まず、ランダムフォレスト法により、EEG信号の共分散行列を各CSPフィルタで射影して得られる各特徴量の決定木を作成する。次に、作成した決定木に基づいて、各特徴量の重要度を求め、各特徴量の重要度の平均値を各CSPフィルタの寄与度とする。そして、各CSPフィルタの寄与度を比較することで、寄与度の最も高いCSPフィルタを利用するものに選択する。これにより、複数のCSPフィルタの中から最適なCSPフィルタを選択することができる。なお、特徴選択アルゴリズムについては、以下の公知文献5を参考にしてもよい。
・公知文献5:P. Geurts, D. Ernst., and L. Wehenkel, "Extremely randomized trees", Machine Learning, 63(1), 3-42, 2006.
なお、複数のCSPフィルタの中から最適なCSPフィルタを選択する方法は、このような方法に限定されなくてもよく、実施の形態に応じて適宜選択可能である。例えば、各CSPフィルタについて後述する線形判別分析により識別器を生成してもよい。そして、各CSPフィルタと各識別器とにより、トレーニングデータセットの各EEG信号に対する識別性能を算出し、算出した識別性能の最も高いCSPフィルタを利用するものとして選択してもよい。
(デコーダの生成)
次に、上記CSPアルゴリズム及び特徴選択アルゴリズムを利用して、コンピュータ20(学習処理部420)が、デコーダのCSPフィルタ及び識別器を作成する過程について説明する。
まず、データ収集部60は、被験者2のEEG信号を収集する。これにより、データ収集部60は、運動想像を行っているときのEEG信号とそれ以外の想像(本実施形態では、安静状態)を行っているときのEEG信号との組をトレーニングデータセットとして取得する。フィルタ処理部402は、取得したトレーニングデータセットの各EEG信号にバンドパスフィルタリング(7−30Hz)を適用し、所定の周波数成分を抽出する。
次に、学習処理部420は、トレーニングデータセットの各EEG信号の所定の周波数成分にCSPアルゴリズムを適用することで、対応する射影行列Wを算出し、これにより、複数のCSPフィルタを得る。そして、学習処理部420は、複数のCSPフィルタに対して特徴選択アルゴリズムを適用することで、寄与度の最も高いCSPフィルタ、換言すると、被験者の脳活動に対する識別性能が最も高いCSPフィルタを複数のCSPフィルタの中から選択する。
ここで、選択されたCSPフィルタが、コンピュータ20を操作するオペレータから見て明らかに誤りである場合には、オペレータは、コンピュータ20を操作して、選択されたCSPフィルタを修正、又は別のCSPフィルタに置換してもよい。このとき、オペレータは、コンピュータ20を操作して、CSPアルゴリズムにより生成された複数のCSPフィルタの中から適宜利用するCSPフィルタを選択してよい。
そして、学習処理部420は、選択したCSPフィルタでトレーニングデータセットの各EEG信号の共分散行列を射影することで得られる特徴量に対して線形判別分析を行うことで、識別器を作成する。例えば、学習処理部420は、ロジスティクス回帰を線形判別のモデルとして利用することで、(線形)識別器を作成することができる。これにより、デコーダが完成する。すなわち、デコーダ404で利用するCSPフィルタ及び識別器の作成が完了する。一方、CSPフィルタの選択過程で識別器を作成している場合には、この処理は省略することができ、CSPフィルタの選択が完了した時点でデコーダが完成する。
なお、ロジスティック関数は、0と1との間の連続的な確率出力を生成する。そのため、例えば、識別器の出力が0に近くなるほど、脳活動が安静状態のクラスに分類されることを示し、識別器の出力が1に近くなるほど、脳活動が運動想像のクラスに分類されることを示すことができる。そのため、判定部412は、識別器の出力と所定のしきい値との比較により、被験者2の現在の脳活動が、「運動想像」のクラスであるのか、「安静状態」のクラスであるのかを判定することができる。
以上の説明では、CSPアルゴリズム、特徴選択アルゴリズム、及び線形判別法を利用してデコーダを生成する方法を説明した。しかしながら、被験者の脳活動をデコードするデコーダを生成する方法は、このような例に限定されなくてもよい。特徴量の抽出方法として、例えば、独立成分分析(ICA:Independent component analysis)、ラプラシアンフィルタ法により事象関連脱同期(ERD:event-related desynchronization)を検出する方法等が採用されてもよい。これにより、EEG信号の特徴量を抽出するのに、CSPフィルタ以外のタイプの空間フィルタが用いられてもよい。また、特徴量の抽出方法として、例えば、上記CSPアルゴリズムにICAを組み合わせる等の複数のアルゴリズムを組み合わせた方法を採用してもよい。また、判別方法として、サポートベクトルマシンを利用する方法等が採用されてもよい。更に、本実施形態に係るコンピュータ20(脳活動分析部40)は、「運動想像」及び「安静状態」の2クラスに被験者2の脳活動を分類する。しかしながら、分類するクラスの数は、「運動想像」のクラスが含まれていれば、3クラス以上であってもよい。
<6.運動教示のフロー>
次に、図5を用いて、被験者2に運動を教示する手順について説明する。図5は、本実施形態に係る運動教示システム1000により被験者2に運動を教示する手順を示すフローチャートである。
(ステップS100)
まず、ステップS100では、コンピュータ20の演算装置210は、データ収集部60として機能して、力覚提示デバイス80による運動パターンの教示の前に、トレーニングデータセットを取得する。
例えば、被験者2は、運動想像と安静状態とを交互に数秒間行うように指示される。演算装置210は、外部インタフェース202及び信号取得モジュール12を介して、脳波センサ10からこのときのEEG信号を取得する。そして、演算装置210は、取得したEEG信号から、運動想像を行っているときの部分と安静状態を行っている時の部分とを切り出す。これにより、演算装置210は、被験者2について、運動想像を行っているときのEEG信号とそれ以外の想像(安静状態)を行っているときのEEG信号との組をトレーニングデータセットとして取得する。
(ステップS102)
次のステップS102では、演算装置210は、学習処理部420として機能し、トレーニングデータセットに基づいて、被験者2の脳活動をデコードするのに利用する空間フィルタ及び識別器を作成する。本実施形態では、演算装置210は、上記CSPアルゴリズム及び特徴選択アルゴリズムを利用した機械学習により、運動想像の検知に最適なCSPフィルタ及び識別器を生成する。そして、演算装置210は、生成したCSPフィルタ及び識別器を脳活動分析部40のデコーダ404に設定する。これにより、運動教示の準備が完了し、被験者2の脳活動の分析すること、具体的には、運動想像のクラス又は安静状態のクラスに被験者2の脳活動を分類することが可能となる。
(ステップS104)
次のステップS104では、演算装置210は、後述する運動パターンの教示の期間(ステップS110)中における被験者2の脳活動が運動想像のクラスに分類されるように、運動パターンの教示の前において被験者2に対して想起させる想起内容を出力する。本実施形態では、演算装置210は、訓練制御部30として機能して、プロジェクタ70により被験者2に想起させる想起内容(「前提想起内容」と称してもよい)をスクリーン84に投影する。これにより、演算装置210は、運動パターンの教示前において、当該想起内容を想起するように被験者2に指示する。
上記のとおり、教示前から教示中への脳活動の遷移パターンは複数存在する。コンピュータ20は、この遷移パターンの情報を記憶装置212に記憶している。被験者2の遷移パターンが特定されておらず、運動教示前の初期段階では、被験者2の脳活動の遷移パターンは不明である。そのため、この場合には、演算装置210は、想起内容の指示として、「運動想像」又は「安静状態」のいずれの指示を出力してもよい。以下では、説明の便宜のため、被験者2の遷移パターンが不明である初期段階では、演算装置210は、「安静状態」を想起内容として出力するものとする。
(ステップS106)
次のステップS106では、演算装置210は、想起内容を想起するように被験者2に指示している間に、脳波センサ10から当該被験者2のEEG信号を取得する。次に、演算装置210は、フィルタ処理部402として機能し、取得したEEG信号にバンドパスフィルタを適用して所定の周波数成分(7〜30Hz)を抽出する。そして、演算装置210は、デコーダ404として機能して、上記ステップS102で設定したCSPフィルタ及び識別器を抽出した周波数成分に適用する。これにより、演算装置210は、運動パターンの教示の前に取得される被験者2のEEG信号をデコードする。
本実施形態では、演算装置210は、プロジェクタ70を制御して、このデコード結果をスクリーン84にフィードバック情報として表示する。すなわち、演算装置210は、運動パターンの教示の前において、被験者2の脳活動を分類した結果をフィードバックする。これにより、被験者2は、自身が現在想起しているとデコーダ404により判別された結果を認識することができる。その結果、被験者2は、フィードバック情報に基づいて、指示された想起内容を想起しているとのデコード結果となるように所定の時間について努力することになる。
ここで、フィードバック情報の提示方法は、実施の形態に応じて適宜決定されてよい。例えば、演算装置210は、後述する図12に示すとおり、スクリーン84にバーを表示して、いずれか一方の端部にそのバーが近付くように変形すると運動想像を行っていることを示し、他方の端部にバーが近付くように変形すると安静状態であることを示すような提示方法を採用してもよい。この場合、演算装置210は、デコーダ404の識別器の出力値に基づいてバーの長さを決定することができる。
なお、スクリーン84に表示する図形は、指定された想起内容に近付いた脳活動ができているか否かを被験者に提示することができる形状であれば、バーに限られなくてもよい。そのような他の形状として、例えば、円の中に描かれる扇形を挙げることができる。また、演算装置210は、バーの長さ、扇形の大きさ等のレベルではなく、判定部412として機能した結果、すなわち、識別器の出力値を閾値と比較することで分類された被験者2の脳活動のクラスをスクリーン84に表示してもよい。
次のステップS108では、演算装置210は、訓練制御部30として機能して、上記ステップS106のデコード結果に基づいて、被験者2の脳活動が、ステップS104で指示した想起内容に対応するクラスに分類されているか否かを判定する。すなわち、演算装置210は、判定部412として機能して、識別器の出力値と閾値とを比較した結果、被験者2の脳活動の分類されたクラスが想起内容に対応するクラスであるか否かを判定する。被験者2の脳活動が想起内容に対応するクラスに分類された場合には(S108でY)、演算装置210は、トリガ信号を出力して、次のステップS110及びS112に処理を進める。一方、被験者2の脳活動が想起内容に対応するクラスに分類されていない場合には(S108でN)、ステップS104に処理を戻す。
(ステップS110及びS112)
被験者2の脳活動が想起内容に対応するクラスに分類されたこと(トリガ信号の出力)に応じて、次のステップS110では、演算装置210は、訓練制御部30として機能して、力覚提示デバイス80(制御モジュール50)に対して運動パターンを教示する動作の開始を指示するコマンドを出力する。これにより、被験者2に対して受動的な運動パターンの教示(固有受容性トレーニング)を実施する。
また、ステップS110の実行と共に、演算装置210は、脳活動分析部40として機能し、ステップS112の処理を実行し、上記運動の教示中における被験者2の脳活動の状態を解析する。すなわち、演算装置210は、運動パターンの教示の動作を力覚提示デバイス80に実行させている期間中に脳波センサ10から被験者2のEEG信号を取得する。そして、演算装置210は、ステップS106と同様の過程により、EEG信号をデコードする。
ただし、運動パターンの教示の期間中においては、上記ステップS106とは異なり、演算装置210は、被験者2の脳活動を分類した結果をフィードバックしない。すなわち、スクリーン84には、被験者2が現在想起しているとデコーダ404により判別された結果がフィードバック情報として表示されることはない。運動パターンの教示中に、フィードバック情報を表示すると、運動のトレーニングと、デコード結果を指示された想起内容に対応するように念ずる(想起する)こととの両方のタスクを同時に被験者2に要求することになる。そのため、二重のタスクを実行することが必要となってしまい、タスクの難易度が不必要に増加してしまう。これを避けるため、本実施形態では、演算装置210は、フィードバック情報を被験者2に対して表示しない。なお、本実施形態に係る演算装置210は、被験者2以外の第三者(例えば、トレーナ)には、フィードバック情報を表示してもよい。
(ステップS114)
次のステップS114では、演算装置210は、運動パターンの教示が終了した後に、プロジェクタ70を制御して、ステップS112により運動パターンの教示期間中に脳波センサ10から取得したEEG信号をデコードした結果をスクリーン84に表示する。これにより、演算装置210は、運動パターンの教示期間中における被験者2の脳活動が運動想像のクラスに分類されるか否か、換言すると、被験者2の脳活動の分類されたクラスが運動想像のクラスであったか否かをスクリーン84に表示する。
このように、本実施形態では、ステップS106及びS114により、運動パターンの教示前に指示した想起内容と、運動パターンの教示期間中の脳活動の分類されたクラスと、がスクリーン84に表示される。これにより、例えば、スポーツの指導者、リハビリのセラピスト等のトレーナは、被験者2の遷移パターンを知ることができ、その結果、運動教示のための手続きを定める学習プログラムを被験者2毎により適切に決定することができるようになる。
(ステップS116〜S122)
次のステップS116では、演算装置210は、訓練制御部30として機能して、運動パターンの教示期間中において、脳波センサ10から取得された被験者2のEEG信号をデコードした結果、運動パターンの教示期間中における被験者2の脳活動が運動想像のクラスに分類されたか否かを判定する。被験者2の脳活動が運動想像以外のクラス(すなわち、安静状態のクラス)に分類された場合(ステップS116でN)、演算装置210は、次のステップS120に処理を進める。一方、被験者2の脳活動が運動想像のクラスに分類された場合、演算装置210は、次のステップS118に処理を進める。
次のステップS118では、演算装置210は、訓練制御部30として機能し、運動パターンの教示が所定の回数分終了したか否かを判定する。運動パターンの教示が所定の回数分終了していないときは(S118でN)、演算装置210は、ステップS104に処理を戻す。他方、運動パターンの教示が所定の回数分終了しているときは(S118でY)、演算装置210は、本実施形態に係る運動教示システムによる運動の教示を終了する。
次のステップS120では、演算装置210は、ステップS104で指示する想起内容を変更する。例えば、運動の教示前に「安静状態」を指示し、運動の教示中の脳活動も「安静状態」であった場合には、被験者2の遷移パターンは、上記(A)又は(D)のパターンと想定される。そのため、この場合には、演算装置210は、記憶装置212に記憶された遷移パターンの情報を参照して、被験者2の遷移パターンは上記(A)又は(D)のパターンであると判定して、ステップS104で指示する想起内容を「安静状態」から「運動想像」に変更する。
また、運動の教示前に「運動想像」を指示し、運動の教示中の脳活動が「安静状態」であった場合には、被験者2の遷移パターンは、上記(B)又は(D)のパターンであると想定される。そのため、この場合には、演算装置210は、記憶装置212に記憶された遷移パターンの情報を参照して、被験者2の遷移パターンは上記(B)又は(D)のパターンであると判定して、ステップS104で指示する想起内容を「運動想像」から「安静状態」に変更する。
指示する想起内容を変更した後、次のステップS122では、演算装置210は、想起内容の変更回数が所定回数以下であるか否かを判定する。想起内容の変更回数が所定回数以下である場合(S122でY)、演算装置210は、ステップS104に処理を戻す。一方、想起内容の変更回数が所定回数を超えている場合(S122でN)、演算装置210は、本実施形態に係る運動教示システムによる運動の教示を終了する。
本実施形態では、ステップS104からS122までの一連の処理を繰り返す過程で、ステップS120に到達することで、被験者2の遷移パターンを特定することができる。例えば、被験者2の遷移パターンは上記(A)又は(D)のパターンであると判定して、ステップS104で指示する想起内容を「安静状態」から「運動想像」に変更した後、更にステップS120に処理が到達した場合、演算装置210は、被験者2の遷移パターンは上記(D)のパターンであると特定することができる。一方、ステップS120に処理が到達しなかった場合には、演算装置210は、被験者2の遷移パターンは上記(A)であると特定することができる。
なお、以上で説明した処理手順は、運動教示のフローの一例に過ぎず、各処理は可能な限り変更されてもよい。また、以上の処理手順について、実施の形態に応じて、適宜、ステップの省略、置換、及び追加が可能である。
例えば、ステップS118の後に、被験者2に操作部82を操作させて、教示した運動の再現(「運動生成」とも称する)を被験者2自身に行わせるようにしてもよい。そして、演算装置210は、このときの操作部82の位置情報を制御モジュール50から取得し、教示した運動パターンが運動生成でどの程度再現できたかを示す再現度を算出してもよい。更に、演算装置210は、算出された再現度を被験者2に提示してもよい。なお、再現度の算出方法は、実施の形態に応じて適宜選択されてよく、例えば、後述する数9による計算方法を採用してもよい。
また、ステップS120により、想起内容を変更した後、次のステップS106で表示するフィードバック情報の内容は反転させてもよい。例えば、フィードバック情報として上記のバーを表示する場合に、一方の端部にバーの端部が近付くと運動想像を行っていることを示し、他方の端部にバーの端部が近付くと安静状態であることを示すように設定されていたとする。この場合に、ステップS120で想起内容を変更したことに応じて、演算装置210は、一方の端部にバーの端部が近付くと安静状態であることを示し、他方の端部にバーの端部が近付くと運動想像を行っていることを示すようにフィードバック情報の設定を変更してもよい。これにより、ステップS106で指示する内容は、バーの表示を長くする、扇形の大きさを大きくする等のように常に一定とすることができる。これにより、現在の脳活動パターンの分類結果が、指定された想起内容に対応するデコード結果に近づいていることを被験者に直感的に認識させ易いようにすることができる。
また、図5では、力覚提示デバイス80により被験者2に対して受動的な運動パターンの教示を開始するタイミングは、演算装置210(訓練制御部30)の制御によるものとして説明した。しかしながら、運動パターンの教示を開始するタイミングの制御は、このような例に限定されなくてもよく、コンピュータ20のオペレータの指示入力に応じて運動パターンの教示が開始されてもよい。
以上により、本実施形態に係る運動教示システム1000によれば、運動の教示期間中において、被験者の脳活動が運動想像状態となるように誘導した上で、当該被験者に運動パターンを学習させることができる。すなわち、被験者の脳活動を予め学習する運動タスクに適した状態としてからトレーニングを実施することができるため、高い学習効果を期待することができる。また、本実施形態によれば、被験者は、自ら身体を能動的に動かさず、操作装置(力覚提示デバイス80)による運動を受動的に受け入れるだけで、効率的に運動パターンを学習することができる。更に、本実施形態によれば、そのような受動的な運動を受け入れるだけで、被験者は、効率的に運動パターンを学習するための脳活動の遷移パターンを知ることができる。
なお、上記ステップS100からS122までの一連の処理を実施することで、被験者2の遷移パターンが特定された後、被験者2は、脳波センサ10を外して、運動教示前の想起内容の想起の指示と運動教示とを受けてもよい。また、本実施の形態の運動教示システム1000は、リハビリテーションの対象となるような患者への運動の教示だけではなく、より一般に健常者への運動の教示にも使用可能である。そこで、患者、健常者等を総称するときは、「学習者」と称する。
<7.空間フィルタのクラスタリング>
次に、図6を用いて、空間フィルタのクラスタリングについて説明する。図6は、複数の被験者から得られた空間フィルタをクラスタリングし、運動の習得に適した空間フィルタの属するグループ(以下、最適グループと称する)を特定する処理手順の一例を示す。後述する実証実験では、上記(1)及び(2)の他、次の(3)の知見も得られた。
(3)各被験者の脳活動のタイプと運動教示中の脳活動の状態との相互作用により、運動の習得度合いに有意な差が生じる。
デコードに利用する空間フィルタは、EEG信号の特徴量を抽出するものであるため、被験者の脳活動のタイプは、空間フィルタに表れる。そこで、本実施形態に係るコンピュータ20は、以下の手順に従って、各被験者に対して生成したデコーダの空間フィルタをクラスタリングし、各被験者の空間フィルタを複数のグループに分類する。そして、コンピュータ20は、運動の習得度合いの最も高かった被験者の脳活動のタイプ(空間フィルタ)が属するグループを当該運動の習得に最適な最適グループと位置付けて、クラスタリングにより得られた複数のグループからこの最適グループを特定する。
(ステップS200及びS202)
まず、ステップS200では、演算装置210は、複数の被験者それぞれについて、トレーニングデータセットを取得する。各被験者のトレーニングデータセットの取得は、上記ステップS100と同様に行うことができる。次のステップS202では、演算装置210は、上記ステップS102と同様に、各被験者のトレーニングデータセットに基づいて、各被験者の脳活動をデコードするデコーダに利用するCSPフィルタ及び識別器を作成する。
(ステップS204)
次のステップS204では、演算装置210は、力覚提示デバイス80に対して運動パターンを教示する動作を実行させることで、各被験者に対して受動的な運動パターンの教示(固有受容性トレーニング)を実施する。このとき、演算装置210は、脳波センサ10から各被験者のEEG信号を取得して、ステップS202で作成したCSPフィルタ及び識別器を用いて当該取得したEEG信号をデコードしてもよい。また、この運動パターンの教示は、上記ステップS104〜S122の処理に基づいて行われてもよい。これにより、各被験者の運動教示中の脳活動のクラスを特定することができる。また、繰り返しの運動教示の過程で、各被験者の運動教示中の脳活動が「運動想像」のクラスになるように誘導することができる。
(ステップS206及びS208)
次のステップS206では、演算装置210は、各被験者に操作部82を操作させて、教示した運動の再現を各被験者自身に行わせる。そして、次のステップS208では、演算装置210は、運動生成中における操作部82の位置情報を制御モジュール50から取得し、教示した運動パターンが運動生成でどの程度再現できたかを示す再現度を当該運動生成の評価値として算出する。再現度の算出方法は、教示した運動パターンに対して運動生成においてどの程度再現できたかを評価可能であれば、実施の形態に応じて適宜設定されてよく、例えば、後述する数9による計算方法を採用することができる。
(ステップS210)
次のステップS210では、演算装置210は、クラスタリングの対象とする全ての被験者に対して、ステップS200からS208までの処理が完了したか否かを判定する。ステップS200からS208までの処理が全ての被験者に対しては完了していない場合(S210でN)、演算装置210は、完了していない被験者について、ステップS200からS208までの処理を繰り返す。一方、ステップS200からS208までの処理が全ての被験者に対して完了した場合(S210でY)、演算装置210は、次のステップS212に処理を進める。
上記ステップS200からS210までの処理により、演算装置210は、全ての被験者について、CSPフィルタと運動パターンの再現度(教示後の運動成績)との組み合わせを得ることができる。なお、ステップS204により、運動教示中の脳活動が分析された場合には、演算装置210は、CSPフィルタと運動パターンの再現度との組み合わせに、運動教示中の脳活動が分類されたクラス(「運動想像」又は「安静状態」)を紐付けてもよい。
(ステップS212)
次のステップS212では、演算装置210は、各対象者のCSPフィルタをクラスタリングすることにより、各対象者のCSPフィルタを複数のグループ(「クラスタ」とも称する)に分類する。クラスタリングには公知の方法が用いられてよい。例えば、演算装置210は、各CSPフィルタ間の距離をユークリッド距離で定義する。そして、演算装置210は、距離が近接するCSPフィルタ同士を一つのグループに属するように、各CSPフィルタのクラスタリングを行う。このようなクラスタ分析には、例えば、ウォード(ward)法等を用いることができる。これにより、各対象者のCSPフィルタは、複数のグループに分類される。
(ステップS214)
次のステップS214では、演算装置210は、各被験者の運動パターンの再現度に基づいて、当該運動パターンの習得度合いの最も高い対象者のCSPフィルタが属する最適グループを上記複数のグループから特定する。例えば、演算装置210は、デコーダの出力及びCSPフィルタのグループを要因として各被験者の再現度に対して分散分析を行い、その分散分析の結果に基づいて、デコーダの出力に対する再現度の向上具合が最も高いCSPフィルタのグループを最適グループとして特定してもよい。向上具合については、例えば、出力値の傾き等により比較することができる。なお、デコーダの出力及びCSPフィルタの相互作用については、後述する実証実験においても説明する。
これにより、運動の習得度合いの最も高かった被験者の脳活動のタイプ、すなわち、学習の対象とする運動パターンの習得に最適な脳活動のタイプ(デコードに利用する空間フィルタ)が属する最適グループを特定することができる。この最適グループを特定すると、演算装置210は、処理を終了する。
なお、以上で説明した処理手順は、最適グループを特定する処理手順の一例に過ぎず、各処理は可能な限り変更されてもよい。また、以上の処理手順について、実施の形態に応じて、適宜、ステップの省略、置換、及び追加が可能である。
例えば、図6の例では、上記ステップS200からS210までの処理が繰り返し実行されることで、演算装置210は、各被験者のCSPフィルタと運動パターンの再現度との組み合わせを取得する。しかしながら、この組み合わせを取得する処理手順は、このような例に限定されなくてもよい。例えば、演算装置210は、全ての被験者に対してトレーニングデータセットを取得した後に、各トレーニングデータセットにステップS202からS208の処理を適用することで、各被験者のCSPフィルタと運動パターンの再現度とを取得してもよい。
また、例えば、各被験者のCSPフィルタ及び運動パターンの再現度の算出は、他のコンピュータにより行われてもよい。この場合、コンピュータ20は、ネットワーク、記憶媒体91等を介して、この他のコンピュータから各被験者のCSPフィルタ及び運動パターンの再現度の組み合わせを取得してもよい。
(特定した最適グループの情報の利用)
次に、図7を用いて、上記で特定した最適グループの情報を運動の教示に利用する方法について説明する。図7は、被験者2の脳活動のタイプを考慮した場合における運動教示システム1000の処理手順の一例を示す。
上記のとおり、被験者の脳活動のタイプが上記で特定した最適グループに属した場合、当該被験者は、対象の運動パターンを効率よく習得できると推定される。そこで、運動教示システム1000は、図7に示すとおり、上記の教示のフローにおいて、運動の教示を開始する前に、被験者の脳活動のタイプが最適グループに属するように、すなわち、最適グループに属するタイプの脳活動を行うことができるように被験者に訓練を促してよい。
具体的には、コンピュータ20の演算装置210は、ステップS102とS104との間において、ステップS102で生成した被験者2のCSPフィルタが最適グループに属するか否かを判定する(ステップS103)。被験者2のCSPフィルタが最適グループに属するか否かを判定する方法は、最適グループを特定した際のクラスタリングの方法により適宜設定される。例えば、演算装置210は、クラスタリングにより得られた各グループの重心と被験者2のCSPフィルタとのユークリッド距離を算出し、算出したユークリッド距離が所定の閾値よりも低いグループを特定する。これにより、被験者2のCSPフィルタの属するグループを特定することができる。
被験者2のCSPフィルタが最適グループに属する場合、演算装置210は、被験者2の脳活動のタイプは対象の運動の習得に適しているとして、次のステップS104より以下で、被験者2に対して運動パターンの教示を実施する。一方、被験者2のCSPフィルタが最適グループに属さない場合、演算装置210は、ステップS100から処理を繰り返す。すなわち、演算装置210は、脳波センサ10により、被験者2のトレーニングデータセットを再度習得する。これにより、最適グループに属するタイプの脳活動を行うように被験者2に訓練を促すことができる。
なお、後述する実証実験では、脳活動のタイプがF(Focal)グループに属し、かつ運動教示中にデコーダの出力が大きかった被験者が最も運動パターンの習得度合いが高かった。ただし、運動想像時の脳活動のタイプは各被験者によって異なることが想定される。そして、脳活動のタイプがNF(Non Focal)グループに属し、教示中にデコーダの出力が大きかった被験者については逆に習得度合いが低くなる傾向がみられた。これは、後述する筋感覚的な運動想像と視覚的な運動想像とのタイプでは運動想像の度合いが脳活動の増減が逆転し、事象関連脱同期又は事象関連同期として現れることが要因であると想定される。そのため、最適グループに属するタイプの脳活動を行う被験者が運動教示中に運動想像を行うと運動パターンの習得度合いが高くなるとは限られない。すなわち、最適グループに属するタイプの脳活動を行う被験者が運動教示中に運動想像以外(例えば、安静状態)を行うことで、運動パターンの習得度合いが最も良くなる可能性がある。
そこで、上記最適グループの特定の過程において、CSPフィルタと各被験者の再現度とに各被験者の運動教示中の脳活動の分類されたクラスが紐付けられている場合、演算装置210は、運動教示中の脳活動のクラスごとに最適グループに属する各被験者を分類して、各クラスに分類された各被験者の再現度を比較する。これにより、演算装置210は、再現度の高い被験者の属するクラスを特定し、特定したクラスを、運動パターンの教示期間中に推奨する脳活動が分類される推奨クラスに設定してもよい。そして、演算装置210は、設定した推奨クラスを最適グループに紐付けてもよい。
この場合、運動教示中に運動想像を行えば、運動パターンの習得度合いが必ず向上するとは限らない。そのため、上記ステップS103により、最適グループに属するタイプの脳活動を行うように被験者2に促した場合には、図7に示されるとおり、演算装置210は、上記ステップS116に代えて、次のステップS116Aの処理を実行する。すなわち、運動パターンの教示期間中において、脳波センサ10から取得された被験者2のEEG信号をデコードした結果、運動パターンの教示期間中における被験者2の脳活動が最適グループに紐付けられた推奨クラスに分類されたか否かを判定する。
そして、運動パターンの教示期間中における被験者2の脳活動が最適グループに紐付けられた推奨クラスに分類された場合には(S116AのY)、演算装置210は、次のステップS118に進める。一方、運動パターンの教示期間中における被験者2の脳活動が最適グループに紐付けられた推奨クラスに分類されなかった場合には(S116AのN)、演算装置210は、次のステップS120に処理を進める。これにより、演算装置210は、ステップS104〜S108において、運動パターンの教示期間中における被験者2の脳活動が、最適グループに紐付けられた推奨クラスに分類されるように、運動パターンの教示前において被験者2に対して想起させる想起内容を出力するようにすることができる。
なお、上記の例では、被験者の脳活動のタイプが最適グループに属するようにする方法として、特徴選択アルゴリズムにより選択されたCSPフィルタが最適グループに属するまで、デコーダの作成を繰り返す方法を例示した。しかしながら、被験者の脳活動のタイプを最適グループに属するように誘導する方法は、このような例に限られなくてもよい。例えば、ステップS102において、CSPアルゴリズムにより生成された複数のCSPフィルタのなかに最適グループに属するCSPフィルタが存在する場合、演算装置210は、特徴選択アルゴリズムによる選択を実施せず、この最適グループに属するCSPフィルタを利用するCSPフィルタとして選択してもよい。そして、演算装置210は、この選択したCSPフィルタを利用してデコーダを作成してもよい。更に、演算装置210は、ステップS102とS104との間で、生成したデコーダによる出力が閾値よりも大きくなるまで、被験者に対して運動想像を行うように繰り返し指示してもよい。そして、演算装置210は、デコーダの出力が閾値よりも大きくなった後に、ステップS104以下の運動教示を実施してもよい。これによっても、被験者の脳活動のタイプを最適グループに属するように誘導することができる。
<8.変形例>
以上、本発明の実施の形態を詳細に説明してきたが、前述までの説明はあらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく種々の改良や変形を行うことができることは言うまでもない。例えば、以下のような変更が可能である。なお、以下では、上記実施形態と同様の構成要素に関しては同様の符号を用い、上記実施形態と同様の点については、適宜説明を省略した。以下の変形例は適宜組み合わせ可能である。
例えば、上記実施形態では、空間フィルタとしてCSPフィルタを利用し、識別器として、ロジスティクス回帰をモデルに利用した線形識別器を利用している。しかしながら、空間フィルタの種類は、CSPフィルタに限定されなくてもよく、識別器の種類は、ロジスティクス回帰をモデルに利用した線形識別器に限定されなくてもよい。空間フィルタ及び識別器の種類は、実施の形態に応じて適宜選択されてよい。
また、例えば、上記実施形態では、脳活動の分析、運動教示の制御、最適グループの特定等の情報処理が同一のコンピュータ20の同一の演算装置210により行われている。しかしながら、各情報処理を実行する構成は、このような例に限定されなくてもよい。例えば、コンピュータ20が複数の演算装置を備える場合には、異なる演算装置により各情報処理を行ってもよい。また、コンピュータ20が複数台のコンピュータで構成される場合には、異なるコンピュータにより各情報処理を行ってもよい。この場合、各コンピュータは、ネットワーク、記憶媒体等を介して、情報処理の結果をやりとりしてよい。
また、図5のステップS104では、演算装置210は、被験者に関わりなく所定の想起内容を指示し、運動教示の期間中における脳活動が「運動想像」でない場合は、ステップS120により、指示すべき想起内容を変更している。しかしながら、想起内容に指示方法は、このような例に限定されなくてもよい。例えば、被験者2毎の遷移パターンを示すデータベースを予め作成していてもよい。この場合、ステップS104では、演算装置210は、このデータベースを参照して、対象の被験者2に指示する想起内容を決定してもよい。
また、上記実施形態では、力覚提示デバイス80の操作部82が、所定の運動パターンの軌道(円軌道)に沿って動くことにより、被験者2の手の運動を案内し、これにより、被験者2は、所定の運動パターンに沿った運動を受動的に学習する。しかしながら、被験者の可動部位の動きを案内する方法は、このような例に限定されなくてもよい。例えば、このように所定の運動パターンの軌道から被験者の可動部位が外れようとする場合に、力覚提示デバイス80が、被験者の可動部位をその軌道に戻すような力覚をフィードバックすることで、被験者の可動部位の動きを案内してもよい。また、この場合に、力覚提示デバイス80は、被験者の可動部位をその軌道に戻すのではなく、より軌道から外れる方向に力覚をフィードバックすることで、被験者の可動部位の動きを案内してもよい。これらの方法によっても、所定の運動パターンの軌道を被験者に学習させることも可能である。また、被験者では不足する力をロボット側がアシストすることで目標運動を達成する制御手法である、いわゆる「Assist-as-needed」と呼ばれる学習方法を採用することも可能である。なお、上記実施形態では、運動パターンとして円軌道を例示した。しかしながら、運動パターンの種類は、円軌道に限定されなくてよい。運動パターンは、実施の形態に応じて適宜設定されてよい。この場合、再現度の算定方法等は、設定された運動パターンに応じて適宜決定されてよい。
<9.実証実験>
以下では、上述したような運動教示システム1000による運動教示のシーケンスの妥当性を示す実証実験及び実験結果について説明する。
<9.1 実験条件>
(a)運動教示ロボット
運動教示ロボットには、図1に示した力覚提示デバイスを用いた。力覚提示デバイスは、ハンドル(操作部)の位置を制御することができ、被験者が握った状態の当該ハンドルを、2次元平面内を目標軌道上でスムーズに動かすことが可能である。本実証実験では、被験者に対して、固有受容性のフィードバックのみが与えられ、視覚的な運動に関するフィードバックは無い。
(b)被験者
被験者は、健常成人20名・右利きであった。
(c)被験者へのフィードバック
本実証実験では、運動の教示に関しては、力覚的なフィードバックのみを被験者に与えた。これは、学習において被験者が脳内で運動を生成する時に、力覚的なフィードバックと視覚のフィードバックとの双方を与えると、せっかく力覚的に学習した運動を視覚情報にとらわれることで忘れてしまうことが考えられるからである。各被験者には、運動教示前に、目標縁の大きさ及び目標軌道のカーソルをスクリーンに表示して、学習対象となる運動パターンの教示を行った。そして、ロボットに動かされている間(「Passive Movement: PM」と呼ぶ)は、目標円の大きさも、目標軌道のカーソルも表示しなかった。同様に、被験者が運動を生成する間(「Motor Execution: ME」と呼ぶ)は、目標円の大きさも、目標軌道のカーソルも表示しなかった。
(d)実験の流れ
図8は、実験の流れを示す概念図である。本実証実験では、図8に示す手順に従って、各被験者のデコーダを作成し、運動教示前及び運動教示中の脳活動を計測し、運動教示後の運動生成の評価を行った。
(目標運動のデモンストレーションとベースライン計測)
まず、ステップS300では、半径10cmの円を一周約1.5秒で描く2次元の目標軌道を決定し、被験者に対して、実験実施者が目標運動のデモンストレーションを5回行った。その後、被験者は、利き手と反対の手、すなわち左手で15回連続して目標運動を生成し、ベースラインの計測を行った。計測時間は1回当たり5秒間とした。このとき、被験者への視覚的フィードバックは、手先位置を知ることはできないようになっている。
このままでは運動の良し悪しが判断できない。そこで、生成された運動は毎回評価され、運動生成後に100点満点中何点だったかを被験者にフィードバックした。ロボットによる運動教示無しで、評価値だけを頼りに、目標運動を生成させた。被験者には、高得点を得られるよう努力するよう指示した。
(デコーダの作成)
次のS302では、システムに用いるデコーダを被験者毎に作成した。被験者には、安静状態を7秒間、運動想像を5秒間、交互に40回ずつ行わせた。このときの脳波を脳波センサで計測し、トレーニングデータセットを収集した。10回毎に休憩をはさんだ。運動想像を行う時間は、ベースライン計測時間と同じ時間とした。よって、被験者には、高得点だった時の運動を一回だけ想像するようインストラクションを与えた。この時の被験者への視覚的フィードバックは無い。安静状態時も運動想像時も注視点(+印)を見るようインストラクションした。
デコーダの作成にあたっては、40回分計測されたEEG信号を10回1セットとして、交差検証を行った。周波数帯域7〜30Hzの信号をフィルタリングし、ノイズの多いチャンネルは取り除かれた。フィルタリング後の信号に上記CSPアルゴリズムを適用し、複数のCSPフィルタを得た。続いて、上記特徴選択アルゴリズムにより、複数のCSPフィルタの中から利用するCSPフィルタを選択した。そして、安静状態は7秒間の平均値を、運動想像は5秒間の平均値を基にして、線形判別分析を行って、識別器を作成した。なお、20名中5名については、特徴選択アルゴリズムにより選択されたCSPフィルタは明らかに誤りであったため、利用するCSPフィルタを手動により修正した。
図9A及び図9Bは、選択されたCSPフィルタにより運動想像の脳活動を観測した際のパワー変化の様子を示す。具体的には、図9Aは、筋感覚的運動想像(KMI;kinesthetic motor imagery)を行った被験者の脳活動を観測した際のパワー変化の様子を示す。一方、図9Bは、視覚的運動想像(VMI;visual motor imagery)を行った被験者の脳活動を観測した際のパワー変化の様子を示す。
一般的に、運動想像には、2種類あることが知られている。1つ目のタイプは、1人称的な運動想像に応じて、感覚運動領域(sensorimotor area)上でのα及びβバンドのパワー変動(ERD/ERS)が見られる筋感覚的運動想像(KMI;kinesthetic motor imagery)である。ここで、ERDとは、事象関連脱同期(ERD:event-related desynchronization)であり、ERSとは、事象関連同期(ERS:Event-Related Synchronization)である。
2つ目のタイプは、3人称的又は視覚入力が無い場合でも、視覚野に活動が見られる視覚的運動想像(VMI;visual-motor imagery)である。本実証実験の後述する第1の検討では、図9A及び図9Bに示される、筋感覚的運動イメージKMI及び視覚的運動イメージVMIにそれぞれ該当するCSPフィルタのみを対象とした。
[運動学習フェーズ]
(1回目の脳状態のコントロール)
図8に戻り、デコーダを作成した後、運動学習フェーズを実施した。まず、本実証実験では、ロボットにより受動的に運動を教えられる前に、被験者に5秒間、システムを使って脳状態の操作を行わせた(S304〜S308)。
ここでは、安静状態を行わせる条件を第1実験条件、運動想像を行わせる条件を第2実験条件と称した。それぞれの実験条件に10名ずつ被験者をランダムに割り当てた。
自分の脳状態が安静状態になっているか運動想像になっているか被験者が確認できるように、ステップS202で作成したデコーダに被験者の脳波信号を通して、スクリーン上にバーで視覚的にそのデコード結果をフィードバックした(S306)。ただし、安静状態と運動想像とを分ける閾値は被験者には知らせず、バーが0に近いと安静状態、バーが100に近いと運動想像ができているとのインストラクションを行った。また、なるべく注視点を見ながらコントロールを行わせ、バーは視界に入る程度で参考にするよう指示した。この脳状態のコントロールの結果に応じて、その後のシーケンスを変更した。
被験者の5秒間の脳波識別結果の平均値が閾値を下回る(第1実験条件)/上回れ(第2実験条件)ば(S308でY)、運動教示以降のシーケンスを実行するようにした(S310)。一方、閾値をクリアしなければ(S308でN)、7秒間の安静状態(バー表示無し)をはさんだのち、ステップS204の脳状態のコントロールから運動学習フェーズをやり直すようにした。
なお、各被験者には、対象の実験条件の脳状態の操作を行わせた後、別の方の実験条件の脳状態の操作を行わせた。すなわち、第1実験条件の脳状態の操作を行わせた被験者には第2実験条件の脳状態の操作を後に行わせ、第2実験条件の脳状態の操作を行わせた被験者には第1実験条件の脳状態の操作を後に行わせた。ただし、後に行った方のデータは、遷移パターンの検討を除くその他の検討の対象から除外した。
(ロボットによる運動教示)
先の脳状態のバーコントロールで閾値をクリア(S308でY)した後、ロボットによる目標運動の教示が直ちに開始されるようにした(S310)。ロボットのアームはPID制御されており、被験者は受動的に手を動かされるようにした。安全のため一定以上の力を被験者がロボットに加えた場合は、ロボットは停止するように構成した。この時、被験者は描く円の大きさを視覚的に目視できず、また、ロボットの動きも目視することができない(図3)。したがって、本ステップS310では、視覚的な影響のない固有受容性トレーニングを実施した。
この時、被験者には、後で運動を正確に再現できるよう、位置・速度共に動かし方を覚えるようインストラクションを行った。被験者はロボットのハンドル部分(操作部)を握っており、肘置き等の腕の重さを支える治具は用いなかった。
(2回目の脳状態のコントロール)
ロボットによる運動教示が終わったらすぐに、2回目の脳状態コントロールを行うようにした(S312)。しかし、このステップS312でのバーコントロールでは閾値評価を設けず、閾値をクリアしなくても次のステップS314に移行するようにした。ただし、各被験者には、このステップS312において閾値評価が無いことを知らせなかった。各被験者には、第1実験条件及び第2実験条件それぞれの脳状態に近づくようにバーコントロールを行わせた。
(被験者による運動再現及びロボットによる計測)
運動教示を行ったロボットのハンドル部分を教示した運動パターンと同じように動かすように被験者に指示して、被験者により動かされているハンドル部分の軌道を計測した(S314)。この時、被験者はロボットの重さをほぼ感じることなく、低抵抗で運動を再現できるようにロボットの制御を行った。また、この時、スクリーンにより、被験者は自分の手の位置を目視することができないようにした。運動を再現した後に、100点満点中何点の再現度であったかを被験者に提示した。
(繰り返し回数)
以上のS304からS314までの流れを繰り返し行った。被験者は少なくとも15回ロボットによる運動教示を受け、15回運動を再現する機会が与えられた。
S304〜S308の脳状態のコントロールによる条件切り替えのトライ回数が15回毎に、1〜2分程度の休憩を随時はさんだ。被験者の脳状態コントロールの得意・不得意により、全体の実験時間および運動学習の時間的間隔は異なる。なお、運動学習と運動再現の時間的間隔は常に5秒間で一定である。
(e)各実験条件における脳状態コントロールによるデコーダ識別結果
図10は、第1実験条件の脳状態の操作及び第2実験条件の脳状態の操作をある被験者に行わせた際の識別器の出力を示す。上記のとおり、第1実験条件では、安静状態になるように被験者に脳状態をコントロールさせ、また第2実験条件では、運動想像になるように被験者に脳状態をコントロールさせた。図10に示すとおり、第2実験条件のコントロールでは平均値が閾値よりも上回り、第1実験条件のコントロールでは平均値が閾値よりも下回った。そのため、デコーダは正しく作成されており、被験者は、バーの操作、すなわち、脳状態のコントロールを行うことができたことが分かった。
(f)運動再現結果の目標軌道に対する誤差の計算式
図11は、目標軌道と被験者の再現した軌道との誤差を説明するための概念図である。目標運動の軌跡を基準に、被験者が再現した運動を評価した。目標軌道が12時のスタート位置から基準スタート円(半径3cm)を出た時点(t=ts)から、再び基準スタート円内に入るまでの時間(t=te)を評価期間とした。その評価期間は約1.5秒間であった。被験者が再現した手先軌道(図11中の実線)が12時のスタート位置から基準スタート円を出た時点から1.5秒間の目標軌道(図11中の点線)に対する平均誤差と標準誤差を、以下の式に従って計算した。そして、算出した平均誤差を、所定の計算式に従って100点満点に換算した。
Figure 0006850026
なお、当該平均誤差を以下「誤差」と称する。
(g)運動教示中の脳活動状態と学習結果
図12は、上記ステップS304〜S314の過程において、運動教示の前後に被験者に指示する想起内容を説明するための概念図である。図12に示すように、上記の実験では、第1実験条件に指定した被験者には、運動教示の前後において脳状態を「安静状態」にコントロールするように指示した。一方、第2実験条件に指定した被験者には、運動教示の前後において脳状態を「運動想像」にコントロールするように指示した。各被験者には、運動教示の前後において、安静状態又は運動想像状態のいずれの状態であるとデコーダによりデコードされたかをスクリーン上のバーにより提示した。
そして、運動教示中の被験者の脳活動をデコーダにより判別した。運動教示中には、被験者に対して、統一インストラクションである「ロボットの動きを覚えてください」との表示をスクリーン上で行った。しかしながら、このような表示を行ったにも関わらず、運動教示中の脳活動のデコード結果は、運動想像及び安静状態の2クラスに分かれることが分かった。以下、その実験結果について説明する。
<9.2 第1の検討>
第1に、以下の手順により、運動教示中の脳活動が運動の習得に影響を与えるか否かについて検討した。
(運動教示時の脳波の識別結果)
まず、運動教示中に取得された脳波信号のデコード結果に基づいて、各被験者の運動教示中における脳活動のクラスを分類した。すなわち、ロボットによる運動教示(Passive Movement: PM)が行われている約2秒間の脳波信号を被験者毎に作成したデコーダによりデコードした。それぞれの被験者の識別確率の閾値に比べて、デコーダの出力が低い場合は当該被験者の運動教示中の脳活動は安静状態であったとし、そのような被験者を「Low group」に分類した。一方、デコーダの出力が閾値よりも高い場合は、当該被験者の運動教示中の脳活動は運動想像であったとし、そのような被験者を「High group」に分類した。
図13Aは、安静状態のクラス(Low group)の代表的な被験者の運動教示中におけるデコーダの出力を示す。図13Bは、運動想像のクラス(High group)の代表的な被験者の運動教示中におけるデコーダの出力を示す。図13A及び図13Bに示す結果から、上記のとおり、運動教示中の脳活動のデコード結果は、運動想像及び安静状態の2クラスに分かれることが分かった。
また、図14は、安静状態のクラス(Low group:9名)及び運動想像のクラス(High group:11名)それぞれに属する被験者の運動教示中におけるデコーダの出力を示す。20名の平均閾値(実線)に対して、それぞれのグループの平均出力は上下に分かれた。また、ウェルチのt検定により、両グループ間は有意に異なることが分かった(P<0.05)。この結果からも、運動教示中の脳活動のデコード結果が、運動想像及び安静状態の2クラスに分かれることが分かった。
(運動学習結果)
次に、各クラスについて、運動学習に差が生じるかを検討した。まず、個々の被験者がベースライン計測において15回の運動を行った時(「ベースライン」と記載)の運動軌跡の各誤差の平均値を平均誤差として計算した。次に、運動学習フェーズ中において運動再現を行った時(「運動生成」と記載)の運動軌跡の誤差を運動再現毎に計算した(15回分)。そして、各被験者の各運動再現の誤差とベースライン計測時の平均誤差との差分を算出し、算出した差分の平均値を運動成績として算出した。そのため、算出される値が小さくなるほど、運動再現(運動生成)がより精度よく行われたことを示す。
図15A及び図15Bは、その計算結果、すなわち、運動教示中の脳活動の状態と運動生成の平均位置誤差との関係を示す。具体的には、図15Aは、運動想像として筋感覚的運動想像(KMI)を行う被験者の運動教示中の脳活動の状態と運動再現の平均位置誤差(再現度)との関係を示す。一方、図15Bは、運動想像として視覚的運動想像(VMI)を行う被験者の運動教示中の脳活動の状態と運動再現の平均位置誤差(再現度)との関係を示す。縦軸に対して、ベースラインよりも運動再現時の結果がより下になると、再現した運動と目標運動との誤差が減り、良く学習できたことになる。
KMI及びVMIのいずれのグループにおいても、運動教示中の脳活動が「運動想像」に分類された被験者の方が、「安静状態」に分類された被験者よりも、再現した運動と目標運動との誤差がより小さくなることが分かった。また、ウェルチのt検定により、両グループ間の結果は有意に異なることが分かった(P<0.05)。以上の結果から、上記(1)の知見を得ることができた。
<9.3 第2の検討>
第2に、運動の教示前の脳活動と教示中の脳活動との関係を検討した。上記のとおり、各被験者に対して、両実験条件で運動の教示を行った。そして、各実験条件での運動教示中の脳活動のデコード結果に基づいて、各被験者の脳活動の遷移パターンを分類した。図13は、その結果を示す。
図13は、教示前の脳活動の状態と教示中の脳活動の状態との関係(遷移パターン)を示す。図13に示すとおり、教示前の脳活動の状態と教示中の脳活動の状態との関係は、少なくとも以下の4つの遷移パターンに分けられることが分かった。
1)遷移パターンA(上記(A)の遷移パターン)
遷移パターンAは、教示前の脳活動の状態が「運動想像(MI)」状態であるときは、教示中の脳活動の状態も「運動想像(High(MI))」状態であり、教示前の脳活動の状態が「安静(Rest)」状態であるときは、教示中の脳活動の状態も「安静(Low(Rest))」状態であるグループである。この遷移パターンAには、20人中6人が該当した。
2)遷移パターンB(上記(B)の遷移パターン)
教示前の脳活動の状態が「運動想像」状態であるときは、教示中の脳活動の状態は「安静」状態であり、教示前の脳活動の状態が「安静」状態であるときは、教示中の脳活動の状態は「運動想像」状態であるグループである。この遷移パターンBには、20人中2人が該当した。
3)遷移パターンC(上記(C)の遷移パターン)
教示前の脳活動の状態が「運動想像」状態であるときは、教示中の脳活動の状態は「運動想像」状態であり、教示前の脳活動の状態が「安静」状態であるときも、教示中の脳活動の状態は「運動想像」状態であるグループである。この遷移パターンCには、20人中6人が該当した。
4)遷移パターンD(上記(D)の遷移パターン)
教示前の脳活動の状態が「運動想像」状態であるときは、教示中の脳活動の状態は「安静」状態であり、教示前の脳活動の状態が「安静」状態であるときも、教示中の脳活動の状態は「安静」状態であるグループである。この遷移パターンDには、20人中6人が該当した。
以上の結果から、上記(2)の知見を得ることができた。また、図15A及び図15Bの結果とも合わせると、被験者の脳活動の遷移パターンが、遷移パターンA、遷移パターンB又は遷移パターンCのいずれかであるときは、運動教示中に被験者の脳活動を「運動想像」の状態にすることができるため、運動教示システム1000による運動学習が効果的であると推定される。そこで、上記実施形態に係る運動教示システム1000では、図5のフローチャートに示すような手順で、運動教示中の脳活動の状態が「運動想像」状態となるように誘導している。
<9.4 第3の検討>
第3に、CSPフィルタを手動で選択した5名のデータを除外して、運動の教示前の脳活動と教示中の脳活動との関係を再度検討した。まず、各被験者について、上記のとおり、運動成績を算出した。次に、運動教示前の脳活動の状態の2つのクラスにより、15名の被験者を分類した。そして、クラス毎に運動成績の平均値を算出した。図17Aは、その結果を示す。すなわち、図17Aは、特徴選択アルゴリズムによりCSPフィルタの選択が行われた15名の被験者の運動教示前の脳活動の状態と運動再現の平均位置誤差(再現度)との関係を示す。
次に、運動教示中の脳活動の状態の2つのクラスにより、15名の被験者を分類した。そして、クラス毎に運動成績の平均値を算出した。図17Bは、その結果を示す。すなわち、図17Bは、特徴選択アルゴリズムによりCSPフィルタの選択が行われた15名の被験者の運動教示中の脳活動の状態と運動再現の平均位置誤差(再現度)との関係を示す。
t検定により、図17Aで示す2つのグループ間には有意な差がないことが分かった(P=0.7)。一方、図17Bで示す2つのグループ間には有意な差があることが分かった(P=0.034)。すなわち、図17Bに示されるとおり、運動教示中に脳活動が「運動想像」の状態であると、対象の運動パターンの習得度合いが有意に向上することが分かった。これにより、特徴選択アルゴリズムでCSPフィルタを選択した15名の被験者にデータを絞っても、上記(1)の知見が正しいことが分かった。
<9.5 第4の検討>
第4に、被験者の脳活動のタイプと運動教示中における脳活動の状態とが相互に作用し得るか否かを検討した。まず、各被験者の脳活動のタイプをグループ分けするため、特徴選択アルゴリズムによりCSPフィルタの選択が行われた15名の被験者について、各被験者のCSPフィルタのクラスタリングを行った。各CSPフィルタ間の距離は、ユークリッド距離により定義した。また、クラスタリングには、ウォード(ward)法を用いた。
図18は、15名の被験者のCSPフィルタをクラスタリングした結果を示す。図18に示すクラスタリングの結果では、被験者「13」のCSPフィルタは除外され、残り14名の被験者のCSPフィルタが2つのグループに分類された。具体的には、M1付近に脳活動が集中しているCSPフィルタのグループ(以下、「F(Focal)グループ」とも称する)と、M1付近に脳活動が集中していないCSPフィルタのグループ(以下、「NF(Not-focal)グループ」とも称する)とに各CSPフィルタは分類された。Fグループに属する被験者は5名であり、NFグループに属する被験者は9名であった。なお、CSPフィルタの各重みを脳のマップに対応付けることで、脳活動のタイプをCSPマップとして可視化することができる。図18で示す木構造の葉には、各被験者のCSPマップを配置している。
次に、各被験者の運動の再現度について、以下の要因を考慮した分散分析を行った。
・要因A:CSPフィルタのタイプ(Fグループ、NFグループ)
・要因B:運動教示中に取得された脳波信号のデコード結果
・変量効果:運動教示中の脳活動の状態(「運動想像」であったか「安静状態」であったか)
その結果、CSPフィルタのグループを区別しない場合に、運動教示中の脳活動の状態が「運動想像」である場合には運動成績が向上するが(図17B)、その運動成績の向上具合は、CSPフィルタがFグループに属する場合とNFグループに属する場合との間で有意な差が生じることが分かった(P=0.042)。これにより、上記(3)の知見を得ることができた。なお、本検討では、Fグループのタイプの脳活動を行う被験者が、運動教示中に「運動想像」を行った場合に、最も運動成績の向上が見られた。これにより、円を描く運動については、Fグループを最適グループに設定し、運動想像のクラスを推奨クラスに設定することで、最も効率よく習得可能と推定される。一方、脳活動のタイプがNF(Non Focal)グループに属し、教示中にデコーダの出力が大きかった被験者については逆に習得度合いが低くなる傾向がみられた。これは、筋感覚的な運動想像と視覚的な運動想像とのタイプでは運動想像の度合いが脳活動の増減が逆転し、事象関連脱同期又は事象関連同期として現れることが一つの要因であると想定される。そのため、最適グループに属するタイプの脳活動を行う被験者が運動教示中に運動想像を行うと運動パターンの習得度合いが高くなるとは限られないと想定される。すなわち、最適グループに属するタイプの脳活動を行う被験者が運動教示中に運動想像以外(例えば、安静状態)を行うことで、運動パターンの習得度合いが最も良くなる可能性があると想定される。なお、デコーダに使用するCSPフィルタを選択する際に、CSPアルゴリズムで生成された複数のCSPフィルタにFグループに属するCSPフィルタが含まれる場合は、寄与度が小さくてもこれを選択し、デコーダ自体の操作訓練を実施することで、運動精度の向上が期待できる運動想像が習得できるようになることが期待できる。なお、デコーダ自体の操作訓練が可能であることは、例えば以下の公知文献6に開示されている。
・公知文献6:ERD-Based Online Brain?Machine Interfaces (BMI)in the Context of Neurorehabilitation: Optimizing BMI Learning and Performance
<10.その他>
なお、今回開示された実施の形態は、本発明を具体的に実施するための構成の例示であって、本発明の技術的範囲を制限するものではない。本発明の技術的範囲は、実施の形態の説明ではなく、特許請求の範囲によって示されるものであり、特許請求の範囲の文言上の範囲及び均等の意味の範囲内での変更が含まれることが意図される。
2…被験者、10…脳波センサ、
12…信号取得モジュール、
20…コンピュータ、
30…訓練制御部、40…脳活動分析部、
50…制御モジュール、
70…プロジェクタ、
80…力覚提示デバイス、82…操作部、
202…外部インタフェース、210…演算装置、
212…記憶装置、
402…フィルタ処理部、404…デコーダ、
406…特徴量抽出部、410…識別処理部、
412…判定部、420…学習処理部

Claims (12)

  1. 対象者の脳の活動を検知して、前記対象者の運動の訓練を支援する運動教示システムであって、
    前記対象者に対して、前記対象者の身体の可動部位の動きを案内して、所定の運動パターンに従う運動の教示を実行するように構成された操作装置と、
    前記対象者の脳活動を計測することで、脳活動信号を取得するように構成された計測装置と、
    前記操作装置による前記運動パターンの教示の動作を制御し、かつ前記脳活動信号をデコードすることで、運動想像のクラスを含む複数のクラスのいずれかに前記対象者の脳活動を分類するように構成された1又は複数のコンピュータと、
    を備え、
    前記1又は複数のコンピュータは、前記運動パターンの教示の動作を前記操作装置に実行させている期間中に前記計測装置により取得された前記脳活動信号をデコードした結果、前記運動パターンの教示期間中における前記対象者の脳活動が前記運動想像のクラスに分類されるか否かを出力する、
    前記1又は複数のコンピュータは、前記運動パターンの教示前から教示期間中への脳活動の複数の遷移パターンを示す情報を保持し、
    前記1又は複数のコンピュータは、前記複数の遷移パターンの中から前記対象者の遷移パターンを特定し、
    前記1又は複数のコンピュータは、特定した前記対象者の遷移パターンに基づいて、前記運動パターンの教示期間中における前記対象者の脳活動が前記運動想像のクラスに分類されるように、前記運動パターンの教示の前において前記対象者に対して想起させる想起内容を決定し、かつ
    前記1又は複数のコンピュータは、前記運動パターンの教示前に、決定した前記想起内容を出力する、
    運動教示システム。
  2. 前記1又は複数のコンピュータは、
    前記運動パターンの教示の前において、前記想起内容を想起するように前記対象者に指示し、
    前記運動パターンの教示の前に取得された前記脳活動信号をデコードした結果、前記対象者の脳活動が前記想起内容に対応するクラスに分類されたことに応じて、前記運動パターンを教示する動作の開始を前記操作装置に対して指示する、
    請求項に記載の運動教示システム。
  3. 前記1又は複数のコンピュータは、前記運動パターンの教示の前においては、前記対象者の脳活動を分類した結果をフィードバックし、前記運動パターンの教示の期間中においては、前記対象者の脳活動を分類した結果をフィードバックしない、
    請求項1又は2に記載の運動教示システム。
  4. 前記1又は複数のコンピュータは、
    前記想起内容の想起を前記対象者に指示した後、前記計測装置により取得される前記脳活動信号をデコードした結果、前記対象者の脳活動が前記想起内容に対応するクラスに分類されたことに応じて、前記運動パターンの教示の動作を前記操作装置に実行させ、
    前記運動パターンの教示期間中において、前記計測装置により取得された前記脳活動信号をデコードした結果、前記対象者の脳活動が前記運動想像のクラス以外のクラスに分類された場合、前記対象者に指示する想起内容を変更し、
    変更した前記想起内容の想起を前記対象者に指示し、
    変更した前記想起内容の想起の指示の後、前記計測装置により取得される前記脳活動信号をデコードした結果、前記対象者の脳活動が変更した前記想起内容に対応するクラスに分類されたことに応じて、前記運動パターンの教示の動作を前記操作装置に再度実行させる、
    請求項記載の運動教示システム。
  5. 前記想起内容は、安静状態または運動想像状態のいずれかである、
    請求項2から4のいずれか1項に記載の運動教示システム。
  6. 前記操作装置は、ロボットアームによる力覚提示装置である、
    請求項1からのいずれか1項に記載の運動教示システム。
  7. 前記操作装置は、外骨格型ロボットである、
    請求項1からのいずれか1項に記載の運動教示システム。
  8. 前記計測装置は、ドライ式電極を用いたワイヤレス型ヘッドセットを含む、
    請求項1からのいずれか1項に記載の運動教示システム。
  9. 対象者に対して、前記対象者の身体の可動部位の動きを案内して、所定の運動パターンに従う運動の教示を実行するように構成された操作装置と、前記対象者の脳活動を計測することで、脳活動信号を取得するように構成された計測装置と、前記運動パターンの教示前から教示期間中への脳活動の遷移パターンを示す情報を保持する1又は複数の演算装置とを備えるシステムにより、対象者の脳の活動を検知して、前記対象者の運動の訓練を支援する運動教示方法であって、
    前記1又は複数の演算装置が、前記複数の遷移パターンの中から前記対象者の遷移パターンを特定するステップと、
    前記1又は複数の演算装置が、特定した前記対象者の遷移パターンに基づいて、前記運動パターンの教示期間中における前記対象者の脳活動が前記運動想像のクラスに分類されるように、前記運動パターンの教示の前において前記対象者に対して想起させる想起内容を決定するステップと、
    前記1又は複数の演算装置が、前記運動パターンの教示前に、決定した前記想起内容を前記対象者に対して想起するように指示するステップと、
    前記1又は複数の演算装置が、前記計測装置により取得される前記脳活動信号をデコードすることで、運動想像のクラスを含む複数のクラスのいずれかに前記対象者の脳活動を分類するステップと、
    前記1又は複数の演算装置が、前記運動パターンの教示の前に取得された前記脳活動信号をデコードした結果、前記対象者の脳活動が前記想起内容に対応するクラスに分類されたことに応じて、前記運動パターンを教示する動作を前記操作装置に対して実行させるステップと、
    を備える、
    運動教示方法。
  10. 対象者の脳の活動を検知して、前記対象者の運動の訓練を支援する運動教示システムであって、
    前記対象者に対して、前記対象者の身体の可動部位の動きを案内して、所定の運動パターンに従う運動の教示を実行するように構成された操作装置と、
    前記対象者の脳活動を計測することで、脳活動信号を取得するように構成された計測装置と、
    前記操作装置による前記運動パターンの教示の動作を制御し、かつ前記脳活動信号をデコードすることで、運動想像のクラスを含む複数のクラスのいずれかに前記対象者の脳活動を分類するように構成された1又は複数のコンピュータと、
    を備え、
    前記1又は複数のコンピュータが、
    前記操作装置による前記運動パターンの教示の前に、前記対象者について、前記運動想像を行っているときの脳活動信号とそれ以外の想像を行っているときの脳活動信号との組をトレーニングデータセットとして取得する第1ステップと、
    前記トレーニングデータセットに基づいて、前記対象者の脳活動をデコードするのに利用する空間フィルタを作成する第2ステップと、
    作成された前記空間フィルタが、前記運動パターンの習得度合いのもっとも高い対象者の空間フィルタが属するグループとして特定された最適グループに属するか否かを判定する第3ステップと、
    作成された前記空間フィルタが前記最適グループに属する場合に、前記操作装置による前記運動パターンの教示を開始する第4ステップと、
    を実行する、
    運動教示システム。
  11. 前記1又は複数のコンピュータは、作成された前記空間フィルタが前記最適グループに属さない場合に、前記第1ステップ、前記第2ステップ、及び前記第3ステップを再度実行する、
    請求項10に記載の運動教示システム。
  12. 前記最適グループには、前記運動パターンの教示期間中に推奨する脳活動が分類される推奨クラスが紐付けられており、
    前記1又は複数のコンピュータは、前記運動パターンの教示期間中における前記対象者の脳活動が、前記最適グループに紐付けられた前記推奨クラスに分類されるように、前記運動パターンの教示の前において前記対象者に対して想起させる想起内容を出力する、
    請求項10又は11に記載の運動教示システム。
JP2018521765A 2016-06-08 2017-06-07 運動教示システム及び運動教示方法 Active JP6850026B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016114200 2016-06-08
JP2016114200 2016-06-08
PCT/JP2017/021213 WO2017213202A1 (ja) 2016-06-08 2017-06-07 運動教示システム及び運動教示方法

Publications (2)

Publication Number Publication Date
JPWO2017213202A1 JPWO2017213202A1 (ja) 2019-04-11
JP6850026B2 true JP6850026B2 (ja) 2021-03-31

Family

ID=60577914

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018521765A Active JP6850026B2 (ja) 2016-06-08 2017-06-07 運動教示システム及び運動教示方法

Country Status (5)

Country Link
US (1) US11890246B2 (ja)
EP (1) EP3470041A4 (ja)
JP (1) JP6850026B2 (ja)
CN (1) CN109310561B (ja)
WO (1) WO2017213202A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108304068B (zh) * 2018-01-30 2021-11-16 山东建筑大学 一种基于脑机接口的上肢康复训练机器人控制系统及方法
JP7072853B2 (ja) * 2018-07-13 2022-05-23 学校法人 中村産業学園 運動訓練システム、制御方法、及びプログラム
CN109925675B (zh) * 2019-01-15 2020-08-25 河南翔宇医疗设备股份有限公司 智能磨砂板触摸屏视觉同步方法、装置、系统及移动终端
CN110038270A (zh) * 2019-05-14 2019-07-23 上海大学 一种上肢单臂康复训练机器人人机交互系统及方法
WO2021072367A1 (en) * 2019-10-11 2021-04-15 Neurolutions, Inc. Orthosis systems and rehabilitation of impaired body parts
CN110900638B (zh) * 2019-10-31 2022-10-14 东北大学 基于多信号融合的上肢可穿戴式搬运机器人运动识别系统
CN111728822B (zh) * 2020-07-24 2021-11-26 清华大学 用于脑损伤后的脑机交互闭环康复机器人控制方法
WO2022145258A1 (ja) * 2020-12-28 2022-07-07 国立研究開発法人科学技術振興機構 運動教示装置、運動教示システム、運動教示方法およびプログラム
CN113398422B (zh) * 2021-07-19 2022-08-19 燕山大学 基于运动想象-脑机接口和虚拟现实的康复训练系统及方法
DE102021208910A1 (de) * 2021-08-13 2023-02-16 Festool Gmbh Exoskelett-Vorrichtung und Verfahren
CN113908492A (zh) * 2021-11-24 2022-01-11 滨州职业学院 一种体育舞蹈用下肢力量训练装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006072606A (ja) * 2004-09-01 2006-03-16 National Institute Of Information & Communication Technology インターフェイス装置、インターフェイス方法及びその装置を用いた制御訓練装置
JP2006247280A (ja) 2005-03-14 2006-09-21 Osaka Univ 上肢リハビリ装置
EP2211986B1 (en) * 2007-10-16 2013-11-20 Medtronic, Inc. Therapy control based on a patient movement state
US8523792B2 (en) * 2009-09-22 2013-09-03 Mount Sinai School Of Medicine Rehabilitative training devices for use by stroke patients
JP5467267B2 (ja) 2010-03-05 2014-04-09 国立大学法人大阪大学 機器制御装置、機器システム、機器制御方法、機器制御プログラム、および記録媒体
JP5320543B2 (ja) 2011-11-08 2013-10-23 株式会社国際電気通信基礎技術研究所 脳機能亢進支援装置および脳機能亢進支援方法
KR101394953B1 (ko) * 2012-09-24 2014-05-14 재단법인대구경북과학기술원 재활로봇 제어 장치 및 그 제어 방법
KR101566788B1 (ko) * 2012-11-16 2015-11-09 삼육대학교산학협력단 하지기능 및 보행기능을 위한 뇌-컴퓨터 인터페이스를 기반한 기능적 전기자극치료기
JP6142146B2 (ja) 2012-11-28 2017-06-07 株式会社国際電気通信基礎技術研究所 外骨格型ロボットおよびリハビリテーション装置
JP6489018B2 (ja) 2013-10-10 2019-03-27 株式会社島津製作所 リハビリテーション支援システムおよび脳機能計測装置
CN104706495A (zh) 2013-12-11 2015-06-17 中国科学院宁波材料技术与工程研究所 基于脑机接口的肢体训练机器人及训练方法
US10111603B2 (en) 2014-01-13 2018-10-30 Vincent James Macri Apparatus, method and system for pre-action therapy
WO2015152122A1 (ja) 2014-04-04 2015-10-08 北海道公立大学法人札幌医科大学 リハビリテーション用装置、これを備えたリハビリテーションシステム、リハビリテーション用プログラムおよびリハビリテーション方法
JP6536870B2 (ja) 2014-06-30 2019-07-03 パナソニック株式会社 リハビリテーションシステムおよびリハビリテーションシステムの制御方法
JP6297951B2 (ja) 2014-09-11 2018-03-20 トヨタ自動車株式会社 運動推定装置

Also Published As

Publication number Publication date
WO2017213202A1 (ja) 2017-12-14
EP3470041A1 (en) 2019-04-17
EP3470041A4 (en) 2020-06-17
CN109310561B (zh) 2021-04-09
CN109310561A (zh) 2019-02-05
US11890246B2 (en) 2024-02-06
US20190125612A1 (en) 2019-05-02
JPWO2017213202A1 (ja) 2019-04-11

Similar Documents

Publication Publication Date Title
JP6850026B2 (ja) 運動教示システム及び運動教示方法
JP7103078B2 (ja) 作業支援装置、作業支援方法及び作業支援プログラム
Hong et al. Feature extraction and classification methods for hybrid fNIRS-EEG brain-computer interfaces
Lee et al. Using a low-cost electroencephalograph for task classification in HCI research
Krepki et al. Berlin brain–computer interface—The HCI communication channel for discovery
JP2021511567A (ja) 高速、正確、且つ直感的なユーザ対話のための適合を伴う脳−コンピュータインタフェース
Junwei et al. Brain computer interface for neurodegenerative person using electroencephalogram
Sarac et al. Brain computer interface based robotic rehabilitation with online modification of task speed
Amirabdollahian et al. Application of support vector machines in detecting hand grasp gestures using a commercially off the shelf wireless myoelectric armband
JP7070253B2 (ja) パフォーマンス計測装置、パフォーマンス計測方法及びパフォーマンス計測プログラム
Zou et al. EEG feature extraction and pattern classification based on motor imagery in brain-computer interface
Marusic et al. Evaluating Kinect, OpenPose and BlazePose for Human Body Movement Analysis on a Low Back Pain Physical Rehabilitation Dataset
Lee et al. Motor imagery classification of single-arm tasks using convolutional neural network based on feature refining
Petoku et al. Object movement motor imagery for EEG based BCI system using convolutional neural networks
Ahmed et al. A non Invasive Brain-Computer-Interface for Service Robotics
Xing et al. The development of EEG-based brain computer interfaces: potential and challenges
Shoryabi et al. A Novel Neural Approach For Classification of EEG Signals for Brain-Computer Interface
He et al. Channel and trials selection for reducing covariate shift in EEG-based brain-computer interfaces
Rakshit et al. Robotic link position control using brain computer interface
Henshaw Improved brain-computer interface methods with application to gaming
Jiralerspong et al. Spectral analysis and artificial neural network based classification of three mental states for brain machine interface applications
Alzoubi Automatic affect detection from physiological signals: Practical issues
Lin et al. Lower limb rehabilitation exoskeleton using brain–computer interface based on multiband filtering with classifier fusion
Teich Designing a Brain Computer Interface Using an Affordable EEG Headset
Kanumuru Application of Deep Neural Networks in Electroencephalography (EEG): Classification of User Intention

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180703

A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A5211

Effective date: 20180703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200317

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200317

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210226

R150 Certificate of patent or registration of utility model

Ref document number: 6850026

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250