JP5256517B2 - 脳情報出力装置、ロボット、および脳情報出力方法 - Google Patents

脳情報出力装置、ロボット、および脳情報出力方法 Download PDF

Info

Publication number
JP5256517B2
JP5256517B2 JP2009041336A JP2009041336A JP5256517B2 JP 5256517 B2 JP5256517 B2 JP 5256517B2 JP 2009041336 A JP2009041336 A JP 2009041336A JP 2009041336 A JP2009041336 A JP 2009041336A JP 5256517 B2 JP5256517 B2 JP 5256517B2
Authority
JP
Japan
Prior art keywords
intention
probability
identifier
brain activity
brain
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009041336A
Other languages
English (en)
Other versions
JP2010198232A (ja
Inventor
雅昭 佐藤
崇人 玉川
宙人 山下
祐輔 武田
光男 川人
健太郎 山田
真弘 木村
明祐 戸田
達哉 岡部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
ATR Advanced Telecommunications Research Institute International
Original Assignee
Honda Motor Co Ltd
ATR Advanced Telecommunications Research Institute International
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd, ATR Advanced Telecommunications Research Institute International filed Critical Honda Motor Co Ltd
Priority to JP2009041336A priority Critical patent/JP5256517B2/ja
Priority to PCT/JP2010/052629 priority patent/WO2010098282A1/ja
Publication of JP2010198232A publication Critical patent/JP2010198232A/ja
Application granted granted Critical
Publication of JP5256517B2 publication Critical patent/JP5256517B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6813Specially adapted to be attached to a specific body part
    • A61B5/6814Head
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0073Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by tomography, i.e. reconstruction of 3D images from 2D projections
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • A61B5/14551Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases
    • A61B5/14553Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases specially adapted for cerebral tissue
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Dermatology (AREA)
  • Molecular Biology (AREA)
  • Human Computer Interaction (AREA)
  • Neurology (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Neurosurgery (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • User Interface Of Digital Computer (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Description

本発明は、脳の情報を出力する脳情報出力装置等に関するものである。
近年、脳に対する生理学的な知見の充実、脳計測機器の発展、高性能なコンピュータのコストダウン、および機械学習の分野の進歩等に伴い、脳・機械インタフェース(Brain Machine Interface:BMI)に関する研究が注目を浴びてきている(非特許文献1)。BMIは、脳と機械をつなぐインタフェースである。BMIは、人が考えた時や、何らかの行動した際に生ずる脳活動の信号を計測し、その計測データに信号処理技術を施すことにより、ユーザの意図を汲み出すものである。
Toward Brain-Computer Interfacing (Neural Information Processing)、 MIT Press、 ISBN 978-0262042444
しかしながら、従来のBMIにおいて、脳活動データは1つの脳活動計測装置から取得されたデータであることが多い。従来のBMIにおいて、1種類の脳活動データのみを利用した場合、意図の検出精度が高くない場合がある、という課題があった。
また、脳活動計測装置によって、ユーザの意図によって、その意図の検出が得意である意図、不得意である意図がある。
本第一の発明の脳情報出力装置は、ユーザが一の意図を示した際の当該ユーザの脳活動の第一のデータである第一脳活動データを、前記ユーザから取得する第一脳活動データ取得部と、前記ユーザが前記一の意図を示した際の当該ユーザの脳活動の第二のデータであり、前記第一脳活動データとは異なる種類のデータである第二脳活動データを、前記ユーザから取得する第二脳活動データ取得部と、前記第一脳活動データから、前記示された一の意図が、複数の意図識別子のうちの一の意図識別子に対応する意図である第一確率を、意図識別子ごとに算出する第一確率算出部と、前記第二脳活動データから、前記示された一の意図が、複数の意図識別子のうちの一の意図識別子に対応する意図である第二確率を、意図識別子ごとに算出する第二確率算出部と、前記第一確率算出部が算出した意図識別子ごとの第一確率、および前記第二確率算出部が算出した意図識別子ごとの第二確率とを用いて、意図識別子を取得する意図決定部と、前記意図決定部が取得した意図識別子を出力する出力部とを具備する脳情報出力装置である。
かかる構成により、複数の脳活動データを利用して、ユーザの意図を決定するため、精度高く、意図を検出できる。
また、本第二の発明の脳情報出力装置は、第一の発明に対して、ユーザの意図を識別する情報である意図識別子と、当該意図識別子で識別される意図の元にユーザが一連の行為を行った際に当該ユーザの脳から取得されたデータであり、前記第一脳活動データと同一種類のデータである第一学習データから抽出された1以上の特徴量である第一学習特徴量群とを対に有する第一意図判別情報を、2以上格納し得る第一意図判別情報格納部と、ユーザの意図を識別する情報である意図識別子と、当該意図識別子で識別される意図の元にユーザが一連の行為を行った際に当該ユーザの脳から取得されたデータであり、前記第二脳活動データと同一種類のデータである第二学習データから抽出された1以上の特徴量である第二学習特徴量群とを対に有する第二意図判別情報を、2以上格納し得る第二意図判別情報格納部とをさらに具備し、前記第一確率算出部は、前記第一脳活動データから、1以上の特徴量である第一入力特徴量群を取得する第一特徴量群取得手段と、前記第一意図判別情報格納部の2以上の第一意図判別情報を用いて、前記第一特徴量群取得手段が取得した第一入力特徴量群が、前記2以上の第一意図判別情報に含まれる複数の意図識別子のうちの一の意図識別子に対応する第一確率を、前記2以上の意図識別子ごとに算出する第一確率算出手段とを具備し、前記第二確率算出部は、前記第二脳活動データから、1以上の特徴量である第二入力特徴量群を取得する第二特徴量群取得手段と、前記第二意図判別情報格納部の2以上の第二意図判別情報を用いて、前記第二特徴量群取得手段が取得した第二入力特徴量群が、前記2以上の意図判別情報に含まれる複数の意図識別子のうちの一の意図識別子に対応する第二確率を、前記2以上の意図識別子ごとに算出する第二確率算出手段とを具備する脳情報出力装置である。
かかる構成により、複数の脳活動データを利用して、ユーザの意図を決定するため、精度高く、意図を検出できる。
また、本第三の発明の脳情報出力装置は、第一、第二いずれかの発明に対して、前記意図決定部は、前記意図識別子ごとに、対応する第一確率、または対応する第二確率、または対応する第一確率と第二確率とを用いて、前記意図識別子ごとの最終的な確率を算出する第三確率算出手段と、前記意図識別子ごとの最終的な確率から、最も大きい確率に対応する意図識別子を取得する意図識別子取得手段とを具備する脳情報出力装置である。
かかる構成により、複数の脳活動データから得られる各確率を統合して、意図ごとに確率を算出するため、精度高く、意図を検出できる。
また、本第四の発明の脳情報出力装置は、第三の発明に対して、前記第三確率算出手段は、前記第一確率と前記第二確率とで、異なる重みを用いて、前記意図識別子ごとの最終的な確率を算出する脳情報出力装置である。
かかる構成により、脳活動計測装置の特性を考慮して、意図を検出するので、さらに精度高く、意図を検出できる。
また、本第五の発明の脳情報出力装置は、第一の発明に対して、前記第一確率算出部は、前記第一確率を、予め決められた一部の意図識別子のみに対して、意図識別子ごとに算出し、前記第二確率算出部は、前記第二確率を、予め決められた一部の意図識別子のみに対して、意図識別子ごとに算出する脳情報出力装置である。
かかる構成により、それぞれの脳活動計測装置の得意とする意図のみを使って、意図を検出するので、さらに精度高く、意図を検出できる。
また、本第六の発明の脳情報出力装置は、第一から第五いずれかの発明に対して、前記第一脳活動データ取得部は、近赤外線光計測装置であり、前記第二脳活動データ取得部は、脳波計測装置である脳情報出力装置である。
かかる構成により、精度高く、意図を検出できる。
本発明による脳情報出力装置によれば、精度高く、意図を検出できる。
本実施の形態1におけるロボットシステム1の概念図 同ロボットシステム1のブロック図 同脳情報出力装置11の動作について説明するフローチャート 同脳情報出力装置11の動作について説明するフローチャート 同ロボット12の動作について説明するフローチャート 同脳情報出力装置11の概念図 同ユーザが頭部にかぶる測定器具を示す図 同第一意図判別情報の例を示す図 同第二意図判別情報の例を示す図 同第一脳活動データの例を示す図 同第二脳活動データの例を示す図 同第一脳活動データ、第二脳活動データのグラフ 同第一特徴量群の例を示す図 同かかる第一確率の例を示す図 同第二特徴量群の例を示す図 同第二確率の例を示す図 同コンピュータシステムの概観図 同コンピュータシステムのブロック図 同確率算出アルゴリズムを説明するための図 同確率算出アルゴリズムを説明するための図
以下、脳情報出力装置等の実施形態について図面を参照して説明する。なお、実施の形態において同じ符号を付した構成要素は同様の動作を行うので、再度の説明を省略する場合がある。
(実施の形態1)
本実施の形態において、複数の脳活動計測装置によって得られた複数の脳活動データから、ユーザの意図を決定する脳情報出力装置について説明する。なお、本実施の形態において、主として、2つの脳活動計測装置によって得られた2つの脳活動データから、ユーザの意図を決定する脳情報出力装置について説明するが、3つ以上の脳活動計測装置によって得られた3つ以上の脳活動データから、ユーザの意図を決定する脳情報出力装置であっても良い。脳活動データが2つの場合も、3つ以上の場合も、ユーザの意図を決定する方法は同様である。
また、本実施の形態において、複数の脳活動計測装置から得られる複数の脳活動データのそれぞれに対して、重み付けして、ユーザの意図を決定する脳情報出力装置についても説明する。なお、脳活動データに対する重み付けは、脳活動データから得られた確率に対する重み付けと同意義である。
また、本実施の形態において、各脳活動計測装置が、得意とする意図のみを使って、最終的な意図を決定する脳情報出力装置についても説明する。
さらに、本実施の形態において、脳情報出力装置の出力を受けて動作するロボットを含むロボットシステムについても説明する。
図1は、本実施の形態におけるロボットシステム1の概念図である。ロボットシステム1は、脳情報出力装置11、ロボット12を具備する。脳情報出力装置11は、ユーザからの脳情報を取得し、ユーザの意図を検出し、当該意図を示す意図識別子をロボット12に出力する装置である。また、ロボット12は、脳情報出力装置11から意図識別子を受け取り、当該意図識別子に対応する動作を行う電子機器である。ロボット12は、いわゆる人型の形状を有する電子機器でも良いが、他の形状を有する電子機器でも良い。ロボット12は、例えば、四輪車、二輪車、航空機、電車などの移動体でも良い。
図2は、本実施の形態におけるロボットシステム1のブロック図である。脳情報出力装置11は、第一学習データ取得部101、第一学習特徴量群取得部102、第一意図判別情報蓄積部103、第二学習データ取得部104、第二学習特徴量群取得部105、第二意図判別情報蓄積部106、第一意図判別情報格納部111、第二意図判別情報格納部112、第一脳活動データ取得部113、第二脳活動データ取得部114、第一確率算出部115、第二確率算出部116、意図決定部117、出力部118を具備する。
第一確率算出部115は、第一特徴量群取得手段1151、第一確率算出手段1152を具備する。
第二確率算出部116は、第二特徴量群取得手段1161、第二確率算出手段1162を具備する。
意図決定部117は、第三確率算出手段1171、意図識別子取得手段1172を具備する。
ロボット12は、動作情報格納部121、意図識別子受付部122、実行部123を具備する。
第一学習データ取得部101は、一の意図の元にユーザが一連の行為を行った際に、当該ユーザの脳から一の学習データ(第一学習データ)を取得する。第一学習データ取得部101は、例えば、近赤外線光計測装置である。近赤外線光計測装置とは、近赤外光を用いて頭皮上から非侵襲的に脳機能マッピングする、「光機能画像法」の原理を応用した装置である。また、第一学習データ取得部101は、例えば、脳波計測装置である。脳波計測装置は、脳波を計測する装置である。脳波を計測する機能を有する装置として、例えば、BioSemi社の装置(ActiveTwoシステム)等が存在する。また、第一学習データ取得部101は、例えば、機能的MRI(fMRI: functional Magnetic Resonance Imaging)や、PET(Positron Emission Tomography)なども良い。
また、一の学習データとは、一連の行為を行った際に、観測される一連のデータである。一の学習データは、通常、時系列的なデータである。一の学習データは、例えば、10秒間の、脳の複数地点の血流量を示す情報である。
第一学習特徴量群取得部102は、第一学習データから第一学習特徴量群を取得する。第一学習特徴量群は、1以上の特徴量の集合である。第一学習特徴量群取得部102は、例えば、第一学習データに対して信号処理し、特徴量を取得する。ここで、信号処理は、例えば、バイアス補正、ベースライン補正、トレンド除去、平均値計算、ハイパスフィルターによる処理、ローパスフィルターによる処理、FFTによる処理、PCAによる処理、ICAによる処理、Phase Locking 値の算出、移動平均の算出、センサー選択、時間選択、リファレンス補正、ダウンサンプリング、アップサンプリング、パワー計算、包絡線計算(ヒルベルト変換)、空間フィルターによる処理、逆問題フィルターによる処理、などである。そして、特徴量とは、例えば、上記の信号処理により、算出されるデータであり、例えば、平均値、分散、Phase Locking 値などである。なお、第一学習特徴量群を構成する特徴量は、第一学習データの特性を示すデータであれば、何でも良い。また、第一学習特徴量群取得部102が行う信号処理の数は、複数でも良い。また、上記の各種の信号処理の例は、公知技術であるので詳細な説明を省略する。第一学習特徴量群取得部102は、通常、MPUやメモリ等から実現され得る。第一学習特徴量群取得部102の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
第一意図判別情報蓄積部103は、第一学習特徴量群取得部102が取得した第一学習特徴量群と、一の意図を識別する意図識別子とを対応付けて、第一意図判別情報格納部111に蓄積する。この意図識別子と第一学習特徴量群が意図判別情報である。意図識別子は、ユーザが入力しても良いし、第三者が入力しても良いし、脳情報出力装置11が予め保持していても良い。意図識別子の入力方法は問わない。第一意図判別情報蓄積部103は、通常、MPUやメモリ等から実現され得る。第一意図判別情報蓄積部103の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
第二学習データ取得部104は、一の意図の元にユーザが一連の行為を行った際に、当該ユーザの脳から一の学習データ(第二学習データ)を取得する。第二学習データ取得部104は、例えば、脳波計測装置である。また、第二学習データ取得部104は、例えば、近赤外線光計測装置である。また、第二学習データ取得部104は、例えば、機能的MRI(fMRI: functional Magnetic Resonance Imaging)や、PET(Positron Emission Tomography)なども良い。
第二学習特徴量群取得部105は、第二学習データから第二学習特徴量群を取得する。第二学習特徴量群は、1以上の特徴量の集合である。第二学習特徴量群取得部105は、例えば、第二学習データに対して信号処理し、特徴量を取得する。ここで、信号処理は、例えば、バイアス補正、ベースライン補正、トレンド除去、平均値計算、ハイパスフィルターによる処理、ローパスフィルターによる処理、FFTによる処理、PCAによる処理、ICAによる処理、Phase Locking 値の算出、移動平均の算出、センサー選択、時間選択、リファレンス補正、ダウンサンプリング、アップサンプリング、パワー計算、包絡線計算(ヒルベルト変換)、空間フィルターによる処理、逆問題フィルターによる処理、などである。第二学習特徴量群取得部105は、通常、MPUやメモリ等から実現され得る。第二学習特徴量群取得部105の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
第二意図判別情報蓄積部106は、第二学習特徴量群取得部105が取得した第二学習特徴量群と、一の意図を識別する意図識別子とを対応付けて、第二意図判別情報格納部112に蓄積する。この意図識別子と第二学習特徴量群が意図判別情報である。意図識別子は、ユーザが入力しても良いし、第三者が入力しても良いし、脳情報出力装置11が予め保持していても良い。意図識別子の入力方法は問わない。第二意図判別情報蓄積部106は、通常、MPUやメモリ等から実現され得る。第二意図判別情報蓄積部106の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
第一意図判別情報格納部111は、2以上の第一意図判別情報を格納し得る。第一意図判別情報は、意図識別子と第一学習特徴量群とを対に有する情報である。意図識別子は、ユーザの意図を識別する情報である。意図とは、体の一部(例えば、右手、左手、舌、足など)を動かす行為や、特定のこと(例えば、右手を動かしていること、舌を出したこと、走っていることなど)を想像することなど、ユーザが考えて脳の活動に反映されることである。また、意図識別子は、例えば、ユーザが動かす体の部分であり、例えば、「右手」「左手」「舌」「足」の4つである。また、意図識別子は、例えば、「右手」「左手」の2つであっても良い。意図識別子の数は問わないが、意図識別子の数は少ない方が、通常、脳情報出力装置11が出力する意図識別子がユーザの意図と合致している可能性は高い、と考えられる。第一学習特徴量群は、第一学習データから抽出された1以上の特徴量の情報である。第一学習データとは、意図識別子で識別される意図の元にユーザが一連の行為を行った際に、当該ユーザの脳から取得されたデータであり、第一脳活動データと同一種類のデータである。
第一意図判別情報格納部111は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。
第一意図判別情報格納部111に第一意図判別情報が記憶される過程は問わない。例えば、記録媒体を介して第一意図判別情報が第一意図判別情報格納部111で記憶されるようになってもよく、通信回線等を介して送信された第一意図判別情報が第一意図判別情報格納部111で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された第一意図判別情報が第一意図判別情報格納部111で記憶されるようになってもよい。
第二意図判別情報格納部112は、2以上の第二意図判別情報を格納し得る。第二意図判別情報は、意図識別子と第二学習特徴量群とを対に有する情報である。第二学習特徴量群は、第二学習データから抽出された1以上の特徴量の情報である。第二学習データとは、意図識別子で識別される意図の元にユーザが一連の行為を行った際に、当該ユーザの脳から取得されたデータであり、第二脳活動データと同一種類のデータである。また、第二学習データは、第一学習データとは異なる種類のデータである。
第二意図判別情報格納部112は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。
第二意図判別情報格納部112に第二意図判別情報が記憶される過程は問わない。例えば、記録媒体を介して第二意図判別情報が第二意図判別情報格納部112で記憶されるようになってもよく、通信回線等を介して送信された第二意図判別情報が第二意図判別情報格納部112で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された第二意図判別情報が第二意図判別情報格納部112で記憶されるようになってもよい。
第一脳活動データ取得部113は、第一脳活動データを、ユーザから取得する。第一脳活動データは、ユーザが一の意図を示した際に、当該ユーザから取得された脳活動の第一のデータである。第一脳活動データは、NIRS(近赤外分光分析)、fMRI(機能的MRI)、MEG(脳磁計)、EEG(脳波計)により取得されるデータなどである。第一脳活動データは、脳活動を示すデータであれば何でもよい。なお、第一脳活動データは第一学習データと同じ種類のデータである。第一脳活動データ取得部113は、例えば、近赤外線光計測装置である。また、第一脳活動データ取得部113は、例えば、脳波計測装置である。また、第一脳活動データ取得部113は、例えば、機能的MRI(fMRI: functional Magnetic Resonance Imaging)や、PET(Positron Emission Tomography)などでも良い。ただし、第一脳活動データと第二脳活動データは、異なる種類のデータである。
第二脳活動データ取得部114は、第二脳活動データを、ユーザから取得する。第二脳活動データは、ユーザが一の意図を示した際に、当該ユーザから取得された脳活動の第二のデータであり、第一脳活動データとは異なる種類のデータである。第二脳活動データは、第一脳活動データと同様、NIRS(近赤外分光分析)、fMRI(機能的MRI)、MEG(脳磁計)、EEG(脳波計)により取得されるデータなどである。第二脳活動データは、脳活動を示すデータであれば何でもよい。なお、第二脳活動データは第二学習データと同じ種類のデータである。第二脳活動データ取得部114は、例えば、脳波計測装置である。第二脳活動データ取得部114は、脳波計測装置、機能的MRI(fMRI: functional Magnetic Resonance Imaging)や、PET(Positron Emission Tomography)などでも良い。
第一確率算出部115は、第一脳活動データから、ユーザにより示された一の意図が、複数の意図識別子のうちの一の意図識別子に対応する意図である第一確率を、意図識別子ごとに算出する。第一確率算出部115は、第一確率を、予め決められた一部の意図識別子のみに対して、意図識別子ごとに算出しても良い。意図識別子ごととは、通常、すべての意図識別子の確率を算出するが、すべての意図識別子の確率を算出しない場合もあり得る。第一確率算出部115は、第一脳活動データが得意とする意図に対応する意図識別子の確率のみを算出しても良い。つまり、第一確率算出部115は、例えば、第一脳活動データが得意とする意図識別子「右手」および「左手」のみの第一確率を算出しても良い。第一確率算出部115は、好ましくは、後述する第一特徴量群取得手段1151、第一確率算出手段1152により、第一確率を算出する。ただし、第一確率算出部115は、第一特徴量群取得手段1151、第一確率算出手段1152以外の手段により、第一確率を算出しても良い。第一確率算出部115は、通常、MPUやメモリ等から実現され得る。第一確率算出部115の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
第一特徴量群取得手段1151は、第一脳活動データから、1以上の特徴量である第一入力特徴量群を取得する。第一特徴量群取得手段1151は、第一脳活動データを信号処理することにより、1以上の特徴量を取得する。第一特徴量群取得手段1151の処理は、例えば、バイアス補正、ベースライン補正、トレンド除去、平均値計算、ハイパスフィルターによる処理、ローパスフィルターによる処理、FFTによる処理、PCAによる処理、ICAによる処理、Phase Locking 値、移動平均の算出、センサー選択、時間選択、リファレンス補正、ダウンサンプリング、アップサンプリング、パワー計算、包絡線計算(ヒルベルト変換)、空間フィルターによる処理、逆問題フィルターによる処理などの信号処理である。また、特徴量とは、平均値、分散など、何でも良い。第一特徴量群取得手段1151は、通常、MPUやメモリ等から実現され得る。第一特徴量群取得手段1151の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
第一確率算出手段1152は、第一意図判別情報格納部111の2以上の第一意図判別情報を用いて、第一特徴量群取得手段1151が取得した第一入力特徴量群が、2以上の第一意図判別情報に含まれる複数の意図識別子のうちの一の意図識別子に対応する第一確率を、2以上の意図識別子ごとに算出する。
意図識別子が2つ(2種類)の場合、例えば、第一確率算出手段1152は、以下のように意図識別子ごとの確率を算出する。つまり、第一確率算出手段1152は、第一学習特徴量群から、2つのクラス(クラス1[第一の意図識別子]、またはクラス2[第二の意図識別子])に分けるための境界面の情報を得る。かかる概念を図19に示す。
次に、第一確率算出手段1152は、境界面からの入力特徴量群の距離を算出する(図20参照)。そして、第一確率算出手段1152は、当該距離をロジスティック関数(シグモイド関数)に入力し、0〜1の値(0以上1以下の値)に変換する。そして、第一確率算出手段1152は、当該変換した値(0〜1)を、第一の意図識別子の確率とする。そして、第一確率算出手段1152は、第二の意図識別子の確率を、「1−第一の意図識別子の確率」により算出する。
また、意図識別子が4つ(4種類)の場合、例えば、第一確率算出手段1152は、以下のように意図識別子ごとの確率を算出する。つまり、上記2つの意図識別子の場合の処理を拡張する。まず、第一の意図識別子と他の意図識別子との2つのクラスが存在すると考え、第一確率算出手段1152は、第一学習特徴量群から、2つのクラス(クラス1[第一の意図識別子]、またはクラス2[第二の意図識別子または第三の意図識別子または第四の意図識別子)に分けるための境界面の情報を得る。次に、第一確率算出手段1152は、境界面からの入力特徴量群の距離を算出する。そして、第一確率算出手段1152は、当該距離をロジスティック関数(シグモイド関数)に入力し、0〜1の値(0以上1以下の値)に変換する。そして、第一確率算出手段1152は、当該変換した値(0〜1)を、第一の意図識別子の確率とする。次に、確率算出手段1181は、第二の意図識別子または第三の意図識別子または第四の意図識別子に対応する第一学習特徴量群(ベクトル)との距離を、「1−第一の意図識別子の確率」により算出する。
そして、次に、第二の意図識別子と他の意図識別子との2つのクラスが存在すると考え、第一確率算出手段1152は、第一学習特徴量群から、2つのクラス(クラス1[第二の意図識別子]、またはクラス2[第一の意図識別子または第三の意図識別子または第四の意図識別子)に分けるための境界面の情報を得る。次に、第一確率算出手段1152は、境界面からの入力特徴量群の距離を算出する。そして、第一確率算出手段1152は、当該距離をロジスティック関数(シグモイド関数)に入力し、0〜1の値(0以上1以下の値)に変換する。そして、第一確率算出手段1152は、当該変換した値(0〜1)を、第二の意図識別子の確率とする。次に、第一確率算出手段1152は、第一の意図識別子または第三の意図識別子または第四の意図識別子に対応する第一学習特徴量群(ベクトル)との距離を、「1−第二の意図識別子の確率」により算出する。
そして、次に、第三の意図識別子と他の意図識別子との2つのクラスが存在すると考え、第一確率算出手段1152は、第一学習特徴量群から、2つのクラス(クラス1[第三の意図識別子]、またはクラス2[第一の意図識別子または第二の意図識別子または第四の意図識別子)に分けるための境界面の情報を得る。次に、第一確率算出手段1152は、境界面からの入力特徴量群の距離を算出する。そして、第一確率算出手段1152は、当該距離をロジスティック関数(シグモイド関数)に入力し、0〜1の値(0以上1以下の値)に変換する。そして、第一確率算出手段1152は、当該変換した値(0〜1)を、第三の意図識別子の確率とする。次に、第一確率算出手段1152は、第一の意図識別子または第二の意図識別子または第四の意図識別子に対応する第一学習特徴量群(ベクトル)との距離を、「1−第三の意図識別子の確率」により算出する。
そして、次に、第四の意図識別子と他の意図識別子との2つのクラスが存在すると考え、第一確率算出手段1152は、第一学習特徴量群から、2つのクラス(クラス1[第四の意図識別子]、またはクラス2[第一の意図識別子または第二の意図識別子または第三の意図識別子)に分けるための境界面の情報を得る。次に、第一確率算出手段1152は、境界面からの入力特徴量群の距離を算出する。そして、第一確率算出手段1152は、当該距離をロジスティック関数(シグモイド関数)に入力し、0〜1の値(0以上1以下の値)に変換する。そして、第一確率算出手段1152は、当該変換した値(0〜1)を、第四の意図識別子の確率とする。次に、第一確率算出手段1152は、第一の意図識別子または第二の意図識別子または第三の意図識別子に対応する第一学習特徴量群(ベクトル)との距離を、「1−第四の意図識別子の確率」により算出する。
そして、第一確率算出手段1152は、上記で取得した確率をマージすることにより、第一の意図識別子から第四の意図識別子の確率を取得する。ここで、マージとは、前記の第一の意図識別子の確率(P1)、前記の第一以外の意図識別子の確率(P234)、前記の第二の意図識別子の確率(P2)、前記の第二以外の意図識別子の確率(P134)、前記の第三の意図識別子の確率(P3)、前記の第三以外の意図識別子の確率(P124)、前記の第四の意図識別子の確率(P4)、前記の第四以外の意図識別子の確率(P123)の8つの確率から求める操作のことを言う。マージした第一の意図識別子の確率はP1×P134×P124×P123、マージした第二の意図識別子の確率はP234×P2×P124×P123、マージした第三の意図識別子の確率はP234×P134×P3×P123、マージした第四の意図識別子はP234×P134×P124×P4のように求めることが好適である。なお、確率を正規化する操作を加えても良い。また、ここで、正規化とは、マージした第一の意図識別子の確率から第四の意図識別子の確率までを足した値でそれぞれの確率を割ることで、全てを足した確率が1になるようにする操作である。
第一確率算出手段1152は、通常、MPUやメモリ等から実現され得る。第一確率算出手段1152の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
第二確率算出部116は、第二脳活動データから、ユーザにより示された一の意図が、複数の意図識別子のうちの一の意図識別子に対応する意図である第二確率を、意図識別子ごとに算出する。
第二確率算出部116は、第二確率を、予め決められた一部の意図識別子のみに対して、意図識別子ごとに算出する。第二確率算出部116は、第二確率を、予め決められた一部の意図識別子のみに対して、意図識別子ごとに算出しても良い。意図識別子ごととは、通常、すべての意図識別子の確率を算出するが、すべての意図識別子の確率を算出しない場合もあり得る。第二確率算出部116は、第二脳活動データが得意とする意図に対応する意図識別子の確率のみを算出しても良い。つまり、第二確率算出部116は、例えば、第二脳活動データが得意とする意図識別子「舌」および「足」のみの第二確率を算出しても良い。第二確率算出部116の第二確率の算出方法は、第一確率算出部115の第一確率の算出方法と同様で良い。
第二確率算出部116は、通常、MPUやメモリ等から実現され得る。第二確率算出部116の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
第二特徴量群取得手段1161は、第二脳活動データから、1以上の特徴量である第二入力特徴量群を取得する。第二特徴量群取得手段1161は、第二脳活動データを信号処理することにより、1以上の特徴量を取得する。第二特徴量群取得手段1161が行う信号処理は、通常、第一特徴量群取得手段1151が行う信号処理と同様である。第二特徴量群取得手段1161は、通常、MPUやメモリ等から実現され得る。第二特徴量群取得手段1161の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
第二確率算出手段1162は、第二意図判別情報格納部112の2以上の第二意図判別情報を用いて、第二特徴量群取得手段1161が取得した第二入力特徴量群が、2以上の意図判別情報に含まれる複数の意図識別子のうちの一の意図識別子に対応する第二確率を、2以上の意図識別子ごとに算出する。第二確率算出手段1162の第二確率の算出処理方法は、通常、第一確率算出手段1152の第一確率の算出処理方法と同様である。第二確率算出手段1162は、通常、MPUやメモリ等から実現され得る。第二確率算出手段1162の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
意図決定部117は、第一確率算出部115が算出した意図識別子ごとの第一確率、および第二確率算出部116が算出した意図識別子ごとの第二確率とを用いて、意図識別子を取得する。意図決定部117は、第一確率および第二確率をどのように用いて、意図識別子を取得するかは問わない。意図決定部117は、第一確率がよい高い意図識別子、第二確率がよい高い意図識別子を取得する方向に判断することは言うまでもない。意図決定部117は、通常、MPUやメモリ等から実現され得る。意図決定部117の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
第三確率算出手段1171は、意図識別子ごとに、対応する第一確率、または対応する第二確率、または対応する第一確率と第二確率とを用いて、意図識別子ごとの最終的な確率を算出する。第三確率算出手段1171は、第一確率と第二確率とで、異なる重みを用いて、意図識別子ごとの最終的な確率を算出することは好適である。
第三確率算出手段1171は、例えば、以下の数式1に基づいて、意図識別子ごとの最終的な確率を算出する。つまり、第三確率算出手段1171は、第一確率算出手段1152が算出した意図識別子ごとの第一確率と、第二確率算出手段1162が算出した意図識別子ごとの第二確率とを、数式1に代入し、意図識別子ごとの最終的な確率を算出する。なお、第三確率算出手段1171は、数式1の情報を予め保持している。また、数式1は、第一確率と第二確率とを統合して、意図識別子ごとの最終的な確率を算出する数式である。
数式1において、第一脳活動データは、近赤外線光計測装置により取得されたヘモグロビン量の時系列のデータである。また、第二脳活動データは、脳波計測装置により取得された脳波の時系列のデータである。
また、数式1において、意図識別子は、左手「Left」、右手「Right」、舌「Tongue」、足「Foot」の4種類である。
また、数式1において、PNIRS Left(数式1において上付きの文字列と下付きの文字列は上限に並んでいるが、上付きの文字列と下付きの文字が上下に整列しているものと、ずれているものとは同一のものである。)は、第一確率算出部115が算出した、意図識別子「Left」である第一確率、PNIRS Rightは第一確率算出部115が算出した意図識別子「Right」である第一確率、PNIRS Tongueは第一確率算出部115が算出した意図識別子「Tongue」である第一確率、PNIRS Footは第一確率算出部115が算出した意図識別子「Foot」である第一確率である。また、PEEG Leftは第二確率算出部116が算出した意図識別子「Left」である第二確率、PEEG Rightは第二確率算出部116が算出した意図識別子「Right」である第二確率、PEEG Tongueは第二確率算出部116が算出した意図識別子「Tongue」である第二確率、PEEG Footは第二確率算出部116が算出した意図識別子「Foot」である第二確率である。また、Ptotal textは最終的な確率である。Ptotal textは、意図識別子TEXT(Left、Right、Tongue、またはFoot)の最終的な確率である。
また、数式1において、wは重みを示す重みパラメータである。「w=1」の場合、第一確率も第二確率も同じ重みで扱うことを示す。「w=2」の場合、第一確率より第二確率の方に重きを置いて扱うことを示す。
また、数式1において、iは、「Left、Right、Tongue、Foot」のいずれかをとり得る。さらに、PNIRS は、近赤外線光計測装置から得られる確率、PEEG は、脳波から得られる確率である。
また、第三確率算出手段1171は、第一脳活動データ取得部113(第一脳活動データと言っても良い)が得意とする意図(例えば、左手「Left」、右手「Right」)のみを使い、かつ第二脳活動データ取得部114(第二脳活動データと言っても良い)が得意とする意図(例えば、左手「Tongue」、右手「Foot」)のみを使って、意図識別子ごとの最終的な確率を取得しても良い。かかる場合、第三確率算出手段1171は、第一脳活動データ取得部113を識別する情報や第二脳活動データ取得部114を識別する情報と、得意とする意図を識別する意図識別子を対応付けて保持している。
第三確率算出手段1171は、通常、MPUやメモリ等から実現され得る。第三確率算出手段1171の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
意図識別子取得手段1172は、意図識別子ごとの最終的な確率から、最も大きい確率に対応する意図識別子を取得する。意図識別子取得手段1172は、通常、一の意図識別子のみを取得する。意図識別子取得手段1172は、通常、MPUやメモリ等から実現され得る。意図識別子取得手段1172の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
出力部118は、意図決定部117が取得した意図識別子を出力する。ここで、出力とは、ディスプレイへの表示、プロジェクターを用いた投影、プリンタへの印字、音出力、外部の装置への送信、記録媒体への蓄積、他の処理装置や他のプログラム等への処理結果の引渡し等を含む概念である。なお、出力とは、ロボット12への意図識別子の送付が好適である。出力部118は、例えば、ロボット12へ意図識別子を送付する通信手段で実現され得る。
動作情報格納部121は、2以上の動作情報を格納し得る。動作情報とは、意図識別子と当該意図識別子に対応する動作を行わせる動作モジュールとの組である。動作モジュールとは、ハードウェアで実現されていても良いし、ソフトウェアで実現されていても良いし、ハードウェアとソフトウェアで実現されていても良い。動作情報格納部121は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。動作情報格納部121に動作情報が記憶される過程は問わない。例えば、記録媒体を介して動作情報が動作情報格納部121で記憶されるようになってもよく、通信回線等を介して送信された動作情報が動作情報格納部121で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された動作情報が動作情報格納部121で記憶されるようになってもよい。
意図識別子受付部122は、脳情報出力装置11から出力された意図識別子を受け付ける。受け付けとは、通信手段を用いた受信や、ソフトウェアによる情報(意図識別子)の引き渡し等である。
実行部123は、意図識別子受付部122が受け付けた意図識別子に対応する動作モジュールを実行する。動作モジュールが実現する動作内容は何でも良い。実行部123は、通常、MPUやメモリ等から実現され得る。実行部123の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
次に、ロボットシステム1の動作について説明する。まず、脳情報出力装置11の動作について説明する。図3は、脳情報出力装置11が学習データを取得する動作を説明するフローチャートである。学習データとは、ここでは、第一意図判別情報または第二意図判別情報である。なお、図3のフローチャートにおいて、学習データの種類は、3以上でも対応可能なフローを示している。
(ステップS301)脳情報出力装置11の図示しない出力手段は、ユーザに対して、一の意図に対応する行為を行うように指示を出力する。出力手段が出力する指示の情報は、出力手段が予め保持している、とする。指示の情報とは、例えば、「右手を10秒間、10Hzで、握ったり、開いたりしてください。」「10秒間、舌を出し入れしてください。」「右手を握ったり、開いたりしていることを想像してください。」など、ユーザの脳活動に影響を与える動作をユーザにおこさせるための指示の情報である。
(ステップS302)例えば、第一意図判別情報蓄積部103等の意図判別情報蓄積部は、ステップS301で出力された指示に対応する意図識別子を取得する。意図判別情報蓄積部は、ステップS301で出力された指示に対応する意図識別子を、予め保持している、とする。
(ステップS303)第一学習データ取得部101、第二学習データ取得部104等の学習データ取得部は、それぞれに対応する学習データを取得する。ここで、2以上のすべての学習データが取得される。
(ステップS304)脳情報出力装置11は、カウンタiに1を設定する。
(ステップS305)脳情報出力装置11は、ステップS303で取得された学習データのうち、i番目の学習データが存在するか否かを判断する。i番目の学習データが存在すればステップS306に行き、i番目の学習データが存在しなければ処理を終了する。
(ステップS306)i番目の学習データに対応する学習特徴量群取得部(例えば、第一学習特徴量群取得部102や、第二学習特徴量群取得部105など)は、i番目の学習データから、i番目の学習特徴量群を取得する。
(ステップS307)i番目の学習データに対応する意図判別情報蓄積部(例えば、第一意図判別情報蓄積部103や、第二意図判別情報蓄積部106など)は、i番目の学習特徴量群と、ステップS302で取得した意図識別子とを対応付けて、i番目の意図判別情報を構成する。
(ステップS308)i番目の学習データに対応する意図判別情報蓄積部は、ステップS307で構成されたi番目の意図判別情報を、対応する意図判別情報格納部(例えば、第一意図判別情報格納部111、第二意図判別情報格納部112など)に蓄積する。
(ステップS309)脳情報出力装置11は、カウンタiを1、インクリメントする。ステップS305に戻る。
次に、脳情報出力装置11が、2以上の意図判別情報を用いて、意図識別子を取得する動作を、図4のフローチャートを用いて説明する。
(ステップS401)第一脳活動データ取得部113、または第二脳活動データ取得部114などの脳活動データ取得部は、脳活動データを取得したか否かを判断する。脳活動データを取得すればステップS402に行き、脳活動データを取得しなければステップS401に戻る。
(ステップS402)脳活動データ取得部は、ステップS401で取得した脳活動データを、少なくとも一時、記録媒体に蓄積する。
(ステップS403)脳情報出力装置11は、すべての種類の脳活動データを取得できたか否かを判断する。すべての種類の脳活動データを取得できていればステップS404に行き、取得できていなければステップS401に戻る。なお、脳情報出力装置11は、取得するべき、すべての種類の脳活動データを識別する情報(例えば、「NIRS」「EEG」など)を保持している。
(ステップS404)脳情報出力装置11は、カウンタiに1を代入する。
(ステップS405)第一確率算出部115、第二確率算出部116などの確率算出部は、ステップS402で蓄積された脳活動データのうち、i番目の種類の脳活動データが存在するか否かを判断する。i番目の種類の脳活動データが存在すればステップS406に行き、i番目の種類の脳活動データが存在しなければステップS409に行く。
(ステップS406)第一特徴量群取得手段1151、または第二特徴量群取得手段1161などの特徴量群取得手段は、i番目の種類の脳活動データから、i番目の特徴量群を取得する。
(ステップS407)第一確率算出手段1152、第二確率算出手段1162などの確率算出手段は、i番目の意図判別情報(対応する意図判別情報格納部に存在する)を用いて、意図識別子ごとのi番目の確率を算出する。
(ステップS408)脳情報出力装置11は、カウンタiを1、インクリメントする。ステップS405に戻る。
(ステップS409)第三確率算出手段1171は、意図識別子ごとに、第一確率から第(i−1)確率を用いて、最終的な確率を算出する。かかる算出式は、例えば、数式1である。
(ステップS410)意図識別子取得手段1172は、ステップS409で算出した意図識別子ごとの最終的な確率から、最も大きい確率に対応する意図識別子を取得する。
(ステップS411)出力部118は、ステップS410で取得された意図識別子を出力する。処理を終了する。
次に、ロボット12の動作について、図5のフローチャートを用いて説明する。
(ステップS501)意図識別子受付部122は、脳情報出力装置11から出力された意図識別子を受け付けたか否かを判断する。意図識別子を受け付ければステップS502に行き、意図識別子を受け付けなければステップS501に戻る。
(ステップS502)実行部123は、ステップS501で受け付けられた意図識別子に対応する動作モジュールを、動作情報格納部121から読み出す。
(ステップS503)実行部123は、ステップS502で読み出した動作モジュールを実行する。ステップS501に戻る。
以上の処理により、ユーザが意図した行為(思考を含む)に対応する動作が、ロボット12により行われる。
なお、図5のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
以下、本実施の形態における脳情報出力装置11の概念を説明する。脳情報出力装置11の概念図は図6である。
脳情報出力装置11において、複数の脳活動計測装置(S11−1、S11−2)を使って、ユーザ(S12)の脳活動をリアルタイムに測定し、脳活動データ(S13−1、S13−2)を得る。そして、脳情報出力装置11において、かかる脳活動データ(S13−1、S13−2)を意図判別アルゴリズム(S14−1、S14−2)に入れて、脳活動計測装置S11−1、S11−2から推定されるユーザの意図(S15−1、S15−2)とそれぞれの確信度合を示す確率(S16−1、S16−2)を計算する。その確率S16−1とS16−2を統計学で言うベイズの定理に基づいて、意図統合装置(S17)により結合し、ユーザの統合意図(S18)とその確率(S19)を得ることで、複数の脳活動計測装置を使った脳・機械インタフェースの判別性能向上が図られる。
なお、図6において、脳活動計測装置(S11−1、S11−2)は、例えば、第一脳活動データ取得部113、第二脳活動データ取得部114に該当する。そして、脳活動データ(S13−1、S13−2)は、例えば、第一脳活動データ、第二脳活動データに該当する。また、意図判別アルゴリズム(S14−1、S14−2)は、例えば、第一確率算出部115、第二確率算出部116に該当する。また、意図(S15−1、S15−2)は、意図識別子に該当する。また、確率S16−1とS16−2は、第一確率、第二確率に該当する。また、意図統合装置(S17)は、意図決定部117に該当する。さらに、統合意図(S18)は、意図決定部117が取得した意図識別子、その確率(S19)は、最終的な確率に該当する。
以下、本実施の形態におけるロボットシステム1の具体的な動作について説明する。ロボットシステム1の概念図は図1である。この具体的な動作は、一の実験に基づいている。
今、脳情報出力装置11は、いわゆる脳・機械インタフェース(左手・右手の実運動)として機能する電子機器である。そして、脳情報出力装置11から出力される意図識別子は、ロボット12に送付され、ロボット12は意図識別子に対応した動作を行う、とする。
また、第一学習データ取得部101、および第一脳活動データ取得部113は、近赤外線光計測装置である。そして、第一学習データおよび第一脳活動データは、NIRSデータである。NIRSデータとは、頭部のヘモグロビン量を示すヘモグロビン情報の集合である。
また、第二学習データ取得部104、および第二脳活動データ取得部114は、脳波計測装置である。
そして、図7は、ユーザが頭部にかぶる測定器具である。図7において、第一脳活動データ取得部113と、第二脳活動データ取得部114のハードウェア構成が示されている。また、第一学習データ取得部101、および第二学習データ取得部104のハードウェア構も、図7の測定器具である。なお、第一脳活動データ取得部113は、例えば、780nm、805nm、830nmの近赤外光を発光させて頭部に当てた場合の電圧と、発光しない場合の電圧を取得し、当該取得した電圧を、予め決められた式(ヘモグロビン量を算出する式)に代入し、ヘモグロビン量であるヘモグロビン情報を取得する。また、第一脳活動データ取得部113は、例えば、48チャネル(図7において、48の測定点が存在する)から、ヘモグロビン情報を取得する。なお、第一脳活動データ取得部113は、予め決められた式の情報を保持している。そして、例えば、図7に示す測定器具により、2種類の異なる脳活動データが取得される。
今、第一意図判別情報格納部111に、図8に示す第一意図判別情報が格納されている。この第一意図判別情報は、近赤外線光計測装置である第一学習データ取得部101により取得された第一学習データから、第一学習特徴量群取得部102が第一学習特徴量群を取得し、当該第一学習特徴量群と意図識別子を有する第一意図判別情報を、第一意図判別情報蓄積部103が蓄積したデータである。図8において、意図識別子ごとに、2つの特徴量(第一特徴量、第二特徴量)が格納されている。なお、図8では、第一学習特徴量群を構成する特徴量は2つであったが、3以上であったも良いことは言うまでもない。また、第一特徴量、および第二特徴量は、具体的には、例えば、上述した平均値、分散、Phase Locking 値などである。
また、第二意図判別情報格納部112に、図9に示す第二意図判別情報が格納されている。この第二意図判別情報は、脳波計測装置である第二学習データ取得部104により取得された第二学習データから、第二学習特徴量群取得部105が第二学習特徴量群を取得し、当該第二学習特徴量群と意図識別子を有する第二意図判別情報を、第二意図判別情報蓄積部106が蓄積したデータである。図9において、意図識別子ごとに、2つの特徴量(第一特徴量、第二特徴量)が格納されている。なお、図9では、第二学習特徴量群を構成する特徴量は2つであったが、3以上であったも良いことは言うまでもない。また、第一特徴量、および第二特徴量は、具体的には、例えば、上述した平均値、分散、Phase Locking 値などである。
かかる状況において、ユーザは、例えば、「右手」を動かしている動作を想像する、とする。かかる場合、意図は「右手を動かすように想像すること」であり、意図識別子は「右手」である。
そして、第一脳活動データ取得部113は、図10に示す第一脳活動データ(NIRSデータ)を取得した、とする。図10は、時間(t)の経過ごとの、取得されたヘモグロビン量を示す。ヘモグロビン情報は、ここでは、例えば、8msecごとに取得される、とする。
また、第二脳活動データ取得部114は、図11に示す第二脳活動データ(脳波データ)を取得した、とする。図11は、時間(t)の経過ごとの、取得された脳波情報を示す。図11において、脳波情報は2msecごとに取得される、とする。なお、図10、図11の情報を、グラフにした図が図12である。
次に、第一特徴量群取得手段1151は、図10に示す第一脳活動データから、図13に示す第一特徴量群を取得する。
そして、次に、第一確率算出手段1152は、図8の意図判別情報を用いて、意図識別子ごとの第一確率を算出する。かかる第一確率の例を図14に示す。
次に、第二特徴量群取得手段1161は、図11に示す第二脳活動データから、図15に示す第二特徴量群を取得する。
そして、次に、第二確率算出手段1162は、図9の意図判別情報を用いて、意図識別子ごとの第二確率を算出する。かかる第二確率の例を図16に示す。
次に、第三確率算出手段1171は、図14の第一確率、図16の第二確率、および「w=1」を、数式1に代入し、意図識別子ごとに、最終的な確率(例えば、Ptotal Right=0.81、Ptotal Left=0.05、Ptotal Tongue=0.11、Ptotal Foot=0.03)を算出する。
次に、意図識別子取得手段1172は、算出した意図識別子ごとの最終的な確率から、最も大きい確率(例えば、Ptotal Right「「0.81」)に対応する意図識別子「右手」を取得する。
そして、出力部118は、取得された意図識別子「右手」を、ロボット12に送付する。
次に、ロボット12の意図識別子受付部122は、脳情報出力装置11から出力された意図識別子「右手」を受け付ける。
そして、実行部123は、受け付けられた意図識別子「右手」に対応する動作モジュール(例えば、ロボット12の右手を動かすモジュール)を、動作情報格納部121から読み出す。
次に、実行部123は、読み出した動作モジュールを実行する。そして、ユーザが想像したように、ロボット12の右手が動くこととなる。
なお、上記に実験により測定された、脳情報出力装置11の効果について説明する。上述したように、ユーザは、左手・右手・舌・足のうちの一つを任意にイメージし、脳情報出力装置11は、その脳活動からユーザが何をイメージしたかを、意図判別アルゴリズムを用いて推定する。
脳波計測装置だけを使った場合の判別率は63.1±5.4%(判別できた割合が63.1%、標準偏差が5.4%)、近赤外線光計測装置だけを使った場合の判別率は47.6±7.0%であった。一方、脳情報出力装置11により、脳波計測装置と近赤外線光計測装置の両方を用いて、脳波とNIRSデータを統合した場合の判別率(w=1とした)は68.1±3.7%となり、性能の向上と、その性能のばらつきである標準偏差の低下が観察された。そして、脳情報出力装置11は、より安定した脳・機械インタフェースであることが証明された。
以上、本実施の形態によれば、2以上の種類の脳活動データを用いて、精度高く、意図を検出できる。
なお、本実施の形態によれば、主として、2つの脳活動データを用いて、意図を検出する方法について説明した。しかし、3以上の脳活動データを用いて、意図を検出しても良い。3以上の脳活動データとは、NIRS(近赤外分光分析)、fMRI(機能的MRI)、MEG(脳磁計)、EEG(脳波計)、PETにより取得されるデータのうちの3以上の種類のデータである。
また、本実施の形態において、脳情報出力装置11は、第一学習データ取得部101、第一学習特徴量群取得部102、第一意図判別情報蓄積部103、第二学習データ取得部104、第二学習特徴量群取得部105、第二意図判別情報蓄積部106を有しなくても良い。かかる場合、脳情報出力装置11は、第一意図判別情報格納部111、第二意図判別情報格納部112、第一脳活動データ取得部113、第二脳活動データ取得部114、第一確率算出部115、第二確率算出部116、意図決定部117、出力部118を具備する。そして、第一意図判別情報および第二意図判別情報を取得する処理は、他の装置(例えば、学習装置という。)によりなされる。学習装置は、第一学習データ取得部101、第一学習特徴量群取得部102、第一意図判別情報蓄積部103、第二学習データ取得部104、第二学習特徴量群取得部105、第二意図判別情報蓄積部106を具備する。
さらに、本実施の形態における処理は、ソフトウェアで実現しても良い。そして、このソフトウェアをソフトウェアダウンロード等により配布しても良い。また、このソフトウェアをCD−ROMなどの記録媒体に記録して流布しても良い。なお、このことは、本明細書における他の実施の形態においても該当する。なお、本実施の形態における情報処理装置を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、コンピュータを、ユーザが一の意図を示した際の当該ユーザの脳活動の第一のデータである第一脳活動データを、前記ユーザから取得する第一脳活動データ取得部と、前記ユーザが前記一の意図を示した際の当該ユーザの脳活動の第二のデータであり、前記第一脳活動データとは異なる種類のデータである第二脳活動データを、前記ユーザから取得する第二脳活動データ取得部と、前記第一脳活動データから、前記示された一の意図が、複数の意図識別子のうちの一の意図識別子に対応する意図である第一確率を、意図識別子ごとに算出する第一確率算出部と、前記第二脳活動データから、前記示された一の意図が、複数の意図識別子のうちの一の意図識別子に対応する意図である第二確率を、意図識別子ごとに算出する第二確率算出部と、前記第一確率算出部が算出した意図識別子ごとの第一確率、および前記第二確率算出部が算出した意図識別子ごとの第二確率とを用いて、意図識別子を取得する意図決定部と、前記意図決定部が取得した意図識別子を出力する出力部として機能させるためのプログラム、である。
また、記憶媒体に、ユーザの意図を識別する情報である意図識別子と、当該意図識別子で識別される意図の元にユーザが一連の行為を行った際に当該ユーザの脳から取得されたデータであり、前記第一脳活動データと同一種類のデータである第一学習データから抽出された1以上の特徴量である第一学習特徴量群とを対に有する第一意図判別情報を、2以上格納しており、記憶媒体に、ユーザの意図を識別する情報である意図識別子と、当該意図識別子で識別される意図の元にユーザが一連の行為を行った際に当該ユーザの脳から取得されたデータであり、前記第二脳活動データと同一種類のデータである第二学習データから抽出された1以上の特徴量である第二学習特徴量群とを対に有する第二意図判別情報を、2以上格納しており、上記プログラムにおいて、前記第一確率算出部は、前記第一脳活動データから、1以上の特徴量である第一入力特徴量群を取得する第一特徴量群取得手段と、前記第一意図判別情報格納部の2以上の第一意図判別情報を用いて、前記第一特徴量群取得手段が取得した第一入力特徴量群が、前記2以上の第一意図判別情報に含まれる複数の意図識別子のうちの一の意図識別子に対応する第一確率を、前記2以上の意図識別子ごとに算出する第一確率算出手段とを具備し、前記第二確率算出部は、前記第二脳活動データから、1以上の特徴量である第二入力特徴量群を取得する第二特徴量群取得手段と、前記第二意図判別情報格納部の2以上の第二意図判別情報を用いて、前記第二特徴量群取得手段が取得した第二入力特徴量群が、前記2以上の意図判別情報に含まれる複数の意図識別子のうちの一の意図識別子に対応する第二確率を、前記2以上の意図識別子ごとに算出する第二確率算出手段とを具備するものとして、コンピュータを機能させるためのプログラムであることは好適である。
また、上記プログラムにおいて、前記意図決定部は、前記意図識別子ごとに、対応する第一確率、または対応する第二確率、または対応する第一確率と第二確率とを用いて、前記意図識別子ごとの最終的な確率を算出する第三確率算出手段と、前記意図識別子ごとの最終的な確率から、最も大きい確率に対応する意図識別子を取得する意図識別子取得手段とを具備するものとして、コンピュータを機能させるためのプログラムであることは好適である。
また、上記プログラムにおいて、前記第三確率算出手段は、前記第一確率と前記第二確率とで、異なる重み(例えば、上述した数式1のw)を用いて、前記意図識別子ごとの最終的な確率を算出することは好適である。
また、上記プログラムにおいて、前記第一確率算出部は、前記第一確率を、予め決められた一部の意図識別子のみに対して、意図識別子ごとに算出し、前記第二確率算出部は、前記第二確率を、予め決められた一部の意図識別子のみに対して、意図識別子ごとに算出することは好適である。かかることにより、各計測装置が得意とする意図のみを使うことになり、意図の出力の精度が高まる。
また、図17は、本明細書で述べたプログラムを実行して、上述した実施の形態の脳情報出力装置等を実現するコンピュータの外観を示す。上述の実施の形態は、コンピュータハードウェア及びその上で実行されるコンピュータプログラムで実現され得る。図17は、このコンピュータシステム340の概観図であり、図18は、コンピュータシステム340のブロック図である。
図17において、コンピュータシステム340は、FDドライブ、CD−ROMドライブを含むコンピュータ341と、キーボード342と、マウス343と、モニタ344とを含む。
図18において、コンピュータ341は、FDドライブ3411、CD−ROMドライブ3412に加えて、MPU3413と、CD−ROMドライブ3412及びFDドライブ3411に接続されたバス3414と、ブートアッププログラム等のプログラムを記憶するためのROM3415とに接続され、アプリケーションプログラムの命令を一時的に記憶するとともに一時記憶空間を提供するためのRAM3416と、アプリケーションプログラム、システムプログラム、及びデータを記憶するためのハードディスク3417とを含む。ここでは、図示しないが、コンピュータ341は、さらに、LANへの接続を提供するネットワークカードを含んでも良い。
コンピュータシステム340に、上述した実施の形態の脳情報出力装置等の機能を実行させるプログラムは、CD−ROM3501、またはFD3502に記憶されて、CD−ROMドライブ3412またはFDドライブ3411に挿入され、さらにハードディスク3417に転送されても良い。これに代えて、プログラムは、図示しないネットワークを介してコンピュータ341に送信され、ハードディスク3417に記憶されても良い。プログラムは実行の際にRAM3416にロードされる。プログラムは、CD−ROM3501、FD3502またはネットワークから直接、ロードされても良い。
プログラムは、コンピュータ341に、上述した実施の形態の脳情報出力装置等の機能を実行させるオペレーティングシステム(OS)、またはサードパーティープログラム等は、必ずしも含まなくても良い。プログラムは、制御された態様で適切な機能(モジュール)を呼び出し、所望の結果が得られるようにする命令の部分のみを含んでいれば良い。コンピュータシステム340がどのように動作するかは周知であり、詳細な説明は省略する。
なお、上記プログラムにおいて、ハードウェアによって行われる処理は含まれない。
また、上記プログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。
また、上記各実施の形態において、各処理(各機能)は、単一の装置(システム)によって集中処理されることによって実現されてもよく、あるいは、複数の装置によって分散処理されることによって実現されてもよい。
本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
以上のように、本発明にかかる脳情報出力装置は、ユーザの意図を精度高く取得できる、という効果を有し、脳・機械インタフェース等として有用である。
1 ロボットシステム
11 脳情報出力装置
12 ロボット
101 第一学習データ取得部
102 第一学習特徴量群取得部
103 第一意図判別情報蓄積部
104 第二学習データ取得部
105 第二学習特徴量群取得部
106 第二意図判別情報蓄積部
111 第一意図判別情報格納部
112 第二意図判別情報格納部
113 第一脳活動データ取得部
114 第二脳活動データ取得部
115 第一確率算出部
116 第二確率算出部
117 意図決定部
118 出力部
121 動作情報格納部
122 意図識別子受付部
123 実行部
1151 第一特徴量群取得手段
1152 第一確率算出手段
1161 第二特徴量群取得手段
1162 第二確率算出手段
1171 第三確率算出手段
1172 意図識別子取得手段
1181 確率算出手段

Claims (8)

  1. ユーザが一の意図を示した際の当該ユーザの脳活動の第一のデータである第一脳活動データを、前記ユーザから取得する第一脳活動データ取得部と、
    前記ユーザが前記一の意図を示した際の当該ユーザの脳活動の第二のデータであり、前記第一脳活動データとは異なる種類のデータである第二脳活動データを、前記ユーザから取得する第二脳活動データ取得部と、
    前記第一脳活動データから、前記示された一の意図が、複数の意図識別子のうちの一の意図識別子に対応する意図である第一確率を、意図識別子ごとに算出する第一確率算出部と、
    前記第二脳活動データから、前記示された一の意図が、複数の意図識別子のうちの一の意図識別子に対応する意図である第二確率を、意図識別子ごとに算出する第二確率算出部と、
    前記第一確率算出部が算出した意図識別子ごとの第一確率、および前記第二確率算出部が算出した意図識別子ごとの第二確率とを用いて、意図識別子を取得する意図決定部と、
    前記意図決定部が取得した意図識別子を出力する出力部とを具備する脳情報出力装置。
  2. ユーザの意図を識別する情報である意図識別子と、当該意図識別子で識別される意図の元にユーザが一連の行為を行った際に当該ユーザの脳から取得されたデータであり、前記第一脳活動データと同一種類のデータである第一学習データから抽出された1以上の特徴量である第一学習特徴量群とを対に有する第一意図判別情報を、2以上格納し得る第一意図判別情報格納部と、
    ユーザの意図を識別する情報である意図識別子と、当該意図識別子で識別される意図の元にユーザが一連の行為を行った際に当該ユーザの脳から取得されたデータであり、前記第二脳活動データと同一種類のデータである第二学習データから抽出された1以上の特徴量である第二学習特徴量群とを対に有する第二意図判別情報を、2以上格納し得る第二意図判別情報格納部とをさらに具備し、
    前記第一確率算出部は、
    前記第一脳活動データから、1以上の特徴量である第一入力特徴量群を取得する第一特徴量群取得手段と、
    前記第一意図判別情報格納部の2以上の第一意図判別情報を用いて、前記第一特徴量群取得手段が取得した第一入力特徴量群が、前記2以上の第一意図判別情報に含まれる複数の意図識別子のうちの一の意図識別子に対応する第一確率を、前記2以上の意図識別子ごとに算出する第一確率算出手段とを具備し、
    前記第二確率算出部は、
    前記第二脳活動データから、1以上の特徴量である第二入力特徴量群を取得する第二特徴量群取得手段と、
    前記第二意図判別情報格納部の2以上の第二意図判別情報を用いて、前記第二特徴量群取得手段が取得した第二入力特徴量群が、前記2以上の意図判別情報に含まれる複数の意図識別子のうちの一の意図識別子に対応する第二確率を、前記2以上の意図識別子ごとに算出する第二確率算出手段とを具備する請求項1記載の脳情報出力装置。
  3. 前記意図決定部は、
    前記意図識別子ごとに、対応する第一確率、または対応する第二確率、または対応する第一確率と第二確率とを用いて、前記意図識別子ごとの最終的な確率を算出する第三確率算出手段と、
    前記意図識別子ごとの最終的な確率から、最も大きい確率に対応する意図識別子を取得する意図識別子取得手段とを具備する請求項1または請求項2記載の脳情報出力装置。
  4. 前記第三確率算出手段は、
    前記第一確率と前記第二確率とで、異なる重みを用いて、前記意図識別子ごとの最終的な確率を算出する請求項3記載の脳情報出力装置。
  5. 前記第一確率算出部は、
    前記第一確率を、予め決められた一部の意図識別子のみに対して、意図識別子ごとに算出し、
    前記第二確率算出部は、
    前記第二確率を、予め決められた一部の意図識別子のみに対して、意図識別子ごとに算出する請求項1記載の脳情報出力装置。
  6. 前記第一脳活動データ取得部は、近赤外線光計測装置であり、
    前記第二脳活動データ取得部は、脳波計測装置である請求項1から請求項5いずれか記載の脳情報出力装置。
  7. 意図識別子と当該意図識別子に対応する動作を行わせる動作モジュールとの組である動作情報を2以上格納し得る動作情報格納部と、
    請求項1から請求項6いずれか記載の脳情報出力装置から出力された意図識別子を受け付ける意図識別子受付部と、
    前記意図識別子受付部が受け付けた意図識別子に対応する動作モジュールを実行する実行部とを具備するロボット。
  8. ユーザが一の意図を示した際の当該ユーザの脳活動の第一のデータである第一脳活動データを、前記ユーザから取得する第一脳活動データ取得ステップと、
    前記ユーザが前記一の意図を示した際の当該ユーザの脳活動の第二のデータであり、前記第一脳活動データとは異なる種類のデータである第二脳活動データを、前記ユーザから取得する第二脳活動データ取得ステップと、
    前記第一脳活動データから、前記示された一の意図が、複数の意図識別子のうちの一の意図識別子に対応する意図である第一確率を、意図識別子ごとに算出する第一確率算出ステップと、
    前記第二脳活動データから、前記示された一の意図が、複数の意図識別子のうちの一の意図識別子に対応する意図である第二確率を、意図識別子ごとに算出する第二確率算出ステップと、
    前記第一確率算出ステップで算出された意図識別子ごとの第一確率、および前記第二確率算出ステップで算出された意図識別子ごとの第二確率とを用いて、意図識別子を取得する意図決定ステップと、
    前記意図決定ステップで取得された意図識別子を出力する出力ステップとを具備する脳情報出力方法。
JP2009041336A 2009-02-24 2009-02-24 脳情報出力装置、ロボット、および脳情報出力方法 Expired - Fee Related JP5256517B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009041336A JP5256517B2 (ja) 2009-02-24 2009-02-24 脳情報出力装置、ロボット、および脳情報出力方法
PCT/JP2010/052629 WO2010098282A1 (ja) 2009-02-24 2010-02-22 脳情報出力装置、ロボット、および脳情報出力方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009041336A JP5256517B2 (ja) 2009-02-24 2009-02-24 脳情報出力装置、ロボット、および脳情報出力方法

Publications (2)

Publication Number Publication Date
JP2010198232A JP2010198232A (ja) 2010-09-09
JP5256517B2 true JP5256517B2 (ja) 2013-08-07

Family

ID=42665489

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009041336A Expired - Fee Related JP5256517B2 (ja) 2009-02-24 2009-02-24 脳情報出力装置、ロボット、および脳情報出力方法

Country Status (2)

Country Link
JP (1) JP5256517B2 (ja)
WO (1) WO2010098282A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6433616B2 (ja) * 2016-02-22 2018-12-05 株式会社日立製作所 心的活動状態評価支援装置、心的活動状態評価支援システム、及び心的活動状態評価支援方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004180817A (ja) * 2002-12-02 2004-07-02 National Institute Of Advanced Industrial & Technology 生体信号を利用した作業支援マニピュレータシステム
JP2006072606A (ja) * 2004-09-01 2006-03-16 National Institute Of Information & Communication Technology インターフェイス装置、インターフェイス方法及びその装置を用いた制御訓練装置
JP2006289565A (ja) * 2005-04-12 2006-10-26 Japan Science & Technology Agency ロボット操作装置及びロボット

Also Published As

Publication number Publication date
JP2010198232A (ja) 2010-09-09
WO2010098282A1 (ja) 2010-09-02

Similar Documents

Publication Publication Date Title
JP5531237B2 (ja) 脳情報出力装置、ロボット、および脳情報出力方法
Tiwari et al. Brain computer interface: A comprehensive survey
US11006874B2 (en) Real-time stress determination of an individual
US10039501B2 (en) Computer-aided diagnosis (CAD) apparatus and method using consecutive medical images
KR101293446B1 (ko) 움직임을 상상하는 뇌파 분류 방법 및 그 장치
Becq et al. Classification of epileptic motor manifestations using inertial and magnetic sensors
Elgendi et al. Arm movement speed assessment via a Kinect camera: a preliminary study in healthy subjects
Geman et al. Automatic assessing of tremor severity using nonlinear dynamics, artificial neural networks and neuro-fuzzy classifier
Patel et al. Automated diagnosis of COVID stages from lung CT images using statistical features in 2-dimensional flexible analytic wavelet transform
Yue et al. Exploring BCI control in smart environments: intention recognition via EEG representation enhancement learning
JP5365956B2 (ja) 脳情報出力装置、ロボット、および脳情報出力方法
JP5256517B2 (ja) 脳情報出力装置、ロボット、および脳情報出力方法
KR102439639B1 (ko) 주요 우울증에 대한 정보 제공 방법 및 이를 이용한 주요 우울증에 대한 정보 제공용 디바이스
KR101345216B1 (ko) 다수 피험자의 뇌전도 분석 방법 및 장치
JP2010198237A (ja) 意図判別情報取得装置、脳情報出力装置、ロボット、および意図判別情報取得方法
Ghosh et al. Multi-modal detection of fetal movements using a wearable monitor
Delimayanti et al. Clustering and Classification of Breathing Activities by Depth Image from Kinect.
JP7507025B2 (ja) 診断支援システム、診断支援方法、及び診断支援プログラム
US20240215865A1 (en) Determining the quality of setting up a headset for cranial accelerometry
Sanamdikar et al. Classification of ECG Signal for Cardiac Arrhythmia Detection Using GAN Method
Poli et al. Identification issues associated with the use of wearable accelerometers in lifelogging
CN116779135A (zh) 用于计算血液储备分数的方法、装置、计算设备及介质
Dey et al. Cad patient classification using mimic-ii
JP2010198236A (ja) 脳情報出力装置、ロボット、および脳情報出力方法
Pawar et al. Recognition of unvoiced human utterances using brain-computer interface

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20120221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130326

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130402

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160502

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5256517

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees